Kubernetes 로그 수집 파이프라인: Fluent Bit로 멀티라인/파서/필터 운영하기

Kubernetes 로그 수집 파이프라인: Fluent Bit로 멀티라인/파서/필터 운영하기

로그가 쌓인다고 관측이 되는 건 아닙니다. 파싱/필터링/PII 마스킹이 같이 필요합니다.
Fluent Bit를 기준으로 K8s 로그 수집 운영 포인트를 정리합니다.

이 글의 목표는 '개념 정리'보다, "어떤 기준으로 결정할지"와 "어떻게 운영에서 사고를 줄일지"를 남기는 것입니다.

왜 이게 어려운가(운영 관점)

운영 이슈는 대부분 한 설정이 아니라 '정렬되지 않은 설정 조합'에서 나옵니다(타임아웃, 종료, 리소스, 재시도).

따라서 증상 -> 원인 -> 검증 루틴을 팀 표준으로 만들면, 장애 대응 시간이 크게 줄어듭니다.

실전 내용(바로 적용)

로그가 쌓인다고 관측이 되는 건 아닙니다. 파싱/필터링/PII 마스킹이 같이 필요합니다.
Fluent Bit를 기준으로 K8s 로그 수집 운영 포인트를 정리합니다.

핵심 요약(결론부터)

• 기준(정책)을 먼저 정하고, 구현/도구는 그 다음에 선택한다
• 실패/예외/회귀를 운영 체크리스트로 막는다
• 공식 문서를 최종 근거로 삼고, 팀 문서로 재가공한다

운영 포인트

• 멀티라인(Java stacktrace) 처리
• 파서 오류/드롭 모니터링
• 민감정보 마스킹/필터링

자주 하는 실수

stdout 로그 포맷이 제각각이라 파싱이 깨짐
멀티라인 설정 없이 스택트레이스가 조각남

체크리스트

로그 포맷(JSON) 표준화
멀티라인 룰 테스트
드롭/에러 카운터 알람

운영 체크리스트(바로 적용)

• 로그 포맷을 팀 표준(JSON)으로
• 멀티라인 규칙을 테스트로 고정
• 민감정보 마스킹을 파이프라인에 포함

FAQ

Q. 왜 멀티라인이 그렇게 중요하죠?
A. 스택트레이스가 분리되면 장애 분석이 사실상 불가능해집니다. 멀티라인은 '편의'가 아니라 '기능'입니다.

마무리: 다음 액션

• 팀의 기본값(정책)을 1페이지로 문서화한다
• 대표 시나리오 1개를 코드/설정 예시로 고정한다
• 배포 전후 지표(p95/p99, 오류율)를 비교해 효과를 확인한다

자주 하는 실수(사고 패턴)

• 증상만 보고 timeout/limit을 크게 늘려 원인을 숨긴다
• 프로브/스케일/리소스를 따로따로 튜닝해 전체 QoS가 흔들린다
• 변경 후 효과를 지표로 검증하지 않아 회귀가 반복된다
• 운영 자동화(CI/CD)에서 권한/보안 경계를 느슨하게 둔다

적용 순서(추천)

• 1) 지표로 증상을 고립한다(오류율/지연/재시도율/리소스)
• 2) 타임아웃을 레이어별로 정렬한다(client > proxy > server > db)
• 3) 스케일(파드/노드)과 워밍업(readiness)을 같이 설계한다
• 4) 변경은 작게/단계적으로 하고, 알람/롤백을 같이 준비한다
• 5) 운영 기준을 문서로 고정하고, 체크리스트로 반복 가능하게 만든다

검증/회귀 방지

• 재현: 스파이크/롤링업데이트/대용량 업다운로드 같은 시나리오를 고정
• 로그: upstream time, 종료 이벤트, 재시도 횟수 같은 필드를 고정
• 알람: OOMKilled, throttling, 5xx burst, p99 spike를 조기 경보로 운영

팀 합의 템플릿(복붙용)

# 장애 대응 템플릿(복붙용)
증상: (오류율/지연/시점/영향 범위)
가설: (타임아웃/리소스/종료/프록시/코드)
검증: (재현/로그/지표 링크)
조치: (설정 변경/배포/롤백)
재발 방지: (알람/체크리스트/문서)

FAQ

Q. 왜 멀티라인이 그렇게 중요하죠?
A. 스택트레이스가 분리되면 장애 분석이 사실상 불가능해집니다. 멀티라인은 '편의'가 아니라 '기능'입니다.

참고/출처

버전/환경에 따라 동작이 달라질 수 있으니, 최종 기준은 공식 문서를 확인합니다.

• Fluent Bit Documentation