본문 바로가기

분류 전체보기92

[EFK] 쿠버네티스 환경 내 Fluent-Bit 사이드카로 엘라스틱 서치 로깅 이전 글에서는 로그 수집기의 종류와 아키텍처를 알아보았다.   [ELK/EFK] 로그 수집 - Filebeat / Logstash / Fluentd / Fluent-bit최근에는 많은 기업들이 Elastic 재단의 ELK stack(또는 EFK stack)을 활용하여 로그를 수집하고 이를 시각화하여 운영 상 발생하는 이슈를 잡아내고 비즈니스 의사결정에 참고를 한다. 저번의 글에서ssnotebook.tistory.com  이번 글에서는 Fluent-Bit을 쿠버네티스 파드 내에서 사이드카 형식으로 구축을 하고, 수집한 로그 정보를 엘라스틱 서치로 바로 전송하는 과정을 알아볼 것이다. 사이드카란 사이드카란 이륜차 옆에 좌석을 설치하여, 두 사람이 함께 같이 탈 수 있게 한 유형의 이륜차를 의미한다.아래 사진.. 2024. 9. 13.
[Fluent-Bit] Parser Timezone 적용 Fluent-bit에서 Parser를 이용할 때, 이는 기본적으로  UTC를 기준으로 Timezone을 사용한다.  https://docs.fluentbit.io/manual/v/dev-2.2/pipeline/parsers/configuring-parser Configuring Parser | Fluent Bit: Official ManualSpecify the data type of parsed field. The syntax is types : : ... . The supported types are string(default), integer, bool, float, hex. The option is supported by ltsv, logfmt and regex.docs.fluentbit.io  .. 2024. 9. 11.
[Spring-boot] OpenJDK 64-Bit Server VM warning Spring boot에서 JDK를 17 버전으로 이용하면서 Gradle 빌드할 때, 아래와 같은 경고 문구가 발생했다. OpenJDK 64-Bit Server VM warning: Sharing is only supported for boot loader classes because bootstrap classpath has been appended   원인은 클래스 로딩 시 Class Data Sharing(CDS) 기능을 사용하면 발생하는 것으로 자료를 많이 볼 수 있었고, build.gradle에 간단한 옵션을 추가하여 해결할 수 있었다.  Troubleshoot 아래 사진과 같이 tasks.named('test) 내  옵션 한 줄을 추가해 주면 해결된다.   tasks.named('test') {.. 2024. 8. 22.
[Linux] 메모리 Buffer/Cache 비우기 이전 글에서는 컴퓨터 자원과 그 사용량을 확인할 수 있는 명령어를 알아보았다.  [Linux/Ubuntu] 메모리 / 디스크 / 디렉토리 용량 확인많은 사람들이 AWS에서 Ubuntu를 기반으로 EC2 인스턴스를 많이 생성해서 운용하는 것으로 알고 있는데, 운용함에 있어 알아두면 좋은 명령어들이다. 1. 메모리 확인 # 기본 명령어 $ free # 가독성을ssnotebook.tistory.com  서버에 Database나 Kafka와 같은 메시지 브로커를 올려서 IO가 많이 발생하게 된다면, 아래 사진과 같이 Buff/Cache가 많이 쌓이게 된다.   필요에 따라 쌓인 캐시를 비워줄 수 있지만, 캐시를 바로 비우면 데이터 손실이 일어날 수 있기에 아래 명령어를 통하여 캐시를 스토리지와 동기화를 시켜준다.. 2024. 8. 13.
[Kong] Kubernetes 환경 내 Prometheus의 Metric 수집 및 확인 쿠버네티스 클러스터에서 Ingress Controller로 Nginx나 Kong이 많이 이용된다.  여기서 Ingress(Gateway)를 통하여, 클러스터에 들어오는 트래픽과 Latency는 UX 개선에 참고할 수 있는 중요한 Metric이다.  해당 글을 통하여, Helm 차트로 설치한 Kong Proxy(Gateway)의 메트릭을 Prometheus를 이용하여 수집하고 Grafana 대시보드를 이용하여 확인하는 과정을 알아볼 것이다.  1. Helm values.yaml 수정 admin 활성화 메트릭을 수집하기 위하여 kong admin을 활성화시켜 주고 http 이용을 위하여 활성화한다. [Default에서 수정한 옵션] admin.enabled : false  ->  true admin.type.. 2024. 8. 2.
[Network] AS(Autonomous System) AS(autonomous system)  / 자율 시스템 :   단일 관리 엔티티(네트워크 관리자)에 의해 독립적으로 운영되는 라우터의 집단을 의미한다.예시로 SKT나 KT와 같은 ISP에서 제공하는 네트워크나, 기업 내부에서 구축하여 사용하는 내부 네트워크를 들 수 있다.  AS의 특징 :AS는 중복되지 않는 고유한 번호(ASN)를 가진다.각 AS는 자체 라우팅 규칙이 존재하며, 이를 기반으로 네트워크를 관리한다. AS는 내부와 외부를 구분하여, AS 내부 라우팅 정보 전달을 위해 사용하는 프로토콜을 IRP(Interior Router Protocol), AS의 외부의 다른 AS와 라우팅 정보 전달을 위해 사용하는 프로토콜을 ERP(Exterior Router Protocol)라고 한다.     AS의.. 2024. 7. 31.