본문 바로가기

Log Aggregation/FluentD

(3)
Spring Logback -> FluentD -> ES 연동 - 3. FluentD Systemd Service 구성 지난 글에서 아래와 같이 수행하여 AutoScaling의 경우 수행하면 된다고 하였지만, fluentd -c /home/ec2-user/.fluentd-ui/fluentd-ui.conf -d /home/ec2-user/.fluentd-ui/fluentd-ui.pid Systemctl enable로 해놓으면 서버가 켜지면서 수행되기 때문에 신경쓸 필요가 없습니다. 먼저 저는 수행하다보니 .fluentd-ui의 폴더 경로를 찾지 못하는 에러를 발견하여서 /home/ec2-user/fluentd라는 폴더를 만들고 해당 폴더에 conf를 세팅하겠습니다. mkdir fluentd cp .fluent-ui/fluent.conf fluentd/fluentd.conf 해당 폴더에 세팅이 되었으면 아래 경로에 fluen..
Spring Logback -> FluentD -> ES 연동 - 2. Spring Logback 설정 꽤나 고생한 부분인데, FluentdAppender가 따로있어, 이를 적용하여 사용하였습니다. 일반적인 LogbackSocket을 사용할 경우 아래와 같은 에러가 발생하여, FluentdAppender를 사용하여 처리하였습니다. 먼저 Pom.xml입니다. ch.qos.logback logback-classic 1.2.3 com.sndyuk logback-more-appenders 1.8.3 org.fluentd fluent-logger 0.3.4 org.komamitsu fluency-core 2.4.1 true org.komamitsu fluency-fluentd 2.4.1 true 다음은 Logback.xml입니다. 저희는 zipkin-slueth까지 설정하여 TraceId를 부여하고 있기 때문에 아..
Spring Logback -> FluentD -> ES 연동 - 1.FluentD UI 설치 및 Config 세팅 EKS를 사용하면서, 로그를 어떻게 넘기는 것이 좋을까 고민을 많이하였습니다. Log Stdout을 fluentd ds로 넘기려하다가 각 노드에 ds가 많아지면 노드가 하나 생성될 때, 기본적으로 차지하는 리소스 및 IP수 때문에, 실 서비스만 구동하여 관리하려던 설계와 방향이 맞지 않았습니다. 따라서 Spring Logback에서 부터 FluentD 서버로 FluentD -> ES Service로 시행착오를 거쳐 잘 진행된 부분입니다. 관리를 편하게 하기 위해서 UI가 있는 FluentD UI를 설치해보겠습니다. Amazon Linux2에서 아래 쉘을 통해 루비 및 FluentD를 설치해줍니다. sudo amazon-linux-extras install -y epel sudo amazon-linux-e..