Daramu

다람어의 블로그

클라우드/fluent bit

일전에 Fluent bit의 글을 쓴적이 있는데, 관련해서 말이 너무 부실하기도 하고, 설정법이나 ACG에 대한 이야기도 빠져있어서 한번 제대로 해보려한다. 1. Search Engine Service(이하 SES)많이들 착각하는 것이 SES는 단순한 대시보드(Dashboard)라는 것이다.SES가 자체적으로 Log를 수집한다거나, 무엇인가 다이나믹한 동작을 하지는 않는 것이다. 그렇기에 사용자는 직접 Log를 쏴줘야 하고, 이 때 선택하는 옵션이 "로그 수집기"이다.로그 수집기는 몇가지가 있다. 대표적으로 익숙한 것이 ELK스택의 LogStash이다. 다만 ELK는 라이센스에 관한 시비가 존재한다.내부망이나 개인 로컬PC(이게 내부망과 같은 의미이기는 하지만) 에서는 문제가 없지만 이것을 기업이 판매할..

2024. 7. 12.

클라우드/fluent bit

Fluent bit를 Log를 수집해서 Opensearch나, ElasticSearch 로 보낸다. 그리고 Prometheus또한 syslog를 보여주는 모니터링 툴이다. 여기서 드는 생각이, 그럼 Fluent bit를 통해서 syslog를 prometheus로 보내줄 수 있나? 였다. 먼저 대답하자면 "그렇다"였다. 자세한걸 보기전에 prometheus 먼저 알아야한다. Fluent bit의 구성도를 보았었을때, 각각의 Node에 Fluent bit가 존재하고, 해당 fluent bit가 log를 opensearch로 보낸다 하였다. prometheus또한 비슷하게 동작하는데, 각각의 VM(혹은 Worker Node)에 "Node Exporter"라는 놈이 존재한다. 이 놈이 주기적으로 VM에 proc..

2024. 4. 15.

클라우드/fluent bit

Fluent Bit와 NCP의 SES를 잇는 연결을 하였는데 문제가 발생했다. pod가 running이기에 문제가 없을 줄 알았지만, kubectl logs pod -n logging 을 입력하니 chunk 데이터가 어마어마하게 쌓이고 있었다. 검색을 해보니 데이터의 단위라는데, retry라는 항목이 존재하는 것으로 보아, fluent bit가 못보냈거나, opensearch가 못받았거나 하는 데이터를 fluent bit 가 가지고 있다가 주기적으로 재전송을 하는 것으로 보였다. 당연히 log를 못보내는 것도 문제이고, retry를 하겠다고 잡아먹는 자원과 네트워크 리소스도 문제였기에 해결을 위한 작업에 들어갔다. fluent bit에서 chunk가 발생하는 경우가 많아서 하나씩 시도하기에는 무리가 있었..

2024. 4. 15.

클라우드/fluent bit

환경: NCP 구성: NKS 2Node NCP의 SES(Search engine Service)를 사용해서 Fluent bit를 구축할 것이다. 우선 알아야할 것은, Fluent bit는 Log를 수집하고 보낸주는 역할을 하고, SES로 구축하는 Opensearch 는 Log를 받아 시각화 해주는 역할을 한다는 것이다. 자주 이야기하는 Eliastic의 ELK스택과 유사하다 생각하면 편하다. 애초에 Opensearch가 Elastic의 라이센스 변경에 대한 반발로 Fork질 해서 나온것이니..... 이름을 붙이자면 OFO정도지 않을까?(Opensearch, Fluent bit, Opensearch-dashboard)...... 아무튼 구성도는 이러하다. 각 Worker Node마다 Daemonset(No..

2024. 4. 15.