KKamJi
Preview Image

LLM Gateway - 키 정책, 비용 집계와 감사 [AI Gateway 1]

“이번 달 LLM 비용 중 마케팅팀 챗봇이 쓴 금액은 얼마인가?” 여러 팀이 OpenAI, Anthropic, Azure를 함께 쓰면 프로바이더별 사용량을 같은 팀 기준으로 묶어야 이 질문에 답할 수 있습니다. 공유한 API 키를 교체할 때 어느 애플리케이션까지 바꿔야 하는지도 알아야 합니다. LLM Gateway는 애플리케이션과 프로바이더 사이에서 ...

Preview Image

Graph engineering 기초 - 루프에서 시스템으로 [AI Agent 2]

루프 하나야 잘 돌아간다. 문제는 둘째부터입니다. 코딩 루프는 커밋을 만들고, 검토 루프는 그 커밋을 읽고, 문서 루프는 그 변경을 노트에 남깁니다. 각자의 루프가 각자의 상태를 들고 있으면, 누가 무엇을 했는지 아무도 모르는 상태가 됩니다. 이 지점에서 다루는 대상이 바뀝니다. 루프 하나의 내부가 아니라, 루프와 에이전트와 상태를 어떻게 연결할 것...

Preview Image

Datadog RUM 알아보기 - Real User Monitoring 개념과 Observability [Datadog 1]

서버 쪽 observability는 APM, logs, metrics로 비교적 익숙하게 다룹니다. 그런데 “백엔드는 200 OK로 빠르게 응답했는데 사용자는 느리다고 한다”는 상황은 server-side 신호만으로는 잘 잡히지 않습니다. 느린 렌더링, 레이아웃 이동, 브라우저 JS 에러처럼 사용자가 실제로 겪는 문제는 대부분 client-side에서 ...