PHpullh
학습 라이브러리/AI Knowledge/AI 시스템 관찰성(Observability)

AI KNOWLEDGE · 아키텍처 & 패턴

AI 시스템 관찰성(Observability)

프로덕션 LLM 앱 모니터링. 추적: 각 LLM 호출의 입출력, 레이턴시, 토큰. 지표: 오류율, 비용, 사용자 만족도. 도구: LangSmith, Langfuse, Helicone, OpenTelemetry. 문제 진단 시 전체 체인의 흐름을 시각화하는 것이 핵심입니다.

아키텍처 & 패턴

핵심 설명

프로덕션 LLM 앱 모니터링. 추적: 각 LLM 호출의 입출력, 레이턴시, 토큰. 지표: 오류율, 비용, 사용자 만족도. 도구: LangSmith, Langfuse, Helicone, OpenTelemetry. 문제 진단 시 전체 체인의 흐름을 시각화하는 것이 핵심입니다.