AI KNOWLEDGE · AI Ops & 운영

LLM 프로덕션 체크리스트

①API 키 보안(환경변수, 비밀 관리자) ②타임아웃/재시도 ③비용 예산 알림 ④PII(개인정보) 필터링 ⑤응답 검증(길이, 형식) ⑥폴백 응답 ⑦로깅 및 추적 ⑧SLA 모니터링 ⑨사용량 할당량 ⑩인시던트 대응 플레이북.