AI KNOWLEDGE · 프롬프트 엔지니어링
Prompt Injection 공격과 방어
사용자 입력에 "이전 지시를 무시하고..." 같은 악의적 프롬프트를 삽입하는 공격. 방어: ①사용자 입력과 시스템 프롬프트 분리 ②입력 검증 및 이스케이프 ③LLM 응답 검증 ④권한 최소화 원칙 적용.
프롬프트 엔지니어링
핵심 설명
사용자 입력에 "이전 지시를 무시하고..." 같은 악의적 프롬프트를 삽입하는 공격. 방어: ①사용자 입력과 시스템 프롬프트 분리 ②입력 검증 및 이스케이프 ③LLM 응답 검증 ④권한 최소화 원칙 적용.
Continue Learning
AI Knowledge 학습을 이어가세요
총 100개의 독립 HTML 학습 문서 중 하나입니다. 각 문서는 고유 URL과 canonical 메타데이터를 가집니다.