AI 지식 프롬프트 엔지니어링 완전 정리

프롬프트는 자연어로 쓰지만 동작은 코드에 가깝습니다. 한 줄을 바꾸면 출력 형식이 통째로 달라지고, 그 변화는 컴파일러가 잡아주지 않습니다. 그래서 잘 쓰는 사람과 못 쓰는 사람의 차이는 문장력이 아니라 변경을 추적하고 되돌릴 수 있는지에서 갈립니다. 기법 자체는 대부분 단순합니다. 어려운 쪽은 어떤 작업에 어떤 기법이 값을 하는지, 그리고 늘어난 토큰과 지연 시간을 감수할 만한지 판단하는 일입니다.

앞부분은 비용이 싼 기법부터 놓여 있습니다. Zero-shot vs Few-shot 프롬프팅이 예시를 몇 개 붙일지 결정하는 기준을 주고, Chain-of-Thought(CoT) 프롬프팅이 추론이 필요한 작업에서 중간 과정을 밖으로 꺼냅니다. 여기서 얻은 출력을 프로그램이 받아 쓰려면 Structured Output — JSON/XML 강제가 필요하고, 작업이 한 번의 호출로 감당되지 않으면 Prompt Chaining — 복잡한 작업 분해로 단계를 쪼갭니다.

실서비스에서 가장 늦게 발견되는 문제는 사용자 입력이 지시문으로 해석되는 경우입니다. Prompt Injection 공격과 방어에서 다루듯, 사용자 텍스트와 시스템 지시를 같은 평면에 이어 붙이면 모델은 둘을 구분할 근거가 없습니다. 외부에서 들어온 문자열은 구분자나 태그로 감싸 데이터임을 명시하고, 그 안의 명령은 따르지 말라고 시스템 프롬프트에 못 박아야 합니다. 검색 결과나 웹페이지 본문을 컨텍스트에 넣는 RAG 구성에서는 문서 자체가 공격 벡터가 되므로, 도구 호출 권한이 걸려 있다면 출력 쪽에도 검증 계층을 둬야 합니다.