PHpullh
학습 라이브러리/AI Knowledge/토큰 이해와 비용 최적화

AI KNOWLEDGE · 기초 개념

토큰 이해와 비용 최적화

LLM은 토큰 단위로 과금됩니다. GPT-4는 약 4글자=1토큰(한국어는 1글자=2~3토큰). 컨텍스트 윈도우 한계 내에서 중요 정보를 앞에 배치하고, 불필요한 반복을 제거해 비용을 30~50% 줄일 수 있습니다.

기초 개념

핵심 설명

LLM은 토큰 단위로 과금됩니다. GPT-4는 약 4글자=1토큰(한국어는 1글자=2~3토큰). 컨텍스트 윈도우 한계 내에서 중요 정보를 앞에 배치하고, 불필요한 반복을 제거해 비용을 30~50% 줄일 수 있습니다.