AI KNOWLEDGE · 도구 & 프레임워크
LoRA & QLoRA 파인튜닝
전체 파인튜닝 대비 메모리 10~100배 절감. LoRA: 기존 가중치는 고정, 작은 어댑터 행렬만 학습. QLoRA: 4bit 양자화 + LoRA. 7B 모델을 16GB GPU에서 파인튜닝 가능. Axolotl, LLaMA-Factory로 쉽게 구현합니다.
도구 & 프레임워크
핵심 설명
전체 파인튜닝 대비 메모리 10~100배 절감. LoRA: 기존 가중치는 고정, 작은 어댑터 행렬만 학습. QLoRA: 4bit 양자화 + LoRA. 7B 모델을 16GB GPU에서 파인튜닝 가능. Axolotl, LLaMA-Factory로 쉽게 구현합니다.
Continue Learning
AI Knowledge 학습을 이어가세요
총 100개의 독립 HTML 학습 문서 중 하나입니다. 각 문서는 고유 URL과 canonical 메타데이터를 가집니다.