AI KNOWLEDGE · 보안 & 윤리
AI 레드팀 테스트
AI 시스템의 취약점을 의도적으로 공격해 발견. 방법: ①Jailbreak 시도 ②Prompt Injection 공격 ③민감 정보 추출 시도 ④극단적 시나리오 테스트. Microsoft PyRIT, Garak 도구 활용. 배포 전 레드팀 테스트는 안전 AI의 기본입니다.
보안 & 윤리
핵심 설명
AI 시스템의 취약점을 의도적으로 공격해 발견. 방법: ①Jailbreak 시도 ②Prompt Injection 공격 ③민감 정보 추출 시도 ④극단적 시나리오 테스트. Microsoft PyRIT, Garak 도구 활용. 배포 전 레드팀 테스트는 안전 AI의 기본입니다.
Continue Learning
AI Knowledge 학습을 이어가세요
총 100개의 독립 HTML 학습 문서 중 하나입니다. 각 문서는 고유 URL과 canonical 메타데이터를 가집니다.