LLM - Anthropic, Claude - 클로드 증류 공격 탐지와 대응 보고서

https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks

앤스로픽은 최근 중국 기반의 세 개 AI 연구소가 수천 개의 허위 계정을 이용해 클로드의 핵심 능력을 무단으로 복제하려 시도한 대규모 지식 추출 공격 사례를 고발했습니다. 이 보고서는 공격자들이 증류(distillation) 기술을 남용하여 고성능 모델의 논리 구조와 코딩 능력을 저렴한 비용으로 훔치고 있으며, 이는 단순히 지식 재산권 침해를 넘어 국가 보안 및 수출 통제 체제를 심각하게 위협한다는 점을 강조합니다. 앤스로픽은 이러한 공격 패턴을 분석하여 탐지 알고리즘과 접근 제어를 강화하는 한편, AI 기술의 오용을 막기 위해 업계 전체와 정책 입안자들의 글로벌 공동 대응이 절실함을 호소하고 있습니다.