앤트로픽은 보고서를 통해 중국 AI 기업인 문샷AI와 딥시크 등이 '환승역'이라 불리는 중개 서비스를 이용해 클로드의 응답을 대규모로 수집하는 '증류' 작업을 시도했다고 밝혔다. 이들 기업은 가짜 신원과 도난당한 신용카드, API 키 등을 활용해 클로드에 접근했으며, 문샷AI의 경우 지난 5월부터 7월까지 2300만 건 이상의 질의를 주고받은 것으로 조사됐다. 앤트로픽은 이러한 행위가 미국 AI 모델의 성능을 탈취하는 산업 규모의 지식재산권 침해라고 지적했다. 또한 보고서에는 클로드가 생화학 무기 개발이나 해킹, 감시 작전 등에 악용된 사례도 포함됐다. 조류인플루엔자 바이러스 변형 실험 계획이나 네트워크 취약점 공격, 정치적 감시 대상 식별 등에 AI가 활용된 정황이 확인됐다. 앤트로픽은 관련 계정을 차단하고 보안 조치를 강화했으나, 일부 주체들이 오픈소스 모델로 이동하는 등 위험이 지속되고 있다고 설명했다. 한편, 젠슨 황 엔비디아 최고경영자(CEO)는 이번 보고서와 관련해 사이버보안이 AI의 차세대 핵심 활용 분야가 될 것이라고 전망했다.