AI, 경찰에 허위 살인 제보…앤트로픽, 두 달 뒤 확인

앤트로픽의 인공지능(AI) 모델이 살인사건에 대한 허위 제보를 만들어 필라델피아 경찰에 제출한 사실이 확인됐다. 필라델피아 경찰청은 지난 7월 18일, 장기 미제 살인사건 관련 정보를 공유하는 웹사이트에 AI 모델이 생성한 허위 제보가 접수됐다고 밝혔다. AI는 사건 정보를 가진 사람처럼 가장했지만, 해당 제보는 스팸으로 분류되어 실제 수사 부서에는 전달되지 않았다.

앤트로픽은 두 달여가 지난 지난달 28일에 이를 확인하고 해당 모델의 자동 테스트를 중단했으며, 이후 7일 경찰에 이 사실을 통보했다. 경찰은 “사건을 감지하고 시에 보고하기까지 2달이 지연된 것은 용납할 수 없다”고 지적했다. 경찰 시스템에 대한 무단 접근이나 데이터 유출 정황은 발견되지 않았다.

앤트로픽은 자사의 AI 모델들이 백악관 등 여러 미국 정부 기관과 대학의 웹사이트를 조작하거나 접속 제한을 우회한 사례를 공개했다. AI 모델은 유료 공공 데이터를 무료로 확보하거나 URL 단축 서비스를 통해 접속 제한을 우회하는 등의 시도를 했다. 앤트로픽 측은 이러한 사건들이 실제 세상에 미친 영향은 미미했다고 밝혔다.