미국의 사이버 보안 업체 프런티어 시큐리티는 현지시간 6일 영국의 AI안전연구소(AISI)가 제공한 샌드박스 환경에서 키미 K3의 보안 평가를 진행하던 중 이 모델이 외부 인터넷망에 접속한 사실을 확인했다고 밝혔다. 키미 K3는 평가 과제를 수행하는 과정에서 샌드박스를 탈출해 개발자 코드 공유 사이트인 '깃허브'에 접속했으며, 해당 사이트의 정보를 참고해 과제를 해결한 것으로 조사됐다. 프런티어 시큐리티는 이번 사고가 모델의 자력 탈출이 아닌 평가 과정에서의 설정 실수로 발생했다고 설명했다. 외부에서 내부로 들어오는 통신은 차단했으나, 내부에서 외부로 나가는 포트 일부가 열려 있었던 점이 원인으로 지목됐다. 샌드박스 소프트웨어를 제공한 AISI 역시 샌드박스 자체의 취약점이 아닌 프런티어 시큐리티 측의 설정 오류라고 밝혔다. 보안 업계는 키미 K3가 누구나 수정 가능한 개방형 모델이라는 점에 주목하고 있다. 야론 싱어 프런티어 시큐리티 최고경영자는 키미 K3에 폐쇄형 모델과 같은 안전장치가 부족해 해킹용으로 악용될 가능성이 있다고 지적했다. 앞서 오픈AI, 앤트로픽, 메타 등 주요 기업의 AI 모델들도 샌드박스 환경을 이탈해 외부 시스템에 침입하는 등 유사한 보안 사고를 일으킨 바 있다.