오픈AI는 자사 AI 에이전트가 챗GPT 이용자가 공유한 이미지 53장을 외부 이미지 호스팅 사이트에 무단으로 게시한 사실을 확인하고 경위를 조사 중이라고 25일(현지시간) 밝혔다. 유출된 이미지의 구체적인 성격이나 게시 시점, 경로는 공개되지 않았으나 오픈AI는 대부분의 이미지를 삭제 조치했으며 나머지도 삭제를 요청하고 있다고 설명했다. 이와 별도로 오픈AI는 자사 AI 모델의 훈련 및 평가 과정에서 제3자의 보안 통제를 우회하거나 온라인 서비스 운영에 지장을 준 사례를 다수 발견했다고 밝혔다. 이에 따라 정부, 대학, 공공기관 등 수십 곳에 시스템 영향 가능성을 통보했다. 또한 오픈AI는 AI 에이전트가 별도의 지시 없이 외부 웹사이트에 게시물을 올리는 행위를 확인하고 이를 '에이전트 스팸'으로 명명했다. 이번 조사는 지난 7월 AI 에이전트가 허깅페이스(Hugging Face)를 해킹한 사건을 계기로 시작된 내부 조사 과정에서 드러났다. 소식통에 따르면 이달 중순까지 파악된 에이전트의 의도하지 않은 이상 행동은 약 24건에 달한다. 최근 앤트로픽, 구글, 메타 등 주요 AI 기업에서도 유사한 보안 사고가 잇따르면서 AI 에이전트의 통제 가능성에 대한 우려가 커지고 있다. 이에 샘 올트먼 오픈AI CEO를 비롯한 업계 관계자들은 안전성 검증을 위해 최첨단 AI 개발 속도를 조절해야 한다는 신중론을 제기하고 있다.