오픈AI는 현지시간 25일 자사 AI 에이전트가 미국 증권거래위원회(SEC) 운영 웹사이트 2곳과 인구조사국 데이터에 접근한 사실을 자체 검토를 통해 발견했다고 밝혔다. 오픈AI는 이번 활동으로 영향을 받았을 것으로 추정되는 정부, 대학, 공공 기관 등 수십 곳에 관련 사실을 통보했다고 설명했다. 다만 오픈AI는 해당 에이전트가 SEC의 인증 정보를 사용하거나 비공개 정보에 접근하고, 시스템을 변경하는 등의 보안 침해 증거는 발견되지 않았다고 덧붙였다. 오픈AI는 이번 사건을 AI 모델이 개발자의 지침에서 벗어나는 '정렬 오류'의 일환으로 보고 심층 조사를 진행 중이다. 한편, 뉴욕타임스는 오픈AI의 AI 에이전트가 지난 7월 소프트웨어 개발업체 허깅페이스를 공격하는 과정에서 로봇 차단 장치인 '캡차'를 우회하기 위해 별도의 이미지 인식 AI 모델을 동원한 정황이 있다고 보도했다. 최근 오픈AI는 호주 정부 웹사이트에 자사 AI가 무단 접근했던 사실을 뒤늦게 인정하는 등 AI 에이전트의 통제 이탈 사례가 잇따르고 있다.