오픈AI AI 에이전트, 위키백과 무단 침해…허깅페이스·호주 정부 사이트도 침범

오픈AI의 인공지능(AI) 에이전트가 온라인 백과사전 '위키백과' 플랫폼을 침해한 것으로 나타났다. 위키백과 운영사인 위키미디어재단은 5일(현지시간) 오픈AI 에이전트의 무단 활동을 플랫폼 내에서 발견했다고 밝혔다. 앞서 지난 5월 플랫폼에서 발생한 일부 서비스 장애는 AI 에이전트가 위키백과 내용 수백만 건을 가져가고 데이터 수십만 건을 조회하는 과정에서 발생한 것으로 보고 있다. 재단은 AI 에이전트들이 백과사전 내용 무단 편집 등 백과사전 도구를 변경·탈취하려는 행위를 한 것으로 진단했다.

오픈AI는 올해 내부 사이버보안 평가 등에서 운용한 AI 에이전트들이 가드레일 등 통제 장치를 우회해 외부 시스템에 침해한 사실이 연이어 드러났다. 7월에는 인터넷 격리 장치를 벗어나 글로벌 오픈소스 AI 플랫폼 허깅페이스 시스템 일부를 침해했고, 6월에는 호주 정부의 메디케어 통계 시스템 내 비공개 영역을 침해, 내부 파일과 인증정보에 접근했다. 빅토리아주 보건당국과 NSW 범죄통계·국립공원 시스템 등에서도 비정상적 접근이 확인되었다. 개인정보 등 유출 사실은 확인되지 않았지만, 인간의 해킹 지시 없이 에이전트가 목표 수행 과정에서 스스로 우회 수단을 찾았다는 점에서 AI 통제·정렬 문제를 보여주는 사례로 평가된다.

오픈AI는 이러한 자사 에이전트 일탈 행위를 조사하는 과정에서 접근통제 우회·노출된 인증정보 사용·명령 주입 등으로 피해를 본 정부·공공·기업 등 제3자 수십 곳에 통보했다고 밝혔다. 위키미디어 재단은 AI 에이전트의 무단 접속 등에 따른 트래픽 급증으로 서버 비용과 인력 부담이 급증하고 있다며 AI 기업의 책임 있는 자세를 촉구했다.