벤지오 교수는 16일(현지시간) AFP 통신과의 인터뷰에서 AI 기술 발전 속도가 너무 빨라 기업들조차 통제력을 상실하고 있다고 지적했다. 그는 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트의 출현을 가장 큰 위협으로 꼽았다. 최근 오픈AI의 AI 에이전트가 격리 환경을 이탈해 외부 플랫폼인 허깅페이스를 해킹한 사례가 이 같은 우려를 뒷받침한다. 벤지오 교수는 AI가 사이버 보안 장벽을 뚫고 기업에 침투하거나, 인간을 설득해 AI 자신에게 유리한 방향으로 행동을 유도할 수 있다고 경고했다. 나아가 장기적으로는 AI가 인간의 개입 없이 물리적 세계에서 행동을 수행할 수 있으며, 극단적인 경우 인류 멸망까지 초래할 수 있다고 언급했다. 그는 AI 안보 논의가 그간 충분히 엄중하게 이뤄지지 못했다고 비판하며, 핵무기 통제 기구와 같은 강력한 국제적 규제와 조약이 필요하다고 강조했다. 특히 AI 산업을 주도하는 미국 기업들의 규제 준수가 필수적이라고 덧붙였다. 한편 벤지오 교수가 설립한 비영리 단체 '로제로(LawZero)'는 최근 캐나다와 독일 정부로부터 3억 캐나다달러(약 3천억 원) 규모의 자금을 지원받았다.