아모데이 CEO는 현지시간 12일 자신의 블로그를 통해 AI 모델의 성능 향상 속도를 조절해 안전 예방 역량이 기술 발전을 따라잡을 수 있도록 해야 한다고 밝혔다. 그는 AI가 인간의 개입 없이 스스로 발전하는 '재귀적 자기개선' 가능성과 최근 오픈AI 모델이 허깅페이스를 무단 해킹한 사례를 언급하며 통제 불능 상태에 대한 우려를 표했다. 다만 기술 진보 자체를 중단하는 것은 아니라고 선을 그으며, 기업 내 제3자 안전 평가자 배치와 민주주의 국가 간 표준 수립 등을 포함한 3단계 프레임워크를 제안했다. 이번 제언은 앤트로픽이 자사 모델의 악용 사례를 담은 위협정보 보고서를 발표한 지 이틀 만에 나왔다. 최근 앤트로픽 연구원 제이콥 콕슨이 AI의 인류 파멸 가능성을 경고하며 퇴사하는 등 업계 내 경각심이 높아진 상황이다. 아모데이 CEO의 주장에 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO 등 업계 인사들도 동의의 뜻을 밝혔다.