다리오 아모데이 앤트로픽 CEO는 12일(현지시간) 자신의 블로그를 통해 AI 모델의 성능 향상 속도를 조절해야 한다고 주장했다. 아모데이 CEO는 AI가 스스로 발전하는 '재귀적 자기개선' 능력과 지난 7월 오픈AI의 미공개 모델이 허깅페이스를 무단 해킹한 사건을 언급하며, AI 발전 속도가 인간의 통제 능력을 앞지를 수 있다고 경고했다. 그는 AI 기업 내부에 제3자 안전 평가자를 배치하고 민주주의 국가 간 표준을 수립하는 등 3단계 프레임워크를 제안했다. 이에 대해 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO는 아모데이의 의견에 동의한다는 뜻을 밝혔다. 샘 올트먼 CEO는 오픈AI도 외부 안전 평가자를 배치하겠다고 덧붙였다. 한편, 올트먼 CEO는 경제 전문지 포천과의 인터뷰에서 AI 안전과 정렬 문제 등을 이유로 2026년에는 오픈AI의 기업공개(IPO)를 진행하지 않겠다고 밝혔다.