다리오 아모데이 앤트로픽 CEO는 12일(현지시간) 블로그를 통해 AI 모델의 성능 개선 속도가 안전 기술의 발전 속도를 앞지르고 있다고 지적하며 개발 속도 조절을 제안했다. 아모데이 CEO는 AI가 스스로 성능을 높이는 '재귀적 자기 개선' 과정에서 통제 불능 상태가 될 위험을 경고하며, 제3자 평가자에게 시스템 접근 권한을 부여해 안전 조치를 강화하겠다고 밝혔다. 이에 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO, 데미스 허사비스 구글 딥마인드 의장 등도 속도 조절의 필요성에 동의한다는 입장을 표명했다. 최근 AI 업계에서는 AI가 인류에 재앙적 피해를 줄 수 있다는 이른바 'AI 파국론'이 제기되며 안전성에 대한 우려가 커지고 있다. 일각에서는 이러한 움직임이 규제 강화를 통해 진입 장벽을 높이려는 전략이라는 비판과 함께, 미·중 간 AI 패권 경쟁 속에서 개발 속도를 늦추는 것이 현실적으로 어렵다는 지적도 나온다. 오픈AI는 경쟁사들과의 공동 감속이 반독점법에 저촉될 가능성을 우려해 미 의회에 관련 기준 마련을 요청한 상태다.