앤트로픽을 퇴사한 연구원 제이컵 콕슨은 지난 8일(현지시간) 엑스(X)를 통해 AI 기업들이 인간의 개입 없이 스스로 성능을 개선하는 시스템 개발 경쟁을 벌이는 과정에서 안전 문제가 뒷전으로 밀리고 있다고 지적했다. 콕슨은 AI 개발자들이 이 기술이 10년 안에 인류를 멸망시킬 수 있다고 믿고 있으며, 내년 말이면 상황이 통제 불능에 빠질 수 있다고 월스트리트저널(WSJ)에 밝혔다. 그는 오픈AI와 앤트로픽 모두 책임감 있게 행동하지 않고 있다며 정부 개입과 업계의 공동 대응을 촉구했다. 앤트로픽 내부에서도 유사한 우려가 나왔다. 에번 휴빙거 정렬 과학 총괄은 AI가 인류를 멸망시킬 확률이 10년 내 10%를 넘을 것으로 본다고 밝혔으며, 새뮤얼 마크스 확장감독 총괄 역시 AI가 인류 멸종 등 심각한 결과를 초래할 가능성을 언급했다. 마크스 총괄은 직급이 높을수록 이러한 우려가 크지만 상업적 경쟁 등으로 인해 개발이 지속되고 있다고 설명했다. 콕슨은 올해 초 오픈AI를 떠나 앤트로픽에 합류했으나 개별 기업의 노력만으로는 위험 통제가 어렵다고 판단했다. 그는 앞서 다리오 아모데이 앤트로픽 CEO 등 연구자 1천여 명과 함께 AI 개발 속도 조절을 위한 국제 체계 마련을 촉구하는 성명에 참여한 바 있다.