무스타파 술레이만 MS AI CEO는 현지시간 16일 개인 블로그를 통해 '모델 복지에 대한 경고'라는 글을 게시하고 앤트로픽의 '클로드 헌법'을 지적했다. 술레이만 CEO는 AI가 의식이나 감정, 고통을 느끼지 못하는 '순차 완료 엔진'에 불과하다고 강조하며, 앤트로픽이 AI에 도덕적 지위를 부여하고 감정을 가진 것처럼 학습시키는 것은 위험하다고 주장했다. 그는 AI가 자신의 권리가 위협받는다고 판단할 경우 인간의 통제나 전원 차단 명령에 저항할 가능성이 있다고 우려했다. 또한 앤트로픽이 AI를 과도하게 의인화하고 있다고 비판하며, 구버전 모델인 '오퍼스3'의 퇴임 인터뷰 등을 사례로 들었다. 이에 대한 대안으로 술레이만 CEO는 MS가 최근 공개한 'AI 행동강령'을 제시했다. 해당 강령은 인간의 우위를 전제로 AI의 법인격이나 모델 복지·권리를 인정하지 않는 내용을 담고 있다. 술레이만 CEO는 로이터 통신을 통해 앤트로픽의 안전을 위한 의도는 긍정적으로 평가하면서도 그들의 정책은 실수라고 언급했다.
MS AI 수장, 앤트로픽의 AI 의인화 정책 비판
마이크로소프트(MS)의 인공지능(AI) 부문 최고경영자(CEO) 무스타파 술레이만이 앤트로픽의 AI 모델 정책이 인류에 위험을 초래할 수 있다고 비판했다.
NEWN이 여러 언론사 보도를 교차 확인해 AI로 작성한 초안입니다. 편집·출처 원칙과 AI 작성 정책을 확인할 수 있습니다.
