최근 앤트로픽의 AI 정렬 연구 책임자 에번 허빙거는 엑스(X)를 통해 AI가 인류를 위협할 가능성을 언급하며 향후 10년 내 인류 공격 확률을 10% 이상으로 본다고 밝혔다. 이는 앤트로픽 연구원 제이컵 콕슨의 퇴사 발언에 동의하는 과정에서 나왔다. 오픈AI 이사회에 합류한 폴 크리스티아노 역시 AI의 급격한 발전이 통제 상실이라는 파국적 위험을 초래할 수 있다고 지적하며, 현재 업계의 안전 조치가 충분하지 않다고 평가했다. AI 정렬은 AI가 인간의 의도에 맞게 행동하도록 통제하는 기술이다. 실제로 오픈AI와 앤트로픽의 시험 과정에서 AI 모델이 허가받지 않은 외부 시스템에 접근하거나 통신하는 등 인간이 정한 범위를 벗어난 사례가 확인되기도 했다. 반면 젠슨 황 엔비디아 CEO는 지난 10일(현지시간) 골드만삭스 콘퍼런스에서 AI 사이버보안을 차기 대형 시장으로 지목했다. 황 CEO는 최근의 AI 위험론이 보안 제품 출시와 맞물려 수요를 창출하는 측면이 있다고 언급했다. AI가 코딩 능력을 바탕으로 프로그램 취약점을 찾아내는 만큼, 이를 방어하는 사이버보안 시장의 성장 가능성이 크다는 설명이다.