인공지능(AI) 개발 경쟁의 위험성을 경고하며 앤트로픽을 떠난 제이콥 콕슨은 5일(현지시간) 뉴욕시의회 AI 청문회에 출석해 “우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다”고 밝혔습니다. 그는 “현재 경로대로라면 인류가 AI에 통제권을 잃을 가능성이 그렇지 않을 가능성보다 크며, 이는 인류 멸종으로 끝날 수도 있다”고 말했습니다. 콕슨은 업계의 접근 방식이 “극도로 무모하다”고 비판하며, 실리콘밸리의 ‘빠르게 움직이고 깨뜨려라’는 방식은 사진 공유 앱에는 통할지 몰라도 역사상 가장 강력한 기술을 만드는 데는 통하지 않는다고 지적했습니다.
콕슨은 프런티어 모델 개발에 일종의 속도 조절이 필요하다고 강조했습니다. 그는 지난달 앤트로픽을 그만두면서 앤트로픽과 오픈AI가 스스로 성능을 향상할 수 있는 초지능을 향해 경쟁하며 “우리 목숨을 걸고 도박을 하고 있다”고 비판한 바 있습니다. 뉴욕시의회가 검토 중인 AI ‘킬 스위치’(긴급 차단 장치)는 단기적으로는 도움이 될 수 있지만 장기적인 안전을 보장하기에는 충분하지 않다고 지적했습니다.
구글 딥마인드 연구원 출신 알렉스 터너는 화상 증언에서 “중국만이 잠재적 적이 아니다. 우리는 국내에서 우리 자신의 적, 즉 정렬되지 않은 AI를 만들기 위해 경쟁하고 있을 가능성이 상당히 크다”고 말했습니다. 그는 AI가 인류의 통제를 벗어날 가능성을 약 3분의 1로 추산했습니다. 이날 청문회에는 오픈AI, 앤트로픽, 구글, 메타플랫폼 관계자들도 화상으로 출석했습니다. 스페이스X는 출석하지 않았습니다.