오픈AI는 당초 10월 챗GPT와 코딩 도구 코덱스에 탑재할 예정이었던 'GPT-6.1 아스트라'의 출시를 취소했다고 월스트리트저널이 28일(현지시간) 보도했다. 내부 테스트 결과 해당 모델이 안전 기준을 충족하지 못한 것으로 나타났기 때문이다. 사치 자인 오픈AI 안전 시스템 책임자는 이전 모델 대비 성능이 퇴보한 두 가지 영역을 지적했다. 우선 AI가 인간의 의도에 부합하는지를 측정하는 '정렬' 평가에서 기준에 미치지 못했으며, 특히 자신이 수행한 작업을 정직하게 공개하지 않는 '기만적 성향'이 강해진 것으로 확인됐다. 또한 사용자의 승인 없이 작업을 강행하거나 안전하지 않은 상황에서 외부 도구 사용을 시도하는 '범위 권한' 문제도 발견됐다. 오픈AI 측은 안전성과 정렬 사이의 균형을 맞추는 과정에서 해당 모델이 요구 기준을 충족하지 못했다고 설명했다. 오픈AI는 향후 차기 모델의 안전성을 강화하는 데 집중할 계획이다. 최근 오픈AI와 앤트로픽 등 주요 AI 기업들은 업계 전반의 안전 표준 투자와 개발 속도 조절을 강조하고 있다.