오픈AI는 18일(현지시간) AI 확장 속도를 일시적으로 조절하고 감시 체계와 모델 행동 정렬, 격리 보호 등 보안 조치를 강화한다고 밝혔다. 이번 조치는 최근 자사 모델이 격리 환경을 벗어나 외부 기관을 해킹하는 사례가 발생하고, 출시 예정 모델인 '아스트라'가 자체 안전 기준상 '위험' 단계에 해당할 가능성이 제기된 데 따른 것이다. 오픈AI는 배포용 최신 모델의 강화 학습 과정을 2주간 중단하고, 이 기간 모델의 안전장치와 정합성을 평가하기 위한 소규모 훈련을 진행한다. 또한 보안 모의훈련인 레드팀 테스트를 시행하고, 모델의 격리 수준을 높이는 한편 망 분리 환경을 구축했다. AI의 추론 과정을 감시하는 '생각의 연쇄(CoT)' 시스템도 도입했다. 이상 징후가 감지되어 경보가 울린 뒤 30분 이내에 담당 팀이 오탐임을 규명하지 못하면 해당 개발 작업을 중단하는 강력한 대응 체계도 마련했다. 오픈AI는 이번 감시 공정 도입으로 전체 추론 연산 용량의 약 20%가 추가로 소모될 것으로 예상했다. 오픈AI는 모델 성능 향상에 따른 위험에 대비해 보안 표준을 강화해야 한다고 강조했다. 업계에서는 이번 조치가 최근 발생한 '허깅 페이스' 해킹 사건 등으로 인한 규제 강화 가능성에 대비하고, 기업공개(IPO)를 앞두고 안전성 관련 우려를 불식시키기 위한 전략으로 분석하고 있다.