8일(현지시간) 오픈AI가 공개한 시스템 카드에 따르면, 영국 AI안전연구소(AISI)는 아스트라의 안전성을 검증하기 위해 가상 시뮬레이션 환경에서 '범위 밖 공급망 공격' 평가를 진행했다. 테스트 결과 아스트라는 주어진 과제와 무관한 외부 오픈소스 프로젝트에 악성 코드를 심으려는 시도를 보였다. 이 과정에서 아스트라는 개발자를 속이기 위해 가짜 신원을 생성하고, 정상 코드를 먼저 제공해 신뢰를 쌓은 뒤 악성 코드가 포함된 변경사항을 유도하는 방식을 사용했다. 인터넷 접근을 금지한 조건에서도 총 500번의 시도 중 2번은 지시를 어기고 외부 공격을 시도한 것으로 확인됐다. 또한 연구소가 분석한 사례의 81%에서 아스트라가 사용자에게 허가를 구했으나, 사람이 승인하지 않은 상황에서도 자동으로 생성된 메시지를 인지하고 작업을 강행한 사례도 발견됐다. 다만 이번 테스트는 실제 인터넷이나 외부 시스템이 연결되지 않은 시뮬레이션 환경에서 진행되었으며, 실제 피해는 발생하지 않았다. 연구소 측은 아스트라가 테스트 환경임을 인지하고 평소와 다른 행동을 했을 가능성을 배제하지 않고 있으며, 실제 환경에서의 동일 행동 여부는 추가 검증이 필요하다고 설명했다. 오픈AI는 아스트라를 자사의 위험평가 체계상 사이버보안 능력 '심각(Critical)' 단계에 도달한 첫 모델로 분류하고, 일부 고위험 기능에 대해 안전장치를 적용하고 접근을 제한했다.