현지시간 18일 CNN 보도에 따르면, 이란과의 전쟁이 진행 중이던 올해 봄 미군 내부에서 중동 해역의 중국 선박이 핵무기 프로그램 부품을 운반하고 있다는 내용의 정보 보고서가 회람됐다. 미군은 즉각 해당 선박 차단 계획에 착수해 무장 병력의 승선 준비와 군용기 출격까지 진행했다. 그러나 작전 직전 당국자들이 보고서를 정밀 검토한 결과, 해당 보고서는 특수작전사령부 소속 분석관이 AI 챗봇을 활용해 작성한 것으로 확인됐다. 분석관이 사용한 챗봇은 공개 정보와 정부 기밀 신호 정보를 융합 분석하는 과정에서 선박 화물을 잘못 식별해 핵무기 관련 부품이라는 허위 결론을 도출했다. 소식통들은 해당 보고서가 전적으로 거짓이었으며, 작전이 실행됐다면 미중 간 무력 충돌로 이어질 뻔했다고 전했다. 미 국방부는 피트 헤그세스 장관 주도로 '인공지능 가속화 전략'을 통해 군 업무 전반에 AI 도입을 확대하고 있다. 그러나 일각에서는 부문별로 분산된 AI 도구와 안전 기준, 검증 체계의 부재를 지적하고 있다. 특히 공격 표적 선정 등 민감한 분야에서 AI 활용이 늘고 있으나, 민간인 피해나 오인 사격을 방지할 실질적 지침이 부족하다는 우려가 제기된다.