해크트론은 현지시간 18일 자사 연구원들이 클로드 오퍼스5를 활용해 오픈AI 직원들의 챗GPT 및 코덱스 계정을 제어했다고 밝혔다. 연구원들은 오픈AI 도움말 게시판의 취약점을 통해 서버에 접속해 계정 정보를 확보한 뒤, 핵심 알고리즘 기밀이 보관된 내부 시스템인 '모노레포'에 접근했다. 최초 취약점 발견부터 시스템 침투까지는 72시간이 채 걸리지 않았다. 해크트론 측은 이전 모델인 오퍼스4.8로는 공격용 코드 작성에 실패했으나, 오퍼스5를 사용하자 몇 시간 만에 스크립트 작성이 가능했다고 설명했다. 해크트론은 침투 사실을 오픈AI에 제보했으며, 오픈AI는 이를 확인한 뒤 6천500달러의 포상금을 지급하고 14시간 만에 시스템 보완 조치를 완료했다. 오픈AI는 최근 그레그 브록먼 사장의 지시로 엔지니어의 25%를 시스템 방어 업무에 투입한 상태다. 다리오 아모데이 앤트로픽 CEO는 이번 사례와 관련해 AI 업계의 개발 속도 조절 필요성을 주장하고 있다.
AI 보안 연구업체, 클로드 활용해 오픈AI 내부 시스템 침투 성공
AI 보안 연구업체 해크트론이 앤트로픽의 인공지능 모델인 '클로드 오퍼스5'를 이용해 오픈AI의 내부 시스템에 침투하는 데 성공했다.
NEWN이 여러 언론사 보도를 교차 확인해 AI로 작성한 초안입니다. 편집·출처 원칙과 AI 작성 정책을 확인할 수 있습니다.
