카카오는 지난 28일 인공지능안전연구소와 AI 안전성 공동 평가 및 평가 체계 구축을 위한 업무협약을 맺었다고 29일 밝혔다. 이번 협약에 따라 카카오는 평가 대상인 자사 AI 모델과 에이전트를 제공하고, 평가 수행 및 도구 개발에 필요한 인프라를 지원한다. 인공지능안전연구소는 평가 수행과 방법론 고도화를 담당하며, 양사는 평가 결과를 공동 검토하고 공개 범위를 협의할 예정이다. 협력은 총 3단계로 진행된다. 우선 언어모델을 대상으로 배포 전후 안전성 평가를 수행한 뒤, 멀티모달 언어모델과 AI 에이전트로 범위를 확대한다. 마지막으로 AI 모델과 에이전트의 안전성을 검증할 수 있는 평가 도구를 공동 개발할 계획이다. 양사는 지난해 카카오의 자체 언어모델 '카나나-1.5-9.8B'를 대상으로 공동 안전성 평가를 진행한 바 있다.