카카오가 자율적으로 움직이는 인공지능(AI) 에이전트의 윤리적 기준을 마련했다. 카카오는 15일 AI 윤리 원칙과 이행 가이드를 발표하며, 자율 에이전트의 위험을 관리하기 위해 인간의 감독과 비상 제어, 권한 통제, 데이터 보호 등의 조치를 연결했다.
새로운 윤리 원칙 '스피릿(SPIRIT)'은 안전, 프라이버시, 포용, 책임, 이용자 주체성, 투명성과 신뢰성의 6가지로 구성됐다. 카카오는 AI 서비스 전 주기에서 리스크를 검토할 수 있는 체계를 구축하고, AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 할 계획이다.
카카오는 AI&기술윤리소위원회 외부 자문단 7명과 함께 윤리 원칙과 가이드를 마련했으며, 내부적으로는 AI 안전성, 개인정보, 정보보안, 서비스 관련 부서가 실무 관점에서 점검했다. 특히 아동·청소년 보호 항목을 강화하기 위해 OECD와 유니세프의 아동 온라인 위험 분류 체계를 참고한 AI 특유의 위험 점검 요소를 새 체크리스트에 반영할 예정이다.