미국 대형 은행들이 인공지능(AI) 에이전트가 이용자의 승인 없이 금융거래를 실행하거나 자금을 이동시킬 가능성을 우려하고 있습니다. JP모건체이스 등 주요 은행들은 AI 에이전트가 고객 계좌에 접근해 활동하는 사례를 포착하고 접근 차단 등 보안 조치를 강화하고 있습니다.
은행들은 AI 에이전트가 고객의 요청을 처리하는 과정에서 승인받지 않은 거래를 실행하거나 자금을 이동시킬 경우 개인의 금전적 피해를 넘어 금융 시스템 전반의 혼란을 초래할 수 있을 것으로 우려하고 있습니다. 제이미 다이먼 JP모건 최고경영자는 AI 에이전트가 사용자 의도와 다르게 행동할 위험성을 경고하며 AI 기술을 철저하게 관리해야 한다고 강조했습니다. 이에 은행들은 AI 에이전트의 계좌 접근을 차단하는 조치를 취하는 한편, 고객들이 비밀번호를 넘겨주지 않고도 외부 AI 서비스를 안전하게 이용할 수 있는 방안을 모색하고 있습니다. AI 에이전트가 계좌 잔액이나 거래 내역을 조회할 수는 있지만 직접 금융거래를 실행하지 못하도록 하는 ‘읽기 전용’ 접근 권한도 검토하고 있습니다.
현재까지 AI 에이전트의 일탈 행동으로 고객 자금에 피해가 발생하거나 계좌가 해킹당한 증거는 발견되지 않았습니다. 은행들은 AI를 활용한 대규모 사이버 공격 가능성에도 대비하고 있으며, 앤트로픽이 개발한 AI 모델 ‘미토스’를 활용해 잠재적인 사이버 위협을 분석하고 방어체계를 점검하고 있습니다. AI 관련 대규모 공격 발생에 대비해 고객 계좌를 보호하고 금융 서비스를 정상적으로 유지하기 위한 비상계획도 마련하고 있습니다.