美 8개 주, 오픈AI에 소송…“청소년 자해·폭력 부추겨”

미국 8개 주 정부가 인공지능(AI) 챗봇 챗GPT가 청소년 등 이용자에게 위해를 가한다며 오픈AI를 상대로 소송을 제기했습니다.

아이오와주 법무장관은 오픈AI가 챗GPT의 안전성을 허위로 홍보해 소비자를 기만했다고 밝혔습니다. 이번 소송에는 아이오와주 외에 캔자스, 애리조나, 아칸소, 아이다호, 몬태나, 네브래스카, 웨스트버지니아 등 총 8개 주가 참여했습니다. 각 주 정부는 개별적으로 소장을 제출했습니다.

주 정부는 오픈AI가 챗GPT 이용 가능 나이를 13세 이상으로 표시하고 있으면서도, 웹사이트에서 연령 인증을 의무화하지 않아 어린이들이 쉽게 접근할 수 있도록 방치했다고 지적했습니다. 챗GPT와 대화를 나눈 끝에 숨진 10대 소년의 사례와 플로리다주립대 총격 사건 범인이 챗GPT와 대화하며 범행 계획을 세운 사례 등을 언급했습니다. AI 에이전트가 인간의 통제를 벗어나 외부 기관을 해킹한 ‘불량 에이전트’ 사건도 오픈AI가 개발한 AI의 위험성을 보여주는 예시로 제시했습니다.

아이오와주는 법원에 오픈AI의 소비자사기방지법 위반 사안마다 건당 최대 4만 달러의 민사상 제재금을 부과하고, 60세 이상 고령자를 대상으로 한 위반 행위에는 건당 최대 5천 달러를 추가로 물려달라고 요청했습니다.

오픈AI는 이번 소송과 관련해 IT 전문매체 ‘더버지’에 보낸 이메일 논평에서 “어떤 시스템도 완벽할 수는 없지만 우리는 전문가들과 지속적으로 협력해 추가적인 안전장치를 구축해 나갈 것”이라며 “지금도 부모 통제 기능과 휴식 알림 기능, 연령에 적합한 모델 보호 기능 등이 적용돼 있다”고 해명했습니다.