앤트로픽의 생성형 AI 클로드를 상대로 지속적으로 욕설을 하거나 불필요하게 모욕할 경우 사용이 차단될 수 있다. 현지시간 9일 BBC와 MBN에 따르면 앤트로픽은 전날 이용 정책을 개정해 사용자가 AI에 '모욕적이거나 잔인한 행동'을 할 경우 대화를 종료할 수 있도록 했다. 앤트로픽은 반복적이고 극단적인 사례에만 새로운 정책을 적용하겠다고 설명했다. 사용자의 일반적인 불만이나 반발, 모델 테스트와 연구 등에는 적용하지 않겠다는 입장이다. 다만 앤트로픽은 어떤 행동을 AI에 대한 모욕적이거나 잔인한 행동으로 판단할지는 구체적으로 밝히지 않았다. 현재 앤트로픽의 금지행위 목록에는 타인 괴롭힘, 자해 조장, 비동의 성적 이미지 제작 등이 규정돼 있다. 앤트로픽은 유권자를 속이고 선거를 방해하는 데 클로드를 사용하는 것도 금지한다고 명문화했다.