AI에 사람 취급?…앤트로픽, AI 모욕하는 이용자 차단한다

인공지능(AI) 업체 앤트로픽이 자사의 생성형 AI 클로드를 지속적으로 모욕하는 사용자를 제한하는 정책을 적용합니다. 현지 시간 9일 BBC에 따르면, 앤트로픽은 전날 이용 정책을 개정해 사용자가 AI에 '모욕적이거나 잔인한 행동'을 할 경우 대화를 종료할 수 있도록 했습니다. 앤트로픽은 반복적이고 극단적인 사례에만 새로운 정책을 적용하겠다고 설명했습니다. 사용자의 일반적인 불만이나 반발, 모델 테스트와 연구 등에는 적용하지 않겠다는 것입니다.다만 앤트로픽은 '모욕적이거나 잔인한 행동'을 판단할 기준에 대해서는 구체적으로 밝히지 않았습니다. 현재 앤트로픽의 금지 행위 목록에는 타인 괴롭힘, 자해 조장, 비동의 성적 이미..