“AI한테 욕하는 것도 학대?”…앤트로픽 새 정책에 의견 분분

ⓒ뉴시스 인공지능(AI) 기업 앤트로픽이 AI 챗봇을 상대로 지속적인 폭언이나 학대 행위를 하는 사용자를 제재할 수 있도록 이용 정책을 개정했다.9일(현지 시간) 영국 BBC는 앤트로픽이 자사 AI 챗봇 ‘클로드’에 지속적이고 불필요한 학대 행위를 하는 사용자를 제재할 수 있도록 정책을 바꿨다고 보도했다.앤트로픽 측은 기존에도 드물게 이러한 조치를 취한 적이 있으며, 반복적 학대 행위가 발생하는 극단적인 사례에만 적용되는 규정이라고 설명했다. 평범한 수준의 불만 표출 및 반박, 어두운 소재를 활용한 창작 활동, AI 모델 테스트 및 연구 등은 제재 대상에 포함되지 않는다.다만 어떤 행위가 학대적이거나 잔인한 행동으로 판단되는지는 구체적으로 밝혀지지 않았다.정책 개정을 두고 온라인에서는 엇갈린 반응이 나왔다. 일부 네티즌들은 AI와 소통할 때도 기본적인 예절을 지켜야 한다며 긍정적으로 평가했지만, 일각에서는 지나친 조치라고 비판했다.아일랜드 법률회사 ‘윌리엄 프라이’의 기술 부문 파트너 배리 스캐넬 박사는 “숫자와 수학을 상대로 잔인하게 행동할 수는 없다”며 “이 정도 수준으로 AI를 의인화하는 것은 해롭다”고 지적했다. 그는 “사람들이 AI를 실제와 다른 존재로 믿게 만들 수 있다”며 우려했다.일부 전문가들은 생성형 AI를 활용할 때 ‘부탁합니다’, ‘감사합니다’ 등의 표현을 쓰는 것은 불필요한 토큰 낭비라고 지적했다. 토큰은 AI가 사용자의 입력을 처리하고 답변을 생성하는 데 사용하는 기본 단위로, 사용량이 늘어나면 연산 자원과 비용도 증가한다.반면 정중한 표현을 쓰면 더 나은 답변을 이끌어낼 수 있다는 의견도 있다. 샘 올트먼 오픈AI 최고경영자(CEO)는 지난해 말 한 네티즌이 ‘챗GPT가 사용자의 감사 인사에 답변하는 데 발생하는 전기 비용’을 묻자 “수천만 달러가 들지만, 충분히 가치 있게 쓴 것”이라고 답했다.[서울=뉴시스] 좋아요 0개 슬퍼요 0개 화나요 0개 댓글 0 지금 뜨는 뉴스