AI로 교정만 해도 흔적 남는다…클로드, 모든 글에 ‘워터마크’ 도입

이해를 돕기 위한 이미지. 사진=게티이미지코리아 앤스로픽이 자사 AI 챗봇 클로드가 만든 모든 글에 사람이 알아챌 수 없는 워터마크(Watermark)를 심기로 했다. 복사·붙여넣기와 부분 편집을 거쳐도 지워지지 않으며, 이전 모델을 포함한 모든 모델에 순차적으로 도입될 예정이다.10일(현지 시간) 비즈니스 인사이더에 따르면, 앤스로픽은 새롭게 출시되는 클로드 모델부터 워터마크를 적용하기로 했다.유럽연합(EU) AI법상 투명성 의무에 따른 조치로, 전 세계 이용자에게 동일하게 적용된다.새로 도입될 워터마크는 텍스트의 의미나 가독성을 바꾸지 않으면서 문장 안에 직접 심어진다. 복사·붙여넣기를 하거나, 일부 편집을 거치더라도 표식이 일부 남아있도록 설계됐다.적용 대상은 8월 2일 이후 출시된 모든 모델이며, 이전 모델에도 순차적으로 적용될 예정이다. 앤스로픽은 제3자가 워터마크를 탐지할 수 있는 도구도 제공할 계획이다.● 연이은 ‘AI 대필’ 논란…출판업계엔 희소식이번 조치는 AI 무단 사용으로 몸살을 앓아온 교육계와 출판업계 등에 희소식이 될 전망이다. 학생이 제출한 과제물이나 출판 원고 등에 클로드의 워터마크가 남아 있는지 확인하는 새로운 수단이 될 수 있기 때문이다.지난달 범죄소설 ‘전화해, 내가 시체는 내가 치울게(Call Me, I’ll Hide the Body)‘는 14개 출판사가 입찰 경쟁을 벌인 끝에 계약됐지만, 저자 제리 팔라데의 AI 집필 의혹이 불거지며 계약이 철회됐다.앞서 미국 출판사 아셰트도 미아 밸러드의 공포소설 ’수줍은 소녀(Shy Girl)‘ 출간을 중단했다. 밸러드는 뉴욕타임스에 프리랜서 편집자가 자신도 모르게 AI 생성 내용을 끼워 넣었다고 해명했다.● 완전한 차단은 아냐…AI로 교정만 해도 흔적 남는다텍스트 워터마크를 도입한 주요 AI 기업은 앤스로픽이 두 번째다. 구글 딥마인드는 2024년부터 신스ID(Synth ID)로 제미나이가 생성한 텍스트·영상에 워터마크를 삽입해 왔다. 이미지는 이보다 이른 2023년부터 워터마크 기술을 도입했다.다만 기술적 한계는 있다. 앤스로픽은 워터마크가 삽입된 글이라도 대대적인 편집이나 의역, 번역을 거치거나 다른 글과 섞이면 탐지가 어려워질 수 있다고 밝혔다. 반대로 사람이 작성한 글을 클로드로 교정하거나 번역만 해도 워터마크가 남을 수 있다. 따라서 워터마크가 탐지됐다는 사실만으로 글 전체를 AI가 작성했다고 단정할 수는 없다.AI 생성물을 판...