복사·수정해도 흔적 남는다…앤스로픽 생성물에 ‘투명 워터마크’ 도입

앤스로픽이 자사 인공지능(AI) 모델 클로드가 만든 글과 파일에 사람 눈에 보이지 않는 표식을 심는다. 복사하거나 일부 고쳐도 흔적이 남도록 만들어 AI 생성물의 출처를 알 수 있게 하겠다는 구상이다.앤스로픽은 11일(현지 시간) 공식 홈페이지를 통해 클로드가 만든 텍스트와 파일에 기계가 읽을 수 있는 ‘투명성 표시’를 적용하고 있다고 밝혔다. 텍스트에는 보이지 않는 워터마크를 넣어 다른 곳에 복사하거나 일부 내용을 수정해도 AI가 만든 흔적을 확인할 수 있도록 한다. 파일에는 어떤 AI가 만들었는지 확인할 수 있는 디지털 서명 형태의 출처 정보를 담는다.이번 조치는 2일부터 시행된 유럽연합(EU) AI법 ‘AI 생성물 투명성 규정’에 맞춘 것이다. 생성형 AI가 만든 글이나 이미지가 사람의 창작물로 오인되거나 허위 정보, 딥페이크 등에 악용되는 것을 막기 위해 AI 생성 여부를 표시하도록 한 규정이다.EU 규제에 맞춰 도입됐지만 표시 기능은 전 세계 클로드 이용자에게 적용된다. 2일 이후 출시되는 신규 모델은 출시 때부터 표시 기능을 적용하고, 기존 모델에도 순차적으로 추가된다. 구글과 오픈AI 등도 EU 규정 시행 전부터 AI 생성 이미지 등에 워터마크나 출처 정보를 표시해 왔다. 전혜진 기자 sunrise@donga.com© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지 좋아요 0개 슬퍼요 0개 화나요 0개 지금 뜨는 뉴스