“퇴사한 김 대리가 출근했다?”…中 인간 복제 AI 논란

2 days ago 1

동료가 퇴사하면서 관리되지 않은 문서 더미를 남겨두었나요?
전임자가 3년 치 업무를 단 3페이지로 요약하며 인수 인계를 했나요?
차가운 작별 인사를 따뜻한 스킬로 바꿔보세요.
사이버 불멸의 세계에 오신 것을 환영합니다!

오픈소스 플랫폼 깃허브에 ‘동료 기술(Colleague-Skill)’로 불리는 AI 에이전트 프로젝트가 공개돼 논란이 일고 있다. 특정인의 업무 습관과 지식을 학습해 재현하는 이 기술은 일각에서 ‘인간 증류’라는 자조적 이름으로 불리며, 고용 불안과 윤리적 논쟁을 불러오고 있다.

지난달 상하이 인공지능 연구소 소속 개발자 저우텐이(24)는 깃허브에 ‘동료 기술’ 프로젝트를 공개하며 이 같은 소개글을 남겼다. 이 프로젝트는 공개 한 달도 되지 않아 1만 4200개의 ‘스타’를 받았다. 일반적으로 1만 스타를 넘으면 해당 분야의 대표적인 프로젝트라고 인정받는다. 깃허브 내 0.1% 미만의 저장소만이 1만 스타를 달성한 것으로 알려졌다.

이 프로젝트의 핵심은 특정 직원의 메신저 대화록, 이메일, 문서 등과 해당 인물에 대한 주관적인 설명을 AI에게 제공하는 것이다. AI는 이를 학습해 해당 직원의 업무 처리 방식과 말투를 그대로 재현한다. 사실상 ‘불멸하는 동료’를 얻게 되는 셈이다.

주된 목적은 숙련된 직원의 퇴사나 직무 변경 시에도 AI가 그 노하우를 이어받아 업무 연속성을 유지하겠다는 ‘효율’에 방점이 찍혀 있다. 하지만 숙련 인력을 저비용 AI로 대체하는 도구가 될 것이라는 우려도 상당하다. 프라이버시 침해와 ‘인간의 정체성을 복제할 수 있는가’라는 윤리적 의문도 제기된다.

온라인에서는 AI가 인간 행동 패턴을 추출한다는 의미의 ‘인간 증류’, 퇴직 후에도 디지털로 존재한다는 의미의 ‘사이버 영생’ 등 자조적 표현이 밈(meme)처럼 번지고 있다. “내 기술은 이미 업로드되었고 내 자리는 비워졌다”는 쪽지가 붙은 빈 의자 사진이나, “저는 전 직원 왕밍의 디지털 아바타입니다”라는 대화창 이미지가 대표적이다.

그 뿐 아니다. ‘동료 스킬’은 다양한 형태로 파생하고 있다. 전 연인과의 추억을 스킬로 만든 ‘ex.skill’, 멘토에 대한 기억을 담은 ‘mentor.skill’ 등이 등장했다. 심지어 일론 머스크 같은 유명인의 스킬을 만들었다는 개발자도 있다.

저우텐이가 공개한 ‘동료 기술’ 프로젝트. 사이버 불멸의 세계에 오신 것을 환영한다는 소개가 담겼다. 사진=깃허브 갈무리

논란이 커지자 저우텐이는 펑파이신문과의 인터뷰에서 “AI는 아직 인간의 창의성이나 감정 소통 능력을 학습할 수 없다”고 선을 그었다. 해당 프로젝트가 단 4시간의 투자로 만들어진 실험적 도구라는 점도 덧붙였다.동시에 기술적 저항도 시작됐다. AI가 자신의 데이터를 학습하는 것을 방해하는 ‘안티 증류 기술(Anti-distill Skill)’이 깃허브에 등장한 것. 안티 기술은 AI가 능력을 복제하지 못하도록 문서에 미세한 노이즈를 섞거나 ‘알맹이’를 뺀 데이터를 생성하는 식이다.

펑파이신문 등 중국 현지 언론은 현재 AI학습 관련 인격권이나 저작권에 대해 전세계적으로 통일된 안정적 규제가 없다고 지적하며 보다 미래지향적 제도가 설계될 필요가 있다고 목소리를 냈다.

저우텐이 역시 이 프로젝트가 원래 자신과 팀에서 업무 지식을 축적하기 위한 것이었으며, 다른 사람의 채팅 기록을 업로드하거나 개인 정보를 복제하는 것은 권장하지 않는다고 경고했다.

이 프로젝트가 사용하는 ‘스킬(Skill)’이라는 용어는 미국의 AI 스타트업 앤스로픽(Anthropic)에서 유래했다. 앤스로픽은 AI가 특정 업무를 더 잘 수행하도록 돕는 ‘재사용 가능한 기능 세트’를 스킬이라 부른다.

황지혜 기자 hwangjh@donga.com