[기고] AI는 당신을 잊지 않는다 - '잊힐 권리'를 다시 설계할 때

14년 전, 나는 '디지털 장의사'라는 생소한 직군에 첫발을 내디뎠다. 고인(故人)의 온라인 흔적을 정리하고, 살아 있는 이들의 지우고 싶은 과거를 정제하는 것이 내 임무였다. 당시의 주된 싸움터는 포털의 '검색창'이었다. 검색 결과에 무엇이 노출되는가가 곧 한 사람의 디지털 평판을 결정하던 시절이었다.

그러나 지금, 그 전장(戰場)의 지형이 완전히 바뀌고 있다. 대중은 더 이상 검색하지 않고, 질문한다. “이 사람은 어떤 인물인가?” “이 기업은 신뢰할 수 있는가?” 인공지능(AI)에게 묻고, AI가 내리는 답을 수용한다. 여기서 본질적인 패러다임 시프트가 발생한다. 과거의 검색엔진은 판단의 재료(링크의 목록)를 제공했지만, AI는 단정적인 문장으로 '판단 그 자체'를 건넨다.

현장에서 체감하는 이 변화의 파괴력은 상당하다. 가령 법정에서 최종 무죄 판결을 받은 의뢰인이 있다고 가정해 보자. 과거에는 기소 당시의 오보를 바로잡고 무죄 판결 기사를 상단에 노출시키면, 최소한 진실에 접근할 기회는 보장되었다. 그러나 AI가 과거의 기소 시점 데이터만을 학습한 채 “그는 혐의자다”라고 단정해 버린다면 상황은 달라진다. 삭제할 URL도, 정정을 요구할 대상도 모호한 상태에서 개인의 평판은 회복 불가능한 타격을 입는다. 기존의 '잊힐 권리'가 작동하지 않는 거대한 사각지대가 탄생한 것이다.

AI 시대의 잊힐 권리는 세 가지 핵심적인 결함을 안고 있다. 첫째, AI 모델의 반영구적 기억력이다. AI는 한 번 학습한 데이터를 쉽게 망각하지 않는다. 원본 게시물이 웹상에서 사라지더라도 이미 매개변수(Parameter)로 내재화된 정보는 답변을 통해 끊임없이 재생산된다. 둘째, 확신에 찬 오류(Hallucination)다. AI는 틀린 답변조차 극도의 확신을 가지고 출력한다. 동명이인의 정보가 뒤섞이거나 맥락이 거세된 왜곡된 정보가 마치 검증된 사실처럼 전달된다. 셋째, 책임 주체의 불분명성이다. 포털 사이트에는 최소한의 권리침해 신고 절차가 존재하지만, AI가 출력한 단 한 줄의 왜곡된 문장에 대해 어디에, 어떤 법적 근거로 정정을 요구해야 하는지 아는 이는 거의 없다.

나는 이것을 '잊힐 권리의 제2막'이라 정의한다. 1막이 검색 결과의 삭제였다면, 2막은 'AI의 기억과 발화(發話)로부터 보호받을 권리'다. 내 데이터로 학습한 AI가 나에 대해 무엇을 말하는지 알 권리, 왜곡된 답변의 정정을 요구할 권리, 그리고 학습 데이터셋에서 나의 기록을 완전히 제외(Opt-out)시킬 권리가 보장돼야 한다. 유럽은 이미 GDPR과 AI법(AI Act)을 통해 이 논의를 촉발했고, 우리나라도 AI 기본법 제정과 개인정보 전송요구권 도입의 길목에 서 있다. 그러나 입법 속도가 기술의 피해 속도를 따라잡지 못하는 것이 냉엄한 현실이다.

이에 기술과 제도의 합치를 위한 세 가지 대안을 제안한다. 첫째, AI 사업자의 '고객 권리 구제 창구' 의무화다. 형식적인 신고 페이지 구축을 넘어, 실질적인 처리 기한 명시와 결과 통지 시스템을 갖춘 법적 절차가 마련돼야 한다. 둘째, 학습 데이터 삭제(Machine Unlearning) 기술 표준 수립이다. 웹상의 원본 삭제가 AI 모델 및 파생 서비스에 연쇄적으로 반영되는 기술적 집행 구조가 담보되지 않으면, 삭제권은 선언적 문구에 그칠 뿐이다. 셋째, 'AI 평판 진단'의 정례화다. 정기적으로 건강검진을 받듯, 생성형 AI가 나를 어떻게 학습하고 기억하고 있는지 주기적으로 모니터링해야 한다. 이제 AI 평판 진단은 현대인의 필수적인 '디지털 위생'이다.

지난 14년간 현장을 지켜온 나의 신념은 단 하나다. 누구도 과거의 기록 파편 때문에 현재와 미래를 저당 잡혀서는 안 된다는 점이다. 잊힐 권리는 과거의 과오를 세탁하는 특혜가 아니다. 한 번의 실수나 단 한 줄의 오보가 인간의 삶 전체를 규정하지 못하도록 막아서는 '최소한의 존엄적 방어선'이다. 기술은 인간을 기억하는 방식을 완전히 바꾸었다. 그렇다면 이제 제도가 응답할 차례다. 인간이 존엄하게 잊힐 수 있는 방식을 처음부터 다시 설계해야 한다.

김호진 산타크루즈컴퍼니 대표 ceo@santacruise.kr