'가짜 AI 법령·판례' 제출하면…"소송비용 독박 쓰고 과태료 낸다"

인공지능(AI) 활용도가 높아지면서 ‘할루시네이션’(환각) 현상에 따른 허위 법령·판례나 위·변조된 증거가 법원에 제출될 우려가 높아지고 있다. 법원은 이에 ‘가짜 판례’ 등을 제출한 당사자에 소송비용 부담을 지우고, 변호사 징계를 권고하는 등 대응책 마련에 나섰다.

법원행정처는 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)’를 통해 이 같은 대응 방안을 마련했다고 31일 밝혔다. TF는 법관 8명과 변호사 2인 등 총 10명으로 구성됐고, 작년 11월부터 이달까지 활동했다.

TF는 소송 당사자나 대리인이 가짜 AI 법령 등을 인용해 불필요한 소송비용을 발생시키거나 소송을 지연시킬 경우, 이로 인해 발생한 소송비용의 전부 또는 일부를 당사자에게 부담시킬 수 있도록 했다. 또한 허위 자료가 인용된 서면에 대해 변론에서 진술을 제한할 수 있고, 판결서에 관련 내용이 허위라는 사실을 적시할 수 있도록 했다.

만약 변호사가 AI가 생성한 허위의 법령·판례 등을 제대로 검증하지 않고 제출할 경우, 대한변호사협회에 징계를 의뢰할 수 있다. 다만 이런 조치의 시행 여부는 개별 재판부 재량에 맡길 예정이다.

TF는 관련법령 개정 필요성도 강조했다. AI 활용 사실을 상대방과 법원에 고지하도록 민사소송규칙 개정이 필요하다는 주장이다. 당사자 등이 허위 법령 등을 인용하는 경우 과태료를 부과할 수 있도록 하는 소송법 개정안도 제안했다.

이외에 법원에 제출된 서류에 인용된 법령과 판례의 존부, 서류에 기재된 내용과 실제 내용의 유사도 등을 자동으로 알려주는 기능 개발도 제안했다. 법원행정처는 지난달부터 사법정보공개포털에 ‘허위 사건번호 확인’ 기능을 추가해 운영하고 있다.

TF 관계자는 “AI의 활용 확대는 거스를 수 없는 시대적 흐름이며, 법원은 이에 따른 변화와 위험에 체계적으로 대비할 필요가 있다”며 “급변하는 환경 속에서도 사법부 본연의 재판 기능을 충실히 수행하겠다”고 말했다.

이인혁 기자 twopeople@hankyung.com