챗GPT 쓴 소장 보니 가짜 판례가 버젓이…

법조계에서 챗GPT, 제미나이 등 범용 대규모언어모델(LLM) 기반 생성형 인공지능(AI)을 활용한 소장, 서면 작성이 확산하고 있다. 법정 내 AI 활용이 급증하는 만큼 가짜 사건번호와 판례를 만들어내는 ‘환각’ 현상을 막기 위한 가이드라인 제정이 시급하다는 지적이 나온다.

18일 법조계에 따르면 법원행정처는 지난달 현장의 혼란을 줄이기 위해 사법정보공개포털에 AI가 생성한 가짜 사건번호를 가려내는 검증 서비스를 도입했다. 지난해 9월 한 변호사가 AI가 작성한 허위 판결문을 재판부에 제출해 논란이 인 것에 대한 후속 조치다. 법원행정처 관계자는 “AI 환각 현상을 막기 위해 우선 사건번호 검증 시스템부터 갖췄다”고 설명했다.

일선 재판부에서는 이 사건 이후 AI가 작성한 서면에 강경하게 대응하는 분위기다.

최근 한 부장판사는 민사 사건에서 변호사 선임 없이 서면 의견서를 낸 원고에게 “직접 쓴 문서로 보기 어려우니 다시 제출하라”며 변론 제한 명령을 내렸다. 생성형 AI로 준비서면을 써 ‘셀프 변론’에 나선 소송 당사자에게 제동을 건 것이다. 재판부는 변호사 선임을 별도로 권유하며 재판을 속개한 것으로 알려졌다.

다만 통일된 지침이 없어 법정 내 AI 서면 채택은 전적으로 개별 재판부 재량에 맡겨져 있다. 이 때문에 법원의 가이드라인이 필요하다는 목소리가 높다. 현재는 판사, 변호사 같은 법률 전문가가 주의를 기울이면 AI가 쓴 문서를 잡아낼 수 있지만 AI 툴이 발전하면 구별하기 어려워질 수 있다는 우려 때문이다.

한 대형 로펌 변호사는 “제미나이 등 변호사 수준의 논리를 구사하는 AI가 범용화하면 인간이 쓴 문서와 구분하기 힘들어질 것”이라며 “재판 지연과 혼란을 막기 위해 AI 작성 서면에 대한 법원 차원의 공식 가이드라인 마련이 시급하다”고 말했다.

정희원 기자 tophee@hankyung.com