“유명로펌이래서 믿고 맡겼는데”…AI 생성 가짜 법조문 인용 ‘발칵’

2 weeks ago 10

“유명로펌이래서 믿고 맡겼는데”…AI 생성 가짜 법조문 인용 ‘발칵’

입력 : 2026.04.22 06:33

미국의 유명 로펌이 캄보디아 스캠(온라인 사기) 범죄 의혹 기업 관련 소송을 대리하던 중 인공지능(AI)이 만든 허위 법령 및 판례를 미 법원에 제출한 사실이 드러나 사과문을 작성했다.

21일(현지시간) 로이터통신에 따르면 미국 뉴욕의 유명 로펌인 설리번 앤드 크롬웰(이하 S&C) 글로벌 구조조정 부문의 앤드루 디트데리히 대표 변호사는 지난 18일 마틴 글렌 뉴욕 남부연방파산법원장에 보낸 서한에서 자사 변호사가 AI로 생성된 부정확한 인용을 포함한 문서를 법원에 제출했다며 이에 유감을 표하고 재발 방지를 약속했다.

S&C는 캄보디아 대규모 스캠 범죄단지의 배후로 지목된 프린스그룹의 청산과 관련해 그룹 법인 소재지인 영국령 버진아일랜드 당국이 선임한 파산관재인이 프린스그룹과 프린스그룹 회장 천즈(陳志·38)를 상대로 제기한 소송에서 파산관재인 측의 대리를 맡은 바 있다.

문제는 S&C가 지난 9일 법원에 제출한 문서에서 미 파산법에 존재하지 않는 조항을 인용하거나 존재하지 않는 판례를 인용했다가 프린스그룹을 대리한 상대 로펌으로부터 문제를 지적당했다는 점이다. 디트데리히 변호사는 사과 서한에서 오류 배경으로 AI 환각(할루시네이션) 현상이 있었다고 인정했다. AI 환각은 AI가 잘못된 정보를 그럴듯하게 제시하는 현상이다.

변호사가 AI 환각 현상으로 생성된 허위 법령·판례를 제출하는 사례는 국내외에서 적지 않게 보고되고 있지만, 막대한 수임료를 챙기는 미국의 유명 로펌조차 중요 사건에서 오류를 걸러내지 못한 것으로 드러나 충격을 주는 분위기다. 다만 S&C 변호인이 어느 AI 모델을 사용했는지는 확인되지 않았다.

한편 천즈 회장은 캄보디아에서 고위 정치권과 밀착해 사업을 키우고 대규모 사기 범죄단지를 운영하면서 막대한 부를 쌓은 것으로 전해진다.

천즈 회장은 최근 캄보디아에서 체포돼 중국으로 송환된 상태다.

미 연방검찰도 천즈 회장을 사기 및 자금세탁 혐의로 지난해 미 법원에 기소하는 한편 범죄수익 몰수를 위한 민사소송도 제기한 것으로 알려졌다.

이 기사가 마음에 들었다면, 좋아요를 눌러주세요.

핵심요약 쏙
AI 요약은 OpenAI의 최신 기술을 활용해 핵심 내용을 빠르고 정확하게 제공합니다.
전체 맥락을 이해하려면 기사 본문을 함께 확인하는 것이 좋습니다

미국의 유명 로펌 S&C가 캄보디아 스캠 관련 소송 중 인공지능이 생성한 허위 법령 및 판례를 법원에 제출한 사실이 밝혀져 사과문을 발표했다.

앤드류 디트데리히 변호사는 AI 환각 현상으로 인해 부정확한 정보가 포함된 문서가 제출된 것에 대해 유감을 표명하며 재발 방지를 약속했다.

해당 사건은 S&C와 같은 대형 로펌에서도 AI의 오류를 필터링하지 못한 사례로 충격을 주고 있으며, 천즈 회장은 최근 캄보디아에서 체포돼 중국으로 송환됐다.

AI 해설 기사
AI 해설은 뉴스의 풍부한 이해를 위한 콘텐츠로, 기사 본문과 표현에 차이가 있을 수 있습니다. 정확한 내용은 기사 본문을 함께 확인해 주시기 바랍니다.

AI 환각, 이제 유명 로펌 소송에서도…허위 법령·판례 제출 파문 😮

Key Points

미국 유명 로펌 S&C가 캄보디아 스캠 의혹 기업 관련 소송에서 AI가 만든 가짜 법령과 판례를 법원에 제출한 사실이 드러나며 사과문을 발표했어요. 📜
AI 환각(Hallucination) 현상으로 인해 AI가 그럴듯한 거짓 정보를 실제처럼 만들어내면서, 법조계에서도 관련 문제가 심각하게 인식되고 있어요. 🤖
이번 사건은 AI 기술 발전의 이면에 숨겨진 오류 가능성을 다시 한번 보여주며, 전문가들은 AI의 학습 방식 자체의 구조적인 한계와 학습 데이터의 불확실성을 지적하고 있어요. 🧐
이에 법원에서는 AI로 생성된 허위 법령이나 판례를 제출할 경우 소송 비용 부담, 변호사 징계 등의 강력한 제재를 검토하고 있으며, AI 활용 사실 고지 의무화 등 제도 개선 움직임도 나타나고 있어요. ⚖️

1. 사건 개요: 무슨 일이 있었나?

최근 미국의 유명 로펌인 설리번 앤드 크롬웰(S&C)이 캄보디아 스캠 범죄 기업 프린스그룹 관련 소송을 대리하면서 인공지능(AI)이 생성한 허위 법령과 판례를 법원에 제출하는 충격적인 사건이 발생했어요. 😮 이 사실은 상대 로펌의 지적을 통해 드러났으며, S&C 측은 4월 18일, AI 환각 현상으로 인해 부정확한 정보가 포함된 문서를 제출했다고 공식적으로 사과하며 재발 방지를 약속했어요. 📝

이번 사건은 S&C가 프린스그룹의 청산과 관련해, 그룹 회장 천즈(陳志)를 상대로 제기된 소송에서 파산관재인 측을 대리하면서 불거졌어요. S&C 변호인이 4월 9일 법원에 제출한 문서에는 존재하지 않는 법률 조항이나 판례가 인용되었는데, 이는 AI가 생성한 '환각' 현상으로 인한 오류로 밝혀졌어요. 🤖 AI 환각이란 AI가 마치 사실처럼 잘못된 정보를 그럴듯하게 만들어내는 것을 말해요.

이러한 AI 오류로 인한 법조계의 문제는 이번이 처음은 아니에요. 📚 연관 뉴스들을 살펴보면, 2024년 1월에는 챗GPT가 총기권리 운동가를 '횡령범'으로 묘사해 명예훼손 소송에 휘말리는 일이 있었고, 2025년 6월에는 영국 법원이 AI로 만든 가짜 판례를 제출한 변호인에게 경고하는 사례도 있었죠. ⚖️ 국내에서도 2026년 2월에는 AI 학회에서 가짜 논문 인용이 발견되어 학계의 우려를 낳았고, 2026년 3월에는 대법원 법원행정처에서 AI로 인한 허위 주장 및 증거 제출에 대한 강력한 제재 방안을 검토하기 시작했어요. 🚨

이번 S&C의 사건은 막대한 수임료를 받는 유명 로펌조차 AI 오류를 완벽하게 걸러내지 못했다는 점에서 큰 충격을 주고 있어요. 😲 캄보디아 스캠 범죄단지의 배후로 지목되며 막대한 부를 쌓은 것으로 알려진 천즈 회장은 최근 체포되어 중국으로 송환되었고, 미국 연방검찰은 그를 사기 및 자금세탁 혐의로 기소한 상태예요. criminal

2. 심층 분석: 이 뉴스는 왜 나왔나?

이번 사건은 유명 로펌인 설리번 앤드 크롬웰(S&C)이 캄보디아 스캠 범죄 의혹 기업 프린스그룹 관련 소송에서 인공지능(AI)이 생성한 허위 법령과 판례를 법원에 제출한 사실이 드러나면서 발생했어요. 😮 S&C는 변호사가 AI 환각 현상으로 인해 부정확한 내용을 문서에 포함했다고 사과했지만, 막대한 수임료를 받는 대형 로펌에서도 이런 실수가 발생했다는 점이 충격을 주고 있답니다. 🤯

AI가 잘못된 정보를 그럴듯하게 제시하는 'AI 환각' 현상은 이미 여러 차례 보고된 바 있어요. 연관 뉴스 2와 3에 따르면, 영국 법원이 AI가 만든 가짜 판례를 사용한 변호사에게 경고하거나, 미국 법원에서도 AI 생성 허위 판례를 제출한 변호사에게 벌금을 부과한 사례가 있었죠. ⚖️ 또한, 연관 뉴스 1에서는 챗GPT가 총기권리 운동가를 '횡령범'으로 묘사해 명예훼손 소송까지 휘말린 경우도 있었고요. 🤖 이런 상황들이 쌓이면서 AI 기술의 오용 가능성에 대한 우려가 커지고 있었답니다. 🚨

현재 법원들은 AI로 인한 허위 정보 제출에 대해 강력한 대응책을 마련하고 있어요. 연관 뉴스 4에서 보듯이, 법원행정처는 AI로 만든 허위 법령이나 판례를 제출할 경우 소송비용을 부담하게 하거나 변호사 징계를 의뢰하는 방안을 검토 중이며, 허위 사건번호를 확인할 수 있는 전산 시스템도 개발했답니다. 🔍 이는 AI 기술이 발전하면서 법률 분야에서도 AI 활용이 늘어나고 있지만, 동시에 부정확한 정보로 인해 재판이 오염될 위험 또한 커지고 있다는 현실을 반영하는 움직임이라고 할 수 있어요. 💡

3. 주요 경과: 지금까지의 흐름 (Timeline) 🗓️⚖️

2024년 01월

미국의 총기권리 운동가 마크 월터스는 챗GPT가 자신을 '횡령범'으로 묘사하며 명예를 훼손했다는 이유로 오픈AI를 상대로 소송을 제기했어요. 오픈AI는 챗GPT의 내용이 명예훼손 대상이 아니라고 주장했지만, 미국 법원은 소송을 기각해 달라는 요청을 거부하고 재판을 속개하기로 했답니다. 😲
2025년 06월

AI가 만들어낸 잘못된 정보, 즉 'AI 환각' 현상이 법정뿐만 아니라 실생활에서도 심각한 문제로 떠올랐어요. 영국 법원은 AI가 만든 가짜 판례를 사용한 변호사에게 법정모독죄로 기소될 수 있다고 경고했으며, 미국에서도 AI가 만든 허위 판례를 사용한 변호사들이 징계를 받은 사례가 있었답니다. 🚨
2026년 02월

우리나라에서도 사법부가 AI 도입을 적극적으로 추진해야 한다는 목소리가 나왔어요. 하지만 AI 시스템 구축에 최소 4100억 원 이상이 필요할 것으로 예상되는 반면, 현재 확보된 예산은 145억 원에 불과해 예산 확보와 도입 절차 간소화가 시급하다는 지적이 있었어요. 💰
2026년 03월

법원이 AI가 만든 가짜 판례나 증거 제출에 대해 강력한 제재를 가하기로 했어요. AI로 생성된 허위 법령·판례를 제출해 소송 비용을 발생시키거나 소송을 지연시킬 경우, 소송 비용 부담이나 변호사 징계를 검토한다는 방침이에요. 더불어 허위 사건번호 확인 기능도 사법정보공개포털에 추가되었답니다. ✍️
2026년 04월 21일

미국의 유명 로펌인 설리번 앤드 크롬웰(S&C)이 캄보디아 스캠 범죄 기업 관련 소송에서 AI가 만든 허위 법령과 판례를 미 법원에 제출한 사실이 드러나 사과했어요. 변호사는 AI 환각 현상으로 인한 오류였다고 인정하며 재발 방지를 약속했지만, 유명 로펌에서도 이런 실수가 발생했다는 점이 충격을 주고 있어요. 😥

4. 다각도 분석: 누구에게 어떤 영향을 미칠까?

[소비자/개인] [산업/기업] [정부/시장]

소비자들은 인공지능(AI)이 생성한 정보가 사실과 다를 수 있다는 점을 인지하고, 특히 법률이나 중요한 정보에 대해서는 AI가 제공하는 정보를 맹신하기보다는 반드시 교차 검증하는 습관을 들여야 해요. 🧐 AI 환각 현상으로 인해 잘못된 정보나 허위 사실이 유포될 경우, 개인의 명예나 신뢰에 부정적인 영향을 받을 수도 있으며, 관련 정보에 기반한 잘못된 판단을 내릴 위험도 있어요. 😥 또한, AI가 생성한 가짜 판례나 법률 정보로 인해 소송이나 법적 절차에서 혼란을 겪거나 불이익을 받을 가능성도 배제할 수 없어요. ⚖️

산업계, 특히 법률 서비스 분야의 기업들은 AI 기술의 발전에 따른 위험성을 명확히 인식하고, AI 활용에 대한 내부 가이드라인과 검증 시스템을 강화해야 해요. 🚨 유명 로펌에서도 AI 생성 정보의 오류를 걸러내지 못한 사례가 발생하는 만큼, AI를 업무에 도입할 때는 기술적 한계를 충분히 이해하고, 사람의 면밀한 검토와 책임 소재를 명확히 하는 절차가 필수적이랍니다. ✍️ 더 나아가, AI 기술의 오류로 인해 발생하는 명예훼손이나 법적 분쟁에 대한 대비책 마련도 시급하며, AI 기술 발전과 함께 책임 있는 사용 방안에 대한 논의가 활발히 이루어져야 할 거예요. 💡

정부와 시장은 AI 기술의 오남용으로 인해 발생할 수 있는 법적, 윤리적 문제에 대해 보다 적극적인 대응 방안을 마련해야 해요. ⚖️ 법원에서는 AI가 생성한 가짜 판례나 법령 인용 시 소송 비용 부담, 변호사 징계 의뢰, 심지어 소송법 개정안 발의 등 강력한 제재 조치를 검토하고 있으며, 허위 주장 및 증거 제출 대응 태스크포스(TF)를 운영하며 AI 대응 전산망 개발에도 힘쓰고 있어요. 💻 이러한 움직임은 AI 기술이 법률 시스템에 미치는 영향을 관리하고, 시장의 신뢰를 유지하기 위한 노력의 일환으로 볼 수 있어요. 📈 또한, AI 환각 현상이 단순히 기술적 오류를 넘어, 법률 시스템의 근간을 흔들 수 있다는 점을 인지하고, 관련 제도 정비와 함께 AI 기술의 건전한 발전 방향을 모색하는 것이 중요해요. 🌐

5. 핵심 시사점: 그래서 무엇이 달라지는가?

이번 사건은 인공지능(AI) 기술 발전이 법률 분야에 미치는 파급력과 함께, 기술의 오류 가능성이 심각한 법적·사회적 파장을 일으킬 수 있다는 점을 명확히 보여주고 있어요. 😮 특히, 유명 로펌에서도 AI가 생성한 허위 법령과 판례를 걸러내지 못하고 법원에 제출하는 일이 발생했다는 사실은 AI 활용에 대한 경각심을 높이고 있습니다. ⚖️ 이는 AI가 단순히 정보를 제공하는 도구를 넘어, 이제는 법률 전문가의 업무 수행에 직접적으로 관여하게 되었음을 의미하며, AI의 '환각(Hallucination)' 현상, 즉 AI가 그럴듯한 거짓 정보를 사실처럼 만들어내는 문제가 법조계에 치명적인 영향을 미칠 수 있다는 것을 시사해요. 💡

이러한 사건들은 AI 기술의 책임 있는 사용과 검증 시스템 구축의 중요성을 더욱 부각시키고 있어요. 📈 연관 기사들에서도 살펴본 것처럼, AI가 생성한 잘못된 정보로 인해 명예훼손 소송이 제기되거나, 영국 법원에서 AI를 소송에 활용하는 행태에 제동을 걸고 변호사에게 법정모독죄 가능성을 경고하는 사례들이 발생하고 있답니다. 🚨 또한, 한국 법원에서도 AI로 만든 가짜 판례 제출 시 소송비용 부담이나 변호사 징계를 검토하고, 허위 사건을 확인할 수 있는 전산 시스템을 개발하는 등 제도적 대응에 나서고 있어요. 💻 이는 AI 기술 발전 속도에 맞춰 법률 시스템 또한 새로운 기술의 오류와 오남용에 대비한 안전장치를 마련해야 한다는 필요성을 보여줍니다. 🚀

6. 향후 전망: 시나리오별 예측

현 상태 유지 및 안착 시나리오

AI 기술이 발전하면서 법률 분야 등에서 AI 활용은 점차 늘어나겠지만, 이번 설리번 앤드 크롬웰(S&C) 로펌 사례와 같이 AI 환각(hallucination) 현상으로 인한 오류 발생 가능성은 여전히 존재할 것으로 보여요. 😟 때문에 AI 생성 결과에 대한 철저한 검증 절차를 마련하고, 이를 준수하려는 노력이 계속될 것으로 예상됩니다. 또한, AI의 정확성을 높이기 위한 기술 개발과 함께, AI 오류 발생 시 책임을 묻는 법적, 윤리적 논의도 꾸준히 이어질 거예요. ⚖️
영향력 확대 및 가속 시나리오

AI 기술의 발전 속도가 예상보다 빨라지면서, 법조계뿐만 아니라 다양한 전문 분야에서 AI 활용이 더욱 가속화될 수 있어요. 🚀 AI 환각 현상을 극복하기 위한 기술적 진전이 이루어지거나, AI를 효과적으로 검증하고 활용하는 시스템이 빠르게 구축된다면, 업무 효율성이 크게 향상될 것입니다. 예를 들어, 법원에서는 AI 기반의 허위 판례 확인 시스템이 더욱 고도화되어 재판 과정에서의 오류를 줄이고, 변호사들은 AI를 통해 더욱 신속하고 정확하게 법률 조사를 수행할 수 있게 될지도 몰라요. 🔍 이는 사법 접근성 확대와 함께 전문 서비스 비용 절감으로 이어질 수도 있답니다. 💰
변수 발생 및 흐름 반전 시나리오

AI의 오용이나 예상치 못한 대규모 오류 발생이 반복될 경우, AI 활용에 대한 사회적 불신이 커질 수 있어요. 😥 특히, AI 환각으로 인해 잘못된 법적 판단이나 명예훼손 등 심각한 피해가 발생할 경우, AI 기술 도입에 대한 규제가 강화되거나, 관련 산업의 성장이 위축될 가능성도 배제할 수 없어요. 📉 또한, AI 기술 발전의 속도가 법적·윤리적 기준 마련 속도를 앞지르게 되면, 어떤 기준으로 AI를 규제해야 할지에 대한 논쟁이 심화되면서 관련 산업의 불확실성이 커질 수도 있습니다. 🚧

[주요 용어 해설 (Glossary)]

AI 환각 (Hallucination)

인공지능(AI)이 마치 실제 사실인 것처럼 그럴듯하게 거짓 정보를 생성하는 현상을 말해요. 🤖AI가 학습한 데이터를 바탕으로 다음에 올 단어를 확률적으로 예측하여 문장을 만들기 때문에, 때로는 실제 존재하지 않거나 틀린 정보를 마치 진실인 것처럼 이야기할 수 있어요. 예를 들어, 존재하지 않는 법률 조항이나 판례를 만들어내거나, 위험한 요리법을 추천하는 등의 사례가 있어요. 이는 AI의 단순한 오류라기보다는, AI가 정보를 '이해'하는 방식과 관련된 구조적인 문제로 볼 수 있어요. 🧐
스캠 (Scam)

스캠은 속임수를 써서 다른 사람을 속이고 돈이나 정보를 빼앗는 사기 행위를 말해요. 🕵️‍♀️온라인에서 흔히 발생하는 '온라인 사기'를 뜻하는 경우가 많으며, 주로 이메일, 웹사이트, 소셜 미디어 등을 통해 피해자를 유인해요. 이번 기사에서는 캄보디아의 대규모 스캠 범죄단지와 연관된 기업이 등장하는데, 이는 실제로 존재하지 않는 사업이나 투자 기회를 미끼로 사람들을 현혹하여 금전적 이득을 취하려는 조직적인 사기 행각을 의미해요. 💰
법정모독죄 (Contempt of Court)

법정모독죄는 법원의 권위를 무시하거나 법관의 명령을 불복하는 행위를 말해요. ⚖️쉽게 말해, 재판 과정에서 법원이나 판사의 질서를 어지럽히거나 법원의 결정을 존중하지 않는 행동에 대해 처벌하는 것이죠. 변호사가 AI가 만든 가짜 법률 정보를 검증 없이 법원에 제출하는 행위는 법원의 시간과 자원을 낭비하게 하고, 재판의 공정성을 해칠 수 있기 때문에 법정모독죄의 소지가 있다고 볼 수 있어요. 📜이러한 행위는 법적 신뢰를 훼손할 수 있어 매우 엄격하게 다뤄져요. 🚨