AI가 지어낸 '가짜 판례', 이제 특허를 향합니다.

법정에 등장한 '존재하지 않는 판례'

2025년 8월, 서울북부지방법원의 한 민사사건 판결문에는 평소 보기 어려운 문장이 담겼습니다. 원고가 제출한 서면에 인용된 대법원 판례 일부가 실제로는 존재하지 않는 사건번호이며, 또 다른 인용 판례는 해당 쟁점과 무관하다는 재판부의 지적이었습니다. 생성형 AI가 그럴듯하게 만들어낸 '가짜 판례'가 법정에 그대로 제출된 것입니다.

이 사건은 단발성 해프닝으로 끝나지 않았습니다. 비슷한 사례가 각급 법원에서 잇따라 보고되자, 대법원 법원행정처는 2025년 10월 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'를 꾸려 대응에 나섰고, 2026년 3월 31일 그 결과를 발표했습니다. 발표된 대응 방안은 구체적입니다.

AI가 만든 허위 법령·판례 인용으로 불필요한 소송비용이 발생했거나 재판이 지연된 경우, 재판부가 그 비용의 전부 또는 일부를 당사자에게 부담시킬 수 있습니다.

허위 판례가 인용된 서면은 변론에서 진술이 제한되고, 판결문에 그 내용이 허위임을 적시할 수 있습니다.

변호사가 AI 생성 자료를 제대로 검증하지 않고 제출한 경우, 재판부가 대한변호사협회에 징계를 의뢰할 수 있습니다.

법원은 제도적 장치도 함께 가동하고 있습니다. 2026년 2월부터 사법정보공개포털에서 인용된 사건번호가 실재하는지 확인할 수 있는 '허위 사건번호 확인 서비스'를 운영하기 시작했습니다. AI 환각이 일회성 실수가 아니라 검증 체계로 다뤄야 할 상시 리스크로 자리 잡고 있다는 신호입니다.

국민일보, "원고 판례는 AI가 만든 가짜… AI 환각 대응 나선 법원" (2026.03.24)
서울북부지법 가짜 판례 적시 사례 및 법원행정처 TF 보고서 https://www.kmib.co.kr/article/view.asp?arcid=1774256988

법률신문, "AI 환각 가짜 판례·법령 인용 대응 나선 법원" (2026.03.31)
TF 대응 방안(소송비용 부담·진술 제한·판결문 적시·변협 징계 의뢰) https://www.lawtimes.co.kr/news/articleView.html?idxno=218596

6월, 특허 영역에서도 같은 경고가 나왔습니다

흥미로운 점은, 같은 문제가 거의 동시에 특허의 영역에서도 다뤄지기 시작했다는 것입니다.

2025년 10월 1일 특허청에서 국무총리실 소속으로 승격해 출범한 지식재산처는, 2026년 6월 「인공지능(AI) 시대 올바른 특허출원 안내서」를 발간했습니다.

이 안내서는 AI 환각으로 허위 정보가 생성될 수 있음을 명시하면서, AI가 만든 가상의 실시예는 'AI 생성 실시예'임을 표시해 실제 실험결과와 혼동되지 않도록 해야 한다고 안내하고 있습니다.

경고의 수위는 가볍지 않습니다. 안내서는 AI가 제시한 실험결과를 검증하지 않고 출원할 경우 실시 가능성이 없다는 이유로 거절되거나, 착오로 등록되더라도 결국 무효가 될 수 있다고 보고 있습니다. 나아가 실험·확인하지 않은 데이터임에도 이를 속여 제출해 특허를 받는 경우, 특허법 제229조의 거짓행위의 죄로 처벌받을 수 있다는 점까지 짚고 있습니다.

법원에서 시작된 '검증되지 않은 AI 생성물' 문제가, 이제 특허 출원이라는 또 다른 전문 영역으로 옮겨오고 있는 셈입니다.

왜 특허에서 더 무거운 문제가 되는가

특허 제도는 '실제로 작동하고, 제3자가 다시 구현할 수 있는 기술'을 전제로 일정 기간 독점권을 부여하는 구조로 움직입니다. 명세서에 적힌 실시예와 효과 데이터는 그 전제를 뒷받침하는 핵심 근거가 됩니다.

문제는 여기서 생깁니다. AI가 생성한 실시예나 효과 데이터는 형식상 더없이 그럴듯하지만, 실체와 재현성이 없을 수 있습니다. 명세서가 화려해도 그 안의 데이터가 실험으로 뒷받침되지 않으면, 실시 가능성 결여를 이유로 거절되거나 사후에 무효로 연결됩니다.

충돌 지점은 두 가지로 압축됩니다. 하나는 'AI로 빠르고 많이 출원하려는 생산성'과 '실체를 검증하려는 특허 제도의 신뢰성'이 부딪히는 지점입니다. 다른 하나는, 검증 없이 제출한 행위가 단순한 거절을 넘어 거짓행위의 죄라는 형사적 위험으로까지 이어질 수 있다는 지점입니다. AI 활용 자체가 문제가 아니라, 검증 단계를 건너뛴 제출이 책임의 문제로 전환되고 있는 것입니다.

스타트업과 투자자에게 달라지는 것

이 변화는 AI를 일상적으로 쓰는 스타트업과, 그 기술을 평가하는 투자자 모두에게 다른 무게로 다가오고 있습니다.

스타트업 입장에서는,

AI로 명세서 초안이나 실시예를 빠르게 만드는 것 자체는 문제가 되지 않지만, 검증되지 않은 데이터를 그대로 출원에 담는 일이 거절·무효, 나아가 형사적 위험으로 연결되고 있습니다.

AI가 생성한 실시예는 그 사실을 표시하고 실제 실험데이터로 뒷받침하는 작업이 더 중요해지고 있습니다. 특히 의약·바이오 분야처럼 시뮬레이션 결과만으로 효과를 인정받기 어려운 영역에서는 그 간극이 더 크게 벌어집니다. 경쟁의 축이 '얼마나 빨리, 많이 출원하느냐'에서 '얼마나 검증되고 재현 가능한 권리를 확보하느냐'로 이동하고 있습니다.

투자자 입장에서는,

실사에서 특허의 '건수'보다 '실체'를 보는 시선으로 이동하고 있습니다. AI로 양산된 포트폴리오는 외형상 두꺼워 보여도 무효 리스크를 안고 있을 수 있습니다.

핵심 특허의 명세서가 실험데이터와 재현성 근거를 갖추고 있는지, AI 생성물에 과도하게 의존한 출원은 아닌지가 기술 실사의 점검 항목으로 떠오르고 있습니다. 이는 곧 보유 IP의 안정성, 즉 투자 자산의 견고함을 가늠하는 지표로 연결됩니다.

속도의 경쟁에서 검증의 경쟁으로

법원과 특허청이 비슷한 시기에 같은 문제를 두고 대응에 나선 것은, AI가 만들어낸 생산성의 이면에 '무엇이 진짜인가'를 가려내는 새로운 비용이 쌓이고 있음을 보여줍니다. AI는 연구개발과 출원의 속도를 끌어올리는 동시에, 그 산출물을 검증하는 책임을 사람에게 더 무겁게 돌려놓고 있습니다.

그 결과, 출원의 속도가 아니라 검증의 깊이가 권리의 가치를 가르는 국면으로 흐름이 이동하고 있습니다. AI를 잘 쓰는 역량만큼이나, AI가 내놓은 결과를 가려내고 실체로 뒷받침하는 역량이 기술 경쟁력의 일부로 편입되고 있는 셈입니다.