AI 특허, 미국에서 연속 무효판결 — Section 101이 AI 출원 전략을 바꾼다

Home

Legal & Strategy

2026년 초 미국 연방순회항소법원(CAFC)이 AI·NLP·타겟광고 특허를 연달아 무효로 판단했습니다. 'Recentive 룰'이 굳어지는 지금, 한국 AI 스타트업의 미국 특허 전략은 어떻게 바뀌어야 할까요?

김형민 대표 변리사

Legal & Strategy

비라인특허법률사무소

2026. 4. 3.

3줄 요약

미국 항소법원(CAFC)이 2026년 2~3월 AI 관련 특허 2건을 연달아 무효로 판단했으며, 두 판결 모두 "기존 ML 기법을 새 분야에 적용한 것만으로는 특허 부적격"이라는 2025년 선례를 따랐습니다.
핵심 기준은 단순하습니다. ML 모델 자체의 기술적 개선 없이 결과(result)만 청구하면 추상적 아이디어로 판단됩니다.
미국 시장을 노리는 AI 스타트업이라면 출원 전략을 '알고리즘 적용'에서 '기술적 개선 명시'로 전환해야 할 시점입니다.

본문

스마트폰에 "내일 날씨 알려줘"라고 말하면 AI가 대답합니다. 자연어를 이해하고 정보를 찾아주는 이 기능, 특허로 보호받을 수 있을까요? 미국 법원의 최근 답변은 "경우에 따라 아니다"입니다.

2026년 2월과 3월, 미국 연방순회항소법원(CAFC, Court of Appeals for the Federal Circuit — 미국 특허 관련 항소를 전담하는 연방법원)이 AI와 머신러닝 관련 특허 2건을 잇달아 무효로 판단했습니다. 두 판결은 한국 AI 기업들이 미국 시장에서 특허를 확보하려 할 때 반드시 알아야 할 기준을 제시합니다.

§ 101이란 무엇인가 — 미국 특허법의 관문

미국 특허법 제101조(35 U.S.C. § 101)는 특허를 받을 수 있는 발명의 종류를 정합니다. 자연법칙, 자연현상, 추상적 아이디어는 특허 대상이 아닙니다. 문제는 AI·소프트웨어 발명의 상당수가 "추상적 아이디어를 컴퓨터로 구현한 것"으로 볼 여지가 있다는 점입니다.

2014년 미국 연방대법원은 Alice Corp. v. CLS Bank 판결에서 "컴퓨터를 사용한다는 사실만으로 추상적 아이디어가 특허 대상이 되지는 않는다"고 판시했습니다. 이 기준은 이후 AI·ML 특허 심사와 소송에서 핵심 판단 틀이 됐습니다.

2025년 선례: Recentive v. Fox가 세운 기준

2026년 두 판결을 이해하려면 먼저 2025년 4월 CAFC가 내린 Recentive Analytics v. Fox Corp. 판결(사건번호: No. 2023-2437, 134 F.4th 1205)을 알아야 합니다. 이 판결은 선례구속력(precedential)이 있어 이후 유사 사건에 적용될 수 있습니다.

Recentive Analytics는 TV 방송 스케줄링 최적화에 머신러닝을 적용한 특허 4건을 보유하고 Fox Corp.를 제소했습니다. CAFC는 특허 모두 § 101 부적격이라고 판단하며 핵심 법리를 이렇게 정리했습니다.

"기존의 ML 기법을 새로운 데이터 환경에 적용하는 것에 그치고, 적용되는 ML 모델 자체에 대한 개선을 공개하지 않은 청구항은 § 101 하에서 특허 부적격이다." (출처: CAFC No. 2023-2437, 2025.04.18)

이것이 이른바 'Recentive 룰'입니다. Recentive 측은 상고를 신청했지만 미국 연방대법원(SCOTUS)은 2025년 12월 이를 기각했고 (출처: SCOTUS cert. denied, 2025.12.), 이로써 Recentive 룰은 미국 전역에서 AI/ML 특허의 실질적 심사 기준으로 확립됐습니다.

최근 판례 분석

판결 1: RPI v. Amazon — NLP 특허의 패배

첫 번째 판결은 2026년 2월 24일에 나왔습니다. (출처: CAFC No. 2024-1725, 2026.02.24)

Rensselaer Polytechnic Institute(RPI)와 CF Dynamic Advances LLC는 자연어 처리(NLP — 사람의 말을 컴퓨터가 이해하는 기술) 관련 특허(US 7,177,798)를 보유하고 Amazon을 제소했습니다. 이 특허는 사용자의 자연어 발화를 메타데이터 데이터베이스에 대조해 추론하는 방법, 즉 Alexa와 같은 AI 음성 비서의 핵심 기술에 해당하는 발명이었습니다.

CAFC는 특허 무효 판결을 확정했습니다. 이유는 명확했습니다.

청구항이 범용 컴퓨터 시스템을 사용한다고만 기재돼 있고, 특정 플랫폼·운영체제로 한정되지 않았습니다.
Recentive 룰에 따라, "ML 알고리즘 자체를 개선하거나 ML을 더 나아지게 하는 것"이 없이 기존 기법을 새 환경에 적용한 것에 불과하다고 판단됐습니다.

이미지: CAFC No. 2024-1725 판결문 중 발췌

RPI가 세계 유수의 공과대학이고, 특허 기술이 실제로 NLP 분야에 기여했더라도 결과는 달라지지 않았습니다.

판결 2: 10Tales v. TikTok — "결과만 청구"의 함정

두 번째 판결은 한 달 뒤인 2026년 3월 31일에 나왔습니다. (출처: CAFC No. 2024-1792, 2026.03.31)

10Tales, Inc.는 소셜 네트워크 정보를 활용해 사용자 맞춤 디지털 콘텐츠를 제공하는 시스템 특허(US 8,856,030)를 가지고 TikTok을 제소했습니다. TikTok의 "For You" 피드 — 사용자마다 다른 동영상이 추천되는 그 기능 — 가 이 특허를 침해한다는 주장이었습니다.

CAFC는 역시 특허 부적격 판결을 유지했습니다. 핵심 이유는 "결과만 청구했을 뿐 달성 방법을 특정하지 않았다"는 것이었습니다.

"이 청구항은 결과를 청구하는 것에서 방법을 청구하는 것으로 전환하는 데 필요한 구체성이 결여돼 있다." (출처: CAFC No. 2024-1792, 2026.03.31)

10Tales는 "소셜 네트워크 데이터를 콘텐츠 개인화에 활용한 것은 종전 기술에 없던 새로운 아이디어"라고 주장했습니다. 법원의 반박은 날카로웠습니다.

"새로운 추상적 아이디어도 여전히 추상적 아이디어다. § 101의 독창성(inventive concept) 탐색은 § 102의 신규성(novelty) 증명과는 별개다."

참신하다고 해서 특허 적격이 되는 것은 아니라는 의미입니다.

두 판결이 확인한 원칙

판결	기술 분야	부적격 이유	핵심 법리
Recentive v. Fox (2025)	TV 스케줄링 ML 최적화	ML 기법을 새 환경에만 적용	Recentive 룰 확립
RPI v. Amazon (2026.2)	NLP / 자연어처리	범용 컴퓨터 + 알고리즘 적용	Recentive 룰 재확인
10Tales v. TikTok (2026.3)	소셜 콘텐츠 개인화	결과만 청구, 방법 불특정	Result-only claiming 원칙

세 판결을 관통하는 공통점이 있습니다. AI/ML 기술을 어떻게 구현했는지가 아니라, 무엇을 달성했는지(결과)만을 청구했다는 점입니다.

USPTO의 현행 심사 기준: Practical Application 3가지 조건

미국 특허청(USPTO)은 2024년 7월 AI 특허 적격성에 관한 가이드라인을 업데이트했으며(출처: USPTO 2024 Guidance Update on Patent SME, 2024.07.17), 2025년 8월 심사관 메모로 보완했습니다. § 101을 통과하려면 세 가지 조건을 갖춰야 합니다.

① 특정 활용 분야 한정
청구항이 AI 개념을 특정 기술 분야로 명확히 한정해야 합니다. "임의의 데이터를 분류하는 ML 방법"은 위험합니다. "의료 영상에서 종양을 검출하는 신경망 기반 분류 방법"은 훨씬 안전합니다.

② 기술적 개선의 명세서 기재
발명이 종래 기술 대비 기술을 어떻게 개선하는지 명세서에 설명해야 합니다. 2025년 보완 지침에 따르면 이 설명은 묵시적으로도 인정될 수 있지만, 통상의 기술자가 읽고 명확히 이해할 수 있어야 합니다.

③ 비추상적 청구항 요소 포함
정신적으로 수행 불가한 구체적 기술 단계가 청구항에 포함돼야 합니다. 신경망의 특정 처리 단계, 실시간 동작, 데이터 전송 단계 등이 해당합니다.

한국 AI 스타트업을 위한 실무 전략

연속된 판결이 한국 기업들에게 시사하는 바는 명확합니다. 특히 내부 로직을 설명하기 어려운 AI 모델의 '블랙박스' 영역에 매몰되기보다, 데이터의 입출력 과정과 사용자 접점에서 특허권을 확보하는 것이 훨씬 전략적입니다

출원 전략의 전환: '블랙박스'를 피하라

단순히 "어떤 AI 모델을 썼는가"는 더 이상 중요하지 않습니다. 대신 다음 세 가지 영역에서 구체적인 기술적 단계를 발굴해야 합니다.

입력 데이터 전처리(Preprocessing): 원천 데이터를 AI 모델이 학습하거나 추론하기에 최적의 상태로 가공하는 독자적인 알고리즘을 강조합니다. 이는 '추상적 아이디어'를 '실질적 기술 수단'으로 변모시키는 핵심 단계가 될 수 있습니다.
결과물 후처리(Post-processing): AI 모델이 내놓은 가공되지 않은 결과값을 비즈니스 목적에 맞게 정제, 필터링, 또는 재구성하는 로직을 특허화합니다.
UI/UX 및 시각화(Visualization): AI의 복잡한 분석 결과를 사용자가 직관적으로 이해하고 활용할 수 있도록 배치하거나 인터랙션하는 방법은 § 101의 벽을 넘을 수 있는 강력한 '실용적 적용(Practical Application)' 사례가 됩니다.

결론

세 판결이 연달아 나온 지금, AI 특허 전략에서 "무엇을 했는가"보다 "어떻게 했는가"를 증명하는 것이 핵심이 됐습니다. 알고리즘을 새로운 분야에 적용하는 것은 사업적으로는 혁신이지만, 미국 특허법상으로는 추상적 아이디어의 반복일 수 있습니다. 출원 단계에서 기술적 개선의 구체적 메커니즘을 청구항과 명세서에 명확히 담는 것, 그것이 § 101을 넘는 가장 확실한 방법입니다.

자주 묻는 질문 (FAQ)

Q. 우리 AI 특허가 이미 한국에 등록돼 있으면 미국에서도 괜찮지 않나요?
A. 그렇지 않습니다. 한국 특허청과 미국 USPTO는 AI 발명의 적격성을 다른 기준으로 심사합니다. 한국에서 등록된 AI 특허가 미국에서는 § 101 거절을 받는 사례가 적지 않습니다. 미국 출원 시에는 Recentive 룰을 반영한 별도의 청구항 설계가 필요합니다.

Q. ML 모델 자체의 개선이 없으면 미국 특허를 포기해야 하나요?
A. 꼭 그렇지는 않습니다. ML 모델 개선 외에도, 특정 기술 분야 한정 + 구체적 기술 단계 포함 + 기술적 개선의 명세서 기재라는 USPTO 가이드라인의 세 조건을 충족하면 § 101 통과 가능성이 높습니다. 중요한 것은 청구항이 "결과"가 아닌 "방법"을 구체적으로 특정하는 것입니다.

Q. Recentive 룰이 소프트웨어 전반에 적용되나요, AI에만 해당하나요?
A. Recentive 룰은 AI/ML 발명에 특화된 법리이지만, 그 바탕에 있는 Alice 프레임워크는 소프트웨어·비즈니스방법 특허 전반에 적용됩니다. AI 발명이 특히 주의해야 하는 이유는, ML 기법의 적용 자체가 § 101 심사에서 "추상적 아이디어"로 간주될 수 있기 때문입니다.

Q. 2026년 판결들이 한국 기업의 기존 미국 특허에도 영향을 미치나요?
A. 기존 등록 특허에 직접 영향을 주지는 않습니다. 그러나 경쟁사가 IPR(특허 무효심판)이나 소송을 제기할 경우 § 101 항변으로 활용될 수 있습니다. 현재 보유한 AI 관련 미국 특허의 청구항이 Recentive 룰에 취약한지 사전에 점검해 두는 것이 좋습니다.