[보안뉴스][IP월드] 中 변리사회, 특허 출원서 작성에 AI 사용 금지...‘윤리·실무 규범’ 개정

내용 요약

중국 변리사회(ACPAA)가 회원들을 대상으로 AI 사용을 엄격 금지한 가운데, AI가 특허 출원서 작성과 법원 판결에 활용되는 사례가 증가하며 사법 윤리 논쟁이 뜨거워지고 있습니다.
본 문서에서는 AI 기반 특허 문서 작성, AI 생성 허위 판결의 위험, 그리고 ACPAA가 발표한 새로운 직업윤리 규범과 이를 준수하기 위한 실무적 방안을 단계별로 정리합니다.

핵심 포인트

• AI 활용 범위와 위험: AI가 특허 문서와 판결문을 자동 생성할 때 발생할 수 있는 오류, 기밀 유출, 허위 주장의 위험성을 인식하고 대비해야 합니다.
• ACPAA 규정: ‘특허대리인 직업윤리 및 실무규범’은 AI 사용을 금지함으로써 법무실무의 신뢰성과 투명성을 확보하려는 의도를 담고 있습니다.
• 컴플라이언스 전략: 내부 정책, 기술적 검증, 교육 프로그램, 감사 체계를 구축해 AI 사용 금지와 관련 법령을 준수해야 합니다.

기술 세부 내용

1️⃣ AI-Assisted Patent Drafting

AI(Artificial Intelligence) 기반 자연어 처리(NLP) 모델은 과거 특허 문헌을 학습해 새로운 출원서 초안을 자동으로 생성할 수 있습니다.
- 작업 흐름
1️⃣ 데이터 수집: 과거 유사 특허(출원서·심사 의견·판례)를 대용량으로 수집합니다.
2️⃣ 전처리: 특허 전문 용어, 표준 문장 구조, 분류 코드를 정제합니다.
3️⃣ 모델 훈련: GPT‑4나 Claude 같은 LLM을 사용해 “출원서 초안 생성” 태스크에 특화된 fine‑tuning을 진행합니다.
4️⃣ 자동 초안 생성: 사용자가 입력한 발명 개요와 핵심요소를 바탕으로 AI가 요약·정의·청구항을 초안합니다.
5️⃣ 인간 검토: 변리사가 최종 초안을 검토해 정확성, 특허성, 문서 형식을 보완합니다.

• 위험 요소
  • 권리 침해: AI가 유사 문서를 참조해 불법 복제된 문장을 생성할 가능성.
  • 전문성 부족: LLM은 법적 용어를 정확히 이해하지 못해 잘못된 청구항을 만들 수 있음.
  • 보안: 클라우드 기반 AI 서비스가 기업 기밀 정보를 외부로 유출할 위험.
• 대응 방안
  • 오픈 소스 LLM 사용: 자체 데이터로 학습한 모델을 내부망에서 운영해 외부 접근을 차단합니다.
  • 검증 프레임워크 구축: 초안에 대해 문자열 유사도 검사, 권리 침해 탐지 도구를 적용합니다.
  • 정책 문서화: AI 활용 시나리오, 승인 절차, 책임 소재를 명시한 내부 매뉴얼을 제작합니다.

2️⃣ AI-Generated Legal Documents & False Judgments

법원에서 AI가 판결문을 자동으로 생성하거나, AI가 허위 판결을 제시하는 사례가 보고되었습니다.
- AI 판결문 생성 과정
1️⃣ 사건 데이터 입력: 사건 번호, 당사자, 사실관계, 관련 법령을 입력합니다.
2️⃣ LLM 학습: 판결문 데이터셋(법원 판결문, 관할 법원 선례)으로 fine‑tuning.
3️⃣ 판결문 초안 생성: AI가 법리 해석·판결 이유·판결문 형식을 자동 작성.
4️⃣ 인간 검토: 변호사·법원 판사 등 최종 검토.

• 허위 판결의 위험
  • 사실 왜곡: AI가 입력된 사실을 과장하거나 변형해 잘못된 판결을 생성.
  • 법리 해석 오류: 최신 판례를 반영하지 못해 부적절한 법리 적용.
  • 공정성 침해: AI가 편향된 데이터를 학습해 특정 인물이나 집단에 유리한 판결을 도출.
• 사례 분석
  • 한국 법원 사례: 2023년 한 판결문에 AI가 생성한 가상 증언이 포함돼 재심 요구.
  • 중국 사례: AI가 “인공지능 생성 허위 판결”을 제출한 사건이 적발돼, ACPAA가 AI 사용을 금지한 이유를 강조.
• 대응 전략
  • 법률 문서 AI 검증 도구: 텍스트 정합성 검사(사실관계 일치 여부), 법리적 타당성 점검(법령 매칭) 기능 도입.
  • 투명성 요구: AI 사용 시 ‘AI 기반 문서’ 라벨을 명시하고, AI 버전 번호와 학습 데이터 범위를 공개.
  • 인간 최종 검증: AI가 생성한 문서에 대해 전문가(법률가, 변호사, 판사)가 반드시 검토하고 서명하도록 프로세스화.

3️⃣ ACPAA's “Patent Attorney Professional Ethics & Practice Norms”

ACPAA는 2024년 개정된 “특허대리인 직업윤리 및 실무규범”에서 AI 사용을 명시적으로 금지했습니다.
- 주요 조항
1️⃣ AI 사용 금지: 특허 출원서 작성, 기밀 문서 관리, 변리인 간 커뮤니케이션 등 모든 직무에서 AI 도구 사용 금지.
2️⃣ 투명성 의무: AI가 개입한 경우, 그 사실을 명확히 밝히고, AI 도구의 출처와 사용 목적을 기록.
3️⃣ 보안 책임: 기밀 정보 유출 위험을 최소화하기 위해 데이터 보안 조치 강화 (암호화, 내부망 사용).

• 목적
  • 지식 재산 보호: AI가 무단으로 유사 문서를 생성해 특허권 침해를 초래하는 것을 방지.
  • 전문성 보존: AI가 대체할 수 없는 변리인의 전문적 판단과 윤리적 책임을 유지.
  • 신뢰성 확보: 고객과 제휴 기관에 대한 투명성을 통해 신뢰도 향상.
• 준수 체크리스트
  • AI 도구 인벤토리: 조직 내부에서 사용 중인 AI 솔루션 리스트화.
  • 사용 승인 절차: AI 도구 도입 전, 윤리위원회(ACPAA 지침에 부합) 승인.
  • 정기 감시: 내부 감사를 통해 AI 사용 여부와 절차 준수 여부를 검증.

4️⃣ Compliance and Oversight Mechanisms

ACPAA 규정과 국내 법령을 모두 충족하기 위한 실무적 체계 구축이 필요합니다.
- 내부 정책 수립
- AI 사용 금지 정책: 모든 업무 프로세스에 AI 금지 명시, 위반 시 제재 조치 포함.
- 데이터 거버넌스: 특허 데이터 보호를 위한 암호화, 접근 제어 정책 마련.

• 기술적 검증 도구
  • 문서 유사도 검사: AI가 생성한 문서가 기존 특허와 유사한지 자동 검사.
  • 권리 침해 탐지: 자동화된 도구(예: LexisNexis, Thomson Reuters)를 활용해 문서가 침해 여부 판단.
• 인력 교육
  • 윤리 교육: AI 금지 규정과 특허 작성 윤리 강의.
  • 기술 교육: AI 도구 사용 시 한계와 위험을 인식하도록 교육.
• 감사 및 리포트
  • 내부 감사: AI 금지 정책 준수 여부를 주기적으로 점검.
  • 외부 감시: ACPAA 및 국내 특허청에 정기 리포트 제출.

5️⃣ Ethical and Security Implications

AI 도입이 거부되더라도, 관련 기술을 전반적으로 이해하고 윤리적·보안적 위험을 최소화해야 합니다.
- 윤리적 고려사항
- 공정성: AI가 특정 그룹에 유리하도록 설계되지 않았는지 검증.
- 책임 소재: AI가 생성한 문서에 오류가 있을 경우 책임을 명확히 할 것.

• 보안 위험
  • 데이터 유출: 클라우드 AI 서비스 사용 시 기밀 특허 데이터 노출 위험.
  • 악성 코드: AI 모델에 포함된 악성 스크립트가 내부망을 침해할 가능성.
• 대응 방안
  • 제한적 접근: AI 도구를 내부망에서만 운영하고 외부 접근 차단.
  • 모델 검증: AI 모델이 변조되지 않았는지 주기적 펜테스트 수행.
  • 법적 조치: AI 관련 사고 발생 시, 민사·형사 책임을 명확히 할 수 있는 계약 조항 삽입.

---

최종 정리
- AI는 특허 출원서와 판결문 작성에 유용하지만, 정확성, 보안, 윤리 측면에서 엄격한 관리가 필수입니다.
- ACPAA의 ‘특허대리인 직업윤리 및 실무규범’은 AI 사용을 금지해 변리인의 전문성을 보호하고, 신뢰성을 확보합니다.
- 내부 정책, 기술적 검증 도구, 교육, 감시 체계를 통합해 AI 사용 금지와 관련 법령을 준수하면서도 지식 재산 보호와 법적 안정성을 동시에 확보할 수 있습니다.

---

 

출처: http://www.boannews.com/media/view.asp?idx=139673&kind=&sub_kind=