[보안뉴스]새로 개발된 인공지능 활용한 딥페이크 탐지 모델, 국과수 공식 감정 업무 개시

내용 요약

행정안전부와 국립과학수사연구원이 협력하여 개발한 'AI Deepfake Analysis Model'에 대한 내용입니다. 이 모델은 인공지능 기술을 활용해 딥페이크 의심 이미지, 영상, 음성의 진위를 판별하며, 올해 상반기에 15건의 감정에 성공하고 선거관리위원회와 협력하여 1만여 건의 불법 선거물 삭제를 지원하는 등 이미 성과를 보였습니다. 향후 여성가족부 등 유관기관에도 이 모델을 확산하여 범정부 차원의 디지털 범죄 대응 역량을 강화할 계획입니다.

핵심 포인트

• AI 딥페이크 분석 모델 개발: 행정안전부와 국립과학수사연구원이 'AI Deepfake Analysis Model'을 공동 개발했습니다.
• 딥페이크 진위 판별 기능: 이 모델은 인공지능 기술을 접목하여 딥페이크 의심 이미지, 영상, 음성의 진위를 판별하는 데 사용됩니다. ️‍♀️
• 성공적인 감정 및 협력 사례: 올해 상반기 15건의 딥페이크 감정에 성공했으며, 선거관리위원회와의 협력을 통해 1만여 건의 불법 선거물 삭제를 지원했습니다. ✅
• 범정부 확산 계획: 향후 여성가족부 등 다양한 유관기관에 모델을 확산하여 범정부 차원의 디지털 범죄 대응 역량을 강화할 예정입니다.

기술 세부 내용

1️⃣ AI 딥페이크 분석 모델 (AI Deepfake Analysis Model)

• 내용: 'AI Deepfake Analysis Model'은 대한민국 행정안전부와 국립과학수사연구원이 협력하여 개발한 인공지능 기반의 첨단 보안 기술입니다. 이 모델의 핵심 목적은 악의적인 목적으로 조작되거나 생성된 딥페이크 콘텐츠, 즉 인공지능 기술을 활용하여 실제와 거의 구별할 수 없을 정도로 정교하게 위조된 이미지, 영상, 음성 파일의 진위 여부를 과학적으로 판별하는 것입니다. 이는 디지털 미디어가 확산됨에 따라 발생하는 허위 정보 유포, 명예훼손, 선거 개입 등 다양한 디지털 범죄에 대응하기 위한 필수적인 역량으로 주목받고 있습니다.
• 기술적 특징:
  • 인공지능 (AI) 활용: 딥러닝(Deep Learning)과 같은 AI 기술을 기반으로 하며, 방대한 양의 실제 데이터와 조작된 데이터를 학습하여 미묘한 패턴이나 부자연스러운 부분을 감지하는 방식으로 작동합니다.
  • 다중 미디어 분석: 이미지뿐만 아니라 동영상, 음성 파일까지 다양한 형태의 미디어를 분석할 수 있는 포괄적인 능력을 갖추고 있습니다. 이는 딥페이크 기술이 특정 미디어 형태에 국한되지 않고 다양한 방식으로 나타나기 때문에 필수적인 기능입니다.
  • 정확성 및 효율성: AI의 학습 능력 덕분에 시간이 지남에 따라 분석 정확도가 향상되며, 사람이 수작업으로 분석하는 것보다 훨씬 빠르고 효율적으로 대량의 데이터를 처리할 수 있습니다. ⚡
• 개발 주체 및 시기:
  • 주체: 대한민국 행정안전부(Ministry of Interior and Safety)와 국립과학수사연구원(National Forensic Service)이 공동으로 개발했습니다. 이는 정부 기관이 주도하여 국가 차원의 디지털 보안 역량을 강화하려는 노력의 일환입니다. ️
  • 시기: 이 모델은 4월까지 개발이 완료되어 실제 적용 단계에 돌입했습니다. ️
• 주요 성과 및 활용 사례:
  • 감정 성공 사례: 올해 상반기에만 15건의 딥페이크 의심 사례에 대한 진위 감정을 성공적으로 수행했습니다. 이는 실제 범죄 수사 및 법적 판단에 중요한 증거 자료를 제공하는 데 기여했습니다. ⚖️
  • 선거 관련 협력: 선거관리위원회(National Election Commission)와 협력하여 불법 선거물에 사용된 딥페이크 콘텐츠 1만여 건의 삭제를 지원했습니다. 이는 선거의 공정성을 확보하고 유권자 혼란을 방지하는 데 큰 역할을 했습니다. ️
• 향후 확장 계획:
  • 범정부 확산: 현재 성공적인 적용 사례를 바탕으로 여성가족부(Ministry of Gender Equality and Family) 등 다른 유관기관에도 이 모델을 확산하여 적용할 계획입니다. 이는 딥페이크가 스토킹, 성 착취물 제작 등 다양한 범죄에 악용될 수 있음을 고려한 조치입니다.
  • 디지털 범죄 대응 역량 강화: 이러한 모델의 확산을 통해 정부 차원의 디지털 범죄 대응 역량을 전반적으로 강화하고, 국민들이 더욱 안전한 디지털 환경에서 생활할 수 있도록 지원하는 것을 목표로 합니다. ️

 

출처: http://www.boannews.com/media/view.asp?idx=138479&kind=&sub_kind=