[보안뉴스]과기정통부-여성가족부 "아동·청소년 디지털 성범죄 근절에 AI 활용"

내용 요약

과학기술정보통신부와 여성가족부는 AI 기술을 활용하여 아동·청소년 온라인 성착취를 선제적으로 대응하는 시스템 구축 사업을 시작했습니다. '디지털 기반 사회현안 해결 프로젝트'의 일환으로 진행되는 이 사업은 온라인 플랫폼에서 성착취 위험을 감지하고, 신고·삭제 지원 및 피해 아동·청소년에게 심리 상담 등 맞춤형 지원을 제공하는 것을 목표로 합니다.

핵심 포인트

• AI 기반 아동·청소년 온라인 성착취 선제적 대응 시스템 구축
• ️ 온라인 플랫폼에서 성착취 위험 자동 감지 및 신고·삭제 지원 강화
• 과학기술정보통신부와 여성가족부 협력 사업
• 피해 아동·청소년에게 심리 상담 등 맞춤형 지원 제공
• '디지털 기반 사회현안 해결 프로젝트'의 일환으로 추진

기술 세부 내용

1️⃣ AI 기반 온라인 성착취 위험 감지 시스템

• AI Detection Technology: 다양한 온라인 플랫폼(SNS, 채팅앱, 온라인 게임 등)에서 발생하는 성착취 관련 키워드, 이미지, 영상, 행위 패턴 등을 AI가 자동으로 감지합니다. 머신러닝(Machine Learning) 기술을 기반으로 학습 데이터를 지속적으로 업데이트하여 정확도를 높이고 변화하는 성착취 수법에 대응합니다.
• Text Analysis: 채팅 내용, 게시글 등 텍스트 데이터에서 성착취 관련 용어, 은어, 그루밍(Grooming) 시도 등을 식별합니다. 자연어 처리(Natural Language Processing, NLP) 기술을 활용하여 문맥 분석을 통해 정확도를 향상시킵니다.
• Image & Video Analysis: 이미지 및 영상 데이터에서 성착취 관련 시각적 요소들을 감지합니다. Computer Vision 기술을 활용하며, 불법 촬영물, 아동·청소년 성착취물 등을 식별하고 유포를 차단합니다.
• Pattern Recognition: 사용자의 행위 패턴 분석을 통해 성착취 위험을 예측합니다. 예를 들어, 특정 사용자가 미성년자에게 지속적으로 접근하거나, 성적으로 암시적인 메시지를 반복적으로 전송하는 등의 패턴을 감지합니다.

2️⃣ 신고·삭제 지원 시스템

• Automated Reporting: AI가 성착취 위험을 감지하면 자동으로 관련 기관(경찰, 플랫폼 운영자 등)에 신고합니다. 신속한 대응을 통해 피해 확산을 방지합니다.
• ❌ Content Removal: 성착취 관련 불법 콘텐츠를 자동으로 삭제하거나 차단합니다. Digital Forensics 기술을 활용하여 증거를 확보하고, 관련 계정 정지 등의 조치를 취합니다.
• ‍ Platform Collaboration: 다양한 온라인 플랫폼과 협력하여 시스템 연동 및 정보 공유를 강화합니다. 플랫폼 운영자에게 실시간으로 위험 정보를 제공하고 공동 대응 체계를 구축합니다.

3️⃣ 피해 아동·청소년 지원 시스템

• Counseling & Support: 피해 아동·청소년에게 심리 상담, 법률 지원, 의료 지원 등 맞춤형 지원을 제공합니다. Trauma-Informed Care를 기반으로 피해자의 심리적 안정과 회복을 돕습니다.
• Privacy Protection: 피해 아동·청소년의 개인정보 보호를 최우선으로 고려합니다. 데이터 암호화, 접근 권한 제한 등 보안 강화 조치를 통해 정보 유출을 방지합니다.
• Public Awareness Campaign: 온라인 성착취 예방 및 대응을 위한 대국민 인식 개선 캠페인을 진행합니다. 교육 자료 제작, 홍보 활동 등을 통해 사회적 경각심을 높이고 안전한 온라인 환경 조성에 기여합니다.

 

출처: http://www.boannews.com/media/view.asp?idx=138306&kind=&sub_kind=