[데일리시큐]북한, 생성형 AI 무기화해 320개 기업에 침투…크라우드스트라이크 “AI 에이전트가 새로운 공격 표면”

내용 요약

북한 연계 해킹 세력 ‘페이머스 천리마(FAMOUS CHOLLIMA)’는 생성형 인공지능(GenAI)을 이용해 가짜 이력서와 딥페이크 영상을 자동 제작, 전 세계 320개 이상의 기업에 위장 취업 형태로 침투했다는 CrowdStrike 분석이 발표되었습니다.

핵심 포인트

• GenAI 기반 이력서 자동 생성으로 신뢰성 높은 사칭 서류 제작
• 딥페이크 영상 활용으로 면접 과정을 조작해 내부 접근 확보
• AI 기술이 내부자 위협을 ‘신경망‑연결형 사회공학’ 단계로 끌어올림

기술 세부 내용

1️⃣ GenAI를 이용한 가짜 이력서 제작

• ① 데이터 수집: 공공 이력서·경력 데이터베이스를 크롤링 → AI 학습용 대용량 데이터 확보
• ② 모델 학습: GPT‑4·Claude 등 대형 언어 모델(LLM)에게 “기업 X의 직무에 맞는 이력서”를 작성하도록 fine‑tune
• ③ 자동 생성: 공격자는 직무, 기업, 위치를 입력하면 LLM이 문맥에 맞는 이력서와 추천서, 포트폴리오를 한 번에 완성
• ④ 사칭 강화: 서명, 학교 인증서 이미지 등 세부 정보를 합성하여 실제 이력서처럼 보이도록 후처리

효과: 취업 포털의 서류 검증 단계에서 AI가 생성한 서류를 정상 문서로 인식하도록 함.

2️⃣ 딥페이크 영상으로 면접 조작

• ① 목표 인물 수집: 기업 인사 담당자 또는 보안 담당자의 공개 영상과 사진을 수집
• ② 얼굴 모델링: 3D Face Reconstruction → FaceSwap 알고리즘으로 얼굴 합성
• ③ 음성 합성: Whisper + Speech‑to‑Text → TTS 모델로 맞춤 음성 생성 (목소리, 억양 포함)
• ④ 영상 합성: DeepFake Studio를 통해 얼굴과 음성을 동기화, 자연스러운 눈짓, 입 모양 등 동작 보정
• ⑤ 면접 실행: 화상 면접(Zoom, Teams 등) 중 실시간으로 딥페이크 영상을 재생 → 신뢰성 있는 사칭 진행

효과: 기업 내부 검증 절차를 우회해 보안 담당자에게 “정식 지원자”로 인식시켜 접근 권한을 획득.

3️⃣ AI 기반 내부자 위협 진화

• ① AI 훈련 데이터 확보: 취약 기업 리스트, 내부자 취업 포털, 공개 취업 채널 정보 수집
• ② 자동화 공격 루틴: LLM으로 “가짜 지원서 작성 → 딥페이크 면접 → 보안 담당자와 연결” 흐름을 스크립트화
• ③ 지속적 학습: 성공 사례(취업 성공, 접근 획득) 데이터를 바탕으로 모델 파인튜닝, 공격 효율성 증대
• ④ 자동 탐지 회피: AI가 생성한 패턴을 분석하고, 방어 솔루션에 맞춰 변형(방금 방어 정책을 우회하는 문장, 영상 압축 방식 등)

전략: 전통적인 내부자 위협(인증 탈취, 물리적 접근)에서 “지능형 사회공학” 단계로 이동, 방어가 어려운 새로운 위협 벡터를 형성.

---

방어 권고
1. AI‑감지 솔루션(스팸 필터, DeepFake Detection) 도입
2. 이중 인증(MFA) 적용, 내부자 접근 시 추가 인증 요구
3. 정기 보안 교육: 딥페이크 인식 훈련 및 사회공학 인지 강화

위와 같은 단계별 분석을 통해 조직은 GenAI 기반 내부자 위협에 대비할 수 있습니다.

 

출처: http://www.dailysecu.com/news/articleView.html?idxno=169253