[데일리시큐]세계 최초 LLM 기반 악성코드 등장…인공지능 기술의 무기화 본격화

내용 요약

러시아 연계 해킹 조직 APT28이 거대언어모델(LLM)을 악성코드 LameHug에 통합하여 사이버 공격에 활용한 사례가 발견되었습니다. 우크라이나 고위 공무원을 대상으로 정부기관 사칭 피싱 이메일을 통해 유포되었으며, 첨부된 ZIP 파일에는 Python 기반 실행 파일이 포함되어 있었습니다. 이는 AI 기반 사이버 공격의 심각성을 보여주는 첫 사례로, 사이버 보안 업계에 큰 우려를 불러일으키고 있습니다.

핵심 포인트

• APT28, LLM 기반 악성코드 LameHug 활용.
• 우크라이나 고위 공무원 대상 피싱 공격.
• AI 활용 사이버 공격의 첫 사례로 심각성 부각.
• Python 기반 실행 파일 이용.

기술 세부 내용

1️⃣ LameHug 악성코드 분석

• LameHug는 러시아 연계 해킹 조직 APT28(Fancy Bear)이 개발하고 사용한 악성코드입니다.
• 이 악성코드의 가장 큰 특징은 거대언어모델(LLM)을 직접 통합하여 공격의 효율성과 정교함을 높였다는 점입니다. LLM을 통해 감염된 시스템에서 정보를 수집하고, C&C 서버와의 통신을 위장하거나, 공격 대상에 맞춰 메시지를 생성하는 등 다양한 악의적인 활동에 활용될 수 있습니다.
• LameHug는 Python 기반의 실행 파일 형태로 유포되었습니다. Python은 크로스 플랫폼 언어이기 때문에 다양한 운영체제에서 실행될 수 있어 공격 범위를 넓힐 수 있습니다.
• 우크라이나 CERT-UA의 분석에 따르면, LameHug는 정부기관을 사칭한 피싱 이메일을 통해 유포되었습니다. 이메일에는 '부처 공식 문서'로 위장한 ZIP 파일이 첨부되어 있었고, 사용자가 압축을 해제하고 실행 파일을 실행하면 감염됩니다.

2️⃣ LLM 활용의 위험성

• LLM은 자연어 처리 능력이 뛰어나기 때문에, 악성코드 제작자는 LLM을 이용하여 더욱 정교하고 설득력 있는 피싱 메시지를 생성할 수 있습니다.
• LLM은 코드 생성에도 활용될 수 있으므로, 악성코드 변종 생성을 자동화하여 탐지를 어렵게 할 수 있습니다.
• LLM을 통해 수집한 정보를 바탕으로 공격 대상의 취약점을 파악하고, 맞춤형 공격을 수행할 수 있습니다.
• LLM은 C&C 서버와의 통신 내용을 암호화하거나 위장하여 보안 솔루션의 탐지를 우회하는 데 사용될 수 있습니다.

3️⃣ APT28 (Fancy Bear)

• APT28은 러시아 정부와 연계된 것으로 추정되는 해킹 조직입니다.
• 주요 공격 대상은 정부기관, 군사 기관, 언론사 등이며, 정보 탈취 및 사이버 espionage 활동을 주로 수행합니다. ️‍♂️
• 과거 미국 대선 개입, 세계반도핑기구(WADA) 해킹 등 여러 차례의 대규모 사이버 공격에 연루된 것으로 알려져 있습니다.

4️⃣ 대응 방안

• 출처가 불분명한 이메일 첨부파일 실행 자제 ❌
• 최신 보안 업데이트 유지 ️
• 강력한 비밀번호 사용 및 다중 인증 활성화
• 보안 교육 강화를 통한 사용자 보안 인식 제고
• AI 기반 보안 솔루션 도입을 통한 LLM 악용 공격 탐지 및 방어

 

출처: https://www.dailysecu.com/news/articleView.html?idxno=168102