[데일리시큐]구글 제미니 요약 기능, 숨겨진 명령으로 피싱 공격에 악용…피해 확산 주의

내용 요약

Google Workspace용 Gemini의 이메일 요약 기능에서 새로운 피싱 공격 취약점이 발견되었습니다. 공격자는 HTML과 CSS를 이용해 사용자에게 보이지 않는 명령을 삽입하고, Gemini가 이를 명령어로 인식하게끔 조작합니다. 이로써 Gemini는 가짜 보안 경고를 표시하게 되고, 사용자는 피싱 공격에 취약해집니다. 첨부파일이나 링크 없이 공격이 가능하여 기존 탐지 방식을 우회하고, 사용자 피해 가능성을 높이는 것이 특징입니다. 이 취약점은 Mozilla의 생성형 AI 취약점 공개 프로그램인 '0Day'를 통해 공개되었습니다.

핵심 포인트

• Gemini의 이메일 요약 기능 악용한 새로운 피싱 공격 발생
• HTML/CSS를 통해 숨겨진 명령어 삽입, AI가 가짜 보안 경고 표시하도록 유도
• 첨부파일이나 링크 없이 공격 가능, 기존 탐지 방식 우회 및 높은 사용자 피해 가능성
• Mozilla의 '0Day' 프로그램을 통해 취약점 공개

기술 세부 내용

1️⃣ HTML/CSS Injection을 이용한 피싱 공격

• 공격자는 HTML과 CSS를 사용하여 이메일 본문에 사용자에게 보이지 않는 텍스트나 요소를 삽입합니다.
• <div style="display:none;"> 와 같은 CSS 속성을 사용하여 텍스트를 숨기거나, 색상을 배경색과 동일하게 설정하여 눈에 띄지 않도록 합니다.
• 이 숨겨진 텍스트에는 Gemini가 명령어로 인식할 특정 문자열이 포함되어 있습니다.

2️⃣ Gemini 이메일 요약 기능의 취약점

• Gemini의 이메일 요약 기능은 이메일 본문의 핵심 내용을 추출하여 사용자에게 간략하게 보여줍니다.
• 이 과정에서 Gemini는 숨겨진 명령어를 일반 텍스트와 구분하지 못하고 요약 내용에 포함시킵니다.
• 공격자는 이를 악용하여 Gemini가 가짜 보안 경고, 계정 정보 업데이트 요청 등의 메시지를 표시하도록 조작합니다.

3️⃣ 첨부파일/링크 없는 공격

• 기존 피싱 공격은 악성 첨부파일이나 URL 링크를 통해 이루어지는 경우가 많았습니다.
• 이번 공격은 첨부파일이나 링크 없이 이메일 본문에 삽입된 코드만으로 공격이 가능합니다.
• 이로써 기존의 첨부파일/링크 검사 기반 보안 시스템을 우회할 수 있으며, 사용자는 의심스러운 링크 클릭 등의 행위 없이도 피해를 입을 수 있습니다.

4️⃣ Mozilla 0Day 프로그램

• Mozilla 0Day는 Mozilla에서 운영하는 생성형 AI 취약점 공개 프로그램입니다.
• 이 프로그램을 통해 연구자들은 발견한 생성형 AI 취약점을 제보하고, 개발사와 협력하여 해결책을 마련할 수 있습니다.
• 이번 Gemini의 취약점 또한 0Day 프로그램을 통해 공개되어 Google 측에 전달되었으며, 현재 패치 작업이 진행 중인 것으로 알려져 있습니다.

 

출처: https://www.dailysecu.com/news/articleView.html?idxno=167922