Vulnerability Disclosure: Stealing Emails via Firefox's AI Features
파이어폭스의 AI 요약 기능에서 페이지 제목을 통한 프롬프트 인젝션 공격이 가능한 취약점이 발견됐다. 공격자는 악성 페이지 제목에 숨긴 명령으로 사용자의 이메일 정보를 탈취할 수 있다.
파이어폭스의 AI 요약·설명·맞춤법 검사 기능에서 프롬프트 인젝션 취약점이 발견됐다. 사용자가 악성 페이지에서 AI 요약 기능을 사용하면, 페이지 제목에 포함된 악의적 명령이 AI 챗봇(Claude, Copilot 등)에 전달되어 사용자 이메일 등 개인정보를 탈취할 수 있다.
파이어폭스는 AI 기능을 위해 페이지 제목과 선택 텍스트를 포함한 프롬프트를 사이드바의 서드파티 챗봇 IFrame에 전달한다. 공격자는 페이지 제목을 조작해 챗봇이 이메일을 읽고 외부 도메인으로 전송하도록 명령할 수 있다. Copilot 무료 버전은 이메일 본문 대신 제목(발신자, 시간, 주제)만 접근 가능하지만, 2FA 코드나 로그인 코드가 이메일 제목에 포함된 경우 심각한 보안 위협이 된다.
이 취약점은 AI 기능이 사용자 입력을 신뢰하는 방식의 근본적 문제를 드러낸다. 브라우저 AI 통합에서 프롬프트 인젝션 방어가 필수적이며, 사용자 데이터 접근 권한을 최소화해야 한다. Mozilla는 이 취약점을 인지하고 패치를 준비 중이다.
댓글은 브라우저가 AI 기능을 통해 웹페이지 내용에 접근할 때, 페이지 제목이 사용자 명령처럼 작동해서는 안 된다고 지적합니다. 이는 AI가 이메일이나 캘린더 같은 민감한 데이터에 접근할 때 보안 위험이 커질 수 있음을 강조합니다. 사용자들은 AI 기능의 설계상 허점이 실제 위협으로 이어질 수 있다고 우려합니다.