A €0.01 bank transfer could compromise a banking AI agent
유럽 은행의 AI 어시스턴트에서 간접 프롬프트 인젝션 취약점이 발견됐다. 공격자는 0.02유로 송금 시 거래 설명에 악성 명령을 숨겨 피싱 공격을 수행할 수 있다.
보안 기업 Blue41이 유럽 주요 은행의 AI 금융 어시스턴트에서 간접 프롬프트 인젝션 취약점을 발견했다. 공격자는 소액(€0.02)을 송금하면서 거래 설명 필드에 악성 프롬프트를 주입하면, 사용자가 AI 어시스턴트에 "최근 거래 내역"을 물을 때 AI가 이를 맥락으로 처리해 피싱 메시지를 생성하도록 조작할 수 있다.
현대 뱅킹 앱은 AI 어시스턴트가 거래 내역, 고객 기록, 문서 등 다양한 백엔드 데이터를 검색해 LLM에 맥락으로 전달한다. 문제는 거래 설명처럼 외부에서 입력된 데이터가 LLM에 의해 명령으로 해석될 수 있다는 점이다. 이는 특정 은행에 국한된 문제가 아니라, 신뢰할 수 없는 입력을 처리하는 모든 금융 AI 에이전트의 구조적 취약점이다.
이 공격은 피해자 기기 접근, 악성코드, 전통적 사회공학 없이도 은행 앱 내에서 신뢰할 수 있는 피싱 메시지를 생성할 수 있다. 은행 및 금융 서비스는 AI 어시스턴트가 검색한 데이터의 신뢰 수준을 평가하고, 외부 입력이 LLM 맥락으로 전달될 때 명령과 데이터를 구분하는 보안 조치가 시급하다.
댓글러들은 이 공격이 SQL 인젝션보다는 피싱에 가깝다고 보며, 프롬프트 인젝션의 본질은 "프롬프트 전달 방식"에 있다고 지적한다. 은행 AI 에이전트가 거래 내역의 URL을 무분별하게 표시하는 근본적 설계 결함을 비판하면서, 실제 공격 실현 가능성에 대해서는 "낯선 송금→AI 질문→링크 클릭"이라는 3단계 조건이 필요해 실용성이 낮다는 의견도 있다. 일부는 이 기사가 특정 보안 제품의 광고성 콘텐츠일 가능성을 제기하며 증거 부족을 지적한다.