Critical Copilot vulnerability allowed hackers to steal 2FA code from users
연구진이 마이크로소프트 M365 코파일럿에서 2FA 인증 코드 등 민감 데이터를 탈취할 수 있는 치명적 취약점을 발견했다. 이 취약점은 LLM이 사용자 명령과 제3자 콘텐츠에 포함된 악성 명령을 구분하지 못하는 근본적 한계를 드러낸다.
지난주 마이크로소프트는 M365 코파일럿 AI 플랫폼에서 최대 심각도 등급의 취약점을 패치했다. 보안 업체 Varonis는 이 취약점을 악용한 PoC 익스플로잇이 코파일럿이 접근 가능한 이메일에서 2FA 코드 등 민감 데이터를 탈취할 수 있음을 공개했다.
LLM 제공업체들은 악의적 요청에 제품이 데이터를 노출하는 것을 막지 못하고 있다. 근본 원인은 AI 봇이 사용자 지시와 모델이 요약·초안 작성 등에 사용하는 제3자 콘텐츠에 숨겨진 지시를 구분하지 못하기 때문이다. 마이크로소프트는 코파일럿 출력을 <code> 블록으로 감싸거나 신뢰할 수 없는 사이트 접근을 제한하는 등 임시방편 가드레일을 도입했으나, Varonis는 Parameter-to-Prompt Injection 기법으로 이를 우회했다.
이번 취약점은 LLM 보안의 근본적 한계를 다시 한번 확인시켜 준다. 사용자 입력과 외부 콘텐츠의 경계를 구분하지 못하는 '치명적 속임수' 문제는 현재의 가드레일 접근법으로는 완전히 해결하기 어렵다. AI 기반 도구의 보안 신뢰성을 높이기 위해서는 근본적인 아키텍처 개선이 필요하다.