Anthropic: Measuring LLMs' impact on N-day exploits
Anthropic 연구에 따르면, 최첨단 LLM은 공개된 취약점(N-day)에 대한 익스플로잇을 자동으로 생성할 수 있다. 이는 패치 갭(patch gap) 기간 동안 공격자에게 큰 이점을 제공하며, 보안 위협을 가속화한다.
Anthropic은 LLM이 N-day 취약점(공개된 취약점)을 악용하는 능력을 평가한 연구 결과를 발표했다. Claude Mythos Preview 모델은 18개의 Firefox 보안 패치 중 8개에 대해 코드 실행 익스플로잇을 자율적으로 제작했고, 21개의 Windows 커널 패치(소스 코드 없음) 중 8개에서 전체 SYSTEM 권한 상승 체인을 생성했다.
N-day 취약점은 이미 공개되었지만 패치가 적용되지 않은 시스템을 대상으로 하며, 패치 갭 기간 동안 큰 위협이 된다. 기존에는 패치 diffing이 느리고 전문적인 작업이었으나, LLM이 이 과정을 자동화하여 공격 속도를 크게 높일 수 있음이 드러났다.
LLM의 발전으로 패치 갭 기간의 위험이 증가했으며, 방어자는 패치 배포 속도를 높여야 한다. 공개 모델도 익스플로잇을 생성할 수 있어, 누구나 이 기술을 악용할 가능성이 있다.