Anthropic's open-source framework for AI-powered vulnerability discovery
Anthropic이 클로드 기반의 자율 취약점 발견 및 패치 프레임워크를 오픈소스로 공개했다. 정찰-발견-분류-보고-패치의 전체 과정을 자동화한다.
Anthropic이 자율 취약점 발견 및 패치를 위한 오픈소스 프레임워크 'Defending Code Reference Harness'를 공개했다. 이는 클로드(Claude)를 활용해 코드베이스의 보안 취약점을 자동으로 찾고 수정하는 참조 구현체다.
Anthropic은 클로드 미리보스(Mythos Preview) 출시 이후 여러 조직의 보안팀과 협력해 얻은 교훈을 바탕으로 이 프레임워크를 개발했다. 정찰(recon), 발견(find), 분류(triage), 보고(report), 패치(patch)의 5단계 루프를 자동화한 것이 특징이다.
이 프레임워크는 AI가 보안 취약점을 능동적으로 찾고 수정하는 자율 에이전트의 가능성을 보여준다. 오픈소스로 공개되어 보안 커뮤니티의 실험과 개선에 기여할 수 있으며, AI 기반 보안 자동화의 새로운 기준을 제시할 수 있다.
커뮤니티는 Anthropic이 공개한 취약점 탐지 오픈소스 프레임워크가 유지보수되지 않는다는 점을 지적하며, 실제로는 상용 제품 구매를 유도하기 위한 도구라는 비판이 제기됐다. 또한 실행 비용이 수백~수천 달러에 달할 수 있고, 비결정적 결과로 인해 '룻박스 스타일'이라는 지적과 함께, 기존 보안 엔지니어 고용보다 비효율적일 수 있다는 의견이 나왔다. 반면, Mythos 보고서를 인용해 AI가 보안 엔지니어 10명에 맞먹는 생산성을 보인다며 비용 대비 효과를 긍정적으로 평가하는 시각도 존재했다.