Claude Fable 5 jailbroken to bypass Anthropic's new safety guardrails
안트로픽의 최신 안전 가드레일이 적용된 클로드 페이블 5가 탈옥에 성공했습니다. 연구자들은 새로운 우회 기법을 통해 모델의 안전장치를 무력화했습니다.
안트로픽의 최신 안전 가드레일이 적용된 클로드 페이블 5가 탈옥에 성공했습니다. 연구자들은 새로운 우회 기법을 통해 모델의 안전장치를 무력화했습니다.
안트로픽은 클로드 페이블 5 출시와 함께 강화된 안전장치를 도입했으나, 연구 커뮤니티에서 이를 우회하는 방법이 발견되었습니다.
이번 탈옥은 최신 안전 기술도 완벽하지 않음을 보여주며, 지속적인 보안 강화의 필요성을 시사합니다.
커뮤니티는 Pliny(@elder_plinius)가 Claude Fable 5의 새로운 안전장치를 우회한 방법에 주목했다. 그는 유해 요청을 무해한 조각으로 분해 후 재조합하거나, 학술적 프레이밍, 긴 컨텍스트 활용, 비정상적 텍스트 변환, 분포 외 토큰 사용 등 다양한 기법을 동원했다. 이는 출력 측면 방어책이 다단계 공격에 얼마나 취약한지 보여준다는 평가가 나왔다.