Trump admin blocking Fable 5 rerelease unless Anthropic ensures no jailbreaks
트럼프 행정부가 앤트로픽의 AI 모델 Fable 5 재출시를 위해 모든 탈옥을 차단할 것을 요구했지만, 보안 전문가들은 이것이 불가능하다고 말한다. 앤트로픽은 정부의 우려가 과장되었다고 주장하며 기술 회의에서 입장을 재확인했다.
트럼프 행정부가 앤트로픽에 AI 모델 Fable 5의 재출시를 허용하는 조건으로 모든 탈옥(jailbreak)을 차단할 것을 요구했다. 앤트로픽은 지난주 수출 통제로 모델을 내렸으며, 정부는 NSA의 분석을 근거로 탈옥 취약점이 심각하다고 주장한다. 앤트로픽은 우려가 과장되었다고 반박하며 상무부와 국가사이버국장실과의 기술 회의에서 입장을 재확인했다.
NSA는 Fable 5의 가드레일을 무력화할 방법이 있다고 결론지었으며, 행정부는 이 문제를 앤트로픽이 해결해야 할 과제로 보고 있다. 상무부와 NSA는 모든 모델의 탈옥을 추적할 인력이나 대역폭이 없어, 앤트로픽이 자체적으로 취약점을 찾아 정부에 신고해야 한다고 요구한다. 그러나 보안 전문가들은 가드레일이 임시방편에 불과하며 숙련된 사용자나 미래 AI 모델이 우회 방법을 찾을 것이므로 완전한 차단은 불가능하다고 지적한다.
이번 사태는 AI 규제와 기업의 책임 경계를 둘러싼 갈등을 보여준다. 정부의 요구가 기술적으로 실현 불가능할 경우, 규제와 혁신 간의 긴장이 심화될 수 있다. 또한, AI 안전성에 대한 정부의 개입 수준과 기업의 자율 규제 능력에 대한 논의를 촉발할 전망이다.
댓글 작성자는 '젤브레이크 불가능 보장' 요구가 현실적이지 않다고 지적하며, 이 조건이 AI 안전성 논리를 내세우는 Anthropic을 견제하는 계기가 될 수 있다고 본다. 또한 오픈 모델의 존속과 규제 포획 방지에 긍정적 영향을 줄 수 있지만, 트럼프 행정부의 의도가 부정적일 가능성도 언급했다.