Anthropic shuts down Fable, Mythos models
앤트로픽이 미국 상무부의 수출통제 명령에 따라 출시 직후인 Fable 5와 Mythos 5 모델을 모든 고객에 대해 차단했다. 정부는 Fable 5의 탈옥(jailbreak)이 국가안보 위협이 될 수 있다고 우려했지만, 앤트로픽은 이에 동의하지 않으며 업계 전반에 과도한 선례가 될 것이라고 반발했다.
앤트로픽이 지난 금요일 밤, 출시된 지 며칠 만에 Fable 5와 Mythos 5 모델에 대한 모든 접근을 차단했다. 이는 미국 상무부의 수출통제 명령을 준수하기 위한 조치로, 해당 모델의 미국 외 사용이 제한된다.
미국 행정부는 Fable 5의 탈옥(jailbreak)이 사이버보안, 화학, 생물학 분야의 분류기(classifier) 기반 안전장치를 우회할 수 있다는 보고를 받고 국가안보 위협으로 판단했다. 앤트로픽은 정부로부터 '좁은 범위의 탈옥 가능성'에 대한 구두 증거만 받았으며, 이 탈옥이 사소한 소프트웨어 취약점을 찾는 데 그친다고 주장한다. 트럼프 대통령은 이달 초 AI 모델 제작자에게 자발적 보안 테스트를 요구하는 행정명령에 서명한 바 있다.
이번 사태는 AI 모델 배포에 대한 정부 규제의 강력한 선례가 될 수 있다. 앤트로픽은 '좁은 탈옥 가능성'을 이유로 상용 모델을 회수하는 기준이 업계 전반에 적용된다면 모든 새로운 모델 배포가 중단될 것이라고 경고했다. 이는 AI 안전과 혁신 사이의 긴장 관계를 보여주며, 향후 정부와 기업 간 갈등의 시발점이 될 수 있다.