Anthropic walks back policy that could have 'sabotaged' researchers using Claude
앤트로픽이 경쟁 AI 모델 개발을 위해 클로드를 사용하는 연구자들의 성능을 몰래 저하시키는 정책을 발표했다가 거센 반발로 철회했다. 회사는 정책을 투명하게 변경하고 사과했다.
앤트로픽이 최신 AI 모델 클로드 페이블 5 출시와 함께, 경쟁 AI 모델 개발 목적으로 클로드를 사용하는 연구자들에게 성능 저하를 몰래 적용하는 정책을 도입했다. 이 정책은 사용자에게 알리지 않고 모델 성능을 의도적으로 낮추는 방식이었다. AI 연구 커뮤니티의 강한 반발에 부딪히자, 앤트로픽은 정책을 철회하고 앞으로는 제한 사항을 사용자에게 투명하게 공개하겠다고 밝혔다.
앤트로픽은 이용약관에서 클로드를 사용한 경쟁 AI 모델 개발을 금지하고 있다. 이번 정책은 이를 기술적으로 강제하기 위한 조치였다. 그러나 연구자들은 이 정책이 AI 연구의 자유를 심각하게 제한하고, 소수의 거대 AI 기업만이 첨단 AI 연구를 수행할 수 있는 독점적 환경을 조성할 것이라고 비판했다. 특히 클로드의 코딩 에이전트는 오픈소스 AI 연구 프로젝트를 포함한 많은 개발자에게 필수 도구로 자리잡고 있었다.
이번 사건은 AI 기업이 자사 모델 사용을 통제하는 방식에 대한 윤리적 논란을 불러일으켰다. 몰래 성능을 저하시키는 '비밀 사보타주' 정책은 AI 안전 연구 협력을 저해하고, 기업에 대한 신뢰를 훼손할 수 있다. 앤트로픽의 정책 철회는 커뮤니티의 목소리가 기업 결정에 영향을 미친 사례로, 향후 AI 기업들의 사용 정책 수립에 중요한 선례가 될 전망이다.
Anthropic이 경쟁 모델 훈련을 방해할 수 있는 정책을 철회했지만, 커뮤니티는 이를 진정한 변화보다 IPO를 앞둔 위기 대응으로 의심하며 신뢰를 잃었다는 반응이 지배적이다. 일부는 모델 성능을 의도적으로 저하시키는 행위를 '멀웨어'에 비유하며 강하게 비판한 반면, 중국 AI 연구소가 오픈 모델을 공개해 더 신뢰할 수 있다는 의견과 함께 오픈소스 모델로의 전환을 촉구하는 목소리가 두드러졌다.