Anthropic Kept Every Promise It Could Afford
Anthropic이 책임 있는 확장 정책에서 유일한 구속력 있는 안전 장치인 개발 중단 조항을 삭제했다. 같은 기간 기업 가치는 40억 달러에서 9650억 달러로 급등하며 OpenAI를 추월했다.
Anthropic이 2023년 9월 발표한 Responsible Scaling Policy 1.0에서 모델이 안전 기준을 초과할 경우 개발을 중단하겠다는 구속력 있는 약속을 2026년 2월 3.0 버전에서 삭제했다. 대신 자체 평가 방식의 'Frontier Safety Roadmaps'로 대체했다. 같은 달 300억 달러를 조달했고, 5월에는 650억 달러를 추가 조달해 기업 가치 9650억 달러로 OpenAI를 넘어섰다. 6월 1일에는 기업공개(IPO)를 위한 비공개 초안을 SEC에 제출했다.
Anthropic은 '책임 있는 AI'를 핵심 가치로 내세운 회사로, 설립 초기부터 안전을 최우선으로 강조해왔다. 그러나 경쟁사들이 빠르게 발전하는 상황에서 단독으로 개발을 중단하는 것이 오히려 세상을 덜 안전하게 만든다는 논리로 정책을 변경했다. 최고과학책임자 재러드 캐플런은 "경쟁사들이 앞서 나가는 상황에서 일방적인 약속은 더 이상 합리적이지 않다"고 설명했다.
이 사건은 AI 업계에서 안전과 성장 사이의 근본적인 긴장을 드러낸다. 가장 안전 지향적인 기업조차 경쟁 압박 앞에서는 핵심 안전 장치를 포기할 수 있음을 보여준다. 특히 아무런 거짓말이나 강요 없이 '합리적인' 결정으로 포장된 점이 우려를 낳는다. AI 안전을 위한 규제나 업계 차원의 공동 대응 없이는 개별 기업의 자발적 약속이 지속되기 어렵다는 교훈을 준다.
한 댓글은 Anthropic이 RSP(책임 있는 확장 정책) v1.0에서 약속 변경 기준을 더 높게 제시했으나 실제로는 낮춰 적용했고, 직원들이 이를 구속력 있다고 여러 번 언급한 점을 지적하며, 사용자가 이 약속을 신뢰해 결정을 내렸다면 정책 변경 자체가 옳았더라도 오해를 느낄 권리가 있다고 주장한다. 이는 정책 변경의 정당성과 신뢰 위반 문제를 별개로 봐야 한다는 입장이다.