인공지능 개발 중단 촉구한 앤트로픽, '자기 개선' 위험 경고

무슨 일

AI 스타트업 앤트로픽(Anthropic)이 전 세계 AI 개발 중단을 촉구하며, AI 시스템이 스스로를 개선하는 '자기 개선(self-improvement)' 능력이 통제 불능 상태로 이어질 위험이 있다고 경고했다. 앤트로픽은 특히 고도화된 AI가 인간의 개입 없이 스스로 능력을 향상시키는 과정에서 예측 불가능한 위험을 초래할 수 있다고 주장했다.

맥락

앤트로픽은 AI 안전을 최우선으로 하는 기업으로, 이번 발언은 최근 GPT-4, 클로드(Claude) 등 대규모 언어 모델의 급속한 발전과 함께 AI 규제 논의가 활발해지는 시점에 나왔다. 앤트로픽은 이전에도 AI 개발 속도 조절과 안전장치 마련을 강조해 왔으며, 이번 경고는 AI의 자기 개선 능력이 인류에게 실존적 위협이 될 수 있다는 기존 우려를 재확인한 것이다.

시사점

이번 발언은 AI 개발의 속도와 안전 사이의 균형에 대한 논쟁을 더욱 부각시킬 것으로 보인다. 앤트로픽의 경고는 정부와 규제 기관에 AI 개발 중단 및 안전 규제 강화를 압박하는 요인으로 작용할 수 있다. 반면, 일부 전문가들은 AI 발전을 저해할 수 있다는 반론을 제기할 가능성도 있다.