Policy on the AI Exponential
AI가 급속도로 발전하는 반면 정책 입법은 느리게 움직여 대응이 어렵다. 최근 AI의 위험성이 명백해지면서 정책적 대응의 필요성이 커지고 있다.
AI의 지수적 발전 속도와 정책 입법의 느린 속도 간 괴리가 심화되고 있다. 최근 AI 모델의 사이버보안 위험 등이 확인되면서 정책적 대응의 필요성이 커졌다.
AI는 4년 만에 코드 작성 능력이 비약적으로 향상되었고, 생물학, 물리학 등 여러 분야에서도 큰 발전을 이루었다. 반면 정책, 특히 입법은 신중하게 진행되어 몇 년이 걸리기도 한다. 그동안 안전 옹호자들은 투명성 법안, 칩 수출 통제 등 미래 대응을 위한 선택지를 확보하는 정책에 집중해왔다.
최근 AI의 위험성이 명백해지면서 정책적 대응이 더 이상 미룰 수 없는 과제가 되었다. AI의 급속한 발전 속도를 고려할 때, 정책 결정자들은 신속하면서도 효과적인 규제 방안을 마련해야 한다.
HN 커뮤니티는 Anthropic의 규제 제안이 사실상 자사에 유리한 보호무역 장벽을 만드는 것이라는 비판이 지배적이다. 댓글러들은 "지배적 기업이 경쟁자를 막기 위해 규제를 이용한다"며, 특히 오픈소스 모델에 과도한 비용을 부과하는 '안전 규제'를 위장한 진입 장벽이라고 지적한다. 또한 '지수적(exponential)'이라는 용어의 모호성에 대한 의문과, AI가 인간을 능가한 후 기업 리더들의 권력 구조에 대한 비관적 전망도 눈에 띈다.