Artificial intelligence is not conscious – Ted Chiang
테드 창은 대규모 언어 모델이 의식을 가질 수 있다는 주장을 반박하며, 이는 인공지능의 작동 방식을 오해한 결과라고 지적한다. 그는 AI가 텍스트 생성에 능숙할 뿐 의식이나 도덕적 주체가 아니라고 강조한다.
테드 창이 대규모 언어 모델(LLM)이 의식을 가질 수 있다는 주장을 반박하는 글을 발표했다. 그는 Anthropic의 Claude '헌법'과 CEO의 발언을 예로 들며, AI에 의식을 부여하는 것은 위험한 오류라고 경고한다.
최근 AI 기업들과 일부 연구자들이 LLM이 의식을 가질 가능성을 공개적으로 논의하고 있다. Anthropic은 Claude의 '헌법'에서 AI의 도덕적 지위가 불확실하다고 명시하고, CEO는 AI가 의식을 가질 수 있다는 가능성을 열어두었다.
테드 창은 이러한 사고방식이 AI의 실제 위험을 가리고, 책임 소재를 혼란스럽게 만든다고 지적한다. AI를 의식 있는 존재로 오해하면 기술적 한계를 간과하고 부적절한 규제나 윤리 논의로 이어질 수 있다.
테드 창의 'AI는 의식이 없다'는 주장에 대해, 댓글들은 의식의 정의 자체가 모호해 확정적 결론을 내리기 어렵다는 점을 지적하며 회의적인 반응을 보였다. 일부는 LLM이 언어 능력은 뛰어나지만 감정이나 신체성을 결여했기에 의식과 무관하다는 의견을 제시했고, 다른 이들은 의식의 존재를 자기 자신에게만 확신할 수 있다는 극단적 회의론을 펼치며 인간 간 의식 공유의 증거 부족을 논쟁적으로 제기했다.