Anthropic/OpenAI may be spending more than $1000 for every $100 you pay them
Anthropic과 OpenAI가 사용자에게 받는 100달러당 1000달러 이상을 지출하고 있을 수 있다는 분석이 나왔다. 이는 AI 모델의 높은 운영 비용과 경쟁 심화를 반영한다.
Anthropic과 OpenAI가 사용자에게 받는 100달러당 1000달러 이상을 지출하고 있을 수 있다는 분석이 제기되었다. 이는 AI 모델의 높은 운영 비용과 경쟁 심화를 반영한다.
AI 기업들은 막대한 컴퓨팅 자원과 인력 비용으로 인해 수익성에 어려움을 겪고 있다. 특히 대규모 언어 모델의 학습과 추론 비용이 매우 높아 수익 대비 지출이 큰 폭으로 차이 나는 상황이다.
이러한 비용 구조는 AI 업계의 지속 가능성에 의문을 제기하며, 장기적으로 가격 인상이나 비용 효율화 기술 개발이 필요함을 시사한다. 또한 투자자와 시장에 신중한 접근을 요구한다.
HN 사용자들은 AI 추론 비용이 비싸다는 점을 지적하며, 미래에는 모델 가중치를 하드코딩한 전용 하드웨어 카드가 등장해 구독료 없이 일회성 구매로 고속 추론이 가능해질 것이라는 전망을 내놓고 있다. 그러나 일부는 기업들이 정기 구독 수익 모델을 선호하기 때문에 이러한 하드웨어가 보편화되기 어려울 수 있으며, 벤더 종속이나 토큰당 과금 같은 제한이 생길 가능성도 우려하고 있다. 또한, 현재의 최첨단 모델은 대기업 전용으로 남고 오픈소스 모델이 충분히 발전해야 이런 하드웨어가 실용화될 것이라는 의견도 제시되었다.