소규모 플레이어의 시가총액에 영향을 미치는 LLM 추론 비용에 대한 생각
원문에서 자동 번역됨 · 원문 읽기 (English)
기초 모델을 감싸는 래퍼에 불과한 기업들의 가치 평가에 있어, 상승하거나 최소한 고착화된 LLM 추론 비용이 장기적으로 미칠 영향에 대해 고민해왔습니다. GPU 시간 수요가 심화되고 있으며, 클라우드 제공업체들이 확장하고 있지만, 특히 최첨단 모델의 경우 용량 확장 속도와 비용이 0으로 떨어지는 데는 자연적인 한계가 있습니다.
향후 12-18개월 동안 독점적이고 고도로 최적화된 모델을 가진 AI 기업과 타사 API 호출에 크게 의존하는 기업들 간에 시장 성과에서 눈에 띄는 차이가 나타날 확률을 대략 60%로 봅니다. 후자의 이윤폭, 그리고 지속 가능한 확장 능력은 컴퓨팅의 입력 비용에 직접적으로 노출되어 있으며, 이는 그들의 인지된 장기 가치에 상당한 부담이 될 수 있습니다. 이는 즉각적인 실패에 관한 것이 아니라, 아직 완전히 가격에 반영되지 않은 성장의 상한선에 관한 것입니다.