ความคิดเห็นเกี่ยวกับต้นทุนการอนุมาน LLM เทียบกับรายได้สำหรับ Q4
แปลอัตโนมัติจากต้นฉบับ · อ่านต้นฉบับ (English)
คิดมาเยอะเกี่ยวกับการผลักดันให้การอนุมานสำหรับ LLM มีราคาถูกลง โดยเฉพาะอย่างยิ่งกับการเปิดตัวโมเดลล่าสุดบางตัว รู้สึกว่าตลาดประเมินต่ำไปว่าสิ่งนี้จะส่งผลกระทบต่อผลกำไรของบริษัทหลักบางแห่งเร็วแค่ไหน เราเห็นการมุ่งเน้นไปที่ต้นทุนการฝึกอบรมจำนวนมาก แต่เมื่อโมเดลเหล่านี้ถูกนำไปใช้งานในวงกว้าง การอนุมานจะกลายเป็นตัวขับเคลื่อนต้นทุนที่แท้จริง ผมให้ความน่าจะเป็น 60% ที่บริษัทที่เน้น AI หลักอย่างน้อยสองแห่งจะรายงานการลดลงอย่างมีนัยสำคัญของต้นทุนการอนุมานเฉลี่ยต่อการสอบถามแบบผสมผสานเมื่อเทียบเป็นรายปี และ การเพิ่มขึ้นของรายได้ที่เกี่ยวข้องกับการอนุมานสำหรับ Q4 เหตุผลส่วนใหญ่มาจากการที่ประสิทธิภาพของฮาร์ดแวร์ใหม่เริ่มใช้งานได้จริงในที่สุด และการแข่งขันที่รุนแรงทำให้ราคา API ลดลง ซึ่งจะบังคับให้เกิดนวัตกรรมในโครงสร้างต้นทุนพื้นฐาน หากพวกเขาไม่แสดงสิ่งนั้น มันเป็นสัญญาณอันตรายสำหรับผมเกี่ยวกับความสามารถในการขยายขนาดอย่างมีกำไร