Reflexões sobre a oferta e demanda de computação de IA no 4º trimestre
Traduzido automaticamente do original · Ler o original (English)
Tenho acompanhado de perto o espaço dos chips de IA, e parece que estamos caminhando para um gargalo fascinante. Há muita conversa sobre os grandes players garantindo seu suprimento, mas estou pensando nas empresas de IA de segundo e terceiro nível, nas startups e até mesmo nos laboratórios de pesquisa. A demanda por capacidade de computação avançada, especialmente para treinar modelos maiores e escalar os existentes, não está diminuindo.
Meu instinto diz que há 70% de chance de vermos um aumento significativo nos preços das instâncias de GPU baseadas em nuvem de provedores menores até o final do 3º trimestre, estendendo-se para o 4º trimestre. Os prazos de entrega atuais para compras diretas de hardware ainda estão estendidos, e isso empurra mais demanda para o mercado de aluguel. Se virmos outro grande lançamento de modelo fundamental que exija retreinamento ou ajuste fino substancial, essa probabilidade de 70% poderá facilmente subir.