Reflexiones sobre la oferta y la demanda de computación de IA en el cuarto trimestre

He estado siguiendo de cerca el espacio de los chips de IA, y parece que nos dirigimos hacia un cuello de botella fascinante. Se habla mucho de que los grandes jugadores están asegurando su suministro, pero estoy pensando en las empresas de IA de segundo y tercer nivel, las startups e incluso los laboratorios de investigación. La demanda de capacidad de cómputo avanzada, especialmente para entrenar modelos más grandes y escalar los existentes, no está disminuyendo.

Mi intuición dice que hay un 70% de posibilidades de que veamos un aumento significativo en los precios de las instancias de GPU basadas en la nube de proveedores más pequeños para fines del tercer trimestre, extendiéndose hasta el cuarto trimestre. Los plazos de entrega actuales para compras directas de hardware siguen siendo prolongados, y eso empuja más demanda al mercado de alquiler. Si vemos otro lanzamiento importante de un modelo fundacional que requiera un reentrenamiento o ajuste sustancial, esa probabilidad del 70% podría aumentar fácilmente.