En la gran fiebre del oro de la IA de los últimos años, Nvidia ha dominado el mercado de las palas, es decir, los chips necesarios para entrenar modelos. Sin embargo, un cambio de táctica por parte de muchos desarrolladores líderes de IA abre una puerta a la competencia.
por Edd Gent
La decisión del director de Nvidia, Jensen Huang, de apostar por el hardware para la IA se recordará como una de las mejores decisiones empresariales de la historia. En tan solo una década, ha convertido un negocio de 10.000 millones de dólares que vendía principalmente tarjetas gráficas a jugadores en un gigante de 3.000.000 millones de dólares que tiene a los directores ejecutivos tecnológicos más poderosos del mundo pidiendo su producto.
Desde que se descubrió en 2012 que las unidades de procesamiento gráfico ( GPU ) de la compañía pueden acelerar el entrenamiento de IA, Nvidia ha dominado constantemente el mercado de hardware específico para IA. Sin embargo, la competencia le pisa los talones, tanto antiguos rivales como AMD e Intel, como un grupo de startups de chips bien financiadas. Y un reciente cambio de prioridades en los principales desarrolladores de IA podría revolucionar la industria.
En los últimos años, los desarrolladores se han centrado en entrenar modelos cada vez más grandes, algo en lo que los chips de Nvidia destacan. Pero a medida que se agotan las ventajas de este enfoque, las empresas están aumentando el número de consultas a un modelo para obtener un mayor rendimiento. Este es un área donde los competidores podrían competir con mayor facilidad.
“A medida que la IA evoluciona de los modelos de entrenamiento a la inferencia, cada vez más empresas de chips obtendrán una ventaja sobre Nvidia”, declaró a Reuters Thomas Hayes, presidente y socio gerente de Great Hill Capital, tras la noticia de que el proveedor de semiconductores personalizados Broadcom había alcanzado una valoración de un billón de dólares gracias a la demanda de chips de IA.
El cambio está siendo impulsado por el costo y la gran dificultad de conseguir los chips más poderosos de Nvidia, así como por el deseo de los líderes de la industria de la IA de no depender completamente de un solo proveedor para un ingrediente tan crucial.
La competencia proviene de varios sectores.
Aunque los rivales tradicionales de Nvidia han tardado en sumarse a la carrera de la IA, esto está cambiando. A finales del año pasado, AMD presentó sus chips MI300, que, según el director ejecutivo de la compañía , podían competir con los chips de Nvidia en entrenamiento, pero ofrecer una mejora de 1,4 veces en inferencia. Líderes de la industria como Meta, OpenAI y Microsoft anunciaron poco después que utilizarían estos chips para inferencia.
Intel también ha dedicado importantes recursos al desarrollo de hardware especializado en IA con su línea de chips Gaudi, aunque los pedidos no han cumplido las expectativas . Pero no son solo otros fabricantes de chips los que intentan socavar el dominio de Nvidia. Muchos de los principales clientes de la compañía en la industria de la IA también están desarrollando activamente su propio hardware de IA personalizado.
Google es el líder indiscutible en esta área, habiendo desarrollado la primera generación de su unidad de procesamiento tensorial (TPU) en 2015. La compañía inicialmente desarrolló los chips para uso interno, pero a principios de este mes anunció que sus clientes de la nube ahora podían acceder a los últimos procesadores Trillium para entrenar y dar servicio a sus propios modelos.
Mientras que OpenAI, Meta y Microsoft tienen proyectos de chips de IA en marcha, Amazon recientemente realizó un gran esfuerzo para ponerse al día en una carrera en la que a menudo se la considera rezagada. El mes pasado, la compañía presentó la segunda generación de sus chips Trainium, que son cuatro veces más rápidos que sus predecesores y ya están siendo probados por Anthropic, la startup de IA en la que Amazon ha invertido 4 mil millones de dólares.
La compañía planea ofrecer acceso al chip a los clientes de centros de datos. Eiso Kant, director de tecnología de la startup de inteligencia artificial Poolside, declaró al New York Times que Trainium 2 podría aumentar el rendimiento por dólar en un 40 % en comparación con los chips de Nvidia.
Supuestamente, Apple también se está sumando a la iniciativa. Según un informe reciente de la publicación tecnológica The Information , la compañía está desarrollando un chip de IA con su socio de larga data, Broadcom.
Además de las grandes empresas tecnológicas, hay un gran número de startups que esperan romper el dominio de Nvidia en el mercado. Y los inversores creen claramente que hay una oportunidad: invirtieron 6.000 millones de dólares en empresas de semiconductores de IA en 2023, según datos de PitchBook.
Empresas como SambaNova y Groq están prometiendo grandes aceleraciones en trabajos de inferencia de IA, mientras que Cerebras Systems , con sus chips del tamaño de un plato de comida, apunta específicamente a las tareas de computación de IA más grandes .
Sin embargo, el software es una barrera importante para quienes piensan en dejar de lado los chips de Nvidia. En 2006, la compañía creó un software propietario llamado CUDA para ayudar a los desarrolladores a diseñar programas que funcionen eficientemente en muchos núcleos de procesamiento paralelo, una capacidad clave en IA.
“Se aseguraron de que todos los estudiantes de informática que se gradúan de la universidad recibieran la formación necesaria y supieran programar CUDA”, declaró Matt Kimball, analista principal de centros de datos en Moor Insights & Strategy, a IEEE Spectrum . “Proporcionan las herramientas y la formación, e invierten mucho dinero en investigación”.
Como resultado, la mayoría de los investigadores de IA se sienten cómodos con CUDA y son reacios a aprender el software de otras compañías. Para contrarrestar esto, AMD, Intel y Google se unieron a la Fundación UXL, un grupo industrial que crea alternativas de código abierto a CUDA. Sin embargo, sus esfuerzos aún están en sus inicios.
En cualquier caso, el férreo control de Nvidia sobre la industria del hardware de IA parece estar flaqueando. Si bien es probable que siga siendo líder del mercado en el futuro próximo, las empresas de IA podrían tener muchas más opciones en 2025 a medida que continúan desarrollando su infraestructura.
Crédito de la imagen: imágenes en Unsplash
Fuente: https://singularityhub.com/2025/01/03/heres-how-nvidias-vice-like-grip-on-ai-chips-could-slip/