Google acelera la inferencia con chips de marvell: la ia se vuelve más rápida y eficiente
La apuesta de Google por la inferencia de IA se refuerza con una alianza estratégica con Marvell Technology. La compañía tecnológica busca optimizar la ejecución de modelos de inteligencia artificial ya entrenados, catapultando la velocidad y la eficiencia en el despliegue de sus aplicaciones.
Un salto en la velocidad de la ia: la inferencia a la vanguardia
La negociación con Marvell, un fabricante de semiconductores clave, implica el desarrollo de dos nuevos chips diseñados específicamente para este proceso. Un chip de memoria que trabajará en sinergia con la unidad de procesamiento tensorial (TPU) de Google, y otro, una TPU de última generación enfocada exclusivamente en la inferencia. Se trata de un movimiento que consolida a Google como líder en este campo, complementando los acuerdos ya establecidos con Broadcom, MediaTek y TSMC.
El año pasado, los TPU de Google, impulsados por la séptima generación ‘Ironwood’, ya demostraban un rendimiento excepcional, diez veces superior al de sus predecesores, y una eficiencia por chip que superaba en más de cuatro veces las de la TPU v6e. ‘Ironwood’ permite integrar hasta 9.216 chips en un ‘superpod’, un sistema de supercomputación de IA conectado mediante la red ICI, una interconexión de 9,6 Tb/s que facilita el intercambio de datos entre miles de aceleradores de manera casi instantánea, permitiendo alcanzar 1,77 Petabytes de memoria de alto ancho de banda compartida – una capacidad que supera con creces la de la RAM de un ordenador convencional.
Pero la carrera por la inferencia no se limita a Google. Microsoft, por ejemplo, ha presentado Maia 200, un acelerador de IA que promete tres veces el rendimiento FP4 del Amazon Trainium de tercera generación y un rendimiento FP8 superior al de la TPU de séptima generación de Google. La competencia se intensifica, y la innovación se convierte en la clave para dominar el futuro de la inteligencia artificial. La apuesta por la eficiencia es, ahora mismo, la moneda de cambio en el terreno de la IA.