Microsoft lanza el chip Maia 200 para optimizar la inferencia de IA

Microsoft anunció el lanzamiento de su nuevo chip, el Maia 200, que la compañía define como un caballo de batalla de silicio concebido para escalar la inferencia de Inteligencia Artificial (IA).

La inferencia alude al proceso computacional de ejecutar un modelo, a diferencia del cálculo requerido para entrenarlo. A medida que las empresas de IA maduran, los costos de inferencia se han vuelto una parte cada vez más relevante de sus gastos operativos totales, lo que ha impulsado un interés renovado en formas de optimizar ese proceso.

De acuerdo con TechCrunch, el Maia 200, sucesor del Maia 100 de la compañía lanzado en 2023, fue dotado de mejoras técnicas para ejecutar modelos de IA más potentes a mayor velocidad y con mayor eficiencia, según indicó la empresa. Maia incorpora más de 100.000 millones de transistores, que brindan más de 10 petaflops con precisión de 4 bits y alrededor de 5 petaflops de rendimiento de 8 bits, lo que representa un aumento sustancial respecto de su predecesor.

El nuevo chip de Microsoft también se inscribe en una tendencia en alza entre los gigantes tecnológicos, que recurren a diseños propios para reducir su dependencia de Nvidia, cuyas GPU de última generación se han vuelto cada vez más decisivas para el éxito de las empresas de IA. Google, por ejemplo, cuenta con sus TPU, las unidades de procesamiento tensorial, que no se venden como chips, sino como potencia de cómputo accesible a través de su nube. También está Amazon Trainium, el acelerador de IA del gigante del comercio electrónico, que acaba de lanzar su versión más reciente, el Trainium3, en diciembre. En cada caso, las TPU pueden utilizarse para descargar parte del cómputo que de otro modo recaería en las GPU de Nvidia, reduciendo así el costo total del hardware.

Con Maia, Microsoft se perfila para competir con estas alternativas. En su comunicado de prensa del lunes, la compañía indicó que Maia ofrece tres veces el rendimiento FP4 de los chips Amazon Trainium de tercera generación y un rendimiento FP8 superior al TPU de séptima generación de Google.

Microsoft asegura que Maia ya está funcionando a pleno para potenciar los modelos de IA de la compañía desde su equipo de Superinteligencia. También ha estado respaldando las operaciones de Copilot, su chatbot.