Cómo será la siguiente generación de la plataforma de aceleración para IA Azure Maia 300
Cuando todavía no se ha cumplido un año de la introducción del procesador Azure Maia 200, Microsoft detalla cómo será la siguiente generación de su plataforma de aceleración para inteligencia artificial (IA): Azure Maia 300.
Esta versión será capaz de trabajar con despliegues de varios gigavatios y promete mayor rendimiento de IA por rack. Sus creadores calculan que ofrecerá un 40 % más de tokens por megavatio que sistemas basados en GPU y, en una configuración de 96 aceleradores, un rendimiento de tokens a escala de rack siete veces mayor que Maia 200.
Scott Guthrie, vicepresidente ejecutivo de Cloud e IA en Microsfot asegura que “ofrece un ancho de banda HBM por cada vatio líder en el sector”. En concreto, “ocho pilas HBM4 proporcionan un ancho de banda de memoria máximo de 18 TB/s con un TDP de 950 vatios”, explica.
La nueva generación está pensada para cargas como el razonamiento con contextos extensos, experiencias conversacionales que son sensibles a la latencia, uso intensivo de memoria, tareas agénticas y una carga alta de decodificación.
Entre sus capacidades se encuentran un menor movimiento de los datos y un diseño que reduce las necesidades de memoria y ancho de banda, con ventanas de contexto más amplias.
Una arquitectura de flujo de datos definido por software y la optimización de kernels asistida por inteligencia artificial impulsan la proximidad de los datos.
Y una arquitectura multichiplet lleva a cabo la separación entre computación, controlador de memoria y entrada/salida.
Los chiplets de computación están fabricados con el nodo de proceso N2P del fabricante de semiconductores TSMC.
Así lo detalla Guthrie, que añade a la lista de propiedades la actividad para la escala del centro de datos. “Maia 300 concibe la red como una extensión integrada de su arquitectura de flujo de datos definida por software”, explica.
“En lugar de trasladar los datos a través de capas de comunicación independientes, las operaciones de flujo de datos abarcan los recursos de computación, memoria y red como un único sistema”, describe.
“Las interconexiones de gran ancho de banda entre los aceleradores Maia están optimizadas para el paralelismo de tensores”, prosigue, “mientras que un sistema de transporte de IA personalizado ofrece comunicaciones de escalado vertical fiables y de alto rendimiento entre aceleradores y racks”.
“Este sistema de transporte optimizado para IA aprovecha una infraestructura de red basada en Ethernet para habilitar una topología unificada que escala de forma eficiente desde un único rack hasta despliegues a escala de centro de datos”, finaliza.
El despliegue de Maia 300 en producción, que llegará para convertirse en sistema principal de inferencia para productos y servicios de Microsoft, está programado para el año 2027.
(silicon.es)
Seguiremos brindándote más información sobre este tema en las siguientes presentaciones físicas y digitales de Channel News Perú
Mantente conectado a nuestra plataforma de negocios y revista, haciendo clic aquí y suscribiéndote a nuestro newsletter para contenido de valor diario
