Las fábricas de IA tienen un problema con la fibra óptica

Imagínate lo siguiente: estás invirtiendo miles de millones de dólares en tu nueva fábrica de IA. Has comprado el terreno. Has garantizado el suministro eléctrico. Has construido tus instalaciones. Has puesto en marcha la producción de tus chips. El último paso que queda es poner en marcha la conectividad, pero la instalación de la fibra óptica aún tardará semanas o meses en completarse —o, lo que es peor, ni siquiera ha comenzado—.

Por desgracia, ahora tus GPU se han quedado varadas sin ningún sitio adonde ir. Tu centro de datos de última generación no es más que una nevera de mil millones de dólares en medio de la Texas rural.

¿Por qué? Porque has actuado partiendo de la suposición obsoleta de que la fibra óptica estará disponible de inmediato cuando y donde la necesites.

Este escenario pone de manifiesto una limitación cada vez mayor en el ciclo de desarrollo de la IA. La conectividad de fibra óptica sigue tratándose como un servicio secundario, cuando en realidad es uno de los componentes más difíciles, que más tiempo requieren y más determinantes del ciclo de desarrollo de la IA.

El sector se ha adaptado a la escasez de energía. Ha sabido sortear las limitaciones en el suministro de chips. Ha rediseñado la refrigeración para densidades más altas. Pero no ha interiorizado del todo que la red que sustenta el ecosistema de las fábricas de IA opera ahora bajo límites igualmente estrictos.

No se trata de un descuido en materia de aprovisionamiento. Es un riesgo fundamental que puede inmovilizar el capital, retrasar los ingresos y debilitar la ventaja competitiva.

La suposición que acabó con la «fábrica de IA»

Durante décadas, se mantuvo la suposición de que la conectividad estaría fácilmente disponible, porque normalmente así era. Los mercados donde los centros de datos a gran escala echaron raíces por primera vez —lugares como Ashburn, en Virginia— ya contaban con una densa red de fibra óptica. Los operadores podían ampliar sus capacidades extendiendo lo que ya existía en lugar de construir desde cero. La conectividad seguía el ritmo de la demanda porque la red básica ya estaba ahí.

Las fábricas de IA han desmantelado ese modelo.

Hoy en día, los ciclos de implementación de la IA se están acelerando más rápido que la infraestructura de fibra óptica necesaria para alimentarlos. Se están construyendo centros de datos para el entrenamiento de la IA en cualquier lugar donde se pueda disponer de terreno y energía eléctrica —a menudo en mercados emergentes donde la fibra óptica debe construirse desde cero en lugar de actualizarse—. Los entornos de inferencia requieren una conectividad masiva en los mercados metropolitanos, donde la capacidad existente ya se está consumiendo a ritmos sin precedentes.

En estos entornos, el acceso a la conectividad no es algo que se dé por sentado. La construcción de nuevas rutas de fibra óptica lleva años y requiere un extenso proceso de diseño, ingeniería, adquisición de derechos de paso, tramitación de permisos, mano de obra y suministro de materiales. Esos plazos son fijos y no se pueden acortar para adaptarse a los calendarios de entrega de las GPU ni a las curvas de demanda de los clientes.

De hecho, se prevé que se necesitarán 200 millones de millas de nuevas rutas de fibra óptica para satisfacer la demanda actual de IA. Esa no es una brecha que pueda subsanarse de la noche a la mañana. Requiere una planificación proactiva con años de antelación.

A medida que los ciclos de inversión se acortan y aumentan las expectativas de entrega, la suposición obsoleta sobre la disponibilidad de fibra se convierte en un lastre. Las fábricas de IA han cambiado radicalmente el orden de las decisiones sobre infraestructura. La conectividad ya no puede ir a la zaga de la capacidad de cálculo, ya que, en muchos mercados, es la que determina si esta puede escalar en absoluto.

El diseño determina la escala

La disponibilidad de fibra óptica no es la única suposición errónea que amenaza los despliegues de IA. Las arquitecturas de conectividad necesarias para alimentar las fábricas de IA nunca han sido tan exigentes.

Las cargas de trabajo de IA no operan dentro de un único rack ni siquiera de un único edificio. Tienen que mover enormes volúmenes de datos a través de nodos, campus y regiones. La fábrica es un ecosistema interconectado, no una única instalación.

Los hiperescaladores requieren corredores de alta capacidad y baja latencia entre los clústeres de entrenamiento. Los operadores de «neocloud» dependen de una densa interconexión metropolitana con los centros de operadores y las rampas de acceso a la nube para satisfacer la demanda de inferencia de las empresas. Las implementaciones de IA a gran escala requieren diversidad de rutas y una arquitectura bien planificada para mover conjuntos de datos masivos entre los entornos de entrenamiento, almacenamiento e inferencia.

Cuando las redes no están diseñadas para conectar todos estos entornos, esa limitación se propaga a lo largo de todo el ciclo de desarrollo de la IA.

Cuando la conectividad se queda rezagada en el ciclo de desarrollo de la IA, el impacto no es teórico. Los clústeres pueden estar alimentados y puestos en servicio, pero ser incapaces de funcionar a la escala prevista porque el sistema no puede mover los datos con la rapidez suficiente entre los entornos de entrenamiento, almacenamiento e inferencia. Además, se retrasa la incorporación de clientes, la utilización no alcanza los niveles previstos y se retrasa la obtención de ingresos.

En un mercado en el que la rentabilidad depende de una rápida puesta en marcha y de una utilización sostenida, la planificación y el diseño proactivos de la red determinan la rapidez con la que el capital comienza a generar rendimiento. La conectividad puede representar un pequeño porcentaje del coste total de construcción, pero determina qué parte de la capacidad de cálculo desplegada puede generar realmente ingresos —y con qué rapidez—.

Quiénes serán los ganadores de la IA del mañana

En los próximos años, las «fábricas de IA» no se distinguirán únicamente por la cantidad de recursos informáticos que desplieguen. Se distinguirán por si cuentan con la conectividad necesaria para garantizar que los recursos informáticos puedan funcionar a gran escala.

En la era de la IA, la conectividad ya no es una infraestructura secundaria que se asigura una vez finalizada la construcción. Es un factor determinante para el rendimiento de la IA, la eficiencia del capital y la posición competitiva.

Planifícalo en consecuencia.

(datacenterdynamics.com)

Seguiremos brindándote más información sobre este tema en las siguientes presentaciones físicas y digitales de Channel News Perú

Mantente conectado a nuestra plataforma de negocios y revista, haciendo clic aquí y suscribiéndote a nuestro newsletter para contenido de valor diario