Entrenar o ejecutar IA no exige la misma infraestructura

La inteligencia artificial suele tratarse como una sola categoría tecnológica, pero detrás de cada aplicación conviven procesos con exigencias muy distintas. Así lo plantea José Alberto Llavot, gerente de preventa y desarrollo de negocios de Schneider Electric para México y Centroamérica, quien sostiene que entrenar un modelo y utilizarlo después para resolver tareas en tiempo real responde a dinámicas opuestas de consumo eléctrico y enfriamiento.

La distinción gana relevancia a medida que la IA deja atrás los proyectos piloto y se incorpora a usos cotidianos. Para quienes diseñan y operan centros de datos, entender qué tipo de trabajo soportará cada instalación puede evitar errores costosos y decisiones difíciles de revertir años después.

El entrenamiento concentra la demanda

Entrenar un modelo implica procesar enormes volúmenes de información durante periodos prolongados. Miles de procesadores trabajan de forma coordinada, casi como un único sistema, lo que dispara la necesidad de electricidad y de refrigeración en un espacio reducido.

Según estudios de la compañía, las cargas actuales de IA ya pueden superar los 100 kW por rack, una densidad que obliga a replantear desde la distribución eléctrica hasta los métodos para extraer el calor de los equipos.

También cambia el comportamiento de la carga. Los grandes grupos de procesadores pueden demandar energía de manera simultánea, un patrón muy distinto del perfil diverso que caracterizó durante años a los centros de datos convencionales. Los sistemas de respaldo, distribución y enfriamiento deben absorber esos picos sin poner en riesgo la continuidad del servicio. Otro documento técnico de la empresa aborda cómo adaptar instalaciones existentes para alojar este tipo de clústeres cuando no fueron concebidas para tal concentración.

La inferencia, una carga más dispersa pero variable

La inferencia ocurre una vez entrenado el modelo: es el momento en que este aplica lo aprendido a información nueva. Una recomendación personalizada, un asistente virtual, el análisis de una transacción o una decisión automatizada pertenecen a esta etapa.

Su perfil de infraestructura es otro. Puede correr en grandes centros de datos, pero también en instalaciones propias, servicios de colocación o equipos ubicados cerca del lugar donde se generan los datos. Esa dispersión responde a necesidades de velocidad de respuesta, control de la información y costos. Según el análisis de la compañía, es en esta fase donde comenzará a materializarse buena parte del valor económico de la IA.

Eso no la vuelve simple en términos energéticos. La demanda puede variar en segundos: una aplicación con pocas consultas durante gran parte del día puede recibir de pronto miles de interacciones, lo que exige gestionar capacidad y energía de forma mucho más dinámica.

Diseñar según el uso, no según el máximo posible

Para Llavot, instalar la mayor capacidad disponible no siempre produce el diseño más eficiente. Una instalación dedicada al entrenamiento puede requerir altas densidades y enfriamiento líquido, mientras que una aplicación de inferencia distribuida priorizará la eficiencia, la respuesta inmediata, el respaldo y la posibilidad de crecer de forma gradual.

Habrá además entornos mixtos, por lo que energía, refrigeración y software de gestión necesitarán flexibilidad suficiente para acompañar cargas que cambiarán durante la vida útil del centro de datos.

El mensaje para las empresas que están definiendo dónde y cómo desplegar IA es empezar por el uso que tendrá cada carga y por las condiciones necesarias para mantenerla operativa. La demanda de capacidad seguirá creciendo, concluye el especialista, pero la clave estará en emplearla donde aporte valor y en construir la infraestructura adecuada para cada etapa: entrenar y ejecutar un modelo forman parte del mismo recorrido, aunque no siguen el mismo camino.

(prensariotila.com)

Seguiremos brindándote más información sobre este tema en las siguientes presentaciones físicas y digitales de Channel News Perú

Mantente conectado a nuestra plataforma de negocios y revista, haciendo clic aquí y suscribiéndote a nuestro newsletter para contenido de valor diario