Cómo la virtualización puede brindar eficiencia energética a la IA empresarial

En los últimos meses, Amazon, Google, Meta y Microsoft han anunciado planes para garantizar que sus iniciativas de IA tengan acceso fiable a fuentes de energía. Este imperativo energético de la IA ha llegado hasta el Despacho Oval, donde tanto las administraciones de Biden como de Trump han priorizado y se han comprometido a impulsar la infraestructura de IA que requiere acceso a cantidades masivas de energía.

La buena noticia es que ya existe un «truco» energético con IA. Y la solución no está en la nube. Está localmente, en nuestros propios centros de datos.

Todo es cuestión de datos

En realidad, es muy sencillo. La forma más eficiente de ejecutar cualquier modelo computacional, cualquier carga de trabajo, es llevarlo a donde se encuentran los datos. La mayoría de las empresas ya lo hacen. Ejecutan sus cargas de trabajo localmente, en sus propios centros de datos. Ahí es donde residen sus datos confidenciales más sensibles. La mejor y más eficiente manera de extraer y utilizar esos datos es ejecutar esas cargas de trabajo donde se encuentran.

Los primeros modelos de IA se alojaban en la nube. Para que las empresas pudieran aprovecharlos, debían migrar sus datos a la nube para acercarse a esos modelos. Pero las empresas deberían hacer lo contrario: deberían instalar sus modelos de IA en sus instalaciones para utilizar sus datos de la forma más segura, eficiente y rentable.

Incluso si las organizaciones prefieren aprovechar la elasticidad de la computación en la nube para entrenar o ajustar modelos, ejecutar esos modelos localmente junto a sus datos es más eficiente, lo que puede resultar en ahorros significativos de costos y energía.

Virtualización y eficiencia energética

En lugar de mover datos y que estos se distribuyan o se trasladen innecesariamente a diferentes recursos informáticos o a uno de los servicios de nube a gran escala, es mucho más eficiente ejecutar esa carga de trabajo de IA donde los datos ya se crean, procesan o consumen. Esto se conoce como IA privada y ofrece diversas ventajas para la TI empresarial, como la eficiencia energética.

La IA privada permite a las empresas aprovechar al máximo la pila de virtualización que sustenta la infraestructura actual de su centro de datos. La virtualización ha ayudado a las empresas a lograr eficiencia energética durante décadas. Reduce la huella de hardware al consolidar las cargas de trabajo en menos servidores y, por consiguiente, consume menos energía. Esta ha sido durante mucho tiempo una de las principales ventajas de la virtualización y la razón por la que la mayoría de las cargas de trabajo empresariales actuales se ejecutan en pilas de virtualización. Las organizaciones han reportado una reducción promedio del 49% en los costos de infraestructura, debido en parte a la reducción del hardware y el software requeridos para ejecutar los servicios de TI.

La virtualización aporta estas mismas ventajas de eficiencia energética a las cargas de trabajo de IA, donde se podría argumentar que son aún más valiosas. Las cargas de trabajo de IA dependen de aceleradores de cómputo, como las GPU. Se pueden optimizar y, al igual que las CPU y los recursos de memoria, la virtualización permite optimizar y consolidar las GPU en menos servidores físicos y un espacio de hardware más reducido.

El resultado es un menor consumo de energía, ofreciendo al mismo tiempo las mismas capacidades de computación de IA. La agrupación y el uso compartido inteligente de GPU y la infraestructura de IA asociada (por ejemplo, recursos de red, almacenamiento y memoria) reducen la infraestructura de hardware total necesaria para ejecutar diversos servicios de IA/ML, lo que, a su vez, puede mejorar la eficiencia energética. Lo mejor de todo es que estos beneficios se pueden lograr sin sacrificar el rendimiento.

Control organizacional centralizado

Las empresas que adoptan un enfoque de IA privada tienen la ventaja adicional de contar con un equipo de TI centralizado que gestiona y distribuye sus capacidades de IA al resto de la organización. Esto beneficia a la empresa al proporcionar control organizacional sobre todos sus recursos de IA. Este control centralizado garantiza que las unidades de negocio individuales no puedan implementar clústeres o servidores de IA dispares dentro de sus propias organizaciones. Además, las organizaciones pueden reducir el riesgo al garantizar que solo los modelos escaneados y aprobados por el departamento de TI central se pongan en producción.

Los beneficios de la IA privada

La capacidad de consolidar y gestionar los recursos de IA de la misma forma que una empresa siempre lo ha hecho facilita la implementación del modelo de IA a la velocidad que mejor se adapte a la organización. Las GPU son una tecnología esencial para las cargas de trabajo de IA, y la mayoría de los centros de datos aún no están equipados para procesar una gran cantidad de ellas. La IA privada garantiza que la empresa la utilice con la mayor eficiencia posible.

La virtualización también permite a las empresas asignar sus recursos de IA de forma más inteligente, segura y eficiente energéticamente que los entornos puramente de hardware, al permitir la agrupación y el uso compartido inteligente de la capacidad de la infraestructura. Hoy en día, las grandes empresas tienen literalmente miles de máquinas virtuales que funcionan al 30% o menos de su capacidad. Al superar la IA generativa, muchos servicios de IA/ML pueden ejecutarse eficazmente con la capacidad de CPU disponible, lo que puede reducir aún más los costes y el consumo de energía.

Para las empresas que estén considerando implementar IA, un enfoque de IA privada virtualizada y definida por software ofrece ventajas que pueden generar eficiencia energética, una menor huella de hardware y control operativo centralizado.

(datacenterdynamics.com)

Les estaremos informando con mucho más detalle, en el marco del informe especial: “Arquitecturas de IA, Machine Learning, Deep Learning, Gemelos digitales y Soluciones de valor de Cloud Computing con innovadores modelos de negocio, soluciones de IOT, IOTI, soluciones de Automatización. Ciberseguridad, Infraestructura de conectividad: redes LAN, Wifi. Buenas prácticas corporativas.», que estamos preparando para nuestra edición 215 y publicaremos en el mes de junio.

Mantente conectado a nuestra revista Channel News Perú, haciendo clic aquí y suscribiéndote a nuestro newsletter para contenido de valor diario.