Cómo afrontar el aumento de los costes de la inferencia de IA

Según Canalys, el gasto mundial en infraestructura como servicio y plataforma como servicio (IaaS y PaaS) alcanzó los 90.900 millones de dólares en 2025, lo que supone un aumento del 21% con respecto al año anterior. Bajo mi punto de vista, el debe de este aumento hay que ponerlo en la migración de las cargas de trabajo de las empresas a la nube y la adoptación de la IA, que depende en gran medida de los recursos informáticos. Sin embargo, a medida que las empresas adoptan con entusiasmo estas tecnologías, también se encuentran con obstáculos que podrían dificultar el uso estratégico de la IA.

La transición de la IA desde la investigación a su implementación a gran escala plantea el reto de distinguir entre los costes asociados a los modelos de entrenamiento y los relacionados con la inferencia. Rachel Brindley, directora sénior de Canalys, señala que, si bien la formación suele suponer una inversión única, la inferencia conlleva gastos que pueden con el tiempo, y de manera considerable. Las empresas están cada vez más preocupadas por la rentabilidad de los servicios de inferencia a medida que sus proyectos de IA avanzan hacia su implementación. De ahí que resulte fundamental prestar atención a este aspecto, porque los costes pueden acumularse rápidamente y generar presión para las empresas.

Los planes de precios actuales para los servicios de inferencia se basan en métricas de uso, como tokens o llamadas a API. Eso supone una dificultad para las empresas a la hora de predecir sus costes. Una imprevisión que las podría llevar a reducir la sofisticación de sus modelos de IA, restringir su implementación a situaciones críticas o incluso renunciar por completo a los servicios de inferencia. En consecuencia, estrategias que podrían obstaculizar el avance general de la IA al limitar a las organizaciones a enfoques menos innovadores.

Los efectos de los presupuestos agotados

La preocupación por los gastos relacionados con la inferencia está justificada, ya que no son pocas las empresas que ya han experimentado las consecuencias de sobreestimar sus necesidades. El resultado ha sido recibir una factura elevada tras otra. Un ejemplo notable es 37signals, que opera la herramienta de gestión de proyectos Basecamp, que un buen día se enfrentó a una factura de nube que superaba los tres millones de dólares. La consecuencia de este nefasto descubrimiento para sus intereses fue trasladar la gestión de su infraestructura de TI de la nube a sus propias instalaciones.

Las organizaciones son cada vez más conscientes como nunca antes de los riesgos asociados al uso de servicios en la nube. Gartner ha advertido que las empresas que se aventuran a adoptar la IA podrían encontrarse con discrepancias en la estimación de los costes que oscilan entre el 500% y el 1000%, debidas a subidas de los precios de los proveedores, gastos pasados por alto y una mala gestión de los recursos de IA. Por lo tanto, conforme las empresas exploran el potencial de las tecnologías de IA, pueden encontrarse con que calcular mal sus presupuestos supone un riesgo importante para la innovación y el progreso.

Explorar diferentes opciones de alojamiento

Muchas organizaciones están reevaluando sus enfoques respecto a la nube. A medida que dependen cada vez más de los servicios de nube pública, como Amazon Web Services (AWS), Microsoft Azure y Google Cloud, algunas están recurriendo a proveedores de alojamiento especializados o servicios de coubicación. Se trata de opciones que ofrecen una estructura de precios que ayudaría a mejorar la gestión de los recursos, lo que les permitiría mejorar sus aplicaciones de IA sin preocuparse por costes inesperados.

En la actualidad, las principales empresas de servicios en la nube ocupan una posición significativa en el mercado, con más del 65% del gasto de los clientes bajo su control. Sin embargo, AWS ha experimentado una disminución en su crecimiento, pasando del 17% en el último trimestre al 19% en el anterior. Por otro lado, Microsoft y Google han mantenido tasas de crecimiento superiores al 30%. Las empresas buscan la rentabilidad y las soluciones personalizadas que ofrecen los proveedores especializados.

Los proveedores de servicios en la nube son conscientes de los retos asociados a los gastos de inferencia, de ahí que estén investigando sin parar métodos para mejorar la eficacia y reducir los costes de los servicios. Según Canalys, la experiencia especializada en tareas de IA podría ser crucial a la hora de aliviar la carga de los gastos de inferencia mediante la integración de aceleradores de hardware personalizados junto con GPU, optimizando la eficiencia y reduciendo los costes.

A pesar de estos esfuerzos por implementar la IA a gran escala en entornos de nube pública, todavía existen dudas sobre su sostenibilidad a largo plazo. Alastair Edwards, analista jefe de Canalys, ha destacado los riesgos de utilizar la IA en la nube. En su opinión, los costes podrían volverse inmanejables a medida que las organizaciones amplían sus proyectos de IA. Sin duda, todo un reto para las empresas que buscan garantizar el éxito a largo plazo de sus iniciativas de IA.

Medidas prácticas para controlar los costes de inferencia

Si las empresas quieren afrontar los retos a los que se enfrentan las empresas hoy en día, es esencial que adopten una postura proactiva para controlar los gastos de inferencia. De ahí mi recomendación de que sigan los siguientes enfoques:

· Utilizar herramientas que ofrezcan información en tiempo real sobre cómo se utilizan los recursos y cómo se gasta el dinero. Al supervisar los patrones de uso de la nube, pueden tomar decisiones informadas sobre dónde expandirse y dónde ahorrar.

· Realizar estimaciones de costes para predecir los costes en función de las diferentes tendencias de uso, lo que ayuda a prever los gastos y a evitar excesos presupuestarios.

· Seleccionar el modelo de precios con cuidado comparando las opciones que ofrecen los proveedores de nube. Los precios basados en el uso no siempre son la mejor opción en todos los casos; los fijos podrían ser más adecuados para requisitos organizativos específicos.

· Considerar una combinación de recursos de nube pública y privada. Una nube híbrida puede mejorar la flexibilidad y optimizar los costes de forma eficaz.

· Trabajar con proveedores de servicios en la nube puede ayudarle a descubrir cómo gestionar los costes de forma eficaz y eficiente. Los proveedores suelen ofrecer soluciones personalizadas diseñadas para abordar los retos específicos del sector.

El camino hacia la integración exitosa de la IA en el mundo empresarial está lleno de obstáculos, más aún cuando se trata de controlar los gastos de realizar inferencias en configuraciones en la nube. A medida que las empresas incorporan cada vez más soluciones de IA en sus operaciones, resulta crucial priorizar la rentabilidad y las prácticas. Por lo tanto, las empresas han de ser conscientes y tomar medidas para abordar estos obstáculos si quieren aprovechar al máximo el poder de la IA y estimular la creatividad en sus industrias. Por lo tanto, no espere a recibir una factura desorbitada antes de ponerse a ello.

(computerworld.es)

Les estaremos informando con mucho más detalle, en el marco del informe especial: “Arquitecturas de IA, Machine Learning, Deep Learning, Gemelos digitales y Soluciones de valor de Cloud Computing con innovadores modelos de negocio, soluciones de IOT, IOTI, soluciones de Automatización. Ciberseguridad, Infraestructura de conectividad: redes LAN, Wifi. Buenas prácticas corporativas.», que estamos preparando para nuestra edición 214 y publicaremos en el mes de junio.

Mantente conectado a nuestra revista Channel News Perú, haciendo clic aquí y suscribiéndote a nuestro newsletter para contenido de valor diario.