Nueva alianza para el desarrollo de inferencia de IA de código abierto
IBM y Together AI firmaron un acuerdo de US$240 millones por varios años el martes para construir un clúster de inferencia de IA a gran escala en IBM Cloud utilizando hardware de Nvidia, dijeron las empresas.
El clúster está construido alrededor de sistemas Nvidia HGX B300 emparejados con equipos de red Ethernet Nvidia Spectrum-X. IBM dijo que es el primer clúster dedicado y a gran escala construido para inferencia en IBM Cloud utilizando esos sistemas. La disponibilidad se espera en el primer trimestre de 2027, dijo la empresa.
Together AI usará el clúster para ejecutar inferencia en modelos de IA de código abierto. La empresa con sede en San Francisco opera una plataforma a través de la cual los desarrolladores y empresas pueden construir y desplegar cargas de trabajo de IA, y reporta servir 400 billones de tokens mensualmente.
«Las empresas quieren el rendimiento de los mejores modelos de frontera sin la etiqueta de precio de modelo cerrado, y eso solo funciona si la infraestructura subyacente es rápida y confiable a escala», dijo Vipul Ved Prakash, CEO de Together AI, en un comunicado. «Este clúster nos permite llevar inferencia de grado de producción a más empresas, más rápido.»
Alan Peacock, gerente general de IBM Cloud, dijo en un comunicado que IBM y Nvidia están «entregando infraestructura de IA escalable, económica y de grado empresarial» para ayudar a Together AI a acelerar la innovación.
Together AI recaudó una ronda de financiamiento de Serie C de $800 millones a una valoración de $8.3 mil millones, dijo la empresa. Agregó que seleccionó a IBM y Nvidia basándose en sus hojas de ruta de productos y su capacidad para ofrecer capacidad de GPU al ritmo requerido para el escalado de IA a bajo costo de tokens.
El impulso de IBM hacia la infraestructura de IA de código abierto sigue un compromiso separado con el ecosistema de código abierto. A principios de este año, IBM anunció el Proyecto Lightwell, un compromiso de $5 mil millones con Red Hat para ayudar a las empresas a asegurar el software de código abierto utilizando herramientas de IA y más de 20,000 ingenieros. Esa iniciativa se centra en un centro de compensación empresarial confiable que utiliza IA para evaluar y verificar parches en grandes porciones del ecosistema de código abierto, con participantes piloto que incluyen Bank of America, Goldman Sachs y JPMorganChase.
El acuerdo entre IBM y Together AI es parte de una colaboración más amplia entre IBM y Nvidia que también abarca análisis de datos nativos de GPU, extracción de datos no estructurados, infraestructura en las instalaciones y en la nube, y servicios de consultoría, dijo IBM.
(es.qz.com)
Seguiremos brindándote más información sobre este tema en las siguientes presentaciones físicas y digitales de Channel News Perú
Mantente conectado a nuestra plataforma de negocios y revista, haciendo clic aquí y suscribiéndote a nuestro newsletter para contenido de valor diario
