2027 será el año de la rendición de cuentas de la inteligencia artificial

3.315 Visitas Totales , 3.315 Visitas Hoy

El futuro inmediato de la inteligencia artificial (IA) pasa por su capacidad para generar resultados empresariales. Las organizaciones comienzan a dejar atrás las pruebas y avanzan hacia una nueva fase.

“El debate en torno a la inteligencia artificial está dando un giro definitivo”, afirma Fernando García, Country Leader de SAS, que ahonda en las tendencias del sector tecnológico para los próximos meses.

“La carrera no la ganará quien despliegue más agentes, sino quien logre dotarlos de la confianza y el control necesarios para operar eficientemente”, indica.

García reflexiona que “la IA está asumiendo decisiones de negocio críticas y, en 2027, ya no se podrá delegar la rendición de cuentas”.

Así, “si un agente de IA dice o ejecuta algo, se va a asumir que la marca lo está respaldando”, apunta el directivo de SAS, que cree que el año que viene será el momento de responder por los actos de la IA.

Para no perder el control sobre las aportaciones de esta tecnología, SAS pone el foco en cuestiones como la confianza, la gobernanza y la supervisión humana, que deberían incorporarse desde el propio momento del diseño.

“Los CIO deberán rediseñar las arquitecturas de TI, que en su día fueron concebidos para gestionar usuarios humanos y no entidades digitales autónomas. Por lo tanto, será más importante que nunca que los comités de dirección se cuestionen qué accesos debe tener cada agente, qué autorizaciones posee o quién es el responsable último de sus actos”, especifica.

Esto será especialmente importante en ámbitos como la gestión financiera, donde los agentes podrán autorizar pagos y es necesario verificar la legitimidad de cada transacción y el alcance de los sistemas inteligentes.

También habrá que reajustar la economía ante la expansión de los centros de datos. SAS propone “la decisión de confianza como nueva unidad económica“.

“La rentabilidad de la IA, lejos de medirse en modelos, tokens o consumo informático, se mide en el coste de adoptar decisiones de negocio fiables de manera sistemática”, indica Fernando García.

“Aquellas empresas que logren conectar directamente el consumo tecnológico con resultados medibles y con el criterio de sus profesionales serán las que conviertan la inversión en una ventaja competitiva real”, dice.

Por último, las simulaciones, los gemelos digitales y los datos sintéticos se presentan como motores del valor añadido, para evaluar escenarios antes de que ejecutar decisiones en el mundo real. Otro elemento de peso será el aprendizaje continuo.

(silicon.es)

Seguiremos brindándote más información sobre este tema en las siguientes presentaciones físicas y digitales de Channel News Perú

Mantente conectado a nuestra plataforma de negocios y revista, haciendo clic aquí y suscribiéndote a nuestro newsletter para contenido de valor diario

Digiqole Ad
...

Notas Relacionadas