Gobernanza de la IA agéntica y resiliencia en crisis

La aceleración tecnológica y la adopción acelerada de sistemas autónomos transforman la gestión del riesgo operativo en las organizaciones, situando la consolidación de la confianza digital en el centro de las prioridades estratégicas empresariales. En este entorno hiperconectado, la Conferencia Europea de ISACA 2026, organizada por ISACA, reúne a los principales líderes y especialistas en ciberseguridad, gestión de riesgos y gobernanza de TI.

ISACA 2026 Conferencia Europea

Durante las conferencias, el evento aborda el desafío de establecer controles deterministas frente a la velocidad de máquina de la inteligencia artificial agente y la articulación de mecanismos de liderazgo para la toma de decisiones bajo alta presión.

Gobernanza de la IA Agente a Velocidad de Máquina

Mónica Verma, Top 3 CISO en EMEA, hacker y consejera delegada de Monica Talk Cyber, aborda en la sesión plenaria de apertura la brecha crítica entre la preparación corporativa y la velocidad operativa de la inteligencia artificial autónoma. Durante su intervención, la especialista analiza la transición desde los modelos generativos estáticos hacia los agentes de IA ( Agentic AI ), caracterizados por su capacidad de ejecutar acciones, mantener estado y conectarse de forma autónoma con la infraestructura empresarial.

Desmitificación del ‘Hype’ y Riesgos Reales

Verma señala que el discurso apocalíptico enfocado en la extinción humana por superinteligencia actúa como una distracción peligrosa frente a las amenazas inminentes de ciberseguridad que las empresas deben gestionar en el presente. Mientras la atención mediática se concentra en escenarios teóricos improbables, los riesgos operativos, la exposición no autorizada de interfaces API y la manipulación de datos afectan diariamente a las organizaciones.

En el plano técnico, los modelos de lenguaje (LLM) operan como funciones matemáticas basadas en la multiplicación continua de grandes matrices probabilísticas. La ponente aclara que reducir la temperatura del modelo no lo vuelve determinista, sino que aplica una decodificación de selección ávida (greedy decoding) que mantiene su naturaleza probabilística y puede acentuar sesgos o alucinaciones. Por este motivo, los controles de seguridad deterministas no deben buscarse dentro del modelo, sino implementarse en la arquitectura externa (harness).

La Metáfora de la ‘Autobahn’ y la Velocidad de Máquina

Para ilustrar la gestión de la velocidad operativa (machine speed), la experta recurre a la metáfora de las autopistas alemanas (Autobahn). Conducir a velocidades extremas no resulta fatal por la velocidad en sí misma, sino por la ausencia de frenos fiables, la falta de destreza del conductor y la carencia de controles de ingeniería adecuados en el vehículo.

En el entorno empresarial, la aceleración facilitada por los agentes autónomos se convierte en un peligro cuando las organizaciones omiten la higiene digital y los controles básicos de ciberseguridad. Desplegar agentes de IA sin mecanismos de control que funcionen de forma constante equivale a conducir a alta velocidad con frenos que solo responden de manera aleatoria.

Los 5 Pilares de la Gobernanza de IA

Para estructurar el paso del caos a la resiliencia operativa, Mónica Verma propone un marco de gobernanza articulado en cinco pilares esenciales:

• Gobernanza de datos ( Ground Zero ): Constituye el cimiento fundamental de la arquitectura de IA. Los datos no solo deben estar limpios, sino correctamente clasificados y protegidos frente a ataques de envenenamiento (data poisoning), donde la inyección de datos maliciosos altera la clasificación y el comportamiento del modelo.
• Estrategia y liderazgo: La adopción tecnológica debe responder a objetivos concretos de negocio y resolver problemas reales de los equipos, evitando despliegues motivados por inercia. Toda estrategia precisa definir la responsabilidad ejecutiva final, dado que los agentes no asumen responsabilidad legal ni corporativa.
• Cultura y alfabetización: Es imprescindible comprender que el diseño de instrucciones (prompting) no equivale a la ingeniería de ciberseguridad. La capacitación corporativa debe erradicar la creencia de que solicitar seguridad al propio modelo mediante texto garantiza el cumplimiento de los controles.
• Gestión de riesgos empresariales: La evaluación de riesgos debe incluir la motivación y la capacidad de los actores de amenaza, integrando la gestión del riesgo de terceros y de los agentes de IA introducidos por proveedores.
• Controles e ingeniería: Este pilar requiere gestionar la identidad no humana de los agentes con sus respectivos permisos y aislamiento. Asimismo, exige monitorización en tiempo real para aplicar una regla de arquitectura estricta: un agente que procese entradas no confiables no debe tener autorización simultánea para modificar bases de datos o alterar el estado de sistemas sensibles.

Asumir el caos y construir resiliencia

Como síntesis de la ponencia, la especialista concluye que eliminar el riesgo por completo es imposible en entornos tecnológicamente acelerados. La estrategia organizativa debe guiarse por el lema: “Asumir el caos y construir resiliencia dentro y alrededor de la infraestructura”.

Resiliencia y Toma de Decisiones Bajo Presión

Sarah Furness, excomandante de la Royal Air Force (RAF) y primera mujer en pilotar y liderar misiones de fuerzas especiales del Reino Unido en Irak, cierra la Conferencia Europea de ISACA 2026 trasladando las lecciones de supervivencia de la aviación de combate a la alta dirección digital. Su intervención analiza los mecanismos neurobiológicos del estrés, la falacia operativa de la multitarea y las claves organizativas para gestionar la incertidumbre extrema.

Del Campo de Batalla al Entorno Digital

Furness señala que, desde una perspectiva neurobiológica, no existe diferencia entre la respuesta cerebral ante un ataque con morteros en el frente de combate y la gestión inmediata de un ciberataque corporativo. El cerebro humano procesa la amenaza activa mediante idénticos mecanismos de supervivencia, interfiriendo en las áreas racionales de resolución de problemas justo en el momento en que se exige mayor claridad operativa. En un ecosistema hiperconectado donde los profesionales de TI deben construir confianza digital frente a riesgos complejos e inciertos, la capacidad de respuesta bajo presión no constituye un rasgo de carácter innato, sino una disciplina de gestión entrenable.

Gestión de la Atención y la Regla ‘Fly the Aircraft’

A partir de su experiencia tras colisionar con cables de alta tensión a 140 millas por hora en un helicóptero Puma, la ponente traslada la máxima de pilotaje “Fly the aircraft” (vuela la aeronave) como eje de concentración. La multitarea real no existe; la alternancia constante de tareas (task switching) reduce el rendimiento organizativo hasta un 40% y multiplica los errores operativos en la misma proporción.

Frente a la dispersión digital, Furness defiende la atención singular ejecutada de forma secuencial. La estrategia requiere identificar diariamente la tarea de mayor impacto (“Fly the aircraft priority”) y asignarle foco absoluto, delegando en la tecnología el procesamiento masivo para liberar el criterio analítico humano.

Trabajo en Equipo, Autonomía y la ‘Mission Bubble’

La efectividad colectiva exige operar bajo el concepto de volar en formación, donde cada especialista dispone de la autonomía necesaria para pilotar su propia aeronave sin interferencias externas. En la cultura militar, la burbuja de misión (mission bubble) protege el ciclo de planificación, ejecución y análisis.

Para maximizar el rendimiento, la ponente insta a erradicar las interrupciones fuera de tiempo (“bubble butt”), permitiendo que los colaboradores mantengan periodos prolongados de concentración profunda. Asimismo, la contención de respuestas inmediatas fomenta la autosuficiencia operativa, permitiendo que los equipos resuelvan incidencias de forma autónoma e innovadora.

Humanización del Error y Preguntas Valientes

Los errores en la gestión operativa no representan fallos de carácter, sino fuentes de datos esenciales para perfeccionar los procesos. Compartir las equivocaciones abiertamente dentro del equipo no degrada la autoridad, sino que multiplica el aprendizaje colectivo y consolida la confianza humana indispensable en entornos de alta incertidumbre.

Para prevenir fallos graves antes de que se materialicen, la excomandante propone instaurar evaluaciones y debates periódicos guiados por preguntas valientes que incentiven la disidencia constructiva, tales como: “If this project ended in failure, what would the reason be?” (Si este proyecto terminara en fracaso, ¿cuál sería el motivo?).

Comprometerse a practicar con miedo

La ponente concluye que la resiliencia organizativa ante la crisis no se improvisa, sino que se automatiza mediante la repetición consciente de protocolos en periodos de calma. Como lema transversal para la gestión del riesgo, Furness apela a “Commit to practice scared” (comprometerse a practicar con miedo), abrazando la incomodidad de la incertidumbre para convertir la respuesta resiliente en un hábito automático frente a la contingencia.

Resiliencia en la arquitectura técnica

La Conferencia Europea de ISACA 2026 concluye reforzando el eje estratégico planteado en su apertura: la construcción de la confianza digital no se logra eliminando el riesgo por completo, sino integrando la resiliencia en la arquitectura técnica y en la cultura ejecutiva de las organizaciones. La convergencia entre las ponencias de Mónica Verma y Sarah Furness evidencia que la velocidad de máquina de la inteligencia artificial y la presión extrema del entorno operativo exigen respuestas idénticas en su fundamento: la sustitución de la improvisación por controles deterministas y protocolos entrenados con anterioridad. Ambas visiones coinciden en que la resiliencia organizativa se consolida mediante la práctica continua en tiempos de estabilidad.

(silicon.es)

Seguiremos brindándote más información sobre este tema en las siguientes presentaciones físicas y digitales de Channel News Perú

Mantente conectado a nuestra plataforma de negocios y revista, haciendo clic aquí y suscribiéndote a nuestro newsletter para contenido de valor diario