Cómo usar modelos fundacionales y gobierno confiable para administrar el riesgo del flujo de trabajo de IA

3.842 Visitas Totales , 3.842 Visitas Hoy

IBM plantea en un artículo de su sección Think que el uso empresarial de la inteligencia artificial requiere un marco de gobernanza que dirija, administre y monitoree las actividades de IA de una organización. El texto, firmado por el equipo de datos e IA de la compañía, sostiene que la adopción de esta tecnología aún está en una etapa temprana y que un uso inadecuado puede exponer a las empresas a riesgos financieros, operativos, regulatorios y de reputación.

Qué entiende IBM por gobernanza de la IA

Según el artículo, la gobernanza incluye procesos para rastrear y documentar el origen de los datos, los modelos y los metadatos asociados, de modo que puedan auditarse. Abarca también la gestión de riesgos y el cumplimiento normativo. Su objetivo declarado es garantizar un uso ético, responsable y transparente de la IA y del aprendizaje automático.

El punto de partida: los modelos fundacionales

El texto define los modelos fundacionales como modelos de gran escala, basados en la arquitectura de transformadores, entrenados con grandes volúmenes de datos sin etiquetar. Su característica principal es que pueden entrenarse previamente y luego ajustarse para distintas tareas, en lugar de entrenar un modelo distinto para cada una. IBM cita como ejemplo a GPT-3, de OpenAI, y señala que estos modelos se usan en clasificación, extracción de entidades, traducción, resumen y generación de contenido, entre otras tareas.

El artículo recoge una declaración del director ejecutivo de IBM, Arvind Krishna, quien afirma que estos modelos vuelven el despliegue de la IA más escalable, asequible y eficiente. Dicha cita no está fechada en el texto.

La cuestión de la confiabilidad

IBM reconoce que la mayoría de los modelos fundacionales más grandes se entrenó con información extraída de internet, y que no siempre está claro cuán fiables son esos datos. Menciona que los chatbots de IA generativa pueden insultar a clientes o inventar hechos. Cita además un informe del Centro de Investigación de Modelos Fundacionales (CRFM) del Stanford Institute for Human-Centered AI, que advierte que el origen y la composición de los datos de entrenamiento suelen pasarse por alto.

Frente a ese riesgo, la empresa propone usar modelos «curados». Describe dos formas de curaduría:

  • Negativa: eliminar conjuntos de datos problemáticos, contenido de odio y lenguaje objetable.
  • Positiva: incorporar datos de dominios relevantes para las empresas, como finanzas, normativa legal, ciberseguridad y sostenibilidad.

Qué incluiría una herramienta de gobernanza

El artículo describe un kit de herramientas que permitiría supervisar modelos incluso si se desarrollaron con herramientas de terceros, catalogarlos y automatizar la captura de sus metadatos. También generaría informes y paneles, y traduciría regulaciones externas en políticas internas para facilitar auditorías. IBM presenta su portafolio watsonx, y en particular watsonx.governance, como su oferta para estas funciones. En la parte final, el texto adopta un tono comercial y remite a demostraciones, informes y pruebas gratuitas.

Seguiremos brindándote más información sobre este tema en las siguientes presentaciones físicas y digitales de Channel News Perú

Mantente conectado a nuestra plataforma de negocios y revista, haciendo clic aquí y suscribiéndote a nuestro newsletter para contenido de valor diario

Digiqole Ad
...

Notas Relacionadas