How to Manage Your AI Before It Makes the Wrong Decision

IBM Technology

Resumen

Este video explora la necesidad crítica de implementar un sistema de gestión para la inteligencia artificial, destacando la norma ISO 42001 como la solución principal para gobernar los riesgos asociados a esta tecnología. El autor explica cómo esta norma establece un ciclo de mejora continua basado en el modelo 'planificar, hacer, verificar y actuar', y diferencia claramente esta certificación de otros marcos como el NIST de EE. UU. y el AI Act de la Unión Europea. La conclusión es que, mientras los marcos de trabajo ofrecen guías y leyes, la adopción de un sistema de gestión robusto es lo que permite escalar la IA de forma segura y responsable.

Capítulos

  1. 0:00El problema de la falta de gobernanza en IA
  2. 0:54Introducción a la norma ISO 42001
  3. 1:25El ciclo de mejora continua: Plan-Do-Check-Act
  4. 2:02Enfoque basado en riesgos
  5. 2:17Categorías de riesgo en sistemas de IA
  6. 3:11Contexto y alcance del sistema
  7. 3:26Liderazgo y rendición de cuentas
  8. 3:44Planificación y evaluaciones de riesgo
  9. 4:14Soporte y comunicación
  10. 4:26Operaciones y gestión del cambio
  11. 4:46Evaluación y auditoría
  12. 4:57Mejora continua
  13. 5:27Comparativa NIST, ISO y EU AI Act
  14. 7:46Diferencias clave entre los marcos
  15. 8:09Conclusión sobre el futuro de la gobernanza

Temas tratados

  • Introducción a ISO 42001
  • Ciclo de mejora continua

+5 temas más (contenido completo al seguir el canal)

Extracto de la transcripción

A bank denies a loan. No explanation, no appeal, just an AI decision. Now ask yourself, who validated that model? Who monitored it after deployment? Who's responsible when it's wrong? Most companies don't know the answer to that, and that's the gap. What's needed is an AI management system to govern all of this. And the good news is, we have one. If you're a cybersecurity person like me, you've probably at least heard of the International Standards Organization, and in particular, one of their standards, 27001, which is the international standard for information security management systems. So, 27001 specifies how an organization establishes, implements, maintains, and continuously improves an information security system. Well, they came out with a new standard called 42001. It basically does what 27001 did for security, it does for AI. So it's an AI management system. Now 42001 is not s…