Why Risk Should Determine Your AI Architecture

IBM Technology

Resumen

El vídeo explora por qué el enfoque actual para desarrollar IA es erróneo al priorizar la facilidad de construcción sobre la gestión de riesgos. El ponente argumenta que la arquitectura de cualquier sistema de IA debe ser diseñada en función de sus riesgos y necesidades de gobernanza, en lugar de ser un añadido posterior. A través de la distinción entre datos, información y conocimiento, el vídeo subraya la brecha entre el reconocimiento de patrones y el razonamiento real. Se propone un modelo de tres niveles de explicabilidad (base, mejorada y vigilante) para ajustar la rigurosidad técnica según el impacto real del sistema, asegurando que las decisiones sean trazables, contestables y defendibles.

Capítulos

  1. 0:00El peligro de construir IA sin gobernanza
  2. 1:01La jerarquía de la comprensión humana
  3. 1:52La diferencia entre información y conocimiento
  4. 2:30El experimento de los estantes y la IA
  5. 3:19La brecha entre patrones y contexto
  6. 4:04Principios éticos versus requisitos operativos
  7. 4:59El ejemplo práctico: Explicabilidad base
  8. 5:21Explicabilidad mejorada y sus limitaciones
  9. 5:44La exigencia de la explicabilidad vigilante
  10. 6:26Ajustando el rigor según el riesgo
  11. 6:49Cambiar el foco: del presupuesto al riesgo
  12. 8:02La responsabilidad de la gobernanza a largo plazo
  13. 8:14Conclusión sobre la arquitectura de riesgos

Temas tratados

  • La falacia de la facilidad en la IA
  • Jerarquía: Datos vs. Información vs. Conocimiento

+4 temas más (contenido completo al seguir el canal)

Extracto de la transcripción

I was in a conversation recently with a public sector leader. They told me AI is so easy to build now. We can just have an AI build an AI and they're not wrong. A lot of things are easy to built badly because there's easy AI and there is risk appropriate AI. And those two, they are not the same thing. Most teams approach this backwards. They build the system then ask who should oversee it? And when governance fails, when someone needs an explanation, when the model drifts, when a person or a reputation is harmed, they realize the architecture was never designed to support the oversight they claimed to want. This is the relationship that matters. Risk should inform requirements. Requirements should inform architecture, not the other way around. Let me show you why this matters with something real. My favorite definition of the word data is that it is an artifact of the human experience. I…