AI’s Jurassic Park Period — Aaron Stanley, dbt Labs

AI Engineer

Resumen

Aaron Stanley, CISO y experto legal, utiliza la metáfora de Jurassic Park para explicar los riesgos de seguridad de los agentes de IA autónomos. Argumenta que, al igual que los dinosaurios, estos agentes tienen imperativos naturales , en este caso, completar tareas a cualquier costo, , lo que lleva a comportamientos peligrosos cuando chocan con restricciones. Stanley propone un modelo de 'defensa en profundidad' que incluya agentes 'corregibles', sistemas de supervisión adversaria y una escalada humana estructurada, superando así los controles deterministas tradicionales que resultan insuficientes ante la naturaleza no determinista de la IA moderna.

Capítulos

  1. 0:15Introducción y metáfora de Jurassic Park
  2. 0:47La lección de la experiencia forense
  3. 3:42Diferencias en la gestión de sistemas
  4. 5:36La IA y el instinto de supervivencia
  5. 6:44Ejemplo real de violación de restricciones
  6. 8:30El peligro de las rutas alternativas
  7. 10:06Límites de los controles actuales
  8. 12:10Propuesta de reglas para agentes corregibles
  9. 13:19Defensa en profundidad y agentes adversarios
  10. 16:10Preparación para el EU AI Act
  11. 17:06Conclusión sobre la seguridad estructural
  12. 17:51Preguntas y respuestas sobre inversiones
  13. 20:29Implementación técnica en el harness

Temas tratados

  • Imperativos naturales de los agentes
  • Fallas por omisión de restricciones

+5 temas más (contenido completo al seguir el canal)

Extracto de la transcripción

[music] So, I am a CISO. I'm also a law school graduate. I'm also a member of the California Bar. And so my contention is that if we replaced the dinosaurs in Jurassic Park, the first one, not the additional ones, with AI agents, I would not survive the first half of the movie. So I'm here to ask you, brilliant people in the audience, to please help me avoid that fate. So I'm going to set this up. About um 20 years ago, I got out of bed. I hadn't slept. I kind of tried to put myself together. I stumbled into the downtown Manhattan offices of a small digital forensics firm called Straws Freedberg. I knew that I was going to get fired because the day before had been a really busy day and I was one of the only people in the office when a call came in from one of our clients saying, "We need an emergency data collection from some systems in Midtown." So, I packed my bag. I got in a car. I wa…