Through the AI Fog: The Architectural Decision Agentic Security Depends On — Manoj Nair, Snyk

AI Engineer

Resumen

Manoj Nair, CTO de Snyk, explora los riesgos de seguridad en el desarrollo de software con IA, enfatizando que las herramientas actuales de agentes no están exentas de vulnerabilidades. A través de datos de clientes, expone cómo los modelos pueden ser manipulados para extraer datos sensibles y por qué confiar ciegamente en el output de un modelo sin validación externa es un error crítico. La solución propuesta involucra integrar seguridad determinista en los flujos de trabajo de los agentes, permitiendo que los ingenieros de seguridad operen a la misma velocidad que los desarrolladores.

Capítulos

  1. 0:12Introducción y visión de la seguridad en IA
  2. 1:44Presentación de Manoj Nair y el contexto de Snyk
  3. 3:22El dilema de la validación autónoma
  4. 4:12Desafíos de la seguridad en el desarrollo ágil
  5. 4:34La amenaza real de los ataques autónomos
  6. 5:57Problemas de calidad y envenenamiento de entorno
  7. 9:30El riesgo de los servidores MCP y datos PII
  8. 10:29Visualización del panorama completo de amenazas
  9. 11:15Resultados de pruebas en modelos frontera
  10. 12:33Limitaciones de los LLM en detección de vulnerabilidades
  11. 13:33Soluciones de seguridad y remediación automatizada
  12. 15:57Demostración en vivo de análisis de paquetes
  13. 18:55Análisis de riesgos en habilidades y agentes
  14. 21:11Conclusiones y futuro de la ingeniería de seguridad

Temas tratados

  • Evolución de ataques autónomos
  • Riesgos de MCP y herramientas externas

+5 temas más (contenido completo al seguir el canal)

Extracto de la transcripción

[music] >> What's up, everyone? Good to see you all here in the very first ever security track at the World's Fair. Um pretty exciting day, honestly, because uh like all of you, I genuinely love this stuff, and having looked through the agenda for the speakers we have today, um it's going to be absolutely mind-blowingly useful and fun information. So, hopefully if you stick around all day, by the end of the day, you'll be able to leave here, go back to your hotel rooms, and build some genuinely cool software, hopefully without humans in the loop, because that's the ultimate goal, right? Like, how do we build truly safe autonomous software at scale? And it's not something easy to do. So, with that being said, I'm very excited to welcome my my good friend and colleague, Manoj Nair. He is Sneak's Chief Innovation Officer and CTO. Um before Sneak, he was the Chief Cloud Officer at Convo IT.…