El costoso error de gobernar AI en empresas

Platzi

Resumen

El vídeo analiza cómo la mayoría de las filtraciones de datos corporativas no se deben a la inteligencia artificial en sí, sino a malas configuraciones de seguridad informática tradicionales. Se explica que el pánico hacia la AI lleva a empresas a implementar prohibiciones inútiles, mientras los empleados utilizan herramientas no autorizadas en la sombra. En lugar de restringir, el autor sugiere aplicar políticas de acceso a datos similares a las que ya existen para documentos internos, priorizando la capacitación y el uso de herramientas oficiales para mejorar la productividad competitiva.

Capítulos

  1. 0:00Ataques informáticos y el mito de la IA
  2. 0:51Ataques comunes: chatbots y cadena de suministro
  3. 2:45Análisis de credenciales robadas
  4. 3:53El papel de la IA en ataques actuales
  5. 6:33Pruebas reales de modelos de frontera
  6. 7:07El problema de los permisos excesivos
  7. 8:01La IA como un empleado interno
  8. 11:03La realidad del uso en la sombra
  9. 14:15El fracaso de las políticas restrictivas
  10. 15:59Capacidades de los modelos modernos
  11. 16:37La aceleración de los riesgos
  12. 18:16Regulaciones y mercado europeo
  13. 20:46Empresas preparadas vs rezagadas
  14. 22:17Conclusión sobre el gobierno de datos

Temas tratados

  • Mitos de ataques por AI
  • Naturaleza de los ataques reales

+5 temas más (contenido completo al seguir el canal)

Extracto de la transcripción

En los últimos 2 años hay 1234 organizaciones que han sufrido grandes ataques supuestamente por inteligencia artificial o sin inteligencia artificial, ataques de seguridad informática. Cuando uno va y mira quiénes son esas empresas, por ejemplo, problemas que hubo con Sales, Force Drift, problemas que hubo de extorsión de datos, etcétera, sí hay un grupo de ataques que tuvieron inteligencia artificial involucrada en el proceso de en teoría una campaña de espionaje. Es decir, que otras compañías están tratando de extraer datos y generar una filtración de datos de una compañía. En todas las organizaciones afectadas solamente se encontraron 30 donde ese fue el caso y no fue realmente por culpa de inteligencia artificial mal configurada o mal gobernada. La realidad es que la gran mayoría de los ataques recaen en dos categorías relacionadas con AI. En el caso de Sales Lock Drift, esos fueron…