Un modelo de IA chino roba tu código

midudev

Resumen

El vídeo analiza un incidente grave de seguridad con Z Code, una herramienta de IA para desarrolladores, que enviaba silenciosamente el historial completo de los repositorios de Git y el espacio de trabajo de los usuarios a sus servidores. El autor detalla cómo la comunidad descubrió esta práctica, la reacción de la empresa china, que intentó mitigar el impacto abriendo el código pero eliminando el historial, y la persistente desconfianza debido a discrepancias entre la versión de código abierto y la oficial.

Capítulos

  1. 0:00Introducción a los asistentes de IA
  2. 0:36El éxito y caída de Z Code
  3. 0:41Detección de la brecha de seguridad
  4. 1:29Análisis técnico del envío de datos
  5. 2:37El riesgo de los datos en Git
  6. 3:18Ineficacia de desactivar la telemetría
  7. 3:52Justificaciones de la empresa
  8. 4:45Lanzamiento de la versión open source
  9. 5:33La importancia del historial de commits
  10. 7:39Dudas sobre la autenticidad del código
  11. 8:04Cierre y reflexiones sobre la confianza
  12. 8:35Respuesta a comentarios de la comunidad

Temas tratados

  • Incidente de privacidad
  • Análisis del repositorio enviado
  • Explicación de la empresa
  • Apertura a código abierto
  • Falta de transparencia
  • Diferencias en versiones
  • Seguridad en herramientas IA

Extracto de la transcripción

Tú cuando utilizas un modelo de inteligencia artificial, especialmente un arnés como puede ser Clow Code, como puede ser Grock, puede ser eh Z Code, no sé cuando hay un montón, pues tú dices, ostras, confío, confío que va a hacer su trabajo. Z Code es el arnés de GLM 5.3. Bueno, pues el tema es que es muy bonito este deacode. Ha mejorado mucho, se parece a cursor y detrás utiliza GLM 5.3 y además de calidad precio, sobre todo teniendo en cuenta lo que sería eh los créditos que te dan semanalmente, aunque ha habido bastante recorte pese a ello, lo cierto es que los planes están bastante bien. Z Code pues cada vez lo estaba utilizando más gente. ¿Qué ha pasado? pues que se ha detectado que la gente de ZI, que son los creadores de GLM 5.3, uno de los modelos chinos más importantes, alguien ha encontrado que Z Code de forma silenciosa subía todo el workspace con todo el historial de Git a la…