OpenAI despide a sus vigilantes de seguridad: ¿podemos seguir fiándonos de la IA?

MoureDev by Brais Moure

Resumen

El vídeo analiza la reciente crisis de confianza en OpenAI y Anthropic tras varios despidos de investigadores de seguridad y la revelación de fallos en sus modelos de IA. Se cuestiona la eficacia de la autorregulación corporativa ante la presión de una carrera armamentística por los beneficios, señalando que las empresas suelen priorizar el acelerador sobre el freno. Se propone un cambio hacia modelos de vigilancia externa más transparentes, similares a los protocolos de ciberseguridad 'zero trust', argumentando que el problema real no es la tecnología, sino la opacidad sobre quién supervisa a quienes desarrollan estas herramientas.

Capítulos

  1. 0:00Conflicto interno y despidos
  2. 0:16Desafíos de seguridad en Anthropic
  3. 0:54El dilema de la velocidad y el freno
  4. 1:36Lanzamiento de modelos en medio de la crisis
  5. 2:16El fin del modelo Astra original
  6. 3:45La implicación de los reguladores estadounidenses
  7. 5:48Quiénes fueron los despedidos
  8. 12:06La pérdida de legibilidad en los modelos
  9. 16:04El comportamiento imprevisto de Claude
  10. 22:17Impacto financiero y salida a bolsa
  11. 24:57La visión de Microsoft sobre el riesgo
  12. 28:32Conclusiones sobre la vigilancia

Temas tratados

  • Despidos en OpenAI
  • Fallas de Anthropic

+5 temas más (contenido completo al seguir el canal)

Extracto de la transcripción

Open AI, los de chat GPT, acaban de despedir a tres investigadores de seguridad y nos dicen que ha sido por saltarse normas sobre información sensible, no por plantear preocupaciones de seguridad. Incluso, uno de los trabajadores lo que ha contado es que lo han despedido de palabra, sin nada escrito. A los pocos días supimos también que un modelo de Anthropic había mandado en julio una pista falsa sobre un asesinato a la policía de Filadelfia. Eh, perdón. Y si volvemos a Open AI, se acaba de descubrir, o eso se intuye, que los resultados, las ganancias que nos habían contado, pues que había una ligera variación de 20.000 millones. Y mientras tanto, una vez más, aparece otro CEO, en este caso el de Microsoft, diciendo que, bueno, venga, vamos a frenar porque quizás nos estamos pasando. Toca hablar de todo lo que ha pasado en estos días con las diferentes fuentes, con las diferentes versio…