OpenAI despide a sus vigilantes de seguridad: ¿podemos seguir fiándonos de la IA?

Summary

El vídeo analiza la reciente crisis de confianza en OpenAI y Anthropic tras varios despidos de investigadores de seguridad y la revelación de fallos en sus modelos de IA. Se cuestiona la eficacia de la autorregulación corporativa ante la presión de una carrera armamentística por los beneficios, señalando que las empresas suelen priorizar el acelerador sobre el freno. Se propone un cambio hacia modelos de vigilancia externa más transparentes, similares a los protocolos de ciberseguridad 'zero trust', argumentando que el problema real no es la tecnología, sino la opacidad sobre quién supervisa a quienes desarrollan estas herramientas.

Topics covered

• Despidos en OpenAI
• Fallas de Anthropic

+5 more topics (full content when you follow the channel)

Transcript excerpt

Open AI, los de chat GPT, acaban de despedir a tres investigadores de seguridad y nos dicen que ha sido por saltarse normas sobre información sensible, no por plantear preocupaciones de seguridad. Incluso, uno de los trabajadores lo que ha contado es que lo han despedido de palabra, sin nada escrito. A los pocos días supimos también que un modelo de Anthropic había mandado en julio una pista falsa sobre un asesinato a la policía de Filadelfia. Eh, perdón. Y si volvemos a Open AI, se acaba de descubrir, o eso se intuye, que los resultados, las ganancias que nos habían contado, pues que había una ligera variación de 20.000 millones. Y mientras tanto, una vez más, aparece otro CEO, en este caso el de Microsoft, diciendo que, bueno, venga, vamos a frenar porque quizás nos estamos pasando. Toca hablar de todo lo que ha pasado en estos días con las diferentes fuentes, con las diferentes versio…