Anthropic ha creado algo demasiado potente y peligroso: Mythos

Inteligencia Artificial

Summary

Anthropic ha presentado 'Mitos', un modelo de IA tan potente y capaz en ciberseguridad que han decidido no liberarlo al público por razones de seguridad. El modelo es capaz de descubrir vulnerabilidades críticas que han pasado desapercibidas durante años en sistemas operativos y navegadores. Ante este riesgo, Anthropic ha lanzado el proyecto 'Glasswing' junto a otras empresas tecnológicas líderes para blindar infraestructuras críticas. El autor reflexiona sobre el peligro de este avance tecnológico, el posible surgimiento de un sistema de castas en el acceso a estas herramientas y la urgencia de redefinir nuestra estrategia de defensa global frente a modelos que ya superan capacidades humanas.

Chapters

  1. 0:00Anthropic's Dangerous New Model Mythos
  2. 1:24The Glasswing Project Initiative
  3. 3:36Cybersecurity Vulnerabilities and Risks
  4. 10:34Analyzing the System Card
  5. 12:06Benchmark Performance and Results
  6. 17:11The Threat of Zero Day Exploits
  7. 20:41Sandbox Escape Experiments

Topics covered

  • Lanzamiento y peligrosidad de Mitos
  • Proyecto Glasswing para seguridad

+6 more topics (full content when you follow the channel)

Transcript excerpt

Hola a todos. Vídeo de emergencia. Estoy aquí en México, en el Talenland, porque mientras estaba en el avión se ha lanzado un modelo de inteligencia artificial y ha llegado el día que llevábamos tiempo esperando, pero no esperábamos que llegase tan pronto. El día en que un modelo de inteligencia artificial existe y no lo sacan al público porque es peligroso para la sociedad. El modelo es de Antropic y se llama MITOS. Ya os hablé de él hace un par de semanas en que se había rumoreado la filtración de este modelo y finalmente Antropic ha comentado y ha explicado lo que supone Mitos y por qué es peligroso. El modelo es una auténtica locura y la mayor prueba de ello es que en el día de los inocentes americanos se publicaron benchmarks falsos exagerados sobre las capacidades que podía tener mitos como inocentada. Pues bien, los reales son aún superiores. En los próximos minutos voy a intentar…