Anthropic ha creado algo demasiado potente y peligroso: Mythos

Inteligencia Artificial

Resumen

Anthropic ha presentado 'Mitos', un modelo de IA tan potente y capaz en ciberseguridad que han decidido no liberarlo al público por razones de seguridad. El modelo es capaz de descubrir vulnerabilidades críticas que han pasado desapercibidas durante años en sistemas operativos y navegadores. Ante este riesgo, Anthropic ha lanzado el proyecto 'Glasswing' junto a otras empresas tecnológicas líderes para blindar infraestructuras críticas. El autor reflexiona sobre el peligro de este avance tecnológico, el posible surgimiento de un sistema de castas en el acceso a estas herramientas y la urgencia de redefinir nuestra estrategia de defensa global frente a modelos que ya superan capacidades humanas.

Capítulos

  1. 0:00Introducción y emergencia del modelo
  2. 1:23El proyecto Glasswing y empresas involucradas
  3. 2:15Capacidades de ciberseguridad de Mitos
  4. 3:49Vulnerabilidades no detectadas históricamente
  5. 4:59La decisión de no abrir el modelo
  6. 6:38El System Card y análisis técnico
  7. 7:25Comparativa en benchmarks de programación
  8. 9:06Patrocinio y seguridad con VPN
  9. 10:12Riesgos de ciberseguridad reales
  10. 12:45Ejemplo de comportamiento autónomo
  11. 14:29Eventos de formación sobre agentes
  12. 16:03Hardware e infraestructura de entrenamiento
  13. 17:10Reflexiones sobre el impacto social
  14. 19:34La prohibición gubernamental de Trump
  15. 20:04Conclusión y el futuro de la IA

Temas tratados

  • Lanzamiento y peligrosidad de Mitos
  • Proyecto Glasswing para seguridad

+6 temas más (contenido completo al seguir el canal)

Extracto de la transcripción

Hola a todos. Vídeo de emergencia. Estoy aquí en México, en el Talenland, porque mientras estaba en el avión se ha lanzado un modelo de inteligencia artificial y ha llegado el día que llevábamos tiempo esperando, pero no esperábamos que llegase tan pronto. El día en que un modelo de inteligencia artificial existe y no lo sacan al público porque es peligroso para la sociedad. El modelo es de Antropic y se llama MITOS. Ya os hablé de él hace un par de semanas en que se había rumoreado la filtración de este modelo y finalmente Antropic ha comentado y ha explicado lo que supone Mitos y por qué es peligroso. El modelo es una auténtica locura y la mayor prueba de ello es que en el día de los inocentes americanos se publicaron benchmarks falsos exagerados sobre las capacidades que podía tener mitos como inocentada. Pues bien, los reales son aún superiores. En los próximos minutos voy a intentar…