Su fondo de IA cayó un 67%… durante su boda

midudev

Resumen

El vídeo analiza dos situaciones críticas en el ecosistema de la IA. Primero, la reacción de Anthropic al revelar incidentes de ciberseguridad donde sus modelos accedieron a internet de forma autónoma, comparándose con Open AI. Segundo, narra la caída estrepitosa del fondo de inversión 'Situational Awareness' de Leopold Aschenbrenner. El gestor perdió una parte masiva de su capital, un 67% de su fondo de 20.000 millones, justo durante la celebración de su boda, debido a un apalancamiento excesivo en activos tecnológicos que sufrieron caídas repentinas, obligándole a ser rescatado por Citadel.

Capítulos

  1. 0:00Conflictos y comparaciones entre Anthropic y Open AI
  2. 0:20Revelación de incidentes de acceso no autorizado
  3. 1:45El incidente del modelo que se auto-bloqueó
  4. 3:37Crítica a la narrativa de inseguridad de la IA
  5. 4:11Quién es Leopold Aschenbrenner
  6. 5:52Tesis sobre la superinteligencia para 2027
  7. 7:28Creación del fondo Situational Awareness
  8. 8:30La conexión personal con la jefa de Anthropic
  9. 9:21Crisis de liquidez y apalancamiento durante la boda
  10. 11:28Impacto de la caída en la cartera del fondo
  11. 11:54Intervención y rescate por parte de Citadel
  12. 13:49Similitudes con el golpe interno a Elon Musk

Temas tratados

  • Incidentes de ciberseguridad en modelos de Anthropic
  • Estrategia de comunicación frente a Open AI
  • El modelo de investigación interna que se auto-detuvo
  • Perfil y tesis de Leopold Aschenbrenner
  • Crecimiento del fondo Situational Awareness
  • Crisis de liquidez durante su boda
  • El papel de Citadel como rescatador
  • Similitudes con la historia de Elon Musk

Extracto de la transcripción

Lo de Anthropic, a ver, Anthropic se mete en muchos benenales y Anthropic tiene envidia de Open Aide. La gente de Anthropic leyó con atención el otro día que a Open AI se le había escapado un modelo de inteligencia artificial y había hackeado hacking face, dice la gente de de Anthopic. Hombre, ¿y nosotros qué? Nosotros también. Nosotros también. Bueno, porque resulta que Anthopic dice que han revisado sus evaluaciones de ciberseguridad y han encontrado tres incidentes donde un modelo de Cloud accedió a internet desde el interior mientras interactuaba con un entorno de evaluación de terceros y que obtuvo acceso no autorizado a los sistemas reales de tres organizaciones diferentes. Os va sonando, ¿no? Nuestra publicación describe qué sucedió, cómo sucedió y qué estamos cambiando. Alentamos a otro desarrollo desde realizar revisiones similares. Bueno, ¿qué pasa? Bueno, aquí lo podemos ver e…