Your agent architecture has a half-life of 6 months — Dan Farrelly, CTO, Inngest

AI Engineer

Resumen

Dan Farrelly, CTO de Ingest, explica cómo la rápida evolución de la IA hace que las arquitecturas de agentes tengan una vida útil corta (medio año). Propone un enfoque arquitectónico basado en separar el sistema en tres capas discretas: ejecución, contexto y cómputo. Al desacoplar la capa de ejecución , encargada de la resiliencia, reintentos y orquestación, de los modelos y herramientas que cambian constantemente, los desarrolladores pueden construir sistemas de agentes más robustos y fáciles de mantener a largo plazo.

Capítulos

  1. 0:25Introducción y tesis inicial
  2. 1:11Por qué las arquitecturas actuales fallan
  3. 2:54Modelo mental de tres capas
  4. 3:42Definición científica de la vida media
  5. 4:10El peligro de acoplar componentes
  6. 5:54Definiendo la capa de ejecución
  7. 6:50Requisitos de resumibilidad
  8. 7:28Gestión de estados duraderos
  9. 8:04Combinando patrones de invocación
  10. 9:37La naturaleza de los sandboxes
  11. 10:38Tendencias emergentes: agentes de fondo
  12. 12:30Implementación de arquitecturas en bucle
  13. 14:27Creación de un sistema de revisión
  14. 15:49Medición de desempeño y scoring
  15. 18:27Conclusión y visión de futuro

Temas tratados

  • La corta vida de las arquitecturas
  • Capas conceptuales del sistema

+5 temas más (contenido completo al seguir el canal)

Extracto de la transcripción

[music] >> Going good. >> All right. There we go. All right. Hello everyone. All right, just checking voice. >> All right, good. >> All right, well uh my name is Dan and I'm here to talk to you about how your agent architecture has a half-life of 6 months. But first who am I? I'm Dan, I'm the CTO and co-founder at Ingest. And why should you listen to me? Well, first I lead an amazing team over at Ingest. We We build a system that reliably executes anything from agents to workflows to contact pipelines, whatever you want. I'm deep building AI infra every [clears throat] day and on top of that also building agents, not just pontificating up here in theory about how you should build it. So speaking of building agents if you've been building agents for more than 6 months, you've likely rewritten something, maybe more than once. A new model a new framework or framework version new tool callin…