Fable 5.0 Quema tus Tokens. Esto lo Arregla (Open Source)

Benjamín Cordero

Resumen

El vídeo explica cómo optimizar el uso de tokens y la eficiencia de modelos de lenguaje potentes como Fable 5 utilizando 'Graphify', una herramienta open source. El autor demuestra cómo transformar un caos de archivos, transcripciones y código en un mapa de conocimiento estructurado. Al reemplazar la búsqueda tradicional de texto por este sistema de grafos, se logra navegar de forma inteligente, ahorrando hasta cuatro veces los costos en tokens y facilitando la consulta de bases de conocimiento personales de forma consultable y jerárquica.

Capítulos

  1. 0:18Costos de Claude 3.5 Sonnet
  2. 0:42El Problema de los Costos y el Caos de Archivos
  3. 0:57Necesidad de orden en el contexto
  4. 2:50Visión general del cerebro consultable
  5. 3:20Introducción a Graphify
  6. 4:38Limitaciones del grep tradicional
  7. 7:09Inspiración en el concepto de LLM Wiki
  8. 8:15Diferencias con Obsidian
  9. 8:55Las Tres Fases de Procesamiento
  10. 9:14Análisis local de código
  11. 9:55Transcripción multimodal con Fast Whisper
  12. 11:20Análisis semántico del LLM
  13. 16:46Instalación y Uso del CLI
  14. 16:59Compatibilidad multiplataforma
  15. 20:53Activación y configuración
  16. 22:59Visualización del mapa
  17. 30:35El comando de actualización
  18. 32:46Desmintiendo Mitos: Costos y Actualizaciones
  19. 34:56Análisis de ahorro real
  20. 35:46Cuestionamiento del ahorro 70x

Temas tratados

  • Costos y eficiencia de modelos IA
  • Introducción a Graphify

+4 temas más (contenido completo al seguir el canal)

Extracto de la transcripción

Hace unos días te mostré el lanzamiento de Cloud Fable 5 y Mitos 5, el modelo más potente del mundo. Y los comentarios de ese video fueron una masacre, o sea, literalmente este, hola, ¿cómo estás? Vuelve en si semanas, lo encontré genial o alguno de estos otros y en el video te di el número exacto. Descompusimos que Fable 5 costaba $10 por 50 por millón de tokens, entonces 50 de output y de input. Y en el video descompusimos los precios $10. Y50 por millón de input y output y eso es prácticamente el doble, como podemos ver acá de su predesor, el modelo más inteligente hasta ese momento, Cloud Opus 4.8. Entonces, el modelo más inteligente actual, el Faber 5, tiene un problema del cual todos somos capaces y todos reconocemos. Y es que comérselo al precio de lista duele. Y bueno, hoy te traigo la otra mitad justo de esa historia, porque el sistema que te voy a mostrar en este video te puede…