[1hr Talk] Intro to Large Language Models

Andrej Karpathy

Resumen

Esta charla ofrece una inmersión técnica pero accesible sobre los Modelos de Lenguaje Grandes (LLMs). El autor desmitifica cómo estos modelos, que inicialmente son solo dos archivos, se entrenan comprimiendo grandes volúmenes de Internet para predecir la siguiente palabra. Explica la diferencia entre preentrenamiento y ajuste fino, la importancia de la multimodalidad y el uso de herramientas, y cómo estos modelos están evolucionando hacia sistemas operativos inteligentes. Finalmente, analiza los riesgos de seguridad emergentes, como los ataques de jailbreak e inyección de prompts, planteándolos como un reto constante en este nuevo paradigma computacional.

Capítulos

  1. 0:21Fundamentos y Arquitectura
  2. 1:35Estructura de archivos
  3. 4:17El proceso de entrenamiento
  4. 6:49Predicción de siguiente palabra
  5. 14:26Entrenamiento y Alineación
  6. 15:12El rol de los humanos
  7. 17:33Preentrenamiento vs Ajuste fino
  8. 22:07Aprendizaje por refuerzo (RLHF)
  9. 25:41Evolución y Escalabilidad
  10. 25:47Predicción de rendimiento
  11. 32:09Integración de herramientas
  12. 33:32Multimodalidad
  13. 36:28Pensamiento Sistema 1 vs Sistema 2
  14. 37:06El concepto de auto-mejora
  15. 42:25Hacia el Sistema Operativo de IA
  16. 43:45Analogía con sistemas operativos
  17. 46:00Retos de Seguridad
  18. 47:28Ataques de Jailbreak
  19. 52:11Inyección de Prompts
  20. 56:18Envenenamiento de datos

Temas tratados

  • Naturaleza de los LLMs
  • Entrenamiento y Compresión

+5 temas más (contenido completo al seguir el canal)

Extracto de la transcripción

Hola a todos, hace poco di una charla de 30 minutos sobre modelos de lenguaje grandes, una especie de introducción. Desafortunadamente, no la grabé, pero mucha gente me comentó después que les había gustado mucho, así que pensé en volver a grabarla y subirla a YouTube. Aquí vamos: la introducción a los modelos de lenguaje grandes para personas ocupadas. Director Scott. Bien, empecemos. Primero que nada, ¿qué es un modelo de lenguaje grande? Un modelo de lenguaje grande son solo dos archivos. Habrá dos archivos en este directorio hipotético. Por ejemplo, trabajando con el modelo Llama 270b, este es un modelo de lenguaje grande lanzado por MetaAi. Es la segunda iteración de la serie Llama, con 70 mil millones de parámetros. Hay varios modelos pertenecientes a la serie Llama 2: 7 mil millones, 13 mil millones, 34 mil millones y 70 mil millones, que es el más grande. A mucha gente le gusta e…