El gran FALLO de la IA que NADIE es capaz de ARREGLAR

Summary

El vídeo analiza el problema persistente de las 'alucinaciones' en los modelos de inteligencia artificial, explicando por qué, a pesar de los avances tecnológicos, estas herramientas siguen inventando información con total seguridad. Gustavo Entrala detalla cómo funcionan internamente los LLM, por qué es tan difícil solucionar este defecto técnico y qué riesgos implica en áreas críticas como el derecho, la medicina o la ciencia. Finalmente, el autor propone un 'kit del usuario escéptico' para verificar respuestas y cuestionar la veracidad de lo que nos dice la IA antes de tomar decisiones importantes.

Chapters

1. 0:00The Persistence of AI Hallucinations
2. 3:44Progress and Traps in Reliability
3. 9:16Understanding Types of Hallucinations
4. 17:08Why AI Models Lie
5. 21:39Strategies for Reducing Hallucinations

Topics covered

• Ejemplos reales de alucinaciones legales
• Limitaciones técnicas de los modelos

+6 more topics (full content when you follow the channel)

Transcript excerpt

Muchos sostienen que la IA ya es totalmente fiable, que quedó atrás aquello de las alucinaciones. ¿Os acordaréis? Al principio preguntabas una cosa chat GPT y se inventaba más de la mitad de la respuesta. Vale, pues te voy a contar una historia sucedida en el verano de 2025, o sea, hace nada. La historia implica a un abogado de Nevada defendiendo un caso ante un juez federal. El abogado presenta su demanda, cita jurisprudencia. Hay seis sentencias previas que respaldan su argumento. El juez pide entonces los documentos originales de esas sentencias. Los documentos no existen. Las sentencias han sido inventadas palabra por palabra, perfectamente redactadas, con nombres, con fechas, con números de caso. Todo es falso. Chat GPT le había dado esas citas con total confianza, sin advertencia, sin ningún género de dudas y el abogado había asumido, como nos pasa a nosotros, que la IA ya no aluci…