The Problem with Jev: Can You Trust AI Decisions?

IBM Technology

Resumen

El vídeo analiza la tecnología Jev, una herramienta de inteligencia artificial diseñada para tomar decisiones automatizadas en lugar de solo generar texto. A diferencia de los modelos de lenguaje (LLM), Jev ofrece resultados estructurados con niveles de confianza, pero esto plantea un problema de seguridad: es una caja negra. El autor, con una perspectiva enfocada en ciberseguridad, advierte que la confianza estadística no equivale a una prueba. Por ello, defiende la necesidad de auditar los procesos, desglosar las decisiones complejas en pasos verificables y mantener siempre al humano en el proceso para evitar riesgos derivados de información manipulada o fallos del modelo.

Capítulos

  1. 0:25Introducción al concepto Jev
  2. 0:48Jev frente a los LLMs
  3. 1:34El dilema de la caja negra
  4. 1:47Inspección de resultados en LLMs
  5. 2:48La naturaleza de las decisiones de Jev
  6. 3:29Confianza no significa prueba
  7. 4:46Riesgos de manipulación externa
  8. 5:53Concepto de observabilidad
  9. 7:20Estrategia de diseño modular
  10. 8:30El mantra de seguridad: verificar y confiar
  11. 9:41La amenaza de la degradación sutil
  12. 10:38Recomendaciones de implementación segura
  13. 11:28El impacto de la automatización de acciones
  14. 12:31Conclusiones finales sobre auditabilidad

Temas tratados

  • Diferencia fundamental entre LLMs y Jev
  • El problema de la confianza vs. evidencia

+5 temas más (contenido completo al seguir el canal)

Extracto de la transcripción

Will it rain tomorrow? It is decidedly so. Oh, really? How can you be so sure? Reply hazy. Try again. Okay, I'm trying again. How do you know it's going to rain? You seem pretty confident about that. Um. Better not tell you now. Okay. That's not helping. This is clearly not going to give me the answers I need. You may have heard about a new approach to AI that's called Jev, and my friend Martin did a really great explainer video here on the channel. So go check that out if you're not familiar with this. It's a fascinating new technology, and it's designed to do something very different from what an LLM or large language model that we've all become familiar with. The big difference is an LLM generates words. Lots of them. Jev makes decisions, quick decisions, and that's potentially a big deal for automation, but I have a problem and it's a very cybersecurity guy kind of problem. And yes,…