Privacy-Preserving Intelligence — Steve Korshakov, Bee (acq. Amazon)

AI Engineer

Resumen

Steve Korshakov explica el desafío de desarrollar un asistente personal de IA integrado en un dispositivo wearable tras ser adquirido por Amazon. El enfoque principal es la privacidad extrema: dado que el dispositivo registra datos altamente sensibles del usuario, crearon un sistema de cifrado de extremo a extremo donde ni siquiera los empleados de Amazon pueden acceder a la información. El sistema utiliza una arquitectura de tiempo de ejecución con estado, gestión de claves local en el dispositivo del cliente y un proceso de atestación mediante registros de transparencia para asegurar que el código en ejecución sea genuino y no haya sido manipulado.

Capítulos

  1. 0:12Introducción al wearable y la privacidad
  2. 0:54El volumen de datos capturados
  3. 3:25Diseño del sistema persistente
  4. 4:01Principios de encriptación y llaves
  5. 5:13Pipeline de atestación de seguridad
  6. 5:29Uso de Sigstore para transparencia
  7. 6:34Caducidad de claves de 7 días
  8. 7:39Sistema de doble firma en producción
  9. 9:06Validación mediante auditorías externas
  10. 9:46Uso de CA privada para certificados
  11. 11:40Protección contra amenazas internas
  12. 12:27Minimalismo de código y auditoría
  13. 14:15Sandboxing para agentes autónomos

Temas tratados

  • Privacidad en dispositivos wearables
  • Arquitectura de IA persistente

+5 temas más (contenido completo al seguir el canal)

Extracto de la transcripción

[music] Hello everyone. I hope this talk will be shorter. Uh I'm from Amazon. Uh our company was acquired about 8 months ago and we built the uh AI wearable which is on my hand. Uh which is essentially a microphone that records everything and builds your personal agent, personal AI and uh on top of that you can extract all the data that you record and plug it to your systems or agents uh and do whatever you want. Uh just to be to get in perspective how confidential how like private data we capturing uh a single person usually like captures about 10 million tokens per year. So this um and even within like a first week of recording uh uh people usually tell uh extremely sensitive stuff to their friends to their family. uh you can learn virtually everything about the person within the just like one week of wearing the B device which is extremely sensitive. I think we one of the most sensiti…