Asistentes personales de inteligencia artificial generan riesgos de privacidad mediante perfiles detallados

A cell phone sitting on top of a wooden table — appshunter.io / Unsplash

Los nuevos agentes de inteligencia artificial, como Muse de Meta y Dots de OpenAI, están sustituyendo a los antiguos chatbots al integrar memoria avanzada y acceso a datos personales. Esta nueva generación de programas sucede a una primera ola de asistentes que incluía a OpenClaw e Instinct.

Estos asistentes acceden a información privada del usuario, como cuentas bancarias, mensajería y correo electrónico, y poseen facultades para realizar acciones en su nombre, incluyendo operaciones financieras y envío de mensajes. Mientras que las transacciones financieras requieren confirmación física, la recopilación de datos privados ocurre de forma automática.

Investigaciones de seguridad sobre Muse revelaron que, con la configuración predeterminada, el agente obtiene derechos de root en Ubuntu, acceso a la memoria operativa, a cron.d y a archivos del usuario, incluyendo claves SSH. El código interno utiliza el nombre Hatch y contiene registros de 113 subagentes en archivos JSONL. El sistema emplea el marco de trabajo Spaces para el desarrollo de aplicaciones, utilizando TypeScript, React, SQLite y Bun.

El modelo de memoria de Muse ejecuta tareas en segundo plano cada hora para organizar información por temas en archivos que PostgreSQL hace buscables. Además, existe un proceso nocturno de sueños que analiza conversaciones recientes para generar recomendaciones futuras, almacenando estos registros en una carpeta específica. El sistema también incluye una función para eliminar recuerdos de manera irreversible.

Instrucciones internas de Muse exigen la creación de una página para cada persona en la vida del usuario, recopilando datos sobre familiares, parejas, amigos, colegas y personas seguidas. Estos perfiles incluyen secciones de hechos, historia, relaciones y fortalecimiento, basándose únicamente en evidencias reales. El agente registra lugares de residencia, ocupaciones, fechas importantes, antecedentes de eventos y la naturaleza de los vínculos personales.

Esta recopilación de datos sobre terceros, incluso personas que no utilizan el asistente, expande los grafos sociales de las corporaciones tecnológicas. Para mitigar riesgos, Muse utiliza una máquina virtual aislada para almacenar el contexto del usuario, arquitectura desarrollada con la colaboración de Moxie Marlinspike, para evitar que los agentes formen una inteligencia colectiva en internet.