Muse, el asistente de Meta que arma ficheros sobre la vida privada de cada usuario y de su círculo cercano

Lo que a Marta le pasa cada mañana con su celular empieza a ser un problema. Desde que instaló Muse, el asistente de inteligencia artificial que Meta acaba de lanzar, la mujer de 43 años que vive en un departamento de tres ambientes en el barrio porteño de Villa del Parque nota que el chatbot le recuerda, sin que se lo pida, los cumpleaños de sus sobrinos, las preferencias de su hermana para los regalos y hasta el nombre del médico que atendió a su madre el mes pasado. Ella no escribió ninguno de esos datos en ningún lado: Muse los fue armando solos, a partir de lo que ella misma fue conversando con la aplicación a lo largo de las últimas semanas.

El caso de Marta sirve para ilustrar un hallazgo reciente del investigador independiente en seguridad informática e inteligencia artificial Karan Joshi, que consiguió que el asistente compartiera archivos internos con sus propias instrucciones luego de un pedido dentro de una charla normal. Esos documentos, obtenidos en las últimas semanas y divulgados por el especialista, detallan que Muse ejecuta de forma automática una vez por hora una rutina destinada a actualizar perfiles sobre las personas con las que las personas usuarias se vinculan, incluidos familiares, parejas, amistades, colegas y también cuentas que las personas usuarias siguen en redes sociales.

Daniel Roberts, vocero de la compañía, le dijo a este medio que esa memoria es justamente lo que permite que el asistente reconozca al plomero que la persona usuaria contrató hace un tiempo o las flores que prefiere su pareja, dos ejemplos que la propia Meta suele poner cuando habla del producto. La empresa repite, además, que cada persona usuaria dispone de una máquina virtual separada, sin acceso para otros usuarios ni para otros agentes, y que el sistema pide confirmación antes de mandar un correo electrónico o de hacer una compra.

Qué datos termina guardando Muse, según las instrucciones filtradas

• Antecedentes del vínculo y tiempo de relación con familiares, parejas, amistades, colegas y otras personas del círculo, incluidas cuentas que la persona usuaria sigue en redes sociales.
• Intereses compartidos y asuntos pendientes con cada uno de esos contactos.
• Datos sensibles como cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro en común y desacuerdos anteriores.
• La instrucción explícita de no inventar información: solo se cargan datos cuando hay evidencia en conversaciones o conexiones de la persona usuaria.

Lo que más llamó la atención de Joshi, y lo que a mí me parece más delicado de contar, es que esas instrucciones dejan en evidencia que el sistema no se limita a recordar lo que la persona usuaria le cuenta de manera directa. Cada hora, Muse barre las conversaciones previas y la información pública disponible y las va agregando a un fichero alrededor de cada vínculo. Si yo le digo a un paciente de toda la vida que ya no somos clientes más con el plomero que contratamos hace dos años, el asistente puede archivar el final y encajar la decisión en el perfil de ese plomero.

La empresa aclaró, ante la consulta de este medio, que la información que alimenta esos perfiles proviene de contenidos públicos y de aquello que la persona usuaria comparte con la aplicación, y que cada persona usuaria puede revisar la actividad del agente mediante un registro de auditoría, eliminar la información guardada en la memoria y cortar la conexión con servicios externos que aportan datos. Lo que la propia Meta reconoce, en cambio, es que esos controles no están disponibles para las otras personas que aparecen en los ficheros.

“La memoria de Muse se alimenta de contenidos públicos y de lo que la persona usuaria comparte. Cada persona usuaria puede revisar la actividad del agente, borrar lo guardado y desconectar servicios externos.”Daniel Roberts, voz clara de la compañía

En criollo: tu hermana, tu ex pareja o tu socio laboral no pueden pedir que Muse borre lo que sabe de ellas. El único que tiene la llave del archivo sos vos, que instalaste el asistente. Si decidís no usarlo más o querés pedir que se elimine todo, la vía es el Centro de Ayuda de Meta, disponible las 24 horas en help.meta.com, donde se puede revisar la actividad, borrar la memoria y desconectar servicios externos. Para hacerlo paso a paso hay que entrar a la configuración de Muse, seleccionar Memoria y actividad, y desde ahí revisar el registro de auditoría, eliminar entradas puntuales o borrar la memoria completa. También se puede escribir al Centro de Privacidad de Meta, abierto todos los días de 9 a 21, donde atienden quejas en pesos del entorno local.