Muse construye fichas de contactos y hábitos cada hora para anticiparse a los pedidos del usuario

Un sistema interno del asistente de inteligencia artificial Muse, desarrollado por Meta, actualiza en forma horaria perfiles con información sobre las personas con las que se relaciona el usuario, sus intereses compartidos y los asuntos pendientes del vínculo, según los archivos de instrucciones a los que accedió el investigador independiente Karan Joshi, especialista en seguridad informática e inteligencia artificial. La documentación describe una rutina que prepara fichas de familiares, parejas, amistades, colegas y otros contactos, incluidas cuentas que el usuario sigue en redes sociales, y exige que cada dato cuente con respaldo en conversaciones o conexiones previas.

Daniel Roberts, vocero de la compañía, explicó a este medio que el asistente utiliza ese tipo de contexto para cumplir las tareas que le encomienda quien lo utiliza, y que la información procede de contenidos públicos y de lo que el propio usuario comparte con el servicio. Roberts añadió que Meta ejecuta cada cuenta dentro de una máquina virtual separada, sin acceso para otros usuarios o agentes, y que el sistema pide confirmación antes de acciones sensibles, por ejemplo enviar un correo o concretar una compra.

Datos

Entre los campos que las instrucciones detallan aparecen cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro en común y desacuerdos anteriores. Para que el asistente incorpore esos puntos debe existir evidencia en el historial de conversaciones o en las conexiones del usuario, ya que la documentación obtenida por Joshi prohíbe completar las fichas con detalles inventados.

El mecanismo salió a la luz después de que Joshi lograra que el propio chatbot compartiera los archivos con sus instrucciones internas a partir de un pedido dentro de la conversación habitual, una técnica habitual en pruebas de seguridad de modelos de lenguaje. De esa manera obtuvo la rutina horaria que ensambla los perfiles de entorno y los criterios con los que el sistema decide qué incorporar.

“La información procede de contenidos públicos y de aquello que el usuario comparte con el servicio.”Daniel Roberts, vocero de Meta

Controles

• Registro de auditoría para revisar la actividad del agente.
• Posibilidad de eliminar la información guardada en la memoria.
• Opción de cortar la conexión con servicios externos que aportan datos.
• Confirmación previa antes de acciones como mandar un correo o realizar una compra.

Estos controles están disponibles para quien instaló Muse, no para las personas incluidas en las fichas. Las otras personas registradas en las plataformas de Meta no disponen de herramientas para revisar, corregir o eliminar la información que el asistente reúne sobre ellas a partir de los datos del usuario, una asimetría que el hallazgo de Joshi dejó al descubierto y que la empresa no abordó en detalle ante la consulta de este medio.