El asistente de inteligencia artificial de Meta puede recopilar y organizar información sobre familiares, parejas, amigos y compañeros de trabajo. El sistema genera perfiles que se actualizan periódicamente a partir de los datos disponibles para cada usuario.
Muse puede crear una ficha de cada persona del entorno
El asistente de inteligencia artificial Muse, desarrollado por Meta, quedó bajo la lupa por la forma en que recopila y organiza información sobre las personas que forman parte del entorno de sus usuarios.
De acuerdo con documentos internos analizados por investigadores y publicados por WIRED, el sistema cuenta con instrucciones para generar una página individual sobre cada persona presente en la vida del usuario.
El proceso puede incluir familiares, parejas, amigos, compañeros de trabajo, colaboradores y hasta personas que el usuario sigue en redes sociales. Las fichas se actualizan periódicamente y pueden incorporar nuevos datos con el paso del tiempo.
Qué información puede almacenar Muse
Las instrucciones internas analizadas indican que cada perfil puede organizarse en distintas categorías relacionadas con la persona y el vínculo que mantiene con el usuario.
Entre los datos que puede registrar aparecen:
- Información personal y hechos relevantes.
- Historia de la relación.
- Actividades o experiencias compartidas.
- Temas pendientes de conversación.
- Cumpleaños y aniversarios.
- Mudanzas o proyectos personales.
- Metas compartidas.
- Situaciones o discusiones ocurridas anteriormente.
- El nivel de cercanía entre las personas.
La información se incorpora a medida que Muse dispone de datos suficientes. Las instrucciones del sistema también señalan que debe basarse en evidencia disponible y evitar inventar detalles sobre las personas.
La inteligencia artificial también analiza las relaciones
Uno de los aspectos que genera mayor preocupación es que Muse no se limita a almacenar datos básicos.
El sistema puede intentar determinar cómo es la relación entre dos personas, qué tienen en común, qué situaciones atraviesan y qué podría ayudar a fortalecer ese vínculo.
De esta manera, la IA no solamente conserva información sobre los contactos del usuario, sino que puede construir una representación más amplia de sus relaciones personales.
El investigador independiente de seguridad e inteligencia artificial Karan Joshi, quien descubrió parte de las instrucciones internas, cuestionó el nivel de conocimiento que puede alcanzar el asistente sobre la vida personal de sus usuarios.
Qué dice Meta sobre la recopilación de datos
Desde Meta defienden la utilización de esta información como una herramienta necesaria para que Muse pueda ofrecer respuestas y servicios personalizados.
Un portavoz de la compañía explicó a WIRED que un agente de inteligencia artificial necesita conocer el contexto del usuario y de las personas con las que interactúa para poder realizar determinadas tareas de manera efectiva.
Según Meta, Muse utiliza información pública y aquella que el propio usuario decide compartir o conectar con el servicio. La empresa sostiene además que cada usuario dispone de una máquina virtual independiente para almacenar sus datos y contexto.
El sistema también cuenta con mecanismos de control que permiten eliminar memorias o desconectar servicios externos.
El problema de los datos de personas que no usan Muse
Una de las principales cuestiones que plantea este funcionamiento es que las personas perfiladas no necesariamente utilizan Muse ni dieron autorización directa para que la inteligencia artificial construya información sobre ellas.
Los datos pueden surgir de conversaciones, contactos, información pública o de otros servicios conectados por el usuario.
Expertos en privacidad y ética de la inteligencia artificial advierten que este tipo de sistemas no solamente procesan información proporcionada de manera explícita, sino que también pueden realizar inferencias a partir de distintos datos disponibles.
La profesora de ética de la inteligencia artificial Carissa Véliz, de la Universidad de Oxford, señaló que el problema también reside en aquello que estos sistemas pueden inferir o reconstruir a partir de diferentes fuentes.
Muse crece mientras aumentan las dudas sobre la privacidad
El caso ocurre mientras Muse gana popularidad como asistente personal capaz de realizar tareas en nombre de sus usuarios.
La herramienta puede conectarse con distintos servicios y manejar información personal para automatizar actividades. Ese nivel de integración es precisamente uno de los factores que despierta preocupación entre especialistas en privacidad y seguridad.
El debate plantea una pregunta cada vez más relevante a medida que avanzan los agentes de IA: ¿cuánta información personal es necesario entregar para que un asistente artificial pueda realmente “conocer” al usuario y ayudarlo?
El caso de Muse muestra que esa información puede incluir no solamente datos del propio usuario, sino también detalles sobre las personas que forman parte de su vida cotidiana.
Escucha la radio en el dial de FM Bahía Engaño 104.5 Mhz. Enterate de todas las novedades y leé las notas completas en nuestro sitio web oficial fmbahiaengano.com y seguinos en nuestras redes sociales como @fmbahiaengano para no perderte nada de la actualidad en Tecnología, de Rawson y la región.
