PARA ENTRAR
Meta lanzó su Muse, el primer agente personal de inteligencia artificial. en septiembre. Además de las capacidades de los chatbots tradicionales, este agente funciona como un asistente de IA, capaz de realizar actividades en nombre de los usuarios, como enviar correos electrónicos, realizar compras, reservar viajes y restaurantes.
Al igual que otros servicios de IA, Muse promete aportar más practicidad a la vida de las personas, pero lo que lo distingue son sus conexiones con otras aplicaciones y servicioscomo los de Meta, incluidos Instagram, Facebook y WhatsApp, pero también pueden asociarse con plataformas de terceros, como Spotify, Ticketmaster, Zoom, Slack, Canva, Notion y muchas otras.
En la declaración de lanzamiento de Muse AI, Meta afirma que el entorno de computación en la nube en el que está alojada su nueva aplicación, Muse Secure VM, es seguro y tiene «protecciones de privacidad, seguridad y protección sin precedentes, integradas en su diseño», y que no puede ver las contraseñas ingresadas por los usuarios o los métodos de pago utilizados.
Pero no pasó mucho tiempo antes de que los investigadores de ciberseguridad descubrieran que el agente de IA hace lo contrario de lo que promete.
Muse crea una página para cada persona en la vida del usuario
Aproximadamente un mes después del lanzamiento, el investigador de seguridad de IA, Karan Joshi, pudo extraer las instrucciones y los mensajes utilizados en el sistema Muse para comprender cómo funciona.
Como informó Wired, el primer descubrimiento fue que el agente crea «una página para cada persona en la vida del usuario»recopilando datos sobre la familia, socios, amigos, colegas y personas seguidas del usuario.
Esto es para que Muse pueda utilizar estos datos para comprender información sobre las relaciones y las personas más importantes para el usuario, pudiendo brindar sugerencias de relaciones o consejos de salidas, así como recordatorios de fechas, cumpleaños, etc.
En una frase que, cuanto menos, a cualquiera le parece extraña y parece sacada de un libro de ciencia ficción, Karan dice que «están queriendo conocerte como amigo, lo cual, sinceramente, da bastante miedo».
Este tipo de «memoria AI» no es algo nuevo en el mundo de la inteligencia artificial. Gemini y ChatGPT cuentan con esta capacidad desde hace mucho tiempo. Pero Muse se ha vuelto especialmente preocupante debido a la cantidad de información que puede recopilar sobre los usuarios a la vez.
Acceso a la vida personal de los usuarios.
Miranda Bogen, directora del Laboratorio de Gobernanza de IA del Centro para la Democracia y la Tecnología, dijo a Wired que Muse parece poner más énfasis en las relaciones y contactos personales de los usuarios que otros agentes de IA.
Además, estos asistentes fomentan el intercambio activo de datos de usuario mediante la conexión «Toda tu vida para ellos», incluidos correos electrónicos, calendarios e información de instituciones financieras..
«Eso es muchísimo más información de la que la gente podría haber proporcionado a algunas de estas empresas de otro modo. La amplitud de acceso a la información que tienen estas herramientas conducirá a una explosión en lo que saben sobre los usuarios».
– Miranda Bogen, directora del Laboratorio de Gobernanza de IA del Centro para la Democracia y la Tecnología.
Fallos de seguridad descubiertos antes del lanzamiento
Además de los problemas de privacidad mencionados anteriormente, otras investigaciones e informes ya han revelado amenazas aún más graves de Muse a la seguridad de los usuarios.
Un informe del sitio web 404 Media reveló que Los metaingenieros descubrieron varias vulnerabilidades de seguridad en Muse antes de su lanzamiento.uno de los cuales podría haber permitido a usuarios malintencionados obtener acceso a metainformación confidencial.
Una fuente anónima de Meta dijo que sentían que se pidió a los equipos de seguridad de la compañía que implementaran correcciones de errores de emergencia de una manera que no retrasara el lanzamiento de la aplicación.
El empleado informó además que esta prisa resultó en «salvaguardias incompletas que se apresuraron para permitir el lanzamiento» y que los ingenieros superiores de Meta creen que una violación de datos importante «es inevitable».
Meta reconoció el problema en una publicación:
«Un aumento repentino en los informes de fallas de seguridad de KVM (máquina virtual basada en kernel), además de una mayor conciencia sobre los problemas de seguridad de los agentes, nos ha llevado a intensificar los esfuerzos para fortalecer la seguridad del servicio».
Recompensas de hasta 300.000 dólares por encontrar errores
Para mejorar la seguridad de Muse, Meta inició un programa de recompensas que ofrece hasta 300 mil dólares a cualquiera que encuentre fallas que permitan que el servicio escape de su máquina virtual.
Como el agente accede a datos confidenciales y actúa en nombre del usuario, una falla de este tipo podría comprometer las cuentas y los sistemas internos de la empresa. Esta es una de las vulnerabilidades que se podrían haber aprovechado antes del lanzamiento de Muse, según informa el empleado de Meta entrevistado por 404 Media.
