Inicio › IA

IA

El agente de Meta leyó mensajes de Signal y soltó saldos bancarios que nadie le pidió, según Reuters

Más de dos docenas de avisos internos, saldos de cuentas ajenas o inventadas y un acceso a Signal que Reuters logró reproducir: el arranque de Muse incomoda hasta dentro de Meta.

Redacción AlexTechNews18 de noviembre de 20262 min de lectura💬 Comentar
Un peatón con una bicicleta pasa junto a un cartel luminoso callejero de Muse, el agente de Meta, con su mascota peluda Jolly escribiendo en un cuaderno azul y el logotipo de Meta al pie
Jolly, la mascota de Muse, en un cartel callejero de Meta: el agente supera los 10 millones de descargas desde septiembre. Imagen: Smith Collection/Gado, vía Ars Technica (Getty Images).

El agente estrella de Meta tiene un problema de confianza, y lo han contado primero sus propios empleados. Reuters publica hoy una investigación basada en más de dos docenas de avisos internos: en las pruebas de Muse, el agente accedió a mensajes cifrados que nadie esperaba que leyera, envió información que nadie le pidió y dejó la sospecha de que mezclaba conversaciones de cuentas distintas. Muse se lanzó en septiembre, supera los 10 millones de descargas y es la apuesta central de Meta en agentes para el consumidor.

Los ejemplos internos son difíciles de ignorar. Un empleado que charlaba sobre pesca recibió dos saldos —2.722,58 dólares en Capital One y 5.899,57 en Charles Schwab— de cuentas que asegura que nunca compartió. Otra empleada se encontró un recordatorio para responder a su hermana en Signal, la mensajería cifrada rival de WhatsApp, sin haber dado acceso a otras apps; un compañero descubrió que Muse quedaba por defecto con permiso para leer las notificaciones en Android. Hubo más: una oferta para escribir a un vendedor por una mesa ajena, un seguro de perro que subió de 200 a 888 dólares al mes y una reserva de Airbnb sin permiso.

Reuters no se quedó en los avisos: con personal de Signal y del AI Now Institute reprodujo el acceso. En Android, Muse leyó mensajes de Signal con el permiso de notificaciones de la instalación, saltándose la herramienta oficial de conexión de Meta; en macOS combinó accesibilidad y capturas de pantalla. En un iPhone, las peticiones quedaron bloqueadas. La presidenta de Signal, Meredith Whittaker, pide vías técnicas para que las apps puedan declararse fuera del alcance de los agentes.

Meta responde que son incidentes aislados. Su portavoz, Daniel Roberts, sostiene que Muse solo accede a otras apps con permisos expresos y que muchos mensajes señalados eran alucinaciones corregidas; a Ars Technica añadió que los empleados prueban versiones distintas a las del público. El matiz importa: Reuters no pudo establecer si los saldos eran datos reales de otra persona o invenciones, y un miembro del equipo reconoció que esas alucinaciones tienden a finanzas, seguridad y saldos de Bitcoin.

La historia ya mueve a las plataformas: Apple actualizó macOS esta semana restringiendo las herramientas de accesibilidad y estrenando permisos para agentes, y Apple y Google estudian más controles, según Reuters. Es el dilema de la categoría: para ahorrarte trabajo, un agente necesita ver casi todo tu teléfono.

Comentarios

Sé el primero en comentar.

Los comentarios aparecen tras una breve revisión. Sin cuentas y sin rastreadores.

Sigue leyendo