Wired ha publicado una reseña de Muse, el agente de IA personal de Meta, con un titular que resume su veredicto: es mejor vigilando que ayudando. El autor, Reece Rogers, acabó borrando la aplicación tras sus primeras pruebas. Muse no es una app creativa de inspiración, como podría sugerir su nombre, sino un agente que aspira a gestionar tareas por el usuario, y esa ambición es precisamente lo que plantea las preguntas de fondo sobre datos y dependencia que recoge la reseña.
Qué es Muse
Meta lanzó Muse el 8 de septiembre como agente de IA para consumidores. Según Startup Fortune, subió hasta el segundo puesto de la App Store estadounidense pocos días después del lanzamiento, y llegó a Mac el 17 de septiembre, aunque sus descargas quedan muy por debajo de las de otras aplicaciones de Meta, como Threads, y su tracción en Android es débil. Es un producto reciente y todavía en pruebas de mercado.
Lo que critica Wired
Según los resúmenes del reportaje, Muse continúa la tendencia de Meta de activar por defecto la recopilación de datos de los usuarios para entrenar IA, y empuja de forma constante a compartir cuentas y datos sensibles: la cuenta bancaria, el correo y datos del pasaporte. Rogers contó que el agente le animaba una y otra vez a vincular sus cuentas bancarias, analizar su bandeja de entrada y fotografiar su pasaporte y su carnet de conducir, y que llegó a proponerle vigilar mensajes entrantes o fotografiar sus comidas para estimar las calorías. Antes de que pudiera desinstalarla, la app le envió un último aviso con un consejo.
El argumento de fondo: delegar decisiones
La reseña va más allá de la privacidad y plantea un problema de autonomía. Uno de los expertos citados, de apellido Schroeder, advierte de que, si la IA toma cada decisión de gusto y preferencia, desde dónde comes hasta qué vacaciones haces, se pierde parte de lo que significa ser humano, que incluye probar cosas y descubrir qué te gusta. Margaret Mitchell, científica jefe de ética de Hugging Face, sostiene que el diseño de los agentes de IA tiende a desconectar al usuario, y que depender de ellos puede deteriorar nuestras capacidades mientras estas herramientas recogen datos sobre nosotros. Es un argumento de opinión de expertos, no un hallazgo empírico, pero se plantea una pregunta razonable: qué damos a cambio de la comodidad.
El modelo de negocio, todavía por aclarar
Otro elemento que recoge la reseña es que el director de IA de Meta, Alexandr Wang, insinuó en una entrevista con Axios que la compañía busca oportunidades de ingresos en Muse que no sean publicidad, sin dar detalles. Cuando un producto gratuito pide acceso profundo a cuentas y hábitos y no explica cómo ganará dinero, la pregunta legitima es qué valor obtiene la compañía de esos datos.
Lo que dice Meta
Según Dataconomy, Meta afirma que depura los datos para eliminar información identificativa antes de usarlos para entrenar, y que los usuarios pueden desactivar este uso en los controles de datos de la aplicación. Los defensores de la privacidad advierten de que la recopilación podría seguir incluyendo el contexto que Muse obtiene de las fuentes conectadas.
Qué implica en la práctica
- Revisar los controles de datos y desactivar el uso de tus conversaciones para entrenamiento si no quieres participar.
- No vincular cuentas sensibles (banco, pasaporte, correo) hasta saber qué se conserva y para qué.
- Valorar el intercambio: si el agente pide mucho más de lo que da, quizá no compense.
- Mantener decisiones que te importan: delegar tareas rutinarias no es lo mismo que delegar preferencias.
Nuestra lectura
Los agentes personales prometen ahorrar tiempo, pero para ello necesitan acceso amplio, y ahí está la tensión: la utilidad crece con los datos, pero también el riesgo. La reseña de Wired es una experiencia personal, no un análisis sistemático, y otras personas pueden tener una experiencia mejor. Pero sus puntos coinciden con otros episodios que hemos ido recogiendo: el caso de los mensajes privados que un columnista dice que Muse leyó, la exposición de su sistema de archivos y el diseño afectivo que baja la guardia del usuario.
Fuentes: Wired, AI Weekly, Dataconomy y Startup Fortune.