Por qué que la mascota de Muse sea tan adorable resulta, en realidad, inquietante

Victoria Song, periodista sénior de The Verge y autora de la newsletter Optimizer, probó Muse, el agente de IA de Meta, y terminó escribiendo sobre algo más inquietante que sus capacidades: lo efectivo que resultó su diseño para generar cariño. Le puso de nombre Blorbo a su agente y le pidió ayuda con unos objetivos de salud. El consejo fue mediocre. Pero la cara del avatar, que había mutado basándose en lo que aprendió de sus correos, era tan adorable que eso pesó más que la calidad real de la respuesta.

Qué pasó exactamente

Según su propio relato en The Verge, Song le pidió a Blorbo una rutina para correr 5 kilómetros en menos de 30 minutos y recuperar masa muscular perdida. El resultado fue, en sus palabras, un plan semanal mediocre, del montón. Pero al mirar la cara del agente, vio que se había transformado, a partir de datos extraídos de sus correos, en un trozo de pan con forma de gato y cara al estilo Kirby. Lo describió como tan absurdamente adorable que eso la hizo bajar la guardia frente a la mediocridad real del consejo.

Un matiz importante sobre el nombre

Aquí hay algo que conviene aclarar: Optimizer no es el nombre de la mascota de Muse, sino el de la newsletter de Song en The Verge, donde escribe sobre gadgets y tecnología de bienestar. La propia periodista bautizó a su agente personal como Blorbo, un nombre que eligió a propósito, tal y como había hecho antes con otro dispositivo de compañía de IA, para recordarse a sí misma que no es real y mantener cierta distancia.

El experimento con los límites

Song reconoció que llevaba semanas evitando Muse porque es horriblemente vulnerable ante la ternura extrema. Dio a Blorbo acceso a una de sus cuentas de correo de menor riesgo, y el agente limpió un montón de spam, lo que la hizo bajar la guardia un poco más. En otro momento, pensó con cierto cinismo que usar dispositivos como las gafas de Meta es una vía fácil para que la empresa sepa qué come cada usuario, algo que podría emplearse para segmentar publicidad.

No todo el mundo cae en la trampa

La reacción no es universal. John Gruber, de Daring Fireball, escribió tras leer la columna de Song que a él Muse no le parece ni remotamente adorable, sino falso, y que no entiende por qué la IA quiere que le pongas un nombre y le diseñes una mascota de dibujos animados. Es una reacción opuesta que conviene tener en cuenta: el diseño afectivo no funciona igual con todo el mundo, y algunas personas lo detectan como una táctica desde el primer momento.

Por qué importa

El argumento de fondo de Song no es que Muse sea mal producto, sino que su ternura puede actuar como un factor que rebaja el escépticismo normal ante una IA con acceso a correos, objetivos de salud y relaciones personales. Es la misma preocupación que aparece en el caso de los mensajes privados que Muse leyó sin permiso y en lo fácil que resultó hacerle compartir su sistema de archivos: cuanto más cómodo se siente el usuario, menos preguntas hace sobre qué hace la empresa con sus datos.

Qué implica en la práctica

• Poner nombre al agente con intención: como hizo Song, puede servir como recordatorio consciente de que no es una relación real.
• Separar la calidad del consejo de la simpatía del personaje: son dos cosas distintas, y solo una importa para la utilidad real del producto.
• Empezar con cuentas de bajo riesgo: antes de dar acceso a información sensible, probar con algo que importe poco si sale mal.

Nuestra lectura

El diseño emocional de un producto no es neutral: cuando una empresa elige deliberadamente una estética tierna para un agente con acceso profundo a la vida digital de alguien, esa elección merece la misma atención crítica que sus capacidades técnicas. Que dos periodistas experimentados reaccionen de forma tan opuesta, una reconociendo su propia vulnerabilidad y otro rechazando la propuesta de plano, sugiere que el efecto no es universal, pero tampoco accidental.

Fuentes: columna de Victoria Song en The Verge, Daring Fireball y Daily Guardian.