Meta y su nuevo pasatiempo: espiar hasta el cumpleanios de tu ex

Vayamos al grano, que la cosa lo merece. Meta decidió que su asistente Muse no se conforme con responder preguntas: quiere conocer a tu entorno como si fuera el amigo que se sienta en la barra del bar y no se va nunca. Para eso, según confirmó el propio Daniel Roberts, vocero de la compañía, la herramienta reúne información sobre los vínculos personales del usuario: contactos, preferencias, afinidades y hasta facturas de plomeros que uno tuvo la desgracia de contratar.

(Sí, leíste bien: la factura del plomero. Próximo paso: recordarte el mal humor con que te dejó la cocina inundada.)

Una memoria que se actualiza cada hora

El hallazgo que prendió la alarma lo hizo Karan Joshi, investigador independiente en seguridad informática e inteligencia artificial. A Joshi le bastó con pedirle al chatbot, en una conversación normal y corriente, que le pasara sus archivos de instrucciones internas. El bot, obediente como pocos, le entregó documentación que describe una rutina automática que se ejecuta cada sesenta minutos y prepara perfiles de familiares, parejas, amistades, colegas y de cualquier cuenta que el usuario siga en redes sociales.

Los registros, según el material al que accedió el investigador, se van completando con el tiempo: incluyen antecedentes del vínculo, intereses compartidos, temas pendientes y hasta el estado de la relación. También pueden incorporar cumpleaños, aniversarios, mudanzas, objetivos de ahorro en común y desacuerdos anteriores, siempre que haya evidencia en las conversaciones o conexiones del usuario. Las instrucciones, vale aclararlo, prohíben inventar detalles.

• Cumpleaños y aniversarios de allegados.
• Cambios de domicilio de personas cercanas.
• Objetivos de ahorro compartidos con la pareja o la familia.
• Desacuerdos previos con amigos o colegas.
• Intereses y asuntos pendientes en cada vínculo.

Roberts salió a defender el sistema con el argumento de siempre: que esos datos sirven para que Muse cumpla mejor los objetivos del usuario y que la información sale de contenidos públicos y de lo que uno mismo comparte. La empresa asegura además que cada usuario corre en una máquina virtual separada, de modo que nadie más puede meter la nariz en la memoria ajena.

“La información procede de contenidos públicos y de aquello que el usuario comparte. Cada usuario dispone de una máquina virtual separada, sin acceso para otros usuarios o agentes.”Daniel Roberts, vocero de Meta

El problema de siempre: quién manda

Porque siempre hay un pero, claro. Meta dice que el usuario puede revisar un registro de auditoría, borrar lo que quiera de la memoria y cortar los servicios externos que aportan datos. También afirma que el sistema pide confirmación antes de mandar un correo o gastar plata en una compra. Pero todos esos controles están en manos de quien instaló Muse. Las personas incluidas en los perfiles no tienen ni voz ni voto sobre la ficha que la inteligencia artificial les arma a sus espaldas.

Dicho de otro modo: tu vecina puede usar a William para que Muse le recuerde tu cumpleaños y vos no te vas a enterar jamás. Y eso, en pleno valle, donde un comentario en la verdulería se sabe antes de que lo escupa el programa, es terreno fértil para cualquier situación incómoda.

Mi recomendación, sin maquillaje: si te tienta probar Muse, leé letra por letra la configuración de privacidad antes de soltar tu primera conversación. Si no, prepárate para que la herramienta sepa más de tu familia política que vos, que ya es decir bastante.