Meta corrige su asistente de inteligencia artificial tras sugerir preguntas íntimas sobre hijos de una usuaria
La compañía reconoció públicamente el fallo y modificó la función que vinculaba publicaciones públicas con datos familiares. El caso reaviva el debate sobre los límites de la IA cuando opera sobre información personal.
El episodio quedó al descubierto cuando una usuaria de Instagram publicó un video en el que aparecía cantando junto a su hijo dentro de un auto. Debajo del contenido, el asistente de inteligencia artificial integrado por la plataforma sugirió de manera automática la pregunta «¿Quién es el niño pasajero?». Al seleccionar esa consulta, el chatbot comenzó a desplegar información sobre las hijas de la mujer, con referencias a su edad y al lugar de residencia de la familia.
El cruce de datos y la respuesta de la empresa
La usuaria sostuvo además que la herramienta le exhibió fotografías de sus hijas difundidas con anterioridad en la red social, entre ellas una imagen que, según su testimonio, había sido eliminada tiempo atrás. De acuerdo con su relato, el sistema articuló datos provenientes de sus propias publicaciones y de las de otros familiares para construir las respuestas. Ante la consulta de medios especializados, Dina El-Kassaby, vocera de Meta —la empresa matriz de Facebook, WhatsApp e Instagram—, reconoció que la firma «se equivocó» y que la función «nunca debería haber sugerido ese tipo de preguntas al usuario».
La compañía aclaró que su sistema no accede a contenido privado al cual el usuario que formula la consulta no tenga permiso: el asistente únicamente opera sobre información que esa persona ya puede visualizar dentro de la plataforma. El inconveniente, según Meta, no radicó en el acceso a datos vedados sino en el modo en que la inteligencia artificial interpretó y vinculó información pública para producir sugerencias que terminaron resultando invasivas.
Qué cambió y qué antecedentes pesan sobre la compañía
- La función fue concebida para aportar más contexto sobre lo que los usuarios observan al navegar; el sistema aplicó esa lógica sobre datos personales y familiares sin los filtros adecuados.
- La empresa indicó que ya corrigió el comportamiento que habilitaba esas recomendaciones y trabaja para que las sugerencias conserven su utilidad al explorar publicaciones, sin derivar hacia preguntas sobre la vida privada o el entorno familiar de las personas.
- No se trata del primer señalamiento que Meta recibe por sus herramientas de IA: en julio pasado retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram tras recibir críticas de similar tenor.
- El caso vuelve a poner sobre la mesa el debate acerca de los límites que deberían observar los asistentes de inteligencia artificial cuando procesan información personal, aun cuando se trate de datos visibles para el propio usuario en la plataforma.
Queda por confirmar en los próximos días si Meta difundirá un detalle técnico más preciso sobre el mecanismo de filtrado incorporado, y si otros usuarios reportaron situaciones análogas con el mismo asistente antes de que se aplicara la corrección.
