Por qué una IA le preguntó a una madre quién era su propio hijo y qué cambió después

¿Puede una inteligencia artificial identificar al hijo de una usuaria a partir de un simple video y, encima, animarse a preguntarle quién es? Eso fue exactamente lo que ocurrió en Instagram con el asistente de inteligencia artificial de Meta, y la respuesta de la empresa fue admitir que se equivocó. La compañía reconoció que el sistema produjo sugerencias invasivas sobre menores y anunció cambios en el funcionamiento de esa herramienta.

Qué pasó dentro de Instagram

Una usuaria publicó un video cantando con su hijo en un auto. Debajo de esa publicación, el chatbot integrado por Meta sugirió automáticamente la pregunta «¿Quién es el niño pasajero?». Al abrir esa sugerencia, el sistema empezó a devolver información sobre las hijas de la mujer: su edad y el lugar donde vive la familia. Según su testimonio, la herramienta además mostró fotografías de sus hijas, entre ellas una que ella asegura haber eliminado de la plataforma hace años. Todo ese material, aclaró la compañía, provenía de publicaciones a las que la propia usuaria ya podía acceder dentro de la red social.

“Nos equivocamos. Esa función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

Por qué ocurrió el error

El problema, según Meta, no fue un acceso indebido a datos privados. El asistente solo opera sobre información que el usuario consultante ya puede ver en Facebook o Instagram. El fallo estuvo en la interpretación: la inteligencia artificial tomó publicaciones propias y de familiares, las relacionó y las convirtió en preguntas de carácter íntimo. La función fue pensada para dar más contexto sobre lo que se está viendo en la plataforma, pero se aplicó sin filtros sobre datos personales y familiares.

• Qué corrigió Meta: el comportamiento que generaba recomendaciones invasivas a partir de información personal.
• Qué mantiene: las sugerencias para explorar publicaciones públicas de otros usuarios.
• Qué descarta: preguntas automáticas sobre la vida privada o el entorno familiar de las personas.
• Antecedente: en julio, Meta retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram tras críticas similares.

Para qué sirve esto en La Rioja

El episodio deja una enseñanza concreta para cualquier persona que usa redes sociales desde La Rioja o desde cualquier otra ciudad: el contenido que se publica, incluso el que parece intrascendente, puede ser cruzado por un sistema de inteligencia artificial con otras publicaciones de familiares para construir perfiles detallados. La recomendación de Meta es revisar la configuración de privacidad de las cuentas y tener presente que, aun eliminado, el material puede haber sido procesado previamente por los algoritmos. Saber cómo funcionan estas herramientas es el primer paso para evitar que la tecnología cruce límites que ningún usuario consintió.