Cuando la IA pregunta de más: el asistente de Meta que se metió en la vida de una familia

Lo que empezó como un video casero cantando en el auto con su hijo terminó convirtiéndose, para una usuaria de Instagram, en una experiencia incómoda. Debajo de esa publicación, el asistente de inteligencia artificial que Meta tiene integrado en la plataforma le ofreció, como si nada, la pregunta: "¿Quién es el niño pasajero?" Yo, si fuera esa madre, no habría podido evitar una sensación de invasión al ver que una máquina se interesaba por mi hijo a partir de un simple clip familiar.

La historia la conozco porque la propia mujer la hizo pública y terminó llegando a portales especializados en tecnología. Cuando tocó esa sugerencia, el chatbot fue por más: empezó a desplegar información sobre sus hijas, con referencias a la edad y al lugar donde vive la familia. Como si la inteligencia artificial hubiera decidido, sin que nadie se lo pidiera, armar un pequeño expediente con datos que circulaban en sus propias publicaciones y en las de parientes y amigos.

El relato de la usuaria y la respuesta de Meta

Según contó la mujer, la herramienta llegó a mostrarle fotos de sus hijas que habían sido publicadas en la plataforma con anterioridad, incluso una imagen que ella asegura haber eliminado hace años. La versión de la empresa, que habló a través de su portavoz Dina El-Kassaby, fue clara: "Nos equivocamos. Esa función nunca debería haber sugerido ese tipo de preguntas al usuario".

La aclaración oficial buscó poner un piso: Meta insiste en que su sistema no accede a contenido privado al que la persona que consulta no tenga permiso. Es decir, el asistente trabaja sobre lo que esa cuenta ya puede ver. El problema, reconocen, no fue el acceso a datos prohibidos, sino la forma en que la IA interpretó y conectó información disponible para fabricar preguntas que resultaron, como mínimo, invasivas.

Qué cambió y por qué importa

La compañía aseguró que ya corrigió el comportamiento que habilitaba esas recomendaciones y que trabaja para que las sugerencias sigan siendo útiles a la hora de explorar publicaciones, pero sin derivar hacia la vida privada ni el entorno familiar de las personas. En criollo: que la IA ayude a entender un posteo, pero que no se haga la curiosa con los hijos de nadie.

El caso no es aislado. En julio pasado, Meta ya había retirado una función que permitía crear imágenes falsas de otros usuarios de Instagram tras recibir críticas muy parecidas. La diferencia es que ahora el foco pasó de las imágenes a las preguntas automáticas, y de los adultos a los menores de edad, que es donde cualquier discusión sobre privacidad se vuelve mucho más sensible.

Vuelvo a la madre del principio. Lo que a ella le pasó, y lo que podría haberle pasado a cualquier familia que sube un video con sus hijos, deja al descubierto un punto que las empresas de tecnología todavía no terminan de resolver: hasta qué punto una inteligencia artificial puede cruzar, relacionar y ofrecer datos personales sin que nadie se lo pida. Hoy fue una pregunta sugerida. Mañana, qué otra cosa se le ocurra a un sistema que todavía está aprendiendo dónde está el límite.

Por ahora, la pelota está del lado de Meta: a la empresa le toca demostrar que el arreglo no es un parche de emergencia, sino un cambio de fondo. Y a los adultos que usamos redes sociales, mantener los ojos bien abiertos sobre qué publican nuestros hijos, qué dejamos visible y qué le estamos confiando, sin querer, a un chatbot que todavía no sabe distinguir entre lo que puede preguntar y lo que simplemente no debe preguntar.