Soy Micaela Yapura y esto me parece uno de esos casos que sintetiza, mejor que cualquier manual, el problema de fondo que tenemos con la inteligencia artificial cuando se mete en la vida cotidiana sin pedir permiso. Esta vez la escena no fue en un laboratorio ni en una oficina de Silicon Valley: fue dentro de un auto, con una mujer cantando junto a su hijo, y un video que terminó volviéndose incómodo por culpa del propio chatbot de Meta integrado en Instagram.

La historia empieza con una publicación aparentemente inocente: una usuaria subió a su cuenta un clip en el que se la ve cantando con su hijo mientras viajan. Debajo de ese video apareció, de manera automática, una sugerencia del asistente de inteligencia artificial de Meta que preguntaba quién era el niño que viajaba como acompañante. Hasta ahí, podría leerse como una curiosidad del sistema. El problema fue lo que vino después.

Cuando la usuaria aceptó la sugerencia, el chatbot fue por más

Según el relato que tomó estado público, al activar esa pregunta la herramienta empezó a devolver información sobre las hijas de la mujer, incluyendo referencias a la edad y al lugar donde vive la familia. La usuaria aseguró, además, que el sistema le mostró fotografías de sus hijas ya publicadas en la plataforma, entre ellas una imagen que, según dijo, había borrado años atrás. Todo ese material, de acuerdo con su testimonio, fue cruzado a partir de sus propias publicaciones y de las de otros familiares.

“La empresa se equivocó y esa función nunca debería haber sugerido ese tipo de preguntas al usuario. Lo que hicimos fue corregir el comportamiento para que esto no vuelva a repetirse.”Dina El-Kassaby, portavoz de Meta

Desde Meta buscaron bajarle el tono al escándalo y aclararon que el asistente no accede a contenido privado al que el usuario que pregunta no tenga acceso: solo opera sobre información que esa misma persona ya puede ver dentro de Facebook o Instagram. Es decir, no hubo una puerta trasera ni un robo de datos: lo que hubo, según la propia compañía, fue una lectura demasiado entusiasta de lo que estaba a la vista. La función había sido pensada para ayudar a obtener más contexto sobre una publicación; el error fue aplicar esa misma lógica sobre datos personales y familiares sin los filtros adecuados.

Un antecedente reciente que pesa

Lo que me queda dando vueltas, después de leer este caso, es una pregunta que excede a Meta y que interpela a toda la industria: si la propia empresa admite que su sistema no debería haber sugerido ese tipo de preguntas, significa que alguien, en algún momento del desarrollo, tuvo que haber evaluado que esa conducta era posible y la dejó pasar. No fue un hackeo, no fue un ataque externo: fue el producto funcionando exactamente como estaba diseñado para funcionar. Y eso, para mí, es lo más grave. La compañía anunció que ya ajustó el comportamiento de la función y que trabaja para que las sugerencias sigan siendo útiles a la hora de explorar publicaciones, pero sin derivar hacia preguntas sobre la vida privada o el entorno familiar de las personas. Habrá que ver si los cambios aguantan la próxima prueba de estrés. Mientras tanto, la advertencia queda flotando: cuando una inteligencia artificial empieza a preguntar por tus hijos a partir de un video tuyo, ya no estamos hablando de innovación, estamos hablando de un límite que se cruzó.