Meta anunció que revisará y modificará las sugerencias de su asistente de inteligencia artificial luego de que una usuaria denunció que el sistema le planteó preguntas de carácter personal relacionadas con sus hijos. La compañía indicó que la función no debió generar ese tipo de recomendaciones y aseguró haber solventado el problema que permitía ese comportamiento.

Dina El-Kassaby, portavoz de Meta, le comentó a The Verge que la empresa admite el error y que la función nunca debió haber propuesto ese tipo de preguntas al usuario. La noticia se difundió luego de que un video publicado por Kalie Robins en Instagram se volviera viral y suscitara críticas sobre la forma en que la IA de Meta utiliza información disponible en las plataformas de la firma.

Robins explicó que el inconveniente arrancó tras subir a Facebook un video en el que aparece cantando junto a su hijo dentro de un automóvil. En el pie del contenido, la IA de Meta emitió una sugerencia que preguntaba: “¿Quién es el niño pasajero?”. Al seleccionar esa pregunta, la usuaria relató que el chatbot empezó a dar datos vinculados a sus hijas.

Según su relato, la IA recurrió a información presente en publicaciones anteriores de ella y de otros familiares para generar nuevas preguntas sobre la edad de los hijos y el lugar de residencia de su familia. Robins afirmó también que la herramienta mostró fotografías de sus hijas que ya había publicado previamente en la plataforma, incluida una imagen que, según dice, había eliminado años atrás.

El caso generó inquietud acerca de hasta qué punto una herramienta pensada para interactuar con publicaciones puede enlazar datos personales y convertirlos en posibles temas de conversación.

Frente a las críticas, Meta sostuvo que su sistema no puede mostrar publicaciones a las que el usuario no tiene acceso. “El contenido al que responde Meta AI es aquel al que el usuario que consulta sí puede entrar”, explicó la portavoz. Añadió que, en el caso de Robins, el chatbot podría haber obtenido datos sobre sus hijos a partir de videos y otras publicaciones en las que ella misma los mencionaba.

La empresa señaló que el problema no sería que la IA accediera a información sensible de terceros, sino que utiliza datos disponibles para el usuario para generar preguntas que resultaron excesivamente personales. Meta aclaró que las sugerencias forman parte de una función diseñada para ayudar a las personas a profundizar en el contenido que están viendo. Cuando un usuario elige una de esas recomendaciones, la IA genera una respuesta basada en la información disponible; la firma reconoció, no obstante, que el sistema cruzó información para crear preguntas que excedieron el límite esperado.