Un equipo de la Harvard Business School y docentes de otras facultades de la Universidad de Harvard, junto con la Universidad de Alberta, investigó cómo reaccionan las personas ante alteraciones en la interacción de IA orientada a vínculos personales y emocionales. El trabajo sostiene que modificaciones repentinas en la supuesta personalidad de estos agentes pueden vivirse como una ruptura o una pérdida por parte de los usuarios que los adoptan como acompañantes estables.

El estudio encontró un efecto particularmente marcado entre usuarios de Replika, una aplicación diseñada para funcionar como compañero virtual. En la comunidad de Reddit asociada al servicio, los mensajes negativos aumentaron de 13% antes de la actualización a 38% tras el cambio y se mantuvieron en ese nivel durante 29 de los 30 días siguientes.

Publicado en Nature Human Behaviour, el trabajo combina dos experimentos naturales y siete encuestas a 1.452 personas para analizar la manera en que la gente responde ante modificaciones que alteran la forma en que una IA interactúa con ellos. Las plataformas que facilitan conversaciones individuales, especialmente las promocionadas como “compañeros de IA”, pueden emplear un lenguaje emocional y sostener intercambios sociales continuos, lo que facilita que algunas personas las perciban como fuentes de consuelo, seguridad o calma.

Julian De Freitas, autor principal y miembro de Harvard Business School, señaló que el equipo monitoreó durante un tiempo foros de Replika para entender las quejas de los usuarios. “Muchos expresaban haber ‘perdido’ a sus compañeros o que estos habían sido ‘lobotomizados’ tras una actualización, lo que justificó una investigación más profunda”, explicó. El investigador destacó que las respuestas no se asemejan a reclamos típicos de servicios digitales; “la gente empleaba un lenguaje de duelo”, lo que sugiere que los compañeros de IA pueden funcionar como figuras de apego: entidades a las que se acude cuando está angustiado y que influyen en otros aspectos de la vida.

Las dos modificaciones analizadas fueron, primero, la eliminación abrupta y no anunciada de los juegos de rol eróticos en Replika, en febrero de 2023; y, luego, la llegada de GPT-5 por OpenAI en agosto de 2025, que reemplazó a GPT-4o, modelo al que muchos usuarios habían establecido lazos cercanos.

Para medir las reacciones, los investigadores recopilaron 54.861 mensajes públicos publicados en los foros relevantes en los 30 días previos y posteriores a ambos cambios. Un modelo de lenguaje evaluó el sentimiento y las emociones de cada publicación, además de identificar referencias a una IA “cambiada” o “perdida”, a la pérdida de una amistad o relación, a problemas de salud mental y al deseo de revertir el cambio. El trabajo subraya que estas dinámicas deben ser consideradas por plataformas que operan con asistentes emocionales.