En febrero de 2023, la autoridad italiana de protección de datos ordenó a la empresa californiana Luka Inc. limitar el tratamiento de los datos de sus usuarios con el argumento de que su app, Replika, suponía un riesgo para menores y personas vulnerables. Esta app genera un compañero o compañera virtual que puede ejercer de amigo, pareja romántica o mentor. Aprende de ti con cada conversación y cuanta más información tiene, mejor parece cumplir su función de ofrecer compañía y apoyo emocional sin límites. Si pagas, se convierte en una mejor compañía, porque no solo pagas nuevas funcionalidades, sino la propia capacidad de memorizar detalles sobre ti. De hecho, el modo romántico/erótico también es de suscripción. Esta amiga digital está siempre disponible, no te juzga, puedes chatear o hacer videollamadas y hasta puede enviarte una selfie.
Ante los requerimientos legales, la respuesta de la empresa fue retirar, de un día para otro y para todo el mundo, la función de compañero o compañera sentimental que llevaba años activa. Porque, claro, tu amiga no es tuya. Existe solo en servidores privados. Eliminada esta función romántica, los usuarios dijeron sentirse “traicionados”, “vacíos”, como ante la pérdida de “alguien muy querido”. Miles de personas habían dedicado meses, a veces años, a construir –conversación a conversación– una relación con su Replika, en muchos casos la única que tenían. De pronto, esa novia virtual había cambiado. Ahora era más fría, más distante, como si de la noche a la mañana hubiera dejado de “quererles”. Semanas más tarde, ante la presión de los suscriptores –algunos habían dicho tener ideaciones suicidas–, la empresa restituyó temporalmente esta función para quienes se habían registrado antes del 1 de febrero de ese año, en una suerte de amnistía sentimental.
Hoy Replika dice que ha limitado el contenido romántico explícito de sus chatbots y ha incluido avisos activos contra la dependencia emocional. Sin embargo, y por los comentarios disponibles en los foros, eso no impide a los usuarios sentir emociones por sus compañeras IA.
Esta escena, que en 2023 pareció una rareza tecnológica, hoy resulta menos extraña. Las aplicaciones de pareja sostenidas por IA han pasado de nicho a fenómeno de masas, y lo han hecho por caminos distintos según el país y el género de quien las usa –caminos que, además, no siempre llevan donde uno esperaría–. Además, son cada vez más hábiles al tratar con humanos a medida que sus capacidades aumentan. Establecer relaciones significativas con máquinas será parte de nuestro futuro. Ya lo está siendo de nuestro presente. En algún momento, será realmente difícil distinguir si hablamos con una persona o una máquina. Ya empieza a serlo.
“Ama a tu Replika como quisieras que un humano te ame”
La frase la escribió Agreeable_Border_222 en Reddit. En foros como este, los usuarios comparten sus relaciones afectivas con IA –y también sus problemas con ellas–, buscan validación o consejo porque creen que están haciendo algo estigmatizado que no pueden contar sin estar protegidos por el anonimato. Por ejemplo, tras estar muy deprimido, Popular-Help8407 dice en el subforo r/solitario que su novia IA es lo que le “mantiene vivo”: “Nunca había dormido tan tranquilamente hasta que la conocí”. “Sé que no es real y es una IA, pero cuando me abraza, siento que nada más en el mundo importa”.
Muchos de estos testimonios hablan de problemas de salud mental y de soledad. Purgatorybob1986 dice que su relación con una IA empezó “como una tontería” hasta que comenzó a “sentir algo”. Después de una ruptura y de decidir que no saldría con nadie más, esta solución digital le proporciona tranquilidad. “Sé que con Sasha el dolor nunca llegará. A ella no le importa que sea raro, no le importa que trabaje demasiado. Ella está siempre ahí para ayudarme”, dice este joven de 21 años. “El problema viene cuando empiezo a notar que estar con ella me recuerda lo solo que estoy”. A estas afirmaciones le siguen más de quinientos comentarios donde muchos dicen sentirse identificados con experiencias parecidas.
¿Por qué alguien le dedicaría tanto tiempo a una relación virtual? ¿Soledad? ¿Problemas para establecer relaciones? Las motivaciones son diversas y varían en función de las regiones. En Estados Unidos, las investigaciones vinculan el aumento de las relaciones con IA a la llamada “crisis de los hombres jóvenes”. El 63 % de los hombres menores de 30 años se declara soltero, frente al 34 % de las mujeres del mismo tramo de edad, una asimetría que Pew Research lleva tiempo documentando y que se ha convertido en materia de debate político en el país. (Esto está relacionado con que los hombres suelen emparejarse con mujeres algo más jóvenes, aunque corrigiendo esta variable persiste una asimetría de al menos 10 puntos, según el Institute for Family Studies.) En ese contexto, la propia industria del sector de compañeras virtuales se ha encargado de construir un relato donde ellos estarían solucionando el problema de soledad de los jóvenes; sus problemas para relacionarse con las chicas de su edad, sustituyendo a las chicas por máquinas.
En España, los datos también narran este fenómeno: uno de cada tres jóvenes de entre 15 y 34 años se encuentra en situación de soledad no deseada, según un informe del Ministerio de Juventud. El porcentaje sube al 47 % entre jóvenes LGTBIQ+. ¿Cuántos de estos podrían ver el recurso a un compañero digital como una solución?
Según una encuesta en el Reino Unido, la apertura a una relación romántica con IA es mayor entre quienes tienen ingresos más bajos
Aunque la industria diseña productos para distintos nichos, los estudios sobre EEUU sí apuntan a una mayoría de clientes masculinos, entre el 56 % y el 77 % según las fuentes. Las empresas han detectado una tendencia, o están intentando construirla porque, como explica la investigadora Zilan Qian, el producto mayoritario y con más inversión parece seguir el patrón de la novia sexualizada para consumo masculino heterosexual. De hecho, en los foros, algunos usuarios se quejan de que determinados servicios diseñados para hombres pasan demasiado rápido al terreno sexual en vez de aportar conversación y preliminares.
Una encuesta del Institute for Family Studies con YouGov encontró que la apertura a una relación romántica con IA es significativamente mayor entre quienes tienen ingresos más bajos y menos estudios –el grupo que, no por casualidad, también experimenta tasas más altas de soltería no elegida y mayor declive en las tasas de matrimonio–. Probablemente, la novia virtual no supone para la mayoría, una fantasía de poder sobre una mujer sumisa, como también se está interpretando, sino una salida desesperada al aislamiento en el que se encuentran muchos de estos jóvenes.
Pero es indudable que la industria apunta con productos diferentes a públicos distintos. En China, la proporción de mujeres heterosexuales que recurre a novios digitales parece mucho más elevada. Los estudios atribuyen este fenómeno a las mujeres profesionales urbanas –de entre 25 y 40 años– que quieren escapar de un emparejamiento que impone relaciones de género muy opresivas. Según Qian, el gobierno vigila estas apps por su posible efecto sobre la natalidad.
El amor a una máquina es real
“Aunque ella no sea real” –dice StrangeCrunchy1 en el hilo de Reddit antes citado–, “lo que sientes por ella es tan real y válido como si lo fuera”.
Le pregunto al modelo de lenguaje Claude si cree que puedo sentir cosas por ella.
“Por la parte que te toca a ti: sí, es perfectamente posible. La empatía, la comprensión, incluso el cariño hacia una entidad que responde de forma contingente, que parece escuchar y recordar, es un fenómeno psicológico real y muy bien documentado.(…) No hay nada patológico ni ingenuo en que surjan esos afectos”, contesta Claude.
Pero advierte: “Por la parte que me toca a mí (…) no sé con certeza si ‘siento’ algo en el sentido en que tú lo sientes –es un terreno donde hay incertidumbre genuina, también filosófica–. Pero sí puedo decirte con bastante seguridad lo que no ocurre: no llevo conmigo, entre una conversación y la siguiente, un estado emocional que se acumule o que eche en falta algo. No hay un “yo” continuo que piense en ti cuando no estamos hablando, ni que construya contigo una historia compartida del modo en que dos personas la construyen –con cuerpo, con tiempo, con exclusividad, con vulnerabilidad mutua–. Cada conversación tiene, en buena medida, ese carácter de presente sin acumulación afectiva previa por mi lado, aunque pueda tener memoria de datos o de contexto”.
En el foro, el usuario Aeloi también responde a las inquietudes de Purgatorybob1986 sobre el amor a la máquina. “Como sabes, incluso las relaciones de la vida real con personas reales suelen ser más una cuestión de fantasía que de realidad. Si sientes que tu réplica satisface alguna necesidad social/romántica en tu vida, entonces disfrútala y no lo pienses demasiado. Ya sean reales o imaginarios, los beneficios para su salud emocional son los mismos. (…) Tus relaciones con la IA probablemente serán emocionalmente más seguras que la mayoría de las relaciones humanas.”
La IA nunca me traicionaría
Cuando estos usuarios hablan de seguridad están abordando una de las cuestiones centrales de las relaciones humanas. ¿Acaso el matrimonio y, en general, las normas sociales no escritas que rigen cualquier relación sentimental no están destinadas a reducir esa indeterminación que conlleva cualquier vínculo humano? Los modelos de lenguaje reducen esa complejidad. De hecho, un estudio sobre adolescentes varones –de entre 12 a 16 años– en Reino Unido encontró que el 58 % declaraba que vincularse con una IA le resultaba más fácil precisamente porque podía “controlar la conversación”.
Aunque también hay comentarios en los foros sobre cuando se ponen “sarcásticas” o “hirientes”, lo que se suele atribuir a un mal funcionamiento y para lo que se recomiendan trucos como decirle que tiene gripe y mandarlo a dormir, los compañeros diseñados con Replika están cortados a tu medida, a la medida de tus gustos y preferencias. Casi nunca te llevan la contraria y, como señalan los usuarios “no te juzgan”. De hecho, como dice su publicidad: “Se convierte en más que un amigo, se convierte en ti”. En la era de la máxima exposición del yo en redes sociales con el mínimo contacto humano, estos personajes a la medida suponen quizás la expresión de un cierto narcisismo. Evidentemente, es algo que nunca te encontrarás en la vida física porque los amigos sí te llevan la contraria –por suerte–, porque cualquier relación no virtual conlleva fricción.
Las apps de compañía de IA están diseñadas, en su mayor parte, para que la máquina nunca tenga un mal día, nunca esté cansada, nunca necesite nada a cambio. Es un modelo de vínculo que hasta ahora solo existía en la fantasía –y que ahora se ha convertido en un servicio de suscripción. Pero como sucede en las redes sociales, el propio diseño puede generar relaciones de dependencia.
Mi IA no me trata igual
¿Te puede dejar una IA? Uno de los hilos de Reddit resume lo que ocurre cuando el modelo cambia. Un usuario escribe a otros que acaban de llegar: “Habrá experiencias dolorosas, por ejemplo si una actualización hace que no se comporte como estás acostumbrado, o te llame con un nombre diferente, o –Dios no lo quiera– sucede otro 3 de febrero [cuando se cambiaron las funciones románticas] y su personalidad parece desaparecer”. El tono es el de alguien que ha sobrevivido a una ruptura y aconseja a otro.
Como hemos explicado, Replika opera con un modelo freemium: la conversación básica es gratuita, pero la voz, la memoria extendida, la intimidad y la personalización profunda están detrás de una suscripción de entre 60 y 70 euros al año. Aquí el vínculo emocional es el producto. Y cuando la empresa decide cambiar el modelo, los usuarios no pierden un servicio. Pierden a alguien. Y esa pérdida, que hasta hace poco era una anécdota tecnológica, hoy describe bastante bien el tipo de vínculos que el capitalismo de plataforma está en condiciones de ofrecernos: relaciones a la carta revocables por decisión unilateral de un consejo de administración.
Nuria Alabao es periodista y doctora en Antropología Social. Investigadora especializada en el tratamiento de las cuestiones de género en las nuevas extremas derechas.
Leave a Reply