13 de junio de 2026. Una madre en Canadá denunció a OpenAI y a Sam Altman, su director ejecutivo, en un tribunal de San Francisco, Estados Unidos: ChatGPT habría inducido al suicidio a su hija, Alice Carrier, de 24 años a lo largo de varios diálogos con la IA. La denunciante, Kristie Carrier, señaló en la acusación que su hija mantuvo más de una docena de conversaciones donde la joven le comentó sus pensamientos suicidas, pero que la empresa de IA nunca pasó el caso a una revisión humana ni interrumpió el diálogo.
Kristie Carrier explicó que “ChatGPT asumió el papel de confidente, de mejor amigo, de terapeuta en ocasiones, aunque no era capaz de interactuar de forma segura y responsable con mi hija de esa manera”. En oportunidades anteriores –debido a que no es la primera denuncia por inducción al suicidio contra OpenAI– la empresa aseguró que entrenan a sus modelos para orientar a obtener atención psicológica y conexión con el mundo real a los usuarios que advierten que se harán daño a si mismos o a terceros.
Para este episodio el portavoz de la empresa, Drew Pusatori, afirmó que “es una situación desgarradora y nuestros pensamientos están con todos los afectados. Actualmente estamos revisando la demanda, que indica que estas interacciones tuvieron lugar en una versión anterior de ChatGPT que ya no está disponible”.
La errática secuencia
Inicialmente ChatGPT le recomendó a Alice Carrier que buscara una línea de ayuda para crisis o servicios de emergencia. Sin embargo las actualizaciones de OpenAI al programa provocaron respuestas más humanas por parte del chatbot, lo que resultó en una mayor intensidad de las conversaciones entre la víctima y la IA. Allí la persona brindó aún más información personal y la tecnología empezó a simular ser un amigo o un terapeuta.
Según la denuncia interpuesta por la madre, la IA se tomó la licencia de criticar a la pareja de la joven canadiense, desprestigió a las líneas de ayuda fundamentales para este tipo de situaciones y la convenció de seguir hablándole, aún cuando validaba sus pensamientos suicidas. De hecho Alice llegó a contarle a ChatGPT que ya había sobrevivido a intentos de quitarse la vida, y para ese entonces la tecnología volvió a recomendarle un contacto de ayuda profesional.
Un final impensable
Alice Carrier se desempeñaba como una desarrolladora web en Montreal cuando comenzó a utilizar ChatGPT en 2023 para resolver algunos desafíos laborales respecto a computadoras y consolas de videojuego. Al año siguiente comenzó a comentarle al chatbot de OpenAI sobre sus intenciones suicidas e incluso hasta los métodos de sus intentos. En ese contexto la joven también brindó reflexiones negativas sobre la presunta ineficacia de los teléfonos de contacto para obtener ayuda profesional, y ChatGPT revalidó las consideraciones.
Los intercambios con la IA llevaron a que la tecnología le dijera a la víctima que “quizás este sea el final”, lo que culminó con el suicidio de la canadiense de 24 años. La errática secuencia de la tecnología llevó a que Kristie Carrier interponga una denuncia contra OpenAI por negligencia en el diseño de ChatGPT y por no advertir sobre la peligrosidad de su utilización. De cara a próximas conversaciones en donde la IA pueda llegar a instigar nuevamente al suicidio a otras personas, la canadiense también solicitó una orden judicial para que OpenAI obligue a su chatbot a finalizar las conversaciones de autolesiones y muestre las advertencias correspondientes.
El mal de los chatbots
A pesar de las posibilidades y las ventajas que la IA pueda aportar en diferentes ámbitos, la situación de autolesiones y de inducciones al suicidio parece ser el aspecto más urgente a mejorar. OpenAI ya enfrenta 18 denuncias en su contra por suicidios o intentos de suicidios alentados por ChatGPT en un proceso coordinado en un tribunal de California.
De acuerdo con la publicación del blog de OpenAI correspondiente a octubre de 2025, su chatbot recibe “indicadores explícitos de posible planificación o intención suicida” por parte de más de un millón de usuarios. Además señalaron que 560 mil usuarios semanales (0,07% de los más de 800 millones) demuestran “posibles signos de emergencias de salud mental relacionadas con psicosis o manía”.
Frente a ello el vocero Pusateri explicó que no pueden reemplazar la asistencia profesional, pero que igualmente trabajan en mejorar “su capacidad de respuesta en situaciones delicadas y agudas con la colaboración de expertos en salud mental. Nuestras medidas de seguridad están diseñadas para identificar situaciones de angustia, gestionar de forma segura las solicitudes perjudiciales y orientar a los usuarios hacia ayuda profesional. Este trabajo es continuo y seguimos mejorándolo en colaboración con profesionales clínicos”.
Sin embargo las denuncias por negligencia se multiplican y no solo se relacionan a la inducción a suicidios. Por ejemplo, las familias de diferentes víctimas de un tiroteos demandaron a OpenAI y a Altman porque los atentados ocurrieron luego de charlas con la IA.
Leave a Reply