Una madre canadiense demandó ayer a OpenAI y a su director ejecutivo, Sam Altman, ante un tribunal estadounidense, alegando que ChatGPT incitó a su hija a suicidarse. Esta demanda es la más reciente de una serie de acusaciones contra la empresa por no abordar las peligrosas conversaciones entre los usuarios y su chatbot.
Kristie Carrier afirmó en una demanda presentada ante un tribunal estatal de San Francisco que su hija, Alice, le contó a ChatGPT sobre sus ideas suicidas en más de una docena de ocasiones antes de su muerte, pero que los sistemas de seguridad de OpenAI nunca señalaron las conversaciones para su revisión humana ni las interrumpieron.
«ChatGPT asumió el papel de confidente, de mejor amigo, de terapeuta en ocasiones, aunque no era capaz de interactuar de forma segura y responsable con mi hijo de esa manera», sostuvo Carrier en un comunicado.
OpenAI declaró que entrena sus modelos para orientar a las personas que expresan su intención de hacerse daño hacia la búsqueda de ayuda y la conexión con recursos del mundo real.
«Esta es una situación desgarradora y nuestros pensamientos están con todos los afectados. Actualmente estamos revisando la demanda, que indica que estas interacciones tuvieron lugar en una versión anterior de ChatGPT que ya no está disponible», señaló Drew Pusateri, portavoz de OpenAI.
La plataforma inicialmente le señaló a Alice Carrier que buscara ayuda en una línea de ayuda para crisis o en los servicios de emergencia. Pero a medida que OpenAI actualizó ChatGPT para que sus respuestas sonaran más humanas, sus interacciones con la plataforma se intensificaron: Alice Carrier compartió información más personal y ChatGPT respondió de una manera que imitaba a un amigo o terapeuta, según la demanda.
La demanda alega que el chatbot criticó a la pareja de Alice Carrier y las líneas de ayuda para crisis, validó sus pensamientos suicidas y la instó a seguir hablando con él. Cuando Alice Carrier sostuvo que tenía pensamientos suicidas y que había intentado quitarse la vida, el chatbot le sugirió nuevamente una línea de ayuda para crisis, según la demanda.
Según la demanda, Alice Carrier trabajaba como desarrolladora web en Montreal cuando comenzó a usar ChatGPT en 2023 para solucionar problemas con ordenadores y consolas de videojuegos.
Al año siguiente, su relación con la plataforma cambió, cuando recurrió a ChatGPT con preguntas sobre qué hacer con sus pensamientos suicidas, así como sobre métodos de suicidio.
Según la documentación presentada, Alice Carrier afirmó que las líneas telefónicas de ayuda en casos de crisis no eran útiles, y ChatGPT se hizo eco de esas declaraciones.
«Quizás este sea el final», le señaló ChatGPT, según consta en la demanda.
Según alega su madre, estos sucesos llevaron a Alice Carrier a suicidarse el año pasado a la edad de 24 años.
La demanda, que acusa a OpenAI de negligencia en el diseño de ChatGPT y de no advertir a los usuarios de los peligros del producto, exige una indemnización por daños y perjuicios y una orden judicial que obligue a OpenAI a finalizar automáticamente las conversaciones sobre autolesiones y a mostrar advertencias sobre su plataforma.
OpenAI ya enfrenta 18 demandas similares presentadas por familiares de personas que se suicidaron o intentaron suicidarse, en un proceso coordinado ante un tribunal estatal de California, según los abogados de Kristie Carrier. Google enfrenta una demanda similar por el presunto acoso inducido por su chatbot Gemini.
Más de un millón de usuarios de ChatGPT envían mensajes cada semana que incluyen «indicadores explícitos de posible planificación o intención suicida», según una publicación de blog de OpenAI de octubre de 2025. Además, OpenAI afirmó que alrededor del 0,07 % de los usuarios activos en una semana determinada (unos 560.000 de los 800 millones de usuarios semanales que el bot registraba entonces) muestran «posibles signos de emergencias de salud mental relacionadas con psicosis o manía».
«Si bien ChatGPT no sustituye la atención médica ni la atención de salud mental, hemos seguido mejorando su capacidad de respuesta en situaciones delicadas y agudas con la colaboración de expertos en salud mental. Nuestras medidas de seguridad están diseñadas para identificar situaciones de angustia, gestionar de forma segura las solicitudes perjudiciales y orientar a los usuarios hacia ayuda profesional. Este trabajo es continuo y seguimos mejorándolo en estrecha colaboración con profesionales clínicos», declaró Pusateri, portavoz de OpenAI.
Sus modelos también están entrenados para rechazar solicitudes que podrían «facilitar de manera significativa la violencia» y para notificar a las fuerzas del orden cuando las conversaciones sugieren «un riesgo inminente y creíble de daño a otros», con la ayuda de expertos en salud mental para evaluar los casos límite, según publicaciones en el blog de OpenAI.
Además de las demandas relacionadas con el suicidio, la empresa se enfrenta a demandas que la acusan de ayudar a autores de tiroteos escolares y de no haber alertado a las autoridades sobre esas conversaciones. Familiares de siete víctimas de un tiroteo masivo en una escuela secundaria de la Columbia Británica están demandando a OpenAI y a Altman por negligencia, ya que la empresa no alertó a las autoridades sobre las inquietantes conversaciones del atacante con ChatGPT.
A principios de este mes, Florida se convirtió en el primer estado de EEUU en demandar a OpenAI, acusando a la compañía de perjudicar a los niños al proporcionar información a autores de tiroteos escolares, ofrecer orientación sobre autolesiones y generar adicción entre los jóvenes usuarios. El fiscal general del estado también ha abierto una investigación penal contra OpenAI por la presunta participación del chatbot en un tiroteo.
En Estados Unidos, puedes llamar o enviar un mensaje de texto a la Línea de Ayuda para la Prevención del Suicidio y las Crisis (988) al 988 o chatear en 988lifeline.org . En el Reino Unido e Irlanda, puedes contactar con Samaritans llamando gratis al 116 123. En Australia, el servicio de apoyo en crisis Lifeline es el 13 11 14. Puedes encontrar otras líneas de ayuda internacionales en befrienders.org.(The Guardian)