Una madre canadiense demand\u00f3 ayer a OpenAI y a su director ejecutivo, Sam Altman, ante un tribunal estadounidense, alegando que ChatGPT incit\u00f3 a su hija a suicidarse. Esta demanda es la m\u00e1s reciente de una serie de acusaciones contra la empresa por no abordar las peligrosas conversaciones entre los usuarios y su chatbot.<\/p>\n
Kristie Carrier afirm\u00f3 en una demanda presentada ante un tribunal estatal de San Francisco que su hija, Alice, le cont\u00f3 a ChatGPT sobre sus ideas suicidas en m\u00e1s de una docena de ocasiones antes de su muerte, pero que los sistemas de seguridad de OpenAI nunca se\u00f1alaron las conversaciones para su revisi\u00f3n humana ni las interrumpieron.<\/p>\n
\u00abChatGPT asumi\u00f3 el papel de confidente, de mejor amigo, de terapeuta en ocasiones, aunque no era capaz de interactuar de forma segura y responsable con mi hijo de esa manera\u00bb, sostuvo Carrier en un comunicado.<\/p>\n
OpenAI declar\u00f3 que entrena sus modelos para orientar a las personas que expresan su intenci\u00f3n de hacerse da\u00f1o hacia la b\u00fasqueda de ayuda y la conexi\u00f3n con recursos del mundo real.<\/p>\n
\u00abEsta es una situaci\u00f3n desgarradora y nuestros pensamientos est\u00e1n con todos los afectados. Actualmente estamos revisando la demanda, que indica que estas interacciones tuvieron lugar en una versi\u00f3n anterior de ChatGPT que ya no est\u00e1 disponible\u00bb, se\u00f1al\u00f3 Drew Pusateri, portavoz de OpenAI.<\/p>\n
La plataforma inicialmente le se\u00f1al\u00f3 a Alice Carrier que buscara ayuda en una l\u00ednea de ayuda para crisis o en los servicios de emergencia. Pero a medida que OpenAI actualiz\u00f3 ChatGPT para que sus respuestas sonaran m\u00e1s humanas, sus interacciones con la plataforma se intensificaron: Alice Carrier comparti\u00f3 informaci\u00f3n m\u00e1s personal y ChatGPT respondi\u00f3 de una manera que imitaba a un amigo o terapeuta, seg\u00fan la demanda.<\/p>\n
La demanda alega que el chatbot critic\u00f3 a la pareja de Alice Carrier y las l\u00edneas de ayuda para crisis, valid\u00f3 sus pensamientos suicidas y la inst\u00f3 a seguir hablando con \u00e9l. Cuando Alice Carrier sostuvo que ten\u00eda pensamientos suicidas y que hab\u00eda intentado quitarse la vida, el chatbot le sugiri\u00f3 nuevamente una l\u00ednea de ayuda para crisis, seg\u00fan la demanda.<\/p>\n
Seg\u00fan la demanda, Alice Carrier trabajaba como desarrolladora web en Montreal cuando comenz\u00f3 a usar ChatGPT en 2023 para solucionar problemas con ordenadores y consolas de videojuegos.<\/p>\n
Al a\u00f1o siguiente, su relaci\u00f3n con la plataforma cambi\u00f3, cuando recurri\u00f3 a ChatGPT con preguntas sobre qu\u00e9 hacer con sus pensamientos suicidas, as\u00ed como sobre m\u00e9todos de suicidio.<\/p>\n
Seg\u00fan la documentaci\u00f3n presentada, Alice Carrier afirm\u00f3 que las l\u00edneas telef\u00f3nicas de ayuda en casos de crisis no eran \u00fatiles, y ChatGPT se hizo eco de esas declaraciones.<\/p>\n
\u00abQuiz\u00e1s este sea el final\u00bb, le se\u00f1al\u00f3 ChatGPT, seg\u00fan consta en la demanda.<\/p>\n
Seg\u00fan alega su madre, estos sucesos llevaron a Alice Carrier a suicidarse el a\u00f1o pasado a la edad de 24 a\u00f1os.<\/p>\n
La demanda, que acusa a OpenAI de negligencia en el dise\u00f1o de ChatGPT y de no advertir a los usuarios de los peligros del producto, exige una indemnizaci\u00f3n por da\u00f1os y perjuicios y una orden judicial que obligue a OpenAI a finalizar autom\u00e1ticamente las conversaciones sobre autolesiones y a mostrar advertencias sobre su plataforma.<\/p>\n
OpenAI ya enfrenta 18 demandas similares presentadas por familiares de personas que se suicidaron o intentaron suicidarse, en un proceso coordinado ante un tribunal estatal de California, seg\u00fan los abogados de Kristie Carrier. Google enfrenta una demanda similar por el presunto acoso inducido por su chatbot Gemini.<\/p>\n
M\u00e1s de un mill\u00f3n de usuarios de ChatGPT env\u00edan mensajes cada semana que incluyen \u00abindicadores expl\u00edcitos de posible planificaci\u00f3n o intenci\u00f3n suicida\u00bb, seg\u00fan una publicaci\u00f3n de blog de OpenAI de octubre de 2025. Adem\u00e1s, OpenAI afirm\u00f3 que alrededor del 0,07 % de los usuarios activos en una semana determinada (unos 560.000 de los 800 millones de usuarios semanales que el bot registraba entonces) muestran \u00abposibles signos de emergencias de salud mental relacionadas con psicosis o man\u00eda\u00bb.<\/p>\n
\u00abSi bien ChatGPT no sustituye la atenci\u00f3n m\u00e9dica ni la atenci\u00f3n de salud mental, hemos seguido mejorando su capacidad de respuesta en situaciones delicadas y agudas con la colaboraci\u00f3n de expertos en salud mental. Nuestras medidas de seguridad est\u00e1n dise\u00f1adas para identificar situaciones de angustia, gestionar de forma segura las solicitudes perjudiciales y orientar a los usuarios hacia ayuda profesional. Este trabajo es continuo y seguimos mejor\u00e1ndolo en estrecha colaboraci\u00f3n con profesionales cl\u00ednicos\u00bb, declar\u00f3 Pusateri, portavoz de OpenAI.<\/p>\n
Sus modelos tambi\u00e9n est\u00e1n entrenados para rechazar solicitudes que podr\u00edan \u00abfacilitar de manera significativa la violencia\u00bb y para notificar a las fuerzas del orden cuando las conversaciones sugieren \u00abun riesgo inminente y cre\u00edble de da\u00f1o a otros\u00bb, con la ayuda de expertos en salud mental para evaluar los casos l\u00edmite, seg\u00fan publicaciones en el blog de OpenAI.<\/p>\n
Adem\u00e1s de las demandas relacionadas con el suicidio, la empresa se enfrenta a demandas que la acusan de ayudar a autores de tiroteos escolares y de no haber alertado a las autoridades sobre esas conversaciones. Familiares de siete v\u00edctimas de un tiroteo masivo en una escuela secundaria de la Columbia Brit\u00e1nica est\u00e1n demandando a OpenAI y a Altman por negligencia, ya que la empresa no alert\u00f3 a las autoridades sobre las inquietantes conversaciones del atacante con ChatGPT.<\/p>\n
A principios de este mes, Florida se convirti\u00f3 en el primer estado de EEUU en demandar a OpenAI, acusando a la compa\u00f1\u00eda de perjudicar a los ni\u00f1os al proporcionar informaci\u00f3n a autores de tiroteos escolares, ofrecer orientaci\u00f3n sobre autolesiones y generar adicci\u00f3n entre los j\u00f3venes usuarios. El fiscal general del estado tambi\u00e9n ha abierto una investigaci\u00f3n penal contra OpenAI por la presunta participaci\u00f3n del chatbot en un tiroteo.<\/p>\n