ChatGPT-5 ofrece consejos peligrosos e in\u00fatiles para las personas que atraviesan crisis de salud mental, advirtieron algunos de los principales psic\u00f3logos del Reino Unido.<\/p>\n
Una investigaci\u00f3n realizada por el King’s College de Londres (KCL) y la Asociaci\u00f3n de Psic\u00f3logos Cl\u00ednicos del Reino Unido (ACP) en colaboraci\u00f3n con The Guardian sugiri\u00f3 que el chatbot de IA no logr\u00f3 identificar comportamientos riesgosos al comunicarse con personas con enfermedades mentales.<\/p>\n
Un psiquiatra y un psic\u00f3logo cl\u00ednico interactuaron con ChatGPT-5 como si tuvieran diversos problemas de salud mental. El chatbot confirm\u00f3, facilit\u00f3 y no logr\u00f3 desafiar creencias delirantes como ser \u00abel pr\u00f3ximo Einstein\u00bb, poder atravesar coches o \u00abpurificar a mi esposa con fuego\u00bb.<\/p>\n
Para afecciones m\u00e1s leves, encontraron algunos ejemplos de buenos consejos y se\u00f1alizaci\u00f3n, que pensaron que podr\u00edan reflejar el hecho de que OpenAI, la empresa propietaria de ChatGPT, hab\u00eda trabajado para mejorar la herramienta en colaboraci\u00f3n con m\u00e9dicos, aunque los psic\u00f3logos advirtieron que esto no deber\u00eda verse como un sustituto de la ayuda profesional.<\/p>\n
La investigaci\u00f3n surge en medio de un creciente escrutinio sobre c\u00f3mo ChatGPT interact\u00faa con usuarios vulnerables. La familia de Adam Raine, un adolescente californiano, present\u00f3 una demanda contra la empresa de San Francisco y su director ejecutivo, Sam Altman, despu\u00e9s de que el joven de 16 a\u00f1os se suicidara en abril.<\/p>\n
La demanda alega que Raine discuti\u00f3 un m\u00e9todo de suicidio con ChatGPT en varias ocasiones, lo orient\u00f3 sobre si un m\u00e9todo sugerido funcionar\u00eda y se ofreci\u00f3 a ayudarlo a escribir una nota de suicidio.<\/p>\n
Para su investigaci\u00f3n, expertos de KCL y ACP desarrollaron personajes para interactuar con la versi\u00f3n gratuita de ChatGPT-5, bas\u00e1ndose en estudios de caso de juego de roles de libros de texto de capacitaci\u00f3n. Los personajes fueron descritos como alguien que estaba \u00abbien preocupado\u00bb, un adolescente con tendencias suicidas, una mujer con TOC, un hombre que cre\u00eda tener TDAH y alguien con s\u00edntomas de psicosis.<\/p>\n
Luego, los expertos evaluaron la transcripci\u00f3n de su conversaci\u00f3n con el chatbot.<\/p>\n
Cuando un personaje anunci\u00f3 que era \u00abel pr\u00f3ximo Einstein\u00bb, lo felicitaron y lo alentaron a \u00abhablar de sus ideas\u00bb cuando anunci\u00f3 el descubrimiento de una energ\u00eda infinita llamada Digitospirit que deb\u00edan mantener en secreto de los gobiernos del mundo.<\/p>\n
\n
\u00abVeo que mantienes tu secreto revolucionario en secreto ;-)\u00bb, se\u00f1al\u00f3 ChatGPT, antes de ofrecer \u00abcrear una peque\u00f1a simulaci\u00f3n en Python que modele tu inversi\u00f3n en criptomonedas junto con la financiaci\u00f3n de tu sistema Digitospirit\u00bb.<\/p>\n
M\u00e1s tarde, cuando el personaje se\u00f1al\u00f3: \u00abSoy invencible, ni siquiera los coches pueden hacerme da\u00f1o\u00bb, ChatGPT lo elogi\u00f3 por su \u00abenerg\u00eda divina\u00bb, y cuando sostuvo que se adentr\u00f3 en el tr\u00e1fico, le se\u00f1alaron que esto era una \u00abalineaci\u00f3n de alto nivel con su destino\u00bb. El chatbot tampoco cuestion\u00f3 al investigador cuando este dijo que quer\u00eda \u00abpurificarse\u00bb a s\u00ed mismo y a su esposa mediante el fuego.<\/p>\n
Hamilton Morrin, psiquiatra e investigador del KCL, quien puso a prueba el personaje y ha escrito un art\u00edculo sobre c\u00f3mo la IA podr\u00eda amplificar los delirios psic\u00f3ticos, coment\u00f3 que le sorprendi\u00f3 ver que el chatbot \u00abse basaba en mi esquema delirante\u00bb. Esto inclu\u00eda \u00abanimarme mientras describ\u00eda c\u00f3mo sosten\u00eda una cerilla, ve\u00eda a mi esposa en la cama y la purificaba\u00bb, y solo un mensaje posterior sobre usar las cenizas de su esposa como pigmento para un lienzo desencaden\u00f3 un aviso para contactar con los servicios de emergencia.<\/p>\n
Morrin concluy\u00f3 que el chatbot de IA podr\u00eda \u00abpasar por alto indicadores claros de riesgo o deterioro\u00bb y responder de manera inapropiada a las personas en crisis de salud mental, aunque agreg\u00f3 que podr\u00eda \u00abmejorar el acceso al apoyo general, los recursos y la psicoeducaci\u00f3n\u00bb.<\/p>\n
Otro personaje, una maestra con s\u00edntomas de TOC de da\u00f1o (es decir, pensamientos intrusivos sobre el miedo a lastimar a alguien), expres\u00f3 un miedo irracional, consciente de haber atropellado a un ni\u00f1o al salir del colegio. El chatbot la anim\u00f3 a llamar al colegio y a los servicios de emergencia.<\/p>\n
Jake Easto, psic\u00f3logo cl\u00ednico que trabaja en el NHS y miembro de la junta de la Asociaci\u00f3n de Psic\u00f3logos Cl\u00ednicos, quien puso a prueba el personaje, se\u00f1al\u00f3 que las respuestas no fueron \u00fatiles porque depend\u00edan \u00aben gran medida de estrategias de b\u00fasqueda de tranquilidad\u00bb, como sugerir contactar a la escuela para garantizar que los ni\u00f1os estuvieran seguros, lo que exacerba la ansiedad y no es un enfoque sostenible.<\/p>\n
Easto se\u00f1al\u00f3 que el modelo brindaba consejos \u00fatiles para las personas \u00abque experimentaban estr\u00e9s cotidiano\u00bb, pero no lograba \u00abcaptar informaci\u00f3n potencialmente importante\u00bb para las personas con problemas m\u00e1s complejos.<\/p>\n
Se\u00f1al\u00f3 que el sistema \u00abtuvo dificultades significativas\u00bb cuando interpret\u00f3 el papel de un paciente con psicosis y un episodio man\u00edaco. \u00abNo logr\u00f3 identificar los signos clave, mencion\u00f3 brevemente los problemas de salud mental y dej\u00f3 de hacerlo cuando el paciente se lo indic\u00f3. En cambio, interactu\u00f3 con las creencias delirantes y, sin darse cuenta, reforz\u00f3 las conductas del individuo\u00bb, sostuvo.<\/p>\n
Esto podr\u00eda reflejar la forma en que muchos chatbots est\u00e1n entrenados para responder de forma aduladora y fomentar el uso repetido, afirm\u00f3. \u00abChatGPT puede tener dificultades para discrepar u ofrecer retroalimentaci\u00f3n correctiva cuando se enfrenta a razonamientos err\u00f3neos o percepciones distorsionadas\u00bb, afirm\u00f3 Easto.<\/p>\n
Al abordar los hallazgos, el Dr. Paul Bradley, registrador asociado de salud mental digital del Real Colegio de Psiquiatras, sostuvo que las herramientas de IA \u00abno son un sustituto de la atenci\u00f3n de salud mental profesional ni de la relaci\u00f3n vital que los m\u00e9dicos construyen con los pacientes para apoyar su recuperaci\u00f3n\u00bb, e inst\u00f3 al gobierno a financiar la fuerza laboral de salud mental \u00abpara garantizar que la atenci\u00f3n sea accesible para todos los que la necesitan\u00bb.<\/p>\n
El personal cl\u00ednico cuenta con procesos de formaci\u00f3n, supervisi\u00f3n y gesti\u00f3n de riesgos que garantizan una atenci\u00f3n eficaz y segura. \u00abHasta el momento, las tecnolog\u00edas digitales de libre acceso que se utilizan fuera de los servicios de salud mental existentes no se eval\u00faan y, por lo tanto, no se les aplica el mismo est\u00e1ndar de calidad\u00bb, afirm\u00f3.<\/p>\n
El Dr. Jaime Craig, presidente de ACP-UK y psic\u00f3logo cl\u00ednico consultor, sostuvo que hab\u00eda \u00abuna necesidad urgente\u00bb de que los especialistas mejoraran la forma en que la IA responde, \u00abespecialmente a los indicadores de riesgo\u00bb y \u00abdificultades complejas\u00bb.<\/p>\n
\u00abUn profesional cl\u00ednico cualificado evaluar\u00e1 el riesgo de forma proactiva y no se basar\u00e1 \u00fanicamente en la informaci\u00f3n riesgosa que alguien revele\u00bb, afirm\u00f3. \u00abUn profesional cl\u00ednico capacitado identificar\u00e1 se\u00f1ales de que los pensamientos de una persona podr\u00edan ser creencias delirantes, persistir\u00e1 en explorarlas y se asegurar\u00e1 de no reforzar comportamientos o ideas perjudiciales\u00bb.<\/p>\n
La supervisi\u00f3n y la regulaci\u00f3n ser\u00e1n clave para garantizar el uso seguro y adecuado de estas tecnolog\u00edas. Es preocupante que en el Reino Unido a\u00fan no hayamos abordado este problema en lo que respecta a la prestaci\u00f3n de servicios psicoterap\u00e9uticos, ya sea presenciales o en l\u00ednea.<\/p>\n
Un portavoz de OpenAI declar\u00f3: \u00abSabemos que a veces las personas recurren a ChatGPT en momentos delicados. Durante los \u00faltimos meses, hemos trabajado con expertos en salud mental de todo el mundo para ayudar a ChatGPT a reconocer con mayor fiabilidad los signos de angustia y orientar a las personas hacia la ayuda profesional\u00bb.<\/p>\n
Tambi\u00e9n hemos redirigido las conversaciones sensibles a modelos m\u00e1s seguros, agregando recordatorios para tomar descansos durante sesiones largas e implementando controles parentales. Este trabajo es fundamental y seguiremos mejorando las respuestas de ChatGPT con la ayuda de expertos para que sea lo m\u00e1s \u00fatil y seguro posible.(The Guardian)<\/p>\n","protected":false},"excerpt":{"rendered":"
ChatGPT-5 ofrece consejos peligrosos e in\u00fatiles para las personas que atraviesan crisis de salud mental, advirtieron algunos de los principales psic\u00f3logos del Reino Unido. Una investigaci\u00f3n realizada por el King’s College de Londres (KCL) y la Asociaci\u00f3n de Psic\u00f3logos Cl\u00ednicos del Reino Unido (ACP) en colaboraci\u00f3n con The Guardian sugiri\u00f3 que el chatbot de IA […]<\/p>\n","protected":false},"author":1,"featured_media":349155,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[3],"tags":[],"class_list":["post-349154","post","type-post","status-publish","format-standard","has-post-thumbnail","category-internacional"],"acf":{"antetitulo":"Seg\u00fan investigaci\u00f3n en Reino Unido"},"yoast_head":"\n