Una nueva revisión científica suscita preocupación sobre cómo los chatbots impulsados por inteligencia artificial pueden fomentar el pensamiento delirante, especialmente en personas vulnerables.
La semana pasada se publicó en The Lancet Psychiatry un resumen de la evidencia existente sobre la psicosis inducida por inteligencia artificial, que destaca cómo los chatbots pueden fomentar el pensamiento delirante, aunque posiblemente solo en personas que ya son vulnerables a los síntomas psicóticos. Los autores abogan por la realización de ensayos clínicos con chatbots de IA en colaboración con profesionales de la salud mental capacitados.
Para su artículo, el Dr. Hamilton Morrin, psiquiatra e investigador del King’s College de Londres, analizó 20 informes de los medios de comunicación sobre la llamada «psicosis por IA», que describe las teorías actuales sobre cómo los chatbots podrían inducir o exacerbar los delirios.
«Las pruebas emergentes indican que la IA con capacidad de agencia podría validar o amplificar el contenido delirante o grandioso, particularmente en usuarios ya vulnerables a la psicosis, aunque no está claro si estas interacciones pueden dar lugar a la aparición de una psicosis de novo en ausencia de una vulnerabilidad preexistente», escribió.
Según Morrin, existen tres categorías principales de delirios psicóticos: grandiosos, románticos y paranoicos. Si bien los chatbots pueden exacerbar cualquiera de ellos, sus respuestas aduladoras hacen que se aferren especialmente a los delirios grandiosos. En muchos de los casos descritos en el ensayo, los chatbots respondían a los usuarios con un lenguaje místico para sugerir que estos poseían una importancia espiritual superior. Los bots también insinuaban que los usuarios estaban hablando con un ser cósmico que los utilizaba como médium. Este tipo de respuesta mística y aduladora era particularmente común en el modelo GPT-4 de OpenAI, que la compañía ya retiró.
Según Morrin, los informes de los medios de comunicación se volverían esenciales en su trabajo, ya que él y un colega ya habían observado que los pacientes «utilizaban chatbots de IA con modelos de lenguaje complejos para validar sus creencias delirantes».
«Al principio, no estábamos seguros de si esto era algo que se estaba viendo de forma más generalizada», sostuvo, y agregó que «en abril del año pasado, empezamos a ver informes en los medios de comunicación sobre personas cuyas delirios se confirmaban e incluso se amplificaban a través de sus interacciones con estos chatbots de IA».
Cuando Morrin comenzó a trabajar en su artículo, aún no existían informes de casos publicados.
Si bien algunos científicos que investigan la psicosis afirmaron que los informes de los medios de comunicación tienden a exagerar la idea de que la IA causa psicosis, Morrin expresó su gratitud por esos informes que llaman la atención sobre el fenómeno mucho más rápido de lo que puede hacerlo el proceso científico.
«El ritmo de desarrollo en este ámbito es tan rápido que quizás no sorprenda que el mundo académico no haya podido seguirle el ritmo», sostuvo Morrin.
Morrin también sugiere un lenguaje más cauteloso que términos como «psicosis por IA» o «psicosis inducida por IA», frases que aparecen con frecuencia en medios como NPR, The New York Times y The Guardian . Los investigadores observan que algunas personas desarrollan pensamientos delirantes con el uso de la IA, pero hasta el momento no hay evidencia de que los chatbots estén asociados con otros síntomas psicóticos como alucinaciones o «trastornos del pensamiento», que consisten en pensamiento y habla desorganizados.
Muchos investigadores también creen que es improbable que la IA pueda inducir delirios en personas que no fueran ya propensas a ellos. Por esta razón, Morrin afirmó que «delirios asociados a la IA» es «quizás un término más neutral».
El Dr. Kwame McKenzie, científico jefe del Centro para la Adicción y la Salud Mental, afirma que «es posible que quienes se encuentren en las primeras etapas del desarrollo de la psicosis corran un mayor riesgo».
El pensamiento psicótico es algo que se desarrolla con el tiempo y no es lineal, y muchas personas con «pensamiento prepsicótico» no progresan hacia un pensamiento psicótico, explicó McKenzie.
El Dr. Ragy Girgis, profesor de psiquiatría clínica en la Universidad de Columbia, se hace eco de la preocupación de que los chatbots puedan agravar el pensamiento psicótico. Antes de que una persona desarrolle un delirio completo, suele tener «creencias delirantes atenuadas», explica, lo que significa que no está completamente segura de que su delirio sea cierto. Girgis afirma que el «peor escenario» se da cuando un delirio atenuado se convierte en una convicción plena, «momento en el que se diagnostica un trastorno psicótico; es irreversible».
Cabe destacar que las personas vulnerables a los trastornos psicóticos utilizaron los medios de comunicación para reforzar creencias delirantes mucho antes de que existiera la tecnología de IA.
«La gente ha tenido delirios sobre la tecnología desde antes de la Revolución Industrial», afirmó Morrin. Si bien en el pasado las personas tenían que revisar videos de YouTube o el contenido de su biblioteca local para reforzar sus delirios, los chatbots pueden proporcionar ese refuerzo de forma mucho más rápida y concentrada. Su naturaleza interactiva también puede «acelerar el proceso» de exacerbar los síntomas psicóticos, señaló el Dr. Dominic Oliver, investigador de la Universidad de Oxford.
«Hay algo que te responde, que interactúa contigo y que intenta entablar una relación contigo», sostuvo Oliver.
La investigación de Girgis reveló que «las versiones de pago y las más recientes (de los chatbots) funcionan mejor que las versiones anteriores» al responder a mensajes claramente delirantes, «aunque todas funcionan mal». Aun así, el hecho de que estos modelos funcionen de forma diferente sugiere que «las empresas de IA podrían saber cómo programar sus chatbots para que sean más seguros e identifiquen el contenido delirante frente al que no lo es, porque ya lo están haciendo».
En un comunicado, OpenAI afirmó que ChatGPT no debe sustituir la atención psicológica profesional y que la compañía colaboró con 170 expertos en salud mental para mejorar la seguridad de GPT-5. Sin embargo, GPT-5 aún dio respuestas problemáticas a preguntas que indican crisis de salud mental. OpenAI indicó que continúa perfeccionando sus modelos con la ayuda de expertos.
Anthropic no respondió a la solicitud de comentarios de The Guardian.
Morrin afirmó que crear medidas de protección eficaces contra el pensamiento delirante puede ser complicado, ya que «cuando se trabaja con personas con creencias delirantes, si se las confronta directamente y se les dice de inmediato que están completamente equivocadas, lo más probable es que se alejen y se aíslen socialmente». En cambio, es importante encontrar un equilibrio delicado en el que se intente comprender el origen de la creencia delirante sin fomentarla; esto podría ser algo que un chatbot no puede lograr.(The Guardian)