Una nueva revisi\u00f3n cient\u00edfica suscita preocupaci\u00f3n sobre c\u00f3mo los chatbots impulsados por inteligencia artificial pueden fomentar el pensamiento delirante, especialmente en personas vulnerables.<\/p>\n
La semana pasada se public\u00f3 en The Lancet Psychiatry un resumen de la evidencia existente sobre la psicosis inducida por inteligencia artificial, que destaca c\u00f3mo los chatbots pueden fomentar el pensamiento delirante, aunque posiblemente solo en personas que ya son vulnerables a los s\u00edntomas psic\u00f3ticos. Los autores abogan por la realizaci\u00f3n de ensayos cl\u00ednicos con chatbots de IA en colaboraci\u00f3n con profesionales de la salud mental capacitados.<\/p>\n
Para su art\u00edculo, el Dr. Hamilton Morrin, psiquiatra e investigador del King’s College de Londres, analiz\u00f3 20 informes de los medios de comunicaci\u00f3n sobre la llamada \u00abpsicosis por IA\u00bb, que describe las teor\u00edas actuales sobre c\u00f3mo los chatbots podr\u00edan inducir o exacerbar los delirios.<\/p>\n
\u00abLas pruebas emergentes indican que la IA con capacidad de agencia podr\u00eda validar o amplificar el contenido delirante o grandioso, particularmente en usuarios ya vulnerables a la psicosis, aunque no est\u00e1 claro si estas interacciones pueden dar lugar a la aparici\u00f3n de una psicosis de novo en ausencia de una vulnerabilidad preexistente\u00bb, escribi\u00f3.<\/p>\n
Seg\u00fan Morrin, existen tres categor\u00edas principales de delirios psic\u00f3ticos: grandiosos, rom\u00e1nticos y paranoicos. Si bien los chatbots pueden exacerbar cualquiera de ellos, sus respuestas aduladoras hacen que se aferren especialmente a los delirios grandiosos. En muchos de los casos descritos en el ensayo, los chatbots respond\u00edan a los usuarios con un lenguaje m\u00edstico para sugerir que estos pose\u00edan una importancia espiritual superior. Los bots tambi\u00e9n insinuaban que los usuarios estaban hablando con un ser c\u00f3smico que los utilizaba como m\u00e9dium. Este tipo de respuesta m\u00edstica y aduladora era particularmente com\u00fan en el modelo GPT-4 de OpenAI, que la compa\u00f1\u00eda ya retir\u00f3.<\/p>\n
Seg\u00fan Morrin, los informes de los medios de comunicaci\u00f3n se volver\u00edan esenciales en su trabajo, ya que \u00e9l y un colega ya hab\u00edan observado que los pacientes \u00abutilizaban chatbots de IA con modelos de lenguaje complejos para validar sus creencias delirantes\u00bb.<\/p>\n
\u00abAl principio, no est\u00e1bamos seguros de si esto era algo que se estaba viendo de forma m\u00e1s generalizada\u00bb, sostuvo, y agreg\u00f3 que \u00aben abril del a\u00f1o pasado, empezamos a ver informes en los medios de comunicaci\u00f3n sobre personas cuyas delirios se confirmaban e incluso se amplificaban a trav\u00e9s de sus interacciones con estos chatbots de IA\u00bb.<\/p>\n
Cuando Morrin comenz\u00f3 a trabajar en su art\u00edculo, a\u00fan no exist\u00edan informes de casos publicados.<\/p>\n
Si bien algunos cient\u00edficos que investigan la psicosis afirmaron que los informes de los medios de comunicaci\u00f3n tienden a exagerar la idea de que la IA causa psicosis, Morrin expres\u00f3 su gratitud por esos informes que llaman la atenci\u00f3n sobre el fen\u00f3meno mucho m\u00e1s r\u00e1pido de lo que puede hacerlo el proceso cient\u00edfico.<\/p>\n
\u00abEl ritmo de desarrollo en este \u00e1mbito es tan r\u00e1pido que quiz\u00e1s no sorprenda que el mundo acad\u00e9mico no haya podido seguirle el ritmo\u00bb, sostuvo Morrin.<\/p>\n
Morrin tambi\u00e9n sugiere un lenguaje m\u00e1s cauteloso que t\u00e9rminos como \u00abpsicosis por IA\u00bb o \u00abpsicosis inducida por IA\u00bb, frases que aparecen con frecuencia en medios como NPR, The New York Times y The Guardian . Los investigadores observan que algunas personas desarrollan pensamientos delirantes con el uso de la IA, pero hasta el momento no hay evidencia de que los chatbots est\u00e9n asociados con otros s\u00edntomas psic\u00f3ticos como alucinaciones o \u00abtrastornos del pensamiento\u00bb, que consisten en pensamiento y habla desorganizados.<\/p>\n
Muchos investigadores tambi\u00e9n creen que es improbable que la IA pueda inducir delirios en personas que no fueran ya propensas a ellos. Por esta raz\u00f3n, Morrin afirm\u00f3 que \u00abdelirios asociados a la IA\u00bb es \u00abquiz\u00e1s un t\u00e9rmino m\u00e1s neutral\u00bb.<\/p>\n
El Dr. Kwame McKenzie, cient\u00edfico jefe del Centro para la Adicci\u00f3n y la Salud Mental, afirma que \u00abes posible que quienes se encuentren en las primeras etapas del desarrollo de la psicosis corran un mayor riesgo\u00bb.<\/p>\n
El pensamiento psic\u00f3tico es algo que se desarrolla con el tiempo y no es lineal, y muchas personas con \u00abpensamiento prepsic\u00f3tico\u00bb no progresan hacia un pensamiento psic\u00f3tico, explic\u00f3 McKenzie.<\/p>\n
El Dr. Ragy Girgis, profesor de psiquiatr\u00eda cl\u00ednica en la Universidad de Columbia, se hace eco de la preocupaci\u00f3n de que los chatbots puedan agravar el pensamiento psic\u00f3tico. Antes de que una persona desarrolle un delirio completo, suele tener \u00abcreencias delirantes atenuadas\u00bb, explica, lo que significa que no est\u00e1 completamente segura de que su delirio sea cierto. Girgis afirma que el \u00abpeor escenario\u00bb se da cuando un delirio atenuado se convierte en una convicci\u00f3n plena, \u00abmomento en el que se diagnostica un trastorno psic\u00f3tico; es irreversible\u00bb.<\/p>\n
Cabe destacar que las personas vulnerables a los trastornos psic\u00f3ticos utilizaron los medios de comunicaci\u00f3n para reforzar creencias delirantes mucho antes de que existiera la tecnolog\u00eda de IA.<\/p>\n
\u00abLa gente ha tenido delirios sobre la tecnolog\u00eda desde antes de la Revoluci\u00f3n Industrial\u00bb, afirm\u00f3 Morrin. Si bien en el pasado las personas ten\u00edan que revisar videos de YouTube o el contenido de su biblioteca local para reforzar sus delirios, los chatbots pueden proporcionar ese refuerzo de forma mucho m\u00e1s r\u00e1pida y concentrada. Su naturaleza interactiva tambi\u00e9n puede \u00abacelerar el proceso\u00bb de exacerbar los s\u00edntomas psic\u00f3ticos, se\u00f1al\u00f3 el Dr. Dominic Oliver, investigador de la Universidad de Oxford.<\/p>\n
\u00abHay algo que te responde, que interact\u00faa contigo y que intenta entablar una relaci\u00f3n contigo\u00bb, sostuvo Oliver.<\/p>\n
La investigaci\u00f3n de Girgis revel\u00f3 que \u00ablas versiones de pago y las m\u00e1s recientes (de los chatbots) funcionan mejor que las versiones anteriores\u00bb al responder a mensajes claramente delirantes, \u00abaunque todas funcionan mal\u00bb. Aun as\u00ed, el hecho de que estos modelos funcionen de forma diferente sugiere que \u00ablas empresas de IA podr\u00edan saber c\u00f3mo programar sus chatbots para que sean m\u00e1s seguros e identifiquen el contenido delirante frente al que no lo es, porque ya lo est\u00e1n haciendo\u00bb.<\/p>\n
En un comunicado, OpenAI afirm\u00f3 que ChatGPT no debe sustituir la atenci\u00f3n psicol\u00f3gica profesional y que la compa\u00f1\u00eda colabor\u00f3 con 170 expertos en salud mental para mejorar la seguridad de GPT-5. Sin embargo, GPT-5 a\u00fan dio respuestas problem\u00e1ticas a preguntas que indican crisis de salud mental. OpenAI indic\u00f3 que contin\u00faa perfeccionando sus modelos con la ayuda de expertos.<\/p>\n
Anthropic no respondi\u00f3 a la solicitud de comentarios de The Guardian.<\/p>\n
Morrin afirm\u00f3 que crear medidas de protecci\u00f3n eficaces contra el pensamiento delirante puede ser complicado, ya que \u00abcuando se trabaja con personas con creencias delirantes, si se las confronta directamente y se les dice de inmediato que est\u00e1n completamente equivocadas, lo m\u00e1s probable es que se alejen y se a\u00edslen socialmente\u00bb. En cambio, es importante encontrar un equilibrio delicado en el que se intente comprender el origen de la creencia delirante sin fomentarla; esto podr\u00eda ser algo que un chatbot no puede lograr.(The Guardian)<\/p>\n","protected":false},"excerpt":{"rendered":"
Una nueva revisi\u00f3n cient\u00edfica suscita preocupaci\u00f3n sobre c\u00f3mo los chatbots impulsados por inteligencia artificial pueden fomentar el pensamiento delirante, especialmente en personas vulnerables. La semana pasada se public\u00f3 en The Lancet Psychiatry un resumen de la evidencia existente sobre la psicosis inducida por inteligencia artificial, que destaca c\u00f3mo los chatbots pueden fomentar el pensamiento delirante, […]<\/p>\n","protected":false},"author":1,"featured_media":376260,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[3],"tags":[],"class_list":["post-376259","post","type-post","status-publish","format-standard","has-post-thumbnail","category-internacional"],"acf":{"antetitulo":"Seg\u00fan revista cient\u00edfica"},"yoast_head":"\n