La IA ¿y la erosión del pensamiento humano?

En su reciente mensaje para la XL Jornada Mundial de las Comunicaciones Sociales, el papa León XIV lanzó un aviso que trasciende lo religioso para situarse en el centro del debate ético global y que tiene que ver con las posibilidades de la IA en la vida humana. El Vicario de Cristo no ha cuestionado el progreso técnico como tal, sino la deriva de convertir a la IA en un oráculo al que se le consultan ciertas cuestiones delicadas sobre qué hacer en el futuro.
Esta comparación no es exagerada. Al llamar a la IA “oráculo”, el papa señala un fenómeno de confianza que no pasa por la criba del pensamiento crítico. Hoy, millones de personas preguntan a la IA sobre diversas decisiones para las cuales habría que pensar humana y largamente. ¿Se puede confiar ciegamente en algoritmos que presentan probabilidades estadísticas como verdades absolutas? El riesgo, según el Vaticano, no es solo que la máquina se equivoque, sino que el ser humano renuncie a su capacidad de pensar y discernir. En suma, que renuncie a parte de su conciencia.
El papa advierte que un puñado de empresas controla los algoritmos que hoy moldean nuestra percepción de la realidad. Así, cabe preguntarse si nuestra percepción de la vida podría en el futuro moldearse según los intereses de los magnates de la tecnología. Al confiar casi ciegamente en sistemas entrenados para catalogar nuestras preferencias momentáneas, ¿no corremos el riesgo de quedar atrapados en un mundo de ilusiones donde solo vemos lo que ya creemos, relegando la posibilidad de encontrarnos con lo diferente?
Para León XVI, esta revolución digital es una cuestión antropológica más que técnica. En este sentido, cabe reflexionar en profundidad sobre los modelos de lenguaje (como los chatbots o chats de IA), que, al simular cariño o empatía, pueden volverse herramientas emocionales que suplen los vínculos humanos reales y, así, diluyen las familias.
El papa propone gobernar sabiamente la revolución tecnológica. Así, desde los sistemas educativos básicos se debe hacer un replanteamiento que conciencie a las personas sobre lo que es realmente una IA. No se trata solo de saber usar la herramienta, sino de entender cómo los algoritmos utilizan los datos que recogen de nosotros cada hora y minuto, y limitan el pensamiento crítico a favor de la emoción rápida debido a la liberación de dopamina.
El pontífice insta a que establezcamos una regulación que garantice la transparencia y evite que la creatividad humana —la música, el arte y la literatura, entre otras expresiones— sea reemplazada por productos que son el resultado de un ordenador que no siente y que no puede amar.
La tecnología debe servir a la persona, no al revés. El éxito de esta revolución digital se medirá por nuestra capacidad de mantener viva la chispa del pensamiento crítico y la profundidad de nuestras relaciones frente al frío brillo de una pantalla que pretende darnos todas las respuestas.