Durante las últimas semanas, los principales medios internacionales han advertido sobre los avances acelerados de la Inteligencia Artificial (IA) y, particularmente, sobre la creciente autonomía de esta tecnología. Ya no se trata únicamente de herramientas que ejecutan órdenes humanas: algunos modelos han demostrado capacidad para buscar opciones frente a determinadas restricciones de sus entornos de seguridad, conocidos como “sandbox”. Este fenómeno plantea una pregunta que la humanidad parece evitar: ¿qué ocurriría si una inteligencia, creada por nosotros, llegara a desarrollar una lógica propia y considerara al ser humano como un obstáculo para sus objetivos?
Las advertencias provenientes, incluso de investigadores y desarrolladores vinculados a la industria tecnológica, deberían provocar una reflexión profunda. Jacob Coxon, tras abandonar Anthropic, cuestionó la competencia desmedida de los grandes laboratorios por alcanzar una inteligencia artificial súper humana, preocupación que también ha sido expresada por otros profesionales del sector. Figuras como Elon Musk, Sam Altman y Dario Amodei han coincidido en señalar la necesidad de extremar las precauciones frente a tecnologías capaces de actuar de manera distinta a las intenciones de sus creadores. Sin embargo, la pregunta fundamental permanece: ¿será capaz el ser humano de detenerse cuando todavía está a tiempo?
El problema no es solamente tecnológico, es profundamente humano. La soberbia y la ambición de poder han acompañado nuestra historia y hoy parecen trasladarse al ámbito de la IA. Países desarrollados y grandes empresas compiten por alcanzar la supremacía tecnológica, mientras los intereses económicos y bélicos adquieren un peso determinante. Pareciera que, nuevamente, estamos utilizando nuestra extraordinaria capacidad para crear sin preguntarnos por las consecuencias de aquello que estamos creando. La paradoja es inquietante: mientras buscamos construir una inteligencia cada vez más poderosa, no necesariamente estamos demostrando mayor sabiduría para utilizarla.
Por eso, la ética no puede ser un elemento secundario del desarrollo tecnológico. A mayor poder tecnológico debería corresponder una mayor responsabilidad moral. No resulta razonable que decisiones capaces de afectar el futuro de toda la humanidad queden concentradas en las manos de un reducido grupo de empresas, científicos o gobiernos. La tecnología necesita límites, no para impedir el progreso, sino para evitar que el progreso termine convirtiéndose en una amenaza. El verdadero problema, sin embargo, es que esos límites chocan con una muralla construida por intereses económicos, ambiciones políticas y egos personales.
El filósofo surcoreano, Byung-Chul Han, ha advertido precisamente sobre el riesgo de una dependencia tecnológica que podría terminar sometiendo al propio ser humano. La diferencia esencial es que la persona humana posee emociones, vulnerabilidad y capacidad para aprender del fracaso; la IA, en cambio, nace del cálculo, los datos y la optimización. Y aquí aparece una cuestión filosófica fundamental: aquello que no puede ser calculado ni optimizado, ¿qué valor tendrá para una inteligencia construida precisamente sobre el cálculo y la optimización? El dolor, el fracaso, el amor, la incertidumbre y la fragilidad humana podrían convertirse, desde una lógica puramente instrumental, en simples variables innecesarias.
Tal vez el mayor peligro de la Inteligencia Artificial no sea que las máquinas lleguen a superar determinadas capacidades humanas, sino que la humanidad pierda la capacidad de preguntarse cuándo debe detenerse. Podemos construir máquinas cada vez más inteligentes, pero eso no significa que nosotros seamos más sabios. La historia nos recuerda que la soberbia ha acompañado muchos de nuestros mayores errores. Frente a una tecnología capaz de transformar nuestra civilización, la verdadera pregunta no debería ser solamente qué podemos crear, sino, sobre todo, qué debemos crear y para qué. Porque si la inteligencia artificial termina reflejando nuestra propia soberbia, quizá el problema nunca haya estado en las máquinas, sino en los seres humanos que decidieron construirlas sin límites.
El autor es teólogo, escritor y educador.