Un grupo de más de 200 científicos, diplomáticos, líderes tecnológicos y premios Nobel ha emitido un llamado global para establecer límites claros en el desarrollo de la inteligencia artificial. En una carta dirigida a la Organización de las Naciones Unidas, los firmantes solicitan la creación de un organismo internacional que supervise y regule el avance de esta tecnología, con el objetivo de anticiparse a los riesgos que, según los expertos, son cada vez más evidentes.
La iniciativa, respaldada por representantes de más de 70 organizaciones de todo el mundo, busca alcanzar un consenso internacional sobre lo que la IA no debería hacer bajo ninguna circunstancia. “La idea no es reaccionar después de que ocurra un incidente, sino prevenir riesgos potenciales e irreversibles a gran escala”, explicó Charbel-Raphaël Segerie, director del Centro para la Seguridad de la IA en Francia, durante una reunión con medios, citada por The Verge.
Segerie instó a los países a encontrar puntos de acuerdo: “Si las naciones no pueden consensuar lo que desean para la IA, al menos deberían coincidir en lo que esta nunca debe permitir”.
Entre las voces destacadas se encuentra Maria Ressa, Premio Nobel de la Paz 2021, quien señaló la responsabilidad de las grandes empresas tecnológicas en el desarrollo de la IA. Ressa pidió que estas compañías abandonen su “impunidad” y comiencen a rendir cuentas a nivel global.
Niki Iliadis, director de gobernanza global de IA en The Future Society, fue más allá al exigir una escalabilidad responsable de los negocios vinculados a la inteligencia artificial en el corto plazo. A largo plazo, propuso la creación de una “institución global independiente” encargada de definir y vigilar las “líneas rojas” de esta tecnología.
Stuart Russell, profesor de informática en la Universidad de California, Berkeley, y especialista en IA, comparó el desarrollo de esta tecnología con el de la energía nuclear. “Así como los pioneros de la energía nuclear no construyeron centrales hasta saber cómo evitar explosiones, la industria de la IA debe seguir un camino distinto, basado en la seguridad desde el inicio”, afirmó. Russell también subrayó que establecer límites no frenaría la innovación, y advirtió sobre los riesgos de utilizar tecnologías aún no comprendidas completamente, como la Inteligencia Artificial General (AGI).
Ahmet Üzümcü, ex director general de la Organización para la Prohibición de las Armas Químicas, alertó sobre los peligros de combinar sistemas de IA con ámbitos sensibles como armamento nuclear, vigilancia masiva o suplantación de identidades reales.
Aunque el llamado ha generado atención internacional, la propuesta para crear un organismo regulador no será debatida en la Asamblea General de la ONU hasta finales de 2026, cuando se espera que se someta a votación una resolución formal.