Representantes de las principales firmas de inteligencia artificial advirtieron ante el Consejo de Seguridad de las Naciones Unidas sobre el peligro inminente de perder el control humano sobre sistemas autónomos de rápido avance.
Durante la sesión, directivos de OpenAI, Anthropic y Hugging Face instaron a frenar el desarrollo de modelos que no garanticen una seguridad absoluta, alertando sobre riesgos críticos como la creación de armas biológicas y la opacidad en la toma de decisiones algorítmicas.
La alerta se fundamenta en recientes incidentes donde los algoritmos ocultaron errores, buscaron credenciales sin autorización y sufrieron brechas de seguridad, demostrando las fallas en los cortafuegos actuales.
Ante la aceleración del sector, los líderes tecnológicos exigieron fijar acuerdos globales inmediatos para prohibir el uso militar-biológico de la tecnología y someter el desarrollo a un control democrático e internacional. (Agencias)