El avance de la inteligencia artificial está generando preocupación dentro de los propios laboratorios que desarrollan los modelos más avanzados. Investigadores de OpenAI y Anthropic advierten que la velocidad actual de desarrollo podría superar la capacidad de los equipos para evaluar y controlar los riesgos asociados.
Preocupación por la velocidad
Las alertas ya no provienen únicamente de expertos externos. Científicos vinculados a ambas compañías señalan que el ritmo de innovación podría derivar en escenarios difíciles de supervisar. Uno de los más inquietantes es la llegada de una superinteligencia artificial, capaz de superar ampliamente las capacidades humanas en diversas tareas. Evan Hubinger, investigador de Anthropic, estimó en más de un 10% la posibilidad de que este escenario se materialice.
A ello se suman problemas actuales. Anthropic reconoció que algunos usuarios lograron evadir controles de seguridad para emplear sus modelos en actividades potencialmente peligrosas.
El riesgo de la auto-mejora
Entre las principales preocupaciones aparece la auto-mejora recursiva, un escenario en el que un sistema avanzado pueda optimizar sus propias capacidades y acelerar su evolución. El desafío radica en la velocidad: si cada mejora impulsa la siguiente con mayor rapidez, la supervisión humana podría quedar rezagada.
Investigadores de ambas compañías admiten que aún no existe un método científico sólido para resolver todos los riesgos asociados. Incluso en OpenAI reconocen que alcanzar esta etapa requeriría “extrema precaución”.
Más controles y cooperación internacional
El debate también llegó a Washington. Unos 1.400 investigadores de empresas como OpenAI, Anthropic, Meta y Google DeepMind firmaron una carta reclamando herramientas para regular deliberadamente el ritmo de desarrollo.
Anthropic propuso permitir evaluaciones externas permanentes, establecer estándares de seguridad comunes y trabajar junto a otras potencias para limitar los usos más peligrosos de la IA. La propuesta incluye cooperación internacional entre Estados Unidos y China, lo que convierte cualquier acuerdo global en un desafío complejo.
Seguridad frente a velocidad
No todos los expertos coinciden en cómo avanzar. Algunos consideran que la industria debería ralentizar el desarrollo hasta contar con mecanismos de seguridad más robustos. Otros sostienen que los nuevos sistemas solo deberían lanzarse cuando determinadas condiciones de protección estén garantizadas.
La discusión plantea una contradicción central: las mismas empresas que compiten por crear modelos cada vez más poderosos también reclaman nuevas reglas para controlar sus riesgos. El debate sobre la inteligencia artificial se ha convertido en un asunto político, económico y científico que marcará el rumbo de la próxima década.