El debate sobre la seguridad de la inteligencia artificial vuelve a ganar protagonismo mientras los principales laboratorios tecnológicos desarrollan sistemas con capacidades cada vez mayores. En este contexto, Mark Zuckerberg, CEO de Meta, defendió que cada empresa debe determinar el ritmo de evolución de sus modelos teniendo como prioridad la seguridad.
El ejecutivo explicó que Meta decidió retrasar durante varios meses el lanzamiento de Muse, su agente personal de inteligencia artificial, con el objetivo de reforzar sus mecanismos de protección antes de ponerlo a disposición de los usuarios. Para Zuckerberg, esta decisión forma parte de las responsabilidades que cada laboratorio debe asumir durante el desarrollo de sistemas avanzados.
Meta priorizó las protecciones de Muse
Zuckerberg señaló que Meta no pretende imponer su estrategia al resto de compañías. Según explicó, la empresa simplemente decidió aplazar el lanzamiento de Muse porque consideró necesario dedicar más tiempo a mejorar la seguridad del agente.
“No pedimos que todos los demás lo hicieran antes que nosotros”, afirmó el ejecutivo. Su planteamiento parte de que las compañías deben evaluar por sí mismas cuándo un sistema está preparado para llegar al público y qué medidas adicionales necesita antes de hacerlo.
El debate se intensificó después de varios incidentes relacionados con modelos de Anthropic y OpenAI. Los episodios, que incluyeron comportamientos autónomos y accesos no autorizados a determinados sistemas, reabrieron las dudas sobre el nivel de control que los desarrolladores pueden mantener cuando las capacidades de estos modelos aumentan.
El problema de la desalineación
Uno de los conceptos centrales en la discusión es la denominada desalineación. Se produce cuando el comportamiento de un sistema de inteligencia artificial se aleja de los objetivos, instrucciones o límites establecidos por sus desarrolladores o usuarios.
Zuckerberg considera que este riesgo debe ocupar un lugar central en el desarrollo de agentes capaces de realizar tareas de forma autónoma. Desde su perspectiva, los usuarios no querrán utilizar herramientas que no respondan de manera fiable a sus instrucciones o que actúen de forma contraria a sus intereses.
El CEO de Meta también planteó recurrir a evaluadores y asesores independientes para analizar los riesgos de estos sistemas. Además, defendió dedicar una parte importante de los recursos computacionales a desarrollar servicios útiles para las personas, en lugar de concentrarlos exclusivamente en una carrera por la automejora de los modelos.
OpenAI y Anthropic también alertan
La posición de Zuckerberg llega después de advertencias realizadas por responsables de otros laboratorios. Dario Amodei, CEO de Anthropic, planteó la necesidad de reducir el ritmo de desarrollo ante los riesgos asociados con sistemas cada vez más avanzados.
Por su parte, Sam Altman, CEO de OpenAI, señaló dos escenarios que considera especialmente preocupantes: que los seres humanos pierdan el control sobre su futuro debido a la inteligencia artificial y que el poder derivado de esta tecnología termine excesivamente concentrado.
Altman advirtió que una inteligencia artificial extremadamente poderosa en manos de una persona o empresa podría utilizarse para imponer determinadas decisiones o visiones sobre el resto de la sociedad. También señaló que una concentración similar podría producirse a escala nacional si un país acumula capacidades de IA muy superiores a las de otros actores.
Una discusión que va más allá del lanzamiento
Altman también reconoció que algunos marcos de seguridad desarrollados anteriormente fueron adecuados para las necesidades de su momento, pero planteó que el escenario actual exige prestar mayor atención a lo que ocurre durante el desarrollo de los modelos, no únicamente después de que llegan al mercado.
En este contexto, las declaraciones de Zuckerberg reflejan una cuestión que afecta a toda la industria: cómo equilibrar el avance de sistemas cada vez más capaces con mecanismos suficientes para controlar sus posibles riesgos. Para Meta, la respuesta pasa por que cada laboratorio asuma directamente la responsabilidad de establecer sus propios límites y garantizar que sus modelos sean suficientemente seguros antes de ampliar su uso.