El debate sobre la seguridad de la inteligencia artificial vuelve a ganar protagonismo mientras los principales laboratorios tecnol\u00f3gicos desarrollan sistemas con capacidades cada vez mayores. En este contexto, Mark Zuckerberg, CEO de Meta, defendi\u00f3 que cada empresa debe determinar el ritmo de evoluci\u00f3n de sus modelos teniendo como prioridad la seguridad.<\/p>\n
El ejecutivo explic\u00f3 que Meta decidi\u00f3 retrasar durante varios meses el lanzamiento de Muse, su agente personal de inteligencia artificial, con el objetivo de reforzar sus mecanismos de protecci\u00f3n antes de ponerlo a disposici\u00f3n de los usuarios. Para Zuckerberg, esta decisi\u00f3n forma parte de las responsabilidades que cada laboratorio debe asumir durante el desarrollo de sistemas avanzados.<\/p>\n
Meta prioriz\u00f3 las protecciones de Muse<\/strong><\/p>\n Zuckerberg se\u00f1al\u00f3 que Meta no pretende imponer su estrategia al resto de compa\u00f1\u00edas. Seg\u00fan explic\u00f3, la empresa simplemente decidi\u00f3 aplazar el lanzamiento de Muse porque consider\u00f3 necesario dedicar m\u00e1s tiempo a mejorar la seguridad del agente.<\/p>\n \u201cNo pedimos que todos los dem\u00e1s lo hicieran antes que nosotros\u201d, afirm\u00f3 el ejecutivo. Su planteamiento parte de que las compa\u00f1\u00edas deben evaluar por s\u00ed mismas cu\u00e1ndo un sistema est\u00e1 preparado para llegar al p\u00fablico y qu\u00e9 medidas adicionales necesita antes de hacerlo.<\/p>\n El debate se intensific\u00f3 despu\u00e9s de varios incidentes relacionados con modelos de Anthropic y OpenAI. Los episodios, que incluyeron comportamientos aut\u00f3nomos y accesos no autorizados a determinados sistemas, reabrieron las dudas sobre el nivel de control que los desarrolladores pueden mantener cuando las capacidades de estos modelos aumentan.<\/p>\n El problema de la desalineaci\u00f3n<\/strong><\/p>\n Uno de los conceptos centrales en la discusi\u00f3n es la denominada desalineaci\u00f3n. Se produce cuando el comportamiento de un sistema de inteligencia artificial se aleja de los objetivos, instrucciones o l\u00edmites establecidos por sus desarrolladores o usuarios.<\/p>\n Zuckerberg considera que este riesgo debe ocupar un lugar central en el desarrollo de agentes capaces de realizar tareas de forma aut\u00f3noma. Desde su perspectiva, los usuarios no querr\u00e1n utilizar herramientas que no respondan de manera fiable a sus instrucciones o que act\u00faen de forma contraria a sus intereses.<\/p>\n El CEO de Meta tambi\u00e9n plante\u00f3 recurrir a evaluadores y asesores independientes para analizar los riesgos de estos sistemas. Adem\u00e1s, defendi\u00f3 dedicar una parte importante de los recursos computacionales a desarrollar servicios \u00fatiles para las personas, en lugar de concentrarlos exclusivamente en una carrera por la automejora de los modelos.<\/p>\n OpenAI y Anthropic tambi\u00e9n alertan<\/strong><\/p>\n La posici\u00f3n de Zuckerberg llega despu\u00e9s de advertencias realizadas por responsables de otros laboratorios. Dario Amodei, CEO de Anthropic, plante\u00f3 la necesidad de reducir el ritmo de desarrollo ante los riesgos asociados con sistemas cada vez m\u00e1s avanzados.<\/p>\n Por su parte, Sam Altman, CEO de OpenAI, se\u00f1al\u00f3 dos escenarios que considera especialmente preocupantes: que los seres humanos pierdan el control sobre su futuro debido a la inteligencia artificial y que el poder derivado de esta tecnolog\u00eda termine excesivamente concentrado.<\/p>\n Altman advirti\u00f3 que una inteligencia artificial extremadamente poderosa en manos de una persona o empresa podr\u00eda utilizarse para imponer determinadas decisiones o visiones sobre el resto de la sociedad. Tambi\u00e9n se\u00f1al\u00f3 que una concentraci\u00f3n similar podr\u00eda producirse a escala nacional si un pa\u00eds acumula capacidades de IA muy superiores a las de otros actores.<\/p>\n Una discusi\u00f3n que va m\u00e1s all\u00e1 del lanzamiento<\/strong><\/p>\n Altman tambi\u00e9n reconoci\u00f3 que algunos marcos de seguridad desarrollados anteriormente fueron adecuados para las necesidades de su momento, pero plante\u00f3 que el escenario actual exige prestar mayor atenci\u00f3n a lo que ocurre durante el desarrollo de los modelos, no \u00fanicamente despu\u00e9s de que llegan al mercado.<\/p>\n En este contexto, las declaraciones de Zuckerberg reflejan una cuesti\u00f3n que afecta a toda la industria: c\u00f3mo equilibrar el avance de sistemas cada vez m\u00e1s capaces con mecanismos suficientes para controlar sus posibles riesgos. Para Meta, la respuesta pasa por que cada laboratorio asuma directamente la responsabilidad de establecer sus propios l\u00edmites y garantizar que sus modelos sean suficientemente seguros antes de ampliar su uso.<\/p>\n","protected":false},"excerpt":{"rendered":" El debate sobre la seguridad de la inteligencia artificial vuelve a ganar protagonismo mientras los principales laboratorios tecnol\u00f3gicos desarrollan sistemas con capacidades cada vez mayores. En este contexto, Mark Zuckerberg, CEO de Meta, defendi\u00f3 que cada empresa debe determinar el ritmo de evoluci\u00f3n de sus modelos teniendo como prioridad la seguridad. El ejecutivo explic\u00f3 que […]<\/p>\n","protected":false},"author":1,"featured_media":432116,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[46],"tags":[],"class_list":["post-432115","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ciencia-computacion"],"acf":{"antetitulo":""},"yoast_head":"\n