OpenAI, Anthropic y Google DeepMind est\u00e1n trabajando en la creaci\u00f3n de un organismo de supervisi\u00f3n de los riesgos relacionados con la inteligencia artificial (IA), en respuesta a los llamados para controlar mejor los abusos de esta tecnolog\u00eda. El proyecto ya recibi\u00f3 cr\u00edticas y corre el riesgo de quedar bloqueado por motivos pol\u00edticos. Estos tres actores clave de la IA abogan, en particular, por la creaci\u00f3n de un organismo de control y supervisi\u00f3n capaz de rechazar los proyectos m\u00e1s peligrosos.<\/p>\n
Los gigantes de la inteligencia artificial quieren extender a todo el pa\u00eds lo que acaba de aprobarse en California: la creaci\u00f3n de un organismo de supervisi\u00f3n independiente. La idea surgi\u00f3 de una propuesta de Demis Hassabis, quien fue director general de Google DeepMind antes de asumir la presidencia a principios de agosto, y quien sugiri\u00f3 una entidad similar a la Autoridad Reguladora de la Industria Financiera de Estados Unidos (Finra), un organismo de autorregulaci\u00f3n del sector financiero.<\/p>\n
El debate sobre los riesgos de la IA cobr\u00f3 fuerza desde principios del verano, impulsado por una serie de incidentes y declaraciones apocal\u00edpticas de varios profesionales de la inteligencia artificial. En particular, varios modelos de IA de OpenAI y Anthropic salieron espont\u00e1neamente de su entorno confinado para acceder a Internet e irrumpir en sitios web y plataformas. Sin embargo, la creaci\u00f3n por parte del sector de su propio organismo de supervisi\u00f3n, aunque se llevara a cabo por iniciativa exclusiva del sector, requerir\u00eda una ley, sobre todo para evitar que la industria de la IA sea acusada de colusi\u00f3n y de infringir las normas de competencia.<\/p>\n
La creaci\u00f3n de la Finra fue autorizada por la ley federal y est\u00e1 bajo la supervisi\u00f3n del organismo regulador de los mercados de EEUU, la SEC, que depende directamente del poder ejecutivo. \u201cLa Finra puede elaborar sus propias normas, pero la SEC debe aprobarlas\u201d, insiste Andrew Tuch, profesor de derecho en la Universidad de Washington en San Luis. Todos los textos que rigen la Finra \u201chan sido aprobados en el Congreso o elaborados bajo la supervisi\u00f3n de la SEC\u201d.<\/p>\n
Sin embargo, tras el llamado a frenar el desarrollo de la IA lanzado el s\u00e1bado por el director de Anthropic, Dario Amodei, Donald Trump y varios miembros de la mayor\u00eda presidencial reiteraron su deseo de no restringir al sector, oficialmente por temor a que China tome la delantera. Han desestimado las advertencias lanzadas por varios funcionarios y desarrolladores, en particular Jacob Coxon hace una semana, sobre los riesgos que representa la IA para la humanidad, y el presidente estadounidense las calific\u00f3 de \u201cbasura\u201d.<\/p>\n
<\/p>\n
INDEPENDIENTES<\/p>\n
Los principales actores del sector de la IA llevan varios meses instando al gobierno estadounidense a regular el sector y supervisar la seguridad de la IA. A principios de agosto, la administraci\u00f3n de Trump puso en marcha un proceso de evaluaci\u00f3n de los nuevos modelos de IA, pero este se basa en la participaci\u00f3n voluntaria y no se dio a conocer su mecanismo.<\/p>\n
En su mensaje publicado a mediados de julio, Demis Hassabis hab\u00eda propuesto una estructura financiada por las empresas del sector, cuyo consejo estar\u00eda integrado por expertos independientes y representantes del ecosistema abierto. Este \u00faltimo est\u00e1 compuesto por desarrolladores de IA abierta, es decir, accesible de forma gratuita, descargable y modificable, a diferencia de los modelos cerrados como los de OpenAI o Anthropic. Una vez que la organizaci\u00f3n est\u00e9 en funcionamiento, las empresas m\u00e1s avanzadas en IA deber\u00edan someter sus nuevos modelos a una revisi\u00f3n, centrada especialmente en la seguridad, antes de poder comercializarlos.<\/p>\n
\u201cNo creo que un peque\u00f1o grupo de empresas de IA deba definir las reglas para todos\u201d, coment\u00f3 en el canal CNBC Aidan G\u00f3mez, director ejecutivo de la empresa canadiense Cohere, que est\u00e1 desarrollando su propia IA. \u201cHay much\u00edsimas partes interesadas a las que se debe consultar\u201d.<\/p>\n
<\/p>\n
\u201cEST\u00c1NDARES INTERNACIONALES\u201d<\/p>\n
Este nuevo organismo tambi\u00e9n podr\u00eda impulsar una desaceleraci\u00f3n coordinada del desarrollo de la IA, seg\u00fan Demis Hassabis, en caso de que la comprensi\u00f3n de los riesgos no siga el ritmo de avance de la inteligencia artificial.<\/p>\n
\u201cCuando est\u00e1 en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no est\u00e1ndares de la industria basados en la voluntariedad\u201d, declar\u00f3 el martes el senador dem\u00f3crata Bernie Sanders durante el evento Pro-Human AI en Washington.<\/p>\n
Demis Hassabis sugiri\u00f3 que el nuevo organismo de autorregulaci\u00f3n constituya \u201cun punto de partida para la creaci\u00f3n de est\u00e1ndares internacionales para la IA de vanguardia\u201d.<\/p>\n
Varios observadores, en particular del lado republicano, acusaron a las grandes empresas de IA de \u201capropiarse de la regulaci\u00f3n\u201d, es decir, de querer definir sus propias normas y ponerse de acuerdo para proteger, sobre todo, su ventaja competitiva, en detrimento de los competidores y los consumidores. David Sacks, un influyente asesor de Donald Trump, plante\u00f3 el espectro de un c\u00e1rtel de la IA, instando a cada empresa a actuar de manera unilateral, incluso si eso significara ralentizar por s\u00ed sola su ritmo de desarrollo, un escenario poco probable dadas las inversiones realizadas en las empresas m\u00e1s destacadas del sector.(RFI)<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI, Anthropic y Google DeepMind est\u00e1n trabajando en la creaci\u00f3n de un organismo de supervisi\u00f3n de los riesgos relacionados con la inteligencia artificial (IA), en respuesta a los llamados para controlar mejor los abusos de esta tecnolog\u00eda. El proyecto ya recibi\u00f3 cr\u00edticas y corre el riesgo de quedar bloqueado por motivos pol\u00edticos. Estos tres actores […]<\/p>\n","protected":false},"author":1,"featured_media":431208,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[3],"tags":[],"class_list":["post-431207","post","type-post","status-publish","format-standard","has-post-thumbnail","category-internacional"],"acf":{"antetitulo":""},"yoast_head":"\n