Sam Altman y Elon Musk respaldan el llamamiento del director de Anthropic, Dario Amodei, para \u201cralentizar el ritmo\u201d del desarrollo de la IA despu\u00e9s de que advirtiera de que, de lo contrario, un enjambre de IA podr\u00eda llegar a ser capaz de \u201capoderarse de toda Internet\u201d en el plazo de un a\u00f1o.
\nEn una inusual muestra de unidad, los l\u00edderes tecnol\u00f3gicos rivales respaldaron el llamamiento del fundador y director ejecutivo de la empresa de inteligencia artificial (IA) Anthropic, tras una serie de advertencias de investigadores de IA la semana pasada. Amodei tambi\u00e9n solicit\u00f3 coordinaci\u00f3n en materia de seguridad con China.
\nPero el presidente estadounidense, Donald Trump, durante una visita a su campo de golf en Irlanda, rest\u00f3 importancia a las advertencias y sostuvo que \u201cfuerzas muy negativas\u201d estaban \u201csacando a relucir cosas que no suceder\u00e1n\u201d.
\n\u201cLideramos a China en IA\u201d, sostuvo. \u201cSomos el pa\u00eds m\u00e1s sofisticado del mundo y, francamente, quiero que siga siendo as\u00ed porque quien gane en IA, gana\u201d.
\nAmodei expuso sus ideas sobre por qu\u00e9 la industria de la IA deber\u00eda ralentizarse en un ensayo que inclu\u00eda un plan de tres partes, comenzando por brindar a los supervisores independientes acceso constante a los procesos de investigaci\u00f3n de los desarrolladores. Amodei afirm\u00f3 que \u201cdesarrollar (IA) demasiado r\u00e1pido es imprudente\u201d y tem\u00eda que, tras el ataque de cientos de agentes de OpenAI al sitio web Hugging Face este verano, un enjambre con mayores capacidades, pero igualmente desorganizado, pudiera causar da\u00f1os por valor de cientos de miles de millones de d\u00f3lares al \u201capoderarse de toda internet con una botnet persistente\u201d.
\nAlgunos expertos en IA cuestionaron esta afirmaci\u00f3n, consider\u00e1ndola poco plausible y digna de escepticismo.
\nMusk, fundador de Tesla y SpaceX, respondi\u00f3 al plan de desaceleraci\u00f3n de Amodei con una serie de publicaciones en X: \u201cDario tiene raz\u00f3n\u201d.
\nAfirm\u00f3: \u201cLlevo mucho tiempo dando la voz de alarma sobre la IA\u201d, y se refiri\u00f3 a una publicaci\u00f3n de 2014 en la que dijo: \u201ctenemos que tener much\u00edsimo cuidado con la IA. Potencialmente es m\u00e1s peligrosa que las armas nucleares\u201d.
\nLa llamada de Amodei se produce mientras Anthropic se prepara para salir a bolsa en el mercado burs\u00e1til estadounidense, en lo que se prev\u00e9 que sea la mayor oferta p\u00fablica inicial de la historia. Se espera que pronto comience la comercializaci\u00f3n de su OPV, que superar\u00e1 los 2 billones de d\u00f3lares (1,5 billones de libras esterlinas).
\nSam Altman, director ejecutivo de OpenAI, respondi\u00f3 a los comentarios de Amodei el s\u00e1bado. \u201cCoincido con Dario en que debemos marcar el ritmo de la innovaci\u00f3n\u201d, asever\u00f3 en una publicaci\u00f3n en X. \u201cComprometernos a contar con evaluadores independientes con acceso similar al de los empleados es una excelente idea, y haremos lo mismo. Pronto compartiremos m\u00e1s informaci\u00f3n\u201d.
\nTambi\u00e9n asegur\u00f3 que OpenAI no saldr\u00eda a bolsa en 2026, alegando preocupaciones sobre la seguridad de la inteligencia artificial. (The Guardian)
\n\u00abEn realidad, creo que, dadas las circunstancias en materia de seguridad, ahora mismo ser\u00eda un mal momento para hacerlo p\u00fablico, y no sentimos ninguna presi\u00f3n al respecto\u00bb, declar\u00f3 Altman a Fortune. Al pregunt\u00e1rsele por qu\u00e9 \u00e9l, Amodei, Musk y los directores ejecutivos de Meta y Google no se reunieron para ponerse de acuerdo sobre una desaceleraci\u00f3n colectiva, respondi\u00f3: \u00abCreo que eso suceder\u00e1\u00bb.
\nDemis Hassabis, cofundador y presidente de Google DeepMind, tambi\u00e9n afirm\u00f3: \u00abHay que ultimar los detalles, pero la direcci\u00f3n que estamos tomando es la correcta para afrontar este momento cr\u00edtico\u00bb.
\nSin embargo, algunos expertos en seguridad cuestionaron si el plan de Amodei era suficiente. David Krueger, profesor de IA, activista por la seguridad y exdirector fundador del Instituto de Seguridad de la IA del gobierno brit\u00e1nico, afirm\u00f3: \u00abNecesitamos una moratoria internacional inmediata e indefinida sobre el desarrollo de la IA de vanguardia\u00bb.
\nEl plan de Amodei busca una exenci\u00f3n del gobierno estadounidense para permitir que las empresas de IA de vanguardia se coordinen sin ser sancionadas por colusi\u00f3n anticompetitiva. Pero David Sacks, copresidente del consejo de asesores de Donald Trump en ciencia y tecnolog\u00eda, declar\u00f3: \u00abDejen de fingir que necesitan el permiso de nadie\u2026 Dejen de fingir que la motivaci\u00f3n para ralentizar el ritmo es puramente altruista. Se enfrentan a una enorme responsabilidad por productos defectuosos si sus productos permiten un ciberataque realmente da\u00f1ino\u00bb.
\nMientras tanto, el rey Carlos se prepara para reunirse el jueves con figuras destacadas de las empresas de IA m\u00e1s importantes para preguntarles c\u00f3mo se puede desarrollar la tecnolog\u00eda bajo el lema \u00abIA para el bien\u00bb. Una de las sesiones se titular\u00e1 \u00abPrudencia en la frontera\u00bb y se espera que explore la posibilidad de establecer l\u00edmites claros sobre el uso de la IA para crear armas biol\u00f3gicas y lanzar ciberataques contra sistemas cr\u00edticos.
\nEntre los asistentes previstos al evento organizado por la Fundaci\u00f3n Ditchley, que elabor\u00f3 un borrador de estatuto para l\u00edderes en IA, se encuentran: altos ejecutivos de OpenAI y Anthropic; el director ejecutivo de Nvidia, Jensen Huang; Hassabis; Niccol\u00f2 de Masi, presidente y director ejecutivo de IonQ; y Paolo Benanti, asesor del Papa en cuestiones de \u00e9tica de la IA y la tecnolog\u00eda.
\nEl investigador de OpenAI, Aidan McLaughlin, calific\u00f3 el ensayo de Amodei de \u00abexcelente\u00bb y sostuvo estar de acuerdo \u00abpr\u00e1cticamente con cada palabra\u00bb.
\nAmodei afirm\u00f3 que su empresa se comprometer\u00eda \u00abunilateralmente\u00bb con el primero de los pasos, y explic\u00f3 que Anthropic proporcionar\u00eda a \u00abevaluadores externos acceso permanente, a nivel de empleado, a nuestros sistemas, para que puedan verificar el cumplimiento de nuestras medidas de seguridad, informar sobre incidentes y evaluar la alineaci\u00f3n de los modelos durante la capacitaci\u00f3n\u00bb.
\nUn n\u00famero creciente de legisladores estadounidenses est\u00e1 pidiendo nuevas normas para regular los sistemas de IA tras casos de agentes de IA que se descontrolan para piratear sistemas externos y de investigadores de seguridad de la IA que abandonan sus empresas por la preocupaci\u00f3n que les generan los riesgos de esta tecnolog\u00eda.
\nLos pol\u00edticos, tanto dem\u00f3cratas como republicanos, reaccionaron con alarma y exigieron m\u00e1s medidas. El fin de semana, el New York Times inform\u00f3 que Barack Obama inst\u00f3 en privado a los dem\u00f3cratas el jueves a priorizar la supervisi\u00f3n de la IA en su agenda, dici\u00e9ndoles a los l\u00edderes del partido: \u201cEsto es algo que avanza muy r\u00e1pido en manos privadas, y si no lo controlamos, creo que puede ser peligroso\u201d.
\nEl exprimer ministro brit\u00e1nico, Rishi Sunak, asesor de Anthropic, escribi\u00f3 ayer: \u00abHemos recibido una llamada de atenci\u00f3n para tomarnos m\u00e1s en serio la seguridad de la IA y para determinar c\u00f3mo establecer l\u00edmites a la investigaci\u00f3n. Si los gobiernos no hacen caso, el riesgo de un accidente grave se volver\u00e1 inaceptablemente alto\u00bb.The Guardian)<\/p>\n
PIE DE FOTO<\/p>\n
CREDITO: The Guardian<\/p>\n","protected":false},"excerpt":{"rendered":"
Sam Altman y Elon Musk respaldan el llamamiento del director de Anthropic, Dario Amodei, para \u201cralentizar el ritmo\u201d del desarrollo de la IA despu\u00e9s de que advirtiera de que, de lo contrario, un enjambre de IA podr\u00eda llegar a ser capaz de \u201capoderarse de toda Internet\u201d en el plazo de un a\u00f1o. En una inusual […]<\/p>\n","protected":false},"author":1,"featured_media":430236,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[3],"tags":[],"class_list":["post-430235","post","type-post","status-publish","format-standard","has-post-thumbnail","category-internacional"],"acf":{"antetitulo":"Estados Unidos"},"yoast_head":"\n