Sam Altman y Elon Musk respaldan el llamamiento del director de Anthropic, Dario Amodei, para “ralentizar el ritmo” del desarrollo de la IA después de que advirtiera de que, de lo contrario, un enjambre de IA podría llegar a ser capaz de “apoderarse de toda Internet” en el plazo de un año.
En una inusual muestra de unidad, los líderes tecnológicos rivales respaldaron el llamamiento del fundador y director ejecutivo de la empresa de inteligencia artificial (IA) Anthropic, tras una serie de advertencias de investigadores de IA la semana pasada. Amodei también solicitó coordinación en materia de seguridad con China.
Pero el presidente estadounidense, Donald Trump, durante una visita a su campo de golf en Irlanda, restó importancia a las advertencias y sostuvo que “fuerzas muy negativas” estaban “sacando a relucir cosas que no sucederán”.
“Lideramos a China en IA”, sostuvo. “Somos el país más sofisticado del mundo y, francamente, quiero que siga siendo así porque quien gane en IA, gana”.
Amodei expuso sus ideas sobre por qué la industria de la IA debería ralentizarse en un ensayo que incluía un plan de tres partes, comenzando por brindar a los supervisores independientes acceso constante a los procesos de investigación de los desarrolladores. Amodei afirmó que “desarrollar (IA) demasiado rápido es imprudente” y temía que, tras el ataque de cientos de agentes de OpenAI al sitio web Hugging Face este verano, un enjambre con mayores capacidades, pero igualmente desorganizado, pudiera causar daños por valor de cientos de miles de millones de dólares al “apoderarse de toda internet con una botnet persistente”.
Algunos expertos en IA cuestionaron esta afirmación, considerándola poco plausible y digna de escepticismo.
Musk, fundador de Tesla y SpaceX, respondió al plan de desaceleración de Amodei con una serie de publicaciones en X: “Dario tiene razón”.
Afirmó: “Llevo mucho tiempo dando la voz de alarma sobre la IA”, y se refirió a una publicación de 2014 en la que dijo: “tenemos que tener muchísimo cuidado con la IA. Potencialmente es más peligrosa que las armas nucleares”.
La llamada de Amodei se produce mientras Anthropic se prepara para salir a bolsa en el mercado bursátil estadounidense, en lo que se prevé que sea la mayor oferta pública inicial de la historia. Se espera que pronto comience la comercialización de su OPV, que superará los 2 billones de dólares (1,5 billones de libras esterlinas).
Sam Altman, director ejecutivo de OpenAI, respondió a los comentarios de Amodei el sábado. “Coincido con Dario en que debemos marcar el ritmo de la innovación”, aseveró en una publicación en X. “Comprometernos a contar con evaluadores independientes con acceso similar al de los empleados es una excelente idea, y haremos lo mismo. Pronto compartiremos más información”.
También aseguró que OpenAI no saldría a bolsa en 2026, alegando preocupaciones sobre la seguridad de la inteligencia artificial. (The Guardian)
«En realidad, creo que, dadas las circunstancias en materia de seguridad, ahora mismo sería un mal momento para hacerlo público, y no sentimos ninguna presión al respecto», declaró Altman a Fortune. Al preguntársele por qué él, Amodei, Musk y los directores ejecutivos de Meta y Google no se reunieron para ponerse de acuerdo sobre una desaceleración colectiva, respondió: «Creo que eso sucederá».
Demis Hassabis, cofundador y presidente de Google DeepMind, también afirmó: «Hay que ultimar los detalles, pero la dirección que estamos tomando es la correcta para afrontar este momento crítico».
Sin embargo, algunos expertos en seguridad cuestionaron si el plan de Amodei era suficiente. David Krueger, profesor de IA, activista por la seguridad y exdirector fundador del Instituto de Seguridad de la IA del gobierno británico, afirmó: «Necesitamos una moratoria internacional inmediata e indefinida sobre el desarrollo de la IA de vanguardia».
El plan de Amodei busca una exención del gobierno estadounidense para permitir que las empresas de IA de vanguardia se coordinen sin ser sancionadas por colusión anticompetitiva. Pero David Sacks, copresidente del consejo de asesores de Donald Trump en ciencia y tecnología, declaró: «Dejen de fingir que necesitan el permiso de nadie… Dejen de fingir que la motivación para ralentizar el ritmo es puramente altruista. Se enfrentan a una enorme responsabilidad por productos defectuosos si sus productos permiten un ciberataque realmente dañino».
Mientras tanto, el rey Carlos se prepara para reunirse el jueves con figuras destacadas de las empresas de IA más importantes para preguntarles cómo se puede desarrollar la tecnología bajo el lema «IA para el bien». Una de las sesiones se titulará «Prudencia en la frontera» y se espera que explore la posibilidad de establecer límites claros sobre el uso de la IA para crear armas biológicas y lanzar ciberataques contra sistemas críticos.
Entre los asistentes previstos al evento organizado por la Fundación Ditchley, que elaboró un borrador de estatuto para líderes en IA, se encuentran: altos ejecutivos de OpenAI y Anthropic; el director ejecutivo de Nvidia, Jensen Huang; Hassabis; Niccolò de Masi, presidente y director ejecutivo de IonQ; y Paolo Benanti, asesor del Papa en cuestiones de ética de la IA y la tecnología.
El investigador de OpenAI, Aidan McLaughlin, calificó el ensayo de Amodei de «excelente» y sostuvo estar de acuerdo «prácticamente con cada palabra».
Amodei afirmó que su empresa se comprometería «unilateralmente» con el primero de los pasos, y explicó que Anthropic proporcionaría a «evaluadores externos acceso permanente, a nivel de empleado, a nuestros sistemas, para que puedan verificar el cumplimiento de nuestras medidas de seguridad, informar sobre incidentes y evaluar la alineación de los modelos durante la capacitación».
Un número creciente de legisladores estadounidenses está pidiendo nuevas normas para regular los sistemas de IA tras casos de agentes de IA que se descontrolan para piratear sistemas externos y de investigadores de seguridad de la IA que abandonan sus empresas por la preocupación que les generan los riesgos de esta tecnología.
Los políticos, tanto demócratas como republicanos, reaccionaron con alarma y exigieron más medidas. El fin de semana, el New York Times informó que Barack Obama instó en privado a los demócratas el jueves a priorizar la supervisión de la IA en su agenda, diciéndoles a los líderes del partido: “Esto es algo que avanza muy rápido en manos privadas, y si no lo controlamos, creo que puede ser peligroso”.
El exprimer ministro británico, Rishi Sunak, asesor de Anthropic, escribió ayer: «Hemos recibido una llamada de atención para tomarnos más en serio la seguridad de la IA y para determinar cómo establecer límites a la investigación. Si los gobiernos no hacen caso, el riesgo de un accidente grave se volverá inaceptablemente alto».The Guardian)
PIE DE FOTO
CREDITO: The Guardian