Anthropic sostuvo que “no puede en conciencia” cumplir con una demanda del Pentágono de eliminar las precauciones de seguridad de su modelo de inteligencia artificial (IA) y otorgar al Ejército estadounidense acceso sin restricciones a sus capacidades de IA.
El Departamento de Defensa había amenazado con cancelar un contrato de 200 millones de dólares y considerar a Anthropic un “riesgo para la cadena de suministro”, una designación con graves implicaciones financieras, si la empresa no cumplía con la solicitud antes de ayer (viernes).
El director ejecutivo Dario Amodei señaló en un comunicado que las amenazas del secretario de Defensa, Pete Hegseth, no cambiarían la posición de la compañía y que esperaba que Hegseth “reconsiderara”.
“Nuestra firme preferencia es seguir sirviendo al Departamento y a nuestros combatientes, con las dos salvaguardias solicitadas en vigor”, declaró. “Seguimos listos para continuar nuestra labor de apoyo a la seguridad nacional de Estados Unidos”.
El núcleo del enfrentamiento entre el Departamento de Defensa y Anthropic reside en un desacuerdo sobre cómo la empresa de inteligencia artificial permitirá el uso de su producto, Claude. El Pentágono exigió que Anthropic desactive las medidas de seguridad y permita cualquier uso legal de Claude, mientras que Anthropic se ha opuesto a permitir su uso para la vigilancia doméstica masiva o en sistemas de armas autónomas capaces de matar personas sin intervención humana.
Tras meses de disputas y presión por parte del gobierno, Hegseth habría dado a Amodei hasta ayer por la noche para aceptar las demandas del Pentágono o enfrentar acciones punitivas.
Si Anthropic cedería o no se consideraba una prueba de alto perfil de su afirmación de ser la más consciente de la seguridad entre las principales empresas de IA, así como de si alguna parte de la industria de IA se opondría a los deseos del gobierno de usar la tecnología para fines controvertidos y potencialmente letales.
En su declaración, Amodei dijo que el uso de IA para armas autónomas y vigilancia doméstica masiva está “simplemente fuera de los límites de lo que la tecnología actual puede hacer de manera segura y confiable”.
En los últimos años, el Departamento de Defensa firmó varios acuerdos lucrativos con empresas tecnológicas para que desarrollen o integren tecnología de IA en los sistemas militares estadounidenses. En julio del año pasado, Anthropic fue una de las grandes tecnológicas, como Google y OpenAI, que recibió contratos de hasta 200 millones de dólares con el Departamento de Defensa. Lo que distingue a Anthropic e intensificó su conflicto con el Pentágono es que, hasta esta semana, era el único modelo de IA aprobado para su uso en los sistemas clasificados militares. (xAI, de Elon Musk, llegó a un acuerdo a principios de esta semana para su uso también en sistemas clasificados).
Según informes, la tecnología de Anthropic ya se utilizó en aplicaciones militares, incluyendo la captura del líder venezolano Nicolás Maduro por parte de Estados Unidos el mes pasado, lo que pone de relieve el creciente uso de la IA en situaciones de conflicto. El auge de la tecnología de armas autónomas, como los drones que pueden realizar operaciones incluso después de interrumpir su conexión con un operador humano, también intensificó las antiguas preocupaciones sobre cómo se utilizará la IA en situaciones de vida o muerte.
Anthropic y Amodei fueron durante mucho tiempo algunos de los principales defensores de la regulación y las precauciones de seguridad en el desarrollo de la IA, incluso tras haber llegado a acuerdos con el Ejército y esta semana suavizado una política fundamental de no lanzar nuevos modelos de IA sin garantizar primero su seguridad. Las demandas de regulación de Amodei, y su historial de oposición política a Donald Trump, chocaron con las promesas de Hegseth de eliminar la “concienciación” de las fuerzas armadas e implementar políticas militares agresivas.
Si Hegseth cumple su amenaza de clasificar a Anthropic como un riesgo para la cadena de suministro, representaría un duro golpe para la empresa de inteligencia artificial. Esta designación, que suele utilizarse para adversarios extranjeros, prohibiría a otros proveedores que operan con el ejército estadounidense utilizar los productos de Anthropic. (The Guardian)