Una importante empresa de inteligencia artificial afirma haber detenido una campa\u00f1a de \u00abciberespionaje\u00bb respaldada por China que logr\u00f3 infiltrarse en empresas financieras y agencias gubernamentales pr\u00e1cticamente sin supervisi\u00f3n humana.<\/p>\n
La empresa estadounidense Anthropic afirm\u00f3 que su herramienta de codificaci\u00f3n, Claude Code, fue \u00abmanipulada\u00bb por un grupo patrocinado por el estado chino para atacar a 30 entidades de todo el mundo en septiembre, logrando \u00abun pu\u00f1ado de intrusiones exitosas\u00bb.<\/p>\n
Esto supuso una \u00abescalada significativa\u00bb con respecto a los ataques anteriores con inteligencia artificial que hab\u00eda monitorizado, seg\u00fan escribi\u00f3 en una entrada de blog el jueves, porque Claude actu\u00f3 de forma en gran medida independiente: entre el 80 y el 90% de las operaciones implicadas en el ataque se realizaron sin intervenci\u00f3n humana.<\/p>\n
\u00abEl actor logr\u00f3 lo que creemos que es el primer caso documentado de un ciberataque ejecutado en gran medida sin intervenci\u00f3n humana a gran escala\u00bb, escribi\u00f3.<\/p>\n
Anthropic no aclar\u00f3 qu\u00e9 instituciones financieras y agencias gubernamentales hab\u00edan sido atacadas, ni qu\u00e9 hab\u00edan logrado exactamente los hackers, aunque s\u00ed afirm\u00f3 que pudieron acceder a los datos internos de sus objetivos.<\/p>\n
Seg\u00fan el informe, Claude hab\u00eda cometido numerosos errores al ejecutar los ataques, a veces inventando datos sobre sus objetivos o afirmando haber \u00abdescubierto\u00bb informaci\u00f3n de libre acceso.<\/p>\n
Los responsables pol\u00edticos y algunos expertos afirmaron que los hallazgos eran una se\u00f1al inquietante de lo capaces que llegaron a ser ciertos sistemas de IA: herramientas como Claude ahora pueden funcionar de forma independiente durante per\u00edodos de tiempo m\u00e1s prolongados.<\/p>\n
\u00ab\u00a1Despierten de una vez! Esto nos va a destruir, antes de lo que pensamos, si no convertimos la regulaci\u00f3n de la IA en una prioridad nacional ma\u00f1ana mismo\u00bb, escribi\u00f3 el senador estadounidense Chris Murphy en X en respuesta a los hallazgos.<\/p>\n
\u00abLos sistemas de IA ahora pueden realizar tareas que antes requer\u00edan operadores humanos cualificados\u00bb, afirm\u00f3 Fred Heiding, investigador de seguridad inform\u00e1tica en la Universidad de Harvard. \u00abCada vez es m\u00e1s f\u00e1cil para los atacantes causar da\u00f1os reales. Las empresas de IA no asumen la responsabilidad suficiente\u00bb.<\/p>\n
Otros expertos en ciberseguridad se mostraron m\u00e1s esc\u00e9pticos, se\u00f1alando las afirmaciones exageradas sobre los ciberataques impulsados por IA en los \u00faltimos a\u00f1os, como un \u00abdescifrador de contrase\u00f1as\u00bb impulsado por IA de 2023 que no funcion\u00f3 mejor que los m\u00e9todos convencionales, y sugiriendo que Anthropic estaba tratando de crear expectaci\u00f3n en torno a la IA.<\/p>\n
\u00abPara m\u00ed, Anthropic describe una automatizaci\u00f3n sofisticada, nada m\u00e1s\u00bb, sostuvo Micha\u0142 Wo\u017aniak, experto independiente en ciberseguridad. \u00abHay generaci\u00f3n de c\u00f3digo, pero eso no es ‘inteligencia’, es simplemente copiar y pegar con estilo\u00bb.<\/p>\n
Wo\u017aniak afirm\u00f3 que el lanzamiento de Anthropic desviaba la atenci\u00f3n de un problema mayor de ciberseguridad: la integraci\u00f3n, por parte de empresas y gobiernos, de herramientas de IA \u00abcomplejas y poco conocidas\u00bb en sus operaciones sin comprenderlas, lo que las expone a vulnerabilidades. La verdadera amenaza, seg\u00fan \u00e9l, reside en los propios ciberdelincuentes y en las pr\u00e1cticas de ciberseguridad deficientes.<\/p>\n
Anthropic, al igual que todas las empresas l\u00edderes en IA, cuenta con medidas de seguridad que se supone impiden que sus modelos participen en ciberataques o promuevan da\u00f1os en general. Sin embargo, seg\u00fan la empresa, los hackers lograron burlar estas medidas al pedirle a Claude que simulara ser un empleado de una empresa leg\u00edtima de ciberseguridad que realizaba pruebas.<\/p>\n
Wo\u017aniak sostuvo: \u00abLa valoraci\u00f3n de Anthropic ronda los 180.000 millones de d\u00f3lares, y todav\u00eda no consiguen encontrar la manera de evitar que sus herramientas sean vulneradas por una t\u00e1ctica que utiliza un ni\u00f1o de 13 a\u00f1os cuando quiere hacer una broma telef\u00f3nica a alguien\u00bb.<\/p>\n
Marius Hobbhahn, fundador de Apollo Research, una empresa que eval\u00faa la seguridad de los modelos de IA, afirm\u00f3 que los ataques eran una se\u00f1al de lo que podr\u00eda ocurrir a medida que aumenten las capacidades.<\/p>\n
\u00abCreo que la sociedad no est\u00e1 bien preparada para este tipo de panorama en constante cambio en lo que respecta a la IA y las capacidades cibern\u00e9ticas. Preveo que en los pr\u00f3ximos a\u00f1os se producir\u00e1n muchos m\u00e1s acontecimientos similares, posiblemente con consecuencias mayores\u00bb.(The Guardian)<\/p>\n","protected":false},"excerpt":{"rendered":"
Una importante empresa de inteligencia artificial afirma haber detenido una campa\u00f1a de \u00abciberespionaje\u00bb respaldada por China que logr\u00f3 infiltrarse en empresas financieras y agencias gubernamentales pr\u00e1cticamente sin supervisi\u00f3n humana. La empresa estadounidense Anthropic afirm\u00f3 que su herramienta de codificaci\u00f3n, Claude Code, fue \u00abmanipulada\u00bb por un grupo patrocinado por el estado chino para atacar a 30 […]<\/p>\n","protected":false},"author":1,"featured_media":345330,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[3],"tags":[],"class_list":["post-345329","post","type-post","status-publish","format-standard","has-post-thumbnail","category-internacional"],"acf":{"antetitulo":"Se infiltraron en empresas financieras y agencias"},"yoast_head":"\n