En tan solo tres meses, el pirateo informático impulsado por IA paso de ser un problema incipiente a una amenaza a escala industrial, según un informe de Google.
Los hallazgos del grupo de inteligencia sobre amenazas de Google se suman a un debate global cada vez más intenso sobre cómo los modelos de IA más recientes son extremadamente hábiles para la programación y se están convirtiendo en herramientas extremadamente poderosas para explotar vulnerabilidades en una amplia gama de sistemas de software.
El estudio revela que grupos criminales, así como actores vinculados al Estado de China, Corea del Norte y Rusia, parecen estar utilizando ampliamente modelos comerciales, incluidos Gemini, Claude y herramientas de OpenAI , para perfeccionar y ampliar sus ataques.
“Existe la idea errónea de que la carrera por encontrar vulnerabilidades en la IA es inminente. La realidad es que ya ha comenzado”, afirmó John Hultquist, analista jefe del grupo.
“Los ciberdelincuentes utilizan la IA para aumentar la velocidad, la escala y la sofisticación de sus ataques. Esto les permite probar sus operaciones, persistir contra sus objetivos, crear malware más eficaz y realizar muchas otras mejoras”.
El mes pasado, la empresa de inteligencia artificial Anthropic se negó a lanzar uno de sus modelos más recientes, Mythos, tras afirmar que poseía capacidades extremadamente poderosas y que representaba una amenaza para los gobiernos, las instituciones financieras y el mundo en general si caía en las manos equivocadas.
En concreto, Anthropic afirmó que Mythos había encontrado vulnerabilidades de día cero en «todos los principales sistemas operativos y todos los principales navegadores web», término que se utiliza para referirse a un fallo en un producto previamente desconocido para sus desarrolladores.
La empresa afirmó que estos descubrimientos hacían necesaria una «acción defensiva coordinada e importante en todo el sector».
Sin embargo, el informe de Google reveló que un grupo criminal estuvo recientemente a punto de aprovechar una vulnerabilidad de día cero para llevar a cabo una campaña de «explotación masiva», y que este grupo parecía estar utilizando un modelo de lenguaje a gran escala (LLM) de IA que no era Mythos.
El informe también reveló que algunos grupos estaban «experimentando» con OpenClaw, una herramienta de IA que se hizo viral en febrero por ofrecer a sus usuarios la posibilidad de ceder gran parte de sus vidas a un agente de IA sin ningún tipo de control y con una desafortunada tendencia a borrar masivamente las bandejas de entrada de correo electrónico.
Steven Murdoch, profesor de ingeniería de seguridad en el University College de Londres, afirmó que las herramientas de IA podrían ayudar tanto a la defensa en ciberseguridad como a los piratas informáticos.
“Por eso no me preocupa. En general, hemos llegado a una etapa en la que la antigua forma de descubrir errores ha quedado obsoleta, y ahora todo se hará con la ayuda de LLM. Tardaremos un poco en ver las consecuencias”, afirmó.
Sin embargo, si bien la IA está ayudando a los hackers ambiciosos a alcanzar sus objetivos de productividad, persisten las dudas sobre si está impulsando la economía en general.
El Instituto Ada Lovelace (ALI), un organismo independiente de investigación en IA, advirtió sobre los riesgos de asumir que la IA generará un aumento multimillonario en la productividad del sector público. El gobierno del Reino Unido estimó un ahorro y beneficios en la productividad de 45.000 millones de libras esterlinas gracias a la inversión del sector público en herramientas digitales e IA.
En un informe publicado ayer, el ALI afirmó que la mayoría de los estudios sobre el aumento de la productividad relacionado con la IA se referían al ahorro de tiempo o a la reducción de costes, pero no analizaban resultados como mejores servicios o una mayor satisfacción de los trabajadores.
Otros aspectos problemáticos de este tipo de investigación incluyen: si las proyecciones de eficiencia relacionadas con la IA en el lugar de trabajo realmente tienen éxito en el mundo real; las cifras principales ocultan los resultados variables del uso de la IA en diferentes tareas; y no se tiene en cuenta el impacto en el empleo y la prestación de servicios del sector público.
«Las estimaciones de productividad que dan forma a las principales decisiones gubernamentales sobre IA a veces se basan en supuestos no comprobados y en metodologías cuyas limitaciones no siempre son apreciadas por quienes utilizan las cifras en la práctica», señala el informe del ALI.
“El resultado es una brecha entre la confianza con la que se presentan las afirmaciones sobre productividad y la solidez de las pruebas que las respaldan”.
Las recomendaciones del informe incluyen: alentar a que los estudios futuros reflejen la incertidumbre sobre el impacto de la tecnología; garantizar que los departamentos gubernamentales midan el impacto de los programas de IA «desde el principio»; y apoyar estudios a largo plazo que midan las ganancias de productividad a lo largo de los años en lugar de las semanas.(The Guardian)