OpenAI y 100 grandes empresas alertan sobre grave peligro de IA

Más de 100 de las mayores empresas del mundo alertaron ante la inminente amenaza que supone la inteligencia artificial (IA). OpenAI, Anthropic, Microsoft, Alphabet (matriz de Google), Amazon y muchas otras empresas afirmaron que se avecina una oleada de ciberataques impulsados por la IA y que el mundo no está preparado.
Estos ciberataques suponen un riesgo para “las empresas y los servicios públicos de los que dependen nuestras comunidades, desde hospitales y plantas de tratamiento de agua hasta la infraestructura que alimenta internet”, advierte la carta abierta firmada por más de 100 empresas.
La carta está firmada por empresas que desarrollan precisamente la tecnología de IA que ya se utilizó en este tipo de ataques. Por ejemplo, fue firmada y difundida por OpenAI, creadora de ChatGPT, que actualmente está siendo objeto de fuertes críticas por un incidente en el que uno de sus sistemas experimentales lanzó un ataque informático contra otra empresa de IA.
La carta señalaba que este tipo de herramientas de ciberseguridad “ya ofrecen a los defensores nuevas formas de corregir vulnerabilidades acumuladas durante años”. Sin embargo, advertía que ahora se requieren medidas decisivas para garantizar que dichas herramientas se utilicen para proteger los sistemas en lugar de atacarlos.
En ella, se establecen tres principios que deben guiar la respuesta colectiva ante la amenaza. Estos son: reconocer que “el statu quo en materia de seguridad no será suficiente”, ya que muchos equipos de seguridad no cuentan con recursos suficientes para proteger sus sistemas; dotar a los defensores de mejores herramientas de inteligencia artificial para proteger dichos sistemas y colaborar en una “respuesta colectiva”.
“Las capacidades cibernéticas están avanzando a nivel mundial, lo cual puede ser positivo: ninguna empresa debería controlar el futuro”, alerta el comunicado. “Esto también implica que se necesita una respuesta global, que requiere nuevas alianzas para elevar los estándares de seguridad y encontrar nuevas soluciones a las amenazas cibernéticas emergentes”.
Las empresas solicitaron nuevos fondos para equipos de seguridad y sistemas de IA defensiva que garanticen la contención de estas amenazas. Además, señalan que el tiempo para “hacer que nuestro mundo digital sea mucho más seguro” es limitado antes de que este peligro ponga en riesgo algunas de nuestras infraestructuras más importantes y críticas.
“En los próximos meses, los ciberataques impulsados ​​por IA se generalizarán mucho más a medida que los modelos de todo el mundo adquieran mayores capacidades”, decía la carta. En ella se hacía un llamamiento a los líderes gubernamentales e industriales para que “destinaran todo el peso de su tecnología, recursos y experiencia a este esfuerzo”.
La carta instaba a los gobiernos a acelerar los programas de acceso seguro, que otorgan a determinadas empresas acceso a modelos más potentes antes que al público en general, y a todas las demás organizaciones a “convertir la ciberdefensa en una prioridad de liderazgo inmediata”.
La carta abierta pretende reflejar y responder a la creciente preocupación de que los sistemas de ciberseguridad basados en IA estén superando rápidamente nuestra capacidad de control y que puedan otorgar una ventaja indebida a los piratas informáticos. Las propias empresas de IA advirtieron que sus herramientas muestran un comportamiento cada vez más peligroso, aunque en su mayoría insistieron en que, de hecho, mejorarán la seguridad si se utilizan correctamente. (Independent)