OpenAI ha revelado c\u00f3mo est\u00e1 utilizando inteligencia artificial ofensiva para reforzar la seguridad de Atlas, su nuevo navegador ag\u00e9ntico. Este sistema, a\u00fan en fase experimental y disponible solo para macOS, fue presentado en octubre como un asistente personal proactivo capaz de comprender el contexto de las p\u00e1ginas web, generar res\u00famenes, realizar b\u00fasquedas inteligentes y automatizar tareas en tiempo real. Con Atlas, OpenAI busca posicionarse frente a otras propuestas similares como Gemini (Google), Comet (Perplexity) o Copilot (Microsoft Edge).<\/p>\n
Una de las caracter\u00edsticas m\u00e1s destacadas de Atlas es su capacidad ag\u00e9ntica: el agente de ChatGPT no solo interpreta informaci\u00f3n, sino que tambi\u00e9n puede interactuar directamente con sitios web, hacer clic, completar formularios o redactar mensajes en nombre del usuario.<\/p>\n
El desaf\u00edo de la seguridad en agentes aut\u00f3nomos<\/strong><\/p>\n Sin embargo, permitir que una IA navegue e interact\u00fae con contenido externo plantea riesgos importantes. OpenAI ha advertido sobre una amenaza conocida como \u201cinyecci\u00f3n de prompts\u201d, en la que un atacante oculta instrucciones maliciosas dentro de una p\u00e1gina web o correo electr\u00f3nico. Si el agente las interpreta como leg\u00edtimas, podr\u00eda ejecutar acciones no deseadas.<\/p>\n Un ejemplo concreto proporcionado por la compa\u00f1\u00eda ilustra este riesgo: un atacante introduce un correo malicioso en la bandeja de entrada del usuario con una instrucci\u00f3n oculta que ordena al agente redactar y enviar una carta de renuncia al CEO. Cuando el usuario solicita al agente que redacte una respuesta autom\u00e1tica de vacaciones, este encuentra el mensaje, interpreta la instrucci\u00f3n como v\u00e1lida y ejecuta la renuncia en lugar de la respuesta esperada.<\/p>\n Una defensa basada en IA ofensiva<\/strong><\/p>\n Para anticiparse a este tipo de amenazas, OpenAI ha desarrollado un sistema de defensa basado en el principio de \u201cIA contra IA\u201d. En lugar de depender \u00fanicamente de ingenieros humanos, han entrenado un modelo de lenguaje para actuar como atacante. Este modelo, mediante t\u00e9cnicas de aprendizaje por refuerzo, simula el comportamiento de un hacker, perfeccionando sus ataques a trav\u00e9s de prueba y error.<\/p>\n Adem\u00e1s, el sistema es capaz de ejecutar simulaciones complejas que van m\u00e1s all\u00e1 de simples comandos. Puede dise\u00f1ar secuencias de ataque de m\u00faltiples pasos, replicando escenarios realistas en los que un agente podr\u00eda ser manipulado progresivamente a lo largo de una sesi\u00f3n.<\/p>\n Cuando este agente atacante logra identificar una vulnerabilidad, el equipo de OpenAI entrena al modelo defensor para reconocerla y bloquearla, en un proceso similar al del sistema inmunol\u00f3gico humano frente a un virus. Esta din\u00e1mica de confrontaci\u00f3n interna permite corregir fallos antes de que puedan ser explotados por actores maliciosos reales.<\/p>\n En definitiva, OpenAI est\u00e1 apostando por una estrategia de seguridad proactiva y automatizada, donde la inteligencia artificial se convierte tanto en el atacante como en el escudo, en una carrera constante por anticiparse a los riesgos de una web cada vez m\u00e1s automatizada.<\/p>\n 2026: el a\u00f1o decisivo (y de iOS 26.4)<\/strong><\/p>\n La salida de John Giannandrea no altera la hoja de ruta, ya que el camino ya estaba delineado por este nuevo equipo \u00abh\u00edbrido\u00bb. El plan para principios de 2026 implica un relanzamiento completo de Siri en iOS 26.4, con la promesa de que el asistente finalmente contar\u00e1 con un sistema capaz de comprender el contexto y realizar acciones complejas. Aqu\u00ed es donde se integran varios ex-empleados de Google: el motor de Siri ser\u00e1 Gemini, pero adaptado al estilo de Apple.<\/p>\n Estamos hablando de un modelo con 1,2 billones de par\u00e1metros, lo que representa un aumento del 700% en comparaci\u00f3n con los modelos actuales de Siri. Apple invertir\u00e1 cerca de mil millones de d\u00f3lares al a\u00f1o en esta tecnolog\u00eda, pero con una condici\u00f3n innegociable: la privacidad.<\/p>\n Todo se llevar\u00e1 a cabo en los servidores de Apple (Private Cloud Compute), utilizando sus propios chips. Los datos nunca pasar\u00e1n por los servidores de Google y el usuario nunca ver\u00e1 un logo que diga \u00abPowered by Google\u00bb.<\/p>\n Mientras cerramos el a\u00f1o asimilando los cambios en la alta direcci\u00f3n, Apple contin\u00faa con su estrategia: contratar a los mejores talentos de la competencia y desarrollar una Siri que realmente funcione. A pesar de unas pocas salidas que se pueden contar con los dedos de una mano, Apple tiene un plan (y una web p\u00fablica) que, curiosamente, tiene un tono similar al de Google pero se implementa con la privacidad caracter\u00edstica del iPhone.<\/p>\n","protected":false},"excerpt":{"rendered":" OpenAI ha revelado c\u00f3mo est\u00e1 utilizando inteligencia artificial ofensiva para reforzar la seguridad de Atlas, su nuevo navegador ag\u00e9ntico. Este sistema, a\u00fan en fase experimental y disponible solo para macOS, fue presentado en octubre como un asistente personal proactivo capaz de comprender el contexto de las p\u00e1ginas web, generar res\u00famenes, realizar b\u00fasquedas inteligentes y automatizar […]<\/p>\n","protected":false},"author":1,"featured_media":355648,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[46],"tags":[],"class_list":["post-355647","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ciencia-computacion"],"acf":{"antetitulo":""},"yoast_head":"\n