Imagen: Kristen Radtke, The Verge
Las versiones apresuradas, los agentes de IA corruptibles y el seguimiento hiperacelerado convierten a los navegadores de IA en un entorno con multitud de riesgos de ciberseguridad conocidos y desconocidos.
por Robert Hart
Los navegadores web se están volviendo increíblemente comunicativos. La semana pasada, OpenAI y Microsoft aceleraron la carrera por los navegadores con IA con ChatGPT Atlas y el ” Modo Copiloto ” para Edge. Pueden responder preguntas, resumir páginas e incluso realizar acciones por ti. La experiencia aún dista mucho de ser perfecta , pero apunta a un futuro más cómodo y automatizado donde el navegador piense por ti. Sin embargo, los expertos en ciberseguridad advierten que ese futuro también podría ser un campo minado de nuevas vulnerabilidades y fugas de datos. Las señales ya están aquí, y los investigadores consultados por The Verge afirman que el caos no ha hecho más que empezar.
Atlas y el Modo Copiloto forman parte de una estrategia más amplia para controlar el acceso a internet e integrar la IA directamente en el navegador. Esta iniciativa está transformando los chatbots independientes, antes ubicados en páginas o aplicaciones separadas, en la plataforma que utilizamos para navegar por la web. No están solos. Empresas consolidadas también participan en esta carrera, como Google, que está integrando su modelo de IA Gemini en Chrome; Opera, que lanzó Neon ; y The Browser Company, con Dia . Las startups también buscan hacerse un hueco en el mercado, como la startup de IA Perplexity —conocida por su motor de búsqueda con IA, que a principios de octubre lanzó su navegador con IA, Comet, de acceso libre para todos— y la sueca Strawberry, que aún está en fase beta y busca activamente captar a los usuarios descontentos con Atlas.
En las últimas semanas, investigadores han descubierto vulnerabilidades en Atlas que permiten a los atacantes aprovechar la “memoria” de ChatGPT para inyectar código malicioso, otorgarse privilegios de acceso o desplegar malware. Fallos descubiertos en Comet podrían permitir a los atacantes secuestrar la IA del navegador con instrucciones ocultas. Perplexity, a través de un blog , y el director de seguridad de la información de OpenAI, Dane Stuckey, reconocieron la semana pasada, mediante una publicación en su blog, las inyecciones de código como una gran amenaza, aunque ambos las describieron como un problema “incipiente” sin una solución definitiva.
“A pesar de que existen algunas medidas de seguridad importantes, la superficie de ataque sigue siendo enorme”, afirma Hamed Haddadi, profesor de sistemas centrados en el usuario en el Imperial College de Londres y científico jefe de la empresa de navegadores web Brave. Y lo que estamos viendo es solo la punta del iceberg.
Con los navegadores con IA, las amenazas son numerosas. Principalmente, saben mucho más sobre ti y son «mucho más potentes que los navegadores tradicionales», afirma Yash Vekaria, investigador de informática en la UC Davis. Incluso más que con los navegadores estándar, Vekaria señala que «existe un riesgo inminente de ser rastreado y perfilado por el propio navegador». Las funciones de «memoria» de la IA están diseñadas para aprender de todo lo que un usuario hace o comparte, desde la navegación hasta los correos electrónicos y las búsquedas, así como las conversaciones con el asistente de IA integrado. Esto significa que probablemente compartes mucho más de lo que crees y el navegador lo recuerda todo. El resultado es «un perfil más invasivo que nunca», explica Vekaria. A los hackers les encantaría obtener esa información, especialmente si se combina con los datos de tarjetas de crédito y las credenciales de inicio de sesión almacenadas, que suelen encontrarse en los navegadores.
Otra amenaza es inherente al despliegue de cualquier nueva tecnología. Por muy cuidadosos que sean los desarrolladores, inevitablemente habrá vulnerabilidades que los hackers podrán explotar. Estas pueden abarcar desde errores de programación que revelen accidentalmente datos confidenciales hasta graves fallos de seguridad que permitan a los hackers acceder al sistema. «Estamos en una fase temprana, así que es de esperar que surjan vulnerabilidades peligrosas», afirma Lukasz Olejnik, investigador independiente de ciberseguridad e investigador visitante sénior en el King’s College de Londres. Señala los primeros abusos de macros de Office, las extensiones maliciosas de navegadores y los problemas en dispositivos móviles antes de la introducción de permisos como ejemplos de problemas de seguridad anteriores relacionados con el despliegue de nuevas tecnologías. «Y aquí estamos de nuevo».
Algunas vulnerabilidades nunca se detectan, lo que a veces da lugar a devastadores ataques de día cero (llamados así porque no hay tiempo para corregir la falla), pero las pruebas exhaustivas pueden reducir drásticamente el número de problemas potenciales. Con los navegadores con IA, «la mayor amenaza inmediata es la fiebre del mercado», afirma Haddadi. «Estos navegadores con agentes no se han probado ni validado a fondo».
Pero la característica definitoria de los navegadores con IA, la propia IA, es donde se gestan las peores amenazas. El mayor desafío reside en los agentes de IA que actúan en nombre del usuario. Al igual que los humanos, son capaces de visitar sitios web sospechosos, hacer clic en enlaces dudosos e introducir información confidencial donde no debería estar, pero, a diferencia de algunos humanos, carecen del sentido común aprendido que nos ayuda a mantenernos seguros en línea. Los agentes también pueden ser engañados, incluso secuestrados, con fines maliciosos. Basta con las instrucciones adecuadas. Las llamadas inyecciones de prompts pueden ser desde muy obvias hasta sutiles, ocultándose a plena vista en imágenes, capturas de pantalla, campos de formularios, correos electrónicos y archivos adjuntos , e incluso en algo tan simple como texto blanco sobre fondo blanco.
Peor aún, estos ataques pueden ser muy difíciles de anticipar y de contrarrestar. La automatización permite a los ciberdelincuentes intentarlo una y otra vez hasta que el agente haga lo que ellos quieren, afirma Haddadi. «La interacción con los agentes permite un sinfín de configuraciones de prueba y error, así como la exploración de métodos para insertar mensajes y comandos maliciosos». En resumen, existen muchas más posibilidades de que un hacker vulnere la seguridad al interactuar con un agente, lo que abre un enorme abanico de posibilidades para posibles ataques. Shujun Li, profesor de ciberseguridad en la Universidad de Kent, afirma que, como consecuencia, «las vulnerabilidades de día cero están aumentando exponencialmente». Y lo que es aún peor: Li añade que, dado que el fallo se origina en un agente, la detección también se retrasa, lo que implica brechas de seguridad potencialmente mayores.
No es difícil imaginar lo que podría suceder. Olejnik prevé escenarios en los que los atacantes utilicen instrucciones ocultas para que los navegadores con IA envíen datos personales o roben productos comprados, modificando la dirección guardada en una página web de compras. Para colmo, Vekaria advierte que, dado el estado actual de los navegadores con IA, incluso con las medidas de seguridad implementadas, es relativamente fácil llevar a cabo estos ataques. «Los fabricantes de navegadores tienen mucho trabajo por delante para que sean más seguros y ofrezcan mayor privacidad a los usuarios», afirma.
Para algunas amenazas, los expertos afirman que la única forma segura de usar navegadores con IA es evitar por completo sus funciones más destacadas. Li sugiere reservar la IA para “solo cuando sea absolutamente necesario” y saber lo que se está haciendo. Los navegadores deberían “funcionar en modo sin IA por defecto”, afirma. Si es imprescindible usar las funciones del agente de IA, Vekaria recomienda cierta supervisión. Al configurar una tarea, proporcione al agente sitios web verificados y seguros en lugar de dejar que los identifique por sí solo. “Podría terminar sugiriendo y usando un sitio web fraudulento”, advierte.
Fuente: https://www.theverge.com/report/810083/ai-browser-cybersecurity-problems