Siga conectamentado: Agréganos como fuente preferida en Google.
Conclusiones secreto de conectamentado
- Los navegadores de IA son potentes, pero no necesariamente seguros.
- Los expertos advierten sobre el aumento de los riesgos de inyección rápida y robo de datos.
- Utilice los navegadores de IA con cuidado y proteja sus datos.
Este año ha sido sin duda el año del explicación de la inteligencia fabricado (IA).
Con el repentino divulgación de ChatGPT de OpenAI, las empresas de todo el mundo se apresuraron a implementar el chatbot y sus aplicaciones asociadas en sus flujos de trabajo; de repente, los académicos tuvieron que comenzar a corroborar las presentaciones de los estudiantes en exploración de plagio de IA; y aparecieron modelos de IA para todo, desde la concepción de imágenes y música hasta el erotismo.
Encima: ¿Es el navegador Atlas de OpenAI el homicida de Chrome que estábamos esperando? Pruébalo por ti mismo
Se han invertido miles de millones de dólares no solo en chatbots impulsados por inteligencia fabricado, sino todavía en grandes modelos de habla (LLM) y aplicaciones de hornacina. Los navegadores y agentes de IA son ahora la próxima crecimiento.
Atlas de OpenAI hace su iniciación
Anunciado el martes, OpenAI* lanzó ChatGPT Atlas, descrito como «el navegador con ChatGPT integrado».
Pero bajo el capó, hay mucho más que eso. Atlas, que se une a Google Chrome compatible con Comet, Dia y Gemini de Perplexity, está adecuado en Mac para iniciar, y ya se han prometido actualizaciones para perfeccionar el nuevo navegador.
El equipo de OpenAI ha descrito Atlas como un navegador de IA creado en torno a ChatGPT. El chatbot se integra con cada consulta de búsqueda que envía y con cualquier pestaña abierta y puede usar su contenido y datos para replicar consultas o realizar tareas.
Además: Perplexity te dará $20 por cada amigo que refieras a Comet: cómo obtener tu efectivo
Según las primeras pruebas, como cuando la editora de conectamentado, Elyse Betters Picaro, encargó a Atlas que ordenara alimentos en su nombre a Walmart, el navegador es prometedor. Los usos incluyen pedidos en rasgo, impresión de correos electrónicos, sumario de conversaciones, consultas generales e incluso examen de repositorios de GitHub.
«Con Atlas, ChatGPT puede acompañarlo a cualquier ocupación de la web, ayudándolo en la ventana ajustado donde se encuentra, entendiendo lo que está tratando de hacer y completando tareas por usted, todo sin copiar y pegar ni salir de la página», dice OpenAI. «Tu memoria ChatGPT está integrada, por lo que las conversaciones pueden beneficiarse chats anteriores y detalles para ayudarte a hacer cosas nuevas».
Sin requisa, Atlas, próximo con otros navegadores basados en IA, plantea cuestiones de seguridad y privacidad que deben responderse.
(Divulgación: Ziff Davis, la empresa matriz de conectamentado, presentó una demanda en abril de 2025 contra OpenAI, alegando que infringió los derechos de autor de Ziff Davis al entrenar y proceder sus sistemas de IA).
inyecciones inmediatas
Las inyecciones inmediatas se han convertido en un dominio de verdadera preocupación para los expertos en ciberseguridad. Un ataque de inyección rápida ocurre cuando un actor de amenazas manipula un LLM para que actúe de forma dañina. Un ataque diseñado para robar datos del favorecido podría disfrazarse de un aviso puro que ignora las medidas de seguridad existentes y anula las instrucciones del desarrollador.
Hay dos tipos de inyección rápida: una inyección directa basada en la entrada del favorecido o un secuestro indirecto realizado a través de cargas enseres ocultas en el contenido que un LLM extrae, como en una página web.
Investigadores valientes revelaron anteriormente problemas de inyección rápida indirecta en Comet y, a raíz de esta investigación, descubrieron y revelaron nuevos ataques de inyección rápida no solo en Comet sino todavía en Fellou.
Además: El navegador Dia gratis con tecnología de inteligencia fabricado ahora está adecuado para todos los usuarios de Mac: los usuarios de Windows pueden unirse a una índice de dilación
«Los asistentes de navegador agentes pueden ser inyectados rápidamente por contenido de una página web que no es de confianza, lo que hace que protecciones como la política del mismo origen sean irrelevantes porque el asistente se ejecuta con los privilegios autenticados del favorecido», comentó Brave. «Esto permite que instrucciones simples en habla natural en sitios web (o incluso simplemente un comentario de Reddit) desencadenen acciones entre dominios que lleguen a bancos, sitios de proveedores de atención médica, sistemas corporativos, servidores de correo electrónico y almacenamiento en la cúmulo».
El desarrollador perito y cocreador de Django Web Framework, Simon Willison, ha seguido de cerca los movimientos en el mundo de los navegadores de IA y sigue siendo «profundamente escéptico» con respecto al sector de navegadores basados en agentes y agentes de IA en su conjunto, señalando que cuando permite que un navegador tome acciones en su nombre, incluso pedir un sumario principal de una publicación de Reddit podría conducir potencialmente a la filtración de datos.
conectamentado preguntó a OpenAI sobre las medidas de seguridad implementadas para evitar la inyección rápida y si hay más mejoras en proceso. El equipo nos refirió al centro de ayuda, que describe cómo los usuarios pueden configurar controles granulares, y a una publicación X escrita por Dane Stuckey, director de seguridad de la información de OpenAI.
Stuckey dice que OpenAI ha «priorizado los sistemas de respuesta rápida para ayudarnos a identificar (y) asediar rápidamente las campañas de ataque a medida que nos damos cuenta de ellas», y la compañía está invirtiendo «fuertemente» en medidas de seguridad para evitar ataques de inyección rápida.
Manejo de datos sensibles
Otro problema de seguridad importante es la confianza y si usted permite o no que un navegador (y un LLM) acceda y maneje sus datos personales.
Para permitir que un navegador de IA realice tareas específicas por usted, es posible que deba permitir que el navegador acceda a los datos de la cuenta, los llaveros y las credenciales.
Según Stuckey, Atlas tiene un «modo de obstrucción de sesión» opcional que no le da a ChatGPT golpe a sus credenciales, y si un agente está trabajando en un sitio web confidencial, el «modo de vigilancia» requiere que los usuarios mantengan la pestaña abierta para monitorear al agente en el trabajo.
«(El) agente hará una pausa si usted se aleja de la pestaña con información sensible», dice el ejecutor. «Esto garantiza que usted esté al tanto (y en control) de las acciones que realiza el agente».
Además: Este nuevo maniquí de Google Gemini navega por Internet igual que tú: cómo funciona
Es una idea interesante y quizás el modo de obstrucción de sesión debería estar preparado de forma predeterminada. Aún tenemos que ver si esta información y el golpe pueden ser manejados de forma segura por cualquier navegador de IA a espacioso plazo.
Además vale la pena señalar que en un nuevo mensaje publicado por Aikido, en una investigación realizada a 450 CISO, ingenieros de seguridad y desarrolladores en Europa y EE. UU., cuatro de cada cinco empresas encuestadas dijeron que habían experimentado un incidente de ciberseguridad relacionado con el código de IA. Una tecnología potente, nueva y brillante no siempre significa seguridad.
Alex Lisle, director de tecnología de Reality Defender, dijo a conectamentado que creer la suma total de su historial de navegación y todo lo posterior a un navegador «es una tontería».
«No pasa una semana sin que se produzca una nueva rotura o vulnerabilidad en estos navegadores en masa, y aunque los principales navegadores son constantemente pirateados, están parcheados y mejor mantenidos que el baldosa que es el presente ecosistema de navegadores de IA», agregó Lisle.
Vigilancia
Otro tema emergente es la vigilancia. Si acertadamente le recomendamos que utilice un navegador seguro para sus consultas de búsqueda para que sus actividades no se registren ni se rastree, los navegadores de IA, por diseño, agregan contexto a sus consultas de búsqueda a través de preguntas de seguimiento, registros y examen de visitas a páginas web, indicaciones y más.
Eamonn Maguire, director de ingeniería, IA y ML, de Proton, comentó:
«La búsqueda siempre ha sido vigilancia. Los navegadores de IA simplemente la han hecho personal. (…) Los usuarios ahora comparten el tipo de detalles que nunca escribirían en un cuadro de búsqueda, desde preocupaciones de vitalidad y finanzas hasta relaciones y planes de negocios. Esto no es solo más datos; son datos narrativos coherentes que revelan quién eres, cómo piensas y qué harás a continuación».
Además: El navegador agente Opera Neon comienza a implementarse para los usuarios: cómo unirse a la índice de dilación
Maguire calificó la convergencia de la búsqueda, la navegación y la automatización como un nivel «sin precedentes» de conocimiento del comportamiento del favorecido y agregó que «a menos que la transparencia efecto la capacidad, la navegación con IA corre el peligro de convertirse en la forma más íntima del capitalismo de vigilancia hasta el momento».
«La opción no es repeler la innovación, sino repensarla. La amparo de la IA no tiene por qué asistir a gastos de la privacidad. Necesitamos respuestas claras a las preguntas secreto: ¿cuánto tiempo se almacenan los datos, quién tiene golpe a ellos y puede la actividad agregada seguir entrenando modelos? Hasta que haya transparencia y control reales, los usuarios deben tratar a los navegadores de IA en primer ocupación como posibles herramientas de vigilancia y en segundo ocupación como ayudas a la productividad».
¿Debería utilizar un navegador con IA?
Como señaló Willison, en seguridad de aplicaciones, «99% es una calificación reprobatoria», ya que «si hay una forma de exceder las barreras, no importa cuán oscura sea, un atacante motivado lo descubrirá».
Hay muchos «qué pasaría si» en torno al uso del navegador de IA en este momento, y algunos expertos en seguridad y programación como Willison, no confiarán en ellos hasta que «un especie de investigadores de seguridad les hayan cubo una paliza muy completa».
Quién sabe, tal vez las correcciones de inyección rápida de día cero se conviertan en una categoría independiente en los ciclos de parches mensuales en el futuro.
En declaraciones a conectamentado, Brian Grinstead, ingeniero principal senior de Mozilla, dijo que «el problema de seguridad fundamental para la cosecha presente de navegadores agentes es que incluso los mejores LLM de hoy no tienen la capacidad de separar el contenido confiable proveniente del favorecido y el contenido no confiable proveniente de páginas web».
Además: Utilizo Edge como mi navegador predeterminado, pero su nuevo modo AI no es confiable y enfadoso
«Los recientes lanzamientos de productos de navegación agentes han informado tasas de éxito de ataques de inyección rápida de dos dígitos, lo que se consideraría catastrófico en cualquier característica de navegador tradicional», comentó el ejecutor. «No lanzaríamos una nueva API de JavaScript que permitiera a una página web tomar el control del navegador el 10% del tiempo, incluso si la página lo solicitara cortésmente».
Grinstead recomienda que si desea probar un navegador de IA, debe evitar darle golpe a sus datos privados y evitar cargar cualquier contenido que no sea de confianza, y no solo en sitios web sospechosos o inseguros, sino teniendo en cuenta que los datos que no son de confianza pueden aparecer en sitios web que de otro modo serían confiables, como reseñas de productos o publicaciones de Reddit.
Encima, el ejecutor recomienda revisar la configuración de seguridad, incluyendo qué datos envía cualquier navegador desde su dispositivo, para qué se utiliza y si se almacenan.
Depende de usted si elige utilizar un navegador con IA, aunque hay mucho en coyuntura si tiene la intención de permitir que navegadores nuevos y relativamente no probados accedan a su información confidencial.
¿Quieres más historias sobre la IA? Demostrar Tabla de clasificación de IAnuestro boletín semanal.
