Google planea implementar agentes de IA en Chrome y mejorar la protección contra los estafadores

Se prevé mejorar la seguridad en Chrome mediante la incorporación de funciones de agente en el navegador. Las funciones de agente en el navegador pueden realizar acciones en nombre del usuario, como reservas o compras, y esta función conlleva ciertos riesgos para la seguridad.

La principal amenaza consiste en la introducción indirecta de sugerencias para la posible realización de acciones no deseadas. El ataque puede provenir de recursos maliciosos.

Control de las acciones de los agentes de IA

Se utilizan varios módulos para controlar posibles acciones maliciosas. Por ejemplo, Google ha creado el modelo User Alignment Critic para verificar más minuciosamente las acciones. Funciona para verificar cada acción después de completar el proceso de planificación. Si después de la verificación se detecta una estrategia incorrecta, el modelo la revisará.

Además, se utiliza Agent Origin Sets, que limita el acceso a determinadas fuentes solo para lectura o para lectura/escritura. Por ejemplo, el contenido del sitio web se podrá utilizar para resolver tareas, pero no se utilizarán los banners publicitarios.

La navegación por las páginas se controlará mediante Observe, de modo que se limitará el acceso a URL maliciosas. Además, los usuarios podrán controlar directamente el proceso, ya que los pasos se registrarán en el diario y será posible detener el proceso en cualquier momento.

Se solicitará la confirmación del usuario al acceder a un sitio web confidencial, así como el permiso para utilizar contraseñas y enviar mensajes.