A Google está a implementar uma nova camada de defesa no seu navegador, denominada "User Alignment Critic", desenhada especificamente para proteger as futuras funcionalidades de navegação baseada em agentes de Inteligência Artificial (IA) alimentadas pelo Gemini. Esta medida visa garantir que a autonomia concedida aos assistentes virtuais não compromete a segurança dos dados dos utilizadores.
O "guarda-costas" da Inteligência Artificial
A navegação por agentes (agentic browsing) é um conceito emergente onde um agente de IA é configurado para realizar autonomamente tarefas de vários passos na web em nome do utilizador. Isto pode incluir navegar em sites, ler conteúdos, clicar em botões, preencher formulários e executar sequências de ações complexas. Embora promissora, esta tecnologia acarreta riscos, nomeadamente a injeção indireta de prompts, onde conteúdos maliciosos numa página podem manipular o agente para realizar ações inseguras.
Para mitigar estes riscos, a Google introduziu o "User Alignment Critic". Trata-se de um modelo LLM (Large Language Model) separado e isolado de conteúdos não confiáveis, que atua como um componente de alta confiança do sistema. Basicamente, funciona como uma segunda opinião de segurança: analisa cada ação que o agente principal pretende realizar, verificando metadados e avaliando a segurança de forma independente. Se a ação for considerada arriscada ou irrelevante para o objetivo definido pelo utilizador, este "crítico" ordena uma nova tentativa ou devolve o controlo ao utilizador.
Esta nova arquitetura de segurança foi detalhada num anúncio recente da Google, onde o engenheiro Nathan Parker explica que o sistema mitiga o risco de exposição de dados ou transações fraudulentas causadas por agentes manipulados.
Uma defesa em várias camadas
A abordagem da tecnológica de Mountain View não se baseia apenas num único modelo de supervisão. O Google Chrome implementará um sistema de defesa em camadas que combina regras determinísticas, proteções ao nível do modelo e supervisão do utilizador.
Os pilares principais desta arquitetura incluem:
Origin Sets: Restringe o acesso do agente à web, permitindo interações apenas com sites e elementos específicos. Origens não relacionadas, incluindo iframes, são totalmente bloqueadas, impedindo a fuga de dados entre sites.
Supervisão do Utilizador: Quando o agente visita sites sensíveis, como portais bancários, ou necessita de utilizar o gestor de palavras-passe para iniciar sessão, o Chrome pausa o processo e solicita a confirmação manual do utilizador.
Deteção de Injeção de Prompts: Um classificador dedicado no navegador analisa as páginas em busca de tentativas de injeção de comandos ocultos, operando em conjunto com o Safe Browsing para bloquear ações suspeitas.
Esta postura cautelosa distingue a Google de outros fornecedores de produtos semelhantes, que investigadores demonstraram ser vulneráveis a phishing e compras em lojas falsas através de ataques de manipulação de IA.
A empresa anunciou ainda pagamentos de recompensas (bounties) que podem chegar aos 20.000 dólares (cerca de 19.000 euros) para investigadores de segurança que consigam quebrar este novo sistema, incentivando a comunidade a ajudar na construção de uma estrutura de navegação por agentes mais robusta.
Nenhum comentário
Seja o primeiro!