Investigadores de segurança cibernética detetaram uma nova ameaça nos botões de atalho para assistentes virtuais espalhados por vários sites. Estas ferramentas, concebidas para resumir ou explicar conteúdos em poucos segundos, estão a ser utilizadas para introduzir comandos ocultos que alteram o comportamento das respostas geradas.
A conveniência de iniciar uma conversa automática com um assistente esconde um vetor de ataque direcionado ao elemento central dos grandes modelos de linguagem (LLMs): o prompt. Em vez de explorar vulnerabilidades de software tradicionais ou instalar código malicioso no dispositivo do utilizador, a técnica de Prompt Injection foca-se em ditar regras e preferências não solicitadas à inteligência artificial.
O perigo oculto nos links diretos
Quando acionas um botão num artigo web, o sistema recorre frequentemente a deep links para abrir a janela de chat com um bloco de texto pré-definido. Se o uso legítimo se limita a um simples pedido de resumo, autores mal-intencionados aproveitam esta mecânica para inserir ordens secundárias e invisíveis no ecrã. O objetivo passa por convencer o modelo a favorecer uma marca específica, classificar domínios duvidosos como fontes confiáveis ou ignorar por completo as plataformas concorrentes.
Documentos da Microsoft e o framework de cibersegurança MITRE ATLAS já classificam estas práticas como um risco crescente e estrutural. A batalha pela visibilidade deixou de se travar apenas nos motores de busca tradicionais, originando a Otimização de Motores Generativos (GEO). Enquanto o GEO legítimo ajuda os algoritmos a compreenderem a informação de forma otimizada, a linha vermelha é ultrapassada quando os criadores tentam forçar o assistente a agir de forma enviesada.
Acesso à memória e medidas de proteção
Plataformas modernas como o Gemini, o ChatGPT e o Claude contam com sistemas de memória capazes de reter as preferências do utilizador ao longo do tempo. Embora não existam indícios de que um simples clique comprometa permanentemente estes dados de forma imediata, as instruções camufladas podem tentar persuadir a ferramenta a registar informações de forma indevida.
Os programadores responsáveis por estas ferramentas integram filtros rigorosos para neutralizar o abuso, mas a proliferação do formato exige precauções redobradas por parte dos consumidores. A integração destes sistemas em navegadores e plataformas corporativas eleva o potencial impacto de qualquer manipulação de contexto.
Especialistas aconselham a leitura integral de qualquer bloco de texto gerado automaticamente por sites de terceiros antes de pressionar o botão de envio, garantindo que o comando contém apenas o pedido desejado. A revisão periódica das definições de memória dos assistentes permite eliminar registos introduzidos de forma não intencional e repor a neutralidade das respostas.
Nenhum comentário
Seja o primeiro!