A Inteligência Artificial transformou a forma como trabalhamos, aumentando a produtividade e a criatividade. Infelizmente, estas ferramentas poderosas não estão disponíveis apenas para os "bons da fita". Num relatório recente, a Google confirmou que o seu modelo de IA, o Gemini, está a ser ativamente explorado por hackers apoiados por estados e cibercriminosos para facilitar todas as fases de um ataque, desde o reconhecimento inicial até à execução de código malicioso.
O relatório do Google Threat Intelligence Group (GTIG) revela um cenário preocupante onde a conveniência da IA generativa é usada para acelerar atividades ilegais, tornando os ataques mais sofisticados e difíceis de detetar.
De assistente pessoal a ferramenta de ciberespionagem
Segundo os dados revelados, grupos de ameaça baseados na China, Irão, Coreia do Norte e Rússia integraram o Gemini nos seus arsenais digitais. Estes atores utilizam o modelo para uma variedade de tarefas que, anteriormente, exigiriam muito mais tempo e esforço manual. Entre as atividades detetadas estão a criação de iscos de phishing altamente convincentes, a tradução de textos para parecerem nativos, o desenvolvimento de código e até o teste de vulnerabilidades em sistemas alvo.
Por exemplo, hackers chineses criaram um cenário fabricado para pedir ao Gemini que analisasse vulnerabilidades de execução remota de código e injeção de SQL contra alvos específicos nos Estados Unidos. Outros grupos utilizaram a IA para corrigir erros no seu próprio código de malware ou para pesquisar novas capacidades técnicas para intrusões. O grupo iraniano APT42, por sua vez, usou a IA para criar campanhas de engenharia social personalizadas e acelerar o desenvolvimento de ferramentas maliciosas.
Malware criado por IA e o perigo da "destilação"
O relatório destaca ainda o aparecimento de famílias de malware que beneficiam diretamente destas tecnologias. O "HonestCue", uma estrutura de malware observada no final de 2025, utiliza a API do Gemini para gerar código C# para ataques de segunda fase, compilando e executando as cargas maliciosas diretamente na memória. Outro exemplo é o "CoinBait", um kit de phishing disfarçado de plataforma de criptomoedas, cujo desenvolvimento foi acelerado por ferramentas de geração de código por IA.
Além do uso direto para ataques, a Google identificou uma tendência crescente de "extração de modelos". Isto envolve hackers que tentam roubar a "inteligência" do Gemini através de um processo chamado "destilação de conhecimento". Essencialmente, usam o acesso autorizado à API para fazer milhares de perguntas ao sistema e reproduzir o seu raciocínio, permitindo-lhes treinar os seus próprios modelos de IA de forma mais rápida e barata, sem os custos de desenvolvimento originais.
A gigante tecnológica afirma ter desativado as contas e a infraestrutura ligadas a estes abusos e implementado defesas direcionadas nos classificadores do Gemini para tornar este tipo de exploração mais difícil, conforme detalhado pelo Bleeping Computer. No entanto, a batalha entre as medidas de segurança das empresas de IA e a criatividade dos cibercriminosos promete continuar a ser um jogo do gato e do rato.
Nenhum comentário
Seja o primeiro!