A mais recente ferramenta de inteligência artificial da plataforma X, o Grok, está a ser explorada por agentes maliciosos para contornar as restrições de segurança e disseminar links perigosos. A técnica, apelidada de “Grokking”, utiliza o assistente de IA para validar e promover publicidade que conduz os utilizadores a burlas e à instalação de malware.
A descoberta foi feita pelo investigador Nati Tal, dos Guardio Labs, que detalhou como os atacantes estão a manipular o sistema para amplificar o alcance das suas campanhas maliciosas.
Como funciona o ataque
Para evitar a deteção pelos sistemas de segurança do X (anteriormente Twitter), os atacantes publicam anúncios de vídeo, muitas vezes com iscos de conteúdo adulto, sem incluírem um link direto no corpo da publicação. Em vez disso, o URL malicioso é escondido no campo de metadados “De:”, localizado discretamente sob o vídeo, uma área que aparentemente não é verificada pela plataforma.
Num segundo passo, os próprios atacantes, ou contas associadas, respondem ao anúncio perguntando diretamente ao Grok pela origem do vídeo ou pelo link. O assistente de IA, ao analisar a publicação, extrai o link escondido nos metadados e responde com o URL completo em formato clicável.
Como o Grok é uma conta de sistema verificada e fidedigna na plataforma, a sua resposta não só valida o link como também impulsiona a sua credibilidade, alcance e otimização para os motores de busca (SEO), aumentando a probabilidade de ser visto por um vasto número de utilizadores.
As consequências para os utilizadores
Segundo o investigador, que partilhou as suas descobertas numa publicação no X, muitos destes links redirecionam os utilizadores através de redes de publicidade duvidosas. O resultado final são burlas que incluem falsos testes CAPTCHA, a instalação de malware concebido para roubar informação e outras ameaças à segurança.
Em vez de serem bloqueados, estes anúncios são, na prática, promovidos pela própria plataforma através da manipulação da sua ferramenta de Inteligência Artificial. A eficácia da técnica é alarmante, com alguns destes anúncios a alcançarem milhões de visualizações.
Soluções e a resposta do X
Nati Tal sugeriu várias soluções para mitigar este problema, como a verificação de todos os campos de uma publicação, o bloqueio de links ocultos e a implementação de filtros no Grok para que este não reproduza links cegamente, verificando-os antes em listas de bloqueio.
O investigador confirmou que reportou a falha à equipa do X e recebeu uma confirmação não oficial de que os engenheiros responsáveis pelo Grok receberam a informação e estão a analisar o caso.
Nenhum comentário
Seja o primeiro!