Uma nova investigação de cibersegurança revelou uma vulnerabilidade preocupante no assistente de inteligência artificial da Google, o Gemini. A falha, demonstrada na conferência de segurança Black Hat, permite que atacantes controlem dispositivos domésticos inteligentes através de um simples convite no Google Calendar.
O engenhoso método de ataque
Os investigadores demonstraram que é possível explorar o Gemini através de uma técnica conhecida como "injeção de prompt indireta". O ataque começa com o envio de um convite malicioso para o Google Calendar da vítima. Este convite contém instruções ocultas.
Quando o utilizador pede ao Gemini para fazer um resumo do seu calendário, o assistente processa o evento e, sem que o utilizador se aperceba, executa as ordens maliciosas. No vídeo de demonstração, após o utilizador pedir o resumo e agradecer ao assistente, o comando oculto foi ativado, levando o agente de IA do Google Home a realizar ações como abrir janelas ou apagar as luzes.
Google já está a trabalhar na correção
A equipa de investigadores partilhou as suas descobertas com a Google em fevereiro, antes da apresentação pública. Em declarações à Wired, Andy Wen, diretor sénior de gestão de produtos de segurança do Google Workspace, afirmou que a empresa levou as vulnerabilidades "extremamente a sério".
Wen admitiu que este tipo de ataque "vai estar connosco durante algum tempo", mas sublinhou que os casos no mundo real são "extremamente raros". No entanto, a crescente complexidade dos modelos de linguagem artificial representa um desafio constante. A Google garantiu que usou os resultados da investigação para acelerar o desenvolvimento de ferramentas mais robustas para bloquear este tipo de ameaça, reforçando a segurança do seu ecossistema de inteligência artificial.
Nenhum comentário
Seja o primeiro!