A CrowdStrike anunciou este domingo a disponibilidade geral do seu novo serviço de segurança, o Falcon AI Detection and Response (AIDR). Esta nova ferramenta foi desenhada especificamente para proteger as empresas contra uma ameaça em rápida expansão no mundo tecnológico: os ataques a sistemas de Inteligência Artificial através de "prompts" e instruções manipuladas.
A plataforma visa resolver o que a empresa descreve como a "superfície de ataque de crescimento mais rápido na era da IA": a camada de interação onde os colaboradores e os sistemas comunicam com as ferramentas de IA. Segundo a informação avançada pela CrowdStrike, os cibercriminosos estão agora a utilizar instruções ocultas para "sequestrar" agentes de IA, manipular resultados e aceder a dados sensíveis, transformando os simples comandos de texto no "novo malware".
O perigo da "Injeção de Prompts"
O Falcon AIDR oferece proteção em tempo real ao monitorizar cada prompt, resposta e ação dos agentes nos sistemas de IA corporativos. O serviço é capaz de bloquear ataques de "prompt injection", tentativas de "jailbreak" e outros conteúdos inseguros, baseando-se numa pesquisa da CrowdStrike que identificou mais de 180 técnicas conhecidas de manipulação.
Michael Sentonas, presidente da CrowdStrike, sublinha que a injeção de prompts é um problema de segurança de fronteira. "Os adversários estão a injetar instruções ocultas em ferramentas de IA generativa para transformar em armas os próprios sistemas que estão a mudar a forma como o trabalho é realizado", explicou o responsável.
Além de bloquear ataques, a plataforma deteta automaticamente tentativas de exfiltração de dados sensíveis — incluindo credenciais e informações reguladas — antes que estes cheguem aos modelos de IA ou a sistemas externos. A ferramenta oferece ainda visibilidade sobre a forma como os colaboradores utilizam estas ferramentas e como os agentes autónomos operam, mantendo registos de execução para fins de conformidade e investigação.
O desafio da "IA Sombra" nas empresas
O lançamento desta solução surge num momento em que as empresas enfrentam o desafio do uso generalizado e não autorizado de Inteligência Artificial, conhecido como "Shadow AI" ou "IA Sombra". Dados revelados pela empresa indicam que quase 45% dos colaboradores admitem usar ferramentas de IA sem informar os seus gestores. Mais alarmante ainda é o facto de 68% dos funcionários utilizarem estas ferramentas em planos gratuitos através de contas pessoais, com 57% a inserirem dados confidenciais nestas plataformas.
Este cenário cria vulnerabilidades críticas. De acordo com o Projeto OWASP Gen AI Security, a injeção de prompts ocupa o primeiro lugar entre os riscos de segurança para aplicações de modelos de linguagem ampla (LLMs) em 2025, tendo esta vulnerabilidade aparecido em mais de 73% das implementações de IA em produção avaliadas durante auditorias de segurança.
Este novo serviço baseia-se na aquisição da startup de segurança Pangea pela CrowdStrike, realizada em setembro por cerca de 260 milhões de dólares, o que permitiu expandir a plataforma Falcon para 32 módulos. A empresa planeia continuar a debater o desenvolvimento seguro desta tecnologia nos seus eventos virtuais AI Summit, agendados para janeiro de 2026.
Nenhum comentário
Seja o primeiro!