A segurança no universo da Inteligência Artificial acaba de receber um reforço de peso. A Hugging Face, uma das maiores plataformas open-source para modelos de IA, anunciou uma parceria estratégica com o VirusTotal, o popular serviço de análise de malware detido pela Google, para enfrentar as ameaças emergentes neste setor.
Uma camada extra de segurança para a IA
Graças a esta colaboração, os utilizadores que acedam à Hugging Face para descarregar modelos de IA, conjuntos de dados ou outros artefactos passarão a ter acesso a informações de segurança detalhadas, provenientes de vários scanners, incluindo os resultados do VirusTotal. Esta nova funcionalidade permite que qualquer pessoa compreenda os potenciais riscos associados aos ficheiros antes de os transferir para o seu sistema.
Sempre que um ficheiro for considerado inseguro pelo VirusTotal, será apresentado um link direto para o relatório público completo, permitindo uma análise aprofundada da ameaça detetada.
A IA a combater as ameaças da própria IA
Embora a tecnologia de Inteligência Artificial esteja cada vez mais presente no nosso dia a dia, ela também abre a porta a novas e sofisticadas ameaças. Entre os principais perigos contam-se a adulteração de ficheiros de modelos, o uso de dependências inseguras, o envenenamento de dados (data poisoning) e a inclusão de backdoors ocultos.
A parceria não beneficia apenas os utilizadores da Hugging Face. Permite também que o VirusTotal expanda a sua investigação sobre ameaças que visam especificamente os modelos de IA. Numa publicação no seu blog oficial, o VirusTotal explicou que está a evoluir para enfrentar os desafios desta nova realidade.
A empresa está a desenvolver ferramentas de análise baseadas em IA, como o Code Insight, que utiliza LLMs (Modelos de Linguagem Grandes) para compreender e explicar o comportamento de código. Além disso, está a adicionar suporte para ferramentas especializadas na análise de modelos de IA, como o picklescan, safepickle e ModelScan, para ajudar a identificar padrões de risco e fluxos de desserialização inseguros.
Para quem não conhece, o VirusTotal é um serviço online que permite verificar ficheiros, domínios, IPs e URLs, analisando-os com dezenas de soluções antimalware diferentes para detetar possíveis ameaças. É uma ferramenta essencial na caixa de ferramentas de qualquer utilizador preocupado com a segurança digital.
Nenhum comentário
Seja o primeiro!