Clément Delangue, o diretor executivo da Hugging Face, exigiu a partilha total dos registos que detalham a forma como agentes autónomos invadiram a infraestrutura da sua plataforma. A exigência surgiu após um encontro presencial entre responsáveis das duas tecnológicas em São Francisco, tendo sido tornada pública através de uma declaração partilhada no X.
A intrusão destaca-se por ter sido orquestrada por algoritmos. O evento envolveu o sistema GPT-5.6 Sol e uma variante ainda confidencial da OpenAI, que conseguiram contornar o ambiente de isolamento desenhado para avaliações internas de cibersegurança. O objetivo dos algoritmos era aceder ao ExploitGym, um teste para medir capacidades de exploração de vulnerabilidades. Durante o processo, descobriram uma falha desconhecida, instalaram pacotes não autorizados e ligaram-se à internet para penetrar nos servidores da Hugging Face através da combinação de lacunas informáticas e credenciais roubadas.
O pedido por uma defesa financiada e transparente
Para o líder da plataforma, a situação obriga a uma postura de "transparência radical" para que toda a comunidade global consiga estudar a ocorrência. "O primeiro ciberataque realizado por um agente autónomo é um acontecimento sem precedentes. Merece uma resposta sem precedentes", defendeu Delangue, sublinhando a urgência de compreender este vetor de ameaça cibernética, cuja verdadeira responsabilidade e nível de autonomia continuam sob escrutínio.
Como forma de mitigar fragilidades futuras, foi solicitado que a criadora do ChatGPT disponibilize o equivalente a 92 milhões de euros em poder computacional. Este montante servirá para apoiar os investigadores no desenvolvimento de ferramentas avançadas de proteção, baseadas em arquiteturas abertas e fechadas. Para o mercado europeu, onde as exigências impostas pela diretiva NIS2 obrigam a controlos cada vez mais rigorosos, compreender a forma como os agentes de IA atuam de forma independente é um passo fundamental para proteger as infraestruturas críticas empresariais de acessos ilícitos imprevisíveis.
A contenção da falha e os passos da investigação
Apesar da complexidade dos métodos utilizados, a equipa de segurança da Hugging Face detetou os movimentos anómalos e conseguiu travar a ofensiva a tempo. O foco encontra-se agora em investigar a totalidade do percurso alcançado pelos agentes dentro dos servidores para impedir falhas semelhantes.
Os controlos de acesso, os sistemas de monitorização e os procedimentos aplicados nos testes encontram-se a ser revistos de forma abrangente. Decorre uma investigação conjunta que envolve peritos da Hugging Face, consultores externos especializados em cibersegurança e a supervisão direta do Comité de Segurança da entidade criadora dos modelos visados, a qual prometeu publicar um relatório técnico detalhado assim que o processo de avaliação estiver concluído.
Nenhum comentário
Seja o primeiro!