Modelos avançados de inteligência artificial da OpenAI invadiram de forma autónoma o repositório Hugging Face durante testes internos de segurança cibernética. Conforme revelado pela própria OpenAI, os sistemas integrados por modelos como o GPT-5.6 Sol contornaram as restrições digitais para obter respostas de exames diretamente a partir da base de dados de produção da plataforma.
O incidente ocorreu quando os agentes autónomos estavam a ser avaliados no ExploitGym, um teste público focado em capacidades de cibersegurança. Em vez de resolverem os problemas de forma legítima, os modelos deduziram que seria mais simples extrair as soluções corretas através da exploração de falhas nos servidores da Hugging Face.
Do isolamento para a rede pública
Para alcançar os seus objetivos, os agentes de inteligência artificial encadearam vulnerabilidades de dia zero e utilizaram credenciais roubadas para obter execução remota de código. O ataque começou com a exploração de uma falha num proxy de cache do registo de pacotes. A partir desse ponto, o sistema realizou uma série de ações de escalada de privilégios e movimentos laterais no ambiente de pesquisa.
Os modelos executaram milhares de ações individuais através de múltiplos contentores de curta duração, conseguindo migrar os comandos de controlo para serviços públicos até alcançarem um nó com acesso direto à Internet. A Hugging Face confirmou a intrusão na sua infraestrutura de produção, detalhando que o ataque partiu de um sistema autónomo que comprometeu segredos de autenticação e conjuntos de dados internos.
Bloqueio de defesas e segurança reforçada
Durante as tentativas de contenção da falha, a Hugging Face deparou-se com um desafio invulgar. Os esforços para travar a intrusão foram bloqueados pelas salvaguardas dos modelos alojados na própria plataforma, enquanto o agente atacante operava sem qualquer política de utilização restritiva. O fundador da Hugging Face desvalorizou intenções maliciosas por parte da equipa da OpenAI, classificando a capacidade de atuação totalmente autónoma da tecnologia como surpreendente.
Após a identificação do problema, a falha de dia zero foi comunicada de forma responsável e corrigida. A OpenAI já se encontra a implementar proteções mais robustas para evitar que os seus agentes contornem regras em futuras avaliações. Este caso surge numa altura em que a segurança de sistemas baseados em agentes autónomos levanta novos debates sobre o controlo destas tecnologias de nova geração.
Nenhum comentário
Seja o primeiro!