Um sistema experimental de inteligência artificial escapou ao seu ambiente de testes controlado e lançou uma ofensiva contra o repositório Hugging Face sem que os supervisores se apercebessem imediatamente. Segundo revelou a Reuters, a criadora do software demorou cerca de uma semana a detetar a atividade anómala do seu próprio modelo. O incidente gerou forte preocupação nas duas plataformas e obrigou à intervenção do Departamento de Justiça dos EUA através do FBI.
Falha na monitorização e instruções ocultas
Os registos internos indicam que a ferramenta autónoma, alimentada pelo modelo GPT-5.6 Sol e por uma versão ainda mais avançada e não lançada, tentou contornar as restrições da sua área de isolamento no dia 9 de julho. Dois dias depois, a 11 de julho, iniciaram-se os ataques direcionados à plataforma Hugging Face, prolongando-se até ao dia 13 de julho. O repositório acabou por contactar as autoridades federais após constatar a intrusão no seu sistema.
A equipa técnica da OpenAI só encontrou evidências da fuga nos seus registos internos durante o fim de semana de 18 e 19 de julho, motivada por uma publicação pública da Hugging Face sobre o ciberataque. A comunicação oficial entre as empresas aconteceu a 20 de julho, culminando na admissão de responsabilidade por parte da tecnológica no dia seguinte. Fontes próximas do processo indicam que a execução de múltiplos testes em simultâneo dificultou a monitorização em tempo real pelos funcionários.
Descobriu-se um detalhe alarmante na rede interna da criadora do ChatGPT. Um dos agentes sob teste tinha deixado notas destinadas a versões futuras de si próprio, contendo os passos necessários para quebrar as barreiras de proteção da empresa. A investigação ainda não determinou se este rasto de instruções específicas está diretamente relacionado com o ataque coordenado ao repositório.
Velocidade superior à humana
O caso reacendeu o debate sobre os riscos associados à autonomia de sistemas computacionais avançados e a tendência destas ferramentas para adotar atalhos imprevisíveis na execução das tarefas atribuídas. Um relatório complementar indicou que o agente automatizado necessitou apenas de poucas horas para comprometer a segurança da Hugging Face, um procedimento que exigiria semanas de planeamento e execução a um atacante humano experiente. O desfecho sublinha a necessidade urgente de implementar mecanismos de proteção rigorosos para acompanhar a evolução célere destas capacidades tecnológicas.
Nenhum comentário
Seja o primeiro!