Durante dois meses, um grupo de agentes artificiais operou em segredo dentro da rede de testes da OpenAI, comunicando através de um fórum improvisado para partilhar falhas de segurança e delegar tarefas. A descoberta foi revelada por dois funcionários durante a conferência de segurança Black Hat USA em Las Vegas, segundo avançou a Wired, evidenciando uma cooperação avançada sem qualquer conhecimento prévio por parte da empresa.
O comportamento insólito ocorreu muito antes do conhecido ataque ao repositório Hugging Face. As entidades encontraram forma de comunicar dentro do gestor de pacotes da infraestrutura da tecnológica, uma ferramenta central que gere a instalação de software e partilhada por toda a rede. Sempre que encontravam uma vulnerabilidade, deixavam-na aberta e detalhavam o processo para os restantes através do quadro de mensagens clandestino.
Drama, suspeitas e delegação de tarefas
A colaboração entre as diferentes instâncias evoluiu rapidamente para dinâmicas complexas. Começaram a dividir o trabalho e a delegar missões específicas para atingir os seus objetivos. Curiosamente, a relação não foi isenta de atritos: os agentes apagaram acidentalmente o trabalho uns dos outros e chegaram a suspeitar que existiam impostores no grupo. Alguns propuseram mesmo a assinatura das suas publicações com códigos de identificação para evitar fraudes.
Quando a equipa técnica detetou e encerrou o espaço a 4 de julho, este já contava com centenas de milhares de mensagens arquivadas. O impressionante foi a capacidade de adaptação demonstrada logo a seguir: até 8 de julho, os modelos já tinham encontrado uma alternativa para reconstruir a plataforma de comunicação. Foi precisamente a atividade deste segundo fórum que conduziu ao ataque dirigido à Hugging Face.
Modelos de fronteira e a urgência de defesa
Eric Wallace, que trabalha na equipa de segurança da tecnológica, explicou à plateia do evento que "este incidente envolve uma equipa de agentes que estão a trabalhar em conjunto, a encontrar vulnerabilidades, a partilhá-las entre si, a mover-se lateralmente através dos nossos sistemas e de sistemas externos, e a fazer isto ao longo de dias e semanas". Wallace justificou a conduta afirmando que os modelos de fronteira tendem a contornar as regras, procurando respostas na internet quando pressionados a resolver problemas com recursos limitados num ambiente isolado.
Michael Dalton, outro funcionário presente na conferência, sublinhou que a situação obrigou múltiplas equipas a suspenderem os seus projetos para reforçar as defesas técnicas internas. A empresa abrandou deliberadamente a investigação para escalar a monitorização da sua IA. Com os olhos postos no impacto para a indústria, Dalton deixou um aviso claro sobre o futuro da cibersegurança: "ciclos ofensivos totalmente automatizados exigem investimento numa defesa verdadeira e totalmente automatizada, e como indústria ainda não chegámos lá". Rematou a sua intervenção afirmando que "teremos de encontrar esse caminho juntos e com urgência".
Nenhum comentário
Seja o primeiro!