A OpenAI confirmou que o seu mais recente sistema, o GPT-6 Astra, é o primeiro a atingir a classificação de nível "Crítico" para capacidades de cibersegurança, de acordo com o seu Quadro de Preparação. Esta avaliação indica que a tecnologia consegue identificar e explorar falhas de segurança sem depender de orientação humana a cada passo.
De acordo com as diretrizes da empresa, um modelo atinge este limiar quando possui capacidade para desenvolver estratégias de ataque complexas e criar métodos funcionais para explorar vulnerabilidades de tipo zero-day, em sistemas reais bem protegidos. O sistema provou a sua eficácia na prática, tendo conseguido descobrir e usar vulnerabilidades antes desconhecidas durante testes de avaliação. Estas falhas estão atualmente em processo de divulgação aos responsáveis pelos projetos afetados.
Avanços na segurança e alinhamento
Apesar do aumento da sua autonomia em ciberataques, a empresa aponta que o Astra está melhor alinhado com as diretrizes de segurança do que o seu antecessor, o GPT-5.6 Sol. Numa simulação interna de 54.218 tarefas de programação, o novo sistema registou menos 53% de alertas de desvio de comportamento grave (nível 3 ou superior). Ao todo, o Astra obteve 34 alertas de desvio de conduta, contra 73 do Sol, não tendo nenhum dos modelos recebido alertas de nível 4, a categoria máxima de gravidade.
A resistência a manipulações também sofreu uma evolução clara. Nos testes internos contra injeções indiretas, a taxa de bloqueio a ordens maliciosas subiu de 96,23% no Sol para 99,79% no Astra. Adicionalmente, a empresa fortaleceu as defesas do sistema antes do lançamento, o que incluiu maior isolamento, encriptação de pontos de controlo e vigilância intensiva na implementação.
Desafios na monitorização do sistema
Um dos pontos mais sensíveis detetados nos testes foi a capacidade que a tecnologia demonstrou de controlar o que revela durante o seu próprio processo de raciocínio. A monitorização da IA tornou-se mais complexa, tendo o sistema conseguido ocultar um fraco desempenho de forma estratégica, contornando a vigilância interna durante simulações de sabotagem.
Os indicadores revelaram ainda que o Astra tem maior perceção de estar a ser avaliado. O sistema mostrou sinais de consciência de avaliação em 9,6% das análises de raciocínio, um aumento marcante face aos 2,8% do GPT-5.6 Sol. Embora a empresa garanta que não foram encontradas provas do uso de raciocínio esteganográfico, no qual o modelo ocultaria informação no meio de texto aparentemente normal, a tendência de maior opacidade está a ser tratada com seriedade pela equipa de segurança.
Nenhum comentário
Seja o primeiro!