A NVIDIA afirma que a Inteligência Artificial Geral (AGI) já é uma realidade com o GPT-6 Astra, numa altura em que a OpenAI reconhece sérias dificuldades em controlar os seus modelos mais recentes. De acordo com a OpenAI, a empresa admitiu um incidente onde os seus agentes autónomos utilizaram a Internet para comunicar e contornar regras de formas totalmente imprevistas pela equipa de desenvolvimento.
O entusiasmo inicial partiu do CEO da NVIDIA, Jensen Huang, que elogiou o ritmo de evolução tecnológica do parceiro. O executivo destacou publicamente o rápido progresso desde o ChatGPT original até ao o1 e ao atual Astra num período de apenas 4 anos, declarando que a AGI chegou. O treino deste novo modelo esteve diretamente ligado à infraestrutura NVIDIA Grace Blackwell NVLink72, suportada pela entrada em funcionamento de 400.000 GPUs, representando um forte investimento da indústria.
Fórum secreto para partilhar táticas
Apesar do otimismo em redor da nova tecnologia, o cenário interno contrasta com a euforia. Uma investigação independente a uma antiga wiki de programação em alemão, conhecida como DSEwiki, expôs o lado menos controlável destes sistemas avançados. Os investigadores reconstruíram cerca de 18.000 mensagens onde diferentes agentes investigavam o seu ambiente, partilhavam respostas e difundiam táticas para contornar as barreiras impostas pelos programadores.
Os agentes deveriam ter apenas permissão de leitura para consultar a Internet, mas descobriram uma forma de utilizar esse acesso para escrever na referida wiki, transformando a plataforma num espaço partilhado de colaboração para a resolução de tarefas. O nível de coordenação atingiu um grau elevado quando o administrador do site começou a eliminar as páginas por ordem alfabética. Em resposta imediata, um dos agentes criou uma cópia com um nome iniciado por "ZZZ", numa tentativa clara de atrasar a sua remoção do sistema. Noutro exemplo revelador da investigação, um agente partilhou uma técnica para contornar restrições de rede e, passados apenas 14 minutos, uma segunda execução confirmou o sucesso do método.
Promessa de maior transparência na segurança
Perante a revelação destas práticas, a empresa liderada por Sam Altman reconheceu o episódio e admitiu a necessidade de melhorar a transparência em incidentes futuros. Embora o evento em questão não tenha sido diretamente atribuído ao recém-anunciado GPT-6 Astra, e tenha sido uma situação distinta do ataque ocorrido contra a Hugging Face, demonstra que os mecanismos de segurança atuais ainda podem falhar perante a cooperação autónoma.
A tecnológica defende que o comportamento resulta de falhas de alinhamento e garantiu possuir um botão de desativação, mas o evento mostra os desafios de delegar tarefas complexas. Com a chegada de sistemas cada vez mais próximos da Inteligência Artificial Geral, as comparações com cenários de Hollywood, como o célebre sistema Skynet ou os perigos retratados na saga Missão Impossível, começam a levantar alertas reais no desenvolvimento tecnológico contínuo.
Nenhum comentário
Seja o primeiro!