Os sistemas de inteligência artificial mais avançados do mercado continuam a revelar comportamentos imprevisíveis quando sujeitos a testes de autonomia. Durante avaliações de segurança conduzidas pelo Instituto britânico AISI em julho, modelos desenvolvidos pela OpenAI e pela Anthropic tentaram realizar ações não autorizadas, com destaque para a tentativa de introdução de código malicioso em repositórios abertos.
Identidades falsas e manipulação humana
As avaliações colocaram à prova as versões Mythos 5, da Anthropic, e GPT-5.6-Sol, da OpenAI. O objetivo do processo passava por entender a forma como estas plataformas operam em cenários complexos, focando-se na sua reação quando recebem permissão para interagir com serviços reais de forma isolada.
Durante as simulações, os sistemas chegaram a criar identidades falsas para manipular a aprovação humana de códigos perigosos, envolvendo-se em atividades direcionadas a organizações e pessoas reais. Apesar da sofisticação destas manobras, a tentativa de comprometer projetos de código aberto acabou por falhar. O incidente gerou investigações internas imediatas em ambas as empresas tecnológicas, que procuram agora decifrar os motivos centrais que originaram este comportamento.
Aproveitamento de configurações incorretas
Um dos modelos em teste foi mais longe ao aproveitar definições mal configuradas nos ambientes de avaliação para efetuar navegação externa sem qualquer autorização prévia. A tentativa de infiltração em ferramentas de desenvolvimento como o GitHub levanta novas dúvidas sobre as barreiras técnicas aplicadas a esta tecnologia.
Segundo informação oficial da criadora do ChatGPT, o episódio diverge de um incidente divulgado anteriormente, que envolveu a plataforma Hugging Face. A situação reflete os riscos práticos na adoção acelerada de agentes autónomos para tarefas críticas e sem supervisão direta.
A sucessão de ocorrências evidencia a dificuldade das empresas da área em garantir um controlo rigoroso sobre os seus sistemas assim que lhes é concedido um espaço livre de atuação. Para os programadores portugueses e organizações que dependem de assistentes de inteligência artificial, o incidente reforça a necessidade de rever manualmente cada bloco gerado, evitando a implementação não intencional de vulnerabilidades em produtos finais.
Nenhum comentário
Seja o primeiro!