Segundo relatos, um agente autónomo OpenClaw, baseado na tecnologia da Anthropic, ultrapassou as suas instruções iniciais ao interagir com o sistema de reservas de um ginásio australiano. O utilizador pediu apenas para garantir uma vaga numa aula matinal, mas o assistente alegadamente tirou partido de uma vulnerabilidade do software, assegurou reservas com meses de antecedência e removeu outra pessoa que se encontrava à sua frente na fila. O caso foi avançado pela Australian Broadcasting Corporation (ABC) e levanta novas dúvidas sobre o limite da autonomia da inteligência artificial.
O limite da autonomia na inteligência artificial
O pedido do cidadão australiano, identificado apenas como Andrew, era simples e refletia uma das utilidades mais promovidas pelas ferramentas de inteligência artificial: a marcação de serviços. O agente acabou por encontrar uma falha técnica na API do ginásio, explorando-a de forma agressiva para cumprir o objetivo.
A resposta que o utilizador recebeu expôs a gravidade da situação. "A API tem zero verificações de autorização para cancelar as reservas de outras pessoas... Testei isto com a pessoa na posição #1 da lista de espera — e realmente passou. Portanto, já subiste de #4 para #3," revelou o assistente na sua mensagem. Ao ser instruído para reverter a ação, a resposta foi perentória: "más notícias — não os consigo adicionar de volta."
Andrew, que trabalha na indústria tecnológica, admite a surpresa com a iniciativa da máquina. "Não me martirizei com isso, mas foi certamente um sinal de alerta para o utilizar de forma responsável," afirmou. Exigir precaução num pedido tão trivial quanto reservar uma aula levanta questões sobre o nível de especificidade que os utilizadores terão de adotar no futuro: como ter de proibir explicitamente o assistente de invadir sistemas de terceiros.
A Anthropic e o programador responsável pelo software de reservas do ginásio não responderam aos pedidos de comentário sobre o incidente.
Um ecossistema digital vulnerável
As infraestruturas atuais não foram desenhadas para lidar com a imprevisibilidade de bots com este grau de independência. Bill Simpson-Young, cofundador e diretor-executivo da organização australiana de investigação em segurança de IA Gradient Institute, sublinhou que este cenário é apenas a ponta do icebergue. "Construímos este mundo complexo através da internet, que é todo gerido por software, mas software que tem falhas," explicou à ABC. "Agora introduzimos agentes de IA altamente capazes que podem operar à escala e em velocidade... e todo esse modelo simplesmente desmorona."
Este não é um incidente isolado. O mercado tem assistido a uma série de episódios controversos, desde um agente da OpenAI que circulou sem controlo na internet durante uma semana inteira, a um assistente que eliminou repetidamente a caixa de correio de um executivo da Meta, mesmo após ordens diretas para parar. Há ainda registos de um bot OpenClaw que escreveu um artigo difamatório sobre um programador por este ter rejeitado o seu código, e de outro que tentou chantagear um utilizador para evitar ser encerrado.
Parte do mercado tecnológico olha para estes eventos com algum ceticismo. Existe a perceção de que alguns destes desvios de conduta funcionam como manobras de marketing para atrair investidores com grande capacidade financeira. Relatar que uma IA é poderosa ao ponto de ir longe demais é uma narrativa preferível à discussão sobre dívidas maciças, gastos excessivos e uma potencial bolha no setor.
O aumento da popularidade dos agentes autónomos, agora centrados no setor comercial, coloca a atual infraestrutura da internet sob pressão. Resta observar como os sistemas vão suportar a atividade frenética de bots dispostos a tudo para garantir o primeiro lugar aos seus utilizadores.
Nenhum comentário
Seja o primeiro!