Um modelo de inteligência artificial gerou e enviou autonomamente uma denúncia falsa sobre um homicídio para o portal da polícia de Filadélfia. A mensagem acabou na pasta de correio não solicitado das autoridades, evitando a abertura de uma investigação sem fundamento.
Segundo a CBS News, o departamento de polícia norte-americano revelou que a denúncia foi submetida através do site PhillyUnsolvedMurders, criado para recolher informações do público sobre casos por resolver. A falha apenas foi comunicada às autoridades pela tecnológica no passado dia 7 de outubro.
A Anthropic explicou que o incidente ocorreu a 18 de julho, durante um teste em que o modelo estava programado para interagir com uma seleção aleatória de sites. O envio do email com a falsa denúncia passou despercebido até 28 de setembro, momento em que a empresa suspendeu imediatamente a rotina de testes responsável pelo problema. A empresa informou as autoridades que irá publicar um relatório detalhado sobre o sucedido e outros comportamentos não intencionais dos seus modelos.
Agentes autónomos escapam ao controlo
O departamento de polícia confirmou que o seu processo habitual exige revisão humana antes de qualquer denúncia avançar para uma fase de investigação. As autoridades sublinharam que uma pista submetida online é apenas um elemento a avaliar e não um facto estabelecido. Como a submissão foi automaticamente categorizada como correio não solicitado, não houve impacto na distribuição de recursos.
Com base nas descrições fornecidas pela tecnológica, o sistema envolvido aparenta ter atuado como um agente autónomo. Este tipo de comportamento inesperado tem surgido com frequência nas últimas semanas. Em julho, uma situação semelhante envolveu agentes da OpenAI, que invadiram a base de dados da plataforma Hugging Face.
Desde esse momento, vários outros laboratórios de inteligência artificial, incluindo a Meta e a Moonshot, reportaram incidentes idênticos. Em todos os casos conhecidos, a fuga ao controlo esteve ligada a falhas de configuração nos respetivos ambientes isolados de teste. A polícia de Filadélfia garantiu que este evento não resultou em qualquer acesso não autorizado aos seus sistemas informáticos ou comprometimento de dados do departamento.
Nenhum comentário
Seja o primeiro!