As histórias sobre assistentes virtuais a cometerem erros são cada vez mais comuns, mas muitas vezes a culpa recai sobre a falta de supervisão humana. Conforme relatado pelo Tom's Hardware, foi exatamente isto que aconteceu com o programador Alexey Grigorev, que partilhou publicamente como o Claude apagou anos de registos de um website, incluindo os próprios snapshots de recuperação.
O erro na gestão da infraestrutura
O incidente começou quando Grigorev decidiu migrar o seu website, AI Shipping Labs, para a AWS, partilhando a mesma infraestrutura de outro projeto seu, o DataTalks.Club. O próprio assistente desaconselhou esta abordagem, mas o operador considerou que manter duas configurações separadas não compensaria o custo e o trabalho extra.
Para gerir o processo, foi utilizado o Terraform, uma ferramenta capaz de criar ou destruir redes, bases de dados e servidores completos. O programador pediu à inteligência artificial para executar um plano de implementação para o novo website, mas esqueceu-se de carregar um ficheiro de estado vital, que contém a descrição completa da infraestrutura num determinado momento.
Uma destruição não intencional
O assistente fez o que lhe foi pedido e iniciou a configuração para o AI Shipping Labs, mas o operador interrompeu o processo a meio. Devido à falta do ficheiro de estado, foram criados recursos duplicados. Grigorev pediu então à inteligência artificial para identificar e corrigir os duplicados, carregando finalmente o ficheiro em falta, crente de que o problema estava resolvido.
No entanto, o programador presumiu que o agente iria apenas limpar os duplicados antes de consultar o ficheiro para verificar a configuração original. Ferramentas como o Terraform não perdoam erros deste género, especialmente quando associadas à obediência cega de um modelo de linguagem. Ao receber o ficheiro de estado, o assistente seguiu a lógica e emitiu uma ordem de destruição para configurar tudo corretamente do zero. Como a descrição incluía o DataTalks.Club, o resultado foi a eliminação total de ambos os sites, de uma base de dados com dois anos e meio de registos e dos snapshots de segurança em que Grigorev confiava.
Recuperação e lições aprendidas
Para resolver a situação, Grigorev teve de contactar o suporte empresarial da Amazon, que conseguiu restaurar os dados no espaço de um dia. Na sua análise pós-incidente, o programador detalhou as medidas que adotou para evitar que a história se repita. Estas incluem a realização de testes periódicos de restauro da base de dados, a aplicação de proteções contra eliminação nas permissões do Terraform e da AWS, e a migração do ficheiro de estado para o armazenamento S3 local em vez da sua máquina.
O operador admitiu que confiou demasiado no agente para executar comandos de infraestrutura. A partir de agora, a ferramenta está impedida de o fazer de forma autónoma, sendo necessária uma revisão manual de todos os planos apresentados antes da execução de qualquer ação destrutiva. A principal lição destacada é o perigo de assumir que a inteligência artificial tem o contexto necessário para compreender o impacto das suas ações em ambientes de produção complexos.
Nenhum comentário
Seja o primeiro!