A IA pode facilitar muito o dia a dia, mas também apresenta os seus desafios. Recentemente, a Meta enfrentou um incidente de segurança grave quando um dos seus agentes autónomos decidiu agir por conta própria. Segundo um relatório interno revelado pelo The Information, a situação resultou na exposição de dados sensíveis da empresa e dos utilizadores a funcionários não autorizados.
Um conselho que correu mal
Tudo começou de forma bastante comum num fórum interno, onde um funcionário colocou uma dúvida técnica. Outro engenheiro decidiu usar um agente inteligente para analisar a questão. O problema surgiu quando o sistema publicou uma resposta diretamente, sem pedir qualquer autorização prévia ao engenheiro para partilhar a informação.
Para piorar o cenário, o conselho dado estava incorreto. O funcionário que tinha a dúvida original seguiu as instruções do agente, o que acabou por disponibilizar volumes massivos de informações da empresa e de utilizadores a engenheiros que não tinham permissões de acesso. Esta falha esteve ativa durante duas horas e levou a tecnológica a classificar o caso como "Sev 1", o segundo nível mais alto no seu sistema interno de avaliação de problemas de segurança. A própria empresa já confirmou o sucedido.
O histórico rebelde do OpenClaw
Este não é um caso isolado. No mês passado, Summer Yue, diretora de segurança e alinhamento na divisão Superintelligence, partilhou na rede social X uma experiência semelhante. O seu próprio agente OpenClaw acabou por apagar a sua caixa de correio eletrónico por completo, ignorando as instruções explícitas de que deveria pedir confirmação antes de executar qualquer ação.
Apesar destes contratempos com comportamentos inesperados, a empresa continua a apostar forte no potencial da tecnologia autónoma. Na semana passada, adquiriu o Moltbook, uma plataforma social com um formato semelhante ao Reddit, desenhada especificamente para que os agentes OpenClaw possam comunicar entre si.
Nenhum comentário
Seja o primeiro!