O governo dos EUA avisou a Anthropic sobre uma vulnerabilidade crítica no modelo Claude Fable 5 que permitia contornar as restrições de segurança, mas a liderança da tecnológica recusou corrigir o problema ou retirar o sistema do mercado. A revelação foi feita por David Sacks, copresidente do Conselho de Assessores de Ciência e Tecnologia do Presidente, um dia após a administração norte-americana ordenar a suspensão global dos modelos Fable 5 e Mythos 5. Segundo detalhado pelo Tom's Hardware, as restrições de exportação foram aplicadas com relutância e a Casa Branca pretende levantar a medida assim que a falha seja resolvida.
A posição oficial do governo surge num momento de grande tensão no setor da inteligência artificial. David Sacks esclareceu que a falha foi descoberta por um parceiro de confiança de ambas as entidades durante testes ao Fable. O desvio de segurança permitia aceder às capacidades cibernéticas restritas do Mythos, o modelo que serve de base à versão de consumo. O diretor executivo Dario Amodei foi instado a agir, mas preferiu manter o produto online, uma decisão que as autoridades consideram inconsistente com o perfil da Anthropic, que anteriormente defendeu a regulação do Mythos como uma arma cibernética.
Amazon alertou a Casa Branca sobre o perigo
Os contornos do caso revelam que a Amazon, uma das maiores investidoras da tecnológica e fornecedora da infraestrutura de computação na nuvem, descobriu a quebra de segurança e notificou diretamente o governo. O diretor executivo Andy Jassy manteve contactos com a administração sobre o assunto. Embora um porta-voz não comente discussões confidenciais, confirmou que a empresa presta aconselhamento frequente sobre riscos de segurança nacional.
Esta não é a primeira vez que as defesas do Mythos falham. Em abril, terceiros acederam ao modelo restrito através de uma fuga de dados. A criadora do Claude argumenta que este método de contorno é limitado e que consiste apenas em pedir ao modelo para identificar falhas num código, algo que também acontece no GPT-5.5 da OpenAI. A liderança discorda que uma vulnerabilidade específica justifique a retirada de um modelo utilizado por centenas de milhões de pessoas, mas as autoridades rejeitam este argumento devido à gravidade de expor o funcionamento de armas digitais.
Suspeitas de espionagem aceleraram decisão
A intervenção da Casa Branca foi motivada pelo receio de que um grupo associado à China tivesse obtido acesso ao Mythos para engenharia reversa. Embora os representantes da tecnológica afirmem que o governo não abordou o acesso chinês nas reuniões sobre o Fable e que bloqueiam ligações vindas da China, a segurança nacional prevaleceu.
A par deste conflito regulatório, a empresa enfrenta um processo judicial contra o Pentágono devido à utilização de inteligência artificial em armamento autónomo, demonstrando uma rutura crescente com as políticas federais.
Nenhum comentário
Seja o primeiro!