O presidente executivo da Amazon, Andy Jassy, é apontado como a origem das preocupações de segurança que levaram o governo dos EUA a impor restrições rígidas e a cortar o acesso global a dois modelos de inteligência artificial da Anthropic. O alerta terá sido dado antes da forte intervenção governamental que afetou os modelos Claude Fable 5 e Mythos 5 na passada sexta-feira. De acordo com as informações avançadas pelo TechCrunch, esta partilha de dados sigilosos ocorreu durante reuniões de alto nível destinadas a avaliar riscos digitais.
Alerta sobre riscos de ciberataques
Segundo relata o The Wall Street Journal, Jassy comunicou diretamente ao Secretário do Tesouro norte-americano, Scott Bessent, e a outros responsáveis do governo, que investigadores da Amazon detetaram vulnerabilidades críticas. Nas simulações realizadas, a utilização do modelo Fable 5 permitiu a recolha de informação sensível com potencial para ser usada no desenvolvimento de ciberataques avançados. Perante o perigo, a administração agiu rapidamente através da aplicação de controlos de exportação.
Embora a gigante do comércio eletrónico seja um dos investidores de maior relevo na Anthropic, o seu papel como denunciante foi igualmente corroborado por outras fontes de peso do setor, incluindo a Reuters e a publicação The Information. Um porta-voz oficial limitou-se a esclarecer que, embora seja comum o governo solicitar a opinião e a experiência tecnológica da empresa sobre potenciais ameaças à segurança nacional, os detalhes e o teor exato destas conversas privadas não são partilhados publicamente.
O impasse técnico e a recusa da Anthropic
O caso ganhou contornos mais graves com as declarações de David Sacks, atual copresidente do Conselho de Assessores de Ciência e Tecnologia da Casa Branca. Sacks revelou que um parceiro de extrema confiança mútua, ligado tanto à criadora dos modelos como às autoridades, reportou a descoberta de um método eficaz de jailbreak, uma técnica usada para contornar intencionalmente as barreiras e diretrizes de segurança do sistema.
A gravidade da falha levou a administração a exigir diretamente a Dario Amodei, diretor executivo da Anthropic, que implementasse uma correção imediata para neutralizar o problema ou que removesse as ferramentas do ecossistema. Contudo, Amodei ter-se-á recusado a aceitar a imposição das autoridades, o que precipitou o bloqueio imediato e a suspensão da atividade internacional destas soluções de IA.
Nenhum comentário
Seja o primeiro!