A Anthropic está a investigar um incidente de segurança grave que envolve o seu mais recente modelo de inteligência artificial, o Claude Mythos Preview. Segundo um relatório avançado pela Bloomberg, um grupo restrito de utilizadores conseguiu obter acesso não autorizado a esta ferramenta de cibersegurança, que a própria tecnológica considera perigosa se cair em mãos erradas. O acesso terá sido conseguido através de um prestador de serviços externo da empresa, utilizando uma combinação de táticas de pesquisa online e credenciais de um colaborador terceirizado.
Uma ferramenta capaz de explorar falhas críticas
O Claude Mythos Preview é um modelo de propósito geral com capacidades avançadas para identificar e explorar vulnerabilidades em todos os principais sistemas operativos e navegadores web. Devido ao potencial de ser transformado numa arma digital, a Anthropic restringiu o acesso oficial a apenas algumas gigantes tecnológicas através da iniciativa Project Glasswing, que inclui nomes como a Nvidia, Google, Amazon Web Services, Apple e Microsoft.
Apesar de vários governos estarem atentos a esta tecnologia, a empresa não tem planos para um lançamento público. No entanto, este grupo não identificado — que fará parte de um canal de Discord dedicado a encontrar modelos de IA não lançados — terá conseguido entrar no sistema a 7 de abril de 2024, precisamente no dia em que a Anthropic anunciou a disponibilização controlada para testes.
Investigação aponta para falha em fornecedor externo
Em comunicado, um porta-voz da tecnológica confirmou que estão a analisar o relatório de acesso indevido através de um dos ambientes de fornecedores externos. Até ao momento, a empresa afirma não ter provas de que os seus sistemas internos tenham sido comprometidos ou que a falha se estenda além desse ambiente terceirizado.
O grupo terá descoberto a localização online do modelo ao fazer uma "suposição educada" baseada em formatos de outros modelos da empresa, obtidos num recente roubo de dados da Mercor. Como prova do acesso, os utilizadores forneceram capturas de ecrã e demonstrações em direto, embora garantam que têm usado o Mythos para fins alheios à cibersegurança para evitarem ser detetados pelos sistemas de monitorização da fabricante.
Nenhum comentário
Seja o primeiro!