A Anthropic revelou ter identificado e interrompido a utilização dos seus modelos de inteligência artificial por parte de cientistas que tentavam avançar na criação de potenciais armas biológicas. A revelação surge no âmbito de um relatório sobre a utilização indevida das suas ferramentas, um problema com peso crescente à medida que sistemas mais avançados, como o Fable 5, ganham capacidade para apoiar a investigação científica.
O documento da empresa detalha cinco casos de estudo focados no desenvolvimento de armas biológicas, identificando as medidas de segurança que detetaram as infrações e as respetivas ações tomadas. A utilização do Claude para o desenvolvimento de armas biológicas foi travada antes que os projetos pudessem progredir.
Casos identificados envolvem vírus e otimização de toxinas
Num dos incidentes registados em maio, o classificador de segurança biológica da empresa sinalizou um pedido feito ao Claude para redigir uma proposta de financiamento. O objetivo era realizar investigação de ganho de função no vírus chikungunya, um agente patogénico que não possui tratamento licenciado e provoca sintomas debilitantes durante semanas ou meses. A proposta visava aumentar a transmissibilidade do vírus e a sua capacidade de evasão à resposta imunitária, levantando preocupações adicionais por estar associada a um instituto de investigação militar.
A empresa travou igualmente tentativas de investigação de ganho de função relacionadas com a gripe das aves. Noutro caso, um investigador utilizou a plataforma para criar um atlas de péptidos de toxinas de veneno e uma estrutura generativa destinada a otimizar as características dessas mesmas toxinas. Além do risco biológico, o relatório abrange utilizações indevidas em ferramentas de vigilância, criação de explorações de software, propaganda e sistemas de armas.
Desafio na distinção de pesquisas e medidas aplicadas
Identificar a utilização indevida de ferramentas de inteligência artificial representa um desafio complexo para as equipas de segurança. Como a empresa destacou ao jornal The New York Times, o trabalho de investigação para criar uma nova vacina pode apresentar muitas semelhanças com o processo de desenvolvimento de uma arma biológica. Em todos os casos suspeitos, a prioridade foi agir com cautela redobrada devido às possíveis consequências.
Jacob Klein, responsável pela inteligência de ameaças na empresa, sublinhou que os pedidos não surgem de forma caricata como numa banda desenhada, tratando-se de situações bastante subtis. A empresa confirmou o encerramento das contas de todos os utilizadores envolvidos e está a aplicar as conclusões para reforçar os filtros de segurança. A identidade dos cientistas e das instituições envolvidas não foi divulgada para prevenir danos reputacionais ou físicos, uma vez que se tratam de investigadores no ativo e não há confirmação de intenção maliciosa.
Nenhum comentário
Seja o primeiro!