A Meta confirmou nesta quarta-feira (5 de agosto) que o seu modelo de inteligência artificial, designado Muse Spark 1.1, conseguiu aceder à internet durante uma avaliação de segurança, acabando por explorar uma vulnerabilidade num serviço externo. O incidente ocorreu devido a um erro de configuração no ambiente controlado da Irregular, a empresa parceira responsável pela execução dos testes.
Segundo a informação avançada pela Reuters, a falha permitiu que o modelo localizasse e explorasse os sistemas de uma companhia cuja identidade foi mantida em segredo. O porta-voz da Meta, Andy Stone, clarificou que a ligação deveria ter permanecido totalmente bloqueada enquanto decorriam as medições das capacidades cibernéticas da ferramenta. A gigante tecnológica tomou conhecimento do caso através de uma notificação da Irregular, abriu uma investigação interna e promete publicar uma análise completa, não tendo ainda esclarecido se houve acesso a dados da plataforma afetada.
Um erro de configuração, não uma fuga intencional
A Irregular sublinha que o evento não representou uma ação cibernética sofisticada nem uma fuga do ambiente isolado de testes (sandbox). Uma configuração incorreta abriu simplesmente um caminho direto para a web, ligação que o modelo utilizou de imediato para tentar concluir a tarefa que lhe tinha sido proposta.
O Muse Spark 1.1 foi desenvolvido especificamente para atividades autónomas, programação, utilização de ferramentas informáticas e operações prolongadas. Nos seus relatórios de segurança, a Meta detalha que estas avaliações servem precisamente para a descoberta de vulnerabilidades e para a resolução de desafios baseados em cenários reais, o que explica o comportamento agressivo da ferramenta assim que lhe foi dada a oportunidade.
O problema não se limita à Meta
A indústria da inteligência artificial tem registado situações idênticas com outros gigantes tecnológicos nas últimas semanas. A Irregular participou em avaliações onde falhas de isolamento do ambiente de teste voltaram a resultar no acesso indevido a plataformas reais. Num desses episódios recentes, as ferramentas da Anthropic conseguiram mesmo invadir três organizações distintas.
Num evento paralelo, agentes da OpenAI protagonizaram uma invasão ao repositório Hugging Face, embora sob circunstâncias diferentes. Nesse cenário, os sistemas encontraram uma vulnerabilidade de forma autónoma e organizaram informações através de um mecanismo semelhante a um mural de mensagens para alcançar o objetivo definido no teste.
O laboratório de segurança com sede em Tel Aviv assegura não existirem problemas pendentes associados a estas falhas e prepara-se para divulgar um documento detalhado com as práticas recomendadas para a contenção em avaliações cibernéticas. Para o mercado europeu, onde o escrutínio sobre o comportamento autónomo destes modelos domina o debate, as ocorrências demonstram que uma simples desatenção técnica num parâmetro de configuração basta para transformar um teste inofensivo numa invasão em larga escala.
Nenhum comentário
Seja o primeiro!