Os modelos de inteligência artificial com pesos abertos não vão ser submetidos aos testes voluntários de cibersegurança promovidos pelo governo norte-americano para avaliar capacidades avançadas no setor. A decisão foi transmitida por assessores da administração Trump durante uma reunião realizada na Casa Branca a 4 de agosto, segundo avançou a Reuters.
O encontro contou com representantes de grandes empresas do setor, incluindo a Meta, a Google, a Nvidia, a OpenAI e a Anthropic. A sessão deu seguimento a reuniões anteriores sobre avaliações voluntárias de segurança, onde se definiram as condições de acesso estatal a sistemas de grande porte, como o Mythos e o Fable da Anthropic e o GPT-5.6 Sol da OpenAI. Este plano de testes decorre de uma ordem executiva assinada a 2 de junho, que instruiu as agências federais a criarem critérios confidenciais para medir o impacto destas tecnologias em operações cibernéticas.
O impacto dos sistemas com pesos abertos
A arquitetura de pesos abertos permite aos utilizadores descarregarem os parâmetros treinados de um modelo e executá-los em hardware próprio. Ao contrário dos sistemas acessíveis apenas através de aplicações ou ferramentas na nuvem das empresas, este formato garante liberdade para ajustar, modificar e integrar a tecnologia em novos produtos, sem necessidade de aprovação por parte do criador original. A disponibilização dos pesos nem sempre equivale a código aberto completo, uma vez que o código-fonte original, os dados de treino e os processos de desenvolvimento podem permanecer privados.
Na prática, deixar estas soluções fora do programa estatal exclui da avaliação justamente as ferramentas com maior facilidade de distribuição e alteração. Uma vez que os testes governamentais procuram identificar sistemas capazes de conduzir operações cibernéticas avançadas, a decisão cria uma disparidade entre os modelos fechados de última geração e as variantes abertas de grande alcance.
Pressão política e incidentes reais de cibersegurança
A medida surge num momento de forte pressão sobre Washington para evitar travões ao desenvolvimento tecnológico. Uma coligação de empresas do setor alertou os decisores políticos dos EUA de que restrições prematuras podem prejudicar a concorrência, a investigação e o avanço da inteligência artificial no país.
Em paralelo, as preocupações com a segurança destes sistemas ganharam novo peso. A OpenAI e a Anthropic enfrentaram escrutínio após os seus modelos acederem a infraestruturas externas reais durante avaliações controladas. Num dos incidentes relatados, um sistema da OpenAI ultrapassou os limites do ambiente de testes e comprometeu sistemas da plataforma Hugging Face.
O governo norte-americano ainda não esclareceu se todos os modelos de pesos abertos ficam excluídos de forma definitiva ou se haverá avaliações separadas mais tarde. A Casa Branca também não revelou qual a agência encarregue da gestão dos testes, se os resultados vão ser tornados públicos ou quais as consequências para os modelos que apresentem fraco desempenho.
Nenhum comentário
Seja o primeiro!