A Anthropic, criadora dos modelos Claude e uma das principais referências no setor da inteligência artificial, esclareceu publicamente a sua posição relativamente à polémica em torno dos modelos de código aberto (open-weight). Num artigo publicado no seu blogue oficial, o diretor executivo da tecnológica, Dario Amodei, assegurou que a Anthropic nunca defendeu a proibição deste tipo de tecnologia, classificando os modelos abertos e seguros como um "bem público" com elevado valor económico e científico.
Apesar deste voto de confiança no impacto positivo para empresas e investigadores, o líder da empresa não escondeu o ceticismo em relação a aspetos críticos de segurança.
Os dois grandes riscos apontados pela empresa
Dario Amodei detalhou duas grandes preocupações que justificam uma abordagem mais cautelosa aos sistemas abertos. A primeira reside na vertente geopolítica, temendo que governos autoritários, com especial destaque para o Partido Comunista Chinês, consigam obter capacidades para construir modelos de inteligência artificial mais potentes do que os desenvolvidos nos Estados Unidos, utilizando-os para fins militares ou de opressão social.
O segundo foco de inquietação prende-se com a segurança global e a ação de cibercriminosos. O executivo alertou para o perigo de atores maliciosos utilizarem a tecnologia para orquestrar ciberataques ou ofensivas biológicas. Segundo Amodei, os modelos de código aberto acarretam intrinsecamente um risco superior aos sistemas fechados, dada a extrema dificuldade em monitorizar a sua utilização ou aplicar barreiras de proteção eficazes. Para agravar o cenário, uma vez partilhados publicamente, estes ficheiros não podem ser retirados de circulação.
As medidas sugeridas para mitigar as ameaças
Perante estes desafios à segurança da ia, o líder da tecnológica avançou com três propostas concretas dirigidas aos reguladores internacionais:
Restringir severamente a venda de chips avançados e equipamentos de fabrico à China, combatendo ativamente o contrabando de componentes informáticos.
Proibir operações industriais de destilação de modelos de inteligência artificial.
Implementar testes de segurança obrigatórios para modelos de grande capacidade, independentemente de serem abertos ou fechados.
A tomada de posição surge numa altura de forte tensão no mercado. Recentemente, marcas como a Meta, a Microsoft e a nvidia enviaram uma carta aberta aos decisores políticos norte-americanos alertando contra restrições prematuras a esta tecnologia — um documento que a Anthropic optou por não assinar por discordar que o código aberto facilite a defesa contra ataques informáticos. Paralelamente, Washington pondera banir o modelo chinês Kimi K3, lançado pela startup Moonshot AI, sob a alegação de que este foi construído através da destilação do modelo Fable da Anthropic.
Nenhum comentário
Seja o primeiro!