O debate sobre o impacto e os riscos associados aos modelos de inteligência artificial de pesos abertos desenvolvidos na China continua a subir de tom. Segundo avançou o TechCrunch, a crescente popularidade de sistemas como o Kimi K3, da Moonshot AI, e o Qwen, da Alibaba, tem gerado apreensão entre as empresas que produzem ferramentas proprietárias, mas especialistas da indústria norte-americana recusam o cenário de perigo técnico direto.
O medo do impacto nos lucros e a ameaça de proibição
A administração Trump tem ponderado uma possível proibição destes modelos, embora ainda não tenha avançado com qualquer medida concreta. Paralelamente, laboratórios norte-americanos de grande dimensão, em particular a OpenAI e a Anthropic, demonstram uma preocupação crescente face ao tema. O principal motivo de alarme reside no facto de as alternativas asiáticas oferecerem inferência a uma fração do custo por token em comparação com os sistemas de código fechado, ameaçando de imediato as margens de lucro dos gigantes sediados nos EUA.
Neste clima de desconfiança, Lucas Atkins, diretor de tecnologia da Arcee — uma startup dedicada à criação de modelos abertos para oferecer às empresas locais uma alternativa aos sistemas estrangeiros — desvaloriza a ideia de que a utilização destas ferramentas nos centros de dados empresariais possa servir como vetor de ataque.
Transparência e a dificuldade de ocultar código malicioso
"Muitas pessoas veem isto como algo semelhante a um programa de software chinês. Como se tivesse sido programado com as intenções x, y e z", explicou Atkins. O executivo clarifica que a arquitetura destas redes neuronais não permite esse tipo de controlo remoto. Quando uma organização descarrega o código de plataformas abertas como a Hugging Face para o executar nos seus próprios servidores, os criadores originais perdem qualquer ligação ao sistema. "Não existe realmente qualquer maneira de uma Arcee, ou de uma Alibaba, criar um modelo, fazer com que alguém o corra no seu próprio ambiente e nós termos qualquer tipo de acesso ao mesmo."
Apesar de os métodos e dados de treino não serem públicos, os pesos do modelo são abertos e o código informático é na sua maioria visível e passível de revisão. As empresas submetem habitualmente estes núcleos aos seus próprios testes de segurança, além de os treinarem posteriormente para usos específicos, avaliando elementos como alucinações, toxicidade ou sensibilidade a determinados temas.
A probabilidade de um destes modelos direcionados para a programação incluir portas ocultas para gerar malware de forma intencional é considerada extremamente baixa. Atkins reconhece que um ator sofisticado poderia teoricamente esconder um comportamento malicioso que só seria ativado perante um contexto muito específico, mas sublinha que a probabilidade de as empresas utilizarem esse código gerado de forma cega é ínfima.
Competir através da inovação
Em vez de alimentar receios sobre espionagem ou sabotagem, a equipa da Arcee vê vantagens claras na existência de uma concorrência forte e partilhada. "Nós beneficiamos por esses modelos serem bons porque podemos aprender o que eles fizeram", afirmou o diretor. "Podemos construir em cima deles. Depois eles podem aprender o que nós fazemos. Temos um enorme respeito pelas pessoas que constroem esses modelos, pelos investigadores individuais."
"Acho que, em vez de a conversa ser sobre como proibir modelos chineses, deveria ser sobre como promovemos um ecossistema bom e aberto aqui nos EUA", rematou Atkins. O CTO defende que a única forma viável de enfrentar a concorrência global a longo prazo assenta no desenvolvimento técnico, sublinhando que a verdadeira forma de competir é lançar um modelo que seja melhor e dar ao mercado um motivo superior de interesse.
Nenhum comentário
Seja o primeiro!