O domínio absoluto no mercado dos processadores para inteligência artificial pode enfrentar agora novos desafios. Segundo avançou o TechCrunch, a startup francesa ZML lançou o LLMD, um servidor de inferência gratuito desenhado para extrair o máximo desempenho de grandes modelos de linguagem (LLM) numa vasta gama de chips, incluindo arquiteturas da Nvidia, AMD, Google, Apple e Intel.
Para quem lida diariamente com os custos astronómicos associados à execução de modelos intensivos, esta solução traduz-se no fim da obrigatoriedade de usar uma única marca de hardware. Com o apoio de figuras de peso na indústria, como Yann LeCun, a ZML ambiciona quebrar barreiras de software e dar às empresas a liberdade de escolherem opções mais económicas ou energeticamente eficientes para as suas necessidades diárias.
O fim das restrições de hardware
Steeve Morin, fundador da startup e antigo vice-presidente de engenharia da Zenly, garante que a otimização da inferência — o processo de gerar respostas e processar os comandos dos utilizadores — ultrapassou a própria fase de treino dos modelos em termos de prioridade. O grande desafio atual é a fragmentação que frequentemente prende os clientes a um ecossistema específico.
Com o novo servidor LLMD, uma empresa pode misturar infraestruturas, recorrendo aos componentes da Nvidia para determinadas tarefas mais exigentes e alternando para fabricantes europeias emergentes noutras situações, conseguindo obter velocidades idênticas ou até superiores. A startup refere que a intenção não passa por desvalorizar o domínio existente no mercado, mas sim por permitir que projetos inovadores que nunca foram testados cheguem às mãos dos programadores com a máxima eficácia.
Uma aposta milionária no acesso livre
Apesar de operar com uma equipa reduzida de apenas 20 pessoas a partir de Paris, a empresa já provou a sua força no mercado. A ZML conseguiu atrair cerca de 18,6 milhões de euros em financiamento, apoiada por fundos de investimento de relevo e por líderes de gigantes tecnológicas como a Hugging Face e a Docker.
Embora a sua primeira estrutura lançada em 2024 tenha chegado ao público em formato de código aberto, o LLMD segue um caminho distinto. O servidor não tem o seu código aberto, mas foi disponibilizado de forma totalmente gratuita nesta fase de lançamento. A estratégia da startup foca-se em analisar o uso real das infraestruturas e em afinar o produto com a comunidade, antes de implementar qualquer tipo de modelo de subscrição pago que possa comprometer o crescimento acelerado da plataforma.
Nenhum comentário
Seja o primeiro!