Correr modelos de inteligência artificial de forma local e com alto desempenho diretamente no navegador de internet acaba de se tornar mais fácil. O avanço foi detalhado no Google Developers Blog, que revelou o lançamento do LiteRT.js, uma nova biblioteca em JavaScript desenvolvida para simplificar o trabalho dos programadores.
A novidade da Google utiliza WebAssembly para permitir a execução local de ficheiros no formato .tflite. Isto significa que as aplicações web passam a conseguir processar dados complexos de forma autónoma, garantindo maior privacidade e rapidez no acesso.
Aceleração por hardware e suporte para PyTorch
O grande trunfo desta solução reside na capacidade de aproveitar o hardware do próprio dispositivo do utilizador. O motor suporta aceleração gráfica através de processadores centrais (CPU), placas gráficas (GPU) e conta ainda com suporte experimental para unidades de processamento neural (NPU).
Para os criadores que trabalham com outros ecossistemas, a biblioteca permite correr modelos de PyTorch no navegador. O processo é feito através de uma conversão num único passo, acompanhada por uma quantização personalizada que otimiza o desempenho da IA.
O impacto prático para os utilizadores
Nos testes de desempenho realizados pela equipa de desenvolvimento, os resultados são claros. Em aplicações que funcionam em tempo real, a aceleração por GPU ou NPU conseguiu alcançar velocidades até 60 vezes superiores em comparação com os métodos tradicionais de processamento no navegador.
Para quem navega na internet em Portugal, especialmente através de redes móveis, esta mudança traduz-se numa poupança significativa de dados, uma vez que o processamento deixa de exigir o envio constante de ficheiros para servidores externos. O resultado prático são ferramentas web mais fluidas, seguras e prontas a responder de imediato ao utilizador.
Nenhum comentário
Seja o primeiro!