A Perplexity anunciou a introdução do processamento híbrido com agentes no Perplexity Computer. Esta nova capacidade permite ao sistema dividir tarefas de forma totalmente automática entre um modelo de ia a correr localmente no dispositivo e modelos de fronteira alojados na cloud, garantindo uma otimização no consumo de tokens e mantendo a privacidade do utilizador.
Esta arquitetura inovadora foi desenhada para assegurar que as informações mais sensíveis fiquem guardadas diretamente na máquina de quem usa o serviço. A novidade é compatível com chips desenvolvidos pela Intel e pela nvidia, estando o seu lançamento oficial agendado para o próximo mês de julho.
Divisão inteligente de tarefas e privacidade
O grande trunfo desta atualização reside na capacidade de gerir os fluxos de trabalho de forma dinâmica. As tarefas que exigem menor poder de computação ou que envolvem dados estritamente confidenciais são tratadas localmente. Já as solicitações que necessitam de uma capacidade de análise superior são reencaminhadas para as plataformas na nuvem.
Com esta abordagem, a tecnológica consegue contornar as dores de cabeça associadas ao envio constante de metadados para servidores externos, reduzindo simultaneamente a latência das respostas para o consumidor final.
Compatibilidade alargada de hardware
A infraestrutura híbrida foi otimizada para tirar partido do hardware existente no mercado. O suporte inicial abrange tanto os processadores e gráficas da Intel como as plataformas da nvidia, permitindo que uma vasta gama de computadores pessoais consiga executar estas funções sem necessidade de upgrades dispendiosos.
O ecossistema de inteligência artificial tem procurado formas de mitigar a dependência total dos centros de dados, e este passo coloca o processamento local no centro da estratégia de produtividade para os utilizadores.
Nenhum comentário
Seja o primeiro!