Durante o início desta semana, a OpenAI veio confirmar algumas novidades que devem chegar em breve à plataforma, e que podem ajudar os utilizadores a tirar melhor proveito das funcionalidades da mesma. Entre estas encontram-se novas formas de usar a API e de reduzir os custos finais.
No evento DevDay 2024, o evento anual da OpenAI, a empresa confirmou que vai lançar algumas novidades para os utilizadores, sobretudo focadas para melhorar a integração entre a API da plataforma de IA e as apps dos programadores.
Para começar, encontra-se agora disponível a nova API Realtime, que vai ajudar os programadores que pretendam criar aplicações onde seja necessário manter uma linha de comunicação “em tempo real”. Este sistema usa o novo modo de voz avançado do ChatGPT e permite integrar o mesmo em apps de terceiros.
Esta API permite que o sistema de voz possa ser integrado nas apps sem que se tenha de usar modelos de terceiros para recriar a mesma. A voz é diretamente enviada pela API a partir dos sistemas da OpenAI, tornando o processo consideravelmente mais simples, eficiente e barato.
Encontram-se ainda disponíveis novidades para o uso da API de forma a analisar e reconhecer objetos em fotos e imagens, que podem ajudar a melhorar a interpretação de conteúdos por parte do modelo de IA da OpenAI.
Foi ainda confirmado o novo “Model Distillation”, que permite otimizar as capacidades dos modelos de IA mais pequenos, como o GPT-4o mini, de forma a apresentar respostas e conteúdos semelhantes aos de modelos maiores, como o GPT-4o e o1, sem que seja necessária uma maior capacidade de processamento.
Também se encontra disponível o novo Prompt Caching, que basicamente, permite realizar a cache de alguns dos pedidos na API, de forma a que, caso sejam novamente enviados no futuro, não tenham de ser processados diretamente - reduzindo os tempos de espera e o custo final, já que estes pedidos são consideravelmente mais rápidos.
Os pedidos feitos que passem pelo Prompt Caching possuem um custo até 50% inferior, o que pode ajudar em pedidos que sejam feitos de forma repetida pelas aplicações.
Todas as novidades devem ficar disponíveis para os programadores durante as próximas semanas.
Nenhum comentário
Seja o primeiro!