A OpenAI anunciou a disponibilização do novo modo Ultrafast para o modelo GPT-6.1 Sol, garantindo um desempenho até 8 vezes mais rápido na execução de tarefas avançadas e na programação autónoma. A par desta novidade, a empresa lançou também em beta pública a Decisions API, uma ferramenta concebida para acelerar escolhas simples em aplicações até 10 vezes em comparação com os métodos tradicionais.
Modo Ultrafast acelera fluxos no Codex e API
O novo modo Ultrafast surge para dar resposta às necessidades de aplicações e agentes de inteligência artificial que exigem respostas quase instantâneas, sobretudo em cenários onde a máquina precisa de tomar múltiplas decisões em cadeia antes de concluir um pedido. Lançado recentemente com um nível de inteligência próximo do GPT-6 Astra para tarefas de programação e uso profissional a um quinto do preço, o GPT-6.1 Sol passa agora a contar com esta opção de alta velocidade na API, no Codex e no ChatGPT Work.
No Codex, o modo Ultrafast promete reduzir até 8 vezes o tempo que os programadores passam à espera durante a escrita de código, depuração de erros e testes de alterações. Na API, a funcionalidade permite que agentes virtuais executem fluxos de trabalho complexos com atrasos substancialmente menores. Para ativar o modo Ultrafast, os programadores precisam apenas de definir o parâmetro service_tier como ultrafast. A marca recomenda ainda a utilização de ligações WebSocket persistentes para otimizar o débito e reduzir a latência de rede.
Desempenho elevado reflete-se no custo por token
O ganho substancial em velocidade traz consigo um custo financeiro significativamente mais elevado. Os preços para a utilização do modo Ultrafast no GPT-6.1 Sol começam nos 12 dólares por milhão de tokens de entrada (cerca de 10,68 € à taxa de conversão atual) e 60 dólares por milhão de tokens de saída (aproximadamente 53,40 €) em pedidos de contexto curto.
Em comparação, o modo Standard para o mesmo modelo custa 2 dólares por milhão de tokens de entrada (cerca de 1,78 €) e 10 dólares por milhão de tokens de saída (aproximadamente 8,90 €). Esta diferença torna o processamento no modo Ultrafast seis vezes mais caro do que o modo convencional.
Decisions API simplifica e acelera escolhas lógicas
Para além do modo de elevado rendimento, a organização apresentou em beta pública a Decisions API. Enquanto o modo Ultrafast é direcionado para raciocínio e tarefas de elevada complexidade, a Decisions API foca-se em tomar decisões simples e estruturadas com grande rapidez. Alimentada pelo modelo GPT-6 Luna, a interface processa texto e imagens para devolver resultados estruturados prontos a serem executados por sistemas automatizados.
Os modelos de linguagem tradicionais nem sempre são ideais para categorizações diretas, como encaminhar o pedido de um cliente para o departamento de faturação, suporte técnico ou envios num serviço de apoio ao cliente. A Decisions API resolve esse problema ao selecionar diretamente a categoria correta.
A nova API suporta três tipos de decisão distintos:
Predicado (Predicate): calcula e devolve a probabilidade estimada de uma condição ser verdadeira.
Escolha (Choice): seleciona uma opção dentro de um conjunto pré-definido e fornece a respetiva probabilidade.
Pontuação (Score): avalia a informação de entrada com base numa rubrica de pontuação pré-definida.
Durante os testes iniciais, a Decisions API registou velocidades até 10 vezes superiores às da Responses API com o GPT-6 Luna. O serviço está disponível por 0,10 dólares por milhão de tokens de entrada (cerca de 0,09 €), sem cobrança adicional por tokens de saída ou operações de leitura e escrita em cache.
Nenhum comentário
Seja o primeiro!