Mensagens anteriores

O ChatGPT certamente que veio revolucionar a forma como os utilizadores interagem com a Inteligência Artificial. No entanto, manter a infraestrutura para que o sistema possa funcionar corretamente não é uma tarefa barata.

Apesar de não existirem valores concretos sobre quanto a OpenAI paga diariamente para manter a infraestrutura do ChatGPT, a empresa de análise do mercado SemiAnalysis fez algumas contas e deixa as possibilidades.

De acordo com as estimativas da empresa, manter o ChatGPT ativo custa para a OpenAI cerca de 700.000 dólares por dia, o que corresponde a cerca de 36 cêntimos por pedido feito na plataforma.

A grande maioria dos custos vai para a necessidade de manter a infraestrutura e os servidores que processam os pedidos do ChatGPT. Apesar de existirem variáveis neste cálculo, a OpenAI encontra-se atualmente a usar cerca de 3,617 servidores com gráficas A100 (cerca de 28.936 GPUs), apenas para responder aos pedidos do ChatGPT.

A ter em conta também que estas contas foram feitas apenas para o modelo do GPT-3, sendo que o uso do GPT-4 pode elevar ainda mais as contas, uma vez que necessita de mais capacidade de processamento para as mesmas tarefas.

De notar que, recentemente, surgiram rumores que a Microsoft estaria a desenvolver um chip dedicado para o processamento de tarefas de Inteligência Artificial, o qual se acredita que pode vir a ajudar a reduzir um pouco os gastos.

A OpenAI também revelou a subscrição do ChatGPT Plus no início deste ano como forma de manter uma linha de rendimento para a plataforma.

Por sua vez, este valor deve ser ainda mais elevado para plataformas como a Google, que apesar de usarem os seus próprios modelos de LLM, podem ter de realizar tarefas consideravelmente mais abrangentes nas suas atividades diárias.

Como exemplo, caso a Google realmente implemente o sistema de IA nas pesquisas do seu motor de busca, com o Bard, existe a possibilidade de os custos finais para a empresa ficarem consideravelmente superiores apenas pelo facto que existe uma quantidade bem mais elevada de pessoas a realizarem pesquisas.