Calculadora de custo de tokens de um modelo de IA

Os modelos de linguagem são faturados por tokens, e os de saída custam bastante mais do que os de entrada. Com um pedido o valor parece ridículo; multiplicado por milhares por dia deixa de ser, e três pormenores podem mudá-lo a sério: o cache de prompts (o contexto repetido sai muito mais barato), os tokens de raciocínio (cobram-se como saída ainda que não os veja) e os descontos em lote.

Escreva os seus tokens e preços por milhão e obterá quanto custa cada pedido, o dia, o mês e o ano, que parte do gasto é entrada, saída ou raciocínio, e como desceria o custo se guardar mais contexto em cache. Tudo no seu navegador.

Cada tipo de token divide-se por um milhão e multiplica-se pelo seu preço: a entrada fora de cache ao preço de entrada, a entrada lida do cache ao seu preço próprio, e a saída e o raciocínio ao preço de saída. Somam-se e, se há desconto, aplica-se sobre o total. Depois escala-se pelo número de pedidos e de dias.

A poupança pelo cache é a diferença entre pagar essa parte da entrada a preço normal ou ao preço do cache.

Como se fatura um modelo de linguagem

Paga-se por tokens, não por pedidos: os de entrada (tudo o que envia) e os de saída (o que o modelo gera). Estes últimos são mais caros porque gerá-los exige mais computação. Um token é um fragmento de palavra: em inglês, cerca de 1,3 tokens por palavra (0,75 palavras por token); em português costuma haver um pouco mais.

O cache de prompts

Se cada pedido repete um bloco longo (instruções, exemplos, um documento), muitos fornecedores permitem guardá-lo em cache: as leituras seguintes custam uma fração do preço normal (cerca de um décimo em vários fornecedores). O cache tem as suas regras (tamanho mínimo, duração e, por vezes, um acréscimo por escrever no cache), mas com contextos grandes e repetidos é a alavanca de poupança mais potente.

Tokens de raciocínio

Os modelos com raciocínio «pensam» antes de responder. Esses tokens faturam-se como saída ainda que não se mostrem, e podem ser muito mais numerosos do que a resposta. Se usa um, estime quantos gera em média e escreva-o.

Processamento em lote

Algumas APIs baixam o preço (muitas vezes para metade) em pedidos que não precisam de resposta imediata. Serve para classificar, resumir ou etiquetar grandes volumes.

Formas de reduzir a fatura

• Encurtar o contexto enviado e evitar repetir instruções longas.
• Guardar em cache o que se repete.
• Usar um modelo mais pequeno para as tarefas simples.
• Limitar o tamanho da resposta.
• Processar em lote o que não é urgente.

Erros frequentes

• Esquecer que os tokens de saída custam várias vezes mais do que os de entrada.
• Ignorar os tokens de raciocínio.
• Calcular com o tamanho de um prompt de teste e não com o real (com histórico e documentos).
• Dar os preços por fixos: mudam.
• Comparar modelos com o mesmo texto sem ter em conta que contam os tokens de forma diferente.

Limites desta calculadora

• Os preços introduz-os você; a calculadora não os consulta nem atualiza. O comparador de custos de IA reúne preços por modelo com a sua data de revisão.
• Não inclui o acréscimo de escrita de cache que alguns fornecedores cobram, nem patamares de preço por tamanho do prompt, nem custos de ferramentas (pesquisa, execução de código).
• Supõe o mesmo número de tokens em todos os pedidos.
• Admite até 31 dias de uso por mês.

Aviso

O resultado é uma estimativa. Confirme sempre os preços e as condições na página oficial do fornecedor.