Calculadora de custo de tokens de um modelo de IA

Os modelos de linguagem são faturados por tokens, e os de saída costumam custar bastante mais que os de entrada. À escala de um pedido o valor parece ridículo; multiplicado por milhares por dia deixa de ser.

Esta calculadora traduz os preços por milhão de tokens no que vai realmente pagar.

Dividem-se os tokens por um milhão e multiplicam-se pelo preço correspondente, somando entrada e saída. Depois escala-se pelo volume diário e mensal.

Um token não é uma palavra

Os modelos de linguagem dividem o texto em fragmentos que às vezes são palavras completas, às vezes sílabas e às vezes caracteres soltos. Em inglês, a regra prática é que um token equivale a cerca de quatro letras. Em português, espanhol e francês a proporção piora.

Entrada e saída não custam igual

Quase todos os fornecedores cobram mais pelos tokens gerados que pelos recebidos, por vezes três ou quatro vezes mais.

O contexto paga-se em cada chamada

Numa conversa, o histórico completo costuma reenviar-se de cada vez. Isso significa que o custo cresce com o comprimento da conversa de forma acumulativa.

Como reduzir o custo

Usar modelos mais pequenos para tarefas simples, cachear as partes fixas do contexto quando o fornecedor o permita, e limitar o comprimento máximo de resposta.