Prompt caching é a técnica que reaproveita o pedaço fixo do seu prompt — o contexto que se repete a cada chamada — em vez de pagar por ele toda vez. Em produção, isso muda a conta: a Anthropic dá 90% de desconto na leitura de tokens em cache e a OpenAI aplica 50% de forma automática em prompts acima de 1.024 tokens, segundo a documentação oficial de cada uma. É dinheiro parado na mesa que quase todo projeto de IA esquece.
Não é só custo. Um estudo de 2025 chamado 'Don't Break the Cache', que testou mais de 500 sessões de agentes com prompts de sistema de 10 mil tokens, mediu redução de 41% a 80% no custo de API e melhora de 13% a 31% no tempo até o primeiro token. Para quem roda atendimento com IA, isso é resposta que chega mais rápido e fatura de API que encolhe no fim do mês.
O que é prompt caching, sem enrolação
Toda chamada a um LLM manda dois blocos: uma parte que quase nunca muda (instruções de sistema, base de conhecimento, exemplos) e uma parte que muda sempre (a pergunta do usuário). Sem cache, você paga o preço cheio pelos dois em cada requisição. Com cache, o provedor guarda o resultado do processamento da parte fixa e cobra uma fração dela nas próximas chamadas.
O detalhe técnico que importa: o cache funciona por prefixo. Ele só reaproveita o começo do prompt que for idêntico, caractere a caractere, ao de antes. Mudou uma vírgula lá no início e o cache de tudo que vem depois é descartado. Por isso a ordem dos blocos no seu prompt deixa de ser estética e vira decisão de custo.
Quanto cada provedor cobra pelo cache
Na Anthropic, a leitura de tokens em cache custa 10% do preço normal — os tais 90% de desconto. Em troca, gravar no cache sai 25% mais caro que um token de entrada comum (ou o dobro, se você optar pela retenção de 1 hora em vez dos 5 minutos padrão). Na prática, o Claude Sonnet lê cache a cerca de US$ 0,30 por milhão de tokens contra US$ 3,00 do token fresco, segundo a tabela pública da Anthropic.
A OpenAI faz diferente: o caching é automático e não cobra nada a mais pela gravação. Você ganha 50% de desconto nos tokens repetidos e, segundo a própria OpenAI, até 80% menos tempo até o primeiro token em prefixos longos. O gatilho é o tamanho — só entra em cache prompt acima de 1.024 tokens, nas versões recentes dos modelos GPT.
No Gemini, o Google ligou o cache implícito por padrão desde maio de 2025 para projetos pagos: se você repete contexto, provavelmente já está economizando sem saber. Há também o cache explícito, com leitura na casa de US$ 0,20 por milhão de tokens, para quando você quer garantir o desconto sobre um contexto grande reutilizado várias vezes dentro de uma janela de tempo.
A conta do ponto de equilíbrio
Gravar no cache custa mais que uma chamada normal, então caching não é de graça no primeiro uso. A regra prática da Anthropic: o ponto de equilíbrio fica em torno de 2 leituras do mesmo prefixo. A partir da segunda vez que aquele contexto é reaproveitado, você já está no lucro. Para um chatbot que responde centenas de vezes com o mesmo prompt de sistema, isso acontece em minutos.
Onde o caching realmente paga
Nem todo caso ganha igual. O cache brilha quando existe um bloco grande e estável repetido a cada chamada — é o caso clássico de um chatbot de atendimento no WhatsApp. Os cenários que mais economizam:
- Atendimento com IA: o prompt de sistema com regras, tom de voz e políticas é idêntico em toda conversa — candidato perfeito a cache.
- RAG e base de conhecimento: manuais, catálogos e FAQs longos que entram no contexto sem mudar entre uma pergunta e outra.
- Agentes que fazem várias etapas: cada passo reenvia o histórico e as instruções; sem cache, você paga o mesmo contexto dezenas de vezes numa única tarefa.
- Few-shot com muitos exemplos: aquele bloco que ensina o modelo pelo exemplo fica fixo e barato depois da primeira gravação.
Como colocar em produção sem quebrar o cache
A implementação é menos sobre código e mais sobre arrumação. A lógica é ordenar o prompt do mais estável para o mais volátil:
- Coloque o conteúdo fixo (instruções, base de conhecimento, exemplos) no começo do prompt e o que muda (a mensagem do usuário) no fim.
- Na Anthropic, marque o fim do trecho a cachear com o parâmetro cache_control; na OpenAI e no Gemini implícito, basta manter o prefixo idêntico que o cache é automático.
- Não injete timestamp, ID de sessão ou saudação personalizada no topo do prompt — qualquer variação ali invalida todo o cache seguinte.
- Meça antes e depois: acompanhe a proporção de tokens lidos em cache versus tokens frescos no painel do provedor. Taxa de acerto baixa é sinal de que seu prefixo está mudando sem você perceber.
Os erros que jogam a economia fora
O mais comum é matar o cache sem querer. Um campo dinâmico no início do prompt, a ordem dos documentos trocando a cada consulta ou um prompt de sistema que você edita a cada deploy: tudo isso zera o prefixo e você volta a pagar preço cheio. O erro oposto também dói — cachear conteúdo que muda toda hora, pagando o prêmio de gravação sem nunca chegar às 2 leituras que pagam a conta. Em projetos de automação inteligente com IA, acertar essa organização costuma ser o que separa um piloto caro de uma operação que se paga.
Cache não deixa a IA mais inteligente. Deixa ela sustentável: é a diferença entre um piloto que impressiona na demo e um sistema que aguenta milhares de conversas por dia sem estourar o orçamento.
Perguntas frequentes
Prompt caching muda a resposta do modelo?+
Não. O cache guarda o processamento do contexto, não altera o que o modelo gera. A resposta é a mesma que você teria sem cache — só que mais barata e, em prefixos longos, mais rápida de começar a sair.
Preciso programar algo para usar caching?+
Depende do provedor. Na OpenAI e no Gemini o cache implícito é automático para prompts acima de um certo tamanho; você só precisa manter o começo do prompt estável. Na Anthropic, você marca explicitamente o trecho com cache_control. Nos dois casos, o trabalho maior é organizar a ordem do prompt, não escrever código complexo.
Quanto dá para economizar de verdade?+
Varia com o quanto do seu prompt é fixo e quantas vezes ele se repete. O estudo 'Don't Break the Cache', de 2025, mediu de 41% a 80% de redução de custo em agentes com prompt de sistema grande. Quanto maior e mais repetido o contexto fixo, maior a economia.
Por quanto tempo o cache dura?+
Pouco, por padrão. Na OpenAI e na Anthropic o cache costuma expirar após 5 a 10 minutos de inatividade, e a Anthropic oferece uma opção de 1 hora por um custo de gravação maior. Em volume contínuo de chamadas, o cache se mantém quente e o desconto vira constante.
Caching serve para o meu chatbot de WhatsApp?+
Serve, e é um dos melhores casos. O prompt de sistema com as regras do atendimento é idêntico em toda conversa, então a partir da segunda mensagem o desconto já entra. Em volume, isso reduz de forma sensível o custo por atendimento.
Vale a pena se eu uso poucos tokens fixos?+
Menos. Se o seu prompt fixo é curto e a maior parte do custo vem da mensagem do usuário, o ganho é pequeno e pode não compensar o prêmio de gravação. Caching rende quando há um bloco grande e estável reaproveitado muitas vezes.
Se você já roda (ou vai rodar) IA no atendimento e não sabe quanto do seu custo é contexto repetido pago à toa, a VELTRIX faz um diagnóstico gratuito: analisamos suas chamadas, estimamos quanto o caching cortaria da fatura e mostramos onde reorganizar o prompt. Fale com a gente sobre automação com IA e veja o ganho estimado antes de mexer em uma linha de código.
Quer aplicar isso no seu negócio?
Diagnóstico gratuito com nosso time. Sem compromisso.