Deixar agentes de sessão longa mais rápidos. O primeiro pedido leva a conversa completa e os seguintes levam só o que é novo e o ID da resposta anterior. A Anthropic diz que o tempo até o primeiro token cai cerca de 35% em pedidos de 500 mil a 1 milhão de tokens. No Claude Code já vem ligado para a maioria dos usuários.

Rode o comando abaixo na raiz do seu projeto para achar onde o seu agente chama a Messages API. Anote os pontos que reenviam o histórico inteiro e leia a documentação de message threads.

Evite se o seu fluxo depende de recursos que a documentação e a cobertura apontam como incompatíveis com threads, como Message Batches e contagem de tokens. A thread expira 5 minutos após o último pedido, então o app precisa guardar o histórico completo para reenviar. O consumo de tokens não diminui, só a latência.