A Anthropic liberou em beta público o recurso message threads na Messages API da Claude Platform. Com ele, agentes deixam de reenviar todo o histórico da conversa a cada turno e passam a mandar apenas as mensagens novas, o que diminui a latência em sessões longas.
Um agente de programação pode fazer centenas de requisições numa mesma sessão, e cada uma carregava de novo todas as mensagens e resultados de ferramentas anteriores. Segundo a empresa, com o recurso ativado por padrão para a maioria dos usuários do Claude Code, requisições entre 500 mil e 1 milhão de tokens tiveram queda mediana de cerca de 35% no tempo até o primeiro token.
Para usar, basta incluir o parâmetro de thread: a primeira chamada envia a conversa inteira e abre a thread, e as seguintes levam só as novidades e o ID da resposta anterior. A thread fica em memória, criptografada e sem gravação em disco, e expira cinco minutos após a última requisição.
O consumo de tokens não muda, já que o modelo continua lendo toda a conversa, e valem os preços e limites normais. O recurso está disponível na Claude Platform, na AWS, no Microsoft Foundry e no Google Cloud, e é indicado para agentes de código, agentes de uso de computador e fluxos com muitos documentos e imagens.
Fonte: Claude