top of page


7 juil.7 min de lecture
Derniers écrits


23 545 tokens par requête : mesurer le coût du re-prefill dans les agents de code
Ce que j'ai mesuré. Ce que j'ai appris. Ce que ça implique pour le design du KV cache. En 2026, les équipes d'ingénierie se réveillent avec des factures LLM qui rivalisent avec leur infrastructure cloud. Une part significative de ce coût ne va pas dans du travail nouveau — il va dans le retraitement du même contexte, tour après tour, conversation après conversation. J'ai voulu mesurer exactement combien. J'ai donc configuré Claude Code pour pointer vers mon propre runtime d'i
6 juil.8 min de lecture
bottom of page