Prompt caching GPT-5.6 sur Amazon Bedrock : réduire les coûts
Vous exploitez GPT-5.6 sur Amazon Bedrock dans un workflow agentique et la facture de tokens grimpe plus vite que prévu. AWS a introduit le 5 août 2026 le cache explicite de prompts pour les modèles OpenAI GPT-5.6 Sol, Terra et Luna, disponibles en disponibilité générale sur Bedrock depuis le 22 juillet 2026. La promesse : une remise de 90 % sur les tokens relus depuis le cache. La réalité est plus nuancée, et dépend d'un seuil de rentabilité précis.
Ce que change le cache explicite pour vos coûts
Le principe : écrire une fois, lire souvent
Le cache explicite fonctionne sur un principe simple. Vous marquez un segment de votre prompt, typiquement les instructions système, les définitions d'outils ou un document de référence, comme éligible au cache. La première requête écrit ce segment dans le cache. Les requêtes suivantes, tant que le contenu du segment ne change pas, le relisent depuis le cache au lieu de le retraiter intégralement.
La remise de 90 % sur les lectures de cache
D'après la documentation Bedrock mise à jour au 1er août 2026, les tokens lus depuis le cache sont facturés à 10 % du tarif standard des tokens d'entrée, soit une remise de 90 %. Sur un agent qui envoie 8 000 tokens d'instructions système à chaque appel, et qui effectue des centaines d'appels par heure, l'économie théorique est réelle. Encore faut-il que le volume de lectures compense le coût d'écriture.
Implicite ou explicite : lequel choisir
Le breakpoint automatique de Bedrock
Bedrock propose deux mécanismes distincts qu'il ne faut pas confondre. Le caching implicite détecte automatiquement les préfixes répétés entre requêtes et applique un cache sans intervention de votre part. C'est pratique, mais vous ne contrôlez pas où le point de coupure (breakpoint) se situe, ni la durée de vie effective du segment mis en cache.
Marquer soi-même le préfixe stable
Le caching explicite, lui, vous laisse définir manuellement le point de coupure via la Responses API de Bedrock. Vous décidez quel bloc de votre prompt est stable d'un appel à l'autre, généralement les instructions système et les schémas d'outils, et vous le marquez comme tel. Le contrôle est plus fin, mais demande un travail de découpage du prompt que le caching implicite ne demande pas.
Le seuil de rentabilité réel
Écriture facturée 1,25x, lecture -90 %
C'est le point que la communication marketing tend à minimiser. Selon la grille tarifaire Bedrock consultée le 10 août 2026, l'écriture initiale dans le cache coûte 1,25 fois le tarif standard des tokens d'entrée. Autrement dit, la première requête qui remplit le cache est plus chère que si vous n'aviez pas utilisé le cache du tout.
Le cap des 20 % de lectures à atteindre
En croisant le surcoût d'écriture (+25 %) et la remise de lecture (-90 %), le calcul de rentabilité donne un seuil approximatif : il faut qu'au moins 20 % des tokens du segment mis en cache proviennent de lectures, et non de la première écriture, pour que l'opération devienne globalement moins chère qu'un traitement sans cache. En dessous de ce seuil, vous payez plus cher pour un service que vous n'utilisez pas assez.
La fenêtre de 30 minutes
Le cache expire après 30 minutes d'inactivité, d'après la documentation Bedrock d'août 2026. Si votre agent n'envoie pas de nouvelle requête réutilisant le même préfixe dans cette fenêtre, le cache est vidé, et la prochaine requête réécrit tout depuis zéro, au tarif majoré de 1,25x. Un workflow avec des pauses fréquentes entre appels ne dépassera jamais le seuil des 20 % de lectures.
Où le gain est le plus net : les workflows agentiques
Instructions système, définitions d'outils, documents de référence répétés
Le cache explicite trouve son terrain le plus favorable dans les architectures agentiques à haute fréquence d'appel. Un agent qui boucle sur les mêmes instructions système, les mêmes définitions de fonctions et un même document de contexte, avec des dizaines d'appels rapprochés dans la même session, dépasse rapidement le seuil des 20 % de lectures. Un chatbot support qui recharge une base de connaissances identique à chaque conversation entre dans ce cas de figure, à condition que les sessions s'enchaînent sans trou de plus de 30 minutes.
Ce que le cache ne fait pas
Pas d'effet sur les prompts uniques
Si chaque requête envoyée à GPT-5.6 contient un prompt différent, sans partie stable réutilisée, le cache ne sert à rien. Il ne compresse pas le contenu, il ne réduit pas la taille du prompt : il évite simplement de retraiter un segment identique. Pas de segment identique, pas de gain.
Expiration et coût d'écriture qui annulent le gain
Un agent à faible fréquence d'appel, ou dont les sessions sont espacées de plus de 30 minutes, paiera systématiquement le tarif d'écriture majoré sans jamais atteindre le volume de lectures nécessaire pour l'amortir. Dans ce cas, le cache explicite augmente la facture au lieu de la baisser. Il faut mesurer, pas supposer.
Disponibilité limitée par région
La disponibilité des modèles GPT-5.6 et du cache explicite varie selon les régions AWS, d'après la documentation régionale mise à jour au 1er août 2026. Avant de concevoir votre architecture, vérifiez que la région où vous déployez propose bien le cache explicite pour le modèle GPT-5.6 précis que vous ciblez, Sol, Terra ou Luna.
Le cache ne change rien à la qualité des réponses. Ce n'est pas un mécanisme d'amélioration du modèle, seulement un mécanisme de facturation des tokens déjà traités.
Par où commencer
Mesurez d'abord votre fréquence d'appel réelle sur une session type : si vous ne dépassez pas 3 à 4 appels rapprochés avec un préfixe stable en moins de 30 minutes, le cache explicite ne sera probablement pas rentable.
Identifiez le segment stable de votre prompt (instructions système, schémas d'outils, document de référence) et testez-le en caching implicite d'abord, pour observer le comportement automatique de Bedrock sans effort d'intégration.
Si le volume justifie le passage à l'explicite, marquez le point de coupure via la Responses API et suivez pendant une semaine le ratio lectures/écritures dans votre facturation Bedrock avant de généraliser à tous vos workflows.
Sources
Introducing explicit prompt caching for OpenAI GPT-5.6 models on Amazon Bedrock — AWS, AWS Machine Learning Blog, 05/08/2026
Prompt caching for faster model inference — Amazon Web Services, AWS Documentation, 01/08/2026
Amazon Bedrock Pricing — Amazon Web Services, AWS, 10/08/2026
OpenAI GPT-5.6 Sol, Terra, and Luna are now generally available on Amazon Bedrock — AWS, AWS Machine Learning Blog, 22/07/2026
Model support by AWS Region — Amazon Web Services, AWS Documentation, 01/08/2026
Cet article a été rédigé et illustré par un système d'intelligence artificielle à partir des sources citées ci-dessus, puis publié automatiquement, sans relecture humaine préalable. Si vous relevez une erreur factuelle, merci de nous la signaler.
Commentaires