Les trois façons de payer l’inférence
Servir un modèle de langage, c’est choisir entre trois modèles économiques qui ne font pas porter le risque sur la même partie. L’API : un fournisseur héberge le modèle sur son infrastructure, vous payez à l’usage : au token consommé en entrée, au token produit en sortie. Le GPU cloud auto-hébergé : vous louez des GPU à l’heure chez un fournisseur, vous y déployez votre propre pile d’inférence (vLLM, TensorRT-LLM, llama.cpp), vous payez l’heure de carte même quand elle ne sert pas. Le local : vous achetez le matériel une fois et l’amortissez sur sa durée d’usage.
L’erreur classique consiste à comparer un prix au token à un prix horaire de GPU. Ces deux unités ne se rejoignent qu’au bout d’une chaîne d’hypothèses : combien de tokens votre runtime extrait par seconde du GPU, à quel taux d’occupation vous le tenez, ce que coûte la pile autour. Voici comment cette chaîne se déroule en pratique, et où elle bascule d’un modèle à l’autre.
L’API : simple, et moins chère qu’on ne le croit
Le prix des API a été emporté par ce que les analystes appellent la « LLMflation » : le coût d’une capacité équivalente (pas du même modèle, mais d’un modèle qui sait faire les mêmes choses) a chuté d’environ 10× par an entre 2021 et 2025. Voici le mécanisme derrière le chiffre : à chaque génération, des modèles plus petits et mieux entraînés rattrapent l’ancien haut de gamme, l’efficacité des runtimes progresse, et les fournisseurs répercutent. Un modèle de niveau GPT-4, dont les tokens de sortie étaient facturés autour de 55 € par million début 2023, se trouve aujourd’hui sous 1 € pour la même classe de capacité. Le rythme devrait ralentir au-delà de 2026 (Epoch AI note qu’il n’y a pas de consensus sur le maintien d’une telle pente), mais la direction est tracée.
Mi-2026, les ordres de grandeur du marché, entrée / sortie, par million de tokens :
| Classe de modèle | Entrée / M tokens | Sortie / M tokens | Usage typique |
|---|---|---|---|
| Premium (raisonnement) | ≈ 2,30–4,60 € | ≈ 13,80–23 € | Tâches complexes, agents |
| Milieu de gamme | ≈ 0,45–1,85 € | ≈ 2,75–11 € | Production généraliste |
| Léger / rapide | ≈ 0,05–0,23 € | ≈ 0,37–1,85 € | Classification, extraction, volume |
Pour la grande majorité des projets (prototypes, produits à trafic modéré, charges irrégulières), l’API est le choix qui s’autovalide : pas de GPU à provisionner, pas de pile à maintenir, une élasticité que vous n’avez pas à construire. Une charge qui double du jour au lendemain ne fait que doubler votre facture du mois ; sur un GPU loué, elle saturerait votre instance et il faudrait en provisionner une seconde. La question d’un seuil de bascule ne se pose que quand le volume est à la fois élevé et régulier : c’est cette deuxième condition qui fait basculer l’arbitrage, pas la première.
Le coût réel d’un GPU loué
C’est ici que la plupart des comparaisons dérapent. Le prix horaire affiché, mi-2026 autour de 2,75 €/h pour un HBM High Bandwidth Memory. Mémoire empilée en couches, soudée à proximité immédiate du GPU, avec une bande passante de plusieurs To/s (contre ~50 Go/s pour de la DDR5). Indispensable au-delà d'une certaine taille de modèle. Approfondir dans le glossaire chez les grands fournisseurs, n’est qu’un point de départ. Pour le rejoindre au prix d’un token API, il faut passer par une fonction à plusieurs étages :
Voici comment lire cette équation, étage par étage, et pourquoi le numérateur compte moins que le dénominateur.
L’utilisation est le facteur dominant, et personne ne loue un GPU à 90 %. Le prix horaire ne fait pas la distinction entre une carte qui produit 4 000 tokens/seconde et une carte qui en produit 400 : vous payez l’heure dans les deux cas. Concrètement : un H100 loué 2,75 €/h qui sort en moyenne 4 000 tokens/seconde, ça fait ~0,00019 € pour 1 000 tokens, du même ordre que les tarifs API léger/rapide. Le même GPU à 10 % d’occupation produit 400 tokens/seconde et coûte dix fois plus au token. C’est exactement la raison d’être du batching continu Ordonnancement à l'itération : ajouter et retirer des requêtes du batch à chaque pas de génération, au lieu d'attendre qu'un batch entier se termine. Formalisé par Orca (OSDI 2022), popularisé par vLLM. Multiplie par 2 à 4 le débit d'un serveur d'inférence sous forte concurrence. Approfondir dans le glossaire d’un runtime comme vLLM : il fusionne dans un seul forward toutes les requêtes en vol, ce qui maintient le GPU à 90 %+ d’occupation là où un serveur naïf, une requête à la fois, plafonne autour de 40 %. Le coût par token suit l’inverse de l’occupation, pas le prix horaire.
L’overhead opérationnel s’ajoute au prix de location et ne disparaît pas quand le GPU dort. Réseau, stockage, orchestration Kubernetes, supervision : comptez typiquement 1,85 à 6,45 €/h en plus du GPU nu, et ces euros tournent 24 h/24 que la carte serve une requête ou aucune. Un H100 isolé tout compris revient à ~4,60–9,20 €/h ; un nœud 8×H100 réellement exploité revient à ~23 à 30 €/h une fois les interconnexions NVLink Interconnexion propriétaire NVIDIA entre GPU. NVLink 5 (Blackwell) atteint 1,8 To/s par GPU ; NVLink 6 (Rubin) double à 3,6 To/s. Permet à plusieurs cartes de partager leur mémoire et de se comporter quasi comme un seul accélérateur. Approfondir dans le glossaire internes et l’orchestration prises en compte.
Le temps d’ingénieur est un coût, pas un détail. Maintenir une pile d’inférence (mises à jour de runtime, drivers, incidents de production à 3 h du matin, ré-équilibrage du KV cache Mémoire des vecteurs clé et valeur déjà calculés pour chaque token traité par un LLM. Évite de recalculer l'attention sur tout l'historique, au prix d'une consommation mémoire qui croît avec le contexte. Approfondir dans le glossaire quand le trafic évolue) mobilise 20 à 30 % d’un ingénieur senior, soit ~2 750 à 5 500 €/mois qu’aucune ligne de facture cloud n’affiche. Sur un GPU à 2 750 €/mois de location nue, vous venez de doubler le coût réel.
Mettons tout bout à bout sur un cas concret. Un H100 en production, runtime KV cache Mémoire des vecteurs clé et valeur déjà calculés pour chaque token traité par un LLM. Évite de recalculer l'attention sur tout l'historique, au prix d'une consommation mémoire qui croît avec le contexte. Approfondir dans le glossaire bien réglé, débit utile soutenu : 2,75 €/h de GPU + ~3 €/h d’overhead + ~5 €/h d’ingénieur amorti, soit ~11 €/h tout compris, ~8 000 €/mois. Le seuil de bascule dépend ensuite de la classe d’API contre laquelle vous arbitrez : face à un milieu de gamme à ~6 €/M tokens de sortie, il faut produire de l’ordre de 1,3 milliard de tokens/mois pour rejoindre la facture ; face à un tarif léger à ~1 €/M, il faut près de 8 milliards ; face au plus bas à ~0,4 €/M, plus de 20 milliards par mois. Autrement dit : le seuil n’est pas un volume absolu, c’est un taux d’occupation à comparer au prix d’API que vous évitez. Si votre profil de trafic ne tient pas le GPU sous tension la majorité du temps, et que votre charge se rabat sur les tarifs API les moins chers, l’API reste moins chère, même à plusieurs centaines de millions de tokens/jour.
Calculez votre point de bascule
Le seul calcul qui compte est le vôtre : votre profil de trafic, votre modèle, votre tolérance au pic. L’outil ci-dessous compare, pour un volume donné, le coût mensuel d’une API au coût d’un GPU auto-hébergé en tenant compte de l’utilisation réelle et de l’overhead, pour éviter la comparaison piégée prix-au-token contre prix-horaire.
La règle empirique qui s’en dégage : l’auto-hébergement bascule au-delà de ~50 % d’utilisation soutenue et d’environ 10 millions de tokens par jour et par GPU. En dessous, l’API gagne, et le calcul ne tient même pas compte du risque évité, ni du temps qu’aurait pris la mise en production d’une pile maison.
Le local : « gratuit », vraiment ?
Faire tourner un modèle sur sa propre machine donne l’illusion de la gratuité : le matériel est déjà là, l’électricité « ne se voit pas » dans la facture mensuelle. C’est un mauvais calcul tant qu’on ne l’amortit pas explicitement. Une carte payée 4 000 € (le prix de rue réel d’un haut de gamme mi-2026, pénurie mémoire oblige) qui produit pendant trois ans représente ~110 €/mois d’amortissement seul, auxquels s’ajoutent de ~25 €/mois (8 h par jour) à plus de 90 €/mois (charge continue) d’électricité, un ordre de grandeur qui ne se compare pas à « zéro ». Le détail poste par poste (achat, énergie, hébergement) est chiffré dans notre dossier sur le coût d’un serveur GPU.
Une RTX 5090 (32 Go de GDDR7, 2 099 € de MSRP devenus 3 900 à 4 400 € en rue mi-2026) fait tourner un modèle quantifié de ~30 milliards de paramètres, voire un 70 B en 4 bits. À usage personnel intensif, son amortissement sur deux ou trois ans peut passer sous le coût d’une API à charge équivalente. Mais le local ne se justifie que sur trois critères qui ne se chiffrent pas en euros : la confidentialité (la donnée ne sort pas du LAN), la latence (pas d’aller-retour réseau, ce qui change la sensation d’usage en interactif), et l’indépendance (pas de fournisseur qui peut couper le service ou monter ses prix). Si aucun des trois ne prime, le local est rarement le choix rationnel en production : l’opération vous coûte essentiellement votre temps.
Ce que la pénurie de GPU change
Le marché 2026 n’est pas un marché normal et il faut intégrer ça dans tout arbitrage. La demande dépasse l’offre sur tout le haut de gamme : début 2026, la capacité de location H100/H200/B200 était quasi introuvable, les hyperscalers ayant préempté l’essentiel des allocations Blackwell sortantes. Le goulot d’étranglement n’est pas la lithographie du GPU lui-même : c’est le packaging CoWoS Chip-on-Wafer-on-Substrate. Technologie de packaging avancée de TSMC qui empile la HBM et la puce GPU sur un même substrat. C'est elle (pas la lithographie) qui est le vrai goulot de la production GPU IA en 2026 : la capacité CoWoS est réservée jusqu'à mi-2027. Approfondir dans le glossaire de TSMC, l’étape qui soude la HBM High Bandwidth Memory. Mémoire empilée en couches, soudée à proximité immédiate du GPU, avec une bande passante de plusieurs To/s (contre ~50 Go/s pour de la DDR5). Indispensable au-delà d'une certaine taille de modèle. Approfondir dans le glossaire à côté du die, et dont la capacité reste réservée jusqu’à mi-2027.
Comment décider
| Critère | API | GPU cloud auto-hébergé | Local |
|---|---|---|---|
| Volume cible | Faible à moyen | Élevé et régulier | Personnel / dev |
| Mise en route | Immédiate | Jours à semaines | Achat matériel |
| Coût à faible charge | Excellent | Mauvais | Mauvais (non amorti) |
| Coût à forte charge soutenue | Moyen | Excellent | Bon (si amorti) |
| Confidentialité / souveraineté | Limitée | Bonne | Totale |
| Charge d'exploitation | Nulle | Élevée | Moyenne |
Posez les questions dans cet ordre. Quel volume, et à quelle régularité ? En dessous de quelques millions de tokens par jour, restez sur l’API ; le coût d’exploitation d’une pile maison vous coûtera plus que la facture évitée. La confidentialité ou la souveraineté sont-elles contraignantes ? Si oui, l’auto-hébergement, idéalement chez un fournisseur européen, devient un sujet même à coût égal ; aucune API ne vend une garantie de résidence des données. Avez-vous l’équipe pour exploiter une pile d’inférence ? Si non, le coût d’ingénierie effacera l’économie sur le GPU, et vous le découvrirez à la première mise à jour de driver qui casse votre runtime un vendredi soir.
Conclusion
Le coût d’inférence n’est pas un prix, c’est une fonction du volume, de l’utilisation et de l’exploitation, et la pente de la LLMflation déplace son point d’équilibre chaque trimestre. La vraie question à se poser n’est donc pas « API ou auto-hébergement aujourd’hui », mais : à quel volume et à quelle régularité votre charge sera-t-elle dans douze mois ? Si vous bâtissez une pile maison pour un seuil de bascule qu’un prochain tarif API repoussera de six mois, vous courez derrière une cible mouvante. Si vous restez sur API alors que votre charge se stabilise à plusieurs centaines de millions de tokens/jour, vous payez à un fournisseur ce que votre propre GPU produirait pour moitié. Le calcul complet, celui qui inclut l’utilisation réelle, l’overhead et l’ingénieur, est le seul qui dise lequel des deux scénarios est le vôtre.
Sources et méthode
Calculateur ouvert. Le comparateur API vs GPU loué vs matériel possédé, avec la formule complète : llm-inference-cost (démo).
Prix API et tendance « LLMflation » : trackers de prix publics (BenchLM, CloudZero), a16z, Welcome to LLMflation, Epoch AI, LLM inference price trends, relevés du 14 mai 2026. Prix de location GPU : pages tarifaires publiques OVHcloud, Scaleway, Lambda, RunPod, CoreWeave (EU re-vérifiés le 20 juin 2026, tarifs volatils), recoupés avec le dataset ouvert lecompute-benchmarks. Structure de coût de l’auto-hébergement et seuils de bascule : analyses publiques d’économie unitaire de l’inférence (Introl, Silicon Data, SitePoint, 2025–2026) : il s’agit d’ordres de grandeur et d’estimations crédibles, pas de chiffres garantis : ils dépendent du modèle, du runtime et de la configuration. Tension d’approvisionnement et packaging CoWoS : SemiAnalysis, 2026. Prix de rue RTX 5090 UE (3 900 à 4 400 €, contre 2 099 € de MSRP) : relevés marchands agrégés du 3 juillet 2026 (bestvaluegpu, VideoCardz), gonflés par la pénurie DRAM ; voir le dossier serveur GPU pour le contexte.
Conversion de devise : les prix originalement en USD ont été convertis en euros au taux indicatif 1 USD = 0,92 EUR (taux mi-2026) ; les prix de détail européens peuvent différer (TVA, marges locales).
