La fiche technique ne décide pas, votre charge décide
Cherchez « quel GPU pour l’IA » et vous tomberez sur des classements de cartes gaming recyclés, ordonnés par FLOPS Floating-Point Operations Per Second. Métrique brute de débit de calcul flottant, en téra ou péta. Pour l'inférence LLM, c'est rarement le facteur limitant : la bande passante mémoire le devance presque toujours. Approfondir dans le glossaire ou par prix. Ces classements répondent à une question que l’inférence ne pose pas. Un LLM ne demande pas « quelle est la carte la plus puissante », il demande trois choses précises : est-ce que je tiens en mémoire, à quelle vitesse relit-on mes poids, et qui paie la facture. Ce guide déroule ces trois questions dans l’ordre où elles éliminent les candidats, puis donne les verdicts par profil, aux prix réels de juillet 2026, ceux d’un marché que la pénurie mémoire a redessinés.
La méthode tient en une phrase : la mémoire élimine, la bande passante départage, l’économie tranche.
Question 1 : combien de mémoire ?
C’est la question qui disqualifie la majorité des candidats avant tout benchmark, parce qu’elle est binaire : un modèle qui ne tient pas en mémoire ne tourne pas lentement, il ne tourne pas. Le calcul se fait en trois postes : les poids (~2 Go par milliard de paramètres en 16 bits, moitié moins en 8 bits, ~0,6 Go en 4 bits), le KV cache Mémoire des vecteurs clé et valeur déjà calculés pour chaque token traité par un LLM. Évite de recalculer l'attention sur tout l'historique, au prix d'une consommation mémoire qui croît avec le contexte. Approfondir dans le glossaire qui grandit avec le contexte et le nombre de requêtes servies, et l’overhead du runtime. La formule complète, avec les paliers carte par carte, est détaillée ici ; en voici la lecture décisionnelle.
Jusqu’à 13 B en 4 bits, 12 à 16 Go suffisent : le territoire des cartes moyennes. Un 30 B confortable ou un 70 B en quantification Réduction du nombre de bits codant chaque poids d'un modèle (de 16 bits vers 8, 4, voire moins). Elle divise l'empreinte mémoire d'autant, au prix d'une perte de précision contrôlée, sans changer le nombre de paramètres. Approfondir dans le glossaire agressive demande 24 à 32 Go : le territoire des RTX 3090/4090 d’occasion et de la RTX 5090. Le 70 B en Q4_K_M (~42 Go de poids) exige 48 Go : une carte pro, ou deux cartes de 24 Go. Au-delà, les MoE de 100 B et plus changent de règle : un MoE Mixture-of-Experts. Architecture où le réseau est découpé en de nombreux « experts » dont un routeur n'active qu'un petit sous-ensemble par token. Le calcul par token suit le nombre de paramètres actifs ; la mémoire, elle, suit le nombre total, car tous les experts doivent rester résidents en VRAM, prêts à être sollicités. Approfondir dans le glossaire n’active que quelques experts par token, mais tous ses poids doivent résider en mémoire. Jusqu’à ~200 B en 4 bits, c’est le cas d’usage exact des SoC à mémoire unifiée (RTX Spark, 128 Go) : loger un modèle énorme dont on ne lit qu’une fraction par token. Les mastodontes au-delà (400, 750 B) ne tiennent dans aucune machine de bureau : multi-GPU, ou cloud.
Question 2 : combien de bande passante ?
Voici le mécanisme qui rend les classements par FLOPS inutilisables, et il mérite d’être compris plutôt que cru. La génération d’un LLM est autorégressive : pour produire chaque token, le GPU relit l’intégralité des poids du modèle, plus le KV cache accumulé. Quelques milliards d’opérations utiles exigent de traverser des dizaines de gigaoctets de mémoire : le calcul attend la mémoire, presque jamais l’inverse. Le débit de génération a donc un plafond physique qui se calcule de tête : la bande passante mémoire divisée par les octets à relire par token. Un 70 B en FP8 Format à virgule flottante 8 bits. Format de travail polyvalent pour l'inférence (et l'entraînement) sur GPU récents. Divise par 2 l'empreinte mémoire et le débit nécessaires par rapport au FP16, pour une perte de précision marginale sur la plupart des modèles. Approfondir dans le glossaire (~70 Go) sur une carte à 1 000 Go/s plafonne vers 14 tokens/s par séquence ; la même charge sur 3 350 Go/s de HBM High Bandwidth Memory. Mémoire empilée en couches, soudée à proximité immédiate du GPU, avec une bande passante de plusieurs To/s (contre ~50 Go/s pour de la DDR5). Indispensable au-delà d'une certaine taille de modèle. Approfondir dans le glossaire vise ~48. Les FLOPS ne figurent nulle part dans cette division ; ils ne servent que le prefill Phase initiale d'une inférence LLM : tous les tokens du prompt sont traités d'un coup. Intensité arithmétique élevée, le GPU sature ses Tensor Cores. C'est l'inverse du decode qui suit. Approfondir dans le glossaire (l’ingestion du prompt) et les gros batchs, pas la vitesse ressentie d’une session.
| Système | Mémoire | Bande passante |
|---|---|---|
| RTX Spark (SoC unifié) | 128 Go LPDDR5X | ~273 Go/s |
| Mac Studio M3 Ultra | 96 Go unifiée (256/512 Go retirés) | ~819 Go/s |
| RTX 3090 (occasion) | 24 Go GDDR6X | ~936 Go/s |
| RTX 4090 (occasion) | 24 Go GDDR6X | ~1 008 Go/s |
| RTX 5090 (bureau) / RTX PRO 6000 | 32 / 96 Go GDDR7 | ~1 792 Go/s |
| H100 SXM (location) | 80 Go HBM3 | ~3 350 Go/s |
| H200 (location) | 141 Go HBM3e | ~4 800 Go/s |
| B200 (location) | 192 Go HBM3e | ~8 000 Go/s |
La lecture croisée des deux premières questions donne la vraie carte du marché : les cartes GDDR ont la vitesse mais pas la capacité, les SoC unifiés ont la capacité mais pas la vitesse, la HBM a les deux et ne s’achète pas au détail. Le pourquoi physique de cette hiérarchie est détaillé ici ; la conséquence pratique tient en une règle : choisissez la bande passante pour un modèle dense qui doit répondre vite, la capacité pour un MoE qu’il faut d’abord loger.
Question 3 : acheter, louer, ou mémoire unifiée ?
La dernière question n’est pas technique, elle est économique, et elle a sa propre arithmétique. Un GPU acheté coûte son prix plus l’électricité, l’hébergement et l’amortissement ; le calcul poste par poste est ici. Un GPU loué coûte ~2,75 à 3 €/h pour un H100 chez OVHcloud ou Scaleway, zéro capital immobilisé, zéro risque d’obsolescence. La bascule est connue : l’achat ne gagne qu’au-delà de ~50 % d’utilisation soutenue, tenue 2 à 3 ans. En dessous, la location ou l’API restent moins chères, et l’écart n’est pas marginal : un GPU utilisé 10 % du temps coûte dix fois son prix affiché au token produit.
Les verdicts par profil
| Profil | Verdict | Budget constaté |
|---|---|---|
| Découverte, 7-13 B | Carte 12-16 Go déjà possédée, ou occasion | 0 à ~500 € |
| Local sérieux, 30 B | RTX 3090 24 Go d'occasion | ≈ 800–950 € (occasion UE) |
| Local rapide, 30-70 B serré | RTX 5090 32 Go | 3 900–4 400 € (rue) |
| Capacité MoE, 100 B+ | SoC 128 Go : DGX Spark aujourd'hui, RTX Spark à l'automne | ≈ 4 323 € (4 699 $) / N1X non fixé |
| Station pro, 70 B confortable | RTX PRO 6000 Blackwell 96 Go | ≈ 12 200 € (tarif officiel) |
| Production, trafic soutenu | H100/H200/B200 loués, achat si >50 % util. | ≈ 2,75–8 €/h par GPU |
Le budget minimal sérieux reste la RTX 3090 d’occasion. Ses 24 Go logent un 30 B en 4 bits avec de la marge de contexte, ses ~936 Go/s génèrent vite, et c’est la seule carte de cette capacité sous la barre des 1 000 € : 800 à 950 € sur le marché de l’occasion européen en juillet 2026. Son âge (2020) est un non-sujet pour l’inférence : la charge est limitée par la mémoire, pas par l’architecture des cœurs. La 4090 d’occasion offre ~8 % de bande passante en plus, mais à ~2 240 € (au-dessus de son propre MSRP de lancement, une anomalie de pénurie), elle coûte 2,5 fois la 3090 pour le même palier mémoire. Quant à la RTX 5080 neuve (1 150 à 1 300 €), ses 16 Go la cantonnent aux 13 B : pour le LLM, l’occasion 24 Go la bat partout. Hors NVIDIA, une Radeon RX 7900 XTX 24 Go (950 à 1 270 € neuve) offre le même palier mémoire via ROCm ou Vulkan, au prix des frictions logicielles décrites ici.
La RTX 5090 est le choix vitesse, au prix 2026. 32 Go, ~1 792 Go/s, le double d’une 3090 en débit de génération. Son problème n’est pas technique, il est tarifaire : 2 099 € de MSRP devenus 3 900 à 4 400 € en rue, pénurie GDDR7 oblige. Face à un H100, elle tient mieux qu’on ne croit sur le LLM local ; face à un 70 B en Q4_K_M, ses 32 Go déclarent forfait. Et à prix de rue désormais équivalent au DGX Spark, leur duel direct se tranche par taille de modèle. Méfiez-vous du nom sur portable : la RTX 5090 Laptop est une autre puce (GB203, 24 Go à ~896 Go/s), à lire comme une carte 24 Go, pas comme la 5090 de bureau.
Les 100 B+ se jouent en mémoire unifiée, et la pénurie vient d’y rebattre les cartes. Un GPT-OSS 120B (~65 Go de poids en MXFP4, ~80 Go une fois le cache et le runtime posés) n’entre dans aucune carte grand public. Le seul SoC 128 Go achetable aujourd’hui est le DGX Spark à 4 699 $ (≈ 4 323 €, MSRP relevé en février 2026, pénurie oblige), en acceptant le mur des 273 Go/s : lent sur du dense, pertinent sur du MoE où chaque token ne lit qu’une fraction des poids. Son cousin grand public RTX Spark, attendu à l’automne, devrait coûter moins ; mais les ~2 899 $ d’estimations d’analystes qui circulent concernent ses configurations d’entrée (16 à 32 Go), pas la version 128 Go, dont le prix n’est pas connu. Le Mac Studio M3 Ultra triple cette bande passante (~819 Go/s), sans CUDA Compute Unified Device Architecture. La plateforme de calcul GPU de NVIDIA : langage, compilateur et bibliothèques (cuBLAS, cuDNN). Son écosystème logiciel est le principal verrou face aux alternatives comme ROCm ; à l'exécution, son « contexte » réserve aussi une part incompressible de VRAM. Approfondir dans le glossaire ni FP4 Format à virgule flottante 4 bits, frontière 2026 de l'inférence à haut débit. Quatre fois moins de mémoire que le FP16, mais une portée dynamique très étroite : ne tient qu'avec un scaling fin via formats à blocs (MXFP4, NVFP4). Approfondir dans le glossaire matériel, mais Apple lui a coupé les ailes en cours de pénurie : les options 256 et 512 Go ont été retirées du catalogue au printemps 2026, et la base est passée de 3 999 à 5 299 $ pour 96 Go plafonnés. La grande capacité unifiée neuve sous la barre des 5 000 € n’a plus qu’une famille : les Spark.
La station pro à 96 Go a changé de prix, pas de rôle. La RTX PRO 6000 Blackwell loge un 70 B en Q4_K_M sans partitionnement, avec la bande passante GDDR7 pleine. NVIDIA la liste désormais à 13 250 $ (~12 200 €), contre ~8 565 $ au lancement : +55 % pour le même silicium, le prix de 96 Go de GDDR7 en 2026.
En production, on loue d’abord, on achète si les chiffres l’exigent. La grille de location France/Europe démarre à ~2,75 €/h le H100 ; l’achat d’un nœud 8 GPU (340 000 à 560 000 € selon le canal) ne se rembourse qu’en 24 à 39 mois de charge continue. Et si votre pile n’est pas mariée à CUDA, l’alternative AMD/ROCm mérite le détour au moment du devis, plus pour négocier que pour migrer.
Le piège 2026 : la pénurie a réécrit les prix
Un guide d’achat 2026 qui ne parle pas de la pénurie mémoire est un guide de 2024. Les contrats DRAM ont bondi de 90 à 95 % au premier trimestre 2026, les fabricants ayant réalloué leurs lignes vers la HBM des GPU datacenter, et la capacité nouvelle n’arrivera pas avant fin 2027. Les conséquences concrètes pour l’acheteur : le prix de rue a divorcé du MSRP (la 5090 s’en écarte de +86 à +110 %), l’occasion se négocie au-dessus du neuf d’origine (une RTX 4090 de 2022 se revend plus cher que son prix de lancement, situation sans précédent), et les tarifs officiels eux-mêmes montent en cours de vie produit (RTX PRO 6000 : +55 %). Deux règles de survie en découlent : datez chaque prix au jour près avant de décider, et méfiez-vous de l’intuition « j’attends la baisse » : elle suppose un cycle normal, et ce marché n’en est pas un.
Comment décider en cinq minutes
Répondez aux trois questions dans l’ordre. Quel est le plus gros modèle que je veux servir, et en quelle précision ? Cela donne les gigaoctets, qui éliminent la majorité du tableau. Est-il dense ou MoE, et à quelle vitesse doit-il répondre ? Dense et rapide : bande passante GDDR/HBM. MoE volumineux : capacité unifiée. Ma charge est-elle soutenue et durable ? Si non, louez d’abord et mesurez ; si oui, le calcul d’amortissement complet dira si l’achat se défend. Celui qui répond honnêtement à ces trois questions choisit la même carte que l’ingénieur qui aurait lu toutes les fiches techniques, en cinq minutes au lieu de cinq soirées.
Conclusion
Le bon GPU de 2026 n’est pas une référence, c’est une intersection : celle de votre modèle (mémoire), de votre latence cible (bande passante) et de votre profil de charge (économie). La pénurie ne change pas la méthode, elle en durcit la troisième branche : acheter aujourd’hui, c’est acheter au plus haut connu de la mémoire, en échange d’une immunité contre la suite. La question à se reposer dans douze mois n’est donc pas « quelle carte est sortie », mais : la LPDDR6 des SoC et la détente DRAM annoncée pour fin 2027 auront-elles déplacé la frontière entre capacité et vitesse ? Si oui, le tableau 1 de ce guide sera à relire ligne à ligne, et nous le mettrons à jour.
Sources et méthode
Relevés du 3 et 4 juillet 2026. Marché en pénurie : chaque prix est un instantané, daté, à re-vérifier le jour de votre décision.
Faits vérifiés. Bandes passantes et capacités mémoire (tableau 1) : fiches constructeur NVIDIA (RTX 3090/4090/5090, RTX PRO 6000, H100, H200, B200), fiche DGX Spark/GB10 pour les ~273 Go/s, spécifications Apple pour les ~819 Go/s du M3 Ultra. Tarif officiel RTX PRO 6000 : 13 250 $, page produit NVIDIA (relayée par VideoCardz et Wccftech, juillet 2026), lancement à ~8 565 $ en mars 2025. Hausse des contrats DRAM (+90 à 95 % T1 2026) : TrendForce. Règles de dimensionnement mémoire (2 Go/Md en FP16, ~4,8 bits effectifs en Q4_K_M) : formats IEEE 754/bfloat16 et documentation llama.cpp, détaillées dans notre guide VRAM.
Estimations crédibles. Prix de rue RTX 5090 UE (3 900 à 4 400 €) : relevés marchands agrégés (bestvaluegpu, VideoCardz) du 3 juillet 2026. Marché de l’occasion (RTX 3090 ≈ 800 à 950 € UE ; RTX 4090 ≈ 2 240 € UE, au-dessus de son MSRP de lancement) : médianes eBay et petites annonces agrégées (bestvaluegpu UE, resaleprices US, relevés Kleinanzeigen), 4 juillet 2026 ; le marché US cote nettement au-dessus de l’UE (3090 ≈ 1 050 à 1 250 $). Prix de rue RTX 5080 (1 150 à 1 300 €) et RX 7900 XTX (950 à 1 270 €) : Geizhals et bestvaluegpu, 4 juillet 2026, avant la hausse d’environ 10 % annoncée par AMD à ses partenaires (TechPowerUp). Catalogue Mac Studio : boutique Apple (M3 Ultra base 5 299 $, 96 Go maximum) recoupée avec la couverture presse du retrait des options 512 Go (mars 2026, Tom’s Hardware) et 256 Go (mai 2026) ; les ~819 Go/s décrivent toujours le silicium M3 Ultra. Prix des SoC 128 Go : DGX Spark à 4 699 $ (≈ 4 323 €), MSRP officiel relevé de 3 999 $ en février 2026 (Tom’s Hardware, VideoCardz) ; RTX Spark N1X : estimations d’analystes à partir de ~2 899 $ pour les configurations d’entrée 16 à 32 Go (Morgan Stanley, juin 2026, non confirmées par NVIDIA), prix de la version 128 Go inconnu à ce jour. Location H100 (2,75 à 3 €/h) : pages tarifaires OVHcloud/Scaleway re-vérifiées le 20 juin 2026, détail dans le dossier GPU cloud. Achat nœud 8 GPU (340 000 à 560 000 €) et bascule 24 à 39 mois : voir le dossier serveur GPU et ses sources.
Hypothèses assumées. Les plafonds de tokens/s cités (14 tokens/s à 1 000 Go/s, ~48 à 3 350 Go/s pour un 70 B FP8) sont des divisions bande passante ÷ poids, un plafond mémoire par séquence unique, pas un débit applicatif : le batching continu Ordonnancement à l'itération : ajouter et retirer des requêtes du batch à chaque pas de génération, au lieu d'attendre qu'un batch entier se termine. Formalisé par Orca (OSDI 2022), popularisé par vLLM. Multiplie par 2 à 4 le débit d'un serveur d'inférence sous forte concurrence. Approfondir dans le glossaire et la quantification du cache déplacent le débit réel. Les seuils de profil (13 B dans 16 Go, 30 B dans 24 Go) supposent 4 bits et un contexte modéré ; un contexte long ajoute le KV cache au calcul.
Conversion de devise. Prix USD convertis au taux indicatif 1 USD = 0,92 EUR (mi-2026) ; les prix de détail européens peuvent différer (TVA, marges).
Crédit image. Photo d’en-tête : die shot infrarouge du package AD102 (GeForce RTX 4090) par Fritzchens Fritz, CC0, via Wikimedia Commons, recadrée.
