Deux cartes qui ne jouent pas dans la même cour
Comparer une RTX 5090 et un H100 a quelque chose de trompeur. Ce ne sont pas deux variantes du même produit, ce sont deux réponses à deux questions différentes : tout le silicium qui les distingue découle de ce choix initial.
La RTX 5090 est une carte grand public, vendue ~2 099 €, conçue pour tenir dans un boîtier de bureau sur une alimentation domestique. Elle utilise de la GDDR7 montée sur PCB classique, parce qu’elle doit rester abordable et démontable.
Le H100 SXM (le format module datacenter de NVIDIA, soudé sur un mezzanine au lieu du PCIe classique) est à plus de 33 000 €, avec refroidissement liquide intégré au châssis. Il embarque de la HBM High Bandwidth Memory. Mémoire empilée en couches, soudée à proximité immédiate du GPU, avec une bande passante de plusieurs To/s (contre ~50 Go/s pour de la DDR5). Indispensable au-delà d'une certaine taille de modèle. Approfondir dans le glossaire empilée, de l’ECC (Error-Correcting Code mémoire, qui corrige les bit-flips silencieux), et le tissu NVLink Interconnexion propriétaire NVIDIA entre GPU. NVLink 5 (Blackwell) atteint 1,8 To/s par GPU ; NVLink 6 (Rubin) double à 3,6 To/s. Permet à plusieurs cartes de partager leur mémoire et de se comporter quasi comme un seul accélérateur. Approfondir dans le glossaire pour s’assembler à 8 GPU par nœud : toutes choses qu’on n’achète qu’à plusieurs dizaines de milliers d’euros la pièce.
La vraie question n’est donc pas « lequel est le meilleur », c’est « lequel pour quoi ». Pour faire tourner un LLM en local, sur un poste mono-utilisateur, la réponse rationnelle est presque toujours la 5090. Le H100 sert de plafond de référence pour comprendre ce qu’on achète, pas de décision d’achat pour un bureau.
Ce que la RTX 5090 change concrètement
L’inférence LLM en génération est limitée par la bande passante mémoire, pas par les FLOPS Floating-Point Operations Per Second. Métrique brute de débit de calcul flottant, en téra ou péta. Pour l'inférence LLM, c'est rarement le facteur limitant : la bande passante mémoire le devance presque toujours. Approfondir dans le glossaire . Chaque token relit l’intégralité des poids et tout le KV cache Mémoire des vecteurs clé et valeur déjà calculés pour chaque token traité par un LLM. Évite de recalculer l'attention sur tout l'historique, au prix d'une consommation mémoire qui croît avec le contexte. Approfondir dans le glossaire accumulé, et le GPU passe l’essentiel de son temps à attendre la mémoire. Voici pourquoi la 5090 compte concrètement : son apport principal n’est pas le nombre de cœurs CUDA mais le passage à la GDDR7.
| Caractéristique | RTX 4090 | RTX 5090 | H100 SXM |
|---|---|---|---|
| VRAM | 24 Go GDDR6X | 32 Go GDDR7 | 80 Go HBM3 |
| Bande passante | ≈ 1,0 To/s | ≈ 1,79 To/s | ≈ 3,35 To/s |
| FP8 (Tensor, pic) | ≈ 330 TFLOPS | ≈ 838 TFLOPS | ≈ 1 979 TFLOPS |
| FP4 | Non | Oui (Tensor 5ᵉ gén.) | Non (Hopper) |
| TDP | 450 W | 575 W | jusqu'à 700 W |
| Prix indicatif | n/a | ≈ 2 099 € (achat) | ≈ 33 000 €+ / ~2,75 €/h |
Le saut le plus utile n’est pas le nombre de cœurs : c’est le passage à la GDDR7 et à ~1,79 To/s de bande passante, contre ~1 To/s sur la 4090. Voici ce que ça donne concrètement : si la 4090 lit ses 24 Go de poids en environ 24 ms par token (24 Go ÷ 1 To/s), la 5090 lit ses 32 Go en 18 ms (32 Go ÷ 1,79 To/s). Pour un même modèle, le facteur 1,79 sur la bande passante se traduit presque directement en tokens/s générés. S’ajoutent 8 Go supplémentaires (32 contre 24), qui changent la classe de modèle accessible, et la prise en charge du FP4 Format à virgule flottante 4 bits, frontière 2026 de l'inférence à haut débit. Quatre fois moins de mémoire que le FP16, mais une portée dynamique très étroite : ne tient qu'avec un scaling fin via formats à blocs (MXFP4, NVFP4). Approfondir dans le glossaire par les Tensor Cores Unités matérielles spécialisées dans les multiplications de matrices à basse précision, introduites par NVIDIA avec Volta (2017). Chaque génération ajoute des formats supportés : FP16 → FP8 (Hopper) → FP6/FP4 (Blackwell). Ce sont elles qui exécutent l'essentiel du calcul d'inférence. Approfondir dans le glossaire de 5ᵉ génération, utile dès qu’un runtime sait l’exploiter.
Ce qui tient dans 32 Go
La question pratique n’est pas « quelle carte est la plus rapide » mais « quel modèle y tient, et avec quelle marge ». La réponse découle d’une arithmétique simple, qu’il vaut la peine de poser pour décider en connaissance de cause.
Reprenons la mécanique. Le budget VRAM d’une 5090 se ventile en trois postes : les poids du modèle, le KV cache, et un overhead runtime de quelques centaines de méga-octets (kernels, buffers d’activation, scratchpad). Sur un modèle ~30 B quantifié en Q4_K_M (format GGUF de llama.cpp, quantification 4 bits par paramètre avec blocs mixtes), les poids pèsent environ 17 Go. Reste 15 Go pour le cache et l’overhead, assez pour servir un contexte de 8 000 tokens avec marge confortable, ou un contexte de 32 000 si on accepte de descendre à un seul utilisateur sans batching. À l’inférence single-stream, on tourne à plusieurs dizaines de tokens/s sur un Mistral 30 B ou un Qwen 32 B en Q4 : l’usage local typique.
Le modèle 70 B est l’autre côté de la frontière. En Q4_K_M il pèse ~40 Go, soit 8 Go au-delà de la VRAM. Trois options s’ouvrent, et aucune n’est gratuite. Descendre à Q3_K_M (~3,5 bits/param, soit ~31 Go) laisse la place, mais la perplexité monte sensiblement, et sur les tâches de code ou de raisonnement la dégradation se voit. Descendre encore à Q2_K (~2,5 bits) tient en VRAM mais le modèle commence à hallucinier des structures. Ou bien on garde Q4_K_M et on décharge les couches excédentaires sur la RAM CPU via llama.cpp : fonctionnel, mais chaque token devient pénalisé par le bus PCIe (≈ 64 Go/s en gen 5) et le débit s’effondre, typiquement d’un ordre de grandeur. C’est la limite réelle d’une carte grand public 32 Go, et seul un saut à 48 ou 64 Go de VRAM la repousserait : vu les segments de marché NVIDIA, cette capacité reste cantonnée aux RTX A-series et au datacenter, ou aux SoC à mémoire unifiée comme le RTX Spark, qui troque la bande passante contre 128 Go de capacité. Ce match n’est d’ailleurs qu’une case du tableau : le panorama complet, budget par budget, est dans quel GPU pour un LLM en 2026.
Le H100, et pourquoi vous n’en achèterez pas
Sur le papier, le H100 écrase la 5090 : 80 Go de HBM3 à ~3,35 To/s, un débit FP8 Format à virgule flottante 8 bits. Format de travail polyvalent pour l'inférence (et l'entraînement) sur GPU récents. Divise par 2 l'empreinte mémoire et le débit nécessaires par rapport au FP16, pour une perte de précision marginale sur la plupart des modèles. Approfondir dans le glossaire plusieurs fois supérieur, l’ECC, le NVLink. Chacun de ces avantages a sa raison d’être, et chacune renvoie au datacenter, pas au poste de bureau.
Les 80 Go de HBM tiennent des dizaines de KV caches en parallèle, donc batchent des dizaines d’utilisateurs sans concession. Le FP8 sert quand on a un Tensor Core saturable, donc en prefill Phase initiale d'une inférence LLM : tous les tokens du prompt sont traités d'un coup. Intensité arithmétique élevée, le GPU sature ses Tensor Cores. C'est l'inverse du decode qui suit. Approfondir dans le glossaire massif sur des prompts longs. L’ECC corrige les bit-flips silencieux qui invalident un calcul après plusieurs heures, irréversible en production. Le NVLink permet à 8 cartes du même nœud de partager leur mémoire et de servir un modèle 405 B qui ne tient sur aucune carte individuelle.
Le H100 reste pertinent, mais en location, pour de la production servie à plusieurs. À ~2,75 €/h chez les fournisseurs cloud, on l’utilise quand on en a besoin sans immobiliser 33 000 € de capital. Le calcul payback parle de lui-même : pour amortir l’achat il faudrait 12 000 heures d’utilisation pleine soit 16 mois 24/7 : un usage que seul un service en production justifie. La règle se résume en deux gestes : on loue un H100 pour servir, on achète une 5090 pour développer et faire tourner en local.
Le verdict par usage
| Usage | Choix | Pourquoi |
|---|---|---|
| LLM local, mono-utilisateur | RTX 5090 | 32 Go suffisent pour ~30 B quantifié ; ~2 099 € |
| Développement / prototypage | RTX 5090 | Itération locale, pas de facture horaire |
| Service multi-utilisateurs | H100 (loué) | Mémoire, batch, NVLink, sans immobilisation de capital |
| Modèles > 30 B en qualité | H100 (loué) | 80 Go évitent la quantification destructrice |
| Confidentialité stricte | RTX 5090 | La donnée ne quitte jamais la machine |
Conclusion
La vraie question à se poser avant d’acheter n’est pas « 5090 ou H100 », c’est : quelle classe de modèle voulez-vous faire tourner dans deux ans ? Si la réponse plafonne à 30–32 B en quantification de qualité (ce qui couvre l’essentiel du paysage open-weights actuel), la 5090 est l’outil juste pour le restant de sa durée de vie utile. Si vous prévoyez de servir un 70B+ à pleine qualité ou un MoE (Mixture of Experts, où chaque token n’active qu’une fraction des poids mais où la totalité doit rester en mémoire) qui déborde 32 Go, vous quittez le segment « poste local » et vous entrez dans celui où la location à l’heure devient l’option rationnelle. La frontière n’est pas le silicium, c’est la VRAM disponible. Le marché ne la repousse qu’à un rythme lent. Avant de trancher, faites le calcul de coût complet.
Sources et méthode
Spécifications RTX 5090 et RTX 4090 : pages produit NVIDIA GeForce et fiches techniques publiques (32 Go GDDR7, ~1,79 To/s, 575 W, MSRP ~2 099 € (UE), lancement 30 janvier 2025). Spécifications H100 SXM : page NVIDIA H100 (80 Go HBM3, ~3,35 To/s). Les valeurs FP8 sont des chiffres « pic » constructeurs incluant la sparsité ; elles ne reflètent pas un débit soutenu. Les repères de dimensionnement mémoire (Q4_K_M ≈ 4,5 bits/paramètre) sont cohérents avec les tailles observées sur les dépôts GGUF publics ; ils relèvent de l’ordre de grandeur. Prix de location H100 : pages tarifaires des fournisseurs cloud, relevées le 14 mai 2026.
Conversion de devise : les prix originalement en USD ont été convertis en euros au taux indicatif 1 USD = 0,92 EUR (taux mi-2026) ; les prix de détail européens peuvent différer (TVA, marges locales).
