L’égalité de 96 Go qui trompe le tableur

La comparaison paraît réglée avant d’avoir commencé. Une RTX PRO 6000 Blackwell Workstation Edition porte 96 Go de GDDR7. Trois RTX 5090 portent chacune 32 Go, soit 96 Go au total. Les deux lignes cochent donc la même case « capacité », puis les GeForce ajoutent trois fois plus de GPU. Ce raisonnement confond une somme comptable avec une propriété du système.

La mémoire de la RTX PRO est locale à un seul processeur graphique. Une adresse de poids, une page de KV cache Mémoire des vecteurs clé et valeur déjà calculés pour chaque token traité par un LLM. Évite de recalculer l'attention sur tout l'historique, au prix d'une consommation mémoire qui croît avec le contexte. Approfondir dans le glossaire ou un buffer temporaire appartient au même espace physique et traverse la même interface GDDR7 à 1 792 Go/s. Dans une machine à trois RTX 5090, chaque allocation réside d’abord sur une carte précise. CUDA peut ouvrir des accès pair à pair et un runtime peut découper le modèle, mais ni le pilote ni le mot « multi-GPU » ne fusionnent les trois bus mémoire en un quatrième bus de 96 Go.

RTX PRO 60003 × RTX 5090
Mémoire physique96 Go GDDR7 ECC, un GPU3 × 32 Go GDDR7
Bande passante locale1 792 Go/s3 × 1 792 Go/s
Puissance carte600 W3 × 575 W = 1 725 W
Formatdouble slottrois cartes, châssis et câblage à dimensionner
Prix de référence 2026environ 12 190 €environ 12 969 € pour trois
Domaine mémoire d'un kerneljusqu'à 96 Go locaux32 Go locaux, accès pairs conditionnels
Tableau 1 : caractéristiques constructeur. Les totaux 3 × RTX 5090 sont des sommes physiques, pas les caractéristiques d'un GPU virtuel. Prix US convertis en euros au taux indicatif 1 USD = 0,92 EUR ; relevés de juin et août 2026, hors TVA et distribution européenne.

La ligne de bande passante mérite sa propre mise en garde. Les trois 5090 disposent bien de 5 376 Go/s de bande passante GDDR7 agrégée si trois charges indépendantes lisent leurs propres poids. Pour un modèle réparti, ce nombre ne décrit aucun chemin de bout en bout. Chaque fragment lit vite sa mémoire locale, puis le calcul attend les fragments distants transportés par PCIe. Additionner les trois bus GDDR7 revient à mesurer les voies internes sans mesurer le pont entre elles.

Trois cartes, deux architectures qui ne se ressemblent pas

Le premier montage réplique le modèle. Chaque RTX 5090 charge sa copie, reçoit ses requêtes et ne parle pas aux deux autres pendant l’inférence. La capacité maximale d’une réplique reste 32 Go, mais le débit de la machine monte avec le nombre de files indépendantes. C’est du parallélisme de données appliqué au service : le même modèle, trois groupes d’utilisateurs.

Routeur 3 files répartition
RTX 5090 A modèle ≤ 32 Go réplique
RTX 5090 B modèle ≤ 32 Go réplique
RTX 5090 C modèle ≤ 32 Go réplique
Figure 1 : réplication. Chaque requête reste sur une carte ; les 96 Go augmentent le nombre de copies, pas la taille du modèle.

Le second montage découpe un seul modèle. En tensor parallelism Découpage d'une même couche de réseau de neurones entre plusieurs accélérateurs. Chaque GPU calcule une sortie partielle, puis une opération collective réunit les fragments avant la couche suivante. Plus le découpage est large, plus la latence et le débit de l'interconnexion pèsent sur le temps d'un token. , chaque matrice est fragmentée entre les GPU. Les trois cartes calculent en même temps, puis un collectif reconstruit les activations avant la couche suivante. En parallélisme de pipeline, des groupes de couches successifs résident sur des cartes différentes ; l’activation passe de l’une à l’autre et les micro-lots servent à remplir le pipeline. vLLM recommande précisément le parallélisme tensoriel lorsqu’un modèle dépasse une carte mais tient dans un nœud. Sa documentation conseille le pipeline lorsque le nombre de GPU divise mal le modèle ou lorsque l’absence de NVLink Interconnexion propriétaire NVIDIA entre GPU. NVLink 5 (Blackwell) atteint 1,8 To/s bidirectionnels par GPU ; NVLink 6 (Rubin) double à 3,6 To/s. Avec NVSwitch, elle accélère les échanges GPU-GPU et les collectifs ; les mémoires restent physiquement distribuées et un accès distant n'a pas le coût de la HBM locale. Approfondir dans le glossaire rend les collectifs trop coûteux.

GPU A poids 0 à 31 Go calcul local
PCIe activation ou collectif frontière
GPU B poids 32 à 63 Go calcul local
PCIe activation ou collectif frontière
GPU C poids 64 à 95 Go calcul local
Figure 2 : modèle réparti. Les poids tiennent dans la somme des mémoires, mais le chemin de chaque token franchit les frontières entre cartes.

Ce découpage rend les 96 Go utilisables, mais pas intégralement pour les poids. Le moteur réserve des espaces de travail, des graphes CUDA, des tables de quantification et le cache de contexte. Certaines structures sont réparties, d’autres répliquées. Un fichier de modèle de 94 Go n’est donc pas un candidat prudent pour trois cartes de 32 Go. Notre méthode de dimensionnement de la VRAM part des poids, ajoute le cache, les buffers et une marge de fragmentation ; elle s’applique par carte après le découpage.

Ce que le PCIe enlève, et ce qu’il n’enlève pas

Les RTX 5090 n’offrent pas de connecteur NVLink. Leur transport pair à pair emprunte la plateforme PCIe lorsque le matériel et le pilote l’autorisent. La documentation CUDA précise que l’application doit gérer les contextes, distribuer les données, lancer les kernels et récupérer les résultats. Elle précise aussi que l’accès à la mémoire d’un pair dépend de la topologie PCIe ou NVLink. Les services ACS peuvent même renvoyer le trafic par le complexe racine du CPU et réduire fortement la bande passante de bissection.

Cette contrainte ne prouve pas que trois 5090 perdent contre une PRO. Elle fixe le terme qu’un benchmark doit mesurer. Trois GPU alignent davantage de calcul et trois bus GDDR7 locaux. Si les matrices sont assez grandes pour occuper les cartes et si les collectifs restent courts, le calcul parallèle peut payer les échanges. Si le decode Phase de génération autorégressive d'un LLM : un token est produit à la fois en relisant les poids et l'état de contexte utile. À faible batch, ce trafic peut limiter le decode par la bande passante mémoire. Sa part dans le coût total dépend toutefois des longueurs d'entrée et de sortie, du batching et de la réutilisation du cache. Approfondir dans le glossaire travaille à faible lot, chaque couche produit peu de travail par synchronisation et la latence PCIe prend une part plus visible. Le pipeline échange moins de collectifs, mais introduit des bulles et fait traverser les étages en série à une requête isolée.

La mesure disponible répond à une question plus étroite

Nous n’avons trouvé aucun benchmark public contrôlé opposant exactement une RTX PRO 6000 à trois RTX 5090 sur le même modèle de 70B, le même runtime, la même carte mère, le même contexte et le même niveau de concurrence. Toute affirmation chiffrée sur ce duel précis serait donc une extrapolation.

Une mesure tierce apporte néanmoins un contrôle utile sur le duel à une carte. ComputingForGeeks a loué les deux GPU, exécuté Ollama et moyenné trois passages sur des modèles Qwen2.5 en 4 bits. Les résultats sont proches pour les modèles qui tiennent dans 32 Go.

ModèleRTX PRO 6000RTX 5090
Qwen2.5 7B, 4 bits238,6 tokens/s228,2 tokens/s
Qwen2.5 14B, 4 bits134,1 tokens/s131,5 tokens/s
Qwen2.5 32B, 4 bits68,1 tokens/s67,8 tokens/s
Qwen2.5 72B, 4 bits31,0 tokens/sne charge pas
Llama 3.1 70B, 4 bits34,2 tokens/sne charge pas
Tableau 2 : débit de génération mesuré par ComputingForGeeks sous Ollama, moyenne de trois passages. Ces chiffres comparent une RTX PRO 6000 à une RTX 5090, pas la configuration à trois cartes.

Le mécanisme explique l’égalité sur 32B : les deux cartes annoncent exactement 1 792 Go/s de bande passante mémoire. À faible batch, la génération relit les poids pour produire chaque token ; la capacité excédentaire de la PRO reste inutilisée et n’accélère pas cette lecture. Le tableau établit que la PRO se comporte comme une carte rapide avec 96 Go. Il n’établit pas qu’une PRO bat trois 5090, puisque le protocole n’en contient qu’une.

L’objection la plus forte : trois 5090 peuvent gagner le modèle unique

La critique la plus sérieuse de notre thèse est simple : si les poids sont bien répartis, trois 5090 lisent trois fragments simultanément. Leur puissance de calcul et leur bande passante locale agrégées dépassent celles d’une PRO. Pourquoi la carte unique gagnerait-elle ? Elle ne gagne pas nécessairement.

Le bon verdict est conditionnel. Sur un 70B quantifié, un runtime efficace et une plateforme PCIe sans détour peuvent donner aux trois cartes un débit supérieur, surtout en prefill Phase initiale d'une inférence LLM : les tokens du prompt sont traités en parallèle pour construire l'état du contexte. Cette réutilisation augmente l'intensité arithmétique et peut rendre la phase limitée par le calcul ; le régime exact dépend du modèle, du batch, du contexte et du backend. Approfondir dans le glossaire ou avec assez de requêtes pour amortir les communications. À l’inverse, une requête interactive, un découpage déséquilibré ou un chemin GPU vers GPU passant par le CPU peuvent rendre les synchronisations dominantes. Sans mesure sur la machine cible, choisir la PRO au nom de la vitesse serait aussi fragile que choisir les 5090 en additionnant leurs bandes passantes.

La PRO achète une propriété plus facile à défendre : le modèle n’a pas besoin d’être réparti. Cela réduit le nombre de processus, de buffers dupliqués, de collectifs et de pannes topologiques. Ses 96 Go ECC apportent aussi la correction d’erreur que NVIDIA ne spécifie pas sur la 5090. Pour une station manipulée par une petite équipe, cette simplicité peut valoir plus qu’un pic de débit.

Le prix 2026 renverse l’intuition grand public

En juin 2026, Tom’s Hardware a relevé pour la RTX PRO 6000 un prix NVIDIA équivalant à environ 12 190 € après conversion, contre environ 7 880 € pour les premières références commerciales de 2025. En août, le même média mesurait une médiane Newegg équivalant à environ 4 323 € par RTX 5090, soit 12 969 € pour trois. Ces valeurs alignent deux instantanés US convertis au taux éditorial, hors TVA, disponibilité et coût du reste de la machine.

Le système à trois cartes réclame aussi une alimentation et une distribution électrique capables de soutenir 1 725 W de TGP avant le CPU, la RAM et les ventilateurs. La PRO plafonne à 600 W et occupe deux slots. Le coût d’un châssis serveur, d’une carte mère riche en lignes PCIe et du refroidissement n’est pas un détail périphérique : il fait partie du prix de la mémoire répartie. À l’inverse, trois GeForce conservent une modularité réelle. Une carte peut servir un petit modèle pendant que les deux autres exécutent une autre charge ; une PRO reste un seul domaine de panne et un seul ordonnanceur.

Le choix par charge, pas par addition

Modèle inférieur à 32 Go, un seul utilisateur. Une RTX 5090 suffit. Acheter 96 Go, sous une forme ou l’autre, immobilise de la capacité. Le guide GPU pour LLM local permet de vérifier la marge de contexte avant de monter en gamme.

Modèle inférieur à 32 Go, service concurrent. Trois répliques sur trois 5090 constituent le cas le plus favorable aux GeForce. Il n’y a aucun collectif sur le chemin d’un token et la capacité totale sert à multiplier les files. Le débit ne sera pas exactement triplé si le CPU, la tokenisation ou les entrées saturent, mais l’architecture supprime le principal impôt multi-GPU.

Modèle de 33 à environ 90 Go, usage interactif. La RTX PRO 6000 est le choix à faible risque : chargement sur une carte, 96 Go ECC, même bande passante qu’une 5090. Les trois GeForce deviennent un projet système. Elles peuvent livrer plus de débit, mais seulement après validation du découpage, de la topologie et du contexte visé.

Entraînement ou adaptation. Le parallélisme de données réplique le modèle et laisse la limite à 32 Go par carte. FSDP, le parallélisme tensoriel ou le pipeline répartissent poids, gradients et états, avec des profils de communication différents de l’inférence. Les 96 Go de la PRO ne suffisent pas à conclure non plus : les états d’optimiseur peuvent multiplier l’empreinte des poids.

Électricité, acoustique et exploitation. À ressources égales sur le papier, 600 W et 1 725 W ne décrivent pas la même pièce, le même boîtier ni le même risque opérationnel. Ici, la PRO gagne avant le premier token.

Conclusion

La pénurie de mémoire a rapproché les prix jusqu’à produire ce duel étrange : une carte professionnelle et trois cartes grand public dans une enveloppe comparable. Le piège serait d’en faire une compétition de fiches techniques. Les trois 5090 sont une petite grappe ; la RTX PRO 6000 est un grand GPU. Une grappe peut dépasser un GPU, mais elle demande au logiciel de transformer la somme de ses pièces en performance utile.

La prochaine décision ne devrait donc pas être « combien de Go puis-je acheter ? », mais « quelle donnée franchit quelle frontière à chaque token ? ». Si la réponse est « aucune, car le modèle tient sur la PRO », les 96 Go ont la propriété attendue. Si la réponse est « aucune, car je sers trois répliques de moins de 32 Go », les 5090 ont évité leur propre faiblesse. Entre les deux, le benchmark n’est pas une confirmation finale : c’est une condition d’achat.

Sources et méthode

Les faits constructeur viennent des fiches NVIDIA de la RTX PRO 6000 Blackwell Workstation Edition et de la GeForce RTX 5090. Capacité, ECC, bande passante, puissance et format sont repris tels quels. Les totaux de trois cartes sont des multiplications arithmétiques, explicitement séparées d’un débit applicatif.

Le mécanisme multi-GPU s’appuie sur le CUDA Programming Guide, chapitre Multi-GPU, la page NCCL GPU troubleshooting et le guide vLLM Parallelism and Scaling. Ces sources établissent la gestion explicite des GPU, la dépendance au P2P et à la topologie, ainsi que les usages du parallélisme tensoriel et de pipeline.

Les mesures tierces à une carte proviennent du protocole publié par ComputingForGeeks. Nous reprenons les tokens/s, le runtime Ollama, la quantification annoncée et la moyenne de trois passages. Ce jeu ne publie pas assez de détails pour normaliser versions de pilotes, températures, puissance ou variabilité ; il sert de contrôle de cohérence, pas de benchmark universel.

Les prix sont des instantanés presse : prix NVIDIA de la RTX PRO 6000 en juin 2026 et médiane Newegg de la RTX 5090 en août 2026. Toutes les valeurs affichées ont été converties au taux indicatif 1 USD = 0,92 EUR, sans prétendre reproduire un prix TTC européen.

Nous n’avons pas trouvé de mesure publique, contrôlée et reproductible comparant exactement une RTX PRO 6000 à trois RTX 5090 sur un modèle réparti. Les verdicts de débit multi-GPU restent donc des hypothèses de régime fondées sur le chemin des données. La décision publiée demande un benchmark sur la topologie, le runtime, le modèle, la quantification, le contexte et la concurrence réellement prévus.