Le match a changé
Il y a deux générations, comparer un Instinct à un GPU NVIDIA datacenter relevait de la formalité. AMD était en retrait sur trois axes simultanément : moins de HBM High Bandwidth Memory. Mémoire empilée en couches, soudée à proximité immédiate du GPU, avec une bande passante de plusieurs To/s (contre ~50 Go/s pour de la DDR5). Indispensable au-delà d'une certaine taille de modèle. Approfondir dans le glossaire par carte, un compilateur (ROCm) en retard sur CUDA, et aucune interconnexion équivalente à NVLink pour assembler des dizaines de GPU. Le MI300X a commencé à refermer l’écart mémoire en 2023 en passant à 192 Go. Le MI355X, architecture CDNA 4 disponible depuis octobre 2025, le referme pour de bon côté silicium : 288 Go de HBM3e à 8 To/s, gravure 3 nm chez TSMC, formats MXFP6 et MXFP4 Microscaling FP4. Format à blocs où 32 valeurs FP4 partagent un facteur d'échelle commun. C'est ce facteur d'échelle partagé qui permet de tenir en 4 bits sans effondrer la précision. La variante NVFP4 de NVIDIA utilise des blocs plus fins (16 valeurs). Approfondir dans le glossaire câblés dans les Tensor Cores Unités matérielles spécialisées dans les multiplications de matrices à basse précision, introduites par NVIDIA avec Volta (2017). Chaque génération ajoute des formats supportés : FP16 → FP8 (Hopper) → FP6/FP4 (Blackwell). Ce sont elles qui exécutent l'essentiel du calcul d'inférence. Approfondir dans le glossaire .
Ce n’est plus « est-ce qu’AMD peut suivre ». C’est « où l’écart se situe-t-il encore, et combien vaut-il à l’achat ».
Les specs face à face
| Caractéristique | AMD MI355X | NVIDIA B200 | NVIDIA B300 |
|---|---|---|---|
| Architecture | CDNA 4 (3 nm) | Blackwell | Blackwell Ultra |
| Mémoire | 288 Go HBM3e | 192 Go HBM3e | 288 Go HBM3e |
| Bande passante | ≈ 8 To/s | ≈ 8 To/s | ≈ 8 To/s |
| Formats bas | FP8 / MXFP6 / MXFP4 | FP8 / FP6 / NVFP4 (et MXFP4) | FP8 / FP6 / NVFP4 (et MXFP4) |
| Enveloppe (TBP/TDP) | ≈ 1 400 W (liquide) | ≈ 1 000 W | ≈ 1 400 W |
| Disponibilité | Oct. 2025 | Depuis 2024 | Volume janv. 2026 |
Le constat saute aux yeux : sur la mémoire et la bande passante, le MI355X est au niveau du haut de gamme Blackwell. Ses 288 Go de HBM3e dépassent les 192 Go du B200 et égalent le B300. Pour les charges memory-bound (gros KV cache, contextes longs, modèles 70B+ servis en FP16 sans quantification), c’est un argument structurel : à HBM égale, on tient le même nombre de requêtes simultanées par GPU.
Là où AMD a rattrapé : la mémoire et le FP4
Là où NVIDIA garde l’avance : le scale-up et le logiciel
Si le silicium est à parité, pourquoi NVIDIA continue-t-il de remporter l’essentiel des déploiements ? Parce que la compétition ne se joue plus au niveau d’une puce isolée : elle se joue au niveau du nœud puis du rack, et c’est à cette échelle que les écarts se creusent.
Le premier écart est le tissu d’interconnexion. NVLink Interconnexion propriétaire NVIDIA entre GPU. NVLink 5 (Blackwell) atteint 1,8 To/s par GPU ; NVLink 6 (Rubin) double à 3,6 To/s. Permet à plusieurs cartes de partager leur mémoire et de se comporter quasi comme un seul accélérateur. Approfondir dans le glossaire 5 atteint 1,8 To/s par GPU et, en topologie NVL72 (un rack assemblant 72 cartes Blackwell via 18 switchs NVLink en un seul domaine mémoire cohérent), expose les 72 cartes comme un quasi-accélérateur géant.
Voici ce que ça change pour servir un modèle de plusieurs centaines de milliards de paramètres : au lieu d’éclater le modèle entre plusieurs nœuds reliés par Ethernet (10-25 Go/s par lien, latence supérieure), on garde tout le tensor parallel à l’intérieur d’un même domaine NVLink. Chaque all-reduce de fin de couche (la primitive collective où chaque GPU partage sa contribution partielle pour reconstituer la sortie) se fait à plusieurs To/s plutôt qu’à quelques dizaines de Go/s.
La conséquence est multiplicative : sur un modèle 1 T paramètres avec tensor parallel 8, on fait des dizaines de milliers d’all-reduce par seconde : l’écart de bande passante se traduit directement en tokens/s servis. AMD propose Infinity Fabric et un scale-up cohérent jusqu’à 8 cartes par nœud, mais ne dispose pas encore d’un équivalent à 72 GPU dans un seul domaine en production volume.
Le second écart est logiciel, et il est plus lent à combler que le silicium. C’est tout le sujet de CUDA vs ROCm : ROCm 7.2 a atteint la parité au niveau des frameworks : PyTorch et JAX tournent en upstream, vLLM compile, les modèles s’entraînent. Mais NVIDIA conserve une couche au-dessus : TensorRT-LLM avec des kernels FP4 Format à virgule flottante 4 bits, frontière 2026 de l'inférence à haut débit. Quatre fois moins de mémoire que le FP16, mais une portée dynamique très étroite : ne tient qu'avec un scaling fin via formats à blocs (MXFP4, NVFP4). Approfondir dans le glossaire optimisés à la couche par modèle, Nsight pour le profilage, NCCL durci par dix ans de production, et un stock de kernels CUDA tiers qu’aucun équivalent ROCm ne couvre encore en totalité. Un GPU ne se déploie pas nu : il se déploie avec sa pile, et la pile NVIDIA garde l’épaisseur de l’âge.
Ce que ça veut dire pour un acheteur
Concrètement, la décision se découpe en deux questions. Votre pile tient-elle dans ROCm 7.2 ? Si vous tournez sur PyTorch + vLLM avec des modèles open-weights standard, la réponse est probablement oui, et le MI355X mérite alors un appel d’offres : il est déployé chez de vrais opérateurs cloud et disponible via les grands intégrateurs, avec un coût d’acquisition compétitif et davantage de HBM par carte que le B200. Votre charge tient-elle sur 8 GPU ou exige-t-elle de déborder le nœud ? Si c’est de l’entraînement à très grande échelle ou un modèle de service qui demande 64+ GPU en domaine cohérent, l’écart NVLink redevient décisif et l’écosystème Blackwell reste devant. L’arbitrage est réel ; il n’est simplement plus joué d’avance.
Conclusion
La vraie question pour 2026-2027 n’est plus « AMD rattrape-t-il le silicium NVIDIA » : la réponse est oui sur la mémoire et le FP4. Elle devient : à quelle vitesse AMD peut-il refermer l’écart de scale-up et empiler une décennie de kernels manquants dans ROCm ? Si Infinity Fabric atteint des topologies à 32 ou 64 GPU cohérents d’ici la prochaine génération, l’arbitrage bascule pour la majorité des charges. Sinon, NVIDIA garde le créneau des très gros modèles, et AMD prend celui des déploiements memory-bound moyens : un duopole en fonction de l’échelle, pas une domination unilatérale. Pour la couche logicielle qui finit par décider la majorité des déploiements, voir CUDA vs ROCm en 2026.
Sources et méthode
Spécifications MI355X / MI350X : brochure produit officielle AMD Instinct MI355X (CDNA 4, 288 Go HBM3e, 8 To/s, MXFP6/MXFP4, 1400 W) et page produit MI355X. Spécifications B200 / B300 : page architecture NVIDIA Blackwell et page GB300 NVL72. Réserve importante : les débits FP4/FP8 par GPU sont publiés par NVIDIA et AMD sur des bases différentes (dense vs sparsité, par GPU vs système), ils ne sont pas directement comparables, et nous ne donnons volontairement pas de chiffre FP4 unique. Les faits solidement établis ici sont la mémoire, la bande passante, l’enveloppe thermique et la disponibilité. Tissu NVLink : documentation publique NVIDIA. Tout est relevé au 14 mai 2026.
