Silicon
HBM et NVLink : pourquoi les LLM sont limités par la mémoire
Les LLM ne sont presque jamais limités par les FLOPS. Le vrai plafond (bande passante HBM, KV cache, NVLink) et ce que ça change au dimensionnement.
Dossiers
Tous les dossiers
Tous les articles de LeCompute : silicium, runtimes d'inférence, edge AI, coûts et observabilité système.
35 articles publiés , page 3 sur 3
Tous les articles (page 3)
Silicon
CUDA vs ROCm en 2026 : l'écart réel en production IA
CUDA vs ROCm en 2026 : le débat n'est plus « est-ce que ROCm marche » mais « quel écart reste-t-il ». Versions, parité framework, vrais verrous, sources.
Edge AI
Jetson Thor, Hailo-10H, Coral : quel accélérateur edge en 2026 ?
Le paysage des accélérateurs edge a basculé : Jetson Thor ouvre un palier Blackwell, le Hailo-10H fait du GenAI, et Google Coral est abandonné. Comparatif 2026.
Runtimes
vLLM vs llama.cpp vs TensorRT-LLM : quel runtime choisir ?
Trois runtimes d'inférence LLM, trois philosophies : débit serveur, déploiement local, performance verrouillée NVIDIA. Matrice de décision claire pour choisir.
Runtimes
KV cache : pourquoi votre LLM sature la mémoire
Le KV cache explique pourquoi un LLM consomme autant de VRAM. Définition, calcul de taille concret, PagedAttention, quantification FP8 et prefix caching.
Kernel & Perf
eBPF et perf : observer une stack d'inférence LLM
Le GPU est à 30 %, pourquoi ? eBPF et perf diagnostiquent le côté hôte d'une stack (ordonnancement, page faults, I/O), là où les abstractions s'arrêtent.
Runtimes
llama.cpp expliqué : GGUF, quantification et kernels
Comment llama.cpp fait tenir des modèles de dizaines de milliards de paramètres sur du matériel grand public : format GGUF, quantification et chemin d'un token.
Silicon
AMD MI355X vs NVIDIA B200/B300 : le vrai match en 2026
AMD MI355X face à NVIDIA B200 et B300 : mémoire, bande passante, FP4 et le vrai écart, le scale-up NVLink et le logiciel. Comparatif sourcé, mi-2026.
Edge AI
Jetson Orin et edge AI : LLM, vision et limites mémoire
Ce qui tourne sur un Jetson Orin hors datacenter : LLM quantifiés, vision temps réel, et les vraies limites, mémoire unifiée, thermique, arbitrage edge/cloud.
Silicon
FP8, FP6, FP4 : ce que la basse précision change vraiment
FP8, FP6, FP4 : les formats numériques basse précision de l'inférence 2026. Formats à blocs MXFP4 et NVFP4, compromis portée/débit, et ce que le matériel supporte.
Edge AI
NPU vs GPU à l'edge : quel accélérateur pour l'inférence embarquée
NPU ou GPU embarqué pour l'inférence à l'edge ? Deux philosophies comparées sur l'efficacité énergétique, la flexibilité et le vrai piège : la chaîne de compilation.