Coûts
Alibaba veut fournir la puce, le modèle et le cloud : que restera-t-il à choisir ?
Alibaba rapproche puces, modèles et services d’agents. Les poids ouverts laissent du choix, mais adaptations et données déterminent ce qui peut partir ailleurs.
Dossiers
Tous les dossiers
Tous les articles de LeCompute : silicium, runtimes d'inférence, edge AI, coûts et observabilité système.
67 articles publiés , page 1 sur 6
Tous les articles
Kernel & Perf
Scion : pourquoi Anthropic a remplacé Git pour ses agents
Un agent termine sa modification, puis attend que les tests récupèrent le code. Le cas Scion permet de comprendre ce coût caché et les choix d’infrastructure pour le réduire.
Kernel & Perf
FlashAttention-4 : pourquoi accélérer les multiplications ne suffit plus
FlashAttention-4 poursuit son développement sur Blackwell. Entre deux produits matriciels, le softmax et les mouvements de données peuvent imposer le rythme.
Silicon
AMD attaque NVIDIA sur les CPU : les agents IA changent la bataille
AMD conteste NVIDIA Vera avec EPYC Venice. Les agents attendent aussi leurs outils : pourquoi les scores par cœur et par rack ne racontent pas la même chose.
Coûts
Google et NVIDIA veulent brancher plus de datacenters en promettant de moduler leur consommation
Google, NVIDIA et Emerald AI veulent accélérer les raccordements grâce à la flexibilité électrique. Qui garantira les réductions promises au réseau ?
Coûts
NVIDIA veut racheter Hugging Face : qui contrôlera la distribution de l’IA ouverte ?
NVIDIA promet de préserver l’ouverture de Hugging Face. Qui organisera les chemins les plus simples pour choisir et déployer les modèles ?
Silicon
Face à NVIDIA, Huawei mise sur la machine entière
Huawei présente Atlas 960E et ses 4 096 accélérateurs annoncés. Peut-on déplacer la compétition de la puce vers le système entier ?
Runtimes
Jev : pourquoi générer du texte quand votre application attend une décision ?
Choisir une catégorie, orienter une requête, noter un document : Jev propose de répondre directement au code. Voici ce que cette spécialisation change et comment vérifier son intérêt.
Silicon
800 V continu : pourquoi les datacenters IA changent leur alimentation
Une baie de GPU tire déjà plus de 2 000 ampères. À 1 MW, le 54 V actuel demande près de 20 000 ampères : voici pourquoi NVIDIA et les hyperscalers passent au 800 V continu, et ce qui reste à résoudre.
Runtimes
Décodage spéculatif : quand un petit modèle accélère votre LLM
Votre modèle tient en mémoire, mais sa réponse arrive lentement. Un petit modèle peut préparer la suite du texte : voici quand cette aide fait gagner du temps.
Silicon
Threadripper Halo Station vs DGX Station : comment comparer leur mémoire ?
Votre modèle dépasse la mémoire d’un GPU. AMD et NVIDIA proposent deux façons de lui faire de la place, mais leur capacité totale ne suffit pas à choisir.
Runtimes
NVIDIA PAIR : quand plusieurs machines accélèrent l’IA locale
Votre GPU travaille pendant qu’un autre ordinateur reste disponible. NVIDIA PAIR peut lui confier des demandes : voici quand cette répartition fait gagner du temps.