Kernel & Perf
Scion : pourquoi Anthropic a remplacé Git pour ses agents
Un agent termine sa modification, puis attend que les tests récupèrent le code. Le cas Scion permet de comprendre ce coût caché et les choix d’infrastructure pour le réduire.
Kernel, Perf & Observabilité
Kernel & Perf : observer et accélérer une stack IA
eBPF, perf, traces, NUMA, ordonnancement : diagnostiquer et optimiser une stack d'inférence au niveau système, là où les abstractions s'arrêtent.
6 articles
Articles : Kernel & Perf
Kernel & Perf
FlashAttention-4 : pourquoi accélérer les multiplications ne suffit plus
FlashAttention-4 poursuit son développement sur Blackwell. Entre deux produits matriciels, le softmax et les mouvements de données peuvent imposer le rythme.
Kernel & Perf
La décision d'une voiture autonome n'a pas de temps réel : qui la porte ?
Un réseau de neurones n'a pas de WCET exploitable pour la certification : le composant central de la conduite automatisée reste une boîte noire probabiliste. L'industrie ne le nie pas : elle déplace la garantie vers une couche qu'elle sait borner.
Kernel & Perf
CUDA Tile : programmer le GPU à la tuile, plus au thread
Depuis quinze ans, un kernel GPU performant veut dire orchestrer des milliers de threads à la main. CUDA Tile remonte la programmation d'un cran, la tuile, et confie le reste au compilateur. Mécanique, et ce que ça change vraiment.
Kernel & Perf
sched_ext : écrire l'ordonnanceur de votre inférence en eBPF
eBPF vous a montré le thread coincé dans la run-queue qui affame le GPU. chrt et cpuset sont des marteaux. sched_ext laisse charger un ordonnanceur CPU sur mesure, en eBPF, sans patch ni redémarrage, taillé pour le prefill et le decode.
Kernel & Perf
eBPF et perf : observer une stack d'inférence LLM
Le GPU est à 30 %, pourquoi ? eBPF et perf diagnostiquent le côté hôte d'une stack (ordonnancement, page faults, I/O), là où les abstractions s'arrêtent.