Le paysage edge a basculé en 2025-2026
Si vos repères sur l’edge AI datent d’il y a deux ou trois ans, ils sont périmés. Deux mouvements ont redessiné la carte. D’un côté, NVIDIA a livré le Jetson AGX Thor (un module embarqué à GPU Blackwell qui change d’échelle : 128 Go de mémoire et un débit FP4 Format à virgule flottante 4 bits, frontière 2026 de l'inférence à haut débit. Quatre fois moins de mémoire que le FP16, mais une portée dynamique très étroite : ne tient qu'avec un scaling fin via formats à blocs (MXFP4, NVFP4). Approfondir dans le glossaire qui rapproche l’edge de ce qu’on attendait d’un GPU datacenter d’il y a quatre ans). De l’autre, Google Coral, longtemps le réflexe « clé USB pour faire de l’inférence » dans tout tutoriel Raspberry Pi, est passé à l’abandon, pilote archivé, support Linux gelé. Deux signaux opposés du même mouvement : l’edge se professionnalise, et les produits semi-amateurs sortent.
Entre ces deux extrêmes, l’offre s’est densifiée et spécialisée. Choisir un accélérateur edge en 2026, c’est d’abord savoir lesquels sont encore vivants. Ensuite seulement on regarde les chiffres.
Jetson : Orin tient, Thor ouvre un nouveau palier
La famille Jetson Orin reste parfaitement valable et largement déployée. L’AGX Orin pousse 275 TOPS Tera Operations Per Second. Mille milliards d'opérations par seconde : métrique brute de débit d'un accélérateur, généralement annoncée en INT8 ou INT4. Elle ne dit rien du débit réel d'un modèle, qui dépend du compilateur et du repli éventuel sur CPU. Approfondir dans le glossaire avec 64 Go de mémoire dans une enveloppe de 15 à 60 W, de quoi tenir la vision temps réel et des LLM quantifiés jusqu’à ~7–13 B avec une marge confortable. C’est toujours le bon outil pour ces charges, et le moins cher des deux : la rupture Blackwell ne périme pas Orin, elle le repositionne d’un cran vers le bas du marché.
Le Jetson AGX Thor ouvre un palier au-dessus. GPU Blackwell, 128 Go de LPDDR5X, 14 cœurs Arm Neoverse-V3AE, une enveloppe de 40 à 130 W, et de l’ordre de 7,5× le calcul IA de l’AGX Orin (un ratio à lire avec précaution, voir la note méthodologique en fin d’article). Le saut mémoire est ce qui change le plus la donne en pratique : 128 Go, c’est l’espace pour héberger un modèle 70 B en quantifié, son KV cache Mémoire des vecteurs clé et valeur déjà calculés pour chaque token traité par un LLM. Évite de recalculer l'attention sur tout l'historique, au prix d'une consommation mémoire qui croît avec le contexte. Approfondir dans le glossaire sur un long contexte, et le pipeline vision multi-flux d’un robot, toutes choses qu’on devait jusqu’ici séparer ou rétrograder sur Orin. Le kit de développement est disponible depuis août 2025, autour de 3 220 €.
Hailo : du capteur vision au petit LLM
Hailo occupe l’autre extrémité du spectre, celle où l’efficacité énergétique prime sur la flexibilité. Le Hailo-8 (26 TOPS pour 2,5 W, mémoire sur puce, format M.2) reste une référence pour la vision embarquée. Avoir la mémoire des poids sur le die élimine les allers-retours vers une DRAM externe, et c’est ce qui permet de tenir un budget de 2,5 W tout en exécutant détection, segmentation ou suivi en temps réel. À ce niveau de performance par watt, rien ne le bat dans l’enveloppe d’un capteur autonome.
La nouveauté marquante est le Hailo-10H : ~40 TOPS en INT4 (20 TOPS en INT8), toujours 2,5 W, en M.2 avec 4 ou 8 Go de LPDDR4X, cette fois en DRAM externe, parce que les poids d’un LLM ne tiennent plus sur le die. La cible n’est pas la vision mais le GenAI embarqué : LLM et modèles multimodaux de ~2 milliards de paramètres à plus de 10 tokens/s (chiffre constructeur ; les premiers benchmarks indépendants mesurent plutôt ~6,9 tokens/s, et sur un modèle plus petit, Qwen2.5-1,5 B). C’est modeste face à un GPU, mais c’est de l’IA générative dans l’enveloppe d’un capteur, sans cloud, sans CPU pour faire le travail, sans dissipateur. Une rupture de catégorie plus qu’une amélioration incrémentale.
Google Coral : ne le recommandez plus
C’est le point que tout repère ancien rate. Le Google Coral (l’Edge TPU en clé USB ou en module M.2, lancé en 2019 et longtemps présenté comme la voie d’entrée évidente vers l’inférence accélérée à très bas coût) doit aujourd’hui être considéré comme abandonné.
Voici ce que cet abandon veut dire en pratique pour un projet. Le noyau Linux 6.4 est sorti en juin 2023, ce qui signifie qu’Ubuntu 24.04 LTS (HWE kernel 6.8) et toute distribution un peu récente ne booteront pas avec un Coral PCIe installé, ou le verront mais sans driver fonctionnel. Pour rester sur Coral, il faut figer le système sur un noyau hérité, donc renoncer aux correctifs de sécurité du mainline, donc accepter qu’un déploiement de cinq ans tournera sur un noyau de huit ans à la fin de sa vie. Sur du matériel destiné à une caméra industrielle ou un appliance, c’est rédhibitoire. Le compilateur Edge TPU subit le même sort : il ne supporte qu’un sous-ensemble de TensorFlow Lite, et le passage à TFLite Micro ou à des modèles plus récents (transformers compacts, architectures non publiées en 2019) demande un travail de portage qui n’avancera plus. Le chemin du moindre effort est dorénavant à éviter Coral, pas à le préserver.
Cet abandon a aussi une leçon de fond, qu’on retrouvera ailleurs. Un accélérateur n’est pas seulement du silicium : c’est un compilateur, un runtime, un driver, une lignée de mises à jour du noyau. Quand le constructeur arrête, ce n’est pas la puce qui meurt : c’est la chaîne logicielle qui se fige, et le matériel devient progressivement incompatible avec le reste du système qui, lui, continue d’avancer. Coral le démontre proprement, et c’est la grille de lecture à appliquer à n’importe quel accélérateur edge : qui maintient la stack dans cinq ans ?
Pour les usages que Coral couvrait (petite inférence vision à très bas coût), les alternatives 2026 sont le Hailo-8 (logiciel maintenu, écosystème vivant), ou les NPU Neural Processing Unit. Circuit dédié à l'inférence des réseaux de neurones : tableau de multiplieurs-accumulateurs câblés en dur pour quelques opérateurs (convolution, matmul, activations). Très efficace en énergie sur ce qu'il sait faire, incapable du reste. Approfondir dans le glossaire intégrés des SoC récents : Rockchip RK3588 (~6 TOPS), NXP i.MX 8M Plus, accélérateurs Qualcomm. Le coût unitaire monte un peu ; la pérennité aussi.
Comment choisir en 2026
| Accélérateur | Enveloppe | Charge cible | Statut 2026 |
|---|---|---|---|
| Jetson AGX Thor | 40–130 W | Robotique, gros modèles, multimodal | Actuel : nouveau palier |
| Jetson AGX Orin | 15–60 W | Vision temps réel, LLM ~7–13 B | Actuel, toujours valable |
| Hailo-10H | ≈ 2,5 W | Petit GenAI embarqué (~2 B) | Actuel : nouveauté GenAI |
| Hailo-8 | ≈ 2,5 W | Vision basse consommation | Actuel : référence vision |
| Google Coral | ≈ 2 W | Petite vision (héritage) | Abandonné, à éviter |
La logique de choix n’a pas changé, seulement les options disponibles dans chaque case. Quelle enveloppe énergétique ? Quelques watts mènent à Hailo, parce qu’aucun GPU programmable ne tient cette enveloppe sur du calcul soutenu ; quelques dizaines, à Jetson, parce qu’à ce budget la flexibilité du GPU rentabilise sa consommation supplémentaire. Quelle charge ? Vision pure mène à Hailo-8 ou Orin selon la complexité du pipeline ; petit GenAI à très basse consommation, à Hailo-10H ; gros modèles ou robotique, à Thor. Et surtout : la plateforme est-elle vivante ? C’est la leçon Coral : un accélérateur n’est utilisable que tant que son logiciel est maintenu, et cette question filtre plus de candidats que les TOPS affichés.
Conclusion
L’edge AI de 2026 a deux nouveaux pôles (Thor à 128 Go côté gros modèles, Hailo-10H à 2,5 W côté GenAI miniature) et un disparu, Coral. La question qui se pose à présent n’est plus « quel accélérateur edge existe », c’est « lequel sera encore maintenu dans cinq ans ». Et accessoirement : dans quelle case votre charge actuelle tient sans déborder à la prochaine itération du modèle. Pour le débat de fond entre puce dédiée et GPU programmable, qui reste indépendant de ce millésime, voir NPU vs GPU à l’edge.
Sources et méthode
Données ouvertes. Les specs des accélérateurs edge (Jetson, Hailo, Coral, RK3588…) avec une colonne software_status qui dit ce qui est encore maintenu : edge-accelerator-specs.csv.
Spécifications Jetson : modules NVIDIA Jetson et page Jetson Thor. AGX Thor : GPU Blackwell, 128 Go LPDDR5X, kit dev disponible depuis août 2025, ~3 220 €. Spécifications Hailo : page accélérateurs Hailo (Hailo-8, Hailo-10H). Statut de Google Coral : archivage du dépôt de pilote constaté en 2026 et absence de support des noyaux Linux > 6.4, point documenté par les communautés d’utilisateurs (discussions du projet Frigate, suivi des dépôts). Autres NPU edge cités (RK3588, i.MX 8M Plus, Qualcomm) : fiches constructeurs publiques. Tout est relevé au 14 mai 2026 ; les chiffres TOPS sont des valeurs constructeurs « pic ».
Note de précision sparse/dense : les 275 TOPS de l’AGX Orin sont mesurés en INT8 sparse (GPU + DLA), soit environ 138 TOPS en INT8 dense ; les 2 070 TFLOPS de Thor sont en FP4 sparse côté GPU. Le ratio 7,5× est annoncé par NVIDIA, à prendre comme ordre de grandeur, pas comme équivalence iso-précision.
Conversion de devise : les prix originalement en USD ont été convertis en euros au taux indicatif 1 USD = 0,92 EUR (taux mi-2026) ; les prix de détail européens peuvent différer (TVA, marges locales).
