[
  {"id":"memory","title":"Mémoire des conversations","text":"Pendant la génération de texte, le cache KV conserve les clés et les valeurs de l’attention. Davantage de tokens de contexte ou de conversations simultanées augmentent la mémoire nécessaire pour ces états."},
  {"id":"experts","title":"Calcul conditionnel des MoE","text":"Un routeur choisit quelques experts pour chaque token. Les poids des experts non sélectionnés restent à stocker. Si les experts sont répartis entre GPU, les activations doivent rejoindre les cartes qui les hébergent."},
  {"id":"local","title":"Recherche documentaire hors connexion","text":"Une application peut calculer les embeddings de ses documents et de ses questions sur la machine de l’utilisateur. Un index conservé localement permet de retrouver les passages sans envoyer ces contenus à une API distante."},
  {"id":"precision","title":"Formats numériques pour EmbeddingGemma 2","text":"Les activations d’EmbeddingGemma 2 ne sont pas compatibles avec FP16. La documentation recommande BF16 sur les matériels adaptés et FP32 autrement. La quantification des poids nécessite une recette et un runtime compatibles."},
  {"id":"video","title":"Retrouver un instant dans une vidéo","text":"Pour localiser un événement, une application découpe la vidéo en segments et conserve leurs positions temporelles. Elle choisit une fréquence d’échantillonnage des images adaptée aux événements recherchés."},
  {"id":"ranking","title":"Améliorer le classement des résultats","text":"Une première recherche vectorielle sélectionne des passages candidats. Un reranker peut ensuite examiner ensemble la question et chaque passage pour affiner leur classement avant la présentation ou la génération."}
]