Notes d’ingénierie
Des articles pour ceux qui
livrent le stack
Textes originaux sur React, Node.js, TypeScript et AI — issus de la même pratique que notre logiciel opérateur. Corps des articles en anglais.
Tag : sampling
From Prompt to Token: How an LLM Turns Text Into Numbers and Back
Follow a short prompt through tokenization, embeddings, attention, feed-forward layers, softmax and sampling to see how a model really picks each next word.
1615 motsLireInférence de LLM du début à la fin : préremplissage, décodification, cache KV et échantillonnage
Une présentation adaptée à un tableau blanc sur le tokeniseur dans le streaming : pourquoi le préremplissage est limité par les capacités de calcul, la décodification par la bande passante, et comment GQA, le pagination et la spéculation modifient les coûts.
9213 motsLire
FAQ
À propos de ces articles
Oui. Chaque texte est un rewrite anglais original pour ce site. Structure et code suivent la source ; la prose est réécrite et contrôlée.
Les posts techniques partent en anglais pour garder code et API exacts. L’habillage du site existe en neuf langues.
Les brouillons entrent en file après relecture. L’import ne prend que les slugs nouveaux ou modifiés — sans doublons.
Exemples illustratifs. Validez stack et licences avant la prod. Pour une livraison, envoyez le brief.
Devis en 24 h
Besoin du même stack en couche opérateur ? Envoyez le brief — devis sous 24 h.