Notes d’ingénierie
Des articles pour ceux qui
livrent le stack
Textes sur React, Node.js, TypeScript et AI. Un corps traduit est affiché quand il existe. Sinon vous voyez le texte anglais et une note qui le dit.
Tag : vram
Combien de mémoire faut-il pour une IA locale ? Vitesses allant de 16 Go à 512 Go.
Vitesse et qualité locales mesurées des LLM sur des machines de 16, 32, 128, 256 et 512 Go, ce que chaque catégorie peut exécuter, ainsi que les GPU, Macs et mini-PC compatibles avec chacune.
5 min de lectureVérification pratique des exigences matérielles pour exécuter localement des modèles de l’ordre de 100 milliards d’unités
Une station de travail peut-elle exécuter localement un LLM de la classe 100B ? C’est la sparsité MoE, la quantification, la taille du cache KV et les besoins en VRAM qui décident de cela, et non le nombre de paramètres indiqué dans les titres.
11 min de lecture
FAQ
À propos de ces articles
Oui. Chaque texte est un rewrite anglais original pour ce site. Structure et code suivent la source ; la prose est réécrite et contrôlée.
L’anglais est la source. Une autre langue n’apparaît que si ce corps traduit existe. Une traduction absente reste en anglais, y compris sur une adresse localisée.
Les brouillons entrent en file après relecture. L’import ne prend que les slugs nouveaux ou modifiés — sans doublons.
Exemples illustratifs. Validez stack et licences avant la prod. Pour une livraison, envoyez le brief.
Devis en 24 h
Besoin du même stack en couche opérateur ? Envoyez le brief — devis sous 24 h.