Des articles pour ceux qui
livrent le stack
Textes originaux sur React, Node.js, TypeScript et AI — issus de la même pratique que notre logiciel opérateur. Corps des articles en anglais.
Tag : Local AI
Exécuter Qwen3.8-27B sur une seule carte RTX 3090, avec vLLM mis à jour et DFlash2.
Comment une branche de vLLM 0.28.0 verrouillée, avec des embeddings réquantifiés et la spéculation DFlash2, permet de faire fonctionner un modèle hybride de 27 milliards de paramètres sur une carte de 24 Go, et en quoi un contexte trop long ralentit son fonctionnement.
15 min de lectureExplication de la profondeur récurrente : les transformateurs en boucle et le raisonnement caché
Comment les transformateurs à profondeur récurrente (en boucle) raisonnent à partir de l’état caché, pourquoi les laboratoires les souhaitent, ce que huit ans de publications montrent, et quelles en sont les implications pour l’IA locale et la supervision.
12 min de lectureFonctionne avec Qwen3.8-Flash-Next sur des RTX 3090 grâce au chargement délégué des tenseurs de llama.cpp
Pourquoi un modèle de type « mixture of experts » de 88 Go avec 180 milliards de paramètres comme Qwen3.8-Flash-Next tient sur des cartes RTX 3090, et comment llama.cpp -ot, -ncmoe et mmap répartissent la VRAM, la RAM et NVMe.
12 min de lecturePourquoi un téléchargement du modèle de 17 Go ne signifie pas 17 Go de mémoire pour le faire fonctionner
Découvrez comment les paramètres actifs, le nombre total de paramètres, la croissance du cache KV et l’effort de raisonnement déterminent le coût réel en mémoire et en calcul pour exécuter un modèle de langage localement.
12 min de lectureCréer un clone local de Angry Birds à l’aide de Qwen3.8-27B et d’une Pi
Une configuration de codage par IA entièrement locale utilisant LM Studio et l’agent Pi : Qwen3.8-27B permet de créer un niveau jouable d’Angry Birds, sans API cloud, avec chaque étape d’installation affichée.
9 min de lectureC’est l’accès à l’IA, et non les capacités, qui représente le véritable risque de dépendance.
Cet article analyse des incidents récents de contrôle des exportations concernant Claude et GPT-5.6 afin de démontrer que l’accès aux modèles d’IA est une variable instable indépendante des capacités brutes.
11 min de lecture
À propos de ces articles
Devis en 24 h
Besoin du même stack en couche opérateur ? Envoyez le brief — devis sous 24 h.