Des articles pour ceux qui
livrent le stack
Textes sur React, Node.js, TypeScript et AI. Un corps traduit est affiché quand il existe. Sinon vous voyez le texte anglais et une note qui le dit.
Tag : local-llm
IA locale pour documents confidentiels : que faire tourner sur votre propre matériel
Garder contrats, paie et dossiers d’audit hors des API cloud : quelles étapes du pipeline garder en local, quel matériel choisir, où les modèles locaux sont plus faibles et ce que cela coûte.
3 min de lectureCombien de mémoire faut-il pour une IA locale ? Vitesses allant de 16 Go à 512 Go.
Vitesse et qualité locales mesurées des LLM sur des machines de 16, 32, 128, 256 et 512 Go, ce que chaque catégorie peut exécuter, ainsi que les GPU, Macs et mini-PC compatibles avec chacune.
5 min de lectureLe Mac Studio M5 Ultra contre le DGX Spark : vitesse des modèles de langage locaux avec les mêmes modèles.
Le Mac Studio M5 Ultra 256 GB contre une, deux et quatre unités DGX Spark sur Nemotron, Qwen3.8 et DeepSeek-V4.1-Flash : décodage, préremplissage, agrégation et traitement d’images.
4 min de lectureTests de performance des LLM locaux sur RTX 5090 : même Qwen3.8-27B, de 67 à 253 tokens par seconde.
Qwen3.8-27B sur une RTX 5090 via TensorFold, NInfer, ExLlamaV3, Qwentin et vLLM : décodage, préremplissage, débit en parallèle, qualité et choix du stack à utiliser.
4 min de lectureRTX 5060 Ti 16 GB pour l’IA locale : vitesses mesurées pour les modèles LLM, les images et la parole.
Test de la RTX 5060 Ti 16 GB pour l’IA locale : cinq modèles LLM avec des vitesses allant de 42 à 116 tok/s, temps de génération du premier token à 32K, vitesses pour les images, vidéos, 3D et la parole, ainsi que les applications compatibles.
6 min de lectureTensorFold contre llama.cpp sur un Mac Studio M5 Ultra : un débit 1,84 fois supérieur pour du travail JSON réel
J’ai comparé TensorFold 1.2.0 avec llama.cpp sur un Mac Studio M5 Ultra équipé de Qwen3.8-27B, en effectuant 80 requêtes JSON réelles : un débit 1,84 fois supérieur avec 8 tâches simultanées.
9 min de lectureLe Hy-MT2-7B sur cinq environnements locaux : lequel convient pour la traduction sur un Mac ?
Le Hy-MT2-7B a été testé en charge sur llama.cpp, LM Studio, mlx-lm, Ollama et MLX-Serve sur deux ordinateurs Mac Studio M5 Ultra : débit, échelle, déterminisme, mémoire.
9 min de lectureUn flux de travail d’agent LLM local construit à partir de dossiers et de fichiers Markdown
Créez un pipeline d’agents locaux à plusieurs étapes avec des contrôles d’accès, où chaque étape correspond à un dossier, les prompts sont en markdown modifiable, et un humain examine le résultat avant l’étape coûteuse.
25 min de lectureLien de LM Studio avec les serveurs MCP pour les fichiers, GitHub et un navigateur.
Des configurations mcp.json étape par étape qui permettent à un modèle local d’utiliser le système de fichiers, les outils GitHub OAuth et Playwright, avec des choix de modèles et des corrections pour les erreurs courantes.
7 min de lecture
À propos de ces articles
Devis en 24 h
Besoin du même stack en couche opérateur ? Envoyez le brief — devis sous 24 h.