Des articles pour ceux qui
livrent le stack
Textes sur React, Node.js, TypeScript et AI. Un corps traduit est affiché quand il existe. Sinon vous voyez le texte anglais et une note qui le dit.
Tag : MLX
Le Hy-MT2-7B sur cinq environnements locaux : lequel convient pour la traduction sur un Mac ?
Le Hy-MT2-7B a été testé en charge sur llama.cpp, LM Studio, mlx-lm, Ollama et MLX-Serve sur deux ordinateurs Mac Studio M5 Ultra : débit, échelle, déterminisme, mémoire.
9 min de lectureExécuter des agents de codage locaux sur un Mac avec oMLX : explication du cache KV basé sur le disque
oMLX stocke les préfixes des commandes en SSD afin que les agents de codage locaux restent rapides sur Apple Silicon. Installez-le et connectez-y Claude Code, Codex, Cursor et OpenCode.
9 min de lectureÀ l’intérieur d’un LLM : inférence en Python pur pour Qwen3-0.6B sur MLX
Construction étape par étape de l’inférence des LLM en environ 200 lignes de Python avec MLX : tokeniseur, RMSNorm, RoPE, attention aux requêtes groupées, SwiGLU, cache KV et échantillonnage.
13 min de lectureExécuter des agents IA sur un MacBook : pourquoi oMLX est supérieur à MLX brut.
Raw MLX nécessitait environ 20 secondes pour gérer un contexte d’agent de 8,7 k de tokens sur un M1 Max. oMLX a réduit ce temps à environ 3 secondes grâce au batch processing et à un cache KV hiérarchisé. Les chiffres et leurs raisons.
5 min de lectureExécutez des LLM locaux sur un Mac avec MLX plutôt que le moteur llama.cpp par défaut.
Lorsque le MLX d’Apple surpasse llama.cpp pour les modèles de langage locaux sur Apple Silicon, avec des vitesses variables en fonction de la taille du modèle, trois façons de passer à Ollama, ainsi que les pièges à éviter.
5 min de lectureVaut-il la peine d’utiliser un LoRA plus grand ? Évaluez la précision par rapport au coût, et non les aspects subjectifs.
Un petit harnais qui traite les recettes LoRA comme des données et affiche la précision, le temps d’entraînement, la latence ainsi que la mémoire, permettant ainsi de baser les choix de classement et d’itération sur des chiffres.
5 min de lectureExécuter un affinage LoRA localement : vérifier, fusionner et éviter les échecs silencieux
Prouvez qu’un adaptateur LoRA a réellement amélioré un petit modèle, fusionnez-le et servez-le derrière une API locale compatible OpenAI, puis détectez les échecs qui génèrent des résultats erronés mais présentés comme fiables.
12 min de lecture
À propos de ces articles
Devis en 24 h
Besoin du même stack en couche opérateur ? Envoyez le brief — devis sous 24 h.