Des articles pour ceux qui
livrent le stack
Textes sur React, Node.js, TypeScript et AI. Un corps traduit est affiché quand il existe. Sinon vous voyez le texte anglais et une note qui le dit.
Tag : apple-silicon
Le Mac Studio M5 Ultra contre le DGX Spark : vitesse des modèles de langage locaux avec les mêmes modèles.
Le Mac Studio M5 Ultra 256 GB contre une, deux et quatre unités DGX Spark sur Nemotron, Qwen3.8 et DeepSeek-V4.1-Flash : décodage, préremplissage, agrégation et traitement d’images.
4 min de lectureTensorFold contre llama.cpp sur un Mac Studio M5 Ultra : un débit 1,84 fois supérieur pour du travail JSON réel
J’ai comparé TensorFold 1.2.0 avec llama.cpp sur un Mac Studio M5 Ultra équipé de Qwen3.8-27B, en effectuant 80 requêtes JSON réelles : un débit 1,84 fois supérieur avec 8 tâches simultanées.
9 min de lectureExécuter des agents de codage locaux sur un Mac avec oMLX : explication du cache KV basé sur le disque
oMLX stocke les préfixes des commandes en SSD afin que les agents de codage locaux restent rapides sur Apple Silicon. Installez-le et connectez-y Claude Code, Codex, Cursor et OpenCode.
9 min de lectureRAG multimodal privé sur un Mac M1 : lecture sélective de graphiques avec Ollama
RAG multimodal privé sur un Mac M1 avec Ollama : PyMuPDF pour le texte et les tableaux, un petit modèle visuel Qwen uniquement pour les graphiques, les vérifications de nombres et la recherche dans ChromaDB.
10 min de lectureExécuter des agents IA sur un MacBook : pourquoi oMLX est supérieur à MLX brut.
Raw MLX nécessitait environ 20 secondes pour gérer un contexte d’agent de 8,7 k de tokens sur un M1 Max. oMLX a réduit ce temps à environ 3 secondes grâce au batch processing et à un cache KV hiérarchisé. Les chiffres et leurs raisons.
5 min de lectureExécutez des LLM locaux sur un Mac avec MLX plutôt que le moteur llama.cpp par défaut.
Lorsque le MLX d’Apple surpasse llama.cpp pour les modèles de langage locaux sur Apple Silicon, avec des vitesses variables en fonction de la taille du modèle, trois façons de passer à Ollama, ainsi que les pièges à éviter.
5 min de lectureExécuter Qwen3.8-Flash-Next sur un MacBook de 64 GB : fichiers, paramètres Quants et options llama.cpp
Exécuter un MoE à 180 milliards de paramètres sur un M4 Max ou un M1 Max sans décharge vers le CPU : quel GGUF choisir, comment la table de n-grammes est divisée en fragments, et la commande exacte de llama-server.
9 min de lectureDu ajustement fin à la précision : Réduction significative
Ajustement fin combiné à RAG pour réduire les hallucinations : pourquoi l’ajustement fin seul est insuffisant, l’architecture avec Ollama, et comment la précision s’est améliorée dans un domaine restreint.
13 min de lecture
À propos de ces articles
Devis en 24 h
Besoin du même stack en couche opérateur ? Envoyez le brief — devis sous 24 h.