Notes d’ingénierie
Des articles pour ceux qui
livrent le stack
Textes sur React, Node.js, TypeScript et AI. Un corps traduit est affiché quand il existe. Sinon vous voyez le texte anglais et une note qui le dit.
Tag : llamacpp
llama.cpp contre vLLM contre Ollama : Choisissez le moteur local en fonction du goulot d’étranglement
llama.cpp, Ollama ou vLLM pour un LLM local ? Associez le moteur au goulot d’étranglement : portabilité du ordinateur portable, compatibilité DX, ou performance GPU multi-utilisateurs sous charge.
5 min de lectureLLMOps pour les petits modèles de langage : frameworks de déploiement et guides de mise en production
Pourquoi les SLM l’emportent en termes de coût et de confidentialité, comment se comparent vLLM, SGLang, TGI, llama.cpp, Ollama, WebLLM, ONNX et TensorRT-LLM, ainsi que comment les quantifier, les évaluer et les intégrer en environnement de production.
18 min de lecture
FAQ
À propos de ces articles
Oui. Chaque texte est un rewrite anglais original pour ce site. Structure et code suivent la source ; la prose est réécrite et contrôlée.
L’anglais est la source. Une autre langue n’apparaît que si ce corps traduit existe. Une traduction absente reste en anglais, y compris sur une adresse localisée.
Les brouillons entrent en file après relecture. L’import ne prend que les slugs nouveaux ou modifiés — sans doublons.
Exemples illustratifs. Validez stack et licences avant la prod. Pour une livraison, envoyez le brief.
Devis en 24 h
Besoin du même stack en couche opérateur ? Envoyez le brief — devis sous 24 h.