Des articles pour ceux qui
livrent le stack
Textes sur React, Node.js, TypeScript et AI. Un corps traduit est affiché quand il existe. Sinon vous voyez le texte anglais et une note qui le dit.
Tag : LoRA
Formation des agents d’IA d’entreprise : choisir entre SFT, DPO, GRPO et RAG.
Formation des agents d’IA d’entreprise : quand utiliser SFT, DPO, GRPO, LoRA ou RAG classique, et comment livrer le résultat sous forme de version fixée, évaluée et réversible.
50 min de lectureCe qu’un agent de différenciation de modèles découvre : les changements de style éclipsent un affinage restreint.
Un agent de différenciation de modèles a audité un affinage LoRA en finance : 82 % des exécutions ont détecté le changement de longueur et de structure, tandis que la modification de raisonnement prévue est restée cachée.
15 min de lectureLoRA et QLoRA expliqués : affinement d’un modèle de 7 milliards de paramètres sans 100 Go de VRAM
Pourquoi un ajustement fin complet nécessite de 80 à 100 Go, comment les adaptateurs à rang faible réduisent les poids entraînables à 1,6 %, comment choisir le rang et les couches cibles, et qu’ajoute QLoRA.
5 min de lectureHuit idées d’algèbre linéaire derrière les embeddings, LoRA et PCA
Vecteurs, matrices, vecteurs propres, similarité cosinus, normes, décomposition SVD et rang expliqués à l’aide d’exemples de prix immobiliers ainsi que des techniques d’intelligence artificielle qui en dépendent.
7 min de lectureComment QLoRA affine les grands modèles sur de petites GPU : bases du 4 bits
Comprendre QLoRA de A à Z : pourquoi le fine-tuning complet est coûteux, comment les adaptateurs LoRA et la quantification 4 bits s’associent, et quand cette approche convient à votre projet.
8 min de lectureVaut-il la peine d’utiliser un LoRA plus grand ? Évaluez la précision par rapport au coût, et non les aspects subjectifs.
Un petit harnais qui traite les recettes LoRA comme des données et affiche la précision, le temps d’entraînement, la latence ainsi que la mémoire, permettant ainsi de baser les choix de classement et d’itération sur des chiffres.
5 min de lectureDeux charges de travail d’LLM sur une seule GPU : vLLM LoRA, agents, et affinage avec Azure ML
Gérez le trafic des agents interactifs et en lot depuis une seule carte, avec LoRA adaptatif à la demande, des analyses ClickHouse, des artefacts Blob, ainsi que l’entraînement Unsloth suivi via MLflow.
8 min de lectureExécuter un affinage LoRA localement : vérifier, fusionner et éviter les échecs silencieux
Prouvez qu’un adaptateur LoRA a réellement amélioré un petit modèle, fusionnez-le et servez-le derrière une API locale compatible OpenAI, puis détectez les échecs qui génèrent des résultats erronés mais présentés comme fiables.
12 min de lecture
À propos de ces articles
Devis en 24 h
Besoin du même stack en couche opérateur ? Envoyez le brief — devis sous 24 h.