工程笔记
写给真正
交付技术栈的人
关于 React、Node.js、TypeScript 与 AI 的文章。有译文正文时显示译文。没有时显示英文,并注明这一点。
标签:Fine-Tuning
训练企业级AI智能体:在SFT、DPO、GRPO和RAG之间做选择。
培训企业级AI智能体:何时使用SFT、DPO、GRPO、LoRA或普通RAG,以及如何将结果以固定、经过评估且可逆的形式发布。
阅读约 50 分钟模型差异检测工具的发现:风格变化掩盖了细微的微调效果。
一个模型差异检测工具对一个金融领域的LoRA微调进行了审核:82%的检测案例发现了长度与结构的变动,而预期的推理变化却未被发现。
阅读约 15 分钟通用人工智能是一个学习问题,而非存储问题。
有一种观点认为,人工智能所缺少的关键在于持续学习而非更大的权重,并提出了一个用于验证每项微小变化的自我更新循环示意图。
阅读约 7 分钟RAG、微调还是智能体:选择合适的构建层级及顺序
RAG与微调与AI智能体:各自的功能、成本、延迟及故障模式、经验法则,以及一个展示构建顺序的人力资源助手。
阅读约 12 分钟微调成本已大幅降低,但模型代理仍需权重管控机制
如何通过策略内自蒸馏将智能体的存储经验转化为权重,四种优化标准,以及为何重复该循环三次会导致其失效。
阅读约 9 分钟提示工程、RAG还是微调?先诊断问题层次再做选择。
2026年选择提示工程、RAG和微调的实用方法——通过三个问题、决策流程、成本结构、内容新鲜度以及常见错误来辅助决策。
阅读约 9 分钟从下一个词预测到指令遵循:GPT模型的微调
预训练的GPT是如何学会遵循指令的:记录格式化、标签偏移、填充掩码、训练循环、评估限制以及向DPO偏好靠拢的过程。
阅读约 9 分钟用于0.8B SQL Agent的软标签蒸馏技术:为何较弱的Qwen教师模型更胜一筹
通过使用冻结轨迹中的top-k软标签对LoRA进行微调,一个0.8B参数的SQL智能体在220项任务中完成了55项,而性能较弱的Qwen模型反而优于性能更强的GPT模型。
阅读约 20 分钟GRPO微调详解:教会本地大语言模型进行推理
GRPO放弃PPO的批评机制,通过群体比较进行学习。详细介绍五个核心量、奖励函数以及一段简短的Unsloth和TRL训练代码示例。
阅读约 11 分钟
常见问题
关于这些文章
是。每篇都是为本站准备的英文原创改写。结构与代码跟随来源;正文重写并做过重合检查。
英文是来源。只有存在该语言的正文译文时才显示其他语言。缺失或空白的译文仍是英文,包括在本地化网址上。
草稿经编辑后进入发布队列。站点导入只收录新的或有变更的 slug,不会重复添加。
示例仅供说明。上线前请核对技术栈与许可。若需交付,请发来简报。