工程笔记
写给真正
交付技术栈的人
关于 React、Node.js、TypeScript 与 AI 的文章。有译文正文时显示译文。没有时显示英文,并注明这一点。
标签:distillation
微调成本已大幅降低,但模型代理仍需权重管控机制
如何通过策略内自蒸馏将智能体的存储经验转化为权重,四种优化标准,以及为何重复该循环三次会导致其失效。
阅读约 9 分钟用于0.8B SQL Agent的软标签蒸馏技术:为何较弱的Qwen教师模型更胜一筹
通过使用冻结轨迹中的top-k软标签对LoRA进行微调,一个0.8B参数的SQL智能体在220项任务中完成了55项,而性能较弱的Qwen模型反而优于性能更强的GPT模型。
阅读约 20 分钟
常见问题
关于这些文章
是。每篇都是为本站准备的英文原创改写。结构与代码跟随来源;正文重写并做过重合检查。
英文是来源。只有存在该语言的正文译文时才显示其他语言。缺失或空白的译文仍是英文,包括在本地化网址上。
草稿经编辑后进入发布队列。站点导入只收录新的或有变更的 slug,不会重复添加。
示例仅供说明。上线前请核对技术栈与许可。若需交付,请发来简报。