工程笔记
写给真正
交付技术栈的人
关于 React、Node.js、TypeScript 与 AI 的文章。有译文正文时显示译文。没有时显示英文,并注明这一点。
标签:LoRA
训练企业级AI智能体:在SFT、DPO、GRPO和RAG之间做选择。
培训企业级AI智能体:何时使用SFT、DPO、GRPO、LoRA或普通RAG,以及如何将结果以固定、经过评估且可逆的形式发布。
阅读约 50 分钟模型差异检测工具的发现:风格变化掩盖了细微的微调效果。
一个模型差异检测工具对一个金融领域的LoRA微调进行了审核:82%的检测案例发现了长度与结构的变动,而预期的推理变化却未被发现。
阅读约 15 分钟LoRA与QLoRA详解:无需100GB显存即可微调7B模型
为何全量微调需要80到100GB的显存,低秩适配器如何将可训练权重降至1.6%,如何选择秩值和目标层,以及QLoRA带来了什么优势。
阅读约 5 分钟嵌入、LoRA与PCA背后的八个线性代数思想
通过房价实例讲解向量、矩阵、特征向量、余弦相似度、范数、SVD及秩的概念,以及依赖这些概念的人工智能技术。
阅读约 7 分钟QLoRA如何在小型GPU上微调大型模型:4位量化基础
从基础入手理解QLoRA:为何完整微调成本高昂,LoRA适配器与4位量化如何结合使用,以及何时该方法适合你的项目。
阅读约 8 分钟更大的LoRA值得吗?应以准确度而非感觉来衡量成本。
一种小型工具,将LoRA配方视为数据,并输出准确率、训练时间、延迟及内存使用情况,从而让排名和迭代次数的选择有数据支撑。
阅读约 5 分钟在单个GPU上运行两种大语言模型工作负载:vLLM LoRA、智能体以及Azure ML微调功能
通过同一张卡处理交互式和批量代理流量,同时利用需求导向的LoRA、ClickHouse分析功能、Blob存储对象,以及通过MLflow进行跟踪的Unsloth训练功能。
阅读约 8 分钟在本地运行LoRA微调:验证、融合并避免隐性故障
证明LoRA适配器确实提升了小型模型的性能,将其融合并在本地兼容OpenAI的API后提供服务,同时检测那些会输出错误结果的故障情况。
阅读约 12 分钟
常见问题
关于这些文章
是。每篇都是为本站准备的英文原创改写。结构与代码跟随来源;正文重写并做过重合检查。
英文是来源。只有存在该语言的正文译文时才显示其他语言。缺失或空白的译文仍是英文,包括在本地化网址上。
草稿经编辑后进入发布队列。站点导入只收录新的或有变更的 slug,不会重复添加。
示例仅供说明。上线前请核对技术栈与许可。若需交付,请发来简报。