《小模型，大效能：NVIDIA Nemotron 3.5微调经验总结》

以下笔记梳理了《小模型，大杠杆：通过自主代理微调 NVIDIA Nemotron 3.5 Lightning 的经验总结》中的实用路径。重点在于契约、校验以及可直接插入的代码占位符，而非激励性叙述。 在完成概览阶段时，首先列出契约内容：所需输入、成功信号以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 将此阶段视为输入与经过验证的输出之间的契约。为相关成果命名，明确成功校验标准，并杜绝默许的半完成状态。

我们的代理如何工作

将“智能体工作流程”视为可测量的对象来处理时，其效果最佳。在扩大范围之前，先记录一个成功的案例、一个失败案例以及回滚说明。在功能结果旁同时记录处理时间以及代币或查询成本。提前了解成本情况，可避免在从演示环境过渡到共享环境时出现意外账单。为每轮对话和每次会话设定代币预算。智能体工具往往会大量消耗上下文资源，设置上限能防止演示过程变成令人意外的高额账单。

基准测试

将基准测试阶段视为可测量的平台使用效果最佳。在扩大范围之前，先记录一个成功的案例、一个失败案例以及回滚说明。 将配置置于应用程序代码之外。环境文件、密钥存储和功能开关应集中存放，这样操作人员无需查看整个系统结构即可进行审计。 为每轮及每次会话设定令牌预算。智能工具会大量消耗上下文资源，设置上限可避免演示过程突然产生额外费用。

财务

将财务阶段视为可度量的对象来处理，效果最佳。在扩大范围之前，需记录一份理想的操作流程、一个失败案例以及回滚说明。 同时记录正常处理路径和故障恢复路径。重试机制、人工审核环节以及错误消息处理都是产品本身的一部分，而非后续需要补充的内容。 为每次操作和每个会话设定预算额度。智能工具会大量消耗上下文资源，设置上限可避免演示过程变成意外的费用账单。 将财务阶段视为输入与已验证输出之间的契约来处理。为相关文档命名，明确成功标准，绝不允许出现无声无息的半完成状态。

单次运行

在单个运行阶段，应在修改代码之前明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。应在功能结果旁记录执行时间以及令牌或查询成本。提前了解成本情况，可避免在从演示环境过渡到共享环境时出现意外费用。当下一步操作是编写代码或调用工具时，优先选择具有架构验证的结构化输出，而非自由形式的文本。

医疗保健领域

在医疗保健阶段，修改代码之前需明确输入参数、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 配置信息应置于应用程序代码之外。环境文件、密钥存储以及功能标志应集中存放于一个位置，以便操作人员无需查看整个流程即可进行审计。 当下一步是代码执行或工具调用时，优先使用具有架构验证的结构化输出，而非自由形式的文本。

单次运行

在单次运行阶段，修改代码之前需明确输入参数、该步骤的负责人以及终止条件。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 需同时记录正常流程与异常恢复路径。重试机制、人工审核环节以及错误处理都是产品功能的一部分，而非后续需要补充的内容。 当下一步操作为代码编写或工具调用时，应优先使用具有结构化格式且经过模式验证的输出，而非自由形式的文本。 在单次运行阶段，修改代码之前需明确输入参数、该步骤的负责人以及终止条件。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 应将此阶段视为输入与经过验证的输出之间的契约。为相关成果命名，明确成功标准，绝不允许出现无声的、不完整的处理结果。

Nemotron 3.5 Lightning最佳微调的六点经验

在总结相关经验时，首先需明确合同条款：所需输入、成功信号以及部分失败时的处理方式。这样的清单能确保后续代码修改的透明度。 在功能结果旁记录执行时间以及令牌或查询成本。提前了解成本情况，可避免从演示环境过渡到共享环境时出现意外费用。 缓存稳定的系统指令和工具架构。重复发送相同的开头信息是导致资源浪费的常见原因。

经验1：小型优化方案也能带来显著效果

在完成第1课的简单示例阶段时，首先写下相关约定：所需的输入参数、成功信号以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 将配置信息与应用程序代码分开存放。环境文件、密钥存储以及功能开关应集中管理，这样操作人员无需查看整个系统结构即可进行审计。 缓存系统中稳定的指令和工具架构。重复发送相同的开头信息是导致资源浪费的常见原因。

第2课：不仅要教授内容，还要教授输出方式

在完成第2课“教学”阶段时，首先需明确契约内容：所需输入、成功信号以及部分失败时的处理方式。这份清单能确保后续的代码修改保持一致性。 同时记录正常流程与异常恢复路径。重试机制、人工审核环节以及死信处理都是产品本身的组成部分，而非后续的优化工作。 缓存系统中稳定的指令和工具结构。重复发送相同的报文头是导致资源浪费的常见原因。 在完成第2课“教学”阶段时，首先需明确契约内容：所需输入、成功信号以及部分失败时的处理方式。这份清单能确保后续的代码修改保持一致性。 将此阶段视为输入与经过验证的输出之间的契约。为相关产物命名，定义成功检测标准，并拒绝默许的部分完成状态。

第3课：目标风格也是标签的一部分

第3课的目标风格阶段若被视为可度量的指标，则效果最佳。在扩大范围之前，先记录一个成功的案例、一个失败案例以及回滚说明。在功能结果旁同时记录处理时间以及令牌或查询成本。提前了解成本情况，可避免在从演示环境过渡到共享环境时出现意外账单。为每轮及每次会话设定令牌预算。智能工具往往会大量消耗上下文资源，设置上限能防止演示过程变成意外收费的源头。

第4课：从32个排名和两个训练周期开始是个非常好的选择

第4课的32级阶段最适合被视为一个可测量的界面。在扩大范围之前，先记录一份成功的案例、一个失败案例以及回滚说明。 将配置放在应用程序代码之外。环境文件、密钥存储和功能标志应集中存放，这样操作人员无需查看整个系统结构即可进行审计。 为每轮和每次会话设定token预算。智能工具会大量消耗上下文资源；设置上限可避免演示过程变成意外的费用账单。

第5课：转移信息能让你了解模型实际学到了什么

第5课指出，将阶段工作视为可度量的对象时效果最佳。在扩大范围之前，需记录一份理想案例、一个失败案例以及回滚说明。同时记录成功路径和恢复路径。重试机制、人工审核环节以及错误处理都是产品的一部分，而非后续需要补充的内容。为每轮操作和每次会话设定预算额度。智能工具会大量消耗上下文资源，设置上限可避免演示过程变成意外的费用账单。第5课还指出，将阶段工作视为可度量的对象时效果最佳。在扩大范围之前，需记录一份理想案例、一个失败案例以及回滚说明。应将此阶段视为输入与经过验证的输出之间的契约，为相关成果命名，明确成功标准，绝不允许出现无声无息的半完成状态。

第6课：一个适配器可承载多种技能，但平衡优于数量

在处理第6课的“单适配器阶段”时，应在修改代码之前明确输入参数、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。除了功能结果外，还需记录执行时间以及令牌或查询成本。提前了解这些成本信息，可避免在从演示环境切换到共享环境时出现意外费用。当下一步操作是编写代码或调用工具时，建议使用具有模式验证的结构化输出，而非自由形式的文本。

Nemotron 3.5 Lightning的进一步学习内容与优化技巧

在“额外学习与技巧”阶段，应在修改代码之前明确输入参数、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 配置信息应置于应用程序代码之外。环境文件、密钥存储以及功能标志应集中存放于一个位置，以便操作人员无需查看整个流程即可进行审计。 当下一步是代码执行或工具调用时，优先使用具有架构验证的结构化输出，而非自由形式的文字描述。

结论

在“结论”阶段，应在修改代码之前明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 需同时记录正常流程和异常恢复流程。重试机制、人工审核环节以及错误处理都是产品本身的组成部分，而非后续需要补充的内容。 当下一步操作为代码编写或工具调用时，应优先使用具有结构化格式且经过模式验证的输出，而非自由形式的文字描述。 在“结论”阶段，应在修改代码之前明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 应将此阶段视为输入参数与经过验证的输出之间的契约。为相关成果命名，明确成功判定标准，杜绝默许部分完成的情况。

资源

在资源准备阶段，首先写下合同条款：所需的输入参数、成功信号以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 在功能结果旁记录执行时间以及令牌或查询成本。提前了解成本情况，可避免在从演示环境过渡到共享环境时出现意外费用。 缓存稳定的系统指令和工具架构。重复发送相同的开头信息是导致资源浪费的常见原因。

附录

在处理附录阶段时，首先写下合同规范：所需的输入参数、成功信号以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 将配置信息与应用程序代码分开存放。环境文件、密钥存储以及功能开关应集中于一个位置，这样操作人员无需查看整个系统结构即可进行审计。 缓存系统中稳定的指令和工具架构。重复发送相同的开头信息是导致资源浪费的常见原因。

单个智能体运行产生的基准测试结果

在逐个处理代理阶段的基准测试时，首先写下相关契约：所需的输入参数、成功信号以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 同时记录正常流程和故障恢复流程。重试机制、人工审核环节以及死信处理都是产品本身的组成部分，而非后续需要补充的功能。 缓存稳定的系统指令和工具结构。重复发送相同的开头信息是导致资源浪费的常见原因。

金融领域

在处理财务相关阶段时，首先写下合同内容：所需的输入参数、成功标志以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 建议使用小型、可测试的单元而非庞大的脚本。当某个步骤失败时，故障应能指向单一的责任模块，而非复杂的流程链。 缓存系统中稳定的指令和工具结构。重复发送相同的开头信息是导致资源浪费的常见原因。

医疗保健

在处理“医疗保健”阶段时，首先写下合同条款：所需的输入、成功标志以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 将这一阶段视为输入与经过验证的输出之间的契约。为相关成果命名，明确成功检测标准，并杜绝无声的半完成状态。 缓存稳定的系统指令和工具架构。重复发送相同的开头信息是导致资源浪费的常见原因。

为不同任务选择合适的方案

在“选择合适方案”这一阶段，首先需列出相关约定：所需输入、成功标志以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 在功能结果旁记录执行时间以及令牌或查询成本。提前了解成本情况，可避免在从演示环境过渡到共享环境时出现意外费用。 缓存稳定的系统指令和工具结构。重复发送相同的前置信息是造成资源浪费的常见原因。

十种我们会重复使用的微调方案

在实施这十个微调方案时，我们首先会列出规范：所需的输入参数、成功标志以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改始终符合要求。 应将配置信息与应用程序代码分开。环境文件、密钥存储以及功能开关应集中存放于一处，这样操作人员无需查看整个系统结构即可进行审计。 缓存系统中稳定的指令和工具架构。重复发送相同的开头信息是导致资源浪费的常见原因。

方案A：在不放弃专业功能的前提下实现通用医疗适配

在处理“方案A”的初始阶段时，首先需明确相关约定：所需的输入参数、成功标志以及部分失败时的处理方式。这份清单能确保后续的代码修改保持一致性。 同时记录正常流程与异常恢复路径。重试机制、人工审核环节以及错误消息处理都是产品功能的一部分，而非后续需要补充的内容。 缓存系统中稳定的指令及工具结构。重复发送相同的初始化数据是导致资源浪费的常见原因。 在处理“方案A”的初始阶段时，首先需明确相关约定：所需的输入参数、成功标志以及部分失败时的处理方式。这份清单能确保后续的代码修改保持一致性。 将此阶段视为输入与经过验证的输出之间的契约。为相关产物命名，定义成功判定标准，杜绝无声的半完成状态。

方案B：将FinQA作为直接的程序翻译工具

将 Recipe B FinQA 作为阶段性方案时，若能将其视为可度量的对象，则效果最佳。在扩大范围之前，先收集一份成功的处理记录、一个失败案例以及回滚说明。在功能结果旁记录处理时间以及令牌或查询成本。提前了解成本情况，可避免在从演示环境过渡到共享环境时出现意外账单。为每轮对话和每次会话设定令牌预算。智能工具往往会大量消耗上下文资源，设置上限能防止演示环境变成产生意外费用的源头。

Recipe C：带有确定性推理框架的 TAT-QA

C TAT-QA 方法在被视为可度量的指标时效果最佳。在扩大范围之前，先记录一个成功的案例、一个失败案例以及回滚说明。 将配置置于应用程序代码之外。环境文件、密钥存储和功能标志应集中存放，以便操作人员无需查看整个系统结构即可进行审计。 为每轮及每次会话设定预算令牌数。智能工具往往会过度扩展上下文；设置上限可避免演示过程变成意外的费用账单。

方案 D：具有均衡覆盖率和严格负面规则的 UNER

将“Recipe D UNER with stage”视为可度量的对象时效果最佳。在扩大范围之前，需记录一份理想案例、一个失败案例以及回滚说明。 同时记录正常流程与恢复流程。重试机制、人工审核环节以及错误处理都是产品的一部分，而非后续需要补充的内容。 为每轮对话和每次会话设定预算额度。智能工具会大量消耗上下文资源，设置上限可避免演示过程变成意外的费用账单。 将“Recipe D UNER with stage”视为输入与已验证输出之间的契约。为相关成果命名，明确成功标准，绝不允许默默完成部分任务。

Recipe E：通过选定的自我提炼实现GSMPlus

对于“Recipe E GSMPlus”流程，应在修改代码之前明确输入参数、各步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。除了功能结果外，还需记录执行时间以及令牌或查询成本。提前了解这些成本可以避免在流程从演示环境切换到共享环境时出现意外费用。当下一步操作是编写代码或调用工具时，应优先使用具有架构验证的结构化输出，而非自由形式的文本描述。

Recipe F：整合六位金融专家

对于包含六个阶段的 Recipe F，在修改代码之前需明确输入参数、各步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 配置信息应置于应用程序代码之外。环境文件、密钥存储以及功能标志应集中存放于一个位置，以便操作人员无需查看整个流程即可进行审计。 当下一步操作为代码编写或工具调用时，应优先使用具有架构验证的结构化输出，而非自由形式的文本。

Recipe G：通过调整类平衡与答案完整性来实现 MEDEC

对于“Recipe G MEDEC by stage”流程，修改代码之前需明确输入参数、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新执行该步骤，而无需猜测隐藏状态。 需同时记录正常流程与异常恢复路径。重试机制、人工审核环节以及错误处理都是产品本身的组成部分，而非后续需要补充的内容。 当下一步操作为代码编写或工具调用时，应优先使用具有结构化格式且经过模式验证的输出，而非自由形式的文字描述。 对于“Recipe G MEDEC by stage”流程，修改代码之前需明确输入参数、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新执行该步骤，而无需猜测隐藏状态。 应将此阶段视为输入参数与经过验证的输出之间的契约。需为相关输出文件命名，明确成功判定标准，并杜绝无声的半完成状态。

方案H：通过任务结构匹配进行法律推理

在实施方案H的法律推理阶段时，首先写下合同的相关内容：所需输入、成功标志以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 在功能结果旁记录执行时间以及令牌或查询成本。提前明确成本有助于避免从演示环境过渡到共享环境时出现意外费用。 缓存稳定的系统指令和工具结构。重复发送相同的开头信息是造成资源浪费的常见原因。

方案Y：通过分离工具语法与对话状态实现BFCL

在分阶段实现该方案时，首先写下相关契约：所需的输入参数、成功标志以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 将配置信息与应用程序代码分开存放。环境文件、密钥存储以及功能开关应集中管理，这样操作人员无需查看整个系统结构即可进行审计。 缓存系统中稳定的指令和工具架构。重复发送相同的开头信息是导致资源浪费的常见原因。

方案J：通过双向测量进行CRUXEval

在分阶段实现 Recipe J CRUXEval 时，首先需明确规范：所需的输入参数、成功信号以及部分失败时的处理方式。这份清单能确保后续的代码修改保持一致性。 同时记录正常流程与异常恢复路径。重试机制、人工审核环节以及错误消息处理都是产品功能的一部分，而非后续需要补充的内容。 缓存系统中稳定的指令和工具结构。重复发送相同的开头信息是导致资源浪费的常见原因。 在分阶段实现 Recipe J CRUXEval 时，首先需明确规范：所需的输入参数、成功信号以及部分失败时的处理方式。这份清单能确保后续的代码修改保持一致性。 将此阶段视为输入与验证后输出之间的契约。为相关成果命名，定义成功判定标准，杜绝无声的半完成状态。

操作检查清单

在操作检查清单阶段，应在修改代码之前明确输入内容、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新执行该步骤，而无需猜测隐藏状态。

优先选择小型、可测试的单元，而非庞大的脚本。当某个步骤失败时，故障应指向单一责任点，而非复杂的流程链。

如果后续步骤是代码或工具调用，应优先使用具有结构化格式且经过模式验证的输出，而非自由形式的文本。

在调整提示词之前，需先使用固定的问题集来衡量检索效果。仅仅更换提示词很难改善较差的检索性能。

保持图结构的状态扁平化且具有类型定义。嵌套的数据块会掩盖哪个节点编写了哪个字段的信息，还会在流程中断后导致无法继续执行。

只要预算允许，就应在持续集成过程中使用测试数据而非真实的付费 API，来添加能够检测关键路径的冒烟测试。

在推广该技术栈之前，应先冻结版本，为关键流程记录标准输出日志，并明确回滚步骤。共享环境需要设置速率限制、租户验证机制，以及明确的密钥轮换负责人。与其展示花哨的一次性演示，不如注重扎实的可靠性。

e06c9a71602e的批量处理说明：不要将提供商密钥放入代码仓库，为每个会话设置令牌使用上限，并将日志存储在评估用示例文件旁边，以便后续模型更换时保持对比性。

针对强化安全性的第0阶段，在修改代码之前需明确输入参数、该步骤的负责人以及完成标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。需同时记录正常流程和故障恢复流程。重试机制、人工审核环节以及错误处理都是产品不可或缺的部分，而非后续才需要补充的功能。

强化细节 0/813：记录该代码段的运行时间、错误类型以及代币消耗情况，然后依据固定的问题清单而非个人经验来判断是否保留该修改。

在处理强化笔记的第一阶段时，首先写下合约的详细内容：所需的输入参数、成功信号以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。将这一阶段视为输入与验证后输出之间的契约，为相关组件命名，明确成功判定标准，并杜绝无声的半完成状态。

强化细节 1/813：记录该代码段的运行时间、错误类型以及代币消耗情况，然后依据固定的问题清单而非个人经验来判断是否保留该修改。

加固措施的第2阶段在被视为可测量的表面时效果最佳。在扩大范围之前，先记录一份理想的运行日志、一个故障案例以及回滚说明。 将配置置于应用程序代码之外。环境文件、密钥存储和功能标志应集中存放于一个位置，以便操作人员无需查看整个系统结构即可进行审计。

加固细节2/813：针对该措施需测量耗时、错误类型以及令牌使用情况，然后依据固定的评估标准而非个人经验来判断是否保留该变更。

在处理强化措施的第0阶段时，首先写下相关约定：所需的输入参数、成功信号以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 在功能结果旁记录执行时间以及代币或查询成本。提前了解成本情况，可避免在系统从演示环境过渡到共享环境时出现意外费用。

强化措施细节0/832：为该阶段测量实际执行时间、错误类型以及代币消耗情况，然后依据固定的评估标准而非主观判断来决定是否保留该修改。

将强化措施的第1阶段视为可测量的对象来处理效果最佳。在扩大范围之前，先记录一个理想运行案例、一个失败案例以及回滚说明。 同时记录正常流程和故障恢复流程。重试机制、人工审核环节以及错误处理方式都是产品本身的组成部分，而非后续需要补充的内容。

强化细节 1/832：测量该笔记的处理时间、错误类型以及令牌消耗情况，然后依据固定的问题集而非个人经验来决定是否保留该变更。