生产环境中的大语言模型监控：指标、质量、成本与安全

本指南将逐步构建从原材料到可运行系统的完整流程，用于实现“生产环境中的大语言模型监控：指标、质量、成本与安全”这一目标。重点在于可操作的步骤、明确的检查点，以及可直接放入代码仓库的代码，无需猜测其用途。 在修改代码之前，应先明确输入参数、各步骤的负责人以及完成标准。操作人员应能够从已知的检查点重新运行相应步骤，而无需推测隐藏的状态。 需同时记录正常流程与异常恢复流程。重试机制、人工审核环节以及错误处理方式都是产品不可或缺的部分，而非后续需要补充的功能。

大语言模型应用并不仅仅是模型调用

对于大型语言模型应用而言，这并不仅仅是调用模型那么简单，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。相比冗长的脚本，更应采用小型且可测试的单元。当某个步骤失败时，故障原因应能明确指向某个特定责任方，而非整个复杂的流程。应将延迟、错误率、令牌成本、事实依据性以及安全性指标视为首要的监控指标。

从常规的生产环境监控开始

首先从常规的生产监控开始，在修改代码之前需明确输入参数、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏的状态。应将此阶段视为输入与经过验证的输出之间的契约：为相关成果命名，定义成功判定标准，并拒绝默许的半完成状态。需将延迟、错误率、令牌成本、合理性以及安全性相关指标视为首要的SLI。

真正重要的监控体系

对于真正重要的监控体系，应在修改代码之前明确输入参数、各步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行相应步骤，而无需猜测隐藏状态。除了功能结果外，还需记录执行时间以及令牌或查询成本。提前了解这些成本信息，可避免在系统从演示环境过渡到共享环境时出现意外费用。应将延迟、错误率、令牌成本、合理性以及安全性指标视为首要的SLI。对于真正重要的监控体系，应在修改代码之前明确输入参数、各步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行相应步骤，而无需猜测隐藏状态。需同时记录正常流程和故障恢复流程。重试机制、人工审核环节以及死信处理都是产品不可或缺的组成部分，而非后续需要补充的功能。

每次请求的成本往往不是正确的衡量标准

在认为“每次请求的成本往往不是正确的衡量标准”之前，应先明确输入参数、该步骤的负责人以及结束条件，然后再修改代码。操作人员应当能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。相比庞大的脚本，应优先使用小型且可测试的单元。当某个步骤失败时，故障应能指向具体的责任方，而非混乱的整个流程。不仅要对严重故障发出警报，还要对分布变化进行监控——悄无声息的质量下降才是最昂贵的故障类型。

记录足够的上下文以便复现故障

为确保有足够的上下文来复现故障，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 应将此阶段视为输入与经过验证的输出之间的契约。为相关成果命名，定义成功判定标准，并拒绝默许部分完成的情况。 不仅要对严重故障发出警报，还要对分布变化进行监控。悄无声息的质量下降才是代价最高的故障类型。

trace_id
request_id
session_id
timestamp

application_version
prompt_template_id
prompt_template_version
retrieval_pipeline_version
tool_schema_version

requested_model
returned_model
generation_parameters
input_tokens
output_tokens

time_to_first_output
total_generation_time
total_request_time

retrieval_query
retrieval_filters
retrieved_document_ids
retrieved_document_versions
retrieval_scores
reranker_scores

tool_name
tool_status
tool_duration
tool_retry_count
tool_side_effect_id

input_guardrail_result
output_guardrail_result
policy_reason

quality_scores
human_review_status
user_feedback
task_outcome

切勿将可观测性变成隐私泄露的途径

为避免将可观测性变成隐私泄露，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。应在功能结果旁记录执行时间以及令牌或查询成本。提前了解成本情况，可避免在流程从演示环境转向共享环境时出现意外账单。不仅要针对严重故障发出警报，还需对分布变化进行监控——悄无声息的质量下降才是最昂贵的故障类型。为避免将可观测性变成隐私泄露，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。需同时记录正常流程与故障恢复流程。重试机制、人工审核环节以及死信处理都是产品不可或缺的部分，而非后续才需要补充的功能。

质量无法用单一通用分数来衡量

由于质量无法简化为唯一的通用评分，因此在修改代码之前需明确输入参数、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。相比庞大的脚本，更应采用小型且可测试的单元。当某个步骤出现故障时，故障原因应能指向具体的责任方，而非复杂的流程链。将部分测试用例纳入评估集，这样生产环境中的意外情况就能通过离线测试来发现。

可使用大语言模型作为评判工具，但切勿盲目崇拜

供LLM评估人员使用，但切勿盲目崇拜它们。在修改代码之前，需明确输入内容、各步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。应将此阶段视为输入与经过验证的输出之间的契约：为相关成果命名，定义成功判定标准，并拒绝默许的半完成状态。将样本轨迹纳入评估集，以便将生产环境中的意外情况转化为离线测试。

检索与生成过程必须分别监控

检索与生成需要分别监控，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。应在功能结果旁记录处理时间以及令牌或查询成本。提前了解成本情况，可避免在系统从演示环境切换到共享环境时出现意外费用。在调整提示词之前，需先使用固定的问题集测试召回率。仅仅更换提示词往往无法改善较差的检索效果。检索与生成需要分别监控，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。需同时记录正常流程与异常恢复流程。重试机制、人工审核环节以及错误处理方式都是产品不可或缺的部分。

不得延迟优化。

智能体监控即操作监控

由于智能体监控属于操作监控，因此在修改代码之前需明确输入参数、该步骤的负责人以及终止条件。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 相比庞大的脚本，应优先使用小型且可测试的单元。当某个步骤失败时，故障原因应能明确指向单一责任方，而非复杂的流程链。 需保持图结构的状态简洁且具有类型定义。嵌套的数据块会掩盖哪个节点修改了哪个字段的信息，还会导致中断后无法继续执行。

用户反馈虽有用，但信息杂乱

用户反馈虽然有用，但信息繁杂。在修改代码之前，应明确输入内容、该步骤的负责人以及终止标准。操作人员应当能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 应将此阶段视为输入与经过验证的输出之间的契约。为相关成果命名，定义成功判定标准，并拒绝默许的半完成状态。 需将延迟、错误率、令牌成本、合理性以及安全性指标视为首要的SLI。

监控具体数据片段，而非仅全局平均值

对于监控切片而言，不应仅依赖全局平均值，应在修改代码之前明确输入参数、该步骤的负责人以及终止条件。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 在功能结果之外，还需记录执行时间以及令牌或查询成本。提前了解成本情况可避免在流程从演示环境转向共享环境时出现意外费用。 应将分块策略与检索策略分开。当质量指标发生变化时，修改其中一项不应迫使重新编写另一项。 对于监控切片而言，不应仅依赖全局平均值，应在修改代码之前明确输入参数、该步骤的负责人以及终止条件。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 需同时记录正常流程与故障恢复流程。重试机制、人工审核环节以及死信处理都是产品的一部分，而非后续需要添加的功能。

警报应当促使人们做出决策。

警报应引导决策

为确保警报能推动决策，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。相比庞大的脚本，更应采用小型且可测试的单元。当某个步骤失败时，故障原因应能明确指向单一责任方，而非复杂的流程问题。不仅要对严重故障发出警报，还需对分布变化进行监控——悄无声息的质量下降才是代价最高的故障类型。

明确大语言模型服务级目标

在为LLM服务设定目标时，应在修改代码之前明确输入内容、各步骤的负责人以及完成标准。操作人员应能够从已知的检查点重新运行相应步骤，而无需猜测隐藏状态。应将此阶段视为输入与经过验证的输出之间的契约：为相关成果命名、定义成功判定标准，并杜绝无声的半完成状态。不仅要对严重故障发出警报，还需对分布偏移情况及时提醒——悄无声息的质量下降才是代价最高的故障类型。

将构建过程监控与评估整合为统一的反馈循环

要将构建监控与评估视为一个反馈循环，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。应在功能结果旁记录执行时间以及令牌或查询成本。提前了解成本情况，可避免在从演示环境过渡到共享环境时出现意外费用。不仅要针对严重故障发出警报，还需对分布变化进行监控——悄无声息的质量下降才是最昂贵的故障类型。要将构建监控与评估视为一个反馈循环，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。需同时记录正常流程与故障恢复流程。重试机制、人工审核环节以及死信处理都是产品的一部分，而非后续需要添加的功能。

。

实用的部署计划

在修改代码之前，需明确所需的输入、各步骤的负责人以及完成标准。操作人员应能够从已知的检查点重新执行相应步骤，而无需猜测隐藏的状态。相比庞大的脚本，更应采用小型且可测试的单元。当某个步骤失败时，故障原因应能明确指向某个具体责任方，而非整个复杂的流程。将部分测试数据纳入评估集，这样生产环境中的意外情况就能通过离线测试来发现。

LLM监控的真正目的

为了实现LLM监控的真正目标，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测其中的隐藏状态。应将此阶段视为输入与经过验证的输出之间的契约：为相关成果命名、定义成功判定标准，并杜绝无声的半完成状态。需将样本轨迹纳入评估集，这样生产环境中的意外情况就能通过离线测试来发现。

操作检查清单

针对操作检查清单，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测其中的隐藏状态。

应将配置信息置于应用程序代码之外。环境文件、密钥存储以及功能开关应集中存放于一个位置，以便操作人员无需查看整个系统结构即可进行审计。

应关注分发层面的变化，而不仅仅是严重的故障。悄然发生的质量下降才是代价高昂的故障模式。

编写一份简短的操作手册：说明如何轮换密钥、如何清空队列、以及如何回滚上一次的导入操作。

同时记录正常流程和恢复流程。重试机制、人工审核环节以及死信处理都是产品不可或缺的部分，而非事后才添加的功能。

应关注分发层面的变化，而不仅仅是严重的故障。悄然发生的质量下降才是代价高昂的故障模式。

在升级技术栈之前，先冻结现有版本，为关键流程保存完整的操作记录，并确认好回滚步骤。共享环境需要设置速率限制、进行租户检查，同时明确密钥轮换的负责人。与其追求花哨的一次性演示，不如注重扎实的可靠性。

针对强化措施注意事项0，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 应将此阶段视为输入参数与经过验证的输出结果之间的契约。为相关成果命名，定义成功判定标准，并拒绝默许的半完成状态。

针对强化措施注意事项1，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 需将配置信息与应用程序代码分开。环境文件、密钥存储以及功能开关应集中存放于一个操作人员可以审核的位置，无需查看整个系统结构。

针对强化措施2，在修改代码之前需明确输入参数、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。相比冗长的脚本，更应采用小型且可测试的单元。当某个步骤失败时，故障原因应能明确指向具体的责任方，而非整个复杂的流程。

针对强化措施3，在修改代码之前需明确输入参数、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。除了功能结果外，还需记录执行时间以及令牌或查询成本。提前了解这些成本信息，可避免在流程从演示环境过渡到共享环境时出现意外费用。

针对强化措施第4点，在修改代码之前需明确输入参数、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。同时需将正常流程与故障恢复流程一并记录下来。重试机制、人工审核环节以及错误处理都是产品本身的组成部分，而非后续需要补充的内容。