为何并非所有人工智能任务都适合使用最大型模型：基于资源意识的设计。

一个欺诈检测系统，四种不同的任务

看看单个欺诈检测系统需要处理哪些内容。域名可能需要与已知的威胁情报进行比对，发票可能需要与供应商的固定付款信息进行对照，含义模糊的邮件需要结合上下文来解读，而经过篡改的音频或视频则可能需要更复杂的分析模型。所有这些都属于安全工作，但从计算角度而言并非同一类问题。

尽管如此，现代人工智能系统仍提供了一种诱人的捷径：将所有任务交给最强大的通用模型由其决策。这固然简单，但也可能造成不必要的高昂成本、处理速度缓慢、侵犯隐私、难以控制，或者根本不适合该任务。“最强大”在这里指的是现有中最强或最复杂的通用模型，而不仅仅是参数最多的那个。

因此，有用的设计问题也随之改变。不必去问当前最强大的模型是什么，而应思考在满足工作负载的质量与风险要求的前提下，最简单的机制是什么。有时那是一个强大的通用模型，有时则是一个规模较小的专用模型。而有时，合适的模型根本就不是模型。

基准测试与实际应用

基准测试能体现模型的能力，但实际生产环境需要解决另一个问题：系统究竟应该使用什么。质量只是众多考量因素之一。真实系统还必须兼顾延迟目标、推理预算、隐私规则、有限的计算资源、网络状况、可靠性要求以及运行开销等。

因此，一个在基准测试中表现最佳的模型未必适用于特定任务。当可以通过精确的确定性比较得出结论时，额外的计算能力几乎毫无用处。当数据应保留在本地时，将其发送到远程服务会改变隐私与安全状况。而当业务流程必须在严格的时间限制内给出答案时，决策不能仅基于模型质量。

可以这样理解：理想的机制应兼具足够的质量、可接受的风险以及合理的运营成本。这并不意味着要选择最便宜的方案，因为无法完成任务的廉价机制显然是不合适的。其含义是，额外的功能应当对应其额外的成本。

路由研究揭示了什么

这一理念在模型路由研究中越来越常见。研究人员不再假设每个请求都会发送到同一个高级模型，而是构建了能够根据请求内容及所需性能来选择合适模型的系统。

Chen、Zaharia和Zou在2024年发表的FrugalGPT论文评估了多种语言模型组合的级联使用效果。通过精心组合这些模型，可在保持目标性能的同时大幅降低推理成本，在部分测试环境中节省比例甚至高达98%。Ong等人2025年提出的RouteLLM则更进一步，能够判断某个查询应发送到更强大还是更弱的模型。在其公开的基准测试中，该系统在无需牺牲质量的前提下实现了超过两倍的成本节省。

那些数字并不能作为实际性能的保证。它们取决于每次实验中使用的模型、基准测试、价格结构以及路由方式。不过核心观点依然成立：最大性能并不一定就是默认的运行状态。

专家模型、规则与精确对比

混合使用模型并不仅仅是从两种通用大型语言模型中进行选择。在任务范围较为有限的情况下，专用模型有时就能替代庞大的模型规模。Pecher、Srba和Bielikova（2025）在八项文本分类任务中对比了小型专用模型与大型通用模型，结果显示，在仅有少量带标签的领域数据的情况下，这些小型模型在某些特定问题上已能达到或超越大型模型的性能。

不过这也存在局限。专为某一特定任务训练的紧凑型分类器，一旦面临需要广泛推理、处理陌生情境、跨模态解释或超出其训练数据范围的场景时，就无法替代强大的通用模型。然而，那些结构简单且重复出现的问题则改变了计算方式：如果系统能够反复执行某项定义明确的操作，它或许无需具备那些从未用到的广泛能力。路由研究也在朝这个方向发展。BEST-Route（Ding等人，2025年）不仅考虑该由哪个模型处理查询，还评估该查询需要多少测试时间进行计算。

其核心理念很简单：不同的工作负载属于不同的能力范畴，而当架构能够区分这些范畴时，就能发挥优势。

再来看一些更简单的操作：

• 判断两个标准化的账户标识符是否匹配
• 检查某笔交易是否超过预设阈值
• 测试某个域名是否属于缓存集合
• 确认结构化记录中是否缺少必填字段

这些任务本身均不具备语义性。通过语言模型进行精确比较会将确定性任务转变为概率性任务，增加推理开销，并带来新的出错可能。这也是为何将确定性机制与学习型机制相结合的设计比在每个组件中都使用人工智能更具说服力的原因之一。网络安全领域的神经符号学研究也指向同一方向：学习型组件负责模式识别，而符号化或基于规则的组件则提供明确的推理与控制功能（Bizzarri等人，2025年）。

当然，规则并非在所有情况下都更优。当语言含义模糊、行为发生变化、攻击者使用出人意料的说法，或者系统需要处理超出设计者预期的情况时，规则就会变得脆弱。真正的区别不在于是否有针对人工智能的规则，而在于该任务是否确实需要推理能力。在条件能够被精确描述的情况下，确定性逻辑是极佳的工程解决方案；而在意义、不确定性或泛化能力至关重要的场合，学习型模型才能发挥作用。成熟的架构能够同时应对这两种情况。

多智能体系统也需同样的严谨性

多智能体系统同样需要受到严格审视。一旦团队认同不能让一个大型模型处理所有事务，就很容易走向过度矫正，将一切拆分成多个智能体，只因这样看起来更复杂。智能体数量本身并不能作为合理依据。只有当职责确实存在明显差异——比如不同的专业技能、工具、权限或数据来源，或是确实可以并行执行的任务——时，多智能体设计才有意义。Shen等人（2024年）研究了一种用于工具使用的多大语言模型设计，将规划、工具调用和总结功能分开，正是这种功能划分带来了优势。

额外的智能体也会带来协调成本。Wang等人（2024年）研究了多智能体在推理任务上的协作情况，发现其表现并不总能优于强大的单智能体基准模型，这削弱了“在模型之间增加对话就能自动提升推理能力”这一观点。拓扑结构也很重要。Li等人（2024年）表明，智能体之间的通信方式会影响性能与计算成本。

相应的设计原则是：应根据工作需求让智能体各司其职。如果多个智能体处理的基本上是相同的上下文，使用相同的工具，并执行相同推理过程的连续变体，那么这样的架构只会增加不必要的开销。而一个配备合理工具的单智能体或许才是更优的解决方案。

计算在何处进行

选择算法机制只是问题的一半，因为还需要确定其运行位置。本地设备、边缘基础设施和云平台各有优缺点，相关研究致力于在它们之间分配计算任务，而非假设所有工作负载都只能集中在某一个地方（Zhou等人，2019；Ren等人，2023）。

并非所有情况下这里的方法都有效。在本地运行并不一定更快，因为终端硬件可能性能较差，而经过优化的云服务反而能更快完成任务。在云端运行也未必更好，网络延迟、带宽、数据敏感度或正常运行时间的要求都可能改变这种优劣关系。隐私保护并非简单到“本地即安全”那么简单。将原始数据保留在设备上可以减少传输的原始数据量，但通过拆分或协同推理生成的中间结果仍可能暴露敏感信息。Higgins等人（2025年）研究了拆分学习环境中的数据重建与推理风险。

因此，选择运行位置是一个系统层面的决策，而非技术偏好问题。关键不在于边缘计算还是云计算，而在于哪种环境能更好地满足工作负载的需求。

欺诈防范的案例研究

在设计旨在为中小型企业提供欺诈防护的网络安全架构时，这个问题变得更加具体。询问应使用哪种人工智能模型来检测欺诈从来都不是正确的思路。这一概念实际上涵盖了多种截然不同的任务：快速的技术检查、财务记录的结构化对比、语义分析、异常检测，以及可能更为复杂的媒介取证工作。将它们视为一个单一的计算问题来处理是毫无意义的。

最终提出了一种按分析深度由浅入深划分的三层混合多智能体架构。这里需要明确一点：三层设计是目标架构，而为毕业设计项目构建的简化概念验证仅能验证其中的一部分功能，并不能说明所有拟定的实际应用组件都存在或已经得到验证。

第0层：过滤与分类

第一层是成本较低且处理速度较快的部分。其职责包括数据标准化、发件人及域名验证、身份认证信号检测、缓存版的布隆过滤器成员资格测试、附件元数据分析以及金融风险相关的确定性指标判断。按设计，其中很多工作并不依赖人工智能。布隆过滤器是一种快速的概率性成员资格检测结构，而非欺诈识别工具，检测到阳性结果仅表示该物品可能存在于特定集合中，仍需进一步确认。其他确定性指标同样属于需要进一步处理的证据，而非最终结论。设置这一层的目的是避免在简单证据即可解决或升级案件的情况下进行昂贵的分析。

第1层：协调与解释

第二层负责提供受控的工作流程。在目标设计中，LangGraph负责处理状态、节点、条件路由以及证据流。小型语言模型可选择性地为有限的语义解释或用户用语提供帮助，但它并不用于决定路由、严重程度或高影响操作。

这一点很重要，因为即使在系统中使用语言模型，也无需将其置于系统的控制之下。编排层可以限制模型的运行范围、它们能看到的证据以及可执行的下游操作。它还能将分析与解释分开：首先建立结构化的证据，再将有依据的发现转化为易于理解的语言。

第二层：专用分析代理

第三层负责更深入的分析。目标设计将文本与发票分析、异常检测以及计算密集型的音频或视觉分析分开处理。这些功能并不一定需要相同的模型、数据访问方式或执行环境。正是在这里，多智能体理念发挥了作用——它并非意味着智能体越多就越智能，而是用来体现截然不同的分析职责。

有趣的是，重点不在于这三层的数量，而在于它们所体现的理念：计算能力应与需要解决的问题相匹配。

概念验证的结果

所实现的概念验证范围被刻意限定。它采用了合成的供应商邮箱泄露及发票转移场景，并结合了确定性的LangGraph StateGraph。该工作流保持状态集中管理，遵循明确的路由路径，从文本和发票中提取结构化的风险指标，以确定性方式汇总风险严重程度，并生成基于证据的警告。它涵盖了可疑场景、安全基准场景以及受控错误路径，并配有自动化测试和本地执行功能。

有几项内容被遗漏了：完整的第0层生产工作流程、与Microsoft 365或Google Workspace的实时集成、生产级OCR功能、联邦学习、基于VAE的本地异常检测、针对媒体的保密计算推理，以及音频或视频深度伪造检测。范围至关重要。概念验证表明该工作流程是可行的，但无法证明其在生产环境中的准确性、可扩展性，或是完整三层设计的优势。

有一个更具体的结论得到了强化：在此工作流程中，无需任何语言模型来指导每个决策。首先是以结构化形式呈现的证据，再由明确的逻辑对其进行评估，之后才将其转化为人们能够理解的警告信息。将推理能力与工作流程权限分开，是这一架构设计中较为有用的经验之一。

复杂性需要付出代价

异构架构并非没有成本：

• 任何路由器都可能选择错误的路由。
• 在升级到原本就需要的昂贵方案之前，级联处理会增加延迟。
• 多种方案意味着需要更多的评估、托管和版本管理工作。
• 多智能体设计会带来消息传递和协调方面的成本。
• 运行在用户附近的组件必须在各种终端设备上分别进行部署、补丁更新和监控。
• 数据分散存储会扩大安全漏洞、盲点及故障出现的范围。

有一个重要的反对观点：有时，一个强大的单一模型就是最简单且最佳的设计。如果它能够满足所需的质量、延迟、隐私、可靠性和成本要求，那么增加路由器、专用模型或额外代理反而可能带来超出其价值的运营复杂性。这并不与资源意识原则相矛盾，因为它本身就要求复杂性也必须有其合理性。

目标并非缩小模型规模、最大化代理数量，或是仅仅因为边缘计算很有趣就将其应用到计算环节。真正的目标是避免为工作负载并不需要的功能而付出金钱、延迟、隐私泄露或额外的工程成本。

从工作负载出发

在选择模型之前，先回答一系列更简单的问题会更为有效：

• 是否可以用精确的规则、比较或查找来完成这项任务？如果是这样，或许根本就不需要进行推理。
• 该任务是否足够具体且重复出现，以至于需要专门的处理人员？
• 它真的需要语义推理或广泛的泛化能力吗？
• 在何处处理数据才能避免影响延迟、安全或隐私方面的限制？
• 如果选择的机制有误，会发生什么，工作流程能否安全地升级？
• 如果考虑使用多个智能体，它们是否有不同的职责、工具或数据，还是仅仅因为这样看起来更先进而将一个任务拆分开来？

只有回答了这些问题，选择模型才有意义。这颠覆了常见的习惯——即先选择最出色的模型，然后再为其寻找任务。应当从工作负载出发，让其约束条件来决定所采用的机制。

大型通用模型依然是极为出色的工具，注重资源利用的设计并非要摒弃它们，而是要求将它们的能力用在最能产生价值的地方。只要足够，确定性操作就应该保持确定性。专用模型则应被允许专注于特定任务。更强大的通用模型应当处理那些真正需要其推理能力的问题。而多智能体系统也只应在真正需要专业化处理时才存在。简而言之：使用最简单的机制来充分满足工作负载的质量与风险要求。

一旦最强的模型不再被视为默认目标，另一个问题便不可避免地出现：系统该如何决定每个工作负载的去向？这个关于根据工作负载在不同层级间分配计算资源的路由问题，便是接下来的自然课题。

参考研究

• Chen, Zaharia和Zou（2024）：FrugalGPT——利用级联语言模型降低成本
• Ong等人（2025）：RouteLLM——根据偏好数据学习在模型间进行路由选择
• Ding等人（2025）：BEST-Route——结合测试时计算能力的自适应路由方法
• Pecher、Srba和Bielikova（2025）：文本分类中小型专用模型与大型通用模型的对比
• Bizzarri等人（2025）：用于网络入侵检测的神经符号人工智能综述
• Shen等人（2024）：用于工具学习的多语言模型智能体
• Wang等人（2024）：多智能体讨论是否有助于提升语言模型的推理能力
• Li等人（2024）：多智能体辩论中的稀疏通信拓扑结构
• Zhou等人（2019）与Ren等人（2023）：边缘智能与协同深度神经网络推理综述

Higgins等人（2025）：针对对抗性推理的隐私保护型分割学习