现代AI的运作原理：大语言模型、提示技巧、RAG技术、智能体与MCP详解。
用通俗英语讲解AI技术架构：大语言模型如何预测词元、四种提示技巧、结合嵌入的RAG技术、ReAct智能体循环以及MCP的功能。
来源: Beyond the Buzzwords: How Modern AI Actually Works (From LLMs to Agents)
LLM、GenAI、RAG、MCP。这些缩写出现的速度快到让人来不及查询其含义，仿佛有人在往墙上乱扔字母。不过，其背后的理念并非什么神奇的东西。抛开专业术语，每个概念其实都相当直观。以下是按照最易于理解的顺序呈现的现代人工智能各组成部分之间的关系。
生成式AI与LLM并非同一概念
人们常常将这两个术语混用，但实际上一个包含着另一个。
- 生成式AI是更广泛的类别，它涵盖所有能够创造新内容的系统，无论是文本、图像、音频还是视频。
- 大型语言模型则是生成式AI的一个分支。如果把生成式AI比作“汽车”，那么LLM就是跑车：一种通过海量文本训练而成、能够理解并生成人类语言的系统。
大语言模型内部的运作机制
大语言模型本质上是一种预测引擎，其运行方式与人类的思维或情感毫无相似之处。最接近的类比就是目前最先进的自动补全功能。
用户输入的内容会被拆分成称为标记的微小单元，通常是完整的单词或词片段。模型会利用训练过程中学到的所有知识，计算每个可能出现的下一个标记的概率。如果输入“一杯热……”，模型可能会判定“咖啡”的概率为90%，而“水泥”的概率仅为1%。随后它会选择最可能的后续内容，将其添加到原文中，并以极快的速度重复这一过程。
提示词工程
如果大语言模型仅仅是概率计算机器，那它们是如何生成优质文章或可运行的代码的呢？答案很大程度上在于提问的方式。提示词工程就是通过精心设计请求语句，让模型输出尽可能有用的结果的一种技术。
想象一下，有个才华横溢的实习生，他对世界了解甚多，却对你的目标一无所知。模糊的任务只会得到模糊的结果，而明确的任务则能产生精准的成果。
虽然存在数十种技巧，但其中四种就涵盖了开发人员和高级用户最常使用的手段。
1. 角色提示法。为模型设定一个角色，比如“扮演一名正在审查遗留代码库的资深软件工程师”。这样能限制其词汇量和格式习惯，减少冗余内容，使其更倾向于给出实用的、针对特定领域的答案。
2. 少样本提示法。在开始实际任务之前，先展示两三个你期望的输入与输出格式的完整示例。代码结构和JSON模式很容易被误解，一个清晰的“优秀”示例就能大幅减少猜测和格式错误。
3. 提示链式处理。将大型任务拆分为一系列较小的提示。第一个提示可确定整体架构，下一个提示用于生成数据库结构，第三个提示则基于该结构编写API接口。模型在处理过长任务时容易失去专注度，因此将每一步拆分得较小，能生成更优质的代码并减少编译错误。
4. 元提示技术。让模型负责编写、改进或调试提示本身，例如“我想要实现X，因此请为大型语言模型编写最合适的提示。”模型相当清楚自身的能力局限，这能节省数小时的反复试验时间。
以上四种方法原理相同。通过引导上下文，可以缩小模型的概率范围，使其仅调用所学知识中与“资深工程师”相关的部分。
RAG：为模型提供最新事实
大型语言模型存在一个固有缺陷，即在训练结束后就固定不变了。2023年完成的模型无法知晓2026年5月RCB队赢得了IPL冠军，也对诸如公司内部PDF文件之类的私人资料一无所知。
检索增强生成技术，即RAG，可以弥补这一缺陷。这就好比开卷考试——你不必仅依赖很久以前记住的内容（基础训练数据），而可以在作答时查阅厚厚的教科书。
四个步骤
- 提问。你可以提出类似“我们第三季度的销售目标是什么？”这样的问题。
- 检索。在模型看到问题之前，系统会先在公司内部文档中搜索与第三季度销售目标相关的资料。
- 增强。找到的相关文档会被插入到提示语的背景中。
为何模型会出现幻觉
因为大型语言模型本质上是词预测器，它的真正目标是在统计上显得合理，而非保证事实准确。如果你询问某个并不存在的公司政策，它不会返回404错误，而是会凭空编造出一个看似合理的政策。它并非故意撒谎，只是在根据概率选择最像正确答案的回应。RAG通过强制模型以你提供的真实事实作为回复依据，从而减少这种情况。
搜索为何如此快速
传统搜索引擎会寻找完全匹配的关键词，但人工智能需要理解含义，而这正是嵌入向量的作用。
当公司PDF文件被上传后，专用模型会将其中的文本转换为一长串数字，以此体现其含义。这些数字序列会被存储在向量数据库中。在用户提问时，系统会以相同方式将问题转化为数字，并在数据库中查找最接近的匹配项。正因如此，即便用户的表述与文档中的不同，也能得到正确的内容。
RAG与微调的对比
这两种方法常常让人混淆。RAG就像开卷考试：你只需向模型提供与某个问题相关的临时笔记。微调则更像是让模型重返研究生阶段，它会永久改变模型的内部权重，使其掌握特定的语气、格式或专业词汇，比如医学或法律术语。就保持事实知识的时效性而言，RAG速度更快、成本更低，也更容易管理。
智能体AI：从聊天机器人到数字工作者
大多数人仍然以被动方式使用AI。你输入提示语，得到答案，交流就此结束。智能体AI则让AI从被动助手转变为主动执行者。智能体拥有目标、一系列工具，以及在没有人为指导每一步的情况下自行寻找实现目标的方式的自由。
工作流程
让普通的大型语言模型规划一次为期五天的班加罗尔之旅，它会立即生成一份千篇一律的行程安排。而智能体则是通过循环方式工作，而非直接预测出单一回复。这种模式被称为ReAct，即“推理与行动”的缩写，它会在思考、行动和观察之间不断循环：
┌────────────────────────┐
│ │
▼ │
[Thought] ──> [Action] ──> [Observation] ─┘
- 思考是推理步骤。模型会分析请求并决定该执行什么操作。如果有人想了解海得拉巴的天气，模型会判定自己不知道当天的天气状况，因而需要借助外部信息源。
- 行动是指模型选择要调用的工具或API，例如
call_weather_api(location="Hyderabad")。 - 观察则是该工具返回的实际结果，比如“25°C，有雨”。
随后循环重新开始。模型获取观察结果后形成新的思考（现在它已掌握天气信息，可以撰写答案），最终给出回复。
MCP：通用接口
随着智能体的普及，它们遇到了一个瓶颈：如何接入数字世界的其他部分？Slack、GitHub、Google Drive 和 Notion 对数据的组织方式各不相同，过去要让人工智能与这些平台对接，就需要为每个应用单独构建定制化的连接桥梁。
模型上下文协议（MCP）是一种开放标准，它就像人工智能领域的通用 USB-C 接口。
[ AI Model ]
│
▼ (Via MCP - Universal Standard)
[ MCP Server / Plug ]
├── Connected to your Slack
├── Connected to your GitHub
└── Connected to your Local Files
无需进行数千次单独的集成，应用只需实现一次MCP即可。此后，任何符合标准的模型都能安全地读取该应用的数据、使用其工具并理解其上下文。这正是让智能体能够处理邮件、更新电子表格以及操作代码库的基础设施。
更直观的理解方式
MCP在软件领域的作用，就如同UPI在印度支付领域的作用。在UPI出现之前，转账需要收集账户号码、IFSC代码和分行名称，还要等待收款人账号激活，或者同时使用五个无法互相通信的钱包应用。UPI用一个可扫描的代码取代了这一切，该代码能接入所有银行。MCP则为人工智能提供了同样的通用扫描方式。开发者不再需要编写自定义API代码来连接模型与Slack、GitHub以及其他应用。每个应用只需安装标准的MCP插件，任何模型都能与之连接、读取数据并触发操作。它就像一条高速公路，让智能体能够在Jira看板、Outlook邮件和生产代码库之间自由穿梭。
各部分如何相互连接
将各个要素有序排列，方向便一目了然。生成式AI与大型语言模型学会了像人类一样交流。提示工程教会了用户如何有效回应。RAG则提供了最新事实与私有数据。如今，代理型AI能够处理复杂问题，而MCP则充当连接这些代理与各类软件的桥梁。
AI领域的繁荣并非源于机器获得了意识，而是源于机器变成了互联互通、功能强大的工具；了解其运作机制有助于更好地发挥它们的作用。