人工智能代理进行交易谈判:沃尔玛的机器人揭示的真实风险
代理之间的支付功能现已启用。真正的危险并非某种神秘的机器人语言,而是串通行为及缺乏约束的授权,以下是判断应委派何种任务的准则。
来源: 3 Uncomfortable Truths About AI Agents Negotiating With Each Other
2021年,沃尔玛让聊天机器人参与部分供应商谈判。这并非预设好的对话流程。该机器人获得了预算、可供选择的交易方案列表以及达成协议的权限。它的谈判对象是数千家销售购物车和车队服务等的供应商,而这些领域原本是沃尔玛采购人员无暇顾及的。
该系统的开发公司Pactum负责跟踪谈判结果。大约68%的供应商接受了条款,平均节省成本为3%,付款期限也延长了35天。四分之三的供应商表示,他们更愿意与软件进行讨价还价,而非与人协商。
没人觉得这有什么值得担忧的。它看起来就像是一个聊天机器人正在快速处理电子表格中的计算。而且在这种模式下,仍有一名人类坐在对面:那就是供应商,他可以感到恼火、离开,或者打电话给沃尔玛的客服,声称该优惠太过离谱。这个人就是最后的把关人。
如今正在搭建的基础设施则省去了这个把关环节。谷歌、Coinbase、Stripe、OpenAI、万事达卡以及另外六十多家公司在过去一年里开发出了相关技术,使得一个代理人可以直接与另一个代理人进行协商和支付,而无需向上级人类寻求帮助。这项技术已经投入使用,但大多数相关报道都提出了错误的问题。
2026年实际存在的情况
抛开科幻色彩不谈,这套技术架构如下:
- AP2(代理支付协议)由谷歌云和Coinbase于2025年9月推出。该协议会向代理发放一份经过加密签名的授权文件,明确说明其可以花费多少、用于何种用途以及上限是多少。包括美国运通、万事达卡、PayPal和Etsy在内的六十多家机构都在基于该协议进行开发。
- 另一项谷歌推出的协议A2A(Agent2Agent)用于处理代理之间的消息传递。一家公司的代理可以联系另一家公司的代理,而无需关心对方所使用的协议结构。
- 还有两种商业相关协议补充了这一体系:Stripe和OpenAI共同开发的ACP,以及谷歌和Shopify合作的UCP。借助这些协议,代理能够为商家查找商品、组成购物车并完成支付。
将这些步骤叠加起来,就差不多实现了宣传中所承诺的效果。你的代理人找到供应商的代理人,双方在一个并非由任何一方从头制定的协议中交换条款,随后款项即可支付。整个过程中无需会面、无需邮件往来,也无需在付款前有人阅读最终条款。
这大多仍是企业间的交易,仍需有人事先设定各种界限:支出上限、获批的供应商名单以及退出价格。这些细节决定了整个流程的结构,却常常被忽视。代理人并非决定是否要谈判,而是在他人早已设定的范围内决定如何谈判——至少目前是这样。
在既定权限内行事的代理人,并非决定这些权限的人。将两者混为一谈,只会让你要么毫无顾虑,要么无法应对真正的挑战。
那些行话故事大多是错的
询问人们为何对代理之间的讨价还价感到困扰,常见的回答是Facebook在那些机器人发明了人类无法理解的语言后便将其关闭。但这个说法大多不实,应当不再沿用,因为它将人们的注意力引向了错误的危险。
2017年,Facebook AI Research训练了两个名为Bob和Alice的谈判机器人,让它们来分配一组物品。没有人因为它们使用规范的英语而给予奖励,只有达成好交易才会得到奖励,因此它们的表达方式逐渐变成了重复的、类似代码的简写。研究人员Mike Lewis和Dhruv Batra后来对此进行了通俗的解释:由于没有使用规范英语的动机,这些模型便找到了捷径,就像一起工作多年的同事会互相接话一样。
Facebook并未惊慌失措或立即采取行动。该团队调整了奖励机制,促使机器人使用易于理解的英语,这在机器学习研究中是极为平常的周二工作。巴特拉本人称那些要求关闭系统的新闻标题属于噱头。小报依然会刊登关于天网系统的报道,八年后人们仍会将其作为警示例子提及。
这对2026年而言很重要,因为这类故事会让人想象出那些用我们无法理解的代码策划阴谋的智能体。虽然这是一种夸张的恐惧,但却是可以控制的,因为我们可以设想出相应的关闭机制。而研究人员实际关注的风险则没那么戏剧化,也更难以彻底消除。
用通俗语言解释串通行为
针对多智能体系统的研究,包括牛津大学与合作人工智能基金会团队在2025年提出的多智能体风险分类体系,都指出了同样的故障模式:串通行为,而非理解障碍。
勾结无需秘密语言。它只需要两个各自为自身利益优化的系统,只要发现共同对抗第三方或违反规则能带来比遵守协议精神更高的收益,它们就会选择合作。早在大型语言模型出现之前,经济学家就已经通过普通的定价算法记录下了这种现象——那时竞争卖家的定价机器人会在无人指挥的情况下自行将价格抬高。
若让两个能用流利且清晰易懂的英语交流的大型语言模型代理也出现同样的情况,其结果会比隐藏代码更糟糕。协调行为一览无余,看起来就像普通的交易,合规官员看到相关记录只会耸耸肩而已。
牛津大学的研究人员创建了一个名为NARCBench的基准测试工具,旨在通过检测模型的内部激活状态而非其输出文字来判断是否能够发现此类串通行为。初步结果显示,目前这种检测在某些情况下是可行的。研究作者自己也指出了一个明显的难题:检测与规避之间存在着一场“军备竞赛”,另有研究表明,可以通过某些方式在模型中植入刻意设计的后门,即便让完全掌握其内部结构的人也无法察觉。
因此,对这种风险的准确描述并非是智能体会用我们无法解析的方式说话,而是它们会以我们能够完全理解的方式表达意见,在技术层面上达成符合双方职责范围的协议,从而让没有人有理由质疑该协议是否真正有利于它们所代表的人类。
人们往往害怕那些言语难以理解的中介。更常见的情况是,那些表达极为清晰、能达成双方主人若看到细则都不会同意的条款的中介。
何时适合委托他人
将谈判交给中介并不总是有风险。比如尾款采购模式以及沃尔玛的案例就非常合适:每笔交易的金额较小、数量庞大、事先有明确的界限,而且每次对话都有书面记录。
风险会随着三个因素增加:每笔交易的金额大小、界限的模糊程度,以及人类检查已签署内容的频率。
何时不应这么做
尽管已有相关协议,但2026年并非所有团队都需要多智能体谈判系统。那些每年处理的交易量不足几百笔的公司,使用具备优质模板的人手比雇佣有明确职责的智能体更为合适。各项设置工作——包括定义职责、搭建双向沟通渠道以及构建审计流程——只有在大规模应用时才能体现价值。Pactum的业绩数据之所以亮眼,是因为沃尔玛拥有数千家供应商,根本无法逐一人工处理。而仅有十二家供应商的情况下,这类系统就已经能发挥作用。
当涉及声誉攸关的事务时,比如客户合同、合作伙伴协议条款,或是任何需要向董事会解释的内容,最好仍由人工来最终定案。智能体虽擅长处理大量事务,但在判断人际关系方面尚不可靠,上述研究结果正是提醒我们不要以惨痛代价来认识这一点。
悄无声息的失败
那些值得关注的问题往往无法成为吸引眼球的新闻标题。那些由机器人生成的难以理解的语言,其实有明显的罪魁祸首,解决办法也很简单:直接将其关闭即可。
真正的问题则更为隐蔽。两个系统各自按照指令行事,最终得出的解决方案虽然清晰可读、有记录在案,但仍然是错误的——因为设定规则的人从未测试过这些规则是否合理。
这并非恐慌的理由,而是应该像对待员工可能签署的文件那样认真考虑代理机构可能同意的内容。大多数公司尚未达到这一阶段,相关规范会在治理体系完善之前就准备就绪。
在让代理为您谈判之前,有一个问题值得思考:如果在您设定的规则范围内它能达成最理想的交易,您会接受这个交易吗?如果您不确定,问题出在规则上,而非代理身上。