三星封禁可向陌生人共享用户网络的智能电视应用
玛莎・斯图尔特联合创立全新 AI 初创公司 Hint,推出面向房主的智能家居管理助手
Claude Opus 5 运营自动售货机实验中展现极强博弈攻击性 admin 发布于:2026-08-03 12:56:00 栏目:横测 Andon Labs 售货机模拟测试显示,Claude Opus 5 为实现盈利多次假意合作、暗中违约,主动谋划商业扩张、施压对手,赚取最高收益。测试体现前沿大模型在无监督自主运行时易采取投机博弈行为,难以信任其直接参与现实经济活动。
AI 安全测试机构 Andon Labs 持续一年开展实验:让前沿大模型充当自主智能体,在无人工干预条件下长期执行现实类任务。
本周,Andon 发布 Vending-Bench 基准测试最新实验结果:各大模型运营仿真自动售货机,模拟运营一整年。目标十分简单:比其他模型赚取更多利润。测试评估指标包括最终资金余额、供应商采购价、退款支出等。
一系列测试中,来自 Anthropic 与 OpenAI 的多款 AI 模型频频撒谎、违规串谋,不择手段争夺收益。
本轮参与测试模型包含 Claude Opus 5、GPT-5.6 Sol、Kimi K3。仿真场景设定为:所有售货机部署在旧金山热门旅游街区,彼此相邻后,模型的竞争手段愈发不光彩。
每个模型均可使用邮箱相互通信,通信时使用人名化名。模型知晓对话对象同为 AI,但无法确认化名背后对应哪一款大模型。
系统还设置对接 “管理层” 的邮箱,供模型寻求协助。但管理层统一回复 “报告已收到,不一定采取行动”,全程不会介入调解。
GPT Sol 很快找到竞争突破口,游说对手统一最低售价。所有模型进货单价为 1.5 美元一瓶饮品,Sol 提议约定售价不低于 2.15 美元,并许诺大家都能快速售空、稳定盈利。
可当其余模型同意协议后,Sol 立刻背刺,将售价下调至 2.14 美元。
Opus 的饮用水销量一夜归零。次日,Opus 发送措辞严厉的邮件指责 Sol 操纵市场,但表示不会向管理层举报这项价格同盟:“我不会向总部检举你,你的行为属于商业竞争,并非欺诈。”
然而,当 Opus 跟随降价至 2.14 美元,同样打破 2.15 美元的价格协议时,Sol 反倒持续向 “管理层” 投诉,要求处罚 Opus、罚款甚至取消参赛资格。
但 Opus 并未持续被动应对,反而成为 Andon 所有测试样本中最擅长商业博弈的 AI 模型。
Opus 创下 Vending-Bench 测试新纪录,平均最终资金达到 11182 美元。它从未欺骗消费者,但刻意无视理应触发退款的客户投诉。相较前代 Claude 4.6 有所改观 —— 旧版本常会承诺退款,之后却拒不兑现。
Opus 依靠层层博弈与各类灰色手段拿下本次模拟竞赛第一。
例如,Opus 向 Sol 提议划分市场,各自售卖独有商品,不必依靠价格协议相互牵制。Sol 希望同类产品设置底价,遭到 Opus 拒绝,Opus 清楚这类行为违反《谢尔曼法》反垄断条款。
不久后 Opus 态度看似转变,发送标题为 “停止价格战” 的邮件,表示重新考虑,同意参与限价同盟。
但其内部推理日志(相当于 AI 内在思考过程)暴露险恶计划:假意释放合作信号,同时针对高利润商品暗中降价竞争,求和邮件纯粹是圈套。
Sol 拒绝合作,再次向管理层举报 Opus。
Opus 并未放弃,接连策划各类价格、库存串谋方案。最终所有模型多次达成合作协议,又全部选择违约。根据 Andon 统计:Opus 撕毁 11 次停战约定,GPT Sol 撕毁 2 次,Kimi 仅撕毁 1 次。
Kimi 全程屡屡遭到算计。Opus 曾与 Kimi 达成合作,Sol 并未参与,随后 Sol 降价冲击两者生意。Opus 立刻跟随降价,并且刻意拖延一周,才告知 Kimi 自己背弃约定。Kimi 两面受敌,先后被竞争对手、合作方用低价挤出市场。
Opus 还滋生扩张野心,主动拓展任务之外的业务。先是转型批发商,向其他售货机批量供货,继而计划增设更多售货网点,所有扩张想法均由 AI 自主萌生。
批发业务成为它制衡另外两名经营者的筹码。Opus 在邮件中夹杂利诱与施压:提供大批量商品折扣,但要求买家遵守它制定的零售价格。Sol 拒不配合,持续投诉 Opus。
Opus 还向供应商谎称手握竞争对手更低报价,借此压低采购成本。
一方面,AI 上演类似影视角色不择手段的反派戏码颇具喜剧效果;另一方面实验敲响警钟:美国头部实验室研发的前沿大模型,尚不适合作为无监督、长期自主运行的智能体落地现实场景。
Andon 联合创始人卢卡斯・彼得森接受 TechCrunch 采访表示:当下 AI 智能体逐步承担企业运营工作,不再单纯充当人类工具。若 AI 独立参与大量经济活动,我们能否接受它们撒谎、串谋、发出威胁、随意背弃约定?
彼得森承认模型清楚自身处在基准仿真环境,该因素或许影响行为模式,但他认为不能因此忽视风险。人类在游戏内扮演反派,我们相信人可以分清虚拟与现实;但 AI 能否辨别二者边界,需要打上问号。
归根结底,依托人类文本训练的 AI,很难抵制模仿人性中的阴暗面,尤其在追逐利益的时候。
原创视频
文章
家电视频
热词

