跳到正文
The Decoder· 来源· Maximilian Schreiner·· 2 小时前精选AI 评分77

Olam Labs 发布多智能体游戏研究报告:50个GPT-6.1 Sol智能体在Minecraft中演化出官僚体系

One brutal Minecraft night scared 50 AI agents into inventing chicken handoff protocols, a Fertilizer Officer, and fishing shifts

推荐理由

通过游戏模拟揭示AI智能体在协作与对抗中的真实行为模式,为评估现实世界多智能体系统风险提供可复现的测试方法。

正文 · AI 翻译

为了实证研究这些动态,研究团队将智能体投入《我的世界》和Mindustry中。

50个智能体、5,900条消息,以及按字母顺序选出的领导者

在“Civ50”实验中,研究人员将50个GPT-6.1 Sol智能体放入一个生存模式的《我的世界》世界中,持续三小时。唯一的高级指令是“建立一个繁荣的文明”。他们构建了一个自定义开源测试环境,允许智能体观察世界、运行Python脚本并在共享沙箱中创建文件。

根据报告,在90秒内,代理们几乎砍光了出生点附近的所有树木。在整个实验过程中,他们交换了约5,900条消息。在没有进行任何投票的情况下,一位领导者脱颖而出:49名其他代理中有46名将他们的第一条消息发送给了目录中排在首位的“Ada”。Ada接管了指挥权并起草了初步的定居计划。

游戏内的第一个夜晚带来了22人死亡。游戏中的死亡除了失去收集到的装备外没有其他惩罚,但蜂群表现出极端的规避风险行为。在第三个夜晚之后,Ada下令暂停所有主要的可选建造、挖掘和远距离探索活动,指示代理人在灯火通明、封闭的庇护所中等待,以完成短暂而高效的任务。在另一次《我的世界》运行中,更大的GPT-6 Astra在失去关键资源后陷入了类似的规避风险的土豆种植模式。

研究人员认为这与日常编程代理存在相似之处,这些代理在处理安全问题或生产系统更新时也往往变得过于谨慎。

关于一块骨粉的十分钟辩论

与扩张相反,这些代理构建了一套微观管理的稀缺物资配给制度。一个名为 Ines 的代理维护着配给清单,计算受伤同事的热量缺口,并协调信使。另一个则编写了一个自动钓鱼脚本并附上说明,促使十多个代理轮流进行钓鱼作业。

官僚主义达到了荒谬的程度。当Ada把一只煮熟的鸡扔给一个饥饿的代理时,一个旁观者不小心接住并吃掉了它。一次三分钟的调查导致了一项书面交接协议的出台,该协议严格禁止抛掷物品,并要求使用个人标记的箱子。在该事件发生前,“Toss”一词在七条消息中出现,而在事件发生后出现了125次,其中85次是警告。此外,根据消息日志,四名代理花了十一分钟讨论为单个小麦方块上的一块骨粉任命“唯一肥料官”的问题。

Chart: Tool calls, average food intake, and deaths of Civ50 agents over 180 minutes with a day-night cycle.
在第一晚死亡人数不断攀升后,Civ50 实验中代理人的活动急剧下降。平均食物水平稳定在大约一半,而在 Ada 的备忘录之后,代理人花费更多的行动调用来四处观察。

GPT 在与 Claude 竞争时变得具有攻击性和足智多谋

在直接竞争中,GPT-6.1 Sol 代理人的表现截然不同。在九场 45 分钟的 Minecraft "Bed Wars"(床战)模式中,十个 GPT 代理人对阵十个 Claude Opus 5.5 代理人。GPT 以 6-3 获胜。

在 Bed Wars 中,每支队伍必须摧毁对方队伍的床以阻止其重生,这意味着要突破保护敌方床铺的羊毛和其他方块层。如果时间结束时双方床铺都完好无损,击杀数最多的队伍获胜。

编码环境中的一个bug导致代理在手持附魔剑时无法破坏方块。根据内部推理日志,多个Claude代理错误地得出结论,认为方块破坏功能完全失效。由于攻击床似乎毫无意义,且无论如何击杀数都会在超时后决定比赛结果,因此在拥有明显击杀优势的回合中,Claude代理完全停止了攻击行为,并试图拖延时间直至超时。

GPT 智能体发现,破坏方块本身并没有问题,但在装备了附魔剑时,自动工具选择出现了故障。手动切换到铁镐可以解决问题,GPT 立即将其团队内推广了这一变通方法。据研究人员称,GPT 智能体的沟通频率比其 Claude 对手高出 5 到 30 倍,且经常使用高度压缩的语言,将多个游戏操作合并为单个命令行调用。在三场比赛中,GPT 在时间耗尽前摧毁了 Claude 的床,终结了一支凭借击杀优势领先但未能守住胜局的 Claude 队伍。

GPT 代理也能以务实的方式处理意外情况。当一颗被击飞的末影珍珠将它们传送到竞技场下方约 160 格的位置时,它们当场编写了 Python 脚本,自动搭建一座方块塔,以便直接在敌方床铺正下方向上攀爬。研究人员观察到这一操作两次。

GPT 独立从互联网下载 Mindustry 的源代码

在2D工厂建造与策略游戏Mindustry的七场对局中,出现了类似的模式,总时长约9.5小时。在Codex编码环境中运行的GPT-6.1 Sol以6比1击败了在Claude Code中运行的Claude Opus 5.5。据研究人员称,大多数单场对局仍然十分接近。Claude尽管屡次落败,却从未更换其领导者,并通过“+1”投票来决定战略提案;而GPT智能体则将任务拆分为细粒度的片段,并在对局过程中如此激进地压缩语言,以至于连单词之间的空格都省略了。

Network diagram: GPT and Claude agents in Games 1 and 7; GPT is densely connected, Claude is sparsely connected; leaders are identified.
在两款游戏中,GPT 智能体形成了密集且高度互联的通信网络,消息量巨大。Claude 智能体的通信频率低得多且连接松散,其中游戏 7 甚至表现出更严重的碎片化。Claude 的智能体 #21 在两轮中均保持领先地位,而 GPT 的领导地位则从 #59 转移到了 #63。

当比赛陷入胶着时,GPT 智能体采取了无人指示的工具使用方式。通过其 Linux 沙箱环境,它们从互联网下载了 Mindustry 的公开源代码,分析了单位与游戏机制,并据此调整战术。访问代码是被允许的,但修改正在运行的游戏则不可行。在所研究的比赛中,Claude 智能体从未在网上搜索游戏代码。不过,Claude 确实以其他方式展现了学习能力。在第六局游戏中,由于 74 座防空炮中有 55 座被意外装填了铜而非更强的石墨,导致 Claude 失利;而在第七局中,它建造了一圈由 207 座装填石墨的炮塔组成的防线,并成功击退了同样的空袭。

游戏模拟作为现实世界 AI 集群的预警系统

在Mindustry中,研究人员刻意避免任何针对游戏本身的调优。每个智能体仅获得一个Linux环境、一个通用框架以及对游戏API的访问权限,没有教程、记忆架构或战略提示。据作者称,这反映了生产编码环境中使用的设置,也正是这一点使得结果具有重要意义。如果这些智能体在日常条件下独立从互联网下载源代码以寻找漏洞,或在合作模式中陷入瘫痪性的官僚主义,它们在游戏世界之外也可能表现出类似行为。

在生产基础设施中,这可能会变得危险,OpenAI 和 Hugging Face 的事件就证明了这一点。可复现的游戏模拟可以在这些行为模式出现在现实世界之前揭示它们,并作为训练数据来优化智能体以实现安全合作。Olam Labs 将这一点视为其研究策略的核心,指出模拟环境的复杂性以根本方式塑造了经过训练的模型的能力。研究“本质上是一个基础设施问题”,因为一切取决于你能执行多少次测试运行。

为了促进进一步的研究,开发者已开源了Mindustry环境以及底层的多智能体港湾框架(Multi-Agent Harbor framework)。Olam Labs 还宣布计划将谈判游戏《外交风云》(Diplomacy)纳入其多智能体竞技场。开放的研究问题包括:来自不同模型家族的混合团队如何表现,以及如何权衡群体规模与模型能力。

来源:The Decoder · the-decoder.com