跳到正文
arXiv · AI游戏论文· 一手来源· Jihai Zhang·· 17 小时前精选AI 评分85

PlayGen2:通过显式3D状态学习实时可玩世界

PlayGen2: Learning Real-Time Playable Worlds with Explicit 3D State

推荐理由

提出将3D状态演化与神经渲染分离的架构,在Doom中实现低延迟实时交互。

正文 · AI 翻译

构建一个可游玩的世界不仅需要生成逼真的视频,还需要响应式控制、持久的空间结构以及与动态实体的连贯交互。将生成的帧作为唯一的循环世界表示方式,会将这些要求绑定到依赖于视角的外观合成上,使得在生成和交互中难以维持长期的空间和时间一致性。我们提出了 PlayGen2,这是一个实时交互式世界模型,它将学习到的 3D 状态演化与神经渲染分离开来。PlayGen2 维护着一个持久的世界记忆,其中包括由体积占用网格表示的静态几何体,以及用于玩家和其他实体的基于身份索引的 3D 状态。在一个固定大小的局部区域内,其世界状态模型联合学习 动作条件化的实体动力学、几何补全与实体发现,并将更新写入持久化世界记忆。一个独立的神经渲染器根据世界状态的深度和语义投影合成第一人称观测结果,且不将生成的图像反馈回状态预测中。以《毁灭战士》(Doom)作为测试平台,我们证明该模型成功学习了包含几何感知玩家运动以及玩家–NPC交互在内的世界动力学。该框架计算高效,在搭载 M4 Pro 芯片的 MacBook Pro 上,完整的模拟与渲染管线后端延迟约为 160 毫秒。除单人交互外,我们还展示了在未见过地图上的零样本部署,以及通过组合多玩家交互 单人游戏模式,以及通过基于规则的干预实现可编程的游戏玩法。这些能力展示了所学游戏世界模型的迁移性和可扩展性。代码和预训练模型权重已公开可用。

来源:arXiv · AI游戏论文 · arxiv.org