E1ev3n.· 来源· @E1ev3n1 · X·· 3 小时前精选AI 评分70
推荐理由
以粒子混沌演示剖析世界模型预测局限,提出物理AI需明确能力边界与持续校正。
正文 · AI 翻译
30,000个粒子。同样的三个方程。所有粒子都从距离同一个点不到0.00001的位置开始。
在最初的10秒里,它们看起来像一个单点。到了第12秒,它们已经遍布各处。
这正是物理AI讨论得不够充分的问题。
Genie 4刚刚发布。DeepMind称这是他们迄今为止最逼真、最具交互性的世界模型。世界模型是机器人、自动驾驶以及能够“理解物理”的AI背后的赌注。
但逼真和可预测并不是一回事。
一个世界模型可以让场景看起来符合物理规律。预测该场景实际上会如何发展则是另一个问题。现实世界中许多现象是非线性的:流体、天气、人群、机器人手中的摩擦与接触。在这些系统中,初始状态的微小误差不会保持微小,而是呈指数级增长。
这就是你正在看到的画面。这里的模型是完美的,方程是精确的。唯一的误差在于起始点,但它仍然占据了主导。
因此,无论多大的世界模型都无法永远预测混沌系统。更多的算力买来的是几秒钟的缓冲,而非确定性。
物理AI真正需要的是:
1. 知晓自身的预测视界。模型应清楚自己在多大程度上可以信赖其未来预测。
2. 反复观察。进行短期预测,并不断用新的观测数据进行校正。天气预报几十年来一直采用这种方式。机器人也应该如此。
3. 学习形态,而非路径。你无法预测单个粒子的确切位置。但你可以预测蝴蝶效应。即使单条轨迹不可预测,结构和统计规律仍然是可学习的。
物理AI的下一个飞跃将不是让模型看起来更逼真。
而是让模型知道它即将出错的时候。
来源:E1ev3n. · x.com