因果世界模型:当世界模型不再只是预测器

快速导读:本文提出因果世界模型(CWM)的形式化定义,将观测、关系变量、动作、转移与效用耦合为结构化决策模型,并以组件级可识别性框架阐明各组件可从数据中恢复的等价类及接口兼容条件。

本文提出因果世界模型(CWM)的形式化定义,将观测、关系变量、动作、转移与效用耦合为一个结构化决策模型。作者的核心论点是:世界模型不应仅仅被理解为预测下一观测的预测器,而应被理解为一个支持干预推理和效用评估的因果结构。

论文通过组件级可识别性框架,分别刻画潜状态、实体块、属性块、关系块、转移、因果图和效用各自可恢复的等价类,并给出接口兼容条件以保证整体控制保证。这一框架为连接预测型世界模型、因果表征学习和因果发现三条研究路线提供了统一语言。

英文题目:A Unifying Perspective on Causal World Models: From Observations to Representations to Structure

论文出处:arXiv 每日论文精选 · arXiv:2608.13456

原始论文:PDF / 论文页面

这篇论文解决什么问题?

现有世界模型研究存在术语混杂的问题。Dreamer(Hafner et al., 2025)将世界模型操作化为紧凑潜状态上的转移模型,用于想象rollout;ResDreamer(Xu et al., 2026)强调决策相关信号而非逼真重建;LeJEPA(Klindt et al., 2026)提供形式可识别性保证但不指定因果变量。这些工作各自侧重预测、表征或结构,缺乏统一的刻画。

因果动力学方法(Wang et al., 2022, 2024)利用稀疏因果依赖提升泛化并产生可复用状态抽象,但通常不将效用或决策目标纳入模型。Richens and Everitt(2024)论证鲁棒智能体需要支持因果推理的世界模型,但世界模型仍主要被操作化为转移模型,缺乏对变量选择、可识别性和干预解释的系统讨论。

核心空白在于:没有一个框架同时回答三个问题——世界模型中的潜变量应该具有什么结构?这些结构在什么条件下可以从数据中恢复?恢复出的组件如何拼接起来保证下游决策的可靠性?本文正是针对这一空白提出CWM的形式化定义和组件级可识别性框架。

核心创新

  • 首次将CWM形式化为连接观测、关系潜状态、动作、转移与效用的马尔可夫决策过程,明确其组件分解
  • 提出组件级可识别性框架:各组件(潜状态、实体块、属性块、关系块、转移、因果图、效用)分别具有可容许等价类,接口兼容条件保证整体控制保证
  • 引入关系变量形式化(Definition 1),统一实体属性与实体间交互的结构化状态描述
  • 给出因果阶梯式概念框架(Figure 1),将感知、表征、干预与反事实推理对应到Pearl因果层级

方法概览

将CWM定义为元组 W = ⟨X, A, {R_O}_O, P, U⟩,通过推理模型 P(r_t|x_t)、动作条件转移 P(r_{t+1}|r_t,a_t)、预测模型 P(x_{t+1}|r_{t+1}) 和效用 U 组织建模;关系状态 r_t 由实体属性对角块与实体间交互非对角块构成;以组件级等价关系定义可识别性,并要求各组件接口在共同对齐 T 下兼容。

  • CWM被定义为元组 W = ⟨X, A, {R_O}_O, P, U⟩,其中X是观测空间,A是动作空间,R_O是关系变量,P是概率转移,U是效用函数。关系变量r_t由实体属性对角块与实体间交互非对角块构成,这是Definition 1的核心内容。
  • 模型通过三条路径组织:推理模型P(r_t|x_t)从观测推断关系状态;动作条件转移P(r_{t+1}|r_t,a_t)在动作干预下更新关系状态;预测模型P(x_{t+1}|r_{t+1})从新的关系状态解码下一观测。效用U评估结果相对于智能体目标的价值。
  • Figure 2采用因果影响图(Causal Influence Diagram)的图形语言(Everitt et al., 2021),将观测、关系变量、决策节点和效用节点显式连接。虚线箭头表示可能的潜在混杂因素,提示因果充分性假设的边界。
  • 组件级可识别性框架的核心是:不要求整个模型唯一可恢复,而是分别定义每个组件的可容许等价类。例如,潜状态可能是仿射等价(Kivva et al., 2022),实体槽可能是置换等价(Locatello et al., 2020),因果图可能只能恢复到马尔可夫等价类(Verma and Pearl, 1990)。
  • 接口兼容条件要求各组件在共同对齐T下兼容,即推理模型、转移模型和预测模型的等价类之间存在一致的变换关系。这一条件保证了整体模型的策略保持性,与Li et al.(2006)的MDP状态抽象理论相对应。
  • 关系变量的形式化是本文的关键创新之一。对角块编码实体自身属性,非对角块编码实体间交互,这种结构化状态描述统一了对象中心表征和关系推理。实体块等价条件直接引用Kori et al.(2024)的probabilistic slot attention结果,关系块对齐条件基于Kori et al.(2025)的因果组合构造。
  • 动作条件转移的因果解释依赖一致性、正性与无未观测混杂等强假设(Remark 1)。这些假设保证了干预效应可以通过观测数据中的条件分布来估计,但同时也限制了模型在存在潜在混杂因素场景下的适用性。

逐图理解论文

论文贡献

论文贡献
Figure 2: Causal influence diagram for the CWM factorisation. Circles denote random variables: grey circles are observations and blue circles are relational variables. The orange rectangle is the decision node, and the green diamond is the utility node. Solid arrows denote the dependencies in Definition 3: xt 7→rt is infer- ence, (rt, at) 7→rt+1 is transition, rt+1 7→xt+1 is prediction. Dashed arrows indicate possible latent confounders.

该图展示了CWM的因果影响图分解。灰色圆圈是观测变量,蓝色圆圈是关系变量,橙色矩形是决策节点,绿色菱形是效用节点。实线箭头表示推理、转移和预测三条路径,虚线箭头表示可能的潜在混杂因素。观察此图时应关注关系变量r_t如何同时接收观测x_t的推理输入和动作a_t的干预输入,以及效用U如何评估最终结果。

组件级可识别性

组件级可识别性
Table 1: Component-wise equivalences and compatibility conditions for causal world-model identifiability.

该表系统列出了CWM各组件的等价条件和兼容要求。每一行对应一个组件(潜状态、实体块、属性块、关系块、转移、因果图、效用),列出其可容许等价类和接口兼容条件。观察此表时应关注各组件等价类的差异:有些组件只能恢复到较弱的等价类(如马尔可夫等价类),而接口兼容条件保证了这些弱等价类组合起来仍能提供策略保持性。

Figure 2 instantiates Definition 3 as a causal influence dia- gram, a graphical model that combines causal structure wit

Figure 2 instantiates Definition 3 as a causal influence dia- gram, a graphical model that combines causal structure wit
Figure 2 instantiates Definition 3 as a causal influence dia- gram, a graphical model that combines causal structure with decision and utility nodes [Everitt et al., 2021]. In our set- ting, the observation xt is encoded into relational variables rt, the action at selects or modifies the transition mechanism leading to rt+1, and the next observation xt+1 is decoded from the updated relational state. The utility U evaluates the outcome relative to the agent’s goal, such as moving the red block into the goal region without undesired collisions. The diagram makes explicit that a WM should not only predict the next observation, but also support goal-oriented reasoning about which actions are useful for a task.

该图将Definition 3实例化为一个具体场景:观测x_t被编码为关系变量r_t,动作a_t选择或修改转移机制导致r_{t+1},下一观测x_{t+1}从更新后的关系状态解码。效用U评估结果相对于智能体目标的价值,例如将红色方块移入目标区域且不发生碰撞。此图的关键在于说明世界模型不仅应预测下一观测,还应支持目标导向的动作推理。

实验如何设计?

  • 本文为纯理论/立场性论文,未提供任何实验或实证验证。所有结果均为形式化定义与文献综述性论断。
  • Table 1中的等价条件引用自已有工作,包括Kivva et al.(2022)的仿射等价、Locatello et al.(2020)的置换等价、Kori et al.(2024, 2025)的实体块与关系块条件、Verma and Pearl(1990)的马尔可夫等价类定义。
  • 论文的论证方式是通过形式化定义和定理陈述来建立组件之间的逻辑关系,而非通过实验数据验证。策略保持性论证与Li et al.(2006)的MDP状态抽象理论对应。
  • 因果充分性假设(Causal Sufficiency)排除了未观测混杂因素,这是所有可识别性条件的共同前提。作者在limitations中明确承认需要扩展至部分可观测与潜在混杂场景。

关键结果与论文证据

  • CWM的形式化定义(Definition 3, p.3)首次将观测、关系潜状态、动作、转移与效用耦合为统一的马尔可夫决策过程,明确了推理、转移、预测和效用四类组件的分解。
  • 关系变量的结构化定义(Definition 1, p.3)统一了实体属性与实体间交互的状态描述,对角块编码实体属性,非对角块编码实体间交互。
  • 组件级可识别性框架(Definition 4-5, p.4)表明,各组件分别具有可容许等价类,接口兼容条件保证整体控制保证,而不需要每个组件都完全可识别。
  • Table 1(p.5)系统列出了潜状态、实体块、属性块、关系块、转移、因果图和效用各自的等价条件和兼容要求,引用了Kivva et al.(2022)、Locatello et al.(2020)、Kori et al.(2024, 2025)、Verma and Pearl(1990)等已有结果。
  • 策略保持性论证(p.5)表明,在接口兼容条件下,CWM的组件级等价类足以保证下游策略的可靠性,与Li et al.(2006)的MDP状态抽象理论一致。
  • 因果阶梯式概念框架(Figure 1)将感知、表征、干预与反事实推理对应到Pearl因果层级,为理解世界模型的认知层级提供了概念地图。

阅读时需要注意

  • 本文为纯理论论文,未提供任何实验或实证验证,所有结果均为形式化定义与文献综述性论断。
  • 因果充分性假设排除了未观测混杂因素,作者承认需扩展至部分可观测与潜在混杂场景。
  • 组件级可识别性条件多为对已有结果的组合,未给出新的可识别性定理证明。
  • 未来算法与实证检验被明确列为后续工作,当前框架的可操作性尚未得到验证。

关联工作

  • Dreamer(Hafner et al., 2025)是预测型世界模型的代表,学习紧凑潜状态用于想象rollout,但潜状态无显式因果或语义解释。本文的CWM框架可以看作对其潜状态结构的因果化扩展。
  • LeJEPA(Klindt et al., 2026)提供形式可识别性保证,但不指定因果变量、机制或干预目标。本文的组件级可识别性框架可以看作对其可识别性分析的组件化推广。
  • Kori et al.(2024, 2025)在实体向量级可识别性和因果组合方面的工作为本文的关系变量形式化提供了直接基础。本文的实体块等价条件和关系块对齐条件直接引用其构造。
  • Richens and Everitt(2024)论证鲁棒智能体需要支持因果推理的世界模型,本文的CWM定义可以看作对这一论证的形式化回应。

发表评论