Revisiting Causal Reasoning in Language Models through Controlled Synthetic Worlds

误会一：这是把因果图放进 prompt，再问模型会不会沿图推理

不是。论文刻意模拟一种更接近 pretraining 的知识进入方式：模型在 fine-tuning 阶段阅读由 synthetic world 生成的 observation texts；测试时拿不到完整图，也拿不到一张现成规则表。

隐藏的 SCM
-> 生成许多自然语言 observation / explanation / answer
-> 参数更新
-> 测试时只给当前 query

因此它测的不是“给定显式图的 in-context graph traversal”，而是因果知识被参数化存储后，能否被重取和重组。

误会二：synthetic world 只是把现实因果题换成假人名

也不是。世界先由随机 DAG 和确定性 Boolean mechanisms 定义，再把变量随机 grounding 成 Albert 生活中的事件。这个顺序很重要：自然语言是 SCM 的外衣，ground truth 并不靠故事常识决定。

例如 Albert 洗头 不一定由“起床”和“淋雨”以现实合理的方式生成，它可能被随机指定为 XOR。这样的非自然关系是有意设计，用来压低模型从预训练常识直接猜答案的机会。

误会三：只要所有 depth-1 observations 都在训练集，深链测试就是 in-distribution

不成立。depth-1 数据可以逐个完整编码每个局部 mechanism，却没有保证模型在训练中见过这些 mechanisms 的某个特定多步组合。

已见：A,B -> H 的完整 truth table
已见：H -> K 的完整 truth table
未见：A,B -> H -> K 作为同一条 query chain

从信息论角度，答案可以推出来；从学习系统角度，所需 computation 仍可能是 out-of-distribution。论文正是利用这条缝来区分 local rule acquisition 与 compositional use。

误会四：L1、L2 就是在完整检验 Pearl causal hierarchy

需要降格理解。论文里的 L1 任务主要要求从候选变量中识别与 query variable 更相关或更相邻的那个，接近 causal adjacency retrieval；它不是从 observational distribution 估计任意 \(P(Y\mid X)\)。

L2 任务是在确定性 Boolean world 里加入一个明确 intervention，再沿已知机制向下传播；它没有处理从 observational data 识别 intervention effect 的难题。论文也没有测试 L3 counterfactual 的 abduction–action–prediction。

误会五：答案对、解释错，证明模型内部“知道答案但不会说”

这是可能解释之一，不是唯一解释。二元答案可能来自 shortcut、label frequency、局部相关或不完整计算；解释评分又依赖把自然语言解析回预设 symbolic steps 的 template verifier，合法但模板外的表述可能被判错。

所以 answer–explanation gap 最稳妥的含义是：系统没有稳定地同时满足答案和可核验推理链这两个外部 contract。它不能单独告诉我们内部究竟发生了什么。

误会六：跨任务迁移失败，等于模型参数里没有存下因果结构

也不能这样推。存储、检索、组合、任务解码是不同环节。L1 test 接近随机，可能是没有形成共享世界模型，也可能是世界知识被训练格式当作 retrieval key 锁住，换问题格式后取不出来。

论文的 behavioral evidence 能定位“什么时候用不出来”，不能直接解剖“参数里到底有没有”。

误会七：这是 ICLR 2026 主会论文

不是。官方 program 把它列为 ICLR 2026 Workshop on Logical Reasoning of Large Language Models 的 oral。它是有价值的 workshop-level evidence，但不能写成 ICLR main-conference result，也不应当承担同等的成熟度和复现压力。

最准确的定位是：一篇用 information-complete local exposure 与 held-out composition 做压力测试，揭示参数化因果知识在组合和跨格式访问上的断层的 workshop paper。

把 Albert's World 想成一间有 100 盏灯的密室。每盏灯只有开/关两种状态；有些灯是最上游开关，其余灯由前面的灯通过 AND、OR、XOR 或 NOT 之类的逻辑门决定。整张线路图有 10 层。

研究者没有把线路图交给模型，而是给它看一本厚厚的 Albert 日记：

如果 Albert 做了事件 83、没做事件 61，那么事件 69 会发生。
如果事件 69 发生，那么事件 6 会发生。
……

同一条 symbolic observation 还会被换成不同同义词、时态、否定表达和句序。这样，模型既不能完全靠固定字符串匹配，也不能依赖现实常识还原线路。

现在有三种考试：

这篇论文的惊讶点在于：模型可以像一个背熟每张单门说明卡的人，却不像一个能把卡片拼成完整电路的工程师。

三个被显式挑战的隐含假设

许多 LLM causal reasoning benchmark 默认：

1. 因果信息可以通过训练进入参数；
2. 一旦进入参数，就能在相关 context 中被取回；
3. 一旦取回，就能可靠地组合成正确 inference。

传统 story benchmark 往往把图、规则或事实直接放在当前 prompt 中，主要测试第三步的一部分。D5 则把知识 acquisition 也纳入实验：训练先发生，测试 prompt 不再重复整个世界。

Albert's World 的 hidden SCM

官方演讲与幻灯片给出的主设定是：

确定性设定让每道题都有唯一可验证答案，也让研究者精确控制“训练看过哪些局部机制、测试组合了哪些机制”。它同时把现实中的 uncertainty、noise 和 confounding 暂时折叠掉了。

depth-1 exposure 为什么是关键设计

对每个非 root variable，研究者可以枚举其父节点的 Boolean assignments，并给出对应输出。若训练集中含全部 depth-1 observations，就等价于把每个 local structural function 的 truth table 都通过文本告诉模型。

若节点 \(X_j\) 的父节点是 \(Pa_j\)，其机制是：

那么全部 depth-1 observations 覆盖所有 \(pa_j\in\{0,1\}^{|Pa_j|}\) 与 \(f_j(pa_j)\)。理论上，模型已拥有回答任意 downstream deterministic query 所需的全部局部信息。

但“信息完备”只描述训练语料，不保证 optimizer 把函数存成可调用模块，也不保证 inference 时执行正确数量和顺序的组合。

三类 task 的精确定性

Simple / forward prediction

从 DAG 中抽取一个 subgraph：给 frontier/root nodes 的状态，中间节点需要逐步推出，最后问 target event 是否发生。输出采用 question–explanation–answer 格式，解释应列出有依赖顺序的 deductions。

L1 associational task

给一个 query variable、一个结构上相关/相邻变量和一个 distractor，要求从候选中识别更相关的事件。其 surface format 与 simple task 不同，主要压力是从训练过的世界事实中取回 adjacency。

这里的 “L1” 不应被读成完整 observational causal inference suite；它是论文为 cross-task transfer 构造的简化任务。

L2 interventional task

保留与 simple task 相近的 question–explanation–answer 骨架，但在中间节点上施加 intervention。正确做法是切断该节点原来的生成机制，把它固定为指定值，再沿 descendants 传播。

这测的是已知确定性 SCM 中的 intervention propagation，不是从 data 识别 \(P(Y\mid do(X=x))\)。

四个被测模型

官方结果图例列出：

• Gemma-3-1B；
• Llama-3.2-1B；
• Qwen2.5-1.5B；
• Qwen3-0.6B。

这使结论适用于四个小型 open-weight model families 的 SFT behavior，但不足以描述更大模型、RL/RLVR 后训练或 tool-augmented systems。

解释不是由另一个 LLM 模糊打分

生成 explanation 后，系统用 grounding dictionary 和预设 templates 把句子还原成 symbolic deductions，并检查三件事：

1. 每一步陈述的 cause–effect relation 是否匹配；
2. deduction order 是否有效，即 premise 在使用前已经给定或推出；
3. 推理链是否最终到达 target。

因此 paper 分开报告 answer accuracy 与 explanation accuracy。优点是评分可审计；限制是 verifier 只认识它能解析的语言空间，不能自动等同于内部 reasoning faithfulness。

第一步：先采样一个没有常识捷径的世界

研究者生成 100-node、10-layer DAG，为每个 non-root node 采样 Boolean mechanism，再把每个 symbolic variable 随机映射成 Albert event。grounding 的随机性尽量解除“语义合理性”和“图中真实因果关系”的绑定。

第二步：把 symbolic observations 变成多样文本

一条 symbolic record 会经过：

选择 subgraph 与 frontier assignment
-> 按 structural equations 计算全部中间状态
-> 生成有序 explanation steps 与 answer
-> 采样 event synonym / tense / negation / sentence order
-> 得到自然语言 SFT example

多种 textual realizations 降低对单一模板字符串的死记硬背，但并未把语言变成开放域：所有表达仍来自可控生成器。

第三步：把 exposure 拆成结构覆盖与取值覆盖

论文没有只随机切 train/test，而是分别改变：

• subgraph coverage：训练见过多少不同 frontier–target reasoning structures；
• instance/value coverage：同一 subgraph 见过多少 frontier Boolean assignments；
• depth coverage：训练链条与测试链条的深浅关系；
• task coverage：simple、L1、L2 examples 各占多少。

这四个轴是论文最重要的方法贡献。它们把一句模糊的“generalization”拆成几种计算上不同的外推。

第四步：做 shallow-to-deep 与 deep-to-shallow 测试

depth experiment 用不同深度范围 fine-tune，再测试训练范围之外的更深或更浅 queries。若模型真正学习可递归应用的机制，长度改变不应要求重新见过每种完整链；现实结果是训练覆盖范围越宽越好，但 OOD depth 仍明显低于 in-distribution。

第五步：固定机制，分别测试“新值”和“新组合”

这是全篇最干净的对照：

value generalization:
  subgraph 见过，只换 frontier assignment

subgraph generalization:
  local mechanisms 都见过，但完整 reasoning structure 未见

两者所需事实大体相同，差别在于是否需要重组 computation。后者明显更差，构成论文对 compositionality 的核心证据。

第六步：把同一世界知识换一种题型来问

L1 experiment 先让 simple observations 几乎覆盖所有局部关系，再混入 5%–50% L1 training examples。测试专门保留未以 L1 形式见过的 adjacencies。

若 simple training 形成了任务无关的 world representation，学会少量 L1 interface 后，剩余 adjacency 应该可以迁移；实际 L1 held-out test 一直约为随机。

第七步：检查格式相似是否改善 transfer

L2 与 simple 共用相似的 question–explanation–answer scaffold，只多一项 intervention instruction。论文比较 10% 与 90% simple coverage，再加入少量 L2 examples。

L2 的 transfer 明显优于 L1，说明知识并非绝对不可用，而是能否使用强烈依赖任务 surface 与训练 coverage。这也让“没有 internal causal model”的结论必须保持克制。

下面使用官方幻灯片展示过的机制骨架做一份导读重建。它用于解释 split，不声称是论文某个统计表中的原始 scored item。

已知的两个局部机制

设四个 Boolean variables 中，\(X_{83}\) 和 \(X_{61}\) 是 frontier variables：

其中 \(\oplus\) 是 XOR。训练中的 depth-1 observations 若覆盖完整 truth table，会告诉模型：

另一组 depth-1 examples 则告诉模型：

因此没有任何局部事实被藏起来。

情形一：同一 subgraph 的新 value assignment

如果训练已经见过完整链 \(X_{83},X_{61}\rightarrow X_{69}\rightarrow X_6\)，但测试换成：

手算：

这是 value/instance generalization：电路结构不变，只换输入。

情形二：局部 mechanism 都见过，但整条 subgraph 没见过

现在测试给：

并第一次要求从这两个 frontier variables 一路回答 \(X_6\)。正确 explanation 必须有两步：

1. 因为 X83=1 且 X61=0，所以 XOR 机制给出 X69=1。
2. 因为 X69=1，而 X6 复制 X69，所以 X6=1。
答案：是。

每张局部规则卡训练中都存在；缺的是这次组合。若 answer=1 但 explanation 跳过第一步、依赖顺序错了，或推出 \(X_{69}=0\)，外部行为就没有完成可验证的 composition contract。

情形三：在中间节点施加 intervention

保持 \(X_{83}=1,X_{61}=0\)，但加入：

普通 observation 下，XOR 会让 \(X_{69}=1\)。intervention 后必须切断它原来的 equation：

不要再计算 X69 = X83 XOR X61
直接固定 X69 = 0
再传播到 X6 = 0

因此：

如果模型仍回答 1，它不是 XOR 算错，而是没有把 intervention 当作 mechanism replacement。

情形四：同一知识换成 L1 interface

再问：

与 X69 直接相关的是 X83，还是一个无关 distractor X40？

结构上应选 \(X_{83}\)。但这个问题不要求输出那套两步 Q–E–A chain。论文的 L1 结果表明：即使 simple examples 已经反复暴露 \(X_{83}\rightarrow X_{69}\) 的局部事实，模型也可能无法在这个新 interface 中取回它。

这个最小例子真正隔开的三件事

只测第一项，再把高分写成“学会因果模型”，就是论文要反对的读法。

结果一：depth OOD 会改善，但没有消失

论文分别做 shallow-to-deep forward generalization 与 deep-to-shallow backward generalization。训练深度范围从较窄变宽时，OOD accuracy 通常提高；但所有模型的 OOD 表现仍低于对应 in-distribution 区间。

这说明多样 depth exposure 有帮助，却没有自动诱发长度无关、可递归复用的推理程序。由于可访问图中没有给出所有点的精确表格数字，这里只保留方向性结论，不从曲线肉眼伪造小数。

证据层级： controlled behavioral trend；支持 depth extrapolation gap，不识别 gap 的内部成因。

结果二：新 subgraph 比同一 subgraph 的新 values 难得多

subgraph coverage 从 10% 增加到 90% 时，四个模型的 answer 与 explanation 都总体提升。结果曲线最醒目的不是终点，而是低覆盖区的分离：

• 10% subgraph coverage 下，answer accuracy 已约在 0.57–0.74 区间；
• explanation accuracy 只有约 0.05–0.16；
• explanation 往往要覆盖到 50%–90% subgraphs 后才接近高水平。

这些是从官方曲线读取的近似范围，不是论文正文表格中的精确逐点数字。

相比之下，固定已见 subgraph、只留出 frontier assignments 的 value generalization 明显更好：常规 observation 的 answer 很快接近 0.9–1.0，explanation 也随 assignment coverage 上升；论文另设的 “unnatural” assignment 条件更难、更不稳定，但总体仍好于完全新的结构组合。

最稳妥的因果解释是：训练覆盖 reasoning structure 本身，比只覆盖组成它的局部规则更能预测成功。

仍需保留两个替代解释：二元 answer 可被 shortcut 抬高；template explanation verifier 可能把部分合法语言判错。所以巨大 gap 是可靠性警报，不是对 internal computation 的直接观测。

证据层级： 核心 controlled split；全篇最强的 compositional-generalization 证据。

结果三：L1 held-out transfer 几乎停在随机

L1 实验的精确表格如下：

读表时最重要的是同时看四列：

simple test: 几乎满分
L1 train: 几乎满分
L1 held-out test: 0.481–0.525

这不是模型“完全没看懂 L1 instruction”；它能拟合 L1 training examples。失败发生在把 simple exposure 中已有的 adjacency 知识迁移到尚未以 L1 格式训练的关系。

这张表强烈支持 format-bound access 或 poor cross-task composition；但仅凭行为仍无法区分“世界表征不存在”和“表征存在但 retrieval key 不匹配”。另外，官方 slide 中该表未清楚标明是哪一个模型或何种 aggregation，本导读不擅自补上 model name。

证据层级： 精确表格证据；对 L1 cross-task generalization 很强，对内部表征性质仍是间接证据。

结果四：格式相似的 L2 transfer 好得多

L2 与 simple 共用 Q–E–A 结构，只增加 intervention。官方结果图显示：

除演讲明确给出的 90% coverage 末端约 97% answer、88% explanation 外，其余数字是曲线近似读数。

这个结果有两层含义：

1. 高 simple coverage 确实能为 L2 提供可复用信息；
2. 这种复用并非无条件发生，它需要一定 L2 examples 来教会模型新 interface，并且 explanation 对 coverage 更敏感。

因此它不是“模型已拥有任务无关 SCM”的零样本证明，而是“在格式接近、目标任务有少量示范时，参数化知识可以部分迁移”的证据。

证据层级： controlled cross-task comparison；说明格式相似度是 moderator。

把全部证据放在一张梯子上

这篇论文最强的地方不是模型排行榜，而是拆分变量的方式。它没有把“泛化”当一个总词，而是分别控制 depth、subgraph、value assignment 和 task format；尤其是让全部 depth-1 observations 信息完备，再测试未见组合，构造了一个比常规 random split 更接近 compositionality 的压力面。

第二个优点是 synthetic world 与问题完全对齐。随机语义 grounding 压低 commonsense contamination，已知 SCM 让 intervention 与 explanation step 都可被 symbolic verifier 检查。对研究“知识从训练进入参数后还能不能被组合”，这是合适的实验刀具。

第三个优点是它没有只报 answer。answer 与 explanation 的分离暴露了“二元结果看似不错，推理链却几乎崩掉”的失败形态；对面向用户的系统，这比一个 overall accuracy 更有诊断价值。

但论文的结论强度必须受任务与模型规模约束。它最有力地证明的是：在这些小模型、SFT 协议、确定性 Boolean worlds 和生成式语言模板中，local informational sufficiency 没有转化成稳定的 structural composition 与 cross-format access。

“LLM 没有 internal causal model”则更像一个解释性 hypothesis。要把它升级成机制结论，还需要 activation-level probes、causal interventions on representations、matched retrieval controls，以及能排除 parser 和 interface confounds 的实验。

从用户阅读体验看，这篇论文应被当作一面“能力拆分镜”，而不是一枚“会/不会因果”的印章。

1. 模型很小。 只测 0.6B–1.5B 四个模型；规模、architecture、pretraining 和 post-training 变化可能显著改变 composition。

2. 训练方式单一。 实验是 SFT，不等同于 web-scale pretraining，也没有 RL、process supervision、curriculum、retrieval 或 tool use。

3. 世界完全 synthetic。 优点是可控，代价是尚不清楚自然领域中的 semantic structure 会帮助抽象，还是引入更多捷径与噪声。

4. 机制是确定性 Boolean functions。 没有 stochastic mechanisms、连续变量、概率校准、measurement error 或 uncertainty propagation。

5. 没有 hidden confounding。 任务直接使用生成图中的结构关系，不测试从 observational distribution 识别 effect 的核心困难。

6. L1 是简化 adjacency retrieval。 它不覆盖完整 associational inference；L2 也是已知 deterministic mechanism 下的 propagation，不是 effect identification。

7. 没有 L3 counterfactual。 未测试 unit-specific abduction、跨 world consistency 或 nested counterfactuals。

8. world-family 稳健性仍有限。 一套 100-node Albert world 或有限随机 seeds 的规律，未必在不同 graph topology、mechanism family 和 grounding generator 上保持。

9. 解释 verifier 有覆盖边界。 模板外但语义正确的 paraphrase 可能是假阴性；形式正确的模板链也不保证忠实反映模型内部生成答案的过程。

10. answer accuracy 可能受捷径影响。 二元 label、类平衡、局部 correlations 或 textual artifacts 都可能让答案高于真正的完整 chain execution。

11. cross-task failure 不是唯一机制诊断。 它同时混合 world knowledge、retrieval、instruction understanding、output schema 与 optimization interference。

12. “全部 depth-1 数据”只是信息可用。 它没有证明有限参数模型能无损存储所有函数，也没有核算 capacity、forgetting 或 exposure frequency。

13. 随机非自然 grounding 是双刃剑。 它消除常识捷径，也可能让模型失去自然语义通常提供的可组合表示支架。

14. 公开复现链仍不完整。 本轮在 OpenReview、官方 workshop、SlidesLive 和作者检索中没有定位到明确的公开 code/data repository，因而本导读没有独立重跑训练或 verifier。

15. 证据层级是 workshop oral。 当前结果适合作为设计压力与邻近证据，不应包装成主会级 SOTA 定论。

1. 做同容量、同 token、同表面格式的 matched split

让 seen-value、held-out-subgraph 与 cross-task 条件拥有相同长度、模板频率、label balance 和 lexical overlap，减少“结构组合”与其他分布差异纠缠。

2. 把 retrieval failure 与 composition failure 分开

在测试时先要求模型显式列出当前 query 所需的局部 truth tables，再让它组合：

若 truth table 都取不回 -> retrieval problem
若取回正确但组合错误 -> composition problem
若 symbolic chain 正确但文本错误 -> realization problem

3. 增加 symbolic interface control

同一个 query 同时用 natural language、canonical symbolic notation 和 graph serialization 提问。若 symbolic 条件恢复而自然语言不恢复，瓶颈更可能在语言 interface；若都失败，composition hypothesis 更强。

4. 用人工与多 verifier 复核解释

对 parser 判错样本做盲审，并加入 semantic equivalence checker 与严格 symbolic execution，量化 template false-negative/false-positive rate。

5. 扩大模型与训练范式

至少覆盖 7B、30B+、frontier models、continued pretraining、SFT、process supervision 与 RLVR。若 scaling 后同一 qualitative gap 保持，外推性才更强。

6. 跨多个 world seeds 和机制家族

系统改变 graph sparsity、depth、fan-in、motif、Boolean operator、probabilistic mechanism 和 continuous equation，并报告 world-level confidence intervals。

7. 加入真正的 causal identification task

让模型面对 observational samples、latent confounding、selection 和 incomplete graph knowledge，分开测试：

world model retrieval
effect identifiability judgment
estimand construction
numerical estimation

8. 加入 L3 counterfactual 与 intervention consistency

同一 unit 先观察 evidence，再做 abduction–action–prediction；同时检查 factual、interventional、counterfactual answers 是否遵守同一 SCM 的 consistency constraints。

9. 做 representation-level causal tests

寻找是否能线性或非线性 decode graph edge / mechanism state，再对相关 activation 做 causal intervention，观察新 subgraph composition 是否随之改变。这样才能从 behavior 走向 internal model claim。

10. 公开 generator、split manifest、checkpoints 与 verifier

只有能重建每个 world、每条 train/test exposure 和每个 explanation 判定，社区才能判断结果是否来自 intended split，而不是生成器泄漏或实现细节。

可以直接支持

• 在论文测试的四个小型 LLM 与 SFT 协议中，局部 causal mechanisms 的训练暴露不足以保证未见 subgraph 的可靠组合。
• 同一 reasoning structure 上的新 Boolean assignments，比新的 mechanism composition 更容易泛化。
• answer accuracy 与 explanation validity 可以大幅分离，因此只看最终二元答案会高估端到端可靠性。
• 同一 synthetic world 中的知识访问具有 task-format dependence；L1 held-out transfer 在所报设置中接近 chance。
• task format 相似、simple coverage 高且提供少量 L2 examples 时，interventional task transfer 明显改善。

可以谨慎推断

• 当前模型更像在学习大量局部、格式绑定的 solution patterns，而不是稳定调用一个完全任务无关的模块化 world model。
• benchmark 若只留出表面模板或输入值，可能把 interpolation 误写成 causal composition。
• 训练数据里“存在答案所需信息”不是充分的能力证明；必须检查模型是否能在新的 computation graph 上重组它。

不能由这篇论文单独支持

• “所有 LLM 都没有 causal representation。”
• “规模变大也不会改善 systematic composition。”
• “自然世界中的因果 reasoning 一定比 Albert's World 更差。”
• “答案对、解释错就说明答案必然是猜的。”
• “L1 失败证明模型不懂任何 association，L2 成功证明模型懂 do-calculus。”
• “只要 synthetic benchmark 高分，就形成了现实可用的 causal model。”
• “这是一项 ICLR 2026 main-conference result。”

一个安全的引用句是：

在受控 deterministic Boolean worlds 中，小型 SFT language models 能吸收局部 causal rules，并对已见 reasoning structures 的新 instances 有一定泛化；但对 held-out mechanism compositions 与不同 task formats 的迁移仍不可靠。

对 P17：不要只 hold out 表面值，要 hold out computation

如果 P17 构造 synthetic operational worlds，最重要的 split 不是换几个变量名字或 regime label，而是明确区分：

训练见过的局部 failure mechanisms
训练见过的 value / state assignments
训练未见的多步 mechanism chain
训练未见的 regime composition
训练未见的 repair interface

只测试同一 chain 的新 values，很可能得到漂亮但过弱的 generalization 结论。

对 active-regime diagnosis：同一隐藏机制要跨格式追问

同一个 hidden mechanism 可以用 prediction、diagnosis、intervention、repair recommendation 四种 interface 询问。若模型只在熟悉 Q–E–A scaffold 中成功，就不能说它形成了可复用的 regime model。

一套更有压力的 evaluation 可以要求：

observed trace -> identify active regime
same trace -> predict next event
named intervention -> propagate consequence
repair proposal -> verify under that same regime

四个回答还应通过 cross-query consistency 检查。

对 source / state / projection 边界

D5 提醒我们把三个层面分开记录：

projection 答对一次，不等于 source representation 已经稳定；换一种 projection interface 仍应能够回到同一 source/state 并保持一致。

对 DiscoSCM-style 增量主张

• unit identity 是否在长链中保持；
• evolving state 是否能从局部 mechanisms 组合出来；
• event noise 是否与 mechanism change 分离；
• named regime 下的 intervention/repair 是否仍有效；
• 从一种 query format 学到的对象能否迁移到另一种。

如果新增记录没有改变 held-out composition 或 repair validity，它只是更丰富的描述，不是对 D5 failure 的实证替代。

对论文组合中的位置

D5 适合作为 controlled-world task-design neighbor：它能给 P17/P20 提供 split pressure 和 claim boundary。但它仍是 workshop support，不应替代 main-conference opponents，也不应因为网页导读做得完整就被自动晋升成主线来源。

只有 8 分钟

1. 先看论文中 Albert's World 的 100-node / 10-layer 设定图；
2. 看 simple、L1、L2 三类 task；
3. 直接看 subgraph generalization 与 value generalization 两组曲线；
4. 最后读 L1 精确表格，记住 simple≈0.99 / L1 train≈0.99 / L1 test≈0.50。

有 25 分钟

1. 读 introduction，找出“parametric storage、contextual retrieval、inference”三层假设；
2. 读 synthetic world 与 textualization，确认模型究竟看到了什么；
3. 读 explanation verifier，理解 answer/explanation 指标边界；
4. 依次读 depth、subgraph、value、L1、L2，不要只看最后 summary；
5. 对每个结果都问：这是新值、新结构，还是新 interface？

想判断论文结论是否过强

按下面顺序做反向审计：

模型规模与 SFT protocol
-> deterministic Boolean assumptions
-> world seed / generator variation
-> explanation parser coverage
-> answer shortcut controls
-> cross-task surface mismatch
-> 是否有 representation-level evidence

读完只保留一个检查问题

模型是在一个见过的 computation 上换输入，
还是必须把见过的局部 mechanisms 组成一条从未见过的 computation？

如果实验设计回答不了这句话，它还没有真正检验 systematic causal composition。

Primary sources checked

• OpenReview paper record: https://openreview.net/forum?id=2sn6LSR9CB
• OpenReview final PDF route: https://openreview.net/pdf?id=2sn6LSR9CB
• ICLR 2026 Workshop on Logical Reasoning of Large Language Models official program: https://sites.google.com/view/iclr-2026-llmreasoning
• Official SlidesLive presentation: https://slideslive.com/39064266/revisiting-causal-reasoning-in-language-models-through-controlled-synthetic-worlds

官方 workshop program 将论文列为 oral，并给出 3:35–3:55 的 Oral 6 时段；workshop 本身标注为 non-archival。它不是 ICLR 2026 main-conference paper。

本轮核对使用了 OpenReview record、可索引的 final-paper text、官方 34 页演讲幻灯片与官方字幕。OpenReview PDF binary 在本地请求时被 challenge/403 拦截，因此没有声称完成逐页 PDF binary audit；关键设定、数表和限制均用多个官方 surface 交叉检查。

Reproduction boundary

本轮没有在 OpenReview、workshop program、SlidesLive 或作者检索结果中定位到明确的公开 code/data repository。因此没有声称：

重新生成 Albert's World
重建 fine-tuning splits
训练四个模型
重跑 explanation verifier
复现曲线或 confidence intervals

曲线中的非表格数字均标为近似读数；L1 表格按官方 slide 精确转录；无法确认的 model-specific attribution 没有补写。

Canonical source and generated projection

本 Markdown 是 D5 中文完整导读的 canonical reader source：

公开 HTML 是由 source 生成的 reading projection，不应在 HTML 中手工维护第二份正文。未来若论文版本、代码发布、数值或 source boundary 更新，应先改此 Markdown，再运行统一 renderer，并分别验证：

source updated
-> HTML projection regenerated
-> local route rendered
-> public deep link deployed
-> representative formulas / tables / navigation checked

网页完整、导读深入，不改变论文的 venue 层级：D5 仍应标记为 workshop support，并与 main-conference evidence 分开。