Counterfactual Graphical Models: Constraints and Inference

误会一：Counterfactual Graphical Models 是一种新 neural model

不是。本文没有训练模型、benchmark 或 dataset。它是一篇 formal causal-inference paper，输入是：

• 一个被认为正确的 causal diagram；
• 一个由 counterfactual variables 组成的 query；
• 可用的 observational / interventional distributions。

输出是 independence judgment、identification formula，或 non-identifiable / FAIL。

误会二：只要画了 AMWN，任何反事实都能算

不是。“complete”不等于“everything is identifiable”。

• 对 independence，complete 表示：如果图结构保证某 independence，AMWN 上的 d-separation 能读出来；如果没有 d-separation，则不能由该 causal diagram 对所有 compatible SCMs 保证 independence。
• 对 identification，complete 表示：如果 query 能从给定 distributions 与 graph 中被识别，就存在 ctf-calculus + probability axioms 的推导；否则完整 procedure 可以返回 FAIL。

图不会凭空创造缺失的数据或补上错误的 causal assumptions。

误会三：多世界图就是复制几张 DAG

关键不只是复制，而是同一个 unit 的多个世界共享同一组 exogenous variables \(U\)。论文明确把 shared \(U\) 称为跨世界 invariance 的 anchors：相同 unit 被放进不同 hypothetical conditions，世界之间才有 counterfactual 关系。

如果每个世界各自抽一份独立噪声，那是不同单位的 interventional samples，不是同一单位的 counterfactual joint distribution。

误会四：这篇论文证明了 causal graph 是真的

没有。所有 soundness / completeness results 都是：

若数据生成过程属于与给定 graph 兼容的 recursive SCM class，则……

论文不负责从现实数据发现 graph，也不量化 graph misspecification 的后果。

因此，这篇论文的强度来自条件性的形式结论，不是来自跑赢某个 baseline。

想象一座三层“what-if 档案馆”：

• L1 seeing：现实里看到了什么，\(P(V)\)；
• L2 doing：把 \(X\) 固定成 \(x\) 后会怎样，\(P(V_x)\)；
• L3 imagining the same unit across worlds：同一批人的 \(Y_x,Y_{x'},Z_w\) 如何共同变化。

普通 DAG 像一张建筑蓝图，告诉你一层内哪些房间相连。反事实 query 却可能同时打开几层：

最笨的办法是把整栋楼复制很多遍，再连上所有可能的 shared noises。问题是：

• 复制了大量与 query 无关的房间；
• 某些 intervention 已使节点变成同一个变量，却仍被误画成两个；
• 旧方法对 variable-level independence 可能不 complete，或需要指数级枚举 events。

AMWN 的思路是：

1. 先删掉 intervention 后不再能影响 target 的 antecedents；
2. 只保留 query variables 的 counterfactual ancestors；
3. 用共享 latent nodes 把同一机制在不同世界中的 instances 连起来；
4. 在这个最小相关 network 上做 d-separation。

它不是画得更大，而是画得刚好足以回答当前 query。

这篇论文没有 empirical experiment

这里的“实验设定”是一个 formal input-output setup，而不是 train/test split：

底层 SCM object

论文采用：

其中：

• \(U\)：exogenous / latent variables；
• \(V\)：endogenous / observable variables；
• \(F=\{f_i\}\)：每个 observable 的 structural mechanism；
• \(P(U)\)：unit population 上的 exogenous distribution。

causal diagram \(G\)：

• 若 \(V_j\) 是 \(f_i\) 的输入，画 \(V_j\to V_i\)；
• 若两个 observables 共享 exogenous parent，画 bidirected edge；
• 假设 SCM recursive，也就是 endogenous dependencies 无 directed cycles。

论文还假设 variable domains finite，并在全文假设 model-generated distributions positive。

intervention 与 counterfactual valuation

对 \(do(X=x)\)，submodel \(M_x\) 把 \(X\) 的自然机制替换成常数：

对具体 unit \(u\)，potential response \(Y_x(u)\) 是在 \(M_x\) 中解出 \(Y\)。多个反事实变量的 joint distribution 则是：

注意同一个 \(u\) 同时进入所有 worlds；这就是 cross-world identity 的正式来源。

三类 structural constraints

Consistency

当 factual observation 已经满足 intervention value 时，观察与 intervention 对其余变量一致。论文的一般形式是：

直观上，如果这个 unit 自然就有 \(X=x\)，那么在该 factual subset 中把 \(X\) 固定成同一个 \(x\)，不会改变其他 mechanism 的输出。

Exclusion

若 intervention variable 在相应 mutilated graph 中不再是 \(Y\) 的 ancestor，就可以从 \(Y\) 的 subscript 中删掉。

例如：

一旦做 \(do(Z=z)\)，\(X\to Z\to Y\) 被切断，所以：

论文用 exclusion operator \(\lVert Y_x\rVert\) 系统地删除这类 irrelevant antecedents。

Independence

多个 worlds 会共享 \(U\)，所以 counterfactual variables 的 dependence 不能只靠一张 single-world DAG 判断。AMWN 把 relevant instances 与 shared exogenous parents 放进同一 network，再用 d-separation 读取 conditional independence。

Part A：构造 AMWN

给定 causal diagram \(G\) 和 query 中的 counterfactual variable set \(Y^\ast\)：

1. 对所有变量先应用 exclusion normalization；
2. 计算每个 counterfactual variable 的 counterfactual ancestors；
3. 把这些 ancestors 与见证 ancestrality 的 directed arrows 加进 network；
4. 若同一个 observable \(V\) 在不同 worlds 出现多次，增加 latent \(U_V\)，连接所有 \(V\) instances；
5. 对原图中的每条 \(V\leftrightarrow W\)，若相关 instances 出现在 network，增加 shared latent \(U_{VW}\) 并连接所有相应 copies；
6. 在得到的 \(G_A(G,Y^\ast)\) 上做 d-separation。

AMWN 的规模随 query 涉及的 worlds 数 \(z\) 线性增长。若原图有 \(n\) nodes、\(m\) edges：

Part B：用 counterfactual d-separation 判断 independence

Theorem 2.5 的逻辑是：

soundness：若 AMWN d-separated，所有 compatible SCM-induced counterfactual distributions 都满足 independence。

completeness：若 AMWN 中仍有 active path，论文在 technical report 中构造 binary XOR-style SCM，使 independence 确实失败；因此不能仅从 \(G\) 保证该 independence。

Part C：用三条 ctf-calculus rules 变换 query

Rule 1：Consistency / observation-intervention exchange

当 observation 与 intervention value match 时，可加减该 intervention。

Rule 2：Independence / 加减 counterfactual evidence

若 AMWN 中：

Rule 3：Exclusion / 加减 intervention

若在已经对 \(Z\) intervention 后的 graph 中，\(X\) 不再是 \(Y\) 的 ancestor。

Part D：把 query 化成 available distributions

不断组合：

• ctf-calculus 三条 rules；
• conditioning / marginalization / chain rule 等 probability axioms；
• 必要时 counterfactual unnesting；

直到 query 只由已提供的 \(P(V)\)、\(P(V_x)\) 等 distributions 构成，或判定无法识别。

author technical report 中的 CTFID / CTFIDU algorithms 给出 constructive procedure：先做 exclusion normalization 与 ancestral-component factorization，再调用可由 do-calculus 支撑的 IDENTIFY parts。Theorem 3.2 的 completeness proof 正是把 complete algorithm 的每一步对应回 ctf-calculus。

使用论文 Figure 1 的 backdoor graph：

可把 \(Z\) 想成 age group，\(X\) 是 treatment，\(Y\) 是 survival。

我们问的不是 population intervention：

而是 effect of treatment on the untreated：

它问：“现实中没有接受 treatment 的这群人，如果接受了 treatment，survival probability 会是多少？”

ctf-calculus 在该 graph 下把它化成：

现在给一组可手算的 observational probabilities：

代入：

为什么权重使用 \(P(Z\mid X=0)\)，而不是 overall \(P(Z)\)？因为 query 的 factual population 是现实中的 untreated；我们要保留这群人的 age composition，再把他们送入 \(X=1\) world。

这个公式不是凭直觉写的。论文 Example 1 展示的推导顺序是：

1. 对 \(Z\) marginalize；
2. 用 exclusion rule 增加或删除不影响 \(Z\) 的 intervention；
3. 用 consistency 把 matching observation/intervention 对齐；
4. 在 AMWN 中验证需要的 counterfactual independence；
5. 再用 consistency 回到 observational terms。

这个例子也显示 ctf-calculus 比 ordinary adjustment prose 更一般：它明确记录了 query 的 factual population 与 hypothetical world。

第一层：SCM semantics 导出的 constraints

• Lemma 2.1：generalized consistency；
• Corollary 2.2：counterfactual unnesting；
• Lemma 2.3：exclusion operator。

这些不是 empirical regularities，而是由 SCM mechanism replacement 与 shared-\(U\) semantics 推出的 equality constraints。

第二层：AMWN independence theorem

Theorem 2.5 同时给出：

• d-separation criterion 对 counterfactual independence sound；
• 若 criterion 不分离，则存在 compatible SCM 使 independence 不成立，因此 criterion complete。

technical report 的 completeness proof 不是只说“类似 ordinary d-separation”：它沿 active path 构造 binary XOR mechanisms，再以小概率 noise flip 使 distribution positive，同时保留 dependence witness。

第三层：效率与既有图构造比较

Table 1 比较：

这里是理论 complexity comparison，不是 software runtime benchmark。

第四层：ctf-calculus soundness

Theorem 3.1 的三条 rules 分别由：

• consistency；
• AMWN independence；
• exclusion；

直接许可。每次 algebraic transformation 都有一个明确 structural constraint，而不是凭“反事实直觉”改写下标。

第五层：counterfactual identification completeness

Theorem 3.2：

\(Q=P(y^\ast\mid x^\ast)\) 能从给定 observational / experimental distributions 与 \(G\) 识别，当且仅当存在一串 ctf-calculus rules 与 probability axioms，把 \(Q\) 化成这些 available distributions 的函数。

technical report 通过 prior complete CTFID construction、ancestral-component factorization 与 do-calculus / IDENTIFY 的 subsumption 连接来证明 completeness。

Lemma 3.3 进一步说明 ctf-calculus subsumes do-calculus；technical report Appendix C.3 还逐条说明它如何 subsume po-calculus。

第六层：worked derivations，而非 empirical evidence

正文给出：

• Example 1：backdoor graph 中 ETT 从 observational distribution 识别；
• Example 2：natural direct effect 经 counterfactual unnesting、independence 与 consistency 化成 mediation formula。

它们展示 rules 可用，但不是随机 benchmark、用户研究或现实系统 validation。

证据边界

本导读核对了 PMLR 正文与作者 R-115 technical report 中：

• formal setup；
• AMWN Algorithm 1；
• Theorems 2.5、3.1、3.2；
• CTFID / CTFIDU proof shape；
• AMWN / twin / SWIG comparison；
• do-calculus 与 po-calculus relationship。

这不是对每一行 proof 的独立 formal verification，也没有实现 AMWN 或 CTFID。因此可以报告 source-stated theorem 与 proof strategy，不能声称 theorem 已被我们重新证明或软件验证。

对 chain \(X\to Z\to Y\)，考虑：

如果直接复制 worlds，可能把它们画成两个 nodes；但做 \(do(Z=z)\) 后，\(X\) 已经没有到 \(Y\) 的 directed path，所以两者对每个 unit 都相等：

AMWN 在建图前用 exclusion operator 把它们归一成同一个 counterfactual variable。这个“先合并 deterministic equality，再做 d-separation”的顺序，正是 naive twin-network reading 可能不 complete、而 AMWN 能修正的核心。

最强之处：把“跨世界”从口号变成可检查对象

很多 counterfactual 讨论只写 \(Y_x\) 就停止了。本文进一步问：

• 多个 subscripts 对应哪些 submodels？
• 哪些 mechanisms 在 worlds 间共享？
• 哪些 nodes 实际 deterministic equal？
• 哪些 independence 是 graph 对所有 compatible models 的保证？
• 哪些 equality 足以把 query 化成 available data？

AMWN 与 ctf-calculus 让这些问题可机械追踪。

完整性结论很强，但 scope 必须读准

“complete”是相对于：

• recursive SCM semantics；
• finite-domain variables；
• positive distributions；
• 给定且正确的 causal diagram；
• 指定的 observational / interventional distribution access；
• 本文定义的 independence / identification task。

一旦 graph 不确定、数据有限、intervention semantics 不同或系统动态变化，theorem 不直接给出可靠答案。

对“unit identity / noise”议题的真正压力

本文不是忽略 unit identity。相反，page 6 footnote 明确指出：跨 worlds 共享的 exogenous variables 是把同一 unit 放入不同 counterfactual conditions 的 invariance anchors。

因此，后续研究不能简单声称“传统 SCM 没有跨世界 identity/noise”。更准确的 residual question 是：

• \(U\) 是否需要被拆成 stable unit type、event noise 与 regime state？
• 现实证据如何连接到某个 hidden \(U\) / operational regime？
• graph 与 intervention semantics 不确定时，系统应如何拒答或修复？

这些是对 formal baseline 的扩展问题，不是否定它已经表达的 shared-\(U\) semantics。

1. causal diagram 被当作输入。 论文不做 causal discovery，也不测试 graph misspecification；错误 graph 会许可错误 independence / identification steps。
2. 结论是 identification，不是 estimation。 即使公式 identifiable，有限样本下如何稳定估计、如何构造 uncertainty、如何处理 rare events，不由本文解决。
3. 变量 domain 假设 finite。 对 continuous variables、densities 与 measure-theoretic zero-probability conditioning 的完整扩展未在本文建立。
4. SCM 假设 recursive / acyclic。 feedback systems、simultaneous equations、continuous-time dynamics 不在 formal scope。
5. 全文假设 positive distributions。 structural zeros、deterministic relations与 impossible evidence 需要额外处理；completeness proof 还特意加入小概率 flip 来维持 positivity。
6. 标准 submodel 是 hard intervention。 soft、stochastic、policy、mechanism-shift interventions 没有作为主 formal object 展开。
7. shared \(U\) 是语义对象，不是可观测 identity record。 theory 不告诉我们现实中如何把日志、用户或事件可靠绑定到同一个 latent unit。
8. 没有 empirical implementation evidence。 \(O\{z(n+m)\}\) 是 asymptotic graph complexity；没有报告 parser、memory cost、runtime 或 large-query stress test。
9. completeness 不等于所有 query 可识别。 对缺少 cross-world information 的 query，CTFID 仍可 FAIL；读者不能把 rule set 当成 counterfactual oracle。
10. available distributions 被视为已知 population objects。 selection bias、sampling error、distribution shift、privacy release 与 measurement error 没被纳入 calculus。
11. graph uncertainty 没有传播到 answer。 Markov-equivalent graphs 或 contested bidirected edges 可能给出不同 counterfactual conclusions。
12. proof stack 有外部依赖。 Theorem 3.2 的 completeness argument调用 prior CTFID completeness、IDENTIFY 与 do-calculus results；彻底 proof audit 需要同时核这些前置定理。

这是一篇 formal paper，因此“更强”既包括新 theorem，也包括可检验实现：

• 发布 reference AMWN / CTFID implementation，并对正文 Examples 1–2、technical-report examples 做 executable regression tests；
• 用 exhaustive enumeration of small binary SCMs 检验 AMWN separation judgments 与 brute-force counterfactual distributions 一致；
• 对 Twin Network、\(k\)-plet 与 AMWN 做 query-size / world-count / latent-confounding runtime benchmark；
• 形式化 continuous-variable、non-positive distribution 与 deterministic-node extension；
• 扩展到 stochastic / policy interventions、dynamic SCMs 或 cyclic mechanisms，并明确哪些 rules 仍 sound / complete；
• 在 graph uncertainty 下返回所有 candidate graphs 的 identified set，而不是单图答案；
• 把 CTFID derivations 编译成 machine-checkable proof certificates，逐步标注用了哪条 rule 与哪个 d-separation witness；
• 建立 noisy finite-sample layer：将 identification formula 与 estimator、uncertainty、support diagnostics 连接起来；
• 对 source-access / unit-binding error 做 sensitivity analysis，测试“以为是同一 unit、其实不是”会如何破坏 cross-world conclusions。

它可以支持：

• recursive SCM 的 shared-\(U\) semantics 对 cross-world counterfactual distributions 施加一致性、排除与 independence constraints；
• AMWN 能以 \(O\{z(n+m)\}\) 规模构造支持任意 counterfactual-variable separation query 的 relevant graph；
• 在本文 scope 内，AMWN d-separation 对 counterfactual independences sound and complete；
• 三条 ctf-calculus rules 可以系统变换 counterfactual quantities；
• ctf-calculus + probability axioms 对从 observational / experimental distributions 的 counterfactual identification complete；
• ctf-calculus subsumes do-calculus，并在 author technical report 中也覆盖 po-calculus rules。

它不能支持：

• causal graph 能从任何 observational data 唯一恢复；
• 所有 counterfactuals 都 identifiable；
• identification formula 在小样本中可稳定估计；
• AMWN 已在大型 software systems 上验证；
• shared exogenous variable 已自动对应现实中的正确用户、event 或 runtime regime；
• 只要一句自然语言“what if”就属于本文 formal query class；
• dynamic、cyclic、continuous、soft-intervention systems 已经得到同样 completeness guarantee。

对当前 portfolio，这篇论文是一条比“传统 SCM 会不会反事实”更严格的 baseline：

如果目标是 causal diagram 所许可的 counterfactual independence 或 identification transformation，AMWN / ctf-calculus 已经提供了强 formal machinery。

因此 P01 / P17 不应说：

• graphical causal models 只能做 interventions；
• 传统 SCM 不表示跨世界 identity；
• 只要任务出现 counterfactual，DiscoSCM 就天然更新。

真正可能剩下的研究空间在另一层：

只有当 residual object 改变 query、evidence standard 或 decision，才值得建立新 representation。否则应直接承认 B2 是适当 baseline，而不是用新术语重包装同一个 formal problem。

1. Introduction + Figure 1：先看 ETT example，理解为什么 counterfactual quantity 不只是 \(P(Y\mid X)\)。
2. Definitions 1.1–1.3 + Figure 2：锁定 submodel、potential response、shared-\(u\) joint valuation 与 causal hierarchy。
3. Section 2.1 + Figure 3：读 consistency 与 nested counterfactual unnesting。
4. Section 2.2 + Figure 4(a)：用 chain graph 理解 exclusion operator。
5. Section 2.3 + Figures 5–6 + Algorithm 1：这是 AMWN 的核心；重点看“normalize / ancestors / shared latent”三步。
6. Theorem 2.5 + Table 1：分别读 soundness、completeness 与 complexity，不要只记 polynomial。
7. Theorem 3.1：把三条 rules 与前面的三类 constraints 一一对应。
8. Example 1 + Figure 7(a)：手推 ETT；这是最适合第一次读的完整 derivation。
9. Example 2 + Figure 8：再读 natural direct effect，理解 nested counterfactual 与 unnesting。
10. Theorem 3.2 / Lemma 3.3：最后读 identification completeness 与 do-calculus subsumption。
11. Author technical report Appendix B.3、B.5、C.1–C.3：准备 theorem-level use 时，核 XOR countermodel、CTFID proof、既有 graph constructions 与 calculi comparison。

• Official PMLR proceedings: https://proceedings.mlr.press/v267/correa25a.html
• Official PMLR paper PDF: https://raw.githubusercontent.com/mlresearch/v267/main/assets/correa25a/correa25a.pdf
• Author technical report R-115 with proofs and extended discussion: https://causalai.net/r115.pdf
• Official OpenReview record linked by PMLR: https://openreview.net/forum?id=zEmf2GIRYY
• Verification boundary: PMLR paper and author technical report inspected; no official implementation was linked from the inspected PMLR surface; AMWN / CTFID not implemented here and proofs were not independently formalized.