Formal causal objects / treatment effects · 逐篇深读 · 面向读者的解释

Causal Machine Learning: A Survey and Open Problems

这篇综述真正做的不是教你用 AIPW、CATE 或 RATE 从观察性数据估计治疗收益,而是回答另一个更宽的问题:如果机器学习系统显式使用 SCM、intervention 和 counterfactual,能否改善分布外泛化、可控生成、解释、公平性和序贯决策?它把这条 causality for machine learning 路线分成五大问题族,同时用 261 页正文与参考文献、516 条引用和一章 “The Good, the Bad and the Ugly” 告诉读者:因果语言带来更强的问题表达能力,也带来更强、常常不可检验的假设。

01 · Misconception repair

先拆掉最容易产生的误会

第一误会:标题里的 “Causal Machine Learning” 等于“用 machine learning 估计 ATE/CATE”。作者在 introduction 里明确把后者排除在主范围之外;causal effect estimation 与 causal discovery 只在 Section 11.2 作为 related work 简述。因此,这篇论文能帮你理解 intervention、counterfactual、SCM 和 CausalML 版图,却不能替代 AIPW、double machine learning、policy learning、TOC/RATE 的专门来源。

第二误会:方法使用了 causal graph、environment 或 counterfactual vocabulary,就已经识别了真实 SCM。论文 v3 在 causal supervised learning 和 causal generative modeling 开头反复加粗提醒:从 observational data 恢复完整 SCM 需要 no hidden confounding、Markov、faithfulness、正确 causal ordering、正确 abstraction level 等强假设;多环境数据、干预样本和 domain knowledge 只能缓解,不能自动消除这些要求。

第三误会:综述收录了某类 causal 方法,就说明它已优于非因果方法。作者反而把“缺少与解决同一任务的 non-causal baselines 比较”列为 The Bad。若目标指标仍是 accuracy、OOD generalization 或 RL sample efficiency,causal label 不能免除 matched baseline。

第四误会:能生成一个看起来合理的 counterfactual image,就等于知道“同一个人如果属性不同会怎样”。Counterfactual sample 的意义依赖结构方程、噪声保持方式、可干预变量和物理可行性;视觉逼真只验证 observation surface,不验证 cross-world semantics。

第五误会:arXiv 页面在 2026 年更新,所以它就是一份覆盖 2026 前沿的完整 census。该论文初稿提交于 2022-06-30,当前 v3 修订于 2026-05-26,arXiv 仍标注 “Work in progress”。它适合做结构地图,不适合单独承担 2025--2026 frontier completeness。

02 · Objective verdict

先给一个客观判决

这是一篇很有价值的领域架构论文。最强之处不是提出新 estimator,而是把“因果为什么会进入机器学习”拆成五种不同需求,并把 intervention / counterfactual 从口号压回明确的 estimand、结构假设与评价对象。对于第一次跨入 CausalML 的读者,它比按模型名堆文献更能建立坐标系;对于已经做因果研究的人,Chapter 10 的自我批判尤其值得保留。

但它不是一篇可直接据此选择最优算法的 systematic review,也没有新的 benchmark、meta-analysis 或统一复现实验。其 bibliography 和 taxonomy 仍明显以 2022 前后的研究版图为中心。最准确的定位是:一张经过 2026 修订的、以 SCM 为共同语言的 CausalML 全景图和问题清单,而不是 2026 SOTA 排名、HTE 估计手册或 Causality Primer 的完整替代品。

03 · Mental model

一个直观世界

想象我们在管理一座复杂工厂。普通 ML 很擅长从历史日志预测下一次故障,但通常默认未来日志与过去同分布。因果建模则要求先画出一张“工厂怎样产生数据”的蓝图:哪些部件影响哪些传感器、哪个控制动作真正改变流程、哪些噪声属于同一次运行。

这张蓝图可以服务五个不同部门:

部门 它拿蓝图做什么 对应问题族
预测部门 避开只在旧环境成立的背景线索 causal supervised learning
生成部门 改一个属性,同时传播其下游后果或保持无关因素 causal generative modeling
解释部门 区分“相关特征重要”与“干预它会改变输出” causal explanations
公平部门 判断敏感属性通过哪些路径影响决策 causal fairness
决策部门 从有偏历史轨迹学习 policy,并思考未执行行动 causal reinforcement learning

关键是:五个部门共享 causal language,却不共享同一个验证标准。预测部门可以看 OOD accuracy;生成部门需要检查 intervention / counterfactual semantics;公平部门还要面对社会类别是否可被干预的规范性问题;决策部门则关心 policy value、regret 与 confounded trajectories。把它们都叫 “causal” 不能抹平这些差别。

论文 Chapter 2 的三层阶梯给出最小坐标:association 是 seeing,intervention 是 doing,counterfactual 是在已观察事实后 imagining。真正读懂后续五章的方法,是不断问它究竟停在哪一层,以及高一层所需的信息从哪里来。

04 · Real setup

真实问题与实验设定

这是一篇 survey,没有统一训练集、test split 或作者新跑的主实验。它的研究对象是一个文献 corpus,最终组织成 12 章、五个核心方法族、三个 modality-specific application 方向、一个 benchmark 章节和一章批判性总结。

作者采用 SCM 作为共同语言。一个简化的结构因果模型可以写成

\[X_j := f_j(\operatorname{pa}_j,\epsilon_j),\]

其中结构函数、图与外生噪声共同定义 data-generating process。观察分布回答“看见 \(X=x\) 后怎样更新信念”;干预分布 \(p(y\mid do(x))\) 切断进入 \(X\) 的原机制;counterfactual 还要先根据事实观察推回特定外生状态,再在同一状态下修改结构并前向预测。

论文核心部分 输入或假设对象 主要输出 典型额外监督 / 风险
Causal supervised learning 多环境数据、content/style 假设、invariance OOD-robust feature 或 mechanism environment index、augmentation、不可验证不变性
Causal generative modeling causal graph、structural assignments、latent variables interventional / counterfactual samples abstraction、ordering、intervention pairs、domain labels
Causal explanations black-box model,有时加 DGP graph attribution 或 contrastive recourse actionability、causal paths、计算与隐私风险
Causal fairness sensitive attribute、graph、fairness criterion counterfactual / interventional fairness judgment social-category semantics、identification、criteria conflict
Causal reinforcement learning MDP/CID、trajectories、policy/environment assumptions policy、OPE、credit、incentive judgment offline confounding、simulator、formalism fragmentation

论文还单列 computer vision、NLP 和 graph representation learning,说明同一 causal primitive 在不同 data modality 中会被重新实现;Chapter 9 收集 RL、vision 和 NLP benchmark。这里的“结果”因此主要是 taxonomy、method comparison table、benchmark catalog 与 open-problem synthesis,而不是新的 effect size。

最重要的 scope boundary 是两个相反方向:

方向 问题 本文覆盖
causality \(\rightarrow\) machine learning 用 causal assumptions / estimands 改善 ML 的 robustness、generation、explanation、fairness、decision 主体 Chapters 3--10
machine learning \(\rightarrow\) causal inference 用 flexible ML 估计 treatment effect、nuisance functions 或 causal graph 只在 Section 11.2 概览

这两个方向会共享 neural networks、representations 和 propensity 等词,却拥有不同 estimand、assumption 与 evaluation contract。

05 · Method walkthrough

方法或任务流程

把这篇综述当成一个读论文的检查程序,比从头记 516 条引用更有效。

第一步,先确定问题处在 causal ladder 的哪一层。只是预测 \(p(y\mid x)\),还是要回答 \(p(y\mid do(x))\),还是要对已发生个案回答 \(Y_{x'}\mid X=x,Y=y\)?如果问题仍是 association,就不要仅因方法使用 graph 而升级结论。

第二步,写出 causal object。它可能是 graph、structural assignment、content variable、environment intervention、counterfactual recourse、fairness path、CID 或 trajectory-level policy value。若论文只说“学习 causal representation”却不说明这些对象,先把 claim 降级。

第三步,列出从 data 到该 object 的识别条件。观测到所有 confounders 吗?有 intervention pairs 吗?environment labels 真能视为 interventions 吗?latent dimension 与 abstraction level 是谁指定的?social attribute 真的有可定义的 intervention 吗?

第四步,识别它解决的是哪个 ML failure:spurious correlation、uncontrolled generation、non-actionable explanation、discrimination、offline confounding,还是 sample inefficiency。因果形式必须改变这个 failure 的可检验部分,而不只是换 vocabulary。

第五步,对齐 baseline 与 metric。如果 claim 是更高 OOD accuracy,就与 strongest domain-generalization baseline 比;如果 claim 是 counterfactual fidelity,就必须检查事实保持、干预传播和不可观测 cross-world ambiguity;如果 claim 是 policy improvement,就需要 policy value/regret,而不是只看表示图。

第六步,最后才决定是否进入工程或研究。论文的 Chapter 10 给出三道统一门:有没有可用软件生态?有没有和 non-causal 方法公平比较?有没有可信的 intervention / counterfactual ground truth,或者至少清楚披露无法验证的假设?

06 · Worked example

自己走一遍最小例子

用“只治疗优先级最高的 20% 人”这个问题来检查本文的边界。设一个模型给每个人 priority score \(S(X)\),阈值 \(c_{0.2}\) 选出 top 20%。我们想比较

\[E[Y(1)-Y(0)\mid S(X)\ge c_{0.2}]\]

与随机治疗一个人的平均收益

\[E[Y(1)-Y(0)].\]

两者的差就是一种 top-fraction targeting contrast;沿 \(q\) 扫描可形成 TOC,进一步加权积分可形成 RATE 类指标。问题的核心不是训练一个普通 ranking model,而是同一个人不能同时展示 \(Y(1)\)\(Y(0)\)

若有独立 RCT evaluation sample,随机分配让 treatment 与 potential outcomes 独立,可以用 randomized outcomes 构造 unbiased / doubly robust scores。若只有 observational data,则还需要 consistency、conditional exchangeability、overlap,并估计 propensity \(e(X)\) 和 outcome regressions \(\mu_a(X)\)。AIPW pseudo-outcome 的典型形式是

\[\widehat\Gamma_i= \widehat\mu_1(X_i)-\widehat\mu_0(X_i) +\frac{W_i\{Y_i-\widehat\mu_1(X_i)\}}{\widehat e(X_i)} -\frac{(1-W_i)\{Y_i-\widehat\mu_0(X_i)\}}{1-\widehat e(X_i)}.\]

这里必须避免一句常见但过强的话:单个 \(\widehat\Gamma_i\) 不是个人真实 \(Y_i(1)-Y_i(0)\) 的无噪声“无偏还原”。在正确的识别条件和相应 nuisance 条件下,它的条件期望可对准 CATE;所谓 double robustness 主要是对总体估计的一致性或渐近性质,而不是保证有限样本中的每个 pseudo-outcome 都正确。

然后才可以用全样本与 top 20% 的 \(\widehat\Gamma_i\) 均值去估计对应 contrast,并用 sample splitting / cross-fitting 避免 ranking learner 与 evaluator 相互过拟合。

这篇 survey 对这个例子能提供三件事:Chapter 2 解释 conditioning 为什么不等于 intervention;Section 2.6 解释 identifiability 先于 estimation;Section 11.2.1 提醒 missing intervention 与 confounding,并简述 meta-learners、observed/unobserved confounding。它没有给出 TOC、RATE 或 AIPW 的推导与 inference。因此正确使用方式是:把它作为概念地基,再接专门的 treatment-prioritization / semiparametric estimation 来源。

这个例子也暴露了一个常见概念滑移:一个 causal supervised learning 方法若能在环境变化下更稳地预测 outcome,不自动意味着它能无偏评价 top 20% treatment policy;robust prediction 与 causal policy evaluation 是不同目标。

07 · Results and evidence

关键结果与证据层级

论文没有一个“新算法在数据集上提升 X%”的主结果。它的可核验证据首先是结构性产出:261 页 PDF、516 条参考文献、五个核心 CausalML 类别、三个 modality application 方向,以及五组显式 open-problem sections。

问题族 论文归纳的主要开放问题
Causal supervised learning targeted invariance benchmarks;与 adversarial robustness / meta-learning 的连接;额外监督信号;identifiability 与 unverifiable assumptions
Causal generative modeling 正确 abstraction level;大图 structural assignment scaling;何时 counterfactual data augmentation 真正有效
Causal explanations attribution 与 recourse 的统一;scalability;动态模型;security/privacy;robustness 与 recourse sensitivity 的冲突
Causal fairness equality 之外的目标;prediction 之外的影响;partial identification;社会类别的 manipulability;criteria trade-off;introduced unfairness
Causal reinforcement learning 统一 evaluation environments 与 formalisms;deconfounding offline RL;counterfactual decision-making

第二层证据是 comparison tables 与案例。论文用方法表展示各类方法的 input、output 或 key idea,用 medical treatment、cow/background、brain MRI、loan recourse、offline trajectories 等例子解释 causal object。这些案例支持 mental model,不构成跨论文效果量比较。

第三层是 Chapter 10 的领域诊断:

  1. The Good:SCM 与 do-operator 能表达纯 observational ML 无法表达的 intervention / counterfactual questions,并为 robustness、control、explanation、fairness 与 decision 提供结构语言。
  2. The Bad:缺少成熟的开源生态;不少 causal methods 没有与解决同一任务的 non-causal baselines 比较。
  3. The Ugly:真实 intervention ground truth 难、贵或不道德;真实 counterfactual ground truth 按定义不可直接观察;模拟器可被为特定方法量身定制;不可检验假设无法彻底消失。
证据类型 可以支持 不能支持
taxonomy / definitions 建立问题和术语地图 证明 taxonomy 唯一或完整
method comparison tables 快速识别 input/output/assumption 差异 形成统一 leaderboard
benchmark catalog 了解有哪些可用 testbed 证明 benchmark 有现实外部效度
open-problem synthesis 形成研究问题与审稿检查表 证明某个 open problem 尚无人解决
Chapter 10 critique 支持保守的证据与假设边界 量化整个领域的失败率

因此,本页把“综述结论”与“作者新实验证据”分开:前者很强,后者不存在。不能把 516 条引用的广度误写成 516 个方法都经过同一 protocol 验证。

08 · Objective review

综合客观评价

论文最值得学习的是组织方式。它没有把 causal inference 当作一个孤立统计章节,而是追踪 causal objects 怎样进入现代 ML 的不同失败模式;又没有在最后停留于乐观宣言,而是正面写出软件、baseline、ground truth 与不可检验假设的代价。这使它既是入门地图,也是反过度宣传清单。

Chapter 2 也足够自洽:从 Bayesian network 到 intervention、counterfactual、SCM、CRL、confounding、identification 和 causal influence,读者能带着统一符号进入后续章节。尤其是把 identification 描述为“把 causal estimand 转成可由观察分布计算的 statistical estimand”,能阻止模型复杂度替代识别问题。

其弱点来自同一优势:覆盖太宽。feature invariance、counterfactual image generation、algorithmic recourse、social fairness、offline RL 与 treatment effect estimation 的 epistemic contract 差别极大。一个 umbrella survey 很容易在统一术语时压平这些差异;读者必须自己补充各领域的专门理论和最新证据。

从 2026 视角看,它更像“2022 版图的深度修订”而不是“2026 frontier census”。这不降低它作为 foundational map 的价值,但决定了它应该与当前 top-venue Scout、HTE/semiparametric教材和最新 CRL/LLM causal reasoning 文献并列,而不是成为唯一入口。

09 · Limitations

主要局限性

  1. 它仍是 arXiv work in progress。 v3 在 2026-05-26 更新,但没有 proceedings / journal peer-review 状态可作为最终版本边界。
  2. 不是可复现的 systematic review。 正文没有给出数据库检索式、时间窗口、纳入排除规则、双人筛选或 PRISMA-style flow,因此 corpus selection 不能被当作完整 census。
  3. 版本日期与文献新鲜度不对齐。 虽然是 2026 v3,参考文献仍压倒性集中在 2022 及以前;可见 bibliography 只含极少 2024--2025 工作,不能代表 2026 frontier。
  4. 核心范围故意弱化 ML for causal inference。 AIPW、DML、policy learning、TOC/RATE、现代 CATE model selection 与 sensitivity analysis 只能从 Section 11.2 得到入口,无法从本文学会实际 inference。
  5. 没有统一经验比较。 方法来自不同任务、数据和 metric;综述不重跑实验,也没有 meta-analysis,所以不能回答“哪个方法最好”。
  6. “causal” 方法的证据强度不齐。 有些方法使用已知 graph,有些只假设 environment invariance,有些生成视觉 counterfactual;把它们放在同一 umbrella 下容易让 causal identification 含义漂移。
  7. 强假设仍不可检验。 no hidden confounding、faithfulness、正确 graph、正确 abstraction 或 modularity 一旦错误,intervention/counterfactual interpretation 会失效。
  8. benchmark ground truth 有结构性困难。 真实 counterfactual 不可同时观察;大量评估依赖 simulator,而 simulator 可以被定制成偏爱某种方法。
  9. non-causal baseline 缺失是领域问题,也是综述证据限制。 某些 paper 的提升可能来自 architecture、augmentation 或 supervision,而不是 causal formalism 本身。
  10. abstraction level 没有统一答案。 pixel、object、agent、mechanism 或 social category 都可成为 causal variable;选错层级时,图虽可计算却不一定科学有效。
  11. social-category intervention 存在规范性争议。 在 fairness 中把 race/gender 当作可 modularly intervene 的变量,可能丢失社会与政治含义;这不是更多数据就能自动修复的问题。
  12. 软件生态判断会快速过时。 libraries、benchmark hubs 和自动 identification 工具在持续变化,Chapter 10.2.1 需要动态更新,不能永久引用为当前事实。
  13. 编辑质量仍有 work-in-progress 痕迹。 例如 printed p.26(PDF 第 30 页)出现段落重复与 “on the one hand” 重复;这些不改变主论点,但提醒读者不要把 v3 当定稿教材。
  14. 新一代 foundation model / LLM causal reasoning 不是主轴。 当前 Scout 中 2025--2026 的 agent benchmark、causal foundation model 与 internal-mechanism work需要额外来源补齐。
  15. 开放问题不等于 novelty proof。 综述说某方向 under-explored,只是截至其 corpus 的作者判断;新论文仍需做逐条 prior-art search。
10 · Stronger tests

什么实验会让结论更强

第一,做一份可更新的 systematic extension:冻结检索数据库、关键词、时间窗与 inclusion protocol,把 2023--2026 的 CRL、causal foundation models、LLM causal reasoning、diffusion counterfactuals、offline causal RL 与现代 effect-estimation work补入,并公开 versioned corpus。

第二,为每个被称为 CausalML 的方法增加一张 assumption card:observed variables、hidden confounding、intervention access、graph knowledge、abstraction、identifiable estimand、testable implications、failure mode。这样 taxonomy 才能从“方法属于哪类”升级为“结论靠什么成立”。

第三,在同一任务上做 causal 与 non-causal matched comparisons,冻结 backbone、capacity、data augmentation、supervision budget、tuning budget 与 evaluation split。只有 causal object 的加入带来独立收益,才能把改善归因给 causal formalism。

第四,建立 simulator-to-reality stress test:公开多个由不同团队设计的 SCM/simulator,加入 misspecified graph、hidden confounding、wrong abstraction、weak overlap 与 intervention shift;再用少量真实 interventional data检查 simulator ranking 是否外推。

第五,对 counterfactual generators 分开验证 observational realism、intervention propagation、factual reconstruction、noise consistency 与 decision utility。单一 FID/visual realism 指标不足以证明 counterfactual validity。

第六,把 Chapter 11.2 扩成独立桥梁,对同一个 top-20% treatment example并列展示 identification、nuisance learning、AIPW、cross-fitting、ranking evaluation、uncertainty 与 sensitivity analysis,明确 CausalML 和 ML-for-causal-inference 可以怎样协作。

11 · Claim boundary

论文可以支持什么结论

可以说:CausalML 可以被组织成 causal supervised learning、causal generative modeling、causal explanations、causal fairness 和 causal reinforcement learning五类;SCM、intervention 与 counterfactual 为这些问题提供了比 observational prediction 更强的表达语言;当前领域同时受制于 benchmarks、software、baseline comparisons、ground truth 与不可检验假设。

可以说:在很多 ML 问题中,显式声明 data-generating assumptions 有助于区分 spurious association、action、counterfactual editing、recourse、fairness path 与 policy decision,而不应把它们压成同一个 “causal score”。

不能说:本文证明 causal methods 总体优于 non-causal methods;收录的方法都识别了真实 SCM;生成的 counterfactual 都是真实个体反事实;或一个模型在 OOD benchmark 上更稳就完成了 causal inference。

不能说:本文已经提供从 observational data 计算 top-20% treatment gain 的完整方法。这个问题需要另行声明 estimand、identification、overlap、nuisance estimation、AIPW/orthogonal score、sample splitting 与 uncertainty。

也不能把 “last revised 2026” 简写为“一篇 2026 新论文”。准确元数据是:初稿 2022、当前 v3 于 2026 修订、arXiv work in progress。

12 · Research connection

为什么它与当前研究有关

对 Causality Primer,它提供的是章节路由图:Chapter 2 可作为 seeing/doing/imagining、SCM 与 identification 的背景;Chapters 3--7 可进入 robustness、generation、explanation、fairness、decision 的应用侧栏;Chapter 10 则应成为贯穿教材的 assumption/evidence warning。教材不应照搬其 261 页结构,而应吸收它区分问题族与证据边界的方式。

对 HCGM / Unit Selection Learning,它给出一个重要否定边界:learned invariant representation、latent causal factor 或 counterfactual generator不自动等于 persistent individual / unit belief,也不自动给出 treatment-effect identification。若当前研究提出新的 unit object,必须说明它在 SCM、measurement、effect estimation 或 decision 的哪个接口增加了可检验内容。

对刚才的 HTE/RATE 阅读线,它能澄清为什么 observational mean difference 不是 causal effect,以及为什么 identification assumptions 先于 estimator;但它也明确暴露了缺口:RATE/TOC 与 AIPW 应进入一篇单独的专业导读,不能借这篇 umbrella survey 代替。

对 Causal AI Scout,本页承担跨论文索引:它不是又一篇需要复现的 SOTA,而是帮助读者判断其他论文究竟属于 causality-for-ML、ML-for-causal-inference、causal discovery 还是只使用 causal vocabulary 的 field map。

13 · Reading path

推荐阅读顺序

不要线性硬读 261 页。第一遍用四站建立全局:先读 abstract / Introduction;再读 Chapter 2 的 Sections 2.2、2.3、2.5、2.6;跳到 Chapter 10 “The Good, the Bad and the Ugly”;最后读 Chapter 12 Conclusion。这样先获得 causal ladder、SCM、confounding、identification 与作者自我批判。

第二遍按问题选一章:关注 OOD robustness 读 Chapter 3;关注 controllable/counterfactual generation 读 Chapter 4;关注 explanation/recourse 读 Chapter 5;关注 fairness 读 Chapter 6;关注 agent/offline policy 读 Chapter 7。每章先看 overview table,再看 open problems,最后才追单个方法。

第三遍补应用与评测:Chapter 8 看 vision/NLP/graph 的 modality-specific 翻译;Chapter 9 看 benchmark ground truth 来自哪里;读每个 benchmark 时标注真实 observation、simulator truth、intervention access 与 scoring object。

若你的目标是 treatment effect,直接读 Section 11.2.1,并把它当文献入口而不是教程终点。读完立即转向专门的 potential outcomes、semiparametric inference、double/debiased ML 与 treatment-prioritization sources。

页码路线(按论文 printed pages):pp.5--24 是最小因果背景;pp.25--50 是 supervised invariance;pp.51--67 是 generative;pp.68--82 是 explanations;pp.83--95 是 fairness;pp.96--138 是 RL;pp.168--174 是 benchmarks;pp.175--181 是 Good/Bad/Ugly;pp.183--189 是 ML for causal inference;pp.190--192 是结论。

14 · Sources and next reading

论文来源与相邻阅读

  • Official arXiv abstract and version history: https://arxiv.org/abs/2206.15475
  • Official arXiv v3 PDF: https://arxiv.org/pdf/2206.15475
  • arXiv-issued DOI: https://doi.org/10.48550/arXiv.2206.15475
  • Experimental arXiv HTML for v3: https://arxiv.org/html/2206.15475v3
  • Public projection: https://wehub.us/gong/10-paper-portfolio/causality-scout/paper-digests/l05-causal-machine-learning-survey/

本导读按官方 v3 PDF 核对标题、作者、261 页结构、五类 taxonomy、open-problem sections、Chapter 10 批判与 Section 11.2 scope boundary;没有把引用文献逐篇复现,也没有把 arXiv revision 当作正式发表或 systematic-review completion。