The third pillar of causal analysis? A measurement perspective on causal representations

误会一：高相关、高 \(R^2\) 就表示测到了对应 causal variable

不对。若两个 latent variables 本来就有因果关系，测量其中一个也会很好地预测另一个。

例如：

一个只测 \(Z_1\) 的表示 \(\hat Z=h(Z_1)\)，可能同时对 \(Z_1\) 和 \(Z_2\) 都有很高 \(R^2\)。这说明 predictability 高，不说明 \(Z_2\) 是它的 measurement parent。

误会二：block identifiability 足以让 representation 替换任意 causal variable

也不对。即使 \(\hat Z=h(Z)\) 是 bijection、信息一点没丢，对 treatment 或 outcome 做一个非单位缩放，也可能改变 ATE 的数值。

但同一个 invertible transformation 若用于 confounder adjustment，反而可能不影响 backdoor estimand。于是 validity 不是 representation 的永久属性，而是：

这一对对象之间的关系。

误会三：T-MEX 是一个新的通用 disentanglement metric

它不是把 correlation matrix 换了个名字。普通 disentanglement score 常问：

每个 learned coordinate 是否能一一匹配一个 factor？

T-MEX 问的是：

在给定 measurement graph 中，数据里的 conditional-dependence pattern 是否与预期 parent relation 一致？

它需要先给出 latent variables、measurement blocks 和预期 adjacency；它衡量的是与这个 measurement model 的不匹配数，不是 representation 美观、稀疏或独立到什么程度。

误会四：T-MEX 为 0 就证明了 measurement model 为真

不证明。T-MEX 由有限样本 CI tests 产生：

• 拒绝 independence 可能是假阳性；
• 不拒绝可能只是 power 不足；
• continuous conditioning 下不存在对所有 alternatives 都有 power 的万能非参数 CI test；
• 同一批样本上做很多 tests 还需要 multiple-testing correction。

所以 T-MEX 是可操作的 falsification / diagnostic evidence，不是 identification certificate。

误会五：这篇论文已经解决了没有 ground-truth latents 的 CRL evaluation

没有。数值实验需要观测 \(Z\) 与 \(\hat Z\) 的 paired samples；ISTAnt case 也用到了部分人工 outcome annotations。它把 evaluation question 说得更准确，但没有消除 ground-truth measurement evaluation 的数据成本。

最准确的总评是：

论文补上了 causal representation learning 经常缺失的 measurement layer，并用一个可检验 score 展示普通 association metric 的盲点；它提出的是一套更严谨的评价语言和初步诊断证据，不是 latent causal variable recovery 的通用解法。

想象医院要估计药物剂量对体温的影响，但真实体温看不到，只能用一只传感器。

有三种传感器：

• A 读的是摄氏温度；
• B 读的是华氏温度；
• C 把体温、室温和电池温度混在一个数里。

若任务只是把患者按“体温高低”排序，A 与 B 都可能足够；若要直接报告“剂量每增加 1 单位，摄氏温度改变多少”，把华氏读数原样塞进回归就会改变量纲；C 即使预测发热很准，也不能说它只测了体温。

论文把 learned representation 放在传感器的位置：

latent causal variable Z
        ↓ measurement function h
learned measurement block Z-hat
        ↓ downstream statistical estimand g
causal answer

于是有两个分开的检查：

1. validity：换传感器读数后，目标 causal answer 是否保持？
2. exclusivity：传感器是不是偷偷混入了不该测的变量？

普通 \(R^2\) 只会告诉你读数“有多会预测”，不告诉你量纲是否正确，也不告诉你混入了哪根线。

Formal measurement object

论文的 Definition 2.1 令 latent causal variables 为：

其中每个 \(Z_i\) 是 scalar。measurement variables 按 block 写成：

每个 block 由 deterministic structural assignment 生成：

也就是说，最重要的不是 learned coordinate 长什么样，而是：

• 它的 causal parents 是哪些 \(Z_i\)；
• \(h_j\) 是 identity、invertible transformation、coarse-graining，还是 mixing；
• downstream query 需要保留什么信息和尺度。

若 measurement block 只有一个 parent，论文称它 exclusively measures 该 variable；若还要求 \(h_j\) 是 identity，则是 direct measurement。measurement noise 可以作为额外 latent causal parent 放进 SCM，而不是被符号掩盖。

Block identification 与 causal validity 是两件事

Appendix Definition B.1 的 block identification 要求存在 bijection \(h\)：

这保证 information-level recovery，却不自动保证某个 causal numerical estimand 不变。

Definition 2.2 另行定义 causal validity。若统计 estimand \(g\) 识别目标 causal quantity，则 measurement model 对该 estimand 有效，当且仅当：

这是一条很强的“drop-in replacement”要求，也因此必须总是写出 \(g\)。

哪些 transformation 可能有效

Appendix F 给出三类对照：

因此“representation 是 invertible 的”不是结论终点，只是 validity proof 的一个可能前提。

T-MEX 的 test object

对每个 measurement block \(j\) 与 latent variable \(i\)，论文测试：

直觉是：把其他 latent variables 都控制后，如果 \(Z_i\) 仍对 \(\hat Z_{A_j}\) 留下独有信息，则拒绝 null，把它视为 candidate measurement parent。

令预期 measurement adjacency 为 \(V\)，test-derived adjacency 为 \(\hat W\)：

Definition 3.2 的 T-MEX 是 Hamming mismatch：

越低越符合预期；它不是归一化到 0–1 的 universal quality score。

两个主实验世界

Numerical simulation 使用 5 个 linear-SCM latent variables：\(Z_4\) 是 treatment、\(Z_5\) 是 outcome、latent \(Z_1\) 是 confounder。两个 view 由 \((Z_1,Z_2)\) 与 \((Z_1,Z_3)\) 经 invertible MLP 生成，再用 multi-view CRL 学 \(Z_1\) measurement。

作者比较：

• A：训练 50,001 steps 的充分训练模型；
• B：只训练 51 steps 的不足训练模型；
• C：把 A 的表示人工污染为 \(\hat Z^C=\hat Z^A+0.2Z_2-0.1Z_3\)。

每种模型有 50 个 independent datasets，每个 \(n=4096\)。downstream task 是以 learned measurement 调整 confounding 后估计 \(Z_4\to Z_5\) 的 ATE。

ISTAnt ecological study 使用 randomized chemical-exposure experiment 的 44 个 ant-triplet videos。treatment \(T\) 是 chemical exposure，latent outcome \(Y\) 是 grooming behavior，video model 输出预测 \(\hat Y\)。作者训练 2,400 个 DINOv2 classifier heads，并用：

检查 representation 是否在真实 behavior 之外还偷带 treatment information。

流程一：先写 causal question

先固定要估计的对象，例如：

如果不写 query，就无法判断对 treatment、outcome、confounder 的 measurement 要保留尺度、sigma-field 还是仅保留 block information。

流程二：写 measurement graph

对每个 learned block 记录：

measurement block
expected latent parents
measurement function class
noise parents
direct / exclusive / mixed / block status

这一步是 T-MEX 的 reference object。没有 \(V\)，就没有“mismatch”可算。

流程三：逐 pair 做 CI test

对 \((i,j)\) 检验 \(H_0(i,j)\)，得到 p-value，并以预设 significance level \(\alpha\) 做 reject / non-reject decision。

released numerical code 实现了多种 choices：

• PCM，主实验使用的 projected covariance measure；
• GCM；
• kernel-based KCI / FastKCI。

代码里的 numerical experiment 会分别测试 learned \(\hat Z_1\) 对 \(Z_1,Z_2,Z_3\) 的 conditional dependence，再把三项 decision 与预期 \((1,0,0)\) 比较。

流程四：合成 adjacency 并计算 T-MEX

每个错误 edge 或漏 edge 都加 1：

• expected 1、test 0：false negative；
• expected 0、test 1：false positive。

若多项 tests 共享样本，论文提醒用 Holm 等 multiple-comparison correction；不能把每项 \(\alpha=0.05\) 当作整张 graph 的 5% error guarantee。

流程五：把 score 与 downstream causal failure 对齐

T-MEX 本身只检查 measurement exclusivity。论文进一步比较：

• T-MEX；
• \(R^2\)、Spearman、MCC 等普通 representation metrics；
• learned confounder 导致的 absolute ATE bias。

合理的证据链不是“低 T-MEX 所以一切正确”，而是：

measurement corruption
→ CI adjacency mismatch
→ T-MEX 上升
→ downstream adjustment bias 也上升

Proposition 3.1 的保证是什么

若每个 entry 使用 independent sample set，null tests 的 level 为 \(\alpha\)，alternative 下 power 至少为 \(\beta\)，则：

右边正好是：

• expected zero entries 上的 false-positive budget；
• expected one entries 上的 false-negative budget。

它控制的是 expected test error count，不是 measurement identification，也不是 downstream effect error bound。

Toy 1：\(R^2\) 怎样把因果后代误当成“测到了”

令：

learned measurement 其实完美但只测 \(Z_1\)：

对 intended factor：

对它的 causal child：

只看 \(R^2\)，它仿佛同时“完美测到”两个 factors。

但 measurement-parent question 是：

以及：

预期 adjacency 是 \((1,0)\)。若 tests 正确恢复这两个 decisions，T-MEX 为 0：它承认 \(Z_2\) 可预测，却没有把 predictability 错叫 measurement parenthood。

Toy 2：信息没丢，ATE 仍可变

令真实 outcome：

真实 effect 是 2。现在 measurement 都是 bijective scaling：

因为两者可逆，\((T,Y)\) 被 block-identified；但若直接回归 \(\hat Y\) 对 \(\hat T\)，slope 是：

它没有丢 information，却不再是原量纲下的 effect 2。要恢复 2，必须知道 calibration map 并显式逆变换。

这正是：

主 simulation：T-MEX 正确区分 A、B、C

Table 1 报告 50 个 datasets 的 mean ± standard deviation：

Spearman 也有类似误导：A 对 \(Z_2,Z_3\) 仍达 0.8568、0.8864；B 对错误 factors 反而达 0.9602、0.9908。

Figure 2 进一步显示 T-MEX 与 absolute ATE bias 的排序一致：A 最小，B 变差，C 最差。这里最有说服力的不是 correlation 数值，而是 C 的污染机制预先已知，T-MEX 对它产生两个稳定 mismatches。

普通 metric 的反例不是只停在公式上

Appendix 的 additional experiment 中，一个 causally related latent block 被线性混合后，MCC 仍可等于 1；结构发现再在这些 entangled representations 上运行时，reported SHD 仍有 77% cases 为 0。

这说明：

也可能只是 learned mixture 恰好保留了可恢复的结构，而不是 measurement semantics 正确。

ISTAnt：real video case 的方向一致

作者构造 2,400 个 classifier heads，变化包括 preprocessing、hidden layers、batch size、learning rate、ERM / IRM / vREx / deconfounded-risk objectives 和 10 seeds；只保留 accuracy 超过 80% 的 models。

Figure 3 的核心现象：

• T-MEX=0 group 的 mean accuracy 更高、variance 更低；
• T-MEX=0 group 的 ATE estimates 更接近以人工 behavior annotation 得到的 reference；
• one-sided Mann–Whitney test 拒绝“T-MEX=1 group 的 mean absolute bias 不大于 T-MEX=0 group”，\(p=0.0047\)。

这是有价值的 external-domain evidence，但仍是一个 treatment、一个 outcome concept、44 个 videos 的 focused case，不应被扩写成通用 ecological validation。

Additional simulations：支持 robustness，也暴露 test dependence

Appendix 报告：

• latent dimension 扩到 5、10、20、50，\(n=1000\)，20 DAGs × 30 replications；GCM-based T-MEX 接近 oracle，50 latents 的 reported runtime 约 10.845 seconds；
• 换 PCM、GCM、KCI 等 CI procedures 时，A/B/C 的 ordering 基本一致；
• weak causal relation case 中，empirical T-MEX 为 \(1.01\pm0.0995\)，oracle 为 1，而 \(R^2\) 与 MCC 仍可为 1；
• nonlinear SCM 中 perfect measurement 的 T-MEX 为 \(0.01\pm0.10\)，mixed measurement 为 1；对应 absolute ATE bias 约 0.1532 与 0.5357；
• 加 independent measurement noise 后，T-MEX 从约 0.01 上升到 \(0.39\pm0.6497\)，平均仍偏低但 variability 明显增加。

最后一项尤其值得诚实读：它不是“noise 不影响”，而是 metric 在该设定下方向尚可、却会变得不稳定。

四类证据不要混在一起

这些证据没有完成的是：在 unknown real latent system 中唯一识别 measurement graph。

最强贡献是“把中间层说出来”

causal analysis 常被分成 causal discovery 与 causal reasoning。论文提出 measurement 可能是“第三根支柱”：现实 raw observations 到 causal variables 之间还有一层，不应默认为透明。

这对 CRL 很重要，因为许多 paper 从：

encoder recovers factor information

直接跳到：

learned factor can enter a causal query

L01 强迫我们插回 measurement model 与 estimand-invariance proof。

T-MEX 的优势来自 question 对了，不只是 metric 换了

\(R^2\)、MCC 和 correlation 回答 association / matching question；T-MEX 回答 parent-specific conditional-information question。它在因果相关的 latents 下更合适，是因为 evaluation target 已经不同。

这也意味着两类 metric 不应粗暴互相替代：

• 低 T-MEX 不保证 reconstruction、calibration 或 downstream utility；
• 高 \(R^2\) 不保证 exclusivity；
• 一个完整 representation evaluation 应同时报告 information quality、measurement alignment 与 task-specific causal validity。

最强替代解释：CI test quality，而非 measurement truth

empirical T-MEX 的好坏可能来自：

当 T-MEX 偏高时，可能是 learned representation mixed，也可能是 test underfit / overfit；当它偏低时，也可能是 weak extra parent 没被检出。因此它是 measurement model 与 testing pipeline 的联合产物。

“causally valid”是强词，但论文自己给了窄定义

它不表示 representation 是世界里的本体性变量，也不表示所有 interventions 都能在 representation space 中实施。这里的意思严格是：

对指定的 statistical estimand，拿 measurement 替换目标 variables 不改变结果。

只要一直保留这条定义，论文的概念贡献就非常清楚；去掉 estimand qualifier，反而会把它读回论文试图修复的误区。

1. T-MEX evaluation 仍需要 latent-variable samples。 在最困难的现实 CRL 场景里，真实 \(Z\) 恰恰不可见；这项方法没有凭空消除 annotation / intervention cost。
2. measurement graph 必须预先指定。 \(V\) 是 score 的 reference；若 expected parent relation 本身错，低 mismatch 也只代表与错误假设一致。
3. conditional-independence testing 有基本限制。 对 continuous conditioning variable，不存在对所有 alternatives 都有 power 的 universally valid nonparametric test；PCM 还依赖 conditional-mean estimation rates。
4. non-rejection 不是 independence proof。 weak effects、small sample、high dimension 或 regression misspecification 都可能把 mixed measurement 判成 exclusive。
5. multiple testing 会膨胀 false positives。 Proposition 3.1 的 clean expression 假设 entry-level independent samples；实际共享数据时需 correction，power 又会随之下降。
6. deterministic measurement formalism 会把 noise 推到额外 parents。 这在 SCM 记法上合法，但现实 sensor noise、batch effect、selection 与 missingness 的建模质量仍决定结论。
7. causal validity 需要逐 estimand 证明。 论文给出代表性 examples，而不是一套自动判断任意 nonlinear estimator / policy / longitudinal query 是否 invariant 的算法。
8. T-MEX 只量 exclusivity mismatch。 它不直接量 measurement function 的 invertibility、calibration、resolution、sufficiency、intervention manipulability 或 downstream effect bias。
9. score 没有按 graph size 归一化。 不同 \(M,N\) 下 raw counts 不可直接当 leaderboard number 比较，zero / one entries 的不平衡也会影响解读。
10. 主 simulation 与 corruption 是作者设计的。 C 直接加入 \(Z_2,Z_3\)，当然正中 exclusivity target；现实 representation failure 可能是 nonlinear leakage、selection-induced dependence 或 support gaps。
11. real-world evidence 仍窄。 ISTAnt 只有 44 个 ant-triplet videos、一个 randomized exposure 和一个 behavior outcome，尚不足以覆盖医学、语言或 high-dimensional scientific sensing。
12. ISTAnt 的 reference 也依赖 labels 与 modeling choices。 T-MEX 使用部分 outcome annotations，ATE comparison 还依赖 covariates、classifier filtering 和 CI test validity。
13. ordinary metrics 的失败不等于它们无用。 \(R^2\)/MCC 仍能量 recoverability；论文证明的是它们不回答 exclusivity，不是所有 representation evaluation 都应只留 T-MEX。
14. released code 覆盖不完整。 repository README 主要给 Section 5.1 numerical simulation 的 train/evaluate commands 与多种 CI implementation；ISTAnt full pipeline / data 不是同等即插即复验形态。
15. 本导读没有复现实验。 我们核查了 official PDF、supplement 与 released code structure，但没有创建 environment、下载 ISTAnt data 或重跑 50-replicate results。

• 在 ground-truth parent leakage strength 从 0 连续增加时，画 T-MEX power / false-positive / ATE-bias calibration curve；
• 对同一个 measurement model，系统变化 \(n\)、latent dimension、conditioning dimension、noise 和 edge strength；
• 报告 Holm / Bonferroni / FDR 与 uncorrected T-MEX 的 sensitivity，而不是只给一种 threshold；
• 用 sample splitting 或 independent replications 分开学 representation、拟合 CI nuisance functions、计算 T-MEX 与估 ATE；
• 加入 negative controls：known irrelevant latent、permuted measurement graph、intentionally wrong \(V\)；
• 将 T-MEX 拆成 false-positive edges 与 false-negative edges，避免相同总分掩盖不同 failure；
• 同时报告 normalized score、graph sparsity 和 entry-wise confidence intervals；
• 构造“低 T-MEX 但 estimand 无效”的 calibrated-scaling case，明确 exclusivity 不是 validity；
• 构造“高 T-MEX 但 estimand 仍有效”的 redundant-proxy case，检查 metric 与实际 decision loss 的差异；
• 在多种 downstream queries 上测试同一 representation：ATE、CATE、mediation、policy value、counterfactual prediction；
• 在真实 sensor / medical-imaging / language representation 场景中取得 partial interventions 或 gold-standard assays，做跨 modality validation；
• 将 measurement shift 纳入实验：训练期 \(h\) 不变、测试期 calibration drift / parent leakage，检查 causal validity 何时断裂；
• 比较 PCM、GCM、KCI 与现代 conditional two-sample tests，并在 known-null simulations 中校准实际 type-I error；
• 发布 ISTAnt 的完整 frozen environment、data access、all 2,400 model configs 与 end-to-end scripts；
• 最终把 T-MEX 与真实 decision regret 关联，而不只与 ATE bias 或 accuracy 关联。

它可以支持：

• causal representation 应被建模为 latent causal variables 的 measurement，而不是默认等同于 causal variables；
• representation 是否能进入 causal analysis，必须 relative to a target estimand 判断；
• block identification / invertibility 并不普遍蕴含 treatment-effect estimand invariance；
• causally related latents 会让 \(R^2\)、Spearman、MCC 等 association / matching metrics 高估 measurement correspondence；
• T-MEX 能用 CI test-derived adjacency 检查给定 measurement model 的 exclusivity mismatches；
• 在论文的 controlled simulations 与 ISTAnt case 中，T-MEX 比普通 metrics 更贴近预设 corruption 与 downstream ATE bias；
• test level 与 power 可以给 expected T-MEX 一个清楚的 error-count bound。

它不支持：

• T-MEX=0 证明 representation 就是 latent causal variable；
• T-MEX 能在完全没有 ground-truth latent information 时自动发现 measurement graph；
• 一个 representation 对一个 estimand 有效，就对所有 causal queries 有效；
• nonlinear bijection 总能安全替换 treatment 或 outcome；
• conditional-independence test 的 reject / non-reject decision 等于 causal parenthood 的最终证明；
• 只要替换 ordinary disentanglement metrics 为 T-MEX，CRL 的 identifiability 问题就解决了；
• ISTAnt 的单一 ecological case 已验证任意 scientific representation。

一句最安全的引用方式是：

Yao et al. 把 causal representation 评价重写为 estimand-relative measurement problem，并提出用 conditional-independence pattern 检查 measurement exclusivity；其 simulations 与一个 ecological-video case 表明，普通 association metrics 在 causally related latents 下可能严重误导。

它给 representation-based causal claim 加了一张必填表

任何 paper 若把 embedding、hidden state、video feature 或 learned latent 用进 causal analysis，都应先回答：

observed modality:
latent causal object:
learned measurement:
expected measurement parents:
measurement function / calibration:
target estimand:
valid replacement argument:
failure test:

这比一句“we learn causally meaningful representations”可审核得多。

它把 source / state / projection boundary 变得具体

raw observation 是 source signal，learned representation 是 inferred measurement state，页面上的 causal interpretation 是 projection。L01 提醒：projection 不能越过 measurement evidence，把 proxy 写成 ground truth。

它为 mechanism-preservation 增加前置条件

讨论某机制在 environment shift 下是否 preserved 之前，还要问 measurement relation 是否 preserved：

如果 sensor calibration、encoder leakage 或 selection mechanism 改了，representation-level invariance 可能只是 measurement drift 的幻觉。

它给 benchmark 设计一个更好的 failure axis

不要只用 factor recovery score。可以分别设计：

• intended-parent leakage；
• non-parent leakage；
• invertible but miscalibrated scaling；
• coarse-graining；
• measurement noise；
• environment-dependent measurement function；
• downstream estimand invariance / bias。

这样 benchmark 才能区分“信息恢复”“测量关系”“causal use”三层。

如果只有 12 分钟

1. Abstract：抓住 measurement 是 causal analysis 第三层的 thesis；
2. Section 2 的 Definition 2.1、2.2：measurement model 与 causal validity；
3. Section 3 的 Definition 3.1、3.2：exclusivity 与 T-MEX；
4. Table 1：看 A/B/C 为什么普通 metrics 会误导；
5. Figure 3：看 ISTAnt applied evidence；
6. Conclusion / Limitations：保留 CI testing 与 observability 边界。

如果要真正理解 formal claim

1. Introduction 的 causal reasoning / discovery / measurement 三分法；
2. Section 2 全部 examples，特别区分 treatment/outcome 与 adjustment；
3. Appendix B 的 block identification definition；
4. Section 3 的 hypothesis family 与 Proposition 3.1；
5. Appendix proof：确认 bound 只是 entry-wise false positives + false negatives；
6. Appendix F：手算 scaled treatment/outcome、invertible confounder 与 instrument examples；
7. Appendix 关于 universal CI-test limitation 的讨论。

如果要审实验

1. Section 5.1 的 5-latent SCM 与 A/B/C construction；
2. Table 1、Figure 2；
3. supplement 的 latent-dimension、CI-test、weak-relation、nonlinear 与 noise studies；
4. Section 5.2 的 ISTAnt DAG、44 videos、2,400 heads、accuracy filter 与 hypothesis；
5. Figure 3 与 \(p=0.0047\) 的 exact comparison；
6. released README、eval_numerical.py 与 simulation scripts，核对 PCM/GCM/KCI implementation；
7. 最后才决定是否投入 full reproduction。

Primary sources inspected

• NeurIPS 2025 official proceedings page
• Official paper PDF
• Official supplemental material
• Author-released code repository

What was verified from those sources

• formal definitions of measurement model, direct measurement, block identification, causal validity and exclusivity;
• T-MEX hypothesis family, Hamming-score definition and Proposition 3.1 bound;
• treatment/outcome scaling, confounder-adjustment and instrument examples;
• numerical simulation construction, sample / replicate scale and Table 1 values;
• ISTAnt setting, 44-video source scale, 2,400-head sweep and reported \(p=0.0047\);
• appendix stress tests on dimension, CI procedures, weak links, nonlinear SCM and measurement noise;
• released code’s Section 5.1 commands and PCM/GCM/KCI evaluation paths.

Projection boundary

本文档是面向阅读的中文解释，不是作者原文、formal peer review 或 independent reproduction report。我们没有：

• 运行 released environment 或 simulation commands；
• 下载 / 审核 ISTAnt raw videos 与 annotations；
• 重新训练 2,400 个 classifier heads；
• 独立复算 Table 1、Figure 2/3 或 appendix results；
• 证明某个新 representation 对某个新 estimand causally valid。

因此页面中的数值是对 primary source 的审慎转述；“verified”表示在 paper / supplement / code 中核对到，不表示已独立复现。