Ice Cream Doesn't Cause Drowning: Benchmarking LLMs Against Statistical Pitfalls in Causal Inference

误会一：这是 75 道“冰淇淋导致溺水吗”的常识题

不是。公开 artifacts 包含 15 个 challenge folders；每个 challenge 有 5 个 datasets、5 个 difficulty prompt templates、一个 answer key 与一套 binary rubric。模型需要读实际表格、计算 effect 或检验，并说明为什么某个调整成立。

论文标题借用了经典 confounding 故事，但 benchmark 的核心对象是：

pitfall-specific data
-> causal/statistical analysis
-> rubric-level evidence
-> reliability score

误会二：very hard 的数据结构比 very easy 更复杂

通常不是。以 Simpson's paradox 为例，very easy 直接告诉模型 confounder、adjustment、95% CI 与 paradox 名称；very hard 只问“treatment 是否 causally affects outcome”。变化主要是撤掉提示，不是换成更大的 DAG 或更强 confounding。

所以 difficulty curve 更接近“模型能否自己恢复分析 checklist”，而不是一个纯粹的 causal-complexity curve。

误会三：normalized score 就是因果结论正确率

不是。Simpson rubric 的 7 分同时检查：

• 是否识别 reversal；
• 是否提出 adjustment；
• causal direction 是否正确；
• 是否报告 uncertainty；
• overall numbers 是否正确；
• subgroup numbers 是否正确；
• 是否给出 recommendation。

一个模型可能结论方向正确，却因为没给 CI 或漏报分组率而低分；也可能熟练说出 “Simpson's paradox” 却算错 effect。这个分数衡量的是因果回答的完整可靠性，不是单一 latent causal-reasoning ability。

误会四：code-assisted prompting 自动解决因果推断

没有。代码只能把正确 causal plan 变成计算；若模型选错 adjustment set、控制了 downstream variable、把 collider 当 confounder，代码会更稳定地算出错误答案。

实验也直接反驳“代码普遍有益”：GPT-4.1 从 25.24 升到 37.32，Mistral-7B 却从 14.43 降到 7.65。一次 debugging 能救回不少 execution failures，说明 code protocol 测到的不只是 causality，还测 coding、dependency、路径与错误恢复。

误会五：GPT-4o judge 与人类 gap=0.11，等于评分已经可靠到可替代专家

不等于。0.11 是 150 个答案上的平均 normalized absolute gap；分项中 mediation 为 0.17、counterfactual 和 discovery 都是 0.15。它不是 inter-rater correlation、rank correlation，也不是“89% accuracy”。论文提供了有价值的 validation，但“可以无人工监督地可靠评估”仍是比证据更强的表述。

误会六：低分证明 LLM 没有任何因果能力

也不能这样读。低分可能来自多个源头：没识别 causal assumption、统计量算错、漏掉 rubric 要求、代码执行失败、被语义标签诱导，或没有在无提示时自行提出分析步骤。论文证明的是当前 systems 在这套 end-to-end causal-analysis contract 下不可靠，不是神经网络内部完全没有 causal representation。

最准确的定位是：一套以 pitfall、数据、rubric 和执行协议为单位的 end-to-end causal reliability benchmark，而不是一个纯“因果智力”测验。

可以把 CausalPitfalls 想成一座有六道安检门的机场。模型不能只在出口喊出“有混杂”，而必须把证据依次过关：

1. 你看到的是 association 还是 identifiable causal effect？
2. 哪个变量该调整，哪个变量绝不能调整？
3. 数据支持的 effect direction 和 magnitude 是什么？
4. uncertainty 有多大？
5. 结论能否跨时间、群体或 domain 搬运？
6. 最后的 recommendation 是否真的跟前面证据一致？

六大类别就是六种容易放错行李的地方：

一个回答可以在前五关都含糊，最后却给出非常自信的 recommendation。论文真正想抓的就是这种“语言看起来通关，证据其实没通关”。

15 个 challenge，不是一个总分题库

公开仓库有 15 个 challenge directories、75 个 CSV files、75 个 prompt templates。每个 challenge 的 5 个 CSV 对应不同场景或参数化，5 个 prompts 对应 very easy 到 very hard。

这里要小心一个计数边界：论文把 benchmark 概括成 75 datasets 与五级问题；当前 public runner 若不加限制，会对每个 dataset 循环全部五个 difficulties。因此“75 个模板”“75 份数据”不自动等于只有 75 个实际 model calls，复现时必须明确 dataset-prompt mapping 与 aggregation。

数据由 causal graph 与 structural equations 生成

每个 challenge 选择一个能表现相应 pitfall 的 DAG/SCM，再生成线性或非线性数据，部分含 interaction terms。这样 answer key 不只来自表面 correlation，而来自已知生成结构。

优点是 ground truth 和陷阱可控；代价是模型可能利用模板、变量名或合成分布规律，而现实世界的 unmeasured confounding、measurement error 与 selection mechanism 通常没有这么干净。

五级 difficulty 主要是 hint schedule

Simpson's paradox 的题目变化很能说明设计：

所以这五级同时测试 causal analysis 与 task decomposition：模型能否在没人点名时自己提出 confounder、estimand、method、uncertainty 和 decision boundary。

两种 evaluation protocol

Direct prompting：模型看到问题和表格文本，直接写分析，不得使用代码。

Code-assisted prompting：模型先生成 Python，系统执行，再把代码与 numerical output 发回模型，让它解释结果。

论文把两者解释为 intrinsic reasoning 与 computationally grounded reasoning 的对比。但 inspected public script 还有一个重要实现差异：

direct prompt:
  对 CSV 随机 shuffle 后，只把前 100 行转成文本给模型

code prompt:
  给 CSV 文件路径、列名和前 10 行 sample
  生成代码可以读取完整 CSV

因此 current code path 中，protocol difference 同时包含“能否写/执行代码”与“可访问多少数据”。这不使结果失效，但会让因果解释变得不纯，复现时应做 matched-data ablation。

rubric 不是单一 answer key

每个 challenge 有不同 criteria，逐项记 0/1。对 dataset 的具体变量名、true direction、target numbers 与 tolerance，会从 answer_key.json 填入 rubric template。

单个 challenge 的 normalized score 是：

论文把跨 challenge 的平均 normalized score 称为 causal reliability。

GPT-4o 自动 judge 与人类复核

自动 judge 接收完整 binary criteria 与 model response，为每项输出 0/1。作者再从六大类别、五个 difficulty 中 stratified sample 150 个 responses，交给三位 statistics PhD students 独立评分，取人类均值后与 judge 比较：

整体 mean gap 为 0.11。

十个被测模型

实验覆盖 Gemma2-9B、Llama3.1-8B/70B、Mistral-7B、Mixtral-8x22B、Claude-3.5-Sonnet、Gemini-2.0-Flash、DeepSeek-chat、GPT-4.1 与 GPT-o4-mini。论文统一最大输出 1,000 tokens；o4-mini 使用 reasoning_effort=medium。

读一条 benchmark result 时，可以沿下面九步追踪：

1. 锁定 pitfall。 先确定要测的是 confounding、collider、mediation、transportability，还是另一个具体失败族。
2. 画生成图。 用 DAG/SCM 明确 treatment、outcome、confounder、mediator、selection 与 target population。
3. 生成多份数据。 改变量名、domain 或参数，使模型不能只记一个数值答案。
4. 写五级 prompt。 保持核心问题，逐步删除 confounder 名称、方法提示、uncertainty 和 recommendation 要求。
5. 运行 direct protocol。 模型从 table text 直接作答。
6. 运行 code protocol。 模型生成代码，执行器返回 stdout，再让模型解释；执行失败时主实验不自动修复，附录另测一次 debugging。
7. 填充 hidden rubric。 把该 dataset 的变量、effect direction、target values 与 tolerance 写入 criteria。
8. 逐项 binary scoring。 GPT-4o judge 不只看 final label，还检查方法、数字、assumption 与 uncertainty。
9. 归一化和聚合。 先除以该 challenge 的 max score，再跨 challenges/models/protocols 比较。

这条链条的优点是 error 可定位；它的风险也在链条里：生成图、prompt wording、runner data access、code execution、rubric coverage 与 judge bias，任何一层都可能改变最终“causal reliability”。

下面是一个手算版 Simpson's paradox。假设 treatment 与 recovery 数据为：

第一步：先看 aggregate，得到诱人但错误的故事

Treatment group：

Control group：

naive difference 是：

只看 pooled data，会说 treatment 极其有效。

第二步：按 age 分层，方向在两个 subgroup 中都反转

Young：

Old：

治疗组恰好有更多 Young patients，而 Young 本来就更容易 recovery；age 同时影响 treatment assignment 与 outcome，pooled comparison 混入 composition effect。

第三步：标准化到同一个 target population

若目标群体 Young/Old 各占 50%，则：

adjusted effect 是 \(-5\) pp，而不是 \(+37\) pp。

第四步：别把算术直接升级成因果真理

这一步只有在以下假设下才可叫 causal effect：

• age 是 pre-treatment confounder；
• 调整 age 后没有剩余 unmeasured confounding；
• 每个 age stratum 中 treatment/control 都有正概率，即 positivity；
• treatment 与 outcome 定义满足 consistency；
• 没有 informative selection 或 measurement error 破坏比较。

synthetic SCM 可以保证这些条件；真实临床表格通常不能凭数据本身证明它们。

第五步：看 rubric 为什么比 final answer 更严格

一个高质量回答至少要完成：

识别 aggregate/subgroup reversal
-> 指出 age 是 confounder
-> 用 stratification / standardization / regression 调整
-> 报告 pooled 与 subgroup rates
-> 给 uncertainty
-> 说明 causal assumptions
-> 给与 adjusted effect 一致的 recommendation

只说“这是 Simpson's paradox，相关不等于因果”可能拿到 recognition 分，却远没完成可靠分析。

结果一：最强系统的总体 reliability 也不到 45%

Table 4 的平均 normalized scores 为：

“代码让所有模型变好”显然不成立。更准确的结论是：代码放大了系统已有的 planning/coding 能力；对能生成正确统计程序的模型，它提供 grounding，对不能稳定执行的模型，它引入新的 failure surface。

结果二：一次 debugging 主要修复工程失败，不会把因果问题彻底解决

Appendix Table 9 允许代码第一次报错后，把 error message 返给模型并重试一次。典型变化包括：

弱模型的大幅回升说明主实验的 code score 被 execution failure 明显污染；强模型增幅较小，说明它们剩余错误更多在 causal/statistical plan 或 interpretation，而不是 syntax。

结果三：difficulty curve 测到了 hint dependence

o4-mini 的五级结果：

direct 从 60.72 跌到 17.75，说明没被点名时，模型很难自行恢复完整 causal workflow。code 在 very hard 上把分数抬到 32.84，却在 very easy 上更低；论文的 execution analysis 给出一个合理解释：very easy 要求更多完整分析和 uncertainty code，反而更容易产生执行错误。

这不是单调的“题目越难，代码越有用”，而是 prompt requirements、analysis breadth 与 execution reliability 的交互。

结果四：真正薄弱的类别因模型而异，不能只读总图 caption

o4-mini direct 的 category scores 是：

Confounding 41.43
Interventions 45.21
Counterfactual 18.57
Mediation 57.67
Discovery 36.97
External validity 44.48

code-assisted 则是：

Confounding 62.00
Interventions 51.86
Counterfactual 16.96
Mediation 50.00
Discovery 26.67
External validity 50.71

这直接说明 repository README 中“所有模型最 struggle 于 mediation 和 external validity”的整齐叙事过强：对 o4-mini，mediation 恰恰是最高项，counterfactual 与 discovery 更差。

Appendix 的 individual-challenge averages 进一步显示：necessity/sufficiency 只有 6.08 direct、6.02 code；counterfactual prediction 是 18.11 direct、15.30 code；而 mediator-outcome confounding 可达 50.88 direct。需要按 challenge 看 failure mode，不能只按六大类讲故事。

结果五：semantic label 会压过相同数据

branding ablation 保持数据不变，只把饮料名换成健康感的 HealthPlus 或有害感的 UltraSugar。Table 3 显示 GPT-4o 与 Gemini-2.0-Flash 会随品牌语义改变 beneficial/harmful 结论，即便 data evidence 没变。

这是一种真正的 causal reliability failure：模型不是简单算错，而是让背景语言覆盖了观察到的数据关系。不过这只是一组小型 synthetic ablation，尚不能量化所有 domain 中的 prevalence。

结果六：随机波动会被包装成 causal structure

论文用一个真实 academic funding dataset 做 illustrative case。被测模型把 raw percentage differences 解释成 gender bias 或 Simpson's paradox；作者进一步做 department-level standardized log-odds、QQ 检查与 multiple-comparison adjustment，没有发现支持这些特定结论的统计证据。

最稳妥的说法是“这份数据未提供足够证据支持模型声称的 pattern”，不是“性别偏差已被证明不存在”。absence of evidence 不能升级为 evidence of absence。

结果七：human validation 有价值，但误差并不均匀

150 个样本、每类 25 个、三位 PhD graders 的 normalized gap：

judge 在较复杂语义类别上偏差更大。因此 model 间几分的小差距，尤其落在这些类别时，不应自动解释为稳健能力排序。

证据分层

最强的地方

第一，benchmark 不奖励空洞 causal vocabulary。rubric 把结论、调整、数值、uncertainty 与 recommendation 分开，能区分“会说术语”和“完成分析”。

第二，覆盖面不是把 causal tasks 随机堆在一起，而是围绕六种真实推断失败组织；特别是 mediation、transportability 与 necessity/sufficiency，补上了许多简单 semantic benchmarks 没覆盖的对象。

第三，论文没有停在总分：difficulty、code execution、branding、random patterns、human grading 都在追问 failure 从哪里来。公开 datasets、questions、rubrics、answer keys 与 runner 也让外部审计成为可能。

最需要克制的地方

“causal reliability” 是一个有用产品指标，却不是纯心理构念。它混合 causal identification、统计计算、prompt decomposition、numerical reporting、coding、instruction following 与 grader alignment。

此外，current public runner 暴露出 protocol data-access asymmetry、unseeded row shuffling 与 dataset-prompt cross-product ambiguity。它们未必推翻 paper-level pattern，但足以要求读者把小分差和“code causes improvement”写得更谨慎。

1. 主体数据是 synthetic SCM。 ground truth 清楚，但现实中的 measurement error、missingness、ill-defined treatment 与 unmeasured confounding 被大幅简化。
2. difficulty 与 hint removal 强耦合。 very hard 不一定有更复杂 causal graph；得分下降同时测 task decomposition 与 prompt reliance。
3. reliability score 混合多个能力。 正确 causal direction、数字、CI、完整性和 recommendation 同时计分，不能当作单一 causal cognition measurement。
4. direct 与 code protocol 的信息访问并不完全匹配。 公开 runner 给 direct 100 行文本，却让 code 读取完整 CSV，可能把 sample-size advantage 计入 code gain。
5. code performance 混入软件工程。 package installation、路径、输出为空、代码块格式和一次性执行错误都会影响分数。
6. 自动 judge 仍是 LLM。 GPT-4o 可能偏好特定写作风格、关键词或与自身相似的 reasoning pattern。
7. human validation 只报告 mean absolute gap。 没有充分给出 rank stability、criterion-level confusion、inter-rater reliability 或 model-pair significance。
8. 0.11 overall gap 不算可忽略。 在 counterfactual/mediation/discovery 上达 0.15–0.17，接近许多模型之间的性能差。
9. dataset-prompt 实例数需要更清楚。 15×5 datasets 与 15×5 prompt templates 如何配对、runner 为何默认 cross-product、表格如何聚合，应提供 manifest。
10. 公开数据规模与正文概述有局部不一致。 正文称每个 dataset 超过 500 samples；当前 repo 的五个 Berkson CSV 分别只有 93、139、380、431、494 条 data rows。
11. random sampling 未固定 seed。 public runner 用无 random_state 的 shuffle 取 direct 100 rows，重复运行可能给模型不同表格。
12. binary rubric 会损失严重度信息。 一个轻微数值偏差与完全错误可能同记 0；关键词出现也不一定代表论证真的成立。
13. 模型与 API 版本会漂移。 2025/2026 的具体 checkpoint 排名不是长期事实，benchmark 应重跑而不是沿用静态榜单。
14. 公开 benchmark 有 contamination 风险。 数据、prompts、answer keys 与 rubrics 全部在仓库中，后续模型可能直接记忆；论文没有建立长期 hidden test set。
15. 高风险部署外推过快。 synthetic table QA 上得分低，确实警示风险，但不能直接量化医疗、金融或政策 agent 的实际 harm rate。
16. 真实 funding case 不是 causal ground truth experiment。 “没有统计证据支持该 pattern”不能证明社会过程没有 bias。

1. matched-data protocol：direct 与 code 都使用完全相同的 rows；另设 full-data 条件，把 tool benefit 与 information benefit 分开。
2. factorial difficulty design：独立操纵 hint amount、DAG size、nonlinearity、sample size、noise 与 number of candidate adjustment sets。
3. error decomposition：把 identification error、estimation error、uncertainty error、reporting omission、code error 与 judge error 分开计数。
4. pre-registered real-data tasks：由领域专家先锁定 estimand、assumptions 与 analysis plan，再让模型作答，避免事后解释 ground truth。
5. multiple graders + blinded humans：至少两个不同 vendor judges，并报告 criterion-level agreement、rank correlation 和 confidence intervals。
6. fixed seeds and repeated runs：对 row sampling、model sampling 和 code execution 做多次重复，报告 model score distribution 而非单点。
7. hidden generative templates：公开训练/dev，但保留新的 DAG families、variable names 和 structural equations 作为 server-side test。
8. controlled code oracle：给所有模型同一份正确 statistical output，只测 causal interpretation；再与自由写代码条件对比。
9. wrong-method decoys：加入数值看似合理但调整 collider/downstream mediator 的分析，测模型能否拒绝漂亮的错误结果。
10. decision-calibration test：要求模型在 assumptions 不足时 abstain，并用 expected harm 而不只是 rubric completeness 评分。
11. cross-language and domain transfer：改变语言、叙事和专业背景，检查 semantic branding 是否仍覆盖 data evidence。
12. repository manifest：明确每个 result row 对应的 dataset、difficulty、sample hash、prompt、model version、seed、grader version 与 aggregation rule。

可以直接支持

在 CausalPitfalls 的 15 类 synthetic statistical-causal challenges 上，
十个被测 LLM 都存在显著可靠性缺口；最佳平均 normalized score 为 43.03%。
text
code-assisted prompting 的收益不是普遍的：
部分强模型显著提高，部分小模型因生成/执行失败而下降；
一次 debugging 能恢复其中一部分损失。
text
当 causal hints 被逐步删除时，模型得分明显下降；
相同数据的 semantic branding 也能改变若干模型的 causal conclusion。

需要加限定后才可支持

当前 LLM 不适合在缺少监督时承担高风险 causal analysis，
这是由受控 benchmark 显示的可靠性警报，
而不是现实部署 harm rate 的直接估计。
text
代码可以增强 computational grounding，
前提是模型先提出正确 causal plan、能稳定执行，
并且比较条件的数据访问被控制。

不能支持

LLM 完全不具备因果表示或因果推理能力。
text
所有模型都最差在 mediation 和 external validity。
text
GPT-4o judge 已经等价于统计专家，可以完全替代人工。
text
一个模型拿到高 rubric score，就能在未知现实 DAG 上识别真正 causal effect。
text
真实 funding data 证明 gender bias 不存在。

D4 对当前 portfolio 最有价值的不是“再做一个 causal QA benchmark”，而是它的 rubric discipline：

plausible surface answer
-> hidden failure mechanism
-> evidence-bearing task
-> criterion-level rubric
-> calibrated trust decision

P17 如果只给 agent 一段故障故事，再判断它有没有说出 “state mismatch”“stale projection” 或 “source access”，就会重复最浅的 causal vocabulary evaluation。更有辨识度的对象应该是：

same-looking trace
-> different hidden operational regimes
-> different valid repair
-> rubric checks whether the agent used source/runtime evidence

D4 的 hidden objects 是 confounder、selection process、mediation structure 与 transportability condition；P17 的 hidden objects 可以是 runtime regime、source-access regime、worktree state 或 projection freshness。两者共享“表面故事可能一样、正确行动依赖隐藏生成机制”的纪律，但不是同一个 benchmark。

对 P01/RQ24，它也给出一条很清楚的阅读原则：

causal wording
≠ causal estimand
≠ identified effect
≠ correctly estimated effect
≠ decision-ready evidence

这正是每篇论文入口导读都应保留的层级：不要只复述作者结论，要告诉读者 task 怎样构造、score 混了什么、alternative explanation 是什么、哪些 claim 还不能跨出去。

如果只给 30 分钟：

1. Section 2.1 + Table 1：先记住六类、15 challenges，不要先看总分。
2. Section 2.2 + Table 2：逐字比较 Simpson 的五级 prompts，确认 difficulty 主要怎样变化。
3. Section 2.3：看 normalized score、GPT-4o binary rubric 与 human gap 定义。
4. 官方 repo 的 questions.json / rubric.json / answer_key.json：用 Simpson 和 counterfactual 两个目录看一条分数实际由什么组成。
5. Section 3 + Table 3：读 branding bias，再读 funding case；同时保留“无证据不等于无效应”的边界。
6. Table 4：先看每个模型 direct/code delta，再看 category heterogeneity，不要只读 caption。
7. Table 5：把 difficulty curve 解释为 hint dependence，再问是否还有 graph complexity confound。
8. Figure 4 + Appendix H / Table 9：把 code execution error 与 causal error 分开。
9. Appendix Tables 6–8：看 human gap 与 individual challenges；尤其 necessity/sufficiency、counterfactual prediction。
10. public runner：检查 direct 100-row sample、code file access、unseeded shuffle 与 cross-product loop。
11. 最后再读 Conclusion：逐句判断 high-stakes / trustworthy claims 是否被前面证据完全覆盖。

读完一条 result 后，建议用这五问复盘：

模型答错了什么？
这个错是 causal、statistical、computational，还是 rubric omission？
协议给两个模型的信息相同吗？
judge 的误差和模型差距相比多大？
这个 synthetic failure 能外推到什么现实 decision？

Primary sources checked:

• OpenReview forum and final paper
• arXiv abstract and revision record
• arXiv HTML v3
• arXiv PDF
• Official CausalPitfalls repository

Repository boundary checked in this pass:

• public commit inspected: 81a4015789aaf93ca2e5fa56496f56dd21fc39c8;
• verified 15 challenge folders, 75 CSVs, five difficulty prompts per challenge, rubrics, answer keys, direct/code runner, GPT-4o scoring script and code-execution helper;
• direct 100-row sampling, code full-file access, default dataset×difficulty loop and unseeded shuffle are observations about this public commit, not claims that every final-paper experiment necessarily used an unchanged runner;
• five public Berkson CSVs contain 93–494 data rows, below the paper's broad “over 500 samples” description; a reproduction should reconcile this rather than silently normalize it.

Projection boundary:

• the hand-calculated Simpson example in this guide is pedagogical and is not one of the paper's CSVs;
• paper tables and public artifacts were inspected, but model API calls, code executions, judge outputs and aggregate scores were not independently reproduced;
• this Markdown file is the canonical reader-guide source; generated HTML is a projection and should be refreshed from source rather than edited directly.