Mechanism shift / dynamics / benchmarks · 逐篇深读 · 面向读者的解释

Causal Structure Learning for Dynamical Systems with Theoretical Score Analysis

CADYT 不把 trajectory 粗暴改写成固定步长的 (公式见正文)。它先用 multistep-integrator Gaussian Process 学 continuous-time vector field,再把“哪个 process component 出现在另一个 component 的 derivative rule 里”当作 edge,并用 structure bits + GP-function bits + residual-noise bits 的 MDL score 搜 parent sets。 这条路线最有价值的地方,是把 dynamic causal graph 的对象说清楚: (公式见正文) 但理论边界也必须一起记住: 论文证明的是所构造 score 在特定 assumptions 下具有 asymptotic regularized-log-likelihood / BIC-like upper bound;它没有证明 greedy CADYT 必然恢复 true graph,也没有给完整 graph-s…

01 · Misconception repair

先拆掉最容易产生的误会

误会一:dynamic causal discovery 就是 static causal discovery 加一列 time

不是。trajectory rows 不是 i.i.d. samples。真实系统可能满足:

\[\dot X(t)=F(X(t)),\]

而我们只在 \(t_1,t_2,\ldots,t_N\) 看见 samples。若 gaps 不等,两个“相邻行”可能分别隔 0.1 秒和 0.8 秒;把它们都叫 one lag 会改变 transition semantics。

CADYT 的 target 是 continuous-time local dependency,不是任意 lagged predictability。

误会二:只要 \(X_i\) 的过去能预测 \(X_j\),就是本文的 causal edge

不够。Granger-style statement 问“加入过去是否提升 prediction”;本文 Definition 1 问 \(X_i\) 是否进入 \(X_j\) 的 rate-of-change mechanism:

\[\partial_iF_j\ne0.\]

一个 indirect ancestor、共同振荡频率或同一初始条件,都可能提高 prediction,却不一定是 direct local parent。

误会三:“Theoretical Score Analysis”证明了 causal graph identifiable

没有。Lemma 1 / Theorem 2 说明,减掉跨 candidate models 相同的 constants 后,score 被下面形式 asymptotically upper-bounded:

\[c_0N\log\hat\sigma^2+c_1\log N+c_2.\]

这让它像 regularized log-likelihood / generalized BIC。Appendix 明确把“convergence 或选到 correct model”留作 future work。

更不能从 score theorem 跳到:

  • greedy search 找到 global optimum;
  • true graph 一定位于 candidate set;
  • observational trajectory 唯一决定 causal direction。

误会四:主实验直接验证了 theory assumptions

恰好需要反过来读。Theorem 2 的 Assumption 1 要求 finite-dimensional kernel;主 experiments 使用 RBF kernel,而论文自己承认 RBF 不属于该 theorem 的 finite-dimensional case。Polynomial-kernel appendix results 更贴近 formal assumption。

所以证据是两条平行线:

  • RBF:强 empirical performance;
  • finite-dimensional kernels:score theorem 的 formal scope。

它们没有在 main setup 中完全重合。

误会五:论文中的“irregular sampling”覆盖了真实世界所有缺测

没有。主要 irregular benchmark 是 synthetic time gaps 围绕平均 \(\Delta t\) 做 20% jitter。它不是:

  • 每个 variable 不同步采样;
  • 大段 informative missingness;
  • event-triggered sampling;
  • measurement delay;
  • 多速率 sensors;
  • unknown timestamps。

“支持 arbitrary timeline 的 model”与“对任意 missingness process 都有 causal validity”差得很远。

误会六:graph recovery 就证明了 intervention semantics

也不是。local dependency 是 vector-field dependence;把 ODE 转成 trajectory-level DSCM 还要 dynamic stability 等 assumptions。论文引用的 formal route要求 asymptotic dynamics 不依赖 initial condition 地收敛到 unique element。

但实验里又有 undamped double-mass oscillator 与 hyper-chaotic Rössler。它们的 graph recovery 可以作为 derivative-dependency evidence,却不能不加说明地继承 stable-DSCM 的 causal-intervention解释。

02 · Objective verdict

先给一个客观判决

层级 论文实际提供的东西 还不能推出
Dynamic object ODE vector field 与 local-dependency graph 任意 lagged association 都是 direct cause
Continuous-time model multistep-integrator GP,可使用 irregular timestamps 任意 asynchronous / MNAR observations 都处理正确
Causal bridge dynamic stability、sufficiency、\(\mu\)-Markov / faithfulness、sampling-rate assumptions trajectory 自身无条件识别 causal graph
Score lossless MDL decomposition:structure、function、residual score 最小 graph 一定是真实 graph
Theory asymptotic regularized-log-likelihood upper bound graph-selection consistency 或 finite-sample identifiability
Search edge ranking + greedy forward + backward pruning global score minimizer 被找到
Empirical synthetic regular/irregular graphs、spring、Rössler、一个 motion-tracking system broad real-world irregular-dynamics validation

最准确的判词是:

CADYT 是一条把 continuous-time dynamics、local causal structure 和 MDL search 接起来的有说服力路线,并在小到中型 controlled benchmarks 上显著减少 false edges;它的 causal interpretation、score theorem、greedy implementation 与 empirical scope 必须分层陈述。

03 · Mental model

一个直观世界

想象你在看一段弹簧运动录像,但 camera 的 frames 不是等间隔的:

  • frame 1 到 frame 2 隔 0.05 秒;
  • frame 2 到 frame 3 隔 0.20 秒;
  • frame 3 到 frame 4 隔 0.08 秒。

把每对相邻 frames 都当作“一步”,像用三把长度不同的尺子却都标成 1 米。模型可能发现位置、速度都很会预测彼此,却说不清谁进入谁的变化规律。

CADYT 的思路更像先重建物理法则:

sampled positions / velocities + actual timestamps
                    ↓
continuous-time GP dynamics model
                    ↓
candidate derivative parents
                    ↓
MDL: graph bits + function bits + unexplained-noise bits
                    ↓
greedy graph search

一个额外 parent 能降低 residual,但也要支付 structure / function bits。只有“解释力的节省”超过“模型变复杂的成本”,edge 才值得留下。

因此 score 不只是 graph metric;它在问:

哪个 parent set 给出了这条 trajectory 最短、仍可无损编码的 dynamical explanation?

04 · Real setup

真实问题与实验设定

Continuous-time data object

论文考虑 compact interval \(t\in[0,T]\) 上的 multivariate real-valued process:

\[X(t)=\{X_1(t),\ldots,X_D(t)\}.\]

underlying autonomous ODE 写作:

\[\dot X(t)=F(X(t)), \qquad F:\mathbb R^D\to\mathbb R^D.\]

可见数据不是 \(F\),而是一条或多条 sampled trajectory:

\[\mathcal T = \{X(t_1),X(t_2),\ldots,X(t_N)\},\]

其中 \(t_{i+1}-t_i\) 可以不相等。

Edge 的 formal meaning

Definition 1 令 \(X_j\) locally depends on \(X_i\),当:

\[\left|\partial_iF_j\right|\ne0.\]

于是 graph node 是 process component,directed edge 是:

\[X_i\to X_j \iff X_i\text{ enters the derivative rule of }X_j.\]

graph 可含 cycles;paper / code 也允许 self-dependence。它不同于 static DAG、time-slice DAG 与纯 Granger graph。

从 ODE 到 DSCM 的 bridge

论文引入 trajectory-valued equations:

\[\mathcal S = \{X_i=F_i(Pa_i):X_i\in X\}.\]

这里 \(F_i\) 从 parent trajectories 映射到 effect trajectory。要把 ODE 的 asymptotic behavior 转成这种 DSCM,论文依赖 dynamic stability:不同 initial conditions 最终收敛到 unique asymptotic element。

之后还假设:

  • causal sufficiency:没有未观测 process component 同时影响 observed nodes;
  • \(\mu\)-Markov:graph absence 导出的 local independencies 反映在 trajectory distribution;
  • \(\mu\)-faithfulness:data 中发现的 local independencies 也对应 graph absences;
  • instantaneous-gradient assumption:causal relation 编码在 derivatives,而不是 instantaneous level effects;
  • sampling-rate condition:若最高 frequency 是 \(\phi_{\max}\),最大 gap 满足
\[\Delta_{\max} < \frac1{2\phi_{\max}}.\]

最后一项类似 Nyquist discipline:采样过慢时,continuous dynamics 会 alias,graph learning 也失去可靠 evidence。

Observation-noise model

MDL derivation 使用 additive independent Gaussian observation noise:

\[X_i(t)=\hat X_i(t)+\nu_i(t), \qquad \nu_i(t)\sim\mathcal N(0,\sigma_i^2),\]

并要求 components 间 noise independent。论文并未在 main method 中处理 process noise、correlated sensor noise、latent forcing 或 interventions changing equations。

GP dynamics object

trajectory samples 是 discrete,dynamics 是 continuous。论文用 \(s\)-step numerical integrator:

\[\sum_{j=0}^{s}a_{jn}\bar X^{(n+j)} = \sum_{j=0}^{s}b_{jn}F(\bar X^{(n+j)}),\]

把 actual timestamps 对应的 integration coefficients 放进 GP kernel。实验主要使用 Adams–Bashforth orders 1、2、3。

GP posterior 可在 arbitrary test point 估 dynamics:

\[F_D(X^*\mid X_{t_1:t_N}) \sim \mathcal N(\mu_{\rm post}(X^*),\Sigma_{\rm post}(X^*)).\]

它提供 continuous-time regression engine;因果结构来自 parent-set restriction 与 score,不是“用了 GP 就有 causality”。

Benchmark worlds

benchmark graph / dynamics sampling / evidence role
Empty 4 independent ODEs,0 edges false-positive sanity check
Diamond 4 nodes,fork + mediator + collider,4 edges regular / 20% jitter,direct-vs-indirect structure
Erdős–Rényi \(D=5,10,15\),edge prob \(2/D\),half cyclic / half acyclic main scale + irregular experiment,20 seeds
Double Mass 4-variable undamped spring,6 edges physical cyclic dynamics
Double Linear motion-tracked real double-mass counterpart only real measured trajectory benchmark
Rössler 10-variable hyper-chaotic oscillator hard nonlinear / cyclic stress test

main baselines 是 PCMCI+、DYNOTEARS、VARLiNGAM。metrics 是 NSHD、F1、AUPRC。

05 · Method walkthrough

方法或任务流程

第一步:给每个 target node 定义 candidate parent model

\(X_i\) 与 parent set \(Pa_i\),fit local dynamics:

\[F_i(X_i^{t^*}\mid Pa_i^{[t_1:t^*)}) \sim \mathcal N(\mu_{\rm post},\Sigma_{\rm post}).\]

\(Pa_i=\varnothing\),paper appendix 用 trajectory mean 作为 no-parent encoding baseline。

第二步:付 structure bits

local graph structure cost 是:

\[L_N(\lVert Pa_i\rVert) + \lVert Pa_i\rVert\log D.\]

第一项编码“有几个 parents”,第二项编码“它们是谁”。多加 parent 从来不是免费。

第三步:付 GP function bits

local function cost 记为:

\[L_F(F_i) = \log\!\left(\frac1{r_\lambda}\right) \frac{N(N-1)}2 + L_p([\alpha_i,\beta_i,\Lambda_i]).\]

其中 lengthscales \(\alpha_i\)、variance parameters \(\beta_i\) 与 kernel eigenvalues \(\Lambda_i\) 被编码到指定 precision;kernel matrix 用 SVD 表示。

第四步:付 unexplained data bits

GP 产生 trajectory prediction \(\tilde X_i(t)\),计算 empirical residual noise variance \(\hat\sigma_i^2\)。Gaussian residual encoding 是:

\[L(\nu_i) = \frac N2 \left( \frac1{\ln2} + \log(2\pi\hat\sigma_i^2) \right).\]

parent fit 得越好,residual bits 越少;但复杂 GP / 大 parent set 又让 model bits 增加。

第五步:合成 global MDL score

\[L(\mathcal T,M) = L_{\rm global}(M) + \sum_{i=1}^{D} \Bigl[ L(M_i)+L(\nu_i) \Bigr].\]

lower is better。这个 score 被解释为对 trajectory + causal mechanism 的 lossless two-part code。

第六步:theory 实际证明什么

Assumption 1:kernel \(K\) finite-dimensional。
Assumption 2:lengthscale、variance parameters 与 encoding precisions bounded。

减掉在相同 \(N\) 的 candidate models 间不改变 model choice 的 constant \(C\),Lemma 1 对每个 local model 给:

\[\bar L(\mathcal T,M_j) \le c_0N\log\hat\sigma_j^2 + c_1^{(j)}\log N + c_2^{(j)}.\]

Theorem 2 把它求和为 global bound:

\[\bar L(\mathcal T,M) \le c_0N\log\hat\sigma^2 + c_1\log N + c_2.\]

Corollary 3 说用原 \(L\) 与去 constant 后的 \(\bar L\) 做 model selection 等价。

最关键的停线:

\[\text{RLL/BIC-like score form} \not\Rightarrow \text{true graph consistency already proved}.\]

第七步:用 gain 排 edge

加入 edge \(X_i\to X_j\) 的 compression gain:

\[\Gamma_{ij} = L(\mathcal T,M) - L(\mathcal T,M\oplus ij).\]

\(\Gamma_{ij}>0\) 表示加入 edge 让 description 更短。数值越大,论文把它当作越高 edge confidence,并用于 AUPRC ranking。

第八步:greedy forward + backward

CADYT 三段:

  1. edge scoring:pairwise gains 建 priority queue;
  2. forward search:尝试高 gain edges,并重算同一 child 的 incoming-edge scores;no-hypercompression inequality 作 significance gate;
  3. backward search:删除加入后变 redundant 的 edges。

这是 practical heuristic,不是 exhaustive graph search。overall bound:

\[O(N^3D^3\log D),\]

其中 GP fit 的 \(N^3\) 是 runtime 主导项;理想 edge parallelization 可把 loose bound 降到 \(O(N^3D^2)\)

06 · Worked example

自己走一遍最小例子

Toy 1:同一个 lag number,可能是不同 real time

令一个 scalar process 满足:

\[\dot X(t)=-X(t).\]

exact transition 是:

\[X(t+h)=e^{-h}X(t).\]

若第一段 gap \(h=0.1\)

\[e^{-0.1}\approx0.905.\]

若下一段 gap \(h=0.4\)

\[e^{-0.4}\approx0.670.\]

两者在 table 里都是“下一行”,实际 decay multiplier 却完全不同。固定一步的 VAR/DBN 若忽略 timestamps,会被迫用同一个 coefficient;continuous-time integrator 则把每个 \(h\) 放进 coefficients。

这就是 irregular sampling 不是小 cosmetic issue 的最短例子。

Toy 2:Diamond graph 里 indirect ancestor 不应变 direct edge

论文 Diamond dynamics:

\[\dot A=\frac12\sin t, \qquad \dot B=\frac12\sin A,\]
\[\dot C=-2\cos A, \qquad \dot D=B+C.\]

直接求 partial derivatives:

\[\frac{\partial F_B}{\partial A} = \frac12\cos A, \qquad \frac{\partial F_C}{\partial A} = 2\sin A,\]
\[\frac{\partial F_D}{\partial B}=1, \qquad \frac{\partial F_D}{\partial C}=1, \qquad \frac{\partial F_D}{\partial A}=0.\]

所以 local-dependency graph 是:

A -> B -> D
 \-> C -> D

\(A\) 会间接影响 \(D\),但不是 \(D\) derivative 的 direct parent。

Toy 3:手算 MDL 为什么不把所有相关 variables 都塞进去

下面沿用 paper score 的 dominant residual term,但用 illustrative bit budgets;不是作者实验数值。

假设 \(N=20\),为 \(D\) 比较四个 parent sets:

candidate residual variance \(\hat\sigma^2\) structure + function bits
none 4.00 0
\(\{A\}\) 1.00 6
\(\{B,C\}\) 0.25 10
\(\{A,B,C\}\) 0.20 16

忽略所有 candidates 相同的 constants,data term 用:

\[\frac N2\log_2\hat\sigma^2 = 10\log_2\hat\sigma^2.\]

于是 approximate totals:

candidate data bits total bits
none \(10\log_2 4=20\) 20
\(\{A\}\) \(10\log_2 1=0\) 6
\(\{B,C\}\) \(10\log_2 .25=-20\) -10
\(\{A,B,C\}\) \(10\log_2 .2\approx-23.22\) -7.22

\(\{A,B,C\}\) residual 最小,却不是 total code 最短;额外 direct edge \(A\to D\) 省下的 noise bits 不够支付 complexity bits。MDL 选择 \(\{B,C\}\),与 derivative graph 一致。

这个 toy 也说明:edge confidence \(\Gamma\) 是 score improvement,不是 posterior causal probability。

07 · Results and evidence

关键结果与证据层级

Empty graph:false-positive sanity check 很强

10 个 4-variable independent-ODE graphs 中,main text reports:

  • CADYT AB3:0 次产生 spurious edge;
  • VARLiNGAM:30% runs 有 spurious edges;
  • PCMCI+:60%;
  • DYNOTEARS:100%。

Appendix Table B.2 的 NSHD mean (std):

Method NSHD ↓
DYNOTEARS 0.25 (0.00)
PCMCI+ 0.04 (0.04)
VARLiNGAM 0.02 (0.04)
CADYT Polynomial 0.00 (0.00)
CADYT RBF 0.00 (0.00)

这支持 CADYT 的 sparsity / false-positive discipline;它不单独证明 non-empty graphs 的 orientations 都对。

Diamond:exact table 支持 regular 与 mild-irregular robustness

Appendix Table B.3:

Method regular NSHD ↓ regular AUPRC ↑ irregular NSHD ↓ irregular AUPRC ↑
DYNOTEARS 0.694 0.168 0.650 0.184
PCMCI+ 0.450 0.132 0.462 0.139
VARLiNGAM 0.668 0.174 0.612 0.181
CADYT RBF 0.118 0.834 0.112 0.866
CADYT Polynomial 0.106 0.883 0.087 0.925

这里 finite-dimensional Polynomial kernel 反而最好,使 empirical 与 theory scope 在这个 benchmark 上对齐得更好。

Random graphs:优势主要来自 precision,不是每项都碾压

Figures 2–3 汇总 \(D=5,10,15\)、regular / irregular、cyclic / acyclic mixed、20 seeds:

  • CADYT 的 NSHD 随 \(D\) 增长仍约保持在 0.1 左右,baselines 多在约 0.3–0.7;
  • AUPRC 约保持 0.6–0.7,baselines 随 \(D\) 增大降到约 0.1–0.25;
  • F1 在 \(D=5\) 只与 strongest baselines 相近,优势随 graph size 增长更明显;
  • 所有 methods 在 irregular sampling 下都有轻微退化。

这更支持“少报 spurious edges、high-confidence edges 更可靠”,而不是所有 recall / F1 维度都始终绝对最好。

Integration order:AB2 / AB3 通常优于 AB1

Figure 4 在 irregular ER graphs 上比较 AB1、AB2、AB3。higher order 通常降低 NSHD、提高 AUPRC;cycles 下 AB1 deteriorates,AB2/AB3 相对稳。

这是 dynamics approximation 影响 graph discovery 的直接 evidence:timing / integrator 不是 backend 细节。

Spring 与 Rössler:有 exact numbers,也有 formal caveat

dataset best baseline AUPRC CADYT RBF AUPRC CADYT RBF NSHD
Synthetic Double-Mass 0.386 0.791 0.250
Real Double-Linear 0.590 0.791 0.250
Rössler 0.336 0.553 0.170

Polynomial Rössler 更好:NSHD \(0.166\pm0.021\),AUPRC \(0.592\pm0.130\)

但 evidence wording 要分开:

  • graph-recovery performance:强;
  • stable-DSCM causal interpretation:undamped / chaotic dynamics 下不由前述 stability bridge直接保证。

Runtime:accuracy 不是免费的

Appendix Table C.6 的 seconds:

Method ER-5 ER-10 ER-15
DYNOTEARS 0.28 1.75 3.86
PCMCI+ 12.38 309.97 84.25
VARLiNGAM 0.12 0.54 1.48
CADYT AB1/RBF 950.64 2025.34 4234.75
CADYT AB3/RBF 2241.12 6920.47 9617.29
CADYT AB3/Polynomial 280.24 1178.49 2571.59

ER-15 AB3/RBF 的 mean 约 2.67 hours;远慢于三条 baseline。paper 的 asymptotic “on-par”与“parallelizable”不能替代 wall-clock table。

experiments 使用 AMD EPYC 7643 CPU、60 GB RAM,并平行化 greedy search。部署到大 \(N,D\) 前,GP cubic cost 是实质 bottleneck。

证据层级必须分成四层

evidence layer paper object strongest warranted claim
Definition ODE local dependency graph edge 有明确 derivative semantics
Causal interpretation stable DSCM + sufficiency / Markov / faithfulness assumptions 内可把 local independencies 连接到 graph absence
Score theory RLL/BIC-like asymptotic bound MDL score 有统计上熟悉的 regularized-likelihood shape
Algorithm / empirical greedy CADYT + controlled benchmarks released implementation 在 tested small graphs 上 recovery 强

不存在的一步是“第四层实验成功,所以第一到三层 assumptions 在真实系统已验证”。

08 · Objective review

综合客观评价

论文最强之处:edge meaning 与 sampling model 被放在同一方法里

很多 time-series causal methods把 actual elapsed time折叠成 lag index;很多 continuous-time learners 又只追求 trajectory fit。CADYT 把二者接起来:

\[\text{timestamp-aware dynamics fit} + \text{parent-restricted local mechanisms} + \text{complexity-penalized search}.\]

这使 irregular time grid 与 graph structure 不再是两个互不相干的 preprocessing / evaluation choices。

score decomposition 很适合阅读和审计

一个 edge 能否留下,可以追到三笔账:

  • graph complexity;
  • mechanism-function complexity;
  • residual data complexity。

这种透明度优于只输出 adjacency matrix 的 black-box learner,也给 negative controls 与 ablations 留出明确位置。

最强替代解释:强 GP fit + conservative search,而非 causal identification

empirical advantage 可能有多重来源:

  • continuous-time integrator 更匹配 DGP;
  • GP flexible function class 提升 trajectory fit;
  • MDL / threshold 更强抑制 false positives;
  • baselines 未按 irregular continuous-time setting充分适配。

这些都是真正的方法贡献,但要证明“优势特别来自 AMC causal direction principle”,需要 matched ablations:同一 GP / integrator,只换 causal score或 orientation criterion。paper 只部分做到 kernel / integration-order ablation。

theory 与 main implementation 没完全闭环

theory 的 finite-dimensional kernel、exhaustive model-comparison语境,与 main RBF + greedy search 有两道 gap。appendix Polynomial results缓解第一道,仍没有解除第二道。

所以最稳妥的说法是:

theory validates a property of the scoring construction; experiments validate a practical greedy instantiation. Neither alone proves end-to-end causal consistency.

Formal causal scope 与 hardest experiments 有张力

dynamic stability 是 trajectory-DSCM bridge;hyper-chaos 与 undamped oscillation恰好挑战它。paper discussion自己把 chaotic-DSCM extension 留作 future。

这不让 Rössler result失效,而是改变它的 evidence label:

valid label:
  recovery of known derivative-dependency graph under a chaotic simulator

overclaim:
  validated DSCM causal intervention semantics for chaotic real systems

Primary code audit:release 有价值,但不是“一条命令复现论文”

official repository 包含 datasets、Hydra configs、GP score、greedy search、baselines 与 metrics,远比 placeholder release 完整。

仍有几个 reader 应知道的 seams:

  • README 的 clone URL 仍写 FILL IN,CITATION 的 repository field 是 TO DO
  • default config 只有一个 active seed,paper 20-run sweep 要手动恢复;
  • README 说 5 baselines,却在 bullet 只列 3;paper main 也只比较 3;
  • Appendix Algorithm 3 的 forward update 写成 set subtraction,而 prose / released code 实际 add edge,显然需要按 code/prose 理解;
  • appendix irregularity formula 少了 code 中的 factor 2,文字“20% means 0.8–1.2”与 code一致、与 printed formula 不一致;
  • current search code default worker count 是 1、top-level parallel: False,paper 的 parallel runtime setup 需要另行配置。

这些不等于 algorithm 不可用;它们意味着 reproduction 要记录 exact commit、config 与 source-level reconciliation。

09 · Limitations

主要局限性

  1. 没有 end-to-end graph consistency theorem。 Theorem 2 证明 score form / upper bound,appendix明确把 correct-model convergence 留作 future。
  2. greedy search 可能卡在 local optimum。 理论讨论假设比较全部 graphs 才能完整使用 score;实际 graph space super-exponential,只走 forward/backward heuristic。
  3. main RBF experiments 不满足 finite-dimensional-kernel assumption。 empirical success 与 theorem scope 需分开;Polynomial appendix才更直接落在 assumptions 内。
  4. dynamic stability 很强。 many oscillatory、multi-attractor、non-stationary 或 chaotic systems不收敛到 initial-condition-independent unique element。
  5. hardest benchmarks 超出 stable-DSCM bridge。 undamped spring 与 hyper-chaotic Rössler可测 local graph recovery,却不能自动证明 trajectory-level DSCM intervention semantics。
  6. causal sufficiency 排除 latent drivers。 common forcing、unmeasured environment、hidden controller 会产生 spurious local dependencies;future heuristic 尚未验证。
  7. \(\mu\)-Markov 与 \(\mu\)-faithfulness 未由数据检验。 cancellations、deterministic relations 或 symmetries 可使 graph edge 与 observed local independence错位。
  8. sampling-rate condition需要知道 \(\phi_{\max}\) 在未知 dynamics 中最高 frequency 往往也未知;max-gap violation 会 alias。
  9. instantaneous-gradient assumption限制 edge semantics。 delayed effects、distributed lags、memory kernels、state-dependent delays不由简单 \(\partial_iF_j\) 表示。
  10. autonomous setup 与部分 DGP 有张力。 Eq. 1 写 \(F(X)\),Diamond / ER root equations显式用 \(t\);若 time 是 exogenous parent,应在 formal graph 中说清。
  11. noise model 太干净。 independent additive Gaussian observation noise不覆盖 correlated sensors、process noise、heteroskedasticity 与 state-dependent noise。
  12. method 已知对 high noise敏感。 main noise std多为 0.001–0.005(Empty 0.05);paper自己把 robust-to-noise machinery留作 future。
  13. irregularity只做 mild synthetic jitter。 20% timing perturbation不是 sparse bursts、asynchronous variables 或 informative observation process。
  14. real evidence 很少。 Real Double-Linear是唯一 measured-system benchmark,只有4 variables,且为了 baseline fairness只用 regular sampling。
  15. graph sizes 小。 main ER只到 \(D=15\);无法外推到 hundreds/thousands of sensors。
  16. runtime 很重。 ER-15 AB3/RBF mean 9617 seconds,且 variance大;GP fit dominates。
  17. AUPRC confidence不完全同尺度。 CADYT用MDL gain、PCMCI+用p-values、其他用edge weight;ranking可比,calibration / probability意义不可比。
  18. NSHD可能掩盖edge-type成本。 missing、extra、reversed edges对实际控制系统的损害不同,\(D^2\) normalization又会随 sparsity改变直觉。
  19. cycles 与 self-loops 的 intervention meaning未展开。 recovery adjacency不等于能对 feedback system做合法 surgical intervention。
  20. MDL encoding choices会影响结果。 parameter precision、kernel、integrator、threshold、parent encoding都是 modeler choices,不是由 AMC 唯一规定。
  21. no-hypercompression gate细节不足。 main text说明 significance check,但 public hyperparameter / calibration sensitivity 结果有限。
  22. paper / code 有可复现 seam。 forward pseudo-code typo、irregularity formula factor、default seed / parallel settings 都需手工对齐。
  23. 本导读没有重跑。 未安装两个 Python environments,也未重现 20-seed ER、baselines 或 runtime。
10 · Stronger tests

什么实验会让结论更强

  • 用 exhaustive search 在 \(D=3,4,5\) 上对照 greedy output,量 local-optimum gap;
  • 用同一 continuous-time GP backbone 比较 MDL/AMC、BIC、plain likelihood、sparsity penalty,隔离 score contribution;
  • 对 finite-dimensional Polynomial/Wendland kernels 做 main-scale benchmark,使 theory 与 empirical setup完全重合;
  • 给 graph-selection consistency 一个正式 theorem,明确 true-model containment、dependent time-series regularity 与 precision limit;
  • 构造 theorem assumptions逐项 violation:latent confounder、unfaithfulness、sampling below Nyquist、correlated noise;
  • 在 stable、limit-cycle、multi-attractor、chaotic 四类 systems分别标注 DSCM interpretation status;
  • 把 explicit time 作为 observed exogenous node重做 Diamond / ER roots,消除 autonomous-form gap;
  • sweep irregularity 0–90%、long gaps、bursts 与 component-specific asynchronous clocks;
  • 加 MNAR/event-triggered observation process,并与仅 timestamp jitter 区分;
  • 对 noise level、noise correlation、process noise 与 heteroskedasticity画 recovery curves;
  • 分开报告 precision、recall、reversal、extra、missing edges 与 calibrated edge confidence;
  • 对 no-hypercompression threshold 做 sensitivity / false-discovery calibration;
  • 增加 continuous-time causal baselines与 timestamp-aware neural ODE methods,而不只 discrete-time methods;
  • 在多个真实 physical / biological / medical irregular datasets上用 interventions或known equations验证;
  • 做 graph size \(D=20,50,100\) 与 trajectory length \(N\) scaling,报告 memory、wall-clock、energy;
  • 用 sparse / inducing-point GP 或 lightweight dynamics model测试 speed–accuracy frontier;
  • 对每个真实 edge给 mechanism-prediction ablation:移除 edge 后 OOD / intervention trajectory是否按预期坏掉;
  • 发布 frozen Hydra sweep、all seeds、parallel worker count 与一键 table/figure scripts;
  • 增加 paper equations vs code unit tests,特别是 irregular timeline 与 forward-search update。
11 · Claim boundary

论文可以支持什么结论

它可以支持:

  • continuous-time causal graph 可定义为 ODE vector field 的 local-dependency graph;
  • irregular timestamps 应进入 dynamics inference,而不是被默认为 constant lag;
  • multistep-integrator GP 提供一条在 arbitrary timeline 上学习 continuous dynamics 的 route;
  • MDL score 可拆成 graph、function 与 residual encodings,并以 compression gain排序 edges;
  • 在 finite-dimensional kernel 与 bounded-parameter / precision assumptions 下,score 有 asymptotic RLL/BIC-like upper bound;
  • greedy CADYT 在 tested empty、Diamond、ER、spring 与 Rössler benchmarks上显著减少 false positives、降低 NSHD、提高 AUPRC;
  • higher-order integration通常改善 irregular / cyclic graph recovery;
  • Polynomial kernel appendix在多个 benchmarks上不弱于 RBF,并更贴近 theorem scope;
  • accuracy gain带来明显 compute cost。

它不支持:

  • trajectory data无 assumptions即可唯一识别 causal graph;
  • Theorem 2 已证明 CADYT graph-selection consistency;
  • greedy search 必然找到 global MDL minimum;
  • RBF main result直接由 finite-dimensional-kernel theorem保证;
  • 任意 irregular / missing / asynchronous sampling都有效;
  • graph equality等于 dynamic mechanism、timing channel与intervention behavior全部相同;
  • Rössler graph recovery验证了 stable-DSCM causal semantics;
  • hidden confounding、delays、process noise或non-autonomous forcing已经解决;
  • “parallelizable”意味着当前 method比 baselines wall-clock快;
  • 一个 4-variable real spring benchmark足以证明 broad real-world generalization。

一句最安全的引用方式是:

Tagliapietra et al. 将 continuous-time local dependency、timestamp-aware GP dynamics 与 MDL graph search结合;其 score 在有限维 kernel 等 assumptions 下具有 BIC-like asymptotic regularized-likelihood form,practical greedy CADYT 在 controlled regular / mildly irregular benchmarks上显著改善 graph recovery,但 end-to-end consistency、stability scope 与 scalability仍是开放边界。

12 · Research connection

为什么它与当前研究有关

它强迫 dynamic claim 先填一张 object card

state components:
trajectory source:
sampling timestamps / gaps:
continuous or discrete target:
edge semantics: local derivative / lag / intervention
dynamics model:
integrator / time resolution:
noise process:
causal sufficiency / stability status:
score / search:
graph confidence:
downstream decision:

只给 adjacency matrix 而缺这些字段,reader无法知道 recovered edge到底是什么。

它把“机制保存”拆成至少四层

两个 environments 的 adjacency 相同,仍可能有:

  • \(F_j\) functional form 改变;
  • coefficient / strength 改变;
  • lag / time constant 改变;
  • observation grid / noise改变;
  • attractor / stability regime改变。

所以:

\[G_e=G_{e'} \not\Rightarrow F_e=F_{e'}.\]

B4 最适合被用作这个 guardrail,而不是被扩写成“graph就是完整机制”。

它给 evidence window 一个具体工程含义

continuous-time claim的 evidence不仅是 values,还包括 timestamps、max gap、frequency support与integrator。页面或 benchmark应显示:

observed window
sampling regularity
maximum gap
trajectory length
noise level
integration order

否则“irregular robust”只是 marketing label。

它给 score-based explanation 一个更安全的 projection

公开页面可展示:

  • edge compression gain;
  • alternative parent-set scores;
  • residual improvement;
  • model-complexity cost;
  • assumptions / violation flags。

不要把 \(\Gamma_{ij}\) 投影成“causal probability 92%”。它是 relative code-length evidence。

13 · Reading path

推荐阅读顺序

如果只有 12 分钟

  1. Abstract + Figure 1:看 continuous dynamics / irregular timestamps / graph 三个对象;
  2. Definition 1:钉死 local dependency edge;
  3. Section 3 的 Eq. 9–11:理解 MDL 总账;
  4. Eq. 13、15、17:structure / function / noise 三笔 bits;
  5. Theorem 2 statement:只读它实际 upper-bound 的对象;
  6. Figure 2–3 + Table 1:看 graph recovery;
  7. Appendix Table C.6:把 runtime 一起读;
  8. Discussion:保留 greedy、noise、latent confounder、chaos 边界。

如果要真正理解 causal / theoretical claim

  1. Eq. 1 与 Definition 1:ODE → local graph;
  2. Definition 2 前后:dynamic stability 下的 DSCM bridge;
  3. sufficiency、\(\mu\)-Markov、\(\mu\)-faithfulness、sampling-rate paragraph;
  4. AMC 与 MDL background:最短 causal factorization只是 postulate / upper-bound route;
  5. Section 3 全部 encoding equations;
  6. Appendix Definition A.1/A.2、Lemma 1 proof;
  7. Theorem 2 + Corollary 3;
  8. Appendix 最后一段:确认 consistency仍是 future work;
  9. 回到 RBF experiment paragraph:确认 theory / main-kernel gap。

如果要审 algorithm / experiments / code

  1. Section 4 的 \(\Gamma_{ij}\) 与三段 search;
  2. Appendix D 的 \(B\to A\leftarrow C\) scoring walkthrough;
  3. Appendix E pseudocode,并与 released gds.py 对照 forward update;
  4. Appendix B 的 exact ODEs、noise与20% timeline generation;
  5. Tables B.2–B.5:不要只看 main plots;
  6. Table C.6:runtime与accuracy一起判;
  7. official repository README、Hydra datasets/experiments、GPScore、greedy search;
  8. 最后再决定是否重跑 Diamond + one ER-5 regular/irregular wedge。
14 · Sources and next reading

论文来源与相邻阅读

Primary sources inspected

What was verified from those sources

  • ODE, local-dependency graph and trajectory-level DSCM definitions;
  • causal sufficiency、\(\mu\)-Markov / faithfulness、dynamic stability and sampling-rate assumptions;
  • multistep-integrator GP construction and MDL structure / function / residual terms;
  • finite-dimensional-kernel assumptions、Lemma 1、Theorem 2、Corollary 3 and consistency boundary;
  • edge gain、greedy forward/backward flow and complexity;
  • exact Empty、Diamond、Double-Mass、Double-Linear、Rössler tables and runtime table;
  • 20-seed main synthetic setup、10-run physical-system statement and 20% irregular timeline definition;
  • official repository’s configs、datasets、GPScore、search code、dependencies and current documentation seams.

Projection boundary

本文档是面向 reader 的 source-grounded 中文解释,不是 formal proof review 或 independent reproduction。我们没有:

  • 安装 / 运行 CADYT 或 baseline environments;
  • 重做 GP exact-inference derivation;
  • 验证 every MDL code satisfies Kraft inequality in implementation;
  • 重跑 20 seeds、10-run physical benchmarks 或 wall-clock;
  • 独立证明 graph-selection consistency;
  • 解决 dynamic-stability 与 oscillator / chaos experiment 的理论外推;
  • 判定 appendix / code seams 的作者意图。

因此 numerical results 是对 official paper / author appendix 的核对转述;code observations 是 static source audit,不是 executed bug report。任何新 system 的 causal claim 都需要重新验证 sampling、stability、sufficiency、noise、model class 与 decision semantics。