OWNER-REVIEW · BROWSER NOTES STAY LOCAL
必读 · 2026-05-20

A Mechanistic Study of Tabular Foundation Models

Marin Biloš, James T. Wilson, Anderson Schneider, Yuriy Nevmyvaka
arXiv · arXiv preprint v1 · arXiv:2605.21288v1

必读前沿机制核心模型
TECHNICAL DETAILS

这份资料下面的技术细节文章

技术文章属于当前资料,不与 P11 研究项目入口平级。

暂无技术细节文章

以后针对这份资料形成的代码解读、公式拆解或机制实验,都会继续落在本资料页下面。

WHY NOW

为什么现在读它

它不再只比 accuracy,而是干预 TabPFN、TabICLv2 与 Mitra 的表示和 readout;row token、similarity vote 与 invariance 都因此有了可检查前例。

LEARNED OBJECT

它真正学习或预测的对象

三个 TFM 在 context 中实现的相似度/原型 readout 算法,以及这些算法的表示位置、排列不变来源与失败模式。

P11 USE

P11 可以从这里拿走什么

把 semantic feature identity、Unit-local abduction、population borrowing 与最终 readout 分成可干预阶段,并设计专门 ablation。

EVIDENCE BOUNDARY

不要从这篇论文多推一步

这里的 mechanistic 指神经网络内部计算机制,不是物理或因果机制;row representation 也不自动成为 identity-bearing Unit。

READING PATH

建议阅读路径

  1. 先看三种模型的 token layout 与最终 readout 对照。
  2. 再看 representation/readout intervention 如何建立机制解释。
  3. 最后读 invariance 与 engineered failure modes,提取 P11 必须超越的 claim。
P11 INTERNAL MATERIAL

已有项目材料

  • papers/P11-tabular-foundation-models/related-materials/mechanistic-tfm-arxiv-2605.21288v1/README.md
MY READING NOTE

我的浏览器便笺

可以马上写、刷新后继续。它不上传到服务器,也不会自动进入 P11 的 canonical source。

尚未读取到当前浏览器中的已保存草稿。

保存边界:只保存在当前 browser profile + 当前 origin。localhost 与 wehub.us 是两份笔记;换设备、隐私模式或清理网站数据都可能丢失。长期保存请导出 Markdown 并回填到上面的 canonical path。