OWNER-REVIEW · BROWSER NOTES STAY LOCAL
必读 · 2024-02-26

CARTE: Pretraining and Transfer for Tabular Learning

Myung Jun Kim, Léo Grinsztajn, Gaël Varoquaux
ICML 2024 · peer-reviewed paper · arXiv:2402.16785v2

必读表语义预训练核心模型
TECHNICAL DETAILS

这份资料下面的技术细节文章

技术文章属于当前资料,不与 P11 研究项目入口平级。

暂无技术细节文章

以后针对这份资料形成的代码解读、公式拆解或机制实验,都会继续落在本资料页下面。

WHY NOW

为什么现在读它

CARTE 用 column names、entry strings 与 graph attention 实现无 schema matching 的 transfer,是 P11 semantic feature tokens 最重要的早期对照之一。

LEARNED OBJECT

它真正学习或预测的对象

open-vocabulary table-entry graph representation,可跨未匹配 columns 和实体词汇预训练并迁移。

P11 USE

P11 可以从这里拿走什么

比较 description-derived feature identity、entry semantics、graph context 与新 schema transfer,避免把开放词汇误写成 P11 独有。

EVIDENCE BOUNDARY

不要从这篇论文多推一步

column/entry semantics 不是 intervention semantics;CARTE 依赖下游训练/微调,不等同于 table-native zero-shot ICL。

READING PATH

建议阅读路径

  1. 先看 table-to-graph 表示和 column/entry string embedding。
  2. 再看 unmatched schema transfer 与 pretraining data。
  3. 最后与 P11 feature token + value token + Unit abduction 分层对照。
P11 INTERNAL MATERIAL

已有项目材料

  • 当前没有下载到仓库的第三方原文;先使用上方一手链接。
MY READING NOTE

我的浏览器便笺

可以马上写、刷新后继续。它不上传到服务器,也不会自动进入 P11 的 canonical source。

尚未读取到当前浏览器中的已保存草稿。

保存边界:只保存在当前 browser profile + 当前 origin。localhost 与 wehub.us 是两份笔记;换设备、隐私模式或清理网站数据都可能丢失。长期保存请导出 Markdown 并回填到上面的 canonical path。