这份资料下面的技术细节文章
技术文章属于当前资料,不与 P11 研究项目入口平级。
以后针对这份资料形成的代码解读、公式拆解或机制实验,都会继续落在本资料页下面。
为什么现在读它
TARTE 把 column names 与 strings 的世界知识压进可复用表示,是 P11 semantic feature construction 的重要前史。
它真正学习或预测的对象
由字符串与表格上下文预训练得到的 knowledge-enhanced row/table representations,供下游 learner 使用或微调。
P11 可以从这里拿走什么
比较 description/string pooling、domain specialization 与下游组合方式,明确 P11 feature token 的额外契约。
不要从这篇论文多推一步
knowledge pretraining 与 causal structure 是不同对象;截至 cutoff,最终发表状态尚未由会议官方页面确认。
建议阅读路径
- 先看字符串与列名怎样进入预训练表示。
- 再看 frozen representation、fine-tuning 与其他 learner 组合。
- 最后区分 world knowledge、schema semantics 与 mechanism semantics。
已有项目材料
- 当前没有下载到仓库的第三方原文;先使用上方一手链接。
我的浏览器便笺
可以马上写、刷新后继续。它不上传到服务器,也不会自动进入 P11 的 canonical source。
尚未读取到当前浏览器中的已保存草稿。
保存边界:只保存在当前 browser profile + 当前 origin。localhost 与 wehub.us 是两份笔记;换设备、隐私模式或清理网站数据都可能丢失。长期保存请导出 Markdown 并回填到上面的 canonical path。