这份资料下面的技术细节文章
技术文章属于当前资料,不与 P11 研究项目入口平级。
一个数,为什么先绕进频率空间?
从 affine tokenizer 的直线瓶颈,走到 typed Fourier banks、64→256 投影与 ordinal 编码边界。
进入技术文章 →技术细节 02不减一列,为什么每个 token 却读了三列?
解释 [0,1,3] circular overlapping groups、逐 source-slot typed encoding 与列顺序依赖。
进入技术文章 →技术细节 03把 TabFM 的 forward pass 完整展开
基于官方 JAX 权威实现与 PyTorch port,逐层审计预处理、typed Fourier cell tokens、Column/Row attention、CLS compression、ICL mask、prediction head 与 prefill/decode cache。
进入技术文章 →为什么现在读它
TabFM 是当前合成先验、row/column attention 与 row compression 路线的重要系统参照,也迫使 P11 区分模型发布与可审计论文证据。
它真正学习或预测的对象
从大量合成表格任务中预训练的 zero-shot classification/regression predictor。
P11 可以从这里拿走什么
对照 P11 的 feature/value token 路径、跨表参数共享和 row compression,并记录官方代码能够验证而博客无法证明的部分。
不要从这篇论文多推一步
截止日期内未定位到技术论文;博客中的规模与性能是官方发布主张,不能替代方法细节、独立复现或同行评审。
建议阅读路径
- 先读官方博客里的模型图与训练数据口径。
- 再从代码确认 tokenization、attention 与 inference 接口。
- 把无法从公开材料确认的训练与评测细节单列为缺口。
已有项目材料
- 当前没有下载到仓库的第三方原文;先使用上方一手链接。
我的浏览器便笺
可以马上写、刷新后继续。它不上传到服务器,也不会自动进入 P11 的 canonical source。
尚未读取到当前浏览器中的已保存草稿。
保存边界:只保存在当前 browser profile + 当前 origin。localhost 与 wehub.us 是两份笔记;换设备、隐私模式或清理网站数据都可能丢失。长期保存请导出 Markdown 并回填到上面的 canonical path。