这份资料下面的技术细节文章
技术文章属于当前资料,不与 P11 研究项目入口平级。
以后针对这份资料形成的代码解读、公式拆解或机制实验,都会继续落在本资料页下面。
为什么现在读它
TabICLv2 把 synthetic generator、scalable attention 和训练 protocol 一起升级,并提供开放权重,是 P11 公开、可执行、可审计的强基线。
它真正学习或预测的对象
面向分类与回归的 scalable in-context predictor,依赖多样化 synthetic task generator 与长 context 泛化。
P11 可以从这里拿走什么
比较 row compression 与 Unit token 的位置、长 context 的资源代价,并复用开放实现做 representation 和 permutation audit。
不要从这篇论文多推一步
大规模 context 与强 benchmark 表现不定义 persistent Unit 或 environment;later source 中迁移的 v2 pretraining port 尚未经过端到端复现验证。
建议阅读路径
- 先看 v1 到 v2 的 generator、attention 与 optimizer 三类变化。
- 再核对 million-scale context 的显存与速度条件。
- 最后从代码定位 row representation 与 output readout。
已有项目材料
- 当前没有下载到仓库的第三方原文;先使用上方一手链接。
我的浏览器便笺
可以马上写、刷新后继续。它不上传到服务器,也不会自动进入 P11 的 canonical source。
尚未读取到当前浏览器中的已保存草稿。
保存边界:只保存在当前 browser profile + 当前 origin。localhost 与 wehub.us 是两份笔记;换设备、隐私模式或清理网站数据都可能丢失。长期保存请导出 Markdown 并回填到上面的 canonical path。