P11 10 Paper Portfolio
RESEARCH PROJECT · MODEL · FRONTIER · BENCHMARKS

表格大模型:从变量语义到 Unit 响应规律

P11 研究的不只是“哪个表格模型更强”,而是一个更基础的问题:模型能否理解每个变量在说什么, 从一组可见 cells 判断当前面对的是怎样的 Unit,并学习 Unit 与 feature 之间可跨表复用的 response law? 在这条 broad line 上,P05 进一步追问:当 feature axis 变成超高维、动态、不定长且稀疏时, 能否让计算随 active evidence 扩展,而不再被固定最大列数锁死?

WeHub public owner-review research project · noindex · not a formal release

01 · THE PROJECT QUESTION

把一张表从“无主体的 samples”重新理解为 Unit–Feature responses

一张表通常只被写成 rows 和 columns。P11 进一步区分三个对象:变量的语义、当前 Unit、 以及这个 Unit 对目标变量的 response。项目希望把这三个对象放进同一套可跨 schema 学习的模型中。

F

Feature semantics

变量 identity 不只来自本表 column ID,而可以由名称、描述和类型共同给出,使不同 schemas 之间存在语义接口。

U

Unit abduction

新 row 不查 row-ID embedding;模型从当前可见 feature–value evidence 中即时形成 Unit token。

R

Response law

Unit token 与目标 feature token 配对,回答“这个 Unit 对这个 feature 会产生什么 response”。

项目的核心不是给模型再加一个 embedding,而是先分清:我们测量什么、正在面对谁、以及它会如何响应。
02 · PROJECT MAP

一个项目入口,连接模型、资料、评测与数据研究

每个入口承担不同职责。项目首页只说明全局关系;技术细节进入文章,单篇文献进入资料页,模型比较进入 benchmark 页面。

MAINLINE QUESTIONS · LIVING ANSWERS

哪些问题值得反复检查?

稳定编号 owner questions,逐题区分 owner draft、needs clarification 与 source-grounded working answer;每页绑定 evidence cutoff 和 verification gates。

进入核心问题清单 →
CURRENT MODEL · TECHNICAL ARTICLE

Semantic Feature Tokens 与 Unit Abduction

完整保留原入口的张量流、默认/扩展分支、typed objectives、排列不变性、训练/推理和证据边界。

阅读模型架构长文 →
VALUE ENCODER · TECHNICAL ARTICLE

一列数,不只是一条直线

从 affine scalar、PLE 与 periodic/PLR 三种输入几何,解释数值 Token 怎样改变可学习性;把强实证、谱偏差理论桥与尚未证明的机制明确分开。

阅读数值 Token 技术分享 →
LEARNED ALGORITHM · TECHNICAL ARTICLE

不再为每张表从头训练

从 PFN 的 posterior-predictive objective、SCM synthetic prior 与 TabPFN benchmark,解释逐表拟合怎样被摊销进预训练,以及“一次前向”的真实系统边界。

阅读摊销推断技术分享 →
RESEARCH FRONTIER · TECHNICAL ARTICLE

合成先验之外:轻量语义接口

把 TabPFN / TabFM 的可泛化 table-native topology,与真实表格的列名、单位和列间关系放进同一个可审计的研究问题;不把 ConTextTab 的语义路线简化成“只换一个 embedding”。

阅读研究缺口与第一轮实验协议 →
FOLLOW-ON SLOT · P05

没有固定列轴的动态稀疏表格基础模型

把 P11 的 semantic-feature / Unit-response question 推到 variable-length sparse evidence;以推荐系统作为第一压力测试,不把 known-ID 推荐冒充 Unit Abduction。

进入 P05 owner-review seed →
BENCHMARKS

模型怎样被比较?

从评测 regime、数据与预算出发,再进入 TabArena、BeyondArena 等独立观察页。

打开 Benchmarks →
RELATED MATERIALS · 24 ITEMS

论文、代码与逐篇笔记

重要资料按时间倒序排列;每篇拥有独立资料页,核心模型还连接专属 Discord 反馈 thread。

进入资料工作台 →
DATASET ATLAS

数据、task compiler 与 protocol

区分 synthetic priors、真实表格、split、HPO、contamination 与评测协议。

查看 Dataset Atlas →
DATA LANDSCAPE

表格基础模型真正积累了什么?

从 raw tables 到 prediction-problem corpus,理解 pretraining data 的构造对象。

阅读数据综述 →
CONCEPTUAL BRIDGE

稠密表格与推荐系统

比较 Unit–Feature response table 与 exposure-selected User–Item log:计算接口相似,空白 cell 的机制不同。

阅读五分钟概念桥 →
HISTORICAL PROVENANCE

旧模型稿 v0.2 · 15 pages

保留 per-dataset feature-ID 分支的思想演化记录;它已经不代表当前 v1 主干。

打开历史 PDF →
03 · CURRENT STATE

已经固定研究契约,P05 follow-on 把计算瓶颈单独提出

FROZEN AT CONTRACT LEVEL

当前已经明确

  • feature description 产生 semantic feature token;
  • 共享 value encoder 产生 cell-value token;
  • position-free Transformer 与 masked average 形成 deterministic Unit token;
  • Unit–feature scorer 使用 typed predictive losses。
OPEN DESIGN QUESTIONS

仍待冻结

  • LLM frozen、fine-tuned 或带 residual 的具体 regime;
  • 跨表共享参数与新 schema adaptation 层级;
  • feature/value fusion 与高基数 nominal encoding;
  • 训练 episode 与 unseen-feature protocol;
  • P05 的 active-count / vocabulary scaling、unseen feature ID 与 schema drift protocol。
EVIDENCE BOUNDARY

当前不能声称

  • 尚无实现、正式 benchmark run 或性能结论;
  • 尚未证明 unseen-schema zero-shot 能力;
  • Unit token 不自动等于 persistent Individual;
  • masked reconstruction 不自动提供 causal capability。

下一关:分别冻结 P11 与 P05 的训练对象

先写清 P11 的 description protocol、LLM regime、table episode sampler、目标类型与 adaptation contract;再为 P05 单独定义 active sparse evidence、latent bottleneck、feature vocabulary 与动态 schema protocol,最后用 permutation equality、semantic-transfer ablation 和 scaling benchmark 检验两条边界。

项目页面只报告当前可验证状态;新实验和新论文结论必须回到 canonical source 与 evidence ledger。
04 · READING PATHS

根据你现在的问题,选择最短阅读路径

02

我想查表格大模型文献

从倒序资料目录进入单篇 dossier,再阅读该资料拥有的技术文章并留下笔记。

全部资料 · TabFM · LimiX

03

我想比较模型或设计实验

先在 Benchmarks 固定 comparison passport,再用 Dataset Atlas 审计数据与 protocol。

Benchmarks · Dataset Atlas

05 · FEEDBACK LOOP

阅读可以在网页发生,稳定理解必须回到项目