异质性不是“ID 进入网络”,而是 \(u\mapsto[z\mapsto K_u^z]\) 是否随 \(u\) 变化。
异质的是谁?
unit 形式化如何重画机器学习的异质性地图:不是再发明一种 heterogeneity model,而是先声明谁在变化、哪条 response law 在变化,以及历史理论究竟是实例、重索引、邻接轴还是不可归约边界。
Heterogeneity 说什么在变;结构假设才说明这些不同规律怎样可学习、可迁移、可证伪。
Random effects 在当前 scoped map 中最接近;multitask 可重索引;domain shift 是邻接轴;causal reading 仍需 identification。
我们不缺异质性模型,缺的是“异质的是什么”
机器学习早已拥有 random effects、hierarchical models、multitask learning、mixture models、domain adaptation、personalization 与 treatment-effect heterogeneity。问题是 subject、task、component、domain、environment、user 与 causal unit 并不天然索引同一种对象。
普通监督学习里的 \(i\) 只标记一条 sample 或 event;它没有说明多条事件是否来自同一个 persistent Individual。因而准确说法不是“普通监督学习已经假设所有 Individuals 同质”,而是:它的基础记号通常没有声明 Individual 这一轴。
unit formalization 先声明 task-relative unit space,再让 \(U\) 表示 population 中涉及哪一个 unit。在事件 \(U=u\) 上,realized \(u\) 是 identity-bearing formal individual:它在当前 task/query family 内跨相关 events 保持 referential identity,但不自动等于 cluster、latent type、task 或 environment。
两个 Individuals 可以拥有相同 response profile,却仍是不同的 \(u\)。预测 equivalence 不抹去 identity。
同一患者的多次就诊、同一设备的多个窗口、同一用户的多轮 interaction 共享 referent,却保留 event/context noise。
unit 选择的不是一个输出,而是一整条 response law
令 \(z=(x^Q,c^Q)\) 表示 task-declared response query;\(x^Q\) 是当前 query,\(c^Q\) 是固定 unit 后仍直接改变 response 的已知 context。对共同 query family \(\mathfrak Q\),写:
unit-conditioned response family
固定 \(u\) 后,\(z\mapsto K_u^z\) 是任务承诺回答的 response law;跨 units 比较的是整族 \(u\mapsto[z\mapsto K_u^z]\),不是某一种 embedding architecture。这里不再为整条 profile 引入单独符号。
Unit 可以改变 baseline、input effect、整条 response function、noise、support、threshold、ranking preference 或 query sensitivity。Embedding lookup、attention、random intercept 和 low-rank factorization 都只是实现或限制这张映射的方式。
三种写法都允许 unit-conditioned variation,却对“什么共享、什么改变、需要多少 observations、怎样向 unseen unit 泛化”给出不同答案。形式化的价值,就是迫使这些差异从 implementation detail 变成 task contract。
异质性的核心定义,以及 design 看不见的部分
unit-response homogeneity / heterogeneity
若存在一族 \(K^z\),使得对 \(\Pi\)-almost every \(u\) 和每个 declared \(z\in\mathfrak Q\) 都有 \(K_u^z=K^z\),则任务在 \(\mathfrak Q\) 上 unit-response homogeneous;否则 unit-response heterogeneous。
这个定义是 query-relative 的:两个 Units 在当前 queries 上可以等价,在更大的 query family 上却不同。仅仅改变 \(P(X\mid U=u)\) 或某个 Unit 被采样的频率,也不等于改变了 \(K_u^z\)。
Structural 与 deployment-visible 必须分开。 给定 deployment design \(\Lambda(du,dz)\),若存在 \(K^z\) 使 \(K_u^z=K^z\) 对 \(\Lambda\)-almost every \((u,z)\) 成立,称其 \(\Lambda\)-visible homogeneous;否则 visible heterogeneous。对 compatible design(\(\Lambda_U\ll\Pi\)),structural homogeneity 蕴含 visible homogeneity;反过来可以失败,因为 design 可能没有覆盖真正发生差异的 Unit 或 query。Off-support response 仍是 modeling choice,不能包装成已经识别的事实。
五种不能混写的 response-law 情形
| 情形 | 限制 | 科学含义 |
|---|---|---|
| sample-only | no unit axis | 学习 row-level \(P(dy\mid x)\),不直接陈述 persistent individuals 是否异质。 |
| homogeneous unit extension | \(K_u^z=K^z\) | 声明 unit 后,unit identity 在当前 queries 上不增加 response information。 |
| pure-unit / input-invariant | \(K_u^z=K_u\) | Outcome 随 unit 变化,但 supplied query 不起作用;这不是 unrestricted heterogeneity。 |
| structured unit-responsive | \(K_u^z=K^z(\eta,\zeta_u)\) | Shared structure 与 unit-varying structure 并存,是许多 shared/unit-varying models 的候选形式。 |
| saturated unit-responsive | \(u\mapsto[z\mapsto K_u^z]\) unrestricted | 允许每个 unit 拥有任意 response family;没有额外结构时,不支持 unseen-unit transfer。 |
最后两行描述的是允许异质性的 model class,并不保证某个 realized member 一定异质。“结果只由个体决定、与 input 无关”是 pure-Unit/input-invariant,不是 fully heterogeneous。
别把 heterogeneity 与 marginal collapse 混为一谈。 即使固定 Unit 后的 laws 不同,积分掉 \(U\) 仍可能得到同一个 row-level \(P(Y\mid X)\)。边际拟合既不能识别 meaningful Unit decomposition,也不能否定它;same-unit evidence、结构限制与 evaluation target 才提供可检验内容。
保留 unit 的 oracle value
在 deployment design \(\Lambda(du,dz)\) 下,忽略 Unit、只观察 \(z\) 时的 pooled Bayes law 是:
令 admissible report class \(\mathcal P\) 包含 \(\Lambda\)-almost every \(K_u^z\),并对 displayed mixtures 闭合,使 \(\overline K^z\in\mathcal P\)。令 \(S(P,y)\) 为 smaller-is-better strictly proper predictive loss,定义 \(D_S(P,Q):=\mathbb E_{Y\sim P}[S(Q,Y)-S(P,Y)]\),并假设下列 expectations finite。
Unit-aware oracle 不会比 pooled oracle 更差
在 strict propriety 下,等号成立当且仅当 \(K_U^Z=\overline K^Z\) 对 \(\Lambda\)-almost every \((U,Z)\) 成立;log loss 下,gap 为 \(I_\Lambda(U;Y\mid Z)\)。
边界:这是 classical proper-scoring-rule identity 在 unit-conditioned object 上的 specialization。它是 oracle diagnostic,不证明 \(U\) 已观察、可识别、具有 causal utility、能从有限 selectively observed events 学到,也不证明某个 unit-aware algorithm 胜过 matched baseline。
Response heterogeneity、unit uncertainty 与观察机制是三件事
固定 Unit 后,response 怎样随 query、context 与 exogenous variation 改变。
Event 是否被选中、linkage information \(L\) 怎样暴露。Measurement noise 可按被污染对象进入 \(K\) 或 \(M\),任务必须声明。
Answer 前 admissible factual evidence 支持的 which-Unit uncertainty。
Known linkage 是 exposed \(L\) 决定 \(U\) 的边界;否则 \(L\) 与其余 \(\mathcal O^F\) 只能支持一个 conditional law 或 learner belief。
当前 target \(Y^Q\) 不能因为 selection 依赖 outcome 就进入预测自己的 \(\mathcal O^F\)。Heterogeneity 可以真实存在却被 observation mechanism 隐藏;selective observation 也可以改变 observed population,却没有创造 response-law heterogeneity。
历史理论不是一个 reduction,而是四种关系
补充声明 unit、linkage 与 query 后,既有模型实现一个受限的 \(K_u^z\) family。
Task/group 等索引只有在指向 task-declared persistent referent 时才可重读为 unit;problem-declaring task 本身不是 unit。
文献主要研究 environment \(e\) 等另一轴;它可与 unit 轴交叉,不能直接认作同一轴。
代数形式相似,却缺少 identity、persistence、attribution、available evidence 或 answer-query contract。
| 传统 / 索引 | 关系 | 在 unit coordinates 中怎样读 |
|---|---|---|
| Longitudinal random effects subject | Restricted instance | Scoped closest ancestor:known subject linkage、shared response family、subject-specific parameters;通常限制 parameter variation。 |
| Multitask learning task | Re-indexing | Task index 只有在指向某类跨 events 持续存在、由当前 learning task 声明为 unit 的 referent 时才成立;problem-declaring task 本身不是 unit。 |
| Latent variables / MoE component/expert | Non-reduction | Latent value 只有获得 identity、persistence 与 attribution contract 才成为 unit;per-query gate 也不等于 reusable which-unit belief。 |
| Grouped/meta/Neural Process group/episode/task | Restricted instance | Group boundary 指向 persistent referent 时成立;group、episode 或 task 标签不自动成为 unit。 |
| Covariate shift train/test environment | Adjacent axis · homogeneity boundary | \(P(X)\) 改变而 \(P(Y\mid X)\) 保持不变,是 environment 轴上的 homogeneity boundary。 |
| Domain adaptation source/target | Adjacent axis | 研究 environment-indexed generalization;domain bound 不自动成为 persistent-Individual theory。 |
| Invariant prediction environment | Adjacent axis | 它问什么跨 \(e\) 不变;unit heterogeneity 问什么跨 persistent \(u\) 变化。 |
| Recommendation user | Restricted instance | Trusted user ID 固定 persistent referent 与 update address,而 response objective 学习 embedding / factor / state;这是 familiar direct-access known-ID restricted instance,不属于 Unit Abduction;只有 ambiguous identity 才需要 reusable which-unit belief。 |
| Potential outcomes causal unit | Non-reduction | 共享 same-unit referential anchor;但 observational \(K_u^z\) 既不是 interventional law,也不识别 individual treatment effect。 |
相似代数形式不足以建立 reduction。比较时至少要检查 referential index、event linkage、response variation、shared restriction、observation/selection 与 answer-time query。把文献放进同一张表是 framework comparison,不是历史优先权证明。
unit 与 environment 是两条可以交叉的轴
谁的规律在变化?
Patient、device、account 等 persistent Individual;mixed effects 与 personalization 主要组织此轴。
在哪个制度或分布下?
Hospital、domain、policy、selection regime;covariate shift、adaptation 与 invariance 主要组织此轴。
模型可以跨 units 异质但跨 environments invariant;也可以跨 units homogeneous 却发生 environment shift;还可以两轴都变化。例如 patient 是 unit、hospital 是 environment;user 是 unit、exposure policy 是 environment。把 \(u\) 与 \(e\) 压成同一个模糊 group 会让这些科学问题在记号中消失。
这套坐标会生成哪些新 theory questions?
下面是研究议程,而不是本文已经建立的 theorem:
New-unit generalization
Sample complexity 怎样同时依赖 unit 数、每 unit events 与所声明 shared model class 的 complexity?
unit × environment transport
在 \(K_{u,e}^z\) 下,何时能同时迁移到 new unit 与 new environment?
Uncertain linkage
当 \(L\) 不直接揭示 \(U\) 时,unit-belief error 与 response-model error 能否分解?
Selective observation
Overlap、repeated evidence 与 \(M\) 对 identification / partial identification 各提出什么条件?
Falsification
匹配 information、capacity 与 split 后,unit-preserving 与 unit-erased protocols 何时必须分歧?
Structure discovery
Random effects、low-rank、shared representation 与 finite response types 能否被 deployment-relative tests 区分?
当前最强、也最克制的结论
unit primitive 先回答:究竟是谁的什么规律在变。
unit 形式化的贡献不是重新发明异质性,而是定义一个 persistent individual 所选择的整条 response law。 一旦 referential unit 与 query family 被声明,unit-conditioned response heterogeneity 就是这族 response laws 是否随 \(u\) 变化。
可辩护的统一不是 “all heterogeneity is the same”,而是:既有理论现在可以被精确描述为 restricted instances、re-indexings、adjacent axes 或 non-reduction boundaries;尚未组合的 coordinates 则显露为未来研究问题。
这套形式化真正带来的好处,是让“哪些相同、哪些不同、哪些可以组合”成为 typed、可检查的问题。Exhaustive novelty、historical priority、finite-sample learning theory 与 empirical value 仍然是开放 evidence gates。
这张历史地图由哪些一手文献锚定?
以下是当前 scoped map 的 anchors,不是 exhaustive novelty audit。
请直接审这六个位置
- “异质的是一个 unit 所选择的整条 response law”是否命中核心对象?
- “普通监督学习不声明 Individual 轴”是否比“它假设个体同质”更准确?
- 五类 regimes 是否真正解决了 pure-Unit 与 fully heterogeneous 的混淆?
- Random effects、multitask、environment theories 与 causal unit 的四种关系定位,哪里仍过强或过弱?
- Proper-score gap 是清晰的 oracle diagnostic,还是容易被误读为算法优势?
- 哪一个 future-theory question 最值得作为正文既有逻辑的下一步理论深化?