跳转至

U-aggregation: Unsupervised Aggregation of Multiple Learning Algorithms

讲者: Rui Duan
会场: Recent Advances in Real-World Data Integration
报告题目: U-aggregation: Unsupervised Aggregation of Multiple Learning Algorithms
链接: arXiv
来源: JCSDS 2026 · 返回会议总览


一、领域脉络与小综述

这个方向是什么

这个子方向解决的根本问题是:在没有真实标签(outcome)的目标人群中,如何整合多个预训练模型的预测值,得到一个比任何单个模型都更稳健、更准确的共识预测。当前成熟度处于早期方法已被提出、但面对现实复杂场景(异方差、对抗性模型)时表现不佳的阶段。该问题在开放科学和模型共享日益普及的背景下变得尤为重要,例如在遗传风险预测中,PGS Catalog 已公开超过 5000 个模型,但用户往往无法获得目标人群的疾病状态来验证哪个模型最好。

发展脉络(history)

  • 奠基工作:监督聚合。Lecué & Rigollet (2014) 和 Tsybakov (2004) 研究了分类器/模型的最优监督聚合,目标是找到预训练模型线性组合中的最优者。Van der Laan et al. (2007) 的 Super Learner 是经典集成方法,但所有这些方法都需要观测到的标签/结果。
  • 转向无监督聚合:谱方法。Parisi et al. (2014) 首次提出无监督元分类器,假设分类器条件独立,对二元输出进行整合。Ahsen et al. (2019) 将其扩展到连续得分,但仍依赖条件独立假设。Ma et al. (2023) 考虑整合多个降维算法,假设每个算法的输出是“信号+同方差高斯噪声”。Coombes et al. (2020) 提出用 PCA 改进 PRS 模型的调参。这些方法的共同点是:对预测值矩阵做谱分解,用特征向量确定权重,得到共识输出。
  • 当前 frontier:处理异方差与对抗性模型。现有无监督方法均假设噪声是同方差或结构简单,无法处理:(i) 模型间性能差异导致的异方差噪声;(ii) 个体间预测难度差异导致的样本级异方差;(iii) 完全无信息(对抗性)模型的存在。本文(Duan, 2025)定位为填补这一缺口。
  • 本文的位置:提出 U-aggregation,包含方差稳定化(利用随机矩阵理论中的 Dyson 方程)和稀疏信号恢复(利用近似消息传递 AMP),在理论上证明了高维渐近一致性,并在真实遗传风险预测中展示了优于现有方法的性能。

子线索聚类

  1. 监督聚合与集成学习:Lecué & Rigollet (2014), Tsybakov (2004), Van der Laan et al. (2007), Breiman (1996), Schapire (2003)。核心:需要标签,关注最优线性组合或 boosting/bagging。
  2. 无监督聚合(谱方法):Parisi et al. (2014), Ahsen et al. (2019), Ma et al. (2023), Coombes et al. (2020)。核心:对预测值矩阵做谱分解,假设噪声结构简单(同方差或条件独立)。
  3. 异方差噪声下的低秩估计:Zhang et al. (2022) 的 HeteroPCA, Landa & Kluger (2023) 的 Dyson Equalizer, Hong et al. (2021) 的 HEPPCAT。核心:处理噪声方差非均匀但结构已知或可估计的情况。本文的方差稳定化步骤直接借用此线索的工具。
  4. 近似消息传递(AMP)与稀疏恢复:Donoho et al. (2009), Bayati & Montanari (2011), Montanari & Venkataramanan (2021)。核心:用于低秩矩阵估计的迭代算法,具有可精确刻画的状态演化。本文用 AMP 处理稀疏的模型指示向量 u。

这个方向在追问的核心问题

  • Q1:如何在没有标签的情况下,从多个预训练模型的预测值中提取共识信号?——当前主流方法是谱分解,但假设噪声同方差。
  • Q2:如何处理模型间和个体间的异方差噪声?——现有方法(如 HeteroPCA)假设噪声独立且均值为零,但本文的噪声结构更复杂(归一化后产生相关性)。
  • Q3:如何识别并排除完全无信息的对抗性模型?——现有方法假设所有模型都有信息,本文引入稀疏指示向量 u。
  • Q4:如何在高维(模型数 d 和样本量 n 同阶增长)下保证估计的一致性?——本文在 d/n → α 的渐近框架下分析。

⚠️ 作者的 framing

作者把缺口 frame 成:现有无监督聚合方法(Parisi, Ahsen, Ma, Coombes)均假设噪声同方差或结构简单,无法处理现实中的异方差和对抗性模型,因此本文的方差稳定化+AMP 是“显然的下一步”。竞争路线(如 HeteroPCA)被作者淡化,理由是其假设独立均值为零的噪声,不适用于本文归一化后的噪声结构(第 2.2 节第一段)。值得研究者去查的问题:作者没有引用任何关于“无监督模型聚合”的贝叶斯方法(如 latent variable models with variational inference),也没有讨论“模型校准”(Guo et al., 2017)在无标签场景下的变体。这些是否相关?此外,作者未提及“集成学习中的 diversity 度量”这一经典线索——是否 diversity 信息可被无监督利用?

张力

未见明显对立引用。所有被引工作基本是互补的:监督 vs 无监督、同方差 vs 异方差、有无对抗性模型。作者将本文定位为在更现实设定下统一并超越现有方法。

二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据交代清楚

符号: - \( n \):目标人群的样本量(个体数)。 - \( d \):预训练模型的数量。 - \( Y_i \in \mathbb{R}^n \):第 \( i \) 个模型对 \( n \) 个个体的预测值向量(可观测)。 - \( v \in \mathbb{R}^n \):真实潜在风险向量(不可观测,要估计的目标)。 - \( u_i \in \{0, \sqrt{\gamma/s}\} \):二元指示变量,\( u_i \neq 0 \) 表示第 \( i \) 个模型包含信号(不可观测,要估计的目标)。\( s = \sum_i 1\{u_i \neq 0\} \) 是信息模型的数量,\( \gamma > 0 \) 是常数使得 \( \|u\|^2 = \gamma \)。 - \( c_i > 0 \):模型特定的全局尺度因子(不可观测)。 - \( \sigma_i > 0 \):模型特定的噪声水平(不可观测)。 - \( f = (f_1, \dots, f_n) \in \mathbb{R}^n \):个体特定的噪声水平(不可观测),\( F = \text{diag}(f^{1/2}) \)。 - \( w_i \sim N(0, \frac{1}{n} I_n) \):标准高斯噪声向量(不可观测)。 - \( \bar{Y} \in \mathbb{R}^{d \times n} \):行归一化后的预测值矩阵,第 \( i \) 行为 \( \bar{Y}_i = Y_i / \|Y_i\|_2 \)可观测,由 \( Y_i \) 计算得到)。 - \( \bar{u} \in \mathbb{R}^d \):归一化后的模型权重向量,\( \bar{u}_i \approx u_i / \sqrt{\lambda^2 u_i^2 + \sigma_i^2} \)不可观测,但近似于信号强度)。 - \( \lambda = \lim_{n \to \infty} \|v\|_2 \):信号强度的渐近极限(未知参数)。 - \( \alpha = \lim_{n,d \to \infty} d/n \):模型数与样本数之比(渐近常数)。 - \( \omega = \lim_{d \to \infty} s/d \):信息模型的比例(渐近常数)。

模型(数据生成机制):

\[Y_i = c_i (u_i v + \sigma_i F w_i), \quad i = 1, \dots, d.\]
其中 \( v \) 是固定但未知的信号向量,\( u_i \) 是稀疏的二元指示,\( F \) 捕捉个体异方差,\( \sigma_i \) 捕捉模型异方差,\( w_i \) 是独立同分布的高斯噪声。归一化后得到:
\[\bar{Y} = \bar{u} v^\top + H W F,\]
其中 \( H = \text{diag}(\sigma_1 / \|v u_1 + \sigma_1 w_1\|_2, \dots) \)\( W \)\( d \times n \) 的 i.i.d. \( N(0, 1/n) \) 矩阵。

可观测数据:研究者能观测到的是 \( Y_1, \dots, Y_d \)(每个模型对 \( n \) 个个体的预测值),以及由此计算出的 \( \bar{Y} \)不可观测的是:真实风险 \( v \),模型指示 \( u_i \),噪声参数 \( \sigma_i, f_j, c_i \),以及信号强度 \( \lambda \)

第二步:最小内核

最简特例:假设所有模型都有信息(\( u_i = 1 \) 对所有 \( i \)),噪声是同方差的(\( \sigma_i = 1, f_j = 1 \)),且无尺度差异(\( c_i = 1 \))。此时模型退化为:

\[Y_i = v + w_i, \quad w_i \sim N(0, \frac{1}{n} I_n).\]
归一化后,\( \bar{Y} \approx \bar{u} v^\top + \text{noise} \),其中 \( \bar{u}_i \approx 1 / \sqrt{\lambda^2 + 1} \) 是常数。问题简化为:从 \( \bar{Y} = \text{constant} \cdot v^\top + \text{homoskedastic noise} \) 中估计 \( v \)。此时,最优估计就是 \( \bar{Y} \) 的第一个左奇异向量(PCA),这正是 Parisi et al. (2014) 和 Ma et al. (2023) 的方法。

本文的核心困难:当 (i) 噪声是异方差的(\( \sigma_i \)\( f_j \) 变化),(ii) 存在无信息模型(\( u_i = 0 \)),(iii) 尺度 \( c_i \) 不同时,上述简单 PCA 失效。本文的核心想法是两步走: 1. 方差稳定化:利用 Dyson 方程估计噪声方差矩阵的秩一结构(\( S \approx h_0 f^\top \)),然后对 \( \bar{Y} \) 做双白化(bi-whitening),使噪声近似同方差。 2. 稀疏信号恢复:对白化后的矩阵 \( \tilde{Y} \),用 AMP 算法迭代估计稀疏的 \( \tilde{u} \)\( \tilde{v} \),利用 \( u \) 的稀疏性(只有部分模型有信息)提升估计精度。

最小内核命题:给定 \( \bar{Y} = \bar{u} v^\top + E \),其中 \( E \) 的方差矩阵 \( S \) 近似为秩一(\( S \approx h_0 f^\top \)),且 \( \bar{u} \) 是稀疏的(大部分元素接近 0),能否设计一个算法,在 \( d, n \to \infty \)\( d/n \to \alpha \) 时,一致地估计 \( v \)\( \bar{u} \)?本文的回答是:能,通过 Dyson Equalizer 做方差稳定化,再通过 AMP 做稀疏恢复。

三、这篇论文做了什么

三句话

  1. 研究问题:在无标签的目标人群中,整合多个预训练模型的预测值,以得到稳健的共识风险估计,并评估每个模型的相对性能。
  2. 核心工具/方法:提出 U-aggregation 算法,包含两步——(i) 基于 Dyson 方程的方差稳定化(Algorithm 1),(ii) 基于近似消息传递(AMP)的稀疏秩一信号恢复(Algorithm 2)。
  3. 主要结论:在 \( d, n \to \infty \)\( d/n \to \alpha \) 的高维渐近框架下,方差稳定化估计量 \( \hat{H}, \hat{F} \)\( O(d^{-1/2+\epsilon}) \) 的速率收敛(Theorem 3.1);AMP 估计量的余弦相似度收敛到由状态演化方程确定的极限(Theorem 3.3);在真实遗传风险预测中,U-aggregation 优于简单平均、PCA 和 HeteroPCA,甚至超过基于真实结果选出的最佳模型。

关键设定与假设

  • 模型 (1)\( Y_i = c_i (u_i v + \sigma_i F w_i) \)。这是全文的基础。相比已有文献(如 Ma et al. 2023 的同方差高斯假设),本文引入了:(i) 模型特定尺度 \( c_i \),(ii) 稀疏指示 \( u_i \)(允许无信息模型),(iii) 模型异方差 \( \sigma_i \),(iv) 个体异方差 \( F \)
  • 假设 (A1)-(A8)
  • (A1) \( d/n \to \alpha \in (0, \infty) \):高维渐近框架。
  • (A2) \( \|v\|_\infty \lesssim \|v\|_2 \sqrt{\log n / n} \):信号向量是“离域化”的(dense),没有个别极端大的分量。
  • (A3) \( \|v\|_2 \to \lambda > 0 \):信号强度收敛到常数。
  • (A4) \( u_i \in \{0, \sqrt{\gamma/s}\} \)\( s/d \to \omega \in (0,1) \):稀疏性假设,信息模型比例 \( \omega \) 固定。
  • (A5) \( \sigma_i \)\( f_j \) 有界且远离 0 和 \( \infty \):噪声水平不极端。
  • (A6)-(A8):关于 \( v \)\( \tilde{u} \)\( \tilde{v} \) 的经验分布弱收敛到某个分布,且二阶矩为 1。这些是 AMP 状态演化分析的标准假设,确保参数缩放合适,使得 \( \lambda \) 成为全局信噪比。
  • BBP 条件\( \lambda^2 \sqrt{\alpha} > 1 \)(Theorem 3.3 的前提)。这是信号可被检测的相变阈值,来自随机矩阵理论(Baik, Ben Arous, Péché, 2005)。若信噪比低于此阈值,谱方法无法恢复信号。

主要结果

  • Theorem 3.1(方差稳定化的一致性):在 (A1)-(A5) 下,\( \|\hat{H} - \bar{H}\| \leq C d^{-1/2+\epsilon} \)\( \|\hat{F} - \bar{F}\| \leq C d^{-1/2+\epsilon} \) 以高概率成立。其中 \( \bar{H}, \bar{F} \)\( h_0, f \) 的重新缩放版本。直觉:尽管噪声是异方差的,但其方差矩阵近似为秩一结构,Dyson 方程能有效估计这个结构,从而通过双白化使噪声同方差。必要条件:信号向量 \( v \) 是 dense 的(A2),噪声参数有界(A5)。
  • Theorem 3.3(AMP 的渐近极限):在 (A1)-(A7) 和 \( \lambda^2 \sqrt{\alpha} > 1 \) 下,AMP 迭代 \( t \) 步后,估计量 \( \tilde{v}_t, \tilde{u}_t \) 与真实值 \( \tilde{v}, \tilde{u} \) 的余弦相似度几乎必然收敛到由状态演化方程 (24)-(25) 确定的极限。直觉:AMP 的 Onsager 修正项消除了迭代中的自相关偏差,使得其行为可由一个低维递归精确刻画。必要条件:信噪比超过 BBP 阈值;阈值函数 \( g_t \) 是 Lipschitz 的(软阈值满足)。技术难点:证明状态演化方程在非 i.i.d. 的 \( \tilde{u}, \tilde{v} \) 下仍成立——本文假设其经验分布收敛,这是标准做法。

证明路线与技术技巧

整体路线(Theorem 3.1): 1. 建立 \( \bar{Y} \) 的渐近谱性质:利用随机矩阵理论,证明 \( \bar{Y} \) 的奇异值经验谱分布收敛到某个确定分布(Marchenko-Pastur 型),且最大奇异值在 BBP 相变下分离。 2. 用 Dyson 方程连接 resolvent 对角元与方差结构:定义对称化矩阵 \( \mathcal{Y} \),其 resolvent \( R(z) = (\mathcal{Y} - zI)^{-1} \)。已有结果(Erdős et al., 2019; Ajanki et al., 2019)表明,\( R(z) \) 的对角元集中在 Dyson 方程 \( z + S q = -1/q \) 的解 \( q \) 附近。 3. 估计 \( g^{(1)}, g^{(2)} \):选择 \( z = i\bar{\theta} \)\( \bar{\theta} \) 是奇异值中位数),用 \( \bar{Y} \) 的 SVD 计算 \( \hat{g}^{(1)}, \hat{g}^{(2)} \)(Algorithm 1 Step 2)。这本质上是利用谱分解近似 resolvent 对角元。 4. 反解 \( h, f \):利用秩一方差结构 \( S = h_0 f^\top \) 下 Dyson 方程的解与 \( h, f \) 的关系(公式 (9)),从 \( \hat{g}^{(1)}, \hat{g}^{(2)} \) 得到 \( \hat{h}, \hat{f} \)。 5. 收敛速率:通过随机矩阵的浓度不等式(如局部 Marchenko-Pastur 律的波动界),证明 \( \hat{g}^{(1)}, \hat{g}^{(2)} \)\( O(d^{-1/2+\epsilon}) \) 的速率收敛,从而 \( \hat{h}, \hat{f} \) 也以相同速率收敛。

整体路线(Theorem 3.3): 1. 初始化:取 \( \tilde{v}_0 \)\( \tilde{Y} \) 的第一个右奇异向量。在 BBP 条件下,它与真实 \( \tilde{v} \) 有非零的相关性。 2. AMP 迭代:对 \( t = 0, 1, \dots, L \): - \( w_t = \tilde{Y} \tilde{v}_t - \frac{n}{d} \tilde{u}_{t-1} \)(Onsager 修正项 \( -\frac{n}{d} \tilde{u}_{t-1} \) 消除自相关)。 - \( \tilde{u}_t = g_t(w_t) \)(软阈值,鼓励稀疏性)。 - \( \tilde{v}_{t+1} = \tilde{Y}^\top \tilde{u}_t - c_t \tilde{v}_t \)\( c_t = \frac{1}{d} \|w_t\|_0 \)(另一个 Onsager 修正)。 3. 状态演化:证明在 \( n, d \to \infty \) 时,\( (\tilde{u}_t, \tilde{v}_t) \) 的联合经验分布收敛到由 (24)-(25) 定义的确定过程。关键步骤是证明 AMP 迭代中的“记忆效应”被 Onsager 项消除,使得每一步的输入可近似视为“真实信号+独立高斯噪声”。 4. 余弦相似度:从状态演化参数 \( (\mu_t, \sigma_t, \bar{\mu}_t, \bar{\sigma}_t) \) 直接读出 \( \langle \tilde{v}, \tilde{v}_t \rangle / (\|\tilde{v}\| \|\tilde{v}_t\|) \) 的极限。

关键跳跃点: - \( \bar{Y} \) 的 SVD 到 \( \hat{g} \) 的估计:Algorithm 1 Step 2 的公式看似随意,但实际上是利用 \( \bar{Y} \) 的奇异值分解来近似 resolvent 对角元。证明需要建立 \( \sum_k \bar{\theta}/(\theta_k^2 + \bar{\theta}^2) U_{ik}^2 \)\( \text{Im}(R(i\bar{\theta})_{ii}) \) 之间的联系,这依赖于 \( \bar{Y} \) 的 SVD 与 \( \mathcal{Y} \) 的特征分解之间的关系。 - AMP 的 Onsager 修正\( -\frac{n}{d} \tilde{u}_{t-1} \)\( -c_t \tilde{v}_t \) 是保证状态演化成立的关键。没有它们,迭代会积累偏差,导致无法精确刻画。证明这些修正项确实消除了相关性,需要用到 \( \tilde{Y} \) 的旋转不变性和高斯性。 - 软阈值函数 \( g_t \):选择阈值 \( \tau_t \) 使得 \( \tilde{u}_t \) 的稀疏度匹配真实 \( \tilde{u} \) 的稀疏度。Theorem 3.3 对任何 Lipschitz 的 \( g_t \) 成立,但实际中阈值的选择影响收敛速度。

技术技巧点名: - Dyson Equalizer (Landa & Kluger, 2023):用于方差稳定化,核心是 Dyson 方程和 resolvent 对角元的估计。 - Approximate Message Passing (AMP) (Donoho et al., 2009; Bayati & Montanari, 2011):用于稀疏秩一信号恢复,核心是 Onsager 修正和状态演化。 - 随机矩阵理论:用于建立 \( \bar{Y} \) 的谱性质(Marchenko-Pastur 律、BBP 相变)和 resolvent 的浓度。 - 软阈值算子:用于在 AMP 中鼓励 \( \tilde{u} \) 的稀疏性。

真实例子与应用

  • 数据:All of Us (AoU) 研究队列,选取 4 个连续性状(身高、BMI、HDL、LDL),从 PGS Catalog 下载所有可用的 PRS 模型(每个性状 84-97 个模型),对 3000 个随机抽样的个体进行评分。
  • 方法应用:对每个性状,用 U-aggregation 整合所有 PRS 模型的预测值,得到共识 PRS 得分。比较对象:简单平均、PCA、HeteroPCA,以及“最佳模型”(基于真实观测值选出的相关性最高的单个模型)。
  • 结果
  • U-aggregation 在所有 4 个性状上的相关性均高于简单平均、PCA 和 HeteroPCA。
  • 更引人注目的是,U-aggregation 甚至略微超过基于真实结果选出的最佳模型(Figure 6)。这意味着无监督聚合可以比任何单个有监督选出的模型更好。
  • U-aggregation 分配给每个模型的权重 \( \hat{u}_i \) 与模型真实性能(\( R^2 \))的相关性很高(0.73-0.91),说明它能有效评估模型质量。
  • 这个例子想说明什么:(i) 验证了模型 (1) 的合理性——Figure 5 显示奇异值比值呈秩一结构,模型性能差异大(correlation 从 -0.1 到 0.4)。(ii) 展示了 U-aggregation 在实际应用中的优势,尤其是在无法获得真实标签时,它不仅能超越现有无监督方法,甚至能逼近(或超过)有监督选出的最佳模型。

🔎 结论是否比证明窄

  • Theorem 3.1 的收敛速率:证明的是 \( \|\hat{H} - \bar{H}\| \leq C d^{-1/2+\epsilon} \),但 \( \bar{H} \)\( h_0 \) 的重新缩放版本(\( \bar{h} = a h_0 \)),而非 \( h_0 \) 本身。这意味着方差稳定化只能恢复方差结构到未知的全局缩放因子。作者在 Algorithm 1 中用了 \( n^{1/4} \) 的缩放,但理论上这个缩放是任意的——只要 \( \hat{H} \)\( \hat{F} \) 的乘积能正确归一化噪声即可。结论比证明窄的地方:Theorem 3.1 只保证 \( \hat{H}, \hat{F} \) 收敛到某个缩放版本,但实际算法中使用的缩放(\( n^{1/4} \))是否最优?作者没有讨论。
  • Theorem 3.3 的渐近极限:证明的是余弦相似度的极限,而非估计误差(如 MSE)的极限。余弦相似度只关心方向,不关心尺度。最终估计 \( \hat{v} = \hat{F} \tilde{v}_L \) 的尺度可能偏离真实 \( v \)。作者在应用中用相关性评估,回避了尺度问题。结论比证明窄:论文没有给出 \( \|\hat{v} - v\|_2 \) 的收敛速率或渐近分布。
  • AMP 的假设:Theorem 3.3 要求噪声是高斯分布(\( w_i \sim N(0, I/n) \))。作者在讨论中承认这可能有限制,但引用 Wang et al. (2024) 的 universality 结果来辩护。结论比证明窄:严格证明只对高斯噪声成立,实际应用中的非高斯噪声是否仍有效,只有模拟支持(Figure S2 显示均匀噪声下仍稳定),没有理论保证。

四、开放问题

  1. 非高斯噪声下的 AMP 理论:Theorem 3.3 严格假设高斯噪声。Wang et al. (2024) 的 universality 结果是否可直接应用于本文的异方差设定?需要验证。扎根于 Section 6 第二段:“the assumption of Gaussian-distributed noise may be restrictive in certain practical scenarios... Recent theoretical advancements suggest the universality of AMP theory beyond Gaussian noise (Wang et al., 2024).”

  2. 多秩信号扩展:本文假设信号是秩一的(\( \bar{u} v^\top \))。若真实风险由多个潜在因素驱动(如多个遗传通路),信号可能是低秩的(rank \( r > 1 \))。如何将 U-aggregation 扩展到多秩情形?扎根于 Section 6 第三段:“A key assumption underlying the method is the rank-one structure of the signal.”

  3. 外部信息的整合:当有关于模型可靠性或源-目标人群相似性的外部信息时,如何将其作为先验或约束纳入 U-aggregation?例如,对 \( u \) 施加贝叶斯先验,或利用方差结构的先验知识。扎根于 Section 6 第四段:“external information regarding the reliability or similarity between the source training data and the target population may be available... can be incorporated into the procedure, for example, by imposing constraints on u or providing insights into the variance structure.”

  4. 计算效率与可扩展性:Algorithm 1 需要计算 \( \bar{Y} \) 的完整 SVD(\( O(d^2 n) \)\( O(d n^2) \)),当 \( d \)\( n \) 很大时可能成为瓶颈。是否有随机化或在线版本的 U-aggregation?扎根于 Algorithm 1 的输入要求(\( \bar{Y} \in \mathbb{R}^{d \times n} \))和 SVD 的计算成本。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论