Predictions as Surrogates: Revisiting Surrogate Outcomes in the Age of AI¶
作者: Wenlong Ji, Lihua Lei, Tijana Zrnic
来源: Biometrika
主题: 因果推断
相关性: 8/10
机构绿灯: Stanford University(US News 前 50,免分进入精读)
链接: 期刊页 · arXiv
一、领域脉络与小综述¶
这个方向是什么¶
本文所处的子方向是预测驱动推断(Prediction-Powered Inference, PPI),其核心科学问题是:当真实结局(gold-standard outcome)昂贵或难以获取,而机器学习模型可以低成本地为大量无标签数据生成预测时,如何利用这些预测来提升下游统计推断(如均值、回归系数等)的效率与有效性。该方向处于因果推断、半参数统计与机器学习交叉的活跃地带,当前成熟度较高——已有多个方法被提出并应用于生物医学、社会科学等领域,但关于"最优效率"与"安全性"(即不劣于仅用标注数据)的权衡仍是开放问题。
发展脉络¶
- 奠基工作:Robins et al. (1994) 与 Chen and Chen (2000) 建立了代理结局(surrogate outcome)的半参数理论框架,证明了在缺失数据机制下,利用代理变量可以构造出渐近有效的估计方程,并给出了最优插补得分的形式。这是本文的理论源头。
- 现代PPI的兴起:Angelopoulos et al. (2023a) 提出预测驱动推断(PPI),将预训练模型的预测作为代理结局,通过构造"插补损失"(imputed loss)来校正仅用标注数据估计的偏差。Angelopoulos et al. (2023b) 进一步提出 PPI++,引入"功率调优"(power tuning)标量系数,在保证不劣于标注数据估计的前提下提升效率。
- 后续扩展:Gan et al. (2024) 提出预测去相关推断(PDC),Miao et al. (2025) 提出后预测自适应推断(PSPA),Gronsbell et al. (2024) 提出 CC 估计量的现代版本。这些工作都在探索如何更灵活地利用预测信息,但大多局限于线性变换或原始损失函数。
- 本文的位置:作者指出,现有 PPI 方法(PPI、PPI++、PSPA、PDC)都使用原始损失函数或其线性变换作为插补损失,这在预测与真实结局关系复杂(如非线性、异方差)时是次优的。本文通过引入重校准(recalibration)步骤,用机器学习灵活学习最优插补损失,从而在理论上达到 PPI 类估计量的最小渐近方差,同时通过交叉拟合保证安全性。
子线索聚类¶
- 代理结局与半参数效率理论:以 Robins et al. (1994)、Chen and Chen (2000)、Chen et al. (2005, 2008a) 为代表,关注在缺失数据或代理变量框架下的效率界与最优估计方程。本文直接继承此线索,并强调其与 PPI 的等价性。
- 预测驱动推断(PPI)方法学:以 Angelopoulos et al. (2023a,b)、Gan et al. (2024)、Miao et al. (2025)、Gronsbell et al. (2024) 为代表,关注如何将预测模型输出纳入推断框架,并保证有效性与效率提升。本文在此线索上提出新方法。
- 半监督与多源数据融合:以 Zhang et al. (2019)、Chakrabortty and Cai (2018)、Yang and Ding (2019) 为代表,关注利用无标签数据或辅助数据提升估计效率。PPI 可视为半监督推断的特例,本文的重校准思想与此线索有密切联系。
这个方向在追问的核心问题¶
- 如何构造最优插补损失? 现有方法多假设插补损失是原始损失的线性变换,本文追问:能否通过机器学习灵活学习非线性插补损失,从而逼近半参数效率界?
- 如何保证安全性? 即使用预测模型,推断结果不应比仅用标注数据更差。本文通过交叉拟合和矩阵调优保证这一点。
- 如何应对预测模型的偏差? 预训练模型可能在目标分布上存在系统性偏差(如分布漂移、模态不匹配),重校准如何纠正这些偏差?
⚠️ 作者的 framing¶
作者将本文定位为"从代理结局文献到 PPI 的桥梁",并强调两个关键缺口:(1) 现有 PPI 方法未充分利用代理结局文献中关于最优插补得分的理论;(2) 现有方法在插补损失估计不一致时可能失去效率甚至劣于基线。作者声称 RePPI 通过交叉拟合和线性化实现,在插补损失估计不一致时仍能保证不劣于 XY-only 估计量,若一致则达到最小渐近方差。这是作者的说法,其"最优性"定义在 PPI 类估计量(即公式 (7) 定义的类)内,而非所有可能估计量。 读者应自行判断这一 framing 是否成立,以及"最优性"是否具有实际意义。
张力¶
未见明显对立引用。但值得注意的是,Xu et al. (2025) 提出的半参数效率理论框架与本文的结论高度相关,作者承认其效率界与本文一致,但强调本文的计算策略更稳定。这暗示两篇工作在"如何实现效率"上存在竞争关系,而非理论上的矛盾。
二、最核心、最简单的例子 / 数学问题¶
第一步:符号、模型、可观测数据¶
- 符号:
- \(X\):用于定义推断目标的协变量(可观测,低维)。
- \(W\):额外的、可能高维或非结构化的数据(如图像、文本),仅通过预测模型间接使用。
- \(Y\):真实结局(gold-standard outcome),仅在标注数据中可观测。
- \(\hat{Y} = f(X, W)\):预训练模型的预测输出,对所有数据(标注+未标注)可观测。
- \(D \in \{0,1\}\):标注指示符,\(D=1\) 表示 \(Y\) 可观测。
- \(n\):标注样本量;\(N\):未标注样本量;总样本量 \(n+N\)。
- \(\theta^\star \in \mathbb{R}^d\):目标参数,定义为损失函数 \(\ell_\theta(X,Y)\) 的期望最小化解。
- \(U_\theta(X,Y) = \nabla_\theta \ell_\theta(X,Y)\):得分函数(score function)。
- \(s^\star(X,\hat{Y}) = E[U_{\theta^\star}(X,Y) | X, \hat{Y}]\):最优插补得分(optimal imputed score),即给定可观测信息 \((X,\hat{Y})\) 时真实得分的条件期望。
-
\(r = n/N\):标注与未标注样本量之比(渐近框架中 \(n/N \to r \in (0,1)\))。
-
模型:
- 数据生成:\((X_i, W_i, Y_i) \overset{iid}{\sim} P\),标注指示 \(D_i \sim \text{Bernoulli}(p)\) 独立于 \((X_i, W_i, Y_i)\),其中 \(p = n/(n+N)\)。
- 目标参数:\(\theta^\star = \arg\min_\theta E[\ell_\theta(X,Y)]\),满足 \(E[U_{\theta^\star}(X,Y)] = 0\)。
-
可观测数据:标注数据集 \(\{(X_i, W_i, Y_i)\}_{i=1}^n\) 和未标注数据集 \(\{(X_i, W_i)\}_{i=n+1}^{n+N}\)。注意:未标注数据中 \(Y\) 缺失,但 \(\hat{Y} = f(X,W)\) 对所有数据可观测。
-
关键区分:
- 可观测:\(X, W, \hat{Y}, D, Y\)(当 \(D=1\))。
- 不可观测(潜在):未标注数据中的 \(Y\)。所有推断必须基于可观测数据,且不能假设预测模型 \(\hat{Y}\) 与 \(Y\) 的关系已知。
第二步:最小内核¶
问题:估计 \(\theta^\star\),即最小化期望损失 \(E[\ell_\theta(X,Y)]\) 的参数。
核心困难:只有 \(n\) 个样本有真实 \(Y\),直接最小化经验损失 \(\frac{1}{n}\sum_{i=1}^n \ell_\theta(X_i, Y_i)\) 是有效的但浪费了 \(N\) 个未标注样本。如何利用 \(\hat{Y}\) 来提升效率?
最小内核(以均值估计为例): - 设 \(\ell_\theta(X,Y) = (Y - \theta)^2\),则 \(\theta^\star = E[Y]\),\(U_\theta(X,Y) = 2(\theta - Y)\)。 - 最优插补得分:\(s^\star(X,\hat{Y}) = E[2(\theta^\star - Y)|X,\hat{Y}] = 2(\theta^\star - E[Y|X,\hat{Y}])\)。 - 关键观察:如果已知 \(E[Y|X,\hat{Y}]\),则可以用所有 \(n+N\) 个样本估计 \(\theta^\star\),因为 \(E[Y|X,\hat{Y}]\) 对未标注样本也可计算。但 \(E[Y|X,\hat{Y}]\) 未知,需要从标注数据中估计。 - RePPI 的做法:用交叉拟合估计 \(\hat{s}(X,\hat{Y}) \approx E[Y|X,\hat{Y}]\),然后构造估计方程:
为什么这是最小内核:这个例子剥离了所有一般性假设(高维、非线性、因果效应等),直接展示了 RePPI 的核心机制——用预测模型输出 \(\hat{Y}\) 作为代理,通过估计最优插补得分 \(s^\star\) 来构造更高效的估计方程。一般情形(GLM、稳健回归等)只是将这个机制应用到不同的损失函数和得分函数上。
三、这篇论文做了什么¶
三句话¶
- 研究了什么问题:在预测驱动推断(PPI)框架下,如何通过灵活学习最优插补得分(而非局限于原始损失函数的线性变换)来构造更高效的估计量,并保证安全性(不劣于仅用标注数据的估计)。
- 核心工具/方法:提出了重校准预测驱动推断(RePPI),结合交叉拟合(cross-fitting)和线性化经验风险最小化(linearized ERM),用任意机器学习模型估计最优插补得分,并通过矩阵调优保证效率提升。
- 主要结论:RePPI 在插补得分估计不一致时仍能保证渐近方差不劣于 XY-only 估计量;若估计一致,则达到 PPI 类估计量的最小渐近方差。在三个真实数据应用中,RePPI 相比 PPI/PPI++ 显著缩短置信区间。
关键设定与假设¶
- 设定:标注数据 \(\{(X_i, W_i, Y_i)\}_{i=1}^n\) 与未标注数据 \(\{(X_i, W_i)\}_{i=n+1}^{n+N}\),\(n/N \to r \in (0,1)\)。目标参数由损失函数 \(\ell_\theta(X,Y)\) 定义,\(\theta^\star\) 唯一。
- 假设:
- 缺失机制:\(D \perp Y | (X, W)\)(标注缺失完全随机,或至少条件独立于 \(Y\))。这是 PPI 框架的标准假设,保证未标注数据仅缺失 \(Y\) 而不引入选择偏差。
- 正则性条件(Assumption 1):损失函数 \(\ell_\theta\) 凸、可微、局部 Lipschitz,且在 \(\theta^\star\) 处 Hessian 正定。这是证明渐近正态性的标准条件。
- 得分估计的 L2 一致性(Theorem 2 的核心条件):\(E[\|\hat{s}(X,\hat{Y}) - s(X,\hat{Y})\|^2] \to 0\),其中 \(s\) 是某个固定函数。注意:不要求 \(\hat{s}\) 一致估计最优插补得分 \(s^\star\),只需收敛到某个固定函数即可保证安全性。
-
交叉拟合:将标注数据分成 K 折,每折的得分估计器只用其他折训练,避免过拟合带来的偏差。
-
相比已有工作的放宽/强化:
- 放宽:不要求插补得分属于特定参数族(如线性函数),允许使用任意黑盒机器学习模型。
- 强化:要求交叉拟合,这比现有 PPI 方法(如 PPI++ 的标量调优)更复杂,但换来了对灵活得分估计器的安全性保证。
主要结果¶
- Theorem 1(最优插补得分):在 PPI 类估计量(公式 7)中,渐近方差最小的插补得分由 \(s^\star(X,\hat{Y}) = E[U_{\theta^\star}(X,Y)|X,\hat{Y}]\) 给出。这是对 Robins et al. (1994) 结果的现代重述,但明确指出了 PPI 类估计量的最优性条件。
- Theorem 2(RePPI 的渐近性质):在交叉拟合和 L2 一致性条件下,RePPI 估计量 \(\hat{\theta}_{\text{CrossFit}}\) 渐近正态,且其渐近方差满足:
\[\Sigma_{\text{RePPI}} \preceq \Sigma_{\text{XY-only}}\]即 RePPI 总是渐近不劣于仅用标注数据的估计量。若 \(\hat{s}\) 一致估计 \(s^\star\),则 \(\Sigma_{\text{RePPI}}\) 达到 PPI 类估计量的最小方差(Theorem 1 中的下界)。
- Proposition 1-3(三种场景的效率增益):
- 模态不匹配:预测模型仅使用 \(W\),而目标涉及 \(X\)。RePPI 的方差为 \(\sigma^2 + \frac{r}{1+r}\gamma^\top\Sigma_W\gamma\),相比 XY-only 的 \(\sigma^2 + \gamma^\top\Sigma_W\gamma\),增益随 \(r\) 增大而增大。
- 分布漂移:预测模型在源分布上训练,目标分布不同。RePPI 的方差不随漂移程度变化,而 PPI/PPI++ 的方差随漂移增大而恶化。
- 离散预测:预测输出为离散类别。RePPI 通过重校准将离散预测转化为连续得分,方差增益与模态不匹配场景类似。
- 真实数据应用:
- NIH ChestX-ray14:RePPI 相比 PPI++ 减少约 5% 的标注样本需求(在相同置信区间宽度下)。
- CivilComments-WILDS:RePPI 相比 PPI++ 减少约 6% 的标注样本需求。
- Wine Reviews:RePPI 相比 PPI++ 减少约 18-19% 的标注样本需求(离散预测场景)。
证明路线与技术技巧¶
- 整体路线:
- 建立 PPI 类估计量的统一框架:将现有 PPI 方法(PPI、PPI++、PSPA、PDC)统一到公式 (7) 的损失函数形式,并证明其渐近方差的一般表达式(Theorem 1 的证明)。
- 推导最优插补得分:通过变分法,最小化渐近方差关于插补得分 \(g_\theta\) 的泛函,得到 \(s^\star\) 的显式形式。
- 构造 RePPI 估计量:用交叉拟合估计 \(s^\star\),并证明其渐近等价于使用真实 \(s^\star\) 的估计量(Theorem 2 的证明)。
-
安全性证明:通过矩阵不等式,证明 RePPI 的渐近方差总是被 XY-only 的方差所支配(即 \(\Sigma_{\text{RePPI}} \preceq \Sigma_{\text{XY-only}}\))。
-
关键技巧:
- 交叉拟合:将得分估计与推断分离,避免过拟合偏差。这是从 Chernozhukov et al. (2018) 借用的标准技巧,但本文将其应用于 PPI 框架。
- 线性化 ERM:将插补损失 \(g_\theta\) 限制为线性函数 \(g_\theta(X,\hat{Y}) = \theta^\top M s(X,\hat{Y})\),使得优化问题保持凸性,同时允许 \(s\) 是非线性函数。
- 矩阵调优:通过公式 (13) 计算最优矩阵 \(\hat{M}\),类似于 PPI++ 的功率调优,但推广到矩阵情形。
- 渐近等价论证:利用交叉拟合的独立性,将 \(\hat{s}\) 视为固定函数,从而将 RePPI 的渐近分析简化为固定得分情形。
🔎 结论是否比证明窄¶
- Theorem 2 的证明:要求 \(E[\|\hat{s} - s\|^2] \to 0\),但未给出收敛速率。在实际应用中,如果 \(\hat{s}\) 收敛很慢(如高维非参数估计),RePPI 的有限样本表现可能远差于渐近理论。作者在附录中承认这一点,但未提供有限样本界。
- Theorem 1 的最优性:仅在 PPI 类估计量(公式 7)内成立。作者在 Remark 1 中讨论了对 \(W\) 直接建模的可能性,但未给出完整理论。这意味着 RePPI 可能不是全局最优估计量。
- 安全性保证:Theorem 2 只保证渐近方差不劣于 XY-only,但未讨论有限样本下的置信区间覆盖。模拟实验显示覆盖接近名义水平,但无理论保证。
- 结论的表述:作者在摘要和引言中声称"总是优于"现有 PPI 方法,但 Theorem 2 只证明了"不劣于 XY-only",并未直接与 PPI/PPI++ 比较。与 PPI++ 的比较是通过 Proposition 1-3 在特定场景下进行的,而非一般性结论。
四、开放问题¶
- 有限样本理论:Theorem 2 只给出渐近结果,未提供有限样本置信区间或收敛速率。能否建立 RePPI 在非渐近框架下的理论保证?(扎根于 Theorem 2 的 L2 一致性假设和附录 B 的讨论)
- 高维与结构化数据:当 \(X\) 或 \(W\) 是高维时,如何估计最优插补得分?是否存在维数灾难?能否利用稀疏性或低维结构?(扎根于 Remark 1 对 \(W\) 直接建模的讨论)
- 分布漂移的定量刻画:Proposition 2 给出了漂移对 PPI 方差的影响,但未给出漂移程度的可估计度量。能否构造漂移的估计量并用于自适应选择插补得分?
- 因果推断的扩展:本文聚焦于矩估计(均值、回归系数),但因果参数(如 ATE、ATT)通常涉及更复杂的识别条件。能否将 RePPI 扩展到因果推断框架?(扎根于附录 A 对因果推断文献的讨论)
- 多重预测源的融合:当有多个预训练模型时,如何选择或组合插补得分?是否存在类似模型平均的最优策略?(扎根于 Remark 1 对 \(W\) 的讨论,但未涉及多模型场景)
提示:要确认这些是否是真 gap,建议去读 PPI 领域近期约 5 篇论文(如 Angelopoulos et al. 2023a,b, Xu et al. 2025, Miao et al. 2025, Gan et al. 2024)的引言和未来工作部分。如果多篇论文都指向同一问题,那很可能是共识性 gap;如果互相矛盾,则可能是机会。
Maintained by 陈星宇 · Homepage · Source on GitHub