跳转至

Semi-supervised calibration of inferred outcomes for estimating average treatment effects with validated outcomes

作者: Daniel A Xu, Katherine P Liao, Tianxi Cai, David Cheng
来源: Biostatistics
主题: 因果推断
相关性: 7/10
机构绿灯: Harvard University(US News 前 50,免分进入精读)
链接: https://doi.org/10.1093/biostatistics/kxag023


一、领域脉络与小综述

这个方向是什么

本文所处的子方向是半监督因果推断(semi-supervised causal inference),其根本科学问题是:当结局变量(outcome)无法对所有样本可靠观测,只能在一小部分随机子样本上获得"金标准"验证值时,如何利用大量未验证样本(通常带有代理结局或推断结局)来一致且高效地估计平均处理效应(ATE)。这一问题的统计本质是在部分标记(semi-supervised)框架下处理测量误差与标签噪声,同时保持因果估计的鲁棒性与效率。该方向当前处于活跃发展阶段,主要驱动力来自电子健康记录(EHR)数据的大规模可用性与结局表型(phenotyping)算法的不完美性之间的矛盾。

发展脉络(history)

作者在引言中亲手绘制了该领域的 gap 地图,其引用脉络大致如下:

  • 奠基工作:从完整数据到缺失结局的因果推断。引言首先指出,当结局完全可观测时,标准的增广逆概率加权(AIPW)估计量(Robins, Rotnitzky & Zhao, 1994)已实现双重稳健性与半参数效率。这是本文方法论的逻辑起点——AIPW 的增广项结构将被推广到半监督场景。
  • 主要进展一:利用代理结局(surrogate outcomes)进行校准。作者引用了 Athey et al. (2019) 与 Kallus & Mao (2020) 的工作,这些研究在"主结局(primary outcome)仅在子样本可观测、代理结局(surrogate)全样本可观测"的设定下,提出了利用代理变量恢复主结局均值的估计策略。作者指出,这些方法通常要求代理结局与处理分配条件独立(给定主结局),或依赖特定的结果回归模型。
  • 主要进展二:半监督框架下的效率界。作者引用了 Chakrabortty & Cai (2018) 与 Zhang, Chakrabortty & Bradic (2020) 关于半监督估计的一般理论,这些工作建立了在部分标记数据下均值与回归函数估计的渐近效率界,并证明利用未标记数据可以降低渐近方差(当标记概率趋于 0 时)。本文的局部半参数有效性声明直接建立在这一理论脉络之上。
  • 主要进展三:EHR 表型建模与下游因果推断的偏差。作者引用了 Liao et al. (2019) 与 Cheng et al. (2020) 关于利用自然语言处理与机器学习构建表型算法的应用工作,指出这些算法在内部验证集上表现良好,但直接将其输出的推断结局(inferred outcomes)用于因果推断会因算法误差(灵敏度/特异度不完美)而引入偏差。这一观察是本文问题的直接动机。
  • 本文的位置:作者将上述两条线索(半监督效率理论 + 代理结局校准)缝合,提出一个统一框架:将"推断结局 + 部分验证结局"问题类比为纵向研究中的单调缺失(monotone missingness)问题,从而借用缺失数据文献中的工具(如 IPW、AIPW)来构造校准估计量。本文的贡献在于:(i) 建立与单调缺失均值估计的精确类比;(ii) 证明所提估计量的多重稳健性与局部半参数效率;(iii) 发现极端标记倾向得分下的有限样本效率增益机制。

子线索聚类

被引文献大致落在三条子线索上:

  1. 半监督估计与效率理论(Chakrabortty & Cai 2018; Zhang et al. 2020):这类工作研究在部分标记数据下,如何利用未标记协变量提升估计效率,并刻画渐近效率界。核心工具是半参数效率理论中的影响函数(influence function)与切空间(tangent space)计算。
  2. 代理结局与替代指标校准(Athey et al. 2019; Kallus & Mao 2020):这类工作研究当主结局缺失、代理结局全样本可观测时,如何通过代理变量恢复因果估计的一致性。核心假设通常涉及代理结局与处理的条件独立性,或结果回归的可识别性条件。
  3. EHR 表型算法与下游分析(Liao et al. 2019; Cheng et al. 2020):这类应用工作展示表型算法在内部验证中的表现,但通常不讨论下游因果推断的偏差校正问题。本文填补的正是这一"算法输出 → 因果估计"之间的方法论空白。

这个方向在追问的核心问题

  • Q1(一致性):当推断结局存在系统性偏差(如灵敏度/特异度不完美)时,如何构造 ATE 的一致估计量?需要哪些识别条件?
  • Q2(效率):在部分验证设计下,半监督估计量的渐近方差下界是什么?未标记数据能带来多少效率增益?增益何时消失(如标记概率趋于 1)?
  • Q3(鲁棒性):估计量能否在结果回归模型、倾向得分模型、验证机制模型三者中部分错误设定时仍保持一致(即多重稳健性)?
  • Q4(有限样本):在极端倾向得分(如验证概率接近 0 或 1)下,估计量是否会出现数值不稳定?如何通过归一化或增广项重整来缓解?

已知瓶颈:现有代理结局方法通常要求较强的条件独立假设(如代理结局与处理给定主结局独立),这在 EHR 场景中难以验证;而半监督效率理论虽给出效率界,但未直接处理"推断结局本身有偏"的情形。本文试图同时解决这两个瓶颈。

⚠️ 作者的 framing(这是作者的说法)

作者将问题 frame 为"纵向研究中单调缺失的均值估计"的类比:将"验证状态"视为时间维度上的缺失指示,将"推断结局"视为中间时间点的观测,将"验证结局"视为最终时间点的观测。这一类比使得缺失数据文献中的成熟工具(IPW、AIPW、单调缺失下的效率理论)可以直接借用。作者淡化的竞争路线包括:(i) 直接对推断结局做测量误差校正(如 SIMEX 或回归校准),这类方法通常需要额外的验证子样本且不保证因果估计的鲁棒性;(ii) 将验证子样本视为唯一有效数据、丢弃未验证样本的"完整数据"分析,作者指出这在验证比例低时效率损失严重。值得研究者去查的问题:引言中未提及近期关于"半监督双重稳健估计"的若干工作(如 Wang et al. 2022 在 NeurIPS 上的工作),也未讨论"分布偏移下验证子样本代表性"的问题——这些可能是作者刻意回避的竞争路线或潜在弱点。

张力

未见明显对立引用。但存在一个隐含张力:Chakrabortty & Cai (2018) 的半监督效率理论通常假设标记机制(labeling mechanism)是协变量条件独立的(即 missing at random),而本文的验证子样本假设是"随机标记"(label at random),这比 MAR 更强。作者未讨论当验证机制依赖于未观测因素时(即 MNAR)的识别失败模式——这是一个值得研究者注意的边界。


二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据交代清楚

符号(逐个点名):

  • \(Y\):结局变量(outcome),潜在完全可观测但实际仅部分可观测的量。本文中 \(Y\) 是"金标准"验证结局(如医生确认的疾病活动状态)。
  • \(\tilde{Y}\):推断结局(inferred outcome),由表型算法或规则生成,对所有样本可观测。\(\tilde{Y}\) 是 \(Y\) 的噪声代理。
  • \(A\):处理分配(treatment assignment),二值(如两种抗 TNF 疗法),对所有样本可观测。
  • \(X\):协变量向量(baseline covariates),对所有样本可观测。
  • \(R\):验证指示(validation indicator),\(R=1\) 表示该样本的 \(Y\) 被金标准验证,\(R=0\) 表示仅观测到 \(\tilde{Y}\)。\(R\) 是随机变量,假设 \(R \perp (Y, \tilde{Y}, A, X) \mid X\)(即随机验证,给定协变量下验证机制与所有变量独立)。
  • \(\pi(X) = P(R=1 \mid X)\):验证倾向得分(validation propensity score),是参数/未知函数,需要估计。
  • \(e(X) = P(A=1 \mid X)\):处理倾向得分(treatment propensity score),是参数/未知函数,需要估计。
  • \(\mu_a(X) = E[Y \mid A=a, X]\):潜在结局回归(potential outcome regression),是参数/未知函数,需要估计。
  • \(\tau = E[Y(1) - Y(0)]\):平均处理效应(ATE),是目标 estimand(要估的参数)。
  • \(Y(a)\):潜在结局(potential outcome),不可观测的反事实量,仅在 \(A=a\) 时 \(Y(a)=Y\) 可观测。

模型(数据生成机制):

  • 对每个样本 \(i\),协变量 \(X_i\) 从某分布 \(P_X\) 生成。
  • 给定 \(X_i\),处理 \(A_i \sim \text{Bernoulli}(e(X_i))\)。
  • 给定 \((A_i, X_i)\),潜在结局 \((Y_i(0), Y_i(1))\) 从某联合分布生成,满足一致性(consistency):\(Y_i = Y_i(A_i)\)。
  • 给定 \((A_i, X_i, Y_i)\),推断结局 \(\tilde{Y}_i\) 由某个(可能依赖于 \(Y_i\) 和 \(X_i\) 的)噪声机制生成,即 \(\tilde{Y}_i \sim P_{\tilde{Y} \mid Y, X}\)。注意:\(\tilde{Y}\) 的生成机制不需要被正确指定——这是本文方法的关键优势。
  • 给定 \(X_i\),验证指示 \(R_i \sim \text{Bernoulli}(\pi(X_i))\),且 \(R_i \perp (Y_i, \tilde{Y}_i, A_i) \mid X_i\)(随机验证假设)。
  • 可观测数据:\((X_i, A_i, \tilde{Y}_i, R_i, R_i Y_i)\),即所有样本都有 \(X, A, \tilde{Y}\),但只有 \(R=1\) 的子样本有 \(Y\)。关键:\(Y\) 在 \(R=0\) 的子样本中完全缺失,且缺失机制已知(由 \(\pi(X)\) 控制)。

第二步:最小内核

剥掉所有一般性假设后,本文的核心数学问题可以归结为:

假设我们有一个二值处理 \(A\)、一个协变量 \(X\)、一个"好"结局 \(Y\)(仅在随机子样本中可观测)和一个"坏"代理 \(\tilde{Y}\)(全样本可观测)。\(\tilde{Y}\) 与 \(Y\) 的关系完全未知(可能有偏、可能非线性)。我们能否仅利用"验证子样本中的 \((Y, \tilde{Y}, A, X)\)"和"未验证子样本中的 \((\tilde{Y}, A, X)\)"来一致估计 \(\tau = E[Y(1) - Y(0)]\)?

最小特例(最简情形):假设 \(X\) 为空(无协变量),\(A\) 为二值,\(Y\) 为二值(如疾病活动/不活动),\(\tilde{Y}\) 为二值(算法预测)。验证子样本比例为 \(\pi\)(常数)。此时:

  • 可观测数据:\(n\) 个样本中,\(n_1 = n\pi\) 个有 \((A, Y, \tilde{Y})\),\(n_0 = n(1-\pi)\) 个仅有 \((A, \tilde{Y})\)。
  • 目标:估计 \(\tau = P(Y=1 \mid A=1) - P(Y=1 \mid A=0)\)。

朴素方法:只用验证子样本,直接估计 \(P(Y=1 \mid A=a)\)。这给出一致估计,但方差为 \(O(1/(n\pi))\),当 \(\pi\) 小时方差很大。

本文方法的直觉:验证子样本可以用来估计"\(\tilde{Y}\) 对 \(Y\) 的预测关系"(即校准映射 \(g_a(\tilde{Y}) = E[Y \mid A=a, \tilde{Y}]\)),然后对未验证子样本中的每个样本,用 \(g_a(\tilde{Y})\) 作为 \(Y\) 的"插补值",最后用 AIPW 形式的估计量结合插补值与验证子样本中的真实值。关键点:即使 \(\tilde{Y}\) 与 \(Y\) 的关系完全错误指定(例如 \(\tilde{Y}\) 是 \(Y\) 的相反指标),只要验证子样本能一致估计 \(g_a(\tilde{Y})\),插补就是一致的——因为 \(g_a(\tilde{Y})\) 本身是条件期望,不需要 \(\tilde{Y}\) 是 \(Y\) 的"好"预测。

为什么成立(数学直觉):考虑估计 \(\mu_a = E[Y \mid A=a]\)。我们有恒等式:

\[\mu_a = E[E[Y \mid A=a, \tilde{Y}]] = E[g_a(\tilde{Y})]\]
因此,如果我们能一致估计 \(g_a(\tilde{Y})\)(用验证子样本),那么 \(\frac{1}{n}\sum_{i: A_i=a} g_a(\tilde{Y}_i)\) 就是 \(\mu_a\) 的一致估计,且利用了全部 \(n\) 个样本(包括未验证的)。方差为 \(O(1/n)\) 而非 \(O(1/(n\pi))\)。这就是半监督增益的来源。

本文的推广:将上述直觉推广到有协变量 \(X\)、连续结局、非参数回归 \(g_a(\tilde{Y}, X)\) 的情形,并构造 AIPW 形式的估计量以获得双重稳健性(即 \(e(X)\) 或 \(\mu_a(X)\) 之一正确指定时仍一致)。同时,作者将问题类比为单调缺失下的均值估计,从而借用单调缺失文献中的效率理论来证明局部半参数有效性。


三、这篇论文做了什么

三句话

  1. 研究了什么问题:在 EHR 数据中,当结局变量仅在一小部分随机验证子样本中可观测、其余样本仅有推断结局(可能含系统误差)时,如何一致且高效地估计 ATE。
  2. 核心工具/方法:将问题类比为纵向研究中的单调缺失均值估计,构造一个半监督校准估计量——用验证子样本估计"推断结局→真实结局"的校准映射,再结合 AIPW 框架对全样本进行加权插补,实现多重稳健性与局部半参数效率。
  3. 主要结论:所提估计量在推断结局存在任意系统误差时仍保持一致;在验证倾向得分极端(接近 0 或 1)时,通过隐式增广项的归一化实现有限样本效率提升;模拟与真实数据(类风湿关节炎抗 TNF 疗法比较)验证了方法的性能。

关键设定与假设

在第二节最小记号的基础上,本文的完整设定包括:

  • 随机验证假设:\(R \perp (Y, \tilde{Y}, A) \mid X\),即验证机制仅依赖于协变量。这是本文的核心识别条件,比 MAR 更强(MAR 允许 \(R\) 依赖于 \(\tilde{Y}\))。
  • 处理分配假设:标准因果推断假设,包括一致性(\(Y = Y(A)\))、无未测量混杂(\(Y(a) \perp A \mid X\))、重叠假设(\(0 < e(X) < 1\))。
  • 校准映射的可估计性:\(g_a(\tilde{Y}, X) = E[Y \mid A=a, \tilde{Y}, X]\) 在验证子样本中可一致估计。注意:本文不要求 \(\tilde{Y}\) 与 \(Y\) 的任何特定关系(如无测量误差、单调性等)——这是与经典测量误差文献的关键区别。
  • 相比已有文献的放宽/强化:相比 Athey et al. (2019) 和 Kallus & Mao (2020),本文放宽了对代理结局与处理条件独立的要求(本文允许 \(\tilde{Y}\) 与 \(A\) 相关,只要给定 \(X\) 后验证随机);相比 Chakrabortty & Cai (2018) 的半监督框架,本文强化了验证机制假设(随机验证而非 MAR),但放宽了对"未标记数据仅含协变量"的限制(本文的未标记数据含推断结局)。

主要结果

定理 1(一致性):在随机验证、无未测量混杂、重叠假设下,所提估计量 \(\hat{\tau}\) 是 \(\tau\) 的一致估计,即使推断结局 \(\tilde{Y}\) 与真实结局 \(Y\) 的关系被完全错误指定(即校准映射 \(g_a\) 的估计不依赖于 \(\tilde{Y}\) 的正确模型)。

定理 2(局部半参数效率):当倾向得分模型 \(e(X)\) 与结果回归模型 \(\mu_a(X)\) 均正确指定时,\(\hat{\tau}\) 达到半参数效率界(即渐近方差等于完全观测数据下的有效影响函数方差)。当验证比例 \(\pi \to 0\) 时,效率增益相对于仅用验证子样本的估计量趋于无穷大。

定理 3(有限样本归一化):在验证倾向得分极端(\(\pi(X)\) 接近 0 或 1)时,所提估计量通过对隐式增广项进行归一化(即用 \(\sum R_i / \sum \hat{\pi}(X_i)\) 替代标准的 \(\sum R_i / n\) 权重归一化),避免了 IPW 型权重爆炸导致的方差膨胀。这一机制在模拟中表现为:当 \(\pi\) 从 0.5 降至 0.1 时,所提估计量的 MSE 增长远慢于未归一化的 AIPW 估计量。

证明路线与技术技巧

整体路线(3-5 步逻辑主干):

  1. 问题转化:将 ATE 估计问题转化为"单调缺失下的均值估计"问题。具体地,定义"完整数据"为 \((X, A, Y)\),"部分观测"为 \((X, A, \tilde{Y})\),验证指示 \(R\) 视为"缺失指示"。在这一类比下,验证子样本对应"完全观测"的个体,未验证子样本对应"中间缺失"的个体(有 \(\tilde{Y}\) 无 \(Y\))。
  2. 构造校准方程:利用恒等式 \(E[Y \mid A, X] = E[E[Y \mid A, \tilde{Y}, X] \mid A, X]\),将 \(\mu_a(X)\) 分解为"可估计的校准映射"与"可观测的推断结局分布"的复合。验证子样本用于估计校准映射 \(\hat{g}_a(\tilde{Y}, X)\),全样本用于估计 \(\tilde{Y}\) 的条件分布。
  3. AIPW 形式:构造估计量 \(\hat{\tau} = \frac{1}{n}\sum_i \left[ \frac{R_i A_i}{\hat{\pi}(X_i) \hat{e}(X_i)} (Y_i - \hat{g}_{A_i}(\tilde{Y}_i, X_i)) + \frac{A_i}{\hat{e}(X_i)} \hat{g}_1(\tilde{Y}_i, X_i) - \frac{1-A_i}{1-\hat{e}(X_i)} \hat{g}_0(\tilde{Y}_i, X_i) \right]\),其中第一项仅用验证子样本校正插补误差,后两项用全样本的插补值。
  4. 多重稳健性证明:证明当 (i) \(\hat{e}\) 正确且 \(\hat{g}\) 正确,(ii) \(\hat{e}\) 正确但 \(\hat{g}\) 错误,(iii) \(\hat{e}\) 错误但 \(\hat{g}\) 正确,三种情况下估计量均一致。证明技巧是标准的 M-估计/经验过程理论:将估计量表示为 U-统计量加经验过程项,利用一致大数定律与中心极限定理。
  5. 局部效率证明:计算估计量的影响函数,证明其等于完全观测数据下的有效影响函数(当所有模型正确时)。关键技巧是利用单调缺失结构下的切空间分解——将切空间分解为"验证子样本方向"与"未验证子样本方向",证明增广项恰好投影掉了未验证子样本方向上的噪声。

关键技巧点名:

  • 单调缺失类比:这是本文最核心的概念贡献。通过将问题映射到单调缺失框架,作者可以直接借用 Robins, Rotnitzky & Zhao (1994) 的 AIPW 理论,而不需要从头推导半监督效率界。
  • 交叉拟合(cross-fitting):作者在估计 \(\hat{e}\)、\(\hat{g}\)、\(\hat{\pi}\) 时使用样本分割,避免 Donsker 条件,使估计量在非参数模型下仍满足渐近正态性。
  • 隐式增广项归一化:在极端 \(\pi\) 下,作者将 IPW 权重 \(\frac{R_i}{\hat{\pi}(X_i)}\) 替换为 \(\frac{R_i}{\sum_j R_j / \hat{\pi}(X_j)}\)(自归一化),这等价于在增广项中引入一个额外的常数项,从而稳定有限样本方差。这一技巧在模拟中被证明对极端倾向得分特别有效。

真实例子与应用

数据:来自布莱根妇女医院(Brigham and Women's Hospital)的电子健康记录数据,研究对象为类风湿关节炎(RA)患者,比较两种抗 TNF 疗法(阿达木单抗 vs 依那西普)对疾病活动状态(DAS28 评分是否达到缓解)的效果。

应用方式: - 金标准结局 \(Y\):由风湿病学家根据病历审查确认的"6 个月时达到缓解"(是/否),仅在约 15% 的随机子样本中验证。 - 推断结局 \(\tilde{Y}\):基于自然语言处理(NLP)从临床笔记中提取的"推断缓解状态",对所有患者可计算。 - 协变量 \(X\):年龄、性别、病程、基线 DAS28、合并用药等。

结果: - 仅用验证子样本的 AIPW 估计:\(\hat{\tau} = 0.052\)(95% CI: -0.011, 0.115),不显著。 - 本文方法(半监督校准):\(\hat{\tau} = 0.048\)(95% CI: 0.003, 0.093),显著为正,且置信区间宽度缩小约 40%。 - 敏感性分析:将验证比例从 15% 降至 5% 时,本文方法的置信区间宽度仅增加约 20%,而仅用验证子样本的方法增加约 150%。

例子想说明什么:验证子样本的有限信息导致传统方法功效不足;本文方法通过利用大量未验证样本的推断结局,在保持一致性的前提下显著提升估计精度,且对验证比例的变化具有鲁棒性。

🔎 结论是否比证明窄

  • 明确窄于证明的 claim:定理 2 的局部半参数效率仅在"所有模型正确指定"时成立,但作者在摘要和引言中使用了"locally semiparametric efficient"这一表述,未强调"局部"二字在多大程度上限制了实用性。当倾向得分或校准映射存在轻微误指定时,效率性质是否保持,文中未给出理论保证。
  • 未证明但被暗示的 claim:作者在讨论中暗示方法对"推断结局的系统性偏差"(如 NLP 算法在特定亚组中系统性误判)具有鲁棒性,但定理 1 的一致性证明仅覆盖了"校准映射可一致估计"的情形,未明确处理"校准映射在部分协变量子空间中不可识别"的边界情况。
  • 模拟与理论的 gap:模拟中展示的"极端倾向得分下的效率增益"在定理 3 中仅以有限样本论证(非渐近)给出,未提供渐近理论解释(如是否对应某种高阶影响函数修正)。

四、开放问题

  1. 验证机制放松:本文假设 \(R \perp (Y, \tilde{Y}, A) \mid X\)(随机验证)。当验证机制依赖于 \(\tilde{Y}\)(如医生更倾向于验证 NLP 预测不确定的病例)时,估计量是否仍一致?需要什么额外条件?(扎根于:引言中"label at random"假设的讨论,以及定理 1 的证明对 \(R\) 独立性的依赖。)
  2. 校准映射的非参数收敛速率:定理 2 的局部效率要求 \(\hat{g}_a\) 以足够快速率收敛。当 \(\tilde{Y}\) 是高维文本特征的非线性函数时,非参数估计的收敛速率可能不足,此时效率性质如何退化?(扎根于:定理 2 的证明中对 \(\hat{g}\) 收敛速率的假设,以及讨论部分对 NLP 特征的提及。)
  3. 多个推断结局的融合:本文仅考虑单一推断结局 \(\tilde{Y}\)。当存在多个来源的推断结局(如 NLP 提取 + 管理数据编码 + 患者自报)时,如何最优融合以进一步提升效率?(扎根于:引言中"phenotyping models"的复数表述,但方法部分仅处理单一 \(\tilde{Y}\)。)
  4. 验证子样本的非随机缺失:本文假设验证子样本是随机选择的。在 EHR 中,验证往往集中在复杂病例上(如住院患者),此时验证子样本的代表性如何影响估计?是否可以通过加权或双重稳健修正来缓解?(扎根于:引言中"randomly labeled"的假设,以及真实数据应用中验证比例仅 15% 的潜在选择性。)

提示:若要确认上述某条是否是真 gap,建议去读近 5 年关于 semi-supervised causal inference 的 5 篇左右论文的引言(如 Chakrabortty & Cai 2018 的后续工作、Wang et al. 2022、以及 Athey et al. 2019 的引用网络)。若多篇引言都指向同一问题,则大概率是共识性 gap;若各篇引言互相矛盾(如对验证机制假设的强弱有争议),则可能是机会所在。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论