跳转至

Marginal generalized raking with parametric working models

作者: Brian D Williamson, Runjia Zou, Thomas Lumley, Bryan E Shepherd, Pamela A Shaw
主题: 因果推断
相关性: 7/10
链接: https://arxiv.org/abs/2607.29629

一、领域脉络与小综述

  • 这个方向是什么：本子方向处理的是在粗化数据（coarsened data，包括缺失数据、测量误差数据、两相抽样数据）下，如何高效且稳健地估计边际因果参数（如平均处理效应 ATE、风险差 RD、相对风险 RR）的问题。核心挑战在于：既要利用辅助信息（全样本协变量）提升效率，又要对模型误设有一定的容忍度。当前成熟度：方法学上已有多种双稳健估计量（AIPW、TMLE、GR），但它们在边际参数上的系统连接与效率比较仍在发展中。

  • 发展脉络（history）：

  • 奠基工作：Horvitz-Thompson (1952) 与逆概率加权。Horvitz and Thompson (1952) 提出了逆概率加权（IPW）估计量，为处理缺失数据提供了基础框架。其缺点是严重依赖缺失数据模型的正确设定，且效率较低。
  • 主要进展 1：增广逆概率加权（AIPW）与双稳健性。Robins et al. (1994); Robins and Rotnitzky (1995) 提出了增广逆概率加权（AIPCW/AIPW）估计量，通过加入一个基于结果回归模型的增广项，实现了双稳健性：只要缺失数据模型或结果回归模型之一正确，估计量就一致。这是因果推断中里程碑式的进展。
  • 主要进展 2：广义 raking（GR）与调查统计的连接。Deville and Särndal (1992); Deville et al. (1993) 在调查统计中提出了广义 raking（GR），通过校准 IPW 权重来利用辅助信息。Breslow et al. (2009a,b); Lumley et al. (2011) 将 GR 引入生物统计，用于估计回归系数，并证明了最优 GR 估计量与最优 AIPCW 估计量的渐近等价性。这建立了 survey 方法与因果推断中双稳健估计之间的桥梁。

  • 当前 frontier 与本文位置：Williamson et al. (2026) 最近在大量模拟中比较了 GR、IPCW 和 IPCW-TMLE，发现 GR 在估计边际参数时（通过先估计回归系数再边际化，即 CGR）往往比 IPCW-TMLE 更高效。本文（Williamson et al., 2026） 在此基础上，将 GR 的 influence function 理论直接推广到边际 estimands，提出了边际广义 raking（MGR），并证明了其与最优 AIPCW 估计量的等价性，从而避免了 CGR 中先估计回归系数再边际化的间接步骤，理论上应更高效。

  • 子线索聚类：

  • 线索 1：Survey 统计中的 raking 方法。核心文献：Deville and Särndal (1992); Deville et al. (1993); Lumley et al. (2024)。这一簇关注如何通过校准权重来利用辅助信息，提升对总体总量或均值的估计效率。其优势在于估计量自然落在参数空间内。
  • 线索 2：因果推断中的双稳健估计（AIPW/TMLE）。核心文献：Robins et al. (1994); Robins and Rotnitzky (1995); van der Laan and Rubin (2006); van der Laan and Rose (2011)。这一簇关注在缺失数据或因果推断中，通过组合结果回归和倾向性得分模型，实现双稳健甚至多重稳健的估计。AIPW 是理论上的黄金标准，TMLE 则通过 targeted 更新步骤实现。

  • 线索 3：多重插补（MI）与 raking 的结合。核心文献：Han (2016); Oh et al. (2021); Han et al. (2021)。这一簇探索如何用 MI 来估计最优 raking 变量，从而结合 MI 的灵活性与 raking 的效率优势。

  • 这个方向在追问的核心问题：

  • 效率：在给定辅助信息下，如何达到半参数效率界？
  • 稳健性：如何构造对多个模型（缺失数据模型、结果回归模型、倾向性得分模型）误设都稳健的估计量（多重稳健性）？
  • 参数空间：如何保证估计量（如 ATE、RR）始终落在其定义域内（如 [0,1] 或 [0, ∞)）？

  • 计算与实现：如何将理论上的最优估计量转化为可复现、易使用的软件实现？

  • ⚠️ 作者的 framing：

  • 作者将缺口 frame 成：现有 GR 方法在生物统计中主要用于估计回归系数（条件参数），而研究者日益关注边际参数（如 ATE）。Williamson et al. (2026) 采用的“先估计回归系数再边际化”（CGR）是间接的，且方差估计依赖 delta 方法。因此，“直接使用边际 estimand 的 EIF 来校准权重” 是显然的下一步。
  • 作者淡化了 TMLE 路线。文中提到“GR was often more efficient than IPCW-TMLE”（Williamson et al., 2026），但未深入讨论 TMLE 在非参数设定下的优势。作者将本文限定在参数工作模型下，这为未来向非参数模型扩展留下了空间。

  • 什么明显该被引 / 该存在、却没出现在 intro 里？：作者未引用关于高阶影响函数（HOIF） 或去偏机器学习（DML） 在边际参数估计上的最新进展（如 Chernozhukov et al., 2018）。DML 使用交叉拟合（cross-fitting）和 Neyman 正交得分，是处理高维协变量下边际参数估计的主流框架。本文的 MGR 在参数模型下与 AIPCW 等价，但未讨论其在高维或非参数设定下与 DML 的关系。这是一个值得研究者去查的问题。

  • 张力：未见明显对立引用。各主要工作（AIPW, GR, TMLE）在理论上是相容的，差异主要体现在实现细节、有限样本表现和对参数空间的尊重程度上。本文的核心贡献在于将 GR 与 AIPW 在边际参数上的等价性严格化，并提供了更直接的实现路径。

二、最核心、最简单的例子 / 数学问题

  • 第一步：把符号、模型、可观测数据交代清楚

  • 符号：

    • D = (L, A, X, Y): 理想数据（无缺失）。L 是可能混杂变量（p 维），A 是辅助变量（d 维），X 是二元暴露/处理变量（0/1），Y 是结果变量。
    • O: 实际观测到的粗化数据。
    • R ∈ {0,1}: 是否观测到完整数据 D 的指示变量（R=1 表示有完整数据）。
    • V: 始终被观测到的变量集合（即 Phase 1 数据）。例如，在缺失混杂变量场景中，V = (Z, X, Y)，其中 Z 是始终观测的混杂变量。
    • π(v) = P(R=1 | V=v): 缺失数据模型（倾向性得分），即给定 V 下数据完整的概率。
    • g(l) = P(X=1 | L=l): 处理分配模型（倾向性得分）。
    • Q(x, l) = E(Y | X=x, L=l): 结果回归模型。
    • µ_x = E{Y(x)}: 处理 x 下的潜在结果均值（边际 estimand）。ATE = µ_1 - µ_0。
    • ϕ: 影响函数（Influence Function）。ϕ_µ1,NP 是非参数 EIF，ϕ_1,P 是投影到参数模型后的参数 EIF。
    • η(v) = E{ϕ_1,P(Y, X, L) | V=v}: 最优 raking 变量，即参数 EIF 在 V 上的条件期望。
    • β: 参数结果回归模型 Q(x, l) = h^{-1}(β_0 + xβ_1 + l^T β_2) 的系数向量。
    • n: Phase 1 样本量。n_2: Phase 2 子样本量（R=1 的个体数）。

  • 模型：

    • 数据生成机制：来自一个两相抽样设计。Phase 1 收集了 n 个个体的 V。Phase 2 从 Phase 1 中抽取一个子样本（R=1），测量其完整数据 D。缺失机制为随机缺失（MAR）：R ⟂⟂ D | V。
    • 结果回归模型 Q(x, l) 被假定服从一个参数化的广义线性模型（GLM），如线性回归或逻辑回归。这是本文的核心假设。
    • 缺失数据模型 π(v) 和处理分配模型 g(l) 也通过参数模型（如逻辑回归）估计。

  • 可观测数据：

    • 可观测：对于所有 n 个个体，我们能观测到 V（始终观测的变量）。对于 Phase 2 子样本（R=1），我们还能观测到完整的 D，包括 L（有时缺失的混杂变量）和 Y。
    • 想要但观测不到：对于 R=0 的个体，我们观测不到完整的 D（例如，缺失的混杂变量 W）。我们想要估计的边际参数 µ_x 是基于完整数据 D 定义的，因此需要通过 MAR 假设和观测数据来识别。

  • 第二步：讲最小内核

本文的最小内核可以浓缩为：“在参数模型下，直接使用边际 estimand 的 EIF 来校准 IPW 权重，等价于最优的 AIPCW 估计量，且比先估计回归系数再边际化的 CGR 更直接、更高效。”

最简特例：考虑一个最简单的场景：没有混杂变量（L 为空），没有辅助变量（A 为空），只有一个二元处理 X 和一个连续结果 Y。数据缺失机制是完全随机缺失（MCAR），即 π(v) = π 是常数。目标 estimand 是 µ_1 = E(Y(1))。

  • CGR 的做法：

    1. 用 GR 估计一个简单线性回归模型 E(Y|X) = β_0 + β_1 X 的系数 β_1。这需要估计 π 和最优 raking 变量 η_β(v) = E{ϕ_β(D)|V}，其中 ϕ_β 是 β_1 的 EIF。
    2. 边际化：µ_{1, CGR} = (1/n) Σ_i [R_i / π_{n,GR}(V_i)] * (β_{0,n} + β_{1,n} * 1)。这本质上是用校准后的权重对预测值 β_{0,n} + β_{1,n} 求加权平均。
    3. 方差通过 delta 方法计算，依赖于 β 的方差和 Ω（预测值对 β 的梯度）。

  • MGR 的做法：

    1. 直接写出 µ_1 的非参数 EIF：ϕ_{µ1, NP}(y, x) = (x / g) * (y - Q(1)) + Q(1) - µ_1。在无混杂的 MCAR 下，g = P(X=1)，Q(1) = E(Y|X=1)。
    2. 由于我们假设参数模型 E(Y|X) = β_0 + β_1 X，我们将 ϕ_{µ1, NP} 投影到这个模型空间，得到参数 EIF ϕ_{1,P}。
    3. 计算最优 raking 变量 η(v) = E{ϕ_{1,P}(Y, X) | V=v}。在 MCAR 下，V 可能只包含 X 和 Y 的某些函数。
    4. 用 η(v) 校准 IPW 权重，得到 π_{n,MGR}。
    5. 最终估计量 µ_{1, MGR} = (1/n) Σ_i [R_i / π_{n,MGR}(V_i)] * [ (X_i / g_n) * (Y_i - Q_n(1)) + Q_n(1) ]。这直接就是 AIPCW 估计量的形式，只是权重被校准过。

核心差异：在 CGR 中，校准的目标是让 β 的估计更准；在 MGR 中，校准的目标是让 µ_1 的估计更准。MGR 直接优化了最终目标，因此理论上更高效，且方差估计可以直接基于 ϕ_{1,obs,P}，无需 delta 方法。在这个最简特例下，MGR 的估计量退化为一个校准权重的 AIPW 估计量，其渐近方差就是 E(ϕ_{1,obs,P}^2)，而 CGR 的方差则是一个更复杂的 delta 方法近似。

三、这篇论文做了什么

  • 三句话：
  • 研究了什么问题：在参数工作模型和粗化数据（如两相抽样、缺失数据）设定下，如何利用广义 raking（GR）直接估计边际因果参数（如 ATE、RR），而不是先估计回归系数再边际化。
  • 核心工具 / 方法：提出了边际广义 raking（MGR），其核心是使用边际 estimand 的参数有效影响函数（EIF） 作为校准变量来调整 IPW 权重，而非使用回归系数 EIF。

  • 主要结论：MGR 估计量与最优增广逆概率加权（AIPCW）估计量渐近等价，且是多重稳健的（在缺失数据层面和结果-处理层面各需一个模型正确）。在模拟和真实数据中，MGR 至少与条件 GR（CGR）一样高效，且在倾向性得分模型误设时显著优于 CGR（IPTW）。

  • 关键设定与假设：

  • 数据：两相抽样设计，Phase 1 有 n 个观测，Phase 2 有 n_2 个观测。缺失机制为 MAR。
  • 模型：所有工作模型（结果回归 Q、缺失数据模型 π、处理分配模型 g）都是参数化的（如 GLM）。这是本文的核心设定，也是其效率优势的来源。
  • 假设：
    • 一致性：Q_n →_P Q, g_n →_P g, π_n →_P π（当模型正确时）。
    • 正性：π(v) > ε > 0 对所有 v 成立（缺失数据正性）；0 < g(l) < 1（处理分配正性）。
    • MAR：R ⟂⟂ D | V。
    • EIF 投影一致性：η_n →_P η，即最优 raking 变量的估计量一致。

  • 相比已有文献：本文的设定与 Breslow et al. (2009a); Lumley et al. (2011) 的回归系数 GR 设定相同，但将目标从 β 推广到 µ_x。相比 Williamson et al. (2026) 的 CGR，本文直接使用边际 EIF，避免了 delta 方法。

  • 主要结果：

  • 定理 1（核心）：MGR 估计量与 AIPCW-AIPTW 估计量渐近等价。如果 (i) 缺失数据模型 π 或 EIF 投影 η 之一正确，且 (ii) 结果回归模型 Q 或处理分配模型 g 之一正确，则 µ_{1,n,MGR} 是 µ_1 的渐近线性估计量，其影响函数为 ϕ_{1,obs,P}（即有效影响函数）。如果所有四个模型都正确，则 MGR 是有效的。
    • 直觉：定理 1 建立了 MGR 与 AIPCW 的等价性，从而继承了 AIPCW 的双稳健性。但 MGR 的“多重稳健性”更强：它在两个层面（缺失数据层面和结果-处理层面）各提供一次双稳健保护。具体来说，R_n 项（二阶余项）分解为两部分：E_0[(π_n - π_0)/π_n * (E_0{ϕ_n^F|V} - E_n{ϕ_n^F|V})] 和 E_0[(g_n - g_0)/g_n * (Q_n - Q_0)]。只要每部分中的一个因子收敛到真值，该项就是 o_p(n^{-1/2})。

  • 引理 1：CGR 估计量 µ_{1,n,CGR} 是渐近正态的，其方差由 delta 方法给出：σ^2_{1,CGR} = Ω Σ_β Ω^T，其中 Ω 是边际均值对回归系数 β 的梯度，Σ_β 是 β 的 GR 估计量的方差。

    • 直觉：CGR 的方差依赖于 β 的方差和 Ω，而 Ω 本身需要估计，引入了额外的变异性。MGR 的方差直接是 E(ϕ_{1,obs,P}^2)，更直接，理论上应更小或相等。

  • 证明路线与技术技巧：

  • 整体路线：
    1. 渐近等价性证明（Lemma S2）：证明 MGR 的估计方程与 AIPCW-AIPTW 的估计方程在 o_p(n^{-1/2}) 意义下等价。关键在于利用 GR 的校准条件 Σ η_n(V_i) = Σ [R_i q_i / π_{n,IPCW}(V_i)] η_n(V_i) 来消去 AIPCW 中的增广项 {π_n(V_i) - R_i}/π_n(V_i) * η_n(V_i)。
    2. 二阶余项分解（Lemma S3）：将 AIPCW 估计量的误差分解为影响函数的和加上一个二阶余项 R_n。R_n 被分解为两个期望项，分别对应缺失数据层面和结果-处理层面的模型误设。
    3. 多重稳健性证明（Theorem 1 证明）：证明在定理 1 的条件下，R_n = o_p(n^{-1/2})。这依赖于参数模型的 n^{-1/2} 收敛速率和乘积结构：只要每个乘积项中的一个因子收敛到真值，整个乘积就是 o_p(n^{-1/2})。
  • 关键跳跃点：将 GR 的校准条件与 AIPCW 的 EIF 估计方程联系起来，证明两者等价。这需要巧妙地操作校准权重 q_i 和 EIF 投影 η_n。

  • 技术技巧点名：

    • EIF 投影：将非参数 EIF ϕ_{µ1,NP} 投影到参数模型空间，得到参数 EIF ϕ_{1,P}，这是实现参数模型下效率提升的关键（Tsiatis, 2006, Theorem 3.5）。
    • 权重校准：使用 Poisson 偏差作为距离度量，通过求解约束优化问题来校准 IPW 权重，确保权重非负（Deville et al., 1993）。
    • Delta 方法：用于推导 CGR 估计量的渐近方差（Lemma 1）。
    • 二阶余项分析：将估计误差分解为影响函数和二阶项，是证明双/多重稳健性的标准技术（van der Laan and Rose, 2011）。

  • 真实例子与应用：

  • 数据：Vanderbilt Comprehensive Care Clinic (VCCC) 的 HIV 队列数据，包含 628 名 HIV 感染者。目标是估计启动含蛋白酶抑制剂（PI）的联合抗逆转录病毒疗法（ART）与不含 PI 的疗法相比，对 5 年内发生 AIDS 定义事件（ADE）或死亡的平均处理效应（ATE）和相对风险（RR）。
  • 方法应用：将真实数据模拟成两相抽样设计。Phase 1 有所有 628 人的错误-prone 变量（如来自 EHR 的未验证数据）。Phase 2 随机抽取 50% 的样本（314 人）进行验证，获得金标准数据。然后应用 CGR（RA）、CGR（IPTW）和 MGR 进行估计。
  • 结果：
    • 真实 ATE 为 0.05，真实 RR 为 1.676（基于完全验证数据的 g-formula 或 AIPTW）。
    • MGR 和 CGR（RA）的估计几乎无偏（ATE 中位数偏差 0.002，RR 中位数偏差 0.019）。
    • CGR（IPTW）的偏差较大（ATE 偏差 0.012，RR 偏差 0.206），表明倾向性得分模型难以估计。
    • MGR 的相对效率最高（作为基准 1.000），CGR（RA）略低（ATE: 0.898, RR: 0.881），CGR（IPTW）效率最低（ATE: 0.695, RR: 0.501）。

  • 例子想说明什么：在真实数据中，当倾向性得分模型可能误设时，MGR 和 CGR（RA）比 CGR（IPTW）更稳健。MGR 在效率上略优于 CGR（RA），且实现更直接（无需 delta 方法）。

  • 🔎 结论是否比证明窄：是的。论文的结论和定理 1 严格在参数工作模型的设定下证明。作者在结论部分明确提到：“In future research, we will consider an extension of this work to nonparametric models”。因此，论文的 claim “MGR is efficient” 是限定在参数模型正确设定且所有模型都一致估计的前提下的。如果模型是非参数的或使用机器学习，MGR 的效率性质需要重新审视。此外，论文的模拟和例子都使用了相对低维的协变量（p 较小），其在高维设定下的表现未被讨论。

四、开放问题

  1. 非参数扩展与 DML 连接：本文严格限定在参数工作模型下。一个自然的开放问题是：当结果回归、倾向性得分或缺失数据模型使用非参数/机器学习方法时，MGR 的渐近性质如何？它是否能与去偏机器学习（DML）框架（Chernozhukov et al., 2018）结合，通过交叉拟合（cross-fitting）来放松对 Donsker 条件的要求？扎根点：论文结论部分 “In future research, we will consider an extension of this work to nonparametric models”。

  2. 高维协变量下的表现：本文的模拟和例子中协变量维度较低。当协变量维度 p 随样本量 n 增长时，参数 GLM 可能不再是合理假设。此时，如何选择或构造最优 raking 变量 η(v)？是否可以使用正则化回归或机器学习来估计 η(v)，并分析其在高维下的收敛速率和对 MGR 效率的影响？扎根点：论文未讨论高维设定，其参数模型假设在高维下不成立。

  3. 方差估计的双稳健性：论文指出 CGR 的方差估计（基于 delta 方法）不是双稳健的，并建议使用经验 sandwich 方差估计。MGR 的方差估计（基于 ϕ_{1,obs,P}）在定理 1 的条件下是有效的，但论文未提供一种对模型误设稳健的方差估计量。一个开放问题是：能否为 MGR 构造一个双稳健的方差估计量，使其在部分模型误设时仍能提供正确的推断？扎根点：论文在 Lemma 1 后提到 “our variance estimator in Algorithm 1 is based on the influence function and is not doubly-robust”，并在 Algorithm 2 的方差估计中使用了基于 EIF 的估计，但未讨论其稳健性。

  4. 与高阶影响函数（HOIF）的联系：本文使用参数 EIF 来校准权重。一个更深层的开放问题是：当参数模型本身是误设的，但研究者希望利用高阶信息（如高阶 U-统计量）来提升效率或稳健性时，MGR 框架能否与 HOIF 结合？例如，能否使用高阶 EIF 作为 raking 变量，以实现对更复杂模型误设的稳健性？扎根点：论文的核心技术是 EIF 投影，这自然引向 HOIF 的推广。这是一个更理论化的方向，需要研究者对 HOIF 有深入理解。

Maintained by 陈星宇 · Homepage · Source on GitHub

评论