Principal stratification with U-statistics under principal ignorability¶
作者: Xinyuan Chen, Fan Li
来源: Journal of the Royal Statistical Society Series B
主题: 因果推断
相关性: 8/10
机构绿灯: Yale University(US News 前 50,免分进入精读)
链接: 期刊页 · arXiv
一、领域脉络与小综述¶
这个方向是什么¶
本文所处的子方向是主分层框架下的因果推断。其根本科学问题是:当存在一个受处理影响的中间变量(如"是否就业"、"是否存活")时,如何定义并估计某个特定主分层(principal stratum)内的因果效应。主分层的核心思想是:根据个体在两种处理状态下的潜在中间变量取值组合(如"无论是否接受处理都会就业"的 always-employed 层),将总体划分为不可直接观测的子总体,再在这些子总体内定义因果效应。该方向的成熟度较高——自 Frangakis and Rubin (2002) 提出主分层框架以来,已有大量关于识别假设、估计方法和敏感性分析的工作,但绝大多数研究聚焦于平均效应(均值差),对非线性对比函数(如排序、概率指数、win ratio)的处理尚不充分,这正是本文的切入点。
发展脉络¶
奠基工作:Frangakis and Rubin (2002) 提出主分层框架,将因果效应定义在由潜在中间变量联合分布划分的子总体上,解决了"中间变量受处理影响时如何定义直接效应"的概念难题。同期,Angrist et al. (1996) 的单调性假设(monotonicity)成为简化主分层结构的关键工具——它排除了"违抗者"(defier)层,使分层数量从四个减少到三个。Zhang et al. (2009) 则将主分层应用于截断(truncation by death)问题,即结果仅在中间变量取某值时才有定义的情形。
主要进展:Ding and Lu (2016) 引入主得分(principal score)的概念,即给定协变量下属于某一主分层的条件概率,并证明在"主可忽略性"(principal ignorability)假设下,可以通过加权或分层方法识别主分层内的平均效应。这一工作将主分层分析从似然方法拓展到加权估计框架,极大提升了实用性。Jiang et al. (2022) 在此基础上进一步推导了主分层平均效应的多重稳健(multiply robust)估计量,即只要处理分配模型、主得分模型和结果模型中任意两个正确设定,估计量即保持一致。Cheng et al. (2023) 将多重稳健估计扩展到生存结局。Lu et al. (2023) 则将主分层推广到连续中间变量的情形。
当前 frontier:非线性对比函数(如概率指数、win ratio)在因果推断中的使用日益增多。Wang and Pocock (2016) 提出 win ratio 作为临床试验中复合结局的优先比较指标;Fay and Li (2024) 讨论了 hazard ratio 的因果解释问题,指出概率指数类估计量对极端值更稳健。然而,这些非线性估计量在主分层框架下的识别与估计理论尚未建立——现有工作要么只处理平均效应,要么不涉及主分层。Mao (2017, 2024) 虽将 U-统计量引入因果推断,但未与主分层结合。
本文的位置:本文填补了上述缺口——将主分层框架从平均效应推广到任意非线性对比函数(概率指数、win ratio 等),在单调性和主可忽略性假设下建立了非参数识别公式,推导了有效影响函数(EIF),并构造了多重稳健估计量和基于交叉拟合的机器学习估计量。这是对 Jiang et al. (2022) 从线性到非线性、从单一估计量到多重稳健估计量的系统性推广。
子线索聚类¶
- 主分层识别与估计:Frangakis and Rubin (2002)、Zhang et al. (2009)、Ding and Lu (2016)、Jiang et al. (2022)、Lu et al. (2023)。这条线索关注"在何种假设下、如何从观测数据识别主分层内的因果效应",核心工具是主得分、单调性和可忽略性假设。
- 非线性对比函数与 U-统计量:Mao (2017, 2024)、Wang and Pocock (2016)、Fay and Li (2024)、De Schryver and De Neve (2019)。这条线索关注"如何定义和估计非平均效应的因果参数",核心工具是概率指数、win ratio 和 U-统计量。
- 多重稳健与去偏机器学习:Jiang et al. (2022)、Cheng et al. (2023)、Chernozhukov et al. (2022)、Escanciano and Terschuur (2022)、Ichimura and Newey (2022)。这条线索关注"如何在 nuisance 函数部分错误设定时仍保持估计一致性",核心工具是 EIF、正交矩条件和交叉拟合。
这个方向在追问的核心问题¶
- 识别:在何种假设组合下,主分层内的非线性因果参数(如概率指数、win ratio)可以从观测数据中识别?这些假设与平均效应情形有何不同?
- 效率:非线性对比函数对应的有效影响函数是什么?半参数效率界如何刻画?
- 稳健性:如何构造对 nuisance 函数错误设定具有鲁棒性的估计量?多重稳健性(triple robustness)能否从平均效应推广到非线性情形?
- 敏感性:当单调性或主可忽略性假设违反时,估计结果如何变化?
已知瓶颈:非线性对比函数涉及两个独立个体的联合分布,导致 EIF 推导和 U-统计量渐近理论显著复杂化;主分层本身不可观测,需要额外的结构假设;多重稳健估计量的有限样本表现对 nuisance 函数估计质量敏感。
⚠️ 作者的 framing¶
作者将缺口 frame 为:"现有主分层分析几乎全部聚焦于平均效应,而实际应用中常需要非线性对比函数(如概率指数、win ratio)来刻画排序或复合结局。本文首次系统性地将主分层框架推广到这类广义因果估计量,建立了从识别到估计的完整理论。" 作者淡化了敏感性分析(仅作为一节简要处理)和连续中间变量的扩展(仅在讨论中提及),将主要贡献集中在二元中间变量 + 非线性对比函数的组合上。竞争路线——如基于工具变量的方法(Angrist et al. 1996)或基于贝叶斯建模的方法(Zhang et al. 2009)——在文中被提及但未作为主要比较对象。
张力¶
未见明显对立引用。但值得注意的是,Ding and Lu (2016) 的主可忽略性假设与 Jiang et al. (2022) 的均值主可忽略性假设在非线性情形下不再等价——作者在文中明确指出这一点(Assumption 3 是 Jiang et al. (2022) 假设的推广),这构成了一个微妙的张力:更强的假设换来了更广的适用性。
二、最核心、最简单的例子 / 数学问题¶
第一步:符号、模型、可观测数据¶
符号清单(逐个点名):
| 记号 | 含义 | 类型 |
|---|---|---|
| \(Z_i \in \{0,1\}\) | 个体 \(i\) 的处理分配 | 可观测随机变量 |
| \(D_i(z) \in \{0,1\}\) | 个体 \(i\) 在分配 \(z\) 下的潜在中间变量 | 潜在量(不可观测) |
| \(Y_i(z) \in \mathcal{Y}\) | 个体 \(i\) 在分配 \(z\) 下的潜在结果 | 潜在量(不可观测) |
| \(S = \{D(1), D(0)\}\) | 主分层变量,取值 \(\{10, 00, 11\}\)(单调性下排除 \(01\)) | 潜在量(不可观测) |
| \(X_i\) | 预处理协变量向量 | 可观测随机变量 |
| \(h(u,v)\) | 对比函数,定义在 \(\mathcal{Y} \times \mathcal{Y}\) 上 | 已知函数 |
| \(\tau^s_h\) | 主分层 \(s\) 内的广义因果效应 | 目标估计量(estimand) |
| $\pi(X) = P(Z=1 | X)$ | 处理倾向得分 |
| $p_z(X) = P(D=1 | Z=z, X)$ | 给定处理和协变量下中间变量的条件概率 |
| $e_s(X) = P(S=s | X)$ | 主得分 |
| \(\mu_{z_1 d_1 z_2 d_2}(X_1, X_2)\) | 给定协变量对下,两独立个体结果对比的条件均值 | nuisance 函数 |
模型(数据生成机制):
- 总体:\(n\) 个 i.i.d. 个体,每个个体有潜在量 \(\{D_i(0), D_i(1), Y_i(0), Y_i(1), X_i\}\)。
- 观测数据:\(O_i = (X_i, Z_i, D_i, Y_i)\),其中 \(D_i = Z_i D_i(1) + (1-Z_i) D_i(0)\),\(Y_i = Z_i Y_i(1) + (1-Z_i) Y_i(0)\)。
- 目标估计量(以 \(s=10\) 为例):
\[\tau^{10}_h = \mathbb{E}\{h(Y_1(1), Y_2(0)) \mid S_1 = S_2 = 10\}\]
关键假设:
- 处理可忽略性(Assumption 1):\(Z \perp\!\!\!\perp \{D(1), D(0), Y(1), Y(0)\} \mid X\)。
- 单调性(Assumption 2):\(D_i(1) \geq D_i(0)\) 对所有 \(i\) 成立,排除 \(S=01\) 层。
- 成对主可忽略性(Assumption 3,本文核心假设):对任意 \(s\),给定 \(X_1 = x_1, X_2 = x_2\),条件期望 \(\mathbb{E}\{h(Y_1(1), Y_2(0)) \mid S_1 = s_1, S_2 = s_2, X_1, X_2\}\) 在 \((s_1, s_2)\) 属于同一组(如 \(\mathcal{S}_{10}\))时相等。
可观测 vs 不可观测:研究者能观测到 \((X, Z, D, Y)\),但观测不到 \(S\)(因为 \(D(1)\) 和 \(D(0)\) 不可能同时被观测)。主得分 \(e_s(X)\) 和条件均值 \(\mu\) 都是不可直接观测的 nuisance 函数,需要通过模型假设从观测数据中估计。
第二步:最小内核¶
剥掉所有技术细节后,本文要解决的最小数学问题是:
假设我们有一个二元中间变量 \(D\) 和一个(可能非线性的)对比函数 \(h(u,v)\)。我们想估计"那些无论是否接受处理都会经历 \(D=1\) 的人"(即 \(S=10\) 层)中,处理对结果 \(Y\) 的排序效应 \(\tau^{10}_h = P\{Y_1(1) \geq Y_2(0) \mid S_1 = S_2 = 10\}\)。但我们看不到谁属于这一层。怎么办?
核心思路(三步走):
-
用主得分"找到"目标层:虽然 \(S\) 不可观测,但在单调性下,\(S=10\) 的个体恰好是"在 \(Z=1\) 时 \(D=1\)、在 \(Z=0\) 时 \(D=0\)"的个体。给定 \(X\),主得分 \(e_{10}(X) = P(S=10|X)\) 可以通过 \(p_1(X) - p_0(X)\) 识别(因为 \(P(D=1|Z=1,X) - P(D=1|Z=0,X) = P(S=10|X)\))。
-
用成对主可忽略性"替换"不可观测的层内期望:\(\tau^{10}_h\) 涉及两个独立个体都属于 \(S=10\) 的条件期望。Assumption 3 说,这个条件期望等于可观测的条件期望——即"处理组中 \(D=1\) 的个体"与"对照组中 \(D=0\) 的个体"之间的对比函数期望。这样就把不可观测的量转化成了可观测的量。
-
用 U-统计量估计:转化后的估计量是一个关于观测数据的二阶 U-统计量(因为涉及两两比较)。通过 EIF 推导,可以得到渐近正态且达到半参数效率界的估计量。
为什么这个内核是"最小"的:如果 \(h(u,v) = u - v\)(线性),则 \(\tau^{10}_h\) 退化为平均效应,Assumption 3 退化为 Jiang et al. (2022) 的均值主可忽略性,U-统计量退化为普通样本均值——这就是已有工作的情形。本文的全部技术复杂性都来自 \(h\) 的非线性:期望不能穿透 \(h\),必须处理两个独立个体的联合分布,这导致 EIF 中出现额外的 nuisance 函数(如 \(\nu^s_{1,zd}(\cdot)\)),也导致交叉拟合方案需要特殊设计。
三、这篇论文做了什么¶
三句话¶
- 研究问题:在主分层框架下,当中间变量为二元时,如何识别和估计一类广义因果效应(PGCE),涵盖概率指数、win ratio 等非线性对比函数。
- 核心方法:在单调性和成对主可忽略性假设下,建立 PGCE 的非参数识别公式,推导有效影响函数,构造多重稳健估计量和基于交叉拟合的机器学习估计量。
- 主要结论:所提估计量具有三重稳健性(任意两个 nuisance 模型正确即一致),在全部模型正确时达到半参数效率界;模拟和 Jobs Corps 数据分析验证了有限样本表现。
关键设定与假设¶
完整假设清单(在第二节最小记号基础上补全):
- Assumption 1(处理可忽略性):\(Z \perp\!\!\!\perp \{D(1), D(0), Y(1), Y(0)\} \mid X\)。这是标准假设,保证处理分配在给定协变量后与潜在结果独立。
- Assumption 2(单调性):\(D_i(1) \geq D_i(0)\) 对所有 \(i\) 成立。这排除了 \(S=01\)(违抗者)层,使主分层从 4 个减少到 3 个。注意:本文的 PGCE 定义在 \(s \in \{10, 00, 11\}\) 上,\(01\) 层被排除。
- Assumption 3(成对主可忽略性):这是本文的核心假设,也是与 Jiang et al. (2022) 的关键区别。它要求:给定协变量对 \((X_1, X_2)\),条件期望 \(\mathbb{E}\{h(Y_1(1), Y_2(0)) \mid S_1 = s_1, S_2 = s_2, X_1, X_2\}\) 在 \((s_1, s_2)\) 属于同一组时相等。具体地,对于 \(s=10\),要求:
\[\mathbb{E}\{h(Y_1(1), Y_2(0)) \mid S_1 = 10, S_2 = 10, X_1, X_2\} = \mathbb{E}\{h(Y_1(1), Y_2(0)) \mid S_1 = 11, S_2 = 10, X_1, X_2\} = \cdots\]即"处理组中 \(D=1\) 的个体"与"对照组中 \(D=0\) 的个体"之间的对比,不依赖于它们具体属于哪个主分层。
相比已有工作的变化: - 相比 Ding and Lu (2016):将主可忽略性从"单位级"推广到"成对级",因为非线性对比函数需要两个个体的联合分布。 - 相比 Jiang et al. (2022):将均值主可忽略性推广到任意对比函数 \(h\),但代价是假设更强(成对级而非单位级)。 - 相比 Mao (2017, 2024):Mao 处理了 U-统计量形式的因果估计量,但未与主分层结合;本文是两者的结合。
主要结果¶
定理 1(EIF):在 Assumptions 1–3 下,PGCE \(\tau^{10}_h\) 的有效影响函数为
定理 2(三重稳健性):估计量 \(\hat{\tau}^{10}_{h,tr}\) 在以下三种条件下均一致且渐近正态: - \(M_{\pi+p}\):处理倾向得分和主得分模型正确; - \(M_{\pi+\mu}\):处理倾向得分和成对条件均值模型正确; - \(M_{p+\mu}\):主得分和成对条件均值模型正确。
定理 3(非参数效率):在交叉拟合方案下,若所有 nuisance 函数以 \(o_P(n^{-1/4})\) 的速率一致收敛,则 \(\hat{\tau}^{10}_{h,tr}\) 渐近正态且达到半参数效率界。
证明路线(逻辑主干):
- 识别:先用单调性和主可忽略性将 \(\tau^s_h\) 转化为可观测量的泛函(Theorem S2 给出三种等价识别公式)。
- EIF 推导:对识别公式取 Gateaux 导数(Ichimura and Newey 2022 的方法),得到 EIF。这一步的难点在于 \(\tau^s_h\) 是比率形式(分子是成对期望,分母是主分层概率的平方),需要链式法则处理。
- 估计量构造:将 EIF 中的 nuisance 函数替换为估计值,构造 U-统计量形式的估计量。三重稳健性来自 EIF 的正交性——每个 nuisance 函数的估计误差在 EIF 中的系数为零。
- 交叉拟合:采用 Escanciano and Terschuur (2022) 的样本分割方案,将样本分为 \(K\) 折,每折的 nuisance 函数用其余折估计,避免过拟合导致的偏差。
- 渐近理论:利用 U-统计量的 Hoeffding 分解和 empirical process 理论证明渐近正态性。
技术技巧点名:
- Gateaux 导数(Ichimura and Newey 2022):用于推导 EIF,是本文理论的核心工具。
- U-统计量的 Hoeffding 分解:用于处理两两比较项,将 U-统计量分解为主项和余项。
- 交叉拟合(Chernozhukov et al. 2018; Escanciano and Terschuur 2022):避免 nuisance 估计的过拟合偏差。
- 多重稳健性(Rotnitzky et al. 2019 的 mixed bias property):EIF 的正交性保证了部分模型错误设定时的一致性。
- 主得分加权(Ding and Lu 2016):将不可观测的主分层概率转化为可观测的处理概率之差。
真实例子与应用¶
模拟研究(第 5 节):设计了两个模拟场景——概率指数(连续结果)和 win ratio(有序结果)。每个场景考虑四种 nuisance 函数错误设定组合(全部正确、仅处理模型正确、仅主得分正确、仅结果模型正确)。结果显示: - 三重稳健估计量在"至少两个模型正确"时无偏,与理论一致; - 在"仅一个模型正确"时有偏,但偏差小于 plug-in 估计量; - 交叉拟合的 DML 估计量在有限样本下比参数三重稳健估计量更稳定。
数据例子(第 6 节):美国 Jobs Corps 研究(Schochet et al. 2001),\(n = 9,240\)。中间变量 \(D\) 为随机化后一年的就业状态,结果 \(Y\) 为周收入(连续,用于 SPI)或收入分层(有序,用于 win ratio)。主要发现: - SPI 估计为 0.539(95% CI: 0.527–0.552),表明 Jobs Corps 对 always-employed 层的收入排序有显著正向效应; - win ratio 分析显示效应在 compliers 层最强(1.270),在 never-takers 层不显著(1.041),提示处理效应异质性; - 敏感性分析(\(\eta_0 \in \{0.1, 0.2, 0.3, 0.4, 0.5\}\))显示 SPI 估计随 \(\eta_0\) 增大而增大,但方向不变。
🔎 结论是否比证明窄¶
是。具体表现:
-
定理 2 的三重稳健性是在参数模型设定下证明的(第 4.2 节),但作者在第 4.3 节直接声称 DML 估计量"在 nuisance 函数由机器学习估计时同样有效",而定理 3 的条件 (c) 要求 \(o_P(n^{-1/4})\) 收敛速率——这对许多现代机器学习方法(如随机森林、深度网络)未必成立。作者在讨论中承认这一点,但未给出具体验证。
-
定理 1 的 EIF 推导假设了 \(h\) 满足一定的光滑性条件(如 Lipschitz),但文中未明确陈述这些条件。对于 win ratio 这种不连续的对比函数(\(h(u,v) = \mathbf{1}(u > v)\)),EIF 的推导需要额外的处理(如核光滑化),作者在正文中未详细说明。
-
敏感性分析(第 4.4 节)只考虑了单调性违反(通过 \(\eta(X)\) 参数化),未考虑主可忽略性违反。作者在讨论中承认"主可忽略性的敏感性分析是未来工作",但这意味着结论对核心假设的依赖程度未被充分刻画。
-
数据例子中,作者将 Jobs Corps 数据视为随机化试验,但实际存在一定程度的缺失数据(约 10% 的参与者缺失收入信息),作者仅用完整案例分析,未讨论缺失机制的影响。
四、开放问题¶
以下问题均扎根于论文的具体语句:
-
连续中间变量的推广(第 7 节讨论):"我们的方法目前限于二元中间变量。扩展到连续中间变量需要处理无限多个主分层,识别条件将更加复杂。" 要确认这是否为真 gap,可查阅 Lu et al. (2023) 关于连续中间变量的工作,看其是否已部分解决此问题。
-
主可忽略性的敏感性分析(第 4.4 节):作者仅对单调性做了敏感性分析,明确承认"对主可忽略性违反的敏感性分析是未来工作"。这是一个明确的缺口——可考虑将 Tan (2006) 或 Robins et al. (2007) 的敏感性分析框架推广到 PGCE。
-
非光滑对比函数的效率理论(定理 1 的假设):win ratio 对应的 \(h\) 不连续,EIF 推导需要核光滑化。作者在正文中未给出详细处理,这为"非光滑对比函数下的效率界"留下了理论空间。
-
聚类数据的扩展(第 7 节讨论):"将我们的方法扩展到聚类随机试验是一个有趣的方向。" 这涉及 U-统计量在聚类数据下的渐近理论,可参考 Wang et al. (2024) 的工作。
-
多重稳健估计量的高阶性质(定理 2 的有限样本表现):模拟显示 DML 估计量在"仅一个模型正确"时仍有较小偏差,但理论未解释这一现象。可探索高阶影响函数或偏差修正方法。
提示:要确认上述问题是否为真 gap,建议查阅近 5 年主分层 + 非线性对比函数方向的文献(如 Biometrika、JRSS-B、Annals of Statistics 上的相关工作)。若多篇近期论文都指向同一缺口,则为共识性 gap;若互相矛盾,则可能是机会所在。
Maintained by 陈星宇 · Homepage · Source on GitHub