跳转至

Collaborative representations for targeted causal inference under outcome selection

作者: Johan de Aguas
主题: 因果推断
相关性: 8/10
链接: https://arxiv.org/abs/2610.08073


一、领域脉络与小综述

这个方向是什么

本文研究的根本问题是:在观察性研究中,当结局变量存在缺失(outcome selection / attrition)时,如何估计平均处理效应(ATE)。这是一个因果推断与缺失数据交叉的核心问题。与标准缺失数据设定不同,这里的挑战是双重的:不仅要处理由于混杂导致的 treatment assignment 内生性,还要处理 outcome 缺失机制本身可能依赖于处理、结局和协变量的问题。该方向的成熟度处于"理论框架已建立、但有限样本下的估计器设计仍活跃"的阶段——识别条件(如序贯可忽略性)已被充分研究,但如何在实际中高效、稳定地估计这些识别公式中的 nuisance 函数,仍是开放问题。

发展脉络(history)

  • 奠基工作:Robins et al. (1994) 和 van der Laan & Robins (2003) 奠定了半参数效率理论与 targeted learning 框架的基础,证明了在 nuisance 函数以足够快速度收敛时,基于影响函数的一步估计量或 TMLE 可以达到半参数效率界。Robins, Sued, Lei-Gomez & Rotnitzky (2007) [3] 则指出了双重稳健估计量在权重高度可变时的有限样本问题,这是本文动机的重要来源。
  • 主要进展:van der Laan & Gruber (2010) [40] 提出 collaborative TMLE(CTMLE),核心洞见是:倾向 score 的估计应服务于目标参数而非预测精度本身。Chernozhukov et al. (2018) [6] 的 double/debiased ML 框架提供了正交矩条件的系统化方法。Chernozhukov, Newey, Robins & Singh (2022) [7,8] 提出 Riesz 回归,直接学习目标泛函的 Riesz 表示子,绕过了显式估计倾向 score 的步骤。
  • 当前 frontier:在缺失数据设定下,de Aguas et al. (2025) [10] 建立了序贯调整框架下的识别与效率理论,给出了多重稳健性条件。van der Laan et al. (2024, 2025) [38,39] 将 isotonic calibration 引入权重稳定化。Johansson et al. (2022) [15,34] 将表示学习引入因果效应估计,但主要关注 treatment 组间平衡而非目标参数偏差。
  • 本文的位置:本文试图填补 CTMLE 与 Riesz 回归之间的空白——用表示学习替代 CTMLE 的逐步搜索,同时保持"协作性"(即表示由目标参数偏差驱动而非预测精度驱动)。它声称在 outcome selection 设定下,这是首个将协作表示学习与 targeted learning 结合的工作。

子线索聚类

  1. 半参数效率与 targeted learning([10,11,12,40,42,43,47]):关注如何构造渐近有效且多重稳健的估计量,核心工具是影响函数、TMLE 波动、交叉拟合。
  2. Riesz 回归与自动去偏([7,8,38,39]):直接学习目标泛函的 Riesz 表示子,避免显式估计倾向 score,但面临函数类选择和正则化的挑战。
  3. 表示学习与因果推断([15,20,34]):学习低维表示以改善协变量平衡或泛化性能,但通常不针对目标参数偏差进行优化。
  4. 缺失数据与选择偏差([2,4,5,9,14,22,23,24,25,26,31,37]):从图模型识别条件到估计方法,关注 outcome 缺失下的因果效应恢复。

这个方向在追问的核心问题

  1. 识别:在何种图结构与缺失机制假设下,ATE 可由观测数据识别?序贯可忽略性是否可被放松?
  2. 估计:如何构造在 nuisance 函数误设或收敛速度不足时仍保持良好性质的估计量?多重稳健性(multiple robustness)的具体条件是什么?
  3. 有限样本行为:如何在高维或弱重叠(weak overlap)下控制估计量的方差与偏差?倾向 score 的预测精度与目标参数估计精度之间如何权衡?
  4. 计算可行性:如何在高维数据上高效实现 targeted learning?逐步搜索(CTMLE)的计算瓶颈如何突破?

已知瓶颈:CTMLE 的逐步搜索计算昂贵且对变量顺序敏感;Riesz 回归在弱重叠下可能病态;表示学习方法通常优化预测损失而非目标参数偏差,导致"预测好但估计差"的现象。

⚠️ 作者的 framing(这是作者的说法)

作者将缺口 frame 为:"Flexible propensity learners can predict treatment or missingness well while worsening target estimation by emphasizing instruments, weak-overlap regions, or variation unrelated to outcome-regression bias." 即:现有倾向 score 学习方法优化的是预测精度,而非目标参数的偏差-方差权衡。作者声称其贡献是"learns low-dimensional treatment and selection representations from cross-fitted pseudo-outcomes that encode outcome-regression drift",从而将协作性直接编码进表示学习。作者淡化了 Riesz 回归作为替代方案的竞争力,仅以"practical success depends on the choice of function class and regularization"带过。

值得研究者去查的问题:作者在引言中未提及 Díaz (2020) 关于非参数效率界的工作,也未讨论 Kennedy et al. (2021) 的 double/debiased machine learning 在缺失数据下的最新进展。此外,作者对 CTMLE 的批评(计算昂贵、顺序敏感)是否在低维设定下依然成立?这些竞争路线的相对优劣需要研究者自行判断。

张力

未见明显对立引用。但存在一个微妙的张力:CTMLE 的协作性通过逐步变量搜索实现,而本文通过表示学习实现。两者都声称"协作",但机制完全不同——前者是离散的模型选择,后者是连续的表示优化。这种张力暗示"协作"概念本身可能缺乏统一定义,值得研究者注意。


二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据

符号清单:

符号 含义 类型
\(A \in \{0,1\}\) 二元处理变量 随机变量(观测)
\(W\) 基线协变量 随机向量(观测)
\(Z\) 额外协变量(可含处理后变量) 随机向量(观测)
\(Y\) 完整结局 潜在变量(不可观测)
\(R \in \{0,1\}\) 结局是否被观测的指示 随机变量(观测)
\(Y^\dagger\) 观测到的结局代理(\(Y^\dagger = Y\) 若 \(R=1\),否则缺失) 随机变量(观测)
\(\psi\) ATE,目标参数 标量(estimand)
\(Q_1(W,A,Z) := E[Y \mid W,A,Z,R=1]\) 第一层结局回归 函数(nuisance)
\(Q_2(W,A) := E[Q_1(W,A,Z) \mid W,A]\) 第二层(元)回归 函数(nuisance)
\(\pi_A(W) := P(A=1 \mid W)\) 处理倾向 score 函数(nuisance)
\(\pi_R(W,A,Z) := P(R=1 \mid W,A,Z)\) 缺失倾向 score 函数(nuisance)
\(\alpha_2(W,A)\) 处理侧 clever covariate 函数(由 \(\pi_A\) 导出)
\(\alpha_1(W,A,Z,R)\) 缺失侧 clever covariate 函数(由 \(\pi_A, \pi_R\) 导出)

数据生成机制(作者假设的序贯结构): 1. 从 \(P(W)\) 抽取基线协变量 \(W\); 2. 从 \(P(A \mid W)\) 抽取处理 \(A\)(倾向 score \(\pi_A\)); 3. 从 \(P(Z \mid W,A)\) 抽取处理后协变量 \(Z\); 4. 从 \(P(Y \mid W,A,Z)\) 抽取完整结局 \(Y\); 5. 从 \(P(R \mid W,A,Z)\) 抽取缺失指示 \(R\)(缺失倾向 \(\pi_R\)); 6. 观测 \(Y^\dagger = Y\) 若 \(R=1\),否则 \(Y^\dagger = \emptyset\)。

可观测数据:\(O_i = (W_i, A_i, Z_i, R_i, Y^\dagger_i)\),\(i=1,\dots,n\),i.i.d. 来自观测分布 \(P\)。

目标 estimand(恢复的 ATE):

\[\psi := E_W\left[Q_2(W,1) - Q_2(W,0)\right] = E_W\left[E_{Z|W,A=1}[Q_1(W,1,Z)] - E_{Z|W,A=0}[Q_1(W,0,Z)]\right]\]

关键识别假设(作者隐含假设): - 序贯可忽略性:\(Y(a) \perp\!\!\!\perp A \mid W\) 且 \(Y(a) \perp\!\!\!\perp R \mid W,A,Z\)(对每个 \(a\)) - 阳性条件:\(0 < \pi_A(W) < 1\) 且 \(0 < \pi_R(W,A,Z) \leq 1\) 几乎处处 - 一致性:\(Y^\dagger = Y\) 当 \(R=1\)

影响函数(作者给出的 EIF 分解):

\[D(\eta, \psi; O) = \underbrace{\alpha_1(O)\{Y^\dagger - Q_1(X)\}}_{DY} + \underbrace{\alpha_2(O)\{Q_1(X) - Q_2(W,A)\}}_{DZ} + \underbrace{\{Q_2(W,1) - Q_2(W,0) - \psi\}}_{DW}\]

其中 \(X = (W,A,Z)\),\(\alpha_2 = \frac{A - \pi_A(W)}{\pi_A(W)(1-\pi_A(W))}\),\(\alpha_1 = \frac{R \cdot \alpha_2}{\pi_R(W,A,Z)}\)。

第二步:最小内核

核心问题:当 \(Q_1, Q_2\) 被线性模型误设时,如何选择倾向 score 模型 \(\pi_A, \pi_R\) 使得 ATE 估计的偏差最小?

最简设定:假设 \(W\) 是一维的,\(A\) 是二元处理,\(R\) 是缺失指示,\(Z\) 不存在(即 \(Z = \emptyset\))。此时: - \(Q_2(W,A) = Q_1(W,A)\)(因为 \(Z\) 为空,两层回归合并为一层) - \(\alpha_2(W,A) = \frac{A - \pi_A(W)}{\pi_A(W)(1-\pi_A(W))}\) - \(\alpha_1(W,A,R) = \frac{R \cdot \alpha_2(W,A)}{\pi_R(W,A)}\)

EIF 简化为:

\[D(\eta, \psi; O) = \frac{R \cdot \alpha_2(W,A)}{\pi_R(W,A)}\{Y - Q_1(W,A)\} + \alpha_2(W,A)\{Q_1(W,A) - Q_2(W,A)\} + \{Q_2(W,1) - Q_2(W,0) - \psi\}\]

关键观察:EIF 的期望(在真实分布 \(P^\circ\) 下)为:

\[E^\circ[D(\eta, \psi^\circ; O)] = E^\circ\left[\frac{\pi^\circ_R(W,A) - \pi_R(W,A)}{\pi_R(W,A)} \cdot \alpha_2(W,A) \cdot \varepsilon(W,A)\right] + E^\circ\left[\frac{\pi^\circ_A(W) - \pi_A(W)}{\pi_A(W)(1-\pi_A(W))} \cdot \delta(W,A)\right]\]

其中 \(\varepsilon(W,A) = Q_1(W,A) - Q^\circ_1(W,A)\) 是第一层回归误差,\(\delta(W,A) = Q_2(W,A) - Q^\circ_2(W,A)\) 是第二层回归误差。

最小内核的数学命题:若 \(\pi_A(W) = P^\circ(A=1 \mid \delta_1(W), \delta_0(W))\) 且 \(\pi_R(W,A) = P^\circ(R=1 \mid W, A, \varepsilon(W,A))\),则 \(E^\circ[D(\eta, \psi^\circ; O)] = 0\),即使 \(Q_1, Q_2\) 都误设。

为什么成立:当 \(\pi_A\) 只依赖 \(\delta_1, \delta_0\) 时,\(E^\circ[\alpha_2 \cdot \delta(W,A) \mid \delta_1, \delta_0] = 0\)(因为 \(\alpha_2\) 是 \(A\) 的均值为零的函数,而 \(\delta\) 在给定 \(\delta_1, \delta_0\) 下与 \(A\) 条件独立)。类似地,当 \(\pi_R\) 依赖 \(\varepsilon\) 时,第一项也消失。这就是"协作性"的本质:倾向 score 只需捕捉回归误差的方向,而非整个处理或缺失机制。

这个最小内核揭示了本文的核心思想:与其用全协变量集 \(W\) 估计倾向 score(可能引入与目标无关的变异),不如学习一个低维表示 \(h_A(W)\) 和 \(h_R(W,A,Z)\),使得表示空间恰好包含回归误差 \(\delta\) 和 \(\varepsilon\) 的支撑。这就是"协作表示"的含义。


三、这篇论文做了什么

三句话

  1. 研究了什么问题:在结局缺失(outcome selection)下,如何通过协作表示学习替代 CTMLE 的逐步搜索,构造对目标参数偏差敏感的倾向 score 模型,从而改进恢复的 ATE 估计的有限样本表现。
  2. 核心工具/方法:提出一种表示学习框架,用交叉拟合的伪结果(pseudo-outcomes)训练低维表示,交替进行 targeted outcome 更新和表示更新,并通过内部交叉验证选择表示维度、协作强度和正则化参数。
  3. 主要结论:在模拟中,该方法相比 plug-in、one-step、TMLE、Ridge Riesz 回归等基准,在多种配置下显著降低偏差,尤其在 outcome 回归误设且存在大量与目标无关的 instruments 时;理论部分给出了协作稳健性的充分条件。

关键设定与假设

完整设定(在第二节最小记号基础上补充):

  1. 数据:\(O_i = (W_i, A_i, Z_i, R_i, Y^\dagger_i)\),\(i=1,\dots,n\),i.i.d.。
  2. 目标:恢复的 ATE \(\psi = E_W[Q_2(W,1) - Q_2(W,0)]\)。
  3. nuisance 结构:
  4. 第一层:\(Q_1(W,A,Z) = E[Y \mid W,A,Z,R=1]\),用线性回归拟合(故意误设)。
  5. 第二层:\(Q_2(W,A) = E[Q_1(W,A,Z) \mid W,A]\),用线性回归拟合(故意误设)。
  6. 处理倾向:\(\pi_A(W) = P(A=1 \mid W)\),用神经网络拟合。
  7. 缺失倾向:\(\pi_R(W,A,Z) = P(R=1 \mid W,A,Z)\),用神经网络拟合。
  8. 表示学习:
  9. 处理侧表示:\(u_A = h_{A,\beta_A}(W) \in \mathbb{R}^{d_A}\)。
  10. 缺失侧表示:\(u_R = h_{R,\beta_R}(W,A,Z) \in \mathbb{R}^{d_R}\)。
  11. 倾向 score 通过表示输入到输出层:\(\pi_A(W) = \sigma(g_{A,\gamma_A}(u_A))\),\(\pi_R(X) = \sigma(g_{R,\gamma_R}(W,A,u_R))\)。
  12. 协作损失:
  13. 处理侧:\(\mathcal{L}_A = CE_A(\pi_A) + \lambda_A \cdot \mathbb{E}[\sum_{a \in \{0,1\}} (\hat{\delta}_a(W) - f^{(a)}_{A,\kappa_A}(u_A))^2]\),其中 \(\hat{\delta}_a(W) = \hat{Q}_2(W,a) - \tilde{Q}_2(W,a)\) 是第二层回归的 arm-specific 漂移估计。
  14. 缺失侧:\(\mathcal{L}_R = CE_R(\pi_R) + \lambda_R \cdot \mathbb{E}[R(\hat{\varepsilon}(X) - f_{R,\kappa_R}(u_R))^2]\),其中 \(\hat{\varepsilon}(X) = \hat{Q}_1(X) - Y^\dagger\) 是第一层回归的漂移估计。
  15. 选择准则:内部交叉验证使用目标化的风险 \(\hat{R}(s) = \hat{\mu}(s)^2 + \hat{v}(s)/|T|\),其中 \(\hat{\mu}(s)\) 是 EIF 均值(漂移估计),\(\hat{v}(s)\) 是 EIF 方差。

相比已有工作的变化: - 相比 CTMLE [40]:用连续表示学习替代离散逐步搜索,避免顺序依赖。 - 相比 Riesz 回归 [7,8]:不是直接学习权重,而是学习表示后通过表示拟合倾向 score。 - 相比标准表示学习 [15,34]:表示由目标参数漂移驱动,而非预测精度或协变量平衡。

主要结果

理论结果:

  1. 定理 1(协作稳健性):若 \(\tilde{\pi}_A(W) = P^\circ(A=1 \mid \delta_1(W), \delta_0(W))\) 且 \(\tilde{\pi}_R(X) = P^\circ(R=1 \mid W, A, \varepsilon(X))\),则 \(E^\circ[D(\tilde{\eta}, \psi^\circ; O)] = 0\)。这意味着即使 \(Q_1, Q_2\) 都误设,只要倾向 score 捕捉了漂移方向,EIF 方程仍然无偏。证明思路:将 EIF 期望分解为三项,分别对应 \(Q_1\) 漂移、\(Q_2\) 漂移和交叉项;利用条件期望的塔性质,在 \(\tilde{\pi}_A\) 和 \(\tilde{\pi}_R\) 的协作条件下,每项都为零。

  2. 定理 2(渐近有效性):在假设 (A1)-(A5) 下,\(\sqrt{n}(\hat{\psi} - \psi^\circ) \Rightarrow N(0, \text{var}_{P^\circ}[D(\bar{\eta}, \psi^\circ; O)])\)。其中 \(\bar{\eta}\) 是所选候选的概率极限。关键假设:(A3) 要求存在一个 oracle 配置满足协作稳健性;(A4) 要求选择准则的风险与目标漂移局部等价;(A5) 要求交叉拟合的 empirical process 控制。

证明路线:

  1. 第一步:证明 EIF 期望的漂移分解(引理 1),将 \(E^\circ[D(\tilde{\eta}, \psi^\circ; O)]\) 分解为三个可分别控制的项。
  2. 第二步:证明协作稳健性(定理 1),利用条件期望和鞅差结构消去漂移项。
  3. 第三步:证明选择准则的 oracle 性质(引理 2),即 \(\hat{R}(s)\) 一致地估计目标漂移加方差。
  4. 第四步:证明渐近线性(定理 2),通过交叉拟合和 empirical process 控制,将估计量展开为 EIF 均值加 \(o_P(n^{-1/2})\)。

技术技巧: - 交叉拟合(cross-fitting):避免 Donsker 条件,允许使用灵活的机器学习估计器。 - 伪结果(pseudo-outcomes):将漂移估计转化为回归问题,使表示学习可端到端训练。 - 目标化风险(targeted risk):选择准则直接针对 EIF 漂移和方差,而非预测损失。 - 协作权重:用 \(\omega^{(a)}_{A,i} = \frac{A_i}{\tilde{\pi}_A(W_i)}\) 和 \(\frac{1-A_i}{1-\tilde{\pi}_A(W_i)}\) 加权,使漂移投影接近边际分布。 - 瓶颈惩罚:通过 \(\tau_A \|h_A\|^2\) 和 \(\tau_R \|h_R\|^2\) 控制表示复杂度,避免过拟合。

真实例子:本文为纯模拟研究,无真实数据应用。模拟设计如下:

  • 数据生成:\(W_1, W_2 \sim N(0, 0.5)\),\(B_1,\dots,B_8 \sim N(0, 0.25)\)(处理工具),\(C_1,\dots,C_8 \sim N(0, 0.25)\)(缺失工具)。处理 \(A = I\{g_A(W,B) + U_A > 0\}\),其中 \(g_A\) 包含非线性项(如 \(W_1^2\)、\(W_2^2\)、交互项)。\(Z_1, Z_2\) 为处理后变量,\(Z_2\) 含二次项。缺失 \(R = I\{g_R(W,A,Z,C) + U_R > 0\}\),\(g_R\) 含 \(\sin\)、\(\tanh\) 等非线性。结局 \(Y = 3(W_1+W_2) - 0.25s_A + 0.5s_A(W_1+W_2) + 1.25Z_1 + 0.25s_A Z_1 + Z_2 + 0.5s_A Z_2 + U_Y\),其中 \(s_A = 2A-1\)。
  • 关键设计:\(Q_1\) 和 \(Q_2\) 的线性回归故意省略 \(W_1^2, W_2^2, Z_2\) 的二次项和 \(A \times W\) 交互项,造成系统性误设。同时,\(B\) 和 \(C\) 是强处理/缺失预测因子但与结局无关,构成"目标无关 instruments"。
  • 基准:plug-in、one-step(非协作神经倾向)、TMLE(非协作神经倾向)、Ridge Riesz 回归。
  • 结果:CR-TMLE 在 \(n=3000, 5000, 7000\) 下偏差绝对值最小(\(\theta_1\) 在 \(n=3000\) 偏差 \(-0.477\),\(n=5000\) 偏差 \(0.004\),\(n=7000\) 偏差 \(0.146\)),而 plug-in 偏差约 \(1.52\),TMLE 偏差约 \(-2\) 到 \(0.8\) 不等。但 CR-TMLE 的 MSE 并非最小——one-step 和 Ridge Riesz 在 \(n=5000, 7000\) 时 MSE 更低(\(0.575\) 和 \(0.794\) vs CR-TMLE 的 \(2.909\)-\(6.228\))。这说明 CR-TMLE 的优势在偏差削减而非方差控制。

🔎 结论是否比证明窄

是,存在明显差距:

  1. 定理 1 的协作条件:作者证明了"若 \(\tilde{\pi}_A\) 依赖 \(\delta_1, \delta_0\) 且 \(\tilde{\pi}_R\) 依赖 \(\varepsilon\)"则无偏,但未证明表示学习算法能实际收敛到这样的 \(\tilde{\pi}\)。定理 2 的假设 (A3) 只是"存在"这样的 oracle 配置,并未给出算法收敛到该配置的条件。

  2. 定理 2 的渐近线性:假设 (A4) 要求"选择准则的风险与目标漂移局部等价",但作者在正文中承认"if the optional regression-loss component dominates, or if the procedure is refitted after selection, local equivalence to the final target remainder is not automatic and must be imposed as a stability assumption"(Remark 7)。这意味着定理 2 的适用范围比正文的 claim 窄。

  3. 模拟结论的推广:作者在结论中称"collaborative representations can substantially reduce bias",但模拟中 CR-TMLE 的 MSE 并非最优,且 \(\theta_1\)-only 和 \(\theta_2\)-only 的表现差异较大(\(n=3000\) 时 \(\theta_1\) 偏差 \(-0.477\) vs \(\theta_2\) 偏差 \(-0.539\),但 \(n=5000\) 时 \(\theta_1\) 偏差 \(0.004\) vs \(\theta_2\) 偏差 \(0.145\)),说明结果对超参数敏感。作者未讨论这种敏感性。

  4. 无真实数据验证:作者未在真实数据上验证方法,也未与最新的 Riesz 回归变体(如 kernel ridge Riesz)进行比较。


四、开放问题

  1. 表示学习的收敛性(扎根于定理 2 的假设 A3):在什么条件下,交替优化算法能收敛到满足协作条件的表示?能否给出非渐近的收敛率?这需要分析非凸优化的 landscape。

  2. 选择准则的理论保证(扎根于 Remark 7):当 \(\zeta > 0\) 或使用回归损失分量时,选择准则的 oracle 性质如何退化?是否存在一个"安全"的 \(\zeta\) 范围,使得选择准则仍能控制目标漂移?

  3. 高维扩展(扎根于模拟设计):当 \(W\) 的维度远大于样本量时,表示学习的样本复杂度如何?能否将稀疏性假设(如 \(\delta_a\) 只依赖少数协变量)纳入表示学习框架?

  4. 多重稳健性的精细刻画(扎根于定理 1 的证明):协作条件是否可以被弱化?例如,是否只需要 \(\tilde{\pi}_A\) 与 \(\delta\) 的相关性而非完全条件独立?这需要更精细的偏差分析。

  5. 与 Riesz 回归的统一视角(扎根于附录 A.4):协作表示学习与 Riesz 回归在目标函数上是否有深层联系?能否将两者统一为一个框架,其中 Riesz 回归是协作表示学习的特例(即表示维度等于协变量维度)?

  6. 纵向与生存分析扩展(扎根于引言中提到的序贯设定):当处理是时变的、缺失发生在多个时间点时,协作表示如何定义?序贯协作条件是否仍然充分?

提醒:要确认上述问题是否为真 gap,建议去读近 5 年 Journal of Causal Inference、Biometrika、JRSS-B 上关于 missing data 与 targeted learning 的论文引言——如果多篇都指向同一问题,则可能是共识性 gap;如果各说各话,则可能是机会。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论