Causal Mediation Analysis with High-Dimensional Surrogates: Identification, Estimation and Inference under Latent Factor Models¶
作者: Himani Yadav, Shi Bo, AmirEmad Ghassami, Debarghya Mukherjee
主题: 因果推断
相关性: 8/10
链接: https://arxiv.org/abs/2611.03167
一、领域脉络与小综述¶
这个方向是什么¶
本文研究的核心问题是:当因果中介分析中的关键变量——中介变量和混杂因素——都无法直接观测,而只能通过高维、含噪声的替代测量(surrogate measurements)来间接获取时,如何识别和估计自然直接效应(NDE)与自然间接效应(NIE)。这是一个典型的"测量误差 + 高维数据 + 因果推断"交叉问题。该方向的根本困难在于:替代测量中既包含真实信号(潜在因子),也包含大量与因果问题无关的噪声维度,如何在不精确知道潜在因子维度的情况下,从这些噪声中提取出足以进行因果推断的信息。该方向当前处于快速发展期,已有工作(如Derkach et al., 2019; Ghassami et al., 2025; Zhang et al., 2026a)分别从代理变量、负对照和因子模型等角度切入,但尚未形成统一框架,尤其在"中介和协变量同时潜藏"且"工作维度可超过真实维度"的设定下,识别与推断理论仍不完善。
发展脉络¶
- 奠基工作:Baron and Kenny (1986) 提出了基于回归的中介分析基本框架(乘积系数法),为后续所有中介分析提供了最原始的出发点。随后,Rubin (1974) 的潜在结果框架和 Robins and Greenland (1992) 对自然直接/间接效应的形式化定义,将中介分析纳入了严格的因果推断语言。Pearl (2022) 进一步给出了非参数识别条件(序贯可忽略性),奠定了现代中介分析的理论基础。这一阶段的核心贡献在于明确了"什么是需要估计的因果量"以及"在什么假设下这些量可识别"。
- 主要进展(固定维度下的中介分析):Imai et al. (2010) 系统建立了基于潜在结果框架的中介效应识别与敏感性分析理论,给出了序贯可忽略性假设下的非参数识别公式。Tchetgen Tchetgen and Shitser (2012) 和 VanderWeele and Vansteelandt (2014) 发展了半参数效率理论,推导出 NDE/NIE 的高效估计量及其影响函数,使得中介分析从"点估计"走向"最优推断"。这一阶段解决了"当所有变量都可观测时,如何最优地估计因果效应"的问题。
- 近期进展(高维与潜变量中介分析):随着生物医学数据(如DNA甲基化、影像数据)的维度急剧膨胀,研究者开始处理高维中介问题。Zhang et al. (2016)、Huang and Pan (2016)、Zhao and Luo (2021) 等通过稀疏回归或变量选择方法处理高维中介筛选,但通常假设中介本身可观测。Derkach et al. (2019) 首次系统处理了高维代理变量下的因果效应估计,但未涉及中介结构。Ghassami et al. (2025) 引入负对照思想处理隐藏中介,但依赖特定的代理结构假设。Zhang et al. (2026a) 提出的 PRIME 方法将因子模型引入高维中介分析,但其设定中高维变量本身是"暴露"和"中介",因子仅用于刻画变量间的相关性,而非作为不可观测的潜在因果量。本文的定位是在这些工作之后,首次将"潜在因子作为因果量本身"(而非相关性结构)纳入中介分析框架,并允许工作维度超过真实维度。
- 本文的位置:本文在以下方面推进了前沿:① 将因子模型从"相关性建模工具"提升为"因果识别工具",即潜在因子 f^X 和 f^M 本身就是混杂和中介;② 建立了"近似识别"的理论框架,明确刻画了当替代测量维度趋于无穷时,观测数据函数与潜在目标之间的偏差如何消失;③ 提出了允许工作维度超过真实维度的估计方法,避免了精确估计因子维数的困难;④ 给出了 √n 一致且渐近正态的推断理论,并证明了方差估计的一致性。
子线索聚类¶
- 线索一:基于潜在结果框架的中介识别理论。代表工作:Robins and Greenland (1992)、Imai et al. (2010)、Pearl (2022)。这一线索关注"在什么假设下 NDE/NIE 可识别",核心工具是序贯可忽略性和中介公式。本文完全继承了这一线索的识别策略,将其推广到潜在因子层面。
- 线索二:半参数效率与稳健推断。代表工作:Tchetgen Tchetgen and Shitser (2012)、VanderWeele and Vansteelandt (2014)。这一线索关注"给定识别条件后如何构造高效估计量",核心工具是影响函数、双稳健估计和交叉拟合。本文的估计量设计(交叉拟合 + 两阶段回归)明显受到这一线索的影响。
- 线索三:高维数据下的因子模型与降维。代表工作:Bai (2003)、Fan et al. (2013)、Fan and Liao (2022)。这一线索关注"如何从高维观测中恢复低维潜在结构",核心工具是主成分分析、因子估计及其收敛速度。本文的识别与估计策略直接建立在这一线索的技术基础之上。
- 线索四:高维中介分析与代理变量方法。代表工作:Zhang et al. (2016)、Derkach et al. (2019)、Ghassami et al. (2025)、Zhang et al. (2026a)。这一线索关注"当真实中介或混杂不可观测时如何处理",本文是这一线索的最新发展,其创新在于将因子模型与因果识别深度结合。
这个方向在追问的核心问题¶
- 识别问题:当潜在因子(混杂和中介)只能通过高维噪声替代测量观测时,因果效应是否可识别?需要什么样的条件(因子载荷的渗透性、误差独立性等)?本文的回答是"近似识别"——即随着替代测量维度趋于无穷,识别偏差趋于零。
- 估计问题:如何从高维替代测量中构造出对潜在因子的"足够好"的估计,使得后续的因果效应估计达到 √n 收敛速度?本文的回答是"主成分投影 + 交叉拟合"。
- 推断问题:在因子维度可能被高估的情况下,如何构造有效的置信区间?本文的回答是"方差估计对工作维度不敏感,因为额外方向只含噪声"。
- 维度选择问题:是否需要精确知道潜在因子维度?本文的回答是否定的——只要工作维度是真实维度的上界即可,这大大增强了方法的实用性。
⚠️ 作者的 framing¶
作者将本文的贡献框架为"在高维替代测量下,潜在中介与混杂的因果效应近似识别与 √n 推断"。具体而言,作者声称:(1)当替代测量维度趋于无穷时,观测数据函数与潜在目标之间的偏差以显式速率消失(Theorem 3.1);(2)所提出的交叉拟合估计量是 √n 一致且渐近正态的(Theorem 5.2);(3)方差估计一致,因此可以构造有效的置信区间(Lemma 5.1)。作者特别强调,他们的方法"不需要精确知道潜在因子维度",只需工作维度是真实维度的上界。这一 framing 将本文定位为"连接高维因子模型与因果推断"的桥梁性工作。值得注意的是,作者在附录 E.1 中详细对比了与 Zhang et al. (2026a) 的差异,强调 PRIME 中的因子是"相关性结构"而本文的因子是"因果量本身",这是本文的核心卖点。
张力¶
未见明显对立引用。作者在附录 E.1 中与 Zhang et al. (2026a) 的对比是"互补性"而非"对立性"的表述,强调两者处理不同的问题设定。不过,一个值得注意的潜在张力在于:本文的识别策略依赖于"潜在因子载荷的渗透性"(Assumption 3.2(ii)),即每个因子必须影响足够多的替代测量。这一假设在因子分析文献中是标准的,但在因果推断中是否过于严格(例如,当某些替代测量与因果问题无关时),作者没有深入讨论。此外,作者假设替代测量的误差方差有界(Assumption 3.1(v)),这与高维数据中常见的厚尾或异质噪声可能存在冲突。
二、最核心、最简单的例子 / 数学问题¶
第一步:符号、模型与可观测数据¶
符号: - 潜在(不可观测)变量: - f^X ∈ ℝ^{p̄}:潜在混杂因子(pre-treatment covariates),p̄ 固定且远小于 p。 - f^M ∈ ℝ^{q̄}:潜在中介因子(mediators),q̄ 固定且远小于 q。 - u^X ∈ ℝ^p、u^M ∈ ℝ^q:替代测量的特异误差(idiosyncratic errors)。 - ϵ₀、ϵ₁:潜在结果方程中的误差项。 - u^{XM,0}、u^{XM,1}:中介方程中的误差项。
- 可观测变量:
- A ∈ {0,1}:二元处理变量。
- Y ∈ ℝ:结果变量。
- X ∈ ℝ^p:高维协变量替代测量(p 可远大于 n)。
-
M ∈ ℝ^q:高维中介替代测量(q 可远大于 n)。
-
参数 / 系数:
- Γ^X ∈ ℝ^{p×p̄}、Γ^M ∈ ℝ^{q×q̄}:因子载荷矩阵。
- B₀、B₁ ∈ ℝ^{p̄×q̄}:处理对中介因子的影响系数(B₀ 为控制组,B₁ 为处理组)。
- β₀、β₁ ∈ ℝ^{p̄}:混杂因子对结果的系数。
- γ₀、γ₁ ∈ ℝ^{q̄}:中介因子对结果的系数。
- δ₀、δ₁ ∈ ℝ^{q̄}:中介方程的截距。
- α₀、α₁ ∈ ℝ:结果方程的截距。
- θ₀ = E[Y(1, f^M(0))]:核心估计目标(交叉世界反事实均值)。
模型(线性结构方程): - 测量模型:X = Γ^X f^X + u^X,M = Γ^M f^M + u^M。 - 中介模型(控制组 A=0):f^M = δ₀ + B₀ f^X + u^{XM,0}。 - 中介模型(处理组 A=1):f^M = δ₁ + B₁ f^X + u^{XM,1}。 - 结果模型:Y = α_A + β_A^⊤ f^X + γ_A^⊤ f^M + ϵ_A。
可观测数据:n 个独立同分布样本 {(X_i, M_i, A_i, Y_i)},i = 1, ..., n。研究者无法观测 f^X 和 f^M,只能观测到它们的噪声线性变换 X 和 M。
关键假设(简化版): - 因子载荷满足渗透性:Γ^X、Γ^M 的奇异值有界且远离零(除以 √p、√q 后)。 - 特异误差与潜在因子、结构误差独立,且协方差有界。 - 序贯可忽略性:Y(a, f^M) ⊥ A | f^X,且 Y(a, f^M) ⊥ f^M(a') | f^X(在潜在因子层面成立)。 - 工作维度 p̃ ≥ p̄、q̃ ≥ q̄(允许高估)。
第二步:最小内核¶
问题:假设我们只有一个潜在混杂因子 f^X ∈ ℝ(p̄=1)和一个潜在中介因子 f^M ∈ ℝ(q̄=1),观测到 p 维 X = γ^X f^X + u^X 和 q 维 M = γ^M f^M + u^M。我们想估计 θ₀ = E[Y(1, f^M(0))] = α₁ + β₁ E[f^X] + γ₁ (δ₀ + B₀ E[f^X])。
为什么不能直接用 X 和 M 替代 f^X 和 f^M? - 如果直接用 X 的某个线性组合(比如第一主成分)作为 f^X 的估计,那么由于测量误差 u^X 的存在,估计出的"混杂"与真实的 f^X 有差异。这个差异会导致: 1. 混杂控制不彻底(残留混杂); 2. 中介变量的测量误差导致"中介-结果"回归的衰减偏差(attenuation bias)。 - 如果直接用 M 的所有 p 维坐标作为中介,则引入了大量纯噪声维度,这些维度与 f^M 无关,但会稀释信号,导致估计不稳定且偏差无法控制。
核心思想:利用因子模型的"渗透性"——当 p、q 很大时,X 和 M 的主成分方向会收敛到 Γ^X 和 Γ^M 的列空间。因此,将 X 和 M 投影到它们各自的前 p̃、q̃ 个主成分方向上,得到的投影值(记为 X̂、M̂)会以可控制的误差逼近 f^X 和 f^M 的线性变换。关键在于:这个投影误差的"方向"是随机的、与结构误差独立的,因此可以在后续回归中被吸收进噪声项,不产生一阶偏差。
最小例子: - 假设 p = q = 100,p̄ = q̄ = 1。真实模型:f^M = δ₀ + B₀ f^X + u^{XM,0},Y = α₁ + β₁ f^X + γ₁ f^M + ϵ₁。 - 观测到 X = γ^X f^X + u^X,M = γ^M f^M + u^M。 - 步骤1:对 X 做主成分分析,取第一主成分方向 v̂^X,计算 X̂ = X v̂^X / √p。可以证明 X̂ = H^X f^X + e^X,其中 H^X 是某个非零常数(载荷的加权平均),e^X 是均值为零、方差 O(1/p) 的噪声。 - 步骤2:对 M 做主成分分析,取第一主成分方向 v̂^M,计算 M̂ = M v̂^M / √q。类似地,M̂ = H^M f^M + e^M。 - 步骤3:用处理组样本回归 Y 对 (1, X̂, M̂),得到系数 (â₁, b̂₁, ĝ₁)。用控制组样本回归 M̂ 对 (1, X̂),得到系数 (d̂₀, B̂₀)。 - 步骤4:估计 θ̂₀ = â₁ + b̂₁ X̄ + ĝ₁ (d̂₀ + B̂₀ X̄),其中 X̄ 是全样本 X̂ 的均值。 - 为什么可行:虽然 X̂ 和 M̂ 都含有测量误差,但这些误差 e^X、e^M 与结构误差 ϵ₁、u^{XM,0} 独立(由因子模型的独立性假设保证)。在回归中,测量误差会进入回归残差,但不会产生与回归系数相关的系统性偏差——只要投影方向估计得足够好(即 p、q 足够大)。这就是"近似识别"的直观含义:偏差随 p、q 增大而消失,且不随 n 增大而消失,但可以通过增大 p、q 来控制。
数学上发生了什么:Theorem 3.1 的核心是证明 |θ₀ - θ₀,p,q| ≤ C(1/(pν²_min(H^X)) + 1/(qν²_min(H^M))),其中 ν_min(H) 是 H 的最小奇异值,衡量因子载荷的渗透强度。当 p、q → ∞ 时,这个偏差趋于零。而 Theorem 5.2 进一步证明,在交叉拟合框架下,估计量的抽样误差是 √n 阶的,且与 p、q 无关(只要 p、q 增长足够快)。因此,近似识别 + √n 推断是本文的核心数学贡献。
三、这篇论文做了什么¶
三句话¶
- 研究了什么问题:在中介变量和混杂因素均为潜在因子、仅能通过高维噪声替代测量观测的设定下,如何识别和推断自然直接效应(NDE)与自然间接效应(NIE)。
- 核心工具 / 方法:提出了因子调整中介回归(FARMA),利用主成分分析从高维替代测量中提取潜在因子信息,结合交叉拟合的两阶段回归估计因果效应,并建立了近似识别、√n 一致性和渐近正态性的完整理论。
- 主要结论:当替代测量维度趋于无穷时,因果效应可被近似识别,偏差以显式速率消失;所提出的估计量是 √n 一致且渐近正态的,方差估计一致,因此可以构造有效的置信区间;方法对工作维度的高估不敏感,无需精确知道潜在因子维度。
关键设定与假设¶
- 模型设定:线性结构方程模型,处理变量 A 为二元,结果 Y 为连续。中介和混杂均为低维潜在因子(p̄、q̄ 固定),通过线性因子模型产生高维观测 X、M。允许处理-混杂交互(B₀ ≠ B₁)和处理-中介交互(β₀ ≠ β₁、γ₀ ≠ γ₁)。
- 假设清单:
- Assumption 2.1(一致性):观测结果等于潜在结果,观测中介等于潜在中介。这是因果推断的标准假设,确保反事实结果与观测数据一致。
- Assumption 2.2(正值性):在任意混杂因子水平下,处理分配概率和中介密度均不为零。这是识别 NDE/NIE 的必要条件,确保所有反事实均值都有数据支持。
- Assumption 2.3(序贯可忽略性):给定混杂因子 f^X,处理分配与潜在结果独立;给定 (f^X, A, f^M),中介与潜在结果独立。这是中介分析的核心识别假设,在潜在因子层面而非观测替代测量层面施加。
- Assumption 3.1(采样与误差结构):样本 i.i.d.;误差项均值为零、互不相关;特异误差与潜在因子、结构误差独立;条件二阶矩有界且非退化。这些条件保证了因子模型的可估计性和回归的无偏性。
- Assumption 3.2(模型参数):结构系数有界;因子载荷满足渗透性(Γ^X、Γ^M 的奇异值有界且远离零);工作维度 p̃ ≥ p̄、q̃ ≥ q̄。渗透性是"近似识别"的关键——它确保每个潜在因子都通过多个观测变量体现,从而可以被主成分方法恢复。
- 相比已有工作的变化:与 Zhang et al. (2026a) 的 PRIME 相比,本文的假设更侧重于"潜在因子作为因果量"的识别,而非高维系数的稀疏性。本文不要求稀疏性假设,而是依赖因子结构的渗透性。与 Ghassami et al. (2025) 相比,本文不依赖负对照变量的存在,而是直接利用因子模型的结构。
主要结果¶
- Theorem 3.1(近似识别):对于任意固定的 p、q,观测数据函数 θ₀,p,q 与潜在目标 θ₀ 之间的偏差满足 |θ₀ - θ₀,p,q| ≤ C(1/(pν²_min(H^X)) + 1/(qν²_min(H^M))), 其中 C 是仅依赖于结构系数和矩条件的常数。当 p、q → ∞ 时,偏差趋于零,实现"渐近点识别"。这个结果的关键在于:偏差只依赖于替代测量的维度,而不依赖于样本量 n,因此可以通过增加替代测量数量来控制。
- Theorem 5.2(√n 一致性与渐近正态性):在交叉拟合框架下,估计量 θ̂^cf₀ 满足 √n(θ̂^cf₀ - θ₀) → N(0, σ²), 其中 σ² = E[ψ_i²] 由影响函数 ψ_i 给出。证明的关键步骤是:
- 利用 Proposition 5.1 证明投影矩阵的估计误差是 o_p(1) 的(基于 Davis-Kahan sin Θ 定理);
- 利用 Lemma C.6 将第一阶段的系数估计误差展开为 i.i.d. 平均加上可忽略项;
- 利用 Lemma C.1-C.5 控制投影误差、测量误差和交叉拟合带来的各项余项。
- Lemma 5.1(方差估计一致性):基于影响函数的方差估计量 σ̂² 是 σ² 的一致估计,因此可以构造 Wald 置信区间。证明的关键是验证影响函数的估计误差是 o_p(1) 的。
证明路线与技术技巧¶
- 整体路线:证明分为三个层次。第一层(Proposition 5.1)建立投影矩阵的收敛性——这是整个证明的地基,确保主成分方向能够一致地估计潜在因子的列空间。第二层(Lemma C.6)建立第一阶段系数估计的线性展开——将估计误差分解为 i.i.d. 平均加上可忽略的余项。第三层(Theorem 5.2)将各层误差组合起来,证明 √n 渐近正态性。
- 关键技巧:
- 交叉拟合(Cross-fitting):将样本分成两部分,一部分用于估计投影矩阵和第一阶段系数,另一部分用于计算第二阶段回归。这避免了"自身预测"带来的相关性,使得影响函数的推导变得干净。
- Davis-Kahan sin Θ 定理:用于控制投影矩阵的估计误差。关键在于利用因子载荷的渗透性(Assumption 3.2(ii))和谱间隙条件,将投影误差控制在 O_p(√(log n/n)) 的量级。
- 影响函数(Influence Function):通过线性展开将估计量表示为 i.i.d. 平均加上可忽略项,从而直接应用 Lyapunov 中心极限定理。影响函数的推导是证明的核心,需要仔细处理投影误差和测量误差的交互项。
- 余项控制:证明中大量使用 Cauchy-Schwarz 不等式、矩阵范数不等式和次高斯浓度不等式(Vershynin, 2026)来控制各类余项。关键观察是:投影误差的"方向"与结构误差独立,因此在回归中可以吸收进噪声项。
真实例子与应用¶
本文包含一个真实数据应用:使用阿尔茨海默病神经影像学计划(ADNI)的数据,研究抑郁症状(处理 A,二元化 GDS 评分)对认知损伤(结果 Y,ADAS-Cog 评分)的影响,并考察该影响是否通过 DNA 甲基化(高维中介替代测量 M,3206 个 CpG 位点)背后的潜在生物学过程(潜在中介 f^M)来传导。同时,研究者使用 171 维的临床协变量替代测量 X(包括人口统计学、体格检查和病史信息)来控制混杂。分析结果显示,总效应显著为正(抑郁患者认知评分平均高 3.62 分,95% CI [1.68, 6.19]),但间接效应接近零且置信区间包含零(0.04,95% CI [-0.51, 0.49]),表明几乎没有证据支持 DNA 甲基化介导了抑郁对认知的影响。这个应用展示了 FARMA 在"高维替代测量 + 潜在因果量"设定下的实用性,但其结论的生物学解释需要谨慎——DNA 甲基化可能只是潜在生物学过程的噪声代理,未能捕捉到全部中介信号。
🔎 结论是否比证明窄¶
- Theorem 3.1 的证明是严格的,但结论的表述"近似识别"可能被误读为"点识别"。实际上,该定理只证明了偏差随 p、q 趋于零,并未给出偏差的显式有限样本界(常数 C 依赖于未知的矩条件)。因此,在实际应用中,偏差的大小无法直接估计。
- Theorem 5.2 的证明依赖于若干技术条件,如次高斯性(Assumption 5.1)、渗透性(Assumption 3.2(ii))和 p、q 的增长条件(Assumption 5.2(ii))。这些条件在证明中都是充分条件,但作者没有讨论它们是否必要,也没有给出违反这些条件时的反例。
- 作者在结论部分声称"方法不需要精确知道潜在因子维度",这一说法在 Theorem 5.2 的框架下是成立的(因为工作维度 p̃、q̃ 可以大于真实维度),但作者没有讨论当工作维度远大于真实维度时,有限样本性能是否会恶化(例如,方差增大或数值不稳定)。附录 D.3 的敏感性分析显示,在 p̃、q̃ 从 1 增加到 30 时,RMSE 和覆盖率保持稳定,但这只是模拟证据,缺乏理论保证。
- 作者在附录 E.1 中对比了与 Zhang et al. (2026a) 的差异,但这一对比主要停留在"设定差异"层面,没有进行数值比较。因此,读者无法判断 FARMA 在何种条件下优于 PRIME。
四、开放问题¶
-
有限样本偏差界:Theorem 3.1 只给出了渐近偏差界,但常数 C 依赖于未知的矩条件。能否给出可计算的有限样本偏差界,或基于数据的偏差估计方法?这直接关系到实际应用中"需要多少替代测量才能达到可接受的偏差水平"这一核心问题。(扎根于 Theorem 3.1 的陈述和附录 D.3 的敏感性分析。)
-
非线性与异质性推广:本文的模型是线性的,且假设处理效应和中介效应在个体间是同质的。能否将 FARMA 推广到非线性结果模型(如广义线性模型)或存在效应修饰(effect modification)的情形?这需要重新推导影响函数和渐近理论。(扎根于模型设定(2.1)和结论部分的"线性结构模型"限定。)
-
工作维度选择的自适应方法:本文要求 p̃ ≥ p̄、q̃ ≥ q̄,但没有给出如何选择工作维度的数据驱动准则。能否基于特征值衰减率或交叉验证,自适应地选择工作维度,并在理论上保证选择的一致性?(扎根于 Algorithm 1 的 Step 1 和附录 D.3 的敏感性分析。)
-
放松渗透性假设:Assumption 3.2(ii) 要求每个潜在因子都渗透到足够多的替代测量中。如果某些因子是"弱渗透"的(只影响少数观测),近似识别的偏差是否会显著增大?能否给出弱渗透情形下的偏差刻画?(扎根于 Assumption 3.2(ii) 的陈述。)
-
与负对照方法的比较:Ghassami et al. (2025) 提出的负对照方法在隐藏中介设定下也能实现识别。FARMA 与负对照方法在假设条件和效率上各有何优劣?是否存在将两者结合的框架?(扎根于引言部分对 Ghassami et al. (2025) 的引用。)
提示:要确认上述问题是否构成真正的开放问题,建议查阅该子领域近期约 5 篇论文(如 2024-2026 年发表在 JRSS-B、Biometrika、AoS 上的高维中介分析论文)的引言和结论部分。如果多篇论文都指向同一问题,则说明这是共识性的开放问题;如果只有本文提及,则可能是作者个人的研究计划。
Maintained by 陈星宇 · Homepage · Source on GitHub