Inference for quantile mediation effects in the presence of complex confounding¶
作者: Shuoyang Wang, Yuan Huang
来源: Electronic Journal of Statistics
主题: 因果推断
相关性: 8/10
机构绿灯: Yale University(US News 前 50,免分进入精读)
链接: https://doi.org/10.1214/26-ejs2560
一、领域脉络与小综述¶
-
这个方向是什么:本文属于因果推断中"高维中介分析"(high-dimensional mediation analysis)这一子方向。其根本科学问题是:当候选中介变量(如DNA甲基化位点)数量远大于样本量时,如何对"暴露→中介→结局"路径上的直接效应(DE)与间接效应(IE)进行估计与假设检验。该方向的成熟度处于"方法快速扩张但理论缺口仍多"的阶段——已有工作多聚焦于均值回归与线性假设,而对分布尾部(分位数)与复杂混杂结构(非线性、高维)的联合处理尚属空白。
-
发展脉络(history):
- 奠基工作:Baron & Kenny (1986) [1] 提出经典中介分析框架,将总效应分解为直接与间接效应,奠定了后续所有因果中介分析的路径语言。
- 因果形式化与分位数扩展:Imai et al. (2010) [15] 与 Bind et al. (2017) [2] 将中介分析置于潜在结果框架下,后者首次在分位数层面定义受控直接效应与间接效应,并处理纵向数据——这是本文"分位数中介"的直接理论源头。
- 高维中介选择:Zhang et al. (2016) [36] 提出高维中介分析的惩罚回归策略(仅对结局模型惩罚),Zhao & Luo (2022) [37] 提出 Pathway Lasso 同时对结局与中介模型施加惩罚,而 Zhou et al. (2020) [40] 首次在高维线性中介模型中给出直接/间接效应的去偏推断理论。Guo et al. (2022) [8] 进一步引入部分惩罚最小二乘,避免去偏 Lasso 的方差膨胀。
- 非线性混杂处理:Cai et al. (2022) [5] 提出部分线性结构方程模型处理高维混杂,但其混杂项假设为可加结构;Wang & Huang (2024) [28](即本文作者的先前工作)首次将深度神经网络引入高维中介分析(DP2LM),但限于均值回归。
-
本文位置:本文是上述两条线索(分位数中介 + 深度网络处理非线性混杂)的首次交汇。作者明确将自身定位为"在保留 DP2LM 灵活性的同时,将推断目标从条件均值推广到条件分位数",并声称这是首个在高维中介背景下同时处理分位数推断与非线性混杂的工作。
-
子线索聚类:
- 分位数中介分析(低维):Bind et al. (2017) [2]、Imai et al. (2010) [15]、Shen et al. (2014) [21]——关注单中介或低维中介下效应随结局分布变化的异质性,但未处理高维选择。
- 高维中介选择与推断(均值回归):Zhou et al. (2020) [40]、Guo et al. (2022, 2023) [8, 9]、Zhang et al. (2016) [36]、Zhao & Luo (2022) [37]——核心是稀疏性假设下的选择一致性与去偏推断,但混杂项均为线性或可加结构。
- 深度网络用于部分线性模型:Schmidt-Hieber (2020) [20]、Yan et al. (2025) [30]、Zhong et al. (2022) [38]、Zhong & Wang (2024) [39]——建立了 ReLU 深度网络在非参数回归中的最优收敛率,为本文的 DNN 混杂建模提供了理论工具。
-
双重/去偏机器学习(DML):Chernozhukov et al. (2018) [6]——提供了一般性的 Neyman 正交化框架,本文的分位数推断在精神上与此一致,但未显式采用交叉拟合。
-
这个方向在追问的核心问题:
- 选择与推断的兼容性:在高维中介中,如何同时保证中介筛选的假阳性控制与效应估计的渐近有效性?(Guo et al. 2022 [8] 用部分惩罚解决方差膨胀,本文用 SCAD + 阈值化解决)
- 分布异质性:效应是否随结局分布位置(低分位 vs 高分位)而变?均值回归会否掩盖尾部效应?(Bind et al. 2017 [2] 提出但未解决高维)
- 混杂结构的灵活性:当混杂对结局/中介的影响是非线性且非可加时,如何避免模型误设偏误?(Cai et al. 2022 [5] 限于可加结构,本文用 DNN 突破)
-
推断的稳健性:重尾误差下,均值回归的推断是否失效?分位数回归能否提供稳健替代?(本文的 Cauchy 误差模拟直接回应此点)
-
⚠️ 作者的 framing(这是作者的说法):作者将缺口 frame 为"现有高维中介方法几乎全部基于均值回归,无法刻画分布异质性;而少数分位数中介方法又限于低维或线性混杂。因此,同时处理高维中介、分位数推断与非线性混杂是'显然的下一步'"。被淡化或回避的竞争路线包括:(a) 完全非参数的因果中介识别(如基于核方法的分布效应),作者仅以"计算昂贵"一笔带过;(b) 贝叶斯高维中介方法,完全未提及;(c) 针对中介的敏感性分析(如 VanderWeele 的 E-value 框架),本文未讨论未测混杂的稳健性。值得研究者去查的问题:为什么作者不采用 DML 的交叉拟合框架?其推断是否对 DNN 的初始值/优化不稳定性敏感?这些在文中均未讨论。
-
张力:未见明显对立引用。但存在一个微妙的张力:Zhou et al. (2020) [40] 强调去偏 Lasso 在高维中介推断中的必要性,而 Guo et al. (2022) [8] 认为部分惩罚即可避免方差膨胀——本文站在后者一边(用 SCAD + 阈值化),但未正面回应前者的批评。另一个张力是:Bind et al. (2017) [2] 强调分位数中介需要同时建模中介与结局的分位数,而本文仅对结局建模分位数、对中介仍用均值回归(式 2.2),这一不对称性未被作者讨论。
二、最核心、最简单的例子 / 数学问题¶
第一步:符号、模型、可观测数据
设观测数据为 \(\{(y_i, \boldsymbol{m}_i, \boldsymbol{x}_i, \boldsymbol{z}_i)\}_{i=1}^n\),其中:
- \(y_i \in \mathbb{R}\):结局变量(连续)
- \(\boldsymbol{m}_i \in \mathbb{R}^p\):\(p\) 维候选中介变量(高维,\(p \gg n\))
- \(\boldsymbol{x}_i \in \mathbb{R}^q\):暴露变量(低维,通常 \(q=1\))
- \(\boldsymbol{z}_i \in \mathbb{R}^r\):混杂变量(可高维,但 \(r\) 相对 \(n\) 较小)
参数 / 估计目标: - \(\boldsymbol{\alpha}_m \in \mathbb{R}^p\):中介对结局的分位数效应(结局模型中的斜率) - \(\boldsymbol{\alpha}_e \in \mathbb{R}^q\):暴露对结局的直接效应(DE) - \(\boldsymbol{\Gamma}_e \in \mathbb{R}^{q \times p}\):暴露对中介的效应矩阵 - \(\boldsymbol{\beta}_e = \boldsymbol{\Gamma}_e \boldsymbol{\alpha}_m \in \mathbb{R}^q\):间接效应(IE) - \(f_0: [0,1]^r \to \mathbb{R}\) 与 \(\boldsymbol{g}_0 = (g_{01}, \dots, g_{0p})^\top: [0,1]^r \to \mathbb{R}^p\):混杂的非线性函数(** nuisance,非目标**)
模型(式 2.1–2.2):
可观测 vs 不可观测: - 可观测:\((y_i, \boldsymbol{m}_i, \boldsymbol{x}_i, \boldsymbol{z}_i)\) - 不可观测:潜在结果 \(y_i(\boldsymbol{x}, \boldsymbol{m})\)、\(m_i(\boldsymbol{x})\);误差 \(\epsilon_1, \boldsymbol{\epsilon}_2\);非线性函数 \(f_0, \boldsymbol{g}_0\);真实稀疏集 \(\mathcal{A} = \{j: \alpha_{mj} \neq 0\}\)
识别假设(附录 A.1.1): 1. \(y(\boldsymbol{x}, \boldsymbol{m}) \perp\!\!\!\perp \boldsymbol{x} \mid \boldsymbol{z}\)(给定混杂下暴露无混淆) 2. \(y(\boldsymbol{x}, \boldsymbol{m}) \perp\!\!\!\perp \boldsymbol{m} \mid \boldsymbol{x}, \boldsymbol{z}\)(给定暴露和混杂下中介无混淆) 3. \(\boldsymbol{m}(\boldsymbol{x}) \perp\!\!\!\perp \boldsymbol{x} \mid \boldsymbol{z}\)(中介模型无混淆) 4. \(y(\boldsymbol{x}, \boldsymbol{m}) \perp\!\!\!\perp \boldsymbol{m}(\boldsymbol{x}')\) for \(\boldsymbol{x} \neq \boldsymbol{x}'\)(交叉世界独立性)
第二步:最小内核
把论文的所有技术细节剥掉,其核心数学问题可以归结为如下"两层回归 + 差值"结构:
设定:\(p\) 很大,但真实活跃中介只有 \(s = |\mathcal{A}|\) 个(\(s \ll n\))。混杂 \(\boldsymbol{z}\) 对结局和中介的影响分别是 \(f_0(\boldsymbol{z})\) 和 \(\boldsymbol{g}_0(\boldsymbol{z})\),均未知且可能高度非线性。
要估计的东西: - 直接效应:\(\boldsymbol{\alpha}_e\)(暴露每增加一个单位,结局 \(\tau_1\)-分位数的变化,保持中介不变) - 间接效应:\(\boldsymbol{\beta}_e = \boldsymbol{\Gamma}_e \boldsymbol{\alpha}_m\)(暴露通过改变中介,间接改变结局 \(\tau_1\)-分位数)
为什么难:如果直接用 \(y\) 对 \((\boldsymbol{m}, \boldsymbol{x}, \boldsymbol{z})\) 做分位数回归,\(\boldsymbol{z}\) 的维度 \(r\) 即使不大,其非线性形式也会导致维数灾难;而 \(\boldsymbol{m}\) 的维度 \(p\) 远大于 \(n\),普通分位数回归完全不可行。
本文的核心想法(最小内核):
-
部分线性化:把 \(f_0(\boldsymbol{z})\) 和 \(\boldsymbol{g}_0(\boldsymbol{z})\) 当作 nuisance,用 ReLU 深度网络去逼近。关键在于:估计 \(\boldsymbol{\alpha}_e\) 和 \(\boldsymbol{\alpha}_m\) 时,不需要精确估计 \(f_0\) 和 \(\boldsymbol{g}_0\),只需要它们的估计误差足够小(以 \(L_2\) 范数计,收敛率 \(r_n = n^{-\gamma/(2\gamma+1)}\) 即可)。
-
分位数损失 + SCAD 惩罚:求解
\[\min_{\boldsymbol{\alpha}_m, \boldsymbol{\alpha}_e, f \in \mathcal{D}} \sum_{i=1}^n \rho_{\tau_1}(y_i - \boldsymbol{\alpha}_m^\top \boldsymbol{m}_i - \boldsymbol{\alpha}_e^\top \boldsymbol{x}_i - f(\boldsymbol{z}_i)) + \sum_{j=1}^p P_\lambda(|\alpha_{mj}|)\]其中 \(\rho_\tau(u) = u(\tau - \mathbb{I}(u<0))\) 是分位数损失,\(P_\lambda\) 是 SCAD 惩罚。SCAD 的作用是同时做变量选择和估计,但它的非凸性使得经典凸优化理论不适用。 -
推断策略:直接效应用 Wald 检验(基于渐近正态性),间接效应用差值法 \(\hat{\boldsymbol{\beta}}_e = \hat{\boldsymbol{\Gamma}}_e \hat{\boldsymbol{\alpha}}_m\),其中 \(\hat{\boldsymbol{\Gamma}}_e\) 来自中介模型(式 2.2)的估计。关键技巧是用秩得分检验(rank score test)而非直接 Wald 检验来避免对 nuisance 密度 \(l_1(0)\) 的估计——这是分位数回归推断中的经典难点。
为什么这个内核"撑得起"整篇论文:一旦理解了"分位数损失 + SCAD + DNN nuisance 逼近"这个三层结构,后面所有定理(渐近正态性、选择一致性、检验的卡方极限)都是在回答同一个问题:这三层各自的收敛速度如何匹配,才能保证最终推断不被 nuisance 估计误差污染? 答案是:DNN 逼近误差 \(r_n\) 必须满足 \(p_0^{1/2} r_n \log^2 n = o(\lambda)\)(定理 3.1 的条件),即变量选择的惩罚强度要能"压过" nuisance 估计的噪声。
三、这篇论文做了什么¶
三句话: 1. 研究了什么问题:在高维中介变量(\(p \gg n\))与复杂非线性混杂同时存在时,如何对分位数直接效应(DE)和间接效应(IE)进行估计与假设检验。 2. 核心方法:提出 Quantile Mediation Analysis via Deep Neural Networks(QMA-DNN),用 ReLU 深度网络建模混杂的非线性影响,用 SCAD 惩罚的分位数回归做中介筛选与效应估计,并构造了秩得分检验(DE)和 Wald 检验(IE)。 3. 主要结论:在正则条件下,直接效应估计量渐近正态且方差可取显式形式;间接效应估计量同样渐近正态;SCAD 惩罚能一致选择真实活跃中介;模拟显示该方法在重尾误差(Cauchy)和高维非线性混杂下显著优于现有方法。
关键设定与假设: - 模型结构:式 (2.1)–(2.3) 的部分线性分位数模型。结局模型对 \(\boldsymbol{m}, \boldsymbol{x}\) 线性、对 \(\boldsymbol{z}\) 非线性(由 DNN 逼近);中介模型类似。总效应模型(式 2.3)用于通过差值法识别 IE。 - 稀疏性:活跃中介数 \(p_0 = o(n^{1/(2\gamma+1)})\),且 \(p = o(\exp(n \lambda^2))\)(允许 \(p\) 指数级大于 \(n\))。 - 误差条件:\(\epsilon_1\) 的密度 \(l_1\) 在 0 附近有界且导数有界(分位数回归的标准条件);\(\epsilon_1\) 与 \(\boldsymbol{\epsilon}_2\) 独立(用于 IE 的识别)。 - DNN 结构:\(\mathcal{D}\) 为 ReLU 激活的全连接网络,宽度和深度随 \(n\) 增长,满足 \(L'\bar{N} \asymp n^{1/(4\gamma+2)}\)(Assumption 1)。相比 [28] 的 DP2LM,本文不要求网络稀疏,且对深度和宽度的约束更宽松。 - 相比已有工作的变化:相比 [8](线性混杂 + 均值回归),本文允许非线性混杂;相比 [22](可加非线性),本文允许一般交互结构;相比 [35](仅选择不推断),本文提供显式检验。
主要结果: - 定理 2.2(渐近正态性):\(\sqrt{n}(\hat{\boldsymbol{\alpha}}_e - \boldsymbol{\alpha}_e^0) \to N(0, \Omega_{\alpha_e})\),其中 \(\Omega_{\alpha_e} = \tau_1(1-\tau_1) l_1^{-2}(0) (\Omega_{xx} - \Omega_{xm}\Omega_{mm}^{-1}\Omega_{mx})^{-1}\)。关键点是方差中不包含 DNN 估计的贡献——nuisance 估计误差在 \(\sqrt{n}\) 尺度下可忽略。 - 定理 2.3(方差估计一致性):\(\hat{\Omega}_{\alpha_e} \to \Omega_{\alpha_e}\),其中 \(\hat{l}_1(0)\) 用 bootstrap 方法估计([10] 的方法),收敛率 \(O_p(n^{-1/4})\)。 - 定理 2.4(检验的卡方极限):\(T_n^{DE} \to \chi_q^2\)(零假设下),\(T_n^{DE} \to \chi_q^2(\bar{\Delta})\)(局部备择 \(\boldsymbol{\alpha}_e = n^{-1/2}\boldsymbol{\Delta}\) 下),非中心参数 \(\bar{\Delta} = l_1^2(0) \boldsymbol{\Delta}^\top \Omega_{\alpha_e}^{-1} \boldsymbol{\Delta}\)。IE 的 Wald 检验类似。 - 定理 3.1(选择一致性):SCAD 惩罚估计量 \(\hat{\boldsymbol{\alpha}}_m\) 以概率趋于 1 落在真实稀疏集 \(\mathcal{A}\) 的 \(\delta\)-邻域内(\(\delta = O(r_n \log^2 n)\)),且 \(\hat{\boldsymbol{\alpha}}_{m,\mathcal{A}^c} = 0\)。证明的关键是非凸惩罚的局部凸性(引理 A.3–A.5),通过 Hoeffding 不等式和 Bernstein 不等式控制经验过程的偏差。
证明路线与技术技巧: 1. 整体路线(以定理 2.2 为例): - Step 1:建立 DNN 估计 \(\hat{f}\) 的 \(L_2\) 收敛率 \(r_n = n^{-\gamma/(2\gamma+1)}\)(引理 A.1,基于 [30] 的逼近定理和 [39] 的经验过程理论)。 - Step 2:将分位数回归的目标函数在真值处做 Taylor 展开,得到 \(\hat{\boldsymbol{\alpha}} - \boldsymbol{\alpha}^0\) 的 Bahadur 表示。 - Step 3:证明 nuisance 项(\(\hat{f} - f_0\) 的贡献)在 \(\sqrt{n}\) 尺度下可忽略——这需要 \(p_0^{1/2} r_n \log^2 n = o(n^{-1/2})\),即活跃中介数不能增长太快。 - Step 4:对线性部分应用经典的分位数回归渐近理论([25] 的弱收敛结果),得到正态极限。 2. 关键跳跃点: - 跳跃 1:从低维分位数回归到高维的推广。经典理论要求设计矩阵的 Gram 矩阵可逆,但高维下不可逆。本文用 SCAD 惩罚 + 稀疏性假设绕过,但证明中需要控制惩罚项对估计方程的影响(引理 A.3–A.5)。 - 跳跃 2:DNN 估计的误差如何进入分位数回归的 Taylor 展开。作者的处理是将 \(\hat{f}\) 视为已知 nuisance,然后证明其估计误差对目标函数的影响是 \(o_p(n^{-1/2})\)——这需要 DNN 的收敛率足够快,且 \(\boldsymbol{m}, \boldsymbol{x}\) 与 \(\boldsymbol{z}\) 的相关性有界(Assumption 4)。 - 跳跃 3:秩得分检验的构造。为避免估计 \(l_1(0)\),作者采用 [39] 的秩得分方法,将检验统计量构造为 \(\boldsymbol{S}_n = n^{-1/2} \sum_i (\tau_1 - \mathbb{I}(\hat{\epsilon}_i < 0)) \boldsymbol{d}_i\),其中 \(\boldsymbol{d}_i\) 是投影残差。这需要证明 \(\boldsymbol{S}_n\) 的渐近正态性不依赖于 \(l_1\) 的估计精度。 3. 技术技巧点名: - 经验过程理论:用于控制 DNN 函数类的覆盖数(引理 A.1 的证明)。 - Hoeffding / Bernstein 不等式:用于引理 A.3–A.5 中惩罚项的偏差控制。 - Bootstrap 密度估计:用于估计 \(l_1(0)\)([10] 的方法)。 - SCAD 惩罚的局部凸性:用于证明选择一致性(定理 3.1)。
真实例子与应用: - 数据:DNA 甲基化数据(GEO 数据集 GSE77445,[4]),\(n=85\) 名成年人,\(p=200\) 个候选甲基化位点(经筛选),暴露为童年创伤评分(CTQ),结局为皮质醇应激反应(AUC 变化)。 - 方法应用:对 \(\tau_1 = 0.3, 0.5, 0.7\) 三个分位数水平分别拟合 QMA-DNN,筛选活跃中介并检验 DE/IE。 - 结果:在 \(\tau_1 = 0.5\) 时 DE 显著(估计值 -1.36,p=0.05),IE 不显著;在 \(\tau_1 = 0.7\) 时 DE 也显著(-1.42,p=0.05)。相比之下,[8] 的线性均值方法在含离群值时 DE 不显著,且 IE 显著但方向相反(-10.58,p<0.01)。作者将此解读为"分位数方法对重尾数据更稳健,且能揭示均值方法掩盖的尾部效应"。 - 该例子想说明什么:(a) 验证方法在真实高维数据上的可行性;(b) 展示分位数框架相对均值回归的增量价值——特别是当结局有离群值时;(c) 说明 DNN 处理非线性混杂的实际必要性(线性方法在复杂混杂下产生有偏估计)。
🔎 结论是否比证明窄: - 是。具体表现: 1. 定理 2.2 的方差公式中 \(\Omega_{\alpha_e}\) 的推导假设了 \(\boldsymbol{m}\) 与 \(\boldsymbol{x}\) 的联合正态性或线性投影关系(从证明中可看出),但正文的 claim 是"对任意分布成立"——这是一个过度泛化。 2. 定理 3.1 的选择一致性只在"\(\delta\)-邻域"意义下成立(\(\delta = O(r_n \log^2 n)\)),而非精确的 \(\hat{\mathcal{A}} = \mathcal{A}\)。但摘要和引言中的表述是"consistently selects important features",这比定理实际保证的要强。 3. IE 的识别依赖于 \(\epsilon_1 \perp\!\!\!\perp \boldsymbol{\epsilon}_2\) 的独立性假设(附录 A.1.1 第 4 条),但正文的因果解释部分(第 4.3 节)未再提及这一关键假设,而是直接给出因果解读。 4. DNN 的逼近误差假设 \(\gamma\) 已知(光滑性参数),但实际中 \(\gamma\) 未知。作者在讨论中承认这一点,但未提供自适应选择 \(\gamma\) 的方法。
四、开放问题¶
-
独立性假设的放松(扎根于附录 A.1.1 第 4 条):\(\epsilon_1 \perp\!\!\!\perp \boldsymbol{\epsilon}_2\) 在实证中几乎必然不成立(未测混杂同时影响中介和结局)。能否在允许 \(\epsilon_1\) 与 \(\boldsymbol{\epsilon}_2\) 相关时仍识别 IE?这需要引入工具变量或代理变量(proximal causal inference)框架。
-
自适应选择 DNN 复杂度(扎根于 Assumption 1 和讨论部分):\(\gamma\)(光滑性)和网络宽度/深度的选择目前是理论上的"黑箱"。能否用交叉验证或 Lepski 型方法自适应选择,同时保持推断的有效性?
-
分位数水平的联合推断(扎根于第 4.3 节):本文对每个 \(\tau_1\) 分别做检验,但未控制多重比较的族错误率。当研究者同时检验多个分位数水平时,如何构造联合置信带或调整 p 值?
-
中介筛选的 FDR 控制(扎根于定理 3.1 和模拟部分):SCAD 的选择一致性是"逐系数"的,但未提供 FDR 或 FWER 的显式控制。在高通量甲基化数据中,FDR 控制是实际应用的硬性要求。
-
非线性中介效应(扎根于模型设定式 2.1–2.2):本文假设中介对结局的影响是线性的(\(\boldsymbol{\alpha}_m^\top \boldsymbol{m}\))。当真实关系为非线性(如阈值效应)时,分位数直接效应是否仍可识别?这需要将部分线性结构推广为部分非线性结构。
-
纵向或重复测量数据(扎根于第 5 节讨论):本文仅处理横截面数据。当暴露、中介和结局在多个时间点观测时,如何定义并推断"时变分位数中介效应"?
提醒:若要确认上述某条是否为真 gap,建议去读以下近期文献的引言部分(各约 5 篇): - 分位数中介:Luo et al. (2024, JRSS-B)、Díaz et al. (2023, Biometrika) - 高维中介 + 非线性混杂:Zhang et al. (2024, AoS)、Cai et al. (2023, JRSS-B) - 深度网络 + 因果推断:Farrell et al. (2021, AoS)、Chernozhukov et al. (2022, Econometrica)
若这些文献的引言都指向同一缺口(例如"分位数中介在高维下尚无推断理论"),则说明这是共识性 gap;若彼此矛盾(例如有的声称已解决、有的声称未解决),则说明存在未被厘清的边界条件——那往往是更好的研究切入点。
Maintained by 陈星宇 · Homepage · Source on GitHub