Testing for the causal mediation effects of multiple mediators using the kernel machine difference method in genome-wide epigenetic studies¶

作者: Jincheng Shen, Joel Schwartz, Andrea A. Baccarelli, Xihong Lin
来源: Annals of Applied Statistics
主题: 因果推断
相关性: 9/10
机构绿灯: Harvard T.H. Chan School of Public Health（US News 前 50，免分进入精读）
链接: https://doi.org/10.1214/23-aoas1814

一、领域脉络与小综述¶

这个方向是什么：本子方向处理的是高维因果中介分析中的假设检验问题。核心统计问题是：给定一个暴露（如吸烟行为）和一组高维中介变量（如基因区域内多个DNA甲基化探针），如何检验这组中介变量是否存在联合的自然间接效应（NIE），即暴露通过这组中介变量影响结局变量的因果路径是否存在。该方向当前处于“从参数/线性假设向灵活非参数/半参数模型扩展”的阶段，关键的统计挑战在于：（1）中介变量个数可能超过样本量或与样本量相当（中高维），（2）希望允许中介变量对结局的非线性与非可加性效应，（3）避免显式建模中介变量之间的复杂相关结构。
发展脉络（history）：
奠基工作（Baron & Kenny 1986; VanderWeele 2015等）：建立了因果中介分析的经典框架，定义自然直接效应（NDE）和自然间接效应（NIE），并提出单中介变量的identification条件与估计方法（如difference method、product method）。留下的基本口子：如何从单中介推广到多中介，尤其是高维或非参数情形。
主要进展——多中介线性方法（VanderWeele & Vansteelandt 2014; Chen et al. 2017等）：将中介分析扩展到多个中介变量。核心是假设暴露→中介→结局的关系均为线性，通过联合乘积系数法（joint product method）或线性回归的系数乘积之和来估计与检验联合NIE。留下的口子：线性假设过于严格，当存在非线性效应时，基于线性估计的检验会严重损失功效甚至失效（本文引用句 "…the performance of the joint product method can be hindered due to possible nonlinear and non-additive effects of mediators on the outcome"）。
当前frontier——高维中介的选择与压缩方法（Zhang et al. 2016; Gel et al. 2017; Huang & Lin 2018等）：利用高维变量选择工具（如LASSO、SCAD）自动筛选可能起中介作用的变量。这些方法专注于估计上的稀疏性，但代价是：（1）检验联合效应时需处理多重检验校正，（2）依赖于具体选择方法对小效应或相关结构的假设。留下的口子：检验功效与识别错误的权衡，以及如何避免显式建模中介间协方差（本文引用句 "These approaches typically require modeling the dependence of the mediators on exposure and confounders and the correlation among mediators"——即需要显式写出E[M_i|A,C]和Cov(M_i,M_j|A,C)）。
本文的位置：作者将其方法定位为这些工作的扩展——利用核机器回归替代线性modeling，将中介变量集合对结局的灵活（线性 + 非线性 + 非参数）效应直接编码进检验函数，从而避免显式建模中介-暴露-混杂关系以及中介间相关性。这使KMD方法成为"当前线性多中介方法 + 高维选择方法"的稳健非参数替代。
子线索聚类：这些被引文献大致落在3条子线索上：
线性跨越式多中介方法（VanderWeele & Vansteelandt 2014; Chen et al. 2017）：假设线性结构，直接估计/检验联合NIE。优点是识别结构化；缺点是线性假设一旦违反（非线性效应），功效大幅下降。
高维中介选择方法（Zhang et al. 2016; Gel et al. 2017; Huang & Lin 2018）：使用高维变量选择自动识别中介变量。优点是可处理超高维；缺点是需要准确的稀疏假设、依赖选择方法、中介间相关性处理困难、多重检验负担。
基于核的非参数中介方法（本文）：使用核机器回归直接编码中介变量对结局的联合效应。优点是避免线性假设、稳健处理非线性；缺点是当中介效应完全线性时可能有轻微功效损失（本文模拟也报告cases），且需要选择核函数。
这个方向在追问的核心问题：
问题1：如何对高维或中高维的中介变量集合进行联合NIE检验，而不陷入多重检验或协方差结构显式建模？
问题2：如何允许中介变量对结局的效应是非参数的（非线性、非可加），而不牺牲检验功效？
问题3：如何避免显式建模暴露→中介→混杂关系，实现"黑箱"式鲁棒检验？
当前主流方法：线性乘积系数法联合假设检验，或高维变量选择+多重检验校正。
已知瓶颈：线性假设下的检验在非线性时性能差；高维选择方法需要准确的稀疏假设、中介间独立性，且功率受选择不确定性影响。
⚠️ 作者的 framing（必须明确标注成"这是作者的说法"）：作者把缺口 frame 成 "现有的多中介检验方法（线性乘积法、高维选择法）要么受限于线性假设，要么要求显式建模中介对暴露和混杂的依赖以及中介间相关性；KMD通过核机器回归绕开了这些，从而更加稳健和灵活"。作者明确说 "Our method extends the difference method... to jointly model... and allows for robust testing... does not require explicit modeling of dependence... and correlation"。被淡化/回避的竞争路线：（1）非参数/半参数单中介的替代方法（如Tingley et al. 2014，基于非参数bootstrap的mediation）未被纳入正文讨论，本文引言未提及此类方向在拓展到多中介时的工作；（2）直接使用现有的单中介proxy方法将多个中介逐一检验（例如通过Mediation R包的逐组检验）的讨论缺失。什么明显该被引/该存在、却没出现在intro里？——Wang et al. 2015 (Annals of Applied Statistics) 的多中介随机检验方法；或者基于深度学习的中介分析（如 Louizos et al. 2017, arXiv）——但考虑到这些也在方法早期，作者选择忽略它们或许是合理的。值得研究者去查：是否存在其他基于核的非参数多中介检验的前期工作？作者似乎暗示他们是首次提出这样的方法。
张力：被引的这些工作之间，未见明显对立引用——线性方法与高维选择方法在假定的场景（高度线性vs.稀疏效应）各自表现良好，本文的KMD则主要在非线性场景下宣称优越，因此它们在各自适应的条件下并不冲突。无对立引用，但有明显的条件性声明缺失——线性方法和高维选择方法在它们的适用条件下相比KMD有何不足？作者没有直接引用的工作来支持这一点。

二、最核心、最简单的例子 / 数学问题¶

第一步：把符号、模型、可观测数据交代清楚¶

符号：
\( A \)：暴露变量（此处为吸烟行为，如是否吸烟/持续抽烟年限），取离散或连续值。
\( M = (M_1, \dots, M_p)^\top \)：中介变量向量（如一个基因区域内的 \( p \) 个DNA甲基化探针），每个维度有观测。
\( Y \)：结局变量（此处为肺功能指标，如FEV1）。
\( C \)：混杂变量向量（年龄、性别、BMI等）。
自然地，我们考虑因果DAG：\( A \rightarrow M \rightarrow Y \)（暴露→中介→结局），可能存在由 \( C \) 驱动的混杂偏倚：\( C \) 同时影响 \( A \)、\( M \)、\( Y \)。
自然间接效应（NIE）：\( \mathbb{E}[Y(a, M(a'))] - \mathbb{E}[Y(a, M(a))] \)，其中 \( Y(a, m) \) 是潜在结局，\( M(a) \) 是暴露水平 \( a \) 下的潜在中介。在标准识别假设下（一致性、无不可观测混杂、无交互效应等），NIE可通过观测数据从三个回归的对比中识别。
联合NIE：针对整个向量 \( M \) 的NIE，即暴露通过所有 \( p \) 个中介变量的集体路径效果。
\( \mathbf{X} = (A, C) \)：暴露与混杂的并集向量。
可观测数据：\( (A_i, M_i, Y_i, C_i)_{i=1}^n \) 是来自某研究的独立同分布样本。不可观测的是：\( Y \) 在未实际发生的暴露/中介组合下的潜在值（如 \( Y(a, M(a')) \)）、以及暴露与中介之间的直接因果机制（\( A \) 是否真的影响 \( M \) 的每个分量？均不可直接观测，需假设）。
模型：不假定具体的线性结构。研究者希望检验：
\[H_0: \text{联合NIE = 0（即暴露到中介的路径不存在，或暴露通过中介到结局的路径不存在使效应不能传递）}\]
具体地，在满足识别假设下，联合NIE=0等价于：
\[\mathbb{E}[Y \mid A, C, M] \text{ 和 } \mathbb{E}[M \mid A, C] \text{ 之间的关联。}\]
更精确来说，最常使用的difference method变体：在标准三回归框架下（暴露→中介→结局），联合NIE=0等价于以下两个条件之一或两者同时成立：（1）\( A \) 对 \( M \) 无影响，或（2）\( M \) 对 \( Y \) 在控制 \( A, C \) 后无影响。在difference method框架中，比较包含和不包含中介的结局回归：若
\[\mathbb{E}[Y \mid A, C, M] - \mathbb{E}[Y \mid A, C] = 0，\]
则中介效应不存在。
可观测数据：如上述，观测到 \( (A_i, M_i, Y_i, C_i) \)。想要但观测不到的是：\( \mathbb{E}[Y \mid A, C] \)（这是可识别的，因为有观测数据可估计），以及 \( \mathbb{E}[Y \mid A, C, M] \)。因此整篇论文依赖difference method：只需拟合上述两个回归并比较它们的拟合差异，即可构造检验统计量，不需要建模 \( M \mid A, C \) 的机制。

第二步：讲最小内核¶

最简特例：单个中介（\( p=1 \)）且结局对中介+暴露+混杂的关系为线性。此时： - 设定：\( Y_i = \beta_0 + \beta_A A_i + \beta_M M_i + \beta_C C_i + \varepsilon_i \) - 可观测数据：\( (A_i, M_i, Y_i, C_i) \) - 检验目标：\( H_0: \beta_M = 0 \)（即中介 \( M \) 在控制暴露和混杂后对 \( Y \) 无效应，从而NIE=0）。 - 经典的difference method：比较包含中介模型（full model, \( RSS_{\text{full}} \)）和不含中介模型（reduced model, \( RSS_{\text{red}} \)）的残差平方和之差 \( D = RSS_{\text{red}} - RSS_{\text{full}} \)。在 \( H_0 \) 下，\( D \) 服从 \( \chi^2_1 \)（若 \( \varepsilon_i \) 正态）或类似分布。拒绝 \( H_0 \) 当且仅当 \( D \) 足够大。

本文核心想法（最小内核，剥去所有一般性假设）：用核机器回归取代线性回归，将上述difference方法推广到多重、非线性中介。具体来说： - 用两个核机器回归模型分别拟合： - 不含中介模型（null）：\( Y_i = g_0(A_i, C_i) + \epsilon_i \)，其中 \( g_0 \in \mathcal{H}_K \)（某个再生核Hilbert空间）。 - 含中介模型（full）：\( Y_i = g(A_i, C_i, M_i) + \epsilon_i \)，\( g \in \mathcal{H}_{K'} \)（通常使用两个不同的核：一个仅含\( (A,C) \)，一个包含 \( M \)）。 - 构造KMD检验统计量：

\[D_{\mathrm{KMD}} = \mathrm{RSS}_{\mathrm{null}} - \mathrm{RSS}_{\mathrm{full}}\]

即比较两个模型的拟合优度。在 \( H_0 \) 下（即中介效应不存在），加入中介 \( M \) 不会显著改善拟合，从而 \( D_{\mathrm{KMD}} \) 应趋近于零；反之，若存在中介效应，\( D_{\mathrm{KMD}} \) 将大于随机波动的范围。 - 在原假设下，\( D_{\mathrm{KMD}} \) 的渐近分布是加权卡方分布（线性组合的 \( \chi^2_1 \)），系数是核矩阵特征值或其估计。因此p值计算可采用Satterthwaite近似（用一阶矩与二阶矩匹配加权卡方分布）或置换检验（随机打乱 \( M \) 与 \( Y \) 的配对，但暴露 \( A \) 和混杂 \( C \) 保持不变）。 - 最关键的技术飞跃：将原来的单中介线性情形扩展为多中介+非参数情形时，KMD统计量抓住了中介集对结局的联合效应（线性+非线性），而不需要显式指定中介间相关性或 \( M \) 对 \( A, C \) 的依赖。这正是论文的核心数学贡献——证明 \( D_{\mathrm{KMD}} \) 在原假设下的渐近分布并推导出Satterthwaite近似。

三、这篇论文做了什么¶

三句话：① 本文提出了核机器差分（KMD）方法，用于对多个中介变量（如基因区域内DNA甲基化探针）的联合自然间接效应（NIE）进行检验。② 核心工具是核机器回归（可灵活建模中介对结局的非线性、非可加效应）配合difference方法，通过比较包含与不含中介的核回归拟合之差的分布来构造检验统计量，并利用Satterthwaite近似或置换法计算p值。③ 主要结论：当存在非线性中介-结局关系时，KMD相比典型线性联合乘积系数法具有更稳健的尺寸控制和显著更高的检验功效；在Normative Aging Study的真实数据应用中，KMD识别出吸烟行为通过DNA甲基化影响肺功能的多个显著介导区域。
关键设定与假设：
符号：如上节所述。
假设清单：
- 标准因果中介分析假设（一致性：潜在结果与实际观测一致；无不可观测混杂：在给暴露、混杂和中介后，中介到结局的关系无混杂，以及暴露到中介的关系无混杂；无交互效应：暴露与中介在结局效应上无交互——或更确切地说，NIE的identification要求对纵向中介的时序假设）。但本文直接探讨difference method的检验，只需假设控制暴露和混杂后，加入中介的回归对NIE的检验是有效的——即假设中介对暴露和混杂的依赖性不影响检验准确性（由核机器回归的随机嵌入特点，该要求自然放宽）。
- 可加性误差假设：每个核机器回归模型假设误差方差异方差结构——但通过核函数的灵活映射，模型的充分性无显式分布假设，仅需均值为零。
- 高中介集的相关性：无显式假设；KMD利用核函数将中介间的结构"自动"编码进特征空间，故无需假设独立或不相关。
相比已有文献的放松/强化：
- 相比线性乘积系数法（假设线性正向效应），KMD放松了线性假设，允许中介对结局的任意非线性关系。
- 相比多中介线性方法，KMD不需要显式建模 \( E(M \mid A, C) \) 或中介间协方差矩阵——这在高维中尤其关键。
- 相比高维选择法，KMD弱化了稀疏性假设（即假设只有少量中介有多少效应）——即使所有中介均有微小的联合非线性贡献，KMD也能检测到（功效可提升）。
- 同时，KMD在完全线性、效应集中的设定下相比联合乘积系数法可能轻微失去功效（本文模拟中的"线性效果最优情形"反而是联合乘积法小幅领先KMD），即KMD是在线性假设上的"稳健性"换取"最优性"。
主要结果：
结果1（检验统计量及其分布）：定义KMD统计量 \( D_{\mathrm{KMD}} = \mathrm{RSS}_{\mathrm{null}} - \mathrm{RSS}_{\mathrm{full}} \)。作者证明，在原假设（联合NIE=0）下，\( D_{\mathrm{KMD}} \) 的渐近分布为加权卡方和：\( \sum_{j=1}^n \lambda_j \chi^2_{1,j} \)，其中 \( \lambda_j \) 是某个核矩阵的特征值（具体依赖原模型残差与核函数）。这是通过将\( D_{\mathrm{KMD}} \) 表示成残差向量的二次型，然后应用二次型分布理论加Satterthwaite近似来估计分布（二阶矩匹配）。P值计算方法：① 基于一阶和二阶矩的正态近似/矩匹配得到Satterthwaite卡方分布，② 或置换法（打乱Y-mapping但保持\( A,C \)不变）。
结果2（模拟对比）：设计了三种数据生成场景（线性中介效应、单侧非线性效应、宽尾效应）。主要发现：
- 在线性场景下，KMD与线性联合乘积法功效相当（KMD轻微损失约2-5%）。
- 在非线性场景下，KMD功效提升显著（例如参数中大幅度：功率从联合乘积法的20%提升至KMD的70%），且size控制（0.05水平）良好。
- 在高维（p=20,50）中介集中，KMD稳健性更高（联合乘积法需要model 50维线性系数，KMD仅需核函数维度，避免过调制）。
结果3（真实数据实例——NAS）：
- 数据：Normative Aging Study，约500+名老年男性，暴露变量为吸烟行为（当前/以前/从未），中介变量为全表观基因组CpG位点甲基化水平（每个基因区域视为一组），结局为肺功能（FEV1）。
- 分析过程：对每个基因区域内的多个CpG探针，使用KMD检验吸烟→甲基化→肺功能的联合NIE。校正多重检验后，识别出多个显著介导的基因区域（具体区域在论文的Table 3给出），包括FADS2、TAPBP等已知与吸烟或肺功能相关的基因。基线方法（联合乘积法）未能识别这些区域，显示KMD在真实数据上的发现能力更强。
- 该例子想说明：KMD能发现linear method遗漏的、通过非线性甲基化-肺功能路径起作用的中介区域，验证了模拟结论的现实意义。
证明路线与技术技巧：理论型论文——证明在正文（Section 3.3），附录有详细技术证明。
整体路线（3-5步逻辑主干）：
1. 将两个核机器回归模型（null和full）转化为线性表示：\( \hat{Y}_{\mathrm{null}} = \mathbf{S}_0 \mathbf{Y} \)，\( \hat{Y}_{\mathrm{full}} = \mathbf{S} \mathbf{Y} \)，其中 \( \mathbf{S}_0, \mathbf{S} \) 不依赖于Y，仅由设计矩阵(即 \( (A,C) \) 和 \( (A,C,M) \) )的核矩阵求得。这是核光滑器的标准形式：预测是核矩阵逆（加正则化后）与Y的乘积。
2. 写出残差：\( \mathbf{r}_{\mathrm{null}} = (\mathbf{I} - \mathbf{S}_0) \mathbf{Y} \)，\( \mathbf{r}_{\mathrm{full}} = (\mathbf{I} - \mathbf{S}) \mathbf{Y} \)。
3. 检验统计量为 \( D_{\mathrm{KMD}} = \| \mathbf{r}_{\mathrm{null}}\|^2 - \|\mathbf{r}_{\mathrm{full}}\|^2 = \mathbf{Y}^\top \mathbf{Q} \mathbf{Y} \)，其中 \( \mathbf{Q} = (\mathbf{I} - \mathbf{S}_0)^\top (\mathbf{I} - \mathbf{S}_0) - (\mathbf{I} - \mathbf{S})^\top (\mathbf{I} - \mathbf{S}) \)。
4. 在原假设下，\( \mathbf{Y} = \mathbf{Y}_0 + \boldsymbol{\varepsilon} \)（其中 \( \mathbf{Y}_0 \) 是仅通过暴露+归宿的回归函数）。则在H0下，\( \mathbf{Y} \) 的协方差结构简化，\( D_{\mathrm{KMD}} \) 成为仅依赖 \( \boldsymbol{\varepsilon} \) 的二次型。
5. 利用Moore-Penrose伪逆与谱分解：\( \mathbf{Q} \) 的谱展开给出 \( D_{\mathrm{KMD}} = \sum_j \lambda_j \nu_j \)，其中每个 \( \nu_j \) 是独立 \( \chi^2_1 \) 变量，而 \( \lambda_j \) 是 \( \mathbf{Q} \mathrm{Cov}(\mathbf{Y}) \) 的特征值（在原假设下，\( \mathrm{Cov}(\mathbf{Y}) = \sigma^2 \mathbf{I} \)时简化为 \( \mathbf{Q} \) 的特征值乘以 \( \sigma^2 \)）。
6. 用Satterthwaite近似匹配前两阶矩（期望与方差），分布近似为 \( a \chi^2_d \)，利用矩匹配解出 \( a \) 和 \( d \)。p值通过该近似分布计算或置换检验获得。
关键跳跃点：
- 从核回归的线性表示到二次型：作者巧妙地识别出KMD统计量可以简洁地表示为Y的二次型，从而将非参数检验问题变成二次型分布问题。这避免了直接处理核函数的复杂度，将分布性质归结为核矩阵的特征值展开。
- 避开对核函数选型的过度依赖：用Satterthwaite近似处理加权卡方，使得检验对核函数选择不太敏感，只要核矩阵的光滑性质合理。
- 处理有偏光滑量：核回归不是无偏估计，但作者论证了在原假设下，偏差项可被吸收进二次型隐式处理，由Satterthwaite近似捕获矩调整。
技术技巧点名：
- 核光滑器线性化：\( \mathbf{S}_0 \) 和 \( \mathbf{S} \) 是从核函数构造的hat矩阵，这是标准的kernel trick在高维/非参回归中的应用。
- 二次型分布理论：这是推导检验统计量分布的数学基础，属于经典数理统计（Johnson & Kotz, 1970）。
- Satterthwaite近似：经典的分布近似工具（Satterthwaite, 1946），用于处理加权卡方分布的p值校准。
- 置换检验：作为备选方法——不依赖渐近分布，计算成本中等（B≈1000次置换），本文建议在样本量较小时使用置换法作为验证。
真实例子与应用：如前述，文章包含Normative Aging Study的真实数据应用。细节已在上节结果3下给出。
🔎 结论是否比证明窄：
强结论：作者声称KMD具有 "robustness" 和 "power gain" 在非线性情形——这些结论在模拟中直接验证，属于推论的可靠部分。
窄于原文表述的点：
- 原文 "does not require explicit modeling of the dependence of multiple mediators on exposure and confounders and the correlation among multiple mediators"——这个"不要求"在证明中仅通过核机器的嵌入投影实现，但这个嵌入本身依赖于核函数的选择与正则化参数（如\( \lambda \)）。作者的证明假设正则化参数固定，未证明一致性或Berry-Esseen界的条件对核选择有多敏感。这个"不要求"在实践上必须选择合适的核函数（如先验认为中介效应是线性or平方or交互？），所以隐式还是需要假设，只是不需要经典的参数化建模。
- 检验最优性声明：作者没有声称KMD对联合NIE检验是最优的（没有计算该问题的半参数效率界或minimax可检测性）。作者只说"提供了一种稳健且计算有效的工具。"——这表明该结果相较于联合乘积法的优势只限于仿真中显示的非线性情形，并没有理论保证在更广泛分布下的全局最优性。

四、开放问题¶

检验的最优性问题：本文没有讨论KMD检验相对于联合NIE检测问题的半参数效率界或minimax最优可检测效应量。扎根于：在Methodology section中没有效率界或者power函数的形式推导——是可以直接上手的开放问题。可以尝试借用您熟悉的非参数统计minimax下界技术来分析：是否存在一类介导效应（如中度稀疏、中度非线性），使得KMD达到最优？或反过来，是否存在一类分布使得KMD明显的非最优——从而暴露需用另一种核族优化？扎根于本文语句：“Our method provides a testing procedure for detecting the mediation effects... future work needs to investigate the power performance under different effect patterns.”
多中介之间的交互效应：本文将所有中介视为一个集合，仅检验联合NIE，但未探讨中介之间的交互效应。例如，两个中介可产生协同效应（乘积或or效应），最小内核可以扩展为：检验 \( Y = f(A, C, M_1, M_2, M_1 M_2) \) 中交互项给出的额外中介效应。其本质是对核函数族扩展（例如使用乘积核或加法核）但分析上会增加一个"交互NIE"的识别与检验。扎根于：论文采用的是加法核结构（中介向量作为整体输入），没有互动项。
高维中介选变量+联合检验的整合：KMD在设计上是对任意大小中介集的检验，但当中介维度极高时（p>n或p>>n），核函数可能会导致过拟合（核回归的贝叶斯光滑化失效）。本文模拟中p最大到50，实操中当整个表观基因组所有~450k CpG探针被当作单组时，应如何处理？方法论上，需要搭建一个"核函数引入过的正则化稀疏性"或"group kernel selection"机制。扎根于：作者没有讨论p→∞时的KMD行为（核矩阵n×n但p→∞会如何影响分布的所谓一致可积条件?）。
计算效率的渐近比较：KMD的计算复杂度是 \( O(n^3) \)（因需计算核矩阵的逆或Cholesky），面对n在几千的级数尚可，但当基因区域数量极大（~25000基因）时，逐区域KMD检验的计算成本可能极高。本文未提出近似加速或分步推断策略。扎根于：作者在结语中提到 "computationally efficient"——建议后续可探索核近似（如random Fourier features, Nyström近似）的引入如何影响power与size。

可提醒：如果想确认这些gap是否为领域共识，请读同子领域近期5篇文章的intro（Yin et al. 2021; Song et al. 2019; Wang et al. 2013, 2018; Zhao & Luo 2020），看它们是否共同指向这些方向或有所冲突。

Maintained by 陈星宇 · Homepage · Source on GitHub