跳转至

Substantive-Model-Compatible Multiple Imputation for Cox Regression with a Diverging Number of Covariates

作者: Zhilin Zhang, Yi Li
主题: 因果推断
相关性: 7/10
链接: https://arxiv.org/abs/2605.21757


一、领域脉络与小综述

这个方向是什么

本文所处的子方向是高维生存分析中的缺失协变量问题。其根本的统计挑战在于:当协变量维度 p 随样本量 n 发散(p → ∞, p < n)时,如何在协变量存在缺失的情况下,对 Cox 比例风险模型中的低维参数分量(如单个协变量的效应 cᵀβ)进行有效的推断(点估计、置信区间、假设检验)。该问题的核心张力在于三个目标的耦合:(i) 高维正则化估计(如 LASSO)引入的收缩偏差需要被矫正;(ii) 缺失数据需要通过插补来处理,而插补模型必须与实质模型(Cox 模型)兼容,否则会产生偏差;(iii) 推断必须反映插补带来的额外不确定性。该方向当前处于方法快速发展但理论尚不完整的阶段——已有工作分别处理"高维 Cox 推断"和"低维缺失协变量插补",但二者的交叉地带(高维 + 缺失 + 推断)几乎是空白。

发展脉络(history)

从 introduction 和参考文献可以梳理出三条清晰的线索,它们在本文交汇:

线索一:高维 Cox 回归的推断方法。 这条线从惩罚估计开始。Tibshirani (1997) 将 LASSO 引入 Cox 模型用于变量选择和估计,Fan and Li (2002) 提出 SCAD 以改善偏差性质。但这些方法只解决估计,不解决推断——收缩偏差使置信区间失效。随后 Zhang and Zhang (2014) 和 van de Geer et al. (2014) 提出去偏(debiasing/desparsification)方法,通过矫正 LASSO 的收缩偏差,使低维分量获得渐近正态性。这条线在生存分析中的延伸是 Fang et al. (2017) 和 Kong et al. (2021) 的 Cox 模型去偏推断,但它们都依赖稀疏逆信息矩阵假设。Xia et al. (2023) 是这条线的最近进展,其投影方法不要求逆信息矩阵稀疏,在强协变量依赖和稠密信息结构下仍然有效——这是本文直接依赖的基础。

线索二:缺失协变量的多重插补(MI)。 这条线从 Rubin (1987) 的多重插补框架开始。Van Buuren et al. (2006) 提出全条件设定(FCS),通过逐变量条件模型进行链式插补,灵活性高但理论上存在兼容性问题——条件模型之间可能不存在联合分布。Meng (1994) 指出插补模型与实质模型不兼容(uncongeniality)会导致推断偏差。White and Royston (2009) 专门研究了 Cox 模型中的协变量插补,发现标准做法(用事件指示符和随访时间作为插补模型的预测变量)是近似正确的,但缺乏严格理论。Bartlett et al. (2015) 提出实质模型兼容的全条件设定(SMC-FCS),通过从 Cox 似然贡献推导出的拒绝采样方案,保证插补模型与 Cox 模型兼容。Keogh and Morris (2018) 和 Keogh et al. (2018) 将 SMC-FCS 扩展到时间依赖效应和嵌套病例对照设计。但这条线的所有理论工作都限于固定维度 p。

线索三:高维缺失数据的优化算法。 Wang et al. (2015) 提出高维 EM 算法,通过稀疏截断步骤处理高维潜在变量模型,建立了收敛速率和低维分量的渐近正态性。Liang et al. (2018) 提出插补-正则化优化(IRO)算法,交替进行插补和正则化优化,在一般缺失机制下建立了平均估计量的一致性。但这两项工作都不针对 Cox 模型,也不涉及实质模型兼容性。

本文的位置:本文是第一条线(Xia et al. 2023 的去偏推断)与第二条线(Bartlett et al. 2015 的 SMC-FCS)的首次系统结合。它把 SMC-FCS 从固定维度推广到发散维度,并证明在这种高维插补框架下,Rubin 合并规则仍然产生渐近正态的推断。

子线索聚类

  1. 高维 Cox 去偏推断(Xia et al. 2023; Fang et al. 2017; Kong et al. 2021; van de Geer et al. 2014; Zhang and Zhang 2014):关注完全观测数据下,如何在高维 Cox 模型中对低维分量做有效推断。核心工具是去偏 LASSO 和节点回归(nodewise regression)。
  2. 实质模型兼容的插补方法(Bartlett et al. 2015; Keogh and Morris 2018; Keogh et al. 2018; White and Royston 2009):关注在固定维度下,如何构造与 Cox 模型兼容的插补分布,避免 uncongeniality 偏差。
  3. 高维缺失数据的通用算法(Wang et al. 2015; Liang et al. 2018):关注高维缺失数据的一般估计框架(EM、IRO),但不针对特定实质模型。

这个方向在追问的核心问题

  1. 插补与正则化的交互:在高维插补中,插补模型的偏差如何影响下游去偏估计?插补不确定性如何与正则化偏差分离?
  2. Rubin 规则在高维下的有效性:经典 Rubin 方差分解假设插补次数 M 固定、每次插补独立。在高维发散维度下,这个分解是否仍然成立?插补间方差是否仍然捕捉了缺失信息?
  3. 兼容性的严格定义:SMC-FCS 的"兼容性"在固定维度下通过拒绝采样实现,但在高维下,拒绝采样的效率如何?是否仍然保证插补分布收敛到正确的后验?

⚠️ 作者的 framing(这是作者的说法)

作者将缺口 frame 为:"现有高维 Cox 推断方法假设协变量完全观测,而现有的 SMC-FCS 方法局限于固定维度。因此,在高维生存数据中处理缺失协变量并保持有效推断,是'显然的下一步'。" 作者淡化了两个竞争路线:(i) 直接对观测数据做加权估计方程(如逆概率加权),而非插补;(ii) 将插补视为测量误差问题,用 SIMEX 类方法矫正。这两条路线在引言中未被讨论。

张力

未见明显对立引用。但有一个值得注意的张力:Xia et al. (2023) 的投影方法不要求逆信息矩阵稀疏,而本文的插补框架在 Assumption 10 中仍然需要某种稀疏性条件(s₀ log n = o(√n) 以及关于逆信息矩阵的约束)。这意味着本文可能没有完全继承 Xia et al. (2023) 在稠密信息结构下的优势——这是一个值得研究者去查证的点。


二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据

符号清单(逐个点名):

符号 含义 类型
n 样本量 指标
p = pₙ 协变量维度,随 n 发散 指标
Tᵢ 第 i 个个体的失效时间 随机变量(潜在)
Cᵢ 第 i 个个体的删失时间 随机变量(潜在)
Yᵢ = min(Tᵢ, Cᵢ) 观测时间 随机变量(可观测)
Δᵢ = I(Tᵢ ≤ Cᵢ) 事件指示符 随机变量(可观测)
Xᵢ ∈ ℝᵖ 协变量向量 随机变量(部分可观测)
Rᵢⱼ ∈ {0,1} 第 j 个协变量是否被观测 随机变量(可观测)
Xᵢᵒᵇˢ, Xᵢᵐⁱˢ 观测/缺失协变量分量 随机变量
M 部分缺失变量指标集合 指标
λ₀(t) 基线风险函数 非参数 nuisance
β₀ ∈ ℝᵖ 真实回归系数(稀疏,支撑大小 s₀) 参数(目标)
Λ₀(t) 累积基线风险 非参数 nuisance
ℓₙ(β; X) 负 Cox 偏似然(n 归一化) 损失函数
Σ_β₀ 总体信息矩阵 参数(nuisance)
Θ_β₀ = Σ⁻¹_β₀ 逆信息矩阵 参数(nuisance)
c ∈ ℝᵖ 固定载荷向量(‖c‖₂ = 1, ‖c‖₁ ≤ a*) 用户指定
cᵀβ₀ 目标线性泛函 estimand
M 插补链数(如 M = 20) 算法参数
λₙ LASSO 惩罚参数 算法参数
γₙ 节点回归约束半径 算法参数

模型(数据生成机制):

  1. 生存模型:Tᵢ 服从 Cox 比例风险模型,条件风险函数为 λ(t | Xᵢ) = λ₀(t) exp(Xᵢᵀβ₀),其中 λ₀ 未知,β₀ 稀疏(‖β₀‖₀ = s₀ ≪ n)。

  2. 删失机制:Cᵢ 与 Tᵢ 独立(给定 Xᵢ),且删失时间独立于缺失机制。

  3. 缺失机制:MAR,即 P(Rᵢ | Xᵢ, Yᵢ, Δᵢ) = P(Rᵢ | Xᵢᵒᵇˢ, Yᵢ, Δᵢ)。缺失只依赖于观测到的分量和结局。

  4. 可观测数据:{(Yᵢ, Δᵢ, Xᵢᵒᵇˢ, Rᵢ)}ᵢ₌₁ⁿ。注意 Xᵢᵐⁱˢ 是不可观测的,只能通过插补模型推断。

关键区分: - 可观测:Yᵢ, Δᵢ, Xᵢᵒᵇˢ, Rᵢ(有样本) - 潜在但想要:Xᵢᵐⁱˢ(缺失的协变量值)、Tᵢ(删失个体的失效时间) - 参数/estimand:β₀(高维,稀疏)、cᵀβ₀(低维目标) - nuisance:λ₀(·)(非参数基线风险)、Σ_β₀(信息矩阵)、缺失协变量的条件分布

第二步:最小内核

剥掉所有一般性设定后,本文的核心数学问题是:

设观测数据为 {(Yᵢ, Δᵢ, Xᵢᵒᵇˢ, Rᵢ)},其中 Xᵢ 的部分分量缺失。我们想要推断 cᵀβ₀。由于 Xᵢᵐⁱˢ 不可观测,我们通过 SMC-FCS 插补生成 M 个完整数据集,每个数据集上运行 Cox LASSO 得到收缩估计,再通过去偏操作得到 β̂⁽ᵐ⁾_db。最后用 Rubin 规则合并:

cᵀβ̄_M = (1/M) Σₘ cᵀβ̂⁽ᵐ⁾_db,方差估计为 V_total = W + (1 + 1/M)B。

要证明的命题是:

√n · cᵀ(β̄_M − β₀) / √(cᵀV_total c) → N(0,1),当 n → ∞, pₙ → ∞, pₙ < n。

为什么这个命题不平凡? 三个环节的误差必须同时控制:

  1. 插补误差:SMC-FCS 的拒绝采样在高维下是否收敛到正确的条件分布?插补模型的估计误差(来自 ridge 正则化)如何传播?
  2. 正则化偏差:每个插补数据集上的 LASSO 估计有 O(λₙ) 的收缩偏差,去偏操作能否在插补数据的分布下消除它?
  3. Rubin 方差分解:经典 Rubin 规则假设插补是"proper"的(即插补分布反映了参数不确定性)。在高维下,插补模型的参数估计误差是否被正确传播到 B(插补间方差)?

最简例子(一维情形):假设 p = 1,只有一个协变量 X₁,且 X₁ 有缺失。此时: - 插补模型是 X₁ | (Y, Δ, X₋₁) 的条件分布,通过 Cox 似然比做拒绝采样。 - 每个插补数据集上,Cox 模型退化为单变量回归,LASSO 退化为阈值估计。 - 去偏操作简化为:β̂_db = β̂_lasso + (信息量)⁻¹ × 得分。 - Rubin 合并的方差分解:W 是插补内方差(反映抽样变异性),B 是插补间方差(反映缺失信息)。

这个例子的核心困难:即使在一维情形,拒绝采样的接受概率依赖于 Cox 似然比,而 Cox 似然比又依赖于 β 的估计。β 的估计误差会通过接受概率传播到插补分布,再传播到最终的推断。本文的理论必须证明这个误差传播链在高维下仍然可控。


三、这篇论文做了什么

三句话

  1. 研究了什么问题:在 Cox 比例风险模型中,当协变量维度随样本量发散(p → ∞, p < n)且协变量存在缺失时,如何对低维线性泛函 cᵀβ 进行有效的推断(置信区间、假设检验)。
  2. 核心工具/方法:提出 SMC-DBL(Substantive-Model-Compatible Debiased Lasso)框架,将 SMC-FCS 插补(通过 Cox 似然驱动的拒绝采样保证兼容性)与去偏 LASSO 推断(Xia et al. 2023 的投影方法)结合,并通过 Rubin 规则合并插补间不确定性。
  3. 主要结论:在发散维度 pₙ = O(n^κ) 下,Rubin 合并的去偏估计量是相合的且渐近正态的;模拟和波士顿肺癌生存队列的应用验证了方法的有限样本性能。

关键设定与假设

在第二节最小记号的基础上,本文的核心假设包括:

  • Assumption 1(维度增长):pₙ = O(n^κ),κ ∈ (0,1)。这比固定维度假设更一般,但比超高维(p ≫ n)更弱。
  • Assumption 2-3(有界性):协变量和线性预测子有界,保证 Cox 偏似然的指数型集中。
  • Assumption 4-5(删失与风险集):删失时间独立,且风险集在 [0, τ] 上非退化。
  • Assumption 6(信息矩阵条件):Σ_β₀ 的特征值有界,且逆信息矩阵的 ℓ₁ 范数有界(‖Θ_β₀‖₁,₁ 增长受控)。这是去偏推断的关键——它替代了固定维度下的正定性假设。
  • Assumption 7(插补模型非退化):每个条件插补分布有界且远离 0/1,保证拒绝采样的接受概率有下界。
  • Assumption 8(缺失机制):MAR,且缺失率有界(ḡ < 1),排除退化情形。
  • Assumption 9(插补模型估计误差):ridge 估计的预测误差以 O(√(s* log n / n)) 收敛,其中 s* 是插补模型的稀疏度。
  • Assumption 10(稀疏性与速率条件):s₀ log n = o(√n),且 ‖Θ_β₀‖²₁,₁ · max(n^κ s₀, s*²) = o(n)。这是全文最核心的速率条件——它同时控制了稀疏度、维度增长和逆信息矩阵的复杂度。

相比已有工作的变化: - 相比 Xia et al. (2023):增加了插补环节,因此需要 Assumption 7-9 来控制插补误差。 - 相比 Bartlett et al. (2015):从固定维度推广到发散维度,因此需要 Assumption 1 和 10 来控制维度增长。 - 相比 Wang et al. (2015) 和 Liang et al. (2018):针对 Cox 模型而非一般似然,且强调推断(置信区间)而非仅估计。

主要结果

Theorem 1(内层 SMC-FCS 链的几何遍历性):在 Assumptions 1-7 和 8 下,内层 SMC-FCS 马尔可夫链以几何速率收敛到唯一的平稳分布。关键结论是:收敛速率 ρ_dn = 1 − ε_a^{dn},其中 ε_a 是单坐标的 minorization 常数。技术难点:链的维度 dn 随 n 发散,因此需要证明遍历性在维度增长下仍然成立。证明技巧:利用 Doeblin minorization 条件(Meyn and Tweedie 2009),将高维链的收敛性归结为单坐标的 minorization 常数。

Theorem 2(外层 IRO 迭代的收敛性):在 Assumptions 1-8, 11-13 下,外层 IRO 迭代收敛到不动点 (β, Λ₀)。技术难点:IRO 迭代涉及插补和优化的耦合,需要证明这个耦合映射是压缩的。证明技巧:利用 Assumption 13 的局部稳定性条件(λ* ∈ (0,1)),结合 Theorem 1 的遍历性,证明迭代误差以 λ*^ℓ 速率衰减。

Theorem 3(Cox LASSO 在 IRO 平稳态下的速率):在 Theorem 2 和 Assumptions 6, 9, 10 下,‖β̃^(ℓ) − β‖₁ = O_p(s₀√(log pₙ/n))。技术难点:插补数据的分布与真实分布有偏差,需要控制这个偏差对 LASSO 估计的影响。证明技巧:利用 Assumption 9 的插补模型估计误差,结合 LASSO 的 oracle inequality(Huang et al. 2013),将插补偏差吸收到 O_p(√(s log n / n)) 项中。

Theorem 4(Rubin 合并估计量的渐近正态性):在 Assumptions 1-14 下,对任意载荷向量 cₙ(‖cₙ‖₂ = 1, ‖cₙ‖₁ ≤ a*),有

√n · cₙᵀ(β̄_M − β₀) / √(cₙᵀ V_total cₙ) → N(0,1)。

技术难点:这是全文最核心的定理,需要同时处理三个误差源:(i) 插补误差(来自 SMC-FCS 的有限链长和插补模型估计误差);(ii) 正则化偏差(LASSO 收缩 + 去偏近似);(iii) Rubin 方差分解的偏差(插补间方差 B 是否准确捕捉了缺失信息)。证明技巧: 1. 利用 Theorem 3 的 LASSO 速率,结合去偏操作(Xia et al. 2023 的投影方法),得到每个插补数据集上的渐近线性展开。 2. 利用 Theorem 1 的遍历性,证明插补链的有限样本误差是 o_p(n^{-1/2})。 3. 利用 Assumption 14 的"渐近 proper 插补"条件,证明 Rubin 方差分解的偏差是 o_p(1)。 4. 最后用 Slutsky 定理和中心极限定理完成证明。

真实例子与应用

波士顿肺癌生存队列(BLCS):分析人群为 979 例欧洲裔非小细胞肺癌患者,包含 51 个 SNP 和 10 个临床协变量(共 p = 61)。整体缺失率低(1.17%),但完全病例分析会损失超过一半的样本。应用 SMC-DBL 后: - 与完全病例分析相比,SMC-DBL 的标准误更小(例如,手术效应的 SE 从 0.179 降至 0.123),反映了利用部分缺失样本的效率提升。 - 与标准 SMC-FCS 相比,SMC-DBL 在 p = 61 时仍能保持名义覆盖(标准 SMC-FCS 在 p = 200, n = 500 时覆盖降至 0.47)。 - 识别出 SMAD3 基因内的 rs72743477 与总生存显著相关(p = 0.038),该基因是 TGF-β 信号通路的中介,与肺癌进展的生物学机制一致。

模拟实验:12 种设置(n ∈ {500, 1000, 2000},p ∈ {20, 50, 100, 200}),SMC-DBL 在 11/12 设置中达到名义覆盖(0.95 在 ±1.96·SE_MC 内),而标准 SMC-FCS 在 p ≥ 100 时覆盖降至 0.47-0.79,标准 IRO 在 p ≥ 100 时覆盖降至 0.25-0.41。

🔎 结论是否比证明窄

是的,存在明显的"证明窄于结论"的情况:

  1. Theorem 4 的证明依赖 Assumption 14(渐近 proper 插补),但论文没有给出验证该假设的充分条件。Assumption 14 要求插补分布"渐近 proper",即插补模型的不确定性被正确传播。在高维下,ridge 后验是否满足这个条件?论文没有证明,只是假设。

  2. Theorem 3 的 LASSO 速率要求 s₀ log pₙ = o(√n),但 Theorem 4 的证明还需要额外的条件来控制去偏操作的误差。论文在 Assumption 10 中合并了这些条件,但没有明确哪些是 LASSO 速率所需、哪些是去偏所需。

  3. 模拟中的"标准 SMC-FCS"在 p = 200, n = 500 时覆盖降至 0.47,但论文没有解释这是否是因为插补模型的不兼容性(uncongeniality)还是因为高维插补模型的不稳定性。如果是前者,那么 SMC-DBL 的优势在于兼容性;如果是后者,那么优势在于正则化。这个区分对理解方法的适用范围很重要,但论文未讨论。

  4. BLCS 应用中 p = 61, n = 979,远低于模拟中的最困难设置(p = 200, n = 500)。论文没有说明 SMC-DBL 在 p/n 比更高时的表现,也没有提供敏感性分析来检验 p/n 比的临界值。


四、开放问题

以下开放问题均扎根于论文的具体语句:

  1. MNAR 扩展(扎根于 Discussion 第一段):论文假设 MAR,但作者自己指出"may be unrealistic in many biomedical studies where missingness depends on unobserved patient characteristics"。要处理 MNAR,需要引入 selection model 或 pattern-mixture 模型,但在高维下这些模型的识别条件是什么?如何与去偏推断结合?

  2. 超高维扩展(扎根于 Discussion 第二段):论文处理 p < n 的发散维度,但作者指出"Extending the method to high or ultra-high-dimensional settings with p ≫ n represents an important next step"。在 p ≫ n 下,插补模型本身需要稀疏图模型或低秩结构,这些结构的估计误差如何传播到下游推断?

  3. 插补模型误设定(扎根于 Assumption 7 和 9):论文假设插补模型(高斯、逻辑斯蒂等)正确设定。如果插补模型误设定,SMC-FCS 的拒绝采样是否仍然保证兼容性?需要什么样的稳健性条件?

  4. M 的选择(扎根于 Theorem 4 的 Rubin 合并):论文证明固定 M 下渐近正态,但没有给出 M 的选取准则。经典 Rubin 规则建议 M 至少 20-100,但在高维下,插补链的收敛可能更慢,M 是否需要随 p 增长?

  5. 方差估计的有限样本偏差(扎根于 Theorem 4 的 V_total 一致性):论文证明 V_total 是渐近一致的,但没有给出有限样本偏差的阶数。在高维下,插补间方差 B 的估计是否会有系统性偏差?

  6. 计算复杂度(扎根于 Algorithm 1):SMC-DBL 需要 M 条独立链,每条链需要多次 IRO 迭代,每次迭代需要拟合 ridge 回归和 Cox LASSO。当 p 接近 n 时,计算成本如何增长?是否有更高效的实现策略?


提醒:要确认上述开放问题是否是真 gap,建议去读以下方向的近期文献(各约 5 篇): - 高维缺失数据的去偏推断(debiased estimation with missing data) - 生存分析中的 MNAR 敏感性分析 - 插补模型的稳健性(doubly robust imputation) - 高维贝叶斯插补的计算方法

如果这些方向的近期论文都指向同一个问题,那就是共识性 gap;如果它们给出互相矛盾的结论,那可能是更值得深挖的机会。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论