Deep Partially Linear Transformation Model for Right-Censored Survival Data

讲者: Junkai Yin
会场: Advances in Deep Learning for Interdisciplinary Data
报告题目: Semiparametric Estimation and Inference for Partially Linear Transformation Models via Deep Neural Networks with Interval-Censored Survival Data
链接: arXiv
来源: JCSDS 2026 · 返回会议总览

---

一、领域脉络与小综述

这个方向是什么

这个子方向致力于为右删失生存数据建立兼具灵活性与可解释性的回归模型。核心挑战在于：既要捕捉高维协变量对生存时间的复杂非线性影响（避免维数灾难），又要保留关键协变量效应的线性可解释性，同时不依赖比例风险（PH）这类强假设。当前成熟度处于方法快速涌现、理论逐步建立的阶段，但针对“变换模型”这一更一般框架的深度学习理论仍属空白。

发展脉络（history）

1. 奠基工作：从Cox模型到变换模型

   • Cox (1972)：提出比例风险模型，成为生存分析的标准工具。但其PH假设在实践中常被违反（如论文引用的AIDS数据例子，Grigoletto and Akritas, 1999）。
   • Bennett (1983)：提出比例优势模型，作为PH模型的一种替代。
   • Wei (1992)：加速失效时间（AFT）模型。
   • Chen et al. (2002)：为右删失数据下的线性变换模型建立了系统的半参数估计理论（估计方程方法）。这是后续所有工作的基础。
   • Zeng et al. (2016)：将变换模型的极大似然估计推广到区间删失数据，并证明了估计量的渐近性质。

2. 主要进展：引入部分线性结构

   • Ma and Kosorok (2005) 与 Lu and Zhang (2010)：为了同时容纳线性和非线性协变量效应，发展了部分线性变换模型。Ma & Kosorok针对现状数据，Lu & Zhang针对右删失数据，但他们的方法都局限于单变量非线性效应或可加的非参数效应。论文指出：“these works either only consider the simple case of univariate nonlinear effects, or assume the nonparametric effects to be additive, both of which are often inconsistent with the reality.” 这是本文要填补的第一个关键缺口。

3. 当前Frontier：深度学习与生存分析的结合

   • Katzman et al. (2018)：提出DeepSurv，将深度神经网络（DNN）与Cox模型结合，用于个性化治疗推荐。这是深度学习在生存分析中的早期成功应用。
   • Zhong et al. (2022)：这是本文最直接的先行工作。他们为部分线性Cox模型建立了完整的深度学习理论框架，证明了DNN估计量的minimax最优收敛速率和半参数效率。论文称其为“pioneering work”。
   • Wu et al. (2024) 和 Du et al. (2024)：将Zhong et al. (2022)的工作分别扩展到现状数据和区间删失数据。
   • Sun et al. (2024)：提出带惩罚的深度部分线性Cox模型，用于同时进行特征选择和效应建模，并应用于肺癌CT影像。

4. 本文的位置 本文是Zhong et al. (2022)工作的直接且自然的推广。它将“部分线性Cox模型”推广到更一般的“部分线性变换模型”，从而摆脱了PH假设的束缚。论文的核心贡献在于，为这个更一般的模型提供了与Zhong et al. (2022)同等强度的理论保证（收敛速率、minimax下界、渐近正态性与半参数效率）。

子线索聚类

这些被引文献大致落在以下三条子线索上：

• 线索一：变换模型的估计理论。核心是处理删失数据下变换模型的半参数推断。代表工作：Chen et al. (2002), Zeng et al. (2016), Ma and Kosorok (2005), Lu and Zhang (2010)。这些工作主要使用传统非参数方法（如样条、核）或估计方程，理论成熟但受限于“维数灾难”和“可加性假设”。
• 线索二：深度学习与生存模型的结合。核心是利用DNN的逼近能力处理高维、非结构化的协变量。代表工作：Katzman et al. (2018), Lee et al. (2018), Norman et al. (2024)。这些工作实证成功，但理论分析（尤其是对部分线性结构的理论）相对滞后。
• 线索三：部分线性Cox模型的深度学习理论。这是连接前两条线索的桥梁。代表工作：Zhong et al. (2022), Wu et al. (2024), Sun et al. (2024)。本文属于此线索，并将其从Cox模型推广到变换模型。

这个方向在追问的核心问题

1. 如何在高维非线性协变量存在时，对感兴趣的线性效应进行有效的推断（估计、假设检验）？
2. 如何证明基于DNN的估计量在更一般的模型（如变换模型）下仍能达到最优的收敛速率和半参数效率？
3. 如何在实际中有效地选择模型（如选择变换模型中的误差分布）和调优DNN的超参数？

⚠️ 作者的Framing

• 作者把缺口frame成什么？ 作者将缺口定位为：现有部分线性变换模型（Ma & Kosorok, 2005; Lu & Zhang, 2010）只能处理“单变量”或“可加”的非线性效应，而现实数据中的非线性关系往往是复杂且高维的。同时，深度学习在生存分析中的应用（如DeepSurv）虽然灵活，但缺乏对部分线性结构的理论保证。因此，本文提出的DPLTM是“显然的下一步”：它既保留了变换模型的灵活性（不依赖PH假设），又通过DNN克服了传统方法的维数灾难，同时为线性部分提供了完整的推断理论。

• 哪些竞争路线被他淡化或回避了？

  • 完全非参数模型：作者没有深入讨论完全放弃线性部分、将所有协变量都放入DNN的模型。虽然这种模型可能更灵活，但牺牲了可解释性。作者通过强调“interpretability of some covariates of interest”来合理化部分线性结构。
  • 其他非线性模型：如随机生存森林（RSF）和支持向量机（SSVM）。在真实数据应用中，作者将DPLTM与RSF和SSVM进行了比较，并声称DPLTM表现更好，但在理论部分完全没有提及这些方法。这暗示作者认为这些方法缺乏本文所追求的统计推断能力（如置信区间、假设检验）。

• 什么明显该被引/该存在、却没出现在intro里？

  • 关于统计-计算权衡的文献：研究者对“统计-计算权衡”有浓厚兴趣。本文使用DNN，其训练是一个非凸优化问题，理论上存在计算复杂性与统计效率之间的权衡。论文在数值实现中使用了Adam优化器，但并未讨论DNN训练的计算复杂性（如是否达到全局最优、计算成本与样本量的关系）是否会影响其统计性质。这是一个值得研究者去查的潜在张力点。例如，是否存在一个“计算上可行但统计上非最优”的DNN架构？或者，是否存在一个“统计上最优但计算上不可行”的DNN架构？本文的理论假设DNN的稀疏性约束（s）和深度（K）随样本量增长，但并未讨论这些约束在实际优化中是否真的能被满足。

张力

未见明显对立引用。所有被引工作基本是互补或递进关系。唯一的潜在张力在于“传统非参数方法（样条、核）”与“深度学习方法”之间的竞争，但作者通过指出传统方法受限于维数灾难和可加性假设，将DNN定位为更优的替代方案。

二、最核心、最简单的例子 / 数学问题

第一步：把符号、模型、可观测数据交代清楚

• 符号：

  • U: 真实的生存时间（随机变量）。
  • C: 删失时间（随机变量）。
  • T = min(U, C): 观测到的生存时间（随机变量）。
  • Δ = I(U ≤ C): 删失指示符（1表示事件发生，0表示删失）。
  • Z ∈ R^p: 线性部分的协变量向量（p维）。
  • X ∈ R^d: 非线性部分的协变量向量（d维）。
  • β ∈ R^p: 线性部分的回归系数（待估参数）。
  • g: R^d → R: 非线性部分的未知函数（待估函数）。
  • H: R → R: 未知的、严格递增的变换函数（待估函数）。
  • ε: 误差项，其分布完全已知（如极值分布、Logistic分布）。
  • n: 样本量。
  • V_i = (T_i, Δ_i, Z_i, X_i): 第i个个体的观测数据。

• 模型： 数据生成机制由部分线性变换模型定义： H(U) = -β^T Z - g(X) + ε 其中，ε独立于(Z, X)，且其分布函数F_ε（或生存函数S_ε）是完全已知的。这个模型将生存时间U通过一个未知的单调变换H与协变量的线性组合β^T Z和非线性函数g(X)联系起来。

• 可观测数据： 研究者实际能观测到的是n个独立同分布的样本{V_i = (T_i, Δ_i, Z_i, X_i), i=1,...,n}。

  • 可观测：T_i（观测时间），Δ_i（是否发生事件），Z_i（线性协变量），X_i（非线性协变量）。
  • 想要但观测不到：真实的生存时间U_i（当Δ_i=0时被删失），以及误差项ε_i。模型通过假设ε的分布已知，并利用T和Δ提供的信息来识别和估计β、H和g。

第二步：讲最小内核

本文的核心思路可以浓缩为一个最简特例：当d=1（非线性协变量是一维的），g是线性函数（即g(x) = γx），H(t) = log(t)，且ε服从极值分布时，模型退化为标准的Cox比例风险模型。在这个特例下，本文要解决的问题和证明的命题是什么？

• 最简特例下的模型： log(U) = -βZ - γX + ε，其中ε服从极值分布。这等价于风险函数λ(t|Z, X) = λ_0(t) exp(βZ + γX)，其中λ_0(t)是基准风险函数。

• 要证明的核心命题： 即使g（或γX）是线性的，如果我们不知道这一点，而用一个DNN去估计g(X)，我们仍然可以得到β的√n-相合、渐近正态且半参数有效的估计量。同时，DNN对g的估计可以达到最优的收敛速率。

• 为什么这个特例能体现核心思路？

  1. 困难：即使g是线性的，用DNN去估计它也是一个非参数问题，收敛速度慢于√n。这通常会导致对β的估计也变慢。
  2. 关键想法：通过使用筛极大似然估计（Sieve MLE），并精心设计DNN的复杂度（稀疏性s、深度K等），可以使得DNN对g的估计误差（d(ĝ, g_0)）足够小，以至于它不影响β的√n收敛速度。这就是“半参数效率”的核心：参数部分的收敛速度由参数部分的“有效信息”决定，不受非参数部分慢速收敛的影响。
  3. 证明怎么走：证明的核心是控制非参数估计误差对参数估计的影响。这通过以下步骤实现：
     • 步骤1（收敛速率）：证明整体估计量(β̂, Ĥ, ĝ)在度量d(·, ·)下的收敛速率是O_p(δ_n log^2 n + n^{-wν})。这个速率比n^{-1/2}慢，因为它包含了非参数部分ĝ和Ĥ的误差。
     • 步骤2（有效得分函数）：推导出β的有效得分函数ℓ_β^*。这个函数是β的得分函数在非参数部分（H和g）的切空间上的投影残差。它代表了在完全知道H和g的情况下，β所能提供的信息。
     • 步骤3（渐近线性展开）：证明β̂可以渐近地表示为β̂ - β_0 = I(β_0)^{-1} * (1/n) * Σ ℓ_β^*(V_i; η_0) + o_p(1/√n)。这个展开的关键在于，尽管ĝ和Ĥ有误差，但它们对β̂的影响是o_p(1/√n)，可以忽略不计。这要求非参数部分的收敛速率足够快（即nδ_n^4 → 0，见Theorem 4的条件）。
     • 结论：因此，β̂的渐近分布完全由有效得分函数决定，达到了√n-相合和半参数效率。

• 一般情形：论文的一般情形只是将这个特例的证明思路“加壳”到更复杂的设定上：g是更一般的复合光滑函数（而非线性），H是未知的单调函数（而非log），ε是更一般的已知分布（而非极值分布）。证明的核心技术（经验过程、bracketing积分、筛估计理论）和处理非参数误差对参数估计影响的逻辑是完全一致的。

三、这篇论文做了什么

三句话

1. 研究了什么问题：针对右删失生存数据，提出了一个深度部分线性变换模型（DPLTM），该模型通过DNN处理高维非线性协变量效应，同时保持关键协变量效应的线性可解释性，且不依赖比例风险假设。
2. 核心工具/方法：采用筛极大似然估计，其中非线性函数g用稀疏深度ReLU网络逼近，单调变换函数H用单调B样条逼近，所有参数（β、网络权重、样条系数）通过Adam优化器联合优化。
3. 主要结论：证明了DPLTM的估计量具有以下性质：(i) 整体收敛速率取决于函数的内在维度而非名义维度，从而规避维数灾难；(ii) 非线性部分ĝ的估计达到了minimax最优收敛速率；(iii) 线性部分β̂是√n-相合、渐近正态且半参数有效的。

关键设定与假设

• 模型：H(U) = -β^T Z - g(X) + ε，其中ε分布已知。
• 函数空间：
  • g ∈ G(K, p, s, D)：一个稀疏深度ReLU网络空间，其深度K、宽度p_k、非零参数个数s和范数界D都随样本量n增长（条件C1）。
  • H ∈ Ψ：一个由单调递增B样条构成的空间，其节点数K_n = O(n^ν)（条件C1）。
• 关键假设（条件C1-C8）：
  • C1 (网络结构)：K = O(log n), s = O(n δ_n^2 log n)。这控制了DNN的复杂度，使其既能逼近复杂的g_0，又不会过拟合。
  • C2 (协变量有界)：(Z, X)取值于有界集，X的支撑为[0,1]^d。这是技术性假设，简化理论分析。
  • C3 (函数光滑性)：g_0属于一个复合光滑函数空间H(q, α, d, ed, M)。这个空间的关键在于它用“内在维度”ed来描述函数的复杂性，而非名义维度d。例如，一个d=7的函数，如果其结构是g(x) = g_21(g_11(g_01(x1,x2), g_02(x3,x4)), g_03(x5,x6,x7))，其内在维度ed可能只有2或3。这个假设是DNN能规避维数灾难的理论基础。
  • C4 (H的光滑性)：H_0足够光滑，且一阶导数严格正。
  • C5 (误差分布)：ε的 hazard 函数λ_ε是log-concave且二次连续可微，其一阶导数在紧集上严格正。这个看似强的条件被许多常见模型（Cox、比例优势、Box-Cox）满足。
  • C6 (可识别性)：事件发生概率和未删失概率都有正的下界。
  • C7 & C8 (密度条件)：保证信息矩阵的非奇异性，并用于推导β̂的渐近正态性。

主要结果

• Theorem 1 (一致性与收敛速率)：d(η̂, η_0) = O_p(δ_n log^2 n + n^{-wν})。其中δ_n是由复合光滑函数空间决定的收敛速率，它只依赖于内在维度ed，而非名义维度d。n^{-wν}项来自B样条对H的逼近误差。这个定理表明DPLTM成功规避了维数灾难。
• Theorem 2 (Minimax下界)：存在常数c > 0，使得inf_ĝ sup E{ĝ(X) - g_0(X)}^2 ≥ c δ_n^2。结合Theorem 1，说明ĝ的收敛速率（忽略log因子）是minimax最优的。
• Theorem 3 (有效得分与信息界)：推导出β的有效得分函数ℓ_β^*(V; η_0)和信息矩阵I(β_0)。这是证明β̂半参数效率的关键。
• Theorem 4 (渐近正态性)：在nδ_n^4 → 0的条件下，√n(β̂ - β_0) → N(0, I(β_0)^{-1})。这个定理是本文的核心理论贡献，它证明了尽管整体模型收敛慢，但线性部分的估计仍然可以达到√n-相合和半参数有效。条件nδ_n^4 → 0要求非参数部分的收敛速率不能太慢，这在实际中通常成立。

证明路线与技术技巧

• 整体路线：

  1. 定义筛空间与约束估计量：定义带范数约束的筛空间R^p_D × Ψ_D × G_D，并证明约束估计量η̂_D与无约束估计量η̂在概率上一致。
  2. 一致性：利用P-Glivenko-Cantelli定理（Lemma 1）证明经验似然函数M_n(η)一致收敛于真实似然M(η)，再利用M(η)在η_0处有唯一最大值点（由KL散度性质，Lemma 2）证明η̂_D一致。
  3. 收敛速率：这是证明的核心。使用Van der Vaart & Wellner (1996)的Theorem 3.4.2，该定理给出了筛MLE收敛速率的通用条件。需要验证两个关键量：
     • φ_n(δ)：经验过程G_n在η的δ-邻域上的模量。通过计算bracketing数（Lemma 3）得到φ_n(δ) = δ √(s log(L/δ)) + s/√n log(L/δ)。
     • θ_n：一个“锚点”估计量(β_0, \tilde{H}, \tilde{g})与真实值η_0的距离。\tilde{g}是g_0在DNN空间中的最优逼近（由Schmidt-Hieber (2020)给出），\tilde{H}是H_0在样条空间中的最优逼近。得到θ_n = δ_n log^2 n + n^{-wν}。
  4. 渐近正态性：这是证明的第二个核心。使用半参数推断的标准技术：
     • 推导有效得分函数（Theorem 3）。
     • 证明β̂的渐近线性展开：证明√n(β̂ - β_0) = I(β_0)^{-1} * (1/√n) Σ ℓ_β^*(V_i; η_0) + o_p(1)。这需要证明P_n ℓ_β^*(·; η̂) = o_p(1/√n)（方程26）和P[ℓ_β^*(·; η̂) - ℓ_β^*(·; η_0)] = -I(β_0)(β̂ - β_0) + o_p(1/√n)（方程27）。前者通过Donsker定理和η̂的收敛速率证明，后者通过Taylor展开和有效得分函数的正交性证明。

• 关键跳跃点：

  • 从Cox模型到变换模型：Zhong et al. (2022)的证明依赖于Cox模型的部分似然，其形式相对简单。本文需要处理变换模型的全似然函数，其中包含了H及其导数H'，使得似然函数和得分函数的结构更复杂。证明中需要处理H'的估计误差，这体现在度量d(·, ·)的定义中包含了H'的项。
  • 控制H'的估计误差：Lemma 2和Lemma 3的证明中，都需要处理H'的项。作者通过假设H_0足够光滑（C4）和使用单调样条（保证了H'的逼近性质），成功地将H'的误差纳入到整体度量d(·, ·)中，从而沿用Zhong et al. (2022)的证明框架。

• 技术技巧点名：

  • Empirical Process / Chaining：用于控制经验过程G_n的模量（Lemma 3）。
  • Bracketing Integral：用于计算F_δ的熵，从而得到φ_n(δ)的界。
  • Sieve MLE Theory：使用Van der Vaart & Wellner (1996)的Theorem 3.4.2来建立收敛速率。
  • Efficient Influence Function：推导有效得分函数ℓ_β^*，这是半参数推断的核心工具。
  • Donsker Theorem：用于证明P_n ℓ_β^*(·; η̂) = P_n ℓ_β^*(·; η_0) + o_p(1/√n)。

真实例子与应用

• 数据：来自SEER数据库的肺癌患者数据（n=28950，删失率25.63%）。选取了10个协变量，其中5个分类变量（性别、婚姻状况、原发癌、同侧肺有无独立肿瘤结节、化疗）作为线性部分Z，其余5个连续/有序变量（年龄、诊断到治疗时间、肿瘤大小、肿瘤扩展、淋巴结）作为非线性部分X。
• 方法应用：
  1. 模型选择：在验证集上比较了三种误差分布（r=0, 0.5, 1，对应Cox、中间模型、比例优势模型）的log似然值，最终选择了r=1（比例优势模型）。
  2. 参数估计与推断：使用DPLTM估计了线性部分的系数β，并基于Theorem 4的渐近正态性计算了标准误和p值，进行了假设检验。
• 结果：
  • 除“原发癌”外，所有线性协变量均显著。
  • 女性、已婚、无独立肿瘤结节、接受化疗的患者生存时间更长。
  • 在预测性能上，DPLTM的C-index（0.7028）优于LTM（0.6582）、PLATM（0.6775）、RSF（0.6927）、SSVM（0.6699）和DPLCM（0.6974）。在80个月的校准曲线（ICI）上，DPLTM也多数时间表现最佳。
• 这个例子想说明什么：验证DPLTM在实际复杂数据中的有效性和鲁棒性，展示其在模型选择、统计推断和预测精度方面的综合优势，特别是相对于传统方法和仅针对Cox模型的深度学习方法（DPLCM）。

🔎 结论是否比证明窄

• Theorem 4的条件nδ_n^4 → 0：这个条件在证明中被明确使用，但在论文的结论陈述（如摘要）中并未强调。它意味着非参数部分的收敛速率必须快于n^{-1/4}。虽然这在很多情况下成立，但并非总是成立。这是一个“在条件X下严格证明”的结论。
• 稀疏性约束：论文在理论中假设DNN满足稀疏性约束s，但在数值实现中（Appendix B）明确承认“the sparsity constraint on the DNN is not ensured in the numerical implementation”。这是一个理论与实践的差距。作者在Discussion中提到了Ohn and Kim (2022)的稀疏惩罚方法作为未来工作，这暗示了当前实现可能并未达到理论假设的最优性。

四、开放问题

1. 扩展到其他数据类型：论文仅关注右删失数据。作者在Discussion中明确提到“It is straightforward to extend our methodology to other survival models like the cure rate model... and other types of survival data such as current status data and interval-censored data.” 这是一个明确的、被作者点出的开放问题。扎根于论文Section 6第一句。

2. 结合更先进的网络架构：作者提到“it is of great importance to combine our methodology with more advanced deep learning architectures like deep convolutional neural networks... deep residual networks... and transformers... and develop a more general theoretical framework.” 这指向了将DPLTM应用于图像、文本等非结构化数据，并为其建立理论。扎根于论文Section 6第二段。

3. 处理稀疏性约束的实践问题：作者承认“a potential limitation of this study is that the sparsity constraint on the DNN is not ensured in the numerical implementation”。并指出Ohn and Kim (2022)的稀疏惩罚方法是一个可能的解决方案。这是一个具体的、从理论到实践的gap。扎根于论文Section 6第三段。

4. 统计-计算权衡：本文未讨论DNN训练的计算复杂性。对于研究者而言，一个值得追问的问题是：是否存在一个“计算上可行但统计上非最优”的DNN架构？或者，是否存在一个“统计上最优但计算上不可行”的DNN架构？这需要去阅读关于“统计-计算权衡”的文献，并与本文的DNN复杂度设定（如K=O(log n)）进行对比。这是一个未被作者提及，但可能存在的张力点。

---

Maintained by 陈星宇 · Homepage · Source on GitHub

评论