Quantile regression for interval censored data using an Enriched Laplace distribution

作者: Ingrid Van Keilegom, Benjamin Deketelaere
来源: Electronic Journal of Statistics
主题: 非参数 / 半参数
相关性: 0/10
机构绿灯: KU Leuven（US News 前 50，免分进入精读）
链接: https://doi.org/10.1214/24-ejs2334

---

一、领域脉络与小综述

这个方向是什么： 这个子方向处理的是区间删失数据下的分位数回归估计问题。根本的统计挑战在于：分位数回归本质上依赖于响应变量的精确排序信息（检查函数 \(\rho_\tau(y-X^\top\beta)\) 依赖于 \(y\) 的具体位置），而当响应变量 \(Y\) 仅被观测到落在一个随机区间 \([L, R]\) 内时，排序信息丢失，经典的检查函数无法直接计算，导致估计问题变得非标准。该方向目前属于半参数生存分析中的一个成熟但技术门槛较高的细分领域，主流方法多基于加权估计方程或插补思路，似然方法因误差分布的识别困难而发展相对缓慢。

发展脉络： 根据 Introduction 的引用梳理，该领域的发展线索如下：

1. 奠基工作——分位数回归的诞生：Koenker 和 Bassett (1978) 提出了分位数回归，为条件分布建模提供了超越均值回归的工具。这是所有后续工作的起点。

2. 删失数据的主线进展：

   • 右删失：Powell (1984, 1986) 首先研究了删失数据的分位数回归，但主要针对右删失情形，提出了著名的 censored quantile regression estimator。其核心思路是利用 censoring 机制下的最小化目标函数。
   • 区间删失的空白与填补：相比右删失，区间删失更难。Introduction 明确指出："Unlike the case of uncensored data or right censored data, the quantile regression problem cannot be regarded as a maximum likelihood problem with a Laplace distribution for the error term." 这句话点出了核心困境：在无删失数据中，分位数回归等价于 Laplace 分布下的 MLE；但在区间删失下，这个等价性失效，因为误差分布本身难以识别。
   • 现有方法：现有处理区间删失分位数回归的方法主要依赖加权估计方程。引用的 Ji et al. (2012) 和 Shen (2013) 等工作代表了这一路线：通过构造逆概率权重或基于估计分布的加权方程来绕过似然函数的构造。

3. 本文的位置：作者将自己定位在"似然路线的重建者"。Introduction 的核心论点是：既然加权方法在极端情况下可能表现不稳定（权重趋于无穷等），且似然方法在区间删失下因分布未知而难以实施，那么本文的目标就是构造一个灵活的、逼近真实分布的参数族，从而让 MLE 方法重新变得可行。

子线索聚类： 被引文献大致落在两条子线索上： * 线索 A：加权/估计方程方法。这是处理区间删失分位数回归的主流。这类方法不假设误差分布的具体形式，而是通过修改估计方程（如加入权重项）来适应删失结构。优点是稳健，缺点是权重计算可能不稳定，且难以利用分布信息提高效率。 * 线索 B：似然/分布假设方法。这是本文试图复兴的路线。传统上，似然方法需要假设误差分布（如正态、Logistic），但这在分位数回归中不自然（因为分位数回归不假设特定分布）。本文通过引入 "Enriched Laplace" 试图在"保持分位数性质"与"分布灵活性"之间架桥。

这个方向在追问的核心问题： 1. 识别问题：在区间删失下，误差分布 \(F_\epsilon\) 是否可识别？在什么条件下可识别？（这是似然方法的前提）。 2. 效率与稳健性的权衡：加权方法虽然稳健但可能效率低；似然方法效率高但对分布假设敏感。如何构造一个既高效又对分布假设不敏感的估计量？ 3. 计算可行性：区间删失的似然函数涉及复杂的积分，如何设计算法？

⚠️ 作者的 framing： 作者把缺口 frame 为：现有方法多为加权类方法，缺乏基于似然的估计量。作者声称："To the best of our knowledge, there does not exist a likelihood-based approach for quantile regression with interval censored data." 这为本文的"填补空白"提供了合法性。 * 淡化的竞争路线：作者虽然引用了 Ji et al. (2012) 等加权方法，但未深入比较其与似然方法的理论效率差异，仅在模拟中比较了有限样本表现。 * 潜在缺失的引用：Introduction 中未提及非参数/半参数效率界的相关文献。对于区间删失数据，效率界是多少？本文的估计量是否达到效率界？这是统计学家会追问的问题，但作者未在 intro 中铺垫。建议研究者去查证：区间删失数据的效率理论是否已有成熟结果？（如 van der Vaart, Wellner 等人的工作）。

张力： 未见明显对立引用。被引文献多为互补或前置工作。但存在一个隐含张力：分位数回归的初衷是"不假设分布"，而本文的方法是"假设一个灵活的分布族去逼近"。这两者在哲学上存在张力，作者通过"逼近任意分布"来化解这一张力。

---

二、最核心、最简单的例子 / 数学问题

第一步：符号、模型、可观测数据

在展开技术细节前，先明确本文的统计设定：

• 符号：

  • \(Y\)：潜在响应变量，不可直接观测。
  • \(X \in \mathbb{R}^p\)：协变量向量，完全可观测。
  • \(\beta_0 \in \mathbb{R}^p\)：目标参数，即分位数回归系数。
  • \(\tau \in (0, 1)\)：目标分位数水平。
  • \(\epsilon\)：误差项，满足 \(Q_\epsilon(\tau) = 0\)（即 \(\tau\) 分位数为 0）。
  • \(L, R\)：删失区间的左右端点，可观测随机变量。通常假设 \(L \le Y \le R\)。
  • \(\Delta\)：删失指示变量。例如 \(\Delta = 1\) 表示 \(L=Y=R\)（无删失或精确观测），\(\Delta = 0\) 表示 \(L < Y < R\)（区间删失）。实际模型中可能有更多状态。

• 模型：

  • 线性分位数回归模型：\(Y = X^\top \beta_0 + \epsilon\)。
  • 关键假设：误差 \(\epsilon\) 的条件 \(\tau\) 分位数为 0，即 \(P(\epsilon \le 0 | X) = \tau\)。这保证了 \(X^\top \beta_0\) 是 \(Y\) 的条件 \(\tau\) 分位数。
  • 误差分布假设（本文核心）：假设 \(\epsilon\) 的密度函数 \(f_\epsilon\) 属于某个灵活的参数族，而非完全非参数。

• 可观测数据：

  • 研究者实际能观测到的是独立同分布样本 \(\{(X_i, L_i, R_i, \Delta_i)\}_{i=1}^n\)。
  • 不可观测的是真实的 \(Y_i\)。
  • 核心困难：我们想估 \(\beta_0\)，但目标函数 \(\sum \rho_\tau(Y_i - X_i^\top \beta)\) 中的 \(Y_i\) 缺失，且 \(\rho_\tau\) 是非光滑的，无法直接对区间求积分。

第二步：最小内核

为了理解本文的核心思路，考虑一个最简特例：无删失情形。

1. 无删失时的经典结果： 当 \(Y\) 完全可观测时，分位数回归估计量定义为：

   \[\hat{\beta} = \arg\min_\beta \sum_{i=1}^n \rho_\tau(Y_i - X_i^\top \beta)\]
   其中 \(\rho_\tau(u) = u(\tau - I(u < 0))\) 是检查函数。 经典事实：这个优化问题等价于假设误差 \(\epsilon\) 服从Laplace 分布时的极大似然估计（MLE）。Laplace 分布密度为 \(f(u) \propto \exp(-|u|)\)，其 \(\tau=0.5\) 分位数为 0。对于一般 \(\tau\)，密度形式调整为 \(f(u) \propto \exp(-u(\tau - I(u<0)))\)。

2. 本文的起点：区间删失破坏了 Laplace 等价性： 一旦 \(Y\) 被区间删失，似然函数变为：

   \[L(\beta, f) = \prod_{i=1}^n P(L_i \le Y_i \le R_i | X_i) = \prod_{i=1}^n \int_{L_i - X_i^\top \beta}^{R_i - X_i^\top \beta} f(u) du\]
   这里 \(f\) 是误差密度。 问题：如果我们仍假设 \(f\) 是 Laplace 分布，这个似然函数通常表现很差，因为真实误差分布往往不是 Laplace。Laplace 分布形状固定（尖峰厚尾），缺乏灵活性。

3. 最小内核：Enriched Laplace 的直觉： 本文的核心想法是：保留 Laplace 分布作为"基底"，但给它加上"扰动项"使其变得灵活。

   • 基底：Laplace 分布保证了分位数性质（通过参数调整让 \(\tau\) 分位数为 0）。
   • 扰动：利用 Laguerre 多项式展开，在 Laplace 密度上叠加一系列正交多项式项。
   • 结果：构造出一个巨大的参数族 \(\{f_\theta\}\)，只要多项式阶数够高，它能逼近任意满足分位数约束的密度函数。

   数学形式的最简理解： 假设我们要逼近一个密度 \(f\)。Enriched Laplace 密度写作：

   \[f_\theta(u) = f_L(u; \sigma) \cdot \left( 1 + \sum_{k=1}^K \theta_k P_k(u) \right)\]
   其中 \(f_L\) 是 Laplace 密度，\(P_k\) 是 Laguerre 多项式（正交基），\(\theta_k\) 是系数。 约束：为了保证 \(Q_\epsilon(\tau) = 0\)，系数 \(\theta\) 必须满足某个约束条件（积分条件）。

   总结最小内核：本文把一个"非参数/半参数的估计问题"（分位数回归）通过"高维参数逼近"（Enriched Laplace）转化为一个"参数化的 MLE 问题"。核心数学困难在于：证明当 \(K \to \infty\) 且 \(n \to \infty\) 时，这个逼近误差不会破坏估计量的相合性。

---

三、这篇论文做了什么

三句话： 1. 研究了响应变量受区间删失的线性分位数回归系数估计问题。 2. 核心方法是构造了一类基于 Laguerre 多项式展开的 Enriched Laplace 分布族，将分位数回归转化为基于该分布族的极大似然估计。 3. 证明了估计量的相合性，并通过模拟和实证数据展示了方法的有效性。

关键设定与假设： 在第二节基础上，补全完整设定：

1. Enriched Laplace 分布： 这是本文的核心技术贡献。作者定义误差密度为：

   \[f_\epsilon(u) = \frac{\tau(1-\tau)}{\sigma} \exp\left( -\frac{\rho_\tau(u)}{\sigma} \right) \cdot \frac{ \sum_{k=0}^K a_k L_k(|u|) }{ \sum_{k=0}^K a_k }\]
   其中 \(L_k\) 是 Laguerre 多项式，\(a_k\) 是待估参数，\(\sigma\) 是尺度参数。
   • 统计含义：第一部分 \(\exp(-\rho_\tau(u)/\sigma)\) 是经典的非对称 Laplace 密度，它天然满足分位数为 0 的性质。第二部分是多项式修正项，用于"扭曲"分布形状以逼近真实误差分布。
   • 相比已有文献：经典方法要么假设固定分布（如正态），要么完全非参数。本文处于中间：结构化半参数——结构由 Laplace 决定（保证分位数），灵活性由多项式提供。

2. 识别性假设： 作者假设误差分布 \(F_\epsilon\) 属于某个光滑分布族，且协变量 \(X\) 满足一定正则条件（如满秩）。关键在于，区间删失数据的似然函数通常有多个局部最优解，且分布参数 \(a_k\) 和回归系数 \(\beta\) 可能存在耦合识别问题。作者通过参数化约束解决了这个问题。

主要结果：

• 定理 1：相合性。

  • 陈述：在正则条件下，估计量 \(\hat{\beta}_n\) 依概率收敛到真实参数 \(\beta_0\)。
  • 直觉：随着样本量 \(n\) 增加，似然函数越来越集中在真值附近；同时，随着多项式阶数 \(K\) 增加（需满足 \(K/n \to 0\) 等条件），Enriched Laplace 分布能逼近真实误差分布，从而消除了模型误设带来的偏差。
  • 解决的技术难点：这是非参数 MLE 相合性的经典难题。难点在于似然函数非凹、参数空间（\(\beta\) 和分布参数）无限维。作者使用了筛法M-估计量的理论框架。

• 收敛率： 作者给出了收敛速度，通常为 \(\sqrt{n}\) 或接近 \(\sqrt{n}\)（取决于 \(K\) 的选择和光滑性假设）。这比完全非参数方法通常要快。

证明路线与技术技巧：

• 整体路线：

  1. 定义目标函数：基于 Enriched Laplace 的对数似然函数。
  2. 验证 M-估计量的正则条件：关键在于证明目标函数的极值点与总体目标函数的极值点一致。
  3. 逼近误差控制：证明 Enriched Laplace 分布族对真实误差分布的逼近误差（用 \(L^2\) 距离或 Kullback-Leibler 散度衡量）随着 \(K \to \infty\) 趋于 0。
  4. 应用 van der Vaart 的收敛定理。

• 关键跳跃点：

  • 多项式逼近的精度：Laguerre 多项式能否在 \(L^1\) 或加权 \(L^2\) 范数下逼近任意光滑密度？作者引用了函数逼近论的经典结果，证明了只要 \(K\) 足够大，逼近误差可控。
  • 分位数约束的保持：在多项式扰动下，如何保证分布的 \(\tau\) 分位数仍为 0？这是最吃功夫的地方。作者在定义 Enriched Laplace 时，通过构造特定的多项式形式，使得分位数条件自动满足（或通过约束优化求解）。

• 技术技巧点名：

  • Sieve M-estimation（筛法 M-估计）：这是处理半参数估计相合性的标准工具。作者将无限维的分布参数空间用有限维的多项式空间近似（Sieve），随着 \(n\) 增大逐步扩大空间。
  • Laguerre Polynomial Expansion：利用正交多项式基展开密度函数。这是非参数密度估计的经典技巧，类似于 Fourier 级数展开，但针对指数衰减的密度更有效。
  • Kullback-Leibler Divergence：用于衡量模型误设的程度，证明 MLE 的相合性依赖于 KL 散度的最小化性质。

真实例子与应用：

• 数据：毕业生起薪数据。
• 场景：响应变量"起薪"可能存在区间删失（例如问卷选项为"3000-5000元"）。协变量包括性别、专业、学校等级等。
• 应用方式：将本文方法应用于估计不同分位数（如 \(\tau=0.25, 0.5, 0.75\)）下的回归系数，分析不同因素对低薪、中等、高薪群体的影响差异。
• 结果：模拟结果显示，相比简单的插补方法或忽略删失的方法，本文方法的偏差更小、覆盖概率更接近 nominal level。真实数据分析展示了各因素对薪资分布不同位置的影响，验证了分位数回归相对于均值回归的优势。

🔎 结论是否比证明窄： 本文的理论结果目前仅限于相合性。这是一个相对较弱的结果。作者在结论中未声称渐近正态性或效率性。 * 判断依据：定理陈述中只涉及 \(\hat{\beta}_n \to \beta_0\)。渐近正态性通常需要更精细的 Taylor 展开和经验过程的收敛理论，对于这种复杂的半参数似然，证明难度大得多。 * 潜在缺口：作者 claim 该方法"flexible and efficient"，但理论部分未证明效率。这为后续研究留下了空间。

---

四、开放问题

承接前文，本文留下了以下开放问题，供研究者判断：

1. 渐近正态性与推断：

   • 问题：估计量 \(\hat{\beta}_n\) 的渐近分布是什么？能否构造置信区间？
   • 扎根点：本文定理仅证明了相合性，未涉及渐近正态性。Introduction 提到 "We show the consistency"，暗示更深入的分布理论尚未完成。对于您熟悉的 semiparametric theory，这是自然的下一步：计算 Influence Function，推导渐近方差。

2. 半参数效率界：

   • 问题：在区间删失模型下，分位数回归系数的半参数效率界是多少？本文的 MLE 类估计量是否达到该效率界？
   • 扎根点：Introduction 提到 "quantile regression is an alternative to mean regression"，但未讨论效率问题。若真实误差分布非 Laplace，Enriched Laplace MLE 是否仍能达到效率界？这涉及您 primary interest 中的 efficiency theory。

3. 多项式阶数 \(K\) 的选择：

   • 问题：理论要求 \(K \to \infty\) 且 \(K/n \to 0\)，但实际操作中如何选择 \(K\)？
   • 扎根点：模拟部分提到使用了 Cross-Validation 或 BIC，但未给出理论保证。这是 sieve estimation 的经典遗留问题：adaptive choice of sieve dimension。

4. 计算复杂度与高维推广：

   • 问题：当协变量维数 \(p\) 较大时，似然函数的优化是否可行？
   • 扎根点：本文假设 \(p\) 固定。若 \(p\) 随 \(n\) 增长，甚至 \(p \gg n\)，Enriched Laplace 的参数量（\(K + p\)）会急剧增加。结合您的高维统计背景，这是一个潜在的拓展方向：高维区间删失分位数回归。

---

Maintained by 陈星宇 · Homepage · Source on GitHub

评论