跳转至

Functional post-clustering selective inference with applications to EHR data analysis

作者: Zihan Zhu, Xin Gai, Anru R. Zhang
来源: Electronic Journal of Statistics
主题: 数理统计 / 假设检验
相关性: 5/10
机构绿灯: University of Pennsylvania(US News 前 50,免分进入精读)
链接: 期刊页 · arXiv


一、领域脉络与小综述

这个方向是什么

本文所处的方向是选择性推断(selective inference),其根本统计问题是:当假设(hypothesis)本身是由数据驱动产生时(例如先聚类、再对聚类结果做组间均值差异检验),如何构造在条件于选择事件下仍然有效的推断过程。经典频率学派推断要求假设先于数据固定;一旦"看了数据再提问",naive 检验的 I 类错误就会膨胀。该子方向的核心目标是在承认选择发生的前提下,构造条件推断程序,使得条件 I 类错误(selective type-I error)得到控制。当前该领域在横截面数据(向量观测)上已相当成熟,但向函数型数据(functional data)、特别是纵向电子健康记录(EHR)数据的推广仍处于早期阶段——这正是本文的切入点。

发展脉络(history)

  • 奠基工作:选择性推断的现代框架可追溯到 Berk et al. (2013)("Valid post-selection inference",《Annals of Statistics》)与 Lee et al. (2016)("Exact post-selection inference, with application to the Lasso",《Annals of Statistics》)。这两篇确立了"以选择事件为条件"的核心范式:将选择事件刻画为观测空间中的一个几何区域(如多面体),再推导检验统计量在该区域上的条件零分布。Fithian et al. (2014)("Optimal inference after model selection",arXiv:1410.2597)进一步给出了最优性理论,指出条件推断在特定意义下是幂最高的有效程序。
  • 向聚类问题的推广:Gao, Bien & Witten (2024)("Selective inference for hierarchical clustering",JASA)将选择性推断从回归推广到无监督设定——聚类本身是一种数据驱动的假设生成,因此聚类后的组间检验同样需要条件校正。该文处理的是横截面向量数据,假设协方差为已知的缩放单位阵(或可估计的 σ²I),并利用聚类事件的多面体刻画导出截断正态/卡方分布。Chen & Gao (2023)(arXiv:2311.16375)进一步处理了单特征(single feature)情形下的聚类后推断。
  • 向函数型数据的延伸:函数型数据的均值检验本身已有成熟工具(Zhang & Chen 2007;Qiu, Chen & Zhang 2021),但这些方法均假设分组是先验固定的。Hivert et al. (2022)(arXiv:2210.13172)讨论了聚类后差异检验的实际问题,但未提供严格的条件推断框架。Yun & Barber (2023)(arXiv:2301.12999)处理了协方差未知时的聚类后推断,但仍在向量设定下。本文的位置:首次将选择性推断框架推广到多特征函数型数据,允许缺失值、不规则观测时间,并通过矩阵正态分布与核嵌入处理连续函数结构。

子线索聚类

  1. 回归/变量选择后的选择性推断:Tibshirani et al. (2016)、Lee et al. (2016)、Taylor & Tibshirani (2018)。核心工具是多面体引理(polyhedral lemma),适用于 Lasso、前向逐步回归等。
  2. 聚类后的选择性推断:Gao et al. (2024)、Chen & Gao (2023)、Yun & Barber (2023)。核心挑战是聚类事件区域的几何刻画,通常需要借助树结构(层次聚类)或 K-means 的 Voronoi 区域。
  3. 变点检测后的选择性推断:Hyun et al. (2021)、Jewell et al. (2022)。与聚类类似,变点位置是数据驱动的,检验"该处是否有均值变化"需要条件校正。
  4. 函数型数据推断:Zhang & Chen (2007)、Qiu et al. (2021)。关注函数型均值、协方差估计与检验,但通常假设分组固定。
  5. EHR 纵向聚类应用:Manzini et al. (2022)、Ramaswamy et al. (2021)、Lou et al. (2021)、Zeldow et al. (2021)。这些工作将聚类用于疾病亚型发现,但后续的组间比较均使用 naive 检验,未校正选择偏差——这正是本文要填补的缺口。

这个方向在追问的核心问题

  1. 如何刻画聚类选择事件? 对于给定的聚类算法(层次聚类、K-means),选择事件 {C₁, C₂} 在观测空间中的几何区域是什么?能否用有限个不等式(多面体)描述?
  2. 如何条件化推断? 给定选择事件后,检验统计量的条件零分布是什么?在函数型数据中,由于观测是高维/无穷维的,直接推广多面体引理需要新的技术工具。
  3. 协方差未知时如何处理? 横截面设定中常假设 σ²I 或已知协方差;函数型数据中协方差是函数协方差算子,估计与条件化之间的依赖如何解耦?
  4. 缺失数据与不规则观测如何处理? EHR 数据天然存在稀疏、不规则采样,这使传统的函数型主成分分析(FPCA)需要与选择性推断框架整合。

⚠️ 作者的 framing(这是作者的说法)

作者将缺口 frame 为:"现有选择性推断方法主要针对向量数据,无法直接处理 EHR 中常见的函数型纵向数据(多特征、缺失值、不规则观测)。" 他们声称本文的贡献在于:(i) 提出 PSIMF 框架,将选择性推断从向量推广到张量/函数型数据;(ii) 通过核嵌入与矩阵正态假设,同时处理多特征与缺失值;(iii) 给出选择性 I 类错误与 II 类错误的显式上界。作者淡化了以下竞争路线:Yun & Barber (2023) 已处理协方差未知的聚类后推断(但限于向量);Hivert et al. (2022) 已讨论函数型聚类后检验的实际问题(但无严格条件推断)。作者将这些工作定位为"不同设定下的补充"而非"直接竞争者"。

张力

未见明显对立引用。但存在一个值得注意的方法选择张力:Gao et al. (2024) 的框架依赖层次聚类的树结构来刻画选择事件,而本文在数值实验中使用 K-means 类算法(基于距离的划分)。作者声称框架对"满足一定正则条件的聚类算法"适用,但并未给出 K-means 选择事件的显式几何刻画——这是理论证明与数值实现之间的潜在缝隙。


二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据

观测数据:设有 n 个受试者,每个受试者 i 有 m 个特征(如不同的实验室指标),每个特征 j 在若干时间点上有观测值。记第 i 个受试者第 j 个特征的第 k 个观测为 W_ij(t_ijk),其中 t_ijk 是观测时间,r_ij 是观测次数。实际可观测的是:{W_ij(t_ijk) : i ∈ [n], j ∈ [m], k ∈ [r_ij]},以及对应的时间点集合 Ω_ij = {t_ijk}。

潜在结构(不可直接观测): - Z_i = (Z_i1, ..., Z_im) 是第 i 个受试者的潜在函数型过程,服从多变量高斯过程:Z_i ~ MGP(μ_i, R),其中 μ_i = (μ_i1, ..., μ_im) 是均值函数向量,R = (R_j1j2) 是协方差函数矩阵。 - ϵ_ijk ~ N(0, σ_j²) 是独立观测噪声。

数据生成模型(本文 Assumption 1): W_ij(t_ijk) = Z_ij(t_ijk) + ϵ_ijk,且 Z_i 与 ϵ_ijk 独立。

关键参数 / 估计目标: - μ_i = (μ_ij){j∈[m]}:第 i 个受试者的均值函数向量(潜在)。 - R:协方差函数(跨特征、跨时间)。 - σ_j²:第 j 个特征的噪声方差。 - 聚类算法 C(·) 作用于观测 W(或嵌入后的张量),输出划分 {C₁, C₂}。 - 推断目标:给定聚类输出 {C₁, C₂},检验 H₀^{{C₁,C₂}} : μ{C₁} = μ_{C₂} 对 H₁^{{C₁,C₂}} : μ_{C₁} ≠ μ_{C₂}, 其中 μ_{C_k} := ∑_{i∈C_k} μ_i / |C_k| 是第 k 个簇的均值函数。

嵌入与张量化:选择 q 个基函数 {φ_s}{s∈[q]}(如特征函数或 B 样条),对每个受试者 i、特征 j 做岭回归: α_ij = (K_ij + λI_q)^{-1} Φ_ij (W_ij(t_ijk)){k∈[r_ij]}, 其中 K_ij = Φ_ij Φ_ij^T ∈ R^{q×q},Φ_ij = (φ_s(t_ijk))_{s∈[q], k∈[r_ij]} ∈ R^{q×r_ij}。 于是每个受试者 i 被表示为一个 m×q 矩阵 X_i = (α_i1, ..., α_im)^T ∈ R^{m×q}。整个数据集被张量化为 X ∈ R^{n×m×q}。

关键记号: - vec(X_i) ∈ R^{mq}:将 X_i 向量化。 - Λ^{(i)} = D_i [Σ^{(i)}1 + Σ^{(i)}2] D_i^T:嵌入后 X_i 的协方差矩阵,其中 D_i = diag((K_ij + λI_q)^{-1} Φ_ij){j∈[m]},Σ^{(i)}1 是 Z_i 在观测时间上的协方差,Σ^{(i)}2 = diag(σ_j² I{r_ij})。 - L(W) ∈ R^{n×m×q}:白化后的张量,vec(L(W)[i,:,:]) = Λ^{-1/2}{(i)} vec(X_i)。 - ν(C₁,C₂) ∈ R^n:对比向量,ν_i = 1/|C₁|(若 i ∈ C₁),-1/|C₂|(若 i ∈ C₂)。 - 检验统计量:T = ‖L(W){C₁} - L(W){C₂}‖F,其中 L(W){C_k} = ∑{i∈C_k} L(W)[i,:,:] / |C_k|。

第二步:最小内核

剥掉所有一般性设定后,本文的核心数学问题退化为:

最小问题:设 X_1, ..., X_n ~ N(μ_i, Σ) 独立,Σ 已知。用 K-means(或层次聚类)将 n 个点聚成两类,得到划分 {C₁, C₂}。定义对比向量 ν = ν(C₁,C₂),检验统计量 T = ‖∑{i∈C₁} X_i/|C₁| - ∑{i∈C₂} X_i/|C₂|‖。问:在条件于"聚类算法输出恰好为 {C₁, C₂}"这一事件下,T 的分布是什么?

为什么 naive 检验失效:在零假设 μ_{C₁} = μ_{C₂} 下,T² 的无条件分布是 (1/|C₁| + 1/|C₂|)·Σ 的缩放 χ²_mq。但聚类算法刻意最大化簇间距离,因此条件于选择事件后,T 的观测值系统性偏大,naive χ² 分位数给出的 p 值偏小,I 类错误膨胀。图 1 展示了这一现象:在完全零假设下(所有 μ_i = 0),naive Wald 检验的 p 值严重偏离均匀分布,大量堆积在 0 附近。

本文的核心思想(一句话):将选择事件 {C₁, C₂} 刻画为观测空间中的一个区域 S,然后计算 T 在"T 的取值落在 S 中"这一条件下的条件分布。由于嵌入与白化后,L(W) 的条目是联合高斯的,且 T 只依赖于簇均值差的方向和长度,条件分布可以分解为: - 方向:均匀分布在单位球面上(与选择事件独立,由高斯旋转对称性); - 长度:截断 χ 分布,截断区间由 S 的几何形状决定。

关键步骤: 1. 嵌入:通过岭回归将不规则采样的函数型数据映射到 q 维系数空间,保持高斯性(Lemma 1)。 2. 白化:用估计的协方差 Λ 做线性变换,使 L(W) 的条目在零假设下为 i.i.d. 标准正态(近似)。 3. 选择事件刻画:对层次聚类,{C₁, C₂} 事件等价于树状图中某个合并高度低于所有其他合并高度;对 K-means,等价于 Voronoi 区域的交集。本文证明(Lemma 2),在正交分解下,选择事件只约束 T 的长度,不约束方向。 4. 条件 p 值:p_selective = P(T ≥ t_obs | T ∈ S) = 截断 χ 分布的生存函数,其中截断区间 S 通过蒙特卡洛采样近似。

为什么这个最小内核是"整篇论文的骨架":所有后续技术——协方差估计、缺失值插补、多特征张量化、I 类/II 类错误上界——都是在为这个最小问题服务:让"嵌入→白化→条件化"的链条在更现实的 EHR 数据设定下依然成立。


三、这篇论文做了什么

三句话

  1. 研究了什么问题:在 EHR 纵向数据中,先对患者轨迹聚类、再检验簇间均值差异时,如何校正聚类带来的选择偏差,使得 I 类错误得到控制。
  2. 核心工具 / 方法:将函数型数据通过岭回归嵌入到低维系数空间,形成三阶张量;假设张量服从矩阵正态分布,用样本协方差做白化变换;基于正交分解将选择事件简化为对检验统计量长度的截断,构造条件 p 值(PSIMF)。
  3. 主要结论:在零假设下,PSIMF 的选择性 I 类错误被控制在名义水平 α 以内(Theorem 4.1);在备择假设下,当簇间差异趋于无穷时,检验功效趋于 1(Theorem 4.2);模拟和 MIMIC-IV 急性肾损伤数据验证了方法的有效性。

关键设定与假设

  • Assumption 1(分布假设):W_ij(t) = Z_ij(t) + ϵ_ijk,Z_i ~ MGP(μ_i, R),ϵ_ijk ~ N(0, σ_j²),Z_i 与 ϵ 独立,μ_i 和 R 均为 Lipschitz 连续。统计含义:这是函数型数据的高斯过程模型,Lipschitz 连续性用于保证岭回归嵌入的渐近性质。相比 Gao et al. (2024) 的横截面假设,这里允许每个受试者的观测时间不同、且有缺失。
  • 聚类算法:本文不限定具体算法,但要求聚类输出可表示为对观测的确定性函数 C(·),且满足一定的"正则条件"(论文未显式列出,仅在 Theorem 4.1 的证明中用到选择事件的可测性)。相比已有文献:Gao et al. (2024) 针对层次聚类给出了精确的多面体刻画;本文的框架更一般,但代价是选择事件只能通过蒙特卡洛近似。
  • 协方差结构:假设嵌入后的系数张量 X_i 服从矩阵正态分布 MN(M_i, Σ_row, Σ_col),即行协方差和列协方差可分离。统计含义:这是对函数型协方差的一种简化,使白化变换可行。相比 Tsiligkaridis & Hero (2013) 的可分离协方差估计,本文直接用样本协方差,并证明其在零假设下一致(Lemma 1 的推论)。
  • 工作假设(working assumption):同一簇内所有受试者有相同的均值函数 μ_{C_k}。作者明确承认这是"工作假设"而非聚类算法的保证性质,并在第 5 节的敏感性分析中考察了该假设被违反时的表现。

主要结果

Theorem 4.1(选择性 I 类错误控制):在零假设 H₀^{{C₁,C₂}} 下,对任意 α ∈ [0,1], P(p_selective ≤ α | C₁,C₂ ∈ C(L(W))) = α。 证明路线: 1. 由 Lemma 1,vec(L(W)[i,:,:]) ~ N(Λ^{-1/2} vec(β^{(i)}), I_mq)(渐近)。 2. 定义 T = ‖L(W){C₁} - L(W){C₂}‖_F。在零假设下,T² 的分布为 (1/|C₁| + 1/|C₂|)·χ²_mq。 3. 关键引理(Lemma 3):选择事件 {C₁,C₂ ∈ C(L(W))} 在正交分解下等价于 T ∈ S(w;C₁,C₂),其中 S 只依赖于 T 的长度,不依赖于方向。证明思路:将 L(W) 分解为"簇均值差方向"和"正交补",聚类算法的决策只取决于前者的大小(距离度量),不取决于方向。 4. 因此,条件分布 = 截断 χ 分布,截断区间为 S。p_selective 定义为该截断分布的生存函数,故条件均匀。

Theorem 4.2(功效趋于 1):在备择假设下,若 ‖μ_{C₁} - μ_{C₂}‖_∞ → ∞,则 lim P(p_selective ≤ α | C₁,C₂ ∈ C(L(W))) = 1。 证明路线: 1. 由 Lemma 1 的渐近正态性,T 在备择假设下以概率趋于无穷。 2. 需要 Assumption (ii):选择事件 S 的下确界趋于 0(即当簇间差异很大时,聚类算法几乎必然输出相同的划分,且选择事件不排除小的 T 值)。 3. 结合截断 χ 分布的性质:当观测到的 T 趋于无穷时,截断生存函数趋于 0,故 p_selective 趋于 0,功效趋于 1。

技术技巧点名: - 岭回归嵌入(Ridge regression embedding):用 (K_ij + λI)^{-1} Φ_ij 将不规则采样的函数型数据映射到 q 维系数空间。作用:将连续函数转化为有限维向量,同时保持高斯性(线性变换)。技巧点:λ 的选择平衡偏差与方差,本文在模拟中使用 λ = 10^{-7}。 - 矩阵正态分布假设:将 m 个特征的系数矩阵视为矩阵正态,利用 Kronecker 结构分解协方差。作用:使白化变换可行,且样本协方差估计量在 n → ∞ 时一致。 - 正交分解(Lemma 2):将张量分解为簇均值差方向与正交补,证明选择事件只约束前者。这是整个条件推断可行性的核心。 - 蒙特卡洛近似:由于选择事件 S 的解析表达式通常不可得(尤其对 K-means),本文用采样近似截断区间。技巧点:重要性采样,提议分布取 N(‖L(w){C₁} - L(w){C₂}‖_F, 1/|C₁| + 1/|C₂|),权重为 χ² 密度比。

真实例子与应用

数据:MIMIC-IV 数据库(Johnson et al., 2023),包含 2008–2019 年 Beth Israel Deaconess 医疗中心 ICU 患者的去标识化 EHR 数据。聚焦急性肾损伤(AKI)患者,使用血清肌酐(serum creatinine)轨迹作为功能型观测。

分析流程: 1. 根据 KDIGO 标准定义 AKI 分期(1/2/3 期),选取 7 天内的肌酐测量值。 2. 对每个患者,用 3 个高斯 RBF 特征函数做岭回归嵌入,得到 3 维系数向量(m=1 特征,q=3)。 3. 用层次聚类(Ward 连接)将患者聚为 2 类。 4. 对聚类输出的两个簇,用 PSIMF 检验"两簇的平均肌酐轨迹是否有差异"。

结果(Table 1): - 单簇内(如仅 S1 患者):PSIMF p 值较高(0.207–0.903),不拒绝零假设,说明簇内无异质性。 - 跨簇组合(如 S1 vs S3-1):PSIMF p 值较低(0.0095、0.0254),拒绝零假设,说明这些 AKI 分期之间存在显著的轨迹差异。 - 对比:naive Wald 检验在所有组合下 p 值均 < 10⁻³⁰⁷,严重膨胀;PSIMF 的 p 值更保守,与临床预期一致。

这个例子想说明什么:PSIMF 能在校正聚类选择偏差后,仍然检测到临床上合理的差异(S1 与 S3 的肌酐轨迹确实不同),同时避免 naive 检验的虚假发现(同一分期内的"差异"被正确识别为噪声)。

🔎 结论是否比证明窄

是,存在明显差距: 1. Theorem 4.1 的证明依赖"选择事件只约束长度"这一关键引理(Lemma 3),但该引理只在"聚类算法基于欧氏距离"时成立。论文在数值实验中使用了 Ward 层次聚类(基于平方欧氏距离),但正文并未明确限定聚类算法的类别。对基于相关性的聚类或密度聚类,Lemma 3 是否成立未讨论。 2. Theorem 4.2 的 Assumption (ii) 是"存在性"假设而非可验证条件。论文没有给出任何具体聚类算法满足该假设的证明,只在脚注中声称"对常见算法成立"。这意味着功效定理的实际适用范围不明确。 3. 协方差估计的一致性只在 n → ∞ 且 r_ij → ∞ 时证明(Lemma 1(II)),但有限样本下协方差估计误差对选择性 I 类错误的影响未分析。论文在模拟中固定 r_ij = 15,未考察 r_ij 较小时的表现。 4. "工作假设"(簇内均值相同)在真实数据中几乎必然违反,论文仅用敏感性分析(Table 3)说明"经验上稳健",但没有理论保证。作者在 Discussion 中承认这一点,但未给出修正方法。


四、开放问题

  1. 多簇(K > 2)情形的选择性推断。本文的框架严格限定于两簇对比(K = 2)。作者在 Section 6 提到"递归二分"作为多簇的实用策略,但递归会引入多重选择事件,其联合条件分布如何刻画?这直接关系到"先聚类出多个亚型、再逐一检验"这一更现实的 EHR 分析流程的统计有效性。

  2. 协方差未知且估计误差不可忽略时的有限样本校正。Theorem 4.1 的证明假设 Λ 已知或可一致估计。当 n 中等、r_ij 较小时,样本协方差的误差会通过白化变换传播到检验统计量。能否构造类似 t 分布的自由度校正,或采用 bootstrap 校准?

  3. 聚类算法选择事件的一般刻画。本文的核心引理(Lemma 3)依赖距离度量的几何性质。对基于密度、连通性或模型似然的聚类算法,选择事件能否用有限个不等式描述?若不能,是否存在替代的条件化策略(如 data splitting 或 randomization)?

  4. "簇内均值相同"假设的放松。当簇内存在系统性的个体异质性(如不同的疾病进展速度)时,本文的检验统计量是否仍然有效?能否将检验目标从"均值函数相等"推广为"均值函数成比例"或"经过时间变换后相等"?

  5. 缺失数据机制的影响。本文的嵌入方法假设观测时间点 t_ijk 与潜在过程独立(即缺失完全随机)。但 EHR 中就诊时间往往与病情严重程度相关(信息性缺失)。这种依赖会如何影响嵌入系数的分布和选择性 I 类错误?

  6. 功效定理中 Assumption (ii) 的可验证条件。能否给出具体聚类算法(如 Ward、K-means)满足该假设的充分条件?这需要分析聚类事件 S 的几何边界随簇间距离的渐近行为。


提示:若要确认上述某条是否为真 gap,建议去读以下近期工作的引言部分(约 5 篇):Yun & Barber (2023)、Chen & Gao (2023)、Hivert et al. (2022)、以及选择性推断在变点检测中的应用(Hyun et al., 2021; Jewell et al., 2022)。如果这些工作的引言都指向同一个未解决问题,那大概率是共识性 gap;如果它们各说各话、甚至给出相反结论,那更可能是机会所在。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论