跳转至

Two Sample Testing for High-dimensional Functional Data: A Multi-Resolution Projection Method

作者: Shouxia Wang, Jiguo Cao, Hua Liu, Jinhong You, Jicai Liu
来源: Statistica Sinica
主题: 数理统计 / 假设检验
相关性: 7/10
链接: 期刊页 · arXiv


一、领域脉络与小综述

这个方向是什么

本文所研究的核心问题是高维函数型数据的两样本均值检验:当每个样本都是一个 \(p\) 维函数(即 \(p\) 条定义在连续域上的曲线)时,如何检验两组样本的均值函数是否相等。这里的"高维"指的是函数维度 \(p\) 随样本量 \(n\) 增大而趋于无穷,这与经典函数型数据分析(FDA)中 \(p\) 固定或远小于 \(n\) 的设定有本质区别。该问题的统计挑战在于:函数型数据的无穷维特性使得传统的 Hotelling \(T^2\) 检验(需要协方差矩阵可逆)在高维下完全失效,而直接对函数做逐点检验又无法控制多重比较的累积误差。该方向当前处于快速发展但尚未成熟的阶段——据作者所述,已有文献对高维向量数据的均值检验研究充分,但对高维函数型数据的检验"几乎没有"(作者原话:"no method has been developed for testing the equality of the means for high-dimensional functional data")。

发展脉络

奠基工作:高维向量均值检验的兴起。 该方向的源头可追溯至 Bai and Saranadasa (1996) 的开创性工作,他们首次指出经典 Hotelling \(T^2\) 检验在"大 \(p\) 小 \(n\)"情形下因样本协方差矩阵奇异而失效,并提出基于平方和的检验统计量。Chen and Qin (2010) 在此基础上做了关键改进,提出不显式估计协方差矩阵的 \(U\)-统计量型检验,避免了维数灾难。这两篇工作奠定了高维均值检验的基本范式:构造一个对协方差结构不敏感(或仅依赖其迹)的二次型统计量,利用 martingale 中心极限定理建立渐近正态性。本文的 MRP 统计量在结构上正是这一范式的函数型推广。

主要进展:投影技术的引入。 针对高维检验中"信号稀疏且方向未知"的困难,投影方法成为重要工具。Liu et al. (2021) 提出多重分割投影检验(MPT),通过数据分割估计最优投影方向以避免 type I error 膨胀;Jiang et al. (2022) 提出随机积分方法,将高维均值差投影到随机方向上,统一了平方和型与最大值型统计量。这些工作的共同思路是:将高维问题通过投影降为一维,再对一维投影值构造经典检验。本文的多分辨率投影正是这一思路的延伸,但关键区别在于投影对象从向量变为函数。

当前 frontier:函数型数据的检验问题。 在函数型数据领域,Horváth et al. (2013) 提出了基于均值函数正交投影的检验统计量,但仅适用于 \(p=1\) 的单一函数。Qiu et al. (2021) 首次将检验推广到多元函数型数据,提出两个 Hotelling \(T^2\) 型全局统计量 \(T_n\) 和 \(T_{n,\max}\),但作者明确指出该方法"利用样本协方差函数的逆",在高维下因协方差算子不可逆而失效。Wynne and Duncan (2022) 和 Zhu and Wang (2023) 则转向分布检验(而非均值检验),分别用核方法和能量距离处理函数型数据的同质性检验,但前者要求密集观测,后者虽能处理稀疏数据却只检验边际分布而非联合分布。本文的定位正是在 Qiu et al. (2021) 留下的缺口上:保留均值检验的目标,但通过多分辨率投影绕开协方差逆的估计。

子线索聚类

  1. 高维向量均值检验(Bai and Saranadasa 1996; Chen and Qin 2010; Cai et al. 2014; Kim et al. 2022; Jiang et al. 2022; Liu et al. 2021):核心问题是构造不依赖协方差逆的检验统计量,主要技术手段包括 \(U\)-统计量、投影、随机积分。这条线索是本文方法的直接理论来源。

  2. 函数型数据均值推断(Horváth and Kokoszka 2012; Horváth et al. 2013; Qiu et al. 2021):核心问题是利用函数的光滑性构造检验,主要技术手段包括函数主成分分析、正交投影、Hotelling \(T^2\) 型统计量。这条线索是本文的应用场景来源。

  3. 函数型数据分布检验(Wynne and Duncan 2022; Zhu and Wang 2023):核心问题是检验两组函数样本是否来自同一分布,主要技术手段包括最大均值差异(MMD)、能量距离。这条线索与本文目标不同(分布 vs 均值),但构成了竞争性的替代方案。

核心问题与已知瓶颈

  • 问题 1:如何在高维下构造对协方差结构稳健的检验统计量? 已知瓶颈:协方差算子在高维下不可逆,导致 Hotelling \(T^2\) 型统计量失效(Qiu et al. 2021 的 \(T_n\) 和 \(T_{n,\max}\) 均因此在高维下 size 失真)。
  • 问题 2:如何利用函数型数据的光滑性提升检验功效? 已知瓶颈:简单地将每个时间点视为独立维度会忽略函数的光滑结构,导致功效损失;但显式建模光滑性又需要额外的调参。
  • 问题 3:如何处理实际中函数观测的离散性和异步性? 已知瓶颈:Zhu and Wang (2023) 指出稀疏观测下同质性检验本质上困难,而本文处理的密集观测虽可重构,但重构误差对检验的影响缺乏理论保证。

⚠️ 作者的 framing

作者将缺口 frame 成:"现有高维均值检验方法(Chen and Qin 2010 等)仅适用于向量数据,而现有函数型数据检验方法(Qiu et al. 2021 等)仅适用于低维情形,因此高维函数型数据的均值检验是一个空白。" 这一 framing 隐含的假设是:高维函数型数据可以自然地分解为"高维"和"函数型"两个维度,分别继承两条文献线的技术。作者淡化的竞争路线包括:(i) 分布检验方法(Wynne and Duncan 2022; Zhu and Wang 2023)——作者仅将其作为"未来方向"提及,未在模拟中作为对手比较;(ii) 基于函数主成分的降维方法——作者未讨论若函数本身具有低维结构(如稀疏主成分),是否可以用更少的投影方向达到更高功效。

张力

未见明显对立引用。但值得注意的是,Jiang et al. (2022) 的随机积分框架声称"统一"了平方和型与最大值型统计量,而本文的多分辨率投影在思想上与随机积分高度相似(都是对方向积分),却未引用 Jiang et al. (2022) 的框架来定位自己的贡献——这可能是一个值得查证的遗漏或有意回避。


二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据

符号清单(按本文出现顺序):

符号 含义 类型
\(X(t) = (X_1(t), \ldots, X_p(t))^T\) 第一组 \(p\) 维随机函数 随机变量(函数值)
\(Y(t) = (Y_1(t), \ldots, Y_p(t))^T\) 第二组 \(p\) 维随机函数 随机变量(函数值)
\(\mu_1(t) = E\{X(t)\}\) 第一组均值函数 参数(待检验对象)
\(\mu_2(t) = E\{Y(t)\}\) 第二组均值函数 参数(待检验对象)
\(G_1(s,t) = \text{Cov}\{X(s), X(t)\}\) 第一组协方差函数 参数( nuisance)
\(G_2(s,t) = \text{Cov}\{Y(s), Y(t)\}\) 第二组协方差函数 参数( nuisance)
\(\{X_i(t)\}_{i=1}^n\) 第一组样本 可观测数据
\(\{Y_j(t)\}_{j=1}^m\) 第二组样本 可观测数据
\(p\) 函数维度 指标(趋于无穷)
\(n, m\) 样本量 指标(趋于无穷)
\(\alpha = (\alpha_1, \ldots, \alpha_p)^T\) 方向向量(第一层投影) 辅助量
\(\gamma(t)\) 函数方向(第二层投影) 辅助量
\(v(s,t)\) 协方差函数(用于加权) 辅助量(已知或可估计)

模型设定:

  • 数据生成:\(\{X_i(t)\}_{i=1}^n \sim\) 独立同分布,均值为 \(\mu_1(t)\),协方差函数为 \(G_1(s,t)\);\(\{Y_j(t)\}_{j=1}^m \sim\) 独立同分布,均值为 \(\mu_2(t)\),协方差函数为 \(G_2(s,t)\)。两组独立。
  • 检验问题:\(H_0: \mu_1(t) = \mu_2(t), \forall t \in [0,1]\) 对 \(H_1: \mu_1(t) \neq \mu_2(t)\) 对某个 \(t\)。
  • 高维设定:\(p \to \infty\),\(n, m \to \infty\),且 \(p\) 与 \(n, m\) 的相对增长速度受条件 (C4) 约束。
  • 函数型设定:每个分量 \(X_{ik}(t)\) 是 \([0,1]\) 上的平方可积函数,观测在离散网格 \(\{t_1, \ldots, t_N\}\) 上,且不同曲线、不同分量的观测网格可以不同(异步观测)。

可观测数据:实际观测到的是离散化的函数值 \(\{X_{ik}(t_{ik\ell})\}\) 和 \(\{Y_{jk}(t_{jk\ell})\}\),其中 \(t_{ik\ell}\) 是第 \(i\) 个样本第 \(k\) 个分量在第 \(\ell\) 个观测点的位置。关键点:研究者无法直接观测到连续函数 \(X_{ik}(t)\),只能通过重构(如 B-spline)得到 \(\hat{X}_{ik}(t)\)。因此,检验统计量实际上基于重构后的函数,重构误差必须被纳入理论分析——这正是本文定理 10 的核心内容。

第二步:最小内核

最小内核:考虑最简单的设定——\(p=1\)(单一函数)、\(n=m\)、函数在相同网格上密集观测、无重构误差(即直接观测到连续函数)。在这个设定下,本文的方法退化为:

  1. 第一层投影:将一维函数 \(X_i(t)\) 投影到方向 \(\gamma(t)\) 上,得到标量 \(\langle X_i, \gamma \rangle = \int_0^1 X_i(t)\gamma(t)dt\)。由于 \(p=1\),第一层投影 \(\alpha\) 退化为常数 1,不起作用。
  2. 第二层投影:对投影后的标量,构造两组样本均值差的平方 \((\bar{Z}_1 - \bar{Z}_2)^2\),其中 \(\bar{Z}_1 = \frac{1}{n}\sum_i \langle X_i, \gamma \rangle\),\(\bar{Z}_2 = \frac{1}{m}\sum_j \langle Y_j, \gamma \rangle\)。
  3. 多分辨率:对多个不同的方向 \(\gamma_1, \ldots, \gamma_K\) 重复上述过程,将结果加权求和。

要证明的命题(在 \(p=1\) 特例下):当 \(n, m \to \infty\) 时,

\[\frac{\widehat{\text{MRP}}(X,Y) - \text{MRP}(X,Y)}{\hat{\sigma}_{nm}(X,Y)} \xrightarrow{D} N(0,1).\]

为什么成立:关键在于 \(\widehat{\text{MRP}}(X,Y)\) 可以分解为 \(U\)-统计量(或 \(V\)-统计量)的和。具体地,定义核函数 \(h(x_1, x_2; y_1, y_2) = \int_0^1\int_0^1 (x_1(s)-y_1(s))^T(x_2(t)-y_2(t)) v(s,t) ds dt\),则 \(\widehat{\text{MRP}}\) 是四阶 \(U\)-统计量。利用 Hoeffding 分解,将其投影到单变量子空间上,得到主导项是独立随机变量的和,从而可以用经典的中心极限定理(或 martingale CLT,如 Hall and Heyde 1980)。难点在于:当 \(p \to \infty\) 时,\(U\)-统计量的退化性(degeneracy)会改变渐近方差的阶,需要条件 (C4) 来控制交叉矩项的贡献。

这个最小内核揭示了本文方法的本质:它不是对高维函数直接做检验,而是通过双重投影将高维函数检验转化为一维标量检验的加权组合。第一层投影(\(\alpha\))处理"高维"——将 \(p\) 维函数压缩为标量;第二层投影(\(\gamma\))处理"函数型"——将连续函数压缩为标量。多分辨率体现在对多个 \((\alpha, \gamma)\) 组合的聚合上。因此,本文的方法论贡献在于将两条文献线(高维向量检验和函数型数据检验)的技术通过投影机制有机整合。


三、这篇论文做了什么

三句话

  1. 研究了什么问题:在高维函数型数据(\(p \to \infty\))下,如何检验两组样本的均值函数是否相等,这是现有文献尚未解决的空白。
  2. 核心工具/方法:提出多分辨率投影(MRP)方法,通过双重投影(先投影到 \(p\) 维向量空间的方向 \(\alpha\),再投影到函数空间的方向 \(\gamma\))将高维函数检验转化为一维标量检验的加权组合,并构造 \(U\)-统计量型的检验统计量。
  3. 主要结论:建立了检验统计量在零假设下的渐近正态性(定理 4),证明了方差估计量的一致性(定理 6),并理论刻画了函数重构对检验的影响(定理 10)——重构后的检验统计量与基于真实函数的统计量具有相同的渐近分布,只要重构误差满足条件 (C5)。

关键设定与假设

  • 条件 (C1):一般多元函数型模型 \(X_j(t) = \mu_1(t) + \Gamma_1(t)Z_{1j}(t)\),其中 \(Z_{1j}(t)\) 是 \(d\) 维随机函数,满足 \(\Gamma_1(t)\Gamma_1^T(t) = G_1(t,t)\)。这本质上是函数型主成分分解的推广,允许 \(d \geq p\)(即潜在因子数可以大于观测维度)。相比 Chen and Qin (2010) 的向量设定,这里将协方差结构推广到了函数空间。
  • 条件 (C2):\(n/(n+m) \to \tau \in (0,1)\),即两组样本量按比例增长,这是两样本检验的标准条件。
  • 条件 (C3):\(\text{IMD}(G_k, \mu_1, \mu_2) = o((n+m)^{-1}\text{ITR}(G_{12}, G_{12}))\)。这是局部备择假设条件,刻画了均值差相对于噪声的强度。它比固定备择假设更精细,允许检验统计量在备择下仍具有渐近正态性(只是均值偏移)。
  • 条件 (C4):交叉矩项的衰减条件,具体表现为 \(\int \cdots \int \text{tr}\{G_i(s,s_1)G_j(t,t_1)G_k(s_2,s_3)G_l(t_2,t_3)\} = o(\text{ITR}(G_{12},G_{12})^2)\)。这是高维设定下控制 \(U\)-统计量高阶项的关键,类似于 Chen and Qin (2010) 中对迹项的假设,但推广到了四阶矩。
  • 条件 (C5):重构误差条件,要求 \(\sum_{k=1}^p \int_0^1 E|\hat{X}_k(t) - X_k(t)| dt = o(\sigma_{nm}(X,Y))\)。这是本文相比纯理论工作(如 Horváth et al. 2013)的独特贡献——显式刻画了从离散观测重构函数对检验的影响。

相比已有文献的放宽/强化:相比 Qiu et al. (2021) 的 Hotelling \(T^2\) 型统计量,本文不要求协方差函数可逆,因此适用于 \(p > n\) 的高维情形;相比 Chen and Qin (2010) 的向量设定,本文允许每个分量是函数而非标量,且允许异步观测。但本文的代价是引入了额外的调参(投影方向 \(\alpha\) 和 \(\gamma\) 的分布选择),而 Chen and Qin (2010) 无需调参。

主要结果

定理 4(渐近正态性):在条件 (C1)-(C4) 下,\(\frac{\widehat{\text{MRP}}(X,Y) - \text{MRP}(X,Y)}{\sigma_{nm}(X,Y)} \xrightarrow{D} N(0,1)\)。证明路线如下:

  1. 分解:将 \(\widehat{\text{MRP}}(X,Y)\) 分解为 \(D_1 + D_2 + D_3\),分别对应组内 \(X\) 的 \(U\)-统计量、组内 \(Y\) 的 \(U\)-统计量、以及交叉项。
  2. Hoeffding 投影:对每个 \(U\)-统计量进行 Hoeffding 分解,提取主导的线性项(即投影到单变量子空间的部分)。
  3. martingale 结构:构造鞅差序列 \(\{V_j\}\)(附录中定义为 \(V_j = \sum_{i=1}^{j-1} \phi_{ij}\)),利用 Hall and Heyde (1980) 的 martingale CLT。
  4. 条件 (C4) 的作用:确保高阶项(四阶矩交叉项)相对于主导项可忽略,从而 \(\widehat{\text{MRP}}\) 的渐近分布由线性项决定。

定理 6(方差估计一致性):\(\hat{\sigma}^2_{nm}(X,Y)/\sigma^2_{nm}(X,Y) \xrightarrow{P} 1\)。证明思路是构造 \(\text{ITR}(G_k, G_j)\) 的无偏估计(通过 leave-out 技巧避免自交项),然后利用 \(U\)-统计量的大数定律。技术技巧:估计量中使用了 \(\bar{X}_{(j,k)}\)(删除第 \(j,k\) 个样本后的均值),这是为了避免 \(U\)-统计量方差估计中的偏差项,类似于 Chen and Qin (2010) 中的 leave-out 估计。

定理 10(重构不变性):在条件 (C5) 下,基于重构函数 \(\hat{X}, \hat{Y}\) 的检验统计量与基于真实函数的统计量具有相同的渐近分布。证明的关键在于将重构误差 \(\hat{X} - X\) 视为一个"扰动",并证明该扰动对统计量的影响是 \(o_p(\sigma_{nm}(X,Y))\)。技术技巧:使用了 B-spline 逼近的收敛速率(\(O(K^{-2})\),其中 \(K\) 是节点数),并结合条件 (C5) 的阶条件来控制累积误差。

真实例子:

  • 全球气候数据:NASA 提供的 RCP4.5 与 RCP8.5 情景下 360 个北极格点的温度/降水数据,时间跨度为 2020-2069 年。作者将每个格点视为一个函数维度(\(p=360\)),每年视为一个样本(\(n=m=50\)),每个样本是 365 天的日值曲线。检验结果显示:在 2020-2069 全时段,RCP4.5 与 RCP8.5 的日最高温、日最低温、降水量的函数均值均有显著差异(\(p\)-值分别为 \(4.01\times10^{-9}\)、\(4.54\times10^{-8}\)、\(1.85\times10^{-2}\));但将时段拆分为 2020-2044 与 2045-2069 后,前一时段差异不显著(\(p=0.63\)),后一时段差异极显著(\(p<10^{-16}\))。这个例子想说明:MRP 检验能够捕捉到均值差异的时间演化特征,且在高维(\(p=360\))下依然有效。
  • EEG 数据:UCI 的酒精中毒 EEG 数据集,77 名酗酒者与 45 名对照组,64 通道、256 时间点。作者将每个通道视为一个函数维度(\(p=64\)),每个受试者视为一个样本,检验两组 EEG 模式的函数均值是否不同。检验统计量为 4.680,\(p\)-值约 \(10^{-8}\),拒绝零假设。这个例子想说明:MRP 方法能处理中等维度(\(p=64\))且样本量不均衡(\(n=77, m=45\))的实际数据。

🔎 结论是否比证明窄

是,存在两处"证明窄于 claim"的情况:

  1. 定理 4 的证明仅覆盖了 \(p \to \infty\) 且 \(p\) 与 \(n,m\) 同阶的情形,但作者在摘要和引言中声称方法适用于"高维"函数型数据,未明确说明 \(p\) 的相对增长速度限制。条件 (C4) 实际上要求四阶矩交叉项相对于二阶项可忽略,这隐含了 \(p\) 不能增长太快(具体阶数取决于协方差函数的特征值衰减)。作者在正文中未给出 \(p\) 与 \(n\) 的显式关系,读者无法判断在 \(p \gg n\) 的极端高维下方法是否仍然有效。

  2. 定理 10 的证明假设了重构误差的 \(L_1\) 范数以 \(O(K^{-2})\) 速率收敛,但这一速率依赖于 B-spline 的光滑性假设(二阶可导)。若真实函数只有一阶可导(如尖峰函数),则重构误差的收敛速率会降为 \(O(K^{-1})\),条件 (C5) 可能不满足。作者在正文中未讨论这一鲁棒性问题。


四、开放问题

以下开放问题均扎根于本文的具体语句:

  1. 稀疏高维函数型数据的检验(扎根于 Conclusion 第一段:"An interesting future direction is to study the two-sample test for the sparse high-dimensional functional data")。作者明确将稀疏观测情形列为未来工作,但未讨论具体的技术障碍。从本文的理论框架看,稀疏观测下重构误差的 \(L_1\) 范数可能不再满足条件 (C5) 的阶条件,需要新的理论工具。

  2. 分布检验的推广(扎根于 Conclusion 第二段:"Using our multi-resolution projection technique to deal with this problem is also worthwhile to study")。作者提及将 MRP 技术推广到分布检验(而非仅均值检验),但未给出任何具体思路。从方法结构看,MRP 的双重投影框架天然适用于构造分布距离(如 MMD 的函数型推广),但需要处理投影方向的选择与核函数的构造。

  3. 投影方向 \(\alpha\) 和 \(\gamma\) 的最优选择(扎根于定理 3 后的讨论,作者仅说明"选择是灵活的"但未给出指导原则)。本文对投影方向的选择完全自由,但不同的选择会导致不同的检验功效。是否存在最优投影方向(如最大化信噪比的方向)是一个未解决的问题。

  4. 条件 (C4) 的显式刻画(扎根于定理 4 的证明,作者仅给出抽象的四阶矩条件)。作者未给出 \(p\) 与 \(n,m\) 的显式关系,也未讨论协方差函数特征值衰减速率对条件 (C4) 的影响。从随机矩阵理论的角度,这可能与 Marcenko-Pastur 定律或 Bai-Yin 定理有关,值得进一步探究。


提醒:若要确认上述开放问题是否为真 gap,建议去读以下近期文献的引言部分(各约 5 篇):(i) 高维函数型数据检验(2023-2025 年发表于 Journal of the American Statistical Association 和 Annals of Statistics 的相关论文);(ii) 稀疏函数型数据的非参数检验;(iii) 函数型数据的分布检验。若这些文献的引言都指向同一问题,则为共识性 gap;若互相矛盾,则可能是机会。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论