Approximating the null distribution of generalized distance covariance¶

作者: Dominic Edelmann
主题: 数理统计 / 假设检验
相关性: 7/10
链接: https://arxiv.org/abs/2608.23793

一、领域脉络与小综述¶

这个方向是什么¶

这个子方向解决的根本问题是：如何在不依赖计算昂贵的置换检验（permutation test）的前提下，对距离协方差（distance covariance）及其推广形式（包括 HSIC）进行快速且精确的独立性检验。距离协方差是衡量两个随机向量是否独立的一个非参数度量，其样本版本的计算复杂度为 O(n²)，而置换检验需要重复计算该统计量数千次，导致总复杂度 O(B n²)（B 为置换次数），在大样本或需要极低 p 值（如多重检验校正后）时变得不可行。因此，核心挑战是设计一个非蒙特卡洛的 p 值近似方法，使其在计算上高效（远低于 O(n³)），同时在尾部精度上可靠（即经验第一类错误率收敛到名义水平）。当前该方向的成熟度：已有多种矩匹配和简单参数族近似方法，但它们在尾部精度上存在系统性问题；本文提出的谱近似方法填补了理论严谨性的空白。

发展脉络¶

奠基工作：距离协方差的提出与极限分布（Székely, Rizzo & Bakirov, 2007）：定义了距离协方差和距离相关，证明了其零分布是加权卡方和，并给出了一个简单的渐近近似（SRB）。该近似被证明是保守的，且尾部精度有限。
统一框架：距离协方差与 RKHS 的等价性（Sejdinovic et al., 2013）：证明了距离协方差（使用负型距离）与 Hilbert-Schmidt 独立性准则（HSIC，使用正定核）在数学上等价。这一发现将两个独立发展的领域统一，使得 HSIC 的谱近似方法可以自然地迁移到距离协方差。
矩匹配方法的兴起（Berschneider & Böttcher, 2018; Huang & Huo, 2017; Shen, Panda & Vogelstein, 2019）：为替代置换检验，一系列基于矩匹配的方法被提出。BB2 和 BB3（Berschneider & Böttcher, 2018）分别使用 Gamma 分布和 Pearson III 型分布匹配前两阶或前三阶矩；SPV（Shen et al., 2019）提出卡方检验；Gamma（Huang & Huo, 2017）使用 Gamma 近似。这些方法计算快，但作者指出“these approximations can exhibit substantial discrepancies in the tails of the distribution”。
当前 frontier 与本文位置：尽管谱近似（直接使用经验特征值近似加权卡方和）在 HSIC 领域已有一些实现和部分结果（Gretton et al., 2009），但作者明确指出“a comprehensive theoretical justification of this approach is still lacking”。本文的定位是：首次为广义距离协方差的谱近似提供严格的、在温和且透明的假设下的理论证明，并在此基础上开发了自适应算法和收缩校正，以提升计算效率和精度。

子线索聚类¶

这些被引文献大致落在三条子线索上：

矩匹配与简单参数族近似：包括 Gamma（Huang & Huo, 2017）、BB2 和 BB3（Berschneider & Böttcher, 2018）、SPV（Shen et al., 2019）以及原始的 SRB（Székely et al., 2007）。这些方法的核心是：用某个已知分布（Gamma、卡方、Pearson III）来近似检验统计量的零分布，通过匹配样本矩来确定分布参数。优点是计算快（通常 O(n²) 或更低），缺点是尾部精度差，尤其在极小的名义水平下。
谱近似（直接近似极限分布）：包括 Gretton et al. (2009) 在 HSIC 上的部分结果，以及本文。核心思路是：直接利用双中心距离矩阵的经验特征值来构造加权卡方和，以此近似极限分布。优点是理论上可以收敛到真实极限分布，从而保证渐近有效性；缺点是计算全谱需要 O(n³)，且缺乏严格的理论证明（本文填补了这一空白）。
快速计算与降维：包括 Huo & Székely (2014) 的 O(n log n) 算法（仅适用于一元实值变量），以及 Huang & Huo (2017) 的随机投影方法（RPDC）。这些工作侧重于降低距离协方差统计量本身的计算复杂度，而非 p 值近似。本文的自适应特征值算法（Section 4.1）也属于这一线索，但它是为谱近似服务的。

这个方向在追问的核心问题¶

如何获得一个既渐近有效（经验第一类错误收敛到名义水平）又计算高效的 p 值近似？ 矩匹配方法（如 Gamma、BB2）虽然快，但尾部精度差，导致经验第一类错误不收敛；全谱近似理论上收敛，但 O(n³) 的计算成本过高。
谱近似的理论保证是什么？ 在什么条件下，经验特征值构造的加权卡方和能一致地逼近真实的极限分布？这需要处理经验谱的随机性、特征值估计的相合性，以及可测性和可分性等技术细节。
如何在不计算全谱的情况下，获得足够精确的 p 值？ 能否利用部分最大特征值来构造 p 值的上下界，并设计自适应算法在精度和计算量之间取得平衡？
如何校正有限样本偏差？ 经验特征值是总体特征值的有偏估计，这会导致基于谱近似的检验统计量的矩与真实有限样本矩不匹配。如何校正这种偏差以提升小样本性能？

⚠️ 作者的 framing¶

作者把缺口 frame 成什么：作者将缺口 frame 为“谱近似方法缺乏严格的理论证明”。在引言中，他明确指出“While several implementations of this idea have been proposed and partial results are available [7], a comprehensive theoretical justification of this approach is still lacking.” 这使得本文成为“显然的下一步”：先给出理论证明，再开发实用的算法。
哪些竞争路线被他淡化或回避了：作者淡化了矩匹配方法（如 Gamma、BB2、BB3、SPV）的实用性。虽然承认它们计算快，但通过模拟（Section 5.2）系统性地展示了它们在尾部（尤其是极小名义水平下）的严重问题：Gamma 极度反保守（type I error inflation up to a factor of 72.06），SPV 极度保守，BB3 虽然表现相对较好但仍有偏差。作者将矩匹配方法定位为“在需要快速筛选时可能有用”，但明确将谱近似定位为唯一在经验第一类错误收敛上表现稳定的非蒙特卡洛方法。
什么明显该被引 / 该存在、却没出现在 intro 里？ 本文的参考文献列表相对完整，覆盖了距离协方差和 HSIC 的主要发展。一个值得注意的缺失是：关于 degenerate U-statistics 极限分布的一般理论（如 Serfling 的 Approximation Theorems of Mathematical Statistics，或 van der Vaart 的 Asymptotic Statistics 中关于 degenerate U-statistics 的章节）。本文的广义距离协方差统计量本质上是一个 6 阶 U-统计量（或 V-统计量），其极限分布是加权卡方和，这是 degenerate U-statistics 的标准结果。作者没有引用这些经典教科书或综述，而是直接引用了距离协方差领域的特定结果（如 [11] Jakobsen, 2017）。这可能是因为作者希望保持论文的自包含性，但研究者可以自行查阅这些经典文献，以确认本文的定理 2.1 是否只是已知结果的特殊化。

张力¶

未见明显对立引用。所有被引工作都承认距离协方差零分布是加权卡方和，分歧仅在于如何近似这个分布。矩匹配方法（Gamma, BB2, BB3, SPV）和谱近似方法（本文）是互补的，而非对立的：前者追求极致的计算速度（O(n log n) 或 O(n²)），后者追求尾部精度（但计算成本更高）。模拟结果（Section 5.2）清晰地展示了这种权衡。

二、最核心、最简单的例子 / 数学问题¶

第一步：把符号、模型、可观测数据交代清楚¶

符号：
\( (X, Y) \)：一对随机变量/向量，取值于可分的度量空间 \( \mathcal{X} \) 和 \( \mathcal{Y} \)。它们是我们要检验是否独立的两个对象。
\( d_X, d_Y \)：定义在 \( \mathcal{X} \) 和 \( \mathcal{Y} \) 上的负型距离（distance of negative type）。这是距离协方差定义的核心，它保证了双中心距离矩阵的半正定性。常见的例子是欧几里得距离。
\( V^2(d_X, d_Y; X, Y) \)：总体广义距离协方差，一个非负的实数，衡量 \( X \) 和 \( Y \) 的依赖程度。当且仅当 \( X \) 和 \( Y \) 独立时，它为 0。
\( \hat{V}^2_n(X, Y) \)：样本广义距离协方差，基于 \( n \) 个 i.i.d. 样本 \( (X_1, Y_1), \dots, (X_n, Y_n) \) 的估计量。本文主要使用 V-统计量版本 \( \hat{V}^2_n \) 和 U-统计量版本 \( \hat{U}^2_n \)。
\( A_n, B_n \)：两个 \( n \times n \) 的双中心距离矩阵（doubly centered distance matrices）。它们的元素由公式 (4) 定义，本质上是将原始距离矩阵 \( [d_X(X_i, X_j)] \) 和 \( [d_Y(Y_i, Y_j)] \) 进行行和列的中心化，使得每行和每列的和都为 0。
\( \hat{\lambda}^X_{ni}, \hat{\lambda}^Y_{nj} \)：矩阵 \( -n^{-1}A_n \) 和 \( -n^{-1}B_n \) 的经验特征值（按降序排列）。由于 \( A_n \) 和 \( B_n \) 是半正定的（因为 \( d_X, d_Y \) 是负型距离），这些特征值非负。它们是总体特征值 \( \lambda^X_i, \lambda^Y_j \) 的样本估计。
\( \lambda^X_i, \lambda^Y_j \)：总体特征值，来自积分算子 \( T_X \) 和 \( T_Y \)（定义见定理 2.1）。它们是理论上的、不可观测的量。
\( Z_{ij} \)：i.i.d. 标准正态随机变量，用于构造极限分布。
\( n \)：样本量。
\( k \)：在自适应算法中，我们计算的最大特征值的个数。
模型：
数据生成机制：\( (X_i, Y_i) \), \( i=1,\dots,n \) 是来自某个联合分布 \( P_{XY} \) 的 i.i.d. 样本。
零假设 \( H_0 \)：\( X \) 和 \( Y \) 独立，即 \( P_{XY} = P_X \times P_Y \)。
备择假设 \( H_1 \)：\( X \) 和 \( Y \) 不独立。
已知量：距离函数 \( d_X, d_Y \) 由研究者选择（如欧几里得距离、高斯核距离）。它们是已知的。
待估对象：检验统计量 \( n\hat{V}^2_n \) 在 \( H_0 \) 下的分布，以及由此计算出的 p 值。
可观测数据：
可观测：\( n \) 个 i.i.d. 样本对 \( (X_1, Y_1), \dots, (X_n, Y_n) \)。我们可以计算任意两个样本点之间的距离 \( d_X(X_i, X_j) \) 和 \( d_Y(Y_i, Y_j) \)，从而构造出双中心距离矩阵 \( A_n \) 和 \( B_n \)，并进一步计算它们的特征值 \( \hat{\lambda}^X_{ni}, \hat{\lambda}^Y_{nj} \)。
不可观测 / 潜在：总体特征值 \( \lambda^X_i, \lambda^Y_j \) 是理论上的，无法直接观测。极限分布中的无限加权卡方和 \( \sum_{i,j} \lambda^X_i \lambda^Y_j (Z^2_{ij} - 1) \) 也是理论上的，无法直接计算。我们只能用可观测的经验特征值 \( \hat{\lambda}^X_{ni}, \hat{\lambda}^Y_{nj} \) 来构造一个有限维的近似。

第二步：讲最小内核¶

本文的核心思路可以浓缩为一个最简特例：假设 \( X \) 和 \( Y \) 都是一元实值随机变量，且我们使用欧几里得距离 \( d_X(x_1, x_2) = |x_1 - x_2| \) 和 \( d_Y(y_1, y_2) = |y_1 - y_2| \)。这是经典的、最原始的“距离协方差”设定。

在这个特例下，整个问题退化为：

已知：Székely et al. (2007) 已经证明，在 \( H_0 \) 下，\( n\hat{V}^2_n \) 的极限分布是 \( \sum_{i,j=1}^\infty \lambda^X_i \lambda^Y_j Z^2_{ij} \)，其中 \( \lambda^X_i, \lambda^Y_j \) 是某个积分算子的特征值，\( Z_{ij} \) 是 i.i.d. 标准正态。
核心困难：我们无法知道 \( \lambda^X_i, \lambda^Y_j \)，因此无法直接使用这个极限分布。一个自然的想法是：用样本估计它们。具体来说，我们计算双中心距离矩阵 \( A_n \) 和 \( B_n \)，然后计算它们的特征值 \( \hat{\lambda}^X_{ni}, \hat{\lambda}^Y_{nj} \)。然后，我们构造一个经验版本的极限分布：
\[\hat{G}_n(c) = P\left( \sum_{i=1}^{n-1} \sum_{j=1}^{n-1} \hat{\lambda}^X_{ni} \hat{\lambda}^Y_{nj} Z^2_{ij} \le c \right)\]
这里，我们用有限个（最多 \( n-1 \) 个）经验特征值代替了无限个总体特征值。然后，我们使用 \( \hat{G}_n \) 的分位数来计算 p 值。
本文要证明的核心命题（在这个特例下）：
\[\sup_{c \in \mathbb{R}} |\hat{G}_n(c) - G_0(c)| \xrightarrow{P} 0\]
其中 \( G_0(c) = P\left( \sum_{i,j=1}^\infty \lambda^X_i \lambda^Y_j Z^2_{ij} \le c \right) \) 是真实的极限分布。

这个命题的意思是：用经验特征值构造的加权卡方和分布，能够一致地逼近真实的极限分布。一旦这个成立，再结合定理 2.1（\( n\hat{V}^2_n \) 依分布收敛到 \( G_0 \)），我们就可以通过 Slutsky 定理或连续映射定理，证明基于 \( \hat{G}_n \) 分位数的检验是渐近有效的（即经验第一类错误收敛到名义水平）。
为什么这个命题不平凡？ 因为 \( \hat{\lambda}^X_{ni} \) 和 \( \hat{\lambda}^Y_{nj} \) 是随机变量，它们本身是 \( A_n \) 和 \( B_n \) 的函数。我们需要证明，由这些随机特征值构成的随机分布函数 \( \hat{G}_n \)，能够一致地收敛到非随机的极限分布函数 \( G_0 \)。这需要证明经验特征值是总体特征值的相合估计，并且这种相合性足以保证加权卡方和分布的收敛。本文的定理 3.1 正是这个命题的一般化版本。
本文的关键想法：证明的核心在于，作者证明了 \( \hat{\lambda}^X_n \) 和 \( \hat{\lambda}^Y_n \)（作为 \( \ell^1_\downarrow \) 空间中的元素）几乎必然地收敛到 \( \lambda^X \) 和 \( \lambda^Y \)。由于加权卡方和 \( F(c; \mu^X, \mu^Y) \) 是 \( (\mu^X, \mu^Y) \) 的连续函数（在 \( \ell^1_\downarrow \) 的弱拓扑下），因此由连续映射定理，\( \hat{F}_n \) 几乎必然地一致收敛到 \( F_0 \)。这个论证路线简洁而有力，将问题归结为证明经验谱的相合性。

三、这篇论文做了什么¶

三句话¶

研究了什么问题：本文研究了广义距离协方差（包括 HSIC 作为特例）在零假设下的分布近似问题，旨在提供一个严格的理论证明，说明通过双中心距离矩阵的经验谱来近似其极限分布（加权卡方和）是渐近有效的。
核心工具 / 方法：核心工具是经验谱分析和弱收敛理论。方法上，作者提出了一个自适应特征值算法（通过部分特征分解和 p 值上下界来降低计算复杂度）和一个收缩校正方法（通过匹配无偏矩估计来提升有限样本精度）。
主要结论：① 在温和假设下，经验谱构造的加权卡方和分布一致地收敛到真实的极限分布（定理 3.1），从而保证了检验的渐近有效性（推论 3.2）。② 自适应算法将计算复杂度从 O(n³) 降至 O(k n²)（k 为所需特征值个数）。③ 收缩校正显著提升了小样本下的性能。④ 模拟表明，该方法是唯一在经验第一类错误收敛到名义水平上表现稳定的非蒙特卡洛程序。

关键设定与假设¶

设定：
\( (\mathcal{X}, \rho_X) \) 和 \( (\mathcal{Y}, \rho_Y) \) 是可分度量空间，配备 Borel σ-代数。这个设定比许多文献中假设的欧几里得空间更一般，但作者特别强调了可测性和可分性条件，这些在之前的文献中常被忽略。
\( d_X, d_Y \) 是连续（关于乘积拓扑）的负型距离。负型性质保证了双中心距离矩阵 \( A_n, B_n \) 的半正定性，这是谱方法能够应用的关键。常见的欧几里得距离和高斯核距离（通过 \( d(x,y) = 1 - \exp(-\|x-y\|^2/(2h^2)) \) 转化）都满足此条件。
矩条件：\( 0 < \int d_X(x_1, x_2) dP_X(x_1) dP_X(x_2) < \infty \)，对 \( d_Y \) 同理。这个条件保证了总体特征值的和是有限的（即 \( \lambda^X, \lambda^Y \in \ell^1_\downarrow \)），从而加权卡方和是良定义的。
相比已有文献的放宽或强化：
放宽：相比原始的 Székely et al. (2007) 仅考虑欧几里得距离，本文的框架适用于更一般的负型距离，从而将 HSIC 作为特例纳入。
强化：相比 Sejdinovic et al. (2013) 和 Edelmann & Goeman (2022) 等文献，本文明确要求了距离的连续性和空间的可分性，并强调了这些条件在证明中心极限定理（定理 2.1）和谱相合性（定理 3.1）中的必要性。作者指出“The measurability and continuity conditions given in this paragraph are typically omitted in the literature (see e.g. [16, 5]); however it appears that these conditions are required to develop many important results”。

主要结果¶

定理 2.1（中心极限定理）：在 \( X \) 和 \( Y \) 独立且矩条件成立下，\( n\hat{U}^2_n \) 和 \( n\hat{V}^2_n \) 依分布收敛到加权卡方和。这个定理本身不是全新的（类似结果出现在 [11] Jakobsen, 2017），但作者在更一般的设定下给出了证明，并明确了所需的可测性和连续性条件。直觉：距离协方差是一个 degenerate U-统计量（在独立时，其核的期望为 0），其极限分布不是正态，而是由核的谱分解决定的加权卡方和。
定理 3.1（谱近似的相合性）：这是本文的核心理论贡献。它断言，在矩条件下，由经验特征值 \( \hat{\lambda}^X_n, \hat{\lambda}^Y_n \) 构造的分布函数 \( \hat{F}_n \) 和 \( \hat{G}_n \) 几乎必然地一致收敛到由总体特征值 \( \lambda^X, \lambda^Y \) 构造的极限分布函数 \( F_0 \) 和 \( G_0 \)。直觉：经验谱是总体谱的相合估计，且加权卡方和作为谱的函数是连续的，因此分布也相合。必要条件：矩条件（7）保证了谱的 \( \ell^1 \) 可和性。解决的技术难点：需要证明经验特征值在 \( \ell^1_\downarrow \) 空间中的收敛性，这比逐点收敛更强。
推论 3.2（检验的渐近有效性）：结合定理 2.1 和 3.1，直接得到基于 \( \hat{F}_n \) 或 \( \hat{G}_n \) 分位数的检验是渐近有效的，即当 \( n \to \infty \) 时，经验第一类错误率收敛到名义水平 \( \alpha \)。直觉：这是 Slutsky 定理的变体：检验统计量收敛到极限分布，而极限分布又被经验分布一致地估计，因此用经验分位数做阈值是有效的。
命题 4.3（收缩校正）：给出了一个收缩公式（14），将经验特征值 \( \hat{\lambda}_{ij} \) 向它们的均值 \( \bar{\lambda} \) 收缩，使得收缩后的特征值之和不变，但平方和等于由无偏矩估计得到的目标值 \( \tilde{\sigma}^2 \)。这校正了经验谱的过度离散，从而提升了有限样本下 p 值近似的精度。

证明路线与技术技巧¶

整体路线（定理 3.1 的证明）：
建立经验谱的相合性：证明 \( \hat{\lambda}^X_n \) 和 \( \hat{\lambda}^Y_n \) 在 \( \ell^1_\downarrow \) 空间中几乎必然地收敛到 \( \lambda^X \) 和 \( \lambda^Y \)。这需要证明两个关键点：① 经验特征值逐点收敛到总体特征值（即 \( \hat{\lambda}^X_{ni} \xrightarrow{a.s.} \lambda^X_i \) 对每个 \( i \)）；② 尾部特征值的和一致可积（即 \( \sum_{i>m} \hat{\lambda}^X_{ni} \) 对 \( n \) 和 \( m \) 一致地小）。作者在补充材料中通过将 \( A_n \) 视为一个随机核矩阵，并利用大数定律和算子范数收敛来证明这一点。
证明加权卡方和分布的连续性：证明映射 \( (\mu^X, \mu^Y) \mapsto F(\cdot; \mu^X, \mu^Y) \) 在 \( \ell^1_\downarrow \times \ell^1_\downarrow \) 上是连续的（在一致收敛拓扑下）。这需要证明，如果两个谱序列在 \( \ell^1 \) 范数下接近，那么它们对应的加权卡方和分布也接近。作者利用特征函数或 Levy 距离来证明这一点。
应用连续映射定理：由于经验谱几乎必然收敛到总体谱，且分布函数是谱的连续函数，因此 \( \hat{F}_n \) 几乎必然地一致收敛到 \( F_0 \)。
关键跳跃点：
从逐点特征值收敛到 \( \ell^1 \) 收敛：证明经验特征值逐点收敛是相对标准的（利用摄动理论），但证明它们在 \( \ell^1 \) 意义下收敛（即尾部特征值之和的收敛）是更困难的。这需要控制核矩阵的迹的收敛速度，并利用矩条件（7）来保证尾部特征值的和可以被一个可积的随机变量控制。作者在补充材料中通过将 \( A_n \) 与一个 Hilbert-Schmidt 算子联系起来，并利用经验过程理论来处理这个跳跃。
分布函数 \( F \) 的连续性：需要证明，如果 \( \mu^X \) 和 \( \nu^X \) 在 \( \ell^1 \) 范数下接近，那么 \( F(c; \mu^X, \mu^Y) \) 和 \( F(c; \nu^X, \mu^Y) \) 在 \( c \) 上一致地接近。这通常需要利用加权卡方和的特征函数，并证明其关于谱参数的 Lipschitz 性质。作者在补充材料中给出了一个基于 Levy 距离的论证。
技术技巧点名：
经验过程理论（Empirical Process Theory）：用于证明经验核矩阵 \( A_n \) 的算子范数收敛到总体算子 \( T_X \) 的算子范数，这是证明特征值相合性的基础。
摄动理论（Perturbation Theory）：用于从算子收敛推导特征值的收敛（如 Weyl 不等式）。
弱收敛与连续映射定理（Weak Convergence & Continuous Mapping Theorem）：用于将谱的相合性“提升”到分布函数的相合性。
弱优超（Weak Majorization）：用于构造 p 值的上界（命题 4.1 和推论 4.2）。这是一个组合不等式工具，用于在只知道部分最大特征值时，给出剩余特征值的最坏情况分布。
Lanczos 算法：用于高效计算对称矩阵的部分最大特征值，这是自适应算法（Section 4.1）的计算基础。
收缩估计（Shrinkage Estimation）：用于校正经验特征值的过度离散，提升有限样本精度（Section 4.2）。

真实例子与应用¶

本文包含一个详尽的模拟研究（Section 5），但没有使用真实数据例子。

用的什么数据 / 场景：模拟数据。\( X \) 和 \( Y \) 是独立的一元标准正态随机变量。考虑了两种距离：① 经典欧几里得距离（对应经典距离协方差）；② 高斯核距离 \( d(x_i, x_j) = 1 - \exp(-(x_i - x_j)^2/(2h^2)) \)（对应 HSIC）。
怎么把本文方法用上去：作者将本文提出的两种谱检验（Spectral (shrinkage) 和 Spectral (naive)）与五种竞争方法（Gamma, BB2, BB3, SPV, SRB）进行比较。比较了两个维度：① 计算时间（Section 5.1）：在不同样本量（125 到 32,000）下测量运行时间。② 第一类错误控制（Section 5.2）：在不同样本量（10 到 500）和不同名义水平（0.05 到 \( 5 \times 10^{-6} \)）下，基于 1000 万次模拟计算经验第一类错误率。
得到什么结果：
计算时间：全谱方法（Spectral (Complete)）和 BB3 都是 O(n³)，在大样本下（n=32,000）需要数小时。自适应方法（Spectral (first 100)）将复杂度降至 O(n²)，在 n=32,000 时仅需约 3 分钟。Gamma 方法在经典距离协方差下利用 O(n log n) 算法，速度极快（n=100 万时 < 0.5 秒），但在高斯核距离下退化为 O(n²)。
第一类错误控制：这是本文的核心实证发现。只有谱检验（Spectral (shrinkage) 和 Spectral (naive)）的经验第一类错误率随着样本量增加而收敛到名义水平。其他方法均存在系统性问题：Gamma 极度反保守（在 \( \alpha = 5 \times 10^{-6} \) 时，因子高达 72.06）；SPV 和 SRB 极度保守；BB3 在小样本下表现尚可，但在大样本下也出现偏差（因子约 1.3-2.0）。Spectral (shrinkage) 几乎在所有场景下都优于 Spectral (naive)，验证了收缩校正的有效性。
这个例子想说明什么：模拟结果有力地支持了本文的理论发现（定理 3.1 和推论 3.2），并展示了谱方法在尾部精度上的独特优势。同时，它也量化了自适应算法和收缩校正带来的实际收益。作者明确指出“the spectral tests are - apart from costly Monte Carlo approaches - the only available tests for which the empirical type I error converges to the nominal level”。

🔎 结论是否比证明窄¶

定理 3.1 的结论是“几乎必然一致收敛”，这是一个非常强的结论。然而，证明中可能依赖于一些技术性假设（如距离的连续性、空间的可分性），这些假设在模拟中可能被违反（例如，当使用离散距离时）。作者在定理陈述中明确列出了这些假设，因此结论并未超出证明的范围。
推论 3.2 的结论是“渐近有效性”，即当 \( n \to \infty \) 时，经验第一类错误率收敛到 \( \alpha \)。模拟结果（Table 1 & 2）显示，对于小样本（n ≤ 50），谱检验的性能较弱（经验第一类错误率远低于名义水平）。作者在讨论中承认了这一点：“for very small samples (n ≤ 50), the performance is rather weak”。因此，结论的适用范围被证明限制在“渐近”意义上，对于有限样本，特别是小样本，结论并不保证。作者明确建议小样本下使用置换检验或 BB3。
关于自适应算法的理论保证：作者证明了 p 值的上下界（推论 4.2），但没有证明自适应算法（即基于这些上下界决定何时停止计算特征值）的收敛性。算法描述（Section 4.1）是一个启发式过程，其停止准则（如 \( p_{cons}/p_{anti} \le \tau_{tol} \)）依赖于用户指定的容差参数。作者没有给出理论上的保证，说明在什么条件下算法一定会停止，或者停止时得到的 p 值近似误差有多大。这是一个典型的“结论比证明窄”的地方：算法有效，但缺乏严格的理论分析。

四、开放问题¶

小样本下的性能改进：作者在讨论中指出“for very small samples (n ≤ 50), the performance is rather weak”，并建议“may be improved by finding ways to incorporate estimates of the third moment into the spectral approaches”。这是一个具体的、扎根于本文 Section 6 的开放问题：能否将 BB3 的三阶矩匹配思想与谱近似结合，从而在小样本下也获得良好的性能？这需要推导三阶矩的无偏估计，并设计一个同时匹配前三阶矩的谱校正方法。
自适应算法的理论保证：Section 4.1 的自适应算法缺乏严格的收敛性分析。一个开放问题是：能否给出一个理论上的界，说明在给定精度要求 \( \tau_{tol} \) 下，所需计算的特征值个数 \( k \) 的上界？或者，能否证明该算法在某种意义下是最优的（例如，在达到给定精度时所需计算的特征值个数最少）？这需要更精细地分析经验谱的分布，并利用随机矩阵理论的结果。
超大规模数据的扩展：作者在讨论中提到了两种可能的扩展：① 通过分箱（binning）将 \( n \) 个观测值减少到 \( m \ll n \) 个不同的值；② 通过有限个特征（features）近似核函数。这些是具体的、扎根于 Section 6 的开放问题。对于研究者而言，一个更具体的问题是：能否利用其熟悉的张量收缩 / einsum 复杂度理论，来刻画这些近似方法（如 Nyström 近似或随机傅里叶特征）的计算成本与精度之间的权衡？例如，对于 HSIC 的谱近似，使用 \( k \) 个随机傅里叶特征后，计算复杂度如何从 O(n²) 变为 O(n k)，而近似误差又如何随 \( k \) 变化？
推广到其他 degenerate U-统计量：作者在讨论中推测“the theoretical derivation of our approximation results extends in a straightforward manner to many other degenerate U- and V-statistics”。这是一个非常广泛的开放问题。具体来说，对于一个一般的 2 阶 degenerate U-统计量（其核的谱分解给出极限分布），本文的谱近似方法是否可以直接应用？需要哪些额外的假设？对于更高阶的 degenerate U-统计量（如研究者熟悉的 4 阶或 6 阶），其极限分布是更复杂的多重加权卡方和，本文的方法能否推广？这需要处理高阶核的谱分解，可能涉及到张量特征值问题，与研究者对张量收缩的兴趣高度相关。

Maintained by 陈星宇 · Homepage · Source on GitHub