Distribution-free testing of linear type¶

作者: Weixuan Xia
主题: 数理统计 / 假设检验
相关性: 7/10
链接: https://arxiv.org/abs/2608.30074

一、领域脉络与小综述¶

这个方向是什么¶

这个子方向是非参数拟合优度检验，其根本问题是：给定一组独立同分布样本，如何检验它们是否来自某个指定的分布（简单假设），或来自某个参数分布族（复合假设），且检验过程不依赖于该分布的具体形式（即“分布无关”）。该领域的成熟度极高，经典方法（Kolmogorov–Smirnov 检验、Cramér–von Mises 检验）已有近一个世纪的历史，但仍在持续发展，尤其是在与现代机器学习度量（如 Wasserstein 距离、核方法）的交叉中。

发展脉络¶

奠基工作：Kolmogorov (1933) 和 Smirnov (1939) 提出 KS 检验，基于经验过程的最大偏差（L∞ 泛函）；Cramér (1928) 和 von Mises (1931) 提出 CvM 检验，基于平方偏差的积分（L² 泛函）。这两者构成了非参数拟合优度检验的基石。Darling (1957) 给出了一个统一的综述，奠定了理论框架。
主要进展：
- 分布计算：Marsaglia, Tsang & Wang (2003) 和 Simard & L'Ecuyer (2011) 分别给出了 KS 统计量零分布的精确和近似计算方法，使其在软件中广泛实现。Csörgő & Faraway (1996) 推导了 CvM 统计量的精确分布（可达 n=7）。
- 复合假设与 Khmaladze 变换：Khmaladze (1981, 1993) 提出了一个革命性的方法——通过一个“创新鞅”变换（即 Khmaladze 变换），将参数估计后的经验过程转化为渐近分布无关的过程，从而解决了复合假设下的检验问题。Haywood & Khmaladze (2008) 将其应用于指数分布族的检验。Roberts, Haywood & Swordson (2025) 进一步将其推广到 Laplace 分布族，处理了 Fisher 信息矩阵退化的情况。
- 与现代度量的联系：Panaretos & Zemel (2019) 综述了 Wasserstein 距离的统计方面，指出 L¹ 型差异与 Wasserstein 1-距离的紧密联系。Del Barrio, Giné & Matrán (1999) 建立了经验分布与真实分布之间 Wasserstein 距离的中心极限定理。Berthet, Fort & Klein (2020) 给出了两个不同分布之间 Wasserstein 型距离的 CLT。Paik, Celentano, Green & Tibshirani (2025) 提出了 Radon-Kolmogorov-Smirnov 检验，将 KS 检验推广到高维和更高阶光滑度，并与神经网络建立了联系。
当前 Frontier：当前的前沿包括：(a) 将经典检验推广到高维、函数型数据等复杂数据结构（如 Cuesta-Albertos et al., 2019; García-Portugués et al., 2014）；(b) 与核方法、积分概率度量（IPM）的深度融合（如 Paik et al., 2025）；(c) 发展对特定类型备择假设（如稀疏 vs. 扩散偏差）更敏感的检验。
本文的位置：本文提出 omega-1 检验，作为 KS（L∞）和 CvM（L²）的“线性类比”（L¹ 泛函）。它试图填补 Lp 泛函谱系中 p=1 这个“中间”位置的空白，声称在平衡对局部和扩散备择假设的敏感性上有所改进，并建立了与 Wasserstein 1-距离的直接联系。在复合假设下，它兼容 Khmaladze 变换，并给出了变换后极限统计量的显式分布公式。

子线索聚类¶

这些被引文献大致落在三条子线索上：

经典 L∞ 和 L² 检验的理论与计算：包括 KS 检验（Berger & Zhou, 2014; Marsaglia et al., 2003; Simard & L'Ecuyer, 2011）、CvM 检验（Anderson, 1962; Darling, 1957; Csörgő & Faraway, 1996; Hrabáková & Kůs, 2025），以及它们的各种扩展（离散数据：Arnold & Emerson, 2011；删失数据：Schumacher, 1984；秩数据：Curry, Dang & Sang, 2019；多元数据：Justel, Peña & Zamar, 1997）。这一簇的核心是发展精确/渐近分布理论，并解决计算问题。
Khmaladze 变换与复合假设检验：包括 Khmaladze (1981, 1993) 的原始工作，以及其在特定分布族（指数分布：Haywood & Khmaladze, 2008；Laplace 分布：Roberts, Haywood & Swordson, 2025）和特定应用（电价分析：Khmaladze, 2007；复发事件：Zamba & Adekpedjou, 2019）中的实现。这一簇的核心是解决参数估计后检验统计量分布依赖的问题。
Wasserstein 距离、最优传输与现代机器学习度量：包括 Wasserstein 距离的统计理论（Panaretos & Zemel, 2019; Del Barrio, Giné & Matrán, 1999; Berthet, Fort & Klein, 2020），以及其与核方法、IPM 的联系（Paik, Celentano, Green & Tibshirani, 2025; Wang, Smola & Tibshirani, 2014）。这一簇的核心是将分布比较问题与现代计算工具（如神经网络、最优传输）相结合。

这个方向在追问的核心问题¶

如何平衡对不同类型备择假设的敏感性？ KS 检验对单点偏差敏感，CvM 检验对全局偏差敏感。是否存在一个“中间”的检验，能同时较好地检测局部和扩散偏差？
如何实现真正的分布无关性？ 在简单假设下，概率积分变换可实现分布无关。在复合假设下，Khmaladze 变换是主要工具，但其计算复杂，且对某些分布族（如 Fisher 信息矩阵退化）需要特殊处理。
如何获得可处理且精确的零分布？ 对于有限样本，精确分布通常难以获得（如 CvM 统计量仅对 n≤7 有显式公式）。渐近分布（如 Kolmogorov 分布、Cramér–von Mises 分布）是主要替代，但其收敛速度和对小样本的近似精度是重要考量。
如何与现代机器学习度量（如 Wasserstein 距离、核最大均值差异 MMD）建立联系？ 这既能赋予经典检验新的解释，也能为现代度量提供理论上的分布无关性保证。

⚠️ 作者的 framing¶

作者的缺口 frame：作者将缺口 frame 为“KS 和 CvM 是 L∞ 和 L² 泛函，代表了两种极端，而 L¹ 泛函是自然的中间选择，能更好地平衡敏感性”。他声称 omega-1 检验“improves on balancing sensitivity to localized and diffuse alternatives”，并且“provides a robust and interpretable measure of distributional discrepancy, apart from close connections to the Wasserstein 1-distance”。这样，他的论文就成了填补 Lp 泛函谱系中 p=1 这个“显然的下一步”。
被淡化或回避的竞争路线：
- 其他 Lp 泛函：作者只讨论了 p=1, 2, ∞。对于 p 取其他值（如 p=3/2）的检验，他没有提及。这暗示他可能认为 p=1 是唯一有特殊意义（与 Wasserstein 距离联系）的中间点。
- 核方法（MMD）：作者在引言中提到 CvM 型积分差异与核方法有关，但并未将 omega-1 检验与 MMD 进行任何比较。MMD 也是一种对全局偏差敏感的检验，且在高维数据中更常用。作者回避了“为什么在核方法时代还需要一个一维的 L¹ 检验”这个问题。
- 基于分位数的检验：如 Anderson-Darling 检验（对尾部偏差更敏感），作者完全没有提及。这暗示他可能认为自己的检验在“平衡性”上优于这些专门化的检验。
什么明显该被引 / 该存在、却没出现在 intro 里？
- Anderson-Darling 检验：这是 CvM 检验的一个加权版本，对尾部偏差更敏感，是拟合优度检验中另一个非常重要的成员。它的缺席是明显的。
- 关于 L¹ 泛函的渐近理论：作者引用了 Tolmatz (2000) 关于布朗桥绝对值积分的大偏差，以及 Xia & Zhang (2026) 关于带漂移布朗运动绝对值积分的工作。但关于 L¹ 泛函作为检验统计量的一般渐近理论（如功效分析、局部备择假设下的渐近相对效率）的文献，似乎没有被系统引用。
- 关于 Wasserstein 距离的检验：虽然引用了 Panaretos & Zemel (2019) 的综述，但并未引用任何将 Wasserstein 距离直接用作检验统计量的工作（如 del Barrio et al., 1999 的工作本身就可用于构造检验）。作者将 omega-1 统计量与 Wasserstein 1-距离联系起来，但并未讨论这个联系对检验功效意味着什么。

张力¶

未见明显对立引用。所有被引工作基本都在经典框架内，彼此之间没有根本性的矛盾。唯一的“张力”可能存在于 KS 和 CvM 检验的支持者之间，但作者正是利用这种张力来定位自己的工作。

二、最核心、最简单的例子 / 数学问题¶

第一步：把符号、模型、可观测数据交代清楚¶

符号：
- X = {X₁, ..., Xₙ}：可观测的独立同分布样本，取值于实数集 R。
- Fₙ(x)：经验分布函数，Fₙ(x) = (1/n) Σⱼ 𝟙(Xⱼ ≤ x)。
- F_θ(x)：假设的（hypothesized）分布函数，由一个参数 θ 索引。在简单假设下，θ 已知；在复合假设下，θ 未知，需从样本估计。
- V_{n,θ}(x) = √n (Fₙ(x) - F_θ(x))：经验过程，是检验统计量的核心构建块。
- ϖⁿ_p：基于 Lp 泛函的检验统计量（未取幂），ϖⁿ_p = (∫ |V_{n,θ}(x)|^p dF_θ(x))^{1/p}。
- ωⁿ_p = (ϖⁿ_p)^p：实际的检验统计量。对于 p=1，ω¹ₙ = ϖ¹ₙ。
- Uⱼ = F_θ(Xⱼ)：概率积分变换后的样本。在 H₀ 下，Uⱼ 是 i.i.d. 的 Uniform(0,1) 随机变量。
- Gₙ(t) = √n (F̅ₙ(t) - t)：均匀经验过程，其中 F̅ₙ(t) = (1/n) Σⱼ 𝟙(Uⱼ ≤ t)，t ∈ [0,1]。
- B(t)：标准布朗桥，是 Gₙ(t) 在 n→∞ 时的弱极限。
- W(t)：标准布朗运动。
- α'_k：艾里函数导数 Ai'(z) 的零点（按递减顺序排列）。
- K_ν(z)：第二类修正贝塞尔函数。
- θ̂ₙ：在复合假设下，从样本中估计得到的参数。
- Ṽ_{n,θ}(x)：Khmaladze 变换后的经验过程。
- wⁿ_{p,θ}：基于变换后过程的检验统计量。
模型：
- 数据生成机制：样本 X₁, ..., Xₙ 是来自某个未知分布 P 的 i.i.d. 样本。
- 零假设 H₀：P 属于一个指定的分布族 {F_θ : θ ∈ Θ}。在简单假设下，θ 已知；在复合假设下，θ 未知。
- 要估的对象：检验决策——是否拒绝 H₀。这等价于估计一个二值函数。统计量 ω¹ₙ 或 w¹_{n,θ} 是用于做出决策的度量。
可观测数据：
- 可观测：样本 X₁, ..., Xₙ 及其顺序统计量 X_(₁), ..., X_(ₙ)。
- 潜在 / 不可观测：真实的分布 P，以及参数 θ（在复合假设下）。检验依赖于“如果 H₀ 为真，则 F_θ(Xⱼ) 应服从 Uniform(0,1)”这个事实。因此，Uⱼ 是一个构造出来的潜在量，其分布性质在 H₀ 下是已知的。

第二步：讲最小内核¶

这篇论文的核心思路是：用 L¹ 泛函（即绝对值的积分）代替 L∞ 泛函（最大值）和 L² 泛函（平方的积分）来聚合经验过程的偏差，从而构造一个新的拟合优度检验。

最简特例：单样本，简单假设，检验数据是否来自 Uniform(0,1)。

在这个特例下，所有复杂的东西都消失了： - 设定：我们有 i.i.d. 样本 U₁, ..., Uₙ，零假设 H₀ 是它们来自 Uniform(0,1) 分布。 - 经验过程：Gₙ(t) = √n (F̅ₙ(t) - t)，其中 F̅ₙ(t) 是样本的经验分布函数。 - KS 统计量：KSₙ = sup_{t∈[0,1]} |Gₙ(t)|。它只关心最大的那个偏差。 - CvM 统计量：CvMₙ = ∫₀¹ |Gₙ(t)|² dt。它对所有偏差取平方，放大了大偏差。 - Omega-1 统计量：ω¹ₙ = ∫₀¹ |Gₙ(t)| dt。它简单地取所有偏差的绝对值之和（积分）。

为什么这个特例能体现核心思路？

计算形式：在这个特例下，ω¹ₙ 有一个非常简洁的计算形式（Theorem 1）。利用 Wasserstein 1-距离的性质，ω¹ₙ = √n ∫₀¹ |u - F̅ₙ⁻¹(u)| du，其中 F̅ₙ⁻¹ 是经验分位数函数。这可以进一步写成关于顺序统计量 U_(₁), ..., U_(ₙ) 的分段二次函数（公式 10）。这个形式比 CvM 统计量的计算形式（涉及双重求和）更简单，但比 KS 统计量（只需找最大值）更复杂。
极限分布：当 n→∞ 时，Gₙ(t) 弱收敛到布朗桥 B(t)。因此，ω¹ₙ 收敛到 ω¹_∞ = ∫₀¹ |B(t)| dt。这篇论文的核心技术贡献之一就是给出了 ω¹_∞ 的显式分布函数（Theorem 2）： F_{ω¹_∞}(x) = (1/√(6πx)) Σ_{k=1}^∞ e^{(α'_k)³/(27x²)} K_{1/3}((-α'_k)³/(27x²))。这个公式与 KS 统计量的极限分布（Kolmogorov 分布，涉及无穷级数求和）和 CvM 统计量的极限分布（涉及抛物柱函数）在形式上类似，但使用了不同的特殊函数（艾里函数零点和修正贝塞尔函数）。作者声称这个级数收敛极快（截断到 k=3 即可保证高精度），因此易于数值计算。
核心数学困难：证明 ω¹_∞ 的分布公式，其核心困难在于计算布朗桥绝对值积分的拉普拉斯变换的逆变换。作者通过以下步骤解决：
- 利用一个已知的拉普拉斯变换结果（来自 Borodin & Salminen, 2002），该结果将 E[exp(-u ∫₀¹ |W(t)| dt); W(1) ∈ dz] 表示为艾里函数及其零点的级数。
- 通过条件期望，将 ω¹_∞ 的拉普拉斯变换 E[exp(-u ω¹_∞)] 表示为类似的级数。
- 关键跳跃点：对 E[exp(-u ω¹_∞)]/u 进行拉普拉斯逆变换，这等价于计算 exp(-u^{2/3})/u^{2/3} 的逆变换。作者查阅积分表（Prudnikov et al., 1992），将其表示为 Meijer G 函数，然后通过一系列特殊函数恒等式（Meijer G 函数的约化、与 Bessel K 函数的关系）将其简化为最终形式。

一句话总结最小内核：这篇论文在数学上干的事就是：定义了一个新的拟合优度检验统计量（L¹ 泛函），并利用特殊函数理论，精确计算了其在简单假设下的极限分布（布朗桥绝对值积分的分布），从而使得该检验在理论上可行。

三、这篇论文做了什么¶

三句话¶

研究了什么问题：提出并分析了一种新的分布无关拟合优度检验——omega-1 检验，该检验基于经验过程的 L¹ 泛函，作为经典 KS（L∞）和 CvM（L²）检验的线性类比。
核心工具 / 方法：利用经验过程理论、Wasserstein 1-距离的性质、特殊函数（艾里函数、修正贝塞尔函数、Meijer G 函数）以及 Khmaladze 变换。
主要结论：推导了 omega-1 统计量的有限样本计算形式（Theorem 1）和极限分布（布朗桥绝对值积分）的显式分布函数（Theorem 2），并证明了该统计量在复合假设下与 Khmaladze 变换兼容，变换后的极限分布（布朗运动绝对值积分）也有显式公式（公式 24）。模拟显示有限样本分布快速收敛到极限。

关键设定与假设¶

设定：单变量 i.i.d. 样本 X₁, ..., Xₙ。
假设：
- H₀（简单假设）：Xⱼ ~ F_θ，其中 F_θ 是绝对连续的分布函数，且参数 θ 完全已知。
- H₀（复合假设）：Xⱼ ~ F_θ，其中 θ 未知，需从样本中估计（如 MLE）。
- 连续性：F_θ 的绝对连续性假设是概率积分变换和 Donsker 定理成立的关键。这是经典 KS 和 CvM 检验的标准假设。
- 与已有文献的比较：相比 KS 和 CvM 检验，本文没有引入新的、更强的假设。它是在完全相同的框架下，只是换了一个不同的泛函。相比 Roberts, Haywood & Swordson (2025) 对 Laplace 分布的处理，本文的 Khmaladze 变换部分没有针对特定分布族，而是给出了一个通用的极限分布结果。

主要结果¶

Theorem 1（有限样本表示）：在简单假设 H₀ 下，omega-1 统计量 ω¹ₙ 可以表示为关于均匀顺序统计量 U_(₁), ..., U_(ₙ) 的分段二次函数（公式 10）。这个形式是精确的，且计算复杂度为 O(n)，与 CvM 统计量的 O(n²) 相比更优。直觉：利用 Wasserstein 1-距离的等价形式，将积分转化为分段线性函数的积分，从而得到闭式解。
Theorem 2（极限分布）：在 H₀ 下，ω¹ₙ 弱收敛到 ω¹_∞ = ∫₀¹ |B(t)| dt，其分布函数由公式 (13) 给出： F_{ω¹_∞}(x) = (1/√(6πx)) Σ_{k=1}^∞ e^{(α'_k)³/(27x²)} K_{1/3}((-α'_k)³/(27x²))。直觉：这个公式是通过对 ω¹_∞ 的拉普拉斯变换进行逆变换得到的。它用艾里函数导数的零点 α'_k 和修正贝塞尔函数 K_{1/3} 来表示。必要条件：x > 0。解决的技术难点：拉普拉斯逆变换的解析计算，以及将结果从 Meijer G 函数约化为更常见的特殊函数。
Corollary 2（收敛速度）：sup_{x>0} |F_{ω¹ₙ}(x) - F_{ω¹_∞}(x)| ≤ C n^{-1/4}。直觉：这个速率是通过 Berry-Esseen 定理和密度有界性得到的。作者承认这是一个“粗略的”（crude）速率，并指出数值模拟显示实际收敛要快得多（n≥10 时已很准确）。这个结果本身并不强，但它为极限分布的使用提供了一个理论保证。
Khmaladze 变换后的极限分布：在复合假设下，经过 Khmaladze 变换后的统计量 w¹_{n,θ} 弱收敛到 w¹_∞ = ∫₀¹ |W(t)| dt，其分布函数由公式 (24) 给出。这个公式更复杂，涉及超几何函数和 Meijer G 函数，但作者声称其级数收敛也很快。

证明路线与技术技巧¶

Theorem 2 的证明路线（核心）：

第一步：建立拉普拉斯变换。从一个已知结果（Borodin & Salminen, 2002, Eq. 1.8.7.(1)）出发，该结果给出了 E[exp(-u ∫₀¹ |W(t)| dt); W(1) ∈ dz] 的表达式，其中包含艾里函数 Ai 及其导数零点 α'_k。通过条件于 W(1)（其分布为标准正态），得到 ω¹_∞ 的拉普拉斯变换 E[exp(-u ω¹_∞)] 的级数表达式（公式 14）。
第二步：转换为分布函数的拉普拉斯变换。利用拉普拉斯变换的性质：L{F(x)}(s) = L{f(x)}(s)/s，其中 f 是密度，F 是分布函数。因此，需要计算 E[exp(-u ω¹_∞)]/u 的逆变换。
第三步：关键跳跃点——计算一个核心逆变换。问题归结为计算 exp(-u^{2/3})/u^{2/3} 的拉普拉斯逆变换。作者查阅积分表（Prudnikov et al., 1992, Eq. 2.2.1.19），将其表示为 Meijer G 函数 G^{3,0}_{2,3}(·)。
第四步：简化 Meijer G 函数。通过一系列特殊函数恒等式（Erdélyi et al., 1953）：
- 利用 Meijer G 函数的参数约化规则，将 G^{3,0}_{2,3} 简化为 G^{2,0}_{1,2}。
- 利用 Meijer G 函数与 Bessel K 函数的关系，将 G^{2,0}_{1,2} 简化为 K_{1/3}(2/(27x²)) / (√(3π) x)。
第五步：组装最终结果。将简化后的逆变换结果代回，并利用拉普拉斯变换的尺度性质，得到最终的分布函数公式 (13)。

技术技巧点名： - 特殊函数理论：艾里函数 Ai 及其零点、修正贝塞尔函数 K_ν、Meijer G 函数。这些是处理布朗运动泛函分布的标准工具。 - 拉普拉斯变换及其逆变换：核心分析工具。 - 级数展开与逐项积分：利用级数的绝对收敛性，将拉普拉斯逆变换的积分与求和交换顺序。

真实例子与应用¶

本文没有使用真实数据例子。它包含两个模拟实验： 1. Figure 2：比较了 ω¹ₙ 在 n=1, 2, 10 时的有限样本分布与极限分布 F_{ω¹_∞}。结果显示，即使对于 n=10，有限样本分布也与极限分布非常接近。目的：验证极限分布作为近似的有效性，并展示其快速收敛性。 2. Figure 3：在复合假设下（检验数据是否来自 Laplace 分布族，参数用 MLE 估计），比较了经过 Khmaladze 变换后的统计量 w¹_{n,θ} 在 n=100 时的分布与极限分布 F_{w¹_∞}。结果显示两者几乎重合。目的：验证 Khmaladze 变换与 omega-1 检验的兼容性，以及变换后极限分布的有效性。

🔎 结论是否比证明窄¶

Corollary 2 的收敛速率 n^{-1/4}：作者明确说这是一个“粗略的速率”（crude rate），并指出数值模拟显示实际收敛要快得多。这个速率远慢于 KS 检验的 n^{-1/2}（通过 Kolmogorov-Smirnov 定理）和 CvM 检验的 n^{-1}（通过更高阶展开）。因此，论文的结论（n^{-1/4} 率）比其数值证据所暗示的要弱。作者没有尝试证明一个更快的速率，这为后续工作留下了空间。
Khmaladze 变换部分：作者只给出了变换后极限统计量 w¹_∞ 的分布公式，并提供了一个模拟示例。他没有证明在复合假设下，w¹_{n,θ} 的有限样本分布是否也快速收敛到 w¹_∞，也没有给出任何收敛速率。论文的结论（“compatible”和“enabling asymptotically distribution-free testing”）是成立的，但关于其有限样本性质的结论是薄弱的，完全依赖于模拟。

四、开放问题¶

更快的收敛速率：Corollary 2 给出的 n^{-1/4} 速率是粗糙的。能否证明 ω¹ₙ 的分布函数以 n^{-1/2} 或更快的速率收敛到极限？这可能需要使用更高阶的 Edgeworth 展开或 Stein 方法。扎根点：Corollary 2 的证明和作者“crude rate”的评述。
多元 / 函数型数据的推广：本文的 omega-1 检验仅限于一维数据。能否将其推广到多元或函数型数据？一个自然的思路是使用随机投影（如 Cuesta-Albertos et al., 2019），但 L¹ 泛函在投影后的性质需要重新研究。扎根点：引言中提到的“multivariate settings where direct generalization is nontrivial (e.g., via projections or space-filling curves)”。
高维 / 半参数设定下的应用：本文的检验是“非参数”的，因为它不假设数据的参数形式。但在高维或半参数模型中，经验过程理论需要调整（如使用高维 CLT）。omega-1 检验能否用于检验高维协方差结构或半参数回归模型的设定？扎根点：引言中提到的“high-dimensional and functional data analysis, where CvM-type statistics are embedded into projection-based or U-statistics”。
与核方法 / 积分概率度量（IPM）的正式比较：作者指出 omega-1 统计量与 Wasserstein 1-距离有关，但并未将其与核 MMD 等现代 IPM 进行理论或数值比较。一个开放问题是：在何种备择假设下，omega-1 检验比基于 MMD 的检验更有效（或更无效）？这种比较需要建立两种检验的渐近相对效率。扎根点：引言中提到的“CvM-type integrated discrepancies are closely related to kernel-based methods and integral probability metrics”。

Maintained by 陈星宇 · Homepage · Source on GitHub