Measuring evidence against exchangeability and group invariance with E-values¶
作者: Nick W. Koning
来源: Annals of Statistics
主题: 数理统计 / 假设检验
相关性: 6/10
链接: 期刊页 · arXiv
一、领域脉络与小综述¶
-
这个方向是什么:本文属于假设检验理论中一个新兴且快速发展的分支——基于 e-value(e-value / e-variable / e-process)的"证据度量"框架。其根本目标不是像传统 Neyman-Pearson 框架那样在固定显著性水平下做二元决策,而是构造一个非负随机变量(e-value),其在原假设下的期望不超过 1,从而允许将数值本身直接解读为"反对原假设的证据强度"。该框架的核心优势在于:(1) 支持随时停止的连续监测(anytime-valid inference);(2) 支持跨研究、跨来源的证据合并(e-value 的乘积仍是 e-value);(3) 提供比传统 p-value 更强的后验(post-hoc)错误控制保证。本文聚焦于将该框架应用于一类特殊的复合原假设——群不变性(group invariance),包括可交换性(exchangeability)作为特例。
-
发展脉络(history):
- 奠基工作:e-value 的思想可追溯至 Wald 的序贯概率比检验(SPRT)和 Robbins 的"检验幂"(test supermartingale)概念,但作为独立框架的正式提出是近十年的事。Vovk 和 Wang (2021) 的《E-values: Calibration, combination and applications》系统建立了 e-value 作为 p-value 替代品的理论基础,包括其与 Bayes factor、似然比的关系,以及合并规则。Grunwald、de Heide 和 Koolen (2019) 的《Safe Testing》则从"安全检验"角度独立发展了这一框架,强调其在可选停止下的有效性,并建立了 e-value 与"对数最优"(log-optimal)之间的联系。
- 主要进展:Ramdas 等人 (2020, 2022) 的一系列工作将 e-value 推广到 e-process 和置信序列(confidence sequence),并建立了 e-process 与"非负鞅族的下确界"之间的等价刻画(本文 Theorem 8 直接引用了这一结果)。同时,Koning (2024c) 提出了"连续检验"(continuous testing)的统一视角,将传统二元检验、随机化检验和 e-value 统一在一个框架下,并引入了"效用函数"(utility function)来刻画不同检验目标。这一工作为本文提供了直接的理论基础。
- 当前 frontier:将 e-value 框架从简单假设推广到复合假设和非参数假设。对于复合原假设,关键困难在于如何构造一个对所有原假设成员都有效的 e-value。已有工作(如 Ramdas et al. 2022b 关于可交换性)表明,对于某些非参数假设,构造 powerful 的 e-value 是困难的,甚至存在不可能性结果。本文正是在这一 frontier 上推进:它给出了群不变性 e-value 的完整刻画,并建立了最优性理论。
-
本文的位置:本文是 Koning 本人系列工作的自然延伸。它建立在 Koning (2024c) 的连续检验框架之上,将群不变性检验(包括置换检验、符号检验、t 检验等经典方法)纳入 e-value 框架,并给出了最优性刻画。与 Perez-Ortiz et al. (2024) 的"群模型 e-statistic"工作相比,本文的设定更一般(不要求自由群作用),且明确处理了非紧群情形。
-
子线索聚类:被引文献大致落在三条子线索上:
- e-value 理论基础(Vovk & Wang 2021; Grunwald et al. 2019; Grunwald 2024; Koning 2024c):建立 e-value 的定义、性质、合并规则、与 p-value 和 Bayes factor 的关系,以及最优性准则(log-optimality, GRO)。
- e-process 与 anytime-valid 推断(Ramdas et al. 2020, 2022a, 2022b; Howard et al. 2021; Fischer & Ramdas 2025):将 e-value 推广到序贯设定,建立 e-process 的刻画(非负鞅族下确界),并应用于可交换性检验、置信序列等。
-
群不变性检验(Lehmann & Stein 1949; Hemerik & Goeman 2018; Koning & Hemerik 2023; Ramdas et al. 2023a):经典群不变性检验(置换检验、符号检验、t 检验)的理论基础及其在现代框架下的推广。
-
这个方向在追问的核心问题:
- 如何为复合原假设构造 e-value? 群不变性是一个典型的复合假设(包含无穷多个分布)。本文的核心贡献之一是给出一个简洁的刻画:ε 是群不变性 e-value 当且仅当它在每个轨道上的平均不超过 1(Theorem 1)。这为构造 e-value 提供了直接的可操作准则。
- 什么是最优的 e-value? 在简单假设下,Neyman-Pearson 引理给出了最优检验;在 e-value 框架下,log-optimality(GRO)是自然的最优准则。本文证明,对于满足"轨道可分解"性质的最优性目标,最优 e-value 存在且具有显式形式(Theorem 5, 6)。
- 如何将经典检验推广到 e-value 框架? 本文展示了秩检验、符号检验、t 检验等经典群不变性检验如何被纳入 e-value 框架,并给出了统一的构造方法(代表性逆核)。
-
序贯设定下如何构造 e-process? 本文给出了任意滤流下 e-process 的刻画(Theorem 7),并指出在自然滤流下可以构造更简单的检验鞅。对于非紧群,利用遍历定理(如 de Finetti 定理)构造 e-process。
-
⚠️ 作者的 framing(这是作者的说法):作者在引言中将本文定位为"超越传统 Neyman-Pearson 框架"的一步。他声称传统群不变性检验(如置换检验)虽然广泛使用,但其理论分析局限于二元决策,无法充分利用 e-value 框架的优势(连续证据度量、可选停止、证据合并)。作者将本文的核心贡献概括为三点:(1) 完整刻画群不变性 e-value;(2) 建立最优性理论;(3) 提供 e-process 和检验鞅的构造工具。作者还特别强调,本文的框架"嵌套"了传统群不变性检验作为特例,因此是对经典理论的推广而非替代。值得注意:作者淡化了与 Perez-Ortiz et al. (2024) 工作的重叠——后者也研究了群不变性下的 e-statistic,但作者指出其要求群作用自由,而本文不要求。这一区分是否实质性地扩大了适用范围,需要读者自行判断。
-
张力:被引文献之间存在一个值得注意的张力:Ramdas et al. (2022b) 证明了在可交换性假设下,基于自然滤流的检验鞅是"无力的"(powerless),即任何非负鞅在可交换性下都无法增长。 本文的 Theorem 7 和 Section 6 通过引入"轨道条件化"和"滤流 impoverishment"(Appendix 9)来规避这一不可能性结果。但这是否意味着本文构造的 e-process 在某种意义上是"次优"的(例如,需要牺牲对某些备择假设的敏感性)?作者没有直接讨论这一张力,而是通过引入更一般的框架(任意滤流下的 e-process 刻画)来"消化"这一结果。读者可以自行判断这种处理是否令人满意。
二、最核心、最简单的例子 / 数学问题¶
第一步:符号、模型、可观测数据
- 样本空间:设 \(\mathcal{Y}\) 为样本空间,\(Y\) 是 \(\mathcal{Y}\) 上的随机变量(观测数据)。
- 群与作用:设 \(G\) 是一个紧群,作用在 \(\mathcal{Y}\) 上(连续作用)。记 \(Gy\) 为群元素 \(G\) 作用于 \(y\) 的结果。
- 轨道:\(O_y = \{Gy : G \in G\}\) 是 \(y\) 的轨道。轨道是群作用下的等价类,将 \(\mathcal{Y}\) 划分为不相交的轨道集合 \(\mathcal{Y}/G\)。
- 不变性(原假设):\(Y\) 是 \(G\)-不变的,如果 \(Y \overset{d}{=} GY\) 对所有 \(G \in G\) 成立。记 \(H_0\) 为所有 \(G\)-不变分布的集合。
- Haar 测度:\(G\) 是紧群,故存在唯一的概率 Haar 测度,记 \(G \sim \text{Unif}(G)\) 为服从 Haar 测度的随机群元素。
- e-value:一个可测函数 \(\varepsilon: \mathcal{Y} \to [0, \infty]\) 是 \(H_0\) 的有效 e-value,如果 \(\sup_{P \in H_0} \mathbb{E}_P[\varepsilon(Y)] \le 1\)。
- 可观测数据:研究者观测到 \(Y\) 的一个实现 \(y\)。关键点:轨道 \(O_y\) 是观测得到的(因为 \(y\) 本身确定了它所在的轨道),但 \(y\) 在轨道内的"位置"(即相对于某个基准点的群元素)是未知的。
第二步:最小内核
本文的核心数学问题可以归结为:如何构造一个函数 \(\varepsilon\),使得它在每个轨道上的平均值不超过 1?
最简例子:考虑 \(Y = (X_1, X_2)\) 是二元随机变量,\(G = \{e, s\}\) 是交换两个坐标的置换群(\(s(x_1, x_2) = (x_2, x_1)\))。此时: - 轨道 \(O_{(x_1, x_2)} = \{(x_1, x_2), (x_2, x_1)\}\)。 - \(Y\) 可交换当且仅当 \((X_1, X_2) \overset{d}{=} (X_2, X_1)\)。 - 给定轨道 \(O = \{(a, b), (b, a)\}\),轨道上的均匀分布是 \(\text{Unif}(O)\),即每个点概率 \(1/2\)。
核心定理(Theorem 1 的特例):\(\varepsilon\) 是 \(G\)-不变性的有效 e-value,当且仅当对每个轨道 \(O\),
为什么这个刻画是"显然"的? 因为 \(G\)-不变分布恰好是"先抽一个轨道(任意分布),再在轨道内均匀抽样"的分布族。因此,e-value 的有效性只需在每个轨道上验证。
如何构造 e-value? 给定任意非负检验统计量 \(T: \mathcal{Y} \to [0, \infty)\),定义
这个最小内核揭示了什么? 它揭示了群不变性检验的本质:任何 e-value 都必须"在轨道内归一化"。传统置换检验的 p-value 是 \(\frac{\#\{G: T(Gy) \ge T(y)\}}{\#G}\),而 e-value 则是 \(T(y)\) 与轨道内平均值的比值。两者的区别在于:p-value 是秩(rank),e-value 是似然比(likelihood ratio)。e-value 保留了 \(T(y)\) 的数值信息,而 p-value 只保留了排序信息。这正是 e-value 在合并证据时更高效的原因。
从最小内核到一般理论:本文的 Theorem 1 将这个例子推广到任意紧群(包括非自由作用、连续样本空间)。Theorem 3 进一步证明,任何精确 e-value 都可以写成 \(\varepsilon_T\) 的形式(取 \(T = \varepsilon\) 即可),因此 \(\varepsilon_T\) 是完备的刻画。Theorem 5 和 6 则回答了"如何选择 \(T\)"的问题:对于 log-utility,最优的 \(T\) 是似然比 \(dQ/d\bar{Q}\),其中 \(Q\) 是备择假设,\(\bar{Q}\) 是 \(Q\) 的群平均化。
三、这篇论文做了什么¶
三句话: 1. 研究了什么问题:在 e-value 框架下,如何量化反对"群不变性"(包括可交换性)这一复合原假设的证据,并构造最优的 e-value 和 e-process。 2. 核心工具/方法:利用紧群的 Haar 测度和轨道分解,将群不变性 e-value 的构造归结为"在每个轨道上归一化"的问题;利用"轨道可分解"的效用函数,将全局最优性归结为逐轨道最优性;利用代表性逆核(将数据映射到群元素)统一了秩检验、符号检验等经典方法。 3. 主要结论:(i) 完整刻画了群不变性 e-value(Theorem 1, 3);(ii) 对满足轨道可分解性质的效用函数,最优 e-value 存在且具有显式形式(Theorem 5, 6);(iii) 给出了任意滤流下 e-process 的刻画(Theorem 7),并指出在自然滤流下可构造更简单的检验鞅(Theorem 8);(iv) 对非紧群,利用遍历定理构造 e-value 和 e-process(Remark 11);(v) 通过代表性逆核,将秩检验和符号检验推广到任意紧群(Section 4.5, Appendix 8)。
关键设定与假设: - 紧群:\(G\) 是紧群,保证 Haar 测度存在且为概率测度。这是几乎所有结果的前提。非紧群仅在 Remark 11 中通过遍历定理部分处理。 - 轨道可分解性(Assumption 在 Theorem 5 中隐含):效用函数 \(K\) 可以分解为逐轨道的效用函数 \(K_O\) 的聚合。这一假设排除了跨轨道的效用函数(例如,需要比较不同轨道上的 e-value 的效用)。 - 可测性:所有空间都是第二可数局部紧 Hausdorff 空间,保证可测性和正则条件概率的存在性。 - 代表性逆核的存在性:对于秩检验和符号检验的推广,需要存在一个可测的逆核 \(\gamma: \mathcal{Y} \to G\),使得 \(\gamma(y)[y] = y\)。这要求群作用"足够好"(例如,自由作用或可测选择公理)。
证明路线与技术技巧: - Theorem 1 的证明:利用 \(G\)-不变分布的轨道分解(Lemma 1),将 \(\sup_{P \in H_0} \mathbb{E}_P[\varepsilon]\) 转化为 \(\sup_{O} \mathbb{E}_{\text{Unif}(O)}[\varepsilon]\)。这是整个理论的基石。 - Theorem 3 的证明:构造性证明。给定 e-value \(\varepsilon\),取 \(T = \varepsilon\),则 \(\varepsilon_T = \varepsilon\)(因为 \(\mathbb{E}_G[\varepsilon(Gy)] = 1\) 由 Theorem 1 保证)。这个证明极其简洁,但揭示了 \(\varepsilon_T\) 形式的完备性。 - Theorem 5 的证明:关键步骤是将全局优化问题分解为逐轨道优化问题。由于效用函数可分解,且 e-value 的有效性约束也是逐轨道的(Theorem 1),因此全局最优解可以通过在每个轨道上独立求解局部优化问题得到。这类似于动态规划中的"贝尔曼最优性原理"。 - Theorem 6 的证明:利用 Lagrange 乘子法。在 log-utility 下,局部优化问题的解具有显式形式 \(\varepsilon_U = (U')^{-1}(\lambda_O \cdot dQ/d\bar{Q})\),其中 \(\lambda_O\) 是轨道依赖的归一化常数。这个结果与经典的最优 e-value 理论(Grunwald et al. 2019)一致,但推广到了群不变性设定。 - Theorem 7 的证明:将 e-process 的刻画归结为"逐轨道鞅"的刻画。关键技巧是引入"轨道滤流"(\(\sigma(O_{Y_n})\)),并利用 Doob 可选停时定理。对于自然滤流,通过"代表性逆核"将问题转化为群上的鞅问题。 - 技术技巧点名: - Haar 测度与轨道分解:整个理论的语言基础。 - Lagrange 乘子法:用于求解约束优化问题(Theorem 6)。 - Doob 可选停时定理:用于 e-process 的 anytime-validity 证明(Theorem 8)。 - 遍历定理:用于非紧群情形(Remark 11),将群平均替换为遍历平均。 - 代表性逆核:将数据映射到群元素,是连接"数据空间"和"群空间"的桥梁,也是推广秩检验和符号检验的关键。
真实例子与应用: - 模拟实验 1(Section 7.1):模拟病例对照实验,检验处理组和对照组是否可交换。使用基于高斯备择的 log-最优 e-value,并自适应估计备择参数。结果显示 e-value 在备择下快速增长,且优于基于 de la Peña (1999) 的 e-value。 - 模拟实验 2(Section 7.2):检验符号对称性(\(Y \overset{d}{=} -Y\)),比较 log-最优 e-value 与 de la Peña (1999) 的 e-value。结果显示前者在正态备择下更有效。 - 真实数据应用(Section 7.3, Appendix 13):使用 Gilovich et al. (1985) 的篮球"热手"数据,检验投篮序列是否可交换。对 26 名球员分别计算 e-value,并取乘积作为整体证据。结果显示,对于"连续命中 2 次或 3 次后"的热手备择,乘积 e-value 提供了反对可交换性的证据(e-value 分别为 3.108 和 7.489),而"连续命中 1 次后"的备择则没有证据(e-value = 0.007)。注意:作者将 e-value 的乘积解释为"合并证据",这依赖于球员之间的独立性假设,作者未明确讨论这一假设的合理性。
🔎 结论是否比证明窄: - Theorem 5 的"最优性"是逐轨道的:作者在 Theorem 5 中证明的是"如果 \(\varepsilon^*\) 在每个轨道上都是局部最优的,则它是全局最优的"。但作者没有证明"全局最优解必然在每个轨道上局部最优"(即没有证明局部最优的必要性)。这意味着可能存在一个全局最优 e-value,它在某些轨道上不是局部最优的,但通过跨轨道的"风险交换"获得更高的全局效用。作者在 Remark 7 中暗示了这一限制,但没有给出反例或进一步讨论。 - Theorem 6 的"最优性"依赖于效用函数的凹性:对于非凹的效用函数,Lagrange 乘子法可能不适用,最优 e-value 可能不存在或具有更复杂的形式。作者在 Section 4.1 中假设效用函数是凹的,但没有讨论非凹情形。 - e-process 的构造依赖于"轨道滤流":Theorem 7 的刻画要求 e-process 对任意停止时间有效。但在自然滤流下,作者构造的检验鞅(Theorem 8)只对"轨道滤流"有效,而非原始数据滤流。这意味着在实际应用中,我们可能无法在观察到部分数据时就停止,而必须等到轨道完全确定。作者在 Section 6 和 Appendix 9 中通过"滤流 impoverishment"来规避这一问题,但这是否会损失统计效率,作者没有给出定量分析。 - 非紧群的处理是"特例"而非"一般理论":Remark 11 中关于非紧群的讨论依赖于具体的遍历定理(如 de Finetti 定理),而非一个统一的框架。对于一般的非紧群,如何构造 e-value 和 e-process 仍然是一个开放问题。
四、开放问题¶
-
非紧群的一般理论:Remark 11 仅通过遍历定理处理了非紧群的特例(如 de Finetti 定理对应的无限置换群)。对于一般的非紧群(如平移群、洛伦兹群),如何构造 e-value 和 e-process?是否存在类似 Theorem 1 的刻画?这需要更深入的遍历理论和群表示论工具。
-
最优 e-value 的"全局"刻画:Theorem 5 只证明了"局部最优蕴含全局最优",但没有证明反向。是否存在全局最优但非局部最优的 e-value?如果是,它的形式是什么?这可能需要引入跨轨道的"风险交换"概念,类似于金融数学中的最优传输问题。
-
有限样本下的最优性:本文的最优性结果是渐近的(或精确的,但依赖于效用函数的特定形式)。在有限样本下,如何刻画 e-value 的"效率"?是否存在类似 minimax 风险下界的理论?这可以与研究者熟悉的 minimax 理论直接对接。
-
自适应备择的 e-value:Section 7.1 中使用了自适应估计的备择参数,但作者没有给出这种自适应 e-value 的理论保证(如 regret bound)。在备择参数估计不准确时,e-value 的表现如何?是否存在自适应 e-value 的最优性理论?
-
高维群不变性检验:当群 \(G\) 的维度随样本量增长时(如高维置换群),本文的刻画是否仍然成立?计算复杂度如何?这可以与研究者熟悉的高维统计理论(随机矩阵、压缩感知)对接。
-
因果推断中的群不变性:在因果推断中,处理分配机制(如随机化实验、条件随机化)天然具有群不变性结构。本文的 e-value 框架是否可以用于构造因果效应的 anytime-valid 置信区间或敏感性分析?这需要将群不变性检验与潜在结果框架结合。
给研究者的提示:若要确认上述开放问题是否为真 gap,建议去读以下近期工作的引言部分(约 5 篇):(1) Ramdas et al. (2023) 关于 e-process 的综述;(2) Fischer & Ramdas (2025) 关于序贯 Monte Carlo 检验;(3) Perez-Ortiz et al. (2024) 关于群模型 e-statistic;(4) Vovk & Wang (2024) 关于非参数 e-value;(5) Grunwald (2024) 关于 e-value 与 Bayes factor 的关系。如果这些工作的引言都指向同一个未解决问题,那它很可能是一个共识性的 gap。
Maintained by 陈星宇 · Homepage · Source on GitHub