Sequential resetting procedures and false discovery rate¶
作者: Qiuqi Wang, Ruodu Wang, Zhenyuan Zhang
主题: 数理统计 / 假设检验
相关性: 7/10
链接: https://arxiv.org/abs/2610.09339
一、领域脉络与小综述¶
-
这个方向是什么:本文研究的根本问题是:在数据流式到达、每个时间点对应一个原假设的设定下,如何设计序贯多重检验程序,以定位包含失效原假设的区间,并控制错误发现率(FDR)。该方向融合了 e-values 理论、序贯检验(sequential testing)与多重检验(multiple testing)三个子领域,其核心挑战在于:传统 FDR 控制方法(如 BH 过程)是离线批处理的,而序贯设定下检验决策必须实时做出,且检验的"假设"本身(区间)是数据依赖的。该方向当前处于快速发展期,e-values 框架(Vovk & Wang, 2021; Ramdas et al., 2023)为在线检验提供了理论基础,但将 e-values 与区间定位结合的研究尚属新兴。
-
发展脉络(history):
- 奠基工作:Wald (1947) 的序贯分析奠定了序贯检验的基础;Benjamini & Hochberg (1995) 提出了 FDR 控制,成为多重检验的黄金标准;Ville (1939) 的不等式为 test supermartingales 提供了理论基石。
- 主要进展:Shafer et al. (2021) 系统研究了 test supermartingales 与 p-values 的关系;Vovk & Wang (2021) 建立了 e-values 理论框架;Wang & Ramdas (2022) 提出了 e-BH 过程,将 e-values 引入 FDR 控制;Grünwald et al. (2024) 和 Ramdas et al. (2023) 为 e-processes 提供了系统综述。Su et al. (2026) 将 e-processes 应用于 LLM 水印检测,是本文的直接前驱。
- 当前 frontier:本文的位置在于,将 e-processes 从"单次检验"推广到"重复检验",通过 resetting 机制实现区间定位,并给出 FDR 界。作者声称这是"首次建立基于 test supermartingales 的重复序贯检验的 FDR 界"(见第 1.1 节)。
- 本文的定位:作者在引言中明确指出现有 e-process 方法(如 Su et al., 2026)是"one-shot"的,即首次拒绝后即停止,无法处理多个分离的失效区间。本文通过 resetting 解决了这一缺口。
-
子线索聚类:
- e-values 与 e-processes 理论:Vovk & Wang (2021)、Grünwald et al. (2024)、Ramdas et al. (2023)、Ramdas & Wang (2025)。这条线关注如何构造有效的 e-values 并保证其任意时点有效性(anytime validity)。
- FDR 控制方法:Benjamini & Hochberg (1995)、Benjamini & Yekutieli (2001)、Wang & Ramdas (2022)、Xu et al. (2025)。这条线关注如何在多重检验中控制错误发现率,包括离线(BH)和在线(e-BH)方法。
- 序贯检验与变点检测:Wald (1947)、Siegmund (1985)、Shin et al. (2024)、Dandapanthula & Ramdas (2025)。这条线关注如何实时检测变化,但通常以平均运行长度(ARL)为准则,而非 FDR。
- 应用驱动:LLM 水印检测(Su et al., 2026; Aaronson, 2023; Dathathri et al., 2024)和金融回测(Wang et al., 2026)。这些应用需要连续监测,而非一次性检验。
-
这个方向在追问的核心问题:
- 如何定义和度量序贯设定下的 FDR? 传统 FDR 是离线概念,序贯设定下需要重新定义(如本文的 uniform FDR)。
- 如何在保证 FDR 控制的同时最大化检验功效? 本文的 refinement 规则是对此的尝试,但作者承认"refined 方法的 FDR 至少与 ordinary 方法一样大"(第 1.1 节),说明功效与 FDR 之间存在张力。
- 如何应对数据依赖的假设? 本文的区间假设(interval hypotheses)是数据依赖的,这使得检验的统计性质分析变得复杂。
- 已知瓶颈:在一般依赖设定下,FDR 界有一个对数因子(Theorem 2),作者认为这是"为处理依赖所付出的代价"(第 4 节),但未证明其最优性。
-
⚠️ 作者的 framing(这是作者的说法):作者将缺口 frame 成"现有 e-process 方法无法处理多个分离的失效区间",因此需要 resetting 机制。他们强调自己的 FDR 界"不依赖于检验时域"(第 1.1 节),这是相对于现有在线 FDR 方法(如 Fischer et al., 2024)的优势。作者淡化了与变点检测文献的联系(仅在第 1.2 节提及),并回避了"refined 方法是否在某种意义下最优"的问题。值得研究者去查的问题:作者声称"首次建立"重复序贯检验的 FDR 界,但 Dandapanthula & Ramdas (2025) 的变点检测工作是否也隐含了类似的 resetting 思想?两者在数学结构上是否有本质区别?
-
张力:未见明显对立引用。但存在一个微妙的张力:作者在 Theorem 1 中假设 e-values 在零假设下独立(Assumption IND),而在 Theorem 2 中允许依赖,但代价是对数因子。这种"独立性 vs. 依赖"的二分法在 e-values 文献中常见(如 Wang & Ramdas, 2022 的 e-BH 在任意依赖下有效),但本文的 Theorem 1 似乎比 e-BH 的结论更弱(e-BH 不需要独立性假设)。作者未对此进行讨论。
二、最核心、最简单的例子 / 数学问题¶
第一步:把符号、模型、可观测数据交代清楚¶
- 符号:
- 时间与样本:\(t \in \mathcal{T} = \{0, 1, \ldots, T\}\) 为离散时间指标,\(T \in \mathbb{N} \cup \{\infty\}\) 为检验时域(horizon)。\(X_t\) 为 \(t\) 时刻观测到的数据(随机变量),取值于状态空间 \((\mathcal{X}, \mathcal{B})\)。
- 假设:\(H_t = \{P_t \in \mathcal{P}_t\}\) 是 \(t\) 时刻的原假设,其中 \(\mathcal{P}_t\) 是给定历史数据 \(X_1, \ldots, X_{t-1}\) 后 \(X_t\) 的条件分布集合。注意 \(H_t\) 是数据依赖的(data-dependent)。
- e-values:\(E_t\) 是 \(t\) 时刻的 e-value,满足 \(E_t \ge 0\) 且 \(\mathbb{E}_Q[E_t | \mathcal{F}_{t-1}] \le 1\) 对所有 \(Q \in \mathcal{P}_0\) 成立(其中 \(\mathcal{P}_0\) 是所有零假设同时成立时的路径分布集合)。\(E_t\) 是 \(\mathcal{F}_t\)-可测的。
- test supermartingale:\(M_t = \prod_{s=1}^t E_s\)(或更一般的构造),满足 \(\mathbb{E}_Q[M_t | \mathcal{F}_{t-1}] \le M_{t-1}\)。\(M_0 = 1\)。
- 阈值:\(\gamma > 1\) 是拒绝阈值,通常取 \(\gamma = 1/\alpha\),其中 \(\alpha \in (0,1)\) 是 FDR 水平。
- 拒绝时间:\(\tau_r\) 是第 \(r\) 次拒绝的时间,\(r \in \mathbb{N}\)。\(\tau_0 = 0\)。
- 区间:第 \(r\) 个拒绝区间为 \((\tau_{r-1}, \tau_r]\),即两次连续拒绝之间的时间段。
- FDP 与 FDR:\(V_t\) 是到时间 \(t\) 为止的假拒绝数,\(R_t\) 是总拒绝数。\(FDP_t = V_t / (R_t \vee 1)\),\(FDR_t = \mathbb{E}[FDP_t]\)。uniform FDR 定义为 \(\mathbb{E}[\sup_{t \in \mathcal{T}} FDP_t]\)。
-
refinement:\(\sigma_r\) 是第 \(r\) 个区间内 test supermartingale 达到最小值的最后时间,即 \(\sigma_r = \max\{s \in [\tau_{r-1}, \tau_r] : M_s = \min_{\tau_{r-1} \le u \le \tau_r} M_u\}\)。refined 区间为 \((\sigma_r, \tau_r]\)。
-
模型:数据生成机制为:在零假设下,\(X_t\) 的条件分布 \(P_t\) 属于 \(\mathcal{P}_t\);在备择假设下,\(P_t \notin \mathcal{P}_t\)。我们观测到 \(X_1, X_2, \ldots\),并希望实时报告包含备择假设的区间。可观测数据:研究者实际能观测到的是数据序列 \((X_t)_{t \ge 1}\),以及由此计算出的 e-values \((E_t)_{t \ge 1}\) 和 test supermartingale \((M_t)_{t \ge 1}\)。不可观测:每个时间点 \(t\) 的真实状态(零假设还是备择假设)是不可观测的,我们只能通过 e-values 的累积证据来推断。
第二步:讲最小内核¶
最小内核:假设我们有一个 test supermartingale \(M_t\),它从 1 开始,在零假设下期望不增。我们设定一个阈值 \(\gamma > 1\)。当 \(M_t \ge \gamma\) 时,我们拒绝当前的区间,并立即将 \(M_t\) 重置为 1,然后继续监测。这样,每次拒绝都产生一个区间 \((\tau_{r-1}, \tau_r]\)。
为什么这个简单想法能控制 FDR? 关键在于 resetting 使得每次拒绝都"消耗"了从上次重置以来的全部证据。在零假设下,\(M_t\) 从 1 开始,要达到 \(\gamma\) 的概率至多为 \(1/\gamma = \alpha\)(由 Ville 不等式)。因此,每次拒绝是假拒绝的概率至多为 \(\alpha\)。如果拒绝是独立的(在 Assumption IND 下),那么假拒绝数服从几何分布,FDR 可以被控制。
refinement 的作用:如果整个区间 \((\tau_{r-1}, \tau_r]\) 很长,其中大部分时间可能都在零假设下,只有最后一段是备择假设。refinement 通过找到 test supermartingale 的最小值位置 \(\sigma_r\),将区间缩短为 \((\sigma_r, \tau_r]\),从而更精确地定位备择假设出现的时间。关键观察:\(\sigma_r\) 是区间内 \(M_t\) 的最低点,因此在 \((\sigma_r, \tau_r]\) 内,\(M_t\) 从最低点上升到 \(\gamma\),这提供了更强的证据表明备择假设出现在 \((\sigma_r, \tau_r]\) 内。
为什么这个简单例子能体现核心数学困难? 困难在于:当拒绝不是独立时(即允许依赖),如何证明 FDR 界?本文的 Theorem 2 通过引入几何随机变量和随机占优技术解决了这个问题。另一个困难是:\(\sigma_r\) 不是停时(stopping time),这使得对 refined 区间的分析变得复杂。本文的 Lemma B.8 通过证明一个 refined 版本的 Ville 不等式来绕过这个困难。
三、这篇论文做了什么¶
-
三句话:
- 研究了什么问题:在数据流式到达、每个时间点对应一个原假设的设定下,如何设计序贯检验程序以定位包含失效原假设的区间,并控制 FDR。
- 核心工具 / 方法:基于 e-values 和 test supermartingales,提出 sequential resetting procedures(ordinary 和 refined 两种),通过重置资本来重复检验,并通过 refinement 规则缩短报告区间。
- 主要结论:在独立性假设下,FDR 界为 \(\alpha/(1-\alpha)\)(Theorem 1);在一般依赖设定下,uniform FDR 界为 \(\alpha(1+\log(1/\alpha))\)(Theorem 2),且该界具有 anytime validity。此外,还给出了关于拒绝次数与备择假设数量的置信下界(Theorem 3)。
-
关键设定与假设:
- Assumption IND:零假设时间点的 e-values 相互独立,且与备择假设时间点的 e-values 独立。这是 Theorem 1 的核心假设,类似于 BH 过程的独立性条件。
- 一般设定:Theorem 2 不要求独立性,只要求 e-values 的条件期望性质(即 test supermartingale 性质)。这比 Assumption IND 更弱,但代价是 FDR 界多一个对数因子。
-
与已有文献的比较:相比 e-BH(Wang & Ramdas, 2022),本文的设定是"区间报告"而非"逐点拒绝",且阈值是常数而非随拒绝次数变化。相比变点检测(Dandapanthula & Ramdas, 2025),本文的误差度量是 FDR 而非 ARL。
-
主要结果:
- Theorem 1:在 Assumption IND 下,对任意确定性时间 \(t\),\(FDR_t^{ord} \le FDR_t^{ref} \le \alpha/(1-\alpha)\)。证明思路:将拒绝区间划分为"干净区间"(全零假设)和"含备择假设的区间",利用独立性将问题分解为单个区间的检验问题,再用 Ville 不等式控制假拒绝概率。
- Theorem 2:在一般设定下,\(FDR_\infty^{ord} \le FDR_\infty^{ref} \le \alpha(1+\log(1/\alpha))\)。证明思路:引入几何随机变量 \(\xi_j\) 作为假拒绝簇的随机上界,利用随机占优技术(Lemma B.10)将问题转化为 i.i.d. 几何随机变量的期望计算,最后用 Steele (2015) 的极大不等式得到对数因子。
-
Theorem 3:给出了拒绝次数 \(R_T\) 与备择假设数量 \(N_a\) 之间的关系,即 \(P(R_T \ge r) \le \sum_{j=0}^{N_a} \binom{r}{j}(1-\alpha)^j \alpha^{r-j}\),并由此得到 \(N_a\) 的置信下界。
-
证明路线与技术技巧:
- 整体路线:Theorem 1 的证明采用"条件化 + 独立性分解"的策略;Theorem 2 的证明采用"随机占优 + 几何随机变量"的策略。
- 关键跳跃点:
- Lemma B.3(加权资本成本):这是 Theorem 1 的核心引理。它证明了对任意递减权重函数 \(w\),条件期望 \(\mathbb{E}[w(Q)(Q + (\alpha^{-1}-1)N) | \mathcal{G}_\lambda] \le X w(Q)\)。这个引理将"资本消耗"与"假拒绝数"联系起来,是证明 FDR 界的关键。
- Lemma B.8(refined Ville 不等式):这是 Theorem 2 的核心引理。它证明了每个假拒绝簇的条件概率至多为 \(\alpha\),即使 \(\sigma_r\) 不是停时。证明的关键在于利用 test supermartingale 的路径性质,将 \(\sigma_r\) 的不可测性转化为对条件期望的精细控制。
- Lemma B.10(多维随机占优):它将假拒绝簇的联合分布与 i.i.d. 几何随机变量进行比较,从而将 FDR 的计算转化为几何随机变量的期望。
-
技术技巧点名:
- Ville 不等式:用于控制单个区间内 test supermartingale 超过阈值的概率。
- 随机占优(stochastic dominance):用于处理依赖设定下的 FDR 界。
- 几何随机变量:作为假拒绝簇的基准分布。
- Steele (2015) 的极大不等式:用于估计几何随机变量部分和的期望。
- 停时与可测性分析:处理 \(\sigma_r\) 不是停时的问题。
-
真实例子与应用:
- 模拟研究:在独立正态数据下,模拟了两种场景:交替的零假设/备择假设区间和单点冲击。结果显示,refined 方法在保持低 FDR 的同时,能有效定位备择假设区间。
- LLM 水印检测:使用 Gumbel-max 和 Tournament 水印,将水印检测问题转化为序贯检验问题。结果显示,refined 方法能有效识别水印文本区间,且 FDR 远低于理论界。
- 金融回测:对 NASDAQ 指数的 ES 预测进行回测,识别预测失效的区间。结果显示,refined 方法能识别出 2008 年金融危机和 2020 年 COVID-19 疫情等风险事件。
-
这些例子想说明什么:验证了理论 FDR 界在实际应用中的有效性,并展示了 refined 方法相比 ordinary 方法在定位精度上的优势。
-
🔎 结论是否比证明窄:
- Theorem 1 的 FDR 界 \(\alpha/(1-\alpha)\):在 Assumption IND 下证明,但作者在 Example 1 中展示了该界是紧的(即不能改进为 \(\alpha\))。然而,该紧性只在特定构造下成立,对于一般情形,\(\alpha/(1-\alpha)\) 是否最优未得到证明。
- Theorem 2 的 FDR 界 \(\alpha(1+\log(1/\alpha))\):作者在 Remark 1 中承认该界与 Su (2018) 的 FDR-linking theorem 形式相似,但未证明其最优性。作者在 Example 3 中展示了该界是渐近紧的(当 \(\alpha \to 0\) 时),但仅针对特定构造。
- refined 方法的 FDR 界:作者证明了 \(FDR^{ord} \le FDR^{ref}\),但未给出 refined 方法 FDR 界的下界。这意味着 refined 方法的实际 FDR 可能远低于理论界,但作者未对此进行量化。
- Theorem 3 的置信下界:该下界依赖于 \(N_a\) 的确定性假设。如果 \(N_a\) 是随机的,该下界是否仍然成立未得到讨论。
四、开放问题¶
- FDR 界的最优性:Theorem 2 中的对数因子 \(\log(1/\alpha)\) 是否可以被移除或改进?作者在 Example 3 中展示了其渐近紧性,但仅针对特定构造。是否存在更一般的下界?扎根点:Theorem 2 的陈述和 Example 3 的构造。
- refined 方法的功效分析:refined 方法通过缩短区间来提高定位精度,但这是否以牺牲功效为代价?作者在模拟中观察到 refined 方法的 FDR 略高于 ordinary 方法,但未给出理论分析。扎根点:第 1.1 节关于 refinement 的讨论和 Table 2 的模拟结果。
- 依赖结构下的改进:Theorem 2 的 FDR 界在依赖设定下有一个对数因子,但作者未讨论在特定依赖结构(如马尔可夫依赖、强混合)下是否可以改进。扎根点:Theorem 2 的陈述和 Remark 1 的讨论。
- 最优阈值选择:本文使用常数阈值 \(\gamma = 1/\alpha\)。是否存在自适应阈值选择策略,可以在保持 FDR 控制的同时提高功效?扎根点:第 2.2 节关于阈值选择的讨论。
- 与变点检测的联系:本文的 resetting 机制与变点检测中的 CUSUM 方法有相似之处,但作者未深入探讨两者的联系。扎根点:第 1.2 节对 Dandapanthula & Ramdas (2025) 的引用。
- 应用扩展:本文的方法能否推广到更复杂的假设(如多维参数、非参数假设)?扎根点:第 5 节的应用场景和 concluding remarks。
提醒:要确认上述问题是否是真 gap,建议去读变点检测(如 Dandapanthula & Ramdas, 2025)、在线 FDR 控制(如 Fischer et al., 2024)以及 e-value 理论(如 Ramdas & Wang, 2025)近期约 5 篇的 introduction——如果多个独立工作都指向同一个问题,那很可能是共识性的真 gap;如果各说各话,则可能是机会。
Maintained by 陈星宇 · Homepage · Source on GitHub