Gaussian-efficient testing by betting on the mean of bounded data¶

作者: Diego Martinez-Taboada, Aaditya Ramdas
主题: 数理统计 / 假设检验
相关性: 6/10
链接: https://arxiv.org/abs/2608.21694

一、领域脉络与小综述¶

这个方向是什么¶

这个子方向要解决的根本问题是：如何为有界数据的均值构造一个置信区间，使其同时满足三个看似矛盾的目标：(1) 鞅有效性——在数据序列仅满足条件期望恒为μ（允许任意形式的鞅依赖）时，区间具有有限样本覆盖保证；(2) iid高斯效率——当数据独立同分布时，区间宽度渐近达到中心极限定理（CLT）的基准宽度 \(2\sigma z_{1-\delta/2}/\sqrt{n}\)；(3) 计算简便性——置信集对每个数据序列都是一个区间（凸集），且端点易于计算。这个问题的成熟度很高：经典浓度不等式已提供鞅有效性，但宽度保守；Gaffke区间在iid下达到高斯效率，但不适用于鞅依赖；赌注方法（betting）提供了鞅有效性，但此前所有赌注区间的宽度收敛到比CLT更宽的极限。本文试图同时满足这三个目标。

发展脉络（history）¶

奠基工作：经典浓度不等式。Bennett (1962)、Hoeffding (1963)、Azuma (1967)、Freedman (1975) 等建立了鞅差分的指数型浓度不等式，提供了分布自由的有限样本控制。这些不等式的宽度通常依赖于一个已知的方差上界（如1/4），而非观测方差，因此保守。
主要进展：经验Bernstein与有限样本精确区间。Maurer and Pontil (2009) 提出经验Bernstein界，用样本方差替代方差上界，显著缩小区间宽度。Gaffke (2005) 构造了基于Dirichlet随机化的区间，Learned-Miller and Thomas (2020) 和 Ming et al. (2026) 进一步改进，使其成为iid设定下经验上的“最先进”有限样本区间。但这些方法依赖独立性假设，不适用于鞅依赖数据。
当前frontier：赌注方法（testing by betting）。Waudby-Smith and Ramdas (2024) 系统发展了赌注方法，通过构造非负鞅（test supermartingale）生成e值，再反演得到置信区间。该方法天然满足鞅有效性。Shekhar and Ramdas (2023) 证明了其近最优性。Voráček and Orabona (2026) 提出STaR-Bets，通过重新计算剩余赌注比例来缩小区间。然而，所有现有赌注方法的宽度收敛到比CLT更宽的极限（即非高斯有效），这是本文要突破的核心瓶颈。
本文的位置：本文提出“高斯有效赌注”（GE-betting），通过追踪极限高斯实验中最优固定水平检验的条件拒绝概率来设计赌注比例，首次在赌注框架下同时实现鞅有效性和iid高斯效率。作者在引言中明确将本文定位为“终于超越了此前赌注区间的效率限制”。

子线索聚类¶

这些被引文献大致落在三条子线索上：

经典浓度不等式与经验Bernstein：Bennett, Hoeffding, Azuma, Freedman, de la Peña, Bercu and Touati, Bentkus, Pinelis, Kuchibhotla, Maurer and Pontil。这一簇的核心是用不等式直接控制尾部概率，优点是分布自由、鞅有效，缺点是宽度通常保守（尤其是当方差未知时）。
有限样本精确区间（Gaffke及其变体）：Gaffke (2005), Learned-Miller and Thomas (2020), Vlassis and Thomas (2026), Ming et al. (2026)。这一簇的核心是利用Dirichlet分布或精确抽样分布构造区间，优点是iid下经验上最窄，缺点是依赖独立性假设，不适用于鞅依赖，且计算可能复杂。
赌注方法（testing by betting）：Waudby-Smith and Ramdas (2024), Shekhar and Ramdas (2023), Voráček and Orabona (2026), Taga et al. (2026), Clerico et al. (2026), Baas et al. (2026)。这一簇的核心是构造非负鞅（wealth process），优点是天然满足鞅有效性，缺点是此前所有方法的宽度收敛到比CLT更宽的极限（即非高斯有效）。

这个方向在追问的核心问题¶

鞅有效性 vs. 高斯效率能否兼得？ 经典赌注方法满足鞅有效性但效率不足；Gaffke区间效率高但不满足鞅有效性。是否存在一个方法同时满足两者？
赌注比例的最优形式是什么？ 给定一个固定水平n，如何选择赌注比例序列 \(\lambda_i\) 使得反演得到的区间在iid下达到CLT宽度？此前的方法（产品赌注、STaR）都对应某种“次优”的终端事件。
区间凸性（interval-valued inversion）能否保证？ 赌注反演得到的置信集不一定连通。什么条件下它能自动成为一个区间？共享方差估计量是否足够？
无放回抽样下的类似问题：当数据来自无放回抽样时，中心化部分和受限于“回到零点”，其极限是布朗桥而非布朗运动。如何设计赌注比例使其达到有限总体CLT效率？

⚠️ 作者的framing¶

作者把缺口frame成：所有现有赌注方法都追踪了一个“错误”的终端事件（如STaR追踪的是路径依赖的屏障击中事件，产品赌注追踪的是指数型终端e值），因此它们的宽度收敛到比CLT更宽的极限。本文的“显然的下一步”是：直接追踪极限高斯实验中最优固定水平检验（Neyman-Pearson检验）的条件拒绝概率，从而得到高斯有效的赌注比例。

被淡化或回避的竞争路线： - Gaffke区间：作者承认它是iid下经验上的“最先进”，但强调它不满足鞅有效性。作者在实验中与Gaffke进行了全面比较，并展示了GE-betting（尤其是随机化版本）可以超越它。这暗示作者认为鞅有效性是一个不可妥协的要求。 - 有限样本高斯近似（Austern and Mackey, 2022）：仅在引言中提及，未在正文中比较。这可能是因为该方法依赖高斯近似而非精确有限样本保证，与本文的“有限样本有效性”哲学不完全一致。 - Bentkus-Pinelies近最优浓度不等式：仅在附录B中作为“平方铰链赌注”的背景提及，未在正文中作为主要竞争方法。这可能是因为这些不等式虽然近最优，但通常不直接给出区间，且计算可能复杂。

什么明显该被引/该存在、却没出现在intro里？ - Bentkus (2004) 和 Pinelis (2006a, 2014) 的近最优浓度不等式：这些不等式在iid下可以达到非常接近CLT的宽度（仅差一个常数因子），且具有有限样本保证。它们与本文的“高斯效率”目标直接相关，但作者仅在附录B中作为“平方铰链赌注”的背景提及，未在引言中作为主要竞争方法。这可能是因为这些不等式通常不直接给出区间，且计算可能复杂，但作为理论基准，它们值得在引言中讨论。 - Kuchibhotla and Zheng (2021) 的近最优置信序列：该工作利用Bentkus界构造了近乎最优的置信序列，与本文的“计划窗口置信序列”（附录C）直接相关。作者在附录B中引用了它，但未在引言中提及。

张力¶

未见明显对立引用。所有被引工作基本沿着“更紧的界”或“更广的适用性”方向推进，没有在相同设定下得出相反结论的。一个潜在的张力是：Gaffke区间在iid下经验上最窄，但依赖独立性；赌注方法满足鞅有效性但效率不足。本文试图调和这一张力，证明鞅有效性不必以效率为代价。

二、最核心、最简单的例子 / 数学问题¶

第一步：把符号、模型、可观测数据交代清楚¶

符号：
\(X_i \in [0,1]\)：第i次观测到的随机变量，取值于[0,1]。
\(\mu = \mathbb{E}[X_i \mid \mathcal{F}_{i-1}]\)：未知的条件期望，对所有i相同。\(\mathcal{F}_{i-1}\)是到i-1时刻为止的信息集。
\(n\)：固定样本量（horizon）。
\(\delta\)：双边检验的显著性水平（如0.01），置信水平为\(1-\delta\)。
\(z_{1-\delta/2} = \Phi^{-1}(1-\delta/2)\)：标准正态分布的\(1-\delta/2\)分位数。
\(\Phi, \phi\)：标准正态分布的CDF和PDF。
\(K_i^+(m), K_i^-(m)\)：对候选均值m，上尾和下尾的财富过程（wealth process），初始值为1。
\(\ell_{i,n}^+(m), \ell_{i,n}^-(m)\)：第i轮、固定水平n下，对候选均值m的上尾和下尾赌注比例（betting fraction）。
\(\hat{v}_{i-1}\)：共享的可预测方差估计量，定义见(1.3)。
\(U^+, U^- \sim \text{Unif}(0,1)\)：用于随机化马尔可夫校准的独立均匀随机变量。
\(I_n\)：确定性置信区间（\(U^+=U^-=1\)）；\(I_n(U^+, U^-)\)：随机化置信区间。
\(\psi(p) = \phi(\Phi^{-1}(p))/p\)：核心函数，定义在(0,1)上，\(\psi(0)=\infty, \psi(1)=0\)。
模型：
数据生成机制：观测序列\(X_1, \ldots, X_n\)，每个\(X_i \in [0,1]\)，且满足条件期望恒为\(\mu\)：\(\mathbb{E}[X_i \mid \mathcal{F}_{i-1}] = \mu\)。不要求独立性，允许任意形式的鞅依赖（如自回归、异方差等）。这是最弱的模型假设之一。
要估计的对象：\(\mu\)（未知参数）。
已知量：\(n, \delta\)，以及观测到的\(X_i\)序列。
可观测数据：
研究者实际能观测到的是：\(X_1, \ldots, X_n\)的样本值，以及由它们生成的\(\mathcal{F}_i\)（即历史信息）。
潜在/不可观测量：\(\mu\)（要估计的对象），以及任何高阶矩或分布形式。所有推断必须仅基于可观测数据和模型假设（条件期望恒为\(\mu\)）。

第二步：讲最小内核¶

本文的核心思路可以用一个最简特例来理解：假设数据是iid高斯分布（虽然论文处理的是有界数据，但高斯实验是设计赌注比例的思想实验）。

在这个特例下，考虑检验\(H_0: \mu = m\) vs \(H_1: \mu > m\)（单边）。固定水平n，最有效的检验是z检验：当\(\sqrt{n}(\bar{X}_n - m)/\sigma > z_{1-\delta/2}\)时拒绝。这个检验的拒绝域是\(A^* = \{\sqrt{n}(\bar{X}_n - m)/\sigma > z_{1-\delta/2}\}\)。

现在，我们想构造一个赌注策略，使得其终端财富\(K_n(m)\)在\(H_0\)下是e值（即\(\mathbb{E}_{H_0}[K_n(m)] \leq 1\)），并且当\(H_0\)不成立时快速增长。关键想法是：让赌注比例追踪最优检验的条件拒绝概率。

在时间t（已观测到\(X_1, \ldots, X_t\)），给定当前的部分和\(S_t = \sum_{i=1}^t X_i\)，最优检验\(A^*\)的条件拒绝概率（在\(H_0\)下）是：

\[p_t = \mathbb{P}_{H_0}(A^* \mid \mathcal{F}_t) = \Phi\left( \frac{S_t - tm}{\sigma\sqrt{n-t}} - z_{1-\delta/2} \right).\]

这里，\(\sigma\sqrt{n-t}\)是剩余部分的标准差。\(p_t\)是一个鞅（Doob鞅），初始值\(p_0 = \delta/2\)，终端值\(p_n = 1_{A^*}\)。

现在，我们想用赌注来“复制”这个鞅。在连续时间高斯实验中，\(p_t\)的随机微分是：

\[dp_t = \frac{\phi(\Phi^{-1}(p_t))}{\sqrt{1-t}} dY_t,\]

其中\(Y_t\)是标准化部分和（布朗运动）。因此，赌注比例（即财富的瞬时增长率）应该是：

\[\frac{dp_t}{p_t} = \frac{\phi(\Phi^{-1}(p_t))}{p_t \sqrt{1-t}} dY_t = \frac{\psi(p_t)}{\sqrt{1-t}} dY_t.\]

所以，每单位标准化增量应赌的财富比例是\(\psi(p_t)/\sqrt{1-t}\)。

将这个连续时间结果离散化到有界数据： - 用可预测方差估计\(\hat{v}_{i-1}\)代替\(\sigma^2\)。 - 用剩余观测数\(n-i+1\)代替剩余时间\(1-t\)。 - 赌注比例变为：\(\ell_{i,n}(m) = \psi(p_{i-1}) / \sqrt{(n-i+1)\hat{v}_{i-1}}\)，其中\(p_{i-1} = (\delta/2)K_{i-1}(m)\)是当前财富占拒绝阈值的比例。 - 加上非负性截断（cap）后，就得到了论文中的(1.4)式。

这个最小内核揭示的核心思想是：最优赌注比例不是任意选择的，而是由你想要追踪的终端检验事件唯一决定的。追踪指数型e值（产品赌注）或屏障击中事件（STaR）都会导致效率损失；只有追踪Neyman-Pearson检验（即CLT检验）的条件拒绝概率，才能达到高斯效率。

三、这篇论文做了什么¶

三句话¶

研究了什么问题：针对取值于[0,1]且条件期望恒为\(\mu\)的随机变量序列，构造一个非渐近置信区间，使其同时满足鞅有效性、iid高斯效率和计算简便性（区间凸性）。
核心工具/方法：提出“高斯有效赌注”（GE-betting），其赌注比例由追踪极限高斯实验中最优固定水平检验（z检验）的条件拒绝概率导出，核心函数为\(\psi(p) = \phi(\Phi^{-1}(p))/p\)。
主要结论：证明了该区间在鞅依赖下的有限样本有效性、在iid下的高斯效率（宽度渐近达到CLT基准），以及区间凸性（当共享方差估计量时）。模拟表明，其确定性版本优于STaR-Bets，与Gaffke竞争；随机化版本全面超越两者。该方法还扩展到了无放回抽样，同样达到最优经验性能。

关键设定与假设¶

设定：固定水平\(n\)，观测\(X_1, \ldots, X_n \in [0,1]\)。
核心假设：\(\mathbb{E}[X_i \mid \mathcal{F}_{i-1}] = \mu\)（条件期望恒为\(\mu\)）。不要求独立性、同分布、或方差齐性。这是鞅有效性成立的基础。
其他假设：
对于iid效率分析，额外假设数据是iid的，且\(\mu \in (0,1)\)，方差\(\sigma^2 > 0\)。
对于无放回抽样，假设总体\(x_{1:N} \in [0,1]^N\)固定，样本以均匀随机顺序无放回抽取。
相比已有文献的放宽/强化：
放宽：相比Gaffke区间（依赖独立性），本文允许任意鞅依赖。
强化：相比所有此前赌注方法（产品赌注、STaR），本文首次实现了iid高斯效率（宽度收敛到CLT基准，而非更宽的极限）。
关键技巧：共享方差估计量\(\hat{v}_{i-1}\)（对所有候选均值m和两个尾过程相同）是保证区间凸性的关键，且模拟表明这几乎不损失宽度。

主要结果¶

Theorem 5.1（核心定理）：对于GE-betting区间\(I_n\)（确定性版本）：
鞅有效性：对任意满足条件期望恒为\(\mu\)的序列，\(\mathbb{P}\{\mu \in I_n\} \geq 1-\delta\)。
区间凸性：\(I_n\)对每个数据序列都是一个区间（可能为空）。
iid高斯效率：若数据iid且\(\mu \in (0,1), \sigma^2>0\)，则\(\sqrt{n} \cdot \text{len}(I_n) / (2\sigma) \xrightarrow{a.s.} z_{1-\delta/2}\)。即宽度渐近等于CLT区间宽度。
随机化版本：\(I_n(U^+, U^-) \subseteq I_n(1,1)\)路径wise，因此其宽度上界也是高斯有效的。
Theorem 7.1（无放回抽样）：类似的三重保证，但效率基准是有限总体CLT宽度\(2z_{1-\delta/2} \tau_{N,n}\)，其中\(\tau_{N,n} = \sigma_N \sqrt{(N-n)/(n(N-1))}\)。
模拟结果：
在9种分布（包括低方差）和\(n\)从10到\(10^6\)的广泛范围内，GE-betting的确定性版本宽度始终优于STaR-Bets，且与Gaffke区间竞争（在低方差设定下更窄）。
随机化版本（均匀随机化马尔可夫校准）全面超越Gaffke和STaR，在\(n=10^6\)时宽度与CLT基准的差距小于0.11%。
在无放回抽样下，GE-betting同样优于WSR running intersection，接近有限总体CLT基准。

证明路线与技术技巧（理论型）¶

整体路线（以Theorem 5.1的iid效率证明为例，分为四步）：

Step 1: 有限样本有效性与区间凸性（非渐近）：
在真实均值\(\mu\)处，上尾和下尾财富过程都是非负鞅（test supermartingale），因此终端e值有效。
马尔可夫不等式和联合界给出覆盖概率。
区间凸性由Proposition 6.1保证：当赌注金额函数\(\sigma_f(p) = p\psi(p) = \phi(\Phi^{-1}(p))\)是凹函数且共享方差估计量时，上尾财富关于m非增、下尾财富关于m非减，因此反演集是区间。
Step 2: 强预终止追踪（Strong Preterminal Tracking）（渐近，核心步骤）：
在最后\(k_n = \lfloor \sqrt{n} (\log(n+1))^8 \rfloor\)个观测之前，对相对财富\(p_i = (\delta/2)K_i\)进行\(\Phi^{-1}\)变换，得到\(q_i = \Phi^{-1}(p_i)\)。
利用关键恒等式\((\Phi^{-1})'(p) \phi(\Phi^{-1}(p)) = 1\)，证明\(q_i\)的一阶增量近似等于标准化观测值\(Y_i / \sqrt{r_i \hat{v}_{i-1}}\)，不依赖于当前财富水平。这是GE-betting区别于STaR和产品赌注的核心：后两者的\(q_i\)增量仍依赖于财富，导致效率损失。
通过精细的泰勒展开和鞅不等式，证明在预终止时刻\(j_n = n - k_n\)，\(q_{j_n}\)近似等于标准化部分和\(Z_n + h - z_{1-\delta/2}\)（对局部候选均值\(m = \mu - h\sigma/\sqrt{n}\)）。
Step 3: 可和终止极化（Summable Terminal Polarization）：
处理最后\(k_n\)个观测。证明如果预终止时的\(q_{j_n}\)为正且足够大（> \(Q_n\)），则财富几乎必然在终止前达到拒绝阈值\(2/\delta\)；如果为负且足够小，则财富几乎必然保持在阈值以下。
证明的关键是利用对数尾部概率\(H^+(q) = \log(1-\Phi(q))\)和\(H^-(q) = \log \Phi(q)\)的更新，以及逆Mills比率的性质。通过将\(q\)的幅度划分为几何尺度（\(2^s Q_n\)），证明在每个尺度上，财富下降一半的概率是指数小的，且这些概率可和。
Step 4: 从网格决策到区间端点：
利用单调性（上尾财富关于m非增），将Step 2和Step 3中在离散网格上的决策转化为区间端点的几乎必然界限。
最终得到\(\sqrt{n} \cdot \text{len}(I_n) / (2\sigma) \xrightarrow{a.s.} z_{1-\delta/2}\)。

关键跳跃点： - 从追踪“错误”事件到追踪“正确”事件：这是概念上的最大跳跃。作者通过条件e值框架统一了产品赌注、STaR和GE-betting，揭示了它们分别追踪指数型e值、屏障击中事件和Neyman-Pearson检验。只有后者是高斯有效的。 - \(\Phi^{-1}\)变换的恒等式：\((\Phi^{-1})'(p) \phi(\Phi^{-1}(p)) = 1\)使得\(q_i\)的一阶增量不依赖于当前财富，这是证明效率的核心技术技巧。这个恒等式将赌注更新“线性化”了。 - 预终止与终止的分离：将证明分为预终止（精细泰勒展开）和终止（直接概率控制）两部分，分别处理。预终止阶段利用大数定律和鞅CLT，终止阶段利用小样本概率论。

技术技巧点名： - \(\Phi^{-1}\)变换（normal-quantile transform）：将乘性赌注更新转化为加性更新，并利用恒等式消除财富依赖性。 - 鞅Hoeffding不等式与Bernstein不等式：用于控制泰勒展开的余项和方差估计误差。 - Borel-Cantelli引理：用于将几乎必然收敛转化为概率1的事件。 - 逆Mills比率：用于控制对数尾部概率的更新，处理终止阶段的极化问题。 - 几何尺度划分（dyadic decomposition）：将\(q\)的幅度划分为\(2^s Q_n\)，分别控制每个尺度上的下穿概率。 - 桥时钟（bridge clock）：在无放回抽样证明中，使用\(r_{i,N} = (n-i+1)(N-n)/(N-i)\)作为方差时钟，其递减速率与布朗桥的方差时钟匹配，这是实现有限总体高斯效率的关键。

真实例子与应用¶

本文为纯理论+模拟论文，无真实数据例子。模拟实验设计非常详尽： - 数据：9种有界分布，包括6种标准分布（Beta(2,2), Beta(1,5), Beta(1/2,1/2), Uniform(0,1), Bernoulli(.5), Bernoulli(.1)）和3种低方差分布（Beta(50,50), Beta(20,80), Uniform(.45,.55)）。 - 场景：有放回抽样（iid）和无放回抽样（固定总体，随机顺序揭示）。 - 对比方法：产品赌注、STaR-Bets、Gaffke区间（及其随机化版本）、WSR running intersection、Bardenet-Maillard区间、Shekhar-Ramdas区间等。 - 校准：确定性马尔可夫校准和均匀随机化马尔可夫校准。 - 结果：GE-betting（尤其是随机化版本）在所有分布和大样本下均优于或竞争于所有对比方法，验证了理论效率。

🔎 结论是否比证明窄¶

随机化版本的效率：Theorem 5.1只证明了确定性版本\(I_n(1,1)\)的高斯效率，对随机化版本\(I_n(U^+, U^-)\)只给出了\(\limsup_n \sqrt{n} \cdot \text{len}(I_n(U^+, U^-)) \leq 2\sigma z_{1-\delta/2}\)（几乎必然）。没有证明随机化版本也几乎必然收敛到CLT宽度，只证明了它不会更宽。模拟显示随机化版本更窄，但理论保证稍弱。
“计划窗口置信序列”（Appendix C）：该构造的渐近效率没有被证明。作者只证明了有限样本有效性和区间凸性，但未给出类似Theorem 5.1的渐近宽度结果。模拟显示其表现良好，但理论效率是开放的。
“平方铰链赌注”（Appendix B）：该构造的渐近效率只给出了一个“启发式预测”（heuristic prediction），没有严格证明。作者明确说“This local prediction concerns the component containing the empirical mean and does not exclude remote accepted components.” 因此，其理论保证弱于GE-betting。

四、开放问题¶

扩展到方差、向量均值、矩阵均值等：作者在结论中明确指出，将条件e值构造推广到方差推断（Maurer and Pontil, 2009; Catoni, 2012）、欧几里得或光滑Banach空间中的向量均值（Pinelis, 1994; Catoni and Giulini, 2018）、自正则化构造（de la Peña et al., 2004）以及矩阵均值（Tropp, 2012）是“特别有前景的研究方向”。扎根于：Section 8, “Two lines of research appear particularly promising. First, this conditional-e-value construction suggests a broader efficiency theory for e-values... Natural extensions beyond the one-dimensional mean include inference on variance, vector-valued means... matrix-valued means.”
扩展到非有界观测：作者提出，目标是用条件矩或尾部假设替换已知范围[0,1]，同时保留有限样本有效的e值和高斯效率。可能的工具包括可预测截断和混合e值。扎根于：Section 8, “Second, the construction could be extended beyond bounded observations. The goal is to replace the known range used in Section 5.2 by conditional moment or tail assumptions while retaining finite-sample-valid e-values and Gaussian efficiency.”
匹配下界：本文证明了GE-betting在iid下达到CLT效率，但未证明这是赌注方法能达到的最优效率。是否存在一个下界，说明任何鞅有效的赌注区间都不能比CLT更窄？或者，是否存在一个比CLT更窄的鞅有效区间？扎根于：Section 8, “For a given local statistical experiment, one would like to characterize which rejection regions can be tracked without first-order loss by nonnegative betting processes and obtain matching lower bounds.” 这是一个更基础的效率理论问题。
计划窗口置信序列的渐近效率：Appendix C中的“stitched GE-betting”构造了计划窗口内的置信序列，但未证明其渐近效率。模拟显示其终端宽度接近CLT，但理论保证缺失。扎根于：Appendix C仅证明了有限样本有效性和区间凸性，未给出类似Theorem 5.1的渐近宽度定理。这是一个明确的开放问题。

Maintained by 陈星宇 · Homepage · Source on GitHub