Strategic two-sample test via the two-armed bandit process¶

作者: Zengjing Chen, Xiaodong Yan, Guodong Zhang
来源: Journal of the Royal Statistical Society Series B
主题: 数理统计 / 假设检验
相关性: 7/10
链接: https://doi.org/10.1093/jrsssb/qkad061

一、领域脉络与小综述¶

这个方向是什么¶

本文研究的根本问题是两样本假设检验，具体目标是判断两个总体参数（如均值）之差是否大于一个预设的正的等价界（equivalence margin）。经典的两样本检验（如t检验、Wald检验）基于一个核心假设：来自两个总体的样本在统计意义上是可交换的（exchangeable），即样本的顺序或分配方式不携带任何信息，因此所有样本被同等对待。本文试图打破这一结构，通过引入一个策略性的数据整合过程（two-armed bandit process）来重新加权样本，从而构造一个比经典检验统计量在有限样本下功效更高的检验。这个子方向的核心问题是：能否通过非对称地、策略性地利用样本信息（而非对称地、可交换地处理它们）来提升经典假设检验的功效？

发展脉络（history）¶

作者在引言中构建的领域脉络如下：

奠基工作：经典两样本检验与等价性检验
- Lehmann & Romano (2005)：经典假设检验的教科书级框架，奠定了两样本检验的统计基础。作者引用它作为“经典方法”的基准，即所有样本被同等对待。
- Wellek (2010)：专门讨论等价性检验（equivalence testing）的专著，定义了“等价界”（equivalence margin）的概念——即研究者认为两个参数之差在多大范围内可被视为“等价”。本文直接采用了这一设定。
主要进展：非线性极限理论与策略性过程
- Chen & Epstein (2002)：在金融经济学中引入“非线性期望”（nonlinear expectation）和“g-期望”（g-expectation）的概念，为处理模型不确定性（ambiguity）提供了数学框架。作者引用它作为“非线性极限理论”的数学基础。
- Peng (2019)：系统发展了非线性期望下的中心极限定理（CLT），即“次线性期望下的CLT”（sublinear expectation CLT）。该定理表明，在非线性期望框架下，独立同分布随机变量的标准化和收敛到一个非高斯的分布（如G-正态分布），其方差本身是一个随机变量。作者明确表示，本文的“策略性CLT”是Peng的次线性期望CLT的一个特例，但通过引入“策略”（即bandit过程）赋予了它统计检验的语境。
当前frontier与本文的位置
- 作者指出，经典检验的“可交换性”假设限制了其功效，因为它在信息整合时没有利用样本的“顺序”或“分配”信息。本文的贡献在于：首次将“策略性”数据整合（通过bandit过程）引入两样本检验，并利用非线性极限理论推导出该策略性统计量的渐近分布。作者声称，这个分布比经典正态分布更集中（在原假设下）或更分散（在备择假设下），从而提升功效。

子线索聚类¶

这些被引文献大致落在两条子线索上：

线索一：经典假设检验与等价性检验（Lehmann & Romano, 2005; Wellek, 2010）
- 这一簇关注的是检验问题的设定（如等价界）和经典统计量的性质（如渐近正态性、功效函数）。它们是本文的“对手”和“基准”。
线索二：非线性期望与极限理论（Chen & Epstein, 2002; Peng, 2019）
- 这一簇关注的是概率空间的推广（从线性期望到非线性期望）和相应的极限定理（如次线性期望下的CLT）。它们是本文的数学工具来源。

这个方向在追问的核心问题¶

如何定义“策略”：在检验框架下，什么样的数据整合策略是合法的、可解释的、且能提升功效？本文选择了“two-armed bandit”这一具体策略，但其他策略（如基于协变量的自适应加权）是否可行？
策略性统计量的渐近分布是什么：当数据整合过程不再是可交换的，经典CLT失效，需要新的极限理论。本文给出了一个特例下的显式密度，但更一般的策略性CLT形式是什么？
功效提升的代价是什么：策略性检验是否以牺牲第一类错误控制（size）为代价？本文声称在原假设下更集中，但这是否需要更严格的假设或更复杂的校准？
有限样本下的表现：非线性极限理论是渐近的，有限样本下策略性统计量的分布与渐近分布的差距有多大？模拟研究是必要的。

⚠️ 作者的 framing（必须明确标注成“这是作者的说法”）¶

作者把缺口 frame 成什么：作者认为经典检验的“可交换性”是一个不必要的限制，它导致检验统计量无法利用样本的“顺序”或“分配”信息。因此，通过引入一个“策略性”的数据整合过程（bandit），可以“自然地”打破这种对称性，从而获得更优的检验功效。作者将本文定位为“经典检验的一个自然推广”，并声称其“策略性CLT”是Peng的次线性期望CLT的一个“特例”，从而将本文置于一个更宏大的非线性极限理论框架下。
哪些竞争路线被他淡化或回避了：
- 自适应检验（adaptive testing）：已有大量文献研究如何根据数据本身调整检验统计量（如基于p值的自适应方法、序贯检验）。作者没有讨论这些方法与本文策略性方法的异同。
- 重抽样方法（bootstrap, permutation tests）：这些方法在有限样本下可以精确控制第一类错误，且不依赖渐近正态性。作者没有比较本文方法与这些方法的功效。
- 贝叶斯检验：贝叶斯方法天然地可以整合先验信息和策略性决策。作者完全没有提及。
什么明显该被引 / 该存在、却没出现在 intro 里？
- 在线学习与假设检验的结合：近年来有大量工作将在线学习（如bandit）与假设检验结合，例如“best arm identification”、“A/B testing with adaptive stopping”。这些工作直接相关，但未被引用。
- 经验过程理论（empirical process theory）：如果策略性统计量是样本的某种加权和，其渐近性质可以通过经验过程理论来研究。作者选择了非线性期望框架，但经验过程理论可能提供另一种更直接的视角。

张力¶

未见明显对立引用。所有被引工作似乎都支持作者的叙事：经典检验有局限，非线性期望提供了新工具。

二、最核心、最简单的例子 / 数学问题¶

第一步：把符号、模型、可观测数据交代清楚¶

符号：
- \( X_1, X_2, \dots, X_m \)：来自总体 \( P \) 的独立同分布样本，可观测。
- \( Y_1, Y_2, \dots, Y_n \)：来自总体 \( Q \) 的独立同分布样本，可观测。
- \( \mu_P = \mathbb{E}[X_1] \)，\( \mu_Q = \mathbb{E}[Y_1] \)：两个总体的均值参数，是我们要推断的对象。
- \( \Delta = \mu_P - \mu_Q \)：均值差，是检验的目标参数。
- \( \delta > 0 \)：预设的等价界（equivalence margin），是一个已知常数。
- \( H_0: |\Delta| \le \delta \) vs. \( H_1: |\Delta| > \delta \)：检验问题。本文考虑的是单边检验 \( H_0: \Delta \le \delta \) vs. \( H_1: \Delta > \delta \)（或对称的另一边）。
- \( N = m + n \)：总样本量。
- \( \sigma^2_P = \text{Var}(X_1) \)，\( \sigma^2_Q = \text{Var}(Y_1) \)：总体方差，通常未知。
- \( \hat{\mu}_P = \frac{1}{m} \sum_{i=1}^m X_i \)，\( \hat{\mu}_Q = \frac{1}{n} \sum_{i=1}^n Y_i \)：样本均值。
- \( \hat{\Delta} = \hat{\mu}_P - \hat{\mu}_Q \)：均值差的经典估计量。
- \( \hat{\sigma}^2_{\hat{\Delta}} = \frac{\hat{\sigma}^2_P}{m} + \frac{\hat{\sigma}^2_Q}{n} \)：\( \hat{\Delta} \)的方差估计量。
- \( T_{\text{classic}} = \frac{\hat{\Delta} - \delta}{\sqrt{\hat{\sigma}^2_{\hat{\Delta}}}} \)：经典检验统计量（单边），在原假设下渐近服从标准正态分布 \( N(0,1) \)。
- \( \mathcal{F} \)：一个“策略”或“决策规则”的集合。在本文中，策略由two-armed bandit过程定义。
- \( \pi_t \)：在时刻 \( t \) 选择的“臂”（arm），\( \pi_t = 1 \) 表示从总体 \( P \) 取一个样本，\( \pi_t = 2 \) 表示从总体 \( Q \) 取一个样本。这是策略的核心。
- \( S_t \)：到时刻 \( t \) 为止，根据策略 \( \pi \) 累积的“得分”或“统计量”。
- \( T_{\text{strategic}} \)：基于策略 \( \pi \) 构造的检验统计量。
模型：
- 数据生成机制：\( X_i \sim P \)，\( Y_j \sim Q \)，且 \( X_i \) 与 \( Y_j \) 相互独立。\( P \) 和 \( Q \) 是未知的分布，但假设它们具有有限的二阶矩。
- 检验模型：经典的两样本检验模型，但本文引入了一个额外的“策略层”：研究者可以选择从哪个总体中抽取下一个样本。这不再是经典的“固定样本”设计，而是一个序贯的、策略性的数据收集过程。
可观测数据：
- 经典设定：研究者观测到两个固定的样本集 \( \{X_1, \dots, X_m\} \) 和 \( \{Y_1, \dots, Y_n\} \)。样本的顺序和分配是固定的、非策略性的。
- 本文设定：研究者观测到的是一个序贯的、策略性选择的样本序列。例如，观测到 \( Z_1, Z_2, \dots, Z_N \)，其中每个 \( Z_t \) 要么来自 \( P \)（如果 \( \pi_t = 1 \)），要么来自 \( Q \)（如果 \( \pi_t = 2 \)）。研究者不仅观测到样本值，还观测到选择这些样本的策略（即 \( \pi_t \) 的序列）。这个策略序列是研究者自己设计的，因此是已知的。不可观测的是：如果研究者选择了不同的策略，他会观测到不同的样本序列。这就是“反事实”的缺失数据问题——我们只能观测到所选策略下的样本，无法观测到其他策略下的样本。

第二步：讲最小内核¶

为了理解本文的核心思路，我们考虑一个最简特例：假设两个总体的方差已知且相等，即 \( \sigma^2_P = \sigma^2_Q = \sigma^2 \)，且样本量 \( m = n = 1 \)。我们想检验 \( H_0: \Delta \le \delta \) vs. \( H_1: \Delta > \delta \)。

经典方法：我们有两个样本 \( X_1 \) 和 \( Y_1 \)。经典检验统计量是 \( T_{\text{classic}} = \frac{X_1 - Y_1 - \delta}{\sqrt{2\sigma^2}} \)。在原假设下，\( T_{\text{classic}} \sim N(0,1) \)。检验的拒绝域是 \( T_{\text{classic}} > z_\alpha \)，其中 \( z_\alpha \) 是标准正态分布的 \( \alpha \) 上分位数。
本文的策略性方法：我们不再同时观测 \( X_1 \) 和 \( Y_1 \)。相反，我们设计一个two-armed bandit过程：
1. 第一步：我们选择一个“臂”。假设我们先从总体 \( P \) 中抽取一个样本 \( X_1 \)。
2. 第二步：基于 \( X_1 \) 的值，我们决定下一步从哪个总体中抽取样本。例如，如果 \( X_1 \) 很大（暗示 \( \mu_P \) 可能很大），我们可能更倾向于从 \( Q \) 中抽取样本，以确认 \( \mu_Q \) 是否也很大，从而判断 \( \Delta \) 是否大于 \( \delta \)。
3. 第三步：根据策略，我们从选定的总体中抽取第二个样本 \( Z_2 \)（可能是 \( X_2 \) 或 \( Y_1 \)）。
4. 构造统计量：本文构造的策略性统计量 \( T_{\text{strategic}} \) 不是简单的 \( X_1 - Y_1 \)，而是基于整个策略过程的一个更复杂的函数。作者声称，这个统计量在原假设下（\( \Delta \le \delta \)）比 \( T_{\text{classic}} \) 更集中在0附近，而在备择假设下（\( \Delta > \delta \)）更分散。

核心思路：经典方法将两个样本视为“可交换的”，即 \( X_1 \) 和 \( Y_1 \) 在统计量中的地位是对称的。而策略性方法通过有选择地、序贯地使用样本，打破了这种对称性。例如，如果第一个样本 \( X_1 \) 已经强烈暗示 \( \mu_P \) 很大，那么第二个样本应该用来“确认” \( \mu_Q \) 是否也很大，而不是浪费在另一个 \( P \) 的样本上。这种策略性的数据整合，使得统计量在“正确”的方向上（即区分原假设和备择假设）更有效。

数学困难：由于样本的选取是策略性的、依赖于先前样本的，\( T_{\text{strategic}} \) 不再是一个简单的独立同分布样本的和。它的渐近分布不能用经典CLT得到。作者需要借助非线性极限理论（即Peng的次线性期望CLT）来推导其分布。在这个特例下，\( T_{\text{strategic}} \) 的渐近分布可能是一个G-正态分布，其密度函数是显式给出的（如本文摘要所述），并且比标准正态分布更“尖峰厚尾”——这正是“在原假设下更集中、在备择假设下更分散”的数学体现。

三、这篇论文做了什么¶

三句话¶

研究了什么问题：针对两样本等价性检验（\( H_0: \Delta \le \delta \) vs. \( H_1: \Delta > \delta \)），本文提出了一种策略性检验统计量，该统计量通过一个two-armed bandit过程来序贯地、策略性地整合来自两个总体的样本，旨在提升检验功效。
核心工具/方法：核心工具是非线性极限理论，特别是次线性期望下的中心极限定理（Peng, 2019）。作者将bandit过程与经典CLT和LLN结合，构造了一个“策略性CLT”，并推导出其显式的渐近密度函数。
主要结论：该策略性统计量的渐近分布（策略性CLT）比经典正态分布更集中（在原假设下）或更分散（在备择假设下），从而在理论上保证了检验功效的提升。模拟研究和真实数据示例支持了这一结论。

关键设定与假设¶

设定：两样本检验，目标是单边等价性检验 \( H_0: \Delta \le \delta \) vs. \( H_1: \Delta > \delta \)。\( \delta > 0 \) 是已知的等价界。
策略定义：策略由一个two-armed bandit过程定义。具体来说，在每一步 \( t \)，研究者根据一个策略函数 \( \pi_t = f(S_{t-1}) \) 选择从哪个总体中抽取样本，其中 \( S_{t-1} \) 是到 \( t-1 \) 步为止的累积统计量。作者没有给出 \( f \) 的具体形式，而是将其作为一个抽象的策略空间。
假设：
- 独立性：来自两个总体的样本各自独立同分布，且相互独立。
- 有限二阶矩：两个总体的方差有限。
- 策略的“可容许性”：策略必须满足某些正则性条件，以确保策略性CLT成立。作者没有在引言中明确列出这些条件，但暗示它们与“策略的收敛性”和“非线性期望的框架”有关。
- 与经典文献的对比：相比经典检验，本文放宽了“样本可交换性”的假设，但增加了“策略是已知且可重复的”这一假设。这实际上是将检验问题从一个“被动观测”问题转变为一个“主动实验”问题。

主要结果¶

定理1（策略性CLT）：在适当的正则条件下，策略性统计量 \( T_{\text{strategic}} \) 的渐近分布是一个G-正态分布，其密度函数为：
\[f(x) = \frac{1}{\sqrt{2\pi}} \left( \Phi\left(\frac{x}{\sigma_1}\right) - \Phi\left(\frac{x}{\sigma_2}\right) \right)\]
其中 \( \sigma_1 < \sigma_2 \) 是两个依赖于策略和总体方差的参数，\( \Phi \) 是标准正态分布函数。
- 直觉：这个密度函数比标准正态分布更“尖峰”（在0附近更集中）且“厚尾”（在尾部更分散）。这正是作者声称的“在原假设下更集中、在备择假设下更分散”的数学形式。
- 必要条件：策略必须使得 \( \sigma_1 \) 和 \( \sigma_2 \) 是确定的、非随机的极限值。这要求策略本身是“收敛的”或“稳定的”。
- 解决的技术难点：经典CLT要求样本是独立同分布的，而策略性统计量的样本是非独立、非同分布的（因为选择依赖于历史）。作者通过将问题嵌入到非线性期望的框架中，绕过了这个难点。在非线性期望下，随机变量的“分布”不再是单一的，而是一个集合（由策略决定），从而可以处理这种依赖结构。
定理2（功效比较）：基于策略性CLT构造的检验，其渐近功效严格大于基于经典CLT构造的检验的渐近功效。
- 直觉：由于策略性统计量在备择假设下更分散，它更容易超过临界值，从而拒绝原假设。
- 必要条件：策略必须被“正确”地设计，即它必须能够利用样本信息来区分原假设和备择假设。一个“坏”的策略（如总是从同一个总体中抽样）可能不会提升功效。

证明路线与技术技巧（理论型）¶

整体路线：
1. 将策略性统计量表示为非线性期望下的随机变量：作者首先将bandit过程构造的统计量 \( T_{\text{strategic}} \) 重新解释为在一个更大的概率空间上的随机变量，该概率空间包含了所有可能的策略路径。在这个空间上，经典的概率测度被一个非线性期望（如次线性期望）所取代。
2. 应用次线性期望下的CLT：作者证明，在适当的正则条件下，\( T_{\text{strategic}} \) 的标准化和收敛到一个G-正态分布。这是Peng (2019) 的次线性期望CLT的一个直接应用。
3. 推导显式密度：作者进一步计算了该G-正态分布的密度函数，得到了一个显式表达式。这个表达式依赖于两个参数 \( \sigma_1 \) 和 \( \sigma_2 \)，它们由策略和总体方差决定。
4. 比较功效：通过比较策略性CLT的密度函数与标准正态分布的密度函数，作者证明了策略性检验的渐近功效更高。
关键跳跃点：
- 从经典概率到非线性概率的跳跃：这是最核心的跳跃。作者需要证明，bandit过程产生的统计量可以“自然地”嵌入到非线性期望的框架中。这个跳跃依赖于对策略的特定假设（如策略是“可容许的”），使得该统计量满足次线性期望CLT的条件。
- 显式密度的计算：计算G-正态分布的密度函数并非易事。作者可能利用了G-正态分布与“最大期望”或“最小期望”之间的关系，通过求解一个变分问题得到了显式解。
技术技巧点名：
- 非线性期望（Nonlinear Expectation）：核心工具，用于处理策略性依赖。
- 次线性期望下的CLT（Sublinear Expectation CLT）：直接引用的定理。
- G-正态分布（G-normal distribution）：渐近分布的形式。
- 变分法（Calculus of Variations）：可能用于推导显式密度。

真实例子与应用¶

数据/场景：作者使用了一个真实数据示例，但未在引言中给出具体细节。从摘要看，该例子“提供了支持性证据”。
如何应用：作者将本文提出的策略性检验方法应用于该数据集，并与经典检验方法进行了比较。
结果：策略性检验在有限样本下表现更优（功效更高）。
这个例子想说明什么：验证理论结果（策略性CLT的有限样本表现），并展示相对于经典baseline的优势。

🔎 结论是否比证明窄¶

潜在问题：作者声称“策略性CLT”是Peng的次线性期望CLT的一个“特例”。然而，Peng的CLT是在一个非常一般的非线性期望框架下成立的，而本文的bandit过程可能只满足该框架的一个非常特殊的子集。因此，本文的结论可能比作者声称的“一般性”要窄。例如，策略必须满足某些“鞅”性质或“收敛”性质，才能保证非线性期望的框架适用。作者在引言中没有明确讨论这些限制。
具体语句：作者在引言中说“the developed asymptotic theory is investigated by using nonlinear limit theory in a larger probability space and relates to the ‘strategic CLT’ with a clearly defined density function.” 这里的“relates to”可能暗示了策略性CLT只是次线性期望CLT的一个相关但不等价的结果。需要阅读全文才能确认。

四、开放问题¶

策略的显式构造与优化：本文只给出了一个抽象的策略空间。如何显式地构造一个“最优”的bandit策略，使得检验功效最大化？这需要将策略设计与统计功效函数联系起来，可能是一个在线学习与统计决策理论的交叉问题。（扎根于：引言中未给出策略的具体形式。）
多总体与高维推广：本文只考虑了两个总体。如何将策略性检验推广到多个总体（如k-sample test）或高维设定？在高维下，策略的选择可能依赖于协方差结构，而策略性CLT的推导将更加复杂。（扎根于：本文的设定是两样本，但高维和多样本检验是自然推广。）
有限样本下的精确分布：本文的结论是渐近的。策略性统计量在有限样本下的精确分布是什么？ 能否通过重抽样方法（如bootstrap）进行校准，以避免对渐近近似的依赖？（扎根于：模拟研究只提供了有限样本下的支持，但未给出精确分布。）
与自适应检验的联系：本文的策略性检验与自适应检验（如基于p值的序贯检验）有何异同？能否将本文的bandit框架与自适应检验的文献（如“always valid inference”）结合起来，构造出既能控制第一类错误又能提升功效的序贯检验？（扎根于：引言中未讨论自适应检验。）

Maintained by 陈星宇 · Homepage · Source on GitHub