跳转至

Cramér-type moderate deviation of normal approximation for unbounded exchangeable pairs

作者: Zhuo-Song Zhang
来源: Bernoulli
主题: 数理统计 / 假设检验
相关性: 6/10
链接: 期刊页 · arXiv

一、领域脉络与小综述

这个方向是什么

这个子方向是Stein方法框架下的正态逼近中偏差理论。它要解决的根本问题是：当用正态分布近似一个依赖随机变量（如U-统计量、图统计量、统计力学模型的总磁化强度）的分布时，能否在中等偏差区域（即偏离均值 \(x = o(\sqrt{n})\) 但尚未进入大偏差区域）给出相对误差的精确刻画，而不仅仅是像Berry-Esseen定理那样控制绝对误差（Kolmogorov距离）。中偏差定理回答的是：当 \(x\) 随样本量增长时，正态尾部概率近似 \(\mathbb{P}(W \ge x) / (1 - \Phi(x))\) 的相对误差是否趋于1，以及以多快的速率趋于1。这比Berry-Esseen界更精细，因为Berry-Esseen界在尾部区域（\(x\) 大时）给出的上界 \(O(1/\sqrt{n})\) 可能非常宽松，而中偏差定理能给出 \(1 + O((1+x^3)/\sqrt{n})\) 这种随 \(x\) 增长而退化的相对误差界。

当前成熟度：中等成熟。对于独立同分布情形，Cramér中偏差理论已非常完备。对于依赖数据，Stein方法在2009年后开始系统性地处理中偏差问题，但主要局限于有界或有限支撑的耦合结构。本文的工作是将中偏差定理推广到无界可交换对情形。

发展脉络（history）

奠基工作： - Stein (1972)：提出Stein方法，为依赖数据的正态逼近提供了统一框架。 - Cramér (1938)：经典Cramér中偏差定理，处理独立同分布情形。 - Chatterjee (2006, 2014)：将Stein方法系统化，提出交换对（exchangeable pair）方法用于浓度不等式和收敛速率估计。本文引用语境指出，Chatterjee和Shao [7] 用交换对方法得到了有界支撑 \(\rho\) 的Curie-Weiss模型的Berry-Esseen界。

主要进展： - Chen, Fang & Shao (2009) [10]：首次将Stein方法用于中偏差，得到了一般Stein恒等式下的Cramér型中偏差定理。这是该方向的里程碑。本文引用语境说他们得到了 \(\rho\) 有有限支撑时的中偏差结果。 - Shao & Zhang (2017) [27]：在交换对框架下建立了无界可交换对的Berry-Esseen界，这是本文的直接前驱。他们处理了无界性，但只得到了绝对误差（Kolmogorov距离）的收敛速率，没有中偏差结果。 - Shao, Zhang & Zhang (2018) [25]：将中偏差推广到非正态逼近（如Curie-Weiss模型在临界温度的非正态极限），但同样限于 \(\rho\) 有有限支撑的情形。 - Fang, Luo & Shao (2020) [17]：对有界局部统计量之和证明了高阶中偏差（考虑了偏度修正）。本文引用语境说他们处理了 \(\xi_i\) 有界的情形。

当前frontier： - 中偏差定理从有界/有限支撑向无界耦合结构推广。 - 从一维向多元正态逼近推广。 - 从正态逼近向非正态（如Poisson、指数族）逼近推广。

本文的位置：本文填补了从Shao & Zhang (2017) 的Berry-Esseen界到中偏差定理的缺口——在无界可交换对框架下，将绝对误差提升为相对误差。它是Chen, Fang & Shao (2009) 和 Shao, Zhang & Zhang (2018) 中有限支撑结果的无界推广。

子线索聚类

这些被引文献大致落在三条子线索上：

  1. Stein方法交换对框架下的收敛速率（Berry-Esseen界）：
  2. 核心工作：Chatterjee & Shao (2009) [7], Shao & Zhang (2017) [27], Eichelsbacher & Loewe (2010) [12], Zhang (2021) [17]。
  3. 做什么：用交换对方法证明正态/非正态逼近的Kolmogorov距离收敛速率（\(O(1/\sqrt{n})\) 或更优）。

  4. 瓶颈：只控制绝对误差，尾部区域不精确。

  5. Stein方法下的中偏差定理：

  6. 核心工作：Chen, Fang & Shao (2009) [10], Shao, Zhang & Zhang (2018) [25], Fang, Luo & Shao (2020) [17]。
  7. 做什么：用Stein方法证明Cramér型中偏差定理，给出相对误差的精确刻画。

  8. 瓶颈：主要限于有界/有限支撑的耦合结构。

  9. 统计力学模型（Curie-Weiss, Heisenberg, Potts等）的极限定理：

  10. 核心工作：Chatterjee & Shao (2009) [7], Eichelsbacher & Loewe (2010) [12], Kirkpatrick & Meckes (2012) [19], Eichelsbacher & Martschink (2013) [14]。
  11. 做什么：用Stein方法研究平均场模型的总磁化强度等统计量的极限分布（正态/非正态）和收敛速率。
  12. 瓶颈：中偏差结果通常需要额外的有界性假设。

这个方向在追问的核心问题

  1. 如何将中偏差定理从有界/有限支撑推广到无界耦合结构？ 这是本文直接回答的问题。
  2. 中偏差定理能否推广到多元正态逼近？ 目前多元情形下只有Berry-Esseen界（Chatterjee & Meckes, 2007 [6]），没有中偏差结果。
  3. 能否得到高阶（考虑偏度修正）的中偏差定理，同时允许无界性？ Fang, Luo & Shao (2020) [17] 对有界情形做了高阶，无界情形是开放问题。
  4. 中偏差定理能否推广到退化U-统计量或高阶U-统计量？ 目前U-统计量的中偏差结果（Fang, Luo & Shao, 2020 [17]）限于非退化情形。

⚠️ 作者的framing

作者把缺口frame成：Shao & Zhang (2017) [27] 对无界可交换对只得到了Berry-Esseen界（绝对误差），而Chen, Fang & Shao (2009) [10] 和 Shao, Zhang & Zhang (2018) [25] 的中偏差结果只适用于有限支撑。因此，“将中偏差定理推广到无界可交换对”是显然的下一步。

作者淡化了什么：作者没有讨论多元中偏差的推广，也没有讨论高阶（偏度修正）中偏差在无界情形下的推广。竞争路线（如用浓度不等式+自正则化方法）未被提及。

什么明显该被引/该存在、却没出现在intro里？ 作者没有引用任何关于退化U-统计量中偏差的工作（如果有的话）。也没有引用关于随机矩阵谱统计量的中偏差结果（如Tracy-Widom分布的尾部近似），这些可能也是无界依赖结构的例子。

张力

未见明显对立引用。所有被引工作都在Stein方法框架内，彼此互补而非矛盾。

二、最核心、最简单的例子 / 数学问题

第一步：把符号、模型、可观测数据交代清楚

符号： - \(W\)：目标随机变量（要逼近正态的统计量）。它是可观测的。 - \((W, W')\)：可交换对。即 \((W, W')\) 与 \((W', W)\) 同分布。\(W'\) 是与 \(W\) 同分布但耦合的“副本”，通常通过某种随机操作（如重采样一个坐标）从 \(W\) 构造。\(W'\) 是不可观测的（它是构造性的辅助变量）。 - \(\alpha(W)\)：条件期望函数，定义为 \(\alpha(W) = \mathbb{E}[W - W' \mid W]\)。这是Stein方法交换对框架的核心量。 - \(\sigma^2 = \text{Var}(W)\)：目标变量的方差（假设有限）。 - \(\rho\)：耦合的“强度”参数，出现在条件方差中。在Curie-Weiss模型中，\(\rho\) 是单自旋的分布。 - \(x\)：中偏差参数，\(x \ge 0\)，表示偏离均值的倍数（以标准差为单位）。 - \(n\)：样本量或系统大小（如Curie-Weiss模型的自旋数）。 - \(\Phi(x)\)：标准正态分布函数。 - \(\phi(x)\)：标准正态密度函数。

模型： - 存在一个可交换对 \((W, W')\)，满足以下线性条件（这是Stein方法交换对框架的标准假设）：

\[\mathbb{E}[W - W' \mid W] = -\lambda W + \text{error}\]
其中 \(\lambda > 0\) 是某个常数（通常与 \(n\) 有关）。更精确地，本文假设存在常数 \(\lambda\) 和可测函数 \(g\) 使得：
\[\mathbb{E}[W - W' \mid W] = -\lambda (W + g(W))\]
且 \(g(W)\) 是“小”的（有界或可被控制）。 - 此外，条件方差 \(\text{Var}(W - W' \mid W)\) 也需要被控制。 - 数据生成机制：\(W\) 由某个依赖结构（如局部统计量之和、Curie-Weiss模型）产生，而 \(W'\) 是通过对 \(W\) 的某个“坐标”进行重采样得到的。

可观测数据： - 研究者能观测到的是 \(W\) 本身（以及它的分布假设）。 - 研究者不能观测到的是 \(W'\)（它是证明中的构造），也不能直接观测到条件期望 \(\alpha(W)\) 或条件方差。 - 关键：可交换对 \((W, W')\) 是一个理论构造，用于证明。实际应用中，研究者需要为具体的 \(W\) 构造一个合适的 \(W'\)，并验证线性条件。

第二步：讲最小内核

最简特例：考虑一个二值（每个坐标取值 \(\pm 1\)）的Curie-Weiss模型，且无外部场。这是本文应用部分的一个特例。

  • 设定：有 \(n\) 个自旋 \(\sigma_1, \ldots, \sigma_n \in \{\pm 1\}\)，服从Gibbs分布：
    \[\mathbb{P}(\sigma) \propto \exp\left( \frac{\beta}{2n} \sum_{i,j} \sigma_i \sigma_j \right)\]
    其中 \(\beta > 0\) 是逆温度。总磁化强度为 \(S_n = \sum_{i=1}^n \sigma_i\)。目标变量是 \(W = S_n / \sqrt{n}\)（标准化后）。
  • 可交换对构造：随机选取一个坐标 \(I \in \{1, \ldots, n\}\)，将 \(\sigma_I\) 替换为独立同分布的新自旋 \(\sigma_I'\)（从条件分布 \(\mathbb{P}(\sigma_I' \mid \text{所有其他自旋})\) 中抽取），得到新系统 \(\sigma'\)，然后令 \(W' = \sum_{i=1}^n \sigma_i' / \sqrt{n}\)。可以验证 \((W, W')\) 是可交换对。
  • 线性条件：对于这个模型，可以证明：
    \[\mathbb{E}[W - W' \mid W] = -\frac{1}{n} W + \text{小误差}\]
    即 \(\lambda = 1/n\)。这里的“小误差”项 \(g(W)\) 与单自旋分布 \(\rho\) 有关。当 \(\rho\) 有界时，\(g(W)\) 有界；当 \(\rho\) 无界（如 \(\beta\) 接近临界值时），\(g(W)\) 无界，这就是本文要处理的核心困难。
  • 要证的命题：对于任意 \(x \ge 0\) 且 \(x = o(\sqrt{n})\)，有：
    \[\frac{\mathbb{P}(W \ge x)}{1 - \Phi(x)} = 1 + O\left( \frac{1 + x^3}{\sqrt{n}} \right)\]
    即正态尾部近似的相对误差以速率 \(O((1+x^3)/\sqrt{n})\) 趋于1。
  • 为什么难：当 \(\rho\) 无界时，\(g(W)\) 可能很大，导致条件期望的线性条件不再精确。Shao & Zhang (2017) 的Berry-Esseen界（绝对误差）可以处理这种无界性，但中偏差定理需要控制指数矩（即 \(\mathbb{E}[e^{tW}]\)），而无界性使得指数矩的估计变得困难。本文的关键想法是：通过截断技巧将无界部分分离出来，用精细的指数矩不等式控制截断误差，再对截断后的有界部分应用已有的中偏差结果。

三、这篇论文做了什么

三句话

  1. 研究了什么问题：在Stein方法的可交换对框架下，建立了无界可交换对的Cramér型正态逼近中偏差定理，给出了相对误差的精确收敛速率。
  2. 核心工具/方法：Stein方法 + 交换对耦合 + 精细的指数矩估计 + 截断技巧。
  3. 主要结论：在适当的矩条件和线性条件下，对于无界可交换对 \((W, W')\)，有
    \[\frac{\mathbb{P}(W \ge x)}{1 - \Phi(x)} = 1 + O\left( \frac{1 + x^3}{\sqrt{n}} \right)\]
    对 \(0 \le x = o(\sqrt{n})\) 一致成立。作为应用，得到了局部统计量之和（包括U-统计量、图统计量）以及一般Curie-Weiss模型（允许无界单自旋分布 \(\rho\)）的中偏差定理。

关键设定与假设

在第二节最小记号的基础上，补全完整设定：

  • 可交换对 \((W, W')\)：满足 \((W, W') \stackrel{d}{=} (W', W)\)。这是Stein方法的标准构造。
  • 线性条件（假设2.1）：存在常数 \(\lambda > 0\) 和可测函数 \(g\)，使得
    \[\mathbb{E}[W - W' \mid W] = -\lambda (W + g(W))\]
    且 \(g(W)\) 满足某种控制条件（如 \(|g(W)| \le \delta |W| + \eta\) 对某些小常数 \(\delta, \eta\)）。相比Shao & Zhang (2017) [27]，本文对 \(g(W)\) 的要求更弱（允许无界）。
  • 条件方差条件（假设2.2）：\(\text{Var}(W - W' \mid W)\) 被某个常数或函数控制。
  • 矩条件：\(W\) 的指数矩 \(\mathbb{E}[e^{t|W|}]\) 对某个 \(t > 0\) 有限。这是中偏差定理所必需的，比Berry-Esseen定理所需的有限三阶矩更强。
  • 相比已有文献：本文的假设比Chen, Fang & Shao (2009) [10] 和 Shao, Zhang & Zhang (2018) [25] 更弱——他们要求 \(g(W)\) 有界或有限支撑，而本文允许无界。本文的假设与Shao & Zhang (2017) [27] 的Berry-Esseen界假设类似，但额外需要指数矩条件。

主要结果

定理2.1（主定理）：在假设2.1和2.2下，存在常数 \(C > 0\)，使得对任意 \(0 \le x = o(\sqrt{n})\)，有

\[\left| \frac{\mathbb{P}(W \ge x)}{1 - \Phi(x)} - 1 \right| \le C \frac{1 + x^3}{\sqrt{n}}\]
其中 \(n\) 是某个与 \(\lambda\) 相关的“有效样本量”（通常 \(\lambda \asymp 1/n\)）。

  • 直觉：当 \(x\) 固定时，相对误差以速率 \(O(1/\sqrt{n})\) 趋于1，与Berry-Esseen界的绝对误差速率相同。当 \(x\) 增长时（如 \(x = n^{1/4}\)），相对误差以速率 \(O(x^3/\sqrt{n})\) 退化，但只要 \(x = o(n^{1/6})\)，相对误差仍趋于0。
  • 必要条件：指数矩条件 \(\mathbb{E}[e^{t|W|}] < \infty\) 对某个 \(t > 0\)。这比Berry-Esseen定理所需的 \(\mathbb{E}[|W|^3] < \infty\) 更强。
  • 解决的技术难点：无界 \(g(W)\) 导致指数矩估计困难。作者通过截断技巧将 \(g(W)\) 分解为有界部分和“大偏差”部分，分别处理。

定理3.1（局部统计量之和的应用）：设 \(X_1, \ldots, X_n\) 是独立随机变量，\(W = \sum_{i=1}^n \xi_i\)，其中 \(\xi_i = f_i(X_i, X_{N(i)})\) 是局部统计量（只依赖于 \(X_i\) 和其邻域 \(N(i)\)）。在适当的矩条件下，\(W\) 满足中偏差定理。

  • 例子：U-统计量（如 \(W = \sum_{i<j} h(X_i, X_j)\)）、子图计数（如Erdős-Rényi图中的三角形数）。

定理4.1（一般Curie-Weiss模型的应用）：设 \(S_n = \sum_{i=1}^n \sigma_i\) 是Curie-Weiss模型的总磁化强度，其中单自旋分布 \(\rho\) 允许无界（如 \(\rho\) 是标准正态分布）。则 \(W = S_n / \sqrt{n}\) 满足中偏差定理。

  • 相比已有结果：Chen, Fang & Shao (2009) [10] 和 Shao, Zhang & Zhang (2018) [25] 只处理了 \(\rho\) 有有限支撑的情形。本文将其推广到无界 \(\rho\)。

证明路线与技术技巧

整体路线（3-5步逻辑主干）：

  1. Stein方程与中偏差的关联：中偏差定理的证明通常转化为对Stein方程的解 \(f(x)\) 及其导数的界进行估计。具体地，对于正态逼近，Stein方程为：

    \[f'(w) - w f(w) = h(w) - \mathbb{E}[h(Z)]\]
    其中 \(h\) 是指示函数 \(h(w) = \mathbf{1}_{w \ge x}\)，\(Z \sim N(0,1)\)。中偏差定理需要估计 \(\mathbb{E}[f'(W)]\) 和 \(\mathbb{E}[W f(W)]\) 的差。

  2. 交换对恒等式：利用可交换对 \((W, W')\)，有恒等式：

    \[\mathbb{E}[W f(W)] = \frac{1}{2\lambda} \mathbb{E}[(W - W')(f(W) - f(W'))]\]
    这个恒等式将 \(\mathbb{E}[W f(W)]\) 与可交换对的差分联系起来。

  3. 泰勒展开与条件期望：对 \(f(W) - f(W')\) 进行泰勒展开到一阶或二阶，然后取条件期望 \(\mathbb{E}[\cdot \mid W]\)。利用线性条件 \(\mathbb{E}[W - W' \mid W] = -\lambda (W + g(W))\)，得到：

    \[\mathbb{E}[W f(W)] \approx \mathbb{E}[f'(W)] + \text{误差项}\]
    误差项包含 \(g(W)\) 和条件方差项。

  4. 控制误差项（关键跳跃点）：误差项的无界性是核心困难。作者采用截断技巧：

  5. 将 \(g(W)\) 截断在某个阈值 \(M\) 处：\(g_M(W) = g(W) \mathbf{1}_{|g(W)| \le M}\)。
  6. 对截断后的有界部分，应用已有的中偏差结果（如Chen, Fang & Shao, 2009 [10]）。
  7. 对截断误差（即 \(|g(W)| > M\) 的部分），用指数矩不等式（如Markov不等式）控制其概率。

  8. 通过优化选择 \(M\)（与 \(x\) 和 \(n\) 有关），使得总误差达到 \(O((1+x^3)/\sqrt{n})\)。

  9. 整合得到中偏差界：将上述估计代入Stein方程，得到 \(\mathbb{E}[h(W)] - \mathbb{E}[h(Z)]\) 的界，再通过标准的中偏差转换（将绝对误差转换为相对误差）得到最终结果。

技术技巧点名： - Stein方法交换对恒等式：核心工具，将问题转化为对可交换对差分的矩估计。 - 泰勒展开与条件期望：标准技巧，但需要处理高阶项。 - 截断技巧：本文的关键创新点，用于处理无界性。截断阈值 \(M\) 的选择需要平衡有界部分的误差和无界部分的概率。 - 指数矩不等式：如Bernstein不等式、Chernoff界，用于控制截断误差的概率。 - Cramér型中偏差的标准转换：从绝对误差 \(\mathbb{P}(W \ge x) - (1 - \Phi(x))\) 到相对误差 \([\mathbb{P}(W \ge x) / (1 - \Phi(x))] - 1\) 的转换，需要用到正态分布的尾部渐近 \(1 - \Phi(x) \sim \phi(x)/x\)。

真实例子与应用

本文包含两个主要应用：

  1. 局部统计量之和（定理3.1）：
  2. 数据/场景：\(X_1, \ldots, X_n\) 是独立随机变量，\(W = \sum_{i=1}^n \xi_i\)，其中 \(\xi_i = f_i(X_i, X_{N(i)})\) 只依赖于 \(X_i\) 和其邻域 \(N(i)\)。例子包括U-统计量（如 \(W = \sum_{i<j} h(X_i, X_j)\)）和Erdős-Rényi图中的子图计数（如三角形数）。
  3. 怎么用：构造可交换对 \(W'\) 为将某个 \(X_i\) 替换为独立副本 \(X_i'\) 后重新计算的 \(W\)。验证线性条件和矩条件。
  4. 结果：得到中偏差定理，相对误差为 \(O((1+x^3)/\sqrt{n})\)。

  5. 想说明什么：验证了主定理的广泛适用性——许多常见的依赖统计量都可以纳入局部统计量框架。

  6. 一般Curie-Weiss模型（定理4.1）：

  7. 数据/场景：\(n\) 个自旋 \(\sigma_1, \ldots, \sigma_n\)，服从Gibbs分布，单自旋分布 \(\rho\) 允许无界（如标准正态分布）。总磁化强度 \(S_n = \sum_{i=1}^n \sigma_i\)，目标变量 \(W = S_n / \sqrt{n}\)。
  8. 怎么用：构造可交换对 \(W'\) 为随机选取一个自旋并替换为独立同分布的新自旋。验证线性条件——这是本文的核心技术贡献，因为无界 \(\rho\) 导致 \(g(W)\) 无界。
  9. 结果：得到中偏差定理，推广了Chen, Fang & Shao (2009) [10] 和 Shao, Zhang & Zhang (2018) [25] 中有限支撑的结果。
  10. 想说明什么：展示了主定理在统计力学中的应用，特别是当单自旋分布无界时（如高斯分布），中偏差定理仍然成立。

🔎 结论是否比证明窄

  • 定理2.1（主定理）的证明依赖于假设2.1和2.2，这些假设在应用中需要逐一验证。作者在应用部分（定理3.1和4.1）确实验证了这些假设，但验证过程本身依赖于具体模型的结构。对于更一般的无界可交换对，假设的验证可能不平凡。
  • 定理3.1（局部统计量）要求 \(\xi_i\) 的矩条件（如 \(\mathbb{E}[e^{t|\xi_i|}] < \infty\)）。对于某些重尾分布（如Cauchy分布），这个条件不成立，中偏差定理可能不成立。作者没有讨论这种情形。
  • 定理4.1（Curie-Weiss模型）要求 \(\rho\) 的指数矩有限。对于某些重尾 \(\rho\)（如t分布），这个条件不成立。作者没有讨论这种情形。
  • 作者在引言中声称“Cramér-type moderate deviation theorem of normal approximation for unbounded exchangeable pairs”，但证明中实际上要求 \(g(W)\) 的某种“可截断性”（即存在指数矩界）。对于某些无界但重尾的 \(g(W)\)，截断技巧可能失效。这是一个潜在的窄化。

四、开放问题

  1. 多元中偏差定理：本文只处理了一维情形。能否将结果推广到多元正态逼近？目前多元交换对方法（Chatterjee & Meckes, 2007 [6]）只有Berry-Esseen界。扎根点：本文引言未提及多元推广，但这是自然的方向。

  2. 高阶中偏差（考虑偏度修正）：Fang, Luo & Shao (2020) [17] 对有界局部统计量证明了高阶中偏差（相对误差为 \(O((1+x^4)/n)\) 而非 \(O((1+x^3)/\sqrt{n})\)）。能否在无界情形下得到类似的高阶结果？扎根点：本文定理2.1的误差项为 \(O((1+x^3)/\sqrt{n})\)，作者在引言中提到了Fang, Luo & Shao (2020) [17] 的工作，但未讨论无界推广。

  3. 退化U-统计量的中偏差：本文的应用（定理3.1）适用于非退化U-统计量（即投影方差非零）。对于退化U-统计量（如核函数 \(h\) 满足 \(\mathbb{E}[h(X_1, X_2) \mid X_1] = 0\)），极限分布不是正态的（而是卡方或更复杂的分布），中偏差定理需要不同的方法。扎根点：本文未讨论退化情形，但这是U-统计量理论中的重要问题。

  4. 非正态逼近的中偏差：Shao, Zhang & Zhang (2018) [25] 对有限支撑情形证明了非正态逼近的中偏差。能否将本文的无界技巧推广到非正态情形（如Curie-Weiss模型在临界温度的非正态极限）？扎根点：本文只处理了正态逼近，但引言中提到了Shao, Zhang & Zhang (2018) [25] 的非正态结果。

提醒：要确认这些是否是真gap，建议去读Fang, Luo & Shao (2020) [17] 和 Shao, Zhang & Zhang (2018) [25] 的引言和未来工作部分，看他们是否明确提到了无界推广作为开放问题。如果多个独立工作都指向同一个方向，那就是共识性的真gap。

Maintained by 陈星宇 · Homepage · Source on GitHub

评论