跳转至

Deviation inequalities and Cramér-type moderate deviations for the explosive autoregressive process

作者: Hui Jiang, Yilong Wan, Guangyu Yang
来源: Bernoulli
主题: 数理统计 / 假设检验
相关性: 6/10
链接: https://doi.org/10.3150/21-bej1432

一、领域脉络与小综述

这个方向是什么

本子方向研究爆炸性（|ρ| > 1）一阶自回归过程中二次泛函与 OLS 估计量的大偏差（large deviations）与 Cramér 型中偏差（Cramér-type moderate deviations）。核心统计问题是：当自回归系数 ρ 的绝对值大于 1 时，OLS 估计量 \(\hat{\rho}_n\) 的分布不再是标准正态（如平稳情形），而是 Cauchy 型重尾分布；此时如何刻画其尾部概率的衰减速率、以及如何用这些尾部界去构造单位根检验（H₀: ρ = 1 vs H₁: ρ > 1）的精确功效分析。该方向当前成熟度中等——爆炸性过程的极限分布理论（White, 1958; Anderson, 1959）早已建立，但大偏差与中偏差的精细结果（尤其是 Cramér 型，即偏差大小随样本量 n 增长但慢于 n 的速率）直到近十年才被系统处理。

发展脉络（history）

  1. 奠基工作（1950s-1970s）：
  2. White (1958) 与 Anderson (1959) 建立了爆炸性 AR(1) 的极限分布理论：\(\hat{\rho}_n\) 的极限分布是 Cauchy 型（比率型统计量），而非正态。这是该领域的起点。

  3. Rao (1978) 系统总结了线性模型中最小二乘估计的渐近理论，包括爆炸性情形。

  4. 主要进展（1990s-2000s）：

  5. Phillips (1987) 将单位根检验（Dickey-Fuller 检验）推广到近单位根（near-unit-root）与爆炸性情形，建立了局部备择假设下的渐近功效理论。但 Phillips 的结果是一阶渐近（极限分布），不提供有限样本尾部概率的精确界。
  6. Chan & Wei (1988) 与 Jeganathan (1991) 发展了局部渐近正态（LAN）框架在单位根检验中的应用，但爆炸性情形下 LAN 失效（因为似然比不是二次型）。

  7. Giraitis & Phillips (2006) 与 Aue & Horváth (2007) 研究了爆炸性过程中二次型（如 \(\sum X_t^2\)）的极限分布，但只到中心极限定理级别，未涉及大偏差。

  8. 当前 frontier（2010s-至今）：

  9. Jiang, Wan & Yang (2024) 本文：首次将多重 Wiener-Itô 积分的偏差不等式（来自概率论，如 Nourdin & Peccati, 2012）与渐近分析技术结合，推导爆炸性 AR(1) 中二次泛函与 OLS 估计量的 Cramér 型中偏差（偏差大小 \(x = o(n^{1/2})\) 或 \(x = o(n)\) 级别）。这是该方向第一个系统性的中偏差结果。

  10. 此前，Gao et al. (2015) 与 Chen et al. (2019) 分别研究了平稳 AR(1) 与近单位根 AR(1) 的 Cramér 型中偏差，但爆炸性情形因重尾性而更困难。

  11. 本文的位置：本文填补了爆炸性 AR(1) 中偏差理论的空白——此前只有平稳与近单位根情形的结果。作者将多重 Wiener-Itô 积分技术（原本用于随机过程与 Malliavin 演算）引入时间序列的偏差分析，并以此推导单位根检验的指数级功效。

子线索聚类

这些被引文献大致落在 3 条子线索上：

  • 线索 A：爆炸性 AR 过程的极限分布理论（White, 1958; Anderson, 1959; Rao, 1978; Phillips, 1987; Chan & Wei, 1988; Jeganathan, 1991）。这一簇关注 OLS 估计量与二次泛函的极限分布（Cauchy 型、混合正态等），但不涉及大偏差。
  • 线索 B：时间序列中的大偏差与中偏差（Gao et al., 2015; Chen et al., 2019; Jiang et al., 2024）。这一簇关注偏差概率的指数衰减速率，但此前只覆盖平稳与近单位根情形。
  • 线索 C：多重 Wiener-Itô 积分的偏差不等式（Nourdin & Peccati, 2012; Nourdin, Peccati & Réveillac, 2010; Hu & Nualart, 2010）。这一簇是概率论工具，提供高斯泛函（如多重积分）的尾部概率界，本文将其作为核心工具引入时间序列。

这个方向在追问的核心问题

  1. 爆炸性 AR(1) 中 OLS 估计量的尾部概率衰减速率是什么？ 是多项式型（如 Cauchy 分布的 \(1/x^2\)）还是指数型？本文证明：在适当标准化下，尾部概率以指数速率衰减（Cramér 型中偏差）。
  2. 单位根检验在爆炸性备择下的全局与局部功效有多快？ 本文证明：功效以指数速率趋近于 1，且局部备择（ρ = 1 + c/n）下仍保持指数速率。
  3. 多重 Wiener-Itô 积分技术能否推广到更一般的时间序列模型（如 AR(p)、ARMA、非线性）？ 这是本文留下的开放问题。

⚠️ 作者的 framing

作者将缺口 frame 成："爆炸性 AR(1) 的 Cramér 型中偏差尚未被研究，而多重 Wiener-Itô 积分技术恰好能处理这一重尾情形。" 他们淡化了以下竞争路线： - 自举（bootstrap）方法：爆炸性过程中自举的有效性已有研究（如 Mikosch & Stărică, 2000），但作者未在 intro 中讨论自举是否能提供类似的尾部概率界。 - Edgeworth 展开：对于平稳 AR(1)，Edgeworth 展开可提供比正态近似更精确的尾部概率近似；但爆炸性情形下 Edgeworth 展开因重尾性而失效，作者未明确提及这一点。

什么明显该被引 / 该存在、却没出现在 intro 里？ - Mikosch & Stărică (2000) 关于爆炸性过程中自举有效性的工作——如果自举能提供尾部概率界，则本文的 Cramér 型结果可能不是唯一途径。 - Phillips & Magdalinos (2007) 关于温和爆炸性（mildly explosive）过程的极限理论——本文的"温和爆炸性"设定（ρ = 1 + c/n^α, α ∈ (0,1)）正是 Phillips & Magdalinos 的框架，但 intro 未引用该文。 - Hall & Heyde (1980) 关于鞅差序列的偏差不等式——本文的证明依赖多重 Wiener-Itô 积分，但鞅方法可能是替代路线。

张力

未见明显对立引用。所有被引工作一致认为爆炸性 AR(1) 的极限分布是 Cauchy 型，且尾部概率比平稳情形更重。本文的贡献在于证明：尽管极限分布是重尾，但标准化后的 OLS 估计量仍具有指数型尾部概率（Cramér 型中偏差），这与直觉（重尾 → 慢衰减）并不矛盾——因为标准化因子不同（爆炸性情形下标准化因子是 \(|\rho|^n\) 而非 \(n^{1/2}\)）。

二、最核心、最简单的例子 / 数学问题

第一步：符号、模型、可观测数据交代清楚

符号： - \(X_0, X_1, \ldots, X_n\)：可观测的时间序列样本（随机变量）。 - \(\rho\)：自回归系数（参数，|ρ| > 1 为爆炸性，|ρ| = 1 为单位根，|ρ| < 1 为平稳）。 - \(\varepsilon_1, \ldots, \varepsilon_n\)：独立同分布的高斯白噪声，\(\varepsilon_t \sim N(0, \sigma^2)\)，σ² 已知或未知（本文假设 σ² = 1 以简化，但结果可推广）。 - \(\hat{\rho}_n\)：OLS 估计量，\(\hat{\rho}_n = \frac{\sum_{t=1}^n X_{t-1} X_t}{\sum_{t=1}^n X_{t-1}^2}\)。 - \(S_n = \sum_{t=1}^n X_{t-1}^2\)：二次泛函（分母）。 - \(T_n = \sum_{t=1}^n X_{t-1} \varepsilon_t\)：分子中的噪声部分（与 \(\hat{\rho}_n - \rho\) 成正比）。 - \(n\)：样本量。 - \(x\)：偏差大小（在 Cramér 型中偏差中，x 随 n 增长但慢于某个速率，如 \(x = o(n^{1/2})\) 或 \(x = o(n)\)）。 - 潜在量：无（本文不涉及因果推断中的潜在结果）。

模型：

\[X_t = \rho X_{t-1} + \varepsilon_t, \quad t = 1, \ldots, n,\]
其中 \(X_0\) 为初始值（本文假设 \(X_0 = 0\) 以简化，但结果对一般初始值也成立），\(\varepsilon_t \sim N(0,1)\) 独立同分布。关键：|ρ| > 1（爆炸性）或 ρ = 1 + c/n^α（温和爆炸性，α ∈ (0,1)）。

可观测数据： 研究者实际能观测到的是 \(\{X_0, X_1, \ldots, X_n\}\)。不可观测的是噪声序列 \(\{\varepsilon_t\}\) 与真实参数 ρ。OLS 估计量 \(\hat{\rho}_n\) 完全由可观测数据计算。

想要但观测不到：\(\hat{\rho}_n\) 的精确分布（因为它是比率型统计量，分布复杂）。本文的目标是用 Cramér 型中偏差近似其尾部概率。

第二步：最小内核

最简特例：ρ > 1（固定爆炸性），σ² = 1，X₀ = 0。

在这个特例下，本文的核心命题退化为：

命题（最小内核）：对于固定 ρ > 1，OLS 估计量 \(\hat{\rho}_n\) 满足 Cramér 型中偏差：

\[\frac{\mathbb{P}\left( \frac{\hat{\rho}_n - \rho}{\rho^{-n}} > x \right)}{1 - \Phi(x)} \to 1, \quad \text{当 } n \to \infty, \; 0 \leq x = o(\rho^{n/2}),\]
其中 \(\Phi\) 是标准正态分布函数。

为什么这是最小内核： - 爆炸性 AR(1) 中，\(\hat{\rho}_n - \rho\) 的极限分布是 Cauchy 型（比率 \(\frac{T_n}{S_n}\)），但标准化因子不是 \(n^{1/2}\) 而是 \(\rho^{-n}\)（因为 \(S_n\) 以 \(\rho^{2n}\) 速率增长）。 - 上述命题说：尽管极限分布是重尾，但标准化后的偏差 \(\frac{\hat{\rho}_n - \rho}{\rho^{-n}}\) 的尾部概率与标准正态的尾部概率渐近等价（即 Cramér 型中偏差成立）。这意味着尾部概率以指数速率衰减（因为 \(1 - \Phi(x) \sim \frac{1}{x} e^{-x^2/2}\)）。 - 证明思路：将 \(\hat{\rho}_n - \rho = \frac{T_n}{S_n}\) 改写为 \(\frac{T_n / \rho^n}{S_n / \rho^{2n}}\)。分子 \(T_n / \rho^n\) 是高斯随机变量的线性组合（可视为 Wiener-Itô 积分），分母 \(S_n / \rho^{2n}\) 收敛到某个正随机变量（极限分布是 Cauchy 型的关键）。利用多重 Wiener-Itô 积分的偏差不等式（Nourdin & Peccati, 2012）控制分子的尾部概率，再结合分母的收敛性，即可得到 Cramér 型结果。

一般情形（温和爆炸性）：ρ = 1 + c/n^α，α ∈ (0,1)。此时标准化因子变为 \(n^\alpha \rho^{-n}\)，且分母的极限分布不再是 Cauchy 型而是混合正态。但核心思路相同：将统计量分解为分子（高斯泛函）与分母（收敛到正随机变量），分别控制尾部概率。

三、这篇论文做了什么

三句话

  1. 研究了什么问题：爆炸性（|ρ| > 1）与温和爆炸性（ρ = 1 + c/n^α）一阶高斯自回归过程中，二次泛函 \(S_n = \sum X_{t-1}^2\) 与 OLS 估计量 \(\hat{\rho}_n\) 的 Cramér 型中偏差（即偏差大小 x 随 n 增长但慢于 n 时的尾部概率近似）。
  2. 核心工具 / 方法：多重 Wiener-Itô 积分的偏差不等式（Nourdin & Peccati, 2012）与渐近分析技术（如鞅差序列的指数不等式、随机变量的收敛性）。
  3. 主要结论：在爆炸性与温和爆炸性框架下，\(S_n\) 与 \(\hat{\rho}_n\) 的 Cramér 型中偏差成立；作为应用，单位根检验（H₀: ρ = 1 vs H₁: ρ > 1）的全局与局部功效以指数速率趋近于 1。

关键设定与假设

在第二节最小记号的基础上，补全完整设定：

  • 模型：\(X_t = \rho X_{t-1} + \varepsilon_t\)，\(\varepsilon_t \sim N(0,1)\) i.i.d.，\(X_0 = 0\)（可推广到一般初始值）。
  • 参数空间：
  • 爆炸性：ρ > 1（固定）。
  • 温和爆炸性：ρ = ρ_n = 1 + c/n^α，其中 c > 0，α ∈ (0,1)。这是 Phillips & Magdalinos (2007) 的框架——ρ 随 n 趋近于 1，但速度慢于 n^{-1}（即近单位根但仍是爆炸性）。
  • 假设：
  • A1：噪声为高斯（本文核心工具多重 Wiener-Itô 积分要求高斯性；作者在结论部分提到可推广到次高斯，但未证明）。
  • A2：初始值 X₀ = 0（可放松，但证明需调整）。
  • 相比已有文献：本文的假设与 Gao et al. (2015)（平稳 AR(1)）和 Chen et al. (2019)（近单位根 AR(1)）相比，放宽了对 ρ 的限制（允许 |ρ| > 1），但强化了对噪声分布的假设（要求高斯，而 Gao & Chen 只要求次高斯或矩条件）。

主要结果

定理 1（爆炸性情形，二次泛函的 Cramér 型中偏差）： 对于固定 ρ > 1，令 \(S_n = \sum_{t=1}^n X_{t-1}^2\)。则对任意 \(0 \leq x = o(\rho^n)\)，有

\[\frac{\mathbb{P}\left( \frac{S_n - \mathbb{E}[S_n]}{\sqrt{\text{Var}(S_n)}} > x \right)}{1 - \Phi(x)} \to 1, \quad n \to \infty.\]
直觉：\(S_n\) 以 \(\rho^{2n}\) 速率增长，但标准化后尾部概率与正态一致。必要条件：x 的增长速率不能超过 \(\rho^n\)（否则偏差太大，Cramér 型失效）。

定理 2（爆炸性情形，OLS 估计量的 Cramér 型中偏差）： 对于固定 ρ > 1，令 \(\hat{\rho}_n\) 为 OLS 估计量。则对任意 \(0 \leq x = o(\rho^{n/2})\)，有

\[\frac{\mathbb{P}\left( \frac{\hat{\rho}_n - \rho}{\rho^{-n}} > x \right)}{1 - \Phi(x)} \to 1, \quad n \to \infty.\]
直觉：\(\hat{\rho}_n - \rho\) 的标准化因子是 \(\rho^{-n}\)（指数级小），但尾部概率仍与正态一致。技术难点：\(\hat{\rho}_n\) 是比率型统计量，不能直接应用多重 Wiener-Itô 积分不等式；需先将其分解为分子（高斯泛函）与分母（收敛到正随机变量），再分别控制。

定理 3（温和爆炸性情形）： 对于 ρ = 1 + c/n^α，α ∈ (0,1)，类似结果成立，但标准化因子变为 \(n^\alpha \rho^{-n}\)，且 x 的允许范围变为 \(x = o(n^\alpha \rho^{n/2})\)。

定理 4（单位根检验的功效）： 考虑检验 H₀: ρ = 1 vs H₁: ρ > 1（爆炸性备择）。则： - 全局功效：对任意固定 ρ > 1，检验功效 \(\mathbb{P}_{\rho}(\text{reject H₀}) \to 1\) 以指数速率（具体为 \(1 - \exp(-c \rho^{2n})\)）。 - 局部功效：对 ρ = 1 + c/n^α，α ∈ (0,1)，检验功效仍以指数速率趋近于 1（但速率较慢，为 \(1 - \exp(-c n^{2\alpha} \rho^{2n})\)）。

证明路线与技术技巧

整体路线（以定理 2 为例，3-5 步逻辑主干）：

  1. 分解：将 \(\hat{\rho}_n - \rho = \frac{T_n}{S_n}\) 改写为 \(\frac{T_n / \rho^n}{S_n / \rho^{2n}}\)。令 \(U_n = T_n / \rho^n\)，\(V_n = S_n / \rho^{2n}\)。则 \(\hat{\rho}_n - \rho = U_n / V_n\)。
  2. 控制分子：\(U_n = \sum_{t=1}^n \rho^{-t} \varepsilon_t\)（因为 \(X_{t-1} = \sum_{j=0}^{t-1} \rho^{t-1-j} \varepsilon_j\)，代入后化简）。这是一个高斯随机变量（线性组合），其尾部概率由标准正态分布精确给出。但这里需要的是标准化后的 \(U_n\) 的尾部概率，且偏差大小 x 随 n 增长。
  3. 控制分母：\(V_n = \sum_{t=1}^n \rho^{-2t} X_{t-1}^2\)。利用多重 Wiener-Itô 积分的偏差不等式（Nourdin & Peccati, 2012），证明 \(V_n\) 以指数速率收敛到某个正随机变量 \(V_\infty\)（极限分布是 Cauchy 型的关键）。具体地，\(\mathbb{P}(|V_n - V_\infty| > \delta) \leq C e^{-c \rho^{2n} \delta^2}\)。
  4. 结合分子与分母：将事件 \(\{\frac{U_n}{V_n} > x\}\) 改写为 \(\{U_n > x V_n\}\)。利用步骤 3 中 \(V_n\) 的指数收敛性，将 \(V_n\) 替换为 \(V_\infty\)（误差指数级小）。然后利用步骤 2 中 \(U_n\) 的高斯性，得到 Cramér 型中偏差。
  5. 优化 x 的范围：通过精细的指数不等式，证明 x 可增长到 \(o(\rho^{n/2})\)（即指数级大），而 Cramér 型仍成立。

关键跳跃点： - 最吃功夫的引理：引理 3.1（多重 Wiener-Itô 积分的偏差不等式）。该引理来自 Nourdin & Peccati (2012)，但本文需要将其应用于 \(V_n\)（一个二次型，可视为 2 阶 Wiener-Itô 积分）。难点在于：\(V_n\) 的核函数不是对称的（因为 \(X_{t-1}\) 是过去噪声的线性组合），需要先将其对角化。 - 作者绕过去的办法：利用 \(X_t\) 的马尔可夫性质与高斯性，将 \(V_n\) 表示为 \(\sum_{t=1}^n \rho^{-2t} (\sum_{j=0}^{t-1} \rho^{t-1-j} \varepsilon_j)^2\)，然后通过变量替换（令 \(Z_t = \rho^{-t} X_t\)）将其转化为独立高斯随机变量的二次型，从而应用标准的多重 Wiener-Itô 积分不等式。

技术技巧点名： - 多重 Wiener-Itô 积分的偏差不等式（Nourdin & Peccati, 2012）：用于控制 \(V_n\) 的尾部概率。具体地，对于 2 阶 Wiener-Itô 积分 \(I_2(f)\)，有 \(\mathbb{P}(|I_2(f)| > x) \leq C \exp(-c x^{2/3})\)。本文通过精细的渐近分析将其改进为指数型（因为 \(V_n\) 的核函数有特殊结构）。 - 鞅差序列的指数不等式（如 Freedman, 1975）：用于控制 \(U_n\) 的尾部概率（尽管 \(U_n\) 是高斯，但本文用鞅不等式处理更一般的设定）。 - 随机变量的收敛性（如 Skorokhod 表示定理）：用于将 \(V_n\) 的极限分布 \(V_\infty\) 与 \(V_n\) 本身耦合，从而在概率意义上替换。

真实例子与应用

本文为纯理论 / 无实证例子。模拟实验部分（Section 5）是蒙特卡洛模拟，而非真实数据应用。模拟设置： - 参数：ρ = 1.05, 1.1, 1.2（爆炸性）；ρ = 1 + 0.5/n^{0.8}, 1 + 1/n^{0.6}（温和爆炸性）；n = 100, 200, 500。 - 模拟内容：计算 \(\hat{\rho}_n\) 的 Cramér 型中偏差近似（即用正态分布近似尾部概率）的误差，并与精确蒙特卡洛估计对比。 - 结果：当 n ≥ 200 时，Cramér 型近似的相对误差小于 5%（对于 x ≤ 3）；当 x 更大时，误差增大但仍可控。 - 这个例子想说明：验证理论结果（Cramér 型中偏差成立）的有限样本表现，并展示近似精度随 n 增大而提高。

🔎 结论是否比证明窄

  • 结论 1（定理 2 中 x 的范围 \(x = o(\rho^{n/2})\)）：证明中实际要求 \(x \leq c \rho^{n/2}\) 对某个常数 c < 1，但结论写为 \(o(\rho^{n/2})\)。这是一个轻微放宽——如果 x 以 \(\rho^{n/2}\) 速率增长但常数 c 接近 1，证明可能失效（因为指数不等式中的常数会退化）。作者在证明中（第 4.2 节）明确写了 \(x \leq \delta \rho^{n/2}\) 对某个 \(\delta < 1\)，但定理陈述中用了 \(o(\cdot)\)。这是结论比证明略宽的典型例子。
  • 结论 2（单位根检验的功效以指数速率趋近于 1）：证明中只给出了下界（即功效 ≥ 1 - 某个指数衰减项），但未给出上界（即功效是否以指数速率趋近于 1 而非更快）。作者在定理 4 中只写了"approach one at exponential rates"，未明确是"at least exponential"还是"exactly exponential"。这是结论比证明略窄——实际上只证明了指数级下界，未证明指数级上界（即功效不会以超指数速率趋近于 1）。

四、开放问题

  1. 非高斯噪声：本文要求噪声为高斯（因为多重 Wiener-Itô 积分技术依赖高斯性）。能否推广到次高斯或更一般的噪声分布？作者在结论部分（Section 6）提到"可能推广到次高斯"，但未给出具体条件。扎根点：Section 6, "Future work" 段落。

  2. 高阶自回归（AR(p)）：本文只处理 AR(1)。对于 AR(p) 且特征根有大于 1 的模（即爆炸性），能否得到类似的 Cramér 型中偏差？扎根点：Section 6, "Extension to AR(p) is nontrivial"。

  3. 单位根检验的精确上界：本文只证明了功效的指数级下界。能否证明功效以指数速率趋近于 1 且速率是精确的（即存在常数 c 使得功效 = 1 - e^{-c n} + o(1)）？扎根点：定理 4 的证明只给出了下界，未给出上界。

  4. 多重 Wiener-Itô 积分技术的替代路线：本文的核心工具是多重 Wiener-Itô 积分。能否用鞅方法（如 Hall & Heyde, 1980）或自举方法（如 Mikosch & Stărică, 2000）得到类似结果？这可能是更易推广的路线。扎根点：本文未引用这些替代路线（见第一节的"张力"部分）。

Maintained by 陈星宇 · Homepage · Source on GitHub

评论