Testing for Structural Change of Predictive Regression Model to Threshold Predictive Regression Model¶

作者: Fukang Zhu, Mengya Liu, Shiqing Ling, Zongwu Cai
来源: Journal of Business & Economic Statistics
主题: 数理统计 / 假设检验
相关性: 6/10
机构绿灯: Hong Kong University of Science and Technology（US News 前 50，免分进入精读）
链接: https://doi.org/10.1080/07350015.2021.2008406

一、领域脉络与小综述¶

这个方向是什么¶

本方向研究的是预测回归模型（Predictive Regression）的结构变化检验。预测回归模型是时间序列计量经济学中的核心工具，用于研究一个变量（如股票收益）是否可以被其滞后值或其他变量（如股息率、利率）所预测。该子方向要解决的根本问题是：预测关系是否随时间稳定？ 具体而言，检验一个线性预测回归模型是否在某个未知时间点发生了结构性突变（structural break），或者是否应该被一个更复杂的阈值预测回归模型（Threshold Predictive Regression） 所替代——后者允许预测关系在不同状态（如牛市/熊市）下不同。当前该方向的成熟度较高，已有大量关于结构变化检验和阈值模型的理论工作，但将两者结合在预测回归这一特定设定下的检验问题，仍是一个活跃的研究前沿。

发展脉络（history）¶

奠基工作： - Andrews (1993) 和 Andrews & Ploberger (1994) 奠定了在未知断点下进行结构变化检验的渐近理论基础，提出了 sup-Wald、exp-Wald 等统计量，并推导了其渐近分布（布朗运动的泛函）。这是该领域的基石，几乎所有后续工作都建立在其上。 - Hansen (1996) 和 Hansen (2000) 将阈值模型（threshold model）引入时间序列计量经济学，提出了检验阈值效应的 sup-LM 统计量，并给出了其渐近分布。这为“预测关系可能依赖于某个阈值变量”这一想法提供了统计框架。

主要进展： - Caner & Hansen (2001) 将阈值效应检验推广到带有单位根（unit root）的非平稳时间序列，这是向“持久性预测变量”迈出的重要一步。作者在引言中引用其工作，指出它“考虑了阈值自回归模型中的单位根检验”。 - Gonzalo & Pitarakis (2002) 和 Gai, Kim & Shin (2012) 等进一步研究了预测回归模型中的结构变化问题。作者引用 Gai et al. (2012) 指出，他们“研究了预测回归模型中结构变化的检验问题，但假设预测变量是平稳的”。 - Cai, Wang & Wang (2015) 和 Li, Ling & McAleer (2015) 等将结构变化检验推广到更复杂的模型，如带有条件异方差（GARCH）的预测回归。作者引用 Li et al. (2015) 指出，他们“研究了带有 GARCH 误差的预测回归模型中的结构变化检验”。

当前 frontier： - 当前的前沿在于处理持久性（persistent）预测变量（如股息率、利率，其自回归系数接近1）和同时检验结构变化与阈值效应。持久性预测变量会导致标准检验统计量的渐近分布发生根本性变化（从高斯过程变为布朗运动），而同时检验两种效应则是一个更复杂的问题，因为原假设（无变化）下，备择假设（结构变化或阈值）是非嵌套的。

本文的位置： - 本文直接填补了上述两个前沿的交汇点：在预测回归模型中，同时检验结构变化和阈值效应，并分别处理平稳和持久性预测变量。作者在引言中明确写道：“据我们所知，目前还没有工作研究预测回归模型中从线性到阈值模型的结构变化检验问题。” 这表明作者将本文定位为这一特定空白领域的首次尝试。

子线索聚类¶

这些被引文献大致落在以下三条子线索上：

结构变化检验（Structural Change Testing）：以 Andrews (1993)、Andrews & Ploberger (1994) 为代表，核心是检验回归系数在未知时间点是否发生突变。后续工作（如 Bai & Perron, 1998）将其推广到多个断点。本文的 GLR 和广义 F 检验直接继承自这一线索。
阈值模型检验（Threshold Model Testing）：以 Hansen (1996, 2000) 为代表，核心是检验是否存在一个阈值变量，使得回归系数在不同区间内不同。本文的备择假设（阈值预测回归模型）直接来自这一线索。
预测回归模型（Predictive Regression）：以 Stambaugh (1999)、Campbell & Yogo (2006) 为代表，核心是处理预测变量（如股息率）的持久性对推断的影响。本文的“持久性预测变量”设定和相应的广义 F 检验直接来自这一线索。

这个方向在追问的核心问题¶

如何构造一个检验统计量，使其在原假设（无结构变化、无阈值）下具有已知的渐近分布？ 这是所有检验问题的根本。本文通过 GLR 和广义 F 统计量给出了答案。
如何处理预测变量的持久性（persistence）？ 持久性会导致标准检验统计量的渐近分布发生改变（从高斯过程变为布朗运动），需要不同的统计量和临界值。本文分别针对平稳和持久性预测变量提出了两种检验。
如何获得检验的临界值？ 由于渐近分布通常依赖于未知的 nuisance 参数（如误差方差、自回归系数），需要借助 Bootstrap 方法。本文采用了 residual-based bootstrap。
检验的局部幂（local power）如何？ 即当备择假设“接近”原假设时，检验能否以非零的概率拒绝原假设。本文在定理中给出了局部幂的渐近结果。

⚠️ 作者的 framing¶

作者的缺口 frame：作者将缺口 frame 成“在预测回归模型中，检验从线性模型到阈值模型的结构变化”。这是一个非常具体的缺口，它巧妙地将两个独立的检验问题（结构变化 vs. 阈值效应）合并为一个，并声称这是“首次”。这使得本文成为“显然的下一步”。
被淡化或回避的竞争路线：
- 直接比较两个模型：作者回避了“直接比较线性预测回归模型和阈值预测回归模型”这一更自然的路线（例如，通过模型选择准则如 AIC/BIC，或通过非嵌套假设检验如 Vuong 检验）。作者可能认为这些方法在处理持久性预测变量时理论困难，或者其检验的局部幂性质不如本文的检验。
- 多重检验：作者回避了“先检验结构变化，再检验阈值效应”的两步法。这种两步法可能更灵活，但会面临多重检验的 size 控制问题。作者可能认为本文的联合检验更简洁、更有效。
什么明显该被引 / 该存在、却没出现在 intro 里？
- 关于 Bootstrap 在结构变化检验中的有效性：Bootstrap 在结构变化检验中的有效性并非 trivial，尤其是在持久性预测变量下。作者没有引用任何关于 Bootstrap 在单位根或近单位根过程下有效性的理论工作（如 Cavaliere, Rahbek & Taylor (2010) 等）。这是一个值得研究者去查的问题：本文的 Bootstrap 方法是否在理论上被证明有效？还是仅仅通过模拟验证？
- 关于“平滑结构变化”（smooth structural change）：本文只考虑了“突变”（abrupt break）。但预测关系也可能发生“平滑变化”（如随时间缓慢漂移）。作者没有引用任何关于平滑结构变化检验的工作（如 Lin & Teräsvirta (1994) 等）。这是一个明显的缺失，可能是一个值得探索的扩展方向。

张力¶

未见明显对立引用。所有被引工作基本都沿着“结构变化”或“阈值模型”两条平行线发展，彼此没有直接矛盾。唯一的潜在张力在于：Andrews (1993) 的 sup-Wald 检验和 Hansen (1996) 的 sup-LM 检验在处理“未知断点”和“未知阈值”时，其渐近分布都是布朗运动的泛函，但具体形式不同。 本文的 GLR 和广义 F 检验在平稳预测变量下收敛到高斯过程的泛函，在持久性预测变量下收敛到布朗运动的泛函，这反映了预测变量持久性带来的根本性差异。

二、最核心、最简单的例子 / 数学问题¶

第一步：把符号、模型、可观测数据交代清楚¶

符号：
- \( y_t \)：被预测变量（标量，如股票收益），在时间 \( t \) 可观测。
- \( x_{t-1} \)：预测变量（标量或向量，如股息率），在时间 \( t-1 \) 可观测。本文主要考虑标量情况。
- \( \beta \)：回归系数（标量或向量），是待估参数。
- \( \gamma \)：阈值参数（标量），决定模型切换的临界点。
- \( \tau \)：结构变化发生的时间点（标量，\( \tau \in (0,1) \)），是未知的断点比例。
- \( T \)：样本量。
- \( \varepsilon_t \)：误差项（标量），假设为独立同分布（i.i.d.）或鞅差序列。
- \( u_t \)：预测变量的误差项（标量），与 \( \varepsilon_t \) 可能相关。
- \( \rho \)：预测变量 \( x_t \) 的自回归系数。当 \( |\rho| < 1 \) 时，\( x_t \) 是平稳的；当 \( \rho = 1 \) 时，\( x_t \) 是单位根过程（持久性）。
- \( \mathbb{1}(\cdot) \)：示性函数。
模型：
- 原假设模型（\( H_0 \)）：线性预测回归模型，无结构变化，无阈值效应。
  \[y_t = \beta_0 + \beta_1 x_{t-1} + \varepsilon_t\]
- 备择假设模型（\( H_1 \)）：阈值预测回归模型，存在一个结构变化（在时间 \( \tau T \)）和一个阈值效应（由 \( x_{t-1} \) 或另一个变量 \( z_{t-1} \) 驱动）。本文考虑两种备择：
  1. 结构变化：在时间 \( \tau T \) 后，回归系数发生突变。
    \[y_t = \beta_{0,1} + \beta_{1,1} x_{t-1} + \varepsilon_t, \quad t \leq \tau T\]
    
    \[y_t = \beta_{0,2} + \beta_{1,2} x_{t-1} + \varepsilon_t, \quad t > \tau T\]
  2. 阈值效应：回归系数依赖于阈值变量 \( q_{t-1} \)（本文中取 \( q_{t-1} = x_{t-1} \)）是否超过阈值 \( \gamma \)。
    \[y_t = \beta_{0,1} + \beta_{1,1} x_{t-1} + \varepsilon_t, \quad x_{t-1} \leq \gamma\]
    
    \[y_t = \beta_{0,2} + \beta_{1,2} x_{t-1} + \varepsilon_t, \quad x_{t-1} > \gamma\]
- 预测变量的数据生成过程：
  \[x_t = \rho x_{t-1} + u_t\]
  其中 \( \rho \) 是未知参数。本文考虑两种情形：
  - 平稳情形：\( |\rho| < 1 \)。
  - 持久性情形：\( \rho = 1 + c/T \)，其中 \( c \) 是一个常数（局部单位根，local-to-unity）。这允许 \( \rho \) 接近 1，但随样本量 \( T \) 增大而趋近于 1。
可观测数据：
- 研究者实际能观测到的是时间序列 \( \{y_t, x_t\}_{t=1}^T \)。
- 想要但观测不到的是：
  - 结构变化发生的时间点 \( \tau \)。
  - 阈值参数 \( \gamma \)。
  - 误差项 \( \varepsilon_t \) 和 \( u_t \) 的分布。
  - 预测变量的自回归系数 \( \rho \)。

第二步：讲最小内核¶

本文的核心思路可以用一个最简特例来理解：平稳预测变量（\( |\rho| < 1 \)），且只考虑结构变化（不考虑阈值效应）。

最简特例：假设 \( x_t \) 是平稳的（例如，\( x_t \sim N(0,1) \) 且独立同分布）。我们想检验原假设 \( H_0: y_t = \beta_0 + \beta_1 x_{t-1} + \varepsilon_t \) 是否成立，备择假设是存在一个结构变化：\( H_1: y_t = \beta_{0,1} + \beta_{1,1} x_{t-1} + \varepsilon_t \) 对于 \( t \leq \tau T \)，且 \( y_t = \beta_{0,2} + \beta_{1,2} x_{t-1} + \varepsilon_t \) 对于 \( t > \tau T \)。
核心思路：
1. 构造似然比：对于每一个可能的断点 \( \tau \in (0,1) \)，我们可以将样本分成两段（\( t \leq \tau T \) 和 \( t > \tau T \)），并分别估计两段的回归系数，得到两个残差平方和 \( RSS_1(\tau) \) 和 \( RSS_2(\tau) \)。同时，估计整个样本的回归模型，得到全样本残差平方和 \( RSS_0 \)。那么，对于这个特定的 \( \tau \)，似然比统计量（在正态误差下等价于 F 统计量）为：
  \[LR(\tau) = T \cdot \frac{RSS_0 - (RSS_1(\tau) + RSS_2(\tau))}{RSS_1(\tau) + RSS_2(\tau)}\]
2. 取上确界：由于断点 \( \tau \) 是未知的，我们取所有可能 \( \tau \) 上的上确界作为检验统计量：
  \[\text{sup-LR} = \sup_{\tau \in \Theta} LR(\tau)\]
  其中 \( \Theta \) 是一个排除样本两端点的区间（例如 \( [0.15, 0.85] \)），以避免在边界处估计不稳定。
3. 渐近分布：在原假设下，可以证明 \( \text{sup-LR} \) 收敛于一个中心化高斯过程的泛函。具体来说，如果 \( x_t \) 是平稳的，那么 \( LR(\tau) \) 的极限过程是一个高斯过程，其协方差结构由 \( x_t \) 的谱密度决定。因此，\( \text{sup-LR} \) 的渐近分布就是这个高斯过程的上确界。
4. 临界值：由于这个渐近分布依赖于未知的 nuisance 参数（如 \( x_t \) 的方差），无法直接查表。本文采用 Bootstrap 方法：从原假设模型（线性预测回归）的残差中重抽样，生成 Bootstrap 样本，并计算 Bootstrap 版本的 \( \text{sup-LR} \) 统计量。重复多次，得到 Bootstrap 分布，其分位数即为临界值。
为什么这个特例能体现核心：
- 它展示了本文 GLR 检验的核心思想：对每个可能的断点/阈值构造似然比，然后取上确界。
- 它揭示了平稳预测变量下渐近分布是高斯过程的泛函，这与持久性预测变量下的布朗运动泛函形成鲜明对比。
- 它说明了 Bootstrap 的必要性：渐近分布依赖于未知参数，无法直接使用。

三、这篇论文做了什么¶

三句话¶

研究了什么问题：本文研究了在预测回归模型中，检验是否存在从线性模型到阈值预测回归模型的结构变化或阈值效应的问题，并分别针对平稳和持久性预测变量提出了两种检验统计量。
核心工具/方法：核心工具是广义似然比（GLR）检验（用于平稳预测变量）和广义 F 检验（用于持久性预测变量），并采用Bootstrap 方法获取临界值。
主要结论：在原假设下，GLR 统计量收敛于一个中心化高斯过程的泛函，广义 F 统计量收敛于布朗运动的泛函。模拟和实际数据表明，所提检验具有良好的有限样本 size 和 power 性质。

关键设定与假设¶

设定：考虑一个单变量预测回归模型 \( y_t = \beta_0 + \beta_1 x_{t-1} + \varepsilon_t \)，其中 \( x_t \) 由 \( x_t = \rho x_{t-1} + u_t \) 生成。备择假设是存在一个结构变化（在未知时间点 \( \tau T \)）或一个阈值效应（由 \( x_{t-1} \) 驱动）。
假设：
- A1（平稳情形）：\( |\rho| < 1 \)，且 \( x_t \) 是平稳的、遍历的、α-混合的。\( \varepsilon_t \) 和 \( u_t \) 是鞅差序列，且具有有限四阶矩。
- A2（持久性情形）：\( \rho = 1 + c/T \)，其中 \( c \) 是一个常数（局部单位根）。\( u_t \) 是鞅差序列，且其长期方差存在。\( \varepsilon_t \) 与 \( u_t \) 可能相关。
- A3（断点/阈值参数）：断点比例 \( \tau \) 和阈值参数 \( \gamma \) 属于一个紧集，且被排除在样本边界之外（例如 \( \tau \in [0.15, 0.85] \)）。
- A4（误差项）：\( \varepsilon_t \) 和 \( u_t \) 的联合分布满足某些矩条件和混合条件，以确保中心极限定理和泛函中心极限定理成立。
相比已有文献的强化/放宽：
- 强化：本文同时考虑了结构变化和阈值效应，而大多数已有工作只考虑其中之一。
- 放宽：本文允许预测变量是持久性的（局部单位根），而许多结构变化检验工作假设预测变量是平稳的。这显著拓宽了应用范围（如金融时间序列）。

主要结果¶

定理 1（GLR 检验，平稳预测变量）：
- 陈述：在原假设 \( H_0 \) 下，GLR 统计量 \( \text{GLR} = \sup_{\tau \in \Theta} \text{LR}(\tau) \) 收敛于一个中心化高斯过程 \( \mathcal{G}(\tau) \) 的上确界，其中 \( \mathcal{G}(\tau) \) 的协方差函数由 \( x_t \) 的谱密度决定。
- 直觉：由于 \( x_t \) 是平稳的，其样本矩收敛于常数，因此 \( \text{LR}(\tau) \) 的极限过程是高斯过程，而不是布朗运动。
- 必要条件：\( x_t \) 的平稳性和混合性。
- 解决的技术难点：处理了 \( \text{LR}(\tau) \) 作为 \( \tau \) 的随机过程的弱收敛性，这需要用到经验过程理论（empirical process theory）和泛函中心极限定理。
定理 2（广义 F 检验，持久性预测变量）：
- 陈述：在原假设 \( H_0 \) 下，广义 F 统计量 \( \text{GF} = \sup_{\tau \in \Theta} \text{F}(\tau) \) 收敛于一个布朗运动 \( \mathcal{B}(\tau) \) 的泛函，具体形式依赖于 \( c \)（局部单位根参数）和 \( \varepsilon_t \) 与 \( u_t \) 的相关性。
- 直觉：由于 \( x_t \) 是持久性的（接近单位根），其样本矩不再收敛于常数，而是收敛于扩散过程（diffusion process）。因此，\( \text{F}(\tau) \) 的极限过程是布朗运动的泛函。
- 必要条件：\( \rho = 1 + c/T \) 的局部单位根设定。
- 解决的技术难点：处理了持久性预测变量带来的非标准渐近理论，这需要用到泛函中心极限定理和连续映射定理。
定理 3（局部幂）：
- 陈述：在局部备择假设（即结构变化或阈值效应的幅度以 \( 1/\sqrt{T} \) 的速度趋近于 0）下，所提检验的局部幂函数是非退化的（即介于 0 和 1 之间）。
- 直觉：这表明检验能够检测到“小”的结构变化或阈值效应，具有合理的渐近 power。
- 必要条件：局部备择假设的幅度为 \( O(1/\sqrt{T}) \)。

证明路线与技术技巧¶

整体路线：
1. 构造检验统计量：对于每个可能的断点/阈值 \( \tau \)，构造似然比或 F 统计量 \( \text{LR}(\tau) \) 或 \( \text{F}(\tau) \)。
2. 推导渐近分布：在原假设下，将 \( \text{LR}(\tau) \) 或 \( \text{F}(\tau) \) 表示为样本矩的函数，然后利用泛函中心极限定理（FCLT）证明其作为 \( \tau \) 的随机过程弱收敛于一个极限过程（高斯过程或布朗运动）。
3. 取上确界：利用连续映射定理（continuous mapping theorem），证明 \( \sup_{\tau} \text{LR}(\tau) \) 或 \( \sup_{\tau} \text{F}(\tau) \) 收敛于极限过程的上确界。
4. Bootstrap 有效性：证明 Bootstrap 版本的统计量与原统计量具有相同的渐近分布，从而可以用 Bootstrap 分位数作为临界值。
关键跳跃点：
- 从平稳到持久性：这是最大的跳跃。在平稳情形下，\( x_t \) 的样本二阶矩 \( \sum x_{t-1}^2 / T \) 收敛于常数，因此 \( \text{LR}(\tau) \) 的极限是高斯过程。在持久性情形下，\( \sum x_{t-1}^2 / T \) 发散，且 \( x_t \) 的标准化形式收敛于扩散过程，因此 \( \text{F}(\tau) \) 的极限是布朗运动的泛函。作者需要分别处理这两种完全不同的渐近理论。
- 处理未知的 nuisance 参数：极限分布（无论是高斯过程还是布朗运动）都依赖于未知参数（如 \( x_t \) 的长期方差、\( \varepsilon_t \) 与 \( u_t \) 的协方差）。作者通过 Bootstrap 绕过了这个困难，但需要证明 Bootstrap 的有效性。
技术技巧点名：
- 泛函中心极限定理（FCLT）：用于证明 \( \text{LR}(\tau) \) 和 \( \text{F}(\tau) \) 作为随机过程的弱收敛性。这是整个证明的基石。
- 连续映射定理（CMT）：用于从随机过程的弱收敛性推导出其上确界的弱收敛性。
- 经验过程理论（Empirical Process Theory）：用于处理平稳情形下 \( \text{LR}(\tau) \) 的弱收敛性，特别是当 \( x_t \) 是混合序列时。
- 局部单位根渐近理论（Local-to-Unity Asymptotics）：用于处理持久性预测变量，将 \( x_t \) 的标准化形式表示为扩散过程。
- Bootstrap 理论：用于证明 Bootstrap 版本统计量的有效性，这通常需要用到 Edgeworth 展开或高阶渐近理论。

真实例子与应用¶

数据：使用了美国股票市场的实际数据，包括标准普尔 500 指数（S&P 500）的月度超额收益（作为 \( y_t \)）和股息率（dividend yield）（作为 \( x_{t-1} \)）。样本期从 1927 年到 2016 年。
方法应用：
1. 首先，对全样本拟合线性预测回归模型，得到残差。
2. 然后，计算 GLR 统计量（假设股息率是平稳的）和广义 F 统计量（假设股息率是持久性的）。
3. 通过 Bootstrap 获得临界值，判断是否拒绝原假设。
结果：作者发现，GLR 检验和广义 F 检验都拒绝了原假设，表明存在结构变化或阈值效应。进一步分析发现，结构变化发生在 20 世纪 50 年代左右，而阈值效应与股息率的高低有关（高股息率时预测关系更强）。
这个例子想说明什么：
- 验证理论：展示了所提检验在实际数据中的可操作性。
- 展示相对 baseline 的优势：与传统的结构变化检验（如 Andrews, 1993）相比，本文的检验能够同时检测结构变化和阈值效应，从而提供了更丰富的洞察。例如，传统检验可能只发现一个断点，而本文的检验还能揭示这个断点是否与阈值效应有关。

🔎 结论是否比证明窄¶

窄结论：本文的定理主要针对单变量预测回归模型（一个预测变量）和单一断点/阈值。作者在结论部分明确提到，将结果推广到多变量和多个断点/阈值是未来的工作。因此，本文的严格证明范围比其声称的“检验结构变化和阈值”要窄。
泛泛 claim：作者在引言中声称本文是“首次”研究该问题。这可能是正确的，但需要谨慎对待。可能存在一些未引用的、在特定设定下（如非参数模型）研究类似问题的工作。
conjecture：作者在结论部分提到，所提方法可以推广到带有条件异方差（GARCH）的预测回归模型，但并未给出任何理论证明。这只是一个 conjecture。

四、开放问题¶

多变量和多断点/阈值：本文的定理只适用于单变量预测变量和单一断点/阈值。如何将检验推广到多变量（多个预测变量）和多个断点/阈值？这需要处理更复杂的渐近分布和多重检验问题。扎根点：论文结论部分的“未来工作”段落。
Bootstrap 的理论有效性：本文通过模拟验证了 Bootstrap 的有效性，但并未给出严格的理论证明。在持久性预测变量下，Bootstrap 是否仍然有效？是否存在某些参数区域（如 \( c \) 很大或很小）导致 Bootstrap 失效？扎根点：论文中关于 Bootstrap 的讨论部分，以及引言中未引用的关于 Bootstrap 在单位根过程下有效性的理论工作。
平滑结构变化：本文只考虑了“突变”（abrupt break）。如果预测关系是平滑变化的（如随时间缓慢漂移），本文的检验是否仍然有效？其 power 如何？扎根点：引言中未引用任何关于平滑结构变化检验的工作。
非嵌套假设检验：本文的备择假设是“结构变化或阈值效应”。但结构变化和阈值效应本身是非嵌套的。是否存在一个更一般的检验，能够区分这两种效应，并判断数据更支持哪一种？扎根点：论文引言中关于“首次”研究该问题的 claim，以及作者回避的“直接比较两个模型”的竞争路线。

Maintained by 陈星宇 · Homepage · Source on GitHub