Diagnostic Testing of Finite Moment Conditions for the Consistency and Root-N Asymptotic Normality of the GMM and M Estimators¶
作者: Yuya Sasaki, Yulong Wang
来源: Journal of Business & Economic Statistics
主题: 数理统计 / 假设检验
相关性: 4/10
机构绿灯: Vanderbilt University(US News 前 50,免分进入精读)
链接: https://doi.org/10.1080/07350015.2021.2019047
一、领域脉络与小综述¶
这个方向是什么¶
这个子方向关注的是估计量(GMM / M-估计量)的正则性条件诊断。具体来说,GMM 和 M-估计量的一致性和根 n 渐近正态性依赖于数据分布满足特定阶数的有限矩条件(例如,对于均值估计,需要二阶矩有限;对于 IV 估计,可能需要四阶矩有限)。当数据来自厚尾分布时,这些矩条件可能不成立,导致标准推断(标准误、置信区间)完全失效。本文提出的是一种诊断检验,用于在应用前检验这些矩条件是否成立,从而判断后续的 GMM / M-估计是否可靠。
发展脉络(history)¶
根据本文 introduction 的引用,这个方向的脉络如下:
-
奠基工作:厚尾分布对估计量的影响
- Hansen (1982):建立了 GMM 估计的一般理论,其渐近性质(一致性与根 n 正态性)依赖于矩条件的有限性。这是本文诊断检验的理论基石——检验的对象正是 Hansen 理论中的关键假设。
- Loretan & Phillips (1994):研究了在厚尾分布下,GMM 估计量的极限分布不再是正态的,而是稳定分布(stable distribution)。这直接指出了当矩条件不满足时,标准推断会失效,从而凸显了诊断的必要性。
-
主要进展:矩条件检验的早期尝试
- Bai & Ng (2005):提出了一种检验矩条件是否存在的程序,但其方法依赖于对备择分布(如 Pareto 分布)的具体参数化假设。本文作者指出,这种参数化方法可能对模型误设敏感。
- Hill & Aguilar (2013):提出了基于极值理论(extreme value theory)的检验,用于判断矩条件是否存在。该方法同样依赖于对尾部行为的参数化建模。
-
当前 frontier 与本文的位置
- 本文 (Sasaki & Wang, 2022):作者将自身定位为非参数诊断检验。与 Bai & Ng (2005) 和 Hill & Aguilar (2013) 不同,本文的检验不依赖于对备择分布的具体参数化假设。它直接基于样本矩的渐近行为(即样本矩的收敛速度)来构造检验统计量。作者声称,这种非参数性质使得检验对模型误设更加稳健,且更易于应用。
子线索聚类¶
这些被引文献大致落在两条子线索上:
- 线索一:厚尾分布下的估计理论。这一簇关注的是当矩条件不满足时,估计量的极限分布是什么(如 Loretan & Phillips 1994),以及如何修正推断(如使用自举法或子抽样)。它们诊断的是问题本身,而非提供检验。
- 线索二:矩条件存在的检验。这一簇直接关注如何检验矩条件是否成立。本文属于此线索,其特点是非参数,而之前的尝试(Bai & Ng 2005, Hill & Aguilar 2013)是参数化的。
这个方向在追问的核心问题¶
- 如何在不假设备择分布的情况下,检验矩条件是否成立? 这是本文直接回答的问题。
- 检验的势(power)如何? 当矩条件接近不满足时(例如,尾部指数略大于所需阶数),检验能否有效拒绝?本文通过模拟研究了这一点。
- 检验对后续推断(如标准误、置信区间)的覆盖率和大小有何影响? 这是一个更实际的问题:是先检验再推断,还是直接使用对厚尾稳健的推断方法(如自举法)更好?本文未深入探讨,但这是应用中的关键权衡。
⚠️ 作者的 framing¶
- 作者把缺口 frame 成什么:作者将现有检验(Bai & Ng 2005, Hill & Aguilar 2013)描述为“依赖于对备择分布的参数化假设”,因此可能“对模型误设敏感”。他们将本文的贡献 frame 为第一个非参数诊断检验,从而成为“显然的下一步”。
- 哪些竞争路线被他淡化或回避了:作者淡化了直接使用对厚尾稳健的推断方法(如自举法、子抽样、稳健标准误)这条路线。这些方法在矩条件不满足时仍能提供有效的推断,从而可能绕过诊断检验的必要性。作者在引言中承认了这一点,但认为诊断检验能提供“更清晰的诊断信息”,帮助研究者理解数据生成过程。
- 什么明显该被引 / 该存在、却没出现在 intro 里?:作者没有引用关于稳健 M-估计(如 Huber 估计)的文献。这些估计量对厚尾分布具有天然的稳健性,不需要矩条件就能保持一致性。如果研究者使用稳健 M-估计,那么本文的诊断检验可能就失去了意义。这是一个值得研究者去查的张力点。
张力¶
未见明显对立引用。所有被引工作都承认厚尾分布对标准推断的威胁,只是应对策略不同(参数化检验 vs. 非参数检验 vs. 稳健推断)。
二、最核心、最简单的例子 / 数学问题¶
第一步:把符号、模型、可观测数据交代清楚¶
-
符号:
- \( \theta \in \Theta \subseteq \mathbb{R}^d \):待估参数向量。
- \( g(Z_i, \theta) \in \mathbb{R}^m \):矩条件函数(moment function),其中 \( Z_i \) 是第 i 个观测数据。GMM 估计要求 \( E[g(Z_i, \theta_0)] = 0 \),其中 \( \theta_0 \) 是真实参数。
- \( \hat{\theta}_{GMM} \):GMM 估计量。
- \( \hat{\theta}_M \):M-估计量,定义为 \( \hat{\theta}_M = \arg\min_\theta \sum_i q(Z_i, \theta) \),其中 \( q(\cdot) \) 是目标函数。
- \( \mu_k = E[|X|^k] \):随机变量 X 的 k 阶绝对矩。本文检验的是 \( \mu_k < \infty \) 是否成立。
- \( \alpha \):尾部指数(tail index),满足 \( P(|X| > x) \sim C x^{-\alpha} \)。矩 \( \mu_k \) 存在当且仅当 \( k < \alpha \)。
- \( n \):样本量。
- \( H_0 \):原假设,即所需阶数的矩存在(例如,对于均值估计,\( H_0: E[|X|^2] < \infty \))。
- \( H_1 \):备择假设,即所需阶数的矩不存在(例如,\( H_1: E[|X|^2] = \infty \))。
-
模型:
- 数据 \( \{Z_i\}_{i=1}^n \) 是来自某个未知分布 P 的 i.i.d. 样本。
- 研究者希望使用 GMM 或 M-估计量来估计参数 \( \theta_0 \)。
- GMM 估计量 \( \hat{\theta}_{GMM} \) 的一致性和根 n 渐近正态性依赖于 \( E[||g(Z_i, \theta_0)||^2] < \infty \)(即矩条件函数的二阶矩有限)。
- M-估计量 \( \hat{\theta}_M \) 的一致性和根 n 渐近正态性依赖于 \( E[||\nabla q(Z_i, \theta_0)||^2] < \infty \)(即目标函数梯度的二阶矩有限)。
-
可观测数据:
- 研究者能观测到的是样本 \( \{Z_i\}_{i=1}^n \)。
- 研究者想要但观测不到的是:矩 \( \mu_k \) 是否有限。这是一个关于分布 P 的全局性质,无法从有限样本中直接观测到,只能通过统计检验来推断。
第二步:讲最小内核¶
本文的核心思路可以用一个最简特例来理解:检验一个随机变量 X 的二阶矩是否存在。
-
最简特例:假设我们有一个 i.i.d. 样本 \( X_1, ..., X_n \),来自某个未知分布。我们想检验 \( H_0: E[X^2] < \infty \) vs. \( H_1: E[X^2] = \infty \)。这是检验均值估计(M-估计量)正则性条件的最简形式。
-
核心思路:
- 观察样本矩的渐近行为:如果 \( E[X^2] < \infty \),那么样本二阶矩 \( \hat{\mu}_2 = \frac{1}{n} \sum_{i=1}^n X_i^2 \) 会以 \( O_p(1/\sqrt{n}) \) 的速度收敛到 \( E[X^2] \)。如果 \( E[X^2] = \infty \),那么 \( \hat{\mu}_2 \) 会发散到无穷大,且其发散速度由尾部指数 \( \alpha \) 决定:\( \hat{\mu}_2 = O_p(n^{2/\alpha - 1}) \),其中 \( \alpha < 2 \)。
- 构造检验统计量:关键在于,我们无法直接观测到收敛速度。但我们可以利用样本矩的截断版本(trimmed moments)来构造一个统计量,其渐近行为在 \( H_0 \) 和 \( H_1 \) 下不同。
- 具体构造(本文方法):作者提出使用样本矩的极值(extreme value) 来构造检验。一个简单版本是:考虑最大的几个 \( X_i^2 \) 值。在 \( H_0 \) 下,这些极值的量级是 \( O_p(\log n) \);在 \( H_1 \) 下,这些极值的量级是 \( O_p(n^{1/\alpha}) \),发散得更快。通过比较这些极值的和与总样本矩的比值,可以构造一个检验统计量,它在 \( H_0 \) 下收敛到一个常数,在 \( H_1 \) 下发散到无穷大。
- 为什么成立:这个检验利用了厚尾分布的一个关键性质:矩发散是由极值驱动的。当矩不存在时,样本矩的绝大部分贡献来自少数几个极端观测值。因此,通过分析极值的相对大小,可以判断矩是否存在。
-
数学困难:这个最简特例的困难在于,需要精确刻画极值的渐近分布,并构造一个在 \( H_0 \) 下具有已知(或可自举)极限分布的检验统计量。本文的一般化工作是将这个思路推广到 GMM 和 M-估计量的矩条件函数上。
三、这篇论文做了什么¶
三句话¶
- 研究了什么问题:本文研究了如何检验 GMM 和 M-估计量的一致性和根 n 渐近正态性所依赖的有限矩条件是否成立。
- 核心工具 / 方法:作者提出了一种非参数诊断检验,基于样本矩的极值行为(特别是截断矩与总矩的比值)构造检验统计量,并通过自举法(bootstrap)计算 p 值。
- 主要结论:该检验在模拟中表现出良好的有限样本性质(大小控制良好,对厚尾分布有合理的势),并在一个金融收益率数据集上展示了其应用价值,发现某些资产收益率的四阶矩可能不存在,从而对基于 GMM 的资产定价模型提出质疑。
关键设定与假设¶
- 设定:数据 \( \{Z_i\}_{i=1}^n \) 是 i.i.d. 的。研究者希望使用 GMM 或 M-估计量。
- 假设:
- 假设 1 (矩条件):对于 GMM,\( E[g(Z_i, \theta_0)] = 0 \) 且 \( E[||g(Z_i, \theta_0)||^2] < \infty \) 是原假设。对于 M-估计量,\( E[\nabla q(Z_i, \theta_0)] = 0 \) 且 \( E[||\nabla q(Z_i, \theta_0)||^2] < \infty \) 是原假设。
- 假设 2 (正则性):估计量 \( \hat{\theta} \) 在 \( H_0 \) 下是 \( \sqrt{n} \)-一致且渐近正态的。这保证了在矩条件满足时,标准推断有效。
- 假设 3 (尾部行为):在备择假设下,矩条件函数(或其梯度)的分布具有 Pareto 型尾部,即 \( P(||g(Z_i, \theta_0)|| > x) \sim C x^{-\alpha} \),其中 \( \alpha < 2 \)。这个假设用于推导检验统计量在 \( H_1 \) 下的发散速度。
- 相比已有文献的放宽/强化:相比 Bai & Ng (2005) 和 Hill & Aguilar (2013),本文放宽了对备择分布的具体参数化假设(如假设是 Pareto 分布),只假设了 Pareto 型尾部。这是本文“非参数”性质的体现。但强化了尾部行为假设(假设 3),要求尾部是 Pareto 型的,而不是任意厚尾。
主要结果¶
- 定理 1 (检验统计量的渐近分布):在 \( H_0 \) 下,作者构造的检验统计量 \( T_n \) 依分布收敛到一个已知的极限分布(与极值指数相关)。这个极限分布是非标准的,但可以通过自举法近似。
- 定理 2 (检验的一致性):在 \( H_1 \) 下,检验统计量 \( T_n \) 以概率 1 发散到无穷大。因此,当使用一个固定的临界值时,检验的势趋近于 1。
- 模拟结果:
- 大小控制:在 \( H_0 \) 下(例如,t 分布自由度为 3,此时二阶矩存在),检验的拒绝率接近名义水平(如 5%)。
- 势:在 \( H_1 \) 下(例如,t 分布自由度为 1.5,此时二阶矩不存在),检验的拒绝率随着样本量增加而迅速趋近于 1。
- 与参数化检验的对比:当备择分布确实是 Pareto 分布时,参数化检验(Bai & Ng 2005)的势更高;但当备择分布是其他厚尾分布(如对数正态分布)时,本文的非参数检验的势更高,且大小控制更好。这验证了作者关于“对模型误设更稳健”的 claim。
- 真实例子:
- 数据:CRSP 数据库中 10 只股票的日收益率数据。
- 方法:作者检验了这些收益率序列的四阶矩是否存在。四阶矩是许多资产定价模型(如 CAPM 的 GMM 估计)中矩条件函数所需的正则性条件。
- 结果:对于其中几只股票(如亚马逊、谷歌),检验在 5% 显著性水平下拒绝了四阶矩存在的原假设。这意味着,基于这些股票收益率数据的标准 GMM 推断可能不可靠。
- 这个例子想说明什么:展示了本文检验在金融计量经济学中的实际应用价值,提醒研究者在使用 GMM 进行资产定价时,应先诊断矩条件是否满足。
证明路线与技术技巧¶
-
整体路线:
- 定义检验统计量:作者定义了一个基于截断样本矩的统计量。具体来说,他们计算了样本矩中最大的 \( k_n \) 个观测值的和,并将其与总样本矩的比值作为检验统计量。\( k_n \) 是一个随样本量增长但增长较慢的序列(如 \( k_n = n^{0.5} \))。
- 推导 \( H_0 \) 下的极限分布:在 \( H_0 \) 下,矩存在,因此极值的量级是 \( O_p(\log n) \),而总样本矩是 \( O_p(1) \)。因此,比值统计量收敛到 0。但作者通过更精细的分析,证明了经过适当缩放后,该统计量收敛到一个非退化的极限分布(与极值指数相关)。
- 推导 \( H_1 \) 下的发散速度:在 \( H_1 \) 下,矩不存在,极值的量级是 \( O_p(n^{1/\alpha}) \),而总样本矩是 \( O_p(n^{2/\alpha - 1}) \)。因此,比值统计量以 \( O_p(n^{1 - 1/\alpha}) \) 的速度发散到无穷大。
- 自举法实现:由于极限分布复杂,作者建议使用自举法(bootstrap)来近似检验统计量的分布并计算 p 值。他们证明了自举法在 \( H_0 \) 下是一致的。
-
关键跳跃点:
- 难点:如何构造一个统计量,使其在 \( H_0 \) 和 \( H_1 \) 下具有截然不同的渐近行为,且其 \( H_0 \) 下的极限分布是已知的(或可自举的)。
- 作者的解法:使用截断矩与总矩的比值。这个比值在 \( H_0 \) 下收敛到 0(因为极值贡献小),在 \( H_1 \) 下发散到无穷大(因为极值贡献主导)。通过选择合适的截断阈值 \( k_n \),可以控制统计量的渐近行为。
-
技术技巧点名:
- 极值理论 (Extreme Value Theory):用于刻画样本最大值的渐近分布,是构造检验统计量的理论基础。
- 自举法 (Bootstrap):用于近似检验统计量的极限分布,避免了推导复杂极限分布的解析形式。
- 截断技巧 (Trimming):通过只考虑最大的 \( k_n \) 个观测值,将检验的焦点集中在尾部行为上,从而放大了 \( H_0 \) 和 \( H_1 \) 下的差异。
🔎 结论是否比证明窄¶
- 是。作者在引言中声称提出了一种“非参数诊断检验”,但证明中依赖于假设 3,即备择假设下的尾部行为是 Pareto 型的。如果尾部行为是其他类型(如对数正态分布,其所有矩都存在但尾部很厚),那么检验在 \( H_0 \) 下可能仍然有效(因为矩存在),但其在 \( H_1 \) 下的势可能不如 Pareto 型尾部时高。作者在模拟中考虑了非 Pareto 型厚尾分布(如对数正态),但证明并未覆盖这种情况。因此,“非参数”的 claim 比证明的覆盖范围要宽。
四、开放问题¶
- 检验的势函数分析:本文通过模拟展示了检验的势,但未给出势函数的理论分析。一个开放问题是:能否推导出该检验在局部备择假设下的渐近势函数? 例如,当尾部指数 \( \alpha \) 接近 2(即矩条件接近满足)时,检验的势如何随样本量变化?这扎根于本文的模拟结果(图 2),其中展示了不同 \( \alpha \) 下的势曲线。
- 对后续推断的影响:本文只提出了诊断检验,但未讨论检验后推断(post-test inference)的问题。一个开放问题是:在拒绝原假设后,研究者应该使用什么推断方法? 是使用对厚尾稳健的自举法,还是使用子抽样,还是放弃 GMM 转而使用稳健 M-估计?这扎根于本文引言中提到的“稳健推断方法”这一竞争路线。
- 高维情形下的推广:本文的检验是针对单个矩条件(或低维矩条件向量)的。一个开放问题是:如何将检验推广到高维矩条件(如 \( m > n \))的情形? 在高维 GMM 中,矩条件的有限性检验可能面临维数灾难。这扎根于本文的设定(假设矩条件维数固定)。
- 与稳健 M-估计的关系:如前所述,本文未引用稳健 M-估计的文献。一个开放问题是:本文的诊断检验与直接使用稳健 M-估计相比,在什么情况下更优? 例如,当数据来自一个“轻微”厚尾分布(如 t 分布自由度为 2.5)时,诊断检验可能无法拒绝,而稳健 M-估计可能损失效率。这扎根于本文未引用的文献,是一个值得研究者去查的张力点。
Maintained by 陈星宇 · Homepage · Source on GitHub