QML and Efficient GMM Estimation of Spatial Autoregressive Models with Dominant (Popular) Units¶

作者: Lung-Fei Lee, Chao Yang, Jihai Yu
来源: Journal of Business & Economic Statistics
主题: 经济理论 / 应用
相关性: 4/10
机构绿灯: Ohio State University（US News 前 50，免分进入精读）
链接: https://doi.org/10.1080/07350015.2022.2041424

一、领域脉络与小综述¶

这个方向是什么¶

本文研究的子方向是空间自回归（Spatial Autoregressive, SAR）模型的统计推断，其根本问题是在一个由空间权重矩阵（如地理距离、贸易流量）定义的网络结构中，估计一个单元的因变量如何受到其邻居因变量的影响（即空间溢出效应）。该方向在区域科学、城市经济学、社会网络分析中应用广泛。当前成熟度较高，已有大量关于QML和GMM估计的渐近理论，但几乎所有经典理论都依赖于一个关键假设：空间权重矩阵的列和一致有界（即每个单元作为“邻居”对其他单元的总影响力是有限的）。本文试图放松这一假设，允许存在“主导单元”（popular units）——即那些对其他很多单元都有显著影响的节点，其列和可以随样本量增长而发散。

发展脉络（history）¶

作者在引言中梳理了SAR模型估计理论的发展，并定位了自己的工作。以下按时间顺序串起关键节点：

奠基工作：SAR模型的QML估计
- Ord (1975) 和 Lee (2004)：建立了SAR模型下QML估计量的渐近理论。Lee (2004) 是经典文献，它证明了在列和一致有界的假设下，QML估计量是相合且渐近正态的。这是本文的基准框架。
- Lee (2004) 的引用句：作者引用Lee (2004) 时指出，其“渐近性质是在空间权重矩阵的列和一致有界的假设下建立的”。这直接点明了经典理论的边界。
主要进展：GMM估计与稳健性
- Kelejian and Prucha (1998, 1999)：提出了基于矩条件的GMM估计方法，作为QML的替代，尤其是在扰动项非正态时更稳健。
- Lee (2007) 和 Lin and Lee (2010)：进一步研究了最优GMM估计量，特别是结合了线性矩和二次矩的GMM，在非正态扰动下可以达到与QML相当的效率。这些工作同样依赖于列和一致有界假设。
- Liu and Lee (2010)：将SAR模型扩展到包含多个权重矩阵的情形，并研究了GMM估计。其假设也包含列和一致有界。
当前Frontier：放松列和一致有界假设
- Qu, Lee, and Yu (2017)：这是本文最直接的先行工作。作者引用Qu, Lee, and Yu (2017) 指出，该文“考虑了列和可能非一致有界的情况，但只处理了有限个主导单元的情形，且其列和阶数被限制为O(n)”。本文将其推广到无限个主导单元，且允许列和阶数为O(n^δ) (δ<1)。
- Gupta and Robinson (2015, 2018)：这些工作研究了网络数据中“枢纽节点”（hub）的影响，但主要关注的是线性回归模型，而非SAR模型。作者引用它们来佐证“主导单元”在实证中的普遍性，但指出其模型设定不同。
本文的位置：本文直接填补了Qu, Lee, and Yu (2017) 留下的缺口，将主导单元的处理从“有限个且列和阶数为O(n)”推广到“有限或无限个且列和阶数为O(n^δ) (δ<1)”，并在此更一般的设定下重新建立了QML和GMM估计量的渐近理论。

子线索聚类¶

这些被引文献大致落在两条子线索上：

线索一：基于似然的估计（QML）。这条线以Ord (1975) 和 Lee (2004) 为代表，核心是最大化拟似然函数。其优势是效率高（在正态扰动下达到半参有效界），但需要扰动项分布假设（尽管QML对非正态有一定稳健性）。本文的主要贡献之一就是扩展了这条线的适用条件。
线索二：基于矩的估计（GMM）。这条线以Kelejian and Prucha (1998, 1999) 和 Lee (2007) 为代表，通过构造线性或二次矩条件进行估计。其优势是对扰动项分布假设要求更弱，且计算上可能更简便。本文也扩展了这条线，特别是推导了在非正态扰动下，基于最优线性与二次矩的GMM估计量的渐近分布。

这个方向在追问的核心问题¶

空间溢出效应的识别与估计：如何从观测数据中一致地估计出空间自回归系数ρ？
估计量的渐近性质：在什么条件下，QML或GMM估计量是相合的、渐近正态的？其收敛速度是多少？
权重矩阵的设定与影响：空间权重矩阵W的规范（如行标准化、列标准化）如何影响估计？当W不满足经典假设（如列和有界）时，理论是否仍然成立？
主导单元的处理：当网络中存在影响力极大的节点时，如何调整估计方法以保证其有效性？

当前主流方法与已知瓶颈：主流方法是基于列和一致有界假设的QML和GMM。瓶颈在于，许多真实网络（如贸易网络、社交网络）中存在“超级连接者”或“枢纽”，其列和会随网络规模增长而发散，导致经典理论失效。本文直接针对这一瓶颈。

⚠️ 作者的 framing¶

作者把缺口 frame 成什么：作者将缺口frame为“经典SAR理论依赖于列和一致有界假设，但这在存在主导单元时可能不成立”。因此，本文的“显然的下一步”就是放松这个假设，在一个更现实的设定下重新建立渐近理论。作者通过引用Qu, Lee, and Yu (2017) 来强调，即使是已有的放松工作也仅限于有限个主导单元且列和阶数为O(n)的情形，而本文则处理了更一般的无限个主导单元和更慢的发散速度（O(n^δ), δ<1）。
哪些竞争路线被他淡化或回避了：作者没有深入讨论非参数或半参数的空间模型，这些模型可能对权重矩阵的设定更不敏感。作者也没有讨论贝叶斯方法，尽管贝叶斯方法在处理复杂网络结构时也有其优势。作者将讨论严格限制在经典的QML和GMM框架内。
什么明显该被引 / 该存在、却没出现在 intro 里？：从因果推断的角度看，本文处理的“网络干扰”问题与因果推断中的“干扰”（interference） 文献有很强的联系。例如，处理网络干扰的逆概率加权（IPW）或基于模型的估计方法（如Hudgens and Halloran, 2008; Tchetgen and VanderWeele, 2012）并没有被引用。这些文献也面临类似的主导单元或复杂网络结构问题。这是一个值得研究者去查的潜在连接点。

张力¶

未见明显对立引用。所有被引工作都承认列和一致有界是经典假设，并在此基础上进行扩展。本文与Qu, Lee, and Yu (2017) 的关系是“推广”而非“矛盾”。

二、最核心、最简单的例子 / 数学问题¶

第一步：把符号、模型、可观测数据交代清楚¶

符号：
- n: 样本量（空间单元的数量）。
- i, j: 空间单元的索引，i, j = 1, ..., n。
- y_n: n × 1 向量，因变量（如各地区的经济增长率）。
- X_n: n × k 矩阵，外生解释变量（如初始收入、教育水平）。
- β: k × 1 向量，解释变量的回归系数（待估参数）。
- ρ: 标量，空间自回归系数（待估参数），衡量邻居因变量对本单元的影响。
- W_n: n × n 空间权重矩阵，其元素 w_{n,ij} 表示单元 j 对单元 i 的影响。通常假设 w_{ii} = 0（自身不影响自身），且 W_n 是行标准化的（每行和为1）。
- ε_n: n × 1 向量，独立同分布的扰动项，均值为0，方差为σ²。
- S_n(ρ): I_n - ρW_n，一个n×n矩阵，其可逆性是模型识别的基础。
- G_n(ρ): W_n S_n(ρ)^{-1}，空间乘子矩阵，其元素反映了空间溢出的总效应。
- c_{n,j}: 权重矩阵W_n的第j列的和，即 \( c_{n,j} = \sum_{i=1}^n w_{n,ij} \)。这是本文的核心关注点。经典假设要求 \( \sup_n \max_{1 \le j \le n} c_{n,j} < \infty \)（列和一致有界）。本文允许某些j的c_{n,j}发散。
模型：空间自回归（SAR）模型。数据生成过程为：
\[y_n = \rho W_n y_n + X_n \beta + \varepsilon_n\]
这可以改写为简化形式：
\[y_n = (I_n - \rho W_n)^{-1} (X_n \beta + \varepsilon_n) = S_n(\rho)^{-1} (X_n \beta + \varepsilon_n)\]
模型的核心是，一个单元的y值不仅取决于其自身的X和ε，还取决于其邻居的y值（通过W_n y_n项）。参数ρ和β是待估对象。
可观测数据：研究者能观测到的是 {y_n, X_n, W_n}。
- y_n 和 X_n 是标准的数据矩阵。
- W_n 是研究者根据某种距离或网络关系事先指定的，不是估计出来的。例如，在贸易网络中，w_{n,ij} 可以是国家i从国家j的进口额占国家i总进口额的比例。关键：W_n的列和c_{n,j}是研究者可以计算的。如果某个国家是“贸易中心”，其c_{n,j}会很大，可能随n增长。
- 不可观测的是：空间自回归系数ρ、回归系数β、扰动项ε_n。这些是待估参数。

第二步：讲最小内核¶

本文的核心数学困难在于：当W_n的某些列和发散时，如何证明QML和GMM估计量的渐近正态性？

最简特例：考虑一个最简单的SAR模型，没有外生变量（X_n=0），且扰动项是独立同分布的标准正态（ε_n ~ N(0, σ²I_n)）。模型退化为：

\[y_n = \rho W_n y_n + \varepsilon_n\]

其对数似然函数（忽略常数）为：

\[\ell_n(\rho, \sigma^2) = -\frac{n}{2} \log(2\pi\sigma^2) + \log |S_n(\rho)| - \frac{1}{2\sigma^2} y_n' S_n(\rho)' S_n(\rho) y_n\]

其中，\( |S_n(\rho)| = |I_n - \rho W_n| \) 是雅可比项。

经典证明（列和有界） 的关键步骤是证明得分函数（score function）的渐近正态性。得分函数的一阶导数是：

\[\frac{\partial \ell_n}{\partial \rho} = -\text{tr}(G_n(\rho)) + \frac{1}{\sigma^2} y_n' S_n(\rho)' G_n(\rho) y_n\]

其中 \( G_n(\rho) = W_n S_n(\rho)^{-1} \)。在经典假设下，可以证明 \( \text{tr}(G_n(\rho)) \) 和二次型 \( y_n' S_n(\rho)' G_n(\rho) y_n \) 的方差都是有界的，从而可以应用标准的中心极限定理（CLT）来处理二次型。

本文的挑战：当W_n的列和发散时，\( G_n(\rho) \) 的列和也可能发散。这意味着： 1. \( \text{tr}(G_n(\rho)) \) 的阶数可能不再是O(n)，而是更大，导致得分函数的方差发散速度改变。 2. 二次型 \( y_n' S_n(\rho)' G_n(\rho) y_n \) 的方差可能不再是有界的，其渐近分布需要新的CLT来处理。

本文的最小内核：作者需要证明，即使W_n的列和以O(n^δ) (δ<1) 的速度发散，经过适当的标准化后，QML和GMM估计量仍然是 \( \sqrt{n} \)-相合且渐近正态的。关键在于，只要δ<1（即发散速度慢于n），那么由这些发散列和带来的“额外”方差，在除以n之后仍然会收敛到0，从而不影响 \( \sqrt{n} \)-渐近性。如果δ=1（即列和阶数为O(n)），则 \( \sqrt{n} \)-相合性可能不成立，这正是Qu, Lee, and Yu (2017) 处理的情形，也是本文蒙特卡洛实验中表现不佳的情形。

一句话总结：本文的核心数学贡献是构造了一个新的中心极限定理（CLT），该CLT能够处理由非一致有界列和导致的、发散速度可控的二次型方差，从而证明了在更宽松的条件下，经典估计量仍然有效。

三、这篇论文做了什么¶

三句话¶

研究了什么问题：研究了空间自回归（SAR）模型中，当空间权重矩阵W_n的列和可能非一致有界（即存在主导单元）时，QML和GMM估计量的渐近性质。
核心工具/方法：开发了一个新的中心极限定理（CLT），该定理允许有限或无限个列的和以O(n^δ) (δ<1) 的速度增长，并在此CLT基础上推导了QML和GMM估计量的渐近分布。
主要结论：在主导单元的列和阶数小于O(n)（即δ<1）的条件下，QML和GMM估计量仍然是 \( \sqrt{n} \)-相合且渐近正态的。当列和阶数为O(n)时，估计量表现不佳。

关键设定与假设¶

在第二节最小记号的基础上，本文补全了以下完整设定和假设（主要来自论文第2节）：

模型：\( y_n = \rho_0 W_n y_n + X_n \beta_0 + \varepsilon_n \)，其中 \( \rho_0, \beta_0 \) 是真实参数值。
假设1（扰动项）：\( \varepsilon_{n,i} \) 是独立同分布的，均值为0，方差为 \( \sigma_0^2 \)，且存在高于4阶的有限矩（如 \( E|\varepsilon_{n,i}|^{4+\eta} < \infty \) 对某个η>0）。这比经典假设稍强，因为需要处理更高阶的矩来证明CLT。
假设2（权重矩阵）：这是本文的核心假设。
- (i) \( w_{n,ii} = 0 \) 对所有i。
- (ii) W_n 是行标准化的，即 \( \sum_{j=1}^n w_{n,ij} = 1 \) 对所有i。
- (iii) 列和条件：存在一个常数 \( \delta \in [0,1) \)，使得 \( \max_{1 \le j \le n} c_{n,j} = O(n^\delta) \)，其中 \( c_{n,j} = \sum_{i=1}^n w_{n,ij} \)。并且，对于任意 \( \rho \) 在参数空间内，\( S_n(\rho)^{-1} \) 的行和和列和都是一致有界的。相比已有文献：经典假设要求δ=0（即列和一致有界）；Qu, Lee, and Yu (2017) 允许δ=1但只限于有限个主导单元。本文允许δ∈[0,1)且主导单元个数可以是无限的。
假设3（参数空间）：参数空间是紧致的，且真实参数 \( (\rho_0, \beta_0', \sigma_0^2)' \) 是内点。
假设4（识别条件）：\( S_n(\rho) \) 对所有 \( \rho \) 在参数空间内都是非奇异的。\( X_n \) 是满列秩的，且 \( \lim_{n\to\infty} \frac{1}{n} X_n' X_n \) 存在且正定。

主要结果¶

本文的理论结果主要集中在第3节（QML）和第4节（GMM）。挑两个最关键的结果：

定理1（QML估计量的相合性与渐近正态性）：
- 陈述：在假设1-4下，QML估计量 \( \hat{\theta}_{QML} = (\hat{\rho}_{QML}, \hat{\beta}_{QML}', \hat{\sigma}^2_{QML})' \) 是相合的，并且 \( \sqrt{n}(\hat{\theta}_{QML} - \theta_0) \xrightarrow{d} N(0, \Sigma_{QML}) \)。
- 直觉：尽管W_n的列和发散，但发散速度慢于n（δ<1）。这意味着由主导单元引入的“额外”变异性在平均后消失，因此 \( \sqrt{n} \)-收敛速度得以保持。渐近协方差矩阵 \( \Sigma_{QML} \) 的形式与经典情形类似，但其中涉及W_n的项需要根据新的CLT重新计算。
- 必要条件：δ<1。这是保证 \( \sqrt{n} \)-相合性的关键。如果δ=1，则收敛速度可能慢于 \( \sqrt{n} \)。
- 解决的技术难点：证明得分函数和Hessian矩阵的渐近行为。关键在于证明 \( \frac{1}{\sqrt{n}} \frac{\partial \ell_n(\theta_0)}{\partial \theta} \xrightarrow{d} N(0, \Omega) \) 和 \( -\frac{1}{n} \frac{\partial^2 \ell_n(\theta_0)}{\partial \theta \partial \theta'} \xrightarrow{p} \mathcal{I} \)。其中，得分函数包含二次型，其方差的计算需要用到新的CLT。
定理3（最优GMM估计量的渐近正态性）：
- 陈述：在假设1-4下，基于最优线性矩和二次矩的GMM估计量 \( \hat{\theta}_{GMM} \) 是相合的，并且 \( \sqrt{n}(\hat{\theta}_{GMM} - \theta_0) \xrightarrow{d} N(0, \Sigma_{GMM}) \)。当扰动项非正态时，\( \Sigma_{GMM} \) 可能小于 \( \Sigma_{QML} \)，即GMM可以比QML更有效。
- 直觉：GMM通过选择最优的矩条件（线性矩和二次矩的组合）来达到效率。在非正态扰动下，QML的拟似然函数是“错误”的，而GMM不依赖于分布假设，因此可以更有效。本文证明了在主导单元存在的情况下，这一结论仍然成立。
- 必要条件：同定理1，δ<1。此外，需要矩条件能被正确识别。
- 解决的技术难点：证明由二次矩构成的矩条件的渐近正态性，并证明最优权重矩阵的相合性。这同样依赖于新的CLT。

证明路线与技术技巧¶

整体路线：
1. 建立新的CLT（引理1）：这是整个证明的基石。作者证明了一个针对线性-二次型（linear-quadratic forms）的CLT，其中二次型的矩阵的“方差”可能发散，但发散速度受控。具体来说，对于 \( Q_n = \varepsilon_n' A_n \varepsilon_n + b_n' \varepsilon_n \)，其中 \( A_n \) 是对称矩阵，\( b_n \) 是向量，在 \( A_n \) 和 \( b_n \) 的某些范数（如谱范数、行和范数）有界或发散速度受控的条件下，\( Q_n \) 经过标准化后是渐近正态的。
2. 将估计问题转化为线性-二次型问题：QML的得分函数和GMM的矩条件都可以表示为 \( \varepsilon_n \) 的线性-二次型（加上一些可忽略的项）。例如，QML得分函数中的 \( y_n' S_n(\rho)' G_n(\rho) y_n \) 可以展开为 \( \varepsilon_n' \) 的二次型加上低阶项。
3. 验证新CLT的条件：证明在假设2（列和阶数为O(n^δ), δ<1）下，这些线性-二次型中的矩阵 \( A_n \) 和向量 \( b_n \) 满足新CLT的条件。这是证明中最繁琐的部分，需要仔细计算各种矩阵范数的阶数。
4. 应用CLT并推导渐近分布：一旦得分函数/矩条件的渐近正态性得证，就可以用标准的一阶展开（泰勒展开）来推导估计量的渐近分布。
关键跳跃点：
- 引理1的证明：这是最吃功夫的地方。经典的二次型CLT（如Kelejian and Prucha的CLT）要求 \( A_n \) 的某些范数有界。本文需要证明，当这些范数以O(n^δ) (δ<1) 的速度发散时，CLT仍然成立。作者通过截断（truncation）和鞅差序列（martingale difference sequence）的方法来证明。他们先将 \( Q_n \) 分解为多个鞅差的和，然后验证Lindeberg条件。关键在于证明，由发散部分带来的方差贡献在标准化后可以忽略。
- 处理 \( G_n(\rho) \) 的范数：\( G_n(\rho) = W_n S_n(\rho)^{-1} \)。即使 \( W_n \) 的列和发散，\( S_n(\rho)^{-1} \) 的行和与列和一致有界的假设（假设2(iii)）保证了 \( G_n(\rho) \) 的某些范数仍然可控。这个假设是本文能够推进的关键。
技术技巧点名：
- 新的CLT（引理1）：这是本文最核心的技术贡献，专门为处理非一致有界列和而设计。
- 截断与鞅差序列：用于证明新CLT。
- 矩阵范数分析：大量使用行和范数、列和范数、谱范数来界定各种矩阵的阶数，这是高维统计和空间计量中的标准技巧。
- 泰勒展开与Delta方法：用于从得分函数/矩条件的渐近性推导估计量的渐近分布。

真实例子与应用¶

使用的数据/场景：作者使用了贸易流网络数据来研究经济增长收敛问题。数据来自Penn World Table，包含多个国家（n=？）的GDP、人口、投资率等数据。空间权重矩阵W_n基于双边贸易流量构建：\( w_{n,ij} = \frac{imports_{ij}}{\sum_{j} imports_{ij}} \)，即国家i从国家j的进口占其总进口的比例。
怎么把本文方法用上去：作者估计了一个包含空间自回归项的Barro增长回归模型：
\[g_i = \rho \sum_{j} w_{n,ij} g_j + \beta_1 \log(GDP_i^{initial}) + \beta_2 \log(investment_i) + \beta_3 \log(population_i) + \varepsilon_i\]
其中 \( g_i \) 是人均GDP增长率。他们分别用QML和GMM（最优线性与二次矩）进行估计。
得到什么结果：
- 空间自回归系数ρ的估计值显著为正，表明存在空间溢出效应（贸易伙伴的经济增长会促进本国增长）。
- 作者特别报告了W_n的列和统计量，发现存在几个“贸易中心”国家（如美国、中国、德国），其列和远大于其他国家，验证了主导单元的存在。
- 他们比较了本文提出的新渐近标准误（基于δ<1的CLT）与经典标准误（假设列和有界）。结果显示，对于ρ的估计，新标准误通常比经典标准误更大，反映了对主导单元存在带来的额外不确定性的调整。
这个例子想说明什么：这个例子旨在验证本文理论的实际意义。它表明：(1) 在真实数据中，主导单元确实存在；(2) 忽略主导单元（即使用经典标准误）会低估估计量的方差，导致过于乐观的推断；(3) 本文提出的方法能够提供更可靠的推断。

🔎 结论是否比证明窄¶

本文的结论是严谨的，严格在假设2(iii)（列和阶数为O(n^δ), δ<1）下证明。作者在蒙特卡洛实验中明确指出，当δ=1（即列和阶数为O(n)）时，估计量表现不佳，这与其理论预测一致。
作者在结论部分（第6节）提到，对于δ=1的情形，需要进一步研究，可能涉及不同的收敛速度和极限分布。这可以看作是一个conjecture，而非已证明的结论。
作者没有声称其方法适用于所有类型的网络结构。例如，对于稀疏网络（每个节点只与少数节点相连），列和自然有界，经典理论已足够。本文的贡献在于填补了密集网络中“中心-外围”结构这一特定缺口。

四、开放问题（点到为止，扎根具体语句）¶

δ=1的边界情形：当主导单元的列和阶数恰好为O(n)时，估计量的渐近性质是什么？收敛速度是否慢于 \( \sqrt{n} \)？极限分布是否还是正态？扎根点：论文第5节蒙特卡洛实验显示“cases with a column sums magnitude of O(n) might not have satisfactory performance”，以及第6节结论“The case with column sums of O(n) is more complicated and deserves further investigation”。
权重矩阵的内生性：本文假设W_n是外生给定的。但在许多应用中（如社交网络），网络连接本身可能是内生的（例如，人们倾向于与收入水平相近的人交往）。当W_n与扰动项ε_n相关时，本文的估计量是否仍然一致？扎根点：论文引言和模型设定部分均假设W_n是外生的，未讨论内生性问题。这是一个明显的扩展方向。
与因果推断中“干扰”问题的连接：本文的SAR模型是处理网络干扰的一种常用模型。本文关于主导单元的理论能否直接应用于因果推断中的IPW或基于模型的估计器？例如，在存在“超级传播者”的疫苗试验中，如何调整标准误？扎根点：论文未提及因果推断文献，但模型结构（y受邻居y影响）与网络干扰问题同构。这是一个跨领域的潜在连接点。
高维情形：当解释变量X_n的维度k随n增长时（高维SAR模型），本文的结论是否仍然成立？需要引入什么样的正则化方法（如Lasso）？扎根点：论文假设k固定。这是一个自然的推广方向，与研究者对高维统计的兴趣相符。

Maintained by 陈星宇 · Homepage · Source on GitHub