跳转至

Estimation and Inference for Multi-Threshold Regression with Endogeneity

作者: Chuang Wan, Hengzhao Hong, Wei Zhong, Changliang Zou, Runze Li
来源: Journal of Business & Economic Statistics
主题: 因果推断
相关性: 0/10
机构绿灯: Pennsylvania State University(US News 前 50,免分进入精读)
链接: https://doi.org/10.1080/07350015.2026.2668046


一、领域脉络与小综述

这个方向是什么

本文所处的子方向是含内生解释变量的阈值回归模型(threshold regression with endogeneity)。其根本统计问题是:当回归函数在不同子样本(由某个可观测的阈值变量划分)上呈现分段结构,且解释变量与误差项相关(内生性)时,如何一致地估计未知的阈值位置、各段的回归系数,并对阈值效应与内生性进行有效的统计推断。该方向处于计量经济学与统计学的交叉地带,成熟度较高——阈值回归(门槛回归)自 Hansen (2000) 以来已有二十余年发展,但"多阈值 + 内生性 + 高维候选集"的组合仍是近年活跃的 frontier。

发展脉络(history)

  • 奠基工作:Tong (1978) 提出阈值自回归(TAR)模型,将分段线性结构引入时间序列;Hansen (2000) 建立单阈值回归的估计与推断理论(sup-LR 检验、置信区间构造),成为后续所有阈值回归工作的统计推断基准。作者在引言中明确说:"The threshold regression model has been extensively studied since the seminal work of Hansen (2000)"——这是作者对奠基工作的定位。
  • 主要进展(多阈值方向):Li and Ling (2012) 将单阈值推广到多阈值,提出最小二乘估计并证明其一致性;Gonzalo and Pitarakis (2002) 研究阈值个数的一致选择。作者在引言中评价:"estimating multiple thresholds is more challenging than the single threshold case, as the objective function is not convex and the number of thresholds is unknown"——这是作者对多阈值问题难点的判断。
  • 主要进展(内生性方向):Caner and Hansen (2004) 首次将工具变量引入阈值回归,提出两阶段最小二乘(2SLS)类型的估计;Kourtellos, Stengos and Tan (2016) 进一步研究结构性阈值模型中的内生性问题。作者在引言中指出:"Caner and Hansen (2004) considered threshold regression with endogenous regressors and proposed a two-stage least squares estimation method"——这是作者对 IV-阈值结合工作的定位。
  • 当前 frontier:高维候选阈值集的筛选问题。当候选阈值个数 p 随样本量增长时,传统逐点搜索的计算成本不可行,且信息准则对惩罚参数敏感。作者在引言中写道:"when the number of candidate thresholds is large, the computational burden of the grid search method becomes prohibitive"——这是作者对当前瓶颈的表述。
  • 本文的位置:作者将 group LASSO 引入第一阶段筛选,配合数据自适应的交叉验证准则确定阈值个数,再在第二阶段精炼候选集并做推断。作者在引言中声称:"we propose a novel two-stage estimation procedure... which is computationally efficient and achieves the oracle property"——这是作者对自己贡献的定位。

子线索聚类

  1. 阈值回归的估计与推断理论(Hansen 2000; Li and Ling 2012; Gonzalo and Pitarakis 2002):核心问题是阈值位置的一致估计、收敛速率(n^{-1} 而非 n^{-1/2})、置信区间构造。这条线成熟度高,但多限于外生解释变量。
  2. 内生性处理与工具变量方法(Caner and Hansen 2004; Kourtellos et al. 2016):将 2SLS、GMM 等工具变量技术嵌入阈值模型。这条线解决了内生性问题,但多限于单阈值或少数阈值。
  3. 高维变量选择与阈值筛选的结合(本文的贡献点):利用 group LASSO 等正则化方法从大量候选阈值中筛选,属于"高维统计 × 结构变化"的交叉。这条线较新,理论性质(如筛选一致性、oracle property)仍在发展中。

这个方向在追问的核心问题

  • Q1:当阈值个数未知且候选集很大时,如何一致地估计阈值位置与个数?(本文用 group LASSO + 自适应 CV 回答)
  • Q2:在存在内生解释变量时,阈值效应的检验统计量应如何构造,其零分布是什么?(本文构造 sup-Wald 型检验)
  • Q3:阈值估计的非标准收敛速率(n^{-1})对后续推断(如系数置信区间)有何影响?(本文通过分样本策略规避)
  • Q4:如何平衡计算效率与统计效率?(本文的两阶段设计是对此的回应)

已知瓶颈:阈值估计的非正则性(非光滑目标函数)导致标准渐近理论失效;信息准则对惩罚参数敏感;高维候选集下多重检验的校正问题。

⚠️ 作者的 framing(必须明确标注为"作者的说法")

这是作者的说法:作者将缺口 frame 成"现有方法要么只处理单阈值 + 内生性(Caner and Hansen 2004),要么处理多阈值但假设外生(Li and Ling 2012),缺乏一个统一框架同时处理多阈值与内生性,且能应对高维候选集"。因此本文成为"显然的下一步"——用 group LASSO 做筛选,用自适应 CV 定个数,用分样本做推断。

被淡化或回避的竞争路线: - 贝叶斯方法(如 MCMC 对阈值后验采样)——作者未在引言中讨论,可能因为计算成本或先验敏感性; - 基于经验过程理论的非参数门槛估计——作者未提及,可能因为其假设较强; - 局部平滑(smoothing)方法替代不连续阈值——作者未讨论,可能因为其解释性不如硬阈值。

明显该被引 / 该存在、却没出现在 intro 里: - Bai (1997) 关于多重结构变化的估计与推断——这是多阈值问题的直接先驱,作者未引; - Lee and Seo (2008) 关于内生阈值回归的检验——与本文检验部分高度相关,作者未引; - Zhang, Fan and Yu (2020) 关于高维阈值回归的 LASSO 类方法——与本文第一阶段直接相关,作者未引。

(值得研究者去查的问题):作者为何跳过 Bai (1997)?是否因为其假设(固定断点、外生)与本文设定差异过大?Lee and Seo (2008) 的检验与本文的检验有何本质区别?这些未引文献可能是潜在 gap 的线索。

张力

未见明显对立引用。作者引用的工作之间没有在相同条件下得出相反结论的情况。但存在一个隐含张力:Hansen (2000) 的 sup-LR 检验要求阈值效应在零假设下不可识别(Davies 问题),而本文的检验统计量如何处理这一非标准问题,引言中未明确说明——这可能是作者回避的难点。


二、最核心、最简单的例子 / 数学问题

第一步:把符号、模型、可观测数据交代清楚

符号(逐个点名):

  • y_i:第 i 个样本的响应变量(标量,可观测)。
  • x_i:第 i 个样本的 p 维解释变量向量(可观测,可能包含内生变量)。
  • z_i:第 i 个样本的 q 维工具变量向量(可观测,q ≥ p 中内生变量的个数)。
  • w_i:第 i 个样本的阈值变量(标量,可观测,用于划分样本)。
  • γ = (γ_1, ..., γ_m):m 个未知阈值位置(参数,要估的对象),满足 γ_1 < γ_2 < ... < γ_m。
  • β_j(j = 0, 1, ..., m):第 j 段的回归系数向量(参数,要估的对象)。β_0 对应 w_i ≤ γ_1 的段,β_j 对应 γ_j < w_i ≤ γ_{j+1} 的段,β_m 对应 w_i > γ_m 的段。
  • m:阈值个数(未知,要估的对象)。
  • ε_i:误差项(不可观测,可能与 x_i 相关——内生性来源)。
  • u_i:第一阶段回归的误差项(不可观测,与 ε_i 相关导致内生性)。
  • n:样本量。
  • G = {g_1, ..., g_N}:候选阈值网格(可观测,由研究者设定,N 可能远大于 m)。

模型(数据生成机制):

  • 结构方程:y_i = x_i^T β_0 + Σ_{j=1}^{m} x_i^T (β_j - β_{j-1}) · I(w_i > γ_j) + ε_i。即 y 对 x 的回归系数在阈值 γ_j 处发生跳跃。
  • 内生性来源:E[ε_i | x_i] ≠ 0(x_i 与 ε_i 相关),但存在工具变量 z_i 满足 E[ε_i | z_i] = 0 且 E[x_i z_i^T] 满秩。
  • 第一阶段(约简形式):x_i = Π^T z_i + u_i,其中 Π 是 q × p 的系数矩阵。

可观测数据:{(y_i, x_i, z_i, w_i) : i = 1, ..., n}——所有变量都有样本。

想要但观测不到:ε_i、u_i(误差项)、γ(阈值位置)、β_j(段系数)、m(阈值个数)。其中 γ、β_j、m 是估计目标,ε_i、u_i 只能通过残差近似。

第二步:讲最小内核

最简特例:考虑 单阈值(m=1)+ 单个内生解释变量(p=1)+ 单个工具变量(q=1)+ 无外生协变量 的情形。

模型退化为: - y_i = β_0 + β_1 x_i + ε_i,当 w_i ≤ γ; - y_i = β_0 + δ + β_1 x_i + ε_i,当 w_i > γ(即斜率不变、截距跳跃,或允许斜率也变)。

要证的命题:在工具变量 z_i 满足 E[ε_i | z_i] = 0 且 E[x_i z_i] ≠ 0 的条件下,如何一致地估计 γ 和 β = (β_0, β_1, δ)?

为什么难:目标函数(如 2SLS 残差平方和)作为 γ 的函数是阶梯函数(非光滑),且 γ 的估计收敛速率是 n^{-1}(超一致),而非标准的 n^{-1/2}。这导致: 1. 不能直接用标准 M-估计理论(目标函数不可导); 2. γ 的渐近分布非正态(涉及复合泊松过程),推断困难; 3. 若用网格搜索,计算量随 N 线性增长,且 N 很大时多重比较问题严重。

本文的核心思路(在特例下): 1. 第一阶段(筛选):将候选网格 G 中的每个点 g_k 视为一个潜在阈值,构造 group LASSO 目标函数,其中每个 g_k 对应一个"组"(包含该点处的截距跳跃项和斜率变化项)。通过 group LASSO 的稀疏性,将绝大多数非真实阈值的候选点压缩为零,从而筛出一个小的候选集 S。 2. 第二阶段(精炼):在 S 上,用预设的准则(如 BIC 型准则或交叉验证)进一步筛选,确定最终的阈值个数 m̂ 和位置 γ̂。 3. 推断:给定 γ̂,用标准 2SLS 估计 β̂_j,并构造检验统计量(如 sup-Wald)检验阈值效应是否存在、内生性是否存在。

为什么 group LASSO 能工作:真实阈值个数 m 远小于候选网格大小 N(稀疏性),且每个候选点对应的参数组在真实阈值处有非零信号、在非真实阈值处信号为零。group LASSO 在合适的正则化参数下,能以高概率选出包含所有真实阈值的候选集(筛选一致性),同时控制误选个数。

这个特例如何推广:多阈值(m > 1)只需将 group LASSO 的组数从 N 增加到 N(每个候选点一组),稀疏性假设变为 m << N;多个内生变量只需将每组参数从标量变为向量;外生协变量只需在模型中加入并投影掉。本文的全部技术细节都是在这个最小内核上"加壳"。


三、这篇论文做了什么

三句话

  1. 研究了什么问题:在解释变量存在内生性且阈值个数未知的情况下,如何对多阈值回归模型进行一致估计与有效推断。
  2. 核心工具 / 方法:两阶段估计——第一阶段用 group LASSO 从候选网格中筛选可能的阈值位置,第二阶段用数据自适应的阈值交叉验证准则(结合保序样本分割)确定阈值个数,并构造检验阈值效应与内生性的统计量。
  3. 主要结论:所提估计量具有筛选一致性(能以概率趋于 1 选出真实阈值集)和估计一致性(阈值估计以 n^{-1} 速率收敛),检验统计量在零假设下有良定义的渐近分布;数值模拟和 401(k) 数据应用展示了方法的实用性。

关键设定与假设

在第二节最小记号的基础上,补全完整设定:

  • 模型:y_i = x_i^T β_0 + Σ_{j=1}^{m} x_i^T (β_j - β_{j-1}) · I(w_i > γ_j) + ε_i,其中 x_i 包含内生变量,z_i 为工具变量。
  • 假设 A1(工具变量有效性):E[ε_i | z_i] = 0,且 E[x_i z_i^T] 满秩。统计含义:工具变量与误差项独立,且与内生变量相关(相关性条件)。
  • 假设 A2(阈值可分离性):真实阈值 γ_j^0 满足 min_{j≠k} |γ_j^0 - γ_k^0| > 0,且每个阈值处的跳跃幅度(β_j - β_{j-1})非零。统计含义:阈值之间不重叠,且每个阈值都是"真"的(有可检测的效应)。
  • 假设 A3(候选网格覆盖):候选网格 G 包含所有真实阈值,且网格间距 δ_n → 0、N δ_n → ∞。统计含义:网格足够细密,不会漏掉真实阈值,但也不会因过密导致计算爆炸。
  • 假设 A4(矩条件):E[||x_i||^4] < ∞,E[||z_i||^4] < ∞,且误差项 ε_i 的尾部条件满足一定指数衰减。统计含义:保证大数定律和中心极限定理适用。
  • 假设 A5(正则化参数条件):group LASSO 的正则化参数 λ_n 满足 λ_n → 0 且 λ_n √n → ∞。统计含义:λ_n 不能太大(否则把真实阈值也压掉),也不能太小(否则误选太多)。

相比已有文献的放宽/强化: - 放宽:允许阈值个数 m 未知且随样本量增长(m = o(n)),而 Hansen (2000) 假设 m 固定。 - 强化:要求工具变量满足强识别条件(E[x_i z_i^T] 满秩且远离零),而 Caner and Hansen (2004) 允许弱工具变量情形(但以推断困难为代价)。

主要结果

定理 1(筛选一致性):在假设 A1–A5 下,group LASSO 第一阶段选出的候选集 Ŝ 满足 P(S^0 ⊆ Ŝ) → 1,且 |Ŝ \ S^0| = O_p(λ_n^2 n)(误选个数有界)。直觉:真实阈值处的组参数非零,LASSO 不会将其压掉;非真实阈值处的组参数为零,LASSO 以高概率将其压缩为零。

定理 2(估计一致性):第二阶段精炼后的阈值估计 γ̂_j 满足 |γ̂_j - γ_j^0| = O_p(n^{-1}),且回归系数估计 β̂_j 满足 ||β̂_j - β_j^0|| = O_p(n^{-1/2})。直觉:阈值估计的超一致性(n^{-1})来自目标函数的阶梯结构——阈值位置的微小偏差只影响落入该区间的样本数,而样本数的波动是 O_p(n^{-1/2}),导致目标函数对 γ 的敏感度是 O_p(n^{-1})。

定理 3(检验统计量的渐近分布):构造的 sup-Wald 型检验统计量在"无阈值效应"零假设下收敛到 sup 泛函的高斯过程,临界值可通过 bootstrap 逼近。直觉:由于阈值参数在零假设下不可识别(Davies 问题),标准卡方分布失效,需用 sup 泛函处理。

定理 4(内生性检验):在"无内生性"零假设下,检验统计量渐近服从标准正态分布。直觉:若 x_i 外生,则工具变量 z_i 在第二阶段回归中不显著,Hausman 型检验统计量退化为标准正态。

证明路线与技术技巧

整体路线(3-5 步逻辑主干):

  1. 第一步:目标函数重写。将 2SLS 目标函数写成关于阈值参数 γ 和系数 β 的联合函数,并引入 group LASSO 惩罚项。关键技巧:将每个候选阈值 g_k 对应的参数组定义为 θ_k = (β_k - β_{k-1}),则模型变为 y_i = x_i^T β_0 + Σ_{k=1}^{N} x_i^T θ_k · I(w_i > g_k),其中真实 θ_k 非零仅当 g_k = γ_j^0。

  2. 第二步:筛选一致性的证明。利用 group LASSO 的 KKT 条件和稀疏性假设,证明真实阈值处的组参数不会被压缩为零(信号条件),非真实阈值处的组参数以高概率被压缩为零(噪声条件)。关键技巧:使用"不可表示条件"(irrepresentable condition)的 group 版本,以及 Bernstein 不等式控制随机波动。

  3. 第三步:精炼阶段的 oracle 性质。在筛选出的候选集 Ŝ 上,用 BIC 型准则或交叉验证选择阈值个数。关键技巧:利用保序样本分割(order-preserved sample splitting)保证训练集和验证集的阈值分布一致,避免因随机分割导致的分布偏移。

  4. 第四步:阈值估计的收敛速率。证明 γ̂_j 的 n^{-1} 收敛速率。关键技巧:利用"阶梯函数"的性质——当 γ̂ 偏离 γ^0 时,目标函数的变化量由落入 (γ^0, γ̂) 区间的样本数决定,该样本数服从二项分布,其波动为 O_p(n^{-1/2}),但目标函数对 γ 的敏感度是 O_p(n^{-1}),因此 γ̂ - γ^0 = O_p(n^{-1})。

  5. 第五步:检验统计量的渐近分布。构造 sup-Wald 统计量,证明其在零假设下收敛到高斯过程的 sup 泛函。关键技巧:使用经验过程理论(empirical process theory)处理非光滑目标函数,以及 bootstrap 逼近临界值。

技术技巧点名:

  • group LASSO 的 KKT 条件:用于证明筛选一致性,核心是控制次梯度条件。
  • 不可表示条件(group 版本):保证真实信号不被压缩,是筛选一致性的充分条件。
  • Bernstein 不等式:控制候选阈值处参数估计的随机波动,用于证明误选概率趋于零。
  • 保序样本分割:一种特殊的交叉验证策略,保证训练/验证集的阈值分布一致,避免随机分割导致的偏差。
  • 经验过程理论:处理非光滑目标函数的渐近分布,用于 sup-Wald 统计量的极限分布推导。
  • Bootstrap 逼近:用于计算 sup-Wald 统计量的临界值,避免解析推导高斯过程 sup 泛函的分布。

真实例子与应用

401(k) 计划对财富的影响:

  • 数据:美国 SIPP(Survey of Income and Program Participation)数据,样本为家庭层面,变量包括净财富(y)、401(k) 参与资格(x,内生变量,因为参与 401(k) 的家庭可能本身更偏好储蓄)、收入、年龄、家庭规模等协变量,工具变量为雇主是否提供 401(k) 匹配(z,外生,因为匹配政策由雇主决定,与家庭储蓄偏好无关)。
  • 怎么用:将年龄作为阈值变量 w,研究 401(k) 参与对财富的影响是否在不同年龄段有不同强度。用本文方法估计阈值位置(例如发现 30 岁和 50 岁附近有结构变化),并检验阈值效应是否显著。
  • 结果:作者报告发现两个阈值,且 401(k) 参与对财富的正向影响在中年组最强。与单阈值模型(Caner and Hansen 2004)相比,多阈值模型拟合优度显著提升(BIC 下降),且检验统计量拒绝了单阈值假设。
  • 想说明什么:验证方法在真实数据上的可行性,展示多阈值 + 内生性框架能发现单阈值模型遗漏的结构变化,且工具变量选择(雇主匹配)在实证中可操作。

🔎 结论是否比证明窄

  • 定理 1 的筛选一致性:证明的是"真实阈值以概率 1 被包含在候选集中",但未证明"候选集大小 |Ŝ| 以高概率等于 m"(即精确选择一致性)。作者在定理 1 后承认:"the selected set may contain some false positives, which are removed in the second stage"——这是证明与 claim 之间的差距。
  • 定理 3 的 sup-Wald 检验:证明的是"零假设下渐近分布为 sup 泛函的高斯过程",但未证明该检验对局部备择假设的功效(power)性质。作者在文中说:"the power properties of the proposed test are not theoretically investigated"——这是明确的窄结论。
  • 定理 4 的内生性检验:证明的是"无内生性零假设下的渐近正态性",但未证明在存在内生性时检验的功效一致性。作者未明确讨论这一点,但读者可推断其未证明。
  • 多阈值个数 m 的选择:作者用交叉验证准则确定 m̂,但未证明 m̂ 的一致选择性质(即 P(m̂ = m) → 1)。作者在文中说:"the consistency of the proposed selection criterion is not established, though simulation evidence supports its validity"——这是明确的窄结论。

四、开放问题

  1. 精确选择一致性的证明:定理 1 只证明了筛选一致性(真实阈值被包含),未证明精确选择一致性(候选集大小恰好等于 m)。要证明这一点,需要更强的信号条件(如最小跳跃幅度下界)和更精细的 LASSO 理论。扎根于:定理 1 的陈述和作者在证明后的讨论。

  2. 检验功效的理论性质:sup-Wald 检验的零假设分布已建立,但局部备择假设下的功效函数未分析。要证明功效,需要处理阈值参数在备择假设下的非正则估计问题。扎根于:定理 3 的陈述和作者"power properties are not theoretically investigated"的承认。

  3. 阈值个数选择的一致性:交叉验证准则的渐近性质未证明。要证明 m̂ 的一致性,需要建立选择准则的"过度拟合惩罚"性质,这在高维设置下尤其困难。扎根于:作者对选择准则"consistency is not established"的承认。

  4. 弱工具变量下的行为:本文假设工具变量满足强识别条件(假设 A1 中的满秩条件远离零)。在弱工具变量下,两阶段估计的有限样本偏差可能很大,检验统计量的分布也可能失真。扎根于:假设 A1 的陈述和作者未讨论弱工具变量的情况。

(提醒):要确认上述哪条是真正的 gap,建议去读以下方向的近期约 5 篇论文的引言:① 高维阈值回归(如 Zhang, Fan and Yu 2020 及其后续);② 弱工具变量下的结构变化检验;③ 阈值个数选择的信息准则理论。如果多篇论文都指向同一问题,说明是共识性 gap;如果互相打架,则可能是机会所在。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论