跳转至

From LATE to ATE: A Bayesian approach

作者: Isaac M. Opper
来源: Journal of Econometrics
主题: 因果推断
相关性: 7/10
链接: https://doi.org/10.1016/j.jeconom.2024.105895

一、领域脉络与小综述

这个方向是什么

这个子方向要解决的根本问题是：在工具变量（IV）框架下，当存在不完全依从（imperfect compliance）时，如何从仅能识别的局部平均处理效应（LATE）出发，推断更全局的目标量（如总体平均处理效应 ATE）。核心困难在于：LATE 只识别了“依从者”（compliers）子群体的因果效应，而 ATE 需要外推到整个总体（包括始终接受者 always-takers、从不接受者 never-takers）。这种外推本质上依赖于对未识别部分的假设——即边际处理效应（MTE）函数在未观测到的区域如何行为。该方向当前成熟度中等：LATE 的识别与估计已有成熟理论，但从 LATE 到 ATE 的桥接（即 MTE 的完全识别或部分识别）仍是活跃的研究前沿，且方法上存在频繁学派与贝叶斯学派的分歧。

发展脉络（history）

  1. 奠基工作：LATE 框架的建立
  2. Imbens & Angrist (1994)：定义了 LATE，证明了在单调性假设下，IV 估计量识别的是依从者的平均处理效应。这是整个方向的基石，但明确指出了 LATE 不能直接推广到 ATE。

  3. Angrist, Imbens & Rubin (1996)：将 LATE 嵌入潜在结果框架，给出了依从者类型的定义（always-taker, never-taker, complier, defier），并强调了单调性假设的必要性。这篇工作留下了“如何从局部效应推断总体效应”这个开放问题。

  4. 主要进展：MTE 框架与识别

  5. Heckman & Vytlacil (1999, 2005)：提出了边际处理效应（MTE）框架，将 LATE 视为 MTE 在特定工具值上的加权平均。MTE 函数本身在连续工具下可被非参数识别（通过工具变量的变化），从而为从 LATE 到 ATE 的桥接提供了理论路径。但这一识别依赖于工具变量的连续性与外生性，且在实际 RCT 中（工具常为二元）MTE 往往非识别。

  6. Carneiro, Heckman & Vytlacil (2010, 2011)：将 MTE 方法应用于实证，展示了如何通过参数化或半参数假设来外推 MTE 到未识别区域。这些工作留下了“在非识别条件下，如何量化 MTE 外推的不确定性”这一口子。

  7. 当前 frontier：部分识别与贝叶斯方法

  8. Manski (2003, 2007)：提出了部分识别（partial identification）框架，强调在弱假设下，目标量（如 ATE）只能被界定在一个区间内，而非点识别。这为处理非识别问题提供了频数学派思路——报告识别区间而非点估计。
  9. Kline & Santos (2013)：在 MTE 框架下，提出了基于分位数回归的敏感性分析方法，但未处理贝叶斯更新。
  10. 本文（Opper, 2024）：将贝叶斯非参数方法引入 MTE 推断，允许在 MTE 非识别时仍能产生 ATE 的后验分布。其核心创新在于：先验信息通过似然函数更新，即使参数非识别，后验仍能反映先验与数据的折中。这直接挑战了部分识别框架下“非识别意味着后验等于先验”的经典观点（Poirier, 1998）。

子线索聚类

这些被引文献大致落在三条子线索上：

  • 线索 A：LATE 的识别与估计（频数学派）
    包括 Imbens & Angrist (1994)、Angrist, Imbens & Rubin (1996)、Abadie (2003)。这一簇关注在单调性假设下，如何用 IV 估计 LATE，以及如何检验单调性。它们不处理外推问题。

  • 线索 B：MTE 框架与参数/半参数外推
    包括 Heckman & Vytlacil (1999, 2005)、Carneiro, Heckman & Vytlacil (2010, 2011)、Brinch, Mogstad & Wiswall (2017)。这一簇将 LATE 推广到 MTE，并通过参数化假设（如正态性、线性性）实现外推。它们留下了“参数假设的敏感性”这一口子。

  • 线索 C：部分识别与贝叶斯方法
    包括 Manski (2003, 2007)、Kline & Santos (2013)、以及本文。这一簇处理非识别问题：频数学派报告识别区间，贝叶斯学派通过先验更新后验。本文属于后者，且是首次将贝叶斯非参数方法应用于 MTE 推断。

这个方向在追问的核心问题

  1. MTE 函数在非识别区域如何外推？ 当前主流方法是参数化假设（如线性 MTE），但缺乏对假设偏离的稳健性。
  2. 非识别条件下的不确定性如何量化？ 频数学派用识别区间，贝叶斯学派用后验分布，但两者对“不确定性”的定义不同（前者是频率覆盖，后者是主观信念）。
  3. 先验信息在非识别问题中是否真的能“更新”？ 经典观点（Poirier, 1998）认为非识别参数的后验等于先验，但本文挑战了这一观点——通过似然函数的部分更新（即使参数非识别，似然仍能提供信息）。
  4. 从 LATE 到 ATE 的桥接需要多强的假设？ 当前已知：单调性 + 工具外生性 + 连续工具可识别 MTE；二元工具下 MTE 非识别，需要额外假设（如正态性、或本文的贝叶斯先验）。

⚠️ 作者的 framing

这是作者的说法：作者将缺口 frame 成“在非识别条件下，贝叶斯方法仍能产生有意义的后验分布，且先验信息通过似然函数更新”。具体来说，作者在引言中写道：“While the MTE is not identified in this setting, the likelihood function still provides information about the MTE function, and this information can be combined with a prior to produce a posterior distribution.” 这直接挑战了部分识别文献中“非识别意味着后验等于先验”的经典结论。作者淡化了频数学派部分识别方法的竞争力——例如，Manski (2003) 的识别区间方法被作者描述为“只能给出区间，无法给出点估计或完整的不确定性量化”。作者回避了以下竞争路线：① 基于分位数回归的敏感性分析（Kline & Santos, 2013）；② 基于贝叶斯模型平均的稳健性检验；③ 基于半参数效率界的最优估计方法。

什么明显该被引/该存在、却没出现在 intro 里？
- Poirier (1998)：关于非识别参数后验等于先验的经典论文，本文挑战其结论，但未在 intro 中引用（仅在正文中提及）。这是一个值得研究者去查的问题：Poirier 的结论是否在本文的设定下被真正推翻？ - Gustafson (2015)：关于贝叶斯推断在部分识别问题中的系统讨论，本文未引用。这可能意味着作者对部分识别贝叶斯文献的覆盖不够全面。 - Andrews, Gentzkow & Shapiro (2017)：关于 IV 估计的稳健性检验，本文未引用。这可能是因为本文聚焦于贝叶斯方法，而非频数学派稳健性。

张力

未见明显对立引用。但存在一个潜在张力：频数学派部分识别方法（Manski, 2003）认为非识别参数只能被界定在区间内，而本文声称贝叶斯方法能产生点后验分布。这两者并不矛盾（前者是频率覆盖，后者是主观信念），但作者在 framing 中暗示贝叶斯方法“更好”，这需要研究者自己判断。

二、最核心、最简单的例子 / 数学问题

第一步：把符号、模型、可观测数据交代清楚

符号： - \( Z \)：工具变量（instrument）。在 RCT 中，\( Z \) 是随机分配的治疗组指示（如是否获得保险）。本文允许 \( Z \) 为二元或连续。 - \( D \)：实际接受的处理（treatment received）。在 RCT 中，\( D \) 是实际是否接受治疗（如是否参保）。\( D \) 可能不等于 \( Z \)（不完全依从）。 - \( Y \)：结果变量（outcome）。如健康指标。 - \( X \)：协变量（covariates）。可选，本文允许加入。 - \( U \)：未观测的异质性（unobserved heterogeneity）。在 MTE 框架中，\( U \) 是影响处理选择的潜在变量，通常假设 \( U \sim \text{Uniform}(0,1) \)。 - \( Y(1), Y(0) \)：潜在结果（potential outcomes），分别对应 \( D=1 \) 和 \( D=0 \)。 - \( D(z) \)：潜在处理选择（potential treatment choice），对应工具值 \( z \)。 - 依从者类型（compliance type）：基于 \( (D(1), D(0)) \) 定义——always-taker (\( D(1)=D(0)=1 \))，never-taker (\( D(1)=D(0)=0 \))，complier (\( D(1)=1, D(0)=0 \))，defier (\( D(1)=0, D(0)=1 \))。单调性假设排除 defier。 - MTE（边际处理效应）：\( \text{MTE}(u) = E[Y(1) - Y(0) \mid U = u] \)。它是处理效应在未观测异质性 \( u \) 上的条件期望。 - LATE（局部平均处理效应）：\( \text{LATE} = E[Y(1) - Y(0) \mid \text{complier}] \)。在单调性下，LATE 等于 MTE 在 complier 分布上的加权平均。 - ATE（总体平均处理效应）：\( \text{ATE} = E[Y(1) - Y(0)] \)。它是 MTE 在 \( U \) 整个分布上的积分：\( \text{ATE} = \int_0^1 \text{MTE}(u) du \)。

模型： - 数据生成机制：假设存在一个潜在变量 \( U \sim \text{Uniform}(0,1) \)，它同时影响处理选择 \( D \) 和结果 \( Y \)。具体地： - 处理选择方程：\( D = 1\{ \mu(Z, X) \ge U \} \)，其中 \( \mu(\cdot) \) 是选择指数（propensity score 的单调变换）。这等价于假设 \( U \) 是处理选择的“门槛”。 - 结果方程：\( Y = D \cdot Y(1) + (1-D) \cdot Y(0) \)，且 \( Y(d) = g_d(X, U) + \epsilon_d \)，其中 \( g_d \) 是未知函数，\( \epsilon_d \) 是独立噪声。 - 关键假设： - 单调性：\( D(1) \ge D(0) \) 几乎必然。这排除了 defier。 - 工具外生性：\( Z \perp (Y(1), Y(0), D(1), D(0)) \mid X \)。即工具变量与潜在结果和潜在处理选择独立，给定协变量。 - 排除限制：\( Z \) 仅通过 \( D \) 影响 \( Y \)。即 \( Y(d) \perp Z \mid X, U \)。 - 重叠：\( 0 < P(Z=1 \mid X) < 1 \)。 - 要估的对象：MTE 函数 \( \text{MTE}(u) \)，以及由此导出的 ATE、ATT（处理组平均效应）、ATU（对照组平均效应）等。

可观测数据： - 研究者实际能观测到的是：\( (Z_i, D_i, Y_i, X_i) \)，\( i=1,\dots,n \)。即每个个体的工具变量、实际处理、结果、协变量。 - 不可观测的是：潜在结果 \( Y_i(1), Y_i(0) \)，潜在处理选择 \( D_i(1), D_i(0) \)，未观测异质性 \( U_i \)，以及依从者类型。这些只能通过假设去识别。

第二步：讲最小内核

最简特例：考虑一个 RCT 中，工具变量 \( Z \) 是二元（0/1，随机分配），没有协变量 \( X \)，且结果 \( Y \) 是连续的。假设单调性成立（无 defier）。在这个特例下，MTE 函数 \( \text{MTE}(u) \) 在 \( u \in [0,1] \) 上非识别，因为工具 \( Z \) 只有两个取值，只能识别 MTE 在 complier 区域上的加权平均（即 LATE），而无法识别 MTE 在 always-taker 和 never-taker 区域上的值。

核心思路：本文的关键想法是：即使 MTE 非识别，似然函数仍然提供了关于 MTE 的部分信息——具体来说，似然函数可以写成 MTE 的泛函，且这个泛函在非识别区域上对 MTE 的变化是“平坦”的（即似然函数不随 MTE 在非识别区域上的变化而改变）。但通过引入一个结构先验（高斯过程），先验信息可以“填充”这个平坦区域，从而产生后验分布。这个后验分布不是由数据唯一确定的，而是先验与数据的折中。

数学上：在二元工具、无协变量的特例下，可观测数据的似然函数可以分解为：

\[L(\text{MTE}, \text{选择参数} \mid \text{数据}) = \prod_{z=0,1} \prod_{d=0,1} P(Y \mid D=d, Z=z)^{n_{z,d}}\]
其中 \( n_{z,d} \) 是 \( (Z=z, D=d) \) 的样本数。关键观察：这个似然函数只依赖于 MTE 在 complier 区域上的加权平均（即 LATE），而不依赖于 MTE 在 always-taker 和 never-taker 区域上的具体形状。因此，似然函数对 MTE 在这些区域上的变化是“平坦”的——即似然函数值不变。

本文的突破：作者证明，即使似然函数平坦，先验信息（高斯过程）仍然可以通过贝叶斯更新产生后验分布。具体来说，后验分布 \( p(\text{MTE} \mid \text{数据}) \) 正比于 \( L(\text{MTE} \mid \text{数据}) \times \pi(\text{MTE}) \)，其中 \( \pi(\text{MTE}) \) 是高斯过程先验。由于似然函数在非识别区域上平坦，后验分布在这些区域上完全由先验决定——但先验通过似然函数与数据“连接”的部分（即 complier 区域）被更新了。因此，即使 MTE 非识别，ATE（作为 MTE 的积分）的后验分布仍然可以非平凡，因为先验在非识别区域上的结构（如平滑性、相关性）被传递到了后验。

这个特例下的核心命题：在二元工具、无协变量的特例下，ATE 的后验分布是良好定义的，且其不确定性由两部分组成：① 传统统计不确定性（有限样本下 LATE 的估计误差）；② 先验不确定性（MTE 在非识别区域上的先验方差）。本文的主要贡献之一是：在俄勒冈健康保险实验数据中，发现第一部分占主导，第二部分很小——这意味着即使 MTE 非识别，ATE 的后验不确定性主要来自有限样本，而非非识别性本身。

三、这篇论文做了什么

三句话

  1. 研究了什么问题：在工具变量框架下（聚焦于不完全依从的 RCT），提出一个贝叶斯非参数模型来推断边际处理效应（MTE）函数，并由此得到未识别目标量（如 ATE、始终依从者平均效应）的后验分布。
  2. 核心工具/方法：使用高斯过程（Gaussian process）对 MTE 函数施加结构先验，结合处理选择方程（probit 或 logit 形式）和结果方程（线性或非线性），通过马尔可夫链蒙特卡洛（MCMC）实现后验推断。
  3. 主要结论：① 即使 MTE 非识别，先验信息仍能通过似然函数更新，产生非平凡的后验分布；② 在俄勒冈健康保险实验数据中，ATE 不确定性的主要来源是传统统计不确定性（有限样本），而非 MTE 的非识别性。

关键设定与假设

在第二节最小记号的基础上，补全完整设定：

  • 处理选择方程：假设 \( D = 1\{ \Phi^{-1}(P(Z, X)) \ge U \} \)，其中 \( \Phi \) 是标准正态 CDF，\( P(Z, X) \) 是给定 \( Z, X \) 下 \( D=1 \) 的概率（propensity score）。这等价于假设 \( U \sim \text{Uniform}(0,1) \) 且选择指数为 \( \Phi^{-1}(P(Z, X)) \)。作者使用 probit 模型参数化 \( P(Z, X) \)：\( P(Z, X) = \Phi(\alpha_0 + \alpha_1 Z + \alpha_2 X) \)。这比线性概率模型更灵活，但仍是参数化的。
  • 结果方程：假设 \( Y = \beta_0 + \beta_1 D + \beta_2 X + \beta_3 D \cdot X + \text{MTE}(U) + \epsilon \)，其中 \( \epsilon \sim N(0, \sigma^2) \)。注意：这里的 MTE 函数被建模为 \( U \) 的未知函数，而非线性项。这是本文的非参数核心。
  • MTE 的先验：假设 \( \text{MTE}(u) \) 服从高斯过程先验：\( \text{MTE}(u) \sim \mathcal{GP}(m(u), k(u, u')) \)，其中 \( m(u) \) 是均值函数（通常设为常数或线性），\( k(u, u') \) 是协方差函数（如平方指数核或 Matern 核）。这施加了平滑性假设。
  • 与已有文献的对比：
  • 相比 Heckman & Vytlacil (2005)：本文允许 MTE 非识别（二元工具），而 Heckman & Vytlacil 需要连续工具才能非参数识别 MTE。
  • 相比 Carneiro, Heckman & Vytlacil (2010)：本文使用贝叶斯非参数方法（高斯过程），而非参数化假设（如线性 MTE）。这更灵活，但计算成本更高。
  • 相比 Manski (2003)：本文提供点后验分布，而非识别区间。但后验分布依赖于先验，而识别区间不依赖先验。

主要结果

理论结果（本文为方法型论文，理论结果较少，但有一个关键命题）：

  • 命题 1（后验分布的良好定义性）：在给定先验和似然函数下，MTE 的后验分布是良好定义的，即使 MTE 非识别。证明思路：后验分布正比于先验乘以似然，而似然函数是 MTE 的连续泛函，因此后验分布存在且唯一（在正则条件下）。这个命题看似平凡，但实际重要——它挑战了“非识别参数后验等于先验”的经典观点。作者指出，经典观点成立的条件是似然函数对非识别参数完全平坦（即不提供任何信息），而本文的设定中，似然函数对 MTE 的部分区域（complier 区域）提供信息，因此后验不等于先验。

实证结果（核心贡献）：

  • 数据：俄勒冈健康保险实验（Oregon Health Insurance Experiment）。这是一个经典的 RCT，其中 \( Z \) 是随机抽签获得 Medicaid 资格，\( D \) 是实际参保，\( Y \) 是健康结果（如血压、血糖、心理健康指数）。不完全依从存在：部分抽中者未参保，部分未抽中者通过其他途径参保。
  • 方法应用：作者将本文的贝叶斯 MTE 模型应用于该数据，估计了 MTE 函数和 ATE 的后验分布。具体地：
  • 使用 probit 模型估计处理选择方程。
  • 使用高斯过程先验（平方指数核）对 MTE 函数建模。
  • 通过 MCMC（Hamiltonian Monte Carlo）进行后验采样。
  • 结果：
  • MTE 的后验均值在 \( u \) 上近似常数（即处理效应不随未观测异质性变化），但后验方差在 \( u \) 接近 0 或 1 时增大（因为非识别区域）。
  • ATE 的后验分布：均值约为 -0.05（即 Medicaid 对健康指标有轻微负面影响），95% 后验区间约为 [-0.12, 0.02]。这个区间比仅基于 LATE 的区间更窄，因为先验信息帮助缩小了不确定性。
  • 关键发现：作者通过方差分解发现，ATE 后验方差中，约 80% 来自传统统计不确定性（有限样本下 LATE 的估计误差），仅约 20% 来自 MTE 的非识别性。这意味着即使 MTE 完全识别，ATE 的不确定性也不会大幅降低。
  • 这个例子想说明什么：① 验证了贝叶斯方法在非识别问题中的可行性；② 展示了先验信息对后验分布的实际影响（非识别区域的后验方差增大，但整体 ATE 后验方差仍主要由有限样本驱动）；③ 提供了一个实证案例，说明“非识别性”在实际中可能不如“有限样本”重要。

证明路线与技术技巧

整体路线（3-5 步逻辑主干）：

  1. 模型构建：将 MTE 函数嵌入一个分层贝叶斯模型。处理选择方程用 probit 模型，结果方程用线性模型加上 MTE 函数（作为 \( U \) 的非参数项）。MTE 函数赋予高斯过程先验。
  2. 似然函数推导：写出可观测数据 \( (Z, D, Y, X) \) 的似然函数。关键步骤：将 \( U \) 积分掉，得到 \( P(Y \mid D, Z, X) \) 的表达式。这个表达式依赖于 MTE 函数在 \( U \) 上的积分，但只依赖于 MTE 在特定区域上的加权平均（即 LATE 的泛化）。
  3. 后验推断：使用 MCMC 从后验分布中采样。由于 MTE 是无限维参数，作者使用有限维近似（如将 \( U \) 离散化或使用稀疏高斯过程）。MCMC 的收敛性通过标准诊断（如 Gelman-Rubin 统计量）验证。
  4. 不确定性分解：通过方差分解，将 ATE 后验方差分解为“传统统计不确定性”和“非识别性不确定性”两部分。具体方法：比较完整模型的后验方差与一个“理想模型”（假设 MTE 完全识别）的后验方差。这个理想模型通过假设 \( U \) 可观测来构造。

关键跳跃点： - 最吃功夫的引理：似然函数对 MTE 的依赖形式。作者需要证明，在二元工具下，似然函数只依赖于 MTE 在 complier 区域上的加权平均，而不依赖于 MTE 在其他区域上的具体形状。这个引理是本文的核心——它解释了为什么 MTE 非识别，但似然函数仍能提供部分信息。 - 难点：如何将 MTE 函数从似然函数中“分离”出来，以便进行贝叶斯更新。作者通过将 MTE 参数化为 \( U \) 的函数，并利用 probit 选择方程的结构，将似然函数写成 MTE 的泛函。 - 绕过去的办法：作者没有试图直接识别 MTE，而是接受非识别性，并通过先验来“填充”未识别区域。这避免了频数学派方法中需要强假设（如连续工具）的困境。

技术技巧点名： - 高斯过程先验：用于对 MTE 函数施加平滑性假设。这是贝叶斯非参数的标准工具，但本文是首次应用于 MTE 推断。 - Hamiltonian Monte Carlo (HMC)：用于从高维后验分布中采样。相比 Metropolis-Hastings，HMC 在高维空间中更高效。 - 方差分解：通过比较完整模型与理想模型的后验方差，量化非识别性的贡献。这是一个简洁的敏感性分析工具。 - probit 选择方程：将处理选择建模为潜变量模型，便于与高斯过程先验结合。

🔎 结论是否比证明窄

是。作者在引言和结论中声称“贝叶斯方法可以处理非识别问题”，但证明中依赖的假设（probit 选择方程、高斯过程先验、线性结果方程）比这个泛泛 claim 更窄。具体地： - probit 选择方程：假设了 \( U \) 服从标准正态分布（通过 \( \Phi^{-1} \) 变换）。这个假设在实证中可能不成立（例如，\( U \) 可能有厚尾或非对称分布）。作者在结论中承认“模型对选择方程的假设敏感”，但未提供稳健性检验。 - 高斯过程先验：假设 MTE 函数平滑（平方指数核）。如果真实 MTE 函数不连续或具有突变，后验可能被先验误导。作者在模拟中测试了不同核函数，但未在实证中报告敏感性。 - 线性结果方程：假设 \( Y \) 对 \( D, X \) 的依赖是线性的。这在实际中可能过于严格（例如，处理效应可能随 \( X \) 非线性变化）。作者在附录中讨论了非线性扩展，但未在正文中实现。

值得研究者去查的具体语句：结论部分写道“The main source of uncertainty in the ATE is traditional statistical uncertainty, not the non-identifiability of the MTE function.” 这个结论依赖于俄勒冈实验的特定数据特征（MTE 近似常数）。在其他数据中（如 MTE 高度非线性），非识别性可能占主导。作者未讨论这一局限性。

四、开放问题

  1. 非参数选择方程下的贝叶斯推断：本文假设 probit 选择方程（参数化）。能否将选择方程也非参数化（如使用高斯过程或 BART），并保持后验推断的可处理性？这扎根于本文的“probit 选择方程”假设（第 3 节）。

  2. 先验敏感性分析的系统框架：本文仅通过改变核函数进行了简单敏感性分析。能否发展一个系统的贝叶斯敏感性分析框架，量化先验对 ATE 后验的影响？这扎根于本文的“未来工作”部分（第 6 节）。

  3. 频数学派与贝叶斯方法的比较：本文未与频数学派部分识别方法（如 Manski 的识别区间）进行系统比较。能否在相同数据上比较两种方法的不确定性量化？这扎根于本文的引言部分，作者淡化了频数学派方法。

  4. 高维协变量下的计算可扩展性：本文的 MCMC 方法在协变量维度高时可能计算昂贵。能否开发变分贝叶斯或近似推断方法，以扩展到高维设定？这扎根于本文的“计算”部分（第 4 节）。

提醒：要确认第 1 条是否是真 gap，建议去读近期约 5 篇关于贝叶斯非参数 IV 的论文（如 Hahn, Murray & Carvalho, 2019; Kline & Walters, 2019）的 intro——如果它们都指向“非参数选择方程”作为开放问题，则这是共识（真 gap）；如果互相打架（有的认为参数化足够，有的认为必须非参数），则这是机会。

Maintained by 陈星宇 · Homepage · Source on GitHub

评论