Instrument Validity Tests With Causal Forests¶

作者: Helmut Farbmacher, Raphael Guber, Sven Klaassen
来源: Journal of Business & Economic Statistics
主题: 因果推断
相关性: 8/10
链接: https://doi.org/10.1080/07350015.2020.1847122

一、领域脉络与小综述¶

这个方向是什么¶

本子方向关注的是工具变量（Instrumental Variable, IV）有效性的统计检验。在 LATE（Local Average Treatment Effect）框架下，IV 的有效性依赖于三个核心假设：排除性（exclusion restriction）、单调性（monotonicity） 和 相关性（relevance）。前两个假设是不可检验的（untestable），但它们共同产生一些可检验的必要条件（necessary conditions），例如：工具变量 Z 与结果 Y 的分布，在给定协变量 X 的条件下，应当与 Z 对处理 D 的效应方向一致。传统的 IV 有效性检验（如经典的“overidentification test”或“Durbin-Wu-Hausman test”）只能给出一个全局的 p 值，判断整个样本中是否存在违反。然而，违反可能只发生在某个特定的子群（subpopulation）中，全局检验对此类局部违反（local violations）的检验功效很低。本文的核心贡献是：利用因果森林（causal forest）来数据驱动地搜索可能违反 IV 有效性的子群，并对其进行局部检验。

发展脉络（history）¶

奠基工作：LATE 框架与 IV 有效性假设
- Imbens & Angrist (1994)：建立了 LATE 框架，明确了 IV 识别处理效应的三个核心假设（排除性、单调性、相关性）。这是整个领域的基石。作者在引言中引用它来定义“什么是 IV 有效性”。
- Angrist, Imbens & Rubin (1996)：进一步将 LATE 框架与潜在结果（potential outcomes）和 Rubin 因果模型联系起来，强调了单调性假设在定义“依从者（compliers）”时的关键作用。作者引用它来讨论单调性假设的可检验性。
主要进展：IV 有效性检验的全局方法
- Kitagawa (2015)：提出了一个基于分布特征的检验，用于检验 LATE 假设。该检验利用了“工具变量 Z 与结果 Y 的分布，在给定处理 D 的条件下，应当满足某种随机占优关系”这一必要条件。作者引用它作为“全局检验”的代表，并指出其局限性：“...the test is global in the sense that it only provides a single p-value for the entire sample, and cannot detect which subpopulations drive the violation.”
- Mourifié & Wan (2017)：提出了另一种基于条件分布检验的全局方法。作者引用它来进一步说明全局检验的普遍性：“...these tests are global in nature and cannot pinpoint the source of the violation.”
当前 Frontier：异质性检验与数据驱动的子群发现
- Athey & Imbens (2016)：提出了因果树（causal tree），一种用于估计异质性处理效应（heterogeneous treatment effects, HTE）的树结构方法。它通过递归划分样本空间，找到处理效应差异最大的子群。作者引用它作为其方法的基础：“...we build on the causal forest approach of Athey, Tibshirani, and Wager (2019), which is an ensemble method based on causal trees.”
- Athey, Tibshirani & Wager (2019)：提出了因果森林（causal forest），它是因果树的集成版本，通过随机森林的方式提高了估计的稳定性和准确性。作者直接使用该方法来估计条件平均处理效应（CATE）的异质性。作者引用它作为核心工具：“...we use causal forests to search and test for such local violations...”
- 本文的位置：本文位于“全局检验”与“异质性处理效应估计”的交汇点。它利用因果森林这一 HTE 估计工具，将 IV 有效性检验从“全局”推进到“局部”，能够识别并检验特定子群中是否存在违反。

子线索聚类¶

LATE 框架与 IV 识别理论：Imbens & Angrist (1994), Angrist, Imbens & Rubin (1996)。这一簇关注 IV 有效性的理论定义和识别条件。
全局 IV 有效性检验：Kitagawa (2015), Mourifié & Wan (2017)。这一簇关注如何构造一个统计量来检验整个样本中 IV 假设是否成立。
异质性处理效应估计：Athey & Imbens (2016), Athey, Tibshirani & Wager (2019)。这一簇关注如何估计和发现处理效应在不同子群间的变化。

这个方向在追问的核心问题¶

如何构造一个对局部违反具有高检验功效的统计量？ 全局检验在违反只影响小部分样本时功效很低。
如何数据驱动地选择要检验的子群，同时控制多重比较（multiple testing）问题？ 如果对每个可能的子群都进行检验，会面临严重的多重比较问题。
检验的零假设（null hypothesis）是什么？ 是“IV 在整个样本中有效”，还是“IV 在某个特定子群中有效”？后者需要更精细的定义。
检验的统计性质（如 size, power, asymptotic distribution）是什么？ 需要推导检验统计量在零假设下的分布，以校准 p 值。

⚠️ 作者的 framing¶

作者把缺口 frame 成什么？ 作者将现有 IV 有效性检验的“全局性”定位为关键缺口。他们声称：“Unlike previous instrument validity tests, our procedure is able to detect local violations.” 这使得他们的方法成为“显然的下一步”：既然有工具（因果森林）可以估计异质性，那么用它来发现局部违反是自然的延伸。
哪些竞争路线被他淡化或回避了？ 作者淡化了多重比较校正的复杂性。他们使用置换检验（permutation test）来校准 p 值，但并未深入讨论在数据驱动的子群搜索过程中，如何严格控制族系错误率（FWER）或错误发现率（FDR）。他们只是说：“We use a permutation test to obtain valid p-values that account for the multiple testing inherent in our data-driven search.” 但“account for”的具体程度和理论保证有待商榷。
什么明显该被引 / 该存在、却没出现在 intro 里？ 作者没有引用任何关于敏感性分析（sensitivity analysis） 的文献。IV 敏感性分析（如基于“选择比例”或“偏相关系数”的方法）是处理 IV 有效性违反的另一种主流范式。本文的“局部检验”本质上也是一种敏感性分析（检测违反是否存在），但作者将其定位为“检验”而非“敏感性分析”。这可能是作者有意为之，以突出其方法的“检验”属性。值得研究者去查：IV 敏感性分析与本文的局部检验方法之间是否存在互补或竞争关系？例如，Imbens (2003) 的“局部工具变量”方法或 Conley, Hansen & Rossi (2012) 的“plausibly exogenous”方法。

张力¶

未见明显对立引用。所有被引工作都承认 IV 有效性假设的不可检验性，并致力于构造可检验的必要条件。本文与全局检验方法之间是互补而非对立关系：全局检验用于整体诊断，局部检验用于精确定位。

二、最核心、最简单的例子 / 数学问题¶

第一步：把符号、模型、可观测数据交代清楚¶

符号：
- \( Z \in \{0, 1\} \)：工具变量（二元）。例如，越战征兵抽签的随机号码。
- \( D \in \{0, 1\} \)：处理变量（二元）。例如，是否参军。
- \( Y \in \mathbb{R} \)：结果变量。例如，后来的收入。
- \( X \in \mathbb{R}^p \)：协变量。例如，年龄、种族、教育背景。
- \( Y(1), Y(0) \)：潜在结果（potential outcomes），分别对应 \( D=1 \) 和 \( D=0 \) 时的结果。不可观测，因为一个人只能处于一种处理状态。
- \( D(1), D(0) \)：潜在处理状态（potential treatment status），分别对应 \( Z=1 \) 和 \( Z=0 \) 时的处理状态。不可观测，因为一个人只能被分配到一个工具变量值。
- \( \tau(x) = E[Y(1) - Y(0) | X=x] \)：条件平均处理效应（CATE）。这是本文要估计的目标量。
- \( \text{LATE} = E[Y(1) - Y(0) | D(1) > D(0)] \)：局部平均处理效应，即对“依从者”（compliers）的平均处理效应。在 IV 假设下，\( \tau(x) \) 的加权平均等于 LATE。
- \( \hat{\tau}(x) \)：因果森林对 \( \tau(x) \) 的估计量。
- \( \hat{\tau}_q \)：\( \hat{\tau}(x) \) 在样本中的第 \( q \) 个分位数。
模型：本文采用非参数潜在结果模型。数据生成过程由联合分布 \( P(Z, D, Y, X) \) 描述。核心假设是 LATE 框架的三个假设：
1. 相关性：\( Z \) 与 \( D \) 相关（\( E[D|Z=1] \neq E[D|Z=0] \)）。
2. 排除性：\( Z \) 仅通过 \( D \) 影响 \( Y \)（\( Y(z, d) = Y(d) \)）。
3. 单调性：\( D(1) \ge D(0) \) 对所有个体成立（没有“违抗者”defiers）。本文的零假设 \( H_0 \) 是：这三个假设在整个样本中成立。备择假设 \( H_1 \) 是：至少在一个子群中，这些假设被违反。
可观测数据：研究者可以观测到 \( (Z_i, D_i, Y_i, X_i) \) 的 \( n \) 个独立同分布样本。不可观测的是潜在结果 \( Y(1), Y(0) \) 和潜在处理状态 \( D(1), D(0) \)。IV 有效性检验正是利用可观测数据来推断这些不可观测量之间的关系是否与假设一致。

第二步：讲最小内核¶

本文的核心思路可以用一个最简特例来理解：假设我们只有一个二元协变量 \( X \in \{0, 1\} \)（例如，性别：男/女）。我们想检验 IV 有效性是否在男性和女性子群中都成立。

估计 CATE：首先，我们使用因果森林（或更简单的，在 \( X=0 \) 和 \( X=1 \) 两个子群中分别用 IV 方法估计 LATE）来估计每个子群的条件平均处理效应 \( \tau(0) \) 和 \( \tau(1) \)。在 IV 假设下，这两个估计量都应该收敛到同一个值（即全局 LATE）。如果 IV 在某个子群中无效（例如，在男性中，工具变量 Z 通过其他路径影响了 Y），那么该子群的 CATE 估计值 \( \hat{\tau}(1) \) 就会偏离全局 LATE。
构造检验统计量：如果 IV 在整个样本中有效，那么所有子群的 CATE 估计值 \( \hat{\tau}(x) \) 应该围绕同一个中心值（全局 LATE）波动，其分布应该集中在零附近（减去全局 LATE 后）。如果存在局部违反，那么某些子群的 CATE 估计值会系统地偏离零。因此，一个自然的检验统计量是：CATE 估计值的某个分位数，例如，\( \hat{\tau}_{0.9} \)（第 90 百分位数）。如果这个分位数显著大于零，就表明存在一些子群，其 CATE 估计值异常高，暗示 IV 在这些子群中可能无效。
校准 p 值：如何判断 \( \hat{\tau}_{0.9} \) 是否“显著”大？我们需要知道它在零假设下的分布。由于因果森林的估计量 \( \hat{\tau}(x) \) 的有限样本分布很复杂，作者使用置换检验（permutation test）。在零假设下，工具变量 Z 是“外生”的，因此我们可以通过随机打乱 Z 的赋值来生成一个“零分布”。具体来说：
- 对原始数据，计算检验统计量 \( T_{\text{obs}} = \hat{\tau}_{0.9} \)。
- 重复 \( B \) 次：随机置换 \( Z \) 的标签（打破 Z 与 D 和 Y 的任何真实关系），用置换后的数据重新训练因果森林，并计算新的检验统计量 \( T^{(b)} \)。
- 计算 p 值：\( p = \frac{1}{B} \sum_{b=1}^B \mathbb{1}(T^{(b)} \ge T_{\text{obs}}) \)。

这个最小内核揭示了本文的核心思想：利用因果森林估计 CATE 的异质性，然后通过检验 CATE 分布是否偏离零（或某个中心值）来推断 IV 有效性是否存在局部违反。论文的一般情形只是将这个特例推广到高维协变量 \( X \) 和更复杂的检验统计量（如多个分位数或最大分位数）。

三、这篇论文做了什么¶

三句话¶

研究了什么问题：在 LATE 框架下，如何检验工具变量有效性假设（排除性、单调性）是否存在局部违反，即违反是否只发生在某些由协变量定义的子群中。
核心工具 / 方法：使用因果森林（causal forest）来估计条件平均处理效应（CATE）的异质性，然后基于 CATE 估计值的分位数构造检验统计量，并通过置换检验（permutation test）校准 p 值。
主要结论：模拟研究表明，该方法在存在局部违反时，比传统的全局检验（如 Kitagawa 2015）具有更高的检验功效。在两个实证应用中（子女性别组合偏好、越战征兵抽签），该方法发现了某些子群中存在 IV 有效性违反的证据。

关键设定与假设¶

设定：与第二节的“最小内核”一致，但协变量 \( X \) 可以是高维的。因果森林用于估计 \( \tau(x) = E[Y(1) - Y(0) | X=x] \)。作者使用“广义随机森林”（generalized random forest）框架，该框架可以处理 IV 设定下的 CATE 估计。
假设：
- LATE 假设：相关性、排除性、单调性。这些是零假设 \( H_0 \) 的内容。
- 因果森林的假设：因果森林的有效性依赖于一些正则性条件，例如：CATE 函数 \( \tau(x) \) 是“分段常数”或“近似分段常数”的（即存在一个基于协变量的最优划分），以及协变量的分布是连续的等。作者没有显式列出这些假设，而是引用了 Athey, Tibshirani & Wager (2019) 的原始论文。
- 置换检验的有效性：置换检验的有效性依赖于可交换性（exchangeability） 假设。在零假设下，工具变量 Z 的赋值是随机的，因此打乱 Z 的标签不会改变数据的联合分布。这是合理的，因为 Z 本身是随机分配的（或条件随机分配）。
相比已有文献的放宽或强化：
- 放宽：相比全局检验，本文放宽了对违反形式的假设。全局检验假设违反是“全局”的，而本文允许违反是“局部”的。
- 强化：本文强化了对 CATE 估计的要求。它需要一个能够准确估计 CATE 异质性的方法（因果森林），而全局检验不需要。

主要结果¶

理论结果：本文没有提供正式的渐近理论（如检验统计量的渐近分布或一致性）。作者主要依赖模拟来评估方法的有限样本性质。这是一个重要的局限性。
模拟结果：
- 设定：作者设计了多种模拟场景，包括：IV 有效（零假设）、IV 在某个子群中违反排除性、IV 在某个子群中违反单调性。他们比较了本文提出的“局部检验”（基于因果森林分位数）与 Kitagawa (2015) 的“全局检验”。
- 核心量化结论：
  - 在零假设下，两种检验都能很好地控制第一类错误（size），p 值接近均匀分布。
  - 在局部违反设定下，本文的局部检验的检验功效（power） 显著高于全局检验。例如，当违反只影响 10% 的样本时，局部检验的功效可达 0.8 以上，而全局检验的功效可能低于 0.2。
  - 当违反是全局的（影响所有样本）时，两种检验的功效都很高，但全局检验可能略优。
- 与 baseline 对比：主要与 Kitagawa (2015) 的全局检验对比。作者还尝试了其他检验统计量（如最大分位数、多个分位数的组合），并发现基于第 90 百分位数的检验在大多数设定下表现良好。
- 稳健性：作者测试了不同样本量、不同违反程度、不同协变量维度下的表现，结果定性一致。

证明路线与技术技巧¶

整体路线：本文是方法型论文，没有复杂的数学证明。其“证明”是通过模拟和实证来完成的。核心逻辑是：
1. 估计：用因果森林估计 CATE \( \hat{\tau}(x) \)。
2. 聚合：计算 CATE 估计值的某个分位数 \( \hat{\tau}_q \) 作为检验统计量。
3. 推断：通过置换检验得到 p 值，判断是否拒绝零假设。
关键跳跃点：没有严格的数学跳跃。关键的“跳跃”是直觉上的：为什么 CATE 分布的分位数能反映局部违反？作者通过模拟和直觉论证了这一点。
技术技巧点名：
- 因果森林：用于估计 CATE。这是 Athey, Tibshirani & Wager (2019) 的核心贡献。它通过“诚实”划分（honest splitting）和“子采样”（subsampling）来减少过拟合，并提供渐近正态的估计量。
- 置换检验：用于校准 p 值。这是一种非参数检验方法，不依赖于检验统计量的渐近分布，因此适用于因果森林这种复杂估计量。作者使用“条件置换检验”（conditional permutation test），即在每个因果树的划分内进行置换，以保持协变量的分布不变。
- 分位数：作为检验统计量。选择分位数而非均值或方差，是因为分位数对异常值更稳健，且能更好地捕捉 CATE 分布的“尾部”行为，而局部违反往往体现在尾部。

真实例子与应用¶

例子 1：子女性别组合偏好（Parental Preferences for Mixed-Sex Composition）
- 数据 / 场景：经典经济学问题：父母是否有“性别组合偏好”（即希望至少有一个儿子和一个女儿）？工具变量是前两个孩子的性别组合（例如，第一个是男孩、第二个是女孩 vs. 两个都是男孩）。处理变量是是否继续生育第三个孩子。结果是第三个孩子的出生（或母亲的劳动供给等）。IV 有效性假设是：前两个孩子的性别组合是随机的（相关性），且仅通过影响生育决策来影响后续结果（排除性）。
- 方法应用：作者使用因果森林，以家庭特征（如母亲年龄、教育、种族、居住地）为协变量 \( X \)，估计 CATE（即第三个孩子出生的概率）。然后，他们检验 CATE 的分布是否偏离零。
- 结果：全局检验（Kitagawa 2015）未能拒绝 IV 有效性。但本文的局部检验发现，在某些子群（例如，母亲年龄较大、教育水平较低的家庭）中，CATE 的分布显著偏离零，表明 IV 在这些子群中可能无效。作者推测，这些家庭可能对性别组合有更强的偏好，或者其生育决策更容易受到其他未观测因素的影响。
- 例子想说明什么：展示了局部检验能够发现全局检验遗漏的违反，从而提供更细致的诊断信息。
例子 2：越战征兵抽签（Vietnam Draft Lottery）
- 数据 / 场景：经典因果推断例子。工具变量是征兵抽签号码（随机分配，号码小的人更可能被征召）。处理变量是是否参军。结果是后来的收入。IV 有效性假设是：抽签号码是随机的（相关性），且仅通过影响参军决策来影响收入（排除性）。
- 方法应用：类似地，作者使用因果森林，以个人特征（如年龄、种族、教育、出生地）为协变量，估计 CATE（参军对收入的影响）。
- 结果：全局检验未能拒绝 IV 有效性。但局部检验发现，在某些子群（例如，来自低收入家庭、少数民族背景的年轻人）中，CATE 的分布显著偏离零，表明 IV 在这些子群中可能无效。作者推测，这些群体可能通过其他途径（如逃避兵役、教育延期）来应对征兵，从而违反了排除性。
- 例子想说明什么：进一步验证了局部检验的实用性，并揭示了经典 IV 应用中可能存在的、被全局检验掩盖的异质性违反。

🔎 结论是否比证明窄¶

是的。本文的结论（“我们的方法能检测局部违反”）在模拟中得到了验证，但缺乏严格的渐近理论证明。作者在文中明确承认了这一点：“A formal asymptotic theory for our test statistic is beyond the scope of this paper.” 因此，其结论的适用范围被限制在模拟所覆盖的设定中。对于更复杂的设定（如高维协变量、非线性关系、弱工具变量），其表现是未知的。作者在结论部分也提到了这一点，作为未来工作。

四、开放问题¶

渐近理论：本文的检验统计量（因果森林 CATE 的分位数）的渐近分布是什么？能否推导出其在零假设下的极限分布，从而避免使用计算成本较高的置换检验？扎根点：作者在文中明确说“A formal asymptotic theory for our test statistic is beyond the scope of this paper.” 这是最直接的开放问题。
多重比较的严格控制：本文的置换检验如何严格控制族系错误率（FWER）或错误发现率（FDR）？当搜索的子群数量很大时，置换检验的 p 值是否仍然有效？能否设计一种更严格的多重比较校正程序？扎根点：作者仅说“account for the multiple testing”，但未给出理论保证。
检验功效的理论刻画：在什么条件下，本文的局部检验比全局检验具有更高的功效？能否给出一个理论上的“功效函数”（power function），刻画其与违反程度、违反子群大小、协变量维度等的关系？扎根点：模拟结果展示了功效优势，但缺乏理论解释。
扩展到其他识别策略：本文的方法能否扩展到其他更复杂的识别策略，如断点回归（RDD）、双重差分（DID） 或近端因果推断（Proximal Causal Inference）？这些策略也有各自的识别假设，同样可能存在局部违反。扎根点：作者在结论中提到了“extensions to other settings”作为未来工作，但未具体说明。

Maintained by 陈星宇 · Homepage · Source on GitHub