跳转至

Estimating Heterogeneous Causal Effects with Tree-Based Methods under Imperfect Compliance

作者: Karolina Gliszczyńska-Schroeder
主题: 因果推断
相关性: 8/10
链接: https://arxiv.org/abs/2609.31769


一、领域脉络与小综述

  • 这个方向是什么:本文属于"异质性因果效应估计 + 亚组发现"这一子领域,其根本科学问题是在工具变量(IV)框架下、存在不完全依从(imperfect compliance)时,如何估计条件依从者平均因果效应(CCACE)并识别出哪些患者亚组对治疗的反应不同。该方向的成熟度处于"方法百花齐放但缺乏统一比较"的阶段——已有多种基于树的方法(贝叶斯与非贝叶斯),但它们在亚组发现这一特定任务上的相对表现缺乏系统评估。

  • 发展脉络(history):

  • 奠基工作:Imbens and Angrist (1994) 与 Angrist et al. (1996) 建立了局部平均处理效应(LATE)的识别框架,定义了依从者(complier)子群体,为后续所有 CCACE 估计提供了概念基础。Angrist and Pischke (2009) 的教科书进一步系统化了 IV 方法在计量经济学中的应用。
  • 主要进展(树方法用于异质性效应):Athey and Imbens (2016) 提出因果树(causal tree),将递归划分引入异质性处理效应估计;Wager and Athey (2018) 发展出因果森林(causal forest),给出渐近高斯性与置信区间;Athey et al. (2019) 提出广义随机森林(GRF)框架,将树方法推广到一般矩条件估计问题,IV 是其特例。Hahn et al. (2020) 提出贝叶斯因果森林(BCF),通过分离倾向得分与效应估计来减少正则化偏差。
  • 当前 frontier(IV + 树方法):Bargagli-Stoffi et al. (2022) 提出 BCF-IV,首次将贝叶斯因果森林扩展到 IV 设定,用 BART 分别估计 ITT(x) 和依从率 π_C(x),再相除得到 CCACE(x)。Maßmann and Klenke (2026) 提出 SBCF-IV,用稀疏化 SoftBART 替代原 BCF-IV 的估计器。Komura et al. (2025) 提出"两阶段实用亚组发现"框架(本文直接继承),将效应估计与亚组识别解耦。
  • 本文的位置:作者将 Komura et al. (2025) 的模型无关两阶段框架引入 IV 设定,用非贝叶斯树方法(DRRF-IV 和 GRF-IV)替代 BCF-IV 的贝叶斯第一步,系统比较三种方法在亚组发现和效应估计上的表现。

  • 子线索聚类:

  • 识别与估计理论(Imbens and Angrist 1994; Angrist et al. 1996; Wang and Tchetgen Tchetgen 2018):关注在何种假设下 IV 能识别因果效应,以及 LATE/CCACE 的精确定义。这一线索为所有方法提供识别基础。
  • 树/森林方法用于异质性效应(Athey and Imbens 2016; Wager and Athey 2018; Athey et al. 2019; Hahn et al. 2020):关注如何用递归划分自适应地发现效应异质性,核心技巧包括 honesty、正交化、局部矩条件。
  • IV 设定下的树方法(Bargagli-Stoffi et al. 2022; Maßmann and Klenke 2026; 本文):将线索 2 的方法扩展到依从性不完全的场景,核心挑战是同时估计 ITT(x) 和 π_C(x) 并处理比值的不稳定性。
  • 两阶段亚组发现框架(Komura et al. 2025):将"估计效应"与"识别亚组"解耦,第一阶段用任意 ML 方法估计 τ̂(x),第二阶段用 CART 对估计效应做可解释划分。

  • 这个方向在追问的核心问题:

  • 识别:在 IV 假设(单调性、排除限制、条件独立性)下,CCACE(x) 是否由观测数据唯一确定?(已解决,见 Angrist et al. 1996)
  • 估计:如何以尽可能小的方差和偏差估计 CCACE(x)?特别是当依从率 π_C(x) 接近零时,比值估计量如何稳定?(本文的核心关注点之一)
  • 亚组发现:如何从估计的 τ̂(x) 中提取出可解释的、统计上可靠的亚组结构?不同估计方法对亚组发现的质量有何影响?(本文的核心贡献)
  • 推断:如何在树/森林结构下对亚组效应做有效的统计推断?(Wager and Athey 2018 部分解决,但 IV 设定下的理论仍不完整)

  • ⚠️ 作者的 framing(这是作者的说法):作者将缺口 frame 成"BCF-IV 依赖贝叶斯第一步,计算昂贵且对先验敏感;我们提出模型无关的两阶段框架,允许任意 ML 方法估计 CCACE,并系统比较不同第一步估计器对亚组发现的影响"。作者淡化的竞争路线包括:(1) 直接端到端的 IV 森林方法(如 GRF-IV 本身),不经过两阶段解耦;(2) 基于正交矩条件的半参数方法(如 DML-IV),这些方法有更强的理论保证但可能牺牲可解释性。什么明显该被引 / 该存在、却没出现在 intro 里?——作者没有引用 Oprescu et al. (2019) 的正交随机森林(Orthogonal Random Forest),该工作直接在 IV 设定下用正交化处理异质性效应估计,与本文的 DRRF-IV 在精神上高度相关;也没有引用 Chernozhukov et al. (2018) 的 DML 框架在 IV 异质性效应上的应用(虽然引用了 DML 本身)。这是一个值得研究者去查的潜在遗漏。

  • 张力:未见明显对立引用。但存在一个微妙的张力:Bargagli-Stoffi et al. (2022) 强调贝叶斯正则化在弱信号下的优势,而本文的结果显示非贝叶斯方法在大样本下表现相当——这暗示贝叶斯先验的作用可能随样本量增大而减弱,但作者没有直接讨论这一张力。

二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据

设 i = 1, ..., N 为独立同分布样本。核心变量:

  • Z_i ∈ {0,1}:工具变量(instrument),表示随机分配的治疗意图(如 ICU 床位是否可用)。这是可观测的。
  • D_i ∈ {0,1}:实际接受的治疗(如是否入住 ICU)。这是可观测的,但受依从性影响——并非所有被分配治疗的人都接受治疗。
  • Y_i ∈ ℝ:结果变量(如 28 天死亡率)。这是可观测的。
  • X_i ∈ ℝ^K:协变量向量(如年龄、疾病严重程度评分)。这是可观测的。
  • D_i(z):潜在治疗状态(potential treatment),即当 Z_i = z 时个体 i 会接受的治疗。这是不可观测的(反事实)。
  • Y_i(z, d):潜在结果(potential outcome),即当 Z_i = z 且 D_i = d 时的结果。这是不可观测的(反事实)。

目标 estimand:条件依从者平均因果效应

\[\tau_{CCACE}(x) = E[Y_i(1) - Y_i(0) \mid X_i = x, \text{complier}]\]

其中 complier 定义为 D_i(1) = 1 且 D_i(0) = 0 的个体(即"遵从分配"的人)。

关键识别假设(IV 框架的标准假设): 1. 条件独立性:Z_i ⊥ (Y_i(0), Y_i(1), D_i(0), D_i(1)) | X_i(工具变量在给定协变量后如同随机分配) 2. 排除限制:Y_i(z, d) = Y_i(d)(工具只通过治疗影响结果) 3. 单调性:D_i(1) ≥ D_i(0)(不存在 defier) 4. 存在依从者:P(D_i(1) > D_i(0)) > 0

在这些假设下,CCACE(x) 可识别为:

\[\tau_{CCACE}(x) = \frac{E[Y_i \mid Z_i = 1, X_i = x] - E[Y_i \mid Z_i = 0, X_i = x]}{E[D_i \mid Z_i = 1, X_i = x] - E[D_i \mid Z_i = 0, X_i = x]} = \frac{ITT(x)}{\pi_C(x)}\]

可观测数据:研究者能观测到 (X_i, Z_i, D_i, Y_i) 的四元组,但无法直接观测到个体属于哪一类(complier/always-taker/never-taker)。

第二步:最小内核

剥去所有树方法的复杂性,本文的核心数学问题是:

如何估计一个条件比值函数 τ(x) = ITT(x) / π_C(x),其中分子和分母都需要从观测数据中非参数估计,且分母可能接近零?

最小例子(一维协变量、无混淆的 IV 设计):

设 X_i ∈ ℝ,Z_i ~ Bernoulli(0.5),D_i(0) = 0(单调性 + 单侧不依从),D_i(1) ~ Bernoulli(π_C(X_i)),Y_i = τ(X_i)·D_i + ε_i。

  • 分子 ITT(x) = E[Y_i | Z_i = 1, X_i = x] − E[Y_i | Z_i = 0, X_i = x]。在单侧不依从下,Z_i = 0 组全部未治疗,Z_i = 1 组中依从者接受治疗,因此 ITT(x) = π_C(x)·τ(x)。
  • 分母 π_C(x) = E[D_i | Z_i = 1, X_i = x] − E[D_i | Z_i = 0, X_i = x] = E[D_i | Z_i = 1, X_i = x](因为 D_i(0) = 0)。

核心困难:当 π_C(x) 接近零时(即某个协变量区域几乎没有依从者),比值 τ̂(x) = ÎTT(x) / π̂_C(x) 会爆炸。树方法通过划分来局部化估计——在每个叶节点内分别估计 ITT 和 π_C,但叶节点越小,π_C 的估计越不稳定。

本文的 DRRF-IV 策略:构造去偏转换结果 Y_i^⋆IV = (Z_i − p̂_Z(X_i))(Y_i − m̂(X_i)) / (p̂_Z(X_i)(1 − p̂_Z(X_i))),其条件期望等于 ITT(x)(Theorem 2),且对 m(·) 的估计误差一阶不敏感(Lemma 3 的 Neyman 正交性)。然后用标准回归森林对 Y^⋆IV 做回归,得到 ÎTT(x)。最后除以 π̂_C(x)(用因果森林估计)得到 τ̂_CCACE(x)。

为什么这个内核"撑得起"整篇论文:一旦理解了"比值估计 + 局部化 + 正交化"这三者的张力,就能理解本文的所有模拟设计(改变 k 即效应强度、改变依从率、改变样本量)和所有比较(BCF-IV vs DRRF-IV vs GRF-IV)都是在回答同一个问题:在依从性弱、效应弱、样本小的"坏情况"下,哪种估计策略最稳健?

三、这篇论文做了什么

三句话: 1. 研究了什么问题:在 IV 框架和不完全依从下,不同的 CCACE 估计方法(贝叶斯 vs 非贝叶斯、直接 vs 两阶段)如何影响异质性效应估计的精度和亚组发现的质量。 2. 核心工具/方法:提出一个模型无关的两阶段框架(第一阶段用任意 ML 估计 τ̂_CCACE(x),第二阶段用 CART 做亚组发现),并具体实现了两种非贝叶斯方法——DRRF-IV(基于去偏转换结果的回归森林)和 GRF-IV(广义随机森林的 IV 适应版)。 3. 主要结论:在模拟中,非贝叶斯方法在大样本和中度效应强度下与 BCF-IV 表现相当甚至更优,且计算时间大幅缩短;但在小样本和弱效应下,BCF-IV 的正则化优势明显。实证应用中,三种方法发现的亚组结构不一致,且多数叶节点存在弱工具问题。

关键设定与假设: - 数据生成过程(基于 Bargagli-Stoffi et al. 2022):10 个协变量(X_1, ..., X_10)~ N(0,1),Z_i ~ Bernoulli(0.5),单侧不依从(D_i(0) = 0),依从概率 D_i(1) ~ Bernoulli(0.75)(常数依从率),Y_i(0) ~ N(0,1),Y_i(1) = Y_i(0) + τ_CCACE(X_i),其中 τ_CCACE(X_i) 在强异质性场景下为分段常数(由 X_1, X_2 的符号决定),在弱异质性场景下为更复杂的四区域结构。效应强度 k ∈ {0.5, 1, 1.5, 2.5, 3, 3.5, 4}。 - 识别假设:IV 假设(条件独立性、排除限制、单调性、存在依从者)全部假定成立——本文不研究识别失败的情况。 - 诚实性(honesty):所有树方法均采用 honest 划分(样本分割),即划分结构在训练子样本上确定,叶节点效应在估计子样本上计算。 - 弱工具处理:在推断阶段,对每个叶节点运行 IV 回归并计算弱工具检验(如第一阶段 F 统计量),丢弃弱工具的叶节点。

主要结果: - 模拟研究(N = 10,000,500 次 Monte Carlo): - 亚组发现:在强异质性场景下,BCF-IV 在低效应强度(k = 0.5)时 TPR 最高(0.594 vs DRRF-IV 的 0.518 和 GRF-IV 的 0.499),但 FDR 也最高(0.150 vs 约 0.20)。随着 k 增大,三者差距缩小,k ≥ 1.5 时 TPR 均超过 0.98。 - 效应估计精度:BCF-IV 在小效应强度下 MSE 最低(如 k = 0.5 时 MSE = 0.007 vs DRRF-IV 的 0.009 和 GRF-IV 的 0.008),但差距随 k 增大而消失。 - 计算时间:GRF-IV 最快(约 2.6–2.8 秒),DRRF-IV 次之(约 14.3–15.2 秒),BCF-IV 最慢(约 23.5–23.8 秒),且 BCF-IV 的方差最大。 - 小样本(N = 2,000):BCF-IV 的优势更明显,特别是在弱异质性场景下,DRRF-IV 和 GRF-IV 的 TPR 下降超过 50%。 - 实证应用(ICU 数据,N = 12,903):总体 CACE ≈ −0.07(与 Keele et al. 2020 一致),但三种方法发现的亚组结构差异显著。BCF-IV 仅识别 4 个亚组(最大叶覆盖 90.3% 样本),DRRF-IV 识别 16 个,GRF-IV 识别 22 个。多数叶节点被弱工具检验标记,DRRF-IV 的 16 个叶中有 7 个未被标记,GRF-IV 的 22 个叶中有 8 个未被标记,BCF-IV 的 4 个叶中仅 1 个未被标记。未被标记的叶节点中,效应估计范围在 −0.49 到 0.90 之间,提示可能存在临床相关的异质性。

证明路线与技术技巧: - Theorem 2(转换结果的无偏性):证明 E[Y_i^⋆IV | X_i = x] = ITT(x)。关键步骤:(1) 将期望分解为 Z_i = 1 和 Z_i = 0 两部分;(2) 利用条件独立性假设将 Z_i 的条件期望替换为 p_Z(x);(3) 利用排除限制消去 Y_i(z, d) 对 z 的依赖。证明本身是初等的代数操作,不涉及高阶渐近。 - Lemma 3(Neyman 正交性):证明 ∂/∂λ E[ψ_i(θ(x), m + λh, p_Z) | X_i = x]|_{λ=0} = 0。关键观察:由于 (Z_i − p_Z(x)) 在给定 X_i 后均值为零,且 m(x) 是常数(不依赖 Z_i),交叉项自动消失。这个性质意味着 m(·) 的估计误差不会一阶影响 ÎTT(x) 的偏差。 - 整体证明路线:本文没有建立新的大样本理论(如 ÎTT(x) 的渐近正态性或树划分的收敛速度),而是依赖已有文献的结果(Wager and Athey 2018 的 honesty 框架、Chernozhukov et al. 2018 的正交性)。作者的技术贡献主要在算法层面:如何将转换结果嵌入树方法、如何处理依从率接近零的叶节点、如何设计评估指标。 - 技术技巧点名: - 转换结果(transformed outcome):将 IV 估计转化为标准回归问题,使得树方法可以直接应用。 - Neyman 正交化:通过残差化使估计对 nuisance 参数一阶不敏感。 - Honest 划分:样本分割避免过拟合,保证叶节点估计的无偏性。 - 弱工具检验:在每个叶节点内计算第一阶段 F 统计量,作为亚组可靠性的筛选标准。 - 评估指标:提出 TPR/FDR(基于真实亚组标签的模拟)和 ODR(overall detection rate)来评估亚组发现质量,而非仅看效应估计的 MSE。

真实例子与应用: - 数据:Keele et al. (2020) 的 SPOTlight 研究,12,903 名英国 NHS 医院成年患者(排除 93 岁以上)。工具变量 Z = ICU 床位可用性(open_bin = 1 表示床位紧张,即床位少于 4 张),治疗 D = 是否入住 ICU,结局 Y = 28 天死亡率。协变量包括年龄、性别、合并症(脓毒症、心脏骤停)、生理评分(ICNARC、NEWS、SOFA)等 18 个变量。 - 方法应用:三种方法均使用 50/50 样本分割(discovery/inference),discovery 样本估计 τ̂_CCARC(x) 并拟合 CART(cp = 0.001),inference 样本在每个叶节点内运行 IV 回归并计算弱工具检验。 - 结果:总体 CACE ≈ −0.07(即及时入住 ICU 可能降低 7 个百分点的 28 天死亡率,但统计不显著)。亚组分析显示,DRRF-IV 和 GRF-IV 识别出一些效应方向相反的亚组(如高龄 + 低严重度患者可能有害),但这些亚组多数被弱工具检验标记。BCF-IV 的 4 个亚组中,仅 1 个(年龄 > 63 岁、SOFA > 5、推荐 3 级护理)未被标记,估计效应为 0.90(即入住 ICU 增加 90 个百分点的死亡风险,但置信区间极宽)。 - 例子想说明什么:当总体效应接近零且不显著时,异质性分析可能发现方向相反的亚组效应,但这些发现高度依赖方法选择,且多数不可靠(弱工具)。作者强调这些结果是探索性的,不应作为临床决策依据。

🔎 结论是否比证明窄: - 作者在摘要和结论中声称"非贝叶斯方法在大样本和中度效应下表现相当",但这一结论仅基于模拟研究,没有理论保证。在正文中,作者没有明确区分"模拟中观察到"与"理论上成立"。 - 作者在讨论部分承认"我们的方法缺乏形式化的不确定性量化",但这一限制在摘要中未提及。 - 作者声称"模型无关的两阶段框架"是贡献,但 Komura et al. (2025) 已提出类似框架(非 IV 设定),本文的增量在于 IV 扩展和系统比较。 - 一个更微妙的点:作者在 Theorem 2 中证明的是 E[Y^⋆IV | X = x] = ITT(x),但实际估计中使用的是森林对 Y^⋆IV 的回归,其收敛性依赖于 Y^⋆IV 的矩条件(如方差有限)。当 p_Z(x) 接近 0 或 1 时,Y^⋆IV 的方差会爆炸,作者在模拟中通过截断(限制 p̂_Z ∈ [0.1, 0.9])处理,但这一截断的理论影响未讨论。

四、开放问题

  1. 理论保证缺失:DRRF-IV 和 GRF-IV 的 ÎTT(x) 和 τ̂_CCARC(x) 的收敛速度、渐近分布、以及亚组划分的一致性均未建立。作者依赖 Wager and Athey (2018) 的框架,但 IV 设定下的比值估计引入了额外的复杂性(分母估计误差的一阶影响)。扎根于:作者在讨论部分承认"理论分析超出本文范围"。

  2. 弱工具叶节点的处理:作者在模拟和实证中丢弃弱工具叶节点,但丢弃规则(F 统计量阈值)的选择是 ad hoc 的,且丢弃后的亚组结构可能产生选择偏差。扎根于:附录 A.3 中报告弱工具检验结果,但未讨论丢弃规则对结论的影响。

  3. 依从率异质性的建模:本文假设依从率 π_C(x) 是协变量的光滑函数(用因果森林估计),但在高维或复杂交互下,π_C(x) 的估计误差可能主导 τ̂_CCARC(x) 的误差。作者没有讨论 π_C(x) 的估计精度对最终结果的影响。

  4. 转换结果的方差稳定性:Y^⋆IV 的方差为 Var(Y^⋆IV | X = x) = ITT(x)²·(1−p_Z(x))/p_Z(x) + ...,当 p_Z(x) 接近 0 或 1 时方差发散。作者通过截断处理,但截断引入的偏差未量化。扎根于:Remark 4 和附录 C.2 中的实现细节。

  5. 亚组显著性的多重比较问题:当树产生多个叶节点时,对每个叶节点做 IV 推断涉及多重比较,作者未做任何调整。扎根于:实证应用中报告多个叶节点的 p 值,但未讨论多重比较控制。

  6. 与端到端方法的比较:作者只比较了"两阶段"方法(BCF-IV、DRRF-IV、GRF-IV),没有与直接估计 τ_CCARC(x) 的端到端方法(如 IV 条件下的正交随机森林)比较。扎根于:参考文献中引用了 Oprescu et al. (2019) 但未在模拟中纳入。


给研究者的提示:若要确认上述开放问题是否为真 gap,建议去读以下近期工作的 intro:(1) Oprescu et al. (2019) 的正交随机森林在 IV 下的扩展;(2) Chernozhukov et al. (2018) 的 DML 框架在异质性效应上的应用;(3) 关于树方法在弱工具下表现的近期模拟研究。若这些文献都未解决"比值估计 + 树划分"的理论问题,那么第 1 条(理论保证)和第 4 条(方差稳定性)是值得投入的方向。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论