跳转至

Double Machine Learning of Continuous Treatment Effects with General Instrumental Variables

讲者: Yifan Cui (Zhejiang University)
会场: Statistical Perspectives on Causal Inference and Modern Machine Learning
报告题目: Double Machine Learning of Continuous Treatment Effects with General Instrumental Variables
链接: arXiv
来源: JCSDS 2026 · 返回会议总览

一、领域脉络与小综述

这个方向是什么

这个子方向要解决的根本问题是：在存在未观测混杂因素（unmeasured confounding）的情况下，如何非参数地识别和估计一个连续治疗变量（continuous treatment）的平均剂量-反应函数（Average Dose-Response Function, ADRF）。ADRF 定义为 θ(a) = E[Y(a)]，即整个群体在治疗水平 A=a 下的平均潜在结果。该问题的核心挑战在于：连续治疗使得传统的“局部平均处理效应”（LATE）框架（依赖单调性假设和离散工具变量）不再适用，而标准的无未观测混杂（NUC）假设在实证中又常常不成立。当前该子方向的成熟度较低，尤其是在工具变量（IV）框架下，针对连续治疗的非参数识别与估计工作非常少。

发展脉络（history）

  1. 奠基工作：无未观测混杂（NUC）下的连续治疗效应估计

    • Hirano and Imbens (2004); Imai and Van Dyk (2004)：开创性地将倾向得分（propensity score）的概念推广到连续治疗，提出了广义倾向得分（GPS）方法。留下的口子：依赖 NUC 假设，且 GPS 方法本身对模型设定敏感。
    • Kennedy et al. (2017)：提出了一个双稳健（doubly robust）的影响函数（influence function）来估计 ADRF，并利用核回归技术。这是 NUC 框架下的一个里程碑，首次将半参数效率理论与连续治疗结合。留下的口子：依然依赖 NUC 假设，无法处理未观测混杂。

  2. 主要进展：NUC 下的 DML 框架与更优收敛率

    • Semenova and Chernozhukov (2021); Colangelo and Lee (2026)：将 ADRF 的估计纳入去偏机器学习（DML）框架，发展了双稳健的估计量。留下的口子：同样依赖 NUC。
    • Bonvini and Kennedy (2022)：总结并推广了上述方法，证明了在 NUC 下，即使需要估计 nuisance 函数，也能达到“oracle”收敛率。留下的口子：依然在 NUC 框架内。

  3. 当前 Frontier：利用工具变量（IV）处理未观测混杂

    • 离散治疗下的 IV 方法：
      • Wang and Tchetgen Tchetgen (2018); Hartwig et al. (2023)：通过施加“无交互作用”（no-interaction）假设（即 IV 与未观测混杂在治疗模型中没有交互），在二元 IV 和二元治疗下识别平均处理效应（ATE）。留下的口子：假设较强，且局限于离散治疗。
      • Chen et al. (2025); Dong et al. (2025)：独立地提出了“加性 IV”（additive IV）条件，将上述框架推广到多分类治疗和一般 IV。留下的口子：主要针对离散治疗，未直接处理连续治疗。
    • 连续治疗下的 IV 方法：
      • Kennedy et al. (2019)：在单调性假设下，估计“局部 IV 效应曲线”（LIV curve），该曲线捕捉的是当 IV 跨越某个阈值时，依从者（compliers）的治疗效应。留下的口子：估计的是局部效应，而非整个群体的 ADRF。

  4. 本文的位置：本文明确指出了上述 gap——“然而，利用 IV 或其他辅助变量来非参数地估计 ADRF 的工作很少”。它试图将 Chen et al. (2025) 的“加性 IV”框架从离散治疗推广到连续治疗，并解决由此带来的独特技术挑战（如二元 IV 失效、全局均匀加权函数不存在）。

子线索聚类

  1. NUC 框架下的 ADRF 估计：包括 Hirano and Imbens (2004), Kennedy et al. (2017), Semenova and Chernozhukov (2021), Bonvini and Kennedy (2022) 等。这一簇的核心是假设没有未观测混杂，并发展双稳健或 DML 方法。
  2. 离散治疗下的 IV 方法：包括 Wang and Tchetgen Tchetgen (2018), Tchetgen Tchetgen et al. (2018), Chen et al. (2025), Liu et al. (2025) 等。这一簇的核心是利用“无交互作用”或“加性 IV”等假设来识别离散治疗的因果效应。
  3. 连续治疗下的 IV 方法：包括 Kennedy et al. (2019) 和本文。这一簇的核心是处理连续治疗带来的独特问题，如单调性假设的局限性（LIV）或加权函数的存在性问题（本文）。

这个方向在追问的核心问题

  1. 识别问题：在存在未观测混杂 U 的情况下，如何利用 IV Z 来识别整个群体的 ADRF E[Y(a)]？需要什么样的假设？
  2. 估计问题：如何构造一个对 nuisance 函数估计误差不敏感的、具有良好渐近性质的估计量？DML 框架如何适配？
  3. 工具变量的充分性问题：对于连续治疗，什么样的 IV 是“相关”且“有效”的？二元 IV 是否足够？如何刻画 IV 的“强度”？
  4. 加权函数的局部性问题：是否存在一个全局的、适用于所有治疗水平的加权函数？如果不存在，如何通过局部覆盖来解决？

⚠️ 作者的 framing

  • 作者的缺口 frame：作者将缺口明确 frame 为“缺乏利用 IV 非参数估计连续治疗 ADRF 的工作”。他们声称自己的工作是“显然的下一步”，因为它将 Chen et al. (2025) 的离散 IV 框架推广到了连续治疗，并解决了由此产生的“加权函数不存在于整个治疗空间”这一核心数学困难。
  • 被淡化或回避的竞争路线：作者淡化了 Kennedy et al. (2019) 的 LIV 曲线方法。他们指出 LIV 曲线估计的是“依从者”的局部效应，而他们的目标是整个群体的 ADRF。这暗示了 LIV 方法在目标 estimand 上的局限性。作者也回避了与更复杂的非参数 IV 方法（如 Newey and Powell (2003) 的经典非参数 IV）的直接比较，这些方法通常需要不同的识别条件（如完备性条件）。
  • 值得研究者去查的问题：什么明显该被引 / 该存在、却没出现在 intro 里？
    • Newey, W. K., & Powell, J. L. (2003). Instrumental variable estimation of nonparametric models. Econometrica, 71(5), 1565-1578. 这是非参数 IV 的奠基性工作，虽然其识别框架（基于完备性）与本文不同，但作为处理连续治疗和连续 IV 的经典文献，未被引用是一个值得注意的缺失。
    • Darolles, S., Fan, Y., Florens, J. P., & Renault, E. (2011). Nonparametric instrumental regression. Econometrica, 79(5), 1541-1565. 同样是该领域的核心文献，处理的是连续内生变量和连续 IV 的非参数回归问题。
    • 这些文献的缺失可能意味着作者有意将本文的框架与“完备性”驱动的非参数 IV 文献区分开，强调其基于“加性 IV”和“正则加权函数”的、更接近因果推断传统的路径。

张力

未见明显对立引用。所有被引工作都在各自的假设下推进，没有出现对同一问题给出相反结论的情况。主要的张力在于不同方法对假设的强弱和适用场景的侧重不同（如 NUC vs. IV, 离散 vs. 连续）。

二、最核心、最简单的例子 / 数学问题

第一步：把符号、模型、可观测数据交代清楚

  • 符号：

    • Y: 结果变量（outcome），可观测。
    • A: 连续治疗变量（continuous treatment），可观测。其支撑集 A 是 R 上的一个闭区间。
    • Z: 工具变量（instrumental variable），可观测。可以是离散或连续的。
    • L: 可观测的混杂因素（observed confounders），可观测。
    • U: 未观测的混杂因素（unobserved confounders），不可观测。
    • Y(a): 潜在结果（potential outcome），当治疗被设定为 A=a 时的结果，不可观测（除了 a 等于实际观测到的 A 时）。
    • θ(a) = E[Y(a)]: 平均剂量-反应函数（ADRF），目标 estimand。
    • p_{X|...}(x|...): 条件概率密度函数。
    • π(Z, L): 一个可测函数，称为“加权函数”（weighting function），是本文的核心工具。
    • κ^o_π(a, L) = E[π(Z, L) | A=a, L] - E[π(Z, L) | L]: 衡量 π 在给定 A=a 和 L 时，对 Z 信息的利用程度。

  • 模型：

    • 数据生成机制由潜在结果框架和一组假设定义。核心是：
      1. 一致性：Y = Y(A)。
      2. 潜在可忽略性：Y(a) ⟂ {A, Z} | U, L。给定 (U, L)，治疗和 IV 与潜在结果独立。
      3. IV 独立性：Z ⟂ U | L。IV 与未观测混杂独立。
      4. IV 相关性：χ^2[p_{Z|A,L}(·|a, L) || p_{Z|L}(·|L)] ≥ ε_2(a)。IV 对治疗有非平凡影响。
      5. 加性 IV (AIV)：p_{A|Z,U,L}(a|Z, U, L) = b_a(U, L) + c_a(Z, L)。这是关键的识别假设，意味着 Z 和 U 在治疗模型中的影响是可加的。

  • 可观测数据：研究者实际能观测到的是独立同分布样本 {O_i = (L_i, Z_i, A_i, Y_i)}_{i=1}^n。

  • 不可观测量：U 和 Y(a)（对于 a ≠ A_i）是不可观测的。识别和估计的目标就是通过可观测数据，在 AIV 等假设下，推断出 θ(a)。

第二步：讲最小内核

本文的核心数学困难在于：对于连续治疗，一个单一的加权函数 π(Z, L) 无法在整个治疗空间 A 上同时满足“正则性”条件（即 |κ^o_π(a, L)| 远离零）。

最简特例：考虑一个没有可观测混杂 L 的简化世界。此时，κ^o_π(a) = E[π(Z) | A=a] - E[π(Z)]。假设 Z 是一个连续 IV，A 是 [0,1] 上的连续治疗。我们想用 π(Z)=Z 作为加权函数。那么 κ^o_π(a) = E[Z|A=a] - E[Z]。如果 E[Z|A=a] 是 a 的连续函数，那么根据介值定理，必然存在某个 a_0 使得 E[Z|A=a_0] = E[Z]，从而 κ^o_π(a_0) = 0。这意味着 π(Z)=Z 在 a_0 处不是一个“正则加权函数”（RWF），因为分母会为零，导致识别公式失效。

核心思路：既然一个 π 不能覆盖所有 a，那就用多个 π。对于每个局部区域（例如 a 的一个小邻域），我们可以找到一个特定的 π（例如 π_{a_0}(Z) = p_{A|Z}(a_0|Z) / p_A(a_0)），使得在这个邻域内 |κ^o_π(a)| 始终大于零。然后，我们用这些局部有效的 π 来覆盖整个治疗空间。这就是“有限开覆盖”（finite open covering）的思想。

在这个最简特例下，要证的命题退化成： 对于任意 a_0 ∈ (0,1)，存在一个 h>0，使得对于所有 a ∈ (a_0 - h, a_0 + h)，π_{a_0}(Z) 都是一个有效的加权函数。然后，我们可以用 π_{a_0} 来识别和估计 (a_0 - h, a_0 + h) 上的 ADRF。最后，用有限个这样的开区间覆盖整个 [0,1]，在每个区间上用对应的 π 进行估计，再将结果拼接起来。

为什么成立：因为 κ^o_{π_{a_0}}(a) = E[π_{a_0}(Z) | A=a] - E[π_{a_0}(Z)] 是 a 的连续函数，且在 a=a_0 处，κ^o_{π_{a_0}}(a_0) = Var[p_{A|Z}(a_0|Z)/p_A(a_0)] > 0（由 IV 相关性保证）。根据连续性，存在一个邻域使得该函数值保持非零。这就是 Proposition 2.4 的直观体现。

三、这篇论文做了什么

三句话

  1. 研究了什么问题：在存在未观测混杂因素的情况下，如何利用工具变量（IV）来非参数地识别和估计连续治疗的平均剂量-反应函数（ADRF）。
  2. 核心工具 / 方法：提出了“正则加权函数”（RWF）和“均匀正则加权函数”（URWF）的概念，并利用“有限开覆盖”定理，证明可以用一组局部有效的 URWF 来覆盖整个治疗空间。在此基础上，推导了具有“混合偏差”性质的增广逆概率加权（AIPW）得分函数，并采用去偏机器学习（DML）框架和局部线性核回归（LLKR）进行估计。
  3. 主要结论：证明了在“加性 IV”（AIV）假设下，ADRF 是可识别的。提出的 AIPW 估计量在温和条件下达到了 O_p(1/√(nh) + h^2 + o_p(c(n))) 的收敛率，并具有渐近正态性。模拟和实证研究验证了方法的有效性。

关键设定与假设

  • 核心记号：在第二节的基础上，补充 µ^o_π(a, l) = (E[Y Z_π|A=a, L=l] - E[Y|A=a, L=l]E[Z_π|L=l]) / (E[Z_π|A=a, L=l] - E[Z_π|L=l])，这是识别 ADRF 的关键桥梁。
  • 关键假设：
    • Assumption 2.1-2.4 (Consistency, Latent Ignorability, IV Independence, Continuity)：标准假设，保证了潜在结果框架和 IV 的基本有效性。
    • Assumption 2.5 (Positivity)：p_{A|L}(a|L) ≥ ε_1(a)。确保在给定 L 下，每个治疗水平 a 都有非零概率被观察到，这是估计稳定性的要求。
    • Assumption 2.6 (IV Relevance)：χ^2[p_{Z|A,L}(·|a, L) || p_{Z|L}(·|L)] ≥ ε_2(a)。这是 IV 相关性的一个具体刻画，等价于 Var[p_{A|Z,L}(a|Z, L) | L] 有下界。相比已有文献：这个条件比传统的“IV 与治疗相关”更精细，它要求 IV 对治疗的影响在每一个治疗水平 a 上都是非平凡的。
    • Definition 2.3 (Additive IV, AIV)：p_{A|Z,U,L}(a|Z, U, L) = b_a(U, L) + c_a(Z, L)。这是最关键的识别假设。它意味着 Z 和 U 对治疗密度的影响是可加的，没有交互作用。相比已有文献：这是对 Wang and Tchetgen Tchetgen (2018) 中“无交互作用”假设在连续治疗下的直接推广。作者在 Proposition 2.7 中给出了一个等价的、更直观的刻画：ω_{a,π}(U, L) ≡ 1，其中 ω 是一个权重函数。
    • Assumption 5.1 (Regularity)：一系列用于渐近理论的标准条件，包括核函数性质、带宽条件、平滑性、以及 nuisance 函数的收敛速率条件。其中条件 (h) 要求 nuisance 函数的乘积误差是 o_p(c(n))，这是 DML 文献中的典型要求，比 o_p(n^{-1/4}) 稍弱。

主要结果

  • Theorem 3.1 (Identification)：在 AIV 假设下，ADRF θ(a) 可以被识别为 E[µ^o_π(a, L)]。这个定理是整篇论文的基石。它表明，只要存在一个 RWF π 和一个 AIV，ADRF 就可以通过一个可观测数据的函数 µ^o_π 的期望来表达。
  • Theorem 5.1 (Convergence Rate)：LLKR 估计量 ˆθ^{(n)}_{π,h}(a) 的收敛率为 O_p(1/√(nh) + h^2 + o_p(c(n)))。其中，前两项是核回归的标准方差和偏差项，第三项是估计 nuisance 函数带来的“混合偏差”。当 h = n^{-1/5} 且 c(n) = O(n^{-2/5}) 时，可以达到非参数最优率 O_p(n^{-2/5})。解决的技术难点：证明了即使 nuisance 函数需要估计，只要它们的乘积误差足够小，就不会破坏核回归的收敛率。
  • Theorem 5.2 (Asymptotic Normality)：在 c(n) = O(1/√(nh)) 的条件下，√(nh)(ˆθ^{(n)}_{π,h}(a) - θ(a) - bias(a)) 渐近收敛到均值为零、方差为 σ^2_{π,θ}(a) 的正态分布。这为构建点wise 置信区间提供了理论基础。
  • Theorem A.1 (Oracle Bounds for ERM)：如果使用经验风险最小化（ERM）而非核回归来估计 ADRF，其 excess risk 也能达到 oracle 率，即 ∥ˆf^{(n)}_{π,N} - θ∥^2_N ≲ ∥f^*_N - θ∥^2_N + ξ^2_n + o(d(n)) + O(1/|I_{-k2}|)。这为使用更灵活的机器学习方法（如样条）提供了理论保证。

证明路线与技术技巧

  • 整体路线：

    1. 识别：通过 AIV 假设，证明 θ(a) = E[µ^o_π(a, L)]（Theorem 3.1）。这一步将因果 estimand 转化为一个可观测数据的统计泛函。
    2. 构造 AIPW 得分：为了获得对 nuisance 函数估计误差不敏感的估计量，推导了 µ^o_π 的“有效影响函数”（EIF），并基于此构造了一个 AIPW 得分函数 φ_π(O; α_π, P_O)（Theorem 3.2）。该得分函数的关键性质是“混合偏差”（mixed bias property, Lemma E.3），即其条件期望的误差可以表示为 nuisance 函数估计误差的乘积形式。
    3. 交叉拟合与估计：采用 DML 框架（Algorithm 3.1），将样本分成 K 折，用一部分数据估计 nuisance 函数 α_π，用另一部分数据计算 AIPW 得分。然后，将 AIPW 得分作为“伪结果”，用 LLKR 或 ERM 回归到治疗变量 A 上，得到 ADRF 的估计。
    4. 渐近理论：利用混合偏差性质，将估计误差分解为核回归的方差、偏差和 nuisance 估计带来的混合偏差。通过控制 nuisance 估计误差的收敛速率，证明混合偏差项是 o_p(c(n))，从而不影响主项的收敛率（Theorem 5.1）。进一步，通过 Lindeberg 中心极限定理证明渐近正态性（Theorem 5.2）。

  • 关键跳跃点：

    • 从离散到连续的跳跃：证明二元 IV 在连续治疗下必然失效（Proposition 2.2），并引入“有限开覆盖”的概念来解决全局 URWF 不存在的问题（Proposition 2.5, 2.6）。这是本文最核心的技术贡献。
    • 混合偏差性质的证明：Lemma E.3 的证明是技术核心。它通过一系列条件期望的运算，将 E[φ_π(O; α_π, P_O) | A=a] - θ(a) 精确地分解为三个乘积项的和。这个性质是 DML 框架能够工作的关键，它保证了只要每个 nuisance 函数估计得“足够好”，它们的乘积误差就会很小。

  • 技术技巧点名：

    • Efficient Influence Function (EIF)：用于构造 AIPW 得分函数，实现双稳健性。
    • Cross-fitting：DML 的标准技巧，用于打破 nuisance 函数估计与主估计之间的相关性，简化渐近分析。
    • Local Linear Kernel Regression (LLKR)：用于非参数地估计 ADRF 曲线。
    • Mixed Bias Property：核心技巧，将偏差表示为 nuisance 误差的乘积，是 DML 理论的基础。
    • Finite Open Covering：来自拓扑学的经典定理，被创造性地用于解决连续治疗空间中加权函数的局部存在性问题。
    • Empirical Process / Rademacher Complexity：在 ERM 的理论分析（Theorem A.1）中，用于控制估计误差的 critical radius ξ_n。

真实例子与应用

  • 使用的数据 / 场景：来自 Job Training Partnership Act (JTPA) 研究的数据，结合了美国人口普查和 NCES 的数据。目标是估计受教育年限（A）对项目前年收入（Y） 的因果效应。工具变量 Z 是每平方英里的高中数量，可观测混杂 L 是性别。
  • 怎么把本文方法用上去：
    1. 构造加权函数：对于 A=8 到 15 的每个整数值 a，估计 ˆπ_a(Z, L) = ˆp_{A|Z,L}(a|Z, L) / ˆp_{A|L}(a|L)。
    2. RWF 检验：使用 Algorithm 3.3 对每个 ˆπ_a 进行检验，看它在哪些 A 值上是有效的 RWF。结果发现 ˆπ_9 对 A=8,9,10 有效，ˆπ_12 对 A=12 有效，ˆπ_15 对 A=13,14,15 有效。
    3. 计算 AIPW 得分：对于每个样本，根据其 A 值，使用对应的 RWF 来计算 AIPW 得分。例如，A=8 的样本使用 ˆπ_9 计算得分。
    4. 估计 ADRF：将合并后的 AIPW 得分作为伪结果，用样条回归（smoothing spline）拟合，得到最终的 ADRF 曲线。
  • 得到什么结果：
    • IV 方法估计出的教育回报在低教育水平（A≤12）时比 NUC 方法更高，但在 A≥12 后略有下降，暗示教育可能存在“边际效应递减”。
    • NUC 方法的结果更稳定，但可能因未观测混杂而低估了教育对低收入人群的正面影响。
    • 当调整性别作为混杂 L 时，IV 估计的方差更大，但整体趋势相似。
  • 这个例子想说明什么：该例子旨在验证本文方法在实际数据中的可行性，并展示 IV 方法与 NUC 方法在存在未观测混杂时的差异。它表明，忽略未观测混杂（NUC）可能会得到有偏的结论，而本文提出的 IV 框架能够提供一种修正。

🔎 结论是否比证明窄

  • 是。Theorem 5.2 的渐近正态性依赖于 c(n) = O(1/√(nh)) 这一条件，这意味着 nuisance 函数的估计误差需要以 1/√(nh) 的速度收敛。然而，在论文的模拟和实证中，nuisance 函数是通过 mgcv 包中的样条或核密度估计来拟合的，这些方法的收敛速率可能无法达到 1/√(nh) 的要求（尤其是当 h 很小时）。作者在 Theorem 5.1 的讨论中承认，c(n) = O(n^{-2/5}) 的条件（即 o_p(n^{-1/5})）比 DML 文献中的 o_p(n^{-1/4}) 更弱，但并未在实证中验证这个条件是否满足。
  • 此外，Theorem 5.2 的置信区间构建依赖于非自适应选择的带宽。作者明确指出，当带宽通过 LOOCV 自适应选择时，该理论保证不成立。然而，在模拟和实证中，作者恰恰使用了 LOOCV 来选择带宽，并报告了“95% uncertainty bands”而非“confidence bands”，这暗示了理论与实证之间的差距。

四、开放问题

  1. 连续协变量下的 RWF 检验：本文的 RWF 检验（Algorithm 3.3）仅在 L 离散时具有理论保证。对于连续 L，作者提出的分区方法只是一个“实用近似”，其形式有效性未得到证明。扎根于：Section 3.5 末尾的讨论：“for continuous L, our partitioning approach is a practical approximation, but formal validity is not guaranteed.” 以及 Section 8 的第一个未来方向：“we have yet to develop theoretically valid tests for settings with continuous covariates.”
  2. 均匀置信带：本文只建立了点wise 的渐近正态性，可以构建点wise 置信区间。但更实用的均匀置信带（uniform confidence bands）尚未建立。扎根于：Section 8 的第二个未来方向：“developing uniformly valid confidence bands for the estimated ADRF remains an interesting direction for future research.”
  3. 弱工具变量与违反 IV 相关性的鲁棒性：本文的识别和估计依赖于 IV 相关性假设（Assumption 2.6）。当 IV 很弱时，κ^o_π 可能接近零，导致估计不稳定。如何发展对弱 IV 或违反该假设鲁棒的方法是一个开放问题。扎根于：Section 8 的第四个未来方向：“future work could focus on developing methods that are robust to violations of positivity and IV relevance conditions under the continuous treatments setting.”
  4. AIV 条件的检验：AIV 假设是识别的核心，但本文没有提供检验该假设的方法。作者在 Remark 3.2 中提到了“invariance”性质可能为检验 AIV 提供基础，但未深入。扎根于：Section 8 的第六个未来方向：“designing a hypothesis test to detect potential violations of the AIV condition represents another promising avenue for future research.”

Maintained by 陈星宇 · Homepage · Source on GitHub

评论