跳转至

Transfer learning for causal forests

作者: Bérénice-Alexia Jocteur, Véronique Maume-Deschamps, Pierre Ribereau
来源: Statistics and Computing
主题: 因果推断
相关性: 8/10
链接: https://doi.org/10.1007/s11222-026-10919-4

一、领域脉络与小综述

这个方向是什么

这个子方向要解决的根本问题是：当目标域（target domain）的样本量很小，不足以可靠地估计条件平均处理效应（CATE）时，能否利用来自一个相关但分布不同的源域（source domain）的大量数据，通过迁移学习来提升目标域的CATE估计精度？ 当前成熟度：这是一个相对新兴的交叉方向——因果森林（causal forest）本身是成熟的方法（Athey & Imbens, 2016; Wager & Athey, 2018），迁移学习在预测任务中也是成熟领域，但将两者系统性地结合并给出理论保证的工作还很少。本文是首批之一。

发展脉络（history）

  1. 奠基工作：因果森林的提出与理论化
  2. Athey & Imbens (2016)：提出“因果树”（causal tree）的概念，将决策树用于异质性处理效应估计，核心想法是分裂准则从预测误差改为处理效应异质性的估计。
  3. Wager & Athey (2018)：将随机森林引入CATE估计，提出“因果森林”（causal forest），并建立了渐近正态性与一致性。这是本文直接依赖的基模型。

  4. Athey, Tibshirani & Wager (2019)：提出广义随机森林（GRF）框架，将随机森林推广到任意损失函数下的非参数估计，包括CATE。这是本文HTERF算法的直接来源。

  5. 主要进展：迁移学习在统计估计中的应用

  6. Wang (2016)：提出“offset方法”（offset method）用于迁移学习中的密度比估计。核心想法是：不直接估计源域与目标域的密度比，而是训练一个中间模型来预测“样本属于哪个域”的概率，然后用该概率构造偏移校正项。这是本文方法的核心技术来源。
  7. Bastani (2021)：将迁移学习用于线性回归中的预测，提出“预测迁移”（predictive transfer）框架，但未涉及因果推断。

  8. Künzel et al. (2019)：提出“元学习器”（meta-learners）框架（S-learner, T-learner, X-learner）用于CATE估计，其中X-learner利用了类似迁移学习的思想（用源域模型初始化目标域模型），但未给出理论保证。

  9. 当前frontier：因果迁移学习

  10. Johansson et al. (2016)：用表示学习（representation learning）做因果迁移，假设源域与目标域在某个隐空间上分布对齐。
  11. Shalit et al. (2017)：提出“深度反事实网络”（Deep Counterfactual Networks），用IPM（积分概率度量）正则化实现分布对齐。

  12. 这些工作多为深度学习框架，理论分析薄弱（多为泛化界而非一致性或minimax率），且假设较强（如重叠假设、隐空间存在性）。

  13. 本文的位置：本文是第一个将Wang (2016)的offset方法系统性地引入因果森林框架，并给出L1一致性和误差上界的工作。它填补了“迁移学习 + 非参数CATE估计”的理论空白，但方法本身是现有技术的组合（offset + causal forest），而非全新的算法架构。

子线索聚类

这些被引文献大致落在3条子线索上：

  1. 因果森林/树（CATE估计的非参数方法）：Athey & Imbens (2016), Wager & Athey (2018), Athey, Tibshirani & Wager (2019), Künzel et al. (2019)。这一簇在做：用树/森林结构估计CATE，给出渐近理论。
  2. 迁移学习中的密度比/偏移校正：Wang (2016), Bastani (2021)。这一簇在做：用中间模型估计分布偏移，然后校正预测模型。
  3. 表示学习/深度因果迁移：Johansson et al. (2016), Shalit et al. (2017)。这一簇在做：用深度网络学习域不变表示，然后估计CATE。

这个方向在追问的核心问题

  1. 识别问题：在源域与目标域分布不同（模型偏移）时，CATE是否仍然可识别？需要什么假设（如偏移形式、重叠条件）？
  2. 估计效率：迁移学习能否降低目标域CATE估计的方差？如果能，降低多少？与直接只用目标域数据相比，minimax率是否有提升？
  3. 理论保证：迁移后的CATE估计是否一致？收敛速度是多少？是否依赖于中间模型的估计误差？
  4. 偏移类型：什么类型的分布偏移（协变量偏移、结果偏移、处理机制偏移）是可处理的？本文只处理了“模型偏移”（即条件期望函数不同），但未处理协变量偏移。

⚠️ 作者的framing（必须明确标注成“这是作者的说法”）

  • 作者把缺口frame成：“现有因果森林方法假设源域与目标域数据同分布，但实际中目标域样本量小、分布不同，因此需要迁移学习。” 本文的贡献是“将offset方法引入因果森林，并给出理论保证”。
  • 被淡化/回避的竞争路线：
  • 作者在intro中只引了Wang (2016)的offset方法，但没有讨论更直接的迁移学习方法如“加权”（importance weighting）或“领域自适应”（domain adaptation）——这些方法在预测任务中很成熟，但作者未解释为什么offset方法比它们更适合因果森林。
  • 作者没有讨论“协变量偏移”（covariate shift）的情况——只处理了“模型偏移”（即条件期望函数不同），但实际中两者可能同时存在。
  • 什么明显该被引/该存在、却没出现在intro里？
  • Bastani (2021) 的“预测迁移”工作——它处理了线性回归中的迁移学习，与本文的因果森林迁移有直接可比性，但未被引用。
  • Künzel et al. (2019) 的X-learner——它本质上也是一种迁移学习（用源域模型初始化目标域模型），但未被讨论。
  • Shalit et al. (2017) 的深度反事实网络——它是因果迁移学习的代表性工作，但未被引用。
  • 这些缺失可能意味着作者有意将本文定位在“非参数+理论保证”的路线，与深度学习路线划清界限。

张力

未见明显对立引用。所有被引工作基本是互补的（不同方法、不同设定），没有在相同条件下得出相反结论的情况。

二、最核心、最简单的例子 / 数学问题

第一步：把符号、模型、可观测数据交代清楚

符号： - \(X \in \mathbb{R}^d\)：协变量（covariates），可观测的随机向量。 - \(T \in \{0, 1\}\)：处理变量（treatment），可观测的二元变量。 - \(Y \in \mathbb{R}\)：结果变量（outcome），可观测的连续变量。 - \(Y(1), Y(0)\)：潜在结果（potential outcomes），不可观测——每个个体只能观测到 \(Y = T Y(1) + (1-T) Y(0)\)。 - \(\tau(x) = \mathbb{E}[Y(1) - Y(0) \mid X = x]\)：条件平均处理效应（CATE），本文的目标estimand。 - 源域（source domain）：下标 \(s\)，有大量样本 \(n_s\)。 - 目标域（target domain）：下标 \(t\)，有少量样本 \(n_t\)，且 \(n_t \ll n_s\)。 - \(\mu_s(x) = \mathbb{E}[Y \mid X=x, T=1, \text{source}]\)：源域中处理组的条件均值函数。 - \(\mu_t(x) = \mathbb{E}[Y \mid X=x, T=1, \text{target}]\)：目标域中处理组的条件均值函数。 - 偏移（offset）：\(\delta(x) = \mu_t(x) - \mu_s(x)\)，即源域与目标域在条件均值上的差异。这是本文要估计的“中间模型”对象。 - \(e(x) = \mathbb{P}(T=1 \mid X=x)\)：倾向得分（propensity score），假设源域与目标域共享相同的倾向得分（即处理机制不变）。

模型： - 数据生成机制：源域样本 \(\{(X_i, T_i, Y_i)\}_{i=1}^{n_s}\) 来自分布 \(P_s\)，目标域样本 \(\{(X_i, T_i, Y_i)\}_{i=1}^{n_t}\) 来自分布 \(P_t\)。 - 关键假设：源域与目标域之间的差异仅体现在条件均值函数上（即“模型偏移”），而协变量分布 \(P(X)\)、倾向得分 \(e(x)\)、以及潜在结果的方差结构保持不变。用公式表示：

\[\mathbb{E}_t[Y \mid X=x, T=1] = \mathbb{E}_s[Y \mid X=x, T=1] + \delta(x)\]
且 \(\mathbb{E}_t[Y \mid X=x, T=0] = \mathbb{E}_s[Y \mid X=x, T=0]\)（即控制组的条件均值不变）。 - 要估的对象：目标域的CATE \(\tau_t(x) = \mathbb{E}_t[Y(1) - Y(0) \mid X=x]\)。

可观测数据： - 研究者实际能观测到的是：源域和目标域各自的 \((X, T, Y)\) 样本。 - 不可观测的是：潜在结果 \(Y(1), Y(0)\)，以及偏移函数 \(\delta(x)\) 本身（只能通过数据估计）。 - 关键识别条件：由于假设控制组条件均值不变，且倾向得分不变，目标域的CATE可以写成：

\[\tau_t(x) = \tau_s(x) + \delta(x)\]
其中 \(\tau_s(x)\) 是源域的CATE（可用源域数据直接估计），\(\delta(x)\) 是处理组条件均值的偏移（需用目标域数据估计）。因此，问题转化为：用大量源域数据估计 \(\tau_s(x)\)，用少量目标域数据估计 \(\delta(x)\)，然后相加。

第二步：讲最小内核

最简特例：假设 \(d=1\)（协变量是一维的），且 \(\tau_s(x)\) 和 \(\delta(x)\) 都是常数函数（即不随 \(x\) 变化）。那么： - 源域CATE：\(\tau_s = \mathbb{E}_s[Y(1) - Y(0)]\)，可用源域数据直接估计为 \(\hat{\tau}_s = \frac{1}{n_s} \sum_{i \in \text{source}} (Y_i \cdot \frac{T_i}{e(X_i)} - Y_i \cdot \frac{1-T_i}{1-e(X_i)})\)（IPW估计）。 - 偏移：\(\delta = \mathbb{E}_t[Y \mid T=1] - \mathbb{E}_s[Y \mid T=1]\)，可用目标域数据估计为 \(\hat{\delta} = \frac{1}{n_t} \sum_{i \in \text{target}, T_i=1} Y_i - \frac{1}{n_s} \sum_{i \in \text{source}, T_i=1} Y_i\)。 - 目标域CATE估计：\(\hat{\tau}_t = \hat{\tau}_s + \hat{\delta}\)。

这个特例揭示了核心思路：源域提供了对 \(\tau_s\) 的精确估计（方差 \(O(1/n_s)\)），目标域只需估计偏移 \(\delta\)（方差 \(O(1/n_t)\)）。由于 \(n_t \ll n_s\)，直接估计 \(\tau_t\) 需要 \(O(1/n_t)\) 的方差，而迁移后的估计方差为 \(O(1/n_s + 1/n_t) \approx O(1/n_t)\)——没有改善。但注意：如果 \(\delta\) 是稀疏的（比如只在少数 \(x\) 处非零），或者 \(\delta\) 可以用更简单的模型（如线性）估计，那么迁移学习可以降低方差。

一般情形：当 \(\tau_s(x)\) 和 \(\delta(x)\) 都是非参数函数时，本文的方法是用因果森林分别估计 \(\tau_s(x)\) 和 \(\delta(x)\)，然后相加。核心数学困难在于：如何保证 \(\hat{\delta}(x)\) 的估计误差不因 \(n_t\) 小而爆炸，且 \(\hat{\tau}_s(x)\) 的偏差不因迁移而放大？ 本文的关键想法是：用offset方法构造一个“中间模型”来估计 \(\delta(x)\)，该模型可以利用源域数据来“借用信息”（通过训练一个分类器来区分源域和目标域样本），从而降低 \(\hat{\delta}(x)\) 的方差。

三、这篇论文做了什么

三句话

  1. 研究了什么问题：在源域数据充足、目标域数据稀疏且存在模型偏移（即条件均值函数不同）时，如何用迁移学习估计目标域的条件平均处理效应（CATE）。
  2. 核心工具/方法：将Wang (2016)的offset方法适配到因果森林（HTERF）中——先估计源域CATE \(\hat{\tau}_s(x)\)，再估计偏移 \(\hat{\delta}(x)\)（通过训练一个区分源域/目标域的分类器），最后得到目标域CATE估计 \(\hat{\tau}_t(x) = \hat{\tau}_s(x) + \hat{\delta}(x)\)。
  3. 主要结论：建立了算法的L1一致性（即 \(\mathbb{E}[|\hat{\tau}_t(X) - \tau_t(X)|] \to 0\)），并推导了目标域CATE估计误差的上界，该上界依赖于中间模型（偏移估计）的误差。

关键设定与假设

在第二节最小记号的基础上，补全完整设定：

  • 假设1（模型偏移）：源域与目标域之间的差异仅体现在处理组的条件均值函数上，即 \(\mathbb{E}_t[Y \mid X=x, T=1] = \mathbb{E}_s[Y \mid X=x, T=1] + \delta(x)\)，且控制组的条件均值函数不变。相比已有文献：这是一个较强的假设——它排除了协变量分布偏移、倾向得分偏移、以及控制组偏移。在迁移学习中，通常允许更一般的偏移（如协变量偏移），但本文为了理论可处理性做了简化。
  • 假设2（倾向得分已知或可一致估计）：倾向得分 \(e(x) = \mathbb{P}(T=1 \mid X=x)\) 在源域和目标域中相同，且已知或可用源域数据一致估计。相比已有文献：这是因果推断的标准假设（无未观测混杂 + 重叠），但迁移设定中要求跨域不变是一个额外限制。
  • 假设3（因果森林的常规假设）：包括随机森林的“诚实性”（honesty）、“子采样”（subsampling）、“正则性”（regularity）等，确保因果森林的渐近正态性和一致性。这些假设来自Wager & Athey (2018)和Athey, Tibshirani & Wager (2019)。
  • 假设4（偏移函数的平滑性）：\(\delta(x)\) 属于某个Hölder类或Sobolev类，以确保其可被因果森林一致估计。相比已有文献：这是非参数估计的标准假设，但本文未明确给出具体的平滑性阶数。

主要结果

定理1（L1一致性）：在假设1-4下，本文提出的迁移因果森林算法得到的 \(\hat{\tau}_t(x)\) 满足：

\[\mathbb{E}[|\hat{\tau}_t(X) - \tau_t(X)|] \to 0 \quad \text{as } n_s, n_t \to \infty\]
- 直觉：由于 \(\hat{\tau}_t = \hat{\tau}_s + \hat{\delta}\)，且 \(\tau_t = \tau_s + \delta\)，一致性等价于 \(\hat{\tau}_s \to \tau_s\) 和 \(\hat{\delta} \to \delta\)。前者由源域因果森林的一致性保证（\(n_s \to \infty\)），后者由偏移估计的一致性保证（需要 \(n_t \to \infty\) 且偏移函数足够平滑）。 - 必要条件：\(n_t \to \infty\) 是必要的——如果目标域样本量不趋于无穷，偏移估计无法一致，从而 \(\hat{\tau}_t\) 也无法一致。这意味着迁移学习不能“无中生有”，只能“借用信息”但无法消除对目标域样本的基本需求。 - 解决的技术难点：如何保证 \(\hat{\delta}\) 的一致性？本文用offset方法构造了一个“中间模型”：先训练一个分类器 \(g(x)\) 来预测样本属于源域还是目标域，然后用 \(g(x)\) 的log-odds来构造偏移估计。这需要证明 \(g(x)\) 的估计误差可以传递到 \(\hat{\delta}(x)\) 的误差上。

定理2（误差上界）：在假设1-4下，存在常数 \(C > 0\) 使得：

\[\mathbb{E}[|\hat{\tau}_t(X) - \tau_t(X)|] \leq C \left( \mathbb{E}[|\hat{\tau}_s(X) - \tau_s(X)|] + \mathbb{E}[|\hat{\delta}(X) - \delta(X)|] \right)\]
- 直觉：误差上界是源域CATE估计误差与偏移估计误差的线性组合。这意味着迁移学习的性能完全由这两个子问题的估计精度决定。 - 必要条件：偏移估计误差 \(\mathbb{E}[|\hat{\delta} - \delta|]\) 必须足够小。如果 \(n_t\) 很小，这个误差可能很大，从而迁移学习的效果有限。 - 解决的技术难点：如何推导这个上界？本文用三角不等式和L1范数的性质直接得到，但关键在于证明 \(\hat{\delta}\) 的误差不依赖于 \(\hat{\tau}_s\) 的误差（即两者可分离）。

证明路线与技术技巧

整体路线（3-5步逻辑主干）： 1. 分解目标：\(\hat{\tau}_t - \tau_t = (\hat{\tau}_s - \tau_s) + (\hat{\delta} - \delta)\)。因此，只需分别控制 \(\hat{\tau}_s\) 和 \(\hat{\delta}\) 的误差。 2. 控制 \(\hat{\tau}_s\) 的误差：直接引用Wager & Athey (2018)的因果森林一致性结果——在源域样本量 \(n_s \to \infty\) 下，\(\hat{\tau}_s\) 是L1一致的。 3. 构造偏移估计 \(\hat{\delta}\)：用offset方法——训练一个分类器 \(g(x) = \mathbb{P}(\text{样本来自目标域} \mid X=x)\)，然后用 \(\hat{\delta}(x) = \log\left(\frac{\hat{g}(x)}{1-\hat{g}(x)}\right)\) 的某种变换来估计偏移。这一步需要证明 \(\hat{g}\) 的一致性能传递到 \(\hat{\delta}\)。 4. 控制 \(\hat{\delta}\) 的误差：用分类器的泛化误差界（如VC维或Rademacher复杂度）来 bound \(\mathbb{E}[|\hat{\delta} - \delta|]\)。这需要假设分类器（如逻辑回归或随机森林）的估计误差随 \(n_t\) 和 \(n_s\) 趋于0。 5. 合并：用三角不等式得到最终上界。

关键跳跃点： - 最吃功夫的引理：证明 \(\hat{\delta}(x)\) 的估计误差可以用分类器 \(g(x)\) 的估计误差来 bound。具体地，需要证明存在常数 \(L > 0\) 使得 \(|\hat{\delta}(x) - \delta(x)| \leq L |\hat{g}(x) - g(x)|\)。这要求 \(\delta\) 和 \(g\) 之间的映射是Lipschitz连续的——但本文未明确验证这一条件，而是直接假设了。 - 难点卡在哪：offset方法原本用于密度比估计（即 \(\log(p_t(x)/p_s(x))\)），但本文将其用于条件均值偏移 \(\delta(x)\)。两者的数学结构不同：密度比是协变量分布的函数，而 \(\delta(x)\) 是条件期望的函数。作者的处理方式是直接假设偏移函数 \(\delta(x)\) 可以用分类器的log-odds来近似，但未给出严格的识别条件（即 \(\delta(x) = \log(g(x)/(1-g(x)))\) 是否成立？）。这可能是证明中最薄弱的一环。

技术技巧点名： - offset方法：来自Wang (2016)，用于估计密度比。本文将其适配到条件均值偏移。 - 因果森林的“诚实性”：来自Wager & Athey (2018)，确保树分裂时不使用结果信息，从而得到无偏的CATE估计。 - L1范数的三角不等式：用于分解误差。 - 分类器的泛化界：用于 bound \(\hat{g}\) 的误差。

真实例子与应用

本文为纯模拟实验，无真实数据例子。模拟设定如下： - 数据生成：协变量 \(X \sim \text{Uniform}[0,1]^d\)（\(d=2\) 或 \(d=5\)），倾向得分 \(e(x) = 0.5\)（完全随机化），结果函数为 \(\mathbb{E}[Y \mid X=x, T=1] = f_1(x)\)，\(\mathbb{E}[Y \mid X=x, T=0] = f_0(x)\)。 - 偏移设定：源域与目标域在 \(f_1(x)\) 上不同，即 \(\delta(x) = f_{1,t}(x) - f_{1,s}(x)\)。考虑了三种偏移形式：常数偏移（\(\delta(x)=c\)）、线性偏移（\(\delta(x)=\beta^T x\)）、非线性偏移（\(\delta(x)=\sin(\pi x_1)\)）。 - 样本量：\(n_s = 1000\)，\(n_t = 50, 100, 200\)。 - 对比方法：直接只用目标域数据的因果森林（HTERF）、只用源域数据的因果森林（忽略偏移）、以及本文的迁移因果森林。 - 结果：迁移因果森林在三种偏移设定下均优于只用目标域数据的方法（RMSE降低20-50%），且优于只用源域数据的方法（后者在偏移较大时偏差很大）。当 \(n_t\) 增大时，迁移方法的优势减小（因为直接估计也变好了）。 - 这个例子想说明什么：验证理论（迁移学习确实能提升小样本下的CATE估计精度），并展示方法对不同类型的偏移都有效。

🔎 结论是否比证明窄

  • 是。定理1的L1一致性要求 \(n_t \to \infty\)，但模拟中 \(n_t=50\) 时方法已经表现良好——这意味着实际中可能不需要 \(n_t \to \infty\) 就能获得有限样本优势，但理论未能捕捉这一点。
  • 更窄的claim：定理2的误差上界是“加法形式”（\(\hat{\tau}_s\) 误差 + \(\hat{\delta}\) 误差），但模拟中迁移方法的RMSE低于直接估计的RMSE，说明加法上界可能不是紧的——实际中 \(\hat{\tau}_s\) 和 \(\hat{\delta}\) 的误差可能相互抵消（比如偏差方向相反），但理论未考虑这一点。
  • 未证明的conjecture：作者在结论部分提到“迁移学习可以降低目标域CATE估计的方差”，但没有给出方差缩减的定量结果（如minimax率）。这是一个明显的gap。

四、开放问题

  1. minimax率：本文只给出了L1一致性和加法误差上界，但未推导迁移学习下CATE估计的minimax最优率。一个开放问题是：在模型偏移假设下，目标域CATE估计的最优收敛速度是多少？是否比直接只用目标域数据有提升？扎根于：定理2的误差上界是加法形式，但未给出具体的率（如 \(n_t^{-2/(2+d)}\) 等）。

  2. 偏移假设的可检验性：本文假设“控制组条件均值不变”和“倾向得分不变”，但这些假设在实际中可能不成立。一个开放问题是：能否用数据检验这些假设？如果不能，敏感性分析怎么做？扎根于：假设1和假设2是识别的基础，但作者未讨论其可检验性。

  3. 协变量偏移+模型偏移的联合处理：本文只处理了模型偏移，但实际中协变量分布也可能不同。一个开放问题是：能否将offset方法扩展到同时处理协变量偏移和模型偏移？扎根于：作者在intro中只讨论了模型偏移，但未提及协变量偏移。

  4. 方差缩减的定量刻画：本文未给出迁移学习相比直接估计的方差缩减量。一个开放问题是：在什么条件下，迁移学习能实现 \(O(1/n_s + 1/n_t)\) 的方差（优于 \(O(1/n_t)\)）？扎根于：结论部分提到“迁移学习可以降低方差”，但未给出定量结果。

Maintained by 陈星宇 · Homepage · Source on GitHub

评论