Generative Conformal Prediction Under Covariate Shift¶
作者: Cheng Li, Siming Zheng, Yuanyuan Lin
来源: Journal of Computational and Graphical Statistics
主题: 数理统计 / 假设检验
相关性: 6/10
链接: 期刊页 · arXiv
一、领域脉络与小综述¶
这个方向是什么¶
本文研究的核心问题是:在协变量偏移(covariate shift, CS)与后验漂移(posterior drift, PD)同时存在的情况下,如何为多分类问题构建具有有限样本覆盖保证的预测集(prediction set)。传统 conformal prediction 依赖训练与测试数据可交换(exchangeability)的假设,而迁移学习场景下这一假设被打破。本文试图在更一般的分布偏移框架——即 Tibshirani et al. (2019) 的加权 conformal prediction 与 Scott (2019) 的 covariate shift with posterior drift (CSPD) 假设——之间架起桥梁,使得源域(source domain)的大量标注数据可以被用来提升目标域(target domain)预测集的质量,同时保持覆盖率的有效性。
该子方向当前处于快速发展但尚未成熟的阶段:conformal prediction 的基础理论(Vovk et al., 2005)已相当完备,但将其推广到分布偏移场景的研究仍以特定假设(如已知似然比、纯协变量偏移)为主,对更一般的后验漂移情形缺乏系统性处理。
发展脉络¶
奠基工作:Conformal Prediction 的提出与理论化。 Vovk et al. (2005) 与 Shafer and Vovk (2008) 建立了 conformal prediction 的基本框架,其核心洞察是:在可交换性假设下,通过比较新样本的 conformity score 与校准集(calibration set)中的分数,可以构造出具有分布无关(distribution-free)有限样本覆盖保证的预测集。Lei et al. (2018) 进一步将 split conformal prediction 系统化,使其计算可行且适用于回归与分类问题。这一阶段的关键贡献在于证明了无需任何分布假设即可获得边际覆盖保证(marginal coverage guarantee)。
主要进展一:突破可交换性假设。 Tibshirani et al. (2019) 是本文最直接的先驱。该工作提出加权 conformal prediction(WCP),通过引入似然比权重 w(x) = dQ_X/dP_X,将 conformal prediction 推广到协变量偏移场景。其核心思想是:虽然训练与测试数据不再可交换,但通过加权可以恢复一种"加权可交换性"(weighted exchangeability),从而保证覆盖率的有效性。然而,WCP 假设后验概率不变(即 η_P = η_Q),只允许边际分布 P_X 与 Q_X 不同。这一限制在现实应用中往往过强——例如在医学诊断中,疾病的基础率(prior)和症状与疾病的关联(posterior)都可能随人群变化。
主要进展二:CSPD 假设的提出。 Scott (2019) 将 CS 与 PD 统一为 covariate shift with posterior drift (CSPD) 假设,其核心条件是 η_{P,j}(x) = φ_j(η_{Q,j}(x)),其中 φ_j 是严格递增函数。这一假设的直观含义是:源域与目标域中,给定特征 x 属于类别 j 的后验概率排名保持一致——如果 x₁ 在源域中比 x₂ 更可能属于类别 j,那么在目标域中也是如此。CSPD 比纯 CS 更灵活,因为它允许后验概率本身发生变化,只要这种变化是单调的。然而,Scott (2019) 的工作主要聚焦于最优分类器的理论性质(Neyman-Pearson 准则下的最优性),并未给出有限样本的预测集构造方法。
当前 frontier:conformal prediction 在更一般偏移下的推广。 Barber et al. (2023) 进一步将 conformal prediction 推广到非可交换场景,提出了基于加权分位数和随机化的方法,但其框架主要针对时间序列漂移(即分布随时间变化),而非本文关注的静态域间偏移。Lei and Candès (2021) 将 conformal inference 应用于反事实与个体处理效应,展示了该框架在因果推断中的潜力。Fannjiang et al. (2022) 则针对反馈协变量偏移(feedback covariate shift)提出了专门方法。这些工作共同构成了本文的竞争与互补背景。
本文的位置:本文填补的缺口是——在 CSPD 假设下,如何利用少量目标域标注数据与大量源域标注数据,构造具有有限样本覆盖保证的预测集。与 Tibshirani et al. (2019) 相比,本文允许后验漂移;与 Scott (2019) 相比,本文提供了可计算的有限样本方法而非仅理论最优性。作者通过引入"加权可交换性"的推广(Lemma 1),将 WCP 的框架扩展到 CSPD 场景,并利用 Newton 恒等式解决了权重计算的计算瓶颈。
子线索聚类¶
被引文献大致可归为三条子线索:
线索一:Conformal Prediction 的理论基础与扩展。 包括 Vovk et al. (2005)、Shafer and Vovk (2008)、Lei et al. (2018)、Burnaev and Vovk (2014)、Vovk (2015)。这一线索关注 conformal prediction 在可交换性假设下的理论保证、计算效率与变体(如 split conformal、transductive conformal)。本文继承了其"分布无关"的核心思想,但将其推广到非可交换场景。
线索二:分布偏移下的预测推断。 包括 Tibshirani et al. (2019)、Barber et al. (2023)、Cauchois et al. (2024)、Fannjiang et al. (2022)、Ai and Ren (2024)、Liu et al. (2024)。这一线索直接处理可交换性被破坏时的 conformal prediction 推广。本文与 Tibshirani et al. (2019) 的关系最为密切——后者是前者的特例(当 φ_j 为恒等函数时)。Ai and Ren (2024) 提出了基于 f-divergence 的鲁棒 conformal 方法,但要求对后验漂移的强度有先验界;本文则通过 CSPD 的单调性假设避免了这一要求。
线索三:迁移学习与领域自适应。 包括 Pan and Yang (2010)、Kulis et al. (2011)、Duan et al. (2012)、Zhu et al. (2011)、Choi et al. (2017)、Cai and Wei (2021)、Kpotufe and Martinet (2021)。这一线索关注如何利用源域知识提升目标域学习性能,但大多聚焦于点预测而非不确定性量化。本文的贡献在于将迁移学习的思想引入 conformal prediction 框架,使得预测集(而非单一预测)也能从源域数据中获益。
这个方向在追问的核心问题¶
- 如何在分布偏移下保持覆盖有效性? 这是 conformal prediction 推广到非可交换场景的根本问题。已知的答案包括加权分位数(Tibshirani et al., 2019)、鲁棒优化(Cauchois et al., 2024)、以及本文的加权可交换性推广。
- 如何利用源域数据提升目标域预测集的效率(即减小预测集大小)? 这是迁移学习与 conformal prediction 结合的关键动机。本文通过同时使用源域与目标域数据进行校准,在保持覆盖的同时减小了预测集长度。
- 如何放宽分布偏移的假设? 从纯 CS 到 CSPD 再到更一般的偏移模型,每一步放宽都带来新的理论挑战。本文的 g-CSPD 假设进一步放松了 CSPD 的全局单调性要求,只要求在阈值附近成立。
⚠️ 作者的 framing¶
作者将本文定位为"conformal prediction 在 CSPD 假设下的自然推广"。具体而言,作者声称: - "To our best knowledge, conformal prediction has not been studied in a more general setting such as the CSPD"——这是作者对领域空白的核心声明。 - 作者强调其方法与 Tibshirani et al. (2019) 的三个区别:(1) 允许后验漂移;(2) 利用目标域标注数据;(3) 通过 Newton 恒等式解决计算问题。 - 作者将 g-CSPD 作为对 CSPD 的"推广",但未明确讨论 g-CSPD 在什么条件下比 CSPD 更易验证或更现实。
值得注意的淡化:作者在引言中提到了 Ai and Ren (2024) 和 Liu et al. (2024),但未详细比较这些方法与本文的异同。特别是,Ai and Ren (2024) 的 f-divergence 方法在理论上更一般(不要求单调性),但需要已知偏移强度;本文的 CSPD 假设虽然更强,但不需要这一先验知识。这一权衡在文中未被充分讨论。
张力¶
未见明显对立引用。被引文献之间在方法论上存在互补而非矛盾关系。唯一潜在的张力在于:Tibshirani et al. (2019) 的 WCP 假设似然比 w(x) 已知或可估计,而本文在 CSPD 下需要估计类别条件似然比 w_j(x) = dQ_{X|Y=j}/dP_{X|Y=j}。当类别数 K 较大时,这一估计问题变得更加困难,但作者未在文中讨论这一实际挑战。
二、最核心、最简单的例子 / 数学问题¶
第一步:符号、模型、可观测数据¶
符号清单(逐个点名):
| 记号 | 含义 | 类型 |
|---|---|---|
| \(Z_i = (X_i, Y_i)\) | 第 i 个数据点,特征 \(X_i \in \mathbb{R}^d\),标签 \(Y_i \in \{1, \ldots, K\}\) | 随机变量(观测) |
| \(P\) | 源域分布 | 概率测度(未知) |
| \(Q\) | 目标域分布 | 概率测度(未知) |
| \(P_j\) | 源域中给定 \(Y=j\) 时 \(X\) 的条件分布 | 概率测度(未知) |
| \(Q_j\) | 目标域中给定 \(Y=j\) 时 \(X\) 的条件分布 | 概率测度(未知) |
| \(\pi_{P,j} = P(Y=j)\) | 源域中类别 j 的先验概率 | 参数(未知) |
| \(\pi_{Q,j} = Q(Y=j)\) | 目标域中类别 j 的先验概率 | 参数(未知) |
| \(\eta_{P,j}(x) = P(Y=j \mid X=x)\) | 源域后验概率 | 函数(未知) |
| \(\eta_{Q,j}(x) = Q(Y=j \mid X=x)\) | 目标域后验概率 | 函数(未知) |
| $w_j(x) = dQ_{X | Y=j}/dP_{X | Y=j}(x)$ |
| \(S_1, S_2\) | 源域数据的分割(训练/校准) | 索引集(观测) |
| \(T\) | 目标域标注数据索引集 | 索引集(观测) |
| \(\hat{\eta}_{P,j}(x)\) | 基于 \(S_1\) 训练的分类器输出的后验概率估计 | 估计量 |
| \(\hat{t}_{j,\alpha}\) | 类别 j 的阈值 | 估计量 |
| \(\hat{C}(x)\) | 预测集 | 集合值估计量 |
| \(\alpha\) | 名义错误率(如 0.1) | 用户指定 |
| \(\delta_c\) | 在 c 处的 Dirac 测度 | 测度 |
模型设定:
- 数据生成机制:源域数据 \(Z_{1:m} \sim P\) 独立同分布;目标域数据 \(Z_{(m+1):(m+n)} \sim Q\) 独立同分布;测试点 \(Z_T = (X_T, Y_T) \sim Q\) 独立于训练数据。
- CSPD 假设(Scott, 2019):对每个类别 j,存在严格递增函数 \(\phi_j\) 使得 \(\eta_{P,j}(x) = \phi_j(\eta_{Q,j}(x))\) 对所有 x 成立。
- 可观测数据:研究者观测到源域标注数据 \(\{(X_i, Y_i)\}_{i \in S_1 \cup S_2}\)(共 m 个),目标域标注数据 \(\{(X_i, Y_i)\}_{i \in T}\)(共 n 个),以及测试点的特征 \(X_T\)。不可观测:目标域测试点的标签 \(Y_T\)、真实的 \(\eta_{P,j}\)、\(\eta_{Q,j}\)、\(w_j\)、\(\phi_j\)。
- 目标:构造 \(\hat{C}(X_T) \subseteq \{1, \ldots, K\}\) 使得 \(Q(Y_T \in \hat{C}(X_T)) \geq 1 - \alpha\),且预测集尽可能小。
第二步:最小内核¶
最简特例:二分类(K=2)、一维特征(d=1)、已知似然比。
考虑最简单的情形:\(K=2\),\(X \in \mathbb{R}\),且假设类别条件似然比 \(w_j(x) = dQ_{X|Y=j}/dP_{X|Y=j}(x)\) 对 j=1,2 完全已知。源域数据量 m 很大,目标域标注数据量 n 很小(这正是迁移学习的典型场景)。
核心命题(Lemma 1 的特例):对类别 j,定义校准集 \(R_j = (S_2 \cap I_j) \cup (T \cap I_j)\),其中 \(I_j\) 是类别 j 的索引集。对每个 \(i \in R_j\),赋予权重: - 若 \(i \in S_2\)(源域):\(\tilde{w}_{ij} = w_j(x_i)\) - 若 \(i \in T\)(目标域):\(\tilde{w}_{ij} = 1\)
则阈值 \(\hat{t}_{j,\alpha}\) 取为加权经验分布 \(\sum_{i \in R_j} \tilde{w}_{ij} \delta_{\hat{\eta}_{P,j}(x_i)} + \tilde{w}_{Tj}\delta_\infty\) 的 \(\alpha\) 分位数,预测集为 \(\hat{C}(x) = \{j : \hat{\eta}_{P,j}(x) > \hat{t}_{j,\alpha}\}\)。
为什么成立:关键在于"加权可交换性"。虽然源域和目标域的联合分布不同,但通过权重 \(w_j(x)\) 的调整,源域数据点可以被"重新加权"为看起来来自目标域的分布。具体地,对于任意可测函数 \(f\):
这意味着,如果我们把源域数据点 \(x_i\) 的权重设为 \(w_j(x_i)\),那么加权后的经验分布 \(\sum_{i \in S_2 \cap I_j} w_j(x_i) \delta_{x_i}\) 就是目标域条件分布 \(Q_{X|Y=j}\) 的一个一致估计。加上目标域数据点(权重为 1),整个加权经验分布就同时利用了源域的大样本量和目标域的真实分布信息。
证明的直观路径: 1. 在 CSPD 假设下,\(\eta_{P,j}(x) = \phi_j(\eta_{Q,j}(x))\),且 \(\phi_j\) 严格递增,因此阈值化 \(\eta_{P,j}(x)\) 等价于阈值化 \(\eta_{Q,j}(x)\)。 2. 加权可交换性保证了 \(\hat{t}_{j,\alpha}\) 是目标域中 \(\eta_{P,j}(X)\) 的 \(\alpha\) 分位数的一致估计。 3. 由 conformal prediction 的标准论证(比较测试分数与校准分数的分位数),得到覆盖率下界 \(1 - \alpha\)。
这个特例揭示了全文的核心思想:CSPD 假设的关键作用在于,它允许我们将"目标域后验概率的阈值化"转化为"源域后验概率的阈值化",而权重 \(w_j(x)\) 则负责校正源域与目标域之间的协变量分布差异。当 \(\phi_j\) 为恒等函数时(即纯 CS),本文退化为 Tibshirani et al. (2019) 的 WCP;当 \(w_j \equiv 1\) 且 \(\phi_j\) 为恒等函数时(即无偏移),本文退化为标准 split conformal prediction。
计算难点:权重 \(\tilde{w}_{ij}\) 的定义涉及对所有排列求和(公式 6),直接计算需要 \(O(N_j!)\) 的复杂度。作者利用 Newton 恒等式将计算化简为 \(O(N_j^2)\) 的递推,这是本文的一个技术贡献。
三、这篇论文做了什么¶
三句话¶
- 研究了什么问题:在协变量偏移与后验漂移同时存在(CSPD)的多分类场景下,如何利用源域和目标域的标注数据构造具有有限样本覆盖保证的预测集。
- 核心方法:提出加权 conformal 分类算法(WCC-CSPD),通过类别条件似然比 \(w_j(x)\) 对源域校准数据进行加权,并与目标域数据结合计算加权分位数阈值。
- 主要结论:在 CSPD 假设下,WCC-CSPD 达到至少 \(1 - \alpha\) 的边际覆盖率(Theorem 1),且预测集大小优于仅使用目标域数据的标准 conformal prediction;在 g-CSPD 假设下,覆盖率损失可控(Theorem 2 给出收敛速率)。
关键设定与假设¶
- CSPD 假设:对每个类别 j,\(\eta_{P,j}(x) = \phi_j(\eta_{Q,j}(x))\),\(\phi_j\) 严格递增。这是全文的核心假设,它比纯 CS 更一般(允许后验漂移),但比完全任意的分布偏移更受限(要求后验排名的单调保持)。
- 绝对连续性:\(Q_{X|Y=j} \ll P_{X|Y=j}\),保证似然比 \(w_j(x)\) 存在。
- 估计器精度(Theorem 2):\(\hat{\eta}_{P,j}\) 是 \((\delta_m, \theta_m)\)-精确估计器,即 \(P^m(\|\hat{\eta}_{P,j} - \eta_{P,j}\|_\infty \geq \delta_m) \leq \theta_m\)。这一假设在局部多项式回归和 l1 惩罚逻辑回归等模型下成立(van de Geer, 2008)。
- Margin 假设(Theorem 2 的 (B)):\(G_j(t) = Q_j(\{x : \eta_{P,j}(x) \leq t\})\) 在阈值 \(t_j\) 附近满足 \(b_1 |d|^\lambda \leq |G_j(t_j + d) - G_j(t_j)| \leq b_2 |d|^\lambda\)。这是 Tsybakov 噪声条件的变体,用于控制阈值估计的误差传播。
- 权重有界性:\(\tilde{w}_{ij}\) 有界,保证加权经验分布的集中不等式成立。
相比已有工作的放宽/强化: - 相比 Tibshirani et al. (2019):允许后验漂移(\(\phi_j\) 非恒等),但需要目标域标注数据。 - 相比 Scott (2019):提供有限样本方法,而非仅理论最优性;但 Scott 的框架不要求 \(\phi_j\) 严格递增(只要求拟凹性)。 - 相比 Barber et al. (2023):本文的偏移是静态的(域间偏移),而非时间序列漂移。
主要结果¶
Theorem 1(有限样本覆盖保证):在 CSPD 假设下,对任意 \(\alpha \in (0,1)\),WCC-CSPD 的预测集满足 \(Q(Y_T \in \hat{C}(X_T)) \geq 1 - \alpha\)。这是 conformal prediction 的标准保证形式,不依赖于 \(\hat{\eta}_{P,j}\) 的估计精度——即使分类器很差,覆盖率仍然有效(但预测集可能很大)。
Theorem 2(收敛速率):在 g-CSPD、\((\delta_m, \theta_m)\)-精确估计和 Margin 假设下,对任意 \(r > 0\),存在常数 \(c\) 使得
关键解读: - 第一项 \(\delta_m^\lambda\) 来自分类器估计误差,通过 Margin 假设的指数 \(\lambda\) 衰减。 - 第二项 \(\sqrt{\log n_j / n_j}\) 是加权经验分布估计的收敛速率,与标准 conformal prediction 一致。 - 相比仅使用目标域数据(\(n\) 很小),本文通过引入源域数据(\(m\) 很大)使得校准集大小从 \(n\) 增大到 \(n + m\),从而加速收敛。这正是迁移学习的价值所在。
证明路线与技术技巧¶
整体路线(以 Theorem 1 为例): 1. 建立加权可交换性:证明在 CSPD 假设下,源域数据点(权重 \(w_j(x)\))与目标域数据点(权重 1)构成一个加权可交换序列。 2. 应用加权分位数引理:利用 Tibshirani et al. (2019) 的 Lemma 2(本文的 Lemma 3),得到测试分数与加权校准分数之间的随机占优关系。 3. 推导覆盖率下界:由分位数的定义,直接得到 \(Q(Y_T \in \hat{C}(X_T)) \geq 1 - \alpha\)。
Theorem 2 的路线: 1. 分解误差:将 \(\hat{C}_{j,\alpha} \triangle C_{j,\alpha}\) 分解为阈值估计误差和分类器估计误差两部分。 2. 控制阈值误差:利用加权经验分布的 DKW 不等式(Chen, 2019 的 Proposition 3.1),得到 \(\sup_t |G_j(t) - \hat{G}_j(t)| \leq c \sqrt{\log n_j / n_j}\)。 3. 控制分类器误差:利用 \((\delta_m, \theta_m)\)-精确假设,将 \(\|\hat{\eta}_{P,j} - \eta_{P,j}\|_\infty \leq \delta_m\) 代入 Margin 假设,得到 \(|G_j(\hat{t}_{j,\alpha}) - G_j(t_{j,\alpha})| \leq c \delta_m^\lambda\)。 4. 合并误差:将两项误差相加,得到最终速率。
技术技巧点名: - Newton 恒等式(Lemma 2):用于高效计算权重 \(\tilde{w}_{ij}\)。公式 (6) 中的排列求和等价于计算 elementary symmetric polynomial,Newton 恒等式将其转化为幂和的递推,复杂度从 \(O(N_j!)\) 降至 \(O(N_j^2)\)。 - 加权经验分布不等式(Chen, 2019):用于控制加权校准分数的经验分布与真实分布之间的偏差。 - Margin 假设(Audibert and Tsybakov, 2005):用于将分类器误差转化为覆盖率误差,是获得非平凡收敛速率的关键。
真实例子与应用¶
模拟研究:生成 5 维特征、3 类别的数据。源域 3000 个样本(每类 1000),目标域按 5:1:4 比例分为训练/校准/测试。通过设定 \(\phi_j^{-1}(t) = t^r\)(r 从 1 到 2)控制后验漂移的强度。结果显示: - 当 r=1(无漂移)时,WCC-CSPD 与 WCP 表现相近; - 当 r>1(存在漂移)时,WCC-CSPD 保持约 0.9 的覆盖率,而 WCP 覆盖率降至 0.8 以下; - WCC-CSPD 的预测集长度始终小于仅使用目标域数据的标准 CP。
半合成数据:使用 UCI Maternal Health Risk 数据集(1013 个样本,6 维特征,3 类风险等级)。通过重加权构造协变量偏移,并验证 g-CSPD 假设在经验上成立(Figure 3(a))。WCC-CSPD 的边际覆盖率为 0.898,接近名义水平 0.9,而 WCP 仅为 0.834。
例子想说明什么:当后验漂移存在时,WCP 的覆盖率会显著下降(因为它假设后验不变),而 WCC-CSPD 通过利用 CSPD 假设的单调性,在保持覆盖率的同时有效利用了源域数据。
🔎 结论是否比证明窄¶
是的,存在若干处: 1. Theorem 1 的证明假设权重 \(\tilde{w}_{ij}\) 精确已知,但实际应用中 \(w_j(x)\) 需要从数据估计。作者在数值实验中使用估计权重,但未给出估计误差对覆盖率影响的正式理论保证。Proposition 1 给出了一个粗略的界(覆盖率下界 \(1 - \alpha - \max_j \Delta w_j\)),但 \(\Delta w_j\) 的收敛速率未分析。 2. Theorem 2 的收敛速率依赖 Margin 假设的指数 \(\lambda\),但作者未讨论 \(\lambda\) 如何随问题参数变化,也未给出自适应选择 \(\lambda\) 的方法。 3. g-CSPD 假设的验证:作者在数值实验中通过经验图(Figure 3(a))验证 g-CSPD 成立,但未提供正式的假设检验方法。这在实践中是一个重要缺口——用户如何确认自己的数据满足 g-CSPD? 4. 多源扩展(Appendix C)仅给出启发式讨论,无理论保证。作者提到"computational refinement and theoretical studies of these extensions will be left as future research directions",这实际上是承认多源情形下的权重计算和覆盖保证均未解决。
四、开放问题¶
-
估计权重的理论保证:当 \(w_j(x)\) 从数据估计时,Theorem 1 的覆盖率保证如何退化?能否给出类似 Proposition 1 但更紧的界,并刻画估计误差的收敛速率?这直接关系到方法在实际应用中的可靠性。
-
g-CSPD 的验证方法:如何检验数据是否满足 g-CSPD 假设?能否构造一个统计检验,其原假设为"g-CSPD 在水平 α 成立"?这与假设检验和 conformal inference 的交界处相关。
-
多源扩展的理论化:当存在多个源域时,如何最优地组合它们的权重?作者提出的两种启发式方法(混合分布、分治)均无理论保证。一个自然的问题是:多源情形下的 minimax 最优覆盖率-效率权衡是什么?
-
自适应 Margin 指数:Theorem 2 的收敛速率依赖 Margin 假设的 \(\lambda\),但 \(\lambda\) 通常未知。能否构造自适应方法,在不已知 \(\lambda\) 的情况下达到接近最优的收敛速率?
-
与因果推断的衔接:本文的框架与 Lei and Candès (2021) 的 counterfactual conformal inference 有潜在联系。在个体处理效应估计中,协变量偏移与后验漂移同时出现的情形(例如观察性研究中 treated 与 control 组的特征分布不同)是否可以用 CSPD 框架处理?
提示:若要确认上述问题是否为真 gap,建议检索近 2-3 年 conformal prediction 在分布偏移下的最新进展(如 Cauchois et al., 2024 的后续工作、以及 NeurIPS/ICML 2024-2025 的相关论文),看是否有研究已解决上述问题。特别是问题 1(估计权重)和问题 3(多源)是实践中最重要的方向,值得优先关注。
Maintained by 陈星宇 · Homepage · Source on GitHub