Model-free selective inference under covariate shift via weighted conformal p -values¶
作者: Ying Jin, Emmanuel J Candès
主题: 因果推断
相关性: 7/10
链接: https://doi.org/10.1093/biomet/asaf066
一、领域脉络与小综述¶
-
这个方向是什么:本文研究的根本问题是:在协变量偏移(covariate shift) 下,如何利用带标签的校准数据(calibration data)对无标签的测试样本进行选择性推断(selective inference),即挑选出那些"响应变量 Y 大于某个用户指定阈值 c"的个体,同时在有限样本下控制错误发现率(FDR)。该子方向的核心挑战在于:测试样本的响应完全缺失,且训练与测试分布不一致,传统的共形推断(conformal inference)和多重检验(multiple testing)理论不能直接适用。该方向当前处于快速发展期,已有若干工作(如 [JC22])在无偏移情形下解决了类似问题,但带偏移的有限样本 FDR 控制仍是开放问题。
-
发展脉络(history):
- 奠基工作:Vovk et al. [VGS05] 提出共形预测(conformal prediction)框架,为无分布假设下的预测不确定性量化奠定了基础。Barber et al. [BCL+21] 将共形思想引入异常检测(outlier detection),构造共形 p 值并证明其在交换性(exchangeability)下满足 FDR 控制。这是本文的直接理论起点。
- 主要进展:Jin & Candès [JC22](即本文作者的前作)提出"共形化选择(Conformalized Selection)"框架,在无偏移(即 P = Q)情形下构造共形 p 值,并证明其满足有限样本 FDR 控制。该工作首次将共形推断与多重检验结合,但无法处理协变量偏移。Tibshirani et al. [TFBCR19] 提出加权共形预测(weighted conformal prediction),通过重要性加权(importance weighting)将共形推断推广到协变量偏移情形,但只处理单次预测区间,不涉及多重检验。这两条线(共形选择 vs. 加权共形)在本文中被首次融合。
- 当前 frontier:本文的位置是将 [JC22] 的共形选择框架推广到协变量偏移,核心创新在于构造"加权共形 p 值"(weighted conformal p-values),并证明其满足有限样本 FDR 控制。同时,本文还处理了权重未知(需估计)的情形,给出了 FDR 上界随估计误差的显式膨胀公式(Theorem 3.5)。
- 本文的位置:本文是 [JC22] 的直接后继,也是 [TFBCR19] 加权共形思想在多重检验领域的首次严格应用。它填补了"偏移 + 选择"这一交叉空白。
-
子线索聚类:
- 线索一:共形推断(Conformal Inference):包括 [VGS05](共形预测)、[TFBCR19](加权共形预测)、[CWZ21](分布共形预测)。这一簇关注如何构造有效的预测区间或 p 值,核心工具是交换性和分位数。
- 线索二:选择性推断与 FDR 控制(Selective Inference & FDR):包括 [BH95](Benjamini-Hochberg 过程)、[BY01](PRDS 性质)、[JC22](共形化选择)、[FL22](条件校准)、[WR20](e-BH 过程)。这一簇关注如何在多重比较中控制错误发现率,核心工具是 p 值的正相依性(PRDS)或 e 值。
- 线索三:分布偏移下的推断(Inference under Distribution Shift):包括 [SKM07](协变量偏移)、[HL20](分布自由的偏移检验)、[BHRZ23](选择后共形推断)。这一簇关注训练与测试分布不一致时的推断有效性,核心工具是重要性权重和似然比。
-
这个方向在追问的核心问题(2-4 个):
- 如何在协变量偏移下构造有效的 p 值? 即:当校准数据来自 P、测试数据来自 Q 时,如何调整共形 p 值的构造,使其在零假设下满足均匀性(或至少被均匀分布随机控制)?
- 如何保证多重检验的 FDR 控制在有限样本下成立? 即:加权共形 p 值之间是否满足 PRDS 或类似的正相依结构?若不满足,如何设计新的选择程序?
- 当权重未知时,估计误差如何影响 FDR 控制? 即:用估计的权重代替真实权重,FDR 上界会膨胀多少?能否给出显式的、可操作的修正公式?
- 如何平衡幂(power)与 FDR 控制? 即:在保证 FDR 不超过目标水平的前提下,如何最大化真阳性发现的数量?
-
⚠️ 作者的 framing(必须明确标注成"这是作者的说法"):作者将缺口 frame 成"在协变量偏移下,现有共形选择方法([JC22])失效,而现有加权共形方法([TFBCR19])不处理多重检验",因此本文是"显然的下一步"——将两者结合。作者淡化了权重估计的难度:Theorem 3.5 只给出了 FDR 上界随估计误差的膨胀公式,但并未讨论如何高效、稳定地估计权重(尤其是在高维协变量下)。此外,作者回避了非单调评分函数的情形——本文的 p 值构造和 FDR 控制严格依赖评分函数的单调性(Definition 2.1),若 V 不单调,则 Lemma 2.2 和 Theorem 3.1 均不成立。什么明显该被引 / 该存在、却没出现在 intro 里?:作者未引用 [DWR21](交互式识别正治疗效应)和 [CDLM21](分位数治疗效应),尽管这两篇与个体治疗效应推断高度相关;也未引用 [STS04](FDR 渐近控制的统一框架),尽管 Theorem 2.5 的证明明显依赖该文的技术。这可能是作者有意为之(避免分散主线),但值得研究者去查证。
-
张力:未见明显对立引用。但存在一个隐含张力:线索一(共形推断)强调边际有效性(marginal validity),而线索二(FDR 控制)强调条件或平均错误率。本文的 Theorem 3.1 声称有限样本 FDR 控制,但这是边际意义下的(对校准数据和测试数据的联合分布取期望),而非条件于测试协变量的 FDR。这与 [BHRZ23] 中"选择后条件覆盖"的目标不同,但作者未明确讨论这一区别。
二、最核心、最简单的例子 / 数学问题¶
第一步:把符号、模型、可观测数据交代清楚¶
- 符号:
- P:校准数据分布(calibration distribution),即训练/校准样本
{(Xi, Yi)}的联合分布。 - Q:测试数据分布(test distribution),即测试样本
{(Xj, Yj)}的联合分布。 - w(x) = dQ/dP(x):协变量偏移的似然比(likelihood ratio),即 Radon-Nikodym 导数。这是已知或需估计的权重函数。
- V(x, y):评分函数(scoring function),单调(monotone),即 y 越大 V 越大。它是已知的(由预测模型给出)。
- c_j:用户指定的阈值,可以是常数或随机变量。
- Y_j:测试样本 j 的响应变量,不可观测(这是推断目标)。
- X_j:测试样本 j 的协变量,可观测。
- p_j:加权共形 p 值,用于检验 H_j : Y_j ≤ c_j。
- R:最终选择集(rejection set)。
- FDR:错误发现率,定义为 E[|R ∩ H_0| / max{1, |R|}],其中 H_0 是零假设为真的测试样本集合。
- n:校准样本量;m:测试样本量。
-
q:目标 FDR 水平。
-
模型:
- 数据生成机制:校准数据
{(Xi, Yi)}i.i.d. 来自 P;测试数据{(Xj, Yj)}i.i.d. 来自 Q。协变量偏移意味着 P_X ≠ Q_X,但条件分布 P_{Y|X} = Q_{Y|X}(即给定协变量,响应的生成机制不变)。 - 可观测数据:研究者能观测到校准数据的
(X_i, Y_i)和测试数据的协变量X_j以及阈值c_j。研究者观测不到测试数据的响应Y_j。因此,推断完全依赖于校准数据提供的关于 P_{Y|X} 的信息,以及权重 w(x) 对偏移的校正。
第二步:讲最小内核¶
最小内核:假设只有一个测试样本(m=1),且权重 w(x) 已知。此时问题退化为:如何构造一个 p 值 p_1,使得在零假设 H_1 : Y_1 ≤ c_1 下,P(p_1 ≤ t) ≤ t 对所有 t ∈ [0,1] 成立?
最简例子: 1. 无偏移情形(w ≡ 1):这是 [JC22] 的设定。构造共形 p 值 p_1 = (1 + #{i : V_i ≥ V(X_1, c_1)}) / (n + 1)。在交换性下,p_1 是有效的(即满足 P(p_1 ≤ t) ≤ t)。 2. 有偏移情形(w ≠ 1):此时交换性被破坏,上述 p_1 不再有效。本文的核心思想是:将每个校准样本的"贡献"从 1 改为 w(X_i),即构造加权共形 p 值: p_1 = [w(X_1) + Σ_{i=1}^n w(X_i) · 1{V_i ≥ V(X_1, c_1)}] / [Σ_{i=1}^n w(X_i) + w(X_1)]。 这里,权重 w(X_i) 的作用是重新加权校准样本,使其"看起来"像来自测试分布 Q。在加权交换性(weighted exchangeability)下,可以证明 p_1 是有效的。为什么成立:加权交换性意味着,给定所有协变量和未观测的响应,测试样本的响应 Y_1 在"加权"意义下与校准样本的响应 Y_i 是可交换的。因此,Y_1 在加权经验分布中的秩是均匀的,从而 p_1 有效。
为什么这是核心:这个单样本例子抓住了本文的全部数学本质——用权重恢复交换性。多测试样本(m > 1)的 FDR 控制,只是将这个有效的 p 值输入到 BH 过程,并额外处理 p 值之间的相依性(通过 PRDS 或类似性质)。Theorem 3.1 的证明正是围绕"加权交换性 → p 值有效性 → FDR 控制"这一链条展开的。
三、这篇论文做了什么¶
三句话¶
- 研究了什么问题:在协变量偏移下,如何利用任意预测模型构造加权共形 p 值,并设计新的多重检验程序,在有限样本下控制 FDR,用于选择响应大于用户指定阈值的测试样本。
- 核心工具 / 方法:加权共形 p 值(weighted conformal p-values)+ 三种剪枝策略(heterogeneous/homogeneous/deterministic pruning)构成的加权共形选择(WCS)程序;理论工具是加权交换性、PRDS 性质、以及经验过程理论。
- 主要结论:WCS 在有限样本下精确控制 FDR(Theorem 3.1);当权重需估计时,FDR 上界随估计误差显式膨胀(Theorem 3.5);在完全随机化实验中,WCS 退化为 [JC22] 的方法(Corollary 5.1);在观测研究中,WCS 可用于推断多个个体治疗效应(Corollary 5.3)。
关键设定与假设¶
- 设定:校准数据
{(Xi, Yi)}i.i.d. 来自 P,测试数据{(Xj, Yj)}i.i.d. 来自 Q,且满足协变量偏移 (1):dQ/dP(x,y) = w(x)。评分函数 V 单调(Definition 2.1)。阈值 c_j 可以是常数或随机变量,但需与校准数据独立。 - 假设:
- 协变量偏移:P_{Y|X} = Q_{Y|X},且 w(x) 已知或可估计(Theorem 3.5 处理估计情形)。
- 单调性:V(x, y) 关于 y 单调不减。这是 p 值有效性的关键。
- 独立性:校准数据、测试数据、阈值三者相互独立。
- 权重有界(Theorem 3.5):w(x) 和估计的 ŵ(x) 都需有界,以保证 FDR 上界有限。
- 相比已有文献:相比 [JC22](无偏移),本文放宽了"P = Q"的假设,引入了权重 w(x);相比 [TFBCR19](加权共形预测),本文强化了目标,从单次预测区间扩展到多重检验的 FDR 控制。
主要结果¶
- Theorem 3.1(有限样本 FDR 控制):在协变量偏移 (1) 下,WCS 程序(Algorithm 1)输出的选择集 R 满足 FDR ≤ q。这是本文的核心定理。证明思路:
- p 值有效性:利用加权交换性,证明每个 p_j 在零假设下满足 P(p_j ≤ t, Y_j ≤ c_j) ≤ t。
- 剪枝不增 FDR:证明三种剪枝策略(heterogeneous/homogeneous/deterministic)都不会增加 FDR。关键引理是 Lemma C.1,它将 FDR 分解为对每个 j 的期望,并利用剪枝的单调性进行控制。
- 关键跳跃点:证明剪枝后 p 值的条件独立性(Lemma C.2),即 {ξ_j |R̂_j→0|} 的 PRDS 性质。这是整个证明最吃功夫的地方,作者通过构造辅助随机变量和利用 BH 过程的 step-up 特性绕过。
- Theorem 3.5(估计权重的 FDR 上界):当权重 w(x) 未知,需用独立数据估计时,FDR 上界为 q · E[γ̂² / (1 + q(γ̂² − 1)/m)],其中 γ̂ 是估计误差的 sup 范数。证明思路:将估计权重与真实权重的偏差转化为 p 值的偏差,再利用 Theorem 3.1 的框架进行控制。
- Corollary 5.1(完全随机化):当处理分配完全随机时,w(x) ≡ 1,WCS 退化为 [JC22] 的共形选择方法。
- Corollary 5.3(观测研究):在强可忽略性假设下,WCS 可用于推断多个个体治疗效应,权重由倾向得分给出。
证明路线与技术技巧¶
- 整体路线:
- 构造 p 值:定义加权共形 p 值 p_j(公式 5),并证明其边际有效性(Lemma 2.2)。
- 引入剪枝:设计三种剪枝策略,将 p 值转换为"0-1 化"的决策变量,并证明剪枝不破坏 FDR 控制(Lemma C.1)。
- 控制 FDR:利用 PRDS 性质和 BH 过程的 step-up 特性,将 FDR 分解并逐项控制(Theorem 3.1 证明)。
- 处理估计误差:将估计权重视为固定函数,利用独立性和有界性,推导 FDR 上界(Theorem 3.5)。
- 关键跳跃点:
- Lemma C.2(PRDS 性质):证明 {ξ_j |R̂_j→0|} 是 PRDS 的。这是整个证明的难点,因为 p 值之间高度相依。作者通过构造辅助随机变量,将相依性转化为单调性,从而绕过直接验证 PRDS。
- Lemma C.1(剪枝不增 FDR):证明三种剪枝策略的 FDR 上界一致。难点在于 heterogeneous pruning 中 ξ_j 的随机性,作者通过条件期望和塔性质处理。
- 技术技巧点名:
- 加权交换性(weighted exchangeability):用于证明 p 值的有效性,是共形推断在偏移下的自然推广。
- PRDS 性质(positive regression dependence on a subset):用于证明 BH 过程在相依 p 值下的 FDR 控制。
- 经验过程理论(empirical process theory):用于证明 p 值对权重的均匀收敛(Lemma B.1),这是 Theorem 2.5 和 Theorem 3.5 的基础。
- 留一法(leave-one-out):在证明 p 值条件独立性时,通过留一法构造辅助 p 值,简化相依性分析。
真实例子与应用¶
- 药物发现(Drug discovery):使用 HIV 数据集(n=41127),目标是选择与靶蛋白结合力高的分子。校准数据来自已筛选的分子,测试数据来自新分子库,存在协变量偏移(筛选偏好)。WCS 在 FDR 控制在 0.1 水平下,比 BH 方法多发现约 20% 的真阳性。
- 个体治疗效应(Individual treatment effects):使用 NSLM 数据集,目标是识别治疗有正效应的个体。校准数据为对照组,测试数据为处理组,权重由倾向得分给出。WCS 在 FDR 控制在 0.1 水平下,成功识别出具有正效应的学生群体。
- 异常检测(Outlier detection):使用银行营销数据集,目标是识别异常交易。校准数据为正常交易,测试数据包含异常,且存在协变量偏移(用户群体变化)。WCS 在 FDR 控制下,比传统方法更稳定地控制错误发现率。
🔎 结论是否比证明窄¶
- Theorem 3.1 的证明严格依赖于评分函数 V 的单调性(Definition 2.1)。但作者在引言和摘要中声称方法适用于"任意预测模型",这比证明条件更宽。若 V 不单调,则 Lemma 2.2 不成立,p 值可能失效。作者在正文中未明确讨论这一限制。
- Theorem 3.5 的证明要求权重估计 ŵ 与校准数据独立,且 γ̂ 有界。但作者在应用部分(如药物发现)中,权重 w 是已知的(由采样机制决定),并未展示估计权重的实际效果。因此,Theorem 3.5 的实用性在实证中未被充分验证。
- Corollary 5.3 声称适用于观测研究,但要求倾向得分已知或可估计。作者在 NSLM 数据中使用了估计的倾向得分,但未给出估计误差对 FDR 影响的实证分析,仅依赖 Theorem 3.5 的理论保证。
四、开放问题¶
- 非单调评分函数的推广:本文的 p 值构造和 FDR 控制严格依赖评分函数的单调性(Definition 2.1)。若 V 不单调,如何构造有效的 p 值?这需要新的理论工具,可能涉及排序不变性(rank invariance)的推广。扎根于 Definition 2.1 和 Lemma 2.2 的证明。
- 权重估计的自适应误差控制:Theorem 3.5 给出了 FDR 上界随估计误差 γ̂ 的显式公式,但未讨论如何自适应地选择估计方法(如倾向得分模型)以最小化 γ̂。在高维协变量下,权重估计的误差可能很大,如何设计稳健的 WCS 程序?扎根于 Theorem 3.5 的陈述和证明。
- 条件 FDR 控制:本文的 FDR 控制是边际的(对校准和测试数据的联合分布取期望)。在实际应用中,用户可能更关心条件于测试协变量的 FDR。能否设计条件 FDR 控制程序?这需要更精细的相依性分析。扎根于 Theorem 3.1 的陈述和证明。
- 与 e 值方法的结合:本文的 p 值构造与 e 值(e-values)方法(如 [WR20])有潜在联系。能否将加权共形 p 值转化为 e 值,从而利用 e 值在相依性下的鲁棒性?扎根于 Remark 3.3 中关于 e-BH 的讨论。
提示:要确认上述问题是否是真 gap,建议去读近 5 年关于"共形推断 + 选择性推断"的文献(如 NeurIPS、AISTATS、JRSS-B 等),看是否有工作已经处理了非单调评分或条件 FDR 控制。如果多篇文献都指向同一问题,那大概率是共识性 gap;如果各执一词,则可能是机会。
Maintained by 陈星宇 · Homepage · Source on GitHub