跳转至

Sketched Calibration for Conformal Prediction under Covariate Shift

作者: Mehrdad Pournaderi
主题: 因果推断
相关性: 6/10
链接: https://arxiv.org/abs/2610.09208


一、领域脉络与小综述

这个方向是什么

本文所处的子方向是分布偏移下的分布自由预测推断(distribution-free predictive inference under distribution shift),其根本科学问题是:当训练/校准数据与测试数据来自不同的协变量分布时,如何构造在目标分布上具有有效覆盖率的预测区间,同时不依赖对数据生成过程的强参数假设。该方向的成熟度较高——加权共形预测(weighted conformal prediction, WCP)自 Tibshirani et al. (2019) 提出以来已成为标准工具,但校准成本随偏移强度指数增长这一核心瓶颈长期未被系统解决,本文正是针对这一瓶颈提出的一种降维式修补方案。

发展脉络

  • 奠基工作:Vovk et al. (2005) 提出共形预测的通用框架,确立了"在可交换性假设下,预测区间具有有限样本边际覆盖保证"这一核心范式。Vovk (2012) 进一步探讨了条件覆盖的极限,指出在无分布假设下精确条件覆盖不可实现,为后续"近似条件覆盖"的研究路线奠定基础。Barber et al. (2019) 则系统刻画了分布自由条件推断的根本不可能性,这一结果为所有试图在无假设下获得条件覆盖的工作划定了边界。
  • 核心转折:Tibshirani et al. (2019) 将共形预测推广到协变量偏移场景,提出加权共形预测(WCP),其核心洞见是:在似然比已知时,通过加权排序可以恢复边际覆盖保证。该工作同时揭示了代价——校准误差随 χ² 散度增长,即 √((1+χ²)/m) 的速率。这一"χ² 代价"成为后续所有工作的基准参照。
  • 主要进展:Isaev et al. (2026) 将 WCP 的校准误差分析推广到 L^p 范数,并证明了固定阈值校准的 minimax 下界,确认了 χ² 依赖的不可避免性(在固定阈值类内)。Pournaderi (2026) 给出了更精细的训练条件覆盖界,用方差代理 σ²_α 取代了粗糙的 χ² 项,表明实际代价可能远小于 χ² 上界。Yang et al. (2024) 引入半参数效率理论,提出双稳健校准方法,将估计误差与偏移误差分离。Wang & Goel (2026) 则从权重裁剪角度处理无界似然比问题,给出数据集条件覆盖的修正方案。
  • 当前 frontier:两条并行的探索路线——一是避免估计高维似然比(如 LR-QR, Joshi et al. 2025,通过正则化直接学习分位数函数);二是降低已知似然比的方差代价(如本文的 sketched calibration,以及 Wang & Goel 的裁剪方法)。本文属于第二条路线,其独特之处在于将降维视为一种有偏但方差更小的替代估计,而非仅仅作为计算技巧。
  • 本文的位置:本文在 WCP 框架内引入"压缩协变量"的思想,将 χ² 代价从全空间转移到压缩空间,同时用泄漏量(leakage)显式刻画压缩造成的有偏性。其理论贡献在于给出了泄漏量的协方差刻画和 minimax 下界,实践贡献在于证明了"有信息量的压缩"可以在几乎不损失覆盖率的前提下大幅降低校准成本。

子线索聚类

  1. 加权共形预测的理论分析(Tibshirani et al. 2019; Isaev et al. 2026; Pournaderi 2026):这条线索聚焦于 WCP 的校准误差、覆盖保证及其最优性。核心问题是:给定似然比,WCP 的误差如何随偏移强度、校准集大小变化?Isaev et al. 的 minimax 下界表明,固定阈值类内 χ² 依赖不可避免,这为本文的降维动机提供了理论依据。
  2. 避免似然比估计的方法(Joshi et al. 2025; Xu et al. 2025):LR-QR 通过正则化直接学习分位数函数,绕过似然比估计;WR-CP 用 Wasserstein 距离刻画一般分布偏移,结合表示学习压缩偏移。这条线索与本文互补——它们改变的是得分函数,本文改变的是加权空间。
  3. 权重修正与鲁棒化(Wang & Goel 2026; Yang et al. 2024):裁剪权重、双稳健估计等技巧旨在减少权重方差或对估计误差的敏感性。本文的 Proposition 4.12 将裁剪纳入同一框架,表明裁剪本质上是另一种"压缩"。
  4. 降维与充分性(Stojanov et al. 2019; Polo & Vicente 2020):这条线索直接关注"在什么条件下可以用低维投影替代全协变量做偏移校正"。Stojanov et al. 证明响应充分投影的充分性,Polo & Vicente 证明线性降维只能增加有效样本量。本文的 Corollary 5.4 是这条线索在共形预测中的精确化。

这个方向在追问的核心问题

  1. 校准成本的最小化:给定偏移强度 χ²(Q∥P),WCP 的校准误差下界是什么?是否存在比 √((1+χ²)/m) 更优的固定阈值规则?(Isaev et al. 2026 给出部分答案,但仅限固定阈值类)
  2. 条件覆盖与边际覆盖的权衡:在无法实现精确条件覆盖的前提下(Barber et al. 2019),如何设计在目标分布上条件覆盖尽可能好的规则?(Guan 2021 的局部化方法是一条路线,本文的压缩是另一条)
  3. 似然比未知时的鲁棒性:当似然比需要从无标签数据估计时,估计误差如何传播到覆盖保证?(Yang et al. 2024 给出双稳健框架,但未处理高维问题)
  4. 压缩的有偏性量化:降维必然引入偏差,如何刻画"压缩损失的信息"与"校准成本的降低"之间的最优权衡?——这是本文的核心问题,此前文献中只有定性讨论(Polo & Vicente 2019 的单调性结果),没有显式的偏差-方差分解。

⚠️ 作者的 framing(这是作者的说法)

作者将缺口 frame 成:WCP 的 χ² 代价中,很大一部分来自"不影响响应的偏移方向",而压缩协变量可以剔除这部分代价,代价是引入一个可量化的泄漏量 Δ_T。他通过三个定理支撑这一框架:(i) 投影恒等式——w 在 L² 意义下分解为 w_Z 与正交残差,χ² 相应分解;(ii) 泄漏量的协方差刻画——Δ_T 是纤维上偏移与响应的协方差,当压缩充分或偏移被保留时为零;(iii) minimax 下界——任何固定阈值规则都无法避免泄漏量量级的偏差。

被淡化或回避的竞争路线: - LR-QR(Joshi et al. 2025)和 WR-CP(Xu et al. 2025)通过改变得分函数而非加权空间来降低代价,本文仅在 related work 中一笔带过,未做系统比较。作者隐含假设"得分函数已固定",但实践中得分函数的选择与压缩维度选择是耦合的。 - 作者回避了压缩的估计问题:文中假设 w_Z 已知或可精确估计,但实际中 w_Z 本身需要从无标签数据估计,压缩空间的维数 k 越小,估计越容易,但泄漏量越大——这个 k 的选取问题在文中没有理论指导。 - 作者将泄漏量定义为平均 TV 距离,但实际应用中更关心的是条件覆盖的分布(例如最坏情况下的覆盖),而非平均值。这一选择使得下界定理(Theorem 6.1)的表述更简洁,但也限制了其适用范围。

什么明显该被引 / 该存在、却没出现在 intro 里? - 作者引用了 Barber et al. (2019) 关于条件覆盖不可能性的结果,但未引用后续的近似条件覆盖文献(如 Gibbs et al. 2023 的 localized conformal prediction),尽管本文的压缩思想与局部化在"用更粗的粒度换取可行性"这一逻辑上高度同构。 - 作者未引用半参数效率理论中关于 nuisance 估计误差传播的标准结果(如 Chernozhukov et al. 2018 的 DML 框架),而本文的 Proposition 4.10(估计 w_Z 的误差界)本质上是一个 nuisance 估计问题。 - 作者未引用随机投影文献中关于 JL 引理保持内积/距离的定量结果(虽然引用了 Johnson-Lindenstrauss 本身),但本文的随机投影分析(Section 5)实际上需要这类定量控制。

张力

未见明显对立引用。但存在一个微妙的张力:Polo & Vicente (2020) 证明线性降维只能增加有效样本量(ESS),而本文的随机投影分析表明随机投影在平均意义下保留 ESS 的 k/d 比例——两者并不矛盾(前者是确定性降维的最坏情况保证,后者是随机降维的平均行为),但作者没有明确区分这两种保证的差异,读者容易混淆。


二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据

符号(逐个点名):

记号 含义 类型
\(P = P_X \otimes P_{Y\|X}\) 源分布(训练+校准数据的联合分布) 概率分布(已知或可采样)
\(Q = Q_X \otimes P_{Y\|X}\) 目标分布(测试数据的联合分布),协变量偏移但响应机制不变 概率分布(部分已知:\(Q_X\) 已知或可采样,\(P_{Y\|X}\) 未知但共享)
\(X \in \mathcal{X}\) 协变量 随机变量(可观测)
\(Y \in \mathbb{R}\) 响应 随机变量(可观测,仅在校准/训练集)
\(S(X,Y)\) 得分函数(如绝对残差 \(\|Y - \hat{\mu}(X)\|\)) 可观测函数(训练集拟合)
\(w(x) = dQ_X/dP_X\) 似然比(密度比) 参数/函数(已知或需估计)
\(T: \mathcal{X} \to \mathcal{Z}\) 压缩映射(sketch),\(Z = T(X)\) 设计选择(可依赖训练集,不可依赖校准集)
\(w_Z(z) = dQ_Z/dP_Z\) 压缩空间上的似然比,\(P_Z = T_\#P_X\), \(Q_Z = T_\#Q_X\) 参数/函数(由 \(w\) 和 \(T\) 导出)
\(\chi^2(Q\|P) = E_P[w^2] - 1\) 全空间的 χ² 散度 标量(偏移强度度量)
\(\chi^2(Q_Z\|P_Z) = E_{P_Z}[w_Z^2] - 1\) 压缩空间的 χ² 散度 标量(压缩后的偏移强度)
\(\Delta_T = E_{Q_Z}[\mathrm{TV}(Q_{Y\|Z}, P_{Y\|Z})]\) 泄漏量:压缩造成的响应条件分布偏移的平均 TV 距离 标量(本文核心新概念)
\(\delta_T(z) = \mathrm{TV}(Q_{Y\|Z=z}, P_{Y\|Z=z})\) 点态泄漏量 函数(\(z\) 的函数)
\(m\) 校准集大小 标量(已知)
\(\alpha\) 目标错误率(覆盖率目标为 \(1-\alpha\)) 标量(已知)
\(\hat{C}(x)\) 预测区间 输出(随机集)

模型:

  • 数据生成机制:\((X_i, Y_i)_{i=1}^m \overset{\text{i.i.d.}}{\sim} P = P_X \otimes P_{Y|X}\)(校准集),测试点 \((X, Y) \sim Q = Q_X \otimes P_{Y|X}\),且测试点与校准集独立。
  • 核心假设:
  • 协变量偏移(covariate shift):\(P_{Y|X} = Q_{Y|X}\),即响应机制不变,只有协变量边缘分布变化。
  • 绝对连续性:\(Q_X \ll P_X\),保证似然比 \(w\) 存在。
  • 得分函数固定:\(S\) 在训练集上拟合后固定,不随校准数据变化。
  • 压缩映射独立:\(T\) 的选择不依赖校准集(可依赖训练集或无标签数据)。

可观测数据:

  • 可观测:校准集 \(\{(X_i, Y_i)\}_{i=1}^m\)(源分布采样)、测试协变量 \(X\)(目标分布采样)、无标签的源/目标协变量样本(用于估计 \(w\) 或 \(w_Z\))。
  • 不可观测:测试响应 \(Y\)(预测目标)、真实似然比 \(w\)(需估计)、响应机制 \(P_{Y|X}\)(未知但共享)。

第二步:最小内核

最简特例:\(d=2\),\(X = (X_1, X_2)\),源分布 \(P_X = N(0, I_2)\),目标分布 \(Q_X = N(\mu a, I_2)\)(\(a\) 为单位向量),响应 \(Y = \beta_1 X_1 + \beta_2 X_2 + \sigma \xi\)(\(\xi \sim N(0,1)\) 独立于 \(X\))。压缩映射取 \(T(x) = x_1\)(即只保留第一个坐标)。

要解决的问题:在目标分布 \(Q\) 下构造 \(Y\) 的预测区间,使其覆盖率至少为 \(1-\alpha\)。

标准 WCP 的做法: 1. 计算校准得分 \(S_i = |Y_i - \hat{\mu}(X_i)|\)。 2. 对测试点 \(x\),计算加权分位数:

\[\hat{q}(x) = \inf\left\{ q : \sum_{i=1}^m \frac{w(X_i)}{\sum_j w(X_j) + w(x)} \mathbf{1}\{S_i \leq q\} + \frac{w(x)}{\sum_j w(X_j) + w(x)} \mathbf{1}\{\infty \leq q\} \geq 1-\alpha \right\}\]
3. 输出 \(\hat{C}(x) = \{y : |y - \hat{\mu}(x)| \leq \hat{q}(x)\}\)。

问题:当 \(d\) 很大时,\(w(x) = \exp(\mu\langle a, x\rangle - \mu^2/2)\) 的方差 \(\chi^2 = e^{\mu^2} - 1\) 可能极大,导致 \(\hat{q}(x)\) 经常等于 \(+\infty\)(预测区间为整个实数轴)。

本文的核心思想:用 \(Z = T(X)\) 替代 \(X\) 做加权。在压缩空间上,似然比为 \(w_Z(z) = \exp(\mu\langle \Pi a, z\rangle - \mu^2\|\Pi a\|^2/2)\),其 χ² 散度为 \(\chi^2(Q_Z\|P_Z) = e^{\mu^2\|\Pi a\|^2} - 1\)。如果 \(\Pi a\) 很小(即偏移方向大部分被压缩掉),则 \(\chi^2(Q_Z\|P_Z) \ll \chi^2(Q\|P)\),校准成本大幅降低。

代价:压缩后 \(Z\) 不再是 \(Y\) 的充分统计量,\(P_{Y|Z} \neq Q_{Y|Z}\)。在例子中,\(Y|Z=z \sim N(\beta_1 z, \beta_2^2 + \sigma^2)\) 在源分布下,而 \(Y|Z=z \sim N(\beta_1 z + \mu\langle \beta, a\rangle, \beta_2^2 + \sigma^2)\) 在目标分布下(假设 \(a\) 与 \(X_2\) 有分量)。这个偏移量 \(\mu\langle \beta, a\rangle\) 就是泄漏量 \(\Delta_T\) 的来源。

数学上要证明的核心命题(Theorem 4.4 的最简形式):

对任意测试点 \(x\),若 \(w_Z\) 已知,则 sketched calibration 输出的区间 \(\hat{C}(Z(x))\) 满足:

\[P_Q\{Y \in \hat{C}(Z(X))\} \geq 1 - \alpha - \Delta_T\]
其中 \(\Delta_T = E_{Q_Z}[\mathrm{TV}(Q_{Y|Z}, P_{Y|Z})]\)。

证明思路(三步): 1. 代理目标:sketched calibration 在代理分布 \(\tilde{Q} = Q_Z \otimes P_{Y|Z}\) 下是精确有效的(因为 \(\tilde{Q}\) 与 \(P_T = P_Z \otimes P_{Y|Z}\) 之间是标准的协变量偏移,WCP 的加权论证直接适用)。 2. 三角不等式:真实目标 \(Q_T = Q_Z \otimes Q_{Y|Z}\) 与代理目标 \(\tilde{Q}\) 之间的 TV 距离恰好是 \(\Delta_T\)(因为 \(Q_T\) 和 \(\tilde{Q}\) 共享 \(Z\) 边缘,差异只在 \(Y|Z\) 上)。 3. TV 稳定性:对任意固定区间 \(\hat{C}\),\(|Q_T\{\text{cover}\} - \tilde{Q}\{\text{cover}\}| \leq \mathrm{TV}(Q_T, \tilde{Q}) = \Delta_T\)。

为什么这个例子是"最小内核":它同时展示了三个关键现象: - 压缩的收益:\(\chi^2(Q_Z\|P_Z) = e^{\mu^2\|\Pi a\|^2} - 1\) 可以远小于 \(\chi^2(Q\|P) = e^{\mu^2} - 1\); - 泄漏量的来源:\(\Delta_T\) 由 \(\langle \beta, a\rangle\)(偏移方向与信号方向的内积)决定,而不是由 \(\|a\|\) 决定; - 零泄漏条件:当 \(\beta \perp a\)(偏移方向与信号正交)或 \(a \in \text{row}(\Pi)\)(偏移被完全保留)时,\(\Delta_T = 0\)。

一般情形(Theorem 4.4)只是这个例子的"加壳":将高斯假设替换为一般分布,将线性压缩替换为一般可测映射 \(T\),将二维替换为一般维数,将"偏移方向与信号方向的内积"替换为"纤维上偏移与响应核的协方差"。


三、这篇论文做了什么

三句话

  1. 研究了什么问题:在协变量偏移下,加权共形预测(WCP)的校准成本随 χ² 散度指数增长,且部分成本来自不影响响应的偏移方向;本文研究如何通过压缩协变量(sketching)来降低这一成本,并显式刻画压缩造成的覆盖率损失。
  2. 核心工具 / 方法:提出 sketched calibration——在压缩空间 \(Z = T(X)\) 上运行 WCP,用压缩空间的似然比 \(w_Z\) 替代全空间似然比 \(w\);通过投影恒等式将 χ² 分解为"保留部分"与"丢弃部分",用泄漏量 \(\Delta_T\)(纤维上偏移与响应的协方差)刻画压缩的有偏性。
  3. 主要结论:sketched calibration 的目标覆盖率至少为 \(1-\alpha-\Delta_T\),且压缩不增加任何校准成本项;在 Gaussian 单指标模型中,泄漏量有显式表达式,且与偏移-信号内积成正比;固定阈值规则无法避免泄漏量量级的偏差(minimax 下界);实验表明有信息量的压缩可以在几乎不损失覆盖率的前提下大幅降低无限集比例。

关键设定与假设

  • 核心假设(在第二节基础上补充):
  • 得分函数连续:Theorem 4.4 的证明需要得分函数在 \(Q\) 下连续(用于 TV 稳定性论证)。
  • 有界似然比:Assumption 3 要求 \(w \leq w_{\max} < \infty\),这是 Bernstein 型集中不等式的前提;Gaussian 单指标模型不满足此假设,因此 Theorem 5.6 需要单独的截断论证。
  • 压缩映射的独立性:\(T\) 的选择不能依赖校准集(Remark 4.2),否则破坏条件独立性。
  • 估计误差的分离:Proposition 4.10 假设 \(w_Z\) 的估计基于独立于校准集的无标签数据,且估计误差以 TV 距离度量。

  • 相比已有文献的放宽 / 强化:

  • 放宽:不要求 \(w\) 有界(Theorem 4.4 只需 \(w \in L^2\));不要求压缩映射是线性的;不要求得分函数是残差绝对值(适用于任意得分)。
  • 强化:要求 \(T\) 的选择独立于校准集(相比 Stojanov et al. 2019 允许数据依赖的充分降维);要求 \(w_Z\) 已知或可精确估计(相比 LR-QR 允许近似)。

主要结果

Theorem 4.4(核心定理):sketched calibration 的目标覆盖率至少为 \(1-\alpha-\Delta_T\),其中 \(\Delta_T = E_{Q_Z}[\mathrm{TV}(Q_{Y|Z}, P_{Y|Z})]\)。证明分三步:代理目标精确性 → TV 三角不等式 → 条件期望。关键洞察是 \(w_Z = E_P[w|T]\)(Theorem 4.4(i)),即压缩空间的似然比是全空间似然比的条件期望,这使得 \(\chi^2(Q_Z\|P_Z) \leq \chi^2(Q\|P)\) 且 \(w_Z \leq w_{\max}\)。

Proposition 4.6(泄漏量的协方差刻画):\(\delta_T(z) = \sup_A \mathrm{Cov}_{P_{X|Z=z}}[w(X)/w_Z(z), P_{Y|X}(A)]\)。这把泄漏量从"分布间的 TV 距离"转化为"纤维上偏移与响应核的协方差",为计算和估计提供了具体路径。

Corollary 5.4(Gaussian 单指标模型): - (a) 若 \(\beta \in \text{row}(\Pi)\)(压缩保留信号方向),则 \(\Delta_\Pi = 0\),sketched calibration 与全空间 WCP 有相同的覆盖率保证,但 χ² 从 \(e^{\mu^2}-1\) 降至 \(e^{\mu^2\|\Pi a\|^2}-1\)。 - (b) 若 \(\hat{\beta} \in \text{row}(\Pi)\)(压缩保留估计的信号方向),则 \(\Delta_\Pi \leq \mu\|\beta\|\sin\angle(\beta, \hat{\beta})/\sqrt{2\pi}\sigma\),泄漏量与信号估计的角误差成正比。 - (c) 若 \(\hat{a} \in \text{row}(\Pi)\)(压缩保留估计的偏移方向),则 \(\Delta_\Pi \leq \mu\sin\angle(a, \hat{a})/\sqrt{2\pi}\),泄漏量与偏移估计的角误差成正比。

Theorem 5.6(Gaussian 模型的有限样本界):对截断的 lognormal 似然比,给出了显式的 Bernstein 型界,其中 χ² 项被压缩空间的 χ² 替代,泄漏量项以 TV 距离出现。

Theorem 6.1(minimax 下界):对任何只看到压缩数据 \(Z\) 的固定阈值规则,存在两个响应核使得覆盖率误差至少为 \(\alpha\Delta_T/(\alpha+\Delta_T)\)。这表明泄漏量不仅是 sketched calibration 的缺陷,而是任何基于压缩数据的阈值规则都无法避免的。

证明路线与技术技巧

整体路线(Theorem 4.4): 1. 代理分布构造:定义 \(\tilde{Q} = Q_Z \otimes P_{Y|Z}\),证明 sketched calibration 在 \(\tilde{Q}\) 下精确有效(因为 \(\tilde{Q}\) 与 \(P_T\) 之间是标准协变量偏移)。 2. TV 三角不等式:\(|P_Q\{\text{cover}\} - (1-\alpha)| \leq |P_Q\{\text{cover}\} - P_{\tilde{Q}}\{\text{cover}\}| + |P_{\tilde{Q}}\{\text{cover}\} - (1-\alpha)|\)。第一项 \(\leq \mathrm{TV}(Q_T, \tilde{Q}) = \Delta_T\)(因为 \(Q_T\) 和 \(\tilde{Q}\) 共享 \(Z\) 边缘),第二项 \(\leq\) 校准误差(由 WCP 理论控制)。 3. 条件期望:\(w_Z = E_P[w|T]\) 的证明使用 Doob 条件期望和 Radon-Nikodym 定理。

关键跳跃点: - 跳跃 1:从"全空间 WCP 的 χ² 代价"到"压缩空间 WCP 的 χ² 代价"——这一步的关键是证明 \(w_Z = E_P[w|T]\),从而 \(\chi^2(Q_Z\|P_Z) \leq \chi^2(Q\|P)\)。难点在于 \(w_Z\) 的定义涉及 \(Q_Z \ll P_Z\),需要验证绝对连续性。 - 跳跃 2:从"代理分布下的精确性"到"真实分布下的近似性"——这一步的关键是 TV 稳定性,但 TV 稳定性只对固定区间成立,而 sketched calibration 的区间是数据依赖的。作者的处理方式是条件在训练集上,将区间视为固定集,然后对校准数据取期望。 - 跳跃 3:Theorem 6.1 的构造——两个响应核在压缩空间上不可区分,但在目标覆盖率上差异显著。难点在于确保两个核都满足 Assumption 4 的局部质量条件。

技术技巧点名: - Doob 条件期望:用于证明 \(w_Z = E_P[w|T]\)(Theorem 4.4(i))。 - Radon-Nikodym 定理:用于处理 \(Q_Z \ll P_Z\) 的绝对连续性。 - Bernstein 不等式:Theorem 3.2(a) 的集中不等式,用于控制加权经验分位数的偏差。 - Le Cam 方法:Theorem 6.1 的下界证明,通过构造两个难以区分的分布来下界 minimax 风险。 - 截断论证:Theorem 5.6 中处理无界 lognormal 似然比的方法——先截断再证明界,最后取截断水平趋于无穷。 - 交叉拟合(cross-fitting):Proposition 4.15 中,候选区间的选择使用独立的标签样本,避免选择偏差。

真实例子与应用

模拟实验: - E1(异方差单指标模型):\(Y = \langle \beta, X\rangle + \sigma(\langle \beta, X\rangle)\xi\),偏移方向与信号方向夹角 45°。结果显示:一维充分 sketch(沿 \(\hat{\beta}\))在 χ²=517 时覆盖率 92.3%(目标 90%),无限集比例 8.0%,而全空间 WCP 的无限集比例为 37.8%。这验证了 Theorem 4.4 的预测:压缩不增加校准成本,且泄漏量远小于全空间 χ² 的代价。 - E2(估计的似然比):用 logistic 回归估计 \(w_Z\),一维 sketch 的估计误差为 0.012(对比全空间 0.102),覆盖率损失约 1 个百分点。这验证了 Proposition 4.10 的误差传播界。 - E3(随机 sketch):随机投影(k=8)在偏移方向与信号方向正交时表现良好(覆盖率 90.1%),但在偏移与信号相关时泄漏量显著(覆盖率 86.5%)。这验证了 Corollary 5.4(c) 的预测:随机投影保留的偏移-信号交互是泄漏量的来源。 - E4(对抗性偏移):偏移方向与信号方向完全对齐时,任何 sketch 都无法避免泄漏量,sketched calibration 与全空间 WCP 的覆盖率差异小于 1 个百分点。这验证了 Theorem 6.1 的下界。 - E5(同方差控制):同方差模型中,sketched calibration 与全空间 WCP 的覆盖率几乎相同(差异 <0.5 个百分点),但无限集比例从 38.2% 降至 0%。这隔离了"方差降低"与"泄漏量"两个效应。 - E6(全协变量得分 + sketch 权重):使用 Theorem 4.8 的 full-score 规则,随机 sketch 的覆盖率从 90.1% 提升至 90.4%,区间长度中位数从 9.93 降至 3.31。这验证了 Proposition 4.9 的预测:full-score 规则消除了宽度惩罚。 - E7(非线性模型):梯度提升预测器 + 三指标模型,学习到的 sketch(残差方向 + 均值方向)在 n=16000 时覆盖率 90.3%,接近 oracle 的 90.6%。这验证了 Section 4.9 默认流程的有效性。 - E8(真实数据):California housing 和 protein 数据集,受控协变量偏移。California housing 上,随机偏移时 selected rule 覆盖率 89.0-89.6%(目标 90%),无限集比例 1.7-5.6%(全空间 WCP 为 28.5%);沿特征的偏移时,所有规则均有效(因为偏移方向与残差方向正交)。Protein 数据上,三维修正 sketch 在偏移沿第一特征时覆盖率 91.0%,无限集比例 1.6%(全空间 WCP 为 6.4%)。

这些例子想说明什么: - E1-E2 说明有信息量的 sketch 可以在几乎不损失覆盖率的前提下大幅降低校准成本; - E3-E4 说明泄漏量是 sketch 的根本限制,且与偏移-信号交互成正比; - E5 说明方差降低与泄漏量是两个可分离的效应; - E6 说明full-score 规则可以消除宽度惩罚; - E7-E8 说明学习到的 sketch 在非线性模型和真实数据上有效。

🔎 结论是否比证明窄

是的,存在多处"证明窄于结论"的情况:

  1. Theorem 4.4 的覆盖率保证是边际的,但实验报告的是平均覆盖率。Theorem 4.4 给出的是 \(P_Q\{Y \in \hat{C}(Z(X))\} \geq 1-\alpha-\Delta_T\),这是边际保证。但实验中的"覆盖率"是跨测试点的平均覆盖率,两者一致。然而,论文在讨论中暗示了"条件覆盖率"的改进(如 E1 中"覆盖率 92.3%"),但 Theorem 4.4 并不提供条件保证。作者在 Section 8 中承认了这一点,但未给出条件覆盖率的理论分析。

  2. Theorem 5.6 的界需要截断,但实验用的是未截断的权重。Theorem 5.6 的证明依赖于截断的 lognormal 似然比,但实验(E1-E6)使用的是未截断的精确权重。作者在 Section 7 中声称"截断水平 \(M=20\) 足够大,截断偏差可忽略",但未给出定量验证。这是一个证明与实验之间的 gap。

  3. Theorem 6.1 的下界仅适用于固定阈值规则,但实验中的规则是数据依赖的。Theorem 6.1 的结论是"任何固定阈值规则都无法避免泄漏量量级的偏差",但 sketched calibration 的阈值 \(\hat{q}(x)\) 是校准数据的函数。作者在 Remark 6.2 中承认了这一点,但未给出数据依赖规则的推广。

  4. Proposition 4.10 的估计误差界需要 \(w_Z\) 的估计器满足 TV 误差界,但实验中使用的是 logistic 回归。Proposition 4.10 的证明假设 \(\hat{w}_Z\) 满足 \(E_{P_Z}|\hat{w}_Z - w_Z| \leq \epsilon\),但 logistic 回归的 TV 误差界在理论上并不显然。实验中的 \(\epsilon\) 值(0.012)是经验估计,而非理论保证。

  5. Section 4.9 的默认 sketch 流程没有理论保证。论文提出的默认流程(残差方向 + 均值方向)是启发式的,没有定理保证其泄漏量上界。Corollary 5.4 只覆盖了线性 sketch 和 Gaussian 模型,而默认流程在非线性模型上的表现(E7)只有实验验证。


四、开放问题

  1. 泄漏量的估计问题(扎根于 Proposition 4.14 和 Section 8):论文证明了自然估计器 \(\hat{\Delta}_S\) 的偏差受全空间 χ² 控制,但未给出 minimax 下界。要确认这是否是真 gap,可去读近期关于分布偏移下 nuisance 估计的文献(如 DML 框架中的误差传播分析)——如果这些文献中的下界技术可以迁移到泄漏量估计,则此 gap 是真实的。

  2. 条件覆盖率的理论分析(扎根于 Theorem 4.4 的边际保证和 Section 8 的讨论):论文只给出了边际覆盖率保证,但实验暗示了条件覆盖率的改进。要确认这是否是真 gap,可去读 Gibbs et al. (2023) 的 localized conformal prediction 和 Barber et al. (2019) 的条件覆盖不可能性结果——如果局部化方法可以与 sketched calibration 结合,则此 gap 是真实的。

  3. 数据依赖 sketch 的理论保证(扎根于 Section 4.9 和 E7):论文的默认 sketch 流程是启发式的,没有理论保证。要确认这是否是真 gap,可去读 Stojanov et al. (2019) 的充分降维方法和 Joshi et al. (2025) 的 LR-QR 方法——如果这些方法的理论工具可以用于分析数据依赖 sketch 的泄漏量,则此 gap 是真实的。

  4. 无界似然比的处理(扎根于 Theorem 5.6 的截断论证和 Section 8):论文的有限样本界需要截断,但实验用的是未截断权重。要确认这是否是真 gap,可去读 Wang & Goel (2026) 的权重裁剪分析和 Pournaderi (2026) 的训练条件覆盖分析——如果这些工作的技术可以推广到 sketched calibration,则此 gap 是真实的。

  5. 压缩与充分性的最优权衡(扎根于 Corollary 5.4 和 Remark 4.5):论文证明了泄漏量随 sketch 细化非单调,但未给出最优 sketch 的刻画。要确认这是否是真 gap,可去读 Polo & Vicente (2020) 的 ESS 单调性结果和 Cook (1998) 的充分降维理论——如果这些工作的工具可以用于刻画"最优 sketch",则此 gap 是真实的。


提醒:要确认上述 gap 是否真实,建议去读同子领域近期约 5 篇论文的 intro——如果多篇都指向同一个问题(如"泄漏量的估计"或"条件覆盖率"),那很可能是共识性的真 gap;如果各篇说法不一,那可能是机会所在。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论