Conformal prediction: A unified review of theory and new challenges¶
作者: Matteo Fontana, Gianluca Zeni, Simone Vantini
来源: Bernoulli
主题: 数理统计 / 假设检验
相关性: 7/10
链接: 期刊页 · arXiv
一、领域脉络与小综述¶
这个方向是什么¶
Conformal prediction(共形预测)是一个无分布假设(distribution-free)、非参数的预测框架。它解决的根本问题是:给定一个训练集和一个新的输入点,如何构造一个预测集(prediction set / interval),使得该集合以至少 1 - α 的概率包含真实标签,且这个保证是有限样本的(finite-sample),不依赖于数据分布的任何参数假设。唯一的核心假设是数据可交换性(exchangeability),这比独立同分布(i.i.d.)更弱。该框架的核心机制是:通过一个非一致性得分(nonconformity score) 衡量新样本与训练集的“匹配程度”,然后利用该得分在可交换性下的秩(rank)性质,通过分位数构造预测集。这个方向目前已经相当成熟,有坚实的理论基础(有限样本有效性保证),并且正在向更复杂的设定(条件覆盖、时间序列、高维、深度学习)快速扩展。
发展脉络(history)¶
奠基工作(1998-2007):该方向由 Gammerman, Vovk 和 Vapnik (1998) 开创,他们首次提出了“转导预测”(transductive prediction)的概念,并给出了一个“支持预测的证据的实用度量”。Shafer 和 Vovk (2007) 的教程则系统性地阐述了共形预测的理论,包括可交换性的各种定义、博弈论方法和大数定律,奠定了该领域的理论基础。这个阶段的核心贡献是建立了有限样本有效性(finite-sample validity)的严格框架——只要数据可交换,预测集的覆盖概率就能被精确控制。
主要进展(2008-2016):这一时期的工作主要围绕计算效率和统计效率的权衡展开。Papadopoulos (2008) 提出了归纳式共形预测(Inductive Conformal Prediction, ICP),将训练集划分为“真训练集”和“校准集”,从而避免了原始转导式方法中每个新测试点都需要重新拟合模型的巨大计算开销。Vovk (2015) 提出了交叉共形预测(Cross-Conformal Prediction),试图结合 ICP 的计算效率和交叉验证的信息效率。Lei et al. (2018) 的工作是回归设定下的里程碑,他们系统比较了全共形(full conformal)和分裂共形(split conformal)两种变体,证明了在残差的最小假设下,共形预测区间是准确的(不会过度覆盖),并提出了“rank-one-out”共形推断方法。Barber et al. (2019b) 提出的 jackknife+ 方法则是一个关键突破:它通过使用留一法预测值在测试点上的变异性来调整区间宽度,从而在保留有限样本覆盖保证的同时,显著缩小了区间长度,且不要求算法稳定性。
当前 Frontier(2019-至今):当前的前沿正在突破可交换性假设,并向更复杂的设定扩展。Tibshirani et al. (2019) 将共形预测扩展到协变量偏移(covariate shift) 场景,通过加权版本的共形预测处理测试集和训练集协变量分布不同的情况。Chernozhukov et al. (2018) 则将其扩展到时间序列数据,通过引入块结构置换方案来保持近似有效性。Barber et al. (2019a) 的工作则触及了该领域的一个根本性限制:条件覆盖(conditional coverage) 的无分布保证是不可能的,他们探索了介于边际覆盖和精确条件覆盖之间的各种松弛定义。本文(Fontana, Zeni, Vantini, 2023)的位置是一篇统一综述,旨在梳理上述所有发展脉络,并指出开放挑战。
子线索聚类¶
这些被引文献大致落在以下 3-4 条子线索上:
- 基础理论与有效性保证:这条线索关注共形预测的数学基础,包括可交换性、有限样本有效性、以及各种有效性定义(边际、条件、近似条件)。代表工作:Shafer & Vovk (2007), Lei et al. (2013), Barber et al. (2019a), Vovk (2012)。核心问题是:在什么意义上,一个无分布预测方法可以“有效”?
- 计算效率与变体:这条线索致力于解决原始共形预测的计算瓶颈,提出了各种变体以降低计算成本。代表工作:Papadopoulos (2008) [ICP], Vovk (2015) [Cross-Conformal], Barber et al. (2019b) [jackknife+], Chen et al. (2017) [离散化共形预测], Lei (2019) [Lasso 的精确共形化]。核心问题是:如何在保持(或近似保持)有限样本有效性的前提下,使共形预测适用于大规模数据和高维模型?
- 非一致性得分的设计与效率:这条线索关注如何设计更好的非一致性得分,以产生更紧(更高效)的预测集。代表工作:Papadopoulos et al. (2014) [k-NN 的归一化得分], Papadopoulos & Haralambous (2011) [神经网络], Devetyarov & Nouretdinov (2010) [随机森林], Burnaev & Vovk (2014) [岭回归的效率分析], Vovk et al. (2016) [效率准则]。核心问题是:如何针对特定问题和底层算法,设计出能反映预测不确定性的得分,从而在保证覆盖的同时最小化预测集的大小?
- 复杂数据与设定下的扩展:这条线索将共形预测应用于更复杂的数据类型和场景。代表工作:Lei et al. (2013) [函数型数据], Tibshirani et al. (2019) [协变量偏移], Chernozhukov et al. (2018) [时间序列], Diquigiovanni et al. (2021) [多元函数型时间序列]。核心问题是:当可交换性假设被违反(如时间序列、分布漂移)或数据结构复杂(如函数型、高维)时,如何调整共形预测框架以保持其有效性?
这个方向在追问的核心问题¶
- 如何实现条件覆盖(conditional coverage)? 边际覆盖保证意味着平均而言预测集覆盖了
1-α的测试点,但对于某个特定的测试点,覆盖概率可能远低于1-α。Barber et al. (2019a) 已经证明,在无分布假设下,精确的条件覆盖是不可能的。因此,核心问题是:什么样的松弛条件覆盖(如近似条件覆盖、类别条件覆盖)是可行的,并且能提供有意义的个体化保证? - 如何在高维和复杂模型(如深度学习)中实现高效且有效的共形预测? 对于 Lasso 等模型,Lei (2019) 已经给出了精确且高效的算法。但对于更复杂的模型(如深度神经网络),精确的共形化计算量巨大。当前主流方法是使用分裂共形(ICP),但这牺牲了数据效率。核心问题是:能否设计出既计算高效又统计高效的共形预测方法,使其适用于现代复杂模型?
- 如何突破可交换性假设? 时间序列、空间数据、网络数据等通常不满足可交换性。Chernozhukov et al. (2018) 和 Diquigiovanni et al. (2021) 的工作是重要尝试,但它们通常只能保证近似有效性或需要额外的假设。核心问题是:对于更一般的非可交换数据,能否建立具有有限样本保证的共形预测框架?
- 如何将共形预测与因果推断结合? 这是一个相对开放但极具潜力的方向。例如,在个体处理效应(ITE)的预测中,能否构造出具有有限样本覆盖保证的预测区间?这需要处理反事实(counterfactual)的不可观测性,以及处理分配机制可能非随机的问题。
⚠️ 作者的 framing¶
作者将本文定位为“统一综述”(unified review),其 framing 如下: - 缺口 frame:作者认为,尽管共形预测领域发展迅速,但缺乏一个“统一的、自洽的”理论框架来整合各种变体和扩展。他们声称,现有综述要么过于侧重某个方面(如计算),要么没有跟上最新发展(如 jackknife+、CQR、条件覆盖的极限)。因此,本文的贡献在于提供一个“从理论到最新挑战”的全面、统一的视角。 - 淡化/回避的竞争路线:作者明显淡化了贝叶斯方法和基于模型的方法(如高斯过程回归)。他们强调共形预测的“无分布”和“有限样本”优势,但并未深入讨论当模型假设(如高斯性)大致成立时,这些方法在效率上可能远优于共形预测。此外,对于重抽样方法(如 bootstrap),作者仅在讨论 jackknife+ 时提及,并未将其作为一条独立的竞争路线进行系统比较。 - 值得研究者去查的问题:作者的 intro 和参考文献中,明显缺少对以下工作的引用或讨论: - 与深度学习中不确定性量化(UQ)方法的联系:如 Monte Carlo Dropout、Deep Ensembles、Bayesian Neural Networks。这些是当前 ML 社区非常活跃的方向,它们与共形预测的互补性(共形预测提供频率学派保证,而贝叶斯方法提供认知不确定性)是一个重要的交叉点。 - 与最优传输(Optimal Transport)理论的联系:协变量偏移下的加权共形预测(Tibshirani et al., 2019)本质上与重要性采样有关,而最优传输提供了另一种处理分布偏移的框架。这个联系值得探索。 - 与 conformal prediction 在因果推断中的直接应用:虽然作者提到了“开放挑战”,但并未引用任何将共形预测直接应用于因果效应估计(如 ITE 预测区间)的论文。这是一个明显的空白。
张力¶
未见明显对立引用。该领域的发展总体上是累积性的,不同变体(如 full conformal vs. split conformal vs. jackknife+)被视为在不同维度(计算效率、统计效率、信息效率)上的权衡,而非相互矛盾。唯一的“张力”可能存在于 Barber et al. (2019a) 指出的条件覆盖的不可行性与实践中对个体化预测区间的强烈需求之间,但这更多是一个理论上的不可能性结果,而非不同工作之间的结论冲突。
二、最核心、最简单的例子 / 数学问题¶
第一步:把符号、模型、可观测数据交代清楚¶
-
符号:
(X_i, Y_i),i = 1, ..., n:训练集,共n个样本。X_i是协变量(特征向量),Y_i是响应变量(标签)。(X_{n+1}, Y_{n+1}):一个新的测试点。X_{n+1}是可观测的,Y_{n+1}是我们要预测的未知标签。Z_i = (X_i, Y_i):将每个样本视为一个整体。核心假设是Z_1, ..., Z_{n+1}是可交换的(exchangeable)。α:预设的显著性水平(miscoverage level),如 0.1。目标是构造一个预测集C_n(X_{n+1}),使得P(Y_{n+1} ∈ C_n(X_{n+1})) ≥ 1 - α。A:一个任意的预测算法(或称为“底层算法”),它从训练集{(X_i, Y_i)}学习一个映射ŷ = A(X)。V(z, D):非一致性得分(nonconformity score)。它是一个函数,衡量一个样本z相对于一个数据集D的“奇怪程度”。得分越高,样本越“非典型”。一个常见的例子是绝对残差:V((x, y), D) = |y - A_D(x)|,其中A_D是在数据集D上训练好的模型。R_i:第i个训练样本的非一致性得分,R_i = V(Z_i, D_{-i}),其中D_{-i}是去掉第i个样本后的训练集。在分裂共形中,R_i是在校准集上计算的。R_{n+1}^y:假设测试点的标签为某个候选值y时,其非一致性得分,R_{n+1}^y = V((X_{n+1}, y), D)。q_{1-α}:{R_1, ..., R_n}的(1-α)经验分位数。具体地,q_{1-α} = ceil((n+1)(1-α))/n分位数。
-
模型:
- 无模型。这是共形预测的核心优势。我们不对
(X, Y)的联合分布P_{XY}做任何参数假设(如高斯、线性、logistic)。唯一的假设是数据可交换性。 - 可交换性:
(Z_1, ..., Z_{n+1})的联合分布对于任何排列都是不变的。这比 i.i.d. 更弱,因为 i.i.d. 意味着可交换,但反之不成立。例如,一个简单的随机游走不是可交换的,但一个混合分布(mixture)中的样本是可交换的。
- 无模型。这是共形预测的核心优势。我们不对
-
可观测数据:
- 可观测:
(X_1, Y_1), ..., (X_n, Y_n)和X_{n+1}。我们能看到所有训练样本的协变量和标签,以及新测试点的协变量。 - 不可观测 / 想要但观测不到:
Y_{n+1},即新测试点的真实标签。这是我们要预测的目标。此外,(X, Y)的真实联合分布P_{XY}也是未知的。
- 可观测:
第二步:讲最小内核——分裂共形预测(Split Conformal Prediction)¶
这是理解整篇论文的最简特例。它牺牲了一部分数据效率,但极大地简化了计算,是当前最流行的变体。
设定:我们有一个回归问题,Y 是连续变量。底层算法 A 可以是任何回归模型(线性回归、随机森林、神经网络)。我们选择绝对残差作为非一致性得分:V((x, y), D) = |y - A_D(x)|。
步骤:
1. 数据分割:将训练集 D = {(X_i, Y_i)}_{i=1}^n 随机分成两个不相交的子集:
- 训练集 D_train:大小为 n_train,用于训练底层模型。
- 校准集 D_cal:大小为 n_cal,用于计算非一致性得分的分位数。通常 n_cal 取 10-20% 的样本。
2. 训练模型:在 D_train 上训练底层算法 A,得到拟合模型 Â(·)。
3. 计算校准集上的非一致性得分:对于校准集 D_cal 中的每个样本 (X_i, Y_i),计算其非一致性得分:
R_i = |Y_i - Â(X_i)|,i = 1, ..., n_cal。
4. 计算分位数:计算 R_i 的 (1-α) 经验分位数 q_{1-α}。具体地,令 q_{1-α} = ceil((n_cal + 1)(1-α)) / n_cal 分位数。例如,如果 n_cal = 1000,α = 0.1,则 q_{0.9} 是第 ceil(1001 * 0.9) = 901 大的 R_i 值。
5. 构造预测区间:对于新的测试点 X_{n+1},其预测区间为:
C_n(X_{n+1}) = [Â(X_{n+1}) - q_{1-α}, Â(X_{n+1}) + q_{1-α}]。
为什么这个区间有效?(核心思路)
- 关键观察:在可交换性假设下,(X_{n+1}, Y_{n+1}) 与校准集中的任何一个样本都是“对称的”。因此,其非一致性得分 R_{n+1} = |Y_{n+1} - Â(X_{n+1})| 与校准集上的 R_1, ..., R_{n_cal} 是可交换的。
- 这意味着 R_{n+1} 在 {R_1, ..., R_{n_cal}, R_{n+1}} 这个集合中的秩是均匀分布的。具体地,R_{n+1} 大于等于 q_{1-α} 的概率恰好(或近似)为 α。
- 因此,P(Y_{n+1} ∈ C_n(X_{n+1})) = P(R_{n+1} ≤ q_{1-α}) ≥ 1 - α。这个保证是有限样本的,不依赖于 Â 的好坏,也不依赖于数据分布。
这个最小内核揭示了什么?
- 共形预测的本质是利用可交换性下的秩性质,将预测问题转化为一个分位数估计问题。
- 它解耦了“模型拟合”和“不确定性量化”。你可以用任何复杂的黑箱模型 Â,然后通过一个简单的校准步骤来获得有效的预测区间。
- 它的代价是数据效率:一部分数据被专门用于校准,而不是用于训练模型。这也导致了条件覆盖的不足:区间宽度是全局恒定的(2 * q_{1-α}),无法根据 X_{n+1} 的位置自适应调整。
三、这篇论文做了什么¶
三句话¶
- 研究了什么问题:本文对共形预测(Conformal Prediction)这一无分布、非参数的预测框架进行了统一综述,覆盖了其理论基础、主要变体、最新发展以及开放挑战。
- 核心工具/方法:综述的核心工具是非一致性得分(nonconformity score) 和可交换性(exchangeability) 假设。它系统梳理了从原始转导式共形预测到分裂共形(ICP)、交叉共形、jackknife+ 等变体的演进,并讨论了它们在回归、分类、函数型数据、时间序列等场景下的应用。
- 主要结论:共形预测提供了一个强大且通用的框架,能在极弱假设(可交换性)下保证有限样本的边际覆盖有效性。然而,实现条件覆盖、处理非可交换数据(如时间序列)、以及与深度学习等现代方法的高效结合,仍是当前和未来的核心挑战。
关键设定与假设¶
在第二节最小记号的基础上,本文讨论的完整设定包括:
- 核心假设:可交换性(Exchangeability)。这是贯穿全文的基石。作者在 2.1 节详细讨论了其定义、与 i.i.d. 的关系,以及它如何保证有限样本有效性。
- 非一致性得分:V(z, D)。这是共形预测的“引擎”。作者在 3.1 节系统讨论了各种得分函数,从最简单的绝对残差(回归)和 0-1 损失(分类),到更复杂的归一化得分(如 |y - ŷ| / σ,其中 σ 是预测的标准差估计),以及基于模型不确定性的得分(如随机森林的投票比例、神经网络的 softmax 输出)。
- 有效性定义:作者在 2.2 节区分了两种有效性:
- 边际有效性(Marginal Validity):P(Y_{n+1} ∈ C_n(X_{n+1})) ≥ 1 - α。这是共形预测的标准保证,对所有测试点平均成立。
- 条件有效性(Conditional Validity):P(Y_{n+1} ∈ C_n(X_{n+1}) | X_{n+1} = x) ≥ 1 - α,对几乎所有 x 成立。作者明确指出,这是无分布方法无法达到的(Barber et al., 2019a),并讨论了各种松弛方案(如类别条件覆盖、近似条件覆盖)。
- 相比已有文献的放宽或强化:
- 放宽:相比传统的参数或半参数预测区间,共形预测完全放宽了对数据分布的任何参数假设。
- 强化:相比基于渐近理论的预测区间(如 bootstrap),共形预测提供了有限样本的精确覆盖保证,而非渐近近似。
- 内部比较:相比原始的全共形预测(full conformal),分裂共形(ICP)放宽了计算要求(只需拟合一次模型),但强化了对数据分割的依赖,可能导致信息效率损失。Jackknife+ 则试图在两者之间取得平衡,它放宽了对数据分割的需求,同时强化了对算法稳定性的依赖(尽管其理论保证不要求稳定性,但实际表现受稳定性影响)。
主要结果¶
本文是一篇综述,因此其主要“结果”是对领域内关键定理和发现的梳理与总结。以下是几个核心的理论结果(以定理形式陈述,但本文并未给出新定理):
-
有限样本边际有效性定理(全共形预测):
- 陈述:对于任何显著性水平
α ∈ (0,1),如果数据Z_1, ..., Z_{n+1}是可交换的,那么由全共形预测算法构造的预测集C_n(X_{n+1})满足P(Y_{n+1} ∈ C_n(X_{n+1})) ≥ 1 - α。如果非一致性得分是连续的,则不等式是紧的(即= 1 - α)。 - 直觉:这个定理是共形预测的基石。它直接源于可交换性下秩的均匀分布性质。证明的关键在于,
Y_{n+1}的真实值y会使得R_{n+1}^y在{R_1, ..., R_n, R_{n+1}^y}中处于一个随机的、均匀分布的位置。 - 必要条件:可交换性。这是唯一且必要的条件。
- 解决的技术难点:原始的全共形预测需要为每个候选
y重新训练模型,计算量巨大。这个定理本身不解决计算问题,但为后续所有变体提供了理论基准。
- 陈述:对于任何显著性水平
-
分裂共形预测的有限样本有效性:
- 陈述:在数据可交换的假设下,对于任何显著性水平
α,由分裂共形预测构造的区间C_n(X_{n+1})满足P(Y_{n+1} ∈ C_n(X_{n+1})) ≥ 1 - α。 - 直觉:证明与全共形预测类似,但更简单。关键在于,测试点的非一致性得分
R_{n+1}与校准集上的得分R_1, ..., R_{n_cal}是可交换的。 - 必要条件:可交换性。此外,校准集和训练集的分割必须是随机的。
- 解决的技术难点:将计算复杂度从
O(n * T)(全共形,T是候选y的数量)降低到O(1)(只需拟合一次模型)。这是以牺牲部分数据用于校准为代价的。
- 陈述:在数据可交换的假设下,对于任何显著性水平
-
Jackknife+ 的有限样本有效性:
- 陈述:在数据可交换的假设下,对于任何显著性水平
α,由 jackknife+ 构造的区间C_n^{J+}(X_{n+1})满足P(Y_{n+1} ∈ C_n^{J+}(X_{n+1})) ≥ 1 - 2α。 - 直觉:Jackknife+ 通过使用留一法预测值的变异性来调整区间宽度,从而在不需要数据分割的情况下提供有限样本保证。其覆盖保证是
1 - 2α,而不是1 - α,这是为了应对最坏情况下的算法不稳定性。 - 必要条件:可交换性。算法必须对称地对待训练样本(即算法对训练集的排列不变)。
- 解决的技术难点:证明了即使算法不稳定,也能通过考虑留一法预测值的分布来获得一个保守的覆盖保证。这克服了原始 jackknife 方法在算法不稳定时覆盖保证可能完全失效的问题。
- 陈述:在数据可交换的假设下,对于任何显著性水平
证明路线与技术技巧(理论型必写,要具体)¶
由于本文是综述,不包含新的证明。但我们可以拆解其梳理的核心证明路线,以全共形预测为例:
-
整体路线(3-5步):
- 构造扩展数据集:对于测试点
X_{n+1}的每个候选标签y,构造一个扩展数据集{(X_1, Y_1), ..., (X_n, Y_n), (X_{n+1}, y)}。 - 计算非一致性得分:对于这个扩展数据集,计算每个样本的非一致性得分
R_1^y, ..., R_n^y, R_{n+1}^y。注意,R_{n+1}^y依赖于y。 - 利用可交换性:由于原始数据是可交换的,
(X_{n+1}, Y_{n+1})的真实标签Y_{n+1}与训练集中的任何一个标签在“顺序”上是等价的。因此,当y = Y_{n+1}时,R_{n+1}^y与R_1^y, ..., R_n^y是可交换的。 - 秩论证:在可交换性下,
R_{n+1}^y在{R_1^y, ..., R_n^y, R_{n+1}^y}中排在第k位的概率是1/(n+1),对任何k都成立。因此,R_{n+1}^y大于等于这n+1个值中第ceil((n+1)(1-α))大的值的概率恰好为α。 - 构造预测集:预测集
C_n(X_{n+1})被定义为所有使得R_{n+1}^y不超过这个分位数的y的集合。由步骤 4 可知,真实标签Y_{n+1}被包含在这个集合中的概率至少为1-α。
- 构造扩展数据集:对于测试点
-
关键跳跃点:
- 从“拟合模型”到“秩”的思维转换:这是共形预测最核心的跳跃。传统预测方法关注的是如何精确拟合
E[Y|X],而共形预测将问题转化为一个关于“新样本与训练集有多相似”的排序问题。这个跳跃使得我们可以绕过对P(Y|X)的建模,直接获得有效的预测集。 - 处理离散非一致性得分:当非一致性得分是离散的(例如在分类问题中),秩的均匀分布性质不再精确成立,导致覆盖保证可能略高于
1-α(即过度覆盖)。处理这个问题的标准技巧是引入随机化(randomized p-values),但这会引入额外的随机性。
- 从“拟合模型”到“秩”的思维转换:这是共形预测最核心的跳跃。传统预测方法关注的是如何精确拟合
-
技术技巧点名:
- 可交换性与秩统计量:这是整个框架的数学基础。证明的核心是使用组合论证,而非分析论证。
- 分位数估计:构造预测集等价于估计非一致性得分的
(1-α)分位数。这连接了共形预测与经典的非参数分位数估计理论。 - 留一法(Leave-one-out)与交叉验证:Jackknife+ 和交叉共形预测的核心技巧是使用留一法或
K折交叉验证来生成多个“伪”预测值,从而在不需要数据分割的情况下近似非一致性得分的分布。 - 重要性加权(Importance Weighting):在协变量偏移场景下(Tibshirani et al., 2019),核心技巧是使用似然比(likelihood ratio)对非一致性得分进行加权,从而恢复一个“加权可交换性”的性质。
真实例子与应用¶
本文作为综述,包含多个真实数据例子,用于说明不同共形预测变体的应用。以下是两个代表性例子:
-
例子 1:回归问题中的分裂共形预测(Split Conformal Prediction for Regression):
- 数据/场景:使用
Boston Housing数据集(或类似的标准回归数据集)。目标是根据房屋的特征(房间数、犯罪率等)预测房价。 - 方法应用:将数据随机分为训练集和校准集。在训练集上训练一个随机森林回归模型。在校准集上计算绝对残差,并得到其
90%分位数。对于测试集,预测区间为[ŷ - q_{0.9}, ŷ + q_{0.9}]。 - 结果:在测试集上,该区间的经验覆盖概率接近
90%,验证了有限样本有效性。同时,区间长度与模型在相应区域的预测误差相关(尽管是全局恒定的)。 - 说明目的:这个例子旨在展示分裂共形预测的简单性和有效性。它表明,即使使用一个复杂的黑箱模型(随机森林),我们也能通过一个简单的校准步骤获得具有统计保证的预测区间。
- 数据/场景:使用
-
例子 2:函数型数据中的共形预测(Conformal Prediction for Functional Data):
- 数据/场景:使用
Italian Gas Market数据集(Diquigiovanni et al., 2021)。目标是预测天然气每日的需求和供给曲线(即函数型响应变量)。 - 方法应用:使用一个专门为函数型数据设计的共形预测方法,该方法能产生同时预测带(simultaneous prediction bands),即一个能同时覆盖整个函数曲线(在多个时间点)的带状区域。该方法基于分裂共形预测,但使用了特殊的非一致性得分来处理函数型数据的结构。
- 结果:该方法产生了有限样本有效的、封闭形式的预测带,能够捕捉到需求曲线在不同时间点的变异性。与传统的点预测相比,这些预测带为能源交易者提供了更全面的不确定性信息。
- 说明目的:这个例子旨在展示共形预测的灵活性和可扩展性。它表明,通过设计合适的非一致性得分,共形预测可以应用于结构复杂的数据类型(如函数型数据、时间序列),并解决实际应用中的具体问题(如能源市场预测)。
- 数据/场景:使用
🔎 结论是否比证明窄¶
作为一篇综述,本文的“结论”主要是对现有结果的总结,而非提出新的、未经证明的论断。因此,不存在“结论比证明窄”的典型问题。但是,需要注意以下几点:
- 对“条件覆盖”的讨论:作者在 5.1 节讨论了条件覆盖的挑战,并引用了 Barber et al. (2019a) 的不可行性结果。这是一个已被严格证明的结论。作者在此基础上讨论的各种松弛方案(如类别条件覆盖)也是已有文献中的结果。因此,这部分内容没有超出已有证明的范围。
- 对“时间序列”的讨论:作者在 5.2 节讨论了时间序列的扩展,并引用了 Chernozhukov et al. (2018) 的工作。该工作证明了在块结构置换下,共形预测具有近似有效性。作者在综述中将其描述为“近似有效”,这与原论文的结论一致,没有夸大。
- 对“开放挑战”的讨论:作者在 6 节列出了开放挑战,如“与深度学习的结合”、“高维问题”等。这些是未被严格证明的领域,作者将其明确标注为“挑战”和“未来方向”,而非已取得的成果。因此,不存在将 conjecture 当作 theorem 的问题。
四、开放问题(点到为止,扎根具体语句)¶
- 实现精确或近似条件覆盖:Barber et al. (2019a) 已证明精确条件覆盖在无分布设定下是不可能的。本文 5.1 节讨论了各种松弛方案,但“如何设计一个在实践中有用、理论上可处理的条件覆盖松弛,并给出相应的共形预测方法?”仍是一个开放问题。扎根点:本文 5.1 节末尾的讨论。
- 处理非可交换数据(如时间序列、空间数据)的通用框架:Chernozhukov et al. (2018) 和 Diquigiovanni et al. (2021) 的工作是针对特定非可交换场景的。本文 5.2 节指出,“一个更通用的、能处理各种依赖结构的共形预测框架”仍然缺失。扎根点:本文 5.2 节末尾的“Future work”讨论。
- 与深度学习的计算高效结合:对于深度神经网络,精确的全共形预测计算量巨大。分裂共形(ICP)是当前主流,但牺牲了数据效率。本文 6 节提到,“开发与深度学习训练过程更紧密结合的、计算高效的共形预测方法”是一个重要挑战。扎根点:本文 6 节“Computational efficiency”段落。
- 共形预测在因果推断中的应用:本文在 6 节“New frontiers”中提到了“Causal inference”,但仅作为展望。具体地,如何为个体处理效应(ITE)构造具有有限样本覆盖保证的预测区间?这需要处理反事实的不可观测性和非随机处理分配。扎根点:本文 6 节“Causal inference”段落。
Maintained by 陈星宇 · Homepage · Source on GitHub