Conformal Prediction at Performative Equilibrium: The Price of Performativity¶
作者: Ahmed Mahrous, Roberto Di Pietro
主题: 因果推断
相关性: 6/10
链接: https://arxiv.org/abs/2611.05277
一、领域脉络与小综述¶
这个方向是什么¶
本文研究的根本问题是:当预测器的部署会反过来改变数据分布(performative prediction)时,共形预测(conformal prediction)的覆盖保证还能否成立? 传统共形预测的核心假设是校准数据与测试数据可交换(exchangeable),但 performative setting 中,部署预测器 f 会诱导新的分布 D(f),导致"训练—校准—测试"三阶段的数据分布不一致。本文关注的是在执行稳定点(performative equilibrium)处的覆盖保证:即当系统经过多轮重训练稳定后,预测集在 D(f*) 下是否仍能以 1−α 的概率覆盖真实标签。这个子方向处于分布偏移下的推断与博弈论视角的机器学习的交汇处,目前处于早期发展阶段——核心概念(performative stability)2019 年才被正式提出,而将共形预测引入该框架的工作更是 2024–2025 年才出现。
发展脉络¶
- 奠基工作:Perdomo et al. (2020) 提出 performative prediction 框架,定义了 performative stability(本文 Definition 2.1 直接引用)和 L-sensitivity(本文 Definition 2.2)。该工作证明了当 L<1 时重复重训练收敛到稳定点,但未涉及任何不确定性量化。
- 共形预测的分布偏移推广:Barber et al. (2023) 将共形预测推广到非可交换数据,给出加权共形预测的覆盖界;Gibbs and Candès (2021, 2024) 提出自适应共形推断(ACI),在任意分布漂移下维持长期覆盖。这些工作处理的是外生漂移,而非内生漂移(即预测器自身引起的分布变化)。
- performative 下的不确定性量化:Li et al. (2025) 提出 Performative Risk Control (PRC),校准标量阈值以控制期望风险,但不构造预测集,且其保证是逐轮的而非均衡处的。Csillag et al. (2025) 构造对最坏情况策略响应鲁棒的预测集,但不假设系统会收敛到均衡,因此集合过宽。Perdomo (2025) 证明 performative multicalibration 在无 Lipschitz 条件下也可实现,但 multicalibration 是概率校准而非集合覆盖。
- 本文位置:作者声称是第一个研究"在 performative equilibrium 处的共形预测覆盖"的工作,填补了"系统稳定后如何量化不确定性"这一空白。
子线索聚类¶
- Performative prediction 的优化与均衡理论(Perdomo et al., 2020; Mendler-Dünner et al., 2020; Izzo et al., 2021; Brown et al., 2022; Jagadeesan et al., 2022; Hardt et al., 2022):关注重训练收敛性、后悔界、performative power,不涉及推断。
- 分布偏移下的共形预测(Tibshirani et al., 2019; Barber et al., 2023; Gibbs and Candès, 2021, 2024; Oliveira et al., 2024):处理外生漂移,保证形式为加权覆盖或长期平均覆盖,不处理内生反馈。
- Performative 下的风险控制与鲁棒预测集(Li et al., 2025; Csillag et al., 2025):最接近本文,但分别只处理标量风险控制和最坏情况鲁棒性,均未针对均衡处的覆盖。
- 战略分类(Hardt et al., 2016; Dong et al., 2017; Milli et al., 2019; Miller et al., 2019; Levanon and Rosenfeld, 2021):作为 performative prediction 的特例,关注博弈论均衡,不涉及共形预测。
这个方向在追问的核心问题¶
- 均衡处的推断有效性:当系统稳定在 f* 后,能否用有限样本构造在 D(f*) 下有效的预测集?这是本文回答的问题。
- 反馈强度与可行性的边界:L 多大时推断问题从"困难"变为"不可能"?本文证明 L=1 是相变点。
- 重训练过程的样本复杂度:达到均衡附近需要多少轮、每轮多少样本?这影响总样本预算的分配。
- 与因果推断的联系:performative prediction 中预测器改变分布,与因果推断中"干预改变结果分布"在结构上相似——但本文未展开这一联系。
⚠️ 作者的 framing(这是作者的说法)¶
作者将缺口 frame 成:"现有 performative prediction 工作只关注风险最小化(找到稳定点),现有共形预测工作只处理外生漂移,而均衡处的覆盖保证是两者的自然交汇点,此前无人研究。" 作者淡化的竞争路线包括:(a) Csillag et al. (2025) 的最坏情况鲁棒预测集——作者认为其"过宽",但未讨论在 L<1 时是否可以通过均衡假设收紧;(b) Li et al. (2025) 的 PRC——作者指出其"不构造预测集",但未讨论 PRC 的标量风险控制是否可以推广到集合覆盖。值得注意:作者在 Related Work 中未引用任何关于"performative prediction 中的因果推断"的工作(如 performative 干预效应估计),这可能是一个被忽略的相邻文献。
张力¶
未见明显对立引用。但存在一个微妙的方法论张力:Barber et al. (2023) 的加权共形预测在非可交换数据下给出的是边际覆盖保证(对随机校准集取期望),而本文的均衡覆盖保证也是边际的(对样本取期望)。两者在"覆盖的对象"上一致,但本文的转移定理(Theorem 2.8)更强——它将预测器与均衡的距离直接转化为覆盖损失,这在 Barber et al. 的框架中没有对应物。
二、最核心、最简单的例子 / 数学问题¶
第一步:符号、模型、可观测数据¶
| 记号 | 含义 | 类型 |
|---|---|---|
| \(\mathcal{X}, \mathcal{Y}\) | 特征空间、标签空间 | 集合 |
| \(\mathcal{F}\) | 预测器类,\(f: \mathcal{X} \to \mathcal{Y}\) | 函数类 |
| \(D: \mathcal{F} \to \Delta(\mathcal{X} \times \mathcal{Y})\) | 分布映射:部署 f 诱导联合分布 D(f) | 结构性假设(未知) |
| \(L\) | 分布映射的 Lipschitz 常数:\(\mathrm{TV}(D(f), D(g)) \le L \cdot d_{\mathcal{F}}(f, g)\) | 参数(已知上界) |
| \(f^\star\) | 执行稳定点:\(f^\star = \arg\min_{f} \mathbb{E}_{(X,Y) \sim D(f^\star)}[\ell(f(X), Y)]\) | 参数(目标) |
| \(\hat{f}\) | 算法返回的预测器 | 随机变量(依赖于样本) |
| \(s(x,y;f)\) | 非一致性分数(nonconformity score),如 $ | y - f(x) |
| \(\hat{q}\) | 校准集上分数的 \((1-\alpha)\) 经验分位数 | 随机变量(依赖于校准集) |
| \(C_{\hat{f}}(x) = \{y : s(x,y;\hat{f}) \le \hat{q}\}\) | 预测集 | 随机集合 |
| \(n\) | 总样本预算 | 常数 |
| \(\alpha\) | 目标错误覆盖率 | 常数(如 0.1) |
| \(\epsilon\) | 预测器与均衡的距离:\(d_{\mathcal{F}}(\hat{f}, f^\star) \le \epsilon\) | 随机变量(算法保证) |
模型:存在一个未知的分布映射 \(D(\cdot)\),满足 \(L\)-敏感性(Lipschitz)。系统按如下方式运行:算法在每轮部署当前预测器 \(f_t\),从 \(D(f_t)\) 中采集 \(m\) 个样本,用 ERM 更新预测器。重复 \(T\) 轮。最终返回 \(\hat{f}\)(或尾平均 \(\bar{f}\)),并用独立的校准集(从 \(D(\hat{f})\) 采集)构造共形预测集。
可观测数据:研究者能观测到的是每一轮部署后采集的样本 \(\{(x_i, y_i)\}_{i=1}^{n_t} \sim D(f_t)\)。不可观测的是:分布映射 \(D(\cdot)\) 本身、均衡 \(f^\star\)、以及"如果部署其他预测器会得到什么分布"(反事实分布)。这是 performative setting 与标准分布偏移的本质区别:分布是预测器的函数,而预测器是数据的函数,形成反馈回路。
目标:构造预测集 \(C_{\hat{f}}\),使得在均衡分布 \(D(f^\star)\) 下,\(\mathbb{P}_{(X,Y) \sim D(f^\star)}(Y \in C_{\hat{f}}(X)) \ge 1 - \alpha\)。注意:校准是在 \(D(\hat{f})\) 下做的,而评估是在 \(D(f^\star)\) 下做的——两个分布不同,这正是困难所在。
第二步:最小内核¶
最简特例:设 \(\mathcal{X} = \{x_0\}\)(单点特征空间),\(\mathcal{Y} = \{0,1\}\)(二值标签),预测器类 \(\mathcal{F} = [0,1]\)(预测 \(P(Y=1)\) 的概率),损失为平方损失 \(\ell(\theta, y) = (\theta - y)^2\)。分布映射为
这个特例剥掉了什么:没有特征(\(X\) 恒定)、没有复杂的预测器类(标量 \(\theta\))、没有多轮动态(直接看均衡)。剩下的核心是:两个分布映射 \(D_0\) 和 \(D_1\) 在任意部署点 \(\theta\) 处都只相差 \(\delta\)(统计上难以区分),但它们的均衡点相差 \(\delta/(1-L)\)(决策上显著不同)。
为什么这是核心:在平方损失下,\(D_i\) 的风险最小化器是 \(\theta = a + i\delta + L\theta\),解得
证明怎么走:用 Le Cam 两点法。假设存在一个算法 \(\mathcal{A}\) 能同时保证两个环境下的覆盖和非平凡性。算法与 \(n\) 个样本交互,产生预测器 \(\hat{f}\)。由于两个环境在任意部署点的 KL 散度都 \(O(\delta^2)\),总 KL 散度 \(O(n\delta^2)\)。取 \(\delta = c/\sqrt{n}\),则总 KL 有界,Le Cam 引理给出:算法无法以高概率区分两个环境。但若算法在 \(D_0\) 下输出非平凡集(即 \(\{1\}\) 或 \(\{0\}\)),则在 \(D_1\) 下必然覆盖失败;反之亦然。因此算法必须在某个环境下失败,矛盾。
关键思想:反馈放大(feedback amplification)。统计误差 \(\delta\) 在均衡处被放大为 \(\delta/(1-L)\)。当 \(L \ge 1\) 时,放大因子发散,任何有限样本都无法应对——这就是相变。当 \(L < 1\) 时,放大因子有限,但样本复杂度被平方放大:要达到误差 \(\epsilon\),需要 \(n \sim 1/((1-L)^2 \epsilon^2)\)。
三、这篇论文做了什么¶
三句话¶
- 研究了什么问题:在 performative prediction 中,当预测器的部署改变数据分布时,能否构造在 performative equilibrium 处有效的共形预测集?在什么条件下可行、什么条件下不可能?
- 核心工具/方法:提出了一个转移定理(Theorem 2.8):任何返回与均衡距离 \(\epsilon\) 内预测器的算法,经 split-conformal 校准后,均衡覆盖至多损失 \(L\epsilon\) 的附加项。基于此,设计了两种重训练算法(模型无关的 MF-PCP 和参数化的 P-PCP),并证明了匹配的上下界。
- 主要结论:存在 L=1 处的相变——L≥1 时无有限样本算法能同时保证均衡覆盖和非平凡预测集;L<1 时,最小最大超额错误覆盖率为 \(\tilde{\Omega}(1/((1-L)\sqrt{n}))\),样本复杂度膨胀因子为 \(1/(1-L)^2\)。
关键设定与假设¶
- L-敏感性(Definition 2.2):\(\mathrm{TV}(D(f), D(g)) \le L \cdot d_{\mathcal{F}}(f,g)\)。这是全文的核心假设,控制反馈强度。相比 Perdomo et al. (2020) 的假设,本文不要求分布映射的凸性或可微性,只要求 Lipschitz。
- 可交换性假设的替代:传统共形预测要求校准与测试可交换;本文用"校准数据来自 \(D(\hat{f})\),测试数据来自 \(D(f^\star)\)"替代,并假设 \(\hat{f}\) 与 \(f^\star\) 的距离可控。
- 有限类假设(MF-PCP):\(|\mathcal{F}| = N < \infty\),且损失有界。这是为了用 ERM 的均匀收敛界。
- 参数化假设(P-PCP):\(\mathcal{F} \subseteq \mathbb{R}^d\) 凸,损失 \(\beta\)-光滑、\(\gamma\)-强凸,\(d_{\mathcal{F}}\) 为欧氏距离。这保证重训练映射的压缩性(\(\rho = L\beta/\gamma < 1\))。
- 非平凡性(Definition 2.6,\(\tau\)-informative):预测集必须至少以概率 \(\tau\) 排除一个标签。这是排除"全集"这个平凡解的必要条件。
- 未明确假设:作者未讨论 \(D(\cdot)\) 的可识别性——即从观测数据能否一致估计 \(D(f)\) 在任意 \(f\) 处的值。这是一个潜在弱点,因为算法需要估计 \(D(\hat{f})\) 来校准。
主要结果¶
定理 2.8(转移定理):若 \(\hat{f}\) 满足 \(d_{\mathcal{F}}(\hat{f}, f^\star) \le \epsilon\),则 split-conformal 校准后的预测集在 \(D(f^\star)\) 下的覆盖率为 \(1 - \alpha - L\epsilon\)。证明思路:覆盖率损失 = 校准分布与目标分布的 TV 距离 ≤ L·d(f̂, f*)。这个定理的价值在于解耦:优化(达到均衡附近)与推断(覆盖保证)可以分开分析。
定理 3.1(不可能性,L≥1):不存在有限样本算法能同时保证均衡覆盖和非平凡性。证明用两点构造(见第二节最小内核),关键步骤是:当 L=1 时,两个环境的均衡相距 \(O(1)\),但任意部署点的 KL 散度 \(O(1/n)\),Le Cam 引理给出区分下界。
定理 3.2(最小最大下界,L<1):\(\tau\)-informative 算法的超额错误覆盖率至少 \(\tilde{\Omega}(1/((1-L)\sqrt{n}))\)。证明同样用两点法,但扰动 \(\delta\) 取为 \(c/\sqrt{n}\),均衡差距为 \(\delta/(1-L)\)。
定理 4.1(MF-PCP 上界):在有限类、有界损失、L<1 下,MF-PCP 达到 \(\tilde{O}(1/((1-L)^{3/2}\sqrt{n}))\)。额外 \((1-L)^{-1/2}\) 因子来自多轮重训练的样本分割。
定理 4.4(P-PCP 上界):在光滑强凸下,P-PCP 达到 \(\tilde{O}(1/((1-L)\sqrt{n}))\),匹配下界(至多对数因子)。关键技巧是尾平均:先稳定 \(\log n/(1-\rho)\) 轮,再平均后续轮次,利用 AR(1) 自相关结构降低方差。
证明路线与技术技巧¶
整体路线(以 P-PCP 为例): 1. 压缩性:利用 \(\beta\)-光滑、\(\gamma\)-强凸和 L-敏感性,证明重训练映射 \(T(\theta) = \arg\min_\theta \mathbb{E}_{D(\theta)}[\ell(\theta, Y)]\) 是 \(\rho = L\beta/\gamma\) 压缩的。 2. 稳定化:前 \(B = O(\log n / (1-\rho))\) 轮使 \(\|\theta_t - \theta^\star\| \le \tilde{O}(1/\sqrt{n})\)。 3. 尾平均:对后续 \(K\) 轮的 \(\theta_t\) 取平均,利用鞅差序列的方差缩减,得到 \(\|\bar{\theta} - \theta^\star\| = \tilde{O}(1/((1-\rho)\sqrt{n}))\)。 4. 转移:用定理 2.8 将预测器误差转化为覆盖损失。
关键技巧: - Le Cam 两点法:构造两个统计上不可区分的环境,但要求不同的输出。这是证明下界的标准工具,但本文的构造巧妙之处在于让两个环境的均衡点恰好落在目标覆盖率的边界两侧。 - AR(1) 自相关分析:重训练迭代 \(\theta_t\) 形成一阶自回归过程,尾平均的方差分析利用了 \(\sum_{t,s} \rho^{|t-s|}\) 的收敛性。 - 误差分解:将总误差分解为初始化误差(\(\rho^B\))和统计误差(\(1/\sqrt{m}\)),再分别控制。
真实例子与应用¶
半合成信用评分实验(Section 5.1):使用 Kaggle "Give Me Some Credit" 数据集,构造战略回归任务。借款人根据贷款审批规则调整行为(如增加信用额度使用率),从而改变违约分布。实验显示: - 当操纵强度 \(\epsilon\) 增大时,朴素 split-conformal 的覆盖率从 90% 降至约 60%; - P-PCP 在 \(\epsilon\) 较小时保持接近 90% 的覆盖率,但在 \(\epsilon\) 接近相变点时覆盖率急剧下降; - 预测集宽度随 \(\epsilon\) 增大而增大,反映了"价格"。
合成实验(Section 5.2):验证了三个理论预测:(1) 超额覆盖率随 \(1/\sqrt{n}\) 衰减;(2) 随 \(1/(1-L)\) 线性增长;(3) L=1 处的相变行为。
🔎 结论是否比证明窄¶
- 定理 3.1 的表述:声称"无有限样本程序能同时保证均衡覆盖和非平凡性",但证明仅针对 L=1 的构造。对于 L>1,作者说"同样的构造适用",但未给出完整证明。这是一个证明与结论之间的缝隙。
- 定理 3.2 的下界:仅在 \(\tau\)-informative 类上成立,且 \(\tau\) 的取值影响常数。作者在 Remark 中承认"下界构造不是最坏情况",但未讨论更紧的下界。
- 定理 4.4 的上界:要求 \(\rho = L\beta/\gamma < 1\),这比 L<1 更强(因为 \(\beta/\gamma\) 可能大于 1)。作者在 Remark 4.2 中承认"\(\beta/\gamma = O(1)\) 时匹配",但未讨论 \(\beta/\gamma\) 很大时的行为。
- 实验部分:半合成实验只验证了 L<1 的情形,未验证 L≥1 的相变(因为实验设计无法实现 L≥1 的反馈强度)。
四、开放问题¶
- L≥1 时的替代保证:当 L≥1 时,均衡覆盖不可能,但能否构造长期平均覆盖(如 Gibbs and Candès 2021 的 ACI 风格)?扎根于 Theorem 3.1 的"不可能"结论与 Section 7 的"减少 L 或改变均衡概念"建议之间的张力。
- 局部敏感性:L-敏感性是全局 Lipschitz 假设,过于粗糙。能否用局部 Lipschitz(在均衡附近)或方向性敏感性(只关心某些预测器变化方向)获得更紧的界?扎根于 Definition 2.2 的全局假设。
- 非参数/高维扩展:P-PCP 要求参数类、光滑强凸。能否推广到非参数类(如 RKHS)或高维稀疏类?扎根于 Theorem 4.4 的假设。
- 因果解释:performative equilibrium 与因果推断中的"策略干预"有何联系?能否用工具变量或代理变量识别 D(f) 的反事实分布?扎根于 Section 2.5 的战略分类讨论,但作者未展开因果视角。
- 自适应校准:能否将 ACI 的在线学习思想引入 performative setting,在不知道 L 的情况下自适应调整校准阈值?扎根于 Section 6 对 Gibbs and Candès 的讨论,但作者未提出结合方案。
- 计算复杂性:P-PCP 每轮需要 ERM,总计算量随轮数线性增长。是否存在更高效的"一次性"算法?扎根于 Algorithm 2 的迭代结构。
验证建议:要确认这些是否真 gap,建议去读 2024–2025 年 performative prediction 与 uncertainty quantification 交叉方向的近期论文(如 NeurIPS/ICML 上的 performative 风险控制、分布鲁棒共形预测),看是否有工作已经开始处理上述问题。
Maintained by 陈星宇 · Homepage · Source on GitHub