跳转至

Conformal inference for cell-type annotation with graph-structured constraints

作者: Daniela Corbetta, Livio Finos, Ludwig Geistlinger, Davide Risso
来源: Journal of the Royal Statistical Society Series C
主题: 数理统计 / 假设检验
相关性: 6/10
机构绿灯: Harvard University(US News 前 50,免分进入精读)
链接: 期刊页 · arXiv


一、领域脉络与小综述

这个方向是什么

本文所处的子方向是分布自由的(distribution-free)不确定性量化,具体聚焦于带结构化约束的共形预测(conformal prediction with structured constraints)。其根本的统计问题是:在分类任务中,如何构造一个预测集(prediction set),使得该集合在有限样本下以至少 \(1-\alpha\) 的概率包含真实标签,同时利用标签之间的先验结构(如本体论中的层级关系)来提升预测集的可解释性和语义连贯性。该方向的成熟度处于快速上升期:共形预测的理论框架(split conformal、full conformal)已相当成熟,但将其推广到结构化标签空间(如图、树、本体)仍是活跃的研究前沿,且应用驱动明显(单细胞转录组学、医学影像、NLP等)。

发展脉络

  • 奠基工作:共形预测框架。Vovk et al. (2005) 的《Algorithmic Learning in a Random World》奠定了共形预测的理论基础,其核心思想是利用"非符合度分数"(nonconformity score)的秩次来构造预测集,在交换性假设下获得有限样本覆盖保证。这一框架是后续所有工作的基石。
  • 计算可行化:Split conformal / Inductive conformal。Papadopoulos et al. (2002) 提出 inductive conformal prediction,将数据划分为训练集和校准集,避免了 full conformal 的巨额计算开销,使方法可扩展到实际问题。Vovk (2012) 进一步研究了 inductive conformal 的条件覆盖性质,给出了覆盖率的精确分布(Beta 分布),为校准集大小的选择提供了理论依据。本文引用了 Vovk (2012) 的 Beta 分布结果(式 4),用于指导校准集大小的选择。
  • 风险泛化:Conformal Risk Control。Angelopoulos et al. (2022) 将共形预测从控制"误覆盖概率"推广到控制任意单调损失函数的期望,提出了 conformal risk control 框架。这一推广的关键在于:损失函数只需关于集合大小参数 \(\lambda\) 单调递减,即可通过校准数据选择 \(\hat{\lambda}\) 来保证风险上界。本文的核心算法正是建立在这一框架之上。
  • 应用驱动:单细胞转录组学中的细胞类型注释。在生物信息学领域,细胞类型预测通常依赖参考数据集(reference-based),代表性方法包括 SingleR (Aran et al., 2019)、Azimuth (Hao et al., 2021) 等。这些方法输出点预测,缺乏不确定性量化。Khatri and Bonn (2022) 首次将共形预测引入单细胞标签转移,但仅限于标准共形分类,未利用细胞本体论的结构信息。Sun et al. (2023) 的 TISSUE 方法进一步探索了空间转录组学中的不确定性校准,但同样未涉及图结构约束。
  • 本文的位置:在上述脉络中,本文填补的缺口是将图结构约束(细胞本体论)纳入共形风险控制框架,使得预测集不仅具有覆盖保证,还满足语义一致性(即集合中的标签在图上有共同的祖先)。同时,本文针对标签分布偏移(label shift)提出了一种重采样策略,扩展了方法在非交换性场景下的适用性。

子线索聚类

被引文献大致可归为三条子线索:

  1. 共形预测的理论与方法(Vovk et al., 2005; Papadopoulos et al., 2002; Vovk, 2012; Angelopoulos et al., 2022; Angelopoulos and Bates, 2021):这条线索关注如何构造具有有限样本保证的预测集,核心工具是秩次统计量和分位数估计。其已知瓶颈在于:交换性假设在分布漂移时被破坏,且预测集的可解释性(如集合内标签的语义关系)未被考虑。
  2. 单细胞数据整合与注释(Stuart et al., 2018; Hao et al., 2020; Korsunsky et al., 2019; Haghverdi et al., 2018; Aran et al., 2019; Zhang et al., 2019; Sun et al., 2023):这条线索关注如何从参考数据集中将标签转移到新数据,核心挑战是批次效应和分布偏移。已知瓶颈是缺乏对预测不确定性的形式化刻画。
  3. 生物本体论与结构化标签(Diehl et al., 2016):这条线索提供领域知识(细胞类型之间的层级关系),但尚未与不确定性量化方法深度结合。

这个方向在追问的核心问题

  1. 如何在不牺牲覆盖保证的前提下,利用标签结构提升预测集的可解释性? 标准共形分类产生的预测集可能包含语义上无关的标签(如同时包含 T 细胞和上皮细胞),而图结构约束可以强制集合在语义上连贯。
  2. 如何在分布偏移(尤其是标签偏移)下维持覆盖保证? 交换性假设是共形预测的基石,但实际应用中训练与测试分布往往不同。本文的重采样策略是对这一问题的一种实用回应。
  3. 如何选择校准集大小以平衡覆盖稳定性与计算成本? 这是一个工程与理论交叉的问题,本文利用 Beta 分布给出了实用建议。

⚠️ 作者的 framing

作者将缺口 frame 为:"标准共形分类方法在单细胞转录组学中尚未被充分利用,且忽略了细胞本体论中编码的标签间关系;同时,标签偏移问题在现有共形框架中未被充分解决。" 因此,本文的贡献被定位为:(1) 将图结构约束纳入共形风险控制;(2) 提出针对标签偏移的重采样策略。作者淡化了以下竞争路线:(a) 基于深度学习的贝叶斯不确定性量化(如 MC-Dropout、Deep Ensembles),这些方法缺乏有限样本保证;(b) 层次分类的确定性方法(如 Bernstein et al., 2021),这些方法不提供覆盖保证。作者将本文与这些路线的区别归结为"形式化的有限样本保证 + 结构一致性"。

张力

未见明显对立引用。但值得注意的是,Vovk (2012) 的 Beta 分布结果是在交换性假设下推导的,而本文的重采样策略试图在标签偏移下恢复覆盖,这两者之间存在一种微妙的张力:重采样策略的有效性依赖于对标签偏移的估计精度,而这一估计本身可能引入新的不确定性。作者在文中承认了这一局限,但未给出理论上的定量刻画。


二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据

  • 可观测数据:\(\{(X_i, Y_i)\}_{i=1}^m\),其中 \(X_i \in \mathbb{R}^p\) 是基因表达向量(p 维),\(Y_i \in \{1, \dots, K\}\) 是细胞类型标签。数据被划分为训练集(\(\{(X_i, Y_i)\}_{i=n+1}^m\))和校准集(\(\{(X_i, Y_i)\}_{i=1}^n\))。测试集为未标注的新观测 \(X_{\text{new}}\)。
  • 模型:分类器 \(\hat{f}: \mathbb{R}^p \to [0,1]^K\),输出每个类别的估计概率。\(\hat{f}\) 在训练集上拟合,可以是任意黑箱模型(如多分类逻辑回归、神经网络)。
  • 参数 / 估计目标:
  • \(\alpha \in (0,1)\):用户指定的误差率(如 0.1)。
  • \(\hat{q}\):校准分数的经验分位数(split conformal 中的关键量)。
  • \(\hat{\lambda}\):图结构方法中的阈值参数,控制预测集的大小。
  • \(C(X_{\text{new}}) \subseteq \{1, \dots, K\}\):预测集,是唯一的估计目标(estimand)。
  • 潜在 / 不可观测量:真实标签 \(Y_{\text{new}}\) 在预测时不可观测;数据生成分布 \(P\)(或 \(Q\),在标签偏移下)未知。共形预测的核心思想是:不需要估计 \(P\),只需利用校准集分数的秩次来构造覆盖保证。
  • 图结构:细胞本体论定义了一个有向无环图(DAG),节点代表细胞类型(包括中间节点和叶节点),边代表"is-a"关系。叶节点集合 \(N\) 对应分类器的输出类别。对于任意节点 \(v\),\(L(v)\) 表示 \(v\) 的所有叶节点后代。

第二步:最小内核

最小内核:在标签是二分类(\(K=2\))且图结构是一条链(即 \(A \to B\),其中 \(A\) 是祖先,\(B\) 是叶节点)的特殊情况下,图结构共形预测退化成什么?

  • 退化后的设定:类别只有两个:\(B\)(叶节点)和 \(A\)(祖先节点)。分类器输出 \(\hat{f}(x) = (\hat{f}_A(x), \hat{f}_B(x))\),其中 \(\hat{f}_A(x) + \hat{f}_B(x) = 1\)。预测的叶节点是 \(\hat{y}(x) = \arg\max\{\hat{f}_A(x), \hat{f}_B(x)\}\)。
  • 图结构分数:对于节点 \(v\),分数 \(g(v, x) = \sum_{i \in L(v)} \hat{f}_i(x)\)。在这个二分类链的例子中:
  • \(g(B, x) = \hat{f}_B(x)\)
  • \(g(A, x) = \hat{f}_A(x) + \hat{f}_B(x) = 1\)
  • 预测集构造:给定阈值 \(\lambda\),算法找到最小的祖先 \(v\) 使得 \(g(v, x) \geq \lambda\),然后输出 \(C_\lambda(x) = L(v)\)。
  • 如果 \(\lambda \leq \hat{f}_B(x)\),则 \(v = B\),\(C_\lambda(x) = \{B\}\)(精确预测)。
  • 如果 \(\hat{f}_B(x) < \lambda \leq 1\),则 \(v = A\),\(C_\lambda(x) = \{A, B\}\)(模糊预测,即"非 A 即 B")。
  • 如果 \(\lambda > 1\),则 \(C_\lambda(x) = \emptyset\)(空集,实际中不会发生,因为 \(\lambda\) 由校准集限制在 \((0,1]\))。
  • 风险控制:损失函数 \(L_i(\lambda) = \mathbf{1}(Y_i \notin C_\lambda(X_i))\)。当 \(Y_i = B\) 时,若 \(\lambda > \hat{f}_B(X_i)\),则损失为 1;当 \(Y_i = A\) 时,由于 \(A\) 是祖先,\(Y_i \in C_\lambda(X_i)\) 恒成立(因为 \(C_\lambda\) 总是包含 \(A\) 的后代),损失恒为 0。因此,风险函数 \(R(\lambda) = P(Y = B, \hat{f}_B(X) < \lambda)\),这是一个关于 \(\lambda\) 的单调递增函数。
  • 为什么这个例子是核心:它揭示了图结构共形预测的本质——通过向上移动(从叶节点到祖先),将"不确定的叶节点预测"转化为"确定的祖先预测"。风险控制的关键在于:损失函数关于 \(\lambda\) 单调,因此可以通过校准集上的经验风险来选择 \(\hat{\lambda}\),从而保证 \(E[L_{\text{new}}(\hat{\lambda})] \le \alpha\)。这个例子剥离了 DAG 的复杂性(多分支、多层级),直接展示了方法的核心机制:用语义层级换取覆盖保证。

三、这篇论文做了什么

三句话

  1. 研究了什么问题:在单细胞转录组学的细胞类型注释中,如何构造既满足有限样本覆盖保证(\(1-\alpha\))又符合细胞本体论语义结构的预测集,并处理训练与测试数据之间的标签分布偏移。
  2. 核心工具 / 方法:将图结构约束嵌入 conformal risk control 框架,通过定义基于本体论祖先的分数 \(g(v, x)\) 和相应的预测集构造算法,保证预测集的语义一致性;同时提出一种基于重采样的标签偏移校正策略。
  3. 主要结论:在 MERFISH 小鼠回肠数据集和 COVID-19 患者 B 细胞数据集上,图结构方法在保持覆盖保证的同时,显著提升了预测集的语义可解释性(集合内标签的图距离更短),且重采样策略能有效校正标签偏移导致的覆盖偏差。

关键设定与假设

  • 数据设定:参考数据集(训练 + 校准)与目标数据集(测试)来自不同实验批次或不同患者。分类器 \(\hat{f}\) 在训练集上拟合,输出叶节点类别的概率。
  • 图结构假设:细胞本体论是一个 DAG,叶节点集合 \(N\) 与分类器的输出类别一一对应。每个叶节点有唯一的祖先路径。
  • 核心假设 1(交换性):校准集与测试集在校正后满足交换性。在无偏移时,这是标准假设;在标签偏移下,作者通过重采样构造一个"伪校准集",使其标签分布与测试集近似,从而恢复交换性。
  • 核心假设 2(分数单调性):损失函数 \(L_i(\lambda)\) 关于 \(\lambda\) 单调非增。这是 conformal risk control 的通用假设,本文的图结构构造保证了这一点。
  • 核心假设 3(预测一致性):分类器 \(\hat{f}\) 是"预测一致的"(predictively consistent),即随着训练样本量增大,\(\hat{f}\) 的概率估计收敛到真实条件概率。这是重采样策略的理论基础——只有分类器足够好,估计的测试集标签分布才可靠。
  • 相比已有文献的放宽/强化:相比 Khatri and Bonn (2022) 的标准共形分类,本文强化了输出结构(要求语义一致性);相比 TISSUE (Sun et al., 2023),本文放宽了对空间信息的依赖(不要求空间坐标),且显式处理了标签偏移。

主要结果

  • 理论结果:作者证明,在交换性假设下,图结构预测集满足 \(P(Y_{\text{new}} \notin C_{\hat{\lambda}}(X_{\text{new}})) \le \alpha\)(有限样本、分布自由)。在标签偏移下,若重采样估计的标签分布一致收敛于真实测试分布,则校正后的预测集渐近达到覆盖保证。
  • 实证结果(MERFISH 数据集):
  • 标准 split conformal 的覆盖率 0.910,图结构方法 0.912,均达到名义水平 0.9。
  • 图结构方法的平均预测集大小 3.938,大于标准方法的 1.863(这是语义一致性的代价)。
  • 关键优势:图结构方法输出的集合内标签平均最短路径距离为 1.148,显著低于标准方法的 1.616,表明集合内标签在语义上更相关。
  • 对排除的细胞类型(Myenteric Plexus 和 Removed),图结构方法产生全包含集合(15 个标签)的比例分别为 0.516 和 0.691,而标准方法从不产生全包含集合,说明图结构方法能有效表达"未知"或"不属于参考集"的不确定性。
  • 实证结果(COVID-19 数据集):
  • 非校正方法覆盖率 0.948(conformal)和 0.966(graph),显著高于名义水平,表明过覆盖(标签偏移导致)。
  • 重采样校正后,覆盖率降至 0.930(conformal)和 0.915(graph),更接近名义水平 0.9。
  • 图结构方法将大量 plasmablast 和 IgG plasma cells 正确标注为叶节点,而将 IgA/IgM plasma cells 标注为更泛化的祖先节点(如 "antibody secreting cell"),体现了方法的生物学可解释性。

证明路线与技术技巧

  • 整体路线:
  • 构造分数:定义每个节点 \(v\) 的分数 \(g(v, x)\) 为叶节点概率之和。
  • 构造预测集:给定 \(\lambda\),找到最深的祖先 \(v\) 使得 \(g(v, x) \ge \lambda\),输出 \(C_\lambda(x) = L(v)\)。
  • 校准 \(\lambda\):在校准集上计算经验风险 \(\hat{R}_n(\lambda)\),选择 \(\hat{\lambda} = \inf\{\lambda: \hat{R}_n(\lambda) \le \alpha - (B-\alpha)/n\}\)(式 3)。
  • 证明覆盖:利用 conformal risk control 的通用引理(Angelopoulos et al., 2022),结合损失函数的单调性,得到有限样本覆盖保证。
  • 标签偏移校正:将测试集分为两半 \(S_1, S_2\),用 \(S_1\) 估计测试标签分布 \(\hat{q}(y)\),按此分布从校准集中重采样,构造"伪校准集",再对 \(S_2\) 计算预测集。交换 \(S_1, S_2\) 重复,合并结果。
  • 关键引理 / 技术难点:
  • 难点 1:保证预测集的嵌套性。为了应用 conformal risk control,需要 \(C_\lambda(x)\) 关于 \(\lambda\) 单调递增。作者通过"包含所有分数 \(\ge \lambda\) 的祖先的后代"这一构造,确保了嵌套性。这是图结构方法的核心技术贡献。
  • 难点 2:处理 DAG 中的多父节点。当节点有多个父节点时,"最深的祖先"定义不唯一。作者通过"分数最小的祖先"(即最不具体的祖先)来定义,保证了唯一性。
  • 难点 3:标签偏移下的重采样。重采样引入了额外随机性,作者通过两折交叉验证式的交换策略(\(S_1\) 估计、\(S_2\) 应用,再交换)来减少方差,并证明渐近有效性。
  • 技术技巧:使用了 Beta 分布(式 4)来刻画覆盖率的随机波动,为校准集大小选择提供理论指导;使用了图论中的"最近公共祖先"概念来定义语义距离。

🔎 结论是否比证明窄

  • 明确窄于证明的 claim:作者在摘要和引言中声称方法"增强预测集的解释性和一致性",但理论部分只证明了覆盖保证,并未对"解释性"给出定量刻画(如语义距离的期望上界)。"解释性提升"仅通过实证指标(平均最短路径距离)展示,缺乏理论支撑。
  • 渐近 vs 有限样本:标签偏移校正的覆盖保证是渐近的(依赖分类器一致性),而标准交换性情形下是有限样本精确的。作者在正文中对此区分不够醒目,读者可能误以为所有结果都是有限样本保证。
  • 重采样策略的适用条件:作者假设标签偏移是唯一的分布偏移来源(即 \(P(X|Y)\) 不变),但未讨论协变量偏移或概念漂移(concept drift)的情形。这一限制在正文中仅以"我们假设标签偏移模型"一笔带过,容易被忽略。

四、开放问题

  1. 理论缺口:图结构方法的有限样本保证是否在标签偏移下可推广? 作者的重采样策略仅给出渐近保证(依赖分类器一致性)。是否存在一种不依赖分类器一致性的有限样本校正方法?这扎根于正文第 3.1 节"重采样策略"的渐近论证。
  2. 计算复杂度:当本体论规模增大(如数千个节点)时,预测集构造算法的计算成本如何? 作者未提供算法复杂度分析。扎根于第 2.2 节"图结构预测集构造"的算法描述。
  3. 损失函数的选择:本文仅使用误覆盖损失(0-1 损失)。能否将图结构信息编码为更丰富的损失函数(如语义距离加权损失),并在 conformal risk control 框架下获得更紧的风险界? 扎根于第 2.2 节对 conformal risk control 的引用(Angelopoulos et al., 2022),该框架支持任意单调损失。
  4. 非交换性的一般化:本文仅处理标签偏移,但实际中协变量偏移和概念漂移同样常见。 扎根于第 3 节"分布偏移"的讨论,作者明确排除了其他偏移类型。
  5. 批次效应的交互:重采样策略与批次效应校正方法(如 Harmony、MNN)如何交互? 作者在引言中承认批次效应是单细胞数据的主要挑战,但未将重采样策略与批次效应校正方法结合。扎根于第 1 节引言对批次效应的讨论。

提示:若要确认上述某条是否为真 gap,建议检索近 3-5 年 conformal prediction 在结构化标签空间(hierarchical classification, structured prediction)方向的文献,特别是 ICML、NeurIPS、AISTATS 上的相关工作。若多篇近期论文都指向同一缺口(如"标签偏移下的有限样本保证"),则大概率是共识性 gap;若各论文的设定互不相同,则可能是尚未成型的碎片化问题,需要更谨慎地评估。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论