跳转至

Smoothed nested testing on directed acyclic graphs

作者: J H Loper, L Lei, W Fithian, W Tansey
来源: Biometrika
主题: 数理统计 / 假设检验
相关性: 6/10
链接: 期刊页 · arXiv

一、领域脉络与小综述

这个方向是什么

这个子方向解决的根本问题是：当多重假设检验中存在已知的逻辑嵌套结构（即一个假设为真/假蕴含了其他假设的真/假状态）时，如何设计检验程序，使其既能严格遵循这种逻辑约束（例如，拒绝一个节点必须同时拒绝其所有祖先节点），又能比忽略该结构的“扁平”方法（如标准BH）获得更高的检验功效。 该方向当前处于“方法成熟但理论边界尚待探索”的阶段：已有若干针对特定结构（树、链、DAG）和特定错误率（FWER、FDR）的算法，但缺乏一个统一的、能同时处理多种错误率控制且能利用图结构信息提升功效的通用框架。

发展脉络（history）

  1. 奠基工作：逻辑约束下的多重检验与闭合原则

    • Holm (1979)：提出了经典的Bonferroni-Holm逐步拒绝程序，是FWER控制的基础。本文引用它作为“闭合原则”的一个早期实例。
    • Goeman & Solari (2010)：系统阐述了“序贯拒绝原则”（Sequential Rejection Principle），指出许多FWER控制方法（包括Holm、Hochberg、gatekeeping等）都可以统一在该框架下。这为后续在图上进行序贯检验提供了理论基础。本文引用它来定位自己的方法在“序贯拒绝”谱系中的位置。
    • Vovk & Wang (2012)：研究了通过平均化p值来合并它们的方法，并提出了一个基于闭合原则的Bonferroni-Holm变体。本文明确指出，他们的“后代平滑”用于FWER控制的思想可以追溯到这项工作。

  2. 主要进展：从树到DAG的FDR控制

    • Bogomolov et al. (2017)：将问题扩展到树结构，提出了一个序贯程序，能在多个分辨率水平上控制错误率。本文将其作为树结构检验的代表性工作。
    • Ramdas et al. (2019)：提出了DAGGER算法，这是第一个线性时间、单遍扫描的DAG上FDR控制方法。它通过扩展BH程序到DAG，在p值独立、正相关或任意相关下都能控制FDR。本文将其作为DAG上FDR控制的基准方法，并指出其与自己的平滑方法可以结合。

  3. 当前Frontier：利用辅助信息（side information）提升功效

    • Scott et al. (2015), Xia et al. (2017), Tansey et al. (2018), Lei & Fithian (2018), Li & Barber (2019)：这一系列工作（如AdaPT, NeuralFDR, Black Box FDR, SABHA）关注如何利用协变量等辅助信息来学习每个假设的先验概率，从而自适应地将检验功效集中在更可能为真的备择假设上。本文将自己的“平滑”方法定位为一种利用图结构这一特殊“辅助信息”的方式，与这些方法互补。

  4. 本文的位置：本文试图填补一个空白：没有一个通用框架能同时处理DAG上的FWER、FDX和FDR控制，并能通过一个统一的“平滑”操作来利用图结构信息提升功效。 它提出的框架将“选择程序”（决定拒绝哪些节点）与“平滑程序”（调整节点级检验统计量）解耦，并证明了在特定条件下，这种解耦是有效的。

子线索聚类

  1. 逻辑约束下的错误率控制方法：这是核心线索，关注如何设计算法来满足“拒绝节点必须拒绝其祖先”的约束。

    • FWER控制：Holm (1979), Goeman & Solari (2010), Meijer & Goeman (2015)（本文引用的FWER基准方法）。
    • FDR控制：Ramdas et al. (2019) (DAGGER), Benjamini & Hochberg (1995) (BH, 作为无结构时的基准)。
    • FDX控制：Genovese & Wasserman (2006)（本文引用的FDX基准方法，其算法被本文扩展到了DAG）。
    • 通用框架：Lei et al. (2017) (STAR框架)，它提供了一个交互式协议来处理通用结构约束，包括DAG。

  2. 利用辅助信息/数据自适应提升功效：这条线索关注如何利用数据本身或外部信息来“学习”哪些假设更可能为真，从而更有效地分配检验功效。

    • 协变量/特征：Scott et al. (2015) (FDR回归), Xia et al. (2017) (NeuralFDR), Tansey et al. (2018) (Black Box FDR), Lei & Fithian (2018) (AdaPT), Li & Barber (2019) (SABHA)。
    • 图结构：本文提出的“平滑”方法，利用DAG的后代关系来调整统计量，属于这一线索的一个特例。

  3. p值合并与组合方法：这是更基础的统计工具，为“平滑”提供了数学基础。

    • 平均化：Vovk & Wang (2012), Heard & Rubin-Delanchy (2017)。
    • 柯西组合：Liu & Xie (2018)。
    • 可容许性：Vovk et al. (2020)。

这个方向在追问的核心问题

  1. 如何设计一个通用的、可证明的框架，使其能同时处理DAG上的FWER、FDX和FDR控制？ 现有方法（如DAGGER）主要针对FDR，而FWER和FDX的方法则更零散。
  2. 如何在不破坏错误率控制的前提下，有效地利用DAG的结构信息来提升检验功效？ 这是本文的核心贡献。关键在于“平滑”操作是否以及如何与不同的选择程序兼容。
  3. 当检验统计量之间存在依赖关系时，上述框架是否仍然有效？ 独立假设是许多多重检验方法的基础，但现实数据中依赖普遍存在。本文部分回答了这个问题（正相关正态观测）。
  4. 如何将图结构信息与协变量信息（如AdaPT）结合起来？ 本文的平滑方法利用的是图结构，而AdaPT等方法利用的是外部协变量。两者是正交的，如何结合是一个开放问题。

⚠️ 作者的framing

  • 作者把缺口frame成什么？ 作者将缺口frame为：现有方法要么只针对特定错误率（如DAGGER只做FDR），要么只针对特定图结构（如树），要么没有利用图结构信息来提升功效（如直接将BH应用于所有节点）。他们声称自己的框架是“通用的”（unified），能同时处理FWER、FDX和FDR，并且通过“平滑”这一简单操作就能利用图结构信息。
  • 哪些竞争路线被他淡化或回避了？
    • STAR框架 (Lei et al., 2017)：作者承认STAR是一个“通用框架”，但指出它“需要交互式协议”，而自己的方法是“非交互式的、单遍的”。这暗示STAR可能更复杂或计算成本更高。作者没有深入比较两者在功效或适用性上的差异。
    • DAGGER (Ramdas et al., 2019)：作者将DAGGER定位为自己的一个“选择程序”组件（用于FDR控制），并声称平滑可以与之结合。这淡化了DAGGER本身已经是一个完整的、能控制FDR的DAG检验方法。作者没有讨论平滑是否总是能提升DAGGER的功效，或者在某些情况下可能有害。
    • 多层knockoff (Katsevich & Sabatti, 2017)：这是一个处理变量分组（类似于DAG的层次结构）的FDR控制方法，但基于knockoff框架。作者在引言中未提及，可能因为它解决的问题设定（变量选择）与本文（假设检验）不完全相同，但思想上有重叠。
  • 什么明显该被引/该存在、却没出现在intro里？
    • 关于“平滑”与“自适应检验”关系的更深入讨论：作者将平滑定位为一种利用“图结构”这一特殊辅助信息的方法。但引言中引用的自适应检验文献（AdaPT等）主要关注外部协变量。一个明显的缺失是，没有讨论当图结构信息与外部协变量信息同时存在时，如何结合两者。例如，能否将平滑后的统计量作为AdaPT的输入？
    • 关于“正相关正态观测”假设的局限性：作者证明了在正相关正态观测下，算术平均平滑能控制错误率。但这是一个很强的假设。引言中没有讨论当依赖结构更复杂（如任意相关、长尾分布）时，平滑方法是否仍然稳健，或者是否有其他平滑策略（如中位数、加权平均）能提供更好的鲁棒性。

张力

未见明显对立引用。所有被引工作都在不同设定下推进同一个目标：在结构约束下进行有效且错误率可控的多重检验。它们之间是互补关系，而非矛盾关系。

二、最核心、最简单的例子 / 数学问题

第一步：把符号、模型、可观测数据交代清楚

  • 符号：

    • G = (V, E)：一个有向无环图（DAG）。V是节点集，每个节点v ∈ V对应一个零假设H_v。E是有向边集，表示逻辑嵌套关系：如果u是v的祖先（ancestor），则H_u为真蕴含H_v为真；反之，H_v为假蕴含H_u为假。
    • Anc(v) / Desc(v)：节点v的所有祖先/后代节点集合（包括v自身）。
    • p_v：节点v的原始p值，来自对H_v的检验。这是可观测数据。
    • X_v：节点v的原始检验统计量（如z统计量）。p_v是X_v的函数。这也是可观测数据。
    • S：被拒绝的节点集合。逻辑约束要求：如果v ∈ S，则Anc(v) ⊆ S。即S必须是一个“上闭集”（upward-closed set）。
    • q_v：节点v的平滑后的p值或统计量。这是本文构造的新统计量。
    • R：基于平滑后统计量q_v，由某个“选择程序”决定的拒绝集。R也必须满足逻辑约束。
    • V(R)：错误拒绝的节点数（即R中真正零假设为真的节点数）。
    • FWER：P(V(R) ≥ 1)。
    • FDR：E[V(R) / max(|R|, 1)]。
    • FDX：P(V(R) / |R| > δ)，其中δ是一个预设的容忍比例。

  • 模型：

    • 每个节点v有一个潜在的真实状态：零假设H_v为真（无信号）或为假（有信号）。
    • 逻辑嵌套结构是已知且确定的，由DAG G完全刻画。它不是从数据中估计的。
    • 对于每个节点v，我们观测到一个检验统计量X_v（或等价的p值p_v）。在零假设H_v为真的条件下，X_v服从一个已知的零分布（如标准正态分布）。
    • 关键假设（用于理论证明）：
      1. 独立性假设（Theorem 1, 2, 3）：在零假设为真的节点集合V_0中，所有p_v（或X_v）是相互独立的。
      2. 正相关正态观测假设（Theorem 4, 5, 6）：所有X_v是联合正态的，且任意两个X_u和X_v的协方差Cov(X_u, X_v) ≥ 0。这个假设替代了独立性假设，用于证明算术平均平滑的有效性。

  • 可观测数据：

    • 研究者能观测到的是：DAG的结构G，以及每个节点v的检验统计量X_v（或p值p_v）。
    • 想要但观测不到的是：每个节点v的真实状态（零假设为真/假）。这是统计推断的目标。

第二步：讲最小内核

最简特例：一条链（Chain）上的FWER控制

考虑一个最简单的DAG：一条有K个节点的链，v_1 → v_2 → ... → v_K。逻辑约束是：如果拒绝v_k，必须拒绝所有v_1, ..., v_{k-1}。

  • 原始方法（Holm过程）：

    1. 将原始p值排序：p_{(1)} ≤ p_{(2)} ≤ ... ≤ p_{(K)}，对应的假设为H_{(1)}, ..., H_{(K)}。
    2. 从最小的p值开始，找到最大的j使得p_{(j)} ≤ α / (K - j + 1)。
    3. 拒绝H_{(1)}, ..., H_{(j)}。
    4. 问题：Holm过程完全忽略了链结构。它可能拒绝v_2而不拒绝v_1，这违反了逻辑约束。为了强制满足约束，一个简单的方法是只检验“最内层”的假设（即链的末端），但这会丢失信息。

  • 本文的平滑方法（以算术平均为例）：

    1. 构造平滑统计量：对于每个节点v_k，定义其平滑后的p值为其自身及其所有后代的原始p值的某种组合。最简单的组合是算术平均： q_k = (1 / (K - k + 1)) * (p_k + p_{k+1} + ... + p_K) 注意，对于链的末端节点v_K，q_K = p_K。
    2. 应用选择程序：现在，我们忽略链结构，将q_1, ..., q_K视为一组新的p值，并对其应用标准的Holm过程（或任何FWER控制程序）。
    3. 强制逻辑约束：最后，对Holm过程给出的拒绝集R，取其“上闭包”：即如果v_k ∈ R，则将所有祖先v_1, ..., v_{k-1}也加入拒绝集。由于平滑过程已经利用了后代信息，这个最终的拒绝集通常比直接对原始p值应用Holm过程并取上闭包要大得多。

  • 为什么这能提升功效？

    • 假设在链的末端v_K有一个很强的信号（p值很小），而它的祖先v_1, ..., v_{K-1}都是零假设（p值较大）。
    • 原始p值：p_K很小，但p_1, ..., p_{K-1}很大。Holm过程可能只能拒绝v_K，但为了满足逻辑约束，必须同时拒绝v_1, ..., v_{K-1}，这会导致FWER膨胀。因此，一个保守的做法是干脆不拒绝v_K。
    • 平滑后p值：q_K = p_K（很小）。q_{K-1} = (p_{K-1} + p_K)/2。由于p_K很小，q_{K-1}也会变小。同理，q_1也会因为p_K的贡献而变小。
    • 因此，平滑后的p值序列q_1, ..., q_K整体都变小了，使得Holm过程更容易拒绝它们。由于我们最后会取上闭包，拒绝v_1就意味着拒绝了整条链，从而发现了末端的信号。

  • 核心数学困难：平滑后的p值q_k不再是独立的，即使原始p值是独立的。因此，不能直接应用标准的多重检验程序。本文的核心理论贡献就是证明：在特定条件下（独立或正相关正态），对平滑后的统计量应用标准程序，仍然能控制目标错误率。 对于FWER，这依赖于平滑操作是“p值合并函数”的一种，而Holm过程对这类合并函数具有某种鲁棒性。

三、这篇论文做了什么

三句话

  1. 研究了什么问题：在有向无环图（DAG）结构约束下的多重假设检验问题，目标是控制FWER、FDX或FDR，同时利用图结构信息提升功效。
  2. 核心工具/方法：提出一个通用框架，将“选择程序”（决定拒绝哪些节点）与“平滑程序”（通过结合节点及其后代的信息来调整检验统计量）解耦。核心方法是“后代平滑”（descendant smoothing），即用节点自身及其所有后代的统计量的某种组合（如算术平均）来构造新的、更有效的统计量。
  3. 主要结论：在原始检验统计量独立于零假设的条件下，该平滑策略可与现有的FWER、FDX、FDR控制程序兼容，并保持错误率控制。对于正相关正态观测，算术平均平滑仍能控制所有三种错误率。模拟和真实数据应用显示平滑能显著提升检验功效。

关键设定与假设

  • 设定：

    • 一个已知的DAG G = (V, E)，每个节点v对应一个零假设H_v。
    • 逻辑约束：拒绝集S必须是上闭集。
    • 每个节点v有一个原始检验统计量X_v（或p值p_v）。
    • 目标：找到一个满足逻辑约束的拒绝集R，并控制FWER、FDX或FDR。

  • 假设：

    • Assumption 1 (零分布)：对于零假设为真的节点v，p_v在[0,1]上服从（或至少随机大于等于）均匀分布。这是p值有效性的标准假设。
    • Assumption 2 (独立性，用于Theorem 1-3)：所有零假设为真的节点的p值{p_v : v ∈ V_0}是相互独立的。
    • Assumption 3 (正相关正态，用于Theorem 4-6)：所有节点的原始检验统计量X_v服从联合正态分布，且任意两个统计量的协方差非负（Cov(X_u, X_v) ≥ 0）。此外，对于零假设为真的节点，X_v服从标准正态分布。
    • 平滑函数的性质：平滑函数f（将一组p值映射为一个新p值）需要满足某些单调性和有效性条件。例如，对于FWER控制，f需要是一个“有效的p值合并函数”（valid p-value merging function），即当所有输入p值在零假设下独立且均匀分布时，输出p值在零假设下也是（或随机大于等于）均匀分布。算术平均本身不满足这个性质，但经过适当的缩放（如乘以2，如Vovk & Wang, 2012所述）后可以。

主要结果

  • Theorem 1 (FWER控制)：在Assumption 1和2下，如果平滑函数f是一个有效的p值合并函数，那么对平滑后的p值应用任何FWER控制程序（如Holm过程），并取上闭包，所得的拒绝集能控制FWER。

    • 直觉：由于平滑函数是有效的，平滑后的p值在零假设下仍然是有效的p值。因此，任何能控制FWER的程序作用于这些平滑后的p值上，也能控制FWER。取上闭包只会增加拒绝，不会增加错误，因为如果祖先节点是真零假设，它被错误拒绝的概率已经被FWER程序控制住了。
    • 必要条件：平滑函数必须是有效的p值合并函数。算术平均不是，但2 * 平均是（Vovk & Wang, 2012）。

  • Theorem 2 (FDX控制)：在Assumption 1和2下，如果平滑函数f是一个有效的p值合并函数，那么对平滑后的p值应用Genovese & Wasserman (2006)的FDX控制程序（扩展至DAG），能控制FDX。

    • 直觉：与Theorem 1类似，关键在于平滑后的p值在零假设下是有效的。

  • Theorem 3 (FDR控制)：在Assumption 1和2下，如果平滑函数f是一个有效的p值合并函数，那么对平滑后的p值应用DAGGER (Ramdas et al., 2019)程序，能控制FDR。

    • 直觉：DAGGER本身是一个有效的FDR控制程序。将其应用于有效的平滑后p值，自然能控制FDR。

  • Theorem 4, 5, 6 (正相关正态下的控制)：在Assumption 3下，即使原始统计量不独立，使用算术平均作为平滑函数，上述三个定理（FWER, FDX, FDR控制）仍然成立。

    • 直觉：这是本文最深刻的理论贡献。关键在于，对于正相关的正态随机变量，它们的算术平均的分布尾部比独立情况更薄。这使得算术平均（未经缩放）成为一个“保守的”p值合并函数，从而保证了错误率控制。证明依赖于Slepian's lemma和正态分布的性质。
    • 技术难点：证明算术平均在正相关下是“保守的”p值合并函数。这需要证明P( (X_1 + ... + X_m)/m > c ) ≤ P( Z > c )，其中X_i是正相关的标准正态变量，Z是标准正态变量。

证明路线与技术技巧

  • 整体路线：

    1. 解耦：将问题分解为“平滑”和“选择”两步。先证明平滑后的统计量在零假设下是“有效的”（即其分布不比均匀分布更倾向于小值）。
    2. 有效性传递：证明任何有效的错误率控制程序（FWER, FDX, FDR）作用于有效的输入时，都能保持其控制性质。
    3. 上闭包：证明取上闭包的操作不会破坏错误率控制，因为错误拒绝的祖先节点本身也是错误拒绝，已经被程序控制住了。
    4. 处理依赖：对于正相关正态情况，专门证明算术平均平滑后的统计量是“保守有效的”。

  • 关键跳跃点：

    • 从独立到正相关正态：这是最大的跳跃。在独立情况下，证明依赖于“有效的p值合并函数”这一已知概念。在正相关正态下，需要证明一个新的、非平凡的概率不等式：正相关正态变量的算术平均的尾部比标准正态更轻。这个不等式的证明是本文理论的核心。
    • FDX控制的DAG扩展：将Genovese & Wasserman (2006)的FDX控制算法从无结构情况扩展到DAG，并证明其有效性，需要仔细处理DAG的层次结构和逻辑约束。

  • 技术技巧点名：

    • Slepian's lemma：用于比较正相关正态随机向量和独立正态随机向量的概率。这是证明正相关下算术平均保守性的关键工具。
    • p值合并函数理论：Vovk & Wang (2012) 的工作为理解不同合并函数的有效性提供了基础。本文直接引用了“2倍算术平均”是一个有效合并函数这一结论。
    • 闭合原则/序贯拒绝原则：Goeman & Solari (2010) 的框架为证明FWER控制提供了理论基础。
    • DAGGER算法：Ramdas et al. (2019) 的算法是本文FDR控制选择程序的基石。

真实例子与应用

  • 数据：来自Schiebinger et al. (2019) 的小鼠细胞重编程过程中的单细胞RNA测序（scRNA-seq）数据。
  • 场景：研究者构建了一个基因调控网络的DAG，其中节点代表基因或基因集，边代表调控关系。目标是识别在重编程过程中表达发生显著变化的基因或基因集（即拒绝相应的零假设）。逻辑约束是：如果一个基因集被识别为显著变化，那么其上游的调控基因也必须被识别为显著变化。
  • 方法应用：
    1. 对每个基因/基因集，计算一个原始p值（基于其表达量在时间点之间的变化）。
    2. 构建一个DAG来表示基因调控网络。
    3. 应用本文的平滑方法（算术平均平滑），得到平滑后的p值。
    4. 分别应用FWER控制（Meijer & Goeman, 2015）、FDX控制（本文的扩展算法）和FDR控制（DAGGER）程序。
  • 结果：
    • 与不使用平滑的基准方法相比，平滑方法在所有三种错误率控制下都发现了显著更多的显著基因/基因集。
    • 例如，在FWER控制下，平滑方法发现了约2倍的显著基因集。
    • 这些新发现的基因集在生物学上被验证与重编程过程相关，表明平滑方法不仅提升了统计功效，还发现了有生物学意义的结果。
  • 这个例子想说明什么：验证了本文提出的平滑方法在实际生物学数据分析中能带来实质性的功效提升，并且这些提升不是虚假的，而是能发现真实生物学信号的。

🔎 结论是否比证明窄

  • 是。论文的主要理论结果（Theorem 1-3）依赖于独立性假设（Assumption 2）。这是一个非常强的假设，在现实数据中几乎不可能满足。论文随后用Theorem 4-6处理了正相关正态这一特殊依赖结构，但这仍然是一个很强的参数化假设。
  • 论文的结论声称：“...so long as the original test statistics are independent under the null... When the null statistics are not independent, but are derived from positively correlated normal observations, we prove control...”
  • 比证明窄的地方：论文没有证明在更一般的依赖结构（如任意相关、长尾分布、混合依赖）下平滑方法的有效性。在引言和讨论中，作者承认这是一个限制，并指出“研究平滑方法在更一般依赖结构下的性质是一个重要的未来方向”。因此，论文的实际适用范围比其标题和摘要所暗示的“通用框架”要窄，它只在独立或正相关正态这两个特定（且理想化）的设定下被严格证明。

四、开放问题

  1. 更一般的依赖结构：本文的核心理论依赖于独立性或正相关正态假设。一个直接且重要的开放问题是：对于任意依赖结构（如负相关、长尾分布、混合依赖），是否存在一种通用的平滑策略（或对现有策略的修正）能同时保证错误率控制和功效提升？ 这扎根于论文的Limitations部分（“extending our results to more general dependence structures is an important direction for future work”）。

  2. 最优平滑函数的选择：本文主要研究了算术平均平滑。但理论上，任何有效的p值合并函数都可以作为平滑函数。对于给定的DAG结构和信号模式，是否存在一个“最优”的平滑函数（例如，在最小化某个风险函数的意义上）？ 这扎根于论文中“a broad class of smoothing strategies can be used”这一说法，但并未给出选择指南。

  3. 与自适应检验方法的结合：本文的平滑方法利用的是图结构信息，而AdaPT等方法利用的是外部协变量信息。如何将这两种正交的信息源结合起来，设计一个既能利用图结构又能利用协变量的、更强大的多重检验程序？ 这扎根于论文引言中引用了自适应检验文献，但未讨论两者结合。

  4. 计算复杂度与图结构的关系：对于非常复杂的DAG（如节点数巨大、边稠密），计算每个节点的平滑统计量（需要遍历所有后代）可能计算量很大。能否利用图论中的树宽（treewidth）或张量网络收缩（tensor network contraction）等概念，来刻画平滑过程的计算复杂度，并设计更高效的算法？ 这直接连接了研究者的技术武库（higher-order U-statistics, treewidth / tensor contraction / einsum），是一个值得探索的方向。

Maintained by 陈星宇 · Homepage · Source on GitHub

评论