Spatial-Sign based High dimensional Change Point Inference¶

讲者: Long Feng
会场: Learning for Voice, Adversarials, Digital Twin and Changepoints
报告题目: Spatial-Sign Based High Dimensional Change Point Inference
链接: arXiv
来源: JCSDS 2026 · 返回会议总览

一、领域脉络与小综述¶

这个方向是什么¶

这个子方向解决的根本问题是：如何在高维数据（维度 p 随样本量 n 增长）中，检验是否存在一个未知的均值突变点（changepoint），并尽可能适应不同的信号模式（稀疏 vs. 密集）和噪声分布（轻尾 vs. 重尾）。当前成熟度较高，已有大量基于样本均值的 CUSUM 统计量及其各种聚合方法（max-L2, max-L∞, sum-L2, 自适应组合），但对重尾分布的鲁棒性不足，且自适应策略多局限于均值框架。

发展脉络¶

奠基工作：基于均值的 CUSUM 统计量及其极限分布
- Bai (2010); Horváth and Hušková (2012); Jin et al. (2016)：提出了 max-L2 型统计量 max_{1≤k≤n} ||C_0(k)||_2，并建立了其向高斯过程上确界的收敛性。这是高维变点检验的经典起点，但依赖于样本均值和轻尾假设。
- Jirak (2015)：提出了 max-L∞ 型统计量 max_{1≤k≤n} ||C_0(k)||_∞，并证明了其在特定相关性衰减条件下向 Gumbel 分布的收敛性。这为检测稀疏信号提供了工具，但同样受限于均值框架。
- Chan et al. (2013); Yu and Chen (2021); Wang and Feng (2023)：进一步改进了 max-L∞ 型统计量，引入了边界移除参数 λ_n，并分别通过 multiplier bootstrap 或直接推导 Gumbel 极限分布来逼近其零分布。Wang and Feng (2023) 在更弱的条件下建立了收敛性，并首次提出了结合 max-L∞ 和 sum-L2 型统计量的自适应策略。
主要进展：自适应策略与鲁棒性探索
- Liu et al. (2020); Zhang et al. (2022); Wang and Feng (2023)：提出了多种自适应策略，通过组合 L2 型和 L∞ 型统计量的 p 值（如 Fisher 组合、最小 p 值法），以应对未知的稀疏/密集信号模式。这些方法在正态或轻尾数据下表现良好，但所有方法均基于样本均值，对重尾分布不鲁棒。
- Matteson and James (2014); Lung-Yut-Fong et al. (2015)：在传统多元分析中引入了基于能量距离或秩的变点检验，但这些方法仅限于固定维度 p，无法处理 p 随 n 增长的高维情形。
当前 Frontier：鲁棒且自适应的变点推断
- 当前的前沿是开发同时具备双重鲁棒性的方法：既能适应不同的信号稀疏度，又能抵抗重尾噪声。本文（Liu, Feng, Peng, Wang, 2025）正是这一方向的直接推进。

本文的位置¶

本文是首次将空间符号（spatial sign）和空间中位数（spatial median）技术系统性地应用于高维变点推断。它填补了“鲁棒性”和“自适应性”之间的空白：在 Wang and Feng (2023) 的自适应框架基础上，用空间符号/中位数替代了样本均值，从而将适用性从轻尾分布扩展到重尾分布。作者声称这是“第一篇将空间符号技术应用于变点推断的论文”。

子线索聚类¶

基于均值的 CUSUM 统计量及其聚合：Bai (2010), Horváth and Hušková (2012), Jin et al. (2016), Jirak (2015), Chan et al. (2013), Yu and Chen (2021), Wang and Feng (2023)。这一簇是本文的直接竞争对手和基准。
基于秩/符号的鲁棒多元方法：Matteson and James (2014), Lung-Yut-Fong et al. (2015), Oja (2010), Zou et al. (2014), Wang et al. (2015), Feng et al. (2016), Cheng et al. (2023), Liu et al. (2024)。这一簇为本文提供了核心工具（空间符号、空间中位数）及其在高维位置检验中的理论保证。
自适应变点检测策略：Liu et al. (2020), Zhang et al. (2022), Wang and Feng (2023)。本文的自适应策略直接继承自 Wang and Feng (2023)，但将基础统计量替换为鲁棒版本。

核心问题与瓶颈¶

核心问题 1：如何构造一个对重尾分布鲁棒的 CUSUM 统计量？
核心问题 2：如何证明该鲁棒统计量的渐近零分布，并使其可计算（如收敛到 Gumbel 分布或高斯过程）？
核心问题 3：如何将鲁棒的 L∞ 型和 L2 型统计量组合成一个自适应检验，并证明其渐近独立性？
已知瓶颈：基于均值的统计量在重尾分布下性能急剧下降。基于秩的方法难以扩展到高维。证明两个都收敛到 Gumbel 型极限的统计量之间的渐近独立性，在技术上非常困难。

⚠️ 作者的 framing¶

作者把缺口 frame 成什么：作者将现有工作的主要缺口定位为“缺乏对重尾分布的鲁棒性”和“缺乏结合鲁棒性与自适应性的统一框架”。他们声称本文是“第一篇将空间符号技术应用于变点推断”，并“首次研究高维中两个 Gumbel 型极限分布之间的渐近独立性”。
哪些竞争路线被他淡化或回避了：作者淡化了基于均值的自适应方法（如 Wang and Feng, 2023）在正态数据下的优异性能，并回避了其方法在重尾数据下的失效程度。他们也没有深入讨论当信号强度很强时，空间符号/中位数的 Bahadur 表示会失效（见 Remark 12），这限制了其方法在强信号下的适用性。
什么明显该被引 / 该存在、却没出现在 intro 里：作者没有引用任何关于计算-统计权衡或低度多项式障碍的文献。虽然变点检测通常不被视为一个典型的“计算困难”问题，但高维变点检测的某些变体（如检测稀疏且微弱的信号）可能存在信息-计算缺口。这是一个值得研究者去查的问题。

张力¶

未见明显对立引用。所有被引工作基本沿着“均值框架 → 鲁棒框架”或“单一统计量 → 自适应组合”的线性路径发展，彼此之间没有根本性的矛盾结论。

二、最核心、最简单的例子 / 数学问题¶

第一步：把符号、模型、可观测数据交代清楚¶

符号：
- n: 样本量（时间序列长度）。
- p: 维度（变量个数）。
- X_i ∈ R^p: 第 i 个观测向量，i = 1, ..., n。
- θ_0 ∈ R^p: 基线均值向量（未知参数）。
- δ ∈ R^p: 变化信号向量（未知参数，在变点后生效）。
- τ ∈ {1, ..., n}: 变点位置（未知参数，τ = n 表示无变点）。
- ϵ_i ∈ R^p: 随机噪声向量，均值为 0。
- I(·): 指示函数。
- ||·||: 欧几里得范数。
- ||·||_∞: 最大范数（max_j |·_j|）。
- D: 一个 p × p 对角矩阵，用于标准化各维度尺度（未知，需估计）。
- U(x) = x / ||x||: 空间符号函数（当 x ≠ 0）。
- θ̂_{a:b}: 基于第 a 到 b 个样本估计的（空间）中位数向量。
- ζ_1 = E[||D^{-1/2}ϵ_i||^{-1}]: 一个关键的标量参数，出现在 Bahadur 表示中。
- R = D^{-1/2} Γ Γ^T D^{-1/2}: 形状矩阵（shape matrix），tr(R) = p。
模型：
- 均值变点模型：X_i = θ_0 + δ I(i > τ) + ϵ_i。
- 噪声模型：ϵ_i = ν_i Γ W_i，其中 W_i 是各分量独立、对称、子指数分布的随机向量，ν_i 是一个非负随机变量，与 W_i 的空间符号独立。这个模型涵盖了独立分量模型和椭圆分布族，允许重尾。
- 核心假设：θ_0 是 X_i 的总体空间中位数（在 H_0 下）。这保证了空间中位数是 θ_0 的相合估计。
可观测数据：
- 研究者能观测到的是序列 {X_i}_{i=1}^n，每个 X_i 是一个 p 维向量。
- 想要但观测不到的是：变点位置 τ、变化幅度 δ、基线均值 θ_0、噪声的分布和结构（ν_i, Γ, W_i 的分布）。所有推断都依赖于对噪声模型（2.1）和一系列假设（Assumptions 1-7）。

第二步：讲最小内核¶

本文的核心思路可以浓缩为以下最简特例：

最简特例：一维情形 (p=1) 且噪声为独立同分布。

模型退化：X_i = θ_0 + δ I(i > τ) + ϵ_i，其中 ϵ_i 是 i.i.d. 均值为 0 的随机变量。
空间符号退化：对于一维向量 x，空间符号 U(x) = sign(x)（即 x/|x|，当 x ≠ 0）。
空间中位数退化：空间中位数 θ̂_{a:b} 退化为样本中位数 median({X_i}_{i=a}^b)。
核心思路：
1. 构造鲁棒 CUSUM 统计量：传统均值 CUSUM 比较的是两段样本的均值。本文的鲁棒 CUSUM 比较的是两段样本的中位数。例如，对于 γ=0 的 max-L∞ 型统计量，其核心是 |θ̂_{1:k} - θ̂_{k+1:n}|。由于中位数对异常值不敏感，这个统计量在重尾分布下比均值 CUSUM 更稳定。
2. 高维推广：在一维中，我们比较中位数。在高维中，我们比较空间中位数（θ̂_{a:b}）。为了比较两个高维中位数向量，我们有两种方式：
  - L∞ 型：取两个向量差的最大绝对值分量，即 ||θ̂_{1:k} - θ̂_{k+1:n}||_∞。这擅长检测只有少数几个维度发生变化的稀疏信号。
  - L2 型：取两个向量差的欧几里得范数的平方，即 ||θ̂_{1:k} - θ̂_{k+1:n}||^2。这擅长检测所有维度都发生微小变化的密集信号。
3. 自适应组合：由于我们事先不知道信号是稀疏还是密集，本文构造了两个统计量（一个 L∞ 型，一个 L2 型），并证明它们在原假设下渐近独立。然后，用 Fisher 方法组合它们的 p 值，得到一个在所有信号模式下都表现良好的自适应检验。

这个最小内核揭示的核心数学困难是：证明基于空间中位数的 CUSUM 统计量的渐近分布。与样本均值不同，空间中位数没有显式表达式，其渐近性质依赖于一个复杂的 Bahadur 表示（见 Remark 4 和附录 B.2）。本文的大部分技术工作（如 Lemma S1-S12）都是为了处理这个表示中的余项，并证明其不影响极限分布。

三、这篇论文做了什么¶

三句话¶

研究了什么问题：在高维均值变点检验中，如何构造一个对重尾分布鲁棒且能自适应于不同信号稀疏度的检验方法。
核心工具 / 方法：基于空间中位数构造了 max-L∞ 型 CUSUM 统计量（用于稀疏信号），基于空间符号构造了 max-L2 型 CUSUM 统计量（用于密集信号），并利用它们的渐近独立性通过 Fisher 方法组合 p 值，形成自适应检验。
主要结论：推导了两种统计量在零假设下的渐近分布（Gumbel 或高斯过程），证明了它们的渐近独立性，并在局部备择假设下证明了自适应检验的一致性。模拟和真实数据表明，该方法在重尾分布下显著优于现有基于均值的方法。

关键设定与假设¶

模型：X_i = θ_0 + δ I(i > τ) + ϵ_i，噪声 ϵ_i 服从模型 (2.1)。
核心假设：
- Assumption 1 (子指数尾)：W_i 的分量是 i.i.d. 对称子指数随机变量。这保证了空间符号 U_i 具有指数型尾概率，是证明极值收敛的关键。
- Assumption 2 (半径矩)：R_i = ||D^{-1/2}ϵ_i|| 的负幂次矩存在，且 E[R_i^{-k}] ≍ p^{-k/2}。这防止了数据点过于集中在空间中位数附近，是 Bahadur 表示成立的必要条件。
- Assumption 3 (形状矩阵)：R = D^{-1/2}ΓΓ^T D^{-1/2} 满足 tr(R)=p，特征值有界，且 max_j Σ_ℓ |σ_{jℓ}| ≍ p^{1-η_0}。这控制了变量间的相关性，是建立极值收敛和 L2 型统计量极限分布的关键。
- Assumption 4 (分量相关性)：max_{j≠ℓ} |σ_{jℓ}| ≤ ϱ_0 < 1，且大部分变量之间的相关性很弱。这是比 Jirak (2015) 的对数衰减条件更弱的条件，用于证明 max-L∞ 型统计量的 Gumbel 收敛。
- Assumption 5 & 6 (L2 型统计量条件)：对 R 的特征值分布和 p 与 n 的关系施加了更强的约束（如 tr(R^4)/tr^2(R^2) = o(1)），以确保 L2 型统计量的极限分布是高斯过程或 Gumbel 分布。
- Assumption 7 (独立性条件)：R 的特征值有界且远离 0，且 max_j Σ_ℓ σ_{jℓ}^2 ≤ (log p)^{η_1}。这是证明 L∞ 型和 L2 型统计量渐近独立的最强假设。

主要结果¶

Theorem 1 (max-L∞ 型统计量的零分布)：在 Assumptions 1-4 下，M_{n,p} 和 M^†_{n,p} 的标准化版本依分布收敛到标准 Gumbel 分布。这是将 Wang and Feng (2023) 的均值结果推广到空间中位数，且证明更复杂（涉及多个依赖的中位数估计）。
Theorem 2 & 3 (max-L2 型统计量的零分布)：在 Assumptions 1-3 和 5/6 下，S_{n,p} 收敛到一个连续高斯过程的上确界，而 S^†_{n,p} 收敛到一个 Gumbel 分布（因子为 2）。这是空间符号版本的新结果。
Theorem 4 (渐近独立性)：在 Assumptions 1-3, 6-7 下，M_{n,p} 与 S_{n,p} 渐近独立，M^†_{n,p} 与 S^†_{n,p} 也渐近独立。这是本文的核心理论贡献之一，作者声称是“首次研究高维中两个 Gumbel 型极限分布之间的渐近独立性”。
Theorem 5 (局部备择下的独立性)：在局部备择假设 H_{1;n,p} 下，上述渐近独立性仍然成立。这为自适应检验在备择下的有效性提供了理论依据。
Proposition 1 & 2 (一致性)：给出了 max-L∞ 型和 max-L2 型检验在备择假设下一致性的条件（如 ||δ||_∞ ≥ C √(log p / n) 对于稀疏信号）。

证明路线与技术技巧¶

整体路线：
1. Bahadur 表示：首先，利用 Cheng et al. (2023) 和 Liu et al. (2024) 的结果，将空间中位数估计量 θ̂_{a:b} 近似表示为 U_i 的加权和加上一个可忽略的余项（Remark 4, Lemma S1）。这使得基于中位数的 CUSUM 统计量可以近似为基于空间符号 U_i 的线性统计量。
2. 近似为高斯问题：对于 max-L∞ 型统计量，通过一个耦合论证（Lemma S8, 附录 B.2），将 U_i 的分布近似为高斯分布 N(0, R/p)。然后，利用 Jirak (2015) 和 Wang and Feng (2023) 中关于高斯向量的极值理论，得到 Gumbel 极限。
3. L2 型统计量的极限：对于 max-L2 型统计量，将其表示为 U_i 的 U-统计量形式。利用鞅的 Skorokhod 嵌入表示（Lemma S3），将其弱收敛到一个 Wiener 过程，进而推导出高斯过程或 Gumbel 极限。
4. 渐近独立性：证明独立性的核心是条件独立论证（附录 B.4）。将高维向量 U_i 分解为“对 L∞ 型统计量有贡献的部分”（少数几个维度）和“对 L2 型统计量有贡献的部分”（剩余所有维度）。通过一个复杂的 Taylor 展开和矩估计，证明这两部分在给定条件下是渐近独立的，从而两个统计量也渐近独立。
关键跳跃点：
- 处理多个依赖的中位数估计：与 Liu et al. (2024) 只研究单个中位数不同，本文的统计量涉及 O(n) 个相互依赖的中位数估计 θ̂_{1:k}。证明这些估计的 Bahadur 表示的余项在取 max 后仍可忽略（附录 B.2 中的 E21, E22, E23 项）是第一个难点。
- 证明两个 Gumbel 型极限的独立性：这是本文最吃功夫的地方。Wang and Feng (2023) 证明的是一个 Gumbel 和一个正态极限的独立性，而本文需要处理两个 Gumbel 极限。附录 B.4 中的光滑化技术（F_β 函数）和复杂的 Taylor 展开（公式 S38, S39）是专门为此设计的。
技术技巧点名：
- Orlicz 范数 (||·||_{ψ_α})：用于控制 U_i 及其函数的尾概率，是证明极值收敛和矩估计的基础（Lemma S8, S11）。
- Hájek-Rényi 不等式：用于控制鞅差分的最大值（附录 B.3.2）。
- Skorokhod 嵌入表示：用于将 L2 型统计量的鞅差序列耦合到 Wiener 过程，从而推导其极限分布（Lemma S3）。
- 光滑化最大函数 (F_β)：用于将不可微的 max 函数替换为可微的 log-sum-exp 函数，从而可以应用 Delta 方法和 Taylor 展开来证明独立性（附录 B.4.2）。
- 条件独立分解：将高维向量分解为“关键维度”和“剩余维度”，利用条件分布（Lemma S5）来隔离两个统计量的依赖关系（附录 B.4.1, B.5）。

真实例子与应用¶

US stocks data (S&P 500)：
- 数据：2019年1月至2024年10月，486只股票的周收益率，经筛选后保留340只。
- 方法应用：应用所有提出的检验方法，计算 p 值。
- 结果：SCMS(0) 和 ZWS 方法显著（p < 0.05），而 DMS(0), DMS(0.5), LZZL 不显著。SMAX(0) 和 SMAX(0.5) 显著，但 SSUM(0) 和 SSUM(0.5) 不显著。
- 说明：这个例子旨在说明：1) 本文提出的鲁棒方法（SCMS）在真实数据上能检测到变化，而一些基于均值的方法不能；2) 通过对比 max 型和 sum 型结果，可以推断出变化信号可能是稀疏的（因为 max 型显著而 sum 型不显著）。
Array comparative genomic hybridization (aCGH) data：
- 数据：膀胱肿瘤患者的 aCGH 数据，n=2215 个位点，p=43 个个体。
- 方法应用：使用二元分割（binary segmentation）结合本文的自适应检验来定位多个变点。
- 结果：所有方法都检测到多个变点，SCMS(0.5) 检测到 41 个，与先前研究一致。
- 说明：这个例子展示了本文方法在多变点检测场景下的应用，并验证了其与已有文献结果的一致性。

🔎 结论是否比证明窄¶

窄化点 1：Theorem 4 和 5 关于渐近独立性的证明，依赖于 Assumption 7，该假设要求 R 的特征值有界且远离 0，并且相关性有界。这是一个比证明单个统计量极限分布更强的条件。作者在 Remark 10 中承认了这一点。因此，独立性结论的适用范围比单个统计量更窄。
窄化点 2：Theorem 5 关于局部备择下的独立性，其信号强度条件 H_{1;n,p} 比 Wang and Feng (2023) 更严格。作者在 Remark 12 中解释，这是因为空间中位数的 Bahadur 表示在强信号下会失效。这意味着本文的自适应检验在信号很强时，其理论保证（特别是独立性）可能不再成立。
窄化点 3：Proposition 1 和 2 关于检验一致性的条件，如 ||δ||_∞ ≥ C √(log p / n)，是最优的（up to a logarithmic factor），但常数 C 是未知的，且依赖于数据分布。因此，这些结论是定性而非定量的。

四、开放问题¶

扩展到相依数据：本文的理论依赖于 ϵ_i 的 i.i.d. 假设。作者在 Concluding remarks 中明确指出，扩展到相依设定（如时间序列）是“具有挑战性但很有前景的”。扎根于：Section 8, "First, our theoretical results rely on the i.i.d. assumption. Extending these to dependent settings (Chang et al., 2024) is challenging but promising."
结合半径信息：本文的 max-L2 型统计量只使用了空间符号（方向信息），丢弃了半径 R_i 的信息。作者指出，结合半径信息已被证明能提高其他检验的势。扎根于：Section 8, "Second, our max-L2-type tests consider spatial directions but omit radius information, which has been shown to improve power in other contexts (Feng et al., 2021; Huang et al., 2023)."
强信号下的理论：本文的局部备择理论（Theorem 5）要求信号较弱，以保证 Bahadur 表示有效。当信号很强时，空间中位数会偏离均值，其渐近性质如何？是否存在一个“强信号”下的新理论？扎根于：Remark 12, "Under strong signals, structural changes break this symmetry, causing the spatial median to diverge from the mean and invalidating the expansion."
计算-统计权衡的潜在存在性：虽然本文未涉及，但高维变点检测，特别是当信号稀疏且微弱时，是否存在一个信息-计算缺口？即，是否存在一个统计上可检测但任何多项式时间算法都无法检测的信号强度区域？这是一个值得探索的开放问题，可以连接研究者的“统计-计算权衡”兴趣。扎根于：本文未提及，但这是一个自然的延伸。

Maintained by 陈星宇 · Homepage · Source on GitHub