Weighted persistence intensity regression¶

作者: Matteo Pegoraro, Mario Beraha
主题: 非参数 / 半参数
相关性: 6/10
链接: https://arxiv.org/abs/2609.01387

一、领域脉络与小综述¶

这个方向是什么¶

本文研究的核心问题是：如何估计一个依赖于欧几里得协变量的加权持久图的条件期望密度？ 具体来说，每个统计单元观测到一个持久图（persistence diagram）和一个协变量，目标是估计给定协变量时，加权持久图的条件期望测度的密度函数（称为条件加权持久强度）。这是一个将拓扑数据分析（TDA）与非参数回归结合的问题，属于“统计拓扑数据分析”中一个相对新兴的子方向——将持久图本身作为响应变量，而非预测变量。

发展脉络¶

奠基工作：持久图作为统计对象
- Chen et al. (2015)：首次将持久图解释为离散测度，并引入核估计量来估计其期望测度（即持久强度）。这是本文方法论的直接先驱。
- Chazal and Divol (2019)：建立了期望持久测度密度存在且光滑的条件，为核密度估计提供了理论基础。本文的绝对连续性假设直接继承于此。
- Divol and Lacombe (2021)：研究了在部分最优传输（partial optimal transport）距离下直接估计期望持久测度，而非其密度。这为本文的测度级分析提供了关键几何框架和理论工具。
- Wu et al. (2024)：获得了持久强度及其归一化版本的均匀收敛速率（sup-norm rates）。本文的定理1和定理4直接推广了他们的结果，从无条件分布到条件分布。
主要进展：从无条件到条件，从密度到测度
- 无条件分布：上述奠基工作（Chen, Chazal, Divol, Wu）均假设持久图来自单一的无条件分布。本文的核心贡献在于引入协变量，将问题扩展为条件回归。
- 持久图作为响应变量：现有文献大多将持久图映射到向量空间后用作预测变量（如分类、标量响应回归）。本文则将其作为响应变量，研究其分布如何随协变量变化。
- 双核估计量：本文提出一个简单的双核Nadaraya-Watson估计量，同时平滑协变量空间和持久平面。这是对无条件核估计量的直接条件化推广。
当前Frontier与本文位置
- 当前Frontier：统计TDA正从描述性分析（如计算单个图的拓扑特征）转向推断性分析（如估计图的分布、进行假设检验）。本文处于这一前沿，将非参数回归的成熟理论（极小化界、均匀收敛速率）应用于TDA的特定对象（持久图）。
- 本文位置：本文填补了“持久图作为条件响应”这一空白。它提供了一个完整的理论框架（包括匹配的极小化下界、不同损失函数下的速率、带宽选择准则），并通过脑动脉树的真实数据展示了其应用价值。

子线索聚类¶

持久图的线性表示与核方法：包括持久图像（Adams et al., 2017）、持久景观（Bubenik, 2015）、持久加权高斯核（Kusano et al., 2016）等。这些方法将持久图映射到函数或向量空间，以便应用标准统计/机器学习工具。本文的核估计量也属于这一线索，但直接作用于测度本身，而非先映射。
持久图的分布推断：包括期望持久测度的估计（Chen et al., 2015; Chazal and Divol, 2019; Divol and Lacombe, 2021; Wu et al., 2024）和贝叶斯非参数模型（Maroulas et al., 2019, 2020）。本文属于这一线索，并将其从无条件扩展到条件分布。
持久图作为预测变量：这是TDA应用的主流，例如将持久图用于分类或回归。本文明确区分了这一点，将持久图作为响应变量。

核心问题与已知瓶颈¶

核心问题：
1. 如何定义和估计一个依赖于协变量的持久图的条件分布？
2. 对于条件期望持久测度，其密度（条件持久强度）的估计速率是多少？是否可以达到极小化最优？
3. 当条件期望测度没有密度（如存在原子或低维支撑）时，如何直接估计该测度本身？
4. 如何在实际中选择平滑参数（带宽）？
已知瓶颈：
- 持久图的非线性几何（Wasserstein距离）使得线性统计操作困难。
- 现有工作多集中于无条件分布，缺乏对协变量依赖的系统研究。
- 持久图通常包含大量靠近对角线的低持久性特征，需要特殊的权重处理。

⚠️ 作者的Framing¶

作者的缺口框架：作者将缺口框架为“现有工作要么将持久图作为预测变量，要么研究其无条件分布，而忽略了持久图作为响应变量并伴随协变量的回归问题”。这使得本文成为“显然的下一步”——将非参数回归的成熟理论直接应用于持久图的条件期望测度。
被淡化或回避的竞争路线：
- 贝叶斯非参数方法（Maroulas et al., 2019, 2020）：作者在引言中提及，但将其定位为“描述随机持久图的完整分布”，而本文专注于“一阶矩”（条件期望测度）。作者回避了与贝叶斯方法在建模灵活性和计算成本上的直接比较。
- 将持久图映射到向量空间后再做回归：这是最直接的竞争路线。作者在引言中明确将其排除，理由是“现有工作主要将持久图用作预测变量”。但事实上，将持久图映射（如持久图像）后，完全可以将其作为响应变量进行回归。作者没有讨论这种做法的优缺点，而是直接提出了自己的测度框架。
什么明显该被引/该存在、却没出现在intro里？
- 关于持久图作为响应变量的回归工作：作者声称“Much less attention has been given to settings in which the persistence diagram is itself the response”，但并未引用任何尝试过此方向的工作（即使它们不成熟）。这暗示可能确实没有直接相关的工作，但也可能是作者有意忽略了某些边缘工作。值得研究者去检索确认。
- 关于函数型数据回归（Functional Data Regression）：如果将持久图视为一个复杂的函数型对象，那么函数型数据回归的文献（如Ramsay & Silverman, 2005）是相关的。作者没有引用或讨论这一更广泛的领域，而是专注于TDA特有的测度表示。

张力¶

未见明显对立引用。所有被引工作（Chen, Chazal, Divol, Wu）在方法论上是一脉相承的，都采用测度解释和核估计，本文是其自然推广。

二、最核心、最简单的例子 / 数学问题¶

第一步：符号、模型、可观测数据交代清楚¶

符号：
- (Zi, Di): 第 i 个观测对。Zi ∈ Z ⊂ R^d 是欧几里得协变量（如年龄）。Di 是持久图（persistence diagram），是平面上的一个多重点集。
- ΩL = {(b, d): 0 ≤ b < d ≤ L}: 持久平面上的一个紧窗口，b 是出生时间，d 是死亡时间，L 是尺度上界。
- w(u): 定义在 ΩL 上的非负权重函数，在对角线 ∆L 上为0。用于控制低持久性特征的贡献。
- µ^w_Di: 第 i 个加权持久测度。它是一个有限随机测度，µ^w_Di(A) = Σ_{x∈Di∩A} a_x w(x)，其中 a_x 是点的重数。
- Λ^w_z(A) = E[µ^w_Di(A) | Zi = z]: 条件加权期望测度。这是本文的核心估计目标。它表示协变量为 z 时，落在区域 A 内的期望加权持久质量。
- λ^w(z, u): 条件加权持久强度。当 Λ^w_z 关于勒贝格测度绝对连续时，λ^w(z, u) 是其密度。这是本文在密度估计部分的目标。
- n: 样本量。
- d: 协变量 Z 的维度。
- hZ, hU: 分别是协变量空间和持久平面的带宽。
模型：
- 数据生成机制：观测到独立同分布的对 (Zi, Di), i=1,...,n。
- 目标：估计条件期望测度 Λ^w_z 或其密度 λ^w(z, u)。
- 关键假设：Λ^w_z 存在且可能具有密度（绝对连续性假设仅在密度估计部分需要）。权重函数 w 有界且Lipschitz。协变量 Z 的密度 pZ 在紧集 Z 上一致有界且远离0。核函数有紧支撑且在原点附近为正。
可观测数据：
- 可观测：(Zi, Di) 对。每个 Di 是一个持久图，即平面上的一组点 (b, d)。每个点可能有重数。
- 不可观测/潜在：我们无法直接观测到 Λ^w_z 或 λ^w(z, u)。它们是潜在的真实条件期望。我们只能通过观测到的 (Zi, Di) 对来估计它们。µ^w_Di 是 Λ^w_z 的一个“噪声”实现。

第二步：讲最小内核¶

本文的核心思路可以归结为：用双核Nadaraya-Watson估计量来估计一个条件期望测度。

最简特例：d=1, 线性权重, 无边界效应

假设： 1. 协变量是一维的：Zi ∈ [0, 1]。 2. 权重函数是线性的：w(b, d) = d - b（即持久性本身）。 3. 忽略边界效应，假设所有点都在 ΩL 内部。 4. 使用均匀核（uniform kernel）来简化说明。

记号： * KZ(z) = 1/2 * 1{|z| ≤ 1}: 协变量空间的均匀核。 * KU(u) = 1/4 * 1{||u||_∞ ≤ 1}: 持久平面的均匀核（在二维平面上）。 * hZ, hU: 带宽。

估计量：对于给定的协变量值 z 和持久平面位置 u = (b, d)，条件加权持久强度的估计量为：

bλ^w(z, u) = [ Σ_{i=1}^n KZ((Zi - z)/hZ) * Y^w_i,hU(u) ] / [ Σ_{i=1}^n KZ((Zi - z)/hZ) ]

其中 Y^w_i,hU(u) 是第 i 个持久图的“核化响应”： Y^w_i,hU(u) = Σ_{x∈Di} w(x) * KU((u - x)/hU)

核心思路（用最简例子讲清楚）：

第一步：平滑每个持久图（持久平面平滑）。对于每个观测 i，我们不是直接使用其离散的持久点 x，而是用一个核 KU 将这些点“涂抹”到整个持久平面上。Y^w_i,hU(u) 就是在位置 u 处，所有来自第 i 个图的持久点贡献的加权和。这相当于为每个观测 i 生成了一个平滑的“持久强度表面”。
第二步：对协变量进行局部平均（协变量平滑）。对于目标协变量 z，我们只考虑那些协变量 Zi 在 z 附近的观测（由 KZ 的支撑决定）。然后，我们对这些观测的“持久强度表面”进行加权平均，权重由 KZ 给出。分母 Σ KZ(...) 是归一化因子，确保权重之和为1。

为什么这个估计量有效？

直觉：Y^w_i,hU(u) 是 λ^w(Zi, u) 的一个有偏估计（因为核平滑引入了偏差）。然后，Nadaraya-Watson 估计量对 Y^w_i,hU(u) 进行局部平均，以估计 E[Y^w_i,hU(u) | Z=z]。当 hU → 0 时，E[Y^w_i,hU(u) | Z=z] 趋近于 λ^w(z, u)。当 hZ → 0 时，局部平均的偏差也趋近于0。因此，整个估计量 bλ^w(z, u) 是 λ^w(z, u) 的一个相合估计。

这个特例下的核心数学困难： * 偏差-方差权衡：hZ 和 hU 的选择至关重要。hZ 太小，方差大；hZ 太大，偏差大。hU 同理。本文的理论给出了最优速率。 * 均匀收敛：证明 bλ^w(z, u) 在 (z, u) 上一致收敛到 λ^w(z, u) 需要精细的实证过程（empirical process）理论，因为需要同时控制无数个点上的误差。 * 分母问题：当 z 附近没有观测时，分母可能为0。本文通过假设设计密度有下界来处理。

三、这篇论文做了什么¶

三句话¶

研究了什么问题：本文研究了在给定欧几里得协变量条件下，估计加权持久图的条件期望测度（条件加权持久强度）的非参数回归问题。
核心工具/方法：提出了一个双核Nadaraya-Watson估计量，同时平滑协变量空间和持久平面，并推导了无偏风险交叉验证准则用于带宽选择。
主要结论：建立了该估计量在sup-norm下的有限样本速率，并给出了匹配的极小化下界，证明了其最优性；同时，在部分最优传输距离下获得了更快的测度级收敛速率，该速率不依赖于持久平面的维度。

关键设定与假设¶

设定：观测到独立同分布的对 (Zi, Di)，Zi ∈ R^d，Di 是支撑在 ΩL 上的持久图。
关键假设：
- Assumption 1 (Admissible diagonal weight)：权重函数 w 有界且Lipschitz，或满足 w(u) ≤ C_w * pers(u)^τ。这保证了低持久性特征不会造成过大的影响。
- Assumption 2 (Kernels and bandwidth sequences)：核函数有界、Lipschitz、积分为1、有紧支撑且在原点附近为正。带宽满足 nh^d_Z h^2_U / log n → ∞。这是保证有效局部样本量足够大的条件。
- Assumption 3 (Covariate-domain geometry)：协变量域 Z 是紧集且满足一致内锥条件。这保证了边界附近也有足够的局部样本。
- Assumption 4 (Design density)：协变量的密度 pZ 在 Z 上一致有界且远离0。这是均匀收敛定理的标准假设。
- Assumption 5 (First-order mean regularity)：条件期望测度 Λ^w_z 绝对连续，且其密度 λ^w 有界且一致连续。这是密度估计的前提。
- Assumption 6 (Envelope alternatives)：两种包络条件：(E1) 加权质量有界（µ^w_i(ΩL) ≤ M_w）；(E2) 归一化加权图（总质量为1）。前者用于未归一化的强度估计，后者用于归一化的密度估计。
相比已有文献的放宽/强化：
- 放宽：相比Wu et al. (2024)的无条件设定，本文引入了协变量，是显著的推广。
- 强化：为了获得均匀收敛速率，本文对协变量设计密度（Assumption 4）和域几何（Assumption 3）施加了较强的假设。这些假设在无条件设定中是不需要的。

主要结果¶

Theorem 1 (Finite-sample sup-norm rate)：在假设1-6(E1)下，对于任意 δ∈(0,1)，以至少 1-δ 的概率，估计量的sup-norm误差被一个速率函数 rn 和光滑性模量 ω_λ^w 控制。该速率函数为 rn = O(√(log n / (n h^d_Z h^2_U)) + log n / (n h^d_Z h^2_U))。
Corollary 1 (Anisotropic Hölder rate)：在Hölder光滑性假设下，最优带宽选择导致收敛速率为 (log n / n)^{s/(2s+d+2)}，其中 s 是光滑性参数。这个指数与在 d+2 维空间中进行非参数回归的经典sup-norm指数一致（d 维协变量 + 2维持久平面）。
Theorem 2 (Minimax lower bound)：在加权质量有界的模型类上，证明了sup-norm下的极小化下界也是 (log n / n)^{s/(2s+d+2)}。结合Corollary 1，证明了该估计量是极小化最优的。
Theorem 3 (Partial optimal transport rate)：在部分最优传输距离下，估计条件期望测度 Λ^w_z 的收敛速率。其随机项为 O(1/√(n h^d_Z))，不依赖于持久平面的维度。这比密度估计的速率更快，因为避免了在持久平面上的核平滑带来的方差项。
Theorem 4 (Uniform normalized-density rate)：对于归一化的加权持久密度，得到了与Theorem 1相同的sup-norm速率。
Proposition 5 (Unbiased leave-one-out risk identity)：推导了一个无偏的留一法交叉验证准则，用于联合选择 hZ 和 hU。

证明路线与技术技巧¶

整体路线（以Theorem 1为例）：

分解误差：将估计误差分解为确定性偏差和随机误差。
- 确定性偏差：λ_h(z, u) - λ^w(z, u)，其中 λ_h 是期望双核估计量的比值。这由核平滑引起，通过Hölder光滑性假设控制。
- 随机误差：bλ^w(z, u) - λ_h(z, u)，由样本波动引起。
控制随机误差：使用一个精确的比值恒等式： bλ^w - λ_h = (bN - N_h) / bD - λ_h * (bD - D_h) / bD 其中 bN 是经验分子，N_h 是其期望，bD 是经验分母，D_h 是其期望。
- 控制分子误差 |bN - N_h|：应用实证过程不等式（Proposition 4）。关键步骤是验证函数类 {f_{z,u}(Z, D) = κ_Z(z, Z) * Y^w_{hU}(u)} 的包络、方差和熵条件。这需要利用核的有界性和加权质量的有界性（Assumption 6(E1)）。
- 控制分母误差 |bD - D_h|：同样应用实证过程不等式，但函数类更简单 {g_z(Z) = κ_Z(z, Z)}。
- 处理分母为0：通过设计密度有下界（Assumption 4）和分母的集中性（Lemma A1），证明在高概率事件下，bD 一致地远离0。
控制确定性偏差：通过一个局部平均表示（Lemma A3），将 λ_h 表示为 λ^w 在核支撑上的加权平均，从而用 λ^w 的光滑性模量来控制偏差。

关键跳跃点： * 从点态到一致收敛：这是最吃功夫的部分。需要构造一个覆盖整个参数空间 (Z, ΩL) 的网，对网上的每个点应用Bernstein不等式，然后利用核函数的Lipschitz性质将网上的控制扩展到整个空间。这需要精细的熵估计。 * 处理随机测度响应：Y^w_{hU}(u) 是一个随机测度的积分，其矩的控制需要用到Cauchy-Schwarz不等式和条件期望的性质（Lemma A4）。这比处理标量响应更复杂。

技术技巧点名： * Empirical process theory：用于控制分子和分母的均匀收敛。具体使用了Wu et al. (2024)的Proposition 4，该命题结合了Talagrand不等式和熵界。 * Chaining / 覆盖数：通过构造参数空间的网并控制网的基数，将点态概率界提升为一致界。 * 局部平均表示：Lemma A3将期望双核估计量表示为真实强度的加权平均，这是分析偏差的标准技巧。 * 精确比值恒等式：将估计量的随机误差分解为分子和分母误差的线性组合，简化了分析。 * 部分最优传输的测度级分析：Theorem 3的证明使用了多尺度分解（Lemma A9）和McDiarmid不等式，将测度估计问题转化为对局部质量差的控制。

真实例子与应用¶

数据：来自Bullitt et al. (2010)的98名受试者的脑动脉树数据，协变量为年龄。
方法应用：
1. 特征提取：对每个动脉树组件，计算从供血根部的欧几里得距离的扩展持续同调（extended persistence），得到局部最小值和局部最大值两类持久对。
2. 权重：使用持久性 p = |d-b| 作为权重 w。
3. 估计：分别对原始持久测度和按系统长度标准化的持久测度，估计其条件强度 λ^w(age, u)。
4. 推断：计算年龄57岁与31.25岁的条件强度对比，并通过bootstrap构建同时置信带，识别出对比显著不为0的持久平面区域。
结果：
- 原始测度：在两类持久特征中都发现了广泛的年龄相关的减少。
- 标准化测度：在局部最大值类中，识别出一个特定的区域（R1: q ∈ [71.2, 85.9] mm, p ∈ [0, 14.7] mm），其每单位系统长度的持久质量随年龄显著下降。这表明年龄相关的血管变化不仅仅是总长度的减少，而是特定类型的径向反转事件（由外向内）的减少。
- 空间回溯：通过保留每个持久对的生成顶点，可以将R1区域映射回原始的动脉树中心线上，发现这些变化主要集中在普通中心线点上，而非分支或末端点。
例子想说明什么：这个例子展示了本文方法的实际价值：它不仅能检测到年龄相关的拓扑变化，还能将这种变化定位到持久平面的特定区域，并进一步回溯到原始数据的几何结构上，从而提供比标量摘要更丰富、更可解释的信息。

🔎 结论是否比证明窄¶

Theorem 1 的有限样本界：该界依赖于一个常数 C1，该常数依赖于模型常数和核函数。虽然定理陈述了存在性，但在实际应用中，这个常数是未知的，因此该界主要用于定性分析（如收敛速率），而非定量误差估计。
带宽选择：Proposition 5 证明了交叉验证准则的无偏性，但作者明确承认“It does not by itself give an oracle inequality or an adaptive convergence rate for the selected bandwidths.” 这意味着该准则在实际中可能表现良好，但缺乏理论上的自适应最优性保证。这是一个重要的局限性。
归一化密度估计：Theorem 4 的证明依赖于 P{µ^w_D(ΩL) > 0} = 1 的假设。如果这个概率小于1，结果只适用于条件分布 P(· | µ^w_D(ΩL) > 0)。这在实践中可能是一个限制，因为有些图可能总质量为零（例如，空图）。

四、开放问题¶

极小化下界 for 部分最优传输：作者在讨论中提出“it remains to establish minimax lower bounds for direct estimation in partial optimal transport”。本文只给出了上界（Theorem 3），下界是缺失的。扎根于：Section 5, "Several directions for future work therefore arise naturally. On the theoretical side, it remains to establish minimax lower bounds for direct estimation in partial optimal transport...".
q=1时对数因子的本质：Theorem 3中，当 q=1 时，随机项多了一个 log(2+N) 因子。作者在Lemma A10的证明后提到“We do not attempt to remove this factor.” 这个因子是否是本质的，还是可以被去掉？扎根于：Lemma A10的证明后，以及Theorem 3的陈述。
带宽选择的自适应理论：Proposition 5 的无偏交叉验证准则缺乏oracle不等式或Lepski型自适应结果。能否证明该准则选择的带宽能够达到与最优带宽相同的收敛速率（至多差一个对数因子）？扎根于：Section 5, "For bandwidth selection, an oracle inequality or a Lepski-type adaptation result would strengthen the unbiased-risk identity by quantifying the performance of the selected estimator."
依赖或纵向持久图：本文假设观测是独立的。在许多应用中（如纵向医学影像），同一个体在不同时间点会有多个持久图。如何将本文的框架扩展到处理这种依赖数据？扎根于：Section 5, "On the modelling side, extensions to dependent or longitudinal diagrams would be particularly valuable when several diagrams are observed from the same unit."

Maintained by 陈星宇 · Homepage · Source on GitHub