跳转至

Statistical Properties of Nonparametric MLE under Laplace Noise

作者: Yifei Xiong, Nianqiao Phyllis Ju, Vinayak Rao
主题: 非参数 / 半参数
相关性: 6/10
链接: https://arxiv.org/abs/2608.25997

一、领域脉络与小综述

这个方向是什么

本文研究的根本问题是：在本地差分隐私（LDP） 框架下，当每个用户的真实数据被添加已知尺度的Laplace噪声后才公开时，如何从这些被“污染”的观测中恢复潜在数据分布。这是一个非参数反卷积（deconvolution） 问题：观测密度是潜在分布与Laplace核的卷积。核心张力在于：更强的隐私保护（更大的噪声）使反卷积更不稳定，而更弱的隐私保护（更小的噪声）则牺牲隐私。本文使用非参数最大似然估计（NPMLE） 来解决这个反卷积问题，并刻画其收敛速率与隐私噪声尺度之间的显式关系。

发展脉络

  1. 奠基工作：LDP的统计代价与最优程序

    • Duchi, Jordan & Wainwright (2013, 2018) [9, 10]：开创性地刻画了LDP的统计代价，发展了Le Cam、Fano、Assouad不等式的隐私版本，为均值估计、广义线性模型、非参数密度估计等经典问题提供了minimax最优的局部隐私程序。这是整个领域的理论基石。
    • Kasiviswanathan et al. (2011) [21]：将差分隐私与学习理论联系起来，证明了私有学习的可行性。本文引用它来定义LDP。

  2. 主要进展：非参数密度估计与反卷积方法

    • Butucea et al. (2020) [4]：在Besov光滑类上推导了LDP下非参数密度估计的最优速率，揭示了“肘效应”（elbow effect），即速率在光滑参数空间中的两段式退化。本文引用它作为非参数密度估计在LDP下的代表性工作。
    • Farokhi (2020) [14]：针对加性噪声LDP观测，开发了反卷积核密度估计与回归方法。这是与本文设定最接近的竞争路线，但本文采用似然基方法（NPMLE）而非核方法。
    • Dedecker, Fischer & Michel (2015) [6]：在一维普通光滑误差（ordinary smooth error）设定下，获得了Wasserstein距离下的反卷积速率与下界。Laplace分布属于普通光滑类，因此该结果为本文提供了自然的比较基准，但该文关注的是经典反卷积估计量而非似然基方法。

  3. 当前Frontier：NPMLE的结构与Wasserstein反卷积

    • Polyanskiy & Wu (2020) [28]：发现高斯混合模型下NPMLE的自正则化性质——支撑集大小以高概率为O(log n)，远小于n。这是NPMLE结构性质研究的里程碑。本文的支撑约化定理（Theorem 3.2）直接受其支撑特征引理（Lemma 3.1）启发，但针对Laplace核给出了更具体的支撑位置刻画。
    • Rousseau & Scricciolo (2024) [30]：发展了贝叶斯与频率学派反卷积模型中的Wasserstein收敛理论，推导了通用的反卷积不等式。本文的反卷积不等式（Theorem 4.7）直接改编自该文，但专门化了Laplace核并显式追踪噪声尺度b的影响。
    • Scricciolo (2018) [32]：研究了Laplace混合的贝叶斯与最大似然估计，从混合密度收敛推导了L1-Wasserstein距离下混合分布的收敛速率。这是与本文最接近的工作，但本文进一步将分析推广到噪声尺度随样本量变化的情形，并给出了不可能性结果。

  4. 本文的位置：本文位于上述两条线索的交汇点——LDP下的非参数反卷积与NPMLE的结构与收敛分析。它填补的缺口是：在Laplace噪声LDP模型下，对NPMLE进行支撑约化（将无限维优化简化为有限维凸优化）并推导其Wasserstein收敛速率，同时显式追踪噪声尺度b的影响，给出一致性的充分条件与不可能性的必要条件。

子线索聚类

  1. LDP下的非参数估计与minimax理论：Duchi et al. [9, 10], Butucea et al. [4], Kasiviswanathan et al. [21]。这一簇关注LDP对估计问题统计速率的根本影响，通常使用minimax框架。
  2. 反卷积与Wasserstein收敛：Rousseau & Scricciolo [30], Scricciolo [18, 32], Dedecker et al. [6], Nguyen [27]。这一簇关注从被噪声污染的观测中恢复潜在分布，并使用Wasserstein距离作为分布间距离度量。
  3. NPMLE的结构、计算与性质：Polyanskiy & Wu [28], Lindsay [25, 26], Laird [23], Koenker & Mizera [22], Soloff et al. [34]。这一簇关注NPMLE的支撑结构、计算可行性（凸优化）以及在经验贝叶斯中的应用。
  4. LDP下的推断方法：Ju et al. [17], Gong [16], Awan & Wang [1], Ferrando et al. [15], Karwa & Vadhan [20], Xiong et al. [40, 41]。这一簇关注从私有化数据中进行有效统计推断（置信区间、贝叶斯后验）的计算方法，与本文互补。

这个方向在追问的核心问题

  1. 隐私-效用权衡的精确刻画：给定隐私预算ϵ和样本量n，潜在分布恢复的最优minimax速率是什么？本文给出了一个上界（n^{-3/16}）和一个下界（n^{-1/2}），但缺口尚存。
  2. NPMLE的结构性质：不同噪声核（高斯 vs. Laplace）下，NPMLE的支撑集大小有何不同？高斯下为O(log n) [28]，Laplace下本文实验显示增长更快，但尚无理论结果。
  3. 计算与统计的权衡：NPMLE的凸优化可解性意味着计算友好，但这是否以牺牲统计效率为代价？是否存在计算更复杂但统计速率更优的估计量？
  4. 高维扩展：当潜在分布支撑在多维空间时，NPMLE的支撑约化是否仍然有效？Wasserstein收敛分析如何推广？

⚠️ 作者的Framing

  • 作者把缺口frame成：Laplace核的特殊形状（非光滑、重尾）导致NPMLE的支撑可以精确约化到投影观测集，且其Wasserstein收敛速率需要专门分析并显式追踪噪声尺度。这使得本文成为“显然的下一步”——在LDP的Laplace机制下，将NPMLE的结构性质与Wasserstein反卷积理论结合起来。
  • 被淡化或回避的竞争路线：
    • 核密度估计方法（Farokhi [14]）：作者仅在引言中提及，但未与NPMLE进行数值比较。核方法可能计算更简单，但统计效率如何？
    • 贝叶斯方法（Rousseau & Scricciolo [30], Scricciolo [18]）：作者引用了这些工作，但本文是频率学派分析。贝叶斯方法是否能获得更优的速率或更好的有限样本表现？
    • 其他隐私机制：本文仅考虑Laplace机制。对于其他LDP机制（如随机响应、阶梯机制），NPMLE的性质如何？
  • 什么明显该被引/该存在、却没出现在intro里？：未见明显缺失的关键引用。但值得注意的是，作者没有引用关于高维LDP或信息-计算缺口的文献，这可能是因为本文专注于一维、计算友好的设定。

张力

未见明显对立引用。被引工作之间在结论上是一致的，只是设定和方法不同。一个潜在的张力点是：Polyanskiy & Wu [28] 在高斯混合下发现NPMLE支撑集大小为O(log n)，而本文实验显示Laplace混合下支撑集增长更快。这暗示了不同核函数可能导致截然不同的结构性质，是一个值得深入探索的差异。

二、最核心、最简单的例子 / 数学问题

第一步：符号、模型、可观测数据交代清楚

  • 符号：

    • θ_i：第i个个体的潜在机密数据，是随机变量，取值于有界区间 [-a, a]。
    • g_0：潜在数据 θ_i 的未知分布（概率测度），是本文要估计的目标（estimand）。
    • Z_i：第i个个体的Laplace隐私噪声，独立于 θ_i，服从 Lap(0, b)，密度为 f_b(z) = (1/(2b)) exp(-|z|/b)。
    • b：Laplace噪声的尺度参数（已知）。隐私预算 ϵ = 2a/b，b越大隐私越强。
    • X_i = θ_i + Z_i：第i个个体的私有化观测（可观测数据）。
    • n：样本量。
    • m_g(x) = ∫ f_b(x-θ) g(dθ)：当潜在分布为g时，观测 X_i 的混合密度。特别地，m_{g_0} 是真实观测密度。
    • W_1(g, g_0)：分布g与g_0之间的1-Wasserstein距离。在一维有界支撑上，W_1(g, g_0) = ∫ |G(x) - G_0(x)| dx，其中G和G_0是分布函数。
    • H(p, q)：密度p与q之间的Hellinger距离，H^2(p, q) = (1/2) ∫ (√p - √q)^2 dx。
    • bg_n：基于观测 X_1, ..., X_n 的NPMLE，即最大化 ℓ_n(g) = Σ log m_g(X_i) 的分布 g ∈ P([-a, a])。

  • 模型：

    • 数据生成机制：θ_i ~ g_0 (i.i.d.)，Z_i ~ Lap(0, b) (i.i.d.)，X_i = θ_i + Z_i (独立)。
    • 统计模型：观测 X_i 的密度为 m_{g_0} = g_0 * f_b（卷积）。这是一个混合模型，其中混合分布g_0是未知的、完全非参数的。
    • 已知量：噪声尺度b，支撑边界a。
    • 要估的对象：混合分布g_0。

  • 可观测数据：

    • 可观测：X_1, ..., X_n（n个实数），以及它们的密度 m_{g_0} 的样本版本。
    • 潜在/不可观测：θ_1, ..., θ_n（机密数据），以及它们的分布 g_0。只能通过假设（卷积模型）和观测 X_i 来识别g_0。

第二步：最小内核

本文的核心数学问题可以归结为：如何从被Laplace噪声卷积的观测中，以多快的速率恢复潜在分布？

最简特例：假设潜在分布 g_0 是单点分布 δ_θ（即所有个体的机密数据都是同一个未知常数θ）。那么观测 X_i ~ Lap(θ, b)，是i.i.d.的Laplace分布。此时，NPMLE退化为估计位置参数θ的MLE，即样本中位数。但本文关注的是分布恢复，而非参数估计。

更贴近本文内核的最简特例是：潜在分布 g_0 是两点分布，例如 g_0 = 0.5 δ_{-a} + 0.5 δ_{a}。观测密度为 m_{g_0}(x) = 0.5 f_b(x + a) + 0.5 f_b(x - a)。NPMLE bg_n 的目标是恢复这两个原子及其权重。

在这个特例下，本文的核心思路是： 1. 支撑约化：NPMLE bg_n 的支撑点必然是观测值 X_i 投影到 [-a, a] 后的值。由于 X_i 是连续的，投影后的值几乎必然互不相同，因此 bg_n 最多有n个支撑点，且位置已知（就是投影后的观测值）。这大大简化了问题：只需估计这些支撑点上的权重。 2. 反卷积不等式：要衡量 bg_n 与 g_0 的接近程度（Wasserstein距离），不能直接比较，因为 bg_n 是基于观测 X_i 的。本文证明了一个不等式： W_1(bg_n, g_0) ≲ 偏置项 + (观测分布函数误差) + (观测密度误差的高频项) 其中，观测密度误差 ||m_{bg_n} - m_{g_0}||_1 可以通过NPMLE的似然理论（Hellinger速率）来控制。 3. 速率推导：通过平衡偏置项（由平滑带宽h引入）和高频项（由噪声尺度b引入），选择最优带宽 h ≍ b √(d log(1/d))，最终得到 W_1(bg_n, g_0) = O_p(n^{-3/16} √(log n))。

一句话总结：本文的核心数学贡献是，对于Laplace卷积模型，证明了NPMLE的支撑可以简化为投影观测集，并建立了一个显式依赖噪声尺度b的反卷积不等式，从而将NPMLE的Hellinger速率（n^{-3/8}）转化为Wasserstein速率（n^{-3/16}），并给出了噪声增长导致不一致的临界条件。

三、这篇论文做了什么

三句话

  1. 研究了什么问题：在本地差分隐私（LDP）的Laplace机制下，使用非参数最大似然估计（NPMLE）从私有化观测中恢复潜在机密数据的分布，并分析其统计收敛性质。
  2. 核心工具/方法：利用Laplace核的特殊形状证明NPMLE的支撑集可约化到投影观测集（Theorem 3.2），从而将无限维优化简化为有限维凸优化；改编Rousseau & Scricciolo [30]的反卷积不等式，显式追踪噪声尺度b，将观测密度的Hellinger误差转化为潜在分布的1-Wasserstein误差（Theorem 4.7, Corollary 4.8）。
  3. 主要结论：NPMLE在1-Wasserstein距离下的收敛速率为 O_p(n^{-3/16} √(log n))（固定a, b时，Corollary 5.2）；当噪声尺度 b_n = o(n^{3/16} (log n)^{-1/2}) 时，NPMLE一致（Corollary 5.3）；当 b_n ≥ c√n 时，任何估计量都无法一致恢复潜在分布（Theorem 5.4）。

关键设定与假设

  • 设定：
    • 潜在数据 θ_i 取值于有界区间 [-a, a]，a已知。这是LDP中保证有限灵敏度的标准假设，可通过截断（clipping）实现。
    • 隐私噪声 Z_i ~ Lap(0, b)，尺度b已知。
    • 观测 X_i = θ_i + Z_i，且 θ_i 与 Z_i 独立。
    • 目标：估计潜在分布 g_0 ∈ P([-a, a])。
  • 假设：
    • 支撑有界性：θ_i ∈ [-a, a]。这是核心假设，用于保证隐私预算有限（Proposition 2.2）和支撑约化定理成立。
    • 噪声尺度已知：b已知。这是似然函数可计算的前提。
    • 独立性：θ_i 与 Z_i 独立，且各自i.i.d.。
    • 平滑核条件（Corollary 3.3）：对于更一般的核，要求密度函数 φ(|x-µ|) 满足 φ' < 0 和 φ'' > 0 在 (0, ∞) 上。Laplace核满足此条件。
    • 反卷积不等式条件（Theorem 4.7）：要求平滑核k的傅里叶变换紧支撑，且 h < b/2，d < 1。这些是技术性条件，用于控制高频项。
  • 相比已有文献的放宽/强化：
    • 相比Polyanskiy & Wu [28]（高斯核），本文针对Laplace核给出了更具体的支撑位置（投影观测集），而非仅给出支撑大小的界。
    • 相比Rousseau & Scricciolo [30]（一般反卷积），本文专门化了Laplace核并显式追踪了噪声尺度b，使得可以分析b随n变化的情形。
    • 相比Duchi et al. [10]（minimax最优程序），本文聚焦于似然基方法（NPMLE），而非构造特定的最优机制。

主要结果

  • 定理3.2（支撑约化）：Laplace NPMLE的每个支撑点都必须是某个观测值投影到 [-a, a] 后的值。即 supp(bg_n) ⊆ {Π_{[-a,a]}(X_1), ..., Π_{[-a,a]}(X_n)}。

    • 直觉：NPMLE的支撑特征函数 D_{bg_n}(µ) 在投影观测点之间是严格凸的，因此最大值只能在边界（即投影观测点）处达到。
    • 必要条件：Laplace核的密度函数 f_b(x-µ) 关于 |x-µ| 是严格递减且严格凸的。
    • 解决的技术难点：将无限维优化问题转化为有限维（n维）凸优化问题，使得计算可行（Algorithm 1）。

  • 定理4.7（反卷积不等式）：对于任意 g, g_0 ∈ P([-a, a])，令 d = ||m_g - m_{g_0}||_1。若 h ∈ (0, b/2) 且 d ∈ (0, 1)，则 W_1(g, g_0) ≲ h + (a + b log(1/d)) d + b^2 |log(h/b)| h^{-1} d.

    • 直觉：Wasserstein误差由三部分构成：平滑偏置（h）、观测分布函数误差（与d成正比）、观测密度误差的高频放大（与 b^2/h 成正比）。通过选择最优带宽h来平衡后两项。
    • 必要条件：平滑核k的傅里叶变换紧支撑，且h足够小。
    • 解决的技术难点：将频率分裂反卷积策略适配到Laplace核，并显式追踪b的影响，得到 b^2|log(h/b)|h^{-1} 这一关键高频项。

  • 推论4.8（优化带宽）：选择 h ≍ b √(d log(1/d))，则 W_1(g, g_0) ≲ a d + b √(d log(1/d))。

    • 这是将定理4.7中的h优化掉的结果，为后续速率推导提供了直接工具。

  • 定理5.1（Hellinger速率）：H(m_{bg_n}, m_{g_0}) = O_p( (1 + a/b)^{1/4} e^{a/(2b)} n^{-3/8} )。

    • 直觉：这是凸类最大似然估计的标准速率 [35]，其中指数因子来自Laplace核的包络界（envelope bound）。
    • 必要条件：潜在分布支撑有界。
    • 解决的技术难点：计算归一化核类 {f_b(·-θ)/m_{g_0}(·)} 的度量熵，并应用凸包熵界（Lemma C.2）。

  • 推论5.2（Wasserstein速率）：W_1(bg_n, g_0) = O_p( a n^{-3/8} + b n^{-3/16} √(log n) )。当a, b固定时，主导项为 O_p(n^{-3/16} √(log n))。

    • 这是将定理5.1的Hellinger速率（转化为L1速率）代入推论4.8的结果。

  • 推论5.3（一致性条件）：若 b_n = o( n^{3/16} (log n)^{-1/2} )，则 W_1(bg_n, g_0) → 0。

    • 给出了NPMLE在隐私噪声增长时仍保持一致的充分条件。

  • 定理5.4（不可能性）：若 b_n ≥ c √n，则对任何估计量 g^*_n，有 liminf_{n→∞} sup_{g} P_g(W_1(g^*_n, g) ≥ a) > 0。

    • 直觉：当噪声尺度达到 √n 量级时，两个相距2a的点分布（δ_a 和 δ_{-a}）变得不可区分，因为它们的KL散度被n个观测累积后仍为常数（≤ 2a^2/c^2）。
    • 证明技巧：使用Bretagnolle-Huber不等式（Lemma C.4）和两点分布（δ_a 与 δ_{-a}）的构造。

证明路线与技术技巧

整体路线（从假设到Wasserstein速率）： 1. 支撑约化：利用NPMLE的支撑特征引理（Lemma 3.1）和Laplace核的严格凸性，证明支撑点必为投影观测值（Theorem 3.2）。这为计算提供了基础。 2. 反卷积不等式：采用频率分裂策略（Proposition 4.1），将Wasserstein距离分解为平滑偏置、低频项和高频项。分别控制各项（Lemmas 4.3-4.6），得到显式依赖b的界（Theorem 4.7）。优化带宽h得到简洁形式（Corollary 4.8）。 3. Hellinger速率：将NPMLE的似然比函数嵌入凸类，利用凸包熵界（Proposition C.3）和van de Geer [35]的凸类最大似然理论，得到观测密度的Hellinger速率（Theorem 5.1）。 4. 速率转化：将Hellinger速率转化为L1速率（||p-q||_1 ≤ 2√2 H(p,q)），代入反卷积不等式，得到Wasserstein速率（Corollary 5.2）。 5. 不可能性：构造两个难以区分的点分布，利用Bretagnolle-Huber不等式证明下界（Theorem 5.4）。

关键跳跃点： - 支撑约化：从一般的NPMLE支撑特征（Lemma 3.1）到具体的投影观测集（Theorem 3.2），关键在于证明 D_{bg_n}(µ) 在投影观测点之间是严格凸的。这依赖于Laplace核的指数形式 exp(-|x-µ|/b) 的二阶导数为正。 - 高频项控制（Lemma 4.5）：得到 ||K_{2,h,b}||_1 ≲ b^2 |log(h/b)| h^{-1} 这一关键界。这需要精细的傅里叶分析，将尺度b的影响通过变量替换 u = bt 分离出来，然后应用Rousseau & Scricciolo [30]的单元尺度结果。 - Hellinger速率中的指数因子：(1 + a/b)^{1/4} e^{a/(2b)} 来自包络界（Lemma C.1）和凸包熵界（Proposition C.3）。这个因子在b很小时（强隐私）会爆炸，表明速率可能不紧。

技术技巧点名： - 支撑特征引理（Lemma 3.1）：来自Polyanskiy & Wu [28]，是分析NPMLE支撑结构的标准工具。 - 频率分裂反卷积（Proposition 4.1）：来自Rousseau & Scricciolo [30]，是处理反卷积问题的通用傅里叶方法。 - 凸包熵界（Lemma C.2）：来自van de Geer [35]，用于控制混合分布类的复杂度。 - Bretagnolle-Huber不等式（Lemma C.4）：用于构造下界，是区分两个概率测度的标准工具。 - 变量替换（u = bt）：在Lemmas 4.4和4.5中，将尺度b的影响从傅里叶域中分离出来，使得可以复用单元尺度的结果。

真实例子与应用

本文有数值实验（Section 6），但没有真实数据例子。实验使用合成数据，目的是验证理论速率的定性行为，而非展示实际应用。

  • 数据/场景：三种潜在分布 g_0：离散三点分布、连续Beta分布、混合Beta-原子分布。支撑设为 [-3, 3]。样本量n从50到2000，隐私预算ϵ从0.1到20。
  • 方法应用：使用Algorithm 1（EM算法）计算NPMLE bg_n。
  • 结果：
    • 图1和2：W_1(bg_n, g_0) 随n增大而减小，随ϵ增大而减小，与理论定性一致。
    • 图3：活跃支撑集大小随n和ϵ增大而增长，且在对数-对数坐标下呈线性，暗示多项式增长，远快于高斯情况下的对数增长。
    • 图4：当噪声增长指数 α ≤ 3/16 时，误差稳定下降；当 α ≥ 1/2 时，误差不再下降甚至上升，与理论临界条件定性吻合。
  • 实验想说明什么：
    • 验证了Wasserstein速率的定性行为（n和ϵ的影响）。
    • 揭示了Laplace NPMLE支撑集大小的独特行为（与高斯情况不同），为未来理论研究提供了实证线索。
    • 展示了噪声增长临界条件（α = 3/16 vs. α = 1/2）在有限样本下的表现。

🔎 结论是否比证明窄

  • 是。论文的Wasserstein速率 O_p(n^{-3/16} √(log n)) 是在固定a和b的假设下严格证明的（Corollary 5.2）。然而，在推论5.3中，作者将这一结果推广到b随n变化的情形，并给出了 b_n = o(n^{3/16} (log n)^{-1/2}) 的一致性条件。这个推广是非平凡的，因为它依赖于反卷积不等式（Theorem 4.7）中b的显式依赖，而Hellinger速率（Theorem 5.1）中的指数因子 e^{a/(2b)} 在b_n增长时趋于1，因此不影响速率。但严格来说，Corollary 5.3的证明中假设了 b_n 非降，且 r_n ≍ n^{-3/8}，这需要 (1 + a/b_n)^{1/4} e^{a/(2b_n)} 有界，当b_n增长时确实成立。因此，这个推广是严格证明的，并非泛化claim。
  • 更窄的方面：定理5.4（不可能性）只针对均匀一致恢复，即要求对所有 g ∈ P([-a, a]) 都成立。对于更小的子类（如光滑分布），下界可能更弱。作者在结论中明确提到了这一点（“uniformly consistent recovery over P([-a, a])”），没有过度泛化。
  • 实验部分：作者在讨论支撑集大小时，明确表示“We do not interpret these experiments as identifying a precise asymptotic law”，态度谨慎。

四、开放问题

  1. 缩小速率缺口：本文给出了NPMLE一致性的充分条件（b_n = o(n^{3/16})）和必要条件（b_n = O(√n) 时不可能）。两者之间存在巨大缺口（n^{3/16} vs. n^{1/2}）。要证什么：确定使NPMLE（或任何估计量）一致的精确临界速率。扎根于：Corollary 5.3与Theorem 5.4之间的缺口，以及结论中的“The most immediate is to close the gap between the n^{-3/16} rate sufficient for consistency and the n^{-1/2} rate necessary for consistency.”

  2. Laplace NPMLE的支撑集大小：高斯混合下NPMLE支撑集大小为O(log n) [28]，但本文实验显示Laplace混合下增长更快（多项式）。要证什么：证明Laplace NPMLE支撑集大小的上界（或下界），并解释其与高斯情况的差异。扎根于：结论中的“Another important direction is to sharpen the support size of the NPMLE under the Laplace convolution model... Our empirical results suggest that the support size grows faster than logarithmically, indicating a difference between the Gaussian and Laplace settings.”

  3. 多维扩展：本文所有结果均在一维情形下建立。要算什么：将支撑约化定理和Wasserstein收敛分析推广到d维。作者指出，支撑候选集将呈指数增长（n^d），且Wasserstein距离不再有简单的L1积分形式。扎根于：结论中的“Finally, it is of interest to extend the analysis beyond bounded latent spaces and beyond one dimension... the candidate set is the Cartesian product of the coordinate-wise projected observations and therefore grows exponentially with the dimension.”

  4. 更紧的Hellinger速率：定理5.1中的指数因子 e^{a/(2b)} 在b很小时（强隐私）会爆炸，这可能是非紧的。要证什么：在潜在分布具有额外光滑性（如密度存在）时，能否得到更优的Hellinger速率，从而改善Wasserstein速率？扎根于：Theorem 5.1证明后的讨论：“This bound is not expected to be tight in the small noise regime when b goes to 0. Sharper control may be possible under additional structure on g_0, such as smoothness of the latent density.”

Maintained by 陈星宇 · Homepage · Source on GitHub

评论