跳转至

Minimax signal detection in regression under differential privacy

作者: Elly K. H. Hung
主题: 数理统计 / 假设检验
相关性: 8/10
链接: https://arxiv.org/abs/2611.04064


一、领域脉络与小综述

  • 这个方向是什么:本文研究的是在差分隐私(Differential Privacy, DP)约束下,高维回归模型中全局假设检验(即信号检测)的极小极大分离率(minimax separation rate)。核心科学问题是:当数据发布需满足 (ε,δ)-中心差分隐私时,检测回归系数 β 是否为零(H₀: β=0)所需的最小信号强度 r* 是多少?这个方向处于"差分隐私统计推断"与"高维假设检验"的交叉前沿,其成熟度较低——作者在引言中明确指出,据其所知,"minimax signal detection in regression under differential privacy remains largely unresolved"(第 1 节,第 2 段)。该问题的根本困难在于:隐私噪声的注入会与高维统计中的维数灾难、稀疏性结构以及未知 nuisance 参数(如误差分布、截距)产生复杂的相互作用。

  • 发展脉络(history):

    • 奠基工作:非私有回归检验。作者以 Ingster et al. (2010) 为起点,该工作确立了在无隐私约束下,高斯线性模型中信号检测的极小极大分离率。作者引用其结论:在稠密各向同性高斯线性模型中,检测率约为 d^{1/4}/√n(第 1 节,第 1 段)。这一结果奠定了"检测率远快于估计率(√(d/n))"的经典认知,也是本文所有比较的基准。
    • 关键进展:私有均值检验。作者将 Narayanan (2022) 视为最直接的理论基石。该工作解决了高维高斯均值在中心 DP 下的极小极大检测问题,给出了与本文密切相关的速率。作者在引言中明确表示,其"mean-reduction test"正是"reduces regression testing to mean testing"(第 1 节,第 3 段),并直接借鉴了 Narayanan 的"typical set"与 Lipschitz extension 技术(第 4.1 节)。Narayanan (2022) 留下的口子是:它只处理了均值问题,未涉及回归中的 nuisance 参数(如误差分布、截距)和协变量结构。
    • 当前 frontier:私有非参数检验与计算效率。作者引用了两条近期脉络:一是 Kim and Schrab (2026) 的私有置换检验(用于非参数两样本检验),二是 Cai et al. (2024) 的联邦 DP 非参数检验框架。这两条线代表了从"参数模型"向"非参数/分布检验"的拓展,但作者指出它们"do not directly address the regression setting with unknown nuisance parameters"(第 1 节,第 4 段)。此外,作者还引用了 Chaudhuri et al. (2024) 的 local Hájek 机制,这是其构造多项式时间算法的关键工具,代表了"计算效率与统计最优性兼顾"这一当前 frontier 的关注点。
    • 本文的位置:作者将本文定位为上述脉络的汇聚点——将 Narayanan (2022) 的私有均值检验理论推广到带 nuisance 的回归框架,同时利用 Chaudhuri et al. (2024) 的机制实现多项式时间算法,并填补了"稀疏性如何与隐私交互"这一空白。
  • 子线索聚类:被引文献大致落在三条子线索上:

    1. 私有假设检验的极小极大理论(Narayanan, 2022; Acharya et al., 2021; Canonne et al., 2019):这条线关注"在 DP 约束下,检验问题的最优样本复杂度/分离率是多少",核心工具是 f-DP、Le Cam 方法、Assouad 方法等。本文的 Theorem 3 下界证明直接继承此脉络。
    2. 私有估计与推断的算法设计(Chaudhuri et al., 2024; Nissim et al., 2007; Dwork & Roth, 2014):这条线关注"如何设计计算上可行且满足 DP 的统计机制",核心工具是 Laplace 机制、指数机制、局部敏感性、Hájek 估计等。本文的 Algorithm 2 和 3 属于此脉络。
    3. 高维稀疏回归的检验与估计(Ingster et al., 2010; Carpentier et al., 2022; Mukherjee et al., 2015):这条线关注"无隐私时,稀疏回归中检测与估计的速率",核心工具是稀疏 Rademacher 复杂度、阈值化、U-统计量。本文的稀疏协方差检验(Proposition 9)和 lower bound 构造(Lemma 25)依赖此脉络。
  • 这个方向在追问的核心问题(2-4 个):

    1. 隐私的"价格":在给定隐私预算 (ε,δ) 下,检测率相比非私有情形恶化多少?本文给出的答案是:稠密情形下,隐私项 (nε)^{-1} 与统计项 d^{1/4}/√n 取最大(Theorem 3)。
    2. Nuisance 参数的影响:未知的误差分布或截距是否从根本上改变检测率?本文的贡献在于证明:对于二元响应 GLM,nuisance 截距可以被"吸收",不改变速率;但对于多元响应,截距会引入额外项。
    3. 稀疏性的作用:当信号稀疏(s* << d)时,检测率能否从 d^{1/4} 改进到 s^{1/4}?本文证明可以,但隐私项变为 (nε)^{-1} 与 s log(ed/s*)/n 的平衡。
    4. 计算与统计的权衡:是否存在多项式时间算法达到极小极大速率?本文在 ε ≳ n^{-1/2} 时给出了肯定的回答,但在更强隐私下留下开放问题。
  • ⚠️ 作者的 framing(必须明确标注成"这是作者的说法"):作者在引言中把缺口 frame 成:"the minimax separation rates for private signal detection in regression remain largely unresolved"(第 1 节,第 2 段)。他通过三个步骤构建自己的"显然的下一步":(i) 将 Narayanan (2022) 的均值检验推广到回归;(ii) 引入 nuisance 参数并展示其影响;(iii) 构造多项式时间算法。被淡化或回避的竞争路线:(a) 作者回避了"局部 DP"或"洗牌模型"等更宽松的隐私模型,只聚焦中心 DP;(b) 作者回避了"自适应检验"(即不知道稀疏度 s* 时的检验),其算法需要知道 s* 的上界;(c) 作者对"非参数回归"(如 RKHS 方法)只字未提,尽管 Kim and Schrab (2026) 已涉及非参数检验。什么明显该被引却没出现:作者未引用 Wasserman & Zhou (2010) 关于非参数检验 minimax 的工作,也未引用 Bun, Nissim & Stemmer (2019) 关于私有稀疏均值估计的 lower bound——这两篇若被引用,可能对"稀疏私有检验"的 lower bound 有直接影响。

  • 张力:被引文献之间未见明显对立结论。但存在一个微妙的张力:Narayanan (2022) 的私有均值检验在稠密情形下达到 d^{1/4}/√n + (nε)^{-1},而本文的 Theorem 3 显示回归情形下稠密速率相同,但稀疏情形下(s* << d),本文的速率 s*^{1/4} 比直接套用 Narayanan 的 d^{1/4} 更快——这暗示"稀疏性在回归检验中比在均值检验中更有价值"。另一个张力:Chaudhuri et al. (2024) 的 local Hájek 机制在估计问题中通常只损失 polylog 因子,但本文的 Algorithm 2 在 ε ≲ n^{-1/2} 时无法达到最优速率,说明"检验问题"可能比"估计问题"对隐私更敏感。


二、最核心、最简单的例子 / 数学问题

第一步:把符号、模型、可观测数据交代清楚

  • 符号:
  • n:样本量(正整数)。
  • d:协变量维度(正整数)。
  • s*:真实信号 β 的稀疏度,即非零坐标个数(1 ≤ s* ≤ d)。
  • β ∈ R^d:回归系数向量,是待检验的参数(estimand)。H₀: β=0。
  • X ∈ R^d:协变量向量(随机),满足 E[X]=0,E[XX^T] ⪯ λI(λ 为上界常数)。
  • Y ∈ R:响应变量(随机)。
  • ξ:误差项(线性回归)或随机噪声(GLM),分布未知。
  • γ ∈ Γ:GLM 中的未知截距(nuisance 参数),Γ 为紧区间。
  • ν ∈ N:所有 nuisance 参数的集合(包括误差分布、截距等)。
  • ε, δ:差分隐私参数(ε > 0, δ ≥ 0)。
  • r:信号强度(即 ∥β∥₂ 的下界),是分离率中的关键变量。
  • **ϱ_{s,d}*:由公式 (4) 定义的速率函数,包含统计项与隐私项。
  • ℓ_{n,d,ε}:对数因子,定义为 1 + log{(n+1)(d+1)(1+ε^{-1})}。
  • P_{β,ν}:给定 β 和 nuisance ν 下的联合分布。
  • P₀:零假设下的分布(β=0)。
  • Z_i := X_i tanh(Y_i):变换后的观测(Lemma 6 中定义),用于构造均值检验。
  • D_{Ham}:汉明距离(数据集之间)。
  • T(D):检验统计量(可依赖数据 D)。
  • ϕ:检验决策规则(ϕ=1 拒绝 H₀)。
  • W, W₁, W₂:Laplace 噪声变量。
  • R_a(y):GLM 响应分布的二阶似然残差(公式 8 中定义)。
  • g_a(y):响应-only 检验的核函数(Lemma 10 中构造)。

  • 模型:

  • 线性回归:Y = X^T β + ξ,其中 ξ 分布未知,仅假设 P(|ξ| ≤ M_ξ) ≥ p_ξ(有界概率质量)。
  • 广义线性模型(GLM):Y 的条件分布属于单参数自然指数族,线性预测子为 γ + X^T β,其中 γ 为未知截距。响应分布由公式 (3) 给出,满足 Assumption 3 的正则性条件(光滑性、非退化性)。

  • 可观测数据:研究者观测到 n 个独立同分布样本 {(X_i, Y_i)}_{i=1}^n。关键点:β 和 ν(包括误差分布、截距 γ)都是未知的。在零假设下,Y 与 X 独立;在备择假设下,Y 依赖于 X^T β。不可观测:β 本身、误差分布的具体形式、截距 γ 的真实值。隐私约束:任何发布的检验统计量 T(D) 必须满足 (ε,δ)-中心差分隐私,即对任意相邻数据集(相差一个样本),输出的分布变化受 ε,δ 控制。

第二步:讲最小内核

最小内核:考虑最简单的稠密线性回归情形——d 固定(不随 n 增长),误差 ξ 分布未知但满足有界概率质量假设,且没有截距(γ=0)。此时,检验问题退化为:

给定 n 个样本 {(X_i, Y_i)},在 (ε,δ)-DP 约束下,检验 H₀: β=0 对 H₁: ∥β∥₂ ≥ r,其中 r 尽可能小。

为什么这个例子是内核:因为它剥离了稀疏性(s*=d)、nuisance 截距(γ=0)和 GLM 复杂性(退化为线性),只保留"隐私 + 未知误差分布 + 高维方向不确定性"这三个核心困难。本文 Theorem 3 的稠密速率 d^{1/4}/√n + (nε)^{-1} 在这个例子中就能完全体现。

在这个特例下,核心命题退化为:

存在一个 (ε,δ)-DP 检验 ϕ,使得当 r ≥ C·ℓ³_{n,d,ε}·(d^{1/4}/√n + 1/(nε)) 时,第一类错误和第二类错误之和 ≤ 1/3;同时,任何 (ε,δ)-DP 检验在 r ≤ c·(d^{1/4}/√n + 1/(nε)) 时都无法区分 H₀ 和 H₁。

证明思路(为什么成立):

  1. 下界(不可能性):核心是构造两个难以区分的分布。取 β₁ = (r, 0, ..., 0)(信号集中在一个坐标)。在非私有情形下,经典结果(Ingster et al., 2010)表明,当 r << d^{1/4}/√n 时,任何检验都无法区分 β=0 和 β=β₁,因为似然比检验的误差下界由 χ² 散度控制。在私有情形下,需要额外处理隐私约束:利用 Assouad 或 Le Cam 方法,将问题嵌入到"私有均值检验"的框架中。关键技巧是构造一个耦合:将两个相邻数据集(一个来自 H₀,一个来自 H₁)通过隐私机制联系起来,利用 DP 的 group privacy 性质(Acharya et al., 2021, Lemma 15)将检验误差下界转化为对隐私噪声的约束。具体地,若 r << 1/(nε),则隐私噪声的尺度远大于信号,任何检验都无法区分;若 r << d^{1/4}/√n,则统计噪声(由 d 维方向不确定性导致)淹没信号。

  2. 上界(可构造性):核心是均值约化。定义 Z_i = X_i tanh(Y_i)。在 H₀ 下,E[Z] = 0;在 H₁ 下,∥E[Z]∥₂ ≥ c·min{∥β∥₂, 1}(Lemma 6)。于是检验问题转化为"私有均值检验":检验 E[Z]=0 对 ∥E[Z]∥₂ ≥ c·r。此时,采用 Narayanan (2022) 的框架:

  3. 构造一个典型集 D_{n,s,L},其中样本满足一定的集中不等式(公式 10-11)。
  4. 定义统计量 Q(Z_{1:n}) = Σ_{i≠j} Z_i^T Z_j,其期望在 H₁ 下为 n(n-1)∥E[Z]∥₂²。
  5. 利用 McShane 扩展(公式 13)将 Q 延拓为全空间上的 Lipschitz 函数,并证明其在典型集上的 Lipschitz 常数有界(Lemma 7)。
  6. 对扩展后的函数施加 Laplace 机制(公式 14),噪声尺度为 D/ε₀,其中 D 是 Lipschitz 常数。
  7. 通过典型集概率(Lemma 23)和浓度不等式控制误差,最终得到分离率 r ~ d^{1/4}/√n + 1/(nε)。

为什么这个内核能推广:当引入稀疏性(s* < d)时,只需将均值检验替换为稀疏均值检验(Proposition 9),利用坐标最大统计量 T = max_j |(1/n)Σ_i [X_{ij}] tanh(Y_i)|,其统计项变为 √(s* log(ed/s*)/n)。当引入 nuisance 截距 γ 时,对于二元响应 GLM,截距只影响一阶矩,而检验利用的是二阶信息(R_a 和 g_a),因此可以通过正交化(公式 19)消除截距的影响。对于多元响应,截距会与二阶信息耦合,导致额外的 d/n 项。


三、这篇论文做了什么

三句话

  1. 研究了什么问题:在 (ε,δ)-中心差分隐私约束下,线性回归(误差分布未知)和广义线性模型(截距未知)中全局信号检测的极小极大分离率,并构造自适应于未知稀疏度的检验。
  2. 核心工具/方法:将回归检验约化为私有均值检验(通过 tanh 变换),结合典型集、McShane 扩展、Laplace 机制构造私有检验;利用 Assouad 方法和耦合论证建立下界;对 GLM 构造基于二阶似然残差的响应-only 检验。
  3. 主要结论:稠密情形下,线性回归和二元响应 GLM 的分离率为 ϱ_{s,d} = min{d^{1/4}/√n + 1/(nε), √(s/n)}(至多差 polylog 因子);多元响应 GLM 的分离率为 min{d^{1/4}/√n + 1/(nε), √(s*/n) + d/n}。当 ε ≳ n^{-1/2} 时,存在多项式时间检验达到该速率。

关键设定与假设

  • Assumption 1(协变量分布):E[X]=0,λI ⪯ E[XX^T] ⪯ λI,且 X 为次高斯向量。这保证了协变量的谱范数有界,是浓度不等式成立的基础。相比已有文献(如 Narayanan, 2022 假设已知协方差),这里允许未知协方差,但通过 λ 和 λ 控制其范围。
  • Assumption 2(线性回归误差):仅假设 P(|ξ| ≤ M_ξ) ≥ p_ξ,即误差有界概率质量。这是本文最宽松的假设之一——不要求误差对称、零均值或有限矩,只要求有界概率质量。这使得检验对重尾误差具有鲁棒性,但也导致检验统计量必须使用 tanh 变换来截断。
  • Assumption 3(GLM 正则性):自然指数族满足光滑性(ϑ ∈ C³)、非退化性(|ϑ'| ≥ c > 0)和矩条件。这保证了局部似然展开的可行性。相比已有文献(如 Peña & Barrientos, 2024 假设高斯误差),这里允许更一般的指数族,但要求 ϑ 全局单调。
  • 隐私模型:中心 DP,即数据集中器可以访问原始数据,但发布的检验统计量必须满足 (ε,δ)-DP。δ 被限制为 δ ≤ c_δ·ε,且 δ 远小于 1/n,这排除了"平凡隐私"(即 δ 过大导致隐私约束失效)。
  • 稀疏性:信号 β 的支撑集大小 s* 未知,但检验必须自适应于 s。作者假设 s ≤ d,且 s* 可以随 n 增长。

主要结果

Theorem 3(主定理):给出了分离率的上下界,至多差 polylog 因子。具体地:

  • 线性回归:r* ≍ log min{d^{1/4}/√n + 1/(nε), √(s*/n)}。
  • 二元响应 GLM:与线性回归相同。
  • 多元响应 GLM:r* ≍ log min{d^{1/4}/√n + 1/(nε), √(s*/n) + d/n}。

关键观察: 1. 稠密 vs 稀疏:当 s* 接近 d 时,稀疏项 √(s/n) 与稠密项 d^{1/4}/√n 可比;当 s << d 时,稀疏项显著更小,说明稀疏性可以降低检测难度。 2. 隐私的代价:当 ε 很小(隐私强)时,1/(nε) 项主导,检测率退化为 1/(nε),与维度无关——这反映了隐私噪声的"均匀性"。 3. Nuisance 的影响:二元响应 GLM 的截距不改变速率(因为可以通过正交化消除),但多元响应的截距引入 d/n 项,说明 nuisance 的维度会影响检测。

Proposition 9(稀疏检验):构造了基于坐标最大统计量的检验,其分离率为 √(s* log(ed/s)/n) + log(1/η)/(nε),自适应于未知 s,且不需要知道 s* 的先验。

Proposition 11(响应-only 检验):构造了基于二阶似然残差的检验,其分离率为 n^{-1/4} + (nε)^{-1/2},不依赖于维度 d,适用于 d >> n 的情形。

Proposition 12(多项式时间检验):利用 local Hájek 机制构造了 O(dn² log n) 时间的检验,在 ε ≳ n^{-1/2} 时达到 Theorem 3 的速率。

证明路线与技术技巧

下界证明(Theorem 3 lower bound): 1. 约化到私有均值检验:通过构造特定的协变量分布(如 X 为 Rademacher 或高斯),将回归检验问题约化为"私有稀疏均值检验"问题。这一步的关键是 Lemma 6,它保证了 tanh 变换后均值的变化与 β 的范数成正比。 2. Assouad 方法:在稀疏均值检验中,构造 2^{s} 个候选均值向量(每个坐标 ±r/√s),利用 Assouad 的 Fano 不等式变体,将检验误差下界转化为对"最坏情况对"的 χ² 散度下界。 3. 耦合论证:利用 Acharya et al. (2021) 的 Lemma 15,将 DP 约束转化为对"相邻数据集"的耦合约束。具体地,若两个数据集相差 k 个样本,则任何 (ε,δ)-DP 机制的输出分布之间的总变差距离受 e^{εk} 控制。通过构造一个"中间数据集"序列,将 H₀ 和 H₁ 的分布连接起来,得到检验误差的下界。 4. 关键不等式:利用 Pinsker 不等式和 χ² 散度的张量性质,将 KL 散度分解为"统计项"(由样本量 n 和信号强度 r 决定)和"隐私项"(由 ε 和 n 决定)。最终得到 r* ≥ c·(d^{1/4}/√n + 1/(nε))。

上界证明(Theorem 3 upper bound): 1. 均值约化:利用 Lemma 6 将回归检验转化为均值检验,定义 Z_i = X_i tanh(Y_i)。 2. 典型集构造:定义 D_{n,s,L} 为满足集中不等式的数据集集合(公式 10-11),证明其概率至少为 1-η/2(Lemma 23)。 3. McShane 扩展:将统计量 Q 限制在典型集上,并证明其在典型集上的 Lipschitz 常数有界(Lemma 7)。然后利用 McShane 扩展定理(Lemma 38)将其延拓为全空间上的 Lipschitz 函数。 4. Laplace 机制:对扩展后的函数施加 Laplace 噪声,噪声尺度为 D/ε₀,其中 D 是 Lipschitz 常数。这保证了 (ε₀,0)-DP。 5. 多尺度组合:将检验在 dyadic 网格上运行,每个尺度分配隐私预算 ε/J,通过 union bound 控制总误差。最终得到分离率 r* ≤ C·ℓ³_{n,d,ε}·ϱ_{s*,d}。

GLM 响应-only 检验(Proposition 11): - 核心技巧:构造满足 E₀[g_a(Y)] = 0 和 E_{β,γ}[g_a(Y)] ≥ c·min{∥β∥₂², 1} 的函数 g_a(Lemma 10)。这需要利用似然比展开和 nuisance 正交性(公式 19)。 - 关键步骤:先估计 nuisance 截距 γ(使用 tanh 变换的均值),然后构造基于 g_a 的 U-统计量,最后施加 Laplace 噪声。由于 g_a 有界,U-统计量的敏感度有界,从而保证 DP。

真实例子与应用

本文包含数值实验(第 5 节),但没有真实数据应用。实验设置如下:

  • 数据生成:线性回归模型,X_i ~ N(0, I_d),d ∈ {50, 500},误差 ξ_i 分别取 N(0,1) 和 Cauchy(0,1)(后者用于验证鲁棒性)。GLM 实验使用指数回归(响应为 Exp(exp(γ + X^T β)))。
  • 对比方法:本文的 Algorithm 2(多项式时间均值检验)、Algorithm 1(响应-only 检验)、以及现有方法 dpHSIC(Kim & Schrab, 2026)、ToT-F(Kazan et al., 2023)、PB-LRT(Peña & Barrientos, 2024)。
  • 主要结果:
    1. 在稠密线性回归(d=500, s*=d)下,Algorithm 2 的检验误差显著低于 dpHSIC 和 ToT-F,尤其在 ε 较小时优势明显(图 1)。
    2. 在稀疏线性回归(s*=1)下,Algorithm 2 与坐标检验(Proposition 13)性能接近,但坐标检验计算更快(图 3)。
    3. 在指数回归(d=50)下,响应-only 检验(Algorithm 1)在高维(d > n)时仍能保持较低误差,而其他方法失效(图 4)。
    4. 对 Cauchy 误差,Algorithm 2 的性能几乎不变,而基于高斯假设的 PB-LRT 误差显著上升(图 2 左)。
  • 实验想说明什么:验证理论分离率的可达性,展示本文方法在重尾误差和高维场景下的鲁棒性,以及计算效率(多项式时间 vs 指数时间)。

🔎 结论是否比证明窄

  • Theorem 3 的稠密情形:上界和下界匹配至 polylog 因子,结论与证明一致。
  • Theorem 3 的稀疏情形:上界和下界匹配至 polylog 因子,但下界证明中假设协变量为高斯或 Rademacher,而上界证明允许更一般的次高斯协变量。作者在附录 A.4 中承认,对于一般次高斯协变量,下界可能不紧(第 A.4 节,第 2 段)。
  • Proposition 11(响应-only 检验):上界证明要求 ∥β∥₂ ≤ r₀(局部邻域),但结论被表述为"对于所有满足 r ≤ ∥β∥₂ ≤ r₀ 的备择假设"。作者在定理陈述中明确标注了 r₀ 的存在,但没有给出 r₀ 的显式下界(第 4.3 节,定理 11 后)。
  • 多项式时间检验(Proposition 12):上界证明要求 ε ≳ n^{-1/2},但作者在讨论中推测该条件可能不是本质的(第 5 节,第 2 段),并指出"whether the additional privacy costs in (28) and (29) reflect fundamental computational-statistical gaps or are an artefact of our test constructions"(第 6 节,第 1 段)——这是一个明确的 conjecture,而非证明。
  • 自适应于 s:上界检验(Proposition 9)不需要知道 s,但下界证明假设 s* 已知。作者在附录 F 中给出了稀疏均值检验的自适应版本,但未证明其达到 Theorem 3 的速率(第 F 节,第 1 段)。

四、开放问题

  1. 计算-统计差距:作者在讨论中明确问道:"whether the additional privacy costs in (28) and (29) reflect fundamental computational-statistical gaps or are an artefact of our test constructions"(第 6 节,第 1 段)。具体地,在 ε ≲ n^{-1/2} 时,是否存在多项式时间检验达到极小极大速率?这需要证明或否定一个计算复杂性下界,可能涉及低次多项式方法或 SQ 下界。

  2. 自适应检验的极小极大性:附录 F 给出的稀疏均值检验自适应版本,其分离率是否达到 Theorem 3 的下界?作者未给出证明。一个具体问题是:当 s* 未知时,是否存在一个检验同时达到所有 s* 的最优速率(即自适应 minimax)?

  3. 非参数回归的推广:本文仅处理了参数回归(线性与 GLM)。将结果推广到非参数回归(如 RKHS 或加性模型)时,分离率如何变化?隐私噪声与函数空间的交互是否会产生新的现象?

  4. nuisance 的维度效应:本文仅考虑了一维 nuisance(截距 γ)。当 nuisance 是高维时(如高维协变量调整),分离率如何变化?这涉及到"高维 nuisance 下的私有推断"这一更广泛的问题。

  5. 局部 DP 与洗牌模型:本文仅考虑中心 DP。在局部 DP 或洗牌模型下,分离率是否会显著恶化?已有文献(如 Pensia et al., 2023)表明局部 DP 下检验问题可能更难,但回归场景尚未被研究。

  6. 有限样本精确常数:本文的分离率仅精确到 polylog 因子和常数。对于实际应用,需要知道有限样本下的精确常数,这可能需要更精细的浓度不等式或 Edgeworth 展开。


顺带提醒:要确认上述问题是否是真 gap,建议去读以下子领域的近期论文(各约 5 篇)的引言: - "private hypothesis testing minimax"(确认问题 1 和 2 是否已被解决) - "differential privacy nonparametric regression"(确认问题 3 是否已有进展) - "local differential privacy high-dimensional inference"(确认问题 5 是否已有结果)

如果这些论文的引言都指向同一个未解决问题,那就是共识性 gap;如果它们互相矛盾(例如有的声称已解决、有的声称未解决),那更值得深挖。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论