跳转至

Sieve Estimation of Optimal Transport Maps from Paired Data in Gaussian Spaces

作者: Xin Jin, Kit Chan, Riddhi Pratim Ghosh
主题: 非参数 / 半参数
相关性: 7/10
链接: https://arxiv.org/abs/2609.09089

一、领域脉络与小综述

这个方向是什么：本文属于「最优传输（OT）映射的统计估计」这一子方向，但落在更特殊、也更少人涉足的位置：状态空间为无穷维 Hilbert 空间、参考测度为高斯测度、观测为配对噪声数据。根本科学问题是：给定从源分布 π₀ 到目标分布 π₁ 的 OT 映射 T（在 Cameron–Martin 梯度形式 T = I + ∇_H φ 下），如何从有限个配对样本 {(Xᵢ, Yᵢ)} 中估计 T，并刻画估计误差随样本量 N 和保留坐标数 d_N 的衰减速率。配对观测将问题转化为结构化函数回归——回归函数被约束为某个势函数的 Cameron–Martin 梯度——而非经典的"从两组独立样本估计映射"的设置。该问题的应用动机来自贝叶斯逆问题中的不确定性量化（Stuart, 2010）：高斯先验到后验的 transport 是这类问题的核心对象，而配对数据天然出现在"同一输入先验样本及其后验响应"的模拟场景中。

发展脉络：introduction 将文献梳理为三条线。第一条是有限维 OT 映射估计的 minimax 理论：Hütter & Rigollet (2021) 在光滑势函数类上建立了 minimax 率，Manole et al. (2021) 发展了插件估计，Ding et al. (2024) 和 Divol et al. (2025) 进一步推广到更一般的函数空间与更弱的假设。第二条是无限维/函数空间中的 OT 理论：Feyel & Üstünel (2004) 建立了高斯空间上 OT 的存在性与 Cameron–Martin 结构，González-Sanz et al. (2023) 补充了正则性理论，Ponnoprat & Imaizumi (2025) 首次在无穷维设置下获得多项式估计率。第三条是计算与表示：Baptista et al. (2024) 研究三角映射的参数化与学习，Kerrigan et al. (2023) 将扩散生成模型推广到函数空间，Zhu et al. (2024) 处理函数型数据的 OT 正则化。本文的位置在第二条与第一条的交汇处：在无限维空间中，从配对数据估计 OT 映射，并给出与有限维理论相匹配的 minimax 率。作者明确指出两个最接近的前作是 Divol et al. (2025)（有限维、非配对、熵数框架）和 Ponnoprat & Imaizumi (2025)（无限维、非配对、坐标光滑性），而本文的配对设置使估计问题从"分布匹配"退化为"回归"，从而可以绕过 OT 特有的对偶复杂性，直接使用经验风险最小化。

子线索聚类：被引文献大致落在四条线索上。(1) OT 映射估计的 minimax 理论（Hütter & Rigollet 2021; Manole et al. 2021; Divol et al. 2025; Ding et al. 2024）：核心工具是势函数的光滑性类、熵数、以及 Wasserstein 距离的稳定性不等式。(2) 无限维 OT 与高斯测度（Feyel & Üstünel 2004; González-Sanz et al. 2023; Ponnoprat & Imaizumi 2025）：核心是 Cameron–Martin 空间、高斯测度的拟不变性、以及坐标加权光滑性。(3) OT 的计算表示（Baptista et al. 2024; Kerrigan et al. 2023; Zhu et al. 2024）：三角映射、神经网络、函数空间生成模型——这些工作关心"如何参数化与优化"，而非统计效率。(4) 回归视角的 OT（Ghodrati & Panaretos 2022, 2023; Chen et al. 2023; Bunne et al. 2022）：将 OT 映射视为分布间回归或条件均值对象，但配对对象是分布而非个体样本。本文属于第 (2) 与第 (4) 条的交叉，但将配对单位从"分布"降为"个体样本"。

这个方向在追问的核心问题：(a) OT 映射的可估性由什么决定——是势函数的光滑性、参考测度的谱结构、还是观测的配对方式？(b) 无穷维中"维数灾难"如何量化——是坐标数 d_N 的代数增长，还是 Cameron–Martin 范数的某种加权？(c) 配对数据相比非配对数据，在统计率上能带来多少增益？(d) 估计器是否需要保持 OT 映射的结构（如单调性、梯度形式），还是可以像本文一样放弃结构、只保留梯度表示？

⚠️ 作者的 framing：作者把缺口 frame 成"配对数据 + 高斯参考 + 圆柱筛"这一特定组合的缺失。introduction 强调两点：一是现有无限维工作（Ponnoprat & Imaizumi 2025）处理非配对样本，需要估计两个边际分布，而配对数据直接给出逐点的 transport 信息；二是现有有限维工作（Divol et al. 2025）的熵数框架在无穷维中不再直接适用，需要新的光滑性概念。作者将"光滑性"定义为输出坐标的加权衰减（W^s 类，Definition 3.1），而非传统的 Sobolev 光滑性，这是他们为绕过无穷维熵数困难而选择的路径。被淡化或回避的竞争路线包括：entropic OT 估计（Pooladian & Niles-Weed 2021，计算可行但偏差难以控制）、神经网络参数化（Baptista et al. 2024，缺乏统计保证）、以及非高斯参考测度（本文的高斯假设是 Cameron–Martin 梯度和 Poincaré 不等式的关键，作者在 Section 8 承认推广到非高斯是开放的）。

张力：被引文献之间未见明显对立结论，但存在一个值得注意的张力：Divol et al. (2025) 的框架强调势函数类的一般性（熵数条件），而本文的 W^s 类是坐标加权的，两者在有限维中可互相翻译，但在无穷维中，坐标加权光滑性比熵数条件更具体、也更依赖参考测度的谱分解。作者在 Section 4.2 明确承认："Whether the rate is attainable uniformly over all of W^s(B) is left open"——即上界只在更小的对角子类上证明，一般 W^s 类上的最优性未闭合。这是本文结论与证明之间的一个真实 gap，值得研究者注意。

二、最核心、最简单的例子 / 数学问题

第一步：符号、模型、可观测数据

设 (F, ⟨·,·⟩_F) 为可分实 Hilbert 空间，γ 为 F 上中心非退化高斯测度，协方差算子 C_γ : F → F 为自伴、正、迹类算子。Cameron–Martin 空间 H = C_γ^{1/2}(F)，内积 ⟨h,k⟩_H = ⟨C_γ^{-1/2}h, C_γ^{-1/2}k⟩_F。H 在 F 中连续稠密嵌入，且嵌入是紧的（因 C_γ 迹类）。

关键记号： - {φ_k}{k≥1}：C_γ 在 F 中的规范正交特征基，C_γ φ_k = λ_k φ_k，λ_1 ≥ λ_2 ≥ ⋯ > 0，Σ_k λ_k < ∞。 - {e_k}{k≥1}：H 的规范正交基，e_k = √λ_k φ_k。注意 |e_k|_H = 1，而 |e_k|_F = √λ_k。 - ê_k = ⟨·, φ_k⟩_F / √λ_k：第 k 个 Paley–Wiener 泛函。在 γ 下，{ê_k} 是 i.i.d. N(0,1) 随机变量。 - 对 f ∈ F，其坐标 z_k = ê_k(f) = ⟨f, φ_k⟩_F / √λ_k。

模型（Assumption 2.2）：观测 i.i.d. 配对样本 {(Xᵢ, Yᵢ)}_{i=1}^N，其中 Xᵢ ~ π₀ = γ（源分布取为参考高斯）， Yᵢ = T(Xᵢ) + ξᵢ，ξᵢ ~ N(0, σ² C_γ) 独立于 Xᵢ。

目标量：T = I + ∇H φ，其中 φ 是 H-凸势函数，∇_H φ ∈ L²(π₀; H)。估计误差用 L²(π₀; H) 范数度量： ‖T̂ − T‖²{L²(π₀;H)} = ∫_F |T̂(f) − T(f)|²_H dπ₀(f)。

可观测数据的具体形态：对每个样本 i，我们能计算位移坐标 D_{ik} = ⟨Yᵢ − Xᵢ, φ_k⟩F / √λ_k = u_k(Xᵢ) + ξ{ik}，k = 1, 2, … 其中 u_k(f) = ⟨∇H φ(f), e_k⟩_H 是位移的第 k 个 Cameron–Martin 坐标，ξ{ik} ~ N(0, σ²) i.i.d.。注意 D_{ik} 是有限实随机变量（因为 Yᵢ, Xᵢ ∈ F，内积 ⟨·, φ_k⟩_F 有限），尽管 ξ 本身几乎必然不在 H 中。这是本文的关键观察：虽然噪声的 Cameron–Martin 范数几乎必然无穷，但每个坐标投影是良定义的有限量。因此，估计 T 等价于对每个 k 估计函数 u_k: R^d → R（在筛维数 d_N 内），而损失函数（4）是有限维最小二乘准则。

第二步：最小内核——一维高斯情形

取 F = R，γ = N(0,1)，π₁ = N(0, a²)（a > 0）。此时 OT 映射是线性缩放 T(x) = a x。势函数 φ(x) = (a−1)x²/2，Cameron–Martin 梯度 ∇_H φ(x) = (a−1)x（注意 H = R，e₁ = 1）。

数据：Xᵢ ~ N(0,1)，Yᵢ = a Xᵢ + ξᵢ，ξᵢ ~ N(0, σ²)。位移 Dᵢ = Yᵢ − Xᵢ = (a−1)Xᵢ + ξᵢ。

圆柱筛：取 d_N = 1（保留全部坐标），参数 θ ∈ [−2, 2]，候选势函数 g_θ(x) = θ x²/2，候选映射 T_θ(x) = x + θ x = (1+θ)x。经验风险（4）化为 R̂_N(θ) = (1/N) Σᵢ [Dᵢ − θ Xᵢ]²。

最小二乘解： θ̂ = (Σ Xᵢ Dᵢ) / (Σ Xᵢ²) = (a−1) + (Σ Xᵢ ξᵢ) / (Σ Xᵢ²)。

误差分解： ‖T̂ − T‖²_{L²(γ;H)} = E[(θ̂ − (a−1))² X²] = E[(θ̂ − (a−1))²]（因 X ~ N(0,1)）。

条件于设计 {Xᵢ}，θ̂ − (a−1) ~ N(0, σ²/Σ Xᵢ²)，所以 E[(θ̂ − (a−1))²] = σ² E[1/Σ Xᵢ²] ≈ σ²/(N−2)（N > 2）。

这个例子揭示了什么： 1. 配对数据将 OT 估计变成回归：不需要估计 π₀ 或 π₁，只需要回归 D 对 X。 2. 噪声的 Cameron–Martin 范数无穷大不是障碍：坐标投影 Dᵢ 是有限方差 σ² 的实随机变量。 3. 偏差-方差权衡的雏形：如果真实 a 依赖于无穷多坐标（a_k ≠ 1 对无穷多 k），截断到 d_N 个坐标产生偏差 Σ_{k>d_N} (a_k−1)²，而方差项 ≈ σ² d_N/N。平衡两者给出 d_N ≍ N^{1/(2s+1)}，率 N^{-s/(2s+1)}。 4. 结构约束的松弛：θ̂ 可能使 1+θ̂ < 0（非单调），但本文不要求筛元素是 transport 映射——它只要求梯度表示，单调性由势函数的 H-凸性在极限中自动恢复。这是"估计"与"逼近"分离的体现。

三、这篇论文做了什么

三句话： 1. 研究问题：在无穷维 Hilbert 空间、高斯参考测度、配对噪声观测下，估计 OT 映射 T = I + ∇_H φ，误差由 L²(π₀;H) 范数度量。 2. 核心方法：用圆柱筛（cylindrical sieve）将无穷维问题截断为有限维经验风险最小化；筛元素是 Cameron–Martin 梯度映射，不要求单个元素是 transport 映射；通过局部强凸、梯度集中和局部化三步证明 oracle 不等式。 3. 主要结论：在加权坐标光滑性 W^s 下，估计误差以高概率被 ‖T̂ − T‖² ≲ (σ²/N)^{s/(2s+1)} 控制（忽略对数因子），并在对角高斯类和非线性块类上证明匹配的 minimax 下界，从而确立率最优性。

关键设定与假设（在第二节记号基础上补全）：

  • 光滑性类 W^s（Definition 3.1）：位移系数 u_k 满足 Σ_k k^{2s} ‖u_k‖²_{L²(π₀)} ≤ B²。这里 s > 0 是"输出方向"的光滑性指数，k 是 Cameron–Martin 特征值排序指标。注意这是坐标加权光滑性，不是传统的 Sobolev 光滑性；它要求位移在高频 Cameron–Martin 方向上衰减。
  • 可表达性（Assumption 3.1）：对每个 d，存在 θ ∈ Θ_N 使得 ‖T_{θ,N} − T^{(d)}‖_{L²(π₀;H)} ≤ C′ d^{−s}，其中 T^{(d)} 是 T 的 d 坐标截断。这等价于要求筛空间能逼近截断后的真值。
  • 局部强凸（Assumption 3.3）：风险 R_N(θ) 在 θ*_N 附近满足 Hessian 下界 μ_N > 0。这是参数化后的有限维条件，不是原 OT 问题的条件。
  • 梯度集中（Assumption 3.5）：经验梯度与期望梯度的差在 θ*_N 处以 O(L_N √(p_N/(Nδ))) 的概率界成立。L_N 是 Lipschitz 常数，p_N 是参数维数。
  • 局部化（Assumption 3.6）：经验风险最小化者落入 θ*_N 的邻域，概率至少 1−η_N。
  • 噪声模型（Assumption 2.2）：ξ ~ N(0, σ² C_γ)，坐标独立，方差 σ²。注意 ξ 的 Cameron–Martin 范数几乎必然无穷，但坐标投影有限。

主要结果：

Theorem 3.7（oracle 不等式）：在 Assumptions 3.3–3.6 下，对任意 δ ∈ (0,1)，以概率至少 1−δ−η_N−ζ_N， ‖T̂N − T‖²{L²(π₀;H)} ≤ C [(1+σ)² κ_N² L_N² p_N/(N δ) + C_a² d_N^{−2s}]， 其中 κ_N = L_N/μ_N 是条件数，C_a 来自可表达性常数。这个不等式将误差分解为随机误差（第一项，随 p_N 增长）和逼近误差（第二项，随 d_N^{−2s} 衰减）。关键点是随机误差与 σ² 成正比，且不依赖于噪声的 Cameron–Martin 范数——因为损失函数（4）只涉及坐标投影。

Theorem 4.3（minimax 下界）：对 W^s_diag(B)（对角子类），存在常数 c > 0 使得 inf_{T̂} sup_{T∈W^s_diag(B)} E‖T̂ − T‖²_{L²(π₀;H)} ≥ c (σ²/N)^{s/(2s+1)}。 证明使用 Fano 不等式 + Varshamov–Gilbert 超立方体构造，扰动集中在 d ≍ (N/σ²)^{1/(2s+1)} 个坐标上。下界与 Theorem 3.7 的上界匹配（忽略对数因子），因此圆柱筛估计器在 W^s_diag(B) 上是率最优的。

Proposition 6.1 / Theorem 6.2（非线性块类）：块大小为 2 的非线性交互类，势函数 φ = Σ_j a_j ψ(ê_{2j−1}, ê_{2j})，其中 ψ(x,y) = (cos x + cos(x+y))/3。该类的 W^s 范数有界，且 Hessian 条件数 κ_N = O(1)（因为 ∇ψ 有界），因此 Theorem 3.7 直接给出率 (σ²/N)^{s/(2s+1)}。这个例子说明非线性块交互不破坏率最优性，只要块大小固定。

Theorem 6.5（两群混合类）：δ_k = c_k k^{−2ρ}，ρ > 1/2，c_k ∈ [c₋, c₊] ⊂ (0, 1/3]。用 logit 参数化 η_k = logit(δ_k)，在 log-odds 坐标下做网格搜索。关键结果是估计误差的坐标分离：每个坐标的误差只依赖于该坐标的 δ_k 和网格宽度 h，不依赖于其他坐标。选择 d_N ≍ (N/log N)^{1/(2ρ)} 和 h ≍ √(log N/N) 给出率 (log N/N)^{(ρ−1/2)/ρ}。这个例子说明非高斯目标（Laplace 混合）可以通过坐标独立的网格搜索处理，且对数因子来自网格覆盖数。

证明路线与技术技巧：

整体路线（以 Theorem 3.7 为例）： 1. 误差分解：‖T̂ − T‖² ≤ 2‖T̂ − T_N‖² + 2‖TN − T‖²。第二项是逼近误差，由可表达性假设控制为 C_a² d_N^{−2s}。 2. 随机误差控制：对第一项，利用 R_N 的强凸性（Assumption 3.3）将参数误差转化为风险差：μ_N/2 ‖θ̂ − θ_N‖² ≤ R_N(θ̂) − R_N(θ_N)。再由经验风险最小化的基本不等式 R̂_N(θ̂) ≤ R̂_N(θ_N)，得到 R_N(θ̂) − R_N(θ_N) ≤ 2 sup{θ∈Θ_N} |(R̂_N − R_N)(θ) − (R̂_N − R_N)(θ_N)|。 3. 梯度集中：用 Assumption 3.5 的集中不等式控制 sup 项，得到 O(L_N √(p_N/(Nδ))) 的界。 4. 合并*：代入误差分解，得到 oracle 不等式。

关键技巧： - Cameron–Martin 坐标投影：损失函数（4）只涉及 D_{ik} = u_k(Xᵢ) + ξ_{ik}，这是有限实随机变量。噪声 ξ 的 Cameron–Martin 范数无穷大不影响估计——因为投影到每个坐标后是有限方差的。这是本文能处理"无穷大噪声"的核心技巧。 - 条件高斯 Poincaré 不等式：在 Theorem 5.1 中，对条件分布 π₀(·|ê_1, …, ê_d) 使用高斯 Poincaré 不等式，将 Var(u_k | F_d) 控制在 E[Σ_{j>d} (D_j u_k)² | F_d] 上。这是输入方向的光滑性（t 指数），与输出方向的 W^s 指数 s 不同。这个技巧将"输入依赖"转化为"条件方差"，从而分离输入和输出的贡献。 - 超压缩性（hypercontractivity）：在 Lemma S3.2 中，对混沌阶数 n 的多项式使用超压缩性界 ‖F‖₄ ≤ 3^{n/2}‖F‖₂，将四阶矩控制为二阶矩。这是处理有界混沌度势函数的关键，也是 Theorem 5.4 中指数 3 的来源。 - Fano 不等式 + Varshamov–Gilbert：下界证明中，构造 d 个坐标上的超立方体 {0,1}^d，每个顶点对应一个 transport 映射。Varshamov–Gilbert 引理保证存在 d/8 个码字，两两 Hamming 距离 ≥ d/8。KL 散度计算利用高斯移位公式，得到 KL ≤ N τ² d/(2σ²)。Fano 不等式给出错误概率下界，从而得到 minimax 下界。 - 网格搜索 + 坐标分离：两群混合类中，log-odds 参数化使每个坐标的估计独立，网格覆盖数 |G_k| ≤ r₀/h + 2 只影响对数因子。这是参数化选择的技巧：logit 变换将 [0,1] 上的 δ_k 映射到 R 上的 η_k，使 Lipschitz 常数不依赖于 δ_k。

真实例子与应用：

例子 1：对角高斯类（Section 6.1）。π₀ = γ，π₁ = N(0, C₁) 与 γ 交换（共同特征基），OT 映射 T(x) = Σ_k a_k ⟨x, φ_k⟩F φ_k，a_k = (λ_k^(1)/λ_k^(0))^{1/2}。在温和条件下 a_k − 1 ≍ k^{−ρ}，ρ > 1/2。圆柱筛取二次势 g_θ(z) = ½ Σ{k≤d_N} θ_k z_k²，参数 θ_k ∈ [−2, 2]。这个例子说明：当 OT 映射是线性的、坐标独立的，圆柱筛退化为坐标最小二乘，率 (σ²/N)^{s/(2s+1)} 精确匹配下界。应用场景：贝叶斯逆问题中高斯先验到高斯后验的 transport，其中 C₁ 是后验协方差。

例子 2：非线性块类（Section 6.2）。块大小 2，ψ(x,y) = (cos x + cos(x+y))/3。这个例子验证了 Theorem 5.1 的输入-输出分离：虽然映射非线性，但块结构使 Hessian 条件数 O(1)，率不变。应用场景：非高斯后验的 transport 逼近，其中块结构来自物理问题的局部耦合。

例子 3：两群混合类（Section 6.3）。δ_k = c_k k^{−2ρ}，非高斯目标（Laplace 混合）。这个例子展示了网格搜索的可行性：即使目标非高斯，坐标独立的 logit 参数化 + 网格搜索仍能达到 minimax 率（差对数因子）。应用场景：稀疏信号检测中的先验-后验 transport，其中 δ_k 是第 k 个坐标的先验包含概率。

数值实验（Section 7）：ρ = 0.75, 1, 1.5，σ = 0.3，N 从 250 到 16000，535 个重复。观测到的斜率与理论预测 (ρ−1/2)/ρ 一致（ρ=0.75 时 0.333，ρ=1 时 0.5，ρ=1.5 时 0.667）。实验说明有限样本行为与渐近理论吻合，且网格搜索的常数因子不随 N 增长。

🔎 结论是否比证明窄：

需要明确指出的 gap 有四处： 1. Theorem 4.3 的下界只在 W^s_diag(B)（对角子类）上证明，而 Theorem 3.7 的上界在一般 W^s(B) 上成立。作者在 Section 4.2 明确写道："Whether the rate is attainable uniformly over all of W^s(B) is left open." 这意味着一般 W^s 类上的 minimax 率是否就是 N^{−s/(2s+1)} 尚未闭合。对角子类允许坐标独立构造，而一般 W^s 类可能有更复杂的坐标间交互。 2. Theorem 3.7 的 oracle 不等式需要 Assumption 3.5（梯度集中），而该假设在一般 W^s 类上是否成立未验证。作者在 Section 5 用条件高斯 Poincaré 不等式验证了 W^{s,t} 类，但 W^{s,t} 是 W^s 的子类（增加了输入方向的光滑性 t）。因此，仅输出光滑（无输入光滑）时上界是否成立是开放的。 3. Theorem 5.4 的指数 (ρ−1/2)/ρ 是上界，不是下界。作者在 Remark 6.3 中承认："The diagonal lower bound of Theorem 4.3 concerns a different class, so the exponent here is an attained upper bound." 即两群混合类上的 minimax 率可能比 (log N/N)^{(ρ−1/2)/ρ} 更快，但本文没有证明。 4. 网格搜索的常数因子：Theorem 6.5 的界包含 |G_k| ≤ r₀/h + 2 的因子，其中 h 是网格宽度。虽然 h 的选择不影响率，但常数依赖 r₀（log-odds 坐标下的参数范围），而 r₀ 可能随 k 增长。作者在数值实验中固定了 r₀，但理论上未讨论 r₀ 随 k 增长的情形。

四、开放问题

以下问题均扎根于本文的具体语句，按"从近到远"排列：

  1. 一般 W^s 类上的 minimax 率闭合。本文的 Theorem 4.3 下界只在 W^s_diag(B)（对角子类）上证明，而 Theorem 3.7 的上界在一般 W^s(B) 上成立。Section 4.2 明确写道："Whether the rate is attainable uniformly over all of W^s(B) is left open." 要闭合这个 gap，需要构造一般 W^s 类上的下界，或证明 W^s_diag 是"最难"子类。可验证的中间步骤：检查 W^s 类是否包含坐标间交互足够强的元素，使得对角化下界失效。

  2. 输入方向光滑性 t 的必要性。Theorem 5.1 需要 W^{s,t}（输入方向光滑性 t）才能得到圆柱逼近界，而 Theorem 3.7 的抽象 oracle 不等式不需要 t。Section 5 的讨论暗示："The input index t affects only logarithmic factors here." 但没有 t 时圆柱逼近是否仍以 d^{−s} 收敛是开放的。可验证的中间步骤：构造一个仅输出光滑、输入方向无光滑的势函数，检查条件高斯 Poincaré 不等式是否失效。

  3. log 因子的必要性。Theorem 6.5 的界包含 log N 因子，来自网格覆盖数。Section 8 写道："The logarithm in our upper bound comes from a finite-grid comparison; its necessity remains open." 如果 log 因子可去除，率将变为 (1/N)^{(ρ−1/2)/ρ}，与 Theorem 4.3 的连续下界完全匹配。可验证的中间步骤：检查是否存在比网格搜索更高效的优化方法（如坐标下降）能避免覆盖数代价。

  4. 随机 transport map 的估计。本文假设 T 是确定性映射。Section 8 提到："Extending the paired-observation framework developed here to such stochastic transport mechanisms is an interesting direction for future work." 随机 transport（如条件扩散模型）的配对数据是 (X, Y) 其中 Y ~ T(X, ξ)，ξ 是额外噪声。此时损失函数（4）需要修改，oracle 不等式的证明可能失效。可验证的中间步骤：考虑 T(X, ξ) = T(X) + ε 的加性噪声模型，检查估计误差是否仍以 N^{−s/(2s+1)} 衰减。

  5. 自适应选择筛维数 d_N。本文的 d_N 依赖光滑性指数 s，而 s 通常未知。Section 8 提到："Adaptive selection of the sieve dimension, the degree and the interaction order is a further extension." 需要发展数据驱动的 d_N 选择准则（如 Lepski 方法或交叉验证），并证明自适应估计器达到与 oracle d_N 相同的率。可验证的中间步骤：在两群混合类上测试交叉验证选择的 d_N 是否与理论最优 d_N ≍ (N/log N)^{1/(2ρ)} 一致。

  6. 非高斯参考测度。本文的高斯假设是 Cameron–Martin 梯度和 Poincaré 不等式的关键。Section 8 承认："The Gaussian reference is used in the Poincaré inequality and in the hypercontractive bound." 对非高斯参考（如指数族或重尾分布），Cameron–Martin 结构不存在，圆柱筛的坐标需要重新定义。可验证的中间步骤：考虑参考测度为乘积拉普拉斯分布的情形，检查是否仍有类似 W^s 的光滑性刻画。

  7. 计算复杂度与大规模实现。本文的数值实验使用网格搜索，复杂度随 d_N 指数增长。Section 7 仅报告了 ρ ≤ 1.5 的结果，d_N 最大为 61。对于更大的 d_N，需要随机优化或随机特征方法。可验证的中间步骤：将 (17) 的坐标最小二乘替换为随机梯度下降，检查是否保持相同的率。

Maintained by 陈星宇 · Homepage · Source on GitHub

评论