跳转至

Improved Variance Estimation in Homoskedastic Nonparametric Random-Design Regression via a Two-Scale Approach

作者: Edgar Dobriban, Rajarshi Mukherjee, James M. Robins, Zixiao Wang
主题: 非参数 / 半参数
相关性: 7/10
链接: https://arxiv.org/abs/2609.08783

一、领域脉络与小综述

这个方向是什么

本文研究的核心问题是：在非参数随机设计回归模型 \(Y_i = f(X_i) + \varepsilon_i\)（其中 \(\varepsilon_i\) 满足 \(E(\varepsilon_i | X_i) = 0\) 且 \(Var(\varepsilon_i | X_i) = \sigma^2\)）中，如何估计常数条件方差 \(\sigma^2\)。这是一个半参数问题——回归函数 \(f\) 是无穷维 nuisance 参数，而 \(\sigma^2\) 是有限维目标参数。该问题的根本困难在于：当回归函数 \(f\) 的光滑度较低（\(\beta_b > 1\) 但不够高）且设计密度 \(p\) 的光滑度也受限时，如何在不估计 \(f\) 的情况下直接估计 \(\sigma^2\)，并达到尽可能快的收敛速率。该方向当前成熟度较高，已有大量文献从不同角度（差分法、残差法、匹配法）提出了估计量，但在低设计密度光滑度（\(\beta_g\) 小）与高回归函数光滑度（\(\beta_b > 1\)）同时成立的区域，存在一个尚未解决的缺口，本文正是针对这一缺口提出新方法。

发展脉络（history）

奠基工作：差分法估计量的提出。 Von Neumann et al. (1941) 最早提出利用相邻观测的差分来消除均值影响，从而估计方差。Rice (1984) 和 Hall et al. (1990) 进一步发展了差分法，证明了在固定设计下，通过适当选择差分阶数可以消除多项式趋势。这些工作奠定了"用差分消除均值、用平方差分估计方差"的基本范式。留下的口子：这些方法主要针对一维固定设计，且对回归函数光滑度的利用有限。

主要进展：随机设计下的差分法与匹配法。 Brown and Levine (2007) 系统研究了高斯非参数回归中方差的差分法估计，给出了均匀收敛速率并证明了最优性。Wang et al. (2008) 进一步分析了均值对方差函数估计的影响，指出当均值函数不光滑时，基于残差的方差估计器会遭受严重偏差，并给出了 minimax 速率。Müller et al. (2003) 和 Du and Schick (2007) 提出了基于协变量匹配的 U-统计量方法，通过匹配协变量接近的观测对来消除均值影响。Tong and Wang (2005) 提出将平方响应差对平方协变量距离做回归，外推到零距离来估计方差。留下的口子：这些方法大多假设设计密度足够光滑（\(\beta_g\) 较大），或者只利用了回归函数的 Lipschitz 光滑性（\(\beta_b = 1\)），未能充分利用 \(\beta_b > 1\) 带来的额外光滑性。

当前 frontier：高阶影响函数与 minimax 速率。 Robins et al. (2008) 建立了高阶影响函数理论，为非线性泛函的估计提供了系统框架。Shen et al. (2020) 在随机设计下给出了方差估计的 minimax 速率，证明了一维情形下最优速率为 \(n^{-8\beta_b/(4\beta_b+1)}\)（当 \(\beta_b \le 1\) 时）或 \(n^{-1}\)（当 \(\beta_b > 1\) 时），并构造了达到该速率的 U-统计量估计器。留下的口子：Shen et al. (2020) 的结果要求设计密度光滑（\(\beta_g\) 足够大），而 Aronow and Lopatto (2026) 证明了当设计密度仅满足有界上下界（\(\beta_g = 0\)）且 \(\beta_b > 1\)、\(d > 4\beta_b\) 时，Robins 提出的速率 \(n^{-8\beta_b/(d+4\beta_b)}\) 不可达。本文正是在这一矛盾点上切入。

本文的位置：本文在 Aronow and Lopatto (2026) 的否定结果基础上，通过引入设计密度的 Hölder 光滑性 \(\beta_g\) 作为新的调节参数，构造了一个两尺度估计量，在低设计密度光滑度区域（\(0 < \beta_g \le \beta_g^*\)）达到速率 \(n^{-4(\beta_b+1)/(d+4)}\)，在高光滑度区域（\(\beta_g > \beta_g^*\)）恢复 Robins 速率 \(n^{-8\beta_b/(d+4\beta_b)}\)。这填补了从"完全无设计光滑度"到"充分设计光滑度"之间的空白。

子线索聚类

被引文献大致落在三条子线索上：

  1. 差分法/残差法（Von Neumann et al. 1941; Rice 1984; Hall et al. 1990; Brown and Levine 2007; Wang et al. 2008）：通过构造差分或残差来消除均值影响，直接对平方差分求平均。核心困难在于差分阶数与偏差-方差权衡。这类方法对设计光滑度要求较低，但对回归函数光滑度的利用有限。

  2. 匹配法/U-统计量法（Müller et al. 2003; Du and Schick 2007; Tong and Wang 2005; Shen et al. 2020）：通过匹配协变量接近的观测对，利用 U-统计量结构估计方差。这类方法能更好地利用回归函数光滑度，但通常需要设计密度足够光滑以保证匹配质量。

  3. 高阶影响函数/半参数效率理论（Robins et al. 2008; Newey and Robins 2018; McClean et al. 2024）：从半参数效率理论出发，构造高阶影响函数估计量，在 nuisance 参数光滑度足够时达到效率界。这类方法提供了理论框架，但对 nuisance 参数的光滑度要求较高。

这个方向在追问的核心问题

  1. 方差估计的 minimax 速率是什么？ 在给定回归函数光滑度 \(\beta_b\)、设计密度光滑度 \(\beta_g\)、维度 \(d\) 的条件下，\(\sigma^2\) 的估计能达到的最优收敛速率是多少？Shen et al. (2020) 给出了 \(\beta_g\) 充分大时的答案，Aronow and Lopatto (2026) 给出了 \(\beta_g = 0\) 时的否定结果，但中间区域尚未解决。

  2. 如何构造达到 minimax 速率的估计量？ 特别是当设计密度不光滑时，如何避免密度估计带来的额外误差？本文的两尺度构造正是对这一问题的回答。

  3. 方差估计与均值估计的耦合程度如何？ Wang et al. (2008) 指出均值的光滑度对方差估计有本质影响，但具体耦合机制在不同光滑度组合下如何变化，仍需深入理解。

  4. 高阶影响函数方法在低光滑度区域的适用性：Robins et al. (2008) 的方法在 nuisance 参数光滑度足够时达到效率界，但在低光滑度区域是否仍然有效？本文的对比表明，在 \(\beta_g \le \beta_g^*\) 时，高阶影响函数方法不再最优。

⚠️ 作者的 framing（这是作者的说法）

作者将缺口 frame 为："在 \(\beta_b > 1\) 且 \(d > 4\beta_b\) 的非参数区域，设计密度光滑度 \(\beta_g\) 是决定方差估计最优速率的关键参数。当 \(\beta_g\) 低于阈值 \(\beta_g^*\) 时，Robins 速率 \(n^{-8\beta_b/(d+4\beta_b)}\) 不可达，需要新的两尺度构造来达到 \(n^{-4(\beta_b+1)/(d+4)}\)。" 作者将 Aronow and Lopatto (2026) 的否定结果（\(\beta_g = 0\) 时不可达）推广到 \(0 < \beta_g \le \beta_g^*\) 的整个区域，并给出了可达性证明。作者淡化了以下竞争路线：（1）Shen et al. (2020) 的 U-统计量方法在 \(\beta_g\) 较小时的失效；（2）差分法在 \(\beta_b > 1\) 时的速率瓶颈；（3）密度估计方法在低光滑度时的 curse of dimensionality。作者将本文定位为"连接否定结果与肯定结果之间的桥梁"。

张力

存在一个明显的张力：Aronow and Lopatto (2026) 证明在 \(\beta_g = 0\)（仅上下界）时 Robins 速率不可达，而 Shen et al. (2020) 在 \(\beta_g\) 充分大时达到该速率。本文的 \(\beta_g^*\) 阈值正是这两个结果的分界线。但作者没有讨论 \(\beta_g\) 恰好等于 \(\beta_g^*\) 时的临界行为——这是否存在对数因子或更精细的速率变化？此外，作者在定理 2.1 中承认高阶影响函数估计量的速率依赖于额外的均匀矩条件（50），这一条件在 \(\beta_g\) 接近 \(\beta_g^*\) 时是否仍然成立，作者没有给出明确回答。

二、最核心、最简单的例子 / 数学问题

第一步：符号、模型、可观测数据

模型：观测独立同分布样本 \((X_i, Y_i)_{i=1}^n\)，满足

\[Y_i = f(X_i) + \varepsilon_i, \quad E(\varepsilon_i | X_i) = 0, \quad E(\varepsilon_i^2 | X_i) = \sigma^2.\]

符号： - 参数 / estimand：\(\sigma^2\)（常数条件方差，目标参数）；\(f\)（回归函数，nuisance 参数）；\(p\)（设计密度，nuisance 参数）。 - 光滑度参数：\(\beta_b\)（回归函数 \(f\) 的 Hölder 光滑度），\(\beta_g\)（设计密度 \(p\) 的 Hölder 光滑度），\(d\)（协变量维度）。 - 关键阈值：\(\beta_g^* = \beta_b(1 - 4\beta_b/d) / \{1 + 2\beta_b/d + 8(\beta_b/d)^2\}\)，这是本文的核心常数，划分低/高设计光滑度区域。 - 网格参数：\(H_n \asymp n^{-1/d}\) 为单元直径；\(\varepsilon_n \asymp n^{-(d-4\beta_b)/\{d(d+4)\}}\) 为归一化距离阈值。 - 随机量：\(X_i\)（协变量，密度 \(p\)），\(Y_i\)（响应），\(\varepsilon_i\)（误差，条件四阶矩有界）。 - 单元内量：\(I_Q\) 为单元 \(Q\) 内的观测指标集；\(N_Q = |I_Q|\) 为单元内观测数；\(U_i = A_Q^{-1}(X_i - b_Q)\) 为归一化坐标；\(\Phi_Q\) 为单元内多项式基矩阵；\(G_Q = \Phi_Q^\top \Phi_Q\) 为 Gram 矩阵；\(R_Q = I - \Phi_Q G_Q^{-1} \Phi_Q^\top\) 为残差投影矩阵；\(d_e = e_i - e_j\) 为配对差分向量；\(v_e = d_e^\top R_Q d_e\) 为归一化对比方差。

可观测数据：\((X_i, Y_i)_{i=1}^n\)。不可观测：\(f\)、\(p\)、\(\varepsilon_i\) 的实现值、\(\sigma^2\)。

第二步：最小内核

问题：在 \(d\) 维随机设计中，\(f\) 是 \(\beta_b\)-Hölder 光滑（\(\beta_b > 1\)），\(p\) 是 \(\beta_g\)-Hölder 光滑且有上下界。如何估计 \(\sigma^2\)？

最简特例：取 \(d = 1\)，\(\beta_b = 2\)（\(f\) 二阶光滑），\(\beta_g = 0\)（\(p\) 仅上下界）。此时 \(\beta_g^* = 2(1 - 8)/\{1 + 4 + 32\} = -14/37 < 0\)，因此 \(\beta_g > \beta_g^*\) 恒成立，属于高光滑度区域。本文的两尺度估计量退化为：将 \([0,1]\) 分成 \(J_n \asymp n\) 个单元，每个单元直径 \(H_n \asymp n^{-1}\)。在每个单元内，用 \(q = \lceil \beta_b \rceil - 1 = 1\) 阶多项式（即线性函数）拟合 \(f\)，投影掉线性趋势。然后寻找单元内距离不超过 \(\varepsilon_n \asymp n^{-(1-4)/\{1 \cdot 5\}} = n^{3/5}\) 的观测对（注意此时 \(\varepsilon_n\) 远大于单元直径，因为 \(d=1\) 时 \(4\beta_b = 8 > d = 1\)，指数为负，\(\varepsilon_n\) 趋于无穷——这说明在 \(d=1\) 时本文的框架需要特殊处理，实际上一维情形已有 Shen et al. (2020) 的精确结果）。

更合适的特例：取 \(d = 8\)，\(\beta_b = 3/2\)（\(f\) 一阶光滑但 Hölder 指数 \(1/2\)），\(\beta_g = 0\)。此时 \(\beta_g^* = (3/2)(1 - 6/8)/\{1 + 3/8 + 8(3/16)^2\} = (3/2)(1/4)/\{1 + 3/8 + 9/32\} = (3/8)/(53/32) = 12/53 \approx 0.226\)。因此 \(\beta_g = 0 < \beta_g^*\)，属于低光滑度区域。本文的两尺度估计量： 1. 粗尺度：将 \([0,1]^8\) 分成 \(J_n \asymp n\) 个单元，直径 \(H_n \asymp n^{-1/8}\)。 2. 细尺度：在每个单元内，用 \(q = \lceil 3/2 \rceil - 1 = 1\) 阶多项式（线性函数）投影掉趋势。寻找单元内归一化距离 \(\|U_i - U_j\|_\infty \le \varepsilon_n \asymp n^{-(8-6)/\{8 \cdot 12\}} = n^{-1/48}\) 的观测对。 3. 估计：对每个合格单元，取第一个合格对 \((i,j)\)，计算 \(Z_Q = (d_e^\top R_Q Y_Q)^2 / v_e\)，然后对所有合格单元取平均：\(\hat{\sigma}^2 = \frac{1}{|T_n(\varepsilon_n)|} \sum_{Q \in T_n(\varepsilon_n)} Z_Q\)。

为什么有效：投影掉线性趋势后，\(d_e^\top R_Q f_Q\) 的偏差由 \(f\) 的二阶 Taylor 余项控制，为 \(O(H_n^{\beta_b} \varepsilon_n)\)（因为 \(\beta_b = 3/2 > 1\)，一阶导数的 Hölder 连续性给出 \(O(H_n^{1/2})\) 的余项，乘以距离 \(\varepsilon_n\) 后为 \(O(H_n^{3/2} \varepsilon_n)\)）。平方后偏差为 \(O(H_n^3 \varepsilon_n^2)\)。方差方面，每个 \(Z_Q\) 的方差为 \(O(1)\)，而合格单元数 \(\approx n \varepsilon_n^8\)（因为每个单元内距离不超过 \(\varepsilon_n\) 的配对概率 \(\asymp \varepsilon_n^8\)），所以方差为 \(O((n \varepsilon_n^8)^{-1})\)。平衡偏差平方和方差：\(H_n^6 \varepsilon_n^4 \asymp (n \varepsilon_n^8)^{-1}\)，代入 \(H_n \asymp n^{-1/8}\) 得 \(n^{-3/4} \varepsilon_n^4 \asymp n^{-1} \varepsilon_n^{-8}\)，即 \(\varepsilon_n^{12} \asymp n^{-1/4}\)，\(\varepsilon_n \asymp n^{-1/48}\)。此时偏差平方 \(= n^{-3/4} \cdot n^{-1/12} = n^{-5/6}\)，方差 \(= n^{-1} \cdot n^{1/6} = n^{-5/6}\)，总 MSE 为 \(n^{-5/6}\)。这正是定理 2.1 中的速率 \(n^{-4(\beta_b+1)/(d+4)} = n^{-4(5/2)/12} = n^{-5/6}\)。

核心思想：两尺度方法的关键在于将"消除趋势"（粗尺度，单元直径 \(H_n\)）与"配对距离"（细尺度，\(\varepsilon_n\)）分离。粗尺度控制偏差，细尺度控制方差，通过调节 \(\varepsilon_n\) 在两者之间取得最优平衡。这与传统差分法（固定差分阶数）和匹配法（固定匹配半径）有本质区别。

三、这篇论文做了什么

三句话

① 研究了什么问题：在非参数随机设计回归中，当回归函数光滑度 \(\beta_b > 1\) 且维度 \(d > 4\beta_b\) 时，如何估计常数条件方差 \(\sigma^2\)，特别是在设计密度光滑度 \(\beta_g\) 较低的情况下达到最优收敛速率。

② 核心工具/方法：提出了一个两尺度（two-scale）估计量——在粗尺度上将空间划分为直径 \(H_n \asymp n^{-1/d}\) 的单元，在每个单元内用局部多项式投影消除趋势；在细尺度上寻找归一化距离不超过 \(\varepsilon_n\) 的观测对，计算其平方对比并平均。通过调节 \(\varepsilon_n\) 平衡偏差与方差。

③ 主要结论：在低设计光滑度区域（\(0 < \beta_g \le \beta_g^*\)），两尺度估计量达到 MSE 上界 \(n^{-4(\beta_b+1)/(d+4)}\)，优于现有方法；在高设计光滑度区域（\(\beta_g > \beta_g^*\)），恢复 Robins et al. (2008) 的速率 \(n^{-8\beta_b/(d+4\beta_b)}\)。同时给出了全配对岭回归扩展，达到相同速率。

关键设定与假设

  • 模型：\(Y_i = f(X_i) + \varepsilon_i\)，\(X_i\) 独立同分布，密度 \(p\) 满足 \(0 < p \le p(x) \le \bar{p} < \infty\)。
  • 光滑度：\(f \in H^{\beta_b}(U)\)（\(\beta_b > 1\)），\(p \in H^{\beta_g}(U)\)（\(\beta_g > 0\)），其中 \(H^s\) 为 Hölder 空间。
  • 误差：\(E(\varepsilon_i | X_i) = 0\)，\(E(\varepsilon_i^2 | X_i) = \sigma^2\)，\(E(\varepsilon_i^4 | X_i) \le M_4 < \infty\)。
  • 关键假设：\(d > 4\beta_b\)，这保证了 \(\beta_g^* > 0\) 且两尺度速率 \(n^{-4(\beta_b+1)/(d+4)}\) 慢于 \(n^{-1}\)。
  • 相比已有文献：相比 Shen et al. (2020) 要求 \(\beta_g\) 充分大，本文仅要求 \(\beta_g > 0\)；相比 Aronow and Lopatto (2026) 的 \(\beta_g = 0\) 否定结果，本文在 \(\beta_g > 0\) 时给出肯定结果。相比 Robins et al. (2008) 的高阶影响函数方法，本文在低 \(\beta_g\) 区域不需要密度估计。

主要结果

定理 2.1（核心）：设 \(\beta_b > 1\)，\(d > 4\beta_b\)，\(\beta_g > 0\)。定义 \(\beta_g^* = \beta_b(1 - 4\beta_b/d) / \{1 + 2\beta_b/d + 8(\beta_b/d)^2\}\)。

  • 低光滑度区域（\(0 < \beta_g \le \beta_g^*\)）：两尺度估计量满足
    \[\sup_{\theta \in \Theta(\beta_b, \beta_g, d)} E_\theta(\hat{\sigma}^2_{n,LR} - \sigma^2)^2 \le C n^{-4(\beta_b+1)/(d+4)}.\]
  • 高光滑度区域（\(\beta_g > \beta_g^*\)）：高阶影响函数估计量满足
    \[\sup_{\theta \in \Theta(\beta_b, \beta_g, d)} E_\theta(\hat{\sigma}^2_{n,HOIF} - \sigma^2)^2 \le C n^{-8\beta_b/(d+4\beta_b)}.\]

命题 B.1（全配对岭回归扩展）：在相同条件下，全配对岭回归估计量达到与两尺度估计量相同的速率 \(n^{-4(\beta_b+1)/(d+4)}\)。

命题 B.4（差分法基准）：直接差分法在 \(\beta_b > 1\) 时饱和于速率 \(n^{-8/(d+4)}\)，不随 \(\beta_b\) 增加而改善。

证明路线与技术技巧

整体路线（以两尺度估计量为例）：

  1. 构造：将 \([0,1]^d\) 划分为 \(J_n \asymp n\) 个单元，每个单元直径 \(H_n \asymp n^{-1/d}\)。在每个单元内，取 \(q = \lceil \beta_b \rceil - 1\) 阶多项式基 \(\psi\)，构造 Gram 矩阵 \(G_Q = \Phi_Q^\top \Phi_Q\) 和残差投影 \(R_Q = I - \Phi_Q G_Q^{-1} \Phi_Q^\top\)。寻找单元内归一化距离 \(\le \varepsilon_n\) 的观测对，计算 \(Z_Q = (d_e^\top R_Q Y_Q)^2 / v_e\)。

  2. 偏差分析（引理 3.5）：利用 \(f\) 的 Hölder 光滑性，将 \(f\) 在单元中心 Taylor 展开。投影掉 \(\le \beta_b\) 阶多项式后，残差为 \(O(H_n^{\beta_b})\)。配对距离 \(\le \varepsilon_n\) 进一步将残差差控制在 \(O(H_n^{\beta_b} \varepsilon_n)\)。平方后偏差为 \(O(H_n^{2\beta_b} \varepsilon_n^2)\)。

  3. 方差分析（引理 3.6 / A.1）：合格单元数 \(\approx n \varepsilon_n^d\)（因为单元内配对概率 \(\asymp \varepsilon_n^d\)）。每个 \(Z_Q\) 的方差为 \(O(1)\)，故总方差为 \(O((n \varepsilon_n^d)^{-1})\)。

  4. 平衡：选择 \(\varepsilon_n \asymp n^{-(d-4\beta_b)/\{d(d+4)\}}\)，使偏差平方 \(H_n^{4\beta_b} \varepsilon_n^4 \asymp n^{-4\beta_b/d} \cdot n^{-4(d-4\beta_b)/\{d(d+4)\}} = n^{-4(\beta_b+1)/(d+4)}\) 与方差 \((n \varepsilon_n^d)^{-1} \asymp n^{-1} \cdot n^{(d-4\beta_b)/(d+4)} = n^{-4(\beta_b+1)/(d+4)}\) 平衡。

  5. 概率控制：用 Poisson 化 + de-Poissonization 技巧（引理 3.6）证明合格单元数的下界，用 Chebyshev 不等式控制失败概率。

关键技巧： - Poisson 化：将固定样本量 \(n\) 的观测转化为 Poisson 过程，利用独立性简化分析，再通过条件化恢复固定样本量。 - 倾斜 de-Poissonization：通过指数倾斜控制总观测数的偏差，避免直接条件化带来的复杂依赖。 - 投影矩阵的确定性控制：利用 Gram 矩阵的最小特征值下界（由设计密度上下界保证），控制残差投影的范数。 - 配对距离与单元直径的分离：这是两尺度方法的核心创新，使得偏差和方差可以独立调节。

真实例子与应用

模拟实验（第 5 节）： - 数据：\(d = 8\)，\(\beta_b = 3/2\)，均匀设计，误差 \(N(0, 0.01)\)。 - 回归函数：三角阵列 \(f_n(x) = 3(v^\top x - \sqrt{8}/2) + H_n^{3/2} \omega^{-3/2} \cos(\omega(v^\top x - \sqrt{8}/2)/H_n + 0.37)\)，其中 \(H_n = J_n^{-1/8}\)，\(\omega = 1.055\)。该函数在单元尺度上具有 Hölder 光滑性但整体振荡。 - 结果：两尺度估计量的 MSE 从 \(n = 8192\) 时的 \(2.87 \times 10^{-6}\) 降至 \(n = 10^6\) 时的 \(2.51 \times 10^{-8}\)，拟合指数 \(0.993\)，接近理论速率 \(5/6\)。全配对岭回归扩展的拟合指数 \(0.975\)。对比方法中，局部多项式残差法拟合指数 \(0.801\)，差分法 \(0.627\)。 - 说明：模拟验证了理论速率，并展示了在低设计光滑度下两尺度方法的优势。

实证数据（第 5.6 节）： - 数据：California Housing（\(n = 20,433\)，\(d = 8\)）和 CASP 蛋白质结构（\(n = 45,730\)，\(d = 9\)）。 - 方法：先对协变量做秩变换和美白处理，再应用各估计量。 - 结果：两尺度估计量在 California Housing 上相对 MSE 为 \(1.00\)（基准），在 CASP 上为 \(1.00\)；对比方法中，局部多项式残差法相对 MSE 为 \(12.57\)（California）和 \(15.03\)（CASP），差分法为 \(29.29\) 和 \(21.15\)。两尺度方法在所有 14 个设置中均取得最小 MSE。 - 说明：实证展示了方法在真实数据上的有效性，特别是在协变量存在复杂依赖时。

🔎 结论是否比证明窄

是的，存在几处：

  1. 定理 2.1 的高光滑度分支依赖额外条件：作者在定理 2.1 中明确写道："In addition to the applicability conditions of that construction, the high-regularity mean-squared error comparison assumes the following uniform integrated bounds: (50)"。这意味着高光滑度分支的速率 \(n^{-8\beta_b/(d+4\beta_b)}\) 并非无条件成立，而是依赖于 Robins et al. (2008) 估计量的均匀矩条件（50）。作者没有证明该条件在 \(\beta_g > \beta_g^*\) 时自动满足。

  2. 低光滑度区域的速率下界未证明：作者证明了上界 \(n^{-4(\beta_b+1)/(d+4)}\)，但没有证明该速率是最优的（即没有对应的 minimax 下界）。作者在讨论中承认："the precise minimax rate also remains open"。

  3. 两尺度估计量的常数依赖：定理 2.1 中的常数 \(C\) 依赖于模型类常数（如 Hölder 半径 \(L\)、密度上下界 \(p, \bar{p}\)），但作者没有给出显式的常数表达式，也没有讨论这些常数如何随 \(\beta_b, \beta_g, d\) 变化。

  4. 全配对岭回归扩展的证明：命题 B.1 的证明依赖于引理 B.3 中的条件方差界，但作者没有明确说明该界在 \(\beta_g\) 接近 0 时是否仍然成立。

四、开放问题

  1. minimax 下界：在低设计光滑度区域（\(0 < \beta_g \le \beta_g^*\)），速率 \(n^{-4(\beta_b+1)/(d+4)}\) 是否是最优的？作者在讨论中明确说"the precise determination of the minimax rate also remains open"。要确认这是否为真 gap，可去读 Aronow and Lopatto (2026) 和 Shen et al. (2020) 的下界证明，看是否能用类似技术推广到 \(\beta_g > 0\) 的情形。

  2. 自适应估计：本文的估计量需要知道 \(\beta_b\) 和 \(\beta_g\) 来选择多项式阶数 \(q\) 和配对距离 \(\varepsilon_n\)。是否存在自适应估计量，能在未知光滑度的情况下达到同样的速率？作者在讨论中提到"data-driven adaptation to unknown smoothness"是未来工作。

  3. 高维推广：本文的框架在 \(d > 4\beta_b\) 时有效，但当 \(d\) 随 \(n\) 增长时，单元划分和配对策略如何调整？作者没有讨论高维情形。

  4. 异方差情形：本文假设常数条件方差 \(\sigma^2\)。如果方差函数 \(v(x)\) 随 \(x\) 变化，两尺度方法如何推广？作者在引言中提到"similar questions arise in causal inference"，但没有给出异方差的处理。

  5. 设计密度光滑度的临界行为：当 \(\beta_g\) 恰好等于 \(\beta_g^*\) 时，速率是否会出现对数因子？作者没有讨论这一临界情形。

  6. 计算复杂度：全配对岭回归扩展需要处理 \(O(n^2)\) 对观测，计算复杂度较高。是否存在更高效的实现方式？作者在附录中提到"numerically stable"但未讨论复杂度。

确认 gap 的建议：要判断第 1 条（minimax 下界）是否值得做，建议去读 Aronow and Lopatto (2026) 的构造性下界证明，看其反例是否能在 \(\beta_g > 0\) 时构造；同时读 Shen et al. (2020) 的上界证明，看其技术是否能推广到低 \(\beta_g\) 区域。如果两者之间存在间隙，则 minimax 速率问题是一个真 gap。

Maintained by 陈星宇 · Homepage · Source on GitHub

评论