跳转至

On the optimality of antithetic randomization for cross-validation

作者: Srijan Chattopadhyay, Sifan Liu, Snigdha Panigrahi
主题: 数理统计 / 假设检验
相关性: 7/10
链接: https://arxiv.org/abs/2608.08089

一、领域脉络与小综述

这个方向是什么

本文研究的子方向是：通过随机化（randomization）构造独立训练-测试折，从而在无法进行样本分割（sample splitting）时估计预测误差。核心问题在于：给定一个正态（或渐近正态）的充分统计量，如何设计一组随机化变量 \(\{\omega_k\}_{k=1}^K\) 的联合分布，使得基于这些折的交叉验证估计量 \(CV_\alpha\) 的方差尽可能小，同时保持偏差可控。该方向直接服务于高维、固定设计、聚类或纵向数据等场景下的模型评估与选择。

发展脉络（history）

  1. 奠基工作：数据分裂（data fission / thinning）

  2. Leiner et al. (2025) 和 Neufeld et al. (2024) 提出了将单个观测分裂为两个独立部分的一般框架，适用于卷积封闭分布。Neufeld et al. 的“data thinning”被本文引用为“the construction in (2) is also known as data thinning or fission”。这些工作奠定了通过加性噪声构造独立视图的可行性，但未系统研究多折（\(K>2\)）时的方差最优性。

  3. 主要进展：耦合自助法（coupled bootstrap）与反演随机化

  4. Oliveira et al. (2024) 在正态均值问题中提出耦合自助法，使用独立正态随机化变量 \(\omega_k\) 构造 \(K\) 折，并证明其偏差随 \(\alpha \downarrow 0\) 消失。本文引用其“bias vanishes as \(\alpha \downarrow 0\)”，但指出其方差随 \(\alpha^{-1}\) 增长（因为 \(\rho=0\)）。

  5. Liu et al. (2026) 引入反演高斯随机化方案，取 \(\rho = -1/(K-1)\)，并报告了比独立随机化低得多的方差。本文引用其“substantially lower variance than the coupled bootstrap estimator”。但该工作仅给出了充分性（antithetic 可保持方差有界），未证明必要性，且假设了随机化变量的联合正态性。

  6. 当前 frontier：最优性理论与一般构造

  7. 本文（Chattopadhyay, Liu, Panigrahi, 2026）在 Liu et al. (2026) 的基础上，证明了反演随机化的必要性（Theorem 3.1），并给出了一般构造（Proposition 4.1）和极小化极大最优性（Theorem 4.1），同时将分析扩展到非光滑估计量（Theorem 5.1, 5.2）。这是该子方向第一个完整的最优性刻画。

子线索聚类

  • 线索 A：基于随机化的交叉验证方差控制
    核心文献：Oliveira et al. (2024), Liu et al. (2026), 本文。关注点：如何通过设计 \(\{\omega_k\}\) 的联合分布来降低 \(CV_\alpha\) 的可约方差（R-VAR）。
  • 线索 B：数据分裂/稀疏化方法及其在选择性推断中的应用
    核心文献：Leiner et al. (2025), Neufeld et al. (2024), Rasines & Young (2023), Perry et al. (2026)。关注点：将信息分裂用于后选择推断，通常只考虑 \(K=2\) 或单次分裂，不涉及多折方差最优性。
  • 线索 C：反演抽样与拟蒙特卡洛
    核心文献：Hammersley & Morton (1956), Owen (2013), Jia et al. (2026)。关注点：在蒙特卡洛模拟中通过负相关复制降低方差，本文将其思想引入交叉验证。

这个方向在追问的核心问题

  1. 给定边际正态性，\(\{\omega_k\}\) 的最优联合分布是什么？
  2. 反演相关 \(\rho = -1/(K-1)\) 是否必要？
  3. 对于非光滑估计量，反演随机化能否保持方差有界？若不能，如何补救？
  4. 最优性准则是什么？极小化极大？还是其他？

当前主流方法（独立随机化）的瓶颈是方差随 \(\alpha^{-1}\) 发散，而反演随机化在光滑情形下可保持有界，但非光滑情形下仍发散（虽然速率更慢）。

⚠️ 作者的 framing（必须明确标注成“这是作者的说法”）

作者将缺口 frame 为：“the joint distribution of the randomization variables controls the reducible variance … which joint law is optimal and how to construct the corresponding randomization scheme?”（Introduction 第2段）。他们通过 Theorem 3.1 证明反演是必要且充分的，从而将 Liu et al. (2026) 的充分性结果提升为充要条件。
被淡化或回避的竞争路线：作者未讨论非正态数据（如泊松、二项）下的随机化方案，也未讨论当 \(\sigma^2\) 未知且需估计时的有限样本影响（仅提及“replaced by a consistent estimator”）。
什么明显该被引/该存在、却没出现在 intro 里？：未见关于“计算-统计权衡”或“低度多项式障碍”的引用——这并非该子方向的核心，但若研究者关注计算复杂度，可留意本文未涉及算法效率问题。

张力

未见明显对立引用。所有被引工作均支持“反演随机化可降低方差”这一结论，本文进一步证明了其最优性。

二、最核心、最简单的例子 / 数学问题

第一步：符号、模型、可观测数据交代清楚

  • 符号：
  • \(Y \sim N(\mu, \sigma^2 I_n)\)：可观测数据向量，\(n\) 维，均值 \(\mu\) 未知，方差 \(\sigma^2\) 已知（或可一致估计）。
  • \(\mu \in \mathbb{R}^n\)：感兴趣的参数（均值向量）。
  • \(g: \mathbb{R}^n \to \mathbb{R}^n\)：估计量，例如岭回归预测值 \(g(Y) = X \hat{\beta}(Y)\)。
  • \(\tilde{Y} \sim N(\mu, \sigma^2 I_n)\)：与 \(Y\) 独立的副本（不可观测），用于定义预测误差。
  • \(\text{PE}(g) = \mathbb{E}[\|g(Y) - \tilde{Y}\|_2^2]\)：预测误差（目标 estimand）。
  • \(\omega_k \in \mathbb{R}^n\)：第 \(k\) 折的随机化变量，\(k=1,\dots,K\)。
  • \(\alpha > 0\)：扰动参数，控制训练-测试信息分配。
  • \(Y_{\text{train}}^k = Y + \sqrt{\alpha} \omega_k\)，\(Y_{\text{test}}^k = Y - \frac{1}{\sqrt{\alpha}} \omega_k\)：第 \(k\) 折的训练和测试视图。
  • \(\rho = \text{Corr}(\omega_k^{(i)}, \omega_{k'}^{(i)})\)（对任意坐标 \(i\)）：随机化变量间的等相关系数。
  • \(K\)：折数（固定，\(\ge 2\)）。
  • \(n\)：样本维度。

  • \(\sigma^2\)：已知噪声方差。

  • 模型：

  • 数据生成：\(Y = \mu + \varepsilon\)，\(\varepsilon \sim N(0, \sigma^2 I_n)\)。
  • 估计量 \(g\) 是 \(Y\) 的某个函数（可光滑或非光滑）。

  • 随机化变量 \(\{\omega_k\}\) 独立于 \(Y\)，且边际分布为 \(N(0, \sigma^2 I_n)\)，联合分布满足交换性和等相关性（Assumption 2.1）。

  • 可观测数据：

  • 实际观测到的是 \(Y\)（一次实现）。
  • 不可观测：\(\mu\)、\(\tilde{Y}\)、以及 \(\omega_k\) 的具体实现（但研究者可以自行生成 \(\omega_k\) 并计算 \(CV_\alpha\)）。
  • 关键：研究者可以设计 \(\{\omega_k\}\) 的联合分布，但只能观测到 \(Y\) 一次；\(\omega_k\) 是人为添加的随机性，其分布由研究者选择。

第二步：最小内核

最简特例：取 \(K=2\)，\(n=1\)（一元正态均值问题），且估计量 \(g\) 为恒等映射 \(g(y)=y\)。此时预测误差 \(\text{PE}(g) = \mathbb{E}[(Y - \tilde{Y})^2] = 2\sigma^2\)。交叉验证估计量（3）退化为：

\[CV_\alpha = \frac{1}{2} \sum_{k=1}^2 \left\{ (Y - Y_{\text{test}}^k)^2 - \frac{1}{\alpha} \omega_k^2 \right\}.\]
代入 \(Y_{\text{test}}^k = Y - \omega_k/\sqrt{\alpha}\)，得：
\[CV_\alpha = \frac{1}{2} \sum_{k=1}^2 \left\{ \left(\frac{\omega_k}{\sqrt{\alpha}}\right)^2 - \frac{1}{\alpha} \omega_k^2 \right\} = 0.\]
这显然不是有意义的估计量（因为 \(g(y)=y\) 时训练误差为零，但预测误差非零）。这个特例太退化，说明需要 \(g\) 非平凡。

更有信息量的特例：取 \(K=2\)，\(n=1\)，\(g(y) = \theta y\)（线性收缩估计，\(\theta \in (0,1)\)）。此时：

\[CV_\alpha = \frac{1}{2} \sum_{k=1}^2 \left\{ (Y - \theta Y_{\text{train}}^k - Y_{\text{test}}^k)^2 - \frac{1}{\alpha} \omega_k^2 \right\}.\]
利用 \(Y_{\text{train}}^k = Y + \sqrt{\alpha} \omega_k\)，\(Y_{\text{test}}^k = Y - \omega_k/\sqrt{\alpha}\)，可计算：
\[CV_\alpha = \frac{1}{2} \sum_{k=1}^2 \left\{ ( (1-\theta)Y - \theta \sqrt{\alpha} \omega_k + \frac{\omega_k}{\sqrt{\alpha}} )^2 - \frac{1}{\alpha} \omega_k^2 \right\}.\]
展开后，\(CV_\alpha\) 的表达式包含 \(\omega_k^2\) 项和交叉项。其条件方差（给定 \(Y\)）为：
\[\text{Var}(CV_\alpha | Y) = \frac{1}{4} \sum_{k=1}^2 \text{Var}\left( \left( \frac{1}{\sqrt{\alpha}} - \theta \sqrt{\alpha} \right)^2 \omega_k^2 + 2(1-\theta)Y \left( \frac{1}{\sqrt{\alpha}} - \theta \sqrt{\alpha} \right) \omega_k \middle| Y \right) + \text{cross terms}.\]
当 \(\omega_1, \omega_2\) 独立（\(\rho=0\)）时，\(\text{Var}(\omega_k^2) = 2\sigma^4\)，故 \(\text{Var}(CV_\alpha | Y) = \Theta(1/\alpha)\)（因为 \(\omega_k^2\) 项系数 \(\propto 1/\alpha\)）。当 \(\omega_1 = -\omega_2\)（\(\rho=-1\)，即 \(K=2\) 时的反演方案）时，\(\omega_1^2 = \omega_2^2\) 且 \(\omega_1 + \omega_2 = 0\)，交叉项抵消，\(\text{Var}(CV_\alpha | Y)\) 中 \(\omega_k^2\) 项贡献为常数阶（因为两个 \(\omega_k^2\) 完全正相关，但求和后方差为 \(4 \text{Var}(\omega_1^2)\)，系数仍含 \(1/\alpha\)？需仔细算）。实际上，当 \(\rho=-1\) 时，\(\omega_1 = -\omega_2\)，则 \(CV_\alpha\) 中 \(\omega_1^2\) 和 \(\omega_2^2\) 相同，但交叉项可能抵消。更精确地，对于一般 \(g\)，Theorem 3.1 指出当 \(\rho=-1/(K-1)\) 时，\(T_\alpha\) 项消失（因为 \(\bar{\omega}=0\)），而 \(R_\alpha\) 项方差有界。在这个特例中，\(T_\alpha = \frac{2}{\sqrt{\alpha}} \bar{\omega} (g(Y)-Y)\)，当 \(\bar{\omega}=0\) 时 \(T_\alpha=0\)，剩下 \(R_\alpha\) 的方差为 \(O(1)\)。因此，反演随机化通过消除 \(\bar{\omega}\) 项（其方差 \(\propto 1/\alpha\)）来保持方差有界。

核心数学困难：对于一般光滑 \(g\)，\(CV_\alpha\) 的方差中有一项来自 \(\bar{\omega}\)（即 \(T_\alpha\)），其方差正比于 \(1/\alpha\)。反演随机化使 \(\bar{\omega}=0\) 几乎必然，从而消除该项。但即使 \(\bar{\omega}=0\)，剩余项 \(R_\alpha\) 的方差仍可能发散，需要证明其有界。本文的关键想法是：通过弱可微性和 Gaussian shift 连续性，证明 \(R_\alpha\) 在 \(L^2\) 中收敛到 \(R_0\)，从而方差有界。

三、这篇论文做了什么

三句话

  1. 研究了什么问题：在正态均值问题中，对于通过正态随机化构造的 \(K\) 折交叉验证估计量 \(CV_\alpha\)，确定使可约方差（R-VAR）在偏差消失时保持有界的随机化变量联合分布，并找出最优构造。
  2. 核心工具/方法：弱可微性、Gaussian shift 连续性引理、条件方差分解、反演构造的一般框架（Proposition 4.1）、极小化极大分析、控制变量法。
  3. 主要结论：(i) 光滑估计量下，反演相关 \(\rho=-1/(K-1)\) 是 R-VAR 有界的充要条件（Theorem 3.1）；(ii) 在反演方案类中，联合正态方案是极小化极大最优的（Theorem 4.1）；(iii) 非光滑估计量下，反演方案将 R-VAR 的发散速率从 \(\Theta(\alpha^{-1})\) 降至 \(O(\alpha^{-1/2})\)，且若跳跃边界已知，控制变量可恢复有界性（Theorem 5.1, 5.2）。

关键设定与假设

  • Assumption 2.1（交换正态随机化）：\(\{\omega_k\}\) 交换、边际正态 \(N(0,\sigma^2 I_n)\)、等相关 \(\rho \in [-1/(K-1), 1]\)。这定义了研究方案类。相比 Liu et al. (2026)，本文不要求联合正态性，只要求边际正态和等相关。
  • Assumption 3.1（弱可微性与矩条件）：\(g\) 各分量弱可微，且存在 \(\alpha_0>0\) 使得 \(Z_{\alpha_0} \sim N(\mu, (1+\alpha_0)\sigma^2 I_n)\) 时 \(\mathbb{E}\|g(Z_{\alpha_0})\|_2^4 < \infty\)，\(\mathbb{E}\|\nabla g(Z_{\alpha_0})\|_F^2 < \infty\)。这比通常的 Lipschitz 或光滑性更弱，允许 \(g\) 有弱导数。
  • Assumption 5.1（分段光滑估计量）：\(g\) 形如 \(f_0(y) + \sum_{\ell=1}^m a_\ell(y) \mathbf{1}\{h_\ell(y)>0\}\)，其中 \(f_0, a_\ell\) 满足 Assumption 3.1，\(h_\ell\) Lipschitz，且边界附近有界密度和条件二阶矩。这刻画了具有有限跳跃的估计量。
  • 非退化条件：\(\mathbb{E}[\|g(Y)-Y\|_2^2] > 0\)（用于下界）。

相比已有文献：Oliveira et al. (2024) 假设 \(g\) 弱可微但未考虑非光滑情形；Liu et al. (2026) 假设联合正态性且只证充分性。本文去掉了联合正态假设，并补充了必要性和非光滑分析。

主要结果

  • Theorem 3.1（必要性+充分性）：在 Assumption 2.1 和 3.1 下，当 \(\alpha \downarrow 0\) 时，

    \[\mathbb{E}[\text{Var}(CV_\alpha | Y)] = \begin{cases} O(1) & \text{if } \rho = -1/(K-1), \\ \Theta(1/\alpha) & \text{if } \rho > -1/(K-1). \end{cases}\]
    直觉：当 \(\rho > -1/(K-1)\) 时，\(\bar{\omega}\) 非零，其方差 \(\propto 1/\alpha\) 主导；当 \(\rho = -1/(K-1)\) 时，\(\bar{\omega}=0\)，剩余项方差有界。技术难点：证明 \(R_\alpha\) 的方差有界需用到 Gaussian shift 连续性（Lemma A.4）和 \(L^2\) 收敛（Lemma A.1）。

  • Theorem 4.1（极小化极大最优性）：在 Proposition 4.1 构造的反演方案类 \(\mathcal{M}\) 中，考虑 \(g\) 满足 \(\mathbb{E}\|\nabla g(Y)\|_F^2 = 1\)，则

    \[\inf_{M \in \mathcal{M}} \sup_{g \in \mathcal{G}} \lim_{\alpha \downarrow 0} \mathbb{E}[\text{Var}(CV_\alpha | Y)] = \frac{8\sigma^4}{K-1},\]
    且仅当 \((\omega_1,\dots,\omega_K)\) 联合正态时达到。证明思路：利用 Lemma A.2 将极限方差分解为两项，第一项 \(\frac{8\sigma^4}{K-1} \mathbb{E}\|H_g(Y)\|_F^2\) 对所有方案相同，第二项 \(\frac{8(K-1)\sigma^4}{K} \mathbb{E}[\text{tr}(H_g D H_g D^\top)]\) 非负，且仅当 \(D=0\)（即联合正态）时为零。通过构造 \(g^*(y) = y/\sqrt{n} + b\) 达到下界。

  • Theorem 5.1（非光滑估计量的方差速率）：在 Assumption 5.1 下，

    \[\mathbb{E}[\text{Var}(CV_\alpha | Y)] = \begin{cases} O(\alpha^{-1/2}) & \text{if } \rho = -1/(K-1), \\ \Theta(\alpha^{-1}) & \text{if } \rho > -1/(K-1). \end{cases}\]
    证明：将 \(CV_\alpha\) 分解为 \(R_\varepsilon + T_\varepsilon\)（\(\varepsilon=\sqrt{\alpha}\)），其中 \(R_\varepsilon\) 包含光滑部分和跳跃部分，其方差通过 Lemma A.3 控制为 \(O(\varepsilon^{-1})\)；\(T_\varepsilon\) 的方差仍为 \(\Theta(\varepsilon^{-2})\) 当 \(\rho > -1/(K-1)\)。反演时 \(T_\varepsilon=0\)，故总方差 \(O(\varepsilon^{-1}) = O(\alpha^{-1/2})\)。

  • Theorem 5.2（控制变量恢复有界方差）：在非光滑估计量下，若跳跃边界已知，构造控制变量 \(V_\alpha\) 使 \(\widetilde{CV}_\alpha = CV_\alpha + V_\alpha\) 满足 \(\mathbb{E}[\text{Var}(\widetilde{CV}_\alpha | Y)] = O(1)\) 当且仅当 \(\rho = -1/(K-1)\)。证明：\(V_\alpha\) 抵消了跳跃部分对 \(T_\varepsilon\) 的贡献，剩余部分类似光滑情形。

证明路线与技术技巧

Theorem 3.1 证明路线： 1. 将 \(CV_\alpha\) 写为 \(R_\alpha + T_\alpha\)，其中 \(T_\alpha = \frac{2}{\sqrt{\alpha}} \langle \bar{\omega}, g(Y)-Y \rangle\)，\(\bar{\omega} = \frac{1}{K}\sum \omega_k\)。 2. 利用 Lemma A.1 证明 \(R_\alpha \to R_0\) 在 \(L^2\) 中，从而 \(\mathbb{E}[\text{Var}(R_\alpha | Y)]\) 有界。 3. 计算 \(\text{Var}(T_\alpha | Y) = \frac{4\sigma^2}{\alpha K} \{1+(K-1)\rho\} \|g(Y)-Y\|_2^2\)，其期望 \(\propto 1/\alpha\) 当 \(\rho > -1/(K-1)\)。 4. 当 \(\rho = -1/(K-1)\) 时，\(\bar{\omega}=0\) 几乎必然，故 \(T_\alpha=0\)，总方差有界。 5. 当 \(\rho > -1/(K-1)\) 时，通过 Cauchy-Schwarz 证明交叉项可忽略，总方差 \(\Theta(1/\alpha)\)。

关键跳跃点：Lemma A.1 的证明需要 Gaussian shift 连续性（Lemma A.4），该引理保证当 \(\varepsilon \to 0\) 时，\(\|g(Y+\varepsilon \omega) - g(Y)\|_{L^4} \to 0\) 以及类似结果对 \(\nabla g\) 成立。这依赖于弱可微性和矩条件，是连接 \(R_\alpha\) 与 \(R_0\) 的核心。

Theorem 4.1 证明路线： 1. 利用 Lemma A.2 将极限方差表示为 \(\frac{8\sigma^4}{K-1} \mathbb{E}\|H_g\|_F^2 + \frac{8(K-1)\sigma^4}{K} \mathbb{E}[\text{tr}(H_g D H_g D^\top)]\)，其中 \(D = M_1 M_2^\top + \frac{1}{K-1} I_n\)。 2. 第一项对所有方案相同；第二项非负，且仅当 \(D=0\) 时为零。 3. 构造 \(g^*\) 使 \(\mathbb{E}\|H_{g^*}\|_F^2 = 1\) 且第二项为零，得到下界 \(\frac{8\sigma^4}{K-1}\)。 4. 对联合正态方案，\(D=0\)，且对任意 \(g\) 有 \(\|H_g\|_F \le \|\nabla g\|_F\)，故上界为 \(\frac{8\sigma^4}{K-1}\)。 5. 唯一性：若某方案达到下界，则必须 \(D=0\) 几乎必然，这等价于联合正态性（通过特征函数论证）。

技术技巧： - 条件方差分解：Lemma A.2 利用 \(Z \sim N(0,\sigma^2 I_d)\) 和二次型方差公式 \(\text{Var}(Z^\top S Z) = 2\sigma^4 \|S\|_F^2\)。 - Gaussian shift 连续性：Lemma A.4 是证明 \(R_\alpha\) 收敛的关键，它保证了在 \(L^p\) 意义下，函数在扰动下的连续性。 - 控制变量构造：利用条件期望 \(\mathbb{E}[\omega_k \mathbf{1}\{h_\ell(Y+\sqrt{\alpha}\omega_k)>0\} | Y]\) 的解析表达式（高斯半空间恒等式），构造无偏的控制变量。

真实例子与应用

本文包含数值实验（Section 6），使用稀疏线性模型： - 数据：\(n=200, p=50\)，\(s=10\) 个非零系数，设计矩阵 \(X\) 为独立标准正态，\(\sigma^2 = \text{Var}(X\beta)/2\)（SNR=2）。 - 估计量：岭回归（光滑）和坐标硬阈值岭回归（非光滑，形如 (17)）。 - 方法：比较四种随机化方案：独立（\(\rho=0\)）、正相关（\(\rho=1/(K-1)\)）、反演 Rademacher（Example 4.2）、反演正态（Example 4.1），以及带控制变量的反演正态（ACV Adjusted）。 - 结果： - 图1(a)：光滑情形，反演方案（Rademacher 和正态）的可约方差随 \(1/\alpha\) 增长保持有界，非反演方案线性增长；反演正态优于反演 Rademacher，验证 Theorem 3.1 和 4.1。 - 图1(b)：非光滑情形，反演正态增长缓慢（\(O(\alpha^{-1/2})\)），非反演方案线性增长；带控制变量的反演正态保持有界，验证 Theorem 5.1 和 5.2。 - 图1(c)：固定 \(\alpha=0.01\)，各方案均值接近真实预测误差，但独立随机化的置信带远宽于反演方案。 - 目的：验证理论结果，展示反演方案在实际中的方差优势，以及控制变量对非光滑估计量的有效性。

🔎 结论是否比证明窄

  • Theorem 3.1 的证明中，下界 \(\Theta(1/\alpha)\) 依赖于非退化条件 \(\mathbb{E}\|g(Y)-Y\|_2^2 > 0\)。若该条件不成立（例如 \(g(Y)=Y\)），则 \(T_\alpha\) 方差为零，但此时 \(CV_\alpha\) 可能退化为常数，结论仍成立但无意义。论文未讨论这种退化情形。
  • Theorem 4.1 的极小化极大最优性是在 Proposition 4.1 构造的类 \(\mathcal{M}\) 中证明的，而非所有满足 Assumption 2.1 的方案。Proposition 4.1 要求 \(\omega_k = M_k Z\) 且 \(M_k\) 满足 co-isometry 和 sum-zero。这是否覆盖所有可能的反演方案？论文未证明，但指出“a general construction yields a class of antithetic schemes”。因此，最优性结论限于该构造类。
  • Theorem 5.1 和 5.2 的证明假设跳跃边界已知且有限。若跳跃边界未知或有无穷多个跳跃，结论不直接适用。论文在 Section 5.2 末尾给出了硬阈值岭回归的解析控制变量，但未讨论一般情形下的自适应估计。

四、开放问题（点到为止，扎根具体语句）

  1. 非光滑估计量下控制变量的自适应构造：Theorem 5.2 要求跳跃边界 \(h_\ell\) 已知且解析可算。对于更一般的非光滑估计量（如随机森林、深度网络），如何自适应地估计控制变量？扎根于 Section 5.2 末尾：“Its implementation requires evaluating \(\mathbb{E}[\omega_k \mathbf{1}\{h_\ell(Y+\sqrt{\alpha}\omega_k)>0\} | Y]\) for each threshold function.” 该条件期望通常无闭式解。

  2. 未知 \(\sigma^2\) 时的有限样本性质：论文假设 \(\sigma^2\) 已知或可一致估计。当 \(\sigma^2\) 需从数据中估计时，反演方案的最优性是否保持？有限样本下估计误差如何影响方差？扎根于 Section 2.2 末句：“When \(\sigma^2\) is unknown, it is replaced by a consistent estimator, as is standard in such splitting schemes; Liu et al. (2026) demonstrate this plug-in approach for cross-validation.” 本文未分析该替换对最优性的影响。

  3. 非正态数据或非正态充分统计量：论文聚焦于正态均值问题，并提及“extensions to estimators depending on asymptotically normal sufficient statistics follow by the techniques of Liu et al. (2026)”。但该扩展是否保持反演最优性？例如，对于泊松或二项数据，data thinning 可构造独立视图，但随机化变量的联合分布设计是否仍有类似结论？扎根于 Introduction 第1段：“A broadly applicable implementation of this idea is feasible when the fitted model or estimator depends on the data through a sufficient statistic that is normal or asymptotically normal.”

  4. 计算-统计权衡视角：本文未讨论计算成本。反演方案（尤其是联合正态方案）需要生成相关正态变量，其计算复杂度与独立方案相同（\(O(Kn)\)）。但控制变量法需要额外计算条件期望，可能增加开销。是否存在计算更高效的反演方案（如 Rademacher）与最优方案之间的权衡？扎根于 Example 4.2 和 4.3，它们提供了计算简单的反演方案，但 Theorem 4.1 表明其方差大于联合正态方案。研究者可探索在计算受限下（如大规模 \(n\) 或 \(K\)）的近似最优方案。

Maintained by 陈星宇 · Homepage · Source on GitHub

评论