跳转至

Deep Transformation Model

作者: Tong Wang, Shunqin Zhang, Sanguo Zhang, Jian Huang, Shuangge Ma
来源: Journal of the American Statistical Association
主题: 非参数 / 半参数
相关性: 6/10
机构绿灯: Yale University(US News 前 50,免分进入精读)
链接: 期刊页 · arXiv


一、领域脉络与小综述

这个方向是什么

本文所处的子方向是非参数/半参数回归与生存分析中的"变换模型"(transformation model)。其根本统计问题是:如何在不对响应变量 \(Y\) 与预测变量 \(X\) 之间的关系施加过多参数假设的前提下,估计一个可解释的预测函数 \(f^*(X)\),同时保持对模型误设(model misspecification)的稳健性,并适应重尾误差或删失数据等复杂情况。该方向的成熟度较高——变换模型自 1980 年代起就有深入研究(如 Box-Cox 变换、秩回归等),但将其与深度神经网络(DNN)结合、并建立完整的理论保证(可辨识性、收敛速率、变量选择一致性)是近年来的前沿课题。

发展脉络

  1. 奠基工作:线性变换模型与最大秩相关(MRC)估计 Han (1987) 提出了最大秩相关估计,这是本文方法论的直接源头。该工作考虑 \(Y = D(f^*(X), \epsilon)\) 的形式,其中 \(f^*\) 取线性形式 \(X^\top \beta\),通过最大化秩相关系数来估计 \(\beta\)。其关键贡献在于:无需指定变换函数 \(D\) 和误差分布,仅依赖秩条件即可识别参数。本文在引言中明确指出:"In most of such studies (Han et al., 2015; Fan et al., 2020; Shen et al., 2023), \(f(X)\) takes a linear form."——这是本文要突破的瓶颈。

  2. 向非线性推广:秩回归与广义变换模型 Horowitz (2001) 和 Nguelifack & Kemajou-Brown (2020) 将变换模型推广到非参数加性形式,但仍局限于低维或特定结构。Fan et al. (2020) 和 Shen et al. (2022) 研究了高维情形下的秩估计,但预测函数仍为线性。这些工作的共同局限是:无法捕捉复杂的非线性交互关系,而这正是 DNN 的优势所在。

  3. DNN 非参数回归的理论基础 与本文直接相关的另一条线索是 DNN 在非参数回归中的理论保证。Schmidt-Hieber (2020)、Bauer & Kohler (2019)、Jiao et al. (2023) 建立了基于平方损失的 DNN 估计器的收敛速率,证明了在组合光滑假设下可达到 minimax 最优速率(至多 \(\log n\) 因子)。但这些工作均假设误差为轻尾或至少二阶矩有限,且损失函数为平方损失——对重尾误差和异常值不稳健。Shen et al. (2021) 研究了重尾误差下的稳健 DNN 回归,但未涉及变换模型框架。

  4. DNN 变量选择 Feng & Simon (2017) 提出稀疏输入神经网络,通过对第一层权重施加 group lasso 惩罚实现变量选择;Scardapane et al. (2017) 和 Luo & Halabi (2023) 进一步发展了 group 正则化方法。但这些工作的理论分析多集中于预测误差,缺乏变量选择一致性的严格证明,尤其是在变换模型框架下。

  5. 本文的位置 本文首次将非参数变换模型与深度神经网络结合,提出"深度变换模型"(Deep Transformation Model)。其核心创新在于:(i) 提出一种新的损失函数(基于秩的 DReLU 近似),与现有平方损失、交叉熵损失有本质区别;(ii) 建立了可辨识性、估计相合性和变量选择一致性的完整理论;(iii) 将框架统一扩展到右删失生存数据。本文声称该模型"encompasses many popular models as special cases",包括线性回归、广义线性模型、单指标模型、Cox 比例风险模型等。

子线索聚类

被引文献大致落在三条子线索上:

  • 线索 A:变换模型与秩回归(Han 1987; Horowitz 2001; Fan et al. 2020; Shen et al. 2022; Nguelifack & Kemajou-Brown 2020; He et al. 2023)——关注如何在未知变换下识别和估计预测函数,核心工具是秩相关和 U-统计量。
  • 线索 B:DNN 非参数回归的理论(Schmidt-Hieber 2020; Bauer & Kohler 2019; Jiao et al. 2023; Shen et al. 2021; Padilla et al. 2020; Fan & Gu 2023)——关注 DNN 估计器的逼近误差、估计误差和 minimax 速率,核心工具是网络逼近理论和经验过程理论。
  • 线索 C:DNN 变量选择与稀疏正则化(Feng & Simon 2017; Scardapane et al. 2017; Luo & Halabi 2023; Dinh & Ho 2020)——关注如何通过 group 惩罚实现特征选择,核心工具是 group lasso 和非凸优化。

这个方向在追问的核心问题

  1. 如何在不指定变换函数 \(D\) 和误差分布的情况下,保证模型可辨识? 本文通过秩条件(Condition 3)和单调性假设(Condition 1)解决了这一问题,但代价是只能识别到单调变换等价类。
  2. DNN 估计器在秩损失下的收敛速率是多少?是否达到 minimax 最优? 本文给出的是上界(Theorem 1-4),未证明下界,因此 minimax 最优性尚未确立。
  3. 在高维稀疏情形下,group 惩罚能否实现变量选择一致性? 本文 Theorem 6 给出了选择一致性,但条件(如 \(\beta_1 > \alpha p_s/(2\alpha-4)\))是否可验证、是否接近最优,需要进一步审视。
  4. 删失数据下,秩损失如何修正? 本文用 \(\Delta_j\) 加权(式 27),但未讨论信息性删失(informative censoring)的情形。

⚠️ 作者的 framing

作者将缺口 frame 为:"现有 DNN 方法要么假设特定损失函数(平方损失、交叉熵),要么假设轻尾误差,缺乏一个统一的、对模型误设不敏感的框架。" 因此本文的卖点是统一性(涵盖多种模型)和稳健性(秩损失对重尾和异常值稳健)。被淡化的竞争路线包括:(i) 分位数回归 DNN(Padilla et al. 2020)——作者仅将其作为特例提及,未深入比较;(ii) 基于似然的变换模型(如 Box-Cox 的深度版本)——作者完全未讨论;(iii) 生存分析中的深度 Cox 模型(如 DeepSurv)——作者仅以"部分线性 Cox"作为特例覆盖,未与专门的深度生存方法对比。

值得研究者去查的问题:引言中引用了 Zhong et al. (2022) 的深度部分线性 Cox 模型,但未出现在主要被引论文列表中。这篇论文的损失函数与本文的秩损失有何关系?另外,Matzkin (2007) 的非参数辨识条件(Condition 3 的来源)在 DNN 框架下是否仍然充分必要?

张力

未见明显对立引用。但存在一个微妙的张力:DNN 的"黑箱"特性与变换模型的可解释性诉求之间存在矛盾。作者通过变量选择(第一层权重的 group 结构)部分缓解了这一问题,但并未从根本上解决。另一个潜在张力是:Schmidt-Hieber (2020) 的平方损失 DNN 在轻尾误差下已达到 minimax 最优,而本文的秩损失在轻尾下可能损失效率(如 Table 3 中 M1 的 MSE 与 NN-LSE 相当,但未见显著优势)——这是否意味着秩损失的稳健性是以效率为代价的?作者未讨论这一权衡。


二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据

符号清单(逐个点名):

记号 含义 类型
\(X \in \mathbb{R}^p\) 预测变量向量 可观测随机变量
\(Y \in \mathbb{R}\) 响应变量 可观测随机变量
\(f^*: \mathbb{R}^p \to \mathbb{R}\) 目标预测函数(待估参数,无穷维) 参数/estimand
\(D: \mathbb{R} \to \mathbb{R}\) 未知单调递增变换函数(** nuisance**,不直接估计) 参数(无穷维)
\(F: \mathbb{R}^2 \to \mathbb{R}\) 已知的、关于每个坐标严格递增的连接函数 已知模型结构
\(\epsilon\) 误差项,与 \(X\) 独立 潜在(不可观测)随机变量
\(\{(X_i, Y_i)\}_{i=1}^n\) \(n\) 个 i.i.d. 样本 可观测数据
\(f_\theta\) 由参数 \(\theta\) 参数化的 DNN 估计量
\(\theta\) 网络权重和偏置 参数(有限维,但维数随网络规模发散)
\(W_{0,q}(\theta)\) 第一层权重矩阵的第 \(q\) 列 参数(用于变量选择)
\(U_n(f)\) 经验秩相关目标函数(式 2) 目标函数
\(U(f)\) 总体秩相关目标函数(式 8) 目标函数(estimand 的隐式定义)
\(U_{n,\omega_n}(f)\) DReLU 近似的经验目标函数(式 5) 目标函数
\(\omega_n\) DReLU 平滑参数(带宽) 调参参数
\(\lambda_n\) group lasso 惩罚参数 调参参数
\(p_s = \|J\|\) 重要预测变量个数 稀疏性指标
\(p_c = \|J^c\|\) 噪声预测变量个数 稀疏性指标
\(\beta\) Hölder 光滑度 假设参数
\(\alpha\) Lojasiewicz 指数(Condition 8) 假设参数
\(T, C, \Delta\) 生存时间、删失时间、删失指示 生存数据中的可观测/潜在变量

模型(式 1):

\[Y = D \circ F(f^*(X), \epsilon)\]
  • 可观测:\((X, Y)\)(或生存数据中的 \((X, Y, \Delta)\))
  • 不可观测:\(D, F, \epsilon, f^*\)
  • 识别策略:不估计 \(D\) 和 \(F\),而是通过秩条件识别 \(f^*\) 的单调等价类。具体地,\(f^*\) 是最大化总体秩相关 \(U(f) = \mathbb{E}[I(Y_1 > Y_2) I(f(X_1) > f(X_2))]\) 的函数(在归一化约束 \(\|f\|_\infty = 1\) 下)。

关键点:这个模型不假设误差分布(重尾允许),不假设变换函数形式(\(D\) 任意单调递增),不假设连接函数形式(\(F\) 已知但任意)。代价是:\(f^*\) 只能识别到单调变换等价类,且估计目标是秩相关而非均方误差。

第二步:最小内核

最小内核:假设 \(p = 1\)(单个预测变量),\(F(u, \epsilon) = u + \epsilon\)(加性误差),\(D\) 为恒等映射。此时模型退化为:

\[Y = f^*(X) + \epsilon\]

但不假设 \(\mathbb{E}[\epsilon] = 0\) 或 \(\epsilon\) 有有限二阶矩。目标是从 \(n\) 个 i.i.d. 样本 \((X_i, Y_i)\) 中估计 \(f^*\)(在单调变换等价类意义下)。

核心数学问题:最大化经验秩相关

\[U_n(f) = \frac{1}{n(n-1)} \sum_{i \neq j} I(Y_i > Y_j) I(f(X_i) > f(X_j))\]

其中 \(f\) 属于 DNN 函数类 \(\mathcal{F}_\theta\)。

为什么难: 1. 目标函数不连续:\(I(\cdot)\) 是阶跃函数,无法直接求梯度。 2. 函数空间无穷维:\(f\) 是无穷维参数,需要网络逼近理论控制逼近误差。 3. 秩损失的曲率:在 \(f(X_i) = f(X_j)\) 处不可导,需要 DReLU 平滑化。

本文的破局思路(三步): 1. DReLU 平滑:用 \(S_{\omega_n}(u) = \sigma(u/\omega_n + 1/2) - \sigma(u/\omega_n - 1/2)\) 替代 \(I(u > 0)\),其中 \(\sigma(\cdot) = \max(\cdot, 0)\)。当 \(\omega_n \to 0\) 时,\(S_{\omega_n}(u) \to I(u > 0)\)。这使目标函数连续可微(分段线性)。 2. 网络逼近:利用 DNN 对 Hölder 光滑函数的逼近能力(Schmidt-Hieber 2020 的框架),控制逼近误差。 3. 经验过程理论:利用 U-统计量的浓度不等式,控制估计误差。

在这个最小内核下,要证明的核心命题是:

命题(非正式):设 \(f^* \in H^\beta([0,1], B_0)\)(Hölder 光滑),网络宽度和深度适当选择,则

\[> \mathbb{E}[U(f^*) - U(\hat{f}_\theta)] \lesssim n^{-\frac{\beta}{2\beta+1}} \log^3 n >\]
其中 \(\hat{f}_\theta\) 是最大化 \(U_{n,\omega_n}(f_\theta)\) 的 DNN 估计器。

证明的关键步骤: - Step 1:控制 DReLU 近似误差:\(\|U_{n,\omega_n} - U_n\|_\infty \lesssim \omega_n\)(引理 4)。 - Step 2:控制网络逼近误差:\(\inf_{f_\theta \in \mathcal{F}_\theta} \|f_\theta - f^*\|_\infty \lesssim (NM)^{-2\beta/p}\)(引理 5,基于 Schmidt-Hieber 2020)。 - Step 3:控制经验过程项:\(\sup_{f \in \mathcal{F}_\theta} |U_n(f) - U(f)| \lesssim \sqrt{\frac{\log(NM) \log n}{n}}\)(引理 6,基于 U-统计量的浓度不等式)。 - Step 4:组合三项,选择最优的 \(N, M, \omega_n\) 平衡偏差-方差-近似误差。

为什么这个内核是"最小"的:去掉所有一般性假设(多维 \(p\)、删失、group 惩罚、DReLU 平滑),剩下的核心就是如何在秩损失下用 DNN 做非参数回归。一旦这个内核的收敛速率被证明,加上删失权重、group 惩罚、多维扩展都只是"加壳"。

读者读完本节应掌握的: - 模型是 \(Y = D \circ F(f^*(X), \epsilon)\),但估计目标不是 \(D\) 或 \(F\),而是 \(f^*\) 的秩等价类。 - 损失函数是秩相关(式 2),不是平方误差。 - DReLU 平滑(式 4)是处理不连续指示函数的关键技巧。 - 收敛速率 \(n^{-\beta/(2\beta+p)}\) 是标准非参数速率,但秩损失下的证明需要额外的技巧(DReLU 近似 + U-统计量浓度)。

三、这篇论文做了什么

三句话

  1. 研究了什么问题:在非参数变换模型框架下,如何用深度神经网络估计预测函数 \(f^*(X)\),同时实现模型误设稳健性、重尾误差适应性和变量选择一致性,并统一处理删失生存数据。
  2. 核心工具/方法:提出一种基于秩的损失函数(式 2),用 DReLU 函数(式 4)平滑化处理,结合 group lasso 惩罚(式 19-20)实现变量选择,并扩展到右删失数据(式 27)。
  3. 主要结论:建立了估计相合性(Theorem 1-2)、收敛速率(Theorem 3-4)和变量选择一致性(Theorem 5-6),模拟和实际数据验证了方法在复杂模型下的优势。

关键设定与假设

模型设定(在第二节最小内核基础上补全):

  1. 数据生成:\((X_i, Y_i) \sim P\) i.i.d.,\(X \in [0,1]^p\)(有界支撑),\(Y \in \mathbb{R}\)。
  2. 目标函数:\(f^* \in H^\beta([0,1]^p, B_0)\)(Hölder 光滑类),且 \(\|f^*\|_\infty = 1\)(归一化约束,解决尺度不可辨识)。
  3. 秩条件(Condition 3):对任意 \(f(X_i) > f(X_j)\),有 \(P(Y_i > Y_j | X_i, X_j) > P(Y_i < Y_j | X_i, X_j)\)。这保证了 \(f^*\) 是 \(U(f)\) 的唯一最大化子(Lemma 1)。
  4. 网络结构:前馈 ReLU 网络,深度 \(L\)、宽度 \(W\)、参数总数 \(S\),权重有界(\(\|W_i\|_\infty \leq 1\))。网络类记为 \(\mathcal{F}_\theta\)。
  5. 稀疏性(Condition 7):\(f^*(X) = \tilde{f}^*(X_J)\),其中 \(\|J\| = p_s \ll p\)。即只有 \(p_s\) 个预测变量是重要的。
  6. 删失设定(Condition 9-11):\(\epsilon \perp (C, X)\),\(C \perp X\),且 \(\Pr(\Delta = 1 | X) > 0\)。这是标准的独立删失假设。

相比已有文献的放宽/强化: - 放宽:不假设误差分布(允许重尾)、不假设变换函数形式、不假设连接函数线性。 - 强化:要求 \(f^*\) 是 Hölder 光滑的(已有秩回归文献通常只要求 Lipschitz);要求秩条件(Condition 3)而非更弱的中心对称条件。

主要结果

Theorem 1(固定 \(p\) 的估计相合性):

\[\mathbb{E}[U(f^*) - U(\hat{f}_\theta)] \lesssim (NM)^{-2\beta/p} + (N \log N)(M \log M) \sqrt{\frac{\log(NM) \log n}{n}}\]
其中 \(N, M\) 是网络宽度/深度的控制参数。当 \(NM = O(n^{p/(2(p+2\beta))})\) 时,速率为 \(n^{-\beta/(2\beta+p)} \log^3 n\)。

Theorem 2(固定 \(p\) 的 DReLU 估计):

\[\mathbb{E}[U(f^*) - U(\hat{f}_{\theta,\omega_n})] \lesssim \omega_n + \omega_n^{-1}(NM)^{-2\beta/p} + \omega_n^{-1}(N \log N)(M \log M) \sqrt{\frac{\log(NM)(\log n - \log \omega_n)}{n}}\]
当 \(\omega_n = O(n^{-\beta/(2\beta+2p)})\) 时,速率为 \(n^{-\beta/(2\beta+2p)} \log^3 n\)。相比 Theorem 1,速率略慢(分母 \(2\beta+2p\) vs \(2\beta+p\)),但条件更温和(不需要 Condition 6 的连续性假设)。

Theorem 3-4(发散维数 \(p\)):在稀疏性假设(Condition 7)下,收敛速率只依赖于有效维数 \(p_s\) 而非总维数 \(p\):

\[\mathbb{E}[U(f^*) - U(\hat{f}_\theta)] \lesssim (NM)^{-2\beta_1/p_s} + p(N \log N)(M \log M) \sqrt{\frac{\log(pNM) \log n}{n}}\]
当 \(p \ll n^{1/2}\) 时收敛。

Theorem 5-6(变量选择一致性): - Theorem 5:惩罚估计器的预测误差上界,与 Theorem 3 相同速率。 - Theorem 6:在 Condition 8(Lojasiewicz 不等式)下,第一层权重中对应于不重要变量的部分收敛到 0,且收敛速率可量化:

\[\mathbb{E}\|v(\hat{\theta}_{\lambda_n})\|_2 \lesssim \lambda_n^{-1} p(N \log N)(M \log M) \sqrt{\frac{\log(pNM) \log n}{n}} + \sqrt{p} \mathbb{E}[\text{dist}(\hat{\theta}_{\lambda_n}, \Theta)]\]
其中 \(\Theta\) 是最优网络参数集合。

Theorem 7(删失数据):在 Condition 9-11 下,删失数据的估计器与未删失情况有相同的收敛速率。

技术难点与破局: 1. 秩损失的非光滑性:用 DReLU 近似指示函数,引入 \(\omega_n\) 作为平滑参数,在偏差-方差之间权衡。 2. 网络逼近误差:利用 Schmidt-Hieber (2020) 的逼近定理,但需要扩展到秩损失(非平方损失)下的分析。 3. U-统计量的浓度:秩损失是二阶 U-统计量,需要 Hoeffding 型不等式,但指示函数的非光滑性使经典结果不直接适用。 4. 删失数据的秩:用 \(\Delta_j\) 加权,但需要验证加权后的目标函数仍以 \(f^*\) 为唯一最大化子(Lemma 3)。

真实例子与应用

模拟研究(Section 6): - 6 个模型:M1-M2 为单指标模型(线性/非线性变换),M3-M4 为非线性模型,M5-M6 为删失生存模型。 - 比较方法:NN-LSE、NN-LAD、NN-Cauchy、NN-Huber、MRC。 - 关键发现: - M1(线性单指标):所有方法表现相当,本文方法略优(MSE 1.31 vs 1.33)。 - M2(非线性变换):本文方法显著优于 NN-LSE(MSE 4.24 vs 4.57),与 NN-LAD 相当。 - M3-M4(非线性):本文方法在重尾误差下优势明显(M3 中 MSE 2.40 vs NN-LSE 3.81)。 - M5-M6(删失):本文方法在 C-index 上优于所有比较方法(M5 中 0.71 vs NN-LSE 0.69)。 - 变量选择:当 \(p=200\) 时,本文方法在 TOP10/TOP20 指标上优于 NN-LSE 和 NN-LAD。

实际数据(Section 7): - 5 个数据集:Energy Prediction、Communities and Crime、METABRIC(生存)、South German Credit(分类)、Wiki4HE(分类)。 - 结果:本文方法在 Energy Prediction 的 LAD 和 Cauchy 损失上最优,在 METABRIC 的 C-index 上最优(0.64 vs NN-LSE 0.60),在分类数据上与 NN-Logistic 相当。

这些例子想说明什么: 1. 在简单模型(M1)下,本文方法不劣于专门方法——没有过度拟合复杂性的代价。 2. 在复杂/非线性/重尾/删失场景下,本文方法显著优于平方损失 DNN——验证了秩损失的稳健性优势。 3. 变量选择在 \(p=200\) 时仍然有效,说明 group 惩罚在 DNN 框架下可行。

🔎 结论是否比证明窄

需要指出的具体点:

  1. Theorem 1-2 的速率是上界,未证明 minimax 下界。作者在 Section 3.2 中只给出了上界,未讨论是否最优。对于秩损失下的非参数估计,minimax 速率可能不同于平方损失下的速率(因为秩损失的信息量不同)。这是一个证明比结论窄的地方——作者声称"convergence rates"但实际只证明了上界。

  2. Theorem 6 的变量选择一致性依赖于 Condition 8(Lojasiewicz 不等式),但作者在正文中未验证该条件在 DNN 函数类中是否成立,只说"can be established through Lojasiewicz's inequality"并引用 Bolte et al. (2010)。这是一个假设未验证的地方。

  3. 删失数据的处理(Section 5):Theorem 7 的证明假设 Condition 9-11,但未讨论删失机制与 \(X\) 相关的信息性删失。作者在 Section 5.2 中承认"Condition 11 is imposed for technical convenience and can be relaxed when \(F(\cdot, \cdot)\) is additive",但未给出放松后的证明。

  4. 模拟中未报告计算成本:DReLU 平滑引入额外调参参数 \(\omega_n\),但作者未讨论 \(\omega_n\) 的选取对结果的影响(只在补充材料中提及)。

  5. 实际数据中未报告变量选择结果:Table 4 只报告了预测性能,未报告在真实数据上识别了哪些变量,这使得变量选择一致性的实际意义缺乏直接证据。

四、开放问题

以下问题均扎根于本文的具体语句或引用:

  1. minimax 最优性:Theorem 1-2 只给出上界 \(n^{-\beta/(2\beta+p)} \log^3 n\),未证明下界。要证什么:秩损失下 DNN 估计的 minimax 速率是否为 \(n^{-\beta/(2\beta+p)}\)?还是秩损失的信息量导致更慢的速率?(扎根:Section 3.2 的 Theorem 1-2 陈述)

  2. Condition 8 的可验证性:Lojasiewicz 不等式在 DNN 函数类中是否成立?\(\alpha\) 的具体值是什么?要算什么:对 ReLU 网络,\(\alpha\) 是否等于 2(半代数函数的标准结果)?还是需要额外的结构假设?(扎根:Condition 8 及 Bolte et al. 2010 的引用)

  3. 信息性删失的扩展:Condition 11 假设 \(C \perp X\),但实际生存数据中删失常与协变量相关。要证什么:当 \(C\) 依赖 \(X\) 时,加权秩损失(式 27)是否仍能一致估计 \(f^*\)?需要什么额外条件?(扎根:Section 5.2 中"can be relaxed when \(F(\cdot, \cdot)\) is additive")

  4. \(\omega_n\) 的自适应选取:DReLU 平滑参数 \(\omega_n\) 的理论最优值依赖未知的光滑度 \(\beta\)。要算什么:是否存在数据驱动的 \(\omega_n\) 选取准则(如交叉验证)能达到与理论最优相同的速率?(扎根:Theorem 2 中 \(\omega_n = O(n^{-\beta/(2\beta+2p)})\) 的依赖)

  5. 变量选择一致性的有限样本行为:Theorem 6 是渐近结果,但实际数据中 \(p=200\) 时 group lasso 的有限样本表现如何?要算什么:在 \(p \gg n\) 的极端高维下,本文方法是否仍然有效?(扎根:Section 6 模拟中 \(p=200\) 的设置)

  6. 秩损失的信息下界:本文的秩损失(式 2)与平方损失相比,在重尾误差下的效率损失是多少?要算什么:秩损失在轻尾误差下的渐近相对效率(ARE)相对于最小二乘是多少?(扎根:引言中关于"heavy-tailed errors"的动机)

提醒:要确认上述问题是否为真 gap,建议去读近 5 年发表在 Annals of Statistics、JRSS-B、Biometrika 上关于"deep transformation model"或"rank-based deep learning"的论文引言——如果多篇都指向同一问题,说明是共识性 gap;如果互相矛盾,则可能是机会。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论