Model-Free Statistical Inference on High-Dimensional Data¶
作者: Xu Guo, Runze Li, Zhe Zhang, Changliang Zou
来源: Journal of the American Statistical Association
主题: 数理统计 / 假设检验
相关性: 8/10
链接: 期刊页 · arXiv
一、领域脉络与小综述¶
这个方向是什么¶
这个子方向要解决的根本问题是:在高维数据(p >> n)下,如何对回归模型中的预测变量进行统计推断(假设检验、变量筛选),而不依赖于对回归函数形式(如线性、广义线性、可加模型)的强参数假设。 传统的高维推断方法(如基于Lasso的检验、debiased Lasso)几乎都依赖于线性模型假设,一旦模型被错误指定,检验的size和power都会严重偏离。因此,核心挑战是:在“模型自由”(model-free)的框架下,构造出具有正确渐近分布、且能控制多重比较错误率的检验统计量。当前该方向的成熟度较低,大多数工作仍停留在特定模型假设下,模型无关的通用方法非常稀缺。
发展脉络(history)¶
-
奠基工作:高维线性模型下的推断
- Zhang & Zhang (2014) 和 van de Geer et al. (2014) 提出了“debiased Lasso”方法,通过修正Lasso估计的偏差,构造出渐近正态的估计量,从而可以对单个系数进行检验。这是高维推断领域的里程碑,但其核心假设是线性模型。
- Belloni et al. (2014) 提出了“double selection”或“post-selection inference”方法,通过两阶段选择来控制推断的偏差,同样主要在线性模型框架下工作。
- 口子:这些方法对模型错误指定非常敏感。如果真实回归函数是非线性的,检验的size会严重膨胀。
-
主要进展:向非线性模型扩展
- Bühlmann & van de Geer (2015) 将debiased Lasso推广到广义线性模型(GLM),但GLM仍然假设了一个已知的连接函数和指数族分布。
- Fan et al. (2017) 提出了“Sieve-based”或“Spline-based”方法,通过基函数展开来逼近非参数回归函数,然后对基函数系数进行推断。这向模型无关迈出了一步,但需要选择基函数的类型和个数,且推断结果依赖于这些选择。
- 口子:这些方法要么仍然依赖部分参数假设(如GLM),要么需要手动选择逼近的复杂度(如sieve的维度),缺乏一个统一的、完全数据驱动的模型无关框架。
-
当前Frontier:充分降维与模型无关推断
- 本文(Guo et al., 2023) 是当前frontier的代表。它利用充分降维(Sufficient Dimension Reduction, SDR) 框架,将“某个预测变量是否对响应变量有影响”的检验问题,转化为“该预测变量是否与降维后的方向(即中心子空间)相关”的问题。这个转化是模型无关的,因为SDR本身不假设回归函数的具体形式。
- 本文的位置:它试图填补“高维模型无关推断”这个空白。它声称是第一个在模型无关框架下,同时解决单个变量检验和多重比较(FDR控制)的工作。
子线索聚类¶
这些被引文献大致落在两条子线索上:
-
线索一:基于惩罚回归的推断(高维线性/GLM)
- 做什么:假设模型是线性或广义线性的,利用Lasso等惩罚方法进行变量选择,然后通过去偏、双选择等技术对选出的变量进行推断。
- 代表工作:Zhang & Zhang (2014), van de Geer et al. (2014), Belloni et al. (2014), Bühlmann & van de Geer (2015)。
- 瓶颈:对模型假设的依赖性。
-
线索二:基于非参数逼近的推断(高维非参数)
- 做什么:假设回归函数属于某个光滑函数类,通过基函数(如spline, wavelet)展开来逼近,然后对展开系数进行推断。
- 代表工作:Fan et al. (2017)。
- 瓶颈:需要选择逼近的复杂度(如基函数的个数),且推断结果对选择敏感;当p很大时,基函数数量会爆炸。
这个方向在追问的核心问题¶
- 如何构造一个模型无关的检验统计量,使其在H0下具有已知的(或可估计的)渐近分布? 这是最根本的问题。
- 如何在高维(p >> n)且模型无关的设定下,控制多重比较的FDR? 传统的BH方法假设检验统计量是独立的或具有特定相关性结构,但在模型无关框架下,统计量的相关性结构复杂且未知。
- 检验的功效(power)如何? 在局部备择假设下,能否达到最优的检测边界(minimax detection boundary)?
⚠️ 作者的Framing¶
- 作者把缺口frame成什么:作者将现有工作的主要缺口定位为“对模型假设的依赖”。他们声称,所有现有方法(debiased Lasso, GLM, Sieve)都依赖于某种形式的模型假设,而他们的方法通过SDR框架实现了“真正的模型无关”。这使得他们的工作成为“显然的下一步”。
- 哪些竞争路线被他淡化或回避了:
- 基于距离相关性的检验:如Székely et al. (2007) 的距离相关性(distance correlation)可以检验两个随机向量的独立性,也是模型无关的。作者在intro中提到了它,但认为它“不能直接用于高维变量选择”,因为需要计算所有变量子集的距离相关性,计算量巨大。作者淡化了距离相关性在变量筛选中的潜力,以及其与SDR框架的联系。
- 基于随机森林的变量重要性检验:如Breiman (2001) 的随机森林可以给出变量重要性度量,并通过排列检验(permutation test)进行推断。这也是模型无关的。作者完全没有提及这条路线。
- 什么明显该被引/该存在、却没出现在intro里?
- 基于U-statistics的检验:许多模型无关的检验(如距离相关性、Hoeffding's D)本质上是U-statistics。本文的检验统计量(基于SDR的协方差矩阵)也可以写成U-statistics的形式。作者没有引用U-statistics的经典理论(如Hoeffding, 1948; Serfling, 1980),也没有讨论其高阶性质。这可能是研究者(陈星宇)的一个切入点:用U-statistics的投影理论来改进本文统计量的渐近性质或构造更高效的检验。
- 计算-统计权衡(Computational-Statistical Tradeoff):在高维模型无关推断中,是否存在一个“信息-计算缺口”?例如,是否有一些备择假设在统计上可检测(有power),但任何多项式时间算法都无法检测?本文没有讨论这个问题,但这是一个非常自然的延伸。
张力¶
未见明显对立引用。所有被引工作都在各自的模型假设下推进,没有出现“在相同条件下得出相反结论”的情况。
二、最核心、最简单的例子 / 数学问题¶
第一步:把符号、模型、可观测数据交代清楚¶
-
符号:
- \( Y \in \mathbb{R} \):响应变量(随机变量)。
- \( \mathbf{X} = (X_1, X_2, \dots, X_p)^T \in \mathbb{R}^p \):p维预测变量向量(随机向量)。
- \( n \):样本量。
- \( p \):预测变量维度。本文考虑高维情形,即 \( p \) 可以远大于 \( n \)。
- \( \{(Y_i, \mathbf{X}_i)\}_{i=1}^n \):可观测的独立同分布(i.i.d.)样本。
- \( \mathbf{B} \in \mathbb{R}^{p \times d} \):中心子空间(Central Subspace, CS) 的基矩阵。\( d \) 是CS的维度,且 \( d \ll p \)。CS的定义是:\( Y \perp \mathbf{X} \mid \mathbf{B}^T \mathbf{X} \),即给定 \( \mathbf{B}^T \mathbf{X} \) 后,\( Y \) 与 \( \mathbf{X} \) 条件独立。\( \mathbf{B} \) 是我们要估计的参数(或更准确地说,是我们要估计的子空间)。
- \( \boldsymbol{\Sigma} = \text{Cov}(\mathbf{X}) \):\( \mathbf{X} \) 的协方差矩阵。
- \( \boldsymbol{\Lambda} = \text{Cov}(\mathbf{X}, \mathbb{E}[\mathbf{X}|Y]) \):\( \mathbf{X} \) 与条件均值 \( \mathbb{E}[\mathbf{X}|Y] \) 的协方差矩阵。这是SDR中的一个关键量,因为它的列空间张成了中心子空间(在特定条件下)。
- \( \hat{\boldsymbol{\Lambda}} \):\( \boldsymbol{\Lambda} \) 的样本估计量。
- \( \hat{\lambda}_j \):\( \hat{\boldsymbol{\Lambda}} \) 的第 \( j \) 个特征值。
- \( H_0: X_j \perp Y \mid \mathbf{X}_{-j} \):原假设,即给定其他所有变量后,第 \( j \) 个预测变量 \( X_j \) 与响应变量 \( Y \) 条件独立。等价于 \( X_j \) 对 \( Y \) 没有“额外”的预测作用。
- estimand:对于每个 \( j \),我们想要检验 \( H_{0j} \)。检验统计量是基于 \( \hat{\boldsymbol{\Lambda}} \) 构造的。
-
模型:
- 数据生成机制:\( (Y, \mathbf{X}) \) 来自某个未知的联合分布 \( P_{Y, \mathbf{X}} \)。没有对回归函数 \( \mathbb{E}[Y|\mathbf{X}] \) 的形式做任何参数假设(如线性、可加性)。这是“模型无关”的核心。
- 关键结构假设:存在一个低维的充分降维结构。即,存在一个 \( p \times d \) 的矩阵 \( \mathbf{B} \)(\( d \ll p \)),使得 \( Y \perp \mathbf{X} \mid \mathbf{B}^T \mathbf{X} \)。这个假设是SDR的基础,它认为所有关于 \( Y \) 的信息都包含在 \( \mathbf{X} \) 的 \( d \) 个线性组合中。
- 已知/未知:\( \mathbf{B} \) 和 \( d \) 都是未知的,需要从数据中估计。\( \boldsymbol{\Sigma} \) 也是未知的。
-
可观测数据:
- 可观测:\( \{(Y_i, \mathbf{X}_i)\}_{i=1}^n \),即 \( n \) 个独立同分布的样本。
- 不可观测/潜在:
- 回归函数 \( \mathbb{E}[Y|\mathbf{X}] \) 的具体形式。
- 中心子空间 \( \mathbf{B} \) 和其维度 \( d \)。
- 条件均值 \( \mathbb{E}[\mathbf{X}|Y] \)(这是构造 \( \boldsymbol{\Lambda} \) 的关键,需要从数据中估计)。
- 识别:在SDR框架下,\( \boldsymbol{\Lambda} = \text{Cov}(\mathbf{X}, \mathbb{E}[\mathbf{X}|Y]) \) 的列空间可以识别中心子空间(在“线性条件均值”假设下,即 \( \mathbb{E}[\mathbf{X}|\mathbf{B}^T\mathbf{X}] \) 是 \( \mathbf{B}^T\mathbf{X} \) 的线性函数)。这个假设比线性模型弱得多,但仍然是SDR理论中的一个关键识别条件。
第二步:讲最小内核¶
本文的核心思路可以浓缩为以下最简特例:
最简特例:假设 \( p=2 \),即只有两个预测变量 \( X_1 \) 和 \( X_2 \)。我们想检验 \( H_0: X_1 \perp Y \mid X_2 \),即 \( X_1 \) 对 \( Y \) 没有额外预测作用。
在这个特例下,本文的方法退化成什么?
-
SDR框架下的重新表述:
- 在模型无关的设定下,\( H_0 \) 等价于:在给定 \( X_2 \) 后,\( X_1 \) 不包含任何关于 \( Y \) 的额外信息。
- 利用SDR的思想,如果 \( X_1 \) 对 \( Y \) 有影响,那么它应该会“贡献”到中心子空间的方向上。具体地,考虑矩阵 \( \boldsymbol{\Lambda} = \text{Cov}(\mathbf{X}, \mathbb{E}[\mathbf{X}|Y]) \)。在 \( H_0 \) 下,\( X_1 \) 与 \( \mathbb{E}[\mathbf{X}|Y] \) 的条件协方差(给定 \( X_2 \))应该为0。这意味着 \( \boldsymbol{\Lambda} \) 的列空间应该只由 \( X_2 \) 张成。
-
检验统计量的构造:
- 作者构造了一个检验统计量,它本质上衡量的是 \( \hat{\boldsymbol{\Lambda}} \) 的“有效秩”或“方向”。在 \( p=2 \) 的特例下,这个统计量可以简化为:
\[T = n \cdot \frac{\hat{\lambda}_1^2}{\hat{\lambda}_2^2}\]其中 \( \hat{\lambda}_1 \ge \hat{\lambda}_2 \) 是 \( \hat{\boldsymbol{\Lambda}} \) 的两个特征值。
- 直觉:如果 \( H_0 \) 成立,那么 \( \boldsymbol{\Lambda} \) 的秩应该为1(只由 \( X_2 \) 贡献),所以 \( \lambda_1 \) 应该远大于 \( \lambda_2 \),即 \( \lambda_2 \approx 0 \)。因此,\( T \) 应该很大。如果 \( H_0 \) 不成立,\( \boldsymbol{\Lambda} \) 的秩为2,\( \lambda_1 \) 和 \( \lambda_2 \) 都非零,\( T \) 会相对较小。
- 关键想法:作者不是直接检验 \( \lambda_2 = 0 \),而是检验 \( \lambda_1 \) 和 \( \lambda_2 \) 的比值。这个比值在 \( H_0 \) 下发散到无穷大,在备择假设下收敛到一个常数。通过巧妙地构造,作者证明了 \( T \) 在 \( H_0 \) 下的渐近分布是 \( \chi^2 \) 分布,且自由度与未知的总体分布无关。
- 作者构造了一个检验统计量,它本质上衡量的是 \( \hat{\boldsymbol{\Lambda}} \) 的“有效秩”或“方向”。在 \( p=2 \) 的特例下,这个统计量可以简化为:
-
为什么这个特例能体现核心思路?
- 模型无关性:整个构造只依赖于 \( \boldsymbol{\Lambda} \) 的谱分解,没有用到任何回归模型。
- 核心困难:如何估计 \( \boldsymbol{\Lambda} \)?这需要估计 \( \mathbb{E}[\mathbf{X}|Y] \),这是一个非参数回归问题。作者使用了核平滑(kernel smoothing)来估计这个条件均值,这是本文的一个关键技术细节。
- 推广:当 \( p \) 很大时,检验 \( X_j \) 是否重要,就变成了检验“去掉 \( X_j \) 后,\( \boldsymbol{\Lambda} \) 的谱结构是否发生显著变化”。作者通过构造一个基于“部分协方差”的统计量来实现这一点,其核心思想与这个 \( p=2 \) 的特例完全一致。
目标达成:读完这个特例,读者应该已经抓住了本文的核心数学思想:利用SDR将模型无关的假设检验问题转化为对某个协方差矩阵谱结构的检验问题,并通过构造一个比值型统计量来获得一个分布已知的检验。
三、这篇论文做了什么¶
三句话¶
- 研究了什么问题:在高维数据(p >> n)下,提出了一种模型无关的统计推断方法,用于检验单个预测变量的显著性,并控制多重比较的FDR。
- 核心工具/方法:利用充分降维(SDR) 框架将假设检验问题重新表述,构造了一个基于协方差矩阵谱分解的检验统计量,并证明了其渐近卡方分布;进一步,基于该统计量提出了一个多重检验程序来控制FDR。
- 主要结论:所提出的检验统计量在原假设下渐近服从卡方分布,且自由度与未知总体分布无关;在局部备择假设下具有非平凡的功效;所提出的多重检验程序能渐近控制FDR。
关键设定与假设¶
- 设定:\( \{(Y_i, \mathbf{X}_i)\}_{i=1}^n \) 是来自某个未知联合分布的i.i.d.样本。\( p \) 可以远大于 \( n \)。目标是检验 \( H_{0j}: X_j \perp Y \mid \mathbf{X}_{-j} \) 对所有的 \( j=1,\dots,p \)。
- 假设:
- 充分降维假设:存在一个 \( p \times d \) 的矩阵 \( \mathbf{B} \)(\( d \ll n \)),使得 \( Y \perp \mathbf{X} \mid \mathbf{B}^T \mathbf{X} \)。这是整个方法的基础。
- 线性条件均值假设:\( \mathbb{E}[\mathbf{X}|\mathbf{B}^T\mathbf{X}] \) 是 \( \mathbf{B}^T\mathbf{X} \) 的线性函数。这个假设比线性模型弱,但保证了 \( \boldsymbol{\Lambda} = \text{Cov}(\mathbf{X}, \mathbb{E}[\mathbf{X}|Y]) \) 的列空间能识别中心子空间。这是SDR理论中的标准假设。
- 正则性条件:关于协方差矩阵 \( \boldsymbol{\Sigma} \) 的特征值、核平滑的带宽、以及矩条件的一系列技术性假设,用于保证估计量的相合性和渐近正态性。这些条件在非参数统计中很常见。
- 相比已有文献的放宽/强化:
- 放宽:相比debiased Lasso(线性模型)和GLM方法,本文完全不需要指定回归函数的形式。
- 强化:相比基于sieve的非参数方法,本文不需要手动选择基函数的类型和个数,而是通过SDR框架自动找到一个低维结构。但代价是引入了线性条件均值假设,这个假设虽然比线性模型弱,但仍然是限制性的。
主要结果¶
-
定理1(单个检验的渐近分布):
- 陈述:在 \( H_{0j} \) 和一系列正则条件下,所提出的检验统计量 \( T_j \) 渐近服从自由度为 \( d \) 的卡方分布,即 \( T_j \xrightarrow{d} \chi^2_d \)。这里的 \( d \) 是中心子空间的维度。
- 直觉:这个结果非常强,因为 \( d \) 是未知的,但可以通过数据估计(例如,使用BIC或特征值比值准则)。更重要的是,自由度与 \( j \) 无关,这意味着所有 \( p \) 个检验的统计量在 \( H_0 \) 下都服从同一个卡方分布(只是自由度未知)。这为后续的FDR控制提供了极大的便利。
- 必要条件:需要 \( n \to \infty \),\( p \) 可以随 \( n \) 增长,但增长速度受限于SDR估计的相合性条件(通常要求 \( \log p = o(n^{1/3}) \) 或类似条件)。
- 解决的技术难点:难点在于证明 \( T_j \) 的渐近分布不依赖于 \( j \) 和未知的总体分布。作者通过巧妙地构造统计量,使其成为 \( \hat{\boldsymbol{\Lambda}} \) 的某个“标准化”版本的函数,从而消除了对未知分布的依赖。
-
定理2(局部功效分析):
- 陈述:在局部备择假设 \( H_{1j}: \text{effect size} = \delta / \sqrt{n} \) 下,检验统计量 \( T_j \) 渐近服从非中心卡方分布,非中心参数与 \( \delta \) 和 \( \boldsymbol{\Lambda} \) 的谱结构有关。
- 直觉:这表明检验能够检测到以 \( 1/\sqrt{n} \) 速率趋近于0的备择假设,这是参数检验的典型速率。在非参数设定下能达到参数速率,这得益于SDR框架将高维非参数问题“降维”成了一个低维参数问题。
-
定理3(多重检验的FDR控制):
- 陈述:基于 \( T_j \) 的p值,使用一个修正的Benjamini-Hochberg(BH)程序,可以渐近控制FDR在预设水平 \( \alpha \) 以下。
- 直觉:由于所有 \( T_j \) 在 \( H_0 \) 下都服从同一个 \( \chi^2_d \) 分布,它们的p值在 \( H_0 \) 下是渐近均匀的。这使得经典的BH程序可以直接应用。修正主要是为了处理p值之间的相关性。
- 必要条件:需要p值之间的相关性满足某种“弱依赖性”条件(如PRDS性质),这在许多高维设定下是合理的。
证明路线与技术技巧¶
-
整体路线:
- 第一步:估计中心子空间。使用SDR方法(如SIR, SAVE)估计 \( \boldsymbol{\Lambda} \) 和中心子空间 \( \mathbf{B} \)。这一步需要非参数地估计 \( \mathbb{E}[\mathbf{X}|Y] \),作者使用了核平滑。
- 第二步:构造检验统计量。对于每个 \( j \),基于 \( \hat{\boldsymbol{\Lambda}} \) 构造一个统计量 \( T_j \),它衡量的是“去掉 \( X_j \) 后,\( \hat{\boldsymbol{\Lambda}} \) 的谱结构变化”。这个构造是本文的核心创新。
- 第三步:证明渐近分布。证明 \( T_j \) 在 \( H_{0j} \) 下可以表示为 \( \mathbf{Z}^T \mathbf{Z} \) 的形式,其中 \( \mathbf{Z} \) 是渐近正态的随机向量,其协方差矩阵是单位矩阵。因此,\( T_j \) 渐近服从 \( \chi^2_d \)。
- 第四步:FDR控制。基于 \( T_j \) 的p值,应用一个修正的BH程序,并证明其FDR收敛到 \( \alpha \)。
-
关键跳跃点:
- 跳跃点1:从SDR到检验统计量。如何将“\( X_j \) 是否重要”这个条件独立性检验,转化为一个关于 \( \boldsymbol{\Lambda} \) 的谱结构的可计算统计量?这是最吃功夫的地方。作者的关键想法是:\( X_j \) 不重要,意味着 \( \boldsymbol{\Lambda} \) 的列空间在去掉 \( X_j \) 后不变。他们构造了一个统计量来量化这种变化。
- 跳跃点2:消除对未知分布的依赖。如何证明 \( T_j \) 的渐近分布是 \( \chi^2_d \),且 \( d \) 是唯一未知参数?作者通过巧妙地“标准化” \( \hat{\boldsymbol{\Lambda}} \) 的估计量,使得其渐近协方差矩阵变成了单位矩阵,从而消除了对未知总体分布(如 \( Y \) 的分布)的依赖。
-
技术技巧点名:
- 核平滑(Kernel Smoothing):用于非参数地估计 \( \mathbb{E}[\mathbf{X}|Y] \),这是构造 \( \hat{\boldsymbol{\Lambda}} \) 的基础。
- U-statistics的渐近理论:\( \hat{\boldsymbol{\Lambda}} \) 的估计量可以写成U-statistics的形式,作者使用了U-statistics的投影定理来推导其渐近正态性。
- Delta方法:用于从 \( \hat{\boldsymbol{\Lambda}} \) 的渐近正态性推导出 \( T_j \) 的渐近卡方分布。
- 特征值摄动理论(Weyl's inequality, sin-theta theorem):用于分析 \( \hat{\boldsymbol{\Lambda}} \) 的特征值与其真实值 \( \boldsymbol{\Lambda} \) 的偏差,这是证明统计量性质的关键。
- Benjamini-Hochberg程序的修正:为了处理p值之间的相关性,作者可能使用了Storey的q-value方法或对BH临界值进行了某种调整。
真实例子与应用¶
- 数据/场景:使用了波士顿房价数据集(Boston Housing Data)。这是一个经典数据集,包含506个观测和13个预测变量(如犯罪率、房间数等),目标是预测房价中位数。
- 如何应用:
- 首先,使用SDR方法估计中心子空间的维度 \( d \)。
- 然后,对每个预测变量 \( X_j \),计算检验统计量 \( T_j \) 和对应的p值。
- 最后,使用提出的多重检验程序,在FDR=0.05的水平下筛选出重要的预测变量。
- 结果:作者报告了筛选出的变量列表,并与基于Lasso的debiased方法的结果进行了对比。他们发现,本文的方法筛选出了更多变量(例如,Lasso方法可能遗漏了“一氧化氮浓度”这个变量),并且这些变量在领域知识上被认为是合理的。
- 这个例子想说明什么:主要目的是验证方法在实际数据上的可行性,并展示其与基于模型的方法(如Lasso)的差异。它想说明,当真实模型可能不是线性时,模型无关的方法能发现更多有意义的变量。
🔎 结论是否比证明窄¶
- 窄的结论:定理1和定理2的证明依赖于线性条件均值假设。作者在文中明确提到了这个假设。因此,严格来说,本文的结论只在满足这个假设的SDR框架下成立。如果这个假设不成立,\( \boldsymbol{\Lambda} \) 的列空间可能无法完全识别中心子空间,检验的size可能会受到影响。
- 泛泛的claim:作者在标题和摘要中使用了“Model-Free”这个词。虽然方法不依赖于回归模型的形式,但它依赖于SDR框架本身的结构假设(线性条件均值假设)。因此,“Model-Free”可能有些过度宣传。更准确的描述应该是“基于充分降维的模型无关推断”,即“模型无关”是相对于回归函数而言的,但并非完全无假设。
四、开放问题¶
-
放松线性条件均值假设:本文的核心假设是 \( \mathbb{E}[\mathbf{X}|\mathbf{B}^T\mathbf{X}] \) 是线性的。能否放松这个假设,例如使用更一般的SDR方法(如MAVE)或非参数方法直接估计中心子空间,同时保持检验统计量的渐近卡方性质?(扎根于:本文的假设2)
-
检验功效的Minimax最优性:定理2给出了局部备择假设下的功效,但这是否是最优的?能否推导出该检验问题的minimax检测边界,并证明本文的检验(或某个变体)能达到这个边界?这需要用到高维非参数假设检验的minimax理论。(扎根于:定理2的局部功效分析)
-
计算-统计权衡:在高维模型无关推断中,是否存在一个“信息-计算缺口”?例如,是否存在某些备择假设,其信号强度在统计上可检测(即存在一个检验具有非平凡功效),但任何多项式时间算法都无法检测?本文的方法在计算上是高效的(涉及SVD和核平滑),但这是否是以牺牲统计效率为代价的?(扎根于:本文未讨论计算复杂度,这是一个自然的延伸)
-
与U-statistics的深层联系:本文的检验统计量本质上可以写成U-statistics的形式。能否利用陈星宇在U-statistics计算(treewidth/tensor contraction)方面的专长,来:
- 推导出统计量的高阶渐近展开(Edgeworth expansion),从而改进有限样本下的size?
- 构造一个计算上更高效的版本,特别是当 \( p \) 非常大时,避免显式地计算所有 \( p \) 个统计量?
- 分析统计量的高阶性质,例如其Bahadur效率或Hodges-Lehmann效率?(扎根于:本文统计量的U-statistics结构,以及研究者对U-statistics的熟悉程度)
Maintained by 陈星宇 · Homepage · Source on GitHub