跳转至

Maximum likelihood estimation in the sparse Rasch model

讲者: Lianqiang Qu
会场: Modern Statistical Inference and Machine Learning for Complex Data
报告题目: Maximum Likelihood Estimation in the Sparse Rasch Model
链接: arXiv
来源: JCSDS 2026 · 返回会议总览


一、领域脉络与小综述

这个方向是什么

这个子方向研究的是高维稀疏二元响应矩阵的统计推断,具体而言,是在“个体-项目”响应数据服从 Rasch 模型的设定下,当响应矩阵极度稀疏(即每个个体只对极少数项目做出响应)时,最大似然估计(MLE)的渐近性质。其核心统计挑战在于:参数个数随个体数 \(r\) 和项目数 \(t\) 同时增长(“incidental parameters”问题),而观测到的响应数量远小于 \(r \times t\)(稀疏性)。该方向当前处于从“完整数据”渐近理论向“稀疏数据”渐近理论过渡的成熟阶段,本文是这一过渡中的关键一步,将稀疏性推至图论连通性的理论下界。

发展脉络(history)

  1. 奠基工作:Rasch 模型与 MLE 的存在性

    • Rasch (1960):提出了 Rasch 模型,奠定了项目反应理论的基础。
    • Fischer (1974), Haberman (1977):给出了 MLE 存在且唯一的充要条件(响应图连通)。Haberman (1977) 进一步在“每个个体响应所有项目”(即 \(p=1\))的设定下,建立了 MLE 的相合性与渐近正态性。这是该方向的经典基准。
  2. 主要进展:从完整数据到稀疏数据的挑战

    • Andersen (1973), Ghosh (1995):揭示了当个体数或项目数固定时,MLE 是不相合的,凸显了“incidental parameters”问题的严重性。
    • Chen et al. (2023a)这是本文最直接的竞争工作。他们研究了在一般缺失数据机制下的 Rasch 模型,并给出了 MLE 相合性与渐近正态性的充分条件。当应用于 Erdős–Rényi 采样时,他们的条件要求 \(p \gg (\log r / r)^{1/2}\)。本文作者明确指出,他们的结果“much sharper”,允许 \(p\) 接近 Erdős–Rényi 下界。
  3. 当前 Frontier:稀疏配对比较与图模型

    • Chen et al. (2019), Han et al. (2020), Chen et al. (2022):研究了 Bradley–Terry 模型(与 Rasch 模型结构相似)在稀疏配对比较设计下的 MLE 或正则化 MLE 的相合性。这些工作为本文提供了关键的技术灵感(如 leave-one-out 方法)。
    • Chatterjee et al. (2011), Yan and Xu (2013), Yan et al. (2016), Fan et al. (2023):建立了 Rasch 模型与 \(\beta\)-模型、\(p_0\) 模型、二分图模型等之间的联系,形成了一个统一的 logistic 回归表示框架。
  4. 本文的位置:本文直接挑战 Chen et al. (2023a) 留下的缺口,将稀疏性条件从 \(p \gg (\log r / r)^{1/2}\) 大幅放宽到 \(p \ge c_0 \log r / r\)(即图连通性的理论下界),并给出了更简洁的渐近方差表达式和证明方法。

子线索聚类

  1. MLE 的渐近理论(完整数据):Haberman (1977) 是核心代表,建立了在 \(p=1\) 时的相合性与 CLT。
  2. MLE 的渐近理论(稀疏数据):Chen et al. (2023a) 是主要代表,处理了一般缺失机制,但稀疏性条件较严格。本文是这一线索的最新进展。
  3. 稀疏配对比较模型:Chen et al. (2019, 2022), Han et al. (2020) 等,聚焦于 Bradley–Terry 模型,其技术(如 leave-one-out)被本文借鉴。
  4. 相关图模型:Chatterjee et al. (2011), Yan et al. (2016), Fan et al. (2023) 等,建立了与 Rasch 模型在数学结构上的联系,提供了更广泛的背景。

这个方向在追问的核心问题

  1. MLE 在稀疏响应下是否仍然相合? 如果可以,稀疏性(即采样概率 \(p\))可以低到什么程度?
  2. MLE 的收敛速度是多少?\(\ell_2\)\(\ell_\infty\) 范数下,其误差界如何随 \(r, t, p\) 变化?
  3. MLE 的渐近分布是什么? 能否得到显式的渐近方差表达式,并用于构造置信区间?
  4. 当前主流方法与已知瓶颈:主流方法是直接对 MLE 进行理论分析。瓶颈在于:当 \(p\) 很小时,Fisher 信息矩阵的条件数很差,且其逆矩阵没有显式形式,导致 CLT 的证明非常困难。Chen et al. (2023a) 的方法(不动点定理 + 复杂的三项分解)虽然有效,但条件较紧且证明复杂。

⚠️ 作者的 framing

  • 作者把缺口 frame 成什么:作者将缺口 frame 为“在稀疏 Rasch 模型中,MLE 的相合性与渐近正态性尚未被充分研究,尤其是当采样概率 \(p\) 接近图论连通性下界时”。他们通过将 Chen et al. (2023a) 的条件(\(p \gg (\log r / r)^{1/2}\))与 Erdős–Rényi 图的下界(\(p \ge c_0 \log r / r\))进行对比,清晰地表明自己的工作是“显然的下一步”——将稀疏性推至理论极限。
  • 哪些竞争路线被他淡化或回避了
    • 正则化方法:作者提到了“regularised MLE”,但只在证明中作为中间工具(Lemma 6 的证明中使用了正则化 MLE \(\hat{\omega}_\lambda\)),并未将其作为主要估计量进行理论分析。他们淡化了正则化方法在稀疏场景下的潜在优势。
    • 条件似然 / 边际似然方法:作者在引言中提到了 Andersen (1972), Follmann (1988) 等条件或边际 MLE 方法,但指出它们是为了解决固定参数下的不一致问题。在稀疏高维场景下,这些方法是否更优,作者没有深入讨论。
    • Yang and Ma (2024) 的随机配对 MLE:作者明确区分了他们的工作与 Yang and Ma (2024) 的“random pairing MLE”,指出后者不研究渐近分布,且方法不同。这实际上是在淡化一条不同的技术路线。
  • 什么明显该被引 / 该存在、却没出现在 intro 里?
    • 关于高维统计中 MLE 的通用理论:例如,关于 logistic 回归在高维稀疏设定下的 MLE 理论(如 van de Geer (2008) 的“High-dimensional generalized linear models and the lasso”)。虽然 Rasch 模型有特殊结构,但引用这些通用理论可以更好地定位本文的贡献。
    • 关于二分图随机图模型的更近期工作:除了 Fan et al. (2023) 和 Wang et al. (2022),二分图模型(bipartite \(\beta\)-model)的近期进展可能被遗漏。这是一个值得研究者去查的问题。

张力

未见明显对立引用。所有被引工作基本都沿着“Rasch 模型 MLE 渐近理论”这一主线,在逐步放宽条件。Chen et al. (2023a) 和本文之间的差异是“条件强弱”和“证明方法”的差异,而非结论上的矛盾。

二、最核心、最简单的例子 / 数学问题

第一步:把符号、模型、可观测数据交代清楚

  • 符号
    • \(r\):个体数。\(t\):项目数。
    • \(i \in [r]\):个体索引。\(j \in [t]\):项目索引。
    • \(\alpha_i \in \mathbb{R}\):个体 \(i\) 的能力参数(越大越容易答对)。
    • \(\beta_j \in \mathbb{R}\):项目 \(j\) 的难度参数(越大越难)。
    • \(\theta = (\alpha_1, \dots, \alpha_r, \beta_1, \dots, \beta_t)^\top \in \mathbb{R}^{r+t}\):全部参数的向量。
    • \(\theta^*\):真实的参数向量。
    • \(\hat{\theta}\):MLE。
    • \(p \in (0, 1]\):采样概率,即每个个体-项目对被观测到的概率。
    • \(X_{i, j+r} \in \{0, 1\}\)可观测的指示变量,表示个体 \(i\) 是否对项目 \(j\) 做出了响应(即是否被采样到)。\(X_{i, j+r} \sim \text{Bernoulli}(p)\)
    • \(a_{i, j+r} \in \{0, 1\}\)可观测的响应结果,表示个体 \(i\) 是否答对了项目 \(j\)注意\(a_{i, j+r}\) 仅在 \(X_{i, j+r}=1\) 时被观测到。
    • \(\mu(x) = e^x / (1 + e^x)\):logistic 函数。
  • 模型
    • 数据生成机制:首先,根据 Erdős–Rényi 二分图模型生成采样指示矩阵 \(X\),即每个个体-项目对 \((i, j)\) 以概率 \(p\) 独立地被采样(\(X_{i, j+r}=1\))。
    • 然后,对于每个被采样的对 \((i, j)\),响应结果 \(a_{i, j+r}\) 服从一个独立的 Bernoulli 分布:
      \[P(a_{i, j+r} = 1 \mid X_{i, j+r}=1) = \mu(\alpha_i - \beta_j) = \frac{e^{\alpha_i - \beta_j}}{1 + e^{\alpha_i - \beta_j}}.\]
    • 模型识别:由于 \(\mu(\alpha_i - \beta_j) = \mu((\alpha_i + c) - (\beta_j + c))\),参数只能被识别到相差一个常数。因此需要施加一个约束,例如 \(\alpha_1 = 0\)\(\sum_i \alpha_i = 0\)
  • 可观测数据
    • 研究者实际能观测到的是采样指示矩阵 \(X\)部分响应结果 \(a_{i, j+r}\)(仅当 \(X_{i, j+r}=1\) 时)。
    • 想要但观测不到的量:所有未被采样的响应结果 \(a_{i, j+r}\)(当 \(X_{i, j+r}=0\) 时)。这些缺失数据的存在是稀疏性问题的核心。所有推断都只能基于被观测到的响应。

第二步:讲最小内核

本文的核心思路可以浓缩为以下最简特例:\(r = t = 2\),且所有 4 个响应都被观测到(\(p=1\))时,Rasch 模型的 MLE 是什么?

  • 设定:个体 1, 2,项目 1, 2。参数 \(\theta = (\alpha_1, \alpha_2, \beta_1, \beta_2)^\top\)。模型识别条件:\(\alpha_1 = 0\)
  • 可观测数据\(a_{11}, a_{12}, a_{21}, a_{22}\)
  • MLE 方程:最大化对数似然函数。MLE 满足:个体 \(i\) 的答对次数等于其答对概率的期望,项目 \(j\) 的答对次数等于其答对概率的期望。
    • 个体 1: \(a_{11} + a_{12} = \mu(\alpha_1 - \beta_1) + \mu(\alpha_1 - \beta_2) = \mu(-\beta_1) + \mu(-\beta_2)\)
    • 个体 2: \(a_{21} + a_{22} = \mu(\alpha_2 - \beta_1) + \mu(\alpha_2 - \beta_2)\)
    • 项目 1: \(a_{11} + a_{21} = \mu(\alpha_1 - \beta_1) + \mu(\alpha_2 - \beta_1) = \mu(-\beta_1) + \mu(\alpha_2 - \beta_1)\)
    • 项目 2: \(a_{12} + a_{22} = \mu(\alpha_1 - \beta_2) + \mu(\alpha_2 - \beta_2) = \mu(-\beta_2) + \mu(\alpha_2 - \beta_2)\)
  • 核心思路:这是一个非线性方程组。当 \(r, t\) 很大时,直接求解和分析 \(\hat{\theta}\) 非常困难。本文的关键想法是:
    1. 证明存在性与相合性:通过一个“leave-one-out”方法,构造一个辅助的 MLE(\(\hat{\omega}^{(m)}_{-m}\)),它在估计第 \(m\) 个参数时,排除了所有与第 \(m\) 个节点相连的边。这使得该辅助估计量在数学上更容易分析(因为其似然函数是独立的)。然后证明,真实的 MLE \(\hat{\omega}\) 与这个辅助估计量非常接近,从而将 \(\hat{\omega}\) 的相合性转化为辅助估计量的相合性。
    2. 证明渐近正态性:Fisher 信息矩阵 \(V\) 的逆矩阵 \(V^{-1}\) 没有显式形式。本文的关键技巧是找到一个简单矩阵 \(S\) 来近似 \(V^{-1}\),其中 \(S\) 的对角元是 \(1/v_{ii}\),非对角元是 \(1/v_{11}\)。然后证明这个近似误差足够小(Lemma 9),从而可以用 \(S\) 来近似 \(\hat{\theta}\) 的渐近协方差矩阵。

一句话总结:本文在数学上干的事是:在稀疏性达到图论连通性理论下界的极端条件下,通过“leave-one-out”技巧和“简单矩阵近似 Fisher 信息逆”的技巧,证明了高维 Rasch 模型 MLE 的 \(\ell_\infty\) 相合性和 CLT。

三、这篇论文做了什么

三句话

  1. 研究了什么问题:在 Erdős–Rényi 随机采样设计下,稀疏 Rasch 模型中 MLE 的相合性与渐近正态性。
  2. 核心工具 / 方法:使用 leave-one-out 方法证明 MLE 的 \(\ell_\infty\) 相合性,并使用一个简单对角占优矩阵 \(S\) 来近似 Fisher 信息矩阵的逆,从而证明 MLE 的渐近正态性。
  3. 主要结论:当采样概率 \(p \ge c_0 \log r / r\)(图连通性下界)且参数范围 \(\kappa = O(1)\) 时,MLE 存在、唯一、相合(\(\ell_2\)\(\ell_\infty\) 误差界分别为 \(O(\sqrt{\log r / p})\)\(O(\sqrt{\log r / (rp)})\)),且渐近正态(渐近方差为 \(1/v_{ii} + 1/v_{11}\))。

关键设定与假设

  • 设定:在第二节的基础上,补充完整设定。
    • Erdős–Rényi 随机响应设计:每个个体-项目对是否被观测是独立的 Bernoulli 随机变量,概率为 \(p\)。这是稀疏性的来源。
    • 模型识别:采用 \(\theta_1 = 0\)(即 \(\alpha_1 = 0\))作为识别条件。
    • 参数空间\(\theta^*\) 是固定的,但未知。
  • 假设
    • Condition 1 (平衡设计)\(c_2 \le t/r \le c_1\),且 \(t \ge r\)。这保证了个体和项目的数量级相当,简化了证明。
    • Condition 2 (稀疏性下界)\(p \ge c_0 \log r / r\),其中 \(c_0\) 是一个足够大的常数。这是本文最关键的假设,它直接与 Erdős–Rényi 二分图连通性的阈值挂钩。低于此阈值,图不连通,MLE 不存在。相比 Chen et al. (2023a) 的 \(p \gg (\log r / r)^{1/2}\),这是一个大幅放宽的条件。
    • 参数有界性\(\kappa = \theta_{\max} - \theta_{\min} = O(1)\)。这保证了所有参数都在一个常数范围内,避免了极端值导致的 Fisher 信息退化。这是一个常见假设,在 Chen et al. (2023a) 和 Chen et al. (2022) 中也被使用。

主要结果

  • Theorem 1 (MLE 的存在性与逐项误差)

    • 陈述:在 Condition 1 和 2 下,若 \(\kappa = O(1)\),则当 \(r \to \infty\) 时,MLE \(\hat{\theta}\) 以高概率存在且唯一,并满足:
      \[\|\hat{\theta} - \theta^* - \text{ave}(\hat{\theta} - \theta^*)\|_2^2 \lesssim \frac{\log r}{p}, \quad \max_i |\hat{\theta}_i - \theta_i^* - \text{ave}(\hat{\theta} - \theta^*)|^2 \lesssim \frac{\log r}{rp}.\]
    • 直觉:第一个界是 \(\ell_2\) 误差,约为 \(\sqrt{\log r / p}\)。第二个界是 \(\ell_\infty\) 误差,约为 \(\sqrt{\log r / (rp)}\)。注意,误差中减去了一个全局常数偏移 \(\text{ave}(\hat{\theta} - \theta^*)\),这是因为模型不可识别(只能识别到相差一个常数)。当 \(p=1\) 时,\(\ell_\infty\) 误差为 \(O(\sqrt{\log r / r})\),与 Lasso 在稀疏线性模型中的最优收敛速度一致(Remark 2)。
    • 必要条件\(p \ge c_0 \log r / r\) 是保证图连通(MLE 存在)的必要条件。\(\kappa = O(1)\) 是保证 Fisher 信息非退化的必要条件。
    • 解决的技术难点:在 \(p\) 接近下界时,每个节点的期望度数仅为 \(O(\log r)\),非常小。传统的 M 估计理论(如基于经验过程)难以直接应用。Leave-one-out 方法通过构造一个“去边”的辅助估计量,巧妙地绕开了这个困难。
  • Theorem 2 (MLE 的渐近正态性)

    • 陈述:在 Condition 1 和 2 下,若 \(\kappa = O(1)\),则对于任意 \(s \ge 2\),向量 \((\hat{\theta}_2 - \theta_2^*, \dots, \hat{\theta}_s - \theta_s^*)\) 渐近服从均值为 0、协方差矩阵为 \(\Sigma\) 的多元正态分布,其中 \(\Sigma\) 的对角元为 \(1/v_{ii} + 1/v_{11}\),非对角元为 \(1/v_{11}\)
    • 直觉\(\hat{\theta}_i\) 的渐近方差由两部分组成:\(1/v_{ii}\) 是它自己的 Fisher 信息量的倒数,\(1/v_{11}\) 是由于模型识别条件 \(\theta_1=0\) 带来的不确定性。所有估计量都与 \(\hat{\theta}_1\) 相关,因此非对角元都是 \(1/v_{11}\)
    • 必要条件:与 Theorem 1 相同。此外,证明中还需要 \(p \gg (r / \log r)^{1/4}\) 来保证近似误差可忽略(见 (56) 的证明)。这是一个比 Theorem 1 更强的条件,但作者在 Remark 3 中并未强调这一点。
    • 解决的技术难点:Fisher 信息矩阵 \(V\) 的逆没有显式形式。作者通过 Lemma 9 证明了一个极其简单的矩阵 \(S\)(其元素只依赖于 \(v_{ii}\)\(v_{11}\))可以很好地近似 \(V^{-1}\),近似误差为 \(O(b_n^3 / (r^2 p^2 c_n^2))\)。这个近似是证明 CLT 的关键。

证明路线与技术技巧

  • 整体路线(Theorem 1 的证明)

    1. 正则化 MLE 作为中间人:引入一个带 \(\ell_2\) 惩罚的正则化 MLE \(\hat{\omega}_\lambda\)。由于惩罚项的存在,\(\hat{\omega}_\lambda\) 是强凸问题的解,更容易分析。
    2. 梯度下降与 Leave-one-out:对 \(\hat{\omega}_\lambda\) 应用梯度下降算法,初始点为 \(\omega^*\)。在每一步迭代中,使用 leave-one-out 方法 来证明迭代点 \(\omega_\lambda^{(k)}\) 与真实参数 \(\omega^*\)\(\ell_\infty\) 范数下是接近的(式 (25))。具体来说,为了分析第 \(m\) 个坐标,构造一个辅助的梯度下降序列,该序列在更新时排除了所有与第 \(m\) 个节点相连的边。这个辅助序列的更新是独立的,因此可以用 Bernstein 不等式等工具进行控制。
    3. 连接正则化 MLE 与真实 MLE:证明梯度下降的迭代点 \(\omega_\lambda^{(k)}\) 收敛到正则化 MLE \(\hat{\omega}_\lambda\)(式 (26)),并且 \(\hat{\omega}_\lambda\) 与真实 MLE \(\hat{\omega}\)\(\ell_\infty\) 范数下也是接近的(Lemma 6 的证明)。这一步通过构造一个“受限 MLE” \(\tilde{\omega}\) 并证明其与 \(\hat{\omega}_\lambda\) 重合来完成。
    4. 得到 \(\ell_2\)\(\ell_\infty\) 误差界:利用 \(\ell(\omega^*) \ge \ell(\hat{\omega})\) 和二阶泰勒展开,结合 Fisher 信息矩阵的最小特征值下界(Lemma 3)和梯度范数的上界(Lemma 4),得到 \(\ell_2\) 误差界(式 (8))。然后,利用 leave-one-one 分解(式 (30)-(32))和一系列精细的代数运算,将 \(\ell_\infty\) 误差转化为 \(\ell_2\) 误差,从而得到 \(\ell_\infty\) 误差界(式 (9))。
  • 关键跳跃点

    • Leave-one-out 方法的成功应用:这是本文最核心的技术贡献。在稀疏图(度数 \(O(\log r)\))中,直接分析 MLE 的每个坐标非常困难。Leave-one-out 方法通过构造一个“去边”的辅助问题,使得该辅助问题的解与真实 MLE 的对应坐标在统计上近似独立,从而可以逐个坐标地进行控制。这个技巧在 Bradley–Terry 模型(Chen et al., 2019, 2022)中被成功使用,本文将其推广到了 Rasch 模型。
    • 用简单矩阵 \(S\) 近似 \(V^{-1}\):这是证明 CLT 的关键。Lemma 9 的证明(在附录中)需要利用 Fisher 信息矩阵 \(V\) 的特殊结构(它是一个二分图的拉普拉斯矩阵的变体),并证明其逆矩阵与一个对角占优矩阵 \(S\) 的差异很小。这个近似极大地简化了渐近方差的计算。
  • 技术技巧点名

    • Leave-one-out 方法:用于证明 \(\ell_\infty\) 相合性(Theorem 1 的证明核心)。
    • 正则化 MLE 作为中间工具:用于证明 MLE 的存在性和有界性(Lemma 6)。
    • 梯度下降分析:用于分析正则化 MLE 的收敛性。
    • Bernstein 不等式 / Hoeffding 不等式:用于控制随机项的偏差(如 Lemma 4, Lemma 5)。
    • 矩阵摄动理论 / 逆矩阵近似:用于证明 \(V^{-1} \approx S\)(Lemma 9)。
    • Cramér–Wold 定理 / 多元 CLT:用于证明渐近正态性(Theorem 2 的证明)。

真实例子与应用

  • 数据:Riiid AIEd 数据集(Addison et al., 2020),一个大型在线教育平台的学生答题记录。
  • 方法应用:作者从数据集中随机抽取了 1000 个项目,并筛选出对其中至少 300 个项目有响应的 5485 个个体。他们将这个子集的响应矩阵视为一个 Erdős–Rényi 随机图(采样概率 \(p=59\%\)),并计算了 MLE。
  • 结果:给出了前 5 名个体和项目的参数估计值及其标准误(Table 2),并绘制了所有参数估计的直方图(Figure 3)。Wald 检验表明前 5 名个体/项目之间没有显著差异。
  • 这个例子想说明什么:主要是一个概念验证,展示本文的理论结果(尤其是标准误的计算公式)可以应用于一个真实的大规模稀疏数据集。它验证了在 \(p\) 远高于理论下界(59% vs. \(\log 5485 / 5485 \approx 0.16\%\))时,MLE 是可计算的,并且能给出合理的估计。

🔎 结论是否比证明窄

  • Theorem 2 的 CLT 条件可能比陈述的更强:在 Theorem 2 的证明末尾(第 29 页),作者指出“This shows (56) if \(p \gg (r / \log r)^{1/4}\)”。这意味着,为了证明 CLT 中近似误差项 \(V^{-1}g\) 是可忽略的,需要 \(p\) 比 Theorem 1 中的条件 \(p \ge c_0 \log r / r\) 更强。作者在 Theorem 2 的陈述中只写了“Under Conditions 1 and 2”,这可能会被误解为 CLT 在 \(p\) 接近 \(\log r / r\) 时也成立。这是一个值得注意的窄化:CLT 的严格证明需要更强的稀疏性条件,而论文的陈述可能过于泛化。
  • CLT 只对有限维子向量成立:Theorem 2 明确声明是对“任意 \(s \ge 2\)”的有限维子向量成立。它并没有声称所有 \(r+t-1\) 个参数同时满足一个高维 CLT。这是一个诚实的窄化。

四、开放问题

  1. 非平衡设计(\(r/t \to \infty\):本文假设 \(c_2 \le t/r \le c_1\)。当个体数远大于项目数(或反之)时,证明中的许多上界(如 Lemma 2, Lemma 3)会失效。作者在 Section 4 中明确将其列为未来工作。扎根点:Section 4, “First, we assume \(c_1 \le r/t \le c_2\)... In other applications, the number of items may be relatively small, such that \(r/t \to \infty\). It is unclear whether the current proof strategies can be extended.”

  2. 放松参数有界性假设(\(\kappa = O(1)\):作者假设参数范围 \(\kappa\) 有界。他们提到额外的模拟表明 MLE 在更宽的参数范围内表现良好,但缺乏理论证明。扎根点:Section 4, “Second, we assumed that the individual ability parameter \(\alpha_i\) and item difficulty parameter \(\beta_j\) are bounded above by a constant. ... It will be interesting to investigate this issue in future studies.”

  3. CLT 在更稀疏条件下的严格证明:如前所述,Theorem 2 的证明似乎需要 \(p \gg (r / \log r)^{1/4}\),这比 Theorem 1 的条件更强。一个开放问题是:能否在 \(p\) 接近 \(\log r / r\) 时也证明 CLT?或者,是否存在一个更精细的证明,可以消除这个额外的条件?扎根点:Theorem 2 的证明末尾(第 29 页),“This shows (56) if \(p \gg (r / \log r)^{1/4}\).” 以及 Theorem 2 的陈述本身。

  4. 与条件似然 / 边际似然方法的比较:本文专注于无条件 MLE。在稀疏高维场景下,条件似然或边际似然方法(如 Andersen, 1972)是否具有更好的有限样本性质或更宽松的相合性条件?这是一个未被本文触及的比较。扎根点:引言中提到了这些方法,但未在稀疏场景下进行深入比较。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论