Mutual Information Estimation via Triangular Transport Maps: Finite Sample Guarantees and Sample Allocation¶
作者: Fengyi Li
主题: 非参数 / 半参数
相关性: 7/10
链接: https://arxiv.org/abs/2611.00471
一、领域脉络与小综述¶
这个方向是什么¶
本文所处的子方向是基于密度估计的互信息(Mutual Information, MI)估计。其根本的统计问题是:给定来自联合分布 \(\mu_{X,Y}\) 的 i.i.d. 样本,如何估计 \(I(X;Y) = \mathbb{E}_{\mu_{X,Y}}[\log(\pi_{Y|X}(Y|X)/\pi_Y(Y))]\),其中 \(\pi_{Y|X}\) 和 \(\pi_Y\) 分别是条件密度和边际密度。该问题的核心困难在于:MI 是一个全局泛函,对密度估计的误差敏感,且其估计误差由密度估计误差的积分决定,而非逐点误差。当前该方向的成熟度处于"方法多样但理论保证有限"的阶段——大量启发式方法(如 k-NN、神经网络变分估计)在实践中表现良好,但缺乏严格的有限样本理论。
发展脉络(history)¶
奠基工作:密度估计的 minimax 理论。 本文的理论框架直接建立在密度估计的经典结果之上。Kim & Samworth (2014) 关于 log-concave 密度估计的全局收敛速率研究(被引文献[11])提供了密度估计问题中 Hellinger 距离与 KL 散度之间转换的技术模板。更直接的是,Wang & Marzouk (2022)(被引文献[1])建立了基于测度传输的密度估计器的收敛理论,证明了在 Hölder 类上,未惩罚的传输映射 MLE 可以达到 minimax 最优速率 \(N^{-2\alpha/(2\alpha+d)}\)。本文的定理 4.3 直接复用其证明策略,但将其从普通密度估计推广到条件密度估计。
主要进展:MI 估计的实用方法。 在应用层面,Kraskov 等 (2004)(被引文献[3])提出的 k-NN 估计器是经典基线,其优势在于无需显式密度估计,但缺乏对光滑性假设的利用。Belghazi 等 (2018)(被引文献[4])的 MINE 和 Nguyen 等 (2010)(被引文献[6])的 NWJ 估计器通过神经网络参数化变分下界,在实践中可扩展至高维,但其收敛性依赖于优化器的行为,缺乏非渐近保证。Poole 等 (2019)(被引文献[5])系统比较了这些变分界,指出它们在 MI 较大时存在高方差问题。
当前 frontier:传输映射与两阶段估计。 传输映射方法(Marzouk 等 2016;Spantini 等 2018,被引文献[10])通过可逆变换将复杂分布映射到简单参考分布,其三角(Knothe-Rosenblatt)结构天然适合条件密度建模。Li 等 (2026)(被引文献[2])将传输映射用于 EIG(期望信息增益)估计,建立了渐近框架并分析了样本分配,但未提供有限样本保证。本文的位置:在 Li 等 (2026) 的渐近框架与 Wang & Marzouk (2022) 的非渐近密度估计理论之间架桥——将后者的技术推广到条件密度,从而为前者的估计器提供有限样本保证。
子线索聚类¶
这些被引文献大致落在三条子线索上:
-
密度估计理论(Wang & Marzouk 2022;Kim & Samworth 2014):研究传输映射和形状约束密度估计器的收敛速率。核心工具是 bracketing entropy 和 Hellinger 距离。本文直接继承此线索的技术。
-
MI/散度估计的实用方法(Kraskov 等 2004;Belghazi 等 2018;Nguyen 等 2010;Poole 等 2019):k-NN 和神经网络变分方法。这些方法强调可扩展性和实用性,但理论保证较弱。本文将其作为对比基线。
-
贝叶斯最优实验设计(BOED)中的 EIG 估计(Li 等 2026;Foster 等 2019;Huan 等 2024;Baptista 等 2024;Koval 等 2024;Cui 等 2025;Dong 等 2024;Orozco 等 2023):传输映射在此作为条件密度模型,用于估计 EIG(即 MI)。此线索关注计算效率和样本分配,但缺乏有限样本理论。本文直接服务于此线索。
这个方向在追问的核心问题¶
- 密度估计误差如何传播到 MI 估计误差? 本文的定理 3.2 给出了答案:MI 估计误差由条件密度和边际密度的 KL 散度之和控制,且通过三角不等式分解。
- 在固定总样本预算下,训练和评估样本如何分配? 本文的推论 5.1 表明,最优训练样本数 \(N^\star \asymp T^{2/(2a+1)}\),其中 \(a = 2\alpha/(2\alpha + d_x + d_y)\),即训练样本数应随总预算次线性增长。
- 条件密度估计能否达到与普通密度估计相同的 minimax 速率? 本文的定理 4.3 给出肯定答案:通过将条件密度视为关于 \(\mu_X \otimes dy\) 的普通密度,条件 KL 散度达到 \(N^{-2\alpha/(2\alpha+d)}\) 速率,与普通密度估计一致。
⚠️ 作者的 framing(这是作者的说法)¶
作者将缺口 frame 成:"传输映射 MI 估计器缺乏有限样本保证,且训练/评估样本分配缺乏理论指导"。具体而言,作者声称:(i) Li 等 (2026) 的渐近结果"不提供有限样本保证";(ii) Wang & Marzouk (2022) 的密度估计理论"不直接适用于条件密度或 MI 估计";(iii) 因此,本文是"显然的下一步"——将两者结合。
被淡化或回避的竞争路线:作者在引言中仅用一句话提及 k-NN 和变分方法("commonly used alternatives"),未讨论这些方法在特定场景下可能更优(如低光滑度、高维度)。作者也未讨论直接估计 MI 而非先估计密度的方法(如基于距离的相关性度量),这些方法可能避免密度估计的中间步骤。
明显该被引、却没出现在 intro 里的工作:作者未引用关于 MI 估计的 minimax 下界的工作(如 Wu & Yang 2016 关于泛函估计的下界),也未引用 cross-fitting 在泛函估计中的理论(如 Kennedy 2022 关于 double/debiased machine learning 的综述)。前者关系到本文速率是否最优,后者直接关系到样本分配问题。
张力¶
未见明显对立引用。但存在一个潜在张力:Wang & Marzouk (2022) 的密度估计理论要求 \(\alpha > d/2\)(Hölder 光滑度大于维度的一半),而本文的 MI 估计需要 \(\alpha > (d_x + d_y)/2\)。当 \(d_y\) 较大时,这一条件比普通密度估计更严格。作者未讨论这一限制是否本质——即是否存在更弱的条件保证 MI 估计的收敛。
二、最核心、最简单的例子 / 数学问题¶
第一步:符号、模型、可观测数据¶
符号清单(按类别分组):
| 类别 | 符号 | 含义 |
|---|---|---|
| 数据 | \((X_i, Y_i)_{i=1}^N\) | 训练样本,i.i.d. 来自 \(\mu_{X,Y}\) |
| 数据 | \((X'_j, Y'_j)_{j=1}^M\) | 评估样本,i.i.d. 来自 \(\mu_{X,Y}\),独立于训练样本 |
| 维度 | \(d_x, d_y\) | \(X\) 和 \(Y\) 的维度;\(d = d_x + d_y\) |
| 分布 | \(\mu_X\) | \(X\) 的边际分布(任意 Borel 概率测度,无需密度) |
| 分布 | $\pi_{Y | X}(\cdot |
| 分布 | \(\pi_Y\) | \(Y\) 的边际密度 |
| 分布 | \(\lambda\) | 乘积测度 \(\mu_X \otimes dy\)(条件密度关于此测度是普通密度) |
| 目标量 | \(I = I(X;Y)\) | 互信息,即 $\mathbb{E}{\mu{X,Y}}[\log(\pi_{Y |
| 估计量 | $\hat{q}_{Y | X}$ |
| 估计量 | \(\hat{q}_Y\) | 边际密度估计(由传输映射 MLE 得到) |
| 估计量 | \(\hat{I}_{N,M}\) | MI 估计量,见 (8) |
| 误差度量 | \(E_C(\hat{q})\) | 条件 KL 散度:$\mathbb{E}{X \sim \mu_X}[D{KL}(\pi_{Y |
| 误差度量 | \(E_Y(\hat{q})\) | 边际 KL 散度:\(D_{KL}(\pi_Y \| \hat{q}_Y)\) |
| 光滑度 | \(\alpha\) | Hölder 光滑度参数,\(\alpha > d/2\) |
| 速率指数 | \(a\) | \(a = 2\alpha/(2\alpha + d)\),条件密度估计的 KL 速率指数 |
| 常数 | \(K\) | 评估样本 MI 估计量的次高斯常数,见 (24) |
| 常数 | \(C_1, C_2, C_Y\) | 密度估计误差常数,见定理 4.3 和引理 4.5 |
模型(数据生成机制):
- \(X \sim \mu_X\),其中 \(\mu_X\) 是 \(X\) 上的任意 Borel 概率测度(不需要密度)。
- 给定 \(X = x\),\(Y \sim \pi_{Y|X}(\cdot|x)\),其中 \(\pi_{Y|X}\) 是 Hölder 光滑的(\(\alpha > d/2\)),且取值于 \([c, B]\)。
- 联合分布为 \(\mu_{X,Y}(dx, dy) = \mu_X(dx) \pi_{Y|X}(y|x) dy\)。
可观测数据:研究者观测到 \(N\) 个训练对 \(\{(X_i, Y_i)\}_{i=1}^N\) 和 \(M\) 个评估对 \(\{(X'_j, Y'_j)\}_{j=1}^M\),全部 i.i.d. 来自 \(\mu_{X,Y}\),且训练与评估独立。
关键区分: - 可观测:\((X_i, Y_i)\) 对、\((X'_j, Y'_j)\) 对。 - 不可观测(潜在):真实的 \(\pi_{Y|X}\)、\(\pi_Y\)、\(I\)。这些是估计目标。 - 关键假设:\(X\) 的分布 \(\mu_X\) 不需要密度——这是本文与标准密度估计文献的关键区别,使得条件密度估计问题在 \(\mu_X \otimes dy\) 下成为普通密度估计问题。
第二步:最小内核¶
核心问题:给定 \(N\) 个训练样本和 \(M\) 个评估样本,如何估计 \(I(X;Y)\) 并控制误差?
最小例子:设 \(d_x = d_y = 1\),\(X \sim \text{Uniform}[0,1]\),\(Y|X=x\) 有密度 \(\pi_{Y|X}(y|x) = 1 + 0.6 w(x) h(y)\),其中 \(h(t) = (2t-1)|2t-1|\),\(w(x) = (1+h(x))/2\)。此时 \(\pi_{Y|X}\) 是 \(C^{1,1}\) 光滑的(\(\alpha = 2\)),且 \(0.4 \le \pi_{Y|X} \le 1.6\)。
估计流程(三步骤):
- 训练阶段:用 \(N\) 个训练样本拟合条件传输映射 \(\hat{S}_{Y|X}\) 和边际传输映射 \(\hat{S}_Y\),得到密度估计 \(\hat{q}_{Y|X}\) 和 \(\hat{q}_Y\)。
- 评估阶段:在 \(M\) 个独立评估样本上计算
\[\hat{I}_{N,M} = \frac{1}{M} \sum_{j=1}^M \left[ \log \hat{q}_{Y|X}(Y'_j | X'_j) - \log \hat{q}_Y(Y'_j) \right].\]
- 误差分解:将估计误差分解为
\[\hat{I}_{N,M} - I = \underbrace{(\hat{I}_{N,M} - g(\hat{q}))}_{\text{评估误差 } A_M} + \underbrace{(g(\hat{q}) - I)}_{\text{密度估计误差 } B(\hat{q})},\]其中 \(g(\hat{q}) = \mathbb{E}[\log \hat{q}_{Y|X}(Y|X) - \log \hat{q}_Y(Y) | \hat{q}]\)。
为什么这个例子体现核心困难:
- 条件密度估计:\(\pi_{Y|X}\) 是 \(X\) 和 \(Y\) 的联合函数,其估计误差由条件 KL 散度 \(E_C\) 度量。定理 4.3 的关键洞察是:将 \(\pi_{Y|X}\) 视为关于 \(\mu_X \otimes dy\) 的普通密度,则条件 MLE 的收敛速率与普通密度估计相同,为 \(N^{-2\alpha/(2\alpha+d)}\)。
- 误差传播:MI 估计误差中的密度估计部分 \(B(\hat{q}) = E_Y(\hat{q}) - E_C(\hat{q})\) 是两个 KL 散度之差。由于 \(E_C\) 和 \(E_Y\) 都是非负的,\(|B(\hat{q})| \le E_C + E_Y\),但更精细的分析需要利用 \(E_C\) 和 \(E_Y\) 之间的相关性(它们共享训练数据)。
- 样本分配:在固定总预算 \(T = N + M\) 下,最小化 MSE 上界 \(C'/M + C''N^{-2a}\) 得到 \(N^\star \asymp T^{2/(2a+1)}\)。当 \(a = 2/3\) 时,\(N^\star \asymp T^{6/7}\),即训练样本数应约为 \(T^{0.857}\),远小于 \(T\)。
为什么这个例子"一看就懂":它展示了 MI 估计的两阶段结构——先估计密度(训练误差),再计算期望(评估误差)。两阶段之间的张力在于:训练样本越多,密度估计越准,但评估样本越少,蒙特卡洛误差越大。最优分配需要平衡这两个误差源。
三、这篇论文做了什么¶
三句话¶
- 研究问题:为基于三角传输映射的 MI 估计器建立有限样本保证,并刻画在固定总样本预算下训练与评估样本的最优分配。
- 核心方法:将条件密度估计视为关于 \(\mu_X \otimes dy\) 的普通密度估计,利用 Wang & Marzouk (2022) 的传输映射 MLE 理论,结合评估样本的次高斯集中性,得到 MI 估计的高概率界和 MSE 界。
- 主要结论:MI 估计的 MSE 以 \(O(M^{-1} + N^{-2a})\) 速率收敛(\(a = 2\alpha/(2\alpha + d_x + d_y)\)),最优训练样本数 \(N^\star \asymp T^{2/(2a+1)}\),且 \(N^\star = o(T)\),即次线性训练样本足以达到 \(O(T^{-1})\) 的 MSE 速率。
关键设定与假设¶
设定(在第二节基础上补全):
- Hölder 类:\(\mathcal{H}^\alpha(Q^d)\),\(\alpha > d/2\)。条件密度 \(\pi_{Y|X}\) 和边际密度 \(\pi_Y\) 都属于 Hölder 类,且取值在 \([c, B]\) 和 \([c_Y, B_Y]\)。
- 传输映射类:\(\mathcal{S}_{Y|X}(\alpha, L, c_{\text{mon}})\),包含满足单调性和正则性条件的三角映射。映射的每个分量 \(S_j\) 是 Hölder 光滑的,且对角导数有界。
- 参考密度:\(\eta_Y\) 是乘积参考密度,满足 \(\|\eta_{Y,j}\|_{H^\alpha} \le L_\eta\) 和 \(c_\eta \le \eta_{Y,j} \le B_\eta\)。
- 可实现性:真实条件密度 \(\pi_{Y|X}\) 和边际密度 \(\pi_Y\) 分别由 \(\mathcal{S}_{Y|X}\) 和 \(\mathcal{S}_Y\) 中的映射表示。
假设:
- 假设 3.1(次高斯性):给定拟合密度 \(\hat{q}\),评估样本上的 log-密度比 \(\hat{\phi}(X', Y')\) 是次高斯的,参数 \(K\) 由密度上下界决定。这通过 Hoeffding 引理(引理 A.1)从密度界的假设推出。
- 假设 3.2(密度估计误差):存在确定性函数 \(\varepsilon_C(N, \delta)\) 和 \(\varepsilon_Y(N, \delta)\),使得条件 KL 散度 \(E_C\) 和边际 KL 散度 \(E_Y\) 分别以概率 \(1-\delta\) 被这些函数控制。
相比已有文献的放宽/强化:
- 放宽:不要求 \(X\) 有密度(\(\mu_X\) 任意),这使得条件密度估计问题在更一般的框架下处理。
- 强化:要求 \(\alpha > d/2\)(而非 \(\alpha > 0\)),这是 Hölder 类上 bracketing entropy 估计的必要条件。
- 关键简化:假设真实密度属于传输映射类(可实现性),这避免了模型误设的分析。作者未讨论模型误设下的行为。
主要结果¶
定理 3.2(通用非渐近界):在假设 3.1 和 3.2 下,对任意 \(\delta \in (0,1)\),以概率至少 \(1-\delta\),
证明路线: 1. 偏差-方差分解:\(\hat{I}_{N,M} - I = A_M + B(\hat{q})\),其中 \(A_M\) 是评估误差,\(B(\hat{q}) = E_Y(\hat{q}) - E_C(\hat{q})\) 是密度估计误差。 2. 评估误差:条件于 \(\hat{q}\),\(A_M\) 是 \(M\) 个独立次高斯随机变量的平均值,用 Hoeffding 不等式得到 \(|A_M| \le K\sqrt{2\log(6/\delta)/M}\)。 3. 密度估计误差:利用三角不等式 \(|B(\hat{q})| \le E_C(\hat{q}) + E_Y(\hat{q})\),再分别用假设 3.2 控制 \(E_C\) 和 \(E_Y\)。 4. 并集界:三个事件(\(A_M\) 大、\(E_C\) 大、\(E_Y\) 大)各以概率 \(\delta/3\) 失败,并集界给出总失败概率 \(\delta\)。
定理 4.3(条件密度 MLE 速率):在假设 4.1 和 4.2 下,对任意 \(\delta \in (0,1)\),以概率至少 \(1-\delta\),
证明路线: 1. 测度变换:将条件密度估计问题转化为关于 \(\lambda = \mu_X \otimes dy\) 的普通密度估计问题(引理 B.1)。 2. 可实现性:真实条件密度 \(\pi_{Y|X}\) 属于传输映射类 \(\mathcal{S}_{Y|X}\)(引理 B.4),因此 MLE 的 excess risk 可以分解为逼近误差(为零)和随机误差。 3. 熵界:利用 Hölder 类的 bracketing entropy 界 \(H_{[]}(\rho, \mathcal{G}, \|\cdot\|_\infty) \le A\rho^{-d/\alpha}\)(引理 B.7),结合 van der Vaart & Wellner 的 MLE 集中不等式。 4. Hellinger 到 KL 的转换:利用密度上下界(引理 B.6),将 Hellinger 距离的集中转化为 KL 散度的集中(引理 B.11)。
推论 4.6(MI 估计的有限样本界):在定理 4.3 和引理 4.5 的条件下,
推论 5.1(最优样本分配):在固定总预算 \(T = N + M\) 下,最小化 MSE 上界 \(C'/M + C''N^{-2a}\) 得到:
证明路线:对 \(f(N) = C'/(T-N) + C''N^{-2a}\) 求导,令 \(f'(N) = 0\),解得 \(N^\star \asymp T^{2/(2a+1)}\)。由于 \(a > 1/2\),\(2/(2a+1) < 1\),故 \(N^\star = o(T)\)。
技术技巧¶
- 测度变换(引理 B.1):将条件密度视为关于 \(\mu_X \otimes dy\) 的普通密度,使得标准密度估计理论直接适用。这是本文最核心的技巧,避免了直接处理条件密度的复杂性。
- 偏差-方差分解(引理 3.1):将 MI 估计误差分解为评估误差和密度估计误差,两者分别由 \(M\) 和 \(N\) 控制,从而分离了训练和评估的作用。
- Hoeffding 引理(引理 A.1):从密度上下界推出 log-密度比的次高斯性,为评估误差提供集中不等式。
- Hellinger-KL 转换(引理 B.11):利用密度上下界,将 Hellinger 距离的集中转化为 KL 散度的集中。关键公式:\(D_{KL}(p\|q) \le 2C_{m,\bar{m}} h^2(p,q)\),其中 \(C_{m,\bar{m}} = (1+\sqrt{\bar{m}})^2/(2m^2)\)。
- 熵积分(引理 B.8):利用 Hölder 类的 bracketing entropy 界,结合 MLE 集中不等式,得到 Hellinger 距离的收敛速率。
真实例子与应用¶
实验设置:\(d_x = d_y = 1\),\(X \sim \text{Uniform}[0,1]\),\(\pi_{Y|X}(y|x) = 1 + 0.6 w(x) h(y)\),其中 \(h(t) = (2t-1)|2t-1|\),\(w(x) = (1+h(x))/2\)。真实 MI 值 \(I = 0.0019084\) nats(通过数值积分获得)。
实验 1(训练收敛):固定 \(M\) 很大(消除评估误差),变化 \(N\) 从 \(10^2\) 到 \(10^6\),测量条件 KL 散度 \(E_C\) 和边际 KL 散度 \(E_Y\)。结果支持 \(E_C \sim N^{-2/3}\) 和 \(E_Y \sim N^{-4/5}\) 的预测速率。
实验 2(固定训练,变化评估):固定 \(N = 5000\),变化 \(M\),测量评估误差 \(A_M\) 和总 MSE。结果支持 \(A_M \sim M^{-1}\) 的预测速率,并显示总 MSE 趋近于固定平台 \(B(\hat{q})^2\)。
实验 3(样本分配):固定总预算 \(T\),比较 \(N \propto T^{6/7}\)(最优)与 \(N \propto T^{3/4}\)(充分)以及 \(N \propto T\)(朴素)三种分配。结果显示 \(T^{6/7}\) 和 \(T^{3/4}\) 均达到 \(O(T^{-1})\) 的 MSE 速率,而 \(N \propto T\) 的 MSE 以 \(O(T^{-2/3})\) 速率衰减,明显更慢。
实验目的:验证三个理论预测:(i) 密度估计误差的速率;(ii) 评估误差的速率;(iii) 最优样本分配的存在性。实验设计的关键在于使用数值积分而非蒙特卡洛来计算 \(B(\hat{q})\) 和 \(V(\hat{q})\),从而消除评估噪声,直接测量密度估计误差。
🔎 结论是否比证明窄¶
是。具体表现:
-
推论 5.1 的表述:作者在推论 5.1 中声称"最优训练样本数 \(N^\star \asymp T^{2/(2a+1)}\)",但证明仅针对 MSE 上界 \(C'/M + C''N^{-2a}\) 的最小化。作者未证明这个上界是紧的——即未证明不存在更优的分配方案。因此,\(N^\star\) 是"上界最小化分配"而非"真实 MSE 最小化分配"。
-
定理 4.3 的适用范围:定理 4.3 的证明要求 \(\alpha > d/2\)(Hölder 光滑度大于总维度的一半)。当 \(\alpha \le d/2\) 时,bracketing entropy 积分发散,证明失效。作者在推论 4.6 中直接使用此结果,但未讨论 \(\alpha \le d/2\) 的情形。
-
次高斯性假设:假设 3.1 要求 log-密度比是次高斯的,这从密度上下界推出。但作者在推论 4.6 中直接使用 \(K = \frac{1}{2}\log(B\bar{B}/(c\underline{c}))\),未验证该常数是否最优。
-
实验与理论的差距:实验 3 中,作者比较了 \(T^{6/7}\) 和 \(T^{3/4}\) 两种分配,但未测试 \(T^{2/(2a+1)}\) 的精确常数。作者承认"the multiplicative constant is problem-dependent, and the asymptotic scaling does not provide a constant-free finite-budget prescription"(第 5 节),这实际上承认了推论 5.1 的局限性。
四、开放问题¶
-
模型误设下的行为:本文假设真实密度属于传输映射类(可实现性)。若真实密度不在该类中,MI 估计的偏差如何?是否存在类似 sieve MLE 的逼近误差分析?扎根于定理 4.3 的证明依赖可实现性(引理 B.4)。
-
\(\alpha \le d/2\) 的情形:当 Hölder 光滑度不足时,bracketing entropy 积分发散。是否存在替代的熵条件(如 \(L^2\) 熵而非 \(L^\infty\) 熵)能处理低光滑度?扎根于引理 B.7 的熵界要求 \(\alpha > d/2\)。
-
最优分配的常数:推论 5.1 给出了 \(N^\star \asymp T^{2/(2a+1)}\) 的缩放,但未给出常数。是否存在常数最优分配?这需要更精细的 MSE 分析,可能涉及密度估计常数的精确刻画。扎根于推论 5.1 的证明仅优化了上界。
-
高维扩展:本文的速率 \(N^{-2\alpha/(2\alpha+d)}\) 随维度 \(d\) 恶化。在高维场景下,传输映射的结构(如稀疏性、低秩性)能否改善速率?扎根于定理 4.3 的熵界随 \(d\) 指数增长。
-
与直接 MI 估计的比较:本文采用"先估计密度,再计算期望"的两阶段方法。是否存在直接估计 MI 的方法(如基于距离相关性)能达到更好的速率?扎根于引言中对 k-NN 和变分方法的简要提及。
提醒:要确认上述问题是否是真 gap,建议去读以下子领域的近期约 5 篇 intro:(i) 传输映射密度估计(Wang & Marzouk 2022 的后续工作);(ii) 互信息估计的 minimax 理论;(iii) 交叉拟合在泛函估计中的应用。如果多个独立工作都指向同一问题,那很可能是共识性 gap;如果互相矛盾,则是机会所在。
Maintained by 陈星宇 · Homepage · Source on GitHub