Functional-Specific Information Borrowing under Limited Overlap¶
作者: Shinichiro Shirota
主题: 因果推断
相关性: 8/10
链接: https://arxiv.org/abs/2610.41753
一、领域脉络与小综述¶
这个方向是什么¶
本文研究的根本问题是:在因果推断中,当处理组与对照组的协变量分布重叠(overlap)不足时,如何利用来自另一个独立样本(源样本)的信息来改进目标样本中平均处理效应(ATE)的估计精度。 这是一个典型的"数据融合"(data fusion)或"迁移学习"(transfer learning)问题,但被置于非参数/半参数效率理论的框架下,以 minimax 风险为准则进行严格刻画。该方向的成熟度处于"理论正在形成"阶段:已有若干针对特定设定(如协变量偏移、分布漂移)的 minimax 结果,但缺乏对"有限重叠 + 函数型共享结构"这一组合设定的系统刻画。
发展脉络(history)¶
- 奠基工作:有限重叠的困难与正则化。Crump et al. (2009) [3] 系统化了"有限重叠导致逆概率加权(IPW)估计不稳定"的问题,提出基于倾向得分修剪(trimming)的系统方法。这是本文"有限重叠"问题的起点。Ma & Wang (2020) [7] 进一步指出,在弱重叠下 IPW 估计量可能具有非正态极限分布,需要修正推断程序。这些工作确立了"重叠不足是 ATE 估计的根本障碍"这一共识。
- 主要进展:最优恢复与偏差感知推断。Donoho (1994) [1] 的最优恢复(optimal recovery)框架为"在函数类约束下估计线性泛函"提供了统一视角,本文的估计器正是这一框架的推广。Armstrong & Kolesár (2018, 2021) [3, 4] 将偏差感知推断(bias-aware inference)引入非参数回归与 ATE 估计,证明在函数类约束下,置信区间必须显式计入估计偏差,这为本文的"条件诚实区间"提供了方法论基础。Hirshberg & Wager (2021) [11] 的 minimax 线性估计理论则给出了"在偏差-方差权衡中达到最优"的通用构造。
- 当前 frontier:迁移学习与实例最优性。Cai & Wei (2021) [13] 和 Kpotufe & Martinet (2018) [12] 分别刻画了分类和回归中迁移学习的 minimax 率,揭示了"源样本信息何时有用"取决于分布偏移的度量。Mou et al. (2023) [5] 是本文最直接的先驱:他们证明在有限重叠下,估计线性泛函的实例最优风险由函数类的"模量连续性"(modulus of continuity)决定,且 RKHS 估计器可达到该界。Wang et al. (2025) [6] 则将迁移学习推广到核回归,给出整函数(而非仅线性泛函)的迁移率。
- 本文的位置:在上述脉络中,本文填补了一个明确缺口——在"目标与源样本共享一个粗糙成分、差异部分更平滑"这一特定函数结构下,推导 ATE 估计的精确 minimax 率,并识别出三个 regime。与 Mou et al. [5] 的实例最优性不同,本文关注的是"源样本信息量"这一连续参数如何影响 minimax 率;与 Wang et al. [6] 的整函数迁移不同,本文聚焦于线性泛函(ATE),从而能得到更精确的常数和阈值。
子线索聚类¶
- 有限重叠下的稳健推断([3, 7, 8, 9, 10]):关注 IPW 估计的不稳定性、修剪策略、以及非正态极限。本文继承了其"重叠不足导致慢率"的设定,但将焦点从"如何修剪"转向"如何借用源信息"。
- 最优恢复与 minimax 线性估计([1, 11]):提供估计器的构造框架(最小化最坏情况风险),本文的"局部化修正"估计器(式 13)正是这一框架的实例。
- 偏差感知推断与诚实置信区间([2, 3, 4]):强调在函数类约束下,推断必须计入偏差,本文的"条件诚实区间"(式 23)直接继承此思想。
- 迁移学习与协变量偏移([12, 13, 14, 15]):刻画源样本信息何时有用、如何量化。本文的"源信息阈值"(式 9 中的两个阈值)是对这一问题的精确回答。
这个方向在追问的核心问题¶
- 源样本信息何时能改变 minimax 率? 本文的回答是:当源样本量 M 超过某个阈值(\(M \ge n^{q_{s_g}}\))时,率开始改善;当超过更高阈值(\(M \ge n^{q_{s_d}}\))时,达到源样本已知时的最优率。这两个阈值由目标样本的"信息稀缺程度"(由 \(s_g, \beta, \kappa\) 决定)和源样本的"信息质量"(由 \(s_d\) 决定)共同确定。
- 如何量化"有限重叠"的代价? 本文用幂律衰减的倾向得分 \(e_T(x) = x^\kappa/2\) 来参数化重叠不足的程度,\(\kappa\) 越大,重叠越差。核心发现是:重叠不足导致目标样本在边界附近的"局部样本量"只有 \(n h^{\beta+1}\)(而非 \(n h\)),这是所有慢率的根源。
- 估计器是否需要知道倾向得分? 本文的 minimax 上界由"联合 RKHS 恢复"(式 17)实现,该估计器不需要倾向得分作为输入,仅需协变量、处理分配和结果。这是一个重要的实际优势,因为倾向得分在观测研究中通常是未知的。
⚠️ 作者的 framing(必须明确标注成"这是作者的说法")¶
作者在引言中明确将本文的贡献 frame 为:"The contribution is the explicit three-regime rate and localized explanation for the stated scalar functional and product class." 即,作者认为本文的核心贡献是:(i) 精确的三 regime minimax 率;(ii) 对"局部化修正"机制的清晰解释。作者同时明确限定了本文的适用范围:"for the stated scalar functional and product class",即一维协变量、乘积型函数类、固定半径。作者还主动承认了若干未解决的问题:"estimation of the target integration law and honest adaptation to unknown radii require additional analysis"。
值得研究者去查的问题: - 作者在引言中引用了 Mou et al. [5] 的"instance-dependent bounds",但本文的定理 1 是全局 minimax 率,而非实例最优。作者是否回避了与 [5] 的直接比较?在 \(s_g=1, \beta=0\) 时,本文的低源 regime 率 \(n^{-3/5}\) 与 [5] 的实例最优率是否一致?这需要读者自行核对。 - 作者声称"existing joint reproducing kernel recovery...attains these rates",但没有给出该估计器在有限样本下的常数界,仅给出了渐近率。这是否意味着该估计器在实际中可能不如文中构造的"局部化修正"估计器?作者没有讨论。 - 作者在数值实验中没有与任何现有的迁移学习估计器(如 Wang et al. [6] 的 pooled KRR)进行对比,仅与"target-only"和"source-known"两个基准比较。这可能是作者有意淡化竞争路线。
张力¶
- 未见明显对立引用:被引文献之间没有直接矛盾。但存在一个微妙的张力:Mou et al. [5] 强调"实例最优性"(对每个具体函数的最优风险),而本文强调"全局 minimax"(对函数类中最坏情况的最优风险)。这两种准则在有限重叠下可能给出不同的估计器推荐——[5] 的估计器需要知道函数类的局部模量,而本文的估计器只需知道全局半径。作者没有讨论这一张力。
二、最核心、最简单的例子 / 数学问题¶
第一步:把符号、模型、可观测数据交代清楚¶
符号(逐个点名):
| 记号 | 含义 | 类型 |
|---|---|---|
| \(G\) | 子群指示变量(\(G=1\) 表示纳入研究的子群) | 可观测 |
| \(X\) | 协变量,\(X \in [0,1]\) | 可观测,随机变量 |
| \(A\) | 处理指示(\(A \in \{0,1\}\)) | 可观测,随机变量 |
| \(Y\) | 结果变量 | 可观测,随机变量 |
| \(p_\beta(x) = (\beta+1)x^\beta\) | 目标样本中 \(X\) 的密度,\(\beta \ge 0\) | 已知(设计) |
| \(e_T(x) = x^\kappa/2\) | 目标样本的倾向得分,\(\kappa > \beta+1\) | 已知(设计) |
| \(e_S(x) = \eta(1+x)\) | 源样本的倾向得分,\(0 < \eta \le 1/3\) | 已知(设计) |
| \(g(x)\) | 源样本的处理效应(共享的粗糙成分) | 未知参数,\(g \in H^{s_g}\),\(\|g\|_{H^{s_g}} \le R\) |
| \(d(x)\) | 目标与源的处理效应差异(更平滑) | 未知参数,\(d \in H^{s_d}\),\(\|d\|_{H^{s_d}} \le \rho\),\(s_d > s_g\) |
| \(b_T(x), b_S(x)\) | 基线(未处理)结果函数 | 未知参数,\(\|b_T\|_{H^1}, \|b_S\|_{H^1} \le B\) |
| \(L f = \int_0^1 p_\beta(x) f(x) dx\) | 目标样本的积分泛函(加权平均) | 估计目标 |
| \(\theta = L(g+d)\) | 目标样本的 ATE | 待估参数(estimand) |
| \(n\) | 目标样本量 | 已知 |
| \(m\) | 源样本量 | 已知 |
| \(M = m\eta\) | 有效源样本量 | 派生量 |
| \(\epsilon_T, \epsilon_S\) | 独立 \(N(0,1)\) 噪声 | 随机变量 |
| \(H^s\) | Sobolev 空间(非齐次,整数阶 \(s \ge 1\)) | 函数空间 |
| \(u_s = 2s + 2\beta + 1\) | 与光滑度相关的指数 | 派生量 |
| \(D_s = 2s + \beta + \kappa\) | 与重叠相关的指数 | 派生量 |
| \(a_s = u_s / D_s\) | 目标样本单独估计的 minimax 指数 | 派生量 |
| \(q_s = (2s + \beta) / D_s\) | 源样本信息阈值指数 | 派生量 |
| \(t = \kappa - \beta - 1 > 0\) | 重叠不足的度量 | 派生量 |
模型(数据生成机制):
- 目标样本(\(n\) 个独立观测):\(X \sim p_\beta\),\(A | X \sim \text{Bernoulli}(e_T(X))\),\(Y = b_T(X) + A(g(X) + d(X)) + \epsilon_T\)。
- 源样本(\(m\) 个独立观测):\(X \sim p_\beta\),\(A | X \sim \text{Bernoulli}(e_S(X))\),\(Y = b_S(X) + A g(X) + \epsilon_S\)。
- 关键结构:目标样本的处理效应是 \(g + d\),源样本的处理效应是 \(g\)。两者共享粗糙成分 \(g\)(光滑度 \(s_g\)),差异 \(d\) 更平滑(光滑度 \(s_d > s_g\))。目标样本的倾向得分在 \(x=0\) 处趋于 0(\(e_T(x) = x^\kappa/2\)),导致重叠不足;源样本的倾向得分有正下界(\(e_S(x) \ge \eta\)),重叠良好。
- 可观测数据:\(\{(X_i, A_i, Y_i)\}_{i=1}^n\)(目标),\(\{(X_j, A_j, Y_j)\}_{j=1}^m\)(源)。注意:\(g, d, b_T, b_S\) 均不可观测,是待估计的 nuisance 参数。
第二步:讲最小内核¶
最小内核:考虑一个极端简化的情形——假设 \(g\) 和 \(d\) 都是常数函数(即 \(s_g = s_d = \infty\)),且 \(b_T = b_S = 0\)。此时,目标 ATE 是 \(\theta = g + d\),源样本可以估计 \(g\),目标样本可以估计 \(g + d\)。
-
目标样本单独估计:用 IPW 估计 \(\theta\)。由于 \(e_T(x) = x^\kappa/2\) 在 \(x=0\) 处趋于 0,IPW 权重 \(1/e_T(x)\) 在 \(x=0\) 附近发散。但 \(X\) 的密度 \(p_\beta(x) = (\beta+1)x^\beta\) 在 \(x=0\) 处也趋于 0。两者相乘,有效样本量约为 \(n \int_0^1 x^{\beta-\kappa} dx\)。当 \(\kappa > \beta+1\) 时,该积分有限,但有效样本量只有 \(O(n)\) 的常数倍,且常数可能很小。更精确地,目标样本单独估计的 minimax MSE 为 \(n^{-a_{s_g}}\),其中 \(a_{s_g} = u_{s_g}/D_{s_g} < 1\)。注意:这里 \(a_{s_g} < 1\) 意味着无法达到 \(\sqrt{n}\) 率,这是重叠不足的直接代价。
-
源样本的作用:源样本可以估计 \(g\),其 minimax MSE 为 \(m^{-1}\)(因为 \(g\) 是常数,参数估计达到参数率)。但源样本不能估计 \(d\),因为 \(d\) 只出现在目标样本中。
-
信息借用:一个自然的策略是:
- 用源样本估计 \(\hat{g}\),MSE \(\sim 1/M\)(其中 \(M = m\eta\) 是有效源样本量)。
- 用目标样本估计 \(\widehat{g+d}\),但只估计"目标样本中难以恢复的部分",即 \(d\) 的某个泛函。
-
最终估计 \(\hat{\theta} = \widehat{g+d} + \hat{g} - \hat{g}\),其中 \(\hat{g}\) 从源样本估计,\(\widehat{g+d}\) 从目标样本估计。
-
关键洞察:目标样本估计 \(\widehat{g+d}\) 时,不需要估计整个 \(g+d\) 函数,只需要估计其积分 \(L(g+d)\)。但 \(g\) 的粗糙部分(低光滑度)使得 \(L(g+d)\) 难以估计。源样本的贡献在于:它可以帮助"减去" \(g\) 的粗糙部分,使得目标样本只需要估计更平滑的 \(d\) 的积分。
-
为什么源样本只估计 \(g\) 的"局部"信息:源样本估计 \(\hat{g}\) 时,其误差 \(\hat{g} - g\) 是一个函数,而最终估计 \(\hat{\theta}\) 只用到 \(L(\hat{g} - g)\)。由于 \(L\) 是积分泛函,\(L(\hat{g} - g)\) 的方差取决于 \(\hat{g} - g\) 在 \(x=0\) 附近的行为。源样本的倾向得分 \(e_S(x) \ge \eta\) 保证了源样本在 \(x=0\) 附近也有足够的观测,因此 \(L(\hat{g} - g)\) 的方差是 \(O(1/M)\) 的。
-
三个 regime 的直觉:
- 低源信息(\(M \le n^{q_{s_g}}\)):源样本量太少,不足以改善目标样本的估计。此时最优策略是忽略源样本,用目标样本单独估计,MSE \(\sim n^{-a_{s_g}}\)。
- 中等源信息(\(n^{q_{s_g}} \le M \le n^{q_{s_d}}\)):源样本足以帮助估计 \(g\) 的粗糙部分,但不足以完全消除 \(d\) 的估计误差。此时 MSE 由"目标样本估计 \(d\) 的积分"主导,为 \(n^{-(\beta+1)/\kappa} M^{-t/\kappa}\)。注意:这个率介于 \(n^{-a_{s_g}}\) 和 \(n^{-a_{s_d}}\) 之间,且不依赖于 \(s_g\)(因为 \(g\) 已被源样本消除)。
-
高源信息(\(M \ge n^{q_{s_d}}\)):源样本量足够大,使得 \(g\) 的估计误差可以忽略。此时 MSE 达到源样本已知时的最优率 \(n^{-a_{s_d}}\),由目标样本估计 \(d\) 的积分主导。
-
为什么中间率不依赖于 \(s_g\):在中间 regime,源样本已经足够好地估计了 \(g\),使得 \(g\) 的粗糙性不再是瓶颈。剩下的瓶颈是 \(d\) 的估计,而 \(d\) 的光滑度 \(s_d\) 决定了其估计率。但中间率的指数 \((\beta+1)/\kappa\) 和 \(t/\kappa\) 只依赖于重叠参数 \(\beta, \kappa\),不依赖于 \(s_d\)——这是因为在中间 regime,\(d\) 的估计误差被"方差项"主导(而非"偏差项"),而方差项由重叠不足决定。
这个最小内核揭示了本文的核心数学贡献:通过"局部化修正"(只估计目标样本中难以恢复的部分),源样本的信息可以被高效利用,且其效果由两个显式阈值(\(n^{q_{s_g}}\) 和 \(n^{q_{s_d}}\))精确刻画。
三、这篇论文做了什么¶
三句话¶
- 研究了什么问题:在目标样本存在有限重叠(倾向得分幂律衰减)且目标与源样本处理效应共享一个粗糙成分、差异更平滑的设定下,推导 ATE 估计的 minimax 均方误差率,并识别出三个 regime。
- 核心工具/方法:使用"局部化修正"估计器(式 13),该估计器用源样本估计共享的粗糙成分 \(g\),用目标样本仅估计差异部分 \(d\) 的积分;同时使用"联合 RKHS 恢复"(式 17)作为实现,并构造偏差感知的置信区间(式 23)。
- 主要结论:minimax MSE 率由两个阈值 \(n^{q_{s_g}}\) 和 \(n^{q_{s_d}}\) 分为三个 regime;中间 regime 的率 \(n^{-(\beta+1)/\kappa} M^{-t/\kappa}\) 不依赖于 \(s_g\),且由重叠几何决定;高源 regime 达到源样本已知时的最优率 \(n^{-a_{s_d}}\)。
关键设定与假设¶
- 设定:一维协变量 \(X \in [0,1]\),目标样本密度 \(p_\beta(x) = (\beta+1)x^\beta\),倾向得分 \(e_T(x) = x^\kappa/2\)(\(\kappa > \beta+1\)),源样本倾向得分 \(e_S(x) = \eta(1+x)\)(\(0 < \eta \le 1/3\))。噪声为独立 \(N(0,1)\)。
- 函数类:\(g \in H^{s_g}\),\(\|g\|_{H^{s_g}} \le R\);\(d \in H^{s_d}\),\(\|d\|_{H^{s_d}} \le \rho\),其中 \(s_d > s_g \ge 1\)。基线函数 \(b_T, b_S \in H^1\),范数有界。
- 已知量:密度 \(p_\beta\)、倾向得分 \(e_T, e_S\)、光滑阶 \(s_g, s_d\)、半径 \(R, \rho, B\)、噪声方差均为已知。注意:倾向得分已知是本文的关键假设,这排除了需要估计倾向得分的设定。
- 相比已有文献的放宽/强化:
- 放宽:允许目标样本倾向得分在边界处趋于 0(有限重叠),而 Mou et al. [5] 的实例最优性结果在严格重叠下更自然。
- 强化:假设倾向得分完全已知,而 Ma & Wang [7] 等文献考虑的是倾向得分未知、需要估计的设定。作者在讨论中承认"estimation of the target integration law ... require additional analysis"。
主要结果¶
定理 1(三个 minimax regime):在固定半径、固定光滑阶、高斯噪声的设定下,minimax MSE 满足:
其中: - \(a_s = u_s / D_s = (2s+2\beta+1)/(2s+\beta+\kappa)\) - \(q_s = (2s+\beta)/D_s\) - \(t = \kappa - \beta - 1 > 0\) - \(M = m\eta\) 是有效源样本量
关键性质: 1. 低源 regime:源样本量太少,最优策略是忽略源样本,MSE 与目标样本单独估计相同。 2. 中间 regime:MSE 率 \(n^{-(\beta+1)/\kappa} M^{-t/\kappa}\) 不依赖于 \(s_g\) 和 \(s_d\),只依赖于重叠参数 \(\beta, \kappa\)。这意味着源样本完全消除了粗糙成分 \(g\) 的影响。 3. 高源 regime:MSE 达到源样本已知时的最优率 \(n^{-a_{s_d}}\),由目标样本估计 \(d\) 的积分主导。 4. 阈值:\(n^{q_{s_g}}\) 和 \(n^{q_{s_d}}\) 分别对应"源样本开始有用"和"源样本完全消除 \(g\) 的影响"的临界点。
推论(固定总样本量):当总样本量 \(N = n + m\) 固定时,存在最优分配比例。若 \(M \gtrsim N^{q_{s_d}}\),则分配 \(m \asymp N^{q_{s_d}}/\eta\) 的源样本即可达到最优率 \(N^{-a_{s_d}}\),剩余样本全部分配给目标样本。这给出了一个显式的样本分配策略。
定理 2(零重叠洞):若目标样本在 \([0, h_0)\) 上完全没有处理组观测(\(e_T = 0\)),则即使有无限源样本,ATE 也无法被点识别,只能得到长度为 \(O(h_0^{s_d+\beta+1/2})\) 的识别区间。这分离了"有限重叠导致的慢率"与"零重叠导致的识别失败"。
证明路线与技术技巧¶
整体路线(5 步): 1. 构造估计器:定义"局部化修正"估计器(式 13),其权重为 \(w = w_{s_d,h}\)(在 \([0,h]\) 上为零,在 \([2h,1]\) 上等于 \(p_\beta\),在 \([h,2h]\) 上为多项式修正)。该估计器用源样本估计 \(g\),用目标样本估计 \(d\) 的积分。 2. 偏差-方差分解:将估计器的条件 MSE 分解为偏差项(来自 \(d\) 的 Sobolev 逼近误差)和方差项(来自逆概率加权和源样本估计)。偏差项为 \(O(h^{u_{s_d}})\),方差项为 \(O(n^{-1}h^{-t} + M^{-1}h^{\beta+1})\)。 3. 优化带宽:在中间 regime,令 \(h = (M/n)^{1/\kappa}\),使目标方差项与源方差项平衡,得到率 \(n^{-(\beta+1)/\kappa} M^{-t/\kappa}\)。 4. 下界:构造两个难以区分的参数值(一个在 \(g\) 上变化,一个在 \(d\) 上变化),利用 KL 散度有界性证明 minimax 下界。关键技巧是将下界分解为"目标样本单独估计的下界"和"源样本估计 \(g\) 的下界",并取两者中的较大者。 5. 区间估计:使用偏差感知的置信区间(式 23),其半长度为 \(\sqrt{V} c_\alpha(B/\sqrt{V})\),其中 \(B\) 是偏差上界,\(V\) 是方差。条件覆盖概率至少为 \(1-\alpha\)。
关键技巧: - 局部化修正:不是用源样本估计整个 \(g\),而是只估计"目标样本中难以恢复的部分"(即 \(L(g) - W(g)\))。这避免了估计 \(g\) 在边界附近的行为(那里目标样本几乎没有观测)。 - 直接似然下界:下界证明不依赖白噪声等价,而是直接使用 KL 散度。这避免了高维/无穷维参数空间的紧性条件。 - 条件高斯论证:在给定设计 \(D\) 的条件下,估计误差是高斯变量(因为噪声是高斯且权重是设计依赖的),这使得区间估计的覆盖概率可以精确计算。
🔎 结论是否比证明窄¶
- 是的,存在若干"证明窄于结论"的地方:
- 定理 1 的全局 minimax 率:证明给出的是全局 minimax 率(对函数类中最坏情况),但作者在讨论中暗示"局部化修正"估计器可能具有更好的实例相关性质。然而,文中没有给出任何实例相关的上界或下界。作者在引言中承认:"The contribution is the explicit three-regime rate...for the stated scalar functional and product class",即明确限定为全局 minimax。
- 倾向得分已知:上界估计器(式 17)不需要倾向得分作为输入,但下界证明假设倾向得分已知。这意味着下界可能不适用于倾向得分未知的设定。作者在讨论中承认:"estimation of the target integration law ... require additional analysis"。
- 固定半径:定理 1 假设半径 \(R, \rho, B\) 固定。如果半径随样本量变化(如 \(R \to \infty\)),率可能不同。作者在讨论中承认:"Uniformity across vanishing radii ... is outside Theorem 1"。
- 数值实验的局限:作者在数值实验中没有验证三个 regime 的转变点是否与理论预测一致,仅展示了"借用有收益"和"过度借用有损失"的定性现象。作者在附录 H 中承认:"The existing numerical results do not resolve sharp breakpoints"。
四、开放问题¶
-
实例最优性:本文给出的是全局 minimax 率,但 Mou et al. [5] 的实例最优性框架能否推广到本文的"共享粗糙成分"设定?具体而言,是否存在一个估计器,其对每个具体的 \((g,d)\) 的风险都能达到与"知道 \((g,d)\) 光滑度"的 oracle 相同的率?这需要将 [5] 的模量连续性概念推广到两个函数的情形。
-
倾向得分未知:本文假设倾向得分已知。如果倾向得分需要从数据中估计,且估计误差与 \(n^{-1/2}\) 同阶,minimax 率是否会改变?特别是,在中间 regime,倾向得分估计误差是否会主导方差项?这需要将 [7] 的鲁棒推断方法与本文的迁移学习框架结合。
-
高维协变量:本文只处理一维协变量。在高维情形下,"局部化修正"的带宽选择可能依赖于维数,且"共享粗糙成分"的结构可能需要更精细的刻画(如稀疏性假设)。这需要将 [14, 15] 的高维迁移学习结果与本文的 minimax 分析结合。
-
自适应于未知光滑度:本文假设光滑阶 \(s_g, s_d\) 已知。如果光滑阶未知,是否存在自适应估计器,能在不知道 \(s_g, s_d\) 的情况下达到与"知道光滑阶"相同的 minimax 率?这需要将 [2] 的自适应置信区间理论与本文的迁移学习框架结合。
-
多个源样本:本文只考虑一个源样本。如果有多个源样本,且每个源样本与目标样本的共享成分不同,如何最优地组合多个源样本的信息?这需要将 [6] 的多源迁移学习结果与本文的 minimax 分析结合。
提醒:要确认上述问题是否为真 gap,建议去读以下近期论文的引言部分(约 5 篇): - Mou et al. (2023) 的后续工作(如果有) - Wang et al. (2025) 的后续工作(如果有) - 关于"有限重叠 + 迁移学习"的最新 arXiv 论文(2024-2026) - 关于"自适应 minimax 估计"的最新 Annals of Statistics 论文
如果这些论文的引言都指向同一个未解决问题,那它很可能是一个真 gap;如果它们各自为政、互不引用,那可能是"伪 gap"(即问题本身不够重要,不值得做)。
Maintained by 陈星宇 · Homepage · Source on GitHub