跳转至

Efficient Inference under Label Shift in Unsupervised Domain Adaptation

作者: Seong-ho Lee, Yanyuan Ma, Jiwei Zhao
来源: JMLR
主题: 效率理论 / Debiased ML
相关性: 7/10
链接: 期刊页 · arXiv


一、领域脉络与小综述

这个方向是什么

本文所处的子方向是半监督/无监督域适应下的统计推断,其根本科学问题是:当目标域(target domain)没有标签数据、且源域(source domain)与目标域的标签分布存在系统性偏移(即 label shift)时,如何对目标域总体中的某个参数 θ(如均值、分位数、回归系数等)进行有效(即达到半参数效率界)的估计与推断。该问题的核心统计困难在于:目标域的标签 Y 完全缺失,只能通过源域的 (Y, X) 配对数据与目标域的 X 边缘数据,结合 label shift 的结构性假设(条件分布 X|Y 跨域不变)来识别目标域参数。该方向的成熟度处于快速发展期:已有若干一致性估计方法,但效率理论(efficiency theory)尚不完善,本文正是填补这一缺口。

发展脉络(history)

  • 奠基工作:label shift 的识别与估计。Lipton, Wang and Smola (2018) 提出 Black Box Shift Estimation (BBSE),利用黑箱预测器的混淆矩阵来估计标签偏移比例,其核心贡献是证明了在 label shift 假设下,目标域标签分布可通过源域数据与无标签目标域数据识别。但该方法局限于离散 Y,且未考虑估计效率。同期,Du Plessis and Sugiyama (2014) 从分布匹配角度处理类别先验变化,Tasche (2017) 则从 Fisher 一致性角度系统化了先验偏移估计的估计量性质。这些工作确立了 label shift 的基本识别策略:利用 X|Y 的条件分布不变性,通过 X 的边缘分布变化反推 Y 的边缘分布变化。
  • 主要进展:从预测到推断。Schölkopf et al. (2012) 从因果角度为 label shift 提供了理论正当性——在"Y 导致 X"的反因果学习(anticausal learning)设定下,X|Y 的条件分布具有跨域不变性,这为 label shift 假设提供了因果基础。随后,Angelopoulos et al. (2023a) 提出 Prediction-Powered Inference (PPI),将机器学习预测纳入统计推断框架,允许在目标域无标签时利用预测值构造置信区间,但其原始形式在 label shift 下存在偏差。Tian, Zhang and Zhao (2023) 提出 ELSA(Efficient Label Shift Adaptation),从半参数模型视角处理 label shift,但同样局限于离散 Y。Lee, Ma and Zhao (2025) 进一步提出基于密度比建模的估计框架,通过构造局部有效影响函数(locally efficient influence function)实现一致性估计,但未能达到全局效率——这正是本文的切入点。
  • 当前 frontier:效率理论。本文作者(Lee, Ma and Zhao 的延续工作)指出,已有方法(包括他们自己 2025 年的工作)要么只保证一致性(consistency)而不保证效率,要么在特定条件下(如离散 Y、正确的密度比先验)才达到效率。本文的核心贡献是将"渐进估计"(progressive estimation)引入 label shift 推断,通过三阶段自举过程实现无需正确先验密度比假设下的半参数效率。这一思路与 Bickel (1975) 的一步估计(one-step estimation)有本质区别:一步估计需要初始估计量具有 √n 一致性,而本文的三阶段策略允许从不一致的初始猜测出发,通过迭代自举逐步达到效率。

子线索聚类

  1. 识别与估计线索(BBSE、ELSA、Du Plessis & Sugiyama、Tasche):关注如何在 label shift 下识别目标域参数,核心工具是密度比 ρ(y) 的估计与混淆矩阵校准。这些方法大多只保证一致性,不讨论效率。
  2. 预测辅助推断线索(PPI、PPI++、Cross-PPI):关注如何利用机器学习预测值改进统计推断效率,核心工具是预测偏差的校正(如 PPI 的 rectifier 项)。这些方法在无分布偏移时有效,但在 label shift 下需要额外假设。
  3. 半参数效率理论线索(Bickel 1975、Tsiatis 2006、Lee et al. 2025、本文):关注在给定模型假设下,参数估计的效率下界(半参数效率界)及达到该下界的估计量构造。本文属于这一线索,且是首个在 label shift 下实现全局效率的工作。

这个方向在追问的核心问题

  1. 识别问题:在无目标域标签的情况下,目标域参数 θ 是否可识别?需要什么假设?(答案:label shift 假设 + X|Y 条件分布不变 + 支撑条件)
  2. 效率问题:在可识别的前提下,θ 的估计效率下界是什么?如何构造达到该下界的估计量?(本文的核心贡献)
  3. 稳健性问题:当 label shift 假设被违反(如 X|Y 也发生偏移)时,估计量表现如何?(本文附录 A.8 做了初步探索)
  4. 计算-统计权衡:三阶段渐进估计的计算成本与统计效率之间的权衡如何?(本文未深入讨论,但三阶段设计本身隐含了这一权衡)

⚠️ 作者的 framing(必须明确标注成"这是作者的说法")

作者将缺口 frame 成:"已有方法要么只保证一致性(Lee et al. 2025 的 singly/doubly flexible 估计量),要么在离散 Y 下才有效(BBSE、ELSA),而连续 Y 下的效率估计问题尚未解决。" 作者声称其三阶段渐进估计策略是"统计文献中新颖的"(原文:"This self-evolving process is novel in the statistical literature and of independent interest"),并强调其方法无需正确指定密度比模型即可达到效率——这是对 Lee et al. (2025) 的关键改进。作者还淡化了 PPI 框架在 label shift 下的局限性(原文:"the original PPI the direct estimation term in (3) can be biased"),以此凸显其方法的必要性。

值得研究者去查的问题:作者声称"三阶段渐进估计"是新颖的,但这一思路与 semiparametric 文献中的"迭代加权"(iterative weighting)或"EM 型算法"有何本质区别?作者没有引用 van der Laan 的 targeted maximum likelihood estimation (TMLE) 文献,后者也涉及迭代更新 nuisance 参数以达到效率——这是否意味着本文的"新颖性"被高估了?建议去读 TMLE 的综述(van der Laan & Rose 2011)来核实。

张力

未见明显对立引用。但存在一个微妙的张力:作者一方面强调其方法不依赖正确的密度比模型("double flexibility"),另一方面其效率结论(Theorem 12)又要求密度比估计量 rρ 满足一致性(supy |rρ(y) − ρ(y)| = o_p(1))。这意味着"不依赖正确模型"的实际含义是"不依赖先验指定的正确模型",而非"不依赖一致性估计"。这一张力在论文中未被明确讨论。


二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据

符号清单(逐个点名):

记号 含义 类型
P, Q 源域(有标签)与目标域(无标签)总体 总体
(Y, X) 结果变量与协变量向量 随机变量
R ∈ {0, 1} 总体指示变量:R=1 表示来自 P,R=0 表示来自 Q 随机变量
n, N 源域样本量与总样本量(N = n + m,m 为目标域样本量) 样本量
π = n/N 源域样本比例 常数
p_Y(y), q_Y(y) Y 在 P 和 Q 中的边缘密度 未知密度
ρ(y) = q_Y(y)/p_Y(y) 标签密度比(label density ratio) 核心 nuisance 参数
f_{X Y}(x, y) X 给定 Y 的条件密度(跨域不变)
θ 目标域参数,满足 E_Q[U(Y, X, θ)] = 0 目标 estimand
U(Y, X, θ) 估计方程(estimating equation),已知函数 已知
s(Y, X) 简化情形下的已知函数,θ = E_Q[s(Y, X)] 已知
E_P, E_Q 分别关于 P 和 Q 的期望 算子
w(x) 权重函数,w(x) = [E_P(ρ²(Y) + π/(1−π) ρ(Y) X=x)]⁻¹
a(y) 辅助函数,满足特定积分方程 导出量
φ_eff 有效影响函数(Efficient Influence Function) 导出量
h, l 核估计的带宽参数 调参
K(·), K̃(·) 核函数 已知
ρ*(y) 密度比的工作模型(可能错误) 用户指定
rρ(y), pρ(y) ρ(y) 的估计量(一致估计 / 高效估计) 估计量
p̂_Y(y) p_Y(y) 的核密度估计量 估计量
p̂_{Y X}(y, x) 条件密度估计量
θ̂ θ 的最终估计量 估计量

模型(用直白语言写出数据生成机制):

  1. 总体结构:存在一个联合分布,从中独立抽取两个样本:
  2. 源域样本:{(Y_i, X_i), i = 1, ..., n} ~ P,其中 P 的联合密度为 p_Y(y) · f_{X|Y}(x, y);
  3. 目标域样本:{X_j, j = n+1, ..., N} ~ Q 的边缘分布,其中 Q 的联合密度为 q_Y(y) · f_{X|Y}(x, y)。

  4. Label shift 假设(公式 5):条件密度 X|Y 在 P 和 Q 中相同,即 p_{X|Y} = q_{X|Y} = f_{X|Y}。两个域仅通过 Y 的边缘分布不同。这等价于:Y 是 X 的原因(或至少 X|Y 的机制跨域稳定)。

  5. 支撑条件:q_Y 的支撑包含于 p_Y 的支撑(即 ρ(y) 有界),且 ρ(y) 有界、有界导数。

  6. 目标参数:θ 是 Q 中估计方程 E_Q[U(Y, X, θ)] = 0 的解。简化情形:θ = E_Q[s(Y, X)],即某个已知函数的期望。

  7. 可观测数据:

  8. 源域:完整观测 (Y_i, X_i),i = 1, ..., n;
  9. 目标域:仅观测 X_j,j = n+1, ..., N;
  10. 辅助信息:一个 ML 预测模型 p̂_E(·|x),用于估计 E_P(·|X=x)(该模型可能不正确,见 Remark 1)。

关键区分——"可观测"与"想要但观测不到": - 可观测:源域的 (Y, X) 配对、目标域的 X 边缘、以及 ML 预测模型的输出。 - 观测不到:目标域的 Y(这是 label shift 问题的本质困难);密度比 ρ(y)(需要估计);条件期望 E_P(·|X=x)(需要估计或借助 ML 模型)。

第二步:最小内核

核心问题:我们想估计 θ = E_Q[s(Y, X)],但 Q 中没有 Y。怎么办?

关键洞察:利用 label shift 假设,将 Q 的期望转化为 P 的期望加上密度比加权:

E_Q[s(Y, X)] = ∫ s(y, x) q_Y(y) f_{X|Y}(x|y) dx dy = ∫ s(y, x) ρ(y) p_Y(y) f_{X|Y}(x|y) dx dy = E_P[ρ(Y) s(Y, X)].

因此,如果我们知道 ρ(y),就可以用源域数据加权估计 θ。但 ρ(y) 未知,且目标域无 Y 无法直接估计。

最小内核的数学表述:

假设我们有一个初始猜测 ρ*(y)(可能完全错误),以及一个 ML 预测模型 p̂_E(·|x)。定义权重: w(x) = [E_P(ρ²(Y) + π/(1−π) ρ(Y) | X=x)]⁻¹

以及辅助函数 a(y),它是积分方程的解: E[w(X) E(a(Y)ρ(Y) | X) | Y=y] = s(y, X) 的某种条件期望。

三阶段渐进估计的核心思想:

  • 阶段 1(启发式猜测):给定一个任意的 ρ(y)(可能不一致),用它构造一个估计量 θ̂。这个估计量通常不一致(因为 ρ* 是错的)。
  • 阶段 2(一致估计 ρ):利用 θ̂* 和 ML 预测模型,构造 ρ(y) 的一致估计 rρ(y)。关键技巧:将 ρ(y) 的估计转化为一个全局特征的估计问题——具体来说,通过核平滑和积分方程求解,从源域数据中提取 ρ(y) 的信息。Remark 1 指出,这一步不需要 ML 模型正确指定。
  • 阶段 3(效率提升):将 rρ(y) 代入有效影响函数 φ_eff,构造 θ 的最终估计量 θ̂。此时 θ̂ 达到半参数效率界。

为什么三阶段能work? 关键在于阶段 2 的"自举"性质:即使初始猜测 ρ* 是错误的,阶段 2 的估计量 rρ 仍然一致(Theorem 7),因为 rρ 的构造不依赖于 ρ* 的正确性——ρ* 只影响阶段 1 的估计量 θ̂* 的方差,不影响其一致性(在适当条件下)。而阶段 3 利用 rρ 的一致性,通过有效影响函数的正交性,将 θ̂ 的方差压缩到效率界。

最小内核的"一句话"总结:本文在数学上干的事情是——在目标域无标签、且密度比 ρ(y) 完全未知(连一致估计都没有)的情况下,通过一个三阶段自举过程,先构造 ρ(y) 的一致估计,再将其代入有效影响函数,最终实现对目标域参数 θ 的半参数有效估计。证明的核心难点在于:阶段 2 中 ρ(y) 的估计误差如何传播到阶段 3 的 θ̂,以及如何保证这种传播不破坏效率(即 ρ 的估计误差是"一阶可忽略的")。


三、这篇论文做了什么

三句话

  1. 研究了什么问题:在无监督域适应(UDA)的 label shift 假设下,如何对目标域总体的一般参数 θ(由估计方程 E_Q[U(Y, X, θ)] = 0 定义)进行半参数有效的估计与推断,其中目标域完全没有标签数据。
  2. 核心工具/方法:提出一个三阶段渐进估计策略——(i) 从任意启发式密度比猜测 ρ* 出发;(ii) 通过核平滑和积分方程求解,构造 ρ(y) 的一致估计 rρ(y)(Theorem 7),并进一步构造高效估计 pρ(y)(Theorem 9);(iii) 将 rρ 或 pρ 代入有效影响函数 φ_eff,构造 θ 的估计量 θ̂,并证明其渐近正态且达到半参数效率界(Theorem 12)。
  3. 主要结论:在正则条件下,所提估计量 θ̂ 是 √n-一致的、渐近正态的,且其渐近方差等于半参数效率界;相比已有方法(BBSE、ELSA、Lee et al. 2025),θ̂ 在连续 Y 下首次实现了无需正确密度比先验的效率。模拟和两个真实数据应用(浮游生物计数、温度预测)验证了理论结果。

关键设定与假设

在第二节最小记号的基础上,补全完整设定:

  • 数据:源域样本 {(Y_i, X_i), i=1,...,n} ~ P,目标域样本 {X_j, j=n+1,...,N} ~ Q 的边缘。π = n/N 固定。
  • Label shift 假设(公式 5):p_{X|Y} = q_{X|Y} = f_{X|Y}。
  • 参数 θ 的定义(公式 6):θ 满足 E_Q[U(Y, X, θ)] = 0,U 为已知估计方程。简化情形 θ = E_Q[s(Y, X)](公式 7)。
  • 密度比(公式 8):ρ(y) = q_Y(y)/p_Y(y),假设有界、有界导数、支撑条件。
  • 正则条件(A1-A6, B1-B3):
  • (A1) ρ*(y) 有界、有界导数(允许错误指定);
  • (A2) 条件期望算子具有完备性(用于积分方程可解性);
  • (A3) 核函数 K, K̃ 为 m 阶核,带宽条件 h, l → 0 且 nh → ∞, nl → ∞;
  • (A4) 支撑紧致,密度有界;
  • (A5) 核函数有界、有界支撑;
  • (A6) 带宽满足 nh^{2m} → 0, nl^{2m} → 0, nh² → ∞, nl² → ∞ 等;
  • (B1) 估计方程 U 的矩条件、可微性、参数空间紧致;
  • (B2) 辅助函数 a(y) 有界;
  • (B3) 带宽条件进一步细化。

相比已有文献的放宽/强化: - 放宽:不要求密度比 ρ(y) 的初始猜测 ρ* 正确(Lee et al. 2025 的 singly flexible 估计量要求 ρ* 正确才能达到效率);不要求 Y 离散(BBSE、ELSA 的限制)。 - 强化:要求条件期望算子可逆(完备性条件 A2),这比 Lee et al. 2025 的假设更强,但似乎是实现效率的必要条件。

主要结果

定理 7(rρ 的一致性):对任意初始猜测 ρ(满足 A1),所提估计量 rρ(y) 一致收敛于真 ρ(y),收敛速度为 O_p(h^m + (nh)^{-1/2} log n)。关键点:ρ 的错误不影响 rρ 的一致性,只影响其常数因子。

定理 9(pρ 的效率):在 rρ 的基础上,通过一步更新(one-step update)构造 pρ,其渐近方差达到估计 ρ(y) 的半参数效率界(给定核函数和带宽)。

定理 12(θ̂ 的效率):将 rρ 或 pρ 代入有效影响函数 φ_eff 后,θ̂ 是渐近正态的,且 √n(θ̂ − θ) → N(0, V_eff), 其中 V_eff = Var[φ_eff(R, RY, X, θ)] 是半参数效率界。必要条件:rρ 一致收敛(Theorem 8),p̂_E 满足 o_p(n^{-1/4}) 收敛速度(相对于 L2 范数)。

证明路线(3-5 步逻辑主干):

  1. 建立有效影响函数:利用半参数理论(Bickel et al. 1993; Tsiatis 2006),推导 θ 在 label shift 模型下的有效影响函数 φ_eff,其形式为公式 (13)。这一步的关键是识别 nuisance 切空间的正交补。
  2. 构造 ρ 的一致估计:将 ρ(y) 的估计转化为积分方程求解问题。具体地,利用 E_Q[X|Y=y] 与 E_P[X|Y=y] 的关系,通过核估计和 Fredholm 方程反演得到 rρ(y)。技术难点:积分方程的不适定性(ill-posedness),需要正则化(通过带宽 l 控制)。
  3. 证明 rρ 的一致性:利用核估计的偏差-方差分解,结合条件 A1-A6,证明 rρ 的 L∞ 收敛速度。关键引理:积分算子 I 的可逆性(Lemma 6)保证反演误差可控。
  4. 一步更新到效率:将 rρ 代入 φ_eff 后,利用影响函数的正交性,证明 θ̂ 的渐近方差等于 V_eff。关键技巧:利用 von Mises 展开,将 θ̂ − θ 分解为独立和 + 可忽略项,其中 ρ 的估计误差通过正交性被消除。
  5. 验证渐近正态性:利用 Lyapunov 中心极限定理,结合矩条件 B1,完成证明。

技术技巧点名:

  • 半参数效率理论(Bickel et al. 1993; Tsiatis 2006):用于推导有效影响函数和效率界。
  • 积分方程反演(Fredholm 方程):用于从全局特征反推局部特征 ρ(y)。
  • 核平滑(Nadaraya-Watson):用于估计条件期望 E_P(·|X=x) 和 E_P(·|Y=y)。
  • von Mises 展开(影响函数线性化):用于处理 nuisance 估计误差的一阶影响。
  • Bernstein 不等式:用于证明均匀收敛速度(Theorem 8 的证明)。
  • U-统计量分解:用于处理双重求和项(附录 A.3 中的 T 项)。

真实例子与应用

例子 1:浮游生物计数(Section 7.1) - 数据:WHOI-Plankton 数据集,2013 年 421,238 张带标签图像作为源域 P,2014 年 329,832 张无标签图像作为目标域 Q。目标是估计 2014 年浮游生物的平均数量。 - 如何应用:用 ResNet 在 P 上训练预测模型 p̂_E(·|x),然后对 Q 的 X 计算预测值;用本文方法估计 ρ(y) 并构造 θ̂。 - 结果:本文方法(Efficient)的置信区间宽度为 433,显著窄于 PPI(8466)、BBSE+PPI(约 8000+)和 singly-flexible(662)。点估计与 oracle(使用真实标签)几乎一致(39152 vs 39152)。 - 说明什么:验证了理论效率优势在实际高维图像数据中的体现。

例子 2:温度预测(Section 7.2) - 数据:匈牙利塞格德天气数据,1-10 月作为 P(3,348 条),11-12 月作为 Q(671 条)。目标是估计 Q 中的平均温度。 - 如何应用:用湿度作为协变量 X,温度作为 Y;在 P 上训练线性回归作为预测模型。 - 结果:本文方法(Efficient)的置信区间宽度为 0.482,窄于 singly-flexible(0.629)和 doubly-flexible(1.976)。点估计约为 4.1,而 shift-dependent 估计为 5.5(明显有偏)。 - 说明什么:展示了在连续 Y 下,本文方法相对于已有方法的效率提升,以及 shift-dependent 估计在 label shift 下的严重偏差。

🔎 结论是否比证明窄

是的,存在几处"证明窄于结论"的情况,需要点名:

  1. 定理 12 的证明假设 rρ 一致收敛,但结论声称"无需正确模型"。证明中要求 rρ 满足 supy |rρ(y) − ρ(y)| = o_p(1),这本身是一个非平凡条件。作者在 Remark 1 中声称"double flexibility"使得 ML 模型可以错误指定,但 rρ 的一致性仍然依赖于核估计的带宽选择和积分方程的可逆性(条件 A2)。这些条件在实际中难以验证。

  2. 定理 9 声称 pρ 是"高效的",但效率是"给定核函数和带宽"的意义下的。作者在 Theorem 9 的陈述中明确说"at a given kernel function and bandwidth",但在摘要和引言中却声称"efficient inference",这有过度声称之嫌。带宽选择(如交叉验证)对效率的影响未被理论覆盖。

  3. 附录 A.8 的稳健性分析是经验性的,没有理论保证。作者在 A.8 中展示了当 label shift 假设被违反(加入噪声)时,方法仍然表现良好,但这只是模拟结果,没有对应的理论定理。作者自己也承认"More rigorous study on how to quantify such robustness will be challenging and warrants further investigations"。

  4. 离散 Y 情形的讨论被简化。Section 5 声称离散情形"直接适用",但离散情形下 ρ(y) 的估计可以参数化(有限维),与连续情形的非参数核估计有本质区别。作者没有给出离散情形下的效率界证明。


四、开放问题(点到为止,扎根具体语句)

  1. 带宽选择的效率损失:定理 9 和 12 的效率结论是"给定核函数和带宽"的。实际中带宽如何选择?交叉验证选择的带宽是否仍能达到效率界?——扎根于 Theorem 9 的陈述"at a given kernel function and bandwidth"。

  2. label shift 假设违反的定量刻画:附录 A.8 只做了经验性稳健性分析。能否给出当 p_{X|Y} ≠ q_{X|Y} 时,估计量的偏差界或敏感性分析?——扎根于 A.8 最后一句"More rigorous study on how to quantify such robustness will be challenging and warrants further investigations"。

  3. 高维协变量 X 的扩展:本文的核方法要求 X 的维度较低(实际应用中用 ResNet 提取特征)。当 X 本身高维时,如何扩展?是否可以用深度学习的嵌入来替代核平滑?——扎根于 Section 7.1 中"the input raw image x is high-dimensional (dimension 224 × 224)"但方法实际只用了 ResNet 输出的低维特征。

  4. 三阶段估计的有限样本性质:三阶段渐进估计的收敛速度依赖于带宽条件 A6,这些条件在有限样本下如何验证?是否存在数据自适应的带宽选择准则?——扎根于条件 A6 的具体形式"h → 0, nh → ∞, nl^{2m} → 0"等。

  5. 与其他域适应场景的衔接:本文只处理了 label shift。对于更一般的协变量偏移(covariate shift)或开放集域适应(open-set domain adaptation),三阶段估计策略是否可推广?——扎根于 Section 8 的讨论"Extending our semiparametric methodology to accommodating these cases requires additional assumptions to achieve identifiability"。

提醒:要确认以上哪条是真正的 gap,建议去读近 5 年 ICML/NeurIPS/JASA 上关于 domain adaptation 统计推断的论文(如 Garg et al. 2022 的 open-set label shift、Roberts et al. 2022 的 latent label shift),看它们是否已经解决了上述问题。如果多篇论文都指向同一个未解决问题,那就是共识性 gap;如果各论文的假设条件互相矛盾,那可能是更深层的张力所在。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论