跳转至

Inference for Non-Probability Samples Using Error-Prone Auxiliary Information

作者: Lyndon Ang, Robert Clark, Bronwyn Loong, Anders Holmberg
主题: 因果推断
相关性: 7/10
链接: https://arxiv.org/abs/2611.10975


一、领域脉络与小综述

这个方向是什么

本文所处的子方向是基于非概率样本的有限总体推断(inference from non-probability samples)。其根本科学问题是:当样本并非按已知概率机制抽取(如自愿参与的网络调查、行政记录、大数据集)时,如何利用辅助信息(auxiliary information)校正选择偏差(selection bias),从而对总体均值、总量等有限总体参数进行有效推断。该方向的成熟度处于"方法快速扩张但理论根基尚浅"的阶段——大量方法(倾向得分加权、校准、数据整合)已被提出,但对辅助信息本身含测量误差(measurement error)这一现实问题的处理,文献仍很稀疏。

发展脉络

  • 奠基工作:缺失数据框架与随机化假设。Rubin (1976) 的 MAR 概念为处理"样本选择"提供了形式化语言——若选择机制在给定协变量后与结果独立(即本文的 A1 可忽略性),则基于观测数据的推断是有效的。这是整个 quasi-randomisation 建模路线的理论基石。
  • 主要进展:非概率样本的倾向得分加权与数据整合。Chen, Li & Wu (2020) 建立了非概率样本与概率样本整合的严格推断框架,提出双重稳健(doubly robust)估计量,并给出方差估计。Kim & Wang (2019) 提出通过数据整合估计参与概率的"KW 方法",其核心思想是利用概率样本中的辅助信息来估计非概率样本的入样概率。Ang et al. (2024) 进一步提出 Overlap-Excluded (OE) 伪似然方法,在概率样本与非概率样本重叠部分上估计参与概率模型。
  • 当前 frontier:测量误差与误分类问题。这是本文的切入点。Schenkel & Zhang (2022) 处理了行政数据中目标变量的误分类问题;Dharma et al. (2025) 处理了概率样本中用于定义目标子群的变量存在误分类的情形。但辅助变量(协变量)本身含测量误差的问题,在非概率样本推断的语境下尚未被系统处理——这正是本文声称填补的缺口。
  • 本文的位置:在 OE 伪似然框架(Ang et al. 2024)的基础上,引入非参数核回归来估计测量误差条件密度,从而同时校正选择偏差与协变量测量误差。作者声称这是"首次"在 quasi-randomisation 框架下同时处理这两个问题。

子线索聚类

被引文献大致落在三条子线索上:

  1. 倾向得分加权与 quasi-randomisation 建模(Chen et al. 2020; Kim & Wang 2019; Ang et al. 2024; Wu 2022, 2023; Zhang 2019; Rao 2021):核心是估计入样概率 π_B,然后用逆概率加权(IPW)估计总体参数。这条线成熟度最高,已有大量模拟与理论工作。
  2. 测量误差与误分类校正(Carroll et al. 2006; Fuller 1987; Yi 2017; Schenkel & Zhang 2022; Dharma et al. 2025):处理各类数据源中的测量误差问题,但多数工作不在非概率样本推断的语境下。
  3. 有限总体推断的方差估计与自助法(Booth et al. 1994; Mashreghi et al. 2016; Liu et al. 2022):为 IPW 类估计量提供方差估计工具,本文的自助法直接继承自这条线。

这个方向在追问的核心问题

  1. 可忽略性(A1)是否成立:选择偏差能否被观测到的协变量完全解释?这是 quasi-randomisation 路线的根本假设,也是其最脆弱之处。
  2. 参与概率模型是否正确设定:π_B 的 logistic 回归模型是否真实?模型误设会导致什么程度的偏差?
  3. 辅助信息的质量:参考样本中的协变量若有测量误差,对参与概率估计和最终 IPW 估计量有何影响?如何校正?
  4. 重叠样本的充分性:A∩B 需要多大才能稳定估计测量误差模型?

⚠️ 作者的 framing(这是作者的说法)

作者将缺口 frame 为:"现有非概率样本推断方法均假设参考样本中的辅助变量无测量误差,但现实中(如行政数据滞后、概念定义差异)这一假设常被违反。本文提出第一个同时处理选择偏差与协变量测量误差的半参数框架。" 作者淡化的竞争路线包括:(i) 完全依赖模型假设的测量误差校正方法(如 SIMEX、回归校准),认为它们需要额外的验证数据或强分布假设;(ii) 不依赖参考样本的纯模型外推方法。值得研究者去查的问题:作者声称的"首次"是否成立?Dharma et al. (2025) 已处理了概率样本中变量误分类问题,本文与它的本质区别是否只是"连续型测量误差 vs. 分类误分类"?另外,作者对"非差分测量误差"(A4)的假设在多大程度上限制了方法的适用范围?

张力

未见明显的文献间对立结论。但存在一个潜在张力:Chen et al. (2020) 的双重稳健方法强调"模型误设下仍有一致性",而本文的方法依赖核回归的带宽选择与测量误差模型设定,其稳健性不如双重稳健框架——作者在文中未直接讨论这一对比。


二、最核心、最简单的例子 / 数学问题

第一步:符号、模型、可观测数据

符号清单(逐个点名):

记号 含义 类型
\(U\) 有限总体,大小 \(N\) 总体
\(y_i\) 第 \(i\) 个单元的结果变量 目标量(要估计其总体均值 \(\mu_y\))
\(x_i\) 辅助变量(可能含测量误差) 协变量(真实值)
\(z_i\) 辅助变量(无测量误差) 协变量
\(x_i^*\) \(x_i\) 的含误差版本,仅在参考样本 A 中观测到 观测变量
\(A\) 参考概率样本,大小 \(n_A\),含 \((z, x^*)\) 可观测样本
\(B\) 非概率样本,大小 \(n_B\),含 \((y, z, x)\) 可观测样本
\(\pi_i^A\) 单元 \(i\) 进入 A 的已知入样概率 已知设计量
\(d_i^A = 1/\pi_i^A\) A 的设计权重 已知设计量
\(\delta_i = I(i \in B)\) 是否进入非概率样本 B 随机变量(选择指示)
\(\pi_i^B = P(\delta_i = 1 \mid x_i, z_i)\) 进入 B 的参与概率 待估参数(建模对象)
\(\theta\) 参与概率模型 \(\pi(x,z;\theta)\) 的参数 待估参数
\(f(x \mid x^*, z)\) 真实值给定含误差版本的密度 测量误差模型(未知)
\(f_1(x \mid x^*, z) = f(x \mid x^*, z, \delta=1)\) 给定在 B 中的条件下的测量误差密度 可由 A∩B 估计

模型(数据生成机制):

  1. 选择机制:\(\delta_i \sim \text{Bernoulli}(\pi(x_i, z_i; \theta_0))\),其中 \(\pi(\cdot)\) 是 logistic 函数。A1(可忽略性)保证 \(\delta_i \perp y_i \mid x_i\);A2(积极性)保证 \(\pi > 0\);A3(独立性)保证 \(\delta_i\) 跨单元独立。
  2. 测量误差机制:\(x_i^*\) 是 \(x_i\) 的含误差版本,在 A 中观测到。A4(非差分误差)保证 \(\delta_i \perp x_i^* \mid x_i, z_i\),即含误差版本不额外影响选择。
  3. 可观测数据:
  4. 从 A:\(\{(z_i, x_i^*) : i \in A\}\)(以及设计权重 \(d_i^A\))
  5. 从 B:\(\{(y_i, z_i, x_i) : i \in B\}\)
  6. 从 A∩B:\(\{(y_i, z_i, x_i, x_i^*) : i \in A \cap B\}\)(用于估计测量误差模型)

目标量:\(\mu_y = N^{-1} \sum_{i \in U} y_i\)(总体均值)。

第二步:最小内核

剥掉所有一般性设定后,本文的核心数学问题是:

当我们只有 \(B\) 中的 \((y, x)\) 和 \(A\) 中的 \((x^*, z)\),且 \(x^*\) 是 \(x\) 的含误差版本时,如何估计参与概率 \(\pi^B_i = P(\delta_i = 1 \mid x_i, z_i)\)?

为什么难? 因为 \(\pi^B\) 是 \(x\) 的函数,但 \(A\) 中只有 \(x^*\),没有 \(x\)。如果我们直接用 \(x^*\) 拟合 logistic 回归,得到的 \(\hat{\pi}^B\) 是 \(P(\delta=1 \mid x^*, z)\) 而非 \(P(\delta=1 \mid x, z)\)——这就是经典的回归衰减偏误(attenuation bias)。而 IPW 估计量要求权重基于 \(P(\delta=1 \mid x, z)\)。

最小例子(一维 \(x\),无 \(z\)):

  • 假设 \(x \sim N(0,1)\),\(x^* = x + \epsilon\),\(\epsilon \sim N(0, \sigma^2_\epsilon)\)。
  • 真实选择机制:\(\text{logit}(\pi^B_i) = \theta_0 + \theta_1 x_i\)。
  • 若直接用 \(x^*\) 拟合:\(\text{logit}(\hat{\pi}^B_i) = \hat{\theta}_0 + \hat{\theta}_1 x^*_i\),则 \(\hat{\theta}_1 \to \theta_1 \cdot \frac{\text{Var}(x)}{\text{Var}(x) + \sigma^2_\epsilon} < \theta_1\)(衰减)。
  • 结果:\(\hat{\pi}^B\) 被压缩向 0.5,IPW 权重 \(\hat{w}_i = 1/\hat{\pi}^B_i\) 被低估,最终 \(\hat{\mu}_y\) 有偏。

本文的破解思路(三步):

  1. 用 A∩B 估计测量误差密度 \(f_1(x \mid x^*, z)\):在重叠样本中,同时观测到 \((x, x^*)\),可以用核回归估计 \(E_1[\cdot \mid x^*, z]\)。
  2. 用 Bayes 公式重构似然:将含误差的似然 \(P(\delta \mid x^*, z)\) 通过 \(f_1(x \mid x^*, z)\) 和 \(\pi(x, z; \theta)\) 联系起来,得到修正后的得分函数(公式 10)。
  3. 求解修正后的得分方程:得到 \(\hat{\theta}\),代入 IPW 估计量(公式 1)。

为什么能 work? 关键在 A4(非差分误差):\(\delta \perp x^* \mid x, z\)。这保证 \(f_1(x \mid x^*, z) = f(x \mid x^*, z)\),即重叠样本中估计的测量误差密度可以外推到 A 中所有单元。如果 A4 不成立(即 \(x^*\) 本身影响选择),则 \(f_1 \neq f\),方法失效。

这个最小内核的数学本质:它是一个带测量误差的 logistic 回归 + 非参数 nuisance 估计问题。作者用核回归估计 nuisance \(f_1\),然后代入得分方程求解 \(\theta\)——这是典型的半参数估计结构:有限维参数 \(\theta\) + 无限维 nuisance \(f_1\)。


三、这篇论文做了什么

三句话

  1. 研究了什么问题:当参考概率样本 A 中的辅助变量 \(x\) 含测量误差(观测到的是 \(x^*\))时,如何利用 A 与 B 的整合来估计非概率样本 B 的参与概率,从而校正选择偏差并得到总体均值的无偏估计。
  2. 核心方法:提出一个半参数框架,将参与概率建模为 logistic 回归(参数部分),将测量误差密度 \(f_1(x \mid x^*, z)\) 用核回归非参数估计(nuisance 部分),通过 Bayes 公式重构得分函数,用 EM 算法迭代求解。
  3. 主要结论:在模拟和真实数据中,忽略测量误差的方法(OE、KW)仍有明显偏差,而本文方法(ME)能有效消除偏差,其 RMSE 接近"无测量误差"的理想情形(OE True)。

关键设定与假设

  • A1(可忽略性):\(\delta_i \perp y_i \mid x_i\)。这是 quasi-randomisation 路线的核心假设——选择只依赖于可观测协变量。相比 Chen et al. (2020) 的双重稳健框架,本文没有提供对 A1 违反的稳健性。
  • A2(积极性):\(P(\delta_i = 1 \mid x_i, z_i) > 0\),保证 IPW 权重有限。
  • A3(独立性):\(\delta_i\) 跨单元独立,用于构造似然。
  • A4(非差分测量误差):\(\delta_i \perp x_i^* \mid x_i, z_i\)。这是本文方法成立的关键——它保证 \(f_1(x \mid x^*, z) = f(x \mid x^*, z)\),使得重叠样本估计的测量误差密度可以外推。相比已有文献(如 Schenkel & Zhang 2022 处理误分类),本文将其推广到连续型测量误差。
  • 正则条件 C1–C7(见补充材料):包括核函数的 Lipschitz 条件、带宽 \(h \to 0\) 且 \(n h^d \to \infty\)、\(\theta\) 的紧参数空间等。这些条件保证了核回归估计的 \(o_p(n^{-1/4})\) 收敛速率,从而使得 \(\hat{\theta}\) 的渐近性质不受 nuisance 估计影响。

主要结果

定理 1:在 A1–A3 和正则条件下,当样本量趋于无穷时,基于 \(\hat{\theta}\)(由修正得分方程解得)的 IPW 估计量 \(\hat{\mu}_y\) 满足: - \(E(\hat{\mu}_y) \to \mu_y\)(一致性) - \(|\hat{\mu}_y - \mu_y| \xrightarrow{p} 0\)

证明路线(三步):

  1. 引理 1:核回归估计的得分函数 \(\hat{s}(\theta)\) 依概率收敛到真实得分函数 \(s(\theta)\),收敛速率为 \(o_p(n^{-1/4})\)。证明用到了核估计的逐点一致收敛性(条件 C1–C4)和 U-statistic 的 Hoeffding 分解。
  2. 引理 2:对伪似然 \(\hat{s}_p(\theta)\)(A 为样本而非全总体时),通过三角不等式分解为 \(\|\hat{s}_p - \hat{s}\| + \|\hat{s} - s\|\),第一项由条件 C7(A 的抽样误差)控制为 \(o_p(n^{-1/2})\),第二项由引理 1 控制为 \(o_p(n^{-1/4})\)。
  3. 定理 1:由得分函数的收敛性 + \(\theta\) 的紧参数空间 + 得分函数在 \(\theta_0\) 处的可微性,推出 \(\hat{\theta} \xrightarrow{p} \theta_0\),进而由 IPW 估计量的连续性推出 \(\hat{\mu}_y\) 的一致性。

技术技巧点名:

  • 核回归(Nadaraya-Watson):用于估计 \(E_1[\cdot \mid x^*, z]\),是 nuisance 估计的核心工具。
  • EM 算法:迭代更新 \(\theta\) 和权重 \(w_{ij}\),处理得分方程的非线性。
  • Bayes 公式重构:将含误差的似然转化为可计算的积分形式(公式 7),这是本文方法区别于朴素"插补后拟合"的关键。
  • 带宽选择:采用交叉验证方法(基于 Morikawa et al. 2017 的思路),候选带宽形式为 \(h^{(p)} = n^{-p} \hat{\sigma}_x\),\(p \in [0.1, 0.5]\)。

模拟与真实数据

  • 模拟:构造 \(N = 20{,}000\) 的有限总体,\(x = (x_1, x_2, x_3, x_4)\) 有相关性结构,\(y\) 由线性模型生成。四种测量误差模型(经典加性、乘性、非线性、高噪声)。结果显示:ME 方法在四种情形下 RB 均接近 0(<0.5%),而 OE 和 KW 的 RB 在 Case 2 和 Case 4 中高达 5–10%。ME 的 RRMSE 在 Case 1–3 中与 OE True 相差 <0.5 个百分点,仅在 Case 4(非线性测量误差)中差距扩大到约 1 个百分点。
  • 真实数据:澳大利亚商业活动报表(BAS)数据,\(N = 37{,}218\) 家制造业企业。用 2020-21 年度的工资数据作为 2022-23 年度工资的"含误差版本"。结果:ME 的 RB = 1.44%,RRMSE = 7.00%,显著优于 OE(RB = -14.54%,RRMSE = 15.59%),接近 OE True(RB = 0.02%,RRMSE = 4.20%)。

🔎 结论是否比证明窄

是,存在明显差距:

  1. 定理 1 只证明了"一致性",但文中多处暗示"有效性"(efficiency)。例如,摘要声称方法"有效缓解"偏差,但并未证明 \(\hat{\mu}_y\) 达到半参数效率界。作者在正文中未给出 \(\hat{\mu}_y\) 的渐近方差表达式,也未与 Chen et al. (2020) 的双重稳健估计量做效率对比。
  2. 核回归的收敛速率:引理 1 要求 \(n h^d \to \infty\),但未给出 \(h\) 的具体选择对 \(\hat{\theta}\) 收敛速率的影响。在高维 \(x\) 时(\(d\) 较大),核回归的收敛速率会显著下降,但文中未讨论这一"维数灾难"问题。
  3. A4 的检验:文中假设 A4 成立,但未提供任何诊断方法。如果 A4 违反(如 \(x^*\) 本身影响选择),方法是否仍然可用?文中未讨论。
  4. "首次"声称:作者声称这是"首次"同时处理选择偏差与协变量测量误差,但 Dharma et al. (2025) 已处理了类似问题(尽管是误分类而非连续测量误差)。作者未在文中明确区分两者的边界。

四、开放问题

以下问题均扎根于文中具体语句,供研究者自行判断价值与可行性:

  1. 半参数效率界:文中定理 1 只证明一致性,未给出 \(\hat{\mu}_y\) 的渐近方差。能否推导出 \(\hat{\mu}_y\) 的半参数效率界?在什么条件下(如 \(f_1\) 的估计速率足够快)能达到该界?(扎根于:定理 1 的陈述仅涉及一致性,未涉及效率;第 4 节标题为 "Consistency and Variance Estimation" 但方差部分仅给出 bootstrap 方法,未给出解析表达式。)

  2. 高维 \(x\) 的扩展:核回归在 \(d\) 较大时面临维数灾难。能否用单指数模型、可加模型或深度学习替代核回归来估计 \(f_1\)?这需要什么新的正则条件?(扎根于:第 3 节公式 (9) 的核回归估计,以及第 8 节提到的"计算密集型"问题。)

  3. A4 的诊断与稳健性:如何检验 A4(非差分测量误差)是否成立?如果 A4 违反,偏差有多大?能否构造对 A4 违反稳健的估计量?(扎根于:第 2 节 A4 的陈述,以及第 8 节"未来工作"中提到的"探索 A4 违反时的行为"。)

  4. 重叠样本不足时的替代方案:当 A∩B 很小时,核回归估计 \(f_1\) 的方差会很大。能否用参数化测量误差模型(如正态误差)替代非参数估计?这会引入多少模型误设偏差?(扎根于:第 5 节模拟中"重叠样本约 120 个时 ME 仍有偏差"的讨论。)

  5. 双重稳健扩展:本文方法依赖参与概率模型(logistic)和测量误差模型(核回归)都正确。能否构造双重稳健估计量,使得只要其中一个模型正确,估计量就一致?(扎根于:第 1 节对 Chen et al. 2020 的引用,但未将其双重稳健思想引入本文框架。)

  6. SNAR 情形的完整理论:第 7 节(公式 19–24)给出了 SNAR 情形的得分函数,但明确说"性质检验留待未来工作"。能否证明该情形下估计量的一致性?需要什么额外条件?(扎根于:第 7 节最后一段。)

提醒:要确认上述某条是否是真 gap,建议去读近 5 年 Journal of Survey Statistics and Methodology、Survey Methodology、JRSS-A 上关于非概率样本推断的论文引言——如果多篇都指向同一问题,说明是共识性 gap;如果各说各话,则可能是伪 gap 或已被其他框架覆盖。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论