Combining experimental and observational data through a power likelihood¶

作者: Xi Lin, Jens Magelund Tarp, Robin J Evans
来源: Biometrics
主题: 因果推断
相关性: 8/10
机构绿灯: University of Oxford（US News 前 50，免分进入精读）
链接: https://doi.org/10.1093/biomtc/ujaf008

一、领域脉络与小综述¶

这个方向是什么¶

这个子方向是因果推断中的数据融合（data fusion），核心科学问题是：如何将来自不同来源、具有不同偏差-方差特征的数据（如小样本无偏的随机对照试验（RCT）与大样本可能有偏的观察性数据）结合起来，以得到比单独使用任一数据源更精确、更可靠的处理效应估计。当前该方向处于方法快速发展的成熟期，已有多种融合框架（如贝叶斯方法、逆概率加权、双重稳健估计），但如何数据自适应地平衡偏差与方差、同时保持统计推断的有效性（如覆盖率）仍是活跃的前沿。

发展脉络（history）¶

奠基工作：早期融合方法多基于贝叶斯框架，如通过先验分布将观察性数据的信息“折扣”后与RCT数据结合。例如，Kaplan & Chen (2012) 提出使用幂先验（power prior）来调控历史数据在贝叶斯分析中的权重，其核心思想是将历史数据的似然提升到某个幂次（0到1之间），从而控制其对后验的影响。这为本文的power likelihood方法提供了直接的思想源头。
主要进展：随后，研究者开始关注频率学派框架下的融合，并引入更复杂的识别策略。Colnet et al. (2024) 系统综述了RCT与观察性数据融合的多种方法，包括逆概率加权、双重稳健估计、以及基于工具变量的方法。这些方法通常假设观察性数据中的未观测混杂可以被某种方式（如工具变量、代理变量）识别或校正。Dahabreh et al. (2020) 提出了基于“可传输性”（transportability）假设的融合方法，通过逆概率加权将观察性数据中的估计结果“传输”到目标人群（即RCT人群）。
当前frontier：当前前沿关注数据自适应地选择融合权重，以及在弱假设下保证推断的有效性。Irvin et al. (2019) 提出了一个基于“经验贝叶斯”的融合框架，通过最大化边际似然来学习观察性数据的权重。Zhang et al. (2020) 则使用“置信度加权”（confidence-weighted）方法，通过交叉验证选择权重。这些方法的一个共同挑战是：如何在不依赖强模型假设（如观察性数据中的混杂可被完全校正）的情况下，保证融合估计量的覆盖率达到名义水平。
本文的位置：本文提出一种频率学派的power likelihood方法，其核心创新在于：使用期望对数预测密度（ELPD） 作为数据自适应选择学习率（power parameter）的标准，并通过交叉验证或信息准则近似实现。与贝叶斯幂先验不同，本文的方法不依赖于先验分布的选择，且其理论分析（相合性、渐近正态性）是在频率学派框架下完成的。作者将本文定位为一种实用、可解释且理论保证的融合方法，特别适用于RCT样本量小、观察性数据样本量大但可能存在未观测混杂的场景。

子线索聚类¶

这些被引文献大致落在以下2-3条子线索上： 1. 贝叶斯融合方法：以幂先验（power prior）为代表，通过先验分布调控观察性数据的信息量。代表工作：Kaplan & Chen (2012)。这类方法通常需要指定先验，且后验推断对幂参数的选择敏感。 2. 频率学派融合方法：包括逆概率加权、双重稳健估计、以及基于“可传输性”假设的方法。代表工作：Colnet et al. (2024), Dahabreh et al. (2020)。这类方法通常需要较强的识别假设（如无未观测混杂、可传输性），但推断框架更成熟。 3. 数据自适应权重选择：通过最大化某种准则（如边际似然、交叉验证的预测误差）来学习融合权重。代表工作：Irvin et al. (2019), Zhang et al. (2020)。这类方法的核心挑战是：如何保证权重选择的稳定性以及后续推断的有效性。

这个方向在追问的核心问题¶

如何数据自适应地选择融合权重？ 当前方法多依赖于手动指定或简单的交叉验证，缺乏理论指导。
在存在未观测混杂时，融合估计量的偏差-方差权衡如何刻画？ 观察性数据的偏差通常未知，如何在不完全校正偏差的情况下，通过融合RCT数据来“稀释”偏差？
融合估计量的统计推断（如置信区间）能否达到名义覆盖率？ 当观察性数据权重较大时，估计量的偏差可能导致覆盖率下降。
如何将融合方法推广到更复杂的识别设定（如工具变量、代理变量、纵向数据）？

⚠️ 作者的 framing¶

作者把缺口 frame 成什么：作者认为，现有融合方法要么需要强模型假设（如贝叶斯方法中的先验选择），要么需要强识别假设（如观察性数据中的混杂可被完全校正），且缺乏一个统一、数据自适应且理论保证的框架。本文的power likelihood方法通过ELPD准则实现了数据自适应的权重选择，并在频率学派框架下提供了相合性和渐近正态性证明，从而成为“显然的下一步”。
哪些竞争路线被他淡化或回避了：作者淡化了贝叶斯幂先验方法的灵活性（如可以通过先验分布引入领域知识），也回避了双重稳健估计在弱假设下的鲁棒性（如当倾向性得分模型或结果模型之一正确时，估计量仍可相合）。作者没有直接比较本文方法与基于工具变量或代理变量的融合方法，这些方法在观察性数据存在未观测混杂时可能更有效。
什么明显该被引 / 该存在、却没出现在 intro 里？：作者没有引用半参数效率理论在数据融合中的应用（如如何推导融合估计量的效率界）。这可能是本文的一个潜在弱点：本文的power likelihood估计量是否达到了半参数效率界？作者没有讨论。此外，作者没有引用高维统计或随机矩阵理论在数据融合中的应用（如当观察性数据维度很高时，如何选择学习率）。

张力¶

未见明显对立引用。各被引工作主要在假设强度、方法框架（贝叶斯 vs 频率学派）和适用场景上有所不同，但并未出现彼此矛盾或在略不同条件下得相反结论的情况。

二、最核心、最简单的例子 / 数学问题¶

第一步：把符号、模型、可观测数据交代清楚¶

符号：
\( Y \)：结果变量（outcome），连续或二值。
\( A \)：处理变量（treatment），二值（0/1）。
\( X \)：协变量向量（covariates），可观测。
\( S \)：数据源指示变量（data source indicator），\( S = 1 \) 表示来自RCT，\( S = 0 \) 表示来自观察性数据。
\( \theta \)：目标参数（target parameter），如平均处理效应（ATE）\( \tau = \mathbb{E}[Y(1) - Y(0)] \)，其中 \( Y(a) \) 是潜在结果。
\( \ell(\theta; \text{data}) \)：对数似然函数（log-likelihood），基于某个参数模型（如线性回归、逻辑回归）。
\( \alpha \)：学习率（learning rate / power parameter），\( \alpha \in [0, 1] \)，控制观察性数据在似然中的权重。
\( \text{ELPD}(\alpha) \)：期望对数预测密度（Expected Log Predictive Density），用于选择 \( \alpha \) 的准则。
\( n_1 \)：RCT样本量。
\( n_0 \)：观察性数据样本量。
模型：
假设结果模型为参数模型：\( Y \mid A, X \sim f(y \mid a, x; \theta) \)，其中 \( \theta \) 是参数向量（可能包含处理效应、协变量效应等）。例如，线性模型：\( Y = \beta_0 + \tau A + \beta_X^T X + \epsilon \)，则 \( \theta = (\beta_0, \tau, \beta_X) \)。
关键假设：RCT数据是无偏的，即 \( S=1 \) 时，\( A \) 与潜在结果独立（随机化）。观察性数据可能存在未观测混杂，即 \( S=0 \) 时，\( A \) 与潜在结果可能不独立，导致 \( \theta \) 的估计有偏。
本文不假设观察性数据中的混杂可被完全校正（即不假设无未观测混杂），而是通过power likelihood来“折扣”观察性数据的信息，从而在偏差与方差之间取得平衡。
可观测数据：
可观测：对于每个个体 \( i \)，我们观测到 \( (Y_i, A_i, X_i, S_i) \)。RCT数据（\( S_i=1 \)）和观察性数据（\( S_i=0 \)）都是可观测的。
想要但观测不到：潜在结果 \( Y_i(1) \) 和 \( Y_i(0) \) 是不可观测的（每个个体只能观测到一个处理状态下的结果）。此外，观察性数据中导致混杂的未观测变量 \( U \) 也是不可观测的。

第二步：讲最小内核¶

最简特例：假设结果模型是线性回归，且无协变量（即 \( X \) 为空）。此时，目标参数 \( \theta = (\beta_0, \tau) \)，其中 \( \tau \) 是ATE。模型为：

\[Y = \beta_0 + \tau A + \epsilon, \quad \epsilon \sim N(0, \sigma^2).\]

可观测数据为：RCT数据 \( \{ (Y_i, A_i) \}_{i=1}^{n_1} \) 和观察性数据 \( \{ (Y_i, A_i) \}_{i=n_1+1}^{n_1+n_0} \)。

核心思路： 1. 构建power likelihood：将RCT数据和观察性数据的对数似然加权求和，其中观察性数据的权重为 \( \alpha \)：

\[\ell_{\text{power}}(\theta; \alpha) = \sum_{i=1}^{n_1} \log f(Y_i \mid A_i; \theta) + \alpha \sum_{i=n_1+1}^{n_1+n_0} \log f(Y_i \mid A_i; \theta).\]

当 \( \alpha = 0 \) 时，只使用RCT数据（无偏但低效）；当 \( \alpha = 1 \) 时，平等对待所有数据（高效但可能有偏）。通过选择 \( 0 < \alpha < 1 \)，我们可以在偏差与方差之间取得平衡。

选择学习率 \( \alpha \)：使用期望对数预测密度（ELPD） 作为准则。ELPD衡量的是，用当前数据拟合的模型，在“新”数据上的预测表现。具体地，对于给定的 \( \alpha \)，我们估计 \( \hat{\theta}(\alpha) \)（最大化power likelihood），然后计算其在RCT数据上的ELPD：
\[\text{ELPD}(\alpha) = \mathbb{E}_{Y^{\text{new}} \mid A^{\text{new}}, S=1} \left[ \log f(Y^{\text{new}} \mid A^{\text{new}}; \hat{\theta}(\alpha)) \right].\]
由于RCT数据是无偏的，ELPD越高，说明 \( \hat{\theta}(\alpha) \) 在无偏数据上的预测越好，即偏差越小。因此，我们选择最大化ELPD的 \( \alpha \)。
ELPD的近似：ELPD无法直接计算，但可以通过交叉验证或信息准则（如AIC、BIC）近似。本文建议使用K折交叉验证：将RCT数据分成K折，每次用K-1折拟合模型，在剩余1折上计算预测对数似然，然后平均。

在这个特例下，要证的命题退化成什么？ - 相合性：当 \( n_1, n_0 \to \infty \) 且 \( n_0 / n_1 \to \infty \)（观察性数据远大于RCT数据）时，如果选择的 \( \alpha \) 使得 \( \hat{\theta}(\alpha) \) 的偏差不超过某个界，则 \( \hat{\theta}(\alpha) \) 是 \( \theta \) 的相合估计。 - 渐近正态性：\( \sqrt{n_1} (\hat{\theta}(\alpha) - \theta) \) 渐近服从均值为0的正态分布，且其方差可以通过“sandwich”估计量一致估计。 - 覆盖率：基于渐近正态性构造的置信区间，其覆盖率趋近于名义水平（如95%）。

为什么这个特例是“最小内核”？ - 它剥离了协变量调整、复杂模型（如逻辑回归）等一般性设定，直接展示了power likelihood的核心思想：通过一个参数 \( \alpha \) 来调控观察性数据的信息量，并通过ELPD来数据自适应地选择 \( \alpha \)。 - 在这个特例下，所有计算都是显式的（线性回归的MLE有闭式解），ELPD的交叉验证近似也易于实现。论文的一般情形（含协变量、非线性模型）只是这个特例的“加壳”。

三、这篇论文做了什么¶

三句话¶

研究了什么问题：如何通过power likelihood将RCT数据与观察性数据融合，以提升处理效应估计的效率，同时通过数据自适应选择学习率来控制观察性数据可能引入的偏差。
核心工具/方法：提出一种频率学派的power likelihood方法，使用期望对数预测密度（ELPD）作为数据自适应选择学习率 \( \alpha \) 的准则，并通过交叉验证或信息准则近似ELPD。
主要结论：在正确指定学习率时，power likelihood估计量具有相合性和渐近正态性，且基于其构造的置信区间覆盖率达到名义水平。模拟实验和真实数据应用验证了该方法在保持覆盖率的同时显著提升统计功效。

关键设定与假设¶

设定：假设有来自两个数据源的数据：RCT数据（\( S=1 \)）和观察性数据（\( S=0 \)）。RCT数据中，处理分配是随机的（无未观测混杂）。观察性数据中，处理分配可能受未观测混杂影响。目标是从RCT数据中估计处理效应，并利用观察性数据提升效率。
假设：
H1（模型正确指定）：结果模型 \( f(y \mid a, x; \theta) \) 在RCT数据中被正确指定。这是保证估计量相合性的关键假设。
H2（观察性数据偏差有界）：观察性数据中的偏差（即 \( \theta \) 的MLE在观察性数据上的概率极限与真实值之差）是有限的。这是一个非常弱的假设，不要求偏差可被校正。
H3（学习率选择准则的一致性）：ELPD的近似（如交叉验证）能够一致地选择使ELPD最大化的 \( \alpha \)。这是保证数据自适应选择有效性的关键假设。
H4（正则性条件）：包括对数似然的二阶可导、Fisher信息矩阵的正定性、以及某些矩条件。这些是渐近理论的标准条件。
相比已有文献的放宽/强化：相比贝叶斯幂先验方法，本文不依赖于先验分布的选择，且理论分析在频率学派框架下完成。相比逆概率加权方法，本文不要求观察性数据中的混杂可被完全校正（即不要求无未观测混杂假设）。但本文假设结果模型在RCT数据中正确指定，这比双重稳健估计（允许倾向性得分模型或结果模型之一正确）更强。

主要结果¶

定理1（相合性）：在假设H1-H4下，当 \( n_1, n_0 \to \infty \) 且 \( n_0 / n_1 \to \infty \) 时，对于任意固定的 \( \alpha \in [0, 1] \)，power likelihood估计量 \( \hat{\theta}(\alpha) \) 是 \( \theta \) 的相合估计。直觉：由于RCT数据无偏，即使观察性数据有偏，只要 \( \alpha \) 固定，\( \hat{\theta}(\alpha) \) 会收敛到RCT数据的概率极限（即真实值），因为RCT数据的似然项在加权求和中的权重不随样本量增加而消失。
定理2（渐近正态性）：在相同假设下，\( \sqrt{n_1} (\hat{\theta}(\alpha) - \theta) \) 渐近服从均值为0的正态分布，其方差为 \( \Sigma(\alpha) \)，可以通过“sandwich”估计量一致估计。直觉：由于RCT数据主导了渐近分布（因为其权重不随样本量增加而消失），渐近方差主要取决于RCT数据的Fisher信息矩阵，但观察性数据会通过 \( \alpha \) 影响方差（降低方差）。
定理3（覆盖率）：基于定理2构造的置信区间，其覆盖率趋近于名义水平。必要条件：需要正确估计渐近方差 \( \Sigma(\alpha) \)。解决的技术难点：如何一致估计 \( \Sigma(\alpha) \) 当 \( n_0 \) 远大于 \( n_1 \) 时？作者建议使用“sandwich”估计量，并证明了其相合性。

证明路线与技术技巧¶

整体路线：
定义估计量：\( \hat{\theta}(\alpha) = \arg\max_\theta \ell_{\text{power}}(\theta; \alpha) \)。
建立相合性：证明 \( \ell_{\text{power}}(\theta; \alpha) \) 的期望在真实 \( \theta \) 处取得最大值（利用RCT数据无偏），然后通过一致大数定律（uniform law of large numbers）证明 \( \hat{\theta}(\alpha) \) 收敛到真实 \( \theta \)。
建立渐近正态性：对 \( \ell_{\text{power}}(\theta; \alpha) \) 进行二阶泰勒展开，得到 \( \sqrt{n_1} (\hat{\theta}(\alpha) - \theta) \) 的线性近似，然后应用中心极限定理（CLT）。关键步骤是证明“信息等式”成立（即Fisher信息矩阵等于负的Hessian矩阵的期望），这依赖于模型正确指定假设。
方差估计：使用“sandwich”估计量 \( \hat{\Sigma}(\alpha) = \hat{I}(\alpha)^{-1} \hat{J}(\alpha) \hat{I}(\alpha)^{-1} \)，其中 \( \hat{I}(\alpha) \) 是负的Hessian矩阵，\( \hat{J}(\alpha) \) 是得分向量的外积。证明 \( \hat{\Sigma}(\alpha) \) 是 \( \Sigma(\alpha) \) 的相合估计。
ELPD选择：证明交叉验证的ELPD近似能够一致地选择使真实ELPD最大化的 \( \alpha \)。这需要证明交叉验证的ELPD是真实ELPD的相合估计，且最大化过程是稳定的。
关键跳跃点：
跳跃点1：如何证明当 \( n_0 \) 远大于 \( n_1 \) 时，\( \hat{\theta}(\alpha) \) 仍然相合？关键在于RCT数据的似然项在加权求和中的权重不随样本量增加而消失（因为 \( n_1 \) 固定，\( n_0 \to \infty \) 时，观察性数据的似然项权重 \( \alpha n_0 \) 会趋于无穷，但RCT数据的似然项权重 \( n_1 \) 是固定的）。作者通过重新参数化，将power likelihood视为一个“加权”M估计问题，并利用RCT数据无偏的性质，证明了相合性。
跳跃点2：如何一致估计渐近方差？由于 \( n_0 \) 远大于 \( n_1 \)，观察性数据对Hessian矩阵和得分向量的贡献可能主导估计，导致“sandwich”估计量不稳定。作者建议使用“稳健”的sandwich估计量，并证明了其在正则性条件下的相合性。
技术技巧点名：
M估计理论：用于建立相合性和渐近正态性。
一致大数定律（ULLN）：用于证明 \( \ell_{\text{power}}(\theta; \alpha) \) 一致收敛到其期望。
中心极限定理（CLT）：用于证明 \( \sqrt{n_1} (\hat{\theta}(\alpha) - \theta) \) 的渐近正态性。
Sandwich方差估计：用于在模型可能错误指定（观察性数据有偏）的情况下，获得一致的方差估计。
交叉验证：用于近似ELPD，实现数据自适应的学习率选择。

真实例子与应用¶

用的什么数据/场景：将PIONEER 6临床试验（评估一种降糖药的心血管安全性）与美国健康索赔数据库（Optum Clinformatics Data Mart） 融合。PIONEER 6是一个RCT，样本量约3000人，评估药物对主要不良心血管事件（MACE）的影响。Optum数据库包含大量糖尿病患者（样本量约10万），但可能存在未观测混杂（如处方偏好、健康状况）。
怎么把本文方法用上去：
定义结果模型：使用Cox比例风险模型，以MACE发生时间作为结果，处理变量为药物组 vs 安慰剂组，协变量包括年龄、性别、基线心血管风险等。
构建power likelihood：将RCT数据和观察性数据的Cox部分似然加权求和，其中观察性数据的权重为 \( \alpha \)。
选择学习率：使用5折交叉验证，在RCT数据上计算ELPD，选择使ELPD最大化的 \( \alpha \)。
估计处理效应：使用选定的 \( \alpha \) 估计风险比（hazard ratio）。
得到什么结果：
单独使用RCT数据时，风险比的95%置信区间较宽（[0.78, 1.06]），无法排除无效（即包含1）。
使用本文方法（\( \alpha \approx 0.3 \)）时，置信区间显著变窄（[0.82, 0.98]），且点估计更精确，结论变为“药物显著降低MACE风险”。
覆盖率检查：通过模拟验证，在类似设定下，本文方法的置信区间覆盖率接近95%。
这个例子想说明什么：验证本文方法在真实场景中的实用性：通过融合观察性数据，可以在不牺牲覆盖率的前提下，显著提升统计功效，从而得出更明确的因果结论。同时，该例子也展示了如何在实际应用中处理协变量调整、时间-事件数据等复杂问题。

🔎 结论是否比证明窄¶

窄结论1：定理1和2的证明依赖于结果模型在RCT数据中正确指定的假设。但在真实数据应用中，模型几乎总是错误指定的。作者在讨论中承认了这一点，但未提供模型错误指定下的理论保证。因此，论文的结论（相合性、渐近正态性）在严格意义上只适用于模型正确指定的情况。
窄结论2：ELPD选择准则的一致性依赖于交叉验证的近似误差可忽略。作者在模拟中验证了这一点，但未提供严格的理论证明（如交叉验证的ELPD是否一致收敛到真实ELPD）。因此，论文的结论（数据自适应选择有效）在严格意义上只适用于模拟验证的场景。
泛泛claim：作者在摘要和引言中声称方法“在保持覆盖率的条件下显著提升统计功效”。但定理3只证明了渐近覆盖率趋近于名义水平，并未提供有限样本下的覆盖率保证。模拟实验显示有限样本覆盖率接近名义水平，但并非总是如此（在某些偏差较大的场景下，覆盖率可能下降）。

四、开放问题¶

模型错误指定下的理论保证：本文的相合性和渐近正态性证明依赖于结果模型在RCT数据中正确指定。当模型错误指定时，power likelihood估计量的性质如何？能否推导出偏差的界？扎根点：论文讨论部分提到“模型错误指定是一个重要的开放问题”。
ELPD选择准则的严格理论证明：本文通过模拟验证了交叉验证的ELPD近似有效，但未提供严格的理论证明（如交叉验证的ELPD是否一致收敛到真实ELPD，以及最大化过程是否稳定）。扎根点：论文方法部分提到“我们使用交叉验证来近似ELPD”，但未给出理论保证。
半参数效率界：本文的power likelihood估计量是否达到了融合数据下的半参数效率界？如何推导其效率界？这与您熟悉的semiparametric efficiency theory直接相关。扎根点：论文未讨论效率界问题。
推广到更复杂的识别设定：本文的方法能否推广到更复杂的识别设定，如工具变量、代理变量、纵向数据？例如，在观察性数据存在未观测混杂时，能否使用proximal causal inference来校正偏差，然后再与RCT数据融合？扎根点：论文未来工作部分提到“将方法推广到更复杂的识别设定是一个自然的方向”。

Maintained by 陈星宇 · Homepage · Source on GitHub