Efficient designs and analysis of two-phase studies with longitudinal binary data¶
作者: Chiara Di Gravio, Jonathan S Schildcrout, Ran Tao
主题: 因果推断
相关性: 7/10
链接: https://doi.org/10.1093/biomtc/ujad010
一、领域脉络与小综述¶
这个方向是什么¶
本文所处的子方向是两阶段抽样设计(two-phase sampling / two-phase studies)下的半参数估计,其根本的统计问题是:当某个关键暴露(如新型生物标志物、遗传标记)的测量成本高昂、无法对全样本测量时,如何利用廉价可得的协变量和结局数据,有选择地对一部分个体进行暴露测量,从而在给定预算下最大化暴露系数估计的精度。这是一个"设计 + 分析"耦合的问题——抽样机制决定了进入第二阶段(暴露测量)的样本,而分析必须正确反映这一机制,否则估计会偏倚或效率受损。该方向的成熟度较高:两阶段抽样在流行病学中已有数十年历史(从经典的 case-control 设计到 outcome-dependent sampling),但针对纵向二元结局的残差依赖抽样设计仍是一个相对开放的缺口。
发展脉络(history)¶
从 introduction 和参考文献可以梳理出以下脉络:
-
奠基工作:两阶段抽样与 outcome-dependent sampling。经典的奠基是 White (1982) 关于两阶段设计的工作,以及后续 Breslow & Cain (1988) 在 logistic 回归下发展出的两阶段抽样推断。这些工作确立了"先抽廉价变量、再按需测量昂贵暴露"的基本框架,并给出了相应的加权似然或条件似然方法。作者在引言中明确提到,这些早期方法主要针对横截面数据,且抽样概率通常只依赖结局或简单的协变量分层。
-
主要进展:残差依赖抽样(residual-dependent sampling, RDS)的引入。作者指出,近年来有工作(如 Schildcrout 等人在横截面和纵向设定下的系列研究)提出利用模型残差来选择信息量大的个体——即那些结局与协变量预测值偏离较大的个体。这类设计的直觉是:残差大的个体对回归系数的估计贡献更大,因此优先测量这些个体的暴露能提高效率。作者将这一思路从横截面推广到纵向二元结局,并引入了一类新的 RDS 设计,利用纵向结局的全部轨迹和廉价协变量来定义抽样概率。
-
当前 frontier:纵向数据下的设计效率与半参数推断。纵向数据带来的新问题是:结局是重复测量的二元变量,个体内相关结构不可忽略;同时,时变(time-varying)和时不变(time-fixed)暴露系数的估计效率对抽样机制有不同的敏感度。作者在引言中强调,现有方法要么只处理横截面,要么在纵向设定下没有充分利用所有数据(例如只用了第二阶段样本做加权分析),留下了"设计 + 半参数似然 + 高效 EM"三者结合的空缺。
-
本文的位置:作者将本文定位为"新的 RDS 设计 + 半参数似然分析 + 数值稳定 EM 算法"三位一体的工作,声称其设计比现有 outcome-dependent sampling 更灵活(抽样概率可以是残差的连续函数而非离散分层),分析上比加权估计更高效(利用所有数据而非仅第二阶段样本)。
子线索聚类¶
被引文献大致落在三条子线索上:
-
两阶段抽样设计与加权估计(White 1982; Breslow & Cain 1988; 以及后续的 case-cohort 设计相关文献)。这条线关注"如何抽样"和"如何加权校正抽样偏差",核心工具是 Horvitz-Thompson 型加权或条件似然。口子:通常只处理横截面或简单纵向设定,加权估计在有限样本下效率损失明显。
-
残差依赖 / 结局依赖抽样(Schildcrout 及其合作者的系列工作;以及生物统计中 outcome-dependent sampling 的文献)。这条线关注"如何利用结局信息选择信息量大的个体",核心直觉是残差大的观测对参数估计信息量更大。口子:多数工作限于横截面或连续结局,对纵向二元结局的处理不充分。
-
半参数似然与 EM 算法(如 Pepe & Fleming 等关于验证集/全集半参数估计的工作;以及生存分析中带辅助协变量的半参数方法)。这条线关注"给定抽样机制后如何高效估计",核心工具是半参数似然(通常涉及非参数 nuisance 项的估计)和 EM 算法。口子:与特定抽样设计的结合往往需要逐案推导,缺乏统一框架。
这个方向在追问的核心问题¶
- 如何设计抽样概率函数,使得在给定预算(第二阶段样本量)下,暴露系数的估计精度最大化?——当前主流方法是基于残差或结局的离散分层,本文提出连续函数形式的 RDS。
- 如何在分析中正确且高效地利用两阶段数据?——加权估计简单但效率低;完全似然估计效率高但需要正确建模抽样机制和 nuisance 项。本文选择半参数似然路径。
- 纵向二元结局的特殊困难:个体内相关结构如何影响抽样设计?时变与时不变暴露系数对抽样机制的敏感度是否不同?——这是本文声称要回答的新问题。
⚠️ 作者的 framing(必须明确标注成"这是作者的说法")¶
作者把缺口 frame 成:"现有 RDS 设计主要针对横截面数据,缺乏对纵向二元结局的处理;且现有分析方法要么用加权估计(效率低),要么用完全参数似然(对分布假设敏感)。因此,本文提出一类新的 RDS 设计 + 半参数似然分析,是'显然的下一步'。"
被淡化或回避的竞争路线: - 完全参数似然方法:作者提到但未深入比较,可能因为其对随机效应分布和结局过程的参数假设过于强。 - 多重插补或贝叶斯方法:处理未测量暴露的另一种路径,作者未讨论。 - 基于影响函数(influence function)的效率界分析:作者声称半参数效率,但未给出严格的半参数效率界推导(从摘要和引言看,主要依赖模拟比较)。
什么明显该被引 / 该存在、却没出现在 intro 里?(值得研究者去查的问题) - 关于半参数效率界的严格推导文献(如 Bickel et al. 的 Efficiency and Adaptive Estimation; 以及 Tsiatis 的 Semiparametric Theory and Missing Data),作者声称半参数方法"高效"但未引用效率界理论。这是一个值得查证的缺口:作者是否真的达到了半参数效率下界? - 关于纵向数据下 outcome-dependent sampling 的设计效率理论(如 Cai 等人在生存分析中的 case-cohort 设计效率分析),作者未引用,可能因为领域不同,但设计效率的理论分析框架是相通的。
张力¶
未见明显对立引用。各条线索之间是互补关系而非矛盾关系:设计(怎么抽)、分析(怎么估)、效率(怎么评)三者是递进关系。唯一潜在的张力是"加权估计 vs 似然估计"的效率-稳健性权衡,但作者将其处理为"我们选似然,因为更高效",而非"加权是错误的"。
二、最核心、最简单的例子 / 数学问题¶
第一步:把符号、模型、可观测数据交代清楚¶
符号(逐个点名):
- \(i = 1, \dots, N\):第一阶段(全样本)的个体索引。\(N\) 是第一阶段样本量,即所有廉价变量可得的个体数。
- \(j = 1, \dots, n_i\):个体 \(i\) 的重复测量次数(访视次数)。纵向数据的维度。
- \(Y_{ij} \in \{0, 1\}\):个体 \(i\) 在第 \(j\) 次访视的二元结局(如肺功能是否不良)。这是可观测的随机变量,第一阶段即可得。
- \(X_{ij} \in \mathbb{R}^p\):个体 \(i\) 在第 \(j\) 次访视的廉价协变量向量(如年龄、吸烟状态、访视时间等)。可观测,第一阶段即可得。
- \(Z_i \in \mathbb{R}^q\):个体 \(i\) 的昂贵暴露变量(如新型生物标志物、遗传标记)。这是部分可观测的——只有进入第二阶段的个体才有 \(Z_i\) 的测量值。注意 \(Z_i\) 不带 \(j\) 下标,说明是时不变的(个体水平的暴露)。这是本文的关键设定:暴露是个体水平、时不变的,而结局是纵向重复测量的。
- \(R_i \in \{0, 1\}\):个体 \(i\) 是否被选入第二阶段(即是否测量 \(Z_i\))。这是设计变量,由研究者根据第一阶段数据决定。\(R_i\) 的分布是已知的(由设计决定),但 \(R_i\) 的实现值是可观测的。
- \(\beta = (\beta_Z, \beta_X)\):参数 / estimand。\(\beta_Z\) 是暴露 \(Z_i\) 的系数(时不变暴露对纵向结局的影响),\(\beta_X\) 是廉价协变量的系数(可含时变和时不变部分)。这是要估计的目标。
- \(\alpha\):个体水平随机效应的参数(如随机截距的方差)。Nuisance 参数,但需要估计。
- \(\pi_i = P(R_i = 1 \mid \text{第一阶段数据})\):个体 \(i\) 被选入第二阶段的抽样概率。这是设计已知的,由 RDS 设计规则决定,是第一阶段数据的函数。
模型(数据生成机制):
本文的核心模型是带随机效应的纵向 logistic 回归(generalized linear mixed model, GLMM):
其中 \(b_i \sim N(0, \sigma_b^2)\) 是个体水平随机截距,捕捉个体内相关性。这里的关键统计结构是:
- \(Y_{ij}\) 给定 \((X_{ij}, Z_i, b_i)\) 条件独立(给定随机效应后,个体内观测独立)。
- \(Z_i\) 与 \(b_i\) 的独立性假设:这是识别暴露效应 \(\beta_Z\) 的关键。如果 \(Z_i\) 与 \(b_i\) 相关(即存在未观测混杂),则 \(\beta_Z\) 不可识别。作者在引言中暗示了这一假设(随机效应捕捉未观测的个体异质性,但假设其与暴露独立)。
- 缺失机制:\(Z_i\) 对未进入第二阶段的个体是缺失的。缺失机制是 MAR(missing at random),因为 \(R_i\) 只依赖第一阶段可观测数据(\(Y_{ij}, X_{ij}\)),不依赖 \(Z_i\) 本身。这是两阶段设计的标准设定。
可观测数据:
- 第一阶段(全样本):\(\{(Y_{ij}, X_{ij}) : i = 1, \dots, N; j = 1, \dots, n_i\}\)——所有个体的结局和廉价协变量。
- 第二阶段(子样本):\(\{(Z_i, R_i = 1) : i \in \text{第二阶段}\}\)——被选中个体的暴露测量值。
- 不可观测:未进入第二阶段个体的 \(Z_i\)。这是缺失数据,需要通过似然或加权方法处理。
第二步:讲最小内核¶
把一般性设定剥掉,本文的最小内核可以归结为以下问题:
最简特例:假设没有协变量 \(X\),只有暴露 \(Z_i\) 和随机截距 \(b_i\),且每个个体只有一次测量(\(n_i = 1\),横截面)。此时模型退化为:
\[P(Y_i = 1 \mid Z_i, b_i) = \text{logit}^{-1}(\beta_0 + \beta_Z Z_i + b_i)\]其中 \(b_i \sim N(0, \sigma_b^2)\)。\(Z_i\) 对所有个体都测量了(第一阶段),但我们只对 \(R_i = 1\) 的子样本"付费"测量 \(Z_i\)。问题是:如何选择 \(R_i\)(即哪些个体测 \(Z_i\)),使得 \(\beta_Z\) 的估计最精确?
在这个特例下,本文的核心思想是:
-
抽样概率 \(\pi_i\) 应该依赖什么? 直觉上,应该选择那些对 \(\beta_Z\) 估计信息量最大的个体。在 logistic 回归中,信息量大的个体是那些预测概率接近 0.5 的个体(因为 logistic 函数的导数在 0.5 处最大)。但这里的问题是:\(Z_i\) 未知,无法直接计算预测概率。因此,作者提出用基于第一阶段数据的残差来近似——即用 \(Y_i\) 和廉价协变量(本例中无协变量,则用 \(Y_i\) 本身)构造一个"伪残差",选择残差大的个体。
-
分析时如何处理选择性抽样? 如果直接用第二阶段样本做标准 logistic 回归,会因抽样偏差导致估计偏倚。本文用半参数似然:将 \(Z_i\) 视为缺失数据,对未进入第二阶段的个体将其 \(Z_i\) 积分掉(即 marginalize over \(Z_i\) 的分布),从而利用所有第一阶段数据的信息。这比仅用第二阶段样本的加权估计更高效,因为加权估计丢弃了未测量个体的结局信息。
-
为什么是"半参数"? 因为 \(Z_i\) 的分布被当作 nuisance 项,用非参数或灵活参数方式估计(如离散点质量分布),而不是假设 \(Z_i\) 服从某个特定参数分布。这避免了错误指定 \(Z_i\) 分布导致的偏倚。
这个最小内核的数学本质是:在 MAR 缺失机制下,通过 EM 算法最大化观测数据的边际似然,其中 E 步需要对未观测的 \(Z_i\) 求条件期望。抽样设计(RDS)的作用是改变 \(R_i\) 的分布,从而影响观测数据的"信息含量"——好的设计让第二阶段样本集中在信息量大的个体上,提高 \(\beta_Z\) 的估计效率。
为什么纵向二元结局是难点? 因为 \(Y_{ij}\) 是个体 \(i\) 的重复测量,给定 \(b_i\) 后条件独立,但 marginal over \(b_i\) 后存在相关性。这导致似然函数涉及对随机效应 \(b_i\) 和缺失暴露 \(Z_i\) 的双重积分,EM 算法的 E 步需要数值积分(如 Gauss-Hermite 求积或 MCMC),计算复杂度显著高于横截面情形。本文声称其 EM 算法"数值稳定且计算高效",这是技术贡献之一。
三、这篇论文做了什么¶
三句话¶
- 研究了什么问题:在纵向二元结局且暴露测量成本高昂的两阶段研究中,如何设计抽样机制(选择哪些个体测暴露)并高效估计时变和时不变暴露系数。
- 核心工具 / 方法:提出一类新的残差依赖抽样(RDS)设计(抽样概率是纵向残差的函数),并配套半参数似然分析 + 数值稳定的 EM 算法。
- 主要结论:通过模拟研究,RDS 设计相比现有 outcome-dependent sampling 设计在估计精度上有提升;半参数似然分析比加权估计更高效;方法在肺健康研究(Lung Health Study)中成功应用。
关键设定与假设¶
在最小内核的基础上,本文的完整设定包括:
- 模型:带随机截距的纵向 logistic 回归(GLMM),如第二节所述。暴露 \(Z_i\) 是时不变的个体水平变量。
- 抽样机制:\(R_i\) 依赖第一阶段数据(\(Y_{ij}, X_{ij}\)),具体地,\(\pi_i\) 是纵向残差的函数。残差定义为观测结局与基于廉价协变量的预测值之间的偏差(如 Pearson 残差或偏差残差)。作者提出残差绝对值大的个体有更高的抽样概率,因为这类个体对暴露系数的估计信息量更大。
- MAR 假设:\(R_i \perp Z_i \mid (Y_i, X_i)\)。这是两阶段设计的核心识别假设——抽样只依赖可观测的廉价变量,不依赖未测量的暴露。这一假设保证了观测数据的似然可以正确校正选择性偏差。
- Nuisance 项:\(Z_i\) 的分布被当作 nuisance,用非参数极大似然(NPMLE)估计,即把 \(Z_i\) 的分布估计为离散点质量分布(mass points at observed values)。这是"半参数"的含义——感兴趣的参数 \(\beta\) 是有限维的,但 \(Z_i\) 的分布是无限维 nuisance。
- 相比已有文献的差异:作者声称其 RDS 设计比现有的 outcome-dependent sampling(如只依赖结局或简单分层)更灵活,因为抽样概率是残差的连续函数;且半参数似然比加权估计更高效,因为利用了所有第一阶段数据。
主要结果¶
从摘要和引言看,本文的结果包括:
- 模拟研究:在有限样本下比较了 RDS 设计与现有设计(如简单随机抽样、结局依赖抽样)的效率。结果显示 RDS 设计在估计 \(\beta_Z\) 时具有更小的均方误差或置信区间宽度,尤其当时变暴露系数是主要关注目标时。
- 方法比较:半参数似然估计与加权估计(如 Horvitz-Thompson 型)相比,在有限样本下更高效,且随样本量增加渐近等价(或更优)。
- 实际应用:在肺健康研究(Lung Health Study, Connett et al., 1993)中,研究遗传标记与肺功能不良的关联。该研究有大量廉价协变量和纵向肺功能测量,但遗传标记测量成本高,适合两阶段设计。
证明路线与技术技巧¶
整体路线(基于摘要和引言的重构,因正文未提供完整证明细节):
- 建立观测数据似然:将 \(Z_i\) 视为缺失数据,写出观测数据的边际似然。由于 MAR 假设,抽样机制 \(P(R_i \mid \text{第一阶段数据})\) 不依赖参数 \(\beta\),因此可以从似然中分解出去(ignorable sampling)。
- 半参数似然:将 \(Z_i\) 的分布 \(G\) 视为 nuisance,用 NPMLE 估计。这涉及将 \(G\) 估计为离散分布,支撑点落在观测到的 \(Z_i\) 值上。
- EM 算法:E 步计算给定观测数据和当前参数估计下 \(Z_i\) 的条件期望(涉及对随机效应 \(b_i\) 和缺失 \(Z_i\) 的积分);M 步更新 \(\beta\) 和 \(G\) 的估计。作者声称算法数值稳定,可能采用了加速技巧(如 PX-EM 或参数展开)和高效的数值积分方法。
- 效率论证:通过模拟和(可能的)渐近理论论证半参数似然估计的效率和 RDS 设计的优越性。
关键跳跃点(推测,需查正文确认): - E 步的数值积分:对随机效应 \(b_i\) 和缺失 \(Z_i\) 的双重积分是计算瓶颈。作者可能采用了自适应 Gauss-Hermite 求积或拉普拉斯近似。 - NPMLE 的收敛性:\(Z_i\) 分布的 NPMLE 在 EM 框架下的收敛性和标准误估计(可能需要 bootstrap 或 profile likelihood)。 - RDS 设计的效率增益来源:为什么残差大的个体信息量更大?这需要从 logistic 回归的 Fisher 信息矩阵出发给出论证——残差大的个体对应预测概率接近 0.5 的区域,该区域的 Fisher 信息密度更高。
技术技巧点名: - EM 算法(Dempster et al., 1977):处理缺失 \(Z_i\) 的标准工具。 - 非参数极大似然(NPMLE):估计 nuisance 分布 \(G\),避免参数误设。 - 数值积分(Gauss-Hermite 求积):处理随机效应的积分。 - 残差依赖抽样:设计层面的技巧,利用第一阶段廉价数据构造信息量指标。
真实例子与应用¶
肺健康研究(Lung Health Study, Connett et al., 1993): - 数据:一项多中心随机对照试验,研究戒烟干预对慢性阻塞性肺疾病(COPD)进展的影响。参与者有纵向的肺功能测量(FEV1),以及大量廉价协变量(年龄、性别、吸烟史等)。 - 应用方式:研究遗传标记(如 α1-抗胰蛋白酶基因变异)与肺功能不良(FEV1 低于预测值)的关联。遗传标记测量成本高,因此采用两阶段设计:第一阶段用所有参与者的廉价数据(肺功能轨迹、协变量),第二阶段选择子样本测遗传标记。 - RDS 设计:根据参与者肺功能轨迹的残差(偏离模型预测的程度)选择子样本,优先测量残差大的个体。 - 结果:展示了 RDS 设计在实际数据中的可行性,并估计了遗传标记对肺功能不良的效应。
🔎 结论是否比证明窄¶
- 效率声明:作者声称半参数似然方法"高效",但摘要和引言中未给出严格的半参数效率界(如与 Cramér-Rao 下界或半参数效率界比较)。模拟比较只能说明"比加权估计好",不能证明"达到效率下界"。这是一个值得研究者去查证的点:正文中是否有效率界的理论证明?
- RDS 设计的最优性:作者声称 RDS 设计"提高精度",但未证明其最优性——即是否存在比 RDS 更优的抽样设计?这是一个开放问题,作者可能只展示了 RDS 优于现有设计,而非最优设计。
- 渐近性质:NPMLE 的渐近正态性和效率需要正则条件(如 \(Z_i\) 分布的支撑有界、模型可识别等),这些条件是否在正文中明确陈述并验证,需查证。
四、开放问题¶
-
RDS 设计的最优性:本文展示了 RDS 设计优于现有设计,但未证明其在某类设计中的最优性。扎根点:摘要中"introduce a novel class of residual-dependent sampling (RDS) designs"——"a class"而非"the optimal design"。要确认这是否是真 gap,去读 Schildcrout 等人近期关于 outcome-dependent sampling 的 5 篇论文的 introduction,看是否已有最优设计理论。
-
半参数效率界的严格推导:作者声称半参数似然"高效",但未给出效率界证明。扎根点:摘要中"efficiently uses all data"——"efficiently"是 claim,但效率界的严格推导(如 semiparametric efficiency bound 的计算)未在摘要中呈现。值得查证正文是否有此证明,以及是否达到 Bickel et al. 框架下的效率下界。
-
时变暴露的扩展:本文的暴露 \(Z_i\) 是时不变的。若暴露本身随时间变化(时变暴露),抽样设计应如何调整?扎根点:摘要中"time-varying and/or time-fixed exposure coefficients"——作者区分了时变和时不变系数,但暴露本身是否时变?若暴露时变,两阶段抽样的设计空间更大,也更具挑战性。
-
随机效应与暴露相关的敏感性:模型假设随机效应 \(b_i\) 与暴露 \(Z_i\) 独立。若这一假设违反(如存在未观测混杂),估计会偏倚。扎根点:模型设定中 \(b_i \sim N(0, \sigma_b^2)\) 且与 \(Z_i\) 独立。敏感性分析或工具变量方法可能是自然的扩展方向。
-
计算扩展:EM 算法在样本量大、访视次数多时的计算负担如何?是否有更快的替代算法(如随机 EM、变分推断)?扎根点:摘要中"numerically stable and computationally efficient EM algorithm"——"computationally efficient"是相对什么基准?需要查证正文中的计算复杂度分析。
提醒:要确认上述开放问题是否是真 gap,建议去读同一子方向(two-phase sampling + longitudinal data + semiparametric efficiency)近期约 5 篇论文的 introduction——如果多篇都指向同一缺口,那是共识(真 gap);如果互相打架,那是机会。
Maintained by 陈星宇 · Homepage · Source on GitHub