The impacts of unobserved covariates on covariate-adaptive randomized experiments¶

作者: Yang Liu, Feifang Hu
主题: 因果推断
相关性: 7/10
链接: https://doi.org/10.1214/23-aos2308

一、领域脉络与小综述¶

这个方向是什么¶

这个子方向研究的是在协变量自适应随机化（CAR）实验中，未观测到的协变量如何影响处理效应与协变量效应的推断。CAR 实验是临床试验中常用的一类设计，其核心思想是在随机分配处理时，利用已观测到的协变量信息来“平衡”这些协变量在各处理组间的分布，从而提高后续统计推断的效率。然而，一个根本性的问题是：如果存在与处理交互作用的未观测协变量，CAR 程序是否还能保证处理效应估计的一致性？如果不能，其偏差的来源是什么？在什么条件下可以恢复一致性？该方向当前处于从“CAR 的优越性”向“CAR 的局限性及补救方法”过渡的阶段，本文是这一过渡中的一篇理论性工作。

发展脉络（history）¶

奠基工作：CAR 程序的提出与早期理论
- Efron (1971)：提出了偏硬币设计（biased coin design），这是最早的 CAR 程序之一，旨在通过非完全随机的分配规则来平衡两个处理组的样本量。它奠定了“用随机化规则本身来平衡协变量”这一思想的基础。
- Pocock & Simon (1975)：提出了最小化法（minimization），这是临床上最常用的 CAR 程序之一。它通过最小化各协变量层内处理组间的不平衡度来分配下一个受试者。该工作将 CAR 从简单的两处理平衡推广到多协变量、多处理的情形。
- Wei (1978)：提出了瓮模型（urn model），为 CAR 程序提供了一种概率框架，使得分配规则可以动态调整，并允许进行渐近分析。
主要进展：CAR 程序的理论性质与优势
- Hu & Hu (2012)：证明了在 CAR 程序下，基于线性模型的处理效应估计量是渐近正态的，且其渐近方差小于或等于完全随机化下的方差。这从理论上证实了 CAR 程序能提高效率。
- Ma, Hu & Zhang (2015)：进一步研究了 CAR 程序下协变量效应的推断，证明了基于线性模型的协变量效应估计量也是渐近正态的，且其渐近方差同样小于完全随机化。这些工作共同建立了“CAR 程序能提升统计推断效率”的主流认知。
- Bugni, Canay & Shaikh (2018, 2019)：从重随机化（re-randomization） 的角度重新审视 CAR 程序，提出了基于重随机化推断的严格理论，并讨论了在 CAR 下如何进行有效的假设检验。他们的工作将 CAR 的推断理论推向了更严谨的层面。
当前 Frontier：未观测协变量与 CAR 的局限性
- 本文 (Liu & Hu, 2024)：直接挑战了“CAR 程序总是有益的”这一隐含假设。作者指出，如果存在与处理交互的未观测协变量，CAR 程序反而可能导致处理效应估计的不一致。这是该方向的一个关键转折点——从“CAR 如何更好”转向“CAR 在什么情况下会失效”。
- 作者对已有工作的定位：作者在引言中明确将已有工作（如 Hu & Hu 2012, Ma et al. 2015）定位为“证明了 CAR 程序在平衡协变量和提升统计推断方面的优势”，但紧接着指出“协变量平衡并非万能药”（Covariate balance is crucial, but it is not a panacea）。这是作者的 framing：他们将自己的工作定位为揭示 CAR 程序的一个被忽视的“副作用”——当存在未观测协变量时，CAR 程序会放大其影响，导致不一致。

子线索聚类¶

CAR 程序的设计与性质：这条线索关注如何设计更好的随机化规则（如 Efron, Pocock & Simon, Wei），以及这些规则在理想情况（所有相关协变量都被观测到）下的渐近性质（如 Hu & Hu, Ma et al.）。本文的贡献在于指出了这条线索中隐含的“所有相关协变量都被观测到”这一强假设。
CAR 程序下的统计推断：这条线索关注在 CAR 程序下如何进行有效的假设检验和区间估计（如 Bugni et al.）。本文的贡献在于揭示了未观测协变量会导致检验的第一类错误降低（即检验过于保守），并提出了一种补救方法。
未观测混杂与敏感性分析：这条线索在观察性研究中非常成熟，但在随机化实验（尤其是 CAR 实验）中相对较少。本文的工作可以看作是将观察性研究中关于未观测混杂的担忧引入到随机化实验的设计与分析中，并给出了一个具体的线性模型框架下的理论分析。

这个方向在追问的核心问题¶

一致性：在 CAR 程序下，当存在未观测协变量时，处理效应估计量是否仍然一致？如果不一致，偏差的来源是什么？
识别性：在什么条件下，即使存在未观测协变量，处理效应和协变量效应仍然是可识别的（即可以被一致估计）？
检验：未观测协变量如何影响 CAR 程序下假设检验的第一类错误和功效？如何设计稳健的检验方法？
推广：本文的线性模型结论能否推广到更一般的半参数模型（如部分线性模型、非参数模型）？能否推广到更复杂的 CAR 程序（如分层随机化、最小化法）？

⚠️ 作者的 framing（必须明确标注成"这是作者的说法"）¶

作者把缺口 frame 成什么：作者将缺口 frame 为“已有文献证明了 CAR 程序在平衡观测协变量和提升效率方面的优势，但忽略了未观测协变量与处理交互作用可能导致的估计不一致问题”。因此，本文是“显然的下一步”：先证明这个不一致的存在，再给出可识别条件，最后提出补救方法。
哪些竞争路线被他淡化或回避了：
- 重随机化推断：作者在引言中提到了 Bugni et al. (2018, 2019) 的重随机化方法，但并未将其作为主要竞争路线进行深入比较。作者可能认为重随机化方法同样依赖于“所有相关协变量都被观测到”的假设，因此无法解决未观测协变量的问题。
- 工具变量 / 代理变量方法：作者完全回避了观察性研究中处理未观测混杂的经典方法（如工具变量、代理变量、敏感性分析）。这可能是因为本文聚焦于随机化实验，而工具变量等方法在实验设计中通常不被视为标准工具。
什么明显该被引 / 该存在、却没出现在 intro 里？
- 关于“未观测混杂对随机化实验影响”的更早期文献：例如，关于“非依从性（noncompliance）”或“缺失数据”的文献，这些也是随机化实验中常见的未观测因素。作者没有引用这些文献，可能意味着本文的“未观测协变量”是一个更具体的、与处理交互的变量，而非一般的混杂。
- 关于“敏感性分析”的文献：既然作者已经指出了未观测协变量可能导致不一致，那么一个自然的后续问题是：这种不一致有多严重？敏感性分析（如 Rosenbaum 的 bounds）可以量化这种影响。作者没有引用敏感性分析文献，这可能是一个值得研究者去查的 gap。

张力¶

未见明显对立引用。已有工作（Hu & Hu, Ma et al.）的结论（CAR 提升效率）与本文的结论（CAR 可能导致不一致）并非直接矛盾，因为前者假设所有相关协变量都被观测到，而后者放松了这一假设。因此，两者是互补而非对立的关系。

二、最核心、最简单的例子 / 数学问题¶

第一步：把符号、模型、可观测数据交代清楚¶

符号：
- \( Y \)：结果变量（连续型）。
- \( T \)：处理变量（二值，\( T \in \{0, 1\} \)）。
- \( X \)：已观测的协变量向量（\( p \)-维）。
- \( U \)：未观测的协变量（标量，为简化分析，假设为一维）。
- \( \beta_T \)：处理效应（\( T \) 对 \( Y \) 的边际效应）。
- \( \beta_X \)：已观测协变量的效应（\( p \)-维向量）。
- \( \beta_U \)：未观测协变量的效应（标量）。
- \( \gamma_{TU} \)：处理 \( T \) 与未观测协变量 \( U \) 的交互效应（标量）。这是本文的核心参数。
- \( \epsilon \)：随机误差项，均值为 0，方差为 \( \sigma^2 \)。
- \( n \)：样本量。
- \( \hat{\beta}_T \)：基于 OLS 的处理效应估计量。
- \( \hat{\beta}_X \)：基于 OLS 的已观测协变量效应估计量。
模型：本文考虑一个线性模型，其中处理 \( T \) 与未观测协变量 \( U \) 存在交互作用：
\[Y = \beta_T T + \beta_X^T X + \beta_U U + \gamma_{TU} T \cdot U + \epsilon\]
这是一个完全线性的模型，没有非参数成分。关键假设是：
1. 线性性：\( Y \) 与 \( T, X, U \) 的关系是线性的。
2. 交互作用：\( T \) 与 \( U \) 的交互项 \( T \cdot U \) 存在（即 \( \gamma_{TU} \neq 0 \)）。
3. 误差项：\( \epsilon \) 与 \( T, X, U \) 独立，均值为 0，方差有限。
4. CAR 程序：\( T \) 的分配依赖于 \( X \)，但不依赖于 \( U \)（即 \( U \) 是未观测的，因此分配规则无法利用它）。这是 CAR 程序的核心特征。
可观测数据：
- 研究者能观测到的是：\( \{ (Y_i, T_i, X_i) \}_{i=1}^n \)。
- 研究者观测不到的是：\( U_i \)（未观测协变量）和 \( \epsilon_i \)（误差项）。
- 关键点：由于 \( U \) 未观测，研究者无法直接估计包含 \( U \) 和 \( T \cdot U \) 的完整模型。他们只能拟合一个省略了 \( U \) 的模型：
  \[Y = \beta_T T + \beta_X^T X + \epsilon'\]
  其中 \( \epsilon' = \beta_U U + \gamma_{TU} T \cdot U + \epsilon \)。这个省略模型的误差项 \( \epsilon' \) 与 \( T \) 和 \( X \) 相关（因为 \( U \) 与 \( T \) 和 \( X \) 相关），从而导致 OLS 估计不一致。

第二步：讲最小内核¶

本文的最小内核可以归结为一个简单的“遗漏变量偏差”问题，但发生在 CAR 程序的特殊背景下。

最简特例：假设 \( p=1 \)（只有一个已观测协变量 \( X \)），且 \( X \) 和 \( U \) 都是二值的（\( X, U \in \{0, 1\} \)）。CAR 程序的目标是平衡 \( X \) 在两个处理组中的分布。例如，一个简单的 CAR 程序是：如果当前 \( T=1 \) 组中 \( X=1 \) 的受试者比例低于 \( T=0 \) 组，那么下一个 \( X=1 \) 的受试者被分配到 \( T=1 \) 组的概率就更高。

在这个特例下，核心问题是：当我们拟合省略了 \( U \) 的线性模型时，OLS 估计量 \( \hat{\beta}_T \) 的偏差是什么？

推导： 1. 真实模型：\( Y = \beta_T T + \beta_X X + \beta_U U + \gamma_{TU} T \cdot U + \epsilon \)。 2. 省略模型：\( Y = \beta_T T + \beta_X X + \epsilon' \)，其中 \( \epsilon' = \beta_U U + \gamma_{TU} T \cdot U + \epsilon \)。 3. 偏差公式：根据经典的遗漏变量偏差公式，\( \hat{\beta}_T \) 的偏差为：

\[\text{Bias}(\hat{\beta}_T) = \text{Cov}(T, \epsilon' | X) / \text{Var}(T | X)\]

由于 \( \epsilon \) 与 \( T, X \) 独立，\( \text{Cov}(T, \epsilon' | X) = \beta_U \text{Cov}(T, U | X) + \gamma_{TU} \text{Cov}(T, T \cdot U | X) \)。

CAR 程序的关键影响：在完全随机化下，\( T \) 与 \( X \) 独立，因此 \( \text{Cov}(T, U | X) = 0 \)（因为 \( T \) 与 \( U \) 独立）。但在 CAR 程序下，\( T \) 的分配依赖于 \( X \)，因此 \( T \) 与 \( X \) 相关。更重要的是，如果 \( U \) 与 \( X \) 相关（这是很自然的假设，因为未观测协变量通常与已观测协变量相关），那么 \( \text{Cov}(T, U | X) \neq 0 \)。CAR 程序通过 \( X \) 在 \( T \) 和 \( U \) 之间引入了条件相关性。
结论：即使 \( \beta_U = 0 \)（即 \( U \) 没有直接效应），只要 \( \gamma_{TU} \neq 0 \)（即存在交互作用），且 \( U \) 与 \( X \) 相关，那么 \( \text{Cov}(T, T \cdot U | X) \neq 0 \)，从而导致 \( \hat{\beta}_T \) 不一致。这个偏差是 CAR 程序特有的：在完全随机化下，\( T \) 与 \( X \) 独立，因此 \( \text{Cov}(T, T \cdot U | X) = 0 \)，偏差消失。

这个最小内核揭示了本文的核心思想：CAR 程序通过平衡已观测协变量 \( X \)，无意中在 \( T \) 和 \( U \) 之间引入了相关性（通过 \( X \) 这个桥梁），当 \( U \) 与 \( T \) 存在交互作用时，这种相关性就会导致处理效应估计的偏差。本文的一般性理论只是将这个二值、一维的特例推广到了更一般的分布和更高维的协变量。

三、这篇论文做了什么¶

三句话¶

研究了什么问题：在线性模型框架下，研究了协变量自适应随机化（CAR）实验中，未观测协变量（\( U \)）与处理（\( T \)）的交互作用如何影响处理效应和协变量效应的 OLS 估计与假设检验。
核心工具 / 方法：利用线性模型下的遗漏变量偏差公式和CAR 程序诱导的 \( T \) 与 \( X \) 的条件相关性，推导了 OLS 估计量的渐近偏差；提出了一个基于残差的调整检验来恢复第一类错误。
主要结论：① 当存在 \( T \) 与 \( U \) 的交互作用时，CAR 程序下的 OLS 估计量是不一致的，且偏差方向取决于 \( U \) 与 \( X \) 的相关性；② 给出了处理效应和协变量效应可识别性的充分条件（即 \( U \) 与 \( X \) 不相关，或 \( \gamma_{TU} = 0 \)）；③ 在可识别条件下，CAR 程序下的检验会出现第一类错误降低的现象；④ 提出的残差调整检验可以在效应可正确估计时恢复第一类错误。

关键设定与假设¶

模型：\( Y = \beta_T T + \beta_X^T X + \beta_U U + \gamma_{TU} T \cdot U + \epsilon \)。这是一个完全线性的模型，没有非参数成分。这是本文最关键的简化假设。
CAR 程序：作者考虑了一类广泛的 CAR 程序，包括分层随机化（stratified randomization） 和最小化法（minimization）。这些程序的共同特征是：\( T \) 的分配概率依赖于 \( X \)，且这种依赖关系是已知的（或可估计的）。
未观测协变量 \( U \)：假设 \( U \) 是一个标量随机变量，与 \( X \) 相关，但与 \( \epsilon \) 独立。\( U \) 的分布是未知的。
关键假设：
- 线性性：这是最核心的假设。如果真实模型是非线性的，本文的结论可能不成立。
- 交互作用：\( \gamma_{TU} \neq 0 \)。如果 \( \gamma_{TU} = 0 \)，那么即使存在未观测协变量 \( U \)，处理效应估计量 \( \hat{\beta}_T \) 仍然是一致的（因为 \( U \) 只是一个加性混杂，可以被 \( X \) 吸收一部分，但不会导致 \( T \) 的偏差）。
- CAR 程序的性质：作者假设 CAR 程序是“平衡的”，即它能使 \( X \) 在两个处理组中的分布渐近相等。这是 CAR 程序的标准性质。
- 矩条件：所有随机变量都有有限的四阶矩，以保证渐近正态性。

主要结果¶

定理 1（估计量的渐近偏差）：
- 陈述：在 CAR 程序下，当存在 \( T \) 与 \( U \) 的交互作用时，OLS 估计量 \( \hat{\beta}_T \) 和 \( \hat{\beta}_X \) 的渐近偏差不为零。具体地，\( \hat{\beta}_T \) 的渐近偏差为 \( \gamma_{TU} \cdot \text{Cov}(U, X^T \beta_X^* | T=1) \) 的一个函数，其中 \( \beta_X^* \) 是省略模型下 \( X \) 的“伪真值”。
- 直觉：偏差来源于 CAR 程序在 \( T \) 和 \( U \) 之间引入的条件相关性。这个偏差的大小取决于 \( \gamma_{TU} \) 和 \( U \) 与 \( X \) 的相关性。
- 必要条件：\( \gamma_{TU} \neq 0 \) 且 \( U \) 与 \( X \) 相关。
- 解决的技术难点：推导出偏差的显式表达式，并证明其不为零。这需要利用 CAR 程序下 \( T \) 的条件分布和 \( U \) 的条件分布。
定理 2（可识别性的充分条件）：
- 陈述：如果 \( U \) 与 \( X \) 不相关，或者 \( \gamma_{TU} = 0 \)，那么处理效应 \( \beta_T \) 和协变量效应 \( \beta_X \) 是可识别的（即 OLS 估计量是一致的）。
- 直觉：如果 \( U \) 与 \( X \) 不相关，那么 CAR 程序无法通过 \( X \) 在 \( T \) 和 \( U \) 之间引入相关性，因此偏差消失。如果 \( \gamma_{TU} = 0 \)，那么 \( U \) 只是一个加性混杂，不会影响 \( T \) 的估计。
- 必要条件：这两个条件是充分条件，但可能不是必要条件。作者没有给出必要条件。
- 解决的技术难点：证明在这些条件下，遗漏变量偏差公式中的协方差项为零。
定理 3（检验的第一类错误）：
- 陈述：在可识别条件下（即 \( U \) 与 \( X \) 不相关或 \( \gamma_{TU} = 0 \)），基于 OLS 的 \( t \)-检验和 \( F \)-检验在处理效应和协变量效应上会出现第一类错误降低的现象（即检验过于保守）。
- 直觉：CAR 程序减少了 \( X \) 在两组间的变异，从而降低了 OLS 估计量的方差。然而，标准的方差估计量（基于省略模型）没有考虑到这一点，导致方差被高估，检验统计量偏小，因此第一类错误降低。
- 必要条件：可识别条件成立。
- 解决的技术难点：推导出 CAR 程序下 OLS 估计量的真实渐近方差，并与标准方差估计量进行比较，证明后者是前者的一个上界。
定理 4（残差调整检验）：
- 陈述：提出一个基于残差的调整检验，该检验通过重新估计残差的方差来校正标准误差，从而在可识别条件下恢复第一类错误。
- 直觉：该检验首先拟合包含 \( T \) 和 \( X \) 的模型，得到残差。然后，利用这些残差来估计 CAR 程序下 \( T \) 的条件方差，从而得到校正后的标准误差。
- 必要条件：可识别条件成立，且 CAR 程序的性质已知（或可估计）。
- 解决的技术难点：设计一个有效的残差调整方法，使其在 CAR 程序下渐近有效。

证明路线与技术技巧¶

整体路线：
1. 建立 CAR 程序下 \( T \) 的条件分布：首先，利用 CAR 程序的定义，推导出给定 \( X \) 时 \( T \) 的条件概率。这是后续所有分析的基础。
2. 推导 OLS 估计量的渐近偏差：利用遗漏变量偏差公式，将偏差表示为 \( \text{Cov}(T, U | X) \) 和 \( \text{Cov}(T, T \cdot U | X) \) 的函数。然后，利用 CAR 程序下 \( T \) 的条件分布，计算这些协方差项，并证明它们不为零。
3. 推导 OLS 估计量的渐近方差：利用 CAR 程序下 \( T \) 的条件分布，推导出 \( \hat{\beta}_T \) 和 \( \hat{\beta}_X \) 的真实渐近方差。这需要处理 \( T \) 与 \( X \) 的相关性。
4. 比较真实方差与标准方差：将真实方差与基于省略模型的标准 OLS 方差估计量进行比较，证明后者是前者的一个上界，从而解释第一类错误降低的现象。
5. 设计残差调整检验：利用残差来估计 CAR 程序下 \( T \) 的条件方差，从而构造一个校正后的检验统计量，并证明其渐近分布是标准的 \( \chi^2 \) 或 \( t \) 分布。
关键跳跃点：
- 从“CAR 程序平衡协变量”到“CAR 程序引入偏差”：这是本文最核心的跳跃。作者需要证明，CAR 程序在平衡 \( X \) 的同时，也通过 \( X \) 在 \( T \) 和 \( U \) 之间引入了条件相关性。这个跳跃依赖于 \( U \) 与 \( X \) 的相关性假设。
- 推导偏差的显式表达式：将抽象的遗漏变量偏差公式转化为 CAR 程序下的具体表达式，需要仔细处理条件期望和协方差。作者可能利用了 CAR 程序下 \( T \) 的条件分布是已知的这一事实。
技术技巧点名：
- 遗漏变量偏差公式：这是整个分析的基础工具。
- 条件期望与协方差计算：用于推导偏差和方差的显式表达式。
- CAR 程序的条件分布：这是本文区别于标准遗漏变量分析的关键。作者需要利用 CAR 程序的定义来刻画 \( T \) 的条件分布。
- 渐近理论（大数定律、中心极限定理）：用于证明估计量的渐近性质。
- 残差调整：用于构造校正后的检验统计量。这是一种类似于“异方差稳健标准误”的思想，但针对的是 CAR 程序下的特殊方差结构。

真实例子与应用¶

本文为纯理论，没有使用真实数据例子或模拟实验。作者在文中提到“Numerical studies are conducted to evaluate the performance of our proposed procedure and theoretical findings”，但并未在提供的文本中展示这些数值结果。因此，我们无法判断其数值实验的具体设计和结论。

🔎 结论是否比证明窄¶

结论的推广性：本文的所有结论都建立在线性模型的假设之上。作者在引言和结论中并未明确讨论其结论在非线性模型（如广义线性模型、非参数模型）下的适用性。因此，结论的适用范围可能比作者暗示的要窄。例如，在逻辑回归或 Cox 比例风险模型中，CAR 程序下未观测协变量的影响可能完全不同。
可识别性条件的充分性：作者给出的可识别性条件是充分条件，但未证明其必要性。这意味着可能存在其他条件（如 \( U \) 与 \( X \) 的某种非线性关系）下，处理效应也是可识别的。作者没有探索这些可能性。
CAR 程序的普适性：作者考虑了一类广泛的 CAR 程序，但并未证明其结论对所有 CAR 程序都成立。例如，对于某些复杂的、非平衡的 CAR 程序，结论可能不同。

四、开放问题¶

非线性模型的推广：本文的线性模型假设是核心限制。一个自然的开放问题是：在广义线性模型（如逻辑回归）或非参数模型（如部分线性模型）下，CAR 程序下未观测协变量的影响是什么？ 这需要更复杂的半参数理论。扎根于：本文的模型假设（线性模型）是推导所有结论的基础。
必要性条件的探索：作者给出了可识别性的充分条件（\( U \) 与 \( X \) 不相关或 \( \gamma_{TU} = 0 \)）。一个重要的开放问题是：是否存在更弱的、甚至是必要的可识别性条件？ 例如，如果 \( U \) 与 \( X \) 相关，但 \( U \) 的分布是已知的，是否仍然可以识别？扎根于：定理 2 的陈述（“sufficient conditions”）。
敏感性分析框架的建立：本文证明了未观测协变量会导致不一致，但没有量化这种不一致的严重程度。一个实用的开放问题是：如何为 CAR 实验建立一个敏感性分析框架，以量化未观测协变量对处理效应估计的影响？ 这可以借鉴观察性研究中的 Rosenbaum bounds 或 VanderWeele 的 E-value 等方法。扎根于：本文的核心结论（未观测协变量导致不一致）本身就是一个敏感性分析问题的起点。
与重随机化推断的结合：本文的残差调整检验是一种补救方法。一个更深入的开放问题是：能否将本文的发现与重随机化推断（Bugni et al. 2018, 2019）结合起来，设计一种对未观测协变量稳健的重随机化检验？ 扎根于：作者在引言中提到了重随机化方法，但并未将其与自己的方法结合。

Maintained by 陈星宇 · Homepage · Source on GitHub