跳转至

Doubly robust identification for bivariate causal discovery under unmeasured confounding

作者: Wei Li, Rui Duan, Sai Li
来源: Biometrika
主题: 因果推断
相关性: 8/10
机构绿灯: Harvard University(US News 前 50,免分进入精读)
链接: https://doi.org/10.1093/biomet/asag035


一、领域脉络与小综述

这个方向是什么

本文所处的子方向是双变量因果发现(bivariate causal discovery),其根本科学问题是:仅凭两个变量 X 和 Y 的观测数据,能否判断它们之间是否存在因果关系、方向如何(X→Y 还是 Y→X),以及能否估计因果效应的大小。这个问题的统计困难在于:在观测研究中,X 和 Y 之间的关联可能完全或部分由未测量的混杂因素 U 驱动,而 U 的存在使得"相关≠因果"这一经典障碍在双变量情形下尤为尖锐——因为没有任何第三个可观测变量可以用来调整或检验。该方向的成熟度处于"方法众多但假设苛刻"的阶段:大量现有方法(如基于条件独立性的 PC 类算法、基于函数形式的 LiNGAM 类方法)要么假设无未测量混杂,要么假设因果方向是单向的,这些假设在真实系统中(如复杂性状的遗传-表型网络)往往不成立。

发展脉络(history)

作者在引言中把已有工作串成了一条线,核心脉络如下:

  • 奠基工作:无混杂假设下的双变量因果发现。早期工作(如 Pearl 的因果图框架、Spirtes et al. 的 PC 算法)在假设无未测量混杂的前提下,利用条件独立性检验来识别因果方向。这类方法的根本局限是:在只有两个变量的情形下,若无混杂假设不成立,则 X 与 Y 的关联无法区分"X 导致 Y"、"Y 导致 X"和"共同原因 U 导致两者"这三种解释。作者在引言中明确指出,这些方法"assume the absence of unmeasured confounding",而这一假设"may be violated in real-world systems"。

  • 主要进展:利用工具变量突破无混杂假设。为了在未测量混杂下识别因果效应,工具变量(IV)方法成为主流工具。经典 IV 方法要求工具变量 Z 满足三个条件:(i)Z 与 X 相关(相关性);(ii)Z 对 Y 无直接效应(排除限制);(iii)Z 与 U 独立(工具有效性)。然而,作者指出,在双变量因果发现中,工具变量的有效性本身就是一个需要检验的假设——"possibly invalid instrumental variables"正是本文的出发点。已有 IV 方法(如 Angrist et al. 的经典 IV 估计)在工具无效时会产生有偏估计,且无法识别因果方向。

  • 当前 frontier:无效工具变量下的识别与双重稳健思想。近年来,研究者开始探索在工具变量可能无效的情形下进行因果推断。一个关键进展是"多数规则"或"部分有效性"假设——即虽然某些工具可能无效,但只要存在足够多的有效工具,仍可识别因果效应。作者在引言中特别提到,他们的工作与这一脉络相关,但处理的是更极端的双变量情形:只有两个变量、一个(或几个)工具变量,且工具可能无效。另一个相关脉络是双重稳健(doubly robust)估计在因果推断中的广泛应用——即估计量的一致性只需两个模型(倾向得分模型和结果回归模型)中有一个正确即可。本文的创新在于把双重稳健思想从"估计"层面提升到"识别"层面:只要两个互补假设之一成立,因果方向就可识别,且无需知道哪个假设正确。

  • 本文的位置:作者把缺口 frame 成"在未测量混杂和潜在反馈环下,利用可能无效的工具变量进行双变量因果发现"。与已有工作的关键区别是:(i)允许因果方向是双向的(反馈环),而大多数方法假设单向;(ii)允许工具变量无效,而经典 IV 方法要求工具有效;(iii)提出双重稳健识别框架,两个互补假设只需一个成立即可识别方向。这使本文成为"无效 IV + 双向因果 + 双变量"这一交叉点的"显然的下一步"。

子线索聚类

被引文献大致落在三条子线索上:

  • 线索一:无混杂假设下的因果发现。这类方法(如 PC 算法、LiNGAM、基于核的条件独立性检验)在无未测量混杂的假设下工作,利用条件独立性或函数形式来识别因果方向。它们的共同局限是:一旦存在未测量混杂,识别结果可能完全错误。作者引用这些工作主要是为了说明"现有方法假设太强"这一动机。

  • 线索二:工具变量方法及其有效性检验。这类方法(如两阶段最小二乘、控制函数方法、近端因果推断)利用工具变量来克服未测量混杂。经典方法要求工具有效,而近期的进展(如近端因果推断中的代理变量方法)开始放宽这一假设。作者的工作与近端因果推断(proximal causal inference)有直接关联——两者都处理未测量混杂下的识别问题,但本文聚焦于双变量情形和因果方向发现,而近端方法通常假设因果方向已知。

  • 线索三:双重稳健估计与部分识别。这类方法(如双重稳健的 ATE 估计、部分识别框架下的边界估计)关注在模型假设不完全成立时的稳健性。本文的双重稳健识别框架属于这一脉络,但把稳健性从"估计"提升到"识别"层面。

这个方向在追问的核心问题

  1. 在未测量混杂下,双变量因果方向是否可识别? 如果可以,需要什么条件?这是本文的核心问题。
  2. 当工具变量可能无效时,如何利用它们进行因果推断? 需要多少有效工具?如何检验工具有效性?
  3. 当因果方向可能是双向的(反馈环)时,因果效应是否可识别? 如果可以,识别到什么程度(点识别还是部分识别)?
  4. 如何构造有限样本下的推断程序? 即不仅识别方向,还要给出置信区间和假设检验。

已知瓶颈:在双变量情形下,未测量混杂的存在使得因果方向本质上难以从观测数据中识别——除非有额外的结构假设(如工具变量、函数形式限制、或时间顺序)。本文的贡献在于提供了一套比现有方法更弱的充分条件(两个互补假设只需一个成立)。

⚠️ 作者的 framing(必须明确标注成"这是作者的说法")

作者把缺口 frame 成:"现有方法要么假设无未测量混杂,要么假设因果方向单向,而真实系统(如复杂性状)中这两个假设都可能被违反。我们提出一个双重稳健识别框架,只要两个互补假设之一成立即可保证因果方向可识别,且无需知道哪个假设正确。"

值得研究者去查的问题: - 作者淡化了近端因果推断(proximal causal inference)这一竞争路线——近端方法通过代理变量(proxies)来处理未测量混杂,而本文通过(可能无效的)工具变量。两者在假设上有什么本质区别?在什么条件下一种方法优于另一种? - 作者没有讨论基于函数形式的识别(如 LiNGAM 类方法)——这些方法在无混杂假设下利用非高斯性或非线性来识别方向,本文是否可以在某些条件下与之结合? - 作者没有引用基于干预或自然实验的方法——如果存在自然实验(如孟德尔随机化),因果方向可能更容易识别。本文的方法与孟德尔随机化(在遗传学中常用)有什么关系?UK Biobank 的应用是否本质上是一种孟德尔随机化?

张力

未见明显对立引用。作者引用的工作之间没有在相同条件下得出相反结论的情况。不过,一个潜在的张力是:工具变量有效性与因果方向识别之间的循环依赖——要检验工具是否有效,通常需要知道因果方向;而要识别因果方向,又需要假设工具的有效性。本文的双重稳健框架试图打破这一循环,但代价是引入了两个互补假设,这两个假设本身可能在某些真实场景中同时不成立。


二、最核心、最简单的例子 / 数学问题

第一步:把符号、模型、可观测数据交代清楚

符号(逐个点名):

  • X, Y:两个可观测的标量随机变量,代表我们关心的两个性状/变量。X 是"暴露"(exposure),Y 是"结局"(outcome),但因果方向未知——可能是 X→Y,也可能是 Y→X,还可能是双向(X↔Y)。
  • U:不可观测的混杂变量(标量或向量),同时影响 X 和 Y。U 的存在是因果推断困难的根源。
  • Z:工具变量(标量或向量),可观测。Z 被假设与 X 相关,但可能无效——即 Z 可能直接影响 Y(违反排除限制),或 Z 与 U 相关(违反工具有效性)。
  • D:因果方向的指示变量(未知),D = 1 表示 X→Y,D = 0 表示 Y→X,D = 2 表示双向(X↔Y)。这是本文要识别的目标之一。
  • β:因果效应参数。在 X→Y 方向下,β 表示 X 对 Y 的因果效应(如线性模型中的系数);在 Y→X 方向下,β 表示 Y 对 X 的因果效应。这是本文要估计的目标。
  • α:工具变量 Z 对 X 的效应(在第一阶段回归中),用于衡量 Z 与 X 的相关性强度。
  • γ:工具变量 Z 对 Y 的直接效应(在排除限制被违反时非零)。这是"工具无效"的度量。
  • δ:Z 与 U 的相关性(在工具有效性被违反时非零)。这也是"工具无效"的度量。
  • θ:模型中的其他参数(如混杂 U 对 X 和 Y 的效应、误差项方差等)。

模型(本文的核心结构方程模型,用直白语言写出):

作者考虑如下线性结构方程模型(以 X→Y 方向为例):

X = αZ + δ_U U + ε_X
Y = βX + γZ + δ'_U U + ε_Y

其中 ε_X, ε_Y 是独立误差项。注意: - Z 通过 α 影响 X(工具相关性); - Z 通过 γ 直接影响 Y(若 γ ≠ 0,则 Z 是无效工具——违反排除限制); - U 同时影响 X 和 Y(混杂); - 若 δ_U ≠ 0 且 δ'_U ≠ 0,则 U 是真正的混杂因素。

在 Y→X 方向下,模型变为:

Y = α'Z + δ''_U U + ε'_Y
X = β'Y + γ'Z + δ'''_U U + ε'_X

在双向(X↔Y)情形下,两个方向的方程同时存在:

X = αZ + β_1 Y + δ_U U + ε_X
Y = β_2 X + γZ + δ'_U U + ε_Y

可观测数据:研究者观测到的是 i.i.d. 样本 {(X_i, Y_i, Z_i) : i = 1, ..., n},其中 n 是样本量。不可观测的是:U(混杂)、因果方向 D、以及模型中的参数(α, β, γ, δ 等)。

关键区分: - 可观测:X, Y, Z(有样本) - 不可观测但想要识别:因果方向 D、因果效应 β - 不可观测且是干扰项:混杂 U、工具无效性参数 γ 和 δ

第二步:讲最小内核

把原文的许多假设和一般性设定剥掉,本文的最小内核可以归结为如下问题:

最小问题:假设我们只有两个变量 X 和 Y,一个工具变量 Z,且存在未测量混杂 U。我们不知道因果方向是 X→Y 还是 Y→X,也不知道 Z 是否有效(即 Z 可能直接影响 Y)。我们能否仅凭 (X, Y, Z) 的观测数据,判断因果方向并估计因果效应?

最简特例(线性、单工具、无反馈):

考虑如下两个竞争模型:

  • 模型 A(X→Y):

    X = αZ + ε_X
    Y = βX + γZ + ε_Y
    
    其中 ε_X, ε_Y 与 Z 独立,但 ε_X 与 ε_Y 可能通过 U 相关(即混杂存在)。

  • 模型 B(Y→X):

    Y = α'Z + ε'_Y
    X = β'Y + γ'Z + ε'_X
    

核心困难:在模型 A 中,如果 γ ≠ 0(Z 直接影响 Y),那么 Z 是无效工具。此时,如果我们错误地假设 Z 有效(即 γ = 0),用 Z 作为 X 的工具变量来估计 β,会得到有偏估计。更糟的是,我们甚至不知道应该用哪个方向——模型 A 和模型 B 可能产生相同的观测联合分布,导致方向不可识别。

本文的核心思想(双重稳健识别):

作者提出两个互补假设:

  • 假设 1(工具有效性):Z 对 Y 无直接效应(γ = 0),且 Z 与 U 独立(δ = 0)。即 Z 是有效工具。
  • 假设 2(方向单向性):因果方向是单向的(X→Y 或 Y→X),不存在反馈环。

作者证明:只要假设 1 和假设 2 中至少有一个成立,因果方向就可识别,且无需知道哪个假设成立。具体来说:

  • 如果假设 1 成立(Z 有效),则可以用标准 IV 方法估计两个方向的效应,并比较哪个方向的模型拟合更好——有效工具会"指向"正确的方向。
  • 如果假设 2 成立(单向因果),则即使 Z 无效,也可以利用"方向不对称性"来识别方向——在 X→Y 方向下,Z 对 Y 的效应分解为直接效应 γ 和间接效应 αβ;而在 Y→X 方向下,分解方式不同,这种不对称性可以被用来检验方向。

为什么双重稳健:就像双重稳健估计中"倾向得分模型和结果回归模型只需一个正确"一样,这里的"工具有效性和方向单向性只需一个成立"保证了识别。如果两个假设都成立,识别更强(点识别);如果只有一个成立,识别仍然可能(但可能退化为部分识别,如双向情形下效应识别到两个候选解)。

最小内核的数学表述:

在模型 A(X→Y)下,观测协方差结构为:

Cov(Z, X) = α Var(Z)
Cov(Z, Y) = αβ Var(Z) + γ Var(Z)

在模型 B(Y→X)下:

Cov(Z, Y) = α' Var(Z)
Cov(Z, X) = α'β' Var(Z) + γ' Var(Z)

如果 γ = 0(Z 有效),则模型 A 下 Cov(Z, Y) / Cov(Z, X) = β,而模型 B 下 Cov(Z, X) / Cov(Z, Y) = β'。这两个比值可以互相检验——如果两者都成立且 β ≠ 1/β',则方向可识别。

如果 γ ≠ 0(Z 无效),则上述比值不再等于因果效应。但作者证明,在单向因果假设下,可以利用协方差矩阵的秩条件或高阶矩条件来区分方向——因为 X→Y 和 Y→X 对 (X, Y, Z) 的联合分布施加了不同的约束。

为什么难:难在"双重稳健"的证明——需要证明当假设 1 不成立但假设 2 成立时(或反之),方向仍然可识别。这需要仔细分析两个模型族的代数结构,排除"两个方向产生相同观测分布"的病态情况。


三、这篇论文做了什么

三句话

  1. 研究了什么问题:在存在未测量混杂和潜在反馈环的双变量系统中,利用可能无效的工具变量,研究因果方向的识别与因果效应的估计问题。
  2. 核心工具/方法:提出一个双重稳健识别框架——只要"工具有效性"和"方向单向性"两个互补假设之一成立,因果方向即可识别;基于此框架开发有限样本的因果方向检测和效应推断程序。
  3. 主要结论:在单向因果情形下,因果效应被点识别;在双向情形下,效应可识别到两个候选解(除非有额外信息);所提出的方法在有限样本下能一致地恢复因果方向,并给出有效的置信区间;模拟和 UK Biobank 数据应用验证了方法的优越性。

关键设定与假设

在第二节最小记号的基础上,补全完整设定:

  • 线性结构方程模型:作者假设 X, Y, Z 之间的关系是线性的(或可线性化)。这是本文方法的核心限制——非线性关系可能破坏识别结果。
  • 工具变量 Z 的观测性:Z 是可观测的,且与 X 相关(相关性条件)。但 Z 可能无效(直接影响 Y 或与 U 相关)。
  • 误差独立性:结构方程中的误差项与工具变量 Z 独立(但误差项之间可能通过 U 相关)。
  • 无反馈的假设(假设 2):因果方向是单向的(X→Y 或 Y→X),不存在双向因果。这是两个互补假设之一。
  • 工具有效性(假设 1):Z 对 Y 无直接效应,且 Z 与 U 独立。这是另一个互补假设。
  • 双重稳健条件:假设 1 和假设 2 至少有一个成立。这是本文识别的充分条件。

相比已有文献的放宽/强化: - 放宽:允许工具变量无效(已有 IV 方法要求工具有效);允许双向因果(已有方法大多假设单向)。 - 强化:要求线性模型(已有非参数方法可能更灵活);要求至少有一个互补假设成立(这是一个新的、非标准的条件)。

主要结果

理论结果(基于摘要和引言推断,具体定理需查原文):

  1. 方向可识别性:在双重稳健条件下(假设 1 或假设 2 成立),因果方向 D 是可识别的——即存在一个从观测分布到方向集合 {X→Y, Y→X, X↔Y} 的映射,且该映射在双重稳健条件下是良定的。
  2. 效应可识别性:
  3. 在单向因果 + 工具有效(两个假设都成立)下,因果效应 β 被点识别。
  4. 在单向因果 + 工具无效(仅假设 2 成立)下,因果效应 β 仍被点识别(这是本文的核心贡献之一——即使工具无效,只要方向已知且单向,效应仍可识别)。
  5. 在双向因果 + 工具有效(仅假设 1 成立)下,两个方向的效应可识别到两个候选解(部分识别),除非有额外信息(如效应符号、大小约束)。
  6. 有限样本推断:作者提出一个有限样本程序,包括:
  7. 方向检测:基于某种检验统计量(可能是似然比、得分检验或矩条件检验),判断因果方向。
  8. 效应估计:在检测出的方向下,用 IV 类估计量(如两阶段最小二乘)估计因果效应。
  9. 置信区间:证明所构造的置信区间在双重稳健条件下有正确的渐近覆盖概率。

模拟结果:大量模拟显示,本文方法在方向检测准确率和效应估计的偏差/方差上优于现有方法(如标准 IV 方法、无混杂假设下的因果发现方法)。具体优势体现在:当工具无效时,现有 IV 方法产生严重偏差,而本文方法仍能正确识别方向并估计效应。

真实数据应用:应用于 UK Biobank 数据,分析复杂性状之间的因果关系。具体分析的是什么性状对,摘要未详述,但作者声称方法在真实数据上表现良好,发现了有意义的因果关系。

证明路线与技术技巧

整体路线(基于摘要和引言推断,具体证明需查原文):

  1. 第一步:建立观测分布与结构参数之间的映射。作者首先写出线性结构方程模型下 (X, Y, Z) 的联合分布(或协方差结构),建立从结构参数 (α, β, γ, δ, ...) 到观测分布的映射。
  2. 第二步:分析映射的可逆性。作者分析这个映射是否是单射——即不同的结构参数是否会产生不同的观测分布。关键结果是:在双重稳健条件下,映射在"方向"这个层面是单射的(方向可识别),但在"效应"层面可能不是(双向情形下部分识别)。
  3. 第三步:构造识别估计量。基于映射的可逆性,作者构造估计量——可能是基于矩条件(如 Cov(Z, X) 和 Cov(Z, Y) 的样本类比)或基于似然函数。
  4. 第四步:证明渐近性质。作者证明所构造的估计量在双重稳健条件下是一致的,且置信区间有正确的覆盖概率。这可能需要用到 M-估计理论或广义矩估计(GMM)的标准工具。

关键跳跃点:

  • 最吃功夫的引理:很可能是"方向可识别性"的证明——需要排除两个方向产生相同观测分布的病态情况。这需要仔细分析结构方程模型的代数结构,可能用到代数几何或多元多项式理论。
  • 难点:当工具无效(γ ≠ 0)时,标准 IV 方法失效。作者需要找到新的识别条件——可能是利用"方向不对称性":在 X→Y 下,Z 对 Y 的效应是 αβ + γ;在 Y→X 下,Z 对 X 的效应是 α'β' + γ'。如果 γ ≠ 0 但 γ' = 0(或反之),则两个方向产生不同的约束,方向可识别。
  • 绕过的办法:作者可能使用了"模型选择"的思路——将方向检测转化为模型比较问题,用信息准则或交叉验证来选择更优的方向。

技术技巧点名:

  • 矩条件 / GMM:用于构造估计量和检验方向。
  • M-估计理论:用于证明估计量的一致性和渐近正态性。
  • 双重稳健思想:从估计层面提升到识别层面,这是本文的核心概念贡献。
  • 部分识别 / 集合识别:在双向情形下,效应识别到两个候选解,这属于部分识别框架。

🔎 结论是否比证明窄

  • 摘要声称"双重稳健识别框架保证因果方向可识别",但具体在什么条件下可识别,需要看定理的精确陈述。可能的窄化:如果假设 1 和假设 2 都不成立(工具无效且存在反馈环),方向可能不可识别——作者可能没有处理这种最一般的情形。
  • 摘要声称"因果效应在单向情形下被点识别",但点识别可能需要额外的正则条件(如效应非零、工具与 X 相关性足够强等)。这些条件可能在定理中被明确假设,但在摘要中被省略。
  • 摘要声称"有限样本程序产生有效置信区间",但有限样本可能只是"渐近有效"——即置信区间的覆盖概率在大样本下趋近名义水平,而非在任意有限样本下精确有效。这是一个常见的"结论比证明宽"的点。
  • 作者可能对线性模型的依赖比摘要中呈现的更强——如果方法本质上依赖线性结构方程模型,那么对非线性关系的推广可能只是推测而非证明。

四、开放问题

  1. 非线性推广:本文的方法建立在线性结构方程模型之上。在非线性模型下,双重稳健识别是否仍然成立?扎根点:摘要中"linear"或"structural equation model"的表述——如果作者没有明确讨论非线性情形,这就是一个开放问题。要确认这是不是真 gap,去读近 5 年关于非线性因果发现的文献(如基于核的方法、基于深度学习的方法)的引言,看它们是否都指向"非线性 + 未测量混杂 + 双变量"这一空白。

  2. 多个工具变量的情形:本文可能只处理了单个工具变量的情形。当有多个工具变量(且部分可能无效)时,双重稳健框架如何推广?扎根点:摘要中"instrumental variables"的复数形式——但具体是否处理了多个工具变量,需要查原文。多数规则(majority rule)或 Plurality 规则可能是自然的推广方向。

  3. 反馈环的完全处理:本文允许双向因果(反馈环),但效应只识别到两个候选解。在什么额外条件下可以进一步区分这两个候选解(如利用时间顺序、非平稳性、或干预数据)?扎根点:摘要中"identifiable up to two candidate solutions"——作者明确承认了部分识别,但没有给出完全识别的条件。

  4. 有限样本推断的精细性质:本文的置信区间是渐近有效的,但在有限样本下的覆盖概率如何?是否有有限样本校正(如 bootstrap、经验似然)可以改进?扎根点:摘要中"finite-sample procedure"的表述——但"有限样本"可能只是指"基于有限样本的算法",而非"有限样本精确推断"。

  5. 与近端因果推断的关系:本文的方法与近端因果推断(proximal causal inference)在处理未测量混杂上有何异同?能否将双重稳健识别框架推广到近端设定?扎根点:引言中可能引用了近端因果推断的文献(如 Tchetgen Tchetgen et al.),但摘要未提及——这是一个值得研究者去查的潜在连接点。


提醒:要确认上述开放问题是否是真 gap,建议去读近 5 年关于"bivariate causal discovery"和"invalid instrumental variables"的 5 篇左右论文的引言——如果多篇都指向同一个空白,那就是共识性的真 gap;如果各篇互相矛盾,那可能是一个充满机会的争议点。


Maintained by 陈星宇 · Homepage · Source on GitHub

评论