Same Predictions, Different Harms: Causal Auditing of Patient World Models¶
作者: Yicheng Qi, Xiyi Xiong
主题: 因果推断
相关性: 7/10
链接: https://arxiv.org/abs/2610.05198
一、领域脉络与小综述¶
这个方向是什么¶
本文所处的子方向是因果推断中的反事实危害审计(counterfactual harm auditing),具体而言:当两个(或多个)患者世界模型(patient world models)——即用于临床试验模拟的生成模型——在可观测的转移核(transition kernels)和臂特定风险(arm-specific risks)上达成一致时,它们在反事实量(如"因切换治疗而受害的患者比例")上是否必然一致?这个问题的根本统计困难在于:反事实量依赖于个体层面的潜在结果共存方式(即不同治疗下同一患者的潜在结局如何耦合),而可观测数据通常只能识别边际分布,无法识别这种耦合。该方向的核心任务是在给定可观测信息和结构假设下,刻画反事实危害量的识别区间(identification interval),并评估额外假设(如独立性、预算约束)能多大程度收紧这些区间。
该方向的成熟度:这是一个相对成熟但仍在活跃发展的领域。理论基础可追溯到 Dawid 等人关于"因果概率"(probability of causation)的系列工作,以及 Pearl 学派的反事实推理框架。近年来,随着"世界模型"和"数字孪生"在医疗模拟中的应用,这一经典问题获得了新的应用场景和紧迫性。本文的贡献在于将已有的二元链式反事实界推广到多值中间状态(ternary/multivalued mediator)设定,并系统引入"预算"(budget)概念来量化额外假设的价值。
发展脉络(history)¶
-
奠基工作:Dawid, Humphreys 和 Musio (2019) 在"Bounding Causes of Effects With Mediators"中系统研究了二元暴露和结局、完全中介链下的因果概率界。他们给出了一个** largely negative** 的结果:即使在理想条件下(完全中介、已知中介链的完整概率结构),中介证据对收紧因果概率界的贡献也是** modest** 的。这一结果奠定了"反事实量本质上难以从可观测数据中识别"的基调。本文引用它来建立"二元链式不一致乘积"的基线结果。
-
动态反事实的关键进展:Oberst 和 Sontag (2019) 提出用 Gumbel-Max 结构因果模型来生成反事实轨迹,为部分可观测 MDP 中的反事实策略评估提供了具体机制。Haugh 和 Singal (2023) 则转向优化视角:不指定具体机制,而是在所有与可观测数据兼容的机制上优化,并发现了** pairwise response marginals 的不兼容性**——即两两状态对的反事实响应边际无法同时被一个全局机制实现。这是"可靠性语言"(reliability language)的最接近先例,本文直接继承这一视角。
-
计算工具的铺垫:Duarte 等人 (2024) 开发了离散设定下因果推断的自动化方法,将因果问题转化为多项式规划问题,并给出高效算法。本文的有限样本审计部分正是将这一思想特化到小规模响应 LP(8 变量)上。
-
数学工具的借用:Huber 和 Marić (2019) 关于对称 Bernoulli 分布相关性的完整刻画(cut 多胞形),以及 Morrison 和 Owen (2025) 的平衡子集构造,为本文的 cut 表示和敏感性前沿提供了数学基础。Bradley (2005) 的混合条件综述则提供了 TV 距离作为依赖度量的理论支撑。
-
当前 frontier:最新的工作(如 Kawakami 和 Tian 2025a,b;Shu 等 2026;Xie 和 Li 2026)正在将因果概率界从简单二元设定推广到多中介、多路径、部分因果图信息等更复杂结构。本文的位置是:在两阶段共享响应 SCM 这一特定但具有代表性的结构下,给出精确的三状态界和可计算的一般外界。
子线索聚类¶
被引文献大致落在三条子线索上:
-
因果概率的识别与界(identification & bounding of probabilities of causation):Dawid et al. (2019), Mueller et al. (2022), Shu et al. (2026), Xie 和 Li (2026), Kawakami 和 Tian (2025a,b)。这条线索关注的核心问题是:给定可观测数据和因果图假设,反事实量(PN, PS, PNS)的识别区间是什么?方法上从解析推导(二元、完全中介)逐步走向优化/规划方法(多值、部分信息)。
-
动态反事实与机制不确定性(dynamic counterfactuals & mechanism uncertainty):Oberst 和 Sontag (2019), Haugh 和 Singal (2023), Lally 等 (2026)。这条线索关注 MDP/POMDP 中的反事实查询,核心困难是机制(SCM)本身不可识别,需要在所有兼容机制上优化。本文的"预算"概念直接回应这一线索中的不确定性量化需求。
-
离散因果推断的计算方法(computational methods for discrete causal inference):Duarte 等 (2024), Altschuler 和 Boix-Adserà (2021)。这条线索提供工具:如何将因果界问题转化为可解的优化问题,以及哪些问题是计算上困难的(NP-hard)。本文的 8 变量 LP 和四状态精确性边界正是这一线索的延续。
这个方向在追问的核心问题¶
- 反事实量的识别边界:在给定的可观测信息和结构假设下,反事实危害量的最紧可能区间是什么?什么条件下区间退化为点?
- 额外假设的价值量化:独立性、完全中介、预算约束等额外假设,能多大程度收紧识别区间?"预算"与区间宽度的函数关系是什么?
- 计算可行性:对于一般状态数和一般结构,精确界是否可计算?哪些设定下问题变得 NP-hard?
- 可靠性审计的操作化:如何将识别区间转化为可操作的审计协议,用于判断一个世界模型是否"足够可靠"以支持反事实推理?
⚠️ 作者的 framing(必须明确标注成"这是作者的说法")¶
作者将缺口 frame 成:"两个模型在可观测的转移核和臂特定风险上一致,却可能在反事实危害量上分歧"——这是一个可靠性 gap。他们声称,现有工作(如 Oberst-Sontag 的 Gumbel-Max 机制、Haugh-Singal 的优化框架)要么指定了具体机制(从而隐含了额外假设),要么只处理二元状态/二元响应,缺乏对多值中间状态下共享响应机制的精确刻画。作者的定位是:在两阶段共享响应 SCM 下,为三状态情形给出闭式精确界,为一般情形给出可计算的界,并通过预算概念将"模型分歧"转化为可量化的敏感性分析。
被作者淡化或回避的竞争路线: - Gumbel-Max 机制(Oberst-Sontag):作者将其视为一种"指定机制"的特例,而非一般框架。但 Gumbel-Max 在动态规划中具有计算优势,作者未讨论其在大规模状态空间中的可行性。 - 完全非参数优化(Haugh-Singal):作者承认其 generality,但指出其计算代价高且未利用共享响应结构。作者未讨论其方法在状态数较大时的扩展性。 - 基于协变量的界(Kallus 2022):作者将其归为"端点仅"(endpoint-only)基线,但未深入讨论协变量信息如何与共享响应结构结合。
什么明显该被引 / 该存在、却没出现在 intro 里? - Pearl 的经典反事实理论(如 Pearl 2009 的因果层次定理)未被直接引用,尽管"反事实不可从可观测数据识别"这一核心论点与 Pearl 的层级观点高度一致。 - 部分识别(partial identification)的经典文献(如 Manski 2003, 2007)未被引用,尽管本文的识别区间方法在精神上与部分识别理论一脉相承。 - 敏感性分析的最新进展(如 Cinelli & Hazlett 2020 的敏感性分析框架)未被引用,尽管本文的"预算"概念与敏感性参数有相似之处。
张力¶
未见明显对立引用。被引工作之间在"反事实量不可识别"这一基本判断上高度一致,分歧仅在于如何刻画不可识别性的程度和如何收紧界。不过,存在一个微妙的张力:Dawid 等人 (2019) 的** largely negative** 结果(中介证据价值有限)与本文的正面结果(三状态闭式界、预算收紧)之间,需要读者自行判断:本文的正面结果是否只是特定结构(共享响应、两阶段)下的特例,而非对 Dawid 悲观结论的实质性反驳?作者在文中承认"一般 n 的界是外界的",这暗示了悲观结论在更一般设定下仍然成立。
二、最核心、最简单的例子 / 数学问题¶
第一步:符号、模型、可观测数据¶
设定:考虑一个两阶段共享响应结构因果模型(SCM)。
- 状态空间:\([n] = \{1, 2, \ldots, n\}\),中间健康状态(intermediate health state)的有限集合。
- 治疗臂:\(A, B \in [n]\) 分别表示在治疗 A 和治疗 B 下患者到达的中间状态(潜在变量)。\(S_A, S_B\) 是随机变量,取值于 \([n]\)。
- 边际状态分布:\(\alpha, \beta \in \Delta^{n-1}\)(概率单纯形),其中 \(\alpha_i = \Pr(S_A = i)\),\(\beta_i = \Pr(S_B = i)\)。这是可观测的(或假设已知)。
- 终端响应:\(Y \in \{0, 1\}\) 表示不良结局(adverse outcome),\(Y = 1\) 为受害。\(Z = (Z_1, \ldots, Z_n) \in \{0,1\}^n\) 是共享响应向量(shared response vector),其中 \(Z_i\) 是"若中间状态为 \(i\) 时的终端响应"(潜在变量)。\(Z\) 的分布为 \(Q \in \mathcal{Q}(p)\),其中 \(\mathcal{Q}(p) = \{Q \in \Delta^{2^n - 1} : \mathbb{E}_Q[Z_i] = p_i, \forall i\}\),\(p_i = \Pr(Y = 1 \mid \text{do}(S = i))\) 是已知的臂特定风险(interventional risks)。
- 耦合:第一阶段的耦合由 \(C \in \Pi(\alpha, \beta)\) 描述,其中 \(\Pi(\alpha, \beta)\) 是边际为 \(\alpha, \beta\) 的传输多胞形(transportation polytope)。\(C_{ij} = \Pr(S_A = i, S_B = j)\)。
- 独立性假设:第一阶段噪声与第二阶段噪声独立,即联合分布为 \(C \otimes Q\)。
- 目标量(反事实危害):
\[H(C, Q) = \Pr(Y_A = 1, Y_B = 0) = \sum_{i,j} C_{ij} \mathbb{E}_Q[Z_i (1 - Z_j)].\]这是"在治疗 A 下受害、但在治疗 B 下不受害"的患者比例——即因切换治疗而受害的比例。
可观测数据:\(\alpha, \beta, p\)(以及可能的臂特定联合分布 \(\Pr(S_A = i, Y_A = y)\) 等)。不可观测:耦合 \(C\) 和响应向量分布 \(Q\)。
关键识别问题:给定 \((\alpha, \beta, p)\),\(H\) 的识别区间 \([L, U]\) 是什么?
第二步:最小内核¶
核心数学问题:在给定边际 \(\alpha, \beta, p\) 下,最大化/最小化双线性目标 \(H(C, Q) = \sum_{i,j} C_{ij} \mathbb{E}_Q[Z_i(1-Z_j)]\),其中 \(C \in \Pi(\alpha, \beta)\),\(Q \in \mathcal{Q}(p)\)。
最小例子(n=2):两个中间状态 \(\{1, 2\}\),\(\alpha = \beta = (1/2, 1/2)\),\(p = (1/2, 1/2)\)。
- 下界:取 \(C\) 为完美正相关(\(C_{11} = C_{22} = 1/2\)),\(Q\) 为 \(Z_1 = Z_2\)(完全正相关响应)。则 \(Y_A = Y_B\) 总是成立,\(H = 0\)。
- 上界:取 \(C\) 为完美正相关,\(Q\) 为 \(Z_1 = 1 - Z_2\)(完全负相关响应)。则当 \(S_A = 1, S_B = 2\) 时(概率 \(1/2\)),\(Y_A = 1, Y_B = 0\);当 \(S_A = 2, S_B = 1\) 时(概率 \(1/2\)),\(Y_A = 0, Y_B = 1\)。因此 \(H = 1/2\)。
- 结论:识别区间为 \([0, 1/2]\)。即使 \(\alpha, \beta, p\) 完全已知,反事实危害量仍可在 \(0\) 到 \(1/2\) 之间任意取值。
为什么这是最小内核:这个例子揭示了整篇论文的核心洞察——可观测的一致性(相同的边际)不蕴含反事实的一致性。两个模型可以产生完全相同的可观测预测(相同的状态分布和臂特定风险),但在反事实危害量上截然不同。这种分歧完全源于不可观测的耦合结构(\(C\) 和 \(Q\))。本文的所有技术结果(三状态闭式界、预算敏感性、LP 审计)都是在回答这个最小问题的推广版本:给定更多结构信息(如状态数、预算约束),识别区间如何变化?
关键数学难点:目标函数 \(H\) 是 \(C\) 和 \(Q\) 的双线性函数,但 \(C\) 和 \(Q\) 的可行域都是高维多面体(\(C\) 是 \(n \times n\) 传输多胞形,\(Q\) 是 \(2^n\) 维概率单纯形与线性约束的交集)。直接优化是困难的,但本文发现: 1. 下界:可以通过一个共享阈值响应(common threshold response)\(Z_i = 1\{V \le p_i\}\) 同时达到,其中 \(V \sim \text{Uniform}(0,1)\)。这给出了 Wasserstein 距离表达式。 2. 上界:需要最大化"不一致概率",这等价于一个割(cut)问题,其精确性在 \(n \le 3\) 时成立,在 \(n = 4\) 时失效。
三、这篇论文做了什么¶
三句话¶
- 研究了什么问题:在共享响应两阶段 SCM 下,给定可观测的中间状态分布和臂特定风险,反事实危害量(因切换治疗而受害的患者比例)的识别区间是什么?额外假设(独立性、预算)能多大程度收紧该区间?
- 核心工具/方法:将反事实危害量分解为"边际风险差"与"不一致概率"之和;利用传输多胞形和响应多胞形的几何结构,将上下界转化为线性规划(LP)和割问题;对三状态情形给出闭式解,对一般情形给出可计算的界。
- 主要结论:下界始终等于 Wasserstein 距离(可由共享阈值响应达到);上界在 \(n \le 3\) 时有闭式解,在 \(n = 4\) 时存在精确性边界(cut 松弛失效);引入"预算"(依赖度和响应不匹配)后,可得到校准的外界,且在对称三状态模型中整个敏感性前沿是尖锐的。
关键设定与假设¶
- 两阶段共享响应 SCM:第一阶段是中间状态 \(S\),第二阶段是终端响应 \(Y\)。核心假设是共享响应向量 \(Z\):无论治疗如何,同一中间状态 \(i\) 对应的终端响应 \(Z_i\) 是相同的(即 \(Y_A = Z_{S_A}\),\(Y_B = Z_{S_B}\))。这排除了"治疗直接影响终端响应"的路径。
- 阶段独立性:第一阶段噪声(决定 \(S_A, S_B\) 的耦合)与第二阶段噪声(决定 \(Z\))独立。这是本文所有结果的基础。
- 已知边际:\(\alpha, \beta, p\) 已知(或可一致估计)。这是审计的前提——我们只关心在可观测信息一致的情况下,反事实量是否仍可能分歧。
- 预算约束:额外假设以"预算"形式给出:(i) 依赖度预算 \(\rho\):\(\text{TV}(J, C \otimes Q) \le \rho\),其中 \(J\) 是联合分布;(ii) 响应不匹配预算 \(\delta_i\):\(\Pr(Z^A_i \ne Z^B_i) \le \delta_i\)。这些预算量化了"偏离理想独立性/完全中介"的程度。
相比已有文献的放宽/强化: - 放宽:允许任意多值中间状态(\(n \ge 2\)),而非仅限于二元。 - 强化:假设共享响应向量(即完全中介),这比 Oberst-Sontag 的 Gumbel-Max 机制更一般(Gumbel-Max 是共享响应的一种特例),但比 Haugh-Singal 的完全一般联合分布更受限。 - 新增:预算概念将"模型分歧"从定性描述转化为定量约束,这是对现有敏感性分析框架的补充。
主要结果¶
定理 1(下界):对任意 \(n\) 和 \(p\),\(L = W_1(\nu_\alpha, \nu_\beta)\),其中 \(\nu_\alpha = \sum_i \alpha_i \delta_{p_i}\),\(\nu_\beta = \sum_i \beta_i \delta_{p_i}\) 是风险值的经验分布,\(W_1\) 是一维 Wasserstein 距离。下界可由共享阈值响应 \(Z_i = 1\{V \le p_i\}\) 达到。
定理 2(三状态上界):对 \(n \le 3\),\(U = U^{\text{cut}}\),其中 \(U^{\text{cut}}\) 是割 LP 的最优值,有闭式表达式。直觉:三状态时,任何响应向量要么是常数(全 0 或全 1),要么是单点割(singleton cut)或其补集,因此割松弛是紧的。
定理 5(对称敏感性前沿):在均匀三状态模型(\(\alpha = \beta = (1/3,1/3,1/3)\),\(p = (1/2,1/2,1/2)\))中,给定预算 \((\rho, \delta)\),整个可达的危害区间为 \([0, \min\{1/2, 1/3 + (\rho+\delta)/2\}]\)。这个结果是尖锐的——存在显式构造达到上界。
四状态反例:存在 \(n=4\) 的实例使得 \(U^{\text{cut}} > U\),即割松弛不再紧。具体实例:\(\alpha = (1,1,4,4)/10\),\(\beta = (4,1,4,1)/10\),\(p = (3,2,2,1)/4\),此时 \(U = 3/10\) 而 \(U^{\text{cut}} = 7/20\)。
有限样本审计:通过 8 变量 LP 传播所有模型参数的置信区间,得到反事实危害量的保守置信区间。在 EpiCare 和脓毒症模拟器上的实验显示,原生配置下阶段依赖性很小,且无额外联合兼容性增益。
证明路线与技术技巧¶
整体路线: 1. 分解:利用恒等式 \(H = \frac{1}{2}(\alpha - \beta)^\top p + \frac{1}{2} \Pr(Y_A \ne Y_B)\),将问题分解为"可识别的边际部分"和"不可识别的不一致部分"。 2. 下界:证明最小不一致概率等于 Wasserstein 距离,通过构造共享阈值响应达到。 3. 上界:将最大化不一致概率转化为割问题。对每个响应向量 \(z\),定义割 \(S(z) = \{i : z_i = 1\}\),则不一致概率等于 \(\sum_{i \in S, j \notin S} C_{ij}\)。最大化问题变为在传输多胞形和响应多胞形上最大化割权重。 4. 三状态闭式解:利用三状态时响应多胞形的顶点结构(只有常数向量和单点割),将问题简化为有限个 LP。 5. 预算扩展:将 TV 预算和响应不匹配预算转化为额外的线性约束,得到校准的外界。
关键技巧: - Wasserstein 距离的因果解释:下界等于风险分布之间的 Wasserstein 距离,这为"模型分歧"提供了直观的几何解释——两个模型的风险分布越远,最小可能的反事实危害越大。 - 割多胞形:借用 Huber-Marić 的 cut 多胞形理论,将响应向量的几何结构转化为线性不等式。 - 精确有理验证:四状态反例使用精确有理算术验证,避免浮点误差。
🔎 结论是否比证明窄¶
是的,存在明显的不匹配:
-
摘要声称"sharp"但正文承认一般 n 不 sharp:摘要和引言强调"sharp interval",但定理 2 的 sharpness 仅限于 \(n \le 3\),定理 5 的 sharpness 仅限于对称三状态模型。对于一般 \(n\),作者只给出了外界(outer bound),且明确承认"一般 analytic 上界是 outer 的"(第 3 节末尾)。摘要中的"sharp"表述可能让读者高估了结果的 generality。
-
"预算"的 sharpness 有限:定理 5 的 sharpness 依赖于对称三状态模型的特殊结构(均匀状态分布、均匀风险)。对于非对称模型或 \(n > 3\),预算约束下的界是否 sharp 未得到证明。作者在 Limitations 中承认"sharp joint frontier is specific to the symmetric half-risk three-state family"。
-
有限样本审计的保证是保守的:第 5.2 节的置信区间是保守的(conservative),而非精确的。作者明确说"guarantees remain conditional on the stated causal model",且"nonzero boxes need not give sharp nuisance-robust extrema"。这意味着审计协议提供的保证可能远宽于实际需要的区间。
-
"诚实负面结果"的表述:作者在 EpiCare 审计中报告"原生配置显示阶段依赖性很小",但这一结论依赖于特定的模型设定和审计协议。作者没有声称这是对 EpiCare 模型的一般性结论,但摘要的表述可能让读者误以为这是一个普遍成立的负面结果。
四、开放问题¶
-
一般 n 的 sharp 上界:本文证明了 \(n \le 3\) 时割松弛是紧的,\(n = 4\) 时失效。是否存在 \(n \ge 4\) 时的一般性 sharp 上界?或者,割松弛的失效是否有一个统一的刻画?这需要更深入的响应多胞形几何分析。(扎根于第 3.2 节"四状态反例"和 Limitations 中"general n 的界是 outer 的"。)
-
预算约束下的 sharp 前沿:定理 5 的 sharpness 仅限于对称三状态模型。在非对称模型或 \(n > 3\) 时,给定 \((\rho, \delta)\) 预算,可达的危害区间是什么?是否存在类似定理 5 的闭式刻画?(扎根于 Limitations 中"sharp joint frontier is specific to the symmetric half-risk three-state family"。)
-
有限样本审计的精确性:本文的置信区间是保守的。能否构造精确(或至少更紧)的有限样本置信区间?这可能需要更精细的耦合论证或 bootstrap 方法。(扎根于第 5.2 节"nonzero boxes need not give sharp nuisance-robust extrema"。)
-
多阶段/连续状态推广:本文的两阶段离散状态设定是高度简化的。真实世界模型通常有更多阶段、连续状态、部分可观测性。这些设定下的反事实危害审计问题是否仍然可处理?(扎根于 Limitations 中"arbitrary multivalued trajectories or relax suffix independence"未被解决。)
-
预算的可识别性:本文的预算 \((\rho, \delta)\) 是假设已知的,但实际中这些预算本身可能需要从数据中估计。如何估计这些预算,以及估计误差如何传播到最终的危害区间?(扎根于第 4 节"budgets remain generally unidentified from observational data"。)
-
与 minimax 最优性的联系:本文的界是识别界(identification bounds),即在给定可观测分布下所有兼容模型的反事实量范围。这些界与统计估计的 minimax 最优性有何联系?是否存在一个统一的框架,将识别不确定性和估计不确定性结合起来?(这是作者未提及的潜在方向,但与其"有限样本审计"的目标直接相关。)
提醒:要确认上述开放问题是否是真 gap,建议去读以下子领域的近期论文(各约 5 篇)的引言部分: - 部分识别与因果界(Manski, Tamer, Molinari 等人的近期工作) - 敏感性分析(Cinelli, Hazlett, Veitch 等人的近期工作) - 世界模型的可信度评估(医疗模拟领域的可信度评估文献) - 计算复杂性与因果推断(Altschuler-Boix-Adserà 的后续工作)
如果这些论文的引言都指向同一个未解决问题,那很可能是共识性 gap;如果它们各自提出不同的框架且互不兼容,那可能是机会所在。
Maintained by 陈星宇 · Homepage · Source on GitHub