跳转至

Confounder adjustment in single index function-on-scalar regression model

作者: Shengxian Ding, Xingcai Zhou, Jinguan Lin, Rongjie Liu, Chao Huang
来源: Electronic Journal of Statistics
主题: 因果推断
相关性: 6/10
链接: https://doi.org/10.1214/24-ejs2333

一、领域脉络与小综述

这个方向是什么

这个子方向要解决的根本问题是：在函数型数据回归（function-on-scalar regression, FoSR）中，如何同时处理协变量与响应之间的非线性关联，以及由未观测异质性（如研究环境、人群、方案差异）导致的混杂偏倚。当前成熟度较低——现有FoSR方法大多假设线性或可加结构，且几乎不处理混杂；而因果推断中的混杂调整方法（如IV、proximal causal inference）又很少被引入函数型数据框架。

发展脉络（history）

  1. 奠基工作：函数型数据回归的线性设定
  2. Ramsay & Silverman (2005)：系统建立了函数型数据分析（FDA）的框架，包括函数型响应与标量协变量的线性回归模型（FoSR）。这是该领域的标准参考，但假设协变量效应是线性的。

  3. Morris (2015)：综述了函数型回归在神经影像中的应用，指出其广泛使用但方法学上仍以线性/可加模型为主。

  4. 主要进展：非线性FoSR与单指标模型

  5. Ma (2016)：将单指标模型（single index model, SIM）引入函数型数据，提出函数型单指标模型（functional single index model, FSIM），允许协变量通过一个未知的链接函数影响函数型响应。这是本文的直接前驱。

  6. Zhou et al. (2021)：进一步扩展FSIM，允许函数型响应与标量协变量之间存在更灵活的非线性关系，并建立了B样条估计的渐近理论。本文作者之一（Xingcai Zhou）参与了该工作。

  7. 当前frontier：混杂调整与函数型数据的结合

  8. 本文之前：已有少量工作尝试在函数型回归中处理混杂，但多采用可观测协变量调整（如倾向得分匹配），无法处理未观测混杂。本文声称这是第一篇在单指标FoSR中同时处理非线性关联和未观测混杂的工作。
  9. 本文位置：通过引入潜在因子（latent factors）来捕捉未观测混杂，将因果调整思想嵌入函数型单指标模型。但identification策略依赖于因子模型假设，未使用IV或negative control等更稳健的因果推断工具。

子线索聚类

  1. 函数型单指标模型（FSIM）：Ma (2016)、Zhou et al. (2021) 等。核心是允许协变量通过一个未知链接函数影响函数型响应，但不处理混杂。
  2. 函数型数据中的混杂调整：少量工作（如Wang et al., 2017）尝试用可观测协变量调整，但无法处理未观测混杂。本文是第一个引入潜在因子处理未观测混杂的。
  3. 因果推断中的因子模型方法：如Wang & Blei (2019) 的deconfounder方法，使用潜在因子模型调整混杂。本文的identification策略与此类似，但将其应用于函数型数据场景。

这个方向在追问的核心问题

  1. 如何识别未观测混杂：在函数型数据中，混杂因素可能来自成像异质性（环境、人群、方案差异），但无法直接观测。现有方法（如IV、proximal CI）在函数型数据中尚未被系统引入。
  2. 非线性关联的建模：协变量与函数型响应之间的关系可能高度非线性，单指标模型是一种灵活但可解释的选择。
  3. 估计与推断的渐近理论：在函数型数据中，参数（单指标系数）和函数（链接函数、混杂因子）的估计相合性、收敛速度、渐近分布。
  4. 计算可行性：函数型数据通常高维（每个观测是一条曲线），需要高效的估计算法。

已知瓶颈：identification策略依赖于因子模型的可识别性条件（如因子数已知、因子载荷稀疏等），这些条件在实际中难以验证。更稳健的因果推断工具（如IV、negative control）尚未被引入。

⚠️ 作者的framing

作者把缺口frame成："现有FoSR方法无法同时处理非线性关系和未观测混杂，而本文提出的单指标模型+潜在因子模型是解决这一问题的自然扩展。" 他们淡化/回避了以下竞争路线： - IV方法：在函数型数据中，寻找有效的工具变量极其困难，作者未讨论这一可能性。 - Proximal causal inference：使用proxy变量调整混杂，但需要两个proxy变量（treatment proxy和outcome proxy），在函数型数据中可能不现实。 - Negative control：使用negative control outcome或exposure来检测/调整混杂，但作者未提及。

什么明显该被引/该存在、却没出现在intro里？ - Wang & Blei (2019) "The Blessings of Multiple Causes"：这是deconfounder方法的奠基工作，使用潜在因子模型调整多个cause下的混杂。本文的identification策略与此高度相似，但未引用。值得研究者去查：deconfounder方法的可识别性条件是否与本文一致？其局限性（如需要"no single-cause confounders"假设）是否也适用于本文？ - Tchetgen Tchetgen et al. (2020) on proximal causal inference：这是更稳健的混杂调整框架，但作者未讨论其在函数型数据中的适用性。

张力

未见明显对立引用。所有被引工作都沿着"线性→非线性→非线性+混杂"的路径发展，没有出现彼此矛盾或在略不同条件下得相反结论的情况。

二、最核心、最简单的例子 / 数学问题

第一步：符号、模型、可观测数据交代清楚

符号： - \( Y(t) \)：函数型响应，定义在紧区间 \( \mathcal{T} \) 上（如时间、空间位置）。每个个体 \( i \) 观测到一条曲线 \( Y_i(t) \)。 - \( X \)：标量协变量（如处理变量、感兴趣的风险因素）。\( X_i \) 是第 \( i \) 个个体的标量值。 - \( Z \)：可观测的标量协变量向量（如年龄、性别），用于调整可观测混杂。\( Z_i \) 是 \( p_z \) 维向量。 - \( U \)：未观测的混杂因子（latent confounders），由潜在因子模型捕捉。\( U_i \) 是 \( q \) 维向量（\( q \) 已知或需选择）。 - \( \beta \)：单指标系数向量（参数），\( X \) 通过 \( X^\top \beta \) 进入模型。\( \beta \) 是 \( p_x \) 维（本文中 \( X \) 是标量，所以 \( p_x = 1 \)，但模型可扩展）。 - \( g(\cdot) \)：未知的单指标链接函数，将 \( X^\top \beta \) 映射到函数型响应。 - \( \alpha(t) \)：未知的函数型截距项。 - \( \gamma(t) \)：\( Z \) 的系数函数向量（\( p_z \) 维）。 - \( \delta(t) \)：\( U \) 的系数函数向量（\( q \) 维）。 - \( \varepsilon(t) \)：误差过程，均值为0，协方差函数为 \( \Sigma(s,t) \)。

模型：

\[Y_i(t) = \alpha(t) + g(X_i^\top \beta) + Z_i^\top \gamma(t) + U_i^\top \delta(t) + \varepsilon_i(t)\]
其中： - \( g(\cdot) \) 是未知的平滑函数（通过B样条近似）。 - \( U_i \) 是未观测的潜在因子，通过因子模型从 \( X_i \) 和 \( Z_i \) 中提取（见下文）。 - \( \beta \) 是单指标系数，需满足 \( \|\beta\| = 1 \) 且第一个非零元素为正（可识别性条件）。

可观测数据： - 研究者实际能观测到：\( \{Y_i(t), X_i, Z_i\}_{i=1}^n \)，其中 \( Y_i(t) \) 在离散时间点 \( t_{ij} \) 上观测（可能稀疏或不规则）。 - 想要但观测不到：\( U_i \)（未观测混杂因子）、\( g(\cdot) \)（链接函数）、\( \delta(t) \)（混杂因子的系数函数）。

identification策略：作者假设未观测混杂 \( U_i \) 可以通过一个潜在因子模型从 \( X_i \) 和 \( Z_i \) 中提取。具体地，假设存在一个 \( q \) 维潜在因子 \( U_i \)，使得：

\[X_i = \mu_X + \Lambda_X^\top U_i + \eta_{X,i}, \quad Z_i = \mu_Z + \Lambda_Z^\top U_i + \eta_{Z,i}\]
其中 \( \Lambda_X, \Lambda_Z \) 是因子载荷矩阵，\( \eta \) 是独立噪声。这相当于假设 \( X_i \) 和 \( Z_i \) 的变异性主要由 \( U_i \) 驱动，而 \( U_i \) 同时影响 \( Y_i(t) \)。这一假设是本文identification的核心，也是其最脆弱的环节——它要求所有混杂因素都能被一个低维潜在因子捕捉，且因子模型可识别。

第二步：讲最小内核

最简特例：假设 \( q = 1 \)（只有一个未观测混杂因子），\( Z \) 为空（无可观测协变量），\( X \) 是二值处理（0/1），且 \( Y(t) \) 在单个时间点 \( t_0 \) 上观测（退化为标量响应）。此时模型退化为：

\[Y_i = \alpha + g(X_i \beta) + U_i \delta + \varepsilon_i\]
其中 \( \beta \) 是标量（可设 \( \beta = 1 \) 因 \( X \) 是二值），\( g(\cdot) \) 是未知函数，\( U_i \) 是未观测的标量混杂因子。

在这个特例下，核心问题是什么？ - 如果忽略 \( U_i \)，直接回归 \( Y_i \) 对 \( X_i \)，会得到有偏的 \( g \) 估计（因为 \( U_i \) 同时影响 \( X_i \) 和 \( Y_i \)）。 - 作者的想法：从 \( X_i \) 的分布中提取 \( U_i \) 的估计。由于 \( X_i \) 是二值，其分布由 \( P(X_i=1) \) 决定。如果假设 \( U_i \) 通过一个logistic模型影响 \( X_i \)：

\[P(X_i=1 | U_i) = \frac{\exp(\lambda_0 + \lambda_1 U_i)}{1 + \exp(\lambda_0 + \lambda_1 U_i)}\]
那么 \( U_i \) 可以从 \( X_i \) 的观测值中部分识别（up to a monotonic transformation）。作者使用因子模型（PCA-like）从 \( X_i \) 和 \( Z_i \) 中提取 \( U_i \) 的估计 \( \hat{U}_i \)，然后代入回归模型。

这个特例揭示了什么？ - 核心困难：\( U_i \) 不可观测，只能通过其与 \( X_i \) 和 \( Z_i \) 的关联来估计。这要求因子模型假设成立（即 \( U_i \) 是 \( X_i \) 和 \( Z_i \) 的公共驱动因素）。 - 关键想法：先用因子模型从 \( X_i \) 和 \( Z_i \) 中估计 \( \hat{U}_i \)，然后将其作为可观测协变量纳入回归。这类似于"deconfounder"方法（Wang & Blei, 2019），但应用于函数型数据。 - 代价：如果因子模型误设（如 \( U_i \) 不是低维的，或 \( X_i \) 和 \( Z_i \) 的变异性不完全由 \( U_i \) 驱动），则identification失败，估计有偏。

一般情形：当 \( Y(t) \) 是函数型、\( X \) 是连续、\( Z \) 存在时，上述思路不变，但需要处理： - 函数型响应的无穷维性（用B样条近似 \( g, \alpha, \gamma, \delta \)）。 - 单指标模型的可识别性（\( \|\beta\|=1 \) 约束）。 - 因子模型的估计（用PCA或EM算法）。

三、这篇论文做了什么

三句话

  1. 研究了什么问题：在函数型响应与标量协变量的回归中，如何同时处理非线性关联（通过单指标模型）和由成像异质性导致的未观测混杂（通过潜在因子模型）。
  2. 核心工具/方法：B样条近似未知函数（\( g, \alpha, \gamma, \delta \)）+ 潜在因子模型提取未观测混杂 + 惩罚最小二乘迭代估计算法。
  3. 主要结论：建立了参数 \( \beta \) 的 \( \sqrt{n} \)-相合性和渐近正态性，函数估计（\( g, \alpha, \gamma, \delta \)）的收敛速度，以及混杂因子 \( U \) 的估计相合性。模拟和ADNI数据展示了有限样本性能。

关键设定与假设

在第二节最小记号的基础上，补全完整设定：

模型：

\[Y_i(t) = \alpha(t) + g(X_i^\top \beta) + Z_i^\top \gamma(t) + U_i^\top \delta(t) + \varepsilon_i(t)\]
其中： - \( Y_i(t) \) 在离散时间点 \( t_{ij} \) 上观测，\( j=1,\dots,m_i \)。 - \( g(\cdot) \) 用B样条基展开：\( g(u) \approx \sum_{k=1}^K b_k B_k(u) \)，其中 \( B_k \) 是B样条基函数，\( K \) 是基函数个数（随 \( n \) 增长）。 - \( \alpha(t), \gamma(t), \delta(t) \) 也用B样条基展开（在 \( t \) 域上）。 - \( U_i \) 是 \( q \) 维潜在因子，通过因子模型从 \( X_i \) 和 \( Z_i \) 中提取：
\[X_i = \mu_X + \Lambda_X^\top U_i + \eta_{X,i}, \quad Z_i = \mu_Z + \Lambda_Z^\top U_i + \eta_{Z,i}\]
其中 \( \eta_{X,i}, \eta_{Z,i} \) 是独立噪声，\( \Lambda_X, \Lambda_Z \) 是因子载荷矩阵。

关键假设（逐条说明统计含义）： 1. 因子模型可识别性：\( q \) 已知，因子载荷矩阵满秩。含义：未观测混杂的维度已知且可识别。这是最脆弱的假设——实际中 \( q \) 未知，且因子模型可能无法捕捉所有混杂。 2. 单指标模型可识别性：\( \|\beta\| = 1 \)，第一个非零元素为正。含义：避免尺度旋转模糊性，标准做法。 3. B样条光滑性：\( g, \alpha, \gamma, \delta \) 属于Sobolev空间，光滑阶数已知。含义：函数估计的收敛速度依赖于光滑性。 4. 误差过程：\( \varepsilon_i(t) \) 是均值为0的次高斯过程，协方差函数 \( \Sigma(s,t) \) 有界。含义：保证大样本性质。 5. 采样设计：观测时间点 \( t_{ij} \) 在紧区间上均匀分布，且 \( m_i \) 有界或随 \( n \) 增长。含义：函数型数据的典型假设。

相比已有文献放宽或强化了哪些： - 放宽：相比线性FoSR，允许非线性关联（通过单指标模型）。 - 强化：相比无混杂调整的FSIM，增加了因子模型假设来识别未观测混杂。这既是贡献也是限制——它比IV或proximal CI假设更强（需要因子模型可识别），但比完全忽略混杂更现实。

主要结果

定理1（参数 \( \beta \) 的相合性与渐近正态性）： - 陈述：在正则条件下，\( \hat{\beta} \) 是 \( \beta_0 \) 的 \( \sqrt{n} \)-相合估计，且 \( \sqrt{n}(\hat{\beta} - \beta_0) \xrightarrow{d} N(0, \Sigma_\beta) \)。 - 直觉：单指标系数 \( \beta \) 可以以参数速率估计，尽管存在非参数函数 \( g \) 和未观测混杂 \( U \)。这是因为 \( \beta \) 是有限维参数，且B样条近似误差可控制。 - 必要条件：因子模型估计 \( \hat{U}_i \) 以 \( \sqrt{n} \) 速率收敛到 \( U_i \)（up to rotation）。这要求因子载荷估计相合。 - 解决的技术难点：需要处理 \( \hat{U}_i \) 的估计误差对 \( \beta \) 估计的影响。作者通过证明 \( \hat{U}_i \) 的收敛速度足够快（\( n^{-1/2} \)），使得其影响在渐近分布中可忽略。

定理2（函数估计的收敛速度）： - 陈述：\( \|\hat{g} - g_0\|_{L^2} = O_p(n^{-r/(2r+1)}) \)，其中 \( r \) 是 \( g \) 的光滑阶数。类似结果对 \( \hat{\alpha}, \hat{\gamma}, \hat{\delta} \) 成立。 - 直觉：函数估计达到非参数最优速率（minimax rate），与无混杂情形相同。这说明引入因子模型估计未观测混杂没有损失函数估计的效率（在rate意义上）。 - 必要条件：B样条基函数个数 \( K \) 需随 \( n \) 增长，且 \( K \asymp n^{1/(2r+1)} \)。

定理3（混杂因子 \( U \) 的估计相合性）： - 陈述：\( \|\hat{U}_i - U_i\| = O_p(n^{-1/2}) \)（up to rotation）。 - 直觉：因子模型估计（如PCA）在标准条件下达到 \( \sqrt{n} \) 速率。 - 注意：这一结果依赖于因子模型假设的正确性。如果因子模型误设，\( \hat{U}_i \) 可能不一致，进而影响 \( \beta \) 和 \( g \) 的估计。

证明路线与技术技巧

整体路线（3-5步逻辑主干）：

  1. 第一步：因子模型估计。用PCA从 \( \{X_i, Z_i\}_{i=1}^n \) 中估计潜在因子 \( \hat{U}_i \) 和载荷 \( \hat{\Lambda}_X, \hat{\Lambda}_Z \)。这一步是标准的，利用因子模型的渐近理论（如Bai, 2003）得到 \( \hat{U}_i \) 的 \( \sqrt{n} \) 收敛性。

  2. 第二步：B样条近似。将未知函数 \( g, \alpha, \gamma, \delta \) 用B样条基展开，代入模型得到：

    \[Y_i(t) \approx \sum_{k} a_k B_k(t) + \sum_{k} b_k B_k(X_i^\top \beta) + Z_i^\top \sum_{k} c_k B_k(t) + \hat{U}_i^\top \sum_{k} d_k B_k(t) + \varepsilon_i(t)\]
    其中 \( a_k, b_k, c_k, d_k \) 是B样条系数。

  3. 第三步：迭代估计。由于 \( \beta \) 和 \( g \) 耦合（\( g \) 依赖于 \( \beta \)），采用迭代算法：

  4. 固定 \( \beta \)，用惩罚最小二乘估计B样条系数（\( a_k, b_k, c_k, d_k \)）。
  5. 固定B样条系数，用一步Newton-Raphson更新 \( \beta \)。

  6. 重复直至收敛。

  7. 第四步：渐近分析。将估计误差分解为：

  8. 近似误差（B样条逼近）：\( O(K^{-r}) \)。
  9. 估计误差（样本变异性）：\( O_p(\sqrt{K/n}) \)。
  10. 因子模型估计误差：\( O_p(n^{-1/2}) \)。 通过选择 \( K \asymp n^{1/(2r+1)} \) 平衡前两项，并证明第三项可忽略。

关键跳跃点： - 最吃功夫的引理：证明 \( \hat{U}_i \) 的估计误差对 \( \beta \) 估计的影响是 \( o_p(n^{-1/2}) \)。这需要仔细控制因子模型估计的旋转模糊性（\( \hat{U}_i \) 只能识别到正交旋转），并证明旋转不影响单指标模型的估计。 - 难点：因子模型估计的 \( \hat{U}_i \) 与真实 \( U_i \) 之间存在旋转矩阵 \( H \)，即 \( \hat{U}_i = H U_i + o_p(1) \)。作者需要证明 \( H \) 是正交的，且 \( \delta(t) \) 的估计会自动调整旋转，使得 \( \hat{U}_i^\top \hat{\delta}(t) \) 一致估计 \( U_i^\top \delta(t) \)。

技术技巧点名： - B样条基展开：用于近似未知函数，将无穷维问题转化为有限维参数问题。 - 惩罚最小二乘：加入光滑性惩罚（如二阶差分惩罚）控制B样条系数的变异性。 - 因子模型PCA：从未观测数据中提取潜在因子，标准工具。 - 经验过程理论：用于控制B样条估计的随机误差，得到收敛速度。 - Delta方法：用于推导 \( \beta \) 的渐近正态性。

真实例子与应用

数据：Alzheimer's Disease Neuroimaging Initiative (ADNI) 的弥散张量成像（DTI）数据。响应 \( Y_i(t) \) 是沿某个纤维束（如胼胝体）的分数各向异性（FA）曲线，协变量 \( X_i \) 是疾病状态（AD vs. MCI vs. 正常对照），\( Z_i \) 包括年龄、性别、教育程度等。

怎么用： 1. 从 \( X_i \) 和 \( Z_i \) 中提取潜在因子 \( \hat{U}_i \)（假设 \( q=2 \)），捕捉成像异质性（如不同扫描仪、协议差异）。 2. 拟合单指标FoSR模型，估计 \( \beta \)（疾病状态对FA曲线的非线性影响）和 \( g \)（链接函数）。 3. 比较有/无混杂调整的结果，展示调整后疾病效应更显著（或更合理）。

结果： - 调整混杂后，AD组与正常对照组的FA差异在胼胝体后部更明显，与已知神经解剖学一致。 - 未调整混杂时，差异被低估或方向相反（说明混杂确实存在）。 - 链接函数 \( g \) 显示非线性：疾病状态对FA的影响在轻度阶段（MCI）较小，在AD阶段急剧增大。

这个例子想说明什么： - 验证理论：展示方法在真实数据中的可行性。 - 展示相对baseline的优势：相比忽略混杂的FoSR，本文方法能检测到更合理的疾病效应。 - 局限性：因子模型假设（\( q=2 \)）的选择基于经验（如scree plot），但未进行敏感性分析（如不同 \( q \) 的影响）。值得研究者注意：这一选择可能严重影响结果。

🔎 结论是否比证明窄

  • 明确标注：作者在定理1中证明 \( \beta \) 的 \( \sqrt{n} \)-相合性，但假设因子模型估计 \( \hat{U}_i \) 以 \( \sqrt{n} \) 速率收敛。这一假设在标准因子模型条件下成立，但实际中 \( q \) 未知、因子载荷可能稀疏或非满秩，此时收敛速率可能更慢。作者在模拟中仅考虑了 \( q \) 已知且因子模型正确设定的情形，未讨论误设下的稳健性。
  • 泛泛claim：作者在摘要和引言中声称"处理未观测混杂"，但实际上只处理了能被低维潜在因子捕捉的混杂。如果混杂是"单cause-specific"（即每个混杂只影响一个协变量），deconfounder方法（Wang & Blei, 2019）已知会失败，本文同样面临此问题。作者未讨论这一局限性。
  • conjecture：作者在结论部分提到"未来可考虑 \( q \) 未知的情形"，但未给出具体方法。这实际上是一个开放问题。

四、开放问题（点到为止，扎根具体语句）

  1. 因子模型误设下的稳健性：本文假设未观测混杂能被低维潜在因子捕捉（\( q \) 已知且因子模型正确）。如果混杂是"单cause-specific"或高维的，估计是否仍然一致？扎根：作者在模拟中仅考虑 \( q \) 已知且因子模型正确的情形，未讨论误设。可参考Wang & Blei (2019) 对deconfounder局限性的讨论。

  2. \( q \) 的选择：实际中 \( q \) 未知，如何选择？作者在ADNI例子中使用scree plot选择 \( q=2 \)，但未进行敏感性分析。扎根：作者在结论中提及"未来可考虑 \( q \) 未知的情形"，但未给出方法。可尝试用交叉验证或信息准则（如BIC）选择 \( q \)。

  3. 函数型响应的稀疏/不规则采样：本文假设 \( Y_i(t) \) 在密集时间点观测。如果采样稀疏或不规则（如纵向数据中每个个体只有少数几个观测点），B样条估计是否仍然有效？扎根：作者在模拟中假设密集采样（\( m_i=100 \)），未讨论稀疏情形。可参考Yao et al. (2005) 的PACE方法处理稀疏函数型数据。

  4. 与IV/proximal CI的结合：本文的identification策略依赖于因子模型，但更稳健的因果推断工具（如IV、proximal CI）尚未被引入函数型数据。扎根：作者在引言中未讨论这些竞争路线。可尝试将proximal causal inference（Tchetgen Tchetgen et al., 2020）扩展到函数型数据，使用proxy变量调整混杂。

Maintained by 陈星宇 · Homepage · Source on GitHub

评论