跳转至

Triple-dyad ratio estimation for the \(p_1\) model

讲者: Ting Yan
会场: Inference in Statistical Models for Network Data
报告题目: Triple-Dyad Ratio Estimation for the p1 Model
链接: arXiv
来源: JCSDS 2026 · 返回会议总览

一、领域脉络与小综述

这个方向是什么

这个子方向致力于为有向网络的统计模型建立渐近理论，特别是为 Holland 和 Leinhardt (1981) 提出的 p1 模型。p1 模型是一个指数族模型，其充分统计量是每个节点的出度、入度以及网络中互惠边（reciprocated edges）的总数。该模型包含 2n+2 个参数：一个全局密度参数 θ，一个全局互惠参数 ρ，以及每个节点的“扩张性”参数 α_i 和“受欢迎度”参数 β_j。核心的统计挑战在于，当网络规模 n 增长时，参数个数也线性增长，这使得经典的极大似然估计（MLE）的渐近性质（相合性、渐近正态性）变得极其困难。这个问题被 Goldenberg et al. (2010) 和 Fienberg (2012) 明确列为长期未解决的开放问题。

发展脉络（history）

  1. 奠基工作与β-模型的突破：p1 模型提出后，其无向版本——β-模型（每个节点一个参数）率先取得了理论突破。Chatterjee, Diaconis, and Sly (2011) 建立了 β-模型中 MLE 的一致相合性，并给出了一个固定点迭代算法的收敛速度。Yan and Xu (2013) 进一步推导了其中心极限定理，关键技巧是构造一个简单矩阵来高精度近似 Fisher 信息矩阵的逆。这些工作为处理“参数个数随样本量增长”的网络模型提供了可借鉴的框架。

  2. 向有向模型的推进与p0模型：Yan, Leng, and Zhu (2016) 将 β-模型的技术推广到有向图，研究了 p0 模型（p1 模型去掉互惠参数 ρ 的特例）。他们建立了 MLE 的一致相合性和渐近正态性。这证明了在边独立（dyad-independent）的设定下，通过近似 Fisher 信息矩阵的逆矩阵来处理高维参数是可行的。

  3. p1模型的困境与代数统计视角：然而，p1 模型因包含互惠参数 ρ，导致边不再独立（dyad-dependent），其 Fisher 信息矩阵不再具有对角占优或平衡性质，使得前述技术失效。Yan and Leng (2015) 的模拟研究也证实了 MLE 在 p1 模型中的渐近行为难以分析。与此同时，Fienberg, Petrović, and Rinaldo (2011) 和 Petrović, Rinaldo, and Fienberg (2010) 从代数统计的角度研究了 p1 模型的几何性质（如 Markov 基），但这并未解决参数估计的渐近理论问题。

  4. 稀疏网络与广义β-模型：后续研究开始关注更现实的稀疏网络场景。Wang and Bickel (2017) 在随机块模型（SBM）中研究了 θ → -∞ 的条件。Chen, Kato, and Leng (2021) 提出了稀疏 β-模型（SβM），通过 ℓ0 惩罚来减少参数维度。Zhang et al. (2021) 提出了 ℓ2 惩罚的 MLE 算法，首次在稀疏 β-模型中建立了率最优的误差界和高维渐近正态性。这些工作表明，在稀疏条件下，通过正则化或特殊设计，仍可能获得统计保证。

  5. 本文的位置：本文直接挑战 p1 模型的“长期开放问题”。它没有尝试攻克 MLE 的渐近理论，而是另辟蹊径，提出了一种全新的、基于“三元组比率”（triple-dyad ratio）的显式估计量。这种方法绕过了 MLE 的复杂性和 Fisher 信息矩阵的难题，首次为 p1 模型的所有参数提供了相合性和渐近正态性的理论保证。Feng et al. (2026) 是同一批作者的前期工作，专门研究了稀疏网络中互惠参数 ρ 的最优估计，本文则将其推广到所有参数。

子线索聚类

这些被引文献大致落在以下几条子线索上：

  • β-模型及其推广（无向图）：Chatterjee et al. (2011), Yan and Xu (2013), Perry and Wolfe (2012), Hillar and Wibisono (2013), Chen et al. (2021), Zhang et al. (2021), Chang et al. (2024)。这一簇的核心是研究无向网络模型，其中每个节点有一个参数，边是独立的。理论进展包括 MLE 的相合性、渐近正态性、稀疏网络下的正则化方法以及差分隐私下的推断。
  • p0模型与有向图（无互惠）：Yan, Leng, and Zhu (2016), Yan (2021)。这一簇将 β-模型的技术扩展到有向图，但排除了互惠参数 ρ，从而保持了 dyad 之间的独立性。这是从无向到有向的关键一步，但尚未触及 p1 模型的核心困难。
  • p1模型的代数与几何分析：Fienberg et al. (2011), Petrović et al. (2010)。这一簇不关注参数估计的渐近性质，而是从代数统计（如 toric 模型、Markov 基）的角度分析 p1 模型的结构，为条件检验等提供工具。
  • 稀疏网络与正则化方法：Wang and Bickel (2017), Chen et al. (2021), Zhang et al. (2021)。这一簇关注网络密度随 n 增长而趋于 0 的稀疏场景，通过惩罚似然或特殊模型设计（如 SβM）来应对参数维度和计算挑战。

这个方向在追问的核心问题

  1. MLE的渐近性质：在 p1 模型中，当 n → ∞ 时，MLE 是否相合？其渐近分布是什么？这是最核心、最经典的问题，但本文并未直接回答。
  2. 参数估计的统计保证：如果 MLE 的理论性质难以建立，是否存在其他估计方法，能够提供相合性和渐近正态性？本文正是对这一问题的正面回答。
  3. 稀疏网络下的可行性：当网络非常稀疏（如平均度远小于 n）时，参数估计是否仍然可能？需要什么样的条件（如 θ → -∞ 的速度）？本文在定理 1(2) 和定理 2 中给出了具体的稀疏性条件。
  4. 计算可行性：MLE 需要迭代算法，在大规模网络中计算成本高昂。是否存在具有显式表达式的、可扩展的估计方法？本文的“三元组比率估计量”正是为此设计。

⚠️ 作者的 framing

  • 作者的缺口：作者将缺口 frame 为“p1 模型的 MLE 渐近理论是长期开放问题”，并指出其根本困难在于互惠参数 ρ 破坏了 Fisher 信息矩阵的对角占优性质，使得 β-模型和 p0 模型中的技术失效。因此，本文的“显然的下一步”是放弃 MLE，提出一种全新的、不依赖于 Fisher 信息矩阵的估计方法。
  • 被淡化的竞争路线：作者淡化了正则化方法（如 Chen et al., 2021; Zhang et al., 2021）在 p1 模型上的可能性。这些方法在 β-模型中取得了成功，但作者暗示它们可能难以处理 ρ 带来的非独立性。此外，作者也淡化了代数统计路线（如 Petrović et al., 2010）在参数估计上的潜力，因为该路线主要关注检验而非估计。
  • 值得研究者去查的问题：为什么没有引用或讨论 Graham (2017) 的计量经济学模型？ Graham (2017) 同样处理了有向网络中的度异质性和互惠性，但其模型设定和估计方法（如固定效应 logit）与 p1 模型有显著不同。作者在引言中仅将其列为“广义β-模型”之一，但未深入比较。这是一个值得研究者去查的潜在张力点：Graham 的方法是否也能应用于 p1 模型？其理论性质如何？

张力

未见明显对立引用。所有被引工作基本都承认 p1 模型渐近理论的困难性，并各自从不同角度（简化模型、代数方法、正则化）尝试解决。本文是第一个直接针对 p1 模型全参数提出有理论保证的估计量的工作。

二、最核心、最简单的例子 / 数学问题

第一步：把符号、模型、可观测数据交代清楚

  • 符号：

    • n：网络中的节点数。
    • X_ij：从节点 i 到节点 j 的有向边指示变量。X_ij = 1 表示存在一条从 i 到 j 的边；X_ij = 0 表示不存在。X_ii = 0。
    • D_ij = (X_ij, X_ji)：节点 i 和 j 之间的二元组（dyad）。它有四种可能状态：(0,0)（空），(1,0) 或 (0,1)（非对称），(1,1)（互惠）。
    • p_ab^ij = P(D_ij = (a, b))：二元组 D_ij 处于状态 (a, b) 的概率，其中 a, b ∈ {0,1}。
    • θ：全局密度参数，控制网络的整体稀疏程度。
    • ρ：全局互惠参数，度量节点间形成互惠边的倾向。
    • α_i：节点 i 的“扩张性”参数，度量其发出边的倾向。
    • β_j：节点 j 的“受欢迎度”参数，度量其接收边的倾向。
    • Θ = (ρ, θ, α_1, ..., α_n, β_1, ..., β_n)^T：所有 2n+2 个参数的向量。
    • I_ab^ij = I(D_ij = (a, b))：二元组 D_ij 处于状态 (a, b) 的示性函数。这是一个可观测的随机变量。

  • 模型：

    • p1 模型假设所有 n(n-1)/2 个二元组 D_ij 是相互独立的。
    • 每个二元组 D_ij 的概率分布由指数族形式给出： p_ab^ij = (1/k_ij) * exp{ a(θ + α_i + β_j) + b(θ + α_j + β_i) + abρ }， 其中 k_ij 是归一化常数，确保四个概率之和为 1。
    • 为了模型可识别，施加约束：Σ_i α_i = 0 和 Σ_j β_j = 0。

  • 可观测数据：

    • 研究者能观测到的是整个有向图的邻接矩阵 X = {X_ij}_{i,j=1}^n。
    • 由此可以计算出所有二元组的状态 D_ij，进而得到示性函数 I_ab^ij。
    • 想要但观测不到的量：参数 Θ 本身。此外，由于 p1 模型是参数模型，一旦 Θ 已知，所有 p_ab^ij 就完全确定了，但它们是潜在的概率，不可直接观测。

第二步：讲最小内核

本文的核心思想可以用一个最简特例来理解：如何仅用三个节点 (i, j, t) 的观测数据来估计 θ + α_t + β_t？

  1. 关键代数恒等式：对于任意三个不同的节点 i, j, t，考虑两个特定的三元组子图概率的比率：

    • 子图 A：j → t → i（即 X_jt = 1, X_ti = 1），且 i 和 j 之间没有边（X_ij = 0, X_ji = 0）。其概率为 p_01^it * p_00^ij * p_01^tj。
    • 子图 B：j → i（即 X_ji = 1），且 t 与 i, j 之间没有边（X_it = 0, X_ti = 0, X_jt = 0, X_tj = 0）。其概率为 p_00^it * p_01^ij * p_00^tj。
    • 计算这两个概率的比率（并消去归一化常数 k）： log( p_01^it * p_00^ij * p_01^tj / (p_00^it * p_01^ij * p_00^tj) ) = log( exp{θ+α_t+β_i} * exp{θ+α_j+β_t} / (exp{θ+α_j+β_i}) ) = θ + α_t + β_t。

  2. 从概率到经验估计：上述恒等式是参数 p_ab^ij 之间的关系。为了估计它，我们用经验示性函数 I_ab^ij 来替换概率 p_ab^ij。具体地，对于固定的节点 t，我们考虑所有其他节点对 (i, j)：

    • 分子：Σ_{i,j ≠ t} I_01^it * I_00^ij * I_01^tj。这统计了所有满足“j → t → i 且 i, j 间无边”这种三元组模式的个数。
    • 分母：Σ_{i,j ≠ t} I_00^it * I_01^ij * I_00^tj。这统计了所有满足“j → i 且 t 与 i, j 间无边”这种三元组模式的个数。
    • 那么，log(分子 / 分母) 就是 θ + α_t + β_t 的一个估计量。

  3. 整合所有节点：由于 Σ_t α_t = 0 和 Σ_t β_t = 0，对所有 t 的估计量取平均，就可以消去 α_t 和 β_t，得到 θ 的估计量： ˆθ = (1/n) * Σ_{t=1}^n log( Σ_{i,j≠t} I_01^it I_00^ij I_01^tj / Σ_{i,j≠t} I_00^it I_01^ij I_00^tj )。

这个最小内核的核心思路是：通过精心挑选两个不同的三元组子图，使得它们概率的比率恰好等于一个只包含目标参数（θ+α_t+β_t）的简单表达式。然后，用观测到的三元组模式计数来估计这个概率比率，从而得到参数的显式估计量。整个论文的一般情形（估计 ρ, α_i, β_j）都是这个思路的推广，只是选择了不同的三元组子图对。

三、这篇论文做了什么

三句话

  1. 研究了什么问题：为有向网络 p1 模型中的全部 2n+2 个参数（密度 θ、互惠 ρ、扩张性 α_i、受欢迎度 β_j）提出了一种新的估计方法，并建立了其渐近理论。
  2. 核心工具/方法：提出了三元组比率估计量（triple-dyad ratio estimator）。该方法基于一个关键发现：某些参数或参数线性组合可以表示为两个特定三元组子图概率比值的对数。通过用观测到的三元组模式计数（即三个二元组示性函数的乘积之和）来估计这些概率比值，得到了所有参数的显式表达式。
  3. 主要结论：证明了该估计量在参数有界和稀疏网络两种条件下都是相合的，且具有渐近正态性。基于此，开发了用于检验互惠效应和参数相等性的假设检验方法。模拟和真实数据分析表明，该估计量在大网络中与 MLE 性能相当，但计算速度快得多。

关键设定与假设

  • 模型设定：p1 模型，所有 n(n-1)/2 个二元组 D_ij 相互独立，其概率由公式 (1) 给出。参数满足识别约束 Σ_i α_i = 0 和 Σ_j β_j = 0。
  • 假设：
    • 定理 1(1) 和定理 2（稠密网络）：||Θ||_∞ ≤ C，即所有参数的绝对值被一个常数 C 一致有界。这保证了网络密度是 O(1) 量级。
    • 定理 1(2) 和定理 2（稀疏网络）：θ → -∞（网络稀疏），|ρ| ≪ |θ|（互惠效应远小于稀疏效应）。此外，还施加了关于 C_n = max_{i,j} p_10^ij 和 c_n = min_{i,j} p_10^ij 的复杂技术条件 (13) 和 (27)，这些条件本质上限制了网络稀疏的速度。例如，在 α_i, β_j, ρ 有界时，条件 (27) 要求网络密度 ϕ_den ≫ n^{-1/3} log n。
  • 相比已有文献的放宽/强化：
    • 放宽：本文是第一个为 p1 模型全参数提供理论保证的工作，直接回应了长期开放问题。它不依赖于 MLE，因此绕过了 Fisher 信息矩阵逆矩阵近似这一在 p1 模型中失效的技术。
    • 强化：本文的估计量是显式的，计算上比 MLE 快得多。但作为代价，其理论条件（特别是稀疏网络下的条件）可能比 β-模型或 p0 模型中的相应条件更强。例如，β-模型在密度为 O(n^{-1} log n) 时仍有理论保证，而本文的稀疏条件要求密度至少为 O(n^{-1/3} log n)。

主要结果

  • 定理 1（相合性）：
    • (1) 在参数有界时，所有估计量的 ℓ_∞ 误差以 O_p(√(log n / n)) 的速度收敛到 0。
    • (2) 在稀疏网络下，给出了 ˆρ, ˆθ, ˆα_i, ˆβ_j 各自的收敛速度，这些速度依赖于 C_n 和 c_n（即依赖于 θ 和 ρ）。例如，ˆθ 的误差为 O_p(√(C_n^3 log n / (n c_n^4)))。
  • 定理 2（渐近正态性）：
    • ˆθ 和 ˆρ 的渐近分布是有偏的，偏差项为 θ* 和 ρ*（公式 22, 23），其量级为 O(n^{-1})。经过偏差修正后，(ˆθ - θ - θ*)/σ_θ 和 (ˆρ - ρ - ρ*)/σ_ρ 依分布收敛到标准正态分布。
    • ˆα_i 和 ˆβ_j 的渐近分布是无偏的。任意有限个 ˆα_i 和 ˆβ_j 的联合分布是渐近正态的，其协方差矩阵由公式 (21) 给出。
    • 渐近方差 σ_θ^2 和 σ_ρ^2 的量级为 O(n^{-2})，而 σ_{α_i}^2 和 σ_{β_j}^2 的量级为 O(n^{-1})。这符合直觉：θ 和 ρ 是全局参数，利用了 O(n^2) 个 dyad 的信息，因此收敛速度更快。
  • 推论 1（检验）：基于定理 2 和 Lemma 1（方差和偏差的相合估计），给出了一个可操作的检验统计量 (ˆρ - ρ* - ˆρ*)/ˆσ_ρ，用于检验 H_0: ρ = 0。

证明路线与技术技巧

  • 整体路线：

    1. 定义与线性化：将估计量 ˆθ 等写成 (1/n) Σ_t log(N_t / D_t) 的形式，其中 N_t 和 D_t 是三元组示性函数的和。通过泰勒展开，将 log(N_t/D_t) 围绕其期望 log(E[N_t]/E[D_t]) 展开，得到 ˆθ - θ ≈ (1/n) Σ_t ( (N_t - E[N_t])/E[N_t] - (D_t - E[D_t])/E[D_t] ) 加上高阶项和偏差项。
    2. 处理依赖关系：N_t 和 D_t 是大量三元组示性函数之和，这些示性函数之间具有复杂的依赖关系（因为它们共享节点）。为了处理这种依赖，作者引入了中间变量（intermediate variables）技术，将 N_t 分解为若干部分，使得每一部分内的随机变量是条件独立的。例如，通过固定一个节点，将三元组分解为不共享边的组。
    3. 方差计算：在得到线性近似后，需要计算 (1/n) Σ_t ( ... ) 的方差。这涉及到计算大量项（数百项）的协方差。作者通过仔细分类（如两个三元组共享 0, 1, 2, 3 个节点的情况），并利用 p1 模型下 dyad 的独立性，推导出渐近方差的显式表达式（公式 21）。
    4. 偏差项：泰勒展开的平方项（二阶项）在 ˆθ 和 ˆρ 的展开中不会消失，而是产生了 O(n^{-1}) 量级的偏差 θ* 和 ρ*。作者显式计算了这些偏差项，并提供了其相合估计量 ˆθ* 和 ˆρ*。
    5. 中心极限定理：在得到线性近似、方差和偏差后，应用经典的独立但不同分布（independent but not identically distributed）的 CLT（如 Lindeberg-Feller CLT）来证明渐近正态性。关键在于验证 Lindeberg 条件，这依赖于对高阶矩的界。

  • 关键跳跃点：

    • 从概率恒等式到经验估计量：发现 log(p_01^it p_00^ij p_01^tj / (p_00^it p_01^ij p_00^tj)) = θ + α_t + β_t 是核心洞察。但直接用经验计数 I_ab 替换概率 p_ab 后，log(Σ I_01^it I_00^ij I_01^tj / Σ I_00^it I_01^ij I_00^tj) 的期望不再是 θ + α_t + β_t，而是产生了偏差。处理这个偏差是证明中的一个难点。
    • 处理复杂依赖：N_t 和 D_t 中的项不是独立的。例如，I_01^it I_00^ij I_01^tj 和 I_01^kt I_00^kl I_01^tl 如果共享节点 t，则它们相关。作者通过引入中间变量（如固定 t 后，将 N_t 写成 Σ_{i,j} ... 的形式，然后利用矩阵乘法 A^01 A^00 A^01 的对角线元素来理解其结构），并发展了一套分解技术，将复杂的和分解为条件独立的部分，从而能够应用 Hoeffding 不等式等工具来得到概率界。

  • 技术技巧点名：

    • 矩阵乘法：将 Σ_{i,j≠t} I_01^it I_00^ij I_01^tj 识别为矩阵 A^01 A^00 A^01 的第 t 个对角线元素，从而将计算简化为矩阵乘法。这是实现算法高效的关键。
    • 高阶泰勒展开：对 log(N_t/D_t) 进行二阶泰勒展开，以捕捉偏差项。
    • 中间变量与条件独立分解：用于处理三元组示性函数之间的复杂依赖关系，是证明相合性和渐近正态性的核心技巧。
    • Hoeffding 不等式与 Bernstein 不等式：用于对条件独立的随机变量和进行概率控制，得到收敛速度。
    • Lindeberg-Feller 中心极限定理：用于证明渐近正态性。

真实例子与应用

  • 数据：新浪微博（Sina Weibo）数据集，包含 4077 个 MBA 项目中的个体，有向边表示“关注”关系。
  • 方法应用：
    • 为了处理稀疏性，作者移除了入度或出度小于 5 的节点，以及导致 µ_t^(abc) 为零的节点，最终使用 560 个节点进行计算。
    • 使用公式 (29) 的变体（对符合条件的 t 取平均）来估计参数。
  • 结果：
    • ˆθ = -6.06，表明网络非常稀疏。
    • ˆρ = 7.56，表明存在很强的互惠效应。
    • ˆα_i 的范围是 [-2.64, 5.44]，ˆβ_j 的范围是 [-2.08, 3.32]，表明节点间的度异质性很强。
    • 对 H_0: ρ = 0 的检验得到 p 值为 0.032，在 0.05 水平下显著，确认了互惠效应的存在。
  • 例子想说明什么：这个例子旨在展示本文方法在真实稀疏网络上的可行性和实用性。它能够处理大规模网络（尽管进行了节点筛选），并给出了有意义的参数估计和假设检验结果，验证了理论发现（如稀疏网络下的估计）。

🔎 结论是否比证明窄

  • 是。定理 1(2) 和定理 2 中关于稀疏网络的条件（公式 13 和 27）非常技术性，且依赖于 C_n 和 c_n，这些量本身依赖于未知参数。作者在讨论部分（Section 6）承认：“Our conditions imposed on the parameters to guarantee asymptotic theories may not be the best.” 模拟显示，在密度低至 n^{-1/3} 时，估计量仍有良好的表现，这暗示理论条件可能可以放松。因此，论文的理论结论（需要复杂条件）比其模拟和实际应用所暗示的（在更宽松条件下也有效）要窄。作者将此作为未来工作。

四、开放问题

  1. 放松稀疏网络条件：定理 1(2) 和定理 2 中关于稀疏网络的条件（如 c_n^15 / C_n^13 ≫ log^3 n / n）能否被显著放松？作者在讨论中明确提出了这一点，并指出模拟显示在 n^{-1/3} 密度下仍有效。扎根于：Section 6, “Our conditions imposed on the parameters to guarantee asymptotic theories may not be the best... It would be of interest to see whether the condition could be improved.”

  2. 寻找最优估计方法：本文提出的三元组比率估计量是众多可能选择之一（作者提到有超过 10 种非对称的三节点子图）。是否存在一个最优的估计量，能在稠密和稀疏网络下都达到最小渐近方差？Feng et al. (2026) 已经为 ρ 找到了最优估计，但全参数的最优性仍是开放问题。扎根于：Section 6, “Feng et al. (2026) investigate the optimal estimator for the reciprocity parameter in sparse networks. It is of interest to investigate whether there are optimal methods for estimating all parameters in the p1 model in both dense and sparse networks.”

  3. 扩展到更一般的模型：本文的方法能否扩展到 p1 模型的变体，例如包含节点协变量的模型（如 Yan et al., 2019）或加权网络？这需要重新设计三元组子图对，并处理更复杂的依赖结构。扎根于：引言中提到的“continues to form the foundation of many other models for network analysis”，以及 Yan et al. (2019) 的工作。

  4. 计算复杂度的理论分析：本文的算法通过矩阵乘法实现，计算复杂度为 O(n^3)（因为需要计算 A^01 A^00 A^01 等）。对于百万节点级别的网络，这个复杂度可能仍然过高。是否存在更高效的算法（如利用稀疏矩阵结构或随机化算法）来近似计算这些三元组计数？扎根于：Algorithm 1 和 Section 2 中关于计算效率的讨论。这是一个与研究者“统计-计算权衡”兴趣直接相关的开放问题。

Maintained by 陈星宇 · Homepage · Source on GitHub

评论