Transfer Learning on Edge Connecting Probability Estimation under Graphon Model¶
讲者: Huimin Cheng
会场: Modern Machine Learning Theory
报告题目: Transfer Learning on Edge Connecting Probability Estimation Under Graphon Model
链接: arXiv
来源: JCSDS 2026 · 返回会议总览
一、领域脉络与小综述¶
这个方向是什么¶
本文研究的子方向是图模型(graphon model)下的边连接概率估计,具体是在目标图规模很小(节点数少)时,借助一个规模较大、结构相似的源图来提升目标图的估计精度。图模型是一个非参数框架:每个节点有一个潜在位置 \(u_i \in [0,1]\),边概率由对称可测函数 \(f(u_i, u_j)\) 给出。估计目标是从观测到的邻接矩阵 \(A \in \{0,1\}^{n \times n}\) 中恢复概率矩阵 \(P\)。当 \(n\) 很小时,传统估计方法误差很大,因此迁移学习(transfer learning)成为自然思路——从大图“借力”来改善小图的估计。该方向当前处于方法探索阶段:已有大量图论估计方法,但迁移学习在图论估计上的工作极少,且现有工作([26])要求节点对应关系已知,本文是第一个处理无节点对应的迁移学习框架。
发展脉络(history)¶
从奠基工作到当前前沿,被引文献可串成以下主线:
-
图论模型的提出与基础理论:Lovász (2012) [34] 和 Orbanz & Roy (2015) [42] 系统建立了图论作为可交换随机图模型的非参数框架。图论将 Erdős–Rényi 模型、随机块模型(SBM)等经典模型统一为特例。这一阶段奠定了模型基础,但未涉及估计。
-
图论估计方法的三大流派:
- 全局低秩方法:Chatterjee (2015) [11] 提出 Universal Singular Value Thresholding (USVT),通过截断奇异值估计概率矩阵,达到 minimax 最优率(常数因子内)。Xu (2018) [60] 进一步分析了谱方法的收敛速度。
- 组合优化方法:Gao, Lu & Zhou (2015) [19] 建立了图论估计的 minimax 最优率,并提出了基于节点排序的估计器,但计算上 NP-hard。Klopp, Tsybakov & Verzelen (2017) [29] 给出了稀疏图论估计的 oracle 不等式。
-
平滑方法:Chan & Airoldi (2014) [9] 提出排序与平滑(SAS)算法,通过总变分最小化实现一致估计。Zhang, Levina & Zhu (2017) [65] 提出邻域平滑(NS)方法,在多项式时间内达到近乎最优的 MSE(\(\sqrt{\log n / n}\) 量级),成为本文的核心基础工具。Qin, Yu & Li (2021) [45] 提出迭代连接概率估计(ICE),进一步改进了有限样本表现。
-
迁移学习在图数据上的应用:Pan & Yang (2010) [43] 是迁移学习的综述。在图上,迁移学习主要用于 GNN 的元学习、预训练/微调、对抗适应等([63, 25, 47, 7, 62, 12])。但针对图论估计的迁移学习,据作者所述,仅有 Jalan et al. (2024) [26] 一篇,且其方法要求目标网络是源网络的子集(节点对应已知)。本文填补了“无节点对应”的空白。
-
Gromov-Wasserstein 距离在图对齐中的应用:Mémoli (2011) [37] 提出 GW 距离,用于比较度量-测度空间。Solomon et al. (2016) [49] 引入熵正则化(EGW)以加速计算。GW 距离已被广泛用于图匹配、节点嵌入、跨域对齐等([58, 56, 13, 30, 59])。本文首次将 GW 距离用于图论迁移学习中的对齐步骤。
子线索聚类¶
被引文献大致落在以下三条子线索上:
- 线索 A:图论估计方法([10, 1, 9, 11, 65, 45, 19, 29, 60])。核心问题:给定一个邻接矩阵,如何估计概率矩阵 \(P\)?方法包括 USVT、SAS、NS、ICE 等。当前瓶颈:当 \(n\) 很小时,所有方法误差都很大。
- 线索 B:图上的迁移学习([63, 25, 47, 7, 62, 12, 26])。核心问题:如何利用源图信息提升目标图上的学习?现有工作多针对 GNN 分类或回归,仅 [26] 针对图论估计但要求节点对应。当前瓶颈:无节点对应时的迁移缺乏理论和方法。
- 线索 C:Gromov-Wasserstein 距离及其应用([37, 38, 49, 15, 2, 58, 21, 36, 56, 13, 30, 59])。核心问题:如何比较和对齐不同大小的图?GW 距离提供了框架,但计算成本高(QAP),熵正则化缓解了计算问题。当前瓶颈:GW 对齐的稳定性理论在非欧氏距离矩阵下尚不充分。
这个方向在追问的核心问题¶
- 如何在没有节点对应的情况下,将源图的结构信息迁移到目标图? 这是本文直接回答的问题。
- 迁移学习在什么条件下能带来收益,什么条件下会导致负迁移? 本文通过去偏步骤和阈值 \(\delta\) 来应对,但理论上的充分条件尚未完全刻画。
- 图论估计的误差如何影响对齐矩阵的稳定性? 本文定理 4.1 给出了一个上界,但依赖于 \(\epsilon\) 足够大的局部强凸性条件。
- 能否将迁移学习扩展到多源、动态图或带节点协变量的场景? 本文在结论中列为未来工作。
⚠️ 作者的 framing(必须明确标注成“这是作者的说法”)¶
作者将缺口 frame 成:“To the best of our knowledge, there is only one work [26] proposing a transfer learning method for graphon estimation. However, their methodology is constrained to scenarios where the target network exists as a subset of the source network, thereby leveraging known node correspondences between networks. We aim to tackle the more practical scenario where node correspondences are unknown. To our knowledge, no previous research addresses this gap.” 作者因此将自己的方法定位为“第一个无节点对应的图论迁移学习方法”。
被淡化或回避的竞争路线:作者没有讨论“直接 pooling 源和目标图然后联合估计”的可能性(尽管在附录 F.1 中作为 baseline 比较了 Pooled NS,但未在 intro 中提及)。此外,作者没有讨论使用图核(graph kernel)或图神经网络嵌入进行对齐的替代方案(如 GWB [57]、IGNR [55]、SIGL [4] 在实验中作为 baseline,但 intro 未提及这些方法在迁移场景下的潜力)。
什么明显该被引/该存在、却没出现在 intro 里? 作者没有引用关于“负迁移”的理论分析文献(如 Rosenstein et al. 2005 或更近的工作),尽管本文的去偏步骤正是为了应对负迁移。此外,关于 GW 距离的稳定性理论,作者引用了 [66] 和 [46],但 [66] 主要研究 EGW 的样本复杂度,[46] 研究欧氏距离下的稳定性,而本文需要的是非欧氏成本矩阵下的稳定性——这正是定理 4.1 的贡献,但作者没有引用更一般的扰动分析文献(如 Bonnans & Shapiro [6] 在证明中用了,但 intro 未提)。
张力¶
被引工作之间未见明显对立引用。图论估计的三大流派(低秩、组合、平滑)在各自假设下都有理论保证,但实际表现因图的结构而异。本文的模拟实验显示 NS 在多数情况下优于 USVT 和 SAS,但 ICE 有时更好。这些差异是方法本身的特性,并非矛盾。
二、最核心、最简单的例子 / 数学问题¶
第一步:把符号、模型、可观测数据交代清楚¶
符号: - \(n_s, n_t\):源图和目标图的节点数,\(n_s > n_t\)。 - \(A_s \in \{0,1\}^{n_s \times n_s}\),\(A_t \in \{0,1\}^{n_t \times n_t}\):观测到的邻接矩阵(对称,对角元为0)。 - \(P_s, P_t \in [0,1]^{n_s \times n_s}, [0,1]^{n_t \times n_t}\):真实的连接概率矩阵,即 \(A_{s,ij} \sim \text{Ber}(P_{s,ij})\),\(A_{t,ij} \sim \text{Ber}(P_{t,ij})\)。 - \(f_s, f_t : [0,1]^2 \to [0,1]\):源和目标图论函数,对称可测。 - \(u_{s,i}, u_{t,i} \in [0,1]\):节点 \(i\) 的潜在位置,假设独立同分布 \(\text{Unif}[0,1]\)。 - \(\hat{P}^{\text{ini}}_s, \hat{P}^{\text{ini}}_t\):通过邻域平滑(NS)得到的初始估计。 - \(\hat{\pi} \in [0,1]^{n_s \times n_t}\):GW 最优传输计划,满足行和 \(= 1/n_s\),列和 \(= 1/n_t\)(均匀测度)。 - \(\tilde{\pi}\):列归一化后的传输计划,每列和为1。 - \(\hat{P}^{\text{trans}}_t = \tilde{\pi}^\top \hat{P}^{\text{ini}}_s \tilde{\pi}\):传输后的估计。 - \(\hat{P}^{\text{trans2}}_t\):对 \(\hat{P}^{\text{trans}}_t\) 再次应用 NS 平滑后的估计。 - \(R_t = \hat{P}^{\text{ini}}_t - \hat{P}^{\text{trans2}}_t\):残差矩阵。 - \(\hat{P}^{\text{res}}_t\):对 \(R_t\) 应用 NS 平滑后的残差估计。 - \(\hat{P}_t\):最终估计,若 GW 距离 \(d \le \delta\) 则 \(\hat{P}_t = \hat{P}^{\text{trans2}}_t\),否则 \(\hat{P}_t = \hat{P}^{\text{trans2}}_t + \hat{P}^{\text{res}}_t\)。 - \(\delta\):去偏阈值,通过交叉验证选择。 - \(\epsilon\):EGW 中的熵正则化参数。
模型:图论模型。假设源和目标图分别由各自的图论函数生成,但允许它们不同。节点潜在位置独立均匀。观测数据是邻接矩阵 \(A_s, A_t\),是伯努利随机矩阵,条件于 \(P_s, P_t\) 独立。
可观测数据:研究者实际能观测到的是 \(A_s\) 和 \(A_t\)。潜在位置 \(u_{s,i}, u_{t,i}\) 和图论函数 \(f_s, f_t\) 均不可观测。目标是要估计 \(P_t\)(或等价地,\(f_t\) 在目标节点上的限制)。注意:\(P_t\) 本身是 \(n_t \times n_t\) 矩阵,但 \(n_t\) 很小,所以直接估计误差大。源图 \(A_s\) 提供了额外信息,但源和目标之间没有节点对应关系。
第二步:讲最小内核¶
最简特例:假设源和目标图论函数完全相同,即 \(f_s = f_t = f\),且 \(f\) 是光滑的(例如 Hölder 连续)。源图很大(\(n_s\) 大),目标图很小(\(n_t\) 小)。我们想估计目标图的概率矩阵 \(P_t\),其元素为 \(f(u_{t,i}, u_{t,j})\)。由于 \(n_t\) 小,直接使用 NS 估计 \(\hat{P}^{\text{ini}}_t\) 误差大。但源图很大,其 NS 估计 \(\hat{P}^{\text{ini}}_s\) 很准确(接近 \(P_s\))。如果知道源节点和目标节点之间的对应关系(即知道哪个 \(u_{s,i}\) 对应哪个 \(u_{t,j}\)),我们可以直接“复制”源图中对应位置的概率值。但对应关系未知。
核心思路:利用 GW 距离来“对齐”两个图的潜在结构。由于 \(f_s = f_t\),两个图的概率矩阵 \(P_s\) 和 \(P_t\) 在“重排节点顺序”后应该是相似的。GW 距离可以找到最优的软对齐 \(\pi^*\),使得 \(\sum_{i,i',j,j'} (P_{s,ii'} - P_{t,jj'})^2 \pi_{ij} \pi_{i'j'}\) 最小。如果 \(n_s = n_t\) 且节点潜在位置排序一致,则最优 \(\pi^*\) 是置换矩阵。当 \(n_s > n_t\) 时,\(\pi^*\) 将每个目标节点软分配给多个源节点。
最小内核的数学表述:在 \(f_s = f_t\) 且已知 \(P_s, P_t\) 的情况下,定义 \(\tilde{P}_t = (\pi^*)^\top P_s \pi^*\)(连续版本为 \(\tilde{g}(y,y') = \int \pi^*(y,x) f(x,x') \pi^*(x',y) dx dx'\))。定理 4.3 表明 \(\|\tilde{g} - g\|_2^2 \le \text{GW}_2^2(f,g)\)。当 GW 距离为 0 时(即 \(f\) 和 \(g\) 在重排下等价),\(\tilde{g} = g\)。因此,对齐后的传输估计是准确的。
实际中的困难:我们不知道 \(P_s, P_t\),只能用估计 \(\hat{P}^{\text{ini}}_s, \hat{P}^{\text{ini}}_t\) 代替。估计误差会导致对齐矩阵 \(\hat{\pi}\) 偏离 \(\pi^*\)。定理 4.1 给出了这种偏离的上界:\(\|\hat{\pi} - \pi^*\|_F \le C_2 \frac{\| (P_s \otimes P_t) - (\hat{P}^{\text{ini}}_s \otimes \hat{P}^{\text{ini}}_t) \|_{\text{op}}}{\| P_s \otimes P_t \|_{\text{op}}}\),前提是 \(\epsilon\) 足够大以保证局部强凸性。因此,只要初始估计足够好,对齐就是稳定的。
为什么这个特例抓住了核心:即使 \(f_s \neq f_t\),只要 GW 距离小,传输仍然有效(定理 4.3 的 bound 直接给出)。去偏步骤处理的是 GW 距离大的情况。因此,整个方法的核心就是“用估计的概率矩阵做 GW 对齐,然后传输”,而理论保证依赖于估计误差的传播。
三、这篇论文做了什么¶
三句话¶
- 研究了什么问题:在无节点对应的情况下,利用一个较大的源图来提升对一个小目标图的连接概率矩阵的估计精度。
- 核心工具/方法:提出 GTRANS 框架,包含三步:① 用邻域平滑(NS)得到初始图论估计;② 用 Gromov-Wasserstein(GW)或熵正则化 GW(EGW)计算对齐矩阵,将源估计投影到目标域并再次平滑;③ 当 GW 距离超过阈值 \(\delta\) 时,通过残差平滑进行自适应去偏以防止负迁移。
- 主要结论:① 对齐矩阵的稳定性:在 \(\epsilon\) 足够大的条件下,基于估计概率矩阵的 EGW 最优传输计划与基于真实概率矩阵的 oracle 计划之间的 Frobenius 范数误差,被初始估计误差的算子范数所控制(定理 4.1)。② GW 距离的近似:基于初始估计的 GW 距离与基于真实概率矩阵的 GW 距离相差不超过初始估计的 MSE 的常数倍(定理 4.2)。③ 传输后的估计误差:在连续版本下,对齐投影后的图论与目标图论的 \(L_2\) 距离不超过原始 GW 距离(定理 4.3)。④ 模拟和真实数据实验表明 GTRANS 在 MSE、图分类准确率和链接预测 AUC 上一致优于仅用目标数据的基线方法(NS、USVT、SAS、ICE)以及若干图对齐基线(GWB、IGNR、SIGL、Graphlet)。
关键设定与假设¶
- 图论模型:源和目标图分别由图论函数 \(f_s, f_t\) 生成,节点潜在位置独立均匀。允许 \(f_s \neq f_t\)。
- 邻域平滑(NS):假设图论函数满足一定的光滑性(如 Hölder 连续),使得 NS 估计达到 \(\sqrt{\log n / n}\) 的 MSE 率([65] 中的条件)。
- GW/EGW 对齐:使用均匀测度 \(\mu = (1/n_s, \dots, 1/n_s)\),\(\nu = (1/n_t, \dots, 1/n_t)\)。损失函数 \(L(x,y) = (x-y)^2\)。对于 EGW,熵正则化参数 \(\epsilon\) 需满足 \(\|\pi^*\|_\infty \le \epsilon / (C_1 \|P_s \otimes P_t\|_{\text{op}})\) 以保证局部强凸性(定理 4.1 的条件)。
- 去偏阈值:\(\delta\) 通过网络交叉验证([33])选择,默认值 \(\delta=0.15\)(GW)或 \(\delta=0.18\)(EGW)。
- 无节点对应:这是本文区别于 [26] 的关键设定。
相比已有文献,本文放宽了 [26] 中“目标网络是源网络子集”的假设,但增加了对图论光滑性的依赖(因为 NS 需要光滑性)。此外,本文没有假设源和目标图论相同,而是通过 GW 距离和去偏步骤自适应处理差异。
主要结果¶
定理 4.1(对齐矩阵稳定性): - 陈述:设 \(\hat{\pi}\) 和 \(\pi^*\) 分别是基于 \((\hat{P}^{\text{ini}}_s, \hat{P}^{\text{ini}}_t)\) 和 \((P_s, P_t)\) 的 EGW 最优传输计划。若 \(\|\pi^*\|_\infty \le \epsilon / (C_1 \|P_s \otimes P_t\|_{\text{op}})\)(\(C_1 > 2\)),且初始估计误差 \(\|P_s - \hat{P}^{\text{ini}}_s\|_\infty + \|P_t - \hat{P}^{\text{ini}}_t\|_\infty\) 小于某个 cutoff,则
定理 4.2(GW 距离的近似): - 陈述:设 \(\delta_{n_s}, \delta_{n_t}\) 为初始估计的 MSE 上界(以高概率成立),\(\delta_n = \delta_{n_s} + \delta_{n_t}\)。则在高概率事件上,
定理 4.3(传输后的 \(L_2\) 界): - 陈述:在连续版本下,设 \(\pi^*\) 是 \(f\) 和 \(g\) 之间的最优 GW 耦合,定义 \(\tilde{g}(y,y') = \int \pi^*(y,x) f(x,x') \pi^*(x',y) dx dx'\)。则 \(\|\tilde{g} - g\|_2^2 \le \text{GW}_2^2(f,g)\)。 - 直觉:对齐投影后的图论与目标图论的 \(L_2\) 距离不超过原始 GW 距离。因此,当源和目标图论相似(GW 距离小)时,传输后的估计自然接近目标。 - 证明:直接展开 \(\|\tilde{g} - g\|_2^2\),利用 Cauchy-Schwarz 和 \(\int \tilde{g}^2 \le \int f^2\),得到上界为 GW 距离。
证明路线与技术技巧(理论型)¶
整体路线(以定理 4.1 为例): 1. 将 EGW 目标函数写成显式形式:忽略常数项后,\(f(\pi) = -2 \operatorname{tr}(\pi^\top P_s \pi P_t) + \epsilon \sum_{ij} \pi_{ij} \log \pi_{ij}\),样本版本 \(g(\pi)\) 类似。 2. 证明 \(f\) 在 oracle 解 \(\pi^*\) 附近是 \(\mu\)-强凸的:计算 Hessian \(\nabla^2 f(\pi) = - (P_s \otimes P_t + P_s^\top \otimes P_t^\top) + \epsilon \operatorname{diag}(1/\pi_{ij})\)。当 \(\|\pi^*\|_\infty \le \epsilon / (C_1 \|P_s \otimes P_t\|_{\text{op}})\) 时,在 \(\pi^*\) 的某个邻域内,\(\epsilon \operatorname{diag}(1/\pi_{ij})\) 占主导,使得 Hessian 的最小特征值 \(\ge \mu > 0\)。 3. 估计 \(f\) 和 \(g\) 之间的差异:计算 \(\|f - g\|_\infty \le \|P_s - \hat{P}^{\text{ini}}_s\|_\infty + \|P_t - \hat{P}^{\text{ini}}_t\|_\infty = \Delta_{\text{pert}}\),以及 Lipschitz 常数 \(\kappa = 2 \| (P_s \otimes P_t) - (\hat{P}^{\text{ini}}_s \otimes \hat{P}^{\text{ini}}_t) \|_{\text{op}}\)。 4. 应用扰动引理(Lemma B.2):若 \(\Delta_{\text{pert}}\) 足够小(保证 \(g\) 的最小值点仍在强凸邻域内),则 \(\|\hat{\pi} - \pi^*\|_2 \le 2\kappa / \mu\)。代入 \(\kappa\) 和 \(\mu\) 的表达式即得定理。
关键跳跃点: - 证明 EGW 目标在 oracle 解附近的强凸性:需要将 Hessian 的负定部分(来自 \(-P_s \otimes P_t\))与正定部分(来自熵正则化)进行比较。这要求 \(\epsilon\) 足够大,且 \(\pi^*\) 的元素不能太大(即对齐不能太“集中”)。这个条件在论文中通过假设 \(\|\pi^*\|_\infty \le \epsilon / (C_1 \|P_s \otimes P_t\|_{\text{op}})\) 来保证。 - 扰动引理的应用:需要验证 \(g\) 的最小值点 \(\hat{\pi}\) 确实落在 \(f\) 的强凸邻域内。Lemma B.4 给出了充分条件:\(\|f-g\|_\infty \le \mu \tau^2 / 4\),其中 \(\tau\) 是邻域半径。作者通过设定 \(\tau = \epsilon / (C_2 \|P_s \otimes P_t\|_{\text{op}})\) 并代入 \(\mu\) 的表达式,得到 \(\Delta_{\text{pert}}\) 的上界条件。
技术技巧点名: - Kronecker 积与算子范数:将双线性形式 \(\operatorname{tr}(\pi^\top P_s \pi P_t)\) 重写为 \(\text{vec}(\pi)^\top (P_s \otimes P_t) \text{vec}(\pi)\),从而利用算子范数控制扰动。 - 强凸性分析:通过 Hessian 的最小特征值下界建立局部强凸性,这是非凸优化中常见的技巧。 - 扰动引理(Bonnans & Shapiro):用于将凸优化(局部强凸)的稳定性结果推广到非凸但局部强凸的情形。 - 三角不等式与 \((a+b+c)^2 \le 4(a^2+b^2+c^2)\):定理 4.2 的证明中反复使用。 - Cauchy-Schwarz 与 \(\int \tilde{g}^2 \le \int f^2\):定理 4.3 的证明中用于控制交叉项。
真实例子与应用¶
本文包含丰富的真实数据实验,分为两个下游任务:
1. 图分类(数据增强): - 数据:目标数据集为 IMDB-BINARY(平均 19.77 节点)、IMDB-MULTI(平均 13.00 节点)、PROTEINS-Full(平均 25.22 节点)。源数据集为 Reddit-Binary(平均 429 节点)、COLLAB(平均 74.49 节点)、D&D(平均 284.32 节点)。 - 方法:采用 G-Mixup [22] 框架,用 GTRANS 估计每个类的图论,然后插值图论生成合成图来增强训练集。使用 GCN 分类器,与仅用目标数据的 NS、USVT、SAS、ICE 以及图对齐方法 GWB、IGNR、SIGL、Graphlet 比较。 - 结果:GTRANS-GW 和 GTRANS-EGW 在所有目标数据集上取得最高准确率。例如,IMDB-Binary 上 GTRANS-EGW 从 Reddit-B 转移达 76.80%,从 COLLAB 转移达 77.50%,比最佳基线(GWB 75.30%)高约 2-2.5 个百分点。PROTEINS-Full 上 GTRANS-GW 达 69.33%,比最佳基线(Graphlet 70.11% 略低,但 Graphlet 不是图论方法;比 NS 63.18% 高 6 个百分点)。 - 说明:该例子验证了 GTRANS 能有效提升小图上的图论估计质量,进而改善下游分类性能。
2. 链接预测: - 数据:目标网络为 dolphins(62 节点)、karate(34)、football(115)、firm(33)。源网络为 wiki-vote(889 节点)。随机掩码 10% 的边作为测试集。 - 方法:用 GTRANS 估计目标概率矩阵,计算 AUC。 - 结果:GTRANS-GW 和 GTRANS-EGW 在 dolphins、firm、karate 上 AUC 最高(如 dolphins 76.26% vs NS 70.60%),在 football 上与 NS 持平(86.64% vs 86.75%)。说明迁移学习在目标图很小时收益最大。 - 额外实验:在 IMDB-Binary 上比较了同数据集内转移(结构最相似 vs 最大图)和跨数据集转移,发现结构最相似的源图(GW 距离最小)给出最高 AUC(0.96),验证了 GW 距离作为相似性度量的有效性。
🔎 结论是否比证明窄¶
- 定理 4.1 的结论是 \(\|\hat{\pi} - \pi^*\|_F\) 的上界,但该上界依赖于 \(\| (P_s \otimes P_t) - (\hat{P}^{\text{ini}}_s \otimes \hat{P}^{\text{ini}}_t) \|_{\text{op}}\),而实际中我们无法计算这个量(因为 \(P_s, P_t\) 未知)。因此,该定理是存在性保证而非可操作的误差界。作者在 Remark 4.4 中承认了这一点,并指出 \(\delta_{n_s}, \delta_{n_t}\) 的率依赖于图论的光滑性。
- 定理 4.2 给出了 GW 距离的近似,但常数 4 可能不是紧的。作者没有讨论能否改进。
- 定理 4.3 是连续版本的理想结果,但实际中我们使用离散的 \(\hat{\pi}\) 和 \(\hat{P}^{\text{ini}}_s\),离散化误差未被分析。作者在模拟中验证了有效性,但理论未覆盖离散情形。
- 去偏步骤的阈值 \(\delta\) 选择缺乏理论指导,仅通过交叉验证确定。作者在附录 E.4 中给出了经验默认值,但未证明其最优性。
- 论文声称“GTRANS is the first method for graphon estimation that transfers knowledge across graphs without any known node correspondence”,但未与 [26] 之外的潜在方法(如直接 pooling 后估计)进行理论比较。
四、开放问题¶
-
多源迁移的理论与算法:本文仅考虑单个源图。如何整合多个源图的信息?是否可以通过 GW 重心(barycenter)或加权融合来提升鲁棒性?该问题扎根于论文结论部分“First, our current framework assumes a single source graph. Extending it to incorporate multiple source networks could further enhance robustness by leveraging diverse structural priors.”
-
动态图或多层网络的迁移:本文针对静态单层图。对于随时间演化的动态图或具有多种关系类型的多层网络,如何定义 GW 距离并设计迁移策略?该问题扎根于“Second, GTRANS is designed for static graphs; future extensions to dynamic or multi-layer networks would enable modeling of time-evolving or multi-modal dependencies.”
-
节点协变量的整合:当前方法仅利用图拓扑结构。当节点有特征时,如何将其融入对齐和传输步骤?例如,可以使用 fused GW 距离 [50] 同时考虑结构和特征。该问题扎根于“Third, our current formulation does not incorporate node-level covariates. Integrating such covariates could provide valuable auxiliary information for alignment, particularly in domains where topological structure alone may be insufficient for effective transfer.”
-
去偏阈值 \(\delta\) 的理论选择:定理 4.2 表明 GW 距离的估计误差由初始估计的 MSE 控制,但如何根据该误差自适应地选择 \(\delta\) 以避免负迁移?目前仅靠交叉验证。是否存在一个数据驱动的理论准则?该问题扎根于定理 4.2 的证明和附录 E.4 的经验选择,但论文未给出理论指导。
-
EGW 中 \(\epsilon\) 的理论选择:定理 4.1 要求 \(\epsilon\) 足够大以保证局部强凸性,但 \(\epsilon\) 过大会使对齐变模糊。如何平衡?论文在附录 E.4.2 中经验地选择 \(\epsilon=0.01\),但缺乏理论分析。该问题扎根于定理 4.1 的条件和附录 E.4.2 的讨论。
Maintained by 陈星宇 · Homepage · Source on GitHub