跳转至

Graph Neural Networks for Electricity Load Forecasting

讲者: Chuanchuan Qin
会场: Statistical Learning for Complex Data
报告题目: Multi-Scale Dynamic Graph Neural Network for Electricity Load Forecasting
链接: arXiv
来源: JCSDS 2026 · 返回会议总览

一、领域脉络与小综述

这个方向是什么

本文研究的子方向是图神经网络（GNN）在电力负荷预测中的应用。其根本的统计/科学问题是：如何利用电力系统中不同区域/节点之间的空间依赖关系（例如，相邻地区因气候相似而负荷联动）来提升短期负荷预测的精度与鲁棒性，同时保持模型的可解释性。当前该方向的成熟度处于快速发展但尚未收敛的阶段：已有大量GNN架构被提出并应用于交通、能源等领域，但缺乏系统性的、面向电力负荷预测的基准比较，尤其是在可解释性和集成策略方面。

发展脉络（history）

根据论文的introduction和参考文献，该方向的发展脉络可梳理如下：

  1. 奠基工作：经典统计模型与深度学习

    • GAMs (Fan & Hyndman, 2010, 2011; Pierrot & Goude, 2011)：广义加性模型是电力负荷预测的经典统计方法，擅长处理非线性协变量效应，但主要针对聚合负荷，难以建模空间分布信号。
    • LSTMs (Shi, Xu & Li, 2017; Marino, Amarasinghe & Manic, 2016)：循环神经网络，特别是LSTM，通过捕捉时间依赖性在负荷预测中取得强性能，但“不显式地包含负荷节点间的结构关系”（论文原话）。

  2. 主要进展：GNN的引入与架构演化

    • GCN (Kipf & Welling, 2017)：将图卷积操作推广到非欧几里得域，通过归一化邻接矩阵聚合邻居特征，成为GNN的基线模型。论文引用其作为“计算高效的基线”。
    • GraphSAGE (Hamilton, Ying & Leskovec, 2017)：通过采样邻居并学习聚合函数，实现了归纳式学习，适用于动态网络（新节点出现）。论文引用其“特别适合动态能源网络”。
    • GAT (Veličković et al., 2018)：引入注意力机制，为每条边分配可学习的权重，使模型能“选择性关注最相关的邻居”，并提供了可解释的注意力分数。论文引用其“增强了在异构图上的性能”。
    • APPNP (Klicpera, Bojchevski & Günnemann, 2018)：通过个性化PageRank解耦特征变换与信息传播，缓解了过平滑问题。论文引用其“在稀疏或噪声数据场景下表现稳健”。
    • GATv2 (Brody, Alon & Yahav, 2021) & TransformerConv (Shi et al., 2020)：通过修改注意力机制（GATv2）或引入Transformer架构（TransformerConv），旨在提升表达能力。论文引用其“进一步增强了原始公式的表达能力”。

  3. 当前Frontier：混合模型、可解释性与基础模型

    • 混合模型 (NAMs, GAT-LSTM, MRGNN, SDGT)：论文引用了NAMs (Agarwal et al., 2021) 作为“将经典统计模型的可解释性与深度学习的表达能力相结合”的例子；GAT-LSTM (Orji et al., 2025) 整合图注意力与循环单元；MRGNN (Mo et al., 2025) 利用频域滤波和多尺度聚合；SDGT (Zhu et al., 2025) 引入自适应Transformer更新图拓扑。这些工作代表了当前将GNN与时间建模、多尺度分析结合的前沿。
    • 基础模型 (TiREX, PriceFM)：论文引用了TiREX (Auer et al., 2025) 作为“最先进的基础模型”，并作为其基线之一；PriceFM (Yu et al., 2025) 是专为电力价格预测设计的时空基础模型。这代表了向统一、预训练、多模态预测范式过渡的趋势。

  4. 本文的位置：本文定位为对上述GNN架构在电力负荷预测中的系统性基准测试，并特别强调了可解释性（通过GNNExplainer、注意力分析和ALE图）和集成策略（通过专家聚合）。它填补了“在运营背景下系统评估GNN架构，强调可解释性、鲁棒性和可重复性”的空白。

子线索聚类

这些被引文献大致落在以下4条子线索上：

  • 线索一：图构建策略：如何定义节点和边是GNN应用的第一步。文献包括基于空间距离的（Williams & Short, 2020）、基于数据驱动的（DTW、相关性矩阵、精度矩阵）、以及混合策略（GL3SR, Humbert et al., 2021）。本文系统比较了这些策略。
  • 线索二：GNN架构选择：核心是消息传递机制的设计。文献包括卷积型（GCN, ChebConv, TAGConv）、采样聚合型（GraphSAGE）、注意力型（GAT, GATv2, TransformerConv）、扩散型（APPNP）。本文对所有这些架构进行了基准测试。
  • 线索三：可解释性方法：如何理解GNN的预测。文献包括子图解释（GNNExplainer, Ying et al., 2019）、注意力权重分析（Jain & Wallace, 2019 指出其局限性）、特征效应分析（ALE, Apley & Zhu, 2020）。本文综合运用了这三种方法。
  • 线索四：集成与不确定性量化：如何提升预测的鲁棒性。文献包括深度集成（Lakshminarayanan, Pritzel & Blundell, 2017）和在线专家聚合（ML-Poly, Gaillard, Stoltz & Van Erven, 2014）。本文采用了ML-Poly和均匀聚合。

这个方向在追问的核心问题

  1. 如何构建最优的图结构？ 物理距离 vs. 数据驱动 vs. 混合策略，哪种最能反映电力负荷的真实空间依赖关系？
  2. 哪种GNN架构最适合电力负荷预测？ 在精度、鲁棒性、可解释性和计算效率之间如何权衡？简单的GCN/SAGE是否足以匹敌复杂的GAT/Transformer？
  3. 如何实现有效的可解释性？ 注意力权重是否可靠？GNNExplainer和ALE图能否提供与领域知识一致的洞察？
  4. 如何应对非平稳性和数据稀缺？ 经典GAM在动态环境下失效，而复杂GNN（如GATv2）在小样本下易过拟合，如何设计鲁棒的模型？

⚠️ 作者的 framing

  • 作者的缺口frame：作者将缺口frame为“缺乏一个统一的框架，该框架能系统性地评估GNN架构，并同时强调可解释性、鲁棒性和可重复性”。这使得本文成为“显然的下一步”——一个全面的基准测试和框架整合。
  • 被淡化或回避的竞争路线：
    • 概率预测：作者在结论中承认“大多数基于图的模型是确定性的，提供点预测，但没有明确量化预测不确定性”，并将其列为未来工作。这表明作者选择将重点放在点预测和可解释性上，而非概率预测这一同样重要的方向。
    • 动态图结构：作者在结论中承认“使用显式静态图结构”是一个局限，并指出未来工作应探索动态图。这表明作者回避了图结构随时间演化这一更复杂但更现实的设定。
    • 基础模型：虽然将TiREX作为基线，但作者并未深入探讨如何将GNN与基础模型结合，而是将GNN视为一个独立的、可与之竞争的范式。
  • 值得研究者去查的问题：论文的introduction和参考文献中，没有出现关于联邦学习在电力负荷预测中的应用（尽管引用了Massaoudi et al., 2021的综述，该综述提到了联邦学习）。考虑到数据隐私和分布式能源网络的兴起，这是一个明显的缺失。此外，因果推断方法（如工具变量、断点回归）在电力需求分析中的应用也未被提及，尽管论文讨论了“外部冲击”（如Covid-19）的影响。

张力

未见明显对立引用。所有被引工作基本沿着“从简单到复杂”、“从统计到深度学习”、“从点预测到可解释性”的渐进式发展路径，彼此之间是互补而非矛盾的关系。

二、最核心、最简单的例子 / 数学问题

第一步：把符号、模型、可观测数据交代清楚

  • 符号：

    • G = (V, E)：图，V是节点集，E是边集。
    • A ∈ ℝ^{N×N}：邻接矩阵，A_{uv} = 1表示节点u和v之间有边。W是加权邻接矩阵。
    • N_v：节点v的邻居集合。
    • h_v^{(ℓ)}：节点v在第ℓ层的隐藏表示（向量）。
    • X_v：节点v的初始特征向量（可观测）。
    • y_t ∈ ℝ^N：在时间t，所有N个节点的电力负荷向量（目标变量，可观测）。
    • \tilde{X}_t ∈ ℝ^{N×d}：在时间t，所有N个节点的d维特征矩阵（可观测，如温度、日历信息）。
    • θ：模型参数。
    • K：专家（模型）的数量。
    • p_{j,t}：在时间t，专家j的权重。
    • \hat{y}_t：在时间t的聚合预测。

  • 模型：本文的核心模型是消息传递框架。在每一层ℓ+1，节点v的表示更新为： h_v^{(ℓ+1)} = UPDATE^{(ℓ+1)}( h_v^{(ℓ)}, AGGREGATE^{(ℓ+1)}( { h_u^{(ℓ)} | u ∈ N_v } ) ) 其中AGGREGATE是置换不变的聚合函数（如求和、平均、最大池化），UPDATE是非线性变换（如线性层+ReLU）。不同的GNN架构（GCN, GAT, SAGE等）是AGGREGATE和UPDATE的不同实例化。

  • 可观测数据：

    • 可观测：研究者能观测到的是每个节点v在时间t的负荷y_{v,t}，以及对应的特征\tilde{X}_{v,t}（如温度、星期几、节假日标志）。图结构G（邻接矩阵A）是人为构造的，基于空间距离或数据相关性，并非直接观测到的物理电网拓扑。
    • 想要但观测不到：节点间的真实因果依赖关系（例如，A地区的低温是否直接导致B地区负荷上升？）。GNN通过消息传递来建模这种依赖，但无法保证其因果性。此外，预测的不确定性（epistemic和aleatoric）也是想要但未直接建模的，本文通过集成来部分捕捉。

第二步：讲最小内核

本文的最小内核可以归结为：在一个由N个节点构成的图上，每个节点v在时间t有一个负荷y_{v,t}和特征x_{v,t}，我们想用x_{v,t}和邻居的特征{x_{u,t} | u ∈ N_v}来预测y_{v,t}。

最简特例：单步回归 + 线性GCN

  • 设定：假设只有N=2个节点（区域1和区域2），它们之间有边相连（A_{12}=A_{21}=1）。每个节点只有一个特征x_{v,t}（例如温度）。目标是预测该节点的负荷y_{v,t}。
  • 模型：使用最简单的1层GCN，没有激活函数（即线性GCN）。那么，节点1的预测为： \hat{y}_{1,t} = w_1 * (A_{11} * x_{1,t} + A_{12} * x_{2,t}) = w_1 * (1 * x_{1,t} + 1 * x_{2,t}) = w_1 * (x_{1,t} + x_{2,t}) 其中w_1是待学习的标量参数。这里A_{11}=1（自环），A_{12}=1。
  • 核心思路：这个例子清晰地展示了GNN的核心思想：节点的预测不仅依赖于自身的特征，还依赖于其邻居的特征的聚合。在这个特例中，预测是自身特征和邻居特征的加权和。
  • 为什么成立：如果真实的数据生成过程是y_{1,t} = β * (x_{1,t} + x_{2,t}) + ε，那么线性GCN可以完美拟合（w_1 = β）。如果真实过程是y_{1,t} = β_1 * x_{1,t} + β_2 * x_{2,t}，线性GCN也能拟合（w_1 = β_1 = β_2），但无法区分两个系数的差异。这就是GCN的局限性——它强制所有邻居共享同一个权重。
  • 推广：本文中更复杂的GNN（如GAT）正是为了解决这个局限性而设计的。GAT允许为不同的邻居学习不同的权重（注意力系数），即\hat{y}_{1,t} = α_{11} * x_{1,t} + α_{12} * x_{2,t}，其中α_{11}和α_{12}是学习到的、依赖于x_{1,t}和x_{2,t}的注意力权重。

三、这篇论文做了什么

三句话

  1. 研究了什么问题：系统性地评估了多种图神经网络（GCN, GraphSAGE, APPNP, GAT, GATv2, TransformerConv, ChebConv, TAGConv）在短期电力负荷预测中的性能、可解释性和鲁棒性。
  2. 核心工具/方法：构建了一个统一的框架，包括多种图构建策略（空间、数据驱动、混合）、GNN架构、可解释性工具（GNNExplainer, 注意力分析, ALE图）和集成策略（ML-Poly在线聚合）。
  3. 主要结论：图感知模型一致优于传统基线（如FFNN）和基础模型（如TiREX）；在数据稀缺时，简单模型（如APPNP, SAGE）优于复杂模型（如GATv2）；集成策略（特别是自底向上聚合）显著提升了鲁棒性；注意力机制能揭示与季节和气象相关的空间交互模式。

关键设定与假设

  • 图构建假设：图结构G是静态的，在训练和推理过程中保持不变。这是本文最关键的简化假设，作者在结论中明确承认这是局限性。
  • 任务设定：主要考虑两种设定：
    1. 单步回归：\hat{y}_t = Φ_θ(G, \tilde{X}_t)，仅用当前时刻的特征预测当前负荷，强调空间依赖。
    2. 序列到序列预测：\hat{y}_{t:t+h-1} = Φ_θ(G, \tilde{X}_t ∪ y_{t-w:t-1})，用过去w步的负荷和特征预测未来h步的负荷，同时建模时空依赖。w=h=48（24小时）。
  • 数据假设：假设训练、验证、测试数据来自同一分布，但作者也承认Covid-19等外部冲击会破坏这一假设。
  • 与已有文献的对比：相比GAMs（假设平滑协变量效应），GNNs假设了图结构化的空间依赖；相比LSTMs（仅建模时间依赖），GNNs显式建模了空间依赖；相比基础模型（如TiREX），GNNs利用了图结构的归纳偏置，在数据量有限时可能更有效。

主要结果

  • 核心量化结论（表2）：
    • 法国数据集（区域级，较稳定）：SAGE取得最佳平均RMSE（873 MW）和MAPE（1.12%）。GAT取得最低平均MAPE（1.11%）。所有GNN模型均大幅优于FFNN（RMSE 1192 MW）和TiREX（RMSE 2648 MW）。
    • UK数据集（住宅级，噪声大，数据少）：APPNP取得最佳MAPE（6.54%）和RMSE（12.61 MW），显著优于GAT（7.79%, 14.13 MW）和SAGE（8.19%, 14.87 MW）。复杂模型（GATv2, TransformerConv）过拟合严重。
    • 集成策略：自底向上（Bottom）聚合在所有数据集上均优于均匀（Uniform）和自顶向下（Top）聚合。在法国数据集上，Bottom聚合的MAPE为1.01%，RMSE为789 MW，优于最佳单模型（SAGE的1.12%, 873 MW）。
  • 与baseline对比：GNN模型在RMSE上显著优于FFNN、Persistence和TiREX。例如，在法国数据集上，最佳GNN（SAGE）的RMSE（873 MW）比FFNN（1192 MW）低27%，比TiREX（2648 MW）低67%。
  • 稳健性：通过多次随机种子运行报告均值和标准差，表明结果具有统计稳健性。

证明路线与技术技巧（本文为应用/方法型，重点在实验设计）

  • 整体路线：本文的“证明”是通过精心设计的实验来完成的，其逻辑主干如下：
    1. 问题定义与数据准备：定义预测任务（单步/序列），收集并预处理法国和UK两个具有不同特性的真实数据集，并生成具有可控空间依赖的合成数据集。
    2. 图构建：为每个数据集构建多种图（空间、DTW、相关性、GL3SR等），作为GNN的输入。
    3. 模型选择与训练：选择8种代表性GNN架构，使用Optuna进行超参数优化，在相同的数据划分和评估指标下进行训练和评估。
    4. 性能评估：使用MAPE和RMSE在测试集上比较所有模型的性能，并报告多次运行的均值和标准差。
    5. 可解释性分析：对表现良好的模型（如GAT）进行深入的可解释性分析，包括GNNExplainer（识别重要子图）、注意力权重可视化（揭示季节模式）、ALE图（分析特征效应）。
    6. 集成策略评估：将多个GNN模型作为专家，使用ML-Poly算法进行在线聚合，并与均匀聚合和单模型进行比较。
  • 关键跳跃点：本文的关键跳跃点在于将可解释性分析从“事后解释”提升为“模型行为验证”。例如，通过合成数据中的“显式切换”和“隐式切换”实验，作者验证了GAT的注意力机制能够主动适应并推断出隐藏的耦合模式，而不仅仅是反映输入图结构。这证明了注意力机制不仅仅是可解释的，更是具有适应性的。
  • 技术技巧点名：
    • 图构建：使用了高斯核函数（d(u,v) = exp(-dist(u,v)^2 / σ_b^2)）和阈值化（W_λ = d(u,v) * 1{d(u,v) ≥ λ}）来构建空间图。
    • 超参数优化：使用Optuna库进行贝叶斯超参数搜索。
    • 在线专家聚合：使用ML-Poly算法，一种具有二阶遗憾界的在线学习算法，动态调整专家权重。
    • 可解释性：使用GNNExplainer（最大化互信息）、PCA/UMAP降维（可视化注意力矩阵）、ALE图（避免外推的特征效应分析）。

真实例子与应用

  • 数据：
    • 法国区域负荷数据集：2015-2019年，RTE提供，包含32个行政区域的负荷、气象和日历特征。
    • UK Power Networks数据集：2024年，来自SSEN和NGED，包含约200万个智能电表、12万个低压馈线和5万个变电站的半小时负荷数据。
  • 方法应用：将上述GNN模型分别应用于这两个数据集，进行单步回归和序列到序列预测。
  • 结果：
    • 法国数据集：GNN模型（特别是SAGE和GAT）在精度上显著优于FFNN和TiREX。GNNExplainer揭示了沿海地区和相邻区域之间的强空间依赖。注意力矩阵的PCA/UMAP投影显示出清晰的季节性聚类（冬、夏、过渡季）。
    • UK数据集：APPNP表现最佳，验证了其在数据稀缺和噪声环境下的鲁棒性。注意力分析在合成数据上验证了模型能适应和推断隐藏的耦合模式。
  • 例子想说明什么：
    • 法国例子：验证了GNN在具有清晰空间结构的区域级数据上的有效性，并展示了其可解释性工具能提供与领域知识一致的洞察。
    • UK例子：验证了GNN在更细粒度、更嘈杂的住宅级数据上的适用性，并强调了在数据稀缺时选择简单、正则化好的架构（如APPNP）的重要性。
    • 合成数据例子：严格验证了GAT注意力机制的适应性和推断能力，为真实数据上的观察提供了因果证据。

🔎 结论是否比证明窄

  • 是。论文在结论中声称“图感知模型一致优于传统基线”，但表2显示，在UK数据集上，Persistence-1的MAPE（8.58%）甚至优于GCN（9.52%）、GAT（10.01%）等模型的平均性能。虽然最佳GNN模型（APPNP, 6.54%）确实优于Persistence-1，但“一致优于”的表述过于宽泛，忽略了某些GNN架构在特定数据集上表现不佳的情况。
  • 是。论文声称“注意力机制提供有价值的洞察”，但引用了Jain & Wallace (2019) 的“Attention is not Explanation”来承认其局限性。论文的证明（合成数据实验）表明注意力可以适应和推断，但并未严格证明其在真实数据上的解释是因果性的，而只是相关性的。结论中“bridging predictive modeling and physical interpretability”的表述可能超出了证明的范围。

四、开放问题

  1. 动态图结构：本文所有实验均使用静态图。作者在结论中明确指出“a limitation of the present framework lies in the use of explicitly static graph structures”。一个直接的开放问题是：如何设计并评估一个能够随时间演化图拓扑（边权重和连接性）的GNN模型，以捕捉极端天气或行为突变导致的结构性变化？（扎根于论文第7节“Limitations and perspectives”第一段）。

  2. 概率预测：本文仅提供点预测。作者指出“For operational forecasting, confidence estimates are crucial”。一个开放问题是：如何将贝叶斯消息传递、图基分位数回归或随机扩散机制整合到GNN中，以生成校准良好的概率预测区间？（扎根于论文第7节“Limitations and perspectives”第二段）。

  3. 时间依赖的显式整合：本文的序列到序列模型将时间作为输入特征，但并未在GNN的消息传递机制中显式建模时间。作者提出“Future work will focus on explicitly integrating temporal dependencies within the graph formulation”。一个开放问题是：如何设计一个统一的时空图神经网络，使得消息传递过程本身就能同时捕捉空间和时间依赖性，而不是将时间作为外部输入？（扎根于论文第7节“Future work”第一句）。

  4. 可解释性的因果验证：论文展示了注意力机制与季节模式的相关性，但未证明其因果性。一个开放问题是：能否设计一个干预实验（例如，在合成数据中人为改变一个节点的特征，并观察注意力权重的变化），来严格验证GNN的注意力机制是否捕捉到了真实的因果结构，而不仅仅是统计相关性？（扎根于论文对Jain & Wallace (2019) 的引用，以及第6.2节中“attention scores capture task-relevant rather than purely physical dependencies”的发现）。

Maintained by 陈星宇 · Homepage · Source on GitHub

评论