基于LSTM的短期电力负荷预测算法研究

刘海峰 王艳如

摘  要：基于组合预测方法的研究思路，在LSTM神经网络的基础上，引入强化学习思想，采用简化的Inception网络结构，构造成隐藏状態矩阵，实现LSTM网络的改进与优化，并据此构建短期电力负荷预测模型。实验结果表明，与DBN、RBF等网络模型相比，基于强化学习的改进LSTM网络模型可更好地捕捉依赖信息，具有更高的短期负荷预测准确性。

关键词：短期电力负荷;深度学习网络;LSTM网络;强化学习

中图分类号：TP18       文献标识码：A文章编号：2096-4706（2021）23-0040-04

Research on Short-term Power Load Forecasting Algorithm Based on LSTM

LIU Haifeng1， WANG Yanru2

（1.Big Data Center of State Grid Corporation of China， Beijing 100053， China; 2.Beijing Fibrlink Communications Co.， Ltd.， State Grid Information & Telecommunication Group Co.， Ltd.， Beijing 100052， China）

Abstract：
Based on the research idea of combined forecasting method， on the basis of LSTM neural network， the reinforcement learning idea is introduced， the simplified Inception network structure is adopted to construct a hidden state matrix， so as to improve and optimize the LSTM network， and a short-term power load forecasting model is constructed based on it. The experimental results show that compared with DBN， RBF and other network models， the improved LSTM network model based on reinforcement learning can better capture the dependency information and has higher accuracy of short-term load forecasting.

Keywords：
short-term power load; deep learning network; LSTM network; reinforcement learning

0  引  言

电力工业是国民经济的命脉，对我国经济建设、社会稳定、国家安全和生活质量都具有非常重要的作用。电力负荷是指在一段时刻内，用电设备的电功率总和，是电力协调调度的关键。若能准确预测电力负荷，将对辅助电力系统协调调度有着非常重要的意义。

电力负荷预测利用历史用电数据，预测未来一段时间的负荷情况。由于电力负荷预测受诸多因素影响，为了提高预测精度，就需深入研究与创新电力负荷预测方法。短期负荷预测的研究，也从回归分析[1]、时间序列[2]、指数平滑[3]等单一经典预测方法，向灰色预测[4]、人工神经网络[5]、LSTM（Long Short-Term Memory，长短期记忆神经网络）[6]、模糊预测、小波分析等组合现代预测方法发展。在本文的研究中，也主要基于组合预测方法的研究思路，通过强化学习对LSTM算法的改进优化，对改进后LSTM网络在短期电力负荷预测中的应用进行研究。

1  LSTM网络概述

1.1  LSTM技术基础

前馈神经网络的输出只依赖当前输入，但是在文本、视频、语音等时序数据中，时序数据长度并不固定，前馈神经网络的输入输出维数不能任意更改，因此难以适应这类型时序数据的处理。短期电力负荷预测的输入与输出均为时间序列，其本质仍是基于先前元素的序列预测问题，为此需要采用与前馈神经网络不同的方法，进行短期电力负荷预测。

循环神经网络具有记忆功能，可提升网络性能。与前馈神经网络相比，循环神经网络具备可同时接受自身信息与其他神经元信息的神经元，更贴合生物神经网络结构，在文本等序列数据分析中有广泛应用。循环神经网络的参数学习随时间反向传播，错误信息前传递学习，建立长时间间隔的状态间依赖，支持序列数据的分析处理。但随着网络层数增多与时间加长，循环神经网络容易因梯度消失或爆炸问题，导致只能学习短距离依赖，无法解决长距离依赖问题。为了解决循环神经网络的长程依赖问题，在循环神经网络上添加门控机制，实现调度信息积累速度控制，这类方法被称之为基于门控的循环神经网络，例如LSTM长短期记忆网络。

LSTM是一种基于RNN的改进模型，通过引入门和单元的概念，解决长距离依赖问题，具有比RNN更强的适应性。LSTM网络的单元结构如图1所示。

每个神经单元内部结构如图2所示。

每个LSTM神经单元都包含遗忘门、输入门和输出门三个门控结构，以控制数据有信息的换地。其中，遗忘门负责丢弃和保留上一个时刻的有效信息在CtCt内，输入门将当前时刻有效信息存放在Ct内，输出门决定神经单元输出中Ct的信息。

1.2  LSTM网络分析

与传统神经网络算法相比，LSTM网络具有更强的自适应学习能力，对复杂样本数据有更好的拟合效果。LSTM网络通过门控结构，有效避免了时间增加所导致的梯度消失的问题，且由于采用了三个输入值与两个输入值的当前时刻记忆单元，因此模型也具有更好的泛化能力。

但是，在LSTM网络在实际应用中也存在一些缺陷。例如，LSTM网络采用梯度下降法进行权值更新，导致模型的收敛速度较慢，容易出现梯度发散问题，使更容易陷入局部极小值，且没有科学的方法，确定模型的隐含层节点数量、学习率与迭代等参数。

2  预测模型的设计

强化学习通过样本与环境的不断交互，提供延迟的反馈奖励。强化学习的算法基本可分为时序差分学习、动态规划等基于值函数的方法和策略梯度函数两类方法。其中，基于值函数的方法，因为值函数在更新过程中的改变较大，其收敛性受到影响;基于策略函数的方法，在更新时具有更强的稳定性，但采样难度大，容易收敛到局部最优解，基于强化学习的LSTM模型结构设计如图3所示。

第一层为输入层，将历史负荷数据X=[x1，x2，… ，xt]T输入网络模型进行训练;

第二层为LSTM层，结合强化学习，构建隐藏状态矩阵H，动态学习网络输入负荷数据中的长期依赖;

第三层为Inception网络层，通过一系列并行的一维卷积分支，处理与分析输入负荷数据，并将处理与分析结果合并为张量;

第四层为全连接输出层，由于预测结果输出个数匹配的神经元构成，输出结果为电力负荷预测结果输出矩阵L。

在本文所研究的基于强化学习的LSTM网络模型中，借鉴动态跳跃LSTM[57]在语言处理方面对序列数据处理的优势，通过强化学习选择最优依赖，以学习电力负荷的周期性特征，改进的LSTM模型结构如图4所示。

在如图4所示的改进型LSTM模型中，在t-1时刻的隐藏状态发生变化，细胞候选状态ct-k与ct-1间、隐藏状态ht-k与ht-1间根据预测效果选择最优依赖。

采用改进LSTM模型作为Inception节点输入模块的改进短期电力负荷预测模型如图5所示。

设计与改进的短期电力负荷预测模型，其核心为策略梯度代理，在时间步长t中，代理与环境st交互将决定LSTM单元的动作，基于当前选择的模型性能为更新代理参数的奖励。代理的环境、动作与奖励三个关键点的介绍为：

（1）环境。由当前输入xt与前状态ht-1形成的环境表示如式（1）所示：

St=xt⊕ht-1      （1）

（2）动作。根据环境St确定对后续LSTM单元影响最佳的状态，构建一个保留最近K状态，最大尺寸为K的状态集合SK，采用如式（2）、式（3）所示的多项式分布πK（h|St）对状态集合SK中的最优状态进行采样。

（2）

（3）

其中，softmax（）用户将向量变换为概率分布P，MLP（）为多层感知器将环境St变换为K维向量，pi为概率分布P第i个元素。

（3）奖励。奖励函数选择一系列最佳跳过动作，进行预测模型学习与训练，选择最佳跳过达到提升短期电力负荷预测模型性能的目的，算法中的奖励函数设计如式（4）所示。

（4）

基于改进LSTM模型的短期电力负荷预测模型采用简化的Inception网络结构，采用基于时间步长向量，构造隐藏状态矩阵，生成一组优化的特征。因此，虽然当前状态为不正确隐藏状态向量，在通过1-D初始模块，和级联滤波器隐藏状态向量后，输出未来短期的预测结果。

3  预测模型的实验

3.1  实验数据

此次实验使用的是新英格兰2004年3月至2014年12月间，以小时为单位的电网总负荷，总计103 000项数据。

实验程序底层采用Tensorflow框架，基于Keras深度链接库，实验结果采用平均绝对百分比误差（Mean Absolute Percentage Error， MAPE）作为实验效果的评价。

（5）

其中，ti为负荷值，为预测值，m为样本数，MAPE值越小，表明预测值相对偏离程度越低，模型的预测精度越高。

3.2  实验实施与结果分析

本次实验用数据总计约10万项，按照8：2的比例，随机将实验数据划分为模型训练集和模型测试集。其中，训练集中数据用于短期负荷预测模型的学习与训练，测试集中数据中数据用于短期负荷预测模型的测试与验证。经过多次试验，确定模型结构的参数设置如表1所示。

为了增强实验的可对比性，采用RBF径向基神经网络、DBN深度信念网络进行对比实验，实验结果如图7所示。

如图7所示，与DBN、RBF等深度学习模型相比，本文所研究的改进LSTM网络模型，通过引入强度学习，更好的捕捉长期依赖信息，具有更高的预测性能。

4  结  论

采用深度学习神经网络，深度分析与挖掘电力负荷历史数据，构建短期电力负荷预测模型，预测未来一段时间的电力负荷。本文研究基于LSTM网络的短期电力负荷预测方法，通过引入强化学习思想，与LSTM网络的时序特征结合，有效提高了LSMT网络模型的预测性能。随着深度学习技术的不断发展与完善，传统与预测模式结合的方法有待更进一步的研究与完善，通过各种模型与算法优势的组合，提高负荷预测精度，更好地推动开展电力系统高相关领域工作。

参考文献：

[1] 廖旎焕，胡智宏，马莹莹等.电力系统短期负荷预测方法综述 [J].电力系统保护与控制，2011，39（1）：147-152.

[2] 夏博，杨超，李冲.电力系统短期负荷预测方法研究综述 [J].电力大数据，2018，21（7）：22-28.

[3] 張文哲，陈刚.电力市场下负荷预测综述 [J].渝西学院学报（自然科学版），2003（3）：71-74.

[4] 黎华盛，王宇，黎军.基于灰色理论的GM（1，1）模型对配电网进行中长期负荷预测 [J].通讯世界，2017（18）：218-219.

[5] 张静，石鑫.基于改进MOPSO-BP算法的短期电力负荷预测研究 [J].电力学报，2019，34（6）：556-563.

[6] 张旭东，钱仲文，沈思琪，等.一种基于LSTM与LGBM的电力负荷预测算法 [J].系统工程，2019，37（1）：152-158.

作者简介：刘海峰（1983.04—），男，汉族，陕西榆林人，工程师，硕士研究生，研究方向：电力大数据开发及研究;王艳如（1987.09—），男，汉族，山东成武人，工程师，硕士研究生，研究方向：用电负荷预测及应用。