CN116402194A - 一种基于混合神经网络的多时间尺度负荷预测方法 - Google Patents
一种基于混合神经网络的多时间尺度负荷预测方法 Download PDFInfo
- Publication number
- CN116402194A CN116402194A CN202310228917.6A CN202310228917A CN116402194A CN 116402194 A CN116402194 A CN 116402194A CN 202310228917 A CN202310228917 A CN 202310228917A CN 116402194 A CN116402194 A CN 116402194A
- Authority
- CN
- China
- Prior art keywords
- load
- neural network
- data
- network
- training model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 63
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000012549 training Methods 0.000 claims abstract description 71
- 239000013598 vector Substances 0.000 claims abstract description 64
- 230000015654 memory Effects 0.000 claims abstract description 62
- 239000011159 matrix material Substances 0.000 claims abstract description 33
- 230000009467 reduction Effects 0.000 claims abstract description 19
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 18
- 238000007781 pre-processing Methods 0.000 claims abstract description 10
- 230000003442 weekly effect Effects 0.000 claims abstract description 6
- 230000006870 function Effects 0.000 claims description 22
- 238000003860 storage Methods 0.000 claims description 15
- 230000036316 preload Effects 0.000 claims description 13
- 238000000605 extraction Methods 0.000 claims description 10
- 230000007787 long-term memory Effects 0.000 claims description 7
- 238000005096 rolling process Methods 0.000 claims description 3
- 230000006403 short-term memory Effects 0.000 claims description 2
- 230000002457 bidirectional effect Effects 0.000 abstract description 3
- 230000004913 activation Effects 0.000 description 6
- 210000004027 cell Anatomy 0.000 description 6
- 238000011176 pooling Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 4
- 210000002569 neuron Anatomy 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 2
- CIWBSHSKHKDKBQ-JLAZNSOCSA-N Ascorbic acid Chemical compound OC[C@H](O)[C@H]1OC(=O)C(O)=C1O CIWBSHSKHKDKBQ-JLAZNSOCSA-N 0.000 description 2
- 101001095088 Homo sapiens Melanoma antigen preferentially expressed in tumors Proteins 0.000 description 2
- 241000668842 Lepidosaphes gloverii Species 0.000 description 2
- 102100037020 Melanoma antigen preferentially expressed in tumors Human genes 0.000 description 2
- 230000003213 activating effect Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000008093 supporting effect Effects 0.000 description 2
- 235000009754 Vitis X bourquina Nutrition 0.000 description 1
- 235000012333 Vitis X labruscana Nutrition 0.000 description 1
- 240000006365 Vitis vinifera Species 0.000 description 1
- 235000014787 Vitis vinifera Nutrition 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013079 data visualisation Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 210000002364 input neuron Anatomy 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 210000004205 output neuron Anatomy 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
- G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
- G06Q50/06—Electricity, gas or water supply
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Abstract
本发明公开了一种基于混合神经网络的多时间尺度负荷预测方法，获取、预处理变压器的原始负荷数据，并基于双向长短期记忆网络建立预训练模型；使用全连接神经网络对预训练模型的输出向量进行降维得到降维后的训练模型；选择与待预测日相似的历史气象数据，将与预测日相似的历史气象数据与全连接神经网络的输出结果拼接后转化成二维矩阵；采用卷积神经网络对二维矩阵特征提取得到特征向量；对降维后的训练模型设置，将特征向量输入设置后的训练模型训练，使双向长短期记忆网络能够实现日前负荷预测；基于全连接网络将双向长短期记忆网络与门循环单元连接，将双向长短期记忆网络的输出的抽象的综合数据输入门循环单元，实现周前负荷预测。
Description
技术领域
本发明涉及新能源电力系统技术领域，特别涉及一种基于混合神经网络的多时间尺度负荷预测方法。
背景技术
近年来，人工智能技术已被应用于各个领域并取得了令人称赞的成绩，在众多的机器学习算法中，深度学习模型表现突出，其非线性拟合能力要远远优于传统预测模型。5G等通信技术的发展加快了能源行业数字化的速度，在负荷预测、电力系统数据可视化、可再生能源预测以及传统方法存在需要完善的领域，新型人工智能技术得到了广泛应用，精准的负荷预测对于电力系统保持经济、可靠的运行有十分重要的意义。
不同时间尺度的负荷预测对于电力系统规划、调度、电力市场的竞价系统设计有着重要支撑作用。然而现有研究大多围绕一个时间尺度展开，单一模型难以满足实际工程需求。
鉴于此，需要一种基于混合神经网络的多时间尺度负荷预测方法。
发明内容
本发明实施例提供了一种基于混合神经网络的多时间尺度负荷预测方法，以至少解决相关技术中负荷预测绕一个时间尺度展开，单一模型难以满足实际工程需求的技术问题。
根据本发明实施例的一方面，提供了一种基于混合神经网络的多时间尺度负荷预测方法，包括：
获取变压器的原始负荷数据，对所述原始荷数据进行预处理得到负荷数据，并基于双向长短期记忆网络建立预训练模型；
使用全连接神经网络对预训练模型的输出向量进行降维，得到降维后的训练模型；
选择与待预测日相似的历史气象数据，将与预测日相似的历史气象数据中的小时尺度气象数据与全连接神经网络的输出结果拼接后转化成二维矩阵；
采用卷积神经网络对所述二维矩阵进行特征提取，并整理得到特征向量；根据小时尺度气象数据的特点对降维后的训练模型进行设置，并将特征向量输入设置后的训练模型进行训练，使双向长短期记忆网络能够实现日前负荷预测；
基于全连接网络将双向长短期记忆网络与门循环单元连接，将双向长短期记忆网络的输出的抽象的综合数据输入门循环单元，实现周前负荷预测。
可选地，获取的变压器负荷数据为T年内t分钟间隔的变压器负荷数据；。
可选地，使用全连接神经网络将预训练模型的输出向量的维度降为1小时间隔的负荷数据。
可选地，将小时尺度气象数据与全连接神经网络的输出结果拼接后转化成二维矩阵包括：
根据小时尺度气象数据的特征点将特征点组成日特征向量α(i)，其中，小时尺度气象数据的特征点包括：整点时刻负荷L(i)、一个小时内的最高温度T(i)、一个小时内空气湿度的最高值H(i)；
将日特征向量α(i)以滑动窗口的方式组成日特征矩阵A；
将日特征矩阵A转化成二维矩：
上式中，α(i)＝(L(i),T(i),H(i))。
可选地，根据小时尺度气象数据的特点对降维后的训练模型进行设置包括：设置预训练模型中双向长短期记忆网络的标签值设为次日负荷值，设置损失函数考虑点预测结果的误差和负荷曲线定积分的影响。
可选地，基于全连接网络将双向长短期记忆网络与门循环单元连接，使双向长短期记忆网络的输出的抽象的综合数据，能够实现周前负荷预测，包括：
选择与待预测周相近的周气象数据作为待预测周的气象数据，日时间尺度气象因素通过全连接层与门循环单元连接，即将双向长短期记忆网络的输出的抽象的综合数据直接输入到门控循环单元中；
根据待预测周的气象数据的特点对门循环单元进行设置；
设置的门循环单元输出次周第t天的负荷值ηt：
ηt＝FGRU(εt,Dt,ηt-1)
上式中，FGRU为门循环单元；Dt为包含周日期、工作日、节假日、当日最高温度、当日最低温度、当日最高湿度和当日最低湿度第t天的日尺度数据；ηt-1为上一个时刻的负荷值；εt为第t天经过双向长短期记忆网络处理后的抽象的综合数据；
通过门循环单元滚动预测得到次周的负荷值。
可选地，εt的表达式为：
式中，nt(i)为经过卷积神经网络特征提取后第t天第i个小时的气象因素综合抽象特征向量；mt(i)为第t天第i个小时的负荷值。
根据本发明实施例的另一方面，还提供了一种基于混合神经网络的多时间尺度负荷预测系统，包括：
预训练模型模块，用于获取变压器的原始负荷数据，对所述原始荷数据进行预处理得到负荷数据，并基于双向长短期记忆网络建立预训练模型；
降维模块，用于使用全连接神经网络对预训练模型的输出向量进行降维，得到降维后的训练模型；
二维矩阵模块，用于选择与待预测日相似的历史气象数据，将与预测日相似的历史气象数据中的小时尺度气象数据与全连接神经网络的输出结果拼接后转化成二维矩阵；
训练模块，用于采用卷积神经网络对所述二维矩阵进行特征提取，并整理得到特征向量；根据小时尺度气象数据的特点对降维后的训练模型进行设置，并将特征向量输入设置后的训练模型进行训练，使双向长短期记忆网络能够实现日前负荷预测；
周前负荷预测模块，用于基于全连接网络将双向长短期记忆网络与门循环单元连接，将双向长短期记忆网络的输出的抽象的综合数据输入门循环单元，实现周前负荷预测。
根据本发明实施例的另一方面，还提供了一种计算机可读存储介质，所述计算机可读存储介质包括存储的程序，其中，在所述程序运行时控制所述计算机可读存储介质所在设备执行上述任意一项所述的基于混合神经网络的多时间尺度负荷预测方法。
根据本发明实施例的另一方面，还提供了一种处理器，所述处理器用于运行程序，其中，所述程序运行时执行上述任意一项所述的基于混合神经网络的多时间尺度负荷预测方法。
与现有的技术相比，本发明具有如下有益效果：
本发明实施例中，在考虑负荷曲线定积分与用电量的约束关系以及负荷受不同时间尺度外部相关因素影响的基础上，提出了一种混合神经网络模型，利用此模型对预训练模型的输出结果进行校正。通过多层神经网络将小尺度数据提取为抽象的综合数据后与长尺度数据拼接组成新的特征向量，充分挖掘不同时间尺度数据与负荷的关系，为模型挖掘、加入更多的先验知识，并且在损失函数中加入负荷曲线定积分与用电量的约束关系，增强了各负荷元素之间的几何相关性，有效减少累计误差的影响。
本发明中考虑了点预测结果的误差以及负荷曲线定积分的物理意义，能够准确的预测多个时间尺度的负荷。
本发明在不同时间尺度的负荷预测结果对于电力系统规划、调度、电力市场的竞价系统设计有着重要支撑作用，通过多层神经网络将小尺度数据提取为抽象的综合数据后与长尺度数据拼接组成新的特征向量，充分挖掘不同时间尺度数据与负荷的关系，为实现多个时间尺度的负荷预测提供了充足的先验知识，能够为电网的智能化发展提供了坚实的基础。
本发明充分考虑了负荷曲线定积分与用电量的约束关系以及负荷受不同时间尺度外部相关因素影响，有效降低了在预测长时间尺度负荷时累计误差产生的影响。
附图说明
为了更清楚地说明本发明的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一个实施例，对于本领域普通技术人员来说，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是根据本发明实施例的一种基于混合神经网络的多时间尺度负荷预测方法的流程图；
图2是根据本发明实施例的日前负荷预测模型网络的结构图；
图3是根据本发明实施例的周前负荷预测模型网络结构图；
图4是根据本发明实施例的日尺度数据融合模型示意图；
图5是根据本发明实施例的日前负荷预测模型网络输出结果示意图；
图6是根据本发明实施例的周前负荷预测模型网络输出结果示意图。
具体实施方式
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。
需要说明的是，本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例1
根据本发明实施例，提供了一种基于混合神经网络的多时间尺度负荷预测方法的实施例，需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。
如图1是根据本发明实施例的一种基于混合神经网络的多时间尺度负荷预测方法的流程图，如图1和图2所示，该多时间尺度负荷预测方法包括如下步骤：
步骤S1、获取变压器的原始负荷数据，对所述原始荷数据进行预处理得到负荷数据，负荷数据作为训练数据，并基于双向长短期记忆网络建立预训练模型。
步骤S2、使用全连接神经网络对预训练模型的输出向量进行降维，得到降维后的训练模型；
步骤S3、选择与待预测日相似的历史气象数据，将与预测日相似的历史气象数据中的小时尺度气象数据与全连接神经网络的输出结果拼接后转化成二维矩阵；
步骤S4、采用卷积神经网络对所述二维矩阵进行特征提取，并整理得到特征向量；根据小时尺度气象数据的特点对降维后的训练模型进行设置，并将特征向量输入设置后的训练模型进行训练，使双向长短期记忆网络能够实现日前负荷预测；
步骤S5、基于全连接网络将双向长短期记忆网络与门循环单元连接，将双向长短期记忆网络的输出的抽象的综合数据输入门循环单元，实现周前负荷预测。
作为一种可选的实施例，步骤S1，获取的变压器负荷数据为T年内t分钟间隔的变压器负荷数据；其中，t<60，t＝15。
作为一种可选的实施例，步骤S1中，所述预处理包括对原始变压器负荷数据进行归一化，归一化的表达式为：
式中，
为归一化后的值，Xt为变压器原始的负荷数据，Xmin与Xmax分别是变压器原始的负荷数据中的最大负荷和最小负荷。使用归一化后的数据作为训练数据，基于经典长短期记忆网络建立预训练模型。
作为一种可选的实施例，骤S1中，所述预处理还包括对于缺失的负荷值进行拉格朗日插值，如下所示：
L'n(x)＝y0l0(x)+y0l0(x)+···+ynln(x) (2)
式中，l0(x),l1(x),…,ln(x)是以x0,x1,…,xn为节点的n次插值基函数。
作为一种可选的实施例，基于双向长短期记忆网络建立预训练模型能够实现15分钟尺度的负荷预测，双向长短期记忆网络每个基本单元包括了遗忘门ft、输入门it和输出门ot，变量之间的关系如下所示：
式中，xt为输入该层的样本值，t为样本索引值，ft表示遗忘门单元向量，it表示输入门单元向量，ot表示输出门单元向量，Ct表示细胞状态单元向量，
为细胞状态过渡状态单元向量，ht为隐藏层单元向量，w与b分别为各单元中神经元之间的连接权值与偏置。遗忘门中输入xt与状态记忆单元Ct-1实现上一节点选择性遗忘，输入门决定了当前时刻的输入xt保存到状态记忆单元Ct-1的数量，可以通过/>
进行有选择地输出，输出门控制长周期负荷特征对当前输出的影响。
长短期记忆递归神经网络的优化器Adam为：
式中，
分别表示第n次迭代时网络参数的权值与偏置，/>
和/>
分别是损失函数在前n次迭代过程中累积的二阶梯度动量，β1与β2为动量梯度系数，α为学习率，
为梯度修正量，ε是为防止分母为0的一个小常量。
作为一种可选的实施例，步骤S2使用全连接神经网络将预训练模型的输出向量的维度降为1小时间隔的负荷数据，具体包括以下步骤：
基于全连接神经网络的多输入-多输出的特征，对负荷数据的时间尺度进行变化，将15分钟间隔的负荷数据变为1小时间隔的负荷数据，全连接神经网络层内部变量如下所示：
式中，n表示特征输入神经元个数，q表示输出神经元个数，p表示隐含层神经元个数，k为样本索引值，w与b分别为神经元之间的连接权值与偏置，f(·)表示激活函数表达式；hih(k)与hoh(k)分别表示对于第k个样本，第h个隐含层在激活函数前的输出与经激活函数后的输出；yio(k)与yoo(k)分别表示对于第k个样本，第h个输出层神经元在激活函数前的输出与经激活函数后的输出。
基于ReLU与LeakyReLU的激活函数如下所示：
作为一种可选的实施例，本发明中的混合神经网络需要基于二维矩阵捕捉气象因素与负荷之间的非线性关系，需要耦合多个变量的时序特征，因此，步骤S3具体包括：
步骤S31、基于“近大远小”的准则，选从训练数据中选择与待预测日相似的历史气象数据作为待预测日的气象数据；
步骤S32、选择与预测日相似的历史气象数据中的小时尺度气象数据，选择小时尺度气象数据的特征点，小时尺度气象数据的特征点包括：整点时刻负荷L(i)、一个小时内的最高温度T(i)、一个小时内空气湿度的最高值H(i)；
步骤S33、根据小时尺度气象数据的特征点将特征点组成日特征向量α(i)，将日特征向量α(i)以滑动窗口的方式组成日特征矩阵A；借鉴自然语言处理中表示词向量的方法，将日特征矩阵A转化成二维矩阵：
式中，α(i)＝(L(i),T(i),H(i))。具体的，滑动窗口的宽度设置为8，步长设置为1，从左往右为时间轴，第一列为i时刻，第二列为i+1时刻。
作为一种可选的实施例，步骤S4具体包括：
步骤S41、设置卷积神经网络。
具体的，使用卷积核在二维矩阵中滑动提取各变量之间的关系，卷积神经网络层输出维度如下所示：
式中，padding_size为样本填充尺寸，w表示输入样本宽度，h表示输入样本高度w_out表示输出样本宽度，h_out表示输出样本高度，f表示卷积核尺寸，s表示卷积核移动步长。其中，卷积神经网络设置为2层，卷积核数目依次设置为32、64，卷积核的大小设为3×3，池化层中池的大小设为2，经过2次卷积和最大池化操作，得到2×2×64的三维向量数组，之后进行扁平化操作将其改变为长度是256的一维向量数组，之后接入到双向长短期记忆网络中。
步骤S42、设置双向长短期记忆网络。
具体的，双向长短期记忆网络的单元与长短期记忆网络的单元相同，双向长短期记忆网络的标签值设为次日负荷值，设置损失函数考虑点预测结果的误差和负荷曲线定积分的影响。其中，损失函数的表达式为：
式中，
为混合神经网络在t时刻的预测结果；yt为t时刻变压器通过测量得到的真实负荷；/>
为t时刻与t-1时刻之间负荷曲线的积分面积；具体的，在进行周前负荷预测时t＝168。
步骤S43、采用经过步骤S41设置的卷积神经网络对二维矩阵进行特征提取，并整理得到特征向量；将特征向量输入步骤S42设置后的双向长短期记忆网络进行训练，从而使双向长短期记忆网络能够实现日前负荷预测。
具体的，在进行日前负荷预测时T＝24，使用与长短期记忆网络相同的Adam优化器优化网络，日前负荷预测结果可表示为：
m(i)＝FBi-LSTM(n(i),m(i-1))(11)
式中，n(i)为经过卷积神经网络特征提取后第i时刻的综合抽象特征向量；m(i-1)为第i-1时刻的负荷值，其中i＝1,2,…24；FBi-LSTM为双向长短期记忆网络输入输出函数，m(i)次日零点时刻的负荷为当天24点时刻的负荷值。
作为一种可选的实施例，基于日前负荷预测的网络结构之上添加门循环单元结构，仍旧按照相同的数据处理方式，与日前负荷预测不同的地方在于此时双向长短期记忆网络输出结果是具有时序特征的抽象的综合数据，双向长短期记忆网络的输出结果继续输入到门循环单元中，实现周前负荷预测。步骤S5具体包括以下步骤：
步骤S51、在考虑日类型的前提下，遵循“近大远小”的准则，选择与待预测周相近的周气象数据作为待预测周的气象数据，气象特征集与特征描述如下表1所示，基于全连接神经网络将日尺度气象数据和负荷数据拼接。
表1气象因素特征集及其表示方法
步骤S52、根据待预测周的气象数据的特点对门循环单元进行设置。
具体的，门循环单元的更新门在众多的特征信息中有选择性的剔除特征信息，并根据预测误差的大小，适时的将新的特征信息加入到模型中，重置门决定了要遗忘哪些负荷特征信息。门循环单元的各个模型参数的计算公式如下所示：
式中，zt为门循环单元更新门；Wz为门循环单元更新门的权重；rt为门循环单元重置门；Wr为门循环单元重置门的权重；ht-1为t时刻之前的隐藏层状态；
为Hadamard积；σ( )为sigmoid激活函数；tanh()为双曲正切激活函数，如下所示：
步骤S53、基于全连接神经网络将日尺度气象数据和负荷数据拼接，如图4所示，ηt为次周第t天所有整点时刻的负荷值，其为长度为24的一维向量；Dt-1为第t天的日尺度数据；εt为第t天经过双向长短期记忆网络处理后的抽象的综合数据。所以预测次周负荷值的总体过程可表示为：
式中，nt(i)为经过卷积神经网络特征提取后第t天第i个小时的气象因素综合抽象特征向量；mt(i)为第t天第i个小时的负荷值；εt为一个长度为48的一维特征向量，表示负荷时序抽象特征向量，不具有物理含义，使用与日前负荷预测相同的损失函数，此时损失函数中T＝168，次周第t天的负荷值可由上述变量表示为：
ηt＝FGRU(εt,Dt,ηt-1) (15)
式中，FGRU为门循环单元；Dt为包含周日期、工作日、节假日、当日最高温度、当日最低温度、当日最高湿度和当日最低湿度第t天的日尺度数据；ηt-1为上一个时刻的负荷值，εt为蕴含着负荷的时序特征的抽象的综合数据；最终通过门循环单元滚动预测得到次周的负荷值。
实施例2
对本发明其中一个实施例进行详细说明，以使本领域技术人员更了解本发明，具体包括以下步骤：
1)选取葡萄牙地区的配电变压器作为主要研究对象，选取2011年365天负荷数据作为原始数据，数据的采样时间颗粒度为十五分钟，将相关的气象数据、日期类型与负荷数据进行数据清洗、归一化处理，基于拉格朗日插值补充缺失值，并使用归一化后的数据训练长短期记忆网络作为预训练模型。
2)使用全连接神经网络将预训练模型的输出向量维度降为1小时间隔的负荷数据。基于预训练模型输出的间隔为15分钟的负荷，使用全连接网络进行综合处理，将负荷向量降维至间隔为1小时的负荷。
3)选择与待预测日相似的历史气象数据，将小时尺度气象数据与全连接神经网络的输出结果拼接后转化成二维矩阵。滑动窗口的宽度设置为8，步长设置为1，从左往右为时间轴，第一列为i时刻，第二列为i+1时刻。
4)基于卷积神经网络在二维矩阵中进行特征提取，模型标签值设为次日负荷值，损失函数中考虑点预测结果的误差以及负荷曲线定积分的物理意义，将特征向量输入双向长短期记忆网络中训练模型，实现日前负荷预测。卷积神经网络设置为2层，卷积核数目依次设置为32、64，卷积核的大小设为3×3，池化层中池的大小设为2，经过2次卷积和最大池化操作，得到2×2×64的三维向量数组，之后进行扁平化操作将其改变为长度是256的一维向量数组，将长度为256的一维向量数组输入双向长短期记忆网络，双向长短期记忆网络的层数为2，学习率为0.001，将Dropout设置为0.3，预测结果如图5所示，采用平均绝对百分误差(Mean Absolute Percentage Error，MAPE)和均方根误差(Root Mean Square Error，RMSE)作为的评估标准，将本专利模型与多种预测模型进行比对，如下表2所示：
表2各预测模型评价指标计算结果
为验证考虑点预测结果的误差以及负荷曲线定积分的物理意义对于日前负荷预测精度的影响，基于相同的混合神经网络结构，将加入定积分约束条件与不加入约束条件的模型进行比对，结果如下表所示：
表3对比实验结果
5)日时间尺度气象因素通过全连接层与门循环单元连接，将双向长短期记忆网络的输出的抽象的综合数据直接输入到门控循环单元中，模型标签值设为次周负荷值，损失函数中考虑点预测结果的误差以及负荷曲线定积分的物理意义，模型最终可实现周前负荷预测。卷积神经网络设置为2层，卷积核数目依次设置为32、64，卷积核的大小设为3×3，池化层中池的大小设为2，经过2次卷积和最大池化操作，得到2×2×64的三维向量数组，之后进行扁平化操作将其改变为长度是256的一维向量数组，将长度为256的一维向量数组输入双向长短期记忆网络，双向长短期记忆网络的层数为2，门循环单元为1层，学习率为0.001，将Dropout设置为0.3，预测结果如图6u所示，采用平均绝对百分误差(Mean AbsolutePercentage Error，MAPE)和均方根误差(Root Mean Square Error，RMSE)作为的评估标准，将本专利模型与多种预测模型进行比对，如下表4所示：
表4各预测模型评价指标计算结果
为验证考虑点预测结果的误差以及负荷曲线定积分的物理意义对于周前预测精度的影响，基于相同的混合神经网络结构，将加入定积分约束条件与不加入约束条件的模型进行比对，结果如下表5所示，通过表5可以看出，加入定积分约束条件后的负荷预测更为准确。
表5对比实验结果
实施例3
根据本发明实施例的另一方面，还提供了一种基于混合神经网络的多时间尺度负荷预测系统，多时间尺度负荷预测系统应用上述的基于混合神经网络的多时间尺度负荷预测方法，多时间尺度负荷预测系统包括：
预训练模型模块，用于获取变压器的原始负荷数据，对所述原始荷数据进行预处理得到负荷数据，并基于双向长短期记忆网络建立预训练模型；
降维模块，用于使用全连接神经网络对预训练模型的输出向量进行降维，得到降维后的训练模型；
二维矩阵模块，用于选择与待预测日相似的历史气象数据，将与预测日相似的历史气象数据中的小时尺度气象数据与全连接神经网络的输出结果拼接后转化成二维矩阵；
训练模块，用于采用卷积神经网络对所述二维矩阵进行特征提取，并整理得到特征向量；根据小时尺度气象数据的特点对降维后的训练模型进行设置，并将特征向量输入设置后的训练模型进行训练，使双向长短期记忆网络能够实现日前负荷预测；
周前负荷预测模块，用于基于全连接网络将双向长短期记忆网络与门循环单元连接，将双向长短期记忆网络的输出的抽象的综合数据输入门循环单元，实现周前负荷预测。
本发明不局限于以上的具体实施方式，以上仅为本发明的较佳实施案例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。
实施例4，根据本发明实施例的另一方面，还提供了一种计算机可读存储介质，该计算机可读存储介质包括存储的程序，其中，在程序运行时控制计算机可读存储介质所在设备执行上述中任意一项的基于混合神经网络的多时间尺度负荷预测方法。
可选地，在本实施例中，上述计算机可读存储介质可以位于计算机网络中计算机终端群中的任意一个计算机终端中，或者位于移动终端群中的任意一个移动终端中，上述计算机可读存储介质包括存储的程序。
可选地，在程序运行时控制计算机可读存储介质所在设备执行以下功能：获取变压器的原始负荷数据，对所述原始荷数据进行预处理得到负荷数据，并基于双向长短期记忆网络建立预训练模型；使用全连接神经网络对预训练模型的输出向量进行降维，得到降维后的训练模型；选择与待预测日相似的历史气象数据，将与预测日相似的历史气象数据中的小时尺度气象数据与全连接神经网络的输出结果拼接后转化成二维矩阵；采用卷积神经网络对所述二维矩阵进行特征提取，并整理得到特征向量；根据小时尺度气象数据的特点对降维后的训练模型进行设置，并将特征向量输入设置后的训练模型进行训练，使双向长短期记忆网络能够实现日前负荷预测；基于全连接网络将双向长短期记忆网络与门循环单元连接，将双向长短期记忆网络的输出的抽象的综合数据输入门循环单元，实现周前负荷预测。
实施例5
根据本发明实施例的另一方面，还提供了一种处理器，该处理器用于运行程序，其中，程序运行时执行上述中任意一项的基于混合神经网络的多时间尺度负荷预测方法。
本发明实施例提供了一种设备，该设备包括处理器、存储器及存储在存储器上并可在处理器上运行的程序，处理器执行程序时实现基于混合神经网络的多时间尺度负荷预测方法的步骤。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
在本发明的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的系统实施例仅仅是示意性的，例如所述单元的划分，可以为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、只读存储器(ROM,Read-0nlyMemory)、随机存取存储器(RAM,RandomAccessMemory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。
Claims (10)
1.一种基于混合神经网络的多时间尺度负荷预测方法，其特征在于，包括：
获取变压器的原始负荷数据，对所述原始荷数据进行预处理得到负荷数据，并基于双向长短期记忆网络建立预训练模型；
使用全连接神经网络对预训练模型的输出向量进行降维，得到降维后的训练模型；
选择与待预测日相似的历史气象数据，将与预测日相似的历史气象数据中的小时尺度气象数据与全连接神经网络的输出结果拼接后转化成二维矩阵；
采用卷积神经网络对所述二维矩阵进行特征提取，并整理得到特征向量；根据小时尺度气象数据的特点对降维后的训练模型进行设置，并将特征向量输入设置后的训练模型进行训练，使双向长短期记忆网络能够实现日前负荷预测；
基于全连接网络将双向长短期记忆网络与门循环单元连接，将双向长短期记忆网络的输出的抽象的综合数据输入门循环单元，实现周前负荷预测。
2.根据权利要求1所述的基于混合神经网络的多时间尺度负荷预测方法，其特征在于，获取的变压器负荷数据为T年内t分钟间隔的变压器负荷数据；。
3.根据权利要求1所述的基于混合神经网络的多时间尺度负荷预测方法，其特征在于，使用全连接神经网络将预训练模型的输出向量的维度降为1小时间隔的负荷数据。
4.根据权利要求1所述的基于混合神经网络的多时间尺度负荷预测方法，其特征在于，将小时尺度气象数据与全连接神经网络的输出结果拼接后转化成二维矩阵包括：
根据小时尺度气象数据的特征点将特征点组成日特征向量α(i)，其中，小时尺度气象数据的特征点包括：整点时刻负荷L(i)、一个小时内的最高温度T(i)、一个小时内空气湿度的最高值H(i)；
将日特征向量α(i)以滑动窗口的方式组成日特征矩阵A；
将日特征矩阵A转化成二维矩：
上式中，α(i)＝(L(i),T(i),H(i))。
5.根据权利要求1所述的基于混合神经网络的多时间尺度负荷预测方法，其特征在于，根据小时尺度气象数据的特点对降维后的训练模型进行设置包括：设置预训练模型中双向长短期记忆网络的标签值设为次日负荷值，设置损失函数考虑点预测结果的误差和负荷曲线定积分的影响。
6.根据权利要求1所述的基于混合神经网络的多时间尺度负荷预测方法，其特征在于，基于全连接网络将双向长短期记忆网络与门循环单元连接，使双向长短期记忆网络的输出的抽象的综合数据，能够实现周前负荷预测，包括：
选择与待预测周相近的周气象数据作为待预测周的气象数据，日时间尺度气象因素通过全连接层与门循环单元连接，即将双向长短期记忆网络的输出的抽象的综合数据直接输入到门控循环单元中；
根据待预测周的气象数据的特点对门循环单元进行设置；
设置的门循环单元输出次周第t天的负荷值ηt：
ηt＝FGRU(εt,Dt,ηt-1)
上式中，FGRU为门循环单元；Dt为包含周日期、工作日、节假日、当日最高温度、当日最低温度、当日最高湿度和当日最低湿度第t天的日尺度数据；ηt-1为上一个时刻的负荷值；εt为第t天经过双向长短期记忆网络处理后的抽象的综合数据；
通过门循环单元滚动预测得到次周的负荷值。
7.根据权利要求6所述的基于混合神经网络的多时间尺度负荷预测方法，其特征在于，εt的表达式为：
式中，nt(i)为经过卷积神经网络特征提取后第t天第i个小时的气象因素综合抽象特征向量；mt(i)为第t天第i个小时的负荷值。
8.一种基于混合神经网络的多时间尺度负荷预测系统，其特征在于，包括：
预训练模型模块，用于获取变压器的原始负荷数据，对所述原始荷数据进行预处理得到负荷数据，并基于双向长短期记忆网络建立预训练模型；
降维模块，用于使用全连接神经网络对预训练模型的输出向量进行降维，得到降维后的训练模型；
二维矩阵模块，用于选择与待预测日相似的历史气象数据，将与预测日相似的历史气象数据中的小时尺度气象数据与全连接神经网络的输出结果拼接后转化成二维矩阵；
训练模块，用于采用卷积神经网络对所述二维矩阵进行特征提取，并整理得到特征向量；根据小时尺度气象数据的特点对降维后的训练模型进行设置，并将特征向量输入设置后的训练模型进行训练，使双向长短期记忆网络能够实现日前负荷预测；
周前负荷预测模块，用于基于全连接网络将双向长短期记忆网络与门循环单元连接，将双向长短期记忆网络的输出的抽象的综合数据输入门循环单元，实现周前负荷预测。
9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质包括存储的程序，其中，在所述程序运行时控制所述计算机可读存储介质所在设备执行权利要求1至7中任意一项所述的基于混合神经网络的多时间尺度负荷预测方法。
10.一种处理器，其特征在于，所述处理器用于运行程序，其中，所述程序运行时执行权利要求1至7中任意一项所述的基于混合神经网络的多时间尺度负荷预测方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310228917.6A CN116402194A (zh) | 2023-03-10 | 2023-03-10 | 一种基于混合神经网络的多时间尺度负荷预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310228917.6A CN116402194A (zh) | 2023-03-10 | 2023-03-10 | 一种基于混合神经网络的多时间尺度负荷预测方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116402194A true CN116402194A (zh) | 2023-07-07 |
Family
ID=87013304
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310228917.6A Pending CN116402194A (zh) | 2023-03-10 | 2023-03-10 | 一种基于混合神经网络的多时间尺度负荷预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116402194A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117239739A (zh) * | 2023-11-13 | 2023-12-15 | 国网冀北电力有限公司 | 一种知识大模型预测用户侧负荷方法、装置及设备 |
-
2023
- 2023-03-10 CN CN202310228917.6A patent/CN116402194A/zh active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117239739A (zh) * | 2023-11-13 | 2023-12-15 | 国网冀北电力有限公司 | 一种知识大模型预测用户侧负荷方法、装置及设备 |
| CN117239739B (zh) * | 2023-11-13 | 2024-02-02 | 国网冀北电力有限公司 | 一种知识大模型预测用户侧负荷方法、装置及设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108280551B (zh) | 一种利用长短期记忆网络的光伏发电功率预测方法 | |
| CN113962364B (zh) | 一种基于深度学习的多因素用电负荷预测方法 | |
| Ke et al. | Short-term electrical load forecasting method based on stacked auto-encoding and GRU neural network | |
| Hu et al. | A hybrid model based on CNN and Bi-LSTM for urban water demand prediction | |
| CN107622329A (zh) | 基于多时间尺度长短时记忆神经网络的电力负荷预测方法 | |
| CN112488415A (zh) | 基于经验模态分解和长短时记忆网络的电力负荷预测方法 | |
| CN108711847B (zh) | 一种基于编码解码长短期记忆网络的短期风电功率预测方法 | |
| CN112529282A (zh) | 基于时空图卷积神经网络的风电场集群短期功率预测方法 | |
| CN108022001A (zh) | 基于pca和分位数回归森林的短期负荷概率密度预测方法 | |
| Liu et al. | Heating load forecasting for combined heat and power plants via strand-based LSTM | |
| Li et al. | Multi-reservoir echo state computing for solar irradiance prediction: A fast yet efficient deep learning approach | |
| CN109583565A (zh) | 基于注意力模型长短时记忆网络的洪水预测方法 | |
| CN112561058A (zh) | 基于Stacking-集成学习短期光伏功率预测方法 | |
| CN113554466A (zh) | 一种短期用电量预测模型构建方法、预测方法和装置 | |
| Zou et al. | Weather based day-ahead and week-ahead load forecasting using deep recurrent neural network | |
| CN113705915A (zh) | 一种基于cnn-lstm-arima组合短期电力负荷预测方法 | |
| CN115860177A (zh) | 基于组合式机器学习模型光伏发电功率预测方法及其应用 | |
| CN116014722A (zh) | 基于季节分解和卷积网络的次日光伏发电预测方法及系统 | |
| CN112348287A (zh) | 基于lstm分位数回归的电力系统短期负荷概率密度预测方法 | |
| CN116402194A (zh) | 一种基于混合神经网络的多时间尺度负荷预测方法 | |
| CN116384583A (zh) | 一种基于多神经网络的光伏功率预测方法 | |
| CN115759343A (zh) | 一种基于e-lstm的用户电量预测方法和装置 | |
| CN115238854A (zh) | 一种基于tcn-lstm-am的短期负荷预测方法 | |
| CN114266374A (zh) | 一种基于深度学习的综合能源系统多元负荷预测方法 | |
| Alomoush et al. | Residential Power Load Prediction in Smart Cities using Machine Learning Approaches |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |