CN109002942A - 一种基于随机神经网络的短期负荷预测方法 - Google Patents
一种基于随机神经网络的短期负荷预测方法 Download PDFInfo
- Publication number
- CN109002942A CN109002942A CN201811144421.6A CN201811144421A CN109002942A CN 109002942 A CN109002942 A CN 109002942A CN 201811144421 A CN201811144421 A CN 201811144421A CN 109002942 A CN109002942 A CN 109002942A
- Authority
- CN
- China
- Prior art keywords
- model
- neural network
- value
- layer
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000001537 neural effect Effects 0.000 title claims abstract description 46
- 238000013277 forecasting method Methods 0.000 title claims abstract description 15
- 230000006870 function Effects 0.000 claims abstract description 44
- 238000013528 artificial neural network Methods 0.000 claims abstract description 38
- 238000012549 training Methods 0.000 claims abstract description 36
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 29
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims abstract description 23
- 238000003062 neural network model Methods 0.000 claims abstract description 14
- 238000005457 optimization Methods 0.000 claims abstract description 14
- 238000004321 preservation Methods 0.000 claims abstract description 11
- 230000004913 activation Effects 0.000 claims abstract description 9
- 101001095088 Homo sapiens Melanoma antigen preferentially expressed in tumors Proteins 0.000 claims description 7
- 102100037020 Melanoma antigen preferentially expressed in tumors Human genes 0.000 claims description 7
- 238000011156 evaluation Methods 0.000 claims description 6
- 238000012937 correction Methods 0.000 claims description 4
- 238000010606 normalization Methods 0.000 claims description 2
- 230000007423 decrease Effects 0.000 description 8
- 238000013135 deep learning Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 6
- 238000000034 method Methods 0.000 description 6
- 230000008901 benefit Effects 0.000 description 4
- 238000010276 construction Methods 0.000 description 4
- 238000013136 deep learning model Methods 0.000 description 4
- 210000002569 neuron Anatomy 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000005611 electricity Effects 0.000 description 3
- 210000005036 nerve Anatomy 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000013439 planning Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 241001269238 Data Species 0.000 description 1
- 244000131316 Panax pseudoginseng Species 0.000 description 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 229910000831 Steel Inorganic materials 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000004870 electrical engineering Methods 0.000 description 1
- 235000008434 ginseng Nutrition 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 210000004218 nerve net Anatomy 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 238000013179 statistical model Methods 0.000 description 1
- 239000010959 steel Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/06—Energy or water supply
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Economics (AREA)
- General Physics & Mathematics (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computing Systems (AREA)
- Water Supply & Treatment (AREA)
- Public Health (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Primary Health Care (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Development Economics (AREA)
- Game Theory and Decision Science (AREA)
- Entrepreneurship & Innovation (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于随机神经网络的短期负荷预测方法，包括以下步骤：Step1数据预处理；Step2确定神经网络模型隐藏层数、每层节点数、学习目标、训练次数、学习速率，激活函数等；Step3确定随机神经网络模型batch大小，把Step1归一化的数据输入到Step2生成的神经网络，计算神经网络的输出值；Step4：计算神经网络输出值与目标值的损失函数，并且采用Adam优化算法，对神经网络模型参数更新；Step5：计算全部训练数据集在Step4参数更新后的损失函数；如果当前损失函数小于保存的最小损失函数，则说明模型参数更优，更新保存的模型和最小损失函数值，否则跳过Step5。
Description
技术领域
本发明涉及电力系统技术领域，特别是涉及一种基于随机神经网络的短期负荷预测方法。
背景技术
随着智能电网在世界范围的建设和相关技术的发展，现代化电网产生大量负荷数据，如何在这些数据之间寻找负荷预测需要的信息，对今后智能电网的建设有着至关重要的意义[1-2]。最初的负荷预测方法依赖于工作经验丰富的电网人员的判断，由于没有科学依据，以及工作人员背景不同会使得负荷预测没有普遍性。随着智能电网的建设普及，研究人员可以获取海量电网数据，因此相继涌现出多种建立在数学理论的负荷预测方法，例如经典的模型有灰色理论[3]、人工神经网络[4]、人工神经网络与灰色理论结合[5]、支持向量机[6]和决策树[7]等。这些经典算法由于自身或其他原因，使得负荷预测精度远远不能满足电力市场的需要。
在1985年英国，据估计每增加百分之一的负荷预测错误就导致一千万英镑的损失[8]。电力行业需要更加准确的负荷预测数据才能做出合适的电力规划和管理策略。一个精准的负荷预测能够最小化电力供给和实际需求的差距，为了满足未来的电力需求和降低短期电力不足的压力，一些实时技术创新应运而生。在近几十年中为了提高预测精准度，各种负荷预测的新技术相继提出。但是由于天气情况、经济状况和电力系统的非线性因素和人们随机使用电器行为等导致很难进行精准的电力预测[9]。随着科技的发展，负荷预测愈加准确，由于负荷预测失误导致经济的负面影响渐渐减低。电力市场的制定者需要更准确的负荷预测数据获取利润和优化公共事业。
一般来说，能源管理系统(EMS)使用四种类型的负荷预测去设计电力方案：(1)短期负荷预测，要求预测几分钟到一周内的电力；(2)中期负荷预测要求预测超过一周最多几个月的电力；(3)长期负荷预测要求几个月到几年的电力。短期负荷在电力系统为了调控和规划电力要求精准的预测。电力负荷预测模型大致可以分为四类：(1)统计模型；(2)基于知识的专家系统；(3)混合模型；(4)人工智能模型。
在所有有效的负荷模型中，基于人工神经网络算法解决短期负荷预测问题。神经网络因即使在复杂的非线性环境中也能显示出较强的学习能力而闻名。神经网络具有结构简单、高容错性和非线性的特点使其能被广泛的应用[10]。在一般的神经网络的中，随机初始化神经网络模型，在使用梯度下降优化模型的过程中容易陷入局部最优，严重影响神经网络模型的负荷预测准确度。
发明内容
针对现有技术存在的不足之处，本发明的目的在于提供一种基于随机神经网络的短期负荷预测方法，对传统的随机神经网络模型提出改进，针对随机神经网络模型优化速率缓慢提出快速优化的Adam算法；最后保存模型不是整体训练集的损失函数最小的参数模型问题，提出在随机神经网络每次更新马上计算整体训练集在当前模型的损失函数，与记录的最小损失函数进行比较，如果损失函数更小则保存模型，否则进行下次参数更新；探索适应当前数据集的神经网络层数。
本发明的目的通过下述技术方案实现：
一种基于随机神经网络的短期负荷预测方法，其特征在于，对随机神经网络最后保存模型提出一个判断条件，当训练模型的损失小于一个我们设定的阈值时记录最小的整个训练数据集的损失min，每次随机神经网络的参数调整，都与最小的损失比较，保留最小的损失值和模型，具体包括以下步骤：
Step1:数据预处理，在输入模型进行训练前进行归一化处理，一般归一化公式如下：
Step2:确定神经网络模型隐藏层数、每层节点数、学习目标、训练次数、学习速率，激活函数等；
Step3:确定随机神经网络模型batch大小，把Step1归一化的数据输入到Step2生成的神经网络，计算神经网络的输出值；
Step4：计算神经网络输出y(t)与目标值的损失函数L，并且采用Adam优化算法，对神经网络模型参数更新；
Step5：计算全部训练数据集在Step4参数更新后的损失函数。由于算法保存模型需要时间长，为了减少模型训练时间，设定损失函数阈值，只有损失函数小于阈值，再与保存的最小损失函数相比，如果当前损失函数小于保存的最小损失函数，则说明模型参数更优，更新保存的模型和最小损失函数值，否则跳过Step5。。
为了更好地实现本发明，所述Step1中的输入模型为三层的神经网络模型，在时间为t(t＝1，2，3......，N-1，N)的时间序列中，输入值为x(t)，目标输出值为输入层和输出层的节点数为1，M为隐藏层的节点数，b为输入层的偏置和c为隐藏层偏置，U、V分别代表输入层到隐藏层和隐藏层到输出层的权重；
为输入层到隐藏层第j个节点输入值，Uj为输入层到隐藏层第j个节点的权重；
为隐藏层第j个节点的输入值，为隐藏层第j个节点输出值；
隐藏层第j个节点的输出值与隐藏层第j个节点与输出节点的权重对应相乘累加求和即为输出节点的值；
L记为训练数据的损失函数，通过Adam优化算法更新模型参数。
进一步地，所述Step2中，激活函数为tanh函数。
作为优选，所述Adam优化算法的具体公式如下：
mt＝β1mt-1+(1-β1)gt （6）
其中，mt，vt分别是对梯度的一阶矩估计和二阶矩估计；是对mt，vt的校正，这样可以近似对期望的无偏估计。Adam算法β1默认值为0.9，β2的默认值为0.999，ε默认值为10-8。
更进一步的，所述短期负荷预测方法采用MAPE,MAE和RMSE作为评价标准对准确度进行评价：
（11）
y(t)代表在t时刻的预测结果，代表在t时刻真实情况下的负荷值，N代表预测范围。
本发明较现有技术相比，具有以下优点及有益效果：
本发明针对神经网络容易陷入局部最优问题，采用随机神经网络并对随机神经网络模型本身存在问题模型总是朝着部分训练数据优化的方向更新参数提出改进，并探索适用于短期负荷预测的模型层数，实验结果表明，两层时的随机神经网络模型表现出较好的预测精度。
附图说明
图1为BP神经网络结构示意图。
图2为激活函数tanh曲线图。
图3为本发明的随机神经网络流程图。
图4为本发明的一层神经元模型预测值与实际值对比图。
图5为本发明的二层神经元模型预测值与实际值对比图。
图6为本发明的深度学习模型预测值与实际值对比图。
具体实施方式
下面结合实施例对本发明作进一步地详细说明，但本发明的实施方式不限于此。
实施例
本实施例以2017年5月焦作市某县的数据，数据的输入为负荷时刻前三个小时的真实负荷和负荷时刻的温度值见表1：
表1模型输入与输出
表中第一行的数据分别为5月1号0时刻的负荷、1时的负荷和2时的负荷，3时的温度，LF(Load Forecasting)表示的预测的负荷值，深度学习模型每次的负荷预测都只能预测将来一小时的负荷，每次输入都是真实的负荷数值。不使用负荷数据作为输入值是因为负荷数据总是存在一定的误差，如果以负荷预测数据作为输入，依次循环预测的效果越来越偏离真实负荷数据[13]。
如图1-6所示，一种基于随机神经网络的短期负荷预测方法，其中基础的BP神经网络是模拟生物神经元的功能，很大程度的简化生物神经网络的功能，神经网络由多层神经网路层组成，每一层有多个神经元，第一层称为输入层，最后一层为输出层，中间为隐藏层，神经网络中输入层和输出层只有一层，隐藏层的层数最少为一层；在BP神经网络中，只有相邻的神经网络层之间的单元有传递，神经网络的输出层是没有偏置，其他都有偏置调节。神经网络结构如图1所示。
整个基于神经网络的短期负荷预测模型建立可以分为两个步骤：
(1)向前传播，计算当前神经网络预测模型的预测结果；
(2)反向反馈，计算当前预测结果与实际值之间的损失函数，然后对各个参数求偏导数，求出的偏导数乘以一定的学习率与模型中各个参数和偏置相加，从而达到模型优化的效果。训练神经网络，实际就是寻找最优的权重和偏置，使得训练数据损失函数最小。
对于一个三层的神经网络模型，在时间为t(t＝1，2，3......，N-1，N)的时间序列中，输入值为x(t)，目标输出值为输入层和输出层的节点数为1，M为隐藏层的节点数，b为输入层的偏置和c为隐藏层偏置，U、V分别代表输入层到隐藏层和隐藏层到输出层的权重。
为输入层到隐藏层第j个节点输入值，Uj为输入层到隐藏层第j个节点的权重。
为隐藏层第j个节点的输入值，为隐藏层第j个节点输出值。
隐藏层第j个节点的输出值与隐藏层第j个节点与输出节点的权重对应相乘累加求和即为输出节点的值。
L记为训练数据的损失函数，通过损失函数使用Adam优化算法更新模型参数。
神经网络的激活函数采用tanh函数，tanh函数如图2所示：
tanh激活函数是0均值，相比Sigmoid函数更具有优越性，Sigmoid函数在输入处于[-1,1]之间时，函数值变化敏感，一旦接近或超出区间就失去敏感性，处于饱和状态，影响神经网络的精度值。而tanh的输入和输出能够保持非线性单调上升和下降的关系，非常符合BP神经网络的梯度求解，比Sigmoid延迟了饱和期[11]。
困扰深度学习算法的原因是深度学习往往需要大量的计算时间和计算资源，采用分布式并行训练加快模型的学习没有减少学习的资源。基于减少学习资源的想法提出Adam(A Method for Stochastic Optimization)算法。
Adam的优点主要在于经过偏置校正后，每一次迭代学习率都有个确定范围，使得参数比较平稳，其具体公式如下：
mt=β1mt-1+(1-β1)gt （6）
其中，mt，vt分别是对梯度的一阶矩估计和二阶矩估计；是对mt，vt的校正，这样可以近似对期望的无偏估计。Adam算法β1默认值为0.9，β2的默认值为0.999，ε默认值为10-8。
Adam算法结合了适应性梯度算法(AdaGrad)为每个参数保留一个学习率以提升稀疏梯度上的性能和均方根传播(RMSProp)基于权重梯度最近量级的均值为每个参数适应性地保留学习率的优势。更多关于Adam算法请参考[12]文献。
随机神经网络是在传统神经网络在的基础上的一种改进网路结构，传统神经网络是一次计算全体训练集的损失，利用梯度下降对神经网络的参数进行优化，随机神经网络是对每一组训练数据计算损失，模型是朝着这一组训练数据的方向优化。随机神经网络也有自己的不足，与向全体数据优化的方向更新参数相比，随机神经网络训练模型无疑是要多走弯路，但是最重要的一点，随机神经网络不会陷入局部最优。最后随机神经网络的参数始终是围绕着全局最优附件徘徊，每次训练都是参数修正，因此可能在就全体数据最优参数的情况下，下次数据训练就改变参数，最后的模型不是最优模型。
针对以上缺点，本文提出改进的随机神经网络模型。该模型是随机神经网络最后保存模型提出一个判断条件，当训练模型的损失小于一个我们设定的阈值时记录最小的整个训练数据集的损失min，每次随机神经网络的参数调整，都与最小的损失比较，保留最小的损失值和模型，具体过程如下：
Step1:数据预处理，在输入模型进行训练前归一化处理，可以加快模型的学习，一般归一化公式如下：
Step2:确定神经网络模型隐藏层数、每层节点数、学习目标、训练次数、学习速率，激活函数等；
Step3:确定随机神经网络模型batch大小，把Step1归一化的数据输入到Step2生成的神经网络，计算神经网络的输出值；
Step4：计算神经网络输出y(t)与目标值的损失函数L，并且采用Adam优化算法，对神经网络模型参数更新；
Step5：计算全部训练数据集在Step4参数更新后的损失函数。由于算法保存模型需要时间长，为了减少模型训练时间，设定损失函数阈值，只有损失函数小于阈值，再与保存的最小损失函数相比，如果当前损失函数小于保存的最小损失函数，则说明模型参数更优，更新保存的模型和最小损失函数值，否则跳过Step5。
具体的训练模型流程图如图3所示。
设置阈值是为了减少程序运行时间，在模型训练中，数据的读写特别占用时间，因此设置阈值。当整个训练集的损失小于设置的阈值时开始保留模型，在模型优化的过程中，保证了当前的模型为训练集整体损失最小的参数。
虽然有很多评价负荷预测准确度的指标，但是为了一个公平的对比，我们采用MAPE,MAE和RMSE作为评价标准，它们定义如下：
y(t)代表在t时刻的预测结果，代表在t时刻真实情况下的负荷值，N代表预测范围。
表2表示优化的模型预测数据：从上往下依次为一层采用梯度下降随机神经网络、采用Adam的随机神经网络、两层采用梯度下降随机神经网络、采用Adam的随机神经网络和采用梯度下降的随机神经网络模型、采用梯度下降的深度学习和采用Adam的深度学习的负荷预测精度数据。评价结果由3个不同的评价标准：MAPE,MAE和RMSE。通过实验结果表明采用Adam算法的两层随机神经网络模型预测效果最佳。
表2改善模型预测结果
从表中可以看出随机神经网络采用Adam算法比采用梯度下降的明显优势，MAPE从0.080降到了0.059，相当于35.59％的MAPE的降低。MAE也实现了29.64％的下降(从7.5178WH降到了5.289WH),RMSE实现了大约30.22％的降低；在深度学习中Adam算法也表现出明显的优异性。MAPE,MAE和RMSE分别提高了23.94％、36.15％和33.90％。从BP神经网络到深度学习，不管使用算法，可以看到深度学习展现了强大的学习能力。
为了可视化提出的采用Adam算法的随机神经网络组成的深度学习模型。本文选取2017年5月11号河南省焦作市某县的的日负荷曲线和预测模型。为了体现提出模型的优越性同时探索最适合的神经网络层数，分别画出BP神经网络预测与实际负荷的曲线图如图4所示、两层神经网络的模型与实际负荷的曲线图图5和深度学习模型实际负荷的曲线图图6。
图中我们发现以下特点：在随机神经中，随着层数的递增模型对数据的敏感性在下降，一层时过于敏感，两层时模型表现最好与表的结果一直，三层时的模型对数据的特征表现不敏感；以负荷前3小时的负荷数据与负荷预测的温度值作为输入值，该时刻的负荷作为输出值，输入与输出之间的关系使用两层神经网络模型能够充分拟合，从图5中可以看到实际的负荷曲线与预测负荷曲线非常接近，表现出较强的鲁棒性。随着层数的增加，深度学习的模型的预测曲线与实际的负荷曲线出现差距，表明模型的拟合能力有所下降。
综上所述，通过本实施例的描述，可以使本技术领域人员更好的实施本方案。参考文献：
[1]张东霞,苗新,刘丽平,等.智能电网大数据技术发展研究[J].中国电机工程学报,2015(1):2-12.
[2]刘振亚.智能电网技术[J].2010.
[3]张俊芳,吴伊昂,吴军基.基于灰色理论负荷预测的应用研究[J].电力自动化设备,2004,24(5):24-27.
[4]郭龙钢.基于BP人工神经网络电力负荷预测[J].洛阳理工学院学报(自然科学版),2013,23(1):62-64.
[5]陈帅,王勇,吕丰,等.基于灰色理论和神经网络的短期电力负荷预测[J].上海电力学院学报,2013,29(6):527-531.
[6]刘宝英,杨仁刚.基于主成分分析的最小二乘支持向量机短期负荷预测模型[J].电力自动化设备,2008,28(11):13-17.
[7]刘琪琛,雷景生,郝珈玮,等.基于Spark平台和并行随机森林回归算法的短期电力负荷预测[J].电力建设,2017,38(10):84-92.
[8]Bunn D W,Farmer E D.REVIEW OF SHORT-TERM FORECASTING METHODS INTHE ELECTRIC POWER INDUSTRY[J].1985.
[9]张楷旋.考虑天气因素的含风电场电力系统的概率潮流分析[D].浙江大学,2015.
[10]SimonHaykin,海金,叶世伟,等.神经网络原理[M].机械工业出版社,2004.
[11]罗鹏,李会方.基于Tanh多层函数的量子神经网络算法及其应用的研究[J].计算机与数字工程,2012,40(1):4-6.
[12]Kingma D,Ba J.Adam:A Method for Stochastic Optimization[J].Computer Science,2014.
[13]Zhang J,Wei Y M,Li D,et al.Short term electricity loadforecasting using a hybrid model[J].Energy,2018,158:774-781。
Claims (5)
1.一种基于随机神经网络的短期负荷预测方法，其特征在于，对随机神经网络最后保存模型提出一个判断条件，当训练模型的损失小于一个我们设定的阈值时记录最小的整个训练数据集的损失min，每次随机神经网络的参数调整，都与最小的损失比较，保留最小的损失值和模型，具体包括以下步骤：
Step1:数据预处理，在输入模型进行训练前进行归一化处理，一般归一化公式如下：
Step2:确定神经网络模型隐藏层数、每层节点数、学习目标、训练次数、学习速率，激活函数等；
Step3:确定随机神经网络模型batch大小，把Step1归一化的数据输入到Step2生成的神经网络，计算神经网络的输出值；
Step4：计算神经网络输出y(t)与目标值的损失函数L，并且采用Adam优化算法，对神经网络模型参数更新；
Step5：计算全部训练数据集在Step4参数更新后的损失函数。由于算法保存模型需要时间长，为了减少模型训练时间，设定损失函数阈值，只有损失函数小于阈值，再与保存的最小损失函数相比，如果当前损失函数小于保存的最小损失函数，则说明模型参数更优，更新保存的模型和最小损失函数值，否则跳过Step5。
2.根据权利要求1所述的一种基于随机神经网络的短期负荷预测方法，其特征在于：所述Step1中的输入模型为三层的神经网络模型，在时间为t(t＝1，2，3......，N-1，N)的时间序列中，输入值为x(t)，目标输出值为输入层和输出层的节点数为1，M为隐藏层的节点数，b为输入层的偏置和c为隐藏层偏置，U、V分别代表输入层到隐藏层和隐藏层到输出层的权重；
为输入层到隐藏层第j个节点输入值，Uj为输入层到隐藏层第j个节点的权重；
为隐藏层第j个节点的输入值，为隐藏层第j个节点输出值；
隐藏层第j个节点的输出值与隐藏层第j个节点与输出节点的权重对应相乘累加求和即为输出节点的值；
L记为训练数据的损失函数，通过Adam优化算法更新模型参数。
3.根据权利要求1所述的一种基于随机神经网络的短期负荷预测方法，其特征在于：所述Step2中，激活函数为tanh函数。
4.根据权利要求2所述的一种基于随机神经网络的短期负荷预测方法，其特征在于：所述Adam优化算法的具体公式如下：
mt＝β1mt-1+(1-β1)gt (6)
其中，mt，vt分别是对梯度的一阶矩估计和二阶矩估计；是对mt，vt的校正，这样可以近似对期望的无偏估计。Adam算法β1默认值为0.9，β2的默认值为0.999，ε默认值为10-8。
5.根据权利要求1所述的一种基于随机神经网络的短期负荷预测方法，其特征在于，所述短期负荷预测方法采用MAPE,MAE和RMSE作为评价标准对准确度进行评价：
y(t)代表在t时刻的预测结果，代表在t时刻真实情况下的负荷值，N代表预测范围。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811144421.6A CN109002942A (zh) | 2018-09-28 | 2018-09-28 | 一种基于随机神经网络的短期负荷预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811144421.6A CN109002942A (zh) | 2018-09-28 | 2018-09-28 | 一种基于随机神经网络的短期负荷预测方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN109002942A true CN109002942A (zh) | 2018-12-14 |
Family
ID=64589801
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811144421.6A Pending CN109002942A (zh) | 2018-09-28 | 2018-09-28 | 一种基于随机神经网络的短期负荷预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109002942A (zh) |
Cited By (28)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109934222A (zh) * | 2019-03-01 | 2019-06-25 | 长沙理工大学 | 一种基于迁移学习的绝缘子串自爆识别方法 |
| CN109947940A (zh) * | 2019-02-15 | 2019-06-28 | 平安科技（深圳）有限公司 | 文本分类方法、装置、终端及存储介质 |
| CN110083951A (zh) * | 2019-04-30 | 2019-08-02 | 贵州电网有限责任公司 | 一种基于变压器相关运行数据的固体绝缘寿命预测方法 |
| CN110110906A (zh) * | 2019-04-19 | 2019-08-09 | 电子科技大学 | 一种基于Efron近似优化的生存风险建模方法 |
| CN110213784A (zh) * | 2019-07-05 | 2019-09-06 | 中国联合网络通信集团有限公司 | 一种流量预测方法及装置 |
| CN110264272A (zh) * | 2019-06-21 | 2019-09-20 | 山东师范大学 | 一种移动互联网劳务众包平台任务最优定价预测方法、装置及系统 |
| CN110360091A (zh) * | 2019-06-05 | 2019-10-22 | 合肥通用机械研究院有限公司 | 一种基于神经网络的制冷压缩机测控系统及测控方法 |
| CN110415094A (zh) * | 2019-06-18 | 2019-11-05 | 重庆金融资产交易所有限责任公司 | 资产负债智能管理方法、装置及计算机可读存储介质 |
| CN110414748A (zh) * | 2019-08-12 | 2019-11-05 | 合肥阳光新能源科技有限公司 | 光伏功率预测方法 |
| CN110942208A (zh) * | 2019-12-10 | 2020-03-31 | 萍乡市恒升特种材料有限公司 | 一种碳化硅泡沫陶瓷的最优生产条件确定方法 |
| CN110969306A (zh) * | 2019-12-05 | 2020-04-07 | 国网辽宁省电力有限公司沈阳供电公司 | 基于深度学习的配电低压台区负荷预测方法及装置 |
| CN111257934A (zh) * | 2020-01-17 | 2020-06-09 | 哈尔滨工业大学 | 基于二阶神经元深度神经网络的地震动峰值加速度预测方法 |
| CN111985725A (zh) * | 2020-08-30 | 2020-11-24 | 浙江工业大学 | 一种基于改进bp神经网络的离心泵性能参数预测方法 |
| CN112188520A (zh) * | 2020-09-11 | 2021-01-05 | 哈尔滨工业大学（深圳） | 基于神经网络负载预测的卫星物联网传输控制方法与系统 |
| CN112489453A (zh) * | 2020-11-18 | 2021-03-12 | 安徽四创电子股份有限公司 | 一种基于神经网络的交通信号智能调节方法 |
| CN112598188A (zh) * | 2020-12-29 | 2021-04-02 | 沃太能源南通有限公司 | 神经网络的生成方法、功率预测方法、装置和存储介质 |
| CN112633461A (zh) * | 2019-10-09 | 2021-04-09 | 株式会社日立制作所 | 应用辅助系统和方法以及计算机可读记录介质 |
| CN112711902A (zh) * | 2020-12-15 | 2021-04-27 | 国网江苏省电力有限公司淮安供电分公司 | 一种基于蒙特卡洛采样和深度学习的电网电压计算方法 |
| CN112711791A (zh) * | 2021-01-05 | 2021-04-27 | 浙江大学 | 基于神经网络弹性权重固化的建筑用能负荷实时预测方法 |
| CN113077853A (zh) * | 2021-04-06 | 2021-07-06 | 西安交通大学 | 双loss价值网络深度强化学习KVFD模型力学参数全局优化方法及系统 |
| CN113099474A (zh) * | 2021-04-08 | 2021-07-09 | 湖南国科轩宇信息科技有限公司 | 卫星互联网用户终端短期业务量需求预测方法及装置 |
| CN113344474A (zh) * | 2021-08-05 | 2021-09-03 | 山东大拇指喷雾设备有限公司 | 基于神经网络的喷嘴生产线动态管控方法及系统 |
| CN113487107A (zh) * | 2021-07-28 | 2021-10-08 | 华南农业大学 | 基于多层径向基网络的大型动物体重自动评估方法、系统及介质 |
| CN113518962A (zh) * | 2019-05-15 | 2021-10-19 | 阿里巴巴集团控股有限公司 | 混合学习神经网络架构 |
| CN113840190A (zh) * | 2021-11-10 | 2021-12-24 | 北京邮电大学 | 一种基于ann损失函数优化的光路传输质量预测方法 |
| CN114239905A (zh) * | 2021-10-29 | 2022-03-25 | 国网天津市电力公司 | 一种基于ResNet-LSTM的配电台区短期负荷预测方法及装置 |
| CN114697200A (zh) * | 2022-03-30 | 2022-07-01 | 合肥工业大学 | 一种5g配网分布式保护系统的保护装置配比优化方法 |
| CN117077671A (zh) * | 2023-10-17 | 2023-11-17 | 北京青牛技术股份有限公司 | 一种交互数据生成方法及系统 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20170091615A1 (en) * | 2015-09-28 | 2017-03-30 | Siemens Aktiengesellschaft | System and method for predicting power plant operational parameters utilizing artificial neural network deep learning methodologies |
| CN106920008A (zh) * | 2017-02-28 | 2017-07-04 | 山东大学 | 一种基于改进粒子群优化bp神经网络的风电功率预测方法 |
| CN107239859A (zh) * | 2017-06-05 | 2017-10-10 | 国网山东省电力公司电力科学研究院 | 基于串联长短期记忆循环神经网络的供热负荷预测方法 |
| CN108171762A (zh) * | 2017-12-27 | 2018-06-15 | 河海大学常州校区 | 一种深度学习的压缩感知同类图像快速重构系统与方法 |
| CN108229659A (zh) * | 2017-12-29 | 2018-06-29 | 陕西科技大学 | 基于深度学习的钢琴单键音识别方法 |
| CN108256697A (zh) * | 2018-03-26 | 2018-07-06 | 电子科技大学 | 一种用于电力系统短期负荷的预测方法 |
-
2018
- 2018-09-28 CN CN201811144421.6A patent/CN109002942A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20170091615A1 (en) * | 2015-09-28 | 2017-03-30 | Siemens Aktiengesellschaft | System and method for predicting power plant operational parameters utilizing artificial neural network deep learning methodologies |
| CN106920008A (zh) * | 2017-02-28 | 2017-07-04 | 山东大学 | 一种基于改进粒子群优化bp神经网络的风电功率预测方法 |
| CN107239859A (zh) * | 2017-06-05 | 2017-10-10 | 国网山东省电力公司电力科学研究院 | 基于串联长短期记忆循环神经网络的供热负荷预测方法 |
| CN108171762A (zh) * | 2017-12-27 | 2018-06-15 | 河海大学常州校区 | 一种深度学习的压缩感知同类图像快速重构系统与方法 |
| CN108229659A (zh) * | 2017-12-29 | 2018-06-29 | 陕西科技大学 | 基于深度学习的钢琴单键音识别方法 |
| CN108256697A (zh) * | 2018-03-26 | 2018-07-06 | 电子科技大学 | 一种用于电力系统短期负荷的预测方法 |
Cited By (40)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109947940B (zh) * | 2019-02-15 | 2023-09-05 | 平安科技（深圳）有限公司 | 文本分类方法、装置、终端及存储介质 |
| CN109947940A (zh) * | 2019-02-15 | 2019-06-28 | 平安科技（深圳）有限公司 | 文本分类方法、装置、终端及存储介质 |
| CN109934222A (zh) * | 2019-03-01 | 2019-06-25 | 长沙理工大学 | 一种基于迁移学习的绝缘子串自爆识别方法 |
| CN110110906A (zh) * | 2019-04-19 | 2019-08-09 | 电子科技大学 | 一种基于Efron近似优化的生存风险建模方法 |
| CN110083951A (zh) * | 2019-04-30 | 2019-08-02 | 贵州电网有限责任公司 | 一种基于变压器相关运行数据的固体绝缘寿命预测方法 |
| CN110083951B (zh) * | 2019-04-30 | 2023-06-02 | 贵州电网有限责任公司 | 一种基于变压器相关运行数据的固体绝缘寿命预测方法 |
| CN113518962A (zh) * | 2019-05-15 | 2021-10-19 | 阿里巴巴集团控股有限公司 | 混合学习神经网络架构 |
| CN110360091A (zh) * | 2019-06-05 | 2019-10-22 | 合肥通用机械研究院有限公司 | 一种基于神经网络的制冷压缩机测控系统及测控方法 |
| CN110415094A (zh) * | 2019-06-18 | 2019-11-05 | 重庆金融资产交易所有限责任公司 | 资产负债智能管理方法、装置及计算机可读存储介质 |
| CN110264272A (zh) * | 2019-06-21 | 2019-09-20 | 山东师范大学 | 一种移动互联网劳务众包平台任务最优定价预测方法、装置及系统 |
| CN110213784A (zh) * | 2019-07-05 | 2019-09-06 | 中国联合网络通信集团有限公司 | 一种流量预测方法及装置 |
| CN110414748A (zh) * | 2019-08-12 | 2019-11-05 | 合肥阳光新能源科技有限公司 | 光伏功率预测方法 |
| CN110414748B (zh) * | 2019-08-12 | 2022-04-08 | 阳光新能源开发股份有限公司 | 光伏功率预测方法 |
| CN112633461A (zh) * | 2019-10-09 | 2021-04-09 | 株式会社日立制作所 | 应用辅助系统和方法以及计算机可读记录介质 |
| CN110969306A (zh) * | 2019-12-05 | 2020-04-07 | 国网辽宁省电力有限公司沈阳供电公司 | 基于深度学习的配电低压台区负荷预测方法及装置 |
| CN110969306B (zh) * | 2019-12-05 | 2023-09-19 | 国网辽宁省电力有限公司沈阳供电公司 | 基于深度学习的配电低压台区负荷预测方法及装置 |
| CN110942208A (zh) * | 2019-12-10 | 2020-03-31 | 萍乡市恒升特种材料有限公司 | 一种碳化硅泡沫陶瓷的最优生产条件确定方法 |
| CN110942208B (zh) * | 2019-12-10 | 2023-07-07 | 萍乡市恒升特种材料有限公司 | 一种碳化硅泡沫陶瓷的最优生产条件确定方法 |
| CN111257934A (zh) * | 2020-01-17 | 2020-06-09 | 哈尔滨工业大学 | 基于二阶神经元深度神经网络的地震动峰值加速度预测方法 |
| CN111985725A (zh) * | 2020-08-30 | 2020-11-24 | 浙江工业大学 | 一种基于改进bp神经网络的离心泵性能参数预测方法 |
| CN112188520B (zh) * | 2020-09-11 | 2023-12-22 | 哈尔滨工业大学（深圳） | 基于神经网络负载预测的卫星物联网传输控制方法与系统 |
| CN112188520A (zh) * | 2020-09-11 | 2021-01-05 | 哈尔滨工业大学（深圳） | 基于神经网络负载预测的卫星物联网传输控制方法与系统 |
| CN112489453A (zh) * | 2020-11-18 | 2021-03-12 | 安徽四创电子股份有限公司 | 一种基于神经网络的交通信号智能调节方法 |
| CN112711902A (zh) * | 2020-12-15 | 2021-04-27 | 国网江苏省电力有限公司淮安供电分公司 | 一种基于蒙特卡洛采样和深度学习的电网电压计算方法 |
| CN112598188A (zh) * | 2020-12-29 | 2021-04-02 | 沃太能源南通有限公司 | 神经网络的生成方法、功率预测方法、装置和存储介质 |
| CN112711791A (zh) * | 2021-01-05 | 2021-04-27 | 浙江大学 | 基于神经网络弹性权重固化的建筑用能负荷实时预测方法 |
| CN112711791B (zh) * | 2021-01-05 | 2022-04-19 | 浙江大学 | 基于神经网络弹性权重固化的建筑用能负荷实时预测方法 |
| CN113077853B (zh) * | 2021-04-06 | 2023-08-18 | 西安交通大学 | 双loss价值网络深度强化学习KVFD模型力学参数全局优化方法及系统 |
| CN113077853A (zh) * | 2021-04-06 | 2021-07-06 | 西安交通大学 | 双loss价值网络深度强化学习KVFD模型力学参数全局优化方法及系统 |
| CN113099474A (zh) * | 2021-04-08 | 2021-07-09 | 湖南国科轩宇信息科技有限公司 | 卫星互联网用户终端短期业务量需求预测方法及装置 |
| CN113487107A (zh) * | 2021-07-28 | 2021-10-08 | 华南农业大学 | 基于多层径向基网络的大型动物体重自动评估方法、系统及介质 |
| CN113487107B (zh) * | 2021-07-28 | 2024-04-12 | 华南农业大学 | 基于多层径向基网络的大型动物体重自动评估方法、系统及介质 |
| CN113344474B (zh) * | 2021-08-05 | 2021-11-23 | 山东大拇指喷雾设备有限公司 | 基于神经网络的喷嘴生产线动态管控方法及系统 |
| CN113344474A (zh) * | 2021-08-05 | 2021-09-03 | 山东大拇指喷雾设备有限公司 | 基于神经网络的喷嘴生产线动态管控方法及系统 |
| CN114239905A (zh) * | 2021-10-29 | 2022-03-25 | 国网天津市电力公司 | 一种基于ResNet-LSTM的配电台区短期负荷预测方法及装置 |
| CN113840190A (zh) * | 2021-11-10 | 2021-12-24 | 北京邮电大学 | 一种基于ann损失函数优化的光路传输质量预测方法 |
| CN114697200A (zh) * | 2022-03-30 | 2022-07-01 | 合肥工业大学 | 一种5g配网分布式保护系统的保护装置配比优化方法 |
| CN114697200B (zh) * | 2022-03-30 | 2023-06-30 | 合肥工业大学 | 一种5g配网分布式保护系统的保护装置配比优化方法 |
| CN117077671A (zh) * | 2023-10-17 | 2023-11-17 | 北京青牛技术股份有限公司 | 一种交互数据生成方法及系统 |
| CN117077671B (zh) * | 2023-10-17 | 2024-01-05 | 北京青牛技术股份有限公司 | 一种交互数据生成方法及系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109002942A (zh) | 一种基于随机神经网络的短期负荷预测方法 | |
| Mahmoud et al. | An advanced approach for optimal wind power generation prediction intervals by using self-adaptive evolutionary extreme learning machine | |
| Yu et al. | A hybrid self-adaptive Particle Swarm Optimization–Genetic Algorithm–Radial Basis Function model for annual electricity demand prediction | |
| Poczęta et al. | Learning fuzzy cognitive maps using structure optimization genetic algorithm | |
| CN109242169B (zh) | 一种面向电力大客户的短期负荷预测方法 | |
| Fallahpour et al. | An evolutionary-based predictive soft computing model for the prediction of electricity consumption using multi expression programming | |
| CN110837915B (zh) | 一种基于混合集成深度学习的电力系统低压负荷点预测及概率预测方法 | |
| CN113554466A (zh) | 一种短期用电量预测模型构建方法、预测方法和装置 | |
| CN110334879A (zh) | 电网母线无功负荷预测方法及装置 | |
| Zhang et al. | An efficient multi-objective adaptive differential evolution with chaotic neuron network and its application on long-term hydropower operation with considering ecological environment problem | |
| Ray et al. | Short term load forecasting by artificial neural network | |
| CN112288140A (zh) | 一种基于Keras的短期电力负荷预测方法、存储介质和设备 | |
| Jiang et al. | Industrial ultra-short-term load forecasting with data completion | |
| Tavares et al. | Comparison of PV power generation forecasting in a residential building using ANN and DNN | |
| CN114429248A (zh) | 一种变压器视在功率预测方法 | |
| Shen et al. | Short-term load forecasting of power system based on similar day method and PSO-DBN | |
| CN112488399B (zh) | 电力负荷预测方法及装置 | |
| CN112508734B (zh) | 基于卷积神经网络的电力企业发电量的预测方法及装置 | |
| Liao et al. | Multi-objective artificial bee colony algorithm for long-term scheduling of hydropower system: a case study of China | |
| CN111784019A (zh) | 电力负荷处理方法和装置 | |
| CN110659775A (zh) | 一种基于lstm改进的电力短时负荷预测算法 | |
| Huang et al. | Short-term load forecasting based on the improved bas optimized elman neural network | |
| Gokgoz et al. | Electricity price forecasting in Turkey with artificial neural network models | |
| CN115360768A (zh) | 基于muzero和深度强化学习的电力调度方法、装置及存储介质 | |
| Wang et al. | Short term load forecasting: A dynamic neural network based genetic algorithm optimization |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20181214 |