CN113435595B - 基于自然进化策略的极限学习机网络参数两阶段优化方法 - Google Patents

基于自然进化策略的极限学习机网络参数两阶段优化方法 Download PDF

Info

Publication number
CN113435595B
CN113435595B CN202110772553.9A CN202110772553A CN113435595B CN 113435595 B CN113435595 B CN 113435595B CN 202110772553 A CN202110772553 A CN 202110772553A CN 113435595 B CN113435595 B CN 113435595B
Authority
CN
China
Prior art keywords
prediction
model
stage
learning machine
extreme learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110772553.9A
Other languages
English (en)
Other versions
CN113435595A (zh
Inventor
权浩
吕立臻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Science and Technology
Original Assignee
Nanjing University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Science and Technology filed Critical Nanjing University of Science and Technology
Priority to CN202110772553.9A priority Critical patent/CN113435595B/zh
Publication of CN113435595A publication Critical patent/CN113435595A/zh
Application granted granted Critical
Publication of CN113435595B publication Critical patent/CN113435595B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/086—Learning methods using evolutionary algorithms, e.g. genetic algorithms or genetic programming
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06—Energy or water supply
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02E—REDUCTION OF GREENHOUSE GAS [GHG] EMISSIONS, RELATED TO ENERGY GENERATION, TRANSMISSION OR DISTRIBUTION
    • Y02E40/00—Technologies for an efficient electrical power generation, transmission or distribution
    • Y02E40/70—Smart grids as climate change mitigation technology in the energy generation sector
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00—Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Economics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Strategic Management (AREA)
  • Human Resources & Organizations (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • General Engineering & Computer Science (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Biophysics (AREA)
  • Tourism & Hospitality (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Game Theory and Decision Science (AREA)
  • Development Economics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Physiology (AREA)
  • Public Health (AREA)
  • Water Supply & Treatment (AREA)
  • Primary Health Care (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了基于自然进化策略的极限学习机网络参数两阶段优化方法。本发明基于风电场历史风能出力和外部环境数据，利用极限学习机挖掘历史出力、环境变量与预测目标之间的内生关系。首先建立了基于极限学习机的风力发电预测模型，得到第一阶段预测模型网络参数，然后利用自然进化策略优化算法，对模型参数进行第二阶段参数优化，从而提高预测模型准确性。上述预测及优化方法，在时序历史数据的基础上考虑了外部环境因素的影响，在自然进化策略算法中引入了自适应因子使算法能够随着迭代的进行自动调整其搜索范围，并在极限学习机模型中添加了额外的输出层偏移参数，与传统风力发电预测方法相比提高了预测的准确度，且极大地降低了预测所需时间。

Description

基于自然进化策略的极限学习机网络参数两阶段优化方法
技术领域
本发明涉及电力工程技术领域，尤其涉及基于自然进化策略的极限学习机风力发电两阶段预测方法。
背景技术
由于风电、光伏等绿色可再生能源受天气等环境因素影响较大，具有很强的不确定性，预测未来一段时间内可再生能源出力状况，可以提前制定入网运行规划，避免强不确定性带来的风险隐患。准确有效且及时地对其出力进行预测能够揭示，将对提高风力电场能源质量，保证电力系统安全稳定运行提供积极的指导作用。
现有的风力发电功率预测模型中，考虑了历史风能出力和诸如风速、风向等外部环境因素统计数据，对于风机和风电场在多种环境因素干扰下的发电功率进行了预测。然而已有的反向传播BP算法、径向基RBF算法等预测模型的参数训练过程和模型预测精度往往依赖于模型参数的反复优化，造成建立与训练模型的过程经常需要花费大量的时间，而且每当有新的预测任务到来时都需要大量的资源进行重新训练。因而在有限的时间内无法取得较高的预测精度，在实际应用的过程中受到很大的限制。
本发明针对目前已有的预测模型存在的训练速度慢精度低等问题设计了一种基于极限学习机的风力发电预测方法，极大地降低预测时间。同时为了提高极限学习机模型预测精度，提出了一种基于自然进化策略的极限学习机网络参数两阶段优化方法，在第一阶段极限学习机模型参数的基础上引入输出层偏移，利用自然进化算法对其进行优化，并更进一步引入自适应因子来优化自然进化算法的收敛速度，从而达到提高预测模型精度的效果。
发明内容
本发明所要解决的技术问题是针对背景技术的缺陷，提供基于自然进化策略的极限学习机网络参数两阶段优化方法，在保证较高预测精度的同时，极大地降低了预测时间。
本发明为解决上的技术问题采用以下技术方案：
基于自然进化策略的极限学习机网络参数两阶段优化方法，首先建立了基于极限学习机的风力发电预测模型得到第一阶段预测模型网络参数，然后对上述模型参数与预测精度之间的关系进行数学建模，并利用基于自然进化策略的优化算法，在验证集上对预测模型RMSE误差进行第二阶段参数优化，从而提高预测模型精度减小预测误差。
基于自然进化策略的极限学习机网络参数两阶段优化方法具体步骤如下：
第一阶段训练分为如下四步：
步骤(1)、搜集风电场单台或多台风机历史风能出力和外部环境因素如风速、风向等历年统计数据；
步骤(2)、收集到的统计数据进行标准化处理，将其变形为预测对象要求的格式；
步骤(3)、将整个数据集按一定比例划分为训练集、验证集和测试集，然后通过训练集确定适合该预测对象的隐藏节点数和激活函数等极限学习机模型网络结构参数；
步骤(4)、利用极限学习机建立训练集上历史风能出力、外部环境因素与所需预测目标间的初步预测模型，得到第一阶段的模型网络参数。
第二阶段训练分为如下四步：
步骤(1)、对上述第一阶段得到的模型参数中映入隐含层至输出层的偏移基组合成第二阶段参数训练所需的输入，同时对其与该模型在测试集上的预测误差之间的映射关系进行数学建模；
步骤(2)、通过基于自然进化策略的优化算法，将预测模型的网络参数视为输入，预测误差视为优化目标进行全局优化，减少使其在测试集上的RMSE误差；
步骤(3)、利用训练好的预测模型参数对预测目标进行预测，计算预测任务目标的预测值；
步骤(4)、当上述数据集之后有更进一步的数据产生时，将其加入到旧的数据集中合并成新的总数据集，可以不断适应预测对象系统结构关系的变化。
第一阶段步骤(1)中，历年统计数据的风能出力预测目标数据用Y表示，历史风能出力和外部环境因素如风速、风向等统计数据分别用数组表示。
第一阶段步骤(2)中首先根据原始数据的时间维度将其处理成达成预测目标的所需的时间间隔得到处理后的数据集，然后运用mapminmax函数，令xmax等于1，xmin等于0，将数据集进行[0 ,1]标准化处理。
第一阶段步骤(3)中的训练集、验证集和测试集划分方法和极限学习机模型网络结构参数方法如下：
①按照2∶1∶1的比例将经过步骤(2)标准化处理的数据集分别分为训练集、验证集和测试集；
②将训练集输入至极限学习机预测模型，选取不同的网络激活函数分别重复多次训练网络；
③记录在不同激活函数下的预测模型在验证集上的平均误差，选取误差最小的激活函数g(z)作为最终模型网络参数；
④将训练集输入至极限学习机预测模型，选取不同的网络隐藏节点数分别重复多次训练网络；
⑤记录在不同隐藏节点数下的预测模型在验证集上的平均误差，选取误差最小的隐藏节点数作为最终模型网络参数。
第一阶段步骤(4)中的确定第一阶段的模型网络参数过程如下：
①对于步骤(3)中确定的训练集，随机产生输入层到隐含层连接权重和偏移；
②计算隐含层输出矩阵H '：
；
③通过广义矩阵逆运算求得，其中/>为矩阵H '的Moore-Penrose广义逆矩阵；
④得到第一阶段的模型网络参数连接权重、偏移/>和输出权重/>。
第二阶段步骤(1)中的对上述第一阶段得到的模型参数中引入隐含层至输出层的偏移基组合成第二阶段参数训练所需的输入，同时对其与该模型在测试集上的预测误差之间的映射关系进行数学建模过程如下：
①将上述第一阶段模型参数连接权重、偏移/>和输出权重/>的数据集合按顺序组合成一个向量形式视为输入/>；
②在极限学习机模型参数的基础上，引入新参数隐含层到输出层的偏移基，初始值设置为零，视为/>与原模型参数一起组合为第二阶段优化参数；
③将该模型在测试集上的预测误差e视为模型函数的输出；
④将输入与输出之间的映射关系转化为标准的参数优化问题：
。
第二阶段步骤(2)中的自然进化策略的优化算法过程如下：
①将第二阶段步骤(1)中所得多个输入作为初始种群空间；
②利用多重正态分布对每一组输入X添加正比于高斯分布的噪声得到突变种群空间/>，在初始化基因X周围生成符合分布的多个基因样本；
③计算每一个基因样本Xi的目标函数适宜度值f(Xi )；
④计算将被用于更新基因个体X基因序列的对数导数以及被用于更新多重正态分布分布范围Σ的对数导数/>，其数学计算公式分别如下所示：
；
⑤计算被用于更新基因个体X基因序列的自然梯度向量以及被用于更新多重正态分布分布范围Σ的自然梯度向量/>，其数学计算公式分别如下所示：
，
；
⑥用和/>分别以同样的学习速率η更新基因个体X基因序列和多重正态分布分布范围Σ，其数学公式如下：
；
⑦引入自适应因子λ，其数值由f(Xi )的方差σ决定，当方差σ过大时，令λ<1 ,缩小多重正态分布分布范围Σ；反之，当方差σ过小时，令λ>1 ,扩大多重正态分布分布范围Σ；
⑧重复①～⑦过程直至达到设定好的收敛条件或者循环上限。
第二阶段步骤(3)中的计算预测目标预测值的过程如下：
将步骤(6)中所得优化完成的输入中的前D位数据重新组合成优化后连接权重/>、偏移/>和输出权重/>的矩阵形式，而/>作为优化后的输出偏移基，在新的预测数据输入值/>即验证集进入系统时计算其预测目标预测值T：
。
本发明采用以上技术方案与现有技术相比，具有以下技术效果：
(1)在考虑时序历史数据与预测数据间的内在关联性的基础上，引入了外部环境因素的影响；
(2)在第一阶段极限学习机所得模型参数的基础上创造性地引入了自然进化策略优化算法，对预测模型参数进行第二阶段的调整优化，从而提高了模型预测精度；
(3)在自然进化策略算法中引入了自适应因子使算法能够随着迭代的进行自适应地调整优化算法的搜索范围及种群中个体间的聚合均衡度；
(4)在极限学习机模型中添加了额外的输出层偏移参数，与传统风力发电预测方法相比提高了预测的准确度，且极大地降低了预测所需时间。
附图说明
图1为本发明基于自然进化策略算法的极限学习机网络参数优化方法的流程图。
图2为本发明具体实施例部分数据展示。
图3为本发明调整不同隐藏节点激活函数下第一阶段模型预测误差对比图。
图4为本发明调整不同隐藏节点数下第一阶段模型预测误差对比图。
图5为本发明第一阶段的模型预测结果真实值与预测值对比图。
图6为本发明基于自然进化策略算法的优化过程展示图。
图7为本发明两阶段优化中，部分预测目标测试集真实值、第一阶段测试集预测值和第二阶段测试集预测值对比图。
具体实施方式
下面结合附图对本发明的技术方案做进一步的详细说明：
本发明可以以许多不同的形式实现，而不应当认为限于这里所述的实施例。相反，提供这些实施例以便使本公开透彻且完整，并且将向本领域技术人员充分表达本发明的范围。
本发明所述的故障率综合预测方法对基于自然进化策略的极限学习机风力发电预两阶段预测方法对模型参数进行了优化并对风能处理情况进行了预测。本实施例中，统计了风电场功率历史数据、历史风速、历史风向三种预测变量。
基于自然进化策略的极限学习机风力发电预两阶段预测方法，两阶段具体步骤如下：
在第一阶段训练过程中：
1、搜集风电场单台或多台风机历史风能出力和外部环境因素如风速、风向等统计数据；风能出力预测目标数据用Y表示，历史风能出力和外部环境因素如风速、风向等统计数据分别用数组表示。本实施例的风能出力预测目标数据Y和外部环境因素的历年统计数据来自National Renewable Energy Laboratory(NREL)官方网站上某风电场2012年功率和周围环境因素信息数据，其NREL内部标识号为46620，经度坐标为-106 .398224，纬度坐标为39 .273796。部分数据展示如图2所示。
2、原数据集为每五分钟记录一次的风力发电厂功率出力数据以及周围环境风速、风向信息，在实际使用过程中为了符合预测短期内未来下一个小时风力发电厂功率出力这一任务目标将其处理成时间间隔为一个小时的数据形式，处理完成后的数据集长度为8784小时。最后根据极限学习机预测模型的特点，将模型输入参数和预测目标即太阳能出力通过标准化函数mapminmax函数作[0 1]的标准化处理。
3、将整个数据集按2：1：1划分为三份。第一份为训练集占可用数据的前四分之二，数量为4392小时，作用是用于极限学习机本身第一阶段的训练参数确定；第二部分为验证集占之后的四分之一，数量为2196小时，作用是参与本章节极限学习机第二阶段的参数优化任务，通过自然进化策略算法提高极限学习机预测模型在验证集上目标函数适宜度，以提高其预测准确性降低预测误差；最后一部分作为测试集占数据集最后的四分之一，数量为2196小时。
通过反复对比实验测试隐藏节点激活函数与隐藏节点个数对预测结果的影响，分别由图3、图4所示，从图中不同曲线之间的对比结果所示S型函数sigmoid function与的表现最好，相较于其他两个激活函数更加适合预测本文研究案例，随着隐藏节点数的不断提高训练集上的RMSE误差一直呈现下降趋势，这表明随着隐含层隐藏节点数的提高，模型复杂度上升，极限学习机模型对训练集输入输出关系拟合效果加强；而验证集上的RMSE误差在隐藏节点数小于100时呈现下降趋势，当隐藏节点数在100到200之间时基本保持平稳趋势，当隐藏节点数大于200时，存在较为明显的上升趋势，因此选择100作为本实施例隐藏节点参数。
4、利用极限学习机建立训练集上历史风能出力、外部环境因素与所需预测目标间的初步预测模型，得到第一阶段的模型网络参数，初步预测模型结果真实值与预测值对比图如图5所示。
在第二阶段训练过程中：
1、对第一阶段得到的模型参数中引入隐含层至输出层的偏移基组合成第二阶段参数训练所需的输入，同时对其与该模型在测试集上的预测误差之间的映射关系进行数学建模过程如下：
①将上述第一阶段模型参数连接权重、偏移/>和输出权重/>的数据集合按顺序组合成一个向量形式视为输入/>；
②在极限学习机模型参数的基础上，引入新参数隐含层到输出层的偏移基，初始值设置为零，视为/>与原模型参数一起组合为第二阶段优化参数；
③将该模型在测试集上的预测误差e视为模型函数的输出；
④将输入与输出之间的映射关系转化为标准的参数优化问题：
。
2、利用自然进化策略算法对该问题进行求解其具体过程如下：
①将第二阶段步骤(1)中所得多个输入作为初始种群空间；
②利用多重正态分布对每一组输入X添加正比于高斯分布的噪声得到突变种群空间/>，在初始化基因X周围生成符合分布的多个基因样本；
③计算每一个基因样本Xi的目标函数适宜度值f(Xi )；
④计算将被用于更新基因个体X基因序列的对数导数以及被用于更新多重正态分布分布范围Σ的对数导数/>，其数学计算公式分别如下所示：
；
⑤计算被用于更新基因个体X基因序列的自然梯度向量以及被用于更新多重正态分布分布范围Σ的自然梯度向量/>，其数学计算公式分别如下所示：
，
；
⑥用和/>分别以同样的学习速率η更新基因个体X基因序列和多重正态分布分布范围Σ，其数学公式如下：
；
⑦引入自适应因子λ，其数值由f(Xi )的方差σ决定，当方差σ过大时，令λ<1 ,缩小多重正态分布分布范围Σ；反之，当方差σ过小时，令λ>1 ,扩大多重正态分布分布范围Σ；
⑧重复①～⑦过程直至达到设定好的收敛条件或者循环上限。
其中在本实施例中具体的多重正态分布分布范围Σ设置为0 .1，学习速率η设置为1％，当方差σ大于1时λ设置为0 .8，当方差σ小于1时λ设置为1 .1。其具体的训练优化过程如图6所示。
3、在测试集上检验该优化预测模型的实际预测能力，部分预测目标测试集真实值、第一阶段测试集预测值和第二阶段测试集预测值对比结果如图7所示，在本实施例中验证集上的RMSE误差从经过优化前的0 .1327下降到了优化后的0 .1310，使得验证集上的RMSE预测误差减小了1 .28％。在测试上从经过优化前的0 .1418下降到了优化后的0.1395，使得测试上的RMSE预测误差减小了1 .62％。

Claims (8)

1.基于自然进化策略的极限学习机网络参数两阶段优化方法，其特征在于，包括以下步骤：
步骤(1)、搜集风电场单台或多台风机历史风能出力和外部环境因素如风速、风向等历年统计数据；
步骤(2)、将收集到的统计数据进行标准化处理，将其变形为预测对象要求的格式；
步骤(3)、将整个数据集按一定比例划分为训练集、验证集和测试集，然后通过训练集确定适合该预测对象的隐藏节点数和激活函数等极限学习机模型网络结构参数；
步骤(4)、利用极限学习机建立训练集上历史风能出力、外部环境因素与所需预测目标间的初步预测模型，得到第一阶段的模型网络参数；
步骤(5)、对上述第一阶段得到的模型参数中映入隐含层至输出层的偏移基组合成第二阶段参数训练所需的输入，同时对其与该模型在测试集上的预测误差之间的映射关系进行数学建模；
步骤(6)、通过基于自然进化策略的优化算法，将预测模型的网络参数视为输入，预测误差视为优化目标进行全局优化，减少使其在测试集上的RMSE误差；
步骤(7)、当有新的预测目标和数据即步骤(3)中的测试集数据时，利用训练好的预测模型参数对其进行预测；
步骤(8)、当上述数据集之后有更进一步的数据产生时，将其加入到旧的数据集中合并成新的总数据集，重复(3)～(6)步骤可以不断适应预测对象系统结构关系的变化。
2.根据权利要求1所述的基于自然进化策略的极限学习机网络参数两阶段优化方法，其特征在于，在步骤(1)所述的历年统计数据中风能出力预测目标数据用Y表示，历史风能出力和外部环境因素如风速、风向等统计数据分别用数组表示。
3.根据权利要求1所述的基于自然进化策略的极限学习机网络参数两阶段优化方法，其特征在于，在步骤(2)所述统计数据进行标准化处理的方法如下：
首先根据原始数据的时间维度将其处理成达成预测目标的所需的时间间隔得到处理后的数据集，然后运用mapminmax函数，令xmax等于1，xmin等于0，将数据集进行[0 ,1]标准化处理。
4.根据权利要求1所述的基于自然进化策略的极限学习机网络参数两阶段优化方法，其特征在于，在步骤(3)所述的训练集、验证集和测试集划分方法和极限学习机模型网络结构参数方法如下：
①按照2：1：1的比例将经过步骤(3)标准化处理的数据集分别分为训练集、验证集和测试集；
②将训练集输入至极限学习机预测模型，选取不同的网络激活函数分别重复多次训练网络；
③记录在不同激活函数下的预测模型在验证集上的平均误差，选取误差最小的激活函数g(z)作为最终模型网络参数；
④将训练集输入至极限学习机预测模型，选取不同的网络隐藏节点数分别重复多次训练网络；
⑤记录在不同隐藏节点数下的预测模型在验证集上的平均误差，选取误差最小的隐藏节点数作为最终模型网络参数。
5.根据权利要求1所述的基于自然进化策略的极限学习机网络参数两阶段优化方法，其特征在于，在步骤(4)所述的第一阶段的模型网络参数确定过程如下：
①对于步骤(3)中确定的训练集，随机产生输入层到隐含层连接权重和偏移/>；
②计算隐含层输出矩阵H '：
，
③通过广义矩阵逆运算求得，其中/>为矩阵H '的Moore-Penrose广义逆矩阵；
④得到第一阶段的模型网络参数连接权重、偏移/>和输出权重/>。
6.根据权利要求1所述的基于自然进化策略的极限学习机网络参数两阶段优化方法，其特征在于，在步骤(5)所述的对上述第一阶段得到的第一阶段模型参数中映入隐含层至输出层的偏移基组合成第二阶段参数训练所需的输入，同时对其与该模型在测试集上的预测误差之间的映射关系进行数学建模过程如下：
①将上述第一阶段模型参数连接权重、偏移/>和输出权重/>的数据集合按顺序组合成一个向量形式视为输入/>；
②在极限学习机模型参数的基础上，引入新参数隐含层到输出层的偏移基，初始值设置为零，视为/>与原模型参数一起组合为第二阶段优化参数；
③将该模型在测试集上的预测误差e视为模型函数的输出；
④将输入与输出之间的映射关系转化为标准的参数优化问题：
。
7.根据权利要求1所述的基于自然进化策略的极限学习机网络参数两阶段优化方法，其特征在于，在步骤(6)所述的自然进化策略的优化算法过程如下：
①将步骤(5)中所得多个输入作为初始种群空间；
②利用多重正态分布对每一组输入X添加正比于高斯分布的噪声得到突变种群空间/>，在初始化基因X周围生成符合分布的多个基因样本；
③计算每一个基因样本Xi的目标函数适宜度值f(Xi )；
④计算将被用于更新基因个体X基因序列的对数导数以及被用于更新多重正态分布分布范围Σ的对数导数/>，其数学计算公式分别如下所示：
；
⑤计算被用于更新基因个体X基因序列的自然梯度向量以及被用于更新多重正态分布分布范围Σ的自然梯度向量/>，其数学计算公式分别如下所示：
，
；
⑥用和/>分别以同样的学习速率η更新基因个体X基因序列和多重正态分布分布范围Σ，其数学公式如下：
；
⑦引入自适应因子λ，其数值由f(Xi )的方差σ决定，当方差σ过大时，令λ<1 ,缩小多重正态分布分布范围Σ；反之，当方差σ过小时，令λ>1 ,扩大多重正态分布分布范围Σ；
⑧重复①～⑦过程直至达到设定好的收敛条件或者循环上限。
8.根据权利要求1所述的基于自然进化策略的极限学习机网络参数两阶段优化方法，其特征在于，在步骤(7)所述的新的预测目标和数据下的预测值的计算过程如下：
将步骤(6)中所得优化完成的输入中的前D位数据重新组合成优化后连接权重/>、偏移/>和输出权重/>”的矩阵形式，而/>作为优化后的输出偏移基/>，在新的预测数据输入值/>即验证集进入系统时计算其预测目标预测值T：
。
CN202110772553.9A 2021-07-08 2021-07-08 基于自然进化策略的极限学习机网络参数两阶段优化方法 Active CN113435595B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110772553.9A CN113435595B (zh) 2021-07-08 2021-07-08 基于自然进化策略的极限学习机网络参数两阶段优化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110772553.9A CN113435595B (zh) 2021-07-08 2021-07-08 基于自然进化策略的极限学习机网络参数两阶段优化方法

Publications (2)

Publication Number Publication Date
CN113435595A CN113435595A (zh) 2021-09-24
CN113435595B true CN113435595B (zh) 2024-02-06

Family

ID=77759657

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110772553.9A Active CN113435595B (zh) 2021-07-08 2021-07-08 基于自然进化策略的极限学习机网络参数两阶段优化方法

Country Status (1)

Country Link
CN (1) CN113435595B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114219181B (zh) * 2022-01-20 2024-08-23 天津大学 基于迁移学习的风电功率概率预测方法
CN114638555B (zh) * 2022-05-18 2022-09-16 国网江西综合能源服务有限公司 基于多层正则化极限学习机的用电行为检测方法及系统
CN116910570B (zh) * 2023-09-13 2023-12-15 华能新能源股份有限公司山西分公司 一种基于大数据的风电机组故障监测预警方法及系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107730044A (zh) * 2017-10-20 2018-02-23 燕山大学 一种可再生能源发电和负荷的混合预测方法
CN108468622A (zh) * 2018-02-09 2018-08-31 湖南工业大学 基于极限学习机的风电机组叶根载荷估计方法
CN109255477A (zh) * 2018-08-24 2019-01-22 国电联合动力技术有限公司 一种基于深度极限学习机的风速预测方法及其系统和机组
WO2019218263A1 (zh) * 2018-05-16 2019-11-21 深圳大学 基于极限学习机的极限ts模糊推理方法及系统
CN110909810A (zh) * 2019-11-26 2020-03-24 国网山东省电力公司电力科学研究院 基于数据挖掘和变分模态分解的可再生能源短期预测方法
CN111105005A (zh) * 2019-12-03 2020-05-05 广东电网有限责任公司 一种风电功率预测方法
CN111178616A (zh) * 2019-12-24 2020-05-19 淮阴工学院 基于负相关学习和正则化极限学习机集成的风速预测方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107730044A (zh) * 2017-10-20 2018-02-23 燕山大学 一种可再生能源发电和负荷的混合预测方法
CN108468622A (zh) * 2018-02-09 2018-08-31 湖南工业大学 基于极限学习机的风电机组叶根载荷估计方法
WO2019218263A1 (zh) * 2018-05-16 2019-11-21 深圳大学 基于极限学习机的极限ts模糊推理方法及系统
CN109255477A (zh) * 2018-08-24 2019-01-22 国电联合动力技术有限公司 一种基于深度极限学习机的风速预测方法及其系统和机组
CN110909810A (zh) * 2019-11-26 2020-03-24 国网山东省电力公司电力科学研究院 基于数据挖掘和变分模态分解的可再生能源短期预测方法
CN111105005A (zh) * 2019-12-03 2020-05-05 广东电网有限责任公司 一种风电功率预测方法
CN111178616A (zh) * 2019-12-24 2020-05-19 淮阴工学院 基于负相关学习和正则化极限学习机集成的风速预测方法

Also Published As

Publication number Publication date
CN113435595A (zh) 2021-09-24

Similar Documents

Publication Publication Date Title
CN113435595B (zh) 基于自然进化策略的极限学习机网络参数两阶段优化方法
CN109117951B (zh) 基于bp神经网络的概率潮流在线计算方法
CN110705743B (zh) 一种基于长短期记忆神经网络的新能源消纳电量预测方法
CN101414366B (zh) 基于改进极端学习机方法的电力系统短期负荷预测方法
CN110543929B (zh) 一种基于Lorenz系统的风速区间预测方法及系统
CN111563706A (zh) 一种基于lstm网络的多变量物流货运量预测方法
CN111027772B (zh) 基于pca-dbilstm的多因素短期负荷预测方法
CN109345027B (zh) 基于独立成分分析与支持向量机的微电网短期负荷预测方法
CN110059867B (zh) 一种swlstm结合gpr的风速预测方法
CN114757427B (zh) 自回归修正的lstm智能风电场超短期功率预测方法
CN113591957B (zh) 基于lstm和马尔科夫链的风电出力短期滚动预测与校正方法
CN114511132A (zh) 一种光伏出力短期预测方法及预测系统
CN112149883A (zh) 基于fwa-bp神经网络的光伏功率预测方法
CN115275991A (zh) 一种基于iemd-ta-lstm模型的主动配电网运行态势预测方法
CN112085254A (zh) 基于多重分形协同度量门控循环单元的预测方法及模型
CN115907195A (zh) 一种光伏发电功率预测方法、系统、电子设备及介质
CN115759415A (zh) 基于lstm-svr的用电需求预测方法
CN115907131A (zh) 一种北方地区电采暖负荷预测模型搭建方法和系统
CN110807508A (zh) 计及复杂气象影响的母线峰值负荷预测方法
CN118157127A (zh) 基于lstm-mm模型的多天气光伏发电功率预测数字孪生系统
CN110276478B (zh) 基于分段蚁群算法优化svm的短期风电功率预测方法
CN113095547A (zh) 一种基于gra-lstm-ice模型的短期风功率预测方法
CN117113086A (zh) 一种储能机组负荷预测方法、系统、电子设备及介质
CN116865255A (zh) 基于改进熵权法和seceemd的短期风电功率预测方法
CN116307250A (zh) 一种基于典型日特征选择的短期负荷预测方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant