CN111797987A - 一种动态机器学习方法 - Google Patents

一种动态机器学习方法 Download PDF

Info

Publication number
CN111797987A
CN111797987A CN202010539515.4A CN202010539515A CN111797987A CN 111797987 A CN111797987 A CN 111797987A CN 202010539515 A CN202010539515 A CN 202010539515A CN 111797987 A CN111797987 A CN 111797987A
Authority
CN
China
Prior art keywords
data
sample
period
elm network
current
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010539515.4A
Other languages
English (en)
Inventor
唐若笠
徐华徽
林巧
张尚煜
张鹏
周锦翔
国枫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhan University of Technology WUT
Original Assignee
Wuhan University of Technology WUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan University of Technology WUT filed Critical Wuhan University of Technology WUT
Priority to CN202010539515.4A priority Critical patent/CN111797987A/zh
Publication of CN111797987A publication Critical patent/CN111797987A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Feedback Control In General (AREA)

Abstract

本发明公开了一种动态机器学习方法，该方法包括以下步骤：1)基于控制系统已有的历史数据样本，按照极限学习机算法规则训练当前ELM网络；2)采集的最新数据样本按照数据周期划分；3)开始第一个数据周期，基于原有样本及第一个数据周期的新增样本重新训练当前ELM网络；4)对第k个周期，计算不同数据周期数据样本的有效学习率；5)重新训练当前周期对应的ELM网络；6)若未达到下一数据周期开始时刻，则将当前数据周期对应的ELM网络用于进行预测，并将预测结果作用于对应的控制系统；若已达到下一数据周期开始时刻，则跳至步骤4)。本发明方法动态地对不同时段数据样本予以差异化学习和利用，能有效提高最终预测结果的适用度。

Description

一种动态机器学习方法
技术领域
本发明涉及人工智能技术，尤其涉及一种动态机器学习方法。
背景技术
随着人工智能与大数据技术的持续发展，以深度学习、神经网络、极限学习等为代表的机器学习理论发展迅速，并越来越多地在各行各业中得到了广泛且成功的应用。
对于某些输入输出关系固定的大数据样本，常规机器学习方法基于固定的训练样本集以及固定的学习规则，往往能够实现对数据样本的有效学习与外推。但对于某些特殊对象，其蕴含于数据中的输入输出关系随时间变化，具有时变特性，此时固定的训练样本集以及固定的学习规则将不再高效。
为此，本发明提出了一种基于极限学习理论的动态机器学习方法，主要适用于输入输出关系具有时变性，且对象既拥有一定数量的历史数据样本，又能够以一定频率新增数据样本的情况。本发明通过引入数据周期、基于衰减公式的有效学习率，以及对不同时段数据样本进行差异化学习的动态学习公式，实现对时变数据规律的动态学习与外推。
发明内容
本发明要解决的技术问题在于针对现有技术中的缺陷，提供一种动态机器学习方法。
本发明解决其技术问题所采用的技术方案是：一种动态机器学习方法，包括以下步骤：
1)基于控制系统已有的历史数据样本，即控制系统的历史输入输出数据，按照极限学习机算法规则训练当前ELM网络；所述数据样本的输入部分为n维向量，输出部分为m维向量；所述ELM网络包含n个输入层节点，m个输出层节点；
记β0、H0、T0分别为基于已有数据样本训练得到的ELM网络输出权、隐含层输出矩阵以及真实样本输出；记历史数据样本为[H0|T0]；
2)采集的最新数据样本按照数据周期划分，设第i个周期内采集到si组最新数据样本，xi为si组新增样本的输入部分，ti为si组新增样本的输出部分(si×m矩阵)，hi为新增样本的输入部分代入当前数据周期对应ELM网络得到的隐含层输出(si×n矩阵)，记当前新增样本为[hi|ti]；
3)开始第一个数据周期，基于原有样本[H0|T0]及第一个数据周期的新增样本[h1|t1]重新训练当前ELM网络，训练规则(即ELM网络输出权β的确定方法)如式(1)所示：
Figure BDA0002538402510000031
其中，β1为第一个数据周期训练得到的ELM网络输出权；ξ0,ξ1分别为原有数据样本[H0|T0]和新增数据样本[h1|t1]的有效学习率；
4)对第k个周期，当前训练样本集中包含有不同时段采集到的数据样本，依次为：[H0|T0],[h1|t1],[h2|t2],…,[hk|tk]；
计算不同时段(即不同数据周期)数据样本的有效学习率ξ0,ξ1,...,ξk，采用下式计算：
Figure BDA0002538402510000032
其中，α为决定对不同时段数据样本进行差异化学习的程度控制参数，即衰减率；
5)基于现有的各时刻数据样本，结合步骤4)中计算所得的各有效学习率数值，重新训练当前周期对应的ELM网络，训练规则如下：
Figure BDA0002538402510000033
其中，βk为第k个数据周期训练得到的。
6)若未达到下一数据周期开始时刻，则将当前数据周期对应的ELM网络用于进行预测，并将预测结果作用于对应的控制系统；若已达到下一数据周期开始时刻，则跳至步骤4)，开始下一周期的有效学习率计算和ELM网络训练。
按上述方案，所述步骤1)中的数据样本为具有时变特性的工业装置、设备或系统在控制过程中的输入数据和控制输出数据。
按上述方案，所述衰减率α的取值根据对象的时变性强弱动态调整。
按上述方案，所述数据周期长度根据输入输出数据之间的时变性强弱调整，当输入输出数据之间的时变性强，则缩短数据周期长度，否则增加数据周期长度。
本发明产生的有益效果是：
1、本发明方法给出了对于不仅拥有历史数据样本，且能够不断新增数据样本的情况下，动态地对不同时段数据样本予以差异化学习和利用的方法，能有效提高模型最终预测结果的适用度。
2、本发明方法尤其适用于对输入输出数据映射关系具有时变性的数据样本进行学习与预测，基于本发明给出的有效学习率及ELM网络输出权计算公式，一方面能够保证用于网络训练的数据样本数量的充足性，另一方面也能够在一定程度上实现对数据时变性的抑制。
3、本发明方法提供了衰减率α以及数据周期长度两个可调节参数，可供技术人员根据控制系统对象时变性强弱予以灵活调整，进而使本发明方法的适用性更广。
附图说明
下面将结合附图及实施例对本发明作进一步说明，附图中：
图1是本发明实施例的方法流程图；
图2是本发明实施例的船舶光伏阵列的连接结构示意图；
图3是本发明实施例的基于ELM的船舶光伏系统离线MPPT模型示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。
如图1所示，一种基于极限学习机的动态机器学习方法，包括以下步骤：
1)基于已有的历史数据样本，按照极限学习机算法规则训练当前ELM网络；所述历史数据样本的输入部分为n维向量，输出部分为m维向量；所述ELM网络包含n个输入层节点，m个输出层节点；
记β0、H0、T0分别为基于已有数据样本训练得到的ELM网络输出权、隐含层输出矩阵以及真实样本输出；记历史数据样本为[H0|T0]；
2)采集的最新数据样本按照数据周期划分，设第i个周期内采集到si组最新数据样本，xi为si组新增样本的输入部分，ti为si组新增样本的输出部分(si×m矩阵)，hi为新增样本的输入部分代入当前数据周期对应ELM网络得到的隐含层输出(si×n矩阵)，记当前新增样本为[hi|ti]；
3)开始第一个数据周期，基于原有样本[H0|T0]及第一个数据周期的新增样本[h1|t1]重新训练当前ELM网络，训练规则(即ELM网络输出权β的确定方法)如式(1)所示：
Figure BDA0002538402510000061
其中，β1为第一个数据周期训练得到的ELM网络输出权；ξ0,ξ1分别为原有数据样本[H0|T0]和新增数据样本[h1|t1]的有效学习率；
4)对第k个周期，当前训练样本集中包含有不同时段采集到的数据样本，依次为：[H0|T0],[h1|t1],[h2|t2],…,[hk|tk]；
计算不同时段(即不同数据周期)数据样本的有效学习率ξ0,ξ1,...,ξk，采用下式计算：
Figure BDA0002538402510000062
其中，α为决定对不同时段数据样本进行差异化学习的程度控制参数，即衰减率；
5)基于现有的各时刻数据样本，结合步骤4)中计算所得的各有效学习率数值，重新训练当前周期对应的ELM网络，训练规则如下：
Figure BDA0002538402510000071
其中，βk为第k个数据周期训练得到的ELM网络输出权。
6)若未达到下一数据周期开始时刻，则将当前数据周期对应的ELM网络用于进行预测，并将预测结果作用于对应的控制系统；若已达到下一数据周期开始时刻，则跳至步骤4)，开始下一周期的有效学习率计算和ELM网络训练。
本发明方法在对于采用机器学习技术进行船舶光伏系统离线最大功率点跟踪(Maximum Power Point Tracking,MPPT)的应用，如下：
由于光伏系统在应用于船舶这一特殊对象时，其常年工作于高湿度、高风速、盐颗粒积聚等较为恶劣的海洋性环境条件。为此，光伏系统的工作特性往往衰变较快，采用静态数据训练用于进行MPPT控制的机器学习网络，往往无法跟踪到船舶光伏系统工作特性的这一长期变化。
假设船舶光伏阵列具有如图2所示的连接结构，则其基于机器学习的离线MPPT问题可描述为：在特性输入下(即环境条件光照与温度：S1,T1,…,Sn,Tn)，寻找对应的输出Vm(即光伏阵列的工作点电压值)，使光伏阵列能够产生当前环境条件下的最大输出功率。
如图3所示，设光伏系统当前已有K组数据样本为(Ei,Vmi)(i＝1,2,…,K)，其中，Ei表示第i组样本的输入部分，即环境条件S1-i,T1-i,S2-i,T2-i,…,Sn-i,Tn-i；Vmi表示对应环境条件下光伏系统的真实最大功率点电压值；
则一种基于极限学习机的动态机器学习方法，包括以下步骤：
1)基于已有的K组船舶光伏阵列环境条件与对应的光伏阵列最大功率点电压值数据样本，按照极限学习机算法规则训练当前ELM网络；所述数据样本的输入部分为2n维向量，输出部分为1维向量；所述ELM网络包含2n个输入层节点，1个输出层节点；
记β0、H0、T0分别为基于已有数据样本训练得到的ELM网络输出权、隐含层输出矩阵以及真实样本输出(即最大功率点电压值)；记历史数据样本为[H0|T0]；
2)采集的最新数据样本按照数据周期划分，设第i个周期内采集到si组最新数据样本，xi为si组新增样本的输入部分，ti为si组新增样本的输出部分(si×m矩阵)，hi为新增样本的输入部分代入当前数据周期对应ELM网络得到的隐含层输出(si×n矩阵)，记当前新增样本为[hi|ti]；
3)开始第一个数据周期T1，设该周期内采集到s组最新数据样本，记当前新增样本为[h1|t1]，其中，h1为新增样本的输入部分代入当前ELM网络得到的隐含层输出，t1为新增样本的输出部分(即最大功率点电压值)；
本实施例中，根据船舶光伏系统特性，可设数据周期长度为30天，每天光伏系统工作10小时，每小时采集1个最大功率点数据并存入训练样本集，则s＝300。
基于原有样本[H0|T0]及新增样本[h1|t1]重新训练当前ELM网络，训练规则如式(1)所示：
Figure BDA0002538402510000091
其中，β1为第一个数据周期训练得到的ELM网络输出权；ξ0,ξ1分别为原有数据样本[H0|T0]和新增数据样本[h1|t1]的有效学习率；
4)对第k个周期，当前训练样本集中包含有不同时段采集到的数据样本，依次为：[H0|T0],[h1|t1],[h2|t2],…,[hk|tk]；
计算不同时段(即不同数据周期)数据样本的有效学习率ξ0,ξ1,...,ξk，采用下式计算：
Figure BDA0002538402510000092
其中，α为决定对不同时段数据样本进行差异化学习的程度控制参数，即衰减率；
本实施例中，衰减率α＝1.5，亦可根据对象特性进行调整；
5)基于现有的各时刻数据样本，结合步骤4)中计算所得的各有效学习率数值，重新训练当前周期对应的ELM网络，训练规则如下：
Figure BDA0002538402510000101
其中，βk为第k个数据周期训练得到的ELM网络输出权。
6)若未达到下一数据周期开始时刻(即尚处于30天之内)，则该ELM网络可用于进行外推。即光伏系统训练完备后，在30天之内，每一时刻均可带入由传感器测得的当前环境参数(S1,T1,…,Sn,Tn)，即可由ELM网络直接给出当前环境下的最大功率点电压值Vm。将Vm作为控制目标送入执行机构，驱动光伏系统工作点向Vm靠拢，则光伏系统即可获得当前环境下的最大输出功率；
若已达到下一数据周期开始时刻(即30天已满)，则开始下一周期。以第k个周期Tk为例，该周期内同样采集到s＝300组最新数据样本，记为[hk|tk]。则当前训练样本集中已包括不同时段采集获取的数据样本，依次为：[H0|T0],[h1|t1],[h2|t2],…,[hk|tk]；转入步骤4)。
上述为本发明所述动态机器学习方法用于进行船舶光伏系统离线MPPT的一个实施例。由于船舶光伏系统长期工作于较为恶劣的海洋环境，受海水腐蚀较大，光伏电池板自身的工作特性随时间变化较快，属于典型的具有时变特性的控制对象。采用动态机器学习方法，一方面可以充分利用从最初时刻到当前时间节点的全部数据样本，可利用样本数量大，有利于机器学习网络挖掘更多有用信息；另一方面，对距离当前时间节点不同时长的数据样本进行差异化学习，有助于机器学习网络更倾向于学习较新数据，而对历史数据有所摒弃。
应当理解的是，对本领域普通技术人员来说，可以根据上述说明加以改进或变换，而所有这些改进和变换都应属于本发明所附权利要求的保护范围。

Claims (4)

1.一种动态机器学习方法，其特征在于，包括以下步骤：
1)基于控制系统已有的历史数据样本，按照极限学习机算法规则训练当前ELM网络；所述历史数据样本的输入部分为n维向量，输出部分为m维向量；所述ELM网络包含n个输入层节点，m个输出层节点；
记β0、H0、T0分别为基于已有数据样本训练得到的ELM网络输出权、隐含层输出矩阵以及真实样本输出；记历史数据样本为[H0|T0]；
2)采集的最新数据样本并按照数据周期划分，设第i个周期内采集到si组最新数据样本，xi为si组新增样本的输入部分，ti为si组新增样本的输出部分，hi为新增样本的输入部分代入当前数据周期对应ELM网络得到的隐含层输出，记当前新增样本为[hi|ti]；
3)开始第一个数据周期，基于原有样本[H0|T0]及第一个数据周期的新增样本[h1|t1]重新训练当前ELM网络，训练规则即ELM网络输出权β的确定方法如式(1)所示：
Figure FDA0002538402500000011
其中，β1为第一个数据周期训练得到的ELM网络输出权；ξ0,ξ1分别为原有数据样本[H0|T0]和新增数据样本[h1|t1]的有效学习率；
4)对第k个周期，当前训练样本集中包含有不同时段采集到的数据样本，依次为：[H0|T0],[h1|t1],[h2|t2],…,[hk|tk]；
计算不同时段，即不同数据周期数据样本的有效学习率ξ0,ξ1,...,ξk，采用下式计算：
Figure FDA0002538402500000021
其中，α为决定对不同时段数据样本进行差异化学习的程度控制参数，即衰减率；
5)基于现有的各时刻数据样本，结合步骤4)中计算所得的各有效学习率数值，重新训练当前周期对应的ELM网络，训练规则如下：
Figure FDA0002538402500000022
其中，βk为第k个数据周期训练得到的ELM网络输出权。
6)若未达到下一数据周期开始时刻，则将当前数据周期对应的ELM网络用于进行预测，并将预测结果作用于对应的控制系统；若已达到下一数据周期开始时刻，则跳至步骤4)，开始下一周期的有效学习率计算和ELM网络训练。
2.根据权利要求1所述的动态机器学习方法，其特征在于，所述步骤1)中的数据样本为具有时变特性的工业装置、设备或系统在控制过程中的输入数据和控制输出数据。
3.根据权利要求1所述的动态机器学习方法，其特征在于，所述衰减率α的取值根据对象的时变性强弱动态调整。
4.根据权利要求1所述的动态机器学习方法，其特征在于，所述数据周期长度根据输入输出数据之间的时变性强弱调整，当输入输出数据之间的时变性强，则缩短数据周期长度，否则增加数据周期长度。
CN202010539515.4A 2020-06-14 2020-06-14 一种动态机器学习方法 Pending CN111797987A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010539515.4A CN111797987A (zh) 2020-06-14 2020-06-14 一种动态机器学习方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010539515.4A CN111797987A (zh) 2020-06-14 2020-06-14 一种动态机器学习方法

Publications (1)

Publication Number Publication Date
CN111797987A true CN111797987A (zh) 2020-10-20

Family

ID=72803288

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010539515.4A Pending CN111797987A (zh) 2020-06-14 2020-06-14 一种动态机器学习方法

Country Status (1)

Country Link
CN (1) CN111797987A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112580820A (zh) * 2020-12-01 2021-03-30 遵义师范学院 一种间歇式机器学习训练方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112580820A (zh) * 2020-12-01 2021-03-30 遵义师范学院 一种间歇式机器学习训练方法

Similar Documents

Publication Publication Date Title
CN108416366B (zh) 一种基于气象指数的加权ls-svm的电力系统短期负荷预测方法
Liang et al. A novel wind speed prediction strategy based on Bi-LSTM, MOOFADA and transfer learning for centralized control centers
CN110705743B (zh) 一种基于长短期记忆神经网络的新能源消纳电量预测方法
CN110414788B (zh) 一种基于相似日和改进lstm的电能质量预测方法
CN112733462B (zh) 一种结合气象因素的超短期风电场功率预测方法
CN111260124A (zh) 一种基于注意力机制深度学习的混沌时间序列预测方法
CN107092987B (zh) 一种中小型无人机自主着舰风速预测方法
Yongchun Application of Elman neural network in short-term load forecasting
CN112418495A (zh) 一种基于天牛须优化算法和神经网络的建筑能耗预测方法
CN110674965A (zh) 基于动态特征选取的多时间步长风功率预测方法
Gama et al. Stream-based electricity load forecast
CN112784920A (zh) 云边端协同的旋转部件对抗域自适应故障诊断方法
CN112651426A (zh) 一种风电机组滚动轴承故障诊断方法
CN115169742A (zh) 一种短期风力发电功率预测方法
CN111797987A (zh) 一种动态机器学习方法
Sen Time Series Prediction based on Improved Deep Learning
CN112001537A (zh) 一种基于灰色模型和支持向量机的短期风电功率预测方法
CN113128666A (zh) 基于Mo-S-LSTMs模型的时间序列多步预测方法
CN115545503B (zh) 一种基于并联时序卷积神经网络的电力负荷中短期预测方法及系统
CN112364446A (zh) 基于ec-rbelm算法的发动机整机性能衰减预测方法
CN115964923A (zh) 一种基于VMD-PSO-LSTM的临近空间80-100km大气风速预报的建模方法
Kang et al. Research on forecasting method for effluent ammonia nitrogen concentration based on GRA-TCN
CN114897204A (zh) 一种海上风电场短期风速预测方法和装置
CN114372418A (zh) 一种风电功率时空态势描述模型建立方法
CN111461416B (zh) 风速预测方法、系统、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20201020