CN115511177A - 基于ingo-swgmn混合模型的超短期风速预测方法 - Google Patents

基于ingo-swgmn混合模型的超短期风速预测方法 Download PDF

Info

Publication number
CN115511177A
CN115511177A CN202211173914.9A CN202211173914A CN115511177A CN 115511177 A CN115511177 A CN 115511177A CN 202211173914 A CN202211173914 A CN 202211173914A CN 115511177 A CN115511177 A CN 115511177A
Authority
CN
China
Prior art keywords
northern
swgmn
eagle
ingo
wind speed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211173914.9A
Other languages
English (en)
Inventor
付文龙
章轩瑞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Three Gorges University CTGU
Original Assignee
China Three Gorges University CTGU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Three Gorges University CTGU filed Critical China Three Gorges University CTGU
Priority to CN202211173914.9A priority Critical patent/CN115511177A/zh
Publication of CN115511177A publication Critical patent/CN115511177A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/006Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/049Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0639Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G06Q10/06393Score-carding, benchmarking or key performance indicator [KPI] analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06Energy or water supply

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Resources & Organizations (AREA)
  • General Physics & Mathematics (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Business, Economics & Management (AREA)
  • Computational Linguistics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Development Economics (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Tourism & Hospitality (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Marketing (AREA)
  • Molecular Biology (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Game Theory and Decision Science (AREA)
  • Educational Administration (AREA)
  • Public Health (AREA)
  • Water Supply & Treatment (AREA)
  • Primary Health Care (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

基于INGO‑SWGMN混合模型的超短期风速预测方法,获取风电场的历史风速数据,对数据进行预处理;基于LSTM网络提出一种共享权重门控记忆网络SWGMN,建立SWGMN预测模型;对北方苍鹰优化算法进行改进,将非线性减小机制应用于其狩猎半径,并在北方苍鹰个体的位置更新中加入扰动阶段;利用INGO优化算法和验证集数据,对SWGMN的初始学习率和隐藏层节点个数两个超参数进行寻优处理,以获得模型的最优超参数组合;将最优超参数和测试集数据分别输入到INGO‑SWGMN模型中,得到测试集中各子序列的预测结果;将各子序列的预测结果进行累加求和,得到最终的风速预测结果。本发明对北方苍鹰优化算法和LSTM网络进行了改进,并将二者进行了结合,具有较高的预测精度和较快的预测速度。

Description

基于INGO-SWGMN混合模型的超短期风速预测方法
技术领域
本发明涉及风电风速预测技术领域,具体涉及一种基于INGO-SWGMN混合模型的超短期风速预测方法。
背景技术
风力发电以其运行成本低、污染小、可再生等优点得到了世界各国的青睐,如今已成为各国最重视的发展方向之一。然而风力发电具有间歇性、不确定性和波动性的特点,大规模的风电并网会对电力系统的安全稳定运行带来极大的不利影响。而风速是风力发电最大以及最重要的影响因素,准确的超短期风速预测可以为电力系统的实时调度提供重要的依据,降低风电并网对电力系统的不利影响和运行成本,对风电的发展具有重要的战略意义。
目前风速预测的方法主要分为物理模型预测法和统计模型预测法两大类。物理模型预测法由于受地理环境因素和气象因素的影响,其建模较为困难,计算量较大,因此时效性较差,一般只适用于中长期的风速预测。统计模型预测法是通过对大量历史数据进行分析,找出其内在的非线性映射关系来进行预测。
近些年随着人工智能的不断兴起,统计模型预测法除了包括以往的自回归差分移动平均法ARIMA等时间序列分析法,还包括人工神经网络ANN等智能统计分析法。其中,深度学习算法以其强大的学习能力和处理非线性问题的能力,较大的提高了风速预测的精度,因此备受学者们的关注。尤其是长短期记忆网络LSTM,它不仅能解决传统循环神经网络RNN所带来的梯度消失和梯度爆炸的问题,还能解决由于数据过长带来的长期依赖问题。尽管LSTM有着诸多优点,预测精度较高,但是由于其自身内部结构较为复杂,权重参数较多,因此相较于其他深度学习模型,其预测训练的时间较长,这对于超短期风速预测来说是不利的。并且对于一个深度学习模型来说,其超参数的选取是十分重要的,超参数设置的不同,其最终结果也会出现较大的差异,因此需要一种高效的优化算法来使模型的预测性能达到最优。
发明内容
为克服现有技术存在的不足,本发明提出一种基于INGO-SWGMN混合模型的超短期风速预测方法,该方法在LSTM网络的基础上提出一种改进网络模型,称为共享权重门控记忆网络SWGMN,以此来减少预测训练所需要的时间;另外,为了提高模型的预测性能,提出一种改进的北方苍鹰优化算法INGO来对SWGMN模型的初始学习率和隐藏层节点数这两个超参数进行寻优,得到最优参数组合,使SWGMN模型的预测精度达到最优。
本发明采取的技术方案为:
基于INGO-SWGMN混合模型的超短期风速预测方法,包括以下步骤:
步骤1:获取风电场的历史风速数据,对风速数据进行预处理,得到一系列子序列,并将处理好的数据各自划分为训练集、验证集和测试集三个部分;
步骤2:对LSTM网络进行改进,提出一种共享权重门控记忆网络SWGMN,并用训练集建立SWGMN预测模型;
步骤3:对原始的北方苍鹰优化算法进行改进,将非线性减小机制应用于其狩猎半径,并在北方苍鹰个体的位置更新中加入扰动阶段,得到改进的北方苍鹰优化算法INGO;
步骤4:利用改进的北方苍鹰优化算法INGO和验证集数据,对共享权重门控记忆网络SWGMN的初始学习率和隐藏层节点个数这两个超参数进行寻优处理,以获得混合模型INGO-SWGMN的最优超参数组合;
步骤5:将寻优后得到的超参数和测试集数据分别输入到混合模型INGO-SWGMN中,得到测试集中各子序列的预测结果;
步骤6:将各子序列的预测结果进行累加求和,得到最终的风速预测结果。
步骤7:采用平均绝对误差MAE、均方根误差RMSE、平均相对误差MAPE和决定系数R2这四个评价指标来对步骤6的模型的预测结果进行误差分析。
所述步骤1包括以下步骤:
步骤S1.1:构造变分问题,将风速信号分解成K个有限带宽的固有模态函数IMF,并使得分解出的K个固有模态函数IMF的估计带宽之和最小,所构造的变分约束模型如下所示:
Figure BDA0003864565670000021
Figure BDA0003864565670000022
式中:uk表示分解出的第K个模态分量;ωk表示分解出的第K个模态的中心频率;δ(t)为狄拉克函数;f(t)为原始风速信号;*表示卷积运算;k表示当前迭代次数;j表示uk的解析信号虚部;t表示时间;
步骤S1.2:为求取上述变分约束模型的最优解,引入二次罚函数α和Lagrange乘子λ,从而将约束性问题变为了非约束性变分问题,得到的拉格朗日函数为:
Figure BDA0003864565670000031
式中:λ(t)表示Lagrange乘子;
Figure BDA0003864565670000032
表示指数调整因子,其作用是使每个模态函数的频谱调制到相应的基频带;
步骤S1.3:采用交替方向乘子法解决上式无约束变分问题,通过交替更新
Figure BDA0003864565670000033
Figure BDA0003864565670000034
求解改进后的拉格朗日表达式的“鞍点”,即步骤S1.1中约束变分问题的最优解,解得的最终模态分量uk和中心频率ωk分别为:
Figure BDA0003864565670000035
Figure BDA0003864565670000036
式中:
Figure BDA0003864565670000037
Figure BDA0003864565670000038
分别表示f(t)、
Figure BDA0003864565670000039
Figure BDA00038645656700000310
的傅里叶变换;n为迭代次数;
步骤S1.4:给定一个判断迭代是否停止的精度ε,若
Figure BDA00038645656700000311
则停止迭代并输出结果,否则返回步骤S1.3继续进行迭代操作,最终能够分解得到K个具有不同中心频率的模态函数分量IMF。
所述步骤2中,对于经VMD分解后的一个一维子序列x={xi},i=1,2,3…n;,其在多维相空间中的重构结果如下:
Figure BDA00038645656700000312
若预测模型的输入为X,则其对应的输出为:
Y=[x1+h+(d-1)τ,xi+h+(d-1)τ,…xn+1]T
式中:N为相空间重构矩阵的重构维数,N=n-(d-1)τ-h;h表示预测步长;τ和d分别表示延时时间、嵌入维数;X1X2…XN分别表示重构后相空间矩阵中的N个一维向量;xi、xi+τ、…xi+(d-1)τ分别表示相空间重构矩阵中第i维向量的具体数值;x1+h+(d-1)τ,xi+h+(d-1)τ,…xn+1分别表示每一维向量输入后应得到的输出值。
所述步骤2中,SWGMN模型的构建包括以下步骤:
步骤S2.1:为了减小预测训练的时长,SWGMN改变了原LSTM的三个门结构,将遗忘门、输入门和输出门重组成为一种新的门结构,称为共享门;
步骤S2.2:计算共享门的输出和信息状态,具体公式如下:
Figure BDA0003864565670000041
rt=σ(W·xt+b);
式中:
Figure BDA0003864565670000042
表示当前时刻输入信息的状态;rt表示共享门的输出;xt表示当前时刻模块的输入;W表示权重;b表示偏置;σ表示一个隐藏层,其激活函数为sigmoid函数;
步骤S2.3:更新当前模块的状态,具体公式如下:
Figure BDA0003864565670000043
式中:Ct-1表示上一时刻模块的状态;Ct表示当前时刻模块的状态;
步骤S2.4:计算当前模块的输出,具体公式如下:
ht=rt*ht-1+(1-rt)*tanh(Ct)
式中:ht表示当前时刻模块的输出;ht-1表示上一时刻模块的输出;tanh表示一个tanh激活函数层。
所述步骤3包括以下步骤:
步骤S3.1:对于北方苍鹰的狩猎半径,采用一种非线性减小策略,具体公式如下所示:
Figure BDA0003864565670000044
式中:R为狩猎半径;t为算法的当前迭代次数;T为最大迭代次数;
步骤S3.2:在北方苍鹰原有的两阶段位置更新过程中引入第三阶段:扰动阶段;在此阶段,将Levy飞行扰动策略引入到北方苍鹰的位置更新过程中,具体的位置更新公式如下所示:
Figure BDA0003864565670000045
Figure BDA0003864565670000051
式中:Xi为第i个北方苍鹰的位置;
Figure BDA0003864565670000052
为第三阶段第i个北方苍鹰的新位置;Fi为位置更新前第i个北方苍鹰自身位置的目标函数值;Fi new,P3为第三阶段更新后第i个北方苍鹰自身位置的目标函数值;Levy(d)为进行Levy飞行扰动;d为问题的维度;
Figure BDA0003864565670000053
为向量对应元素相乘;
步骤S3.3:在第三阶段中,引入一个扰动因子r和一个判断因子p;在算法的迭代过程中,若r>p,则该次迭代需要进行Levy飞行扰动,否则不需要;r在每次迭代中是一个(0,1)之间的随机数,p是一个随迭代次数增加而非线性减小的数,其具体表达式为:
Figure BDA0003864565670000054
式中:t为当前迭代次数;T为最大迭代次数。
所述步骤4包括以下步骤:
步骤S4.1:对INGO优化算法进行初始化,设置北方苍鹰的种群个数、最大迭代次数和参数的寻优范围,同时将SWGMN的初始学习率和隐藏层节点数这两个超参数作为INGO中北方苍鹰位置的两个维度;
步骤S4.2:对种群中个体的位置进行随机初始化,将均方根误差RMSE作为北方苍鹰个体的适应度值,计算当前每个个体的适应度值;
步骤S4.3:对每个北方苍鹰的位置进行更新,将更新后每个北方苍鹰的位置作为SWGMN新的初始学习率和隐藏层节点数,并基于新的超参数和验证集数据对SWGMN模型进行验证,计算在新参数下每个北方苍鹰个体的适应度值;
步骤S4.4:选出适应度值最小的北方苍鹰个体,作为当前迭代次数中的最优个体;步骤S4.5:判断是否达到最大迭代次数,若达到,则将该次迭代中最优个体的位置输出,将其作为SWGMN的最佳超参数,若未达到,则跳转到步骤S4.3,并且迭代次数进行加1操作。
所述步骤S4.3具体包括以下步骤:
步骤S4.3.1:北方苍鹰的位置更新包括三个阶段,第一阶段为探索阶段,具体公式如下所示:
Pi=Xk,i=1,2,..N,k=1,2,...i-1,i+1,...N;
Figure BDA0003864565670000061
Figure BDA0003864565670000062
式中:Pi为第i个北方苍鹰的猎物位置;
Figure BDA0003864565670000063
为第i个北方苍鹰的第j维的新位置;
Figure BDA0003864565670000064
为第i个北方苍鹰的猎物位置的目标函数值;Xi为第i个北方苍鹰的位置;Fi为更新前第i个北方苍鹰自身位置的目标函数值;
Figure BDA0003864565670000065
为第一阶段第i个北方苍鹰的新位置;Fi new,P1为第一阶段更新后第i个北方苍鹰自身位置的目标函数值;r是一个[0,1]范围内的随机数;I是一个数值为1或2的随机整数;
步骤S4.3.2:第二阶段为开发阶段,具体公式如下所示:
Figure BDA0003864565670000066
Figure BDA0003864565670000067
Figure BDA0003864565670000068
式中:R为改进后北方苍鹰的狩猎半径;t为当前迭代次数;T为最大迭代次数;
Figure BDA0003864565670000069
为第二阶段第i个北方苍鹰的第j维的新位置;Fi new,P2为第二阶段更新后第i个北方苍鹰自身位置的目标函数值;
步骤S4.3.3:第三阶段为扰动阶段,在此阶段中,本发明将Levy飞行扰动策略引入到北方苍鹰的位置更新过程中,具体过程见步骤S3.2和步骤S3.3。
所述步骤7中,四个评价指标具体包括:
Figure BDA00038645656700000610
Figure BDA00038645656700000611
Figure BDA00038645656700000612
Figure BDA00038645656700000613
式中:n表示预测样本的数量;yi表示第i个样本的实际值;
Figure BDA0003864565670000071
表示第i个样本的预测值;
Figure BDA0003864565670000072
表示n个预测样本实际值的平均值。
本发明一种基于INGO-SWGMN混合模型的超短期风速预测方法,有益效果如下:
1)本发明在原始的北方苍鹰优化算法中加入了非线性控制策略和扰动阶段,相较于原算法,本发明所提优化算法具有更快的收敛速度和更强的寻优能力,并且在迭代后期,算法具有较强的跳出局部最优解的能力。
2)本发明在LSTM网络的基础上提出一种改进模型——共享权重门控记忆网络SWGMN,该改进型网络不仅具有LSTM网络的优点,能够控制丢弃无用历史信息和保留当前有用信息,预测精度较高,而且预测训练所需要的时间较LSTM大为减少,因此更适合超短期的风速预测。
3)本发明将改进的北方苍鹰优化算法INGO与共享权重门控记忆网络SWGMN进行结合,利用INGO来优化SWGMN的超参数,使得SWGMN的预测性能达到最优状态,进一步提高了SWGMN预测模型的预测精度。
附图说明
图1是本发明的流程图。
图2是本发明中SWGMN的单元结构图。
图3是采用本发明的预测值和实际值的对比图。
具体实施方式
下面结合附图对本发明作进一步详细说明:
本发明提出一种基于INGO-SWGMN混合模型的超短期风速预测方法,首先利用VMD将原始风速时间序列分解成为一系列相对平稳的子序列,降低预测的困难度。然后对各子序列分量进行相空间重构,提取出其内部隐藏的规律信息,得到各自相应的相空间矩阵。接着基于LSTM提出一种改进模型,称为共享权重门控记忆网络SWGMN,并采用SWGMN对各子序列分量建立预测模型。另外,提出一种改进的北方苍鹰优化算法INGO来对SWGMN模型的初始学习率和隐藏层节点数这两个超参数进行寻优,得到最优参数组合,将最优参数输入到模型中,以此来提高SWGMN模型的预测精度。最后对各子序列进行预测,并将预测值进行叠加,计算得到最终的风速预测结果。预测流程如图1所示,具体包括如下步骤:
步骤a:选取西班牙Sotavento Galicia(SG)风电场的风速历史数据进行实验分析,选取的时间段为2022年5月12日到2022年5月20日,记录数据的时间间隔为10分钟,总共有1200个实验数据。对数据进行预处理,得到一系列子序列,并将各子序列划分为三个部分,前750个实验数据被划分为训练集,中间150个实验数据被划分为验证集,后300个数据被划分为测试集。
步骤a1:利用VMD分解方法将采集到的风速时间序列分解为一系列相对平稳的子序列。
步骤a1.1:VMD分解的具体操作为构造变分问题,将风速信号分解成K个有限带宽的固有模态函数IMF,并使得分解出的K个IMF的估计带宽之和最小,所构造的变分约束模型如下所示:
Figure BDA0003864565670000081
Figure BDA0003864565670000082
式中:uk表示分解出的第K个模态分量;ωk表示分解出的第K个模态的中心频率;δ(t)为狄拉克函数;f(t)为原始风速信号;*表示卷积运算;k表示当前迭代次数;j表示uk的解析信号虚部;t表示时间;
步骤a1.2:为求取上述变分约束模型的最优解,引入二次罚函数α和Lagrange乘子λ,从而将约束性问题变为了非约束性变分问题,得到的拉格朗日函数为:
Figure BDA0003864565670000083
式中:λ(t)表示Lagrange乘子;
Figure BDA0003864565670000084
表示指数调整因子,其作用是使每个模态函数的频谱调制到相应的基频带;
步骤a1.3:采用交替方向乘子法解决上式无约束变分问题,通过交替更新
Figure BDA0003864565670000085
Figure BDA0003864565670000086
求解改进后的拉格朗日表达式的“鞍点”,即步骤a1.1中约束变分问题的最优解,解得的最终模态分量uk和中心频率ωk分别为:
Figure BDA0003864565670000087
Figure BDA0003864565670000088
式中:
Figure BDA0003864565670000091
Figure BDA0003864565670000092
分别表示f(t)、
Figure BDA0003864565670000093
λn(t)和
Figure BDA0003864565670000094
的傅里叶变换;n为迭代次数;
步骤a1.4:给定一个判断迭代是否停止的精度ε,若
Figure BDA0003864565670000095
则停止迭代并输出结果,否则返回步骤a1.3继续进行迭代操作。最终能够分解得到K个具有不同中心频率的模态函数分量IMF。
步骤a2:对分解后的每条子序列进行相空间重构,以获得风速序列中隐藏的有用信息。
对于经VMD分解后的一个一维子序列x={xi}(i=1,2,3…n),其在多维相空间中的重构结果如下:
Figure BDA0003864565670000096
若预测模型的输入为X,则其对应的输出为:
Y=[x1+h+(d-1)τ,xi+h+(d-1)τ,…xn+1]T
式中:N为相空间重构矩阵的重构维数,N=n-(d-1)τ-h;h表示预测步长;τ和d分别表示延时时间、嵌入维数;X1X2…XN分别表示重构后相空间矩阵中的N个一维向量;xi、xi+τ、…xi+(d-1)τ分别表示相空间重构矩阵中第i维向量的具体数值;x1+h+(d-1)τ,xi+h+(d-1)τ,…xn+1分别表示每一维向量输入后应得到的输出值。。
步骤b:对LSTM网络进行改进,提出一种新的深度学习模型,称为共享权重门控记忆网络SWGMN,并用训练集建立SWGMN预测模型,SWGMN的单元结构如图2所示,具体改进过程如下:
步骤b1:为了减小预测训练的时长,SWGMN改变了原LSTM的三个门结构,将遗忘门、输入门和输出门重组成为一种新的门结构,称为共享门;
步骤b2:计算共享门的输出和信息状态,具体公式如下:
Figure BDA0003864565670000097
rt=σ(W·xt+b)
式中:
Figure BDA0003864565670000098
表示当前时刻输入信息的状态;rt表示共享门的输出;xt表示当前时刻模块的输入;W表示权重;b表示偏置;σ表示一个隐藏层,其激活函数为sigmoid函数;
步骤b3:更新当前模块的状态,具体公式如下:
Figure BDA0003864565670000101
式中:Ct-1表示上一时刻模块的状态;Ct表示当前时刻模块的状态;
步骤b4:计算当前模块的输出,具体公式如下:
ht=rt*ht-1+(1-rt)*tanh(Ct)
式中:ht表示当前时刻模块的输出;ht-1表示上一时刻模块的输出;tanh表示一个tanh激活函数层;
步骤b5:将相空间重构后的训练集数据输入到SWGMN模型进行训练。
步骤c:对原始的北方苍鹰优化算法进行改进,将一种非线性减小机制应用于其狩猎半径,并在北方苍鹰个体的位置更新中加入扰动阶段,得到改进的北方苍鹰优化算法INGO,具体过程如下所示:
步骤c1:对于北方苍鹰的狩猎半径,采用一种非线性减小策略,使其更符合北方苍鹰捕食时的实际情况,以此来加快该算法的收敛速度,具体公式如下所示:
Figure BDA0003864565670000102
式中:R为狩猎半径;t为算法的当前迭代次数;T为最大迭代次数;
步骤c2:对于算法后期可能陷入局部最优解的情况,在北方苍鹰原有的两阶段位置更新过程中引入第三阶段:扰动阶段。在此阶段中,将Levy飞行扰动策略引入到北方苍鹰的位置更新过程中,通过Levy飞行策略对北方苍鹰的位置进行扰动更新,具体的位置更新公式如下所示:
Figure BDA0003864565670000103
Figure BDA0003864565670000104
式中:Xi为第i个北方苍鹰的位置;
Figure BDA0003864565670000105
为第三阶段第i个北方苍鹰的新位置;Fi为位置更新前第i个北方苍鹰自身位置的目标函数值;Fi new,P3为第三阶段更新后第i个北方苍鹰自身位置的目标函数值;Levy(d)为进行Levy飞行扰动;d为问题的维度;
Figure BDA0003864565670000106
为向量对应元素相乘;
步骤c3:在第三阶段中,引入一个扰动因子r和一个判断因子p;在算法的迭代过程中,若r>p,则该次迭代需要进行Levy飞行扰动,否则不需要;r在每次迭代中是一个(0,1)之间的随机数,p是一个随迭代次数增加而非线性减小的数,其具体表达式为:
Figure BDA0003864565670000111
式中:t为当前迭代次数;T为最大迭代次数。
步骤d:利用INGO和验证集数据,对SWGMN的初始学习率和隐藏层节点个数两个超参数进行寻优处理,以获得混合模型INGO-SWGMN的最优超参数组合,具体操作步骤如下所示:
步骤d1:对INGO优化算法进行初始化,设置北方苍鹰的种群个数、最大迭代次数和参数的寻优范围,同时将SWGMN的初始学习率和隐藏层节点数这两个超参数作为INGO中北方苍鹰位置的两个维度;
步骤d2:对种群中个体的位置进行随机初始化,将均方根误差RMSE作为北方苍鹰个体的适应度值,计算当前每个个体的适应度值;
步骤d3:对每个北方苍鹰的位置进行更新,将更新后每个北方苍鹰的位置作为SWGMN新的初始学习率和隐藏层节点数,并基于新的超参数和验证集数据对SWGMN模型进行验证,计算在新参数下每个北方苍鹰个体的适应度值;
步骤d3.1:北方苍鹰的位置更新包括三个阶段,第一阶段为探索阶段,在该阶段中,北方苍鹰会随机选择一个个体的位置作为猎物的位置,然后快速向其靠近。具体公式如下所示:
Pi=Xk,i=1,2,..N,k=1,2,...i-1,i+1,...N
Figure BDA0003864565670000112
Figure BDA0003864565670000113
式中:Pi为第i个北方苍鹰的猎物位置;
Figure BDA0003864565670000114
为第i个北方苍鹰的第j维的新位置;
Figure BDA0003864565670000115
为第i个北方苍鹰的猎物位置的目标函数值;Xi为第i个北方苍鹰的位置;Fi为更新前第i个北方苍鹰自身位置的目标函数值;
Figure BDA0003864565670000116
为第一阶段第i个北方苍鹰的新位置;Fi new,P1为第一阶段更新后第i个北方苍鹰自身位置的目标函数值;r是一个[0,1]范围内的随机数;I是一个数值为1或2的随机整数;
步骤d3.2:第二阶段为开发阶段,在该阶段中,北方苍鹰攻击猎物后,猎物会试图逃跑,因此,在追逐猎物的收尾过程中,北方苍鹰需要继续追逐猎物。具体公式如下所示:
Figure BDA0003864565670000121
Figure BDA0003864565670000122
Figure BDA0003864565670000123
式中:R为改进后北方苍鹰的狩猎半径;t为当前迭代次数;T为最大迭代次数;
Figure BDA0003864565670000124
为第二阶段第i个北方苍鹰的第j维的新位置;Fi new,P2为第二阶段更新后第i个北方苍鹰自身位置的目标函数值;
步骤d3.3:第三阶段为扰动阶段,在此阶段中,本文将Levy飞行扰动策略引入到北方苍鹰的位置更新过程中,通过Levy飞行策略对北方苍鹰的位置进行扰动更新,使得算法在迭代后期具有较强的跳出局部最优解的能力,以此来提高算法的全局搜索能力和收敛速度。具体过程见步骤c2和步骤c3;
步骤d4:选出适应度值最小的北方苍鹰个体作为当前迭代次数中的最优个体。
步骤d5:判断是否达到最大迭代次数,若达到,则将该次迭代中最优个体的位置输出,将其作为SWGMN的最佳超参数,若未达到,则跳转到步骤d3,并且迭代次数进行加1操作;
步骤e:将寻优后得到的超参数和测试集数据分别输入到INGO-SWGMN模型中,得到测试集中各子序列的预测结果;
步骤f:将各子序列的预测结果进行累加求和,得到最终的风速预测结果,并采用平均绝对误差MAE、均方根误差RMSE、平均相对误差MAPE和决定系数R2这四个评价指标来对模型的预测结果进行误差分析,评价指标的具体公式如下:
Figure BDA0003864565670000125
Figure BDA0003864565670000126
Figure BDA0003864565670000127
Figure BDA0003864565670000131
式中:n表示预测样本的数量;yi表示第i个样本的实际值;
Figure BDA0003864565670000132
表示第i个样本的预测值;
Figure BDA0003864565670000133
表示n个预测样本实际值的平均值。
为充分证明本发明所提模型的有效性,将INGO-SWGMN分别与LSTM、GRU、SWGMN、NGO-SWGMN共4个模型进行对比实验,实验结果如图3所示。
从图3中可以看出,本发明所提混合模型INGO-SWGMN的风速预测曲线与实际风速曲线绝大部分都是吻合的,具有较高的预测精度,证实了本发明的优越性以及有效性。
表1不同模型的误差分析评价指标
Figure BDA0003864565670000134
根据表1可以看到,本发明所改进的模型SWGMN相较原LSTM模型和GRU模型,其MAE、RMSE、MAPE和R2均有不同程度的提升,并且模型SWGMN的预测时间相较LSTM减少了近50%,提升十分的显著,而相较于GRU,其也有着32%的提升,这表明本发明所改进的模型相较其他传统模型具有较高的预测精度和预测效率。并且在加入优化算法对SWGMN进行超参数寻优后,模型SWGMN的预测性能有了进一步的提升。
而从表1的最后两行可以清楚的看到,模型INGO-SWGMN的误差分析评价指标要明显优于模型NGO-SWGMN,这说明本发明所提出的INGO优化算法相较于原始NGO优化算法,其具有更强的寻优能力,能为SWGMN模型寻找到更优的超参数,使得SWGMN模型的预测性能得到更进一步的提升。

Claims (10)

1.基于INGO-SWGMN混合模型的超短期风速预测方法,其特征在于包括以下步骤:
步骤1:获取风电场的历史风速数据,对风速数据进行预处理,得到一系列子序列,并将处理好的数据各自划分为训练集、验证集和测试集三个部分;
步骤2:对LSTM网络进行改进,提出一种共享权重门控记忆网络SWGMN,并用训练集建立SWGMN预测模型;
步骤3:对原始的北方苍鹰优化算法进行改进,将非线性减小机制应用于其狩猎半径,并在北方苍鹰个体的位置更新中加入扰动阶段,得到改进的北方苍鹰优化算法INGO;
步骤4:利用改进的北方苍鹰优化算法INGO和验证集数据,对共享权重门控记忆网络SWGMN的初始学习率和隐藏层节点个数这两个超参数进行寻优处理,以获得混合模型INGO-SWGMN的最优超参数组合;
步骤5:将寻优后得到的超参数和测试集数据分别输入到混合模型INGO-SWGMN中,得到测试集中各子序列的预测结果;
步骤6:将各子序列的预测结果进行累加求和,得到最终的风速预测结果。
2.根据权利要求1所述基于INGO-SWGMN混合模型的超短期风速预测方法,其特征在于:包括步骤7:采用平均绝对误差MAE、均方根误差RMSE、平均相对误差MAPE和决定系数R2这四个评价指标来对步骤6的模型的预测结果进行误差分析。
3.根据权利要求1所述基于INGO-SWGMN混合模型的超短期风速预测方法,其特征在于:所述步骤1包括以下步骤:
步骤S1.1:将风速信号分解成K个有限带宽的固有模态函数IMF,并使得分解出的K个固有模态函数IMF的估计带宽之和最小,所构造的变分约束模型如下所示:
Figure FDA0003864565660000011
Figure FDA0003864565660000012
式中:uk表示分解出的第K个模态分量;ωk表示分解出的第K个模态的中心频率;δ(t)为狄拉克函数;f(t)为原始风速信号;*表示卷积运算;k表示当前迭代次数;j表示uk的解析信号虚部;t表示时间;
步骤S1.2:为求取上述变分约束模型的最优解,引入二次罚函数α和Lagrange乘子λ,从而将约束性问题变为了非约束性变分问题,得到的拉格朗日函数为:
Figure FDA0003864565660000021
式中:λ(t)表示Lagrange乘子;
Figure FDA0003864565660000022
表示指数调整因子,其作用是使每个模态函数的频谱调制到相应的基频带。
4.根据权利要求1所述基于INGO-SWGMN混合模型的超短期风速预测方法,其特征在于:步骤S1.3:采用交替方向乘子法解决上式无约束变分问题,通过交替更新
Figure FDA0003864565660000023
Figure FDA0003864565660000024
求解步骤S1.1中约束变分问题的最优解,解得的最终模态分量uk和中心频率ωk分别为:
Figure FDA0003864565660000025
Figure FDA0003864565660000026
式中:
Figure FDA0003864565660000027
Figure FDA0003864565660000028
分别表示f(t)、
Figure FDA0003864565660000029
λn(t)和
Figure FDA00038645656600000210
的傅里叶变换;n为迭代次数;
步骤S1.4:给定一个判断迭代是否停止的精度ε,若
Figure FDA00038645656600000211
则停止迭代并输出结果,否则返回步骤S1.3继续进行迭代操作,最终能够分解得到K个具有不同中心频率的模态函数分量IMF。
5.根据权利要求1所述基于INGO-SWGMN混合模型的超短期风速预测方法,其特征在于:所述步骤2中,对于经VMD分解后的一个一维子序列x={xi},i=1,2,3…n;,其在多维相空间中的重构结果如下:
Figure FDA00038645656600000212
若预测模型的输入为X,则其对应的输出为:
Y=[x1+h+(d-1)τ,xi+h+(d-1)τ,…xn+1]T
式中:N为相空间重构矩阵的重构维数,N=n-(d-1)τ-h;h表示预测步长;τ和d分别表示延时时间、嵌入维数;X1 X2 … XN分别表示重构后相空间矩阵中的N个一维向量;xi、xi+τ、…xi+(d-1)τ分别表示相空间重构矩阵中第i维向量的具体数值;x1+h+(d-1)τ,xi+h+(d-1)τ,…xn+1分别表示每一维向量输入后应得到的输出值。
6.根据权利要求5所述基于INGO-SWGMN混合模型的超短期风速预测方法,其特征在于:所述步骤2中,SWGMN模型的构建包括以下步骤:
步骤S2.1:为了减小预测训练的时长,SWGMN改变了原LSTM的三个门结构,将遗忘门、输入门和输出门重组成为一种新的门结构,称为共享门;
步骤S2.2:计算共享门的输出和信息状态,具体公式如下:
Figure FDA0003864565660000031
rt=σ(W·xt+b);
式中:
Figure FDA0003864565660000032
表示当前时刻输入信息的状态;rt表示共享门的输出;xt表示当前时刻模块的输入;W表示权重;b表示偏置;σ表示一个隐藏层,其激活函数为sigmoid函数;
步骤S2.3:更新当前模块的状态,具体公式如下:
Figure FDA0003864565660000033
式中:Ct-1表示上一时刻模块的状态;Ct表示当前时刻模块的状态;
步骤S2.4:计算当前模块的输出,具体公式如下:
ht=rt*ht-1+(1-rt)*tanh(Ct)
式中:ht表示当前时刻模块的输出;ht-1表示上一时刻模块的输出;tanh表示一个tanh激活函数层。
7.根据权利要求1所述基于INGO-SWGMN混合模型的超短期风速预测方法,其特征在于:所述步骤3包括以下步骤:
步骤S3.1:对于北方苍鹰的狩猎半径,采用一种非线性减小策略,具体公式如下所示:
Figure FDA0003864565660000034
式中:R为狩猎半径;t为算法的当前迭代次数;T为最大迭代次数;
步骤S3.2:在北方苍鹰原有的两阶段位置更新过程中引入第三阶段:扰动阶段;在此阶段,将Levy飞行扰动策略引入到北方苍鹰的位置更新过程中,具体的位置更新公式如下所示:
Figure FDA0003864565660000041
Figure FDA0003864565660000042
式中:Xi为第i个北方苍鹰的位置;
Figure FDA0003864565660000043
为第三阶段第i个北方苍鹰的新位置;Fi为位置更新前第i个北方苍鹰自身位置的目标函数值;
Figure FDA0003864565660000044
为第三阶段更新后第i个北方苍鹰自身位置的目标函数值;Levy(d)为进行Levy飞行扰动;d为问题的维度;
Figure FDA0003864565660000045
为向量对应元素相乘;
步骤S3.3:在第三阶段中,引入一个扰动因子r和一个判断因子p;在算法的迭代过程中,若r>p,则该次迭代需要进行Levy飞行扰动,否则不需要;r在每次迭代中是一个(0,1)之间的随机数,p是一个随迭代次数增加而非线性减小的数,其具体表达式为:
Figure FDA0003864565660000046
式中:t为当前迭代次数;T为最大迭代次数。
8.根据权利要求1所述基于INGO-SWGMN混合模型的超短期风速预测方法,其特征在于:所述步骤4包括以下步骤:
步骤S4.1:对INGO优化算法进行初始化,设置北方苍鹰的种群个数、最大迭代次数和参数的寻优范围,同时将SWGMN的初始学习率和隐藏层节点数这两个超参数作为INGO中北方苍鹰位置的两个维度;
步骤S4.2:对种群中个体的位置进行随机初始化,将均方根误差RMSE作为北方苍鹰个体的适应度值,计算当前每个个体的适应度值;
步骤S4.3:对每个北方苍鹰的位置进行更新,将更新后每个北方苍鹰的位置作为SWGMN新的初始学习率和隐藏层节点数,并基于新的超参数和验证集数据对SWGMN模型进行验证,计算在新参数下每个北方苍鹰个体的适应度值;
步骤S4.4:选出适应度值最小的北方苍鹰个体,作为当前迭代次数中的最优个体;
步骤S4.5:判断是否达到最大迭代次数,若达到,则将该次迭代中最优个体的位置输出,将其作为SWGMN的最佳超参数,若未达到,则跳转到步骤S4.3,并且迭代次数进行加1操作。
9.根据权利要求8所述基于INGO-SWGMN混合模型的超短期风速预测方法,其特征在于:所述步骤S4.3具体包括以下步骤:
步骤S4.3.1:北方苍鹰的位置更新包括三个阶段,第一阶段为探索阶段,具体公式如下所示:
Pi=Xk,i=1,2,..N,k=1,2,...i-1,i+1,...N;
Figure FDA0003864565660000051
Figure FDA0003864565660000052
式中:Pi为第i个北方苍鹰的猎物位置;
Figure FDA0003864565660000053
为第i个北方苍鹰的第j维的新位置;
Figure FDA0003864565660000054
为第i个北方苍鹰的猎物位置的目标函数值;Xi为第i个北方苍鹰的位置;Fi为更新前第i个北方苍鹰自身位置的目标函数值;
Figure FDA0003864565660000055
为第一阶段第i个北方苍鹰的新位置;
Figure FDA0003864565660000056
为第一阶段更新后第i个北方苍鹰自身位置的目标函数值;r是一个[0,1]范围内的随机数;I是一个数值为1或2的随机整数;
步骤S4.3.2:第二阶段为开发阶段,具体公式如下所示:
Figure FDA0003864565660000057
Figure FDA0003864565660000058
Figure FDA0003864565660000059
式中:R为改进后北方苍鹰的狩猎半径;t为当前迭代次数;T为最大迭代次数;
Figure FDA00038645656600000510
为第二阶段第i个北方苍鹰的第j维的新位置;
Figure FDA00038645656600000511
为第二阶段更新后第i个北方苍鹰自身位置的目标函数值;
步骤S4.3.3:第三阶段为扰动阶段,在此阶段中,将Levy飞行扰动策略引入到北方苍鹰的位置更新过程中。
10.根据权利要求2所述基于INGO-SWGMN混合模型的超短期风速预测方法,其特征在于:所述步骤7中,四个评价指标具体包括:
Figure FDA00038645656600000512
Figure FDA0003864565660000061
Figure FDA0003864565660000062
Figure FDA0003864565660000063
式中:n表示预测样本的数量;yi表示第i个样本的实际值;
Figure FDA0003864565660000064
表示第i个样本的预测值;
Figure FDA0003864565660000065
表示n个预测样本实际值的平均值。
CN202211173914.9A 2022-09-26 2022-09-26 基于ingo-swgmn混合模型的超短期风速预测方法 Pending CN115511177A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211173914.9A CN115511177A (zh) 2022-09-26 2022-09-26 基于ingo-swgmn混合模型的超短期风速预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211173914.9A CN115511177A (zh) 2022-09-26 2022-09-26 基于ingo-swgmn混合模型的超短期风速预测方法

Publications (1)

Publication Number Publication Date
CN115511177A true CN115511177A (zh) 2022-12-23

Family

ID=84505937

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211173914.9A Pending CN115511177A (zh) 2022-09-26 2022-09-26 基于ingo-swgmn混合模型的超短期风速预测方法

Country Status (1)

Country Link
CN (1) CN115511177A (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115983131A (zh) * 2023-01-09 2023-04-18 淮阴工学院 一种水产品生长含氧量调控方法及装置
CN116226619A (zh) * 2023-02-09 2023-06-06 淮阴工学院 一种基于ingo优化hkelm的齿轮箱故障诊断方法
CN116361718A (zh) * 2023-03-23 2023-06-30 中国人民解放军海军工程大学 基于改进变分模态分解和散布熵的单相接地故障选线方法
CN116662766A (zh) * 2023-08-01 2023-08-29 浙江大学 基于数据二维重构的风速预测方法及装置、电子设备
CN116776148A (zh) * 2023-06-15 2023-09-19 江西师范大学 一种quic网络异常行为检测方法、系统及设备
CN116881676A (zh) * 2023-09-08 2023-10-13 昆明理工大学 一种露天坑涌水量的预测方法
CN117537826A (zh) * 2024-01-09 2024-02-09 中国民航大学 一种可感知雷暴态势的航迹规划方法
CN116226619B (zh) * 2023-02-09 2024-06-11 淮阴工学院 一种基于ingo优化hkelm的齿轮箱故障诊断方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115983131A (zh) * 2023-01-09 2023-04-18 淮阴工学院 一种水产品生长含氧量调控方法及装置
CN115983131B (zh) * 2023-01-09 2023-07-04 淮阴工学院 一种水产品生长含氧量调控方法及装置
CN116226619A (zh) * 2023-02-09 2023-06-06 淮阴工学院 一种基于ingo优化hkelm的齿轮箱故障诊断方法
CN116226619B (zh) * 2023-02-09 2024-06-11 淮阴工学院 一种基于ingo优化hkelm的齿轮箱故障诊断方法
CN116361718A (zh) * 2023-03-23 2023-06-30 中国人民解放军海军工程大学 基于改进变分模态分解和散布熵的单相接地故障选线方法
CN116776148A (zh) * 2023-06-15 2023-09-19 江西师范大学 一种quic网络异常行为检测方法、系统及设备
CN116662766A (zh) * 2023-08-01 2023-08-29 浙江大学 基于数据二维重构的风速预测方法及装置、电子设备
CN116662766B (zh) * 2023-08-01 2023-10-03 浙江大学 基于数据二维重构的风速预测方法及装置、电子设备
CN116881676A (zh) * 2023-09-08 2023-10-13 昆明理工大学 一种露天坑涌水量的预测方法
CN116881676B (zh) * 2023-09-08 2023-11-21 昆明理工大学 一种露天坑涌水量的预测方法
CN117537826A (zh) * 2024-01-09 2024-02-09 中国民航大学 一种可感知雷暴态势的航迹规划方法
CN117537826B (zh) * 2024-01-09 2024-03-22 中国民航大学 一种可感知雷暴态势的航迹规划方法

Similar Documents

Publication Publication Date Title
CN115511177A (zh) 基于ingo-swgmn混合模型的超短期风速预测方法
Liang et al. A novel wind speed prediction strategy based on Bi-LSTM, MOOFADA and transfer learning for centralized control centers
CN109492822B (zh) 空气污染物浓度时空域关联预测方法
CN113053115B (zh) 一种基于多尺度图卷积网络模型的交通预测方法
CN110909926A (zh) 基于tcn-lstm的太阳能光伏发电预测方法
CN111860982A (zh) 一种基于vmd-fcm-gru的风电场短期风电功率预测方法
CN112434848B (zh) 基于深度信念网络的非线性加权组合风电功率预测方法
CN111260124A (zh) 一种基于注意力机制深度学习的混沌时间序列预测方法
CN111144644B (zh) 基于变分异方差高斯过程回归的短期风速预测方法
Zhang et al. Wind speed prediction research considering wind speed ramp and residual distribution
CN113361777A (zh) 基于vmd分解和ihho优化lstm的径流预测方法及系统
CN114219139B (zh) 基于注意力机制的dwt-lstm电力负荷预测方法
CN116362398A (zh) 基于模态分解和重构及lstm-mlr混合模型的电力负荷预测方法
CN112884236B (zh) 一种基于vdm分解与lstm改进的短期负荷预测方法及系统
CN116562908A (zh) 一种基于双层vmd分解和ssa-lstm的电价预测方法
CN114548532A (zh) 一种基于vmd的tgcn-gru超短期负荷预测方法、装置和电子设备
CN112257847A (zh) 一种基于CNN和LSTM预测地磁Kp指数的方法
CN112734002A (zh) 一种基于数据层和模型层联合迁移学习的寿命预测方法
CN113836823A (zh) 一种基于负荷分解和优化双向长短期记忆网络的负荷组合预测方法
CN115310669A (zh) 一种基于二次分解和iwoa-lssvm的超短期风电功率预测方法
CN115561005A (zh) 基于eemd分解和轻量化神经网络的化工过程故障诊断方法
Regazzoni et al. A physics-informed multi-fidelity approach for the estimation of differential equations parameters in low-data or large-noise regimes
CN112507613B (zh) 一种秒级超短期光伏功率预测方法
CN113850438A (zh) 公共建筑能耗预测方法、系统、设备及介质
CN114065807A (zh) 基于变分模态分解和贝叶斯神经网络的月径流预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination