CN114219181A - 基于迁移学习的风电功率概率预测方法 - Google Patents

Abstract

本发明公开一种基于迁移学习的风电功率概率预测方法，包括如下步骤：S1、通过迁移算法对历史时段和未来时段的风电数据进行划分构建多层极限学习神经机；S2、通过粒子群算法对多层极限学习神经机的输出层的映射参数进行优化；S3、通过权重优化方法对历史时段的多层极限学习神经机的训集生成权重数据集；S4、通过权重数据集采用特征迁移算法对未来时段的多层极限学习神经机的权重更新；该方法对于提高风电出力预测的准确可靠性，促进新能源电力系统安全、经济、高效运行具有重要意义。

Description

基于迁移学习的风电功率概率预测方法

技术领域

本发明属于对风电功率预测方法，尤其涉及一种基于迁移学习的风电功率概率预测方法。

背景技术

新能源发电功率具有较强的随机性，风电、光伏等间歇波动性电源与储能、电动汽车等主动负荷的广泛接入使电力系统的供需态势呈现较高的不确定性，给系统安全与经济运行带来了严峻的挑战。准确可靠的风电出力预测为新能源电力系统规划、运行、稳定分析与控制具有重要意义，是新能源电力系统安全、经济和高效运行的重要保障。概率预测技术通过估计预测不确定性的概率分布，实现对预测不确定性的量化分析，为新能源电力系统提供更为丰富准确的不确定性信息，因而受到广泛关注。常见的风电概率预测方法主要分为物理方法、统计学方法、人工智能方法以及混合方法。

1)物理方法

物理方法是指直接构建物理环境信息与预测对象之间的关系模型，或者将物理信息作为预测模型的主要输入变量构建预测模型。新能源电力系统供需预测受风速风向、地形条件、环境温度、太阳辐照度、云量等环境因素影响大，深度挖掘物理量与预测对象间的内在联系可以为构建准确可靠的概率预测模型提供信息支撑。基于物理方法的概率预测可通过构建物理信息与预测对象的联合概率分布、利用NWP估计预测对象功率变化等方式实现。

2)统计学方法

统计学方法为传统预测的常用方法，通过对历史记录数据的分析，建立历史数据与预测对象之间的函数模型。其中，时间序列模型是典型的统计方法，常见模型有自回归模型、移动平均模型、自回归移动平均模型、差分整合移动平均自回归模型。此外，马尔可夫链模型、指数平滑方法、卡尔曼滤波等预测方法也属于统计学方法范畴。

3)人工智能方法

随着人工智能技术与大数据的发展，基于机器学习和深度学习的方法凭借其在数据挖掘和特征提取方面的潜在能力，在概率预测中被广泛应用。常见的方法有支持向量机、前馈神经网络、长短期记忆神经网络、卷积神经网络、极限学习机等。

极限学习机(Extreme learning machine,ELM)作为一种新兴的神经网络，由于能够将复杂的训练过程转化为简单的矩阵或数学计算，从而克服了传统神经网络的局限性，如局部极小值、过度训练、计算量大等。然而，ELM的固有结构与固定网络参数会影响其回归能力和训练效率，并限制了其对时变风电输出的适应能力。因此，如何优化并确定神经网络的最优结构，从而提升系统建模精度，并根据复杂出力特性调整网络参数，存在挑战。

发明内容

本发明针对现有基于极限学习机的风电概率预测研究中的不足，提出了一种基于迁移学习的风电功率概率预测方法。该方法对于提高风电出力预测的准确可靠性，促进新能源电力系统安全、经济、高效运行具有重要意义。

本发明采用如下技术方案予以实施：

一种基于迁移学习的风电功率概率预测方法，包括如下步骤：

S1、通过迁移算法对历史时段和未来时段的风电数据进行划分构建多层极限学习神经机；

S2、通过粒子群算法对多层极限学习神经机的输出层的映射参数进行优化；

S3、通过权重优化方法对历史时段的多层极限学习神经机的训集生成权重数据集；

S4、通过权重数据集采用特征迁移算法对未来时段的多层极限学习神经机的权重更新；其中：

在权重更新过程中，以历史时段的权重数据集为源域，以未来时段的风电出力统计特性为目标域，利用联合分布适配算法最小化历史时刻与未来时刻风电出力统计特性之间的差异，从而实现不同出力特性下多层极限学习机的权重更新。

进一步，所述步骤S1中所述多层极限学习神经机构建过程：

步骤2.1选取某风电出力时段；

步骤2.2获取源域与目标域；

定义s s＝1,2,…,表示不同的阶段，则第s阶段的源域为第s-1阶段中已构建的神经网络的结构与参数，第s阶段的目标域为新构建的隐含层的权重；

步骤2.3训练目标域网络参数；

定义α_h h＝1,2,…,H代表不同的分位数水平，x_i∈Rⁿ与y_i∈R分别代表训练数据集的输入与输出，i＝1,2,…,N代表样本标号，则第s阶段的参数训练过程如式(5-1)和(5-2)所示：

其中，β^j _s,h j＝1,2,…,J代表阶段s中针对分位数水平α_h的第j个神经元的权重，β_s,h＝[β¹ _s,h,β² _s,h,..,β^J _s,h]∈R^J，J代表隐含层神经元个数；ψ^i,j _s-1,h代表针对样本i、α_h分位数水平的从s-1阶段的第j个神经元迁移到s阶段的知识ψⁱ _s-1,h＝[ψ^i,1 _s-1,h,ψ^i,2 _s-1,h,…,ψ^i,J _s-1,h]∈R^J；w代表迁移率。μ^j _h∈R为初始极限学习机的第j个隐含层神经元针对分位数水平α_h的权重，μ_h＝[μ¹ _h,μ² _h,…,μ^J _h]；a_j∈Rⁿ为初始极限学习机的输入层到隐含层第j个神经元的条件参数a＝[a₁,a₂,…,a_J]。b_j∈R表示隐含层第j个神经元的偏置值，b＝[b₁,b₂,…,b_J]；δ(.)表示激活函数；g(.)代表迁移核函数，包括全连接型核函数、融合型核函数、映射型核函数，如式(5-3)所示；

其中，f(.)代表极限学习机的映射函数，如式(5-4)所示：

步骤2.4判断是否满足终止条件：

在第s阶段迁移结束后，判断是否满足式(5-5)：

其中，ξ(s)代表第s阶段的分位数回归结果，Δ代表终止条件：

若不满足，则回到步骤2.2，进行下一阶段迁移；

若满足，则进入步骤2.1，对下一时段的风电出力数据构建多层极限学习机。

进一步，所述步骤S2中通过粒子群算法对多层极限学习神经机的输出层的映射参数进行优化过程：

步骤3.1选取最外隐含层

针对各个时段建立的多层极限学习机，选取分位数评估指标最小的阶段S_τ所建立的隐含层为最外隐含层；评估指标分别为可靠性、锐度、技能分数，如式(5-6)-(5-8)所示:

可靠性：

锐度：

技能分数：

步骤3.2优化多层极限学习机的输出映射因子:

定义最外隐含层的权重为输出映射因子，则以最小化分位数性能评价指标为目标函数，以多层极限学习机的输出层映射因子为决策变量的优化模型如式(5-10)-(5-11)所示:

进一步，所述步骤S4中通过权重数据集采用特征迁移算法对未来时段的多层极限学习神经机的权重更新过程：

步骤4.1构建源域与目标域

在权重更新过程中，以历史时段的风电出力特性——权重数据集为源域，以未来时段的风电出力统计特性为目标域；

步骤4.2计算边缘分布与条件分布差异

源域与目标域之间的边缘分布差异与条件分布差异分别如式(5-12)-(5-13)所示；

其中，Ω＝[X₁,X₂,…,X_n1+n2]代表多层极限学习机在不同时段的风电出力特性数据，W_k k＝1,2,…,n₁₊n₂代表相应的网路权重；D₁＝{(X₁,W₁),(X₂,W₂),…,(X_n1,W_n1)}代表具有n₁个时段的源域,D₂＝{(X_n1+1,W _n1+1),(X_n1+2,W_n1+2),…,(X_n1+n2,W_n1+n2)}代表具有n₂个时段的目标域；D₁ ^e and D₂ ^e e＝1,2,…,E代表D₁和D₂根据W_k的不同取值而产生的类别；n₁ ^e与n₂ ^e分别代表D₁ ^e与D₂ ^e中的时段数；E代表总类别数。A代表将[X₁,X₂,…,X_n1]与[X_n1+1,X_n1+2,…,X_n1+n2]转换到满足相同分布的空间的特征转换矩阵；M₀与M_e的p行q列的元素如式(5-14)-(5-15)所示：

步骤4.4构建权重更新目标函数

根据式(5-12)-(5-15)，可构建权重更新目标函数如式(5-16)所示。

其中，Φ为拉格朗日乘子；Λ＝I-1*[1/(n₁+n₂)],ΩΛΩ^T代表协方差矩阵.1是元素为1的(n₁+n₂)×(n₁+n₂)矩阵；I代表单位矩阵。

步骤4.5对目标函数求偏导，计算特征转换矩阵，实现权重更新

有益效果

极限学习机作为一种新兴的神经网络，由于能够将复杂的训练过程转化为简单的矩阵或数学计算，从而克服了传统神经网络的局限性，如局部极小值、过度训练、计算量大等。然而，极限学习机的固有结构与固定网络参数会影响其回归能力和训练效率，并限制了其对时变风电输出的适应能力。因此，如何优化并确定神经网络的最优结构，从而提升系统建模精度，并根据复杂出力特性调整网络参数，存在挑战。

本发明针对现有风电预测研究的不足，提出了一种基于迁移学习的风电概率预测方法。引入基于模型的迁移学习方法扩展极限学习机的网络结构，构建多层极限学习机；以最小化分位数性能评价指标为目标，采用粒子群算法进一步优化多层极限学习机参数；针对时变风电出力特性，提出了基于特征迁移的网络权重优化方法，以历史时刻神经网络的权重为训练集，利用联合分布适配算法最小化历史时刻与未来时刻风电出力统计特性之间的差异，从而实现不同出力特性下多层极限学习机的权重更新。

附图说明

图1是本发明一种基于迁移学习的风电功率概率预测方法流程图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面将结合附图与实例对本发明做详细的论述，以下实施例只是描述性的，不是限定性的，不能以此限定本发明的保护范围。

如图1所示，本发明提交一种基于迁移学习的风电功率概率预测方法，包括如下步骤：

步骤(1)获取风电出力数据

采集风电出力数据，根据不同时段对数据进行划分。

步骤(2)基于模型迁移算法构建多层极限学习机

针对不同时段的风电采集数据，利用基于模型的迁移学习方法，分别建立多层极限学习神经机。具体地，引入多阶段迁移的思想，通过在各个阶段迁移已有参数，并构建新的隐含层，不断扩展极限学习机的网络结构；在此基础上，对目标域神经网络中的未知参数进行训练。同时，为了提高计算效率并避免负迁移，建立了迁移终止条件。

引入多阶段迁移的思想，分别针对每个时段的风电出力数据，构建并训练多层极限学习机，具体迁移过程如下：

步骤2.1选取某风电出力时段

步骤2.2获取源域与目标域

定义s s＝1,2,…,表示不同的阶段，则第s阶段的源域为第s-1阶段中已构建的神经网络的结构与参数，第s阶段的目标域为新构建的隐含层的权重。

步骤2.3训练目标域网络参数

定义α_h h＝1,2,…,H代表不同的分位数水平，x_i∈Rⁿ与y_i∈R分别代表训练数据集的输入与输出，i＝1,2,…,N代表样本标号，则第s阶段的参数训练过程如式(5-1)和(5-2)所示。

其中，β^j _s,h j＝1,2,…,J代表阶段s中针对分位数水平α_h的第j个神经元的权重，β_s,h＝[β¹ _s,h,β² _s,h,..,β^J _s,h]∈R^J，J代表隐含层神经元个数。ψ^i,j _s-1,h代表针对样本i、α_h分位数水平的从s-1阶段的第j个神经元迁移到s阶段的知识。ψⁱ _s-1,h＝[ψ^i,1 _s-1,h,ψ^i,2 _s-1,h,…,ψ^i,J _s-1,h]∈R^J。w代表迁移率。μ^j _h∈R为初始极限学习机的第j个隐含层神经元针对分位数水平α_h的权重，μ_h＝[μ¹ _h,μ² _h,…,μ^J _h]。a_j∈Rⁿ为初始极限学习机的输入层到隐含层第j个神经元的条件参数a＝[a₁,a₂,…,a_J]。b_j∈R表示隐含层第j个神经元的偏置值，b＝[b₁,b₂,…,b_J]；δ(.)表示激活函数。g(.)代表迁移核函数，包括全连接型核函数、融合型核函数、映射型核函数，如式(5-3)所示。

其中，f(.)代表极限学习机的映射函数，如式(5-4)所示。

步骤2.4判断是否满足终止条件

在第s阶段迁移结束后，判断是否满足式(5-5)。

其中，ξ(s)代表第s阶段的分位数回归结果，Δ代表终止条件。

若不满足，则回到步骤2.2，进行下一阶段迁移。

若满足，则进入步骤2.1，对下一时段的风电出力数据构建多层极限学习机。

步骤(3)基于粒子群算法优化多层极限学习机的参数

在步骤(2)的基础上，以最小化分位数性能评价指标为目标函数，以多层极限学习机的输出层映射因子为决策变量，采用粒子群算法进一步提升多层极限学习机的非线性分位数拟合能力。

步骤3.1选取最外隐含层

针对各个时段建立的多层极限学习机，选取分位数评估指标最小的阶段S_τ所建立的隐含层为最外隐含层。评估指标分别为可靠性、锐度、技能分数，如式(5-6)-(5-8)所示。

可靠性：

锐度：

技能分数：

步骤3.2优化多层极限学习机的输出映射因子

定义最外隐含层的权重为输出映射因子，则以最小化分位数性能评价指标为目标函数，以多层极限学习机的输出层映射因子为决策变量的优化模型如式(5-10)-(5-11)所示。

步骤(4)基于特征迁移算法更新多层极限学习机的权重

针对历史时段，建立多层极限学习机的权重数据集。在权重更新过程中，以历史时段的权重数据集为源域，以未来时段的风电出力统计特性为目标域，利用联合分布适配算法最小化历史时刻与未来时刻风电出力统计特性之间的差异，从而实现不同出力特性下多层极限学习机的权重更新。然后利用基于特征的迁移学习中的联合分布适应算法，减少源域和目标域之间的边缘分布和条件分布之间的差异，以更新新场景的多层神经网络的权重和结构。

步骤4.1构建源域与目标域

针对历史时段，建立多层极限学习机的权重数据集。在权重更新过程中，以历史时段的风电出力特性——权重数据集为源域，以未来时段的风电出力统计特性为目标域。

步骤4.2计算边缘分布与条件分布差异

源域与目标域之间的边缘分布差异与条件分布差异分别如式(5-12)-(5-13)所示。

其中，Ω＝[X₁,X₂,…,X_n1+n2]代表多层极限学习机在不同时段的风电出力特性数据，W_k k＝1,2,…,n₁₊n₂代表相应的网路权重。D₁＝{(X₁,W₁),(X₂,W₂),…,(X_n1,W_n1)}代表具有n₁个时段的源域,D₂＝{(X_n1+1,W_n1+1),(X_n1+2,W_n1+2),…,(X_n1+n2,W_n1+n2)}代表具有n₂个时段的目标域。D₁ ^e and D₂ ^e e＝1,2,…,E代表D₁和D₂根据W_k的不同取值而产生的类别。n₁ ^e与n₂ ^e分别代表D₁ ^e与D₂ ^e中的时段数。E代表总类别数。A代表将[X₁,X₂,…,X_n1]与[X_n1+1,X_n1+2,…,X_n1+n2]转换到满足相同分布的空间的特征转换矩阵。M₀与M_e的p行q列的元素如式(5-14)-(5-15)所示。

步骤4.4构建权重更新目标函数

根据式(5-12)-(5-15)，可构建权重更新目标函数如式(5-16)所示。

其中，Φ为拉格朗日乘子。Λ＝I-1*[1/(n₁+n₂)],ΩΛΩ^T代表协方差矩阵.1是元素为1的(n₁+n₂)×(n₁+n₂)矩阵。I代表单位矩阵。

步骤4.5对目标函数求偏导，计算特征转换矩阵，实现权重更新

本发明并不限于上文描述的实施方式。以上对具体实施方式的描述旨在描述和说明本发明的技术方案，上述的具体实施方式仅仅是示意性的，并不是限制性的。在不脱离本发明宗旨和权利要求所保护的范围情况下，本领域的普通技术人员在本发明的启示下还可做出很多形式的具体变换，这些均属于本发明的保护范围之内。

Claims (4)

1.一种基于迁移学习的风电功率概率预测方法，其特征在于：包括如下步骤：

S1、通过迁移算法对历史时段和未来时段的风电数据进行划分构建多层极限学习神经机；

S2、通过粒子群算法对多层极限学习神经机的输出层的映射参数进行优化；

S3、通过权重优化方法对历史时段的多层极限学习神经机的训集生成权重数据集；

S4、通过权重数据集采用特征迁移算法对未来时段的多层极限学习神经机的权重更新；其中：

在未来时段的多层极限学习神经机的权重更新过程中，以历史时段的权重数据集为源域，以未来时段的风电出力统计特性为目标域，利用联合分布适配算法最小化历史时刻与未来时刻风电出力统计特性之间的差异，从而实现不同出力特性下多层极限学习机的权重更新。

2.根据权利要求1所述的一种基于迁移学习的风电功率概率预测方法，其特征在于：所述步骤S1中所述多层极限学习神经机构建过程：

步骤2.1选取某风电出力时段；

步骤2.2获取源域与目标域；

定义s s＝1,2,…,表示不同的阶段，则第s阶段的源域为第s-1阶段中已构建的神经网络的结构与参数，第s阶段的目标域为新构建的隐含层的权重；

步骤2.3训练目标域网络参数；

定义α_h h＝1,2,…,H代表不同的分位数水平，x_i∈Rⁿ与y_i∈R分别代表训练数据集的输入与输出，i＝1,2,…,N代表样本标号，则第s阶段的参数训练过程如式(5-1)和(5-2)所示：

其中，β^j _s,h j＝1,2,…,J代表阶段s中针对分位数水平α_h的第j个神经元的权重，β_s,h＝[β¹ _s,h,β² _s,h,..,β^J _s,h]∈R^J，J代表隐含层神经元个数；ψ^i,j _s-1,h代表针对样本i、α_h分位数水平的从s-1阶段的第j个神经元迁移到s阶段的知识ψⁱ _s-1,h＝[ψ^i,1 _s-1,h,ψ^i,2 _s-1,h,…,ψ^i,J _s-1,h]∈R^J；w代表迁移率；μ^j _h∈R为初始极限学习机的第j个隐含层神经元针对分位数水平α_h的权重，μ_h＝[μ¹ _h,μ² _h,…,μ^J _h]；a_j∈Rⁿ为初始极限学习机的输入层到隐含层第j个神经元的条件参数a＝[a₁,a₂,…,a_J]。b_j∈R表示隐含层第j个神经元的偏置值，b＝[b₁,b₂,…,b_J]；δ(.)表示激活函数；g(.)代表迁移核函数，包括全连接型核函数、融合型核函数、映射型核函数，如式(5-3)所示：

其中，f(.)代表极限学习机的映射函数，如式(5-4)所示：

步骤2.4判断是否满足终止条件，

在第s阶段迁移结束后，判断是否满足式(5-5)：

其中，ξ(s)代表第s阶段的分位数回归结果，Δ代表终止条件；

若不满足，则回到步骤2.2，进行下一阶段迁移；

若满足，则进入步骤2.1，对下一时段的风电出力数据构建多层极限学习机。

3.根据权利要求1所述的一种基于迁移学习的风电功率概率预测方法，其特征在于：所述步骤S2中通过粒子群算法对多层极限学习神经机的输出层的映射参数进行优化过程：

步骤3.1选取最外隐含层

针对各个时段建立的多层极限学习机，选取分位数评估指标最小的阶段S_τ所建立的隐含层为最外隐含层；评估指标分别为可靠性、锐度、技能分数，如式(5-6)-(5-8)所示：

可靠性：

锐度：

技能分数：

步骤3.2优化多层极限学习机的输出映射因子：

定义最外隐含层的权重为输出映射因子，则以最小化分位数性能评价指标为目标函数，以多层极限学习机的输出层映射因子为决策变量的优化模型如式(5-10)-(5-11)所示。

4.根据权利要求1所述的一种基于迁移学习的风电功率概率预测方法，其特征在于：所述步骤S4中通过权重数据集采用特征迁移算法对未来时段的多层极限学习神经机的权重更新过程：

步骤4.1构建源域与目标域

在权重更新过程中，以历史时段的风电出力特性——权重数据集为源域，以未来时段的风电出力统计特性为目标域；

步骤4.2计算边缘分布与条件分布差异

源域与目标域之间的边缘分布差异与条件分布差异分别如式(5-12)-(5-13)所示；

其中，Ω＝[X₁,X₂,…,X_n1+n2]代表多层极限学习机在不同时段的风电出力特性数据，W_kk＝1,2,…,n₁₊n₂代表相应的网路权重；D₁＝{(X₁,W₁),(X₂,W₂),…,(X_n1,W_n1)}代表具有n₁个时段的源域,D₂＝{(X_n1+1,W_n1+1),(X_n1+2,W_n1+2),…,(X_n1+n2,W_n1+n2)}代表具有n₂个时段的目标域；D₁ ^e and D₂ ^e e＝1,2,…,E代表D₁和D₂根据W_k的不同取值而产生的类别；n₁ ^e与n₂ ^e分别代表D₁ ^e与D₂ ^e中的时段数；E代表总类别数；A代表将[X₁,X₂,…,X_n1]与[X_n1+1,X_n1+2,…,X_n1+n2]转换到满足相同分布的空间的特征转换矩阵；M₀与M_e的p行q列的元素如式(5-14)-(5-15)所示：

步骤4.4构建权重更新目标函数：

根据式(5-12)-(5-15)，可构建权重更新目标函数如式(5-16)所示：

其中，Φ为拉格朗日乘子；Λ＝I-1*[1/(n₁+n₂)],ΩΛΩ^T代表协方差矩阵.1是元素为1的(n₁+n₂)×(n₁+n₂)矩阵；I代表单位矩阵。

步骤4.5对目标函数求偏导，计算特征转换矩阵，实现权重更新

Images