CN115689062A

CN115689062A - 一种基于快速在线迁移神经网络的光伏输出功率预测方法

Info

Publication number: CN115689062A
Application number: CN202211713246.4A
Authority: CN
Inventors: 陈博; 刘炯; 王剑斌; 杨望卓; 沈怡俊
Original assignee: Zhejiang University of Technology ZJUT
Current assignee: Zhejiang University of Technology ZJUT
Priority date: 2022-12-30
Filing date: 2022-12-30
Publication date: 2023-02-03
Anticipated expiration: 2042-12-30
Also published as: CN115689062B

Abstract

本发明公开了一种基于快速在线迁移神经网络的光伏输出功率预测方法，所述方法包括获取两不同地域的在预设历史时间段内的光伏输出功率、气象数据、光伏发电设备数据，分别作为源域数据与目标域数据，并进行相关性分析以对源域数据与目标域数据进行筛选；将源域数据和部分目标域数据分别输入至源域模型和目标域模型进行训练，从训练好的源域模型和目标域模型中提取通用特征；构建光伏输出功率预测模型，对通用特征进行预测回归，预测得到光伏输出数据。本发明降低了光伏输出功率预测模型的训练成本，使得模型在缺乏历史功率输出数据的场景下高效地预测光伏输出功率。

Description

一种基于快速在线迁移神经网络的光伏输出功率预测方法

技术领域

本发明属于电网技术领域，尤其涉及一种基于快速在线迁移神经网络的光伏输出功率预测方法。

背景技术

随着能源结构的改善、生态环境的保护，光伏发电等可再生能源在整个能源体系中的占比逐步提升。考虑到电网对并入设备的稳定性要求与光伏发电不稳定的发电量规律，预测光伏发电的输出功率对保证电网安全、提升能源利用率等方面有着极大的应用意义。在此背景下，除了使用传统的机理模型预测光伏发电量外，深度神经网络成为能源预测领域的主流方法。注意到，多层感知机可以找到数据特征之间的关联以实时预测光伏发电量，长短期记忆模型通过历史数据预测未来某一时刻或某一时间段内的光伏发电量。然而，这些深度网络的训练过程中存在明显的不足：a) 在深度神经网络模型训练过程中，需要使用大量历史数据拟合模型；b) 在实际场景下，影响光伏输出功率的因素众多，难以选取合适的特征用于模型训练。特别地，当预测新建立的光伏发电设备的输出功率时，由于缺乏历史数据，上述的通用模型难以快速应用于新设备的预测任务中。

发明内容

为了在缺乏历史数据的场景下快速实现光伏输出功率的预测，本发明提出了一种基于快速在线迁移神经网络的光伏输出功率预测方法，用于转移其他模型中的通用特征，构建光伏输出功率预测模型对通用特征进行预测回归，预测得到光伏输出数据。

为达到以上效果，本发明采用的技术方案如下：

本发明实施例的第一方面提供了一种基于快速在线迁移神经网络的光伏输出功率预测方法，所述方法具体包括以下子步骤：

S1：获取两不同地域的在预设历史时间段内的光伏输出功率、气象数据、光伏发电设备数据，分别作为源域数据与目标域数据，并进行相关性分析以对源域数据与目标域数据进行筛选；

S2：将源域数据和部分目标域数据分别输入至源域模型和目标域模型进行训练，从训练好的源域模型和目标域模型中提取通用特征；

S3：构建光伏输出功率预测模型，对步骤S2得到的通用特征进行预测回归，预测得到光伏输出数据。

本发明实施例的第二方面提供了一种电子设备，包括存储器和处理器，所述存储器与所述处理器耦接；其中，所述存储器用于存储程序数据，所述处理器用于执行所述程序数据以实现上述的基于快速在线迁移神经网络的光伏输出功率预测方法。

本发明实施例的第三方面提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现上述的基于快速在线迁移神经网络的光伏输出功率预测方法。

与现有方法相比，本发明的有益效果主要体现在：本发明提出了一种基于快速在线迁移学习神经网络的光伏输出功率预测方法；获取两不同地域的在预设历史时间段内的光伏输出功率、气象数据、光伏发电设备数据，分别作为源域数据与目标域数据，并进行相关性分析以选取合适的输入特征；利用在线迁移方法，提取通用特征；接着，将转移后的通用特征输入光伏输出功率预测模型，用于预测光伏输出。本发明降低了光伏输出功率预测模型的训练成本，使得模型在缺乏历史功率输出数据的场景下高效地预测光伏输出功率。最后，实验表明，本发明方法与现有的方法相比，在保证精度相近的情况下，极大减少了训练成本与训练时间。

附图说明

图1为本发明方法的流程图；

图2为源域数据与目标域数据分布情况的示意图；

图3为本发明方法的流程结构与数据变化示意图；

图4为快速在线迁移部分的示意图；

图5为基于快速在线迁移神经网络的光伏输出功率预测方法的性能；

图6为本发明实施例提供的一种电子设备的示意图。

具体实施方式

为使本发明的实施例的目的、设计思路、技术方案更加清晰，下面结合附图对本发明做进一步说明。

参照图1所示，本发明提出了一种基于快速在线迁移神经网络的光伏输出功率预测方法，所述方法包括如下步骤：

步骤S1：获取两不同地域的在预设历史时间段内的光伏输出功率、气象数据、光伏发电设备数据，分别作为源域数据与目标域数据，并对源域数据与目标域数据进行相关性分析以筛选出与光伏输出功率相关度高的数据，并剔除冗余数据。

其中，气象数据包括斜面辐射、散射辐射、直接辐射、环境温度、大气压力、大气湿度；所述光伏发电设备数据包括背板温度。

对源域数据与目标域数据进行相关性分析的过程包括：

使用皮尔逊相关系数度量源域数据与目标域数据的相关度与冗余量，公式如下：

其中，x，y均为向量；x _i ，y _i分别为x，y中的第i个值；

分别为x，y的均值；n为向量的维数。

皮尔逊相关系数为向量间的协方差与各个向量的标准差的积之比，用于度量向量之间的相关程度。当相关系数为0时，x和y两向量不相关；当x的值增大（减小），y值减小（增大），x和y两向量负相关，相关系数为-1到0；当x的值增大（减小），y值增大（减小），x和y两向量正相关，相关系数为0到+1。

如图2所示，分析源域数据与目标域数据之间数值分布的差距，同时考虑各个特征上数据的相关程度。图2中的 (a) - (g) 展示了源域数据与目标域数据的各个特征在概率分布上的区别；图2中的(h)展示了源域数据各个特征之间的相关程度；图2中的(i)展示了目标域数据各个特征之间的相关程度。

示例性地，根据图2中的信息，可以从已有的7维特征数据（斜面辐射、散射辐射、直接辐射、环境温度、大气压力、大气湿度和背板温度）中，分析数值分布情况，选择与光伏输出功率相关度高的特征，同时保证输入的特征数据中的冗余较少。在本实例中，选择其中5维特征数据（斜面辐射、环境温度、大气压力、大气湿度和背板温度）作为输入。由于前3维特征数据（斜面辐射、散射辐射、直接辐射）的相关度极高，可以认为信息高度重叠，即有冗余信息存在。

步骤S2：将源域数据和部分目标域数据分别输入至源域模型和目标域模型进行训练，从训练好的源域模型和目标域模型中提取通用特征，从训练好的源域模型和目标域模型中提取通用特征。

步骤S201：将步骤S1得到的源域数据输入至源域模型进行训练以获得高维的源域数据矩阵。

所述源域模型为自编码器中的编码模块，以保证源域模型输出的源域数据矩阵保留了源域数据的全部信息。

步骤S202：将步骤S1得到的部分目标域数据输入至目标域模型进行训练以获得高维的第一目标域数据矩阵。

特别地，目标域数据是以流式的形式输入至目标域模型。

所述目标域模型为自编码器中的编码模块，在目标域模型训练的过程中，还需要度量源域数据与目标域数据之间的距离，以保证目标域模型输出的目标域数据矩阵与源域数据矩阵分布相似，且同时保留了目标域数据的全部信息。

在本实例中，选用最大均值差异度量源域数据与目标域数据在再生核希尔伯特空间上的距离，公式如下：

其中，x，y分别为源域数据矩阵和第一目标域数据矩阵；

为映射函数，将数值映射到再生核希尔伯特空间；n，m为x，y中的样本数量；

为再生核希尔伯特空间下的l2 范数的平方。

步骤S203：将步骤S1输出的目标域数据输入训练好的源域模型、目标域模型，得到通用特征。公式如下：

式中，y为提取的通用特征，x为输入的目标域数据，

为训练好的源域模型，

为训练好的目标域模型，

为训练好的源域模型对应的权重系数，

为训练好的目标域模型对应的权重系数：

其中，

，

满足：

其中，

表示模型准确度（在本实例中选用R²决定系数），用于度量模型输出值与真实值之间的差距，数值为0到1；k表示第k个训练轮次，即模型在第k+1个训练轮次时，其权重参数

与

仅与第k个回合时的模型准确度

与

相关。这种权重更新方式可以保证权重值更新仅与模型准确度相关。通过这种方式实现模型知识迁移，可以保证知识能够得到最大程度的应用，尤其在目标域模型未能学习得到足够多的信息时，能使模型快速投入使用，是高效且有价值的。

因此，在步骤S2中通过将源域数据和部分目标域数据分别输入至源域模型和目标域模型进行训练，从训练好的源域模型和目标域模型中以提取通用特征，并迁移到目标域模型中以辅助目标域模型快速学习通用特征。在知识迁移特征转移的过程中，将目标域数据中的分布经知识转移重构为与源域数据分布相似的数据集。因此，可以将问题从训练一个需要从零开始的模型转化为微调源域数据训练的光伏输出功率预测模型，极大地降低了模型训练成本。相比较于从零训练的模型，在训练所需数据量、训练时长与训练效率等方面有着极大的优势。

如图3所示，特征转移后，源域数据和目标域数据中的信息被映射到另一些维度上。此时，这些信息没有损失，而且能够辅助构建起更有效的光伏输出功率预测模型。图4展示了源域模型、目标域模型、光伏输出功率预测模型与数据维度的变化情况。其中，源域模型、目标域模型与光伏输出功率预测模型均可按数据情况、目标需求等因素进行调整，以高效、准确地完成预测任务。

如图4所示，本发明中的快速在线迁移的映射部分由源域模型、目标域模型两部分组成。其中，源域模型与目标域模型的结构相同，均等同于自编码器（Autoencoder）的编码部分（Encoder）。特别的，利用自编码器可以保证模型内的任意一个输出信息能够还原为输入信息，即保证了任意步骤的输出数据中包含的信息是完整的。将步骤S1提取出的5维数据以尺寸为（5,1）的矩阵形式输入源域模型，经过源域模型中第一层全连接层（FullyConnected Layers，FC）后，得到尺寸为（64,1）的矩阵；将该尺寸为（64,1）的矩阵输入至源域模型第二层全连接层，得到尺寸为（32,1）的矩阵；将该尺寸为（32,1）的矩阵输入至源域模型第三层全连接层，得到尺寸为（25,1）的矩阵，输出作为源域模型的输出矩阵。将步骤S1提取出的5维数据以尺寸为（5,1）的矩阵形式输入目标域模型，经过目标域模型中第一层全连接层后，得到尺寸为（64,1）的矩阵；将该尺寸为（64,1）的矩阵输入至目标域模型第二层全连接层，得到尺寸为（32,1）的矩阵；将该尺寸为（32,1）的矩阵输入至目标域模型第三层全连接层，得到尺寸为（25,1）的矩阵，输出作为目标域模型的输出矩阵。将源域模型的输出矩阵与目标域模型的输出矩阵同时通过一个全连接层，输出尺寸为（25,1）的映射特征，作为步骤S3中光伏输出功率预测模型的输入。为了防止上述模型出现过拟合的情况，设置各个全连接层在训练过程中的随机丢弃值（dropout）为0.15。

步骤3：构建光伏输出功率预测模型，对步骤S2得到的通用特征进行预测回归，获得光伏输出数据。

所述光伏输出功率预测模型选自多层感知机、长短期记忆模型。

在对步骤S2得到的通用特征进行预测回归的过程中，还包括对光伏输出功率预测模型的训练，以达到与源域模型性能相近的效果，具体为：

在光伏输出功率预测模型训练的过程中，将步骤S2得到的通用特征输入至光伏输出功率预测模型，选择将光伏功率预测输出作为光伏输出功率预测模型输出，选用均方根误差作为损失函数，选用决定系数（R-square）作为模型性能度量指标。

其中，均方根误差的公式为：

其中，y表示真实的光伏输出数据；

表示光伏输出功率预测模型预测的光伏输出数据；n表示真实的光伏输出数据的数量；

分别表示第i个真实的光伏输出数据与模型预测的光伏输出数据；

用于度量模型复杂度；

为权重系数。

使用均方根误差作为损失函数，重点关注光伏输出功率预测模型预测值的准确度，可以极大程度地减小光伏输出功率预测模型的预测损失。同时，在损失函数中加入光伏输出功率预测模型复杂度，保证光伏输出功率预测模型不出现过拟合现象。损失函数越接近0，表示网络预测值越接近真值。本发明中选用R²决定系数表征模型准确度，公式如下：

其中y表示真实的光伏输出数据；

分别表示第i个真实的光伏输出数据与光伏输出功率预测模型预测的光伏输出数据；

表示真实的光伏输出数据均值。

决定系数为回归平方和与总离差平方和之比。回归平方和表示估计值与平均值的误差，反映自变量与因变量之间的相关程度的偏差平方和；总离差平方和表示平均值与真实值的误差，反映与数学期望的偏离程度。使用决定系数作为模型性能度量指标，使得网络预测值的分布更接近真值分布，也可以将决定系数视为第二损失函数。当决定系数为0时，样本的每项预测值都等于均值；当决定系数为1时，样本中预测值和真实值完全相等，表示回归分析中自变量对因变量的解释越好；决定系数越接近1时，表示模型性能越优秀。

在光伏输出功率预测模型的训练过程中，考虑到在实际光伏输出功率预测场景下的光伏输出功率预测模型快速应用需求，需要考虑光伏输出功率预测模型训练过程中的提前停止需求。本发明中设立了一个提前停止法则，定义如下：

其中，p为超参数，且k＞p；l _k为第k个损失函数；l为p个损失函数的集合，l={l ₀ , l ₁ ,…,l _k}；

表示采用ReLU函数作为激活函数，保证提前停止法则的有效性。考虑第k个损失函数与第k-p个到第k-1个损失函数之间的关系，保证损失函数是总体下降的，则继续训练；反之，则停止训练并保存输出的光伏输出功率预测模型。

在实际光伏输出功率预测场景中，光伏输出数据的数值随时间有着明显的变化。若仅使用均方根误差作为损失函数的情况下，模型训练过程中损失函数值下降速率不稳定，使用传统的提前停止法则容易发生误判。特别的，当光伏输出功率预测模型接近收敛时，损失函数值的变化会由于下降速率不稳定难以判断是否已经收敛，导致训练停止时的光伏输出功率预测模型不一定是训练过程中的最优光伏输出功率预测模型。在本发明中设立的提前停止法则中包含了对各个损失函数值进行归一化处理的过程，保证在一定迭代回合数内的损失函数值下降速率趋近稳定，即通过数据处理使传统的提前停止方法能够规避损失函数值下降速率不稳定的影响，保证训练结束时的光伏输出功率预测模型是最优的。

本发明采用的光伏输出功率预测示例说明了基于快速在线迁移神经网络的光伏输出功率预测方法的有效性。图5展示了基于快速在线迁移神经网络的光伏输出功率预测方法的性能。图5中的(a)展示了预测模型训练过程中，各种方法的损失函数下降速度，其中，直线为发明中提出的方法，其余虚线、点划线为对比用的基线算法；图5中的(b)展示了预测模型训练过程中，各种方法的准确度提升速度，其中，直线为发明中提出的方法，其余虚线、点划线为对比用的基线算法；图5中的(c)展示了发明方法的对光伏发电量的预测效果；图5中的(d)展示了使用长短期记忆模型作为光伏输出功率预测模型时，预测模型的准确度提升速度，其中直线为本发明中提出的方法，虚线为直接使用长短期记忆模型训练时的准确度提升速度。特别要说明的是，使用长短期记忆模型预测光伏发电量时，训练数据量要求会大大增加，训练速度会大幅减慢，因此，些许的提升对训练成本的减少都是必要的。从结果来看，本发明提出的基于快速在线迁移神经网络的光伏输出功率预测方法，针对缺乏历史功率输出数据的光伏发电设备的功率预测问题，在训练时间等方面有着明显的优势。同时，经过实验验证，该方法在不同预测模型，例如长短期记忆模型等优秀的预测模型下性能都较为优秀。

相应的，本申请还提供一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个程序；当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如上述的基于快速在线迁移神经网络的光伏输出功率预测方法。如图6所示，为本发明实施例提供的基于快速在线迁移神经网络的光伏输出功率预测方法所在任意具备数据处理能力的设备的一种硬件结构图，除了图6所示的处理器、内存以及网络接口之外，实施例中装置所在的任意具备数据处理能力的设备通常根据该任意具备数据处理能力的设备的实际功能，还可以包括其他硬件，对此不再赘述。

相应的，本申请还提供一种计算机可读存储介质，其上存储有计算机指令，该指令被处理器执行时实现如上述的基于快速在线迁移神经网络的光伏输出功率预测方法。所述计算机可读存储介质可以是前述任一实施例所述的任意具备数据处理能力的设备的内部存储单元，例如硬盘或内存。所述计算机可读存储介质也可以是外部存储设备，例如所述设备上配备的插接式硬盘、智能存储卡（Smart Media Card，SMC）、SD卡、闪存卡（Flash Card）等。进一步的，所述计算机可读存储介还可以既包括任意具备数据处理能力的设备的内部存储单元也包括外部存储设备。所述计算机可读存储介质用于存储所述计算机程序以及所述任意具备数据处理能力的设备所需的其他程序和数据，还可以用于暂时地存储已经输出或者将要输出的数据。

本领域技术人员在考虑说明书及实践这里公开的内容后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的。

应当理解的是，本申请并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。

Claims

1.一种基于快速在线迁移神经网络的光伏输出功率预测方法，其特征在于，所述方法具体包括以下子步骤：

2.根据权利要求1所述的基于快速在线迁移神经网络的光伏输出功率预测方法，其特征在于，所述气象数据包括斜面辐射、散射辐射、直接辐射、环境温度、大气压力、大气湿度；所述光伏发电设备数据包括背板温度。

3.根据权利要求1所述的基于快速在线迁移神经网络的光伏输出功率预测方法，其特征在于，进行相关性分析以对源域数据与目标域数据进行筛选的过程包括：使用皮尔逊相关系数度量源域数据与目标域数据的相关度与冗余量，并据此选取源域数据与目标域数据的维度。

4.根据权利要求1所述的基于快速在线迁移神经网络的光伏输出功率预测方法，其特征在于，所述步骤S2具体包括以下子步骤：

S201：将源域数据输入至源域模型进行训练以获得源域数据矩阵；

S202：将部分目标域数据输入至目标域模型进行训练以获得目标域数据矩阵；

S203：将目标域数据输入步骤201训练好的源域模型和步骤202训练好的目标域模型中，提取通用特征。

5.根据权利要求4所述的基于快速在线迁移神经网络的光伏输出功率预测方法，其特征在于，所述步骤S202中，部分目标域数据以流式的形式输入至目标域模型；

在目标域模型训练的过程中还包括：度量源域数据与目标域数据之间的距离，使得目标域模型输出的目标域数据矩阵与源域数据矩阵分布相似，且同时保留目标域数据的全部信息。

6.根据权利要求4所述的基于快速在线迁移神经网络的光伏输出功率预测方法，其特征在于，所述步骤S203中，提取的通用特征满足：

式中，y为提取的通用特征，x为输入的目标域数据，

为训练好的源域模型，

为训练好的目标域模型，

为训练好的源域模型对应的权重系数，

为训练好的目标域模型对应的权重系数；

其中，

，

满足：

式中，

表示模型准确度，k表示第k个训练轮次。

7.根据权利要求1所述的基于快速在线迁移神经网络的光伏输出功率预测方法，其特征在于，所述步骤S3中构建的光伏输出功率预测模型对步骤S2得到的通用特征进行预测回归的过程中包括：对光伏输出功率预测模型的训练过程；在光伏输出功率预测模型的训练过程中，将步骤2得到的通用特征输入至光伏输出功率预测模型，选择将光伏功率预测输出作为光伏输出功率预测模型的输出，选用均方根误差作为损失函数，选用R²决定系数作为光伏输出功率预测模型性能度量指标。

8.根据权利要求7所述的基于快速在线迁移神经网络的光伏输出功率预测方法，其特征在于，在光伏输出功率预测模型的训练过程中还包括：设置提前停止法则；

所述提前停止法则的定义公式如下：

其中，p为超参数，且k＞p；l _k为第k个损失函数；l为p个损失函数的集合，l={l ₀ ,l ₁ ,…, l _k}；

表示采用ReLU函数作为激活函数；考虑第k个损失函数与第k-p个到第k-1个损失函数之间的关系，保证损失函数是总体下降的，则继续训练；反之，则停止训练并保存输出的光伏输出功率预测模型。

9.一种电子设备，包括存储器和处理器，其特征在于，所述存储器与所述处理器耦接；其中，所述存储器用于存储程序数据，所述处理器用于执行所述程序数据以实现上述权利要求1-8任一项所述的基于快速在线迁移神经网络的光伏输出功率预测方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-8中任一所述的基于快速在线迁移神经网络的光伏输出功率预测方法。