CN112149879A - 一种计及宏观波动性分类的新能源中长期电量预测方法 - Google Patents
一种计及宏观波动性分类的新能源中长期电量预测方法 Download PDFInfo
- Publication number
- CN112149879A CN112149879A CN202010910670.2A CN202010910670A CN112149879A CN 112149879 A CN112149879 A CN 112149879A CN 202010910670 A CN202010910670 A CN 202010910670A CN 112149879 A CN112149879 A CN 112149879A
- Authority
- CN
- China
- Prior art keywords
- electric quantity
- new energy
- neural network
- lstm
- fluctuation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 62
- 238000013528 artificial neural network Methods 0.000 claims abstract description 45
- 230000007774 longterm Effects 0.000 claims abstract description 37
- 239000011159 matrix material Substances 0.000 claims abstract description 36
- 238000012937 correction Methods 0.000 claims abstract description 16
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 14
- 230000008569 process Effects 0.000 claims abstract description 14
- 239000002131 composite material Substances 0.000 claims abstract description 9
- 238000012549 training Methods 0.000 claims description 19
- 239000013598 vector Substances 0.000 claims description 19
- 238000013138 pruning Methods 0.000 claims description 12
- 230000007246 mechanism Effects 0.000 claims description 11
- 238000012217 deletion Methods 0.000 claims description 9
- 230000037430 deletion Effects 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 5
- 238000009826 distribution Methods 0.000 claims description 5
- 238000003062 neural network model Methods 0.000 claims description 5
- 210000002569 neuron Anatomy 0.000 claims description 4
- 230000008685 targeting Effects 0.000 claims description 4
- 238000004140 cleaning Methods 0.000 claims description 3
- 238000000605 extraction Methods 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 3
- 230000010355 oscillation Effects 0.000 claims description 3
- 238000011176 pooling Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- ZLIBICFPKPWGIZ-UHFFFAOYSA-N pyrimethanil Chemical compound CC1=CC(C)=NC(NC=2C=CC=CC=2)=N1 ZLIBICFPKPWGIZ-UHFFFAOYSA-N 0.000 claims description 3
- 230000000306 recurrent effect Effects 0.000 claims description 3
- 238000005070 sampling Methods 0.000 claims description 3
- 238000005457 optimization Methods 0.000 claims description 2
- 238000012216 screening Methods 0.000 claims description 2
- 230000002159 abnormal effect Effects 0.000 description 9
- 230000000875 corresponding effect Effects 0.000 description 9
- 230000008859 change Effects 0.000 description 5
- 238000010248 power generation Methods 0.000 description 5
- 238000012795 verification Methods 0.000 description 5
- 230000000737 periodic effect Effects 0.000 description 4
- 125000004122 cyclic group Chemical group 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 230000002349 favourable effect Effects 0.000 description 2
- 230000001932 seasonal effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000004873 anchoring Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000036962 time dependent Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2474—Sequence data queries, e.g. querying versioned data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/06—Energy or water supply
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Economics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Strategic Management (AREA)
- Databases & Information Systems (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Quality & Reliability (AREA)
- General Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Public Health (AREA)
- Fuzzy Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Primary Health Care (AREA)
- Development Economics (AREA)
- Game Theory and Decision Science (AREA)
- Entrepreneurship & Innovation (AREA)
- Operations Research (AREA)
- Water Supply & Treatment (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Supply And Distribution Of Alternating Current (AREA)
Abstract
本发明涉及一种计及宏观波动性分类的新能源中长期电量预测方法，对中长期尺度气象变量提取气象变量波动时序生成特征矩阵，建立基于CNN‑LSTM改进型混合神经网络的中长期新能源电量预测模型；对复合网络的权值进行初始化，设定最大迭代次数；构建卷积神经网络，将特征矩阵输入模型；计算复合网络预测误差，优化网络结构；若达到最大迭代次数，则迭代终止输出网络参数；利用训练完成的复合网络进行中长期新能源电量预测，获取待预测时段的初步预测电量；对初步预测电量进行波动类型聚类并识别，并对不同类型的波动过程进行误差修正，将初步预测电量与误差预测的结果相加获取最终电量预测结果。与现有技术相比，本发明具有提高预测精度等优点。
Description
技术领域
本发明涉及新能源场站中长期电量预测技术领域，尤其是涉及一种计及宏观波动性分类的新能源中长期电量预测方法。
背景技术
近年来，风、光等新能源发电因其绿色环保、安装方便等优点而得到了快速发展。与此同时，新能源发电也存在着随机性、间歇性等问题，大规模的新能源并网给电力调度部门安排电源、协调发电计划带来了困难。因此，新能源中长期电量预测对电力系统的安全稳定和经济运行具有重要作用。新能源中长期电量预测的结果可用于电网调度计划的制定，能够在保证电力供需平衡的前提下减少旋转备用容量，从而降低发电成本，有助于充分挖掘太阳能、风能等清洁能源的潜能。综上，提高新能源中长期电量预测精度具有重要意义。
新能源场站分布面积的增大对其新能源出力具有较为明显的平滑效果，但是考虑到地区发展战略的科学规划与复杂地理环境的建设成本，新能源电站往往呈“集中式”分布，使其在中长期时间尺度上的电量波动特征达到十分显著的水平。并且，在不同地理与气候环境中，不同的季节特征影响下，中长期尺度上的新能源电站电量时序表现出完全不同的波动特性，严重影响了新能源电站中长期电量预测的整体性能，故如何精确预测多因素导致的多种波动特性下的新能源输出电量是中长期新能源电量预测的主要难点。现有技术主要采用的方法有：采用前馈方向传播和广义回归神经网络相结合，用来预测一年的新能源发电量，但其缺乏考虑中长期时间尺度下的电量波动特征，且预测时间尺度过长，缺乏实际应用的价值。采用模糊理论和神经网络相结合，实现对某一个月的新能源发力预测，但该方法忽略了时间的连续特性，应考虑预测周期内每日、周气象数据间的相关性。采用非参数核密度估计方法预测风电电量，该方法是以历史风电电量得到概率密度函数进行估计，不适应风电场装机容量扩建等情况的电量估计，另外，该方法缺乏地理与气象因素影响评估，预测结果过于泛化而缺乏针对特定环境的精细化预测策略。
发明内容
本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种计及宏观波动性分类的新能源中长期电量预测方法，该方法考虑中长期新能源电站输出电量宏观波动特性，可进一步提高模型预测能力。
本发明的目的可以通过以下技术方案来实现：
一种计及宏观波动性分类的新能源中长期电量预测方法，该方法包括如下步骤内容：
S1：选取新能源电站历史电量数据和历史气象数据时序，并对数据进行清洗。对数据进行清洗主要包括纠正历史数据集中可识别的错误(异常缺失、超限异常值等)。
S2：从清洗后的数据中筛选中长期尺度气象变量时序，对该变量时序提取气象变量波动时序，生成特征矩阵，并建立基于CNN-LSTM改进型混合神经网络的中长期新能源电量预测模型。
具体地，提取气象变量波动时序并结合多种相关特征序列以及历史输出电量时序获取特征矩阵。
基于CNN-LSTM改进型混合神经网络的中长期新能源电量预测模型的表达式为：
式中：g(t)为误差修正函数，
为t对应时间段新能源电量预测值，Q，W，V分别为各时间段内的历史输出电量、气象变量与气象波动变量，f3(·)为CNN-LSTM改进型混合神经网络的求解高维非线性函数。
进一步地，本发明对基于CNN-LSTM改进型混合神经网络的中长期新能源电量预测模型的优化步骤，具体步骤为：
a)引入Attention机制调整各特征变量的权重；
b)在LSTM神经网络中引入Targeted dropout算法，选择性剔除神经元；
c)构建基于波动聚类的误差修正模型。
其中，步骤a)的具体步骤包括：
a1)encode对输入序列编码得到最后一个时间步的状态c和每个时间步的输出h，将c作为decode的初始状态z0；
a2)对于每个时间步的输出h与z0匹配，获取每个时间步的匹配向量ε01；
a3)对所有时间步的输出h与z0的匹配度ε0，使用softmax做归一化处理，得到各个时间步对于z0的匹配分数；
a4)求各个时间步的输出h与匹配分数的加权求和得到c0，作为decode的下一个时间步的输入；
a5)计算各个时间步的输出h与z1的匹配度得到c1，作为decode下一个时间步的输入，如此循环，直至当循环神经网络训练次数大于设定最大迭代次数时，结束迭代。
其中，步骤b)的具体步骤包括：
b1)按照权重剪枝与单元剪枝的方法对LSTM神经网络进行剪枝操作，计算公式为：
式中：ε(Wc(θ))为网络损失函数，Wc为LSTM神经网络模型参数矩阵，argmax-k为返回所有元素中最大的k个元素的函数，wo为权重矩阵W第o列列向量，Wio为权重矩阵第i行，第o列元素，Ncol、Nrow分别为神经网络模型参数矩阵的列数与行数；
b2)引入靶向比例γ和删除概率α，选择最小的γ|θ|个权重作为Dropout的候选权值，并随后以删除概率α独立地去除候选集合中的权值。
S3：对CNN-LSTM改进型混合神经网络的权值进行初始化，设定最大迭代次数。具体步骤包括：
31)对卷积层进行高斯初始化，从均值为0，方差为1的高斯分布中采样，作为初始权值；
32)对BN层的Scala因子初始化为1，并对shift因子初始化为0；
33)调用zero_state函数实现LSTM复合网络初始化。
S4：构建卷积神经网络，将步骤S2：得到的特征矩阵以滑动时间窗法截取特征输入矩阵，并将其输入CNN网络进行特征提取，获取时序特征。
S5：将提取的时序特征输入至LSTM层，输出CNN-LSTM改进型混合神经网络的训练结果，用以评估网络预测结果收敛性能。
进一步地，步骤S4中，将输入特征矩阵输入双层一维卷积神经网络，并经过最大池化层输出一维化特征向量；步骤S5中，将输出的一维化特征向量输入三层LSTM复合神经网络，经过全连接层获取初步预测结果。
S6：计算CNN-LSTM改进型混合神经网络的预测误差，利用控制变量法优化网络结构。
S7：对步骤S5的迭代次数进行判断，若达到最大迭代次数，则迭代终止，输出CNN-LSTM改进型混合神经网络的参数，否则，令当前迭代次数+1，执行步骤S4。
S8：利用训练完成的CNN-LSTM改进型混合神经网络进行中长期新能源电量预测，获取待预测时段的初步预测电量。
S9：对初步预测电量进行波动类型聚类并识别，并对不同类型的波动过程采取相应的误差修正策略，最后将初步预测电量与误差预测的结果相加，获取最终电量预测结果。具体地：
91)对初步电量预测结果时序进行分段波动参数提取；
92)针对每段序列对应的特征向量进行自组织映射神经网络聚类；
93)依据聚类结果进行电量子序列分组；
94)制定各组误差补偿方案。
步骤94)中，针对波动剧烈的振荡、尖峰时序子序列，以历史误差数据为训练样本，建立LSTM误差预测模型；其余波动类型无需进行误差补偿修正。
本发明提供的计及宏观波动性分类的新能源中长期电量预测方法，相较于现有技术至少包括如下有益效果：
一、本发明方法考虑历史输出电量与历史气象时序波动性特征，构建模型提取该波动性时间序列，进而考虑中长期新能源电站输出电量宏观波动特性，有利于突出电量时序变化特征；
二、本发明提出改进CNN-LSTM混合网络预测模型，该模型综合考虑了各特征序列间的相关性以及中长期电量时序内在特性，以充分提取历史特征序列相关内在信息，并结合Attention机制以及Targeted dropout算法，有利于混合模型的拟合与优化；
三、本发明提出了计及宏观波动性分类的误差修正模型进行误差修正，该模型充分考虑了在中长期时间尺度影响下电量时序呈现的周期性以及非周期性的波动特征，并以此为主要依据制定误差修正策略，体现了精细化误差修正原则，提高了模型预测精度。
附图说明
图1为实施例中计及宏观波动性分类的新能源中长期电量预测方法的流程示意图；
图2为实施例中Attention机制单元结构示意图。
具体实施方式
下面结合附图和具体实施例对本发明进行详细说明。显然，所描述的实施例是本发明的一部分实施例，而不是全部实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都应属于本发明保护的范围。
实施例
本发明涉及一种计及宏观波动性分类的新能源中长期电量预测方法，该方法考虑中长期新能源电站输出电量宏观波动特性，以突出中长期电量时序变化特征，并建立了基于改进CNN-LSTM的新能源中长期电量预测模型。
本发明建立的基于改进CNN-LSTM的新能源中长期电量预测模型的主要原理为：
CNN-LSTM混合模型面对相对独立的特征序列构成的特征矩阵，充分利用CNN提取数据的空间局部相关特征，LSTM可以弥补CNN难以捕捉到序列数据中的长期依赖关系这一缺陷。以光伏电站中长期电量预测为例，由于用于预测光伏电量的特征如温度、辐照度、气象波动变量等是相对独立的特征时间序列，因此较难描述各项特征时序间的内在联系。针对上述问题，本发明提出了改进CNN-LSTM混合神经网络算法，将某一时间段的各项特征序列以及该时间段的光伏电站输出电量合并为描述该时间段光伏输出电量的特征向量，并使用定时间间隔滑动窗口法截取输入特征矩阵。设时间窗口宽为w，步长为1，特征向量维度为a，因此输入特征矩阵为a*w，各时间点的输入特征矩阵也随待预测时刻的变化而向后推移；其次，将CNN网络提取的特征向量输入多层LSTM循环神经网络，最终可得初步电量预测值，公式表达如下：
式中：g(t)为误差修正函数；
为t对应时间段新能源电量预测值；Q，W，V分别为时间段内的历史输出电量、气象变量与气象波动变量；f3(·)为CNN-LSTM改进型神经网络求解高维非线性函数。
本发明计及宏观波动性分类的新能源中长期电量预测方法具体包括如下步骤内容：
步骤一、首先，选取新能源电站历史电量数据和历史气象数据时序；其次，纠正历史数据集中可识别的错误(异常缺失、超限异常值等)，具体操作如下：
11)异常缺失：
a、缺失比例较少(<5％)，且序列属性并非与目标预测序列的强相关时(该序列与目标预测序列Pearson相关系数r满足：|r|＜0.8)，选用该序列中位数填充；
b、当缺失率高(>95％)且属性重要程度低时(该序列与目标预测序列Pearson相关系数r满足：|r|＜0.3)，直接删除该属性；
c、缺失值高，属性重要程度高时(该序列与目标预测序列Pearson相关系数r满足：0.8≤|r|＜1)，使用热平台插补法，即在非缺失数据时序中找到一个与缺失值所在样本相似的时序(匹配时序)，利用其中的观测值对缺失值进行插补。
12)超限异常值：
a、明显识别为异常值且数量较少，直接删除；
b、异常值较少(<5％)且时序重要性较高(该序列与目标预测序列Pearson相关系数r满足：0.8≤|r|＜1)，取时序平均值填充；
c、异常值占比高(>95％)，时序失效，以缺失值方法处理。
步骤二、对原始的中长期尺度气象变量时序提取气象变量波动时序，生成特征矩阵，并建立基于CNN-LSTM改进型混合神经网络的中长期新能源电量预测模型。
1)中长期尺度下的时序预测通用数学模型
时间序列具有一定的动态时间特性，新能源电站电量序列作为典型的时间序列，可表达为如公式(4)所示：
Q(t)＝f1(Q(t-θ),Q(t-2θ),...)+E(t) (4)
式中：Q(t)为t时刻代表时间段的新能源电站输出电量；f1(·)为新能源输出电量的时间相关性函数；θ为预测时间尺度；E(t)为t时刻误差。
对于时间序列，时间相关性随时间跨度增加而减弱，即Q(t)与Q(t-θ)具有最强相关性。基于此，可进行如下简化：
Q(t)＝Q(t-θ)+e(t) (5)
式中：e(t)为t时刻误差。随着时间间隔θ取值的变化，e(t)将发生相应的变化，须依照误差分布规律而设定。
2)各波动过程预测误差分析
新能源电站的本质上在于对风、光等能源有效利用，因而受到风、光资源在中长期时间尺度上宏观的季节气象因素以及微观的突发因素的影响。而各种电量波动过程下的误差e(t)与气象因素的周期性与非周期性变化具有一定的相关性，可以将其表示为：
式中：W(t)为t时间段内的一组气象变量均值；W(t)-W(t-θ)是气象变量在时间间隔θ内的变化量，定义为气象波动变量；f2(·)为气象波动变量与e(t)的函数对应关系；ε(t)为t时刻残余误差量。
步骤三、初始化CNN-LSTM网络权值，设定最大迭代次数K＝50，当前k0＝1。具体内容为：
a)卷积层高斯初始化，从均值为0，方差为1的高斯分布中采样，作为初始权值；
b)将BN层Scala因子γ，初始化为1；将shift因子，初始化为0；
c)调用zero_state函数(Tensorflow现有初始化函数)实现LSTM复合网络初始化。
步骤四、构建卷积神经网络，将特征矩阵以滑动时间窗法截取特征输入矩阵，输入CNN进行特征提取。
步骤五、将提取的时序特征按时间步输入到LSTM层，输出CNN-LSTM改进型混合神经网络的训练结果，读取所得训练集、验证集的具体训练损失曲线、误差曲线，观察收敛过程中训练集、验证集损失曲线纵向间距，结合训练集、验证集绝对误差情况，直观评估网络预测结果收敛性能。
以下为三种常见拟合状态代表的收敛情况：
a、当训练集损失曲线几乎无下降，此时为欠拟合状态，为不收敛状态；
b、当训练集损失曲线持续下降，验证集损失曲线到某一时刻不再下降，此时为过拟合状态，为收敛状态但非完美收敛；
c、当训练集、验证集损失曲线无明显间距时为完美拟合状态，且为完美收敛。
进一步地，本发明还对CNN-LSTM混合模型进行改进优化，具体内容为：
1)Attention机制
Attention机制是模仿人类注意力而提出的一种解决问题的办法，通过对模型的输入特征赋予不同的权重，突出更关键的影响因素，帮助模型做出更加准确的判断，且不会增加模型的计算和存储开销。针对输入特征矩阵维度较大的情况，将Attention机制引入CNN-LSTM模型中，调整各特征变量的权重，有效突出影响光伏输出电量的因素，从而改善预测效果。Attention机制单元结构如图2所示，其中：x1,x2,…,xk表示输入序列；h1,h2,…,hk表示对应于输入序列的隐藏层的状态值；atj为历史输入的隐藏层状态对当前输入的注意力权重；St为LSTM层在t时刻的状态输出；St-1为LSTM层在t-1时刻的状态输出；f为LSTM循环网络函数。
将Attention机制引入CNN-LSTM模型后的表达式为：
St＝f(St-1,yt-1,ct) (7)
etj＝g1(St-1,hj) (8)
式中，etj为相似度(attention score)，表示编码过程的第j个隐藏状态对当前输出St的贡献度，etm同理；g1(·)为点积运算函数，用以计算上述相似度值；ct为t时刻Attention向量。
引用Attention机制至CNN-LSTM模型中，调整各特征变量的权重具体步骤包括：
a1)encode对LSTM神经网络输入特征序列进行编码操作，使编码器输出结构化表示：得到最后一个时间步的状态c和每个时间步的输出h，将c作为decode的初始状态z0；
a2)对于每个时间步的输出h与z0匹配，获取每个时间步的匹配向量ε01；
a3)对所有时间步的输出h与z0的匹配度ε0，使用softmax做归一化处理，得到各个时间步对于z0的匹配分数；
a4)求各个时间步的输出h与匹配分数的加权求和得到c0，作为decode的下一个时间步的输入；
a5)计算各个时间步的输出h与z1的匹配度得到c1，作为decode下一个时间步的输入，直至当循环神经网络训练次数k0>K时，结束迭代。
2)抑制过拟合方法
在人工神经网络的模型中，如果模型的参数太多，而训练样本又太少，训练出来的模型很容易产生过拟合的现象。为了解决过拟合问题，本发明引入Targeted Dropout算法有选择地剔除神经元：根据快速逼近权重重要性的度量对权重或神经元进行排序，并将Dropout应用于重要性较低的元素。Targerted Dropout算法具体实现方法如下：
(a)剪枝操作：对一个参数化的神经网络Wa，希望找到最优参数θ*，使得损失函数ε(W(θ*))尽可能小的同时也能保留神经网络中最高数量级的k个权重。按照权重剪枝与单元剪枝的方法对W进行剪枝操作。以下分别为权重剪枝与单元剪枝运算公式：
式中：ε(Wc(θ))为网络损失函数，Wc为神经网络模型参数矩阵，argmax-k为返回所有元素中最大的k个元素的函数，wo为权重矩阵W第o列列向量，Wio为权重矩阵第i行，第o列元素，Ncol，Nrow分别代表参数矩阵列数与行数。
(b)引入随机性：引入靶向比例γ和删除概率α，研究者将随机性引入到了这个过程中。其中靶向比例γ表示会选择最小的γ|θ|个权重作为Dropout的候选权值，并且随后以删除概率α独立地去除候选集合中的权值。
步骤六、计算网络预测误差，利用控制变量法调整并优化网络结构参数。
网络初步预测误差计算公式如下：
g′(t)＝Q(T)-f(Q,W,V) (13)
式中：f(·)为初步新能源电站输出电量预测算法；g′(·)为网络初步预测误差，Q(·)为新能源电站历史输出电量序列函数。
步骤七、如果达到最大迭代次数(k0>K)，迭代终止，输出改进CNN-LSTM网络参数。否则，令k0＝k0+1，并转到步骤四。
步骤八、利用按照上述步骤训练完成的改进CNN-LSTM网络进行中长期新能源电量预测，得到待预测时段的初步预测电量。
优选地，将输入特征矩阵输入双层一维卷积神经网络，并分别经过最大池化层，输出一维化特征向量；然后将特征向量输入三层LSTM复合神经网络，经过全连接层得到初步预测结果。
步骤九、对初步预测电量进行波动类型聚类并识别，不同类型的波动过程采取相对应的误差修正策略，为了兼顾程序流程简易性，由于波动较为缓和的上升、下降、高出力、低出力时序子序列误差较小，不设定误差修正；针对波动较为剧烈的振荡、尖峰时序子序列，以历史误差数据为训练样本，建立LSTM误差预测模型。最后将初步预测电量与误差预测的结果相加，完成最终电量预测。
对初步预测电量进行波动类型聚类并识别的具体内容为：
91)对初步电量预测结果时序进行分段波动参数提取；
92)针对每段序列对应的特征向量进行自组织映射神经网络聚类；
93)依据聚类结果进行电量子序列分组；
94)设定误差补偿策略。针对波动较为剧烈的振荡、尖峰时序子序列，以历史误差数据为训练样本，建立LSTM误差预测模型；其余波动类型时序子序列因波动平缓且预测误差较小，无需进行误差补偿修正。
采用CNN-LSTM进行新能源中长期输出电量初步预测，在统计预测误差过程中发现不同的波动过程具有不同的误差特征。因此针对不同的波动过程，选用不同的误差样本进行训练，预测该波动段误差，增强误差预测模型对不同波动过程的适应性。最终的电量预测结果可表示为：
式中：
为t时刻改进CNN-LSTM混合网络最终预测电量；f(·)为初步新能源电站输出电量预测算法；g(·)为分类匹配误差修正算法；W′为初步预测误差强相关特征变量矩阵。
本发明方法考虑历史输出电量与历史气象时序波动性特征，构建模型提取该波动性时间序列，进而考虑中长期新能源电站输出电量宏观波动特性，有利于突出电量时序变化特征；提出的改进CNN-LSTM混合网络预测模型，该模型综合考虑了各特征序列间的相关性以及中长期电量时序内在特性，以充分提取历史特征序列相关内在信息，并结合Attention机制以及Targeted dropout算法，有利于混合模型的拟合与优化，进而提高模型预测精度。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的工作人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种计及宏观波动性分类的新能源中长期电量预测方法，其特征在于，包括下列步骤：
1)选取新能源电站历史电量数据和历史气象数据时序，并对数据进行清洗；
2)从清洗后的数据中筛选中长期尺度气象变量时序，对该变量时序提取气象变量波动时序，生成特征矩阵，并建立基于CNN-LSTM改进型混合神经网络的中长期新能源电量预测模型；
3)对CNN-LSTM改进型混合神经网络的权值进行初始化，设定最大迭代次数；
4)构建卷积神经网络，将步骤2)得到的特征矩阵以滑动时间窗法截取特征输入矩阵，并将其输入CNN网络进行特征提取，获取时序特征；
5)将提取的时序特征输入至LSTM层，输出CNN-LSTM改进型混合神经网络的训练结果，用以评估网络预测结果收敛性能；
6)计算CNN-LSTM改进型混合神经网络的预测误差，利用控制变量法优化网络结构；
7)对步骤5)的迭代次数进行判断，若达到最大迭代次数，则迭代终止，输出CNN-LSTM改进型混合神经网络的参数，否则，令当前迭代次数+1，执行步骤4)；
8)利用训练完成的CNN-LSTM改进型混合神经网络进行中长期新能源电量预测，获取待预测时段的初步预测电量；
9)对初步预测电量进行波动类型聚类并识别，并对不同类型的波动过程采取相应的误差修正策略，最后将初步预测电量与误差预测的结果相加，获取最终电量预测结果。
2.根据权利要求1所述的计及宏观波动性分类的新能源中长期电量预测方法，其特征在于，步骤2)中，提取气象变量波动时序并结合多种相关特征序列以及历史输出电量时序获取特征矩阵。
3.根据权利要求1所述的计及宏观波动性分类的新能源中长期电量预测方法，其特征在于，步骤4)中，将输入特征矩阵输入双层一维卷积神经网络，并经过最大池化层输出一维化特征向量；步骤5)中，将输出的一维化特征向量输入三层LSTM复合神经网络，经过全连接层获取初步预测结果。
4.根据权利要求1所述的计及宏观波动性分类的新能源中长期电量预测方法，其特征在于，基于CNN-LSTM改进型混合神经网络的中长期新能源电量预测模型的表达式为：
式中：g(t)为误差修正函数，
为t对应时间段新能源电量预测值，Q，W，V分别为各时间段内的历史输出电量、气象变量与气象波动变量，f3(·)为CNN-LSTM改进型混合神经网络的求解高维非线性函数。
5.根据权利要求1所述的计及宏观波动性分类的新能源中长期电量预测方法，其特征在于，步骤2)中，还包括对基于CNN-LSTM改进型混合神经网络的中长期新能源电量预测模型的优化步骤，具体步骤为：
a)引入Attention机制调整各特征变量的权重；
b)在LSTM神经网络中引入Targeted dropout算法，选择性剔除神经元；
c)构建基于波动聚类的误差修正模型。
6.根据权利要求5所述的计及宏观波动性分类的新能源中长期电量预测方法，其特征在于，步骤a)的具体步骤包括：
a1)encode对输入序列编码得到最后一个时间步的状态c和每个时间步的输出h，将c作为decode的初始状态z0；
a2)对于每个时间步的输出h与z0匹配，获取每个时间步的匹配向量ε01；
a3)对所有时间步的输出h与z0的匹配度ε0，使用softmax做归一化处理，得到各个时间步对于z0的匹配分数；
a4)求各个时间步的输出h与匹配分数的加权求和得到c0，作为decode的下一个时间步的输入；
a5)计算各个时间步的输出h与z1的匹配度得到c1，作为decode下一个时间步的输入，如此循环，直至当循环神经网络的训练次数大于设定最大迭代次数时，结束迭代。
7.根据权利要求5所述的计及宏观波动性分类的新能源中长期电量预测方法，其特征在于，步骤b)的具体步骤包括：
b1)按照权重剪枝与单元剪枝的方法对LSTM神经网络进行剪枝操作，计算公式为：
式中：ε(Wc(θ))为网络损失函数，Wc为LSTM神经网络模型参数矩阵，argmax-k为返回所有元素中最大的k个元素的函数，wo为权重矩阵W第o列列向量，Wio为权重矩阵第i行，第o列元素，Ncol、Nrow分别为神经网络模型参数矩阵的列数与行数；
b2)引入靶向比例γ和删除概率α，选择最小的γ|θ|个权重作为Dropout的候选权值，并随后以删除概率α独立地去除候选集合中的权值。
8.根据权利要求1所述的计及宏观波动性分类的新能源中长期电量预测方法，其特征在于，步骤9)中，对初步预测电量进行波动类型聚类并识别的具体内容为：
91)对初步电量预测结果时序进行分段波动参数提取；
92)针对每段序列对应的特征向量进行自组织映射神经网络聚类；
93)依据聚类结果进行电量子序列分组；
94)制定各组误差补偿方案。
9.根据权利要求1所述的计及宏观波动性分类的新能源中长期电量预测方法，其特征在于，步骤3)的具体步骤包括：
31)对卷积层进行高斯初始化，从均值为0，方差为1的高斯分布中采样，作为初始权值；
32)对BN层的Scala因子初始化为1，并对shift因子初始化为0；
33)调用zero_state函数实现LSTM复合网络初始化。
10.根据权利要求8所述的计及宏观波动性分类的新能源中长期电量预测方法，其特征在于，步骤94)中，针对波动剧烈的振荡、尖峰时序子序列，以历史误差数据为训练样本，建立LSTM误差预测模型；其余波动类型无需进行误差补偿修正。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010910670.2A CN112149879B (zh) | 2020-09-02 | 2020-09-02 | 一种计及宏观波动性分类的新能源中长期电量预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010910670.2A CN112149879B (zh) | 2020-09-02 | 2020-09-02 | 一种计及宏观波动性分类的新能源中长期电量预测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112149879A true CN112149879A (zh) | 2020-12-29 |
| CN112149879B CN112149879B (zh) | 2022-10-18 |
Family
ID=73889331
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010910670.2A Active CN112149879B (zh) | 2020-09-02 | 2020-09-02 | 一种计及宏观波动性分类的新能源中长期电量预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112149879B (zh) |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112949931A (zh) * | 2021-03-19 | 2021-06-11 | 北京交通大学 | 数据驱动和模型混合的充电站数据的预测方法和装置 |
| CN113111467A (zh) * | 2021-05-11 | 2021-07-13 | 上海同岩土木工程科技股份有限公司 | 一种基于混合神经网络的掘进参数预测方法、介质及设备 |
| CN114757443A (zh) * | 2021-05-24 | 2022-07-15 | 郑州轻工业大学 | 基于大数据和人工智能的信息处理方法、系统和存储介质 |
| CN114971058A (zh) * | 2022-06-09 | 2022-08-30 | 哈尔滨工业大学 | 基于深度注意力网络和晴空辐射先验融合的光伏预报方法 |
| CN115809406A (zh) * | 2023-02-03 | 2023-03-17 | 佰聆数据股份有限公司 | 电力用户细粒度归类方法、装置、设备及存储介质 |
| CN116050725A (zh) * | 2022-11-08 | 2023-05-02 | 华北电力大学 | 一种综合能源系统运行调度的区块链共识机制构建方法 |
| CN116896469A (zh) * | 2023-07-18 | 2023-10-17 | 哈尔滨工业大学 | 一种基于Burst序列的加密代理应用识别的方法 |
| CN117557304A (zh) * | 2024-01-11 | 2024-02-13 | 国网浙江省电力有限公司 | 基于模态分解与神经网络的电量电价层级融合预测方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108009674A (zh) * | 2017-11-27 | 2018-05-08 | 上海师范大学 | 基于cnn和lstm融合神经网络的空气pm2.5浓度预测方法 |
| CN108052512A (zh) * | 2017-11-03 | 2018-05-18 | 同济大学 | 一种基于深度注意力机制的图像描述生成方法 |
| CN108898251A (zh) * | 2018-06-29 | 2018-11-27 | 上海电力学院 | 考虑气象相似性和功率波动的海上风电场功率预测方法 |
| CN111144663A (zh) * | 2019-12-31 | 2020-05-12 | 上海电力大学 | 计及出力波动过程的海上风电场超短期风功率预测方法 |
-
2020
- 2020-09-02 CN CN202010910670.2A patent/CN112149879B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108052512A (zh) * | 2017-11-03 | 2018-05-18 | 同济大学 | 一种基于深度注意力机制的图像描述生成方法 |
| CN108009674A (zh) * | 2017-11-27 | 2018-05-08 | 上海师范大学 | 基于cnn和lstm融合神经网络的空气pm2.5浓度预测方法 |
| CN108898251A (zh) * | 2018-06-29 | 2018-11-27 | 上海电力学院 | 考虑气象相似性和功率波动的海上风电场功率预测方法 |
| CN111144663A (zh) * | 2019-12-31 | 2020-05-12 | 上海电力大学 | 计及出力波动过程的海上风电场超短期风功率预测方法 |
Non-Patent Citations (1)
| Title |
|---|
| 张晋霞: "基于LSTM网络的短期风力发电功率预测模型研究", 《基于LSTM网络的短期风力发电功率预测模型研究》, 31 March 2020 (2020-03-31), pages 042 - 733 * |
Cited By (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112949931A (zh) * | 2021-03-19 | 2021-06-11 | 北京交通大学 | 数据驱动和模型混合的充电站数据的预测方法和装置 |
| CN112949931B (zh) * | 2021-03-19 | 2024-03-08 | 北京交通大学 | 数据驱动和模型混合的充电站数据的预测方法和装置 |
| CN113111467B (zh) * | 2021-05-11 | 2023-05-12 | 上海同岩土木工程科技股份有限公司 | 一种基于混合神经网络的掘进参数预测方法、介质及设备 |
| CN113111467A (zh) * | 2021-05-11 | 2021-07-13 | 上海同岩土木工程科技股份有限公司 | 一种基于混合神经网络的掘进参数预测方法、介质及设备 |
| CN114757443A (zh) * | 2021-05-24 | 2022-07-15 | 郑州轻工业大学 | 基于大数据和人工智能的信息处理方法、系统和存储介质 |
| CN114971058A (zh) * | 2022-06-09 | 2022-08-30 | 哈尔滨工业大学 | 基于深度注意力网络和晴空辐射先验融合的光伏预报方法 |
| CN114971058B (zh) * | 2022-06-09 | 2023-07-14 | 哈尔滨工业大学 | 基于深度注意力网络和晴空辐射先验融合的光伏预报方法 |
| CN116050725A (zh) * | 2022-11-08 | 2023-05-02 | 华北电力大学 | 一种综合能源系统运行调度的区块链共识机制构建方法 |
| CN115809406A (zh) * | 2023-02-03 | 2023-03-17 | 佰聆数据股份有限公司 | 电力用户细粒度归类方法、装置、设备及存储介质 |
| CN116896469A (zh) * | 2023-07-18 | 2023-10-17 | 哈尔滨工业大学 | 一种基于Burst序列的加密代理应用识别的方法 |
| CN116896469B (zh) * | 2023-07-18 | 2023-12-08 | 哈尔滨工业大学 | 一种基于Burst序列的加密代理应用识别的方法 |
| CN117557304A (zh) * | 2024-01-11 | 2024-02-13 | 国网浙江省电力有限公司 | 基于模态分解与神经网络的电量电价层级融合预测方法 |
| CN117557304B (zh) * | 2024-01-11 | 2024-03-29 | 国网浙江省电力有限公司 | 基于模态分解与神经网络的电量电价层级融合预测方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112149879B (zh) | 2022-10-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112149879B (zh) | 一种计及宏观波动性分类的新能源中长期电量预测方法 | |
| CN110705743B (zh) | 一种基于长短期记忆神经网络的新能源消纳电量预测方法 | |
| CN108921339B (zh) | 基于分位数回归的遗传支持向量机光伏功率区间预测方法 | |
| CN111260136A (zh) | 一种基于arima-lstm组合模型的楼宇短期负荷预测方法 | |
| CN110942194A (zh) | 一种基于tcn的风电预测误差区间评估方法 | |
| CN111144663B (zh) | 计及出力波动过程的海上风电场超短期风功率预测方法 | |
| CN112288164B (zh) | 一种计及空间相关性和修正数值天气预报的风功率组合预测方法 | |
| CN104636985A (zh) | 一种改进bp神经网络的输电线路无线电干扰预测方法 | |
| CN109635245A (zh) | 一种鲁棒宽度学习系统 | |
| CN112215428B (zh) | 基于误差修正和模糊逻辑的光伏发电功率预测方法及系统 | |
| CN115688579A (zh) | 一种基于生成对抗网络的流域多点水位预测预警方法 | |
| CN114462718A (zh) | 基于时间滑动窗口的cnn-gru风电功率预测方法 | |
| CN114792156A (zh) | 基于曲线特征指标聚类的光伏输出功率预测方法和系统 | |
| CN114971090A (zh) | 一种电供暖负荷预测方法、系统、设备和介质 | |
| CN115222106A (zh) | 一种自适应模型的用户日前负荷预测方法 | |
| CN116014722A (zh) | 基于季节分解和卷积网络的次日光伏发电预测方法及系统 | |
| CN115186923A (zh) | 光伏发电功率的预测方法、装置及电子设备 | |
| CN115759389A (zh) | 基于天气类型的相似日组合策略的日前光伏功率预测方法 | |
| CN108694475B (zh) | 基于混合模型的短时间尺度光伏电池发电量预测方法 | |
| CN115049115A (zh) | 计及nwp风速横纵向误差的rdpg风速修正方法 | |
| CN113991711A (zh) | 一种光伏电站储能系统容量配置方法 | |
| CN111815051B (zh) | 考虑天气影响因素的grnn光伏发电预测方法 | |
| CN112232570A (zh) | 一种正向有功总电量预测方法、装置及可读存储介质 | |
| CN112001537A (zh) | 一种基于灰色模型和支持向量机的短期风电功率预测方法 | |
| CN112307672A (zh) | 基于布谷鸟算法优化的bp神经网络短期风功率预测方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20230426 Address after: 330029 Jiangxi Province, Nanchang city high tech Development Zone, Tellhow building Patentee after: TELLHOW SOFTWARE CO.,LTD. Address before: 200090 No. 2103, Pingliang Road, Shanghai, Yangpu District Patentee before: Shanghai Electric Power University |
|
| TR01 | Transfer of patent right |