CN118017498A - 一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法 - Google Patents
一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法 Download PDFInfo
- Publication number
- CN118017498A CN118017498A CN202410227581.6A CN202410227581A CN118017498A CN 118017498 A CN118017498 A CN 118017498A CN 202410227581 A CN202410227581 A CN 202410227581A CN 118017498 A CN118017498 A CN 118017498A
- Authority
- CN
- China
- Prior art keywords
- model
- informer
- power load
- data set
- prediction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 37
- 238000012549 training Methods 0.000 claims abstract description 19
- 238000012360 testing method Methods 0.000 claims abstract description 16
- 238000011156 evaluation Methods 0.000 claims abstract description 10
- 238000012795 verification Methods 0.000 claims abstract description 10
- 238000007781 pre-processing Methods 0.000 claims abstract description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 7
- 230000007774 longterm Effects 0.000 claims description 6
- 238000005457 optimization Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 claims description 5
- 238000004140 cleaning Methods 0.000 claims description 3
- 238000013459 approach Methods 0.000 claims 1
- 230000008901 benefit Effects 0.000 abstract description 5
- 230000008569 process Effects 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 8
- 238000009826 distribution Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 6
- 230000007246 mechanism Effects 0.000 description 4
- 238000010606 normalization Methods 0.000 description 4
- 230000001364 causal effect Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000009827 uniform distribution Methods 0.000 description 3
- 101001095088 Homo sapiens Melanoma antigen preferentially expressed in tumors Proteins 0.000 description 2
- 102100037020 Melanoma antigen preferentially expressed in tumors Human genes 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 230000010355 oscillation Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 229910052799 carbon Inorganic materials 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000004146 energy storage Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法，本发明为：首先，获取电力负荷历史数据集进行预处理，并按比例分为训练集、测试集、验证集。其次，构建TCN‑Informer组合预测模型并利用AdaBelief优化器对模型进行优化并利用评价指标对模型进行评价。最后，利用TCN‑Informer组合模型进行负荷预测，得到负荷预测结果。本发明提出的组合预测模型，综合考虑时间卷积网络模型和Informer模型的特征与优势，相比较于单一网络模型而言，能有效提高中长期电力负荷预测的精度。
Description
技术领域
本发明属于电力负荷预测领域，具体涉及一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法。
背景技术
近年来，由于双碳目标、新能源和储能设施的接入、电动汽车的普及等发展趋势，中长期负荷预测的意义与价值日益突显。中长期负荷预测是开展电网规划工作的基础和依据，其预测结果的准确程度与电力系统规划的科学性密切相关。首先，中长期负荷预测结果可用于推算地区用电水平以指导电网规划和建设，避免频繁改扩建工程带来的成本增长。其次，预测结果对供电电源建设、变电站布点、线路走廊、电力设备选择以及发电容量扩建等方面也有决策支持作用。此外，中长期负荷预测还可以作为电力公司经营和制定发展战略的基础，有助于其准确把握市场动态，合理安排电网运行和检修计划，提高经济效益和社会效益。
现有预测技术中很难凭借单一方法就可以获取较为理想的结果，为了克服传统单一预测模型鲁棒性一般、泛化性能不足的问题，基于组合模型的预测方法应运而生。将多个模型进行集成组合，综合各个模型的优点，达到取长补短的效果，从而有效增强预测模型的适用性，提高预测结果的精度。然而，相对于短期负荷预测而言，中长期负荷预测的理论技术研究起步较晚且研究力度相对较弱。中长期负荷预测表现为：时间跨度大、训练样本少、影响因素多等主要特点，导致基于深度学习神经网络、集成树的负荷预测模型过拟合或无法收敛等预测效果表现不佳。因此，针对中长期负荷预测的组合预测模型仍有待进一步研究。
发明内容
本发明的目的在于提供一种基于时间卷积网络(Temporal ConvolutionalNetwork, TCN) 与Informer组合模型的中长期电力负荷预测方法，以解决目前中长期负荷预测方法在适应电力变化方面存在能力不足以及预测精度有限的问题。
本发明提供的中长期电力负荷预测方法，包括如下步骤：
步骤1：对采集的电力负荷历史数据集进行预处理，并按比例分为训练集、测试集、验证集；
步骤2：构建TCN-Informer组合预测模型，深入挖掘负荷时间序列的特征；
步骤3：基于步骤1得到的训练数据集，对步骤2构建的组合预测模型进行训练；
步骤4：基于步骤1得到的验证数据集和AdaBelief优化器，对步骤3训练后的组合预测模型进行超参数优化；
步骤5：基于步骤1得到的测试数据集对步骤4优化后的组合模型进行测试，并采用评价指标进行模型评估；
步骤6：采用步骤5得到的TCN-Informer组合预测模型进行中长期电力负荷预测，获取预测结果。
所述步骤1包括：
步骤1-1：针对收集到的数据集进行清洗，包括对于缺失值和异常值的处理，采用该位置前后数据的平均值进行填充；
步骤1-2：通过1-1步骤得到清洗后的数据集，再将其进行归一化处理，将数据集的数值范围控制在[0,1]之间，具体的归一化公式如下：
式中，为实际负荷值，为样本数据的最大值，为样本数
据的最小值，是归一化后的数据；
步骤1-3：对步骤1-2中完成归一化后的数据集进行划分，按照7:2:1的比例划分为训练集、测试集和验证集。
所述步骤2包括：
步骤2-1：构建TCN网络模块，该模块主要包含了时序卷积层、全连接层；其中时间卷积层被用来捕获时间序列的局部和全局特征，该层结构中包含多个以扩张因果卷积层，利用不同长度的卷积核进行卷积，得到不同的卷积结果；全连接层则将扩张因果卷积模块的输出进行组合，作为Informer模块的输入；
步骤2-2：构建Informer模块，该模块主要包含了编码器、解码器、全连接层；将步骤2-1中捕获到的特征序列作为该模块的输入，设定Informer网络的预测模式，并对网络参数进行初始化；
步骤2-3：将步骤2-1中构建的时间卷积模型与步骤2-2中的Informer模块进行组合，构建成TCN-Informer组合预测模型，组合预测模型的公式可以表示为：
其中，x是输入数据，TCN(x)表示TCN提取的特征，Informer(TCN(x))表示Informer
对提取特征进行预测，表示组合预测模型的预测结果。
所述步骤3包括：
步骤3-1：为了有效捕获历史负荷数据中的时序信息，对步骤1-3中的训练集进行嵌入操作，将原始数据转化为表示向量；
步骤3-2：引入位置编码将每个序列中的样本数据分配一个独特的位置标记，以便识别时间上的顺序信息；
步骤3-3：通过编码后的时序数据输入到组合模型中进行模型训练。
所述步骤4包括：
步骤4-1：设置组合预测模型采用AdaBelief优化器进行优化，它在Adam优化器的基础上引入了自适应的学习率缩放因子和参数更新，因而能够更好地适应不同参数的梯度特性；
步骤4-2：基于Adam的方式计算梯度和梯度平方的移动平均值，公式如下：
其中，和分别为梯度和梯度平方的移动平均值，为当前梯度，和分别是
Adam中的动量和平方项衰减率，用来平衡当前梯度与历史梯度之间的权重；
步骤4-3：基于步骤4-2计算的和，AdaBelief通过除以和对初始阶
段的偏差进行修正，从而增加算法在早期收敛和避免震荡方面的表现。具体公式如下：
其中，和分别代表修正后的梯度和梯度平方的移动平均值，和是动量衰
减率，其中t代表当前的迭代步数；
步骤4-4：最终优化过程如下式所示：
其中为模型的参数而为更新后的参数，为学习率，为一个极小的常数项。
所述步骤5包括：
步骤5-1：采用步骤1-3中的预测集对优化后的组合模型进行测试，获得预测值；
步骤5-2：选用均方根误差、平均绝对百分比误差评价指标，对TCN-Informer组合预测模型的性能进行评估。
所属步骤6包括：
步骤6-1：确定预测目标时间长度，设置模型对应的预测步长；
步骤6-2：利用TCN-Informer组合预测模型对输入数据进行预测，获取最终的负荷预测结果。
本发明的有益效果：
本发明提出了基于时间卷积网络与Informer组合模型的中长期电力负荷预测模型。与现有技术相比，本发明通过运用深度学习知识领域的相关技术，即时间卷积网络和Informer网络组合预测模型实现中长期电力负荷预测。通过引入时序卷积神经网络捕获数据的时间特征和Informer能有效捕获长期的时间依赖关系，具有更好的预测能力。因此，在长时间尺度上预测效果比单一神经网络模型都要好，可以改善单一网络模型对中长期负荷预测精度不高的问题，从而提高预测曲线的拟合效果。
附图说明
图1为本发明的整体流程示意图；
图2为本发明中扩张因果卷积模块结构示意图；
图3为本发明中TCN网络模型结构示意图；
图4为本发明中TCN-Informer组合预测模型结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合本发明实例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。本发明所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得所有其他实施例，都属于本发明保护的范围。
本发明一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法，如图1所示，包括以下步骤：
步骤1：对采集的电力负荷历史数据集进行预处理，并按比例分为训练集、测试集、验证集；
具体的，步骤1还包括：
步骤1-1：针对收集到的数据集进行清洗，包括对于缺失值和异常值的处理，采用该位置前后数据的平均值进行填充；
步骤1-2：对步骤1-1清洗后的数据集进行归一化处理，将数据集的数值范围控制在[0,1]之间，具体的归一化公式如下：
式中，为实际负荷值，为样本数据的最大值，为样本数据的最小值，是归一化后的数据；
步骤1-3：对步骤1-2归一化后的数据集按照7:2:1的比例，划分为训练集、测试集和验证集。
步骤2：构建TCN-Informer组合预测模型，深入挖掘负荷时间序列的特征；
具体的，步骤2包括：
步骤2-1：构建TCN网络模型，该模块主要包含了时序卷积层、全连接层；
其中时间卷积层被用来捕获时间序列的局部和全局特征，该层结构中包含多个以扩张因果卷积层，如图2所示。利用不同长度的卷积核进行卷积，从而获取不同维度的特征信息；
全连接层则将扩张因果卷积模块的输出进行组合，作为Informer模块的输入；通过将多个时间卷积模块串联，得到TCN网络模型，如图3所示；
步骤2-2：构建Informer模块，该模块主要包含了编码器、解码器、全连接层；
利用编码器选取与负荷具有强相关性的样本数据进行自注意力机制的计算，采用ProbSparse自注意力机制降低计算复杂度，具体得注意力概率分布公式如下：
式中,分别代表Q、K中得第i行。
均匀分布的计算公式如下：
式中，是Q查询向量的长度。
通过KL散度(Kullback-Leiber divergence)来描述两个概率分布差异，即对于每个Q计算它和均匀分布的差异，差异越大代表该Q越重要，计算公式如下。
式中，表示两个概率分布Q和P之间的KL散度，公式(1)代表离散型，和分
别代表第ｉ个Q的概率分布，公式(2)代表连续型，和分别为概率分布P(注意力概率
分布)和Q(均匀分布)的概率密度函数。
进一步，Informer中采用随机采用来降低点积的计算复杂度，同时直接选择最大值与均匀分布算差异进一步加速计算过程。计算第i个Q的“稀疏性度量”，具体公式如下：
式中，即为第ｉ个Q的得分，得分越大越“活跃”，d表示特征向量的维度。
将编码器输出的特征向量，输入到Informer的解码器中，同时加上原有输入到解码器遮挡注意力机制后的特征一起输入到解码器的多头自注意力机制；最终以解码器的全连接层直接一次输出最终的预测结果；
步骤2-3：将步骤2-1中构建的时间卷积模型与步骤2-2中的Informer模块进行组合，构建成TCN-Informer组合预测模型，如图4所示。组合预测模型的公式可以表示为：
式中，x是输入数据，TCN(x)表示TCN提取的特征，Informer(TCN(x))表示Informer
对提取特征进行预测，表示组合预测模型的预测结果。
步骤3：基于步骤1得到的训练数据集，对步骤2构建的组合预测模型进行训练；
具体的，步骤3包括：
步骤3-1：为了有效捕获历史负荷数据中的时序信息，对步骤1-3中的训练集进行嵌入操作，将原始数据转化为表示向量；
步骤3-2：引入位置编码将每个序列中的样本数据分配一个独特的位置标记，以便识别时间上的顺序信息；
步骤3-3：通过编码后的时序数据输入到组合模型中进行模型训练；
步骤4：基于步骤1得到的验证数据集和AdaBelief优化器，对步骤3训练后的组合预测模型进行超参数优化；
具体的，步骤4包括：
步骤4-1：设置组合预测模型采用AdaBelief优化器进行优化，它在Adam优化器的基础上引入了自适应的学习率缩放因子和参数更新，因而能够更好地适应不同参数的梯度特性；
步骤4-2：基于Adam的方式计算梯度和梯度平方的移动平均值，公式如下：
其中，和分别为梯度和梯度平方的移动平均值，为当前梯度，和分别是
Adam中的动量和平方项衰减率，用来平衡当前梯度与历史梯度之间的权重。
步骤4-3：基于步骤4-2计算的和，AdaBelief通过除以和对初始阶
段的偏差进行修正，从而增加算法在早期收敛和避免震荡方面的表现。具体公式如下：
其中，和分别代表修正后的梯度和梯度平方的移动平均值，和是动量衰
减率，其中t代表当前的迭代步数。
步骤4-4：最终优化过程如下式所示：
其中为模型的参数而为更新后的参数，为学习率，为一个极小的常数项。
步骤5：基于步骤1得到的测试数据集对步骤4优化后的组合模型进行测试，并采用评价指标进行模型评估；
具体的，步骤5包括：
步骤5-1：采用步骤1-3中的预测集对优化后的组合模型进行测试，获得预测值；
步骤5-2：选用均方根误差(Mean Squared Error，MSE)、平均绝对百分比误差(Mean Absolute Percentage Error，MAPE)评价指标，对TCN-Informer组合预测模型的性能进行评估；
MSE计算公式为：
MAPE计算公式为：
式中，上述两式中m为训练样本的个数，为实际负荷值，为预测负荷值。
步骤6：采用步骤5得到的TCN-Informer组合预测模型进行中长期电力负荷预测，获取预测结果。
具体的，步骤6包括：
步骤6-1：确定预测目标时间长度，设置模型对应的预测步长；
步骤6-2：利用TCN-Informer组合预测模型对输入数据进行预测，获取最终的负荷预测结果。
Claims (7)
1.一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法，其特征在于，包括以下具体步骤：
步骤1：对采集的电力负荷历史数据集进行预处理，并按比例分为训练集、测试集、验证集；
步骤2：构建TCN-Informer组合预测模型，深入挖掘负荷时间序列的特征；
步骤3：基于步骤1的训练数据集，对步骤2构建的组合预测模型进行训练；
步骤4：基于步骤1的验证数据集和AdaBelief优化器，对步骤3训练后的组合预测模型进行超参数优化；
步骤5：基于步骤1的测试数据集，对步骤4优化后的组合模型进行测试，并采用评价指标进行模型评估；
步骤6：采用步骤5得到的TCN-Informer组合预测模型进行中长期电力负荷预测，获取预测结果。
2.根据权利要求1所述的一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法，其特征在于：所述步骤1中，采用某省真实历史负荷数据，数据集中的时间戳信息包含年、月、日、小时的具体时间信息和每个时间点对应的负荷数据。所述步骤1包括：
步骤1-1：对收集到的数据集进行清洗，包括对于缺失值和异常值的处理；
步骤1-2：对收集到的数据集进行归一化处理，得到归一化处理后的数据集；
步骤1-3：对预处理后的数据集进行划分，得到训练集、测试集和验证集。
3.根据权利要求1所述的一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法，其特征在于，所述步骤2包括：
步骤2-1：构建TCN网络模块，该模块主要包含了时序卷积层、全连接层；
步骤2-2：构建Informer模块，该模块主要包含了编码器、解码器、全连接层；
步骤2-3：将步骤2-1的时间卷积模块与步骤2-2中的Informer模块组合，得到TCN-Informer组合预测模型。
4.根据权利要求1所述的一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法，其特征在于，所述步骤3包括：
步骤3-1：对步骤1-3预处理后的数据集进行嵌入操作，将原始数据转化为表示向量；
步骤3-2：进一步对数据集进行位置编码，得到编码后的特征序列；
步骤3-3：利用编码后的特征序列对模型进行训练。
5.根据权利要求1所述的一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法，其特征在于，所述步骤4包括：
步骤4-1：设置组合预测模型采用AdaBelief优化器进行优化；
步骤4-2：基于Adam的方式计算梯度和梯度平方的移动平均值和/>；
步骤4-3：基于步骤4-2计算的和/>，利用AdaBelief对初始偏差进行修正；
步骤4-4：对模型进行优化，得到优化后的组合预测模型。
6.根据权利要求1所述的一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法，其特征在于，所述步骤5包括：
步骤5-1：利用步骤1-3中的预测集对优化后的组合模型进行测试，获得预测值；
步骤5-2：选用均方根误差、平均绝对百分比误差评价指标，对TCN-Informer组合预测模型的性能进行评估。
7.根据权利要求1所述的一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法，其特征在于，所述步骤6包括：
步骤6-1：确定预测目标时间长度，设置模型对应的预测步长；
步骤6-2：利用TCN-Informer组合预测模型对输入数据进行预测，获取最终的负荷预测结果。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410227581.6A CN118017498A (zh) | 2024-02-29 | 2024-02-29 | 一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410227581.6A CN118017498A (zh) | 2024-02-29 | 2024-02-29 | 一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN118017498A true CN118017498A (zh) | 2024-05-10 |
Family
ID=90948353
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410227581.6A Pending CN118017498A (zh) | 2024-02-29 | 2024-02-29 | 一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN118017498A (zh) |
-
2024
- 2024-02-29 CN CN202410227581.6A patent/CN118017498A/zh active Pending
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112508275B (zh) | 一种基于聚类和趋势指标的配电网线路负荷预测方法和设备 | |
| CN110766212B (zh) | 用于历史数据缺失电场的超短期光伏功率预测方法 | |
| CN111080032A (zh) | 一种基于Transformer结构的负荷预测方法 | |
| CN108921339B (zh) | 基于分位数回归的遗传支持向量机光伏功率区间预测方法 | |
| CN112149879B (zh) | 一种计及宏观波动性分类的新能源中长期电量预测方法 | |
| CN112734128B (zh) | 一种基于优化rbf的7日电力负荷峰值预测方法 | |
| CN105631558A (zh) | 基于相似日的bp神经网络光伏发电系统功率预测方法 | |
| CN111027775A (zh) | 基于长短期记忆网络的梯级水电站发电量预测方法 | |
| CN113554466A (zh) | 一种短期用电量预测模型构建方法、预测方法和装置 | |
| CN110163444A (zh) | 一种基于gasa-svr的需水预测方法 | |
| CN117013527A (zh) | 一种分布式光伏发电功率预测方法 | |
| CN115965125A (zh) | 一种基于深度学习的电力负荷预测方法 | |
| CN116341613A (zh) | 一种基于Informer encoder和LSTM的超短期光伏功率预测方法 | |
| CN114611757A (zh) | 基于遗传算法与改进深度残差网络的电力系统短期负荷预测方法 | |
| CN111967660B (zh) | 一种基于svr的超短期光伏预测残差修正方法 | |
| CN117277304A (zh) | 考虑日出日落时间的光伏发电超短期功率预测方法、系统 | |
| CN105205572A (zh) | 基于EMD分解和Elman算法的光伏出力预测方法 | |
| CN116128211A (zh) | 基于风光不确定性预报场景的风光水联合短期优化调度方法 | |
| Gao et al. | Establishment of economic forecasting model of high-tech industry based on genetic optimization neural network | |
| CN118017498A (zh) | 一种基于时间卷积网络与Informer组合模型的中长期电力负荷预测方法 | |
| CN112990533B (zh) | 一种稀疏约束和动态权重分配的风电集群功率预测方法 | |
| CN113762591B (zh) | 一种基于gru和多核svm对抗学习的短期电量预测方法及系统 | |
| Yu | Evaluation and analysis of electric power in China based on the ARMA model | |
| CN114372615A (zh) | 一种考虑空间相关性的短期光伏功率预测方法及系统 | |
| Zhang et al. | A hybrid load forecasting method based on neural network in smart grid |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination |