CN116502774B - 一种基于时间序列分解和勒让德投影的时间序列预测方法 - Google Patents
一种基于时间序列分解和勒让德投影的时间序列预测方法 Download PDFInfo
- Publication number
- CN116502774B CN116502774B CN202310755841.2A CN202310755841A CN116502774B CN 116502774 B CN116502774 B CN 116502774B CN 202310755841 A CN202310755841 A CN 202310755841A CN 116502774 B CN116502774 B CN 116502774B
- Authority
- CN
- China
- Prior art keywords
- time sequence
- time
- sequence
- projection
- prediction model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 65
- 238000000354 decomposition reaction Methods 0.000 title claims abstract description 27
- 238000012549 training Methods 0.000 claims abstract description 30
- 238000010606 normalization Methods 0.000 claims abstract description 20
- 238000012360 testing method Methods 0.000 claims abstract description 18
- 230000002441 reversible effect Effects 0.000 claims abstract description 17
- 238000012795 verification Methods 0.000 claims abstract description 14
- 239000013598 vector Substances 0.000 claims description 28
- 230000001932 seasonal effect Effects 0.000 claims description 21
- 230000008569 process Effects 0.000 claims description 16
- 238000013528 artificial neural network Methods 0.000 claims description 15
- 230000015654 memory Effects 0.000 claims description 11
- 238000004364 calculation method Methods 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 6
- 230000006870 function Effects 0.000 claims description 5
- 239000011159 matrix material Substances 0.000 claims description 5
- 239000013604 expression vector Substances 0.000 claims description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 3
- 230000000694 effects Effects 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims description 2
- 238000012935 Averaging Methods 0.000 claims 1
- 238000010200 validation analysis Methods 0.000 claims 1
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000004880 explosion Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- YHXISWVBGDMDLQ-UHFFFAOYSA-N moclobemide Chemical compound C1=CC(Cl)=CC=C1C(=O)NCCN1CCOCC1 YHXISWVBGDMDLQ-UHFFFAOYSA-N 0.000 description 2
- 230000005654 stationary process Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001364 causal effect Effects 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0499—Feedforward networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2123/00—Data types
- G06F2123/02—Data types in the time domain, e.g. time-series data
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Economics (AREA)
- Software Systems (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- Artificial Intelligence (AREA)
- Marketing (AREA)
- Development Economics (AREA)
- Tourism & Hospitality (AREA)
- Quality & Reliability (AREA)
- Operations Research (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Entrepreneurship & Innovation (AREA)
- Medical Informatics (AREA)
- Game Theory and Decision Science (AREA)
- Computer Hardware Design (AREA)
- Geometry (AREA)
- General Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于时间序列分解和勒让德投影的时间序列预测方法，包括：获取目标区域的历史数据，并划分为训练集、验证集和测试集；构建时间序列预测模型，将时间序列分解季节项成分和趋势项成分分别进行预测，并基于可逆实例归一化和勒让德投影，得到输出的未来序列数据；设置时间序列预测模型训练环境，通过训练集对时间序列预测模型进行训练，使用梯度函数更新模型参数，直至时间序列预模型达到收敛；通过验证集对模型进行调优，通过测试集评价模型的性能指标是否达到期望。本发明具有比其他时间序列预测方法更强的预测性能，在预测未来数据时具有更小的误差，能够为各种行业中需要时间序列预测工具的实际应用提供一个强有力的预测工具。
Description
技术领域
本发明属于时间序列建模领域，尤其涉及一种基于时间序列分解和勒让德投影的时间序列预测方法。
背景技术
时间序列预测的任务是利用大量关于过去行为的历史时间戳数据来进行对未来的值的预测。现实生活中，时间序列预测一直是各种行业中实际应用的一个关键组成部分——在诸如气候建模、生物科学和医学、零售商业决策、金融、能源等主题的应用中形成了一个不可分割的部分。传统方法专注于领域专家提供的参数化模型，如自回归(AR)、指数平滑或结构时间序列模型，而现代机器学习方法提供了一种以纯数据驱动的方式学习时间动态的方法。随着近年来数据可用性和计算能力的不断提高，机器学习已经成为下一代时间序列预测模型的重要组成部分。尤其是深度学习，受图像分类、自然语言处理和强化学习取得的显著成就的启发，近年来受到了广泛的欢迎。
由于时间序列预测的重要性，各种模型都得到了很好的发展。ARIMA通过差分预处理迭代将非平稳过程转化为平稳过程来解决预测问题，但ARIMA在面对复杂预测任务时存在困难。循环神经网络(RNN)模型用于建模时间序列的时间依赖性来进行时间序列的预测。由于RNN的循环结构，其经常会出现梯度消失或爆炸问题，特别是在面对长序列时，影响模型的正常训练。为了解决梯度消失或爆炸问题，长短期记忆(LSTM)和门控循环单元(GRU)这两种RNN的变体的解决方式是通过门控结构来控制信息流。基于RNN的模型在应用过程中存在无法并行的限制，在处理长序列时不够高效。LSTNet引入了具有递归跳过连接的卷积神经网络(CNN)来捕获短期和长期的时间模式，以此对时间序列进行预测。此外，许多基于时间卷积网络(TCN)的方法试图采用因果卷积来建模时间因果关系进行预测。卷积操作是一种可并行的操作，但其在序列推理方面的成本十分高昂。此外，由于卷积核的感受野有限，长期时间依赖关系很难被卷积操作所捕获。综上所述，相关领域对于能够兼顾预测精度与预测效率的时间序列预测仍然没有良好的解决方案。
发明内容
发明目的：本发明的目的在于提供一种基于时间序列分解和勒让德投影的时间序列预测方法，提高时间序列预测的精度，进一步为各种行业中的实际应用提供一个性能更强的预测工具。
技术方案：本发明的一种基于时间序列分解和勒让德投影的时间序列预测方法，通过执行以下步骤，构建时间序列预测模型，并基于时间序列预测模型对目标区域未来数据进行预测；
步骤1：获取目标区域的历史数据，并按时间顺序将历史数据划分为训练集、验证集和测试集；
步骤2：构建时间序列预测模型，将时间序列分解季节项成分和趋势项成分分别进行预测，并基于可逆实例归一化和勒让德投影，得到输出的未来序列数据；
步骤3：设置时间序列预测模型训练环境，通过训练集对时间序列预测模型进行训练，使用梯度函数更新模型参数，直至时间序列预模型达到收敛，得到收敛后的模型；
步骤4：通过验证集对模型进行调优，通过测试集评价模型的性能指标是否达到期望，得到训练完成的时间序列预测模型。
本发明使用季节—趋势分解法将时间序列分解为季节项、趋势项这两个更容易预测的基本组成成分，然后对这两个成分分别进行预测。在每个成分的单独预测过程中，使用可逆实例归一化解决数据偏移问题，运用勒让德投影动态更新具有固定大小的时间序列表示向量，以尽可能完整地获取关键的历史信息，结合多层感知机神经网络实现从输入历史时间序列数据到输出未来时间序列数据的预测过程。
进一步的，步骤1中，所述训练集、验证集和测试集的比例为6-7:1:2-3。
进一步的，步骤2具体包括以下步骤：
步骤2.1：利用季节—趋势分解法将时间序列分解为季节项成分和趋势项成分；
步骤2.2：将季节项成分和趋势项成分分别输入各自的可逆实例归一化层RevIN，可逆实例归一化层RevIN将季节项成分和趋势项成分由原始的分布转换为均值中心分布；
步骤2.3：将均值中心分布的季节项成分和趋势项成分分别输入各自的勒让德投影单元LPU，勒让德投影单元LPU动态更新具有固定大小的时间序列表示向量，获取关键历史信息，最终得到季节项成分和趋势项成分的表示向量；
步骤2.4：将得到的季节项成分和趋势项成分的表示向量分别输入各自的多层感知机神经网络，其完成从历史输入序列的表示向量到未来序列的表示向量的映射，以得到未来序列数据的季节项成分和趋势项成分的表示向量；
步骤2.5：将未来序列数据的季节项成分和趋势项成分的表示向量分别输入各自的勒让德投影单元LPU中的重构单元LPU_R，其将表示向量通过乘以离散勒让德多项式矩阵重构为原始输入的形式，以得到未来序列数据的季节项成分和趋势项成分；
步骤2.6：将未来序列数据的季节项成分和趋势项成分的表示向量输入各自的可逆实例反归一化层，使未来序列数据的季节项成分和趋势项成分恢复为原始的分布；
步骤2.7：将步骤2.6得到的未来序列数据的季节项成分和趋势项成分进行组合，得到最终输出的未来序列数据。
进一步的，步骤2.1具体为：所述季节—趋势时间序列分解方法中的“季节”表示的是季节性：当时间序列中的数据受到季节性因素（例如一年的时间或者一周的时间）的影响时，表示该时间序列具有季节性，季节性总是一个已知并且固定的频率。“趋势”：当一个时间序列数据长期增长或者长期下降时，表示该序列有趋势 ，在某些场合，趋势代表着“转换方向”，例如从增长的趋势转换为下降趋势。季节—趋势分解法将时间序列分解为季节项和趋势项/>，其计算方式定义如下：
时刻趋势项的值/>是通过求/>时刻的/>时间长度内的平均值得到的，式中/>是输入序列/>在/>时刻的数值，/>是移动平均的阶数，决定了趋势项的平滑程度，/>越大趋势项越平滑，/>，表示中心观测值/>和两侧各有的/>个观测值可被平均，时刻季节项的值/>通过/>减去/>得到。
进一步的，步骤2.2中，所述可逆实例归一化层RevIN的处理过程为：
计算输入数据的每一个实例的均值和标准差，均值计算为：
，
标准差计算为：
，
将输入数据归一化为
，
其中，是输入序列的长度，γ和β是可学习的仿射参数向量。步骤2.2对时间序列实例的统计信息进行了去除，为了恢复它，步骤2.6通过应用在步骤2时执行的归一化的逆过程来反归一化输出，恢复原始的分布。
进一步的，所述勒让德投影单元LPU包括投影单元和重构单元，投影单元是将原始信号投影到记忆单元:，LPU接受一个实值序列，并产生一个N维向量序列；重构单元是从记忆单元重建信号:/>，/>通过乘以离散勒让德多项式矩阵重构为原始输入；
勒让德投影单元是状态空间模型：
其中为/>时刻的原始输入信号，/>是到/>时刻的历史输入的记忆单元，N为勒让德多项式的个数，LPU包含两个预先设定的投影矩阵/>和/>，定义如下:
,
。
进一步的，步骤2.4中，所述多层感知机神经网络具体计算过程如下：
，
其中和/>为多层感知机神经网络各个层之间的连接权重以及偏置，多层感知机神经网络接收历史序列数据的表示向量作为输入，经过计算输出未来序列数据的表示向量。
进一步的，步骤3中，设置时间序列预测模型训练环境具体为：损失函数采用L2loss，模型优化器使用ADAM，初始学习率设置为0.0001，bathsize的大小设置为32，并在单个NVIDIA GeForce RTX 3080 12GB GPU上进行，训练过程在没有实际提升效果的10个epoch后提前停止。
进一步的，步骤4具体为：进行预测模型的调优，将验证集输入预测模型，根据预测模型在验证集上的预测结果，确定预测模型的超参数，选取最优的、误差最小的预测模型；将测试集输入预测模型对预测模型的进行测试，根据预测模型的预测结果和测试集中的真实值计算均方误差MSE和平均绝对误差MAE，通过均方误差MSE和平均绝对误差MAE评估模型的性能是否达到期望的标准。
有益效果：与现有技术相比，本发明具有如下显著优点：
（1）预测精度的提升。本发明方法引入了时间序列分解架构，使用季节——趋势分解方法将时间序列分解为更容易预测的基本组成部分；在此基础上，使用可逆实例归一化解决时间序列数据存在的分布偏移问题；同时，使用勒让德投影单元获取时间序列的表示向量，以捕捉输入序列的关键历史信息；最终使本发明方法具有比其他时间序列预测方法更强的预测性能，在预测未来数据时具有更小的误差。本发明方法能够为各种行业中需要时间序列预测工具的实际应用提供一个强有力的预测工具。
（2）复杂度的降低。本发明方法使用多层感知神经网络完成从历史输入数据到未来数据的映射，对比其他深度学习方法，模型降低了一个数量级的参数量，具有更低的时间消耗和内存空间消耗。在保证预测精度的同时，本发明方法具有轻量化的特性，使其有潜力运用于移动设备、嵌入式设备等对功耗、体积、成本有严格要求的，需要将轻量级方法作为首选的设备。
附图说明
图1是一种基于分解和勒让德投影的时间序列预测方法的流程图；
图2为本发明方法的模型图。
具体实施方式
下面结合附图对本发明的技术方案作进一步说明。
以预测四川省成都市的气温为例对本发明方法的具体实施方式作进一步详细的说明。
使用本发明方法对四川省成都市的气温进行预测的具体实施过程包括如下步骤：
步骤1），实现预测模型的代码；
步骤101），实现季节——趋势时间序列分解模块的代码，季节——趋势分解方法将时间序列分解为季节项和趋势项/>，其计算方式定义如下：
时刻趋势项的值/>是通过求/>时刻的/>时间长度内的平均值得到的，式中/>是输入序列/>在/>时刻的数值，/>是移动平均的阶数，决定了趋势项的平滑程度，/>越大趋势项越平滑，/>，表示中心观测值/>和两侧各有的/>个观测值可被平均，时刻季节项的值/>通过/>减去/>得到。
步骤102），实现可逆实例归一化模块的代码，可逆实例归一化的处理过程如下：
计算输入数据的每一个实例的均值
，
和标准差
，
使用这些统计信息，我们将输入数据归一化为
，
其中，γ和β是可学习的仿射参数向量。可逆实例归一化对时间序列实例的统计信息进行了去除和恢复，将时间序列数据由原始的分布转化均值中心分布，减少不同实例之间的差异。可逆实例归一化为对称机构，分为归一化过程和反归一化过程，前者对统计信息进行去除，是从原始分布转化到均值中心分布；后者对统计信息进行恢复，是从均值中心分布转化到原始分布。
步骤103），实现勒让德投影单元LPU的代码。勒让德投影单元是一个状态空间模型，处理过程如下：
,
其中为/>时刻的原始输入信号，/>是到/>时刻的历史输入的记忆单元，N为勒让德多项式的个数，LPU包含两个预先设定的投影矩阵/>和/>，定义如下:
,
.
LPU包含两个阶段，即投影和重构。前一级将原始信号投影到记忆单元:，LPU接受一个实值序列，并产生一个N维向量序列。后一级从记忆单元重建信号:/>，/>通过乘以离散勒让德多项式矩阵重构为原始输入。
步骤104），实现多层感知机神经网络的代码，多层感知机神经网络的具体计算过程如下：
，
其中和/>为多层感知机神经网络各个层之间的连接权重以及偏置。多层感知机神经网络接收历史序列数据的表示向量作为输入，经过计算输出未来序列数据的表示向量。
步骤105），根据图2所示的模型结构，将前面过程中实现的各个模块组合成完整的时间序列预测模型。
步骤2），处理预测模型训练所需的数据集，获取到四川省成都市的气象数据集，该数据集记录了2020年全年四川省成都市的气象数据，采样频率为10分钟，即每10分钟记录一次数据，数据集中包含气温、湿度等21个气象指标。遵循数据集的标准处理方法，按时间顺序将数据集划分为训练集、验证集和测试集，三者的大小比例为7:1:2。
步骤3），划分好数据集后，设置预测模型的训练环境。预测模型的训练环境设置：损失函数采用L2 loss，模型优化器使用ADAM，初始学习率设置为0.0001，bathsize的大小设置为32，并在单个NVIDIA GeForce RTX 3080 12GB GPU上进行，训练过程在没有实际提升效果的10个epoch后提前停止。
步骤4）设置好预测模型的训练环境后，开始进行预测模型的训练，将训练集输入预测模型进行训练，首先随机初始化所有参数，然后迭代地进行训练，不断地计算梯度然后更新模型的参数，训练过程loss不断下降，直到loss在10个epoch内没有下降，即预测模型收敛；
步骤5），进行预测模型的调优，将验证集输入预测模型，根据预测模型在验证集上的预测结果，确定预测模型的超参数，选取最优的、误差最小的预测模型。
步骤6），将测试集输入预测模型对预测模型的进行测试，根据预测模型的预测结果和测试集中的真实值计算MSE（均方误差）和MAE（平均绝对误差），通过MSE和MAE这两个评价指标评估模型的性能是否达到期望的标准。
步骤7），对四川省成都市的气温进行预测，将现在时刻之前的21种气象指标的历史观测值（气温、湿度等）输入预测模型，经过预测模型的计算得到未来时间的气温预测结果。
表1气温预测实验结果
如表1所示，在4个预测长度（96 steps，192 steps，336 steps和720steps）上对我们的方法进行了对比实验，其中Ours指代的是我们的方法。预测性能的评价指标选用的是MSE和MAE，二者都是越低越好。
Claims (8)
1.一种基于时间序列分解和勒让德投影的时间序列预测方法，其特征在于，通过执行以下步骤，构建时间序列预测模型，并基于时间序列预测模型对目标区域未来数据进行预测；
步骤1：获取目标区域的历史数据，并按时间顺序将历史数据划分为训练集、验证集和测试集；
步骤2：构建时间序列预测模型，将时间序列分解季节项成分和趋势项成分分别进行预测，并基于可逆实例归一化和勒让德投影，得到输出的未来序列数据；
步骤3：设置时间序列预测模型训练环境，通过训练集对时间序列预测模型进行训练，使用梯度函数更新模型参数，直至时间序列预模型达到收敛，得到收敛后的模型；
步骤4：通过验证集对模型进行调优，通过测试集评价模型的性能指标是否达到期望，得到训练完成的时间序列预测模型；
步骤2具体包括以下步骤：
步骤2.1：利用季节—趋势分解法将时间序列分解为季节项成分和趋势项成分；
步骤2.2：将季节项成分和趋势项成分分别输入各自的可逆实例归一化层RevIN，可逆实例归一化层RevIN将季节项成分和趋势项成分由原始的分布转换为均值中心分布；
步骤2.3：将均值中心分布的季节项成分和趋势项成分分别输入各自的勒让德投影单元LPU，勒让德投影单元LPU动态更新具有固定大小的时间序列表示向量，获取关键历史信息，最终得到季节项成分和趋势项成分的表示向量；
步骤2.4：将得到的季节项成分和趋势项成分的表示向量分别输入各自的多层感知机神经网络，其完成从历史输入序列的表示向量到未来序列的表示向量的映射，以得到未来序列数据的季节项成分和趋势项成分的表示向量；
步骤2.5：将未来序列数据的季节项成分和趋势项成分的表示向量分别输入各自的勒让德投影单元LPU中的重构单元LPU_R，其将表示向量通过乘以离散勒让德多项式矩阵重构为原始输入的形式，以得到未来序列数据的季节项成分和趋势项成分；
步骤2.6：将未来序列数据的季节项成分和趋势项成分的表示向量输入各自的可逆实例反归一化层，使未来序列数据的季节项成分和趋势项成分恢复为原始的分布；
步骤2.7：将步骤2.6得到的未来序列数据的季节项成分和趋势项成分进行组合，得到最终输出的未来序列数据。
2.根据权利要求1所述的一种基于时间序列分解和勒让德投影的时间序列预测方法，其特征在于，步骤1中，所述训练集、验证集和测试集的比例为6-7:1:2-3。
3.根据权利要求1所述的一种基于时间序列分解和勒让德投影的时间序列预测方法，其特征在于，步骤2.1具体为：季节—趋势分解法将时间序列分解为季节项T和趋势项S，其计算方式定义如下：
St＝xt-Tt
t时刻趋势项的值Tt是通过求t时刻的m时间长度内的平均值得到的，式中xt是输入序列X在t时刻的数值，k是移动平均的阶数，决定了趋势项的平滑程度，k越大趋势项越平滑，m＝2k+1，表示中心观测值xt和两侧各有的k个观测值可被平均，t时刻季节项的值St通过xt减去Tt得到。
4.根据权利要求1所述的一种基于时间序列分解和勒让德投影的时间序列预测方法，其特征在于，步骤2.2中，所述可逆实例归一化层RevIN的处理过程为：
计算输入数据的每一个实例的均值和标准差，均值计算为：
标准差计算为：
将输入数据x(i)归一化为
其中，Tx是输入序列的长度，γ和β是可学习的仿射参数向量。
5.根据权利要求1所述的一种基于时间序列分解和勒让德投影的时间序列预测方法，其特征在于，所述勒让德投影单元LPU包括投影单元和重构单元，投影单元是将原始信号投影到记忆单元:C＝LPU(X)，LPU接受一个实值序列，并产生一个N维向量序列；重构单元是从记忆单元重建信号:Xre＝LPU_R(C)，Ct通过乘以离散勒让德多项式矩阵重构为原始输入；
勒让德投影单元是状态空间模型：
Ct＝ACt-1+Bxt
其中xt为t时刻的原始输入信号，Ct是到t时刻的历史输入的记忆单元，勒让德多项式的个数等于N，LPU包含两个预先设定的投影矩阵A和B，定义如下:
Bn＝(2n+1)(-1)n。
6.根据权利要求1所述的一种基于时间序列分解和勒让德投影的时间序列预测方法，其特征在于，步骤2.4中，所述多层感知机神经网络具体计算过程如下：
Cl＝WlCl-1+bl，
其中Wl和bl为多层感知机神经网络各个层之间的连接权重以及偏置，多层感知机神经网络接收历史序列数据的表示向量作为输入，经过计算输出未来序列数据的表示向量。
7.根据权利要求1所述的一种基于时间序列分解和勒让德投影的时间序列预测方法，其特征在于，步骤3中，设置时间序列预测模型训练环境具体为：损失函数采用L2 loss，模型优化器使用ADAM，初始学习率设置为0.0001，bathsize的大小设置为32，训练过程在没有实际提升效果的10个epoch后提前停止。
8.根据权利要求1所述的一种基于时间序列分解和勒让德投影的时间序列预测方法，其特征在于，步骤4具体为：进行预测模型的调优，将验证集输入预测模型，根据预测模型在验证集上的预测结果，确定预测模型的超参数，选取最优的、误差最小的预测模型；将测试集输入预测模型对预测模型的进行测试，根据预测模型的预测结果和测试集中的真实值计算均方误差MSE和平均绝对误差MAE，通过均方误差MSE和平均绝对误差MAE评估模型的性能是否达到期望的标准。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310755841.2A CN116502774B (zh) | 2023-06-26 | 2023-06-26 | 一种基于时间序列分解和勒让德投影的时间序列预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310755841.2A CN116502774B (zh) | 2023-06-26 | 2023-06-26 | 一种基于时间序列分解和勒让德投影的时间序列预测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116502774A CN116502774A (zh) | 2023-07-28 |
| CN116502774B true CN116502774B (zh) | 2023-09-12 |
Family
ID=87320518
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310755841.2A Active CN116502774B (zh) | 2023-06-26 | 2023-06-26 | 一种基于时间序列分解和勒让德投影的时间序列预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116502774B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117993963A (zh) * | 2024-04-03 | 2024-05-07 | 三峡电能有限公司 | 一种基于时空组态的多充电桩场站用电量预测方法 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112085254A (zh) * | 2020-08-05 | 2020-12-15 | 中国地质大学（武汉） | 基于多重分形协同度量门控循环单元的预测方法及模型 |
| CN113298288A (zh) * | 2021-04-12 | 2021-08-24 | 国网浙江省电力有限公司湖州供电公司 | 一种融合时间序列和神经网络的供电所运维成本预测方法 |
| CN113454648A (zh) * | 2019-03-06 | 2021-09-28 | 应用智慧研究公司 | 循环神经网络中的勒让德存储器单元 |
| CN114239990A (zh) * | 2021-12-24 | 2022-03-25 | 长春大学 | 一种基于时间序列分解和lstm的时间序列数据预测方法 |
| CN114330814A (zh) * | 2021-11-10 | 2022-04-12 | 国电南瑞南京控制系统有限公司 | 一种基于vmd分解和改进双层bilstm网络的短期负荷预测方法 |
| CN115204449A (zh) * | 2022-05-26 | 2022-10-18 | 中国人民解放军国防科技大学 | 一种基于自适应勒让德皮卡迭代法的轨道预测方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CA3171156A1 (en) * | 2021-08-25 | 2023-02-25 | Applied Brain Research Inc. | Methods and systems for learning online to predict time-series data |
-
2023
- 2023-06-26 CN CN202310755841.2A patent/CN116502774B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113454648A (zh) * | 2019-03-06 | 2021-09-28 | 应用智慧研究公司 | 循环神经网络中的勒让德存储器单元 |
| CN112085254A (zh) * | 2020-08-05 | 2020-12-15 | 中国地质大学（武汉） | 基于多重分形协同度量门控循环单元的预测方法及模型 |
| CN113298288A (zh) * | 2021-04-12 | 2021-08-24 | 国网浙江省电力有限公司湖州供电公司 | 一种融合时间序列和神经网络的供电所运维成本预测方法 |
| CN114330814A (zh) * | 2021-11-10 | 2022-04-12 | 国电南瑞南京控制系统有限公司 | 一种基于vmd分解和改进双层bilstm网络的短期负荷预测方法 |
| CN114239990A (zh) * | 2021-12-24 | 2022-03-25 | 长春大学 | 一种基于时间序列分解和lstm的时间序列数据预测方法 |
| CN115204449A (zh) * | 2022-05-26 | 2022-10-18 | 中国人民解放军国防科技大学 | 一种基于自适应勒让德皮卡迭代法的轨道预测方法 |
Non-Patent Citations (1)
| Title |
|---|
| 时间序列的相关性及信息熵分析;史文彬;《万方数据库》 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116502774A (zh) | 2023-07-28 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Pei et al. | Wind speed prediction method based on empirical wavelet transform and new cell update long short-term memory network | |
| Essien et al. | A deep learning framework for univariate time series prediction using convolutional LSTM stacked autoencoders | |
| CN111860982A (zh) | 一种基于vmd-fcm-gru的风电场短期风电功率预测方法 | |
| CN113905391B (zh) | 集成学习网络流量预测方法、系统、设备、终端、介质 | |
| CN116502774B (zh) | 一种基于时间序列分解和勒让德投影的时间序列预测方法 | |
| CN112418482A (zh) | 一种基于时间序列聚类的云计算能耗预测方法 | |
| Yang et al. | A novel general-purpose hybrid model for time series forecasting | |
| Peng et al. | Multi-step-ahead host load prediction with gru based encoder-decoder in cloud computing | |
| CN116316591A (zh) | 基于混合双向门控循环的短期光伏功率预测方法及系统 | |
| CN116702831A (zh) | 一种考虑数据大量丢失的混合短期风电功率预测方法 | |
| CN116346639A (zh) | 一种网络流量预测方法、系统、介质、设备及终端 | |
| CN116227180A (zh) | 基于数据驱动的机组组合智能决策方法 | |
| CN116822374A (zh) | 一种风速多步预测方法、装置、计算机设备和存储介质 | |
| Basterrech et al. | Evolutionary Echo State Network: A neuroevolutionary framework for time series prediction | |
| CN112381279B (zh) | 一种基于vmd和bls组合模型的风电功率预测方法 | |
| CN113128666A (zh) | 基于Mo-S-LSTMs模型的时间序列多步预测方法 | |
| CN116341720A (zh) | 基于动态图卷积和transformer的多风机风速风向预测方法 | |
| CN111461416B (zh) | 风速预测方法、系统、电子设备及存储介质 | |
| CN111476408B (zh) | 一种电力通信设备状态预测方法及系统 | |
| Li et al. | Neural plasticity networks | |
| García-Nava et al. | Fast training of a transformer for global multi-horizon time series forecasting on tensor processing units | |
| CN111461418B (zh) | 风速预测方法、系统、电子设备及存储介质 | |
| Wu et al. | Development of a novel variable selection algorithm for LSTM with LASSO | |
| Gao | Industrial Production Index Forecast based on EMD-TCN | |
| CN116402321A (zh) | 物品需求量确定方法及装置、电子设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |