CN116187197A - 一种融合数据增强和深度学习的时间序列预测方法 - Google Patents

一种融合数据增强和深度学习的时间序列预测方法 Download PDF

Info

Publication number
CN116187197A
CN116187197A CN202310237649.4A CN202310237649A CN116187197A CN 116187197 A CN116187197 A CN 116187197A CN 202310237649 A CN202310237649 A CN 202310237649A CN 116187197 A CN116187197 A CN 116187197A
Authority
CN
China
Prior art keywords
data
attention
training
self
query
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310237649.4A
Other languages
English (en)
Inventor
周宇
吴皓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Aeronautics and Astronautics
Original Assignee
Nanjing University of Aeronautics and Astronautics
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Aeronautics and Astronautics filed Critical Nanjing University of Aeronautics and Astronautics
Priority to CN202310237649.4A priority Critical patent/CN116187197A/zh
Publication of CN116187197A publication Critical patent/CN116187197A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
    • G06F2119/02—Reliability analysis or reliability optimisation; Failure analysis, e.g. worst case scenario performance, failure mode and effects analysis [FMEA]
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00—Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computer Hardware Design (AREA)
  • Geometry (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种融合数据增强和深度学习的时间序列预测的方法，包括步骤如下：对各个风机中的传感器的示数进行收集得到相关时间序列的数据集；对数据集进行预处理，对数据集按照一定的比例加入高斯噪声进行数据增强；使用深度学习模型Informer的编码器进行编码，提取时间序列中的时间特征，数据特征；将特征输入编码器，在训练中加入对抗训练，实现数据集数量翻倍的效果，同时提高模型的鲁棒性；构建分位数损失函数，对每一轮的训练进行优化。本发明从数据增强的角度，同时考虑了添加基于规则的高斯噪声和基于梯度的对抗训练实现数据增强，与深度学习模型Informer进行融合，可以实现时间序列的预测。

Description

一种融合数据增强和深度学习的时间序列预测方法
技术领域
本发明属于时间序列预测技术领域，具体涉及一种融合数据增强和深度学习的风力发电机中传感器示数的预测方法。
背景技术
目前我国大力发展风力发电机，风力发电机会应用在很多的场景，例如海上风力发电和陆地风力发电等，保持风力发电机一直处在平稳运行状态是确保发电量的重点。风力发电机中对每个关键的中间件都有传感器进行数据监控，对数据进行时间序列的相关分析并对未来的数据进行预测，如果可以准确预测出风机可能出现的隐患可以有效减少风机的成本且保障风机的发电效率。
对于时间序列预测一直是学术界和工业界的热点问题，基于CNN的模型使用多个因果卷积层来对数据进行建模。DeepAR基于RNN架构，使用解码器-编码器的结构来模拟序列的概率分布。LSTNet是融合自回归和LSTM方法捕捉长短期依赖。基于Transformer的方法由于多头注意力机制在预测方面取得巨大成功。
数据增强在数据处理中作为一种有效手段被广泛使用，面对数据集不足、数据集不够准确等情况人们通常会选择数据增强来提升模型的性能。添加随机噪声作为一种常用手段，一般都是将噪声添加到训练集中防止模型过拟合。在时间序列中，对每一个时间序列数值基于某种规则随机的添加噪声来形成新的序列达到数据增强的目的。Fields等人通过大规模的实验证明添加噪声到训练集可以降低模型的敏感性从而提高模型的通用性。
对抗训练在自然语言和图像处理中有大量的研究成果，主要方法是通过添加鉴别器或者基于梯度来构造一些扰动形成对抗样本加入到原始数据集中，可提升模型对对抗样本的防御能力，提升模型的泛化能力和鲁棒性。对抗训练中如何确定添加扰动的规模是一个关键性问题。Goodfellow等人第一次提出对抗训练这个概念，在原始数据集中加入一定程度的扰动得到对抗样本进行训练可以提升性能。Miyato等人提出了Fast GradientMethod(FGM)，根据具体的梯度生成更好的对抗样本。
发明内容
针对于上述现有技术的不足，本发明的目的在于提供一种融合数据增强和深度学习的时间序列预测方法。
为达到上述目的，本发明采用的技术方案如下：
本发明的一种融合数据增强和深度学习的时间序列预测方法，基于informer模型，使用添加基于规则的高斯噪声和基于梯度的对抗训练两种数据增强手段，可以有效的提高模型性能。包括步骤如下：
(1)原始数据通过添加不同比例的基于规则的高斯噪声，实现数据增强得到新的数据集；
(2)编码器对新的数据集进行特征编码，将时间序列数据转换为多维的矩阵向量，从而得到数据输入；
(3)编码器使用多头注意力机制去计算各个数据的权重，在训练过程中不断更新权重，编码器处理后得到输出和新的数据再作为解码器的输入，在模型的Embed层中加入对抗训练实现数据增强，解码器也是通过和编码器形成多头注意力和自身有掩码的多头注意力去捕捉时间序列中的复杂的线性关系；
(4)构建损失函数，在每一次的训练中不断更新权重参数，训练结束后可以对时间序列进行预测。
为优化上述技术方案，采取的具体措施还包括：
上述步骤(1)中添加高斯噪声，由于风机会处在陆地海上等多个场所，如果环境相对恶劣会导致传感器示数产生一定的误差，为了模拟真实的数据使用场景向数据集中添加不同比例的高斯噪声。对高斯噪声的定义公式如下：
Figure BSA0000296710400000021
其中
Figure BSA0000296710400000022
表示添加的噪声。
上述步骤(2)中进行特征编码，在长序列预测问题中，数据建模不仅要用到局部的时序信息，全局的时间戳也很重要(hour，day，week，month，year，holiday等)。因此模型中不光对时间数据和局部信息进行编码，还针对全局时间戳进行编码。在维度对齐方面，使用一维卷积滤波器将标量上下文
Figure BSA0000296710400000023
映射到dmod el维的向量/>
Figure BSA0000296710400000024
由此可以得到输入由三个部分组成：标量投影、局部时间戳和全局时间戳，表示向量如下：
Figure BSA0000296710400000031
其中，i∈{1，...，Lx}；α为平衡因子。
上述步骤(3)中编码器中所使用的多头注意力机制，与传统的transformer的多头自注意力层不同，主要针对多头自注意力层进行改进，降低了常规自注意力计算复杂度和空间复杂度，设计出ProbSparse自注意力机制。与传统自注意力机制中对query和key向量中对每个q和k全部计算不同，ProbSparse会选取query和key中分值较大的一部分来作为注意力分数的计算，具体公式如下：
Figure BSA0000296710400000032
Figure BSA0000296710400000033
其中qi表示query中的第i个维度，kj表示query中的第j个维度；
上述两个公式中第二个公式是第一个公式的近似结果，可以降低自注意力层的时间复杂度变为O(L·ln L)。首先，假设序列长度为L，模型对query向量中的q按照5.ln L的长度随机采样k，根据第一个公式计算每个query的稀疏性得分并选择5·ln L个query，只计算5.ln L个query和key的点积结果，进而得到attention结果。其余没有用到的q和k则使用query和key的均值替代。
为了更快的处理，计算可以以矩阵的形式完成，公式如下：
Figure BSA0000296710400000034
/>
其中，
Figure BSA0000296710400000035
是与query大小相同的稀疏矩阵，在稀疏度量为M(q，K)的尺度下它仅包含Top-u个q(u＝5·ln L)。
此外，在多头的视角下，每头的注意力生成不同的稀疏的query-key键值对，从而避免丢失重要的信息。
上述步骤(3)中使用对抗训练进行数据增强，使用Projected Gradient Descent(PGD)方法进行对抗训练。如何确定微小扰动是对抗训练中的重点问题，PGD从对抗鲁棒性的优化角度出发，将寻找扰动定义为寻找鞍点的问题。
对抗训练将攻击和防御都规约到Min-Max最优化框架里，在利用PGD产生对抗样本进行训练。Min-Max公式如下：
Figure BSA0000296710400000041
其中D为输入样本的分布，L为损失函数，S为扰动的范围空间。max函数是为了找到最坏案例的扰动，min函数是为了计算出最鲁棒的模型参数。
PGD的优化是在一个扰动半径为ε的空间，每一步都是优化过程，如果走出扰动半径则映射回“球面”上来保证扰动不会过大，其产生对抗样本的公式如下：
Figure BSA0000296710400000042
其中，α为小步的步长，S＝r∈Rd，||r||2≤ε。
上述步骤(3)中的解码器使用标准解码器结构，它由两个相同的多头注意力层组成，分别是掩码自注意力层和编码器-解码器注意力层。利用生成推理(generativeinference)可缓解长序列预测中的速度骤降。将下面的向量反馈给解码器：
Figure BSA0000296710400000043
其中，
Figure BSA0000296710400000044
代表开始的token，/>
Figure BSA0000296710400000045
是目标序列的占位符。掩码多头自注意力层可以通过把掩码的点积设置为负无穷来对ProbSparse自注意力层进行计算。它阻止每个位置都关注未来的位置，从而避免了自回归。最后通过一个全连接层来获得最终的输出。
上述步骤(4)中的损失函数为归一化分位数损失函数，这是为了从全局的角度去考察模型的性能，满足现实世界中的时间序列数据具有某种随机性倾向，公式如下：
Figure BSA0000296710400000046
Figure BSA0000296710400000047
其中，y表示真实值，
Figure BSA0000296710400000048
表示预测值。/>
Figure BSA0000296710400000049
是指标函数。
附图说明
图1融合数据增强和深度学习的时间序列预测方法的原理示意图
图2 Informer模型框架图
具体实施方式
为了便于本领域技术人员的理解，下面结合实例与附图对本发明作进一步的说明，实施方式提及的内容并非对本发明的限定。
参照图1所示，融合数据增强和深度学习的时间序列预测方法，包括步骤如下：
(1)原始数据通过添加不同比例的基于规则的高斯噪声，实现数据增强得到新的数据集，由于风机会处在陆地海上等多个场所，如果环境相对恶劣会导致传感器示数产生一定的误差，为了模拟真实的数据使用场景向数据集中添加不同比例的高斯噪声。对高斯噪声的定义公式如下：
Figure BSA0000296710400000051
其中
Figure BSA0000296710400000052
表示添加的噪声。
(2)编码器对新的数据集进行特征编码，如图2所示，在长序列预测问题中，数据建模不仅要用到局部的时序信息，全局的时间戳也很重要(hour，day，week，month，year，holiday等)。因此模型中不光对时间数据和局部信息进行编码，还针对全局时间戳进行编码。在维度对齐方面，使用一维卷积滤波器将标量上下文
Figure BSA0000296710400000053
映射到dmod el维的向量/>
Figure BSA0000296710400000054
由此可以得到输入由三个部分组成：标量投影、局部时间戳和全局时间戳，表示向量如下：
Figure BSA0000296710400000055
其中，i∈{1，...，Lx}；α为平衡因子。
(3)如图2所示，编码器使用多头注意力机制去计算各个数据的权重，在训练过程中不断更新权重，编码器处理后得到输出和新的数据再作为解码器的输入。编码器中所使用的多头注意力机制，与传统的transformer的多头自注意力层不同，主要针对多头自注意力层进行改进，降低了常规自注意力计算复杂度和空间复杂度，设计出ProbSparse自注意力机制。与传统自注意力机制中对query和key向量中对每个q和k全部计算不同，ProbSparse会选取query和key中分值较大的一部分来作为注意力分数的计算，具体公式如下：
Figure BSA0000296710400000056
Figure BSA0000296710400000057
其中qi表示query中的第i个维度，kj表示query中的第j个维度；
上述两个公式中第二个公式是第一个公式的近似结果，可以降低自注意力层的时间复杂度变为O(L·ln L)。首先，假设序列长度为L，模型对query向量中的q按照5.ln L的长度随机采样k，根据第一个公式计算每个query的稀疏性得分并选择5.ln L个query，只计算5.ln L个query和key的点积结果，进而得到attention结果。其余没有用到的q和k则使用query和key的均值替代。
为了更快的处理，计算可以以矩阵的形式完成，公式如下：
Figure BSA0000296710400000061
其中，
Figure BSA0000296710400000062
是与query大小相同的稀疏矩阵，在稀疏度量为M(q，K)的尺度下它仅包含Top-u个q(u＝5.ln L)。
此外，在多头的视角下，每头的注意力生成不同的稀疏的query-key键值对，从而避免丢失重要的信息。
另外，在模型的Embed层中加入基于梯度的对抗训练实现数据增强，使用Projected Gradient Descent(PGD)方法进行对抗训练。如何确定微小扰动是对抗训练中的重点问题，PGD从对抗鲁棒性的优化角度出发，将寻找扰动定义为寻找鞍点的问题。
对抗训练将攻击和防御都规约到Min-Max最优化框架里，在利用PGD产生对抗样本进行训练。Min-Max公式如下：
Figure BSA0000296710400000063
其中D为输入样本的分布，L为损失函数，S为扰动的范围空间。max函数是为了找到最坏案例的扰动，min函数是为了计算出最鲁棒的模型参数。
PGD的优化是在一个扰动半径为ε的空间，每一步都是优化过程，如果走出扰动半径则映射回“球面”上来保证扰动不会过大，其产生对抗样本的公式如下：
Figure BSA0000296710400000064
其中，α为小步的步长，S＝r∈Rd，||r||2≤ε。
解码器使用标准解码器结构，它由两个相同的多头注意力层组成，分别是掩码自注意力层和编码器-解码器注意力层。利用生成推理(generative inference)可缓解长序列预测中的速度骤降。将下面的向量反馈给解码器：
Figure BSA0000296710400000071
其中，
Figure BSA0000296710400000072
代表开始的token，/>
Figure BSA0000296710400000073
是目标序列的占位符。掩码多头自注意力层可以通过把掩码的点积设置为负无穷来对ProbSparse自注意力层进行计算。它阻止每个位置都关注未来的位置，从而避免了自回归。最后通过一个全连接层来获得最终的输出。
(4)构建损失函数，在每一次的训练中不断更新权重参数，训练结束后可以对时间序列进行预测。损失函数为归一化分位数损失函数，这是为了从全局的角度去考察模型的性能，满足现实世界中的时间序列数据具有某种随机性倾向，公式如下：
Figure BSA0000296710400000074
Figure BSA0000296710400000075
其中，y表示真实值，
Figure BSA0000296710400000076
表示预测值。/>
Figure BSA0000296710400000077
是指标函数。
以下采用实验的方式来体现本发明方法的性能。
实验的主要内容为：不断更改高斯噪声在数据集中的比例，采用MSE和归一化分位数损失方法显示本发明方法的性能。
实验采用的数据，来自于工业现场采集的数据集。
算法评价的计算方式是均方误差MSE指标和归一化分位数损失(分位数选择为50，记为Q50)，均方误差函数的具体形式为：
Figure BSA0000296710400000078
Figure BSA0000296710400000079
Figure BSA00002967104000000710
采用MSE和Q50是为了从全局的视野出发，不易受个别离群点影响，鲁棒性更强。计算不同比例的噪声对模型的影响，并以此作为选择依据，两个指标均是结果越低效果越好，具体结果如表一：
表一 不同噪声比例实验数据
Figure BSA0000296710400000081
实验表明本发明方法不同比例的噪声均有不错的效果，且在比例为50％效果最佳，体现出模型具有良好的预测性能和很好的鲁棒性。
本发明具体应用途径很多，以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以作出若干改进，这些改进也应视为本发明的保护范围。

Claims (7)

1.一种融合数据增强和深度学习的时间序列预测方法，其特征在于，包括步骤如下：
(1)原始数据通过添加不同比例的基于规则的高斯噪声，实现数据增强得到新的数据集；
(2)编码器对新的数据集进行特征编码，将时间序列数据转换为多维的矩阵向量，从而得到数据输入；
(3)编码器使用多头注意力机制去计算各个数据的权重，在训练过程中不断更新权重，编码器处理后得到输出和新的数据再作为解码器的输入，在模型的Embed层中加入对抗训练实现数据增强，解码器也是通过和编码器形成多头注意力和自身有掩码的多头注意力去捕捉时间序列中的复杂的线性关系；
(4)构建损失函数，在每一次的训练中不断更新权重参数，训练结束后可以对时间序列进行预测。
2.根据权利要求1所述的融合数据增强和深度学习的时间序列预测方法，其特征在于，所述步骤(1)中添加高斯噪声，由于风机会处在陆地海上等多个场所，如果环境相对恶劣会导致传感器示数产生一定的误差，为了模拟真实的数据使用场景向数据集中添加不同比例的高斯噪声。对高斯噪声的定义公式如下：
Figure FSA0000296710390000011
其中
Figure FSA0000296710390000012
表示添加的噪声。
3.根据权利要求1所述的融合数据增强和深度学习的时间序列预测方法，其特征在于，所述步骤(2)中进行特征编码，在长序列预测问题中，数据建模不仅要用到局部的时序信息，全局的时间戳也很重要(hour，day，week，month，year，holiday等)。因此模型中不光对时间数据和局部信息进行编码，还针对全局时间戳进行编码。在维度对齐方面，使用一维卷积滤波器将标量上下文
Figure FSA0000296710390000013
映射到dmodel维的向量/>
Figure FSA0000296710390000014
由此可以得到输入由三个部分组成：标量投影、局部时间戳和全局时间戳，表示向量如下：
Figure FSA0000296710390000015
其中，i∈{1，...，Lx}；α为平衡因子。
4.根据权利要求1所述的融合数据增强和深度学习的时间序列预测方法，其特征在于，所述步骤(3)中编码器中所使用的多头注意力机制，与传统的transformer的多头自注意力层不同，主要针对多头自注意力层进行改进，降低了常规自注意力计算复杂度和空间复杂度，设计出ProbSparse自注意力机制。与传统自注意力机制中对query和key向量中对每个q和k全部计算不同，ProbSparse会选取query和key中分值较大的一部分来作为注意力分数的计算，具体公式如下：
Figure FSA0000296710390000021
Figure FSA0000296710390000022
其中qi表示query中的第i个维度，kj表示query中的第j个维度。
上述两个公式中第二个公式是第一个公式的近似结果，可以降低自注意力层的时间复杂度变为O(L·ln L)。首先，假设序列长度为L，模型对query向量中的q按照5·ln L的长度随机采样k，根据第一个公式计算每个query的稀疏性得分并选择5·ln L个query，只计算5·ln L个query和key的点积结果，进而得到attention结果。其余没有用到的q和k则使用query和key的均值替代。
为了更快的处理，计算可以以矩阵的形式完成，公式如下：
Figure FSA0000296710390000023
其中，
Figure FSA0000296710390000024
是与query大小相同的稀疏矩阵，在稀疏度量为M(q，K)的尺度下它仅包含Top-u个q(u＝5·ln L)。
此外，在多头的视角下，每头的注意力生成不同的稀疏的query-key键值对，从而避免丢失重要的信息。
5.根据权利要求1所述的融合数据增强和深度学习的时间序列预测方法，其特征在于，所述步骤(3)中使用对抗训练进行数据增强，使用Projected Gradient Descent(PGD)方法进行对抗训练。如何确定微小扰动是对抗训练中的重点问题，PGD从对抗鲁棒性的优化角度出发，将寻找扰动定义为寻找鞍点的问题。
对抗训练将攻击和防御都规约到Min-Max最优化框架里，在利用PGD产生对抗样本进行训练。Min-Max公式如下：
Figure FSA0000296710390000025
其中D为输入样本的分布，L为损失函数，S为扰动的范围空间。max函数是为了找到最坏案例的扰动，min函数是为了计算出最鲁棒的模型参数。
PGD的优化是在一个扰动半径为ε的空间，每一步都是优化过程，如果走出扰动半径则映射回“球面”上来保证扰动不会过大，其产生对抗样本的公式如下：
Figure FSA0000296710390000031
其中，α为小步的步长，S＝r∈Rd，||r||2≤ε。
6.根据权利要求1所述的融合数据增强和深度学习的时间序列预测方法，其特征在于，所述步骤(3)中的解码器使用标准解码器结构，它由两个相同的多头注意力层组成，分别是掩码自注意力层和编码器-解码器注意力层。利用生成推理(generative inference)可缓解长序列预测中的速度骤降。将下面的向量反馈给解码器：
Figure FSA0000296710390000032
其中，
Figure FSA0000296710390000033
代表开始的token，/>
Figure FSA0000296710390000034
是目标序列的占位符。掩码多头自注意力层可以通过把掩码的点积设置为负无穷来对ProbSparse自注意力层进行计算。它阻止每个位置都关注未来的位置，从而避免了自回归。最后通过一个全连接层来获得最终的输出。
7.根据权利要求1所述的融合数据增强和深度学习的时间序列预测方法，其特征在于，所述步骤(4)中的损失函数为归一化分位数损失函数，这是为了从全局的角度去考察模型的性能，满足现实世界中的时间序列数据具有某种随机性倾向，公式如下：
Figure FSA0000296710390000035
Figure FSA0000296710390000036
其中，y表示真实值，
Figure FSA0000296710390000037
表示预测值。/>
Figure FSA0000296710390000038
是指标函数。/>
CN202310237649.4A 2023-03-13 2023-03-13 一种融合数据增强和深度学习的时间序列预测方法 Pending CN116187197A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310237649.4A CN116187197A (zh) 2023-03-13 2023-03-13 一种融合数据增强和深度学习的时间序列预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310237649.4A CN116187197A (zh) 2023-03-13 2023-03-13 一种融合数据增强和深度学习的时间序列预测方法

Publications (1)

Publication Number Publication Date
CN116187197A true CN116187197A (zh) 2023-05-30

Family

ID=86440419

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310237649.4A Pending CN116187197A (zh) 2023-03-13 2023-03-13 一种融合数据增强和深度学习的时间序列预测方法

Country Status (1)

Country Link
CN (1) CN116187197A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116705306A (zh) * 2023-08-03 2023-09-05 首都医科大学附属北京天坛医院 监测脑卒中的方法、监测脑卒中的装置和存储介质
CN116862080A (zh) * 2023-09-05 2023-10-10 国网山东省电力公司营销服务中心(计量中心) 一种基于双视角对比学习的碳排放预测方法及系统

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116705306A (zh) * 2023-08-03 2023-09-05 首都医科大学附属北京天坛医院 监测脑卒中的方法、监测脑卒中的装置和存储介质
CN116705306B (zh) * 2023-08-03 2023-10-31 首都医科大学附属北京天坛医院 监测脑卒中的方法、监测脑卒中的装置和存储介质
CN116862080A (zh) * 2023-09-05 2023-10-10 国网山东省电力公司营销服务中心(计量中心) 一种基于双视角对比学习的碳排放预测方法及系统
CN116862080B (zh) * 2023-09-05 2024-02-09 国网山东省电力公司营销服务中心(计量中心) 一种基于双视角对比学习的碳排放预测方法及系统

Similar Documents

Publication Publication Date Title
CN111161535B (zh) 基于注意力机制的图神经网络交通流量预测方法及系统
CN116187197A (zh) 一种融合数据增强和深度学习的时间序列预测方法
CN110929092B (zh) 一种基于动态注意力机制的多事件视频描述方法
CN115018021B (zh) 基于图结构与异常注意力机制的机房异常检测方法及装置
CN110059206A (zh) 一种基于深度表征学习的大规模哈希图像检索方法
Zhu et al. Attention-based multiscale residual adaptation network for cross-scene classification
Zhang et al. Positional context aggregation network for remote sensing scene classification
Qiao et al. Sea surface temperature prediction approach based on 3D CNN and LSTM with attention mechanism
CN117096867A (zh) 一种短期电力负荷预测方法、装置、系统及存储介质
CN111242351A (zh) 基于自编码器和gru神经网络的热带气旋轨迹预测方法
Li et al. Deep spatio-temporal wind power forecasting
CN114462718A (zh) 基于时间滑动窗口的cnn-gru风电功率预测方法
CN114819372A (zh) 一种基于神经网络的电力消费概率预测方法
CN115809833B (zh) 基于画像技术的基建项目智能监督方法、装置
CN116596150A (zh) 基于多分支自注意力的Transformer霍克斯过程模型的事件预测方法
CN114841072A (zh) 一种基于差分融合Transformer的时序预测方法
CN115424059A (zh) 一种基于像素级对比学习的遥感土地利用分类方法
CN116844041A (zh) 一种基于双向卷积时间自注意力机制的耕地提取方法
CN114973136A (zh) 一种极端条件下场景图像识别方法
Jønler et al. Probabilistic forecasts of global horizontal irradiance for solar systems
CN116743182B (zh) 一种数据无损压缩方法
CN115392595B (zh) 基于图卷积神经网络和Transformer的时空短期风速预测方法及系统
CN116955675A (zh) 基于细粒度相似关系对比学习的哈希图像检索方法及网络
CN116257786A (zh) 一种基于多元时序图结构的异步时间序列分类方法
CN115331301A (zh) 一种基于Transformer的6D姿态估计方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication