CN113285721A - 一种面向稀疏移动感知数据的重构与预测算法 - Google Patents

一种面向稀疏移动感知数据的重构与预测算法 Download PDF

Info

Publication number
CN113285721A
CN113285721A CN202110646063.4A CN202110646063A CN113285721A CN 113285721 A CN113285721 A CN 113285721A CN 202110646063 A CN202110646063 A CN 202110646063A CN 113285721 A CN113285721 A CN 113285721A
Authority
CN
China
Prior art keywords
time
data
reconstruction
embedding
space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110646063.4A
Other languages
English (en)
Other versions
CN113285721B (zh
Inventor
赵东
马华东
邢云浩
曹子建
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing University of Posts and Telecommunications
Original Assignee
Beijing University of Posts and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing University of Posts and Telecommunications filed Critical Beijing University of Posts and Telecommunications
Priority to CN202110646063.4A priority Critical patent/CN113285721B/zh
Publication of CN113285721A publication Critical patent/CN113285721A/zh
Application granted granted Critical
Publication of CN113285721B publication Critical patent/CN113285721B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/3059—Digital compression and data reduction techniques where the original information is represented by a subset or similar information, e.g. lossy compression
    • H03M7/3062—Compressive sampling or sensing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

一种面向稀疏移动感知数据的重构与预测算法涉及移动感知技术领域，解决了现有实时性等的问题，步骤为：通过处理空间信息得到空间嵌入SE，通过处理时间信息得到历史时间嵌入HE与未来时间嵌入FE，通过处理HE、SE和感知数据X得到时空嵌入STE；根据HE、FE、STE和X，提取空间隐向量
Figure DDA0003109698060000011
和历史时间隐向量
Figure DDA0003109698060000012
根据HE、FE、STE和
Figure DDA0003109698060000018
求取未来时间隐向量
Figure DDA0003109698060000017
通过双线性解码器一对
Figure DDA0003109698060000013
和
Figure DDA0003109698060000014
进行重构，得到重构感知数据；通过双线性解码器二对
Figure DDA0003109698060000016
和
Figure DDA0003109698060000015
进行预测，得到未来时间的感知数据预测结果。本发明减少了误差传播，能够满足实时性要求，能够得到较好的数据重构效果和预测，能够达到秒级的重构、预测速度。

Description

一种面向稀疏移动感知数据的重构与预测算法
技术领域
本发明涉及移动感知技术领域，具体涉及一种面向稀疏移动感知数据的重构与预测算法。
背景技术
随着智慧城市的发展，传感器被广泛部署在城市中来收集和提供城市数据。传统上，数据采集主要基于静态传感器，如地下感应线圈和摄像机。虽然静态传感器可以提供可靠的测量，但它们的成本较高，覆盖范围有限。随着传感设备和通信技术的发展，传感器可以部署在如无人机或汽车等移动设备上来收集城市数据，称之为移动感知。这种可移动的感知方式避免了在城市的各个角落部署昂贵的静态传感器，可以更有效地收集信息。
然而，所有这些感知方法都存在数据完整性问题：设备故障和传输错误会造成感知数据的丢失，称之为数据缺失；移动感知中设备分布不均匀、轨迹覆盖有限，在特殊情况下只能获取少量的有效感知数据，称之为数据稀疏。如果要达到比较好的实际应用效果，那么需要解决感知数据中的完整性问题。
传统机器学习技术对这一问题已有一定的研究，使用KNN、xgboost等方法根据最相关的数据对缺失值进行推测；一些方法采用矩阵分解的思路，通过梯度下降法学习时间低秩矩阵和空间低秩矩阵来表示时空特征，进而补全数据，对于时空数据间的相关性，也可以通过设置正则化规则来进行拟合。在实际应用中，如停车位推荐、驾驶路线推荐需要秒级的运算速度，而这些传统方法在数据更新时需要重新学习时空特征才能得到较好的数据重构效果，无法满足实时性要求。此外传统方法大多无法建模数据中复杂的非线性时空关系。
随着深度学习的发展，图卷积神经网络、图注意力神经网络等被用于解决感知数据中的完整性问题，但这些方法大多只能用于数据缺失时的插补，因此需求一种在完成上述工作的同时，对稀疏数据也能进行有效的重构和预测的方法。
发明内容
为了解决上述问题，本发明提供一种面向稀疏移动感知数据的重构与预测算法。
本发明为解决技术问题所采用的技术方案如下：
一种面向稀疏移动感知数据的重构与预测算法，包括如下步骤：
步骤一、通过处理空间上下文数据得到空间嵌入SE，通过处理时间上下文数据得到历史时间嵌入HE与未来时间嵌入FE，通过处理HE、SE和感知数据X得到时空嵌入STE；
步骤二、根据HE、FE、STE和X，提取空间隐向量
Figure BDA0003109698040000021
和历史时间隐向量
Figure BDA0003109698040000022
根据HE、FE、STE和
Figure BDA0003109698040000023
求取未来时间隐向量
Figure BDA0003109698040000024
步骤三、通过双线性解码器一对
Figure BDA0003109698040000025
和
Figure BDA0003109698040000026
进行重构，得到重构感知数据；通过双线性解码器二对
Figure BDA0003109698040000027
和
Figure BDA0003109698040000028
进行预测，得到未来时间的感知数据预测结果。
本发明的有益效果是：
1、本发明一种面向稀疏移动感知数据的重构与预测算法，面向稀疏移动感知数据的重构和预测的同时，能够在数据缺失时插补。
2、本发明通过时空嵌入、时间空间上下文数据、学习数据中的时空特征，并采用双线性解码器一和双线性解码器二同时进行重构与预测，减少误差传播。
3、无需借助其他时空数据工作，通过学习数据中的时空特征，无需在数据更新时需要重新学习时空特征，便能够得到较好的数据重构效果和预测，最终达到秒级的重构、预测速度，能够满足实时性要求，从而满足现实场景中移动感知数据的应用需求。
附图说明
图1为本发明的一种面向稀疏移动感知数据的重构与预测算法的流程图。
图2为本发明的一种面向稀疏移动感知数据的重构与预测算法基于时空嵌入模块的步骤一的流程示意图。
图3为本发明的一种面向稀疏移动感知数据的重构与预测算法基于时空多注意力模块的步骤二的流程示意图。
图4为本发明的一种面向稀疏移动感知数据的重构与预测算法基于多任务编解码框架的步骤三的流程示意图。
具体实施方式
为了能够更清楚地理解本发明的上述目的、特征和优点，下面结合附图和具体实施方式对本发明进行进一步的详细描述。
首先对本发明一种面向稀疏移动感知数据的重构与预测算法的部分参量或名词等做出预定义，具体如下：
道路网络数据表示为加权有向图
Figure BDA0003109698040000031
其中顶点V＝{v1，v2，…，vN}表示待感知位置集合，共N个待感知位置(在道路速度、路边停车位监测等任务中待感知位置为路段。在空气质量监测等任务中待感知位置为一片区域)；ε表示顶点之间连通性的边的集合；
Figure BDA0003109698040000032
表示加权邻接矩阵，
Figure BDA0003109698040000033
表示N×N的矩阵，其中加权邻接矩阵的元
Figure BDA0003109698040000034
表示某一顶点va与vb之间的接近度(例如，通过最短可达时间来测量)，va与vb均属于V。
空间上下文数据
Figure BDA0003109698040000035
空间上下文数据即空间信息，包括道路网络数据和兴趣点POI数据。感知数据为
Figure BDA0003109698040000036
表示X中的一个顶点vi时间tj对应的感知数据，其中P代表输入的p个时刻P＝{t1，t2，...,tp}，P表示历史时间。
重构与预测算法的任务为：给定空间上下文数据F与感知数据X，重构感知数据
Figure BDA0003109698040000037
并预测未来一段时间Q的感知数据
Figure BDA0003109698040000038
即预测未来的监测数据，也可称为预测未来一段时间的待感知数据，
Figure BDA0003109698040000039
表示Y中顶点vi时间tC对应的预测感知数据，Q代表待预测的q个时刻，Q表示未来时间，Q＝{tp+1，tp+2，...，tp+q}。
上述的i、j、p、a、b、c、q均为正整数。
基于上述预定义，本发明一种面向稀疏移动感知数据的重构与预测算法，如图1，包括如下步骤：
步骤一、通过处理空间信息得到空间嵌入SE，通过处理时间信息得到历史时间嵌入HE与未来时间嵌入FE，通过处理历史时间嵌入HE、空间嵌入SE和感知数据X得到时空嵌入STE。
步骤一采用时空嵌入模块实现。我们使用时间信息和空间信息进行编码，生成用于时空关系建模的空间嵌入与时间嵌入，用于稀疏数据增强的时空混合嵌入。时间嵌入TE包括历史时间嵌入HE与未来时间嵌入FE。如图2，具体为：
步骤1.1、使用node2vec方法利用空间上下文数据学习各个顶点的表示向量，各个顶点的表示向量与空间信息(即空间上下文数据F)连接，连接后通过两层第一全连接层得到空间嵌入
Figure BDA0003109698040000041
表示顶点vi的空间嵌入；
步骤1.2、将每个时刻的时间信息(星期、日期、时间等)进行one-hot编码(一位有效编码)表示，编码后的时间信息送入两层的第二全连接层，得到历史时间嵌入
Figure BDA0003109698040000042
与未来时间嵌入
Figure BDA0003109698040000043
为历史时刻tj的时间嵌入，
Figure BDA0003109698040000044
为未来时刻tc的时间嵌入；
也就是，历史时间P对应的时间信息为历史时间信息，对历史时间信息进行one-hot编码表示后送入两层的第二全连接层，得到历史时间嵌入HE；未来时间Q对应的时间信息为未来时间信息，对未来时间信息进行one-hot编码表示后送入两层的第二全连接层，得到未来时间嵌入FE。为了方便表述，我们用TE表示时间嵌入，包含历史时间嵌入HE和未来时间嵌入FE。
步骤1.3、由于数据稀疏问题的存在，本发明使用时空混合嵌入来增强数据，将历史时间嵌入HE和空间嵌入SE组合后送入两层第三全连接层得到时空嵌入
Figure BDA0003109698040000045
表示顶点vi时间tj的时空嵌入。
步骤二、根据历史时间嵌入HE、未来时间嵌入FE、时空嵌入STE和感知数据提取空间隐向量
Figure BDA0003109698040000046
和历史时间隐向量
Figure BDA0003109698040000047
根据历史时间嵌入HE、未来时间嵌入FE、时空嵌入STE和历史时间隐向量
Figure BDA0003109698040000048
求取未来时间隐向量
Figure BDA0003109698040000049
步骤二采用时空多注意力模块实现，多注意力模块包括空间多注意力模块、时间多注意力模块、迁移多注意力模块。在多注意力模块中，将时空嵌入中的相关关系映射到感知数据中，使用多注意机制来提取空间隐向量和时间隐向量。具体如图3所示，图3中的“输入”包括SE、TE、STE和X。
步骤2.1、根据空间嵌入SE、历史时间嵌入HE、时空嵌入STE和感知数据X，利用多头注意力机制提取空间隐向量
Figure BDA00031096980400000410
空间多注意力模块：在空间隐向量的提取中，对于每个顶点vi，我们将所有时刻的数据用多头注意力机制(K轮)进行空间隐向量
Figure BDA00031096980400000411
的提取。
首先，我们计算k轮的各个历史时刻tj与顶点之间的相关系数
Figure BDA00031096980400000412
Figure BDA0003109698040000051
其中<·，·>表示内积运算，D表示
Figure BDA0003109698040000052
与
Figure BDA0003109698040000053
的维度(维度是指嵌入向量的维度，
Figure BDA0003109698040000054
与
Figure BDA0003109698040000055
的的维度均为D，例如D＝64)，
Figure BDA0003109698040000056
表示k轮空间注意力(空间多注意力模块)中的非线性变换，n表示第n个非线性变换，步骤2.1中n取1、2、3。
之后，我们通过softmax计算出各个历史时刻与顶点vi的k轮空间注意力分数
Figure BDA0003109698040000057
Figure BDA0003109698040000058
得到注意力分数
Figure BDA0003109698040000059
之后，对顶点所有历史时刻的数据(感知数据X与STE)连接，再对连接结果加权求出空间隐向量
Figure BDA00031096980400000510
Figure BDA00031096980400000511
其中，||表示连接运算，
Figure BDA00031096980400000512
为k轮的各个历史时刻tr与顶点之间的相关系数，tr、tj均属于P、均表示历史时刻，tr用于tj的求和函数，r为正整数，k表示K轮中的第k轮，k为正整数，0＜k＜K，K轮表示K个并行的注意力机制，K为大于2的整数，K个并行的注意力机制得到K个结果，K个结果再连接到一起。
步骤2.2、根据空间嵌入SE、历史时间嵌入HE、时空嵌入STE和感知数据X，利用多头注意力机制提取历史时间隐向量。
时间多注意力模块：与空间隐向量提取相似，历史时间隐向量的提取中，对于每个历史时刻tj，我们将所有顶点的数据用多头注意力机制(K轮)进行历史时间隐向量
Figure BDA00031096980400000513
的提取。
我们计算各个顶点与历史时刻tj之间的相关系数
Figure BDA00031096980400000514
Figure BDA00031096980400000515
通过softmax计算出各个顶点与历史时刻tj的k轮时间注意力分数
Figure BDA00031096980400000516
Figure BDA0003109698040000061
得到注意力分数
Figure BDA0003109698040000062
之后，对感知数据X与STE连接，再对连接结果进行加权求出历史时间隐向量
Figure BDA0003109698040000063
Figure BDA0003109698040000064
其中，
Figure BDA0003109698040000065
表示k轮时间注意力(时间多注意力模块)中的非线性变换，n表示第n个非线性变换，步骤2.2中n取1、2、3。
步骤2.3、根据未来时间嵌入FE、历史时间嵌入HE、时空嵌入STE和历史时间隐向量
Figure BDA0003109698040000066
并将SE和HE映射到感知数据中，利用多头注意力机制提取未来时间隐向量
Figure BDA0003109698040000067
迁移多注意力模块：为了完成预测任务，本发明设计了迁移多注意力模块，通过建立历史数据与未来时刻的联系来进行特征的提取。
首先，我们计算历史时刻与未来时刻之间的相关系数
Figure BDA0003109698040000068
Figure BDA0003109698040000069
Figure BDA00031096980400000610
表示k轮迁移注意力(迁移多注意力模块)中的非线性变换，n表示第n个非线性变换，上示
Figure BDA00031096980400000611
中n＝1、2。通过softmax计算出历史时刻tj与未来时刻tc的k轮时间注意力分数
Figure BDA00031096980400000612
Figure BDA00031096980400000613
得到注意力分数
Figure BDA00031096980400000614
之后，对历史时间隐向量
Figure BDA00031096980400000615
加权求出未来时间隐向量
Figure BDA00031096980400000616
Figure BDA00031096980400000617
步骤三、如图4，通过双线性解码器一对历史时间隐向量和空间隐向量输入进行重构，得到重构感知数据Xrec，通过双线性解码器二对未来时间隐向量和空间隐向量输入进行预测，得到未来时间的感知数据预测结果Y。本发明提出了一个多任务编解码框架，多任务编解码框架包括双线性解码器一和双线性解码器二。将历史时间隐向量和空间隐向量输入双线性解码器一进行重构，得到重构结果Xrec，将未来时间隐向量和空间隐向量输入双线性解码器二进行预测，得到预测结果Y。双线性解码器一负责重构任务，即负责将输入到其中的历史时间隐向量和空间隐向量进行重构得到重构感知数据Xrec。双线性解码器二负责预测任务，即负责将输入到其中的未来时间隐向量和空间隐向量进行预测得到未来时间的感知数据预测结果Y。在多任务编解码框架训练过程中提出自适应加权的Loss函数(即Loss{total})来改变重构任务Lossrec和预测任务Losspre之间的关系，训练开始，更关注能学习历史信息的重构任务，训练后期更关注于预测任务。
Loss{total}＝mδ(t)*Lossrec+(1-mδ(t))*Losspre
Figure BDA0003109698040000071
其中，T′表示训练总轮数，t′表示训练轮数，mδ(t′)表示随训练轮数t′的重构任务权重，δ(t′)表示随训练轮数t′的重构任务，m表示设定的权重系数，
Figure BDA0003109698040000072
表示重构任务的loss变化，
Figure BDA0003109698040000073
表示预测任务的loss变化。
本发明一种面向稀疏移动感知数据的重构与预测算法的核心是设计和实现一种基于多注意力机制的图神经网络，主要用于解决面向稀疏移动感知数据的重构和预测问题，同时能够在数据缺失时插补。通过时空嵌入、时间空间上下文数据、学习数据中的时空特征，并采用双线性解码器一和双线性解码器二同时进行重构与预测，减少误差传播。无需借助其他时空数据工作，通过学习数据中的时空特征，无需在数据更新时需要重新学习时空特征，便能够得到较好的数据重构效果和预测，最终达到秒级的重构、预测速度，能够满足实时性要求，从而满足现实场景中移动感知数据的应用需求。
本发明能够学习复杂的时空关联：传统技术主要以线性方法为主，虽然在一定程度上学习了数据时域特征和空间特征，但是没有完全考虑时空数据中复杂的相关关系，本发明通过建立图网络，本发明通过多个注意力机制块来自适应学习时空关联，采用多任务编解码框架最小化空间和时间潜在向量嵌入期间的信息损失并通过自适应加权的多目标优化提高重构与预测精度。此外，相比与其他深度学习算法，本发明无需借助其他时空数据工作，仅依靠静态的路网数据、POI数据等就能完成重构与预测。
本发明提高了重构与预测效率：矩阵分解等传统方法在数据更新时需要重新学习时空特征，无法同时满足模型质量与时效性，本发明通过模块复用减小了模型复杂度，且可通过预训练来减少运算时间，达到秒级的运算效率。
本发明能够防止误差传播：在实际应用中，数据重构的少量误差，将导致后续预测中的误差传播。从长期来看，多步预测中每个时刻的小误差可能会放大，本发明直接对历史和未来数据建立联系，通过自适应的多任务编解码框架同时进行重构与预测，解决了误差传播问题。
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (8)

1.一种面向稀疏移动感知数据的重构与预测算法，其特征在于，包括如下步骤：
步骤一、通过处理空间信息F得到空间嵌入SE，通过处理时间信息得到历史时间嵌入HE与未来时间嵌入FE，通过处理HE、SE和感知数据X得到时空嵌入STE；
步骤二、根据HE、FE、STE和X，提取空间隐向量
Figure FDA0003109698030000011
和历史时间隐向量
Figure FDA0003109698030000012
根据HE、FE、STE和
Figure FDA0003109698030000013
求取未来时间隐向量
Figure FDA0003109698030000014
步骤三、通过双线性解码器一对
Figure FDA0003109698030000015
和
Figure FDA0003109698030000016
进行重构，得到重构感知数据；通过双线性解码器二对
Figure FDA0003109698030000017
和
Figure FDA0003109698030000018
进行预测，得到未来时间的感知数据预测结果。
2.如权利要求1所述的一种面向稀疏移动感知数据的重构与预测算法，其特征在于，所述空间上下文数据F包括道路网络数据和POI数据，所述道路网络数据表示为加权有向图
Figure FDA0003109698030000019
顶点V＝{v1，v2，…，vN}表示待感知位置集合，ε表示顶点之间连通性的边的集合，
Figure FDA00031096980300000110
表示加权邻接矩阵；所述时间上下文数据包括历史时间P对应的时间上下文数据和未来时间Q对应的时间上下文数据，通过处理P对应的时间上下文数据得到HE，通过处理Q对应的时间上下文数据得到FE。
3.如权利要求2所述的一种面向稀疏移动感知数据的重构与预测算法，其特征在于，所述步骤一具体为：
步骤1.1、使用node2vec方法利用空间信息学习各个顶点的表示向量，各个顶点的表示向量与F连接，连接后通过两层第一全连接层得到SE；
步骤1.2、对每个时刻的时间信息进行one-hot编码，编码后的时间信息送入两层的第二全连接层，得到HE，编码后的时间信息与Q对应的时间上下文数据连接后送入两层的第二全连接层，得到FE。
步骤1.3、将HE和SE组合，组合后送入两层第三全连接层得到STE。
4.如权利要求2至3中任意一项所述的一种面向稀疏移动感知数据的重构与预测算法，其特征在于，所述
Figure FDA00031096980300000111
Figure FDA00031096980300000112
表示顶点vi的空间嵌入；
Figure FDA00031096980300000113
Figure FDA00031096980300000114
为历史时刻tj的时间嵌入，P＝{t1，t2，...，tp}，
Figure FDA00031096980300000115
Figure FDA0003109698030000021
为未来时刻tc的时间嵌入，Q＝{tp+1，tp+2，…，tp+q}；
Figure FDA0003109698030000022
Figure FDA0003109698030000023
表示顶点vi时间tj的时空嵌入。
5.如权利要求1所述的一种面向稀疏移动感知数据的重构与预测算法，其特征在于，所述
Figure FDA0003109698030000024
和
Figure FDA0003109698030000025
均采用多头注意力机制获取。
6.如权利要求4所述的一种面向稀疏移动感知数据的重构与预测算法，其特征在于，所述步骤二具体为：
步骤2.1、计算多头注意力机制k轮的各个历史时刻与顶点之间的相关系数
Figure FDA0003109698030000026
Figure FDA0003109698030000027
计算出各个历史时刻与顶点vi的k轮空间注意力分数
Figure FDA0003109698030000028
Figure FDA0003109698030000029
得到注意力分数
Figure FDA00031096980300000210
之后，对X与STE连接加权求出空间隐向量
Figure FDA00031096980300000211
Figure FDA00031096980300000212
其中，
Figure FDA00031096980300000213
表示内积运算，D表示
Figure FDA00031096980300000214
与
Figure FDA00031096980300000215
的维度，
Figure FDA00031096980300000216
表示k轮空间注意力中的非线性变换，n表示第n个非线性变换，||表示连接运算，
Figure FDA00031096980300000217
为k轮的各个历史时刻tr与顶点之间的系数，k表示K轮中的第k轮；
步骤2.2、计算各个顶点与历史时刻tj之间的系数
Figure FDA00031096980300000218
Figure FDA00031096980300000219
计算出各个顶点与历史时刻tj的k轮时间注意力分数
Figure FDA00031096980300000220
Figure FDA00031096980300000221
得到注意力分数
Figure FDA00031096980300000222
之后，对X与STE连接加权求出历史时间隐向量
Figure FDA00031096980300000223
Figure FDA0003109698030000031
其中，
Figure FDA0003109698030000032
表示k轮时间注意力中的非线性变换；
步骤2.3、计算历史时刻与未来时刻之间的系数
Figure FDA0003109698030000033
Figure FDA0003109698030000034
计算出历史时刻tj与未来时刻tc的k轮时间注意力分数
Figure FDA0003109698030000035
Figure FDA0003109698030000036
对历史时间隐向量
Figure FDA0003109698030000037
加权求出未来时间隐向量
Figure FDA0003109698030000038
Figure FDA0003109698030000039
其中，
Figure FDA00031096980300000310
表示k轮时间注意力中的非线性变换。
7.如权利要求1所述的一种面向稀疏移动感知数据的重构与预测算法，其特征在于，所述双线性解码器一负责量
Figure FDA00031096980300000311
和
Figure FDA00031096980300000312
的重构任务Lossrec，双线性解码器二负责
Figure FDA00031096980300000313
和
Figure FDA00031096980300000314
的预测任务Losspre，双线性解码器一和双线性解码器二训练的训练过程中，通过Loss{rotal}函数改变Lossrec和Losspre之间的关系，
Loss{total}＝mδ(t′)*Lossrec+(1-mδ(t′))*Losspre
Figure FDA00031096980300000315
其中，T′表示训练总轮数，t′表示训练轮数，mδ(t′)表示随训练轮数t′的重构任务权重，m表示设定的权重系数，
Figure FDA00031096980300000316
表示重构任务的loss变化，
Figure FDA00031096980300000317
表示预测任务的loss变化。
8.如权利要求1所述的一种面向稀疏移动感知数据的重构与预测算法，其特征在于，所述步骤一通过时空嵌入模块实现，所述步骤二通过时空多注意力模块实现，所述步骤三通过多任务编解码框架实现，多任务编解码框架包括双线性解码器一和双线性解码器二。
CN202110646063.4A 2021-06-10 2021-06-10 一种面向稀疏移动感知数据的重构与预测方法 Active CN113285721B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110646063.4A CN113285721B (zh) 2021-06-10 2021-06-10 一种面向稀疏移动感知数据的重构与预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110646063.4A CN113285721B (zh) 2021-06-10 2021-06-10 一种面向稀疏移动感知数据的重构与预测方法

Publications (2)

Publication Number Publication Date
CN113285721A true CN113285721A (zh) 2021-08-20
CN113285721B CN113285721B (zh) 2022-07-19

Family

ID=77284120

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110646063.4A Active CN113285721B (zh) 2021-06-10 2021-06-10 一种面向稀疏移动感知数据的重构与预测方法

Country Status (1)

Country Link
CN (1) CN113285721B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113821929A (zh) * 2021-09-24 2021-12-21 中南大学 基于时空注意力机制的高速路网站点流量预测方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108763493A (zh) * 2018-05-30 2018-11-06 深圳市思迪信息技术股份有限公司 一种基于深度学习的推荐方法
CN108846384A (zh) * 2018-07-09 2018-11-20 北京邮电大学 融合视频感知的多任务协同识别方法及系统
CN109933089A (zh) * 2019-03-25 2019-06-25 北京邮电大学 基于最小化最大能量消耗的多无人机任务规划方法及装置
CN111814398A (zh) * 2020-07-08 2020-10-23 国网河北省电力有限公司 一种基于图的融合时空注意力的地表太阳辐射度预测方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108763493A (zh) * 2018-05-30 2018-11-06 深圳市思迪信息技术股份有限公司 一种基于深度学习的推荐方法
CN108846384A (zh) * 2018-07-09 2018-11-20 北京邮电大学 融合视频感知的多任务协同识别方法及系统
CN109933089A (zh) * 2019-03-25 2019-06-25 北京邮电大学 基于最小化最大能量消耗的多无人机任务规划方法及装置
CN111814398A (zh) * 2020-07-08 2020-10-23 国网河北省电力有限公司 一种基于图的融合时空注意力的地表太阳辐射度预测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
DONG ZHAO等: "COUPON: A Cooperative Framework for Building Sensing Maps in Mobile Opportunistic Networks", 《IEEE TRANSACTIONS ON PARALLEL AND DISTRIBUTED SYSTEMS》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113821929A (zh) * 2021-09-24 2021-12-21 中南大学 基于时空注意力机制的高速路网站点流量预测方法及系统
CN113821929B (zh) * 2021-09-24 2022-08-02 中南大学 基于时空注意力机制的高速路网站点流量预测方法及系统

Also Published As

Publication number Publication date
CN113285721B (zh) 2022-07-19

Similar Documents

Publication Publication Date Title
CN113469094B (zh) 一种基于多模态遥感数据深度融合的地表覆盖分类方法
CN110363716B (zh) 一种基于条件生成对抗网络复合降质图像高质量重建方法
CN110309732B (zh) 基于骨架视频的行为识别方法
CN114299723B (zh) 一种交通流量预测方法
CN111832570A (zh) 一种图像语义分割模型训练方法及系统
CN110223234A (zh) 基于级联收缩扩张的深度残差网络图像超分辨率重建方法
CN113177882A (zh) 一种基于扩散模型的单帧图像超分辨处理方法
CN112258526A (zh) 一种基于对偶注意力机制的ct肾脏区域级联分割方法
CN110992414B (zh) 一种基于卷积神经网络的室内单目场景深度估计的方法
KR20220070326A (ko) 비디오 코딩을 위한 변형 가능한 콘볼루션에 의한 예측 프레임 생성
CN112866694A (zh) 联合非对称卷积块和条件上下文的智能图像压缩优化方法
CN113313644A (zh) 一种基于残差双注意力网络的水下图像增强方法
CN112991350A (zh) 一种基于模态差异缩减的rgb-t图像语义分割方法
CN112651360B (zh) 一种小样本下骨架动作识别方法
CN113285721B (zh) 一种面向稀疏移动感知数据的重构与预测方法
CN111340543A (zh) 一种基于注意力机制的细粒度打车需求预测方法
CN111260919A (zh) 交通流量预测方法
CN111709947B (zh) 一种双流沟通和全局信息引导的显著物体图像检测方法
CN116051936B (zh) 基于时空分离外部注意力的叶绿素浓度有序补全方法
CN116403103A (zh) 基于四维生成对抗网络的遥感图像分析及蓝藻水华预测方法
CN116205962A (zh) 基于完整上下文信息的单目深度估计方法及系统
CN112766099B (zh) 一种从局部到全局上下文信息提取的高光谱影像分类方法
CN108769674A (zh) 一种基于自适应层次化运动建模的视频预测方法
CN116863379A (zh) 基于时空自注意力单步扰动的视频预测防御方法
CN110460463A (zh) 基于深度神经网络的服务质量预测方法及其系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant