CN116258252A - 基于注意力机制的飞机轨迹预测方法、储存介质及设备 - Google Patents

基于注意力机制的飞机轨迹预测方法、储存介质及设备 Download PDF

Info

Publication number
CN116258252A
CN116258252A CN202310031668.1A CN202310031668A CN116258252A CN 116258252 A CN116258252 A CN 116258252A CN 202310031668 A CN202310031668 A CN 202310031668A CN 116258252 A CN116258252 A CN 116258252A
Authority
CN
China
Prior art keywords
data
time sequence
input
attention
track
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310031668.1A
Other languages
English (en)
Inventor
叶蕾
王艺霖
谭永钦
陈家琪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University of Technology ZJUT
Original Assignee
Zhejiang University of Technology ZJUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University of Technology ZJUT filed Critical Zhejiang University of Technology ZJUT
Priority to CN202310031668.1A priority Critical patent/CN116258252A/zh
Publication of CN116258252A publication Critical patent/CN116258252A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2474—Sequence data queries, e.g. querying versioned data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/906—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G06Q50/26—Government or public services
    • G06Q50/265—Personal security, identity or safety
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
    • Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Economics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Tourism & Hospitality (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Development Economics (AREA)
  • Health & Medical Sciences (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Educational Administration (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Fuzzy Systems (AREA)
  • Game Theory and Decision Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Primary Health Care (AREA)
  • Probability & Statistics with Applications (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了基于注意力机制的飞行器轨迹预测方法、储存介质及设备，包括：步骤1：数据采集；步骤2：数据聚类；步骤3：通过嵌入方法，将输入的时序序列转换为特征向量，引入位置编码，用向量来表示输入的时序序列，用位置编码表示序列的时序关系然后输入到encoder‑decoder模型中；步骤4：针对时序序列首先输入到encoder中经过self‑attention进行加权；步骤5：将加权之后数据输入到FeedForwardNeuralNetwork，然后输入到decoder；步骤6：将时序序列的同一批的另一部分相同格式数据以及经过encoder编码的数据输入到decoder中进行解码操作；步骤7：最后经过一个全连接层一次输出所有的预测时序序列结果。本发明能够更加准确的通过历史轨迹时序序列，预测出未来某个时刻的时序序列。

Description

基于注意力机制的飞机轨迹预测方法、储存介质及设备
技术领域
本专利涉及飞机技术领域，特别涉及基于self-attention机制的encoder-decoder模型的轨迹预测的方法的基于注意力机制的飞机轨迹预测方法、介质和设备。
背景技术
随着新一代人工智能技术的发展，飞机已经广泛应用到各个领域。例如，在陆战场环境下，陆地战斗机器和空中战斗机器都会起到重要作用。其中制空权对于战斗的发展以及战斗态势的判断有着重要影响，预判空中飞机的轨迹对于战斗决策的生成有着重要影响。飞机可以实现战斗目标的侦察和打击。因此，飞机技术已经发展为促进社会进步的新引擎和新动能，飞机在复杂的真实场景执行任务过程中，通常在飞行方向和飞行状态方面表现出高度的灵活性和多变性。飞机在农业和装备制造业的大力普及，显著提高了生产效率。此外，飞机在地质勘测和遥感领域也得到广泛应用。在国家应急救援方面，飞机能够为灾害管理和人力救援提供重要保障。特别是，随着飞机高质量发展的迫切需求，确保飞机在空域平稳、安全地飞行，亟需一套完整、高效的飞机飞行轨迹预测方法，为飞机在飞行过程中的和异常行为发现和预警，提供及时可靠的参考依据。
综上所述，如何对飞机的飞行状态进行研判，并借助人工智能领域最先进的深度学习方法encoder-decoder网络，实现对飞机飞行过程中的轨迹位置(经度、纬度)进行预测是本文的研究重点。
发明内容
本发明解决了现有技术中存在的针对长序列轨迹预测精度失准，时间复杂度爆炸，空间内存爆炸的问题。提供了一种基于Self-Attention机制的编码-解码模型的长时序序列的轨迹预测方法。该模型在时序序列的预测方面有很好的效果，特别是针对长时间序列预测方面，表现出很好的泛化能力，能够有效地解决其他模型，例如RNN或Transformer在长序列上会梯度爆炸导致预测结果不理想的问题。
本发明的技术方案如下：
一种基于注意力机制的飞机轨迹预测方法，包括以下步骤：
步骤1：数据采集，收集轨迹数据以及相关的气象数据；
步骤2：数据聚类，将采集的轨迹、气象数据处理为连续的轨迹气象时序序列；
步骤3：通过嵌入方法，将输入的时序序列转换为特征向量，引入位置编码，用向量来表示输入的时序序列，用位置编码表示序列的时序关系然后输入到encoder-decoder模型中；
步骤4：针对时序序列首先输入到encoder中经过self-attention进行加权。自注意力机制是注意力机制的变体，其减少了对外部信息的依赖，更擅长捕捉数据或特征的内部相关性；
步骤5：将加权之后数据输入到Feed Forward Neural Network，然后输入到decoder；
步骤6：将时序序列的同一批的另一部分相同格式数据以及经过encoder编码的数据输入到decoder中进行解码操作；
步骤7：最后经过一个全连接层一次输出所有的预测时序序列结果。
优选地，所述步骤1包括以下步骤：
步骤1.1，利用GPS、气象采集等设备进行数据的采集。
优选地，所述步骤2包括以下步骤：
步骤2.1，将不连续的时序序列处理成连续的时序序列，步骤1中的数据插补、求平均值等方法处理为连续时序序列；
步骤2.2，计算气象信息对轨迹点的影响，例如：当前轨迹点有气团等因素，则将轨迹点偏移除气团的半径大小的距离。
优选地，所述步骤3包括以下步骤：
步骤3.1，针对时序序列的轨迹数据，设计相应的数据读取格式。利用向量嵌入方法将序列数据转换为向量，然后加载到模型中。
步骤3.2，Informer网络有Encoder-Decoder模型组成，Encoder模型中由一层Self-Attention网络和一层Feed Forward网络组成，Feed Forward网络由一层ReLU激活函数和一层线性激活函数组成。Decoder模型有Self-Attention层和Encoder-DecoderAttention层和Feed Forward层组成。
优选地，所述步骤4包括以下步骤：
步骤4.1，首先进行conv1d在时间维度上执行以为卷积，后跟随ELU激活函数，然后经过MaxPool进行最大池化下采样，将输入的长度变为原来的一半。
步骤4.2，self-attention会计算出三个新的向量，在本发明中，向量的维度是512维，我们把这三个向量分别称为Query、Key、Value，这三个向量是用embedding向量与一个矩阵相乘得到的结果，这三个值的由来是对于时序序列重点关注的点，本发明中，q是要查询的轨迹信息，k是要查询的向量，v是要查询得到的值，这个矩阵是随机初始化的，维度为(64，512)注意第二个维度需要和embedding的维度一样，其值在BP(选择和抛弃)的过程中会一直进行更新，得到的这三个向量的维度是64低于embedding维度的。根据self-attention得到q，k，v三个向量，为每个向量计算一个score：score＝q.k。
步骤4.3，对score采用归一化处理即，来保证梯度不发生爆炸。然后用score乘以softmax激活函数。
步骤4.4，softmax点乘Value值v，得到加权的每个输入向量的评分v，将这些v相加之后得到最终的特征向量Z。
优选地，所述步骤5包括以下步骤：
步骤5.1，先将Z输入到ReLu层，去掉负数，然后输入到一个线性激活函数，提升神经网络的拟合能力来拟合更复杂的函数。
优选地，所述步骤6包括以下步骤：
步骤6.1，首先输入到self Attention中进行解码，得到一个特征向量Z，这里的Z的算法和Encoder中一样。这里的输入有两批，一批是经过encoder处理的，另一批是没有经过的处理的相同格式的时序序列，第一批可以设定为，前十二个轨迹点的相关轨迹信息，第二批是十三到三十的轨迹点信息。然后输入到Encoder-Decoder Attention中，这里的Q采用解码器上一个输出，完成进一步解码。然后输入到Multi-head ProbSparse Self-attention要进行mask，也是为了避免左向信息流，防止自回归。同时最后要有一个全连接层，全连接层输出的维度取决于要预测的变量维度。
优选地，所述步骤7包括以下步骤：
步骤7.1，将经过解码后数据，输入到全连接层中，通过线性变化，先将数据映射到高纬度空间，再映射到低纬度空间，完成数据的一次性输出。
一种计算机可读存储介质，其上存储有基于注意力机制的飞机轨迹预测程序，该程序被处理器执行时实现所述的基于注意力机制的飞机轨迹预测方法。
一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时，基于所述的基于注意力机制的飞机轨迹预测方法。
本发明提供了一种基于注意力机制的飞机轨迹预测方法，同时记录了本发明的介质和设备。加载历史数据并处理，将数据转换为相应维度的特征向量。考虑到长时序序列的位置依赖问题，对时序序列的轨迹点进行位置编码和时间编码。然后输入到encoder中进行编码操作。Encoder由多个encoder-stack块组成。完成编码操作后输入到decoder中进行解码操作。训练直到模型稳定后，将数据输入一个全连接层，然后一次性输出所预测的序列结果。作为时序序列的预测结果。
本发明的有益效果如下：本发明考虑到气象原因对轨迹的影响，所以根据气象数据算法，对轨迹加以处理，依照算法调整模型参数。能够更加准确的通过历史轨迹时序序列，预测出未来某个时刻的时序序列。
附图说明
图1为本发明的流程示意图；
图2为发明中Attention结构图；
图3为发明中encoder-decoder结构图。
具体实施方式
下面结合实施例对本发明做进一步的详细描述，但本发明的保护范围并不限于此。
本发明涉及一种基于注意力机制的飞机轨迹预测方法，包括以下步骤：
步骤1：数据采集，收集轨迹数据以及相关的气象数据。
所述步骤1中，收集飞机轨迹数据，以及相应轨迹下的天气信息。通过GPS定位器，每间隔60s记录一次GPS的经纬度。记录相应时序序列轨迹路线段的天气。根据天气以及时间记录上对应时间点上的天气。记录以上的历史数据作为训练模型的数据集。若一个存在缺失的数据，则以预设规则取关联日期的历史数据对缺失数据进行补全。
本发明中，GPS定位器是安装在受测飞机上的，飞机上的轨迹数据会记录在机器硬盘上。
步骤2：数据聚类，本发明要求连续的时序序列，而数据和天气可能出现不连续的问题，同时有可能出现因为GPS定位器故障。因而需要对数据处理成连续序列。
本发明中，数据缺失原因一般是由于系统故障或GPS定位器发生问题导致轨迹点没有记录，因而没有访问数据，针对这种缺失数据的问题，数据处理时可以采用求平均值，按照线性发展规律，插补法等方法给补上缺失数据。
本发明中，计算气象信息对轨迹点的影响，例如：当前轨迹点有气团等因素，则将轨迹点偏移除气团的半径大小的距离。
步骤3：通过嵌入方法，将输入的时序序列转换为特征向量，引入位置编码，用向量来表示输入的时序序列，用位置编码表示序列的时序关系然后输入到Informer模型中。位置编码公式如下：
Figure BDA0004047356420000071
Figure BDA0004047356420000072
本发明中：时序序列需要输入到Informer中，设计相应的数据读取格式，然后使用向量嵌入方法将时序序列转换成向量表示，然后加载到模型中。
步骤3所述的Informer模型由Encoder-Decoder模型组成，Encoder模型中由一层Self-Attention网络和一层Feed Forward网络组成，Feed Forward网络由一层ReLU激活函数和一层线性激活函数组成。Decoder模型有Self-Attention层和Encoder-DecoderAttention层和Feed Forward层组成
本发明中，时序数据首先输入到Encoder中，第一步是进行Self-Attention选择，然后，将Self-Attention处理后的数据输入到ReLu激活函数中，除去非正常值。输入到线性激活函数，增强数据的拟合能力。上述三个过程是Encoder中一个encoder-stack的过程，Encoder由多个encoder-stack组成。根据训练情况，再经过3-5个的encoder-stack后输出Encoder，进入Decoder。
本发明中，时序数据经由Encoder后，输入Decoder中，Decoder同样有多个decoder-stack组成，每个decoder-stack由self-Attention、encoder-decoder attention以及Feed Forward组成。
本发明中，输入到Decoder中后，先有self-Attention进行解码，然后输入到encoder-decoder attention，然后输入Feed Forward中，一层性输出。
步骤4：将数据在时间维度上进行一维卷积操作，然后跟随ELU激活函数，然后经过MaxPool进行最大池化下采样，将输入的长度变为原来的一半。
步骤4.1,本发明中，所述将输入长度变为原来一半是Informer模型对于Transformer优化的地方所在，Transformer模型的训练过程的时间复杂度和空间复杂度是O(L*L)，Informer模型通过自注意力机制，在训练过程中，抛弃不重要的特征，将时间复杂度降为O(L*logL)。达到缩短训练时间，提高模型性能的作用。
步骤4.2,本发明中，缩短长度的具体操作是根据嵌入向量的q，k，v三个向量，为每个向量计算一个score：score＝q.k，q＝query,k＝key,v＝value。是嵌入向量的三个特征。
步骤4.3，对score采用归一化处理即，来保证梯度不发生爆炸。然后用score乘以softmax激活函数。
步骤4.4，softmax点乘Value值v，得到加权的每个输入向量的评分v，将这些v相加之后得到最终的特征向量Z。这个时候的特征向量Z相比于刚输入的时候，没经过一个encoder-stack，输入长度变为原来的一半。精准度得到提升，以上操作可以称之为self-Attention蒸馏操作。
步骤5:将上特征向量Z输入到ReLu层，经过ReLu层去掉轨迹时序序列中不可能出现的负数，然后输入到一个线性激活函数中。线性激活函数可以提升神经网络的拟合能力来拟合更复杂的函数。上述描述的公式为：
Figure BDA0004047356420000091
步骤6：首先输入到self Attention中进行解码，得到一个特征向量Z，这里的Z的算法和Encoder中一样。这里的输入有两批，一批是经过encoder处理的，另一批是没有经过的处理的相同格式的时序序列，第一批可以设定为，前十二个轨迹点的相关轨迹信息，第二批是十三到三十的轨迹点信息。然后输入到Encoder-Decoder Attention中，这里的Q采用解码器上一个输出，完成进一步解码。然后输入到Multi-head ProbSparse Self-attention要进行mask，也是为了避免左向信息流，防止自回归。
步骤7：将经过解码后数据，输入到全连接层中，通过线性变化，先将数据映射到高纬度空间，再映射到低纬度空间，完成数据的一次性输出。
一种计算机可读存储介质，其上存储有基于注意力机制的飞机轨迹预测程序，该程序被处理器执行时实现所述的基于注意力机制的飞机轨迹预测方法。
为了实现上述实施例，提出了一种计算机可读存储介质，其上存储有基于注意力机制的飞机轨迹预测程序，该程序被处理器执行时实现上述基于注意力机制的飞行轨迹预测，主要解决现有技术中算量大、系统性能低下的问题。
为了实现上述实施例，本发明还涉及一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时，基于所述的基于注意力机制的飞机轨迹预测方法。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例作出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (10)

1.一种基于注意力机制的飞机轨迹预测方法，其特征在于：包括以下步骤：
步骤1：数据采集，收集轨迹数据以及相关的气象数据；
步骤2：数据聚类，将采集的轨迹、气象数据处理为连续的轨迹气象时序序列；
步骤3：通过嵌入方法，将输入的时序序列转换为特征向量，引入位置编码，用向量来表示输入的时序序列，用位置编码表示序列的时序关系然后输入到预测模型中；
步骤4：针对时序序列首先输入到模型的encoder中经过ProSparseself-attention进行加权；自注意力机制是注意力机制的变体，其减少了对外部信息的依赖，更擅长捕捉数据或特征的内部相关性；
步骤5：将加权之后数据输入到FeedForwardNeuralNetwork，然后输入到decoder；
步骤6：decoder的输入是encoder输入的后面部分的截取+与预测目标形状相同的0矩阵；
步骤7：最后经过一个全连接层一次输出所有的预测时序序列结果。
2.根据权利要求1所述的一种基于注意力机制的飞机轨迹预测方法，其特征在于：所述步骤1的具体过程如下：
步骤1.1：利用雷达、GPS、以及气象观测器来收集数据。
3.根据权利要求1所述的一种基于注意力机制的飞机轨迹预测方法，其特征在于：所述步骤2的具体过程如下：
步骤2.1：将不连续的时序序列处理成连续的时序序列：将步骤1中的数据通过插补、求平均值方法处理为连续时序序列；
步骤2.2：计算气象信息对轨迹点的影响，若当前轨迹点有气团因素，则将轨迹点偏移除气团的半径大小的距离。
4.根据权利要求1所述的一种基于注意力机制的飞机轨迹预测方法，所述步骤3的具体过程如下：
步骤3.1：针对时序序列的轨迹数据，设计相应的数据读取格式；利用向量嵌入方法将序列数据转换为向量；利用位置编码函数，对轨迹数据进行编码，确定数据的先后关系和全局股权系；然后加载到模型中；
步骤3.2：预测模型由Encoder-Decoder模型组成，Encoder模型由一层ProSparseSelf-Attention网络和一层FeedForward网络组成，FeedForward网络由一层ReLU激活函数和一层线性激活函数组成；Decoder模型有Multi-headMaskedProbSparse Self-attention层和一个Multi-headSelf-attention层和Feed Forward层组成。
5.根据权利要求1所述的一种基于注意力机制的飞机轨迹预测方法，所述步骤4的具体过程如下：
步骤4.1：首先进行conv1d在时间维度上执行一维卷积，后跟随ELU激活函数，然后经过MaxPool进行最大池化下采样，将输入的长度变为原来的一半；
步骤4.2：根据嵌入向量得到q，k，v三个向量，为每个向量计算一个score：score＝q.k；
步骤4.3：对score采用归一化处理即，来保证梯度不发生爆炸，然后用score乘以softmax激活函数；
步骤4.4：softmax点乘Value值v，得到加权的每个输入向量的评分v，将这些v相加之后得到最终的特征向量Z。
6.根据权利要求1所述的一种基于注意力机制的飞机轨迹预测方法，所述步骤5的具体过程如下：
步骤5.1：先将Z输入到ReLu层，去掉负数，然后输入到一个线性激活函数，提升神经网络的拟合能力来拟合更复杂的函数。
7.根据权利要求1所述的一种基于注意力机制的飞机轨迹预测方法，所述步骤6的具体过程如下：
步骤6.1:Informer的decoder由一个Multi-headAttention ProbSparseSelf-attention层和一个MaskedMulti-head层组成；这里的MaskedMulti-head要进行mask，也是为了避免左向信息流，防止自回归；同时最后要有一个全连接层，全连接层输出的维度取决于要预测的变量维度。
8.根据权利要求1所述的一种基于注意力机制的飞机轨迹预测方法，所述步骤7的具体过程如下
步骤7.1：将经过解码后数据，输入到全连接层中，通过线性变化，先将数据映射到高纬度空间，再映射到低纬度空间，完成数据的一次性输出。
9.一种计算机可读存储介质，其特征在于，其上存储有基于注意力机制的飞机轨迹预测程序，该程序被处理器执行时实现如权利要求1～7之一所述的基于注意力机制的飞机轨迹预测方法。
10.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，处理器执行所述程序时，基于如权利要求1～8之一所述的基于注意力机制的飞机轨迹预测方法。
CN202310031668.1A 2023-01-10 2023-01-10 基于注意力机制的飞机轨迹预测方法、储存介质及设备 Pending CN116258252A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310031668.1A CN116258252A (zh) 2023-01-10 2023-01-10 基于注意力机制的飞机轨迹预测方法、储存介质及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310031668.1A CN116258252A (zh) 2023-01-10 2023-01-10 基于注意力机制的飞机轨迹预测方法、储存介质及设备

Publications (1)

Publication Number Publication Date
CN116258252A true CN116258252A (zh) 2023-06-13

Family

ID=86681935

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310031668.1A Pending CN116258252A (zh) 2023-01-10 2023-01-10 基于注意力机制的飞机轨迹预测方法、储存介质及设备

Country Status (1)

Country Link
CN (1) CN116258252A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116956098A (zh) * 2023-09-21 2023-10-27 四川吉利学院 一种基于感知分布式对比学习框架的长尾轨迹预测方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116956098A (zh) * 2023-09-21 2023-10-27 四川吉利学院 一种基于感知分布式对比学习框架的长尾轨迹预测方法

Similar Documents

Publication Publication Date Title
CN112541944B (zh) 基于条件变分编码器的概率孪生目标跟踪方法及系统
CN113607170B (zh) 空海目标航迹偏离行为实时检测方法
CN111123232B (zh) 一种具有任务适应性的雷达个体识别系统
CN116258252A (zh) 基于注意力机制的飞机轨迹预测方法、储存介质及设备
CN112907632A (zh) 一种单拖船只目标的识别方法及装置
CN117557414B (zh) 基于遥感图像自动解译的耕地监管方法、装置、设备及存储介质
CN117153294A (zh) 一种单一体系的分子生成方法
CN116244647A (zh) 一种无人机集群的运行状态估计方法
Wang et al. Motionhint: Self-supervised monocular visual odometry with motion constraints
CN115049919A (zh) 一种基于注意力调控的遥感图像语义分割方法及系统
CN116263735A (zh) 神经网络的鲁棒性评估方法、装置、设备及存储介质
CN111832693A (zh) 神经网络层运算、模型训练方法、装置及设备
CN116720079A (zh) 基于多特征融合的风力发电机故障模式识别方法及系统
CN114399901B (zh) 一种控制交通系统的方法和设备
CN115758153A (zh) 一种目标对象航迹数据的处理方法、装置及设备
Jabary et al. Development of machine learning approaches to enhance ship operational performance evaluation based on an integrated data model
CN115309948A (zh) 一种基于运动轨迹自动识别的渔船作业方法
CN112733067B (zh) 一种面向机器人目标检测算法的数据集选择方法
CN111144501B (zh) 一种基于栅格的证据融合时空轨迹数据关联方法
CN103646407B (zh) 一种基于成分距离关系图的视频目标跟踪方法
CN118585961B (zh) 基于全球地理信息编码PlusCode和Transformer的航迹预测方法及系统
CN111339800A (zh) 遥感样本数据生产方法、装置和计算机可读存储介质
CN117933492B (zh) 基于时空特征融合的船舶航迹长期预测方法
CN113870309B (zh) 基于条件式变分自编码机和社会变换器的行人轨迹预测方法
CN112861377B (zh) 环境部分可观条件下的规划识别方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination