CN113076686A - 一种基于社会长短期记忆网络的航空器轨迹预测方法 - Google Patents
一种基于社会长短期记忆网络的航空器轨迹预测方法 Download PDFInfo
- Publication number
- CN113076686A CN113076686A CN202110239486.4A CN202110239486A CN113076686A CN 113076686 A CN113076686 A CN 113076686A CN 202110239486 A CN202110239486 A CN 202110239486A CN 113076686 A CN113076686 A CN 113076686A
- Authority
- CN
- China
- Prior art keywords
- aircraft
- coordinate
- long
- nth
- term memory
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 53
- 230000007787 long-term memory Effects 0.000 title claims abstract description 47
- 230000006403 short-term memory Effects 0.000 title claims abstract description 47
- 230000015654 memory Effects 0.000 claims abstract description 43
- 238000012549 training Methods 0.000 claims abstract description 25
- 238000011176 pooling Methods 0.000 claims abstract description 6
- 239000013598 vector Substances 0.000 claims description 52
- 230000006870 function Effects 0.000 claims description 25
- 239000011159 matrix material Substances 0.000 claims description 25
- 230000004913 activation Effects 0.000 claims description 21
- 230000008569 process Effects 0.000 claims description 19
- 238000004458 analytical method Methods 0.000 claims description 15
- 238000009826 distribution Methods 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 9
- 230000002159 abnormal effect Effects 0.000 claims description 6
- 238000004140 cleaning Methods 0.000 claims description 6
- 238000005457 optimization Methods 0.000 claims description 5
- 239000000126 substance Substances 0.000 claims description 5
- 230000001360 synchronised effect Effects 0.000 claims description 5
- 238000012544 monitoring process Methods 0.000 claims description 4
- 238000012163 sequencing technique Methods 0.000 claims description 4
- 238000012217 deletion Methods 0.000 claims description 3
- 230000037430 deletion Effects 0.000 claims description 3
- 238000005259 measurement Methods 0.000 claims description 3
- 238000007781 pre-processing Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 6
- 230000006399 behavior Effects 0.000 abstract description 3
- 230000002452 interceptive effect Effects 0.000 abstract description 2
- 230000007774 longterm Effects 0.000 abstract description 2
- 210000004027 cell Anatomy 0.000 description 6
- 238000012795 verification Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 210000002569 neuron Anatomy 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 206010000117 Abnormal behaviour Diseases 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/40—Business processes related to the transportation industry
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Strategic Management (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Marketing (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Game Theory and Decision Science (AREA)
- Development Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Geometry (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Computer Hardware Design (AREA)
- Medical Informatics (AREA)
- Primary Health Care (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于社会长短期记忆网络的航空器轨迹预测方法，对多架航空器的长时间序列数据进行建模，捕获序列本身以及序列之间的隐含关系，学习轨迹之间的交互行为，同步得到所有轨迹的时空特性和运行规律。通过对每架航空器建立长短期记忆深度网络，并在网络之间构建池化层连接相互关联的网络实现动态更新的隐含信息的实时共享，以某一空域内多架航空器的历史四维航迹、速度以及角度信息作为模型输入样本，重复进行模型训练，不断更新模型参数，使预测效果满足用户期望。
Description
技术领域
本发明涉及一种基于社会长短期记忆网络的航空器轨迹预测方法，属于民航技术领域。
背景技术
近年来，随着空中交通流量的快速增长，有限的空域资源已经无法满足日益增长的空中交通需求，使航空运输系统面临着巨大的压力，导致了航空器飞行冲突加剧、管制员工作负荷较重、空域拥堵以及航班延误等问题的出现。为此，通过有效的空中交通管理系统安全、高效地利用空域资源和管理飞行流量成为了解决问题的关键，也是当面空中交通发展面临的主要难题。
空中交通管理系统的核心是决策支持系统，其研发依赖于精确的航迹预测，航迹预测技术是决策支持系统中冲突探测和解脱、进离港排序、航空器异常行为监视以及流量管理等核心技术的基础。同时，在未来的民航运输中，基于空域扇区的传统空中交通管理模式正在向基于航迹运行的新模式转变，该模式以对航空器的精确四维航迹预测为基础，在空管、航空公司和航空器之间共享航迹动态信息，实现飞行与管制之间的协同决策，从而减轻管制员工作负荷。由此可见，航迹预测在空中交通管理系统中发挥着至关重要的作用。
现有航迹预测技术基本可分为四类：(1)基于运动学的模型。将轨迹预测看做一个状态跟踪问题，采用卡尔曼滤波、自适应滤波、隐马尔科夫模型以及粒子滤波等方法估计航空器未来轨迹。(2)基于动力学的方法。属于一类基于物理模型的航迹预测研究方法，通过模拟分析航空器的受力作用和运动模型，来推算未来航迹信息。(3)数据驱动的模型。主要从大量的历史航空器轨迹数据中学习得到航迹信息的时空特性和运行规律，对航迹进行预测。(4)组合方法。组合了前面三类方法中的两类或三类方法。
现有技术目前存在如下问题：(1)预测效果不稳定，缺乏普适性。由于航空器轨迹具有较强的随机性，仅采用运动学模型或动力学方法进行预测对具有不同运动特征的航空器预测精度存在较大差别，普适性不足；(2)缺乏学习能力。根据无参数估计得到的预测航迹的特征局限于已有航迹的特征，对其它航迹的特征预测精度较差，缺乏学习改进能力；(3)忽略了空域中多架航空器之间的交互作用，无法实现多架航空器轨迹的同步预测。数据驱动的模型通常需要学习大量的历史航空器轨迹数据，该数据直接包括三维位置、角度以及速度等基本信息，也间接反映了飞行意图、管制行为、不稳定的天气条件等潜在的不确定性因素，但忽略了多架航空器之间的交互作用，在一定程度上将会影响航迹预测的效果。
发明内容
发明目的：
针对以上问题，本发明提出一种基于社会长短期记忆网络的航空器轨迹预测方法，对多架航空器的长时间序列数据进行建模，捕获序列本身以及序列之间的隐含关系，学习轨迹之间的交互行为，同步得到所有轨迹的时空特性和运行规律。通过对每架航空器建立长短期记忆深度网络，并在网络之间构建池化层连接相互关联的网络实现动态更新的隐含信息的实时共享，以某一空域内多架航空器的历史三维航迹、速度以及角度信息作为模型输入样本，重复进行模型训练，不断更新模型参数，使预测效果满足用户期望。
技术方案：
为实现本发明的目的，本发明所采用的技术方案是：
一种基于社会长短期记忆网络的航空器轨迹预测方法，该方法包括如下步骤：
(1)读取航空器轨迹数据集，并进行质量分析；
(2)根据步骤(1)的质量分析结果进行数据清洗以及预处理，构建输入和输出样本向量，对输入和输出样本向量进行标准化处理，生成无量纲化的数据集；
(3)构建社会长短期记忆网络模型，以步骤(2)的无量纲化的数据集进行训练，形成航空器轨迹预测模型；
(4)利用步骤(3)中的航空器轨迹预测模型进行多架航空器轨迹的同步预测。
进一步，步骤(1)的具体过程如下：
(1-1)从雷达监视数据中读取指定空域范围内设定时间范围的所有航空器的轨迹数据，包括以下属性：记录时间、航空器编号、航空器所处经度、航空器所处纬度、航空器所处高度、航空器速度和航空器角度；
(1-2)利用值分析法对(1-1)提取的数据进行质量分析，对属性存在的缺失值、重复值和形式异常值的情况进行统计。
进一步，步骤(2)的具体过程如下：
(2-1)根据(1-2)得到的值分析法统计结果，采用删除法处理缺失值、重复值和形式异常值的数据，实现数据清洗；
(2-2)将轨迹数据中的航空器所处经度、航空器所处纬度、航空器所处高度转换为地心地固坐标系中的x坐标、y坐标和z坐标；
(2-3)根据航空器编号、记录时间将每个航空器的轨迹数据按记录时间先后排序，并通过求解以下优化问题对每架航空器的轨迹进行重建：
其中，P∈RN×5为优化变量，P0∈RN×5为原始轨迹，P0的第i行是原始轨迹中航空器在第i个时刻的x坐标、y坐标、z坐标、速度以及角度，N为原始轨迹长度，
是重建后的轨迹；A∈RN×N为除对角线上元素外其余元素均为零的对角矩阵，当P0的第i行有一个或多个测量值时，A的对角线上第i个元素等于1，反之为零；
表示L2范数，λ1,λ2∈R+为正则化参数,D2∈RN-2×N是表示二阶差分矩阵，D3∈RN-4×N是表示三阶差分矩阵，R是实数；
其中(D2)j表示D2的第j行，(D3)j表示D3的第j行，ej表示第j行等于1、其余行等于0的N维向量；
(2-4)根据(2-3)中重建后的轨迹，构建输入和输出样本向量，其中，输入样本向量为
输出样本向量为
为第n架航空器在t时刻的状态序列，
为第n架航空器在t时刻的四维轨迹序列，
为第n架航空器的状态向量，
为第n架航空器的位置，
分别表示第n架航空器在t时刻的x坐标值、y坐标值、z坐标值、速度和角度，Nt为t时刻指定空域范围内的航空器架次，τn为第n架航空器进入指定空域范围内的时刻，ΔT表示预测步长；
(2-5)对输入样本向量和输出样本向量，使用最小—最大标准化进行标准化处理，生成无量纲的训练数据集。
进一步，步骤(3)的具体过程如下：
(3-1)对每架航空器建立单一的长短期记忆网络：
其中σ(·)是Sigmoid激活函数，tanh(·)是双曲正切激活函数；
和
分别是第n架航空器长短期记忆网络的遗忘、记忆、细胞单元和输出权重矩阵，
和
分别是第n架航空器长短期记忆网络的遗忘、记忆、细胞单元和输出偏置向量；
分别是t、t-1时刻第n架航空器长短期记忆网络的细胞状态，ft n为t时刻第n架航空器长短期记忆网络中遗忘门的激活值；
为t时刻第n架航空器长短期记忆网络中输入门的激活值；
为利用双曲正切激活函数计算的t时刻第n架航空器长短期记忆网络中的候选状态，
分别为t、t-1时刻第n架航空器长短期记忆网络输出的隐藏状态，
为t时刻第n架航空器长短期记忆网络输出门的激活值；
是在t时刻第n架航空器长短期记忆网络的输入；
(3-2)通过池化层连接相互关联的长短期记忆网络，构建社会长短期记忆网络模型，具体过程如下：
给定邻域大小δ，以第n架航空器为中心确定在其前方邻域范围内存在的其它航空器，并利用这些航空器此时的隐藏状态为第n架航空器构造一个β×β×D维的社会隐藏状态张量
其中，D和β分别是给定的隐藏状态维数和隐藏状态合并窗口大小；
以第n架航空器为中心将其前方邻域范围划分为多个β×β的网格单元，
的第k1行、第k2列位置的向量
为：
其中
是在t时刻第n架航空器前方邻域范围内第m架航空器长短期记忆网络在t-1时刻输出的隐藏状态，
是在t时刻第n架航空器前方邻域范围内的航空器集合，
和
分别表示在t时刻第n架航空器前方邻域范围内第m架航空器在t时刻的x坐标、y坐标、z坐标；
是一个用于检查
是否在第(k1,k2)个网格单元位置上的指示变量，k1,k2∈[1,β]，若第m架航空器落在第(k1,k2)个网格单元位置上，则该指示变量取值为1，反之为0；
通过两个嵌入层，将
嵌入到向量
中，将第n架航空器的x坐标、y坐标、z坐标、速度和角度嵌入到向量
中，将向量
向量
和第n架航空器长短期记忆网络t-1时刻的隐藏状态
连接起来，作为第n架航空器长短期记忆网络t时刻的输入，具体如公式5所示：
其中φ(·)是线性整流激活函数，
和Wc n分别是两个嵌入层的权重矩阵，
和
分别是两个嵌入层的偏置向量；Wl n是第n架航空器长短期记忆网络的权重，
是第n架航空器长短期记忆网络的偏置向量；
(3-3)以步骤(2)的无量纲化的数据集对社会长短期记忆网络模型进行训练，形成航空器轨迹预测模型。
进一步，步骤(4)的具体过程如下：
以当前时刻航空器x坐标、y坐标、z坐标的预测值替换真实值，计算当前时刻航空器的社会隐藏状态张量，将当前时刻航空器的社会隐藏状态张量与x坐标、y坐标、z坐标的预测值一同作为下一时刻航空器轨迹预测模型的输入，预测下一时刻航空器x坐标、y坐标、z坐标，通过不断迭代完成航空器轨迹预测。
进一步，(3-3)中具体训练过程为：
第n架航空器的轨迹服从三元高斯分布，其均值为
协方差矩阵为
μx、μy和μz分别表示x坐标、y坐标、z坐标高斯分布的均值，Cov(x,x)、Cov(y,y)、Cov(z,z)、Cov(x,y)、Cov(x,z)和Cov(y,z)分别表示x坐标、y坐标、z坐标、x坐标和y坐标、x坐标和z坐标以及y坐标和z坐标的协方差；
t时刻第n架航空器x坐标、y坐标、z坐标的预测值
满足：
其中，
为
的下三角分量，
为
的转置，WL为线性层的权重矩阵，N(·)表示高斯概率密度函数；
选择负对数似然损失作为社会长短期记忆网络模型的损失函数，其中第n架航空器长短期记忆网络的损失函数为：
其中，
分别表示t时刻第n架航空器x坐标、y坐标、z坐标的真实值，P(·)表示在t时刻第n架航空器的真实x坐标、y坐标、z坐标在社会长短期记忆网络模型输出的概率分布中的概率，log表示取对数，Tobs为第n架航空器已知轨迹的序列长度。
进一步，通过最小化步骤(2)的无量纲化的数据集中所有航空器轨迹的损失函数之和来训练社会长短期记忆网络模型。
有益效果：与现有技术相比，本发明的技术方案具有以下有益的技术效果：
(1)通过对每架航空器建立长短期记忆网络，动态更新系统隐含信息，能够保留较长时间序列下的有效信息，避免传统循环神经网络的梯度消失；
(2)基于数据驱动的预测模型综合考虑了航空器四维航迹信息、航空器速度以及角度信息，适用范围广，具有较高的泛化性，可以在多种空域结构中使用。
(3)通过构建池化层集成关联航空器的隐藏状态，该模型捕捉了航空器之间的相互作用关系。
(4)将多架航空器的轨迹汇聚到一个预测模型中，并且已知过去信息能够同步生成多条四维轨迹。
附图说明
图1是本发明方法的流程示意图。
具体实施方式
下面结合附图和实施案例对本发明的技术方案作进一步的说明。
本发明所述的一种基于社会长短期记忆网络的多架航空器轨迹同步预测方法，如图1所示，该方法包括如下步骤：
(1)读取航空器轨迹数据集，并进行质量分析。
(1-1)从雷达监视数据中读取指定空域范围内设定时间范围的所有航空器的轨迹数据，包括以下属性：记录时间、航空器编号、航空器所处经度、航空器所处纬度、航空器所处高度、航空器速度和航空器角度；
(1-2)利用值分析法对(1-1)提取的数据进行质量分析，对属性存在的缺失值、重复值和形式异常值的情况进行统计。
(2)根据步骤(1)的质量分析结果进行数据清洗以及预处理，构建输入和输出样本向量，对输入和输出样本向量进行标准化处理，生成无量纲化的数据集。
(2-1)根据(1-2)得到的值分析法统计结果，采用删除法处理缺失值、重复值和形式异常值的数据，实现数据清洗；
(2-2)将轨迹数据中的航空器所处经度、航空器所处纬度、航空器所处高度转换为地心地固坐标系中的x坐标、y坐标和z坐标；
(2-3)根据航空器编号、记录时间将每个航空器的轨迹数据按记录时间先后排序，并通过求解以下优化问题对每架航空器的轨迹进行重建：
其中，P∈RN×5为优化变量，P0∈RN×5为原始轨迹，P0的第i行是原始轨迹中航空器在第i个时刻的x坐标、y坐标、z坐标、速度以及角度，N为原始轨迹长度，
是重建后的轨迹；A∈RN×N为除对角线上元素外其余元素均为零的对角矩阵，当P0的第i行有一个或多个测量值时，A的对角线上第i个元素等于1，反之为零；
表示L2范数，λ1,λ2∈R+为正则化参数,D2∈RN-2×N是表示二阶差分矩阵，D3∈RN-4×N是表示三阶差分矩阵，R是实数；
其中(D2)j表示D2的第j行，(D3)j表示D3的第j行，ej表示第j行等于1、其余行等于0的N维向量；
(2-4)根据(2-3)中重建后的轨迹，构建输入和输出样本向量，其中，输入样本向量为
输出样本向量为
为第n架航空器在t时刻的状态序列，
为第n架航空器在t时刻的四维轨迹序列，
为第n架航空器的状态向量，
为第n架航空器的位置，
分别表示第n架航空器在t时刻的x坐标值、y坐标值、z坐标值、速度和角度，Nt为t时刻指定空域范围内的航空器架次，τn为第n架航空器进入指定空域范围内的时刻，ΔT表示预测步长，这里步长取1；
(2-5)对输入样本向量和输出样本向量，使用最小—最大标准化进行标准化处理，生成无量纲的训练数据集。
(3)构建社会长短期记忆网络模型，以步骤(2)的无量纲化的数据集进行训练，形成航空器轨迹预测模型。
(3-1)对每架航空器建立单一的长短期记忆网络：
其中σ(·)是Sigmoid激活函数，tanh(·)是双曲正切激活函数；
和
分别是第n架航空器长短期记忆网络的遗忘、记忆、细胞单元和输出权重矩阵，
和
分别是第n架航空器长短期记忆网络的遗忘、记忆、细胞单元和输出偏置向量；
分别是t、t-1时刻第n架航空器长短期记忆网络的细胞状态，ft n为t时刻第n架航空器长短期记忆网络中遗忘门的激活值；
为t时刻第n架航空器长短期记忆网络中输入门的激活值；
为利用双曲正切激活函数计算的t时刻第n架航空器长短期记忆网络中的候选状态，
分别为t、t-1时刻第n架航空器长短期记忆网络输出的隐藏状态，
为t时刻第n架航空器长短期记忆网络输出门的激活值；
是在t时刻第n架航空器长短期记忆网络的输入；
(3-2)通过池化层连接相互关联的长短期记忆网络，构建社会长短期记忆网络模型，具体过程如下：
通过相邻的其它航空器长短期记忆网络共享的隐藏状态构建第n架航空器的社会隐藏状态张量
实现多个网络之间的交互。当给定一个隐藏状态维数D、邻域大小δ和隐藏状态合并窗口大小β，以第n架航空器为中心确定在其前方邻域范围内存在的其它航空器，并利用这些航空器此时的隐藏状态为第n架航空器构造一个β×β×D维的社会隐藏状态张量
以第n架航空器为中心将其前方邻域范围划分为多个β×β的网格单元，
的第k1行、第k2列位置的向量
为：
其中
是在t时刻第n架航空器邻域范围内第m架航空器长短期记忆网络在t-1时刻输出的隐藏状态，
是在t时刻第n架航空器邻域范围内的航空器集合，
和
分别表示在t时刻第n架航空器邻域范围内第m架航空器在t时刻的x坐标、y坐标、z坐标；
是一个用于检查
是否在第(k1,k2)个网格单元位置上的指示变量，k1,k2∈[1,β]，若第m架航空器落在第(k1,k2)个网格单元位置上，则该指示变量取值为1，反之为0。
通过两个嵌入层，将
嵌入到向量
中，将第n架航空器的x坐标、y坐标、z坐标、速度和角度嵌入到向量
中，将向量
向量
和第n架航空器长短期记忆网络t-1时刻的隐藏状态
连接起来，作为第n架航空器长短期记忆网络t时刻的输入，具体如公式5所示：
其中φ(·)是线性整流激活函数，
和Wc n分别是两个嵌入层的权重矩阵，
和
分别是两个嵌入层的偏置向量；Wl n是第n架航空器长短期记忆网络的权重，
是第n架航空器长短期记忆网络的偏置向量。
(3-3)以步骤(2)的无量纲化的数据集对社会长短期记忆网络模型进行训练，形成航空器轨迹预测模型。
假设航空器三维轨迹服从三元高斯分布，即服从三元高斯分布的第n架航空器的轨迹的均值为
协方差矩阵为
μx、μy和μz分别表示x坐标、y坐标、z坐标高斯分布的均值，Cov(x,x)、Cov(y,y)、Cov(z,z)、Cov(x,y)、Cov(x,z)和Cov(y,z)分别表示x坐标、y坐标、z坐标、x坐标和y坐标、x坐标和z坐标以及y坐标和z坐标的协方差。
为了确保协方差矩阵的正定性，预测网络输出协方差矩阵的下三角分量
该分量通过Cholesky分解进一步构建协方差矩阵，如公式7所示。这些参数由具有9×D维权重矩阵WL的线性层预测，如公式8所示。在t时刻第n架航空器的预测坐标
由公式6给出，N(·)表示高斯概率密度函数：
其中，
为下三角分量
的转置，WL为线性层的权重矩阵，Tobs为第n架航空器已知轨迹的序列长度。
在这里选择负对数似然损失作为社会长短期记忆网络模型的损失函数学习模型的参数，包括前面提到的所有权重和偏置。例如，第n架航空器轨迹的损失函数Lossn如公式9所示，
分别表示时刻t航空器的真实三维位置坐标，P(·)表示在t时刻第n架航空器坐标在社会长短期记忆网络模型输出的概率分布中的概率，log表示取对数。由于在时刻t空域中有多架航空器，需要通过最小化训练数据集中所有航空器轨迹的损失函数之和来训练模型，即通过空域中的多个长短期记忆网络进行反向传播
(3-4)社会长短期记忆网络模型的参数包括结构参数和内部参数，其设置及优化的过程如下：
模型的结构参数包括输入序列长度、隐含层层数、隐含层神经元个数以及将社交隐藏状态
与输入向量
合并的嵌入层神经元个数；模型的内部参数包括每批次训练样本的大小、所有样本训练迭代轮数、学习率以及权值参数。其中，序列长度根据实际应用需求确定，权值参数通过在[0,1]区间随机赋值来进行初始化，学习率先设置初始值，在训练过程中，再按照一定的衰减率随着训练迭代轮数增长递减，剩余的隐含层层数、神经元个数、每批次训练样本的大小以及训练迭代轮数等超参数没有普适性的确定规则，这里通过贝叶斯优化的调参方式确定最终的最优超参数。除了上述的基本参数之外，社会长短期记忆网络模型还需考虑(3-2)中提到的邻域大小δ和隐藏状态合并窗口大小β，主要根据实际应用需求确定。
这里使用均方根传递算法更新和计算影响模型训练和输出的网络参数，使其逼近或达到最优值，从而最小化损失函数。在最小化验证误差过程中，采用10折交叉验证的方法，将之前分的训练集组合成10组不同的训练集和验证集，用10组验证误差的平均值作为模型最后的验证误差。
(4)利用步骤(3)中的航空器轨迹预测模型进行多架航空器轨迹的同步预测。
利用Tobs时刻前多架航空器实际运行过程中产生的轨迹数据，预测Tobs+1到Tpred时刻这些航空器的三维位置。利用前一个时刻的预测值
替换真实值
计算“社会”隐藏状态张量
并与预测值
一同作为输入值在下一时刻输入网络，通过不断迭代来预测整条轨迹。
举例而言，以2006年1至3月份美国北加州终端雷达进近管制区的63000条飞行轨迹记录为例，其中50000条用于模型训练，13000条用于模型测试。采用MAPHE,MAPVE作为评价指标，计算过程如下：
其中
表示航空器i在时刻t的真实三维位置，
表示相应的预测值，N表示空域中的航空器架数,Tobs表示轨迹的观察序列长度，Tpred表示轨迹的预测序列长度。
表1是本发明方法与主流航迹预测方法的实验结果对比。从表中可以看出，本发明的预测模型比基于运动学的主流模型和数据驱动的主流方法预测精度更高，具有更好的预测效果。
表1不同方法的实验结果
| 方法 | MAPHE(×10m) | MAPVE(m) |
| 主流基于运动学模型的方法 | 100.99 | 77.96 |
| 主流数据驱动方法 | 51.67 | 47.64 |
| 本发明方法 | 39.48 | 8.47 |
应当指出，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想，对于本技术领域的普通技术人员来说，在不脱离本申请原理的前提下，还可以对本申请进行若干改进和修饰，这些改进和修饰也在本申请权利要求的保护范围内。
Claims (7)
1.一种基于社会长短期记忆网络的航空器轨迹预测方法，其特征在于，该方法包括如下步骤：
(1)读取航空器轨迹数据集，并进行质量分析；
(2)根据步骤(1)的质量分析结果进行数据清洗以及预处理，构建输入和输出样本向量，对输入和输出样本向量进行标准化处理，生成无量纲化的数据集；
(3)构建社会长短期记忆网络模型，以步骤(2)的无量纲化的数据集进行训练，形成航空器轨迹预测模型；
(4)利用步骤(3)中的航空器轨迹预测模型进行多架航空器轨迹的同步预测。
2.如权利要求1所述的一种基于社会长短期记忆网络的航空器轨迹预测方法，其特征在于，步骤(1)的具体过程如下：
(1-1)从雷达监视数据中读取指定空域范围内设定时间范围的所有航空器的轨迹数据，包括以下属性：记录时间、航空器编号、航空器所处经度、航空器所处纬度、航空器所处高度、航空器速度和航空器角度；
(1-2)利用值分析法对(1-1)提取的数据进行质量分析，对属性存在的缺失值、重复值和形式异常值的情况进行统计。
3.如权利要求2所述的一种基于社会长短期记忆网络的航空器轨迹预测方法，其特征在于，步骤(2)的具体过程如下：
(2-1)根据(1-2)得到的值分析法统计结果，采用删除法处理缺失值、重复值和形式异常值的数据，实现数据清洗；
(2-2)将轨迹数据中的航空器所处经度、航空器所处纬度、航空器所处高度转换为地心地固坐标系中的x坐标、y坐标和z坐标；
(2-3)根据航空器编号、记录时间将每个航空器的轨迹数据按记录时间先后排序，并通过求解以下优化问题对每架航空器的轨迹进行重建：
其中，P∈RN×5为优化变量，P0∈RN×5为原始轨迹，P0的第i行是原始轨迹中航空器在第i个时刻的x坐标、y坐标、z坐标、速度以及角度，N为原始轨迹长度，
是重建后的轨迹；A∈RN ×N为除对角线上元素外其余元素均为零的对角矩阵，当P0的第i行有一个或多个测量值时，A的对角线上第i个元素等于1，反之为零；
表示L2范数，λ1,λ2∈R+为正则化参数,D2∈RN -2×N是表示二阶差分矩阵，D3∈RN-4×N是表示三阶差分矩阵，R是实数；
其中(D2)j表示D2的第j行，(D3)j表示D3的第j行，ej表示第j行等于1、其余行等于0的N维向量；
(2-4)根据(2-3)中重建后的轨迹，构建输入和输出样本向量，其中，输入样本向量为
输出样本向量为
为第n架航空器在t时刻的状态序列，
为第n架航空器在t时刻的四维轨迹序列，
为第n架航空器的状态向量，
为第n架航空器的位置，
分别表示第n架航空器在t时刻的x坐标值、y坐标值、z坐标值、速度和角度，Nt为t时刻指定空域范围内的航空器架次，τn为第n架航空器进入指定空域范围内的时刻，ΔT表示预测步长；
(2-5)对输入样本向量和输出样本向量，使用最小—最大标准化进行标准化处理，生成无量纲的训练数据集。
4.如权利要求3所述的一种基于社会长短期记忆网络的航空器轨迹预测方法，其特征在于，步骤(3)的具体过程如下：
(3-1)对每架航空器建立单一的长短期记忆网络：
其中σ(·)是Sigmoid激活函数，tanh(·)是双曲正切激活函数；
WI n、
和
分别是第n架航空器长短期记忆网络的遗忘、记忆、细胞单元和输出权重矩阵，
和
分别是第n架航空器长短期记忆网络的遗忘、记忆、细胞单元和输出偏置向量；
分别是t、t-1时刻第n架航空器长短期记忆网络的细胞状态，ft n为t时刻第n架航空器长短期记忆网络中遗忘门的激活值；
为t时刻第n架航空器长短期记忆网络中输入门的激活值；
为利用双曲正切激活函数计算的t时刻第n架航空器长短期记忆网络中的候选状态，
分别为t、t-1时刻第n架航空器长短期记忆网络输出的隐藏状态，
为t时刻第n架航空器长短期记忆网络输出门的激活值；
是在t时刻第n架航空器长短期记忆网络的输入；
(3-2)通过池化层连接相互关联的长短期记忆网络，构建社会长短期记忆网络模型，具体过程如下：
给定邻域大小δ，以第n架航空器为中心确定在其前方邻域范围内存在的其它航空器，并利用这些航空器此时的隐藏状态为第n架航空器构造一个β×β×D维的社会隐藏状态张量
其中，D和β分别是给定的隐藏状态维数和隐藏状态合并窗口大小；
以第n架航空器为中心将其前方邻域范围划分为多个β×β的网格单元，
的第k1行、第k2列位置的向量
为：
其中
是在t时刻第n架航空器前方邻域范围内第m架航空器长短期记忆网络在t-1时刻输出的隐藏状态，
是在t时刻第n架航空器前方邻域范围内的航空器集合，
和
分别表示在t时刻第n架航空器前方邻域范围内第m架航空器在t时刻的x坐标、y坐标、z坐标；
是一个用于检查
是否在第(k1,k2)个网格单元位置上的指示变量，k1,k2∈[1,β]，若第m架航空器落在第(k1,k2)个网格单元位置上，则该指示变量取值为1，反之为0；
通过两个嵌入层，将
嵌入到向量
中，将第n架航空器的x坐标、y坐标、z坐标、速度和角度嵌入到向量
中，将向量
向量
和第n架航空器长短期记忆网络t-1时刻的隐藏状态
连接起来，作为第n架航空器长短期记忆网络t时刻的输入，具体如公式5所示：
其中φ(·)是线性整流激活函数，
和
分别是两个嵌入层的权重矩阵，
和
分别是两个嵌入层的偏置向量；Wl n是第n架航空器长短期记忆网络的权重，
是第n架航空器长短期记忆网络的偏置向量；
(3-3)以步骤(2)的无量纲化的数据集对社会长短期记忆网络模型进行训练，形成航空器轨迹预测模型。
5.如权利要求4所述的一种基于社会长短期记忆网络的航空器轨迹预测方法，其特征在于，步骤(4)的具体过程如下：
以当前时刻航空器x坐标、y坐标、z坐标的预测值替换真实值，计算当前时刻航空器的社会隐藏状态张量，将当前时刻航空器的社会隐藏状态张量与x坐标、y坐标、z坐标的预测值一同作为下一时刻航空器轨迹预测模型的输入，预测下一时刻航空器x坐标、y坐标、z坐标，通过不断迭代完成航空器轨迹预测。
6.如权利要求4所述的一种基于社会长短期记忆网络的航空器轨迹预测方法，其特征在于，(3-3)中具体训练过程为：
第n架航空器的轨迹服从三元高斯分布，其均值为
协方差矩阵为
μx、μy和μz分别表示x坐标、y坐标、z坐标高斯分布的均值，Cov(x,x)、Cov(y,y)、Cov(z,z)、Cov(x,y)、Cov(x,z)和Cov(y,z)分别表示x坐标、y坐标、z坐标、x坐标和y坐标、x坐标和z坐标以及y坐标和z坐标的协方差；
t时刻第n架航空器x坐标、y坐标、z坐标的预测值
满足：
其中，
为
的下三角分量，
为
的转置，WL为线性层的权重矩阵，N(·)表示高斯概率密度函数；
选择负对数似然损失作为社会长短期记忆网络模型的损失函数，其中第n架航空器长短期记忆网络的损失函数为：
其中，
分别表示t时刻第n架航空器x坐标、y坐标、z坐标的真实值，P(·)表示在t时刻第n架航空器的真实x坐标、y坐标、z坐标在社会长短期记忆网络模型输出的概率分布中的概率，log表示取对数，Tobs为第n架航空器已知轨迹的序列长度。
7.如权利要求6所述的一种基于社会长短期记忆网络的航空器轨迹预测方法，其特征在于，通过最小化步骤(2)的无量纲化的数据集中所有航空器轨迹的损失函数之和来训练社会长短期记忆网络模型。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110239486.4A CN113076686A (zh) | 2021-03-04 | 2021-03-04 | 一种基于社会长短期记忆网络的航空器轨迹预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110239486.4A CN113076686A (zh) | 2021-03-04 | 2021-03-04 | 一种基于社会长短期记忆网络的航空器轨迹预测方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113076686A true CN113076686A (zh) | 2021-07-06 |
Family
ID=76609895
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110239486.4A Pending CN113076686A (zh) | 2021-03-04 | 2021-03-04 | 一种基于社会长短期记忆网络的航空器轨迹预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113076686A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114926772A (zh) * | 2022-07-14 | 2022-08-19 | 河南科技学院 | 一种咽拭子头部的跟踪与轨迹预测方法 |
| CN115577511A (zh) * | 2022-09-26 | 2023-01-06 | 南京航空航天大学 | 基于无人机运动状态的短期航迹预测方法、装置及系统 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108564118A (zh) * | 2018-03-30 | 2018-09-21 | 陕西师范大学 | 基于社会亲和力长短期记忆网络模型的拥挤场景行人轨迹预测方法 |
| CN111563706A (zh) * | 2020-03-05 | 2020-08-21 | 河海大学 | 一种基于lstm网络的多变量物流货运量预测方法 |
-
2021
- 2021-03-04 CN CN202110239486.4A patent/CN113076686A/zh active Pending
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108564118A (zh) * | 2018-03-30 | 2018-09-21 | 陕西师范大学 | 基于社会亲和力长短期记忆网络模型的拥挤场景行人轨迹预测方法 |
| CN111563706A (zh) * | 2020-03-05 | 2020-08-21 | 河海大学 | 一种基于lstm网络的多变量物流货运量预测方法 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114926772A (zh) * | 2022-07-14 | 2022-08-19 | 河南科技学院 | 一种咽拭子头部的跟踪与轨迹预测方法 |
| CN114926772B (zh) * | 2022-07-14 | 2022-10-21 | 河南科技学院 | 一种咽拭子头部的跟踪与轨迹预测方法 |
| CN115577511A (zh) * | 2022-09-26 | 2023-01-06 | 南京航空航天大学 | 基于无人机运动状态的短期航迹预测方法、装置及系统 |
| CN115577511B (zh) * | 2022-09-26 | 2023-11-17 | 南京航空航天大学 | 基于无人机运动状态的短期航迹预测方法、装置及系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109508812B (zh) | 一种基于深度记忆网络的航空器航迹预测方法 | |
| Zeng et al. | A deep learning approach for aircraft trajectory prediction in terminal airspace | |
| CN110321603A (zh) | 一种用于航空发动机气路故障诊断的深度计算模型 | |
| CN111461292B (zh) | 一种无人机实时轨迹预测方法 | |
| CN111815033A (zh) | 一种基于rcnn和气象时序特征的海上风电功率预测方法 | |
| CN114048889A (zh) | 基于长短期记忆网络的飞行器轨迹预测的方法 | |
| CN110555551B (zh) | 一种智慧城市的空气质量大数据管理方法及系统 | |
| CN111310965A (zh) | 一种基于lstm网络的飞行器航迹预测方法 | |
| CN112327903B (zh) | 一种基于深度混合密度网络的航空器轨迹生成方法 | |
| CN112465199B (zh) | 空域态势评估系统 | |
| CN113076686A (zh) | 一种基于社会长短期记忆网络的航空器轨迹预测方法 | |
| Yang et al. | LSTM-based deep learning model for civil aircraft position and attitude prediction approach | |
| CN112862171B (zh) | 一种基于时空神经网络的航班到达时间预测方法 | |
| CN115564114A (zh) | 一种基于图神经网络的空域碳排放短期预测方法及系统 | |
| Zhao et al. | Aircraft trajectory prediction using deep long short-term memory networks | |
| CN112257847A (zh) | 一种基于CNN和LSTM预测地磁Kp指数的方法 | |
| CN112881987A (zh) | 一种基于lstm模型的机载相控阵雷达行为预测方法 | |
| CN116307152A (zh) | 时空交互式动态图注意力网络的交通预测方法 | |
| CN113742195B (zh) | 一种基于贝叶斯神经网络的系统健康状态预测方法 | |
| Han et al. | Short-term 4D trajectory prediction based on LSTM neural network | |
| CN116911434A (zh) | 一种机场运行态势预测方法、装置、系统以及存储介质 | |
| Gunawan et al. | Long Short-Term Memory Approach for Predicting Air Temperature In Indonesia | |
| Xu et al. | Aircraft Trajectory Prediction for Terminal Airspace Employing Social Spatiotemporal Graph Convolutional Network | |
| Bisandu et al. | A hybrid Ensemble Machine Learning approach for arrival flight delay classification prediction using voting aggregation technique | |
| Geng et al. | Study on index model of tropical cyclone intensity change based on projection pursuit and evolution strategy |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |