CN112115550A - 基于Mogrifier-BiGRU的飞行器机动轨迹预测方法 - Google Patents
基于Mogrifier-BiGRU的飞行器机动轨迹预测方法 Download PDFInfo
- Publication number
- CN112115550A CN112115550A CN202010957288.7A CN202010957288A CN112115550A CN 112115550 A CN112115550 A CN 112115550A CN 202010957288 A CN202010957288 A CN 202010957288A CN 112115550 A CN112115550 A CN 112115550A
- Authority
- CN
- China
- Prior art keywords
- data
- value
- network
- bigru
- aircraft
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/10—Geometric CAD
- G06F30/15—Vehicle, aircraft or watercraft design
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2111/00—Details relating to CAD techniques
- G06F2111/10—Numerical modelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/12—Timing analysis or timing optimisation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Geometry (AREA)
- Aviation & Aerospace Engineering (AREA)
- Automation & Control Theory (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Computer Hardware Design (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了一种基于Mogrifier‑BiGRU的飞行器机动轨迹预测方法,将BiGRU和飞行器机动轨迹预测问题进行结合,充分考虑了循环网络隐层输出数据与输入数据间的耦合缺失问题,引入了Mogrifier耦合函数,解决了权重参数更新过程中历史信息被错误抛弃的问题。本发明可以很好地实现飞行器机动轨迹数据预测,极大地提高了六自由度机动轨迹数据预测的准确性与超前性,同时该网络模型对传入数据的序列长度及维度不具有限定,对数据具有较强的适应性,为提前判断目标飞行器位置和姿态信息提供了可靠的支持。
Description
技术领域
本发明涉及飞行器飞行控制和人工智能领域,具体涉及一种飞行器多维机动轨迹预测方法。
背景技术
随着航空科技的高速发展,对目标飞行器的机动及轨迹数据的预测技术成为世界各国科学研究领域的热点之一。传统的飞行器机动轨迹数据预测常采用线性回归法、差分自回归滑动平均模型、隐马尔可夫过程、时间序列分解法等,但这些方法无法充分分析各数据维度间的关联关系,因此在面对高维机动轨迹数据时,其预测准确性存在一定的局限。近些年,由于深度学习方法与人工智能理论的迅猛发展,在时序数据预测方面展现出了巨大的优势,利用深度学习强大的拟合能力,在飞行器机动轨迹数据的维度及序列长度问题上具有很强的适应性,能够深入剖析理解各维度数据间的关联特性,使预测特征得到充分表征。双向循环神经网络(BiRNN)于1997年由Schuster等人提出,该方法所包含的节点单元更新方式使得网络可以同时学习正向及反向时序数据间的关联关系,相比于单向RNN,大量的实验证明该方法在文本预测中可以取得更优异的表现,同时该方法也被证实在时序数据预测中具有更明显的优势。但RNN网络存在梯度消失与梯度爆炸的问题,导致网络迟迟无法收敛甚至发散,BiRNN同样存在该问题,在多维飞行器数据学习训练过程中常常无法正确地进行网络权值更新。门控循环单元(GRU)于2014年由Cho、Kyunghyun等人提出,该方法当前在文本预测、时序数据预测上表现出其特有的优势,但在飞行器机动轨迹预测上少有应用,结合BiRNN思路的双向GRU网络(BiGRU)将可以提升飞行器机动轨迹预测准确率至更高的水平,但传统的循环神经网络都忽略了隐层输出与输入数据之间的耦合缺失问题。考虑到隐层输出信息与后续时刻输入数据间并不为完全独立的现实情况,Gábor Melis等人于2019年提出Mogrifier-LSTM网络,该网络创造性地将隐层输出与后续输入进行耦合,解决了两者之间耦合缺失的问题,其构建的Mogrifier模块同样可随网络的优化进行参数自更新,但该文章所提出的模型是基于改进的单层单向的LSTM网络结构,其学习记忆能力存在一定的局限性,经测试对多维的飞行机动轨迹预测能力不足以达到准确性需求。
发明内容
为了克服现有技术飞行器机动轨迹预测准确性、泛化性不足的问题以及上述各模型所存在的缺陷,本发明在综合分析上述各模型优缺点的基础上,进行了方法与模型结构的整合改进,提出一种基于改进的多层双向门控循环单元网络(Mogrifier-BiGRU)的飞行器机动轨迹预测方法,采用双向门控循环单元(BiGRU)模型进行飞行数据预测,能够克服RNN网络梯度消失难以收敛以及单向GRU网络准确性难以达到需求的弊端。同时本发明在网络前后向数据传播过程中,引入Mogrifier耦合模块,解决权重参数更新过程中历史信息被错误抛弃的问题。本发明对预测数据的维度及序列长度有较强的适应性,可同时进行包含位置信息及姿态角信息在内的多维度飞行机动轨迹数据预测,能够充分理解飞行数据各维度间的关联性,有效地提高对飞行器机动轨迹数据预测的准确性与超前性,为提前判断目标飞行器位置和姿态信息提供可靠的支持。
本发明解决其技术问题所采用的技术方案包括以下步骤:
1)建立固定间隔时序条件下飞行器的机动轨迹数据集;
2)将机动轨迹数据集按照设定比例分割为训练集与测试集,并进行数据归一化处理;
3)建立Mogrifier隐层输出与网络输入耦合交互模型
式中,dt为当前时间步的输入,ht-1为上一时刻隐藏层输出,当t=0时,h-1初始化为随机数值矩阵,i为范围[1…r]的迭代次数,r为自行设定的超参数,代表迭代运算的总次数,在i为奇数和偶数的时候分别执行上述两个更新公式;σ为sigmoid激活函数,⊙为矩阵点乘运算;Q和R分别是上一时刻隐藏层输出ht-1和当前时间步输入dt的耦合权重矩阵,其维度分别为[hidden,input]和[input,hidden],分别代表隐藏层节点数和输入数据维度,其取值初始化为服从[-a,a]的均匀分布,Fan_in、Fan_out分别代表上述Q和R矩阵的两个维度;
式中,上标→代表正向循环网络,分别表示时间步t下,正向重置门与更新门的输出值,为正向的各节点权重矩阵,下角标dr,hr,dz,hz分别代表输入至重置门、隐层状态至重置门、输入至更新门、隐层状态至更新门,为上一时刻正向隐藏层输出值,dt为当前时刻输入数据,为偏置矩阵,σ为sigmoid激活函数;根据时间步t的正向隐藏状态利用当前时间步更新门的值使得上个时间步的隐藏状态和当前时间步的正向候选隐藏状态做组合;候选隐藏状态的值更新为最终正向隐藏状态式中,h为记忆单元输出,为权重向量矩阵,为偏置值;反向重置门反向更新门反向隐层节点更新公式为公式更新中下个时刻的隐层状态为
最终正向隐层节点输出结果为各时刻节点输出的拼接结果反向隐层节点最终输出结果,经过一次逆序后进行各时刻输出数据拼接,则最终状态隐层节点输出结果为正反向两者的直接拼接此时隐层输出矩阵H维度应为[seq,batch,2×hidden],并通过全连接层将维度降至[seq,batch,input],与输入数据维度保持一致,其中hidden为隐层节点数目,U为拼接操作;
5)对机动轨迹预测网络进行训练,利用测试集进行准确率检测;
6)生成基于Mogrifier-BiGRU的机动轨迹预测网络,储存网络结构及所有网络参数,根据所储存的网络,实现对未来时刻飞行器机动轨迹数据精准预测。
所述的步骤1)在不同的飞行场景下采集n条飞行器机动轨迹数据,每条轨迹包含m个时刻点,时刻点间隔为Δt,每个时刻点包含北天东三个方向坐标值,以及俯仰角、横滚角、偏航角信息。每条机动轨迹信息数据集合式中,St表示t时刻下飞行器的相关信息集合,xt,yt,zt分别表示t时刻下飞行器在地面系中北天东三个方向坐标值,θt,ψt分别表示t时刻机体轴系与地面系之间飞行器的俯仰角、横滚角、偏航角信息。
所述的步骤1)中,n不少于50,m不少于30。
所述的步骤2)中,η取值大于0.5。
所述的步骤2)对训练集与测试集中的机动轨迹数据进行离差归一化处理,得到t时刻下单条飞行机动轨迹单个维度的归一化后数据式中,为t时刻下某单条飞行器机动轨迹单个维度的数据,min(ds)为该条飞行机动轨迹单个维度数据中最小值,max(ds)为该条飞行器机动轨迹单个维度数据中最大值,s表示某具体维度数据,分别代表地面坐标系北天东三方向坐标值以及机体系与地面系俯仰、横滚、偏航角信息;完成归一化后的数据按照维度格式储存,[seq,batch,input]分别表示单次训练过程中需传入的时间序列数据长度、批处理维度、数据编码维度;批处理维度batch根据采集到的原始机动轨迹数据维度,取值为6,或一次传入多条机动轨迹数据,取值为6的整数倍;数据编码维度input取固定值1;为归一化后的机动轨迹数据矩阵,其中每条飞行机动轨迹数据的储存形式为式中,n表示第n条机动轨迹数据,m表示每条机动轨迹数据总共包含m个时刻点,表示该时刻该维度下的输入数据信息。
所述的步骤3)中,r的取值为[2,10]。
所述的步骤5)中,初始化Mogrifier-BiGRU网络拓扑结构,设定学习率Lr,设置绝对误差损失函数Loss=|youtput-yreal|,式中,youtput为输出的机动轨迹预测序列值矩阵,yreal为真实的机动轨迹值矩阵,训练步骤如下所示:
Step1:设定训练周期上限为Epoch;
Step2:传入机动轨迹数据至Mogrifier-BiGRU网络;
Step5:完成所有序列时刻的数据传入并得到每次数据最后一层网络的输出结果;
Step8:与真实飞行数据yreal进行比对,计算网络损失值,反向传播更新网络参数,记录本回合训练准确率与偏差率;
Step9:当连续1000个训练回合损失函数值低于阈值ε或达到训练周期上限值Epoch时,认为网络完成训练,储存网络。
所述的步骤5)中,Lr取值为0.0005至0.01。
本发明的有益效果是:将BiGRU和飞行器机动轨迹预测问题进行结合,不仅克服了BiRNN网络因梯度消失或梯度爆炸所导致的网络难以收敛问题,而且在GRU网络的基础上,提高了预测准确性。同时,本发明充分考虑了循环网络隐层输出数据与输入数据间的耦合缺失问题,引入了Mogrifier耦合函数,解决了权重参数更新过程中历史信息被错误抛弃的问题。该网络模型及训练方法可通过大量学习,在达到预测准确性要求后进行实际应用。由于Mogrifier-BiGRU网络的引入,本发明可以很好地实现飞行器机动轨迹数据预测,极大地提高了六自由度机动轨迹数据预测的准确性与超前性,同时该网络模型对传入数据的序列长度及维度不具有限定,对数据具有较强的适应性,为提前判断目标飞行器位置和姿态信息提供了可靠的支持。
附图说明
图1是Mogrifier基本模型展开结构图;
图2是双层Mogrifier-GRU基本展开结构图;
图3是双层BiGRU网络简易展开结构图;
图4是双层Mogrifier-BiGRU网络完整展开结构图。
具体实施方式
下面结合附图和实施例对本发明进一步说明,本发明包括但不仅限于下述实施例。
本发明基于改进的双向门控循环单元(Mogrifier-BiGRU),提出一种飞行器机动轨迹预测方法,能够实现对固定间隔时序条件下飞行器机动轨迹数据的准确预测。
本发明采用如下的技术方案,其实现过程主要包含以下步骤:
1)建立固定间隔时序条件下飞行器的机动轨迹数据集。
针对基于深度循环网络的飞行器机动轨迹预测学习训练过程,需要生成大量的飞行数据作为原始训练数据集,该方法从连续动态的飞行仿真环境中,生成包含多条飞行器六自由度飞行轨迹的原始数据集,并利用该数据集进行未来时段机动轨迹数据预测。在多种不同的飞行场景下,采集n条飞行器机动轨迹数据,每条轨迹包含m个时刻点。为保证网络训练数据量的充足,n应不少于50,m不少于30,时刻点间隔为Δt,每个时刻点包含北天东三个方向坐标值,以及俯仰角、横滚角、偏航角信息。每条机动轨迹信息数据集合可表示为:
2)数据集分割及数据归一化处理。
对已采集的飞行器机动轨迹数据集按照比例η构建为训练集与测试集,其计算公式如下:
式中,Ntrain为训练集机动轨迹数目,Ntest为测试集机动轨迹数目,Ntotal为总机动轨迹数目,η取值通常大于0.5,可使训练后的网络具有更强的泛化性。
由于采集到的机动轨迹数据值大小不一,甚至相差数量级,给网络的收敛过程和误差的反向传播带来了一定的不便,因此在训练前采用式(3)对采集到的单条各维度机动轨迹数据进行离差归一化处理:
式中,为t时刻下某单条飞行器机动轨迹单个维度的数据,min(ds)为该条飞行机动轨迹单个维度数据中最小值,max(ds)为该条飞行器机动轨迹单个维度数据中最大值,为t时刻下单条飞行机动轨迹单个维度的归一化后数据,s表示某具体维度数据:
上述变量分别代表地面坐标系北天东三方向坐标值以及机体系与地面系俯仰、横滚、偏航角信息。
完成归一化后的数据按照式(5)所示维度格式储存:
式中,[seq,batch,input]分别表示单次训练过程中需传入的时间序列数据长度、批处理维度、数据编码维度,式中批处理维度batch根据采集到的原始机动轨迹数据维度,可取值为6,或一次传入多条机动轨迹数据,取值6的整数倍;同时由于时序数据预测不需要进行信息编码,因此数据编码维度input取固定值1。为归一化后的机动轨迹数据矩阵,其中每条飞行机动轨迹数据可按照式(6)形式储存:
3)建立Mogrifier隐层输出与网络输入耦合交互模型,其展开结构见图1。
Mogrifier的基本数学模型如式(7)所示:
式中,dt为当前时间步的输入,ht-1为上一时刻隐藏层输出,当t=0时,h-1可初始化为随机数值矩阵。i为范围[1…r]的迭代次数,r为自行设定的超参数,代表迭代运算的总次数,通常取值为[2,10],在i为奇数和偶数的时候分别执行上述两个更新公式;σ为sigmoid激活函数,⊙为矩阵点乘运算;Q和R分别是上一时刻隐藏层输出ht-1和当前时间步输入dt的耦合权重矩阵,其维度分别为[hidden,input]和[input,hidden],分别代表隐藏层节点数和输入数据维度,其取值可初始化为服从[-a,a]的均匀分布,a的计算通常采用式(8)的计算公式:
式中,Fan_in、Fan_out分别代表上述Q和R矩阵的两个维度。则引入了Mogrifier模块的多层GRU网络结构如图2所示。
4)建立双向门控循环单元(BiGRU)节点模型,其网络简易展开结构见图3。
BiGRU基本单元结构及节点更新公式如下所示:
式中,上标→代表正向循环网络,分别表示时间步t下,正向重置门与更新门的输出值,为正向的各节点权重矩阵,可采用式(8)进行均匀分布权值初始化,下角标dr,hr,dz,hz分别代表输入至重置门、隐层状态至重置门、输入至更新门、隐层状态至更新门。为上一时刻正向隐藏层输出值,dt为当前时刻输入数据,为偏置矩阵,宜采用零值进行初始化,σ为sigmoid激活函数。根据时间步t的正向隐藏状态利用当前时间步更新门的值使得上个时间步的隐藏状态和当前时间步的正向候选隐藏状态做组合。而候选隐藏状态的值更新如式(11)所示:
同样存在反向隐层节点更新公式为:
最终正向隐层节点输出结果为各时刻节点输出的拼接结果:
反向隐层节点最终输出结果,经过一次逆序后进行各时刻输出数据拼接:
则最终状态隐层节点输出结果为正反向两者的直接拼接:
此时隐层输出矩阵H维度应为[seq,batch,2×hidden],并通过全连接层将维度降至[seq,batch,input],与输入数据维度保持一致,其中hidden为隐层节点数目,U为拼接操作。
5)对Mogrifier-BiGRU飞行器机动轨迹预测网络进行训练,利用测试集进行准确率检测。
初始化Mogrifier-BiGRU网络拓扑结构,具体包括网络隐层节点数hidden、GRU网络层数Layer、各权重矩阵W采用式(8)进行值初始化、偏置值矩阵b采用零值初始化,设定学习率Lr,可取值0.0005至0.01,设置绝对误差损失函数计算公式如式(19)所示:
Loss=|youtput-yreal| (19)
式中,youtput为输出的机动轨迹预测序列值矩阵,yreal为真实的机动轨迹值矩阵,Loss为本训练回合的损失函数值。训练步骤如下所示:
Step1:设定训练周期上限为Epoch;
Step2:传入机动轨迹数据至Mogrifier-BiGRU网络;
Step5:完成所有序列时刻的数据传入并得到每次数据最后一层网络的输出结果;
Step8:与真实飞行数据yreal进行比对,计算网络损失值,反向传播更新网络参数,记录本回合训练准确率与偏差率;
Step9:当连续1000个训练回合损失函数值低于阈值ε或达到训练周期上限值Epoch时,认为网络完成训练,储存网络。
6)生成基于Mogrifier-BiGRU的机动轨迹预测网络,储存网络结构及所有网络参数,根据所储存的网络,实现对未来时刻飞行器机动轨迹数据精准预测。
本发明的实施例包括以下步骤:
1.建立固定间隔时序条件下飞行器的机动轨迹数据集。
采用某飞行模拟实验系统六自由度飞行控制模型,生成连续等间隔时长Δt的原始机动轨迹数据,Δt取值视具体预测场景决定,可选取0.1s至10s不同间隔时长数据,本实例中选择0.25s。在多种不同的飞行场景下,生成总条数为n的多条飞行器机动轨迹数据,每条包含m个时刻点,本实例中n取值200,m取值100,每个时刻点包含以下多个信息,如式所示:
2.数据集分割及数据归一化处理。
对已采集的飞行器机动轨迹数据集按照比例η构建为训练集与测试集,其计算公式如下:
式中,Ntrain为训练集机动轨迹条数,Ntest为测试集机动轨迹条数,Ntotal为总机动轨迹条数,本实例中,η取值0.8,也即80%机动轨迹数据添加至训练集,20%机动轨迹数据添加至测试集。训练前采用式(22)对采集的单条各维度机动轨迹数据进行归一化处理:
式中,为t时刻下某单条飞行器机动轨迹单个维度的数据,min(ds)为该条飞行机动轨迹单个维度数据中最小值,max(ds)为该条飞行器机动轨迹单个维度数据中最大值,为t时刻下单条飞行机动轨迹单个维度的归一化后数据,s表示某具体维度数据:
其变量分别代表地面坐标系北天东三方向坐标值及机体系与地面系俯仰、横滚、偏航角信息。
完成归一化后的数据按照式(24)所示维度格式储存:
式中,[seq,batch,input]分别表示单次训练过程中需传入的时间序列数据长度、批处理维度、数据编码维度,为归一化后的机动轨迹数据矩阵。本实例中由于每条飞行序列最大长度为100,因此seq可取值5~80,本实例中采用20,批处理维度batch根据原始机动轨迹数据维度,可取值为6,或一次传入多条机动轨迹数据,取值6的整数倍,本实例为方便理解,取值为6;由于时序数据预测不需要进行信息编码,数据编码维度input取值1。其中每条飞行机动轨迹数据可按照式(25)形式储存:
3.建立Mogrifier隐层输出与网络输入耦合交互模型。
Mogrifier的基本数学模型如式(26)所示:
式中,dt为当前时间步的输入,ht-1为上一时刻隐藏层输出,当t=0时,h-1可初始化为随机数值矩阵。i为范围[1…r]的迭代次数,r为自行设定的超参数,代表迭代运算的总次数,本实例中经测试较优取值为4,在i为奇数和偶数的时候分别执行上述两个更新公式;σ为sigmoid激活函数,⊙为矩阵点乘运算;Q和R分别是上一时刻隐藏层输出ht-1和当前时间步输入dt的混合权重矩阵,其维度分别为[hidden,input]和[input,hidden],分别代表隐藏层节点数和输入数据维度,其取值可初始化为服从[-a,a]的均匀分布,a取值采用式(27)的计算公式:
4.建立双向门控循环单元(BiGRU)节点模型。
BiGRU基本单元结构及节点更新公式如下所示:
式中,上标→与←分别代表正向与反向网络参数,分别表示时间步t下,重置门与更新门的输出值,为各节点权重矩阵,可采用式(27)进行权值初始化,下角标dr,hr,dz,hz分别代表输入至重置门、隐层状态至重置门、输入至更新门、隐层状态至更新门。为上一时刻正向隐层输出值,为下一时刻反向隐层的输出值,dt为当前时刻输入数据,为偏置矩阵,宜采用零矩阵进行初始化,σ为sigmoid激活函数,该网络在训练过程中,通过与真实值的偏差计算损失函数值,并通过优化函数实现网络参数更新。
同样,反向隐层节点更新公式为:
最终正向隐层节点输出结果为各时刻节点输出的拼接结果:
反向隐层节点最终输出结果,经过一次逆序后进行各时刻输出数据拼接:
则最终状态隐层节点输出结果为正反向两者的首尾拼接:
此时隐层输出矩阵H的维度应为[seq,batch,2×hidden],并通过全连接层将维度降至[seq,batch,input],与输入数据的维度保持一致,其中hidden为隐层节点数目,U为拼接操作。
5.对Mogrifier-BiGRU飞行器机动轨迹预测网络进行训练,并利用测试集进行准确率检测。
初始化Mogrifier-BiGRU网络拓扑结构,本实例中,GRU网络层数Layer选择2层、网络隐层节点数hidden取值256,各权重矩阵W采用式(27)进行值初始化、偏置值矩阵b采用零值初始化,设定学习率Lr,可取值0.0005至0.01,设置绝对误差损失函数计算公式如式(38)所示:
Loss=|youtput-yreal| (38)
式中,youtput为输出的机动轨迹预测序列值矩阵,yreal为真实的机动轨迹值矩阵,LOSS为本训练回合的损失函数值。训练步骤如下所示:
Step1:设定训练周期上限为Epoch;
Step2:传入机动轨迹数据至Mogrifier-BiGRU网络;
Step5:完成所有序列时刻的数据传入并得到每次数据最后一层网络的输出结果;
Step8:与真实飞行数据yreal进行比对,计算网络损失值,反向传播更新网络参数,记录本回合训练准确率与偏差率;
Step9:当连续1000个训练回合损失函数值低于阈值ε或达到训练周期上限值Epoch时,认为网络完成训练,储存网络。
6.生成基于Mogrifier-BiGRU的机动轨迹预测网络,储存网络结构及所有网络参数。将固定间隔0.25s的连续20个时刻点的飞行器机动轨迹数据按照式(22)归一化后,输入所储存的网络模型,并获得后续8个时刻,也即2s内的机动轨迹数据预测结果。
Claims (10)
1.一种基于Mogrifier-BiGRU的飞行器机动轨迹预测方法,其特征在于包括以下步骤:
1)建立固定间隔时序条件下飞行器的机动轨迹数据集;
2)将机动轨迹数据集按照设定比例分割为训练集与测试集,并进行数据归一化处理;
3)建立Mogrifier隐层输出与网络输入耦合交互模型
式中,dt为当前时间步的输入,ht-1为上一时刻隐藏层输出,当t=0时,h-1初始化为随机数值矩阵,i为范围[1…r]的迭代次数,r为自行设定的超参数,代表迭代运算的总次数,在i为奇数和偶数的时候分别执行上述两个更新公式;σ为sigmoid激活函数,⊙为矩阵点乘运算;Q和R分别是上一时刻隐藏层输出ht-1和当前时间步输入dt的耦合权重矩阵,其维度分别为[hidden,input]和[input,hidden],分别代表隐藏层节点数和输入数据维度,其取值初始化为服从[-a,a]的均匀分布,Fan_in、Fan_out分别代表上述Q和R矩阵的两个维度;
式中,上标→代表正向循环网络,分别表示时间步t下,正向重置门与更新门的输出值,为正向的各节点权重矩阵,下角标dr,hr,dz,hz分别代表输入至重置门、隐层状态至重置门、输入至更新门、隐层状态至更新门,为上一时刻正向隐藏层输出值,dt为当前时刻输入数据,为偏置矩阵,σ为sigmoid激活函数;根据时间步t的正向隐藏状态利用当前时间步更新门的值使得上个时间步的隐藏状态和当前时间步的正向候选隐藏状态做组合;候选隐藏状态的值更新为最终正向隐藏状态式中,h为记忆单元输出,为权重向量矩阵,为偏置值;反向重置门反向更新门反向隐层节点更新公式为公式更新中下个时刻的隐层状态为
最终正向隐层节点输出结果为各时刻节点输出的拼接结果反向隐层节点最终输出结果,经过一次逆序后进行各时刻输出数据拼接,则最终状态隐层节点输出结果为正反向两者的直接拼接此时隐层输出矩阵H维度应为[seq,batch,2×hidden],并通过全连接层将维度降至[seq,batch,input],与输入数据维度保持一致,其中hidden为隐层节点数目,U为拼接操作;
5)对机动轨迹预测网络进行训练,利用测试集进行准确率检测;
6)生成基于Mogrifier-BiGRU的机动轨迹预测网络,储存网络结构及所有网络参数,根据所储存的网络,实现对未来时刻飞行器机动轨迹数据精准预测。
3.根据权利要求2所述的基于Mogrifier-BiGRU的飞行器机动轨迹预测方法,其特征在于:所述的步骤1)中,n不少于50,m不少于30。
5.根据权利要求4所述的基于Mogrifier-BiGRU的飞行器机动轨迹预测方法,其特征在于:所述的步骤2)中,η取值大于0.5。
6.根据权利要求1所述的基于Mogrifier-BiGRU的飞行器机动轨迹预测方法,其特征在于:所述的步骤2)对训练集与测试集中的机动轨迹数据进行离差归一化处理,得到t时刻下单条飞行机动轨迹单个维度的归一化后数据式中,为t时刻下某单条飞行器机动轨迹单个维度的数据,min(ds)为该条飞行机动轨迹单个维度数据中最小值,max(ds)为该条飞行器机动轨迹单个维度数据中最大值,s表示某具体维度数据,分别代表地面坐标系北天东三方向坐标值以及机体系与地面系俯仰、横滚、偏航角信息;完成归一化后的数据按照维度格式储存,[seq,batch,input]分别表示单次训练过程中需传入的时间序列数据长度、批处理维度、数据编码维度;批处理维度batch根据采集到的原始机动轨迹数据维度,取值为6,或一次传入多条机动轨迹数据,取值为6的整数倍;数据编码维度input取固定值1;为归一化后的机动轨迹数据矩阵,其中每条飞行机动轨迹数据的储存形式为式中,n表示第n条机动轨迹数据,m表示每条机动轨迹数据总共包含m个时刻点,表示该时刻该维度下的输入数据信息。
7.根据权利要求1所述的基于Mogrifier-BiGRU的飞行器机动轨迹预测方法,其特征在于:所述的步骤3)中,r的取值为[2,10]。
9.根据权利要求1所述的基于Mogrifier-BiGRU的飞行器机动轨迹预测方法,其特征在于:所述的步骤5)中,初始化Mogrifier-BiGRU网络拓扑结构,设定学习率Lr,设置绝对误差损失函数Loss=|youtput-yreal|,式中,youtput为输出的机动轨迹预测序列值矩阵,yreal为真实的机动轨迹值矩阵,训练步骤如下所示:
Step1:设定训练周期上限为Epoch;
Step2:传入机动轨迹数据至Mogrifier-BiGRU网络;
Step5:完成所有序列时刻的数据传入并得到每次数据最后一层网络的输出结果;
Step8:与真实飞行数据yreal进行比对,计算网络损失值,反向传播更新网络参数,记录本回合训练准确率与偏差率;
Step9:当连续1000个训练回合损失函数值低于阈值ε或达到训练周期上限值Epoch时,认为网络完成训练,储存网络。
10.根据权利要求9所述的基于Mogrifier-BiGRU的飞行器机动轨迹预测方法,其特征在于:所述的步骤5)中,Lr取值为0.0005至0.01。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010957288.7A CN112115550B (zh) | 2020-09-13 | 2020-09-13 | 基于Mogrifier-BiGRU的飞行器机动轨迹预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010957288.7A CN112115550B (zh) | 2020-09-13 | 2020-09-13 | 基于Mogrifier-BiGRU的飞行器机动轨迹预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112115550A true CN112115550A (zh) | 2020-12-22 |
CN112115550B CN112115550B (zh) | 2022-04-19 |
Family
ID=73802987
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010957288.7A Active CN112115550B (zh) | 2020-09-13 | 2020-09-13 | 基于Mogrifier-BiGRU的飞行器机动轨迹预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112115550B (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112859898A (zh) * | 2021-01-18 | 2021-05-28 | 中山大学 | 一种基于双通道双向神经网络的飞行器轨迹预测方法 |
CN113190632A (zh) * | 2020-12-23 | 2021-07-30 | 南京未来网络产业创新有限公司 | 一种轨迹复原算法的模型建立方法及系统 |
CN113269077A (zh) * | 2021-05-19 | 2021-08-17 | 青岛科技大学 | 基于改进门控网络和残差网络的水声通信信号调制方式识别方法 |
CN113408588A (zh) * | 2021-05-24 | 2021-09-17 | 上海电力大学 | 一种基于注意力机制的双向gru轨迹预测方法 |
CN113657454A (zh) * | 2021-07-23 | 2021-11-16 | 杭州安脉盛智能技术有限公司 | 基于自回归BiGRU的核电旋转机械状态监测方法 |
CN113792473A (zh) * | 2021-01-04 | 2021-12-14 | 北京京东尚科信息技术有限公司 | 无人机动力学网络预测模型的建模、使用方法及相关设备 |
CN113987679A (zh) * | 2021-10-30 | 2022-01-28 | 福州大学 | 基于mogrifier-gru深度学习的列车稳定性预测方法及系统 |
CN114298183A (zh) * | 2021-12-20 | 2022-04-08 | 江西洪都航空工业集团有限责任公司 | 飞行动作智能识别方法 |
CN115359684A (zh) * | 2022-08-16 | 2022-11-18 | 辽宁工程技术大学 | 一种基于Elastic-BiGRU结构的航空器轨迹预测方法 |
CN117893575A (zh) * | 2024-03-15 | 2024-04-16 | 青岛哈尔滨工程大学创新发展中心 | 图神经网络融入自注意力机制的船舶运动预报方法及系统 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20160118658A (ko) * | 2015-04-02 | 2016-10-12 | 한국항공우주연구원 | 실시간 항적 자료 모니터링을 통한 항공기 궤적 예측 방법 및 시스템 |
US20180046894A1 (en) * | 2016-08-12 | 2018-02-15 | DeePhi Technology Co., Ltd. | Method for optimizing an artificial neural network (ann) |
CN109508812A (zh) * | 2018-10-09 | 2019-03-22 | 南京航空航天大学 | 一种基于深度记忆网络的航空器航迹预测方法 |
CN109976156A (zh) * | 2019-03-13 | 2019-07-05 | 南京航空航天大学 | 固定翼无人机栖落机动轨迹的建模与预测控制方法 |
CN110168570A (zh) * | 2016-12-29 | 2019-08-23 | 谷歌有限责任公司 | 用于多个传感器的机器学习虚拟传感器模型 |
CN110348632A (zh) * | 2019-07-11 | 2019-10-18 | 广东电网有限责任公司 | 一种基于奇异谱分析和深度学习的风电功率预测方法 |
CN111145552A (zh) * | 2020-01-06 | 2020-05-12 | 重庆大学 | 基于5g网络的车辆动态换道轨迹的规划方法 |
CN111191897A (zh) * | 2019-12-23 | 2020-05-22 | 浙江传媒学院 | 基于双向gru神经网络的业务流程在线合规性预测方法及系统 |
CN111242351A (zh) * | 2019-12-31 | 2020-06-05 | 上海师范大学 | 基于自编码器和gru神经网络的热带气旋轨迹预测方法 |
CN111310965A (zh) * | 2019-10-30 | 2020-06-19 | 北京航空航天大学 | 一种基于lstm网络的飞行器航迹预测方法 |
CN111325112A (zh) * | 2020-01-31 | 2020-06-23 | 贵州大学 | 基于深度门控循环单元神经网络的刀具磨损状态监测方法 |
CN111369053A (zh) * | 2020-03-03 | 2020-07-03 | 广东工业大学 | 一种人车交互场景下行人与车辆的轨迹预测方法 |
CN111523081A (zh) * | 2020-05-01 | 2020-08-11 | 西北工业大学 | 一种基于增强门控循环神经网络的航空发动机故障诊断方法 |
US20200265291A1 (en) * | 2019-02-18 | 2020-08-20 | Nec Laboratories America, Inc. | Spatio temporal gated recurrent unit |
-
2020
- 2020-09-13 CN CN202010957288.7A patent/CN112115550B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20160118658A (ko) * | 2015-04-02 | 2016-10-12 | 한국항공우주연구원 | 실시간 항적 자료 모니터링을 통한 항공기 궤적 예측 방법 및 시스템 |
US20180046894A1 (en) * | 2016-08-12 | 2018-02-15 | DeePhi Technology Co., Ltd. | Method for optimizing an artificial neural network (ann) |
CN110168570A (zh) * | 2016-12-29 | 2019-08-23 | 谷歌有限责任公司 | 用于多个传感器的机器学习虚拟传感器模型 |
CN109508812A (zh) * | 2018-10-09 | 2019-03-22 | 南京航空航天大学 | 一种基于深度记忆网络的航空器航迹预测方法 |
US20200265291A1 (en) * | 2019-02-18 | 2020-08-20 | Nec Laboratories America, Inc. | Spatio temporal gated recurrent unit |
CN109976156A (zh) * | 2019-03-13 | 2019-07-05 | 南京航空航天大学 | 固定翼无人机栖落机动轨迹的建模与预测控制方法 |
CN110348632A (zh) * | 2019-07-11 | 2019-10-18 | 广东电网有限责任公司 | 一种基于奇异谱分析和深度学习的风电功率预测方法 |
CN111310965A (zh) * | 2019-10-30 | 2020-06-19 | 北京航空航天大学 | 一种基于lstm网络的飞行器航迹预测方法 |
CN111191897A (zh) * | 2019-12-23 | 2020-05-22 | 浙江传媒学院 | 基于双向gru神经网络的业务流程在线合规性预测方法及系统 |
CN111242351A (zh) * | 2019-12-31 | 2020-06-05 | 上海师范大学 | 基于自编码器和gru神经网络的热带气旋轨迹预测方法 |
CN111145552A (zh) * | 2020-01-06 | 2020-05-12 | 重庆大学 | 基于5g网络的车辆动态换道轨迹的规划方法 |
CN111325112A (zh) * | 2020-01-31 | 2020-06-23 | 贵州大学 | 基于深度门控循环单元神经网络的刀具磨损状态监测方法 |
CN111369053A (zh) * | 2020-03-03 | 2020-07-03 | 广东工业大学 | 一种人车交互场景下行人与车辆的轨迹预测方法 |
CN111523081A (zh) * | 2020-05-01 | 2020-08-11 | 西北工业大学 | 一种基于增强门控循环神经网络的航空发动机故障诊断方法 |
Non-Patent Citations (2)
Title |
---|
LIU ZHAO-WEI;ZHONG ZHAO-LIN;WANG LEI;LI KE: "Optimal human-like trajectory planning of CP-nets for robot", 《CONTROL THEORY & APPLICATIONS》 * |
张斌, 陈春歌: "某种飞行器运动学轨迹建模与仿真", 《战术导弹技术》 * |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113190632A (zh) * | 2020-12-23 | 2021-07-30 | 南京未来网络产业创新有限公司 | 一种轨迹复原算法的模型建立方法及系统 |
CN113190632B (zh) * | 2020-12-23 | 2023-08-15 | 南京未来网络产业创新有限公司 | 一种轨迹复原算法的模型建立方法及系统 |
CN113792473A (zh) * | 2021-01-04 | 2021-12-14 | 北京京东尚科信息技术有限公司 | 无人机动力学网络预测模型的建模、使用方法及相关设备 |
CN112859898A (zh) * | 2021-01-18 | 2021-05-28 | 中山大学 | 一种基于双通道双向神经网络的飞行器轨迹预测方法 |
CN112859898B (zh) * | 2021-01-18 | 2022-03-22 | 中山大学 | 一种基于双通道双向神经网络的飞行器轨迹预测方法 |
CN113269077A (zh) * | 2021-05-19 | 2021-08-17 | 青岛科技大学 | 基于改进门控网络和残差网络的水声通信信号调制方式识别方法 |
CN113408588B (zh) * | 2021-05-24 | 2023-02-14 | 上海电力大学 | 一种基于注意力机制的双向gru轨迹预测方法 |
CN113408588A (zh) * | 2021-05-24 | 2021-09-17 | 上海电力大学 | 一种基于注意力机制的双向gru轨迹预测方法 |
CN113657454B (zh) * | 2021-07-23 | 2024-02-23 | 杭州安脉盛智能技术有限公司 | 基于自回归BiGRU的核电旋转机械状态监测方法 |
CN113657454A (zh) * | 2021-07-23 | 2021-11-16 | 杭州安脉盛智能技术有限公司 | 基于自回归BiGRU的核电旋转机械状态监测方法 |
CN113987679A (zh) * | 2021-10-30 | 2022-01-28 | 福州大学 | 基于mogrifier-gru深度学习的列车稳定性预测方法及系统 |
CN114298183A (zh) * | 2021-12-20 | 2022-04-08 | 江西洪都航空工业集团有限责任公司 | 飞行动作智能识别方法 |
CN114298183B (zh) * | 2021-12-20 | 2024-04-05 | 江西洪都航空工业集团有限责任公司 | 飞行动作智能识别方法 |
CN115359684A (zh) * | 2022-08-16 | 2022-11-18 | 辽宁工程技术大学 | 一种基于Elastic-BiGRU结构的航空器轨迹预测方法 |
CN117893575A (zh) * | 2024-03-15 | 2024-04-16 | 青岛哈尔滨工程大学创新发展中心 | 图神经网络融入自注意力机制的船舶运动预报方法及系统 |
CN117893575B (zh) * | 2024-03-15 | 2024-05-31 | 青岛哈尔滨工程大学创新发展中心 | 图神经网络融入自注意力机制的船舶运动预报方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN112115550B (zh) | 2022-04-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112115550B (zh) | 基于Mogrifier-BiGRU的飞行器机动轨迹预测方法 | |
CN111897353B (zh) | 基于gru的飞行器机动轨迹预测方法 | |
CN113110592B (zh) | 一种无人机避障与路径规划方法 | |
CN109992000B (zh) | 一种基于分层强化学习的多无人机路径协同规划方法及装置 | |
CN110796110B (zh) | 一种基于图卷积网络的人体行为识别方法及系统 | |
CN107463966B (zh) | 基于双深度神经网络的雷达一维距离像目标识别方法 | |
CN102402712B (zh) | 基于神经网络的机器人强化学习初始化方法 | |
Kang et al. | Deep convolutional identifier for dynamic modeling and adaptive control of unmanned helicopter | |
Cao et al. | Target search control of AUV in underwater environment with deep reinforcement learning | |
CN112906882B (zh) | 利用模型预测控制的逆向强化学习 | |
CN112162564A (zh) | 基于模仿学习和强化学习算法的无人机飞行控制方法 | |
CN112859898B (zh) | 一种基于双通道双向神经网络的飞行器轨迹预测方法 | |
CN108320051B (zh) | 一种基于gru网络模型的移动机器人动态避碰规划方法 | |
Song et al. | Guidance and control of autonomous surface underwater vehicles for target tracking in ocean environment by deep reinforcement learning | |
CN109508686B (zh) | 一种基于层次化特征子空间学习的人体行为识别方法 | |
CN104504520A (zh) | 一种基于神经网络的深空探测器自主任务规划方法 | |
Yao et al. | Lstm-pso: Long short-term memory ship motion prediction based on particle swarm optimization | |
CN114626598A (zh) | 一种基于语义环境建模的多模态轨迹预测方法 | |
Chen et al. | Deep feature representation based imitation learning for autonomous helicopter aerobatics | |
CN116700327A (zh) | 一种基于连续动作优势函数学习的无人机轨迹规划方法 | |
Zijian et al. | Imaginary filtered hindsight experience replay for UAV tracking dynamic targets in large-scale unknown environments | |
CN117908565A (zh) | 基于最大熵多智能体强化学习的无人机安全路径规划方法 | |
CN111695195B (zh) | 一种基于长短时间记忆网络的空间物理运动体建模方法 | |
Xu et al. | AUV motion planning in uncertain flow fields using bayes adaptive MDPs | |
CN113011081B (zh) | 一种基于元学习的无人机导航方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |