CN113850366B - 一种基于lstm的预测目标运动的方法 - Google Patents

一种基于lstm的预测目标运动的方法 Download PDF

Info

Publication number
CN113850366B
CN113850366B CN202110917552.9A CN202110917552A CN113850366B CN 113850366 B CN113850366 B CN 113850366B CN 202110917552 A CN202110917552 A CN 202110917552A CN 113850366 B CN113850366 B CN 113850366B
Authority
CN
China
Prior art keywords
lstm
state
formula
output
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110917552.9A
Other languages
English (en)
Other versions
CN113850366A (zh
Inventor
宁立江
陆小科
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
CETC 14 Research Institute
Original Assignee
CETC 14 Research Institute
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by CETC 14 Research Institute filed Critical CETC 14 Research Institute
Priority to CN202110917552.9A priority Critical patent/CN113850366B/zh
Publication of CN113850366A publication Critical patent/CN113850366A/zh
Application granted granted Critical
Publication of CN113850366B publication Critical patent/CN113850366B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/66—Radar-tracking systems; Analogous systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar Systems Or Details Thereof (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于LSTM的预测目标运动的方法，使用训练集训练模型，使用验证集评估模型，根据在验证集上获得的效果调整参数，迭代上述过程，选择在验证集上获得最佳效果的模型，使用测试集确认模型的效果，采用LSTM设计预测网络结构，训练数据依次通过序列输入层、LSTM层、全链接层、回归输出层，在当前时刻t向后预测目标在Δt后的的运动特征，第一个LSTM单元用初始状态更新状态并输出，向第二个单元传递，最后一个LSTM单元输出最终状态；本发明在线实时预测目标航迹点的高度和垂直方向的速度，以均方根误差为评估指标，利用深度学习方法，实现目标运动特征的智能预测，提取目标序列的智能处理方法，扩展应用于其他类目标序列处理。

Description

一种基于LSTM的预测目标运动的方法
技术领域
本发明属于雷达探测技术领域，具体涉及一种跟踪运动技术。
背景技术
对雷达探测目标的研究，非常关注的问题是目标的运动特性。目标的高度和速度是两个关键特征，若能精确预测这两个特征，则对实时预报目标运动状态有很大帮助。
雷达探测目标是按批标识，每批按照时间属性将探测航迹点串接形成序列，探测目标的运动数据是典型的时间序列数据。不同批次的目标序列长度不同，用包括目标批号、航迹点探测时间、航迹点位置、航迹点速率等在内的特征表示。
长短时记忆网络LSTM是一种RNN网络，它能学习序列数据时间步中的长期依赖关系，通过记忆单元和门限机制，解决RNN存在的梯度消失和梯度爆炸问题，广泛应用于序列数据处理中。
发明内容
本发明为了解决现有技术存在的问题，提出了一种基于LSTM的预测目标运动的方法，为了实现上述目的，本发明采用了以下技术方案。
使用训练集训练模型，使用验证集评估模型，根据在验证集上获得的效果调整参数；迭代上述过程，选择在验证集上获得最佳效果的模型，使用测试集确认模型的效果。
由m个样本、每个样本f个特征、序列长度S，令
Figure BDA0003206193700000011
X＝[X(1),X(2),…,X(m)]构造m×S×f的矩阵X。
一个样本对应一批目标，由于雷达探测数据不连续，每批目标的航迹点数量不同，不同样本的S大小是变化的。
由X表示训练数据，Y表示对应的输出响应，向后预测目标的运动特征，令
Figure BDA0003206193700000012
构造矩阵(X,Y)，表示数据集。
所有特征在当前时刻t的输出响应是Δt后的值，数据集具有典型时间序列的特点，根据过去一段时间内的特征，预测未来一段时间的特征。
采用LSTM设计预测网络结构，训练数据依次通过序列输入层、LSTM层、全链接层、回归输出层，设置序列输入层的节点数为输入特征数、全链接层的节点数为输出响应数，令LSTM的隐藏节点数可调整。
训练数据穿越LSTM单元，第一个LSTM单元用初始状态更新状态并输出，向第二个单元传递，令ht和ct为某单元在时间步t的输出和状态，则该单元的输入为ct-1和ht-1以及xt。
设计三个门限开关控制状态C的传递：门限开关一保存长期状态C，门限开关二将即时状态输入到长期状态，门限开关三将长期状态C作为当前LSTM单元的输出。
将门限开关整合为全链接层，输入一个向量，输出一个0到1之间的实数向量；若输出0，则任何向量与0相乘得到0向量，无信息通过；若输出1，则任何向量与1相乘得到原向量，所有信息通过。
设置偏置项bf、bi、bc、bo和权重矩阵Wf、Wi、Wc、Wo，设[ht-1,xt]将两个向量连接成一个向量，采用公式七
Figure BDA0003206193700000021
构造sigmoid函数σ，采用公式八
Figure BDA0003206193700000022
Figure BDA0003206193700000023
计算当前单元的状态，采用公式九
Figure BDA0003206193700000024
计算均方根误差，以评估预测性能。
设计遗忘门限开关和输入门限开关控制状态C的内容：遗忘开关采用公式一ft＝σ(Wf·[ht-1,xt]+bf)保留长期记忆ct-1的部分信息到新记忆ct；输入门限开关采用公式二it＝σ(Wi·[ht-1,xt]+bi保留输入xt的部分信息到新记忆ct；采用公式四
Figure BDA0003206193700000025
Figure BDA0003206193700000026
计算当前记忆ct，设
Figure BDA00032061937000000210
按元素乘，采用公式三
Figure BDA00032061937000000211
计算新记忆ct。
按元素乘
Figure BDA00032061937000000212
作用于两个向量的计算方式为
Figure BDA0003206193700000027
作用于一个向量和一个矩阵为
Figure BDA0003206193700000028
作用两个矩阵为
Figure BDA0003206193700000029
遗忘门限开关可以保存很久之前的信息，输入门限开关可以避免当前信息中无关紧要的内容进入记忆。
设计输出门限开关，采用公式五ot＝σ(Wo·[ht-1,xt]+bo)保留新记忆ct的部分信息到输出ht，采用公式六
Figure BDA00032061937000000213
计算t时刻的输出。
本发明的有益效果：在线实时预测目标航迹点的高度和垂直方向的速度，以均方根误差为评估指标，利用深度学习方法，实现目标运动特征的智能预测，提取目标序列的智能处理方法，扩展应用于其他类目标序列处理。
附图说明
图1是预测网络原理结构图，图2是LSTM的基本原理处理流程图，图3是LSTM门限开关原理结构图，图4是RMSE随轨迹长度变化图。
具体实施方式
以下结合附图对本发明的技术方案做具体的说明。
采用LSTM设计预测网络结构，训练数据依次通过序列输入层、LSTM层、全链接层、回归输出层，如图1所示，设置序列输入层的节点数为输入特征数、全链接层的节点数为输出响应数，令LSTM的隐藏节点数可调整。
训练数据穿越LSTM单元，第一个LSTM单元用初始状态更新状态并输出，向第二个单元传递，令ht和ct为某单元在时间步t的输出和状态，则该单元的输入为ct-1和ht-1以及xt，如图2所示，最后一个LSTM单元输出最终状态。
设置偏置项bf、bi、bc、bo和权重矩阵Wf、Wi、Wc、Wo，设[ht-1,xt]将两个向量连接成一个向量，采用公式七
Figure BDA0003206193700000031
构造sigmoid函数σ，采用公式八
Figure BDA0003206193700000032
Figure BDA0003206193700000033
计算当前单元的状态，采用公式九
Figure BDA0003206193700000034
计算均方根误差，以评估预测性能，如图3所示。
设计三个门限开关控制状态C的传递：门限开关一保存长期状态C，门限开关二将即时状态输入到长期状态，门限开关三将长期状态C作为当前LSTM单元的输出。
将门限开关整合为全链接层，输入一个向量，输出一个0到1之间的实数向量；若输出0，则任何向量与0相乘得到0向量，无信息通过；若输出1，则任何向量与1相乘得到原向量，所有信息通过。
设计遗忘门限开关和输入门限开关控制状态C的内容：遗忘开关采用公式一ft＝σ(Wf·[ht-1,xt]+bf)保留长期记忆ct-1的部分信息到新记忆ct；输入门限开关采用公式二it＝σ(Wi·[ht-1,xt]+bi保留输入xt的部分信息到新记忆ct；采用公式四
Figure BDA0003206193700000035
ht-1,xt+bc计算当前记忆ct，设
Figure BDA0003206193700000036
按元素乘，采用公式三
Figure BDA0003206193700000037
计算新记忆ct。
设计输出门限开关，采用公式五ot＝σ(Wo·[ht-1,xt]+bo)保留新记忆ct的部分信息到输出ht，采用公式六
Figure BDA0003206193700000042
计算t时刻的输出。
高度、垂直方向的速度RMSE随轨迹序列长度的变化情况如图4示，随着轨迹序列长度越来越大，高度、速度的预测误差逐渐增大，轨迹序列越长，预测误差波动越大，反映到稳定性欠佳，可以推断这种现象是由网络节点数少造成的，通过调度更大规模的计算资源，加大网络节点数来解决。
应用STK仿真生成60批序列长度不等的雷达探测目标运动轨迹，构建深度网络实现预测，Δt设计为1，两组试验对目标高度和垂直方向的速率进行预测：第一组用轨迹的前90％作为训练数据、后10％作为测试数据；第二组在轨迹中间80％随机选取3个时间点，预测从这些时间点开始的10、20、30、60秒的高度、速度。
用标准差RMSE评估预测性能，网络LSTM层隐藏节点数为50、循环迭代次数为50，预测60条轨迹中高度、垂直方向速度，两组试验的均方根误差RMSE，其中第二组试验中的值是随机选取3×4＝12段轨迹的RMSE均值，试验结果如下表所示。
Figure BDA0003206193700000041
Figure BDA0003206193700000051
上述作为本发明的实施例，并不限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均包含在本发明的保护范围之内。

Claims (6)

1.一种基于LSTM的预测目标运动的方法，其特征在于，包括：使用训练集训练模型，使用验证集评估模型，根据在验证集上获得的效果调整参数，迭代上述过程，选择在验证集上获得最佳效果的模型，使用测试集确认模型的效果；由m个样本、每个样本f个特征、序列长度S，令
Figure FDA0003206193690000011
X＝[X(1)，X(2)，...，X(m)]构造m×S×f的矩阵X表示训练数据，令
Figure FDA0003206193690000012
构造矩阵(X，Y)表示数据集，Y表示X对应的输出响应，在当前时刻t向后预测目标在Δt后的的运动特征；采用LSTM设计预测网络结构，训练数据依次通过序列输入层、LSTM层、全链接层、回归输出层，设置序列输入层的节点数为输入特征数、全链接层的节点数为输出响应数，令LSTM的隐藏节点数可调整；训练数据穿越LSTM单元，第一个LSTM单元用初始状态更新状态并输出，向第二个单元传递，令ht和ct为某单元在时间步t的输出和状态，则该单元的输入为ct-1和ht-1以及xt，最后一个LSTM单元输出最终状态。
2.根据权利要求1所述的基于LSTM的预测目标运动的方法，其特征在于，还包括：设计三个门限开关控制状态C的传递，门限开关一保存长期状态C，门限开关二将即时状态输入到长期状态，门限开关三将长期状态C作为当前LSTM单元的输出。
3.根据权利要求2所述的基于LSTM的预测目标运动的方法，其特征在于，还包括：将门限开关整合为全链接层，输入一个向量，输出一个0到1之间的实数向量；若输出0，则任何向量与0相乘得到0向量，无信息通过；若输出1，则任何向量与1相乘得到原向量，所有信息通过。
4.根据权利要求1所述的基于LSTM的预测目标运动的方法，其特征在于，还包括：设置偏置项bf、bi、bc、bo和权重矩阵Wf、Wi、Wc、Wo，设[ht-1，xt]将两个向量连接成一个向量，采用公式七
Figure FDA0003206193690000013
构造sigmoid函数σ，采用公式八
Figure FDA0003206193690000014
Figure FDA0003206193690000015
计算当前单元的状态，采用公式九
Figure FDA0003206193690000016
计算均方根误差，以评估预测性能。
5.根据权利要求4所述的基于LSTM的预测目标运动的方法，其特征在于，还包括：设计遗忘门限开关和输入门限开关控制状态C的内容，遗忘开关采用公式一ft＝σ(Wf·[ht-1，xt]+bf)保留长期记忆ct-1的部分信息到新记忆ct；输入门限开关采用公式二it＝σ(Wi·[ht-1，xt]+bi保留输入xt的部分信息到新记忆ct；采用公式四
Figure FDA0003206193690000017
Figure FDA0003206193690000018
计算当前记忆
Figure FDA0003206193690000019
设
Figure FDA00032061936900000111
按元素乘，采用公式三
Figure FDA00032061936900000110
计算新记忆ct。
6.根据权利要求5所述的基于LSTM的预测目标运动的方法，其特征在于，还包括：设计输出门限开关，采用公式五ot＝σ(Wo·[ht-1，xt]+bO)保留新记忆ct的部分信息到输出ht，采用公式六
Figure FDA0003206193690000021
计算t时刻的输出。
CN202110917552.9A 2021-08-11 2021-08-11 一种基于lstm的预测目标运动的方法 Active CN113850366B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110917552.9A CN113850366B (zh) 2021-08-11 2021-08-11 一种基于lstm的预测目标运动的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110917552.9A CN113850366B (zh) 2021-08-11 2021-08-11 一种基于lstm的预测目标运动的方法

Publications (2)

Publication Number Publication Date
CN113850366A CN113850366A (zh) 2021-12-28
CN113850366B true CN113850366B (zh) 2023-02-14

Family

ID=78975679

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110917552.9A Active CN113850366B (zh) 2021-08-11 2021-08-11 一种基于lstm的预测目标运动的方法

Country Status (1)

Country Link
CN (1) CN113850366B (zh)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109859469A (zh) * 2019-02-15 2019-06-07 重庆邮电大学 一种基于集成lstm神经网络的车流量预测方法
CN112116147A (zh) * 2020-09-16 2020-12-22 南京大学 一种基于lstm深度学习的河流水温预测方法
CN112949902B (zh) * 2021-01-25 2023-06-16 西北工业大学 一种基于lstm多状态向量序列到序列模型的径流预测方法

Also Published As

Publication number Publication date
CN113850366A (zh) 2021-12-28

Similar Documents

Publication Publication Date Title
CN108621159B (zh) 一种基于深度学习的机器人动力学建模方法
CN109816095B (zh) 基于改进门控循环神经网络的网络流量预测方法
CN108764568B (zh) 一种基于lstm网络的数据预测模型调优方法及装置
CN110470259A (zh) 基于lstm的滑坡位移动态预测方法
CN111310965A (zh) 一种基于lstm网络的飞行器航迹预测方法
Al-Matarneh et al. Development of temperature-based weather forecasting models using neural networks and fuzzy logic
CN111260124A (zh) 一种基于注意力机制深度学习的混沌时间序列预测方法
CN108879732B (zh) 电力系统暂态稳定评估方法及装置
CN110059439B (zh) 一种基于数据驱动的航天器轨道确定方法
CN107886193A (zh) 一种基于灰狼优化回声状态网络的时序预测方法
CN114118375B (zh) 一种基于时序图Transformer的连续动态网络表征学习方法
CN114462718A (zh) 基于时间滑动窗口的cnn-gru风电功率预测方法
CN112149883A (zh) 基于fwa-bp神经网络的光伏功率预测方法
CN116151102A (zh) 一种空间目标超短弧初始轨道智能确定方法
CN110223342B (zh) 一种基于深度神经网络的空间目标尺寸估计方法
CN113468466B (zh) 基于神经网络的一维波动方程求解方法
CN114418234A (zh) 一种基于强化学习的动力电池制造能力在线预测方法
CN113850366B (zh) 一种基于lstm的预测目标运动的方法
KR102624710B1 (ko) Gru 기반 구조물 시계열 응답 예측 방법
CN113722951B (zh) 基于神经网络的散射体三维有限元网格优化方法
CN115796327A (zh) 一种基于vmd和iwoa-f-gru模型的风电功率区间预测方法
CN115169544A (zh) 一种短期光伏发电功率预测方法及系统
CN114881338A (zh) 基于最大互信息系数与深度学习的配电网线损预测方法
Pan et al. An immediate-return reinforcement learning for the atypical Markov decision processes
CN113033695A (zh) 一种电子器件故障的预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant