CN113447021B - 基于lstm神经网络模型的mems惯性导航系统定位增强方法 - Google Patents
基于lstm神经网络模型的mems惯性导航系统定位增强方法 Download PDFInfo
- Publication number
- CN113447021B CN113447021B CN202110798898.1A CN202110798898A CN113447021B CN 113447021 B CN113447021 B CN 113447021B CN 202110798898 A CN202110798898 A CN 202110798898A CN 113447021 B CN113447021 B CN 113447021B
- Authority
- CN
- China
- Prior art keywords
- neural network
- network model
- lstm
- mems
- imu
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003062 neural network model Methods 0.000 title claims abstract description 71
- 238000000034 method Methods 0.000 title claims abstract description 47
- 238000012549 training Methods 0.000 claims abstract description 34
- 238000012360 testing method Methods 0.000 claims abstract description 22
- 238000013528 artificial neural network Methods 0.000 claims abstract description 18
- 230000011218 segmentation Effects 0.000 claims abstract description 7
- 238000007781 pre-processing Methods 0.000 claims abstract description 6
- 230000006870 function Effects 0.000 claims description 33
- 238000005259 measurement Methods 0.000 claims description 27
- 230000008859 change Effects 0.000 claims description 21
- 230000001133 acceleration Effects 0.000 claims description 16
- 210000002569 neuron Anatomy 0.000 claims description 10
- 230000008569 process Effects 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 8
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 7
- 230000002457 bidirectional effect Effects 0.000 claims description 5
- 108010076504 Protein Sorting Signals Proteins 0.000 claims description 4
- 238000005457 optimization Methods 0.000 claims description 2
- 230000002708 enhancing effect Effects 0.000 claims 3
- 238000004519 manufacturing process Methods 0.000 abstract description 6
- 230000007613 environmental effect Effects 0.000 abstract description 5
- 238000009825 accumulation Methods 0.000 description 7
- 238000013135 deep learning Methods 0.000 description 7
- 230000004913 activation Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 210000004027 cell Anatomy 0.000 description 4
- 230000010354 integration Effects 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 4
- 238000013461 design Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000000306 recurrent effect Effects 0.000 description 3
- 239000000969 carrier Substances 0.000 description 2
- 238000000354 decomposition reaction Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000010534 mechanism of action Effects 0.000 description 1
- 238000004377 microelectronic Methods 0.000 description 1
- 238000005459 micromachining Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/10—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
- G01C21/12—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning
- G01C21/16—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation
- G01C21/18—Stabilised platforms, e.g. by gyroscope
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/10—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
- G01C21/12—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning
- G01C21/16—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation
- G01C21/165—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
- G01S19/38—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system
- G01S19/39—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system the satellite radio beacon positioning system transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
- G01S19/42—Determining position
- G01S19/45—Determining position by combining measurements of signals from the satellite radio beacon positioning system with a supplementary measurement
- G01S19/47—Determining position by combining measurements of signals from the satellite radio beacon positioning system with a supplementary measurement the supplementary measurement being an inertial measurement, e.g. tightly coupled inertial
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Automation & Control Theory (AREA)
- Computer Networks & Wireless Communication (AREA)
- Navigation (AREA)
Abstract
本发明提供基于LSTM神经网络模型的MEMS惯性导航系统定位增强方法，包括以下步骤：面向MEMS‑INS定位增强的LSTM神经网络模型包含两个模块，即去噪模块和计算模块；S2、数据集获取及预处理，以供神经网络的训练与测试；使用陆地车辆作为MEMS‑INS的载体用于数据集获取；采集足量数据后，需按照时间窗序列长度L对数据集进行分割预处理；将预处理后的数据集依照8：2的比例分为训练集和测试集，以对神经网络模型进行训练和测试。本发明提出的神经网络模型能够有效降低环境噪声、机械噪声、制造误差等多种干扰源对MEMS‑INS的影响，能够提高MEMS‑INS相对定位的准确性和鲁棒性。
Description
技术领域
本发明属于导航系统技术领域，具体涉及一种基于LSTM神经网络模型的MEMS惯性导航系统定位增强方法。
技术背景
惯性导航系统(Inertial Navigation System,INS)是一种用于相对定位的系统，能够在已知载体初始位姿状态的前提下，利用航迹推算原理持续计算载体的位姿变化。INS主要包含惯性测量单元(Inertial Measurement Unit,IMU)模块和运算模块。其中，IMU能够通过三轴加速度计和陀螺仪对载体的加速度和角速度进行实时测量；运算模块能够根据IMU的测量值逐次积分，计算出载体的相对位姿变化。INS在实际运行过程中常伴随环境噪声、机械噪声、制造误差等干扰源，影响其定位精度。高成本INS具有精密的传感器(IMU、磁力计等)和成熟的滤波算法，能够有效抑制干扰源对其定位性能的影响。然而，昂贵的成本限制了其在多领域中的批量生产和落地应用。
微机电系统(Micro-Electro-Mechanical Systems,MEMS)传感器是依托微电子和微机械加工技术制造而成的新型传感器。与高成本INS相比，MEMS惯性导航系统(MEMS-INS)具有成本低廉、安装简便、体积小、功耗低等优点，被广泛应用于运动捕捉追踪、车辆定位导航等产研领域中。然而，MEMS-INS中配备的低成本MEMS-IMU模块在运行时易受前述干扰源的影响，其测量值通常掺杂大量噪声。另一方面，由于INS具有“自封闭”的特性，即其定位过程无需借助任何外部信息源(如卫星信号或基站)的辅助。这将导致INS定位误差随运行时间无限累积。噪声干扰问题和误差累积问题是MEMS-INS研究和应用的关键问题和瓶颈问题。因此，亟需选用合适的算法对MEMS-IMU进行去噪，并采取的合适措施减弱INS的误差累积效应，以减小多种干扰源对MEMS-INS定位性能的影响。这对MEMS-INS的性能提升和产研应用均具有重要意义和实用价值。
目前，MEMS-IMU的主流去噪方法包括离散小波变换(discrete wavelettransform,DWT)、经验模态分解(empirical mode decomposition,EMD)以及深度学习(deeplearning)等。Dong等人采用改进阈值的DWT方法，以降低MEMS-IMU中的随机噪声。然而DWT方法中设置的基函数是先验固定的且DWT方法不适用于非线性信号的处理。EMD方法能够在一定程度上克服DWT方法的缺陷，Omitaomu等人提出了基于EMD的分组重构去噪方法，以滤除IMU原始信号中的高频(或低频)噪声。但是EMD方法仍存在模态混叠的不足，模态混叠的出现不仅会导致IMU信号错假的时频分布，更使其本征模态函数失去物理意义。近年来，深度学习技术在机器视觉、自然语言处理等领域发展迅速。特别是循环神经网络(Recurrent neural network,RNN)，其对于时序信息拥有良好的建模能力，故也被应用于IMU时序信号的去噪中。Jiang，Han等学者均设计了多层长短期记忆(long short-termmemory,LSTM)RNN神经网络，对IMU原始数据进行去噪，与传统方法相比取得了更好的去噪效果。专利《一种基于循环神经网络的IMU数据去噪方法》(申请号：201910888811.2)同样设计了LSTM神经网络模型以对MEMS-IMU进行去噪。
上述针对MEMS-IMU进行优化的方法仅从原始信号去噪角度考虑如何尽可能恢复IMU的真实测量信号，能够在一定程度上提高MEMS-IMU的定位性能。但是，噪声是无法避免的，任何微小误差经过运算模块积分运算后都会随时间不断累积，最终产生极大的定位误差。相关现有技术和方法对传统INS中运算模块因逐次积分而导致的误差累积缺乏考虑与改进。
发明内容
本发明所要解决的技术问题主要有二：
在载体的运动过程中，环境噪声、机械噪声、制造误差等干扰源会将噪声引入IMU中。且不同环境、不同工况下的噪声特性不同，导致IMU中的噪声具有很强的复杂性和不确定性。现有的MEMS-IMU由于成本因素限制，对加速度、角速度等测量信号缺乏精细的去噪处理，使得上述噪声持续影响IMU的测量精度，致其测量结果迅速发散。本发明基于LSTM神经网络模型，针对MEMS-IMU设计去噪层，通过足量样本数据离线训练后，该模型能够有效减少各种干扰源对IMU的影响，提升其测量准确性。
现有的INS均使用逐次积分的方法计算载体相对时刻的位姿变化量。IMU测量误差经积分运算后将产生累积效应，导致INS的定位精度随时间迅速下降。本发明基于LSTM神经网络模型，将IMU的加速度、角速度测量作为模型输入，载体的相对位姿变化量作为模型输出；将INS的航迹推算原理直接抽象为模型输入与输出之间的非线性映射关系，通过深度学习的方法对LSTM神经网络模型进行离线训练，从而能够有效解决INS的误差累积问题，获得更精确的载体相对位姿变化。
本发明提供的技术方案：
基于LSTM神经网络模型的MEMS惯性导航系统定位增强方法，包括以下步骤：
S1、神经网络模型搭建
面向MEMS-INS定位增强的LSTM神经网络模型包含两个模块，即去噪模块和计算模块；
去噪模块由一个全连接层、一个LSTM层和一个门控循环单元GRU层依次连接组成，其作用是对MEMS-IMU测量的时序信号进行去噪处理，输出去噪后的IMU信号序列；
计算模块由两个全连接层连接组成，其作用是根据去噪处理后的IMU时序信号计算出载体相对时刻间的位姿变化量。
LSTM层由多个首尾相连的LSTM单元组成。
记IMU原始测量信号为
其主要包含三轴加速度计测量(ax,ay,az)和三轴陀螺仪测量(ωx,ωy,ωz)6个分量。进入LSTM层之前，
将首先进入全连接层。记LSTM单元的IMU输入张量为xt，LSTM单元的输出张量为yt
全连接层由多个具有6-128个神经元的全连接单元组成，其作用是将
中的6个分量转化为具有128个数据分量的xt，进而与LSTM层输入张量的维度相匹配；
全连接层后的LSTM层与GRU层均具有128个隐藏节点。
计算模块由具有260-260个神经元的全连接层1和260-18个神经元的全连接层2连接组成；全连接层1中取时间窗内最终时刻双向GRU单元的输出量yt,bi-GRU作为前256个输入，取时间窗内的载体初速度和重力加速度(vx0,vy0,vz0,g0)作为全连接层1的后4个输入；
全连接层2的作用是输出时间窗内载体位姿和速度变化量Outputs＝(Δpx,Δpy,Δpz,Δαx,Δαy,Δαz,Δvx,Δvy,Δvz)及其不确定度(标准差)σ3×3＝(σpos,σatt,σvel)。
本发明模型的完整数学表达为：
其中，
为当前时间窗内IMU的所有线加速度和角速度测量数据，v0为当前时间窗的初始线速度，g0为当前时间窗的初始重力加速度。
S2、数据集获取及预处理
神经网络搭建完毕后，需要采集数据并对数据集进行预处理，以供神经网络的训练与测试。本发明拟使用陆地车辆作为MEMS-INS的载体用于数据集获取。
具体地，将MEMS-IMU与高精度GNSS/INS组合导航系统(作为基准)固连安装于载体上。
在车辆运动的过程中，利用电脑(或工控机)同时采集上述两种传感器的测量数据。
采集足量数据后，需按照时间窗序列长度L对数据集进行分割预处理。具体地，将MEMS-IMU采集的加速度、角速度数据分割成(L×sample num×input features)的维度大小。其中sample num为分割后的样本总数，input features为输入张量的种类数。将高精度GNSS/INS组合导航系统采集的位姿、速度数据按照时间窗序列长度L逐段划分，并计算各窗口始末的位姿变化量与速度变化量，再将位姿变化量与速度变化量由导航坐标系转换到载体坐标系中，最终得到标签张量的维度大小为(sample num×output features)。其中output features为输出张量的种类数。
最后，将预处理后的数据集依照8：2的比例分为训练集和测试集，以对本发明提出的神经网络模型进行训练和测试。
S3、神经网络模型训练与测试
本发明定义损失函数为均方误差(MSE)损失函数，即表示神经网络模型预测值与基准值的欧氏距离之和，如下式所示：
训练阶段，本发明使用Adam优化器对神经网络模型中的权重进行优化计算，初始学习率设置为10-4。
本发明设定最大训练步数为1000epochs(周期)，在每个训练周期中，通过前向传播计算神经网络模型的预测输出以及对应的损失函数；通过反向传播算法与Adam优化器对模型的权重进行优化。
在训练过程中每经过20epochs对神经网络模型的损失函数进行比较，若损失函数收敛到预设的阈值以内，则代表训练完成，终止对神经网络模型的训练。
测试阶段，将测试集中的数据输入到训练完毕后的LSTM神经网络模型中，计算神经网络模型的预测输出与损失函数值，进而评估神经网络模型的性能。
最终，将经训练与测试后的LSTM神经网络模型，用于低成本MEMS-INS的实际使用中。将设定时间窗序列长度中MEMS-IMU测得的原始数据作为神经网络模型的输入，模型最终输出当前时间窗始末载体的相对位姿变化量。
本发明具有的有益效果：
本发明提出的神经网络模型能够有效降低环境噪声、机械噪声、制造误差等多种干扰源对MEMS-INS的影响，能够提高MEMS-INS相对定位的准确性和鲁棒性。
与传统的逐次积分法相比，本发明采用神经网络模型直接表征INS输入与输出之间的非线性映射关系。改善后的INS定位精度理论上能够达到与基准数据同级，本发明中的技术方案为厘米级，因而有效解决INS的误差累积问题，且大大提升了INS的定位精度。
附图说明
图1为本发明面向MEMS-INS定位增强的LSTM神经网络模型；
图2为本发明LSTM单元结构图；
图3为本发明GRU单元结构图；
图4为本发明典型全连接层示意图。
具体实施方式
结合附图说明本发明的具体技术方案。
本发明提供的完整技术方案依次通过以下三个步骤实施：
基于LSTM神经网络模型的MEMS惯性导航系统定位增强方法，包括以下步骤：
S1、神经网络模型搭建
面向MEMS-INS定位增强的LSTM神经网络模型包含两个模块，即去噪模块和计算模块，如图1所示。
去噪模块由一个全连接层、一个LSTM层和一个门控循环单元(gated recurrentunit,GRU)层依次连接组成，其作用是对MEMS-IMU测量的时序信号进行去噪处理；计算模块由两个全连接层连接组成，其作用是根据去噪处理后的IMU时序信号计算出载体相对时刻间的位姿变化量。
典型的LSTM层由多个首尾相连的LSTM单元组成。与传统的RNN相比，LSTM能够有效解决梯度消失的问题，且能够有效处理长跨度输入间的依赖关系，因此能够更好地进行时序信号的建模和预测。
本实施例的一个LSTM单元的结构如图2所示。区别于传统的RNN，LSTM中存在两个隐含状态ct和ht。记LSTM单元的IMU输入张量为xt，LSTM单元的输出张量为yt，其隐含状态的更新过程阐述如下：
首先，根据上一时刻的隐含状态ht-1和当前时刻输入张量xt进行四个不同的线性变换，并应用不同的激活函数输出四个不同的值，如下式所示：
ft＝σ(Wif·xt+bif+Whf·ht-1+bhf)
it＝σ(Wii·xt+bii+Whi·ht-1+bhi)
gt＝tanh(Wig·xt+big+Whg·ht-1+bhg)
ot＝σ(Wio·xt+bio+Who·ht-1+bho)
其中，W和b分别代表施加于各输入量的权重和偏置；σ代表Sigmoid激活函数；tanh代表Tanh激活函数。Sigmoid激活函数能够把任意输入量，非线性映射为(0,1)之间的输出量，表示流入信息的比重多少；Tanh激活函数能够把任意输入量，非线性映射为(-1,1)之间的输出量，表示流入的信息。通过以上四式即可将非线性特征引入到LSTM神经网络模型中。
可以用“门控”的观点解释LSTM的作用机理。ft被称为“遗忘门”，在计算当前时刻隐含状态ct时，需要用到ft×ct-1，即通过ft的大小控制上一时刻隐含状态ct-1流入到当前时刻ct的多少，以实现对先前时刻信息的选择性遗忘。gt能够计算流入当前时刻LSTM单元中的信息，it被称为“输入门”，能够控制gt流到神经网络信息的多少。通过遗忘门和输入门的作用，当前时刻更新后的隐含状态ct的信息由下式给出：
ct＝ft×ct-1+it×gt
最后，由“输出门”ot控制当前时刻LSTM单元的输出yt，其计算式如下：yt＝ht＝ot×tanhct
其中，tanhct表示ct流入到输出量中的信息，ot控制流入信息的比重。当前时刻LSTM单元的输出量yt即等于当前时刻的隐含状态ht。
综上，LSTM单元能够有目的性地遗忘上一时刻的信息，同时控制当前时刻的输入信息。多个LSTM单元首尾相联形成的LSTM神经网络层对于IMU量测时序信号具有良好的建模能力。
GRU作为LSTM的一种变体，对LSTM的网络结构做了适度简化，如图3所示。相比于LSTM，GRU中只有一个隐含状态ht。
通过输入张量xt和隐含状态ht-1的线性变换，首先计算得到隐含状态流入的权重rt和zt：
rt＝σ(Wir·xt+bir+Whr·ht-1+bhr)
zt＝σ(Wiz·xt+biz+Whz·ht-1+bhz)
其中rt用于和ht-1的线性变换相乘，同时和输入张量xt的线性变换相加，使用Tanh激活函数计算得到隐含状态的中间更新值nt：
nt＝tanh(Win·xt+bin+rt×(Whn·ht-1+bhn))
zt用于计算nt和上一时刻隐含状态ht-1的混合权重：
yt＝ht＝(1-zt)×nt+zt×ht-1
最终，当前时刻GRU单元的输出结果yt同样等于ht。相比于LSTM，GRU缺少一个隐含状态ct，故其计算量较小，但它们构造模型表现出的准确率相近。
记IMU原始测量信号为
其主要包含三轴加速度计测量(ax,ay,az)和三轴陀螺仪测量(ωx,ωy,ωz)6个分量。进入LSTM层之前，
将首先进入全连接层。典型全连接层的结构如图4所示。该全连接层由多个具有6-128个神经元的全连接单元组成，其作用是将
中的6个分量转化为具有128个数据分量的xt，进而与LSTM层输入张量的维度相匹配。
全连接层后的LSTM层与GRU层均具有128个隐藏节点，增加隐藏节点(神经元)的目的是提高本发明神经网络模型刻画IMU复杂数据特征的能力。
本实施例中，单个LSTM层(GRU层)所具有的LSTM单元(GRU单元)数目称为时间窗的序列长度L，表示单次处理MEMS-IMU测量数据的时间跨度。L越大，即表示模型采用越长的IMU数据序列进行学习，所得到的预测结果更加精确，但增加了计算负担。
进一步地，为更好地表达IMU数据特征，本实施例设计了LSTM与GRU混合的双层神经网络架构。其中，在LSTM-LSTM、GRU-LSTM、GRU-GRU、LSTM-GRU四种混合方式中，本发明优选性能最佳的LSTM-GRU混合方式作为去噪模块主体的神经网络结构，如图1所示。通过LSTM-GRU混合双层神经网络模型，去噪模块能够识别和削减当前时间窗内IMU原始测量信号带有的环境噪声、机械噪声、制造误差等干扰因素，输出去噪后的IMU信号序列。
为防止模型的过拟合，本发明在LSTM层和GRU层之后均采用了dropout技术。神经网络模型的过拟合指模型在训练集上有较好的效果，但是在测试集上的效果很差，过拟合会导致模型的差泛化能力。之前很多学者已经充分证明了采用dropout技术能有效解决神经网络的过拟合问题。具体地，在训练模型时引入dropout，部分按比例随机选定的神经网络节点和其相连的边会暂时关闭，不参与当次的训练。
本发明认为过去时刻和未来时刻的IMU数据信息都与当前时刻的IMU数据信息
息息相关，合理建立它们之间的时序关系能够使去噪模块具有更好的效果。故本发明采用双向LSTM和双向GRU的结构，如图1所示，以充分刻画当前时刻IMU数据信息与过去、未来时刻信息之间的相关性。
作为本发明的核心，计算模块由具有260-260个神经元的全连接层1和260-18个神经元的全连接层2连接组成，如图1所示。全连接层1中取时间窗内最终时刻双向GRU单元的输出量yt,bi-GRU作为前256个输入。根据航迹推算原理，仅根据去噪后的IMU信号序列无法直接求得载体的相对位姿变化，求解相对位姿变化还需要载体初速度v0＝(vx0,vy0,vz0)、重力加速度g0等已知量。故取时间窗内的载体初速度和重力加速度(vx0,vy0,vz0,g0)作为全连接层1的后4个输入。全连接层2的作用是输出时间窗内载体位姿和速度变化量Outputs＝(Δpx,Δpy,Δpz,Δαx,Δαy,Δαz,Δvx,Δvy,Δvz)及其不确定度(标准差)σ3×3＝(σpos,σatt,σvel)。
假设神经网络模型输出的载体位姿和速度变化量服从高斯分布
则其对应标准差可通过非监督学习的方法获得。
基于以上对本发明所用神经网络模型的剖析，本发明模型的完整数学表达为：
其中，
为当前时间窗内IMU的所有线加速度和角速度测量数据，v0为当前时间窗的初始线速度，g0为当前时间窗的初始重力加速度。
本发明提出的神经网络模型能够通过多种开源深度学习框架搭建，主流的有：Tensorflow、Pytorch等。这些深度学习框架已经被广泛使用，并取得了极好的效果。
S2、数据集获取及预处理
神经网络搭建完毕后，需要采集数据并对数据集进行预处理，以供神经网络的训练与测试。本发明拟使用陆地车辆作为MEMS-INS的载体用于数据集获取。
具体地，将MEMS-IMU与高精度GNSS/INS组合导航系统(作为基准)固连安装于载体上。全球卫星导航系统(Global Navigation Satellite System,GNSS)与高精度INS互补结合的高精度GNSS/INS组合导航系统利用载波相位差分技术能够在大多数环境下达到后处理厘米级的定位精度，故在本发明中用于为神经网络模型提供训练基准(标签)。
在车辆运动的过程中，利用电脑(或工控机)同时采集上述两种传感器的测量数据。在采集数据的过程中，需要车辆遍历多种不同的路面环境，以尽可能获取不同的噪声特性，这有助于提升模型的泛化性能。此外，采集数据时需要车辆执行直行、转向、加速、制动等机动类型，并将上述机动类型混合执行，以尽可能多地获取载体加速度和角速度的可能状态，以提高数据集的完备程度、模型的精确度和鲁棒性。
采集足量数据后，需按照时间窗序列长度L对数据集进行分割预处理。具体地，将MEMS-IMU采集的加速度、角速度数据分割成(L×sample num×input features)的维度大小。其中sample num为分割后的样本总数，input features为输入张量的种类数。将高精度GNSS/INS组合导航系统采集的位姿、速度数据按照时间窗序列长度L逐段划分，并计算各窗口始末的位姿变化量与速度变化量，再将位姿变化量与速度变化量由导航坐标系转换到载体坐标系中，最终得到标签张量的维度大小为(sample num×output features)。其中output features为输出张量的种类数。
最后，将预处理后的数据集依照8：2的比例分为训练集和测试集，以对本发明提出的神经网络模型进行训练和测试。
S3、神经网络模型训练与测试
本发明定义损失函数为均方误差(MSE)损失函数，即表示神经网络模型预测值与基准值的欧氏距离之和，如下式所示：
训练阶段，本发明使用Adam优化器对神经网络模型中的权重进行优化计算，初始学习率设置为10-4。Adam算法是一种基于梯度的优化算法，其具有实现简洁，计算高效等诸多优点，已被广泛应用于多种深度学习任务中。
本发明设定最大训练步数为1000epochs(周期)，在每个训练周期中，通过前向传播计算神经网络模型的预测输出以及对应的损失函数；通过反向传播算法与Adam优化器对模型的权重进行优化。
在训练过程中每经过20epochs对神经网络模型的损失函数进行比较，若损失函数收敛到预设的阈值以内，则代表训练完成，终止对神经网络模型的训练。
测试阶段，将测试集中的数据输入到训练完毕后的LSTM神经网络模型中，计算神经网络模型的预测输出与损失函数值，进而评估神经网络模型的性能。
最终，将经训练与测试后的LSTM神经网络模型，用于低成本MEMS-INS的实际使用中。将设定时间窗序列长度中MEMS-IMU测得的原始数据作为神经网络模型的输入，模型最终输出当前时间窗始末载体的相对位姿变化量。
Claims (5)
1.基于LSTM神经网络模型的MEMS惯性导航系统定位增强方法，其特征在于，包括以下步骤：
S1、神经网络模型搭建
面向MEMS-INS定位增强的LSTM神经网络模型包含两个模块，即去噪模块和计算模块；
S2、数据集获取及预处理
神经网络搭建完毕后，采集数据并对数据集进行预处理，以供神经网络的训练与测试；使用陆地车辆作为MEMS-INS的载体用于数据集获取；
采集足量数据后，需按照时间窗序列长度L对数据集进行分割预处理；
最后，将预处理后的数据集依照8：2的比例分为训练集和测试集，以对神经网络模型进行训练和测试；
S3、神经网络模型训练与测试
定义损失函数为均方误差MSE损失函数，即表示神经网络模型预测值与基准值的欧氏距离之和，如下式所示：
训练阶段，使用Adam优化器对神经网络模型中的权重进行优化计算，初始学习率设置为10-4；
设定最大训练步数为1000epochs，在每个训练周期中，通过前向传播计算神经网络模型的预测输出以及对应的损失函数；通过反向传播算法与Adam优化器对模型的权重进行优化；
在训练过程中每经过20epochs对神经网络模型的损失函数进行比较，若损失函数收敛到预设的阈值以内，则代表训练完成，终止对神经网络模型的训练；
测试阶段，将测试集中的数据输入到训练完毕后的LSTM神经网络模型中，计算神经网络模型的预测输出与损失函数值，进而评估神经网络模型的性能；
最终，将经训练与测试后的LSTM神经网络模型，用于低成本MEMS-INS的实际使用中，将设定时间窗序列长度中MEMS-IMU测得的原始数据作为神经网络模型的输入，模型最终输出当前时间窗始末载体的相对位姿变化量。
2.根据权利要求1所述的基于LSTM神经网络模型的MEMS惯性导航系统定位增强方法，其特征在于，所述的去噪模块包括一个全连接层、一个LSTM层和一个门控循环单元GRU层依次连接，其作用是对MEMS-IMU测量的时序信号进行去噪处理，输出去噪后的IMU信号序列；
所述的计算模块由两个全连接层连接组成，其作用是根据去噪处理后的IMU时序信号计算出载体相对时刻间的位姿变化量。
3.根据权利要求2所述的基于LSTM神经网络模型的MEMS惯性导航系统定位增强方法，其特征在于，所述的LSTM层由多个首尾相连的LSTM单元组成；
记IMU原始测量信号为
其主要包含三轴加速度计测量(ax,ay,az)和三轴陀螺仪测量(ωx,ωy,ωz)6个分量；进入LSTM层之前，
将首先进入全连接层；记LSTM单元的IMU输入张量为xt，LSTM单元的输出张量为yt；
全连接层由多个具有6-128个神经元的全连接单元组成，其作用是将
中的6个分量转化为具有128个数据分量的xt，进而与LSTM层输入张量的维度相匹配；
全连接层后的LSTM层与GRU层均具有128个隐藏节点。
4.根据权利要求2所述的基于LSTM神经网络模型的MEMS惯性导航系统定位增强方法，其特征在于，所述的计算模块包括具有260-260个神经元的全连接层1和260-18个神经元的全连接层2；
全连接层1中取时间窗内最终时刻双向GRU单元的输出量yt,bi-GRU作为前256个输入，取时间窗内的载体初速度和重力加速度(vx0,vy0,vz0,g0)作为全连接层1的后4个输入；
全连接层2的作用是输出时间窗内载体位姿和速度变化量Outputs＝(Δpx,Δpy,Δpz,Δαx,Δαy,Δαz,Δvx,Δvy,Δvz)及其不确定度即标准差σ3×3＝(σpos,σatt,σvel)。
5.根据权利要求1所述的基于LSTM神经网络模型的MEMS惯性导航系统定位增强方法，其特征在于，所述的S2所述的数据集进行分割预处理方法为：
将MEMS-IMU采集的加速度、角速度数据分割成L×sample num×input features的维度大小；其中sample num为分割后的样本总数，input features为输入张量的种类数；
将高精度GNSS/INS组合导航系统采集的位姿、速度数据按照时间窗序列长度L逐段划分，并计算各窗口始末的位姿变化量与速度变化量，再将位姿变化量与速度变化量由导航坐标系转换到载体坐标系中，最终得到标签张量的维度大小为sample num×outputfeatures；其中output features为输出张量的种类数。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110798898.1A CN113447021B (zh) | 2021-07-15 | 2021-07-15 | 基于lstm神经网络模型的mems惯性导航系统定位增强方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110798898.1A CN113447021B (zh) | 2021-07-15 | 2021-07-15 | 基于lstm神经网络模型的mems惯性导航系统定位增强方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113447021A CN113447021A (zh) | 2021-09-28 |
| CN113447021B true CN113447021B (zh) | 2023-04-25 |
Family
ID=77816335
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110798898.1A Active CN113447021B (zh) | 2021-07-15 | 2021-07-15 | 基于lstm神经网络模型的mems惯性导航系统定位增强方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113447021B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113916223B (zh) * | 2021-09-29 | 2022-11-11 | 深圳市慧鲤科技有限公司 | 定位方法及装置、设备、存储介质 |
| CN114689047B (zh) * | 2022-06-01 | 2022-09-13 | 鹏城实验室 | 基于深度学习的组合导航方法、装置、系统及存储介质 |
| CN117706583B (zh) * | 2023-12-29 | 2024-08-23 | 无锡物联网创新中心有限公司 | 一种高精度定位方法及系统 |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2021007812A1 (zh) * | 2019-07-17 | 2021-01-21 | 深圳大学 | 一种深度神经网络超参数优化方法、电子设备及存储介质 |
| CN110728357B (zh) * | 2019-09-19 | 2022-11-18 | 东南大学 | 一种基于循环神经网络的imu数据去噪方法 |
| CN111895986A (zh) * | 2020-06-30 | 2020-11-06 | 西安建筑科技大学 | 一种基于lstm神经网络的mems陀螺仪原始输出信号降噪方法 |
-
2021
- 2021-07-15 CN CN202110798898.1A patent/CN113447021B/zh active Active
Also Published As
| Publication number | Publication date |
|---|---|
| CN113447021A (zh) | 2021-09-28 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113447021B (zh) | 基于lstm神经网络模型的mems惯性导航系统定位增强方法 | |
| Shen et al. | Seamless GPS/inertial navigation system based on self-learning square-root cubature Kalman filter | |
| CN110118560B (zh) | 一种基于lstm和多传感器融合的室内定位方法 | |
| Zhang | A fusion methodology to bridge GPS outages for INS/GPS integrated navigation system | |
| Zhou et al. | Deep learning-enabled fusion to bridge GPS outages for INS/GPS integrated navigation | |
| CN109740742A (zh) | 一种基于lstm神经网络的目标跟踪方法 | |
| Chen et al. | A hybrid prediction method for bridging GPS outages in high-precision POS application | |
| Qin et al. | Accuracy improvement of GPS/MEMS-INS integrated navigation system during GPS signal outage for land vehicle navigation | |
| CN113091768B (zh) | 一种mimu整体动态智能标定补偿方法 | |
| CN106643715A (zh) | 一种基于bp神经网络改善的室内惯性导航方法 | |
| CN112417598A (zh) | 一种多源融合的车辆状态并联估计方法 | |
| Du et al. | A hybrid fusion strategy for the land vehicle navigation using MEMS INS, odometer and GNSS | |
| Song et al. | Reliable estimation of automotive states based on optimized neural networks and moving horizon estimator | |
| CN111399021A (zh) | 一种导航定位方法 | |
| CN117818706B (zh) | 一种中低速磁浮列车速度预测方法、系统、设备及介质 | |
| CN117719519A (zh) | 一种车辆行驶状态估计方法 | |
| Qiu et al. | Development of hybrid neural network and current forecasting model based dead reckoning method for accurate prediction of underwater glider position | |
| Golroudbari et al. | Generalizable end-to-end deep learning frameworks for real-time attitude estimation using 6DoF inertial measurement units | |
| Yan et al. | An intelligent adaptive Kalman filter for integrated navigation systems | |
| Deng et al. | Machine learning driven method for indoor positioning using inertial measurement unit | |
| Zhao et al. | PhysORD: A Neuro-Symbolic Approach for Physics-infused Motion Prediction in Off-road Driving | |
| Liu et al. | LGC-Net: A lightweight gyroscope calibration network for efficient attitude estimation | |
| CN114777762B (zh) | 一种基于贝叶斯nas的惯性导航方法 | |
| CN111561929B (zh) | 一种用于车载mems惯性传感器的时延降噪方法 | |
| Liu et al. | GPS/INS integrated navigation with LSTM neural network |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |