CN110232169B - 基于双向长短时记忆模型和卡尔曼滤波的轨迹去噪方法 - Google Patents

基于双向长短时记忆模型和卡尔曼滤波的轨迹去噪方法 Download PDF

Info

Publication number
CN110232169B
CN110232169B CN201910386258.2A CN201910386258A CN110232169B CN 110232169 B CN110232169 B CN 110232169B CN 201910386258 A CN201910386258 A CN 201910386258A CN 110232169 B CN110232169 B CN 110232169B
Authority
CN
China
Prior art keywords
time
moment
memory model
short
covariance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910386258.2A
Other languages
English (en)
Other versions
CN110232169A (zh
Inventor
吴宁
王静远
彭凡彰
郭容辰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beihang University
Original Assignee
Beihang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beihang University filed Critical Beihang University
Priority to CN201910386258.2A priority Critical patent/CN110232169B/zh
Publication of CN110232169A publication Critical patent/CN110232169A/zh
Application granted granted Critical
Publication of CN110232169B publication Critical patent/CN110232169B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/38—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system
    • G01S19/39—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system the satellite radio beacon positioning system transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/42—Determining position
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Molecular Biology (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Remote Sensing (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Navigation (AREA)

Abstract

本发明公开了一种基于双向长短时记忆模型和卡尔曼滤波的轨迹去噪方法，首先使用循环神经网络中的双向长短时记忆模型来对复杂的噪声分布和路网结构进行建模，然后将模型输出作为卡尔曼滤波的输入，最后由卡尔曼滤波完成去噪。其中，循环神经网络会将复杂的噪音分布结合路网信息转换成高斯分布，然后再通过卡尔曼滤波去除掉高斯白噪声，从而完成去噪。

Description

基于双向长短时记忆模型和卡尔曼滤波的轨迹去噪方法
技术领域
本发明涉及轨迹数据挖掘技术领域，更具体的说是涉及一种基于双向长短时记忆模型和卡尔曼滤波的轨迹去噪方法。
背景技术
目前，GPS导航定位技术已经成为日常生活普遍应用的一项技术，而针对GPS轨迹降噪的解决方案都非常地简单，一般采用卡尔曼滤波或者粒子滤波实现，并且对于GPS轨迹降噪这方面的研究也一直没有受到重视。但是，相比于其它时间序列数据，轨迹数据具有很明显的时空特征，随着深度学习的兴起以及大数据时代的来临，我们完全可以通过深度学习来学习大尺度的轨迹数据，让深度神经网络自己学习到路网的结构和时间特征，通过隐含的路网结构来进行数据降噪，从而达到GPS轨迹有效降噪的目的。传统的去噪方法往往只能解决高斯白噪声等比较简单的情况，而真实的噪音分布往往要复杂得多，因此对于GPS轨迹利用传统方法进行降噪处理，并不能有效去除轨迹数据中真实噪声。
因此，如何提供一个可以捕捉到轨迹数据深层信息的轨迹去噪算法是本领域技术人员亟需解决的问题。
发明内容
有鉴于此，本发明提供了一种基于双向长短时记忆模型和卡尔滤波的轨迹去噪方法，将卡尔曼滤波和循环神经网络结合起来，先使用循环神经网络来建模复杂的噪声分布和路网结构，然后将循环神经网络的输出作为卡尔曼滤波的输入，最后由卡尔曼滤波完成去噪，在循环神经网络中将复杂的噪音分布结合路网信息转换成高斯分布，然后再通过卡尔曼滤波将高斯白噪声进行滤除。
为了实现上述目的，本发明采用如下技术方案：
一种基于双向长短时记忆模型和卡尔曼滤波轨迹去噪方法，包括：
步骤1：采集训练集D，包括已知的高精度GPS轨迹数据t*和对所述高精度GPS轨迹数据t*添加噪声得到的待修正轨迹t，采用双向长短时记忆模型进行建模，输入GPS轨迹数据，得到输出值hi，再基于所述双向长短时记忆模型中的两个多层感知机计算得出估计测量协方差
Figure GDA0003334326740000021
和被估计的测量均值
Figure GDA0003334326740000022
并得出所述双向长短时记忆模型的损失函数L1来优化所述被估计的测量均值
Figure GDA0003334326740000023
步骤2：采用卡尔曼滤波算法对所述估计测量协方差
Figure GDA0003334326740000024
和所述被估计的测量均值
Figure GDA0003334326740000025
进行预测和更新，并计算得出损失函数L2和更新过程协方差矩阵Q，优化卡尔曼滤波输出的修正轨迹数据oi。
优选的，所述步骤1中所述双向长短时记忆模型包括前向LSTM和后向LSTM，具体建模过程如下：
步骤11：所述前向LSTM按顺序读入所述待修正轨迹t，采用如下LSTM建模公式：
ft＝σ(Wf[ht-1,at]+bf)
it＝σ(Wi[ht-1,at]+bi)
Figure GDA0003334326740000026
Figure GDA0003334326740000027
ot＝σ(Wo[ht-1,at]+bo)
ht＝ot*tanh(Ct)
输出前向隐状态序列
Figure GDA0003334326740000028
其中，at为输入的经纬度坐标，ft为遗忘门向量，Wf为遗忘门的权重矩阵，bf为遗忘门的偏置项，σ为sigmoid函数，xt为当前时刻网络的输入，ht-1为上一时刻LSTM输出值，[ht-1,at]表示把两个向量连接成一个更长的向量；it是输入门向量，Wi是输入门的权重矩阵，bi是输入门的偏置项；
Figure GDA0003334326740000029
为当前输入的单元状态，Ct为当前时刻的单元状态，tanh为单元状态；ot为输出门向量；ht为LSTM输出值；
步骤12：所述后向LSTM按照相反的顺序读入所述训练集D，采用步骤11中的所述LSTM建模公式输出后向隐状态序列
Figure GDA00033343267400000210
步骤13：所述双向长短时记忆模型的输出
Figure GDA00033343267400000211
其中i表示第i时刻；
步骤14：根据所述LSTM输出值基于所述双向长短时记忆模型中的两个多层感知机计算得出所述估计测量协方差
Figure GDA00033343267400000212
和所述被估计的测量均值
Figure GDA00033343267400000213
Figure GDA00033343267400000214
Figure GDA0003334326740000031
i表示第i时刻；
步骤15：所述被估计的测量均值
Figure GDA0003334326740000032
通过所述双向长短时记忆模型的损失函数L1被优化，
Figure GDA0003334326740000033
其中，
Figure GDA0003334326740000034
为所述双向长短时记忆模型在i时刻的修正结果；lossi'为均方误差；bi是i时刻的实际位置，是t*中的数据值；x和y分别为t中位置坐标的经度和纬度数值。
优选的，所述双向长短时记忆模型在i时刻的隐状态为{x(i,i),C(i,i)}，其中C(i,i)为x(i.i)对应的协方差矩阵；所述步骤2的具体实现过程为：
步骤21：将所述估计测量协方差
Figure GDA00033343267400000310
和所述被估计的测量均值
Figure GDA00033343267400000311
输入至所述卡尔曼滤波进行轨迹数据修正，在所述卡尔曼滤波中i-1时刻的后验状态估计为{x(i-1,i-1),C(i-1,i-1)}，i-1时刻对应的是i时刻的先验状态，i时刻的先验状态估计为{x(i,i-1),C(i,i-1)}，
x(i,i-1)＝Φi-1x(i-1,i-1)
Figure GDA0003334326740000035
其中Φi为设定的转移矩阵，Qi为i时刻的过程协方差矩阵；
步骤22：所述估计协方差
Figure GDA0003334326740000036
和所述被估计的测量均值
Figure GDA0003334326740000037
替换当前时刻的协方差矩阵Ri和测量结果zi，根据所述先验状态估计{x(i,i-1),C(i,i-1)}和由所述测量结果zi和所述协方差矩阵Ri组成的测量状态{zi,Ri}，得到后验状态估计{x(i,i),C(i,i)}，
Figure GDA0003334326740000038
x(i,i)＝x(i,i-1)+Ki(zi-Hix(i.i-1))
C(i,i)＝(I-KiHi)C(i,i-1)
其中，Ki为卡尔曼增益矩阵；I为单位矩阵；Hi为定义的测量矩阵，为超参数，是在开始学习过程之前设置值的参数，根据问题的定义而确定的；
步骤23：通过上述步骤21和步骤22中的所述预测和所述更新来计算后验状态，所述卡尔曼滤波的输出为修正轨迹数据oi
oi＝Hix(i,i)
Figure GDA0003334326740000039
其中，x(i,i)为所述卡尔曼滤波中第i时刻的后验状态；
Figure GDA0003334326740000041
和
Figure GDA0003334326740000042
为第i时刻x和y方向上的被估算速度向量；xi为第i时刻位置坐标的经度数值；yi为第i时刻位置坐标的纬度数值。
优选的，利用所述卡尔曼滤波的输出采用基于时间的反向传播算法进行所述卡尔曼滤波的优化，令卡尔曼滤波自适应双向长短时记忆模型输出的
Figure GDA0003334326740000043
和
Figure GDA0003334326740000044
并将基于时间的反向传播算法和神经网络结合，获得一种全新的循环神经网络单元；卡尔曼滤波输出的损失函数L2是
Figure GDA0003334326740000045
lossi＝((bi·x,bi·y)-oi)2
其中，oi为卡尔曼滤波在i时刻的输出，bi是在i时刻的实际位置，通过所述损失函数L2进行反向传播实现端到端优化，对所述oi进行优化，输出修正轨迹数据。
优选的，所述过程协方差矩阵Q的更新过程依据j时刻的过程协方差Qj和第j+n时刻的梯度进行：
Figure GDA0003334326740000046
j时刻的过程协方差Qj的梯度来自于lossj到lossn变化：
Figure GDA0003334326740000047
其中，bj+n为第j+n时刻的实际位置；lossj+n为第j+n时刻的均方误差；Kk为第k时刻的卡尔曼增益矩阵；Hk为第k时刻定义的测量矩阵；Φk为第k时刻设定的转移矩阵；lossk为第k时刻的均方误差。
经由上述的技术方案可知，与现有技术相比，本发明公开提供了一种基于双向长短时记忆模型和卡尔曼滤波的轨迹去噪方法，将卡尔曼滤波和循环神经网络结合起来，先使用循环神经网络来建模复杂的噪声分布和路网结构，然后将循环神经网络的输出作为卡尔曼滤波的输入，最后由卡尔曼滤波完成去噪。利用循环神经网络中的双向长短时记忆模型对GPS轨迹数据进行学习，学习到路网结构、时间特征和复杂噪声分布，然后再通过卡尔曼滤波对噪声进行滤除。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1附图为本发明提供的GPS轨迹数据去噪模型整体结构示意图；
图2附图为本发明提供的双向长短时记忆模型与卡尔曼滤波结合示意图；
图3附图为本发明提供的轨迹修正效果示意图；
图4附图为本发明提供的卡尔曼滤波的内部计算过程概率分布图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明实施例公开了一种基于双向长短时记忆模型和卡尔曼滤波轨迹去噪方法，包括：
S1：采集训练集D，包括已知的高精度GPS轨迹数据t*和对高精度GPS轨迹数据t*添加噪声得到的待修正轨迹t，采用双向长短时记忆模型进行建模，输入GPS轨迹数据，得到输出值hi，再基于双向长短时记忆模型中的两个多层感知机计算得出估计测量协方差
Figure GDA0003334326740000051
和被估计的测量均值
Figure GDA0003334326740000052
并得出双向长短时记忆模型的损失函数L1来优化被估计的测量均值
Figure GDA0003334326740000053
S2：采用卡尔曼滤波算法对估计测量协方差
Figure GDA0003334326740000054
和被估计的测量均值
Figure GDA0003334326740000055
进行预测和更新，并计算得出损失函数L2和更新过程协方差矩阵Q，优化卡尔曼滤波输出的修正轨迹数据oi。
为了进一步优化上述技术方案，S1中双向长短时记忆模型包括前向LSTM和后向LSTM，具体建模过程如下：
S11：前向LSTM按顺序读入待修正轨迹t，采用如下LSTM建模公式：
ft＝σ(Wf[ht-1,at]+bf)
it＝σ(Wi[ht-1,at]+bi)
Figure GDA0003334326740000061
Figure GDA0003334326740000062
ot＝σ(Wo[ht-1,at]+bo)
ht＝ot*tanh(Ct)
输出前向隐状态序列
Figure GDA0003334326740000063
其中，at为输入的经纬度坐标，ft为遗忘门向量，Wf为遗忘门的权重矩阵，bf为遗忘门的偏置项，σ为sigmoid函数，xt为当前时刻网络的输入，ht-1为上一时刻LSTM输出值，[ht-1,at]表示把两个向量连接成一个更长的向量；it是输入门向量，Wi是输入门的权重矩阵，bi是输入门的偏置项；
Figure GDA0003334326740000064
为当前输入的单元状态，Ct为当前时刻的单元状态，tanh为单元状态；ot为输出门向量；ht为LSTM输出值；
S12：后向LSTM按照相反的顺序读入训练集D，采用S11中的LSTM建模公式输出后向隐状态序列
Figure GDA0003334326740000065
S13：双向长短时记忆模型的输出
Figure GDA0003334326740000066
其中i表示第i时刻；
S14：根据LSTM输出值基于双向长短时记忆模型中的两个多层感知机计算得出估计测量协方差
Figure GDA0003334326740000067
和被估计的测量均值
Figure GDA0003334326740000068
Figure GDA0003334326740000069
Figure GDA00033343267400000610
i表示第i时刻；
S15：被估计的测量均值
Figure GDA00033343267400000611
通过双向长短时记忆模型的损失函数L1被优化，
Figure GDA00033343267400000612
Figure GDA00033343267400000613
其中，
Figure GDA00033343267400000614
为双向长短时记忆模型在i时刻的修正结果；lossi'为均方误差；bi是i时刻的实际位置，是t*中的数据值；x和y分别为t中位置坐标的经度和纬度数值。
为了进一步优化上述技术方案，双向长短时记忆模型在i时刻的隐状态为{x(i,i),C(i,i)}，其中C(i,i)为x(i.i)对应的协方差矩阵；S2的具体实现过程为：
S21：将估计测量协方差
Figure GDA00033343267400000615
和被估计的测量均值
Figure GDA00033343267400000616
输入至卡尔曼滤波进行轨迹数据修正，在卡尔曼滤波中i-1时刻的后验状态估计为{x(i-1,i-1),C(i-1,i-1)}，i-1时刻对应的是i时刻的先验状态，i时刻的先验状态估计为{x(i,i-1),C(i,i-1)}，x(i,i-1)＝Φi-1x(i-1,i-1)
Figure GDA0003334326740000071
其中Φi为设定的转移矩阵，Qi为i时刻的过程协方差矩阵；
S22：估计协方差
Figure GDA0003334326740000072
和被估计的测量均值
Figure GDA0003334326740000073
替换当前时刻的协方差矩阵Ri和测量结果zi，根据先验状态估计{x(i,i-1),C(i,i-1)}和由测量结果zi和协方差矩阵Ri组成的测量状态{zi,Ri}，得到后验状态估计{x(i,i),C(i,i)}，
Figure GDA0003334326740000074
x(i,i)＝x(i,i-1)+Ki(zi-Hix(i.i-1))
C(i,i)＝(I-KiHi)C(i,i-1)
其中，Ki为卡尔曼增益矩阵；I为单位矩阵；Hi为定义的测量矩阵，为超参数，是在开始学习过程之前设置值的参数，根据问题的定义而确定的；
S23：通过上述S21和S22中的预测和更新来计算后验状态，卡尔曼滤波的输出为修正轨迹数据oi，
oi＝Hix(i,i)
Figure GDA0003334326740000075
其中，x(i,i)为卡尔曼滤波中第i时刻的后验状态；
Figure GDA0003334326740000076
和
Figure GDA0003334326740000077
为第i时刻x和y方向上的被估算速度向量；xi为第i时刻位置坐标的经度数值；yi为第i时刻位置坐标的纬度数值。
为了进一步优化上述技术方案，利用卡尔曼滤波的输出采用基于时间的反向传播算法进行卡尔曼滤波的优化，令卡尔曼滤波自适应双向长短时记忆模型输出的
Figure GDA0003334326740000078
和
Figure GDA0003334326740000079
并将基于时间的反向传播算法和神经网络结合，获得一种全新的循环神经网络单元；卡尔曼滤波输出的损失函数L2是
Figure GDA00033343267400000710
lossi＝((bi·x,bi·y)-oi)2
其中，oi为卡尔曼滤波在i时刻的输出，bi是在i时刻的实际位置，通过所述损失函数L2进行反向传播实现端到端优化，对oi进行优化，输出修正轨迹数据。
为了进一步优化上述技术方案，过程协方差Q的更新过程依据j时刻的过程协方差Qj和第j+n时刻的梯度进行：
Figure GDA0003334326740000081
j时刻的过程协方差Qj的梯度来自于lossj到lossn变化：
Figure GDA0003334326740000082
其中，bj+n为第j+n时刻的实际位置；lossj+n为第j+n时刻的均方误差；Kk为第k时刻的卡尔曼增益矩阵；Hk为第k时刻定义的测量矩阵；Φk为第k时刻设定的转移矩阵；lossk为第k时刻的均方误差。
为了进一步优化上述技术方案，协方差矩阵Ri是一个常量矩阵，它描述了数据的协方差，一般会作为超参数来被调整。在卡尔曼滤波大多数的应用中，观测数据往往是由传感器捕捉到，而传感器的噪声在没有损坏的情况下一般是不会发生变化的。相似地，Qi是i时刻的过程协方差矩阵，它描述了预测过程在i时刻的协方差，这个协方差描述了对于卡尔曼滤波内部运动模型的信心，协方差越低，那么预测结果就会更加偏向于卡尔曼滤波的先验状态估计。除此之外，测量矩阵Hi和转移矩阵Φi也不会随着时间改变。
为了进一步优化上述技术方案，为了结合卡尔曼滤波和深度神经网络，一个被交叉熵预训练好的双向长短时记忆模型是必要的。传统的静态的方法通过将卡尔曼滤波的观测值替换为神经网络的预测值，而观测协方差和过程协方差都会被基于时间的反向传播算法优化(BPTT)。然而，静态的测量协方差不能处理复杂的交通情况，比如说被预测的位置A在十字路口，而被预测的位置B远离一切的交叉路口，那么被预测的位置A的测量协方差不可能等于被预测位置B的测量协方差。本发明明的动态方法被提出来用来估计一个动态的协方差，用来替换第i时刻的测量协方差Ri。根据神经网络通过公式
Figure GDA0003334326740000083
和公式
Figure GDA0003334326740000084
计算出双向长短时记忆模型的隐状态hi。
为了进一步优化上述技术方案，本发明的卡尔曼滤波和双向长短时记忆模型的损失函数为L＝L1+L2,损失函数L1部分被用来训练双向长短时记忆模型,而第二部分L2用来优化卡尔曼滤波最终修正结果的均方误差。
为了进一步优化上述技术方案，本发明采用动态的方法用来估计一个动态的协方差
Figure GDA0003334326740000091
替换第i时刻的测量协方差Ri，以及动态估计一个
Figure GDA0003334326740000092
来替换测量结果zi。
为了进一步优化上述技术方案，循环神经网络是一个好的选择用来建模真实轨迹采用LSTM(长短时记忆模型)作为轨迹噪音建模的基本单元。LSTM是一种循环神经网络的变体(RNN)，被提出用来解决普通循环神经网络(RNN)的梯度消失问题。因为循环神经网络需要在时间上展开，所以由于任务的需要它经常会展开很多时刻。深层的神经网络非常难以训练，因为它会造成梯度的消失，从而无法回传。为了解决这个问题，残差神经网络通过前后层的连接解决了梯度消失的问题。而在循环神经网络中，一般采用LSTM来解决这个问题，因为这个模型可以使用记忆门和遗忘门来解决消失的问题。
实施例
训练的过程分为两步，第一步通过均方误差loss'i进行反向传播预训练双向长短时记忆模型模型。在预训练之后，对于每一个点，基于两个多层感知机来计算被估计的
Figure GDA0003334326740000093
和
Figure GDA0003334326740000094
基于被估计的坐标和协方差，卡尔曼滤波会做出预测和更新，最后，它会计算均方误差并更新过程协方差矩阵Q。
如图2所示为本发明双向长短时记忆模型和卡尔曼滤波结合进行轨迹数据去噪的过程，首先采集的轨迹数据经过双向LSTM模型，获得模型输出值hi，通过hi计算获到估计测量协方差
Figure GDA0003334326740000095
和被估计的测量均值
Figure GDA0003334326740000096
并输入至卡尔曼滤波，在卡尔曼滤波中依据前一个时刻轨迹数据的后验状态估计{x(i-1),C(i-1)}，预测获得此时i时刻的先验状态估计{x(i,i-1),C(i,i-1)}，最后根据
Figure GDA0003334326740000097
和{x(i,i-1),C(i,i-1)}更新获得此时的后验状态估计{x(i),C(i)}和修正轨迹数据oi。
如图3表示GPS轨迹修正结果，红色是待修正点，蓝色是修正后的点。图4以概率分布图的形式展示了我们卡尔曼滤波的内部计算过程，图中bi-2、bi-1、bi分别为i-2、i-1和i时刻的实际轨迹位置，oi-2为卡尔曼滤波在i-2时刻的修正结果，表示修正轨迹位置概率分布，其中颜色越深的区域其分布概率越大，红色区域概率大于橙色区域，橙色区域概率大于黄色区域，黄色区域概率大于绿色区域，绿色区域概率大于蓝色区域，蓝色区域概率大于紫色区域。oi-1为卡尔曼滤波在i-1时刻的修正结果，表示i-1时刻修正轨迹位置概率分布。{x(i,i-1),C(i,i-1)}为卡尔曼滤波在i时刻的先验状态估计；{x(i,i),C(i,i)}为卡尔曼滤波在i时刻的修正结果，表示i时刻修正轨迹位置概率分布,由i时刻的先验状态估计{x(i,i-1),C(i,i-1)}以及测量结果zi和协方差矩阵Ri计算得到；
Figure GDA0003334326740000101
为卡尔曼滤波输入
Figure GDA0003334326740000102
和
Figure GDA0003334326740000103
的高斯分布，表示当前的测量结果zi和协方差矩阵Ri概率分布。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (3)

1.一种基于双向长短时记忆模型和卡尔曼滤波轨迹去噪方法，其特征在于，包括
步骤1：采集训练集D，包括已知的高精度GPS轨迹数据t*和对所述高精度GPS轨迹数据t*添加噪声得到的待修正轨迹t，采用双向长短时记忆模型进行建模，输入GPS轨迹数据，得到输出值hi，再基于所述双向长短时记忆模型中的两个多层感知机计算得出估计测量协方差
Figure FDA0003277767830000011
和被估计的测量均值
Figure FDA0003277767830000012
并得出所述双向长短时记忆模型的损失函数L1来优化所述被估计的测量均值
Figure FDA0003277767830000013
所述步骤1中所述双向长短时记忆模型包括前向LSTM和后向LSTM，具体建模过程如下：
步骤11：所述前向LSTM按顺序读入所述待修正轨迹t，采用如下LSTM建模公式：
ft＝σ(Wf[ht-1,at]+bf)
it＝σ(Wi[ht-1,at]+bi)
Figure FDA0003277767830000014
Figure FDA0003277767830000015
ot＝σ(Wo[ht-1,at]+bo)
ht＝ot*tanh(Ct)
输出前向隐状态序列
Figure FDA0003277767830000016
其中，at为输入的经纬度坐标，ft为遗忘门向量，Wf为遗忘门的权重矩阵，bf为遗忘门的偏置项，σ为sigmoid函数，xt为当前时刻网络的输入，ht-1为上一时刻LSTM输出值，[ht-1,at]表示把两个向量连接成一个更长的向量；it是输入门向量，Wi是输入门的权重矩阵，bi是输入门的偏置项；
Figure DA00032777678331043259
为当前输入的单元状态，Ct为当前时刻的单元状态，tanh为单元状态；ot为输出门向量；ht为LSTM输出值；
步骤12：所述后向LSTM按照相反的顺序读入所述训练集D，采用步骤11中的所述LSTM建模公式输出后向隐状态序列
Figure FDA0003277767830000017
步骤13：所述双向长短时记忆模型的输出
Figure FDA0003277767830000018
其中i表示第i时刻；
步骤14：根据所述LSTM输出值基于所述双向长短时记忆模型中的两个多层感知机计算得出所述估计测量协方差
Figure FDA0003277767830000019
和所述被估计的测量均值
Figure FDA00032777678300000110
Figure FDA00032777678300000111
Figure FDA0003277767830000021
i表示第i时刻；
步骤15：所述被估计的测量均值
Figure FDA0003277767830000022
通过所述双向长短时记忆模型的损失函数L1被优化，
Figure FDA0003277767830000023
Figure FDA0003277767830000024
其中，
Figure FDA0003277767830000025
为所述双向长短时记忆模型在i时刻的修正结果；lossi'为均方误差；bi是i时刻的实际位置，是t*中的数据值；x和y分别为t中位置坐标的经度和纬度数值；
步骤2：采用卡尔曼滤波算法对所述估计测量协方差
Figure FDA0003277767830000026
和所述被估计的测量均值
Figure FDA0003277767830000027
进行预测和更新，并计算得出损失函数L2和更新过程协方差矩阵Q，优化卡尔曼滤波输出的修正轨迹数据oi；所述双向长短时记忆模型在i时刻的隐状态为{x(i,i),C(i,i)}，其中C(i,i)为x(i.i)对应的协方差矩阵；
步骤21：将所述估计测量协方差
Figure FDA0003277767830000028
和所述被估计的测量均值
Figure FDA0003277767830000029
输入至所述卡尔曼滤波进行轨迹数据修正，在所述卡尔曼滤波中i-1时刻的后验状态估计为{x(i-1,i-1),C(i-1,i-1)}，i-1时刻对应的是i时刻的先验状态，i时刻的先验状态估计为{x(i,i-1),C(i,i-1)}，
x(i,i-1)＝Φi-1x(i-1,i-1)
Figure FDA00032777678300000210
其中Φi为设定的转移矩阵，Qi为i时刻的过程协方差矩阵；
步骤22：所述估计协方差
Figure FDA00032777678300000211
和所述被估计的测量均值
Figure FDA00032777678300000212
替换当前时刻的协方差矩阵Ri和测量结果zi，根据所述先验状态估计{x(i,i-1),C(i,i-1)}和由所述测量结果zi和所述协方差矩阵Ri组成的测量状态{zi,Ri}，得到后验状态估计{x(i,i),C(i,i)}，
Figure FDA00032777678300000213
x(i,i)＝x(i,i-1)+Ki(zi-Hix(i.i-1))
C(i,i)＝(I-KiHi)C(i,i-1)
其中，Ki为卡尔曼增益矩阵；I为单位矩阵；Hi为定义的测量矩阵；
步骤23：通过上述步骤21和步骤22中的所述预测和所述更新来计算后验状态，所述卡尔曼滤波的输出为修正轨迹数据oi，
oi＝Hix(i,i)
Figure FDA00032777678300000214
其中，x(i,i)为所述卡尔曼滤波中第i时刻的后验状态；
Figure FDA0003277767830000031
和
Figure FDA0003277767830000032
为第i时刻x和y方向上的被估算速度向量；xi为第i时刻位置坐标的经度数值；yi为第i时刻位置坐标的纬度数值。
2.根据权利要求1所述的基于双向长短时记忆模型和卡尔曼滤波轨迹去噪方法，其特征在于，利用所述卡尔曼滤波的输出采用基于时间的反向传播算法进行所述卡尔曼滤波的优化，并将基于时间的反向传播算法和神经网络结合，获得一种全新的循环神经网络单元；卡尔曼滤波输出的损失函数L2是
Figure FDA0003277767830000033
lossi＝((bi·x,bi·y)-oi)2
其中，oi为卡尔曼滤波在i时刻的输出，bi是在i时刻的实际位置，通过所述损失函数L2进行反向传播实现端到端优化，对所述oi进行优化，输出修正轨迹数据。
3.根据权利要求1所述的基于双向长短时记忆模型和卡尔曼滤波轨迹去噪方法，其特征在于，所述过程协方差Q更新过程依据j时刻的过程协方差Qj和第j+n时刻的梯度进行：
Figure FDA0003277767830000034
j时刻的过程协方差Qj的梯度来自于lossj到lossn变化：
Figure FDA0003277767830000035
其中，bj+n为第j+n时刻的实际位置；lossj+n为第j+n时刻的均方误差；Kk为第k时刻的卡尔曼增益矩阵；Hk为第k时刻定义的测量矩阵；Φk为第k时刻设定的转移矩阵；lossk为第k时刻的均方误差。
CN201910386258.2A 2019-05-09 2019-05-09 基于双向长短时记忆模型和卡尔曼滤波的轨迹去噪方法 Active CN110232169B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910386258.2A CN110232169B (zh) 2019-05-09 2019-05-09 基于双向长短时记忆模型和卡尔曼滤波的轨迹去噪方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910386258.2A CN110232169B (zh) 2019-05-09 2019-05-09 基于双向长短时记忆模型和卡尔曼滤波的轨迹去噪方法

Publications (2)

Publication Number Publication Date
CN110232169A CN110232169A (zh) 2019-09-13
CN110232169B true CN110232169B (zh) 2022-01-04

Family

ID=67860499

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910386258.2A Active CN110232169B (zh) 2019-05-09 2019-05-09 基于双向长短时记忆模型和卡尔曼滤波的轨迹去噪方法

Country Status (1)

Country Link
CN (1) CN110232169B (zh)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110781266B (zh) * 2019-09-16 2020-06-09 北京航空航天大学 一种基于时空因果关系的城市感知数据处理方法
CN110631592B (zh) * 2019-10-28 2022-03-29 华南理工大学 基于lstm模型的室内自主导航agv运动轨迹融合方法
CN111815053B (zh) * 2020-07-09 2021-03-16 北京中超伟业信息安全技术股份有限公司 一种针对工业时序数据的预测方法及系统
CN112578419B (zh) * 2020-11-24 2023-12-12 南京邮电大学 一种基于gru网络和卡尔曼滤波的gps数据重构方法
CN112698323B (zh) * 2020-12-10 2024-03-19 中国航空工业集团公司沈阳飞机设计研究所 一种基于α-β-γ滤波器的全自动着陆雷达引导噪声抑制方法
CN112990585A (zh) * 2021-03-20 2021-06-18 江苏天成蛋业有限公司 一种基于LSTM-Kalman模型的蛋鸡产蛋率预测方法
CN113190036B (zh) * 2021-04-02 2023-10-13 华南理工大学 一种基于lstm神经网络的无人机飞行轨迹预测方法
CN114640950A (zh) * 2022-03-06 2022-06-17 南京理工大学 基于Android源生GPS定位API的移动设备定位方法及系统
CN114739391A (zh) * 2022-04-06 2022-07-12 重庆工商大学 跟踪目标的定位优化方法
CN114819068A (zh) * 2022-04-11 2022-07-29 中国电子科技集团公司第十研究所 一种混合型目标航迹预测方法及系统
CN114926772B (zh) * 2022-07-14 2022-10-21 河南科技学院 一种咽拭子头部的跟踪与轨迹预测方法
CN117150334B (zh) * 2023-06-16 2024-08-16 合肥工业大学 一种基于优化后的BiLSTM神经网络的锂电池多状况预测方法和装置
CN117192063B (zh) * 2023-11-06 2024-03-15 山东大学 基于耦合卡尔曼滤波数据同化的水质预测方法及系统
CN117633402B (zh) * 2023-11-15 2024-06-25 中山大学·深圳 未知复杂环境下的无人载体智能鲁棒导航方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108764560A (zh) * 2018-05-22 2018-11-06 电子科技大学 基于长短期记忆神经网络的航空器场面轨迹预测方法
CN108921879A (zh) * 2018-05-16 2018-11-30 中国地质大学（武汉） 基于区域选择的CNN和Kalman滤波的运动目标跟踪方法及系统
CN109035761A (zh) * 2018-06-25 2018-12-18 复旦大学 基于辅助监督学习的行程时间估计方法
CN109409499A (zh) * 2018-09-20 2019-03-01 北京航空航天大学 一种基于深度学习和卡尔曼滤波修正的轨迹恢复方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7965868B2 (en) * 2006-07-20 2011-06-21 Lawrence Livermore National Security, Llc System and method for bullet tracking and shooter localization
US9760806B1 (en) * 2016-05-11 2017-09-12 TCL Research America Inc. Method and system for vision-centric deep-learning-based road situation analysis
EP3441829B1 (en) * 2017-08-08 2020-11-11 Siemens Aktiengesellschaft System state prediction
CN108682023A (zh) * 2018-03-21 2018-10-19 南京理工大学 基于Elman神经网络的紧耦合无迹卡尔曼跟踪滤波算法
CN109521454B (zh) * 2018-12-06 2020-06-09 中北大学 一种基于自学习容积卡尔曼滤波的gps/ins组合导航方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108921879A (zh) * 2018-05-16 2018-11-30 中国地质大学（武汉） 基于区域选择的CNN和Kalman滤波的运动目标跟踪方法及系统
CN108764560A (zh) * 2018-05-22 2018-11-06 电子科技大学 基于长短期记忆神经网络的航空器场面轨迹预测方法
CN109035761A (zh) * 2018-06-25 2018-12-18 复旦大学 基于辅助监督学习的行程时间估计方法
CN109409499A (zh) * 2018-09-20 2019-03-01 北京航空航天大学 一种基于深度学习和卡尔曼滤波修正的轨迹恢复方法

Also Published As

Publication number Publication date
CN110232169A (zh) 2019-09-13

Similar Documents

Publication Publication Date Title
CN110232169B (zh) 基于双向长短时记忆模型和卡尔曼滤波的轨迹去噪方法
CN110766942B (zh) 一种基于卷积长短期记忆网络的交通路网拥堵预测方法
CN108830145B (zh) 一种基于深度神经网络的人数统计方法及存储介质
CN111027686B (zh) 一种滑坡位移的预测方法、装置及设备
CN107369166B (zh) 一种基于多分辨率神经网络的目标跟踪方法及系统
CN111612243A (zh) 交通速度预测方法、系统及存储介质
CN108803349A (zh) 非线性多智能体系统的最优一致性控制方法及系统
CN106127739A (zh) 一种结合单目视觉的rgb‑d slam方法
CN110770758A (zh) 确定可移动的设备的位置
WO2023226186A1 (zh) 神经网络训练方法、人体运动识别方法及设备、存储介质
CN111028282A (zh) 一种无监督位姿与深度计算方法及系统
CN106203350B (zh) 一种运动目标跨尺度跟踪方法和装置
CN108764475A (zh) 遗传小波神经网络的陀螺随机误差补偿方法及系统
CN108168577A (zh) 基于bp神经网络的mems陀螺随机误差补偿方法
CN111833400B (zh) 一种相机位姿定位方法
CN109389044A (zh) 基于卷积网络与多任务学习的多场景人群密度估计方法
CN117116048A (zh) 基于知识表示模型和图神经网络的知识驱动交通预测方法
CN116381753B (zh) Gnss/ins组合导航系统在gnss中断时的神经网络辅助导航方法
CN116258608A (zh) 融合gis和bim三维技术的水利实时监测信息管理系统
CN116052254A (zh) 基于扩展卡尔曼滤波神经网络的视觉连续情感识别方法
CN104331087B (zh) 一种鲁棒的水下传感器网络目标跟踪方法
Louati Cloud-assisted collaborative estimation for next-generation automobile sensing
CN109253727A (zh) 一种基于改进迭代容积粒子滤波算法的定位方法
CN108648214A (zh) 一种基于宽度学习滤波的视觉slam算法及系统
Oh et al. Local selective vision transformer for depth estimation using a compound eye camera

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant