CN106683122A - 一种基于高斯混合模型和变分贝叶斯的粒子滤波方法 - Google Patents

一种基于高斯混合模型和变分贝叶斯的粒子滤波方法 Download PDF

Info

Publication number
CN106683122A
CN106683122A CN201611165889.4A CN201611165889A CN106683122A CN 106683122 A CN106683122 A CN 106683122A CN 201611165889 A CN201611165889 A CN 201611165889A CN 106683122 A CN106683122 A CN 106683122A
Authority
CN
China
Prior art keywords
parameter
particle
probability density
observation
hybrid models
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201611165889.4A
Other languages
English (en)
Other versions
CN106683122B (zh
Inventor
陆湛
赵�智
余卫宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
South China University of Technology SCUT
Original Assignee
South China University of Technology SCUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by South China University of Technology SCUT filed Critical South China University of Technology SCUT
Priority to CN201611165889.4A priority Critical patent/CN106683122B/zh
Publication of CN106683122A publication Critical patent/CN106683122A/zh
Application granted granted Critical
Publication of CN106683122B publication Critical patent/CN106683122B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Complex Calculations (AREA)

Abstract

本发明公开了一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,包括以下步骤:1)对观测噪声使用高斯混合模型进行建模,初始化初始状态;2)基于初始状态的概率密度函数随机产生N个初始粒子;3)初始化观测噪声的高斯混合模型未知参数的超参数;4)从选用的重要性参考函数中生成采样粒子;5)量测更新,根据最新的观测值和粒子权值迭代公式计算粒子权值;6)使用变分贝叶斯方法通过循环迭代的方法求出高斯混合模型中未知参数的分布;7)对粒子权值进行归一化,并针对粒子退化的问题,对粒子集进行重采样。通过上述方式,本发明有效地提高了滤波精度以及对目标状态的估计性能。

Description

一种基于高斯混合模型和变分贝叶斯的粒子滤波方法
技术领域
本发明涉及信号处理领域,具体涉及一种基于高斯混合模型和变分贝叶斯的粒子滤波方法。
背景技术
粒子滤波通过非参数化的蒙特卡洛模拟方法来实现递推贝叶斯滤波,适用于任何能用状态空间模型描述的非线性系统,精度可以逼近最优估计。粒子滤波器具有简单、易于实现等特点,它为分析非线性动态系统提供了一种有效的解决方法,从而引起目标跟踪、信号处理以及自动控制等领域的广泛关注。粒子滤波的状态空间模型可描述为:
xk=f(xk-1)+uk
yk=h(xk)+vk
其中f(·),h(·)分别为状态转移方程与观测方程,xk为系统状态,yk为观测值,uk为过程噪声,vk为观测噪声。观测噪声vk通常被假设为零均值高斯白噪声信号,但是实际上vk是非高斯特征的,在通信、导航、声呐、雷达及生物医学等领域中都存在着典型的非高斯噪声环境,如低频大气噪声、水声信号、生物医学中的心电信号。基于高斯噪声模型的信号处理方法在非高斯环境下工作性能会遭受很大损失,甚至无法工作。如果能够辩识非高斯噪声的统计特性并加以利用,则能大幅提高信号处理性能,基于以上缺点,本方法提出一种高斯混合模型(Gaussian Mixture Models,GMM)和变分贝叶斯(Variational Bayesian,VB)的改进的粒子滤波方法,使用多个高斯分布的加权和来逼近真实的观测噪声,从而提高粒子滤波的精度和性能,高斯混合模型可描述为
其中J表示高斯混合模型的高斯项数,αk,j表示在时刻k高斯项j的系数,表示均值为μk,j,协方差为的高斯分布。由于多个高斯分布带来多个参数导致模型复杂且难以求解,本方法利用变分贝叶斯学习方法对含有隐变量的混合高斯模型进行参数估计。变分贝叶斯是在平均场假设下,对每一个参数分布q,用带超参数的先验分布改写参数分布p(x,z),得到相同形式的后验分布,迭代循环求解,变分贝叶斯学习在较好估计精度的前提下有更快的估计速度,更适合于有实时性要求的工程应用领域。
发明内容
本发明的目的是针对上述现有技术的不足,提供了一种基于高斯混合模型和变分贝叶斯的粒子滤波方法。
本发明的目的可以通过如下技术方案实现:
一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,所述方法包括以下步骤:
1、对观测噪声使用高斯混合模型进行建模,初始化初始状态的概率密度函数p(x0),高斯混合模型公式为:
其中J表示高斯混合模型的高斯项数,αk,j表示在时刻k高斯项j的权重系数,表示均值为μk,j,协方差为的高斯分布;
2、基于初始状态的概率密度函数p(x0),随机产生N个初始粒子,N作为计算量和估计精度之间的权衡;
3、初始化观测噪声的高斯混合模型中的未知参数Ψk的超参数λ0,β0,m0,Σ0以及v0,下标0表示初始化值;
4、对T个时刻进行步骤5)至步骤8)的迭代操作;
5、从重要性参考函数生成N个采样粒子选用 是先验概率密度函数,从粒子滤波的状态转移方程xk=f(xk-1)+uk中得到;
6、量测更新,根据最新观测值和权值公式计算每个粒子的权值
7、使用变分贝叶斯学习方法通过循环迭代的方法求出高斯混合模型中未知参数的分布,包括以下步骤:
变分贝叶斯期望步骤:隐变量β,m,Σ以及v分布的参数Nk,jSk,j参照下式进行更新:
变分贝叶斯最大化步骤:隐变量β,m,Σ以及v按照下式进行更新:
变分贝叶斯期望步骤和变分贝叶斯最大化步骤交替进行,随着迭代的不断重复,变分下限L(q)逐渐增大,直到|L(t+1)(q)-L(t)(q)|<ε,迭代终止,ε是设置的误差限;
8、对粒子权值进行归一化,并针对粒子退化的问题,对粒子集进行重采样:重采样对低权重粒子进行剔除,同时保留高权重粒子。
优选的,所述步骤1具体包括以下步骤:
1.1、预先设定观测噪声的动态空间模型为:
xk=f(xk-1)+uk
yk=h(xk)+vk
其中f(·),h(·)分别为状态转移方程与观测方程,xk为系统状态,yk为观测值,uk为过程噪声,过程噪声uk被假设为零均值、协方差为Qk的高斯白噪声信号,vk为观测噪声,uk和vk是相互独立的,在处理目标跟踪问题时,假设目标的状态转移过程服从一阶马尔可夫模型,即当前时刻的状态xk只与上一时刻的状态xk-1有关,另外假设观测值相互独立,即观测值yk只与k时刻的状态xk有关;
1.2、假设已知k-1时刻的概率密度函数为p(xk-1|Yk-1),其中p(.)指状态的概率密度函数,p(·|·)是指状态的后验概率密度函数,贝叶斯滤波的具体过程如下:
一、预测过程,由p(xk-1|Yk-1)得到p(xk|Yk-1):
p(xk,xk-1|Yk-1)=p(xk|xk-1,Yk-1)p(xk-1|Yk-1)
当给定xk-1时,状态xk与Yk-1相互独立,因此:
p(xk,xk-1|Yk-1)=p(xk|xk-1)p(xk-1|Yk-1)
上式两端对xk-1积分,可得:
p(xk|Yk-1)=∫p(xk|xk-1)p(xk-1|Yk-1)dxk-1
二、更新过程,由p(xk|Yk-1)得到p(xk|Yk):获取k时刻的测量yk后,利用贝叶斯公式对先验概率密度进行更新,得到后验概率密度函数:
假设yk只由xk决定,即:
p(yk|xk,Yk-1)=p(yk|xk)
因此:
其中,p(yk|Yk-1)为归一化常数:
p(yk|Yk-1)=∫p(yk|xk)p(xk|Yk-1)dxk
1.3、根据极大后验准则或最小均方误差准则,将具有极大后验概率密度的状态或条件均值作为系统状态的估计值。
优选的,所述步骤3具体包括以下步骤:
3.1、根据观测噪声的高斯混合模型,对于每一个观测值引入一个隐变量Z,定义Z={z1,z2,…,zS},zs为S维变量,满足zs∈{0,1}而且即隐变量zs中有且仅有一位为1,其他位置都为0,如果zs,j=1,表示第s个观测噪声是由第j个高斯混合模型产生的;
3.2、由隐变量Z的条件概率密度函数p(zsk)以及带有隐变量且每个观测样本独立同分布的混合高斯模型概率密度函数p(vk|zskk)表示为:
其中,αk=[αk,1k,2,…,αk,J],μk=[μk,1k,2,…,μk,J],Λk=[Λk,1k,2,…,Λk,J],Ψk=[αkkk,Z]。
优选的,所述步骤6具体包括以下步骤:
6.1、对粒子重采样后,有k-1时刻第i个粒子的权重并且由于权值更新公式简化成
6.2、表示在状态x出现的条件下,测量y出现的概率;由系统状态方可知,测量值就是在真实值附近添加观测噪声,观测噪声的分布通过变分贝叶斯学习得到。
优选的,所述步骤7具体包括以下步骤:
7.1、根据平均场理论高斯混合模型参数的联合概率密度函数q(Ψk)通过参数和潜在变量的划分因式分解,如下所示:
上式中所有的未知的模型参数被假设为独立的,将每一个隐变量划分看成是一个单体,其他划分对其的影响看作是其自身的作用,采用迭代的方法,当变分自由能取得最大值的时候,Ψi与它的互斥集Ψ-i具有如下关系:
每个因子q(Ψi)取决于剩余因子q(Ψj),i≠j,因子初始化,每个因子迭代更新循环增加边缘似然函数的下界直到收敛;
7.2、由于共轭指数模型的性质,权重参数α以及均值μ和方差Λ的后验概率密度分布被定义为:
其中λk,jk,j,mk,jk,j,νk,j是高斯混合模型的后验概率密度分布的超参数;Dir(·)表示狄里克利分布,表示高斯分布,表示威沙特分布;
7.3、根据固定分布的参数βk,j,mk,jk,j,νk,j,计算得到隐变量的分布参数γs,j;最新得到的γs,j保持不变,根据下面的参数更新公式更新参数Nk,jSk,j:其中表示k时刻第s个样本的观测值,表示k时刻第s个样本的真实值;
根据参数Nk,jSk,j按照下面的公式更新参数βk,j,mk,jk,j,νk,j
如此迭代计算,至变分自由能量F(Ψk)最大,即对数边缘似然函数的下界最大,得到混合高斯模型的变分贝叶斯学习参数估计:每次迭代之后计算下界的变化值,记作ΔF,当该值低于预先设定的近似小量时,认定该算法已经趋于收敛,得到足够逼近原分布的近似分布。
本发明与现有技术相比,具有如下优点和有益效果:
1、本发明使用高斯混合模型来对观测噪声进行建模,使用多个高斯分布的加权和来逼近真实的观测噪声,提高了粒子滤波的精度和性能。
2、本发明使用了变分贝叶斯方法来估计未知的噪声参数,用带超参数的先验分布改写概率密度函数p(x),得到相同形式的后验分布,迭代循环求解,变分贝叶斯方法提供了一种局部最优,但具有确定解的近似后验方法。
3、本发明的改进粒子滤波方法,能够增强粒子权值的准确性以及粒子的多样性,有效提高了目标状态的估计性能,解决了非线性非高斯情况下目标状态的滤波问题。
附图说明
图1为本发明基于高斯混合模型和变分贝叶斯的粒子滤波方法的流程图。
图2为本发明高斯混合模型的变分贝叶斯学习算法流程图。
具体实施方式
下面结合实施例及附图对本发明作进一步详细的描述,但本发明的实施方式不限于此。
实施例:
本实施例提供了一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,如图1的流程图所示,所述方法包括以下步骤:
1、对观测噪声使用高斯混合模型进行建模,初始化初始状态的概率密度函数p(x0),高斯混合模型公式为:
其中J表示高斯混合模型的高斯项数,αk,j表示在时刻k高斯项j的权重系数,表示均值为μk,j,协方差为的高斯分布;
2、基于初始状态的概率密度函数p(x0),随机产生N个初始粒子,N作为计算量和估计精度之间的权衡;
3、初始化观测噪声的高斯混合模型中的未知参数Ψk的超参数λ0,β0,m0,Σ0以及v0,下标0表示初始化值;
4、对T个时刻进行步骤5)至步骤8)的迭代操作;
5、从重要性参考函数生成N个采样粒子选用 是先验概率,从粒子滤波的状态转移方程xk=f(xk-1)+uk中得到;
6、量测更新,根据最新观测值和权值公式计算每个粒子的权值
7、使用变分贝叶斯学习方法通过循环迭代的方法求出高斯混合模型中未知参数的分布,如图2所示,为本发明高斯混合模型的变分贝叶斯学习算法流程图,包括以下步骤:
变分贝叶斯期望步骤:隐变量β,m,Σ以及v分布的参数Nk,jSk,j参照下式进行更新:
变分贝叶斯最大化步骤:隐变量β,m,Σ以及v按照下式进行更新:
变分贝叶斯期望步骤和变分贝叶斯最大化步骤交替进行,随着迭代的不断重复,变分下限L(q)逐渐增大,直到|L(t+1)(q)-L(t)(q)|<ε,迭代终止,ε是设置的误差限;
8、对粒子权值进行归一化,并针对粒子退化的问题,对粒子集进行重采样:重采样对低权重粒子进行剔除,同时保留高权重粒子。
其中,所述步骤1具体包括以下步骤:
1.1、预先设定观测噪声的动态空间模型为:
xk=f(xk-1)+uk
yk=h(xk)+vk
其中f(·),h(·)分别为状态转移方程与观测方程,xk为系统状态,yk为观测值,uk为过程噪声,过程噪声uk被假设为零均值、协方差为Qk的高斯白噪声信号,vk为观测噪声,uk和vk是相互独立的,在处理目标跟踪问题时,假设目标的状态转移过程服从一阶马尔可夫模型,即当前时刻的状态xk只与上一时刻的状态xk-1有关,另外假设观测值相互独立,即观测值yk只与k时刻的状态xk有关;
1.2、假设已知k-1时刻的概率密度函数为p(xk-1|Yk-1),其中p(.)指状态的概率密度函数,贝叶斯滤波的具体过程如下:
一、预测过程,由p(xk-1|Yk-1)得到p(xk|Yk-1):
p(xk,xk-1|Yk-1)=p(xk|xk-1,Yk-1)p(xk-1|Yk-1)
当给定xk-1时,状态xk与Yk-1相互独立,因此:
p(xk,xk-1|Yk-1)=p(xk|xk-1)p(xk-1|Yk-1)
上式两端对xk-1积分,可得:
p(xk|Yk-1)=∫p(xk|xk-1)p(xk-1|Yk-1)dxk-1
二、更新过程,由p(xk|Yk-1)得到p(xk|Yk):获取k时刻的测量yk后,利用贝叶斯公式对先验概率密度进行更新,得到后验概率密度函数:
假设yk只由xk决定,即:
p(yk|xk,Yk-1)=p(yk|xk)
因此:
其中,p(yk|Yk-1)为归一化常数:
p(yk|Yk-1)=∫p(yk|xk)p(xk|Yk-1)dxk
1.3、根据极大后验准则或最小均方误差准则,将具有极大后验概率密度的状态或条件均值作为系统状态的估计值。
其中,所述步骤3具体包括以下步骤:
3.1、根据观测噪声的高斯混合模型,对于每一个观测值引入一个隐变量Z,定义Z={z1,z2,…,zS},zs为S维变量,满足zs∈{0,1}而且即隐变量zs中有且仅有一位为1,其他位置都为0,如果zs,j=1,表示第s个观测噪声是由第j个高斯混合模型产生的;
3.2、由隐变量Z的条件概率密度函数p(zsk)以及带有隐变量且每个观测样本独立同分布的混合高斯模型概率密度函数p(vk|zskk)表示为:
其中,αk=[αk,1k,2,…,αk,J],μk=[μk,1k,2,…,μk,J],Λk=[Λk,1k,2,…,Λk,J],Ψk=[αkkk,Z]。
其中,所述步骤6具体包括以下步骤:
6.1、对粒子重采样后,有k-1时刻第i个粒子的权重并且由于权值更新公式简化成
6.2、表示在状态x出现的条件下,测量y出现的概率;由系统状态方可知,测量值就是在真实值附近添加观测噪声,观测噪声的分布通过变分贝叶斯学习得到。
其中,所述步骤7具体包括以下步骤:
7.1、根据平均场理论高斯混合模型参数的联合概率密度函数q(Ψk)通过参数和潜在变量的划分因式分解,如下所示:
上式中所有的未知的模型参数被假设为独立的,将每一个隐变量划分看成是一个单体,其他划分对其的影响看作是其自身的作用,采用迭代的方法,当变分自由能取得最大值的时候,Ψi与它的互斥集Ψ-i具有如下关系:
每个因子q(Ψi)取决于剩余因子q(Ψj),i≠j,因子初始化,每个因子迭代更新循环增加边缘似然函数的下界直到收敛;
7.2、由于共轭指数模型的性质,权重参数α以及均值μ和方差Λ的后验概率密度分布被定义为:
其中λk,jk,j,mk,jk,j,νk,j是高斯混合模型的后验概率密度分布的超参数;Dir(·)表示狄里克利分布,表示高斯分布,表示威沙特分布;
7.3、根据固定分布的参数βk,j,mk,jk,j,νk,j,计算得到隐变量的分布参数γs,j;最新得到的γs,j保持不变,根据下面的参数更新公式更新参数Nk,jSk,j:其中表示k时刻第s个样本的观测值,表示k时刻第s个样本的真实值;
根据参数Nk,jSk,j按照下面的公式更新参数βk,j,mk,jk,j,νk,j
如此迭代计算,至变分自由能量F(Ψk)最大,即对数边缘似然函数的下界最大,得到混合高斯模型的变分贝叶斯学习参数估计:每次迭代之后计算下界的变化值,记作ΔF,当该值低于预先设定的近似小量时,认定该算法已经趋于收敛,得到足够逼近原分布的近似分布。
以上所述,仅为本发明专利较佳的实施例,但本发明专利的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明专利所公开的范围内,根据本发明专利的技术方案及其发明专利构思加以等同替换或改变,都属于本发明专利的保护范围。

Claims (5)

1.一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,其特征在于:所述方法包括以下步骤:
1)、对观测噪声使用高斯混合模型进行建模,初始化初始状态的概率密度函数p(x0),高斯混合模型公式为:
其中J表示高斯混合模型的高斯项数,αk,j表示在时刻k高斯项j的权重系数,表示均值为μk,j,协方差为的高斯分布;
2)、基于初始状态的概率密度函数p(x0),随机产生N个初始粒子,N作为计算量和估计精度之间的权衡;
3)、初始化观测噪声的高斯混合模型中的未知参数Ψk的超参数λ0,β0,m0,Σ0以及v0,下标0表示初始化值;
4)、对T个时刻进行步骤5)至步骤8)的迭代操作;
5)、从重要性参考函数生成N个采样粒子选用 是先验概率密度函数,从粒子滤波的状态转移方程xk=f(xk-1)+uk中得到;
6)、量测更新,根据最新观测值和权值公式计算每个粒子的权值
7)、使用变分贝叶斯学习方法通过循环迭代的方法求出高斯混合模型中未知参数的分布,包括以下步骤:
变分贝叶斯期望步骤:隐变量β,m,Σ以及v分布的参数Nk,jSk,j参照下式进行更新:
N k , j = &Sigma; s = 1 S &gamma; s , j
v &OverBar; k , j = 1 N k , j &Sigma; s = 1 S &gamma; s , j ( y k s - h ( x k i ) )
S k , j = 1 N k , j &Sigma; s = 1 S &gamma; s , j ( y k s - h ( x k i ) - v &OverBar; k , j ) ( y k s - h ( x k i ) - v &OverBar; k , j ) T
变分贝叶斯最大化步骤:隐变量β,m,Σ以及v按照下式进行更新:
&beta; k , j = &beta; k 0 + N k , j
m k , j = 1 &beta; k , j ( &beta; k 0 m k 0 + N k , j v &OverBar; k , j )
&nu; k , j = &nu; k 0 + N k , j
&Sigma; k , j - 1 = ( &Sigma; k 0 ) - 1 + N k , j S k , j + &beta; k 0 N k , j &beta; k 0 + N k , j ( v &OverBar; k , j - m k 0 ) &times; ( v &OverBar; k , j - m k 0 ) T
变分贝叶斯期望步骤和变分贝叶斯最大化步骤交替进行,随着迭代的不断重复,变分下限L(q)逐渐增大,直到|L(t+1)(q)-L(t)(q)|<ε,迭代终止,ε是设置的误差限;
8)、对粒子权值进行归一化,并针对粒子退化的问题,对粒子集进行重采样:重采样对低权重粒子进行剔除,同时保留高权重粒子。
2.根据权利要求1所述的一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,其特征在于:所述步骤1)具体包括以下步骤:
1.1)、预先设定观测噪声的动态空间模型为:
xk=f(xk-1)+uk
yk=h(xk)+vk
其中f(·),h(·)分别为状态转移方程与观测方程,xk为系统状态,yk为观测值,uk为过程噪声,过程噪声uk被假设为零均值、协方差为Qk的高斯白噪声信号,vk为观测噪声,uk和vk是相互独立的,在处理目标跟踪问题时,假设目标的状态转移过程服从一阶马尔可夫模型,即当前时刻的状态xk只与上一时刻的状态xk-1有关,另外假设观测值相互独立,即观测值yk只与k时刻的状态xk有关;
1.2)、假设已知k-1时刻的概率密度函数为p(xk-1|Yk-1),其中p(·)指状态的概率密度函数,p(·|·)是指状态的后验概率密度函数,贝叶斯滤波的具体过程如下:
一、预测过程,由p(xk-1|Yk-1)得到p(xk|Yk-1):
p(xk,xk-1|Yk-1)=p(xk|xk-1,Yk-1)p(xk-1|Yk-1)
当给定xk-1时,状态xk与Yk-1相互独立,因此:
p(xk,xk-1|Yk-1)=p(xk|xk-1)p(xk-1|Yk-1)
上式两端对xk-1积分,可得:
p(xk|Yk-1)=∫p(xk|xk-1)p(xk-1|Yk-1)dxk-1
二、更新过程,由p(xk|Yk-1)得到p(xk|Yk):获取k时刻的测量yk后,利用贝叶斯公式对先验概率密度进行更新,得到后验概率密度函数:
p ( x k | Y k ) = p ( y k | x k , Y k - 1 ) p ( x k | Y k - 1 ) p ( y k | Y k - 1 )
假设yk只由xk决定,即:
p(yk|xk,Yk-1)=p(yk|xk)
因此:
p ( x k | Y k ) = p ( y k | x k ) p ( x k | Y k - 1 ) p ( y k | Y k - 1 )
其中,p(yk|Yk-1)为归一化常数:
p(yk|Yk-1)=∫p(yk|xk)p(xk|Yk-1)dxk
1.3)、根据极大后验准则或最小均方误差准则,将具有极大后验概率密度的状态或条件均值作为系统状态的估计值。
3.根据权利要求1所述的一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,其特征在于:所述步骤3)具体包括以下步骤:
3.1)、根据观测噪声的高斯混合模型,对于每一个观测值引入一个隐变量Z,定义Z={z1,z2,…,zS},zs为S维变量,满足zs∈{0,1}而且即隐变量zs中有且仅有一位为1,其他位置都为0,如果zs,j=1,表示第s个观测噪声是由第j个高斯混合模型产生的;
3.2)、由隐变量Z的条件概率密度函数p(zsk)以及带有隐变量且每个观测样本独立同分布的混合高斯模型概率密度函数p(vk|zskk)表示为:
p ( z s | &alpha; k ) = &Pi; j = 1 J &alpha; k , j z s , j
其中,αk=[αk,1k,2,…,αk,J],μk=[μk,1k,2,…,μk,J],Λk=[Λk,1k,2,…,Λk,J],Ψk=[αkkk,Z]。
4.根据权利要求1所述的一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,其特征在于:所述步骤6)具体包括以下步骤:
6.1)、对粒子重采样后,有k-1时刻第i个粒子的权重并且由于权值更新公式简化成
6.2)、表示在状态x出现的条件下,测量y出现的概率;由系统状态方可知,测量值就是在真实值附近添加观测噪声,观测噪声的分布通过变分贝叶斯学习得到。
5.根据权利要求1所述的一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,其特征在于:所述步骤7)具体包括以下步骤:
7.1、根据平均场理论高斯混合模型参数的联合概率密度函数q(Ψk)通过参数和潜在变量的划分因式分解,如下所示:
上式中所有的未知的模型参数被假设为独立的,将每一个隐变量划分看成是一个单体,其他划分对其的影响看作是其自身的作用,采用迭代的方法,当变分自由能取得最大值的时候,Ψi与它的互斥集Ψ-i具有如下关系:
每个因子q(Ψi)取决于剩余因子q(Ψj),i≠j,因子初始化,每个因子迭代更新循环增加边缘似然函数的下界直到收敛;
7.2、由于共轭指数模型的性质,权重参数α以及均值μ和方差Λ的后验概率密度分布被定义为:
q ( &alpha; k , j ) = D i r ( &alpha; k , j , &lambda; k , j * )
其中λk,jk,j,mk,jk,j,νk,j是高斯混合模型的后验概率密度分布的超参数;Dir(·)表示狄里克利分布,表示高斯分布,表示威沙特分布;
7.3、根据固定分布的参数βk,j,mk,jk,j,νk,j,计算得到隐变量的分布参数γs,j;最新得到的γs,j保持不变,根据下面的参数更新公式更新参数Nk,jSk,j:其中表示k时刻第s个样本的观测值,表示k时刻第s个样本的真实值;
N k , j = &Sigma; s = 1 S &gamma; s , j
v &OverBar; k , j = 1 N k , j &Sigma; s = 1 S &gamma; s , j ( y k s - h ( x k i ) )
S k , j = 1 N k , j &Sigma; s = 1 S &gamma; s , j ( y k s - h ( x k i ) - v &OverBar; k , j ) ( y k s - h ( x k i ) - v &OverBar; k , j ) T
根据参数Nk,jSk,j按照下面的公式更新参数βk,j,mk,jk,j,νk,j
&beta; k , j = &beta; k 0 + N k , j
m k , j = 1 &beta; k , j ( &beta; k 0 m k 0 + N k , j v &OverBar; k , j )
&nu; k , j = &nu; k 0 + N k , j
&Sigma; k , j - 1 = ( &Sigma; k 0 ) - 1 + N k , j S k , j + &beta; k 0 N k , j &beta; k 0 + N k , j ( v &OverBar; k , j - m k 0 ) &times; ( v &OverBar; k , j - m k 0 ) T
如此迭代计算,至变分自由能量F(Ψk)最大,即对数边缘似然函数的下界最大,得到混合高斯模型的变分贝叶斯学习参数估计:每次迭代之后计算下界的变化值,记作ΔF,当该值低于预先设定的近似小量时,认定该算法已经趋于收敛,得到足够逼近原分布的近似分布。
CN201611165889.4A 2016-12-16 2016-12-16 一种基于高斯混合模型和变分贝叶斯的粒子滤波方法 Active CN106683122B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201611165889.4A CN106683122B (zh) 2016-12-16 2016-12-16 一种基于高斯混合模型和变分贝叶斯的粒子滤波方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611165889.4A CN106683122B (zh) 2016-12-16 2016-12-16 一种基于高斯混合模型和变分贝叶斯的粒子滤波方法

Publications (2)

Publication Number Publication Date
CN106683122A true CN106683122A (zh) 2017-05-17
CN106683122B CN106683122B (zh) 2020-02-04

Family

ID=58868929

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611165889.4A Active CN106683122B (zh) 2016-12-16 2016-12-16 一种基于高斯混合模型和变分贝叶斯的粒子滤波方法

Country Status (1)

Country Link
CN (1) CN106683122B (zh)

Cited By (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107367710A (zh) * 2017-07-18 2017-11-21 电子科技大学 一种基于时延和多普勒的分布式自适应粒子滤波直接跟踪定位方法
CN107436421A (zh) * 2017-07-24 2017-12-05 哈尔滨工程大学 一种稀疏贝叶斯学习框架下混合信号doa估计方法
CN107590509A (zh) * 2017-08-25 2018-01-16 电子科技大学 基于最大期望近似的切尔诺夫融合方法
CN107833241A (zh) * 2017-10-20 2018-03-23 东华大学 对环境光照变化具有鲁棒性的实时视觉目标检测方法
CN108090323A (zh) * 2018-01-10 2018-05-29 天津大学 基于无限混合高斯和样条回归的风电功率曲线拟合方法
CN108206024A (zh) * 2017-12-29 2018-06-26 河海大学常州校区 一种基于变分高斯回归过程的语音数据处理方法
CN108333575A (zh) * 2018-02-02 2018-07-27 浙江大学 基于高斯先验与区间约束的移动声源时延滤波方法
CN108416822A (zh) * 2018-03-22 2018-08-17 武汉大学 一种基于贝叶斯估计的多层次多尺度层析成像方法
CN108599737A (zh) * 2018-04-10 2018-09-28 西北工业大学 一种变分贝叶斯的非线性卡尔曼滤波器的设计方法
CN108647435A (zh) * 2018-05-10 2018-10-12 西安理工大学 一种基于高斯和滤波的列车模型在线参数辨识方法
CN109240085A (zh) * 2018-10-15 2019-01-18 太原理工大学 非高斯系统动态数据校正与系统控制性能优化方法
CN109444505A (zh) * 2018-05-03 2019-03-08 国网江苏省电力公司盐城供电公司 一种基于变分贝叶斯参数学习方法的电动汽车充电站谐波电流检测算法
CN109657273A (zh) * 2018-11-16 2019-04-19 重庆大学 一种基于噪声增强的贝叶斯参数估计方法
CN109813316A (zh) * 2019-01-14 2019-05-28 东南大学 一种基于地形辅助的水下载体紧组合导航方法
CN109932059A (zh) * 2019-03-29 2019-06-25 浙江大学 一种基于贝叶斯推断的红外热成像温度高精度标定方法
CN110187335A (zh) * 2019-06-25 2019-08-30 电子科技大学 针对具有非连续特性目标的粒子滤波检测前跟踪方法
CN110223509A (zh) * 2019-04-19 2019-09-10 中山大学 一种基于贝叶斯增强张量的缺失交通数据修复方法
CN110647723A (zh) * 2019-08-14 2020-01-03 中国科学院计算机网络信息中心 基于原位可视化的粒子数据处理方法、装置和系统
CN110765897A (zh) * 2019-10-08 2020-02-07 哈尔滨工程大学 一种基于粒子滤波的水下目标跟踪方法
CN110826184A (zh) * 2019-10-09 2020-02-21 北京化工大学 一种在时变时滞下narx模型结构和参数的变分贝叶斯辨识方法
WO2020087362A1 (zh) * 2018-10-31 2020-05-07 深圳大学 一种粒子滤波方法、系统和计算机可读存储介质
CN111480126A (zh) * 2017-12-18 2020-07-31 三菱电机株式会社 用于控制系统的设备和方法
CN111581909A (zh) * 2020-04-15 2020-08-25 东南大学 基于改进的自适应重要性采样算法的sram良率评估方法
CN111814342A (zh) * 2020-07-16 2020-10-23 中国人民解放军空军工程大学 一种复杂设备可靠性混合模型及其构建方法
CN111971628A (zh) * 2018-01-30 2020-11-20 罗伯特·博世有限公司 求得被测变量的时间曲线的方法、预测系统、致动器控制系统、训练致动器控制系统的方法、训练系统、计算机程序和机器可读的存储介质
CN112329804A (zh) * 2020-06-30 2021-02-05 中国石油大学(北京) 基于特征随机的朴素贝叶斯岩相分类集成学习方法及装置
CN112508087A (zh) * 2020-12-05 2021-03-16 西北工业大学 一种基于变分贝叶斯的自适应高斯混合缩减方法
CN112862004A (zh) * 2021-03-19 2021-05-28 三峡大学 基于变分贝叶斯深度学习的电网工程造价管控指标预测方法
CN113139604A (zh) * 2021-04-26 2021-07-20 东南大学 一种基于贝叶斯先验概率的心率融合标注方法及其系统
CN113508344A (zh) * 2019-03-11 2021-10-15 三菱电机株式会社 利用不确定运动模型的基于模型的控制
CN113514824A (zh) * 2021-07-06 2021-10-19 北京信息科技大学 安防雷达的多目标跟踪方法及装置
CN113537299A (zh) * 2021-06-23 2021-10-22 西北工业大学 基于期望最大化高斯混合缩减的分布式贝叶斯滤波器目标跟踪方法
CN113822354A (zh) * 2021-09-17 2021-12-21 合肥工业大学 基于贝叶斯反演算建模的微纳米探头动态特性补偿方法
CN114070747A (zh) * 2021-11-15 2022-02-18 四川启睿克科技有限公司 基于vi算法的高斯混合模型的物联网设备状态检测方法
CN114329342A (zh) * 2021-12-20 2022-04-12 中交第二公路勘察设计研究院有限公司 基于极值-高斯混合分布模型的高速公路通行能力计算方法
CN114357863A (zh) * 2021-12-13 2022-04-15 中国航发北京航科发动机控制系统科技有限公司 一种基于粒子滤波的机械液压产品寿命预测方法
CN114676384A (zh) * 2022-03-11 2022-06-28 北京航空航天大学 一种基于粒子滤波的性能状态百分位值估计方法
CN115070765A (zh) * 2022-06-27 2022-09-20 江南大学 一种基于变分推断的机器人状态估计方法及系统
CN115455670A (zh) * 2022-08-26 2022-12-09 哈尔滨工业大学 一种基于高斯混合模型的非高斯噪声模型建立方法
CN116338573A (zh) * 2023-03-30 2023-06-27 中国矿业大学 一种封闭空间考虑噪声误差特性的无人系统定位方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108846427B (zh) * 2018-05-31 2020-11-13 电子科技大学 非线性系统任意延迟步数的单个失序量测集中式融合方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010041251A2 (en) * 2008-10-07 2010-04-15 Opticul Diagnostics Ltd. Means and methods for detecting antibiotic resistant bacteria in a sample
US7813581B1 (en) * 2005-05-06 2010-10-12 Fitzpatrick Ben G Bayesian methods for noise reduction in image processing
CN102624358A (zh) * 2012-04-18 2012-08-01 北京理工大学 扩展的切片高斯混合滤波器
CN103902819A (zh) * 2014-03-21 2014-07-02 哈尔滨工程大学 基于变分滤波的粒子优化概率假设密度多目标跟踪方法
CN104331087A (zh) * 2014-10-24 2015-02-04 浙江大学 一种鲁棒的水下传感器网络目标跟踪方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7813581B1 (en) * 2005-05-06 2010-10-12 Fitzpatrick Ben G Bayesian methods for noise reduction in image processing
WO2010041251A2 (en) * 2008-10-07 2010-04-15 Opticul Diagnostics Ltd. Means and methods for detecting antibiotic resistant bacteria in a sample
CN102624358A (zh) * 2012-04-18 2012-08-01 北京理工大学 扩展的切片高斯混合滤波器
CN103902819A (zh) * 2014-03-21 2014-07-02 哈尔滨工程大学 基于变分滤波的粒子优化概率假设密度多目标跟踪方法
CN104331087A (zh) * 2014-10-24 2015-02-04 浙江大学 一种鲁棒的水下传感器网络目标跟踪方法

Cited By (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107367710A (zh) * 2017-07-18 2017-11-21 电子科技大学 一种基于时延和多普勒的分布式自适应粒子滤波直接跟踪定位方法
CN107436421A (zh) * 2017-07-24 2017-12-05 哈尔滨工程大学 一种稀疏贝叶斯学习框架下混合信号doa估计方法
CN107590509B (zh) * 2017-08-25 2020-09-29 电子科技大学 基于最大期望近似的切尔诺夫融合方法
CN107590509A (zh) * 2017-08-25 2018-01-16 电子科技大学 基于最大期望近似的切尔诺夫融合方法
CN107833241A (zh) * 2017-10-20 2018-03-23 东华大学 对环境光照变化具有鲁棒性的实时视觉目标检测方法
CN111480126A (zh) * 2017-12-18 2020-07-31 三菱电机株式会社 用于控制系统的设备和方法
CN111480126B (zh) * 2017-12-18 2022-05-31 三菱电机株式会社 用于控制系统的设备和方法及存储介质
CN108206024A (zh) * 2017-12-29 2018-06-26 河海大学常州校区 一种基于变分高斯回归过程的语音数据处理方法
CN108206024B (zh) * 2017-12-29 2021-06-25 河海大学常州校区 一种基于变分高斯回归过程的语音数据处理方法
CN108090323A (zh) * 2018-01-10 2018-05-29 天津大学 基于无限混合高斯和样条回归的风电功率曲线拟合方法
CN111971628A (zh) * 2018-01-30 2020-11-20 罗伯特·博世有限公司 求得被测变量的时间曲线的方法、预测系统、致动器控制系统、训练致动器控制系统的方法、训练系统、计算机程序和机器可读的存储介质
CN108333575A (zh) * 2018-02-02 2018-07-27 浙江大学 基于高斯先验与区间约束的移动声源时延滤波方法
CN108416822A (zh) * 2018-03-22 2018-08-17 武汉大学 一种基于贝叶斯估计的多层次多尺度层析成像方法
CN108599737A (zh) * 2018-04-10 2018-09-28 西北工业大学 一种变分贝叶斯的非线性卡尔曼滤波器的设计方法
CN108599737B (zh) * 2018-04-10 2021-11-23 西北工业大学 一种变分贝叶斯的非线性卡尔曼滤波器的设计方法
CN109444505B (zh) * 2018-05-03 2021-12-10 国网江苏省电力公司盐城供电公司 一种电动汽车充电站谐波电流检测算法
CN109444505A (zh) * 2018-05-03 2019-03-08 国网江苏省电力公司盐城供电公司 一种基于变分贝叶斯参数学习方法的电动汽车充电站谐波电流检测算法
CN108647435A (zh) * 2018-05-10 2018-10-12 西安理工大学 一种基于高斯和滤波的列车模型在线参数辨识方法
CN109240085A (zh) * 2018-10-15 2019-01-18 太原理工大学 非高斯系统动态数据校正与系统控制性能优化方法
CN109240085B (zh) * 2018-10-15 2021-07-27 太原理工大学 非高斯系统动态数据校正与系统控制性能优化方法
WO2020087362A1 (zh) * 2018-10-31 2020-05-07 深圳大学 一种粒子滤波方法、系统和计算机可读存储介质
CN109657273B (zh) * 2018-11-16 2023-07-04 重庆大学 一种基于噪声增强的贝叶斯参数估计方法
CN109657273A (zh) * 2018-11-16 2019-04-19 重庆大学 一种基于噪声增强的贝叶斯参数估计方法
CN109813316B (zh) * 2019-01-14 2022-07-29 东南大学 一种基于地形辅助的水下载体紧组合导航方法
CN109813316A (zh) * 2019-01-14 2019-05-28 东南大学 一种基于地形辅助的水下载体紧组合导航方法
CN113508344A (zh) * 2019-03-11 2021-10-15 三菱电机株式会社 利用不确定运动模型的基于模型的控制
CN113508344B (zh) * 2019-03-11 2024-06-11 三菱电机株式会社 利用不确定运动模型的基于模型的控制
CN109932059A (zh) * 2019-03-29 2019-06-25 浙江大学 一种基于贝叶斯推断的红外热成像温度高精度标定方法
CN110223509A (zh) * 2019-04-19 2019-09-10 中山大学 一种基于贝叶斯增强张量的缺失交通数据修复方法
CN110187335A (zh) * 2019-06-25 2019-08-30 电子科技大学 针对具有非连续特性目标的粒子滤波检测前跟踪方法
CN110187335B (zh) * 2019-06-25 2021-03-16 电子科技大学 针对具有非连续特性目标的粒子滤波检测前跟踪方法
CN110647723B (zh) * 2019-08-14 2023-12-26 中国科学院计算机网络信息中心 基于原位可视化的粒子数据处理方法、装置和系统
CN110647723A (zh) * 2019-08-14 2020-01-03 中国科学院计算机网络信息中心 基于原位可视化的粒子数据处理方法、装置和系统
CN110765897A (zh) * 2019-10-08 2020-02-07 哈尔滨工程大学 一种基于粒子滤波的水下目标跟踪方法
CN110826184A (zh) * 2019-10-09 2020-02-21 北京化工大学 一种在时变时滞下narx模型结构和参数的变分贝叶斯辨识方法
CN110826184B (zh) * 2019-10-09 2021-08-17 北京化工大学 一种在时变时滞下narx模型结构和参数的变分贝叶斯辨识方法
CN111581909A (zh) * 2020-04-15 2020-08-25 东南大学 基于改进的自适应重要性采样算法的sram良率评估方法
CN112329804A (zh) * 2020-06-30 2021-02-05 中国石油大学(北京) 基于特征随机的朴素贝叶斯岩相分类集成学习方法及装置
CN111814342A (zh) * 2020-07-16 2020-10-23 中国人民解放军空军工程大学 一种复杂设备可靠性混合模型及其构建方法
CN111814342B (zh) * 2020-07-16 2022-10-11 中国人民解放军空军工程大学 一种复杂设备可靠性混合模型及其构建方法
CN112508087A (zh) * 2020-12-05 2021-03-16 西北工业大学 一种基于变分贝叶斯的自适应高斯混合缩减方法
CN112508087B (zh) * 2020-12-05 2024-05-10 西北工业大学 一种基于变分贝叶斯的自适应高斯混合缩减方法
CN112862004A (zh) * 2021-03-19 2021-05-28 三峡大学 基于变分贝叶斯深度学习的电网工程造价管控指标预测方法
CN113139604A (zh) * 2021-04-26 2021-07-20 东南大学 一种基于贝叶斯先验概率的心率融合标注方法及其系统
CN113537299B (zh) * 2021-06-23 2024-07-02 西北工业大学 基于期望最大化高斯混合缩减的分布式贝叶斯滤波器目标跟踪方法
CN113537299A (zh) * 2021-06-23 2021-10-22 西北工业大学 基于期望最大化高斯混合缩减的分布式贝叶斯滤波器目标跟踪方法
CN113514824A (zh) * 2021-07-06 2021-10-19 北京信息科技大学 安防雷达的多目标跟踪方法及装置
CN113514824B (zh) * 2021-07-06 2023-09-08 北京信息科技大学 安防雷达的多目标跟踪方法及装置
CN113822354A (zh) * 2021-09-17 2021-12-21 合肥工业大学 基于贝叶斯反演算建模的微纳米探头动态特性补偿方法
CN113822354B (zh) * 2021-09-17 2022-12-06 合肥工业大学 基于贝叶斯反演算建模的微纳米探头动态特性补偿方法
CN114070747A (zh) * 2021-11-15 2022-02-18 四川启睿克科技有限公司 基于vi算法的高斯混合模型的物联网设备状态检测方法
CN114070747B (zh) * 2021-11-15 2023-04-18 四川启睿克科技有限公司 基于vi算法的高斯混合模型的物联网设备状态检测方法
CN114357863A (zh) * 2021-12-13 2022-04-15 中国航发北京航科发动机控制系统科技有限公司 一种基于粒子滤波的机械液压产品寿命预测方法
CN114329342B (zh) * 2021-12-20 2024-02-06 中交第二公路勘察设计研究院有限公司 基于极值-高斯混合分布模型的高速公路通行能力计算方法
CN114329342A (zh) * 2021-12-20 2022-04-12 中交第二公路勘察设计研究院有限公司 基于极值-高斯混合分布模型的高速公路通行能力计算方法
CN114676384B (zh) * 2022-03-11 2024-06-25 北京航空航天大学 一种基于粒子滤波的性能状态百分位值估计方法
CN114676384A (zh) * 2022-03-11 2022-06-28 北京航空航天大学 一种基于粒子滤波的性能状态百分位值估计方法
CN115070765A (zh) * 2022-06-27 2022-09-20 江南大学 一种基于变分推断的机器人状态估计方法及系统
CN115455670A (zh) * 2022-08-26 2022-12-09 哈尔滨工业大学 一种基于高斯混合模型的非高斯噪声模型建立方法
CN115455670B (zh) * 2022-08-26 2024-05-17 哈尔滨工业大学 一种基于高斯混合模型的非高斯噪声模型建立方法
CN116338573A (zh) * 2023-03-30 2023-06-27 中国矿业大学 一种封闭空间考虑噪声误差特性的无人系统定位方法
CN116338573B (zh) * 2023-03-30 2023-12-22 中国矿业大学 一种封闭空间考虑噪声误差特性的无人系统定位方法

Also Published As

Publication number Publication date
CN106683122B (zh) 2020-02-04

Similar Documents

Publication Publication Date Title
CN106683122A (zh) 一种基于高斯混合模型和变分贝叶斯的粒子滤波方法
Snyder et al. Performance bounds for particle filters using the optimal proposal
Moradkhani et al. General review of rainfall-runoff modeling: model calibration, data assimilation, and uncertainty analysis
KR101958674B1 (ko) 시퀀스 재귀 필터링 3차원 변분(3d-var) 기반의 실측 해양 환경 데이터 동화방법
Noh et al. Applying sequential Monte Carlo methods into a distributed hydrologic model: lagged particle filtering approach with regularization
Cheng Generalized binomial multiplicative cascade processes and asymmetrical multifractal distributions
Slivinski et al. A hybrid particle–ensemble Kalman filter for Lagrangian data assimilation
CN108563837B (zh) 一种冲积河流水沙模型的模型参数实时校正方法和系统
CN103902812B (zh) 一种粒子滤波方法、装置及目标跟踪方法、装置
CN104021289B (zh) 一种非高斯非稳态噪声建模方法
CN104101344A (zh) 基于粒子群小波网络的mems陀螺随机误差补偿方法
Frery et al. Analysis of minute features in speckled imagery with maximum likelihood estimation
Fang et al. Ensemble-based simultaneous input and state estimation for nonlinear dynamic systems with application to wildfire data assimilation
Chen et al. A high speed method of SMTS
Zhou et al. A physically based horizontal subgrid-scale turbulent mixing parameterization for the convective boundary layer
Drécourt Kalman filtering in hydrological modeling
Krauße et al. Robust multi-objective calibration strategies–possibilities for improving flood forecasting
Ait-El-Fquih et al. An efficient state–parameter filtering scheme combining ensemble Kalman and particle filters
Li et al. A level-set-based image assimilation method: Potential applications for predicting the movement of oil spills
CN107562837B (zh) 一种基于道路网的机动目标跟踪算法
Kumar et al. GIUH based Clark and Nash models for runoff estimation for an ungauged basin and their uncertainty analysis
Vossepoel et al. Parameter estimation using a particle method: Inferring mixing coefficients from sea level observations
Adib et al. Evaluation of synthetic outlet runoff assessment models
Rezaie et al. Shrinked (1− α) ensemble Kalman filter and α Gaussian mixture filter
Lorenc Four-dimensional variational data assimilation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant