CN108763167A - 一种变分贝叶斯的自适应滤波方法 - Google Patents
一种变分贝叶斯的自适应滤波方法 Download PDFInfo
- Publication number
- CN108763167A CN108763167A CN201810425808.2A CN201810425808A CN108763167A CN 108763167 A CN108763167 A CN 108763167A CN 201810425808 A CN201810425808 A CN 201810425808A CN 108763167 A CN108763167 A CN 108763167A
- Authority
- CN
- China
- Prior art keywords
- process noise
- covariance
- noise covariance
- state
- iteration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 67
- 230000003044 adaptive effect Effects 0.000 title claims abstract description 16
- 238000001914 filtration Methods 0.000 claims abstract description 27
- 238000005457 optimization Methods 0.000 claims abstract description 6
- 239000011159 matrix material Substances 0.000 claims description 16
- 238000005259 measurement Methods 0.000 claims description 7
- 230000007704 transition Effects 0.000 claims description 3
- 238000004422 calculation algorithm Methods 0.000 abstract description 13
- 238000011478 gradient descent method Methods 0.000 abstract 1
- 239000002184 metal Substances 0.000 description 3
- 229910052751 metal Inorganic materials 0.000 description 3
- 238000000342 Monte Carlo simulation Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005290 field theory Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Operations Research (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Algebra (AREA)
- Evolutionary Biology (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Filters That Use Time-Delay Elements (AREA)
Abstract
本发明涉及一种变分贝叶斯的自适应滤波方法,针对过程噪声时变未知情况下的目标状态估计问题,通过引入新的隐变量,采用逆威沙特分布对过程噪声协方差进行先验建模,在变分贝叶斯的框架下,通过迭代机制对目标状态、过程噪声协方差和隐变量进行联合优化,以提高目标状态的跟踪精度。本发明相比于现有的滤波算法,直接选取了过程噪声协方差的共轭先验分布,在变分贝叶斯框架下迭代优化目标状态估计结果,得到一种新的自适应滤波算法,对于滤波器领域具有一定的理论及实际工程意义。
Description
技术领域
本发明属于滤波器子系统,涉及一种变分贝叶斯的自适应滤波方法。
背景技术
经典卡尔曼滤波算法在进行状态估计时需要已知系统过程噪声和量测噪声,而在实际系统中,比如目标跟踪系统,系统动态演化存在不确定性,过程噪声时变未知,采用传统卡尔曼滤波算法会导致估计误差变大,甚至发散。基于变分贝叶斯的自适应滤波算法能够在状态估计的同时估计系统模型参数,但是对参数建模时需要其共轭先验模型,以方便得到解析解。而对于过程噪声协方差未知情况,由于在卡尔曼滤波公式中,过程噪声协方差出现在状态预测协方差的计算中,无法简单得到其的共轭先验,其他基于变分贝叶斯的算法要么将其转化为平滑问题,离线处理,要么将过程噪声协方差未知问题转化为预测协方差未知问题,在滤波实现过程中每一时刻都需要初始给定过程噪声协方差。因此,如何发展出一种直接处理过程噪声的自适应滤波算法,在滤波器领域具有一定的理论及实际工程意义。
本研究解决在过程噪声未知情况下的自适应滤波问题。通过引入新的隐变量,给出过程噪声协方差的共轭先验分布,在变分贝叶斯的框架下,推导目标状态、过程噪声协方差以及隐变量的后验分布,迭代估计目标状态,提出一种新的自适应滤波算法,以提高状态估计精度。
发明内容
要解决的技术问题
为了提高现有技术的不足之处,提高跟踪精度,本发明提出一种变分贝叶斯的自适应滤波算法。本发明的优点是通过引入新的隐变量,使得过程噪声协方差的共轭先验分布为高斯分布以协方差为参数的共轭先验分布,即逆威沙特分布,在变分贝叶斯的框架下,提出一种新的递推自适应滤波算法,联合估计目标状态与过程噪声,提高了状态估计精度。
技术方案
一种变分贝叶斯的自适应滤波方法,其特征在于步骤如下:
步骤1:初始化:根据先验信息、状态演化模型和噪声协方差演化模型,得到k时刻状态预测值xk|k-1,隐变量协方差Σk,过程噪声协方差自由参数预测值uk|k-1,过程噪声协方差尺度矩阵预测值Uk|k-1:
xk|k-1=Fkxk-1|k-1
uk|k-1=ρ(uk-1|k-1-nx-1)+nx+1
Uk|k-1=ρUk-1|k-1
其中,xk-1|k-1为k-1时刻的状态估计值,Pk-1|k-1为k-1时刻的状态估计协方差,uk-1|k-1为k-1时刻过程噪声协方差自由参数估计值,Uk-1|k-1为k-1时刻过程噪声协方差尺度矩阵估计值,Fk为k时刻状态转移矩阵,nx为目标状态维数,ρ为衰减系数;
根据预测值,第0次迭代隐变量的估计值目标状态估计值为过程噪声协方差自由参数估计值过程噪声协方差尺度矩阵估计值
步骤2:采用变分贝叶斯框架进行迭代优化:从i=1开始,第i次迭代,执行如下步骤:
步骤a、目标状态更新,得到第i次迭代的状态估计值和估计协方差具体公式如下:
其中,Hk为量测矩阵,Rk为量测噪声协方差,yk为量测,Ak为中间参数,Kx,k为目标状态更新时的卡尔曼增益,表示求期望,(·)-1表示求逆,(·)T表示转置;
步骤b、隐变量更新,得到第i次迭代的隐变量估计值和估计协方差具体公式如下:
Kθ,k=Σk(Σk+Ak)-1
其中,Kθ,k为目标状态更新时的卡尔曼增益;
步骤c、过程噪声协方差参数更新,得到第i次迭代的过程噪声协方差自由参数估计值和尺度矩阵估计值具体公式如下:
步骤e、迭代终结判断:当相邻两次迭代的状态估计值之差小于设定的阈值δ或者迭代次数达到预设的最大迭代次数时,输出辨识估计结果,否则令i=i+1,返回步骤2;
步骤3:递推循环:令时刻k=k+1,迭代次数i=0,重新返回步骤1。
所述阈值δ=10-6。
所述最大迭代次数为10次。
有益效果
本发明提出的一种变分贝叶斯的自适应滤波方法,针对过程噪声时变未知情况下的目标状态估计问题,通过引入新的隐变量,采用逆威沙特分布对过程噪声协方差进行先验建模,在变分贝叶斯的框架下,通过迭代机制对目标状态、过程噪声协方差和隐变量进行联合优化,以提高目标状态的跟踪精度。本发明相比于现有的滤波算法,直接选取了过程噪声协方差的共轭先验分布,在变分贝叶斯框架下迭代优化目标状态估计结果,得到一种新的自适应滤波算法,对于滤波器领域具有一定的理论及实际工程意义。
附图说明
图1变分贝叶斯的自适应滤波方法流程图
图2为1000次蒙特卡洛仿真状态估计误差对比图:(a)目标位置RMSE曲线图;(b)目标速度RMSE曲线图
具体实施方式
现结合实施例、附图对本发明作进一步描述:
图1是本发明一种变分贝叶斯的自适应滤波方法流程图,各部分具体实施细节如下:
1.自适应滤波问题描述
线性空间下目标的状态方程和量测为:
xk=Fkxk-1+wk
yk=Hkxk+vk
其中,状态转移矩阵Fk和量测Hk是给定的,过程噪声wk为零均值的高斯白噪声,其协方差为Qk时变且未知,量测噪声vk为零均值的高斯白噪声,其噪声协方差Rk>0是已知的。初始状态x0是已知均值x0|0和协方差P0|0的高斯分布。
根据卡尔曼滤波,目标状态的先验分布为
其中,表示高斯分布
xk|k-1=Fkxk-1|k-1
可以看出,过程噪声协方差Qk出现在预测协方差的一部分,很难直接得到其共轭先验分布,所以引入隐变量θk拆除这种相加关系,具体如下,
其中,
此时,由于高斯分布以协方差为参数的共轭先验分布为逆威沙特分布分布,因此,过程噪声协方差Qk先验建模为逆威沙特分布分布,
p(Qk|y1:k-1)=IW(Qk|uk|k-1,Uk|k-1),
其中,IW(Q|u,U)表示逆威沙特分布,u为自由参数,U为n×n维正定尺度矩阵,初始噪声协方差服从逆威沙特分布IW(Q0|u0|0,U0|0),自由参数和尺度矩阵已知,Q0称作第0时刻标称过程噪声协方差。在仿真对比算法中,其他时刻也都需给定标称过程噪声协方差Qk。
过程噪声协方差的动态演化模型为
uk|k-1=ρ(uk-1-nx-1)+nx+1
Uk|k-1=ρUk-1
其中,ρ∈[0.9,1]是衰减因子,nx是目标状态维数。
2.基于变分贝叶斯的后验概率更新
过程噪声未知情况下的递推自适应滤波问题,实际就是求解其后验分布p(xk,Qk|y1:k),通过引入隐变量θk,这个问题转化为p(xk,θk,Qk|y1:k)。在变分贝叶斯的框架下,采用一个较为简单的分布q(·)来近似后验分布p(·),根据平均场理论,有
p(xk,θk,Qk|y1:k)≈q(xk,θk,Qk)≈q(xk)q(θk)q(Qk).
采用变分贝叶斯方法将原问题转化为优化问题,最小化p(·)和q(·)之间的相对熵,也等价于最大化置信下界(Evidence Lower BOund,ELBO)
根据坐标上升法,近似后验概率的公式为:
其中,为期望算子,指[·]在q(·)分布下的期望值,表示f=g+c,c表示常数项,记
由于上述公式是互相耦合的,因此需要迭代求解,各变量的具体求解方式如下所示。
3.状态估计
状态的更新公式为:
记因此,
可以看出,xk的后验分布依然是一个高斯分布,均值为xk|k,协方差为Pk|k,根据卡尔曼滤波公式有,
Pk|k=Ak-Kx,kHkAk.
其中,Kx,k为目标状态的卡尔曼增益
4.隐变量后验更新
隐变量的更新公式为:
因此,
可以看出,θk的后验分布依然是一个高斯分布,均值为θk|k,协方差为Pθ,k|k,根据卡尔曼滤波公式有,
Kθ,k=Σk(Σk+Ak)-1
Pθ,k|k=Σk-Kθ,kΣk.
其中,Kθ,k为隐变量的卡尔曼增益。
5.过程噪声协方差更新
过程噪声协方差更新公式为:
其中,
本发明中逆威沙特分布的形式为
因此,
q(Qk)∝IW(Qk|uk|k,Uk|k)
其中,
uk|k=uk|k-1+1
Uk|k=Uk|k-1+Bk
根据威沙特分布的性质,过程噪声协方差的逆服从为威沙特分布,其自由参数为uk|k,尺度矩阵为所以
6.迭代终结判断
如果相邻两次迭代的状态更新值足够接近或者迭代次数达到最大迭代次数,则迭代终止,即
或者i≥ima
其中0<δ<<1为迭代终止阈值,imax为最大迭代次数。
Claims (3)
1.一种变分贝叶斯的自适应滤波方法,其特征在于步骤如下:
步骤1:初始化:根据先验信息、状态演化模型和噪声协方差演化模型,得到k时刻状态预测值xk|k-1,隐变量协方差Σk,过程噪声协方差自由参数预测值uk|k-1,过程噪声协方差尺度矩阵预测值Uk|k-1:
xk|k-1=Fkxk-1|k-1
uk|k-1=ρ(uk-1|k-1-nx-1)+nx+1
Uk|k-1=ρUk-1|k-1
其中,xk-1|k-1为k-1时刻的状态估计值,Pk-1|k-1为k-1时刻的状态估计协方差,uk-1|k-1为k-1时刻过程噪声协方差自由参数估计值,Uk-1|k-1为k-1时刻过程噪声协方差尺度矩阵估计值,Fk为k时刻状态转移矩阵,nx为目标状态维数,ρ为衰减系数;
根据预测值,第0次迭代隐变量的估计值目标状态估计值为过程噪声协方差自由参数估计值过程噪声协方差尺度矩阵估计值
步骤2:采用变分贝叶斯框架进行迭代优化:从i=1开始,第i次迭代,执行如下步骤:
步骤a、目标状态更新,得到第i次迭代的状态估计值和估计协方差具体公式如下:
其中,Hk为量测矩阵,Rk为量测噪声协方差,yk为量测,Ak为中间参数,Kx,k为目标状态更新时的卡尔曼增益,表示求期望,(·)-1表示求逆,(·)T表示转置;
步骤b、隐变量更新,得到第i次迭代的隐变量估计值和估计协方差具体公式如下:
Kθ,k=Σk(Σk+Ak)-1
其中,Kθ,k为目标状态更新时的卡尔曼增益;
步骤c、过程噪声协方差参数更新,得到第i次迭代的过程噪声协方差自由参数估计值和尺度矩阵估计值具体公式如下:
步骤e、迭代终结判断:当相邻两次迭代的状态估计值之差小于设定的阈值δ或者迭代次数达到预设的最大迭代次数时,输出辨识估计结果,否则令i=i+1,返回步骤2;
步骤3:递推循环:令时刻k=k+1,迭代次数i=0,重新返回步骤1。
2.根据权利要求1所述的一种变分贝叶斯的自适应滤波方法,其特征在于所述阈值δ=10-6。
3.根据权利要求1所述的一种变分贝叶斯的自适应滤波方法,其特征在于所述最大迭代次数为10次。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810425808.2A CN108763167A (zh) | 2018-05-07 | 2018-05-07 | 一种变分贝叶斯的自适应滤波方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810425808.2A CN108763167A (zh) | 2018-05-07 | 2018-05-07 | 一种变分贝叶斯的自适应滤波方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108763167A true CN108763167A (zh) | 2018-11-06 |
Family
ID=64009910
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810425808.2A Pending CN108763167A (zh) | 2018-05-07 | 2018-05-07 | 一种变分贝叶斯的自适应滤波方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108763167A (zh) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109508445A (zh) * | 2019-01-14 | 2019-03-22 | 哈尔滨工程大学 | 一种带有色量测噪声和变分贝叶斯自适应卡尔曼滤波的目标跟踪方法 |
CN109669132A (zh) * | 2019-01-21 | 2019-04-23 | 西北工业大学 | 一种基于变分贝叶斯滤波的电池荷电状态估计方法 |
CN110738242A (zh) * | 2019-09-25 | 2020-01-31 | 清华大学 | 一种深度神经网络的贝叶斯结构学习方法及装置 |
CN110988790A (zh) * | 2019-12-16 | 2020-04-10 | 深圳大学 | 一种无源目标的定位方法及装置 |
CN111178385A (zh) * | 2019-12-02 | 2020-05-19 | 江苏大学 | 一种鲁棒在线多传感器融合的目标跟踪方法 |
CN111581905A (zh) * | 2020-05-15 | 2020-08-25 | 江南大学 | 隧道二极管电路系统在未知测量噪声下的状态估计方法 |
CN113345532A (zh) * | 2021-06-01 | 2021-09-03 | 江南大学 | 聚苯醚生产过程的快速状态估计方法 |
CN113822354A (zh) * | 2021-09-17 | 2021-12-21 | 合肥工业大学 | 基于贝叶斯反演算建模的微纳米探头动态特性补偿方法 |
CN113971752A (zh) * | 2021-09-18 | 2022-01-25 | 江苏大学 | 一种抗观测数据干扰的多车协同状态估计方法 |
CN114567288A (zh) * | 2022-01-25 | 2022-05-31 | 河南大学 | 基于变分贝叶斯的分布协同非线性系统状态估计方法 |
CN116500575A (zh) * | 2023-05-11 | 2023-07-28 | 兰州理工大学 | 一种基于变分贝叶斯理论的扩展目标跟踪方法和装置 |
CN113252036B (zh) * | 2021-04-20 | 2024-07-12 | 河南工业大学 | 一种基于置信传播的变分自适应协同导航方法 |
-
2018
- 2018-05-07 CN CN201810425808.2A patent/CN108763167A/zh active Pending
Cited By (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109508445A (zh) * | 2019-01-14 | 2019-03-22 | 哈尔滨工程大学 | 一种带有色量测噪声和变分贝叶斯自适应卡尔曼滤波的目标跟踪方法 |
CN109508445B (zh) * | 2019-01-14 | 2023-05-05 | 哈尔滨工程大学 | 一种带有色量测噪声和变分贝叶斯自适应卡尔曼滤波的目标跟踪方法 |
CN109669132A (zh) * | 2019-01-21 | 2019-04-23 | 西北工业大学 | 一种基于变分贝叶斯滤波的电池荷电状态估计方法 |
CN109669132B (zh) * | 2019-01-21 | 2020-09-22 | 西北工业大学 | 一种基于变分贝叶斯滤波的电池荷电状态估计方法 |
CN110738242A (zh) * | 2019-09-25 | 2020-01-31 | 清华大学 | 一种深度神经网络的贝叶斯结构学习方法及装置 |
CN111178385A (zh) * | 2019-12-02 | 2020-05-19 | 江苏大学 | 一种鲁棒在线多传感器融合的目标跟踪方法 |
CN111178385B (zh) * | 2019-12-02 | 2023-04-18 | 江苏大学 | 一种鲁棒在线多传感器融合的目标跟踪方法 |
CN110988790B (zh) * | 2019-12-16 | 2023-04-11 | 深圳大学 | 一种无源目标的定位方法及装置 |
CN110988790A (zh) * | 2019-12-16 | 2020-04-10 | 深圳大学 | 一种无源目标的定位方法及装置 |
CN111581905B (zh) * | 2020-05-15 | 2024-03-19 | 江南大学 | 隧道二极管电路系统在未知测量噪声下的状态估计方法 |
CN111581905A (zh) * | 2020-05-15 | 2020-08-25 | 江南大学 | 隧道二极管电路系统在未知测量噪声下的状态估计方法 |
CN113252036B (zh) * | 2021-04-20 | 2024-07-12 | 河南工业大学 | 一种基于置信传播的变分自适应协同导航方法 |
CN113345532A (zh) * | 2021-06-01 | 2021-09-03 | 江南大学 | 聚苯醚生产过程的快速状态估计方法 |
CN113345532B (zh) * | 2021-06-01 | 2022-07-15 | 江南大学 | 聚苯醚生产过程的快速状态估计方法 |
CN113822354A (zh) * | 2021-09-17 | 2021-12-21 | 合肥工业大学 | 基于贝叶斯反演算建模的微纳米探头动态特性补偿方法 |
CN113971752A (zh) * | 2021-09-18 | 2022-01-25 | 江苏大学 | 一种抗观测数据干扰的多车协同状态估计方法 |
CN113971752B (zh) * | 2021-09-18 | 2024-03-19 | 江苏大学 | 一种抗观测数据干扰的多车协同状态估计方法 |
CN114567288A (zh) * | 2022-01-25 | 2022-05-31 | 河南大学 | 基于变分贝叶斯的分布协同非线性系统状态估计方法 |
CN114567288B (zh) * | 2022-01-25 | 2024-04-26 | 河南大学 | 基于变分贝叶斯的分布协同非线性系统状态估计方法 |
CN116500575B (zh) * | 2023-05-11 | 2023-12-22 | 兰州理工大学 | 一种基于变分贝叶斯理论的扩展目标跟踪方法和装置 |
CN116500575A (zh) * | 2023-05-11 | 2023-07-28 | 兰州理工大学 | 一种基于变分贝叶斯理论的扩展目标跟踪方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108763167A (zh) | 一种变分贝叶斯的自适应滤波方法 | |
CN108460783B (zh) | 一种脑部核磁共振图像组织分割方法 | |
CN105354860B (zh) | 基于箱粒子滤波的扩展目标CBMeMBer跟踪方法 | |
Katrutsa et al. | Deep multigrid: learning prolongation and restriction matrices | |
CN109900309B (zh) | 一种基于混合状态空间模型的传感器数据盲校正方法 | |
CN105321184B (zh) | 改进的基于边缘水平集的含噪图像分割方法与系统 | |
CN116500575B (zh) | 一种基于变分贝叶斯理论的扩展目标跟踪方法和装置 | |
CN110398942B (zh) | 一种用于工业生产过程控制的参数辨识方法 | |
WO2020052213A1 (zh) | 一种迭代容积点无迹卡尔曼滤波方法 | |
CN104462015A (zh) | 处理非高斯Lévy噪声的分数阶线性离散系统状态更新方法 | |
Kulikova et al. | NIRK-based accurate continuous–discrete extended Kalman filters for estimating continuous-time stochastic target tracking models | |
CN103500455A (zh) | 一种基于无偏有限冲击响应滤波器(ufir)的改进机动目标跟踪方法 | |
CN110018675A (zh) | 基于lwdnn-arx模型的非线性系统建模方法 | |
CN111142065A (zh) | 一种低复杂度稀疏贝叶斯矢量的估计方法及系统 | |
CN118313265A (zh) | 基于误差学习双代理模型的油藏历史拟合方法、系统、设备及介质 | |
CN115051682A (zh) | 一种变分迭代的雷达信号滤波器设计方法 | |
Maroulas et al. | A learning drift homotopy particle filter | |
CN114567288B (zh) | 基于变分贝叶斯的分布协同非线性系统状态估计方法 | |
CN111625766A (zh) | 广义延拓逼近滤波方法、存储介质及处理器 | |
CN107421543B (zh) | 一种基于状态扩维的隐函数量测模型滤波方法 | |
CN114442557B (zh) | 一种机床温度场快速辨识方法及系统 | |
CN103823973B (zh) | 一种基于MeanShift算法的目标跟踪方法 | |
CN108563856B (zh) | 一种基于自由节点b样条建模的自适应采样方法 | |
CN111160464B (zh) | 基于多隐层加权动态模型的工业高阶动态过程软测量方法 | |
Mansouri et al. | Modeling and prediction of time-varying environmental data using advanced bayesian methods |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20181106 |
|
WD01 | Invention patent application deemed withdrawn after publication |