CN102737155A - 基于贝叶斯滤波的通用数据同化方法 - Google Patents
基于贝叶斯滤波的通用数据同化方法 Download PDFInfo
- Publication number
- CN102737155A CN102737155A CN201110090879XA CN201110090879A CN102737155A CN 102737155 A CN102737155 A CN 102737155A CN 201110090879X A CN201110090879X A CN 201110090879XA CN 201110090879 A CN201110090879 A CN 201110090879A CN 102737155 A CN102737155 A CN 102737155A
- Authority
- CN
- China
- Prior art keywords
- mrow
- msub
- mover
- msubsup
- math
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 77
- 238000001914 filtration Methods 0.000 claims abstract description 108
- 239000002245 particle Substances 0.000 claims abstract description 51
- 239000011159 matrix material Substances 0.000 claims abstract description 31
- 230000008569 process Effects 0.000 claims abstract description 27
- 238000012952 Resampling Methods 0.000 claims abstract description 13
- 238000009826 distribution Methods 0.000 claims description 29
- 238000005070 sampling Methods 0.000 claims description 18
- 239000013598 vector Substances 0.000 claims description 11
- 230000007704 transition Effects 0.000 claims description 4
- 239000013589 supplement Substances 0.000 claims description 2
- 238000010606 normalization Methods 0.000 abstract 1
- 238000004422 calculation algorithm Methods 0.000 description 75
- 239000002689 soil Substances 0.000 description 41
- 230000006870 function Effects 0.000 description 21
- 238000004088 simulation Methods 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 6
- 238000012360 testing method Methods 0.000 description 4
- 239000010410 layer Substances 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000005315 distribution function Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000005183 dynamical system Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 238000007620 mathematical function Methods 0.000 description 1
- BULVZWIRKLYCBC-UHFFFAOYSA-N phorate Chemical compound CCOP(=S)(OCC)SCSCC BULVZWIRKLYCBC-UHFFFAOYSA-N 0.000 description 1
- 238000013404 process transfer Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000007670 refining Methods 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 238000002948 stochastic simulation Methods 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
- 239000002344 surface layer Substances 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
- 230000036962 time dependent Effects 0.000 description 1
- 238000004800 variational method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B17/00—Systems involving the use of models or simulators of said systems
- G05B17/02—Systems involving the use of models or simulators of said systems electric
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
一种基于贝叶斯滤波的通用数据同化方法:在预报步骤中将初始值集合输入分析模型获得预报集合值;在更新步骤中使用集合卡尔曼滤波计算预报误差协方差矩阵,通过观测值和卡尔曼增益矩阵更新每个预报集合;或采用粒子滤波利用集合预报值计算每个集合样本的重要性权重,利用归一化重要性权重计算有效粒子数,根据权重对集合进行重采样得到更新后的分析值和分析集合;或采用无迹卡尔曼滤波计算预报误差协方差矩阵,通过观测值和卡尔曼增益矩阵更新每个预报集合;再重新将更新后的分析集合作为分析模型的初始值进行下一步预测和同化,重复上述预报步骤和更新步骤。使地球遥感观测信息和陆面过程模型信息有效融合,形成误差较小的陆面过程信息预报系统。
Description
技术领域
本发明涉及地球系统科学信息处理领域,具体地说是涉及一种基于贝叶斯滤波的通用数据同化算法,使得地球遥感观测信息和陆面过程模型信息能够有效融合,从而能够形成误差较小的陆面过程信息(如土壤水分、土壤温度等)的预报系统。
背景技术
陆面数据同化的核心思想是在陆面过程模型的动力框架内,通过数据同化的算法融合不同来源和不同分辨率的直接与间接观测,将陆面过程模型和各种观测算子(如辐射传输模型)集成为不断地依靠观测而自动调整模型轨迹,并且减小误差的预报系统。
现代数据同化算法一般可分为连续同化和顺序同化两大类。其中,连续同化是指在一个同化窗口内,利用优化算法,通过迭代而不断调整模型初始场,最终将模型轨迹拟合到离散的观测点(多维的观测向量)上。连续同化的经典算法为变分法,常用的变分同化方法有3DVar和4DVar;顺序同化则一般利用滤波算法,在有观测的时刻,利用观测真值在误差加权的基础上对模型状态进行更新,从而获得模型状态的后验优化估计。顺序同化一般采用卡尔曼滤波和扩展卡尔曼滤波。近年来,以集合卡尔曼滤波为代表的非线性滤波方法也得到了广泛的应用,
尽管国内外学者对数据同化算法进行了大量的研究工作,但目前还存在以下不足:
1)无论是集合卡尔曼滤波还是经典的扩展卡尔曼滤波,都假设误差的先验概率分布为多维高斯分布,因此,这两种算法在解决非高斯问题的时候精度不够好;另外,需要着重指出的是服从高斯分布的变量在经过非线性系统的转换以后也会呈现非高斯分布的特征。
2)变分同化方法(例如3DVar和4DVar)一般需要求模型的伴随算子,但在陆面数据同化领域,由于大部分陆面过程模型和辐射传输模型都是非线性的,而且陆面过程模型广泛使用阈值而导致其不连续性(邱崇践,1997),因此陆面过程模型的伴随算子在通常情况下很难得到(Reichle et al.,2002)。
3)在滤波同化方法中,扩展卡尔曼滤波作为非线性滤波领域最有名的算法(Anderson & Moore,1979)在数据同化领域得到了十分广泛的应用。但是,当这种算法应用于非线性特征明显的数据同化系统时,却遇到了很大的困难。首先EKF滤波需要对模型算子和观测算子做线性化变换,这种线性化对复杂的模型系统是非常困难的,而且,线性化只是原模型在局部的一阶近似,模型动力学的细节(高阶信息)都丢失了。另外在高维数据同化系统中对于EKF滤波,误差协方差矩阵的计算量和存储量都非常大,阻碍了EKF滤波的应用。
信号处理领域在发展非线性非高斯滤波算法方面起步早,知识积累非常丰富,有许多方法都可被陆面数据同化所借鉴。这些方法包括基于确定性采样的方法和基于随机采样的方法,其中,确定性采样的方法包括无迹卡尔曼滤波和中心差分卡尔曼滤波;随机采样的方法包括基于蒙特卡罗随机采样的采样重要性重抽样粒子滤波和无迹粒子滤波。这些新方法与集合卡尔曼滤波相比,都有一定的优势。但是,仍需要采用更精确的算法,使数据同化系统的精度不断提高。
发明内容
本发明的目的在于克服上述已有技术的不足,从贝叶斯(Bayes)估计的角度对现有非线性滤波方法进行抽象化,从理论和主要计算方法上对他们进行统一,建立基于贝叶斯滤波的通用数据同化算法。
本发明是这样实现的:
利用C++程序设计语言编程实现集合卡尔曼滤波、无迹卡尔曼滤波、和粒子滤波等贝叶斯滤波方法,由于贝叶斯滤波涉及大量矩阵运算,程序中的矩阵运算调用高性能的数学函数库BLAS(基本线性代数子例程)和LAPACK(线性代数程序包)来实现,并且利用OpenMP发展并行算法以提高系统的效率。编程实现以马其赛特旋转(Mersenne Twister)算法为核心的长周期的高性能随机数生成器,包括单变量正态分布、多变量正态分布、偏正态分布等各种概率分布函数的简单随机数生成算法;将地统计学的随机模拟方法与简单随机数生成算法相结合来构造集合卡尔曼滤波和粒子滤波算法所需的初始样本(图1)。利用函数指针的形式统一各个算法的接口,可以为以后的数据同化研究提供一个通用、快速、稳健、能够自动纠错、物理约束更强的同化系统算法平台。
本发明提供的基于贝叶斯滤波的通用数据同化方法具有三种算法,都是基于贝叶斯理论推导出来的。其中:
第一种基于贝叶斯滤波的通用数据同化方法,主要包括预报和更新两个步骤,其中:
预报步骤:将初始值集合输入分析模型,获得预报集合值;
更新步骤:集合卡尔曼滤波利用预报集合计算预报误差协方差矩阵,通过观测值和卡尔曼增益矩阵更新每一个预报集合,得到更新后的分析值和分析集合;
重新将更新后的分析集合作为分析模型的初始值进行下一步预测和同化,重复上述预报步骤和更新步骤。
所述的基于贝叶斯滤波的通用数据同化方法,其中,预报步骤具体为:
更新步骤依次为:
本发明提供第二种基于贝叶斯滤波的通用数据同化方法,主要包括预报和更新两个步骤,其中:
预报步骤:将初始值集合输入分析模型,获得预报集合值;
更新步骤:粒子滤波利用集合预报值计算每个集合样本的重要性权重,利用归一化重要性权重计算有效粒子数,根据权重对集合进行重采样,减少权重小的样本,利用权重较大的样本进行补充,得到更新后的分析值和分析集合;粒子的权重的取值范围为0~1,权重越接近于0说明粒子的权重越小。
重新将更新后的分析集合作为分析模型的初始值进行下一步预测和同化,重复上述预报步骤和更新步骤。
所述的基于贝叶斯滤波的通用数据同化方法,其中,预报步骤依次为:
更新步骤依次为:
本发明提供的第三种基于贝叶斯滤波的通用数据同化方法,主要包括预报和更新两个步骤,其中:
预报步骤:将初始值集合输入分析模型,获得预报集合值;
更新步骤:无迹卡尔曼滤波利用预报集合计算预报误差协方差矩阵,通过观测值和卡尔曼增益矩阵更新每一个预报集合,得到更新后的分析值和分析集合;
重新将更新后的分析集合作为分析模型的初始值进行下一步预测和同化,重复上述预报步骤和更新步骤。
所述的基于贝叶斯滤波的通用数据同化方法,其中,预报步骤依次为:
(1)选择参数k,α和β的值。参数k(k≥0)确保协方差矩阵的半正定,一般情况下k=0;参数α(0≤α≤1)控制点的散布;参数β(β≥0),用来引入分布的高阶信息,对于高斯分布β=2。
(2)构造一个新的状态向量χ:
(3)预报:
更新步骤依次为:
Yk|k-1=h(χk|k-1,nk)
本发明提供的基于贝叶斯滤波的通用数据同化方法,其中,随机生成100个均值为0.2,方差为0.0025的满足正太分布的随机数作为初值,输入分析模型;分析模型为Lorenz系统、陆面过程模型Noah、陆面过程模型VIC-3L和/或分布式水文模型GEOtop。
本发明具有如下效果:
本发明所实现的基于确定性采样方法的无迹卡尔曼滤波(UnscentedKalman Filter,UKF)(Julier&Uhlmann,2004)和基于蒙特卡罗随机采样的采样重要性重采样粒子滤波(Sampling Importance Resampling ParticleFilter,SIR-PF)(Arulampalam et al.,2002)。这些新方法与传统的集合卡尔曼滤波(EnsembleKalmanFilter,EnKF)相比,都有一定的优势。对于高斯分布,UKF可以捕捉到非线性函数的三阶精度的后验均值和方差,对于非高斯分布可以达到二阶精度;而且,与EnKF相比,UKF算法需要较少的样本就可以达到理想精度,所以它们的运算速度要比EnKF快得多。SIR-PF利用一系列的带有权重的粒子来近似地表达非线性系统状态的后验分布,因为SIR-PF可以近似完全地探索状态的后验空间,包含了完整的系统状态的后验信息,并且SIR-PF不需要对误差的概率分布做任何假设,误差可以是高斯也可以是非高斯的,所以它是一种有效的非线性滤波算法,从理论上来讲SIR-PF的精度比卡尔曼滤波的各种算法要高。
附图说明
图1是无迹卡尔曼滤波、集合卡尔曼滤波和粒子滤波三种算法在Lorenz系统数据同化中的应用;(a)是无迹卡尔曼滤波算法的结果;(b)是集合卡尔曼滤波算法的结果;(c)是粒子滤波算法的结果。
图2是集合卡尔曼滤波算法和粒子滤波算法在Noah模型土壤湿度同化中的应用;(a)中绿色线是集合卡尔曼滤波算法的结果、青色线是粒子滤波算法的结果、粉紫色是三维变分算法的结果、紫色是四维变分算法的结果;(b)中绿色线是集合卡尔曼滤波算法的结果、青色线是粒子滤波算法的结果、粉紫色是三维变分算法的结果、紫色是四维变分算法的结果、蓝色是土壤温度的真实值、红色是同化之前的模型模拟结果。
图3是集合卡尔曼滤波算法和粒子滤波算法在Noah模型土壤温度同化中的应用。(a)中绿色线是集合卡尔曼滤波算法的结果、青色线是粒子滤波算法的结果、粉紫色是三维变分算法的结果、紫色是四维变分算法的结果、蓝色是土壤温度的真实值、红色是同化之前的模型模拟结果;(b)中绿色线是集合卡尔曼滤波算法的结果、青色线是粒子滤波算法的结果、粉紫色是三维变分算法的结果、紫色是四维变分算法的结果、蓝色是土壤温度的真实值、红色是同化之前的模型模拟结果。
图4是集合卡尔曼滤波算法和粒子滤波算法在VIC-3L模型微波亮温同化中的应用。(a)中黑线是集合卡尔曼滤波的结果、粉紫色是粒子滤波的结果、红色是土壤湿度的真实值、蓝色是同化之前的模型模拟结果;(b)中黑线是集合卡尔曼滤波的结果、粉紫色是粒子滤波的结果、红色是土壤湿度的真实值、蓝色是同化之前的模型模拟结果。
图5是集合卡尔曼滤波算法在分布式水文模型GEOtop土壤湿度数据同化中的应用。(a)是GEOtop模型模拟的土壤湿度的空间分布;(b)利用遥感反演的土壤湿度的空间分布;(c)应用集合卡尔曼滤波算法同化以后的土壤湿度空间分布;(d)是在集合卡尔曼滤波中引入空间相关关系后的土壤湿度同化结果。
具体实施方式
首先在理论上论证贝叶斯理论是数据同化的基石:
贝叶斯理论为具有噪声的线性系统和非线性系统的顺序滤波提供了统一的方法论,因而为数据同化提供了更广义的理论基础。本发明运用数据同化的语言和标准的表达形式,从贝叶斯滤波的角度分析非线性系统中的数据同化。
1.1)数据同化与非线性动态系统
状态空间方法为描述动力学系统的状态估计问题提供了统一的框架,它分为状态预报模型和观测模型,二者在数据同化系统中又分别被称为模型算子和观测算子。
其中状态空间的非线性预报模型(即模型算子)表示为:
式中,X是系统的状态向量;上标t代表真值;η是独立同分布(i.i.d.)的模型误差;n是系统的维数;状态向量后的(tk)或M的下标k表示时间;M是非线性模型,它可能是依赖于时间的,因此使用了时间下标k,但一般在数据同化系统中,M不随时间变化。
观测模型表示为:
式中,tk时刻的观测为YO;ε是独立同分布的观测误差;m是观测向量的维数;
在以上状态预报模型和观测模型中,误差的分布可以是任意形式的。
假定:(1)p(Xt(t0))已知,即背景场的概率密度函数已知,并有背景场E(Xt(t0))=Xb,背景场的误差协方差矩阵Var(Xt(t0))=P(t0),或将t0时刻的误差协方差矩阵记为背景场误差B。p(X)是模型状态的先验概率密度函数,可以看作我们根据以往的观测所积累起来的知识。
(2)模型误差和观测误差都是独立过程,而且二者相互独立,它们与初始状态也相互独立。它们的概率密度函数已知,即存在
p(η(tk)),p(ε(tk))
其均值为零,协方差矩阵分别用P(tk)和R(tk)表示。
(3)所有的概率密度函数都可以计算得到。
并且:
(1)从1到k时刻的所有观测为Yo(t1:k)≡{Yo(ti),i=1,...,k};
(2)tk时刻的真值Xt(tk)≡X(tk);
(3)用概率形式表示的系统状态转换方程可表示为条件概率:p(X(tk)|X(tk-1));
(4)用概率形式表示的观测方程p(Yo(tk)|X(tk)),称为似然函数。它可以看作是当得到观测Yo时,模型状态X的可能性是什么样的。似然函数建立了Yo和X之间的依存关系,即观测算子的概率表达形式。
所谓贝叶斯滤波问题,就是在时刻k,根据时刻k之前所获得的所有观测信息,求得系统状态后验概率密度函数p(X(tk)|Yo(t1:k))。
1.2)数据同化与贝叶斯估计
首先考虑一种最简单的情形,来说明贝叶斯估计与数据同化的关系。
不考虑模型状态随时间的演进,则根据贝叶斯定理,后验分布p(X|Yo)可表示为
假设p(X)和p(Yo|X)为期望为0且协方差矩阵分别为B和R的多维正态分布,展开公式(3)并对公式两边取对数,最大化后验概率密度函数,则可得到以下目标函数。
它和从最佳线性无偏估计得到的3DVar目标函数完全相同,因此,可认为贝叶斯理论为数据同化提供了更广义的框架,也从更基础的数学理论上为我们揭示了数据同化的基本原理,即模型-作为一种重要的先验信息再加上观测,可提高估计的可信度,减小不确定性。数据同化实际上就是模型和观测信息的融合,可以概括为:
同化=模型+观测
数据同化实质上就是在考虑模型误差和观测误差的基础上,融合模型动力学信息和观测信息的过程
以下对本发明作进一步详细的描述。由于本发明实现了多种算法的通用数据同化,虽然每种算法的具体实施步骤有所不同,从统一性上讲,都需要预报和更新两个步骤:
考虑模型状态随时间的演进,非线性系统的状态估计包括以下两个步骤。
(1)预报
假设已得到前一时刻的系统状态的后验概率密度函数p(X(tk-1)|Yo(t1:k-1)),则根据Markov过程转移密度的Chapman-Kolmogorov方程,下一时刻状态预报的概率密度函数为
p(X(tk)|Yo(t1:k-1))=∫p(X(tk)|X(tk-1))p(X(tk-1)|Yo(t1:k-1))dX(tk-1) (5)
其中,
p(X(tk)|X(tk-1))=p[X(tk)-Mk(X(tk-1))] (6)
因此,公式(5)可推导为
p(X(tk)|Yo(t1:k-1))=∫p[X(tk)-Mk(X(tk-1))]p(X(tk-1)|Yo(t1:k-1))dX(tk-1) (7)
(2)更新
根据贝叶斯定理,系统状态的后验概率密度为
其中,似然函数
p(Yo(tk)|X(tk))=p[Yo(tk)-Hk(X(tk))] (9)
则,公式(8)可推导为:
合并公式(7)和(10)得到
至此,公式(11)完整地表达出了顺序数据同化的贝叶斯(Bayes)递推滤波形式。它包含有3类信息:
1)系统动态演进的信息,即模型算子Mk;
2)观测信息,包括k时刻以前的所有观测Yo(tk)以及观测算子Hk;
3)误差信息,包括模型误差p[X(tk)-Mk(X(tk-1))]和观测误差p[Yo(tk)-Hk(X(tk))]。公式(11)充分体现了Bayes理论对事物逐步求精的原理,针对数据同化来说,也就是在模型状态动态演进过程中,不断地融合新的观测信息,并在考虑模型和观测误差的基础上,得到模型状态的优化估计。
如果能够以解析形式给出公式(11)的解,则得到系统解。实际上,对于复杂的大系统,其概率分布函数的解析形式十分难以得到;而且即使知道它的解析解,求其统计量仍面临高维积分问题,计算十分困难。因此,在实际情况下,往往需要寻找公式(11)的次优解。基于随机采样-即蒙特卡罗(Monte Carlo)模拟的滤波方法是一种通用的数值近似算法,它可以表达任意形式的概率密度函数,对于任意非线性、非高斯的随机系统的滤波十分适用,也因此为数据同化系统中的集合预报和集合滤波提供了更广义的框架。在数据同化领域应用较多的基于蒙特卡罗(Monte Carlo)模拟的贝叶斯滤波方法是集合卡尔曼滤波,近年来,粒子滤波等其他非线性、非高斯滤波方法也越来越被重视。本发明分别在贝叶斯滤波的框架内介绍集合卡尔曼滤波、粒子滤波和无迹卡尔曼滤波的实现过程。
在介绍算法之前,首先简单介绍本文中用到的符号:u表示均值、N(u,∑)表示协方差矩阵为∑的高斯分布、和分别表示状态xk的分析值和预报值、和分别表示系统状态的分析误差协方差矩阵和预报误差协方差矩阵、表示由经过观测模型转换后的误差协方差矩阵、表示状态和观测之间的交叉误差协方差矩阵、Kk表示卡尔曼增益矩阵、Rv和Rn分别表示模型和观测的误差协方差矩阵。
一、集合卡尔曼滤波的实现过程如下:
在预报部分,利用生成的初始状态向量的集合通过预报方程来获得预报场的集合,每个集合成员代表模型状态的一个具体实现,然后用预报集合计算预报误差协方差矩阵;在更新部分,EnKF利用观测向量和状态向量的误差协方差矩阵更新每个集合,得到分析场的集合。最后模型状态的后验估计值就是集合的均值。EnKF的计算过程描述如下:
a.预报:
b.更新:
二、粒子滤波算法的实现过程如下:
a.预报:
b.更新:
(4)归一化重要性权重
三、无迹卡尔曼滤波算法的实现过程如下:
UKF算法基于近似一个概率分布比近似一个任意的非线性函数更容易的观点,利用统计线性化技术来代替EKF中雅可比矩阵线性化的过程,通过一组仔细选择的确定性采样点来捕捉非线性系统的相关统计参数(如均值、方差等)。
这种确定性采样方法称为无迹转换(Unscented Transformation-UT)。UT方法的提出是为了计算一个随机变量经过非线性转换以后的统计量(如均值、方差)。nx代表均值为协方差为Px的状态向量的维数,假设y是x的非线性函数,即:
y=g(x)
为了利用UT计算y的均值和协方差,首先选取2nx+1个带权重的点χ,表示为S={xi,ωi;i=0,...,2nx},通过这些确定性选取的点,能够捕捉到向量x的真实均值和协方差。这些点的选取方式如下:
其中λ=α2(nx+k)-nx是一个尺度因子,选取的这些点称为Sigma点。权重的上标(m)和(c)代表这些权重分别被用于均值和协方差的计算。UT完整的实现过程如下:
1)选择参数k,α和β的值。参数k(k≥0)确保协方差矩阵的半正定,一般情况下k=0;参数α(0≤α≤1)控制点的散布;参数β(β≥0),用来引入分布的高阶信息,对于高斯分布β=2。
2)计算2nx+1个Sigma点及其权重
3)将每个Sigma点代入下面公式:
Yi=g(xi)i=0,...,2nx
4)计算y的均值和协方差以及交叉协方差:
基于上述UT转换,UKF的实现过程如下,假设噪声为加性噪声(Julier& Uhlmann,2004;van der Merwe,2004):
根据上述Sigma点的选取方法,构造一个新的状态向量x:
a.预报:
b.更新:
Yk|k-1=h(χk|k-1,nk)
四、数值试验
下面以陆面过程模型Noah中土壤湿度的数据同化为例来分别介绍两种方法的实现过程,同化中使用的集合数目为100:
a.预报:
(1)初始化:随机生成100个均值为0.2,方差为0.0025的满足正态分布的随机数作为土壤湿度的初值;
(2)预报:将随机生成的土壤湿度初值输入Noah模型,获得下一时刻的土壤湿度集合预报值;
b.更新:
·集合卡尔曼滤波:
利用土壤湿度集合预报值计算其预报误差协方差矩阵,然后通过预报误差协方差矩阵和观测误差协方差矩阵计算卡尔曼增益矩阵,最后通过土壤湿度观测值和卡尔曼增益矩阵更新每一个土壤湿度预报集合,得到更新后的土壤湿度分析值和分析集合。
·粒子滤波:
利用土壤湿度集合预报值和土壤湿度观测值计算每个集合样本的重要性权重,利用归一化重要性权重计算有效粒子数,根据权重对土壤湿度集合进行重采样,减少权重小的样本,利用权重较大的样本进行补充,得到更新后的土壤湿度分析值和分析集合。
·无迹卡尔曼滤波:
利用土壤湿度预报值计算和预报误差协方差矩阵,然后通过预报误差协方差矩阵和观测误差协方差矩阵计算卡尔曼增益矩阵,最后通过土壤湿度观测值和卡尔曼增益矩阵更新每一个土壤湿度预报集合,得到更新后的土壤湿度分析值和分析集合。
重新将更新后的土壤湿度分析集合作为Noah模型的初始值进行下一步土壤湿度预测和同化。
分别在Lorenz系统(图1)、陆面过程模型Noah(图2、3)、陆面过程模型VIC-3L(图4)和分布式水文模型GEOtop(图5)中检验了本发明所设计的通用贝叶斯滤波同化算法。
图1是三种滤波算法在Lorenz系统数据同化中的应用。在高度非线性的Lorenz系统中,无迹卡尔曼滤波、集合卡尔曼滤波和粒子滤波算法都可以很好地将观测信息融入模型中,改善了模型的运行轨迹。
图2和图3分别是集合卡尔曼滤波算法和粒子滤波算法在Noah模型土壤湿度和土壤温度同化中的应用。Noah模型土壤湿度和土壤温度同化试验的结果表明,集合卡尔曼滤波算法和粒子滤波算法可以充分利用土壤湿度和温度的观测信息来提高陆面过程模型的模拟精度,并通过模型土壤层之间的垂直相关信息,改善了下层土壤的模拟结果。并将同化结果与三维变分和四维变分算法做了对比。
图4是集合卡尔曼滤波算法和粒子滤波算法在VIC-3L模型微波亮温同化中的应用。通过集合卡尔曼滤波算法和粒子滤波算法在VIC-3L模型微波亮温中的一维同化试验,可以看到了两种同化算法在考虑垂向空间相关时,都可以将遥感观测到的表层信息向下传递,从而改善了下层土壤湿度的估计结果。
图5是集合卡尔曼滤波算法在分布式水文模型GEOtop土壤湿度数据同化中的应用。通过分布式水文模型GEOtop中的土壤湿度同化试验,可以发现集合卡尔曼滤波算法可以利用观测的水平空间相关信息,将观测信息传递到无观测区域,提高了无观测区域表层土壤湿度的估计结果。
Claims (8)
1.一种基于贝叶斯滤波的通用数据同化方法,主要包括预报和更新两个步骤,其中:
预报步骤:将初始值集合输入分析模型,获得预报集合值;
更新步骤:集合卡尔曼滤波利用预报集合计算预报误差协方差矩阵,通过观测值和卡尔曼增益矩阵更新每一个预报集合,得到更新后的分析值和分析集合;
重新将更新后的分析集合作为分析模型的初始值进行下一步预测和同化,重复上述预报步骤和更新步骤。
3.一种基于贝叶斯滤波的通用数据同化方法,主要包括预报和更新两个步骤,其中:
预报步骤:将初始值集合输入分析模型,获得预报集合值;
更新步骤:粒子滤波利用集合预报值计算每个集合样本的重要性权重,利用归一化重要性权重计算有效粒子数,根据权重对集合进行重采样,减少权重小的样本,利用权重较大的样本进行补充,得到更新后的分析值和分析集合;粒子的权重的取值范围为0-1,权重越接近于0说明粒子的权重越小;
重新将更新后的分析集合作为分析模型的初始值进行下一步预测和同化,重复上述预报步骤和更新步骤。
5.一种基于贝叶斯滤波的通用数据同化方法,主要包括预报和更新两个步骤,其中:
预报步骤:将初始值集合输入分析模型,获得预报集合值;
更新步骤:无迹卡尔曼滤波利用预报集合计算预报误差协方差矩阵,通过观测值和卡尔曼增益矩阵更新每一个预报集合,得到更新后的分析值和分析集合;
重新将更新后的分析集合作为分析模型的初始值进行下一步预测和同化,重复上述预报步骤和更新步骤。
6.根据权利要求5所述的基于贝叶斯滤波的通用数据同化方法,其中,预报步骤依次为:
(1)选择参数k,α和β的值。参数k(k≥0)确保协方差矩阵的半正定,一般情况下k=0;参数α(0≤α≤1)控制点的散布;参数β(β≥0),用来引入分布的高阶信息,对于高斯分布β=2。
(2)构造一个新的状态向量χ:
(3)预报:
更新步骤依次为:
7.根据权利要求1、3或5所述的基于贝叶斯滤波的通用数据同化方法,其中,随机生成100个均值为0.2,方差为0.0025的满足正太分布的随机数作为初值,输入分析模型。
8.根据权利要求1、3或5所述的基于贝叶斯滤波的通用数据同化方法,其中,分析模型为Lorenz系统、陆面过程模型Noah、陆面过程模型VIC-3L和/或分布式水文模型GEOtop。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201110090879XA CN102737155A (zh) | 2011-04-12 | 2011-04-12 | 基于贝叶斯滤波的通用数据同化方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201110090879XA CN102737155A (zh) | 2011-04-12 | 2011-04-12 | 基于贝叶斯滤波的通用数据同化方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN102737155A true CN102737155A (zh) | 2012-10-17 |
Family
ID=46992653
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201110090879XA Pending CN102737155A (zh) | 2011-04-12 | 2011-04-12 | 基于贝叶斯滤波的通用数据同化方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102737155A (zh) |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103886187A (zh) * | 2014-03-06 | 2014-06-25 | 清华大学 | 一种基于数据同化的河道水沙实时预测方法 |
CN104091352A (zh) * | 2014-07-14 | 2014-10-08 | 江南大学 | 基于结构相似度的视觉跟踪方法 |
CN104992057A (zh) * | 2015-06-25 | 2015-10-21 | 南京信息工程大学 | 一种基于准集合-变分的混合资料同化方法 |
WO2016086329A1 (zh) * | 2014-12-01 | 2016-06-09 | 哈尔滨工程大学 | 基于序列递归滤波三维变分的实测海洋环境数据同化方法 |
CN107659374A (zh) * | 2016-07-25 | 2018-02-02 | 深圳超级数据链技术有限公司 | 基于重叠复用的译码方法、装置和系统 |
CN108073782A (zh) * | 2017-11-06 | 2018-05-25 | 哈尔滨工程大学 | 一种基于观测窗口均权重粒子滤波的数据同化方法 |
CN108563733A (zh) * | 2018-04-09 | 2018-09-21 | 中国科学院寒区旱区环境与工程研究所 | 一种基于贝叶斯推理的土地利用数据同化方法 |
EP3407146A1 (en) * | 2017-05-26 | 2018-11-28 | Honeywell International Inc. | Apparatus and method for performing grid adaption in numerical solution of recursive bayesian estimators |
CN108960429A (zh) * | 2018-05-18 | 2018-12-07 | 成都理工大学 | 矿产资源覆盖区、深部矿床勘查预测方法及系统 |
CN109212631A (zh) * | 2018-09-19 | 2019-01-15 | 中国人民解放军国防科技大学 | 一种考虑通道相关的卫星观测资料三维变分同化方法 |
CN109460789A (zh) * | 2018-11-07 | 2019-03-12 | 中国农业科学院农田灌溉研究所 | 一种基于贝叶斯最大熵的土壤水分融合方法 |
CN110020462A (zh) * | 2019-03-07 | 2019-07-16 | 江苏无线电厂有限公司 | 一种对气象数据进行融合处理并生成数值天气预报的方法 |
CN111797572A (zh) * | 2020-07-06 | 2020-10-20 | 中国矿业大学(北京) | 一种城市事故灾害演化模拟及风险预测预警方法 |
CN113051520A (zh) * | 2021-03-17 | 2021-06-29 | 哈尔滨工程大学 | 一种基于统计观测均权重粒子滤波数据同化方法 |
US11378403B2 (en) | 2019-07-26 | 2022-07-05 | Honeywell International Inc. | Apparatus and method for terrain aided navigation using inertial position |
WO2022194117A1 (zh) * | 2021-03-17 | 2022-09-22 | 哈尔滨工程大学 | 一种基于统计观测局地化均权重粒子滤波数据同化方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070118346A1 (en) * | 2005-11-21 | 2007-05-24 | Chevron U.S.A. Inc. | Method, system and apparatus for real-time reservoir model updating using ensemble Kalman filter |
CN101614651A (zh) * | 2009-07-29 | 2009-12-30 | 北京大学 | 一种土壤水分监测的数据同化方法 |
-
2011
- 2011-04-12 CN CN201110090879XA patent/CN102737155A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070118346A1 (en) * | 2005-11-21 | 2007-05-24 | Chevron U.S.A. Inc. | Method, system and apparatus for real-time reservoir model updating using ensemble Kalman filter |
CN101614651A (zh) * | 2009-07-29 | 2009-12-30 | 北京大学 | 一种土壤水分监测的数据同化方法 |
Non-Patent Citations (3)
Title |
---|
XUJUN HAN等: "An evaluation of the nonlinear/non-Gaussian filters for the sequential data assimilation", 《REMOTE SENSING OF ENVIRONMENT》 * |
李新等: "顺序数据同化的Bayes滤波框架", 《地球科学进展》 * |
韩旭军等: "非线性滤波方法与陆面数据同化", 《地球科学进展》 * |
Cited By (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103886187A (zh) * | 2014-03-06 | 2014-06-25 | 清华大学 | 一种基于数据同化的河道水沙实时预测方法 |
CN103886187B (zh) * | 2014-03-06 | 2016-08-24 | 清华大学 | 一种基于数据同化的河道水沙实时预测方法 |
CN104091352A (zh) * | 2014-07-14 | 2014-10-08 | 江南大学 | 基于结构相似度的视觉跟踪方法 |
US10439594B2 (en) | 2014-12-01 | 2019-10-08 | Harbin Engineering University | Actually-measured marine environment data assimilation method based on sequence recursive filtering three-dimensional variation |
GB2547816B (en) * | 2014-12-01 | 2019-08-07 | Univ Harbin Eng | Actually-measured marine environment data assimilation method based on sequence recursive filtering three-dimensional variation |
GB2547816A (en) * | 2014-12-01 | 2017-08-30 | Univ Harbin Eng | Actually-measured marine environment data assimilation method based on sequence recursive spare filtering three-dimensional variation |
WO2016086329A1 (zh) * | 2014-12-01 | 2016-06-09 | 哈尔滨工程大学 | 基于序列递归滤波三维变分的实测海洋环境数据同化方法 |
CN104992057A (zh) * | 2015-06-25 | 2015-10-21 | 南京信息工程大学 | 一种基于准集合-变分的混合资料同化方法 |
CN107659374A (zh) * | 2016-07-25 | 2018-02-02 | 深圳超级数据链技术有限公司 | 基于重叠复用的译码方法、装置和系统 |
US10444269B2 (en) | 2017-05-26 | 2019-10-15 | Honeywell International Inc. | Apparatus and method for performing grid adaption in numerical solution of recursive bayesian estimators |
EP3407146A1 (en) * | 2017-05-26 | 2018-11-28 | Honeywell International Inc. | Apparatus and method for performing grid adaption in numerical solution of recursive bayesian estimators |
CN108073782A (zh) * | 2017-11-06 | 2018-05-25 | 哈尔滨工程大学 | 一种基于观测窗口均权重粒子滤波的数据同化方法 |
CN108563733B (zh) * | 2018-04-09 | 2019-07-26 | 中国科学院寒区旱区环境与工程研究所 | 一种基于贝叶斯推理的土地利用数据同化方法 |
CN108563733A (zh) * | 2018-04-09 | 2018-09-21 | 中国科学院寒区旱区环境与工程研究所 | 一种基于贝叶斯推理的土地利用数据同化方法 |
CN108960429B (zh) * | 2018-05-18 | 2020-11-10 | 成都理工大学 | 矿产资源覆盖区、深部矿床勘查预测方法及系统 |
CN108960429A (zh) * | 2018-05-18 | 2018-12-07 | 成都理工大学 | 矿产资源覆盖区、深部矿床勘查预测方法及系统 |
CN109212631A (zh) * | 2018-09-19 | 2019-01-15 | 中国人民解放军国防科技大学 | 一种考虑通道相关的卫星观测资料三维变分同化方法 |
CN109212631B (zh) * | 2018-09-19 | 2020-12-01 | 中国人民解放军国防科技大学 | 一种考虑通道相关的卫星观测资料三维变分同化方法 |
CN109460789A (zh) * | 2018-11-07 | 2019-03-12 | 中国农业科学院农田灌溉研究所 | 一种基于贝叶斯最大熵的土壤水分融合方法 |
CN109460789B (zh) * | 2018-11-07 | 2021-07-27 | 中国农业科学院农田灌溉研究所 | 一种基于贝叶斯最大熵的土壤水分融合方法 |
CN110020462A (zh) * | 2019-03-07 | 2019-07-16 | 江苏无线电厂有限公司 | 一种对气象数据进行融合处理并生成数值天气预报的方法 |
CN110020462B (zh) * | 2019-03-07 | 2023-04-07 | 江苏无线电厂有限公司 | 一种对气象数据进行融合处理并生成数值天气预报的方法 |
US11378403B2 (en) | 2019-07-26 | 2022-07-05 | Honeywell International Inc. | Apparatus and method for terrain aided navigation using inertial position |
CN111797572A (zh) * | 2020-07-06 | 2020-10-20 | 中国矿业大学(北京) | 一种城市事故灾害演化模拟及风险预测预警方法 |
CN113051520A (zh) * | 2021-03-17 | 2021-06-29 | 哈尔滨工程大学 | 一种基于统计观测均权重粒子滤波数据同化方法 |
WO2022194117A1 (zh) * | 2021-03-17 | 2022-09-22 | 哈尔滨工程大学 | 一种基于统计观测局地化均权重粒子滤波数据同化方法 |
CN113051520B (zh) * | 2021-03-17 | 2023-03-21 | 哈尔滨工程大学 | 一种基于统计观测均权重粒子滤波数据同化方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102737155A (zh) | 基于贝叶斯滤波的通用数据同化方法 | |
Luo et al. | Design of a combined wind speed forecasting system based on decomposition-ensemble and multi-objective optimization approach | |
CN113379107B (zh) | 基于lstm和gcn的区域电离层tec预报方法 | |
CN108520325B (zh) | 一种基于多变环境下加速退化数据的集成寿命预测方法 | |
CN105205313A (zh) | 模糊高斯和粒子滤波方法、装置及目标跟踪方法、装置 | |
Eckert et al. | Bayesian stochastic modelling for avalanche predetermination: from a general system framework to return period computations | |
CN113836823A (zh) | 一种基于负荷分解和优化双向长短期记忆网络的负荷组合预测方法 | |
Ji et al. | Multi-stage multi-fidelity Gaussian process modeling, with application to heavy-ion collisions | |
Li et al. | Automatic identification of modal parameters for high arch dams based on SSI incorporating SSA and K-means algorithm | |
CN114386686A (zh) | 一种基于改进lstm的流域水质短期预测方法 | |
Huang et al. | A decomposition‐based multi‐time dimension long short‐term memory model for short‐term electric load forecasting | |
CN106772354A (zh) | 基于并行模糊高斯和粒子滤波的目标跟踪方法及装置 | |
Ge et al. | SCHMM-based modeling and prediction of random delays in networked control systems | |
CN115994617A (zh) | 结合循环神经网络与滤波算法的剩余寿命预测方法及系统 | |
CN115712977A (zh) | 一种基于Kriging代理模型辅助的齿轮减速器稳健优化设计方法 | |
Liao et al. | Stochastic model updating method for estimates of arbitrary distributed parameters using resampling technique | |
Cao et al. | A Time-series Prediction Algorithm Based on a Hybrid Model | |
Budhiraja et al. | Assimilating data into models | |
CN114239418A (zh) | 基于多种算法组合的滑坡位移预测方法 | |
Ciftja et al. | Short-time-evolved wave functions for solving quantum many-body problems | |
Li et al. | Single‐Index Additive Vector Autoregressive Time Series Models | |
Wu et al. | A fully Lagrangian, non-parametric bias model for dark matter halos | |
Ashby et al. | Geometric learning of the conformational dynamics of molecules using dynamic graph neural networks | |
Attia | Advanced Sampling Methods for Solving Large-Scale Inverse Problems | |
Enstedt et al. | Uncertainty quantification of radio propagation using polynomial chaos |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C05 | Deemed withdrawal (patent law before 1993) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20121017 |