CN1216338C - 基于线性约束截断最小二乘的数据融合方法 - Google Patents

Abstract

一种基于线性约束截断最小二乘的数据融合方法，对各传感器数据求取均方值，在此基础上设置自适应阈值，并判断是否存在异常传感器数据，以及哪个传感器数据存在脉冲噪声，得到检测矩阵，然后建立基于截断最小二乘(TLS)的初始融合目标函数，通过一系列变化，变成线性约束的截断最小二乘(LCTLS)的最优问题，进一步求取问题的拉格朗日函数，根据Kuhn-Tucker条件，得到对应求取最优解的方程组，建立全局收敛的递归神经网络，得到方程组的解，即优化问题的解。本发明使算法的鲁棒性大大提高，即使出现了脉冲噪声，也能具有无偏性，并在很快的时间内得到优质的解，对于数据融合的实时处理具有重要意义和实用价值。

Description

基于线性约束截断最小二乘的数据融合方法

技术领域：

本发明涉及一种基于线性约束截断最小二乘(LCTLS)的数据融合方法，是信息融合领域中基于信号级(像素级)的多传感器数据融合方法，在环境检测、故障诊断、目标跟踪与识别等系统中均有广泛应用。

背景技术：

多传感器融合由于可以综合多个相同或不同种类的传感器信息，因而可以消除单个传感器所带来的信息不确定性以及在时间、空间应用上的局限性，得到关于对象更为确切、质量更高的信息，更容易被人或者计算机处理。随着人们对于信息获取提出的越来越高的要求，多传感器融合正被逐渐广泛地应用于军事对抗、医学影像、故障诊断、空中交通管制等很多方面。

数据融合分为信号级(像素级)融合、特征级融合和决策级融合。与本发明相关的信号级(像素级)融合中，比较成熟的算法有Kalman滤波算法、最大似然估计等以及它们的各种改进算法。这些算法最终都需要传感器噪声协方差信息，而在实际应用中这些信息有时是很难得到的，而且这些算法在实时应用上存在问题。

Y.Zhou和H.Leung提出的线性约束最小二乘(LCLS)(Y.Zhou and H.Leung.Alinearly constrained least square approach for multisensor data fusion.Proc.SPIE’s 11th AnnualSymposium on AeroSense，Orlando，Florida，1997，118～129)不需要任何先验信息，而且计算简便。Youshen Xia和H.Leung对之进行了改进，提出的基于LCLS的神经网络算法(Y.S.Xia and H.Leung.Neural data fusion algorithms based on a linearlyconstrained least square method.IEEE Trans.Neural Networks，2002，13(2)：320～329)解决了矩阵奇异时存在的问题。在噪声满足高斯分布时，在收敛速度、计算量、硬件实现以及收敛精度上都比较令人满意。但是由于在信号传输、环境影响或者传感器自身工作原理上的原因，传感器得到的信号有时会出现脉冲噪声，比如图像中经常出现的speckle噪声和椒盐噪声。通过仿真发现，此方法在处理这种情况时，在异常传感器数目很小的时候，融合结果及收敛速度受影响不是很大；一旦数目稍大，收敛速度大大减小，有时循环次数可达到1000次以上，并且收敛值与全局极小点相差较大。

发明内容：

本发明的目的在于针对现有技术的不足，提供一种基于线性约束截断最小二乘的数据融合方法，使得在保持现有线性约束最小二乘方法优点的同时，提高它的鲁棒性，并且快速得到融合解，便于实时应用。

为实现这样的目的，本发明结合自适应传感器数据检测方法，提出了基于线性约束截断最小二乘和递归神经网络的数据融合方法，在对各传感器数据求取均方值的基础上设置自适应阈值，并判断是否存在异常传感器数据，以及哪个传感器数据存在脉冲噪声，得到检测矩阵。然后建立基于截断最小二乘的融合目标函数，通过一系列变换，变成线性约束的截断最小二乘的最优问题。进一步求取问题的拉格朗日函数，根据Kuhn-Tucker条件，得到对应最优解的方程组，建立全局收敛的递归神经网络，得到方程组的解，即优化问题的解。

本发明的方法主要包括异常传感器数据检测、建立融合目标函数、递归神经网络实现三个基本步骤：

1.异常传感器数据检测

初始化一个以传感器数目为维数的单位对角阵。先求各传感器数据的均方值，通过它们归一化之后的方差与阈值的比较，判断是否存在异常的传感器数据。阈值一般自适应设置成与传感器数目成反比的形式。

如果认为存在异常传感器数据，则将各均方归一化到某一区域上。如果某个归一值超过某设定阈值，则认为对应的传感器数据含有脉冲噪声，并且把单位对角阵的相应元素置成0。否则认为对应的传感器数据正常，对单位对角阵不做任何改动。这个阈值也根据归一化均方值的均值和标准差自适应设置。

2.建立融合目标函数

检测过程结束之后得到检测矩阵P，建立基于截断最小二乘的初始目标函数，即使正常传感器数据加权融合结果和原始信号差的平方期望达到最小。引入线性约束w^TPa＝1，其中w＝[w₁，w₂，...，w_k]^T为各传感器权值，a＝[a₁，a₂，…，a_k]^T为各传感器的尺度参数，K为传感器数目，初始目标函数变成带有线性约束的噪声协方差矩阵的优化问题。利用高斯噪声期望为零以及检测矩阵与出现冲击噪声的异常传感器数据乘积的期望为零的特性，演变成一个带有约束的测量数据协方差矩阵的优化问题，也即最终的融合目标函数。

3.递归神经网络实现

得到融合目标函数之后，求取其对应的拉格朗日函数。然后根据Kuhn-Tucker条件，得到求取最优权值所对应的方程组。提取变量的系数矩阵，在方程组两边同时左乘以系数矩阵的转置，再同时减去方程组右侧部分。对于连续神经网络实现，最终方程组的左侧即为网络中优化变量对时间的负导数；对于离散神经网络实现，是将连续神经网络离散化，然后对所有测量数据协方差矩阵乘以一个系数，此系数要满足它与测量协方差矩阵乘积的无穷范数小于1，网络训练的步长小于1/_^T_，其中_＝Pa。

利用递归神经网络而不用直接求逆法的原因是当传感器数目变大的时候，协方差矩阵的条件数会变大，直接求逆会使解的质量下降。而神经网络算法的应用避免了求逆过程，因而解的质量得到了保证。如果没有漏检的话，通常10次以内网络就达到稳定。网络稳定时w的值即为所求的最优权值。

本发明的数据融合方法具有如下有益效果：

对异常传感器数据的检测消除了原有的线性约束最小二乘方法目标函数与真正的目标函数不一致和融合结果难以保证其无偏性的缺点，同时解决了线性约束最小二乘神经网络算法在出现异常传感器数据的时候网络收敛速度慢、网络收敛结果与全局最优解相差较大的问题。所提出的自适应异常传感器数据检测算法的误检率和漏检率都很小，从而保证算法的优良性能。当不存在异常传感器的时候，算法演变成线性约束最小二乘方法，即线性约束最小二乘方法是本发明的一个特例。本发明使算法的鲁棒性大大提高，即使出现了脉冲噪声，也能具有无偏性，并在很快的时间内得到优质的解，为实时应用的后续处理节省了时间，提高了质量，对于数据融合的实时处理具有重要意义和实用价值。

附图说明：

图1为本发明基于线性约束截断最小二乘和递归神经网络的数据融合方法示意图。

如图所示，将传感器数据进行异常传感器数据检测，然后将得到的检测矩阵P和传感器数据一起送入递归神经网络，得到最优的权值。最后由权值、检测矩阵和传感器数据得到融合结果。

图2为神经网络状态方程结构图。

其中，图2(a)为连续神经网络状态方程结构图，图2(b)为离散神经网络状态方程结构图。

图3为实施例2图像中出现椒盐噪声时线性约束最小二乘和线性约束截断最小二乘的融合结果。

其中，图3(a)为未带任何噪声的原图，图3(b)为带有高斯噪声的图像，图3(c)为带有高斯噪声和椒盐噪声的图像，图3(d)为用神经网络线性约束最小二乘(LCLS)方法融合的结果，图3(e)为用神经网络线性约束截断最小二乘(LCTLS)融合的结果。

具体实施方式：

为了更好地理解本发明的技术方案，以下结合附图和实施例对本发明的实施方式作进一步描述。

实施例1中各参数定义如下：定义某个传感器数据中出现的脉冲噪声个数为n＝[f·N]，其中f∈[0，1]，N是数据点的数目，[·]表示对方括号中的数字取整。每个脉冲噪声q＝p·randn(0，1)，其中p称为脉冲噪声的幅值，randn(0，1)代表满足0-1正态分布的随机数。存在脉冲噪声的传感器数目记为l。

每个传感器信号

$\left\{\begin{array}{c}s(t+1)=1.7\exp (-2s^2\left(t\right))-1+0.1v\left(t\right)\\ x_i\left(t\right)=s\left(t\right)+n_i\left(t\right),i=1,...,K\end{array}\right.$

式中s(0)是均值为0，方差为1的高斯过程，s(t+1)=1.7exp(-2s²(t))-1是一个无序过程，n_i(t)和v(t)是均值为0的高斯过程。设置K＝5，N＝60，正常传感器数据的信噪比为5dB。此处均方差定义为：

$\mathrm{MSE}=\frac{\underset{t=1}{\overset{N}{\mathrm{\Σ}}}{(w^{T}x\left(t\right)-s\left(t\right))}^2}{N}$

图1为本发明基于线性约束截断最小二乘和递归神经网络的数据融合方法示意图。各部分具体实施细节如下：

1.异常传感器数据检测

这一部分主要包含以下几个步骤：

第一步建立一个K×K的单位对角矩阵P。此处P为5×5的单位对角阵。

第二步计算各传感器数据的均方值m＝[m₁，m₂，...，m_k]， $m_i=\frac{1}{N}\underset{t=1}{\overset{N}{\mathrm{\Σ}}}{\left(x_i\left(t\right)\right)}^2.$

第三步令 $\hat{m}=m/\max \left(m_i\right),$ $v=\mathrm{var}\left(\hat{m}\right),$ 其中var(·)表示求取括号中数据的方差。如果v＜阈值1，则认为没有异常传感器，P保持不变，检测过程结束；否则转到第四步。阈值1设置成0.2/K。

第四步把m归一化到[0.1，0.9]上，记为

第五步计算 的均值和标准差，分别用mean和stdev表示。由于出现脉冲噪声的传感器数据的均方值都其它的大很多，所以异常传感器的检测可以只考虑右边界，所以阈值2定义为mean-n×stdev，这里n设置为1/K。如果

大于阈值2，则P_i，j＝0；否则P_i，j保持不变。

其中阈值1和阈值2一般设置成与K成反比。检测过程结束后，得到检测矩阵P。实施例1中所有的异常传感器数据均准确地检测出来了。

2.建立融合目标函数

截断最小二乘的基本思想是去掉异常的观测数据，然后对正常的数据利用最小二乘进行估计。因此建立的初始融合目标函数是使正常传感器数据加权融合结果与原信号差值的平方的期望达到最小。由于传感器测量模型为

                                 x(t)＝as(t)+n(t)                                  (1)

其中a＝[a₁，…，a_k]^T，x(t)＝[x₁(t)，...，x_k(t)]^T，n(t)＝[n₁(t))，…，n_k(t)]^T。

建立的初始融合目标函数如下式所示：

                            f₁(w)＝E[w^TPx(t)-s(t)]²                            (2)

展开后得：

            f₁(w)＝E[w^TP(as(t)+n(t))-s(t)]²＝E[(w^TPa-1)s(t)+w^TPn(t)]        (3)

因为原信号未知，令w^Tpa＝1。这样目标函数变成：

                         f₁(w)＝w^TPE[n(t)n(t)^T]Pw                              (4)

又由于噪声的协方差信息一般都不知道，所以进行如下变换：

       x(t)x(t)^T＝s²(t)aa^T+n(t)n(t)^T+s(t)at(t)^T+s(t)n(t)a^T                 (5)

当某几个传感器出现脉冲噪声时，n(t)＝n_gauss(t)+n_impulse(t)，其中n_gauss(t)代表噪声中的高斯噪声成分，n_imPulse(t)代表噪声中的脉冲噪声成分。因为

  E[n(t)]＝E[n_gauss(t)]+E[n_impulse(t)]＝E[n_impulse(t)]                              (6)

所以w^TPE[x(t)x(t)^T]Pw＝E[s(t))]²+w^TPE[n_impulse(t)]E[s(t)]+E[n_impulse(t)]^TE[s(t)]Pw   (7)

然而准确计算x(t)的协方差又是比较困难的，这里采用平均估计来替代期望：

$R=\frac{1}{N}\underset{t=1}{\overset{N}{\mathrm{\Σ}}}x\left(t\right)x{\left(t\right)}^T---\left(8\right)$

可得：

f₁(w)＝w^TPRPw-E[s(t)]²-w^TPE[n_impulse(t)]E[s(t)]-E[n_impulse(t)]^TE[s(t)]Pw       (9)

因为存在脉冲噪声的传感器数据的P对角线上的相应值为0，所以PE[n_impulse(t)]＝0。则LCTLS由下面的线性约束最小问题来表示：

                  min   w^TPRPw

                                                                            (10)

                  s.t.  a^TPw＝1

融合结果z(t)＝w^TPx(t)。可以看到，LCTLS即使是在脉冲噪声存在的情况之下，依然满足无偏特性：

E[z(t)]＝E[w^TPx(t)]＝E[w^TP(as(t)+n(t)]＝E[s(t)]+E[w^TPn_imPulse(t)]＝E[s(t)](11)

可以看出，当检测算法认为不存在异常传感器数据的时候，P仍然为单位矩阵，此时LCTLS方法就演变成LCLS方法，也就是说LCLS方法是LCTLS方法的一个特例。

3.递归神经网络实现

由于(10)的拉格朗日函数为

                  L(w，y)＝w^TPRPw+y^T(a^TPw-1)                            (12)

根据Kuhn-Tucker条件，要得到最优解需要解下面的方程：

$\left\{\begin{array}{c}2\mathrm{PRPw}+\mathrm{Pay}=0\\ a^T\mathrm{Pw}=1\end{array}\right.---\left(13\right)$

令 $\hat{R}=\mathrm{PRP},$ _＝Pa，(13)可以表示成

$\left(\begin{array}{cc}2\hat{R}& \hat{a}\\ -{\hat{a}}^T& 0\end{array}\right)\left(\begin{array}{c}w\\ y\end{array}\right)=\left(\begin{array}{c}0\\ 1\end{array}\right)---\left(14\right)$ 如果用直接求逆的方法，则 $w=\frac{{\hat{a}}^T{\hat{R}}^{-1}}{{\hat{a}}^T{\hat{R}}^{-1}\hat{a}}.$ 由于当P不为单位对角矩阵时， 一定是奇异的，求逆必须求其广义逆矩阵。

如果用神经网络的方法，两边同时左乘 ${\left(\begin{array}{cc}2\hat{R}& \hat{a}\\ -{\hat{a}}^T& 0\end{array}\right)}^T,$ (14)变为

${\left(\begin{array}{cc}2\hat{R}& \hat{a}\\ -{\hat{a}}^T& 0\end{array}\right)}^T\left(\begin{array}{cc}2\hat{R}& \hat{a}\\ -{\hat{a}}^T& 0\end{array}\right)\left(\begin{array}{c}w\\ y\end{array}\right)=\left(\begin{array}{c}\hat{a}\\ 0\end{array}\right)$

即

$\left(\begin{array}{cc}4{\hat{R}}^T\hat{R}+\hat{a}{\hat{a}}^T& 2\hat{R}\hat{a}\\ 2{\hat{a}}^T\hat{R}& {\hat{a}}^T\hat{a}\end{array}\right)\left(\begin{array}{c}w\\ y\end{array}\right)-\left(\begin{array}{c}\hat{a}\\ 0\end{array}\right)=\left(\begin{array}{c}0\\ 0\end{array}\right)---\left(15\right)$

则可得连续递归神经网络融合算法如下：

状态方程：

$\frac{d}{\mathrm{dt}}\left(\begin{array}{c}w\\ y\end{array}\right)=-\left(\begin{array}{c}{W}_{1}w+W_{2}y-\hat{a}\\ W_{3}w+K_{a}y\end{array}\right)$

输出方程：

               z(t)＝w^TPx(t)                       (16)

其中y∈R，w∈R^k，K_a＝_^T_，各参数如下

$\left\{\begin{array}{c}{W}_1=4{\hat{R}}^T\hat{R}+\hat{a}{\hat{a}}^T\\ W_2=2\hat{R}\hat{a}\\ W_3=2{\hat{2}}^T\hat{R}\end{array}\right.---\left(17\right)$

图2(a)给出了连续神经网络的状态方程结构。

离散递归神经网络算法如下：

状态方程：

$\left(\begin{array}{c}w(k+1)\\ y(k+1)\end{array}\right)=\left(\begin{array}{c}w\left(k\right)\\ y\left(k\right)\end{array}\right)-h*\left(\begin{array}{c}{W}_{1}w\left(k\right)+W_{2}y\left(k\right)-\hat{a}\\ W_{3}w\left(k\right)+K_{a}y\left(k\right)\end{array}\right)$

输出方程：

              z(t)＝(w(k+1))^TPx(t)               (18)

其中h＞0是一个固定的步长，h＜1/K_a。α是一个满足 ${\left|\right|\mathrm{\α}\hat{R}\left|\right|}_{\∞}\≤1$ 的尺度参数，

其余各参数如下：

$\left\{\begin{array}{c}{W}_1=4{\mathrm{\α}}^2{\hat{R}}^T\hat{R}+\hat{a}{\hat{a}}^T\\ W_2=2\mathrm{\α}\hat{R}\hat{a}\\ W_3=2\mathrm{\α}{\hat{a}}^T\hat{R}\end{array}\right.---\left(19\right)$

图2(b)给出了离散神经网络的状态方程结构。可以证明，离散神经网络与连续神经网络稳定时即可得到方程组(13)的解。在不存在异常传感器数据时，网络按指数收敛于全局最小值；当检测出有异常传感器数据时，网络可以收敛到全局最小，收敛速度也很快，一般10次以内就达到稳定。

实施例1采用的是离散神经网络结构。步长h在K＝5时为0.09。表1给出了在各种不同的情况之下，LCLS与LCTLS的性能比较。各数据均为Monte Carlo随机仿真100次的平均值。

表1K＝5时LCLS和 LCTLS的性能比较

		l＝1				l＝2
										f＝0.1		f＝0.3		f＝0.1		f＝0.3
		p＝10	p＝20	p＝10	p＝20	p＝10	p＝20	p＝10	p＝20
										融合均方差	LCTLS	0.0165	0.0166	0.0166	0.0165	0.0208	0.0198	0.0209	0.0201
LCLS	0.0177	0.0188	0.0182	0.0181	0.0288	0.0326	0.0292	0.0280
									网络循环次数		LCTLS	LCTLS	10	10	10	10	10	10	10
LCLS	LCLS	34	66	54	76	426	444	308

实施例2为图像融合的例子。Rice图像是一个256×256的8bit灰度图像。K＝5，每一幅原图像加上方差为0.02的高斯噪声。其中的2个传感器再增加强度为0.5的椒盐噪声。对这些图像分别用LCTLS和LCLS方法进行融合，均采用神经网络实现，步骤与实施例1相同。

图3(a)是不带任何噪声的原图像。图3(b)是一幅带有高斯噪声的图像。图3(c)是同时带有高斯噪声和椒盐噪声的图像。图3(d)是采用LCLS方法之后的融合结果。图3(e)是基于LCTLS神经融合方法的融合结果。

MSE_LCTLS＝0.0063，7次便达到稳定；MSE_LCLS＝0.0078，达到稳态时循环的次数为964。

Claims (1)

1、一种基于线性约束截断最小二乘的数据融合方法，其特征在于包括如下具体步骤：

1)初始化一个以传感器数目为维数的单位对角阵，先求各传感器数据的均方值，把各传感器数据的均方值归一化之后计算归一化后值的方差，然后将所得的方差与一阈值1进行比较，如果方差不小于该阈值1，则存在异常的传感器数据，阈值自适应设置成与传感器数目成反比的形式；如存在异常传感器数据，则将各均方值归一化到某一区域上，如果某个归一值超过设定阈值2，则把单位对角阵的相应元素置成0，否则对单位对角阵不做任何改动，这个阈值2根据归一化均方值的均值和标准差自适应设置；

2)检测过程结束之后得到检测矩阵P，建立基于截断最小二乘的初始融合目标函数，即使正常传感器数据加权融合结果和原始信号差的平方期望达到最小，引入线性约束w^TPa＝1，其中w＝[w₁，w₂，...，w_K]^T为各传感器权值，a＝[a₁，a₂，...，a_K]^T为各传感器的尺度参数，K为传感器数目，再对初始融合目标函数进行变换，利用高斯噪声期望为零以及检测矩阵与出现冲击噪声的异常传感器数据乘积的期望为零的特性，将带有线性约束的噪声协方差矩阵的优化问题，演变成一个带有约束的测量数据协方差矩阵的优化问题，得到最终的融合目标函数；

3)得到最终的融合目标函数之后，求其对应的拉格朗日函数，然后根据Kuhn-Tucker条件，得到求取最优解所对应的方程组，提取变量的系数矩阵，在方程组两边同时左乘以系数矩阵的转置，再同时减去方程组右侧部分，从而得到变换后的方程组，如果用连续神经网络求解变换后的方程组，最终方程组的左侧即为网络中优化变量对时间的负导数；如果用离散神经网络求解变换后的方程组，则将连续神经网络离散化，然后对所有测量数据协方差矩阵乘以一个系数，此系数要满足它与测量数据协方差矩阵乘积的无穷范数小于1，网络训练的步长小于1/_^T_，其中_＝Pa，网络稳定时w的值即为所求的最优权值。

Images