CN107729920A

CN107729920A - 一种基于bp神经网络与d‑s证据理论结合的状态估计方法

Info

Publication number: CN107729920A
Application number: CN201710839088.XA
Authority: CN
Inventors: 何金灿
Original assignee: Jiangsu Maritime Institute
Current assignee: Jiangsu Maritime Institute
Priority date: 2017-09-18
Filing date: 2017-09-18
Publication date: 2018-02-23

Abstract

本发明公开了一种基于BP神经网络与D‑S证据理论结合的状态估计方法，包括如下步骤：(1)采用BP网络的输出结果来构造D‑S证据理论的证据；(2)根据D‑S证据理论是处理不确定信息的强有力方法，提出利用BP神经网络的输出结果归一化后，作为证据来确定D‑S证据理论中的基本可信度分配；(3)再进行证据组合计算，得到估计状态。本发明的方法简单，估计结果稳定性好，就是用BP神经网络的平方和误差函数(SSE)的值来表不确定性证据，采用多个BP网络形成多条BPA。

Description

一种基于BP神经网络与D-S证据理论结合的状态估计方法

技术领域

本发明涉及电子技术和控制领域，具体涉及一种基于BP神经网络与D-S 证据理论结合的状态估计方法。

背景技术

信息融合是将不同来源、不同模式、不同媒质、不同时间、不同表示形式的同构或异构信息加以有机组合，得到对被监测对象的更精确描述。融合多传感器的信息可以得到单个传感器所不能得到的精确特性。

多传感器信息融合系统中，针对不同的融合结构，信息融合可以分布在三个信息层上进行，即像素级融合、特征级融合和决策级融合。无论是在哪一层，都离不开对对象状态估计研究这一重要环节。在信息融合预处理环节中，状态估计主要完成观测噪声的滤波，在位置融合中它完成位置的状态估计，在特征级融合中通过估计算法完成特征提取等。

BP神经网络是基于误差反向传播算法的多层前向神经网络，它是 D.E.Rumelhart和J.L.Mccellnad及其研究小组在1986年研究并设计出来的。BP网络的神经元采用的传递函数通常是Simgnid型可微函数，通常有一个或多个隐层。

目前，缺乏一种估计结果稳定性好的基于BP神经网络与D-S证据理论结合的状态估计方法。

发明内容

本发明的目的在于提供一种估计结果稳定性好的基于BP神经网络与D-S 证据理论结合的状态估计方法。

为达到上述目的，本发明采用了下列技术方案：本发明的一种基于BP神经网络与D-S证据理论结合的状态估计方法，包括如下步骤：

(1)采用BP网络的输出结果来构造D-S证据理论的证据；

(2)根据D-S证据理论是处理不确定信息的强有力方法，提出利用BP神经网络的输出结果归一化后，作为证据来确定D-S证据理论中的基本可信度分配；

(3)再进行证据组合计算，得到估计状态。

进一步地，在步骤(1)中，构建的BP网络为三层BP神经网络，所述训练样本由输入样本和期望输出组成。

进一步地，在步骤(2)中，假设系统具有n个互斥且穷尽的原始子命题存在，即目标的状态类型A＝{A₁,…A_n}，这个命题集组成了整个估计事件的空间，我们称之为识别框架；监测系统中分布有N个传感器，即S₁,…S_N，其中任意一个传感器数据都对系统的各子命题判别提供知识，赋予一个0到1之间的概率分配值，记为m_k(A_i)，表示第k个传感器数据对A_i状态的确信程度。

更进一步地，在步骤(3)中，BP神经网络进行状态估计时，首先要通过给定的训练样本，对神经网络进行学习训练，在训练过程中都神经网络有自己固定的权值和阈值，形成稳定结构，然后再将测量数据输入到训练好的BP神经网络，进行状态估计。

进一步地，在步骤(3)中，系统的互斥且穷尽的原始子命题组成的非空集合，称为识别框架，记为Θ；对于任意一个命题A都应属于2^Θ，在2^Θ上定义基本可信度分配函数BPFA(Basic Probability Assignment Function)m，应满足：(1) m(Φ)＝0；

(2)表示证据对命题A的支持程度，而不支持任何A的真子集，如果A为Θ的子集，且m(A)＞0，则称为证据的焦元，所有焦元组成的集合称为核，且记(A,m(A))为证据体，证据是由证据体组成的。

进一步地，在步骤(3)中，假设Bel₁和Bel₂是相同辨识框架上的信任函数，具有基本概率分配函数为m₁和m₂及核{A₁,…A_n}和{B₁,…B_n}，信任函数对所有核内焦元形成信任度分配值，构成矩阵M，即：

对所有的基本信任分配的非空集A，有：

其中，i＝1,…,n，j＝1,…,n，1/k表示归一化因子，它的作用是避免在合成时将非0的信任赋给空集Φ，将融合过程中存在的冲突进行重新分配，从而化解冲突，k也可表示为

有益效果：本发明的方法简单，估计结果稳定性好，就是用BP神经网络的平方和误差函数(SSE)的值来表不确定性证据，采用多个BP网络形成多条BPA。

与现有技术相比，本发明具有如下优点：

(1)利用单个BP神经网络进行状态估计时，具有不稳定性输出，出现不确定的估计结果。BP网络和D-S证据理论相结合的融合方法具有较好的容错性，降低系统估计时的不确定性，该方法用在状态估计中是合理的，也是可行的。

(2)本发明围绕着BP神经网络在状态估计中的应用，分析其算法原理和存在问题，提出并重点探讨将神经网络与D-S证据理论相结合的状态估计方法。

附图说明

图1为本发明的结构框图。

具体实施方式

通过以下实施例进一步详细说明本发明，但应注意本发明的范围并不受这些实施例的任何限制。

实施例1

本发明的一种基于BP神经网络与D-S证据理论结合的状态估计方法，其特征在于包括如下步骤：

(1)采用BP网络的输出结果来构造D-S证据理论的证据；

构建的BP网络为三层BP神经网络，所述训练样本由输入样本和期望输出组成。

D-S证据理论算法描述

D-S证据理论算法能捕捉、融合来自多传感器的信息，这些信息在模式分类中具有确定某些因素的能力。

假设系统具有n个互斥且穷尽的原始子命题存在，即目标的状态类型 A＝{A₁,…A_n}，这个命题集组成了整个估计事件的空间，我们称之为识别框架；监测系统中分布有N个传感器，即S₁,…S_N，其中任意一个传感器数据都对系统的各子命题判别提供知识，赋予一个0到1之间的概率分配值，记为m_k(A_i)，表示第k个传感器数据对A_i状态的确信程度。概率分配值越接近于1，说明该判决越有明确的证据支持，从而对物体类型的不确定程度就越低。将所有的传感器数据对状态的确信程度按证据组合规则进行组合，选出某种假设，使该假设能被在各传感器上已经得到的绝大多数证据支持。

(3)再进行证据组合计算，得到估计状态。

BP神经网络进行状态估计时，首先要通过给定的训练样本，对神经网络进行学习训练，在训练过程中都神经网络有自己固定的权值和阈值，形成稳定结构，然后再将测量数据输入到训练好的BP神经网络，进行状态估计。

D-S证据理论的组合规则

系统的互斥且穷尽的原始子命题组成的非空集合，称为识别框架，记为Θ；对于任意一个命题A都应属于2^Θ，在2^Θ上定义基本可信度分配函数BPFA(Basic ProbabilityAssignment Function)m，应满足：(1)m(Φ)＝0；

假设Bel₁和Bel₂是相同辨识框架上的信任函数，具有基本概率分配函数为m₁和m₂及核{A₁,…A_n}和{B₁,…B_n}，信任函数对所有核内焦元形成信任度分配值，构成矩阵M，即：

对所有的基本信任分配的非空集A，有：

其中，i＝1,…,n，j＝1,…,n，1/k表示归一化因子，它的作用是避免在合成时将非0的信任赋给空集Φ，将融合过程中存在的冲突进行重新分配，从而化解冲突；在实际应用中，k也可表示为

试验1

基于BP神经网络的状态估计

在实际应用中，用得最多的是三层BP神经网络。根据BP神经网络的特点，在既满足精度要求，又提高学习效率的前提下，采用了三层BP网络来进行状态估计。

以煤矿通风安全稳定性估计为应用背景，验证了该算法的准确性、可行性。

本发明以矿井通风安全状态估计为研究目标，选取五个对矿井通风安全程度影响最大的参数作为系统融合处理的基本数据，包括用风点风量供需比(u₁)、氧气浓度(u₂)、瓦斯浓度(u₃)、温度(u₄)、煤尘浓度(u₅)。本发明选取的实测数据如表1所示。将通风系统的安全程度定位4级：I级(很安全)、II级(较安全)、III级(一般)、IV级(危险)。监测系统实测数据如表1所示：

表1

在实验过程中，训练样本选16组实测数据，神经网络的期望输出，根据安全程度可编码为：I级(0.1 0.1 0.1 0.9)、II级(0.1 0.1 0.9 0.1)、III级(0.1 0.9 0.1 0.1)、IV级(0.9 0.1 0.1 0.1)。为了提高BP网络状态估计的精确性，实验中选择三个训练好的神经网络BP1、BP2、BP3，并将网络对实测数据的输出结果进行加权平均融合，以此结果估计系统的状态。BP神经网络实验输出结果如表2 所示：

表2

通过对表2中的实验数据分析可知，利用单一的BP神经网络进行状态估计的时，其输出结果有不稳定性输出，会出现不确定的评价结果。例如：对于样本3，BP1和BP3两个网络输出结果都支持系统处于III级，而BP2网络输出结果判定系统处于IV级。由于其自身的缺点，如随着维数增加，使得学习时间剧增，且易陷入局部最小点等。导致评价结果存在很大偏差。因此，在融合的时候，一般采用多个不同网络结构的神经网络来对同一目标进行处理，得到的输出结果进行加权平均。在本实验中提出了对三个BP网络的输出结果进行加权平均融合的估计方法。通过实验结果分析可知，虽然可以对监测系统进行正确的状态估计，但其不确定性仍然比较高，需要进一步改进融合算法。

基于BP神经网络与D-S证据理论结合的状态估计方法

D-S证据理论作为一种数学工具，以其在不确定性的表示、量测和组合方面的优势受到大家的重视。它允许人们对不精确、不确定性问题进行建模，并进行推理，这为融合不确定信息提供了一条新的思路。D-S证据理论可以降低不确定性的特点，正好弥补了神经网络输出的稳定性问题，将BP神经网络与D-S 证据理论结合，用于系统的状态估计，可以提高系统的估计精度，降低系统估计的不确定性。

BP网络与D-S理论结合的状态估计方法

采用BP网络的输出结果来构造D-S证据理论的证据，然后按组合规则进行融合，得到系统的状态估计。系统的状态估计过程，基于BP网络和D-S证据理论的状态评估过程如图1所示。

监测系统中，各传感器测量数据之间的相关性很小，经过BP网络的非线性映射后，可认为输出结果之间是相互独立的，符合D-S证据理论的组合证据必须是独立要求。由于BP神经网络本身的误差和不可靠性，加上系统监测数据对某一系统类别的不完全确定性支持，使得BP神经网络输出出现误差，这种误差可作为D-S的不确定性证据。本发明就是用BP神经网络的平方和误差函数(SSE) 的值来表不确定性证据，采用多个BP网络形成多条BPA。

将构建的三个BP神经网络输出结果进行归一化后，作为证据理论的证据输入，按组合规则进行融合计算，验证样本的计算输出结果如表3所示。

表3

从表3可以看出，用BP神经网络和D-S证据理论相结合的融合方法，得到的估计结果与实际相符合。比较表2和表3中的融合结果，在表2中判定样本1 的融合结果是0.928，判定样本3的融合结果是0.6788；而在表3中样本1的融合结果0.9938，样本3的融合结果是0.9003。虽然说在表2中，对各样本的状态也可以进行估计，但和表3的融合结果相比较，精度明显不及。

表3中对各样本进行融合估计后，样本估计状态的证据支持度提高了，不确定性程度更加低了，说明利用神经网络来分配基本可信度值比根据主观专家经验分配要精确的多。对神经网络来说，虽然BP1、BP2、BP3对样本1和样本 2的评价结果是正确的，但是我们从实验结果可以看出，通过融合后大大降级了不确定度。以样本1为例，三个网络加权平均后的不确定度为0.0371，但用BP 网络和D-S证据理论相结合的方法融合后，不确定度为0.00003。

不仅如此，本发明的方法还有助于增强支持度的区分性。以样本3和样本 4为例来看，虽然经过BP网络加权平均融合后，可以正确估计系统状态，但各系统状态之间的区分度比较小。反观D-S证据理论的融合结果，证据区分度明显提高。

实验分析结果表明，BP网络和D-S证据理论相结合的融合方法具有较好的容错性，降低系统估计时的不确定性，该方法用在状态估计中是合理的，也是可行的。

以上显示和描述了本发明的基本原理、主要特征和本发明的优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，本发明要求保护范围由所附的权利要求书、说明书及其等效物界定。

Claims

1.一种基于BP神经网络与D-S证据理论结合的状态估计方法，其特征在于包括如下步骤：

(1)采用BP网络的输出结果来构造D-S证据理论的证据；

(3)再进行证据组合计算，得到估计状态。

2.根据权利要求1所述的基于BP神经网络与D-S证据理论结合的状态估计方法，其特征在于：在步骤(1)中，构建的BP网络为三层BP神经网络，所述训练样本由输入样本和期望输出组成。

3.根据权利要求1所述的基于BP神经网络与D-S证据理论结合的状态估计方法，其特征在于：在步骤(2)中，假设系统具有n个互斥且穷尽的原始子命题存在，即目标的状态类型A＝{A₁,…A_n}，这个命题集组成了整个估计事件的空间，我们称之为识别框架；监测系统中分布有N个传感器，即S₁,…S_N，其中任意一个传感器数据都对系统的各子命题判别提供知识，赋予一个0到1之间的概率分配值，记为m_k(A_i)，表示第k个传感器数据对A_i状态的确信程度。

4.根据权利要求1所述的基于BP神经网络与D-S证据理论结合的状态估计方法，其特征在于：在步骤(3)中，BP神经网络进行状态估计时，首先要通过给定的训练样本，对神经网络进行学习训练，在训练过程中都神经网络有自己固定的权值和阈值，形成稳定结构，然后再将测量数据输入到训练好的BP神经网络，进行状态估计。

5.根据权利要求4所述的基于BP神经网络与D-S证据理论结合的状态估计方法，其特征在于：在步骤(3)中，系统的互斥且穷尽的原始子命题组成的非空集合，称为识别框架，记为Θ；对于任意一个命题A都应属于2^Θ，在2^Θ上定义基本可信度分配函数BPFA(BasicProbability Assignment Function)m，应满足：

(1)m(Φ)＝0；

6.根据权利要求5所述的基于BP神经网络与D-S证据理论结合的状态估计方法，其特征在于：在步骤(3)中，假设Bel₁和Bel₂是相同辨识框架上的信任函数，具有基本概率分配函数为m₁和m₂及核{A₁,…A_n}和{B₁,…B_n}，信任函数对所有核内焦元形成信任度分配值，构成矩阵M，即：

对所有的基本信任分配的非空集A，有：

<mrow> <mi>m</mi> <mrow> <mo>(</mo> <mi>A</mi> <mo>)</mo> </mrow> <mo>=</mo> <mfrac> <mn>1</mn> <mi>k</mi> </mfrac> <munder> <mo>&Sigma;</mo> <mrow> <msub> <mi>A</mi> <mi>i</mi> </msub> <mo>&cap;</mo> <msub> <mi>B</mi> <mi>j</mi> </msub> <mo>=</mo> <mi>A</mi> </mrow> </munder> <msub> <mi>m</mi> <mn>1</mn> </msub> <mrow> <mo>(</mo> <msub> <mi>A</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> <msub> <mi>m</mi> <mn>2</mn> </msub> <mrow> <mo>(</mo> <msub> <mi>B</mi> <mi>j</mi> </msub> <mo>)</mo> </mrow> </mrow>