CN110084263B - 一种基于信任的多框架异构数据融合识别方法 - Google Patents

Abstract

本发明公开了一种基于信任的多框架异构数据融合识别方法，在每个辨识框架的特征空间中均训练出对应的分类器，通过每个分类器对多个已知训练样本进行分类，得出每个已知训练样本的分类结果，根据每个已知训练样本的分类结果和其真实分类结果的对应关系，分别计算出每个辨识框架和目标辨识框架之间的转化关系；通过转化关系将目标样本在不同辨识框架中的分类结果转化至目标辨识框架中并进行融合，得出目标样本的最终分类结果；本发明将不同分类器(位于两个不同的辨识框架)得到的分类结果转化到同一个辨识框架，并利用证据理论进行融合估计该转化规则，最终实现不同框架数据的融合决策，可以提高异构数据识别的准确率。

Description

一种基于信任的多框架异构数据融合识别方法

【技术领域】

本发明属于目标识别技术领域，特别涉及一种基于信任的多框架异构数据融合识别方法。

【背景技术】

基于分类器融合任务的复杂模式系统识别是目前研究的一个重要且具有挑战性的领域，其中关键问题之一是如何获取更多的可用知识，提高分类精度，特别是在知识未知、复杂的模式分类系统中。分类器融合的思想是不同的分类器可以提供(或多或少)互补信息，以达到更高的分类精度。在分类器融合技术中，辨识框架是首先要统一的，相同辨识框架下的两个分类信息可以进行融合决策，以增加它们的上下文信息。然而，由于不同传感器所观测到的目标辨识框架不同，这种辨识框架在许多应用中可能会有所不同。在这种情况下，因为我们无法在分类结果或假设之间建立强有力的关联，一些不正确的结果就会产生。

目前，许多分类器融合识别方法都是针对统一辨识框架下的融合，即所要融合决策的分类结果都位于相同的辨识框架，其辨识框架完全一致，因此可以直接利用D-S规则等多分类器融合算法进行分类。而现实中由于不同传感器的辨识框架存在差异，不同辨识框架之间关系是未知的而且并非线性，因此，难以实现多框架异构数据融合识别。

【发明内容】

本发明的目的是提供一种基于信任的多框架异构数据融合识别方法，通过先验知识构建不同辨识框架之间的分类结果转化改规则并优化后，再对目标数据进行决策分类，进而得出最终精确分别结果。

本发明采用以下技术方案：一种基于信任的多框架异构数据融合识别方法，通过以下步骤实现：

在每个辨识框架的特征空间中均训练出对应的分类器，通过每个分类器对多个已知训练样本进行分类，得出每个已知训练样本的分类结果，根据每个已知训练样本的分类结果和其真实分类结果的对应关系，分别计算出每个辨识框架和目标辨识框架之间的转化关系；

通过转化关系将目标样本在不同辨识框架中的分类结果转化至目标辨识框架中并进行融合，得出目标样本的最终分类结果。

进一步的，转化关系由每个辨识框架和目标框架之间的转化规则、以及其对应的权重构成。

进一步的，转化规则具体由以下步骤得出：

通过每个辨识框架和目标辨识框架之间的先验关系，建立每个辨识框架和目标辨识框架之间的预转化规则；

通过预转化规则将各已知训练样本在对应辨识框架中的第一分类结果进行转化，并得出各已知训练样本在目标辨识框架中与每个第一分类结果相对应的第二分类结果；将每个已知训练样本的多个第二分类结果进行融合得到其在目标辨识框架中的融合分类结果，计算每个已知训练样本的融合分类结果与真实分类结果之间的欧氏距离并求和，最小化求和结果得出预转化规则中的转化系数，将转化系数代入预转化规则中进而得出转化规则。

进一步的，与转化规则对应的权重由以下步骤得出：

分别计算每个已知训练样本相对于每个分类器的第二分类结果与其真实分类结果的欧氏距离，并对每个已知训练样本相对于同一分类器计算出的欧氏距离求均值，根据不同分类器对应的均值比例关系，得出每个分类器所在辨识框架与目标辨识框架之间转化规则的权重。

进一步的，每个转化规则对应的权重通过

得出，α_n为第n个辨识框架与目标辨识框架之间的转化规则对应的权重，λ表示惩罚因子，

d_n为每个已知训练样本相对于每个分类器的第二分类结果与其真实分类结果的欧氏距离，K为已知训练样本的数量，k∈K，μ′_kn为第k个已知训练样本对于第n个分类器的第二分类结果,T_k为包含第k个已知训练样本对应的真实分类结果的向量。

进一步的，求和结果通过

得出，其中，ξ为求和结果，d_j为欧氏距离的平方，Γ_kn为第n个辨识框架与目标辨识框架之间的预转化规则，μ_kn为第k个已知训练样本在第n个辨识框架中的第一分类结果。

本发明的有益效果是：本发明通过先验知识构建证据转化规则，直接将不同分类器(位于两个不同的辨识框架)得到的分类结果转化到同一个辨识框架，并利用证据理论进行融合估计该转化规则，最终实现不同框架数据的融合决策，可以提高异构数据识别的准确率，解决不同传感器观测数据不能直接融合决策，识别难度大、精度低的问题。

【附图说明】

图1为本发明一种基于信念的多框架异构数据融合识别方法的流程框图。

【具体实施方式】

下面结合附图和具体实施方式对本发明进行详细说明。

本发明公开了一种基于信任的多框架异构数据融合识别方法，属于证据推理和模式识别技术领域，不同传感器辨识框架和观测的特征空间不同，得到的观测结果不能直接进行融合决策，本发明将不同辨识框架的分类结果转化到相同的目标辨识框架进而实现不同框架、异构数据的融合识别。如图1所示，通过以下步骤实现。

在本实施例中选用K个已知训练样本，辨识框架的个数为N个，表示为S₁,...,S_N，在每个辨识框架的特征空间中均训练出对应的分类器，表示为C₁,...,C_N，通过每个分类器对多个已知训练样本进行分类，得出每个已知训练样本的分类结果，如样本y经过分类器C₁,...,C_N分类得到的分类结果表示为μ₁,...,μ_N，其中μ_n＝[μ(1),...,μ(c)]^T，μ(c)表示样本y属于c类的概率。

根据每个已知训练样本的分类结果和其真实分类结果的对应关系，分别计算出每个辨识框架和目标框架之间的转化关系。转化关系由每个辨识框架和目标辨识框架之间的转化规则以及其对应的权重构成。

转化规则可以采用以下步骤得出：

结合K个已知训练样本，通过每个辨识框架和目标辨识框架之间的先验关系建立每个辨识框架和目标辨识框架之间的预转化规则，表示为Γ(θ_i)，表示不同假设空间之间的不确定关系，

为类别，γ_ij为转化系数，由于该预转化规则时由先验关系得到的，因此，在该预转化规则中转化系数为未知量，需要将该预转化规则中的转化系数计算出后，进而得出转化规则(即转化系数已知的转化规则)。采用先验关系确立预转化规则，可以有效地缩短分类识别的时间，提高识别准确率。

确定不同框架S₁,...,S_N之间的先验关系，确定不同辨识框架的分类结果μ_n转化到目标辨识框架上后，在每个分类结果上的信任分配，最终确定每个辨识框架向目标辨识框架转化的转化规则Γ(θ_i)。利用已知的先验关系，可以定性的知道不同辨识框架中类别的分布以及不同辨识框架间类别的包含关系，利用这些先验知识有利于建立不同辨识框架间的证据转化规则。

在该过程中需要注意一些问题，如通过辨识框架和目标辨识框架间的先验关系，保证原辨识框架证据在目标辨识框架中进行新的分类结果分配时，只考虑原辨识框架中对应分类结果或者原辨识框架中所包含的元素，而不涉及其他元素。进行分类结果分配时不只考虑单类，还考虑复合类。加入全局未知，表示对各个辨识框架中未知关系的容忍。

在第一个辨识框架中，得到该样本y属于类别应该是θ_i，经过预转化之后的点y′应在新的辨识框架中的某类中。根据先验知识如果知道两个辨识框架分别为Θ＝{θ₁,θ₂,θ₃}和

且两个框架中的类别间存在以下关系

那么就可以确定两个框架间的证据转化关系如下：

其中γ_ij为证据转化系数，表示在原框架中属于θ_i类的样本经过证据转化在新的框架Ψ上属于

类的概率。对于不同的辨识框架，会提供不同的先验关系，不同的先验知识对应着不同的证据转化规则，所以假定证据转化规则与各个框架是一一对应且确定的。

对于样本y利用先验关系确定N个辨识框架中类别之间的关系，构建预转化规则

其中Γ(θ_i)表示从框架Θ到框架Ψ的证据转换，γ为证据转换系数。

对于样本y，利用不同识别框架的N个分类器进行分类，得到该样本在不同框架上不同类别上的类别分配。

根据不同辨识框架间预转化规则的不确定关系，一个辨识框架上属于一个类别的分类结果往往不会直接映射新的辨识框架上的相同类别元素中。所以，在估计y在新的辨识框架上的映射结果时，考虑复合类的情形，就是在估计某个证据的映射结果时，考虑分类结果在新的辨识框架上属于原辨识框架中类别中的单类或者复合类，而不是一类，这里‘复合类’就是指多个单类的组合。避免分为一个大类带来预测的不确定性，同时这种方法增强了对噪声的容忍性。

通过辨识框架间的先验关系，保证原辨识框架分类结果在目标辨识框架中进行新的类别分配时，只考虑原辨识框架中对应类别元素或者原辨识框架中元素所包含的元素，而不涉及其他元素。假设原辨识框架为：Θ＝{θ₁,θ₂,θ₃}，新的辨识框架为：

且根据先验关系知道

那么对原框架中属于θ₁类的分类结果进行类别分配时，就只将其分配到对应的

和这个集合所包含的类

中，而不考虑其他的

或

得到的证据转化规则为：

进行类别分配时不只考虑单类，还考虑复合类。在进行新的类别分配时，仅仅分给单类可能会增加分错的概率，但是如果直接将其分配给复合类，转化关系的模糊性将会大大增加，降低转化规则的准确性。

加入全局未知，表示对各个框架中未知关系的容忍。对于以上提到的证据转化规则Γ(θ₁)，加入一个类别Ω来表示未知类，其信任指派为

这部分增加的质量函数m(Ω)表示不知道如何识别更多元素之间的关系。

对于多框架证据融合识别，证据转化规则的准确性对融合结果的影响很大，由于具体的框架间关系的未知性，如何正确的建立并且估计证据转化规则显得尤为重要。因此，本发明提出首先通过先验关系来确定证据转化规则(预转化规则)的形式，对证据转化规则利用已知的知识进行一定的约减，而不是直接来估计各个框架间证据的关系，实现精确地估计各个框架间关系，有效的提高工作效率的同时，增加准确率。

通过先验知识来确定证据转化规则，该步骤的主要目的是减少工作量，确定证据转化规则。

通过预转化规则Γ(θ_i)将每个已知训练样本在对应辨识框架中的第一分类结果(μ₁,...,μ_N)进行转化，并得出每个已知训练样本在目标辨识框架中与每个第一分类结果相对应的第二分类结果μ′₁,...,μ′_N，μ'_n＝Γ(θ_i)μ_n，且有μ′_n＝[μ′(1),...,μ′(c)]^T。利用证据理论，将每个已知训练样本的多个第二分类结果进行融合得到其在目标辨识框架中的融合分类结果，

为融合公式，其中，μ_kn为第k个已知训练样本在第n个辨识框架中的第一分类结果，Λ表示证据转化得到的第二分类结果进行融合得到的结果。

不同辨识框架之间的类别转化允许分类结果从一个辨识框架传播到另一个辨识框架。构造分类结果转化规则的基本思想是，如果得到的辨识框架不一致，不能直接融合，但是利用先验关系得到从一个辨识框架到另一个辨识框架的预转化规则关系Γ(θ_i)，则这样一个质量函数就可以在两个框架之间传播。

计算每个已知训练样本的融合分类结果与其真实分类结果之间的欧氏距离并求和，利用fmincon优化方法最小化求和结果，即

Γ_kn表示第n个辨识框架与目标辨识框架之间的预转化规则，通过上述最小化求和结果，可以得出预转化规则中的转化系数γ_ij，进而得出每个辨识框架和目标辨识框架之间的转化规则。如果样本y的真实分类结果类别为e_t(T_K为一个向量，比如一个样本可能的类别是：A、B、C，真实标签是B，那么T_K＝[0,1,0]，其中e_t就是B)，且期望的分类器输出应该是T_k＝[T_k(1),...,T_k(ρ)]^T，在这里T_k(t)＝1且对于i≠t的T_k(i)＝0，||·||²表示平方欧式距离(d_J)。通过证据理论的利用，可以很好的表示未知和模糊关系的优势。

假设这K个融合结果都接近真实的类别标签。那么新的分类结果通过得到的融合结果也应该非常的贴近类别真值T_k，表示为：

其中，ò表示误差值。

求和结果通过

得出，其中，ξ为求和结果，d_j为欧氏距离的平方，Γ_kn为第n个辨识框架与目标辨识框架之间的预转化规则，μ_kn为第k个已知训练样本在第n个辨识框架中的第一分类结果。

在此，希望误差的总和ξ尽可能接近零,证据转换系数γ的估计通过最小化融合结果与真实类标签之间的距离。在优化过程中，必须考虑如下所表达的完整性约束。

因此，就得到了如下的优化目标函数：

与转化规则相对应的权重有以下步骤得出：

分别计算每个已知训练样本相对于每个分类器的第二分类结果与其真实分类结果的欧氏距离，并对每个已知训练样本相对于同一分类器计算出的欧氏距离求均值，根据不同分类器对应的均值比例关系，得出每个分类器所在辨识框架与目标辨识框架之间转化规则的权重α₁,...,α_N。每个转化规则对应的权重通过

得出，α_n为第n个辨识框架与目标辨识框架之间的转化规则对应的权重，λ表示第二分类结果与真值之间距离与转化规则对应的权重之间的惩罚因子，反应了距离对第二转化规则对应的权重的影响程度，较大的λ会导致权重过小，较小的λ会导致权重过大，本实施例中λ＝0.5是比较合适的。，

d_n为每个已知训练样本相对于每个分类器的第二分类结果与其真实分类结果的欧氏距离，K为已知训练样本的数量，k∈K，μ′_kn为第k个已知训练样本对于第n个分类器的第二分类结果,T_k为包含第k个已知训练样本对应的真实分类结果的向量。

通过转化关系将目标样本在不同辨识框架中的分类结果转化至目标框架中并进行融合，得出目标样本的最终分类结果。

本发明采用基于信念的多框架异构数据融合识别方法实现不同传感器观测结果的融合识别，引入证据转化的思想通过待转化证据所在空间与目标空间的先验关系来预测证据转化规则来表示一个特征空间中的证据与其在另外一个特征空间中的映射值之间的映射关系，实现了不同框架之间证据的关系构建，将加权的思想应用到证据转化规则的估计。利用不同证据与真值之间的距离来确定不同框架证据的权重。在融合识别过程中，这种思想的应用考虑了不同框架证据可靠性的差异，减少了由于个别框架可靠性较低而造成的框架之间映射关系不确定性的影响。

另外，通过多框架证据优化融合的思想实现证据转化规则的估计。通过最小化加权融合结果与真值之间距离的差值，实现证据转化规则的确定。在融合识别过程中，这种思想的应用在提高识别准确率的同时，大大缩短了处理时间。

验证实施例：

如表1所示，是本发明验证过程中所使用的数据集的基本信息表，通过11组来自UCI的真实数据来实验证明本发明的有效性和准确性。如果数据集的规模够大，这种情况下，选择50％的数据通过属性组的划分分别对分类器进行训练，另外的50％数据通过属性组的划分来模拟多分类器的输出，为了保证两证据之间的独立性，采用不同的属性集来训练分类器，保证属性空间的独立。实验中，分别对三种、四种和五种框架的情形进行了验证。通过优化计算得到各个框架间转换关系的证据转化关系，进行DS融合，通过概率最大原则得到最终的融合结果。

表1验证过程中所使用的数据集的基本信息

对于一些数据集，可能数据集中的样本规模不够大，考虑降低用来训练分类器的样本的比例，将更高比例的样本用来模拟多分类器的输出并进行后续的实验。但是训练分类器的样本数目也不能太少，太少样本训练得到的分类器分类性能不高。在这种情况下，选择折中的比例比较重要。

表2不同方法的多框架异构数据在KNN分类器下融合识别结果

通过将本发明与概率映射法、投票法和直接融合方法进行比较，验证本发明的鲁棒性与精确性，比较结果见表2，表3，表4，用黑体表示识别准确率的最大值。表中数据可以看出本发明的方法基于不同种的基础分类器，都能得到比对比实验更好的分类精度，有效的提高了识别准确率，具有较好的鲁棒性。

表3不同方法的多框架异构数据在决策树分类器下融合识别结果

表4不同方法的多框架异构数据在贝叶斯分类器下融合识别结果

Claims (4)

1.一种基于信任的多框架异构数据融合识别方法，其特征在于，通过以下步骤实现：

在每个传感器的辨识框架的特征空间中均训练出对应的分类器，通过每个所述分类器对多个已知训练样本进行分类，得出每个已知训练样本的分类结果，所述分类结果为样本属于每一类的概率；

根据每个所述已知训练样本的分类结果和其真实分类结果的对应关系，分别计算出每个所述辨识框架和目标辨识框架之间的转化关系，所述转化关系由每个辨识框架和目标辨识框架之间的转化规则以及其对应的权重构成；

通过所述转化关系将目标样本在不同辨识框架中的分类结果转化至目标辨识框架中并进行融合，得出目标样本的最终分类结果；

所述转化规则具体由以下步骤得出：

通过每个辨识框架和目标辨识框架之间的先验关系，建立每个辨识框架和目标辨识框架之间的预转化规则；

通过所述预转化规则将各已知训练样本在对应辨识框架中的第一分类结果进行转化，并得出各已知训练样本在目标辨识框架中与每个第一分类结果相对应的第二分类结果；将每个已知训练样本的多个第二分类结果进行融合得到其在目标辨识框架中的融合分类结果，计算每个已知训练样本的融合分类结果与真实分类结果之间的欧氏距离并求和，最小化求和结果得出预转化规则中的转化系数，将转化系数代入预转化规则中进而得出转化规则。

2.如权利要求1所述的一种基于信任的多框架异构数据融合识别方法，其特征在于，与转化规则对应的权重由以下步骤得出：

分别计算每个已知训练样本相对于每个分类器的第二分类结果与其真实分类结果的欧氏距离，并对每个已知训练样本相对于同一分类器计算出的欧氏距离求均值，根据不同分类器对应的均值比例关系，得出每个分类器所在辨识框架与目标辨识框架之间转化规则的权重。

3.如权利要求2所述的一种基于信任的多框架异构数据融合识别方法，其特征在于，每个所述转化规则对应的权重通过

得出，α_n为第n个辨识框架与目标辨识框架之间的转化规则对应的权重，λ表示惩罚因子，

d_n为每个已知训练样本相对于每个分类器的第二分类结果与其真实分类结果的欧氏距离，K为已知训练样本的数量，k∈K，μ′_kn为第k个已知训练样本对于第n个分类器的第二分类结果,T_k为包含第k个已知训练样本对应的真实分类结果的向量。

4.如权利要求1或3所述的一种基于信任的多框架异构数据融合识别方法，其特征在于，所述求和结果通过

得出，其中，ξ为求和结果，d_j为欧氏距离的平方，Γ_kn为第n个辨识框架与目标辨识框架之间的预转化规则，μ_kn为第k个已知训练样本在第n个辨识框架中的第一分类结果。

Images