CN110569902A - 一种对对象基于区间数的基本概率分配生成方法 - Google Patents

Abstract

本发明涉及一种对对象基于区间数的基本概率分配生成方法，其包括：获取已知分类情况的训练样本形成训练集，每类训练样本包括至少一个属性特征；对所有属性特征进行归一化处理；提取各类训练样本中各个属性特征的最大值和最小值构建各个属性特征的区间数模型；将待测对象属性特征归一化处理；计算待测对象各个属性特征和区间数模型中各个区间数的相似度；根据训练集中不同属性特征数据的不确定程度确定每个属性特征权重；利用计算的相似度和属性特征权重确定待测对象的BPA；利用组合规则将待测对象的BPA进行融合得到待测对象最终的BPA。本发明克服现有的区间数相似度计算公式的缺陷，同时考虑到特征数据的不同权重，构造出更加合理的BPA生成方法。

Description

一种对对象基于区间数的基本概率分配生成方法

技术领域

本发明涉及分类算法领域，更具体地，涉及一种对对象基于区间数的基本概率分配生成方法。

背景技术

在模式识别、认知决策和信息融合等领域，Dempster提出的Dempster-Shafer证据理论(简称D-S证据理论)由于其具有较强的不确定信息表达及处理能力，因而有着广泛的应用。在使用D-S证据理论组合规则对数据进行融合时，第一步就是要求出基本概率分配BPA。而如何生成基本概率分配BPA至今仍未得出一致的结论。目前常见的是一些基于传统模糊集理论的方法，分别是基于区间数模型、基于正态分布模型来生成基本概率分配BPA的方法。

如图1所示，基于模糊集理论的基本概率分配BPA的生成方法首先将原始数据集分成训练集和测试集，再分别提取数据的n个特征，得到特征数据之后将训练集的特征数据分别构建区间数或者正态分布模型，再从测试集中随机抽取样本，通过某种方法得到测试样本和构建好的模糊数模型之间的相似度，再经过标准化得到基本概率分配BPA。最后再利用Dempster组合规则进行融合得到最终的结果，具体计算方式如下：

定义1：识别框架Θ：

令Θ＝{H₁,H₂,…,H_N}，如果H₁,H₂,…,H_N相互独立且对应于我们关心的命题，则Θ为识别框架。它的幂集定义为：

显然2^Θ包含了Θ所有的子集，即所有命题可能出现的组合情况。

■定义2：基本概率分配BPA(Basic Probability Assignment)

若函数m(·)：2^Θ→,0,1-满足下列条件：

那么m(·)即为2^Θ上的基本概率分配函数或mass函数，m(A)表示对命题A的基本概率分配即对命题A的支持程度。

■定义3：焦元(Focal Element)：

对于辨识框架的任一子集A，如果m(A)＞0，则称A为焦元。

■定义4：Dempster组合规则：

假设识别框架上，性质不同的两个证据，其焦元分别为A_i和B_j(i＝1，…，n；j＝1，…，m)，其基本概率分配函数分别为m₁和m₂，则Dempster组合规则表示为：

其中，是矛盾因子，用来反应融合过程中各证据间的冲突程度。

基于区间数的基本概率分配BPA生成方法是利用两个区间数的相似度来表征样本属性之间的不同。由于区间数可视为正态分布函数的退化，因此构造区间数模型所需的信息量会比正态分布函数少。所以基于区间数模型的方法比正态分布函数更简单、更容易实现。

在现有的基于区间数生成基本概率分配BPA的方法中，其衡量两个区间数的相似度的计算公式存在一些缺点，使得获得的相似度不够合理，进而造成生成的基本概率分配不够准确，最终导致对对象的分类不够准确。而且现有的方法在利用相似度生成基本概率分配的过程时并没有考虑各个特征数据是否会有不一样的特征权重，使得生成的基本概率分配不够客观合理，这些都会影响最终使用D-S证据理论进行融合的效果。

发明内容

本发明旨在克服上述现有技术中未考虑各个特征数据是否会有不一样的特征权重的缺点，提供一种对对象基于区间数的基本概率分配生成方法，该方法根据特征数据的不确定性，引入特征权重，使得不同特征的数据在数据融合过程中所占的重要程度更加合理，生成的基本概率分配BPA更加准确。

本发明采取的技术方案是：一种对对象进行基于区间数的基本概率分配生成方法，所述方法包括步骤：

S1、获取已知分类情况的原始训练样本形成训练集，每一类训练样本包括至少一个属性特征；

S2、对所有训练样本的属性特征进行归一化处理；

S3、提取各类训练样本中各个属性特征的最大值和最小值构建各个属性特征的区间数模型；

S4、将待测对象的各个属性特征进行归一化处理；

S5、计算待测对象归一化后的各个属性特征和区间数模型中各个区间数的相似度；

S6、根据训练集中不同属性特征数据的不确定程度确定每个属性特征权重；

S7、利用所计算的相似度和属性特征权重确定待测对象的基本概率分配BPA；

S8、利用组合规则将待测对象的基本概率分配BPA进行融合得到待测对象最终的基本概率分配BPA。

上述方案中，S5的具体步骤为：

S51、计算区间数A和B中点之间的距离其中A表示待测对象对应的区间数，B表示训练样本对应的区间数，a₁、a₂分别表示区间数A的上、下界，b₁、b₂分别表示区间数B的上、下界；

S52、根据区间数A和B中点之间的距离计算区间数A和B的相似度：S(A，B)＝1-d(A，B)。

上述方案中，所述的属性特征权重具体定义为：

设I_ij为训练集中第i个类训练样本中第j种属性特征的所有样本构成的区间数，其中，i＝1，…，k；j＝1，…，n；所有类别训练样本的第j种特征的区间长度和为：其中ι(I_ij)是区间数I_ij的宽度；则确定所有类别训练样本的第j种特征的特征权重为：

上述方案中，所述S7的具体过程为：设为空集，则空集的基本概率分配BPA为单个属性特征的基本概率分配BPA为m(A)＝W_j×S_j(A)，其中，W_j表示第j种特征的特征权重，S_j(A)表示第j种特征的待测对象和区间数之间的相似度。

上述方案中，第j种属性特征下待测对象的基本概率分配BPA还包括为 Θ表示第j种属性特征下所有类训练样本的区间数的重合区间数。

上述方案中，在计算m(A)＝W_j×S_j(A)，(A≠Θ且)前，需要作如下判断处理：若∑S_j(A)＞1，则需要先对S_j(A)进行标准化处理，再计算m(A)＝W_j×S_j(A)，(A≠Θ且 )；

若∑S_j(A)＜1，则不需对S_j(A)进行标准化处理，直接计算m(A)＝W_j×S_j(A)，(A≠Θ且)；

其中，∑S_j(A)表示第j个特征下各类训练样本计算出来的相似度之和。与现有技术相比，本发明的有益效果为：本发明针对对象的分类方法，提出了一种新的区间数相似度确定方式，使得到的待测样本与区间数之间的相似度更为合理；同时根据特征数据的不确定性，引入特征权重，使得不同特征的数据在数据融合过程中所占的重要程度更加合理，从而结合区间相似度以及特征权重构造出更加合理的基本概率分配BPA，从而使得对对象的分类更为准确。

附图说明

图1为现有的基本概率分配BPA生成方法的步骤流程图。

图2为本发明提出的基本概率分配BPA生成方法的步骤流程图。

图3为本发明实验1的实验结果示意图。

图4为本发明实验2的实验结果示意图。

图5为本发明实验3中Iris数据集的实验结果示意图。

图6为本发明实验3中Wine数据集的实验结果示意图。

图7为本发明实验3中Seed数据集的实验结果示意图。

具体实施方式

如图2所示，本发明一种对对象进行基于区间数的基本概率分配生成方法的具体步骤包括：

S1、获取已知分类情况的原始训练样本形成训练集，每一类训练样本包括至少一个属性特征；

S2、对所有训练样本的属性特征进行归一化处理；

S3、提取各类训练样本中各个属性特征的最大值和最小值构建各个属性特征的区间数模型；

S4、将待测对象的各个属性特征进行归一化处理；

S5、计算待测对象归一化后的各个属性特征和区间数模型中各个区间数的相似度；具体的计算方式为：

计算区间数A和B中点之间的距离其中A可以表示待测对象对应的区间数，B可以表示训练样本对应的区间数，a₁、a₂分别表示区间数A的上、下界，b₁、b₂分别表示区间数B的上、下界；

根据区间数A和B中点之间的距离计算区间数A和B的相似度：S(A，B)＝1-d(A，B)。

S6、根据训练集中不同属性特征数据的不确定程度确定每个属性特征权重；所述的属性特征权重具体定义为：

设I_ij为训练集中第i个类训练样本中第j种属性特征的所有样本构成的区间数，其中，i＝1，…，k；j＝1，…，n；所有类别训练样本的第j种特征的区间长度和为：其中ι(I_ij)是区间数I_ij的宽度；则确定所有类别训练样本的第j种特征的特征权重为：

S7、利用所计算的相似度和属性特征权重确定待测对象的基本概率分配BPA；具体的：设为空集，则空集的基本概率分配BPA为

单个属性特征的基本概率分配BPA为m(A)＝W_j×S_j(A)，其中，W_j表示第j种特征的特征权重S_j(A)表示第j种特征的待测对象和区间数之间的相似度；

其中，在计算m(A)＝W_j×S_j(A)，(A≠Θ且)前，需要作如下判断处理：

若∑S_j(A)＞1，则需要先对S_j(A)进行标准化处理，再计算m(A)＝W_j×S_j(A)，(A≠Θ且 )；

若∑S_j(A)＜1，则不需对S_j(A)进行标准化处理，直接计算m(A)＝W_j×S_j(A)，(A≠Θ且 )，其中，∑S_j(A)表示第j个特征下各类训练样本计算出来的相似度之和。

另外，第j种属性特征下待测对象的基本概率分配BPA还包括为 Θ表示第j种属性特征下所有类训练样本的区间数的重合区间数。

S8、利用组合规则将待测对象的基本概率分配BPA进行融合得到待测对象最终的基本概率分配BPA。

基于上述实施例的方法，本发明以鸢尾花的数据举例来进一步说明本发明的方法。

S101.采集鸢尾花的数据集，将数据集分成三个种类，它们分别是Setosa(简写Se)，Versicolor(简写Ve)和Virginica(简写Vi)，即鸢尾花识别框架为Θ＝{Se，Ve，Vi})，每个类别分别包括50个训练样本，每一类花都有四种属性特征，它们分别是花萼长度SL(Sepal Length)、花萼宽度SW(Sepal Width)、花瓣长度PL(Petal Length)和花瓣宽度PW(Petal Width)。

S102、对所有训练样本的属性特征进行归一化处理，也就是对150个样本进行归一化处理。

S103、提取数据集中各个属性特征的最大值和最小值构建各个属性特征的区间数模型；也即得到四类属性特征下的区间数模型：

也就是对不同的属性特征，构建识别框架的幂集 表示2^Θ包含了在该属性特征下Θ所有的子集，即所有类别可能出现的区间组合情况。

S104、将待测对象的各个属性特征进行归一化处理，得到待测对象各个属性特征的区间数，比如，设待测对象为T，其SW值归一化得到的区间数为[SW，SW]。

S105、计算待测对象归一化后的各个属性特征和区间数模型中各个区间数的相似度；具体的，在SW属性特征下，计算待测对象的区间数SW，SW]和对应于2^Θ中各个区间数之间的相似度S_j(A)，其中j表示属性特征，A表示j属性特征下2^Θ的区间数；其余属性特征类似地进行计算得到各自的相似度，其中Θ和待测对象对应的属性特征的相似度不计算。

S106、确定四个属性特征权重W_SW、W_SL、W_PW、W_PL。

S107、分如下三步计算基本概率分配：

(1)首先将空集的基本概率分配为

(2)根据公式m(A)＝W_j×S_j(A)，计算，其中W_j表示W_SW、W_SL、W_PW、W_PL中的任一个，在属性特征权重所对应的属性特征下所得到的任一个相似度值S_j(A)；

(3)各个属性特征下待测对象的基本概率分配BPA还包括为

其中，在计算m(A)＝W_j×S_j(A)，前，需要作如下判断处理：

若∑S_j(A)＞1，则需要先对S_j(A)进行标准化处理，再计算m(A)＝W_j×S_j(A)，(A≠Θ且 )；

若∑S_j(A)＜1，则不需对S_j(A)进行标准化处理，直接计算m(A)＝W_j×S_j(A)，(A≠Θ且 )；

其中，∑S_j(A)表示第j个特征下各类训练样本计算出来的相似度之和。

S108、利用组合规则将待测对象的基本概率分配BPA进行融合得到待测对象最终的基本概率分配BPA。

假设辨识框架Θ上，性质不同的四个属性特征，如果m(A_x)＞0，m(B_y)＞0，m(C_z)＞0，m(D_u)＞0则称A_x、B_y、C_Z、D_u为焦元且都属于A的子集，x＝1，…，p；y＝1，…，q，z＝1，…，r；u＝1，…，s，p表示m(A_x)大于0的个数，q表示m(B_y)大于0的个数，r表示m(C_z)大于0的个数，s表示m(D_u)大于0的个数，其对于四个属性特征基本概率分配分别为m₁、m₂、m₃、m₄，因组合规则满足交换律和组合律，则经过使用Dempster组合规则进行三次组合后可得到

为了检验本发明所提出的方法的性能，设计了三组实验：实验1至实验3这三组实验所采用的数据如表1所示，表1中的数据来自加州大学欧文分校(UniversityofCalifornia Irvine)提出的用于机器学习的数据库中常用的标准测试数据集，称UCI数据集。

表1 UCI数据集信息

数据集	样本数	特征维数	类别数
				Iris	150	4	3
Wine	178	13	3
				Seed	210	7	3

从UCI数据库中选择三个不同的数据集(Iris、Wine和Seed)进行分类实验。其中Iris数据集中有3个类，包含150个样本，每个类中有4个特征。Wine数据集中有3个类,包含178个样本，每个类中有13个特征。Seed数据集中有3个类，包含210个样本，每个类中有7个特征。

实验1

步骤1：从表1中的每个数据集中随机选择一半的样本作为训练集，并将剩余的一半样本都作为测试集。

步骤2：使用如图1所示的方法确定基本概率分配BPA(即现有的基本概率分配生成方法)，其中确定相似度的部分采用本发明提出的区间数相似度公式计算得到。

步骤3：运用Dempster组合规则来融合不同特征的基本概率分配BPA，并获得最终分类结果。

步骤4：将步骤1至步骤3重复进行独立实验100次，再将获得的结果取平均值。

图3所示为本实验结果与使用现有基本概率分配生成方法的分类准确率比较，其中Kang’s method表示使用现有的基本概率分配BPA生成方法得到的分类准确率，Proposedmethod表示采用本发明所提出的相似度公式得到的分类结果的分类准确率。从图3可以看出，在Iris、Wine和Seed数据集中，采用本发明所提出的相似度计算公式得到的分类结果的准确率分别为95.33％、92.74％、84.86％，比使用现有的基本概率分配BPA生成方法的分类准确率93.43％、86.60％、84.62％均有提升。

实验2

步骤1：从表1中的每个数据集中随机选择一半的样本作为训练集，并将剩余的一半样本都作为测试集。

步骤2：使用如图2所示的本发明所提出的方法获得基本概率分配BPA。

步骤3：运用Dempster组合规则来融合不同特征的基本概率分配BPA，并获得最终分类结果。

步骤4：将步骤1至步骤3重复进行独立实验100次，再将获得的结果取平均值。

图4所示为本组实验结果与实验1中不考虑特征权重的实验结果所得到的基本概率分配BPA的分类准确率比较，其中No considering weight表示未考虑特征权重时得到的分类准确率，Considering the weight表示考虑特征权重时得到的分类准确率。从图4可以看出，本实验在根据特征数据的不确定性引入特征权重后得到的分类准确率分别为96.63％、96.50％、85.67％，均高于实验1中未考虑特征权重时得到的分类准确率95.33％、92.74％、84.86％。

实验3

步骤1：从表1中的每个数据集中随机选择样本作为训练集,此处为：10、15、20、25、30、35、40、45，并将所有样本都作为测试集。

步骤2：分别使用现有的基本概率分配BPA生成方法，实验2中本发明所提出的如图2所示的基本概率分配BPA生成方法，以及基于正态分布函数的基本概率分配BPA生成方法获取BPA。

步骤3：分别运用Dempster组合规则来融合不同特征的BPA，并获得最终分类结果。

步骤4：将步骤1至步骤3重复进行独立实验100次，再将获得的结果取平均值。

如图5、图6、图7所示分别为Iris、Wine和Seed三个数据集采用三种方法得到的分类准确率比较。其中，纵坐标表示训练集，横坐标表示分类准确率；用圆圈标记的曲线表示使用现有的基于区间数的基本概率分配BPA生成方法获得的分类准确率，用十字标记的曲线表示使用基于正态分布函数的基本概率分配BPA生成方法获得的分类准确率，用三角形标记的曲线表示的是用本发明中所提出的如图2所示的基本概率分配生成方法获得的分类准确率。从图5、图6、图7可以看出本发明所提出的基于区间数的基本概率分配BPA生成方法比原有的基于区间数的基本概率分配BPA生成方法的分类准确率高很多。而相比较于基于正态分布函数的基本概率分配生成方法，本发明所提出的基于区间数的基本概率分配生成方法亦表现出较好的性能。

显然，本发明的上述实施例仅仅是为清楚地说明本发明技术方案所作的举例，而并非是对本发明的具体实施方式的限定。凡在本发明权利要求书的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明权利要求的保护范围之内。

Claims (6)

1.一种对对象进行基于区间数的基本概率分配生成方法，其特征在于，所述方法包括步骤：

S1、获取已知分类情况的原始训练样本形成训练集，每一类训练样本包括至少一个属性特征；

S2、对所有训练样本的属性特征进行归一化处理；

S3、提取各类训练样本中各个属性特征的最大值和最小值构建各个属性特征的区间数模型；

S4、将待测对象的各个属性特征进行归一化处理；

S5、计算待测对象归一化后的各个属性特征和区间数模型中各个区间数的相似度；

S6、根据训练集中不同属性特征数据的不确定程度确定每个属性特征权重；

S7、利用所计算的相似度和属性特征权重确定待测对象的基本概率分配BPA；

S8、利用组合规则将待测对象的基本概率分配BPA进行融合得到待测对象最终的基本概率分配BPA。

2.根据权利要求1所述的对对象进行基于区间数的基本概率分配生成方法，其特征在于，S5的具体步骤为：

S51、计算区间数A和B中点之间的距离其中A表示待测对象对应的区间数，B表示训练样本对应的区间数，a₁、a₂分别表示区间数A的上、下界，b₁、b₂分别表示区间数B的上、下界；

S52、根据区间数A和B中点之间的距离计算区间数A和B的相似度：S(A,B)＝1-d(A,B)。

3.根据权利要求1所述的对对象进行基于区间数的基本概率分配生成方法，其特征在于，所述的属性特征权重具体定义为：

设I_ij为训练集中第i个类训练样本中第j种属性特征的所有样本构成的区间数，其中，i＝1，…，k；j＝1，…，n；所有类别训练样本的第j种特征的区间长度和为：其中ι(I_ij)是区间数I_ij的宽度；则确定所有类别训练样本的第j种特征的特征权重为：

4.根据权利要求2所述的对对象进行基于区间数的基本概率分配生成方法，其特征在于，所述S7的具体过程为：设为空集，则空集的基本概率分配BPA为单个属性特征的基本概率分配BPA为其中，W_j表示第j种特征的特征权重，S_j(A)表示第j种特征的待测对象和区间数之间的相似度。

5.根据权利要求4所述的对对象进行基于区间数的基本概率分配生成方法，其特征在于，第j种属性特征下待测对象的基本概率分配BPA还包括为Θ表示第j种属性特征下所有类训练样本的区间数的重合区间数。

6.根据权利要求4所述的对对象进行基于区间数的基本概率分配生成方法，其特征在于，在计算前，需要作如下判断处理：

若∑S_j(A)>1，则需要先对S_j(A)进行标准化处理，再计算

若∑S_j(A)<1，则不需对S_j(A)进行标准化处理，直接计算

其中，∑S_j(A)表示第j个特征下各类训练样本计算出来的相似度之和。