CN104850867A - 一种基于直觉模糊c均值聚类的目标识别方法 - Google Patents

Abstract

本发明公开了一种基于特征加权直觉模糊c均值聚类的目标识别方法，包括以下步骤：S1，初始化算法中的参数；S2，计算更新类属特征的权值ω_i；S3，计算机更新划分隶属矩阵U_μ和划分非隶属矩阵U_γ；S4，更新聚类原型模式矩阵p_i ^(b+1)；S5，输出数据。本发明能够根据目标识别应用中类属型数据特征对样本作用大小的不均匀性进行有效地分类识别；利用算法得到的划分隶属度矩阵及划分非隶属度矩阵有效克服了由于各维特征来自于不同传感器导致量纲存在的差异，有利于提高分类精度；利用附加特征权值对空天典型目标进行识别分类，利于提高分类的实用性及可靠性。

Description

一种基于直觉模糊c均值聚类的目标识别方法

技术领域

本发明涉及模式识别技术，具体涉及一种基于特征加权直觉模糊c均值聚类的目标识别方法。

背景技术

目标识别是模式识别技术领域的一个研究热点问题，这一基础而又重要的技术在现代军事领域及诸多民事领域中均具有重要的意义，且得到了广泛的应用。目标识别是对基于不同传感器所得目标属性数据形成的一个组合目标进行身份说明，要求先度量目标属性，根据目标特征信息进行融合推理，获得对目标的准确描述。目标识别技术是具体研究利用各种传感器，从客观世界中获取目标/背景信号，并使用光电及计算机信息处理手段自动地分析场景信号，检测、识别感兴趣的目标及获取目标各种定性、定量性质的科学技术领域。

目标识别理论经过多年的发展，识别方法多种多样，鉴于目标特征值具有不完整、不确定性及模糊性等特点，许多专家学者提出基于不确定性理论的目标识别方法。较为经典的方法有基于Dempster-Shafer推理的异源信息目标识别方法，但这种方法由D-S方法得到基本可信度分配后决策结果却没有可行的统一方法，必须根据具体问题进行具体分析，特别是存在高冲突证据时往往会得到与常理相悖的结果。尽管改进方法很多，但这些方法大多没有考虑实际应用背景和证据集特点，因此无法保证识别结果的可靠性。另一经典方法是基于离散动态贝叶斯网络推理的目标识别方法，其中贝叶斯网络节点与结构均通过专家知识确定，需要相应的先验概率，但先验概率通常难以给定，所以构建的网络常与实际数据有较大偏差。发展前期另一经典方法是基于模糊理论的多传感器目标识别方法虽较其它方法该算法简单、可操作性强，但Zadeh模糊集在不确定性信息的描述、推理结果可信性等方面存在局限性。

进一步发展中，基于不确定性理论、各类算法的神经网络融合系统的研究蓬勃发展，它既不需要研究对象的大量背景知识，也不需要精确的数学模型，而是根据对象的输入输出数据寻找规律解决复杂的、不确定性问题。第一种经典方法是基于神经网络的目标识别方法，但当目标数据的信噪比变化时，无法适当地改变网络结构往往导致识别结果不理想。第二种经典方法是基于证据理论与神经网络的目标识别方法，虽可信度得到了较大的提高，但其模型结构隐含层的单元个数难以确定，仿真计算中重复性工作量大，且所建立的动态网络结构尚未解决。第三种经典方法是基于Rough集-神经网络系统的目标识别方法，该方法在一定程度上简化了网络结构，缩短了训练时间，提高了识别效率，但在决策表简化时往往丢失一些有用信息，导致信息表属性约简的计算量过大。第四种经典方法是基于遗传算法和神经网络的目标识别方法，该方法采用遗传算法来获取网络权值的初值，然后对神经网络进行训练来得到权值的全局最优解，克服了神经网络权值在训练过程中容易陷入局部极值点的问题，但遗传算法的早熟问题以及寻求最优解时收敛速度较慢等缺陷，在一定程度上影响了识别的效率。

聚类分析是多元统计分析的方法之一，也是统计模式识别中非监督模式分类的一个重要分支。聚类是根据“物以类聚”的自然法则对数据进行归类的一种多元统计分析方法，它按照数据对象各自的特性来进行合理地归类，要求同一类数据有很大的相似性，而不同类之间的数据却有很大的相异性。聚类分析源于很多领域，诸如数学、计算机科学、统计学、生物学和经济学等，而它亦被良好地应用于更多领域，比如语音识别、图像分割、数据压缩等。

在目标识别中，通过各种传感器所获得的目标特征信息进行融合推理，得到对各目标属性的准确描述。通常情况下，传统聚类算法往往假定待分析样本矢量的各维特征对分类的贡献是均匀的，但由于构成目标特征矢量的各维特征来自不同的传感器，因而存在量纲差异或精度、可靠性的不同，从而导致各维特征对分类的作用大小不均。鉴于此，本发明提出一种特征加权的直觉模糊c均值方法，采用特征选择技术——Relief算法对特征属性进行加权选择，给特征集中的每一个特征赋予不同的权重，使样本属性值的结构与意义更加完善真实。

发明内容

本发明的目的是提供一种基于特征加权的直觉模糊c均值聚类算法，主要解决了目标识别现有技术中类属型数据特征贡献隐含假意均匀性这一问题。另外从技术方法上亦能解决不确定性理论及神经网络理论等目标识别应用中产生的相关技术问题。

本发明采用的技术方案是：一种基于特征加权直觉模糊c均值聚类的目标识别方法，包括以下步骤：

S1，初始化算法中的参数；

S2，计算更新类属特征的权值ω_i；

S3，计算机更新划分隶属矩阵U_μ和划分非隶属矩阵U_γ；

S4，更新聚类原型模式矩阵p_i ^(b+1)；

S5，输出数据。

进一步地，所述步骤S1中的参数具体包括样本数据个数n、迭代停止阈值ε、聚类原型模式P⁽⁰⁾、迭代计数器b＝0。

更进一步地，所述步骤S2具体为：采用Relief算法计算更新类属特征的权值ω_i。

更进一步地，所述步骤S4具体为：更新聚类原型模式矩阵p_i ^(b+1)，并分别求得pμ_i ^(b+1)、pγ_i ^(b+1)和pπ_i ^(b+1)。

更进一步地，所述步骤S5具体为：输出划分隶属矩阵U_μ、划分非隶属矩阵U_γ和聚类原型P。

本发明具有如下优点：

能够根据目标识别应用中类属型数据特征对样本作用大小的不均匀性进行有效地分类识别；

利用算法得到的划分隶属度矩阵及划分非隶属度矩阵有效克服了由于各维特征来自于不同传感器导致量纲存在的差异，有利于提高分类精度；

利用附加特征权值对空天典型目标进行识别分类，利于提高分类的实用性及可靠性。

除了上面所描述的目的、特征和优点之外，本发明还有其它的目的、特征和优点。下面将参照图，对本发明作进一步详细的说明。

附图说明

构成本申请的一部分的附图用来提供对本发明的进一步理解，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。

图1是本发明的一种基于特征加权直觉模糊c均值聚类的目标识别方法流程图；

图2是模糊c均值聚类算法对一组具有类属型特征的实际样本数据Breast Cancer Wisconsin的分类效果图；

图3是特征加权直觉模糊c均值聚类算法对一组具有类属型特征的实际样本数据Breast Cancer Wisconsin的分类效果图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。

参照图1，如图1所示的一种基于特征加权直觉模糊c均值聚类的目标识别方法，包括以下步骤：

S1，初始化算法中的参数；

S2，计算更新类属特征的权值ω_i；

S3，计算机更新划分隶属矩阵U_μ和划分非隶属矩阵U_γ；

S4，更新聚类原型模式矩阵p_i ^(b+1)；

S5，输出数据。

所述步骤S1中的参数具体包括样本数据个数n、迭代停止阈值ε、聚类原型模式P⁽⁰⁾、迭代计数器b＝0。

所述步骤S2具体为：采用Relief算法计算更新类属特征的权值ω_i。

所述步骤S4具体为：更新聚类原型模式矩阵p_i ^(b+1)，并分别求得pμ_i ^(b+1)、pγ_i ^(b+1)和pπ_i ^(b+1)。

所述步骤S5具体为：输出划分隶属矩阵U_μ、划分非隶属矩阵U_γ和聚类原型P。

本发明采用特征选择技术Relief算法对特征属性进行加权选择，分别给特征集中的每一个特征赋予不同的权重。因此，本发明首先给出基于特征加权的直觉模糊c均值聚类算法的描述形式及详细步骤。其次以一组类属型特征数据集样本Breast Cancer Wisconsin为例进行实验，并与传统模糊c均值聚类算法的实验结果进行比较分析。最后，利用本发明选取20批典型空天目标进行识别分类的仿真实验。

FWIFCM算法描述：

给定数据集X＝{x₁,x₂,…,x_n}I R^S为模式空间中n个模式的一组有限观测样本集，x_i＝(<xμ_i1,xγ_i1,xπ_i1>,<xμ_i2,xγ_i2,xπ_i2>,<xμ_is,xγ_is,xπ_is>),为观测样本x_j的特征矢量，特征矢量每维特征上的赋值<xμ_ik,xγ_ik,xπ_ik>均为一个直觉模糊数。P＝{p₁,p₂,…,p_c}是c个聚类原型，c为聚类类别数，p_i表示第i类的聚类原型矢量，p_i＝(<pμ_i1,pγ_i1,pπ_i1>,<pμ_i2,pγ_i2,pπ_i2>,<pμ_is,pγ_is,pπ_is>)，p_i在第k维特征上的赋值p_ik＝<pμ_ik,pγ_ik,pπ_ik>也为直觉模糊数。

基于特征加权的直觉模糊c均值聚类方法的描述形式：

$J_m(U_{\mathrm{\&mu;}},U_{\mathrm{\&gamma;}},P)=\underset{j=1}{\overset{n}{\mathrm{\&Sigma;}}}\underset{i=1}{\overset{c}{\mathrm{\&Sigma;}}}({\left({\mathrm{\&mu;}}_{\mathrm{ij}}\right)}^m/2+{(1-{\mathrm{\&gamma;}}_{\mathrm{ik}})}^m/2){\mathrm{\&omega;}}_i\mathrm{\&delta;}(x_j,p_k),m\&Element;\&lsqb;1,\&infin;),U_{\mathrm{\&mu;}},U_{\mathrm{\&gamma;}}\&Element;M_{\mathrm{IFC}}---\left(1\right)$

其中，δ(x_j,p_k)表示类属特征的相异匹配测度，δ(·)定义为

$\mathrm{\&delta;}(\mathrm{\&alpha;},\mathrm{\&beta;})=\left\{\begin{array}{cc}0,& a=b\\ 1,& a\&NotEqual;b\end{array}\right.---\left(2\right)$

在式(1)中，ω_i是对每一个特征赋予的权值，m为平滑参数，U_μ为直觉模糊划分隶属矩阵，U_γ为直觉模糊划分隶属矩阵， $M_{\mathrm{IFC}}=\{U_{\mathrm{\&mu;}}\&Element;R^{\mathrm{cn}},U_{\mathrm{\&gamma;}}\&Element;R^{\mathrm{cn}}|$ ${\mathrm{\&mu;}}_{\mathrm{ik}}\&Element;\left[\mathrm{0,1}\right],{\mathrm{\&gamma;}}_{\mathrm{ik}}\&Element;\left[\mathrm{0,1}\right],0<{\mathrm{\&Sigma;\&mu;}}_{\mathrm{ik}}<n,0<\mathrm{\&Sigma;}{\mathrm{\&gamma;}}_{\mathrm{ik}}<n,\&ForAll;i\&ForAll;k\},$ 而且μ_ij+γ_ij+π_ij＝1,∑μ_ik＝1.

由拉格朗日定理可得目标函数为：

$F=\underset{i=1}{\overset{c}{\mathrm{\&Sigma;}}}({\left({\mathrm{\&mu;}}_{\mathrm{ij}}\right)}^m/2+{(1-{\mathrm{\&gamma;}}_{\mathrm{ik}})}^m/2){\mathrm{\&omega;}}_i\mathrm{\&delta;}(x_j,p_k)-\mathrm{\&lambda;}(\underset{i=1}{\overset{c}{\mathrm{\&Sigma;}}}{\mathrm{\&mu;}}_{\mathrm{ij}}-1)-\mathrm{\&beta;}({\mathrm{\&mu;}}_{\mathrm{ij}}+{\mathrm{\&gamma;}}_{\mathrm{ij}}+{\mathrm{\&pi;}}_{\mathrm{ij}}-1)---\left(3\right)$

本发明的具体算法步骤包括：

输入：样本数据集X，平滑参数m，权重系数矩阵W，聚类类别数c(2≤c≤n)。

输出：划分隶属矩阵U_μ，划分非隶属矩阵U_γ，聚类原型P，迭代次数b，目标函数值E。

Step1：初始化。计算样本数据个数n，设定迭代停止阈值ε，初始化聚类原型模式P(0)，设置迭代计数器b＝0。

Step2：采用Relief算法，根据下式更新计算类属特征的权值：

$\begin{array}{c}{\mathrm{\&omega;}}_i={\mathrm{\&omega;}}_i-\mathrm{diff}\_\mathrm{hit}/R+\mathrm{diff}\_\mathrm{miss}/R\\ ={\mathrm{\&omega;}}_i-\underset{j=1}{\overset{R}{\mathrm{\&Sigma;}}}\mathrm{\&delta;}(h_j,x_i)+\underset{l\&NotEqual;\mathrm{class}\left(x_i\right)}{\mathrm{\&Sigma;}}\frac{p\left(l\right)}{1-p\left(\mathrm{class}\left(x_i\right)\right)}\underset{j=1}{\overset{R}{\mathrm{\&Sigma;}}}\mathrm{\&delta;}(m_l,x_i)\end{array}---\left(4\right)$

其中，h_j(j＝1,2,…,R)表示R个与x_i同类的最近邻的样本，m_lj(l≠class(x_i),j＝1,2,…,R)表示x_i与不同类子集中R个最近邻样本，diff_hit为h_j与x_i特征上的差异，diff_miss为m_lj与x_i特征上的差异。

Step3：计算、更新划分隶属矩阵U_μ,划分非隶属矩阵U_γ.对于如果δ(x_j,p_k)^(b)＞0,则有：

$\left\{\begin{array}{c}{{\mathrm{\&mu;}}_{\mathrm{ij}}}^{\left(b\right)}={\left\{\underset{k=1}{\overset{c}{\mathrm{\&Sigma;}}}{\left(\frac{\mathrm{\&delta;}{(x_j,p_i)}^{\left(b\right)}}{\mathrm{\&delta;}{(x_j,p_k)}^{\left(b\right)}}\right)}^{\frac{1}{m-1}}\right\}}^{-1}\\ {\mathrm{\&gamma;}}_{\mathrm{ij}}=1-{\mathrm{\&pi;}}_{\mathrm{ij}}-{\left\{\underset{k=1}{\overset{c}{\mathrm{\&Sigma;}}}{\left(\frac{\mathrm{\&delta;}{(x_j,p_i)}^{\left(b\right)}}{\mathrm{\&delta;}{(x_j,p_k)}^{\left(b\right)}}\right)}^{\frac{1}{m-1}}\right\}}^{-1}\end{array}\right.---\left(5\right)$

如果使得δ(x_j,p_k)^(b)＝0，则有：

$\left\{\begin{array}{ccc}{\mathrm{\&mu;}}_{\mathrm{ij}}=1,& {\mathrm{\&gamma;}}_{\mathrm{ij}}=0& i=k\\ {\mathrm{\&mu;}}_{\mathrm{ij}}=0,& {\mathrm{\&gamma;}}_{\mathrm{ij}}=1& i\&NotEqual;k\end{array}\right.---\left(6\right)$

Step4：更新聚类原型模式矩阵p_i ^(b+1)，分别求得pμ_i ^(b+1)，pγ_i ^(b+1)和pπ_i ^(b+1)；

Step5：如果‖p(b)-p(b+1)‖>ε，则令b＝b+1，转向步Step2；否则，由式(5)和式(6)输出划分隶属矩阵U_μ、划分非隶属矩阵U_γ和聚类原型P，算法结束。其中‖·‖为某种合适的矩阵范数。

需要说明的是，Relief算法是针对分类技术的，样本分类时每一个样本的类别标记是确定的，而在聚类分析中，每一个样本的类别标记往往是未知的。针对这一问题，首先对待分析的样本集进行一次聚类，选择隶属度较大的样本x_i，并从划分矩阵中分别找出与x_i同类及不同类最近邻的R个样本，并按照step2计算特征权值，再将所得的权值对各维特征进行赋值，最终进行聚类分析。

实验分析：

以一组UCI数据库中实际类属型数据集Breast Cancer Wisconsin分别进行FCM与FWIFCM的算法实验，分析比较两种方法的分类效果及错分率、分类性能及有效性。

针对20批空天典型目标进行识别实验，采用FWIFCM算法对目标特征数据进行聚类实验，分析附加权值对目标识别过程的分类作用，验证该算法的有效性。

(1)基于特征加权的直觉模糊c均值聚类算法实验

选取UCI数据库(http://www.ics.uci.edu/～mlearn/MLRepository.html)中一组具有类属型特征的实际样本数据Breast Cancer Wisconsin(简化为Wisc表示)对FWIFCM算法进行实验，测试其分类性能及有效性。选取Wisc数据集是因为该实际样本集在通常情况下均被用来检验聚类算法、分类算法的性能及有效性。Breast Cancer Wisconsin数据共由32维空间的569个样本组成，30个连续型变量，样本特征属性共有32个，其中10个重要属性为radius，texture，perimeter，area，smoothness，compactness，concavity，concavepoints，symmetry，fractal dimension。每个样本均可被划分为恶性或良性，包括357个良性样本(Benign)，212个恶性样本(Malign)。

采用传统的FCM算法与本发明的算法FWIFCM分别对Wisc类属型数据集进行分类仿真实验。该实验中设置平滑参数m＝2，聚类类别数c＝2，样本数据个数n＝569，迭代停止阈值ε＝10^-5、η_t＝0.2，设置迭代计数器b＝0，分别得到两种不同的分类效果如图1、图2所示。图1中“△”表示良性样本Benign，“○”表示恶性样本Malign，“▲”表示错分的良性样本，“●”表示错分的恶性样本，由图可得FCM算法对Wisc数据集的错分样本数是10个。在图2中，“△”表示良性样本Benign，“○”表示恶性样本Malign，但与图2不同之处在于此处“▲”表示良性样本的聚类中心点，“●”表示恶性样本的聚类中心点，显然，FWIFCM算法对Wisc数据集的所有样本无错分。具体的分类结果如表1所示，由表易知FCM的错分率大于FWIFCM，且FWIFCM算法无错分。因此，本发明的算法是一种具有良好分类性能的聚类算法。Wisc数据集是由32维空间的样本组成，即有32个特征属性，由FWIFCM算法实验得到的各维特征权值分别是{0.6,0.3,0.7,0.1,0,0.3,0.3,0.3,0.1,0.1,0.2,0.3,0,0,0,0,0.5,0.5,0.4,0.6,0.1,0.2,0.3,0.8,0,0,0,0,0,0.7,0.5,0.4}，第5维特征、第13～16及25～29维特征的权值为0，说明这10维特征对分类不起任何作用。因此，各维特征权值充分说明了该算法不仅提高了聚类的性能，而且还可分析各维特征对分类的贡献程度。

表1 FCM算法与FWIFCM算法的聚类结果

(2)直觉模糊c均值聚类算法的目标识别实验

在空天目标识别中，通过各种传感器获得的目标特征信息构成样本数据集，但各维特征对分类的作用大小不均，利用本发明FWIFCM算法进行目标识别仿真实验。选取20批典型目标的属性测量值进行分类实验。在该实验中，选定空中典型目标特征为雷达反射截面积s,巡航速度v_H，垂直速度v_V，飞行高度h，加速度a，已知分类后的目标类别数为4，分别是战术弹道导弹(TBM)、空地导弹(AGM)、巡航导弹(CM)、隐身飞机(SA)。因而本实验无需采用参数优选算法求取最优类别数，但在大多数情况下，来袭目标的类型及数量是未知的。目标的特征信息经直觉模糊化处理后，每个目标针对各影响因子的隶属度及非隶属度值如表2所示。

表2目标特征数据

实验中取平滑参数m＝2，停止阈值ε＝10^-5、η_t＝0.2，样本数n＝20，聚类类别数为4，设置迭代计数器b＝0。采用Relief算法更新后得到的权值为{1.5,0.8,1.6,1.2,0.7}，可见目标的特征属性对分类识别的作用是不同的。在样本数据中随机抽取4个数据作为聚类中心，运行FWIFCM算法，获取划分隶属矩阵U_μ。

$U_{\mathrm{\&mu;}}=\left[\begin{array}{cccccccccccccccccccc}0.566& 0.222& 0.422& 0.005& 0.241& 0.321& 0.142& 0.254& 0.215& 0.781& 0.019& 0.356& 0.278& 0.123& 0.256& 0.087& 0.245& 0.148& 0.159& 0.259\\ 0.147& 0.601& 0.677& 0.078& 0.009& 0.095& 0.260& 0.131& 0.212& 0.010& 0.821& 0.835& 0.745& 0.254& 0.125& 0.079& 0.145& 0.059& 0.099& 0.321\\ 0.009& 0.101& 0.321& 0.352& 0.358& 0.410& 0.058& 0.356& 0.098& 0.258& 0.145& 0.415& 0.111& 0.689& 0.768& 0.599& 0.321& 0.312& 0.032& 0.145\\ 0.203& 0.300& 0.110& 0.710& 0.801& 0.699& 0.589& 0.813& 0.764& 0.147& 0.015& 0.135& 0.215& 0.021& 0.158& 0.165& 0.589& 0.689& 0.741& 0.852\end{array}\right]$

本发明能够根据目标识别应用中类属型数据特征对样本作用大小的不均匀性进行有效地分类识别；

利用算法得到的划分隶属度矩阵及划分非隶属度矩阵有效克服了由于各维特征来自于不同传感器导致量纲存在的差异，有利于提高分类精度；

利用附加特征权值对空天典型目标进行识别分类，利于提高分类的实用性及可靠性。

以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (5)

1.一种基于特征加权直觉模糊c均值聚类的目标识别方法，其特征在于，包括以下步骤：

S1，初始化算法中的参数；

S2，计算更新类属特征的权值ω_i；

S3，计算机更新划分隶属矩阵U_μ和划分非隶属矩阵U_γ；

S4，更新聚类原型模式矩阵p_i ^(b+1)；

S5，输出数据。

2.根据权利要求1所述的基于特征加权直觉模糊c均值聚类的目标识别方法，其特征在于，所述步骤S1中的参数具体包括样本数据个数n、迭代停止阈值ε、聚类原型模式P⁽⁰⁾、迭代计数器b＝0。

3.根据权利要求1所述的基于特征加权直觉模糊c均值聚类的目标识别方法，其特征在于，所述步骤S2具体为：采用Relief算法计算更新类属特征的权值ω_i。

4.根据权利要求1所述的基于特征加权直觉模糊c均值聚类的目标识别方法，其特征在于，所述步骤S4具体为：更新聚类原型模式矩阵p_i ^(b+1)，并分别求得pμ_i ^(b+1)、pγ_i ^(b+1)和pπ_i ^(b+1)。

5.根据权利要求1所述的基于特征加权直觉模糊c均值聚类的目标识别方法，其特征在于，所述步骤S5具体为：输出划分隶属矩阵U_μ、划分非隶属矩阵U_γ和聚类原型P。