CN106778826A - 基于自适应元胞遗传与优选模糊c‑均值的混合聚类算法 - Google Patents

Abstract

本发明公开了一种基于自适应元胞遗传与优选模糊C‑均值的混合聚类算法，利用Arnold Cat映射产生初始种群，依据模糊C‑均值的聚类准则构造适应度函数；解码种群内的个体得到对应的聚类中心，并分配隶属度、计算适应度值及种群的熵；对每个个体进行状态的演化，并进行选择、动态的交叉和基于熵的组合变异操作；自动确定模糊C‑均值的融合时机，并利用实施准则进行模糊C‑均值迭代操作；判断是否达到终止条件，若满足终止条件，输出最终的聚类结果。本发明进一步利用自适应元胞遗传算法的全局搜索能力强与模糊C‑均值算法的局部搜索能力强的特点。相比现有技术，本发明可以获得更高的聚类效率和精度。

Description

基于自适应元胞遗传与优选模糊C-均值的混合聚类算法

技术领域

本发明涉及一种模糊聚类方法，尤其涉及一种基于自适应元胞遗传与优选模糊C-均值的混合聚类算法。

背景技术

随着计算机和存贮技术的迅速发展，人们可获取的数据量正以指数级的速度增长。面对海量的数据，如何利用计算机自动把数据按照某些主题分类到不同类别，提取有用的、相关性强的知识已变得日益重要。因此聚类技术就在数据挖掘、机器识别、图像分割、故障诊断和模式识别等许多领域得到广泛应用。聚类分析作为一种寻求数据自然聚集结构的重要方法，主要分为硬聚类和模糊聚类。硬聚类算法简单、耗时少，但不适合处理现实世界的聚类问题，而模糊聚类算法通过引入隶属度函数表征每个数据属于各个类别的程度，克服了硬聚类的局限性。模糊C-均值(fuzzy c-means，FCM)算法是应用最广泛的模糊聚类算法。

传统的模糊C-均值算法通过最小化目标函数得到每个数据点对所有类中心的隶属度，从而决定数据点的类属。但是由于这种聚类方法是基于单点梯度下降的原理，因此存在聚类结果较大程度地依赖于初始聚类中心，易陷入局部极值等问题。例如，文献【肖满生，文志诚，张居武，汪新凡.一种改进隶属度函数的FCM聚类算法[J].控制与决策.2015,30(12):2270-2274.】中所提出的方法。模糊C-均值算法要求一个样本对于各个聚类的隶属度之和满足归一化条件,从而导致算法对具有噪声、孤立点、非均衡分布的样本聚类有效性较低。上述方法主要依据隶属度的修正，没有较好地克服算法对聚类中心初始值的敏感性。近年来出现了运用遗传算法、粒子群优化、模拟退火、蚁群算法等进化算法提高模糊C-均值性能的聚类方法，例如，Nanda等^[1]系统阐述新出现的基于现代启发式搜索算法的划分聚类方法，并指出这些启发式划分聚类算法在现实生活领域具有很大的实际应用价值。

而遗传算法具有操作简单、较强的全局收敛能力和广泛适用性的特点，已成为许多领域使用最广泛的搜索和优化工具，因此出现了一些基于遗传算法的模糊聚类算法。根据结合的方式不同，聚类方法分为采用遗传算法单独聚类的方式和遗传算法与模糊C-均值组合的聚类方式。而早期的聚类方法是采用遗传算法单独进行聚类的方式，例如，Hall等^[2]利用遗传算法优化模糊C-均值的聚类目标函数。近年来，模糊聚类方法主要采用组合的方式，例如，Ding等^[3]采用遗传算法优化初始聚类中心，并利用核模糊C-均值指导分类，以改善模糊C-均值的聚类性能；Ye等^[4]通过动态调整量子旋转角和实施染色体变异等方式对量子遗传算法进行改进，并在此基础上研究分析基于改进量子遗传算法的模糊聚类算法性能。上述聚类方法的聚类准确性都高于传统的模糊C-均值。但是由于评价函数所需时间较长，导致计算复杂性高，从而限制了它们的实际应用，同时处理高度复杂的数据集时，由于过早丢失种群多样性而导致收敛到局部最优值。元胞遗传算法(Cellular geneticalgorithm，CGA)是一种将元胞自动机与遗传算法有机结合的算法，它将遗传操作限制在相邻个体之间进行，降低高适应度个体的基因信息的传播速度，在保持种群多样性上具有明显优势，改善遗传算法全局收敛性能。但是由于元胞遗传算法限定个体之间的位置关系，个体之间信息交流也被限制在其邻域范围内，降低寻优搜索效率，所以优化速度一般较慢。而模糊C-均值收敛迅速，但容易陷入局部极值。显然如果充分利用元胞遗传算法的全局搜索能力和模糊C-均值算法的局部搜索能力，使两种算法有效地结合，可以设计聚类性能更优的模糊聚类算法。

发明内容

本发明所要解决的技术问题在于克服现有技术的不足，提供一种基于自适应元胞遗传与优选模糊C-均值的混合聚类算法，能够获得更精确的聚类结果和更高的聚类效率。

本发明具体采用以下技术方案解决上述技术问题。

一种基于自适应元胞遗传与优选模糊C-均值的混合聚类算法，其特征在于，该方法包括以下步骤：

步骤一、采用基于聚类中心的实值编码方式表达染色体，并利用Arnold Cat映射产生初始种群，依据模糊C-均值的聚类准则构造适应度函数；

步骤二、对于种群内的每个个体，分别解码得到各组聚类中心，分配隶属度、计算适应度值及种群的熵；

步骤三、加入改进的演化规则进行元胞状态的演化，并对每个个体进行选择、动态的交叉和基于熵的组合变异操作，得到新种群；

步骤四、判断模糊C-均值的融合时机，当达到条件则采用优选策略对该新种群内的个体进行选择，利用实施准则进行模糊C-均值迭代操作；

步骤五、判断是否达到终止条件，若不满足终止条件，则跳转至步骤三；若满足终止条件，输出最终的聚类结果。

优选地，所述采用基于聚类中心的实值编码方式表达染色体，具体按照以下方法：

设元胞种群为Q＝{x₁,x₂...,x_i...,x_P},(1≤i≤P)，每个个体代表一组聚类中心，即数据样本的一种划分模式；则每条染色体x_i由编码长度为l＝c×d的实数表示，即：

x_i＝[x_i,1x_i,2…x_i,dx_i,d+1x_i,d+2…x_i,2d…x_i,c×(d-1)+1x_i,c×(d-1)+2…x_i,c×d] (1)

式中：c为聚类中心的个数,d为每个聚类中心的维度。

优选地，所述利用Arnold Cat映射产生初始种群，是指利用Arnold Cat序列替代随机初始聚类中心，优化种群的初始分布；具体方法如下：

设α_n为Arnold Cat映射迭代n步产生的混沌变量，为第j维变量的取值范围，则染色体x_i的第j维变量为：

其中和x_jmax分别为给定数据集的每维度属性对应的最小值和最大值；重复上述过程，直到产生P条初始染色体。

优选地，所述步骤一中适应度函数为模糊C-均值聚类目标函数的倒数。

优选地，所述动态的交叉和基于熵的组合变异操作，是指自适应地改变每个个体的交叉、变异概率以及变异步长；具体包括以下步骤：

1)利用种群的平均、最大适应度值和S型函数设计自适应调整策略A，动态改变每个个体的交叉概率；具体定义如下：

设f_avg为第t代种群的平均适应度值；f_max为第t代种群的最大适应度值，f¹(x_i)为待交叉的两个个体中较大的适应度值，f²(x_i)为待变异个体x_i的适应度值；则待交叉个体的交叉概率为：

其中：φ_Max为最大交叉概率；μ₁为调节系数，控制着个体交叉概率衰减的幅度；

当f_avg＝f_max,f¹(x_i)＝f_max时,则

2)利用步骤1)计算所得到的交叉概率，对个体进行算术交叉操作，从而得到新染色体；

3)根据种群的熵DE(t)的变化给出变异操作的判定准则，具体如下：

设DE_max为种群的熵的最大值，为最小的检测阈值，且k₁为预设的扰动因子，γ为预设的大于4的整数，则当实施普通变异操作；当则实施大变异操作；即：

4)利用种群的平均、最大适应度值和S型函数设计自适应调整策略B，动态改变每个个体的变异概率；P_m(i)具体定义如下：

设f_avg为第t代种群的平均适应度值；f_max为第t代种群的最大适应度值，f²(x_i)为待变异个体x_i的适应度值，则待变异个体的变异概率为：

其中：为最大变异概率；μ₂为调节系数，控制着个体变异概率P_m(i)衰减的幅度；

当f_avg＝f_max,f¹(x_i)＝f_max时,则

5)利用步骤4)计算所得到的变异概率，对个体进行改进的变异操作，具体定义如下：

设N(0,1)为正态分布随机数，α(t)为自适应调节的变异步长，则变异后的染色体为：

x

其中α(0)为初始变异步长，κ为时间常数，t和T_max分别为当前进化代数和最大进化代数。

优选地，所述最大交叉概率φ_Max为0.99,调节系数μ₁为0.5。

优选地，所述预设的扰动因子k₁为0.3，最大变异概率为0.1,调节系数μ₂为1.5，时间常数κ为5。

优选地，所述判断模糊C-均值的融合时机，是指根据种群的熵的变化给出融合策略，以确定模糊C-均值何时操作，具体方法如下：

设为群体的收敛阈值，且其中k₂为预设的融合因子，决定自适应元胞遗传算法和模糊C-均值在整个搜索过程中所占比例，则融合策略如下：

策略1：表明第t代种群多样性维持在相对较高的水平，混合算法只利用改进的自适应元胞遗传算法进行全局搜索；

策略2：表明当前种群多样性降到相对低的水平且小于群体的收敛阈值，混合算法在完成遗传操作后开始利用模糊C-均值进行局部细致搜索。

优选地，所述优选策略为黄金分割法。

优选地，所述步骤四中利用实施准则进行模糊C-均值迭代操作；具体按照以下步骤：

步骤1、将种群所有个体按适应度大小进行排序，采用黄金分割法择优选取当前种群61.8％的靠前排序的优秀个体进行模糊C-均值局部搜索；

步骤2、对于步骤1选中的个体，按照以下的模糊C-均值操作进行优化:

(A)设置τ＝0，最大迭代次数G_d，分别解码各个体得到相应的聚类中心；

(B)计算其对应的隶属度；

(C)更新聚类中心；

(D)如果达到最大迭代次数G_d，通过编码新的聚类中心替换原来个体，并计算新个体的适应度；否则转至(B)；

步骤3、对种群中未被选择的个体保持原有元胞种群结构进行全局搜索。

本发明相比现有技术具有以下有益效果：具有更高的聚类效率和精度；采用Arnold Cat映射、改进的演化规则、动态的交叉操作和基于熵的组合变异操作设计自适应元胞遗传算法，可以在处理具有多极值特征的数据集时进行更有效的全局搜索，避免收敛到局部最优值，从而提高聚类的准确性。综合利用自适应元胞遗传算法的全局搜索能力和模糊C-均值算法的局部搜索能力，因此该算法能够在进化后期加快收敛速度，进行精确的局部搜索，使得在保证聚类效率高的同时还显著提高聚类精度。

附图说明

图1a为元胞空间常用的L5型邻域结构示意图；

图1b为元胞空间常用的L9型邻域结构示意图；

图1c为元胞空间常用的C9型邻域结构示意图；

图1d为元胞空间常用的C25型邻域结构示意图；

图2为本发明方法采用的聚类分析流程图；

图3a为本发明实验中所采用的人工数据集Dateset 1的分布图；

图3b为本发明实验中所采用的人工数据集Dateset 2的分布图；

图3c为本发明实验中所采用的人工数据集Dateset 3的分布图；

图3d为本发明实验中所采用的人工数据集Dateset 4的分布图；

图3e为本发明实验中所采用的人工数据集Dateset 5的分布图；

图3f为本发明实验中所采用的人工数据集Dateset 6的分布图；

图4a为本发明中人工数据集Dateset 1在FCM、GA-FCM、AGA-FCM、IDCGA-FCM和IDCGA2-FCM五种不同算法下的聚类结果对比示意图；

图4b为本发明中人工数据集Dateset 2在FCM、GA-FCM、AGA-FCM、IDCGA-FCM和IDCGA2-FCM五种不同算法下的聚类结果对比示意图；

图4c为本发明中人工数据集Dateset 3在FCM、GA-FCM、AGA-FCM、IDCGA-FCM和IDCGA2-FCM五种不同算法下的聚类结果对比示意图；

图4d为本发明中人工数据集Dateset 4在FCM、GA-FCM、AGA-FCM、IDCGA-FCM和IDCGA2-FCM五种不同算法下的聚类结果对比示意图；

图4e为本发明中人工数据集Dateset 5在FCM、GA-FCM、AGA-FCM、IDCGA-FCM和IDCGA2-FCM五种不同算法下的聚类结果对比示意图；

图4f为本发明中人工数据集Dateset 6在FCM、GA-FCM、AGA-FCM、IDCGA-FCM和IDCGA2-FCM五种不同算法下的聚类结果对比示意图；

图5a为本发明中UCI真实数据集Iris在FCM、GA-FCM、AGA-FCM、IDCGA-FCM和IDCGA2-FCM五种不同算法下的聚类结果对比示意图；

图5b为本发明中UCI真实数据集Wine在FCM、GA-FCM、AGA-FCM、IDCGA-FCM和IDCGA2-FCM五种不同算法下的聚类结果对比示意图；

图5c为本发明中UCI真实数据集Heart在FCM、GA-FCM、AGA-FCM、IDCGA-FCM和IDCGA2-FCM五种不同算法下的聚类结果对比示意图；

图5d为本发明中UCI真实数据集Cancer在FCM、GA-FCM、AGA-FCM、IDCGA-FCM和IDCGA2-FCM五种不同算法下的聚类结果对比示意图；

图5e为本发明中UCI真实数据集Glass在FCM、GA-FCM、AGA-FCM、IDCGA-FCM和IDCGA2-FCM五种不同算法下的聚类结果对比示意图；

图5f为本发明中UCI真实数据集Image segment在FCM、GA-FCM、AGA-FCM、IDCGA-FCM和IDCGA2-FCM五种不同算法下的聚类结果对比示意图；

具体实施方式

下面结合附图和实施例对本发明的技术方案进行详细说明。参见图1a至图5f，一种基于自适应元胞遗传与优选模糊C-均值的混合聚类算法，具体按照以下步骤(如图2所示)：

步骤一、采用基于聚类中心的实值编码方式表达染色体，并利用Arnold Cat映射产生初始种群，依据模糊C-均值的聚类准则构造适应度函数；具体如下：

1)采用基于聚类中心的实值编码方式表达染色体，编码方法如下：

设元胞种群为Q＝{x₁,x₂...,x_i...,x_P},(1≤i≤P)，每个个体代表一组聚类中心，即数据样本的一种划分模式即数据样本的一种划分模式；则每条染色体x_i由编码长度为l＝c×d的实数表示，即：

x_i＝[x_i,1x_i,2…x_i,dx_i,d+1x_i,d+2…x_i,2d…x_i,c×(d-1)+1x_i,c×(d-1)+2…x_i,c×d] (1)

式中：c为聚类中心的个数,d为每个聚类中心的维度。

2)利用Arnold cat序列替代随机初始聚类中心，优化种群的初始分布；

选择好的聚类中心初值对划分聚类的质量影响很大，而常用的随机产生初始聚类中心的方法，具有一定的随机性和盲目性。混沌是自然界中广泛存在的一种非线性现象，具有内在随机性、遍历性等的特点，如Arnold cat映射具有遍历均匀性好的特性，能够克服随机序列产生初始种群的不均匀性。本发明优选采用Arnold cat映射优化初始种群。

Arnold cat映射为现有技术，详细内容可参考文献【F.Chen,K.W.Wong,X.Liao,X.Tao,Period distribution of generalized discrete Arnold cat map[J].Theoretical Computer Science,2014，552：13-25.】，其定义如下：

其中α_n,β_n∈[0,1]，α_n为式(2)迭代n步产生的混沌变量，为第j维变量的取值范围，则染色体x_i的第j维变量为:

本步骤实施方式中和x_jmax分别为给定数据集的每维度属性对应的最小值和最大值；重复上式(2)、(3)过程，直到产生P条初始染色体。

3)依据模糊C-均值的聚类准则构造适应度函数；

通过使用FCM可以提供适应度测度和评估每条染色体的最优性，因此，本文优选地中采用模糊C-均值的聚类目标函数构造适应度函数。模糊C-均值是一种现有技术，具体可参照文献【J.C.Bezdek,R.Ehrlich,W.Full,FCM:The fuzzy c-means clusteringalgorithm.Computers&Geosciences,1984,10(2):191-203.】，构造方法如下：

聚类目标函数J(U,V)可以表示为：

其中：

d_ij＝||o_k-v_i|| (5)

本具体实施方式中采用模糊C-均值的聚类目标函数的倒数作为适应度函数，即：

其中J(x_i)为个体i的聚类目标函数。

步骤二、对于种群内的个体，分别解码得到各组聚类中心，分配隶属度、计算适应度值及种群的熵；

具体步骤如下：

1)分别对每个个体进行解码得到聚类中心，如染色体的表达式(1)中，第一个d维变量x_i,1x_i,2…x_i,d代表第1个聚类中心，下一个d维变量代表第2个聚类中心，依次类推，每条染色体x_i解码为一个聚类中心矩阵V＝{v₁,…,v_i,…,v_c}，其中v_i＝(v_1i,…v_ji,…,v_di)。

2)利用步骤1)所得到的聚类中心，分别按照式(7)分配相应的隶属度；

3)根据求解出的聚类中心和隶属度，分别按照式(4)计算相应的聚类目标函数值，进而得到式(8)中每个个体对应的适应度值，然后计算并保存种群的平均适应度值和最大适应度值；

4)计算当前种群的熵。

本发明优选地采用信息熵作为度量种群多样性的方法。信息熵为现有技术，详细内容可参考文献【M.Bessaou,P.Siarry,A genetic algorithm with real-value codingto optimize multimodal continuous functions[J].Structural&MultidisciplinaryOptimization,2001，23(1)：63-74.】，其定义如下：

设N为种群规模，DE_l(t)为第t代第l维编码的熵，即:

其中是第i个个体的第l维编码与第j个个体的第l维编码的相似程度，即:

其中a_l，b_l为第l维编码的边界，则第t代种群的平均信息熵DE(t)为:

其中L为编码长度。

步骤三、加入改进的演化规则进行元胞状态的演化，并对每个个体进行选择、动态的交叉和基于熵的组合变异操作，得到新的种群；

1)加入演化规则对元胞进行生死状态演化，确定元胞下一时刻的状态；更新方法如下：

其中t为当前进化代数,S^t为当前元胞在第t代的状态,S^t+1为当前元胞在下一代的状态，S为邻域内活状态元胞的数目，0表示元胞处于死状态，1表示元胞处于活状态；

2)依次选择活状态的元胞个体，在该元胞个体的邻域内选择其适应度值最高的邻居个体，从而得到2个父代个体；

元胞空间常采用L5、L9、C9、C25型邻域结构(如图1a～图1d所示)，本步骤实施方式采用最为常用的Moore邻域类型(C9)。

3)自适应地改变每个个体的交叉、变异概率以及变异步长，对个体进行动态交叉和基于熵的组合变异操作，具体包括以下步骤：

a)利用种群的平均、最大适应度值和S型函数设计自适应调整策略A，动态改变每个个体的交叉概率；定义如下：

设f_avg为第t代种群的平均适应度值；f_max为第t代种群的最大适应度值，f¹(x_i)为待交叉的两个个体中较大的适应度值，f²(x_i)为待变异个体x_i的适应度值，则待交叉个体的交叉概率为:

其中φ_Max为最大交叉概率；μ₁为调节系数，控制着个体交叉概率衰减的幅度；

当f_avg＝f_max,f¹(x_i)＝f_max时,则

b)利用步骤a)计算所得到的交叉概率，对个体进行算术交叉操作，从而得到新染色体；交叉方法如下：

其中λ为均匀分布在[0,1]的随机变量；x_i和x_j为待交叉的两个个体。

c)根据种群的熵DE(t)的变化给出变异操作的判定准则；

本具体实施步骤中采用的变异操作判定准则如下：设DE_max为种群的熵最大值，为最小的检测阈值，且k₁为预设的扰动因子，γ为预设的大于4的整数，则当实施普通变异操作；当则实施大变异操作；即：

d)利用种群的平均、最大适应度值和S型函数设计自适应调整策略B，动态改变每个个体的变异概率；P_m(i)具体定义如下：

设f_avg为第t代种群的平均适应度值；f_max为第t代种群的最大适应度值，f²(x_i)为待变异个体x_i的适应度值，则待变异个体的变异概率为:

其中为最大变异概率；μ₂为调节系数，控制着个体变异概率P_m(i)衰减的幅度；

当f_avg＝f_max,f¹(x_i)＝f_max时,则

e)利用步骤d)计算所得到的变异概率，对个体进行改进的变异操作，具体定义如下：

设N(0,1)为正态分布随机数，α(t)为自适应调节的变异步长，则变异后的染色体为:

其中α(0)为初始变异步长，κ为时间常数，t和T_max分别为当前进化代数和最大进化代数；

步骤四、判断模糊C-均值的融合时机，当达到条件则采用优选策略对种群内的个体进行选择，利用实施准则进行模糊C-均值迭代操作；

1)根据种群的熵DE(t)的变化给出融合策略，以确定模糊C-均值何时操作，具体方法如下：

设为群体的收敛阈值，且其中k₂为预设的融合因子，决定自适应元胞遗传算法和模糊C-均值在整个搜索过程中所占比例，则融合策略如下：

策略1：表明第t代种群多样性维持在相对较高的水平，混合算法只利用改进的自适应元胞遗传算法进行全局搜索；

策略2：表明当前种群多样性降到相对低的水平且小于群体的收敛阈值混合算法在完成遗传操作后开始利用模糊C-均值进行局部细致搜索。

2)利用实施准则进行模糊C-均值迭代操作，具体按照以下步骤：

2.1、将种群所有个体按适应度大小进行排序，采用黄金分割法择优选取当前种群61.8％的靠前排序的优秀个体进行模糊C-均值局部搜索算法；

2.2、对于步骤2.1所选中的个体，按照以下的模糊C-均值操作进行优化:

(A)设置τ＝0，最大迭代次数G_d，分别解码各个体得到相应的聚类中心；

(B)计算其对应的隶属度；

(C)更新聚类中心；

(D)如果达到最大迭代次数G_d，通过编码新的聚类中心替换原来个体，并计算新个体适应度；否则转至(B)；

2.3、对于种群中未被选择的个体，按照原有元胞种群结构进行全局搜索。

步骤五、判断是否达到终止条件，若不满足，则跳转至步骤三；若满足终止条件，输出最终的聚类结果。

具体步骤如下：

1)判断算法是否达到收敛精度要求或者最大进化代数；

2)对于步骤1)中的条件都不满足时，即|J(t+1)-J(t)|＞10^-5或t＜T_max，则转至步骤三，重复执行上述步骤三、四的过程；

3)如果满足步骤1)中的条件，则输出算法的最优解，解码得到对应的聚类中心，并分配隶属度，保存获得的最终聚类结果。

实施例：

为了验证本发明的效果，采用人工数据集和UCI真实数据集作为测试样本集，其中人工数据集能更好地控制数据特征，有利于理解算法的性能；第二是对UCI机器识别知识库的著名真实数据集进行聚类，这些数据集是从http://archive.ics.uci.edu/ml/处下载的，包括Iris、Wine、Glass、Heart disease、Cancer、Prima和Image segmentation 7个数据集。6个人工数据集如图3a～图3f所示，每个数据集都代表了不同程度水平的重合、不同的规模以及类别形状，每个数据集中的数据点均采用高斯分布随机产生。采用的13个数据集的详细信息见表1、2所示，反映了不同的聚类难度，具有很好的代表性。

表1人工数据集和UCI真实数据集的主要特征

数据集	样本数	属性维度	类别数
				Dateset1	200	2	4
Dateset2	280	3	4
				Dateset3	300	2	5
Dateset4	250	3	5
				Dateset5	500	2	10
Dateset6	300	3	6
				Iris	150	4	3
Wine	178	13	3
				Glass	214	9	6
Heart disease	270	13	2
				Cancer	683	9	2
Prima	768	8	2
				Image segmentation	2310	19	7

表2数据集所有极值分布情况

本发明方法是基于自适应元胞遗传算法设计了两种不同方案进行聚类分析，第一种是利用改进的自适应元胞遗传算法单独聚类，即IDCGA-FCM算法；第二种是基于自适应元胞遗传算法与模糊C-均值的混合聚类算法，即IDCGA2-FCM算法。本文选择传统的模糊C-均值(FCM)算法、文献【2】中的一般遗传模糊C-均值(GAFCM)算法、文献【5】中的自适应遗传模糊C-均值(AGA-FCM)算法与本文的两种算法进行比较，结果如图4a～f、5a～f所示。从图中可以看出，IDCGA2-FCM算法在所有数据集上的聚类结果都要好于其他4种算法，以最少的迭代次数收敛到全局最优值。具体地说，FCM在经历初期的快速下降后陷入局部最优解，而GA-FCM、AGA-FCM、IDCAGA-FCM和IDCGA2-FCM算法具备全局搜索能力，跳出局部最优几率较大，明显优于FCM；但相比之下，本文的IDCAGA-FCM和IDCGA2-FCM算法在最优解搜索能力上较FCM、GA-FCM和AGA-FCM都有很大提高，更说明其性能的优越性。

两种基于遗传算法的GAFCM、AGA-FCM聚类算法与本文两种基于自适应元胞遗传算法的IDCAGA-FCM和IDCGA2-FCM聚类算法的平均运行时间对比结果如表5所示。通过表5可以看出，IDCGA2-FCM算法的运行时间明显少于GA-FCM,AGA-FCM和IDCAGA-FCM,约减少了50％-90％。

表3 5种不同算法的平均运行时间对比

Date set	GA-FCM	AGA-FCM	IDCGA-FCM	IDCGA2-FCM
					Dateset1	19.2458	20.0167	20.4133	6.7214
Dateset2	28.3499	29.6919	33.9586	6.1057
					Dateset3	34.5108	35.6474	42.9962	5.1839
Dateset4	28.6549	29.5226	35.3644	3.7794
					Dateset5	102.3658	105.2653	128.5715	24.4272
Dateset6	50.0395	51.4644	59.4982	12.5638
					Iris	12.9925	13.9422	14.1083	3.0972
Wine	16.3208	17.3569	18.2093	8.8056
					Heart	23.2388	24.8404	28.5362	5.4346
Glass	120.7769	125.8677	159.2992	21.1797
					Cancer	92.1442	93.6858	114.5157	9.2956
Prima	109.7291	113.4690	139.4436	20.2628
					Image seg.	25907.9507	27065.0190	28876.2455	378.6420

表4聚类有效性评价指标

本文采用PC、PE、XB和FS这4个聚类有效性指标定量评价聚类结果和模糊划分的准确性，详见表4。指标函数取值最优时对应的聚类结果即为最优聚类划分。各算法分别独立运行100次，从均值和标准差进行了统计记录，结果如表5-8所示。从表5-8可以看出，IDCGA2-FCM算法在数据集上取得最优的聚类划分；相比之下，IDCAGA-FCM和IDCGA2-FCM算法均要好于FCM、GA-FCM和AGA-FCM算法。具体来看，表6实验数据中除Heart和Prima数据集外，IDCGA2-FCM算法在其他所有数据集上的PC指标函数值都取得最优，而IDCAGA-FCM算法在6个数据集上最优；表6类似显示了IDCAGA-FCM算法在4个数据集上的PE指标函数值最优，IDCGA2-FCM算法在11个数据集上的PE指标最优；由表7可知，IDCAGA-FCM算法在Wine、Heart和Prima数据集上的XB指标最优，而IDCGA2-FCM算法在其他数据集上都取得最优；表8中IDCGA2-FCM算法除Wine和Prima数据集外，在其余数据集上FS指标都最优。

表5 PC指标在5种不同算法下的实验结果

表6 PE在5种不同算法下的实验结果

表7 XB在5种不同算法下的实验结果

表8 FS在5种不同算法下的实验结果

在文献【6-8】中，作者提出三种基于粒子群算法的模糊聚类算法，分别为单独采用粒子群算法优化模糊C-均值的聚类方法(PSO-FCM)，粒子群与模糊C-均值的混合聚类方法(FCM-FPSO)及改进的粒子群与模糊C-均值的混合聚类方法(FCM-IDPSO)，本文选择PSO-FCM、FCM-FPSO和FCM-IDPSO算法与本文算法进行比较。结果如表9和10所示。

表9本文算法与其他粒子群聚类算法的聚类结果比较

		PSO-FCM	FCM-FPSO	FCM-IDPSO	IDCGA2-FCM
						Iris	Mean	61.5452	60.5895	60.5821	60.5760
	Std.dev.	2.7795	0.0150	0.0131	8.4175e-07
						Wine	Mean	1.8003e+06	1.7963e+06	1.7963e+06	1.7961e+06
	Std.dev.	6814.7708	190.5211	479.6602	2.1080e-06
						Heart	Mean	4.0786e+05	4.0687e+05	4.0687e+05	4.0687e+05
	Std.dev.	938.8300	2.6266	1.2480	1.6273e-06
						Glass	Mean	190.9924	161.0099	159.8868	154.1460
	Std.dev.	16.0056	1.7559	0.8932	8.1032e-07
						Prima	Mean	4.0573e+06	3.9881e+06	3.9878e+06	3.9868e+06
	Std.dev.	93247.1624	726.9657	501.4690	2.8451e-06
						Image seg.	Mean	2.4433e+07	6.1724e+06	6.0009e+06	5.7142e+06
	Std.dev.	4.7579e+06	1.6523e+05	6.5018e+04	1.1472e+04

表10本文算法与其他粒子群聚类算法的迭代次数比较

		PSO-FCM	FCM-FPSO	FCM-IDPSO	IDCGA2-FCM
						Iris	Mean	—	15.6000	15.7000	6.7666
	Std.dev.	0	1.1326	1.1788	0.9733
						Wine	Mean	—	15.4667	16.2000	10.5500
	Std.dev.	0	0.97332	1.6897	1.1959
						Heart	Mean	—	16.4333	16.2667	6.8811
	Std.dev.	0	1.5013	0.9444	0.8200
						Glass	Mean	—	15.1000	15.3000	10.8000
	Std.dev.	0	0.5477	1.6432	1.1092
						Prima	Mean	—	16.2667	16.0000	7.5060
	Std.dev.	0	1.3629	1.0171	1.0748
						Image seg.	Mean	—	15	15	33
	Std.dev.	0	0	0	0

从表9可以看出，FCM-FPSO和FCM-IDPSO算法只在数据集Heart上获得最好的结果，而PSO-FCM算法在所有数据集上的聚类结果都劣于其他方法。表10显示FCM-FPSO、FCM-IDPSO和IDCGA2-FCM算法收敛时所需迭代次数都较少，但是PSO-FCM算法由于其没有利用FCM迭代加速收敛，所以需要更多的迭代次数。IDCGA2-FCM算法在除Image segment外的所有数据集上的所需迭代次数都最少，但其迭代次数的增加是建立在数据集Image segment的聚类精度明显提升基础上的，所以是可以容忍的。通过表9和10可以看出，IDCGA2-FCM算法的聚类性能明显优于其他三种基于粒子群算法的聚类方法，可以获得更高的聚类效率和精度。

本发明由于采用了Arnold cat映射、改进的演化规则、动态的交叉和基于熵的组合变异操作三个过程设计自适应元胞遗传算法，使其进行更有效的全局搜索，因此提高聚类的准确性；并且综合利用了自适应元胞遗传算法的全局搜索能力和模糊C-均值算法的局部搜索能力，使得在保证聚类效率高的同时还显著提高聚类精度。尤其在一些要求较高的实际应用领域，较高的聚类准确性和效率是衡量一个系统是否有效的重要因素，因此本发明具有很好的应用价值。

参考文献:

[1]S.J.Nanda,G.Panda,A survey on nature inspired metaheuristicalgorithms for partitional clustering[J].Swarm and Evolutionary Computation,2014，16：1-18.

[2]L.O.Hall,I.B.Ozyurt,J.C.Bezdek,Clustering with a geneticallyoptimized approach[J].IEEE Trans.Evol.Comput，1999，3(2)：103–112.

[3]Y.Ding,X.Fu,Kernel-based Fuzzy C-Means Clustering Algorithm Basedon Genetic Algorithm[J].Neurocomputing,2015，188：233-238.

[4]A.X.Ye,Y.X.Jin,A fuzzy c-means clustering algorithm based onimproved quantum genetic algorithm[J].International Journal of DatabaseTheory and Application,2016,9(1)：227-236.

[5]L.Zhu,S.Qu,T.Du,Adaptive fuzzy clustering based on Geneticalgorithm[C].IEEE International Conference on Advanced Computer Control,2010,5：79-82.

[6]I.De Falco,A.Della Cioppa,E.Tarantino,Facing classificationproblems with Particle Swarm Optimization[J].Applied Soft Computing,2007，7(3)：652–658.

[7]H.Izakian,A.Abraham,Fuzzy c-means and fuzzy swarm for fuzzyclustering problem[J].Expert Systems with Applications,2011,38(3):1835–1838.

[8]T.M.S.Filho,B.A.Pimentel,R.M.C.R.Souza,A.L.I.Oliveira,Hybridmethods for fuzzy clustering based on fuzzy c-means and improved particleswarm optimization[J].Expert Systems with Applications,2015,42:6315–6328.

Claims (10)

1.一种基于自适应元胞遗传与优选模糊C-均值的混合聚类算法，其特征在于，该方法包括以下步骤：

步骤一、采用基于聚类中心的实值编码方式表达染色体，并利用Arnold Cat映射产生初始种群，依据模糊C-均值的聚类准则构造适应度函数；

步骤二、对于种群内的每个个体，分别解码得到各组聚类中心，分配隶属度、计算适应度值及种群的熵；

步骤三、加入改进的演化规则进行元胞状态的演化，并对每个个体进行选择、动态的交叉和基于熵的组合变异操作，得到新种群；

步骤四、判断模糊C-均值的融合时机，当达到条件则采用优选策略对该新种群内的个体进行选择，利用实施准则进行模糊C-均值迭代操作；

步骤五、判断是否达到终止条件，若不满足终止条件，则跳转至步骤三；若满足终止条件，输出最终的聚类结果。

2.如权利要求1所述的基于自适应元胞遗传与优选模糊C-均值的混合聚类算法，其特征在于，所述采用基于聚类中心的实值编码方式表达染色体，具体按照以下方法：

设元胞种群为Q＝{x₁,x₂...,x_i...,x_P},(1≤i≤P)，每个个体代表一组聚类中心，即数据样本的一种划分模式；则每条染色体x_i由编码长度为l＝c×d的实数表示，即：

x_i＝[x_i,1x_i,2…x_i,dx_i,d+1x_i,d+2…x_i,2d…x_i,c×(d-1)+1x_i,c×(d-1)+2…x_i,c×d] (1)

式中：c为聚类中心的个数,d为每个聚类中心的维度。

3.如权利要求1所述的基于自适应元胞遗传与优选模糊C-均值的混合聚类算法，其特征在于，所述利用Arnold Cat映射产生初始种群，是指利用Arnold Cat序列替代随机初始聚类中心，优化种群的初始分布；具体方法如下：

设α_n为Arnold Cat映射迭代n步产生的混沌变量，[x_jmin,x_jmax]为第j维变量的取值范围，则染色体x_i的第j维变量为：

x_ij＝x_jmin+α_n(x_jmax-x_jmin) (2)

其中x_jmin和x_jmax分别为给定数据集的每维度属性对应的最小值和最大值；重复上述过程，直到产生P条初始染色体。

4.如权利要求1所述的基于自适应元胞遗传与优选模糊C-均值的混合聚类算法，其特征在于，所述步骤一中适应度函数为模糊C-均值聚类目标函数的倒数。

5.如权利要求1所述的基于自适应元胞遗传与优选模糊C-均值的混合聚类算法，其特征在于，所述动态的交叉和基于熵的组合变异操作，是指自适应地改变每个个体的交叉、变异概率以及变异步长；具体包括以下步骤：

1)利用种群的平均、最大适应度值和S型函数设计自适应调整策略A，动态改变每个个体的交叉概率；具体定义如下：

设f_avg为第t代种群的平均适应度值；f_max为第t代种群的最大适应度值，f¹(x_i)为待交叉的两个个体中较大的适应度值，f²(x_i)为待变异个体x_i的适应度值；则待交叉个体的交叉概率为：

$P_c^t\left(i\right)={\mathrm{\φ}}_{Max}\·\frac{1}{1+{\mathrm{\μ}}_1\exp (-(f_{max}-f^1\left(x_i\right))/(f_{max}-f_{avg}\left)\right)}---\left(3\right)$

其中：φ_Max为最大交叉概率；μ₁为调节系数，控制着个体交叉概率衰减的幅度；

当f_avg＝f_max,f¹(x_i)＝f_max时,则

2)利用步骤1)计算所得到的交叉概率，对个体进行算术交叉操作，从而得到新染色体；

3)根据种群的熵DE(t)的变化给出变异操作的判定准则，具体如下：

设DE_max为种群的熵的最大值，为最小的检测阈值，且k₁为预设的扰动因子，γ为预设的大于4的整数，则当实施普通变异操作；当则实施大变异操作；即：

$P_m^t\left(i\right)=\left\{\begin{array}{cc}{P}_m\left(i\right),& {\mathrm{MET}}_{\min }^1<DE\left(t\right)\&le;{\mathrm{DE}}_{max}\\ \mathrm{\&gamma;}\&CenterDot;P_m\left(i\right),& 0<DE\left(t\right)\&le;{\mathrm{MET}}_{\min }^1\end{array}\right.---\left(4\right)$

4)利用种群的平均、最大适应度值和S型函数设计自适应调整策略B，动态改变每个个体的变异概率；P_m(i)具体定义如下：

设f_avg为第t代种群的平均适应度值；f_max为第t代种群的最大适应度值，f²(x_i)为待变异个体x_i的适应度值，则待变异个体的变异概率为：

其中：为最大变异概率；μ₂为调节系数，控制着个体变异概率P_m(i)衰减的幅度；

当f_avg＝f_max,f¹(x_i)＝f_max时,则

5)利用步骤4)计算所得到的变异概率，对个体进行改进的变异操作，具体定义如下：

设N(0,1)为正态分布随机数，α(t)为自适应调节的变异步长，则变异后的染色体为：

$\begin{array}{c}{x}_{ij}^{\&prime;}=x_{ij}+\mathrm{\&alpha;}\left(t\right)N(0,1)\\ \mathrm{\&alpha;}\left(t\right)=\mathrm{\&alpha;}\left(0\right)\&times;\exp (-\mathrm{\&kappa;}t/T_{max})\end{array}---\left(6\right)$

其中α(0)为初始变异步长，κ为时间常数，t和T_max分别为当前进化代数和最大进化代数。

6.如权利要求5所述的基于自适应元胞遗传与优选模糊C-均值的混合聚类算法，其特征在于，所述最大交叉概率φ_Max为0.99,调节系数μ₁为0.5。

7.如权利要求5所述的基于自适应元胞遗传与优选模糊C-均值的混合聚类算法，其特征在于，所述预设的扰动因子k₁为0.3，最大变异概率为0.1,调节系数μ₂为1.5，时间常数κ为5。

8.如权利要求1所述的基于自适应元胞遗传与优选模糊C-均值的混合聚类算法，其特征在于，所述判断模糊C-均值的融合时机，是指根据种群的熵的变化给出融合策略，以确定模糊C-均值何时操作，具体方法如下：

设为群体的收敛阈值，且其中k₂为预设的融合因子，决定自适应元胞遗传算法和模糊C-均值在整个搜索过程中所占比例，则融合策略如下：

策略1：表明第t代种群多样性维持在相对较高的水平，混合算法只利用改进的自适应元胞遗传算法进行全局搜索；

策略2：表明当前种群多样性降到相对低的水平且小于群体的收敛阈值，混合算法在完成遗传操作后开始利用模糊C-均值进行局部细致搜索。

9.如权利要求1所述的基于自适应元胞遗传与优选模糊C-均值的混合聚类算法，其特征在于，所述优选策略为黄金分割法。

10.如权利要求1所述的基于自适应元胞遗传与优选模糊C-均值的混合聚类算法，其特征在于，所述步骤四中利用实施准则进行模糊C-均值迭代操作；具体按照以下步骤：

步骤1、将种群所有个体按适应度大小进行排序，采用黄金分割法择优选取当前种群61.8％的靠前排序的优秀个体进行模糊C-均值局部搜索；

步骤2、对于步骤1选中的个体，按照以下的模糊C-均值操作进行优化:

(A)设置τ＝0，最大迭代次数G_d，分别解码各个体得到相应的聚类中心；

(B)计算其对应的隶属度；

(C)更新聚类中心；

(D)如果达到最大迭代次数G_d，通过编码新的聚类中心替换原来个体，并计算新个体的适应度；否则转至(B)；

步骤3、对种群中未被选择的个体保持原有元胞种群结构进行全局搜索。