CN109711460A - 初始聚类中心的获取方法及装置 - Google Patents

Abstract

本发明提供一种初始聚类中心的获取方法及装置，其中，该方法包括：对于待聚类的样本集合，通过遗传算法寻求到该样本集合的最优解，后续将该最优解作为聚类算法的初始聚类中心，采用上述方案，解决了相关技术中由于选择的初始聚类中心较差导致聚类算法效率低的问题，充分利用遗传算法计算全局最优解的优势，保证了将全局最优解或者次优解作为初始聚类中心，大幅提升了聚类效率。

Description

初始聚类中心的获取方法及装置

技术领域

本发明涉及数据处理领域，尤其涉及一种初始聚类中心的获取方法及装置。

背景技术

相关技术中，随着信息技术的高速发展，数据库应用的规模、范围和深度的不断扩大，导致积累了大量的数据，而这些激增的数据后面隐藏着许多重要的信息，此人们希望能够对其进行更高层次的分析，以便更好地利用这些数据。目前的数据库系统可以高效、方便地实现数据的录入、查询、统计等功能，但是无法发现数据中存在的各种关系和规则，更无法根据现有的数据预测未来的发展趋势。而数据聚类分析正是解决这一问题的有效途径，它是数据挖掘的重要组成部分，用于发现在数据库中未知的对象类，为数据挖掘提供有力的支持。聚类分析是一个极富有挑战性的研究领域，采用基于聚类分析方法的数据挖掘在实践中已取得了较好的效果。聚类分析也可以作为其他一些算法的预处理步骤，聚类可以作为一个独立的工具来获知数据的分布情况，使数据形成簇，其他算法再在生成的簇上进行处理，聚类算法既可作为特征和分类算法的预处理步骤，也可将聚类结果用于进一步关联分析。迄今为止，人们提出了许多聚类算法，所有这些算法都试图解决大规模数据的聚类问题。聚类分析还成功地应用在了模式识别、图像处理、计算机视觉、模糊控制等领域，并在这些领域中取得了长足的发展。

所谓聚类，就是将一个数据单位的集合分割成几个称为簇或类别的子集，每个类中的数据都有相似性，它的划分依据就是“物以类聚”。数据聚类分析是根据事物本身的特性,研究被聚类的对象进行类别划分的方法。聚类分析依据的原则是使同一聚簇中的对象具有尽可能大的相似性，而不同聚簇中的对象具有尽可能大的相异性，聚类分析主要解决的问题就是如何在没有先验知识的前提下，实现满足这种要求的聚簇的聚合。聚类分析称为无监督学习(Unsuper-vised Study)，主要体现在聚类学习的数据对象没有类别标记，需要由聚类学习算法自动计算。

但是和大多数非线性优化问题一样，聚类结果的好坏受初始值选择的影响很大，不合适的初始值，可能导致结果收敛到一个不希望的极小点或导致聚类的过程很慢。所以需要采用一种方式在聚类初始化时，尽量可以使用最优或次优初始值。

针对相关技术中由于选择的初始聚类中心较差导致聚类算法效率低的问题，目前还没有有效的解决方案。

发明内容

本发明提供的初始聚类中心的获取方法及装置，能够解决相关技术中由于选择的初始聚类中心较差导致聚类算法效率低的问题。

根据本发明的一个实施例，提供了一种初始聚类中心的获取方法，包括：获取待聚类的样本集合；通过遗传算法处理所述样本集合，获取所述样本集合的最优解；将所述最优解作为聚类算法的初始聚类中心。

获取待聚类的样本集合；

通过遗传算法处理所述样本集合，获取所述样本集合的最优解；

将所述最优解作为聚类算法的初始聚类中心。

可选地，所述通过遗传算法处理所述样本集合，获取所述样本集合的最优解，包括：

步骤一，将所述样本集合中的样本进行编码，获取对应的染色体；

步骤二，获取每个染色体的适应度；

步骤三，依据适应度，对每个染色体进行遗传算法处理；

步骤四，重复迭代执行步骤二至步骤三直至满足预设条件，获取当前结果为最优解。

可选地，所述依据适应度，对每个染色体进行遗传算法处理，包括：

在检测到存在第一染色体在N代进化前后，均为适应度最大的染色体，且未达到所述预设条件时，增加一个或多个染色体的变异概率。

可选地，所述依据适应度，对每个染色体进行遗传算法处理，包括以下至少之一：

将适应度高于阈值的染色体保留至下一代；

依据预设公式获取每个染色体被选择的概率，依据所述概率选择染色体，并对被选择的染色体进行染色体交叉操作，和/或，染色体变异操作。

可选地，依据遗传算法适应度函数和聚类算法适应度函数，获取第一适应度函数；

依据所述第一适应度函数对每个染色体进行计算，获取每个染色体的适应度

根据本发明的另一个实施例，还提供了一种初始聚类中心的获取装置，包括：第一获取模块，用于获取待聚类的样本集合；第二获取模块，用于通过遗传算法处理所述样本集合，获取所述样本集合的最优解；确定模块，用于将所述最优解作为聚类算法的初始聚类中心。

可选地，所述第二获取模块还用于执行以下步骤：

步骤一，将所述样本集合中的样本进行编码，获取对应的染色体；

步骤二，获取每个染色体的适应度；

步骤三，依据适应度，对每个染色体进行遗传算法处理；

步骤四，重复迭代执行步骤二至步骤三直至满足预设条件，获取当前结果为最优解。

可选地，所述第一获取模块还用于在检测到存在第一染色体在N代进化前后，均为适应度最大的染色体，且未达到所述预设条件时，增加一个或多个染色体的变异概率。

根据本发明的另一个实施例，还提供了一种存储介质，所述存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行上述实施例中任一项所述的方法。

根据本发明的另一个实施例，还提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行上述实施例任一项中所述的方法。

通过上述步骤，对于待聚类的样本集合，通过遗传算法寻求到该样本集合的最优解，后续将该最优解作为聚类算法的初始聚类中心，采用上述方案，解决了相关技术中由于选择的初始聚类中心较差导致聚类算法效率低的问题，充分利用遗传算法计算全局最优解的优势，保证了将全局最优解或者次优解作为初始聚类中心，大幅提升了聚类效率。

附图说明

图1是根据本发明实施例的初始聚类中心的获取方法流程图；

图2是根据本发明另一个实施例的遗传算法流程图；

图3是根据相关技术中的选择聚类算法的初始点的示意图；

图4是根据相关技术中的聚类收敛后的效果示意图；

图5是根据本发明另一个实施例的改进的聚类算法选择初始点的示意图；

图6是根据本发明另一个实施例的改进的聚类算法进行聚类收敛后的效果图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

相关技术中，遗传算法是由美国的J.Holland在1975年首先提出的,它是一类借鉴了生物界自然选择和自然遗传机制的随机化搜索算法。Holland教授提出了将生物的遗传机制应用到人工自适应系统中,每一代进化都以种群为基础,即在一大组解中进行自适应搜索。并且他还将生物遗传中的交叉、变异等遗传操作应用到了自适应搜索中。70年代初,他提出了遗传算法的基本定理，即模式定理。模式定理揭示出了群体中的优良个体较好的模式的样本数将以指数级规律增长,因而在理论上保证了遗传算法可以用来寻求最优可行解,而且是一个全局随机搜索算法。

本发明实施例提供一种初始聚类中心的获取方法，图1是根据本发明实施例的初始聚类中心的获取方法流程图，如图1所示，所述方法包括：

S11、获取待聚类的样本集合；

S12、通过遗传算法处理所述样本集合，获取所述样本集合的最优解；

S13、将所述最优解作为聚类算法的初始聚类中心。

通过上述步骤，对于待聚类的样本集合，通过遗传算法寻求到该样本集合的最优解，后续将该最优解作为聚类算法的初始聚类中心，采用上述方案，解决了相关技术中由于选择的初始聚类中心较差导致聚类算法效率低的问题，充分利用遗传算法计算全局最优解的优势，保证了将全局最优解或者次优解作为初始聚类中心，大幅提升了聚类效率。

可选地，通过遗传算法处理所述样本集合，获取所述样本集合的最优解，包括：步骤一，将所述样本集合中的样本进行编码，获取对应的染色体；步骤二，获取每个染色体的适应度；步骤三，依据适应度，对每个染色体进行遗传算法处理；步骤四，重复迭代执行步骤二至步骤三直至满足预设条件，获取当前结果为最优解。

上述实施例的步骤一中，可以直接使用聚类中心在样本集合中的编号来表示染色体。上述步骤四中的预设条件可以是重复迭代的次数，或者对染色体的适应度进行观察确定达到预设条件，例如确定当前适应度最大的染色体已经接近全局最优解，则可以认为达到预设条件。

可选地，依据适应度，对每个染色体进行遗传算法处理，包括：在检测到存在第一染色体在N代进化前后，均为适应度最大的染色体，且未达到所述预设条件时，增加一个或多个染色体的变异概率。此处的增加染色体的变异概率，可以称为灾变。采用上述方案，避免了遗传算法陷入局部最优解的计算，确保计算结果为全局最优解。

可选地，依据适应度，对每个染色体进行遗传算法处理，包括以下至少之一：将适应度高于阈值的染色体保留至下一代；依据预设公式获取每个染色体被选择的概率，依据所述概率选择染色体，并对被选择的染色体进行染色体交叉操作，和/或，染色体变异操作。

可选地，获取每个染色体的适应度，包括：依据遗传算法适应度函数和聚类算法适应度函数，获取第一适应度函数；依据所述第一适应度函数对每个染色体进行计算，获取每个染色体的适应度。采用该方案，获取的第一适应度函数充分考虑了遗传算法和聚类算法两类算法，使得第一适应度函数计算出的染色体适应度，更加符合本发明实施例描述的场景，同时满足了遗传算法和聚类算法的特性，也提升了计算效率。

下面结合本发明另一个实施例进行说明。

相关技术中遗传算法已被广泛应用到解决复杂组合优化问题等方面,并形成了一套通用的框架,在遗传算法进行搜索最优解的过程中,并不需要考虑问题的内在关联,而仅仅需要考虑适应度函数,适应度函数是决定遗传算法何时收敛的关键因素。

遗传算法模拟自然选择和自然遗传过程中的繁殖、交叉和基因突变的现象,在每次迭代中都保留一组候选解,并根据某种指标特性从众多解中选择较优的个体,利用遗传算子对这些个体进行组合,产生新一代的候选解,不断将此过程进行迭代,直到满足某种收敛指标为止。

将遗传算法对应到搜索最优解的问题中，首先需对解进行编码，每一个解的编码就相当于个体的染色体，确定解的编码方式后，通过随机生成的方法生成初始种群，并通过适应度函数获得每个个体的适应度，然后进行遗传操作：交叉、变异、选择，通过“交叉”“变异”产生新的解，通过“选择”保存当前最优或次解到下一代。经过若干次迭代后,算法将会收敛于最优染色体，即问题的最优解或次优解。图2是根据本发明另一个实施例的遗传算法流程图，包括以下步骤：

步骤一，输入初始化信息；

步骤二，对解进行编码；

步骤三，生成初始种群，t＝0；

步骤四，计算个体的适应值；

步骤五，执行遗传操作，包括交叉算子，变异算子，选择算子；

步骤六，产生新的种群，可以记为t++；

步骤七，判断t是否大于预设值T，如果是，转至步骤八，如果否，转至步骤四；

步骤八，输出最优解，即将当前计算结果作为最优解。

利用遗传算法可以对聚类最优的初始中心作出选择，这样不仅提高了聚类的效率，更提高了聚类结果的准确性。

除了遗传算法，还有一些其他算法与聚类相结合，来解决初始中心的问题，比如模拟退火算法，它是基于Mente-Carlo迭代求解策略的一种随机寻优算法，其出发点是基于物理中固体物质的退火过程与一般组合优化问题之间的相似性。模拟退火算法从某一较高初温出发，伴随温度参数的不断下降,结合概率突跳特性在解空间中随机寻找目标函数的全局最优解，即在局部最优解能概率性地跳出并最终趋于全局最优。

模拟退火算法的关键在于控制温度(概率)降低快慢的参数r，这个参数范围是0<r<1。如果参数r过大，则搜索到全局最优解的可能会较高，但搜索的过程也就较长。若r过小，则搜索的过程会很快，但最终可能会达到一个局部最优值而不是全局最优解。

本发明实施例中记载了一种改进的遗传算法与聚类算法相结合的算法IGA_Clustering，在该算法中首先使用遗传算法对聚类中心进行优化，待优化结束后，再执行聚类。

注意事项如下：将聚类中心作为染色体的个体编码；在遗传算法在进行每一代的进化后，需要保留当前最优解，也就是说通过适应度函数，来甄别每个个体是否进入下一代，如果适应度高，直接进入下一代；在算法行进过程中，会采用限制迭代次数和观察适应度变化的方式，目的是缩短遗传算法执行的时间，提高整体效率。

遗传算法的主要步骤如下：

步骤一，编码

在染色体的编码过程中，可以直接使用聚类中心在样本集合中的编号来表示聚类中心，这样做的优点是不会使染色体的编码过长。具体的表示形式如下：

b1,b2,b3,……bc

c表示聚类数；

bi(i＝1,2,……c)表示第i个聚类中心对应的样本编号；

n表示样本个数；

步骤二，适应度函数

在整个遗传算法中，决定个体是否优秀，是否能够遗传到下一代的决定因素是适应度函数，而在聚类算法中，最优的聚类结果应为目标函数的最小值，也就是说，目标函数越小，适应度越大。

在IGA_Clustering算法中，将遗传算法的适应度函数与聚类算法的目标函数相结合，借助其目标函数适应度函数定义如下：

步骤三，遗传操作(选择、灾变、交叉、变异)

1.选择算子

遗传算法中的选择操作目标是选出优秀的个体，选择过程如下：

1)通过适应度函数计算各个个体的适应度；

2)适应度高的个体直接进入下一代；

3)最后根据公式计算每个个体的选择概率P；

在进行选择算子构造时，需要考虑一个可能存在的严重问题，假设种群进化代数被设置为N,当种群进化到第k代时(k<N)，产生最佳适应度的解，如果不加以控制，最优解有很大几率进化到k+1代，即继续参与遗传操作，那么在k+1代，最优染色体与其他染色体很可能发生遗传操作，简单说，最优解在随后的进化过程中被破坏了。

为了避免此类问题的发生，可以引入“最优保留”策略。也就是在完成一次遗传操作的过程后，系统会保留当前拥有最优适应度的染色体，在每一代进化完成后，系统会替换在当前代中适应度最低的染色体，这样做，可以使种群在进化过程中，染色体的适应度不断优化。

引入了“最优保留”策略确保了最优解在一定程度不会被替换，而在实际系统执行过程中，可以发现，如果在遗传操作过程中，如果产生了一个适应度较大的染色体(并不是最优解)，在进行一定代进化后，并没有产生比其适应度更大的染色体，那求解过程此时就陷入了局部最优解(虽然几率很小)。

为了避免陷入局部最优解，可以在遗传操作中引入“灾变”。“灾变”过程在下一节中介绍。

2.灾变

“灾变”是一个地质学理论，根据灾变的观点，类似海洋干涸成陆地、火山爆发、洪水泛滥，都是突发性的灾变结果。灾变过后，个别生存能力强的生物被保存下来。在遗传算法中引入“灾变”，可以在基因进化陷入局部最优解时触发“灾变”过程，使得整个遗传算法摆脱陷入局部最优解的可能。

当基因在进化过程中，当前最优适应度在预定义的进化代数内始终保持不变，即触发灾变执行流程，灾变的过程可以将变异概率突然增大，即增加变异概率。

算法实现流程如下：

3.交叉算子

交叉操作的主要步骤如下：

1)随机产生一个概率值R,如果R<Pc(Pc是交叉概率)，则继续执行，否则退出交叉操作。

2)根据染色体的长度，随机生成交叉点；

3)将选中的两个父个体，从交叉点开始进行基因互换，形成新个体；

算法实现流程如下：

4.变异算子

变异操作的主要步骤如下：

1)随机产生一个概率值R,如果R<Pm(Pm是变异概率)，则继续执行，否则退出变异操作。

2)根据染色体的长度，随机生成变异点；

3)随机生成一个[1,n]的整数，将变异点的基因数值用新产生的整数替代；

上述记载了遗传算法的步骤一至步骤三，下面对本发明技术方案的实验效果进行说明。

相关技术中在使用聚类算法，随机选择初始点，图3是根据相关技术中的选择聚类算法的初始点的示意图，初始点分布如图3所示。图4是根据相关技术中的聚类收敛后的效果示意图。

采用本发明另一个实施例的方案，在使用遗传算法与聚类算法相结合后，优化了初始位置的选择，图5是根据本发明另一个实施例的改进的聚类算法选择初始点的示意图。图6是根据本发明另一个实施例的改进的聚类算法进行聚类收敛后的效果图。

由上述四幅图对比可知，采用本发明另一个实施例记载的方案后，聚类收敛的效果更好，相应的聚类效率更高。

本发明实施例还提供一种初始聚类中心的获取装置，所述装置包括：

第一获取模块，用于获取待聚类的样本集合；

第二获取模块，用于通过遗传算法处理所述样本集合，获取所述样本集合的最优解；

确定模块，用于将所述最优解作为聚类算法的初始聚类中心。

采用上述装置，对于待聚类的样本集合，通过遗传算法寻求到该样本集合的最优解，后续将该最优解作为聚类算法的初始聚类中心，采用上述方案，解决了相关技术中由于选择的初始聚类中心较差导致聚类算法效率低的问题，充分利用遗传算法计算全局最优解的优势，保证了将全局最优解或者次优解作为初始聚类中心，大幅提升了聚类效率。

可选地，所述第二获取模块还用于执行以下步骤：步骤一，将所述样本集合中的样本进行编码，获取对应的染色体；步骤二，获取每个染色体的适应度；步骤三，依据适应度，对每个染色体进行遗传算法处理；步骤四，重复迭代执行步骤二至步骤三直至满足预设条件，获取当前结果为最优解。

可选地，所述第一获取模块还用于在检测到存在第一染色体在N代进化前后，均为适应度最大的染色体，且未达到所述预设条件时，增加一个或多个染色体的变异概率。

本实施例的装置，可以用于执行上述方法实施例的技术方案，其实现原理和技术效果类似，此处不再赘述。

根据本发明的另一个实施例，还提供了一种存储介质，所述存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行上述实施例中任一项所述的方法。

根据本发明的另一个实施例，还提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行上述实施例任一项中所述的方法。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)或随机存储记忆体(Random AccessMemory，RAM)等。

以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应该以权利要求的保护范围为准。

Claims (10)

1.一种初始聚类中心的获取方法，其特征在于，包括：

获取待聚类的样本集合；

通过遗传算法处理所述样本集合，获取所述样本集合的最优解；

将所述最优解作为聚类算法的初始聚类中心。

2.根据权利要求1所述的方法，其特征在于，所述通过遗传算法处理所述样本集合，获取所述样本集合的最优解，包括：

步骤一，将所述样本集合中的样本进行编码，获取对应的染色体；

步骤二，获取每个染色体的适应度；

步骤三，依据适应度，对每个染色体进行遗传算法处理；

步骤四，重复迭代执行步骤二至步骤三直至满足预设条件，获取当前结果为最优解。

3.根据权利要求2所述的方法，其特征在于，所述依据适应度，对每个染色体进行遗传算法处理，包括：

在检测到存在第一染色体在N代进化前后，均为适应度最大的染色体，且未达到所述预设条件时，增加一个或多个染色体的变异概率。

4.根据权利要求2所述的方法，其特征在于，所述依据适应度，对每个染色体进行遗传算法处理，包括以下至少之一：

将适应度高于阈值的染色体保留至下一代；

依据预设公式获取每个染色体被选择的概率，依据所述概率选择染色体，并对被选择的染色体进行染色体交叉操作，和/或，染色体变异操作。

5.根据权利要求2所述的方法，其特征在于，所述获取每个染色体的适应度，包括：

依据遗传算法适应度函数和聚类算法适应度函数，获取第一适应度函数；

依据所述第一适应度函数对每个染色体进行计算，获取每个染色体的适应度。

6.一种初始聚类中心的获取装置，其特征在于，包括：

第一获取模块，用于获取待聚类的样本集合；

第二获取模块，用于通过遗传算法处理所述样本集合，获取所述样本集合的最优解；

确定模块，用于将所述最优解作为聚类算法的初始聚类中心。

7.根据权利要求6所述的装置，其特征在于，所述第二获取模块还用于执行以下步骤：

步骤一，将所述样本集合中的样本进行编码，获取对应的染色体；

步骤二，获取每个染色体的适应度；

步骤三，依据适应度，对每个染色体进行遗传算法处理；

步骤四，重复迭代执行步骤二至步骤三直至满足预设条件，获取当前结果为最优解。

8.根据权利要求7所述的装置，其特征在于，所述第一获取模块还用于在检测到存在第一染色体在N代进化前后，均为适应度最大的染色体，且未达到所述预设条件时，增加一个或多个染色体的变异概率。

9.一种存储介质，其特征在于，所述存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行所述权利要求1至5任一项中所述的方法。

10.一种电子装置，包括存储器和处理器，其特征在于，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行所述权利要求1至5任一项中所述的方法。