CN106649877A - 一种基于密度峰值的大数据挖掘方法及装置 - Google Patents
一种基于密度峰值的大数据挖掘方法及装置 Download PDFInfo
- Publication number
- CN106649877A CN106649877A CN201710011108.4A CN201710011108A CN106649877A CN 106649877 A CN106649877 A CN 106649877A CN 201710011108 A CN201710011108 A CN 201710011108A CN 106649877 A CN106649877 A CN 106649877A
- Authority
- CN
- China
- Prior art keywords
- data
- density
- preset
- distance
- local
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2465—Query processing support for facilitating data mining operations in structured databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
- G06F16/285—Clustering or classification
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Fuzzy Systems (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例公开了一种基于密度峰值的大数据挖掘方法及装置,本发明实施例包括:第一阶段:使用密度峰值聚类算法选定初始聚类中心;第二阶段,确定初始聚类数目以及对传统模糊C‑均值算法的加速收敛。在第一阶段算法中,通过使用密度峰值聚类中提供决策图,选定初始聚类中心,选择完成后,初始聚类中心数目即为聚类中心数,无需人工指定聚类数目。在第二阶段算法中,对传统模糊C‑均值算法的迭代过程进行优化,考虑局部密度对算法的影响,加入密度加权因子,使算法能够加速获取全局最优解,且加入振荡因子,使得算法能够加快收敛。
Description
技术领域
本发明涉及数据挖掘领域,尤其涉及一种基于密度峰值的大数据挖掘方法及装置。
背景技术
聚类是将样本空间的所有对象划分成若干组,使得同一个组内的对象具有很高的相似性,而不同组间的对象具有很大的差异性。其中,模糊C-均值聚类作为模糊聚类的典型代表,具有广泛的应用。然而,模糊C-均值聚类算法存在一些缺点,主要表现在对初始聚类中心敏感,容易收敛于局部最优,收敛速度慢等。
密度峰值算法(Clustering by fast search and find of density peaks,CFSFDP)是一种基于密度聚类的启发式算法。密度峰值聚类基于这样的一种假设:对于一个数据集,聚类中心被一些低局部密度的数据点包围,而且这些低局部密度的点距离其他有高局部密度的点的距离都比较大。在这样的模型中,密度峰值算法主要有两个需要计算的量:第一,局部密度;第二,与高密度点之间的距离。密度峰值算法具有能够快速并准确地确定聚类中心,收敛速度快、容易收敛于全局最优、鲁棒性强等优点。
因此,提出一种基于密度峰值算法改进的模糊C-均值聚类算法是本领域技术人员需要解决的技术问题。
发明内容
本发明实施例提供了一种基于密度峰值的大数据挖掘方法及装置,无需指定聚类数目且加快了收敛速度。
本发明实施例提供了一种基于密度峰值的大数据挖掘方法,包括:
S1:获取到数据集,并计算所述数据集的每两个数据之间的欧氏距离,得到距离矩阵;
S2:获取到预置截断距离,并通过第一预置公式对所述距离矩阵和所述截断距离进行计算,得到所述数据集的各个数据的局部密度,并根据所述各个数据的局部密度确定各个数据的高密度距离;
S3:构造以局部密度为横轴、高密度距离为纵轴的决策图,根据所述各个数据的局部密度和所述各个数据的高密度距离在所述决策图上选取聚类中心;
S4:通过第二预置公式对所述聚类中心、预置密度加权系数、预置振荡因子进行计算得到隶属度矩阵,根据所述隶属度矩阵和所述距离矩阵构造目标函数,并将预置迭代次数的值增加一;
S5:若所述目标函数小于预置容许误差或所述预置迭代次数不小于预置最大迭代次数,则结束,若所述目标函数不小于预置容许误差或所述预置迭代次数小于预置最大迭代次数,则执行S3。
优选地,所述根据所述各个数据的局部密度确定各个数据的高密度距离具体为:
通过第三预置公式并根据所述各个数据的局部密度对所述距离矩阵进行选取得到各个数据的高密度距离,并通过预置第四公式对局部密度最大的数据进行计算得到所述局部密度最大的数据的高密度距离。
优选地,所述第一预置公式为:
其中,当dij-dc<0时,χ(dij-dc)=1,否则χ(dij-dc)=0;dc是一个截断距离;dij为第i个数据到第j个数据的欧式距离。
优选地,所述预置第二公式为:
其中,τ为预置密度加权系数;λ为预置振荡因子;mò(1,∞)为模糊系数;ck为第k个聚类中心;||xi-cj||表示xi到cj的欧式距离;xi表示第i个数据。
优选地,所述预置密度加权系数的值通过以下预置公式确认:
其中,ρi为第i个数据的局部密度;cj为第j个聚类中心;||xi-cj||表示xi到cj的欧式距离;xi表示第i个数据;d为数据集的每两个数据之间的欧氏距离。
优选地,所述第三预置公式为:
其中,δi为第i个数据是任意比第i个数据密度大的数据的距离的最小值;dij为第i个数据到第j个数据的欧式距离。
优选地,所述第四预置公式为:
δi=maxj∈dataset(dij)。
优选地,所述目标函数为:
其中,mò(1,∞)为模糊系数;uij为第i个数据对第j个数据簇的隶属度;cj为第j个聚类中心;||xi-cj||表示xi到cj的欧式距离;xi表示第i个数据。
优选地,本发明实施例还提供了一种基于密度峰值的大数据挖掘装置,包括:
第一计算单元,用于获取到数据集,并计算所述数据集的每两个数据之间的欧氏距离,得到距离矩阵;
第二计算单元,获取到预置截断距离,并通过第一预置公式对所述距离矩阵和所述截断距离进行计算,得到所述数据集的各个数据的局部密度,并根据所述各个数据的局部密度确定各个数据的高密度距离;
选取单元,用于构造以局部密度为横轴、高密度距离为纵轴的决策图,根据所述各个数据的局部密度和所述各个数据的高密度距离在所述决策图上选取聚类中心;
第三计算单元,用于通过第二预置公式对所述聚类中心、预置密度加权系数、预置振荡因子进行计算得到隶属度矩阵,根据所述隶属度矩阵和所述距离矩阵构造目标函数,并将预置迭代次数的值增加一;
判断单元,用于若所述目标函数小于预置容许误差或所述预置迭代次数不小于预置最大迭代次数,则结束,若所述目标函数不小于预置容许误差或所述预置迭代次数小于预置最大迭代次数,则触发选取单元。
优选地,所述第二计算单元包括:
第一计算子单元,用于通过第三预置公式并根据所述各个数据的局部密度对所述距离矩阵进行选取得到各个数据的高密度距离;
第二计算子单元,用于通过预置第四公式对局部密度最大的数据进行计算得到所述局部密度最大的数据的高密度距离。
从以上技术方案可以看出,本发明实施例具有以下优点:
本发明实施例提供了一种基于密度峰值的大数据挖掘方法及装置,其中,该基于密度峰值的大数据挖掘方法包括:S1:获取到数据集,并计算所述数据集的每两个数据之间的欧氏距离,得到距离矩阵;S2:获取到预置截断距离,并通过第一预置公式对所述距离矩阵和所述截断距离进行计算,得到所述数据集的各个数据的局部密度,并根据所述各个数据的局部密度确定各个数据的高密度距离;S3:构造以局部密度为横轴、高密度距离为纵轴的决策图,根据所述各个数据的局部密度和所述各个数据的高密度距离在所述决策图上选取聚类中心;S4:通过第二预置公式对所述聚类中心、预置密度加权系数、预置振荡因子进行计算得到隶属度矩阵,根据所述隶属度矩阵和所述距离矩阵构造目标函数,并将预置迭代次数的值增加一;S5:若所述目标函数小于预置容许误差或所述预置迭代次数不小于预置最大迭代次数,则结束,若所述目标函数不小于预置容许误差或所述预置迭代次数小于预置最大迭代次数,则执行S3。本发明实施例包括:第一阶段:使用密度峰值聚类算法选定初始聚类中心;第二阶段,确定初始聚类数目以及对传统模糊C-均值算法的加速收敛。在第一阶段算法中,通过使用密度峰值聚类中提供决策图,选定初始聚类中心,选择完成后,初始聚类中心数目即为聚类中心数,无需人工指定聚类数目。在第二阶段算法中,对传统模糊C-均值算法的迭代过程进行优化,考虑局部密度对算法的影响,加入密度加权因子,使算法能够加速获取全局最优解,且加入振荡因子,使得算法能够加快收敛。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其它的附图。
图1为本发明实施例提供的一种基于密度峰值的大数据挖掘方法的流程示意图;
图2为本发明实施例提供的一种基于密度峰值的大数据挖掘方法的另一流程示意图;
图3为本发明实施例提供的一种基于密度峰值的大数据挖掘装置的结构示意图;
图4为决策图示意图;
图5为本发明实施例提供的一种基于密度峰值的大数据挖掘方法的算法流程示意图。
具体实施方式
本发明实施例提供了一种基于密度峰值的大数据挖掘方法及装置,无需指定聚类数目且加快了收敛速度。
为使得本发明的发明目的、特征、优点能够更加的明显和易懂,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,下面所描述的实施例仅仅是本发明一部分实施例,而非全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
请参阅图1,本发明实施例提供的一种基于密度峰值的大数据挖掘方法的一个实施例,包括:
101、获取到数据集,并计算数据集的每两个数据之间的欧氏距离,得到距离矩阵;
102、获取到预置截断距离,并通过第一预置公式对距离矩阵和截断距离进行计算,得到数据集的各个数据的局部密度,并根据各个数据的局部密度确定各个数据的高密度距离;
103、构造以局部密度为横轴、高密度距离为纵轴的决策图,根据各个数据的局部密度和各个数据的高密度距离在决策图上选取聚类中心;
104、通过第二预置公式对聚类中心、预置密度加权系数、预置振荡因子进行计算得到隶属度矩阵,根据隶属度矩阵和距离矩阵构造目标函数,并将预置迭代次数的值增加一;
105、若目标函数小于预置容许误差或预置迭代次数不小于预置最大迭代次数,则结束,若目标函数不小于预置容许误差或预置迭代次数小于预置最大迭代次数,则执行103。
请参阅图2,本发明实施例提供的一种基于密度峰值的大数据挖掘方法的另一个实施例,包括:
201、获取到数据集,并计算数据集的每两个数据之间的欧氏距离,得到距离矩阵;
202、获取到预置截断距离,并通过第一预置公式对距离矩阵和截断距离进行计算,得到数据集的各个数据的局部密度,通过第三预置公式并根据各个数据的局部密度对距离矩阵进行选取得到各个数据的高密度距离,并通过预置第四公式对局部密度最大的数据进行计算得到局部密度最大的数据的高密度距离;
203、构造以局部密度为横轴、高密度距离为纵轴的决策图,根据各个数据的局部密度和各个数据的高密度距离在决策图上选取聚类中心;
204、通过第二预置公式对聚类中心、预置密度加权系数、预置振荡因子进行计算得到隶属度矩阵,根据隶属度矩阵和距离矩阵构造目标函数,并将预置迭代次数的值增加一;
205、若目标函数小于预置容许误差或预置迭代次数不小于预置最大迭代次数,则结束,若目标函数不小于预置容许误差或预置迭代次数小于预置最大迭代次数,则执行203。
进一步地,第一预置公式为:
其中,当dij-dc<0时,χ(dij-dc)=1,否则χ(dij-dc)=0;dc是一个截断距离;dij为第i个数据到第j个数据的欧式距离。
进一步地,预置第二公式为:
其中,τ为预置密度加权系数;λ为预置振荡因子;mò(1,∞)为模糊系数;ck为第k个聚类中心;||xi-cj||表示xi到cj的欧式距离;xi表示第i个数据。
进一步地,预置密度加权系数的值通过以下预置公式确认:
其中,ρi为第i个数据的局部密度;cj为第j个聚类中心;||xi-cj||表示xi到cj的欧式距离;xi表示第i个数据;d为数据集的每两个数据之间的欧氏距离。
进一步地,第三预置公式为:
其中,δi为第i个数据是任意比第i个数据密度大的数据的距离的最小值;dij为第i个数据到第j个数据的欧式距离。
进一步地,第四预置公式为:
δi=maxj∈dataset(dij)。
进一步地,目标函数为:
其中,mò(1,∞)为模糊系数;uij为第i个数据对第j个数据簇的隶属度;cj为第j个聚类中心;||xi-cj||表示xi到cj的欧式距离;xi表示第i个数据。
上面是对一种基于密度峰值的大数据挖掘方法进行的详细说明,为便于理解,下面将以一具体应用场景对一种基于密度峰值的大数据挖掘方法的应用进行说明,应用例包括:
给定数据集X={x1,x2,...,xn},X中有n个对象,其中每个对象有d个维度.聚类就是将数据集中的n个数据划分成c个簇,得到的结果为聚类中心集为C={C1,...,Cc}.与传统聚类不同,模糊聚类在划分时,每个对象不是被严格地划分到每个聚类中,而是用对象与类的隶属度来描述,隶属度公式如公式(2)所示,隶属度矩阵如下:
U={uij},i=1,...,n,j=1,....,c (1)
其中uij表示第i个数据对第j个数据簇的隶属度,其实际值可用下面公式求得:
其中,mò(1,∞)为模糊系数,ck为第k个聚类中心点,||xi-cj||表示xi到cj的距离,这里一般用欧式距离进行计算。
而聚类结果的优劣,使用目标函数进行评价,模糊C均值聚类的目标函数J是:
目标函数表示各类数据到相应聚类中心的加权距离平方和。
如图5所示,本发明提供的方法包含两个阶段:
1.第一阶段:使用密度峰值聚类获取聚类数目与初始聚类中心
1.1.初始化,算法执行前,初始化参数,初始化模糊系数m,容许误差ε。最大迭代次数。
1.2.计算出各数据点之间的距离矩阵D={dij},i,j=1,...,n。计算各个数据点之间的距离,一般参与欧式距离进行计算。
1.3.初始化截断距离dc,其中截断距离是为了计算后面的局部密度而提供的参考量。下面会进行说明。
1.4.分别用公式(4)与(6)求出每个数据点i的局部密度ρi与高密度距离δi。
其中,数据点i的局部密度ρi定义如下:
其中,当x<0时,χ(x)=1。否则χ(x)=0,dc是一个截断距离。对于大量数据而言,局部密度实质为数据点之间的相对密度,因此dc的选择对算法是鲁棒(robust)的。
数据点i的δi是点到任何比其密度大的点的距离的最小值,定义如下:
对于局部密度最大的点,需要特殊处理,该点的值为:
δi=maxj∈dataset(dij) (6)
1.5.构造以ρ为横轴,δ为纵轴的决策图,如图4所示。根据决策图选择数据点密度ρ和高密度距离δ聚类都较高,且明显远离大部分样本的右上角区域的密度峰值点为聚类中心。确定初始聚类中心后,聚类中心数即为聚类数目。
2.第二阶段:加速迭代聚类算法
2.1.考虑局部密度对数据聚类的影响,使用密度加权系数能够加快数据的收敛,使用新隶属度公式(7)更新隶属度矩阵。
其中τ为密度加权系数,其值为λ为振荡因子。
2.2.如果目标函数或者达到最大的迭代次数,则停止,否则继续下一步。
2.3.使用步骤1.5重新计算模糊聚类中心,跳到步骤2.1。
请参阅图3,本发明实施例提供的一种基于密度峰值的大数据挖掘装置的一个实施例,包括:
第一计算单元301,用于获取到数据集,并计算数据集的每两个数据之间的欧氏距离,得到距离矩阵;
第二计算单元302,获取到预置截断距离,并通过第一预置公式对距离矩阵和截断距离进行计算,得到数据集的各个数据的局部密度,并根据各个数据的局部密度确定各个数据的高密度距离;
选取单元303,用于构造以局部密度为横轴、高密度距离为纵轴的决策图,根据各个数据的局部密度和各个数据的高密度距离在决策图上选取聚类中心;
第三计算单元304,用于通过第二预置公式对聚类中心、预置密度加权系数、预置振荡因子进行计算得到隶属度矩阵,根据隶属度矩阵和距离矩阵构造目标函数,并将预置迭代次数的值增加一;
判断单元305,用于若目标函数小于预置容许误差或预置迭代次数不小于预置最大迭代次数,则结束,若目标函数不小于预置容许误差或预置迭代次数小于预置最大迭代次数,则触发选取单元。
第二计算单元302包括:
第一计算子单元3021,用于通过第三预置公式并根据各个数据的局部密度对距离矩阵进行选取得到各个数据的高密度距离;
第二计算子单元3022,用于通过预置第四公式对局部密度最大的数据进行计算得到局部密度最大的数据的高密度距离。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种基于密度峰值的大数据挖掘方法,其特征在于,包括:
S1:获取到数据集,并计算所述数据集的每两个数据之间的欧氏距离,得到距离矩阵;
S2:获取到预置截断距离,并通过第一预置公式对所述距离矩阵和所述截断距离进行计算,得到所述数据集的各个数据的局部密度,并根据所述各个数据的局部密度确定各个数据的高密度距离;
S3:构造以局部密度为横轴、高密度距离为纵轴的决策图,根据所述各个数据的局部密度和所述各个数据的高密度距离在所述决策图上选取聚类中心;
S4:通过第二预置公式对所述聚类中心、预置密度加权系数、预置振荡因子进行计算得到隶属度矩阵,根据所述隶属度矩阵和所述距离矩阵构造目标函数,并将预置迭代次数的值增加一;
S5:若所述目标函数小于预置容许误差或所述预置迭代次数不小于预置最大迭代次数,则结束,若所述目标函数不小于预置容许误差或所述预置迭代次数小于预置最大迭代次数,则执行S3。
2.根据权利要求1所述的基于密度峰值的大数据挖掘方法,其特征在于,所述根据所述各个数据的局部密度确定各个数据的高密度距离具体为:
通过第三预置公式并根据所述各个数据的局部密度对所述距离矩阵进行选取得到各个数据的高密度距离,并通过预置第四公式对局部密度最大的数据进行计算得到所述局部密度最大的数据的高密度距离。
3.根据权利要求1所述的基于密度峰值的大数据挖掘方法,其特征在于,所述第一预置公式为:
其中,当dij-dc<0时,χ(dij-dc)=1,否则χ(dij-dc)=0;dc是一个截断距离;dij为第i个数据到第j个数据的欧式距离。
4.根据权利要求1所述的基于密度峰值的大数据挖掘方法,其特征在于,所述预置第二公式为:
其中,τ为预置密度加权系数;λ为预置振荡因子;mò(1,∞)为模糊系数;ck为第k个聚类中心;||xi-cj||表示xi到cj的欧式距离;xi表示第i个数据。
5.根据权利要求4所述的基于密度峰值的大数据挖掘方法,其特征在于,所述预置密度加权系数的值通过以下预置公式确认:
当||xi-cj||<(dmax-dmin)/4
其中,ρi为第i个数据的局部密度;cj为第j个聚类中心;||xi-cj||表示xi到cj的欧式距离;xi表示第i个数据;d为数据集的每两个数据之间的欧氏距离。
6.根据权利要求2所述的基于密度峰值的大数据挖掘方法,其特征在于,所述第三预置公式为:
其中,δi为第i个数据是任意比第i个数据密度大的数据的距离的最小值;dij为第i个数据到第j个数据的欧式距离。
7.根据权利要求2所述的基于密度峰值的大数据挖掘方法,其特征在于,所述第四预置公式为:
δi=maxj∈dataset(dij)。
8.根据权利要求1所述的基于密度峰值的大数据挖掘方法,其特征在于,所述目标函数为:
其中,mò(1,∞)为模糊系数;uij为第i个数据对第j个数据簇的隶属度;cj为第j个聚类中心;||xi-cj||表示xi到cj的欧式距离;xi表示第i个数据。
9.一种基于密度峰值的大数据挖掘装置,其特征在于,包括:
第一计算单元,用于获取到数据集,并计算所述数据集的每两个数据之间的欧氏距离,得到距离矩阵;
第二计算单元,获取到预置截断距离,并通过第一预置公式对所述距离矩阵和所述截断距离进行计算,得到所述数据集的各个数据的局部密度,并根据所述各个数据的局部密度确定各个数据的高密度距离;
选取单元,用于构造以局部密度为横轴、高密度距离为纵轴的决策图,根据所述各个数据的局部密度和所述各个数据的高密度距离在所述决策图上选取聚类中心;
第三计算单元,用于通过第二预置公式对所述聚类中心、预置密度加权系数、预置振荡因子进行计算得到隶属度矩阵,根据所述隶属度矩阵和所述距离矩阵构造目标函数,并将预置迭代次数的值增加一;
判断单元,用于若所述目标函数小于预置容许误差或所述预置迭代次数不小于预置最大迭代次数,则结束,若所述目标函数不小于预置容许误差或所述预置迭代次数小于预置最大迭代次数,则触发选取单元。
10.根据权利要求9所述的基于密度峰值的大数据挖掘装置,其特征在于,所述第二计算单元包括:
第一计算子单元,用于通过第三预置公式并根据所述各个数据的局部密度对所述距离矩阵进行选取得到各个数据的高密度距离;
第二计算子单元,用于通过预置第四公式对局部密度最大的数据进行计算得到所述局部密度最大的数据的高密度距离。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710011108.4A CN106649877A (zh) | 2017-01-06 | 2017-01-06 | 一种基于密度峰值的大数据挖掘方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710011108.4A CN106649877A (zh) | 2017-01-06 | 2017-01-06 | 一种基于密度峰值的大数据挖掘方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106649877A true CN106649877A (zh) | 2017-05-10 |
Family
ID=58843375
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710011108.4A Pending CN106649877A (zh) | 2017-01-06 | 2017-01-06 | 一种基于密度峰值的大数据挖掘方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106649877A (zh) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108596648A (zh) * | 2018-03-20 | 2018-09-28 | 阿里巴巴集团控股有限公司 | 一种商圈判定方法和装置 |
CN108735269A (zh) * | 2018-05-21 | 2018-11-02 | 浙江工业大学 | 一种基于连续聚类框架的脑纤维快速聚类方法 |
CN108764335A (zh) * | 2018-05-28 | 2018-11-06 | 南方电网科学研究院有限责任公司 | 一种综合能源系统多能需求典型场景生成方法及装置 |
CN109408562A (zh) * | 2018-11-07 | 2019-03-01 | 广东工业大学 | 一种基于客户特征的分组推荐方法及其装置 |
CN109685122A (zh) * | 2018-12-12 | 2019-04-26 | 浙江工业大学 | 一种基于密度峰和引力影响的半监督游客画像数据聚类方法 |
CN109858544A (zh) * | 2019-01-28 | 2019-06-07 | 重庆邮电大学 | 基于区间阴影集和密度峰值聚类的钢材质量检测方法 |
CN110263825A (zh) * | 2019-05-30 | 2019-09-20 | 湖南大学 | 数据聚类方法、装置、计算机设备和存储介质 |
CN110288165A (zh) * | 2019-07-02 | 2019-09-27 | 南京信息工程大学 | 基于快速聚类和优化分配的多目标无人监测跟踪方法 |
CN112328796A (zh) * | 2020-11-17 | 2021-02-05 | 中国平安财产保险股份有限公司 | 文本聚类方法、装置、设备及计算机可读存储介质 |
CN112395475A (zh) * | 2020-11-02 | 2021-02-23 | 清华大学 | 一种基于快速搜索与密度峰值聚类的服务商聚类方法 |
CN113669626A (zh) * | 2021-08-06 | 2021-11-19 | 上海天麦能源科技有限公司 | 一种长输燃气管网两级监测方法和系统 |
CN116541252A (zh) * | 2023-07-06 | 2023-08-04 | 广州豪特节能环保科技股份有限公司 | 一种机房故障日志数据处理方法及装置 |
-
2017
- 2017-01-06 CN CN201710011108.4A patent/CN106649877A/zh active Pending
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108596648A (zh) * | 2018-03-20 | 2018-09-28 | 阿里巴巴集团控股有限公司 | 一种商圈判定方法和装置 |
CN108596648B (zh) * | 2018-03-20 | 2020-07-17 | 阿里巴巴集团控股有限公司 | 一种商圈判定方法和装置 |
CN108735269A (zh) * | 2018-05-21 | 2018-11-02 | 浙江工业大学 | 一种基于连续聚类框架的脑纤维快速聚类方法 |
CN108735269B (zh) * | 2018-05-21 | 2021-12-17 | 浙江工业大学 | 一种基于连续聚类框架的脑纤维快速聚类方法 |
CN108764335A (zh) * | 2018-05-28 | 2018-11-06 | 南方电网科学研究院有限责任公司 | 一种综合能源系统多能需求典型场景生成方法及装置 |
CN109408562B (zh) * | 2018-11-07 | 2021-11-26 | 广东工业大学 | 一种基于客户特征的分组推荐方法及其装置 |
CN109408562A (zh) * | 2018-11-07 | 2019-03-01 | 广东工业大学 | 一种基于客户特征的分组推荐方法及其装置 |
CN109685122A (zh) * | 2018-12-12 | 2019-04-26 | 浙江工业大学 | 一种基于密度峰和引力影响的半监督游客画像数据聚类方法 |
CN109858544A (zh) * | 2019-01-28 | 2019-06-07 | 重庆邮电大学 | 基于区间阴影集和密度峰值聚类的钢材质量检测方法 |
CN109858544B (zh) * | 2019-01-28 | 2021-01-29 | 重庆邮电大学 | 基于区间阴影集和密度峰值聚类的钢材质量检测方法 |
CN110263825B (zh) * | 2019-05-30 | 2022-05-10 | 湖南大学 | 数据聚类方法、装置、计算机设备和存储介质 |
CN110263825A (zh) * | 2019-05-30 | 2019-09-20 | 湖南大学 | 数据聚类方法、装置、计算机设备和存储介质 |
CN110288165A (zh) * | 2019-07-02 | 2019-09-27 | 南京信息工程大学 | 基于快速聚类和优化分配的多目标无人监测跟踪方法 |
CN110288165B (zh) * | 2019-07-02 | 2023-01-03 | 南京信息工程大学 | 基于快速聚类和优化分配的多目标无人监测跟踪方法 |
CN112395475A (zh) * | 2020-11-02 | 2021-02-23 | 清华大学 | 一种基于快速搜索与密度峰值聚类的服务商聚类方法 |
CN112328796A (zh) * | 2020-11-17 | 2021-02-05 | 中国平安财产保险股份有限公司 | 文本聚类方法、装置、设备及计算机可读存储介质 |
CN112328796B (zh) * | 2020-11-17 | 2023-06-30 | 中国平安财产保险股份有限公司 | 文本聚类方法、装置、设备及计算机可读存储介质 |
CN113669626A (zh) * | 2021-08-06 | 2021-11-19 | 上海天麦能源科技有限公司 | 一种长输燃气管网两级监测方法和系统 |
CN116541252A (zh) * | 2023-07-06 | 2023-08-04 | 广州豪特节能环保科技股份有限公司 | 一种机房故障日志数据处理方法及装置 |
CN116541252B (zh) * | 2023-07-06 | 2023-10-20 | 广州豪特节能环保科技股份有限公司 | 一种机房故障日志数据处理方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106649877A (zh) | 一种基于密度峰值的大数据挖掘方法及装置 | |
US7428514B2 (en) | System and method for estimation of a distribution algorithm | |
Nariman-Zadeh et al. | Hybrid genetic design of GMDH-type neural networks using singular value decomposition for modelling and prediction of the explosive cutting process | |
Barnard et al. | Fast multilevel implementation of recursive spectral bisection for partitioning unstructured problems | |
Xu et al. | Classification by nonlinear integral projections | |
CN102236675B (zh) | 图像特征点匹配对处理、图像检索方法及设备 | |
CN107423636A (zh) | 一种基于MapReduce的差分隐私K均值聚类方法 | |
Martin et al. | Partitioning of unstructured meshes for load balancing | |
CN106503365B (zh) | 一种用于sph算法的分区搜索方法 | |
CN106934417A (zh) | 一种面向混合属性的数据流自适应聚类方法 | |
CN106780058A (zh) | 动态网络的社团划分方法及装置 | |
CN105205052A (zh) | 一种数据挖掘方法及装置 | |
CN106874506A (zh) | 基于统计模型的社区挖掘方法及系统 | |
CN114386466B (zh) | 一种用于脉冲星搜寻中候选体信号挖掘的并行的混合聚类方法 | |
CN109214882A (zh) | 一种商品推荐方法 | |
CN113327322B (zh) | 面波频散曲线的反演方法、装置及计算机可读存储介质 | |
MacLachlan et al. | A greedy strategy for coarse-grid selection | |
De Sterck et al. | Algebraic multigrid for Markov chains | |
CN112651488A (zh) | 一种改善大型图卷积神经网络的训练效率的方法 | |
CN107609982A (zh) | 考虑社区结构稳定度和增量相关节点进行社区发现的方法 | |
CN107506572A (zh) | 获取目标点的高度的方法和装置 | |
Spencer et al. | Node weighted matching | |
Ilham et al. | Tackling Initial Centroid of K-means with Distance Part (dp-kmeans) | |
CN111460321A (zh) | 基于Node2Vec的重叠社区搜索方法及设备 | |
De Rossi et al. | Fast strategy for PU interpolation: An application for the reconstruction of separatrix manifolds |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20170510 |
|
RJ01 | Rejection of invention patent application after publication |