CN110807474A - 聚类方法及装置、存储介质、电子设备 - Google Patents
聚类方法及装置、存储介质、电子设备 Download PDFInfo
- Publication number
- CN110807474A CN110807474A CN201910970124.5A CN201910970124A CN110807474A CN 110807474 A CN110807474 A CN 110807474A CN 201910970124 A CN201910970124 A CN 201910970124A CN 110807474 A CN110807474 A CN 110807474A
- Authority
- CN
- China
- Prior art keywords
- data
- data points
- data point
- clustered
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/2433—Single-class perspective, e.g. one-against-all classification; Novelty detection; Outlier detection
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供一种聚类方法、聚类装置、电子设备以及计算机可读存储介质;涉及数据处理技术领域。所述聚类方法包括:获取包含多个数据点的待检测数据集,根据各数据点的位置信息确定与各数据点一一对应的密度值和目标距离;基于各密度值分别计算各数据点的离群参数,根据离群参数在待检测数据集中确定离群数据点,并将离群数据点外的数据点确定为待聚类数据点;根据各待聚类数据点对应的密度值和目标距离对待聚类数据点进行聚类以获取聚类结果。本公开可以基于密度值计算得到的离群参数识别离群数据点,因此在待检测数据集中的数据点密度分散情况迥异的情况下,也能够准确识别待检测数据点,避免待检测数据集中的离群数据点对最终聚类结果造成影响。
Description
技术领域
本公开涉及数据处理技术领域,具体而言,涉及一种聚类方法、聚类装置、电子设备以及计算机可读存储介质。
背景技术
近几年,随着计算机、互联网、物联网等技术的不断发展,各种类型的数据都以前所未有的速度不断增长和积累。在数据的数量大幅度增长的情况下,对数据的挖掘和分析也变得愈加重要。
聚类算法是一种重要的数据挖掘方法,属于一种描述类的数据挖掘方法。常见的聚类算法有很多种,包括划分聚类、层次聚类、基于密度的聚类等。其中,基于密度的聚类算法由于简单、高效等优点被广泛的应用。
然而,这种基于密度的聚类算法仍然存在一些缺点,例如,这种聚类算法无法准确检测数据中的离群点,因而会对聚类结果造成影响。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的目的在于提供一种聚类方法、聚类装置、电子设备以及计算机可读存储介质,进而在一定程度上避免由于无法准确检测数据中的离群点造成的影响聚类结果的问题。
根据本公开的第一方面,提供一种聚类方法,包括:获取包含多个数据点的待检测数据集,根据各所述数据点的位置信息确定与各所述数据点一一对应的密度值和目标距离;基于各所述密度值分别计算各所述数据点的离群参数,根据所述离群参数在所述待检测数据集中确定离群数据点,并将所述离群数据点外的所述数据点确定为待聚类数据点;根据各所述待聚类数据点对应的所述密度值和所述目标距离对所述待聚类数据点进行聚类以获取聚类结果。
在本公开的一种示例性实施例中,所述根据各所述数据点的位置信息确定与各所述数据点一一对应的密度值和目标距离,包括:针对每一所述数据点,分别获取与该所述数据点距离最近的n个最近数据点;其中,n为正整数;针对每一所述数据点,基于该所述数据点及其对应的n个所述最近数据点计算该所述数据点对应的密度值;针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值确定该所述数据点对应的目标距离。
在本公开的一种示例性实施例中,所述针对每一所述数据点,基于该所述数据点及其对应的n个所述最近数据点计算该所述数据点对应的密度值,包括:从各所述数据点中确定第一目标数据点;计算所述第一目标数据点与对应的n个所述最近数据点中每一个最近数据点之间的距离与预设距离的比值,根据所述比值和预设指数函数获取所述第一目标数据点对应的n个计算结果;将所述第一目标数据点对应的n个所述计算结果求和,以获取所述第一目标数据点对应的密度值。
在本公开的一种示例性实施例中,所述针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值确定该所述数据点对应的目标距离,包括:判断各所述数据点对应的密度值与对应的n个所述最近数据点对应的密度值的大小关系;在所述数据点对应的密度值大于或等于对应的所述n个所述最近数据点对应的密度值时,根据第一预设规则计算所述数据点对应的目标距离;在各所述数据点对应的密度值小于对应的所述n个所述最近数据点中至少一个数据点对应的密度值时,根据第二预设规则计算所述数据点对应的目标距离。
在本公开的一种示例性实施例中,所述根据第一预设规则计算所述数据点对应的目标距离,包括:计算所述数据点与对应的n个所述最近数据点之间的距离值,并将其中最大的距离值确定为所述数据点对应的目标距离。
在本公开的一种示例性实施例中,所述根据第二预设规则计算所述数据点对应的目标距离,包括:计算所述数据点与目标最近数据点之间的距离值,并将所述距离值中最小的距离值确定为所述数据点对应的目标距离,其中所述目标最近数据点对应的密度值大于所述数据点对应的密度值。
在本公开的一种示例性实施例中,所述基于各所述密度值分别计算各所述数据点的离群参数,包括:获取各所述数据点对应的密度值和对应的n个所述最近数据点对应的密度值;针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值计算该所述数据点的离群参数。
在本公开的一种示例性实施例中,所述针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值计算该所述数据点的离群参数,包括:从各所述数据点中确定第二目标数据点;计算所述第二目标数据点对应的n个所述最近数据点中每一个最近数据点对应的密度值与所述第二目标数据点对应的密度值的比值;计算所述比值的平均值,并将所述平均值配置为所述第二目标数据点的离群参数。
在本公开的一种示例性实施例中,所述根据所述离群参数确定待检测数据集中的离群数据点,并将所述离群数据点外的所述数据点确定为待聚类数据点,包括:判断各所述数据点的离群参数与预设阈值的大小关系;在所述数据点的离群参数大于预设阈值时,判定所述数据点为离群数据点;将所述待检测数据集中,所述离群数据点以外的所述数据点确定为待聚类数据点。
在本公开的一种示例性实施例中,所述根据各所述待聚类数据点对应的所述密度值和所述目标距离对所述待聚类数据点进行聚类以获取聚类结果,包括:根据各所述待聚类数据点对应的所述密度值和所述目标距离在所述待聚类数据点中确定预设数量的中心数据点;基于所述中心数据点对剩余的所述待聚类数据点进行聚类以获取聚类结果。
在本公开的一种示例性实施例中,所述根据各所述待聚类数据点对应的所述密度值和所述目标距离在所述待聚类数据点中确定预设数量的中心数据点,包括:针对每一所述待聚类数据点,计算该所述待聚类数据点对应的所述密度值和所述目标距离的乘积;按照所述乘积从大到小的顺序对所述待聚类数据点进行排序,得到待聚类数据点序列;从所述待聚类数据点序列中的第一个所述待聚类数据点开始,依次提取预设数量的所述待聚类数据点为中心数据点。
在本公开的一种示例性实施例中,所述基于所述中心数据点对剩余的所述待聚类数据点进行聚类以获取聚类结果,包括:从剩余的所述待聚类数据点中确定第三目标数据点;计算所述第三目标数据点与各所述中心数据点之间的距离值,并将所述第三目标数据点划分至所述距离值最小的中心数据点所在的聚类簇,以获取聚类结果。
根据本公开的第二方面,提供一种聚类装置,包括:数据计算模块,用于获取包含多个数据点的待检测数据集,根据各所述数据点的位置信息确定与各所述数据点一一对应的密度值和目标距离;离群点检测模块,用于基于各所述密度值分别计算各所述数据点的离群参数,根据所述离群参数在所述待检测数据集中确定离群数据点,并将所述离群数据点外的所述数据点确定为待聚类数据点;聚类计算模块,用于根据各所述待聚类数据点对应的所述密度值和所述目标距离对所述待聚类数据点进行聚类以获取聚类结果。
根据本公开的第三方面,提供一种电子设备,包括:处理器;以及存储器,用于存储所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来执行上述第一方面所述的方法。
根据本公开的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述的方法。
本公开示例性实施例可以具有以下部分或全部有益效果:
在本公开的一示例实施方式所提供的聚类方法中,通过根据密度值计算得到的各数据点的离群参数,根据离群参数识别待检测数据集中的离群数据点和待聚类数据点,进而根据待聚类数据点对应的密度值和距离值进行聚类以获取聚类结果。由于可以通过基于密度值计算得到的离群参数识别离群数据点,因此在待检测数据集中的数据点密度分散情况迥异的情况下,也能够准确识别待检测数据点,进而避免待检测数据集中的离群数据点对最终聚类结果造成影响。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了可以应用本公开实施例的一种聚类方法及装置的示例性系统架构的示意图;
图2示意性示出了根据本公开的一个实施例的聚类方法的流程图;
图3示意性示出了根据本公开的一个实施例的根据各所述数据点的位置信息确定与各所述数据点一一对应的密度值和目标距离的方法的流程图;
图4示意性示出了根据本公开的一个实施例的针对每一所述数据点,基于该所述数据点及其对应的n个所述最近数据点计算该所述数据点对应的密度值的方法的流程图;
图5示意性示出了根据本公开的一个实施例的针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值确定该所述数据点对应的目标距离的方法的流程图;
图6示意性示出了根据本公开的一个实施例的基于各所述密度值分别计算各所述数据点的离群参数的方法的流程图;
图7示意性示出了根据本公开的一个实施例的针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值计算该所述数据点的离群参数的方法的流程图;
图8示意性示出了根据本公开的一个实施例的根据所述离群参数确定待检测数据集中的离群数据点,并将所述离群数据点外的所述数据点确定为待聚类数据点的方法的流程图;
图9示意性示出了根据本公开的一个实施例的根据各所述待聚类数据点对应的所述密度值和所述目标距离对所述待聚类数据点进行聚类以获取聚类结果的方法的流程图;
图10示意性示出了根据本公开的一个实施例的根据各所述待聚类数据点对应的所述密度值和所述目标距离在所述待聚类数据点中确定预设数量的中心数据点的方法的流程图;
图11示意性示出了根据本公开的一个实施例的基于所述中心数据点对剩余的所述待聚类数据点进行聚类的方法的流程图;
图12示意性示出了根据本公开的一个实施例的流量数据聚类的流程图;
图13示出了一种密度分散迥异时待检测数据集中数据点的分散情况示意图;
图14示意性示出了根据本公开的一个实施例中待聚类数据点序列中各待聚类数据点对应的乘积分布示意图;
图15示意性示出了根据本公开的一个实施例的聚类装置的框图;
图16示出了适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本公开的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
图1示出了可以应用本公开实施例的一种聚类方法及装置的示例性应用环境的系统架构的示意图。
如图1所示,系统架构100可以包括终端设备101、102、103中的一个或多个,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。终端设备101、102、103可以是具有显示屏的各种电子设备,包括但不限于台式计算机、便携式计算机、智能手机和平板电脑等等。应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。比如服务器105可以是多个服务器组成的服务器集群等。
本公开实施例所提供的聚类方法一般由服务器105执行,相应地,聚类装置一般设置于服务器105中。但本领域技术人员容易理解的是,本公开实施例所提供的聚类方法也可以由终端设备101、102、103执行,相应的,聚类装置也可以设置于终端设备101、102、103中,本示例性实施例中对此不做特殊限定。举例而言,在一种示例性实施例中,可以是用户通过终端设备101、102、103将待检测数据集上传至服务器105,服务器通过本公开实施例所提供的聚类方法将待检测数据集进行聚类,最后将聚类结果传输给终端设备101、102、103等。
本公开实施例提供了一种聚类方法,该聚类方法是基于机器学习实现的,机器学习属于人工智能的一种,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
机器学习(Machine Learning,ML)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。
随着人工智能技术研究和进步,人工智能技术在多个领域展开研究和应用,例如常见的智能家居、智能穿戴设备、虚拟助理、智能音箱、智能营销、无人驾驶、自动驾驶、无人机、机器人、智能医疗、智能客服等,相信随着技术的发展,人工智能技术将在更多的领域得到应用,并发挥越来越重要的价值。
本公开实施例提供的方案涉及人工智能的聚类技术,具体通过如下实施例进行说明:
聚类算法是一种重要的数据挖掘方法,属于一种描述类的数据挖掘方法。常见的聚类算法有很多种,包括划分聚类、层次聚类、基于密度的聚类等。其中,基于密度的聚类算法由于简单、高效等优点被广泛的应用。在相关的基于密度的聚类算法中,主要是通过对待检测数据集中每个数据点的密度值和目标距离设置阈值,判断该数据点是否为离群点;随后根据密度值和目标距离找到簇中心,进而根据簇中心对待检测数据集进行聚类。
然而,在待检测数据集中的数据点密度分散情况迥异的情况下,例如,参照图13所示,在C1集合的数据点和C2集合的数据点的密度分散情况迥异时,通过上述聚类算法中对密度值和目标距离值设置阈值的方法很难准确的识别待检测数据集中的离群数据点o1和o2,因此最终的聚类结果也会受离群点的影响。
基于上述一个或多个问题,本示例实施方式提供了一种聚类方法。该聚类方法可以应用于上述服务器105,也可以应用于上述终端设备101、102、103中的一个或多个,本示例性实施例中对此不做特殊限定。
具体的,本示例实施方式提供的聚类方法可以应用于数据聚类处理的过程中。例如,在流量反作弊领域,可以通过本示例实施方式提供的聚类方法对流量数据进行聚类,进而可以直接判断聚类簇为异常流量或者正常流量,避免针对每一流量数据进行分析造成的工作量大的问题。
下面,参考图2所示,对于本示例实施方式的上述步骤进行更加详细的说明。
在步骤S210中,获取包含多个数据点的待检测数据集,根据各所述数据点的位置信息确定与各所述数据点一一对应的密度值和目标距离。
本示例实施方式中,所述待检测数据集中包含多个数据点,每个数据点在特征空间中存在唯一确定的位置信息。其中,特征空间可以根据数据点包括的特征建立,可以是多维空间,例如,可以是二维空间、三维空间、五维空间等,本公开对此不做特殊限制。
例如,待检测数据集中的数据点为根据一花园中所有鸢尾花的数据确定的。因此数据点可以同时包括鸢尾花花瓣的长度和宽度,根据鸢尾花花瓣的长度和宽度建立以长度为横坐标、宽度为纵坐标的二维特征空间,此时可以根据所有鸢尾花花瓣的长度和宽度确定各鸢尾花对应的数据点和在特征空间中的唯一确定的位置。如某鸢尾花花瓣的长度和宽度分别为2cm,0.5cm,此时可以在特征空间中确定坐标(2,0.5)为该鸢尾花对应的数据点的位置信息。
参考图3所示,本示例实施方式中可以通过如图3所示的步骤S310至步骤S330确定与各数据点对应的密度值和目标距离。其中:
在步骤S310中,针对每一所述数据点,分别获取与该所述数据点距离最近的n个最近数据点;其中,n为正整数。本示例实施方式中,由于在实际情况下,某一数据点的密度受距离较远的数据点的影响较小,因此,在进行密度计算时,可以只考虑与该数据点距离最近的n个最近数据点进行计算。具体的参数n可以根据聚类的实际情况进行设定。
在步骤S320中,针对每一所述数据点,基于该所述数据点及其对应的n个所述最近数据点计算该所述数据点对应的密度值。例如,参考图4所示,可以通过下述步骤S410至S430计算各数据点对应的密度值:
在步骤S410中,从各所述数据点中确定第一目标数据点。本示例实施方式中,虽然需要计算待检测数据集中每个数据点对应的密度值,但是每个数据点对应的密度值都需要单独进行计算,因此可以从数据点中先确定一个第一目标数据点计算其密度值,随后对其他数据点依次进行计算,其中第一目标数据点可以是所有数据点中的任意一个。
在步骤S420中,计算所述第一目标数据点与对应的n个所述最近数据点中每一个最近数据点之间的距离与预设距离的比值,根据所述比值和预设指数函数获取所述第一目标数据点对应的n个计算结果。
本示例实施方式中,首先计算第一目标数据点与对应的n个最近数据点中每一个最近数据点之间的距离,将计算得到的距离分别与预设距离做比值,以得到n个比值。根据n个比值和预设指数函数分别获取第一目标数据点对应的n个计算结果。具体的,所述预设指数函数可以是以一常数为底数的指数函数,也可以根据具体聚类方法的应用场景设置为其它指数函数,本公开对此不做特殊限制。
例如,在预设指数函数为自然常数的负指数函数时,每一个计算结果可以表示为:
其中,dij为数据点i和数据点j之间的距离;数据点j为数据点i对应的n个最近数据点之一;dc为预设半径。
在步骤S430中,将所述第一目标数据点对应的n个所述计算结果求和,以获取所述第一目标数据点对应的密度值。本示例实施方式中,通过对第一数据点对应的n个计算结果求和,可以获取第一目标数据点对应的密度值。例如,在预设指数函数为自然常数的负指数函数时,计算过程可以通过公式(1)表示:
其中,ρi为数据点i对应的密度值;数据点j为数据点i对应的n个最近数据点之一,j取1至n;dij为数据点i和数据点j之间的距离;dc为预设半径。
本示例实施方式中,通过只考虑与该数据点距离最近的n个最近数据点进行计算,可以在几乎不影响计算结果的前提下,将计算密度值的步骤的时间复杂度由O(n2)降低为O(n),缩短了计算步骤的时间消耗。同时,由于时间消耗降低,也能够使得这种聚类方法能够对更多的数据点进行聚类。
在步骤S330中,针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值确定该所述数据点对应的目标距离。例如,参考图5所示,可以通过下述步骤S510至S530计算各数据点对应的目标距离:
在步骤S510中,判断各所述数据点对应的密度值与对应的n个所述最近数据点对应的密度值的大小关系。本示例实施方式中,密度值最大的数据点对应的目标距离计算方式与其他数据点对应的目标距离的计算方式是不同的。在只考虑n个最近数据点的情况下,首先应确定数据点与对应的n个最近数据点的大小关系,以便于选择适合的计算方式确定目标距离。
在步骤S520中,在所述数据点对应的密度值大于或等于对应的所述n个所述最近数据点对应的密度值时,根据第一预设规则计算所述数据点对应的目标距离。本示例实施方式中,密度值最大的数据点对应的目标距离可以通过下述方法确定:计算所述数据点与对应的n个所述最近数据点的距离值,并将其中最大的距离值确定为所述数据点对应的目标距离。例如,在n取3时,某一数据点a的密度值大于对应的3个最近数据点的密度值,计算数据点a与3个最近数据点的距离值分别为10,12,13,此时,可以将其中最大的13确定为数据点a的目标距离。具体的,上述确定数据点对应的目标距离的方法可以通过公式(2)表示:
li=maxdij (2)
其中,li为数据点i的距离值;数据点j为数据点i对应的n个最近数据点,j取1至n;dij为数据点i和数据点j之间的距离。
在步骤S530中,在各所述数据点对应的密度值小于对应的所述n个所述最近数据点中至少一个数据点对应的密度值时,根据第二预设规则计算所述数据点对应的目标距离。本示例实施方式中,密度值不是最大的数据点对应的目标距离可以通过下述方法确定:计算所述数据点与目标最近数据点之间的距离值,并将所述距离值中最小的距离值确定为所述数据点对应的目标距离,其中所述目标最近数据点对应的密度值大于所述数据点对应的密度值。例如,在n取10时,某一数据点b对应的密度值小于10个最近数据点中的3个,分别为最近数据点A、B、C;计算数据点b与最近数据点A、B、C的距离值分别为11,15,10,此时,可以将其中最小的10确定为数据点b的目标距离。具体的,上述确定数据点对应的目标距离的方法可以通过公式(3)表示:
其中,li为数据点i的距离值;数据点j为数据点i对应的n个最近数据点,j取1至n;dij为数据点i和数据点j之间的距离;ρi和ρj分别为数据点i和数据点j对应的密度值。
同样的,通过只考虑与该数据点距离最近的n个最近数据点进行计算,可以在几乎不影响计算结果的前提下,将计算目标距离的步骤的时间复杂度由O(n2)降低为O(n),缩短了计算步骤的时间消耗。
本领域技术人员容易理解的是,在本公开的其他示例性实施例中,也可以采用其他预设规则计算数据点对应的目标距离,例如,上例中,第二预设规则也可以是取11,15,10三个距离值的平均值12作为数据点对应目标距离;因此本公开包括但不限于上述的目标距离计算方法。
在步骤S220中,基于各所述密度值分别计算各所述数据点的离群参数,根据所述离群参数在所述待检测数据集中确定离群数据点,并将所述离群数据点外的所述数据点确定为待聚类数据点。
参考图6所示,本示例实施方式中可以通过如图6所示的步骤S610至步骤S620分别计算各数据点的离群参数。其中:
在步骤S610中,获取各所述数据点对应的密度值和对应的n个所述最近数据点对应的密度值。本示例实施方式中,确定一个数据点是否为离群数据点时,可以通过判断该数据点与对应的n个最近数据点的相似程度来确定,而距离该数据点较远的数据点与该数据点的相似程度对判断数据点离群与否的影响并不大,因此可以通过获取该数据点对应的密度值以及该数据点周围n个最近数据点对应的密度值进行相似程度的判断。
在步骤S620中,针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值计算该所述数据点的离群参数。例如,参考图7所示,可以通过下述步骤S710至步骤S730计算数据点的离群参数。其中:
在步骤S710中,从各所述数据点中确定第二目标数据点。本示例实施方式中,虽然需要计算待检测数据集中每个数据点的离群参数,但是每个数据点的离群参数都需要单独进行计算,因此可以从数据点中先确定一个第二目标数据点计算其离群参数,随后对其他数据点依次进行计算,其中第二目标数据点可以是所有数据点中的任意一个。
在步骤S720中,计算所述第二目标数据点对应的n个所述最近数据点中每一个最近数据点对应的密度值与所述第二目标数据点对应的密度值的比值。具体的,可以通过计算第二目标数据点周围n个最近数据点对应的密度值与第二目标数据点对应的密度值的比值,进而根据n个比值分别判断第二目标数据点与周围n个最近数据点的相似程度,进而判断第二目标数据点是否离群。例如,第二目标数据点的某一最近数据点D对应的密度值与第二目标数据点的比值为4,说明最近数据点D对应的密度值较大,因此第二目标数据点与最近数据点D对应的密度值差别较大。
在步骤S730中,计算所述比值的平均值,并将所述平均值配置为所述第二目标数据点的离群参数。在仅根据一个最近数据点与第二目标数据点的相似程度判断第二目标数据点是否离群时,有可能出现由于选择的一个最近数据点恰好为离群点,导致误判第二目标数据点为离群点的情况,因此,可以通过计算步骤S720中得到的n个比值的平均值表示第二目标数据点与周围n个最近数据点的平均相似程度。
具体的,上述计算数据点的离群参数的方法可以通过公式(4)表示:
其中,χi为数据点i的离群参数;数据点j为数据点i对应的n个最近数据点,j取1至n;ρi和ρj分别为数据点i和数据点j对应的密度值。
本领域技术人员容易理解的是,在本公开的其他示例性实施例中,也可以采用其他方法计算各所述数据点的离群参数,例如,可以计算第二目标数据点对应的密度值与n个最近数据点对应的密度值的差值的平均值作为第二目标数据点的离群参数等;这些同样属于本公开的保护范围。
参考图8所示,本示例实施方式中可以通过如图8所示的步骤S810至步骤S830确定待检测数据集中的离群数据点,并将所述离群数据点外的所述数据点确定为待聚类数据点。其中:
在步骤S810中,判断各所述数据点的离群参数与预设阈值的大小关系。其中,所述预设阈值可以根据不同的计算离群参数的方式和不同的待检测数据集进行配置。例如,针对通过步骤S730计算得到的离群参数,可以将预设阈值设置为1。
在步骤S820中,在所述数据点的离群参数大于预设阈值时,判定所述数据点为离群数据点。例如,假设针对通过步骤S730计算得到的离群参数,预设阈值为1,当离群参数远大于1时,证明第二目标数据点对应的密度值与周围n个最近数据点对应的密度值不相似,且远小于周围n个最近数据点对应的密度值,因此可以判断第二目标数据点为离群点。
在步骤S830中,将所述待检测数据集中,所述离群数据点以外的所述数据点确定为待聚类数据点。例如,根据步骤S820判断一包含10个数据点的待检测数据集中存在3个离群数据点时,可以将除了3个离群数据点以外的7个数据点确定为待聚类数据点。
在步骤S230中,根据各所述待聚类数据点对应的所述密度值和所述目标距离对所述待聚类数据点进行聚类以获取聚类结果。
参考图9所示,本示例实施方式中可以通过如图9所示的步骤S910至步骤S920对所述待聚类数据点进行聚类以获取聚类结果。其中:
在步骤S910中,根据各所述待聚类数据点对应的所述密度值和所述目标距离在所述待聚类数据点中确定预设数量的中心数据点。
本示例实施方式中,所述预设数量可以是用户自定义的一个固定数值,也可以是根据待检测数据集中各数据点对应的密度值和目标距离值的分布情况在多个自定义数值中选择得到的数值,本公开对此不做特殊限制。
参考图10所示,本示例实施方式中可以通过如图10所示的步骤S1010至步骤S1030在所述待聚类数据点中确定预设数量的中心数据点。
其中:
步骤S1010,针对每一所述待聚类数据点,计算该所述待聚类数据点对应的所述密度值和所述目标距离的乘积。具体的,将待聚类数据点1对应的密度值ρ1与目标距离l1相乘得到乘积。
步骤S1020,按照所述乘积从大到小的顺序对所述待聚类数据点进行排序,得到待聚类数据点序列。例如,待聚类数据点共有3个,分别为待聚类数据点1、待聚类数据点2、待聚类数据点3,对应的在步骤S1010中计算得到的乘积分别为0.001、0.05、0.15,此时可以根据乘积的大小顺序对待聚类数据点排序,得到待聚类数据点序列:待聚类数据点3、待聚类数据点1、待聚类数据点2。
步骤S1030,从所述待聚类数据点序列中的第一个所述待聚类数据点开始,依次提取预设数量的所述待聚类数据点为中心数据点。
本示例实施方式中,预设数量可以根据所述乘积的分布情况进行确定。例如,根据步骤S1010和步骤S1020中得到的待聚类数据点序列和对应的乘积,可以画出如图14所示的分布图,通过纵坐标的乘积值大小能够明显观察到中心数据点与非中心数据点存在明显的差别,因此可以通过乘积的分布情况确定中心数据点的数量。
在步骤S920中,基于所述中心数据点对剩余的所述待聚类数据点进行聚类以获取聚类结果。
参考图11所示,本示例实施方式中可以通过如图11所示的步骤S1110至步骤S1120对剩余的所述待聚类数据点进行聚类。其中:
在步骤S1110中,从剩余的所述待聚类数据点中确定第三目标数据点。本示例实施方式中,虽然需要对剩余的所有待聚类数据点进行聚类,但针对每个剩余的待聚类数据点都需要一一判断其归属的聚类簇,因此可以先从剩余的待聚类数据点中确定第三目标数据点确定其归属的聚类簇后,再依次判断其它剩余的待聚类数据点归属的聚类簇,其中第三目标数据点可以是剩余的待聚类数据点中的任意一个。
在步骤S1120中,计算所述第三目标数据点与各所述中心数据点之间的距离值,并将所述第三目标数据点划分至所述距离值最小的中心数据点所在的聚类簇。例如,假设存在2个中心数据点α和β,计算第三目标数据点与中心数据点α和β的距离值分别为3和5,因此可以将第三目标数据点划分至中心数据点α所在的聚类簇。
此外,本示例实施方式中,上述方法中计算的距离值可以是欧式距离,还可以是曼哈顿距离、切比雪夫距离等;这同样属于本公开保护范围。
以下以流量数据为例,参照图12所示,对本示例实施方式的技术方案的实现细节进行详细阐述:
在进行聚类以前,以流量数据的请求次数、请求ip等流量数据的相关特征,形成特征空间,随后通过提取每个流量数据的特征将各流量数据映射于特征空间中唯一确定的位置坐标,将这一坐标作为该流量数据对应的数据点的位置信息。
步骤S1210,根据各数据点的位置信息确定与各所述数据点距离最近的n个最近数据点;
步骤S1220,基于根据各所述数据点的位置信息、对应的n个最近数据点的位置信息和定义的预设距离,根据公式(1)计算各数据点对应的密度值;
步骤S1230,基于公式(1)计算得到的各数据点对应的密度值确定各数据点对应的目标距离;
具体的,在数据点对应的密度值大于或等于对应的所述n个所述最近数据点对应的密度值时,根据公式(2)计算数据点对应的目标距离;在各所述数据点对应的密度值小于对应的所述n个所述最近数据点中至少一个数据点对应的密度值时,根据公式(3)计算数据点对应的目标距离。
步骤S1240,基于公式(1)计算得到的各数据点对应的密度值,根据公式(4)计算各数据点的离群参数;
步骤S1250,根据离群参数与预设阈值的大小关系判断数据点是否为离群数据点;
具体的,将离群参数大于预设阈值的数据点判定为离群数据点,将离群参数小于或等于预设阈值的数据点判定为待聚类数据点。
步骤S1260,根据待聚类数据点对应的密度值和目标距离在待聚类数据点中确定中心数据点;
具体的,计算各所述待聚类数据点对应的所述密度值和所述距离值的乘积,按照乘积的大小对对应的待聚类数据点进行排序得到待聚类数据点序列,从待聚类数据点序列中的第一个所述待聚类数据点开始,依次提取预设数量的待聚类数据点为中心数据点。
步骤S1270,基于所述中心数据点对剩余的所述待聚类数据点进行聚类以获取聚类结果。
具体的,计算剩余的待聚类数据点与各个中心数据点之间的距离值,然后将待聚类数据点划分至最近的中心数据点所在的聚类簇。
基于上述聚类方法,得到的聚类结果更加准确,进而使得后续根据聚类结果对流量数据的分类效果也更好。具体的,使用传统聚类方法和本示例实施方式中的聚类方法对流量数据进行聚类后,对聚类结果进行分类的准确率和异常召回率如下表1所示:
表1分类的准确率和异常召回率
使用的方法 | 准确率 | 异常召回率 |
传统聚类方法 | 92.05% | 89.97% |
本示例实施方式中的聚类方法 | 94.22% | 90.96% |
应当注意,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
进一步的,本示例实施方式中,还提供了一种聚类装置。该聚类装置可以应用于一服务器或终端设备。参考图15所示,该聚类装置1500可以包括数据计算模块1510、离群点检测模块1520以及聚类计算模块1530。其中:
数据计算模块1510,用于获取包含多个数据点的待检测数据集,根据各所述数据点的位置信息确定与各所述数据点一一对应的密度值和目标距离;离群点检测模块1520,用于基于各所述密度值分别计算各所述数据点的离群参数,根据所述离群参数在所述待检测数据集中确定离群数据点,并将所述离群数据点外的所述数据点确定为待聚类数据点;聚类计算模块1530,用于根据各所述待聚类数据点对应的所述密度值和所述目标距离对所述待聚类数据点进行聚类以获取聚类结果。
在本公开的一种示例性实施例中,所述数据计算模块1510包括:数据点提取单元,用于针对每一所述数据点,分别获取与该所述数据点距离最近的n个最近数据点;其中,n为正整数;针对每一所述数据点,基于该所述数据点及其对应的n个所述最近数据点计算该所述数据点对应的密度值;针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值确定该所述数据点对应的目标距离。
在本公开的一种示例性实施例中,所述密度值计算单元通过下述步骤针对每一所述数据点,基于该所述数据点及其对应的n个所述最近数据点计算该所述数据点对应的密度值:从各所述数据点中确定第一目标数据点;计算所述第一目标数据点与对应的n个所述最近数据点中每一个最近数据点之间的距离与预设距离的比值,根据所述比值和预设指数函数获取所述第一目标数据点对应的n个计算结果;将所述第一目标数据点对应的n个所述计算结果求和,以获取所述第一目标数据点对应的密度值。
在本公开的一种示例性实施例中,所述目标距离计算单元通过下述步骤针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值确定该所述数据点对应的目标距离:判断各所述数据点对应的密度值与对应的n个所述最近数据点对应的密度值的大小关系;在所述数据点对应的密度值大于或等于对应的所述n个所述最近数据点对应的密度值时,根据第一预设规则计算所述数据点对应的目标距离;或在各所述数据点对应的密度值小于对应的所述n个所述最近数据点中至少一个数据点对应的密度值时,根据第二预设规则计算所述数据点对应的目标距离。
在本公开的一种示例性实施例中,所述根据第一预设规则计算所述数据点对应的目标距离,包括:计算所述数据点与对应的n个所述最近数据点的距离值,并将其中最大的距离值确定为所述数据点对应的目标距离。
在本公开的一种示例性实施例中,所述根据第二预设规则计算所述数据点对应的目标距离,包括:分别计算所述数据点与密度值大于所述数据点的至少一个所述最近数据点的距离值,并将所述距离值中最小的距离值确定为所述数据点对应的目标距离。
在本公开的一种示例性实施例中,所述离群点检测模块1520包括:密度值获取单元,用于获取各所述数据点对应的密度值和对应的n个所述最近数据点对应的密度值;离群参数计算单元,用于针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值计算该所述数据点的离群参数。
在本公开的一种示例性实施例中,所述离群参数计算单元通过下述步骤针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值计算该所述数据点的离群参数:从各所述数据点中确定第二目标数据点;计算所述第二目标数据点对应的n个所述最近数据点中每一个最近数据点对应的密度值与所述第二目标数据点对应的密度值的比值;计算所述比值的平均值,并将所述平均值配置为所述第二目标数据点的离群参数。
在本公开的一种示例性实施例中,所述离群点检测模块1520还包括:关系判断单元,用于判断各所述数据点的离群参数与预设阈值的大小关系;第一确定单元,用于在所述数据点的离群参数大于预设阈值时,判定所述数据点为离群数据点;第二确定单元,用于将所述待检测数据集中,所述离群数据点以外的所述数据点确定为待聚类数据点。
在本公开的一种示例性实施例中,所述聚类计算模块1530包括:第三确定单元,用于根据各所述待聚类数据点对应的所述密度值和所述目标距离在所述待聚类数据点中确定预设数量的中心数据点;聚类单元,用于基于所述中心数据点对剩余的所述待聚类数据点进行聚类以获取聚类结果。
在本公开的一种示例性实施例中,所述第三确定单元通过下述步骤根据个所述待聚类数据点对应的所述密度值和所述目标距离在所述待聚类数据点中确定预设数量的中心数据点:针对每一所述待聚类数据点,计算该所述待聚类数据点对应的所述密度值和所述目标距离的乘积;按照所述乘积从大到小的顺序对所述待聚类数据点进行排序,得到待聚类数据点序列;从所述待聚类数据点序列中的第一个所述待聚类数据点开始,依次提取预设数量的所述待聚类数据点为中心数据点。
在本公开的一种示例性实施例中,所述聚类单元通过下述步骤基于所述中心数据点对剩余的所述待聚类数据点进行聚类:从剩余的所述待聚类数据点中确定第三目标数据点;计算所述第三目标数据点与各所述中心数据点之间的距离值,并将所述第三目标数据点划分至所述距离值最小的中心数据点所在的聚类簇。
上述聚类装置中各模块或单元的具体细节已经在对应的聚类方法中进行了详细的描述,因此此处不再赘述。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,图16示出了适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。
需要说明的是,图16示出的电子设备的计算机系统1600仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图16所示,计算机系统1600包括中央处理单元(CPU)1601,其可以根据存储在只读存储器(ROM)1602中的程序或者从存储部分1608加载到随机访问存储器(RAM)1603中的程序而执行各种适当的动作和处理。在RAM 1603中,还存储有系统操作所需的各种程序和数据。CPU 1601、ROM 16016以及RAM 1603通过总线1604彼此相连。输入/输出(I/O)接口1605也连接至总线1604。
以下部件连接至I/O接口1605:包括键盘、鼠标等的输入部分1606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1607;包括硬盘等的存储部分1608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1609。通信部分1609经由诸如因特网的网络执行通信处理。驱动器1610也根据需要连接至I/O接口1605。可拆卸介质1611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1610上,以便于从其上读出的计算机程序根据需要被安装入存储部分1608。
特别地,根据本公开的实施例,下文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1609从网络上被下载和安装,和/或从可拆卸介质1611被安装。在该计算机程序被中央处理单元(CPU)1601执行时,执行本申请的方法和装置中限定的各种功能。在一些实施例中,计算机系统1600还可以包括AI(ArtificialIntelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
需要说明的是,本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现如下述实施例中所述的方法。例如,所述的电子设备可以实现如图2~图12所示的各个步骤等。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (15)
1.一种聚类方法,其特征在于,包括:
获取包含多个数据点的待检测数据集,根据各所述数据点的位置信息确定与各所述数据点一一对应的密度值和目标距离;
基于各所述密度值分别计算各所述数据点的离群参数,根据所述离群参数在所述待检测数据集中确定离群数据点,并将所述离群数据点外的所述数据点确定为待聚类数据点;
根据各所述待聚类数据点对应的所述密度值和所述目标距离对所述待聚类数据点进行聚类以获取聚类结果。
2.根据权利要求1所述的方法,其特征在于,所述根据各所述数据点的位置信息确定与各所述数据点一一对应的密度值和目标距离,包括:
针对每一所述数据点,分别获取与该所述数据点距离最近的n个最近数据点;其中,n为正整数;
针对每一所述数据点,基于该所述数据点及其对应的n个所述最近数据点计算该所述数据点对应的密度值;
针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值确定该所述数据点对应的目标距离。
3.根据权利要求2所述的方法,其特征在于,所述针对每一所述数据点,基于该所述数据点及其对应的n个所述最近数据点计算该所述数据点对应的密度值,包括:
从各所述数据点中确定第一目标数据点;
计算所述第一目标数据点与对应的n个所述最近数据点中每一个最近数据点之间的距离与预设距离的比值,根据所述比值和预设指数函数获取所述第一目标数据点对应的n个计算结果;
将所述第一目标数据点对应的n个所述计算结果求和,以获取所述第一目标数据点对应的密度值。
4.根据权利要求2所述的方法,其特征在于,所述针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值确定该所述数据点对应的目标距离,包括:
判断各所述数据点对应的密度值与对应的n个所述最近数据点对应的密度值的大小关系;
在所述数据点对应的密度值大于或等于对应的所述n个所述最近数据点对应的密度值时,根据第一预设规则计算所述数据点对应的目标距离;
在各所述数据点对应的密度值小于对应的所述n个所述最近数据点中至少一个数据点对应的密度值时,根据第二预设规则计算所述数据点对应的目标距离。
5.根据权利要求4所述的方法,其特征在于,所述根据第一预设规则计算所述数据点对应的目标距离,包括:
计算所述数据点与对应的n个所述最近数据点之间的距离值,并将其中最大的距离值确定为所述数据点对应的目标距离。
6.根据权利要求4所述的方法,其特征在于,所述根据第二预设规则计算所述数据点对应的目标距离,包括:
计算所述数据点与目标最近数据点之间的距离值,并将所述距离值中最小的距离值确定为所述数据点对应的目标距离,其中所述目标最近数据点对应的密度值大于所述数据点对应的密度值。
7.根据权利要求2所述的方法,其特征在于,所述基于各所述密度值分别计算各所述数据点的离群参数,包括:
获取各所述数据点对应的密度值和对应的n个所述最近数据点对应的密度值;
针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值计算该所述数据点的离群参数。
8.根据权利要求7所述的方法,其特征在于,所述针对每一所述数据点,基于该所述数据点对应的密度值及其对应的n个所述最近数据点对应的密度值计算该所述数据点的离群参数,包括:
从各所述数据点中确定第二目标数据点;
计算所述第二目标数据点对应的n个所述最近数据点中每一个最近数据点对应的密度值与所述第二目标数据点对应的密度值的比值;
计算所述比值的平均值,并将所述平均值配置为所述第二目标数据点的离群参数。
9.根据权利要求1所述的方法,其特征在于,所述根据所述离群参数确定待检测数据集中的离群数据点,并将所述离群数据点外的所述数据点确定为待聚类数据点,包括:
判断各所述数据点的离群参数与预设阈值的大小关系;
在所述数据点的离群参数大于预设阈值时,判定所述数据点为离群数据点;
将所述待检测数据集中,所述离群数据点以外的所述数据点确定为待聚类数据点。
10.根据权利要求1所述的方法,其特征在于,所述根据各所述待聚类数据点对应的所述密度值和所述目标距离对所述待聚类数据点进行聚类以获取聚类结果,包括:
根据各所述待聚类数据点对应的所述密度值和所述目标距离在所述待聚类数据点中确定预设数量的中心数据点;
基于所述中心数据点对剩余的所述待聚类数据点进行聚类以获取聚类结果。
11.根据权利要求10所述的方法,其特征在于,所述根据各所述待聚类数据点对应的所述密度值和所述目标距离在所述待聚类数据点中确定预设数量的中心数据点,包括:
针对每一所述待聚类数据点,计算该所述待聚类数据点对应的所述密度值和所述目标距离的乘积;
按照所述乘积从大到小的顺序对所述待聚类数据点进行排序,得到待聚类数据点序列;
从所述待聚类数据点序列中的第一个所述待聚类数据点开始,依次提取预设数量的所述待聚类数据点为中心数据点。
12.根据权利要求10所述的方法,其特征在于,所述基于所述中心数据点对剩余的所述待聚类数据点进行聚类以获取聚类结果,包括:
从剩余的所述待聚类数据点中确定第三目标数据点;
计算所述第三目标数据点与各所述中心数据点之间的距离值,并将所述第三目标数据点划分至所述距离值最小的中心数据点所在的聚类簇,以获取所述聚类结果。
13.一种聚类装置,其特征在于,包括:
数据计算模块,用于获取包含多个数据点的待检测数据集,根据各所述数据点的位置信息确定与各所述数据点一一对应的密度值和目标距离;
离群点检测模块,用于基于各所述密度值分别计算各所述数据点的离群参数,根据所述离群参数在所述待检测数据集中确定离群数据点,并将所述离群数据点外的所述数据点确定为待聚类数据点;
聚类计算模块,用于根据各所述待聚类数据点对应的所述密度值和所述目标距离对所述待聚类数据点进行聚类以获取聚类结果。
14.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-12任一项所述的方法。
15.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1-12任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910970124.5A CN110807474A (zh) | 2019-10-12 | 2019-10-12 | 聚类方法及装置、存储介质、电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910970124.5A CN110807474A (zh) | 2019-10-12 | 2019-10-12 | 聚类方法及装置、存储介质、电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110807474A true CN110807474A (zh) | 2020-02-18 |
Family
ID=69488344
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910970124.5A Pending CN110807474A (zh) | 2019-10-12 | 2019-10-12 | 聚类方法及装置、存储介质、电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110807474A (zh) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111612037A (zh) * | 2020-04-24 | 2020-09-01 | 平安直通咨询有限公司上海分公司 | 异常用户检测方法、装置、介质及电子设备 |
CN113466571A (zh) * | 2021-09-06 | 2021-10-01 | 中国人民解放军国防科技大学 | 一种用于构建电磁地图的方法和系统 |
CN113836358A (zh) * | 2021-09-14 | 2021-12-24 | 北京百度网讯科技有限公司 | 数据处理方法、装置、电子设备及存储介质 |
CN114338348A (zh) * | 2021-12-08 | 2022-04-12 | 邵也铮 | 一种智能告警方法、装置、设备及可读存储介质 |
CN114662595A (zh) * | 2022-03-25 | 2022-06-24 | 王登辉 | 大数据融合处理方法及系统 |
CN115134221A (zh) * | 2021-03-11 | 2022-09-30 | 中国电信股份有限公司 | 终端的质差识别方法及装置、存储介质及电子设备 |
CN116645374A (zh) * | 2023-07-27 | 2023-08-25 | 深圳思谋信息科技有限公司 | 点状缺陷检测方法、装置、计算机设备及存储介质 |
CN117272216A (zh) * | 2023-11-22 | 2023-12-22 | 中国建材检验认证集团湖南有限公司 | 一种自动流量监测站和人工水尺观测站的数据分析方法 |
CN111612037B (zh) * | 2020-04-24 | 2024-06-21 | 平安直通咨询有限公司上海分公司 | 异常用户检测方法、装置、介质及电子设备 |
-
2019
- 2019-10-12 CN CN201910970124.5A patent/CN110807474A/zh active Pending
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111612037B (zh) * | 2020-04-24 | 2024-06-21 | 平安直通咨询有限公司上海分公司 | 异常用户检测方法、装置、介质及电子设备 |
CN111612037A (zh) * | 2020-04-24 | 2020-09-01 | 平安直通咨询有限公司上海分公司 | 异常用户检测方法、装置、介质及电子设备 |
CN115134221A (zh) * | 2021-03-11 | 2022-09-30 | 中国电信股份有限公司 | 终端的质差识别方法及装置、存储介质及电子设备 |
CN115134221B (zh) * | 2021-03-11 | 2024-05-14 | 中国电信股份有限公司 | 终端的质差识别方法及装置、存储介质及电子设备 |
CN113466571B (zh) * | 2021-09-06 | 2022-02-22 | 中国人民解放军国防科技大学 | 一种用于构建电磁地图的方法和系统 |
CN113466571A (zh) * | 2021-09-06 | 2021-10-01 | 中国人民解放军国防科技大学 | 一种用于构建电磁地图的方法和系统 |
CN113836358A (zh) * | 2021-09-14 | 2021-12-24 | 北京百度网讯科技有限公司 | 数据处理方法、装置、电子设备及存储介质 |
CN114338348A (zh) * | 2021-12-08 | 2022-04-12 | 邵也铮 | 一种智能告警方法、装置、设备及可读存储介质 |
CN114662595A (zh) * | 2022-03-25 | 2022-06-24 | 王登辉 | 大数据融合处理方法及系统 |
CN116645374A (zh) * | 2023-07-27 | 2023-08-25 | 深圳思谋信息科技有限公司 | 点状缺陷检测方法、装置、计算机设备及存储介质 |
CN116645374B (zh) * | 2023-07-27 | 2024-03-22 | 深圳思谋信息科技有限公司 | 点状缺陷检测方法、装置、计算机设备及存储介质 |
CN117272216A (zh) * | 2023-11-22 | 2023-12-22 | 中国建材检验认证集团湖南有限公司 | 一种自动流量监测站和人工水尺观测站的数据分析方法 |
CN117272216B (zh) * | 2023-11-22 | 2024-02-09 | 中国建材检验认证集团湖南有限公司 | 一种自动流量监测站和人工水尺观测站的数据分析方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110807474A (zh) | 聚类方法及装置、存储介质、电子设备 | |
CN111932386B (zh) | 用户账号确定方法及装置、信息推送方法及装置、电子设备 | |
CN110659723B (zh) | 基于人工智能的数据处理方法、装置、介质及电子设备 | |
EP3940555A2 (en) | Method and apparatus of processing information, method and apparatus of recommending information, electronic device, and storage medium | |
CN111339443B (zh) | 用户标签确定方法、装置、计算机设备及存储介质 | |
CN111371767B (zh) | 恶意账号识别方法、恶意账号识别装置、介质及电子设备 | |
WO2022121801A1 (zh) | 信息处理方法、装置和电子设备 | |
CN112395487A (zh) | 信息推荐方法、装置、计算机可读存储介质及电子设备 | |
CN114329029B (zh) | 对象检索方法、装置、设备及计算机存储介质 | |
CN111178399A (zh) | 数据处理方法及装置、电子设备和计算机可读存储介质 | |
CN114238329A (zh) | 向量相似度计算方法、装置、设备及存储介质 | |
CN110929028A (zh) | 一种日志分类方法及装置 | |
CN115130536A (zh) | 特征提取模型的训练方法、数据处理方法、装置及设备 | |
CN114358109A (zh) | 特征提取模型训练、样本检索方法、装置和计算机设备 | |
CN113870863A (zh) | 声纹识别方法及装置、存储介质及电子设备 | |
CN113590771A (zh) | 一种数据挖掘方法、装置、设备及存储介质 | |
CN110209895B (zh) | 向量检索方法、装置和设备 | |
CN111325578A (zh) | 预测模型的样本确定方法及装置、介质和设备 | |
CN116150690A (zh) | DRGs决策树构建方法及装置、电子设备、存储介质 | |
CN113010759B (zh) | 聚类集合的处理方法、装置、计算机可读介质及电子设备 | |
CN110472140B (zh) | 对象词推荐方法、装置及电子设备 | |
CN114528378A (zh) | 文本分类方法、装置、电子设备及存储介质 | |
CN114357242A (zh) | 基于召回模型的训练评估方法及装置、设备、存储介质 | |
CN114444514A (zh) | 语义匹配模型训练、语义匹配方法及相关装置 | |
CN114549838A (zh) | 分割点云数据的方法、装置、设备和计算机可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40022096 Country of ref document: HK |
|
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |