CN109697452B - 数据对象的处理方法、处理装置及处理系统 - Google Patents
数据对象的处理方法、处理装置及处理系统 Download PDFInfo
- Publication number
- CN109697452B CN109697452B CN201710998952.0A CN201710998952A CN109697452B CN 109697452 B CN109697452 B CN 109697452B CN 201710998952 A CN201710998952 A CN 201710998952A CN 109697452 B CN109697452 B CN 109697452B
- Authority
- CN
- China
- Prior art keywords
- clusters
- data
- clustering
- cluster
- feature data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims abstract description 49
- 238000003672 processing method Methods 0.000 title description 14
- 238000000034 method Methods 0.000 claims abstract description 45
- 238000012950 reanalysis Methods 0.000 claims abstract description 10
- 238000000605 extraction Methods 0.000 claims description 21
- 239000000284 extract Substances 0.000 claims description 5
- 238000004458 analytical method Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 11
- 238000004590 computer program Methods 0.000 description 9
- 230000015654 memory Effects 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000010276 construction Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000007621 cluster analysis Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013075 data extraction Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种数据对象的处理方法。所述方法包括:从多个第一簇的每个第一簇中抽取至少一个特征数据得到再分析数据;通过聚类将所述再分析数据重新归类为多个第二簇,并相应地将所述多个第一簇的每个第一簇的特征数据重新分配至对应的第二簇中;以及当所述重新分配后的所述多个第二簇对应的聚类纯度与所述多个第一簇对应的聚类纯度的纯度差值大于预设的偏差阈值时,以所述重新分配后的所述多个第二簇为所述多个第一簇,重复执行所述抽取、重新归类、以及重新分配操作,直到所述纯度差值小于或等于所述偏差阈值时,输出所述重新分配后的所述多个第二簇。本公开还提供了一种数据对象的处理装置、处理系统及介质。
Description
技术领域
本公开涉及互联网技术领域,更具体地,涉及一种数据对象的处理方法、处理装置及处理系统。
背景技术
随着互联网技术和数据存储技术的快速发展,各个机构组织积累了大量的数据。从海量的数据中提取潜在的、有价值的数据信息成为一项巨大的挑战。聚类分析是数据挖掘中的一种重要的方法。聚类分析能够将海量的杂乱无章的数据根据相似性归类至不同的簇。
在实现本发明构思的过程中,发明人发现现有技术中至少存在如下问题:当需要进行聚类分析的数据规模增大时,通过聚类获得的簇的总个数很可能会很大,导致平均每个簇内的数据量逐渐减少,使得聚类纯度不够高。换言之,现有技术中通过聚类得到的多个簇中可能存在可以进一步合并的簇。对于这些簇如果不进一步合并,就会使得聚类过程中数据的相似性提取不够完整,从而影响后续的数据分析的简洁性和准确性。
发明内容
有鉴于此,本公开提供了一种能够提高聚类纯度、以及能够更完整地提取相似特征的数据对象的处理方法、处理装置、处理系统及介质。
本公开的一个方面提供了一种数据对象的处理方法。所述方法包括:从多个第一簇的每个第一簇中抽取至少一个特征数据,得到再分析数据,其中,每一个特征数据对应于一个数据对象,所述多个第一簇为将所有待聚类的数据对象的特征数据通过聚类而获得的;通过聚类将所述再分析数据重新归类为多个第二簇;根据所述多个第二簇的每个第二簇中的特征数据在所述多个第一簇中的归类,将所述多个第一簇的每个第一簇的特征数据重新分配至对应的第二簇中;以及当所述重新分配后的所述多个第二簇对应的聚类纯度与所述多个第一簇对应的聚类纯度的纯度差值大于预设的偏差阈值时,以所述重新分配后的所述多个第二簇为所述多个第一簇,重复执行所述抽取、重新归类、以及重新分配操作,直到所述纯度差值小于或等于所述偏差阈值时,输出所述重新分配后的所述多个第二簇。
根据本公开的实施例,所述数据对象包括以下中任意一项:数据文件、文档、图像、音频、或视频。
根据本公开的实施例,所述聚类纯度通过所述所有待聚类的数据对象的总个数与簇的总个数确定。
根据本公开的实施例,所述从多个第一簇的每个第一簇中抽取至少一个特征数据,包括从所述多个第一簇的每个第一簇中随机抽取一个特征数据。
根据本公开的实施例,所述方法还包括通过聚类将所述所有待聚类的数据对象的特征数据归类为多个第一簇。
根据本公开的实施例,所述方法还包括获取所述所有待聚类的数据对象中每一个数据对象对应的特征数据。
本公开的另一方面提供了一种数据对象的处理装置,包括抽取模块、重新归类模块、重新分配模块和循环模块。抽取模块用于从多个第一簇的每个第一簇中抽取至少一个特征数据,得到再分析数据,其中,每一个特征数据对应于一个数据对象,所述多个第一簇为将所有待聚类的数据对象的特征数据通过聚类而获得的。重新归类模块用于通过聚类将所述再分析数据重新归类为多个第二簇。重新分配模块用于根据所述多个第二簇的每个第二簇中的特征数据在所述多个第一簇中的归类,将所述多个第一簇的每个第一簇的特征数据重新分配至对应的第二簇中。循环模块用于当所述重新分配后的所述多个第二簇对应的聚类纯度与所述多个第一簇对应的聚类纯度的纯度差值大于预设的偏差阈值时,以所述重新分配后的所述多个第二簇为所述多个第一簇,重复执行所述抽取、重新归类、以及重新分配操作,直到所述纯度差值小于或等于所述偏差阈值时,输出所述重新分配后的所述多个第二簇。
根据本公开的实施例,所述数据对象包括以下中任意一项:数据文件、文档、图像、音频、或视频。
根据本公开的实施例,所述聚类纯度通过所述所有待聚类的数据对象的总个数与簇的总个数确定。
根据本公开的实施例,所述抽取模块从多个第一簇的每个第一簇中抽取至少一个特征数据,包括从所述多个第一簇的每个第一簇中随机抽取一个特征数据。
根据本公开的实施例,所述处理装置还包括聚类模块。聚类模块用于通过聚类将所述所有待聚类的数据对象的特征数据归类为多个第一簇。
根据本公开的实施例,所述处理装置还包括特征数据获取模块。特征数据获取模块用于获取所述所有待聚类的数据对象中每一个数据对象对应的特征数据。
本公开的另一方面提供了一种数据对象的处理系统,包括一个或多个处理器,以及存储装置。其中,存储装置用于存储一个或多个程序。当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行如上所述的处理方法。
本公开的另一方面提供了一种计算机可读介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行如上所述的方法。
根据本公开的实施例,可以至少部分地避免了对数据对象进行聚类分析时,随着进行聚类分析的数据规模的增加聚类纯度下降的问题,并因此可以实现即使进行聚类分析的的数据规模不断增大,都能够使得最终获得的簇的总个数具有较高的收敛性和一致性,使得对数据对象的特征数据的相似性的提取达到不能再提升的程度,从而实现对提升聚类纯度的技术效果。
根据本公开的实施例,在根据特征数据的相似性获得数据归类的簇时,通过循环迭代的方式,使得归类结果不断收敛,直到不能在再提高聚类纯度为止,从而保证了最终获得的簇的收敛性和一致性。
根据本公开的实施例,在循环迭代的过程中从前一轮获得簇中抽取部分数据进行重新归类,能够有效的降低运算量,提高运算效率。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的可以应用数据对象的处理方法、处理装置和处理系统的示例性系统架构100;
图2示意性示出了根据本公开实施例的数据对象的处理方法的流程图;
图3示意性示出了根据本公开另一实施例的数据对象的处理方法的流程图;
图4示意性示出了根据本公开实施例的数据对像的处理装置的框图;
图5示意性示出了根据本公开实施例的数据对象的处理系统的框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。本领域技术人员还应理解,实质上任意表示两个或更多可选项目的转折连词和/或短语,无论是在说明书、权利要求书还是附图中,都应被理解为给出了包括这些项目之一、这些项目任一方、或两个项目的可能性。例如,短语“A或B”应当被理解为包括“A”或“B”、或“A和B”的可能性。
本公开的实施例提供了一种数据对象的处理方法、处理装置和处理系统。该方法包括:从多个第一簇的每个第一簇中抽取至少一个特征数据,得到再分析数据,其中,每一个特征数据对应于一个数据对象,该多个第一簇为将所有待聚类的数据对象的特征数据通过聚类而获得的;通过聚类将该再分析数据重新归类为多个第二簇;根据该多个第二簇的每个第二簇中的特征数据在该多个第一簇中的归类,将该多个第一簇的每个第一簇的特征数据重新分配至对应的第二簇中;以及当该重新分配后的该多个第二簇对应的聚类纯度与该多个第一簇对应的聚类纯度的纯度差值大于预设的偏差阈值时,以该重新分配后的该多个第二簇为该多个第一簇,重复执行该抽取、重新归类、以及重新分配操作,直到该纯度差值小于或等于该偏差阈值时,输出该重新分配后的该多个第二簇。以此方式,能够有效地保证对所有待聚类的数据对象的相似性的完整提取,使得聚类纯度达到不能再进一步提升地程度。
图1示意性示出了根据本公开实施例的可以应用数据对象的处理方法、处理装置和处理系统的示例性系统架构100。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
服务器105也可以是云端服务器、分布式服务器集群。服务器105还可以对用户利用终端设备101、102、103进行操作所产生的各种数据进行收集、整理和处理分析等。
需要说明的是,本公开实施例所提供的数据对象的处理方法一般可以由服务器105执行。相应地,本公开实施例所提供的数据对象的处理装置一般可以设置于服务器105中。本公开实施例所提供的数据对象的处理方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的数据对象的处理装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的数据对象的处理方法的流程图。
如图2所示,根据本公开实施例的数据对象的处理方法包括操作S201~操作S206,其中当操作S204的判断输出为是时,循环执行操作S205以及操作S201~操作S203,直到操作S204的判断输出为否时,执行操作S206的输出。
在操作S201,从多个第一簇的每个第一簇中抽取至少一个特征数据,得到再分析数据。其中,每一个特征数据对应于一个数据对象,该多个第一簇为将所有待聚类的数据对象的特征数据通过聚类而获得的。
该多个第一簇为将所有待聚类的数据对象的特征数据通过聚类而获得的。通过聚类将该所有待聚类的数据对象的特征数据归类至多个第一簇中。从而该多个第一簇的每个第一簇中的特征数据均相似,其相似程度与聚类的精度相关联。
根据本公开的实施例该数据对象包括以下中任意一项:数据文件、文档、图像、音频、或视频。
当该数据对象为数据文件时,该数据对象的特征数据可以是该数据文件的格式信息、语言类型、或者算法等。
当该数据对象为文档时,该数据对象的特征数据可以是文档的格式、文档的结构信息、文档内的词、词频信息、或者文档的语言类型等数据。
当该数据对象为图像时,该数据对象的特征数据可以是图像的编码格式、图像中的色彩分布、或者其中的图形轮廓等数据。
当该数据对象为音频时,该数据对象的特征数据可以是音频格式、其中的声音流分布、或者声音的频率范围等数据。
当该数据对象为视频时,该数据对象的特征数据可以是视频的编码格式、视频流数据分布、或者视频画面的色彩分布等。
根据本公开的实施例,每一个特征数据对应于一个数据对象。具体地,一个特征数据可以是从对应的数据对象中提取相应的数据信息而获得的。一个数据特征可以是一个一维的特征值,例如是对应的数据对象的某一个维度的数据信息。或者,一个特征数据也可以是一个多维的数据向量,例如从对应的数据对象中提取多个维度的数据信息,并将这些数据信息组合获得对应的特征数据。
从多个第一簇的每个第一簇中抽取至少一个特征数据,可以是通过特定的方法获取每一个第一簇中处于特定位置(例如中心位置及其附近)的至少一个特征数据,也可以是随机抽取至少一个特征数据。
在操作S202,通过聚类将该再分析数据重新归类为多个第二簇。
此时,该多个第二簇中每一个第二簇中包括该再分析数据中的至少一个特征数据。并且,每个第二簇中的特征数据相似,其相似程度与聚类的精度相关联。
在操作S203,根据该多个第二簇的每个第二簇中的特征数据在该多个第一簇中的归类,将该多个第一簇的每个第一簇的特征数据重新分配至对应的第二簇中。
例如,当经过操作S202重新归类得到的多个第二簇中的其中一个第二簇的标签为B2时。该B2簇中包括特征数据a1、和a3,其中特征数据a1在重新归类之前属于一个标签为A1的第一簇,特征数据a3在重新归类之前属于一个标签为A3的第一簇。
那么,在操作S203的重新分配操作可以是,将A1簇和A3簇中的特征数据都重新分配至B2簇中。从而,重新分配后的B2簇的数据中包括了原来A1簇和A3簇中的所有特征数据。
在操作S203中依据重新归类得到的多个第二簇中的每个第二簇的特征数据在多个第一簇中所属的归来,将每个第一簇的特征数据相应地归类至对应的第二簇中,从而实现了将所有待聚类的数据对象的特征数据归类至多个第二簇,完成了对所有待聚类的数据对象的特征数据的再次聚类。
在操作S204,判断该重新分配后的该多个第二簇对应的聚类纯度与该多个第一簇对应的聚类纯度的纯度差值是否大于预设的偏差阈值。
根据本公开的实施例,该聚类纯度通过该所有待聚类的数据对象的总个数与簇的总个数确定。
具体地,该聚类纯度可以为聚类精度一定的情况下,平均每个簇的特征数据的个数。即,当获得多个第一簇时的聚类精度与获得多个第二簇时的聚类精度一致时,该聚类纯度可以是该所有待聚类的数据对象的总个数与获得的簇的总个数的比值,即平均每簇中的特征数据的个数。
相应的,该预设的偏差阈值也是表征前后两次聚类的比值差值的数据。
获得多个第一簇时的聚类精度与获得多个第二簇时的聚类精度一致,可以通过在获得多个第一簇和获得多个第二簇的聚类过程中使用聚类精度一致的聚类方法或者聚类系统实现,例如使用同一聚类过程。
或者,当所有待聚类的数据对象的总个数一定,并且获得多个第一簇时的聚类精度与获得多个第二簇时的聚类精度一致时,该聚类纯度也可以是聚类获得的簇的总个数。
相应的,该预设的偏差阈值也是表征前后两次聚类的簇的个数的差值的数据。
当操作S204的判断输出为是时,即该纯度差值大于预设的偏差阈值。此时,循环执行操作S205以及操作S201~操作S203。
其中,在操作S205,以该重新分配后的该多个第二簇为该多个第一簇。然后在操作S201进行抽取操作、在操作S202进行重新归类操作以及在操作S203进行重新分配操作。直到当操作S204的判断输出为否时,循环结束。
当操作S204的判断输出为否时,即该纯度差值小于预设的偏差阈值,则执行操作S206。
在操作S206,输出该重新分配后的该多个第二簇。
根据本公开的实施例,在根据特征数据的相似性获得数据归类的簇时,通过循环迭代的方式,使得归类结果不断收敛,直到不能在再提高聚类纯度为止,从而保证了最终获得的簇的收敛性和一致性。
根据本公开的实施例,在循环迭代的过程中从前一轮获得簇中抽取部分数据进行重新归类,能够有效的降低运算量,提高运算效率。
以此方式,可以至少部分地避免了对数据对象进行聚类分析时,随着进行聚类分析的数据规模的增加聚类纯度下降的问题,并因此可以实现即使进行聚类分析的的数据规模不断增大,都能够使得最终获得的簇的总个数具有较高的收敛性和一致性,使得对数据对象的特征数据的相似性的提取达到不能再提升的程度,从而实现对提升聚类纯度的技术效果。
根据本公开的实施例,操作S201可以是从该多个第一簇的每个第一簇中随机抽取一个特征数据。
通过聚类可以认为该多个第一簇中的每一个第一簇内的特征数据都是重复的,尤其是当聚类过程中聚类精度较高(例如95%以上)时。其中,聚类精度是与所使用的聚类系统或聚类方法本身的精度相关联。因此,随机抽取并不会影响重新归类的聚类精度。从而,随机抽取的任意一个特征数据都可以代表该第一簇。
根据本公开的实施例,随机抽取一个特征数据可以有效提高特征数据抽取过程的效率,节省计算量,同时还可以减少循环迭代过程中的数据计算量。
图3示意性示出了根据本公开另一实施例的数据对象的处理方法的流程图。
如图3所示,根据本公开实施例的数据对象的处理方法除操作S201~操作S206之外,还可以包括操作S302。其中,
在操作S302,通过聚类将该所有待聚类的数据对象的特征数据归类为多个第一簇。
可以理解,图3示出的操作S302在操作S201之前执行仅是一种示例。实际应用中,在一些实施例中操作S302也可以与操作S201并行执行。
另外,如图3所示,在另一些实施例中,该数据对象的处理方法还可以包括操作S301。
在操作S301,获取该所有待聚类的数据对象中每一个数据对象对应的特征数据。
类似地,图3中示出的操作S301在操作302之前进行一种示例。实际应用中,在一些实施例中操作S301也可以与操作S302并行执行。
图4示意性示出了根据本公开实施例的数据对像的处理装置的框图。
如图4所示,根据本公开实施例的数据对象的处理装置400包括抽取模块410、重新归类模块420、重新分配模块430以及循环模块440。
根据本公开实施例的数据对象的处理装置400可以用于实现参考图2和图3所描述的数据对象的处理方法。
抽取模块410用于从多个第一簇的每个第一簇中抽取至少一个特征数据,得到再分析数据,其中,每一个特征数据对应于一个数据对象,该多个第一簇为将所有待聚类的数据对象的特征数据通过聚类而获得的;
重新归类模块420用于通过聚类将该再分析数据重新归类为多个第二簇;
重新分配模块430用于根据该多个第二簇的每个第二簇中的特征数据在该多个第一簇中的归类,将该多个第一簇的每个第一簇的特征数据重新分配至对应的第二簇中;以及
循环模块440用于当该重新分配后的该多个第二簇对应的聚类纯度与该多个第一簇对应的聚类纯度的纯度差值大于预设的偏差阈值时,以该重新分配后的该多个第二簇为该多个第一簇,重复执行该抽取、重新归类、以及重新分配操作,直到该纯度差值小于或等于该偏差阈值时,输出该重新分配后的该多个第二簇。
根据本公开的实施例的处理装置400,在根据特征数据的相似性获得数据归类的簇时,通过循环迭代的方式,使得归类结果不断收敛,直到不能在再提高聚类纯度为止,从而保证了最终获得的簇的收敛性和一致性。
更进一步地,在循环迭代的过程中从前一轮获得簇中抽取部分数据进行重新归类,能够有效的降低运算量,提高运算效率。
以此方式,可以至少部分地避免了对数据对象进行聚类分析时,随着进行聚类分析的数据规模的增加聚类纯度下降的问题,并因此可以实现即使进行聚类分析的的数据规模不断增大,都能够使得最终获得的簇的总个数具有较高的收敛性和一致性,使得对数据对象的特征数据的相似性的提取达到不能再提升的程度,从而实现对提升聚类纯度的技术效果。。
根据本公开的实施例,该数据对象包括以下中任意一项:数据文件、文档、图像、音频、或视频。
根据本公开的实施例,该聚类纯度通过该所有待聚类的数据对象的总个数与簇的总个数确定。
根据本公开的实施例,该抽取模块从多个第一簇的每个第一簇中抽取至少一个特征数据,可以是从该多个第一簇的每个第一簇中随机抽取一个特征数据。
根据本公开的实施例,处理装置400还包括聚类模块450。或者,根据本公开的实施例,处理装置400还可以进一步包括特征数据获取模块460。
聚类模块450用于通过聚类将该所有待聚类的数据对象的特征数据归类为多个第一簇。
特征数据获取模块460用于获取该所有待聚类的数据对象中每一个数据对象对应的特征数据。
可以理解的是,抽取模块410、重新归类模块420、重新分配模块430、循环模块440、聚类模块450以及特征数据获取模块460可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本发明的实施例,抽取模块410、重新归类模块420、重新分配模块430、循环模块440、聚类模块450以及特征数据获取模块460中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以以对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式的适当组合来实现。或者,抽取模块410、重新归类模块420、重新分配模块430、循环模块440、聚类模块450以及特征数据获取模块460中的至少一个可以至少被部分地实现为计算机程序模块,当该程序被计算机运行时,可以执行相应模块的功能。
图5示意性示出了根据本公开实施例的数据对象的处理系统的框图。图5示出的系统仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示,根据本公开实施例的系统500包括处理器501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。处理器501例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器501还可以包括用于缓存用途的板载存储器。处理器501可以包括用于执行参考图2和图3描述的根据本公开实施例的处理方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 503中,存储有系统500操作所需的各种程序和数据。处理器501、ROM 502以及RAM 503通过总线504彼此相连。处理器501通过执行ROM 502和/或RAM 503中的程序来执行以上参考图2和图3描述的数据对象的处理方法的各种操作。需要注意,所述程序也可以存储在除ROM 502和RAM 503以外的一个或多个存储器中。处理器501也可以通过执行存储在所述一个或多个存储器中的程序来执行以上参考图2和图3描述的数据对象的处理方法的各种操作。
根据本公开的实施例,系统500还可以包括输入/输出(I/O)接口505,输入/输出(I/O)接口505也连接至总线504。系统500还可以包括连接至I/O接口505的以下部件中的一项或多项:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。
根据本公开的实施例,上文参考流程图描述的方法可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。在该计算机程序被处理器501执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
需要说明的是,本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。根据本公开的实施例,计算机可读介质可以包括上文描述的ROM 502和/或RAM 503和/或ROM 502和RAM 503以外的一个或多个存储器。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
作为另一方面,本公开还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备执行根据本公开实施例的数据对象的处理方法。所述方法包括:从多个第一簇的每个第一簇中抽取至少一个特征数据,得到再分析数据,其中,每一个特征数据对应于一个数据对象,所述多个第一簇为将所有待聚类的数据对象的特征数据通过聚类而获得的;通过聚类将所述再分析数据重新归类为多个第二簇;根据所述多个第二簇的每个第二簇中的特征数据在所述多个第一簇中的归类,将所述多个第一簇的每个第一簇的特征数据重新分配至对应的第二簇中;以及当所述重新分配后的所述多个第二簇对应的聚类纯度与所述多个第一簇对应的聚类纯度的纯度差值大于预设的偏差阈值时,以所述重新分配后的所述多个第二簇为所述多个第一簇,重复执行所述抽取、重新归类、以及重新分配操作,直到所述纯度差值小于或等于所述偏差阈值时,输出所述重新分配后的所述多个第二簇。
根据本公开的实施例,所述数据对象包括以下中任意一项:数据文件、文档、图像、音频、或视频。
根据本公开的实施例,所述聚类纯度通过所述所有待聚类的数据对象的总个数与簇的总个数确定。
根据本公开的实施例,所述从多个第一簇的每个第一簇中抽取至少一个特征数据,包括从所述多个第一簇的每个第一簇中随机抽取一个特征数据。
根据本公开的实施例,所述方法还包括通过聚类将所述所有待聚类的数据对象的特征数据归类为多个第一簇。
根据本公开的实施例,所述方法还包括获取所述所有待聚类的数据对象中每一个数据对象对应的特征数据。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (12)
1.一种用于处理图像数据对象以进行图像聚类的方法,包括:
从多个第一簇的每个第一簇中抽取至少一个特征数据,得到再分析数据,其中,每一个特征数据对应于一个图像数据对象,所述多个第一簇为将所有待聚类的图像数据对象的特征数据通过聚类而获得的,所述至少一个特征数据包括图像编码格式、图像中色彩分布、图形轮廓中的任意一项或多项;
基于所述再分析数据中特征数据的相似性,通过聚类将所述再分析数据重新归类为多个第二簇,所述多个第二簇的每个第二簇中包括所述再分析数据中的至少一个特征数据,其中,所述每个第二簇中的特征数据相似;
根据所述多个第二簇的每个第二簇中的特征数据在所述多个第一簇中的归类,将所述多个第一簇的每个第一簇的特征数据重新分配至对应的第二簇中;以及
当所述重新分配后的所述多个第二簇对应的聚类纯度与所述多个第一簇对应的聚类纯度的纯度差值大于预设的偏差阈值时,以所述重新分配后的所述多个第二簇为所述多个第一簇,重复执行所述抽取、重新归类、以及重新分配操作,直到所述纯度差值小于或等于所述偏差阈值时,输出所述重新分配后的所述多个第二簇;
其中,所述聚类纯度包括平均每个簇中的特征数据的个数,其中,基于每一个特征数据与一个图像数据对象的对应关系,所述纯度差值小于或等于所述偏差阈值时表征所有待聚类的图像数据对象的相似性的完整提取,以及平均每个簇对应的图像数据对象的个数满足完整提取条件;
其中,所述输出所述重新分配后的所述多个第二簇,包括:
输出的所述多个第二簇的总个数具有收敛性和一致性,使得对图像数据对象的特征数据的相似性的提取达到不能再提升的程度。
2.根据权利要求1所述的方法,其中,所述聚类纯度通过所述所有待聚类的图像数据对象的总个数与簇的总个数确定。
3.根据权利要求1所述的方法,其中,所述从多个第一簇的每个第一簇中抽取至少一个特征数据,包括:
从所述多个第一簇的每个第一簇中随机抽取一个特征数据。
4.根据权利要求1所述的方法,还包括:
通过聚类将所述所有待聚类的图像数据对象的特征数据归类为多个第一簇。
5.根据权利要求4所述的方法,还包括:
获取所述所有待聚类的图像数据对象中每一个图像数据对象对应的特征数据。
6.一种用于处理图像数据对象以进行图像聚类的装置,包括:
抽取模块,用于从多个第一簇的每个第一簇中抽取至少一个特征数据,得到再分析数据,其中,每一个特征数据对应于一个图像数据对象,所述多个第一簇为将所有待聚类的图像数据对象的特征数据通过聚类而获得的,所述至少一个特征数据包括图像编码格式、图像中色彩分布、图形轮廓中的任意一项或多项;
重新归类模块,用于基于所述再分析数据中特征数据的相似性,通过聚类将所述再分析数据重新归类为多个第二簇,所述多个第二簇的每个第二簇中包括所述再分析数据中的至少一个特征数据,其中,所述每个第二簇中的特征数据相似;
重新分配模块,用于根据所述多个第二簇的每个第二簇中的特征数据在所述多个第一簇中的归类,将所述多个第一簇的每个第一簇的特征数据重新分配至对应的第二簇中;以及
循环模块,用于当所述重新分配后的所述多个第二簇对应的聚类纯度与所述多个第一簇对应的聚类纯度的纯度差值大于预设的偏差阈值时,以所述重新分配后的所述多个第二簇为所述多个第一簇,重复执行所述抽取、重新归类、以及重新分配操作,直到所述纯度差值小于或等于所述偏差阈值时,输出所述重新分配后的所述多个第二簇;
其中,所述聚类纯度包括每个簇中的特征数据的个数,其中,基于每一个特征数据与一个图像数据对象的对应关系,所述纯度差值小于或等于所述偏差阈值时表征所有待聚类的图像数据对象的相似性的完整提取,以及平均每个簇对应的图像数据对象的个数满足完整提取条件;
其中,所述输出所述重新分配后的所述多个第二簇,包括:
输出的所述多个第二簇的总个数具有收敛性和一致性,所述多个第二簇中不存在可进一步合并的簇,使得对图像数据对象的特征数据的相似性的提取达到不能再提升的程度。
7.根据权利要求6所述的装置,其中,所述聚类纯度通过所述所有待聚类的图像数据对象的总个数与簇的总个数确定。
8.根据权利要求6所述的装置,其中,所述抽取模块从多个第一簇的每个第一簇中抽取至少一个特征数据,包括:
从所述多个第一簇的每个第一簇中随机抽取一个特征数据。
9.根据权利要求6所述的装置,还包括:
聚类模块,用于通过聚类将所述所有待聚类的图像数据对象的特征数据归类为多个第一簇。
10.根据权利要求9所述的装置,还包括:
特征数据获取模块,用于获取所述所有待聚类的图像数据对象中每一个数据对象对应的特征数据。
11.一种用于处理图像数据对象以进行图像聚类的系统,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~5任意一项所述的方法。
12.一种计算机可读介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行权利要求1~5任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710998952.0A CN109697452B (zh) | 2017-10-23 | 2017-10-23 | 数据对象的处理方法、处理装置及处理系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710998952.0A CN109697452B (zh) | 2017-10-23 | 2017-10-23 | 数据对象的处理方法、处理装置及处理系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109697452A CN109697452A (zh) | 2019-04-30 |
CN109697452B true CN109697452B (zh) | 2021-09-14 |
Family
ID=66226344
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710998952.0A Active CN109697452B (zh) | 2017-10-23 | 2017-10-23 | 数据对象的处理方法、处理装置及处理系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109697452B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110245684B (zh) * | 2019-05-14 | 2023-02-03 | 杭州米雅信息科技有限公司 | 数据处理方法、电子设备和介质 |
CN111062407B (zh) * | 2019-10-15 | 2023-12-19 | 深圳市商汤科技有限公司 | 图像处理方法及装置、电子设备和存储介质 |
CN111160468B (zh) * | 2019-12-30 | 2024-01-12 | 深圳市商汤科技有限公司 | 数据处理方法及装置、处理器、电子设备、存储介质 |
CN111340084B (zh) * | 2020-02-20 | 2024-05-17 | 北京市商汤科技开发有限公司 | 数据处理方法及装置、处理器、电子设备、存储介质 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106844422A (zh) * | 2016-12-02 | 2017-06-13 | 上海电机学院 | 一种基于三支增量聚类的风电场机组聚合方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5276541B2 (ja) * | 2009-07-27 | 2013-08-28 | キヤノン株式会社 | 画像処理方法及び画像処理装置及びプログラム |
CN106295670B (zh) * | 2015-06-11 | 2020-03-17 | 腾讯科技(深圳)有限公司 | 数据处理方法及数据处理装置 |
CN106610951A (zh) * | 2016-09-29 | 2017-05-03 | 四川用联信息技术有限公司 | 改进的基于语义分析的文本相似度求解算法 |
-
2017
- 2017-10-23 CN CN201710998952.0A patent/CN109697452B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106844422A (zh) * | 2016-12-02 | 2017-06-13 | 上海电机学院 | 一种基于三支增量聚类的风电场机组聚合方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109697452A (zh) | 2019-04-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109697452B (zh) | 数据对象的处理方法、处理装置及处理系统 | |
CN112527649A (zh) | 一种测试用例的生成方法和装置 | |
US20230033019A1 (en) | Data processing method and apparatus, computerreadable medium, and electronic device | |
CN109993749B (zh) | 提取目标图像的方法和装置 | |
CN110188113B (zh) | 一种利用复杂表达式进行数据比对的方法、装置及存储介质 | |
CN109919220B (zh) | 用于生成视频的特征向量的方法和装置 | |
CN112818026A (zh) | 数据整合方法和装置 | |
CN110888972A (zh) | 一种基于Spark Streaming的敏感内容识别方法及装置 | |
CN112214770B (zh) | 恶意样本的识别方法、装置、计算设备以及介质 | |
CN111858916B (zh) | 用于聚类句子的方法和装置 | |
CN112100291A (zh) | 一种数据分箱的方法和装置 | |
CN112433713A (zh) | 一种应用程序设计图处理方法和装置 | |
CN108062576B (zh) | 用于输出数据的方法和装置 | |
CN114998599A (zh) | 一种数据处理方法、装置、设备及计算机可读介质 | |
CN111723063A (zh) | 一种离线日志数据处理的方法和装置 | |
CN115495606A (zh) | 一种图像聚档方法和系统 | |
CN113239687A (zh) | 一种数据处理方法和装置 | |
CN113742485A (zh) | 一种处理文本的方法和装置 | |
CN111259194B (zh) | 用于确定重复视频的方法和装置 | |
CN111046894B (zh) | 识别马甲账号的方法和装置 | |
CN111383293A (zh) | 一种图像要素矢量化的方法和装置 | |
CN113409136B (zh) | 组合服务相似度分析方法、装置、计算机系统及存储介质 | |
CN114201493B (zh) | 数据接入方法、装置、设备以及存储介质 | |
CN110858240A (zh) | 一种前端模块加载方法和装置 | |
CN112667627B (zh) | 一种数据处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |