CN101410831A - 对于对象的顺序稳定的分类的线性无监督方法 - Google Patents
对于对象的顺序稳定的分类的线性无监督方法 Download PDFInfo
- Publication number
- CN101410831A CN101410831A CNA2006800528444A CN200680052844A CN101410831A CN 101410831 A CN101410831 A CN 101410831A CN A2006800528444 A CNA2006800528444 A CN A2006800528444A CN 200680052844 A CN200680052844 A CN 200680052844A CN 101410831 A CN101410831 A CN 101410831A
- Authority
- CN
- China
- Prior art keywords
- classification
- prime
- sigma
- classifications
- descriptor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/355—Class or cluster creation or modification
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Image Analysis (AREA)
Abstract
一种线性无监督分类方法,其允许将对象和描述符所组成的数据库结构化,该方法对于所述对象的顺序是稳定的,所述方法包括一初始步骤,该初始步骤将定性的、定量的或者文本的数据变换成为存在-不存在二元数据,所述方法特征在于其包括至少下述步骤:确定关于所述待分类对象之间n2个一致性的结构阈值αs函数,该结构阈值定义了适用于所述数据的优化准则,使用所述描述符作为类别的划分或集合的结构化和构造生成器,将生成器生成的类别与划分逐步地合并(40、41、42),对于涉及函数f(Cii,Ci′i′)=Min(Cii,Ci′i′)的优化准则,对Minimum函数的和进行线性化。
Description
本发明涉及对于对象的顺序稳定的线性无监督分类方法。
其更一般地涉及称为术语“聚类”的自动分类技术。
在大型数据库中,其特别地被使用在无预先假设的“知识发现”的“数据挖掘”和“文本挖掘”领域。这种数据可以是例如处理行为的或人口统计的数据时的有结构类型,或者是处理文本数据时的无结构类型。
从一组由m个描述符(或变量)描述的一组(或种群)n个对象组成的数据库开始,自动分类在于对这些对象以非常均匀的类别(或群)的形式进行结构化。均匀性表示同一类别的两个对象必须比属于两个不同类别的两个对象彼此更加相似(或类似)。
取决于数据是有结构的还是无结构类型,这些类别的构成将允许具有相似概要特征或主题的对象的群被容易地探测到。
若通过精确的方法求解,这个问题的排列与组合太多。由于这个原因,为了找到这个问题近似解,已经出现了在处理时间和机器资源方面代价较少的启发式算法。
这些启发式算法中的某一些通过任意地固定类别的数量来给出解,而其他的提出具有可变数量类别的划分的层次。
例如,可能提及下列启发式算法:
·“移动中心”类型的方法,比如“k均值”,动态聚类,等等......
·层次分类的方法(增加的或者减少的)
·“第一领导者(leader)”类型的方法等等
下列参考文献给出了各种无监督分类方法的实例:1)Saporta G.(1990),Probabilités,Analyse de données et Statistique(概率,数据分析与统计),Technip;2)Lebart and al(1995),Statistique exploratoire multidimensionnelle(多维探索统计),Dunod;3)Hartigan,J.(1975),Clustering Algorithms(聚类算法),John Wiley and Sons,New York,NY,US。
“移动中心”和层次分类类型的方法任意地固定类别的数量。另一方面,“第一领导者”类型的方法要求固定一相似性阈值并且依赖于被考虑对象的顺序。实际上,取决于对象排定的顺序,他们可能产生完全不同的结果。不过,他们允许在合理的时间内能够处理大量的数据。然而,为了获得该性能,这些方法要求类别的最大数量被固定在相对于对象数量非常小的数量。
其中,处理自动分类主题遇到的主要问题可能涉及:
·所讨论种群中类别数量的确定;
·就取决于待处理的数量多少的处理时间而言和所得到类别的均匀性质量而言的性能;
·解释所得结果的能力:测量类别的均匀性的统计指示符的定义,以及参加这些类别构成的描述符的区分能力。
本发明的思想特别地以关联分析理论为根据。作为提醒,该理论在如下列参考文献中得到描述:1)P.Michaud and JF Marcotorchino,“Modèlesd′optimisation en analyse de données relationnelles”(关联数据分析中的优化模型),Mathématiques et Sciences Humaines n°67,1979,p7-38;2:JFMarcotorchino and P Michaud,“Agrégation de similarités en classificationautomatique”(自动分类中的相似性聚合),Revue def statistique appliquée,Vol30,n°2,1981。该理论为与固定类别数量和解释所得结果相关的问题提供解决方案。但是,每当对象的数量超过100时,所依据的理论模型会产生很大的机器资源成本。本发明使用这个理论的启发式方法,其使得大的数据库的理论结果能够非常接近地被近似。
本发明涉及一种线性无监督分类的方法,其允许对由对象和描述符组成的数据库进行结构化,该方法对于对象的顺序是稳定的,该方法包括将定性的、定量的或者文本的数据转换成存在-不存在的二元数据的初始步骤,其特征在于其至少包括下列步骤:
a)确定被分类的对象之间n2个一致性的结构阈值αs函数,该结构阈值定义了适合于数据的优化准则,
b)使用描述符作为类别的划分P或者类别的集合的结构化与构造生成器,
c)将生成器生成的类别与划分逐步地合并(40、41、42),
d)对于涉及函数f(Cii,Ci′i′)=Min(Cii,Ci′i′)的优化准则,将Minimum函数的和进行线性化。
该方法可以包括在一个划分中的多个类别自身之间重新组合的步骤。
例如,合并步骤c)包括一个步骤,其基于两个相交的类,从下列4项中确定最佳的操作(按照优化准则):
·“拆分”第一个类别并组成两个类别;
·“拆分”第二个类别并组成两个类别;
·“拆分”两个类别以组成三个类别;
·将两个相交的类别合并以组成一个单个的类别。
例如,对一个划分的多个类别的重新组合在数个层次级别上执行,并包括下列步骤:
·在每个级别减少结构阈值的数值,使得弱的负贡献变成正的,
·将所组成的多个类别之间的连接值最大化,其中该连接值通过使用一对对象的贡献来确定:
其中α′为α的新的值,
·合并连接值为正的两个类,并在所有级别重复这个过程。
本发明还涉及用于进行线性无监督分类的设备,其允许对由对象和描述符组成的数据库进行结构化,该分类对于对象的顺序是稳定的,该分类包括将定性的、定量的或者文本的数据转换成存在-不存在的二元数据的初始步骤,该设备特征在于其至少包括下列部件:包括存储器、数据库以及处理器的计算机,其被设计用来实现显示上述特征之一的方法的步骤。
本发明显著地具有下列优点:
·在分类过程中自动探测类别数量的能力,
·在合理数量的时间内处理大量数据的能力,
·其对于数据库中对象顺序的独立性。本发明对于对象的处理顺序自然地是稳定的,
·本方法允许测量所获结果质量的指示符非常快速地定义并被计算(线性复杂度),
·本方法对于对象的复制是稳定的。换言之,如果数据库被数次复制,可以就相同类别中被复制的对象来恢复同样的初始的解。
本发明的其他特性和优点将随着阅读本说明书而变得更为明显,其所附的附图所示为:
·图1是支持根据本发明的方法的系统的一般系统的框图,
·图2是描述应用于文档语料库或数值数据库的数据挖掘领域的处理链的一般操作的流程框图,
·图3是示出在预处理阶段中的步骤的流程框图,该阶段在自动分类过程的初期执行,
·图4是示出组成本发明方法的步骤的顺序的流程框图,
·图5是详细说明在图4中的处理41期间执行各种操作的流程框图,
·图6是确定来自两个相交类别的最优本地划分(分成一个、两个或三个类别)的基本操作,
·图7是在图6中描述的基本操作期间所计算的量,
·图8是示出类别的层次组织过程中的步骤的流程框图。
图1给出根据本发明的方法的应用实例的非限制性说明,其允许自动生成将基于分类结果来实现的各种动作。
运行所述方法的系统包括,例如包括存储器2和与分类5的过程相关联的处理器3的计算机1。计算机1与数据库4通信。举例来说,分类的结果以类别集合的形式存储于适合的器件6中。举例来说,器件6与例如电子邮件交换服务器7通信。服务器具有本领域的技术人员所共知的、用于处理接收到的类别信息,以及用于向所讨论的类别中的个体发送消息的潜在触发机制的处理装置。
可以使用任何能够进行作为分类结果的函数而进行或控制的动作的设备。
下面的说明通过示例的方式,在计算机程序中的可执行指令的普通上下文中给出,例如在计算机或任何其他计算设备上运行的程序模块。本发明可以在任何种类的计算机、PDA等等上实现。
在图2中,起始点可以是任何给定的数据库(由一组数值变量描述的个体的集合)或任何给定的文档语料库。这两类数据分别由圆形框20和25表示。
在数值数据情形下,可以存在由常规统计处理操作组成的任选的预处理阶段21,比如对数据的中心化或简化,或其它的转换等等。这些处理操作得出数据表格22。这个表格构成信息分析过程23的来源。
对于文件语料库,在预处理阶段26过程中,每个文本被转换成向量,其维数对应于经语言学上的处理而获得的描述符,该过程可以是词法-语法分析、概念抽取、共现(co-occurrence)抽取、语言学的或语义处理操作等等。所获得的存在-不存在(二元)或频率矩阵27,其构成处理操作的来源,由方框23表示。
方框23特别地对应于数据处理和分析阶段。这些处理操作可以是数个类型的(监督分类、无监督分类、统计“计分”、回归等等)。本发明的范围涉及数据的无监督分类,也称为自动分类或“聚类”。本发明特别地涉及无监督分类过程,取决于初始数据类型,其结果是例如对象24或的文档28的层次化划分。
图3中的输入数据以表格T(22或27)的形式(分别表示数值数据的情形和文件语料库的情形),跨越由n个对象O1,O2,...,On(个体或文档)组成的集合I和由m个在I上测量的变量(或描述符)V1,V2,...,Vm组成的集合V。
I={O1,O2,...,On}
V={V1,V2,...,Vm}
表格T具有作为其一般项的tik,其代表变量Vk在对象Oi上所取的值,并具有下列形式:
输入数据的一般项tik表示:
·在定性变量的情形下,对象i所取的变量k的模态(modality),
·在定量变量的情形下,对象i所取的变量k的值,
·在文本数据的情形下,文档i中的词汇单元k的存在或不存在。
在定性和定量数据情形下,该方法将下文所描述的重编码操作30应用到该表格,例如定量变量的离散化或将定性变量重编码为存在/不存在描述符。定性和定量变量被转换成将组为存在-不存在表格K的二元变量。
在定性变量情形下,举例来说,该转换在于将模态重编码为存在-不存在描述符向量。
对于定量变量,离散化在于将定量变量转换成每个模态对应于一个区间的定性变量。举例来说,令定量变量“尺寸”以厘米表示并且在一组个体上测量得到。假设在所讨论的种群中构成种群的个体的尺寸在140厘米和210厘米之间的范围内,一个可能的离散化是将变量划分到下列三个区间[140,160[:[160,180[:[180,210]。然后这三个区间分别对应于下列三个模态:小、中和大。因此,经过离散化,例如尺寸为175厘米的个体将具有的模态为中。
具有经过这些转换后获得的具有一般项kij的表格K(31)表现为下列形式:
它的一般项kij,取决于变量初始是定性变量还是定量变量,可能有两个含义:
在定性变量的情形下,kij具有下列定义:
在定量变量的情形下,kij具有下列定义:
在文本数据的情形下,不存在重编码步骤,因为在预处理步骤26之后,存在-不存在二元表格已经获得K,其一般项kij具有含义:
表格T的每个变量,无论其是定性的或定量的,将生成数个存在-不存在描述符向量。当然地,表格T和K具有不同的维数。
考虑变量“SPC”(Socio-Professional Category,社会-专业类别)并假设存在四个个体(I1,I2,I3,I4),变量SPC的几个可能的模态为:管理人员、体力劳动者、专业人员。进一步假设这四个个体具有下列模态:
个体 | SPC |
I1 | 管理人员 |
I2 | 管理人员 |
I3 | 体力劳动者 |
I4 | 专业人员 |
在对定性变量SPC的模态重编码之后,获得下列结果:
所讨论的变量的每个模态因此变成存在-不存在描述符。因此,经过转换的数据的表格K将具有(n×p)维且p>m,其中m是集合V中的变量数。
从表格K(31)开始,执行统计计算(32),(均值、标准差、分辨系数等等),其特别地允许在一方面设置描述符的过滤参数(33),(排除分辨不佳的描述符),以及在另一方面,计算被称为结构阈值的指示符(34),以消除设置分类过程参数的需要(类别的数量或类别的最大数量均不固定)。该指示符在下面得到详细描述。
过滤过程允许排除分辨不佳的描述符。描述符的排除取决于他们的类型而不同。在数值数据情形下,描述符的相关指示符被用作基(basis)。
在文档情形下,语料库集合中描述符出现的频率,或者任何其他的分辨测量指示符(比如熵等等)以及看起来不能很好分辨的那些描述符被排除。过滤步骤产生新的简化的二元表格(35),其包含有限数量的列。这是一个用作自动分类过程的输入数据的新的表格,方框36和在图4和5中详细描述。适合于数据的结构阈值和准则
本发明的方法使用结构阈值或者指示符,其功能特别是定义适合于数据的优化准则。
为了更好地理解其作用,对基于对简化的孔多塞准则最大化的关联分析理论回忆如下:
其中Cii′表示在两个对象i和i′之间的相似程度。例如
其中f(Cii,Ci′i′)是个体i和i′的最大特定一致性函数。
例如:
f(Cii,Ci′i′)=Min(Cii,Ci′i′)等等。
Xii′进一步由下式给出:
基于和类型的公式可以被线性地计算,根据本发明的方法是线性复杂度的。上述作为实例的函数都是可线性化的。显然,所使用的相似性度量Cii′是具有已知线性属性的标量积,函数 是线性的,而函数f(Cii,Ci′i′)=Min(Cii,Ci′i′)不是线性的。但是,类型的计算可以被线性化。
根据本发明的方法实现例如下列准则:
其中α是阈值,量Contribii′是两个对象i和i′对准则Cα(X)的单个贡献。
根据本发明,结构阈值参数αs被自动计算。这是被分类的对象之间的n2个一致性的函数的指示符:
αs=g({Cii′}i,i′=1,...,n)
举例来说,当它表示所有对象之间一致性的算术平均值比上它们的最大一致性的算术平均值的比率时,它用公式表达为:
如先前所提到的,在相同的条件下,这个公式是可线性化的。
因而,两个对象只要它们的相似性高于或等于计算出的最大一致性的百分数(正的贡献),则它们将自动地被分在相同的类别中。
本发明的自动分类过程
分类过程36在图4中得到详细描述。起始点是其描述符已被过滤过的二元数据表格35。
分类过程的第一个步骤是对描述符进行排序(40),其依赖于每个描述符对准则值的贡献(描述符的质量)的测量。举例来说,描述符被用作待分类对象的种群的结构化“生成器”。描述符由1和0(存在-不存在)组成的列向量表示。类别与由取值为1的对象所组成的描述符相关联。对于对象的每个类别Cq,然后可以计算出其对全局准则值的贡献水平Contrib(Cq):
对类别的贡献的计算是多项式复杂度的。事实上,如果假设所有对象组成单个类别,为了确定准则的值,那么将会需要计算n2个单个贡献。
其中
被称为类别Cq的代表元,它的各个项由类别对象的表格K的每个模态的列和来给出:
每个值rl q,j=1,...,p表示类别Cq具有模态l的对象的数量。
****************************************************************
过程MinCC(类别C)
要求:CardC>0
要求:类别C排好序的个体的列表
整数:result=0
整数:j=C的下一个元素
整数:i=0
While类别C未结束,Do
result=result+[(CardC-i)×2-1]×Cjj
j=C的下一个元素
i=i+1
End While
****************************************************************
对于每个描述符q,后面生成的类别的贡献的值或其他关于准则的描述符的性质的度量因此而获得。这些贡献值然后被排序,例如降序,来获得被考虑的描述符的顺序。这个顺序的选择对结果的质量几乎没有影响(可能存在极少的局部的差异)。但是,先取出最佳贡献的描述符生成的类别,允许更快地获得稳定的解决方案,且因此对于来自于当前划分与描述符所生成的划分之间的相交的最佳划分41的计算过程,得到加速。
这个过程41特别地在于逐步“合并”(42)由描述符生成的类别(40)和当前的划分(由数个类别组成)。该“合并”操作从两个相交的类别开始,从下列4项中确定最佳的操作(根据准则):
·“拆分”第一个类别并组成两个类别;
·“拆分”第二个类别并组成两个类别;
·“拆分”两个类别以组成三个类别;
·将两个相交的类别合并以组成一个单个的类别。
这些操作在图6中说明并且允许最佳操作的计算将在图7中决定。
这个过程相当于逐步构造划分,使得局部地且逐步地优化全局准则。
一旦所有描述符都已使用,获得的划分P0被认为是对象43的第一个最终确定的划分。
在类别的“合并”阶段(40、41、42)期间,只尝试“合并”具有交集的类别。处理操作44的目标是合并,换言之是组合,不具有任何交集的类,如果该操作允许准则被优化(进行测试以对所获得的划分的类别一起合并)。这导致修改的划分,一种级别为1的划分,其构成分类过程的最终划分。
划分45组成类别聚类的过程46的输入,该过程在图8中得到描述。
图5示出处理操作41的示例性流程框图。其特别地在于将描述符X生成的新的类别50(记为Cx),与由κ个类别所组成的当前划分P51进行“合并”。过程如下:
·计算划分P的类别与类别Cx之间的交集(52),
·将划分P的类别Cy的集合Λ与类别Cx的交集降序排序,例如以它们的交集的基数的顺序(53),
·对于集合Λ每个类别Cy(55),合并两个类Cy和Cx(54)。
所有Cx与P之间的集合交被处理,并且一旦所有Λ的类别Cy已经与Cx合并(55),获得新的对象的划分,其提高全局准则值且然后变成新的当前划分51。下一个步骤是转向新的描述符(42),以及重复这个过程直到所有的描述符被处理完毕。
类别Cx和划分P的类别的交集(52)的元素的基数,可以以下面所描述的方式线性地获得。
类别Cx被考虑为其与划分P的交集被期望来计算的类别。排序后的列表,例如按其所包含的对象的索引进行升序排序,与这个类相关联。出于此目的,每个对象由单个整数来进行标识,作为其索引。为了对这些对象进行排序,由于被排序的值的上界已知,使用例如线性排序过程(例如,基数排序,对于此的一个参考文献如下:Cormen等(2002),Introduction toalgorithmics(算法导论),Dunod)。
计算交集的基数的实例
如果考虑6个对象O1,O2,…,O6的种群,以及这些对象的当前划分P(51),该划分由三个类别C1={O1,O3},C2={O2,O4,O6},C3={O5}构成,向量等于:
O1 | O2 | O3 | O4 | O5 | O6 |
1 | 2 | 1 | 2 | 3 | 2 |
因此,如果现有划分与类别Cx={O2,O3,O4,O6}(50)“合并”,类别Cx与现有划分的类别的交集的基数可以被快速地确定,在本例子中,Card(Inter(C1,Cx))=1,Card(Inter(C2,Cx))=3以及Card(Inter(C3,Cx))=0。
在计算交集(52)期间执行的操作的数目等于在类别Cx中的要与划分P合并的对象的数量。事实上,对于新的类别的每个对象,验证其是否属于划分P的类别;如果属于,这个类别的交集计数器被增加。
如下文所示,如果类别Cx与划分P之间存在数个交集,为了为他们获得被考虑所需的顺序,计算Cx和划分P的类别Cy之间各个交集的基数。
基于Cx和划分P的一个类别Cy的交集,评估图6中给出的哪一个是最佳配置。出于这个目的,对在图7中被识别的数量进行计算。因此,图6和图7说明了处理步骤54所代表的本发明的基本操作的实例。
两个类的“合并”过程示例如下:
包含在类Cy和Cx中的对象的两个列表通过增加它们的指数的阶来分类整理了快速地计算三个向量,因此可以应用下列常规程序:
****************************************************************
向量计算(类Cx、类Cy)的程序
CardA=CardB=CardC=0
L1=Cy的对象的列表
e=列表L1的头部
L2=Cx的对象的列表
f=列表L2的头部
While列表L1未结束,Do
While列表L2未结束,Do
If e=f,Do
e=列表L1的头部
f=列表L2的头部
cardC=cardC+1
Else If e<f,Do
e=列表L1的头部
cardA=cardA+1
Else
f=列表L2的头部
cardB=cardB+1
End If
End While
End While
****************************************************************
基于这三个向量,从下列四个之中选择最佳解决方案是可能的,图6的实例中示出这些解决方案:
·“拆分”类别Cy以便提供下列两个类别:Cy-Cx和Cx
·“拆分”类别Cx以便提供下列两个类别:Cx-Cy和Cy
·“拆分”类别Cx并且“拆分”类别Cy以便提供下列三个类别:
Cx-Cy、Cy-Cx和Cz∩Cx
·合并两个类别以便提供单一的类别:Cy∪Cx。
四个解决方案中的最佳的选择是,例如,基于上文所给出的3个不同的子类之间的“连接值”的计算。两个类Cq和Cq′之间的“连接值”的一般计算由下列公式给出:
当相似性的量度是标量积时,并且如同先前,当f(Cii,Ci′i′)=Min(Cii,Ci′i′)时,两个不同的类之间的连接值的计算可以被线性化。出于这个目的,该方法使用标量积的线性性,其得出下列化简:
****************************************************************
过程MinCC’(类C,类C′)
要求:CardC>0
要求:CardC′>0
要求:类别C和C′排好序的个体的列表
整数:result=0
整数:nb_rows=CardC
整数:nb_cols=CardC′
整数:j=C的下一个元素
整数:j′=C′的下一个元素
While类别C未结束并且类别C′未结束,Do
If j<j′do
result=result+nb_cols×Cjj
j=C的下一个元素
nb_rows=nb_rows-1
Else
If j′<j do
result=result+nb_rows×Cj′j′
j′=C′的下一个元素
nb_cols=nb_cols-1
Else
result=result+(nb_cols+nb_rows-1)×Cj′j′
j=C的下一个元素
j′=C′的下一个元素
nb_rows=nb_rows-1
nb_cols=nb_cols-1
End If
End If
End While
****************************************************************
关于两个类别的交集,该方法计算下列在图7的实例中示出的三个量:
因此,为了局部地将全局准则值最大化:
·如果Link1+Link2+Link3最大,选择解决方案4(合并两个类);
·如果Link2最大,选择解决方案2(“拆分”Cx);
·如果Link3最大,选择解决方案1(“拆分”Cy);
·如果0最大,换言之如果Link1+Link2+Link3<0,Link2<0并且Link3<0,那么选择解决方案3(“拆分”Cx和Cy)。
一旦类Cx50已经与第一个类别Cy合并,划分P其他的类别与类别Cx的交集继续被处理(55)。出于这个目的,类Cx将被转换成类Cx′:
·如果选择方案1,Cx′=Cx
·如果选择方案2,Cx′=Cx-Cy
·如果选择方案3,Cx′=Cx-Cy
·如果选择方案4,Cx′=Cx∪Cy
在任何情形下,新的类别Cx′包含可以属于划分P的其他的类别的对象,因为提前已知,类别Cy的对象中没有可以属于划分P的另一类别。
从类别中删除对象的过程
组合两个类别的过程
*************************************************************
组合过程(类别C1,类别C2,代表元Inter,整数CardInter)
Temporary为长度为(CardC1+CardC2-CardInter)的向量
整数position=0
L1=C1的对象的列表
e=列表L1的头部
L2=C2的对象的列表
f=列表L2的头部
While列表L1未结束,Do
While列表L2未结束,Do
If e=f,Do
el=e
e=列表L1的头部
f=列表L2的头部
Else If e<fDo
el=e
e=列表L1的头部
Else
el=f
f=列表L2的头部
End If
Temporary[position]=el
position=position+1
End While
End While
将Temporary复制到对象的列表中
Representative=Representative(C1)+Representative(C2)-Inter
**************************************************************
重组过程(划分P)44
令κ为划分P的类别的数量
对划分P的每一个类别,计算Contrib(Cq)
令Cx为具有最强贡献的类别
其中
本发明的类别的层次聚类的过程
在图8中,示出了一个将类别层次聚类成为元类别的方法的示例性体系结构。
该过程特别地在于在多个层次上(层次的数量由用户来固定)将类别在它们自身之间进行重组。对全局准则的优化涉及例如对组成的类别之间的连接值最大化。换言之,所获得类别最终必须都具有负的连接值。但是,对连接值的计算基于一对对象(i,i′)的贡献的定义Contribii′。在下文中,对一对对象的贡献的定义进行回忆,其中函数f是最小值函数:
Contribii′=Cii′-α×Min(Cii,Ci′i′)
本发明提出的类别聚类的过程然后在于在每一级别减少结构阈值(80)的值,使得微负的贡献能变成正的。通过这种方法,两个类别之间的连接值可以变为正的,从而允许它们被重组(81),且划分的类别之间的关系得以突出。该过程被重复的次数与级别的数量一样(82)。然后获得嵌套的划分的集合83,其允许层次的和概念的关系在划分45中初始所考虑的类别之间被探测到。通过该原则,本发明因此使得能获得知识发现。
对于级别j的类别在j+1级别上进行层次聚类的过程与前面所描述的重组过程相似。
允许评价本发明的分类结果的质量的计算
度量所获得的解的质量的指标的理论公式在这里给出,其以百分数的形式来表达。该指标越接近100%,所研究的解的质量(划分、类别或个体的质量)就越高。
先对一些记号进行介绍:
两个类别之间的一致性:
两个类别之间的最大一致性:
两个类别之间的不一致性:ACC′=AMCC′-ACC′
所获得划分的最终质量由下式给出:
其中κ是该划分的类别的数量。
类别C的质量由下式给出:
属于类别C的对象i的质量由下式给出:
其中Cii′=f(Cii,Ci′i′)-Cii′是个体i与个体i’之间的不一致性。
由于标量积的线性性,当相似度Cii′是标量积时,在项ACC′上的求和是可以线性化的。当f(Cii,Ci′i′)=Min(Cii,Ci′i′)时,下面给出的示例性过程允许下面在各个质量公式中涉及到的量可以被线性地计算出来:
这些量分别被记为SS’MinCC’,S’MinC’and MiniC:
*************************************************************
过程SS’MinCC’(类别C,类别C′)
要求:κ>0
整数:result=0
For i从1到n,以1为增量,Do
result=result+((n-i+1)×2-1)×Cii
End For
*************************************************************
************************************************************
过程S’MinCC’(类别C,类别C′)
要求:CardC>0
要求:κ>0
要求:多个类别C的个体的已排好序的列表
整数:result=0
整数:nb_rows=CardC
整数:nb_cols=n
整数:j=C的下一个元素
整数:i=1
While类别i≤n并且C未结束,Do
If i=j do
result=result+(nb_cols+nb_rows-1)×Cii
nb_rows=nb_rows-1
nb_cols=nb_cols-1
i=i+1
j=C′的下一个元素
Else
result=result+nb_rows×Cii
i=i+1
nb_cols=nb_cols-1
End If
End While
**********************************************************
***********************************************************
过程MiniC(类别C)
要求:CardC>0
要求:类别C的个体的已排好序的列表
整数:result=0
整数:nb_cols=CardC
整数:j=C的下一个元素
While类别C未结束并且nb_cols≤j,Do
If i=j,Do
result=result+nb_cols×Cii
Else
result=result+Cjj
j=C的下一个元素
nb_cols=nb_cols-1
End If
End While
***********************************************************
Claims (6)
1、一种线性无监督分类方法,其允许将对象和描述符所组成的数据库结构化,该方法对于所述对象的顺序是稳定的,所述方法包括一初始步骤,该初始步骤将定性的、定量的或者文本的数据变换成为存在-不存在二元数据,所述方法特征在于其包括至少下述步骤:
·确定关于所述待分类对象之间n2个一致性的结构阈值αs函数,该结构阈值定义了适用于所述数据的优化准则,
·使用描述符作为类别的划分或集合的结构化和构造生成器,
·将描述符生成的类别与划分逐步地合并(40、41、42),
·对于涉及函数f(Cii,Ci′i′)=Min(Cii,Ci′i′)的优化准则,对Minimum函数的和进行线性化。
2、根据权利要求1所述的方法,其特征在于,该方法包括将所述划分的类别在他们自身之间进行重组的步骤。
3、根据权利要求1所述的方法,其特征在于,所述合并步骤包括基于两个相交的类别,从下面4个操作之中确定最佳(根据所述优化准则)操作的步骤:
·“拆分”第一个类别并组成两个类别;
·“拆分”第二个类别并组成两个类别;
·“拆分”所述两个相交的类别以组成三个类别;
·将所述两个相交的类别合并以组成一个单个的类别。
4、根据权利要求2所述的分类方法,其特征在于对一个划分的所述类别进行重组的过程在多个层次级别上进行,并包括下列步骤:
·在每一个级别上减少所述结构阈值的值(70),使得微负的贡献可以变为正的,
·将所构成的类别之间的连接值最大化,其中所述连接值通过使用来自一对对象的贡献来确定
其中α′为α的新的值,
·将连接值为正的两个类别进行组合(71),并在所有所述级别上重复该过程。
5、一种设备,其能够进行线性无监督分类,该线性无监督分类允许将对象和描述符所组成的数据库结构化,该分类对于所述对象的顺序是稳定的,该分类过程包括一初始步骤,该初始步骤将定性的、定量的或者文本的数据变换成为存在-不存在二元数据,该设备特征在于其包括至少下列部件:用于实现权利要求1~4其中之一所述方法的步骤的计算机(1),该计算机包括存储器(2)、数据库(4)和处理器(3)。
6、根据权利要求2所述的设备,其特征在于其包括用于依赖于所述分类的结果而采取动作的装置(7)。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR0512844 | 2005-12-16 | ||
FR0512844A FR2895110B1 (fr) | 2005-12-16 | 2005-12-16 | Procede de classification non supervisee lineaire et stable sur l'ordre des objets |
PCT/EP2006/069726 WO2007068741A1 (fr) | 2005-12-16 | 2006-12-14 | Procede de classification non supervisee lineaire et stable sur l'ordre des objets |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101410831A true CN101410831A (zh) | 2009-04-15 |
CN101410831B CN101410831B (zh) | 2012-04-18 |
Family
ID=37231300
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2006800528444A Expired - Fee Related CN101410831B (zh) | 2005-12-16 | 2006-12-14 | 对于对象的顺序稳定的分类的线性无监督方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8423549B2 (zh) |
EP (1) | EP1960916A1 (zh) |
CN (1) | CN101410831B (zh) |
FR (1) | FR2895110B1 (zh) |
WO (1) | WO2007068741A1 (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2940694A1 (fr) * | 2008-12-30 | 2010-07-02 | Thales Sa | Procede et systeme pour classifier des donnees issues de base de donnees. |
WO2012138539A2 (en) * | 2011-04-08 | 2012-10-11 | The Regents Of The University Of California | Interactive system for collecting, displaying, and ranking items based on quantitative and textual input from multiple participants |
KR101496179B1 (ko) * | 2013-05-24 | 2015-02-26 | 삼성에스디에스 주식회사 | 데이터 부재 태깅 기반의 정보 검색 시스템 및 방법 |
FR3016062B1 (fr) | 2013-12-31 | 2016-10-21 | Thales Sa | Procede de classification non supervisee d'une pluralite d'objets et le dispositif pour la classification non supervisee associe a ce procede |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1049030A1 (en) * | 1999-04-28 | 2000-11-02 | SER Systeme AG Produkte und Anwendungen der Datenverarbeitung | Classification method and apparatus |
-
2005
- 2005-12-16 FR FR0512844A patent/FR2895110B1/fr active Active
-
2006
- 2006-12-14 CN CN2006800528444A patent/CN101410831B/zh not_active Expired - Fee Related
- 2006-12-14 US US12/097,613 patent/US8423549B2/en not_active Expired - Fee Related
- 2006-12-14 EP EP06841370A patent/EP1960916A1/fr not_active Ceased
- 2006-12-14 WO PCT/EP2006/069726 patent/WO2007068741A1/fr active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2007068741A1 (fr) | 2007-06-21 |
US8423549B2 (en) | 2013-04-16 |
FR2895110A1 (fr) | 2007-06-22 |
US20090287723A1 (en) | 2009-11-19 |
FR2895110B1 (fr) | 2017-12-29 |
CN101410831B (zh) | 2012-04-18 |
EP1960916A1 (fr) | 2008-08-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Paredes et al. | Machine learning or discrete choice models for car ownership demand estimation and prediction? | |
Rendón et al. | Internal versus external cluster validation indexes | |
Wang et al. | Incremental fuzzy clustering with multiple medoids for large data | |
CN106845717B (zh) | 一种基于多模型融合策略的能源效率评价方法 | |
CN102332012A (zh) | 基于类别之间相关性学习的中文文本分类方法 | |
CN106991447A (zh) | 一种嵌入式多类别属性标签动态特征选择算法 | |
CN103823896A (zh) | 一种学科特征值算法及基于其的项目评审专家推荐算法 | |
CN101859383A (zh) | 基于时间序列重要点分析的高光谱遥感图像波段选择方法 | |
CN104484380A (zh) | 个性化搜索方法及装置 | |
D’Ambrosio et al. | Accurate tree-based missing data imputation and data fusion within the statistical learning paradigm | |
CN103279556A (zh) | 基于自适应子空间学习的迭代文本聚类方法 | |
CN110795564A (zh) | 一种缺少负例的文本分类方法 | |
Li et al. | Unsupervised belief representation learning with information-theoretic variational graph auto-encoders | |
Vege | Ensemble of feature selection techniques for high dimensional data | |
CN111444937B (zh) | 一种基于集成tsk模糊分类器的众包质量提升的方法 | |
CN101410831B (zh) | 对于对象的顺序稳定的分类的线性无监督方法 | |
Singh et al. | Feature selection based classifier combination approach for handwritten Devanagari numeral recognition | |
CN105488195A (zh) | 一种基于层次结构子话题的搜索结果多样化排序方法 | |
Mandal et al. | Unsupervised non-redundant feature selection: a graph-theoretic approach | |
CN101702172A (zh) | 一种基于类-属性关系依赖度的数据离散化方法 | |
Chander | Clustering and Bayesian networks | |
CN103294828A (zh) | 数据挖掘模型维度的验证方法和验证装置 | |
Zhou et al. | An intelligent model validation method based on ECOC SVM | |
Janssens et al. | Adapting the CBA algorithm by means of intensity of implication | |
Al Shamsi et al. | Automatic patent classification by a three-phase model with document frequency matrix and boosted tree |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20120418 Termination date: 20191214 |