CN110019802B - 一种文本聚类的方法和装置 - Google Patents
一种文本聚类的方法和装置 Download PDFInfo
- Publication number
- CN110019802B CN110019802B CN201711295063.4A CN201711295063A CN110019802B CN 110019802 B CN110019802 B CN 110019802B CN 201711295063 A CN201711295063 A CN 201711295063A CN 110019802 B CN110019802 B CN 110019802B
- Authority
- CN
- China
- Prior art keywords
- text
- similarity
- class
- clustering
- total number
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/355—Class or cluster creation or modification
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种文本聚类的方法和装置,涉及计算机技术领域。该方法的一个具体实施方式包括:计算文本与每个聚类中心的相似度;若所述相似度大于或等于预设阈值,则以所述相似度最大的聚类中心所在的类作为所述文本的类。能够节约文本聚类的计算量,降低成本,提高效率;能够深入分析文本,提高聚类精度;能够结合时间因素对文本进行聚类以及热度计算,进一步提高准确性和时效性。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种文本聚类的方法、装置、电子设备和计算机可读介质。
背景技术
互联网内容信息的爆炸式增长,使得含有内容信息的文本的检测与跟踪技术逐渐被深入研究和应用。互联网内容信息形式多样,如各种社交网络信息流和新闻信息流,都是具有多面化、范围广、多渠道、更新快等特点的动态数据流,需要一种能够在这些海量数据中把相关文本的内容信息组织并量化的技术。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
传统方法中对文本的检测与跟踪常选用Single-Pass聚类算法,这种聚类算法是一种简单的增量算法,即文本要与数据库中的每一个文本进行相似度计算,计算量大,成本高,效率低;传统聚类方法对文本分析不够深入细致,精度低;文本的聚类除了对内容相似度的考虑之外,缺乏时间因素对文本的影响;针对文本的流行度(或称热度)的统计也没有结合时间因素。
发明内容
有鉴于此,本发明实施例提供一种文本聚类的方法和装置,能够节约文本聚类的计算量,降低成本,提高效率;能够深入分析文本,提高聚类精度;能够结合时间因素对文本进行聚类以及热度计算,进一步提高准确性和时效性。
为实现上述目的,根据本发明实施例的一个方面,提供了一种文本聚类的方法,包括:计算文本与每个聚类中心的相似度;若所述相似度大于或等于预设阈值,则以所述相似度最大的聚类中心所在的类作为所述文本的类。
可选地,若所述相似度大于或等于预设阈值,则以所述相似度最大的聚类中心所在的类作为所述文本的类之后,所述方法还包括:计算所述文本与其所在类中所有文本的相似度的第一平均值,以及计算该类的聚类中心与该类中所有文本的相似度的第二平均值;若所述第一平均值大于所述第二平均值;则将所述文本作为其所在类的聚类中心。
可选地,文本i与文本j之间的相似度sim(di,dj)的计算公式为:
sim(di,dj)=ω×cosθ(di,dj)+λ×T(di,dj)
其中,T(di,dj)表示时间衰减函数,
di与dj分别表示文本i和文本j的特征向量;m为预设时间间隔,tmij表示文本i与文本j的发布时间间隔,ω+λ=1,ω为预设的相似度影响调整因子,λ为预设的时间影响调整因子;w表示权重,n为正整数。
可选地,特征向量d的计算公式为:
d={(t1,w1),(t2,w2),(t3,w3),…,(tn,wn)}
其中,ti表示所述文本的第i个特征词,wi表示ti的权重,i=1,2,3,…,n;
tfi表示词频,为ti在所述文本中出现的次数与所述文本总词数的商,idfi表示逆频率,为以2为底的文本库中的总数与包含ti的所有文本数的商的对数;Fw为特征系数。
可选地,根据ti词性和/或在所述文本中的位置确定Fw的值。
可选地,所述预设的相似度影响调整因子ω=0.9。
可选地,所述方法还包括:计算所述聚类中心的热度;计算公式为
其中,t为当前时刻,t0为所述聚类中心的文本的发布时间,α为冷却因子。
可选地,
其中TFtopic为当前与所述文本相关的文本的总数,Tall表示当前所有文本的总数,TUCcheck表示当前与所述文本相关的所有文本的用户浏览总数,STcheck表示所有文本的用户参与总数。
为实现上述目的,根据本发明实施例的另一个方面,提供了一种文本聚类的装置,包括:计算模块,用于计算文本与每个聚类中心的相似度;聚类模块,用于当所述相似度大于或等于预设阈值时,将所述文本归类至所述相似度最大的聚类中心所在的类。
可选地,所述装置还包括:均值模块,用于计算所述文本与其所在类中所有文本的相似度的第一平均值,以及计算该类的聚类中心与该类中所有文本的相似度的第二平均值;更新模块,用于当所述计算模块得到的所述第一平均值大于所述第二平均值时,将所述文本作为其所在类的聚类中心。
可选地,文本i与文本j之间的相似度sim(di,dj)的计算公式为:
sim(di,dj)=ω×cosθ(di,dj)+λ×T(di,dj)
其中,T(di,dj)表示时间衰减函数,
di与dj分别表示文本i和文本j的特征向量;m为预设时间间隔,tmij表示文本i与文本j的发布时间间隔,ω+λ=1,ω为预设的相似度影响调整因子,λ为预设的时间影响调整因子;w表示权重,n为正整数。
可选地,特征向量d的计算公式为
d={(t1,w1),(t2,w2),(t3,w3),…,(tn,wn)}
其中,ti表示所述文本的第i个特征词,wi表示ti的权重,i=1,2,3,…,n;
tfi表示词频,为ti在所述文本中出现的次数与所述文本总词数的商,idfi表示逆频率,为以2为底的文本库中的总数与包含ti的所有文本数的商的对数;Fw为特征系数。
可选地,根据ti词性和/或在所述文本中的位置确定Fw的值。
可选地,所述预设的相似度影响调整因子ω=0.9。
可选地,所述装置还包括:热度模块,用于计算所述聚类中心的热度;计算公式为
其中,t为当前时刻,t0为所述聚类中心的文本的发布时间,α为冷却因子。
可选地,
其中TFtopic为当前与所述文本相关的文本的总数,Tall表示当前所有文本的总数,TUCcheck表示当前与所述文本相关的所有文本的用户浏览总数,STcheck表示所有文本的用户参与总数。
为实现上述目的,根据本发明实施例的再一个方面,提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现一种文本聚类的方法中任一所述的方法。
为实现上述目的,根据本发明实施例的再一个方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被一个或多个处理器执行时实现一种文本聚类的方法中任一所述的方法。
上述发明中的一个实施例具有如下优点或有益效果:因为采用对文本进行聚类并求平均值更新文本聚类中心的技术手段,起到节约文本聚类的计算量,降低成本,提高效率的效果;采用根据文本不同内容的词性和/或所在位置赋特征系数的技术手段,深入分析文本,提高聚类精度;结合时间因素计算相似度和热度,进一步提高准确性和时效性。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明实施例的一种文本聚类的方法的主要步骤的示意图;
图2是根据本发明实施例的一种文本聚类的装置的主要部分的示意图;
图3是本发明实施例可以应用于其中的示例性系统架构图;
图4是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本发明实施例的一种文本聚类的方法的主要步骤的示意图,如图1所示:
步骤S101表示计算文本与每个聚类中心的相似度。此步骤的作用是降低聚类计算量,提高聚类效率。
在计算相似度时可先采用带有停用词表的中文分词系统进行分词处理,去除文本中的停用词,比如“的、了、在、是、和、也、你、自己、这、着”等词,选择特征词时可只选择动词和名词,排除副词、连词、介词和叹词等,并使用分词系统的词性标注实现,如使用HanLP开源工具包(一种中文自然语言处理工具)进行分词和词性标注。
文本i与文本j之间的相似度sim(di,dj)的计算公式为:
sim(di,dj)=ω×cosθ+λ×T(di,dj)
其中,T(di,dj)表示时间衰减函数,引入时间衰减函数增加时间因素对文本相似度的影响,提高聚类的精度和时效性。
di与dj分别表示文本i和文本j的特征向量;m为预设时间间隔(如15天),tmij表示文本di与文本dj的发布时间间隔,ω+λ=1=1,ω为预设的相似度影响调整因子,λ为预设的时间影响调整因子;w表示权重,即cosθ(di,dj)根据文本i和文本j的权重计算。根据经验,文本的内容相似性的影响要大于时间的影响,当ω=0.9时,能取得良好的聚类效果。n为正整数。
每篇文本都可用一个多维的特征向量表示,特征向量的每一维代表一个特征词,特征向量d的计算公式为
d={(t1,w1),(t2,w2),(t3,w3),…,(tn,wn)}
其中,ti表示所述文本的第i个特征词,wi表示词ti的权重,i=1,2,3,…,n;
tfi表示词频,为ti在所述文本中出现的次数与所述文本总词数的商,可用来表示特征词用来描述文本的能力;idfi表示逆文本频率,为以2为底的文本库中的总数与包含ti的所有文本数的商的对数,可用来表示特征词区分文本的能力;tfi和idfi的值越大,说明这个特征词对于这篇文本的重要程度越高,能够深入分析文本,提高聚类精度。
Fw为特征系数。通过对文本的分析,当特征词为人名、地名、机构名等词时对文本具有很高的区分度;另外,特征词在文本中所出现的位置也会具有一定影响作用,比如文本的标题或第一段一般是对整篇文本的总结性概括,对于文本的区分度也有重要的作用,所以此类词可被赋予更高的权重以更好地表征文本,所以可以根据ti的词性(如人名、地名、机构名)和/或在所述文本中的位置(如在第一段或标题中出现)确定特征系数Fw的值,能够深入分析文本,提高聚类精度。例如,可以构建特征系数Fw=(f1,f2,f3,f4,f5),当特征词为人名时,f1=5,特征词为地名时f2=5,特征词为机构名时,f3=3,特征词在标题中出现时,f4=5,特征词在第一段出现时,f5=5。
当文本i和文本j包括多个特征词时,根据两个文本中的相同的特征词计算cosθ(di,dj)。
步骤S102表示若所述相似度大于或等于预设阈值,则以所述相似度最大的聚类中心所在的类作为所述文本的类。此步骤的目的是对所述文本进行归类。若小于预设阈值,则以所述文本为聚类中心建立一个新的类。
若所述相似度大于或等于预设阈值,则以所述相似度最大的聚类中心所在的类作为所述文本的类之后,所述方法还可包括:计算文本与其所在类中所有文本的相似度的第一平均值;以及计算该类的聚类中心与该类中所有文本的相似度的第二平均值;若所述第一平均值大于所述第二平均值;则将所述文本作为其所在类的聚类中心。此步骤的作用是更新聚类中心,进一步降低聚类计算量,提高聚类精度和效率。若所述第一平均值不大于所述第二平均值,则该类的聚类中心保持不变。
所述方法还可包括:计算所述聚类中心的热度;计算公式为:
其中,t为当前时刻,t0为所述聚类中心的文本的发布时间,α为冷却因子。
其中TFtopic为当前与所述文本相关的文本的总数,Tall表示当前所有文本的总数,TUCcheck表示当前与所述文本相关的所有文本的用户浏览总数,STcheck表示所有文本的用户参与总数。如在新闻领域,一个热点话题可能包括多个文本的聚类,即包括多个聚类中心,所以与该热点话题相关的文本可以是该热点话题包括的所有聚类中的文本,这些相关的文本的热度的总和就可以代表该热点话题当前的热度。与该热点话题相关的文本越多,用户关注度越大,则热点话题热度衰减越慢。
图2是根据本发明实施例的一种文本聚类的装置200的主要部分的示意图,如图2所示:
计算模块201,用于计算文本与每个聚类中心的相似度;目的是降低聚类计算量,提高聚类效率。
在计算相似度时可先采用带有停用词表的中文分词系统进行分词处理,去除文本中的停用词,比如“的、了、在、是、和、也、你、自己、这、着”等词,选择特征词时可只选择动词和名词,排除副词、连词、介词和叹词等,并使用分词系统的词性标注实现,如使用HanLP开源工具包(一种中文自然语言处理工具)进行分词和词性标注。
文本i与文本j之间的相似度sim(di,dj)的计算公式为:
sim(di,dj)=ω×cosθ+λ×T(di,dj)
其中,T(di,dj)表示时间衰减函数,引入时间衰减函数增加时间因素对文本相似度的影响,提高聚类的精度和时效性。
di与dj分别表示文本i和文本j的特征向量;m为预设时间间隔(如15天),tmij表示文本di与文本dj的发布时间间隔,ω+λ=1=1,ω为预设的相似度影响调整因子,λ为预设的时间影响调整因子;w表示权重,即cosθ(di,dj)根据文本i和文本j的权重计算。根据经验,文本的内容相似性的影响要大于时间的影响,当ω=0.9时,能取得良好的聚类效果。n为正整数。
每篇文本都可用一个多维的特征向量表示,特征向量的每一维代表一个特征词,特征向量d的计算公式为
d={(t1,w1),(t2,w2),(t3,w3),…,(tn,wn)}
其中,ti表示所述文本的第i个特征词,wi表示词ti的权重,i=1,2,3,…,n;
tfi表示词频,为ti在所述文本中出现的次数与所述文本总词数的商,可用来表示特征词用来描述文本的能力;idfi表示逆文本频率,为以2为底的文本库中的总数与包含ti的所有文本数的商的对数,可用来表示特征词区分文本的能力;tfi和idfi的值越大,说明这个特征词对于这篇文本的重要程度越高,能够深入分析文本,提高聚类精度。
Fw为特征系数。通过对文本的分析,当特征词为人名、地名、机构名等词时对文本具有很高的区分度;另外,特征词在文本中所出现的位置也会具有一定影响作用,比如文本的标题或第一段一般是对整篇的总结性概括,对于文本的区分度也有重要的作用,所以此类词可被赋予更高的权重以更好地表征文本,所以可以根据ti的词性(如人名、地名、机构名)和/或在所述文本中的位置(如在第一段或标题中出现)确定特征系数Fw的值,能够深入分析文本,提高聚类精度。例如,可以构建特征系数Fw=(f1,f2,f3,f4,f5),当特征词为人名时,f1=5,特征词为地名时f2=5,特征词为机构名时,f3=3,特征词在标题中出现时,f4=5,特征词在第一段出现时,f5=5。
当文本i和文本j包括多个特征词时,根据两个文本中的相同的特征词计算cosθ(di,dj)。
聚类模块202,用于当所述相似度大于或等于预设阈值时,将所述文本归类至所述相似度最大的聚类中心所在的类。若小于预设阈值,则以所述文本为聚类中心建立一个新的类。此模块的作用是将所述文本进行归类。
装置200还可包括:均值模块,用于计算所述文本与其所在类中所有文本的相似度的第一平均值,以及计算该类的聚类中心与该类中所有文本的相似度的第二平均值。此模块的作用是降低聚类计算量,提高聚类效率。
更新模块,用于当所述计算模块得到的所述第一平均值大于所述第二平均值时,将所述话题文档作为其所在类的聚类中心。此模块的作用是更新聚类中心,进一步降低聚类计算量,提高聚类精度和效率。若所述第一平均值不大于所述第二平均值,则该类的聚类中心保持不变。
热度模块,用于计算所述聚类中心的热度;计算公式为:
其中,t为当前时刻,t0为所述聚类中心的文本的发布时间,α为冷却因子。
其中TFtopic为当前与所述文本相关的文本的总数,Tall表示当前所有文本的总数,TUCcheck表示当前与所述文本相关的所有文本的用户浏览总数,STcheck表示所有文本的用户参与总数。如在新闻领域,一个热点话题可能包括多个文本的聚类,即包括多个聚类中心,所以与该热点话题相关的文本可以是该热点话题包括的所有聚类中的文本,这些相关的文本的热度的总和就可以代表该热点话题当前的热度。与该热点话题相关的文本越多,用户关注度越大,则热点话题热度衰减越慢。
图3示出了可以应用本发明实施例的一种文本聚类的方法或一种文本聚类的装置的示例性系统架构300。
如图3所示,系统架构300可以包括终端设备301、302、303,网络304和服务器305。网络304用以在终端设备301、302、303和服务器305之间提供通信链路的介质。网络304可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备301、302、303通过网络304与服务器305交互,以接收或发送消息等。终端设备301、302、303上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备301、302、303可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器305可以是提供各种服务的服务器,例如对用户利用终端设备301、302、303所浏览的购物类网站提供支持的后台管理服务器。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如目标推送信息、产品信息)反馈给终端设备。
需要说明的是,本发明实施例所提供的一种文本聚类的方法一般由服务器305执行,相应地,一种文本聚类的装置一般设置于服务器305中。
应该理解,图3中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图4所示为适于用来实现本发明实施例的终端设备的计算机系统400的结构示意图。图4所示的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示,计算机系统400包括中央处理单元(CPU)401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储部分408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有系统400操作所需的各种程序和数据。CPU 401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
以下部件连接至I/O接口405:包括键盘、鼠标等的输入部分406;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分407;包括硬盘等的存储部分408;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分409。通信部分409经由诸如因特网的网络执行通信处理。驱动器410也根据需要连接至I/O接口405。可拆卸介质411,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器410上,以便于从其上读出的计算机程序根据需要被安装入存储部分408。
特别地,根据本发明公开的实施例,上文参考步骤图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行步骤图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分409从网络上被下载和安装,和/或从可拆卸介质411被安装。在该计算机程序被中央处理单元(CPU)401执行时,执行本发明的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质包括计算机可读信号介质或计算机可读存储介质,或者是上述两者的任意组合。计算机可读存储介质包括但不限于电、磁、光、电磁、红外线、半导体的系统、装置或器件,或者上述内容的任意组合。计算机可读存储介质具体包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述内容的任意组合。在本发明中,计算机可读存储介质包括任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用;计算机可读的信号介质包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码,这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述信号的任意组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF(射频)等,或者上述介质的任意组合。
附图中的步骤图或框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作,步骤图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以并行地执行,有时也可以按相反的顺序执行,其执行顺序依所涉及的功能而定。也要注意的是,框图或步骤图中的每个方框以及其组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括计算模块和聚类模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,计算模块还可以被描述为“计算模块,用于计算文本与每个聚类中心的相似度的模块”。
另一方面,本发明实施例还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:计算文本与每个聚类中心的相似度;若所述相似度大于或等于预设阈值,则以所述相似度最大的聚类中心所在的类作为所述文本的类。
根据本发明实施例的技术方案,因为采用对文本进行聚类并求平均值更新文本聚类中心的技术手段,起到节约文本聚类的计算量,降低成本,提高效率的效果;采用根据文本不同内容的词性和/或所在位置赋特征系数的技术手段,深入分析文本,提高聚类精度;通过结合时间因素计算相似度和热度的方法,进一步提高聚类精度和时效性。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (12)
1.一种文本聚类的方法,其特征在于,包括:
计算文本与每个聚类中心的相似度;文本i与文本j之间的相似度sim(di,dj)的计算公式为:
sim(di,dj)=ω×cosθ(di,dj)+λ×T(di,dj)
其中,T(di,dj)表示时间衰减函数,
di与dj分别表示文本i和文本j的特征向量;m为预设时间间隔,tmij表示文本i与文本j的发布时间间隔,ω+λ=1,ω为预设的相似度影响调整因子,λ为预设的时间影响调整因子;w表示权重,n为正整数;特征向量d的计算公式为
d={(t1,w1),(t2,w2),(t3,w3),…,(tn,wn)}
其中,ti表示所述文本的第i个特征词,wi表示ti的权重,i=1,2,3,…,n;
tfi表示词频,为ti在所述文本中出现的次数与所述文本总词数的商,idfi表示逆频率,为以2为底的文本库中的总数与包含ti的所有文本数的商的对数;Fw为特征系数,根据ti的词性和/或在所述文本中的位置确定Fw的值,其中,为人名、地名、机构名以及出现在标题或第一段的特征词的权重高于其他特征词的权重;
若所述相似度大于或等于预设阈值,则以所述相似度最大的聚类中心所在的类作为所述文本的类。
2.根据权利要求1所述的方法,其特征在于,若所述相似度大于或等于预设阈值,则以所述相似度最大的聚类中心所在的类作为所述文本的类之后,所述方法还包括:
计算所述文本与其所在类中所有文本的相似度的第一平均值,以及计算该类的聚类中心与该类中所有文本的相似度的第二平均值;
若所述第一平均值大于所述第二平均值;
则将所述文本作为其所在类的聚类中心。
3.根据权利要求1所述的方法,其特征在于,所述预设的相似度影响调整因子ω=0.9。
6.一种文本聚类的装置,其特征在于,包括:
计算模块,用于计算文本与每个聚类中心的相似度;文本i与文本j之间的相似度sim(di,dj)的计算公式为:
sim(di,dj)=ω×cosθ(di,dj)+λ×T(di,dj)
其中,T(di,dj)表示时间衰减函数,
di与dj分别表示文本i和文本j的特征向量;m为预设时间间隔,tmij表示文本i与文本j的发布时间间隔,ω+λ=1,ω为预设的相似度影响调整因子,λ为预设的时间影响调整因子;w表示权重,n为正整数;特征向量d的计算公式为d={(t1,w1),(t2,w2),(t3,w3),…,(tn,wn)}
其中,ti表示所述文本的第i个特征词,wi表示ti的权重,i=1,2,3,…,n;
tfi表示词频,为ti在所述文本中出现的次数与所述文本总词数的商,idfi表示逆频率,为以2为底的文本库中的总数与包含ti的所有文本数的商的对数;Fw为特征系数,根据ti的词性和/或在所述文本中的位置确定Fw的值,其中,为人名、地名、机构名以及出现在标题或第一段的特征词的权重高于其他特征词的权重;
聚类模块,用于当所述相似度大于或等于预设阈值时,将所述文本归类至所述相似度最大的聚类中心所在的类。
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
均值模块,用于计算所述文本与其所在类中所有文本的相似度的第一平均值,以及计算该类的聚类中心与该类中所有文本的相似度的第二平均值;
更新模块,用于当所述计算模块得到的所述第一平均值大于所述第二平均值时,将所述文本作为其所在类的聚类中心。
8.根据权利要求6所述的装置,其特征在于,所述预设的相似度影响调整因子ω=0.9。
11.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。
12.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被一个或多个处理器执行时实现如权利要求1-5中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711295063.4A CN110019802B (zh) | 2017-12-08 | 2017-12-08 | 一种文本聚类的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711295063.4A CN110019802B (zh) | 2017-12-08 | 2017-12-08 | 一种文本聚类的方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110019802A CN110019802A (zh) | 2019-07-16 |
CN110019802B true CN110019802B (zh) | 2021-09-03 |
Family
ID=67186564
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711295063.4A Active CN110019802B (zh) | 2017-12-08 | 2017-12-08 | 一种文本聚类的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110019802B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111368060B (zh) * | 2020-05-27 | 2021-01-26 | 支付宝(杭州)信息技术有限公司 | 对话机器人的自学习方法、装置、系统、电子设备及介质 |
CN111797235B (zh) * | 2020-06-19 | 2024-01-26 | 成都融微软件服务有限公司 | 基于时间衰减因子的文本实时聚类方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102929928A (zh) * | 2012-09-21 | 2013-02-13 | 北京格致璞科技有限公司 | 基于多维相似度的个性化新闻推荐方法 |
CN103412918A (zh) * | 2013-08-08 | 2013-11-27 | 南京邮电大学 | 一种基于服务质量和声誉的服务信任度评估方法 |
CN103559206A (zh) * | 2013-10-10 | 2014-02-05 | Tcl集团股份有限公司 | 一种信息推荐方法及系统 |
CN106776751A (zh) * | 2016-11-22 | 2017-05-31 | 上海智臻智能网络科技股份有限公司 | 一种数据的聚类方法和聚类装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9792373B2 (en) * | 2014-12-31 | 2017-10-17 | Facebook, Inc. | Systems and methods to determine trending topics for a user based on social graph data |
-
2017
- 2017-12-08 CN CN201711295063.4A patent/CN110019802B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102929928A (zh) * | 2012-09-21 | 2013-02-13 | 北京格致璞科技有限公司 | 基于多维相似度的个性化新闻推荐方法 |
CN103412918A (zh) * | 2013-08-08 | 2013-11-27 | 南京邮电大学 | 一种基于服务质量和声誉的服务信任度评估方法 |
CN103559206A (zh) * | 2013-10-10 | 2014-02-05 | Tcl集团股份有限公司 | 一种信息推荐方法及系统 |
CN106776751A (zh) * | 2016-11-22 | 2017-05-31 | 上海智臻智能网络科技股份有限公司 | 一种数据的聚类方法和聚类装置 |
Also Published As
Publication number | Publication date |
---|---|
CN110019802A (zh) | 2019-07-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107256267B (zh) | 查询方法和装置 | |
CN106960030B (zh) | 基于人工智能的推送信息方法及装置 | |
CN107679119B (zh) | 生成品牌衍生词的方法和装置 | |
US20160085740A1 (en) | Generating training data for disambiguation | |
CN107526718B (zh) | 用于生成文本的方法和装置 | |
CN109885773A (zh) | 一种文章个性化推荐方法、系统、介质及设备 | |
CN110020312B (zh) | 提取网页正文的方法和装置 | |
WO2023029356A1 (zh) | 基于句向量模型的句向量生成方法、装置及计算机设备 | |
CN111538837A (zh) | 用于分析企业经营范围信息的方法和装置 | |
CN111274341A (zh) | 一种网点选址方法和装置 | |
CN111209347A (zh) | 一种混合属性数据聚类的方法和装置 | |
CN107609192A (zh) | 一种搜索引擎的补充搜索方法和装置 | |
CN110874532A (zh) | 提取反馈信息的关键词的方法和装置 | |
CN110019802B (zh) | 一种文本聚类的方法和装置 | |
CN110674635B (zh) | 一种用于文本段落划分的方法和装置 | |
CN110245357B (zh) | 主实体识别方法和装置 | |
CN110852057A (zh) | 一种计算文本相似度的方法和装置 | |
US10606909B2 (en) | Optimizing searches | |
CN111435406A (zh) | 一种纠正数据库语句拼写错误的方法和装置 | |
CN112925872A (zh) | 一种数据搜索方法和装置 | |
CN112667770A (zh) | 一种对物品进行分类的方法和装置 | |
CN110852078A (zh) | 生成标题的方法和装置 | |
CN114445179A (zh) | 业务推荐方法、装置、电子设备和计算机可读介质 | |
CN110472055B (zh) | 用于标注数据的方法和装置 | |
CN113722593A (zh) | 事件数据处理方法、装置、电子设备和介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |