CN109582792A - 一种文本分类的方法及装置 - Google Patents
一种文本分类的方法及装置 Download PDFInfo
- Publication number
- CN109582792A CN109582792A CN201811368725.0A CN201811368725A CN109582792A CN 109582792 A CN109582792 A CN 109582792A CN 201811368725 A CN201811368725 A CN 201811368725A CN 109582792 A CN109582792 A CN 109582792A
- Authority
- CN
- China
- Prior art keywords
- text
- sorted
- classification
- input data
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 69
- 238000013145 classification model Methods 0.000 claims description 40
- 238000012512 characterization method Methods 0.000 claims description 31
- 230000015654 memory Effects 0.000 claims description 21
- 238000003860 storage Methods 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 11
- 230000006870 function Effects 0.000 claims description 8
- 239000000047 product Substances 0.000 description 14
- 230000008901 benefit Effects 0.000 description 5
- 238000000151 deposition Methods 0.000 description 4
- 235000013399 edible fruits Nutrition 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 239000004615 ingredient Substances 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 230000033228 biological regulation Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000036541 health Effects 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000007115 recruitment Effects 0.000 description 3
- 208000012931 Urologic disease Diseases 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 208000014001 urinary system disease Diseases 0.000 description 2
- 241000239290 Araneae Species 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000012550 audit Methods 0.000 description 1
- 208000002479 balanitis Diseases 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000005034 decoration Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000009123 feedback regulation Effects 0.000 description 1
- 238000005206 flow analysis Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/284—Lexical analysis, e.g. tokenisation or collocates
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种文本分类的方法及装置,其中方法包括:接收待分类文本;将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类;若分类失败,则将所述待分类文本输入到搜索引擎中,以通过所述搜索引擎对所述待分类文本进行搜索,获得搜索结果;基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据;将调整后的输入数据输入到所述集成分类器中,以通过所述集成分类器对所述待分类文本进行分类。本发明结合搜索引擎对待分类文本进行二次分类,解决了现有技术在对一些语义较为复杂以及不常见的一些待分类文本识别率低,分类错误或不够准确的问题。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种文本分类的方法及装置。
背景技术
随着社会和时代的发展,人们的工作和生活越来越依赖互联网,通过互联网可以查询资料,购买商品,投放广告等。但目前互联网上用户生产与检索的自然文本每日呈指数级的速度增长。对于网络上的庞杂的内容,通过搜索引擎检索内容时,容易出现信息超载的情况,因此需要对文本信息进行分类。同时,文本分类能够帮助业务部门进行流量分析、内容审核、构建用户/产品画像、精准推荐、关键词扩簇、CTR预估等等,具有极其重要的意。
目前的文本分类通常需要对词条构建特征向量然后通过机器学习所训练的模型进行分类,虽然通过增加训练样本,可以使得文本分类模型分类的更加准确。虽说如此,但对于较为稀缺的数据资源,也难采集到足够的训练样本供文本分类模型进行学习。因此,也造成了现有的文本分类方法在对一些语义较为复杂以及不常见的一些待分类文本识别率低,分类错误或不够准确的问题。
发明内容
鉴于上述问题,本发明提出了一种文本分类的方法及装置,所述方法结合搜索引擎对待分类文本进行二次分类,解决了现有技术在对一些语义较为复杂以及不常见的一些待分类文本识别率低,分类错误或不够准确的问题。
第一方面,本申请通过本申请的一实施例提供如下技术方案:
一种文本分类的方法,包括:
接收待分类文本;将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类;若分类失败,则将所述待分类文本输入到搜索引擎中,以通过所述搜索引擎对所述待分类文本进行搜索,获得搜索结果;基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据;将调整后的输入数据输入到所述集成分类器中,以通过所述集成分类器对所述待分类文本进行分类。
优选地,所述将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类之后,还包括:若分类成功,则基于所述输入到集成分类器输出的第一目标分类结果确定所述待分类文本所属的类别,其中,所述第一目标分类结果表征分类成功,且在所述第一目标分类结果中包含所述待分类文本的类别信息。
优选地,所述基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据,包括:从所述搜索结果中提取出关键信息;将所述关键信息补充到所述输入数据中,获得调整后的输入数据;或将所述关键信息作为调整后的输入数据。
优选地,所述从所述搜索结果中提取出关键信息,包括:从所述搜索结果中提取出标题信息和/或摘要信息,并将所述标题信息和/或摘要信息作为所述关键信息。
优选地,所述集成分类器中设置有T个文本分类模型,T为正整数,所述集成分类器基于如下方法对所述待分类文本进行分类:接收所述输入数据;基于所述输入数据,通过所述T个文本分类模型分别对所述待分类文本进行分类,获得T个模型分类结果,其中,所述T个模型分类结果与所述T个文本分类模型一一对应,且在每个模型分类结果中都包含一表征所述待分类文本所属类别的类别信息;根据所述T个模型分类结果,获取目标分类结果。
优选地,所述根据所述T个模型分类结果,获取目标分类结果,包括:根据所述T个模型分类结果各自对应的类别信息的不同,将所述T个模型分类结果分为R组,其中,同一组中的模型分类结果对应的类别信息均相同,R为正整数;判断在所述R组中是否存在一目标组,所述目标组为所述R组中的模型分类结果的数量最多的一组;若存在,则将所述目标组对应的类别信息作为所述待分类文本的类别信息,并输出表征分类成功的第一目标分类结果,所述第一目标分类结果中包含所述待分类文本的类别信息;若不存在,则输出用于表示分类失败的第二目标分类结果。
第二方面,基于同一发明构思,本申请通过本申请的一实施例提供如下技术方案:
一种文本分类的装置,包括:接收模块,用于接收待分类文本;第一输入模块,用于将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类;搜索模块,用于若分类失败,则将所述待分类文本输入到搜索引擎中,以通过所述搜索引擎对所述待分类文本进行搜索,获得搜索结果;调整模块,用于基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据;第二输入模块,用于将调整后的输入数据输入到所述集成分类器中,以通过所述集成分类器对所述待分类文本进行分类。
优选地,还包括,确定模块,用于:在所述将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类之后,若分类成功,则基于所述输入到集成分类器输出的第一目标分类结果确定所述待分类文本所属的类别,其中,所述第一目标分类结果表征分类成功,且在所述第一目标分类结果中包含所述待分类文本的类别信息。
优选地,所述调整模块具体用于:从所述搜索结果中提取出关键信息;将所述关键信息补充到所述输入数据中,获得调整后的输入数据;或将所述关键信息作为调整后的输入数据。
优选地,所述调整模块具体还用于:从所述搜索结果中提取出标题信息和/或摘要信息,并将所述标题信息和/或摘要信息作为所述关键信息。
优选地,所述集成分类器中设置有T个文本分类模型,T为正整数,所述集成分类器基于如下方法对所述待分类文本进行分类:接收所述输入数据;基于所述输入数据,通过所述T个文本分类模型分别对所述待分类文本进行分类,获得T个模型分类结果,其中,所述T个模型分类结果与所述T个文本分类模型一一对应,且在每个模型分类结果中都包含一表征所述待分类文本所属类别的类别信息;根据所述T个模型分类结果,获取目标分类结果。
优选地,所述集成分类器对所述待分类文本进行分类,具体包括:根据所述T个模型分类结果各自对应的类别信息的不同,将所述T个模型分类结果分为R组,其中,同一组中的模型分类结果对应的类别信息均相同,R为正整数;判断在所述R组中是否存在一目标组,所述目标组为所述R组中的模型分类结果的数量最多的一组;若存在,则将所述目标组对应的类别信息作为所述待分类文本的类别信息,并输出表征分类成功的第一目标分类结果,所述第一目标分类结果中包含所述待分类文本的类别信息;若不存在,则输出用于表示分类失败的第二目标分类结果。
第三方面,基于同一发明构思,本申请通过本申请的一实施例提供如下技术方案:
一种用户终端,包括处理器和存储器,所述存储器耦接到所述处理器,所述存储器存储指令,当所述指令由所述处理器执行时使所述用户终端执行第一方面中的任一项所述方法的步骤。
第四方面,基于同一发明构思,本申请通过本申请的一实施例提供如下技术方案:
一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现第一方面中的任一项所述方法的步骤。
与现有技术相比,本发明实施例提供的一种文本分类的方法与装置,至少具有以下有益效果:
本发明实施例中,通过接收待分类文本;将所述待分类文本作为输入数据输入到集成分类器中进行分类,获得分类结果。其中,分类结果可表征待分类文本的分类成功与否。若所述分类结果表征分类失败,则将所述待分类文本输入到搜索引擎中进行搜索,获得搜索结果;在搜索引擎中进行搜索可获得更多与待分类文本相关联的文本信息,因此搜索结果可形成对待分类文本的扩展。然后,基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据;将调整后的输入数据输入到所述集成分类器中进行再次分类,可提高集成分类器对待分类文本的识别度,也进一步提高待分类文本的分类准确度。因此,本发明所述方法结合搜索引起对待分类文本进行二次分类,解决了现有技术在对一些语义较为复杂以及不常见的一些待分类文本识别率低,分类错误或不够准确的问题。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了本发明第一实施例提供的一种文本分类的方法的流程图;
图2示出了图1中步骤S20的具体流程图;
图3示出了图1中步骤S40的具体流程图;
图4示出了本发明第二实施例提供的一种文本分类的方法的流程图;
图5示出了本发明第三实施例提供的一种文本分类的方法的流程图;
图6示出了本发明第四实施例提供的一种文本分类的方法功能模块框图;
图7示出了本发明第五实施例提供的一种用户终端的模块框图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
在本发明中提供的一种文本分类的方法及装置,可对待分类文本进行分类。本发明的应用场景包括但不限于:行业文章分类,成人、保健软文识别、违禁广告识别、关键词相关性分析、网页标签、用户画像、广告展示、信息分流等等。
第一实施例
请参照图1,本实施例中提供一种文本分类的方法,图1示出了本实施例的方法流程图,下面将对本实施例中的个步骤进行详细阐述。具体步骤如下:
步骤S10:接收待分类文本。
步骤S20:将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类。
步骤S30:若分类失败,则将所述待分类文本输入到搜索引擎中,以通过所述搜索引擎对所述待分类文本进行搜索,获得搜索结果。
步骤S40:基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据。
步骤S50:将调整后的输入数据输入到所述集成分类器中,以通过所述集成分类器对所述待分类文本进行分类。
在步骤S10中,待分类文本为需要进行分类的文本信息,该待分类文本可包括:任意的文字、词组、语句、方言词、数字、字符串等等。其中,文本的语言类型不做限制,可包括:汉语、英语、德语、俄语等,不作限制。需要说明的是,现存的及今后新出现的语言或用于记载信息文本均可作为待分类文本。待分类文本的具体形式可以是由任意的文字、词组、语句、方言词、数字、字符串等组成的文章、新闻、事件公告、网页(页面内容)等。
待分类文本的具体参考实例如下:
“古希腊罗马神话中文ppt”,“京东app货品右下角广告”,“qq空间二维码”,“300450人工智能”,“梦见别人送手机”,“我的世界自动修复bug插件”,“清华大学”,“阿坝”,“泌尿系疾病”等等。
基于上述的待分类文本,可以理解的是,由于互联网的大量待分类文本为人工录入的文本,比如由个人习惯以及输入法键入的错误等产生,待分类文本中可能存在错误的词条。
含有错误词条的待分类文本如:电音天堂(正确为:电影天堂);360安全为四(正确为:360安全卫士);我世界自动修复bug插件(正确为:我的世界自动修复bug插件);中兴证券(正确为:中信证券)等等。
在步骤S20中,所述的集成分类器用于对待分类文本进行分类,集成分类器中设置有T个文本分类模型,T为正整数。集成分类器中的文本分类模型的数量不作限定,可大于等于两个。在较优选的实施方式中,文本分类模型的数量取奇数个,例如为3个、5个等。每个文本分类模型的结构互不相同,具体可包括:基于SVM(Support Vector Machine,支持向量机)的文本分类模型;fastText模型(Facebook AI Reserch开源的一个词向量及文本分类工具);基于深度学习的文本分类模型等。文本分类模型可直接采用现有的常用模型进行训练获得。
请参阅图2,本实施例中的集成分类器在对待分类文本进行分类的时候,可包括如下步骤:
步骤S21:接收所述输入数据。其中,输入数据可以是待分类文本,也可以是基于搜索结果调整后的输入数据。
步骤S22:基于所述输入数据,通过所述T个文本分类模型分别对所述待分类文本进行分类,获得T个模型分类结果,其中,所述T个模型分类结果与所述T个文本分类模型一一对应,且在每个模型分类结果中都包含一表征所述待分类文本所属类别的类别信息;即集成分类器接收待分类文本输入之后,每个文本分类模型均可对应得到一个模型结果,模型结果为文本分类模型的输出数据。
步骤S23:根据所述T个模型分类结果,获取目标分类结果。
在步骤S23中,需要对多个模型分类结果进行综合判断,来确定目标分类结果,目标分类结果可分为两种情况:1、表征分类成功的第一目标分类结果;2、表征分类失败的第二目标分类结果。具体的:
首先进行分组:根据所述T个模型分类结果各自对应的类别信息的不同,将所述T个模型分类结果分为R组,即每一种包含相同类别信息的模型分类结果分为一组。其中,同一组中的模型分类结果对应的类别信息均相同,R为正整数。
然后,如何确定目标分类结果本实施例中提供两种实现方式:
1、可预先对集成分类器中的每个文本分类模型(T个)赋予一个权重值,在R个组中,每个组中的各个模型分类结果均对应一个文本分类模型的权重值;对每个组中所有的模型分类结果进行加权求和。最终根据加权求和值的大小来确定分类结果。例如:加权求和值超过某一预设数值的组作为目标组,例如,预设数值为50%、60%、70%等。
若存在这样的目标组,则说明分类成功,得到表征分类成功的第一目标分类结果,将所述目标组中模型分类结果所包含的类别信息作为待分类文本的所属类别。若不存在这样的目标组,则说明分类失败,得到表征分类失败的第二目标分类结果。
2、查询在R个组中是否存在一目标组,该目标组中的所述模型分类结果的数量符合预设分类条件。若存在这样的目标组,则获得表征分类成功的第一目标分类结果,所述第一目标分类结果中包含所述待分类文本的类别信息。将所述目标组中模型分类结果所包含的类别信息作为待分类文本的所属类别。若不存在这样的目标组,则说明分类失败,得到表征分类失败的第二目标分类结果。其中预设分类条件可为:目标组中的所述模型分类结果的数量在R个组中为最大;目标组中的所述模型分类结果的数量在R个组中为最大并且唯一;目标组中的所述模型分类结果的数量超过设置数值(如2、3、4等)。
举个例子:
以预设分类条件“目标组中的所述模型分类结果的数量在R个组中为最大并且唯一”为例。
若对待分类文本A(与后文待分类文本B做区分)作为输入数据输入到集成分类器中,集成分类器中存在3个文本分类模型。第一文本分类模型输出的模型分类结果为x(与模型分类结果y、z做区分),第二文本分类模型输出的模型分类结果为y,第三文本分类模型输出的结果为z;因此模型分类结果可分为3组,每一组的模型分类结果数量为1,不存在满足预设分类条件的目标组。因此,得到表征分类失败的分类结果。
若对待分类文本B作为输入数据输入到集成分类器中,集成分类器中存在3个文本分类模型。第一文本分类模型输出的模型分类结果为x,第二文本分类模型输出的模型分类结果为x,第三文本分类模型输出的结果为z;因此模型分类结果可分为2组,第一组(模型分类结果为x)的模型分类结果数量为2,第二组(模型分类结果为z)的模型分类结果数量为1,存在满足预设分类条件的目标组(即第一组)。因此,可得到表征分类成功的分类结果。
在步骤S20之后,总得来说在分类结果表征分类成功时,可基于所述输入到集成分类器输出的第一目标分类结果确定所述待分类文本所属的类别,其中,所述第一目标分类结果表征分类成功,且在所述第一目标分类结果中包含所述待分类文本的类别信息。
步骤S30:若分类失败,则将所述待分类文本输入到搜索引擎中,以通过所述搜索引擎对所述待分类文本进行搜索,获得搜索结果。
步骤S30中,所述的搜索引擎可采用先存的任一搜索引擎,例如:百度搜索、360搜索、谷歌搜索、必应搜索等等,不作限制。每条搜索结果中应当包含对应的标题、摘要,还可包含关键词。
步骤S40:基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据;其中,可包含以下执行流程,请参照图3:
步骤S41:从所述搜索结果中提取出关键信息。
步骤S42:将所述关键信息补充到所述输入数据中,获得调整后的输入数据;或将所述关键信息作为调整后的输入数据。
步骤S41:关键信息可以是搜索结果中提取出的标题信息和/或摘要信息。其中,在提取关键信息的时候可选择前N个搜索结果,N为正整数,如取1、2、3、4等。然后,可直接将搜索结果的标题和/或摘要共同作为输入数据,输入集成分类器中,实现了对待分类文本的扩展和解释,提高了集成分类器的分类准确性。若预设个数的搜索结果中不包含待分类文本,还可将待分类文本与搜索结果的标题和/或摘要共同作为输入数据。
此外,也可提取各条搜索结果中的关键词,将关键词作为对待分类文本的补充和扩展。关键词可通过人工标定,也可随机提取,不作限制。
在步骤S42中,对于同一个待分类文本,在根据所述搜索结果对所述输入数据进行调整时,均应当将上一次调整时所采用的相同搜索结果或相同关键词排出在外。
需要说明的是,在本实施例中,得到表征分类失败的第二分类结果时,步骤S20至步骤S50可循环执行,直至得到表征分类成功的分类结果时结束。
综上,在本实施例中,所述的文本分类的方法通过接收待分类文本,将所述待分类文本作为输入数据输入到集成分类器中进行分类,获得分类结果。其中,分类结果可表征待分类文本的分类成功与否。若所述分类结果表征分类失败,则将所述待分类文本输入到搜索引擎中进行搜索,获得搜索结果;在搜索引擎中进行搜索可获得更多与待分类文本相关联的文本信息,因此搜索结果可形成对待分类文本的扩展。然后,基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据;将调整后的输入数据输入到所述集成分类器中进行再次分类,可提高集成分类器对待分类文本的识别度,也进一步提高待分类文本的分类准确度。因此,本发明所述方法结合搜索引起对待分类文本进行二次分类,解决了现有技术在对一些语义较为复杂以及不常见的一些待分类文本识别率低,分类错误或不够准确的问题。
第二实施例
请参阅图4,基于同一发明构思,本实施例中还提供一种文本分类的方法,与第一实施例不同的是,在本实施例中的方法执行步骤如下:
步骤S201:接收待分类文本。
步骤S202:根据所述待分类文本,在预设词库中匹配与所述待分类文本对应的目标词条,其中,所述预设词库中存储有多个词条,以及每个词条所属的类别。
步骤S203:若匹配成功,则将所述目标词条所属的类别确定为所述待分类文本所属的类别。
步骤S204:若匹配失败,则将所述待分类文本输入到集成分类器中,获得所述待分类文本的所属类别,其中,所述集成分类器中设置有一个或一个以上的文本分类模型。
相对于第一实施例,本实施例中步骤S201与步骤S10相同,但增加了步骤S202以及步骤S203。同时还在步骤S204中的采用集成分类器进行分类时应用第一实施例的文本分类的方法的步骤S20-步骤S50,即执行步骤S204时,可参照第一实施例的步骤S20-步骤S50进行执行。
在步骤S202中,其中预设词库为机器或人工已分类或标记出的词库,也可为现有的通用词库。例如,本实施例中以介绍以下三类词库,但不局限于此:
1、第一预设词库,其中,存储有M个词条,以及所述M个词条中每个词条所属的类别,所述M个词条中每个词条所属的类别均由人工方式标记,M为正整数。第一预设词库为人工收集并存在以下情况:该词库中包含非标准化用语;互联网上每天都在产生新的网络用语,这部分词/句是在现有的词库中不存在的,故需要进行人工标记并分类;随着社会的不断发展,现有的词库被赋予新的理解与含义;对于这三类情况均需要进行人工判断与标记,保证词库的成长性与准确性。具体如:
表1:第一预设词库示例
第一词库中的词或句子不存在于现有的(互联网)词典中(现有的(互联网)词典例如:汉语大辞典、百度在线词典等工具书或相关的分类网站中),但是该类词语或语句为互联网用户使用频次较高的词语,因此可将该类词语收集并对其进行标注所属的类别,形成人工标记的词库(第一预设词库)。
2、第二预设词库,其中,存储有N个词条,以及所述N个词条中每个词条所属的类别,所述第二预设词库由预设行业词库网站提供,N为正整数。预设行业网站包括收集有各个行业词汇的网站,行业词汇为在该行业中相关从业人员或公众认可或熟知的词汇。例如:电商类相关词汇,泛娱乐类相关词汇,手游类相关词汇,PC/软件类相关词汇,教育类相关词汇,金融类相关词汇等等。提供上述行业词库的网站包括但不限于:百度行业词库,搜狗行业词库,百度风云榜中的词库,5118.com行业词库等等。具体示例如下:
表2:第二预设词库示例
词条 | 所属类别 |
奥林巴斯 | IT产品|电脑厂商 |
北通 | IT产品|电脑厂商 |
畅听 | IT产品|电脑厂商 |
超频者 | IT产品|电脑厂商 |
创见 | IT产品|电脑厂商 |
达尔优 | IT产品|电脑厂商 |
戴尔 | IT产品|电脑厂商 |
动力先锋 | IT产品|电脑厂商 |
招商证券 | 金融服务|证券投资 |
78.cn加盟连锁店 | 招商加盟|饰品礼品 |
80后婚房装修效果图 | 装修装饰|装修服务 |
80平米小户型装修 | 装修装饰|装修服务 |
80后装修风格 | 装修装饰|装修服务 |
… | … |
构建第二预设词库的具体方式可以通过购买,以及网络爬虫(又被称为网页蜘蛛,网络机器人)的方式进行爬取。
3、第三预设词库,其中,存储有P个词条,以及所述P个词条中每个词条所属的类别,所述第三预设词库由规则引擎提供,P为正整数。本实施例中的规则引擎用于提供已定义的业务规则的相关词条,例如:地名、学校名、股票代码、成人用品、特殊专有数字词库、医疗相关等。
表3:第三预设词库
词条 | 所属类别 |
招聘 | 招聘|招聘 |
保安 | 安全安保|保安安保 |
体彩 | 彩票|福彩 |
B2B | 电子商务|B2B |
楚楚街 | 电子商务|垂直B2C |
厂家供应 | 电子商务|其他 |
清华大学 | 教育培训|学历教育 |
蚌埠学院 | 教育培训|学历教育 |
阿坝 | 旅游|其他 |
900953 | 金融服务|股票基金 |
泌尿系疾病 | 医疗健康|男科 |
包皮龟头炎 | 医疗健康|男科 |
无码番号网 | 成人用品|成人用品 |
360 | IT产品|软件 |
263 | 社交|其他 |
… | … |
需要说明的是,表1-表3仅为示例性说明,其中的内容为示意性的,不对本发明的保护范围构成限制。
在上述的第一预设词库、第二预设词库以及第三预设词库中的词条均可同时属于多个类别。允许同一个词条同时存在三个词库中,并且该词条可在不同词库中归属于不同的类别。在本实施例中可使用上述词库中的任一词库作为预设词库进行步骤S202。
在步骤S202中,在预设词库中匹配对应的目标词条时的匹配的方式可为:查找预设词库中是否存储有待分类文本所包括的词条;优选地,可查找预设词库中是否存储有与所述待分类文本相同的词条。
对于步骤S202中的匹配,具有步骤S203以及步骤S204的两种结果:
在步骤S203中若匹配成功,则证明预设数据库中存在与待分类文本对应的目标词条,即可将该目标词条所属的类别确定为所述待分类文本所属的类别。完成待分类文本的分类。
在步骤S204中若匹配失败,则说明预设数据库中不存在与待分类文本对应的目标词条。此时,将所述待分类文本输入到集成分类器中,获得所述待分类文本的所属类别。在集成分类器中设置有多个文本分类模型,进一步的可根据每个文本分类模型的分类结果,对待分类文本的类别进行综合判断的到待分类文本的所属类别,提高准确性。具体执行,请参照步骤S20-步骤S50。
本发明通过在预设词库中进行匹配对应的目标词条,然后在匹配失败的情况下再通过文本分类模型进行分类,相对于直接通过文本分类模型具有更高准确性。同时在集成分类器中存在的分类模型具有多个(两个或两个以上),可得到多个分类结果,避免单一文本分类模型分类错误时无法发生和纠正分类结果。
在本实施例中对步骤S202的匹配提供一种具体的实现方式:
根据所述待分类文本,按照预设顺序,依次在多个预设词库中匹配与所述待分类文本对应的目标词条,所述多个预设词库中所存储的词条不同。其中,预设顺序是指与多个预设词库匹配对应目标词条时的先后顺序,可自定义设置,不作限制。
在本实现方式中,以第一预设词库、第二预设词库以及第三预设词库为例进行说明。即预设词库为3个时,匹配顺序依次为第一预设词库、第二预设词库以及第三预设词库。第一预设词库匹配的步骤包括:
获取第一预设词库。
根据所述待分类文本,在第一预设词库中匹配与所述待分类文本对应的第一词条。
若匹配成功,则将所述第一词条确定为所述目标词条。
第一预设词库中若匹配失败,则继续在第二预设词库中进行匹配,匹配步骤包括:
获取第二预设词库。
根据所述待分类文本,在第二预设词库中匹配与所述待分类文本对应的第二词条。
第二预设词库中若匹配成功,则将所述第二词条确定为所述目标词条。
需要说明的是,为了保证待分类文本的分类准确性。在第一预设词库中匹配第一词条时,以及在第二预设词库中匹配第二词条时,匹配的方式可采用:查找预设词库(第一预设词库或第二预设词库)中是否存储有与所述待分类文本相同的词条,保证待分类文本所分类别的准确性。
举个例子:
若待分类文本为“梦见别人送手机”,则可在第一预设词库中匹配到对应相同的第一词条,可确定待分类文本的类别为:休闲娱乐和星座占卜。
若待分类文本为“达尔优“,在第一预设词库中匹配失败后,可在第二预设词库中进行匹配,可匹配到相同的第二词条,确定待分类文本的类别为:IT产品和电脑厂商。
第二预设词库中若匹配失败,则继续在第三预设词库中进行匹配,匹配步骤包括:
获取第三预设词库。
根据所述待分类文本,在第三预设词库中匹配与所述待分类文本对应的第三词条。
若匹配成功,则将所述第三词条确定为所述目标词条。
若匹配失败,则执行所述将所述待分类文本输入到集成分类器中,获得所述待分类文本的所属类别。
规则引擎还定义了匹配的规则,其中匹配规则包括:查找预设词库中是否存储有第三词条,待分类文本中存在与所述第三词条相同的词条;若存在第三词条,则可将待分类文本的类别确定为第三词条所属的类别。
举个例子:
例如,待分类文本为“楚楚街的产品好“,该词条在第一预设词库、第二预设词库中均无法匹配成功;那么在第三预设词库进行匹配时,可查询到的第三词条为“楚楚街”,由于该第三词条的类别为“电子商务、B2B”,那么可将该待分类词条的类别确定为:电子商务和B2B。
当第三预设词库中存在与待分类文本匹配的多个第三词条时,则可统计第三词条的类别以及类别的数量,保证分类的客观性和准确性。
例如,待分类文本为“楚楚街的产品是厂家供应吗“,该词条在第一预设词库、第二预设词库中均无法匹配成功;那么在第三预设词库进行匹配时,可查询到的第三词条为“楚楚街”“厂家供应”,由于该第三词条的类别分别为“电子商务、B2B”以及“电子商务、垂直B2C”,那么可将该待分类词条的类别确定为:电子商务。
若在第三预设词库中匹配失败,则将所述待分类文本输入到集成分类器中,也即步骤S204。
在步骤S204中,若匹配失败,则将所述待分类文本输入到集成分类器中,获得所述待分类文本的所属类别,其中,所述集成分类器中设置有一个或一个以上的文本分类模型。
在本实施例中,增加了第一预设词库、第二预设词库和第三预设词库的匹配顺序,并结合第一实施例提供的方法,使得待分类文本的分类更加的准确,避免了文本分类泛化的问题。另外,增加集成分类器对待分类文本进行分类,避免了待分类文本无法确定类别的情况。综上,本实施例提供的方法解决了现有技术的错误文本纠正效果差,无法对待分类的文本进行正确的分类,分类准确度低的问题。
第三实施例
请参阅图5,基于同一发明构思,本实施例中提供一种文本分类的方法,图5示出了本实施例的方法流程图,下面将对本实施例中的个步骤进行详细阐述。具体步骤如下:
步骤S301:获取待分类文本。
步骤S302:从预设词库中选出与所述待分类文本相似的多个目标词条,其中,所述预设词库中存储有多个词条、以及每个词条所属的类别,所述目标词条属于所述多个词条。
步骤S303:根据所述预设词库,确定所述多个目标词条中的每个目标词条所属的类别。
步骤S304:根据所述多个目标词条中的每个目标词条所属的类别,确定目标类别,并将所述目标类别作为所述待分类文本所属的类别。
在本实施例中相对于第二实施例,本实施例中步骤S301与步骤S201相同,步骤S302至步骤S304可在第二实施例的步骤S202中使用,即在预设词库中无法匹配到相同的目标词条时可执行步骤S302至步骤S304。
在上述的第一预设词库、第二预设词库以及第三预设词库中的词条均可同时属于多个类别。允许同一个词条同时存在三个词库中,并且该词条可在不同词库中归属于不同的类别。在本实施例中可使用上述第二实施例中的任一词库作为预设词库进行步骤S302。
在步骤S302中,从预设词库中选出与所述待分类文本相似的多个目标词条,其实施的具体方式可为:
首先,依次计算所述待分类文本与所述预设词库中的每个词条的编辑距离。其中,编辑距离是针对二个字符串(例如,中文词、英文字)的差异程度的量化量测,量测方式是看至少需要多少次的处理才能将一个字符串变成另一个字符串。
然后,将所述预设词库中的所述编辑距离小于(亦可取等于)预设距离的词条确定为所述目标词条。其中,预设距离可自定义设置,例如为1、2、3等;预设距离也可通过步骤S304进行反馈调节,例如当步骤S304中获得的待分类文本所属的类别含有多个不够准确时,可适当降低预设距离。
在步骤S303中,根据所述预设词库,确定所述多个目标词条中的每个目标词条所属的类别。由于每个目标词条均在预设词库中选出,因此所述目标词条对应具有所属的类别。
在步骤S304中,根据所述多个目标词条中的每个目标词条所属的类别,确定目标类别,并将所述目标类别作为所述待分类文本所属的类别。该步骤中确定目标类别的具体实施可包括如下步骤:
根据所属的类别的不同,对所述多个目标词条进行分组,获得Q组词条,其中,位于同一组的目标词条所属的类别均相同,Q为正整数。
从所述Q组词条中选出词条数量最多的一组词条,并将该组词条所属的类别作为所述目标类别。
将上述确定的目标类别作为待分类文本所属的类别。在具体分类的过程中可直接采用临近分类算法(KNN,K-NearestNeighbor)进行具体实现。
需要说明的是:
若在Q组词条中存在词条数量最多的组为两个或多个时。本实施例中提供以下两种处理方式以替代步骤:从所述Q组词条中选出词条数量最多的一组词条,并将该组词条所属的类别作为所述目标类别。
替代步骤1、从所述Q组词条中选出词条数量最多或前S组的词条,并将选出的多组词条所属的类别作为所述目标类别,其中S为大于等于2的正整数。
替代步骤2、若Q组词条中存在多组词条数量相同并且最多时,反馈调整预设距离。可将所述预设距离进行降低或增加。直至得到目标类别为止。
为了在本实施例中,在实现模糊匹配的同时保证待分类文本的分类准确性,在步骤S302之前,还可进行如下步骤:
根据所述待分类文本,在所述预设词库中匹配与所述待分类文本对应的词条;其中,匹配具体方式为:根据所述待分类文本,在所述预设词库中查找与所述待分类文本相同的词条,即100%相同的匹配。
若匹配失败,则执行所述从预设词库中的选出与所述待分类文本相似的多个目标词条。
若匹配成功,则可直接将匹配成功的对应词条的所属类别作为待分类文本所属的类别。
为了对本实施例的方案更加易于理解,请参考以下示例:
执行步骤S301,获取的待分类文本为:百度下。
首先在预设词库中匹配是否存在与“百度下”相同的词条。若没有(匹配失败),则可执行步骤S302,以预设距离2为例(即编辑距离小于等于2)。在预设词库中进行匹配,获得像似的目标词条如下:
表4
在表4中的目标词条与所属类别均为示例性说明,不限制本发明的保护范围,在实际实施本发明的过程中可与表4中存在不同。
执行步骤S303可确定目标词条的所属类别。
然后,执行步骤S304,根据所属类别可对表4中的目标词条分为3个组,其中词条数量最多的一个组对应的类别为“搜索引擎”,词条数量为3。则可将待分类文本“百度下”所属的类别确定为“搜索引擎”。
本实施例提供的文本分类的方法中,在获取待分类文本后,从预设词库中选出与所述待分类文本相似的多个目标词条,实现模糊匹配。其中,所述预设词库中存储有多个词条、以及每个词条所属的类别,所述目标词条属于所述多个词条;通过该步骤即使待分类文本存在错误,也可提高在预设词库中查找到与所述待分类文本对应的目标词条的概率,避免了无法分类的情况发生。然后根据所述预设词库,确定所述多个目标词条中的每个目标词条所属的类别;最后根据所述多个目标词条中的每个目标词条所属的类别,确定目标类别,并将所述目标类别作为所述待分类文本所属的类别,其中待分类文本所属的类别是由多个目标词条中每个目标词条决定,而非单一的目标词条确定,因此待分类文本所属的类别的确定更加的准确。因此,本实施例解决了现有技术的错误文本纠正效果差,无法对待分类的文本进行正确的分类,分类准确度低的问题。
第四实施例
请参阅图6,基于同一发明构思,本实施例中还提供了一种文本分类的装置。图6中示出了文本的模糊分类装置400的功能模块框图,具体的所述装置包括:接收模块401、第一输入模块402、搜索模块403、调整模块404和第二输入模块405。具体的:
接收模块401,用于接收待分类文本;第一输入模块402,用于将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类;搜索模块403,用于若分类失败,则将所述待分类文本输入到搜索引擎中,以通过所述搜索引擎对所述待分类文本进行搜索,获得搜索结果;调整模块404,用于基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据;第二输入模块405,用于将调整后的输入数据输入到所述集成分类器中,以通过所述集成分类器对所述待分类文本进行分类。
作为一种可选的实施方式,还包括,确定模块,用于:
在所述将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类之后,若分类成功,则基于所述输入到集成分类器输出的第一目标分类结果确定所述待分类文本所属的类别,其中,所述第一目标分类结果表征分类成功,且在所述第一目标分类结果中包含所述待分类文本的类别信息。
作为一种可选的实施方式,所述调整模块404具体用于:
从所述搜索结果中提取出关键信息;将所述关键信息补充到所述输入数据中,获得调整后的输入数据;或将所述关键信息作为调整后的输入数据。
作为一种可选的实施方式,所述调整模块404具体还用于:
从所述搜索结果中提取出标题信息和/或摘要信息,并将所述标题信息和/或摘要信息作为所述关键信息。
作为一种可选的实施方式,所述集成分类器中设置有T个文本分类模型,T为正整数,所述集成分类器基于如下方法对所述待分类文本进行分类:
接收所述输入数据;基于所述输入数据,通过所述T个文本分类模型分别对所述待分类文本进行分类,获得T个模型分类结果,其中,所述T个模型分类结果与所述T个文本分类模型一一对应,且在每个模型分类结果中都包含一表征所述待分类文本所属类别的类别信息;根据所述T个模型分类结果,获取目标分类结果。
作为一种可选的实施方式,所述集成分类器对所述待分类文本进行分类,具体包括:
根据所述T个模型分类结果各自对应的类别信息的不同,将所述T个模型分类结果分为R组,其中,同一组中的模型分类结果对应的类别信息均相同,R为正整数;判断在所述R组中是否存在一目标组,所述目标组为所述R组中的模型分类结果的数量最多的一组;若存在,则将所述目标组对应的类别信息作为所述待分类文本的类别信息,并输出表征分类成功的第一目标分类结果,所述第一目标分类结果中包含所述待分类文本的类别信息;若不存在,则输出用于表示分类失败的第二目标分类结果。
需要说明的是,本发明实施例所提供的文本分类的装置400,其具体实现及产生的技术效果和前述方法实施例相同,为简要描述,装置实施例部分未提及之处,可参考前述方法实施例中相应内容。
第五实施例
另外,基于同一发明构思,本发明第五实施例还提供了一种用户终端,包括处理器和存储器,所述存储器耦接到所述处理器,所述存储器存储指令,当所述指令由所述处理器执行时使所述用户终端执行以下操作:
接收待分类文本;将所述待分类文本作为输入数据输入到集成分类器中进行分类,获得分类结果;若所述分类结果表征分类失败,则将所述待分类文本输入到搜索引擎中进行搜索,获得搜索结果;基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据;将调整后的输入数据输入到所述集成分类器中进行分类。
于本发明实施例中,用户终端中安装有操作系统以及第三方应用程序。用户终端可以为平板电脑、手机、笔记本电脑、PC(personal computer,个人计算机)、可穿戴设备、车载终端等用户终端设备。
图7示出了一种示例性用户终端500的模块框图。如图7所示,用户终端500包括存储器502、存储控制器504,一个或多个(图中仅示出一个)处理器506、外设接口508、网络模块510、输入输出模块512、显示模块514等。这些组件通过一条或多条通讯总线/信号线516相互通讯。
存储器502可用于存储软件程序以及模块,如本发明实施例中的文本分类的方法以及装置对应的程序指令/模块,处理器506通过运行存储在存储器502内的软件程序以及模块,从而执行各种功能应用以及数据处理,如本发明实施例提供的文本分类的方法。
存储器502可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。处理器506以及其他可能的组件对存储器502的访问可在存储控制器504的控制下进行。
外设接口508将各种输入/输出装置耦合至处理器506以及存储器502。在一些实施例中,外设接口508,处理器506以及存储控制器504可以在单个芯片中实现。在其他一些实例中,他们可以分别由独立的芯片实现。
网络模块510用于接收以及发送网络信号。上述网络信号可包括无线信号或者有线信号。
输入输出模块512用于提供给用户输入数据实现用户与用户终端的交互。所述输入输出模块512可以是,但不限于,鼠标、键盘和触控屏幕等。
显示模块514在用户终端500与用户之间提供一个交互界面(例如用户操作界面)或用于显示图像数据给用户参考。在本实施例中,所述显示模块514可以是液晶显示器或触控显示器。若为触控显示器,其可为支持单点和多点触控操作的电容式触控屏或电阻式触控屏等。支持单点和多点触控操作是指触控显示器能感应到来自该触控显示器上一个或多个位置处同时产生的触控操作,并将该感应到的触控操作交由处理器进行计算和处理。
可以理解,图7所示的结构仅为示意,用户终端500还可包括比图7中所示更多或者更少的组件,或者具有与图7所示不同的配置。图7中所示的各组件可以采用硬件、软件或其组合实现。
第六实施例
本发明第六实施例提供了一种计算机存储介质,本发明第二实施例中的文本分类的装置集成的功能模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述第一实施例的文本分类的方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的文本分类的装置、用户终端中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
本发明公开了A1、一种文本分类的方法,所述方法包括:
接收待分类文本;将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类;若分类失败,则将所述待分类文本输入到搜索引擎中,以通过所述搜索引擎对所述待分类文本进行搜索,获得搜索结果;基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据;将调整后的输入数据输入到所述集成分类器中,以通过所述集成分类器对所述待分类文本进行分类。
A2、根据A1所述的方法,其特征在于,
所述将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类之后,还包括:
若分类成功,则基于所述输入到集成分类器输出的第一目标分类结果确定所述待分类文本所属的类别,其中,所述第一目标分类结果表征分类成功,且在所述第一目标分类结果中包含所述待分类文本的类别信息。
A3、根据A1所述的方法,其特征在于,
所述基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据,包括:
从所述搜索结果中提取出关键信息;将所述关键信息补充到所述输入数据中,获得调整后的输入数据;或将所述关键信息作为调整后的输入数据。
A4、根据A3所述的方法,其特征在于,所述从所述搜索结果中提取出关键信息,包括:
从所述搜索结果中提取出标题信息和/或摘要信息,并将所述标题信息和/或摘要信息作为所述关键信息。
A5、根据A1-A4所述的方法,其特征在于,
所述集成分类器中设置有T个文本分类模型,T为正整数,所述集成分类器基于如下方法对所述待分类文本进行分类:
接收所述输入数据;基于所述输入数据,通过所述T个文本分类模型分别对所述待分类文本进行分类,获得T个模型分类结果,其中,所述T个模型分类结果与所述T个文本分类模型一一对应,且在每个模型分类结果中都包含一表征所述待分类文本所属类别的类别信息;根据所述T个模型分类结果,获取目标分类结果。
A6、根据A5所述的方法,其特征在于,所述根据所述T个模型分类结果,获取目标分类结果,包括:
根据所述T个模型分类结果各自对应的类别信息的不同,将所述T个模型分类结果分为R组,其中,同一组中的模型分类结果对应的类别信息均相同,R为正整数;判断在所述R组中是否存在一目标组,所述目标组为所述R组中的模型分类结果的数量最多的一组;若存在,则将所述目标组对应的类别信息作为所述待分类文本的类别信息,并输出表征分类成功的第一目标分类结果,所述第一目标分类结果中包含所述待分类文本的类别信息;若不存在,则输出用于表示分类失败的第二目标分类结果。
本发明公开了B7.一种文本分类的装置,其特征在于,包括:
接收模块,用于接收待分类文本;第一输入模块,用于将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类;若分类失败,则将所述待分类文本输入到搜索引擎中,以通过所述搜索引擎对所述待分类文本进行搜索,获得搜索结果;调整模块,用于基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据;第二输入模块,用于将调整后的输入数据输入到所述集成分类器中,以通过所述集成分类器对所述待分类文本进行分类。
本发明公开了B7.一种文本分类的装置,其特征在于,包括:
接收模块,用于接收待分类文本;第一输入模块,用于将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类;搜索模块,用于若分类失败,则将所述待分类文本输入到搜索引擎中,以通过所述搜索引擎对所述待分类文本进行搜索,获得搜索结果;调整模块,用于基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据;第二输入模块,用于将调整后的输入数据输入到所述集成分类器中,以通过所述集成分类器对所述待分类文本进行分类。
B8.根据B7所述的装置,其特征在于,还包括,确定模块,用于:
在所述将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类之后,若分类成功,则基于所述输入到集成分类器输出的第一目标分类结果确定所述待分类文本所属的类别,其中,所述第一目标分类结果表征分类成功,且在所述第一目标分类结果中包含所述待分类文本的类别信息。
B9.根据B7所述的装置,其特征在于,所述调整模块具体用于:
从所述搜索结果中提取出关键信息;将所述关键信息补充到所述输入数据中,获得调整后的输入数据;或将所述关键信息作为调整后的输入数据。
B10.根据B9所述的装置,其特征在于,所述调整模块具体还用于:
从所述搜索结果中提取出标题信息和/或摘要信息,并将所述标题信息和/或摘要信息作为所述关键信息。
B11.根据B7-B10任一所述的装置,其特征在于,所述集成分类器中设置有T个文本分类模型,T为正整数,所述集成分类器基于如下方法对所述待分类文本进行分类:
接收所述输入数据;基于所述输入数据,通过所述T个文本分类模型分别对所述待分类文本进行分类,获得T个模型分类结果,其中,所述T个模型分类结果与所述T个文本分类模型一一对应,且在每个模型分类结果中都包含一表征所述待分类文本所属类别的类别信息;根据所述T个模型分类结果,获取目标分类结果。
B12.根据B11所述的装置,其特征在于,所述集成分类器对所述待分类文本进行分类,具体包括:
根据所述T个模型分类结果各自对应的类别信息的不同,将所述T个模型分类结果分为R组,其中,同一组中的模型分类结果对应的类别信息均相同,R为正整数;判断在所述R组中是否存在一目标组,所述目标组为所述R组中的模型分类结果的数量最多的一组;若存在,则将所述目标组对应的类别信息作为所述待分类文本的类别信息,并输出表征分类成功的第一目标分类结果,所述第一目标分类结果中包含所述待分类文本的类别信息;若不存在,则输出用于表示分类失败的第二目标分类结果。
本发明公开了C13.一种用户终端,其特征在于,包括处理器和存储器,所述存储器耦接到所述处理器,所述存储器存储指令,当所述指令由所述处理器执行时使所述用户终端执行A1-A6中任一项所述方法的步骤。
本发明公开了D14.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现A1-A6中任一项所述方法的步骤。
Claims (10)
1.一种文本分类的方法,其特征在于,包括:
接收待分类文本;
将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类;
若分类失败,则将所述待分类文本输入到搜索引擎中,以通过所述搜索引擎对所述待分类文本进行搜索,获得搜索结果;
基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据;
将调整后的输入数据输入到所述集成分类器中,以通过所述集成分类器对所述待分类文本进行分类。
2.根据权利要求1所述的方法,其特征在于,所述将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类之后,还包括:
若分类成功,则基于所述输入到集成分类器输出的第一目标分类结果确定所述待分类文本所属的类别,其中,所述第一目标分类结果表征分类成功,且在所述第一目标分类结果中包含所述待分类文本的类别信息。
3.根据权利要求1所述的方法,其特征在于,所述基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据,包括:
从所述搜索结果中提取出关键信息;
将所述关键信息补充到所述输入数据中,获得调整后的输入数据;或
将所述关键信息作为调整后的输入数据。
4.根据权利要求3所述的方法,其特征在于,所述从所述搜索结果中提取出关键信息,包括:
从所述搜索结果中提取出标题信息和/或摘要信息,并将所述标题信息和/或摘要信息作为所述关键信息。
5.根据权利要求1-4任一所述的方法,其特征在于,所述集成分类器中设置有T个文本分类模型,T为正整数,所述集成分类器基于如下方法对所述待分类文本进行分类:
接收所述输入数据;
基于所述输入数据,通过所述T个文本分类模型分别对所述待分类文本进行分类,获得T个模型分类结果,其中,所述T个模型分类结果与所述T个文本分类模型一一对应,且在每个模型分类结果中都包含一表征所述待分类文本所属类别的类别信息;
根据所述T个模型分类结果,获取目标分类结果。
6.根据权利要求5所述的方法,其特征在于,所述根据所述T个模型分类结果,获取目标分类结果,包括:
根据所述T个模型分类结果各自对应的类别信息的不同,将所述T个模型分类结果分为R组,其中,同一组中的模型分类结果对应的类别信息均相同,R为正整数;
判断在所述R组中是否存在一目标组,所述目标组为所述R组中的模型分类结果的数量最多的一组;
若存在,则将所述目标组对应的类别信息作为所述待分类文本的类别信息,并输出表征分类成功的第一目标分类结果,所述第一目标分类结果中包含所述待分类文本的类别信息;
若不存在,则输出用于表示分类失败的第二目标分类结果。
7.一种文本分类的装置,其特征在于,包括:
接收模块,用于接收待分类文本;
第一输入模块,用于将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类;
搜索模块,用于若分类失败,则将所述待分类文本输入到搜索引擎中,以通过所述搜索引擎对所述待分类文本进行搜索,获得搜索结果;
调整模块,用于基于所述搜索结果对所述输入数据进行调整,获得调整后的输入数据;
第二输入模块,用于将调整后的输入数据输入到所述集成分类器中,以通过所述集成分类器对所述待分类文本进行分类。
8.根据权利要求7所述的装置,其特征在于,还包括,确定模块,用于:
在所述将所述待分类文本作为输入数据输入到集成分类器中,以通过所述集成分类器对所述待分类文本进行分类之后,若分类成功,则基于所述输入到集成分类器输出的第一目标分类结果确定所述待分类文本所属的类别,其中,所述第一目标分类结果表征分类成功,且在所述第一目标分类结果中包含所述待分类文本的类别信息。
9.一种用户终端,其特征在于,包括处理器和存储器,所述存储器耦接到所述处理器,所述存储器存储指令,当所述指令由所述处理器执行时使所述用户终端执行权利要求1-6中任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-6中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811368725.0A CN109582792A (zh) | 2018-11-16 | 2018-11-16 | 一种文本分类的方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811368725.0A CN109582792A (zh) | 2018-11-16 | 2018-11-16 | 一种文本分类的方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109582792A true CN109582792A (zh) | 2019-04-05 |
Family
ID=65923050
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811368725.0A Pending CN109582792A (zh) | 2018-11-16 | 2018-11-16 | 一种文本分类的方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109582792A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110442704A (zh) * | 2019-08-13 | 2019-11-12 | 重庆誉存大数据科技有限公司 | 一种企业新闻筛选方法及系统 |
CN110489550A (zh) * | 2019-07-16 | 2019-11-22 | 招联消费金融有限公司 | 基于组合神经网络的文本分类方法、装置和计算机设备 |
CN111191001A (zh) * | 2019-12-23 | 2020-05-22 | 浙江大胜达包装股份有限公司 | 一种面向纸包装及其相关行业的企业多元标签标识方法 |
CN111737473A (zh) * | 2020-07-17 | 2020-10-02 | 浙江口碑网络技术有限公司 | 文本分类方法、装置及设备 |
CN111782727A (zh) * | 2020-06-28 | 2020-10-16 | 平安医疗健康管理股份有限公司 | 基于机器学习的数据处理方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101329674A (zh) * | 2007-06-18 | 2008-12-24 | 北京搜狗科技发展有限公司 | 一种提供个性化搜索的系统和方法 |
CN102541958A (zh) * | 2010-12-30 | 2012-07-04 | 百度在线网络技术(北京)有限公司 | 一种用于识别短文本类别信息的方法、装置和计算机设备 |
CN103020066A (zh) * | 2011-09-21 | 2013-04-03 | 北京百度网讯科技有限公司 | 一种识别搜索需求的方法和装置 |
CN103077201A (zh) * | 2012-12-27 | 2013-05-01 | 武汉大学 | 一种基于互联网主动迭代探测的未知位置估算方法 |
CN103617239A (zh) * | 2013-11-26 | 2014-03-05 | 百度在线网络技术(北京)有限公司 | 命名实体的识别方法、装置及分类模型的创建方法、装置 |
-
2018
- 2018-11-16 CN CN201811368725.0A patent/CN109582792A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101329674A (zh) * | 2007-06-18 | 2008-12-24 | 北京搜狗科技发展有限公司 | 一种提供个性化搜索的系统和方法 |
CN102541958A (zh) * | 2010-12-30 | 2012-07-04 | 百度在线网络技术(北京)有限公司 | 一种用于识别短文本类别信息的方法、装置和计算机设备 |
CN103020066A (zh) * | 2011-09-21 | 2013-04-03 | 北京百度网讯科技有限公司 | 一种识别搜索需求的方法和装置 |
CN103077201A (zh) * | 2012-12-27 | 2013-05-01 | 武汉大学 | 一种基于互联网主动迭代探测的未知位置估算方法 |
CN103617239A (zh) * | 2013-11-26 | 2014-03-05 | 百度在线网络技术(北京)有限公司 | 命名实体的识别方法、装置及分类模型的创建方法、装置 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110489550A (zh) * | 2019-07-16 | 2019-11-22 | 招联消费金融有限公司 | 基于组合神经网络的文本分类方法、装置和计算机设备 |
CN110442704A (zh) * | 2019-08-13 | 2019-11-12 | 重庆誉存大数据科技有限公司 | 一种企业新闻筛选方法及系统 |
CN111191001A (zh) * | 2019-12-23 | 2020-05-22 | 浙江大胜达包装股份有限公司 | 一种面向纸包装及其相关行业的企业多元标签标识方法 |
CN111782727A (zh) * | 2020-06-28 | 2020-10-16 | 平安医疗健康管理股份有限公司 | 基于机器学习的数据处理方法及装置 |
CN111782727B (zh) * | 2020-06-28 | 2022-08-12 | 深圳平安医疗健康科技服务有限公司 | 基于机器学习的数据处理方法及装置 |
CN111737473A (zh) * | 2020-07-17 | 2020-10-02 | 浙江口碑网络技术有限公司 | 文本分类方法、装置及设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111177569B (zh) | 基于人工智能的推荐处理方法、装置及设备 | |
CN109684627A (zh) | 一种文本分类方法及装置 | |
CN112632385B (zh) | 课程推荐方法、装置、计算机设备及介质 | |
CN109582792A (zh) | 一种文本分类的方法及装置 | |
WO2020232861A1 (zh) | 命名实体识别方法、电子装置及存储介质 | |
CN110532451A (zh) | 针对政策文本的检索方法和装置、存储介质、电子装置 | |
US8082264B2 (en) | Automated scheme for identifying user intent in real-time | |
CN108090162A (zh) | 基于人工智能的信息推送方法和装置 | |
US11507989B2 (en) | Multi-label product categorization | |
CN108363790A (zh) | 用于对评论进行评估的方法、装置、设备和存储介质 | |
CN110196972B (zh) | 文案生成方法、装置及计算机可读存储介质 | |
CN111444334A (zh) | 数据处理方法、文本识别方法、装置及计算机设备 | |
CN108256537A (zh) | 一种用户性别预测方法和系统 | |
CN109800307A (zh) | 产品评价的分析方法、装置、计算机设备及存储介质 | |
CN107533558A (zh) | 脉络化知识面板 | |
US11966698B2 (en) | System and method for automatically tagging customer messages using artificial intelligence models | |
Noguti et al. | Legal document classification: An application to law area prediction of petitions to public prosecution service | |
CN110597978A (zh) | 物品摘要生成方法、系统、电子设备及可读存储介质 | |
CN110276382A (zh) | 基于谱聚类的人群分类方法、装置及介质 | |
CN114037545A (zh) | 客户推荐方法、装置、设备及存储介质 | |
CN113689144A (zh) | 产品描述的质量评定系统和方法 | |
CN108009248A (zh) | 一种数据分类方法和系统 | |
CN109359198A (zh) | 一种文本分类方法及装置 | |
CN109284389A (zh) | 一种文本数据的信息处理方法、装置 | |
CN110647504B (zh) | 司法文书的检索方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |