CN109684627A - 一种文本分类方法及装置 - Google Patents
一种文本分类方法及装置 Download PDFInfo
- Publication number
- CN109684627A CN109684627A CN201811368724.6A CN201811368724A CN109684627A CN 109684627 A CN109684627 A CN 109684627A CN 201811368724 A CN201811368724 A CN 201811368724A CN 109684627 A CN109684627 A CN 109684627A
- Authority
- CN
- China
- Prior art keywords
- text
- entry
- sorted
- classification
- dictionary
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 74
- 238000013145 classification model Methods 0.000 claims abstract description 57
- 230000015654 memory Effects 0.000 claims description 21
- 238000003860 storage Methods 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 11
- 230000033228 biological regulation Effects 0.000 claims description 9
- 238000012549 training Methods 0.000 claims description 5
- 238000012512 characterization method Methods 0.000 description 13
- 230000008569 process Effects 0.000 description 8
- 230000008901 benefit Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 239000000047 product Substances 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 238000012706 support-vector machine Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 235000013399 edible fruits Nutrition 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 241000239290 Araneae Species 0.000 description 1
- 208000012931 Urologic disease Diseases 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000012550 audit Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000000151 deposition Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 230000009123 feedback regulation Effects 0.000 description 1
- 238000005206 flow analysis Methods 0.000 description 1
- 239000004615 ingredient Substances 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 208000014001 urinary system disease Diseases 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种文本分类方法及装置，其中所述方法包括：接收待分类文本；根据所述待分类文本，在预设词库中匹配与所述待分类文本对应的目标词条，其中，所述预设词库中存储有多个词条，以及每个词条所属的类别；若匹配成功，则将所述目标词条所属的类别确定为所述待分类文本所属的类别；若匹配失败，则将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别，其中，所述集成分类器中设置有一个或一个以上的文本分类模型。本发明解决了现有技术的文本分类不够准确，容易出现错误的问题。
Description
技术领域
本发明涉及计算机技术领域，尤其涉及一种文本分类方法及装置。
背景技术
随着社会和时代的发展，人们的工作和生活越来越依赖互联网，通过互联网可以查询资料，购买商品，投放广告等。但目前互联网上用户生产与检索的自然文本每日呈指数级的速度增长。对于网络上的庞杂的内容，通过搜索引擎检索内容时，容易出现信息超载的情况，因此需要对文本信息进行分类。同时，文本分类能够帮助业务部门进行流量分析、内容审核、构建用户/产品画像、精准推荐、关键词扩簇、CTR预估等等，具有极其重要的意。
目前的文本分类通常需要对词条构建特征向量，然后通过机器学习所训练的模型进行分类，这种分类方法对文本的类型理解往往不够准确，容易出现分类错误。
发明内容
鉴于上述问题，本发明提出了一种文本分类方法及装置，解决了现有技术的文本分类不够准确，容易出现错误的问题。
第一方面，本申请通过本申请的一实施例提供如下技术方案：
一种文本分类方法，所述方法包括：接收待分类文本；根据所述待分类文本，在预设词库中匹配与所述待分类文本对应的目标词条，其中，所述预设词库中存储有多个词条，以及每个词条所属的类别；若匹配成功，则将所述目标词条所属的类别确定为所述待分类文本所属的类别；若匹配失败，则将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别，其中，所述集成分类器中设置有一个或一个以上的文本分类模型。
优选地，所述根据所述待分类文本，在预设词库中匹配与所述待分类文本对应的目标词条，包括：根据所述待分类文本，按照预设顺序，依次在多个预设词库中匹配与所述待分类文本对应的目标词条，所述多个预设词库中所存储的词条不同。
优选地，所述根据所述待分类文本，按照预设顺序，依次在多个预设词库中匹配与所述待分类文本对应的目标词条，包括：获取第一预设词库，所述第一预设词库中存储有M个词条，以及所述M个词条中每个词条所属的类别，所述M个词条中每个词条所属的类别均由人工方式标记，M为正整数；根据所述待分类文本，在第一预设词库中匹配与所述待分类文本对应的第一词条；若匹配成功，则将所述第一词条确定为所述目标词条。
优选地，所述根据所述待分类文本，在第一预设词库中匹配与所述待分类文本对应的第一词条之后，还包括：若匹配失败，则获取第二预设词库，所述第二预设词库中存储有N个词条，以及所述N个词条中每个词条所属的类别，所述第二预设词库由预设行业词库网站提供，N为正整数；根据所述待分类文本，在第二预设词库中匹配与所述待分类文本对应的第二词条；若匹配成功，则将所述第二词条确定为所述目标词条。
优选地，所述根据所述待分类文本，在第二预设词库中匹配与所述待分类文本对应的第二词条之后，还包括：若匹配失败，则获取第三预设词库，所述第三预设词库中存储有P个词条，以及所述P个词条中每个词条所属的类别，所述第三预设词库由规则引擎提供，P为正整数；根据所述待分类文本，在第三预设词库中匹配与所述待分类文本对应的第三词条；若匹配成功，则将所述第三词条确定为所述目标词条；若匹配失败，则执行所述将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别。
优选地，所述文本分类模型是由所述第一预设词库训练获得。
优选地，所述集成分类器中的文本分类模型数量大于2，每个所述文本分类模型的结构均不相同。
优选地，在所述预设词库中匹配所述目标词条时，匹配的方式为查找预设词库中是否存储有与所述待分类文本相同的词条。
第二方面，基于同一发明构思，本申请通过本申请的一实施例提供如下技术方案：
一种文本分类装置，包括：接收模块，用于接收待分类文本；匹配模块，用于根据所述待分类文本，在预设词库中匹配与所述待分类文本对应的目标词条，其中，所述预设词库中存储有多个词条，以及每个词条所属的类别；第一结果处理模块，用于若匹配成功，则将所述目标词条所属的类别确定为所述待分类文本所属的类别；第二结果处理模块，用于若匹配失败，则将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别，其中，所述集成分类器中设置有一个或一个以上的文本分类模型。
优选地，所述匹配模块，还具体用于：根据所述待分类文本，按照预设顺序，依次在多个预设词库中匹配与所述待分类文本对应的目标词条，所述多个预设词库中所存储的词条不同。
优选地，所述匹配模块，还用于：获取第一预设词库，所述第一预设词库中存储有M个词条，以及所述M个词条中每个词条所属的类别，所述M个词条中每个词条所属的类别均由人工方式标记，M为正整数；根据所述待分类文本，在第一预设词库中匹配与所述待分类文本对应的第一词条；若匹配成功，则将所述第一词条确定为所述目标词条。
优选地，所述匹配模块，还用于：在所述根据所述待分类文本，在第一预设词库中匹配与所述待分类文本对应的第一词条之后；若匹配失败，则获取第二预设词库，所述第二预设词库中存储有N个词条，以及所述N个词条中每个词条所属的类别，所述第二预设词库由预设行业词库网站提供，N为正整数；还用于根据所述待分类文本，在第二预设词库中匹配与所述待分类文本对应的第二词条；若匹配成功，则将所述第二词条确定为所述目标词条。
优选地，所述匹配模块还用于：在所述根据所述待分类文本，在第二预设词库中匹配与所述待分类文本对应的第二词条之后；若匹配失败，则获取第三预设词库，所述第三预设词库中存储有P个词条，以及所述P个词条中每个词条所属的类别，所述第三预设词库由规则引擎提供，P为正整数；根据所述待分类文本，在第三预设词库中匹配与所述待分类文本对应的第三词条；若匹配成功，则将所述第三词条确定为所述目标词条；若匹配失败，则通过所述第二结果处理模块执行所述将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别。
优选地，所述文本分类模型是由所述第一预设词库训练获得。
优选地，所述集成分类器中的文本分类模型数量大于2，每个所述文本分类模型的结构均不相同。
优选地，所述匹配模块，用于在所述预设词库中匹配所述目标词条时，匹配的方式为查找预设词库中是否存储有与所述待分类文本相同的词条。
第三方面，基于同一发明构思，本申请通过本申请的一实施例提供如下技术方案：
一种用户终端，包括处理器和存储器，所述存储器耦接到所述处理器，所述存储器存储指令，当所述指令由所述处理器执行时使所述用户终端执行上述第一方面中任一项所述方法的步骤。
第四方面，基于同一发明构思，本申请通过本申请的一实施例提供如下技术方案：
一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述第一方面中任一项所述方法的步骤。
本发明实施例提供的文本分类方法及装置中，首先将接收的待分类文本在预设词库中匹配对应的目标词条，由于所述目标词条具有所属的类别，通过待分类文本与所述目标词条的匹配可对待分类文本进行分类，分类准确度高。若匹配到对应的目标词条则可直接得到待分类文本的所属类别。若在预设词库中未匹配到对应的目标词条时，说明预设词库中未收录到对应的目标词条，则可将待分类文本输入到预设的集成分类器中进行分类，在集成分类器中设置有一个或一个以上的文本分类模型，可保证待分类文本得到最准确的所属类别。相对于现有技术，本发明首先采用预设词库进行匹配，若匹配失败，再采用集成分类器进行文本分类，因此采用本发明的提供的方法进行文本分类在保证有更高的准确性的情况下，可避免无法找到待分类文本类别的情况，明显降低了分类错误率。
上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1示出了本发明第一实施例提供的一种文本分类方法的整体流程图；
图2示出了本发明第一实施例提供的一种文本分类方法的匹配第一词条的流程图；
图3示出了本发明第一实施例提供的一种文本分类方法的匹配第二词条的流程图；
图4示出了本发明第一实施例提供的一种文本分类方法的匹配第三词条的流程图；
图5示出了本发明第二实施例提供的一种文本分类方法的整体流程图；
图6示出了本发明第三实施例提供的一种文本分类方法的整体流程图；
图7示出了本发明第四实施例提供的一种文本分类装置的功能模块框图；
图8示出了本发明第五实施例提供的一种用户终端的模块框图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。
在本发明中提供的文本分类方法，可对文本进行分类。本发明根据文本的语义、关键词等，按照逐层匹配分类的形式，可更加精准的将文本划分到对应的类别，实现文本的分类管理、查询等。本发明的应用场景包括但不限于：行业分类文章、违禁广告识别、关键词相关性分析、网页标签、用户画像、广告展示、信息分流等等。
第一实施例
请参照图1，本实施例中提供一种文本分类方法，图1示出了本实施例的方法流程图，下面将对本实施例中的个步骤进行详细阐述。具体步骤如下：
步骤S10：接收待分类文本。
步骤S20：根据所述待分类文本，在预设词库中匹配与所述待分类文本对应的目标词条，其中，所述预设词库中存储有多个词条，以及每个词条所属的类别。
步骤S30：若匹配成功，则将所述目标词条所属的类别确定为所述待分类文本所属的类别。
步骤S40：若匹配失败，则将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别，其中，所述集成分类器中设置有一个或一个以上的文本分类模型。
在步骤S10中，待分类文本为需要进行分类的文本信息，该待分类文本可包括：任意的文字、词组、语句、方言词、数字、字符串等等。其中，文本的语言类型不做限制，可包括：汉语、英语、德语、俄语等，不作限制。需要说明的是，现存的及今后新出现的语言或用于记载信息文本均可作为待分类文本。待分类文本的具体形式可以是由任意的文字、词组、语句、方言词、数字、字符串等组成的文章、新闻、事件公告、网页(页面内容)等。
待分类文本的具体参考实例如下：
“古希腊罗马神话中文ppt”，“京东app货品右下角广告”，“QQ空间二维码”，“300450人工智能”，“梦见别人送手机”，“我的世界自动修复bug插件”，“清华大学”，“阿坝”，“泌尿系疾病”等等。
基于上述的待分类文本，可以理解的是，由于互联网的大量待分类文本为人工录入的文本，比如由个人习惯以及输入法键入的错误等产生，待分类文本中可能存在错误的词条。
含有错误词条的待分类文本如：电音天堂(正确为：电影天堂)；360安全为四(正确为：360安全卫士)；我世界自动修复bug插件(正确为：我的世界自动修复bug插件)；中兴证券(正确为：中信证券)等等。
在步骤S20中，其中预设词库为机器或人工已分类或标记出的词库，该预设词库的数量为一个或一个以上；较优选地方案中预设词库的数量应当为两个及其以上。在本实施例中以预设词库3个为例进行说明。具体如下：
1、第一预设词库，其中，存储有M个词条，以及所述M个词条中每个词条所属的类别，所述M个词条中每个词条所属的类别均由人工方式标记，M 为正整数。第一预设词库为人工收集并存在以下情况：该词库中包含非标准化用语；互联网上每天都在产生新的网络用语，这部分词/句是在现有的词库中不存在的，故需要进行人工标记并分类；随着社会的不断发展，现有的词库被赋予新的理解与含义；对于这三类情况均需要进行人工判断与标记，保证词库的成长性与准确性。具体如：
表1：第一预设词库示例
第一词库中的词或句子不存在于现有的(互联网)词典中(现有的(互联网)词典例如：汉语大辞典、百度在线词典等工具书或相关的分类网站中)，但是该类词语或语句为互联网用户使用频次较高的词语，因此可将该类词语收集并对其进行标注所属的类别，形成人工标记的词库(第一预设词库)。
2、第二预设词库，其中，存储有N个词条，以及所述N个词条中每个词条所属的类别，所述第二预设词库由预设行业词库网站提供，N为正整数。预设行业网站包括收集有各个行业词汇的网站，行业词汇为在该行业中相关从业人员或公众认可或熟知的词汇。例如：电商类相关词汇，泛娱乐类相关词汇，手游类相关词汇，PC/软件类相关词汇，教育类相关词汇，金融类相关词汇等等。提供上述行业词库的网站包括但不限于：百度行业词库，搜狗行业词库，百度风云榜中的词库，5118.com行业词库等等。具体示例如下：
表2：第二预设词库示例
构建第二预设词库的具体方式可以通过购买，以及网络爬虫(又被称为网页蜘蛛，网络机器人)的方式进行爬取。
3、第三预设词库，其中，存储有P个词条，以及所述P个词条中每个词条所属的类别，所述第三预设词库由规则引擎提供，P为正整数。本实施例中的规则引擎用于提供已定义的业务规则的相关词条，例如：地名、学校名、股票代码、特殊专有数字词库、医疗相关等。
表3：第三预设词库
需要说明的是，表1-表3仅为示例性说明，其中的内容为示意性的，不对本发明的保护范围构成限制。
在本实施例中的第一预设词库、第二预设词库以及第三预设词库中的词条均可同时属于多个类别。允许同一个词条同时存在三个词库中，并且该词条可在不同词库中归属于不同的类别。
在步骤S20中，在预设词库中匹配对应的目标词条时的匹配的方式可为：查找预设词库中是否存储有待分类文本所包括的词条；优选地，可查找预设词库中是否存储有与所述待分类文本相同的词条。
对于步骤S20中的匹配，具有步骤S30以及步骤S40的两种结果：
在步骤S30中若匹配成功，则证明预设数据库中存在与待分类文本对应的目标词条，即可将该目标词条所属的类别确定为所述待分类文本所属的类别。完成待分类文本的分类。
在步骤S40中若匹配失败，则说明预设数据库中不存在与待分类文本对应的目标词条。此时，将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别。在集成分类器中设置有多个文本分类模型，进一步的可根据每个文本分类模型的分类结果，对待分类文本的类别进行综合判断的到待分类文本的所属类别，提高准确性。
本发明通过在预设词库中进行匹配对应的目标词条，然后在匹配失败的情况下再通过文本分类模型进行分类，相对于直接通过文本分类模型具有更高准确性。同时在集成分类器中存在的分类模型具有多个(两个或两个以上)，可得到多个分类结果，避免单一文本分类模型分类错误时无法发生和纠正分类结果。
在本实施例中对步骤S20的匹配提供一种具体的实现方式：
根据所述待分类文本，按照预设顺序，依次在多个预设词库中匹配与所述待分类文本对应的目标词条，所述多个预设词库中所存储的词条不同。其中，预设顺序是指与多个预设词库匹配对应目标词条时的先后顺序，可自定义设置，不作限制。
请参照图2，在本实现方式中，以第一预设词库、第二预设词库以及第三预设词库为例进行说明。即预设词库为3个时，匹配顺序依次为第一预设词库、第二预设词库以及第三预设词库。第一预设词库匹配的步骤包括：
步骤S201：获取第一预设词库。
步骤S202：根据所述待分类文本，在第一预设词库中匹配与所述待分类文本对应的第一词条。
步骤S203：若匹配成功，则将所述第一词条确定为所述目标词条。
请参照图3，在步骤S202中若匹配失败，则继续在第二预设词库中进行匹配，匹配步骤包括：
步骤S211：获取第二预设词库。
步骤S212：根据所述待分类文本，在第二预设词库中匹配与所述待分类文本对应的第二词条。
步骤S213：若匹配成功，则将所述第二词条确定为所述目标词条。
需要说明的是，为了保证待分类文本的分类准确性。在第一预设词库中匹配第一词条时，以及在第二预设词库中匹配第二词条时，匹配的方式可采用：查找预设词库(第一预设词库或第二预设词库)中是否存储有与所述待分类文本相同的词条，保证待分类文本所分类别的准确性。
举个例子：
若待分类文本为“梦见别人送手机”，则可在第一预设词库中匹配到对应相同的第一词条，可确定待分类文本的类别为：休闲娱乐和星座占卜。
若待分类文本为“达尔优”，在第一预设词库中匹配失败后，可在第二预设词库中进行匹配，可匹配到相同的第二词条，确定待分类文本的类别为：IT 产品和电脑厂商。
请参照图4，在步骤S212中若匹配失败，则继续在第三预设词库中进行匹配，匹配步骤包括：
步骤S221：获取第三预设词库。
步骤S222：根据所述待分类文本，在第三预设词库中匹配与所述待分类文本对应的第三词条。
步骤S223：若匹配成功，则将所述第三词条确定为所述目标词条。
步骤S224：若匹配失败，则参考步骤S40，执行所述将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别的步骤。
在步骤S222中，规则引擎还定义了匹配的规则，其中匹配规则包括：查找预设词库中是否存储有第三词条，待分类文本中存在与所述第三词条相同的词条；若存在第三词条，则可将待分类文本的类别确定为第三词条所属的类别。
举个例子：
例如，待分类文本为“楚楚街的产品好”，该词条在第一预设词库、第二预设词库中均无法匹配成功；那么在第三预设词库进行匹配时，可查询到的第三词条为“楚楚街”，由于该第三词条的类别为“电子商务、B2B”，那么可将该待分类词条的类别确定为：电子商务和B2B。
当第三预设词库中存在与待分类文本匹配的多个第三词条时，则可统计第三词条的类别以及类别的数量，保证分类的客观性和准确性。
例如，待分类文本为“楚楚街的产品是厂家供应吗”，该词条在第一预设词库、第二预设词库中均无法匹配成功；那么在第三预设词库进行匹配时，可查询到的第三词条为“楚楚街”、“厂家供应”，由于该第三词条的类别分别为“电子商务、B2B”以及“电子商务、垂直B2C”，那么可将该待分类词条的类别确定为：电子商务。
若步骤222匹配失败，则执行步骤S224，也即步骤S40。
在步骤S40中，若匹配失败，则将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别，其中，所述集成分类器中设置有一个或一个以上的文本分类模型。
较优选的，分类器中的文本分类模型为两个及其以上，在本实施例中文本分类模型的数量为3，每个模型的结构互不相同，具体可包括：基于SVM (Support VectorMachine，支持向量机)的文本分类模型；fastText模型 (Facebook AI Reserch开源的一个词向量及文本分类工具)；基于深度学习的文本分类模型等。文本分类模型可直接采用现有的常用模型进行训练获得。
在对集成分类器中的文本分类模型进行训练时，可采用预设词库中的任意词库作为学习样本。较优选的方式，采用第一预设词库作为学习样本。由于第一预设词库为人工标注获得，词条的语义理解的更加准确，可确保词条的类别正确。
上述本申请实施例中的技术方案，至少具有如下的技术效果或优点：
在本申请实施例中，首先将接收的待分类文本在预设词库中匹配对应的目标词条，由于所述目标词条具有所属的类别，通过待分类文本与所述目标词条的匹配可对待分类文本进行分类，分类准确度高。若匹配到对应的目标词条则可直接得到待分类文本的所属类别。若在预设词库中未匹配到对应的目标词条时，说明预设词库中未收录到对应的目标词条，则可将待分类文本输入到预设的集成分类器中进行分类，在集成分类器中设置有一个或一个以上的文本分类模型，可保证待分类文本得到最准确的所属类别。相对于现有技术，本发明首先采用预设词库进行匹配，若匹配失败，再采用集成分类器进行文本分类，因此采用本发明的提供的方法进行文本分类在保证有更高的准确性的情况下，可避免无法找到待分类文本类别的情况，明显降低了分类错误率。
第二实施例
请参阅图5，基于同一发明构思，本实施例中还提供了一种文本分类方法。所述方法的具体流程如下：
步骤S2001：接收待分类文本。
步骤S2002：将所述待分类文本作为输入数据输入到集成分类器中，以通过所述集成分类器对所述待分类文本进行分类。
步骤S2003：若分类失败，则将所述待分类文本输入到搜索引擎中，以通过所述搜索引擎对所述待分类文本进行搜索，获得搜索结果。
步骤S2004：基于所述搜索结果对所述输入数据进行调整，获得调整后的输入数据。
步骤S2005：将调整后的输入数据输入到所述集成分类器中，以通过所述集成分类器对所述待分类文本进行分类。
相较于第一实施例而言，本实施例中的步骤S2001实施时，可参照步骤 S10执行。在执行步骤S104时，将待分类文本输入到集成分类器之后，按照步骤S2002至步骤S2005执行，直至得到待分类文本的所属类别。
在步骤S2002中，所述的集成分类器用于对待分类文本进行分类，集成分类器中设置有T个文本分类模型，T为正整数。集成分类器中的文本分类模型的数量不作限定，可大于等于两个。在较优选的实施方式中，文本分类模型的数量取奇数个，例如为3个、5个等。每个文本分类模型的结构互不相同，具体可包括：基于SVM(Support Vector Machine，支持向量机)的文本分类模型； fastText模型(Facebook AI Reserch开源的一个词向量及文本分类工具)；基于深度学习的文本分类模型等，如第一实施例中所述。文本分类模型可直接采用现有的常用模型进行训练获得。
本实施例中的集成分类器在对待分类文本进行分类的时候，可包括如下步骤：
1、接收所述输入数据。其中，输入数据可以是待分类文本，也可以是基于搜索结果调整后的输入数据。
2、基于所述输入数据，通过所述T个文本分类模型分别对所述待分类文本进行分类，获得T个模型分类结果。其中，所述T个模型分类结果与所述T 个文本分类模型一一对应，且在每个模型分类结果中都包含一表征所述待分类文本所属类别的类别信息；即集成分类器接收待分类文本输入之后，每个文本分类模型均可对应得到一个模型结果，模型结果为文本分类模型的输出数据。
3、根据所述T个模型分类结果，获取目标分类结果。其中，需要对多个模型分类结果进行综合判断，来确定目标分类结果，目标分类结果可分为两种情况：1、表征分类成功的第一目标分类结果；2、表征分类失败的第二目标分类结果。具体的：
首先进行分组：根据所述T个模型分类结果各自对应的类别信息的不同，将所述T个模型分类结果分为R组，即每一种包含相同类别信息的模型分类结果分为一组。其中，同一组中的模型分类结果对应的类别信息均相同，R为正整数。
然后，如何确定目标分类结果本实施例中提供两种实现方式：
1、可预先对集成分类器中的每个文本分类模型(T个)赋予一个权重值，在R个组中，每个组中的各个模型分类结果均对应一个文本分类模型的权重值；对每个组中所有的模型分类结果进行加权求和。最终根据加权求和值的大小来确定分类结果。例如：加权求和值超过某一预设数值的组作为目标组，例如，预设数值为50％、60％、70％等。
若存在这样的目标组，则说明分类成功，得到表征分类成功的第一目标分类结果，将所述目标组中模型分类结果所包含的类别信息作为待分类文本的所属类别。若不存在这样的目标组，则说明分类失败，得到表征分类失败的第二目标分类结果。
2、查询在R个组中是否存在一目标组，该目标组中的所述模型分类结果的数量符合预设分类条件。若存在这样的目标组，则获得表征分类成功的第一目标分类结果，所述第一目标分类结果中包含所述待分类文本的类别信息。将所述目标组中模型分类结果所包含的类别信息作为待分类文本的所属类别。若不存在这样的目标组，则说明分类失败，得到表征分类失败的第二目标分类结果。其中预设分类条件可为：目标组中的所述模型分类结果的数量在R个组中为最大；目标组中的所述模型分类结果的数量在R个组中为最大并且唯一；目标组中的所述模型分类结果的数量超过设置数值(如2、3、4等)。
举个例子：
以预设分类条件“目标组中的所述模型分类结果的数量在R个组中为最大并且唯一”为例。
若对待分类文本A(与后文待分类文本B做区分)作为输入数据输入到集成分类器中，集成分类器中存在3个文本分类模型。第一文本分类模型输出的模型分类结果为x(与模型分类结果y、z做区分)，第二文本分类模型输出的模型分类结果为y，第三文本分类模型输出的结果为z；因此模型分类结果可分为3组，每一组的模型分类结果数量为1，不存在满足预设分类条件的目标组。因此，得到表征分类失败的分类结果。
若对待分类文本B作为输入数据输入到集成分类器中，集成分类器中存在 3个文本分类模型。第一文本分类模型输出的模型分类结果为x，第二文本分类模型输出的模型分类结果为x，第三文本分类模型输出的结果为z；因此模型分类结果可分为2组，第一组(模型分类结果为x)的模型分类结果数量为 2，第二组(模型分类结果为z)的模型分类结果数量为1，存在满足预设分类条件的目标组(即第一组)。因此，可得到表征分类成功的分类结果。
在步骤S2002之后，总得来说在分类结果表征分类成功时，可基于所述输入到集成分类器输出的第一目标分类结果确定所述待分类文本所属的类别，其中，所述第一目标分类结果表征分类成功，且在所述第一目标分类结果中包含所述待分类文本的类别信息。
步骤S2003：若分类失败，则将所述待分类文本输入到搜索引擎中，以通过所述搜索引擎对所述待分类文本进行搜索，获得搜索结果。
步骤S2003中，所述的搜索引擎可采用先存的任一搜索引擎，例如：百度搜索、360搜索、谷歌搜索、必应搜索等等，不作限制。每条搜索结果中应当包含对应的标题、摘要，还可包含关键词。
步骤S2004：基于所述搜索结果对所述输入数据进行调整，获得调整后的输入数据；其中，可包含以下执行流程：
1、从所述搜索结果中提取出关键信息。其中，关键信息可以是搜索结果中提取出的标题信息和/或摘要信息。其中，在提取关键信息的时候可选择前N 个搜索结果，N为正整数，如取1、2、3、4等。然后，可直接将搜索结果的标题和/或摘要共同作为输入数据，输入集成分类器中，实现了对待分类文本的扩展和解释，提高了集成分类器的分类准确性。若预设个数的搜索结果中不包含待分类文本，还可将待分类文本与搜索结果的标题和/或摘要共同作为输入数据。
此外，也可提取各条搜索结果中的关键词，将关键词作为对待分类文本的补充和扩展。关键词可通过人工标定，也可随机提取，不作限制。
2、将所述关键信息补充到所述输入数据中，获得调整后的输入数据；或将所述关键信息作为调整后的输入数据。其中，对于同一个待分类文本，在根据所述搜索结果对所述输入数据进行调整时，均应当将上一次调整时所采用的相同搜索结果或相同关键词排出在外。
需要说明的是，在本实施例中，得到表征分类失败的第二分类结果时，步骤S2002至步骤S2005可循环执行，直至得到表征分类成功的分类结果时结束。
综上，在本实施例中，所述的文本分类的方法通过接收待分类文本，将所述待分类文本作为输入数据输入到集成分类器中进行分类，获得分类结果。其中，分类结果可表征待分类文本的分类成功与否。若所述分类结果表征分类失败，则将所述待分类文本输入到搜索引擎中进行搜索，获得搜索结果；在搜索引擎中进行搜索可获得更多与待分类文本相关联的文本信息，因此搜索结果可形成对待分类文本的扩展。然后，基于所述搜索结果对所述输入数据进行调整，获得调整后的输入数据；将调整后的输入数据输入到所述集成分类器中进行再次分类，可提高集成分类器对待分类文本的识别度，也进一步提高待分类文本的分类准确度。因此，本发明所述方法结合搜索引起对待分类文本进行二次分类，解决了现有技术在对一些语义较为复杂以及不常见的一些待分类文本识别率低，分类错误或不够准确的问题。
第三实施例
请参阅图6，基于同一发明构思，本实施例中提供一种文本分类的方法，图5示出了本实施例的方法流程图，下面将对本实施例中的个步骤进行详细阐述。具体步骤如下：
步骤S301：获取待分类文本。
步骤S302：从预设词库中选出与所述待分类文本相似的多个目标词条，其中，所述预设词库中存储有多个词条、以及每个词条所属的类别，所述目标词条属于所述多个词条。
步骤S303：根据所述预设词库，确定所述多个目标词条中的每个目标词条所属的类别。
步骤S304：根据所述多个目标词条中的每个目标词条所属的类别，确定目标类别，并将所述目标类别作为所述待分类文本所属的类别。
相对于第一实施例以及第二实施例而言，本实施例中步骤S301与步骤S10 相同。当第一实施例或第二实施例在预设词库中无法匹配到相同的目标词条时，即可执行步骤S302至步骤S304，实现待分类文本的模糊匹配。
在本实施例中可使用上述第一实施例中的任一词库作为预设词库进行步骤S302。
在步骤S302中，从预设词库中选出与所述待分类文本相似的多个目标词条，其实施的具体方式可为：
首先，依次计算所述待分类文本与所述预设词库中的每个词条的编辑距离。其中，编辑距离是针对二个字符串(例如，中文词、英文字)的差异程度的量化量测，量测方式是看至少需要多少次的处理才能将一个字符串变成另一个字符串。
然后，将所述预设词库中的所述编辑距离小于(亦可取等于)预设距离的词条确定为所述目标词条。其中，预设距离可自定义设置，例如为1、2、3等；预设距离也可通过步骤S304进行反馈调节，例如当步骤S304中获得的待分类文本所属的类别含有多个不够准确时，可适当降低预设距离。
在步骤S303中，根据所述预设词库，确定所述多个目标词条中的每个目标词条所属的类别。由于每个目标词条均在预设词库中选出，因此所述目标词条对应具有所属的类别。
在步骤S304中，根据所述多个目标词条中的每个目标词条所属的类别，确定目标类别，并将所述目标类别作为所述待分类文本所属的类别。该步骤中确定目标类别的具体实施可包括如下步骤：
根据所属的类别的不同，对所述多个目标词条进行分组，获得Q组词条，其中，位于同一组的目标词条所属的类别均相同，Q为正整数。
从所述Q组词条中选出词条数量最多的一组词条，并将该组词条所属的类别作为所述目标类别。
将上述确定的目标类别作为待分类文本所属的类别。在具体分类的过程中可直接采用临近分类算法(KNN，K-NearestNeighbor)进行具体实现。
需要说明的是：
若在Q组词条中存在词条数量最多的组为两个或多个时。本实施例中提供以下两种处理方式以替代步骤：从所述Q组词条中选出词条数量最多的一组词条，并将该组词条所属的类别作为所述目标类别。
替代步骤1、从所述Q组词条中选出词条数量最多或前S组的词条，并将选出的多组词条所属的类别作为所述目标类别，其中S为大于等于2的正整数。
替代步骤2、若Q组词条中存在多组词条数量相同并且最多时，反馈调整预设距离。可将所述预设距离进行降低或增加。直至得到目标类别为止。
为了在本实施例中，在实现模糊匹配的同时保证待分类文本的分类准确性，在步骤S302之前，还可进行如下步骤：
根据所述待分类文本，在所述预设词库中匹配与所述待分类文本对应的词条；其中，匹配具体方式为：根据所述待分类文本，在所述预设词库中查找与所述待分类文本相同的词条，即100％相同的匹配。
若匹配失败，则执行所述从预设词库中的选出与所述待分类文本相似的多个目标词条。
若匹配成功，则可直接将匹配成功的对应词条的所属类别作为待分类文本所属的类别。
为了对本实施例的方案更加易于理解，请参考以下示例:
执行步骤S301，获取的待分类文本为：百度下。
首先在预设词库中匹配是否存在与“百度下”相同的词条。若没有(匹配失败)，则可执行步骤S302，以预设距离2为例(即编辑距离小于等于2)。在预设词库中进行匹配，获得像似的目标词条如下：
表4
| 目标词条 | 所属类别 |
| 百度 | 搜索引擎 |
| 千百度 | 娱乐|音乐服务 |
| 百度云 | 储存服务|网盘资源 |
| 百度一下 | 搜索引擎 |
| 百度搜索 | 搜索引擎 |
在表4中的目标词条与所属类别均为示例性说明，不限制本发明的保护范围，在实际实施本发明的过程中可与表4中存在不同。
执行步骤S303可确定目标词条的所属类别。
然后，执行步骤S304，根据所属类别可对表4中的目标词条分为3个组，其中词条数量最多的一个组对应的类别为“搜索引擎”，词条数量为3。则可将待分类文本“百度下”所属的类别确定为“搜索引擎”。
本实施例提供的文本分类的方法中，在获取待分类文本后，从预设词库中选出与所述待分类文本相似的多个目标词条，实现模糊匹配。其中，所述预设词库中存储有多个词条、以及每个词条所属的类别，所述目标词条属于所述多个词条；通过该步骤即使待分类文本存在错误，也可提高在预设词库中查找到与所述待分类文本对应的目标词条的概率，避免了无法分类的情况发生。然后根据所述预设词库，确定所述多个目标词条中的每个目标词条所属的类别；最后根据所述多个目标词条中的每个目标词条所属的类别，确定目标类别，并将所述目标类别作为所述待分类文本所属的类别，其中待分类文本所属的类别是由多个目标词条中每个目标词条决定，而非单一的目标词条确定，因此待分类文本所属的类别的确定更加的准确。因此，本实施例解决了现有技术的错误文本纠正效果差，无法对待分类的文本进行正确的分类，分类准确度低的问题。
第四实施例
基于同一发明构思，本发明第二实施例提供了一种文本分类装置400。图7示出了本发明第二实施例提供的一种文本分类装置400的功能模块框图。所述装置包括：
接收模块401，用于接收待分类文本；
匹配模块402，用于根据所述待分类文本，在预设词库中匹配与所述待分类文本对应的目标词条，其中，所述预设词库中存储有多个词条，以及每个词条所属的类别；
第一结果处理模块403，用于若匹配成功，则将所述目标词条所属的类别确定为所述待分类文本所属的类别；
第二结果处理模块404，用于若匹配失败，则将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别，其中，所述集成分类器中设置有一个或一个以上的文本分类模型。
作为一种可选的实施例，所述匹配模块402，还具体用于：
根据所述待分类文本，按照预设顺序，依次在多个预设词库中匹配与所述待分类文本对应的目标词条，所述多个预设词库中所存储的词条不同。
作为一种可选的实施例，所述匹配模块402，还用于：
获取第一预设词库，所述第一预设词库中存储有M个词条，以及所述M 个词条中每个词条所属的类别，所述M个词条中每个词条所属的类别均由人工方式标记，M为正整数；根据所述待分类文本，在第一预设词库中匹配与所述待分类文本对应的第一词条；若匹配成功，则将所述第一词条确定为所述目标词条。
作为一种可选的实施例，所述匹配模块402还用于：
在根据所述待分类文本，在第一预设词库中匹配与所述待分类文本对应的第一词条之后；若匹配失败，则获取第二预设词库，所述第二预设词库中存储有N个词条，以及所述N个词条中每个词条所属的类别，所述第二预设词库由预设行业词库网站提供，N为正整数；根据所述待分类文本，在第二预设词库中匹配与所述待分类文本对应的第二词条；若匹配成功，则将所述第二词条确定为所述目标词条。
作为一种可选的实施例，所述匹配模块402还用于：
在根据所述待分类文本，在第二预设词库中匹配与所述待分类文本对应的第二词条之后；若匹配失败，则获取第三预设词库，所述第三预设词库中存储有P个词条，以及所述P个词条中每个词条所属的类别，所述第三预设词库由规则引擎提供，P为正整数；根据所述待分类文本，在第三预设词库中匹配与所述待分类文本对应的第三词条；若匹配成功，则将所述第三词条确定为所述目标词条；若匹配失败，则通过第二结果处理模块404执行所述将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别。
作为一种可选的实施例，所述文本分类模型是由所述第一预设词库训练获得。
作为一种可选的实施例，所述集成分类器中的文本分类模型数量大于2，每个所述文本分类模型的结构均不相同。
作为一种可选的实施例，所述匹配模块402，具体用于：
在所述预设词库中匹配所述目标词条时，匹配的方式为查找预设词库中是否存储有与所述待分类文本相同的词条。
需要说明的是，本发明实施例所提供的文本分类装置400，其具体实现及产生的技术效果和前述方法实施例相同，为简要描述，装置实施例部分未提及之处，可参考前述方法实施例中相应内容。
第五实施例
另外，基于同一发明构思，本发明第三实施例还提供了一种用户终端，包括处理器和存储器，所述存储器耦接到所述处理器，所述存储器存储指令，当所述指令由所述处理器执行时使所述用户终端执行以下操作：
接收待分类文本；根据所述待分类文本，在预设词库中匹配与所述待分类文本对应的目标词条，其中，所述预设词库中存储有多个词条，以及每个词条所属的类别；若匹配成功，则将所述目标词条所属的类别确定为所述待分类文本所属的类别；若匹配失败，则将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别，其中，所述集成分类器中设置有一个或一个以上的文本分类模型。
需要说明的是，本发明实施例所提供的用户终端中，上述每个步骤的具体实现及产生的技术效果和前述方法实施例相同，为简要描述，本实施例未提及之处可参考前述方法实施例中相应内容。
于本发明实施例中，用户终端中安装有操作系统以及第三方应用程序。用户终端可以为平板电脑、手机、笔记本电脑、PC(personal computer，个人计算机)、可穿戴设备、车载终端等用户终端设备。
图8示出了一种示例性用户终端500的模块框图。如图8所示，用户终端 500包括存储器502、存储控制器504，一个或多个(图中仅示出一个)处理器 506、外设接口508、网络模块510、输入输出模块512、显示模块514等。这些组件通过一条或多条通讯总线/信号线516相互通讯。
存储器502可用于存储软件程序以及模块，如本发明实施例中的文本分类方法以及装置对应的程序指令/模块，处理器506通过运行存储在存储器502 内的软件程序以及模块，从而执行各种功能应用以及数据处理，如本发明实施例提供的文本分类方法。
存储器502可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。处理器506以及其他可能的组件对存储器502的访问可在存储控制器504的控制下进行。
外设接口508将各种输入/输出装置耦合至处理器506以及存储器502。在一些实施例中，外设接口508，处理器506以及存储控制器504可以在单个芯片中实现。在其他一些实例中，他们可以分别由独立的芯片实现。
网络模块510用于接收以及发送网络信号。上述网络信号可包括无线信号或者有线信号。
输入输出模块512用于提供给用户输入数据实现用户与用户终端的交互。所述输入输出模块512可以是，但不限于，鼠标、键盘和触控屏幕等。
显示模块514在用户终端500与用户之间提供一个交互界面(例如用户操作界面)或用于显示图像数据给用户参考。在本实施例中，所述显示模块514 可以是液晶显示器或触控显示器。若为触控显示器，其可为支持单点和多点触控操作的电容式触控屏或电阻式触控屏等。支持单点和多点触控操作是指触控显示器能感应到来自该触控显示器上一个或多个位置处同时产生的触控操作，并将该感应到的触控操作交由处理器进行计算和处理。
可以理解，图8所示的结构仅为示意，用户终端500还可包括比图8中所示更多或者更少的组件，或者具有与图8所示不同的配置。图8中所示的各组件可以采用硬件、软件或其组合实现。
第六实施例
本发明第六实施例提供了一种计算机存储介质，本发明第二实施例中的文本分类装置集成的功能模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述第一实施例的文本分类方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、 U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外，本领域的技术人员能够理解，尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的文本分类装置、用户终端中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
本发明公开了，A1一种文本分类方法，其特征在于，所述方法包括：
接收待分类文本；
根据所述待分类文本，在预设词库中匹配与所述待分类文本对应的目标词条，其中，所述预设词库中存储有多个词条，以及每个词条所属的类别；
若匹配成功，则将所述目标词条所属的类别确定为所述待分类文本所属的类别；
若匹配失败，则将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别，其中，所述集成分类器中设置有一个或一个以上的文本分类模型。
A2、根据A1所述的方法，其特征在于，所述根据所述待分类文本，在预设词库中匹配与所述待分类文本对应的目标词条，包括：
根据所述待分类文本，按照预设顺序，依次在多个预设词库中匹配与所述待分类文本对应的目标词条，所述多个预设词库中所存储的词条不同。
A3、根据A2所述的方法，其特征在于，所述根据所述待分类文本，按照预设顺序，依次在多个预设词库中匹配与所述待分类文本对应的目标词条，包括：
获取第一预设词库，所述第一预设词库中存储有M个词条，以及所述M 个词条中每个词条所属的类别，所述M个词条中每个词条所属的类别均由人工方式标记，M为正整数；
根据所述待分类文本，在第一预设词库中匹配与所述待分类文本对应的第一词条；
若匹配成功，则将所述第一词条确定为所述目标词条。
A4、根据A3所述的方法，其特征在于，所述根据所述待分类文本，在第一预设词库中匹配与所述待分类文本对应的第一词条之后，还包括：
若匹配失败，则获取第二预设词库，所述第二预设词库中存储有N个词条，以及所述N个词条中每个词条所属的类别，所述第二预设词库由预设行业词库网站提供，N为正整数；
根据所述待分类文本，在第二预设词库中匹配与所述待分类文本对应的第二词条；
若匹配成功，则将所述第二词条确定为所述目标词条。
A5、根据A4所述的方法，其特征在于，所述根据所述待分类文本，在第二预设词库中匹配与所述待分类文本对应的第二词条之后，还包括：
若匹配失败，则获取第三预设词库，所述第三预设词库中存储有P个词条，以及所述P个词条中每个词条所属的类别，所述第三预设词库由规则引擎提供， P为正整数；
根据所述待分类文本，在第三预设词库中匹配与所述待分类文本对应的第三词条；
若匹配成功，则将所述第三词条确定为所述目标词条；
若匹配失败，则执行所述将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别。
A6、根据A3所述的方法，其特征在于，所述文本分类模型是由所述第一预设词库训练获得。
A7、根据A1所述的方法，其特征在于，所述集成分类器中的文本分类模型数量大于2，每个所述文本分类模型的结构均不相同。
A8、根据A1-A7中任一所述的方法，其特征在于，在所述预设词库中匹配所述目标词条时，匹配的方式为查找预设词库中是否存储有与所述待分类文本相同的词条。
B9、一种文本分类装置，其特征在于，包括：
接收模块，用于接收待分类文本；
匹配模块，用于根据所述待分类文本，在预设词库中匹配与所述待分类文本对应的目标词条，其中，所述预设词库中存储有多个词条，以及每个词条所属的类别；
第一结果处理模块，用于若匹配成功，则将所述目标词条所属的类别确定为所述待分类文本所属的类别；
第二结果处理模块，用于若匹配失败，则将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别，其中，所述集成分类器中设置有一个或一个以上的文本分类模型。
B10、根据B9所述的装置，其特征在于，所述匹配模块，还具体用于：
根据所述待分类文本，按照预设顺序，依次在多个预设词库中匹配与所述待分类文本对应的目标词条，所述多个预设词库中所存储的词条不同。
B11、根据B10所述的装置，其特征在于，所述匹配模块还用于:
获取第一预设词库，所述第一预设词库中存储有M个词条，以及所述M 个词条中每个词条所属的类别，所述M个词条中每个词条所属的类别均由人工方式标记，M为正整数；根据所述待分类文本，在第一预设词库中匹配与所述待分类文本对应的第一词条；若匹配成功，则将所述第一词条确定为所述目标词条。
B12、根据B11所述的装置，其特征在于，所述匹配模块还用于：
在所述根据所述待分类文本，在第一预设词库中匹配与所述待分类文本对应的第一词条之后；若匹配失败，则获取第二预设词库，所述第二预设词库中存储有N个词条，以及所述N个词条中每个词条所属的类别，所述第二预设词库由预设行业词库网站提供，N为正整数；根据所述待分类文本，在第二预设词库中匹配与所述待分类文本对应的第二词条；若匹配成功，则将所述第二词条确定为所述目标词条。
B13、根据B12所述的装置，其特征在于，所述匹配模块还用于：
在所述根据所述待分类文本，在第二预设词库中匹配与所述待分类文本对应的第二词条之后；若匹配失败，则获取第三预设词库，所述第三预设词库中存储有P个词条，以及所述P个词条中每个词条所属的类别，所述第三预设词库由规则引擎提供，P为正整数；根据所述待分类文本，在第三预设词库中匹配与所述待分类文本对应的第三词条；若匹配成功，则将所述第三词条确定为所述目标词条；若匹配失败，则通过所述第二结果处理模块执行所述将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别。
B14、根据B11所述的装置，其特征在于，所述文本分类模型是由所述第一预设词库训练获得。
B15、根据B9所述的装置，其特征在于，所述集成分类器中的文本分类模型数量大于2，每个所述文本分类模型的结构均不相同。
B16、根据B9-B15中任一所述的装置，其特征在于，所述匹配模块，具体用于：
在所述预设词库中匹配所述目标词条时，匹配的方式为查找预设词库中是否存储有与所述待分类文本相同的词条。
C17、一种用户终端，其特征在于，包括处理器和存储器，所述存储器耦接到所述处理器，所述存储器存储指令，当所述指令由所述处理器执行时使所述用户终端执行A1-A8中任一项所述方法的步骤。
D18、一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现A1-A8中任一项所述方法的步骤。
Claims (10)
1.一种文本分类方法，其特征在于，所述方法包括：
接收待分类文本；
根据所述待分类文本，在预设词库中匹配与所述待分类文本对应的目标词条，其中，所述预设词库中存储有多个词条，以及每个词条所属的类别；
若匹配成功，则将所述目标词条所属的类别确定为所述待分类文本所属的类别；
若匹配失败，则将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别，其中，所述集成分类器中设置有一个或一个以上的文本分类模型。
2.根据权利要求1所述的方法，其特征在于，所述根据所述待分类文本，在预设词库中匹配与所述待分类文本对应的目标词条，包括：
根据所述待分类文本，按照预设顺序，依次在多个预设词库中匹配与所述待分类文本对应的目标词条，所述多个预设词库中所存储的词条不同。
3.根据权利要求2所述的方法，其特征在于，所述根据所述待分类文本，按照预设顺序，依次在多个预设词库中匹配与所述待分类文本对应的目标词条，包括：
获取第一预设词库，所述第一预设词库中存储有M个词条，以及所述M个词条中每个词条所属的类别，所述M个词条中每个词条所属的类别均由人工方式标记，M为正整数；
根据所述待分类文本，在第一预设词库中匹配与所述待分类文本对应的第一词条；
若匹配成功，则将所述第一词条确定为所述目标词条。
4.根据权利要求3所述的方法，其特征在于，所述根据所述待分类文本，在第一预设词库中匹配与所述待分类文本对应的第一词条之后，还包括：
若匹配失败，则获取第二预设词库，所述第二预设词库中存储有N个词条，以及所述N个词条中每个词条所属的类别，所述第二预设词库由预设行业词库网站提供，N为正整数；
根据所述待分类文本，在第二预设词库中匹配与所述待分类文本对应的第二词条；
若匹配成功，则将所述第二词条确定为所述目标词条。
5.根据权利要求4所述的方法，其特征在于，所述根据所述待分类文本，在第二预设词库中匹配与所述待分类文本对应的第二词条之后，还包括：
若匹配失败，则获取第三预设词库，所述第三预设词库中存储有P个词条，以及所述P个词条中每个词条所属的类别，所述第三预设词库由规则引擎提供，P为正整数；
根据所述待分类文本，在第三预设词库中匹配与所述待分类文本对应的第三词条；
若匹配成功，则将所述第三词条确定为所述目标词条；
若匹配失败，则执行所述将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别。
6.根据权利要求3所述的方法，其特征在于，所述文本分类模型是由所述第一预设词库训练获得。
7.根据权利要求1所述的方法，其特征在于，所述集成分类器中的文本分类模型数量大于2，每个所述文本分类模型的结构均不相同。
8.一种文本分类装置，其特征在于，包括：
接收模块，用于接收待分类文本；
匹配模块，用于根据所述待分类文本，在预设词库中匹配与所述待分类文本对应的目标词条，其中，所述预设词库中存储有多个词条，以及每个词条所属的类别；
第一结果处理模块，用于若匹配成功，则将所述目标词条所属的类别确定为所述待分类文本所属的类别；
第二结果处理模块，用于若匹配失败，则将所述待分类文本输入到集成分类器中，获得所述待分类文本的所属类别，其中，所述集成分类器中设置有一个或一个以上的文本分类模型。
9.一种用户终端，其特征在于，包括处理器和存储器，所述存储器耦接到所述处理器，所述存储器存储指令，当所述指令由所述处理器执行时使所述用户终端执行权利要求1-7中任一项所述方法的步骤。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现权利要求1-7中任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811368724.6A CN109684627A (zh) | 2018-11-16 | 2018-11-16 | 一种文本分类方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811368724.6A CN109684627A (zh) | 2018-11-16 | 2018-11-16 | 一种文本分类方法及装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN109684627A true CN109684627A (zh) | 2019-04-26 |
Family
ID=66184769
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811368724.6A Pending CN109684627A (zh) | 2018-11-16 | 2018-11-16 | 一种文本分类方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109684627A (zh) |
Cited By (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110110062A (zh) * | 2019-04-30 | 2019-08-09 | 贝壳技术有限公司 | 机器智能问答方法、装置与电子设备 |
| CN111324735A (zh) * | 2020-02-20 | 2020-06-23 | 湖南芒果听见科技有限公司 | 一种时政要闻自动分类方法及其终端 |
| CN111460149A (zh) * | 2020-03-27 | 2020-07-28 | 科大讯飞股份有限公司 | 文本分类方法、相关设备及可读存储介质 |
| CN111680158A (zh) * | 2020-06-10 | 2020-09-18 | 创新奇智(青岛)科技有限公司 | 开放领域的短文本分类方法、装置、设备及存储介质 |
| CN111985901A (zh) * | 2020-08-24 | 2020-11-24 | 北京思特奇信息技术股份有限公司 | 一种电信行业的营销产品配置方法、装置、设备和存储介质 |
| CN112069288A (zh) * | 2019-05-23 | 2020-12-11 | 中国移动通信集团河南有限公司 | 数据的处理方法、装置和电子设备 |
| CN112749530A (zh) * | 2021-01-11 | 2021-05-04 | 北京光速斑马数据科技有限公司 | 文本编码方法、装置、设备及计算机可读存储介质 |
| CN112925903A (zh) * | 2019-12-06 | 2021-06-08 | 农业农村部信息中心 | 文本分类的方法、装置、电子设备及介质 |
| CN113139141A (zh) * | 2021-04-22 | 2021-07-20 | 康键信息技术（深圳）有限公司 | 用户标签扩展标注方法、装置、设备及存储介质 |
| CN114358420A (zh) * | 2022-01-04 | 2022-04-15 | 苏州博士创新技术转移有限公司 | 基于产业生态的业务工作流程智能优化方法及系统 |
| CN115757798A (zh) * | 2022-11-29 | 2023-03-07 | 广发银行股份有限公司 | 客户反馈实时分类方法、系统、计算机设备和存储介质 |
| CN116010600A (zh) * | 2023-01-09 | 2023-04-25 | 北京天融信网络安全技术有限公司 | 日志分类方法、装置、设备及介质 |
Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US4862408A (en) * | 1987-03-20 | 1989-08-29 | International Business Machines Corporation | Paradigm-based morphological text analysis for natural languages |
| US5371807A (en) * | 1992-03-20 | 1994-12-06 | Digital Equipment Corporation | Method and apparatus for text classification |
| CN102541958A (zh) * | 2010-12-30 | 2012-07-04 | 百度在线网络技术（北京）有限公司 | 一种用于识别短文本类别信息的方法、装置和计算机设备 |
| US20150199609A1 (en) * | 2013-12-20 | 2015-07-16 | Xurmo Technologies Pvt. Ltd | Self-learning system for determining the sentiment conveyed by an input text |
| CN105791543A (zh) * | 2016-02-23 | 2016-07-20 | 北京奇虎科技有限公司 | 一种清理短信的方法、装置、客户端和系统 |
| WO2018045910A1 (zh) * | 2016-09-09 | 2018-03-15 | 阿里巴巴集团控股有限公司 | 情感倾向的识别方法、对象分类方法及数据处理系统 |
| CN108021605A (zh) * | 2017-10-30 | 2018-05-11 | 北京奇艺世纪科技有限公司 | 一种关键词分类方法和装置 |
| CN108228758A (zh) * | 2017-12-22 | 2018-06-29 | 北京奇艺世纪科技有限公司 | 一种文本分类方法及装置 |
| CN108241702A (zh) * | 2016-12-26 | 2018-07-03 | 北京国双科技有限公司 | 文本的分类方法及装置 |
| CN108256090A (zh) * | 2018-01-25 | 2018-07-06 | 成都贝发信息技术有限公司 | App基于关键词自动划分类别的方法 |
| CN108536815A (zh) * | 2018-04-08 | 2018-09-14 | 北京奇艺世纪科技有限公司 | 一种文本分类方法及装置 |
-
2018
- 2018-11-16 CN CN201811368724.6A patent/CN109684627A/zh active Pending
Patent Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US4862408A (en) * | 1987-03-20 | 1989-08-29 | International Business Machines Corporation | Paradigm-based morphological text analysis for natural languages |
| US5371807A (en) * | 1992-03-20 | 1994-12-06 | Digital Equipment Corporation | Method and apparatus for text classification |
| CN102541958A (zh) * | 2010-12-30 | 2012-07-04 | 百度在线网络技术（北京）有限公司 | 一种用于识别短文本类别信息的方法、装置和计算机设备 |
| US20150199609A1 (en) * | 2013-12-20 | 2015-07-16 | Xurmo Technologies Pvt. Ltd | Self-learning system for determining the sentiment conveyed by an input text |
| CN105791543A (zh) * | 2016-02-23 | 2016-07-20 | 北京奇虎科技有限公司 | 一种清理短信的方法、装置、客户端和系统 |
| WO2018045910A1 (zh) * | 2016-09-09 | 2018-03-15 | 阿里巴巴集团控股有限公司 | 情感倾向的识别方法、对象分类方法及数据处理系统 |
| CN108241702A (zh) * | 2016-12-26 | 2018-07-03 | 北京国双科技有限公司 | 文本的分类方法及装置 |
| CN108021605A (zh) * | 2017-10-30 | 2018-05-11 | 北京奇艺世纪科技有限公司 | 一种关键词分类方法和装置 |
| CN108228758A (zh) * | 2017-12-22 | 2018-06-29 | 北京奇艺世纪科技有限公司 | 一种文本分类方法及装置 |
| CN108256090A (zh) * | 2018-01-25 | 2018-07-06 | 成都贝发信息技术有限公司 | App基于关键词自动划分类别的方法 |
| CN108536815A (zh) * | 2018-04-08 | 2018-09-14 | 北京奇艺世纪科技有限公司 | 一种文本分类方法及装置 |
Non-Patent Citations (2)
| Title |
|---|
| 周超: "基于深度学习混合模型的文本分类研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》, no. 11, pages 138 - 447 * |
| 杨雨诗等: "基于词库的网络文本分类及预测", 《计算机与现代化》, no. 10, pages 72 - 75 * |
Cited By (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110110062B (zh) * | 2019-04-30 | 2020-08-11 | 贝壳找房(北京)科技有限公司 | 机器智能问答方法、装置与电子设备 |
| CN110110062A (zh) * | 2019-04-30 | 2019-08-09 | 贝壳技术有限公司 | 机器智能问答方法、装置与电子设备 |
| CN112069288A (zh) * | 2019-05-23 | 2020-12-11 | 中国移动通信集团河南有限公司 | 数据的处理方法、装置和电子设备 |
| CN112925903A (zh) * | 2019-12-06 | 2021-06-08 | 农业农村部信息中心 | 文本分类的方法、装置、电子设备及介质 |
| CN112925903B (zh) * | 2019-12-06 | 2024-03-29 | 农业农村部信息中心 | 文本分类的方法、装置、电子设备及介质 |
| CN111324735A (zh) * | 2020-02-20 | 2020-06-23 | 湖南芒果听见科技有限公司 | 一种时政要闻自动分类方法及其终端 |
| CN111460149A (zh) * | 2020-03-27 | 2020-07-28 | 科大讯飞股份有限公司 | 文本分类方法、相关设备及可读存储介质 |
| CN111460149B (zh) * | 2020-03-27 | 2023-07-25 | 科大讯飞股份有限公司 | 文本分类方法、相关设备及可读存储介质 |
| CN111680158A (zh) * | 2020-06-10 | 2020-09-18 | 创新奇智(青岛)科技有限公司 | 开放领域的短文本分类方法、装置、设备及存储介质 |
| CN111985901B (zh) * | 2020-08-24 | 2024-02-02 | 北京思特奇信息技术股份有限公司 | 一种电信行业的营销产品配置方法、装置、设备和存储介质 |
| CN111985901A (zh) * | 2020-08-24 | 2020-11-24 | 北京思特奇信息技术股份有限公司 | 一种电信行业的营销产品配置方法、装置、设备和存储介质 |
| CN112749530A (zh) * | 2021-01-11 | 2021-05-04 | 北京光速斑马数据科技有限公司 | 文本编码方法、装置、设备及计算机可读存储介质 |
| CN112749530B (zh) * | 2021-01-11 | 2023-12-19 | 北京光速斑马数据科技有限公司 | 文本编码方法、装置、设备及计算机可读存储介质 |
| CN113139141A (zh) * | 2021-04-22 | 2021-07-20 | 康键信息技术（深圳）有限公司 | 用户标签扩展标注方法、装置、设备及存储介质 |
| CN113139141B (zh) * | 2021-04-22 | 2023-10-31 | 康键信息技术（深圳）有限公司 | 用户标签扩展标注方法、装置、设备及存储介质 |
| CN114358420A (zh) * | 2022-01-04 | 2022-04-15 | 苏州博士创新技术转移有限公司 | 基于产业生态的业务工作流程智能优化方法及系统 |
| CN115757798A (zh) * | 2022-11-29 | 2023-03-07 | 广发银行股份有限公司 | 客户反馈实时分类方法、系统、计算机设备和存储介质 |
| CN116010600A (zh) * | 2023-01-09 | 2023-04-25 | 北京天融信网络安全技术有限公司 | 日志分类方法、装置、设备及介质 |
| CN116010600B (zh) * | 2023-01-09 | 2023-09-26 | 北京天融信网络安全技术有限公司 | 日志分类方法、装置、设备及介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109684627A (zh) | 一种文本分类方法及装置 | |
| AU2018383346B2 (en) | Domain-specific natural language understanding of customer intent in self-help | |
| US11030199B2 (en) | Systems and methods for contextual retrieval and contextual display of records | |
| CN108629687B (zh) | 一种反洗钱方法、装置及设备 | |
| CN112632385A (zh) | 课程推荐方法、装置、计算机设备及介质 | |
| CN103778205B (zh) | 一种基于互信息的商品分类方法和系统 | |
| CN111767716B (zh) | 企业多级行业信息的确定方法、装置及计算机设备 | |
| CN109766438A (zh) | 简历信息提取方法、装置、计算机设备和存储介质 | |
| CN109213868A (zh) | 基于卷积注意力机制网络的实体级别情感分类方法 | |
| CN109299245B (zh) | 知识点召回的方法和装置 | |
| CN109582792A (zh) | 一种文本分类的方法及装置 | |
| CN109800307A (zh) | 产品评价的分析方法、装置、计算机设备及存储介质 | |
| CN112069321A (zh) | 用于文本层级分类的方法、电子设备和存储介质 | |
| US11734322B2 (en) | Enhanced intent matching using keyword-based word mover's distance | |
| CN110597978A (zh) | 物品摘要生成方法、系统、电子设备及可读存储介质 | |
| CN112818218A (zh) | 信息推荐方法、装置、终端设备及计算机可读存储介质 | |
| CN110647504B (zh) | 司法文书的检索方法及装置 | |
| CN107515904A (zh) | 一种职位搜索方法和计算设备 | |
| CN110347806A (zh) | 原创文本甄别方法、装置、设备与计算机可读存储介质 | |
| CN114037545A (zh) | 客户推荐方法、装置、设备及存储介质 | |
| CN109684467A (zh) | 一种文本的分类方法及装置 | |
| CN114742062B (zh) | 文本关键词提取处理方法及系统 | |
| Venigalla et al. | SOTagger-Towards Classifying Stack Overflow Posts through Contextual Tagging (S). | |
| CN108733702B (zh) | 用户查询上下位关系提取的方法、装置、电子设备和介质 | |
| Arora et al. | Evaluation Of Product Reviews Using Deep Learning Classifier Models |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |