CN110674297B - 舆情文本分类模型构建和舆情文本分类方法、装置及设备 - Google Patents
舆情文本分类模型构建和舆情文本分类方法、装置及设备 Download PDFInfo
- Publication number
- CN110674297B CN110674297B CN201910902658.4A CN201910902658A CN110674297B CN 110674297 B CN110674297 B CN 110674297B CN 201910902658 A CN201910902658 A CN 201910902658A CN 110674297 B CN110674297 B CN 110674297B
- Authority
- CN
- China
- Prior art keywords
- public opinion
- feature
- classification
- feature extraction
- opinion text
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013145 classification model Methods 0.000 title claims abstract description 328
- 238000010276 construction Methods 0.000 title claims abstract description 19
- 238000000605 extraction Methods 0.000 claims abstract description 308
- 238000012549 training Methods 0.000 claims abstract description 281
- 238000000034 method Methods 0.000 claims abstract description 66
- 230000011218 segmentation Effects 0.000 claims description 21
- 238000012545 processing Methods 0.000 claims description 17
- 239000013598 vector Substances 0.000 claims description 17
- 238000003066 decision tree Methods 0.000 claims description 14
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 17
- 230000006872 improvement Effects 0.000 description 11
- 230000008569 process Effects 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 238000004590 computer program Methods 0.000 description 7
- 239000000284 extract Substances 0.000 description 5
- 230000014509 gene expression Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000012216 screening Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000018109 developmental process Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000008451 emotion Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000007500 overflow downdraw method Methods 0.000 description 1
- 229920001296 polysiloxane Polymers 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/355—Class or cluster creation or modification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/24323—Tree-organised classifiers
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Databases & Information Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本说明书实施例公开了一种舆情文本分类模型构建和舆情文本的分类方法、装置及设备。方案包括:获取待分类的舆情文本;采用不同的特征提取方式对待分类的舆情文本进行特征提取,得到待分类的舆情文本的多个不同的特征信息;将待分类的舆情文本的多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练任意一个分类模型时的特征提取方式是相同的;将待分类的舆情文本的多个不同的特征信息与待分类的舆情文本的多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到待分类的舆情文本的分类结果,舆情文本分类模型是基于所述多个分类模型得到的。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种舆情文本分类模型构建和舆情文本的分类方法、装置及设备。
背景技术
现有技术中,舆论情况(简称“舆情”),是指在一定的社会空间内,围绕中介性社会事件的发生、发展和变化,作为主体的民众对作为客体的社会管理者、企业、个人及其他各类组织及其政治、社会、道德等方面的取向产生和持有的社会态度。它是较多群众关于社会中各种现象、问题所表达的信念、态度、意见和情绪等等表现的总和。
面对庞大的网络新闻等舆情消息,用户需要从中筛选、挖掘出真正有用的舆情消息,如公司需要筛选出针对本公司的负面舆情信息,此时就需要对舆情信息进行分类。但是在对舆情信息进行分类时,传统模型融合方法大多采用单一的基分类器提取相同的特征,分类结果准确度低,往往不能满足用户的要求。
发明内容
有鉴于此,本申请实施例提供了一种舆情文本分类模型构建和舆情文本的分类方法、装置及设备,用于提高舆情文本的分类精度。
为解决上述技术问题,本说明书实施例是这样实现的:
本说明书实施例提供的一种舆情文本分类模型构建方法,包括:
获取训练样本集合,所述训练集合中包括多个舆情文本,每个舆情文本具有对应的标签;
将所述训练样本集合拆分成第一训练分集合和第二训练分集合;
采用不同的特征提取方式对所述第一训练分集合中的舆情文本进行特征提取,得到多个样本特征集合;一个所述样本特征集合中的所有特征是采用同一特征提取方式得到的;
对每个所述样本特征集合进行分类训练,得到多个分类模型,其中,一个所述分类模型对应一个所述样本特征集合;
采用所述不同的特征提取方式对所述第二训练分集合中的舆情文本进行特征提取,得到所述第二训练分集合中各舆情文本对应的多个不同的特征信息;
将所述第二训练分集合中各舆情文本对应的多个不同的特征信息分别输入所述多个分类模型,得到所述第二训练分集合中各舆情文本对应的每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
对所述第二训练分集合各舆情文本对应的多个不同的特征信息与所述多个不同的特征信息对应的每个分类模型的输出结果进行训练,得到舆情文本分类模型。
本说明书实施例提供的一种舆情文本的分类方法,包括:
获取待分类的舆情文本;
采用不同的特征提取方式对所述待分类的舆情文本进行特征提取,得到所述待分类的舆情文本的多个不同的特征信息;
将所述待分类的舆情文本的多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
将所述待分类的舆情文本的多个不同的特征信息与所述待分类的舆情文本的多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的。
本说明书实施例提供的一种舆情文本分类模型构建装置,包括:
训练样本集合获取模块,用于在所述采用不同的特征提取方式对所述待分类的舆情文本进行特征提取之前,获取训练样本集合,所述训练集合中包括多个舆情文本,每个舆情文本具有对应的标签;
训练样本集合拆分模块,用于将所述训练样本集合拆分成第一训练分集合和第二训练分集合;
样本特征集合确定模块,用于采用不同的特征提取方式对所述第一训练分集合中的舆情文本进行特征提取,得到多个样本特征集合;一个所述样本特征集合中的所有特征是采用同一特征提取方式得到的;
多个分类模型确定模块,用于对每个所述样本特征集合进行分类训练,得到多个分类模型,其中,一个所述分类模型对应一个所述样本特征集合;
第一特征信息获取模块,用于采用所述不同的特征提取方式对所述第二训练分集合中的舆情文本进行特征提取,得到所述第二训练分集合中各舆情文本对应的多个不同的特征信息;
第一输出结果确定模块,用于将所述第二训练分集合中各舆情文本对应的多个不同的特征信息分别输入所述多个分类模型,得到所述第二训练分集合中各舆情文本对应的每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
舆情文本分类模型训练模块,用于对所述第二训练分集合中各舆情文本对应的多个不同的特征信息与所述多个不同的特征信息对应的每个分类模型的输出结果进行训练,得到舆情文本分类模型。
本说明书实施例提供的一种舆情文本的分类装置,包括:
待分类的舆情文本获取模块,用于获取待分类的舆情文本;
不同的特征信息提取模块,用于采用不同的特征提取方式对所述待分类的舆情文本进行特征提取,得到所述待分类的舆情文本的多个不同的特征信息;
分类模型的输出结果确定模块,用于将所述待分类的舆情文本的多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
分类结果确定模块,用于将所述待分类的舆情文本的多个不同的特征信息与所述待分类的舆情文本的多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的。
本说明书实施例提供的一种舆情文本分类模型,包括多个决策树和加权层,每个所述决策树的根节点,被配置为接收从多个分类模型中输出的待分类的舆情文本的输出结果,以及多个所述待分类的舆情文本的的特征信息,其中,所述待分类的舆情文本的的特征信息与针对所述待分类的舆情文本的的特征信息对应的输出结果作为一个整体被输入至每个所述决策树的根节点;所述加权层,被配置为接收每个所述决策树的终结点输出的决策分数,并将多个所述决策分数进行加权计算得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的。
本说明书实施例提供的一种舆情文本分类模型构建设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取训练样本集合,所述训练集合中包括多个舆情文本,每个舆情文本具有对应的标签;
将所述训练样本集合拆分成第一训练分集合和第二训练分集合;
采用不同的特征提取方式对所述第一训练分集合中的舆情文本进行特征提取,得到多个样本特征集合;一个所述样本特征集合中的所有特征是采用同一特征提取方式得到的;
对每个所述样本特征集合进行分类训练,得到多个分类模型,其中,一个所述分类模型对应一个所述样本特征集合;
采用所述不同的特征提取方式对所述第二训练分集合中的舆情文本进行特征提取,得到所述第二训练分集合中各舆情文本对应的多个不同的特征信息;
将所述第二训练分集合中各舆情文本对应的多个不同的特征信息分别输入所述多个分类模型,得到所述第二训练分集合中各舆情文本对应的每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
对所述第二训练分集合各舆情文本对应的多个不同的特征信息与所述多个不同的特征信息对应的每个分类模型的输出结果进行训练,得到舆情文本分类模型。
本说明书实施例提供的一种舆情文本的分类设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取待分类的舆情文本;
采用不同的特征提取方式对所述待分类的舆情文本进行特征提取,得到所述待分类的舆情文本的多个不同的特征信息;
将所述待分类的舆情文本的多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
将所述待分类的舆情文本的多个不同的特征信息与所述待分类的舆情文本的多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的。
本说明书实施例提供的一种计算机可读介质,其上存储有计算机可读指令,所述计算机可读指令可被处理器执行以实现上述舆情文本分类模型构建方法和舆情文本的分类方法。
本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果:
本说明书实施例采用不同的特征提取方式对待分类的舆情文本进行特征提取,得到多个不同的特征信息;然后将所述多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;最后将所述多个不同的特征信息与所述多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的;然后根据分类结果对待分类的舆情文本进行筛选。本说明书实施例提供的方法通过多种不同的特征提取方式提取多种不同的特征信息,增强了对舆情文本的特征刻画,从而提高了采用舆情文本分类模型对该舆情文本的分类精度。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1为本说明书实施例中一种舆情文本分类模型构建方法的流程示意图;
图2为本说明书实施例提供的另一种舆情文本分类模型构建方法的流程示意图;
图3为本说明书实施例提供的另一种舆情文本分类模型构建方法的流程示意图;
图4为本说明书实施例中一种舆情文本的分类方法的流程示意图;
图5为本说明书实施例提供的对应于图1的一种舆情文本分类模型构建装置的结构示意图;
图6为本说明书实施例提供的对应于图4的一种舆情文本的分类装置的结构示意图;
图7为本说明书实施例提供的对应于图1的一种舆情文本分类模型构建设备的结构示意图;
图8为本说明书实施例提供的对应于图1的一种舆情文本的分类设备的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
XGBoost:Gradientboosting DecisionTree,机器学习的一种分类器。
LightGBM:是个快速的,分布式的,高性能的基于决策树算法的梯度提升框架。可用于排序,分类,回归以及很多其他的机器学习任务中。
以下结合附图,详细说明本申请各实施例提供的技术方案。
图1为本说明书实施例中一种舆情文本分类模型构建方法的流程示意图。如图1所示,该流程可以包括以下步骤:
步骤101:获取训练样本集合,所述训练集合中包括多个舆情文本,每个舆情文本具有对应的标签。
步骤102:将所述训练样本集合拆分成第一训练分集合和第二训练分集合。
步骤103:采用不同的特征提取方式对所述第一训练分集合中的舆情文本进行特征提取,得到多个样本特征集合;一个所述样本特征集合中的所有特征是采用同一特征提取方式得到的。
步骤104:对每个所述样本特征集合进行分类训练,得到多个分类模型,其中,一个所述分类模型对应一个所述样本特征集合。
步骤105:采用所述不同的特征提取方式对所述第二训练分集合中的舆情文本进行特征提取,得到所述第二训练分集合中各舆情文本对应的多个不同的特征信息。
步骤106:将所述第二训练分集合中各舆情文本对应的多个不同的特征信息分别输入所述多个分类模型,得到所述第二训练分集合中各舆情文本对应的每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的。
步骤107:对所述第二训练分集合中各舆情文本对应的多个不同的特征信息与所述多个不同的特征信息对应的每个分类模型的输出结果进行训练,得到舆情文本分类模型。
在本说明书实施例中,提供了一种舆情文本分类模型构建方法,首先获取训练样本集合,训练样本集合中包括大量带有标签的舆情文本。这些舆情文本的标签是人为标注的,即训练样本集合中的样本是分类结果已知的舆情文本。本说明书实施例就是挖掘这些分类结果已知的舆情文本之间的共性,得到舆情文本分类模型,来对待分类的舆情文本进行分类。需要指出的是,训练样本集合中的舆情文本的数量是大量的,以万为计量单位,如5万训练样本。
在本说明书实施例中,一个改进点是:将训练样本集合一分为二,分成两个训练分集合,第一训练分集合,用来提出不同的特征信息,训练不同的分类模型。然后再根据该不同的分类模型计算第二训练分集合中的舆情文本的分类结果,然后根据第二训练分集合中的舆情文本的不同特征信息和分类结果训练得出最终的舆情文本分类模型。
在本说明书实施例中,第二训练分集合中各舆情文本对应的多个不同的特征信息指的是,假设第二训练分集合中有1万个舆情文本,针对其中的一个舆情文本,采用不同的方式提取该舆情文本的多个不同的特征信息,然后将这些不同的特征信息输入至不同的分类模型中得到分类结果。即第二训练分集合中任意一个舆情文本的最终特征信息包括多个不同的特征信息以及该不同的特征信息对应的分类模型的分类结果,将这些作为训练特征进行训练,得到舆情文本分类模型。
在本说明书实施例中,另一个改进点是,在对训练样本集合的舆情文本进行特征提取时,是采取不同的特征提取方式,得到不同的特征信息。因为,单一的特征信息只能对舆情文本的某一方面进行刻画,仅仅是一方面的特征往往不能全面的对舆情文本进行刻画,因此,根据一种特征信息训练的舆情文本分类模型就会不精准,甚至出现大的漏洞。本说明书实施例,解决了现有技术的问题,提取训练样本(舆情文本)多种不同的特征信息,增强了对舆情文本的特征刻画,从而提高了采用舆情文本分类模型对该舆情文本的分类精度。
针对“采用不同的特征提取方式对所述第一训练分集合中的舆情文本进行特征提取,得到多个样本特征集合”这一步骤,本发明提供了两种不同的实施例。具体如下:
第一种实施例(如图2所示):
采用第一特征提取方式提取所述第一训练分集合中的各舆情文本的第一特征信息,得到第一特征集合;
采用第二特征提取方式提取所述第一训练分集合中的各舆情文本的第二特征信息,得到第二特征集合,所述第一特征提取方式与所述第二特征提取方式不同;
采用第三特征提取方式提取所述第一训练分集合中的各舆情文本的第三特征信息,得到第三特征集合,所述第三特征提取方式与所述第一特征提取方式不同,所述第三特征提取方式与所述第二特征提取方式不同。
在该说明书实施例中,针对第一训练分集合中的各舆情文本,都需要采用三种不同的特征提取方式提取三种不同的特征信息,然后得到三个特征集合,然后采用三个特征集合,去训练不同的分类模型。这种提取特征信息的方式适用于训练样本比较少的情况,充分利用现有的训练样本来进行特征提取,提高训练样本的精度。
第二种实施例(如图3所示):
将所述第一训练分集合拆分为第一训练子集合、第二训练子集合和第三训练子集合;
采用第一特征提取方式提取所述第一训练子集合中的各舆情文本的第一特征信息,得到第一特征集合;
采用第二特征提取方式提取所述第一训练子集合中的各舆情文本的第二特征信息,得到第二特征集合,所述第一特征提取方式与所述第二提取方式不同;
采用第三特征提取方式提取所述第三训练子集合中的各舆情文本的第三特征信息,得到第三特征集合,所述第三特征提取方式与所述第一特征提取方式不同,所述第三特征提取方式与所述第二特征提取方式不同。
在该说明书实施例中,需要将第一训练分集合分为三个训练子集合,每个集合中的舆情文本采用不同的特征提取方式进行特征提取,这种方式比较适用于训练样本足够多的情况。具体的实现方式可以是:舆情文本数据预处理后,得到每篇舆情文本的doc_id(文本唯一标志位),doc_content(文本正文,长度不超过1500),label(训练集标签)。舆情文本数据按照舆情doc_content为主键进行随机拆分4份,分别为数据A、B、C、D,同时对四份数据进行分词处理。
需要指出的是,第一特征提取方式不同、第二特征提取方式不同和第三特征提取方式均不相同,因此,根据上述特征提取方式得到的特征信息也不相同。最终根据这些特征信息得到的分类模型也是完全不同的特征模型。
在本说明书的一个或多个实施例中,所述采用第一特征提取方式提取所述第一训练分集合中的各舆情文本的第一特征信息,具体可以包括:
对每个舆情文本进行分词处理;
对分词处理后的舆情文本提取TF-IDF特征;
所述采用第二特征提取方式提取所述第一训练分集合中的各舆情文本的第二特征信息,具体包括:
对每个舆情文本进行分词处理;
对分词处理后的舆情文本提取nbsvm特征;
所述采用第三特征提取方式提取所述第一训练分集合中的各舆情文本的第三特征信息,具体包括:
对每个舆情文本进行分词处理;
对分词处理后的舆情文,通过fastText提取Embedding向量表示;
统计所述Embedding向量表示的均值、最大值和平均值。
在本说明书实施例中,提供了三种特征提取方式。
1、首先对舆情文本进行词频统计,提取分词后每个单词的TF-IDF特征,然后利用三元组转kv,生成每篇doc_id的稀疏特征。TF-IDF(term frequency–inverse documentfrequency)是一种用于信息检索与数据挖掘的常用加权技术。TF的意思是词频(TermFrequency),IDF的意思是逆文本频率指数(Inverse DocumentFrequency)。
2、对舆情文本利用nbsvm提取稀疏格式的文本特征。
3、对数据C,需要先利用全部数据集训练,通过fastText得到每个单词的Embedding表示,表示维度为100维,然后将数据C中每个单词的Embedding表示按照doc_id进行统计均值、最大值、平均值。在深度学习的应用过程中,Embedding这样一种将离散变量转变为连续向量的方式为神经网络在各方面的应用带来了极大的扩展。
在本说明书的一个或多个实施例中,所述对每个所述样本特征集合进行分类训练,得到多个分类模型,具体可以包括:
采用LigthGBM分类器对所述第一特征集合进行分类训练,得到第一分类模型;
采用XGBoost分类器对所述第二特征集合进行分类训练,得到第二分类模型;
采用LigthGBM分类器对所述第三特征集合进行分类训练,得到第三分类模型。
在本说明书实施例中,针对第一种特征提取方式,利用LightGBM模型对该稀疏特征进行训练,得到第一分类模型LightGBM1。
针对第二种特征提取方式,利用LightGBM模型对该稀疏特征进行训练,得到第二分类模型LightGBM2。
针对第三种特征提取方式,将该稠密特征通过XGBoost训练,得到第三分类模型_XGBoost1。
需要指出的是,方案中XGBoost、LigthGBM分类器可替换为其他分类器,例如GBDT等,但是该方案为当前数据下的最优搭配组合。原因分析为,XGBoost采用的是level-wise的分裂策略,而LightGBM采用了leaf-wise的策略,区别是XGBoost对每一层所有节点做无差别分裂,可能有些节点的增益非常小,对结果影响不大,但是XGBoost也进行了分裂,带来了务必要的开销。leaft-wise的做法是在当前所有叶子节点中选择分裂收益最大的节点进行分裂,如此递归进行,很明显leaf-wise这种做法容易过拟合,因为容易陷入比较高的深度中。因此,在TF-IDF、nbsvm特征下,LigthGBM具有较好的性能表现,而fastText特征本身具有一定的复杂度,所以XGBoost性能会略优于其他。
在本说明书的一个或多个实施例中,所述采用所述不同的特征提取方式对所述第二训练分集合中的舆情文本进行特征提取,具体可以包括:
采用所述第一特征提取方式提取所述第二训练分集合中的各舆情文本的第四特征信息;
采用所述第二特征提取方式提取所述第二训练分集合中的各舆情文本的第五特征信息;
采用所述第三特征提取方式提取所述第二训练分集合中的各舆情文本的第六特征信息。
所述将所述多个不同的特征信息分别输入所述多个分类模型,得到每个分类模型的输出结果,具体包括:
将所述第四特征信息输入至所述第一分类模型中,得到第一分类得分;
将所述第五特征信息输入至所述第二分类模型中,得到第二分类得分;
将所述第六特征信息输入至所述第三分类模型中,得到第三分类得分。
在本说明书实施例中,需要对第二训练分集合中的各舆情文本的特征进行提取,具体提取的特征信息与第一训练分集合的舆情文本的特征提取方式有关系。因为,这些特征信息是需要输入至第一分类模型、第二分类模型或第三分类模型中的。而,训练第一分类模型采用的特征信息就是采用第一特征提取方式对舆情文本进行提取得到的,因此,第一分类模型的输入特征也需要是采用第一特征提取方式对舆情文本进行提取得到的。例如,如果,第一分类模型采用的是TF-IDF特征进行的分类训练,那么输入至第一分类模型的的特征也需要是TF-IDF特征。
图4为本说明书实施例中一种舆情文本的分类方法的流程示意图。从程序角度而言,流程的执行主体可以为搭载于应用服务器的程序或应用客户端。
本发明采用上述舆情文本分类模型构建方法得到的舆情文本分类模型对待分类的舆情文本进行分类。其中,舆情文本分类模型包括多个决策树和加权层,每个所述决策树的根节点,被配置为接收从多个分类模型中输出的待分类的舆情文本的输出结果,以及多个所述待分类的舆情文本的的特征信息,其中,所述待分类的舆情文本的的特征信息与针对所述待分类的舆情文本的的特征信息对应的输出结果作为一个整体被输入至每个所述决策树的根节点;所述加权层,被配置为接收每个所述决策树的终结点输出的决策分数,并将多个所述决策分数进行加权计算得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的。
如图4所示,该流程可以包括以下步骤:
步骤401:获取待分类的舆情文本。
在本说明书实施例中,舆论情况(简称“舆情”),是指在一定的社会空间内,围绕中介性社会事件的发生、发展和变化,作为主体的民众对作为客体的社会管理者、企业、个人及其他各类组织及其政治、社会、道德等方面的取向产生和持有的社会态度。它是较多群众关于社会中各种现象、问题所表达的信念、态度、意见和情绪等等表现的总和。
舆情文本可以是舆情的文字表示,可以从多个信息传播渠道获取。如新闻报道、微博、报纸等等,只要可以获取的信息都可以作为舆情文本。
步骤402:采用不同的特征提取方式对所述待分类的舆情文本进行特征提取,得到所述待分类的舆情文本的多个不同的特征信息。
在本说明书实施例中,需要提取待分类的舆情文本的多种特征信息,来对其进行分类。其中,不同的特征信息需要采用不同的特征提取方式来提取。用一种特征提取方式提取一种特征信息,特征信息的个数与特征提取方式的个数相对应。
在本说明书实施例中,一个特征信息可以用来表征待分类的舆情文本在某一方面的特点,多个特征信息就可以从不同的角度去刻画舆情文本的各个刚面的特点。
步骤403:将所述待分类的舆情文本的多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的。
在本说明书实施例中,步骤102得到的多个不同的特性信息要分别输入到不同的分类模型中去,从而得到不同的输出。如,a特征信息输入到A分类模型中去,其中,A分类模型的默认的输入数据就是a特征信息,因为A分类模型的训练文本的提取方式与a特征信息的提取方式是一样的。
需要注意的是,这里的分类模型是单一的分类模型,而且输出的结果不是舆情文本的最终的分类结果,这里只是一个中间步骤。
步骤404:将所述待分类的舆情文本的多个不同的特征信息与所述待分类的舆情文本的多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的。
在本说明书实施例中,舆情文本分类模型是预先训练好的,是舆情文本的最终分类模型。该舆情文本分类模型的输入数据包括两部分,一部分是提取的待分类的舆情文本的多个不同的特征信息,另一部分是上述不同的特征信息针对不同的分类模型的输出,将这两部分数据综合起来作为待分类的舆情文本的全部特征信息输入至舆情文本分类模型中,最后得到的输出,就是所述待分类的舆情文本的分类结果。
在本说明书实施例中,分类结果可以从多方面去设定,如可以为正面舆论信息和负面舆论信息,或者思想反映类、分析类、调研类或者工作动态类等。这些分类结果与舆情文本分类模型的训练样本有关系,训练样本的标签的类型是什么,其分类结果的类型与之相对应。如训练样本的标签是正面舆论和负面舆论,那么分类结果的类型就是正面舆论和负面舆论的一种。
图4中的方法,通过采用不同的特征提取方式对待分类的舆情文本进行特征提取,得到多个不同的特征信息;然后将所述多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;最后将所述多个不同的特征信息与所述多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的;然后根据分类结果对待分类的舆情文本进行筛选。本说明书实施例提供的方法通过多种不同的特征提取方式提取多种不同的特征信息,增强了对舆情文本的特征刻画,从而提高了采用舆情文本分类模型对该舆情文本的分类精度。
基于图4的方法,本说明书实施例还提供了该方法的一些具体实施方式,下面进行说明。
在本说明书的一个或多个实施例中,所述采用不同的特征提取方式对所述待分类的舆情文本进行特征提取,得到所述待分类的舆情文本的多个不同的特征信息,具体可以包括:
采用所述第一特征提取方式提取所述待分类的舆情文本的第七特征信息;
采用所述第二特征提取方式提取所述待分类的舆情文本的第八特征信息;
采用所述第三特征提取方式提取所述待分类的舆情文本的第九特征信息;
所述将所述待分类的舆情文本的多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果,具体包括:
将所述第七特征信息输入至所述第一分类模型中,得到第四分类得分;
将所述第八特征信息输入至所述第二分类模型中,得到第五分类得分;
将所述第九特征信息输入至所述第三分类模型中,得到第六分类得分;
所述将所述待分类的舆情文本的多个不同的特征信息与所述待分类的舆情文本的多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,具体包括:
将所述第四分类得分、所述第五分类得分、所述第六分类得分、所述第七特征信息、所述第八特征信息和所述第九特征信息输入至所述舆情文本分类模型中。
在本说明书实施例中,在对待分类的舆情文本进行分类时,需要提取其对应的特征信息。这些特征信息也是包括两部分,一部分是采用不用的特征提取方式提取的待分类的舆情文本的本身的特征信息;另一部分是采用上述的特征信息在对应的分类模型的分类得分。将这两部分特征信息共同输入到最终的舆情文本输入模型中去,即可得到该待分类的舆情文本的分类结果。
在本说明书的一个或多个实施例中,所述采用不同的特征提取方式对所述待分类的舆情文本进行特征提取,得到所述待分类的舆情文本的多个不同的特征信息,具体可以包括:
提取所述待分类的舆情文本的TF-IDF特征;
提取所述待分类的舆情文本的nbsvm特征;
通过fastText提取所述待分类的舆情文本的提取Embedding向量,并统计所述Embedding向量表示的均值、最大值和平均值。
基于同样的思路,本说明书实施例还提供了上述方法对应的装置。图5为本说明书实施例提供的对应于图1的一种舆情文本分类模型构建装置的结构示意图。如图5所示,该装置可以包括:
训练样本集合获取模块501,用于在所述采用不同的特征提取方式对所述待分类的舆情文本进行特征提取之前,获取训练样本集合,所述训练集合中包括多个舆情文本,每个舆情文本具有对应的标签;
训练样本集合拆分模块502,用于将所述训练样本集合拆分成第一训练分集合和第二训练分集合;
样本特征集合确定模块503,用于采用不同的特征提取方式对所述第一训练分集合中的舆情文本进行特征提取,得到多个样本特征集合;一个所述样本特征集合中的所有特征是采用同一特征提取方式得到的;
多个分类模型确定模块504,用于对每个所述样本特征集合进行分类训练,得到多个分类模型,其中,一个所述分类模型对应一个所述样本特征集合;
第一特征信息获取模块505,用于采用所述不同的特征提取方式对所述第二训练分集合中的舆情文本进行特征提取,得到所述第二训练分集合中各舆情文本对应的多个不同的特征信息;
第一输出结果确定模块506,用于将所述第二训练分集合中各舆情文本对应的多个不同的特征信息分别输入所述多个分类模型,得到所述第二训练分集合中各舆情文本对应的每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
舆情文本分类模型训练模块507,用于对所述第二训练分集合中各舆情文本对应的多个不同的特征信息与所述多个不同的特征信息对应的每个分类模型的输出结果进行训练,得到舆情文本分类模型。
在本说明书的一个或多个实施例中,所述样本特征集合确定模块502,具体可以包括:
第一特征信息提取单元,用于采用第一特征提取方式提取所述第一训练分集合中的各舆情文本的第一特征信息,得到第一特征集合;
第二特征信息提取单元,用于采用第二特征提取方式提取所述第一训练分集合中的各舆情文本的第二特征信息,得到第二特征集合,所述第一特征提取方式与所述第二特征提取方式不同;
第三特征信息提取单元,用于采用第三特征提取方式提取所述第一训练分集合中的各舆情文本的第三特征信息,得到第三特征集合,所述第三特征提取方式与所述第一特征提取方式不同,所述第三特征提取方式与所述第二特征提取方式不同。
在本说明书的一个或多个实施例中,所述样本特征集合确定模块502,具体可以包括:
第一训练分集合拆分单元,用于将所述第一训练分集合拆分为第一训练子集合、第二训练子集合和第三训练子集合;
第一特征信息提取单元,用于采用第一特征提取方式提取所述第一训练子集合中的各舆情文本的第一特征信息,得到第一特征集合;
第二特征信息提取单元,用于采用第二特征提取方式提取所述第一训练子集合中的各舆情文本的第二特征信息,得到第二特征集合,所述第一特征提取方式与所述第二提取方式不同;
第三特征信息提取单元,用于采用第三特征提取方式提取所述第三训练子集合中的各舆情文本的第三特征信息,得到第三特征集合,所述第三特征提取方式与所述第一特征提取方式不同,所述第三特征提取方式与所述第二特征提取方式不同。
在本说明书的一个或多个实施例中,所述第一特征信息获取模块505,具体可以包括:
第四特征信息获取单元,用于采用所述第一特征提取方式提取所述第二训练分集合中的各舆情文本的第四特征信息;
第五特征信息获取单元,用于采用所述第二特征提取方式提取所述第二训练分集合中的各舆情文本的第五特征信息;
第六特征信息获取单元,用于采用所述第三特征提取方式提取所述第二训练分集合中的各舆情文本的第六特征信息。
在本说明书的一个或多个实施例中,所述第一特征信息提取单元,具体可以用于:
对每个舆情文本进行分词处理;
对分词处理后的舆情文本提取TF-IDF特征;
所述第二特征信息提取单元,具体用于:
对每个舆情文本进行分词处理;
对分词处理后的舆情文本提取nbsvm特征;
所述第三特征信息提取单元,具体用于:
对每个舆情文本进行分词处理;
对分词处理后的舆情文,通过fastText提取Embedding向量表示;
统计所述Embedding向量表示的均值、最大值和平均值。
在本说明书的一个或多个实施例中,所述多个分类模型确定模块504,具体可以包括:
第一分类模型训练单元,用于采用LigthGBM分类器对所述第一特征集合进行分类训练,得到第一分类模型;
第二分类模型训练单元,用于采用XGBoost分类器对所述第二特征集合进行分类训练,得到第二分类模型;
第三分类模型训练单元,用于采用LigthGBM分类器对所述第三特征集合进行分类训练,得到第三分类模型。
在本说明书的一个或多个实施例中,所述第一输出结果确定模块506,具体可以包括:
第一分类得分确定单元,用于将所述第四特征信息输入至所述第一分类模型中,得到第一分类得分;
第二分类得分确定单元,用于将所述第五特征信息输入至所述第二分类模型中,得到第二分类得分;
第三分类得分确定单元,用于将所述第六特征信息输入至所述第三分类模型中,得到第三分类得分。
基于同样的思路,本说明书实施例还提供了上述方法对应的装置。图6为本说明书实施例提供的对应于图4的一种舆情文本的分类装置的结构示意图。如图6所示,该装置可以包括:
待分类的舆情文本获取模块601,用于获取待分类的舆情文本;
不同的特征信息提取模块602,用于采用不同的特征提取方式对所述待分类的舆情文本进行特征提取,得到所述待分类的舆情文本的多个不同的特征信息;
分类模型的输出结果确定模块603,用于将所述待分类的舆情文本的多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
分类结果确定模块604,用于将所述待分类的舆情文本的多个不同的特征信息与所述待分类的舆情文本的多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的。
图6中的装置,通过采用不同的特征提取方式对待分类的舆情文本进行特征提取,得到多个不同的特征信息;然后将所述多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;最后将所述多个不同的特征信息与所述多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的;然后根据分类结果对待分类的舆情文本进行筛选。本说明书实施例提供的方法通过多种不同的特征提取方式提取多种不同的特征信息,增强了对舆情文本的特征刻画,从而提高了采用舆情文本分类模型对该舆情文本的分类精度。
在本说明书的一个或者多个实施例中,所述不同的特征信息提取模块602,具体可以包括:
第七特征信息提取单元,用于采用所述第一特征提取方式提取所述待分类的舆情文本的第七特征信息;
第八特征信息提取单元,用于采用所述第二特征提取方式提取所述待分类的舆情文本的第八特征信息;
第九特征信息提取单元,用于采用所述第三特征提取方式提取所述待分类的舆情文本的第九特征信息;
所述分类模型的输出结果确定模块,具体包括:
第四分类得分确定单元,用于将所述第七特征信息输入至所述第一分类模型中,得到第四分类得分;
第五分类得分确定单元,用于将所述第八特征信息输入至所述第二分类模型中,得到第五分类得分;
第六分类得分确定单元,用于将所述第九特征信息输入至所述第三分类模型中,得到第六分类得分;
所述分类结果确定模块,具体用于将所述第四分类得分、所述第五分类得分、所述第六分类得分、所述第七特征信息、所述第八特征信息和所述第九特征信息输入至所述舆情文本分类模型中。
在本说明书的一个或者多个实施例中,所述不同的特征信息提取模块602,具体可以包括:
第一提取单元,用于提取所述待分类的舆情文本的TF-IDF特征;
第二提取单元,用于提取所述待分类的舆情文本的nbsvm特征;
第三提取单元,用于通过fastText提取所述待分类的舆情文本的提取Embedding向量,并统计所述Embedding向量表示的均值、最大值和平均值。
基于同样的思路,本说明书实施例还提供了上述方法对应的设备。
图7为本说明书实施例提供的对应于图1的一种舆情文本分类模型构建设备的结构示意图。如图7所示,设备700可以包括:
至少一个处理器710;以及,
与所述至少一个处理器通信连接的存储器730;其中,
所述存储器730存储有可被所述至少一个处理器810执行的指令720,所述指令被所述至少一个处理器710执行,以使所述至少一个处理器710能够:
获取训练样本集合,所述训练集合中包括多个舆情文本,每个舆情文本具有对应的标签;
将所述训练样本集合拆分成第一训练分集合和第二训练分集合;
采用不同的特征提取方式对所述第一训练分集合中的舆情文本进行特征提取,得到多个样本特征集合;一个所述样本特征集合中的所有特征是采用同一特征提取方式得到的;
对每个所述样本特征集合进行分类训练,得到多个分类模型,其中,一个所述分类模型对应一个所述样本特征集合;
采用所述不同的特征提取方式对所述第二训练分集合中的舆情文本进行特征提取,得到所述第二训练分集合中各舆情文本对应的多个不同的特征信息;
将所述第二训练分集合中各舆情文本对应的多个不同的特征信息分别输入所述多个分类模型,得到所述第二训练分集合中各舆情文本对应的每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
对所述第二训练分集合各舆情文本对应的多个不同的特征信息与所述多个不同的特征信息对应的每个分类模型的输出结果进行训练,得到舆情文本分类模型。
基于同样的思路,本说明书实施例还提供了上述方法对应的设备。
图8为本说明书实施例提供的对应于图4的一种舆情文本的分类设备的结构示意图。如图8所示,设备800可以包括:
至少一个处理器810;以及,
与所述至少一个处理器通信连接的存储器830;其中,
所述存储器830存储有可被所述至少一个处理器810执行的指令820,所述指令被所述至少一个处理器810执行,以使所述至少一个处理器810能够:
获取待分类的舆情文本;
采用不同的特征提取方式对所述待分类的舆情文本进行特征提取,得到所述待分类的舆情文本的多个不同的特征信息;
将所述待分类的舆情文本的多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
将所述待分类的舆情文本的多个不同的特征信息与所述待分类的舆情文本的多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的。
图8中的设备,通过采用不同的特征提取方式对待分类的舆情文本进行特征提取,得到多个不同的特征信息;然后将所述多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;最后将所述多个不同的特征信息与所述多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的;然后根据分类结果对待分类的舆情文本进行筛选。本说明书实施例提供的方法通过多种不同的特征提取方式提取多种不同的特征信息,增强了对舆情文本的特征刻画,从而提高了采用舆情文本分类模型对该舆情文本的分类精度。
基于同样的思路,本说明书实施例还提供了一种计算机可读介质,其上存储有计算机可读指令,所述计算机可读指令可被处理器执行以实现上述舆情文本分类模型构建方法和舆情文本的分类方法。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(FieldProgrammableGateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced BooleanExpression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell UniversityProgramming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware DescriptionLanguage)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、AtmelAT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (24)
1.一种舆情文本分类模型构建方法,包括:
获取训练样本集合,所述训练样本集合中包括多个舆情文本,每个舆情文本具有对应的标签;
将所述训练样本集合拆分成第一训练分集合和第二训练分集合;
采用不同的特征提取方式对所述第一训练分集合中的舆情文本进行特征提取,得到多个样本特征集合;一个所述样本特征集合中的所有特征是采用同一特征提取方式得到的;
对每个所述样本特征集合进行分类训练,得到多个分类模型,其中,一个所述分类模型对应一个所述样本特征集合;
采用所述不同的特征提取方式对所述第二训练分集合中的舆情文本进行特征提取,得到所述第二训练分集合中各舆情文本对应的多个不同的特征信息;
将所述第二训练分集合中各舆情文本对应的多个不同的特征信息分别输入所述多个分类模型,得到所述第二训练分集合中各舆情文本对应的每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
对所述第二训练分集合各舆情文本对应的多个不同的特征信息与所述多个不同的特征信息对应的每个分类模型的输出结果进行训练,得到舆情文本分类模型。
2.如权利要求1所述的方法,所述采用不同的特征提取方式对所述第一训练分集合中的舆情文本进行特征提取,具体包括:
采用第一特征提取方式提取所述第一训练分集合中的各舆情文本的第一特征信息,得到第一特征集合;
采用第二特征提取方式提取所述第一训练分集合中的各舆情文本的第二特征信息,得到第二特征集合,所述第一特征提取方式与所述第二特征提取方式不同;
采用第三特征提取方式提取所述第一训练分集合中的各舆情文本的第三特征信息,得到第三特征集合,所述第三特征提取方式与所述第一特征提取方式不同,所述第三特征提取方式与所述第二特征提取方式不同。
3.如权利要求1所述的方法,所述采用不同的特征提取方式对所述第一训练分集合中的舆情文本进行特征提取,具体包括:
将所述第一训练分集合拆分为第一训练子集合、第二训练子集合和第三训练子集合;
采用第一特征提取方式提取所述第一训练子集合中的各舆情文本的第一特征信息,得到第一特征集合;
采用第二特征提取方式提取所述第二训练子集合中的各舆情文本的第二特征信息,得到第二特征集合,所述第一特征提取方式与所述第二特征提取方式不同;
采用第三特征提取方式提取所述第三训练子集合中的各舆情文本的第三特征信息,得到第三特征集合,所述第三特征提取方式与所述第一特征提取方式不同,所述第三特征提取方式与所述第二特征提取方式不同。
4.如权利要求2或3所述的方法,所述采用所述不同的特征提取方式对所述第二训练分集合中的舆情文本进行特征提取,具体包括:
采用所述第一特征提取方式提取所述第二训练分集合中的各舆情文本的第四特征信息;
采用所述第二特征提取方式提取所述第二训练分集合中的各舆情文本的第五特征信息;
采用所述第三特征提取方式提取所述第二训练分集合中的各舆情文本的第六特征信息。
5.如权利要求4所述的方法,所述采用第一特征提取方式提取所述第一训练分集合中的各舆情文本的第一特征信息,具体包括:
对每个舆情文本进行分词处理;
对分词处理后的舆情文本提取TF-IDF特征;
所述采用第二特征提取方式提取所述第一训练分集合中的各舆情文本的第二特征信息,具体包括:
对每个舆情文本进行分词处理;
对分词处理后的舆情文本提取nbsvm特征;
所述采用第三特征提取方式提取所述第一训练分集合中的各舆情文本的第三特征信息,具体包括:
对每个舆情文本进行分词处理;
对分词处理后的舆情文,通过fastText提取Embedding向量表示;
统计所述Embedding向量表示的均值、最大值和平均值。
6.如权利要求5所述的方法,所述对每个所述样本特征集合进行分类训练,得到多个分类模型,具体包括:
采用LigthGBM分类器对所述第一特征集合进行分类训练,得到第一分类模型;
采用XGBoost分类器对所述第二特征集合进行分类训练,得到第二分类模型;
采用LigthGBM分类器对所述第三特征集合进行分类训练,得到第三分类模型。
7.如权利要求6所述的方法,所述将所述第二训练分集合中各舆情文本对应的多个不同的特征信息分别输入所述多个分类模型,得到所述第二训练分集合中各舆情文本对应的每个分类模型的输出结果,具体包括:
将所述第四特征信息输入至所述第一分类模型中,得到第一分类得分;
将所述第五特征信息输入至所述第二分类模型中,得到第二分类得分;
将所述第六特征信息输入至所述第三分类模型中,得到第三分类得分。
8.一种舆情文本的分类方法,包括:
获取待分类的舆情文本;
采用不同的特征提取方式对所述待分类的舆情文本进行特征提取,得到所述待分类的舆情文本的多个不同的特征信息;
将所述待分类的舆情文本的多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
将所述待分类的舆情文本的多个不同的特征信息与所述待分类的舆情文本的多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的。
9.如权利要求8所述的方法,所述采用不同的特征提取方式对所述待分类的舆情文本进行特征提取,得到所述待分类的舆情文本的多个不同的特征信息,具体包括:
采用第一特征提取方式提取所述待分类的舆情文本的第七特征信息;
采用第二特征提取方式提取所述待分类的舆情文本的第八特征信息;所述第一特征提取方式与所述第二特征提取方式不同;
采用第三特征提取方式提取所述待分类的舆情文本的第九特征信息;所述第三特征提取方式与所述第一特征提取方式不同,所述第三特征提取方式与所述第二特征提取方式不同;
所述将所述待分类的舆情文本的多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果,具体包括:
将所述第七特征信息输入至第一分类模型中,得到第四分类得分;所述第一分类模型对舆情文本样本采用第一特征提取方式得到的特征信息进行分类训练得到;所述舆情文本样本为经过拆分训练样本集合得到的第一训练分集合;
将所述第八特征信息输入至第二分类模型中,得到第五分类得分;所述第二分类模型对所述舆情文本采用第二特征提取方式得到的特征信息进行分类训练得到;
将所述第九特征信息输入至第三分类模型中,得到第六分类得分;所述第三分类模型对所述舆情文本采用第三特征提取方式得到的特征信息进行分类训练得到;
所述将所述待分类的舆情文本的多个不同的特征信息与所述待分类的舆情文本的多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,具体包括:
将所述第四分类得分、所述第五分类得分、所述第六分类得分、所述第七特征信息、所述第八特征信息和所述第九特征信息输入至所述舆情文本分类模型中。
10.如权利要求8所述的方法,所述采用不同的特征提取方式对所述待分类的舆情文本进行特征提取,得到所述待分类的舆情文本的多个不同的特征信息,具体包括:
提取所述待分类的舆情文本的TF-IDF特征;
提取所述待分类的舆情文本的nbsvm特征;
通过fastText提取所述待分类的舆情文本的提取Embedding向量,并统计所述Embedding向量表示的均值、最大值和平均值。
11.一种舆情文本分类模型构建装置,包括:
训练样本集合获取模块,用于在采用不同的特征提取方式对待分类的舆情文本进行特征提取之前,获取训练样本集合,所述训练样本集合中包括多个舆情文本,每个舆情文本具有对应的标签;
训练样本集合拆分模块,用于将所述训练样本集合拆分成第一训练分集合和第二训练分集合;
样本特征集合确定模块,用于采用不同的特征提取方式对所述第一训练分集合中的舆情文本进行特征提取,得到多个样本特征集合;一个所述样本特征集合中的所有特征是采用同一特征提取方式得到的;
多个分类模型确定模块,用于对每个所述样本特征集合进行分类训练,得到多个分类模型,其中,一个所述分类模型对应一个所述样本特征集合;
第一特征信息获取模块,用于采用所述不同的特征提取方式对所述第二训练分集合中的舆情文本进行特征提取,得到所述第二训练分集合中各舆情文本对应的多个不同的特征信息;
第一输出结果确定模块,用于将所述第二训练分集合中各舆情文本对应的多个不同的特征信息分别输入所述多个分类模型,得到所述第二训练分集合中各舆情文本对应的每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
舆情文本分类模型训练模块,用于对所述第二训练分集合中各舆情文本对应的多个不同的特征信息与所述多个不同的特征信息对应的每个分类模型的输出结果进行训练,得到舆情文本分类模型。
12.如权利要求11所述的装置,所述样本特征集合确定模块,具体包括:
第一特征信息提取单元,用于采用第一特征提取方式提取所述第一训练分集合中的各舆情文本的第一特征信息,得到第一特征集合;
第二特征信息提取单元,用于采用第二特征提取方式提取所述第一训练分集合中的各舆情文本的第二特征信息,得到第二特征集合,所述第一特征提取方式与所述第二特征提取方式不同;
第三特征信息提取单元,用于采用第三特征提取方式提取所述第一训练分集合中的各舆情文本的第三特征信息,得到第三特征集合,所述第三特征提取方式与所述第一特征提取方式不同,所述第三特征提取方式与所述第二特征提取方式不同。
13.如权利要求11所述的装置,所述样本特征集合确定模块,具体包括:
第一训练分集合拆分单元,用于将所述第一训练分集合拆分为第一训练子集合、第二训练子集合和第三训练子集合;
第一特征信息提取单元,用于采用第一特征提取方式提取所述第一训练子集合中的各舆情文本的第一特征信息,得到第一特征集合;
第二特征信息提取单元,用于采用第二特征提取方式提取所述第二训练子集合中的各舆情文本的第二特征信息,得到第二特征集合,所述第一特征提取方式与所述第二特征提取方式不同;
第三特征信息提取单元,用于采用第三特征提取方式提取所述第三训练子集合中的各舆情文本的第三特征信息,得到第三特征集合,所述第三特征提取方式与所述第一特征提取方式不同,所述第三特征提取方式与所述第二特征提取方式不同。
14.如权利要求12或13所述的装置,所述第一特征信息获取模块,具体包括:
第四特征信息获取单元,用于采用所述第一特征提取方式提取所述第二训练分集合中的各舆情文本的第四特征信息;
第五特征信息获取单元,用于采用所述第二特征提取方式提取所述第二训练分集合中的各舆情文本的第五特征信息;
第六特征信息获取单元,用于采用所述第三特征提取方式提取所述第二训练分集合中的各舆情文本的第六特征信息。
15.如权利要求14所述的装置,所述第一特征信息提取单元,具体用于:
对每个舆情文本进行分词处理;
对分词处理后的舆情文本提取TF-IDF特征;
所述第二特征信息提取单元,具体用于:
对每个舆情文本进行分词处理;
对分词处理后的舆情文本提取nbsvm特征;
所述第三特征信息提取单元,具体用于:
对每个舆情文本进行分词处理;
对分词处理后的舆情文,通过fastText提取Embedding向量表示;
统计所述Embedding向量表示的均值、最大值和平均值。
16.如权利要求15所述的装置,所述多个分类模型确定模块,具体包括:
第一分类模型训练单元,用于采用LigthGBM分类器对所述第一特征集合进行分类训练,得到第一分类模型;
第二分类模型训练单元,用于采用XGBoost分类器对所述第二特征集合进行分类训练,得到第二分类模型;
第三分类模型训练单元,用于采用LigthGBM分类器对所述第三特征集合进行分类训练,得到第三分类模型。
17.如权利要求16所述的装置,所述第一输出结果确定模块,具体包括:
第一分类得分确定单元,用于将所述第四特征信息输入至所述第一分类模型中,得到第一分类得分;
第二分类得分确定单元,用于将所述第五特征信息输入至所述第二分类模型中,得到第二分类得分;
第三分类得分确定单元,用于将所述第六特征信息输入至所述第三分类模型中,得到第三分类得分。
18.一种舆情文本的分类装置,包括:
待分类的舆情文本获取模块,用于获取待分类的舆情文本;
不同的特征信息提取模块,用于采用不同的特征提取方式对所述待分类的舆情文本进行特征提取,得到所述待分类的舆情文本的多个不同的特征信息;
分类模型的输出结果确定模块,用于将所述待分类的舆情文本的多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
分类结果确定模块,用于将所述待分类的舆情文本的多个不同的特征信息与所述待分类的舆情文本的多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的。
19.如权利要求18所述的装置,所述不同的特征信息提取模块,具体包括:
第七特征信息提取单元,用于采用第一特征提取方式提取所述待分类的舆情文本的第七特征信息;
第八特征信息提取单元,用于采用第二特征提取方式提取所述待分类的舆情文本的第八特征信息;所述第一特征提取方式与所述第二特征提取方式不同;
第九特征信息提取单元,用于采用第三特征提取方式提取所述待分类的舆情文本的第九特征信息;所述第三特征提取方式与所述第一特征提取方式不同,所述第三特征提取方式与所述第二特征提取方式不同;
所述分类模型的输出结果确定模块,具体包括:
第四分类得分确定单元,用于将所述第七特征信息输入至第一分类模型中,得到第四分类得分;所述第一分类模型对舆情文本样本采用第一特征提取方式得到的特征信息进行分类训练得到;所述舆情文本样本为经过拆分训练样本集合得到的第一训练分集合;
第五分类得分确定单元,用于将所述第八特征信息输入至第二分类模型中,得到第五分类得分;所述第二分类模型对所述舆情文本采用第二特征提取方式得到的特征信息进行分类训练得到;
第六分类得分确定单元,用于将所述第九特征信息输入至第三分类模型中,得到第六分类得分;所述第三分类模型对所述舆情文本采用第三特征提取方式得到的特征信息进行分类训练得到;
所述分类结果确定模块,具体用于将所述第四分类得分、所述第五分类得分、所述第六分类得分、所述第七特征信息、所述第八特征信息和所述第九特征信息输入至所述舆情文本分类模型中。
20.如权利要求18所述的装置,所述不同的特征信息提取模块,具体包括:
第一提取单元,用于提取所述待分类的舆情文本的TF-IDF特征;
第二提取单元,用于提取所述待分类的舆情文本的nbsvm特征;
第三提取单元,用于通过fastText提取所述待分类的舆情文本的提取Embedding向量,并统计所述Embedding向量表示的均值、最大值和平均值。
21.一种舆情文本分类模型,包括多个决策树和加权层,每个所述决策树的根节点,被配置为接收从多个分类模型中输出的待分类的舆情文本的输出结果,以及多个所述待分类的舆情文本的特征信息,其中,所述待分类的舆情文本的特征信息与针对所述待分类的舆情文本的特征信息对应的输出结果作为一个整体被输入至每个所述决策树的根节点;所述加权层,被配置为接收每个所述决策树的终结点输出的决策分数,并将多个所述决策分数进行加权计算得到所述待分类的舆情文本的分类结果;所述特征信息为采用不同的特征提取方式对所述待分类的舆情样本进行提取得到的;输入任意一个所述分类模型的所述特征信息的特征提取方式与训练所述任意一个所述分类模型时的特征提取方式是相同的;所述舆情文本分类模型是基于所述多个分类模型得到的。
22.一种舆情文本分类模型构建设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取训练样本集合,所述训练样本集合中包括多个舆情文本,每个舆情文本具有对应的标签;
将所述训练样本集合拆分成第一训练分集合和第二训练分集合;
采用不同的特征提取方式对所述第一训练分集合中的舆情文本进行特征提取,得到多个样本特征集合;一个所述样本特征集合中的所有特征是采用同一特征提取方式得到的;
对每个所述样本特征集合进行分类训练,得到多个分类模型,其中,一个所述分类模型对应一个所述样本特征集合;
采用所述不同的特征提取方式对所述第二训练分集合中的舆情文本进行特征提取,得到所述第二训练分集合中各舆情文本对应的多个不同的特征信息;
将所述第二训练分集合中各舆情文本对应的多个不同的特征信息分别输入所述多个分类模型,得到所述第二训练分集合中各舆情文本对应的每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
对所述第二训练分集合各舆情文本对应的多个不同的特征信息与所述多个不同的特征信息对应的每个分类模型的输出结果进行训练,得到舆情文本分类模型。
23.一种舆情文本的分类设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够:
获取待分类的舆情文本;
采用不同的特征提取方式对所述待分类的舆情文本进行特征提取,得到所述待分类的舆情文本的多个不同的特征信息;
将所述待分类的舆情文本的多个不同的特征信息分别输入多个分类模型,得到每个分类模型的输出结果;输入任意一个分类模型的特征的特征提取方式与训练所述任意一个分类模型时的特征提取方式是相同的;
将所述待分类的舆情文本的多个不同的特征信息与所述待分类的舆情文本的多个不同的特征信息对应的每个分类模型的输出结果输入至舆情文本分类模型中,得到所述待分类的舆情文本的分类结果,所述舆情文本分类模型是基于所述多个分类模型得到的。
24.一种计算机可读介质,其上存储有计算机可读指令,所述计算机可读指令可被处理器执行以实现权利要求1至10中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910902658.4A CN110674297B (zh) | 2019-09-24 | 2019-09-24 | 舆情文本分类模型构建和舆情文本分类方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910902658.4A CN110674297B (zh) | 2019-09-24 | 2019-09-24 | 舆情文本分类模型构建和舆情文本分类方法、装置及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110674297A CN110674297A (zh) | 2020-01-10 |
CN110674297B true CN110674297B (zh) | 2022-04-29 |
Family
ID=69078579
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910902658.4A Active CN110674297B (zh) | 2019-09-24 | 2019-09-24 | 舆情文本分类模型构建和舆情文本分类方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110674297B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111753058B (zh) * | 2020-06-30 | 2023-06-02 | 北京信息科技大学 | 一种文本观点挖掘方法及系统 |
CN111737473B (zh) * | 2020-07-17 | 2022-04-26 | 浙江口碑网络技术有限公司 | 文本分类方法、装置及设备 |
CN112418010A (zh) * | 2020-11-09 | 2021-02-26 | 电子科技大学 | 一种基于LightGBM融合模型的设备温度监测方法 |
CN114519114B (zh) * | 2020-11-20 | 2024-08-13 | 北京达佳互联信息技术有限公司 | 多媒体资源分类模型构建方法、装置、服务器及存储介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103324628A (zh) * | 2012-03-21 | 2013-09-25 | 腾讯科技(深圳)有限公司 | 一种针对发布文本的行业分类方法和系统 |
WO2018023981A1 (zh) * | 2016-08-03 | 2018-02-08 | 平安科技(深圳)有限公司 | 舆情分析方法、装置、设备及计算机可读存储介质 |
CN108108371A (zh) * | 2016-11-24 | 2018-06-01 | 北京国双科技有限公司 | 一种文本分类方法及装置 |
CN109299269A (zh) * | 2018-10-23 | 2019-02-01 | 阿里巴巴集团控股有限公司 | 一种文本分类方法和装置 |
CN109446404A (zh) * | 2018-08-30 | 2019-03-08 | 中国电子进出口有限公司 | 一种网络舆情的情感极性分析方法和装置 |
CN109492101A (zh) * | 2018-11-01 | 2019-03-19 | 山东大学 | 基于标签信息与文本特征的文本分类方法、系统及介质 |
CN109739985A (zh) * | 2018-12-26 | 2019-05-10 | 斑马网络技术有限公司 | 文本自动分类方法、设备及存储介质 |
CN109933656A (zh) * | 2019-03-15 | 2019-06-25 | 深圳市赛为智能股份有限公司 | 舆情极性预测方法、装置、计算机设备及存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10210157B2 (en) * | 2016-06-16 | 2019-02-19 | Conduent Business Services, Llc | Method and system for data processing for real-time text analysis |
-
2019
- 2019-09-24 CN CN201910902658.4A patent/CN110674297B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103324628A (zh) * | 2012-03-21 | 2013-09-25 | 腾讯科技(深圳)有限公司 | 一种针对发布文本的行业分类方法和系统 |
WO2018023981A1 (zh) * | 2016-08-03 | 2018-02-08 | 平安科技(深圳)有限公司 | 舆情分析方法、装置、设备及计算机可读存储介质 |
CN108108371A (zh) * | 2016-11-24 | 2018-06-01 | 北京国双科技有限公司 | 一种文本分类方法及装置 |
CN109446404A (zh) * | 2018-08-30 | 2019-03-08 | 中国电子进出口有限公司 | 一种网络舆情的情感极性分析方法和装置 |
CN109299269A (zh) * | 2018-10-23 | 2019-02-01 | 阿里巴巴集团控股有限公司 | 一种文本分类方法和装置 |
CN109492101A (zh) * | 2018-11-01 | 2019-03-19 | 山东大学 | 基于标签信息与文本特征的文本分类方法、系统及介质 |
CN109739985A (zh) * | 2018-12-26 | 2019-05-10 | 斑马网络技术有限公司 | 文本自动分类方法、设备及存储介质 |
CN109933656A (zh) * | 2019-03-15 | 2019-06-25 | 深圳市赛为智能股份有限公司 | 舆情极性预测方法、装置、计算机设备及存储介质 |
Non-Patent Citations (5)
Title |
---|
High Relevance Keyword Extraction facility for Bayesian text classification on different domains of varying characteristic;Lam HongLee et al.;《Expert Systems with Applications》;20120131;第39卷(第01期);第1147-1155页 * |
基于冲突分类模型的冲突解析算法;张棋飞 等;《软件学报》;20100331;第21卷(第03期);第548-563页 * |
基于卷积神经网络的中文新闻文本分类;蓝雯飞等;《中南民族大学学报(自然科学版)》;20180315;第37卷(第01期);第138-143页 * |
基于情感倾向性的网络舆情分析及演化预测研究;孙培星;《中国优秀博硕士学位论文全文数据库(硕士) 信息科技辑》;20160915;第2016年卷(第09期);第I138-597页 * |
基于语义规则与RNN模型的在线评论情感分类研究;邵良杉 等;《中文信息学报》;20190630;第33卷(第06期);第124-131页 * |
Also Published As
Publication number | Publication date |
---|---|
CN110674297A (zh) | 2020-01-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110674297B (zh) | 舆情文本分类模型构建和舆情文本分类方法、装置及设备 | |
JP5534280B2 (ja) | テキストクラスタリング装置、テキストクラスタリング方法、およびプログラム | |
US20190236135A1 (en) | Cross-lingual text classification | |
CN110597961B (zh) | 一种文本类目标注方法、装置、电子设备及存储介质 | |
US9875301B2 (en) | Learning multimedia semantics from large-scale unstructured data | |
US9224103B1 (en) | Automatic annotation for training and evaluation of semantic analysis engines | |
CN107808011A (zh) | 信息的分类抽取方法、装置、计算机设备和存储介质 | |
CN110046637B (zh) | 一种合同段落标注模型的训练方法、装置及设备 | |
CN110019820B (zh) | 一种病历中主诉与现病史症状时间一致性检测方法 | |
Patel et al. | Dynamic lexicon generation for natural scene images | |
Smitha et al. | Meme classification using textual and visual features | |
Hossari et al. | TEST: A terminology extraction system for technology related terms | |
CN111414471A (zh) | 用于输出信息的方法和装置 | |
CN109492401B (zh) | 一种内容载体风险检测方法、装置、设备及介质 | |
CN112765976A (zh) | 文本相似度计算方法、装置、设备及存储介质 | |
CN111126053B (zh) | 一种信息处理方法及相关设备 | |
CN111488450A (zh) | 一种用于生成关键词库的方法、装置和电子设备 | |
CN114792092B (zh) | 一种基于语义增强的文本主题抽取方法及装置 | |
KR102455747B1 (ko) | 딥러닝 알고리즘을 이용한 가짜 뉴스 탐지 모델 제공 시스템 및 방법 | |
CN114842982B (zh) | 一种面向医疗信息系统的知识表达方法、装置及系统 | |
CN114528417B (zh) | 知识图谱本体构建方法、装置、设备及可读存储介质 | |
CN116010545A (zh) | 一种数据处理方法、装置及设备 | |
Datta et al. | A supervised machine learning approach to fake news identification | |
CN115048523A (zh) | 文本分类方法、装置、设备以及存储介质 | |
US20210295036A1 (en) | Systematic language to enable natural language processing on technical diagrams |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |