CN107491541B - 文本分类方法及装置 - Google Patents
文本分类方法及装置 Download PDFInfo
- Publication number
- CN107491541B CN107491541B CN201710736895.9A CN201710736895A CN107491541B CN 107491541 B CN107491541 B CN 107491541B CN 201710736895 A CN201710736895 A CN 201710736895A CN 107491541 B CN107491541 B CN 107491541B
- Authority
- CN
- China
- Prior art keywords
- word
- vector
- text
- matrix
- word segmentation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 55
- 239000013598 vector Substances 0.000 claims abstract description 211
- 239000011159 matrix material Substances 0.000 claims abstract description 148
- 230000011218 segmentation Effects 0.000 claims abstract description 119
- 238000012549 training Methods 0.000 claims abstract description 81
- 238000012360 testing method Methods 0.000 claims description 48
- 230000015654 memory Effects 0.000 claims description 23
- 238000003860 storage Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 11
- 238000004364 calculation method Methods 0.000 claims description 9
- 238000001914 filtration Methods 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 26
- 238000012545 processing Methods 0.000 description 22
- 238000005516 engineering process Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 238000010801 machine learning Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 230000006872 improvement Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000005291 magnetic effect Effects 0.000 description 4
- 230000007115 recruitment Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000036541 health Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000012706 support-vector machine Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 2
- 238000003066 decision tree Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000007477 logistic regression Methods 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000006403 short-term memory Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/335—Filtering based on additional data, e.g. user or group profiles
- G06F16/337—Profile generation, learning or modification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/284—Lexical analysis, e.g. tokenisation or collocates
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开涉及文本分类方法及装置。该方法包括：对训练文本进行分词，得到第一分词结果；根据第一分词结果得到第一分词集合；从第一分词集合中抽取关键词，得到第一关键词集合；确定第一分词集合对应的第一词矩阵；确定第一关键词集合对应的第二词矩阵；计算第二词矩阵的第一中心向量；将第一词矩阵中的各个词向量和第一中心向量输入注意力模型，得到训练文本的特征向量，其中，注意力模型采用BiLSTM模型作为编码模型；根据训练文本的特征向量和训练文本的类别，训练文本分类器。本公开训练得到的文本分类器能够提高文本分类的准确度。
Description
技术领域
本公开涉及信息技术领域，尤其涉及一种文本分类方法及装置。
背景技术
近年来，随着互联网、社交网络、云计算等技术和概念的提出和逐渐普及，每日需要被处理的数据量急剧增长。这其中文本数据一直占据着数据的主导地位，与声音、图像等数据相比较，文本数据具有体积小、信息量大、传播易和获取方便等特点。针对海量文本数据，我们面临着如何进行有效的信息挖掘、分析和处理，以获取所需要的信息的问题。
数据量的显著增大越来越能体现机器学习的必要性和重要性。机器学习旨在研究如何让机器模拟人类的思考学习方式，进而让机器自己得到想学习到的最终结果。
文本分类是文本挖掘和信息检索的基础技术之一。文本分类即是通过一系列的判定条件对指定的一个或多个文本进行类别的判断(归类的过程)。如何用机器学习的方法将文本进行分类一直是我们关注的方向。通过机器学习来进行文本分类的难点在于计算机没有“自我的意识”，不懂如何根据实际环境因素进行灵活变通，这样分析出的结果可能和人工方式分类结果的准确度相差很大。
机器学习分类方法时至今日取得了一些客观的进展。较早的基于机器学习的文本分类方法是朴素贝叶斯(
Bayes，NB)，它采用相对简单的分类器根据条件概率计算待判断文章的类型。但随着数据量的急剧增大，朴素贝叶斯算法逐渐不再适用。之后出现的KNN(K-Nearest Neighbor，K最邻近)算法较适合多文本分类的情况，样本在每个样本集中寻找临近相似的样本，通过找到相似样本的多少确定在哪一个类。然而，KNN只在每个样本类数量都比较均衡的情况下才会较准确。SVM(Support Vector Machine，支持向量机)算法是目前在机器学习领域使用最广泛、性能最好的分类器之一。但SVM适用于二分类，而文本分类大多是多个分类。决策树算法是一个树结构(可以是二叉树或非二叉树)，其每个非叶节点表示一个特征属性，每个分支代表这个特征属性在某个值域上的输出，每个叶节点存放一个类别；决策树算法对连续性字段比较难预测，并存在对时间上混序的数据需要预处理的工作等缺陷。循环神经网络不同于前几个较简单的算法，其模拟了时间顺序上的数据前者对后者的影响力，具有单一输入/输出层和多隐含层的模拟神经结构，然而循环神经网络依然在时间上存在梯度爆炸的问题。
当前，虽然基于机器学习的文本分类技术取得了一些进展，但是在大数据环境下，由于文本数据的分布不均匀、关系繁杂、种类繁多和更新速度快等特征，给文本分类带来了严峻的挑战。我们需要对文本分类技术进行更深入的研究，研究更高效的文本分类方法，取得更好的分类效果，以适应DT(Data Technology，数据科技)时代的发展需要。
发明内容
有鉴于此，本公开提出了一种文本分类方法及装置，以获得更准确的文本分类结果。
根据本公开的一方面，提供了一种文本分类方法，包括：
对训练文本进行分词，得到第一分词结果；
根据所述第一分词结果得到第一分词集合；
从所述第一分词集合中抽取关键词，得到第一关键词集合；
确定所述第一分词集合对应的第一词矩阵；
确定所述第一关键词集合对应的第二词矩阵；
计算所述第二词矩阵的第一中心向量；
将所述第一词矩阵中的各个词向量和所述第一中心向量输入注意力模型，得到所述训练文本的特征向量，其中，所述注意力模型采用BiLSTM模型作为编码模型；
根据所述训练文本的特征向量和所述训练文本的类别，训练文本分类器。
在一种可能的实现方式中，将所述第一词矩阵中的各个词向量和所述第一中心向量输入注意力模型，得到所述训练文本的特征向量，包括：
将所述第一词矩阵中的各个词向量和所述第一中心向量输入注意力模型；
根据所述BiLSTM模型前序时所述第一词矩阵中的各个词向量与所述第一中心向量的相似度，以及所述BiLSTM模型后序时所述第一词矩阵中的各个词向量与所述第一中心向量的相似度，确定所述第一词矩阵中的各个词向量对应的注意力概率；
根据所述注意力概率，得到所述注意力模型的输出结果；
根据所述注意力模型的输出结果，以及所述BiLSTM模型对应于所述第一中心向量的前序和后序的隐藏层状态值，确定所述训练文本的特征向量。
在一种可能的实现方式中，根据所述第一分词结果得到第一分词集合，包括：
过滤所述第一分词结果中的停用词，得到所述第一分词集合。
在一种可能的实现方式中，在根据所述训练文本的特征向量和所述训练文本的类别，训练文本分类器之后，所述方法还包括：
对测试文本进行分词，得到第二分词结果；
根据所述第二分词结果得到第二分词集合；
从所述第二分词集合中抽取关键词，得到第二关键词集合；
确定所述第二分词集合对应的第三词矩阵；
确定所述第二关键词集合对应的第四词矩阵；
计算所述第四词矩阵的第二中心向量；
将所述第三词矩阵中的各个词向量和所述第二中心向量输入所述注意力模型，得到所述测试文本的特征向量；
根据所述测试文本的特征向量对所述文本分类器进行测试，并根据测试结果调整所述文本分类器的参数。
在一种可能的实现方式中，在根据所述训练文本的特征向量和所述训练文本的类别，训练文本分类器之后，所述方法还包括：
对待分类文本进行分词，得到第三分词结果；
根据所述第三分词结果得到第三分词集合；
从所述第三分词集合中抽取关键词，得到第三关键词集合；
确定所述第三分词集合对应的第五词矩阵；
确定所述第三关键词集合对应的第六词矩阵；
计算所述第六词矩阵的第三中心向量；
将所述第五词矩阵中的各个词向量和所述第三中心向量输入所述注意力模型，得到所述待分类文本的特征向量；
将所述待分类文本的特征向量输入所述文本分类器，得到所述待分类文本的类别。
根据本公开的另一方面，提供了一种文本分类装置，包括：
第一分词模块，用于对训练文本进行分词，得到第一分词结果；
第一分词集合确定模块，用于根据所述第一分词结果得到第一分词集合；
第一关键词集合确定模块，用于从所述第一分词集合中抽取关键词，得到第一关键词集合；
第一词矩阵确定模块，用于确定所述第一分词集合对应的第一词矩阵；
第二词矩阵确定模块，用于确定所述第一关键词集合对应的第二词矩阵；
第一计算模块，用于计算所述第二词矩阵的第一中心向量；
第一特征向量确定模块，用于将所述第一词矩阵中的各个词向量和所述第一中心向量输入注意力模型，得到所述训练文本的特征向量，其中，所述注意力模型采用BiLSTM模型作为编码模型；
训练模块，用于根据所述训练文本的特征向量和所述训练文本的类别，训练文本分类器。
在一种可能的实现方式中，所述第一特征向量确定模块包括：
输入子模块，用于将所述第一词矩阵中的各个词向量和所述第一中心向量输入注意力模型；
注意力概率确定子模块，用于根据所述BiLSTM模型前序时所述第一词矩阵中的各个词向量与所述第一中心向量的相似度，以及所述BiLSTM模型后序时所述第一词矩阵中的各个词向量与所述第一中心向量的相似度，确定所述第一词矩阵中的各个词向量对应的注意力概率；
输出结果确定子模块，用于根据所述注意力概率，得到所述注意力模型的输出结果；
特征向量确定子模块，用于根据所述注意力模型的输出结果，以及所述BiLSTM模型对应于所述第一中心向量的前序和后序的隐藏层状态值，确定所述训练文本的特征向量。
在一种可能的实现方式中，所述第一分词集合确定模块用于：
过滤所述第一分词结果中的停用词，得到所述第一分词集合。
在一种可能的实现方式中，所述装置还包括：
第二分词模块，用于对测试文本进行分词，得到第二分词结果；
第二分词集合确定模块，用于根据所述第二分词结果得到第二分词集合；
第二关键词集合确定模块，用于从所述第二分词集合中抽取关键词，得到第二关键词集合；
第三词矩阵确定模块，用于确定所述第二分词集合对应的第三词矩阵；
第四词矩阵确定模块，用于确定所述第二关键词集合对应的第四词矩阵；
第二计算模块，用于计算所述第四词矩阵的第二中心向量；
第二特征向量确定模块，用于将所述第三词矩阵中的各个词向量和所述第二中心向量输入所述注意力模型，得到所述测试文本的特征向量；
测试模块，用于根据所述测试文本的特征向量对所述文本分类器进行测试，并根据测试结果调整所述文本分类器的参数。
在一种可能的实现方式中，所述装置还包括：
第三分词模块，用于对待分类文本进行分词，得到第三分词结果；
第三分词集合确定模块，用于根据所述第三分词结果得到第三分词集合；
第三关键词集合确定模块，用于从所述第三分词集合中抽取关键词，得到第三关键词集合；
第五词矩阵确定模块，用于确定所述第三分词集合对应的第五词矩阵；
第六词矩阵确定模块，用于确定所述第三关键词集合对应的第六词矩阵；
第三计算模块，用于计算所述第六词矩阵的第三中心向量；
第三特征向量确定模块，用于将所述第五词矩阵中的各个词向量和所述第三中心向量输入所述注意力模型，得到所述待分类文本的特征向量；
分类模块，用于将所述待分类文本的特征向量输入所述文本分类器，得到所述待分类文本的类别。
根据本公开的另一方面，提供了一种文本分类装置，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为执行上述方法。
根据本公开的另一方面，提供了一种非易失性计算机可读存储介质，其上存储有计算机程序指令，其中，所述计算机程序指令被处理器执行时实现上述方法。
本公开的各方面的文本分类方法及装置通过结合注意力模型和BiLSTM模型，融合训练文本的关键词的特征和BiLSTM模型的特征训练文本分类器，由此训练得到的文本分类器能够提高文本分类的准确度。
根据下面参考附图对示例性实施例的详细说明，本公开的其它特征及方面将变得清楚。
附图说明
包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面，并且用于解释本公开的原理。
图1示出根据本公开一实施例的文本分类方法的流程图。
图2示出根据本公开一实施例的文本分类方法步骤S107的一示例性的流程图。
图3示出根据本公开一实施例的文本分类方法的特征提取示意图。
图4示出根据本公开一实施例的文本分类方法的一示例性的流程图。
图5示出根据本公开一实施例的文本分类方法的一示例性的流程图。
图6示出了各方法的分类正确率的折线图。
图7示出根据本公开一实施例的文本分类装置的框图。
图8示出根据本公开一实施例的文本分类装置的一示例性的框图。
图9是根据一示例性实施例示出的一种用于文本分类的装置800的框图。
图10是根据一示例性实施例示出的一种用于文本分类的装置1900的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面，但是除非特别指出，不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
另外，为了更好的说明本公开，在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解，没有某些具体细节，本公开同样可以实施。在一些实例中，对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述，以便于凸显本公开的主旨。
图1示出根据本公开一实施例的文本分类方法的流程图。如图1所示，该方法包括步骤S101至步骤S108。
在步骤S101中，对训练文本进行分词，得到第一分词结果。
作为本实施例的一个示例，可以将数据集N划分为训练文本集N1和测试文本集N2，其中，N＝N1∪N2。训练文本集N1的类别的总数可以为K。
作为本实施例的一个示例，可以采用NLPIR系统或者ICTCLAS2016系统等，对训练文本进行分词，得到第一分词结果。
在步骤S102中，根据第一分词结果得到第一分词集合。
在一种可能的实现方式中，根据第一分词结果得到第一分词集合，包括：过滤第一分词结果中的停用词，得到第一分词集合。其中，停用词(Stop Words)可以指为了提高文本处理效率，在处理文本之前或之后需要过滤的词。
作为该实现方式的一个示例，可以采用停用词表过滤第一分词结果中的停用词，得到第i个训练文本对应的第一分词集合Si＝{si1,si2,…,sij,…,sin}，其中，sij表示第一分词集合中的第j个词，n表示第一分词集合中的词的总数。
在另一种可能的实现方式中，可以将第一分词结果中的所有词加入第一分词集合中。
在步骤S103中，从第一分词集合中抽取关键词，得到第一关键词集合。
作为本实施例的一个示例，可以采用TextRank方法从第一分词集合中抽取关键词。
在本实施例中，第i个训练文本对应的第一关键词集合可以表示为Di＝{di1,di2,…,dij,…dil}，其中，dij表示第一关键词集合中的第j个关键词，l表示第一关键词集合中的关键词的总数。
在步骤S104中，确定第一分词集合对应的第一词矩阵。
作为本实施例的一个示例，可以采用Word2Vec的CBoW(Continuous Bag ofWords，连续的词袋)模型确定第一分词集合Si对应的第一词矩阵为：
在步骤S105中，确定第一关键词集合对应的第二词矩阵。
为本实施例的一个示例，可以采用Word2Vec的CBoW(Continuous Bag of Words，连续的词袋)模型确定第一关键词集合Di对应的第二词矩阵为：
在步骤S106中，计算第二词矩阵的第一中心向量。
在本实施例中，第二词矩阵包括l个关键词，分别为wi1＝(wi11,wi12,…,wi1k)，wi2＝(wi21,wi22,…,wi2k)，……，wil＝(wil1,wil2,…,wilk)。第二词矩阵的l个关键词的第一中心向量为：
其中，第一中心向量W(l)也为k维向量。
在步骤S107中，将第一词矩阵中的各个词向量和第一中心向量输入注意力模型，得到训练文本的特征向量，其中，注意力模型采用BiLSTM(Bi Long Short Term Memory，双向长短期记忆网络)模型作为编码模型。
注意力模型(A-M，Attention Model)是一种模拟人脑注意力的模型。注意力模型认为人脑注意事物只会注意某一点，而忽略其他地方。注意力模型在产生输出的时候，会产生一个注意力范围，该注意力范围用来表示接下来输出时要重点关注输入序列中的哪些部分，并根据关注的部分来产生下一个输出。
在步骤S108中，根据训练文本的特征向量和训练文本的类别，训练文本分类器。
在本实施例中，文本分类器的输入为文本的特征向量，文本分类器的输出为文本的类别。
作为本实施例的一个示例，文本分类器可以为Logistic(逻辑)回归多分类分类器。
本实施例通过结合注意力模型和BiLSTM模型，融合训练文本的关键词的特征和BiLSTM模型的特征训练文本分类器，由此训练得到的文本分类器能够提高文本分类的准确度。
图2示出根据本公开一实施例的文本分类方法步骤S107的一示例性的流程图。如图2所示，步骤S107可以包括步骤S1071至步骤S1074。
在步骤S1071中，将第一词矩阵中的各个词向量和第一中心向量输入注意力模型。
图3示出根据本公开一实施例的文本分类方法的特征提取示意图。如图3所示，将第一词矩阵中的各个词向量vi1＝(vi11,vi12,…,vi1k)，vi2＝(vi21,vi22,…,vi2k)，……，vin＝(vin1,vin2,…,vink)，以及第一中心向量为W(l)，输入注意力模型。在图3中，h1，h2，……，hn分别表示BiLSTM模型前序时的隐藏层状态值，h1′，h2′，……，hn′分别表示BiLSTM模型前序时的隐藏层状态值。在图3中，p为大于3且小于n的整数，q为大于p且小于n的整数。
需要说明的是，对于第一词矩阵中的词向量，虽然在图3中仅示出了vi1、vi2、vi3、vip、viq和vin，但本领域技术人员能够理解，第一词矩阵可以包括更多或者更少的词向量。同理，BiLSTM模型前序时的隐藏层状态值h1至hn，BiLSTM模型前序时的隐藏层状态值h1′至hn′，以及输出值y1至yn也是如此。
在步骤S1072中，根据BiLSTM模型前序时第一词矩阵中的各个词向量与第一中心向量的相似度，以及BiLSTM模型后序时第一词矩阵中的各个词向量与第一中心向量的相似度，确定第一词矩阵中的各个词向量对应的注意力概率。
例如，第一词矩阵的词向量vip与第一中心向量W(l)的相似度为：
r表示维度，W(l)r表示第一中心向量W(l)的第r维的值。
例如，aip表示BiLSTM模型前序时第一词矩阵中的词向量vip与第一中心向量W(l)的相似度，bip表示BiLSTM模型后序时第一词矩阵中的词向量vip与第一中心向量W(l)的相似度，则第一词矩阵中的词向量vip对应的注意力概率
若第一词矩阵中的词向量vip对应的注意力概率Cp等于0，则可以表示第一词矩阵中的词向量vip与第一中心向量W(l)完全不同；若第一词矩阵中的词向量vip对应的注意力概率Cp等于1，则可以表示第一词矩阵中的词向量vip与第一中心向量W(l)完全相同。
在步骤S1073中，根据注意力概率，得到注意力模型的输出结果。
注意力模型的输出
在步骤S1074中，根据注意力模型的输出结果，以及BiLSTM模型对应于第一中心向量的前序和后序的隐藏层状态值，确定训练文本的特征向量。
在图3中，BiLSTM模型对应于第一中心向量的前序的隐藏层状态值为H，BiLSTM模型对应于第一中心向量的后序的隐藏层状态值为H′。在本实施例中，训练文本的特征向量可以为Y′＝(yn,H,H′)。
图4示出根据本公开一实施例的文本分类方法的一示例性的流程图。如图4所示，在步骤S108之后，该方法还可以包括步骤S109至步骤S116(图4中未示出步骤S101至步骤S108)。
在步骤S109中，对测试文本进行分词，得到第二分词结果。
在步骤S110中，根据第二分词结果得到第二分词集合。
在步骤S111中，从第二分词集合中抽取关键词，得到第二关键词集合。
在步骤S112中，确定第二分词集合对应的第三词矩阵。
在步骤S113中，确定第二关键词集合对应的第四词矩阵。
在步骤S114中，计算第四词矩阵的第二中心向量。
在步骤S115中，将第三词矩阵中的各个词向量和第二中心向量输入注意力模型，得到测试文本的特征向量。
其中，步骤S109至步骤S115与步骤S101至步骤S107相似，在此不再赘述。
在步骤S116中，根据测试文本的特征向量对文本分类器进行测试，并根据测试结果调整文本分类器的参数。
在本实施例中，根据测试文本的特征向量对文本分类器进行测试，并根据测试结果调整文本分类器的参数，从而能够进一步提高文本分类器的分类准确性。
图5示出根据本公开一实施例的文本分类方法的一示例性的流程图。如图5所示，在步骤S116之后，该方法还可以包括步骤S117至步骤S124(图5中未示出步骤S101至步骤S116)。
在步骤S117中，对待分类文本进行分词，得到第三分词结果。
在步骤S118中，根据第三分词结果得到第三分词集合。
在步骤S119中，从第三分词集合中抽取关键词，得到第三关键词集合。
在步骤S120中，确定第三分词集合对应的第五词矩阵。
在步骤S121中，确定第三关键词集合对应的第六词矩阵。
在步骤S122中，计算第六词矩阵的第三中心向量。
在步骤S123中，将第五词矩阵中的各个词向量和第三中心向量输入注意力模型，得到待分类文本的特征向量。
其中，步骤S117至步骤S123与步骤S101至步骤S107相似，在此不再赘述。
在步骤S124中，将待分类文本的特征向量输入文本分类器，得到待分类文本的类别。
采用本实施例训练的文本分类器进行文本分类，能够提高文本分类的准确度。
应用示例
本应用示例的实验数据来自于Sougou20061127的语料库，其包含了互联网、健康、军事、财经、教育、旅游、文化、体育以及招聘9大类(每类1990篇中文文本,共计17910篇，48.2MB)，我们从每类文本中，按照一定的比例抽取了12935篇文本(互联网90％、健康90％、军事80％、财经80％、教育70％、旅游70％、文化60％、体育60％、招聘50％)作为训练文本，抽取5％(每类100篇)作为测试文本。
表1：实验数据的分类情况
| 类别 | 总数据 | 训练数据 | 测试数据 |
| 互联网 | 1990 | 1791 | 100 |
| 健康 | 1990 | 1791 | 100 |
| 军事 | 1990 | 1592 | 100 |
| 财经 | 1990 | 1592 | 100 |
| 教育 | 1990 | 1393 | 100 |
| 旅游 | 1990 | 1393 | 100 |
| 文化 | 1990 | 1194 | 100 |
| 体育 | 1990 | 1194 | 100 |
| 招聘 | 1990 | 995 | 100 |
| 合计 | 17910 | 12935 | 900 |
在该应用示例中，可以采用分词工具ICTCLAS2016对训练文本和测试文本进行分词。
在该应用示例中，可以采用TextRank4ZH for python抽取训练文本和测试文本中的关键词。对于每个训练文本或每个测试文本，可以分别抽取5、7、9、11、13个关键词。
在该应用示例中，可以采用Word2Vec进行词的向量化训练，向量的维度可以为100维。
在该应用示例中，可以使用基于TensorFlow的Logistic回归多分类器，将训练文本或测试文本的特征向量作为输入，进行分类。
采用训练得到的分类器对测试文本进行分类测试，并与LSTM(Long Short TermMemory，长短期记忆网络)、BiLSTM、KNN相比较，结果如下：
表2：准确率比较
表3：召回率比较
表4：F1值比较
其中，
其中，P表示某一类别的分类准确率，A表示正确分类到该类别的文本数，C表示所有分类到该类别的文本数。
其中，R表示某一类别的召回率，D表示正确分类到各个类别的文本数。
图6示出了各方法的分类正确率的折线图。
相对于KNN、LSTM和BiLSTM，本实施例提供的方法在整体上具有一定的优势。本实施例提供的方法相对于KNN的平均F1值有接近30％的提高，相对于LSTM模型有超过10％的提高，相对于BiLSTM模型也有约10％的提高。
关键词的准确程度对于本实施例的分类结果也有较大的影响，从实验结果可以看出，当提取的关键词数量越多时，其计算得到的中心向量就越稳定，从而文本的分类效果就越好。例如，当提取的关键词数量为13时，相较于关键词数量为5时的F1平均值，有10％的提高。
此外，训练文本集的大小对于本实施例的分类结果也有一定的影响。从实验结果可以看出，训练文本集越大，则测试的分类效果越好。例如，互联网类别(训练文本集包括1791个训练文本)相对于招聘类别(训练文本集包括995个训练文本)，测试效果由10％左右的差距。
图7示出根据本公开一实施例的文本分类装置的框图。如图7所示，该装置包括第一分词模块701、第一分词集合确定模块702、第一关键词集合确定模块703、第一词矩阵确定模块704、第二词矩阵确定模块705、第一计算模块706、第一特征向量确定模块707和训练模块708。
该第一分词模块701，用于对训练文本进行分词，得到第一分词结果。
该第一分词集合确定模块702，用于根据第一分词结果得到第一分词集合。
该第一关键词集合确定模块703，用于从第一分词集合中抽取关键词，得到第一关键词集合。
该第一词矩阵确定模块704，用于确定第一分词集合对应的第一词矩阵。
该第二词矩阵确定模块705，用于确定第一关键词集合对应的第二词矩阵。
该第一计算模块706，用于计算第二词矩阵的第一中心向量。
该第一特征向量确定模块707，用于将第一词矩阵中的各个词向量和第一中心向量输入注意力模型，得到训练文本的特征向量，其中，注意力模型采用BiLSTM模型作为编码模型。
该训练模块708，用于根据训练文本的特征向量和训练文本的类别，训练文本分类器。
图8示出根据本公开一实施例的文本分类装置的一示例性的框图。
在一种可能的实现方式中，第一特征向量确定模块707包括输入子模块7071、注意力概率确定子模块7072、输出结果确定子模块7073和特征向量确定子模块7074。
该输入子模块7071，用于将第一词矩阵中的各个词向量和第一中心向量输入注意力模型。
该注意力概率确定子模块7072，用于根据BiLSTM模型前序时第一词矩阵中的各个词向量与第一中心向量的相似度，以及BiLSTM模型后序时第一词矩阵中的各个词向量与第一中心向量的相似度，确定第一词矩阵中的各个词向量对应的注意力概率。
该输出结果确定子模块7073，用于根据注意力概率，得到注意力模型的输出结果。
该特征向量确定子模块7074，用于根据注意力模型的输出结果，以及BiLSTM模型对应于第一中心向量的前序和后序的隐藏层状态值，确定训练文本的特征向量。
在一种可能的实现方式中，第一分词集合确定模块702用于：
过滤第一分词结果中的停用词，得到第一分词集合。
在一种可能的实现方式中，装置还包括第二分词模块709、第二分词集合确定模块710、第二关键词集合确定模块711、第三词矩阵确定模块712、第四词矩阵确定模块713、第二计算模块714、第二特征向量确定模块715和测试模块716。
该第二分词模块709，用于对测试文本进行分词，得到第二分词结果。
该第二分词集合确定模块710，用于根据第二分词结果得到第二分词集合。
该第二关键词集合确定模块711，用于从第二分词集合中抽取关键词，得到第二关键词集合。
该第三词矩阵确定模块712，用于确定第二分词集合对应的第三词矩阵。
该第四词矩阵确定模块713，用于确定第二关键词集合对应的第四词矩阵。
该第二计算模块714，用于计算第四词矩阵的第二中心向量。
该第二特征向量确定模块715，用于将第三词矩阵中的各个词向量和第二中心向量输入注意力模型，得到测试文本的特征向量。
该测试模块716，用于根据测试文本的特征向量对文本分类器进行测试，并根据测试结果调整文本分类器的参数。
在一种可能的实现方式中，装置还包括第三分词模块717、第三分词集合确定模块718、第三关键词集合确定模块719、第五词矩阵确定模块720、第六词矩阵确定模块721、第三计算模块722、第三特征向量确定模块723和分类模块724。
该第三分词模块717，用于对待分类文本进行分词，得到第三分词结果。
该第三分词集合确定模块718，用于根据第三分词结果得到第三分词集合。
该第三关键词集合确定模块719，用于从第三分词集合中抽取关键词，得到第三关键词集合。
该第五词矩阵确定模块720，用于确定第三分词集合对应的第五词矩阵。
该第六词矩阵确定模块721，用于确定第三关键词集合对应的第六词矩阵。
该第三计算模块722，用于计算第六词矩阵的第三中心向量。
该第三特征向量确定模块723，用于将第五词矩阵中的各个词向量和第三中心向量输入注意力模型，得到待分类文本的特征向量。
该分类模块724，用于将待分类文本的特征向量输入文本分类器，得到待分类文本的类别。
本实施例通过结合注意力模型和BiLSTM模型，融合训练文本的关键词的特征和BiLSTM模型的特征训练文本分类器，由此训练得到的文本分类器能够提高文本分类的准确度。
图9是根据一示例性实施例示出的一种用于文本分类的装置800的框图。例如，装置800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
参照图9，装置800可以包括以下一个或多个组件：处理组件802，存储器804，电源组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口812，传感器组件814，以及通信组件816。
处理组件802通常控制装置800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理组件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在装置800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电源组件806为装置800的各种组件提供电力。电源组件806可以包括电源管理系统，一个或多个电源，及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当装置800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当装置800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器，用于为装置800提供各个方面的状态评估。例如，传感器组件814可以检测到装置800的打开/关闭状态，组件的相对定位，例如所述组件为装置800的显示器和小键盘，传感器组件814还可以检测装置800或装置800一个组件的位置改变，用户与装置800接触的存在或不存在，装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种非易失性计算机可读存储介质，例如包括计算机程序指令的存储器804，上述计算机程序指令可由装置800的处理器820执行以完成上述方法。
图10是根据一示例性实施例示出的一种用于文本分类的装置1900的框图。例如，装置1900可以被提供为一服务器。参照图10，装置1900包括处理组件1922，其进一步包括一个或多个处理器，以及由存储器1932所代表的存储器资源，用于存储可由处理组件1922的执行的指令，例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件1922被配置为执行指令，以执行上述方法。
装置1900还可以包括一个电源组件1926被配置为执行装置1900的电源管理，一个有线或无线网络接口1950被配置为将装置1900连接到网络，和一个输入输出(I/O)接口1958。装置1900可以操作基于存储在存储器1932的操作系统，例如Windows ServerTM，MacOS XTM，UnixTM,LinuxTM，FreeBSDTM或类似。
在示例性实施例中，还提供了一种非易失性计算机可读存储介质，例如包括计算机程序指令的存储器1932，上述计算机程序指令可由装置1900的处理组件1922执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等，以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)，该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (10)
1.一种文本分类方法，其特征在于，包括：
对训练文本进行分词，得到第一分词结果；
根据所述第一分词结果得到第一分词集合；
从所述第一分词集合中抽取关键词，得到第一关键词集合；
确定所述第一分词集合对应的第一词矩阵；
确定所述第一关键词集合对应的第二词矩阵；
计算所述第二词矩阵的第一中心向量；
将所述第一词矩阵中的各个词向量和所述第一中心向量输入注意力模型，得到所述训练文本的特征向量，其中，所述注意力模型采用BiLSTM模型作为编码模型；
根据所述训练文本的特征向量和所述训练文本的类别，训练文本分类器；
其中，所述第一词矩阵中的各个词向量和所述第一中心向量输入注意力模型，得到所述训练文本的特征向量，包括：
将所述第一词矩阵中的各个词向量和所述第一中心向量输入注意力模型；
根据公式
确定所述第一词矩阵中的各个词向量对应的注意力概率，其中，Cp表示所述第一词矩阵中的词向量vip对应的注意力概率，aip表示所述BiLSTM模型前序时所述第一词矩阵中的词向量vip与第一中心向量的相似度，bip表示所述BiLSTM模型后序时第一词矩阵中的词向量vip与第一中心向量的相似度，hp表示BiLSTM模型前序时所述第一词矩阵中的词向量vip的隐藏层状态值，hp’表示BiLSTM模型后序时所述第一词矩阵中的词向量vip的隐藏层状态值；
根据所述注意力概率，得到所述注意力模型的输出结果；
根据所述注意力模型的输出结果，以及所述BiLSTM模型对应于所述第一中心向量的前序和后序的隐藏层状态值，确定所述训练文本的特征向量。
2.根据权利要求1所述的方法，其特征在于，根据所述第一分词结果得到第一分词集合，包括：
过滤所述第一分词结果中的停用词，得到所述第一分词集合。
3.根据权利要求1所述的方法，其特征在于，在根据所述训练文本的特征向量和所述训练文本的类别，训练文本分类器之后，所述方法还包括：
对测试文本进行分词，得到第二分词结果；
根据所述第二分词结果得到第二分词集合；
从所述第二分词集合中抽取关键词，得到第二关键词集合；
确定所述第二分词集合对应的第三词矩阵；
确定所述第二关键词集合对应的第四词矩阵；
计算所述第四词矩阵的第二中心向量；
将所述第三词矩阵中的各个词向量和所述第二中心向量输入所述注意力模型，得到所述测试文本的特征向量；
根据所述测试文本的特征向量对所述文本分类器进行测试，并根据测试结果调整所述文本分类器的参数。
4.根据权利要求3中所述的方法，其特征在于，在根据测试结果调整所述文本分类器的参数之后，所述方法还包括：
对待分类文本进行分词，得到第三分词结果；
根据所述第三分词结果得到第三分词集合；
从所述第三分词集合中抽取关键词，得到第三关键词集合；
确定所述第三分词集合对应的第五词矩阵；
确定所述第三关键词集合对应的第六词矩阵；
计算所述第六词矩阵的第三中心向量；
将所述第五词矩阵中的各个词向量和所述第三中心向量输入所述注意力模型，得到所述待分类文本的特征向量；
将所述待分类文本的特征向量输入所述文本分类器，得到所述待分类文本的类别。
5.一种文本分类装置，其特征在于，包括：
第一分词模块，用于对训练文本进行分词，得到第一分词结果；
第一分词集合确定模块，用于根据所述第一分词结果得到第一分词集合；
第一关键词集合确定模块，用于从所述第一分词集合中抽取关键词，得到第一关键词集合；
第一词矩阵确定模块，用于确定所述第一分词集合对应的第一词矩阵；
第二词矩阵确定模块，用于确定所述第一关键词集合对应的第二词矩阵；
第一计算模块，用于计算所述第二词矩阵的第一中心向量；
第一特征向量确定模块，用于将所述第一词矩阵中的各个词向量和所述第一中心向量输入注意力模型，得到所述训练文本的特征向量，其中，所述注意力模型采用BiLSTM模型作为编码模型；
训练模块，用于根据所述训练文本的特征向量和所述训练文本的类别，训练文本分类器；
其中，所述第一特征向量确定模块包括：
输入子模块，用于将所述第一词矩阵中的各个词向量和所述第一中心向量输入注意力模型；
注意力概率确定子模块，用于根据公式
确定所述第一词矩阵中的各个词向量对应的注意力概率，其中，Cp表示所述第一词矩阵中的词向量vip对应的注意力概率，aip表示所述BiLSTM模型前序时所述第一词矩阵中的词向量vip与第一中心向量的相似度，bip表示所述BiLSTM模型后序时第一词矩阵中的词向量vip与第一中心向量的相似度，hp表示BiLSTM模型前序时所述第一词矩阵中的词向量vip的隐藏层状态值，hp’表示BiLSTM模型后序时所述第一词矩阵中的词向量vip的隐藏层状态值；
输出结果确定子模块，用于根据所述注意力概率，得到所述注意力模型的输出结果；
特征向量确定子模块，用于根据所述注意力模型的输出结果，以及所述BiLSTM模型对应于所述第一中心向量的前序和后序的隐藏层状态值，确定所述训练文本的特征向量。
6.根据权利要求5所述的装置，其特征在于，所述第一分词集合确定模块用于：
过滤所述第一分词结果中的停用词，得到所述第一分词集合。
7.根据权利要求5所述的装置，其特征在于，所述装置还包括：
第二分词模块，用于对测试文本进行分词，得到第二分词结果；
第二分词集合确定模块，用于根据所述第二分词结果得到第二分词集合；
第二关键词集合确定模块，用于从所述第二分词集合中抽取关键词，得到第二关键词集合；
第三词矩阵确定模块，用于确定所述第二分词集合对应的第三词矩阵；
第四词矩阵确定模块，用于确定所述第二关键词集合对应的第四词矩阵；
第二计算模块，用于计算所述第四词矩阵的第二中心向量；
第二特征向量确定模块，用于将所述第三词矩阵中的各个词向量和所述第二中心向量输入所述注意力模型，得到所述测试文本的特征向量；
测试模块，用于根据所述测试文本的特征向量对所述文本分类器进行测试，并根据测试结果调整所述文本分类器的参数。
8.根据权利要求5至7中任意一项所述的装置，所述装置还包括：
第三分词模块，用于对待分类文本进行分词，得到第三分词结果；
第三分词集合确定模块，用于根据所述第三分词结果得到第三分词集合；
第三关键词集合确定模块，用于从所述第三分词集合中抽取关键词，得到第三关键词集合；
第五词矩阵确定模块，用于确定所述第三分词集合对应的第五词矩阵；
第六词矩阵确定模块，用于确定所述第三关键词集合对应的第六词矩阵；
第三计算模块，用于计算所述第六词矩阵的第三中心向量；
第三特征向量确定模块，用于将所述第五词矩阵中的各个词向量和所述第三中心向量输入所述注意力模型，得到所述待分类文本的特征向量；
分类模块，用于将所述待分类文本的特征向量输入所述文本分类器，得到所述待分类文本的类别。
9.一种文本分类装置，其特征在于，包括：
处理器；
用于存储处理器可执行指令的存储器；
其中，所述处理器被配置为执行权利要求1至4中任意一项所述的方法。
10.一种非易失性计算机可读存储介质，其上存储有计算机程序指令，其特征在于，所述计算机程序指令被处理器执行时实现权利要求1至4中任意一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710736895.9A CN107491541B (zh) | 2017-08-24 | 2017-08-24 | 文本分类方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710736895.9A CN107491541B (zh) | 2017-08-24 | 2017-08-24 | 文本分类方法及装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN107491541A CN107491541A (zh) | 2017-12-19 |
| CN107491541B true CN107491541B (zh) | 2021-03-02 |
Family
ID=60645836
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201710736895.9A Active CN107491541B (zh) | 2017-08-24 | 2017-08-24 | 文本分类方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107491541B (zh) |
Families Citing this family (25)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108460089B (zh) * | 2018-01-23 | 2022-03-01 | 海南师范大学 | 基于Attention神经网络的多元特征融合中文文本分类方法 |
| CN110245343B (zh) * | 2018-03-07 | 2022-09-09 | 阿里巴巴（中国）有限公司 | 弹幕分析方法及装置 |
| CN108563722B (zh) * | 2018-04-03 | 2021-04-02 | 有米科技股份有限公司 | 文本信息的行业分类方法、系统、计算机设备和存储介质 |
| CN108647200A (zh) * | 2018-04-04 | 2018-10-12 | 顺丰科技有限公司 | 对话意图分类方法及装置、设备和存储介质 |
| CN108595542B (zh) * | 2018-04-08 | 2021-11-02 | 北京奇艺世纪科技有限公司 | 一种文本分类模型生成、文本分类方法及装置 |
| CN108536825A (zh) * | 2018-04-10 | 2018-09-14 | 苏州市中地行信息技术有限公司 | 一种识别房源数据是否重复的方法 |
| US11397851B2 (en) * | 2018-04-13 | 2022-07-26 | International Business Machines Corporation | Classifying text to determine a goal type used to select machine learning algorithm outcomes |
| CN108829823A (zh) * | 2018-06-13 | 2018-11-16 | 北京信息科技大学 | 一种文本分类方法 |
| CN109543714B (zh) * | 2018-10-16 | 2020-03-27 | 北京达佳互联信息技术有限公司 | 数据特征的获取方法、装置、电子设备及存储介质 |
| CN109493931B (zh) * | 2018-10-25 | 2024-06-04 | 平安科技（深圳）有限公司 | 一种病历文件的编码方法、服务器及计算机可读存储介质 |
| CN111241269B (zh) * | 2018-11-09 | 2024-02-23 | 中移（杭州）信息技术有限公司 | 一种短信文本分类方法、装置、电子设备及存储介质 |
| CN109472310B (zh) * | 2018-11-12 | 2022-08-09 | 深圳八爪网络科技有限公司 | 确定两份简历为相同人才的识别方法及装置 |
| CN109785833A (zh) * | 2019-01-02 | 2019-05-21 | 苏宁易购集团股份有限公司 | 用于智能设备的人机交互语音识别方法及系统 |
| CN111723199A (zh) * | 2019-03-19 | 2020-09-29 | 北京沃东天骏信息技术有限公司 | 文本的分类方法、装置和计算机可读存储介质 |
| CN110245227B (zh) * | 2019-04-25 | 2021-12-28 | 义语智能科技(广州)有限公司 | 文本分类的融合分类器的训练方法及设备 |
| CN112579730A (zh) * | 2019-09-11 | 2021-03-30 | 慧科讯业有限公司 | 高扩展性、多标签的文本分类方法和装置 |
| CN110796160B (zh) * | 2019-09-16 | 2024-08-23 | 腾讯科技（深圳）有限公司 | 一种文本分类方法、装置和存储介质 |
| CN112749274B (zh) * | 2019-10-30 | 2022-11-18 | 中南大学 | 基于注意力机制和干扰词删除的中文文本分类方法 |
| CN110909224B (zh) * | 2019-11-22 | 2022-06-10 | 浙江大学 | 一种基于人工智能的敏感数据自动分类识别方法及系统 |
| CN111078833B (zh) * | 2019-12-03 | 2022-05-20 | 哈尔滨工程大学 | 一种基于神经网络的文本分类方法 |
| CN111145914B (zh) * | 2019-12-30 | 2023-08-04 | 四川大学华西医院 | 一种确定肺癌临床病种库文本实体的方法及装置 |
| CN112749557A (zh) * | 2020-08-06 | 2021-05-04 | 腾讯科技（深圳）有限公司 | 文本处理模型的构建方法和文本处理方法 |
| CN112860882B (zh) * | 2021-01-18 | 2022-05-10 | 浙江大学 | 一种基于神经网络的图书概念前后序关系抽取方法 |
| CN115048515A (zh) * | 2022-06-09 | 2022-09-13 | 广西力意智能科技有限公司 | 文档分类方法、装置、设备和存储介质 |
| CN115344693B (zh) * | 2022-07-11 | 2023-05-12 | 北京容联易通信息技术有限公司 | 一种基于传统算法和神经网络算法融合的聚类方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3164872B2 (ja) * | 1992-02-17 | 2001-05-14 | 三菱電機株式会社 | 情報データベース装置 |
| CN106126596A (zh) * | 2016-06-20 | 2016-11-16 | 中国科学院自动化研究所 | 一种基于层次化记忆网络的问答方法 |
| CN106372640A (zh) * | 2016-08-19 | 2017-02-01 | 中山大学 | 一种字频文本分类方法 |
| CN107066583A (zh) * | 2017-04-14 | 2017-08-18 | 华侨大学 | 一种基于紧凑双线性融合的图文跨模态情感分类方法 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105955964B (zh) * | 2016-06-13 | 2019-11-22 | 北京百度网讯科技有限公司 | 一种自动生成诗歌的方法和装置 |
| CN106528858A (zh) * | 2016-11-29 | 2017-03-22 | 北京百度网讯科技有限公司 | 歌词生成方法及装置 |
-
2017
- 2017-08-24 CN CN201710736895.9A patent/CN107491541B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3164872B2 (ja) * | 1992-02-17 | 2001-05-14 | 三菱電機株式会社 | 情報データベース装置 |
| CN106126596A (zh) * | 2016-06-20 | 2016-11-16 | 中国科学院自动化研究所 | 一种基于层次化记忆网络的问答方法 |
| CN106372640A (zh) * | 2016-08-19 | 2017-02-01 | 中山大学 | 一种字频文本分类方法 |
| CN107066583A (zh) * | 2017-04-14 | 2017-08-18 | 华侨大学 | 一种基于紧凑双线性融合的图文跨模态情感分类方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN107491541A (zh) | 2017-12-19 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107491541B (zh) | 文本分类方法及装置 | |
| TWI759722B (zh) | 神經網路訓練方法及裝置、圖像處理方法及裝置、電子設備和計算機可讀存儲介質 | |
| TWI728564B (zh) | 圖像的描述語句定位方法及電子設備和儲存介質 | |
| CN109089133B (zh) | 视频处理方法及装置、电子设备和存储介质 | |
| CN111310616B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
| CN110909815B (zh) | 神经网络训练、图像处理方法、装置及电子设备 | |
| CN110598504B (zh) | 图像识别方法及装置、电子设备和存储介质 | |
| CN110781957B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
| CN111191715A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
| CN111259967B (zh) | 图像分类及神经网络训练方法、装置、设备及存储介质 | |
| CN111931844B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
| CN109934275B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
| CN111581488A (zh) | 一种数据处理方法及装置、电子设备和存储介质 | |
| CN109615006B (zh) | 文字识别方法及装置、电子设备和存储介质 | |
| CN110532956B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
| CN111242303B (zh) | 网络训练方法及装置、图像处理方法及装置 | |
| CN109920016B (zh) | 图像生成方法及装置、电子设备和存储介质 | |
| CN113326768B (zh) | 训练方法、图像特征提取方法、图像识别方法及装置 | |
| CN113792207A (zh) | 一种基于多层次特征表示对齐的跨模态检索方法 | |
| CN110659690B (zh) | 神经网络的构建方法及装置、电子设备和存储介质 | |
| CN104077597B (zh) | 图像分类方法及装置 | |
| WO2020192113A1 (zh) | 图像处理方法及装置、电子设备和存储介质 | |
| CN114332503A (zh) | 对象重识别方法及装置、电子设备和存储介质 | |
| CN111582383A (zh) | 属性识别方法及装置、电子设备和存储介质 | |
| CN112559673A (zh) | 语言处理模型的训练方法及装置、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |