CN112989044B - 文本分类方法、装置、设备及存储介质 - Google Patents
文本分类方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN112989044B CN112989044B CN202110286487.4A CN202110286487A CN112989044B CN 112989044 B CN112989044 B CN 112989044B CN 202110286487 A CN202110286487 A CN 202110286487A CN 112989044 B CN112989044 B CN 112989044B
- Authority
- CN
- China
- Prior art keywords
- text
- matrix
- vector
- output
- classified
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/12—Use of codes for handling textual entities
- G06F40/126—Character encoding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及人工智能,提供一种文本分类方法、装置、设备及存储介质。该方法能够获取待分类文本,对待分类文本进行向量化处理,得到文本向量,基于多个预设矩阵对文本向量进行迭代处理,得到多个输出向量,计算每个输出向量的输出权重,根据每个输出向量及每个输出权重生成语义向量,将语义向量输入至分类模型中,得到分类结果。本发明能够提高文本分类的准确度。此外,本发明还涉及区块链技术,所述分类结果可存储于区块链中。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及一种文本分类方法、装置、设备及存储介质。
背景技术
随着人工智能的发展,文本分类技术在各个应用系统中显得越发重要。例如,在搜索引擎中,通过对查询语句进行文本分类以识别出用户想要检索的相应主题;在智能问答系统中,通过文本分类识别出用户意图;在信息流推荐系统中,通过文本分类能够对文本内容进行主题或者标签分类等。
目前,通常通过识别BERT中最后一层的输出向量以完成文本分类任务,然而,由于不同分类任务对于语义信息的层级诉求是不同的,因此,该方式导致分类准确度低下。
发明内容
鉴于以上内容,有必要提供一种文本分类方法、装置、设备及存储介质,能够提高文本分类的准确度。
一方面,本发明提出一种文本分类方法,所述文本分类方法包括:
接收文本分类请求,根据所述文本分类请求获取待分类文本;
对所述待分类文本进行向量化处理,得到文本向量;
基于多个预设矩阵对所述文本向量进行迭代处理,得到所述待分类文本的多个输出向量;
根据所述多个输出向量计算每个输出向量在所述待分类文本上的输出权重;
根据每个输出向量及每个输出权重生成所述待分类文本的语义向量;
将所述语义向量输入至预先训练好的分类模型中,得到所述文本分类请求的分类结果。
根据本发明优选实施例,所述基于多个预设矩阵对所述文本向量进行迭代处理,得到所述待分类文本的多个输出向量包括:
基于多个预设矩阵处理所述文本向量,得到多个文本矩阵;
从所述多个文本矩阵中提取矩阵对及目标矩阵;
根据所述矩阵对计算每个词在所述待分类文本中的重要度;
根据所述重要度及所述目标矩阵生成所述待分类文本的输出向量,并将所述输出向量确定为下一次迭代处理的文本向量。
根据本发明优选实施例,所述根据所述矩阵对计算每个词在所述待分类文本中的重要度包括:
获取所述矩阵对中的第一矩阵及第二矩阵;
对所述第一矩阵进行转置处理,得到转置结果,并将所述转置结果乘以所述第二矩阵,得到所述待分类文本中每个词在所述待分类文本中的分数;
计算所述第二矩阵的维度,并根据所述分数及所述维度确定运算结果;
对所述运算结果进行归一化处理,得到所述重要度。
根据本发明优选实施例,所述根据所述多个输出向量计算每个输出向量在所述待分类文本上的输出权重包括:
获取预设参数向量,并将每个输出向量乘以所述预设参数向量,得到与每个输出向量对应的特征矩阵;
从所述特征矩阵中提取任意特征矩阵作为目标结果,并将所述特征矩阵中除所述目标结果外的特征矩阵确定为特征结果;
计算指数为所述特征结果,底数为预设值的幂指数值,得到特征数值,并计算指数为所述目标结果,底数为所述预设值的幂指数值,得到目标数值;
计算所述特征数值的总和,得到总数值,并将所述目标数值除以所述总数值,得到每个输出向量在所述待分类文本上的所述输出权重。
根据本发明优选实施例,所述根据每个输出向量及每个输出权重生成所述待分类文本的语义向量包括:
将每个输出向量乘以每个输出权重,得到多个权重向量;
计算所述多个权重向量的总和,得到所述语义向量。
根据本发明优选实施例,所述根据所述文本分类请求获取待分类文本包括:
解析所述文本分类请求的报文,得到所述报文携带的报文信息;
从所述报文信息中获取指示地址的信息作为存储地址;
从所述存储地址中获取任意文本作为所述待分类文本。
根据本发明优选实施例,在得到所述文本分类请求的分类结果之后,所述文本分类方法还包括:
从所述报文信息中获取指示请求的信息作为所述文本分类请求的请求编号;
根据所述请求编号及所述分类结果生成提示信息;
采用对称加密算法加密所述提示信息,得到目标密文,并确定所述文本分类请求的触发终端;
发送所述目标密文至所述触发终端。
另一方面,本发明还提出一种文本分类装置,所述文本分类装置包括:
获取单元,用于接收文本分类请求,根据所述文本分类请求获取待分类文本;
处理单元,用于对所述待分类文本进行向量化处理,得到文本向量;
所述处理单元,还用于基于多个预设矩阵对所述文本向量进行迭代处理,得到所述待分类文本的多个输出向量;
计算单元,用于根据所述多个输出向量计算每个输出向量在所述待分类文本上的输出权重;
生成单元,用于根据每个输出向量及每个输出权重生成所述待分类文本的语义向量;
输入单元,用于将所述语义向量输入至预先训练好的分类模型中,得到所述文本分类请求的分类结果。
另一方面,本发明还提出一种电子设备,所述电子设备包括:
存储器,存储计算机可读指令;及
处理器,执行所述存储器中存储的计算机可读指令以实现所述文本分类方法。
另一方面,本发明还提出一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机可读指令,所述计算机可读指令被电子设备中的处理器执行以实现所述文本分类方法。
由以上技术方案可以看出,本发明通过对所述文本向量进行迭代处理,能够在每次迭代处理后生成相应的输出向量,进而根据所述多个输出向量计算出每个输出向量在所述待分类文本上的输出权重,从而能够准确生成表征所述待分类文本的全局的语义向量,进而能够提高所述待分类文本的分类准确度。
附图说明
图1是本发明文本分类方法的较佳实施例的流程图。
图2是本发明文本分类装置的较佳实施例的功能模块图。
图3是本发明实现文本分类方法的较佳实施例的电子设备的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图和具体实施例对本发明进行详细描述。
如图1所示,是本发明文本分类方法的较佳实施例的流程图。根据不同的需求,该流程图中步骤的顺序可以改变,某些步骤可以省略。
所述文本分类方法应用于一个或者多个电子设备中,所述电子设备是一种能够按照事先设定或存储的计算机可读指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable Gate Array,FPGA)、数字信号处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述电子设备可以是任何一种可与用户进行人机交互的电子产品,例如,个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant,PDA)、游戏机、交互式网络电视(Internet Protocol Television,IPTV)、智能穿戴式设备等。
所述电子设备可以包括网络设备和/或用户设备。其中,所述网络设备包括,但不限于单个网络电子设备、多个网络电子设备组成的电子设备组或基于云计算(CloudComputing)的由大量主机或网络电子设备构成的云。
所述电子设备所处的网络包括,但不限于:互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network,VPN)等。
S10,接收文本分类请求,根据所述文本分类请求获取待分类文本。
在本发明的至少一个实施例中,所述文本分类请求可以由任意用户触发。所述文本分类请求中携带的信息包括,但不限于:存储所述待分类文本的地址、请求编号等。
所述待分类文本是指需要进行分类的文本。例如,所述待分类文本可以是指情感分类任务中的文本。
在本发明的至少一个实施例中,所述电子设备检测所述文本分类请求的发送设备是否合法,若所述发送设备合法,所述电子设备接收所述文本分类请求。
在本发明的至少一个实施例中,所述电子设备根据所述文本分类请求获取待分类文本包括:
解析所述文本分类请求的报文,得到所述报文携带的报文信息;
从所述报文信息中获取指示地址的信息作为存储地址;
从所述存储地址中获取任意文本作为所述待分类文本。
其中,所述报文信息包括,但不限于:所述存储地址等。
所述存储地址中存储多个需要进行分类的文本。
通过上述实施方式,由于无需解析整个所述文本分类请求,因此,能够提高所述文本分类请求的解析效率,从而能够提高所述存储地址的获取效率。
S11,对所述待分类文本进行向量化处理,得到文本向量。
在本发明的至少一个实施例中,所述文本向量是指将所述待分类文本转换为向量,所述文本向量是对所述待分类文本的直接映射。
在本发明的至少一个实施例中,所述电子设备对所述待分类文本进行向量化处理,得到文本向量包括:
获取预设字符,并拼接所述待分类文本与所述预设字符,得到待转换文本;
对所述待转换文本中每个词进行编码处理,得到所述待转换文本的编码矩阵;
对所述编码矩阵进行降维处理,得到所述文本向量。
其中,所述预设字符可以是任意用于分隔文本的字符。例如,所述预设字符可以是“SEP”。
通过对所述待转换文本中每个词进行编码处理,能够确保生成的所述编码矩阵具有唯一性,通过对所述编码矩阵进行降维处理,不仅能够使生成的所述文本向量具有所述待转换文本的上下文语义,还能够提高后续所述文本向量的处理效率。
具体地,所述电子设备获取编码映射表,进一步地,所述电子设备从所述编码映射表中获取与每个词对应的向量,进而拼接获取到的向量,得到所述编码矩阵。
S12,基于多个预设矩阵对所述文本向量进行迭代处理,得到所述待分类文本的多个输出向量。
在本发明的至少一个实施例中,所述多个预设矩阵可以自定义设置,所述多个预设矩阵的数量通常有三个。
所述多个输出向量的数量等于迭代处理的次数。每个输出向量为每次进行迭代处理的结果。
在本发明的至少一个实施例中,所述电子设备基于多个预设矩阵对所述文本向量进行迭代处理,得到所述待分类文本的多个输出向量包括:
基于多个预设矩阵处理所述文本向量,得到多个文本矩阵;
从所述多个文本矩阵中提取矩阵对及目标矩阵;
根据所述矩阵对计算每个词在所述待分类文本中的重要度;
根据所述重要度及所述目标矩阵生成所述待分类文本的输出向量,并将所述输出向量确定为下一次迭代处理的文本向量。
在本发明的至少一个实施例中,所述电子设备基于多个预设矩阵处理所述文本向量,得到多个文本矩阵包括:
将每个预设矩阵乘以所述文本向量,得到所述待分类文本的所述多个文本矩阵,所述多个文本矩阵的数量等于所述多个预设矩阵的数量。
通过上述实施方式,能够根据所述多个预设矩阵准确生成所述待分类文本的多种表征形式。
在本发明的至少一个实施例中,所述电子设备从所述多个文本矩阵中提取矩阵对及目标矩阵包括:
从所述多个文本矩阵中提取任意两个文本矩阵作为所述矩阵对;
将所述矩阵对从所述多个文本矩阵中剔除,得到所述目标矩阵。
通过上述实施方式,由于所述矩阵对是由所述多个文本矩阵中任意两个文本矩阵生成的,因此提高了所述多个输出向量的生成拟合度。
在本发明的至少一个实施例中,所述电子设备根据所述矩阵对计算每个词在所述待分类文本中的重要度包括:
获取所述矩阵对中的第一矩阵及第二矩阵;
对所述第一矩阵进行转置处理,得到转置结果,并将所述转置结果乘以所述第二矩阵,得到所述待分类文本中每个词在所述待分类文本中的分数;
计算所述第二矩阵的维度,并根据所述分数及所述维度确定运算结果;
对所述运算结果进行归一化处理,得到所述重要度。
通过上述实施方式,能够利用所述矩阵对计算出所述待分类文本中每个词在所述待分类文本中的分数,通过归一化处理,能够降低所述重要度的计算量。
在本发明的至少一个实施例中,所述电子设备根据所述重要度及所述目标矩阵生成所述待分类文本的输出向量包括:
将所述重要度乘以所述目标矩阵的转置,得到所述待分类文本的运算矩阵;
计算所述第二矩阵与所述运算矩阵的矩阵和,并对所述矩阵和进行归一化处理,得到所述输出向量。
通过将所述重要度乘以所述目标矩阵的转置,能够使生成的所述运算矩阵具有所述待分类文本中所有词的关联强度,进而能够生成具有所述待分类文本的语义的向量,有利于迭代运算。
S13,根据所述多个输出向量计算每个输出向量在所述待分类文本上的输出权重。
在本发明的至少一个实施例中,所述输出权重是指每个输出向量在所述待分类文本上的权重,所述输出权重的数量等于所述输出向量的数量。
在本发明的至少一个实施例中,所述电子设备根据所述多个输出向量计算每个输出向量在所述待分类文本上的输出权重包括:
获取预设参数向量,并将每个输出向量乘以所述预设参数向量,得到与每个输出向量对应的特征矩阵;
从所述特征矩阵中提取任意特征矩阵作为目标结果,并将所述特征矩阵中除所述目标结果外的特征矩阵确定为特征结果;
计算指数为所述特征结果,底数为预设值的幂指数值,得到特征数值,并计算指数为所述目标结果,底数为所述预设值的幂指数值,得到目标数值;
计算所述特征数值的总和,得到总数值,并将所述目标数值除以所述总数值,得到每个输出向量在所述待分类文本上的所述输出权重。
其中,所述预设参数向量是自定义设置的,本发明对所述预设参数向量的取值不作限制。
通过上述实施方式,能够根据每个输出向量与其他输出向量的关系,准确生成每个输出向量在所述待分类文本上的所述输出权重。
S14,根据每个输出向量及每个输出权重生成所述待分类文本的语义向量。
在本发明的至少一个实施例中,所述语义向量中具有每个输出向量的特征。
在本发明的至少一个实施例中,所述电子设备根据每个输出向量及每个输出权重生成所述待分类文本的语义向量包括:
将每个输出向量乘以每个输出权重,得到多个权重向量;
计算所述多个权重向量的总和,得到所述语义向量。
通过上述实施方式,能够使生成的所述语义向量中具有每个输出向量的特征,提高了所述语义向量的全局性,有利于对所述语义向量进行分类。
S15,将所述语义向量输入至预先训练好的分类模型中,得到所述文本分类请求的分类结果。
需要强调的是,为进一步保证上述分类结果的私密和安全性,上述分类结果还可以存储于一区块链的节点中。
在本发明的至少一个实施例中,所述分类模型是指用于文本分类的模型。
在本发明的至少一个实施例中,在将所述语义向量输入至预先训练好的分类模型中,得到所述文本分类请求的分类结果之前,所述方法还包括:
采用网络爬虫技术获取历史文本数据;
将所述历史文本数据输入到遗忘门层进行遗忘处理,得到训练文本数据;
采用交叉验证法将所述训练文本数据划分为训练集及验证集;
将所述训练集中的所述训练文本数据输入到输入门层进行训练,得到学习器;
根据所述验证集中的所述训练文本数据调整所述学习器,得到所述分类模型。
通过所述验证集中的所述训练文本数据对所述学习器进行调整,能够提高所述分类模型的分类结果。
具体地,所述电子设备采用交叉验证法将所述训练文本数据划分为训练集及验证集包括:
所述电子设备将所述训练文本数据按照预设比例随机划分为至少一个数据包,将所述至少一个数据包中的任意一个数据包确定为所述验证集,其余的数据包确定为所述训练集,重复上述步骤,直至所有的数据包全都依次被用作为所述验证集。
其中,所述预设比例可以自定义设置,本发明不作限制。
通过上述实施方式,使所述训练文本数据中的每个文本数据均参与训练及验证,能够提高训练所述分类模型的拟合度。
在本发明的至少一个实施例中,在得到所述文本分类请求的分类结果之后,所述文本分类方法还包括:
从所述报文信息中获取指示请求的信息作为所述文本分类请求的请求编号;
根据所述请求编号及所述分类结果生成提示信息;
采用对称加密算法加密所述提示信息,得到目标密文,并确定所述文本分类请求的触发终端;
发送所述目标密文至所述触发终端。
通过对称加密算法不仅能够快速生成所述提示信息的目标密文,还能够提高所述提示信息的安全性,进而将所述目标密文发送至所述触发终端中,有利于所述文本分类请求的触发用户及时接收到所述分类结果。
由以上技术方案可以看出,本发明通过对所述文本向量进行迭代处理,能够在每次迭代处理后生成相应的输出向量,进而根据所述多个输出向量计算出每个输出向量在所述待分类文本上的输出权重,从而能够准确生成表征所述待分类文本的全局的语义向量,进而能够提高所述待分类文本的分类准确度。
如图2所示,是本发明文本分类装置的较佳实施例的功能模块图。所述文本分类装置11包括获取单元110、处理单元111、计算单元112、生成单元113、输入单元114、划分单元115、调整单元116、确定单元117及发送单元118。本发明所称的模块/单元是指一种能够被处理器13所获取,并且能够完成固定功能的一系列计算机可读指令段,其存储在存储器12中。在本实施例中,关于各模块/单元的功能将在后续的实施例中详述。
获取单元110接收文本分类请求,根据所述文本分类请求获取待分类文本。
在本发明的至少一个实施例中,所述文本分类请求可以由任意用户触发。所述文本分类请求中携带的信息包括,但不限于:存储所述待分类文本的地址、请求编号等。
所述待分类文本是指需要进行分类的文本。例如,所述待分类文本可以是指情感分类任务中的文本。
在本发明的至少一个实施例中,所述获取单元110检测所述文本分类请求的发送设备是否合法,若所述发送设备合法,所述获取单元110接收所述文本分类请求。
在本发明的至少一个实施例中,所述获取单元110根据所述文本分类请求获取待分类文本包括:
解析所述文本分类请求的报文,得到所述报文携带的报文信息;
从所述报文信息中获取指示地址的信息作为存储地址;
从所述存储地址中获取任意文本作为所述待分类文本。
其中,所述报文信息包括,但不限于:所述存储地址等。
所述存储地址中存储多个需要进行分类的文本。
通过上述实施方式,由于无需解析整个所述文本分类请求,因此,能够提高所述文本分类请求的解析效率,从而能够提高所述存储地址的获取效率。
处理单元111对所述待分类文本进行向量化处理,得到文本向量。
在本发明的至少一个实施例中,所述文本向量是指将所述待分类文本转换为向量,所述文本向量是对所述待分类文本的直接映射。
在本发明的至少一个实施例中,所述处理单元111对所述待分类文本进行向量化处理,得到文本向量包括:
获取预设字符,并拼接所述待分类文本与所述预设字符,得到待转换文本;
对所述待转换文本中每个词进行编码处理,得到所述待转换文本的编码矩阵;
对所述编码矩阵进行降维处理,得到所述文本向量。
其中,所述预设字符可以是任意用于分隔文本的字符。例如,所述预设字符可以是“SEP”。
通过对所述待转换文本中每个词进行编码处理,能够确保生成的所述编码矩阵具有唯一性,通过对所述编码矩阵进行降维处理,不仅能够使生成的所述文本向量具有所述待转换文本的上下文语义,还能够提高后续所述文本向量的处理效率。
具体地,所述处理单元111获取编码映射表,进一步地,所述处理单元111从所述编码映射表中获取与每个词对应的向量,进而拼接获取到的向量,得到所述编码矩阵。
所述处理单元111基于多个预设矩阵对所述文本向量进行迭代处理,得到所述待分类文本的多个输出向量。
在本发明的至少一个实施例中,所述多个预设矩阵可以自定义设置,所述多个预设矩阵的数量通常有三个。
所述多个输出向量的数量等于迭代处理的次数。每个输出向量为每次进行迭代处理的结果。
在本发明的至少一个实施例中,所述处理单元111基于多个预设矩阵对所述文本向量进行迭代处理,得到所述待分类文本的多个输出向量包括:
基于多个预设矩阵处理所述文本向量,得到多个文本矩阵;
从所述多个文本矩阵中提取矩阵对及目标矩阵;
根据所述矩阵对计算每个词在所述待分类文本中的重要度;
根据所述重要度及所述目标矩阵生成所述待分类文本的输出向量,并将所述输出向量确定为下一次迭代处理的文本向量。
在本发明的至少一个实施例中,所述处理单元111基于多个预设矩阵处理所述文本向量,得到多个文本矩阵包括:
将每个预设矩阵乘以所述文本向量,得到所述待分类文本的所述多个文本矩阵,所述多个文本矩阵的数量等于所述多个预设矩阵的数量。
通过上述实施方式,能够根据所述多个预设矩阵准确生成所述待分类文本的多种表征形式。
在本发明的至少一个实施例中,所述处理单元111从所述多个文本矩阵中提取矩阵对及目标矩阵包括:
从所述多个文本矩阵中提取任意两个文本矩阵作为所述矩阵对;
将所述矩阵对从所述多个文本矩阵中剔除,得到所述目标矩阵。
通过上述实施方式,由于所述矩阵对是由所述多个文本矩阵中任意两个文本矩阵生成的,因此提高了所述多个输出向量的生成拟合度。
在本发明的至少一个实施例中,所述处理单元111根据所述矩阵对计算每个词在所述待分类文本中的重要度包括:
获取所述矩阵对中的第一矩阵及第二矩阵;
对所述第一矩阵进行转置处理,得到转置结果,并将所述转置结果乘以所述第二矩阵,得到所述待分类文本中每个词在所述待分类文本中的分数;
计算所述第二矩阵的维度,并根据所述分数及所述维度确定运算结果;
对所述运算结果进行归一化处理,得到所述重要度。
通过上述实施方式,能够利用所述矩阵对计算出所述待分类文本中每个词在所述待分类文本中的分数,通过归一化处理,能够降低所述重要度的计算量。
在本发明的至少一个实施例中,所述处理单元111根据所述重要度及所述目标矩阵生成所述待分类文本的输出向量包括:
将所述重要度乘以所述目标矩阵的转置,得到所述待分类文本的运算矩阵;
计算所述第二矩阵与所述运算矩阵的矩阵和,并对所述矩阵和进行归一化处理,得到所述输出向量。
通过将所述重要度乘以所述目标矩阵的转置,能够使生成的所述运算矩阵具有所述待分类文本中所有词的关联强度,进而能够生成具有所述待分类文本的语义的向量,有利于迭代运算。
计算单元112根据所述多个输出向量计算每个输出向量在所述待分类文本上的输出权重。
在本发明的至少一个实施例中,所述输出权重是指每个输出向量在所述待分类文本上的权重,所述输出权重的数量等于所述输出向量的数量。
在本发明的至少一个实施例中,所述计算单元112根据所述多个输出向量计算每个输出向量在所述待分类文本上的输出权重包括:
获取预设参数向量,并将每个输出向量乘以所述预设参数向量,得到与每个输出向量对应的特征矩阵;
从所述特征矩阵中提取任意特征矩阵作为目标结果,并将所述特征矩阵中除所述目标结果外的特征矩阵确定为特征结果;
计算指数为所述特征结果,底数为预设值的幂指数值,得到特征数值,并计算指数为所述目标结果,底数为所述预设值的幂指数值,得到目标数值;
计算所述特征数值的总和,得到总数值,并将所述目标数值除以所述总数值,得到每个输出向量在所述待分类文本上的所述输出权重。
其中,所述预设参数向量是自定义设置的,本发明对所述预设参数向量的取值不作限制。
通过上述实施方式,能够根据每个输出向量与其他输出向量的关系,准确生成每个输出向量在所述待分类文本上的所述输出权重。
生成单元113根据每个输出向量及每个输出权重生成所述待分类文本的语义向量。
在本发明的至少一个实施例中,所述语义向量中具有每个输出向量的特征。
在本发明的至少一个实施例中,所述生成单元113根据每个输出向量及每个输出权重生成所述待分类文本的语义向量包括:
将每个输出向量乘以每个输出权重,得到多个权重向量;
计算所述多个权重向量的总和,得到所述语义向量。
通过上述实施方式,能够使生成的所述语义向量中具有每个输出向量的特征,提高了所述语义向量的全局性,有利于对所述语义向量进行分类。
输入单元114将所述语义向量输入至预先训练好的分类模型中,得到所述文本分类请求的分类结果。
需要强调的是,为进一步保证上述分类结果的私密和安全性,上述分类结果还可以存储于一区块链的节点中。
在本发明的至少一个实施例中,所述分类模型是指用于文本分类的模型。
在本发明的至少一个实施例中,在将所述语义向量输入至预先训练好的分类模型中,得到所述文本分类请求的分类结果之前,所述获取单元110采用网络爬虫技术获取历史文本数据;
所述处理单元111将所述历史文本数据输入到遗忘门层进行遗忘处理,得到训练文本数据;
划分单元115采用交叉验证法将所述训练文本数据划分为训练集及验证集;
所述输入单元114将所述训练集中的所述训练文本数据输入到输入门层进行训练,得到学习器;
调整单元116根据所述验证集中的所述训练文本数据调整所述学习器,得到所述分类模型。
通过所述验证集中的所述训练文本数据对所述学习器进行调整,能够提高所述分类模型的分类结果。
具体地,所述划分单元115采用交叉验证法将所述训练文本数据划分为训练集及验证集包括:
所述划分单元115将所述训练文本数据按照预设比例随机划分为至少一个数据包,将所述至少一个数据包中的任意一个数据包确定为所述验证集,其余的数据包确定为所述训练集,重复上述步骤,直至所有的数据包全都依次被用作为所述验证集。
其中,所述预设比例可以自定义设置,本发明不作限制。
通过上述实施方式,使所述训练文本数据中的每个文本数据均参与训练及验证,能够提高训练所述分类模型的拟合度。
在本发明的至少一个实施例中,在得到所述文本分类请求的分类结果之后,所述取单元110从所述报文信息中获取指示请求的信息作为所述文本分类请求的请求编号;
所述生成单元113根据所述请求编号及所述分类结果生成提示信息;
确定单元117采用对称加密算法加密所述提示信息,得到目标密文,并确定所述文本分类请求的触发终端;
发送单元118发送所述目标密文至所述触发终端。
通过对称加密算法不仅能够快速生成所述提示信息的目标密文,还能够提高所述提示信息的安全性,进而将所述目标密文发送至所述触发终端中,有利于所述文本分类请求的触发用户及时接收到所述分类结果。
由以上技术方案可以看出,本发明通过对所述文本向量进行迭代处理,能够在每次迭代处理后生成相应的输出向量,进而根据所述多个输出向量计算出每个输出向量在所述待分类文本上的输出权重,从而能够准确生成表征所述待分类文本的全局的语义向量,进而能够提高所述待分类文本的分类准确度。
如图3所示,是本发明实现文本分类方法的较佳实施例的电子设备的结构示意图。
在本发明的一个实施例中,所述电子设备1包括,但不限于,存储器12、处理器13,以及存储在所述存储器12中并可在所述处理器13上运行的计算机可读指令,例如文本分类程序。
本领域技术人员可以理解,所述示意图仅仅是电子设备1的示例,并不构成对电子设备1的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述电子设备1还可以包括输入输出设备、网络接入设备、总线等。
所述处理器13可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等,所述处理器13是所述电子设备1的运算核心和控制中心,利用各种接口和线路连接整个电子设备1的各个部分,及执行所述电子设备1的操作系统以及安装的各类应用程序、程序代码等。
示例性的,所述计算机可读指令可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器12中,并由所述处理器13执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机可读指令段,该计算机可读指令段用于描述所述计算机可读指令在所述电子设备1中的执行过程。例如,所述计算机可读指令可以被分割成获取单元110、处理单元111、计算单元112、生成单元113、输入单元114、划分单元115、调整单元116、确定单元117及发送单元118。
所述存储器12可用于存储所述计算机可读指令和/或模块,所述处理器13通过运行或执行存储在所述存储器12内的计算机可读指令和/或模块,以及调用存储在存储器12内的数据,实现所述电子设备1的各种功能。所述存储器12可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据电子设备的使用所创建的数据等。存储器12可以包括非易失性和易失性存储器,例如:硬盘、内存、插接式硬盘,智能存储卡(SmartMedia Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他存储器件。
所述存储器12可以是电子设备1的外部存储器和/或内部存储器。进一步地,所述存储器12可以是具有实物形式的存储器,如内存条、TF卡(Trans-flash Card)等等。
所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机可读指令来指令相关的硬件来完成,所述的计算机可读指令可存储于一计算机可读存储介质中,该计算机可读指令在被处理器执行时,可实现上述各个方法实施例的步骤。
其中,所述计算机可读指令包括计算机可读指令代码,所述计算机可读指令代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机可读指令代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
结合图1,所述电子设备1中的所述存储器12存储计算机可读指令实现一种文本分类方法,所述处理器13可执行所述计算机可读指令从而实现:
接收文本分类请求,根据所述文本分类请求获取待分类文本;
对所述待分类文本进行向量化处理,得到文本向量;
基于多个预设矩阵对所述文本向量进行迭代处理,得到所述待分类文本的多个输出向量;
根据所述多个输出向量计算每个输出向量在所述待分类文本上的输出权重;
根据每个输出向量及每个输出权重生成所述待分类文本的语义向量;
将所述语义向量输入至预先训练好的分类模型中,得到所述文本分类请求的分类结果。
具体地,所述处理器13对上述计算机可读指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述计算机可读存储介质上存储有计算机可读指令,其中,所述计算机可读指令被处理器13执行时用以实现以下步骤:
接收文本分类请求,根据所述文本分类请求获取待分类文本;
对所述待分类文本进行向量化处理,得到文本向量;
基于多个预设矩阵对所述文本向量进行迭代处理,得到所述待分类文本的多个输出向量;
根据所述多个输出向量计算每个输出向量在所述待分类文本上的输出权重;
根据每个输出向量及每个输出权重生成所述待分类文本的语义向量;
将所述语义向量输入至预先训练好的分类模型中,得到所述文本分类请求的分类结果。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。所述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一、第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (8)
1.一种文本分类方法,其特征在于,所述文本分类方法包括:
接收文本分类请求,根据所述文本分类请求获取待分类文本;
对所述待分类文本进行向量化处理,得到文本向量;
基于多个预设矩阵对所述文本向量进行迭代处理,得到所述待分类文本的多个输出向量,包括:基于多个预设矩阵处理所述文本向量,得到多个文本矩阵;从所述多个文本矩阵中提取矩阵对及目标矩阵;根据所述矩阵对计算每个词在所述待分类文本中的重要度;根据所述重要度及所述目标矩阵生成所述待分类文本的输出向量,并将所述输出向量确定为下一次迭代处理的文本向量,其中,所述根据所述矩阵对计算每个词在所述待分类文本中的重要度包括:获取所述矩阵对中的第一矩阵及第二矩阵;对所述第一矩阵进行转置处理,得到转置结果,并将所述转置结果乘以所述第二矩阵,得到所述待分类文本中每个词在所述待分类文本中的分数;计算所述第二矩阵的维度,并根据所述分数及所述维度确定运算结果;对所述运算结果进行归一化处理,得到所述重要度;
根据所述多个输出向量计算每个输出向量在所述待分类文本上的输出权重;
根据每个输出向量及每个输出权重生成所述待分类文本的语义向量;
将所述语义向量输入至预先训练好的分类模型中,得到所述文本分类请求的分类结果。
2.如权利要求1所述的文本分类方法,其特征在于,所述根据所述多个输出向量计算每个输出向量在所述待分类文本上的输出权重包括:
获取预设参数向量,并将每个输出向量乘以所述预设参数向量,得到与每个输出向量对应的特征矩阵;
从所述特征矩阵中提取任意特征矩阵作为目标结果,并将所述特征矩阵中除所述目标结果外的特征矩阵确定为特征结果;
计算指数为所述特征结果,底数为预设值的幂指数值,得到特征数值,并计算指数为所述目标结果,底数为所述预设值的幂指数值,得到目标数值;
计算所述特征数值的总和,得到总数值,并将所述目标数值除以所述总数值,得到每个输出向量在所述待分类文本上的所述输出权重。
3.如权利要求1所述的文本分类方法,其特征在于,所述根据每个输出向量及每个输出权重生成所述待分类文本的语义向量包括:
将每个输出向量乘以每个输出权重,得到多个权重向量;
计算所述多个权重向量的总和,得到所述语义向量。
4.如权利要求1所述的文本分类方法,其特征在于,所述根据所述文本分类请求获取待分类文本包括:
解析所述文本分类请求的报文,得到所述报文携带的报文信息;
从所述报文信息中获取指示地址的信息作为存储地址;
从所述存储地址中获取任意文本作为所述待分类文本。
5.如权利要求4所述的文本分类方法,其特征在于,在得到所述文本分类请求的分类结果之后,所述文本分类方法还包括:
从所述报文信息中获取指示请求的信息作为所述文本分类请求的请求编号;
根据所述请求编号及所述分类结果生成提示信息;
采用对称加密算法加密所述提示信息,得到目标密文,并确定所述文本分类请求的触发终端;
发送所述目标密文至所述触发终端。
6.一种文本分类装置,其特征在于,所述文本分类装置包括:
获取单元,用于接收文本分类请求,根据所述文本分类请求获取待分类文本;
处理单元,用于对所述待分类文本进行向量化处理,得到文本向量;
所述处理单元,还用于基于多个预设矩阵对所述文本向量进行迭代处理,得到所述待分类文本的多个输出向量,包括:基于多个预设矩阵处理所述文本向量,得到多个文本矩阵;从所述多个文本矩阵中提取矩阵对及目标矩阵;根据所述矩阵对计算每个词在所述待分类文本中的重要度;根据所述重要度及所述目标矩阵生成所述待分类文本的输出向量,并将所述输出向量确定为下一次迭代处理的文本向量,其中,所述根据所述矩阵对计算每个词在所述待分类文本中的重要度包括:获取所述矩阵对中的第一矩阵及第二矩阵;对所述第一矩阵进行转置处理,得到转置结果,并将所述转置结果乘以所述第二矩阵,得到所述待分类文本中每个词在所述待分类文本中的分数;计算所述第二矩阵的维度,并根据所述分数及所述维度确定运算结果;对所述运算结果进行归一化处理,得到所述重要度;
计算单元,用于根据所述多个输出向量计算每个输出向量在所述待分类文本上的输出权重;
生成单元,用于根据每个输出向量及每个输出权重生成所述待分类文本的语义向量;
输入单元,用于将所述语义向量输入至预先训练好的分类模型中,得到所述文本分类请求的分类结果。
7.一种电子设备,其特征在于,所述电子设备包括:
存储器,存储有计算机可读指令;及
处理器,执行所述存储器中存储的计算机可读指令以实现如权利要求1至5中任意一项所述的文本分类方法。
8.一种计算机可读存储介质,其特征在于:所述计算机可读存储介质中存储有计算机可读指令,所述计算机可读指令被电子设备中的处理器执行以实现如权利要求1至5中任意一项所述的文本分类方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110286487.4A CN112989044B (zh) | 2021-03-17 | 2021-03-17 | 文本分类方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110286487.4A CN112989044B (zh) | 2021-03-17 | 2021-03-17 | 文本分类方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112989044A CN112989044A (zh) | 2021-06-18 |
CN112989044B true CN112989044B (zh) | 2022-11-18 |
Family
ID=76332725
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110286487.4A Active CN112989044B (zh) | 2021-03-17 | 2021-03-17 | 文本分类方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112989044B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116975400B (zh) * | 2023-08-03 | 2024-05-24 | 星环信息科技(上海)股份有限公司 | 一种数据分类分级方法、装置、电子设备及存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106547885A (zh) * | 2016-10-27 | 2017-03-29 | 桂林电子科技大学 | 一种文本分类系统及方法 |
CN111026869A (zh) * | 2019-12-10 | 2020-04-17 | 山东大学 | 一种利用基于多层注意力的序列生成网络进行多罪名预测的方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108334605B (zh) * | 2018-02-01 | 2020-06-16 | 腾讯科技(深圳)有限公司 | 文本分类方法、装置、计算机设备及存储介质 |
-
2021
- 2021-03-17 CN CN202110286487.4A patent/CN112989044B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106547885A (zh) * | 2016-10-27 | 2017-03-29 | 桂林电子科技大学 | 一种文本分类系统及方法 |
CN111026869A (zh) * | 2019-12-10 | 2020-04-17 | 山东大学 | 一种利用基于多层注意力的序列生成网络进行多罪名预测的方法 |
Non-Patent Citations (1)
Title |
---|
基于论文标题和摘要的短文本分类研究;薛峰等;《合肥工业大学学报(自然科学版)》;20181028(第10期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN112989044A (zh) | 2021-06-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113268597B (zh) | 文本分类方法、装置、设备及存储介质 | |
CN113656547B (zh) | 文本匹配方法、装置、设备及存储介质 | |
CN113283675B (zh) | 指标数据分析方法、装置、设备及存储介质 | |
CN113032528B (zh) | 案件分析方法、装置、设备及存储介质 | |
CN112395886B (zh) | 相似文本确定方法及相关设备 | |
CN114035827A (zh) | 应用程序更新方法、装置、设备及存储介质 | |
CN112053143B (zh) | 资金路由方法、装置、电子设备及存储介质 | |
CN115237802A (zh) | 基于人工智能的模拟测试方法及相关设备 | |
CN113064973A (zh) | 文本分类方法、装置、设备及存储介质 | |
CN113536770B (zh) | 基于人工智能的文本解析方法、装置、设备及存储介质 | |
CN113420143B (zh) | 文书摘要生成方法、装置、设备及存储介质 | |
CN113938408B (zh) | 一种数据流量测试方法、装置、服务器及存储介质 | |
CN112989044B (zh) | 文本分类方法、装置、设备及存储介质 | |
CN113064972A (zh) | 智能问答方法、装置、设备及存储介质 | |
CN113269179A (zh) | 数据处理方法、装置、设备及存储介质 | |
CN113420545B (zh) | 摘要生成方法、装置、设备及存储介质 | |
CN114581177B (zh) | 产品推荐方法、装置、设备及存储介质 | |
CN113326365B (zh) | 回复语句生成方法、装置、设备及存储介质 | |
CN113343700B (zh) | 数据处理方法、装置、设备及存储介质 | |
CN114943474A (zh) | 研发工作量检测方法、装置、设备及存储介质 | |
CN112949305B (zh) | 负反馈信息采集方法、装置、设备及存储介质 | |
CN113434273B (zh) | 数据处理方法、装置、系统及存储介质 | |
CN113901821A (zh) | 一种实体命名识别方法、装置、设备及存储介质 | |
CN113486680A (zh) | 文本翻译方法、装置、设备及存储介质 | |
CN113468334B (zh) | 密文情感分类方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |