CN109960730A - 一种基于特征扩展的短文本分类方法、装置以及设备 - Google Patents
一种基于特征扩展的短文本分类方法、装置以及设备 Download PDFInfo
- Publication number
- CN109960730A CN109960730A CN201910319576.7A CN201910319576A CN109960730A CN 109960730 A CN109960730 A CN 109960730A CN 201910319576 A CN201910319576 A CN 201910319576A CN 109960730 A CN109960730 A CN 109960730A
- Authority
- CN
- China
- Prior art keywords
- feature
- short text
- text
- matrix
- processed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种基于特征扩展的短文本分类方法、装置、设备及计算机可读存储介质,包括:提取待处理短文本的文本特征后,检测文本特征中是否包含有不存在于预建的特征空间内且不是词聚类指示矩阵经过降维处理后被删除的特征;词聚类指示矩阵为预先对短文本训练集的关系矩阵进行非负矩阵分解后得到的;特征空间为预先对词聚类指示矩阵进行降维后得到的;若文本特征中不存在待更新特征,则根据特征空间确定待处理短文本的最相关特征;依据最相关特征对文本特征进行扩展;将扩展后的文本特征输入预设分类器中,输出待处理短文本的分类结果。本发明所提供的方法、装置、设备及计算机可读存储介质,根据短文本单词间的相关性实现了短文本的特征扩展。
Description
技术领域
本发明涉及语义识别技术领域,特别是涉及一种基于特征扩展的短文本分类方法、装置、设备以及计算机可读存储介质。
背景技术
随着大数据时代的到来,互联网上的信息呈爆炸式增长,用户在各种媒体平台上生成的数据占据了网络信息资源的主体。短文本作为一种便捷的信息传输形式,因其更新速度快、易于扩散的特点,使互联网中积累了海量的短文本数据。由于短文本存在字数限制和编写不规范的特点,使得提取的特征稀疏,因此,解决上述问题成为短文本研究领域的一个热点。
短文本特征扩展解决是短文本特征稀疏的问题,从而提高短文本分类的准确率。而短文本分类是许多应用的关键步骤,例如,信息检索,问答系统等。
考虑到短文本特征的稀疏性,传统的词袋(BOW)表示不再是分析短文本最合适的模型。处理稀疏性的一种解决方案是通过Web搜索、词汇数据库或机器翻译提供的语义信息来扩展短文本特征,称为基于外部资源的方法。然而基于外部资源的特征扩展方法在特征扩展过程耗时且分类效果依赖外部资源完整性,并且针对一些专业性很强或者语言比较特殊的短文本时,这些预定义的主题和分类可能不再适用。
另一种解决稀疏性问题的方法是使用隐藏在当前短文本上下文中的规则或统计信息来扩展特征,称为基于自身资源的方法。因此有研究者提出了一种语言无关语义(LIS)内核,它能够有效地计算短文本文档之间的相似性,而无需使用语法标签和词法数据库。也有研究者设计了一种有效的融合相似度量的方法,在未标记数据集中搜索与每个真实类中心具有最高相似性的文本,赋予其与类中心相同的类标签,直至标记所有短文本。而现有的基于自身资源的特征扩展方法忽略了长度有限的短文本内单词之间的联系,即忽略了短文本中单词的相关性,可能会导致短文本分类不准确。
综上所述可以看出,如何在不借助外部资源的情况下,根据短文本单词之间的相关性实现短文本的特征扩展是目前有待解决的问题。
发明内容
本发明的目的是提供一种基于特征扩展的短文本分类方法、装置、设备以及计算机可读存储介质,以解决现有技术中短文本特征扩展的方法忽略了短文本单词之间的相关性的问题。
为解决上述技术问题,本发明提供一种基于特征扩展的短文本分类方法,包括:对待处理短文本进行预处理后,提取所述待处理短文本的文本特征;检测所述文本特征中是否包含有待更新特征;其中,所述待更新特征为不存在于预先构建的特征空间内且不是词聚类指示矩阵经过降维处理后被删除的特征;所述词聚类指示矩阵为预先对短文本训练集的关系矩阵进行非负矩阵分解后得到的;所述特征空间为预先对所述词聚类指示矩阵进行降维处理后得到的;若所述文本特征中不存在所述待更新特征,则根据所述特征空间确定所述待处理短文本的最相关特征;依据所述最相关特征选择扩展特征,将所述扩展特征扩充至所述文本特征中,实现对所述待处理短文本的特征扩展;完成所述待处理短文本的特征扩展后,利用预设分类器算法对所述待处理短文本进行分类识别,以便获得所述待处理短文本的分类结果。
优选地,所述检测所述文本特征中是否包含有待更新特征后还包括:
若所述文本特征中包含有所述待更新特征,则将所述文本特征划分为a个待更新特征和在所述特征空间内已存在的q个已知特征;
根据所述特征空间中一个包含且仅包含所述q个已知特征的子集,确定所述a个待更新特征的聚类指示矩阵;
将所述聚类指示矩阵输入至所述特征空间中,得到更新后的目标特征空间;
利用所述目标特征空间,确定所述待处理短文本的最相关特征,以便利用所述最相关特征实现对所述待处理文本的特征扩展。
优选地,所述根据所述特征空间中一个包含且仅包含所述q个已知特征的子集,确定所述a个待更新特征的聚类指示矩阵包括:
通过所述q个已知特征的聚类指示平均值分别确定每个待更新特征的聚类指示值;
根据所述每个待更新特征的聚类指示值,确定所述a个待更新特征的聚类指示矩阵。
优选地,所述利用所述目标特征空间计算得到所述待处理短文本的最相关特征,以便利用所述最相关特征实现对所述待处理文本的特征进行扩展包括:
将所述子集与包含p个特征词的所述目标特征空间相乘计算得到目标矩阵;
对所述目标矩阵进行压缩,将所述目标矩阵的每列数值累加后求均值,得到P维的目标向量;
根据所述目标向量中特征相关性的大小,顺序选取K个目标特征对所述待处理短文本进行特征扩展。
优选地,所述词聚类指示矩阵是预先通过对短文本训练集的关系矩阵进行非负矩阵分解后得到的包括:
对所述短文本训练集进行预处理,获取单词集;
依据所述短文本训练集和所述单词集,构造关系矩阵;
构造所述短文本训练集的文本关联矩阵;
构造所述单词集的词关联矩阵;
利用基于流行正则化的非负矩阵三分解法、所述文本关联矩阵和所述词关联矩阵,对所述关系矩阵进行分解,得到所述词聚类指示矩阵。
本发明还提供了一种基于特征扩展的短文本分类装置,包括:
提取模块,用于对待处理短文本进行预处理后,提取所述待处理短文本的文本特征;
检测模块,用于检测所述文本特征中是否包含有待更新特征;其中,所述待更新特征为不存在于预先构建的特征空间内且不是词聚类指示矩阵经过降维处理后被删除的特征;所述词聚类指示矩阵为预先对短文本训练集的关系矩阵进行非负矩阵分解后得到的;所述特征空间为预先对所述词聚类指示矩阵进行降维处理后得到的;
确定模块,用于若所述文本特征中不存在所述待更新特征,则根据所述特征空间确定所述待处理短文本的最相关特征;
扩展模块,用于依据所述最相关特征选择扩展特征,将所述扩展特征扩充至所述文本特征中,实现对所述待处理短文本的特征扩展;
分类模块,用于完成所述待处理短文本的特征扩展后,利用预设分类器算法对所述待处理短文本进行分类识别,以便获得所述待处理短文本的分类结果。
优选地,所述检测模块后还包括:
更新模块,用于当所述文本特征中包含有所述待更新特征时,则将所述文本特征划分为a个待更新特征和在所述特征空间内已存在的q个已知特征;
根据所述特征空间中一个包含且仅包含所述q个已知特征的子集,确定所述a个待更新特征的聚类指示矩阵;
将所述聚类指示矩阵输入至所述特征空间中,得到更新后的目标特征空间;
利用所述目标特征空间,确定所述待处理短文本的最相关特征,以便利用所述最相关特征实现对所述待处理文本的特征扩展。
优选地,所述更新模块具体用于:
通过所述q个已知特征的聚类指示平均值分别确定每个待更新特征的聚类指示值;
根据所述每个待更新特征的聚类指示值,确定所述a个待更新特征的聚类指示矩阵。
本发明还提供了一种基于特征扩展的短文本分类设备,包括:
存储器,用于存储计算机程序;处理器,用于执行所述计算机程序时实现上述一种基于特征扩展的短文本分类方法的步骤。
本发明还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现上述一种基于特征扩展的短文本分类方法的步骤。
本发明所提供的基于特征扩展的短文本分类方法,预先对根据短文本训练集中短文本和单词之间的关系矩阵进行非负矩阵分解,得到词聚类指示矩阵后,预先对所述词聚类指示矩阵进行降维得到特征空间。所述特征空间是在不借助外部资源的情况下,通过挖掘所述短文本训练集中短文本自身的内部关系构造的。当需要待处理短文本进行分类时,首先对所述对待处理短文本进行预处理,提取所述待处理短文本的文本特征。检测所述文本特征中是否包含有待更新特征。所述待更新特征不存在于所述特征空间内且不是所述词聚类指示矩阵经过降维处理后被删除的特征。若所述文本特征中不存在所述待更新特征,则利用所述特征空间确定所述待处理短文本的最相关特征。根据所述最相关特征完成对所述文本特征的扩充后,将扩充后的文本特征输入至预设分类器算法中,实现对所述待处理短文本的分类识别。本发明所提供的短文本分类方法,利用非负矩阵分解和短文本训练集短文本和单词间的关系矩阵,预先构建特征空间。利用所述特征空间对所述待处理短文本的文本特征进行扩展,即在不借助外部资源的情况下,根据短文本单词之间的相关性实现了所述待处理短文本的特征扩展,有效解决了短文本的稀疏性问题,提高了短文本分类识别的准确性。
附图说明
为了更清楚的说明本发明实施例或现有技术的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明所提供的基于特征扩展的短文本分类方法的第一种具体实施例的流程图;
图2为本发明所提供的基于特征扩展的短文本分类方法的第二种具体实施例的流程图;
图3为本发明实施例提供的一种基于特征扩展的短文本分类装置的结构框图。
具体实施方式
本发明的核心是提供一种基于特征扩展的短文本分类方法、装置、设备以及计算机可读存储介质。
为了使本技术领域的人员更好地理解本发明方案,下面结合附图和具体实施方式对本发明作进一步的详细说明。显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参考图1,图1为本发明所提供的基于特征扩展的短文本分类方法的第一种具体实施例的流程图;具体操作步骤如下:
步骤S101:对待处理短文本进行预处理后,提取所述待处理短文本的文本特征;
步骤S102:检测所述文本特征中是否包含有待更新特征;其中,所述待更新特征为不存在于预先构建的特征空间内且不是词聚类指示矩阵经过降维处理后被删除的特征;所述词聚类指示矩阵为预先对短文本训练集的关系矩阵进行非负矩阵分解后得到的;所述特征空间为预先对所述词聚类指示矩阵进行降维处理后得到的;
预先构建所述特征空间的过程包括:
对给定的短文本训练集T1={t1,...,tm}进行预处理,获取单词集W={w1,...,wn};其中,所述短文本训练集的样本数量为m,所述单词集的样本数量为n。
构造n×m维的所述关系矩阵R,表征所述短文本训练集T1中短文本和所述单词集中单词之间的自然关系;当所述短文本训练集T1中短文本tj(j=1,2,...,m)中出现所述单词集W中单词wi(i=1,2,...,n),则Rij=1;若所述短文本tj(j=1,2,...,m)中未出现所述单词wi(i=1,2,...,n),则Rij=0。
构造所述文本关联矩阵At,表征所述短文本训练集中每两个短文本之间的关联强度其中,B(ti,tj)为所述短文本训练集T1中短文本ti(i=1,2,...,m)和所述短文本tj(j=1,2,...,m)共同的单词数;B(ta,tb)为所述短文本训练集T1中任意两个文本共同的单词数;
构造所述词关联矩阵Aw,表征所述单词集W中每两个单词之间的关系强度其中,B(wi,wj)为所述单词集W中所述单词wi(i=1,2,...,n)和单词wj(j=1,2,...,n)共同的文本数;B(wa,wb)为所述单词集W中任意两个单词共同的文本数。
利用基于流行正则化的非负矩阵三分解法对所述关系矩阵进行分解,目标函数J1的第一函数:
其中,μ,为正则化参数,用于平衡式子第一项因聚类重构产生的误差和第二三项聚类标签的平滑度;拉普拉斯矩阵Lw=Dw-Aw,Lt=Dt-At;Dw为度矩阵,Dw对角线上的元素是Aw对应每一行元素累加所得:Dt为对角矩阵,Dt对角线上的元素是At对应每一行元素累加所得:F为n×k维的所述词聚类指示矩阵;其中,k为类别数,S为平衡矩阵,G为所述短文本训练集T1的聚类指示矩阵,根据所述短文本训练集T1的类别标签得所述聚类指示矩阵G;由于所述短文本训练集T1的类别标签为已知的,因此所述聚类指示矩阵G为已知的。
将所述第一函数转变为所述目标函数J1的第二函数:
采用选择性求解变量F,S的方式,使所述第二函数收敛;首先对所述词聚类指示矩阵F和所述平衡矩阵S进行初始化,将所述聚类指示矩阵G作为所述第二函数的输入。
引入拉格朗日乘数αn×k,βm×k,γk×k,将所述第二函数转换为拉格朗日函数:
L=tr(RRT)-2tr(RGSTFT)+tr(FSGTGSTFT)+μtr(FTLwF)+φtr(GTLtG)+tr(αFT)+tr(βGT)+tr(γST)
计算所述平衡矩阵S时,将所述词聚类指示矩阵F和所述聚类指示矩阵G设为已知条件,并设置得到γ=2FTRG-2FTFSGTG;
将KKT条件γijSij=0代入γ=2FTRG-2FTFSGTG,得到:
[FTRG-FTFSGTG]ijSij=0。
根据规则迭代更新所述平衡矩阵S;
其中,Sij为更新前的所述平衡矩阵S的形式,为更新后的所述平衡矩阵S的形式。
求解所述时所述词聚类指示矩阵F,将设所述平衡矩阵S和所述聚类指示矩阵G为已知条件,并设置得到:
α=2RGST-2FSGTGST-2μLWF;
将Lw=Dw-Aw代入α=2RGST-2FSGTGST-2μLWF中,并使用KKT条件αijFij=0,得到[RGST-FSGTGST-μDWF+μAWF]ijFij=0。
根据规则迭代更新所述词聚类指示矩阵F;
其中,Fij为所述词聚类指示矩阵F更新前的形式,为所述词聚类指示矩阵F更新后的形式。
重复执行所述计算所述平衡矩阵S和所述求解所述时所述词聚类指示矩阵F操作,直至所述第二函数中的J1收敛,得到所述词聚类指示矩阵F的目标形式。
对所述词聚类指示矩阵F进行降维处理,删除类别可能性分配比较均匀的特征得到特征空间H。
步骤S103:若所述文本特征中不存在所述待更新特征,则根据所述特征空间确定所述待处理短文本的最相关特征;
步骤S104:依据所述最相关特征选择扩展特征,将所述扩展特征扩充至所述文本特征中,实现对所述待处理短文本的特征扩展;
步骤S105:完成所述待处理短文本的特征扩展后,利用预设分类器算法对所述待处理短文本进行分类识别,以便获得所述待处理短文本的分类结果。
在本实施例中,在不借助外部资源的情况下,关注所述短文本训练集中短文本文本与单词、短文本与短文本、单词与单词之间的相关性,分别构造所述关系矩阵、所述文本关联矩阵和所述词关联矩阵。通过MNMTF方法对关系矩阵进行非负矩阵分解,得到词聚类指示矩阵;对所述词聚类指示矩阵进行降维处理得到特征空间,有效解决了短文本的稀疏性问题。在本实施例中利用所述特征空间对所述文本特征进行扩展,利用扩展后的文本特征和预设分类器算法实现对所述待处理短文本的分类识别,有效提高了短文本分类结果的准确性。
基于上述实施例,在本实施例中,当检测到所述待处理短文本的文本特征中存在待更新特征时,则确定所述待更新特征的聚类指示矩阵;并将所述聚类指示矩阵输入至所述特征空间中,得到更新后的目标特征空间。利用所述目标特征空间完成所述待处理短文本的特征扩展。
请参考图2,图2为本发明所提供的基于特征扩展的短文本分类方法的第二种具体实施例的流程图;具体操作步骤如下:
步骤S201:对待处理短文本进行预处理后,提取所述待处理短文本的文本特征;
步骤S202:检测所述文本特征中是否包含有待更新特征;其中,所述待更新特征为不存在于预先构建的特征空间内且不是词聚类指示矩阵经过降维处理后被删除的特征;
步骤S203:若所述文本特征中包含有所述待更新特征,则将所述文本特征划分为a个待更新特征和在所述特征空间内已存在的q个已知特征;
步骤S204:根据所述特征空间中一个包含且仅包含所述q个已知特征的子集,确定所述a个待更新特征的聚类指示矩阵;
在本实施例中,可以在特征空间H中找到一个q×k的子集H*包含且仅包含所述q个已知特征,根据H*计算所述待更新特征的聚类指示矩阵H**。
通过所述q个已知特征的聚类指示平均值分别确定每个待更新特征的聚类指示值:其中,为第i个待更新特征的聚类指示值的第j个值,为第h个已知特征的聚类指示值的第j个值。根据所述每个待更新特征的聚类指示值,确定所述a个待更新特征的聚类指示矩阵。
步骤S205:将所述聚类指示矩阵输入至所述特征空间中,得到更新后的目标特征空间;
将所述待更新特征的词聚类指示矩阵H**输入至所述特征空间H中,得到更新后的p×k维的目标特征空间H1=[H;H**];其中,p表示所述目标特征空间内包含p个特征词。
步骤S206:将所述子集与包含p个特征词的所述目标特征空间相乘计算得到目标矩阵;
将所述H*与所述目标特征空间H'相乘计算得到q×p所述目标矩阵所述目标矩阵E用于表征所述待处理短文本的q个特征fi(i=1…q)与所述目标特征空间H'中每个特征的相关性。
步骤S207:对所述目标矩阵进行压缩,将所述目标矩阵的每列数值累加后求均值,得到P维的目标向量;
对所述目标矩阵E进行压缩,即将所述目标矩阵E的每列数量累加后求均值,得到P维的目标向量
所述目标向量e表征所述目标特征空间中每个特征与所述待处理短文本特征fi(i=1…q)的相关性。
步骤S208:根据所述目标向量中特征相关性的大小,顺序选取K个目标特征对所述待处理短文本进行特征扩展;
步骤S209:将所述目标特征扩展至所述文本特征后,扩展后的文本特征输入预设分类器算法对所述待处理的短文本进行分类识别,以便获得所述待处理短文本的分类结果。
在本实施例中,当检测到所述待处理短文本的文本特征中包含所述待更新特征时,利用所述待处理短文本中已知特征的聚类指示平均值来表示所述待更新特征的聚类指示值,从而确定所述待更新特征的聚类指示矩阵。将所述聚类指示矩阵加入特征空间,完成所述特征空间的更新后,利用更新后的特征空间中的特征与所述文本特征之间的相关性对短文本进行扩展。
请参考图3,图3为本发明实施例提供的一种基于特征扩展的短文本分类装置的结构框图;具体装置可以包括:
提取模块100,用于对待处理短文本进行预处理后,提取所述待处理短文本的文本特征;
检测模块200,用于检测所述文本特征中是否包含有待更新特征;其中,所述待更新特征为不存在于预先构建的特征空间内且不是词聚类指示矩阵经过降维处理后被删除的特征;所述词聚类指示矩阵为预先对短文本训练集的关系矩阵进行非负矩阵分解后得到的;所述特征空间为预先对所述词聚类指示矩阵进行降维处理后得到的;
确定模块300,用于若所述文本特征中不存在所述待更新特征,则利用所述特征空间确定所述待处理短文本的最相关特征;
扩展模块400,用于依据所述最相关特征选择扩展特征,将所述扩展特征扩充至所述文本特征中,实现对所述待处理短文本的特征扩展;
分类模块500,用于完成所述待处理短文本的特征扩展后,利用预设分类器算法对所述待处理短文本进行分类识别,以便获得所述待处理短文本的分类结果。
本实施例的基于特征扩展的短文本分类装置用于实现前述的基于特征扩展的短文本分类方法,因此基于特征扩展的短文本分类装置中的具体实施方式可见前文中的基于特征扩展的短文本分类方法的实施例部分,例如,提取模块100,检测模块200,确定模块300,扩展模块400,分类模块500,分别用于实现上述基于特征扩展的短文本分类方法中步骤S101,S102,S103,S104和S105,所以,其具体实施方式可以参照相应的各个部分实施例的描述,在此不再赘述。
本发明具体实施例还提供了一种基于特征扩展的短文本分类设备,包括:存储器,用于存储计算机程序;处理器,用于执行所述计算机程序时实现上述一种基于特征扩展的短文本分类方法的步骤。
本发明具体实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现上述一种基于特征扩展的短文本分类方法的步骤。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
以上对本发明所提供的基于特征扩展的短文本分类方法、装置、设备以及计算机可读存储介质进行了详细介绍。本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想。应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以对本发明进行若干改进和修饰,这些改进和修饰也落入本发明权利要求的保护范围内。
Claims (10)
1.一种基于特征扩展的短文本分类方法,其特征在于,包括:
对待处理短文本进行预处理后,提取所述待处理短文本的文本特征;
检测所述文本特征中是否包含有待更新特征;其中,所述待更新特征为不存在于预先构建的特征空间内且不是词聚类指示矩阵经过降维处理后被删除的特征;所述词聚类指示矩阵为预先对短文本训练集的关系矩阵进行非负矩阵分解后得到的;所述特征空间为预先对所述词聚类指示矩阵进行降维处理后得到的;
若所述文本特征中不存在所述待更新特征,则根据所述特征空间确定所述待处理短文本的最相关特征;
依据所述最相关特征选择扩展特征,将所述扩展特征扩充至所述文本特征中,实现对所述待处理短文本的特征扩展;
完成所述待处理短文本的特征扩展后,利用预设分类器算法对所述待处理短文本进行分类识别,以便获得所述待处理短文本的分类结果。
2.如权利要求1所述的短文本分类方法,其特征在于,所述检测所述文本特征中是否包含有待更新特征后还包括:
若所述文本特征中包含有所述待更新特征,则将所述文本特征划分为a个待更新特征和在所述特征空间内已存在的q个已知特征;
根据所述特征空间中一个包含且仅包含所述q个已知特征的子集,确定所述a个待更新特征的聚类指示矩阵;
将所述聚类指示矩阵输入至所述特征空间中,得到更新后的目标特征空间;
利用所述目标特征空间,确定所述待处理短文本的最相关特征,以便利用所述最相关特征实现对所述待处理文本的特征扩展。
3.如权利要求2所述的短文本分类方法,其特征在于,所述根据所述特征空间中一个包含且仅包含所述q个已知特征的子集,确定所述a个待更新特征的聚类指示矩阵包括:
通过所述q个已知特征的聚类指示平均值分别确定每个待更新特征的聚类指示值;
根据所述每个待更新特征的聚类指示值,确定所述a个待更新特征的聚类指示矩阵。
4.如权利要求2所述的短文本分类方法,其特征在于,所述利用所述目标特征空间计算得到所述待处理短文本的最相关特征,以便利用所述最相关特征实现对所述待处理文本的特征进行扩展包括:
将所述子集与包含p个特征词的所述目标特征空间相乘计算得到目标矩阵;
对所述目标矩阵进行压缩,将所述目标矩阵的每列数值累加后求均值,得到P维的目标向量;
根据所述目标向量中特征相关性的大小,顺序选取K个目标特征对所述待处理短文本进行特征扩展。
5.如权利要求1所述的短文本分类方法,其特征在于,所述词聚类指示矩阵是预先通过对短文本训练集的关系矩阵进行非负矩阵分解后得到的包括:
对所述短文本训练集进行预处理,获取单词集;
依据所述短文本训练集和所述单词集,构造关系矩阵;
构造所述短文本训练集的文本关联矩阵;
构造所述单词集的词关联矩阵;
利用基于流行正则化的非负矩阵三分解法、所述文本关联矩阵和所述词关联矩阵,对所述关系矩阵进行分解,得到所述词聚类指示矩阵。
6.一种基于特征扩展的短文本分类装置,其特征在于,包括:
提取模块,用于对待处理短文本进行预处理后,提取所述待处理短文本的文本特征;
检测模块,用于检测所述文本特征中是否包含有待更新特征;其中,所述待更新特征为不存在于预先构建的特征空间内且不是词聚类指示矩阵经过降维处理后被删除的特征;所述词聚类指示矩阵为预先对短文本训练集的关系矩阵进行非负矩阵分解后得到的;所述特征空间为预先对所述词聚类指示矩阵进行降维处理后得到的;
确定模块,用于若所述文本特征中不存在所述待更新特征,则根据所述特征空间确定所述待处理短文本的最相关特征;
扩展模块,用于依据所述最相关特征选择扩展特征,将所述扩展特征扩充至所述文本特征中,实现对所述待处理短文本的特征扩展;
分类模块,用于完成所述待处理短文本的特征扩展后,利用预设分类器算法对所述待处理短文本进行分类识别,以便获得所述待处理短文本的分类结果。
7.如权利要求6所述的装置,其特征在于,所述检测模块后还包括:
更新模块,用于当所述文本特征中包含有所述待更新特征时,则将所述文本特征划分为a个待更新特征和在所述特征空间内已存在的q个已知特征;
根据所述特征空间中一个包含且仅包含所述q个已知特征的子集,确定所述a个待更新特征的聚类指示矩阵;
将所述聚类指示矩阵输入至所述特征空间中,得到更新后的目标特征空间;
利用所述目标特征空间,确定所述待处理短文本的最相关特征,以便利用所述最相关特征实现对所述待处理文本的特征扩展。
8.如权利要求7所述的装置,其特征在于,所述更新模块具体用于:
通过所述q个已知特征的聚类指示平均值分别确定每个待更新特征的聚类指示值;
根据所述每个待更新特征的聚类指示值,确定所述a个待更新特征的聚类指示矩阵。
9.一种基于特征扩展的短文本分类设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1至5任一项所述一种基于特征扩展的短文本分类方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述一种基于特征扩展的短文本分类方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910319576.7A CN109960730B (zh) | 2019-04-19 | 2019-04-19 | 一种基于特征扩展的短文本分类方法、装置以及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910319576.7A CN109960730B (zh) | 2019-04-19 | 2019-04-19 | 一种基于特征扩展的短文本分类方法、装置以及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109960730A true CN109960730A (zh) | 2019-07-02 |
CN109960730B CN109960730B (zh) | 2022-12-30 |
Family
ID=67026478
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910319576.7A Active CN109960730B (zh) | 2019-04-19 | 2019-04-19 | 一种基于特征扩展的短文本分类方法、装置以及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109960730B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112463950A (zh) * | 2020-12-10 | 2021-03-09 | 中国科学院深圳先进技术研究院 | 文献搜索方法、装置及电子设备 |
CN113378567A (zh) * | 2021-07-05 | 2021-09-10 | 广东工业大学 | 一种针对低频词进行改善的中文短文本分类方法 |
WO2022126810A1 (zh) * | 2020-12-14 | 2022-06-23 | 上海爱数信息技术股份有限公司 | 文本聚类方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101770454A (zh) * | 2010-02-13 | 2010-07-07 | 武汉理工大学 | 短文本特征空间扩展方法 |
CN101853239A (zh) * | 2010-05-06 | 2010-10-06 | 复旦大学 | 一种用于聚类的基于非负矩阵分解的降维方法 |
US20140279738A1 (en) * | 2013-03-15 | 2014-09-18 | Bazaarvoice, Inc. | Non-Linear Classification of Text Samples |
US9129216B1 (en) * | 2013-07-15 | 2015-09-08 | Xdroid Kft. | System, method and apparatus for computer aided association of relevant images with text |
JP2017111672A (ja) * | 2015-12-17 | 2017-06-22 | 日本電信電話株式会社 | 文書分類装置、文書分類方法、及び文書分類プログラム |
-
2019
- 2019-04-19 CN CN201910319576.7A patent/CN109960730B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101770454A (zh) * | 2010-02-13 | 2010-07-07 | 武汉理工大学 | 短文本特征空间扩展方法 |
CN101853239A (zh) * | 2010-05-06 | 2010-10-06 | 复旦大学 | 一种用于聚类的基于非负矩阵分解的降维方法 |
US20140279738A1 (en) * | 2013-03-15 | 2014-09-18 | Bazaarvoice, Inc. | Non-Linear Classification of Text Samples |
US9129216B1 (en) * | 2013-07-15 | 2015-09-08 | Xdroid Kft. | System, method and apparatus for computer aided association of relevant images with text |
JP2017111672A (ja) * | 2015-12-17 | 2017-06-22 | 日本電信電話株式会社 | 文書分類装置、文書分類方法、及び文書分類プログラム |
Non-Patent Citations (2)
Title |
---|
FORAM P. SHAH ET AL: "A_review_on_feature_selection_and_feature_extraction_for_text_classification", 《2016 INTERNATIONAL CONFERENCE WIRELESS COMMUNICATION》 * |
曹大为: "基于加权核非负矩阵分解的短文本聚类算法", 《计算机应用》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112463950A (zh) * | 2020-12-10 | 2021-03-09 | 中国科学院深圳先进技术研究院 | 文献搜索方法、装置及电子设备 |
CN112463950B (zh) * | 2020-12-10 | 2023-10-24 | 中国科学院深圳先进技术研究院 | 文献搜索方法、装置及电子设备 |
WO2022126810A1 (zh) * | 2020-12-14 | 2022-06-23 | 上海爱数信息技术股份有限公司 | 文本聚类方法 |
CN113378567A (zh) * | 2021-07-05 | 2021-09-10 | 广东工业大学 | 一种针对低频词进行改善的中文短文本分类方法 |
CN113378567B (zh) * | 2021-07-05 | 2022-05-10 | 广东工业大学 | 一种针对低频词进行改善的中文短文本分类方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109960730B (zh) | 2022-12-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107122375B (zh) | 基于图像特征的图像主体的识别方法 | |
WO2019179403A1 (zh) | 基于序列宽深学习的欺诈交易检测方法 | |
CN106815244B (zh) | 文本向量表示方法及装置 | |
CN109902159A (zh) | 一种基于自然语言处理的智能运维语句相似度匹配方法 | |
CN108416384A (zh) | 一种图像标签标注方法、系统、设备及可读存储介质 | |
Anupriya et al. | LDA based topic modeling of journal abstracts | |
CN109213868A (zh) | 基于卷积注意力机制网络的实体级别情感分类方法 | |
CN109960730A (zh) | 一种基于特征扩展的短文本分类方法、装置以及设备 | |
CN106095966B (zh) | 一种用户可扩展的标签标注方法及系统 | |
CN112819023A (zh) | 样本集的获取方法、装置、计算机设备和存储介质 | |
CN108959305A (zh) | 一种基于互联网大数据的事件抽取方法及系统 | |
CN109886021A (zh) | 一种基于api全局词向量和分层循环神经网络的恶意代码检测方法 | |
CN107145573A (zh) | 人工智能客服机器人的问题解答方法及系统 | |
CN108229527A (zh) | 训练及视频分析方法和装置、电子设备、存储介质、程序 | |
CN108090178A (zh) | 一种文本数据分析方法、装置、服务器和存储介质 | |
CN109992676A (zh) | 一种跨媒体资源检索方法及检索系统 | |
CN109359198A (zh) | 一种文本分类方法及装置 | |
Gao et al. | SetConv: A new approach for learning from imbalanced data | |
CN109271624A (zh) | 一种目标词确定方法、装置及存储介质 | |
CN106203508A (zh) | 一种基于Hadoop平台的图像分类方法 | |
CN115935983A (zh) | 事件抽取方法、装置、电子设备及存储介质 | |
Gavval et al. | CUDA-Self-Organizing feature map based visual sentiment analysis of bank customer complaints for Analytical CRM | |
CN104834718A (zh) | 基于最大熵模型的事件论元识别方法及系统 | |
CN106971005A (zh) | 一种云计算环境下基于MapReduce的分布式并行文本聚类方法 | |
CN113095723A (zh) | 优惠券的推荐方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |