CN114492437B - 关键词识别方法、装置、电子设备及存储介质 - Google Patents
关键词识别方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN114492437B CN114492437B CN202210143314.1A CN202210143314A CN114492437B CN 114492437 B CN114492437 B CN 114492437B CN 202210143314 A CN202210143314 A CN 202210143314A CN 114492437 B CN114492437 B CN 114492437B
- Authority
- CN
- China
- Prior art keywords
- text
- sequence
- pooling
- target
- preset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/284—Lexical analysis, e.g. tokenisation or collocates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
本申请实施例提供了一种关键词识别方法、装置、电子设备及存储介质,属于人工智能技术领域。该方法包括:获取待识别的原始文本,其中,原始文本包括原始文本序列;通过预设的文本处理模型对原始文本序列进行特征提取,得到文本池化特征;对文本池化特征进行识别处理,得到最大文本池化特征和每一卷积核对应的候选文本序列;对最大文本池化特征进行拼接处理,得到综合池化特征向量;对综合池化特征向量进行标签分类处理,得到标签特征向量以及每一文本类别的分类概率值;根据分类概率值对候选文本序列进行筛选处理,得到目标文本序列;对目标文本序列进行分词处理,得到目标关键词。本申请实施例能够提高关键词识别的准确性。
Description
技术领域
本申请涉及人工智能技术领域,尤其涉及一种关键词识别方法、装置、电子设备及存储介质。
背景技术
目前,一些常用的机器学习方法逐渐应用到关键词提取领域中,基于机器学习的关键词提取方法常常需要进行关键词识别,在进行关键词识别的过程中,首先需要对待识别文本进行分词处理,识别的关键词的效果往往依赖于分词的精度,当分词的精度较差时关键词识别的准确度较低;因此,如何提供一种关键词识别方法,能够提高关键词识别的准确性,成为了亟待解决的技术问题。
发明内容
本申请实施例的主要目的在于提出一种关键词识别方法、装置、电子设备及存储介质,旨在提高关键词识别的准确性。
为实现上述目的,本申请实施例的第一方面提出了一种关键词识别方法,所述方法包括:
获取待识别的原始文本,其中,所述原始文本包括原始文本序列;
通过预设的文本处理模型对所述原始文本序列进行特征提取,得到文本池化特征;
对所述文本池化特征进行识别处理,得到最大文本池化特征和每一卷积核对应的候选文本序列;
对所述最大文本池化特征进行拼接处理,得到综合池化特征向量;
对所述综合池化特征向量进行标签分类处理,得到标签特征向量以及每一文本类别的分类概率值;
根据所述分类概率值对所述候选文本序列进行筛选处理,得到目标文本序列;
对所述目标文本序列进行分词处理,得到目标关键词。
在一些实施例,所述通过预设的文本处理模型对所述原始文本序列进行特征提取,得到文本池化特征的步骤,包括:
将所述原始文本序列映射到预设的向量空间,得到文本序列向量;
对所述文本序列向量进行矩阵化处理,得到文本序列矩阵;
根据预设的扫描方向对所述文本序列矩阵进行扫描处理,得到文本特征向量;
对所述文本特征向量进行池化处理,得到文本池化特征。
在一些实施例,所述对所述文本池化特征进行识别处理,得到最大文本池化特征和每一卷积核对应的候选文本序列的步骤,包括:
对所述文本池化特征进行筛选处理,得到每一卷积核对应的最大文本池化特征;
通过预设的第一函数对所述最大文本池化特征进行识别处理,得到每一卷积核对应的候选文本序列。
在一些实施例,所述对所述综合池化特征向量进行标签分类处理,得到标签特征向量以及每一文本类别的分类概率值的步骤,包括:
根据预设的文本类别标签对所述综合池化特征向量进行标签分类处理,得到标签特征向量;
将所述标签特征向量与预设的参考向量进行点乘处理,得到标准特征向量;
通过预设的第二函数对所述标准特征向量进行概率计算,得到每一文本类别的分类概率值。
在一些实施例,根据所述分类概率值对所述候选文本序列进行筛选处理,得到目标文本序列的步骤,包括:
根据所述分类概率值,确定目标文本类别标签;
通过预设的第三函数对所述目标文本类别标签进行识别处理,得到目标卷积核;
根据所述目标卷积核对所述候选文本序列进行筛选处理,得到所述目标文本序列。
在一些实施例,所述对所述目标文本序列进行分词处理,得到目标关键词的步骤,包括:
通过预设的分词器对所述目标文本序列进行分词处理,得到文本词段;
根据预设的词性标签和优先级顺序,对所述文本词段进行筛选处理,得到所述目标关键词。
在一些实施例,在所述通过预设的文本处理模型对所述原始文本序列进行特征提取,得到文本池化特征的步骤之前,所述方法还包括预先训练所述文本处理模型,并对所述文本处理模型进行优化,具体包括:
获取样本数据集,其中,所述样本数据集包括训练集、测试集;
利用训练集对初始模型进行训练,得到文本处理模型,其中,所述文本处理模型包括与每一样本文本类别对应的样本关键词集合;
将所述测试集输入到所述文本处理模型;
通过文本处理模型对所述测试集进行识别处理,得到所述测试集对应的样本文本类别和测试关键词;
根据所述样本文本类别,对所述样本关键词集合进行筛选处理,得到与所述测试集对应的目标关键词集合;
检验所述测试关键词在所述目标关键词集合中的存在性;
根据所述存在性对所述文本处理模型的损失函数进行优化,以更新所述文本处理模型。
为实现上述目的,本申请实施例的第二方面提出了一种关键词识别装置,所述装置包括:
原始文本序列获取模块,用于获取待识别的原始文本,其中,所述原始文本包括原始文本序列;
特征提取模块,用于通过预设的文本处理模型对所述原始文本序列进行特征提取,得到文本池化特征;
识别模块,用于对所述文本池化特征进行识别处理,得到最大文本池化特征和每一卷积核对应的候选文本序列;
拼接模块,用于对所述最大文本池化特征进行拼接处理,得到综合池化特征向量;
分类模块,用于对所述综合池化特征向量进行标签分类处理,得到标签特征向量以及每一文本类别的分类概率值;
筛选模块,用于根据所述分类概率值对所述候选文本序列进行筛选处理,得到目标文本序列;
分词模块,用于对所述目标文本序列进行分词处理,得到目标关键词。
为实现上述目的,本申请实施例的第三方面提出了一种电子设备,所述电子设备包括存储器、处理器、存储在所述存储器上并可在所述处理器上运行的程序以及用于实现所述处理器和所述存储器之间的连接通信的数据总线,所述程序被所述处理器执行时实现上述第一方面所述的方法。
为实现上述目的,本申请实施例的第四方面提出了一种存储介质,所述存储介质为计算机可读存储介质,用于计算机可读存储,所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现上述第一方面所述的方法。
本申请提出的关键词识别方法、装置、电子设备及存储介质,其通过获取待识别的原始文本,其中,原始文本包括原始文本序列,能够将原始文本拆分成多个文本序列,简化识别过程,节省时间。进而,通过预设的文本处理模型对原始文本序列进行特征提取,得到文本池化特征,这样一来,能够对文本序列进行筛选,剔除相关性较低的文本序列,得到符合需求的文本池化特征,提高识别精度;进而,对文本池化特征进行识别处理,得到最大文本池化特征和每一卷积核对应的候选文本序列,能够清楚地得到卷积核与候选文本序列之间的对应关系。接下来,对最大文本池化特征进行拼接处理,得到综合池化特征向量,并且对综合池化特征向量进行标签分类处理,得到标签特征向量以及每一文本类别的分类概率值。最后,根据分类概率值对候选文本序列进行筛选处理,得到目标文本序列,并对目标文本序列进行分词处理,从而确定目标关键词。本申请实施例通过文本处理模型能够清楚地得到卷积核与候选文本序列之间的对应关系,同时也能够根据每一文本类别的分类概率值对候选文本序列进行筛选处理,筛选出对原始文本的文本类别影响较大的候选文本序列,将这一候选文本序列作为目标文本序列,并从该目标文本序列提取出影响原始文本的文本类别的关键词,提高了关键词识别的准确性。
附图说明
图1是本申请实施例提供的关键词识别方法的流程图;
图2是本申请实施例提供的关键词识别方法的另一流程图;
图3是图1中的步骤S102的流程图;
图4是图1中的步骤S103的流程图;
图5是图1中的步骤S105的流程图;
图6是图1中的步骤S106的流程图;
图7是图1中的步骤S107的流程图;
图8是本申请实施例提供的关键词识别装置的结构示意图;
图9是本申请实施例提供的电子设备的硬件结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本申请,并不用于限定本申请。
需要说明的是,虽然在装置示意图中进行了功能模块划分,在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于装置中的模块划分,或流程图中的顺序执行所示出或描述的步骤。说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本申请实施例的目的,不是旨在限制本申请。
首先,对本申请中涉及的若干名词进行解析:
人工智能(artificial intelligence,AI):是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学;人工智能是计算机科学的一个分支,人工智能企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能可以对人的意识、思维的信息过程的模拟。人工智能还是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
自然语言处理(natural languageprocessing,NLP):NLP用计算机来处理、理解以及运用人类语言(如中文、英文等),NLP属于人工智能的一个分支,是计算机科学与语言学的交叉学科,又常被称为计算语言学。自然语言处理包括语法分析、语义分析、篇章理解等。自然语言处理常用于机器翻译、手写体和印刷体字符识别、语音识别及文语转换、信息检索、信息抽取与过滤、文本分类与聚类、舆情分析和观点挖掘等技术领域,它涉及与语言处理相关的数据挖掘、机器学习、知识获取、知识工程、人工智能研究和与语言计算相关的语言学研究等。
信息抽取(Information Extraction,NER):从自然语言文本中抽取指定类型的实体、关系、事件等事实信息,并形成结构化数据输出的文本处理技术。信息抽取是从文本数据中抽取特定信息的一种技术。文本数据是由一些具体的单位构成的,例如句子、段落、篇章,文本信息正是由一些小的具体的单位构成的,例如字、词、词组、句子、段落或是这些具体的单位的组合。抽取文本数据中的名词短语、人名、地名等都是文本信息抽取,当然,文本信息抽取技术所抽取的信息可以是各种类型的信息。
最大熵马尔科夫模型(Maximum Entropy Markov Model,MEMM):用于对给定的观测序列X,计算出各隐藏状态序列Y的条件概率分布,是对转移概率和表现概率建立联合概率,统计时统计的是条件概率,而非共现概率。由于MEMM只在局部做归一化,MEMM容易陷入局部最优。
条件随机场算法(conditional random field algorithm,CRF):是一种数学算法;结合了最大熵模型和隐马尔可夫模型的特点,是一种无向图模型,近年来在分词、词性标注和命名实体识别等序列标注任务中取得了很好的效果。条件随机场是一个典型的判别式模型,其联合概率可以写成若干势函数联乘的形式,其中最常用的是线性链条件随机场。若让x=(x1,x2,…xn)表示被观察的输入数据序列,y=(y1,y2,…yn)表示一个状态序列,在给定一个输入序列的情况下,线性链的CRF模型定义状态序列的联合条件概率为p(y|x)=exp{}(2-14);Z(x)={}(2-15);其中:Z是以观察序列x为条件的概率归一化因子;fj(yi-1,yi,x,i)是一个任意的特征函数。
长短期记忆网络(Long Short-Term Memory,LSTM):是一种时间循环神经网络,是为了解决一般的RNN(循环神经网络)存在的长期依赖问题而专门设计出来的,所有的RNN都具有一种重复神经网络模块的链式形式。在标准RNN中,这个重复的结构模块只有一个非常简单的结构,例如一个tanh层。LSTM是一种含有LSTM区块(blocks)或其他的一种类神经网络,文献或其他资料中LSTM区块可能被描述成智能网络单元,因为它可以记忆不定时间长度的数值,区块中有一个gate能够决定input是否重要到能被记住及能不能被输出output。
双向长短时记忆(Bi-directional Long Short-Term Memory,Bi-LSTM):是由前向LSTM与后向LSTM组合而成。在自然语言处理任务中都常被用来建模上下文信息。Bi-LSTM在LSTM的基础上,结合了输入序列在前向和后向两个方向上的信息。对于t时刻的输出,前向LSTM层具有输入序列中t时刻以及之前时刻的信息,而后向LSTM层中具有输入序列中t时刻以及之后时刻的信息。前向LSTM层t时刻的输出记作,后向LSTM层t时刻的输出结果记作,两个LSTM层输出的向量可以使用相加、平均值或连接等方式进行处理。
随着网络的发展,线上文本信息的数量呈现爆炸式增长,手工获取所需文本信息的难度日益增大。因此,如何快速、有效地归纳总结出某个领域或者话题下的文本的关键信息成为一个重要问题。
为了能够有效地处理海量的文本数据,研究人员在文本分类、文本聚类、自动文摘和信息检索等方向进行了大量的研究,而这些研究都涉及到如何获取文本中的关键词的问题。关键词是对文本主题信息的精炼,高度概括了文本的主要内容,能帮助用户快速理解文本的主旨;另外,还可以利用关键词以较低的复杂度进行文本相关性的计算,从而高效地进行文本分类、文本聚类和信息检索等处理。
目前,一些常用的机器学习方法逐渐应用到关键词提取领域中,基于机器学习的关键词提取方法常常需要进行关键词识别,在进行关键词识别的过程中,首先需要对待识别文本进行分词处理,并提取候选词的特征,然后根据提取出的特征使用机器学习模型对每个候选词进行分类操作。其中,候选词的特征一般包括词语的词法特征、句法特征以及所述词语在待提取文本和/或不同领域语料文本中的统计学特征等。但是采用这种方法提取关键词需要对待提取文本进行分词处理,所以提取的关键词的效果非常依赖于分词的精度,当分词的精度较差时关键词识别的准确度较低;另外,这种方法没有考虑候选词的语义特征,在专有领域的关键词提取中可能表现不佳。因此,如何提供一种关键词识别方法,能够提高关键词识别的准确性,成为了亟待解决的技术问题。
基于此,本申请实施例提供了一种关键词识别方法、装置、电子设备及存储介质,旨在提高关键词识别的准确性。
本申请实施例提供的关键词识别方法、装置、电子设备及存储介质,具体通过如下实施例进行说明,首先描述本申请实施例中的关键词识别方法。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本申请实施例提供的关键词识别方法,涉及人工智能技术领域。本申请实施例提供的关键词识别方法可应用于终端中,也可应用于服务器端中,还可以是运行于终端或服务器端中的软件。在一些实施例中,终端可以是智能手机、平板电脑、笔记本电脑、台式计算机等;服务器端可以配置成独立的物理服务器,也可以配置成多个物理服务器构成的服务器集群或者分布式系统,还可以配置成提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN以及大数据和人工智能平台等基础云计算服务的云服务器;软件可以是实现关键词识别方法的应用等,但并不局限于以上形式。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
图1是本申请实施例提供的关键词识别方法的一个可选的流程图,图1中的方法可以包括但不限于包括步骤S101至步骤S107。
步骤S101,获取待识别的原始文本,其中,原始文本包括原始文本序列;
步骤S102,通过预设的文本处理模型对原始文本序列进行特征提取,得到文本池化特征;
步骤S103,对文本池化特征进行识别处理,得到最大文本池化特征和每一卷积核对应的候选文本序列;
步骤S104,对最大文本池化特征进行拼接处理,得到综合池化特征向量;
步骤S105,对综合池化特征向量进行标签分类处理,得到标签特征向量以及每一文本类别的分类概率值;
步骤S106,根据分类概率值对候选文本序列进行筛选处理,得到目标文本序列;
步骤S107,对目标文本序列进行分词处理,得到目标关键词。
通过上述步骤S101至步骤S107,本申请实施例通过文本处理模型能够清楚地得到卷积核与候选文本序列之间的对应关系,同时也能够根据每一文本类别的分类概率值对候选文本序列进行筛选处理,筛选出对原始文本的文本类别影响较大的候选文本序列,将这一候选文本序列作为目标文本序列,并从该目标文本序列提取出影响原始文本的文本类别的关键词,提高了关键词识别的准确性。
在一些实施例的步骤S101中,可以通过编写网络爬虫,设置好数据源之后进行有目标性的爬取文本数据,得到待识别的原始文本。需要说明的是,该原始文本为自然语言文本。
进一步地,在获取到原始文本之后,还可以根据预设的字段长度等等对原始文本进行分割处理,得到多个原始文本序列。
请参阅图2,在一些实施例中,在步骤S102之前,该方法还包括预先训练文本处理模型,并对文本处理模型进行优化,具体可以包括但不限于包括步骤S201至步骤S207:
步骤S201,获取样本数据集,其中,样本数据集包括训练集、测试集;
步骤S202,利用训练集对初始模型进行训练,得到文本处理模型,其中,文本处理模型包括与每一样本文本类别对应的样本关键词集合;
步骤S203,将测试集输入到文本处理模型;
步骤S204,通过文本处理模型对测试集进行识别处理,得到测试集对应的样本文本类别和测试关键词;
步骤S205,根据样本文本类别,对样本关键词集合进行筛选处理,得到与测试集对应的目标关键词集合;
步骤S206,检验测试关键词在目标关键词集合中的存在性;
步骤S207,根据存在性对文本处理模型的损失函数进行优化,以更新文本处理模型。
具体地,该文本处理模型为改进的textcnn模型,文本处理模型包括嵌入层、卷积池化层以及全连接层。其中,卷积池化层内有n个卷积核,每一卷积核都是边长为k*embedding的矩阵,其中,k的取值可以为3、4、5等。
首先,执行步骤S201,获取样本数据集,同样地,也可以通过编写网络爬虫,设置好数据源之后进行有目标性的爬取文本数据,得到样本数据集。进而,根据预设比例将样本数据集划分为训练集和测试集,需要说明的是,预设比例可以根据实际需求进行设定,例如,按照7:3的比例将样本数据集划分为训练集和测试集,其中,训练集与测试集内的数据基本相同。
进一步地,执行步骤S202,将训练集的样本数据输入至初始模型中,对初始模型进行模型训练,得到文本处理模型,其中,初始模型为textcnn模型。将训练集中不同类别的样本数据输入至初始模型中,可以得到每一类别的关键词集合,能够使得经过模型训练之后的初始模型包括与每一样本文本类别对应的样本关键词集合。
进一步地,执行步骤S203和S204,将测试集输入至文本处理模型中,通过文本处理模组对测试集的样本数据进行识别处理,包括对样本数据进行映射处理、矩阵化处理以及池化处理等操作,得到测试集对应的样本文本类别和测试关键词。
在执行步骤S204之后,执行步骤S205,通过将样本文本类别与样本关键词集合比对,筛选出与样本文本类别对应的样本关键词集合,将这一样本关键词集合作为目标关键词集合。
最后,执行步骤S206和步骤S207,检验测试关键词在目标关键词集合中的存在性,具体地,将测试关键词与目标关键词集合中的每一样本关键词进行比对。若检测到目标关键词集合中存在与测试关键词相同的样本关键词,则确定测试集分类正确。根据测试集的测试结果,生成文本处理模型的文本分类类别及样本关键词集合。若检测到目标关键词集合中不存在与测试关键词相同的样本关键词,则确定测试集分类错误,则对测试集的当前样本数据进行重新分类。通过重复上述过程,对测试集内的每一样本数据进行测试,当测试集内的所有样本数据均分类正确之后,停止对文本处理模型的损失函数进行优化,得到最终的文本处理模型。
通过上述过程,相较于传统技术中的fasttext半监督关键词识别模型,本申请实施例能够得到分类性能以及泛化性能更好的文本处理模型,有利于提高关键词识别的准确性。
请参阅图3,在一些实施例中,步骤S102可以包括但不限于包括步骤S301至步骤S302:
步骤S301,将原始文本序列映射到预设的向量空间,得到文本序列向量;
步骤S302,对文本序列向量进行矩阵化处理,得到文本序列矩阵;
步骤S303,根据预设的扫描方向对文本序列矩阵进行扫描处理,得到文本特征向量;
步骤S304,对文本特征向量进行池化处理,得到文本池化特征。
具体地,首先执行S301和S302,利用嵌入层对文本序列进行语义空间到向量空间上的映射处理,将映射到预设的向量空间,得到文本序列向量。通过卷积池化层对文本序列向量进行矩阵化处理,得到文本序列矩阵。例如,对输入序列长度为sequence length的原始文本序列进行映射,得到文本序列向量,进而,由于每一卷积核都是边长为k*embedding的矩阵,将该文本序列向量与卷积核进行矩阵相乘处理,可以得到文本序列矩阵,该矩阵文本序列矩阵可以表示为sequence length*embedding。
进一步地,执行步骤S303,每一卷积核会按照序列方向对文本序列矩阵进行扫描,得到(sequence-k+1)*1长度的文本特征向量。
最后,执行步骤S304,对每一卷积核内的文本特征向量进行最大池化处理,得到文本池化特征。
请参阅图4,在一些实施例中,步骤S103可以包括但不限于包括步骤S401至步骤S402:
步骤S401,对文本池化特征进行筛选处理,得到每一卷积核对应的最大文本池化特征;
步骤S402,通过预设的第一函数对最大文本池化特征进行识别处理,得到每一卷积核对应的候选文本序列。
具体地,首先执行步骤S401,由于每一卷积核会对多个文本特征向量进行最大池化处理,得到每一文本特征向量对应的文本池化特征。文本池化特征的大小代表着卷积核对文本序列矩阵内的文本序列的敏感程度。为了提高对关键词识别的准确性,一般需要对文本池化特征进行筛选处理,得到每一卷积核对应的最大文本池化特征,即根据文本池化特征的大小,选取数值最大的文本池化特征,得到每一卷积核对应的最大池化特征,以便确定每一卷积核以及该卷积核最敏感的文本序列。
进而,执行步骤S402,预设的第一函数可以为argmax函数,通过argmax函数能够对最大文本池化特征进行识别处理,确定每一卷积核以及该卷积核最敏感的文本序列,将这一文本序列作为候选文本序列,同时,通过过argmax函数还能够获取到每一候选文本序列的实际位置,该实际位置指的是该文本序列在原始文本中的位置。
通过上述步骤S401至S402,本申请实施例能够较为方便地得到每一卷积核与该卷积核最敏感的文本序列的匹配关系,即卷积核-候选文本序列对照表,同时也能够得到候选文本序列在原始文本中的实际位置,以便后续对关键词进行位置识别,提高了关键词识别的效率。
请参阅图5,在一些实施例中,步骤S105还可以包括但不限于包括步骤S501至步骤S503:
步骤S501,根据预设的文本类别标签对综合池化特征向量进行标签分类处理,得到标签特征向量;
步骤S502,将标签特征向量与预设的参考向量进行点乘处理,得到标准特征向量;
步骤S503,通过预设的第二函数对标准特征向量进行概率计算,得到每一文本类别的分类概率值。
具体地,首先执行步骤S501,利用预先训练的序列分类器对综合池化特征向量进行标记,使得这些综合池化特征向量都能够带上预设的标签,以便提高分类效率。具体地,预先训练的序列分类器可以是最大熵马尔科夫模型(MEMM模型)或者基于条件随机场算法(CRF)的模型或者是基于双向长短时记忆算法(bi-LSTM)的模型。例如,可以基于bi-LSTM算法构建序列分类器,在基于bi-LSTM算法的模型中,输入单词wi和字符嵌入,通过左到右的长短记忆和右向左的长短时记忆,使得在输出被连接的位置生成单一的输出层。
进一步地,执行步骤S502,通过全连接层将标签特征向量与预设的参考向量进行点乘处理,得到标准特征向量。
最后,执行步骤S503,预设的第二函数可以为softmax函数。将标准特征向量直接传递到softmax函数上,通过softmax函数在预设的词性类别标签上创建一个概率分布,从而得到每一文本类别的分类概率值。需要说明的是,这里分成多少个类别取决于有多少个不同的文本类别标签,最终会得到每个文本类别的分类概率值。
请参阅图6,在一些实施例,步骤S106可以包括但不限于包括步骤S601至步骤S603:
步骤S601,根据分类概率值,确定目标文本类别标签;
步骤S602,通过预设的第三函数对目标文本类别标签进行识别处理,得到目标卷积核;
步骤S603,根据目标卷积核对候选文本序列进行筛选处理,得到目标文本序列。
具体地,首先执行步骤S601,根据分类概率值的大小,选取分类概率值最大的文本类别标签作为目标文本类别标签。
进一步,执行步骤S602,预设的第三函数可以为argmax函数。通过argmax函数对目标文本类别标签进行识别处理,从卷积池化层内的所有卷积核中筛选出该目标文本类别标签对应的卷积核,作为目标卷积核。该目标卷积核即为对文本类别影响最大的卷积核。
最后,执行步骤S603,由于在步骤S103中已经获取到了每一卷积核与该卷积核最敏感的文本序列的匹配关系,即卷积核-候选文本序列对照表,同时也得到了候选文本序列在原始文本中的实际位置。因而,可以根据每一卷积核与该卷积核最敏感的文本序列的匹配关系(卷积核-候选文本序列对照表)来查找与目标卷积核对应的候选文本序列,同时也可以得到与目标卷积核对应的候选文本序列的实际位置,该候选文本序列即为目标文本序列,该目标文本序列为对原始文本的文本类别影响最大的文本序列,即影响原始文本的文本类别的关键词位于目标文本序列上的可能性最大。
请参阅图7,在一些实施例,步骤S107可以包括但不限于包括步骤S701至步骤S702:
步骤S701,通过预设的分词器对目标文本序列进行分词处理,得到文本词段;
步骤S702,根据预设的词性标签和优先级顺序,对文本词段进行筛选处理,得到目标关键词。
具体地,执行步骤S701,由于目标文本序列可能为三元组、也可能为四元组,因此,可以根据该目标文本序列的实际位置以及该目标文本序列的字符组合信息,通过分词器对目标文本序列进行分词处理,得到文本词段,其中,文本词段包括字符、词组等等。
进一步地,执行步骤S702,由于一个目标文本序列上可能会包含有多个词组,则需要在这一系列词组中确定关键词。因此,可以预设一些词性标签,包括:名称、动词、形容词、或者特定领域/特定场景下的专有词汇等等;同时对这些词性标签设置优先级顺序。通过预设的词性标签及词性标签的优先级顺序,对文本词段中的多个词组进行筛选,选取其中最符合要求的词组作为目标关键词。
本申请实施例通过获取待识别的原始文本,其中,原始文本包括原始文本序列,能够将原始文本拆分成多个文本序列,简化识别过程,节省时间。进而,通过预设的文本处理模型对原始文本序列进行特征提取,得到文本池化特征,这样一来,能够对文本序列进行筛选,剔除相关性较低的文本序列,得到符合需求的文本池化特征,提高识别精度;进而,对文本池化特征进行识别处理,得到最大文本池化特征和每一卷积核对应的候选文本序列,能够清楚地得到卷积核与候选文本序列之间的对应关系。接下来,对最大文本池化特征进行拼接处理,得到综合池化特征向量,并且对综合池化特征向量进行标签分类处理,得到标签特征向量以及每一文本类别的分类概率值。最后,根据分类概率值对候选文本序列进行筛选处理,得到目标文本序列,并对目标文本序列进行分词处理,从而确定目标关键词。本申请实施例通过文本处理模型能够清楚地得到卷积核与候选文本序列之间的对应关系,同时也能够根据每一文本类别的分类概率值对候选文本序列进行筛选处理,筛选出对原始文本的文本类别影响较大的候选文本序列,将这一候选文本序列作为目标文本序列,并从该目标文本序列提取出影响原始文本的文本类别的关键词,提高了关键词识别的准确性。
请参阅图8,本申请实施例还提供一种关键词识别装置,可以实现上述关键词识别方法,该装置包括:
原始文本序列获取模块801,用于获取待识别的原始文本,其中,原始文本包括原始文本序列;
特征提取模块802,用于通过预设的文本处理模型对原始文本序列进行特征提取,得到文本池化特征;
识别模块803,用于对文本池化特征进行识别处理,得到最大文本池化特征和每一卷积核对应的候选文本序列;
拼接模块804,用于对最大文本池化特征进行拼接处理,得到综合池化特征向量;
分类模块805,用于对综合池化特征向量进行标签分类处理,得到标签特征向量以及每一文本类别的分类概率值;
筛选模块806,用于根据分类概率值对候选文本序列进行筛选处理,得到目标文本序列;
分词模块807,用于对目标文本序列进行分词处理,得到目标关键词。
该关键词识别装置的具体实施方式与上述关键词识别方法的具体实施例基本相同,在此不再赘述。
本申请实施例还提供了一种电子设备,电子设备包括:存储器、处理器、存储在存储器上并可在处理器上运行的程序以及用于实现处理器和存储器之间的连接通信的数据总线,程序被处理器执行时实现上述关键词识别方法。该电子设备可以为包括平板电脑、车载电脑等任意智能终端。
请参阅图9,图9示意了另一实施例的电子设备的硬件结构,电子设备包括:
处理器901,可以采用通用的CPU(CentralProcessingUnit,中央处理器)、微处理器、应用专用集成电路(ApplicationSpecificIntegratedCircuit,ASIC)、或者一个或多个集成电路等方式实现,用于执行相关程序,以实现本申请实施例所提供的技术方案;
存储器902,可以采用只读存储器(ReadOnlyMemory,ROM)、静态存储设备、动态存储设备或者随机存取存储器(RandomAccessMemory,RAM)等形式实现。存储器902可以存储操作系统和其他应用程序,在通过软件或者固件来实现本说明书实施例所提供的技术方案时,相关的程序代码保存在存储器902中,并由处理器901来调用执行本申请实施例的关键词识别方法;
输入/输出接口903,用于实现信息输入及输出;
通信接口904,用于实现本设备与其他设备的通信交互,可以通过有线方式(例如USB、网线等)实现通信,也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信;
总线905,在设备的各个组件(例如处理器901、存储器902、输入/输出接口903和通信接口904)之间传输信息;
其中处理器901、存储器902、输入/输出接口903和通信接口904通过总线905实现彼此之间在设备内部的通信连接。
本申请实施例还提供了一种存储介质,存储介质为计算机可读存储介质,用于计算机可读存储,存储介质存储有一个或者多个程序,一个或者多个程序可被一个或者多个处理器执行,以实现上述关键词识别方法。
存储器作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外,存储器可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中,存储器可选包括相对于处理器远程设置的存储器,这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本申请实施例描述的实施例是为了更加清楚的说明本申请实施例的技术方案,并不构成对于本申请实施例提供的技术方案的限定,本领域技术人员可知,随着技术的演变和新应用场景的出现,本申请实施例提供的技术方案对于类似的技术问题,同样适用。
本领域技术人员可以理解的是,图1-7中示出的技术方案并不构成对本申请实施例的限定,可以包括比图示更多或更少的步骤,或者组合某些步骤,或者不同的步骤。
以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统、设备中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。
本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应当理解,在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,上述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括多指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例的方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等各种可以存储程序的介质。
以上参照附图说明了本申请实施例的优选实施例,并非因此局限本申请实施例的权利范围。本领域技术人员不脱离本申请实施例的范围和实质内所作的任何修改、等同替换和改进,均应在本申请实施例的权利范围之内。
Claims (6)
1.一种关键词识别方法,其特征在于,所述方法包括:
获取待识别的原始文本,其中,所述原始文本包括原始文本序列;
通过预设的文本处理模型对所述原始文本序列进行特征提取,得到文本池化特征;
对所述文本池化特征进行识别处理,得到最大文本池化特征和每一卷积核对应的候选文本序列;
对所述最大文本池化特征进行拼接处理,得到综合池化特征向量;
对所述综合池化特征向量进行标签分类处理,得到标签特征向量以及每一文本类别的分类概率值;
根据所述分类概率值对所述候选文本序列进行筛选处理,得到目标文本序列;
对所述目标文本序列进行分词处理,得到目标关键词;
其中,所述通过预设的文本处理模型对所述原始文本序列进行特征提取,得到文本池化特征的步骤,包括:
将所述原始文本序列映射到预设的向量空间,得到文本序列向量;
对所述文本序列向量进行矩阵化处理,得到文本序列矩阵;
根据预设的扫描方向对所述文本序列矩阵进行扫描处理,得到文本特征向量;
对所述文本特征向量进行池化处理,得到文本池化特征;
所述对所述文本池化特征进行识别处理,得到最大文本池化特征和每一卷积核对应的候选文本序列的步骤,包括:
对所述文本池化特征进行筛选处理,得到每一卷积核对应的最大文本池化特征;
通过预设的第一函数对所述最大文本池化特征进行识别处理,得到每一卷积核对应的候选文本序列;
所述对所述综合池化特征向量进行标签分类处理,得到标签特征向量以及每一文本类别的分类概率值的步骤,包括:
根据预设的文本类别标签对所述综合池化特征向量进行标签分类处理,得到标签特征向量;
将所述标签特征向量与预设的参考向量进行点乘处理,得到标准特征向量;
通过预设的第二函数对所述标准特征向量进行概率计算,得到每一文本类别的分类概率值;
所述根据所述分类概率值对所述候选文本序列进行筛选处理,得到目标文本序列的步骤,包括:
根据所述分类概率值,确定目标文本类别标签;
通过预设的第三函数对所述目标文本类别标签进行识别处理,得到目标卷积核;
根据所述目标卷积核对所述候选文本序列进行筛选处理,得到所述目标文本序列。
2.根据权利要求1所述的关键词识别方法,其特征在于,所述对所述目标文本序列进行分词处理,得到目标关键词的步骤,包括:
通过预设的分词器对所述目标文本序列进行分词处理,得到文本词段;
根据预设的词性标签和优先级顺序,对所述文本词段进行筛选处理,得到所述目标关键词。
3.根据权利要求1至2任一项所述的关键词识别方法,其特征在于,在所述通过预设的文本处理模型对所述原始文本序列进行特征提取,得到文本池化特征的步骤之前,所述方法还包括预先训练所述文本处理模型,并对所述文本处理模型进行优化,具体包括:
获取样本数据集,其中,所述样本数据集包括训练集、测试集;
利用训练集对初始模型进行训练,得到文本处理模型,其中,所述文本处理模型包括与每一样本文本类别对应的样本关键词集合;
将所述测试集输入到所述文本处理模型;
通过文本处理模型对所述测试集进行识别处理,得到所述测试集对应的样本文本类别和测试关键词;
根据所述样本文本类别,对所述样本关键词集合进行筛选处理,得到与所述测试集对应的目标关键词集合;
检验所述测试关键词在所述目标关键词集合中的存在性;
根据所述存在性对所述文本处理模型的损失函数进行优化,以更新所述文本处理模型。
4.一种关键词识别装置,其特征在于,所述装置包括:
原始文本序列获取模块,用于获取待识别的原始文本,其中,所述原始文本包括原始文本序列;
特征提取模块,用于通过预设的文本处理模型对所述原始文本序列进行特征提取,得到文本池化特征;
识别模块,用于对所述文本池化特征进行识别处理,得到最大文本池化特征和每一卷积核对应的候选文本序列;
拼接模块,用于对所述最大文本池化特征进行拼接处理,得到综合池化特征向量;
分类模块,用于对所述综合池化特征向量进行标签分类处理,得到标签特征向量以及每一文本类别的分类概率值;
筛选模块,用于根据所述分类概率值对所述候选文本序列进行筛选处理,得到目标文本序列;
分词模块,用于对所述目标文本序列进行分词处理,得到目标关键词;
其中,所述通过预设的文本处理模型对所述原始文本序列进行特征提取,得到文本池化特征,包括:
将所述原始文本序列映射到预设的向量空间,得到文本序列向量;
对所述文本序列向量进行矩阵化处理,得到文本序列矩阵;
根据预设的扫描方向对所述文本序列矩阵进行扫描处理,得到文本特征向量;
对所述文本特征向量进行池化处理,得到文本池化特征;
所述对所述文本池化特征进行识别处理,得到最大文本池化特征和每一卷积核对应的候选文本序列,包括:
对所述文本池化特征进行筛选处理,得到每一卷积核对应的最大文本池化特征;
通过预设的第一函数对所述最大文本池化特征进行识别处理,得到每一卷积核对应的候选文本序列;
所述对所述综合池化特征向量进行标签分类处理,得到标签特征向量以及每一文本类别的分类概率值,包括:
根据预设的文本类别标签对所述综合池化特征向量进行标签分类处理,得到标签特征向量;
将所述标签特征向量与预设的参考向量进行点乘处理,得到标准特征向量;
通过预设的第二函数对所述标准特征向量进行概率计算,得到每一文本类别的分类概率值;
所述根据所述分类概率值对所述候选文本序列进行筛选处理,得到目标文本序列,包括:
根据所述分类概率值,确定目标文本类别标签;
通过预设的第三函数对所述目标文本类别标签进行识别处理,得到目标卷积核;
根据所述目标卷积核对所述候选文本序列进行筛选处理,得到所述目标文本序列。
5.一种电子设备,其特征在于,所述电子设备包括存储器、处理器、存储在所述存储器上并可在所述处理器上运行的程序以及用于实现所述处理器和所述存储器之间的连接通信的数据总线,所述程序被所述处理器执行时实现如权利要求1至3任一项所述的关键词识别方法的步骤。
6.一种存储介质,所述存储介质为计算机可读存储介质,用于计算机可读存储,其特征在于,所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现权利要求1至3中任一项所述的关键词识别方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210143314.1A CN114492437B (zh) | 2022-02-16 | 2022-02-16 | 关键词识别方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210143314.1A CN114492437B (zh) | 2022-02-16 | 2022-02-16 | 关键词识别方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114492437A CN114492437A (zh) | 2022-05-13 |
CN114492437B true CN114492437B (zh) | 2023-07-18 |
Family
ID=81483053
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210143314.1A Active CN114492437B (zh) | 2022-02-16 | 2022-02-16 | 关键词识别方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114492437B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116663549B (zh) * | 2023-05-18 | 2024-03-19 | 海南科技职业大学 | 一种基于企业档案的数字化管理方法、系统及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017162112A (ja) * | 2016-03-08 | 2017-09-14 | 日本電信電話株式会社 | 単語抽出装置、方法、及びプログラム |
CN109543084A (zh) * | 2018-11-09 | 2019-03-29 | 西安交通大学 | 一种建立面向网络社交媒体的隐蔽敏感文本的检测模型的方法 |
CN110543569A (zh) * | 2019-09-06 | 2019-12-06 | 四川长虹电器股份有限公司 | 用于短文本意图识别的网络层结构及短文本意图识别方法 |
CN112307743A (zh) * | 2020-10-28 | 2021-02-02 | 杭州电子科技大学 | 基于K-max池化的卷积网络事件识别方法 |
CN113887169A (zh) * | 2021-09-28 | 2022-01-04 | 阿里巴巴达摩院(杭州)科技有限公司 | 文本处理方法、电子设备、计算机存储介质及程序产品 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111753822A (zh) * | 2019-03-29 | 2020-10-09 | 北京市商汤科技开发有限公司 | 文本识别方法及装置、电子设备和存储介质 |
-
2022
- 2022-02-16 CN CN202210143314.1A patent/CN114492437B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017162112A (ja) * | 2016-03-08 | 2017-09-14 | 日本電信電話株式会社 | 単語抽出装置、方法、及びプログラム |
CN109543084A (zh) * | 2018-11-09 | 2019-03-29 | 西安交通大学 | 一种建立面向网络社交媒体的隐蔽敏感文本的检测模型的方法 |
CN110543569A (zh) * | 2019-09-06 | 2019-12-06 | 四川长虹电器股份有限公司 | 用于短文本意图识别的网络层结构及短文本意图识别方法 |
CN112307743A (zh) * | 2020-10-28 | 2021-02-02 | 杭州电子科技大学 | 基于K-max池化的卷积网络事件识别方法 |
CN113887169A (zh) * | 2021-09-28 | 2022-01-04 | 阿里巴巴达摩院(杭州)科技有限公司 | 文本处理方法、电子设备、计算机存储介质及程序产品 |
Also Published As
Publication number | Publication date |
---|---|
CN114492437A (zh) | 2022-05-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110705206B (zh) | 一种文本信息的处理方法及相关装置 | |
Gokul et al. | Sentence similarity detection in Malayalam language using cosine similarity | |
CN111159409B (zh) | 基于人工智能的文本分类方法、装置、设备、介质 | |
CN114626097A (zh) | 脱敏方法、脱敏装置、电子设备及存储介质 | |
CN114722069A (zh) | 语言转换方法和装置、电子设备及存储介质 | |
CN114519356B (zh) | 目标词语的检测方法、装置、电子设备及存储介质 | |
CN111767714B (zh) | 一种文本通顺度确定方法、装置、设备及介质 | |
CN114595327A (zh) | 数据增强方法和装置、电子设备、存储介质 | |
Zavala et al. | A Hybrid Bi-LSTM-CRF model for Knowledge Recognition from eHealth documents. | |
CN116541493A (zh) | 基于意图识别的交互应答方法、装置、设备、存储介质 | |
CN112148862A (zh) | 一种问题意图识别方法、装置、存储介质及电子设备 | |
CN116561538A (zh) | 问答评分方法、问答评分装置、电子设备及存储介质 | |
Santoso et al. | Hybrid conditional random fields and k-means for named entity recognition on indonesian news documents | |
CN114492437B (zh) | 关键词识别方法、装置、电子设备及存储介质 | |
CN114240552A (zh) | 基于深度聚类算法的产品推荐方法、装置、设备及介质 | |
CN116719999A (zh) | 文本相似度检测方法和装置、电子设备及存储介质 | |
CN114841146B (zh) | 文本摘要生成方法和装置、电子设备及存储介质 | |
CN114398903B (zh) | 意图识别方法、装置、电子设备及存储介质 | |
CN115795007A (zh) | 智能问答方法、智能问答装置、电子设备及存储介质 | |
CN115270746A (zh) | 问题样本生成方法和装置、电子设备及存储介质 | |
CN114936274A (zh) | 模型训练方法、对话生成方法和装置、设备及存储介质 | |
CN114722174A (zh) | 提词方法和装置、电子设备及存储介质 | |
CN114611529A (zh) | 意图识别方法和装置、电子设备及存储介质 | |
Chopra et al. | Sequence Labeling using Conditional Random Fields | |
Bharti et al. | Sarcasm as a contradiction between a tweet and its temporal facts: a pattern-based approach |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |