CN113408278B - 意图识别方法、装置、设备及存储介质 - Google Patents
意图识别方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN113408278B CN113408278B CN202110691632.7A CN202110691632A CN113408278B CN 113408278 B CN113408278 B CN 113408278B CN 202110691632 A CN202110691632 A CN 202110691632A CN 113408278 B CN113408278 B CN 113408278B
- Authority
- CN
- China
- Prior art keywords
- vector
- text
- intention
- preset
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Databases & Information Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Machine Translation (AREA)
Abstract
本发明涉及人工智能,提供一种意图识别方法、装置、设备及存储介质。该方法能够对训练文本及真实意图进行编码,得到文本向量及意图向量,获取包括i个预设网络的初始模型,将文本向量输入至第i‑1预设网络中,得到网络输出向量,拼接网络输出向量及文本向量,得到拼接向量,并将拼接向量输入至第i个预设网络中,得到语义向量,根据语义向量及意图向量计算损失值并调整初始模型中的参数,直至损失值不再降低,得到意图识别模型,对待识别文本进行编码,得到编码向量,将编码向量输入至意图识别模型中,得到输出向量,并映射输出向量,得到目标意图。本发明能够精确的识别出意图。此外,本发明还涉及区块链技术,所述目标意图可存储于区块链中。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及一种意图识别方法、装置、设备及存储介质。
背景技术
在利用深度神经网络识别意图的场景中,为了提高意图识别的准确性,往往需要通过多层网络对文本进行特征提取。目前主要是将上一层网络的输出作为当前网络的输入提取文本中的特征,然而,发明人意识到,随着网络深度的增加,前几层网络参数的梯度接近于0,造成无法优化前几层网络中的参数,从而导致训练出的模型无法精确地识别出文本中的意图。
发明内容
鉴于以上内容,有必要提供一种意图识别方法、装置、设备及存储介质,能够精确地识别出文本中的意图。
一方面,本发明提出一种意图识别方法,所述意图识别方法包括:
获取意图训练样本,所述意图训练样本中包括训练文本及真实意图;
对所述训练文本进行编码,得到文本向量,并对所述真实意图进行编码,得到意图向量;
获取初始模型,所述初始模型包括i个预设网络,i为大于等于2的整数;
将所述文本向量输入至第i-1预设网络中,得到所述第i-1个预设网络的网络输出向量;
拼接所述网络输出向量及所述文本向量,得到拼接向量,并将所述拼接向量输入至第i个预设网络中,得到语义向量;
根据所述语义向量及所述意图向量计算所述初始模型的损失值;
根据所述语义向量调整所述初始模型中的参数,直至所述损失值不再降低,得到意图识别模型;
当接收到意图识别请求时,根据所述意图识别请求获取待识别文本,并对所述待识别文本进行编码,得到编码向量;
将所述编码向量输入至所述意图识别模型中,得到输出向量,并对所述输出向量进行映射处理,得到目标意图。
根据本发明优选实施例,所述获取意图训练样本包括以下一种或者多种方式的组合:
当接收到终端设备发出的授权响应时,从所述终端设备中获取执行评分大于预设评分阈值的对话场次,从所述对话场次中获取对话文本及所述终端设备针对所述对话文本所识别出的意图作为所述意图训练样本;及/或
从预设文本库中获取带有标注意图的文本作为标注文本,并将所述标注文本及所述标注意图确定为所述意图训练样本。
根据本发明优选实施例,所述对所述训练文本进行编码,得到文本向量包括:
从所述训练文本中获取表情图标;
从预设图标库中获取所述表情图标的配置图标,并从所述预设图标库中获取与所述配置图标对应的标签作为所述表情图标的图标文本;
将所述训练文本中的所述表情图标替换为所述图标文本,得到文本信息;
对所述文本信息进行分词处理,得到文本分词;
获取向量映射表,并基于所述向量映射表对所述文本分词进行向量映射,得到每个文本分词的表征向量;
确定所述文本分词在所述文本信息中的分词位置;
基于所述分词位置对所述文本分词进行位置编码,得到每个文本分词的位置向量;
计算所述表征向量与所述位置向量的总和,得到每个文本分词的分词向量;
根据所述分词位置从小至大的顺序拼接所述分词向量,得到所述文本向量。
根据本发明优选实施例,所述从预设图标库中获取所述表情图标的配置图标包括:
从所述预设图标库中获取多个配置向量,并获取所述多个配置向量的生成编码表;
获取所述表情图标的图标像素信息;
基于所述生成编码表对所述图标像素信息进行编码,得到所述表情图标的图标向量;
计算所述图标向量与每个配置向量的相似度;
将所述相似度最大的配置向量对应的图标确定为所述配置图标。
根据本发明优选实施例,所述将所述文本向量输入至第i-1预设网络中,得到所述第i-1个预设网络的网络输出向量包括:
获取双向长短期记忆网络中的正向网络及反向网络;
基于所述正向网络对所述文本向量进行正向特征提取,得到第一特征向量,并基于所述反向网络对所述文本向量进行反向特征提取,得到第二特征向量;
计算所述第一特征向量与所述第二特征向量的总和,得到目标特征向量;
获取所述第i-1预设网络中的预设权重矩阵及预设偏置值;
计算所述目标特征向量与所述预设权重矩阵的乘积,得到中间向量;
计算所述中间向量与所述预设偏置值的总和,得到类别向量;
对所述类别向量进行归一化处理,得到所述网络输出向量。
根据本发明优选实施例,所述根据所述语义向量及所述意图向量计算所述初始模型的损失值包括:
计算所述语义向量与所述意图向量的相似距离;
计算所述相似距离的对数值,得到运算结果;
将所述运算结果的相反数确定为所述损失值。
根据本发明优选实施例,所述根据所述语义向量调整所述初始模型中的参数包括:
获取所述相似距离小于预设距离阈值的所述语义向量作为待分析向量;
将与所述待分析向量对应的所述意图训练样本确定为目标样本,并获取与所述目标样本对应的所述意图向量作为目标向量;
根据所述文本向量及所述目标向量调整所述参数。
另一方面,本发明还提出一种意图识别装置,所述意图识别装置包括:
获取单元,用于获取意图训练样本,所述意图训练样本中包括训练文本及真实意图;
编码单元,用于对所述训练文本进行编码,得到文本向量,并对所述真实意图进行编码,得到意图向量;
所述获取单元,还用于获取初始模型,所述初始模型包括i个预设网络,i为大于等于2的整数;
输入单元,用于将所述文本向量输入至第i-1预设网络中,得到所述第i-1个预设网络的网络输出向量;
所述输入单元,还用于拼接所述网络输出向量及所述文本向量,得到拼接向量,并将所述拼接向量输入至第i个预设网络中,得到语义向量;
计算单元,用于根据所述语义向量及所述意图向量计算所述初始模型的损失值;
调整单元,用于根据所述语义向量调整所述初始模型中的参数,直至所述损失值不再降低,得到意图识别模型;
所述编码单元,还用于当接收到意图识别请求时,根据所述意图识别请求获取待识别文本,并对所述待识别文本进行编码,得到编码向量;
处理单元,用于将所述编码向量输入至所述意图识别模型中,得到输出向量,并对所述输出向量进行映射处理,得到目标意图。
另一方面,本发明还提出一种电子设备,所述电子设备包括:
存储器,存储计算机可读指令;及
处理器,执行所述存储器中存储的计算机可读指令以实现所述意图识别方法。
另一方面,本发明还提出一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机可读指令,所述计算机可读指令被电子设备中的处理器执行以实现所述意图识别方法。
由以上技术方案可以看出,本发明通过由所述网络输出向量及所述文本向量拼接得到的拼接向量,能够使生成的所述语义向量中同时包含有所述网络输出向量及所述文本向量中的信息,进而能够解决无法优化前几层网络参数的问题,从而能够提高所述意图识别模型的训练准确性,同时,本发明通过多层网络还能够提取出所述待识别文本中的大量特征,从而能够双重提高所述目标意图的确定准确性。
附图说明
图1是本发明意图识别方法的较佳实施例的流程图。
图2是本发明意图识别装置的较佳实施例的功能模块图。
图3是本发明实现意图识别方法的较佳实施例的电子设备的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图和具体实施例对本发明进行详细描述。
如图1所示,是本发明意图识别方法的较佳实施例的流程图。根据不同的需求,该流程图中步骤的顺序可以改变,某些步骤可以省略。
所述意图识别方法应用于一个或者多个电子设备中,所述电子设备是一种能够按照事先设定或存储的计算机可读指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable Gate Array,FPGA)、数字信号处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述电子设备可以是任何一种可与用户进行人机交互的电子产品,例如,个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant,PDA)、游戏机、交互式网络电视(Internet Protocol Television,IPTV)、智能穿戴式设备等。
所述电子设备可以包括网络设备和/或用户设备。其中,所述网络设备包括,但不限于单个网络电子设备、多个网络电子设备组成的电子设备组或基于云计算(CloudComputing)的由大量主机或网络电子设备构成的云。
所述电子设备所处的网络包括,但不限于:互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network,VPN)等。
S10,获取意图训练样本,所述意图训练样本中包括训练文本及真实意图。
在本发明的至少一个实施例中,所述意图训练样本可以从经过授权的终端设备中获取,所述意图训练样本也可以从预设文本库中获取,本发明对所述意图训练样本的来源不作限制。
所述训练文本可以是人机交互过程中评分较高的对话信息,所述真实意图是指机器人对所述训练文本预测出的意图。
在本发明的至少一个实施例中,所述电子设备获取意图训练样本包括以下一种或者多种方式的组合:
(1)当接收到终端设备发出的授权响应时,从所述终端设备中获取执行评分大于预设评分阈值的对话场次,从所述对话场次中获取对话文本及所述终端设备针对所述对话文本所识别出的意图作为所述意图训练样本。
其中,所述终端设备可以是任意聊天机器人,所述任意聊天机器人可以包括任务型机器人及非任务型机器人。
所述预设评分阈值可以根据需求设置,本发明对此不作限制。
通过从经过授权的终端设备中获取所述意图训练样本,能够提高所述意图训练样本的获取合法性,同时,从所述终端设备中获取到的是所述执行评分大于所述预设评分阈值的场次对应的所述意图训练样本,因此,确保了所述意图训练样本中所述真实意图的准确性。
(2)从预设文本库中获取带有标注意图的文本作为标注文本,并将所述标注文本及所述标注意图确定为所述意图训练样本。
其中,所述预设文本库中存储有用户标准的多个文本。
所述标注意图可以是预设用户对所述标注文本的标注信息。
通过上述实施方式,能够从多种途径中获取到所述意图训练样本,提高所述意图训练样本的全面性。
S11,对所述训练文本进行编码,得到文本向量,并对所述真实意图进行编码,得到意图向量。
在本发明的至少一个实施例中,所述文本向量中包含有所述训练文本中每个文本分词的表征向量及每个文本分词的位置向量。
所述意图向量是利用生成所述表征向量的向量映射表对所述真实意图进行编码而生成的。
在本发明的至少一个实施例中,所述电子设备对所述训练文本进行编码,得到文本向量包括:
从所述训练文本中获取表情图标;
从预设图标库中获取所述表情图标的配置图标,并从所述预设图标库中获取与所述配置图标对应的标签作为所述表情图标的图标文本;
将所述训练文本中的所述表情图标替换为所述图标文本,得到文本信息;
对所述文本信息进行分词处理,得到文本分词;
获取向量映射表,并基于所述向量映射表对所述文本分词进行向量映射,得到每个文本分词的表征向量;
确定所述文本分词在所述文本信息中的分词位置;
基于所述分词位置对所述文本分词进行位置编码,得到每个文本分词的位置向量;
计算所述表征向量与所述位置向量的总和,得到每个文本分词的分词向量;
根据所述分词位置从小至大的顺序拼接所述分词向量,得到所述文本向量。
其中,所述表情图标可以是表情包。
所述预设图标库中存储有多个图标与标签的映射关系,所述预设图标库中的任一标签用于表征相应图标所表示的情绪。
所述向量映射表中存储有多个词汇与向量值的映射关系。
通过上述实施方式,由于在人机交互过程中,用户或者机器人存在使用表情图标的情况,因此,将所述表情图标转换为所述图标文本,能够避免所述表情图标中的信息丢失,从而提高所述文本向量的编码准确性,同时,由于同一词汇在句中的不同位置对应出的语义不同,因此,通过所述分词位置对所述文本分词进行位置编码,能够使生成的所述分词向量中保留了所述文本分词的位置信息,从而提高所述文本向量的编码准确性。
具体地,所述电子设备从所述训练文本中获取表情图标包括:
基于预设格式遍历所述训练文本中的信息;
将所述训练文本中与所述预设格式相同的信息确定为所述表情图标。
其中,所述预设格式可以包括,但不限于:JPG格式、PNG格式等。
通过所述预设格式对所述训练文本进行遍历,能够从所述训练文本中全面获取到所述表情图标。
具体地,所述电子设备从预设图标库中获取所述表情图标的配置图标包括:
从所述预设图标库中获取多个配置向量,并获取所述多个配置向量的生成编码表;
获取所述表情图标的图标像素信息;
基于所述生成编码表对所述图标像素信息进行编码,得到所述表情图标的图标向量;
计算所述图标向量与每个配置向量的相似度;
将所述相似度最大的配置向量对应的图标确定为所述配置图标。
其中,所述预设图标库中存储有多个配置向量与图标的映射关系。
所述多个配置向量是根据所述生成编码表对所述预设图标库中图标的像素信息进行编码得到的。
所述生成编码表可以根据像素信息进行配置得到的。
通过上述实施方式,将所述预设图标库中的图标及所述标签图标进行向量化处理,从而能够准确的确定出所述配置图标。
具体地,所述电子设备对所述文本信息进行分词处理,得到文本分词包括:
基于预设词典切分所述文本信息,得到多个路径及每个路径对应的路径分词;
从所述预设词典中获取所述路径分词的切分权值;
计算每个路径中所述切分权值的总和,得到每个路径的切分概率;
将所述切分概率最大的路径确定为目标路径,并将所述目标路径中的所述路径分词确定为所述文本分词。
其中,所述预设词典中存储有多个自定义词汇及每个自定义词汇的权值。
通过上述实施方式,能够根据所述切分权值准确的确定出所述切分概率,从而基于所述切分概率能够快速的确定出所述文本分词。
在本发明的至少一个实施例中,所述电子设备对所述真实意图进行编码,得到意图向量包括:
基于所述向量映射表对所述真实意图进行编码,得到所述意图向量。
通过生成每个所述表征向量的向量映射表对所述真实意图进行编码,能够避免不同维度对所述文本向量及所述意图向量的影响,从而能够提高后续所述损失值的确定准确性。
S12,获取初始模型,所述初始模型包括i个预设网络,i为大于等于2的整数。
在本发明的至少一个实施例中,每个预设网络中的网络结构相同,但每个预设网络中的网络参数不都相同。
S13,将所述文本向量输入至第i-1预设网络中,得到所述第i-1个预设网络的网络输出向量。
在本发明的至少一个实施例中,所述网络输出向量是将上一层网络的网络输出向量与所述文本向量拼接后作为输入,输入到当前网络中进行分析而得到的。
举例来说,将所述文本向量输入至第一个预设网络中,得到所述第一个预设网络对应的第一网络输出向量,进一步地,所述电子设备拼接所述第一网络输出向量与所述文本向量,并将拼接得到的向量输入至第二个预设网络中,得到所述第二个预设网络对应的第二网络输出向量,以此类推,得到所述第i-1个预设网络的网络输出向量。
在本发明的至少一个实施例中,所述电子设备将所述文本向量输入至第i-1预设网络中,得到所述第i-1个预设网络的网络输出向量包括:
获取双向长短期记忆网络中的正向网络及反向网络;
基于所述正向网络对所述文本向量进行正向特征提取,得到第一特征向量,并基于所述反向网络对所述文本向量进行反向特征提取,得到第二特征向量;
计算所述第一特征向量与所述第二特征向量的总和,得到目标特征向量;
获取所述第i-1预设网络中的预设权重矩阵及预设偏置值;
计算所述目标特征向量与所述预设权重矩阵的乘积,得到中间向量;
计算所述中间向量与所述预设偏置值的总和,得到类别向量;
对所述类别向量进行归一化处理,得到所述网络输出向量。
通过所述正向网络及所述反向网络对所述文本向量进行特征提取,进而对得到的所述第一特征向量及所述第二特征向量进行特征融合,能够得到同时具有所述文本向量的正向特征及反向特征的目标特征向量,进一步根据所述预设权重矩阵及所述预设偏置值能够将所述训练文本中的文本特征汇集到所述网络输出向量中,从而能够准确的确定出所述目标意图。
S14,拼接所述网络输出向量及所述文本向量,得到拼接向量,并将所述拼接向量输入至第i个预设网络中,得到语义向量。
在本发明的至少一个实施例中,所述电子设备将所述网络输出向量的末端与所述文本向量的首端进行连接,得到所述拼接向量。
所述语义向量是指所述训练文本的语义表征。
在本发明的至少一个实施例中,所述电子设备将所述拼接向量输入至第i个预设网络中,得到语义向量的方式与所述电子设备将所述文本向量输入至第i-1预设网络中,得到所述第i-1个预设网络的网络输出向量的方式相同,本发明对此不再赘述。
S15,根据所述语义向量及所述意图向量计算所述初始模型的损失值。
在本发明的至少一个实施例中,所述损失值是根据所述初始模型生成的所述语义向量与所述意图向量的相似性确定的。
在本发明的至少一个实施例中,所述电子设备根据所述语义向量及所述意图向量计算所述初始模型的损失值包括:
计算所述语义向量与所述意图向量的相似距离;
计算所述相似距离的对数值,得到运算结果;
将所述运算结果的相反数确定为所述损失值。
通过所述语义向量与所述意图向量的相似性,能够快速的确定出所述损失值,进而有利于对所述初始模型进行调整。
S16,根据所述语义向量调整所述初始模型中的参数,直至所述损失值不再降低,得到意图识别模型。
在本发明的至少一个实施例中,所述意图识别模型是指所述损失值不再降低时的所述初始模型。
在本发明的至少一个实施例中,所述电子设备根据所述语义向量调整所述初始模型中的参数包括:
获取所述相似距离小于预设距离阈值的所述语义向量作为待分析向量;
将与所述待分析向量对应的所述意图训练样本确定为目标样本,并获取与所述目标样本对应的所述意图向量作为目标向量;
根据所述文本向量及所述目标向量调整所述参数。
其中,所述预设距离阈值是根据所述初始模型的精确度需求设置的。
通过上述实施方式,由于所述待分析向量中同时包含有所述网络输出向量及所述文本向量中的信息,因此,通过将预测不够准确的样本对应的真实意图作为目标输出,对所述参数进行调整,能够调整所述初始模型前几层网络中的参数,从而能够训练出准确的所述意图识别模型。
具体地,所述电子设备根据所述文本向量及所述目标向量调整所述参数包括:
以所述文本向量为所述初始模型的输入,所述目标向量为所述初始模型的输出,调整所述参数。
S17,当接收到意图识别请求时,根据所述意图识别请求获取待识别文本,并对所述待识别文本进行编码,得到编码向量。
在本发明的至少一个实施例中,所述意图识别请求可以由任意机器人触发生成。
所述待识别文本是指需要进行意图识别的文本信息。
所述编码向量是指所述待识别文本的表征信息。
在本发明的至少一个实施例中,所述电子设备根据所述意图识别请求获取待识别文本包括:
解析所述意图识别请求的报文头,得到所述报文头携带的地址信息;
从所述地址信息中获取指示发送的地址作为发送地址;
将与所述发送地址对应的设备确定为触发设备;
获取所述意图识别请求的请求生成时间;
从所述触发设备中获取与所述请求生成时间对应的日志作为目标日志;
从所述目标日志中获取指示位置的信息作为存储路径;
获取所述存储路径中的所有信息作为所述待识别文本。
其中,所述地址信息包括:所述发送地址及所述电子设备的地址。
进一步地,所述发送地址是指将所述意图识别请求发送至所述电子设备中的地址,所述发送地址可以是任意机器人的设备地址。
所述请求生成时间可以是一个时间点,也可以是一个时间段。
所述存储路径中存储有与所述意图识别请求对应的人机对话数据。
通过解析所述报文头,由于无需解析所述意图识别请求的方法体,因此,能够提高所述地址信息的获取效率,从而提高所述触发设备的确定效率,通过所述请求生成时间及所述触发设备能够准确的确定出所述目标日志,进而能够准确的获取到所述待识别文本。
在本发明的至少一个实施例中,所述电子设备对所述待识别文本进行编码的方式与所述电子设备对所述训练文本进行编码的方式相同,本发明对此不再赘述。
S18,将所述编码向量输入至所述意图识别模型中,得到输出向量,并对所述输出向量进行映射处理,得到目标意图。
在本发明的至少一个实施例中,所述输出向量是根据所述意图识别模型对所述编码向量进行分析而得到的向量。所述输出向量用于表征所述待识别文本的语义。
所述目标意图是指所述待识别文本表征的意图。
需要强调的是,为进一步保证上述目标意图的私密和安全性,上述目标意图还可以存储于一区块链的节点中。
在本发明的至少一个实施例中,所述电子设备对所述输出向量进行映射处理,得到目标意图包括:
将所述输出向量中取值最大的向量值对应的维度确定为目标维度;
获取所述目标维度对应的类别作为所述目标意图。
在本发明的至少一个实施例中,所述方法还包括:
获取所述意图识别请求的请求编号;
根据所述请求编号及所述目标意图生成提示信息;
采用对称加密技术加密所述提示信息,得到密文;
将所述密文发送至所述触发设备。
通过上述实施方式,不仅能够将所述目标意图快速发送至所述触发设备中,还能够提高所述目标意图的安全性。
由以上技术方案可以看出,本发明通过由所述网络输出向量及所述文本向量拼接得到的拼接向量,能够使生成的所述语义向量中同时包含有所述网络输出向量及所述文本向量中的信息,进而能够解决无法优化前几层网络参数的问题,从而能够提高所述意图识别模型的训练准确性,同时,本发明通过多层网络还能够提取出所述待识别文本中的大量特征,从而能够双重提高所述目标意图的确定准确性。
如图2所示,是本发明意图识别装置的较佳实施例的功能模块图。所述意图识别装置11包括获取单元110、编码单元111、输入单元112、计算单元113、调整单元114、处理单元115、生成单元116、加密单元117及发送单元118。本发明所称的模块/单元是指一种能够被处理器13所获取,并且能够完成固定功能的一系列计算机可读指令段,其存储在存储器12中。在本实施例中,关于各模块/单元的功能将在后续的实施例中详述。
获取单元110获取意图训练样本,所述意图训练样本中包括训练文本及真实意图。
在本发明的至少一个实施例中,所述意图训练样本可以从经过授权的终端设备中获取,所述意图训练样本也可以从预设文本库中获取,本发明对所述意图训练样本的来源不作限制。
所述训练文本可以是人机交互过程中评分较高的对话信息,所述真实意图是指机器人对所述训练文本预测出的意图。
在本发明的至少一个实施例中,所述获取单元110获取意图训练样本包括以下一种或者多种方式的组合:
(1)当接收到终端设备发出的授权响应时,从所述终端设备中获取执行评分大于预设评分阈值的对话场次,从所述对话场次中获取对话文本及所述终端设备针对所述对话文本所识别出的意图作为所述意图训练样本。
其中,所述终端设备可以是任意聊天机器人,所述任意聊天机器人可以包括任务型机器人及非任务型机器人。
所述预设评分阈值可以根据需求设置,本发明对此不作限制。
通过从经过授权的终端设备中获取所述意图训练样本,能够提高所述意图训练样本的获取合法性,同时,从所述终端设备中获取到的是所述执行评分大于所述预设评分阈值的场次对应的所述意图训练样本,因此,确保了所述意图训练样本中所述真实意图的准确性。
(2)从预设文本库中获取带有标注意图的文本作为标注文本,并将所述标注文本及所述标注意图确定为所述意图训练样本。
其中,所述预设文本库中存储有用户标准的多个文本。
所述标注意图可以是预设用户对所述标注文本的标注信息。
通过上述实施方式,能够从多种途径中获取到所述意图训练样本,提高所述意图训练样本的全面性。
编码单元111对所述训练文本进行编码,得到文本向量,并对所述真实意图进行编码,得到意图向量。
在本发明的至少一个实施例中,所述文本向量中包含有所述训练文本中每个文本分词的表征向量及每个文本分词的位置向量。
所述意图向量是利用生成所述表征向量的向量映射表对所述真实意图进行编码而生成的。
在本发明的至少一个实施例中,所述编码单元111对所述训练文本进行编码,得到文本向量包括:
从所述训练文本中获取表情图标;
从预设图标库中获取所述表情图标的配置图标,并从所述预设图标库中获取与所述配置图标对应的标签作为所述表情图标的图标文本;
将所述训练文本中的所述表情图标替换为所述图标文本,得到文本信息;
对所述文本信息进行分词处理,得到文本分词;
获取向量映射表,并基于所述向量映射表对所述文本分词进行向量映射,得到每个文本分词的表征向量;
确定所述文本分词在所述文本信息中的分词位置;
基于所述分词位置对所述文本分词进行位置编码,得到每个文本分词的位置向量;
计算所述表征向量与所述位置向量的总和,得到每个文本分词的分词向量;
根据所述分词位置从小至大的顺序拼接所述分词向量,得到所述文本向量。
其中,所述表情图标可以是表情包。
所述预设图标库中存储有多个图标与标签的映射关系,所述预设图标库中的任一标签用于表征相应图标所表示的情绪。
所述向量映射表中存储有多个词汇与向量值的映射关系。
通过上述实施方式,由于在人机交互过程中,用户或者机器人存在使用表情图标的情况,因此,将所述表情图标转换为所述图标文本,能够避免所述表情图标中的信息丢失,从而提高所述文本向量的编码准确性,同时,由于同一词汇在句中的不同位置对应出的语义不同,因此,通过所述分词位置对所述文本分词进行位置编码,能够使生成的所述分词向量中保留了所述文本分词的位置信息,从而提高所述文本向量的编码准确性。
具体地,所述编码单元111从所述训练文本中获取表情图标包括:
基于预设格式遍历所述训练文本中的信息;
将所述训练文本中与所述预设格式相同的信息确定为所述表情图标。
其中,所述预设格式可以包括,但不限于:JPG格式、PNG格式等。
通过所述预设格式对所述训练文本进行遍历,能够从所述训练文本中全面获取到所述表情图标。
具体地,所述编码单元111从预设图标库中获取所述表情图标的配置图标包括:
从所述预设图标库中获取多个配置向量,并获取所述多个配置向量的生成编码表;
获取所述表情图标的图标像素信息;
基于所述生成编码表对所述图标像素信息进行编码,得到所述表情图标的图标向量;
计算所述图标向量与每个配置向量的相似度;
将所述相似度最大的配置向量对应的图标确定为所述配置图标。
其中,所述预设图标库中存储有多个配置向量与图标的映射关系。
所述多个配置向量是根据所述生成编码表对所述预设图标库中图标的像素信息进行编码得到的。
所述生成编码表可以根据像素信息进行配置得到的。
通过上述实施方式,将所述预设图标库中的图标及所述标签图标进行向量化处理,从而能够准确的确定出所述配置图标。
具体地,所述编码单元111对所述文本信息进行分词处理,得到文本分词包括:
基于预设词典切分所述文本信息,得到多个路径及每个路径对应的路径分词;
从所述预设词典中获取所述路径分词的切分权值;
计算每个路径中所述切分权值的总和,得到每个路径的切分概率;
将所述切分概率最大的路径确定为目标路径,并将所述目标路径中的所述路径分词确定为所述文本分词。
其中,所述预设词典中存储有多个自定义词汇及每个自定义词汇的权值。
通过上述实施方式,能够根据所述切分权值准确的确定出所述切分概率,从而基于所述切分概率能够快速的确定出所述文本分词。
在本发明的至少一个实施例中,所述编码单元111对所述真实意图进行编码,得到意图向量包括:
基于所述向量映射表对所述真实意图进行编码,得到所述意图向量。
通过生成每个所述表征向量的向量映射表对所述真实意图进行编码,能够避免不同维度对所述文本向量及所述意图向量的影响,从而能够提高后续所述损失值的确定准确性。
所述获取单元110获取初始模型,所述初始模型包括i个预设网络,i为大于等于2的整数。
在本发明的至少一个实施例中,每个预设网络中的网络结构相同,但每个预设网络中的网络参数不都相同。
输入单元112将所述文本向量输入至第i-1预设网络中,得到所述第i-1个预设网络的网络输出向量。
在本发明的至少一个实施例中,所述网络输出向量是将上一层网络的网络输出向量与所述文本向量拼接后作为输入,输入到当前网络中进行分析而得到的。
举例来说,将所述文本向量输入至第一个预设网络中,得到所述第一个预设网络对应的第一网络输出向量,进一步地,所述输入单元112拼接所述第一网络输出向量与所述文本向量,并将拼接得到的向量输入至第二个预设网络中,得到所述第二个预设网络对应的第二网络输出向量,以此类推,得到所述第i-1个预设网络的网络输出向量。
在本发明的至少一个实施例中,所述输入单元112将所述文本向量输入至第i-1预设网络中,得到所述第i-1个预设网络的网络输出向量包括:
获取双向长短期记忆网络中的正向网络及反向网络;
基于所述正向网络对所述文本向量进行正向特征提取,得到第一特征向量,并基于所述反向网络对所述文本向量进行反向特征提取,得到第二特征向量;
计算所述第一特征向量与所述第二特征向量的总和,得到目标特征向量;
获取所述第i-1预设网络中的预设权重矩阵及预设偏置值;
计算所述目标特征向量与所述预设权重矩阵的乘积,得到中间向量;
计算所述中间向量与所述预设偏置值的总和,得到类别向量;
对所述类别向量进行归一化处理,得到所述网络输出向量。
通过所述正向网络及所述反向网络对所述文本向量进行特征提取,进而对得到的所述第一特征向量及所述第二特征向量进行特征融合,能够得到同时具有所述文本向量的正向特征及反向特征的目标特征向量,进一步根据所述预设权重矩阵及所述预设偏置值能够将所述训练文本中的文本特征汇集到所述网络输出向量中,从而能够准确的确定出所述目标意图。
所述输入单元112拼接所述网络输出向量及所述文本向量,得到拼接向量,并将所述拼接向量输入至第i个预设网络中,得到语义向量。
在本发明的至少一个实施例中,所述输入单元112将所述网络输出向量的末端与所述文本向量的首端进行连接,得到所述拼接向量。
所述语义向量是指所述训练文本的语义表征。
在本发明的至少一个实施例中,所述输入单元112将所述拼接向量输入至第i个预设网络中,得到语义向量的方式与所述输入单元112将所述文本向量输入至第i-1预设网络中,得到所述第i-1个预设网络的网络输出向量的方式相同,本发明对此不再赘述。
计算单元113根据所述语义向量及所述意图向量计算所述初始模型的损失值。
在本发明的至少一个实施例中,所述损失值是根据所述初始模型生成的所述语义向量与所述意图向量的相似性确定的。
在本发明的至少一个实施例中,所述计算单元113根据所述语义向量及所述意图向量计算所述初始模型的损失值包括:
计算所述语义向量与所述意图向量的相似距离;
计算所述相似距离的对数值,得到运算结果;
将所述运算结果的相反数确定为所述损失值。
通过所述语义向量与所述意图向量的相似性,能够快速的确定出所述损失值,进而有利于对所述初始模型进行调整。
调整单元114根据所述语义向量调整所述初始模型中的参数,直至所述损失值不再降低,得到意图识别模型。
在本发明的至少一个实施例中,所述意图识别模型是指所述损失值不再降低时的所述初始模型。
在本发明的至少一个实施例中,所述调整单元114根据所述语义向量调整所述初始模型中的参数包括:
获取所述相似距离小于预设距离阈值的所述语义向量作为待分析向量;
将与所述待分析向量对应的所述意图训练样本确定为目标样本,并获取与所述目标样本对应的所述意图向量作为目标向量;
根据所述文本向量及所述目标向量调整所述参数。
其中,所述预设距离阈值是根据所述初始模型的精确度需求设置的。
通过上述实施方式,由于所述待分析向量中同时包含有所述网络输出向量及所述文本向量中的信息,因此,通过将预测不够准确的样本对应的真实意图作为目标输出,对所述参数进行调整,能够调整所述初始模型前几层网络中的参数,从而能够训练出准确的所述意图识别模型。
具体地,所述调整单元114根据所述文本向量及所述目标向量调整所述参数包括:
以所述文本向量为所述初始模型的输入,所述目标向量为所述初始模型的输出,调整所述参数。
当接收到意图识别请求时,所述编码单元111根据所述意图识别请求获取待识别文本,并对所述待识别文本进行编码,得到编码向量。
在本发明的至少一个实施例中,所述意图识别请求可以由任意机器人触发生成。
所述待识别文本是指需要进行意图识别的文本信息。
所述编码向量是指所述待识别文本的表征信息。
在本发明的至少一个实施例中,所述编码单元111根据所述意图识别请求获取待识别文本包括:
解析所述意图识别请求的报文头,得到所述报文头携带的地址信息;
从所述地址信息中获取指示发送的地址作为发送地址;
将与所述发送地址对应的设备确定为触发设备;
获取所述意图识别请求的请求生成时间;
从所述触发设备中获取与所述请求生成时间对应的日志作为目标日志;
从所述目标日志中获取指示位置的信息作为存储路径;
获取所述存储路径中的所有信息作为所述待识别文本。
其中,所述地址信息包括:所述发送地址及电子设备的地址。
进一步地,所述发送地址是指将所述意图识别请求发送至所述电子设备中的地址,所述发送地址可以是任意机器人的设备地址。
所述请求生成时间可以是一个时间点,也可以是一个时间段。
所述存储路径中存储有与所述意图识别请求对应的人机对话数据。
通过解析所述报文头,由于无需解析所述意图识别请求的方法体,因此,能够提高所述地址信息的获取效率,从而提高所述触发设备的确定效率,通过所述请求生成时间及所述触发设备能够准确的确定出所述目标日志,进而能够准确的获取到所述待识别文本。
在本发明的至少一个实施例中,所述编码单元111对所述待识别文本进行编码的方式与所述编码单元111对所述训练文本进行编码的方式相同,本发明对此不再赘述。
处理单元115将所述编码向量输入至所述意图识别模型中,得到输出向量,并对所述输出向量进行映射处理,得到目标意图。
在本发明的至少一个实施例中,所述输出向量是根据所述意图识别模型对所述编码向量进行分析而得到的向量。所述输出向量用于表征所述待识别文本的语义。
所述目标意图是指所述待识别文本表征的意图。
需要强调的是,为进一步保证上述目标意图的私密和安全性,上述目标意图还可以存储于一区块链的节点中。
在本发明的至少一个实施例中,所述处理单元115对所述输出向量进行映射处理,得到目标意图包括:
将所述输出向量中取值最大的向量值对应的维度确定为目标维度;
获取所述目标维度对应的类别作为所述目标意图。
在本发明的至少一个实施例中,所述获取单元110获取所述意图识别请求的请求编号;
生成单元116根据所述请求编号及所述目标意图生成提示信息;
加密单元117采用对称加密技术加密所述提示信息,得到密文;
发送单元118将所述密文发送至所述触发设备。
通过上述实施方式,不仅能够将所述目标意图快速发送至所述触发设备中,还能够提高所述目标意图的安全性。
由以上技术方案可以看出,本发明通过由所述网络输出向量及所述文本向量拼接得到的拼接向量,能够使生成的所述语义向量中同时包含有所述网络输出向量及所述文本向量中的信息,进而能够解决无法优化前几层网络参数的问题,从而能够提高所述意图识别模型的训练准确性,同时,本发明通过多层网络还能够提取出所述待识别文本中的大量特征,从而能够双重提高所述目标意图的确定准确性。
如图3所示,是本发明实现意图识别方法的较佳实施例的电子设备的结构示意图。
在本发明的一个实施例中,所述电子设备1包括,但不限于,存储器12、处理器13,以及存储在所述存储器12中并可在所述处理器13上运行的计算机可读指令,例如意图识别程序。
本领域技术人员可以理解,所述示意图仅仅是电子设备1的示例,并不构成对电子设备1的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述电子设备1还可以包括输入输出设备、网络接入设备、总线等。
所述处理器13可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等,所述处理器13是所述电子设备1的运算核心和控制中心,利用各种接口和线路连接整个电子设备1的各个部分,及执行所述电子设备1的操作系统以及安装的各类应用程序、程序代码等。
示例性的,所述计算机可读指令可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器12中,并由所述处理器13执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机可读指令段,该计算机可读指令段用于描述所述计算机可读指令在所述电子设备1中的执行过程。例如,所述计算机可读指令可以被分割成获取单元110、编码单元111、输入单元112、计算单元113、调整单元114、处理单元115、生成单元116、加密单元117及发送单元118。
所述存储器12可用于存储所述计算机可读指令和/或模块,所述处理器13通过运行或执行存储在所述存储器12内的计算机可读指令和/或模块,以及调用存储在存储器12内的数据,实现所述电子设备1的各种功能。所述存储器12可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据电子设备的使用所创建的数据等。存储器12可以包括非易失性和易失性存储器,例如:硬盘、内存、插接式硬盘,智能存储卡(SmartMedia Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他存储器件。
所述存储器12可以是电子设备1的外部存储器和/或内部存储器。进一步地,所述存储器12可以是具有实物形式的存储器,如内存条、TF卡(Trans-flash Card)等等。
所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机可读指令来指令相关的硬件来完成,所述的计算机可读指令可存储于一计算机可读存储介质中,该计算机可读指令在被处理器执行时,可实现上述各个方法实施例的步骤。
其中,所述计算机可读指令包括计算机可读指令代码,所述计算机可读指令代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机可读指令代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
结合图1,所述电子设备1中的所述存储器12存储计算机可读指令实现一种意图识别方法,所述处理器13可执行所述计算机可读指令从而实现:
获取意图训练样本,所述意图训练样本中包括训练文本及真实意图;
对所述训练文本进行编码,得到文本向量,并对所述真实意图进行编码,得到意图向量;
获取初始模型,所述初始模型包括i个预设网络,i为大于等于2的整数;
将所述文本向量输入至第i-1预设网络中,得到所述第i-1个预设网络的网络输出向量;
拼接所述网络输出向量及所述文本向量,得到拼接向量,并将所述拼接向量输入至第i个预设网络中,得到语义向量;
根据所述语义向量及所述意图向量计算所述初始模型的损失值;
根据所述语义向量调整所述初始模型中的参数,直至所述损失值不再降低,得到意图识别模型;
当接收到意图识别请求时,根据所述意图识别请求获取待识别文本,并对所述待识别文本进行编码,得到编码向量;
将所述编码向量输入至所述意图识别模型中,得到输出向量,并对所述输出向量进行映射处理,得到目标意图。
具体地,所述处理器13对上述计算机可读指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述计算机可读存储介质上存储有计算机可读指令,其中,所述计算机可读指令被处理器13执行时用以实现以下步骤:
获取意图训练样本,所述意图训练样本中包括训练文本及真实意图;
对所述训练文本进行编码,得到文本向量,并对所述真实意图进行编码,得到意图向量;
获取初始模型,所述初始模型包括i个预设网络,i为大于等于2的整数;
将所述文本向量输入至第i-1预设网络中,得到所述第i-1个预设网络的网络输出向量;
拼接所述网络输出向量及所述文本向量,得到拼接向量,并将所述拼接向量输入至第i个预设网络中,得到语义向量;
根据所述语义向量及所述意图向量计算所述初始模型的损失值;
根据所述语义向量调整所述初始模型中的参数,直至所述损失值不再降低,得到意图识别模型;
当接收到意图识别请求时,根据所述意图识别请求获取待识别文本,并对所述待识别文本进行编码,得到编码向量;
将所述编码向量输入至所述意图识别模型中,得到输出向量,并对所述输出向量进行映射处理,得到目标意图。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。所述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一、第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种意图识别方法,其特征在于,所述意图识别方法包括:
获取意图训练样本,所述意图训练样本中包括训练文本及真实意图,所述训练文本是指人机交互过程中执行评分大于预设评分阈值的对话信息,所述真实意图是指机器人对所述训练文本预测出的意图;
对所述训练文本进行编码,得到文本向量,并对所述真实意图进行编码,得到意图向量;
获取初始模型,所述初始模型包括i个预设网络,i为大于等于2的整数;
将所述文本向量输入至第一个预设网络中,得到所述第一个预设网络对应的第一网络输出向量,拼接所述第一网络输出向量与所述文本向量,并将拼接得到的向量输入至第二个预设网络中,得到所述第二个预设网络对应的第二网络输出向量,以此类推,得到第i-1个预设网络的网络输出向量;
拼接所述第i-1个预设网络的网络输出向量及所述文本向量,得到拼接向量,并将所述拼接向量输入至第i个预设网络中,得到语义向量;
根据所述语义向量及所述意图向量计算所述初始模型的损失值;
根据所述语义向量调整所述初始模型中的参数,直至所述损失值不再降低,得到意图识别模型;
当接收到意图识别请求时,根据所述意图识别请求获取待识别文本,并对所述待识别文本进行编码,得到编码向量;
将所述编码向量输入至所述意图识别模型中,得到输出向量,并对所述输出向量进行映射处理,得到目标意图,包括:将所述输出向量中取值最大的向量值对应的维度确定为目标维度;获取所述目标维度对应的类别作为所述目标意图,所述输出向量用于表征所述待识别文本的语义。
2.如权利要求1所述的意图识别方法,其特征在于,所述获取意图训练样本包括以下一种或者多种方式的组合:
当接收到终端设备发出的授权响应时,从所述终端设备中获取执行评分大于预设评分阈值的对话场次,从所述对话场次中获取对话文本及所述终端设备针对所述对话文本所识别出的意图作为所述意图训练样本;及/或
从预设文本库中获取带有标注意图的文本作为标注文本,并将所述标注文本及所述标注意图确定为所述意图训练样本。
3.如权利要求1所述的意图识别方法,其特征在于,所述对所述训练文本进行编码,得到文本向量包括:
从所述训练文本中获取表情图标;
从预设图标库中获取所述表情图标的配置图标,并从所述预设图标库中获取与所述配置图标对应的标签作为所述表情图标的图标文本;
将所述训练文本中的所述表情图标替换为所述图标文本,得到文本信息;
对所述文本信息进行分词处理,得到文本分词;
获取向量映射表,并基于所述向量映射表对所述文本分词进行向量映射,得到每个文本分词的表征向量;
确定所述文本分词在所述文本信息中的分词位置;
基于所述分词位置对所述文本分词进行位置编码,得到每个文本分词的位置向量;
计算所述表征向量与所述位置向量的总和,得到每个文本分词的分词向量;
根据所述分词位置从小至大的顺序拼接所述分词向量,得到所述文本向量。
4.如权利要求3所述的意图识别方法,其特征在于,所述从预设图标库中获取所述表情图标的配置图标包括:
从所述预设图标库中获取多个配置向量,并获取所述多个配置向量的生成编码表;
获取所述表情图标的图标像素信息;
基于所述生成编码表对所述图标像素信息进行编码,得到所述表情图标的图标向量;
计算所述图标向量与每个配置向量的相似度;
将所述相似度最大的配置向量对应的图标确定为所述配置图标。
5.如权利要求1所述的意图识别方法,其特征在于,所述得到第i-1个预设网络的网络输出向量包括:
获取双向长短期记忆网络中的正向网络及反向网络;
基于所述正向网络对所述第i-1个预设网络的输入向量进行正向特征提取,得到第一特征向量,并基于所述反向网络对所述第i-1个预设网络的输入向量进行反向特征提取,得到第二特征向量;
计算所述第一特征向量与所述第二特征向量的总和,得到目标特征向量;
获取所述第i-1个预设网络中的预设权重矩阵及预设偏置值;
计算所述目标特征向量与所述预设权重矩阵的乘积,得到中间向量;
计算所述中间向量与所述预设偏置值的总和,得到类别向量;
对所述类别向量进行归一化处理,得到所述第i-1个预设网络的网络输出向量。
6.如权利要求1所述的意图识别方法,其特征在于,所述根据所述语义向量及所述意图向量计算所述初始模型的损失值包括:
计算所述语义向量与所述意图向量的相似距离;
计算所述相似距离的对数值,得到运算结果;
将所述运算结果的相反数确定为所述损失值。
7.如权利要求6所述的意图识别方法,其特征在于,所述根据所述语义向量调整所述初始模型中的参数包括:
获取所述相似距离小于预设距离阈值的所述语义向量作为待分析向量;
将与所述待分析向量对应的所述意图训练样本确定为目标样本,并获取与所述目标样本对应的所述意图向量作为目标向量;
根据所述文本向量及所述目标向量调整所述参数。
8.一种意图识别装置,其特征在于,所述意图识别装置包括:
获取单元,用于获取意图训练样本,所述意图训练样本中包括训练文本及真实意图,所述训练文本是指人机交互过程中执行评分大于预设评分阈值的对话信息,所述真实意图是指机器人对所述训练文本预测出的意图;
编码单元,用于对所述训练文本进行编码,得到文本向量,并对所述真实意图进行编码,得到意图向量;
所述获取单元,还用于获取初始模型,所述初始模型包括i个预设网络,i为大于等于2的整数;
输入单元,用于将所述文本向量输入至第一个预设网络中,得到所述第一个预设网络对应的第一网络输出向量,拼接所述第一网络输出向量与所述文本向量,并将拼接得到的向量输入至第二个预设网络中,得到所述第二个预设网络对应的第二网络输出向量,以此类推,得到第i-1个预设网络的网络输出向量;
所述输入单元,还用于拼接所述第i-1个预设网络的网络输出向量及所述文本向量,得到拼接向量,并将所述拼接向量输入至第i个预设网络中,得到语义向量;
计算单元,用于根据所述语义向量及所述意图向量计算所述初始模型的损失值;
调整单元,用于根据所述语义向量调整所述初始模型中的参数,直至所述损失值不再降低,得到意图识别模型;
所述编码单元,还用于当接收到意图识别请求时,根据所述意图识别请求获取待识别文本,并对所述待识别文本进行编码,得到编码向量;
处理单元,用于将所述编码向量输入至所述意图识别模型中,得到输出向量,并对所述输出向量进行映射处理,得到目标意图,包括:将所述输出向量中取值最大的向量值对应的维度确定为目标维度;获取所述目标维度对应的类别作为所述目标意图,所述输出向量用于表征所述待识别文本的语义。
9.一种电子设备,其特征在于,所述电子设备包括:
存储器,存储有计算机可读指令;及
处理器,执行所述存储器中存储的计算机可读指令以实现如权利要求1至7中任意一项所述的意图识别方法。
10.一种计算机可读存储介质,其特征在于:所述计算机可读存储介质中存储有计算机可读指令,所述计算机可读指令被电子设备中的处理器执行以实现如权利要求1至7中任意一项所述的意图识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110691632.7A CN113408278B (zh) | 2021-06-22 | 2021-06-22 | 意图识别方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110691632.7A CN113408278B (zh) | 2021-06-22 | 2021-06-22 | 意图识别方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113408278A CN113408278A (zh) | 2021-09-17 |
CN113408278B true CN113408278B (zh) | 2023-01-20 |
Family
ID=77682444
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110691632.7A Active CN113408278B (zh) | 2021-06-22 | 2021-06-22 | 意图识别方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113408278B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114330358A (zh) * | 2021-11-25 | 2022-04-12 | 深圳市普渡科技有限公司 | 意图识别方法、装置、计算机设备及存储介质 |
CN116384411B (zh) * | 2023-06-05 | 2023-07-25 | 北京水滴科技集团有限公司 | 基于外呼机器人的用户意图识别模型的训练方法和装置 |
CN117648930A (zh) * | 2023-11-22 | 2024-03-05 | 平安创科科技(北京)有限公司 | 联合任务实现方法、装置、设备及介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109840524A (zh) * | 2019-01-04 | 2019-06-04 | 平安科技(深圳)有限公司 | 文字的类型识别方法、装置、设备及存储介质 |
CN111552802A (zh) * | 2020-03-09 | 2020-08-18 | 北京达佳互联信息技术有限公司 | 文本分类模型训练方法和装置 |
CN112163074A (zh) * | 2020-09-11 | 2021-01-01 | 北京三快在线科技有限公司 | 用户意图识别方法、装置、可读存储介质及电子设备 |
CN112989843A (zh) * | 2021-03-17 | 2021-06-18 | 中国平安人寿保险股份有限公司 | 意图识别方法、装置、计算设备及存储介质 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109977411B (zh) * | 2019-03-28 | 2022-03-25 | 联想(北京)有限公司 | 一种数据处理方法、装置及电子设备 |
CN110287285B (zh) * | 2019-05-31 | 2023-06-16 | 平安科技(深圳)有限公司 | 一种问题意图识别方法、装置、计算机设备及存储介质 |
CN110874410A (zh) * | 2019-11-01 | 2020-03-10 | 河南理工大学 | 一种基于长短时记忆网络和卷积神经网络的文本分类方法 |
CN111353021B (zh) * | 2020-02-28 | 2023-08-18 | 百度在线网络技术(北京)有限公司 | 意图识别方法和设备、电子设备和介质 |
CN112560506B (zh) * | 2020-12-17 | 2023-07-25 | 中国平安人寿保险股份有限公司 | 文本语义解析方法、装置、终端设备及存储介质 |
-
2021
- 2021-06-22 CN CN202110691632.7A patent/CN113408278B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109840524A (zh) * | 2019-01-04 | 2019-06-04 | 平安科技(深圳)有限公司 | 文字的类型识别方法、装置、设备及存储介质 |
CN111552802A (zh) * | 2020-03-09 | 2020-08-18 | 北京达佳互联信息技术有限公司 | 文本分类模型训练方法和装置 |
CN112163074A (zh) * | 2020-09-11 | 2021-01-01 | 北京三快在线科技有限公司 | 用户意图识别方法、装置、可读存储介质及电子设备 |
CN112989843A (zh) * | 2021-03-17 | 2021-06-18 | 中国平安人寿保险股份有限公司 | 意图识别方法、装置、计算设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113408278A (zh) | 2021-09-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113408278B (zh) | 意图识别方法、装置、设备及存储介质 | |
CN111695352A (zh) | 基于语义分析的评分方法、装置、终端设备及存储介质 | |
CN109034069B (zh) | 用于生成信息的方法和装置 | |
CN113032528B (zh) | 案件分析方法、装置、设备及存储介质 | |
CN113408268B (zh) | 槽位填充方法、装置、设备及存储介质 | |
CN113656547B (zh) | 文本匹配方法、装置、设备及存储介质 | |
CN111694826A (zh) | 基于人工智能的数据增强方法、装置、电子设备及介质 | |
CN113094478B (zh) | 表情回复方法、装置、设备及存储介质 | |
CN112989826B (zh) | 基于人工智能的试题分数确定方法、装置、设备及介质 | |
CN113435196B (zh) | 意图识别方法、装置、设备及存储介质 | |
CN110222328B (zh) | 基于神经网络的分词和词类标注方法、装置、设备及存储介质 | |
CN113064973A (zh) | 文本分类方法、装置、设备及存储介质 | |
CN113536770B (zh) | 基于人工智能的文本解析方法、装置、设备及存储介质 | |
CN113268597B (zh) | 文本分类方法、装置、设备及存储介质 | |
CN113535925B (zh) | 语音播报方法、装置、设备及存储介质 | |
CN113705468A (zh) | 基于人工智能的数字图像识别方法及相关设备 | |
CN113283389A (zh) | 手写文字质量检测方法、装置、设备及存储介质 | |
CN113326365B (zh) | 回复语句生成方法、装置、设备及存储介质 | |
CN113408265B (zh) | 基于人机交互的语义解析方法、装置、设备及存储介质 | |
CN111598550A (zh) | 邮件签名信息提取方法、装置、电子设备及介质 | |
CN113420143B (zh) | 文书摘要生成方法、装置、设备及存储介质 | |
CN112949305B (zh) | 负反馈信息采集方法、装置、设备及存储介质 | |
CN113420545B (zh) | 摘要生成方法、装置、设备及存储介质 | |
CN113627186B (zh) | 基于人工智能的实体关系检测方法及相关设备 | |
CN113421594A (zh) | 语音情感识别方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |