CN113408265B - 基于人机交互的语义解析方法、装置、设备及存储介质 - Google Patents

基于人机交互的语义解析方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN113408265B
CN113408265B CN202110693494.6A CN202110693494A CN113408265B CN 113408265 B CN113408265 B CN 113408265B CN 202110693494 A CN202110693494 A CN 202110693494A CN 113408265 B CN113408265 B CN 113408265B
Authority
CN
China
Prior art keywords
vector
network
statement
semantic
sentence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110693494.6A
Other languages
English (en)
Other versions
CN113408265A (zh
Inventor
侯晓龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN202110693494.6A priority Critical patent/CN113408265B/zh
Publication of CN113408265A publication Critical patent/CN113408265A/zh
Application granted granted Critical
Publication of CN113408265B publication Critical patent/CN113408265B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation or dialogue systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/334—Query execution
    • G06F16/3344—Query execution using natural language analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Databases & Information Systems (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Human Computer Interaction (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Machine Translation (AREA)

Abstract

本发明涉及人工智能，提供一种基于人机交互的语义解析方法、装置、设备及存储介质。该方法能够分析对话语句，得到输出向量，输出向量中包括语义向量，识别语义向量，得到意图向量，基于输出向量及意图向量分析语句分词，得到槽位特征，分析槽位特征，得到第一预测标签，压缩第一预设网络，得到第二预设网络，将对话语句输入至第二预设网络中，得到第二预测标签，根据第一、第二预测标签及槽位标签确定目标损失值，根据目标损失值调整第二预设网络中的参数，得到语义解析模型并输入待解析语句，得到语义信息。本发明能够在确保解析效率的前提下，准确的解析出语义信息。此外，本发明还涉及区块链技术，所述语义信息可存储于区块链中。

Description

基于人机交互的语义解析方法、装置、设备及存储介质
技术领域
本发明涉及人工智能技术领域，尤其涉及一种基于人机交互的语义解析方法、装置、设备及存储介质。
背景技术
在目前的人机对话系统中，主要通过预训练网络构建的口语理解模型解析出对话场景中语句的语义信息，然而通过预训练网络构建出的口语理解模型中的结构复杂，导致语义信息的解析效率低下。
为了提高解析效率，采用轻量级的神经网络构建口语理解模型的方式也随之产生，然而，这种方式构建得到的口语理解模型只能捕捉到粗粒度的语句信息，而无法关注到各序列及各维度间的细粒度信息，造成解析准确度低下。
因此，在确保解析效率的前提下，如何准确的解析出语义信息成了亟需解决的问题。
发明内容
鉴于以上内容，有必要提供一种基于人机交互的语义解析方法、装置、设备及存储介质，能够在确保解析效率的前提下，准确的解析出语义信息。
一方面，本发明提出一种基于人机交互的语义解析方法，所述基于人机交互的语义解析方法包括：
获取对话样本，所述对话样本中包括对话语句及槽位标签，并获取第一预设网络，所述第一预设网络包括第一网络层、第二网络层、第三网络层及第四网络层；
基于所述第一网络层对所述对话语句进行分析，得到输出向量，所述输出向量中包括语义向量；
基于所述第二网络层对所述语义向量进行意图识别，得到意图向量；
基于所述第三网络层对所述输出向量及所述意图向量对所述对话语句中每个语句分词进行自注意力分析，得到每个语句分词的槽位特征；
基于所述第四网络层分析所述槽位特征，得到所述第一预设网络对所述对话语句的第一预测标签；
对所述第一预设网络进行压缩处理，得到第二预设网络，并将所述对话语句输入至所述第二预设网络中，得到第二预测标签；
根据所述第一预测标签及所述第二预测标签计算所述第二预设网络的第一损失值，并根据所述槽位标签及所述第二预测标签计算所述第二预设网络的第二损失值；
根据所述第一损失值及所述第二损失值确定所述第二预设网络的目标损失值，并根据所述目标损失值调整所述第二预设网络中的参数，直至所述目标损失值不再降低，得到语义解析模型；
当接收到语义解析请求时，根据所述语义解析请求获取待解析语句，并将所述待解析语句输入至所述语义解析模型中，得到所述目标语句的语义信息，所述语义信息包括目标意图及槽位信息。
根据本发明优选实施例，所述基于所述第一网络层对所述对话语句进行分析，得到输出向量包括：
对所述对话语句进行分词处理，得到多个语句分词；
确定每个语句分词在所述对话语句中的分词位置及分词段落；
获取向量映射表，并根据所述向量映射表对每个语句分词进行编码，得到每个语句分词的编码向量；
对所述编码向量、所述分词位置及所述分词段落进行拼接，得到输入向量；
根据正向长短期记忆网络对所述输入向量进行处理，得到第一向量，并根据反向长短期记忆网络对所述输入向量进行处理，得到第二向量；
拼接所述第一向量及所述第二向量，得到所述输出向量。
根据本发明优选实施例，所述基于所述第三网络层对所述输出向量及所述意图向量对所述对话语句中每个语句分词进行自注意力分析，得到每个语句分词的槽位特征包括：
从所述输出向量中提取每个语句分词的分词表征向量；
根据所述输出向量对所述分词表征向量进行上下文分析，得到每个语句分词的上下文表征向量；
拼接每个所述上下文表征向量及所述意图向量，得到拼接向量；
对所述拼接向量进行线性变换，得到门控向量；
计算每个分词表征向量及所述门控向量的乘积，得到每个语句分词的所述槽位特征。
根据本发明优选实施例，所述基于所述第四网络层分析所述槽位特征，得到所述第一预设网络对所述对话语句的第一预测标签包括：
获取所述第四网络层中的配置矩阵及配置参数；
将所述槽位特征乘以所述配置矩阵，并加上所述配置参数，得到每个语句分词的分数向量；
采用激活函数对所述分数向量进行归一化处理，得到每个语句分词的概率向量；
将所述概率向量中取值最大的元素对应的类别确定为所述第一预测标签。
根据本发明优选实施例，所述根据所述第一预测标签及所述第二预测标签计算所述第二预设网络的第一损失值包括：
Figure BDA0003127550040000031
Figure BDA0003127550040000032
Figure BDA0003127550040000033
其中，Ldistill为所述第一损失值，N为所述对话样本的数量，
Figure BDA0003127550040000041
为所述第一预设网络对第i个对话样本所输出的第一预测标签对应的第i输出Logit值，T为温度，
Figure BDA0003127550040000042
为所述第一预设网络对第k个对话样本所输出的第一预测标签对应的第k输出Logit值，
Figure BDA0003127550040000043
为所述第二预设网络对第i个对话样本所输出的第二预测标签对应的第i网络Logit值，
Figure BDA0003127550040000044
为所述第二预设网络对第k个对话样本所输出的第二预测标签对应的第k网络Logit值。
根据本发明优选实施例，所述根据所述第一损失值及所述第二损失值确定所述第二预设网络的目标损失值包括：
采用超参数网格搜索方法从所述对话样本中确定最优超参数点，所述最优超参数点包括目标语句及目标标签；
将所述目标语句输入所述第二预设网络中，得到语句预测标签；
对所述目标标签进行向量化处理，得到第一向量，并对所述预测预测标签进行向量化处理，得到第二向量；
计算所述第一向量与所述第二向量的相似度作为损失权重；
根据所述损失权重对所述第一损失值及所述第二损失值进行加权和运算，得到所述目标损失值。
根据本发明优选实施例，所述语义解析模型包括第二子层及第四子层，所述将所述待解析语句输入至所述语义解析模型中，得到所述目标语句的语义信息，所述语义信息包括目标意图及槽位信息包括：
获取所述语义解析模型中的所述第二子层作为意图识别层；
从所述意图识别层中获取与所述待解析语句对应的输出结果作为语句意图向量；
将所述语句意图向量中取值最大的元素对应的意图作为所述目标意图；
获取所述语义解析模型中的所述第四子层作为槽位识别层；
从所述槽位识别层中获取与所述待解析语句对应的输出结果作为所述槽位信息。
另一方面，本发明还提出一种基于人机交互的语义解析装置，所述基于人机交互的语义解析装置包括：
获取单元，用于获取对话样本，所述对话样本中包括对话语句及槽位标签，并获取第一预设网络，所述第一预设网络包括第一网络层、第二网络层、第三网络层及第四网络层；
分析单元，用于基于所述第一网络层对所述对话语句进行分析，得到输出向量，所述输出向量中包括语义向量；
识别单元，用于基于所述第二网络层对所述语义向量进行意图识别，得到意图向量；
所述分析单元，还用于基于所述第三网络层对所述输出向量及所述意图向量对所述对话语句中每个语句分词进行自注意力分析，得到每个语句分词的槽位特征；
所述分析单元，还用于基于所述第四网络层分析所述槽位特征，得到所述第一预设网络对所述对话语句的第一预测标签；
处理单元，用于对所述第一预设网络进行压缩处理，得到第二预设网络，并将所述对话语句输入至所述第二预设网络中，得到第二预测标签；
计算单元，用于根据所述第一预测标签及所述第二预测标签计算所述第二预设网络的第一损失值，并根据所述槽位标签及所述第二预测标签计算所述第二预设网络的第二损失值；
调整单元，用于根据所述第一损失值及所述第二损失值确定所述第二预设网络的目标损失值，并根据所述目标损失值调整所述第二预设网络中的参数，直至所述目标损失值不再降低，得到语义解析模型；
输入单元，用于当接收到语义解析请求时，根据所述语义解析请求获取待解析语句，并将所述待解析语句输入至所述语义解析模型中，得到所述目标语句的语义信息，所述语义信息包括目标意图及槽位信息。
另一方面，本发明还提出一种电子设备，所述电子设备包括：
存储器，存储计算机可读指令；及
处理器，执行所述存储器中存储的计算机可读指令以实现所述基于人机交互的语义解析方法。
另一方面，本发明还提出一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机可读指令，所述计算机可读指令被电子设备中的处理器执行以实现所述基于人机交互的语义解析方法。
由以上技术方案可以看出，本发明通过将所述待解析语句输入至所述第一预设网络压缩后的第二预设网络中进行语义解析，能够提高所述语义信息的生成效率，同时，本发明通过所述第一预设网络对所述对话语句的第一预测标签以及所述对话语句本身对应的槽位标签对所述第二预设网络中的参数进行联合调整，能够提高所述语义解析模型的解析准确度，从而提高所述语义信息的生成准确率。
附图说明
图1是本发明基于人机交互的语义解析方法的较佳实施例的流程图。
图2是本发明基于人机交互的语义解析装置的较佳实施例的功能模块图。
图3是本发明实现基于人机交互的语义解析方法的较佳实施例的电子设备的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚，下面结合附图和具体实施例对本发明进行详细描述。
如图1所示，是本发明基于人机交互的语义解析方法的较佳实施例的流程图。根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。
所述基于人机交互的语义解析方法应用于一个或者多个电子设备中，所述电子设备是一种能够按照事先设定或存储的计算机可读指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application SpecificIntegrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字信号处理器(Digital Signal Processor，DSP)、嵌入式设备等。
所述电子设备可以是任何一种可与用户进行人机交互的电子产品，例如，个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant，PDA)、游戏机、交互式网络电视(Internet Protocol Television，IPTV)、智能穿戴式设备等。
所述电子设备可以包括网络设备和/或用户设备。其中，所述网络设备包括，但不限于单个网络电子设备、多个网络电子设备组成的电子设备组或基于云计算(CloudComputing)的由大量主机或网络电子设备构成的云。
所述电子设备所处的网络包括，但不限于：互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network，VPN)等。
S10，获取对话样本，所述对话样本中包括对话语句及槽位标签，并获取第一预设网络，所述第一预设网络包括第一网络层、第二网络层、第三网络层及第四网络层。
在本发明的至少一个实施例中，所述对话样本可以是从人机交互系统中获取到的训练样本。
所述第一预设网络是由多个所述第一网络层、多个所述第二网络层、多个所述第三网络层及多个所述第四网络层构建的。
S11，基于所述第一网络层对所述对话语句进行分析，得到输出向量，所述输出向量中包括语义向量。
在本发明的至少一个实施例中，所述第一网络层用于对所述对话语句进行分析。
所述输出向量包含所述语义向量及所述对话语句中每个语句分词的分词表征向量。
所述语义向量用于指示所述对话语句的语义。
在本发明的至少一个实施例中，所述电子设备基于所述第一网络层对所述对话语句进行分析，得到输出向量包括：
对所述对话语句进行分词处理，得到多个语句分词；
确定每个语句分词在所述对话语句中的分词位置及分词段落；
获取向量映射表，并根据所述向量映射表对每个语句分词进行编码，得到每个语句分词的编码向量；
对所述编码向量、所述分词位置及所述分词段落进行拼接，得到输入向量；
根据正向长短期记忆网络对所述输入向量进行处理，得到第一向量，并根据反向长短期记忆网络对所述输入向量进行处理，得到第二向量；
拼接所述第一向量及所述第二向量，得到所述输出向量。
其中，所述向量映射表中存储有多个预设词对应的编码值。
所述正向长短期记忆网络及所述反向长短期记忆网络是预先构建好的网络，本发明对所述正向长短期记忆网络的构建方式及所述反向长短期记忆网络的构建方式不作具体限制。
通过上述实施方式，由于所述输出向量的生成不仅考虑了每个语句分词的分词位置及分词段落，还考虑了正反向对所述对话语句中语义的影响，因此，能够提高所述输出向量对所述对话语句的语义表征准确性。
S12，基于所述第二网络层对所述语义向量进行意图识别，得到意图向量。
在本发明的至少一个实施例中，所述第二网络层用于分析语句的意图。
所述意图向量是指所述对话语句的意图的表征。
在本发明的至少一个实施例中，所述电子设备基于所述第二网络层对所述语义向量进行意图识别，得到意图向量包括：
获取所述第二网络层中的权重矩阵及偏置参数；
计算所述语义向量与所述权重矩阵的乘积，得到乘积向量；
计算所述乘积向量与所述偏置参数的和，得到所述意图向量。
其中，所述权重矩阵及所述偏置参数可以根据所述第一预设网络的损失值进行调整。
通过所述权重矩阵及所述偏置参数，能够准确的对所述语义向量进行分类识别，从而准确的生成能够表征意图的所述意图向量。
S13，基于所述第三网络层对所述输出向量及所述意图向量对所述对话语句中每个语句分词进行自注意力分析，得到每个语句分词的槽位特征。
在本发明的至少一个实施例中，所述第三网络层用于分析所述对话语句中每个语句分词的槽位信息。
所述槽位特征是指所述对话语句中槽位的表征，所述槽位特征为向量表示。所述槽位特征的维度数量与槽位标签的类别数量相同。例如，槽位标签的类别数量为100个，所述槽位特征为100维度的向量。
在本发明的至少一个实施例中，所述电子设备基于所述第三网络层对所述输出向量及所述意图向量对所述对话语句中每个语句分词进行自注意力分析，得到每个语句分词的槽位特征包括：
从所述输出向量中提取每个语句分词的分词表征向量；
根据所述输出向量对所述分词表征向量进行上下文分析，得到每个语句分词的上下文表征向量；
拼接每个所述上下文表征向量及所述意图向量，得到拼接向量；
对所述拼接向量进行线性变换，得到门控向量；
计算每个分词表征向量及所述门控向量的乘积，得到每个语句分词的所述槽位特征。
通过上述实施方式，能够将每个语句分词与所述对话语句中除该语句分词外的分词进行交互，从而能够准确的确定出所述槽位特征。
具体地，所述电子设备根据所述输出向量对所述分词表征向量进行上下文分析，得到每个语句分词的上下文表征向量包括：
将所述输出向量中除所述分词表征向量外的元素组合成特征向量；
获取所述第三网络层中的自注意力层；
将所述特征向量输入至所述自注意力层，得到所述上下文表征向量。
S14，基于所述第四网络层分析所述槽位特征，得到所述第一预设网络对所述对话语句的第一预测标签。
在本发明的至少一个实施例中，所述第四网络层用于根据槽位特征确定出相应的标签。
所述第一预测标签是指所述第一预设网络对所述对话语句分析后得到的槽位信息。
在本发明的至少一个实施例中，所述电子设备基于所述第四网络层分析所述槽位特征，得到所述第一预设网络对所述对话语句的第一预测标签包括：
获取所述第四网络层中的配置矩阵及配置参数；
将所述槽位特征乘以所述配置矩阵，并加上所述配置参数，得到每个语句分词的分数向量；
采用激活函数对所述分数向量进行归一化处理，得到每个语句分词的概率向量；
将所述概率向量中取值最大的元素对应的类别确定为所述第一预测标签。
通过对所述分数向量进行归一化处理，能够根据所述概率向量快速确定出所述第一预测标签。
S15，对所述第一预设网络进行压缩处理，得到第二预设网络，并将所述对话语句输入至所述第二预设网络中，得到第二预测标签。
在本发明的至少一个实施例中，所述第二预设网络是指所述第一预设网络的学生网络。
所述第二预测标签是指所述第二预设网络对所述对话语句分析后得到的槽位信息。
在本发明的至少一个实施例中，所述电子设备对所述第一预设网络进行压缩处理，得到第二预设网络包括：
从所述第一网络层中提取层数为预设值的子层，得到第一子层；
从所述第二网络层中提取层数为所述预设值的子层，得到第二子层；
从所述第三网络层中提取层数为所述预设值的子层，得到第三子层；
从所述第四网络层中提取层数为所述预设值的子层，得到第四子层；
拼接所述第一子层、所述第二子层、所述第三子层及所述第四子层，得到所述第二预设网络。
其中，所述预设值可以为1。
通过直接从所述第一预设网络中的每个网络层中提取层数为所述预设值的子层，能够快速生成所述第二预设网络，同时，由于所述第二预设网络中包含了所述第一预设网络中每个网络层的信息，因此，所述第二预设网络中保留有所述第一预设网络中的特征，从而通过所述第二预设网络能够对所述对话语句进行预测。
S16，根据所述第一预测标签及所述第二预测标签计算所述第二预设网络的第一损失值，并根据所述槽位标签及所述第二预测标签计算所述第二预设网络的第二损失值。
在本发明的至少一个实施例中，所述第一损失值是根据所述第一预设网络对所述对话语句的预测结果及所述第二预设网络对所述对话语句的预测结果确定出的。
所述第二损失值是根据所述第二预设网络对所述对话语句的预测结果及所述对话语句的标注结果确定出的。
在本发明的至少一个实施例中，所述电子设备根据所述第一预测标签及所述第二预测标签计算所述第二预设网络的第一损失值包括：
Figure BDA0003127550040000111
Figure BDA0003127550040000121
Figure BDA0003127550040000122
其中，Ldistill为所述第一损失值，N为所述对话样本的数量，
Figure BDA0003127550040000123
为所述第一预设网络对第i个对话样本所输出的第一预测标签对应的第i输出Logit值，T为温度，
Figure BDA0003127550040000124
为所述第一预设网络对第k个对话样本所输出的第一预测标签对应的第k输出Logit值，
Figure BDA0003127550040000125
为所述第二预设网络对第i个对话样本所输出的第二预测标签对应的第i网络Logit值，
Figure BDA0003127550040000126
为所述第二预设网络对第k个对话样本所输出的第二预测标签对应的第k网络Logit值。
通过所述第一预测标签及所述第二预测标签能够准确的确定出所述第一损失值。
在本发明的至少一个实施例中，所述电子设备根据所述槽位标签及所述第二预测标签计算所述第二预设网络的第二损失值包括：
Figure BDA0003127550040000127
其中，LCE为所述第二损失值，y为第i个对话样本中的槽位标签，
Figure BDA0003127550040000128
为温度为时，所述第二预设网络对第i个对话样本所输出的第二预测标签。
通过所述槽位标签及所述第二预测标签能够准确的确定出所述第二损失值。
S17，根据所述第一损失值及所述第二损失值确定所述第二预设网络的目标损失值，并根据所述目标损失值调整所述第二预设网络中的参数，直至所述目标损失值不再降低，得到语义解析模型。
在本发明的至少一个实施例中，所述目标损失值是根据所述对话样本中的最优超参数点确定的。
所述语义解析模型为所述目标损失值不再降低时的第二预设网络。
在本发明的至少一个实施例中，所述电子设备根据所述第一损失值及所述第二损失值确定所述第二预设网络的目标损失值包括：
采用超参数网格搜索方法从所述对话样本中确定最优超参数点，所述最优超参数点包括目标语句及目标标签；
将所述目标语句输入所述第二预设网络中，得到语句预测标签；
对所述目标标签进行向量化处理，得到第一向量，并对所述预测预测标签进行向量化处理，得到第二向量；
计算所述第一向量与所述第二向量的相似度作为损失权重；
根据所述损失权重对所述第一损失值及所述第二损失值进行加权和运算，得到所述目标损失值。
通过将所述目标语句输入所述第二预设网络，能够快速获取到所述语句预测标签，从而能够快速确定出所述损失权重，进而能够快速确定出所述目标损失值，同时，通过所述第二预设网络对最优超参数点预测得到的语句预测标签及目标标签的相似度确定所述目标损失值，由于所述第二预设网络对所述最优超参数点的预测学习率最好，因此，能够剔除所述最优超参数点对所述目标损失值的影响，从而能够准确的确定出所述目标损失值。
在本发明的至少一个实施例中，所述电子设备根据所述目标损失值调整所述第二预设网络中的参数，直至所述目标损失值不再降低，得到语义解析模型包括：
根据所述目标损失值对所述第二子层、所述第三子层及所述第四子层中的参数进行调整，直至所述目标损失值不再降低，得到语义解析模型。
通过所述目标损失值对所述第二预设网络中的参数进行调整，由于所述目标损失值是根据所述第二预设网络对最优超参数点预测得到的语句预测标签及目标标签的相似度确定的，因此能够提高所述语义解析模型的解析准确性。
S18，当接收到语义解析请求时，根据所述语义解析请求获取待解析语句，并将所述待解析语句输入至所述语义解析模型中，得到所述目标语句的语义信息，所述语义信息包括目标意图及槽位信息。
在本发明的至少一个实施例中，所述语义解析请求可以由负责语句解析的用户触发，所述语义解析请求中携带有目标路径等信息。
所述待解析语句是指需要进行语义解析的语句。
需要强调的是，为进一步保证上述语义信息的私密和安全性，上述语义信息还可以存储于一区块链的节点中。
在本发明的至少一个实施例中，所述电子设备根据所述语义解析请求获取待解析语句包括：
解析所述语义解析请求的报文，得到所述报文携带的数据信息；
从所述数据信息中获取指示路径的信息作为目标路径；
从所述目标路径中提取任意对话信息作为所述待解析语句。
通过上述实施方式，由于只需解析所述报文，因此能够快速获取到所述数据信息，从而能够快速获取到所述待解析语句。
在本发明的至少一个实施例中，所述电子设备将所述待解析语句输入至所述语义解析模型中，得到所述目标语句的语义信息，所述语义信息包括目标意图及槽位信息包括：
获取所述语义解析模型中的所述第二子层作为意图识别层；
从所述意图识别层中获取与所述待解析语句对应的输出结果作为语句意图向量；
将所述语句意图向量中取值最大的元素对应的意图作为所述目标意图；
获取所述语义解析模型中的所述第四子层作为槽位识别层；
从所述槽位识别层中获取与所述待解析语句对应的输出结果作为所述槽位信息。
通过所述意图识别层及所述槽位识别层能够快速并准确的确定出所述语义信息。
在本发明的至少一个实施例中，在得到所述目标语句的语义信息后，所述方法还包括：
获取所述语义解析请求的请求编号；
根据所述请求编号及所述语义信息生成提示信息；
采用对称加密技术加密所述提示信息，得到密文；
将所述密文发送至指定联系人的终端设备。
通过上述实施方式，能够提高所述语义信息的安全性。
由以上技术方案可以看出，本发明通过将所述待解析语句输入至所述第一预设网络压缩后的第二预设网络中进行语义解析，能够提高所述语义信息的生成效率，同时，本发明通过所述第一预设网络对所述对话语句的第一预测标签以及所述对话语句本身对应的槽位标签对所述第二预设网络中的参数进行联合调整，能够提高所述语义解析模型的解析准确度，从而提高所述语义信息的生成准确率。
如图2所示，是本发明基于人机交互的语义解析装置的较佳实施例的功能模块图。所述基于人机交互的语义解析装置11包括获取单元110、分析单元111、识别单元112、处理单元113、计算单元114、调整单元115、输入单元116、生成单元117、加密单元118及发送单元119。本发明所称的模块/单元是指一种能够被处理器13所获取，并且能够完成固定功能的一系列计算机可读指令段，其存储在存储器12中。在本实施例中，关于各模块/单元的功能将在后续的实施例中详述。
获取单元110获取对话样本，所述对话样本中包括对话语句及槽位标签，并获取第一预设网络，所述第一预设网络包括第一网络层、第二网络层、第三网络层及第四网络层。
在本发明的至少一个实施例中，所述对话样本可以是从人机交互系统中获取到的训练样本。
所述第一预设网络是由多个所述第一网络层、多个所述第二网络层、多个所述第三网络层及多个所述第四网络层构建的。
分析单元111基于所述第一网络层对所述对话语句进行分析，得到输出向量，所述输出向量中包括语义向量。
在本发明的至少一个实施例中，所述第一网络层用于对所述对话语句进行分析。
所述输出向量包含所述语义向量及所述对话语句中每个语句分词的分词表征向量。
所述语义向量用于指示所述对话语句的语义。
在本发明的至少一个实施例中，所述分析单元111基于所述第一网络层对所述对话语句进行分析，得到输出向量包括：
对所述对话语句进行分词处理，得到多个语句分词；
确定每个语句分词在所述对话语句中的分词位置及分词段落；
获取向量映射表，并根据所述向量映射表对每个语句分词进行编码，得到每个语句分词的编码向量；
对所述编码向量、所述分词位置及所述分词段落进行拼接，得到输入向量；
根据正向长短期记忆网络对所述输入向量进行处理，得到第一向量，并根据反向长短期记忆网络对所述输入向量进行处理，得到第二向量；
拼接所述第一向量及所述第二向量，得到所述输出向量。
其中，所述向量映射表中存储有多个预设词对应的编码值。
所述正向长短期记忆网络及所述反向长短期记忆网络是预先构建好的网络，本发明对所述正向长短期记忆网络的构建方式及所述反向长短期记忆网络的构建方式不作具体限制。
通过上述实施方式，由于所述输出向量的生成不仅考虑了每个语句分词的分词位置及分词段落，还考虑了正反向对所述对话语句中语义的影响，因此，能够提高所述输出向量对所述对话语句的语义表征准确性。
识别单元112基于所述第二网络层对所述语义向量进行意图识别，得到意图向量。
在本发明的至少一个实施例中，所述第二网络层用于分析语句的意图。
所述意图向量是指所述对话语句的意图的表征。
在本发明的至少一个实施例中，所述识别单元112基于所述第二网络层对所述语义向量进行意图识别，得到意图向量包括：
获取所述第二网络层中的权重矩阵及偏置参数；
计算所述语义向量与所述权重矩阵的乘积，得到乘积向量；
计算所述乘积向量与所述偏置参数的和，得到所述意图向量。
其中，所述权重矩阵及所述偏置参数可以根据所述第一预设网络的损失值进行调整。
通过所述权重矩阵及所述偏置参数，能够准确的对所述语义向量进行分类识别，从而准确的生成能够表征意图的所述意图向量。
所述分析单元111基于所述第三网络层对所述输出向量及所述意图向量对所述对话语句中每个语句分词进行自注意力分析，得到每个语句分词的槽位特征。
在本发明的至少一个实施例中，所述第三网络层用于分析所述对话语句中每个语句分词的槽位信息。
所述槽位特征是指所述对话语句中槽位的表征，所述槽位特征为向量表示。所述槽位特征的维度数量与槽位标签的类别数量相同。例如，槽位标签的类别数量为100个，所述槽位特征为100维度的向量。
在本发明的至少一个实施例中，所述分析单元111基于所述第三网络层对所述输出向量及所述意图向量对所述对话语句中每个语句分词进行自注意力分析，得到每个语句分词的槽位特征包括：
从所述输出向量中提取每个语句分词的分词表征向量；
根据所述输出向量对所述分词表征向量进行上下文分析，得到每个语句分词的上下文表征向量；
拼接每个所述上下文表征向量及所述意图向量，得到拼接向量；
对所述拼接向量进行线性变换，得到门控向量；
计算每个分词表征向量及所述门控向量的乘积，得到每个语句分词的所述槽位特征。
通过上述实施方式，能够将每个语句分词与所述对话语句中除该语句分词外的分词进行交互，从而能够准确的确定出所述槽位特征。
具体地，所述分析单元111根据所述输出向量对所述分词表征向量进行上下文分析，得到每个语句分词的上下文表征向量包括：
将所述输出向量中除所述分词表征向量外的元素组合成特征向量；
获取所述第三网络层中的自注意力层；
将所述特征向量输入至所述自注意力层，得到所述上下文表征向量。
所述分析单元111基于所述第四网络层分析所述槽位特征，得到所述第一预设网络对所述对话语句的第一预测标签。
在本发明的至少一个实施例中，所述第四网络层用于根据槽位特征确定出相应的标签。
所述第一预测标签是指所述第一预设网络对所述对话语句分析后得到的槽位信息。
在本发明的至少一个实施例中，所述分析单元111基于所述第四网络层分析所述槽位特征，得到所述第一预设网络对所述对话语句的第一预测标签包括：
获取所述第四网络层中的配置矩阵及配置参数；
将所述槽位特征乘以所述配置矩阵，并加上所述配置参数，得到每个语句分词的分数向量；
采用激活函数对所述分数向量进行归一化处理，得到每个语句分词的概率向量；
将所述概率向量中取值最大的元素对应的类别确定为所述第一预测标签。
通过对所述分数向量进行归一化处理，能够根据所述概率向量快速确定出所述第一预测标签。
处理单元113对所述第一预设网络进行压缩处理，得到第二预设网络，并将所述对话语句输入至所述第二预设网络中，得到第二预测标签。
在本发明的至少一个实施例中，所述第二预设网络是指所述第一预设网络的学生网络。
所述第二预测标签是指所述第二预设网络对所述对话语句分析后得到的槽位信息。
在本发明的至少一个实施例中，所述处理单元113对所述第一预设网络进行压缩处理，得到第二预设网络包括：
从所述第一网络层中提取层数为预设值的子层，得到第一子层；
从所述第二网络层中提取层数为所述预设值的子层，得到第二子层；
从所述第三网络层中提取层数为所述预设值的子层，得到第三子层；
从所述第四网络层中提取层数为所述预设值的子层，得到第四子层；
拼接所述第一子层、所述第二子层、所述第三子层及所述第四子层，得到所述第二预设网络。
其中，所述预设值可以为1。
通过直接从所述第一预设网络中的每个网络层中提取层数为所述预设值的子层，能够快速生成所述第二预设网络，同时，由于所述第二预设网络中包含了所述第一预设网络中每个网络层的信息，因此，所述第二预设网络中保留有所述第一预设网络中的特征，从而通过所述第二预设网络能够对所述对话语句进行预测。
计算单元114根据所述第一预测标签及所述第二预测标签计算所述第二预设网络的第一损失值，并根据所述槽位标签及所述第二预测标签计算所述第二预设网络的第二损失值。
在本发明的至少一个实施例中，所述第一损失值是根据所述第一预设网络对所述对话语句的预测结果及所述第二预设网络对所述对话语句的预测结果确定出的。
所述第二损失值是根据所述第二预设网络对所述对话语句的预测结果及所述对话语句的标注结果确定出的。
在本发明的至少一个实施例中，所述计算单元114根据所述第一预测标签及所述第二预测标签计算所述第二预设网络的第一损失值包括：
Figure BDA0003127550040000201
Figure BDA0003127550040000202
Figure BDA0003127550040000203
其中，Ldistill为所述第一损失值，N为所述对话样本的数量，
Figure BDA0003127550040000204
为所述第一预设网络对第i个对话样本所输出的第一预测标签对应的第i输出Logit值，T为温度，
Figure BDA0003127550040000205
为所述第一预设网络对第k个对话样本所输出的第一预测标签对应的第k输出Logit值，
Figure BDA0003127550040000206
为所述第二预设网络对第i个对话样本所输出的第二预测标签对应的第i网络Logit值，
Figure BDA0003127550040000207
为所述第二预设网络对第k个对话样本所输出的第二预测标签对应的第k网络Logit值。
通过所述第一预测标签及所述第二预测标签能够准确的确定出所述第一损失值。
在本发明的至少一个实施例中，所述计算单元114根据所述槽位标签及所述第二预测标签计算所述第二预设网络的第二损失值包括：
Figure BDA0003127550040000208
其中，LCE为所述第二损失值，y为第i个对话样本中的槽位标签，
Figure BDA0003127550040000209
为温度为时，所述第二预设网络对第i个对话样本所输出的第二预测标签。
通过所述槽位标签及所述第二预测标签能够准确的确定出所述第二损失值。
调整单元115根据所述第一损失值及所述第二损失值确定所述第二预设网络的目标损失值，并根据所述目标损失值调整所述第二预设网络中的参数，直至所述目标损失值不再降低，得到语义解析模型。
在本发明的至少一个实施例中，所述目标损失值是根据所述对话样本中的最优超参数点确定的。
所述语义解析模型为所述目标损失值不再降低时的第二预设网络。
在本发明的至少一个实施例中，所述调整单元115根据所述第一损失值及所述第二损失值确定所述第二预设网络的目标损失值包括：
采用超参数网格搜索方法从所述对话样本中确定最优超参数点，所述最优超参数点包括目标语句及目标标签；
将所述目标语句输入所述第二预设网络中，得到语句预测标签；
对所述目标标签进行向量化处理，得到第一向量，并对所述预测预测标签进行向量化处理，得到第二向量；
计算所述第一向量与所述第二向量的相似度作为损失权重；
根据所述损失权重对所述第一损失值及所述第二损失值进行加权和运算，得到所述目标损失值。
通过将所述目标语句输入所述第二预设网络，能够快速获取到所述语句预测标签，从而能够快速确定出所述损失权重，进而能够快速确定出所述目标损失值，同时，通过所述第二预设网络对最优超参数点预测得到的语句预测标签及目标标签的相似度确定所述目标损失值，由于所述第二预设网络对所述最优超参数点的预测学习率最好，因此，能够剔除所述最优超参数点对所述目标损失值的影响，从而能够准确的确定出所述目标损失值。
在本发明的至少一个实施例中，所述调整单元115根据所述目标损失值调整所述第二预设网络中的参数，直至所述目标损失值不再降低，得到语义解析模型包括：
根据所述目标损失值对所述第二子层、所述第三子层及所述第四子层中的参数进行调整，直至所述目标损失值不再降低，得到语义解析模型。
通过所述目标损失值对所述第二预设网络中的参数进行调整，由于所述目标损失值是根据所述第二预设网络对最优超参数点预测得到的语句预测标签及目标标签的相似度确定的，因此能够提高所述语义解析模型的解析准确性。
当接收到语义解析请求时，输入单元116根据所述语义解析请求获取待解析语句，并将所述待解析语句输入至所述语义解析模型中，得到所述目标语句的语义信息，所述语义信息包括目标意图及槽位信息。
在本发明的至少一个实施例中，所述语义解析请求可以由负责语句解析的用户触发，所述语义解析请求中携带有目标路径等信息。
所述待解析语句是指需要进行语义解析的语句。
需要强调的是，为进一步保证上述语义信息的私密和安全性，上述语义信息还可以存储于一区块链的节点中。
在本发明的至少一个实施例中，所述输入单元116根据所述语义解析请求获取待解析语句包括：
解析所述语义解析请求的报文，得到所述报文携带的数据信息；
从所述数据信息中获取指示路径的信息作为目标路径；
从所述目标路径中提取任意对话信息作为所述待解析语句。
通过上述实施方式，由于只需解析所述报文，因此能够快速获取到所述数据信息，从而能够快速获取到所述待解析语句。
在本发明的至少一个实施例中，所述输入单元116将所述待解析语句输入至所述语义解析模型中，得到所述目标语句的语义信息，所述语义信息包括目标意图及槽位信息包括：
获取所述语义解析模型中的所述第二子层作为意图识别层；
从所述意图识别层中获取与所述待解析语句对应的输出结果作为语句意图向量；
将所述语句意图向量中取值最大的元素对应的意图作为所述目标意图；
获取所述语义解析模型中的所述第四子层作为槽位识别层；
从所述槽位识别层中获取与所述待解析语句对应的输出结果作为所述槽位信息。
通过所述意图识别层及所述槽位识别层能够快速并准确的确定出所述语义信息。
在本发明的至少一个实施例中，在得到所述目标语句的语义信息后，所述获取单元110获取所述语义解析请求的请求编号；
生成单元117根据所述请求编号及所述语义信息生成提示信息；
加密单元118采用对称加密技术加密所述提示信息，得到密文；
发送单元119将所述密文发送至指定联系人的终端设备。
通过上述实施方式，能够提高所述语义信息的安全性。
由以上技术方案可以看出，本发明通过将所述待解析语句输入至所述第一预设网络压缩后的第二预设网络中进行语义解析，能够提高所述语义信息的生成效率，同时，本发明通过所述第一预设网络对所述对话语句的第一预测标签以及所述对话语句本身对应的槽位标签对所述第二预设网络中的参数进行联合调整，能够提高所述语义解析模型的解析准确度，从而提高所述语义信息的生成准确率。
如图3所示，是本发明实现基于人机交互的语义解析方法的较佳实施例的电子设备的结构示意图。
在本发明的一个实施例中，所述电子设备1包括，但不限于，存储器12、处理器13，以及存储在所述存储器12中并可在所述处理器13上运行的计算机可读指令，例如基于人机交互的语义解析程序。
本领域技术人员可以理解，所述示意图仅仅是电子设备1的示例，并不构成对电子设备1的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述电子设备1还可以包括输入输出设备、网络接入设备、总线等。
所述处理器13可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等，所述处理器13是所述电子设备1的运算核心和控制中心，利用各种接口和线路连接整个电子设备1的各个部分，及执行所述电子设备1的操作系统以及安装的各类应用程序、程序代码等。
示例性的，所述计算机可读指令可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器12中，并由所述处理器13执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机可读指令段，该计算机可读指令段用于描述所述计算机可读指令在所述电子设备1中的执行过程。例如，所述计算机可读指令可以被分割成获取单元110、分析单元111、识别单元112、处理单元113、计算单元114、调整单元115、输入单元116、生成单元117、加密单元118及发送单元119。
所述存储器12可用于存储所述计算机可读指令和/或模块，所述处理器13通过运行或执行存储在所述存储器12内的计算机可读指令和/或模块，以及调用存储在存储器12内的数据，实现所述电子设备1的各种功能。所述存储器12可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据电子设备的使用所创建的数据等。存储器12可以包括非易失性和易失性存储器，例如：硬盘、内存、插接式硬盘，智能存储卡(SmartMedia Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他存储器件。
所述存储器12可以是电子设备1的外部存储器和/或内部存储器。进一步地，所述存储器12可以是具有实物形式的存储器，如内存条、TF卡(Trans-flash Card)等等。
所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机可读指令来指令相关的硬件来完成，所述的计算机可读指令可存储于一计算机可读存储介质中，该计算机可读指令在被处理器执行时，可实现上述各个方法实施例的步骤。
其中，所述计算机可读指令包括计算机可读指令代码，所述计算机可读指令代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机可读指令代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
结合图1，所述电子设备1中的所述存储器12存储计算机可读指令实现一种基于人机交互的语义解析方法，所述处理器13可执行所述计算机可读指令从而实现：
获取对话样本，所述对话样本中包括对话语句及槽位标签，并获取第一预设网络，所述第一预设网络包括第一网络层、第二网络层、第三网络层及第四网络层；
基于所述第一网络层对所述对话语句进行分析，得到输出向量，所述输出向量中包括语义向量；
基于所述第二网络层对所述语义向量进行意图识别，得到意图向量；
基于所述第三网络层对所述输出向量及所述意图向量对所述对话语句中每个语句分词进行自注意力分析，得到每个语句分词的槽位特征；
基于所述第四网络层分析所述槽位特征，得到所述第一预设网络对所述对话语句的第一预测标签；
对所述第一预设网络进行压缩处理，得到第二预设网络，并将所述对话语句输入至所述第二预设网络中，得到第二预测标签；
根据所述第一预测标签及所述第二预测标签计算所述第二预设网络的第一损失值，并根据所述槽位标签及所述第二预测标签计算所述第二预设网络的第二损失值；
根据所述第一损失值及所述第二损失值确定所述第二预设网络的目标损失值，并根据所述目标损失值调整所述第二预设网络中的参数，直至所述目标损失值不再降低，得到语义解析模型；
当接收到语义解析请求时，根据所述语义解析请求获取待解析语句，并将所述待解析语句输入至所述语义解析模型中，得到所述目标语句的语义信息，所述语义信息包括目标意图及槽位信息。
具体地，所述处理器13对上述计算机可读指令的具体实现方法可参考图1对应实施例中相关步骤的描述，在此不赘述。
在本发明所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述计算机可读存储介质上存储有计算机可读指令，其中，所述计算机可读指令被处理器13执行时用以实现以下步骤：
获取对话样本，所述对话样本中包括对话语句及槽位标签，并获取第一预设网络，所述第一预设网络包括第一网络层、第二网络层、第三网络层及第四网络层；
基于所述第一网络层对所述对话语句进行分析，得到输出向量，所述输出向量中包括语义向量；
基于所述第二网络层对所述语义向量进行意图识别，得到意图向量；
基于所述第三网络层对所述输出向量及所述意图向量对所述对话语句中每个语句分词进行自注意力分析，得到每个语句分词的槽位特征；
基于所述第四网络层分析所述槽位特征，得到所述第一预设网络对所述对话语句的第一预测标签；
对所述第一预设网络进行压缩处理，得到第二预设网络，并将所述对话语句输入至所述第二预设网络中，得到第二预测标签；
根据所述第一预测标签及所述第二预测标签计算所述第二预设网络的第一损失值，并根据所述槽位标签及所述第二预测标签计算所述第二预设网络的第二损失值；
根据所述第一损失值及所述第二损失值确定所述第二预设网络的目标损失值，并根据所述目标损失值调整所述第二预设网络中的参数，直至所述目标损失值不再降低，得到语义解析模型；
当接收到语义解析请求时，根据所述语义解析请求获取待解析语句，并将所述待解析语句输入至所述语义解析模型中，得到所述目标语句的语义信息，所述语义信息包括目标意图及槽位信息。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。所述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一、第二等词语用来表示名称，而并不表示任何特定的顺序。
最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。

Claims (9)

1.一种基于人机交互的语义解析方法，其特征在于，所述基于人机交互的语义解析方法包括：
获取对话样本，所述对话样本中包括对话语句及槽位标签，并获取第一预设网络，所述第一预设网络包括第一网络层、第二网络层、第三网络层及第四网络层；
基于所述第一网络层对所述对话语句进行分析，得到输出向量，所述输出向量中包括语义向量；
基于所述第二网络层对所述语义向量进行意图识别，得到意图向量；
基于所述第三网络层对所述输出向量及所述意图向量对所述对话语句中每个语句分词进行自注意力分析，得到每个语句分词的槽位特征；
基于所述第四网络层分析所述槽位特征，得到所述第一预设网络对所述对话语句的第一预测标签；
对所述第一预设网络进行压缩处理，得到第二预设网络，并将所述对话语句输入至所述第二预设网络中，得到第二预测标签；
根据所述第一预测标签及所述第二预测标签计算所述第二预设网络的第一损失值，并根据所述槽位标签及所述第二预测标签计算所述第二预设网络的第二损失值；
根据所述第一损失值及所述第二损失值确定所述第二预设网络的目标损失值，包括：采用超参数网格搜索方法从所述对话样本中确定最优超参数点，所述最优超参数点包括目标语句及目标标签；将所述目标语句输入所述第二预设网络中，得到语句预测标签；对所述目标标签进行向量化处理，得到第一向量，并对所述语句预测标签进行向量化处理，得到第二向量；计算所述第一向量与所述第二向量的相似度作为损失权重；根据所述损失权重对所述第一损失值及所述第二损失值进行加权和运算，得到所述目标损失值，并根据所述目标损失值调整所述第二预设网络中的参数，直至所述目标损失值不再降低，得到语义解析模型，包括：根据所述目标损失值对所述第二预设网络的第二子层、第三子层及第四子层中的参数进行调整，直至所述目标损失值不再降低，得到语义解析模型；
当接收到语义解析请求时，根据所述语义解析请求获取待解析语句，并将所述待解析语句输入至所述语义解析模型中，得到所述目标语句的语义信息，所述语义信息包括目标意图及槽位信息。
2.如权利要求1所述的基于人机交互的语义解析方法，其特征在于，所述基于所述第一网络层对所述对话语句进行分析，得到输出向量包括：
对所述对话语句进行分词处理，得到多个语句分词；
确定每个语句分词在所述对话语句中的分词位置及分词段落；
获取向量映射表，并根据所述向量映射表对每个语句分词进行编码，得到每个语句分词的编码向量；
对所述编码向量、所述分词位置及所述分词段落进行拼接，得到输入向量；
根据正向长短期记忆网络对所述输入向量进行处理，得到第一向量，并根据反向长短期记忆网络对所述输入向量进行处理，得到第二向量；
拼接所述第一向量及所述第二向量，得到所述输出向量。
3.如权利要求1所述的基于人机交互的语义解析方法，其特征在于，所述基于所述第三网络层对所述输出向量及所述意图向量对所述对话语句中每个语句分词进行自注意力分析，得到每个语句分词的槽位特征包括：
从所述输出向量中提取每个语句分词的分词表征向量；
根据所述输出向量对所述分词表征向量进行上下文分析，得到每个语句分词的上下文表征向量；
拼接每个所述上下文表征向量及所述意图向量，得到拼接向量；
对所述拼接向量进行线性变换，得到门控向量；
计算每个分词表征向量及所述门控向量的乘积，得到每个语句分词的所述槽位特征。
4.如权利要求1所述的基于人机交互的语义解析方法，其特征在于，所述基于所述第四网络层分析所述槽位特征，得到所述第一预设网络对所述对话语句的第一预测标签包括：
获取所述第四网络层中的配置矩阵及配置参数；
将所述槽位特征乘以所述配置矩阵，并加上所述配置参数，得到每个语句分词的分数向量；
采用激活函数对所述分数向量进行归一化处理，得到每个语句分词的概率向量；
将所述概率向量中取值最大的元素对应的类别确定为所述第一预测标签。
5.如权利要求1所述的基于人机交互的语义解析方法，其特征在于，所述根据所述第一预测标签及所述第二预测标签计算所述第二预设网络的第一损失值包括：
Figure FDA0003772992660000031
Figure FDA0003772992660000032
Figure FDA0003772992660000033
其中，Ldistill为所述第一损失值，N为所述对话样本的数量，
Figure FDA0003772992660000034
为所述第一预设网络对第i个对话样本所输出的第一预测标签对应的第i输出Logit值，T为温度，
Figure FDA0003772992660000035
为所述第一预设网络对第k个对话样本所输出的第一预测标签对应的第k输出Logit值，
Figure FDA0003772992660000036
为所述第二预设网络对第i个对话样本所输出的第二预测标签对应的第i网络Logit值，
Figure FDA0003772992660000037
为所述第二预设网络对第k个对话样本所输出的第二预测标签对应的第k网络Logit值。
6.如权利要求1所述的基于人机交互的语义解析方法，其特征在于，所述语义解析模型包括所述第二子层及所述第四子层，所述将所述待解析语句输入至所述语义解析模型中，得到所述目标语句的语义信息，所述语义信息包括目标意图及槽位信息包括：
获取所述语义解析模型中的所述第二子层作为意图识别层；
从所述意图识别层中获取与所述待解析语句对应的输出结果作为语句意图向量；
将所述语句意图向量中取值最大的元素对应的意图作为所述目标意图；
获取所述语义解析模型中的所述第四子层作为槽位识别层；
从所述槽位识别层中获取与所述待解析语句对应的输出结果作为所述槽位信息。
7.一种基于人机交互的语义解析装置，其特征在于，所述基于人机交互的语义解析装置包括：
获取单元，用于获取对话样本，所述对话样本中包括对话语句及槽位标签，并获取第一预设网络，所述第一预设网络包括第一网络层、第二网络层、第三网络层及第四网络层；
分析单元，用于基于所述第一网络层对所述对话语句进行分析，得到输出向量，所述输出向量中包括语义向量；
识别单元，用于基于所述第二网络层对所述语义向量进行意图识别，得到意图向量；
所述分析单元，还用于基于所述第三网络层对所述输出向量及所述意图向量对所述对话语句中每个语句分词进行自注意力分析，得到每个语句分词的槽位特征；
所述分析单元，还用于基于所述第四网络层分析所述槽位特征，得到所述第一预设网络对所述对话语句的第一预测标签；
处理单元，用于对所述第一预设网络进行压缩处理，得到第二预设网络，并将所述对话语句输入至所述第二预设网络中，得到第二预测标签；
计算单元，用于根据所述第一预测标签及所述第二预测标签计算所述第二预设网络的第一损失值，并根据所述槽位标签及所述第二预测标签计算所述第二预设网络的第二损失值；
调整单元，用于根据所述第一损失值及所述第二损失值确定所述第二预设网络的目标损失值，包括：采用超参数网格搜索方法从所述对话样本中确定最优超参数点，所述最优超参数点包括目标语句及目标标签；将所述目标语句输入所述第二预设网络中，得到语句预测标签；对所述目标标签进行向量化处理，得到第一向量，并对所述语句预测标签进行向量化处理，得到第二向量；计算所述第一向量与所述第二向量的相似度作为损失权重；根据所述损失权重对所述第一损失值及所述第二损失值进行加权和运算，得到所述目标损失值，并根据所述目标损失值调整所述第二预设网络中的参数，直至所述目标损失值不再降低，得到语义解析模型，包括：根据所述目标损失值对所述第二预设网络的第二子层、第三子层及第四子层中的参数进行调整，直至所述目标损失值不再降低，得到语义解析模型；
输入单元，用于当接收到语义解析请求时，根据所述语义解析请求获取待解析语句，并将所述待解析语句输入至所述语义解析模型中，得到所述目标语句的语义信息，所述语义信息包括目标意图及槽位信息。
8.一种电子设备，其特征在于，所述电子设备包括：
存储器，存储有计算机可读指令；及
处理器，执行所述存储器中存储的计算机可读指令以实现如权利要求1至6中任意一项所述的基于人机交互的语义解析方法。
9.一种计算机可读存储介质，其特征在于：所述计算机可读存储介质中存储有计算机可读指令，所述计算机可读指令被电子设备中的处理器执行以实现如权利要求1至6中任意一项所述的基于人机交互的语义解析方法。
CN202110693494.6A 2021-06-22 2021-06-22 基于人机交互的语义解析方法、装置、设备及存储介质 Active CN113408265B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110693494.6A CN113408265B (zh) 2021-06-22 2021-06-22 基于人机交互的语义解析方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110693494.6A CN113408265B (zh) 2021-06-22 2021-06-22 基于人机交互的语义解析方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
CN113408265A CN113408265A (zh) 2021-09-17
CN113408265B true CN113408265B (zh) 2023-01-17

Family

ID=77682428

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110693494.6A Active CN113408265B (zh) 2021-06-22 2021-06-22 基于人机交互的语义解析方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN113408265B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117575013A (zh) * 2023-09-12 2024-02-20 大连瑞易付科技有限公司 应用于网络安全平台的交互挖掘方法及人工智能预测系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111488985A (zh) * 2020-04-08 2020-08-04 华南理工大学 深度神经网络模型压缩训练方法、装置、设备、介质
CN111598213A (zh) * 2020-04-01 2020-08-28 北京迈格威科技有限公司 网络训练方法、数据识别方法、装置、设备和介质
CN112052948A (zh) * 2020-08-19 2020-12-08 腾讯科技（深圳）有限公司 一种网络模型压缩方法、装置、存储介质和电子设备

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107844781A (zh) * 2017-11-28 2018-03-27 腾讯科技（深圳）有限公司 人脸属性识别方法及装置、电子设备及存储介质
CN110659646A (zh) * 2019-08-21 2020-01-07 北京三快在线科技有限公司 一种多任务证件图像自动处理方法、装置、设备及可读存储介质
CN111709252B (zh) * 2020-06-17 2023-03-28 北京百度网讯科技有限公司 基于预训练的语义模型的模型改进方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111598213A (zh) * 2020-04-01 2020-08-28 北京迈格威科技有限公司 网络训练方法、数据识别方法、装置、设备和介质
CN111488985A (zh) * 2020-04-08 2020-08-04 华南理工大学 深度神经网络模型压缩训练方法、装置、设备、介质
CN112052948A (zh) * 2020-08-19 2020-12-08 腾讯科技（深圳）有限公司 一种网络模型压缩方法、装置、存储介质和电子设备

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
侯晓龙 等.基于知识蒸馏的口语理解模型研究与实现.《电子技术与软件工程》.2021,(第196期),第180-184页. *
口语理解中意图识别和语义槽填充联合建模研究;侯丽仙;《中国优秀博硕士学位论文全文数据库（硕士）信息科技辑（月刊）》;20200815(第08期);第I138-786页 *
基于知识蒸馏的口语理解模型研究与实现;侯晓龙 等;《电子技术与软件工程》;20210131(第196期);第180-184页 *

Also Published As

Publication number Publication date
CN113408265A (zh) 2021-09-17

Similar Documents

Publication Publication Date Title
CN110147726B (zh) 业务质检方法和装置、存储介质及电子装置
CN110781276B (zh) 文本抽取方法、装置、设备及存储介质
CN113032528B (zh) 案件分析方法、装置、设备及存储介质
CN113408278B (zh) 意图识别方法、装置、设备及存储介质
CN113656547B (zh) 文本匹配方法、装置、设备及存储介质
CN115168590A (zh) 文本特征提取方法、模型训练方法、装置、设备及介质
CN113268597B (zh) 文本分类方法、装置、设备及存储介质
CN113535925B (zh) 语音播报方法、装置、设备及存储介质
US20240152770A1 (en) Neural network search method and related device
CN113408265B (zh) 基于人机交互的语义解析方法、装置、设备及存储介质
CN113705468A (zh) 基于人工智能的数字图像识别方法及相关设备
CN116127080A (zh) 描述对象的属性值提取方法及相关设备
CN113536784A (zh) 文本处理方法、装置、计算机设备和存储介质
CN112597299A (zh) 文本的实体分类方法、装置、终端设备和存储介质
CN116796287A (zh) 图文理解模型的预训练方法、装置、设备及存储介质
CN113627186B (zh) 基于人工智能的实体关系检测方法及相关设备
CN116450797A (zh) 基于多模态对话的情感分类方法、装置、设备及介质
WO2023137903A1 (zh) 基于粗糙语义的回复语句确定方法、装置及电子设备
CN113326365B (zh) 回复语句生成方法、装置、设备及存储介质
CN113486680B (zh) 文本翻译方法、装置、设备及存储介质
CN113420545B (zh) 摘要生成方法、装置、设备及存储介质
CN113421594B (zh) 语音情感识别方法、装置、设备及存储介质
CN113420143B (zh) 文书摘要生成方法、装置、设备及存储介质
CN112949305B (zh) 负反馈信息采集方法、装置、设备及存储介质
CN113792569A (zh) 对象识别方法、装置、电子设备及可读介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant