CN109241524A - 语义解析方法及装置、计算机可读存储介质、电子设备 - Google Patents

Abstract

本发明涉及计算机技术领域，提供了一种语义解析方法、装置、计算机可读介质及电子设备，该语义解析方法包括：获取用户输入的查询语句所对应的多个意图；获取与各所述意图对应的实体，将所述实体分别插入到与各所述意图对应的语义槽位中，以形成多个意图槽位组合；提取各所述意图槽位组合的特征，以形成特征向量；将所述特征向量输入至训练好的排序模型，以获取与所述查询语句相关度最高的目标意图槽位组合，将所述目标意图槽位组合作为所述查询语句的语义解析结果。本发明通过排序的方法对意图分类和槽位抽取同时进行优化，提高语义解析的准确率。

Description

语义解析方法及装置、计算机可读存储介质、电子设备

技术领域

本发明涉及计算机领域，特别涉及一种语义解析方法、语义解析装置、计算机可读存储介质及电子设备。

背景技术

人工智能(Artificial Intelligence，简称AI)是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。

随着人工智能技术的不断发展，人们对方便快捷、高效准确的智能服务的需求越来越强烈。自然语言作为人类表达自己思想最方便、最自然的方式，已经逐渐成为智能服务领域最主流的人机交互方式。通常人们希望通过自然语言信息作为输入，而不是输入复杂的字符代码，进而获得相应的输出。由于自然语言具有开放性、随意性，表达方式多样，对自然语言进行语义解析，从而识别其真实含义，对于智能服务提供而言显得尤为重要。

鉴于此，本领域亟需开发一种新的语义解析方法及装置。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开的目的在于提供一种语义解析方法、语义解析装置、计算机可读存储介质及电子设备，进而至少在一定程度上提高语义解析的正确性，以进一步提升用户体验。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本发明实施例的一个方面，提供一种语义解析方法，包括：获取用户输入的查询语句所对应的多个意图；获取与各所述意图对应的实体，将所述实体分别插入到与各所述意图对应的语义槽位中，以形成多个意图槽位组合；提取各所述意图槽位组合的特征，以形成特征向量；将所述特征向量输入至训练好的排序模型，以获取与所述查询语句相关度最高的目标意图槽位组合，将所述目标意图槽位组合作为所述查询语句的语义解析结果。

根据本发明实施例的一个方面，提供了一种语义解析装置，包括：意图分析模块，用于获取用户输入的查询语句所对应的多个意图；意图槽位组合生成模块，用于获取与各所述意图对应的实体，将所述实体分别插入到与各所述意图对应的语义槽位中，以形成多个意图槽位组合；特征向量生成模块，用于提取各所述意图槽位组合的特征，以形成特征向量；排序模块，用于将所述特征向量输入至训练好的排序模型，以获取与所述查询语句相关度最高的目标意图槽位组合，将所述目标意图槽位组合作为所述查询语句的语义解析结果。

在本发明的一些实施例，基于前述方案，所述意图分析模块包括：分类单元，用于将所述查询语句输入至意图分类器，以获取多个分类结果及所述多个分类结果对应的准确率；判断单元，用于判断所述多个分类结果的准确率与一预设值的大小关系；意图获取单元，用于当判定存在准确率大于所述预设值的目标分类结果时，将所述目标分类结果作为所述意图。

在本发明的一些实施例，基于前述方案，所述意图槽位组合生成模块包括：抽选单元，用于从所述查询语句中抽选备选实体；过滤单元，用于根据所述备选实体之间的包含关系，对所述备选实体进行过滤，以获得与各所述意图对应的实体。

在本发明的一些实施例，基于前述方案，所述排序模块包括：相关度获取单元，用于将所述特征向量输入至所述排序模型，以获取所述多个意图槽位组合与所述查询语句的相关度；排序单元，用于将所述多个意图槽位组合根据所述相关度从高到低排序；选择单元，用于选取相关度最高的意图槽位组合作为所述目标意图槽位组合。

在本发明的一些实施例，基于前述方案，所述装置还包括：模型获取模块，用于获取初始模型；样本获取模块，用于获取查询语句样本和与所述查询语句样本对应的多个意图槽位组合样本；样本相关度计算模块，用于计算所述多个意图槽位组合样本与所述查询语句样本的样本相关度；样本特征提取模块，用于提取所述多个意图槽位组合样本的特征，以形成样本特征向量；模型训练模块，用于将所述样本特征向量与所述样本相关度输入至所述初始模型，以对所述初始模型进行训练，得到所述排序模型。

在本发明的一些实施例，基于前述方案，所述样本相关度计算模块包括：相关度获取单元，用于对所述多个意图槽位组合样本打分，并根据所述多个意图槽位组合样本对应的打分值获取所述样本相关度。

在本发明的一些实施例，基于前述方案，所述相关度获取单元包括：样本获取单元，用于获取所述多个意图槽位组合样本中意图正确的意图槽位组合样本；打分单元，用于根据所述意图正确的意图槽位组合样本所对应的语义槽位的F值打分。

在本发明的一些实施例，基于前述方案，所述打分值为所述意图正确的意图槽位组合样本所对应的语义槽位的F1值。

在本发明的一些实施例，基于前述方案，所述打分值与所述样本相关度成正比。

在本发明的一些实施例，基于前述方案，所述模型训练模块包括：训练单元，用于将所述样本特征向量作为输入向量，并将所述样本相关度作为输出向量，输入至所述初始模型，以对所述初始模型进行训练，得到所述排序模型。

在本发明的一些实施例，基于前述方案，所述特征向量生成模块包括：特征提取单元，用于提取各所述意图槽位组合的至少一个预设特征，并根据各所述意图槽位组合的所述预设特征形成所述特征向量。

在本发明的一些实施例，基于前述方案，所述预设特征包括：实体与语义槽位的共现关系特征；实体、实体来源和语义槽位的共现关系特征；语义槽位中实体的长度特征；实体组合或意图槽位组合中抽取的项目序列特征；语义槽位填充值的长度占查询语句长度的比例特征；语义槽位中的实体是否包含其它实体或被其它实体包含；语义槽位中实体开始或结束位置附近抽取的项目序列特征；循环神经网络语音模型的分数特征；大词汇连续语言识别模型的分数特征；意图分类的得分特征。

根据本发明实施例的一方面，提供了一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现如上述实施例中所述的语义解析方法。

根据本发明实施例的一方面，提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上述实施例中所述的语义解析方法。

由上述技术方案可知，本公开示例性实施例中的语义解析方法及装置、计算机可读存储介质、电子设备至少具备以下优点和积极效果：

本发明实施例通过对用户输入的查询语句进行分析，获得查询语句对应的多个意图；然后对每个意图进行实体识别，并将获得的实体分别插入到与各个意图对应的语义槽位中，形成多个意图槽位组合；最后提取意图槽位组合的特征以形成与查询语句对应的特征向量，并将特征向量输入至训练好的排序模型，以获得与查询语句匹配的目标意图槽位组合，该目标意图槽位组合即为查询语句的语义解析结果。本发明实施例的语义解析方法一方面能够对所有意图槽位组合进行排序获得目标意图槽位组合，实现对意图分类和槽位抽取同时进行优化，提高语义解析的正确性；另一方面能够通过多个特征的抽取方法对意图槽位组合进行特征提取，进一步提高结果的正确性。

本发明应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出了可以应用本发明实施例的语义解析方法及装置的示例性系统架构的示意图；

图2示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图；

图3示意性示出了根据本发明的一实施例的语义解析方法的流程图；

图4示意性示出了根据本发明的一实施例的意图分类器对查询语句进行分类的流程示意图；

图5示意性示出了根据本发明的一实施例的生成意图槽位组合的结构示意图；

图6示意性示出了根据本发明的一实施例的获得目标意图槽位组合的流程示意图；

图7示意性示出了根据本发明的一实施例的训练生成排序模型的流程示意图；

图8示意性示出了根据本发明的一实施例的语义解析装置的框图；

图9示意性示出了根据本发明的一实施例的语义解析装置的框图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本发明将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本发明的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本发明的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

图1示出了可以应用本发明实施例的语义解析方法、语义解析装置的示例性系统架构100的示意图。

如图1所示，系统架构100可以包括终端设备101、网络102和服务器103。网络102用以在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

应该理解，图1中的终端设备101、网络102和服务器103的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、逻辑服务器、存储服务器和投影设备。比如服务器103可以是多个服务器组成的服务器集群等。

用户可以使用终端设备101通过网络102与服务器103交互，以接收或发送消息等。终端设备101可以是具有显示屏的各种电子设备，包括但不限于智能手机、平板电脑、便携式计算机和台式计算机等等。

服务器103可以是提供各种服务的代理服务器。例如服务器103可以接收用户输入至终端设备101中的查询语句，对查询语句进行分类，以获得查询语句对应的多个意图；然后对每个意图进行实体识别，并将实体分别插入与各个意图对应的语义槽位中形成意图槽位组合；最后提取各意图槽位组合的特征形成与查询语句对应的特征向量，并将特征向量输入至训练好的排序模型，以获取与查询语句匹配的目标意图槽位组合，即可得到查询语句的语义解析结果。这样能够同时优化意图分类和语义槽位抽取，进而提高语义解析的准确率。

图2示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图。

需要说明的是，图2示出的电子设备的计算机系统200仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图2所示，计算机系统200包括中央处理单元(CPU)201，其可以根据存储在只读存储器(ROM)202中的程序或者从存储部分208加载到随机访问存储器(RAM)203中的程序而执行各种适当的动作和处理。在RAM 203中，还存储有系统操作所需的各种程序和数据。CPU201、ROM 202以及RAM 203通过总线204彼此相连。输入/输出(I/O)接口205也连接至总线204。

以下部件连接至I/O接口205：包括键盘、鼠标等的输入部分206；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分207；包括硬盘等的存储部分208；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分209。通信部分209经由诸如因特网的网络执行通信处理。驱动器210也根据需要连接至I/O接口205。可拆卸介质211，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器210上，以便于从其上读出的计算机程序根据需要被安装入存储部分208。

特别地，根据本发明的实施例，下文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分209从网络上被下载和安装，和/或从可拆卸介质211被安装。在该计算机程序被中央处理单元(CPU)201执行时，执行本申请的系统中限定的各种功能。

需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现如下述实施例中所述的方法。例如，所述的电子设备可以实现如图3至图7所示的各个步骤。

在本领域的相关技术中，语义解析是对话系统中非常重要的一个模块，包括意图分类和槽位抽取。意图分类是指对用户的意图进行判断，常见的意图有“天气查询”，“音乐点播”，“视频点播”等。槽位抽取是指在特定的意图下，抽取对应的实体来进一步精确解析语义。如“天气查询”意图中，槽位可以是“城市名”和“时间”，“音乐点播”意图中，槽位可以是“歌曲名”，“歌手名”，“专辑名”和“歌曲类型”等，“视频点播”意图中，槽位可以是“视频名”，“导演”和“演员”等。

对于语义解析任务，数学定义如公式(1)所示：

P(k,Y│Q)＝P(k│Q)·P(Y|Q,k) (1)

其中Q表示用户输入的查询语句，k表示查询语句的意图，Y表示语义槽位抽取的结果。

传统的语义解析方法是将意图分类和语义槽位抽取分成两步，第一步先对查询语句进行意图分类，第二步在特定的意图下进行语义槽位抽取。意图分类可以用fasttext，支持向量机(SVM)，卷积神经网络(CNN)等方法来进行分类，语义槽位可以用条件随机场(CRF)，循环神经网络(RNN)等方法来进行抽取。

以采用fasttext方法进行意图分类为例，其数学表达式如公式(2)所示：

P(k|Q；Θ)＝softmax(BAx) (2)

其中，x表示对查询语句抽取的特征，A表示特征的嵌入权重矩阵，B表示隐藏层到输出层之间的权重矩阵。在对查询语句抽取特征的时候，fasttext会将特征进行哈希操作以减少参数，以及提高鲁棒性。优化目标一般采用最小化负对数似然(Negative log-likehood)。

采用条件随机场进行语义槽位抽取，其数学表达式如公式(3)所示：

其中，F_j(Q,Y)和λ_j分别表示第j个特征函数以及对应的权重，Z(Q；Θ)表示归一化项。特征的设计对条件随机场的结果有很大的作用，常见的特征有N-grams，标签转移等，抽取的特征一般是稀疏的。条件随机场优化的目标一般是最小化交叉熵(cross entropy)。

采用循环神经网络进行语义槽位抽取时，其数学表达式如公式(4)所示：

其中，a_y(t-1)yt表示输出层标签之间的转移值，z_yt(t)＝g(h_t)表示当前t位置从隐藏层传到输出层的值。h_t表示隐藏层双向LSTM的隐藏向量，g(.)一般为线性变换。循环神经网络的输出层也是条件随机场，跟传统条件随机场区别主要是特征的不同，条件随机场的特征是稀疏的人为构造的特征，循环神经网络是通过双向LSTM自动抽取的稠密特征。循环神经网络优化目标也是最小化交叉熵(cross entropy)。

但是，相关技术中是将意图分类和语义槽位抽取分成两步来进行的，会造成错误传播，也就是说，当意图分类错误后，无论槽位怎么抽取，都一定是错误的；另外，在进行语义槽位抽取时，无论是条件随机场还是循环神经网络都容易在边界上出错；并且槽位抽取的结果对意图分类可能是有帮助的，而两步法在做意图分类的时候不能利用槽位的信息。

基于相关技术中存在的问题，在本发明的一个实施例中提出了一种语义解析方法，以对上述问题进行优化处理。具体参照图3所示，该语义解析方法至少包括以下步骤：

步骤S310：获取用户输入的查询语句所对应的多个意图；

步骤S320：获取与各所述意图对应的实体，将所述实体分别插入到与各所述意图对应的语义槽位中，以形成多个意图槽位组合；

步骤S330：提取各所述意图槽位组合的特征，以形成特征向量；

步骤S340：将所述特征向量输入至训练好的排序模型，以获取与所述查询语句相关度最高的目标意图槽位组合，将所述目标意图槽位组合作为所述查询语句的语义解析结果。

本发明实施例通过对用户输入的查询语句的意图进行分类，以获得查询语句的多个意图；接着对每个意图进行实体识别，以获得与各意图对应的实体，并将实体分别插入到与各个意图对应的语义槽位中形成多个意图槽位组合；然后提取意图槽位组合的特征形成特征向量，并将特征向量输入至训练好的排序模型，以获取与查询语句匹配的目标意图槽位组合，该目标意图槽位组合即为查询语句的语义解析结果。本发明实施例的语义解析方法能够通过排序的方法对意图分类和槽位抽取同时进行优化，提高语义解析的准确率。

为了使本发明实施例的技术方案更清晰，接下来对语义解析方法的各步骤进行说明。

在步骤S310中，获取用户输入的查询语句所对应的多个意图。

在本发明的示例性实施例中，查询语句可以是文字查询语句，也可以是语音查询语句。当查询语句为文字查询语句时，用户可以通过与终端设备101连接的输入设备，如键盘、鼠标、触屏笔等，输入查询语句，也可以通过手指触摸屏幕实现查询语句的输入；当查询语句为语音查询语句时，可以通过终端设备101中的语音获取设备，如语音通话麦克风等，收集用户的语音查询语句，然后将语音信号转换为电信号。终端设备101接收到用户输入的查询语句后，可以将查询语句发送至服务器103，以对查询语句进行语义解析。

在本发明的示例性实施例中，可以将查询语句输入至意图分类器进行分类，该意图分类器可以是经过训练的fasttext模型、支持向量机模型、卷积神经网络模型，也可以是其它的分类模型，本发明对此不做具体限定。图4示出了意图分类器对查询语句进行分类的流程示意图，如图4所示，在步骤S401中，将查询语句输入至意图分类器，以获取多个分类结果及多个分类结果对应的准确率；在步骤S402中，判断多个分类结果的准确率与一预设值的大小关系，其中该预设值为根据实际需要设定的值，例如当多个分类结果的准确率分别为0.5、0.7、0.75、0.8，那么可以设定预设值为0.72、0.76等等，通过将分类结果的准确率与预设值进行比较，判断是否存在准确率大于预设值的分类结果；在步骤S403中，若判定存在准确率大于预设值的目标分类结果，则将目标分类结果作为查询语句的意图。通过上述方法，可以快速的对查询语句分类，获得与其对应的多个意图。

在步骤S320中，获取与各所述意图对应的实体，将所述实体分别插入到与各所述意图对应的语义槽位中，以形成多个意图槽位组合；

在本发明的示例性实施例中，获取多个查询语句的意图后，可以对每一个意图进行实体识别，以获取与各意图对应的实体，接着将所有的实体分别插入到与各个意图对应的语义槽位中，以形成多个意图槽位组合。实体识别也称命名实体识别(named entity，简称NE)，是指在文档集合中识别出特定类型的事物名称或符号的过程，在对意图进行实体识别时，可以采用词典匹配、条件随机场或循环神经网络进行识别，也可以采用本领域常用的其它方法进行识别，本发明实施例对此不做具体限定。以词典匹配法进行实体识别为例，通常采用基于规则和词典的方法，其中基于规则的方法多采用语言学专家手工构造规则模板，选用特征包括统计信息、标点符号、关键字、指示词和方向词、位置词(如尾字)、中心词等方法，通过模式和字符串进行匹配进行实体识别。

在本发明的示例性实施例中，对每一个意图进行实体识别，获得与查询语句对应的多个备选实体后，可以根据备选实体之间的包含关系对多个备选实体进行过滤，以获得与查询语句对应的实体。具体地，当备选实体中存在第一实体和第二实体，并且第一实体包含第二实体时，则将第二实体舍弃，仅将第一实体填入对应的语义槽位中，例如，“刘德华”和“德华”都是歌手名，在向语义槽位“歌手名”中填入实体时，则只填“刘德华”，而不填“德华”。通过对每一个意图进行实体识别，并将实体分别插入到与意图对应的语义槽位中，生成了所有可能的意图槽位组合。

图5示出了生成意图槽位组合的结构示意图，如图5所示，用户输入的查询语句为“播放三生三世十里桃花里的歌”，其中，“三生三世十里桃花”是“weak_song”，同时也是“strong_video”，并且通过意图分类器分类，该查询语句对应的意图为“音乐点播(music)”和“视频播放(video)”。图5中的A部分是查询语句对应的实体，包括“播放三生三世十里桃花里的歌”、“weak_song：三生三世十里桃花”和“strong_video：三生三世十里桃花”；B部分是位置不重合的实体的组合，有三种可能，包括“播放三生三世十里桃花里的歌NULL”、“播放<weak_song>里的歌weak_song：三生三世十里桃花”和“播放<strong_video>里的歌strong_video：三生三世十里桃花”；C部分是形成的意图槽位组合，其中包含了所有可能的意图槽位组合，该些意图槽位组合是基于用户输入的查询语句进行意图分类和槽位抽取所形成的，通过对该些意图槽位组合进行打分可以获取意图槽位组合和查询语句之间的相关度，然后通过采用意图槽位组合对应的特征向量和相关度可以训练初始模型以获得排序模型，进而使得后续在获取与查询语句相关度最高的目标意图槽位组合时更方便、更精准。

在步骤S330中，提取各所述意图槽位组合的特征，以形成特征向量。

在本发明的示例性实施例中，获得多个意图槽位组合后，可以对各个意图槽位组合进行特征提取，并将各意图槽位组合的特征进行组合形成查询语句对应的特征向量。

在本发明的示例性实施例中，在对意图槽位组合进行特征提取时，可以从意图槽位组合中提取至少一个预设特征，并将各意图槽位组合的预设特征组合形成查询语句对应的特征向量。其中该预设特征包括十种，分别是：实体与语义槽位的共现关系特征(Entity-Slot co-occurrence)，该特征抽取实体与语义槽位的贡献关系；实体、实体来源和语义槽位的共现关系特征(Entity-Entity origin-Slot co-occurrence)，该特征抽取实体、实体来源和语义槽位的共现关系，其中实体来源可以是词典、条件随机场或循环神经网络；语义槽位中实体的长度特征(Slot length)，该特征抽取每个填到语义槽位中的实体的长度；实体组合或意图槽位组合中抽取的项目序列特征(Token N-grams)，该特征抽取N-grams特征；语义槽位填充值的长度占查询语句长度的比例特征(Query coverage)，该特征抽取一个意图槽位组合中所有槽位的填充值的长度占整个查询语句长度的比例；语义槽位中的实体是否包含其它实体或被其它实体包含(Slot Contains/is Contained)；语义槽位中实体开始或结束位置附近抽取的项目序列特征(Entity N-grams)；循环神经网络语音模型的分数特征(RNN language model scores)；大词汇连续语言识别模型的分数特征(N-gramslanguage model scores)；意图分类的得分特征(Intent score)。

在步骤S340中，将所述特征向量输入至训练好的排序模型，以获取与所述查询语句相关度最高的目标意图槽位组合，将所述目标意图槽位组合作为所述查询语句的语义解析结果。

在本发明的示例性实施例中，为了获取与查询语句匹配的语义解析结果，可以将特征向量输入至训练好的排序模型，并通过排序模型输出与查询语句相关度最高的目标意图槽位组合，该目标意图槽位组合即为查询语句的语义解析结果。图6示出了获得目标意图槽位组合的流程示意图，如图6所示，在步骤S601中，将特征向量输入至排序模型，以获取多个意图槽位组合与查询语句的相关度；在步骤S602中，将多个意图槽位组合根据相关度从高到低排序；在步骤S603中，选取相关度最高的意图槽位组合作为目标意图槽位组合。

进一步的，为了通过训练获得排序模型，可以先获取一初始模型；接着获取查询语句样本，通过对查询语句样本进行分类、实体识别、插入语义槽位形成意图槽位组合样本，进而根据查询语句样本的特征向量和意图槽位组合样本与查询语句样本之间的样本相关度对初始模型进行训练。图7示出了训练生成排序模型的流程示意图，如图7所示，在步骤S701中，获取初始模型；该初始模型的架构与排序模型的架构相同，区别仅在于参数不同；在步骤S702中，获取查询语句样本和与查询语句对应的多个意图槽位组合样本；在步骤S703中，计算多个意图槽位组合样本与查询语句样本的样本相关度；在步骤S704中，提取多个意图槽位组合样本的特征，以形成样本特征向量；在步骤S705中，将样本特征向量与样本相关度输入至初始模型，以对初始模型进行训练，得到排序模型。进一步的，在步骤S703中，可以对多个意图槽位组合样本打分，然后根据多个意图槽位组合样本对应的打分值获取样本相关度。其中在对多个意图槽位组合样本打分时，首先从多个意图槽位组合样本中获取意图正确的意图槽位组合样本；然后根据意图正确的意图槽位组合样本所对应的语义槽位的F值进行打分。如图5的D部分所示，如果意图错误，则打很低的分，本发明实施例中对于意图为视频点播的均打0分；如果意图正确，则根据多个意图槽位组合对应的语义槽位的F值打分，F值为语义槽位的正确率和召回率的加权调和平均值，其中语义槽位的正确率指所有语义槽位中正确的语义槽位所占的比例，语义槽位的召回率指被挖掘出来的正确的语义槽位在所有正确的语义槽位中所占的比例。进一步的，可以将语义槽位的F1值作为打分值，F1值为语义槽位的正确率和召回率权重相同时的F值，如本发明实施例中对于正确答案“intent：music，Video：strong_video：三生三世十里桃花”，其F1值为1。另外可以设定打分值与样本相关度成正比，当F1＝0时，样本相关度可以设置为0；当F1＝1时，样本相关度可以设置为5；当F1∈(0,1)时，样本相关度在[1,4]之间线性划分。在步骤S704中，可以将样本特征向量作为输入向量，将样本相关度作为输出向量，输入至初始模型，以对初始模型进行训练，得到排序模型。

在本发明的示例性实施例中，可以采用lightGBM来进行排序，对于每个查询语句，其对应于特征向量{f_i}和相关度{r_i}，其中i表示第i个意图槽位组合样本；然后可以将{f_i，r_i}输入到lightGBM中去训练Lambda MART的排序模型，以形成最终用于预测相关度的排序模型。

本发明实施例中先形成意图槽位组合，然后对意图槽位组合提取特征，并通过排序的方法选取预测结果，既同时优化了意图分类和槽位抽取，也同时提高了意图分类和槽位抽取的准确率。以“音乐点播”和“视频点播”两个意图为例来进行实验，从实验结果分析可知，在槽位抽取的准确率上，条件随机场进行槽位抽取的准确率是83.43％，循环神经网络的准确率是82.37％，而基于排序的方法的准确率为85.03％，比条件随机场提高了1.6％，比循环神经网络提高了2.66％。在意图分类的准确率上，fasttext对于的准确率为88.91％，而基于排序的方法为92.93％，提高了4.02％。另外意图和槽位都正确的准确率，传统方法(先进行意图分类再进行槽位抽取)的准确率为75.58％，本发明实施例中提出的语义解析装置的准确率为78.21％，提高了2.63％。

以下介绍本发明实施例的装置实施例，可以用于执行本发明实施例上述的语义解析方法。对于本发明装置实施例中未披露的细节，请参照本发明上述的语义解析方法的实施例。

图8示意性示出了根据本发明的一个实施例的语义解析装置的框图。

参照图8所示，根据本发明的一个实施例的语义解析装置800，包括：意图分析模块801、意图槽位组合生成模块802、特征向量生成模块803和排序模块804。

具体地，意图分析模块801，用于获取用户输入的查询语句所对应的多个意图；意图槽位组合生成模块802，用于获取与各所述意图对应的实体，将所述实体分别插入到与各所述意图对应的语义槽位中，以形成多个意图槽位组合；特征向量生成模块803，用于提取各所述意图槽位组合的特征，以形成特征向量；排序模块804，用于将所述特征向量输入至训练好的排序模型，以获取与所述查询语句相关度最高的目标意图槽位组合，将所述目标意图槽位组合作为所述查询语句的语义解析结果。

在本发明的一个实施例中，意图分析模块801包括分类单元、判断单元和意图获取单元。

具体地，分类单元，用于将所述查询语句输入至意图分类器，以获取多个分类结果及所述多个分类结果对应的准确率；判断单元，用于判断所述多个分类结果的准确率与一预设值的大小关系；意图获取单元，用于当判定存在准确率大于所述预设值的目标分类结果时，将所述目标分类结果作为所述意图。

在本发明的一个实施例中，意图槽位组合802包括抽选单元和过滤单元。

具体地，抽选单元，用于从所述查询语句中抽选备选实体；过滤单元，用于根据所述备选实体之间的包含关系，对所述备选实体进行过滤，以获得与各所述意图对应的实体。

在本发明的一个实施例中，排序模块804包括相关度获取单元、排序单元和选择单元。

具体地，相关度获取单元，用于将所述特征向量输入至所述排序模型，以获取所述多个意图槽位组合与所述查询语句的相关度；排序单元，用于将所述多个意图槽位组合根据所述相关度从高到低排序；选择单元，用于选取相关度最高的意图槽位组合作为所述目标意图槽位组合。

图9示意性示出了根据本发明的一个实施例的语义解析装置的框图。

参照图9所示，根据本发明的一个实施例的语义解析装置800还包括模型获取模块805、样本获取模块806、样本相关度计算模块807、样本特征提取模块808和模型训练模块809。

具体地，模型获取模块805，用于获取初始模型；样本获取模块806，用于获取查询语句样本和与所述查询语句样本对应的多个意图槽位组合样本；样本相关度计算模块807，用于计算所述多个意图槽位组合样本与所述查询语句样本的样本相关度；样本特征提取模块808，用于提取所述多个意图槽位组合样本的特征，以形成样本特征向量；模型训练模块809，用于将所述样本特征向量与所述样本相关度输入至初始模型，以对所述初始模型进行训练，得到排序模型。

在本发明的一个实施例中，所述样本相关度计算模块807包括相关度获取单元，用于对所述多个意图槽位组合样本打分，并根据所述多个意图槽位组合样本对应的打分值获取所述样本相关度。

在本发明的一个实施例中，所述相关度获取单元包括样本获取单元和打分单元。

具体地，样本获取单元，用于获取所述多个意图槽位组合样本中意图正确的意图槽位组合样本；打分单元，用于根据所述意图正确的意图槽位组合样本所对应的语义槽位的F值打分。

在本发明的一个实施例中，所述打分值为所述意图正确的意图槽位组合样本所对应的语义槽位的F1值。

在本发明的一个实施例中，所述打分值与所述样本相关度成正比。

在本发明的一个实施例中，所述特征向量生成模块803包括：特征提取单元，用于提取各所述意图槽位组合的至少一个预设特征，并根据各所述意图槽位组合的所述预设特征形成所述特征向量。

在本发明的一个实施例中，所述预设特征包括：实体与语义槽位的共现关系特征；实体、实体来源和语义槽位的共现关系特征；语义槽位中实体的长度特征；实体组合或意图槽位组合中抽取的项目序列特征；语义槽位填充值的长度占查询语句长度的比例特征；语义槽位中的实体是否包含其它实体或被其它实体包含；语义槽位中实体开始或结束位置附近抽取的项目序列特征；循环神经网络语音模型的分数特征；大词汇连续语言识别模型的分数特征；意图分类的得分特征。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本发明的实施例，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

通过以上的实施例的描述，本领域的技术人员易于理解，这里描述的示例实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施例的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。

应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (15)

1.一种语义解析方法，其特征在于，包括：

获取用户输入的查询语句所对应的多个意图；

获取与各所述意图对应的实体，将所述实体分别插入到与各所述意图对应的语义槽位中，以形成多个意图槽位组合；

提取各所述意图槽位组合的特征，以形成特征向量；

将所述特征向量输入至训练好的排序模型，以获取与所述查询语句相关度最高的目标意图槽位组合，将所述目标意图槽位组合作为所述查询语句的语义解析结果。

2.根据权利要求1所述的语义解析方法，其特征在于，获取用户输入的查询语句所对应的多个意图，包括：

将所述查询语句输入至意图分类器，以获取多个分类结果及所述多个分类结果对应的准确率；

判断所述多个分类结果的准确率与一预设值的大小关系；

若判定存在准确率大于所述预设值的目标分类结果，则将所述目标分类结果作为所述意图。

3.根据权利要求1所述的语义解析方法，其特征在于，获取与各所述意图对应的实体，包括：

从所述查询语句中抽选备选实体；

根据所述备选实体之间的包含关系，对所述备选实体进行过滤，以获得与各所述意图对应的实体。

4.根据权利要求1所述的语义解析方法，其特征在于，将所述特征向量输入至训练好的排序模型，以获取与所述查询语句相关度最高的目标意图槽位组合，包括：

将所述特征向量输入至所述排序模型，以获取所述多个意图槽位组合与所述查询语句的相关度；

将所述多个意图槽位组合根据所述相关度从高到低排序；

选取相关度最高的意图槽位组合作为所述目标意图槽位组合。

5.根据权利要求1-4任一项所述的语义解析方法，其特征在于，所述方法还包括通过训练获得所述排序模型的步骤，包括：

获取初始模型；

获取查询语句样本和与所述查询语句样本对应的多个意图槽位组合样本；

计算所述多个意图槽位组合样本与所述查询语句样本的样本相关度；

提取所述多个意图槽位组合样本的特征，以形成样本特征向量；

将所述样本特征向量与所述样本相关度输入至所述初始模型，以对所述初始模型进行训练，得到所述排序模型。

6.根据权利要求5所述的语义解析方法，其特征在于，计算所述多个意图槽位组合样本与所述查询语句样本的样本相关度，包括：

对所述多个意图槽位组合样本打分，并根据所述多个意图槽位组合样本对应的打分值获取所述样本相关度。

7.根据权利要求6所述的语义解析方法，其特征在于，对所述多个意图槽位组合样本打分，包括：

获取所述多个意图槽位组合样本中意图正确的意图槽位组合样本；

根据所述意图正确的意图槽位组合样本所对应的语义槽位的F值打分。

8.根据权利要求7所述的语义解析方法，其特征在于，所述打分值为所述意图正确的意图槽位组合样本所对应的语义槽位的F1值。

9.根据权利要求8所述的语义解析方法，其特征在于，所述打分值与所述样本相关度成正比。

10.根据权利要求5所述的语义解析方法，其特征在于，将所述样本特征向量与所述样本相关度输入至所述初始模型，以对所述初始模型进行训练，得到所述排序模型，包括：

将所述样本特征向量作为输入向量，并将所述样本相关度作为输出向量，输入至所述初始模型，以对所述初始模型进行训练，得到所述排序模型。

11.根据权利要求1所述的语义解析方法，其特征在于，提取各所述意图槽位组合的特征，以形成特征向量，包括：

提取各所述意图槽位组合的至少一个预设特征，并根据各所述意图槽位组合的所述预设特征形成所述特征向量。

12.根据权利要求11所述的语义解析方法，其特征在于，所述预设特征包括：

实体与语义槽位的共现关系特征；实体、实体来源和语义槽位的共现关系特征；语义槽位中实体的长度特征；实体组合或意图槽位组合中抽取的项目序列特征；语义槽位填充值的长度占查询语句长度的比例特征；语义槽位中的实体是否包含其它实体或被其它实体包含；语义槽位中实体开始或结束位置附近抽取的项目序列特征；循环神经网络语音模型的分数特征；大词汇连续语言识别模型的分数特征；意图分类的得分特征。

13.一种语义解析装置，其特征在于，包括：

意图分析模块，用于获取用户输入的查询语句所对应的多个意图；

意图槽位组合生成模块，用于获取与各所述意图对应的实体，将所述实体分别插入到与各所述意图对应的语义槽位中，以形成多个意图槽位组合；

特征向量生成模块，用于提取各所述意图槽位组合的特征，以形成特征向量；

排序模块，用于将所述特征向量输入至训练好的排序模型，以获取与所述查询语句相关度最高的目标意图槽位组合，将所述目标意图槽位组合作为所述查询语句的语义解析结果。

14.一种计算机存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1～12中任意一项所述的语义解析方法。

15.一种电子设备，其特征在于，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1～12中任意一项所述的语义解析方法。