CN110209782B - 问答模型及应答语句的生成方法、装置、介质和电子设备 - Google Patents

Abstract

本发明的实施例提供了一种问答模型及应答语句的生成方法、装置、介质和电子设备。该问答模型的生成方法包括：获取问题数据和所述问题数据对应的应答数据；确定所述问题数据所包含的关键词及所述问题数据所属的领域；根据所述关键词和所述领域，获取所述问题数据的相关资料数据；基于所述问题数据、所述相关资料数据和所述应答数据生成训练样本，并基于所述训练样本对模型文件进行训练，以生成问答模型。本发明实施例的技术方案使得在训练模型文件时能够考虑到问题数据的相关资料数据，进而可以确保训练得到的问答模型能够融合大量的相关资料数据来生成应答语句，保证得到更加全面及准确的应答语句，有效提高了问答模型生成的应答语句的质量。

Description

问答模型及应答语句的生成方法、装置、介质和电子设备

技术领域

本发明涉及计算机及通信技术领域，具体而言，涉及一种问答模型及应答语句的生成方法、装置、介质和电子设备。

背景技术

在车载语音系统、智能音箱、智能客服、儿童陪伴机器人等产品的使用场景中，最常出现的就是用户对某一问题的询问，对于这种应用场景，如何能够得到高质量的应答语句是亟待解决的技术问题。

发明内容

本发明的实施例提供了一种问答模型及应答语句的生成方法、装置、介质和电子设备，进而至少在一定程度上可以有效提高问答模型生成的应答语句的质量。

本发明的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本发明的实践而习得。

根据本发明实施例的一个方面，提供了一种问答模型的生成方法，包括：获取问题数据和所述问题数据对应的应答数据；确定所述问题数据所包含的关键词及所述问题数据所属的领域；根据所述关键词和所述领域，获取所述问题数据的相关资料数据；基于所述问题数据、所述相关资料数据和所述应答数据生成训练样本，并基于所述训练样本对模型文件进行训练，以生成问答模型。

根据本发明实施例的一个方面，提供了一种应答语句的生成方法，包括：根据待处理的问题语句，确定所述问题语句所包含的关键词及所述问题语句所属的领域；根据所述问题语句所包含的关键词及所述问题语句所属的领域，获取所述问题语句的相关资料数据；基于所述问题语句和所述相关资料数据，通过问答模型生成所述问题语句对应的应答语句。

根据本发明实施例的一个方面，提供了一种问答模型的生成装置，包括：第一获取单元，用于获取问题数据和所述问题数据对应的应答数据；确定单元，用于确定所述问题数据所包含的关键词及所述问题数据所属的领域；第二获取单元，用于根据所述关键词和所述领域，获取所述问题数据的相关资料数据；处理单元，用于基于所述问题数据、所述相关资料数据和所述应答数据生成训练样本，并基于所述训练样本对模型文件进行训练，以生成问答模型。

在本发明的一些实施例中，基于前述方案，所述确定单元配置为：通过关键词提取模型提取所述问题数据所包含的关键词，并通过问题分类模型确定所述问题数据所属的领域。

在本发明的一些实施例中，基于前述方案，所述的问答模型的生成装置还包括：第一生成单元，用于提取已有的各个问题语句中的关键词，并基于所述各个问题语句及提取出的关键词生成第一样本数据；第一训练单元，用于通过所述第一样本数据对第一机器学习模型进行训练，以得到所述关键词提取模型。

在本发明的一些实施例中，基于前述方案，所述的问答模型的生成装置还包括：第二生成单元，用于确定已有的各个问题语句所属的领域，并基于所述各个问题语句及其所属的领域生成第二样本数据；第二训练单元，用于通过所述第二样本数据对第二机器学习模型进行训练，以得到所述问题分类模型。

在本发明的一些实施例中，基于前述方案，所述第二获取单元配置为：在属于所述领域的资料数据中检索与所述关键词相关的资料数据，并将检索到的资料数据作为所述问题数据的相关资料数据。

根据本发明实施例的一个方面，提供了一种应答语句的生成装置，包括：确定单元，用于根据待处理的问题语句，确定所述问题语句所包含的关键词及所述问题语句所属的领域；获取单元，用于根据所述问题语句所包含的关键词及所述问题语句所属的领域，获取所述问题语句的相关资料数据；生成单元，用于基于所述问题语句和所述相关资料数据，通过问答模型生成所述问题语句对应的应答语句。

在本发明的一些实施例中，基于前述方案，所述确定单元配置为：通过关键词提取模型提取所述待处理的问题语句所包含的关键词，并通过问题分类模型确定所述待处理的问题语句所属的领域。

在本发明的一些实施例中，基于前述方案，所述获取单元配置为：根据所述问题语句所包含的关键词，在属于所述领域的资料数据中检索与所述关键词相关的资料数据，并将检索到的资料数据作为所述问题语句的相关资料数据。

在本发明的一些实施例中，基于前述方案，所述的应答语句的生成装置还包括：存储单元，用于在生成所述问题语句对应的应答语句之后，存储所述问题语句及所述问题语句对应的应答语句。

在本发明的一些实施例中，基于前述方案，所述存储单元配置为：若已存储有所述问题语句，则通过所述问题语句对应的应答语句更新存储的所述问题语句的相关信息；若未存储有所述问题语句，则新建所述问题语句对应的记录，以存储所述问题语句及所述问题语句对应的应答语句。

在本发明的一些实施例中，基于前述方案，所述的应答语句的生成装置还包括：优化处理单元，用于通过存储的问题语句及所述问题语句对应的应答语句对所述问题模型进行优化处理。

根据本发明实施例的一个方面，提供了一种计算机可读介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上述实施例中所述的问答模型的生成方法，和/或实现如上述实施例中所述的应答语句的生成方法。

根据本发明实施例的一个方面，提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上述实施例中所述的问答模型的生成方法，和/或实现如上述实施例中所述的应答语句的生成方法。

在本发明的一些实施例所提供的技术方案中，通过确定问题数据所包含的关键词及问题数据所属的领域，并根据该关键词和领域获取问题数据的相关资料数据，进而基于问题数据、相关资料数据和应答数据生成训练样本来对模型文件进行训练，使得在训练模型文件时能够考虑到问题数据的相关资料数据，进而可以确保训练得到的问答模型能够融合大量的相关资料数据来生成应答语句，保证得到更加全面及准确的应答语句，有效提高了问答模型生成的应答语句的质量。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1示出了可以应用本发明实施例的问答模型和/或应答语句的生成方法或问答模型和/或应答语句的生成装置的示例性系统架构的示意图；

图2示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图；

图3示意性示出了根据本发明的一个实施例的问答模型的生成方法的流程图；

图4示意性示出了根据本发明的一个实施例的应答语句的生成方法的流程图；

图5示意性示出了根据本发明的一个实施例的问答系统的处理过程的流程图；

图6示意性示出了根据本发明的一个实施例的问答模型的生成装置的框图；

图7示意性示出了根据本发明的一个实施例的应答语句的生成装置的框图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本发明将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本发明的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本发明的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

图1示出了可以应用本发明实施例的问答模型和/或应答语句的生成方法或问答模型和/或应答语句的生成装置的示例性系统架构100的示意图。

如图1所示，系统架构100可以包括终端设备(如图1中所示智能手机101、平板电脑102和便携式计算机103中的一种或多种，当然也可以是台式计算机等等)、网络104和服务器105。网络104用以在终端设备和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线通信链路、无线通信链路等等。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。比如服务器105可以是多个服务器组成的服务器集群等。

终端设备可以通过网络104与服务器105交互，以接收或发送消息等。服务器105可以是提供各种服务的服务器。例如开发人员可以利用终端设备103(也可以是终端设备101或102)向服务器105上传了用于进行模型训练的问答数据，比如上传了问题数据和问题数据对应的应答数据。服务器105在获取到这些数据之后，可以确定问题数据所包含的关键词及问题数据所属的领域，进而根据该关键词和该领域，获取问题数据的相关资料数据，然后基于该问题数据、该相关资料数据和该应答数据生成训练样本，并基于该训练样本对模型文件进行训练，以生成问答模型。

在本发明的一个实施例中，当生成问答模型之后，若服务器105接收到终端设备103(也可以是终端设备101或102)上传的待处理的问题语句(如用户输入的问题语句)，则可以确定该问题语句所包含的关键词及该问题语句所属的领域，然后根据问题语句所包含的关键词及问题语句所属的领域，获取问题语句的相关资料数据，进而基于该问题语句和该相关资料数据，通过问答模型生成问题语句对应的应答语句，并将生成的应答语句返回给终端设备103。

需要说明的是，本发明实施例所提供的问答模型和/或应答语句的生成方法一般由服务器105执行，相应地，问答模型和/或应答语句的生成装置一般设置于服务器105中。但是，在本发明的其它实施例中，终端设备也可以与服务器具有相似的功能，从而执行本发明实施例所提供的问答模型和/或应答语句的生成方案。

图2示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图。

需要说明的是，图2示出的电子设备的计算机系统200仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图2所示，计算机系统200包括中央处理单元(Central Processing Unit，CPU)201，其可以根据存储在只读存储器(Read-Only Memory，ROM)202中的程序或者从存储部分208加载到随机访问存储器(Random Access Memory，RAM)203中的程序而执行各种适当的动作和处理。在RAM 203中，还存储有系统操作所需的各种程序和数据。CPU 201、ROM202以及RAM 203通过总线204彼此相连。输入/输出(Input/Output，I/O)接口205也连接至总线204。

以下部件连接至I/O接口205：包括键盘、鼠标等的输入部分206；包括诸如阴极射线管(Cathode Ray Tube，CRT)、液晶显示器(Liquid Crystal Display，LCD)等以及扬声器等的输出部分207；包括硬盘等的存储部分208；以及包括诸如LAN(Local Area Network，局域网)卡、调制解调器等的网络接口卡的通信部分209。通信部分209经由诸如因特网的网络执行通信处理。驱动器210也根据需要连接至I/O接口205。可拆卸介质211，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器210上，以便于从其上读出的计算机程序根据需要被安装入存储部分208。

特别地，根据本发明的实施例，下文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分209从网络上被下载和安装，和/或从可拆卸介质211被安装。在该计算机程序被中央处理单元(CPU)201执行时，执行本申请的系统中限定的各种功能。

需要说明的是，本发明实施例所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(Erasable Programmable Read Only Memory，EPROM)、闪存、光纤、便携式紧凑磁盘只读存储器(Compact Disc Read-Only Memory，CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现如下述实施例中所述的方法。例如，所述的电子设备可以实现如图3至图5所示的各个步骤。

以下对本发明实施例的技术方案的实现细节进行详细阐述：

图3示意性示出了根据本发明的一个实施例的问答模型的生成方法的流程图，该问答模型的生成方法可以由服务器来执行，该服务器可以是图1中所示的服务器；当然该问答模型的生成方法也可以由终端设备来执行，该终端设备可以是图1中所示的任一终端设备。参照图3所示，该问答模型的生成方法至少包括步骤S310至步骤S340，详细介绍如下：

在步骤S310中，获取问题数据和所述问题数据对应的应答数据。

在本发明的一个实施例中，可以从设定的数据库中获取问题数据和问题数据对应的应答数据，比如开发人员可以收集一些问题数据及应答数据，然后将收集到的数据存储至设定的数据库中，比如存储至“问题数据-应答数据”数据库中，进而可以从该数据库中获取问题数据和对应的应答数据。

在步骤S320中，确定所述问题数据所包含的关键词及所述问题数据所属的领域。

在本发明的一个实施例中，可以通过开发人员对问题数据的标记来确定问题数据所包含的关键词及问题数据所属的领域。比如开发人员事先可以标记出问题数据中所包含的关键词，并对问题数据所属的领域进行标记，进而可以根据开发人员的标记来确定问题数据所包含的关键词及问题数据所属的领域。其中，问题数据所属的领域可以是医疗领域、百科知识领域、技术售后领域等。

在本发明的一个实施例中，也可以通过关键词提取模型提取问题数据所包含的关键词，并通过问题分类模型确定所述问题数据所属的领域。其中，关键词提取模型和问题分类模型是通过样本数据对机器学习模型进行训练得到的，在将问题数据输入至这两个模型之后，这两个模型可以输出问题数据中所包含的关键词，以及问题数据所属的领域。

在本发明的一个实施例中，训练得到关键词提取模型的过程具体包括：提取已有的各个问题语句中的关键词，并基于所述各个问题语句及提取出的关键词生成第一样本数据；通过所述第一样本数据对第一机器学习模型进行训练，以得到所述关键词提取模型。

在本发明的一个实施例中，训练得到问题分类模型的过程具体包括：确定已有的各个问题语句所属的领域，并基于所述各个问题语句及其所属的领域生成第二样本数据；通过所述第二样本数据对第二机器学习模型进行训练，以得到所述问题分类模型。

需要说明的是，第一机器学习模型和第二机器学习模型可以是深度神经网络模型等。

继续参照图3所示，在步骤S330中，根据所述关键词和所述领域，获取所述问题数据的相关资料数据。

在本发明的一个实施例中，在获取问题数据的相关资料数据时，可以在属于问题数据的领域的资料数据中检索与问题数据所包含的关键词相关的资料数据，并将检索到的资料数据作为所述问题数据的相关资料数据。比如，若问题数据所属的领域为医疗领域，则可以在医疗领域的资料数据中检索与问题数据所包含的关键词相关的资料数据作为问题数据的相关资料数据。

继续参照图3所示，在步骤S340中，基于所述问题数据、所述相关资料数据和所述应答数据生成训练样本，并基于所述训练样本对模型文件进行训练，以生成问答模型。

在本发明的一个实施例中，基于问题数据、相关资料数据和应答数据生成的训练样本所训练的模型文件可以是拷贝生成网络(即CopyNet)，进而可以通过生成的问答模型来生成应答语句。

在本发明的一个实施例中，可以事先收集已有的问题数据，以及与问题数据所属领域和问题数据中所包含的关键词相关的资料数据，并据此来确定问题数据对应的应答数据。然后可以将问题数据和相关资料数据作为模型文件的输入、并将应答数据作为模型文件的输出来生成训练样本，在生成训练样本之后，通过训练样本来训练模型文件，以使模型文件能够找到问题数据及相关资料数据与应答数据之间的对应关系。当对模型文件训练完成之后，可以将问题数据和相关资料数据输入至训练好的模型文件中，进而训练好的模型文件能够输出与之对应的应答数据。

在本发明的一个实施例中，拷贝生成网络具有两个模式的通道：拷贝模式和生成模式，采用拷贝模式可以从语料信息(如上述的相关资料数据等)中拷贝相关内容以形成应答语句，采用生成模式可以从设定词典中获取相关内容(如连接词等)形成应答语句，通过对拷贝生成网络进行训练，使得可以通过拷贝生成网络生成准确、通顺的应答数据。

图3所示实施例的技术方案使得在训练模型文件时能够考虑到问题数据的相关资料数据，进而可以确保训练得到的问答模型能够融合大量的相关资料数据来生成应答语句，保证得到更加全面及准确的应答语句，有效提高了问答模型生成的应答语句的质量。

图4示意性示出了根据本发明的一个实施例的应答语句的生成方法的流程图，该应答语句的生成方法可以由服务器来执行，该服务器可以是图1中所示的服务器；当然该应答语句的生成方法也可以由终端设备来执行，该终端设备可以是图1中所示的任一终端设备。参照图4所示，该应答语句的生成方法至少包括步骤S410至步骤S430，详细介绍如下：

在步骤S410中，根据待处理的问题语句，确定所述问题语句所包含的关键词及所述问题语句所属的领域。

在本发明的一个实施例中，待处理的问题语句可以是用户输入的问题语句，比如用户针对车载语音系统、智能音箱、智能客服、儿童陪伴机器人等输入的问题语句，具体地，用户可以通过语音输入问题语句，也可以通过输入设备(如实体键盘、虚拟键盘等)输入的问题语句。

在本发明的一个实施例中，可以通过关键词提取模型提取待处理的问题语句所包含的关键词，并通过问题分类模型确定待处理的问题语句所属的领域。其中，关键词提取模型和问题分类模型可以通过前述实施例中的训练方式训练得到。

在步骤S420中，根据所述问题语句所包含的关键词及所述问题语句所属的领域，获取所述问题语句的相关资料数据。

在本发明的一个实施例中，可以根据问题语句所包含的关键词，利用搜索引擎在属于所述领域的资料数据中检索与所述关键词相关的资料数据，并将检索到的资料数据作为所述问题语句的相关资料数据。比如，若问题语句所属的领域为医疗领域，则可以在医疗领域的资料数据中检索与问题语句所包含的关键词相关的资料数据作为问题语句的相关资料数据。

继续参照图4所示，在步骤S430中，基于所述问题语句和所述相关资料数据，通过问答模型生成所述问题语句对应的应答语句。

在本发明的一个实施例中，问答模型可以是图3所示实施例的技术方案生成的问答模型，由于该问答模型是通过问题数据、问题数据的相关资料数据和应答数据生成的训练样本训练得到的，因此在将问题语句和问题语句的相关资料数据输入至问答模型中之后，问答模型可以输出问题语句对应的应答语句。

在本发明的一个实施例中，在生成问题语句对应的应答语句之后，还可以存储问题语句及所述问题语句对应的应答语句。具体地，在本发明的一个实施例中，若已存储有所述问题语句，则通过所述问题语句对应的应答语句更新存储的所述问题语句的相关信息，即通过问答模型生成的应答语句来更新之前存储的问题语句对应的应答语句；若未存储有所述问题语句，则新建所述问题语句对应的记录，以存储所述问题语句及所述问题语句对应的应答语句。

在本发明的一个实施例中，在存储问题语句对应的应答语句之后，还可以通过存储的问题语句及问题语句对应的应答语句对问题模型进行优化处理，即通过存储的问题语句再次对问题模型进行训练，以优化问题模型的模型参数。

以下结合图5，对本发明的一个实施例的问答系统的实现细节进行详细阐述。

参照图5所示，在本发明的一个实施例中，问答系统的具体处理过程主要包括模型训练和模型预测两个阶段，以下分别进行说明：

模型训练阶段：

如图5所示，模型训练阶段主要包括如下步骤：

步骤S501，从问题和领域的数据库(即数据库1)中抽取出训练样本，该训练样本主要包括：<问题，领域>训练样本和<问题，关键词>训练样本。

步骤S502，基于注意力机制，并通过<问题，领域>训练样本和<问题，关键词>训练样本对深度神经网络模型进行训练，得到问题分类模型和关键词提取模型。其中，问题分类模型用于确定问题所属的领域；关键词提取模型用于提取问题中的关键词(如提取问题中与领域相关的关键词)。

步骤S503，从问题和答案数据库(即数据库2)中分别抽取出问题和问题对应的答案。

步骤S504，基于从数据库2中抽取出的问题，通过上述已经训练好的问题分类模型和关键词提取模型预测出问题所属的领域及问题中包含的关键词。

步骤S505，通过预测得到的问题所属领域及问题中包含的关键词在信息源中进行检索，得到问题的相关资料。

在本发明的一个实施例中，可以利用搜索引擎在信息源中检索与问题所属领域相关的目标信息，然后在该目标信息中再次检索与问题中包含的关键词相对应的信息，以得到问题的相关资料。比如若问题为“感冒如何治疗”，那么通过问题分类模型和关键词提取模型预测出问题所属领域为“医疗领域”、问题中包含的关键词为“感冒”、“治疗”，进而可以在医疗领域的信息源中检索与感冒治疗相关的数据，以得到问题的相关资料。

在本发明的一个实施例中，信息源可以是百科知识库、医疗文档、技术文档、新闻资讯等。比如若问题所属领域是百科知识类，那么可以在百科知识库中检索问题的相关资料；若问题所属领域是医疗问答类，那么可以在医疗文档中检索问题的相关资料；若问题所属领域是技术售后类，那么可以在技术接口文档中检索问题的相关资料；若问题所属领域是资讯类，那么可以在新闻资讯中检索问题的相关资料。

步骤S506，基于从数据库2中抽取出来的问题和答案，以及步骤S505中检索得到的相关资料，形成<问题，资料，答案>训练样本。

步骤S507，基于步骤S506中形成的<问题，资料，答案>训练样本来训练深度问答模型(如拷贝生成网络)。

模型预测阶段：

如图5所示，模型预测阶段主要包括如下步骤：

步骤S508，当接收到新问题或者对于现有问题，通过上述模型训练阶段训练得到的问题分类模型和关键词提取模型确定问题领域及问题中所包含的关键词。

步骤S509，通过确定的问题领域及问题中所包含的关键词在信息源中进行检索，得到问题的相关资料。

在本发明的一个实施例中，如上所述，信息源可以是百科知识库、医疗文档、技术文档、新闻资讯等。比如若问题所属领域是百科知识类，那么可以在百科知识库中检索问题的相关资料；若问题所属领域是医疗问答类，那么可以在医疗文档中检索问题的相关资料；若问题所属领域是技术售后类，那么可以在技术接口文档中检索问题的相关资料；若问题所属领域是资讯类，那么可以在新闻资讯中检索问题的相关资料。

步骤S510，将问题(新问题或者现有问题)和步骤S509中检索得到的相关资料输入至上述模型训练阶段训练得到的深度问答模型，得到问题对应的答案。

步骤S511，通过问题(新问题或者现有问题)和深度问答模型生成的答案插入或更新数据库2中存储的问题和答案。

本发明上述实施例的技术方案使得在问答模型时能够考虑到问题的相关资料，进而可以确保训练得到的问答模型能够融合大量的相关资料来生成应答语句，保证得到更加全面及准确的应答语句，有效提高了问答模型生成的应答语句的质量。同时通过基于深度问答模型生成的答案来插入或更新数据库中存储的问题和答案，使得能够对数据库中的问题和答案进行扩充，节省了大量人力成本。本发明上述实施例的技术方案能够应用于车载语音系统、智能音箱、智能客服、儿童陪伴机器人等产品上来实现高质量的问答处理。

以下介绍本发明的装置实施例，可以用于执行本发明上述实施例中的问答模型和/或应答语句的生成方法。对于本发明装置实施例中未披露的细节，请参照本发明上述的问答模型和/或应答语句的生成方法的实施例。

图6示意性示出了根据本发明的一个实施例的问答模型的生成装置的框图。

参照图6所示，根据本发明的一个实施例的问答模型的生成装置600，包括：第一获取单元602、确定单元604、第二获取单元606和处理单元608。

其中，第一获取单元602用于获取问题数据和所述问题数据对应的应答数据；确定单元604用于确定所述问题数据所包含的关键词及所述问题数据所属的领域；第二获取单元606用于根据所述关键词和所述领域，获取所述问题数据的相关资料数据；处理单元608用于基于所述问题数据、所述相关资料数据和所述应答数据生成训练样本，并基于所述训练样本对模型文件进行训练，以生成问答模型。

在本发明的一个实施例中，确定单元604配置为：通过关键词提取模型提取所述问题数据所包含的关键词，并通过问题分类模型确定所述问题数据所属的领域。

在本发明的一个实施例中，所述的问答模型的生成装置600还包括：第一生成单元，用于提取已有的各个问题语句中的关键词，并基于所述各个问题语句及提取出的关键词生成第一样本数据；第一训练单元，用于通过所述第一样本数据对第一机器学习模型进行训练，以得到所述关键词提取模型。

在本发明的一个实施例中，所述的问答模型的生成装置600还包括：第二生成单元，用于确定已有的各个问题语句所属的领域，并基于所述各个问题语句及其所属的领域生成第二样本数据；第二训练单元，用于通过所述第二样本数据对第二机器学习模型进行训练，以得到所述问题分类模型。

在本发明的一个实施例中，所述第二获取单元606配置为：在属于所述领域的资料数据中检索与所述关键词相关的资料数据，并将检索到的资料数据作为所述问题数据的相关资料数据。

图7示意性示出了根据本发明的一个实施例的应答语句的生成装置的框图。

参照图7所示，根据本发明的一个实施例的应答语句的生成装置700，包括：确定单元702、获取单元704和生成单元706。

其中，确定单元702用于根据待处理的问题语句，确定所述问题语句所包含的关键词及所述问题语句所属的领域；获取单元704用于根据所述问题语句所包含的关键词及所述问题语句所属的领域，获取所述问题语句的相关资料数据；生成单元706用于基于所述问题语句和所述相关资料数据，通过问答模型生成所述问题语句对应的应答语句。

在本发明的一个实施例中，确定单元702配置为：通过关键词提取模型提取所述待处理的问题语句所包含的关键词，并通过问题分类模型确定所述待处理的问题语句所属的领域。

在本发明的一个实施例中，获取单元704配置为：根据所述问题语句所包含的关键词，在属于所述领域的资料数据中检索与所述关键词相关的资料数据，并将检索到的资料数据作为所述问题语句的相关资料数据。

在本发明的一个实施例中，所述的应答语句的生成装置700还包括：存储单元，用于在生成所述问题语句对应的应答语句之后，存储所述问题语句及所述问题语句对应的应答语句。

在本发明的一个实施例中，所述存储单元配置为：若已存储有所述问题语句，则通过所述问题语句对应的应答语句更新存储的所述问题语句的相关信息；若未存储有所述问题语句，则新建所述问题语句对应的记录，以存储所述问题语句及所述问题语句对应的应答语句。

在本发明的一个实施例中，所述的应答语句的生成装置700还包括：优化处理单元，用于通过存储的问题语句及所述问题语句对应的应答语句对所述问题模型进行优化处理。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本发明的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。

应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (8)

1.一种应答语句的生成方法，其特征在于，包括：

从第一数据库中抽取问题与领域的样本数据，以及问题与关键词的样本数据；

基于注意力机制，并通过所述问题与领域的样本数据，以及所述问题与关键词的样本数据对深度神经网络模型进行训练，得到问题分类模型和关键词提取模型，所述问题分类模型用于确定问题所属领域，所述关键词提取模型用于提取问题中与领域相关的关键词；

从第二数据库中分别抽取问题数据和所述问题数据对应的应答数据；

将所述问题数据输入至所述关键词提取模型，通过所述关键词提取模型得到所述问题数据所包含的关键词；

将所述问题数据对应的应答数据输入至所述问题分类模型，通过所述问题分类模型得到所述问题数据所属的领域；

根据所述关键词和所述领域，获取所述问题数据的相关资料数据；

基于所述问题数据、所述问题数据的相关资料数据和所述问题数据对应的应答数据生成训练样本，并基于所述训练样本对模型文件进行训练，以生成问答模型；

将接收到的待处理的问题语句分别通过所述关键词提取模型以及所述问题分类模型，得到所述问题语句所包含的关键词及所述问题语句所属的领域；

根据所述问题语句所包含的关键词及所述问题语句所属的领域，获取所述问题语句的相关资料数据；

将所述问题语句和所述问题语句的相关资料数据输入至所述问答模型中，通过所述问答模型得到所述问题语句对应的应答语句。

2.根据权利要求1所述的应答语句的生成方法，其特征在于，根据所述问题语句所包含的关键词及所述问题语句所属的领域，获取所述问题语句的相关资料数据，包括：

根据所述问题语句所包含的关键词，在属于所述领域的资料数据中检索与所述关键词相关的资料数据，并将检索到的资料数据作为所述问题语句的相关资料数据。

3.根据权利要求1或2所述的应答语句的生成方法，其特征在于，还包括：

在生成所述问题语句对应的应答语句之后，存储所述问题语句及所述问题语句对应的应答语句。

4.根据权利要求3所述的应答语句的生成方法，其特征在于，存储所述问题语句及所述问题语句对应的应答语句，包括：

若已存储有所述问题语句，则通过所述问题语句对应的应答语句更新存储的所述问题语句的相关信息；

若未存储有所述问题语句，则新建所述问题语句对应的记录，以存储所述问题语句及所述问题语句对应的应答语句。

5.根据权利要求3所述的应答语句的生成方法，其特征在于，在存储所述问题语句及所述问题语句对应的应答语句之后，还包括：

通过存储的问题语句及所述问题语句对应的应答语句对所述问题模型进行优化处理。

6.一种应答语句的生成装置，其特征在于，包括：

确定单元，用于从第一数据库中抽取问题与领域的样本数据，以及问题与关键词的样本数据；基于注意力机制，并通过所述问题与领域的样本数据，以及所述问题与关键词的样本数据对深度神经网络模型进行训练，得到问题分类模型和关键词提取模型，所述问题分类模型用于确定问题所属领域，所述关键词提取模型用于提取问题中与领域相关的关键词；从第二数据库中分别抽取问题数据和所述问题数据对应的应答数据；将所述问题数据输入至所述关键词提取模型，通过所述关键词提取模型得到所述问题数据所包含的关键词；将所述问题数据对应的应答数据输入至所述问题分类模型，通过所述问题分类模型得到所述问题数据所属的领域；根据所述关键词和所述领域，获取所述问题数据的相关资料数据；基于所述问题数据、所述问题数据的相关资料数据和所述问题数据对应的应答数据生成训练样本，并基于所述训练样本对模型文件进行训练，以生成问答模型；将接收到的待处理的问题语句分别通过所述关键词提取模型以及所述问题分类模型，得到所述问题语句所包含的关键词及所述问题语句所属的领域；

获取单元，用于根据所述问题语句所包含的关键词及所述问题语句所属的领域，获取所述问题语句的相关资料数据；

生成单元，用于将所述问题语句和所述问题语句的相关资料数据输入至所述问答模型中，通过所述问答模型得到所述问题语句对应的应答语句。

7.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至5中任一项所述的应答语句的生成方法。

8.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如权利要求1至5中任一项所述应答语句的生成方法。