CN116069914B - 训练数据的生成方法、模型训练方法以及装置 - Google Patents

Abstract

本公开提供了一种训练数据的生成方法、模型训练方法以及装置，涉及深度学习、自然语言处理等人工智能技术领域。具体实现方案为：在获取属于同一领域下的多个第一文档后，从文档库中获取与第一文档匹配的第二文档，并根据各个第一文档以及各个第二文档来生成段落集合，针对段落集合中的各个段落，从问题库中获取与段落对应的问题；根据各个段落以及对应的问题，生成用于训练问答匹配模型的训练数据。由此，通过文档库来丰富对应领域下的文档，并基于丰富后的文档以及问题库来生成用于训练问答匹配模型的训练数据，降低了训练数据的获取成本的同时，丰富了训练数据的多样性。

Description

训练数据的生成方法、模型训练方法以及装置

技术领域

本公开涉及计算机技术领域，具体涉及深度学习、自然语言处理等人工智能技术领域，尤其涉及训练数据的生成方法、模型训练方法以及装置。

背景技术

相关技术中，在基于通用问答匹配模型对指定领域下的问答匹配模型进行训练的过程中，往往需要指定领域下的大量的问答对，以对指定领域下的问答匹配模型进行模型，然而，指定领域下的大量的问答对难以获取，从而造成指定领域下的问答匹配模型的训练成本较高。

发明内容

本公开提供了一种用于训练数据的生成方法、模型训练方法以及装置。

根据本公开的一方面，提供了一种训练数据的生成方法，包括：获取多个第一文档，其中，所述多个第一文档所属的领域是相同的；针对各个第一文档，从文档库中获取与所述第一文档匹配的第二文档；根据所述多个第一文档以及与各个所述第一文档匹配的第二文档生成段落集合；针对所述段落集合中的各个段落，从问题库中获取与所述段落对应的问题；根据各个段落以及对应的问题，生成用于训练问答匹配模型的训练数据。

根据本公开的另一方面，提供了一种问答匹配模型的训练方法，所述方法包括：获取如前述的训练数据的生成方法所生成的训练数据；根据所述训练数据，对问答匹配模型进行训练。

根据本公开的另一方面，提供了一种训练数据的生成装置，包括：第一获取模块，用于获取多个第一文档，其中，所述多个第一文档所属的领域是相同的；第二获取模块，用于针对各个第一文档，从文档库中获取与所述第一文档匹配的第二文档；第一生成模块，用于根据所述多个第一文档以及与各个所述第一文档匹配的第二文档生成段落集合；第三获取模块，用于针对所述段落集合中的各个段落，从问题库中获取与所述段落对应的问题；第二生成模块，用于根据各个段落以及对应的问题，生成用于训练问答匹配模型的训练数据。

根据本公开的另一方面，提供了一种问答匹配模型的训练装置，包括：获取如前所述的训练数据的生成方法所生成的训练数据；根据所述训练数据，对问答匹配模型进行训练。

根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开的训练数据的生成方法，或者，问题匹配模型的训练方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行本公开实施例公开的训练数据的生成方法，或者，问题匹配模型的训练方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现本公开的训练数据的生成方法，或者，问题匹配模型的训练方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开第一实施例的示意图；

图2是根据本公开第二实施例的示意图；

图3是根据本公开第三实施例的示意图；

图4是根据本公开第四实施例的示意图；

图5是根据本公开第五实施例的示意图；

图6是根据本公开第六实施例的示意图；

图7是根据本公开第七实施例的示意图；

图8是根据本公开第八实施例的示意图；

图9是用来实现本公开实施例的训练数据的生成方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

下面参考附图描述本公开实施例的训练数据的生成方法、模型训练方法以及装置。

图1是根据本公开第一实施例的示意图。

如图1所示，该训练数据的生成方法可以包括：

步骤101，获取多个第一文档，其中，多个第一文档所属的领域是相同的。

其中，多个第一文档所属于的领域可以为任意一个领域，例如，多个文档可以属于防火墙安全领域，也就是说，可获取属于防火墙安全领域下的多个文档，又例如，多个文档可以属于健康领域下的多个文档。

其中，需要说明的是，上述训练数据的生成方法的执行主体为训练数据的生成装置，该训练数据的生成装置可以由软件和/或硬件的方式实现，该实施例中的训练数据的生成装置可以为电子设备，或者，可以配置在电子设备中。

其中，本示例实施例中电子设备可以包括但不限于终端设备和服务器等设备，该实施例对电子设备不作限定。

其中，本示例中的多个第一文档是某个特定领域下的目标客户所提供的多个文档。

其中，文档是指由编辑软件所生成的文本文件，可包括但不限于：Word(Microsoftoffice Word，文本文档)文档、Excel(Microsoft Office Excel，电子表格)文档、PPT(Microsoft Office PowerPoint，演示文档)文档、TXT(Text File，文本文件)文档、PDF(Portable Document Format，便捷式文档格式)文档等等。

其中，本示例中以文档为文本文档为例进行示例性描述。

步骤102，针对各个第一文档，从文档库中获取与第一文档匹配的第二文档。

在一些示例性的实施方式中，针对各个第一文档，可确定出该第一文档和文档库中各个原始文档之间的相似度，并根据相似度，从文档库中获取与该第一文档匹配的第二文档。作为一种示例，可从文档库中获取最大相似度所对应的原始文档，并将所获取到的原始文档作为与该第一文档匹配的第二文档。作为另一种示例，可从文档库中，获取相似度大于预设相似度阈值所对应的原始文档，并将所获取到的原始文档作为与该第一文档匹配的第二文档。

其中，本示例中的文档库中包括大量的原始文档。其中，本示例中的文档库是对大量非同源的原始文档进行结构规范化而构建出的。

例如，可对搜索日志、各类知识型文档以及贴吧、客服等对话数据进行结构规范化，并基于结构规范化的文档来构建文档库。

步骤103，根据多个第一文档以及与各个第一文档匹配的第二文档生成段落集合。

其中，需要说明的是，在不同应用场景中，根据多个第一文档以及与各个第一文档匹配的第二文档生成段落集合的实现方式有很多，示例性说明如下：

作为一种示例，可对各个第一文档以及各个第二文档分别进行分段处理，以得到分段结果，并根据分段结果生成段落集合。

作为另一种示例，可根据多个第一文档与各个第一文档匹配的第二文档构建目标文档集合，并对目标文档集合中的所有文档进行分段处理，以生成段落集合。

步骤104，针对段落集合中的各个段落，从问题库中获取与段落对应的问题。

步骤105，根据各个段落以及对应的问题，生成用于训练问答匹配模型的训练数据。

在一些示例中，针对各个段落，可根据该段落以及对应的问题来构建一个问答对。对应地，可根据所构建出的多个问答对，来生成用于第一文档所属的领域下的问答匹配模型的训练数据。

本公开实施例提供的训练数据的生成方法，在获取属于同一领域下的多个第一文档后，从文档库中获取与第一文档匹配的第二文档，并根据各个第一文档以及各个第二文档来生成段落集合，针对段落集合中的各个段落，从问题库中获取与段落对应的问题；根据各个段落以及对应的问题，生成用于训练问答匹配模型的训练数据。由此，通过文档库来丰富对应领域下的文档，并基于丰富后的文档以及问题库来生成用于训练问答匹配模型的训练数据，降低了训练数据的获取成本的同时，降低了训练数据的获取成本的同时，丰富了训练数据的多样性。

在一些示例性的实施方式中，为了可以高效地从文档库中获取与第一文档匹配的第二文档，可通过分别将文档库中的每个原始文档查询基于多个第一文档所预先建立的倒排索引表，来确定出与第一文档匹配的第二文档。为了可以清楚理解这个过程，下面结合图2对该过程进行示例性描述。

图2是根据本公开第二实施例的示意图。

如图2所示，该训练数据的生成方法可以包括：

步骤201，获取多个第一文档，其中，多个第一文档所属的领域是相同的。

步骤202，通过第一语句集合中各个语句以及包含语句的第一文档预先构建倒排索引表，其中，第一语句集合是对多个第一文档进行语句切分得到的。

在一些示例性的实施方式中，在对多个第一文档进行语句划分，得到第一语句集合后，可对第一语句集合进行无实质意义语句过滤和/或去重处理。在一些示例中，为了进一步节省倒排索引表的空间，可对第一语句集合进行无实质意义语句过滤和去重处理。由此，可以将第一语句集合中重复的语句以及无实质意义的语句过滤掉，以减少上述语句对后续处理的影响。

在一些示例性的实施方式中，为了进一步节省倒排索引表所占用的存储空间，在通过第一语句集合中各个语句以及包含语句的第一文档预先构建倒排索引表之前，还可以获取文档库所对应的第二语句集合；确定第二语句集合和第一语句集合的共有语句；将第一语句集合中除了共有语句之外的语句删除，对应地，根据处理后的第一语句集合来构建语句与第一文档之间的倒排索引表。

其中，共有语句为即存在第二语句集合，又存在第一语句集合中的语句。

其中，倒排索引表中包括第一语句集合中对应语句与包含该对应语句的第一文档之间的对应关系。

步骤203，针对文档库中的各个原始文档，查询倒排索引表，以从多个第一文档中获取包含原始文档的切分语句的候选文档。

在一些示例性的实施方式中，对于文档库中的一个原始文档而言，可对原始文档进行语句划分，以得到该原始文档的切分语句。对应地，从倒排索引表中的多个第一文档中获取包含该原始文档的切分语句的候选文档。

其中，本示例中的候选文档是指多个第一文档中包含原始文档的切分语句的文档。

步骤204，确定候选文档和原始文档之间的第一相似度。

在一些示例性的实施方式中，在不同应用场景中，确定候选文档和原始文档之间的第一相似度可通过多种方式实现，示例性说明如下：

作为一种示例，可将候选文档和原始文档输入到预先好的分析模型，以通过分析模型得到候选文档和原始文档两者之间的相似度。

作为另一种示例，可确定候选文档和原始文档之间的多个相似度特征，并根据多个相似度特征，确定候选文档和原始文档之间的第一相似度。由此，准确确定出候选文档和原始文档两者之间的相似度。

其中，本示例中的多个相似度特征可以包括语句重合占比、文字相似度特征、上文相似度特征和句义相似度特征中的至少两个。

在一些示例性的实施方式中，可对多个相似度特征进行加权求和，以得到求和结果，并根据求和结果，确定候选文档和原始文档之间的第一相似度。

步骤205，在第一相似度大于相似度阈值的情况下，则将原始文档作为第二文档。

也就是说，可将文档库中与第一文档之间的相似度大于相似度阈值的原始文档作为第二文档。

其中，相似度阈值是在训练数据的生成装置中预先设置的相似度的临界值，在实际应用中，可根据实际需求来设置该相似度阈值的取值，该实施例对此不作具体限定。

步骤206，根据多个第一文档以及与各个第一文档匹配的第二文档生成段落集合。

步骤207，针对段落集合中的各个段落，从问题库中获取与段落对应的问题。

步骤208，根据各个段落以及对应的问题，生成用于训练问答匹配模型的训练数据。

其中，可以理解的是，关于步骤206至步骤208的具体实现方式，可参见本公开实施例的相关描述，此处不再赘述。

在本示例中，通过分别将文档库中的每个原始文档查询基于多个第一文档所预先建立的倒排索引表，从而快捷高效地获取与对应第一文档匹配的第二文档，提高了处理效率，继而可提高生成训练数据的效率。

基于上述任意一个实施例的基础上，为了可以清楚理解针对段落集合中的各个段落，从问题库中获取与段落对应的问题的过程，下面结合图3对该实施例的训练数据的生成方法进行进一步示例性描述。

图3是根据本公开第三实施例的示意图。

如图3所示，该训练数据的生成方法可以包括：

步骤301，获取多个第一文档，其中，多个第一文档所属的领域是相同的。

步骤302，针对各个第一文档，从文档库中获取与第一文档匹配的第二文档。

步骤303，根据多个第一文档以及与各个第一文档匹配的第二文档生成段落集合。

其中，需要说明的是，关于步骤301至步骤303的具体实现方式，可参见本公开实施例的相关描述，此处不再赘述。

步骤304，针对段落集合中的各个段落，确定段落与问题库中各个问题之间的第二相似度。

其中，本示例中的问题库所属于的领域，与第一文档所属于的领域是相同的。

在一些示例中，可对文档库中的文档中的问题进行提取，以得到问题提取结果，并基于问题提取结果，预先建立该问题库。具体地，可对问题提取结果中的问题进行领域划分，以得到属于同一领域下的问题，并基于属于同一领域下的问题，建立对应领域的问题库。

在一些示例性的实施方式中，为了可以准确确定出段落与问题库中各个问题之间的第二相似度，确定段落与问题库中各个问题之间的第二相似度的一种可能实现方式为：针对段落集合中的各个段落，根据双塔模型中的第一子模型对段落进行向量表示，以得到段落的第一表示向量；根据双塔模型中的第二子模型确定问题库中各个问题所对应的第二表示向量；根据第一表示向量和各个第二表示向量之间的向量内积结果，确定段落与问题库中各个问题之间的第二相似度。由此，基于双塔模型，可快速确定出该段落与问题库中各个问题之间的相似度，进而可提高后续从问题库中获取与该段落对应的问题的效率。

对应地，可对第一表示向量和各个第二表示向量进行向量内积运算，以得到第一表示向量和各个第二表示向量之间的向量内积结果。

其中，本示例中的第一子模型主要用于对输入的段落进行向量表示。对应的，第一子模型也可以称为段落(paragraph，P)子模型。

其中，本示例中的第二子模型主要用于对输入的问题进行向量表示。对应的，第二子模型也可以称为Q子模型。其中，Q是查询语句Query的简称。

步骤305，根据第二相似度，从问题库中获取与段落对应的问题。

其中，可以理解的是，在不同应用场景中，根据第二相似度，从问题库中获取与段落对应的问题的实现方式不同，示例性说明如下：

作为一种示例，可从问题库中，获取第二相似度大于或者等于对应相似度阈值的问题，并将所获取到的问题作为与该段落对应的问题。

其中，对应相似度阈值是在训练数据的生成装置预先设置的第二相似度的临界值，可根据实际需求来设置该对应相似度阈值，该实施例对此不作具体限定。

作为另一种示例，可根据第二相似度从大到小的顺序，对问题库中的各个问题进行排序，以得到排序结果，并从排序结果中获取排序位于前K位的问题，并将位于前K位的问题作为与该段落对应的问题。

其中，K是大于或者等于1的整数，即，K为正整数。其中，K的取值是在训练数据的生成装置中根据实际需求而设置的，该实施例对此不作具体限定。

在本示例中，结合对应段落与该问题库中各个问题之间的相似度，快速从问题库中获取了与该段落对应的问题，提高了获取与该段落对应的问题的效率，继而可提高后续生成训练数据的效率。

步骤306，根据各个段落以及对应的问题，生成用于训练问答匹配模型的训练数据。

在一些示例性的实施方式中，为了可快速得到生成用于训练问题匹配模型的训练数据，根据各个段落以及对应的问题，生成用于训练问答匹配模型的训练数据的一种可能实现方式为：针对各个段落，根据段落以及对应的问题形成一个问答对；确定问答对中的段落和问题之间的问答匹配度；在问答匹配度大于或者等于预设匹配度阈值的情况下，采用第一标签对问答对进行标注，其中，第一标签用于表示问答对中的段落与问题匹配；在问答匹配度小于预设匹配度阈值的情况下，采用第二标签对问答对进行标注，其中，第二标签用于表示问答对中的段落与问题不匹配。由此，可以实现对训练数据进行自动标注，避免人工对训练数据标注，提高了训练数据的获取效率。

为了可以清楚理解本公开，下面结合图4对该实施例的训练数据的生成方法进行示例性描述。

图4是根据本公开第四实施例的示意图。

如图4所示，该训练数据的生成方法可以包括：

步骤401，获取多个第一文档，其中，多个第一文档所属的领域是相同的。

步骤402，根据多个第一文档，建立第一文档中的语句以及与包含该语句的第一文档的倒排索引表。

其中，需要说明的是，关于步骤401和步骤402的具体实现方式，可参见本公开实施例的相关描述，此处不再赘述。

步骤403，根据预先建立的文档库和倒排索引表，获取与第一文档匹配的第二文档。

具体地，可通过文档库中的各个原始文档对倒排索引表进行查询操作，以得到与对应原始文档匹配的第一文档，并基于原始文档以及与原始文档匹配的第一文档两者之间的相似度特征，确定出原始文档以及与该原始文档匹配的第一文档之间的相似度，并将相似度大于预设相似度阈值的原始文档作为第二文档。

步骤404，根据所有第一文档和所有第二文档构建目标文档集合。

步骤405，对目标文档集合中的所有文档进行分段处理，以得到段落集合。

步骤406，通过双塔模型中的段落子模型将段落集合中各个段落进行向量表示，并根据各个段落的向量表示形成段落向量库。

步骤407，通过双塔模型中的问题子模型将问题库中各个问题进行向量表示，并根据各个问题的向量表示形成问题向量库。

步骤408，根据问题向量库和段落向量库，获取各个段落以及对应的问题，并根据各个段落以及对应的问题，生成问答对集合。

具体地，针对每个段落，可将该段落以及对应的问题组成问答对，可根据各个段落所对应的问答对，形成问答对集合。

步骤409，可通过预先训练好的教师模型对问答对集合中各个问答对进行问答匹配计算，以得到各个问答对的问答匹配度。

步骤410，根据问答匹配度对问答对进行标注，并根据标注后的问答对以及教师模型，对轻量化学生模型进行蒸馏训练，以得到轻量化问答匹配模型。

在本示例中，通过文档库中的文档对某一个领域下所需要的文档进行补充，并基于补充后的文档集合来生成用来训练问答匹配模型的训练数据，降低了训练数据的获取成本的同时，丰富了训练数据的多样性，并对训练数据进行自动标注，并基于标注后的训练数据对问答匹配模型进行训练，继而可提高后续所训练出的问答匹配模型的准确性。

本公开实施例还提供一种问答匹配模型的训练方法。

图5是根据本公开第五实施例的示意图，该实施例提供一种问答匹配模型的训练方法。

如图5所示，该问答匹配模型的训练方法可以包括：

步骤501，获取如前述实施例的训练数据的生成方法所生成的训练数据。

步骤502，根据训练数据，对问答匹配模型进行训练。

在一些示例性的实施方式中，可基于训练数据，对问答匹配模型进行蒸馏训练，以得到训练后的问题匹配模型。

其中，基于训练数据对问答匹配模型进行蒸馏训练的具体实现方式，可参见相关技术中的描述，此处不再赘述。

本申请实施例提供的问答匹配模型的训练方法，通过文档库中的文档对某一个领域下所需要的文档进行补充，并基于补充后的文档集合来生成用来训练问答匹配模型的训练数据，降低了训练数据的获取成本的同时，丰富了训练数据的多样性，降低了训练问答匹配模型的训练成本，继而可提高所训练出的问答匹配模型的准确度。

为了实现上述实施例，本公开实施例还提供一种训练数据的生成装置。

图6是根据本公开第六实施例的示意图。

如图6所示，该训练数据的生成装置600可以包括：第一获取模块601、第二获取模块602、第一生成模块603、第三获取模块604和第二生成模块605，其中：

第一获取模块601，用于获取多个第一文档，其中，多个第一文档所属的领域是相同的；

第二获取模块602，用于针对各个第一文档，从文档库中获取与第一文档匹配的第二文档；

第一生成模块603，用于根据多个第一文档以及与各个第一文档匹配的第二文档生成段落集合；

第三获取模块604，用于针对段落集合中的各个段落，从问题库中获取与段落对应的问题；

第二生成模块605，用于根据各个段落以及对应的问题，生成用于训练问答匹配模型的训练数据。

其中，需要说明的是，前述对训练数据的生成方法实施例的解释说明也适用于本实施例，本实施对此不再赘述。

本公开实施例的训练数据的生成装置，在获取属于同一领域下的多个第一文档后，从文档库中获取与第一文档匹配的第二文档，并根据各个第一文档以及各个第二文档来生成段落集合，针对段落集合中的各个段落，从问题库中获取与段落对应的问题；根据各个段落以及对应的问题，生成用于训练问答匹配模型的训练数据。由此，通过文档库来丰富对应领域下的文档，并基于丰富后的文档以及问题库来生成用于训练问答匹配模型的训练数据，降低了训练数据的获取成本的同时，丰富了训练数据的多样性。

在本公开的一个实施例中，图7是根据本公开第是第七实施例的示意图，如图7所示，该训练数据的生成装置700可以包括：第一获取模块701、第二获取模块702、第一生成模块703、第三获取模块704和第二生成模块705、构建模块706、第四获取模块707、确定模块708和删除模块709，其中，第二获取模块702可以包括查询单元7021、第一确定单元7022和第二确定单元7023；第三获取模块704可以包括第三确定单元7041和获取单元7042。

其中，需要说明的是，关于第一获取模块701和第一生成模块703的详细描述请参考图6所示实施例中第一获取模块601和第一生成模块603的说明，此处不再进行描述。

在本公开的一个实施例中，装置700还可以包括：

构建模块706，用于通过第一语句集合中各个语句以及包含语句的第一文档预先构建倒排索引表，其中，第一语句集合是对多个第一文档进行语句切分得到的；

第二获取模块702，包括：

查询单元7021，用于针对文档库中的各个原始文档，查询倒排索引表，以从多个第一文档中获取包含原始文档的切分语句的候选文档；

第一确定单元7022，用于确定候选文档和原始文档之间的第一相似度；

第二确定单元7023，用于在第一相似度大于相似度阈值的情况下，则将原始文档作为第二文档。

在本公开的一个实施例中，第一确定单元7022，具体用于：确定候选文档和原始文档之间的多个相似度特征；根据多个相似度特征，确定候选文档和原始文档之间的第一相似度。

在本公开的一个实施例中，该装置700还可以包括：

第四获取模块707，用于获取文档库所对应的第二语句集合；

确定模块708，用于确定第二语句集合和第一语句集合的共有语句；

删除模块709，用于将第一语句集合中除了共有语句之外的语句删除。

在本公开的一个实施例中，第三获取模块704，包括：

第三确定单元7041，用于针对段落集合中的各个段落，确定段落与问题库中各个问题之间的第二相似度；

获取单元7042，用于根据第二相似度，从问题库中获取与段落对应的问题。

在本公开的一个实施例中，第三确定单元7041，具体用于：针对段落集合中的各个段落，根据双塔模型中的第一子模型对段落进行向量表示，以得到段落的第一表示向量；根据双塔模型中的第二子模型确定问题库中各个问题所对应的第二表示向量；根据第一表示向量和各个第二表示向量之间的向量内积结果，确定段落与问题库中各个问题之间的第二相似度。

在本公开的一个实施例中，第二生成模块705，具体用于：针对各个段落，根据段落以及对应的问题形成一个问答对；确定问答对中的段落和问题之间的问答匹配度；在问答匹配度大于或者等于预设匹配度阈值的情况下，采用第一标签对问答对进行标注，其中，第一标签用于表示问答对中的段落与问题匹配；在问答匹配度小于预设匹配度阈值的情况下，采用第二标签对问答对进行标注，其中，第二标签用于表示问答对中的段落与问题不匹配。

其中，需要说明的是，前述对训练数据的生成方法实施例的解释说明也适用于本实施例中的训练数据的生成装置，此处不再赘述。

为了实现上述实施例，本公开实施例还提供一种问答匹配模型的训练装置。

图8是根据本公开第八实施例的示意图，该实施例提供一种问答匹配模型的训练装置。

如图8所示，该问答匹配模型的训练装置800可以包括获取模块801和训练模块802，其中：

获取模块801，用于获取如前述实施例的训练数据的生成方法所生成的训练数据。

训练模块802，用于根据训练数据，对问答匹配模型进行训练。

本公开实施例提供的问答匹配模型的训练装置，通过文档库中的文档对某一个领域下所需要的文档进行补充，并基于补充后的文档集合来生成用来训练问答匹配模型的训练数据，降低了训练数据的获取成本的同时，丰富了训练数据的多样性，降低了训练问答匹配模型的训练成本，继而可提高所训练出的问答匹配模型的准确度。

根据本公开的实施例，本公开还提供了一种电子设备和一种可读存储介质。

图9示出了可以用来实施本公开的实施例的示例电子设备900的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图9所示，该电子设备900可以包括计算单元901，其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序，来执行各种适当的动作和处理。在RAM 903中，还可存储设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。

设备900中的多个部件连接至I/O接口905，包括：输入单元906，例如键盘、鼠标等；输出单元907，例如各种类型的显示器、扬声器等；存储单元908，例如磁盘、光盘等；以及通信单元909，例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理，例如训练数据的生成方法。例如，在一些实施例中，训练数据的生成方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元908。在一些实施例中，计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM 903并由计算单元901执行时，可以执行上文描述的训练数据的生成方法的一个或多个步骤。备选地，在其他实施例中，计算单元901可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行训练数据的生成方法。

在一些示例性的实施方式中，计算单元901可执行问答匹配模型的训练方法。例如，在一些实施例中，问答匹配模型的训练方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元908。在一些实施例中，计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM903并由计算单元901执行时，可以执行上文描述的问答匹配模型的训练方法的一个或多个步骤。备选地，在其他实施例中，计算单元901可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行问答匹配模型的训练方法。

本文中以上描述的装置和技术的各种实施方式可以在数字电子电路装置、集成电路装置、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上装置的装置(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程装置上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储装置、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储装置、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行装置、装置或设备使用或与指令执行装置、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体装置、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的装置和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的装置和技术实施在包括后台部件的计算装置(例如，作为数据服务器)、或者包括中间件部件的计算装置(例如，应用服务器)、或者包括前端部件的计算装置(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的装置和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算装置中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将装置的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、互联网和区块链网络。

计算机装置可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务("Virtual Private Server"，或简称"VPS")中，存在的管理难度大，业务扩展性弱的缺陷。服务器可以是云服务器，也可以为分布式装置的服务器，或者是结合了区块链的服务器。

其中，需要说明的是，人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术；人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (17)

1.一种训练数据的生成方法，包括：

获取多个第一文档，其中，所述多个第一文档所属的领域是相同的；

针对各个第一文档，从文档库中获取与所述第一文档匹配的第二文档；

根据所述多个第一文档以及与各个所述第一文档匹配的第二文档生成段落集合；

针对所述段落集合中的各个段落，从问题库中获取与所述段落对应的问题；

根据各个段落以及对应的问题，生成用于训练问答匹配模型的训练数据；

所述方法还包括：

通过第一语句集合中各个语句以及包含所述语句的第一文档预先构建倒排索引表，其中，所述第一语句集合是对所述多个第一文档进行语句切分得到的；

所述针对各个第一文档，从文档库中获取与所述第一文档匹配的第二文档，包括：

针对所述文档库中的各个原始文档，查询所述倒排索引表，以从多个所述第一文档中获取包含所述原始文档的切分语句的候选文档；

确定所述候选文档和所述原始文档之间的第一相似度；

在所述第一相似度大于相似度阈值的情况下，则将所述原始文档作为所述第二文档。

2.根据权利要求1所述的方法，其中，所述确定所述候选文档和所述原始文档之间的第一相似度，包括：

确定所述候选文档和所述原始文档之间的多个相似度特征，其中，所述多个相似度特征包括语句重合占比、文字相似度特征、上文相似度特征和句义相似度特征中的至少两个；

根据所述多个相似度特征，确定所述候选文档和所述原始文档之间的第一相似度。

3.根据权利要求1所述的方法，其中，在通过第一语句集合中各个语句以及包含所述语句的第一文档预先构建倒排索引表之前，所述方法还包括：

获取所述文档库所对应的第二语句集合；

确定所述第二语句集合和所述第一语句集合的共有语句；

将所述第一语句集合中除了所述共有语句之外的语句删除。

4.根据权利要求1所述的方法，其中，所述针对所述段落集合中的各个段落，从问题库中获取与所述段落对应的问题，包括：

针对所述段落集合中的各个段落，确定所述段落与所述问题库中各个问题之间的第二相似度；

根据所述第二相似度，从所述问题库中获取与所述段落对应的问题。

5.根据权利要求4所述的方法，其中，所述针对所述段落集合中的各个段落，确定所述段落与所述问题库中各个问题之间的第二相似度，包括：

针对所述段落集合中的各个段落，根据双塔模型中的第一子模型对所述段落进行向量表示，以得到所述段落的第一表示向量；

根据所述双塔模型中的第二子模型确定所述问题库中各个问题所对应的第二表示向量；

根据所述第一表示向量和各个所述第二表示向量之间的向量内积结果，确定所述段落与所述问题库中各个问题之间的第二相似度。

6.根据权利要求1-5中任一项所述的方法，其中，所述根据各个段落以及对应的问题，生成用于训练问答匹配模型的训练数据，包括：

针对各个段落，根据所述段落以及对应的问题形成一个问答对；

确定所述问答对中的所述段落和问题之间的问答匹配度；

在所述问答匹配度大于或者等于预设匹配度阈值的情况下，采用第一标签对所述问答对进行标注，其中，所述第一标签用于表示所述问答对中的段落与问题匹配；

在所述问答匹配度小于预设匹配度阈值的情况下，采用第二标签对所述问答对进行标注，其中，所述第二标签用于表示所述问答对中的段落与问题不匹配。

7.一种问答匹配模型的训练方法，所述方法包括：

获取如权利要求1-6中任一项所述的方法所生成的训练数据；

根据所述训练数据，对问答匹配模型进行训练。

8.一种训练数据的生成装置，包括：

第一获取模块，用于获取多个第一文档，其中，所述多个第一文档所属的领域是相同的；

第二获取模块，用于针对各个第一文档，从文档库中获取与所述第一文档匹配的第二文档；

第一生成模块，用于根据所述多个第一文档以及与各个所述第一文档匹配的第二文档生成段落集合；

第三获取模块，用于针对所述段落集合中的各个段落，从问题库中获取与所述段落对应的问题；

第二生成模块，用于根据各个段落以及对应的问题，生成用于训练问答匹配模型的训练数据；

其中，所述装置还包括：

构建模块，用于通过第一语句集合中各个语句以及包含所述语句的第一文档预先构建倒排索引表，其中，所述第一语句集合是对所述多个第一文档进行语句切分得到的；

所述第二获取模块，包括：

查询单元，用于针对所述文档库中的各个原始文档，查询所述倒排索引表，以从多个所述第一文档中获取包含所述原始文档的切分语句的候选文档；

第一确定单元，用于确定所述候选文档和所述原始文档之间的第一相似度；

第二确定单元，用于在所述第一相似度大于相似度阈值的情况下，则将所述原始文档作为所述第二文档。

9.根据权利要求8所述的装置，其中，所述第一确定单元，具体用于：

确定所述候选文档和所述原始文档之间的多个相似度特征，其中，所述多个相似度特征包括语句重合占比、文字相似度特征、上文相似度特征和句义相似度特征中的至少两个；

根据所述多个相似度特征，确定所述候选文档和所述原始文档之间的第一相似度。

10.根据权利要求8所述的装置，其中，所述装置还包括：

第四获取模块，用于获取所述文档库所对应的第二语句集合；

确定模块，用于确定所述第二语句集合和所述第一语句集合的共有语句；

删除模块，用于将所述第一语句集合中除了所述共有语句之外的语句删除。

11.根据权利要求8所述的装置，其中，所述第三获取模块，包括：

第三确定单元，用于针对所述段落集合中的各个段落，确定所述段落与所述问题库中各个问题之间的第二相似度；

获取单元，用于根据所述第二相似度，从所述问题库中获取与所述段落对应的问题。

12.根据权利要求11所述的装置，其中，所述第三确定单元，具体用于：

针对所述段落集合中的各个段落，根据双塔模型中的第一子模型对所述段落进行向量表示，以得到所述段落的第一表示向量；

根据所述双塔模型中的第二子模型确定所述问题库中各个问题所对应的第二表示向量；

根据所述第一表示向量和各个所述第二表示向量之间的向量内积结果，确定所述段落与所述问题库中各个问题之间的第二相似度。

13.根据权利要求8-12中任一项所述的装置，其中，所述第二生成模块，具体用于：

针对各个段落，根据所述段落以及对应的问题形成一个问答对；

确定所述问答对中的所述段落和问题之间的问答匹配度；

在所述问答匹配度大于或者等于预设匹配度阈值的情况下，采用第一标签对所述问答对进行标注，其中，所述第一标签用于表示所述问答对中的段落与问题匹配；

在所述问答匹配度小于预设匹配度阈值的情况下，采用第二标签对所述问答对进行标注，其中，所述第二标签用于表示所述问答对中的段落与问题不匹配。

14.一种问答匹配模型的训练装置，所述装置包括：

获取模块，用于获取如权利要求1-6中任一项所述的方法所生成的训练数据；

训练模块，用于根据所述训练数据，对问答匹配模型进行训练。

15. 一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法，或者，权利要求7所述的方法。

16.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-6中任一项所述的方法，或者，权利要求7所述的方法。

17.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1-6中任一项所述的方法，或者，权利要求7所述的方法。