CN114297220A - 一种数据处理方法、装置、计算机设备以及存储介质 - Google Patents
一种数据处理方法、装置、计算机设备以及存储介质 Download PDFInfo
- Publication number
- CN114297220A CN114297220A CN202111444119.4A CN202111444119A CN114297220A CN 114297220 A CN114297220 A CN 114297220A CN 202111444119 A CN202111444119 A CN 202111444119A CN 114297220 A CN114297220 A CN 114297220A
- Authority
- CN
- China
- Prior art keywords
- natural language
- initial
- query language
- generation model
- generate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Machine Translation (AREA)
Abstract
本申请实施例公开一种数据处理方法、装置、计算机设备以及存储介质,其中方法包括如下步骤:根据业务场景构建查询语言模板;获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言;通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题;对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合。采用本申请,可以快速生成大量的自然语言问题,保证语料的多样性,提高语料的生成速度。
Description
技术领域
本申请涉及互联网技术领域,尤其涉及一种数据处理方法、装置、计算机设备以及存储介质。
背景技术
在基于表格的对话系统中问答数据是极为重要的,例如,对表格问答应用的冷启动阶段生成训练数据以及客服问答机器人实时生成推荐问题都有很大的影响。在业务冷启动阶段模型需要预训练时,生成与领域强相关的SQL语句-问答数据能够有效提升模型的领域适应能力。现有的表格问答数据生成技术方案,大多停留在人工撰写、模板生成阶段,但是依靠人工撰写的方法人力成本昂贵、撰写耗时高,依靠模板生成的方法语料数量少、多样性较弱,对训练模型的增益较小。
发明内容
本申请实施例提供一种数据处理方法、装置、计算机设备以及存储介质,可以快速生成大量的自然语言问题,保证语料的多样性,提高语料的生成速度。
本申请实施例一方面提供了一种数据处理方法,可包括:
根据业务场景构建查询语言模板;
获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言;所述待填充位置包括列维度和列值;
通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题;
对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合,所述同义转换包括同义词替换、疑问词改写、顺序变化、口语词汇增加;所述问题语料集合用于构建基于所述业务表格数据的对话系统。
在一种可行的实施方式中,所述根据业务场景构建查询语言模板,包括:
获取业务场景对应的业务查询语言组件,所述业务查询语言组件包括select组件、where组件、group by组件、order by组件、limit组件;
基于所述业务查询语言组件生成查询语言模板。
在一种可行的实施方式中,所述获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言,包括:
获取所述业务表格数据的列维度和所述列维度对应的数值;
根据所述列维度和所述列维度对应的数值补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言。
在一种可行的实施方式中,所述通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题,包括:
对所述查询语言进行向量转换生成查询语言对应的嵌入式表示;所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示;
通过问题生成模型中的编码器对所述查询语言的嵌入式表示进行编码,生成所述查询语言对应的查询语言词向量;
通过问题生成模型中的解码器对所述查询语言词向量进行解码,生成所述查询语言对应的自然语言问题。
在一种可行的实施方式中,还包括:
获取初始问题生成模型和初始业务表格数据;
根据所述初始业务表格数据生成所述初始业务表格数据对应的初始查询语言,获取所述初始查询语言对应的初始自然语言问题集合,所述初始自然语言问题集合包括所述初始查询语言对应的至少两个语义相同、问法不同的自然语言问题;
根据所述初始查询语言和所述初始自然语言问题集合,对初始问题生成模型进行训练,生成问题生成模型。
在一种可行的实施方式中,所述根据所述初始查询语言和所述初始自然语言问题集合,对初始问题生成模型进行训练,生成问题生成模型,包括:
对所述初始查询语言进行向量转换生成初始查询语言对应的嵌入式表示;所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示;
通过初始问题生成模型中的编码器对所述初始查询语言的嵌入式表示进行编码,生成所述初始查询语言对应的查询语言词向量;
通过初始问题生成模型中的解码器对所述查询语言词向量进行解码,生成所述初始查询语言对应的预测自然语言问题;
根据所述预测自然语言问题和初始自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型。
在一种可行的实施方式中,所述根据所述预测自然语言问题和初始自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型,包括:
根据所述预测自然语言问题和初始自然语言问题集合中的自然语言问题,构建损失函数;
根据所述损失函数调整所述初始问题生成模型的模型参数;
当调整后的初始问题生成模型满足收敛条件时,将包含调整后的模型参数的初始问题生成模型确定为问题生成模型。
在一种可行的实施方式中,所述根据所述查询语言和所述初始自然语言问题集合,对初始问题生成模型进行训练,生成问题生成模型,包括:
对所述初始自然语言问题集合中的自然语言问题进行分类,生成第一自然语言问题集合和第二自然语言问题集合;所述第一自然语言问题集合包括至少一个自然语言问题,所述第二自然语言问题集合包括至少一个自然语言问题,所述第一自然语言问题集合与所述第二自然语言问题集合中的自然语言问题不相同;
将所述初始查询语言与所述第一自然语言问题集合中的自然语言问题进行拼接生成拼接语句;
对所述拼接语句进行向量转换生成拼接语句对应的嵌入式表示;所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示;
通过初始问题生成模型中的编码器对所述拼接语句对应的嵌入式表示编码,生成所述拼接语句对应的拼接语句词向量;
通过初始问题生成模型中的解码器对所述拼接语句词向量进行解码,生成所述查询语言对应的预测自然语言问题;
根据所述预测自然语言问题和第二自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型。
在一种可行的实施方式中,所述根据所述预测自然语言问题和第二自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型,包括:
根据所述预测自然语言问题和第二自然语言问题集合中的自然语言问题,构建损失函数;
根据所述损失函数调整所述初始问题生成模型的模型参数;
当调整后的初始问题生成模型满足收敛条件时,将包含调整后的模型参数的初始问题生成模型确定为问题生成模型。
本申请实施例一方面提供了一种数据处理装置,可包括:
模板获取单元,用于根据业务场景构建查询语言模板;
查询语言生成单元,用于获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言;所述待填充位置包括列维度和列值;
问题生成单元,用于通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题;
同义转换单元,用于对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合,所述同义转换包括同义词替换、疑问词改写、顺序变化、口语词汇增加;所述问题语料集合用于构建基于所述业务表格数据的对话系统。
在一种可行的实施方式中,所述模板获取单元用于:
获取业务场景对应的业务查询语言组件,所述业务查询语言组件包括select组件、where组件、group by组件、order by组件、limit组件;
基于所述业务查询语言组件生成查询语言模板。
在一种可行的实施方式中,所述查询语言生成单元用于:
获取所述业务表格数据的列维度和所述列维度对应的数值;
根据所述列维度和所述列维度对应的数值补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言。
在一种可行的实施方式中,所述问题生成单元用于:
对所述查询语言进行向量转换生成查询语言对应的嵌入式表示;所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示;
通过问题生成模型中的编码器对所述查询语言的嵌入式表示进行编码,生成所述查询语言对应的查询语言词向量;
通过问题生成模型中的解码器对所述查询语言词向量进行解码,生成所述查询语言对应的自然语言问题。
在一种可行的实施方式中,还包括:
模型训练单元,用于获取初始问题生成模型和初始业务表格数据;
根据所述初始业务表格数据生成所述初始业务表格数据对应的初始查询语言,获取所述初始查询语言对应的初始自然语言问题集合,所述初始自然语言问题集合包括所述初始查询语言对应的至少两个语义相同、问法不同的自然语言问题;
根据所述初始查询语言和所述初始自然语言问题集合,对初始问题生成模型进行训练,生成问题生成模型。
在一种可行的实施方式中,所述模型训练单元用于:
对所述初始查询语言进行向量转换生成初始查询语言对应的嵌入式表示;所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示;
通过初始问题生成模型中的编码器对所述初始查询语言的嵌入式表示进行编码,生成所述初始查询语言对应的查询语言词向量;
通过初始问题生成模型中的解码器对所述查询语言词向量进行解码,生成所述初始查询语言对应的预测自然语言问题;
根据所述预测自然语言问题和初始自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型。
在一种可行的实施方式中,所述模型训练单元用于:
根据所述预测自然语言问题和初始自然语言问题集合中的自然语言问题,构建损失函数;
根据所述损失函数调整所述初始问题生成模型的模型参数;
当调整后的初始问题生成模型满足收敛条件时,将包含调整后的模型参数的初始问题生成模型确定为问题生成模型。
在一种可行的实施方式中,所述模型训练单元用于:
对所述初始自然语言问题集合中的自然语言问题进行分类,生成第一自然语言问题集合和第二自然语言问题集合;所述第一自然语言问题集合包括至少一个自然语言问题,所述第二自然语言问题集合包括至少一个自然语言问题,所述第一自然语言问题集合与所述第二自然语言问题集合中的自然语言问题不相同;
将所述初始查询语言与所述第一自然语言问题集合中的自然语言问题进行拼接生成拼接语句;
对所述拼接语句进行向量转换生成拼接语句对应的嵌入式表示;所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示;
通过初始问题生成模型中的编码器对所述拼接语句对应的嵌入式表示编码,生成所述拼接语句对应的拼接语句词向量;
通过初始问题生成模型中的解码器对所述拼接语句词向量进行解码,生成所述查询语言对应的预测自然语言问题;
根据所述预测自然语言问题和第二自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型。
在一种可行的实施方式中,所述模型训练单元用于:
根据所述预测自然语言问题和第二自然语言问题集合中的自然语言问题,构建损失函数;
根据所述损失函数调整所述初始问题生成模型的模型参数;
当调整后的初始问题生成模型满足收敛条件时,将包含调整后的模型参数的初始问题生成模型确定为问题生成模型。
本申请实施例一方面提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,所述计算机程序适于由处理器加载并执行上述的方法步骤。
本申请实施例一方面提供了一种计算机设备,包括:处理器、存储器以及网络接口;所述处理器与所述存储器、所述网络接口相连,其中,所述网络接口用于提供网络通信功能,所述存储器用于存储程序代码,所述处理器用于调用所述程序代码执行上述的方法步骤。
本申请实施例一方面提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述的方法步骤。
在本申请实施例中,通过根据业务场景构建查询语言模板,进一步获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言,进而通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题,最后对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合。采用上述方法,可以基于问题生成模型生成自然语言问题,并进一步通过同义转换生成大量同义的自然语言问题,解决了人工撰写时成本昂贵、撰写耗时高的问题,避免了依靠模板生成语料时语料数量少、多样性较弱的问题,保证了语料的多样性,提高了语料的生成速度。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种数据处理的网络架构图;
图2是本申请实施例提供的一种数据处理方法的流程示意图;
图3a是本申请实施例提供的一种业务表格数据的举例示意图;
图3b是本申请实施例提供的一种问题推荐系统的举例示意图;
图4是本申请实施例提供的一种数据处理方法的流程示意图;
图5a是本申请实施例提供的一种模型训练方式的举例示意图;
图5b是本申请实施例提供的一种查询语言与自然语言问题的关系的举例示意图;
图6是本申请实施例提供的一种数据处理装置的结构示意图;
图7是本申请实施例提供的一种计算机设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
请参见图1,图1是本申请实施例提供的数据处理的网络架构图。该网络架构图可以包括业务服务器100以及用户终端集群,该用户终端集群可以包括用户终端10a、用户终端10b、…、用户终端10c,其中,用户终端集群之间可以存在通信连接,例如用户终端10a与用户终端10b之间存在通信连接,用户终端10b与用户终端10c之间存在通信连接,且用户终端集群中的任一用户终端可以与业务服务器100存在通信连接,例如用户终端10a与业务服务器100之间存在通信连接,用户终端10b与业务服务器100之间存在通信连接。
其中,上述用户终端集群(也包括上述的用户终端10a、用户终端10b以及用户终端10c)均可以集成安装有目标应用。可选的,该目标应用可以包括具有展示文字、图像以及视频等数据信息功能的应用。
数据库10d中存储了初始问题生成模型以及用于训练上述初始问题生成模型的初始业务表格数据。在一种可行的实施方式中,用户终端通过根据业务场景构建查询语言模板,进一步用户终端获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言,所述待填充位置包括列维度和列值,进而用户终端通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题,最后用户终端对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合,所述同义转换包括同义词替换、疑问词改写、顺序变化、口语词汇增加,所述问题语料集合用于构建基于所述业务表格数据的对话系统。可选的,上述用户终端可以为在上述图1所对应实施例的用户终端集群中所选取的任意一个用户终端,比如,该用户终端可以为上述用户终端10b。
可以理解的是,本申请实施例所提供的方法可以由计算机设备执行,计算机设备包括但不限于终端或服务器,本申请实施例中的业务服务器100可以为计算机设备,用户终端集群中的用户终端也可以为计算机设备,此处不限定。上述业务服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。上述终端可以包括:智能手机、平板电脑、笔记本电脑、桌上型电脑、智能电视、智能音箱、台式计算机、智能手表等携带图像识别功能的智能终端,但并不局限于此。其中,用户终端以及业务服务器可以通过有线或无线通信方式进行直接或间接地连接,本申请在此不做限制。本发明实施例可应用于云技术、人工智能、智慧交通等各种场景。
进一步地,为便于理解,请参见图2,图2是本申请实施例提供的数据处理方法的流程示意图。该方法可以由用户终端(例如,上述图1所示的用户终端)执行,也可以由用户终端和业务服务器(如上述图1所对应实施例中的业务服务器100)共同执行。为便于理解,本实施例以该方法由上述用户终端执行为例进行说明。其中,该数据处理方法至少可以包括以下步骤S101-步骤S104:
S101,根据业务场景构建查询语言模板;
具体的,用户终端获取业务场景对应的业务查询语言组件,所述业务查询语言组件包括select组件、where组件、group by组件、order by组件、limit组件,进一步基于所述业务查询语言组件生成查询语言模板。查询语言模板具体可以是SQL模板,查询语言模板构建时,组件个数越多,生成的查询语言难度越高。例如:select*from业务表格where col_0=arg_0是一个简单的查询语言模板,表示通过一个where组件筛选所有列维度的值情况;查询语言模板还可以是select col_0,count(*)from业务表格where col_1=arg_0andcol_2=arg_1group by col_0order by count(*)desc limit int。
S102,获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言;
具体的,用户终端获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言,可以理解的是,所述待填充位置包括列维度和列值,请参见图3a,图3a是本申请实施例提供的一种业务表格数据的举例示意图。如图3a所示,业务表格数据是教育行业的业务表格,表格内容包括教师id、性别、年龄、所属区县、任教学科、学历、学校名称,用户终端根据业务表格数据补全查询语言模板的列维度和列值以及其他待填充槽位,以select col_0,count(*)from业务表格where col_1=arg_0and col_2=arg_1group by col_0order by count(*)desclimit int为例进行说明:
补全列维度:select所属区县,count(*)from业务表格where任教学科=arg_0and学历=arg_1group by所属区县order by count(*)desc limit int;
补全维度相关的值:select所属区县,count(*)from业务表格where任教学科=英语and学历=本科group by所属区县order by count(*)desc limit int;
补全其他槽位:select所属区县,count(*)from业务表格where任教学科=英语and学历=本科group by所属区县order by count(*)desc limit 3。
S103,通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题;
具体的,用户终端对所述查询语言进行向量转换生成查询语言对应的嵌入式表示,向量转换具体可以采用word2vec的方式,所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示,多层次的嵌入式表示可以最大化集成学习模型的参数信息。标识嵌入式表示可以是字词级别编码(Token Embedding),位置嵌入式表示可以是位置编码(Position Embedding)、分句嵌入式表示可以是分句编码(Segment Embedding)、列嵌入式表示可以是列名/列值编码(Columnn/Row Embedding)、数值嵌入式表示可以是数值编码(Num Embedding),Columnn/Row Embedding是对表格中的列名和列值的统一索引,每一个列名或列值会对应一个索引位,Num Embedding是数值新文本编码,文本中是数值的位置被标记为1,非数值的位置被标记为0。
进一步的,用户终端通过问题生成模型中的编码器对所述查询语言的嵌入式表示进行编码,生成所述查询语言对应的查询语言词向量,所述问题生成模型可以采用神经网络,例如可以是RNN循环神经网络或者是Bi-RNN双向循环神经网络。具体的,上述嵌入式表示通过累加的方式合并在一起,输入问题生成模型,通过问题生成模型中的编码器对所述查询语言的嵌入式表示进行编码,生成所述查询语言对应的查询语言词向量。
进一步的,用户终端通过问题生成模型中的解码器对所述查询语言词向量进行解码,生成所述查询语言对应的自然语言问题。
S104,对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合。
具体的,用户终端对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合,可以理解的是,用户终端启动问法后处理器,对自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,同一语句也是自然语言问题,所述同义转换包括同义词替换、疑问词改写、顺序变化、口语词汇增加等。同义词替换是对自然语言问题中的部分词进行同义词替换,如:“教师”替换为“老师”;疑问词改写是对自然语言问题中的疑问词表达进行扩充,如:“有哪些”扩充为“有哪些区县”;顺序变化是对自然语言问题中的相关词变换顺序,使得改写后的话术更通顺、符合自然表达;口语词汇增加是在自然语言问题中适当添加口语表达词汇,如:前缀表达“帮我查下”、“你知道”,后缀表达“呢”、“吗”、“如何”等。最后将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合,上述问题语料集合可以用于构建基于所述业务表格数据的对话系统。
请参见图3b,图3b是本申请实施例提供的一种问题推荐系统的举例示意图。当需要针对某个领域构建基于表格的对话系统时,用户将数据表格存入用户终端,用户终端基于本方案中的方法生成针对上述数据表格的问题语料集合,问题语料集合中包括大量的自然语言问题,用户终端根据上述自然语言问题训练对话系统的NL2SQL模型,NL2SQL模型用于将自然语言转换成SQL语句,如图3b所示,针对训练完成的对话系统,对话系统可以向用户展示推荐问题,用户可以选择推荐问题中的任意一个自然语言问题,或者用户自己输入其他的自然语言问题,对话系统针对用户选择的或者输入的自然语言问题,输出对应的答案。
在本申请实施例中,通过根据业务场景构建查询语言模板,进一步获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言,进而通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题,最后对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合。采用上述方法,可以基于问题生成模型生成自然语言问题,并进一步通过同义转换生成大量同义的自然语言问题,解决了人工撰写时成本昂贵、撰写耗时高的问题,避免了依靠模板生成语料时语料数量少、多样性较弱的问题,保证了语料的多样性,提高了语料的生成速度。
请参见图4,图4是本申请实施例提供的数据处理方法的流程示意图。该方法可以由用户终端(例如,上述图1所示的用户终端)执行,也可以由用户终端和业务服务器(如上述图1所对应实施例中的业务服务器100)共同执行。为便于理解,本实施例以该方法由上述用户终端执行为例进行说明。其中,该数据处理方法至少可以包括以下步骤S201-步骤S205:
S201,获取初始问题生成模型,对初始问题生成模型进行训练,生成问题生成模型。
具体的,用户终端获取初始问题生成模型和初始业务表格数据,根据所述初始业务表格数据生成所述初始业务表格数据对应的初始查询语言,获取所述初始查询语言对应的初始自然语言问题集合,所述初始自然语言问题集合包括所述初始查询语言对应的至少两个语义相同、问法不同的自然语言问题;例如,所述初始自然语言问题集合中可以包括自然语言问题1:教英语学科且学历为本科的老师按所属区县统计,其数量排名前3的区县是哪些?自然语言问题2:告诉我拥有本科学历且教英语的老师人数最多的三个区县是什么?自然语言问题1和自然语言问题2是语义相同、问法不同的问题。
进一步的,根据所述初始查询语言和所述初始自然语言问题集合,对初始问题生成模型进行训练,生成问题生成模型。
初始问题生成模型的训练包括两种方式,第一种方式为将初始查询语言作为输入,根据模型的输出与初始自然语言问题集合生成问题生成模型,第二种方式为将初始自然语言问题集合中的自然语言问题分为两部分,将初始查询语言和初始自然语言问题集合中的第一部分作为输入,根据模型的输出与初始自然语言问题集合中的第二部分生成问题生成模型。
第一种训练方式的具体过程如下:
对所述初始查询语言进行向量转换生成初始查询语言对应的嵌入式表示;所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示,通过累加的方式将嵌入式表示合并在一起,通过初始问题生成模型中的编码器对所述合并的嵌入式表示进行编码,生成所述初始查询语言对应的查询语言词向量,进一步通过初始问题生成模型中的解码器对所述查询语言词向量进行解码,生成所述初始查询语言对应的预测自然语言问题,根据所述预测自然语言问题和初始自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型。在模型训练中强化了列嵌入式表示、数值嵌入式表示,初始问题生成模型通过学习词组的向量表示,可以将关键词信息更好地转化为相似的词组表达,例如,可以将关键词“教英语”转换为“教英文”、“英文老师”等,列嵌入式表示、数值嵌入式表示可以使这些关键词位置的token获得更高的学习权重,能更快更准确的捕捉到关键词的近义词,可以提高训练生成的问题生成模型,对语料生成的和准确率和速度。
上述根据所述预测自然语言问题和初始自然语言问题集合,生成问题生成模型的具体步骤如下:
根据所述预测自然语言问题和初始自然语言问题集合中的自然语言问题,构建损失函数,根据所述损失函数调整所述初始问题生成模型的模型参数,当调整后的初始问题生成模型满足收敛条件时,将包含调整后的模型参数的初始问题生成模型确定为问题生成模型。
第二种训练方式的具体过程如下:
请参见图5a,图5a是本申请实施例提供的一种模型训练方式的举例示意图。如图5a所示,对所述初始自然语言问题集合中的自然语言问题进行分类,生成第一自然语言问题集合和第二自然语言问题集合;所述第一自然语言问题集合包括至少一个自然语言问题,所述第二自然语言问题集合包括至少一个自然语言问题,所述第一自然语言问题集合与所述第二自然语言问题集合中的自然语言问题不相同,进一步的将所述初始查询语言与所述第一自然语言问题集合中的自然语言问题进行拼接生成拼接语句,对所述拼接语句进行向量转换生成拼接语句对应的嵌入式表示,所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示,通过累加的方式将嵌入式表示合并在一起,通过初始问题生成模型中的编码器对合并的嵌入式表示编码,生成所述拼接语句对应的拼接语句词向量,通过初始问题生成模型中的解码器对所述拼接语句词向量进行解码,生成所述查询语言对应的预测自然语言问题,根据所述预测自然语言问题和第二自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型。
采用初始查询语言与第一自然语言问题集合中的自然语言问题作为初始问题生成模型的输入对模型进行训练,可以捕捉到初始查询语言与自然语言问题之间的“查询语言-自然语言问题”关系图,“查询语言-自然语言问题”关系图中包括连接结构信息(Linking Structure)和问题结构信息(Question Structure),连接结构信息是初始查询语言与自然语言问题之间的关系,问题结构信息是自然语言问题自身的结构关系。请参见图5b,图5b是本申请实施例提供的一种查询语言与自然语言问题的关系的举例示意图。如图5b所示,若初始问题生成模型输入的初始查询语言为:[CLS]select所属区县,count(*)from业务表格where任教学科=英语and学历=本科group by所属区县order by count(*)desc limit 3[SEP],初始问题生成模型输入的自然语言问题为:教英语学科且学历为本科的老师按所属区县统计,其数量排名前3的区县是哪些?[SEP]。初始查询语言与自然语言问题进行拼接生成的拼接语句包括连接结构信息和问题结构信息两种信息,初始问题生成模型可以学习到初始查询语句和自然语言问题的连接结构信息,从而对关键词进行关联性学习,并对自然语言问题的问题结构信息进行学习,问题结构信息的是对自然语言问题本身各个词组的词性学习,词性包括动词(V)、名词(N)、连接词(C)、存在词(E)等,同时,初始问题生成模型可以学习到词性之间的依存关系,比如动词后接名词,名词和名词之间可以串联等。通过学习到初始查询语句和自然语言问题之间的连接结构信息和问题结构信息,可以提高训练生成的问题生成模型,对语料生成的和准确率和速度。
上述根据所述预测自然语言问题和第二自然语言问题集合,生成问题生成模型的具体步骤如下:
根据所述预测自然语言问题和第二自然语言问题集合中的自然语言问题,构建损失函数,根据所述损失函数调整所述初始问题生成模型的模型参数,当调整后的初始问题生成模型满足收敛条件时,将包含调整后的模型参数的初始问题生成模型确定为问题生成模型。
需要说明的是,针对采用第二种方式训练的问题生成模型,在使用问题生成模型生成自然语言问题时,若模型的输入只有查询语言,没有自然语言问题,可以将自然语言问题对应的输入进行置空处理。
S202,根据业务场景构建查询语言模板;
其中,本发明实施例的步骤S202参见图2所示实施例的步骤S101的具体描述,在此不进行赘述。
S203,获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言;所述待填充位置包括列维度和列值;
其中,本发明实施例的步骤S203参见图2所示实施例的步骤S102的具体描述,在此不进行赘述。
S204,通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题;
其中,本发明实施例的步骤S204参见图2所示实施例的步骤S103的具体描述,在此不进行赘述。
S205,对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合,所述同义转换包括同义词替换、疑问词改写、顺序变化、口语词汇增加;所述问题语料集合用于构建基于所述业务表格数据的对话系统。
其中,本发明实施例的步骤S205参见图2所示实施例的步骤S104的具体描述,在此不进行赘述。
在本申请实施例中,通过根据业务场景构建查询语言模板,进一步获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言,进而通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题,最后对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合。采用上述方法,可以基于问题生成模型生成自然语言问题,并进一步通过同义转换生成大量同义的自然语言问题,解决了人工撰写时成本昂贵、撰写耗时高的问题,避免了依靠模板生成语料时语料数量少、多样性较弱的问题,保证了语料的多样性,提高了语料的生成速度。
请参见图6,图6是本申请实施例提供的一种数据处理装置的结构示意图。所述数据处理装置可以是运行于计算机设备中的一个计算机程序(包括程序代码),例如该数据处理装置为一个应用软件;该装置可以用于执行本申请实施例提供的方法中的相应步骤。如图6所示,本申请实施例的所述数据处理装置1可以包括:模板获取单元11、查询语言生成单元12、问题生成单元13、同义转换单元14。
模板获取单元11,用于根据业务场景构建查询语言模板;
查询语言生成单元12,用于获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言;所述待填充位置包括列维度和列值;
问题生成单元13,用于通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题;
同义转换单元14,用于对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合,所述同义转换包括同义词替换、疑问词改写、顺序变化、口语词汇增加;所述问题语料集合用于构建基于所述业务表格数据的对话系统。
在一种可行的实施方式中,所述模板获取单元11用于:
获取业务场景对应的业务查询语言组件,所述业务查询语言组件包括select组件、where组件、group by组件、order by组件、limit组件;
基于所述业务查询语言组件生成查询语言模板。
在一种可行的实施方式中,所述查询语言生成单元12用于:
获取所述业务表格数据的列维度和所述列维度对应的数值;
根据所述列维度和所述列维度对应的数值补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言。
在一种可行的实施方式中,所述问题生成单元13用于:
对所述查询语言进行向量转换生成查询语言对应的嵌入式表示;所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示;
通过问题生成模型中的编码器对所述查询语言的嵌入式表示进行编码,生成所述查询语言对应的查询语言词向量;
通过问题生成模型中的解码器对所述查询语言词向量进行解码,生成所述查询语言对应的自然语言问题。
请参见图6,本申请实施例的所述数据处理装置1可以还包括:模型训练单元15。
模型训练单元15,用于获取初始问题生成模型和初始业务表格数据;
根据所述初始业务表格数据生成所述初始业务表格数据对应的初始查询语言,获取所述初始查询语言对应的初始自然语言问题集合,所述初始自然语言问题集合包括所述初始查询语言对应的至少两个语义相同、问法不同的自然语言问题;
根据所述初始查询语言和所述初始自然语言问题集合,对初始问题生成模型进行训练,生成问题生成模型。
在一种可行的实施方式中,所述模型训练单元15用于:
对所述初始查询语言进行向量转换生成初始查询语言对应的嵌入式表示;所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示;
通过初始问题生成模型中的编码器对所述初始查询语言的嵌入式表示进行编码,生成所述初始查询语言对应的查询语言词向量;
通过初始问题生成模型中的解码器对所述查询语言词向量进行解码,生成所述初始查询语言对应的预测自然语言问题;
根据所述预测自然语言问题和初始自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型。
在一种可行的实施方式中,所述模型训练单元15用于:
根据所述预测自然语言问题和初始自然语言问题集合中的自然语言问题,构建损失函数;
根据所述损失函数调整所述初始问题生成模型的模型参数;
当调整后的初始问题生成模型满足收敛条件时,将包含调整后的模型参数的初始问题生成模型确定为问题生成模型。
在一种可行的实施方式中,所述模型训练单元15用于:
对所述初始自然语言问题集合中的自然语言问题进行分类,生成第一自然语言问题集合和第二自然语言问题集合;所述第一自然语言问题集合包括至少一个自然语言问题,所述第二自然语言问题集合包括至少一个自然语言问题,所述第一自然语言问题集合与所述第二自然语言问题集合中的自然语言问题不相同;
将所述初始查询语言与所述第一自然语言问题集合中的自然语言问题进行拼接生成拼接语句;
对所述拼接语句进行向量转换生成拼接语句对应的嵌入式表示;所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示;
通过初始问题生成模型中的编码器对所述拼接语句对应的嵌入式表示编码,生成所述拼接语句对应的拼接语句词向量;
通过初始问题生成模型中的解码器对所述拼接语句词向量进行解码,生成所述查询语言对应的预测自然语言问题;
根据所述预测自然语言问题和第二自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型。
在一种可行的实施方式中,所述模型训练单元15用于:
根据所述预测自然语言问题和第二自然语言问题集合中的自然语言问题,构建损失函数;
根据所述损失函数调整所述初始问题生成模型的模型参数;
当调整后的初始问题生成模型满足收敛条件时,将包含调整后的模型参数的初始问题生成模型确定为问题生成模型。
在本申请实施例中,通过根据业务场景构建查询语言模板,进一步获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言,进而通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题,最后对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合。采用上述方法,可以基于问题生成模型生成自然语言问题,并进一步通过同义转换生成大量同义的自然语言问题,解决了人工撰写时成本昂贵、撰写耗时高的问题,避免了依靠模板生成语料时语料数量少、多样性较弱的问题,保证了语料的多样性,提高了语料的生成速度。
请参见图7,图7是本申请实施例提供的一种计算机设备的结构示意图。如图7所示,所述计算机设备1000可以包括:至少一个处理器1001,例如CPU,至少一个网络接口1004,用户接口1003,存储器1005,至少一个通信总线1002。其中,通信总线1002用于实现这些组件之间的连接通信。其中,用户接口1003可以包括显示屏(Display),可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是随机存取存储器(Random Access Memory,RAM),也可以是非易失性存储器(non-volatile memory,NVM),例如至少一个磁盘存储器。存储器1005可选的还可以是至少一个位于远离前述处理器1001的存储装置。如图7所示,作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及数据处理应用程序。
在图7所示的计算机设备1000中,网络接口1004可提供网络通讯功能,用户接口1003主要用于为用户提供输入的接口;而处理器1001可以用于调用存储器1005中存储的数据处理应用程序,以实现上述图2-图5b任一个所对应实施例中对所述数据处理方法的描述,在此不再赘述。
应当理解,本申请实施例中所描述的计算机设备1000可执行前文图2-图5b任一个所对应实施例中对所述数据处理方法的描述,也可执行前文图6所对应实施例中对所述数据处理装置的描述,在此不再赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。
此外,这里需要指出的是:本申请实施例还提供了一种计算机可读存储介质,且所述计算机可读存储介质中存储有前文提及的数据处理装置所执行的计算机程序,且所述计算机程序包括程序指令,当所述处理器执行所述程序指令时,能够执行前文图2-图5b任一个所对应实施例中对所述数据处理方法的描述,因此,这里将不再进行赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。对于本申请所涉及的计算机可读存储介质实施例中未披露的技术细节,请参照本申请方法实施例的描述。作为示例,程序指令可被部署为在一个计算设备上执行,或者在位于一个地点的多个计算设备上执行,又或者,在分布在多个地点且通过通信网络互连的多个计算设备上执行,分布在多个地点且通过通信网络互连的多个计算设备可以组成区块链系统。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,上述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,上述计算机可读存储介质可以是前述任一实施例提供的一种数据处理装置或者上述设备的内部存储单元,例如电子设备的硬盘或内存。该计算机可读存储介质也可以是该电子设备的外部存储设备,例如该电子设备上配备的插接式硬盘,智能存储卡(smart media card,SMC),安全数字(securedigital,SD)卡,闪存卡(flash card)等。上述计算机可读存储介质还可以包括磁碟、光盘、只读存储记忆体(read-only memory,ROM)或随机存储记忆体等。进一步地,该计算机可读存储介质还可以既包括该电子设备的内部存储单元也包括外部存储设备。该计算机可读存储介质用于存储该计算机程序以及该电子设备所需的其它程序和数量。该计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。
本发明的权利要求书和说明书及附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本发明的至少一个实施例中。在说明书中的各个位置展示该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以是两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
以上所揭露的仅为本申请较佳实施例而已,当然不能以此来限定本申请之权利范围,因此依本申请权利要求所作的等同变化,仍属本申请所涵盖的范围。
Claims (13)
1.一种数据处理方法,其特征在于,包括:
根据业务场景构建查询语言模板;
获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言;所述待填充位置包括列维度和列值;
通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题;
对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合,所述同义转换包括同义词替换、疑问词改写、顺序变化、口语词汇增加;所述问题语料集合用于构建基于所述业务表格数据的对话系统。
2.根据权利要求1所述的方法,其特征在于,所述根据业务场景构建查询语言模板,包括:
获取业务场景对应的业务查询语言组件,所述业务查询语言组件包括select组件、where组件、group by组件、order by组件、limit组件;
基于所述业务查询语言组件生成查询语言模板。
3.根据权利要求1所述的方法,其特征在于,所述获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言,包括:
获取所述业务表格数据的列维度和所述列维度对应的数值;
根据所述列维度和所述列维度对应的数值补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言。
4.根据权利要求1所述的方法,其特征在于,所述通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题,包括:
对所述查询语言进行向量转换生成查询语言对应的嵌入式表示;所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示;
通过问题生成模型中的编码器对所述查询语言的嵌入式表示进行编码,生成所述查询语言对应的查询语言词向量;
通过问题生成模型中的解码器对所述查询语言词向量进行解码,生成所述查询语言对应的自然语言问题。
5.根据权利要求1所述的方法,其特征在于,还包括:
获取初始问题生成模型和初始业务表格数据;
根据所述初始业务表格数据生成所述初始业务表格数据对应的初始查询语言,获取所述初始查询语言对应的初始自然语言问题集合,所述初始自然语言问题集合包括所述初始查询语言对应的至少两个语义相同、问法不同的自然语言问题;
根据所述初始查询语言和所述初始自然语言问题集合,对初始问题生成模型进行训练,生成问题生成模型。
6.根据权利要求5所述的方法,其特征在于,所述根据所述初始查询语言和所述初始自然语言问题集合,对初始问题生成模型进行训练,生成问题生成模型,包括:
对所述初始查询语言进行向量转换生成初始查询语言对应的嵌入式表示;所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示;
通过初始问题生成模型中的编码器对所述初始查询语言的嵌入式表示进行编码,生成所述初始查询语言对应的查询语言词向量;
通过初始问题生成模型中的解码器对所述查询语言词向量进行解码,生成所述初始查询语言对应的预测自然语言问题;
根据所述预测自然语言问题和初始自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型。
7.根据权利要求6所述的方法,其特征在于,所述根据所述预测自然语言问题和初始自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型,包括:
根据所述预测自然语言问题和初始自然语言问题集合中的自然语言问题,构建损失函数;
根据所述损失函数调整所述初始问题生成模型的模型参数;
当调整后的初始问题生成模型满足收敛条件时,将包含调整后的模型参数的初始问题生成模型确定为问题生成模型。
8.根据权利要求5所述的方法,其特征在于,所述根据所述查询语言和所述初始自然语言问题集合,对初始问题生成模型进行训练,生成问题生成模型,包括:
对所述初始自然语言问题集合中的自然语言问题进行分类,生成第一自然语言问题集合和第二自然语言问题集合;所述第一自然语言问题集合包括至少一个自然语言问题,所述第二自然语言问题集合包括至少一个自然语言问题,所述第一自然语言问题集合与所述第二自然语言问题集合中的自然语言问题不相同;
将所述初始查询语言与所述第一自然语言问题集合中的自然语言问题进行拼接生成拼接语句;
对所述拼接语句进行向量转换生成拼接语句对应的嵌入式表示;所述嵌入式表示包括标识嵌入式表示、位置嵌入式表示、分句嵌入式表示、列嵌入式表示、数值嵌入式表示;
通过初始问题生成模型中的编码器对所述拼接语句对应的嵌入式表示编码,生成所述拼接语句对应的拼接语句词向量;
通过初始问题生成模型中的解码器对所述拼接语句词向量进行解码,生成所述查询语言对应的预测自然语言问题;
根据所述预测自然语言问题和第二自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型。
9.根据权利要求8所述的方法,其特征在于,所述根据所述预测自然语言问题和第二自然语言问题集合,对所述初始问题生成模型进行训练,生成问题生成模型,包括:
根据所述预测自然语言问题和第二自然语言问题集合中的自然语言问题,构建损失函数;
根据所述损失函数调整所述初始问题生成模型的模型参数;
当调整后的初始问题生成模型满足收敛条件时,将包含调整后的模型参数的初始问题生成模型确定为问题生成模型。
10.一种数据处理装置,其特征在于,包括:
模板获取单元,用于根据业务场景构建查询语言模板;
查询语言生成单元,用于获取业务场景对应的业务表格数据,根据所述业务表格数据补全所述查询语言模板的待填充位置,以生成所述业务表格数据对应的查询语言;所述待填充位置包括列维度和列值;
问题生成单元,用于通过问题生成模型对所述查询语言对应的嵌入式表示进行联合编码,生成所述查询语言对应的自然语言问题;
同义转换单元,用于对所述自然语言问题进行同义转换,生成所述自然语言问题对应的多个同义语句,将所述自然语言问题和所述多个同义语句确定为所述业务表格数据的问题语料集合,所述同义转换包括同义词替换、疑问词改写、顺序变化、口语词汇增加;所述问题语料集合用于构建基于所述业务表格数据的对话系统。
11.一种计算机设备,其特征在于,包括:处理器、存储器以及网络接口;
所述处理器与所述存储器、所述网络接口相连,其中,所述网络接口用于提供网络通信功能,所述存储器用于存储程序代码,所述处理器用于调用所述程序代码,以执行权利要求1-9任一项所述的方法。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机程序,该计算机程序适于由处理器加载并执行权利要求1-9任一项所述的方法。
13.一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中,计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,以执行权利要求1-9任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111444119.4A CN114297220A (zh) | 2021-11-30 | 2021-11-30 | 一种数据处理方法、装置、计算机设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111444119.4A CN114297220A (zh) | 2021-11-30 | 2021-11-30 | 一种数据处理方法、装置、计算机设备以及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114297220A true CN114297220A (zh) | 2022-04-08 |
Family
ID=80965403
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111444119.4A Pending CN114297220A (zh) | 2021-11-30 | 2021-11-30 | 一种数据处理方法、装置、计算机设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114297220A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114637765A (zh) * | 2022-04-26 | 2022-06-17 | 阿里巴巴达摩院(杭州)科技有限公司 | 基于表格数据的人机交互方法、装置及设备 |
CN117076660A (zh) * | 2023-10-16 | 2023-11-17 | 浙江同花顺智能科技有限公司 | 一种信息推荐方法、装置、设备及存储介质 |
-
2021
- 2021-11-30 CN CN202111444119.4A patent/CN114297220A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114637765A (zh) * | 2022-04-26 | 2022-06-17 | 阿里巴巴达摩院(杭州)科技有限公司 | 基于表格数据的人机交互方法、装置及设备 |
CN117076660A (zh) * | 2023-10-16 | 2023-11-17 | 浙江同花顺智能科技有限公司 | 一种信息推荐方法、装置、设备及存储介质 |
CN117076660B (zh) * | 2023-10-16 | 2024-01-26 | 浙江同花顺智能科技有限公司 | 一种信息推荐方法、装置、设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111651557B (zh) | 一种自动化文本生成方法、装置及计算机可读存储介质 | |
CN112528637B (zh) | 文本处理模型训练方法、装置、计算机设备和存储介质 | |
CN110705284B (zh) | 基于神经网络生成模型的诗词生成质量的优化方法及系统 | |
JP2023539532A (ja) | テキスト分類モデルのトレーニング方法、テキスト分類方法、装置、機器、記憶媒体及びコンピュータプログラム | |
CN110147435B (zh) | 对话生成方法、装置、设备及存储介质 | |
CN113672708A (zh) | 语言模型训练方法、问答对生成方法、装置及设备 | |
CN116820429A (zh) | 代码处理模型的训练方法、装置、电子设备及存储介质 | |
CN110399454B (zh) | 一种基于变压器模型和多参照系的文本编码表示方法 | |
CN114297220A (zh) | 一种数据处理方法、装置、计算机设备以及存储介质 | |
CN112668346B (zh) | 翻译方法、装置、设备及存储介质 | |
CN112100332A (zh) | 词嵌入表示学习方法及装置、文本召回方法及装置 | |
CN114860915A (zh) | 一种模型提示学习方法、装置、电子设备及存储介质 | |
CN114048301B (zh) | 一种基于满意度的用户模拟方法及系统 | |
CN113326367B (zh) | 基于端到端文本生成的任务型对话方法和系统 | |
CN113421551B (zh) | 语音识别方法、装置、计算机可读介质及电子设备 | |
CN116541493A (zh) | 基于意图识别的交互应答方法、装置、设备、存储介质 | |
CN114282528A (zh) | 一种关键词提取方法、装置、设备及存储介质 | |
CN114492661B (zh) | 文本数据分类方法和装置、计算机设备、存储介质 | |
CN112800177A (zh) | 基于复杂数据类型的faq知识库自动生成方法和装置 | |
CN115115984A (zh) | 视频数据处理方法、装置、程序产品、计算机设备和介质 | |
CN113742541A (zh) | 对话方法、装置、电子设备及计算机可读存储介质 | |
CN111475635A (zh) | 语义补全方法、装置和电子设备 | |
CN116913278B (zh) | 语音处理方法、装置、设备和存储介质 | |
CN112132075A (zh) | 图文内容处理方法及介质 | |
CN114625759B (zh) | 模型训练方法、智能问答方法、设备、介质及程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |