CN116541417A - 批量数据处理方法、装置、计算机设备及存储介质 - Google Patents

Abstract

本申请实施例属于数据运维技术领域，涉及一种批量数据处理方法，包括：获取数据处理配置信息，所述数据处理配置信息基于页面录入或语音识别得到，所述数据处理配置信息包括处理类型、处理对象和筛选条件；获取与所述数据处理配置信息相对应的SQL语句模板；根据所述数据处理配置信息填充所述SQL语句模板，得到SQL语句；执行所述SQL语句，以对所述SQL语句所针对的批量数据进行数据处理，得到数据处理结果。本申请还提供一种批量数据处理装置、计算机设备及存储介质。本申请提高了批量数据处理效率。

Description

批量数据处理方法、装置、计算机设备及存储介质

技术领域

本申请涉及数据运维技术领域，尤其涉及一种批量数据处理方法、装置、计算机设备及存储介质。

背景技术

各种业务系统在运行、测试和维护过程中，经常需要对数据库或者数据表中的批量数据进行处理，例如进行数据补充、修改、伪造、检查等操作。为了数据安全，通常并不会直接对批量数据进行改动，而是通过SQL(Structured QueryLanguage，结构化查询语言)语句操作批量数据来实现。然而，SQL语句需要编写得到，开发人员需要预先经过必要的技术知识培训；并且，当需要进行处理的批量数据较多时，需要逐一编写SQL语句；这些都会降低批量数据的处理效率。

发明内容

本申请实施例的目的在于提出一种批量数据处理方法、装置、计算机设备及存储介质，以解决批量数据处理效率较低的问题。

为了解决上述技术问题，本申请实施例提供一种批量数据处理方法，采用了如下所述的技术方案：

获取数据处理配置信息，所述数据处理配置信息基于页面录入或语音识别得到，所述数据处理配置信息包括处理类型、处理对象和筛选条件；

获取与所述数据处理配置信息相对应的SQL语句模板；

根据所述数据处理配置信息填充所述SQL语句模板，得到SQL语句；

执行所述SQL语句，以对所述SQL语句所针对的批量数据进行数据处理，得到数据处理结果。

进一步的，所述获取数据处理配置信息的步骤包括：

当接收到终端发送的数据处理配置指令时，通过所述终端展示数据处理配置页面；

通过所述终端获取在所述数据处理配置页面中的点击或输入操作，得到数据处理配置信息。

进一步的，所述通过所述终端获取在所述数据处理配置页面中的点击或输入操作，得到数据处理配置信息的步骤包括：

通过所述终端获取录入的数据源访问信息；

根据所述数据源访问信息进行数据库查询，得到查询结果；

通过所述终端展示所述查询结果，并通过所述终端获取在所述数据处理配置页面中针对所述查询结果的点击或输入操作，得到数据处理配置信息。

进一步的，所述获取数据处理配置信息的步骤包括：

当接收到终端发送的数据处理配置指令时，通过所述终端进行语音录入提示；

通过所述终端接收数据处理配置语音；

对所述数据处理配置语音进行语音识别，得到数据处理配置文本；

将所述数据处理配置文本输入意图识别模型，得到数据处理配置信息。

进一步的，在所述获取数据处理配置信息的步骤之后，还包括：

对所述数据处理配置信息进行合法性检测，得到检测结果；

当根据所述检测结果确定所述数据处理配置信息为合法信息时，执行所述获取与所述数据处理配置信息相对应的SQL语句模板的步骤。

进一步的，所述获取与所述数据处理配置信息相对应的SQL语句模板的步骤包括：

获取与所述数据处理配置信息中的处理类型相对应的多个候选SQL语句模板；

根据所述数据处理配置信息中的处理对象和筛选条件生成处理逻辑信息；

根据所述处理逻辑信息，在所述多个候选SQL语句模板中确定SQL语句模板。

进一步的，所述根据所述数据处理配置信息填充所述SQL语句模板，得到SQL语句的步骤包括：

获取所述SQL语句模板中的待填充区域及其对应的区域属性信息；

根据所述处理逻辑信息和所述区域属性信息，确定所述处理对象和所述筛选条件分别对应的待填充区域；

将所述处理对象和所述筛选条件分别填充至对应的待填充区域，得到SQL语句。

为了解决上述技术问题，本申请实施例还提供一种批量数据处理装置，采用了如下所述的技术方案：

配置获取模块，用于获取数据处理配置信息，所述数据处理配置信息基于页面录入或语音识别得到，所述数据处理配置信息包括处理类型、处理对象和筛选条件；

模板获取模块，用于获取与所述数据处理配置信息相对应的SQL语句模板；

模板填充模块，用于根据所述数据处理配置信息填充所述SQL语句模板，得到SQL语句；

数据处理模块，用于执行所述SQL语句，以对所述SQL语句所针对的批量数据进行数据处理，得到数据处理结果。

为了解决上述技术问题，本申请实施例还提供一种计算机设备，所述计算机设备包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如上所述的批量数据处理方法的步骤。

为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如上所述的批量数据处理方法的步骤。

与现有技术相比，本申请实施例主要有以下有益效果：获取数据处理配置信息，它基于页面录入或语音识别等低代码方式得到，提高了数据处理配置信息的生成效率；数据处理配置信息包括处理类型、处理对象和筛选条件，处理类型定义了需要对批量数据做什么样的处理；处理对象是指被处理的对象，用于确定批量数据；筛选条件用于找到需要处理的批量数据；获取与数据处理配置信息相对应的SQL语句模板，SQL语句模板是SQL语句的模板，已经包含了数据处理的逻辑；根据数据处理配置信息填充SQL语句模板，实现自动生成SQL语句，提高了SQL语句的生成效率；根据SQL语句获取批量数据并进行数据处理，进一步提高了对批量数据的处理效率。

附图说明

为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请可以应用于其中的示例性系统架构图；

图2是根据本申请的批量数据处理方法的一个实施例的流程图；

图3是根据本申请的批量数据处理装置的一个实施例的结构示意图；

图4是根据本申请的计算机设备的一个实施例的结构示意图。

具体实施方式

除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture ExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。

需要说明的是，本申请实施例所提供的批量数据处理方法一般由服务器执行，相应地，批量数据处理装置一般设置于服务器中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本申请的批量数据处理方法的一个实施例的流程图。所述的批量数据处理方法，包括以下步骤：

步骤S201，获取数据处理配置信息，数据处理配置信息基于页面录入或语音识别得到，数据处理配置信息包括处理类型、处理对象和筛选条件。

在本实施例中，批量数据处理方法运行于其上的电子设备(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式与终端设备进行通信。需要指出的是，上述无线连接方式可以包括但不限于3G/4G/5G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。

具体地，服务器获取数据处理配置信息，数据处理配置信息规定了对哪些批量数据进行处理，以及对批量数据做何种处理。数据处理配置信息可以由开发人员通过页面录入，或者采集开发人员的语音并进行语音识别得到；即，开发人员可以通过无代码或低代码的方式，快速录入数据处理配置信息。

数据处理配置信息包括处理类型、处理对象和筛选条件。处理类型是指对批量数据做什么样的处理，包括数据的增加、修改、伪造、排查、补充等。处理对象包括数据表名、字段名等，这里的数据表名和字段名，可以包括处理前已有的数据表名和字段名，也可以包括处理后出现的数据表名和字段名。批量数据可以是数据库/数据表中的部分数据，可以仅对数据库/数据表中的部分数据进行处理，筛选条件用于找到这些需要处理的批量数据。

步骤S202，获取与数据处理配置信息相对应的SQL语句模板。

具体地，SQL语句模板是SQL语句的模板，它缺少运行时所需的信息。本申请可以预先设置多种候选SQL语句模板，需要根据数据处理配置信息中的处理类型、处理对象和筛选条件，找到合适的SQL语句模板。

步骤S203，根据数据处理配置信息填充SQL语句模板，得到SQL语句。

具体地，服务器将数据处理配置信息中的处理类型、处理对象和筛选条件填入SQL语句模板中的对应位置，得到具有实际执行意义的SQL语句，实现SQL语句的自动生成，而无需人工编写SQL语句，提高了SQL语句的生成效率。

步骤S204，执行SQL语句，以对SQL语句所针对的批量数据进行数据处理，得到数据处理结果。

具体地，服务器执行SQL语句，获取SQL语句所对应的批量数据，并根据SQL语句的处理逻辑对批量数据进行数据处理，得到数据处理结果。数据处理结果可以通过终端展示给开发人员。

本实施例中，获取数据处理配置信息，它基于页面录入或语音识别等低代码方式得到，提高了数据处理配置信息的生成效率；数据处理配置信息包括处理类型、处理对象和筛选条件，处理类型定义了需要对批量数据做什么样的处理；处理对象是指被处理的对象，用于确定批量数据；筛选条件用于找到需要处理的批量数据；获取与数据处理配置信息相对应的SQL语句模板，SQL语句模板是SQL语句的模板，已经包含了数据处理的逻辑；根据数据处理配置信息填充SQL语句模板，实现自动生成SQL语句，提高了SQL语句的生成效率；根据SQL语句获取批量数据并进行数据处理，进一步提高了对批量数据的处理效率。

进一步的，在一个实施例中，上述获取数据处理配置信息的步骤可以包括：当接收到终端发送的数据处理配置指令时，通过终端展示数据处理配置页面；通过终端获取在数据处理配置页面中的点击或输入操作，得到数据处理配置信息。

具体地，开发人员可以操作终端触发数据处理配置指令，并由终端将其发送至服务器。服务器根据接收到的数据处理配置指令，指示终端展示数据处理配置页面。

开发人员可以在数据处理配置页面中通过文本框输入、点击操作、拖拉拽等方式录入信息，无需编写代码，可以快速根据需求录入数据处理配置信息。

进一步的，上述通过终端获取在数据处理配置页面中的点击或输入操作，得到数据处理配置信息的步骤可以包括：通过终端获取录入的数据源访问信息；根据数据源访问信息进行数据库查询，得到查询结果；通过终端展示查询结果，并通过终端获取在数据处理配置页面中针对查询结果的点击或输入操作，得到数据处理配置信息。

具体地，开发人员可以操作终端录入数据源访问信息，数据源访问信息用于访问数据源，数据源可以是数据库，数据源访问信息至少包括数据源的URL、访问数据源所需账号的用户名以及密码；数据源访问信息还可以包括数据源中想要访问的数据表、数据表中的页、特定字段等。

服务器获取数据源访问信息，根据数据源访问信息访问、查询数据库，得到查询结果，并通过终端展示该查询结果。开发人员可以查看查询结果，根据对查询结果的处理需求在数据处理配置页面中进行点击或输入操作，生成数据处理配置信息。

本申请中可以使用SpringBoot和Hibernate的框架，其中，SpringBoot是一种基于spring的框架，旨在简化spring应用的初始搭建和开发过程。本申请可以基于SpringBoot实现。Hibernate是一种基于ORM技术的Java持久化框架，它是一个用来连接和操作数据库的Java框架。开发人员可以启动jar包以打开数据运维工具，操作数据运维工具实现本申请各实施例中的批量数据处理方法。

本申请还可以通过SpringBoot中的application.yml文件中对多数据源进行配置(多数据源表示多个数据库连接)，调用接口时可指定某个数据库进行查询，开发人员在页面上输入数据库的信息(如：数据库的URL/jdbcurl，用户名username，密码password)，输入后通过jdbc连接到数据库，进行数据查询。

本实施例中，获取数据源访问信息；根据数据源访问信息进行数据库查询，得到查询结果；通过终端展示查询结果，获取开发人员根据查询结果在数据处理配置页面中进行的点击或输入操作，得到数据处理配置信息，可以针对性生成数据处理配置信息。

本实施例中，根据数据处理配置页面中的点击或输入操作，生成数据处理配置信息，简化了数据处理配置信息的录入方式，提高了数据处理配置信息的录入效率。

进一步的，在另一个实施例中，上述获取数据处理配置信息的步骤可以包括：当接收到终端发送的数据处理配置指令时，通过终端进行语音录入提示；通过终端接收数据处理配置语音；对数据处理配置语音进行语音识别，得到数据处理配置文本；将数据处理配置文本输入意图识别模型，得到数据处理配置信息。

具体地，当服务器接收到终端发送的数据处理配置指令时，还可以通过终端进行语音录入提示，以指示用户以语音的方式表述批量数据处理需求，终端进行语音采集得到数据处理配置语音并发送至服务器。

服务器对数据处理配置语音进行语音识别，将其转化为文本，得到数据处理配置文本；然后将数据处理配置文本输入意图识别模型，意图识别模型可以根据人工智能模型和/或规则库构建，可以对数据处理配置文本进行自然语言处理，识别其中的关键性信息并获取到开发人员的意图，并根据识别结果自动生成数据处理配置信息。

本实施例中，获取数据处理配置语音，对其进行语音识别得到数据处理配置文本；将数据处理配置文本输入意图识别模型进行意图识别，自动生成数据处理配置信息，以另一种方式简化了数据处理配置信息的录入，提高了数据处理配置信息的录入效率。

进一步的，在上述获取数据处理配置信息的步骤之后，还可以包括：对数据处理配置信息进行合法性检测，得到检测结果；当根据检测结果确定数据处理配置信息为合法信息时，执行获取与数据处理配置信息相对应的SQL语句模板的步骤。

具体地，服务器在获取到数据处理配置信息后，还需要对其进行合法性检测，得到检测结果。其中，合法性检测是检测数据处理配置信息是否符合预设规则，例如，检测某字段修改后的值是否合法/符合预设的取值范围；修改后的数据表名、字段名是否符合命名要求、是否出现重复等；需要处理的数据表和字段是否真实存在等。

当数据处理配置信息通过合法性检测时，检测结果会显示数据处理配置信息为合法信息，此时获取与数据处理配置信息相对应的SQL语句模板。当数据处理配置信息未通过合法性检测时，检测结果会显示数据处理配置信息为非法信息，并显示数据处理配置信息中哪些地方是非法的，从而指示对数据处理配置信息进行更正。

本实施例中，对数据处理配置信息进行合法性检测，得到检测结果；当检测结果确定数据处理配置信息为合法信息时，表明数据处理配置信息没有错误，获取与数据处理配置信息相对应的SQL语句模板，确保了批量数据处理的准确性。

进一步的，上述步骤S202可以包括：获取与数据处理配置信息中的处理类型相对应的多个候选SQL语句模板；根据数据处理配置信息中的处理对象和筛选条件生成处理逻辑信息；根据处理逻辑信息，在多个候选SQL语句模板中确定SQL语句模板。

具体地，本申请具有多种处理类型，例如前文提到的增加、修改、伪造、排查、补充等。不同处理类型使用的候选SQL语句模板不同，因为候选SQL语句模板中的关键性动词不同。

首先，获取与数据处理配置信息中处理类型相对应的多个候选SQL语句模板，即某一种处理类型下可以具有多个候选SQL语句模板。

处理对象可以是数据表名，也可以是字段名；它可以是处理前的数据表名/字段名，也可以是处理后的数据表名/字段名，例如，需要将数据表user表中，username字段为test的修改为test01，数据表名user、字段名username、test、test01都可以是处理对象，username＝‘test’可以作为筛选条件，用于找到相应的处理对象。处理对象和筛选条件可以确定对批量数据的处理逻辑，根据处理对象和筛选条件确定的处理逻辑信息(可以理解为，处理逻辑信息表示了批量数据处理中需要做什么)，可以在多个候选SQL语句模板中确定具有相同或相近处理逻辑的SQL语句模板。

SQL语句模板可以是从多个候选SQL语句模板中直接确定的，也可以是对某个候选SQL语句模板进行调整得到的。例如，现有一个候选SQL语句模板是将两种字段的值插入一个数据表，而根据处理逻辑信息是要将四种字段的值插入一个数据表，两种插入的逻辑都是一样或者说相近的，可以将候选SQL语句模板进行调整，使其能够实现四种字段的值的插入。

本实施例中，获取与处理类型相对应的多个候选SQL语句模板；根据处理对象和筛选条件生成处理逻辑信息，它是对批量数据的处理逻辑，根据处理逻辑信息，可以在多个候选SQL语句模板中自动确定SQL语句模板，提高了SQL语句模板的获取效率。

进一步的，上述步骤S203可以包括：获取SQL语句模板中的待填充区域及其对应的区域属性信息；根据处理逻辑信息和区域属性信息，确定处理对象和筛选条件分别对应的待填充区域；将处理对象和筛选条件分别填充至对应的待填充区域，得到SQL语句。

具体地，SQL语句模板中具有待填充区域，每个待填充区域具有对应的区域属性信息，待填充区域是需要填充数据的地方，区域属性信息用于对待填充区域的属性和作用进行说明。

根据处理逻辑信息和区域属性信息，可以自动确定处理对象和筛选条件所对应的待填充区域。然后，将处理对象和筛选条件分别填充至对应的待填充区域，得到具有实际执行意义的SQL语句。

例如，现需要将user表中，username字段为test的修改为test01，test是修改前的值，test01是修改后的值；根据区域属性信息，待填充区域A需要填写修改处理中修改前的字段值，待填充区域B需要填写修改处理中修改后的字段值，则可以将test填入待填充区域A，将test01填入待填充区域B，得到可执行的SQL语句update user set username＝‘test01’where username＝‘test’。

本申请中，还可以直接根据excel等数据表生成SQL语句。将excel表或者excel表的表名作为处理对象上传到服务器，服务端通过解析excel表中的内容，根据处理类型将excel表中的内容转换为SQL语句。例如，数据表名为user_insert.xls，数据表中第一行是字段名，且分别为username,password,sex,往下每一行为具体的值，处理类型是插入操作，需要将该数据表中的数据插入到另一个数据表中，可生成为如下形式的SQL语句:INSERTINTO user(username,password,sex)value(‘xxx’,’xxx’,’xxx’)。

本实施例中，获取SQL语句模板中的待填充区域及其对应的区域属性信息，区域属性信息对待填充区域的属性和作用进行说明；根据处理逻辑信息和区域属性信息，可以确定处理对象和筛选条件分别对应的待填充区域，进而可以完成模板填充，得到具有实际意义的SQL语句，提高了SQL语句的生成效率。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。

应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

进一步参考图3，作为对上述图2所示方法的实现，本申请提供了一种批量数据处理装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图3所示，本实施例所述的批量数据处理装置300包括：配置获取模块301、模板获取模块302、模板填充模块303以及数据处理模块304，其中：

配置获取模块301，用于获取数据处理配置信息，数据处理配置信息基于页面录入或语音识别得到，数据处理配置信息包括处理类型、处理对象和筛选条件。

模板获取模块302，用于获取与数据处理配置信息相对应的SQL语句模板。

模板填充模块303，用于根据数据处理配置信息填充SQL语句模板，得到SQL语句。

数据处理模块304，用于执行SQL语句，以对SQL语句所针对的批量数据进行数据处理，得到数据处理结果。

本实施例中，获取数据处理配置信息，它基于页面录入或语音识别等低代码方式得到，提高了数据处理配置信息的生成效率；数据处理配置信息包括处理类型、处理对象和筛选条件，处理类型定义了需要对批量数据做什么样的处理；处理对象是指被处理的对象，用于确定批量数据；筛选条件用于找到需要处理的批量数据；获取与数据处理配置信息相对应的SQL语句模板，SQL语句模板是SQL语句的模板，已经包含了数据处理的逻辑；根据数据处理配置信息填充SQL语句模板，实现自动生成SQL语句，提高了SQL语句的生成效率；根据SQL语句获取批量数据并进行数据处理，进一步提高了对批量数据的处理效率。

在本实施例的一些可选的实现方式中，配置获取模块301可以包括：页面展示子模块以及配置获取子模块，其中：

页面展示子模块，用于当接收到终端发送的数据处理配置指令时，通过终端展示数据处理配置页面。

配置获取子模块，用于通过终端获取在数据处理配置页面中的点击或输入操作，得到数据处理配置信息。

本实施例中，根据数据处理配置页面中的点击或输入操作，生成数据处理配置信息，简化了数据处理配置信息的录入方式，提高了数据处理配置信息的录入效率。

在本实施例的一些可选的实现方式中，配置获取子模块可以包括：访问获取单元、数据库查询单元以及配置获取单元，其中：

访问获取单元，用于通过终端获取录入的数据源访问信息。

数据库查询单元，用于根据数据源访问信息进行数据库查询，得到查询结果。

配置获取单元，用于通过终端展示查询结果，并通过终端获取在数据处理配置页面中针对查询结果的点击或输入操作，得到数据处理配置信息。

本实施例中，获取数据源访问信息；根据数据源访问信息进行数据库查询，得到查询结果；通过终端展示查询结果，获取开发人员根据查询结果在数据处理配置页面中进行的点击或输入操作，得到数据处理配置信息，可以针对性生成数据处理配置信息。

在本实施例的一些可选的实现方式中，配置获取模块301还可以包括：语音提示子模块、语音接收子模块、语音识别子模块以及意图识别子模块，其中：

语音提示子模块，用于当接收到终端发送的数据处理配置指令时，通过终端进行语音录入提示。

语音接收子模块，用于通过终端接收数据处理配置语音。

语音识别子模块，用于对数据处理配置语音进行语音识别，得到数据处理配置文本。

意图识别子模块，用于将数据处理配置文本输入意图识别模型，得到数据处理配置信息。

本实施例中，获取数据处理配置语音，对其进行语音识别得到数据处理配置文本；将数据处理配置文本输入意图识别模型进行意图识别，自动生成数据处理配置信息，以另一种方式简化了数据处理配置信息的录入，提高了数据处理配置信息的录入效率。

在本实施例的一些可选的实现方式中，批量数据处理装置300可以包括配置检测模块，其中：

配置检测模块，用于对数据处理配置信息进行合法性检测，得到检测结果。

所述模板获取模块302还用于当根据检测结果确定数据处理配置信息为合法信息时，获取与数据处理配置信息相对应的SQL语句模板。

本实施例中，对数据处理配置信息进行合法性检测，得到检测结果；当检测结果确定数据处理配置信息为合法信息时，表明数据处理配置信息没有错误，获取与数据处理配置信息相对应的SQL语句模板，确保了批量数据处理的准确性。

在本实施例的一些可选的实现方式中，模板获取模块302可以包括：模板获取子模块、逻辑生成子模块以及模板确定子模块，其中：

模板获取子模块，用于获取与数据处理配置信息中的处理类型相对应的多个候选SQL语句模板。

逻辑生成子模块，用于根据数据处理配置信息中的处理对象和筛选条件生成处理逻辑信息。

模板确定子模块，用于根据处理逻辑信息，在多个候选SQL语句模板中确定SQL语句模板。

本实施例中，获取与处理类型相对应的多个候选SQL语句模板；根据处理对象和筛选条件生成处理逻辑信息，它是对批量数据的处理逻辑，根据处理逻辑信息，可以在多个候选SQL语句模板中自动确定SQL语句模板，提高了SQL语句模板的获取效率。

在本实施例的一些可选的实现方式中，模板填充模块303可以包括：区域获取子模块、区域确定子模块以及区域填充子模块，其中：

区域获取子模块，用于获取SQL语句模板中的待填充区域及其对应的区域属性信息。

区域确定子模块，用于根据处理逻辑信息和区域属性信息，确定处理对象和筛选条件分别对应的待填充区域。

区域填充子模块，用于将处理对象和筛选条件分别填充至对应的待填充区域，得到SQL语句。

本实施例中，获取SQL语句模板中的待填充区域及其对应的区域属性信息，区域属性信息对待填充区域的属性和作用进行说明；根据处理逻辑信息和区域属性信息，可以确定处理对象和筛选条件分别对应的待填充区域，进而可以完成模板填充，得到具有实际意义的SQL语句，提高了SQL语句的生成效率。

为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图4，图4为本实施例计算机设备基本结构框图。

所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是，图中仅示出了具有组件41-43的计算机设备4，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable GateArray，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。

所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。

所述存储器41至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器41可以是所述计算机设备4的内部存储单元，例如该计算机设备4的硬盘或内存。在另一些实施例中，所述存储器41也可以是所述计算机设备4的外部存储设备，例如该计算机设备4上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(FlashCard)等。当然，所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中，所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件，例如批量数据处理方法的计算机可读指令等。此外，所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。

所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中，所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据，例如运行所述批量数据处理方法的计算机可读指令。

所述网络接口43可包括无线网络接口或有线网络接口，该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。

本实施例中提供的计算机设备可以执行上述批量数据处理方法。此处批量数据处理方法可以是上述各个实施例的批量数据处理方法。

本实施例中，获取数据处理配置信息，它基于页面录入或语音识别等低代码方式得到，提高了数据处理配置信息的生成效率；数据处理配置信息包括处理类型、处理对象和筛选条件，处理类型定义了需要对批量数据做什么样的处理；处理对象是指被处理的对象，用于确定批量数据；筛选条件用于找到需要处理的批量数据；获取与数据处理配置信息相对应的SQL语句模板，SQL语句模板是SQL语句的模板，已经包含了数据处理的逻辑；根据数据处理配置信息填充SQL语句模板，实现自动生成SQL语句，提高了SQL语句的生成效率；根据SQL语句获取批量数据并进行数据处理，进一步提高了对批量数据的处理效率。

本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的批量数据处理方法的步骤。

本实施例中，获取数据处理配置信息，它基于页面录入或语音识别等低代码方式得到，提高了数据处理配置信息的生成效率；数据处理配置信息包括处理类型、处理对象和筛选条件，处理类型定义了需要对批量数据做什么样的处理；处理对象是指被处理的对象，用于确定批量数据；筛选条件用于找到需要处理的批量数据；获取与数据处理配置信息相对应的SQL语句模板，SQL语句模板是SQL语句的模板，已经包含了数据处理的逻辑；根据数据处理配置信息填充SQL语句模板，实现自动生成SQL语句，提高了SQL语句的生成效率；根据SQL语句获取批量数据并进行数据处理，进一步提高了对批量数据的处理效率。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。

显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种批量数据处理方法，其特征在于，包括下述步骤：

获取数据处理配置信息，所述数据处理配置信息基于页面录入或语音识别得到，所述数据处理配置信息包括处理类型、处理对象和筛选条件；

获取与所述数据处理配置信息相对应的SQL语句模板；

根据所述数据处理配置信息填充所述SQL语句模板，得到SQL语句；

执行所述SQL语句，以对所述SQL语句所针对的批量数据进行数据处理，得到数据处理结果。

2.根据权利要求1所述的批量数据处理方法，其特征在于，所述获取数据处理配置信息的步骤包括：

当接收到终端发送的数据处理配置指令时，通过所述终端展示数据处理配置页面；

通过所述终端获取在所述数据处理配置页面中的点击或输入操作，得到数据处理配置信息。

3.根据权利要求2所述的批量数据处理方法，其特征在于，所述通过所述终端获取在所述数据处理配置页面中的点击或输入操作，得到数据处理配置信息的步骤包括：

通过所述终端获取录入的数据源访问信息；

根据所述数据源访问信息进行数据库查询，得到查询结果；

通过所述终端展示所述查询结果，并通过所述终端获取在所述数据处理配置页面中针对所述查询结果的点击或输入操作，得到数据处理配置信息。

4.根据权利要求1所述的批量数据处理方法，其特征在于，所述获取数据处理配置信息的步骤包括：

当接收到终端发送的数据处理配置指令时，通过所述终端进行语音录入提示；

通过所述终端接收数据处理配置语音；

对所述数据处理配置语音进行语音识别，得到数据处理配置文本；

将所述数据处理配置文本输入意图识别模型，得到数据处理配置信息。

5.根据权利要求1所述的批量数据处理方法，其特征在于，在所述获取数据处理配置信息的步骤之后，还包括：

对所述数据处理配置信息进行合法性检测，得到检测结果；

当根据所述检测结果确定所述数据处理配置信息为合法信息时，执行所述获取与所述数据处理配置信息相对应的SQL语句模板的步骤。

6.根据权利要求1所述的批量数据处理方法，其特征在于，所述获取与所述数据处理配置信息相对应的SQL语句模板的步骤包括：

获取与所述数据处理配置信息中的处理类型相对应的多个候选SQL语句模板；

根据所述数据处理配置信息中的处理对象和筛选条件生成处理逻辑信息；

根据所述处理逻辑信息，在所述多个候选SQL语句模板中确定SQL语句模板。

7.根据权利要求6所述的批量数据处理方法，其特征在于，所述根据所述数据处理配置信息填充所述SQL语句模板，得到SQL语句的步骤包括：

获取所述SQL语句模板中的待填充区域及其对应的区域属性信息；

根据所述处理逻辑信息和所述区域属性信息，确定所述处理对象和所述筛选条件分别对应的待填充区域；

将所述处理对象和所述筛选条件分别填充至对应的待填充区域，得到SQL语句。

8.一种批量数据处理装置，其特征在于，包括：

配置获取模块，用于获取数据处理配置信息，所述数据处理配置信息基于页面录入或语音识别得到，所述数据处理配置信息包括处理类型、处理对象和筛选条件；

模板获取模块，用于获取与所述数据处理配置信息相对应的SQL语句模板；

模板填充模块，用于根据所述数据处理配置信息填充所述SQL语句模板，得到SQL语句；

数据处理模块，用于执行所述SQL语句，以对所述SQL语句所针对的批量数据进行数据处理，得到数据处理结果。

9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的批量数据处理方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的批量数据处理方法的步骤。