CN114201297A - 数据处理方法、装置、电子设备及存储介质 - Google Patents

Abstract

本公开提供了一种数据处理方法，可以应用于计算机技术领域。该数据处理方法包括：响应于数据处理请求，获取待处理的业务表；根据预设字段信息将待处理的业务表拆分为i个子业务表集合，其中，i≥2，每个子业务表集合包括至少一种类型的子业务表，每个子业务表集合利用对应的线程处理；利用第m子业务表集合对应的线程对第m子业务表集合进行处理，得到第m处理结果，其中，i≥m≥1；将第m处理结果存储至第m预设临时表中，以生成第m临时子业务表；以及利用第m临时子业务表替换第m子业务表集合中的第m子业务表，以完成对第m子业务表集合的处理。本公开还提供了一种数据处理装置、设备、存储介质。

Description

数据处理方法、装置、电子设备及存储介质

技术领域

本公开涉及计算机技术领域，更具体地涉及一种数据处理方法、装置、设备、介质和程序产品。

背景技术

批量处理已经成为企业级业务系统处理不可或缺的一部分，多表关联查询后再批量处理的复杂业务场景也越来越频繁，针对此复杂业务场景，常用的批量处理方法一般为多线程并行处理，在处理过程中，单个线程读取一批“未处理”的业务表数据(每条业务数据都是一个复杂的多表对象)，将读取的业务数据表处理后的结果还需要逐表更新回原业务表中，并标记“已处理”的标识。

相关技术中至少存在以下问题：相关技术中需要将处理后的数据逐表更新回原业务表中，导致数据库随机读引起的数据库性能问题，且容易产生大量的上下文切换，CPU的有效使用量降低，从而导致数据处理的速度较慢，难以在预设时间内完成大批量数据的处理需求。

发明内容

鉴于上述问题，本公开提供了一种数据处理方法、装置、设备、介质和程序产品。

根据本公开的第一个方面，提供了一种数据处理方法，包括：

响应于数据处理请求，获取待处理的业务表；

根据预设字段信息将上述待处理的业务表拆分为i个子业务表集合，其中，i≥2，每个上述子业务表集合包括至少一种类型的子业务表，每个上述子业务表集合利用对应的线程处理；

利用第m子业务表集合对应的线程对上述第m子业务表集合进行处理，得到第m处理结果，其中，i≥m≥1；

将上述第m处理结果存储至第m预设临时表中，以生成第m临时子业务表；以及

利用上述第m临时子业务表替换上述第m子业务表集合中的第m子业务表，以完成对上述第m子业务表集合的处理。

根据本公开的实施例，上述待处理的业务表包括一种类型的业务表；

其中，上述根据预设字段信息将上述待处理的业务表拆分为i个子业务表集合包括：

根据上述待处理的业务表中的对象属性信息，将上述待处理的业务表拆分为i个子业务表；

将每个上述子业务表作为一个上述子业务表集合，得到i个上述子业务表集合。

根据本公开的实施例，上述待处理的业务表包括至少两种类型的业务表，其中，至少两种类型的上述业务表之间具有关联关系；

其中，上述根据预设字段信息将上述待处理的业务表拆分为i个子业务表集合包括：

根据上述待处理的业务表中的对象属性信息，将上述待处理的业务表拆分为i个子业务表组，其中，每个上述子业务表组包括至少两个子业务表，每个上述子业务表组中的至少两个上述子业务表之间具有关联关系；

将每个上述子业务表组作为一个上述子业务表集合，得到i个上述子业务表集合。

根据本公开的实施例，上述利用第m子业务表集合对应的线程对上述第m子业务表集合进行处理，得到第m处理结果包括：

将上述第m子业务表集合存储至自动生成的临时文件中；

按照预设单次查询量依次查询上述临时文件中的上述第m子业务表集合，得到多个子数据；

利用上述第m子业务表集合对应的线程依次对多个上述子数据进行处理，得到上述第m处理结果。

根据本公开的实施例，上述按照预设单次查询量依次查询上述临时文件中的上述第m子业务表集合，得到多个子数据包括：

利用游标查询的方式按照预设单次查询量依次查询上述临时文件中的上述第m子业务表集合，得到多个上述子数据。

根据本公开的实施例，在上述按照预设单次查询量依次查询上述临时文件中的上述第m子业务表集合，得到多个子数据之前还包括：

根据上述第m子业务表集合中的至少两个上述子业务表中含有的相同字段，将至少两个上述子业务表进行关联。

本公开的第二方面提供了一种数据处理装置，包括：

获取模块，用于响应于数据处理请求，获取待处理的业务表；

拆分模块，用于根据预设字段信息将上述待处理的业务表拆分为i个子业务表集合，其中，i≥2，每个上述子业务表集合包括至少一种类型的子业务表，每个上述子业务表集合利用对应的线程处理；

处理模块，用于利用第m子业务表集合对应的线程对上述第m子业务表集合进行处理，得到第m处理结果，其中，i≥m≥1；

存储模块，用于将上述第m处理结果存储至第m预设临时表中，以生成第m临时子业务表；以及

替换模块，用于利用上述第m临时子业务表替换上述第m子业务表集合中的第m子业务表，以完成对上述第m子业务表集合的处理。

本公开的第三方面提供了一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个程序，其中，当上述一个或多个程序被上述一个或多个处理器执行时，使得一个或多个处理器执行上述数据处理方法。

本公开的第四方面还提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行上述数据处理方法。

本公开的第五方面还提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述数据处理方法。

根据本公开的实施例，通过根据预设字段信息将待处理的业务表拆分为i个子业务表集合，其中，i≥2，每个子业务表集合包括至少一种类型的子业务表，每个子业务表集合利用对应的线程处理；然后利用第m子业务表集合对应的线程对第m子业务表集合进行处理，得到第m处理结果，其中，i≥m≥1；之后将第m处理结果存储至第m预设临时表中，以生成第m临时子业务表；之后利用第m临时子业务表替换第m子业务表集合中的第m子业务表，以完成对第m子业务表集合的处理。本公开的技术方案实现了多线程并行处理，同时，将处理后的数据插入临时表中，并用临时表替换子业务表，有效避免逐条业务数据、逐表更新回新表，从而避免数据库随机读导致的大量数据库读写产生的性能问题，以及避免频繁的网络请求导致的上下文切换问题，从而提高数据的处理速度。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述内容以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本公开实施例的数据处理方法、装置、设备、介质和程序产品的应用场景图；

图2示意性示出了根据本公开实施例的数据处理方法的流程图；

图3示意性示出了根据本公开另一实施例的数据处理方法的流程图；

图4示意性示出了根据本公开另一实施例中每个线程处理对应的子业务表集合方法的流程图；

图5示意性示出了根据本公开另一实施例的数据处理方法的流程图；

图6示意性示出了根据本公开实施例的数据处理装置的结构框图；以及

图7示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的方框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。

批量处理是对成批信息进行积累，然后集中在一起处理的方式，适用于大批量的工作任务，处理时间相对比较长，实时性较差，但比较高效，并且节省资源消耗。

多表对象是指一个对象包含了多个对象属性，每个对象属性和一张数据库表中的一行数据对应。

当前，批量处理已经成为企业级业务系统处理不可或缺的一部分，多表关联查询后再批量处理的复杂业务场景也越来越频繁，针对此复杂业务场景，常用的批量处理方法包括以下两种：

(1)单线程处理：关联查询多张业务表，然后单线程读取一批“未处理”的业务数据(每条业务数据都是一个复杂的多表对象)，处理完一批“未处理”的业务数据后，再将处理结果逐条数据、逐表更新回原业务表中，并打上“已处理”标记；然后获取下一批“未处理”业务数据，再逐条数据、逐表更新回原业务数据表，如此循环处理，直至处理完所有的业务数据。

(2)多线程处理：关联查询多张业务表，然后通过多线程读取“未处理”的业务表数据(每条业务数据都是一个复杂的多表对象)，并且维护已读取出的业务数据为“处理中”状态，并且需要使用到同步锁，来防止多个线程对同一业务数据做重复读取和处理，接下来各线程的处理过程同方法(1)的单线程处理。

但是，对于上述方法存在以下问题：处理完的数据更新回原业务表时，涉及到数据库随机读，容易导致数据库磁盘的大量读写，引起数据库性能问题；并且逐条业务数据、逐表更新回原业务表会产生大量的上下文切换，使得CPU的有效使用率下降；此外，在多线程处理方法中，需要额外计算资源和内存资源，来维护业务数据的“处理中”状态，并且需要使用到同步锁，来防止多个线程对同一业务数据做重复读取和处理，导致数据处理的速度较慢，难以在预设时间内完成大批量数据的处理需求。

上下文切换指的是内核(操作系统的核心)在CPU上对进程或者线程进行切换。上下文切换过程中的信息被保存在进程控制块(PCB-Process Control Block)中。PCB又被称作切换帧(SwitchFrame)。上下文切换的信息会一直被保存在CPU的内存中，直到被再次使用。

有鉴于此，本公开针对以上技术问题，将业务表数据分为i个子业务表集合，每个子业务表集合采用对应的线程进行处理，实现多线程并行处理，同时，将处理后的数据插入临时表中，并用临时表替换子业务表，有效避免逐条业务数据、逐表更新回新表，从而有效避免数据库随机读导致的大量数据库读写产生的性能问题以及避免频繁的网络请求导致的上下文切换问题，从而提高数据的处理速度。

具体地，本公开的实施例提供了一种数据处理方法，包括：响应于数据处理请求，获取待处理的业务表；根据预设字段信息将上述待处理的业务表拆分为i个子业务表集合，其中，i≥2，每个上述子业务表集合包括至少一种类型的子业务表，每个上述子业务表集合利用对应的线程处理；利用第m子业务表集合对应的线程对上述第m子业务表集合进行处理，得到第m处理结果，其中，i≥m≥1；将上述第m处理结果存储至第m预设临时表中，以生成第m临时子业务表；以及利用上述第m临时子业务表替换上述第m子业务表集合中的第m子业务表，以完成对上述第m子业务表集合的处理。

需要说明的是，本公开实施例提供的数据处理方法和装置可用于计算机领域或金融领域。本公开实施例提供的数据处理方法和装置也可用于除计算机领域和金融领域之外的任意领域。本公开实施例提供的数据处理方法和装置的应用领域不做限定。

在本公开的技术方案中，在获取或采集用户个人信息之前，均获取了用户的授权或同意。

在本公开的技术方案中，对数据的获取、收集、存储、使用、加工、传输、提供、公开和应用等处理，均符合相关法律法规的规定，采取了必要保密措施，且不违背公序良俗。

图1示意性示出了根据本公开实施例的数据处理方法、装置、设备、介质和程序产品的应用场景图。

如图1所示，根据该实施例的应用场景100可以包括网络、终端设备和服务器。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。

需要说明的是，本公开实施例所提供的数据处理方法一般可以由服务器105执行。相应地，本公开实施例所提供的数据处理装置一般可以设置于服务器105中。本公开实施例所提供的数据处理方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的数据处理装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

以下将基于图1描述的场景，通过图2～图5对公开实施例的数据处理方法进行详细描述。

图2示意性示出了根据本公开实施例的数据处理方法的流程图。

如图2所示，该实施例的数据处理方法包括操作S210～操作S250，该数据处理方法可以由服务器执行。

在操作S210，响应于数据处理请求，获取待处理的业务表。

根据本公开的实施例，待处理的业务表可以为银行系统在同一时刻或一段时间内产生的数据。待处理的业务表例如可以包括账户表、账户余额表、分类余额表等。

根据本公开的实施例，待处理的业务表可以包括一种类型的业务表，例如待处理的业务表包括账户表、账户余额表、分类余额表中的一种。待处理的业务表还可以包括多种类型的业务表，例如待处理的业务表包括账户表、账户余额表、分类余额表中的至少两种。

在操作S220，根据预设字段信息将上述待处理的业务表拆分为i个子业务表集合，其中，i≥2，每个上述子业务表集合包括至少一种类型的子业务表，每个上述子业务表集合利用对应的线程处理。

根据本公开的实施例，预设字段信息例如可以包括待处理的业务表中的关键字段的信息。关键字段信息例如可以包括业务表中的对象属性信息，例如，关键字段信息可以包括客户编号、客户名称等信息。

根据本公开的实施例，利用客户编号信息将待处理的业务表拆分成多个子业务表，并将具有关联关系的多种类型的子业务表形成子业务表集合，使得每个子业务表集合之间不存在关联关系，便于使用独立的服务器对单个子业务表集合进行处理。

根据本公开的实施例，每个子业务表集合利用对应的线程处理包括一个线程处理一个子业务表集合，还包括一个线程处理多个子业务表集合，即多个子业务表集合可以共用同一个线程。

根据本公开的实施例，i个子业务表集合还可以拆分到第一数量的数据库中，每个数据库对应一个服务器，处于同一数据库中的子业务表集合采用同一服务器进行处理。

例如，当i＝1025时，分别对1025个子业务表集合进行编号，然后将1025个子业务表集合分别存储至6个数据库中，其中0～171号子业务表集合放入1号数据库、172～342号子业务表集合放入2号数据库、343～513号子业务表集合放入3号数据库、514～684号子业务表集合放入4号数据库、685～854号子业务表集合放入5号数据库、855～1024号子业务表集合放入6号数据库。

根据本公开的实施例，将i个子业务表拆分到第一数量的数据库，以便于充分利用多个数据库服务器的处理能力同时处理业务数据，并且当数据库的服务器达到处理瓶颈时，可以扩展数据库服务器的数量，并通过配置文件重新分配i个子业务表集合，以分担数据库的处理压力，保证每个数据库具有高效的处理效率。

在操作S230，利用第m子业务表集合对应的线程对上述第m子业务表集合进行处理，得到第m处理结果，其中，i≥m≥1。

根据本公开的实施例，利用每个子业务表集合对应的线程对其进行处理，由于每个子业务表集合只会被一个线程处理，无需采用同步锁来防止多线程对同一业务数据做重复读取和处理。

在操作S240，将上述第m处理结果存储至第m预设临时表中，以生成第m临时子业务表。

根据本公开的实施例，预设临时表是与业务表结构相同但不包含业务数据的表格。例如预设临时表可以为根据子业务表中的字段和顺序预先设置的空表格。具体地，第m预设临时表为与第m子业务表中的字段和顺序对应的表格。

根据本公开的实施例，第m子业务表集合包括第m子账户表和第m子账户余额表，则将第m处理结果存储至与第m子账户表对应的第m预设子账户临时表和与第m子账户余额表对应的第m预设子账户余额临时表中。

根据本公开的实施例，在第m子业务表集合处理过程中，首先将第m子业务表集合的业务数据以子业务表的类型为维度整理为多个List列表数据，然后通过MyBatis的批量模式，逐表插入到对应的预设临时表中，并在批量插入每个预设临时表时，设置合理的刷新频率(如：每500条业务数据刷新一次)，避免一次批量插入的数据量太大，影响处理速度。

例如，第m子业务表集合包括第m子账户表、第m子账户余额表和和第m子分类余额表，且第m子业务表集合包括10000条业务数据。在处理第m子业务表集合时，首先，将第m子业务表集合的10000条业务数据整理为多个list列表数据，例如，10000条业务数据包含10000条第m子账户表对象、10000条第m子账户余额表对象、5000条第m子分类余额表对象，然后将10000条第m子账户表对象插入到第m预设子账户临时表中，再将10000条第m子账户余额表对象插入第m预设子账户余额临时表中，之后将5000条第m子分类余额表对象插入到第m预设子分类余额临时表中，并且设置每插入500条业务数据刷新一次，避免一次批量插入的数据量太大，影响处理速度。

根据本公开的实施例，采用第m处理结果存储至第m预设临时表中的方式代替逐行数据、逐表更新回原业务表的方式，可以有效避免数据库随机读导致的大量数据库读写产生的性能问题；并且采用批量模式插入数据库，可以避免频繁的网络请求导致的上下文切换问题，提高数据处理速度。

在操作S250，利用上述第m临时子业务表替换上述第m子业务表集合中的第m子业务表，以完成对上述第m子业务表集合的处理。

根据本公开的实施例，将第m子业务表集合中的第m子业务表重命名为第m备份表，然后删除第m备份表上的约束及主键，再将第m临时子业务表命名为第m子业务表，并加上相关的约束及主键，使得第m临时子业务表替换第m子业务表。

根据本公开的实施例，在进行下一次数据处理之前，删除第m备份表。

根据本公开的实施例，通过根据预设字段信息将待处理的业务表拆分为i个子业务表集合，其中，i≥2，每个子业务表集合包括至少一种类型的子业务表，每个子业务表集合利用对应的线程处理；然后利用第m子业务表集合对应的线程对第m子业务表集合进行处理，得到第m处理结果，其中，i≥m≥1；之后将第m处理结果存储至第m预设临时表中，以生成第m临时子业务表；之后利用第m临时子业务表替换第m子业务表集合中的第m子业务表，以完成对第m子业务表集合的处理。本公开的技术方案实现了多线程并行处理，同时，将处理后的数据插入临时表中，并用临时表替换子业务表，有效避免逐条业务数据、逐表更新回新表，从而避免数据库随机读导致的大量数据库读写产生的性能问题，以及避免频繁的网络请求导致的上下文切换问题，从而提高数据的处理速度。

根据本公开的实施例，上述待处理的业务表包括一种类型的业务表；其中，上述根据预设字段信息将上述待处理的业务表拆分为i个子业务表集合包括：根据上述待处理的业务表中的对象属性信息，将上述待处理的业务表拆分为i个子业务表；将每个上述子业务表作为一个上述子业务表集合，得到i个上述子业务表集合。

根据本公开的实施例，待处理的业务表包括一种类型的业务表，例如待处理的业务表包括账户表、账户余额表、分类余额表中的一种。

根据本公开的实施例，对象属性信息例如可以包括业务表中的客户编号、客户名称等信息。

例如，待处理的业务表包括账户余额表，对象属性信息包括客户名称。利用客户名称，将账户余额表拆分为多个子业务表集合，每个子业务表集合中包括一个子账户余额表。

根据本公开的实施例，上述待处理的业务表包括至少两种类型的业务表，其中，至少两种类型的上述业务表之间具有关联关系；其中，上述根据预设字段信息将上述待处理的业务表拆分为i个子业务表集合包括：根据上述待处理的业务表中的对象属性信息，将上述待处理的业务表拆分为i个子业务表组，其中，每个上述子业务表组包括至少两个子业务表，每个上述子业务表组中的至少两个上述子业务表之间具有关联关系；将每个上述子业务表组作为一个上述子业务表集合，得到i个上述子业务表集合。

根据本公开的实施例，待处理的业务表还可以包括多种类型的业务表，例如待处理的业务表包括账户表、账户余额表、分类余额表中的至少两种。

例如，待处理的业务表包括账户表、账户余额表和分类余额表，其中，账户表、账户余额表和分类余额表之间具有关联关系。根据预设字段信息将待处理的业务表拆分为i个子业务表集合包括：将客户编号作为拆分参数，根据客户编号将账户表拆分为i个子账户表，其中，每个子账户表具有相应的编号；将账户余额表拆分为i个子账户余额表，每个子账户余额表具有相应的编号，将分类余额表拆分为i个分类余额表，每个子分类余额表具有相应的编号；然后将相同编号的子账户表、子账户余额表和分类余额表作为一个子业务表集合。

根据本公开的实施例，将i个子业务表集合的业务数据拆分到第一数量的数据库中，再将每个数据库中的子业务表集合拆分为第二数量的片集合，由于每个片集合之间以及每个子业务表集合之间不存在关联关系，每个片集合对应的业务数据可以由独立的服务器进行处理，从而使得多个服务器并行处理每个数据库中的数据，提高数据处理速度。并且随着业务数据量的增大，可以通过增加片集合数量的方式，使得每个片集合的业务数据量保持稳定，因此，可以通过增加服务器的方式来使得处理时长能保持在合理的时长范围内。

根据本公开的实施例，在每个片集合在处理业务数据时，采用Spring Batch做批量处理框架，并使用多线程并发处理多个子业务表集合的业务数据。

其中，Spring Batch是一个轻量级，全面的批处理框架，旨在开发对企业系统日常运营至关重要的强大批处理应用程序。SpringBatch构建了人们期望的Spring Framework特性(生产力，基于POJO的开发方法和一般易用性)，同时使开发人员可以在必要时轻松访问和利用更高级的企业服务。

根据本公开的实施例，当前片集合的业务数据包含0号子业务表集合～10号子业务表集合，根据服务器的CPU核数为4，配置并发为6个线程，则1号线程负责0号子业务表集合、6号子业务表集合；2号线程负责1号子业务表集合、7号子业务表集合；3号线程负责2号子业务表集合、8号子业务表集合；4号线程负责3号子业务表集合、9号子业务表集合；5号线程负责4号子业务表集合、10号子业务表集合；6号线程只负责5号子业务表集合；每个线程按顺序依次对所负责的子业务表集合的业务数据进行处理(如1号线程先处理完0号子业务表集合的业务数据，再处理6号子业务表集合的业务数据)，6个线程并发处理；由于每个子业务表集合的业务数据，只会被一个线程处理，所以无需同步锁来防止多个线程对同一业务数据做重复读取和处理。

图3示意性示出了根据本公开另一实施例的数据处理方法的流程图。

如图3所示，该方法包括操作S301～操作S307。

在操作S301，响应于数据处理请求，获取待处理的业务表，其中，待处理的业务表包括账户表、账户余额表和分类余额表。

在操作S302，根据预设字段信息将账户表、账户余额表和分类余额表分别拆分为i个子账户表、i个子账户余额表和i个子分类余额表。

在操作S303，根据预设字段信息分别对i个子账户表、i个子账户余额表和i个子分类余额表进行编号，并将相同编号的子账户表、子账户余额表和分类余额表作为一个子业务表集合，得到i个子业务表集合。

在操作S304，将i个子业务表集合拆分到第一数量的数据库中。

在操作S305，将每个数据库中的子业务表集合拆分成第二数量的片集合。

在操作S306，利用配置文件，对每个片集合中的子业务表集合配置对应的线程。

在操作S307，每个子业务表集合利用对应的线程进行处理。

根据本公开的实施例，上述利用第m子业务表集合对应的线程对上述第m子业务表集合进行处理，得到第m处理结果包括：将上述第m子业务表集合存储至自动生成的临时文件中；按照预设单次查询量依次查询上述临时文件中的上述第m子业务表集合，得到多个子数据；利用上述第m子业务表集合对应的线程依次对多个上述子数据进行处理，得到上述第m处理结果。

根据本公开的实施例，在上述按照预设单次查询量依次查询上述临时文件中的上述第m子业务表集合，得到多个子数据之前还包括：根据上述第m子业务表集合中的至少两个上述子业务表中含有的相同字段，将至少两个上述子业务表进行关联。

根据本公开的实施例，每个线程根据子业务表数据含有的相同字段对所负责的子业务表数据进行join关联，并利用MyBatis的游标读取方式，每一次网络请求批量读取预设单次查询量的业务数据对象，并交由上层Spring Batch读取，读取完业务数据后，MyBatis再发网络请求批量读取下一个预设单次查询量的业务数据对象，再交由上层Spring Batch读取，直至将单个子业务表集合中的数据读取完成。然后将读取的业务数据后打包，以便线程进行处理。其中，MyBatis是一款持久层框架，它支持定制化SQL(结构化查询语言)、存储过程以及高级映射。

例如，1号线程负责第1子业务表集合，第1子业务表集合包括第1子账户表、第1子账户余额表和第1子分类余额表，且SpringBatch配置的业务数据总量为10000条业务数据。在进行处理过程中，1号线程将第1子账户表、第1子账户余额表和第1子分类余额表进行join关联，并利用MyBatis的游标读取方式，每一次网络请求批量读取1000条业务数据对象，并交由上层Spring Batch的Reader逐条业务数据读取，读取完这1000条业务数据后，MyBatis再发网络请求批量读取接下来的1000条业务数据，再交由上层Spring Batch的Reader逐条业务数据读取，直至Spring Batch汇总读取到10000条(业务数据后打包，以便1号线程对其处理。

根据本公开的实施例，将第m子业务表集合存储至自动生成的临时文件中，能够运行一次便可获取第m子业务表集合的数据，降低数据库的运算次数，从而提高处理效率。

根据本公开的实施例，上述按照预设单次查询量依次查询上述临时文件中的上述第m子业务表集合，得到多个子数据包括：利用游标查询的方式按照预设单次查询量依次查询上述临时文件中的上述第m子业务表集合，得到多个上述子数据。

图4示意性示出了根据本公开另一实施例中每个线程处理对应的子业务表集合方法的流程图。

如图4所示，该方法包括操作S401～S404。

在操作S401，根据第m子业务表集合中的至少两个子业务表中含有的相同字段，将至少两个上述子业务表进行关联。

在操作S402，将第m子业务表集合存储至自动生成的临时文件中。

在操作S403，利用游标查询的方式按照预设单次查询量依次查询临时文件中的第m子业务表集合，得到多个上述子数据。

在操作S404，利用第m子业务表集合对应的线程依次对多个上述子数据进行处理，得到上述第m处理结果。

根据本公开的实施例，游标读取可以有效简化业务数据的处理，让游标自动记录当前已处理过的业务数据，无需专门更新业务数据为“已处理”状态，简化操作步骤，提高数据处理效率。

图5示意性示出了根据本公开另一实施例的数据处理方法的流程图。

如图5所示，该数据处理方法包括操作S501～操作S511。

在操作S501，响应于数据处理请求，获取待处理的业务表，其中，待处理的业务表包括账户表、账户余额表和分类余额表。

在操作S502，根据预设字段信息将账户表、账户余额表和分类余额表分别拆分为i个子账户表、i个子账户余额表和i个子分类余额表。

在操作S503，将相同编号的子账户表、子账户余额表和分类余额表作为一个子业务表集合，得到i个子业务表集合。

在操作S504，将i个子业务表集合拆分到第一数量的数据库中。

在操作S505，将每个数据库中的子业务表集合拆分成第二数量的片集合。

在操作S506，利用配置文件，对每个片集合中的子业务表集合配置对应的线程。

在操作S507，利用第m子业务表集合对应的线程将第m子业务表集合数据存储至自动生成的临时文件中，其中，i≥m≥1。

在操作S508，利用游标查询的方式按照预设单次查询量依次查询临时文件中的第m子业务表集合，得到多个子数据。

在操作S509，利用第m子业务表集合对应的线程依次对多个上述子数据进行处理，得到上述第m处理结果。

在操作S510，将第m处理结果存储至第m预设临时表中，得到第m临时子业务表，即将第m处理结果中与第m子账户表对应的业务数据存储至第m预设子账户临时表中，生成第m临时子账户表；将第m处理结果中与第m子账户余额表对应的业务数据存储至第m预设子账户余额临时表中，生成第m临时子账户余额表；将第m处理结果中与第m子分类余额表对应的业务数据存储至第m预设子分类余额临时表中，生成第m临时子分类余额表。

在操作S511，利用第m临时子业务表替换第m子业务表，以完成对第m子业务表集合的处理，即利用第m临时子账户表替换第m子账户表，利用第m临时子账户余额表替换第m子账户余额表，利用第m临时子分类余额表替换第m子分类余额表，以完成对第m子业务表集合的处理。

需要说明的是，本公开实施例中的流程图所示的操作除非明确说明不同操作之间存在执行的先后顺序，或者不同操作在技术实现上存在执行的先后顺序，否则，多个操作之间的执行顺序可以不分先后，多个操作也可以同时执行。

基于上述数据处理方法，本公开还提供了一种数据处理装置。以下将结合图6对该装置进行详细描述。

图6示意性示出了根据本公开实施例的数据处理装置的结构框图。

如图6所示，该实施例的数据处理装置600包括获取模块610、拆分模块620、处理模块630、存储模块640和替换模块650。

获取模块610用于响应于数据处理请求，获取待处理的业务表。在一实施例中，获取模块610可以用于执行前文描述的操作S210，在此不再赘述。

拆分模块620用于根据预设字段信息将所述待处理的业务表拆分为i个子业务表集合，其中，i≥2，每个所述子业务表集合包括至少一种类型的子业务表，每个所述子业务表集合利用对应的线程处理。在一实施例中，拆分模块620可以用于执行前文描述的操作S220，在此不再赘述。

处理模块630用于利用第m子业务表集合对应的线程对所述第m子业务表集合进行处理，得到第m处理结果，其中，i≥m≥1。在一实施例中，处理模块630可以用于执行前文描述的操作S230，在此不再赘述。

存储模块640用于将所述第m处理结果存储至第m预设临时表中，以生成第m临时子业务表。在一实施例中，存储模块640可以用于执行前文描述的操作S240，在此不再赘述。

替换模块650用于利用所述第m临时子业务表替换所述第m子业务表集合中的第m子业务表，以完成对所述第m子业务表集合的处理。在一实施例中，替换模块650可以用于执行前文描述的操作S250，在此不再赘述。

根据本公开的实施例，上述待处理的业务表包括一种类型的业务表。

根据本公开的实施例，拆分模块包括第一拆分单元和第一确定单元。

第一拆分单元，用于根据上述待处理的业务表中的对象属性信息，将上述待处理的业务表拆分为i个子业务表。

第一确定单元，用于将每个上述子业务表作为一个上述子业务表集合，得到i个上述子业务表集合。

根据本公开的实施例，上述待处理的业务表包括至少两种类型的业务表，其中，至少两种类型的上述业务表之间具有关联关系。

根据本公开的实施例，拆分模块还包括第二拆分单元和第二确定单元。

第二拆分单元，用于根据上述待处理的业务表中的对象属性信息，将上述待处理的业务表拆分为i个子业务表组，其中，每个上述子业务表组包括至少两个子业务表，每个上述子业务表组中的至少两个上述子业务表之间具有关联关系。

第二确定单元，用于将每个上述子业务表组作为一个上述子业务表集合，得到i个上述子业务表集合。

根据本公开的实施例，处理模块包括存储单元、查询单元和处理单元。

存储单元，用于将上述第m子业务表集合存储至自动生成的临时文件中。

查询单元，用于按照预设单次查询量依次查询上述临时文件中的上述第m子业务表集合，得到多个子数据。

处理单元，用于利用上述第m子业务表集合对应的线程依次对多个上述子数据进行处理，得到上述第m处理结果。

根据本公开的实施例，查询单元包括查询子单元。

查询子单元用于利用游标查询的方式按照预设单次查询量依次查询上述临时文件中的上述第m子业务表集合，得到多个上述子数据。

根据本公开的实施例，处理模块还包括关联单元。

关联单元用于根据上述第m子业务表集合中的至少两个上述子业务表中含有的相同字段，将至少两个上述子业务表进行关联。

根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

根据本公开的实施例，获取模块610、拆分模块620、处理模块630、存储模块640和替换模块650中的任意多个模块可以合并在一个模块中实现，或者其中的任意一个模块可以被拆分成多个模块。或者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合，并在一个模块中实现。根据本公开的实施例，获取模块610、拆分模块620、处理模块630、存储模块640和替换模块650中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，获取模块610、拆分模块620、处理模块630、存储模块640和替换模块650中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

需要说明的是，本公开的实施例中信息监控装置部分与本公开的实施例中信息监控方法部分是相对应的，信息监控装置部分的描述具体参考信息监控方法部分，在此不再赘述。

图7示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的方框图。

如图7所示，根据本公开实施例的电子设备700包括处理器701，其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。处理器701例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))等等。处理器701还可以包括用于缓存用途的板载存储器。处理器701可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 703中，存储有电子设备700操作所需的各种程序和数据。处理器701、ROM702以及RAM 703通过总线704彼此相连。处理器701通过执行ROM 702和/或RAM 703中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 702和RAM 703以外的一个或多个存储器中。处理器701也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，电子设备700还可以包括输入/输出(I/O)接口705，输入/输出(I/O)接口705也连接至总线704。电子设备700还可以包括连接至I/O接口705的以下部件中的一项或多项：包括键盘、鼠标等的输入部分706；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707；包括硬盘等的存储部分708；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器710上，以便于从其上读出的计算机程序根据需要被安装入存储部分708。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质，例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM702和/或RAM 703和/或ROM 702和RAM 703以外的一个或多个存储器。

本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时，该程序代码用于使计算机系统实现本公开实施例所提供的数据处理方法。

在该计算机程序被处理器701执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。

在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分709被下载和安装，和/或从可拆卸介质711被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

在这样的实施例中，该计算机程序可以通过通信部分709从网络上被下载和安装，和/或从可拆卸介质711被安装。在该计算机程序被处理器701执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (10)

1.一种数据处理方法，包括：

响应于数据处理请求，获取待处理的业务表；

根据预设字段信息将所述待处理的业务表拆分为i个子业务表集合，其中，i≥2，每个所述子业务表集合包括至少一种类型的子业务表，每个所述子业务表集合利用对应的线程处理；

利用第m子业务表集合对应的线程对所述第m子业务表集合进行处理，得到第m处理结果，其中，i≥m≥1；

将所述第m处理结果存储至第m预设临时表中，以生成第m临时子业务表；以及

利用所述第m临时子业务表替换所述第m子业务表集合中的第m子业务表，以完成对所述第m子业务表集合的处理。

2.根据权利要求1所述的方法，其中，所述待处理的业务表包括一种类型的业务表；

其中，所述根据预设字段信息将所述待处理的业务表拆分为i个子业务表集合包括：

根据所述待处理的业务表中的对象属性信息，将所述待处理的业务表拆分为i个子业务表；

将每个所述子业务表作为一个所述子业务表集合，得到i个所述子业务表集合。

3.根据权利要求1所述的方法，其中，所述待处理的业务表包括至少两种类型的业务表，其中，至少两种类型的所述业务表之间具有关联关系；

其中，所述根据预设字段信息将所述待处理的业务表拆分为i个子业务表集合包括：

根据所述待处理的业务表中的对象属性信息，将所述待处理的业务表拆分为i个子业务表组，其中，每个所述子业务表组包括至少两个子业务表，每个所述子业务表组中的至少两个所述子业务表之间具有关联关系；

将每个所述子业务表组作为一个所述子业务表集合，得到i个所述子业务表集合。

4.根据权利要求3所述的方法，其中，所述利用第m子业务表集合对应的线程对所述第m子业务表集合进行处理，得到第m处理结果包括：

将所述第m子业务表集合存储至自动生成的临时文件中；

按照预设单次查询量依次查询所述临时文件中的所述第m子业务表集合，得到多个子数据；

利用所述第m子业务表集合对应的线程依次对多个所述子数据进行处理，得到所述第m处理结果。

5.根据权利要求4所述的方法，其中，所述按照预设单次查询量依次查询所述临时文件中的所述第m子业务表集合，得到多个子数据包括：

利用游标查询的方式按照预设单次查询量依次查询所述临时文件中的所述第m子业务表集合，得到多个所述子数据。

6.根据权利要求4所述的方法，在所述按照预设单次查询量依次查询所述临时文件中的所述第m子业务表集合，得到多个子数据之前还包括：

根据所述第m子业务表集合中的至少两个所述子业务表中含有的相同字段，将至少两个所述子业务表进行关联。

7.一种数据处理装置，包括：

获取模块，用于响应于数据处理请求，获取待处理的业务表；

拆分模块，用于根据预设字段信息将所述待处理的业务表拆分为i个子业务表集合，其中，i≥2，每个所述子业务表集合包括至少一种类型的子业务表，每个所述子业务表集合利用对应的线程处理；

处理模块，用于利用第m子业务表集合对应的线程对所述第m子业务表集合进行处理，得到第m处理结果，其中，i≥m≥1；

存储模块，用于将所述第m处理结果存储至第m预设临时表中，以生成第m临时子业务表；以及

替换模块，用于利用所述第m临时子业务表替换所述第m子业务表集合中的第m子业务表，以完成对所述第m子业务表集合的处理。

8.一种电子设备，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器执行根据权利要求1～6中任一项所述的方法。

9.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行根据权利要求1～6中任一项所述的方法。

10.一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现根据权利要求1～6中任一项所述的方法。

Images