CN117112563A - 批量文件验证方法、装置、设备、介质和程序产品 - Google Patents

Abstract

本公开提供了一种批量文件验证方法，可以应用于大数据领域及金融技术领域。该方法包括：确定第一数据库的表数据；同步表数据到一个或多个第二数据库；在第一数据库中，对表数据进行调度执行，得到第一批量文件，以及在第二数据库中，对表数据进行调度执行，得到第二批量文件；以及对第一批量文件与第二批量文件进行对比，以确定第一批量文件与第二批量文件的内容一致；其中，第一数据库与第二数据库为不同数据库，表数据为批量数据。本公开还提供了一种批量文件验证装置、设备、存储介质和程序产品。

Description

批量文件验证方法、装置、设备、介质和程序产品

技术领域

本公开涉及大数据领域及金融领域，具体地涉及一种批量文件验证方法、装置、设备、介质和程序产品。

背景技术

数据库国产化转型进程中，围绕业务功能逻辑和上下游交互不变的目标，需对转型前后批量的一致性进行验证，各业务系统批量文件均较多。目前在批量文件的全流程验证上基本为人工操作，为保证生成的批量文件一致，需要测试人员先分别在转型前后的数据库手工进行验证。

而单个批量文件的比对在铺底数据准备上耗时较长，批量文件的差异需肉眼观察并进行人工记录，过程较为繁琐。加之各业务系统的批量文件体量都较大，因此批量文件的验证需投入大量的人力成本。并且数据库国产化转型项目周期通常较短，测试人员的测试时间非常有限，测试人员在有限的时间内只能挑选关键核心批量的验证，覆盖面不全，容易出现遗漏情况，导致生产问题的产生。

另外，铺底数据的准备需要测试人员对批量逻辑有所掌握，明确该批量涉及处理的业务表有哪些，从而才能进行相关基础数据的准备。因为转型涉及两种异构数据库，需要测试人员了解数据库的差异，包括数据类型、系统函数、SQL语法等方面，因此对测试人员有一定的业务、技术门槛。

发明内容

鉴于上述问题，本公开提供了提高测试效率的基于数据库转型的批量文件验证方法、装置、设备、介质和程序产品，用于至少部分解决以上技术问题。

根据本公开的第一个方面，提供了一种批量文件验证方法，包括：确定第一数据库的表数据；同步表数据到一个或多个第二数据库；在第一数据库中，对表数据进行调度执行，得到第一批量文件，以及在第二数据库中，对表数据进行调度执行，得到第二批量文件；以及对第一批量文件与第二批量文件进行对比，以确定第一批量文件与第二批量文件的内容一致；其中，第一数据库与第二数据库为不同数据库，表数据为批量数据。

根据本公开的实施例，确定第一数据库的表数据包括：确定业务系统的批量框架信息，批量框架信息包括批量或批量组的存储过程映射逻辑；根据存储过程映射逻辑，确定第一数据库的访问数据表；解析访问数据表，得到表数据。

根据本公开的实施例，在第一数据库中，对表数据进行调度执行，得到第一批量文件，以及在第二数据库中，对表数据进行调度执行，得到第二批量文件包括：对表数据进行筛选，得到中间过程数据；根据中间过程数据，生成中间过程文件；或者对与批量组对应的表数据进行调度执行，得到结果数据；根据结果数据，生成结果文件；其中，第一批量文件和第二批量文件同时为中间过程文件或结果文件。

根据本公开的实施例，对与批量组对应的表数据进行调度执行，得到结果数据包括：调用批量调度管理工具的壳程序；采用壳程序对与批量组对应的表数据进行调度执行，得到结果数据；其中，壳程序包括与操作系统交互的命令解析器。

根据本公开的实施例，对第一批量文件与第二批量文件进行对比，以确定第一批量文件与第二批量文件的内容一致包括：对比第一批量文件与第二批量文件的文件名；在第一批量文件与第二批量文件的文件名相同的情况下，分别计算第一批量文件与第二批量文件的MD5值；以及在第一批量文件与第二批量文件的MD5值相同的情况下，确定第一批量文件与第二批量文件的内容一致。

根据本公开的实施例，批量框架信息还包括批量文件结构信息，方法还包括：在第一批量文件与第二批量文件的MD5值不相同的情况下，根据批量文件结构信息，分别对第一批量文件与第二批量文件进行解析；对比解析后的第一批量文件与第二批量文件的文件内容，确定差异项。

根据本公开的实施例，对第一批量文件与第二批量文件进行对比，以确定第一批量文件与第二批量文件的内容一致包括：建立批量对比平台；通过批量对比平台对第一批量文件与第二批量文件进行对比。

根据本公开的实施例，批量文件验证方法还包括：通过批量对比平台对第一批量文件与第二批量文件的对比结果进行展示。

本公开的第二方面提供了一种批量文件验证装置，包括：确定模块，用于确定第一数据库的表数据；同步模块，用于同步表数据到一个或多个第二数据库，其中，第一数据库与第二数据库为不同数据库，表数据为批量数据；调度模块，用于在第一数据库中，对表数据进行调度执行，得到第一批量文件，以及在第二数据库中，对表数据进行调度执行，得到第二批量文件；以及对比模块，用于对第一批量文件与第二批量文件进行对比，以确定第一批量文件与第二批量文件的内容一致。

本公开的第三方面提供了一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个程序，其中，当一个或多个程序被一个或多个处理器执行时，使得一个或多个处理器执行上述任一实施例的方法。

本公开的第四方面还提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行上述任一实施例的方法。

本公开的第五方面还提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述任一实施例的方法。

与现有技术相比，本公开提供的批量文件验证方法、装置、电子设备、存储介质和程序产品，至少具有以下有益效果：

(1)本公开的批量文件验证方法，通过在多个不同数据库中进行表数据的同步，使得源数据库与目标数据库的铺底数据相同，对比经过相同调度执行产生的批量文件，可以实现该不同数据库之间转型时的批量文件内容验证。本公开的方法可以通过建立自动化平台来实现，提高了批量文件的验证效率。

(2)本公开的批量文件验证方法，直接从业务系统的批量框架信息中提取批量的存储过程映射逻辑，进而根据该存储过程映射逻辑确定表数据。基于该表数据的批量文件生成过程，无需测试人员关注业务的批量逻辑，降低了测试技术门槛，提高了验证方法的适应性。

(3)本公开的批量文件验证方法，获取的表数据可以是中间过程数据，也可以是执行结果数据，可以实现表数据的全面覆盖，避免了数据库转型后生产问题的出现。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述内容以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本公开实施例的批量文件验证方法、装置、设备、介质和程序产品的应用场景图；

图2示意性示出了根据本公开实施例的批量文件验证方法的流程图；

图3示意性示出了根据本公开实施例的确定第一数据库的表数据的方法流程图；

图4示意性示出了根据本公开实施例的生成批量文件的方法流程图；

图5示意性示出了根据本公开实施例的生成结果数据的方法流程图；

图6示意性示出了根据本公开实施例的批量比对的方法流程图；

图7示意性示出了根据本公开另一实施例的批量比对的方法流程图；

图8A示意性示出了根据本公开又一实施例的批量比对的方法流程图；图8B示意性示出了根据本公开实施例的批量文件装置的结构框图；图8C示意性示出了根据本公开另一实施例的批量文件验证方法的流程图；

图9示意性示出了根据本公开又一实施例的批量文件验证方法的流程图；

图10示意性示出了根据本公开另一实施例的批量文件验证装置的结构框图；以及

图11示意性示出了根据本公开实施例的适于实现批量文件验证方法的电子设备的方框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。

本公开实施例提供一种批量文件验证方法、装置、设备、介质和程序产品，可用于金融领域或其他领域。需要说明的是本公开的批量文件验证方法、装置、设备、介质和程序产品可用于金融领域，也可用于除金融领域之外的任意领域，本公开的批量文件验证方法、装置、设备、介质和程序产品的应用领域不做限定。

在本发明的技术方案中，所涉及的用户信息(包括但不限于用户个人信息、用户图像信息、用户设备信息，例如位置信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等)，均为经用户授权或者经过各方充分授权的信息和数据，并且相关数据的收集、存储、使用、加工、传输、提供、公开和应用等处理，均遵守相关国家和地区的相关法律法规和标准，采取了必要保密措施，不违背公序良俗，并提供有相应的操作入口，供用户选择授权或者拒绝。

本公开的实施例提供了一种批量文件验证方法，包括：确定第一数据库的表数据。同步表数据到一个或多个第二数据库。在第一数据库中，对表数据进行调度执行，得到第一批量文件，以及在第二数据库中，对表数据进行调度执行，得到第二批量文件。以及对第一批量文件与第二批量文件进行对比，以确定第一批量文件与第二批量文件的内容一致。其中，第一数据库与第二数据库为不同数据库，表数据为批量数据。

图1示意性示出了根据本公开实施例的批量文件验证方法、装置、设备、介质和程序产品的应用场景图。

如图1所示，根据该实施例的应用场景100可以包括终端设备101、102、103，网络104和服务器105、106。网络104用以在终端设备101、102、103和服务器105、106之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105、106交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如数据库运维类应用、购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器105、106可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。特别地，服务器105为运行有至少两个不同类型数据库的数据库服务器，可以响应终端设备101、102、103的请求，对该至少两个不同类型的数据库进行转型。而服务器106为运行有业务系统的服务器，用于为该服务器105提供批量框架信息。

需要说明的是，本公开实施例所提供的批量文件验证方法一般可以由服务器105、106执行。相应地，本公开实施例所提供的批量文件验证装置一般可以设置于服务器105、106中。本公开实施例所提供的批量文件验证方法也可以由不同于服务器105、106且能够与终端设备101、102、103和/或服务器105、106通信的服务器或服务器集群执行。相应地，本公开实施例所提供的批量文件验证装置也可以设置于不同于服务器105、106且能够与终端设备101、102、103和/或服务器105、106通信的服务器或服务器集群中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

Entegor：一款批量作业集中调度管理工具，通过操作自动化降低人工操作风险。

Shell(壳程序)：一种由C语言编写的用于和操作系统交互的命令解析器软件。它用来接收用户输入命令，然后调用相应的应用程序。Shell同时又是一种程序设计语言。作为命令语言，它交互式解释和执行用户输入的命令或者自动地解释和执行预先设定好的一连串的命令。Shell有两种执行命令的方式，交互式和批处理：交互式(Interactive)：解释执行用户的命令，用户输入一条命令，Shell就解释执行一条。批处理(Batch)：用户事先写一个Shell脚本(Script)，其中有很多条命令，让Shell一次把这些命令执行完，而不必一条一条的输入命令。

批量：指一次任务中多条数据的统一处理，通过多记录的统一处理提高系统运行效率。如利息计算，通过一次批量处理可实现某一或分行下辖所有账户的利息计算。

批量组：指将多个单一的批量串接组成一个完整的功能。

批量框架：指为批量提供运行的基础环境，包括批量的并发处理，批量间前后置依赖的调度等。

批量文件：指批量功能的结果数据或中间加工数据以文件的形式输出，提供给其他系统使用。

批量对比工具：批量功能主要针对数据库进行操作，而数据库的转型升级后，需要验证转型前后不同的数据库下批量功能执行的正确性，批量比对工具即是对批量功能及批量文件转型前后的测试验证工具。

批量对比平台：即建设的测试工具，提供给测试人员进行前台操作以实现批量比对功能。

铺底数据：指批量运行所需要的基础数据、业务数据等，在测试环境可理解为测试数据。

以下将基于图1描述的场景，通过图2～图9对公开实施例的批量文件验证方法进行详细描述。

图2示意性示出了根据本公开实施例的批量文件验证方法的流程图。

如图2所示，该实施例的批量文件验证方法包括操作S210～操作S240，该批量文件验证方法可以由计算机程序在相应计算机硬件上执行。

在操作S210，确定第一数据库的表数据。

在操作S220，同步表数据到一个或多个第二数据库。其中，第一数据库与第二数据库为不同数据库，表数据为批量数据。

在操作S230，在第一数据库中，对表数据进行调度执行，得到第一批量文件，以及在第二数据库中，对表数据进行调度执行，得到第二批量文件。

在操作S240，对第一批量文件与第二批量文件进行对比，以确定第一批量文件与第二批量文件的内容一致。

例如，某公司正在将现有的MySQL关系型数据库转型为MongoDB非关系型数据库。首先，确定MySQL数据库中的表数据，包括用户信息、订单信息、产品信息等。然后，将这些表数据同步到MongoDB数据库中，创建相应的集合，例如″Users″、″Orders″、″Products″。接着，在MySQL数据库中，对表数据进行调度执行，得到第一批量文件，即包含MySQL表数据的文件。同时，在MongoDB数据库中，也对表数据进行调度执行，得到第二批量文件，即包含MongoDB集合数据的文件。最后，对第一批量文件和第二批量文件进行对比，以确定转型后生成的MongoDB集合数据与原始MySQL表数据的内容是否一致。如果两个文件的内容完全一致，表明数据在转型过程中没有发生变化，转型后的MongoDB数据库的表数据与原始MySQL数据库的数据保持一致。通过这种批量文件验证方法，可以确保在将第一数据库转型为第二数据库的过程中，转型后的表数据生成的批量文件的内容不变，从而保证数据库转型的准确性和稳定性。

例如，有一家电信运营商，用户账户信息存储在Oracle数据库中，而用户的实时通话记录则存储在Redis数据库中。首先，确定Oracle数据库中的账户表数据，包括用户ID、姓名、余额等信息。然后，将账户表数据同步到Redis数据库中，构建一个名为″Accounts″的键值对集合，将账户信息存储在其中。接下来，在Oracle数据库中，对账户表数据进行调度执行，得到了第一批量文件，即包含Oracle账户数据的文件。同时，在Redis数据库中，也对账户表数据进行调度执行，得到了第二批量文件，即包含Redis键值对集合数据的文件。最后，对第一批量文件和第二批量文件进行对比，比较每个账户的用户ID、姓名和余额等字段是否一致。如果所有账户的信息完全一致，那么可以确定第一批量文件与第二批量文件的内容一致，即Oracle和Redis数据库中的账户数据是一致的。通过这种批量文件验证方法，即使Oracle和Redis是不同类型的数据库，电信运营商也能够验证账户数据的一致性，确保两个数据库中的数据保持同步。

例如，一个公司将他们现有的Oracle关系型数据库转型为Gauss DB数据库。首先进行数据分析，确定Oracle数据库中的表结构、字段和数据。然后，将Oracle数据库中的表结构和字段映射到Gauss DB数据库中。这包括创建相应的表和列，并确保数据类型和约束等相匹配。映射完成，可以使用ETL工具或数据迁移工具将Orac1e数据库中的数据迁移到Gauss DB数据库中。这个过程可以通过批量导入或逐条插入的方式进行。在数据迁移完成后，需要验证转型后的Gauss DB数据库中的数据与原始Oracle数据库中的数据是否一致。可以选择随机抽样一部分数据进行对比，验证记录的准确性和一致性。在数据验证通过后，可以进行完整性和性能测试，确保Gauss DB数据库在处理数据时的稳定性和性能。通过以上步骤，该公司可以将Oracle数据库中的数据转型到Gauss DB数据库中，并确保在转型过程中数据的准确性和一致性。这样，他们就能够从Oracle数据库平滑迁移到Gauss DB数据库，享受到更高性能和更好的数据管理能力。

图3示意性示出了根据本公开实施例的确定第一数据库的表数据的方法流程图。

根据本公开的实施例，如图3所示，例如通过操作S311～操作S313来确定第一数据库的表数据。

在操作S311，确定业务系统的批量框架信息，批量框架信息包括批量或批量组的存储过程映射逻辑。

在操作S312，根据存储过程映射逻辑，确定第一数据库的访问数据表。

在操作S313，解析访问数据表，得到表数据。

例如，由于各业务系统的批量框架存在差异，因而需提前采集业务系统的批量框架信息，例如包括批量、批量组下的存储过程映射逻辑，批量执行状态的判断，批量文件生成后存放在服务器的目录和批量文件结构信息等。以Oracle数据库为例，其批量逻辑基本为存储过程实现，通过访问Oracle的视图以及解析存储过程，可以获取该存储过程访问的所有表。进而从类生产环境的Oracle数据库中，导出这些表数据。再将导出的表数据导入需进行批量测试的Oracle数据库以及转型的目标数据库，保障转型前后的测试数据库有相同的铺底基础数据，可以保证在逻辑不变的条件下生成相同的批量文件。

例如，Oracle的基础视图USER_DEPENDENCIES存储了某一个存过包(一个或多个存储过程可构成一个存过包)依赖的对象、访问的数据表。再通过解析存储过程的代码文本，可以解析单个存储过程内部涉及到访问的数据表。如存储过程a1、a2、a3组成了存过包A，通过USER_DEPENDENCIES视图可以得到A的访问数据表b1、b2、b3，解析拆分存过包A，得到存储过程a1访问表b1，a2访问表b2，以及a3访问表b3。

图4示意性示出了根据本公开实施例的生成批量文件的方法流程图。

根据本公开的实施例，如图4所示，例如通过操作S431～操作S434来对表数据进行调度执行，得到批量文件。

在操作S431，对表数据进行筛选，得到中间过程数据。

在操作S432，根据中间过程数据，生成中间过程文件。或者

在操作S433，对与批量组对应的表数据进行调度执行，得到结果数据。

在操作S434，根据结果数据，生成结果文件。其中，第一批量文件和第二批量文件同时为中间过程文件或结果文件。

例如，一个电商公司拥有一个庞大的用户数据表，可以将特定条件下的用户数据从Oracle数据库筛选出来，并将筛选结果传递给一个批量组进行进一步的业务处理。首先，分析用户数据表的结构和字段，并定义筛选条件。例如，筛选出在过去一个月内有购买记录的用户数据。然后，可以使用SQL查询语句在Oracle数据库中执行筛选操作，将符合条件的用户数据提取出来作为中间过程数据。这些中间过程数据将只包含特定条件下的用户数据。筛选完成后，可以将中间过程数据传递给批量组进行后续的业务处理。中间过程数据可以以文件的形式进行传递，如CSV或JSON文件。批量组是一个由多个单一的批量任务组成的完整业务功能。在本实施例中，批量组可以将接收到的中间过程数据作为输入，并根据业务逻辑执行相应的操作，如计算用户的消费总额、生成用户的购买报告等。批量组完成后，将生成结果数据。这些结果数据可以是统计分析报告、用户购买记录更新等。通过以上步骤，该电商公司可以根据特定条件从Oracle数据库中筛选出用户数据，并通过调用执行批量组对筛选结果进行进一步的业务处理和分析。因此，可以提高数据处理和业务功能的效率，并生成符合业务需求的结果数据。

图5示意性示出了根据本公开实施例的生成结果数据的方法流程图。

根据本公开的实施例，如图5所示，例如通过操作S5331～操作S5332来对与批量组对应的表数据进行调度执行，得到结果数据。

在操作S5331，调用批量调度管理工具的壳程序。

在操作S5332，采用壳程序对与批量组对应的表数据进行调度执行，得到结果数据。其中，壳程序包括与操作系统交互的命令解析器。

例如，可以通过Entegor对Oracle数据库中的批量进行调度执行。通过对Entegor下层已编写的Shell文件进行直接调度，实现对批量或批量组的调度执行，同时在转型后的目标数据库中也采用相同的方法进行批量的调度执行。

例如，某银行应用了批量作业管理系统Entegor，其中已经编写了一些Shell脚本用于执行特定的批量任务或批量组。首先，可以针对不同的批量任务或批量组编写相应的Shell脚本。这些Shell脚本包含了实现具体业务逻辑的代码和命令。然后，通过Entegor批量作业管理系统，可以配置脚本的调度参数，如执行时间、执行频率等。这样，可以将批量任务或批量组与特定的时间点或频率关联起来。配置完成后，Entegor系统会根据设定的调度参数，在指定的时间点或频率触发相应的Shell脚本执行。这样，批量任务或批量组将会按照预定的计划被调度执行。在执行完成后，Entegor系统会记录执行的结果，包括成功或失败的信息。可以通过系统的监控界面或日志查看每个批量任务或批量组的执行情况。如果有错误或异常情况，可以及时采取相应的措施。通过以上步骤，可以通过Entegor批量作业管理系统对已编写的Shell文件进行直接调度，实现对批量任务或批量组的自动化执行。这样，可以大大减轻人工干预的工作量，提高批量作业的效率和准确性。

需要说明的是，除了通过调度系统直接执行Shell文件外，还有其他方法可以实现数据库的批量调度执行。例如，使用数据库内置的调度功能：许多数据库管理系统(例如Oracle、MySQL、SQL Server等)都提供了内置的调度功能，可以通过创建定时任务或作业来执行批量操作。这些调度功能通常提供了灵活的调度选项，如指定执行时间、重复执行、依赖关系等。还有许多第三方调度工具可用于数据库批量调度执行，如Autosys、Control-M、Cron等。这些工具提供了更复杂的调度功能，例如分布式调度、故障处理、日志记录等。如果数据库不提供内置的调度功能或第三方调度工具不可用，可以编写脚本或程序来实现批量调度执行。例如，使用Python、Java等编程语言编写一个定时任务，通过数据库连接执行批量操作。以及使用ETL工具：ETL(抽取、转换和加载)工具通常用于数据集成和数据处理。一些ETL工具具有内置的调度功能，可以方便地执行批量操作。例如，使用Informatica、Talend等ETL工具可以创建工作流程并调度执行。无论选择哪种方法，都需要考虑调度的灵活性、可靠性和安全性。同时，确保在批量调度执行过程中进行适当的监控和日志记录，以便及时发现和解决问题。

图6示意性示出了根据本公开实施例的批量比对的方法流程图。

根据本公开的实施例，如图6所示，例如通过操作S641～操作S643来对第一批量文件与第二批量文件进行对比，以确定第一批量文件与第二批量文件的内容一致。

在操作S641，对比第一批量文件与第二批量文件的文件名。

在操作S642，在第一批量文件与第二批量文件的文件名相同的情况下，分别计算第一批量文件与第二批量文件的MD5值。以及

在操作S643，在第一批量文件与第二批量文件的MD5值相同的情况下，确定第一批量文件与第二批量文件的内容一致。

例如，根据采集的批量框架信息，判断转型前后数据库批量是否已成功执行。批量执行完成后，登录对应的批量文件生成的服务器，获取批量文件，判断转型前后的批量是否都生成了同名批量。在生成同名批量的情况下，计算批量文件的MD5值，判断生成的批量文件内容是否一致。在MD5值一致的情况下，确定第一批量文件与第二批量文件的内容一致。在文件名相同的情况下，通过计算批量文件的MD5值，可以实现整个批量文件的内容对比，实现了文件快速的一致性比对。

图7示意性示出了根据本公开另一实施例的批量比对的方法流程图。

根据本公开的实施例，如图7所示，例如通过操作S741～操作S742来对第一批量文件与第二批量文件进行对比，以确定差异项。

在操作S741，在第一批量文件与第二批量文件的MD5值不相同的情况下，根据批量文件结构信息，分别对第一批量文件与第二批量文件进行解析。

在操作S742，对比解析后的第一批量文件与第二批量文件的文件内容，确定差异项。

例如，MD5值可以比较整个文件内容，可实现文件快速的一致性比对，如文件不一致，则需要对文件内容进行详细比对，发现具体不一致的地方。在MD5值不一致的情况下，需根据批量文件结构，解析批量文件，对批量文件的内容进行详细比对，得出差异项并进行记录。批量文件的每一行为一条记录，每条记录只有value没有key，通过分隔符拼接获得定长文件。文件结构则表示每条记录的构成形式，比如每个value是多长、value间用什么分隔符拼接等，即可以通过文件结构把文件中单行记录拆分为对应的key-value。通过拆分得到的各行对应的key-value，可以快速确定第一批量文件与第二批量文件的差异项，进而可以进行相关优化调整，以提高数据库转化的效率。

图8A示意性示出了根据本公开又一实施例的批量比对的方法流程图。图8B示意性示出了根据本公开实施例的批量文件装置的结构框图。图8C示意性示出了根据本公开另一实施例的批量文件验证方法的流程图。

根据本公开的实施例，如图8A所示，例如通过操作S841～操作S842来对第一批量文件与第二批量文件进行对比，以确定第一批量文件与第二批量文件的内容一致。

在操作S841，建立批量对比平台。

在操作S842，通过批量对比平台对第一批量文件与第二批量文件进行对比。

例如，如图8B所示，批量文件装置800包括信息采集模块810、数据准备模块820、批量调度模块830、批量比对模块840和比对平台模块850。其中，信息采集模块用于采集业务系统批量框架信息，并在系统中进行录入，为后续批量执行及比对提供逻辑支持。数据准备模块用于负责解析批量中存储过程所涉及的数据表，同时对业务数据表进行铺底数据准备。批量调度模块用于通过对Shell文件的调度，实现转型前后批量的相同调度执行。批量比对模块用于将批量生成的文件进行比对，得出批量文件的差异性，进而判断转型后的批量逻辑是否存在问题。以及比对平台模块用于实现采集信息的录入、批量比对任务的发起以及结果的可视化展示功能。

例如，如图8C所示，批量文件验证方法包括：通过对业务系统批量框架的分析，得到批量框架信息，并在批量比对工具中进行录入。解析批量对应的存储过程，获取批量所涉及的业务表，从类生产环境进行表数据的导出，将导出数据同步到待进行比对的数据库，实现铺底数据的准备。通过对服务器上Shell文件的执行，实现批量的自动调度。根据批量框架采集的信息判断批量执行状态，对执行完成的批量进行文件比对，获取差异项，判断转型后逻辑的正确性。在批量比对工具系统发起比对任务、展示比对任务的结果明细信息。

图9示意性示出了根据本公开又一实施例的批量文件验证方法的流程图。

根据本公开的实施例，如图9所示，例如通过操作S910来对批量文件的对比结果进行展示。

在操作S910，通过批量对比平台对第一批量文件与第二批量文件的对比结果进行展示。通过对批量文件的对比结果进行可视化展示，直观性强，也更容易定位潜在的问题。

基于上述批量文件验证方法，本公开还提供了一种批量文件验证装置。以下将结合图10对该批量文件验证装置进行详细描述。

图10示意性示出了根据本公开另一实施例的批量文件验证装置的结构框图。

如图10所示，该实施例的批量文件验证装置1000例如包括：确定模块1010、同步模块1020、调度模块1030和对比模块1040。

确定模块1010用于确定第一数据库的表数据。在一实施例中，确定模块1010可以用于执行前文描述的操作S210，在此不再赘述。

同步模块1020用于同步表数据到一个或多个第二数据库，其中，第一数据库与第二数据库为不同数据库，表数据为批量数据。在一实施例中，同步模块1020可以用于执行前文描述的操作S220，在此不再赘述。

调度模块1030用于在第一数据库中，对表数据进行调度执行，得到第一批量文件，以及在第二数据库中，对表数据进行调度执行，得到第二批量文件。在一实施例中，调度模块1030可以用于执行前文描述的操作S230，在此不再赘述。

对比模块1040用于对第一批量文件与第二批量文件进行对比，以确定第一批量文件与第二批量文件的内容一致。在一实施例中，对比模块1040可以用于执行前文描述的操作S240，在此不再赘述。

根据本公开的实施例，确定模块1010、同步模块1020、调度模块1030和对比模块1040中的任意多个模块可以合并在一个模块中实现，或者其中的任意一个模块可以被拆分成多个模块。或者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合，并在一个模块中实现。根据本公开的实施例，确定模块1010、同步模块1020、调度模块1030和对比模块1040中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，确定模块1010、同步模块1020、调度模块1030和对比模块1040中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

图11示意性示出了根据本公开实施例的适于实现批量文件验证方法的电子设备的方框图。

如图11所示，根据本公开实施例的电子设备1100包括处理器1101，其可以根据存储在只读存储器(ROM)1102中的程序或者从存储部分1108加载到随机访问存储器(RAM)1103中的程序而执行各种适当的动作和处理。处理器1101例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))等等。处理器1101还可以包括用于缓存用途的板载存储器。处理器1101可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 1103中，存储有电子设备1100操作所需的各种程序和数据。处理器1101、ROM 1102以及RAM 1103通过总线1104彼此相连。处理器1101通过执行ROM 1102和/或RAM1103中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 1102和RAM 1103以外的一个或多个存储器中。处理器1101也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，电子设备1100还可以包括输入/输出(I/O)接口1105，输入/输出(I/O)接口1105也连接至总线1104。电子设备1100还可以包括连接至I/O接口1105的以下部件中的一项或多项：包括键盘、鼠标等的输入部分1106；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1107；包括硬盘等的存储部分1108；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1109。通信部分1109经由诸如因特网的网络执行通信处理。驱动器1110也根据需要连接至I/O接口1105。可拆卸介质1111，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器1110上，以便于从其上读出的计算机程序根据需要被安装入存储部分1108。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的批量文件验证方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质，例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 1102和/或RAM 1103和/或ROM1102和RAM 1103以外的一个或多个存储器。

本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时，该程序代码用于使计算机系统实现本公开实施例所提供的批量文件验证方法。

在该计算机程序被处理器1101执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。

在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分1109被下载和安装，和/或从可拆卸介质1111被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

在这样的实施例中，该计算机程序可以通过通信部分1109从网络上被下载和安装，和/或从可拆卸介质1111被安装。在该计算机程序被处理器1101执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (12)

1.一种批量文件验证方法，其特征在于，包括：

确定第一数据库的表数据；

同步所述表数据到一个或多个第二数据库；

在所述第一数据库中，对所述表数据进行调度执行，得到第一批量文件，以及在所述第二数据库中，对所述表数据进行调度执行，得到第二批量文件；以及

对所述第一批量文件与所述第二批量文件进行对比，以确定所述第一批量文件与所述第二批量文件的内容一致；

其中，所述第一数据库与所述第二数据库为不同数据库，所述表数据为批量数据。

2.根据权利要求1所述的方法，其特征在于，所述确定第一数据库的表数据包括：

确定业务系统的批量框架信息，所述批量框架信息包括批量或批量组的存储过程映射逻辑；

根据所述存储过程映射逻辑，确定所述第一数据库的访问数据表；

解析所述访问数据表，得到所述表数据。

3.根据权利要求2所述的方法，其特征在于，所述在所述第一数据库中，对所述表数据进行调度执行，得到第一批量文件，以及在所述第二数据库中，对所述表数据进行调度执行，得到第二批量文件包括：

对所述表数据进行筛选，得到中间过程数据；

根据所述中间过程数据，生成中间过程文件；或者

对与所述批量组对应的表数据进行调度执行，得到结果数据；

根据所述结果数据，生成结果文件；

其中，所述第一批量文件和所述第二批量文件同时为所述中间过程文件或所述结果文件。

4.根据权利要求3所述的方法，其特征在于，所述对与所述批量组对应的表数据进行调度执行，得到结果数据包括：

调用批量调度管理工具的壳程序；

采用所述壳程序对与所述批量组对应的表数据进行调度执行，得到所述结果数据；

其中，所述壳程序包括与操作系统交互的命令解析器。

5.根据权利要求2所述的方法，其特征在于，所述对所述第一批量文件与所述第二批量文件进行对比，以确定所述第一批量文件与所述第二批量文件的内容一致包括：

对比所述第一批量文件与所述第二批量文件的文件名；

在所述第一批量文件与所述第二批量文件的文件名相同的情况下，分别计算所述第一批量文件与所述第二批量文件的MD5值；以及

在所述第一批量文件与所述第二批量文件的MD5值相同的情况下，确定所述第一批量文件与所述第二批量文件的内容一致。

6.根据权利要求5所述的方法，其特征在于，所述批量框架信息还包括批量文件结构信息，方法还包括：

在所述第一批量文件与所述第二批量文件的MD5值不相同的情况下，根据所述批量文件结构信息，分别对所述第一批量文件与所述第二批量文件进行解析；

对比解析后的所述第一批量文件与所述第二批量文件的文件内容，确定差异项。

7.根据权利要求1所述的方法，其特征在于，所述对所述第一批量文件与所述第二批量文件进行对比，以确定所述第一批量文件与所述第二批量文件的内容一致包括：

建立批量对比平台；

通过所述批量对比平台对所述第一批量文件与所述第二批量文件进行对比。

8.根据权利要求7所述的方法，其特征在于，还包括：

通过所述批量对比平台对所述第一批量文件与所述第二批量文件的对比结果进行展示。

9.一种批量文件验证装置，其特征在于，包括：

确定模块，用于确定第一数据库的表数据；

同步模块，用于同步所述表数据到一个或多个第二数据库，其中，所述第一数据库与所述第二数据库为不同数据库，所述表数据为批量数据；

调度模块，用于在所述第一数据库中，对所述表数据进行调度执行，得到第一批量文件，以及在所述第二数据库中，对所述表数据进行调度执行，得到第二批量文件；以及

对比模块，用于对所述第一批量文件与所述第二批量文件进行对比，以确定所述第一批量文件与所述第二批量文件的内容一致。

10.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器执行根据权利要求1～8中任一项所述的方法。

11.一种计算机可读存储介质，其特征在于，其上存储有可执行指令，该指令被处理器执行时使处理器执行根据权利要求1～8中任一项所述的方法。

12.一种计算机程序产品，其特征在于，包括计算机程序，所述计算机程序被处理器执行时实现根据权利要求1～8中任一项所述的方法。