CN114637592A - 一种数据清分方法、装置、系统、电子设备及存储介质 - Google Patents

一种数据清分方法、装置、系统、电子设备及存储介质 Download PDF

Info

Publication number
CN114637592A
CN114637592A CN202011478864.6A CN202011478864A CN114637592A CN 114637592 A CN114637592 A CN 114637592A CN 202011478864 A CN202011478864 A CN 202011478864A CN 114637592 A CN114637592 A CN 114637592A
Authority
CN
China
Prior art keywords
database
idc
target
task
sorting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011478864.6A
Other languages
English (en)
Inventor
杨延超
黄铮
王斌
胡冀旋
张群
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NetsUnion Clearing Corp
Original Assignee
NetsUnion Clearing Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NetsUnion Clearing Corp filed Critical NetsUnion Clearing Corp
Priority to CN202011478864.6A priority Critical patent/CN114637592A/zh
Priority to PCT/CN2021/136570 priority patent/WO2022127673A1/zh
Publication of CN114637592A publication Critical patent/CN114637592A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14—Error detection or correction of the data by redundancy in operation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14—Error detection or correction of the data by redundancy in operation
    • G06F11/1402—Saving, restoring, recovering or retrying
    • G06F11/1446—Point-in-time backing up or restoration of persistent data
    • G06F11/1448—Management of the data involved in backup or backup restore
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/04—Trading; Exchange, e.g. stocks, commodities, derivatives or currency exchange

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Software Systems (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Databases & Information Systems (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Technology Law (AREA)
  • General Business, Economics & Management (AREA)
  • Computing Systems (AREA)
  • Development Economics (AREA)
  • Data Mining & Analysis (AREA)
  • Quality & Reliability (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请公开了一种数据清分方法、装置、系统、电子设备及存储介质，该方法，由网络数据中心IDC执行，包括：根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合；目标主数据库为主数据库中的可用部分，目标备数据库为主数据库中的不可用部分在备数据库中的备份；根据确定的数据库组合生成IDC级的选库清分任务；将选库清分任务分别下发至目标主数据库的IDC和目标备数据库的IDC，以使各IDC执行接收到的选库清分任务，并返回IDC级的清分汇总信息和IDC级的对账信息；生成批次汇总信息和批次清分对账信息。本申请通过确定包括主数据库和备数据库的数据库组合，提高了主数据库故障时的清分业务准确性。

Description

一种数据清分方法、装置、系统、电子设备及存储介质
技术领域
本申请涉及计算机技术领域，尤其涉及一种数据清分方法、装置、系统、电子设备及存储介质。
背景技术
在支付清算平台的业务中，清分是清算的数据准备阶段，主要内容是将当日的全部网络交易数据进行汇总、整理、分类。目前，支付清算平台的交易库常为多IDC(InternetData Center，网络数据中心)部署，每个IDC有多套数据库，且每个IDC都包含主数据库、同城备份数据库(简称同城备库)、异地备份数据库(简称异地备库)。在数据库的主备同步方式上，主数据库和同城备库采用半同步，同城备库和异地备库采用异步同步。
当某个主数据库发生异常时，清分系统将全部改用备库进行清分。然而，由于主、备数据库的数据同步可能因为网络等原因产生中断或者延迟，致使备数据库的数据准确性往往不如主数据库高，因而造成清分业务存在准确性风险。
发明内容
本申请实施例提供了一种数据清分方法、装置、系统、电子设备及存储介质，以解决现有清分系统在使用备数据库替代异常主数据库进行清分时，产生的业务准确性风险问题。
本申请实施例采用下述技术方案：
第一方面，本申请提出了一种数据清分方法，由网络数据中心IDC执行，清分所依赖的数据库为主备架构，且用于保存同一数据的主数据库和备数据库设置在不同的IDC上，所述方法包括：
根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合；所述目标主数据库为所述主数据库中的可用部分，所述目标备数据库为所述主数据库中的不可用部分在所述备数据库中的备份；
根据确定的数据库组合生成IDC级的选库清分任务；
将选库清分任务分别下发至目标主数据库的IDC和目标备数据库的IDC，以使所述目标主数据库的IDC和所述目标备数据库的IDC执行接收到的选库清分任务，并返回IDC级的清分汇总信息和IDC级的对账信息；
根据IDC级的清分汇总信息和IDC级的对账信息生成批次汇总信息和批次清分对账信息。
可选地，所述根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合，包括：
通过运维操作界面展示各数据库的状态；
接收运维操作界面反馈的任务配置信息，所述任务配置信息包括数据库表信息和数据源地址；
根据所述任务配置信息确定数据库组合。
可选地，所述根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合，包括：
确定主数据库中的可用部分和不可用部分，根据主数据库和备数据库之间的映射关系，选择以备数据库中的对应备份替换主数据库中的不可用部分，从而形成所述数据库组合。
可选地，所述确定包含目标主数据库和目标备数据库的数据库组合包括：
确定数据库组合中各数据库的数据源地址；
所述根据确定的数据库组合生成IDC级的选库清分任务包括：根据各数据源地址对应的IDC，分别生成与各IDC对应的选库清分任务。
可选地，所述根据确定的数据库组合生成IDC级的选库清分任务包括：
查询清分的交易聚合策略和交易业务策略，将查询到的所述交易聚合策略和交易业务策略封装到选库清分任务中。
可选地，所述目标备数据库包括同城备库和异地备库，在所述同城备库和所述异地备库均可用时，优先指定使用所述同城备库与所述目标主数据库组成数据库组合。
可选地，所述目标主数据库的IDC和所述目标备数据库的IDC执行接收到的选库清分任务，包括以下至少一项：
目标主数据库的IDC通过本IDC的管理组件接收并解析所述选库清分任务，基于选库清分任务的解析结果将所述选库清分任务拆分成子任务，使所述选库清分任务以子任务的粒度进行执行；
目标备数据库的IDC通过本IDC的管理组件接收并解析所述选库清分任务，基于选库清分任务的解析结果将所述选库清分任务拆分成子任务，使所述选库清分任务以子任务的粒度进行执行。
可选地，所述接收并解析所述选库清分任务包括：从选库清分任务中解析出数据库表信息；
所述基于选库清分任务的解析结果将所述选库清分任务拆分成子任务包括：根据本IDC的数据库表信息确定目标数据库表，生成与各目标数据库表对应的子任务。
可选地，所述使所述选库清分任务以子任务的粒度进行执行包括：
将子任务下发到本IDC的执行组件，通过执行组件处理所述子任务指定的数据库表，得到清分数据。
第二方面，本申请公开了一种数据清分装置，由网络数据中心IDC执行，清分所依赖的数据库为主备架构，且用于保存同一数据的主数据库和备数据库设置在不同的IDC上，所述装置包括：
组合确定模块，用于根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合，所述目标主数据库为所述主数据库中的可用部分，所述目标备数据库为所述主数据库中的不可用部分在所述备数据库中的备份；
任务生成模块，用于根据确定的数据库组合生成IDC级的选库清分任务；
任务下发模块，用于将选库清分任务分别下发至目标主数据库的IDC和目标备数据库的IDC，以使所述目标主数据库的IDC和所述目标备数据库的IDC执行接收到的选库清分任务，并返回IDC级的清分汇总信息和IDC级的对账信息；
清分汇总模块，用于根据IDC级的清分汇总信息和IDC级的对账信息生成批次汇总信息和批次清分对账信息。
第三方面，本申请公开了一种数据清分系统，包括多个网络数据中心IDC，至少部分IDC设置有如上所述的数据清分装置。
第四方面，本申请公开了一种电子设备，包括：
处理器；以及
被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行如上任一所述方法。
第五方面，本申请公开了一种计算机可读存储介质，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的电子设备执行时，使得所述电子设备执行如上任一所述方法。
本申请实施例采用的上述至少一个技术方案能够达到以下有益效果：
本申请通过根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合进行清分，其中目标主数据库为主数据库中的可用部分，目标备数据库为主数据库中的不可用部分在备数据库中的备份，由于数据库组合沿用了主数据库的可用部分，因而相比于单纯使用备数据库进行清分来说，清分数据更加可靠准确，从而克服了全部使用备数据库时造成的数据准确性风险问题。
附图说明
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
图1为支付清算平台多IDC数据库拓扑示意图；
图2为本申请一个实施例的数据清分方法的流程示意图；
图3为本申请另一个实施例的数据清分方法的流程示意图；
图4为体现本申请数据清分方法数据优势的数据流程图；
图5为本申请实施例中的数据清分装置框图；
图6为本申请实施例中一种电子设备的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
以下结合附图，详细说明本申请各实施例提供的技术方案。
图1为支付清算平台的多IDC数据库拓扑示意图，如图1所示，交易库采用多IDC部署，每个IDC有多套数据库，且每个IDC都包含主数据库、同城备库和异地备库。图1中示出了城市A和城市B，以城市A中的IDC-1为例，其包括有主数据库(居于右侧)，该主数据库在城市A设有同城备库，该同城备库位于城市A的IDC-2中(居于中间)，此外，该主数据库还设有异地备库，该异地备库位于城市B的IDC-2中(居于左侧)。各个备数据库用于在主数据库发生故障时提供备份数据。在数据同步上，主数据库与同城备库采用半同步，同城备与异地备采用异步同步。
目前的做法是，若某个主数据库在清分时发生故障，则直接启动对应的备数据库进行清分。然而，这种方案十分依赖于数据同步的稳定性。而实际情况是，主数据库和备数据库的数据同步常因为网络等原因产生中断或者延迟，导致备数据库的数据准确性不如主数据库高，从而引起清分准确性风险。
因此，本申请实施例的数据清分方法应用于主数据库发生故障的清分场景，提出了根据清分任务和各数据库的状态，确定数据库组合进行清分的技术方案，数据库组合包含目标主数据库和目标备数据库，其中，目标主数据库为主数据库中的可用部分，目标备数据库为主数据库中的不可用部分在备数据库中的备份，由于数据库组合沿用了主数据库的可用部分，因而相比于单纯使用备数据库进行清分来说，清分数据更加可靠准确，从而克服了全部使用备数据库时造成的数据准确性风险问题。
图2为本申请一个实施例的数据清分方法的流程示意图，参见图2所示，本申请数据清分方法，由网络数据中心IDC执行，清分所依赖的数据库为主备架构，且用于保存同一数据的主数据库和备数据库设置在不同的IDC上，所述方法包括：
步骤S110，根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合；其中，目标主数据库为主数据库中的可用部分，目标备数据库为主数据库中的不可用部分在备数据库中的备份。
即，本申请根据清分任务和各数据库的状态，将主数据库的可用部分保留，并使用备数据库中的相应部分替换主数据库中的不可用部分，从而形成数据库组合。由于该数据库组合采用了主数据库中的可用部分，因而相比于全部使用备数据库来说，数据的可靠性更高，避免了由于网络问题造成的备数据库数据风险问题，清分的准确性更高。
步骤S120，根据确定的数据库组合生成IDC级的选库清分任务。IDC级的选库清分任务，即是指面向网络数据中心IDC的任务指令，用于向存储主数据库或备数据库的IDC指明清分工作的任务内容。该选库清分任务指明了清分任务和要使用的数据库组合，包括目标主数据库和目标备数据库，可以告知对应的IDC按照确定的数据库组合信息，实现清分任务。
步骤S130，将选库清分任务分别下发至目标主数据库的IDC和目标备数据库的IDC，以使目标主数据库的IDC和目标备数据库的IDC执行接收到的选库清分任务，并返回IDC级的清分汇总信息和IDC级的对账信息。具体地，各IDC通过其中的管理组件(Manager)和执行组件(Worker)执行接收到的选库清分任务，并返回IDC级的清分汇总信息和IDC级的对账信息。
步骤S140，根据IDC级的清分汇总信息和IDC级的对账信息，通过增加时间戳内容等操作，生成批次汇总信息和批次清分对账信息，利用这些信息对外提供服务，实现清分业务。
在本申请的一个实施例中，根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合，包括：
通过运维操作界面展示各数据库的状态；接收运维操作界面反馈的任务配置信息，该任务配置信息包括数据库表信息和数据源地址；根据任务配置信息确定数据库组合。
图3为本申请另一个实施例的选库清分方法的流程示意图。如图3所示，本申请实施例的选库清分方法从运维操作界面开始实现。运维操作界面具有IDC选择、数据库选择和数据源选择等多个选项，运维人员可以根据数据库状态，通过运维操作界面进行IDC、数据库和数据源的指定。其中，各数据库的状态通过运维操作界面展示，方便运维人员查看和操作，以根据清分任务选择相关的IDC、数据库和数据源。运维人员选定IDC、数据库和数据源等信息后，点击触发任务，就会下发清分任务到IDC的控制组件(Controller)，并进行接下来的任务解析封装和进一步下发执行。
除了上述由运维人员通过运维操作界面进行的人工手动选定数据库组合外，在本申请的另一个实施例中，还可以使用计算机软件程序自动生成数据库组合。例如，步骤S110中，根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合，包括：
确定主数据库中的可用部分和不可用部分，根据主数据库和备数据库之间的映射关系，选择以备数据库中的对应备份替换主数据库中的不可用部分，从而形成数据库组合。
也就是说，利用主数据库和备数据库之间的映射关系，根据各数据库的状态，通过计算机程序进行查询检索，将主数据库的可用部分与备数据库的备份部分进行组合，从而生成数据库组合，这样可以节省人力，并提高生成数据库组合的速度和准确性。
由于在IDC拓扑结构中，各备数据库与主数据库的数据库名、表名、表字段完全一致，唯一的区别是数据源地址不同。因而，在本申请的一个实施例中，主数据库和备数据库之间的映射关系就表现为数据源地址映射关系。步骤S110中，确定包含目标主数据库和目标备数据库的数据库组合包括：确定数据库组合中各数据库的数据源地址。对应地，在步骤S120中，根据确定的数据库组合生成IDC级的选库清分任务包括：根据各数据源地址对应的IDC，分别生成与各IDC对应的选库清分任务。
在本申请的一个实施例中，根据确定的数据库组合生成IDC级的选库清分任务包括：查询清分的交易聚合策略和交易业务策略，将查询到的交易聚合策略和交易业务策略封装到选库清分任务中。
其中，交易业务策略用于确定清分目标，即：解决对什么进行清分的问题，包括清分任务类型、要清分哪些类型的交易等，例如，分别对借记、贷记交易数据进行分析、整理和汇总；交易聚合策略用于确定清分方法，即：解决如何进行清分的问题，包括清分交易时，通过交易的哪些字段聚合生成清分信息等内容，例如，通过“借方”、“贷方”字段信息聚合生成清分信息。从而，封装形成的选库清分任务中，既包括有作为数据源的数据库组合信息，又包括有作为执行信息的交易聚合策略和交易业务策略，如此就可以实现选库清分，处理交易数据。
在本申请的一个实施例中，目标备数据库包括同城备库和异地备库，在同城备库和异地备库均可用时，优先指定使用同城备库与目标主数据库组成数据库组合。
由于同城备库与主数据库之间的距离更近，网络连接状态更好，因而数据的可靠性要高于异地备库，因此，当同城备库和异地备库均可使用时，本申请优先使用同城备库进行清分的数据替换。
在本申请的一个实施例中，目标主数据库的IDC和目标备数据库的IDC执行接收到的选库清分任务，包括以下至少一项：目标主数据库的IDC通过本IDC的管理组件Manager接收并解析选库清分任务，基于选库清分任务的解析结果将选库清分任务拆分成子任务，使选库清分任务以子任务的粒度进行执行；目标备数据库的IDC通过本IDC的管理组件Manager接收并解析选库清分任务，基于选库清分任务的解析结果将选库清分任务拆分成子任务，使选库清分任务以子任务的粒度进行执行。
即，选库清分任务下发到主数据库或备数据库所在IDC后，可以由该IDC自身的管理组件进行任务解析和拆分，用于从整体的选库清分任务中，提取出本IDC所要完成的清分任务，以进行具体的子任务操作。
在本申请的一个实施例中，各IDC的管理组件接收并解析选库清分任务包括：从选库清分任务中解析出数据库表信息。进而，基于选库清分任务的解析结果将选库清分任务拆分成子任务包括：根据本IDC的数据库表信息确定目标数据库表，生成与各目标数据库表对应的子任务。
通过各IDC的相应管理组件进行任务解析和封装，实现了对各IDC上清分任务的提取划分，从而生成了仅与各IDC上数据库相关的清分子任务，将这些子任务继续下发到执行组件worker，便可进行清分任务的具体执行操作。
在本申请的一个实施例中，各IDC使选库清分任务以子任务的粒度进行执行包括：将子任务下发到本IDC的执行组件，通过执行组件处理子任务指定的数据库表，得到清分数据。
具体结合图3所示实施例进行说明。在运维人员根据清分任务选定数据库组合后，控制组件Controller会解析该任务，并从配置中心查询清分的交易聚合策略和交易业务策略，一并封装后路由转发到各IDC。
接着，各IDC接收到封装后的选库清分任务，就可以通过管理组件Manager将任务解析出来，并根据任务类型，从配置中心找到该IDC处理清分任务时对应的库表信息，并根据该库表信息，将选库清分任务拆分成子任务，异步分发给执行组件Worker。
执行组件Worker接收到子任务后，便可知晓清分涉及的数据源，即：哪个数据库的哪张表。同时，执行组件Worker也获得了清分任务的具体执行信息，即：交易业务策略和交易聚合策略，根据交易业务策略确定要清分的交易数据，根据交易聚合策略确定如何进行清分。即，执行组件Worker只需要解析子任务，并完全按照子任务清单执行任务，就可实现对应的清分任务，产生库表级的清分汇总信息和对账信息。进而，管理组件Manager将本IDC的执行组件Worker产生的库表级清分汇总信息和库表级的对账信息处理成IDC级的清分汇总信息和对账信息，上报给控制组件Controller。
控制组件Controller再通过添加时间戳等方式，将IDC级的清分汇总信息和IDC级对账信息处理成批次清分汇总信息和批次清分对账信息，对外提供服务，即实现了完整的数据清分任务。上述清分过程的数据准确性优势可通过图4所示的数据流程图显著体现。
如图4所示，IDC1中的本地交易库为主数据库，IDC2中存在有IDC1本地交易库的同城备库。当主数据库中的01数据库故障时，导致原本的清分任务出错或失败，此时，本实施例通过IDC的控制组件Controller生成选库清分任务，下发给不同IDC的管理组件Manager以进行重新清分(管理组件Manager为集群结构，图4中以一个管理组件Manager来指代)。
该选库清分任务摒弃了仅仅使用备数据库清分的传统方式，而是通过选定数据库组合，来提高数据的准确性。该数据库组合包括由主数据库的可用部分构成的目标主数据库(即IDC1中本地交易库01以外的部分)，以及由备数据库中替换主数据不可用部分的备份构成的目标备数据库(即IDC2中同城备库的01部分)。各IDC的管理组件Manager接收到上述选库清分任务后，会解析该选库清分任务，以获取清分任务类型，并根据任务类型，找到自身IDC处理该选库清分任务时对应的库表信息，根据库表信息，将该选库清分任务拆分成子任务，异步分发给执行组件Worker执行。
各执行组件Worker收到子任务后，就可以根据库表信息，清分自身被选定的数据库内容，以图4所示实施例来说，即包括IDC1中本地交易库除01的可用部分，以及IDC2中同城备库里的01部分。
由此可知，本申请的数据清分方法实施例中，通过选定包含主数据库和备数据库的数据库组合来进行清分，仅采用备数据库中的部分备份来替换主数据库的不可用部分，其他数据源依然来自主数据库，从而避免了全部使用备数据库进行清分时由于数据同步问题造成的准确性业务风险，提高了清分结果的安全性。
图5为本申请实施例中的数据清分装置框图，由网络数据中心IDC执行，其中，清分所依赖的数据库为主备架构，且用于保存同一数据的主数据库和备数据库设置在不同的IDC上，如图5所示，该数据清分装置包括：
组合确定模块510，用于根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合，目标主数据库为主数据库中的可用部分，目标备数据库为主数据库中的不可用部分在备数据库中的备份。
任务生成模块520，用于根据确定的数据库组合生成IDC级的选库清分任务。
任务下发模块530，用于将选库清分任务分别下发至目标主数据库的IDC和目标备数据库的IDC，以使目标主数据库的IDC和目标备数据库的IDC执行接收到的选库清分任务，并返回IDC级的清分汇总信息和IDC级的对账信息。
清分汇总模块540，用于根据IDC级的清分汇总信息和IDC级的对账信息生成批次汇总信息和批次清分对账信息。
在本申请的一个实施例中，组合确定模块510，具体用于通过运维操作界面展示各数据库的状态；接收运维操作界面反馈的任务配置信息，任务配置信息包括数据库表信息和数据源地址；根据任务配置信息确定数据库组合。
在本申请的一个实施例中，组合确定模块510，具体用于确定主数据库中的可用部分和不可用部分，根据主数据库和备数据库之间的映射关系，选择以备数据库中的对应备份替换主数据库中的不可用部分，从而形成数据库组合。
在本申请的一个实施例中，组合确定模块510，具体用于确定数据库组合中各数据库的数据源地址。对应地，任务生成模块520，用于根据各数据源地址对应的IDC，分别生成与各IDC对应的选库清分任务。
在本申请的一个实施例中，任务生成模块520，用于查询清分的交易聚合策略和交易业务策略，将查询到的交易聚合策略和交易业务策略封装到选库清分任务中。
在本申请的一个实施例中，目标备数据库包括同城备库和异地备库，在同城备库和异地备库均可用时，组合确定模块510优先指定使用同城备库与目标主数据库组成数据库组合。
在本申请的一个实施例中，任务下发模块530使目标主数据库的IDC和目标备数据库的IDC执行接收到的选库清分任务，包括以下至少一项：使目标主数据库的IDC通过本IDC的管理组件接收并解析选库清分任务，基于选库清分任务的解析结果将选库清分任务拆分成子任务，使选库清分任务以子任务的粒度进行执行；使目标备数据库的IDC通过本IDC的管理组件接收并解析选库清分任务，基于选库清分任务的解析结果将选库清分任务拆分成子任务，使选库清分任务以子任务的粒度进行执行。
在本申请的一个实施例中，任务下发模块530使目标主数据库和/或目标备数据库接收并解析选库清分任务包括：使管理组件从选库清分任务中解析出数据库表信息；根据本IDC的数据库表信息确定目标数据库表，生成与各目标数据库表对应的子任务。
在本申请的一个实施例中，任务下发模块530使使选库清分任务以子任务的粒度进行执行包括：将子任务下发到本IDC的执行组件，通过执行组件处理子任务指定的数据库表，得到清分数据。
本申请还公开了一种数据清分系统，包括多个网络数据中心IDC，至少部分IDC设置有上述的数据清分装置。
能够理解，上述数据清分装置，能够实现前述实施例中提供的数据清分方法的各个步骤，关于数据清分方法的相关阐释均适用于数据清分装置，此处不再赘述。
本申请还公开了一种电子设备，包括：处理器；以及被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行如上任一的数据清分方法。
本申请还公开了一种计算机可读存储介质，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的电子设备执行时，使得所述电子设备执行如上任一的数据清分方法。
图6是本申请的一个实施例电子设备的结构示意图。请参考图6，在硬件层面，该电子设备包括处理器，可选地还包括内部总线、网络接口、存储器。其中，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器(non-volatile memory)，例如至少1个磁盘存储器等。当然，该电子设备还可能包括其他业务所需要的硬件。
处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是ISA(Industry Standard Architecture，工业标准体系结构)总线、PCI(PeripheralComponent Interconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图6中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。
存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。
处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成数据清分装置。处理器，执行存储器所存放的程序，并具体用于执行以下操作：
根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合；目标主数据库为主数据库中的可用部分，目标备数据库为主数据库中的不可用部分在备数据库中的备份；
根据确定的数据库组合生成IDC级的选库清分任务；
将选库清分任务分别下发至目标主数据库的IDC和目标备数据库的IDC，以使目标主数据库的IDC和目标备数据库的IDC执行接收到的选库清分任务，并返回IDC级的清分汇总信息和IDC级的对账信息；
根据IDC级的清分汇总信息和IDC级的对账信息生成批次汇总信息和批次清分对账信息。
上述如本申请图5所示实施例揭示的数据清分装置执行的方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(Digital SignalProcessor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。
该电子设备还可执行图2中数据清分装置执行的方法，并实现数据清分装置在图2所示实施例的功能，本申请实施例在此不再赘述。
本申请实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令，该指令当被包括多个应用程序的电子设备执行时，能够使该电子设备执行图5所示实施例中数据清分装置执行的方法，并具体用于执行：
根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合；目标主数据库为主数据库中的可用部分，目标备数据库为主数据库中的不可用部分在备数据库中的备份；
根据确定的数据库组合生成IDC级的选库清分任务；
将选库清分任务分别下发至目标主数据库的IDC和目标备数据库的IDC，以使目标主数据库的IDC和目标备数据库的IDC执行接收到的选库清分任务，并返回IDC级的清分汇总信息和IDC级的对账信息；
根据IDC级的清分汇总信息和IDC级的对账信息生成批次汇总信息和批次清分对账信息。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (13)

1.一种数据清分方法，由网络数据中心IDC执行，其中，清分所依赖的数据库为主备架构，且用于保存同一数据的主数据库和备数据库设置在不同的IDC上，所述方法包括：
根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合；所述目标主数据库为所述主数据库中的可用部分，所述目标备数据库为所述主数据库中的不可用部分在所述备数据库中的备份；
根据确定的数据库组合生成IDC级的选库清分任务；
将选库清分任务分别下发至目标主数据库的IDC和目标备数据库的IDC，以使所述目标主数据库的IDC和所述目标备数据库的IDC执行接收到的选库清分任务，并返回IDC级的清分汇总信息和IDC级的对账信息；
根据IDC级的清分汇总信息和IDC级的对账信息生成批次汇总信息和批次清分对账信息。
2.如权利要求1所述方法，其中，所述根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合，包括：
通过运维操作界面展示各数据库的状态；
接收运维操作界面反馈的任务配置信息，所述任务配置信息包括数据库表信息和数据源地址；
根据所述任务配置信息确定数据库组合。
3.如权利要求1所述方法，其中，所述根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合，包括：
确定主数据库中的可用部分和不可用部分，根据主数据库和备数据库之间的映射关系，选择以备数据库中的对应备份替换主数据库中的不可用部分，从而形成所述数据库组合。
4.如权利要求1所述方法，其中，所述确定包含目标主数据库和目标备数据库的数据库组合包括：
确定数据库组合中各数据库的数据源地址；
所述根据确定的数据库组合生成IDC级的选库清分任务包括：根据各数据源地址对应的IDC，分别生成与各IDC对应的选库清分任务。
5.如权利要求1所述方法，其中，所述根据确定的数据库组合生成IDC级的选库清分任务包括：
查询清分的交易聚合策略和交易业务策略，将查询到的所述交易聚合策略和交易业务策略封装到选库清分任务中。
6.如权利要求1所述方法，其中，所述目标备数据库包括同城备库和异地备库，在所述同城备库和所述异地备库均可用时，优先指定使用所述同城备库与所述目标主数据库组成数据库组合。
7.如权利要求1所述方法，其中，所述目标主数据库的IDC和所述目标备数据库的IDC执行接收到的选库清分任务，包括以下至少一项：
目标主数据库的IDC通过本IDC的管理组件接收并解析所述选库清分任务，基于选库清分任务的解析结果将所述选库清分任务拆分成子任务，使所述选库清分任务以子任务的粒度进行执行；
目标备数据库的IDC通过本IDC的管理组件接收并解析所述选库清分任务，基于选库清分任务的解析结果将所述选库清分任务拆分成子任务，使所述选库清分任务以子任务的粒度进行执行。
8.如权利要求7所述方法，其中，所述接收并解析所述选库清分任务包括：从选库清分任务中解析出数据库表信息；
所述基于选库清分任务的解析结果将所述选库清分任务拆分成子任务包括：根据本IDC的数据库表信息确定目标数据库表，生成与各目标数据库表对应的子任务。
9.如权利要求8所述方法，其中，所述使所述选库清分任务以子任务的粒度进行执行包括：
将子任务下发到本IDC的执行组件，通过执行组件处理所述子任务指定的数据库表，得到清分数据。
10.一种数据清分装置，由网络数据中心IDC执行，其中，清分所依赖的数据库为主备架构，且用于保存同一数据的主数据库和备数据库设置在不同的IDC上，所述装置包括：
组合确定模块，用于根据清分任务和各数据库的状态，确定包含目标主数据库和目标备数据库的数据库组合，所述目标主数据库为所述主数据库中的可用部分，所述目标备数据库为所述主数据库中的不可用部分在所述备数据库中的备份；
任务生成模块，用于根据确定的数据库组合生成IDC级的选库清分任务；
任务下发模块，用于将选库清分任务分别下发至目标主数据库的IDC和目标备数据库的IDC，以使所述目标主数据库的IDC和所述目标备数据库的IDC执行接收到的选库清分任务，并返回IDC级的清分汇总信息和IDC级的对账信息；
清分汇总模块，用于根据IDC级的清分汇总信息和IDC级的对账信息生成批次汇总信息和批次清分对账信息。
11.一种数据清分系统，包括多个网络数据中心IDC，其中，至少部分IDC设置有根据权利要求10所述的数据清分装置。
12.一种电子设备，包括：
处理器；以及
被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行所述权利要求1～9之任一所述方法。
13.一种计算机可读存储介质，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的电子设备执行时，使得所述电子设备执行所述权利要求1～9之任一所述方法。
CN202011478864.6A 2020-12-15 2020-12-15 一种数据清分方法、装置、系统、电子设备及存储介质 Pending CN114637592A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202011478864.6A CN114637592A (zh) 2020-12-15 2020-12-15 一种数据清分方法、装置、系统、电子设备及存储介质
PCT/CN2021/136570 WO2022127673A1 (zh) 2020-12-15 2021-12-08 数据清分方法、装置、系统、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011478864.6A CN114637592A (zh) 2020-12-15 2020-12-15 一种数据清分方法、装置、系统、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN114637592A true CN114637592A (zh) 2022-06-17

Family

ID=81944720

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011478864.6A Pending CN114637592A (zh) 2020-12-15 2020-12-15 一种数据清分方法、装置、系统、电子设备及存储介质

Country Status (2)

Country Link
CN (1) CN114637592A (zh)
WO (1) WO2022127673A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115840756B (zh) * 2022-12-14 2024-03-22 中国南方电网有限责任公司 主备调系统的数据更新方法、主备调系统、设备和介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104751359B (zh) * 2013-12-30 2020-08-21 中国银联股份有限公司 用于支付清算的系统及方法
CN105631028B (zh) * 2015-12-30 2020-09-18 中国农业银行股份有限公司 一种数据库集群功能实现方法和系统
US10803031B1 (en) * 2015-12-30 2020-10-13 Amazon Technologies, Inc. Migrating data between databases
CN105763386A (zh) * 2016-05-13 2016-07-13 中国工商银行股份有限公司 业务处理系统及方法
CN109753383B (zh) * 2018-12-27 2021-08-27 网联清算有限公司 清分计算方法及装置

Also Published As

Publication number Publication date
WO2022127673A1 (zh) 2022-06-23

Similar Documents

Publication Publication Date Title
CN109150572B (zh) 实现告警关联的方法、装置以及计算机可读存储介质
CN108280148A (zh) 一种数据迁移方法和数据迁移服务器
CN110162512B (zh) 一种日志检索方法、装置及存储介质
CN112016921B (zh) 交易处理方法、装置及设备
CN108804712A (zh) 数据导出方法及装置
CN110389989B (zh) 一种数据处理方法、装置及设备
CN110992188B (zh) 交易处理方法、装置及设备
CN110458688A (zh) 一种业务处理方法、装置及设备
CN114371918A (zh) 分布式事务的处理方法、装置、存储介质及电子设备
CN114637592A (zh) 一种数据清分方法、装置、系统、电子设备及存储介质
CN112579552A (zh) 日志存储及调用方法、装置及系统
CN110569315A (zh) 基于数据仓库的数据处理方法和装置
CN111522881B (zh) 业务数据处理方法、装置、服务器及存储介质
US20200294057A1 (en) Business processing method, apparatus, and equipment
CN110928679B (zh) 一种资源分配方法及装置
CN110489392B (zh) 多租户间的数据访问方法、装置、系统、存储介质及设备
CN111737351A (zh) 分布式管理系统事务管理方法及装置
CN106156185B (zh) 一种业务请求执行状态的查询方法、装置及系统
CN110928941A (zh) 一种数据分片抽取方法及装置
CN112181443A (zh) 服务的自动化部署方法、装置及电子设备
CN115409537A (zh) 一种确定用户补贴的方法及设备
CN113010398A (zh) 一种业务日志模型、业务执行方法、装置、电子设备和介质
CN112596974A (zh) 一种全链路监控方法、装置、设备和存储介质
CN115841394A (zh) 一种交易清分方法、装置、系统、电子设备及存储介质
CN114445220A (zh) 交易数据的清分方法、装置、数据库服务器及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination