CN116431733A - 一种数据对账方法、装置、设备及介质 - Google Patents

一种数据对账方法、装置、设备及介质 Download PDF

Info

Publication number
CN116431733A
CN116431733A CN202310438037.1A CN202310438037A CN116431733A CN 116431733 A CN116431733 A CN 116431733A CN 202310438037 A CN202310438037 A CN 202310438037A CN 116431733 A CN116431733 A CN 116431733A
Authority
CN
China
Prior art keywords
data
preset
data table
offline
reconciliation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310438037.1A
Other languages
English (en)
Inventor
朱晓捷
候江峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Weimeng Enterprise Development Co ltd
Original Assignee
Shanghai Weimeng Enterprise Development Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Weimeng Enterprise Development Co ltd filed Critical Shanghai Weimeng Enterprise Development Co ltd
Priority to CN202310438037.1A priority Critical patent/CN116431733A/zh
Publication of CN116431733A publication Critical patent/CN116431733A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/23—Updating
    • G06F16/2365—Ensuring data consistency and integrity
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/23—Updating
    • G06F16/2372—Updates performed during offline database operations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/12—Accounting
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Computer Security & Cryptography (AREA)
  • Computing Systems (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Technology Law (AREA)
  • General Business, Economics & Management (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请公开了一种数据对账方法、装置、设备及介质，涉及信息系统数据处理领域，该方法包括：利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统；监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中；利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。本发明能够使用各系统在其主业务中已产生的离线数据，并利用动态的数据对账脚本实现数据的快速比对处理，从而降低数据对账的技术资源投入成本及时间成本。

Description

一种数据对账方法、装置、设备及介质
技术领域
本发明涉及信息系统数据处理领域，特别涉及一种数据对账方法、装置、设备及介质。
背景技术
随着互联网发展，涌现了大量的电商交易平台。这些电商平台的交易系统随着自身业务的飞速发展，逐渐变得愈加复杂。
在整个交易过程中，交易涉及到的资金流数据及信息流数据在各系统进行传递与存储。而由于网络的不稳定性、系统的漏洞等因素导致局部系统的数据丢失与错误，因此需要数据对账来确保各方数据存储的正确性与一致性。
传统的数据对账方式，需要两方系统的负责人各自确定数据供给方案及数据比对逻辑。往往实现整一套系统，从提供特定的数据源，再到实现对应的数据比对系统，最终来完成对账，整体耗费的时间成本与研发资源都是巨大的。
由上可见，在数据对账过程中，如何避免出现由于传统的数据对账方法导致耗费巨大的时间成本与研发资源是本领域有待解决的问题。
发明内容
有鉴于此，本发明的目的在于提供一种数据对账方法、装置、设备及介质，能够使用各系统在其主业务中已产生的离线数据，并利用动态的数据对账脚本实现数据的快速比对处理，从而降低数据对账的技术资源投入成本及时间成本。其具体方案如下：
第一方面，本申请公开了一种数据对账方法，包括：
利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统；
监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中；
利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。
可选的，所述利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统，包括：
利用hive查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统。
可选的，所述利用hive查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统，包括：
利用hive查询目标系统中的离线数据表，并利用hive hook机制将查询到的所述离线数据表发送至预设消息订阅系统。
可选的，所述利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统，包括：
利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至kafka；
相应的，所述监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中，包括：
监听kafka接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中。
可选的，所述利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账，包括：
利用以Groovy语言开发的预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。
可选的，所述监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中之后，还包括：
查询预设服务框架下目标系统中的在线数据源对应的数据源数据；
相应的，所述利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账，包括：
利用预设数据对账脚本，在所述数据源数据和所述预设数据库管理系统中在线数据表之间展开数据对账。
可选的，所述利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统，包括：
利用用于处理离线数据的预设数据仓库工具查询目标系统中的第一离线数据表与第二离线数据表，并将查询到的所述第一离线数据表与所述第二离线数据表发送至预设消息订阅系统；
相应的，所述利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账，包括：
利用预设数据对账脚本，在所述预设数据库管理系统中的第一在线数据表和第二在线数据表之间展开数据对账；其中，所述第一在线数据表为与所述第一离线数据表对应的在线数据表，所述第二在线数据表为与所述第二离线数据表对应的在线数据表。
第二方面，本申请公开了一种数据对账装置，包括：
离线数据表查询模块，用于利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统；
在线数据表生成模块，用于监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中；
数据对账模块，用于利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。
第三方面，本申请公开了一种电子设备，包括：
存储器，用于保存计算机程序；
处理器，用于执行所述计算机程序，以实现前述的数据对账方法。
第四方面，本申请公开了一种计算机存储介质，用于保存计算机程序；其中，所述计算机程序被处理器执行时实现前述公开的数据对账方法的步骤。
本申请利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统；监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中；利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。这样一来，本发明通过将离线数据表转换为在线数据表，并利用预设数据对账脚本对在线数据表实现数据对账，解决了传统方法的研发成本高、耗费时间长等问题。其中复用各系统在其主业务中已产生的在线服务数据源与离线数据表，无需投入额外的开发成本来单独提供仅供对账场景使用的数据服务，并且有数据对账需求的部门无需再自建系统来实现数据对账，只需编写对账脚本即可快速实现对账功能，节省开发成本，节省公司系统服务资源消耗，提升企业系统运作效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1为本申请提供的一种数据对账方法流程图；
图2为本申请提供的一种将离线数据表转变为在线数据表的转换流程图；
图3为本申请提供的一种两张数据表触发数据对账的对账流程图；
图4为本申请提供的一种数据表与数据源数据触发数据对账的对账流程图；
图5为本申请提供的一种具体的数据对账方法流程图；
图6为本申请提供的一种数据对账装置结构示意图；
图7为本申请提供的一种电子设备结构图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
现有技术中，传统的数据对账方式，需要两方系统的负责人各自确定数据供给方案及数据比对逻辑，往往实现整一套系统，从提供特定的数据源，再到实现对应的数据比对系统，最终来完成对账，整体耗费的时间成本与研发资源都是巨大的。在本申请中，尽可能以通用的方式来快速实现数据源的供给，并以较低的成本实现数据比对处理。
本发明实施例公开了一种数据对账方法，参见图1所述，该方法包括：
步骤S11：利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统。
在具体实施场景下，企业系统会在运行过程中产生离线数据表，本实施例中提出利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统。即，本发明中提出将运行过程中产生的离线数据表进行复用，用于后续完成数据对账。
本实施例中，所述利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统，可以包括：利用hive查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统。本实施例中所述用于处理离线数据的预设数据仓库工具可以是hive。具体的，可以利用hive查询目标系统中的离线数据表，通过Hive hook将查询结果数据依次发送到预设消息订阅系统。
步骤S12：监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中。
本实施例中将离线数据表发送至预设消息订阅系统后，会监听预设消息订阅系统接收到所述离线数据表后生成的数据消息，然后将数据消息存储到预设数据库管理系统中的在线数据表中，以完成离线数据表到在线数据表的转换。在具体的实施方式中，所述预设数据库管理系统优选为MySQL(即Relational Database Management System)。具体的，可以将数据消息存储到MySQL的在线数据表中。
本实施例中，所述利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统，可以包括：利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至kafka；相应的，所述监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中，可以包括：监听kafka接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中。本实施例中，所述预设消息订阅系统可以是kafka。
如图2为本发明提出的一种将离线数据表转变为在线数据表的转换流程图，图中以MySQL作为预设数据库管理系统，以kafka作为预设消息订阅系统为例。流程中先发起Hive查询任务，以查询目标系统中的离线数据表，然后将查询结果发送到消息组件kafka，监听并接收kafka的消息数据，最后将数据存放至MySQL在线数据表中。
步骤S13：利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。
本实施例中，所述利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账，可以包括：利用以Groovy语言开发的预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。也即，本发明中所述预设数据对账脚本优选使用Groovy语言开发，包括但不限于其他开发语言。
在本实施例的第一种具体实施方式中，所述利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统，可以包括：利用用于处理离线数据的预设数据仓库工具查询目标系统中的第一离线数据表与第二离线数据表，并将查询到的所述第一离线数据表与所述第二离线数据表发送至预设消息订阅系统；相应的，所述利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账，可以包括：利用预设数据对账脚本，在所述预设数据库管理系统中的第一在线数据表和第二在线数据表之间展开数据对账；其中，所述第一在线数据表为与所述第一离线数据表对应的在线数据表，所述第二在线数据表为与所述第二离线数据表对应的在线数据表。
也即，在本实施例中的第一种具体的实施方式中，可以从运行中的目标系统中查询后续用于数据对账的两个离线数据表，即第一离线数据表A与第二离线数据B，然后将两个数据表依次分别发送至预设消息订阅系统，监听预设消息订阅系统接收到两个离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中，此时可以将生成的两个在线数据表记作第一在线数据表α和第二在线数据表β。接下来利用预设数据对账脚本，在预设数据库管理系统中的第一在线数据表和第二在线数据表之间展开数据对账。可以理解的是，本实施例中第一种具体的实施方式中，可以在两张数据表之间展开数据对账。
在具体的实施方式中，利用预设数据对账脚本，在预设数据库管理系统中的第一在线数据表和第二在线数据表之间展开数据对账的过程中，可以包括：扫描第一在线数据表，并将所述第一在线数据表发送至所述预设消息订阅系统；监听预设消息订阅系统接收到所述第一在线数据表后生成的目标比对消息；查询获得所述预设数据库管理系统中的第二在线数据表；其中，所述第二在线数据表为与所述第二离线数据表对应的在线数据表；利用预设数据对账脚本，在所述目标比对消息和所述第二在线数据表之间展开数据对账。
如图3所示为两张数据表触发数据对账的对账流程图，图中以Hive作为预设数据仓库工具，以MySQL作为预设数据库管理系统，以kafka作为预设消息订阅系统，以Groovy语言开发预设数据对账脚本为例。Hive表A与Hive表B即为上述第一离线数据表A与第二离线数据B，分别将第一离线数据表A与第二离线数据B同步并存储到MySQL中的表α和表β，扫描查询表α的数据并发送到kafka，接收kafka的消息数据，并查询MySQL中的表β获取表中的数据，最后结合表α和表β的数据执行Groovy语言开发的脚本以实现对账处理。
在本实施例的第二种具体实施方式中，所述监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中之后，还可以包括：查询预设服务框架下目标系统中的在线数据源对应的数据源数据；相应的，所述利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账，可以包括：利用预设数据对账脚本，在所述数据源数据和所述预设数据库管理系统中在线数据表之间展开数据对账。
也即，在本实施例中的第二种具体的实施方式中，可以从运行中的目标系统中确定一个离线数据表A，并将此离线数据表发送至预设消息订阅系统，监听预设消息订阅系统接收到此离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中，此时可以将生成在线数据表记作在线数据表α。然后可以查询预设服务框架下目标系统中的在线数据源对应的数据源数据S，接着将利用预设数据对账脚本，在线数据表α和数据源数据S之间展开数据对账。可以理解的是，本实施例中第二种具体的实施方式中，可以在数据表与数据源之间展开数据对账。
在具体的实施方式中，查询预设服务框架下目标系统中的在线数据源对应的数据源数据S的过程中，可以包括：从预设服务框架下的数据源接口获取数据源数据。在具体实施场景下，所述预设服务框架优选为dubbo，即上述过程中离线数据表可以与其他dubbo在线服务数据源接口进行数据对账。
如图4所示为数据表与数据源数据触发数据对账的对账流程图，图中以Hive作为预设数据仓库工具，以MySQL作为预设数据库管理系统，以kafka作为预设消息订阅系统，以dubbo作为预设服务框架，以Groovy语言开发预设数据对账脚本为例。Hive表A为本实施方式中的离线数据表A，将离线数据表A同步并存储到MySQL中的表α，扫描查询表α的数据并发送到kafka，接收kafka的消息数据，并查询dubbo中的在线数据源S，并获取数据源数据，最后结合表α和数据源数据执行Groovy语言开发的脚本以实现对账处理。
本实施例中提供了上述两种具体实施方式，可以将已有的离线数据表利用起来，转变为在线数据使用，并且可以在数据表与数据表之间展开数据对账或在数据源数据和数据表之间展开数据对账，实现了不同媒介之间的数据对账。
本实施例中，利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统；监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中；利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。这样一来，本发明通过将离线数据表转换为在线数据表，并利用预设数据对账脚本对在线数据表实现数据对账，解决了传统方法的研发成本高、耗费时间长等问题。其中复用各系统在其主业务中已产生的在线服务数据源与离线数据表，无需投入额外的开发成本来单独提供仅供对账场景使用的数据服务，并且有数据对账需求的部门无需再自建系统来实现数据对账，只需编写对账脚本即可快速实现对账功能，节省开发成本，节省公司系统服务资源消耗，提升企业系统运作效率。
图5为本申请实施例提供的一种具体的数据对账方法流程图。参见图5所示，该方法包括：
步骤S21：利用hive查询目标系统中的离线数据表，并利用hive hook机制将查询到的所述离线数据表发送至kafka。
在具体的实施方式中，本步骤中可以基于SQL(即Structured Query Language，结构化查询语言)语句利用hive查询目标系统中的离线数据Hive表，然后通过Hive hook将查询结果发送到kafka，将所有数据查询结果发送到kafka后，最后再发送一条“结尾消息”，消息内容表达“查询结果已全部发送”与已发送数据条数。
步骤S22：监听kafka接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中。
本步骤中监听kafka消息，接收所有收到的查询结果数据，将接收到的数据消息存放到MySQL在线数据表中，在接收到最后的“结尾消息”时，结合消息中的条数信息校验前面已收到的数据条数。
步骤S23：利用以Groovy语言开发的预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。
本实施例中，所述利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账之前，还可以包括：搭建对账平台，并在所述对账平台中录入预设数据对账脚本；相应的，所述利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账，可以包括：将用于对账的两方数据发送至所述对账平台，以利用所述对账平台中的所述预设数据对账脚本对用于对账的两方数据进行数据对账。具体的实施方式中，所述对账平台为提供了对账接口能力的平台，优选为java平台。在录入Groovy语言开发的预设数据对账脚本后，接收上述表α和表β的数据或表α和据源数据S数据，通过录入的Groovy预设数据对账脚本解析收到的数据并进行比对处理，并最终由脚本返回表征数据比对是否正确的结果数据。
可以理解的是，本实施例中以MySQL作为预设数据库管理系统，以Hive作为预设数据仓库工具，以kafka作为预设消息订阅系统，以Groovy语言开发预设数据对账脚本为例。利用Hive查询离线数据表，并利用kafka将离线数据表转换为MySQL在线数据表，最后利用Groovy数据对账脚本实现数据对账，解决了传统方法的研发成本高、耗费时间长等问题。其中复用各系统在其主业务中已产生的在线服务数据源与离线数据表，无需投入额外的开发成本来单独提供仅供对账场景使用的数据服务，并且有数据对账需求的部门无需再自建系统来实现数据对账，只需编写对账脚本即可快速实现对账功能，节省开发成本，节省公司系统服务资源消耗，提升企业系统运作效率。
参见图6所示，本申请实施例公开了一种数据对账装置，具体可以包括：
离线数据表查询模块11，用于利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统；
在线数据表生成模块12，用于监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中；
数据对账模块13，用于利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。
本实施例中，利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统；监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中；利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。这样一来，本发明通过将离线数据表转换为在线数据表，并利用预设数据对账脚本对在线数据表实现数据对账，解决了传统方法的研发成本高、耗费时间长等问题。其中复用各系统在其主业务中已产生的在线服务数据源与离线数据表，无需投入额外的开发成本来单独提供仅供对账场景使用的数据服务，并且有数据对账需求的部门无需再自建系统来实现数据对账，只需编写对账脚本即可快速实现对账功能，节省开发成本，节省公司系统服务资源消耗，提升企业系统运作效率。
进一步的，本申请实施例还公开了一种电子设备，图7是根据示例性实施例示出的电子设备20结构图，图中的内容不能认为是对本申请的使用范围的任何限制。
图7为本申请实施例提供的一种电子设备20的结构示意图。该电子设备20，具体可以包括：至少一个处理器21、至少一个存储器22、电源23、显示屏24、输入输出接口25、通信接口26和通信总线27。其中，所述存储器22用于存储计算机程序，所述计算机程序由所述处理器21加载并执行，以实现前述任一实施例公开的数据对账方法中的相关步骤。另外，本实施例中的电子设备20具体可以为电子计算机。
本实施例中，电源23用于为电子设备20上的各硬件设备提供工作电压；通信接口26能够为电子设备20创建与外界设备之间的数据传输通道，其所遵循的通信协议是能够适用于本申请技术方案的任意通信协议，在此不对其进行具体限定；输入输出接口25，用于获取外界输入数据或向外界输出数据，其具体的接口类型可以根据具体应用需要进行选取，在此不进行具体限定。
另外，存储器22作为资源存储的载体，可以是只读存储器、随机存储器、磁盘或者光盘等，其上所存储的资源可以包括操作系统221、计算机程序222及虚拟机数据223等，虚拟机数据223可以包括各种各样的数据。存储方式可以是短暂存储或者永久存储。
其中，操作系统221用于管理与控制电子设备20上的各硬件设备以及计算机程序222，其可以是Windows Server、Netware、Unix、Linux等。计算机程序222除了包括能够用于完成前述任一实施例公开的由电子设备20执行的数据对账方法的计算机程序之外，还可以进一步包括能够用于完成其他特定工作的计算机程序。
进一步的，本申请还公开了一种计算机可读存储介质，这里所说的计算机可读存储介质包括随机存取存储器(Random Access Memory，RAM)、内存、只读存储器(Read-OnlyMemory，ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、磁碟或者光盘或技术领域内所公知的任意其他形式的存储介质。其中，所述计算机程序被处理器执行时实现前述公开的数据对账方法。关于该方法的具体步骤可以参考前述实施例中公开的相应内容，在此不再进行赘述。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本发明所提供的数据对账方法、装置、设备、存储介质进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种数据对账方法，其特征在于，包括：
利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统；
监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中；
利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。
2.根据权利要求1所述的数据对账方法，其特征在于，所述利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统，包括：
利用hive查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统。
3.根据权利要求2所述的数据对账方法，其特征在于，所述利用hive查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统，包括：
利用hive查询目标系统中的离线数据表，并利用hive hook机制将查询到的所述离线数据表发送至预设消息订阅系统。
4.根据权利要求1所述的数据对账方法，其特征在于，所述利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统，包括：
利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至kafka；
相应的，所述监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中，包括：
监听kafka接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中。
5.根据权利要求1所述的数据对账方法，其特征在于，所述利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账，包括：
利用以Groovy语言开发的预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。
6.根据权利要求1至5任一项所述的数据对账方法，其特征在于，所述监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中之后，还包括：
查询预设服务框架下目标系统中的在线数据源对应的数据源数据；
相应的，所述利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账，包括：
利用预设数据对账脚本，在所述数据源数据和所述预设数据库管理系统中在线数据表之间展开数据对账。
7.根据权利要求1至5任一项所述的数据对账方法，其特征在于，所述利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统，包括：
利用用于处理离线数据的预设数据仓库工具查询目标系统中的第一离线数据表与第二离线数据表，并将查询到的所述第一离线数据表与所述第二离线数据表发送至预设消息订阅系统；
相应的，所述利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账，包括：
利用预设数据对账脚本，在所述预设数据库管理系统中的第一在线数据表和第二在线数据表之间展开数据对账；其中，所述第一在线数据表为与所述第一离线数据表对应的在线数据表，所述第二在线数据表为与所述第二离线数据表对应的在线数据表。
8.一种数据对账装置，其特征在于，包括：
离线数据表查询模块，用于利用用于处理离线数据的预设数据仓库工具查询目标系统中的离线数据表，并将查询到的所述离线数据表发送至预设消息订阅系统；
在线数据表生成模块，用于监听所述预设消息订阅系统接收到所述离线数据表后生成的数据消息，并将所述数据消息存储到预设数据库管理系统中的在线数据表中；
数据对账模块，用于利用预设数据对账脚本对所述预设数据库管理系统中的所述在线数据表实现数据对账。
9.一种电子设备，其特征在于，包括处理器和存储器；其中，所述处理器执行所述存储器中保存的计算机程序时实现如权利要求1至7任一项所述的数据对账方法。
10.一种计算机可读存储介质，其特征在于，用于存储计算机程序；其中，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的数据对账方法。
CN202310438037.1A 2023-04-21 2023-04-21 一种数据对账方法、装置、设备及介质 Pending CN116431733A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310438037.1A CN116431733A (zh) 2023-04-21 2023-04-21 一种数据对账方法、装置、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310438037.1A CN116431733A (zh) 2023-04-21 2023-04-21 一种数据对账方法、装置、设备及介质

Publications (1)

Publication Number Publication Date
CN116431733A true CN116431733A (zh) 2023-07-14

Family

ID=87081326

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310438037.1A Pending CN116431733A (zh) 2023-04-21 2023-04-21 一种数据对账方法、装置、设备及介质

Country Status (1)

Country Link
CN (1) CN116431733A (zh)

Similar Documents

Publication Publication Date Title
CN105915633B (zh) 自动化运维系统和方法
CN113742031B (zh) 节点状态信息获取方法、装置、电子设备及可读存储介质
CN114205230B (zh) 云原生网元的配置方法、系统、介质及电子设备
US10102239B2 (en) Application event bridge
CN115687486B (zh) 一种基于kettle的轻量级数据采集方法及设备
CN109522139B (zh) 一种数据表服务生成调用方法、装置、设备及存储介质
CN110874272A (zh) 资源配置方法及装置、计算机可读存储介质、电子设备
CN112507005B (zh) 一种处理报文的方法和装置
CN111026634A (zh) 一种接口自动化测试系统、方法、装置及存储介质
CN109151056B (zh) 基于Canal的消息推送方法和系统
CN104217270A (zh) 业务流程应用文件生成和执行方法、客户端、设备及系统
CN111045911A (zh) 性能测试方法、性能测试装置、存储介质与电子设备
CN111125681A (zh) 业务处理方法、装置及存储介质
US20210149709A1 (en) Method and apparatus for processing transaction
CN111555894B (zh) 数据处理方法、装置、设备和存储介质
CN117041284A (zh) 一种基于接口云的外部接口管理方法、系统、设备及介质
CN116664060A (zh) 费用报销基础数据的生成方法、系统和装置
CN116431733A (zh) 一种数据对账方法、装置、设备及介质
JP4883638B2 (ja) ユーザインタフェース統合システム及びその方法
CN110806967A (zh) 一种单元测试方法和装置
CN115509714A (zh) 一种任务处理方法、装置、电子设备及存储介质
CN111625866A (zh) 一种权限管理方法、系统、设备及存储介质
CN110727457A (zh) 组件管理方法、装置、存储介质及电子设备
CN113031960B (zh) 代码编译方法、装置、服务器及存储介质
CN107566212A (zh) 一种资源监控管理方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination