CN113326333A - 数据处理方法、系统、计算机设备及计算机存储介质 - Google Patents

数据处理方法、系统、计算机设备及计算机存储介质 Download PDF

Info

Publication number
CN113326333A
CN113326333A CN202110734345.XA CN202110734345A CN113326333A CN 113326333 A CN113326333 A CN 113326333A CN 202110734345 A CN202110734345 A CN 202110734345A CN 113326333 A CN113326333 A CN 113326333A
Authority
CN
China
Prior art keywords
data
target
financial
business
slice
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110734345.XA
Other languages
English (en)
Inventor
毛矛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Consumer Finance Co Ltd
Original Assignee
Ping An Consumer Finance Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Consumer Finance Co Ltd filed Critical Ping An Consumer Finance Co Ltd
Priority to CN202110734345.XA priority Critical patent/CN113326333A/zh
Publication of CN113326333A publication Critical patent/CN113326333A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/12Accounting
    • G06Q40/125Finance or payroll

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Development Economics (AREA)
  • Technology Law (AREA)
  • General Business, Economics & Management (AREA)
  • Strategic Management (AREA)
  • Marketing (AREA)
  • Computing Systems (AREA)
  • Economics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明提供一种数据处理方法,包括接收业务端发送的多个业务数据和财务端同步发送的多个财务数据;从多个业务数据中提取业务场景数据,并根据业务场景数据确定目标对账切片规则;根据业务场景数据和目标对账切片规则对多个业务数据和多个财务数据进行切片,以得到多组切片数据,每组切片数据包括业务切片数据和财务切片数据;及从多个业务数据中提取业务关键字段,并基于业务关键字段,比对每组切片数据中的业务切片数据和财务切片数据,以得到与每组切片数据对应的每个对账结论数据;通过业务数据和财务数据同步至服务端,并通过服务端比对同步在其上的业务数据和财务数据,提升业务端和财务端跨系统之间的数据对账效率和数据对账准确率。

Description

数据处理方法、系统、计算机设备及计算机存储介质
技术领域
本发明实施例涉及大数据技术领域,尤其涉及一种数据处理方法、系统、计算机设备及计算机可读存储介质。
背景技术
业财对账是公司进行客户交易经营和财务核实的重要手段。传统的业财对账是以文件形式为媒介,从业务系统传递给财务系统,或者从财务系统传递给业务系统,然后通过访问文件的方式对文件中的数据进行比对,整体流程冗长、繁琐,对账等待时间较长,影响业财数据对账的批处理效率。
发明内容
有鉴于此,本发明实施例提供了一种数据处理方法、系统、计算机设备及计算机可读存储介质,用于解决采用通过访问文件进行数据比对的对账形式而导致数据处理效率低的问题。
本发明实施例是通过下述技术方案来解决上述技术问题:
一种数据处理方法,应用于服务端,所述方法包括:
接收业务端发送的多个业务数据和财务端同步发送的多个财务数据;
从所述多个业务数据中提取业务场景数据,并根据所述业务场景数据确定目标对账切片规则;
根据所述业务场景数据和目标对账切片规则对所述多个业务数据和所述多个财务数据进行切片,以得到多组切片数据,每组切片数据包括业务切片数据和财务切片数据;及
从所述多个业务数据中提取业务关键字段,并基于所述业务关键字段,比对所述每组切片数据中的所述业务切片数据和所述财务切片数据,以得到与每组切片数据对应的每个对账结论数据。
可选的,所述方法还包括:
控制监控组件监控所述业务端的第一数据吞吐量和所述财务端的第二数据吞吐量;
根据所述第一数据吞吐量,计算所述业务端发送所述多个业务数据的第一预计吞吐量;
根据所述第二数据吞吐量,计算所述财务端同步发送所述多个财务数据的第二预计吞吐量;及
根据所述第一预计吞吐量和所述第二预计吞吐量,为所述业务端和所述财务端匹配目标同步组件,并通过所述目标同步组件接收所述业务端发送的所述多个业务数据和所述财务端同步发送的所述多个财务数据。
可选的,所述通过所述目标同步组件接收所述业务端发送的所述多个业务数据和所述财务端同步发送的所述多个财务数据,还包括:
通过扫描组件扫描所述业务端中的第一指定表和所述财务端中的第二指定表,所述第一指定表存储有多个业务数据,所述第二指定表存储有多个财务数据;
基于预设的时间周期,从所述第一指定表中获取第一关键字和从所述第二指定表中提取第二关键字;
基于所述第一关键字,从所述第一指定表中确定发生变化的第一数据行;
基于所述第二关键字,从所述第二指定表中确定发生变化的第二数据行;
接收通过所述目标同步组件发送的第一事件流和第二事件流;其中,所述第一事件流通过转换所述第一数据行得到,所述第一事件流包括所述第一数据行对应的业务数据;所述第二事件流通过转换所述第二数据行得到,所述第二事件流包括所述第二数据行对应的财务数据。
可选的,所述接收通过所述目标同步组件发送的第一事件流和第二事件流,还包括:
控制所述目标同步组件接收所述第一事件流并从所述第一事件流中提取多个业务数据;
控制所述目标同步组件接收所述第二事件流并从所述第二事件流中提取多个财务数据;
控制所述目标同步组件根据预设的数据格式规则,将所述多个业务数据转换为多个第一目标数据,以及将所述多个财务数据转换为多个第二目标数据;
控制所述目标同步组件缓存所述多个第一目标数据和所述多个第二目标数据,其中,每个第一目标数据为满足预设格式规则的业务数据,每个第二目标数据为满足预设格式规则的财务数据;
若所述多个第一目标数据和所述多个第二目标数据的缓存量满足预设的缓存条件,则通过所述目标同步组件将已缓存的所述多个第一目标数据和所述多个第二目标数据进行合并,以生成目标任务,所述目标任务包括合并后的第一目标数据和第二目标数据;及
接收所述多个第一目标数据和所述多个第二目标数据;其中,所述多个第一目标数据和所述多个第二目标数据通过所述目标同步组件执行所述目标任务得到。
可选的,在所述接收通过所述目标同步组件发送的第一事件流和第二事件流之后,所述方法还包括:
根据预设的分流规则,将所述第一事件流对应的多个第一目标数据和所述第二事件流对应的多个第二目标数据分配至所述服务端中的多个负载服务器中。
可选的,所述根据预设的分流规则,将所述第一事件流对应的多个第一目标数据和所述第二事件流对应的多个第二目标数据分配至所述服务端中的多个负载服务器中,包括:
分别为所述第一事件流中的每个第一目标数据和所述第二事件流中的每个第二目标数据匹配哈希检索值;
根据所述预设的分流规则和每个哈希检索值,确定与所述每个哈希检索值对应的负载服务器;及
根据所述每个哈希检索值,将所述第一事件流对应的多个第一目标数据和所述第二事件流对应的多个第二目标数据分配至对应的负载服务器中。
可选的,所述方法还包括:
若所述对账结论数据为对账不一致,则将所述对账结论数据对应的切片数据确定为异常数据;
发送所述异常数据和与所述异常数据对应的对账结论数据至校验组件;及
通过所述校验组件校验所述异常数据。
为了实现上述目的,本发明实施例还提供一种数据处理系统,包括:
接收模块,用于接收业务端发送的多个业务数据和财务端同步发送的多个财务数据;
确定模块,用于从所述多个业务数据中提取业务场景数据,并根据所述业务场景数据确定目标对账切片规则;
切片模块,用于根据所述业务场景数据和目标对账切片规则对所述多个业务数据和所述多个财务数据进行切片,以得到多组切片数据,每组切片数据包括业务切片数据和财务切片数据;及
对账模块,用于从所述多个业务数据中提取业务关键字段,并基于所述业务关键字段,比对所述每组切片数据中的所述业务切片数据和所述财务切片数据,以得到与每组切片数据对应的每个对账结论数据。
为了实现上述目的,本发明实施例还提供一种计算机设备,所述计算机设备包括存储器、处理器以及存储在所述存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上所述数据处理方法的步骤。
为了实现上述目的,本发明实施例还提供一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序可被至少一个处理器所执行,以使所述至少一个处理器执行如上所述的数据处理方法的步骤。
本发明实施例提供的数据处理方法、系统、计算机设备及计算机可读存储介质,接收业务端发送的多个业务数据和财务端同步发送的多个财务数据;从所述多个业务数据中提取业务场景数据,并根据所述业务场景数据确定目标对账切片规则;根据所述业务场景数据和目标对账切片规则对所述多个业务数据和所述多个财务数据进行切片,以得到多组切片数据,每组切片数据包括业务切片数据和财务切片数据;及从所述多个业务数据中提取业务关键字段,并基于所述业务关键字段,比对所述每组切片数据中的所述业务切片数据和所述财务切片数据,以得到与每组切片数据对应的每个对账结论数据;通过业务数据和财务数据同步至服务端,并通过服务端比对同步在其上的业务数据和财务数据,提升业务端和财务端跨系统之间的数据对账效率和数据对账准确率。
以下结合附图和具体实施例对本发明进行详细描述,但不作为对本发明的限定。
附图说明
图1示意性示出了基于本申请实施例的数据处理方法的环境应用示意图;
图2示意性示出了本发明实施例一之数据处理方法的步骤流程图;
图3示意性示出了本发明实施例一之数据处理方法中匹配目标同步组件的步骤流程图;
图4示意性示出了本发明实施例一之数据处理方法中接收通过目标同步组件发送的第一事件流和第二事件流的步骤流程图;
图5示意性示出了图4中步骤S408的具体步骤流程图;
图6示意性示出了本发明实施例一之数据处理方法中分配多个第一目标数据和多个第二目标数据的步骤流程图;
图7示意性示出了本发明实施例一之数据处理方法中校验异常数据的步骤流程图;
图8示意性示出了本发明实施例二之数据处理系统的程序模块示意图;
图9示意性示出了本发明实施例三之计算机设备的硬件结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,在本发明实施例中涉及“第一”、“第二”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外,各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本发明要求的保护范围之内。
在本发明的描述中,需要理解的是,步骤前的数字标号并不标识执行步骤的前后顺序,仅用于方便描述本发明及区别每一步骤,因此不能理解为对本发明的限制。
图1示意性示出了基于本申请实施例的数据处理方法的环境应用示意图。在示例性的实施例中,该环境应用示意图包括服务端100、若干个业务端110和若干个财务端120。若干个业务端110和若干个财务端120可以分别通过网络连接服务端100。其中,所述网络可以包括物理链路,例如同轴电缆链路、双绞线电缆链路、光纤链路等。所述网络还可以包括无线链路,例如蜂窝链路、卫星链路、Wi-Fi链路等。所述网络可以是因特网。
若干个业务端110,用于向所述服务端100发送多个业务数据。
若干个财务端120,用于向所述服务端100发送多个财务数据。
服务端100,用于同步接收所述多个业务数据和所述多个财务数据,以执行数据对账处理操作。
其中,业务端110、财务端120可以是PC(Personal Computer,个人电脑)、手机、平板电脑、笔记本电脑、虚拟主机等。服务端100可以是机架式服务器、刀片式服务器、塔式服务器或机柜式服务器等。
以下将提供一个或多个实施例,来具体介绍上述数据处理方法。
实施例一
请参阅图2,示出了本发明实施例之数据处理方法的步骤流程图。可以理解,本方法实施例中的流程图不用于对执行步骤的顺序进行限定。下面以服务端100为执行主体进行示例性描述,具体如下:
如图2所示,所述数据处理方法可以包括步骤S200~S206,其中:
步骤S200,接收业务端发送的多个业务数据和财务端同步发送的多个财务数据。
其中,财务端120可以是外部银行或者第三方支付机构。财务数据包括外部银行或者第三方支付机构上的货币交易数据。服务端100中设置有对账核心系统,所述对账核心系统包括大数据平台,所述大数据平台可实现实时数据库及回流数据库的功能。业务端100和财务端120分别通过服务端100的统一域名连接所述大数据平台。所述大数据平台自身根据承接的数据量以及日常数据处理的需求,在硬件层搭载了几十台至上百台的云服务器实例,各实例可全部连接到负载均衡F5上,也可以按一定数据量分别连接到多台负载均衡F5上,F5通过对接Openresty(基于Ngnix和Lua的高性能web(网页)平台,Ngnix为负载均衡服务器,Lua为一种脚本语言)进行分流控制。服务端100对外统一使用一个域名进行控制,从而实现数据处理的分流路由。
在示例性的实施例中,本提案在于根据所述大数据平台与业务端110和财务端120之间的数据同步,根据数据量级来采用不同的数据同步技术方案。
为了更好地满足业务端110、财务端120与服务端100之间数据同步的时效性,参阅图3,所述方法还包括:步骤S300,控制监控组件监控所述业务端的第一数据吞吐量和所述财务端的第二数据吞吐量;步骤S302,根据所述第一数据吞吐量,计算所述业务端发送所述多个业务数据的第一预计吞吐量;步骤S304,根据所述第二数据吞吐量,计算所述财务端同步发送所述多个财务数据的第二预计吞吐量;及步骤S306,根据所述第一预计吞吐量和所述第二预计吞吐量,为所述业务端和所述财务端匹配目标同步组件,并通过所述目标同步组件接收所述业务端发送的所述多个业务数据和所述财务端同步发送的所述多个财务数据。其中,监控组件可以是外接的一个智能监控系统,监控组件还可以内置于服务端110。所述监控组件用于监控业务端110和财务端120的数据吞吐量,并且配置数据吞吐量计算模型,来自动计算向服务端100数据同步的吞吐量,再根据计算得到的数据同步的吞吐量来选择数据同步方式(即目标同步组件)。所述监控组件根据业务端110和财务端120中预先配置的锚点,监控业务端110的第一数据吞吐量和财务端120的第二数据吞吐量。通过数据吞吐量计算模型计算得到第一预计吞吐量和第二预计吞吐量,再根据第一预计吞吐量和第二预计吞吐量选择目标同步组件。示例性的,若数据吞吐量的量级是在千万级别,确定目标同步组件为kafka(分布式发布订阅消息平台)组件,以进行消息传输。其中,kafka组件每秒可以处理几十万条消息,Kafka保证数据会按照特定的顺序来处理。需要说明的是,kafka的延迟最低只有几毫秒。同时,Kafka保证数据会按照特定的顺序来处理。
以Kafka组件为例,参阅图4,业务端110、财务端120与服务端100之间的数据同步可以通过以下操作实现:步骤S400,通过扫描组件扫描所述业务端中的第一指定表和所述财务端中的第二指定表,所述第一指定表存储有多个业务数据,所述第二指定表存储有多个财务数据;步骤S402,基于预设的时间周期,从所述第一指定表中获取第一关键字和从所述第二指定表中提取第二关键字;步骤S404,基于所述第一关键字,从所述第一指定表中确定发生变化的第一数据行;步骤S406,基于所述第二关键字,从所述第二指定表中确定发生变化的第二数据行;步骤S408,接收通过所述目标同步组件发送的第一事件流和第二事件流;其中,所述第一事件流通过转换所述第一数据行得到,所述第一事件流包括所述第一数据行对应的业务数据;所述第二事件流通过转换所述第二数据行得到,所述第二事件流包括所述第二数据行对应的财务数据。其中,多个业务数据存储于业务端数据库的第一指定表中;多个财务数据存储于财务端数据库的第二指定表中。业务端数据库、财务端数据库可以为Oracle、Mysql、PG、PostgreSQL、MongoDB等数据库中的一种或者多种数据库。通过扫描组件扫描业务端数据库的第一指定表和财务端数据库的第二指定表,根据预设的时间周期,从所述第一指定表中获取第一关键字和从所述第二指定表中提取第二关键字,第一关键字、第二关键字可以为INSERT(插入)、UPDATE(更新)任一种关键字,根据获取到的关键字从而获取到数据变化(增删改)的数据行,再将数据库发生数据变化的数据行转换为事件流,通过Kafka组件将事件流及事件流中携带的数据发送至服务端100中。
为了提高数据同步的效率,参阅图5,所述接收通过所述目标同步组件发送的第一事件流和第二事件流,还包括:步骤S500,控制所述目标同步组件接收所述第一事件流并从所述第一事件流中提取多个业务数据;步骤S502,控制所述目标同步组件接收所述第二事件流并从所述第二事件流中提取多个财务数据;步骤S504,控制所述目标同步组件根据预设的数据格式规则,将所述多个业务数据转换为多个第一目标数据,以及将所述多个财务数据转换为多个第二目标数据;步骤S506,控制所述目标同步组件缓存所述多个第一目标数据和所述多个第二目标数据,其中,每个第一目标数据为满足预设格式规则的业务数据,每个第二目标数据为满足预设格式规则的财务数据;步骤S508,若所述多个第一目标数据和所述多个第二目标数据的缓存量满足预设的缓存条件,则通过所述目标同步组件将已缓存的所述多个第一目标数据和所述多个第二目标数据进行合并,以生成目标任务,所述目标任务包括合并后的第一目标数据和第二目标数据;及步骤S510,接收所述多个第一目标数据和所述多个第二目标数据;其中,所述多个第一目标数据和所述多个第二目标数据通过所述目标同步组件执行所述目标任务得到。以Kafka组件为例,通过所述Kafka组件根据预设的配置规则将第一事件流和第二事件流流发送给DataSYNC模块(异构数据同步模块),所述DataSYNC模块主要实现读取传入kafka组件中的数据,根据预设格式规则将读取到的数据转化为以row等内部格式缓存的缓存数据,并存储于kafka组件中。其中,每个目标任务包括两个集合,insert(输入)集合与update(更新)集合。
为了合理分配服务端100的资源以执行数据处理的操作,在所述接收通过所述目标同步组件发送的第一事件流和第二事件流之后,所述方法还包括:根据预设的分流规则,将所述第一事件流对应的多个第一目标数据和所述第二事件流对应的多个第二目标数据分配至所述服务端中的多个负载服务器中。Kafka组件结合ZooKeeper分布式组件或者原生自动支持分布式的组件(如:Broker、Producer、Consumer等组件),实现服务端100的负载均衡。
为了更好地对服务端100进行算力分布式分配,以实现数据处理的分流路由;参阅图6,所述根据预设的分流规则,将所述第一事件流对应的多个第一目标数据和所述第二事件流对应的多个第二目标数据分配至所述服务端中的多个负载服务器中,包括步骤S600~步骤S604,其中:步骤S600,分别为所述第一事件流中的每个第一目标数据和所述第二事件流中的每个第二目标数据匹配哈希检索值;步骤S602,根据所述预设的分流规则和每个哈希检索值,确定与所述每个哈希检索值对应的负载服务器;及步骤S604,根据所述每个哈希检索值,将所述第一事件流对应的多个第一目标数据和所述第二事件流对应的多个第二目标数据分配至对应的负载服务器中。在示例性的实施例中,每个第一目标数据和每个第二目标数据的哈希检索值可以是定值,也可以是变量。
下面以哈希检索值配置为定值和变量两种情况示例性说明上述算力分布式分配的操作:
(1)若哈希检索值配置为定值,例如20,则当服务端100中的对账任务启动的时候,服务端100在同一时间同时随机在20台服务器实例上启动对账任务。为了确保每台服务器实例在执行对账任务过程中不会出现数据重复处理的情况,需要在对账过程中为数据设定hash(哈希)检索值,例如第一台服务器实例获取的目标数据均是主键hash值为1的数据,以此类推。
(2)若哈希检索值配置为变量,则通过目标数据的总量以及单每个对账任务数据量的阈值进行计算,以分配目标数据。
步骤S202,从所述多个业务数据中提取业务场景数据,并根据所述业务场景数据确定目标对账切片规则。
其中,对账切片规则可以是单个的对账切片规则,还可以是组合的对账切片规则。其中,组合的对账切片规则包括根据某业务场景、某单日与某产品的组合规则对数据进行切片、根据某业务场景、某单、某销售渠道的组合规则对数据进行切片。
在示例性的实施例中,考虑到不同的业务交易场景数据,对业务数据和财务数据的切片维度不同,因此根据所述业务场景数据确定目标对账切片规则的具体操作如下:
(1)确定需要对账的业务端110和财务端120;
(2)从业务端110中提取业务场景数据,如二类户消费、还款、提现等任意一个;
(3)根据业务场景数据,确定对账维度,进而确定目标对账切片规则,例如对于二类户消费交易类型,统一使用清算日期T-1日进行数据切片。其中,对账维度可以是单个条件或者多个条件。
步骤S204,根据所述业务场景数据和目标对账切片规则对所述多个业务数据和所述多个财务数据进行切片,以得到多组切片数据,每组切片数据包括业务切片数据和财务切片数据。
示例性的,根据目标对账切片规则对获取到的多个业务数据和多个财务数据进行去噪。获取目标对账切片规则中的切片阈值,将多个业务数据的长度和多个财务数据的长度与切片阈值进行比对,将数据的长度小于切片阈值的多个业务数据或者多个财务数据合并,组合形成一个业务切片数据或者一个财务切片数据,其中,一个业务切片数据或者一个财务切片数据的数据的长度小于切片阈值;将数据的长度大于切片阈值的业务数据或者财务数据,根据切片阈值进行切分,以得到至少两个业务切片数据或者至少两个财务切片数据,对切片后得到的业务切片数据再根据切片阈值进行比对,以此类推,以得到多组切片数据。
步骤S206,从所述多个业务数据中提取业务关键字段,并基于所述业务关键字段,比对所述每组切片数据中的所述业务切片数据和所述财务切片数据,以得到与每组切片数据对应的每个对账结论数据。
其中,对账结论数据包括对账一致、业务多财务少、业务少财务多。
在示例性的实施例中,针对相同对账维度的每组切片数据,以业务关键字段为key(关键值),将所述每组切片数据中的所述业务切片数据和所述财务切片数据(如流水、金额等等)进行双向比对,得到与每组切片数据对应的每个对账结论数据,并生成对账报表,供运营方查看。
为了进一步处理对账结论数据,参阅图7,所述方法还包括:步骤S700,若所述对账结论数据为对账不一致,则将所述对账结论数据对应的切片数据确定为异常数据;步骤S702,发送所述异常数据和与所述异常数据对应的对账结论数据至校验组件;及步骤S704,通过所述校验组件校验所述异常数据。
所述方法还包括:将对账结论数据发送至运营坐席;以使所述运营坐席通过校验组件根据对账结论数据对异常数据进行校验。对于业务少财务多,运营坐席可以根据交易流水号查询原因,确定是否两方的切片维度有异常,并做针对性调账处理。例如,运营坐席可根据校验结果发起再交易流程,确保财务系统收到该笔交易。
本发明实施例提供的数据处理方法、系统、计算机设备及计算机可读存储介质,接收业务端发送的多个业务数据和财务端同步发送的多个财务数据;从所述多个业务数据中提取业务场景数据,并根据所述业务场景数据确定目标对账切片规则;根据所述业务场景数据和目标对账切片规则对所述多个业务数据和所述多个财务数据进行切片,以得到多组切片数据,每组切片数据包括业务切片数据和财务切片数据;及从所述多个业务数据中提取业务关键字段,并基于所述业务关键字段,比对所述每组切片数据中的所述业务切片数据和所述财务切片数据,以得到与每组切片数据对应的每个对账结论数据;通过业务数据和财务数据同步至服务端,并通过服务端比对同步在其上的业务数据和财务数据,提升业务端和财务端跨系统之间的数据对账效率和数据对账准确率。
实施例二
请继续参阅图8,示出了本发明数据处理系统的程序模块示意图。在本实施例中,数据处理系统20可以包括或被分割成一个或多个程序模块,一个或者多个程序模块被存储于存储介质中,并由一个或多个处理器所执行,以完成本发明,并可实现上述数据处理方法。本发明实施例所称的程序模块是指能够完成特定功能的一系列计算机程序指令段,比程序本身更适合于描述数据处理系统20在存储介质中的执行过程。以下描述将具体介绍本实施例各程序模块的功能:
接收模块800,用于接收业务端发送的多个业务数据和财务端同步发送的多个财务数据;
确定模块810,用于从所述多个业务数据中提取业务场景数据,并根据所述业务场景数据确定目标对账切片规则;
切片模块820,用于根据所述业务场景数据和目标对账切片规则对所述多个业务数据和所述多个财务数据进行切片,以得到多组切片数据,每组切片数据包括业务切片数据和财务切片数据;及
对账模块830,用于从所述多个业务数据中提取业务关键字段,并基于所述业务关键字段,比对所述每组切片数据中的所述业务切片数据和所述财务切片数据,以得到与每组切片数据对应的每个对账结论数据。
在示例性的实施例中,所述数据处理系统20还包括:监控模块(未标识),所述监控模块用于:控制监控组件监控所述业务端的第一数据吞吐量和所述财务端的第二数据吞吐量;根据所述第一数据吞吐量,计算所述业务端发送所述多个业务数据的第一预计吞吐量;根据所述第二数据吞吐量,计算所述财务端同步发送所述多个财务数据的第二预计吞吐量;及根据所述第一预计吞吐量和所述第二预计吞吐量,为所述业务端和所述财务端匹配目标同步组件,并通过所述目标同步组件接收所述业务端发送的所述多个业务数据和所述财务端同步发送的所述多个财务数据。
在示例性的实施例中,所述接收模块800还用于:通过扫描组件扫描所述业务端中的第一指定表和所述财务端中的第二指定表,所述第一指定表存储有多个业务数据,所述第二指定表存储有多个财务数据;基于预设的时间周期,从所述第一指定表中获取第一关键字和从所述第二指定表中提取第二关键字;基于所述第一关键字,从所述第一指定表中确定发生变化的第一数据行;基于所述第二关键字,从所述第二指定表中确定发生变化的第二数据行;接收通过所述目标同步组件发送的第一事件流和第二事件流;其中,所述第一事件流通过转换所述第一数据行得到,所述第一事件流包括所述第一数据行对应的业务数据;所述第二事件流通过转换所述第二数据行得到,所述第二事件流包括所述第二数据行对应的财务数据。
在示例性的实施例中,所述接收模块800还用于:控制所述目标同步组件接收所述第一事件流并从所述第一事件流中提取多个业务数据;控制所述目标同步组件接收所述第二事件流并从所述第二事件流中提取多个财务数据;控制所述目标同步组件根据预设的数据格式规则,将所述多个业务数据转换为多个第一目标数据,以及将所述多个财务数据转换为多个第二目标数据;控制所述目标同步组件缓存所述多个第一目标数据和所述多个第二目标数据,其中,每个第一目标数据为满足预设格式规则的业务数据,每个第二目标数据为满足预设格式规则的财务数据;若所述多个第一目标数据和所述多个第二目标数据的缓存量满足预设的缓存条件,则通过所述目标同步组件将已缓存的所述多个第一目标数据和所述多个第二目标数据进行合并,以生成目标任务,所述目标任务包括合并后的第一目标数据和第二目标数据;接收所述多个第一目标数据和所述多个第二目标数据;其中,所述多个第一目标数据和所述多个第二目标数据通过所述目标同步组件执行所述目标任务得到。
在示例性的实施例中,所述数据处理系统20还包括:负载均衡模块(未标识),所述负载均衡模块用于:根据预设的分流规则,将所述第一事件流对应的多个第一目标数据和所述第二事件流对应的多个第二目标数据分配至所述服务端中的多个负载服务器中。
在示例性的实施例中,所述负载均衡模块还用于:分别为所述第一事件流中的每个第一目标数据和所述第二事件流中的每个第二目标数据匹配哈希检索值;根据所述预设的分流规则和每个哈希检索值,确定与所述每个哈希检索值对应的负载服务器;根据所述每个哈希检索值,将所述第一事件流对应的多个第一目标数据和所述第二事件流对应的多个第二目标数据分配至对应的负载服务器中。
在示例性的实施例中,所述数据处理系统20还包括:校验模块(未标识),所述校验模块用于:若所述对账结论数据为对账不一致,则将所述对账结论数据对应的切片数据确定为异常数据;发送所述异常数据和与所述异常数据对应的对账结论数据至校验组件;通过所述校验组件校验所述异常数据。
实施例三
参阅图9,是本发明实施例三之计算机设备的硬件架构示意图。本实施例中,所述计算机设备2是一种能够按照事先设定或者存储的指令,自动进行数值计算和/或信息处理的设备。该计算机设备2可以是机架式服务器、刀片式服务器、塔式服务器或机柜式服务器(包括独立的服务器,或者多个服务器所组成的服务器集群)等。如图9所示,所述计算机设备2至少包括,但不限于,可通过系统总线相互通信连接存储器21、处理器22、网络接口23、以及数据处理系统20。其中:
本实施例中,存储器21至少包括一种类型的计算机可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,存储器21可以是计算机设备2的内部存储单元,例如该计算机设备2的硬盘或内存。在另一些实施例中,存储器21也可以是计算机设备2的外部存储设备,例如该计算机设备2上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。当然,存储器21还可以既包括计算机设备2的内部存储单元也包括其外部存储设备。本实施例中,存储器21通常用于存储安装于计算机设备2的操作系统和各类应用软件,例如上述实施例的数据处理系统20的程序代码等。此外,存储器21还可以用于暂时地存储已经输出或者将要输出的各类数据。
处理器22在一些实施例中可以是中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器22通常用于控制计算机设备2的总体操作。本实施例中,处理器22用于运行存储器21中存储的程序代码或者处理数据,例如运行数据处理系统20,以实现上述实施例的数据处理方法。
所述网络接口23可包括无线网络接口或有线网络接口,该网络接口23通常用于在所述计算机设备2与其他电子装置之间建立通信连接。例如,所述网络接口23用于通过网络将所述计算机设备2与外部终端相连,在所述计算机设备2与外部终端之间的建立数据传输通道和通信连接等。所述网络可以是企业内部网(Intranet)、互联网(Internet)、全球移动通讯系统(Global System of Mobile communication,GSM)、宽带码分多址(WidebandCode Division Multiple Access,WCDMA)、4G网络、5G网络、蓝牙(Bluetooth)、Wi-Fi等无线或有线网络。
需要指出的是,图9仅示出了具有部件20-23的计算机设备2,但是应理解的是,并不要求实施所有示出的部件,可以替代的实施更多或者更少的部件。
在本实施例中,存储于存储器21中的所述数据处理系统20还可以被分割为一个或者多个程序模块,所述一个或者多个程序模块被存储于存储器21中,并由一个或多个处理器(本实施例为处理器22)所执行,以完成本发明。
例如,图8示出了所述实现数据处理系统20实施例二的程序模块示意图,该实施例中,所述基于数据处理系统20可以被划分为接收模块800、确定模块810、切片模块820以及对账模块830。其中,本发明所称的程序模块是指能够完成特定功能的一系列计算机程序指令段,比程序更适合于描述所述数据处理系统20在所述计算机设备2中的执行过程。所述程序模块800-830的具体功能在实施例二中已有详细描述,在此不再赘述。
实施例四
本实施例还提供一种计算机可读存储介质,如闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘、服务器、App应用商城等等,其上存储有计算机程序,程序被处理器执行时实现相应功能。本实施例的计算机可读存储介质用于存储数据处理系统20,被处理器执行时实现上述实施例的数据处理方法。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种数据处理方法,其特征在于,应用于服务端,所述方法包括:
接收业务端发送的多个业务数据和财务端同步发送的多个财务数据;
从所述多个业务数据中提取业务场景数据,并根据所述业务场景数据确定目标对账切片规则;
根据所述业务场景数据和目标对账切片规则对所述多个业务数据和所述多个财务数据进行切片,以得到多组切片数据,每组切片数据包括业务切片数据和财务切片数据;及
从所述多个业务数据中提取业务关键字段,并基于所述业务关键字段,比对所述每组切片数据中的所述业务切片数据和所述财务切片数据,以得到与每组切片数据对应的每个对账结论数据。
2.根据权利要求1所述的数据处理方法,其特征在于,所述方法还包括:
控制监控组件监控所述业务端的第一数据吞吐量和所述财务端的第二数据吞吐量;
根据所述第一数据吞吐量,计算所述业务端发送所述多个业务数据的第一预计吞吐量;
根据所述第二数据吞吐量,计算所述财务端同步发送所述多个财务数据的第二预计吞吐量;及
根据所述第一预计吞吐量和所述第二预计吞吐量,为所述业务端和所述财务端匹配目标同步组件,并通过所述目标同步组件接收所述业务端发送的所述多个业务数据和所述财务端同步发送的所述多个财务数据。
3.根据权利要求2所述的数据处理方法,其特征在于,所述通过所述目标同步组件接收所述业务端发送的所述多个业务数据和所述财务端同步发送的所述多个财务数据,还包括:
通过扫描组件扫描所述业务端中的第一指定表和所述财务端中的第二指定表,所述第一指定表存储有多个业务数据,所述第二指定表存储有多个财务数据;
基于预设的时间周期,从所述第一指定表中获取第一关键字和从所述第二指定表中提取第二关键字;
基于所述第一关键字,从所述第一指定表中确定发生变化的第一数据行;
基于所述第二关键字,从所述第二指定表中确定发生变化的第二数据行;
接收通过所述目标同步组件发送的第一事件流和第二事件流;其中,所述第一事件流通过转换所述第一数据行得到,所述第一事件流包括所述第一数据行对应的业务数据;所述第二事件流通过转换所述第二数据行得到,所述第二事件流包括所述第二数据行对应的财务数据。
4.根据权利要求3所述的数据处理方法,其特征在于,所述接收通过所述目标同步组件发送的第一事件流和第二事件流,还包括:
控制所述目标同步组件接收所述第一事件流并从所述第一事件流中提取多个业务数据;
控制所述目标同步组件接收所述第二事件流并从所述第二事件流中提取多个财务数据;
控制所述目标同步组件根据预设的数据格式规则,将所述多个业务数据转换为多个第一目标数据,以及将所述多个财务数据转换为多个第二目标数据;
控制所述目标同步组件缓存所述多个第一目标数据和所述多个第二目标数据,其中,每个第一目标数据为满足预设格式规则的业务数据,每个第二目标数据为满足预设格式规则的财务数据;
若所述多个第一目标数据和所述多个第二目标数据的缓存量满足预设的缓存条件,则通过所述目标同步组件将已缓存的所述多个第一目标数据和所述多个第二目标数据进行合并,以生成目标任务,所述目标任务包括合并后的第一目标数据和第二目标数据;及
接收所述多个第一目标数据和所述多个第二目标数据;其中,所述多个第一目标数据和所述多个第二目标数据通过所述目标同步组件执行所述目标任务得到。
5.根据权利要求3所述的数据处理方法,其特征在于,在所述接收通过所述目标同步组件发送的第一事件流和第二事件流之后,所述方法还包括:
根据预设的分流规则,将所述第一事件流对应的多个第一目标数据和所述第二事件流对应的多个第二目标数据分配至所述服务端中的多个负载服务器中。
6.根据权利要求5所述的数据处理方法,其特征在于,所述根据预设的分流规则,将所述第一事件流对应的多个第一目标数据和所述第二事件流对应的多个第二目标数据分配至所述服务端中的多个负载服务器中,包括:
分别为所述第一事件流中的每个第一目标数据和所述第二事件流中的每个第二目标数据匹配哈希检索值;
根据所述预设的分流规则和每个哈希检索值,确定与所述每个哈希检索值对应的负载服务器;及
根据所述每个哈希检索值,将所述第一事件流对应的多个第一目标数据和所述第二事件流对应的多个第二目标数据分配至对应的负载服务器中。
7.根据权利要求1所述的数据处理方法,其特征在于,所述方法还包括:
若所述对账结论数据为对账不一致,则将所述对账结论数据对应的切片数据确定为异常数据;
发送所述异常数据和与所述异常数据对应的对账结论数据至校验组件;及
通过所述校验组件校验所述异常数据。
8.一种数据处理系统,其特征在于,包括:
接收模块,用于接收业务端发送的多个业务数据和财务端同步发送的多个财务数据;
确定模块,用于从所述多个业务数据中提取业务场景数据,并根据所述业务场景数据确定目标对账切片规则;
切片模块,用于根据所述业务场景数据和目标对账切片规则对所述多个业务数据和所述多个财务数据进行切片,以得到多组切片数据,每组切片数据包括业务切片数据和财务切片数据;及
对账模块,用于从所述多个业务数据中提取业务关键字段,并基于所述业务关键字段,比对所述每组切片数据中的所述业务切片数据和所述财务切片数据,以得到与每组切片数据对应的每个对账结论数据。
9.一种计算机设备,所述计算机设备包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的数据处理方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序可被至少一个处理器所执行,以使所述至少一个处理器执行如权利要求1至7中任一项所述的数据处理方法的步骤。
CN202110734345.XA 2021-06-30 2021-06-30 数据处理方法、系统、计算机设备及计算机存储介质 Pending CN113326333A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110734345.XA CN113326333A (zh) 2021-06-30 2021-06-30 数据处理方法、系统、计算机设备及计算机存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110734345.XA CN113326333A (zh) 2021-06-30 2021-06-30 数据处理方法、系统、计算机设备及计算机存储介质

Publications (1)

Publication Number Publication Date
CN113326333A true CN113326333A (zh) 2021-08-31

Family

ID=77423558

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110734345.XA Pending CN113326333A (zh) 2021-06-30 2021-06-30 数据处理方法、系统、计算机设备及计算机存储介质

Country Status (1)

Country Link
CN (1) CN113326333A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117132415A (zh) * 2023-10-26 2023-11-28 深圳市金政软件技术有限公司 对账方法、装置、设备及存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104145290A (zh) * 2013-03-06 2014-11-12 益百利信息解决方案公司 用于小额信贷信用数据处理和报告的系统和方法
CN109615495A (zh) * 2018-10-11 2019-04-12 阿里巴巴集团控股有限公司 一种数据的对账方法、装置、设备及系统
CN110415095A (zh) * 2019-07-24 2019-11-05 深圳乐信软件技术有限公司 一种对账方法、装置、终端及存储介质
CN110765091A (zh) * 2019-09-09 2020-02-07 上海陆家嘴国际金融资产交易市场股份有限公司 对账方法和系统
CN111400379A (zh) * 2020-02-19 2020-07-10 北京值得买科技股份有限公司 一种多方对账处理方法以及装置
CN112232818A (zh) * 2020-10-15 2021-01-15 金蝶软件(中国)有限公司 数据对账方法、装置、计算机设备和存储介质
CN112445866A (zh) * 2019-08-13 2021-03-05 北京京东振世信息技术有限公司 数据处理方法、装置、计算机可读介质及电子设备
CN112506940A (zh) * 2020-12-16 2021-03-16 平安银行股份有限公司 数据对账方法、装置、电子设备及存储介质
CN112767113A (zh) * 2021-02-26 2021-05-07 中国工商银行股份有限公司 基于区块链的对账数据处理方法、装置、系统

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104145290A (zh) * 2013-03-06 2014-11-12 益百利信息解决方案公司 用于小额信贷信用数据处理和报告的系统和方法
CN109615495A (zh) * 2018-10-11 2019-04-12 阿里巴巴集团控股有限公司 一种数据的对账方法、装置、设备及系统
CN110415095A (zh) * 2019-07-24 2019-11-05 深圳乐信软件技术有限公司 一种对账方法、装置、终端及存储介质
CN112445866A (zh) * 2019-08-13 2021-03-05 北京京东振世信息技术有限公司 数据处理方法、装置、计算机可读介质及电子设备
CN110765091A (zh) * 2019-09-09 2020-02-07 上海陆家嘴国际金融资产交易市场股份有限公司 对账方法和系统
CN111400379A (zh) * 2020-02-19 2020-07-10 北京值得买科技股份有限公司 一种多方对账处理方法以及装置
CN112232818A (zh) * 2020-10-15 2021-01-15 金蝶软件(中国)有限公司 数据对账方法、装置、计算机设备和存储介质
CN112506940A (zh) * 2020-12-16 2021-03-16 平安银行股份有限公司 数据对账方法、装置、电子设备及存储介质
CN112767113A (zh) * 2021-02-26 2021-05-07 中国工商银行股份有限公司 基于区块链的对账数据处理方法、装置、系统

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117132415A (zh) * 2023-10-26 2023-11-28 深圳市金政软件技术有限公司 对账方法、装置、设备及存储介质

Similar Documents

Publication Publication Date Title
CN107809331B (zh) 识别异常流量的方法和装置
CN111460129B (zh) 标识生成的方法、装置、电子设备和存储介质
CN111339743B (zh) 一种账号生成的方法和装置
CN110706093A (zh) 一种账务处理方法和装置
CN112422450B (zh) 计算机设备、服务请求的流量控制方法及装置
CN110019158A (zh) 一种监控数据质量的方法和装置
CN113010542A (zh) 业务数据处理方法、装置、计算机设备及存储介质
CN112860662A (zh) 数据血缘关系建立方法、装置、计算机设备及存储介质
CN114612212A (zh) 一种基于风险控制的业务处理方法、装置和系统
CN110245014B (zh) 数据处理方法和装置
CN113326333A (zh) 数据处理方法、系统、计算机设备及计算机存储介质
CN112529400B (zh) 一种数据处理方法、装置、终端和可读存储介质
CN110928594A (zh) 服务开发方法和平台
CN113312553A (zh) 一种用户标签的确定方法和装置
CN112559646A (zh) 一种报表下载方法和装置
CN108830441B (zh) 资源查询的方法和装置
CN113157911A (zh) 一种服务验证方法和装置
CN112948138A (zh) 一种处理消息的方法和装置
CN115658127A (zh) 数据处理的方法、装置、电子设备和存储介质
CN115858905A (zh) 数据处理的方法、装置、电子设备和存储介质
CN114168876A (zh) 页面显示方法、装置、计算机设备及计算机可读存储介质
CN114520807A (zh) 文件上传下载方法、装置、计算机设备及存储介质
CN114253984A (zh) 信息更新方法、装置、电子设备和存储介质
CN112559221A (zh) 智能名单处理方法、系统、设备及存储介质
CN111833036B (zh) 判断重复交易的方法、装置、设备和计算机可读介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20210831

WD01 Invention patent application deemed withdrawn after publication