CN113515374B - 数据处理方法及装置、电子设备和计算机可读存储介质 - Google Patents

数据处理方法及装置、电子设备和计算机可读存储介质 Download PDF

Info

Publication number
CN113515374B
CN113515374B CN202110542874.XA CN202110542874A CN113515374B CN 113515374 B CN113515374 B CN 113515374B CN 202110542874 A CN202110542874 A CN 202110542874A CN 113515374 B CN113515374 B CN 113515374B
Authority
CN
China
Prior art keywords
data
day
profit
loss
balance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110542874.XA
Other languages
English (en)
Other versions
CN113515374A (zh
Inventor
解森茂
李青
李晓明
张舜熙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Industrial and Commercial Bank of China Ltd ICBC
Original Assignee
Industrial and Commercial Bank of China Ltd ICBC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Industrial and Commercial Bank of China Ltd ICBC filed Critical Industrial and Commercial Bank of China Ltd ICBC
Priority to CN202110542874.XA priority Critical patent/CN113515374B/zh
Publication of CN113515374A publication Critical patent/CN113515374A/zh
Application granted granted Critical
Publication of CN113515374B publication Critical patent/CN113515374B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2453—Query optimisation
    • G06F16/24532—Query optimisation of parallel queries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25—Integrating or interfacing systems involving database management systems
    • G06F16/252—Integrating or interfacing systems involving database management systems between a Database Management System and a front-end application
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/54—Interprogram communication
    • G06F9/546—Message passing systems or structures, e.g. queues
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/04—Trading; Exchange, e.g. stocks, commodities, derivatives or currency exchange
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/12—Accounting
    • G06Q40/125—Finance or payroll
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/5017—Task decomposition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/5018—Thread allocation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/54—Indexing scheme relating to G06F9/54
    • G06F2209/548—Queue

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Development Economics (AREA)
  • Data Mining & Analysis (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Technology Law (AREA)
  • General Business, Economics & Management (AREA)
  • Computational Linguistics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)

Abstract

本公开提供了一种数据处理方法及装置、电子设备和计算机可读存储介质，本公开可用于大数据技术领域，也可用于金融技术领域。上述数据处理方法，包括：在第T日的第一预设时间段内获取预处理结果数据，其中预处理结果数据为在第一处理系统中对截止第T‑1日的系统交易日志数据处理获得的数据，且预处理结果数据包括第一类别数据、第二类别数据、以及第三类别数据；在第T日按照第二预设时间间隔，多次获取增量基础数据，其中增量基础数据用于计算第T日的不可预计损益发生额；以及根据预处理结果数据和多个增量基础数据，计算目标损益额，其中目标损益额为截止第T日的日终损益余额。

Description

数据处理方法及装置、电子设备和计算机可读存储介质
技术领域
本公开涉及大数据技术领域，更具体地，涉及一种数据处理方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
背景技术
金融机构中，其核心业务的处理依赖于IBM主机系统。
随着金融机构交易体量的不断增大，以及主机高昂的成本，发明人发现相关技术中至少存在如下问题：单纯依靠主机系统来处理业务已经无法满足日常业务需要。
发明内容
有鉴于此，本公开提供了一种数据处理方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
本公开的一个方面提供了一种数据处理方法，包括：
在第T日的第一预设时间段内获取预处理结果数据，其中预处理结果数据为在第一处理系统中对截止第T-1日的系统交易日志数据处理获得的数据，且预处理结果数据包括第一类别数据、第二类别数据、以及第三类别数据，第一类别数据为用于表征截止第T-1日的日终损益余额的数据、第二类别数据为用于表征第T日的可预计损益发生额的数据、第三类别数据为用于表征截止第T-1日的外汇买卖余额的数据；
在第T日按照第二预设时间间隔，多次获取增量基础数据，其中增量基础数据用于计算第T日的不可预计损益发生额；以及
根据预处理结果数据和多个增量基础数据，计算目标损益额，其中目标损益额为截止第T日的日终损益余额。
根据本公开的实施例，其中，预处理结果数据被预先存储在数据传输平台中；获取预处理结果数据包括：从数据传输平台中获取预处理结果数据。
根据本公开的实施例，其中，增量基础数据被预先存储在分布式消息流平台中；获取增量基础数据包括：从分布式消息流平台中获取增量基础数据。
根据本公开的实施例，其中，根据预处理结果数据和多个增量基础数据，计算目标损益额包括：利用调度系统建立多个用于计算目标损益额的任务线程；以及采用多任务线程并行的方式，根据预处理结果数据和多个增量基础数据，计算目标损益额。
根据本公开的实施例，其中，根据预处理结果数据和多个增量基础数据，计算目标损益额包括：
获取多个待关联数据表，其中待关联数据表中存储有预处理结果数据或增量基础数据；
将多个待关联数据表进行关联，以获取关联数据；
根据关联数据，计算目标损益额。
根据本公开的实施例，其中将多个待关联数据表进行关联包括：采用第一关联方法将多个待关联数据表中的第一分类数据表进行关联；采用第二关联方法将多个待关联数据表中的第二分类数据表进行关联；其中第一分类数据表的数据量大于第二分类数据表的数据量，第一分类数据表与其他待关联数据表关联的次数少于第二分类数据表与其他待关联数据表关联的次数。
根据本公开的实施例，其中，采用第二关联方法将多个待关联数据表中的第二分类数据表进行关联包括：在第二分类数据表中选取驱动表，其中驱动表采用关联主键分布均匀的数据表；以及将驱动表与第二分类数据表中的其他数据表关联。
根据本公开的实施例，其中，采用第二关联方法将多个待关联数据表中的第二分类数据表进行关联包括：将第二分类数据表中的第一表加载到内存；以及将第一表，与第二分类数据表中的第二表进行关联，其中第一表的数据量小于第二表的数据量。
根据本公开的实施例，其中：增量基础数据包括第四类别数据和第五类别数据，第四类别数据包括用于表征第T日的每个第二预设时间间隔内的实时汇率的系统交易日志数据、以及用于表征第T日的每个第二预设时间间隔内的单次外汇买卖发生额的系统交易日志数据，第五类别数据包括用于计算第T日的每个第二预设时间间隔内的结算类交易损益发生额的系统交易日志数据。第T日的不可预计损益发生额包括第T日的结算类交易损益发生总额、以及第T日的汇兑损益发生总额。
根据本公开的实施例，其中根据预处理结果数据和多个增量基础数据，计算目标损益额包括：
解析第一类别数据，以获得截止第T-1日的日终损益余额；
解析第二类别数据，以获得第T日的可预计损益发生额；
根据第三类别数据、第四类别数据计算第T日的汇兑损益发生总额；
根据第五类别数据计算第T日的结算类交易损益发生总额；
汇总截止第T-1日的日终损益余额、第T日的可预计损益发生额、第T日的汇兑损益发生总额以及第T日的结算类交易损益发生总额，以获得目标损益额。
根据本公开的实施例，根据第三类别数据、第四类别数据计算第T日的汇兑损益发生总额包括：
解析第三类别数据，以获得截止第T-1日的外汇买卖余额；
解析第四类别数据，以获得第T日的每个第二预设时间间隔内的实时汇率、和第T日的每个第二预设时间间隔内的单次外汇买卖发生额；
汇总多个单次外汇买卖发生额以及截止第T-1日的外汇买卖余额，以获得截止第T日的外汇买卖余额；
根据截止第T日的外汇买卖余额和第T日的每个第二预设时间间隔内的实时汇率，计算第T日的汇兑损益发生总额。
根据本公开的实施例，根据第五类别数据计算第T日的结算类交易损益发生总额包括：
解析第五类别数据，以获得第T日的每个第二预设时间间隔内的结算类交易损益发生额；
汇总多个第二预设时间间隔内的结算类交易损益发生额，以获得第T日的结算类交易损益发生总额。
本公开的另一个方面提供了另一种数据处理方法，包括：在第T日按照第二预设时间间隔，依次解析来自于第一处理系统的消息队列中的第一原始数据，以获得增量基础数据，其中，增量基础数据用于计算第T日的不可预计损益发生额，第一原始数据为在第T日按照第二预设时间间隔，利用传输工具依次从第一处理系统的数据库中获取后发送至消息队列的数据，其中第一原始数据包括第T日的系统交易日志数据；以及将增量基础数据发送至分布式消息流平台，以便第二处理系统从分布式消息流平台中获取增量基础数据。
根据本公开的实施例，上述方法还包括：
在第T日的第一预设时间段内，从第一处理系统的数据库中获取第一原始数据，其中，第一原始数据包括截止第T-1日的系统交易日志数据；
根据第一原始数据计算预处理结果数据，其中预处理结果数据为在第一处理系统中对截止第T-1日的系统交易日志数据处理获得的数据，且预处理结果数据包括第一类别数据、第二类别数据、以及第三类别数据，第一类别数据为用于表征截止第T-1日的日终损益余额的数据、第二类别数据为用于表征第T日的可预计损益发生额的数据、第三类别数据为用于表征截止第T-1日的外汇买卖余额的数据；
将预处理结果数据发送至数据传输平台，以便第二处理系统从数据传输平台中获取预处理结果数据。
本公开的另一个方面提供了一种数据处理装置，包括第一获取模块、第二获取模块和第一计算模块。
其中第一获取模块，用于在第T日的第一预设时间段内获取预处理结果数据，其中预处理结果数据为在第一处理系统中对截止第T-1日的系统交易日志数据处理获得的数据，且预处理结果数据包括第一类别数据、第二类别数据、以及第三类别数据，第一类别数据为用于表征截止第T-1日的日终损益余额的数据、第二类别数据为用于表征第T日的可预计损益发生额的数据、第三类别数据为用于表征截止第T-1日的外汇买卖余额的数据。
第二获取模块，用于在第T日按照第二预设时间间隔，多次获取增量基础数据，其中增量基础数据用于计算第T日的不可预计损益发生额。
第一计算模块，用于根据预处理结果数据和多个增量基础数据，计算目标损益额，其中目标损益额为截止第T日的日终损益余额。
根据本公开的实施例，其中，预处理结果数据被预先存储在数据传输平台中；获取预处理结果数据包括：从数据传输平台中获取预处理结果数据。
根据本公开的实施例，其中，增量基础数据被预先存储在分布式消息流平台中；获取增量基础数据包括：从分布式消息流平台中获取增量基础数据。
根据本公开的实施例，其中，上述第一计算模块包括调度单元和第一计算单元。
其中，调度单元，用于利用调度系统建立多个用于计算目标损益额的任务线程。第一计算单元，用于采用多任务线程并行的方式，根据预处理结果数据和多个增量基础数据，计算目标损益额。
根据本公开的实施例，上述第一计算模块包括获取单元、关联单元、第二计算单元。
其中，获取单元，用于获取多个待关联数据表，其中待关联数据表中存储有预处理结果数据或增量基础数据。关联单元，用于将多个待关联数据表进行关联，以获取关联数据。第二计算单元，用于根据关联数据，计算目标损益额。
根据本公开的实施例，上述关联单元包括第一关联子单元、第二关联子单元。
其中，第一关联子单元，用于采用第一关联方法将多个待关联数据表中的第一分类数据表进行关联。第二关联子单元，用于采用第二关联方法将多个待关联数据表中的第二分类数据表进行关联；其中第一分类数据表的数据量大于第二分类数据表的数据量，第一分类数据表与其他待关联数据表关联的次数少于第二分类数据表与其他待关联数据表关联的次数。
根据本公开的实施例，其中，上述第二关联子单元中，采用第二关联方法将多个待关联数据表中的第二分类数据表进行关联包括：在第二分类数据表中选取驱动表，其中驱动表采用关联主键分布均匀的数据表；以及将驱动表与第二分类数据表中的其他数据表关联。
根据本公开的实施例，其中，上述第二关联子单元中，采用第二关联方法将多个待关联数据表中的第二分类数据表进行关联包括：将第二分类数据表中的第一表加载到内存；以及将第一表，与第二分类数据表中的第二表进行关联，其中第一表的数据量小于第二表的数据量。
根据本公开的实施例，其中：上述增量基础数据包括第四类别数据和第五类别数据，第四类别数据包括用于表征第T日的每个第二预设时间间隔内的实时汇率的系统交易日志数据、以及用于表征第T日的每个第二预设时间间隔内的单次外汇买卖发生额的系统交易日志数据，第五类别数据包括用于计算第T日的每个第二预设时间间隔内的结算类交易损益发生额的系统交易日志数据。第T日的不可预计损益发生额包括第T日的结算类交易损益发生总额、以及第T日的汇兑损益发生总额。
根据本公开的实施例，上述第一计算模块包括：第一解析单元、第二解析单元、第三计算单元、第四计算单元和汇总单元。
其中，第一解析单元，用于解析第一类别数据，以获得截止第T-1日的日终损益余额。第二解析单元，用于解析第二类别数据，以获得第T日的可预计损益发生额。第三计算单元，用于根据第三类别数据、第四类别数据计算第T日的汇兑损益发生总额。第四计算单元，用于根据第五类别数据计算第T日的结算类交易损益发生总额。汇总单元，用于汇总截止第T-1日的日终损益余额、第T日的可预计损益发生额、第T日的汇兑损益发生总额以及第T日的结算类交易损益发生总额，以获得目标损益额。
根据本公开的实施例，第三计算单元包括：第一解析子单元、第二解析子单元、和第一汇总子单元。
其中，第一解析子单元，用于解析第三类别数据，以获得截止第T-1日的外汇买卖余额。第二解析子单元，用于解析第四类别数据，以获得第T日的每个第二预设时间间隔内的实时汇率、和第T日的每个第二预设时间间隔内的单次外汇买卖发生额。第一汇总子单元，用于汇总多个单次外汇买卖发生额以及截止第T-1日的外汇买卖余额，以获得截止第T日的外汇买卖余额。计算子单元，用于根据截止第T日的外汇买卖余额和第T日的每个第二预设时间间隔内的实时汇率，计算第T日的汇兑损益发生总额。
根据本公开的实施例，上述第四计算单元包括：第三解析子单元和第二汇总子单元。
其中，第三解析子单元，用于解析第五类别数据，以获得第T日的每个第二预设时间间隔内的结算类交易损益发生额。第二汇总子单元，用于汇总多个第二预设时间间隔内的结算类交易损益发生额，以获得第T日的结算类交易损益发生总额。
本公开的另一个方面还提供了另一种数据处理装置，包括解析模块和第一发送模块。
其中，解析模块，用于在第T日按照第二预设时间间隔，依次解析来自于第一处理系统的消息队列中的第一原始数据，以获得增量基础数据，其中，增量基础数据用于计算第T日的不可预计损益发生额，第一原始数据为在第T日按照第二预设时间间隔，利用传输工具依次从第一处理系统的数据库中获取后发送至消息队列的数据，其中第一原始数据包括第T日的系统交易日志数据；
第一发送模块，用于将增量基础数据发送至分布式消息流平台，以便第二处理系统从分布式消息流平台中获取增量基础数据。
根据本公开的实施例，上述数据处理装置还包括第三获取模块、第二计算模块和第二发送模块。
其中，第三获取模块，用于在第T日的第一预设时间段内，从第一处理系统的数据库中获取第一原始数据，其中，第一原始数据包括截止第T-1日的系统交易日志数据。
第二计算模块，用于根据第一原始数据计算预处理结果数据，其中预处理结果数据为在第一处理系统中对截止第T-1日的系统交易日志数据处理获得的数据，且预处理结果数据包括第一类别数据、第二类别数据、以及第三类别数据，第一类别数据为用于表征截止第T-1日的日终损益余额的数据、第二类别数据为用于表征第T日的可预计损益发生额的数据、第三类别数据为用于表征截止第T-1日的外汇买卖余额的数据。
第二发送模块，用于将预处理结果数据发送至数据传输平台，以便第二处理系统从数据传输平台中获取预处理结果数据。
本公开的另一个方面提供了一种电子设备，包括：一个或多个处理器、以及存储器；其中该存储器用于存储一个或多个程序；其中，当一个或多个程序被一个或多个处理器执行时，使得一个或多个处理器实现如上的数据处理方法。
本公开的另一方面提供了一种计算机可读存储介质，存储有计算机可执行指令，指令在被执行时用于实现如上的数据处理方法。
本公开的另一方面提供了一种计算机程序产品，计算机程序产品包括计算机可执行指令，指令在被执行时用于实现如上的数据处理方法。
根据本公开的实施例，通过第一处理系统和第二处理系统协同作用，将数据处理的过程分为预处理和实时处理的两个处理过程。针对一些不受第T日的交易影响的非实时性的阶段性结果数据，通过第一处理系统预先处理获得，以减少第二处理系统数据处理的压力。针对实时性的增量基础数据，通过第二处理系统实时处理。并且，第二处理系统中，将一天内的数据处理任务平均分配至一天的多个时间段来进行分批处理，据此方法，可提高数据处理的效率，同时，相比于单独利用一个数据处理系统，在完成同样数据处理任务的情况下，可节省了软硬件成本。通过上述方法，建立了一套高时效、低成本的利润实时预测系统和方法，便于金融机构在日常经营过程中、特别是关键时点准确的掌握辖属机构实时的财务收支情况，为管理层财务决策提供有力的信息支撑，便于进一步提高财务精细化管理水平。
附图说明
通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：
图1示意性示出了可以应用本公开的数据处理方法及装置的示例性系统架构；
图2示意性示出了根据本公开实施例的数据处理方法的流程图；
图3示意性示出了根据本公开实施例的另一数据处理方法的流程图；
图4示意性示出了根据本公开实施例的数据处理方法的示意图；
图5示意性示出了根据本公开另一实施例的数据处理方法的示意图；
图6示意性示出了根据本公开实施例的数据处理装置的框图；
图7示意性示出了根据本公开实施例的另一数据处理装置的框图；
图8示意性示出了根据本公开实施例的用于实现数据处理方法的电子设备的框图。
具体实施方式
以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
在对本公开的实施例进行详细阐述之前，先对本公开实施例提供的方法所涉及的系统结构以及应用场景进行如下介绍。
图1示意性示出了可以应用本公开的数据处理方法及装置的示例性系统架构100。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示，根据该实施例的系统架构100可以包括终端设备101、第一处理系统102、传输系统103、和第二处理系统104。
用户可以使用终端设备101通过网络与第一处理系统102中的业务处理服务器进行交互，以接收或发送消息等。终端设备101上可以安装有各种通讯客户端应用，例如金融交易类应用、购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。终端设备101可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
第一处理系统102可以包括用于业务处理的业务处理服务器或服务器集群，例如对用户利用终端设备101所浏览的网站提供支持的后台管理服务器。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。第一处理系统102还可用于对系统交易日志数据进行处理，得到预处理结果数据。
第一处理系统102还可以包括数据库服务器，数据库服务器用于存储各类系统交易日志数据或者预处理结果数据。
第一处理系统102还可以包括消息队列服务器，消息队列服务器可用于在数据库服务器和业务处理服务器或服务器集群之间之间传输数据。
传输系统103可以是各种类型的数据传输系统，例如KAFKA分布式消息流平台、FTP数据传输平台等等，传输系统103可用于第一处理系统102和第二处理系统104之间传输预处理结果数据和系统交易日志数据。
第二处理系统104可以为可用于大数据处理的各种类型的数据处理服务器或者服务集群，例如HADOOP集群。
根据本公开的实施例，在上述系统架构下，第一处理系统102和第二处理系统104协同作用，共同完成对业务数据的处理过程。例如，第一处理系统102可用于对部分系统交易日志数据进行处理，得到预处理结果数据后，将预处理结果数据发送至传输系统103，同时，第一处理系统102将系统交易日志数据进行格式转换后也发送至传输系统103，第二处理系统104从传输系统103中获取预处理结果数据和系统交易日志数据后，对预处理结果数据和系统交易日志数据进行处理，获得结果数据。
应该理解，图1中的终端设备101的数目、第一处理系统102、传输系统103、和第二处理系统104中的服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备和服务器。
需要说明的是，本公开的数据处理方法及装置可用于大数据技术领域，也可用于金融技术领域，也可用于除大数据技术领域和金融领域之外的任意领域，本公开对该数据处理方法及装置的应用领域不做限定。
金融机构中，其核心业务的处理是基于业务处理服务器和数据库组成的业务处理系统，由于单个服务器的性能有限，以及服务器高昂的成本，为保证银行核心业务低延时、稳定的进行，核心业务的处理一般分为日间联机时段和日终批量时段，而利润表就是在营业终了后日终批量时段生成的，具体地，通过多并发的批量作业，解析截止当日全量的结算类日志数据生成利润表。
相关技术中，由于金融机构的核心业务的处理一般部署在单个业务处理系统，随着金融机构交易体量的不断增大、金融机构对财务收支更加精细化的经营管理需求，以及服务器高昂的成本，单纯依靠单个业务处理系统来处理业务已经无法满足日常业务需要。
有鉴于此，本公开基于分布式内存技术，构建另一分布式处理系统，形成在线存储容量大、可并行处理海量数据、且可扩展的大数据服务云计算平台。
在上述系统架构下，原业务处理系统和分布式处理系统协同作用，共同完成对业务数据的处理过程，以提高数据处理的效率。
图2示意性示出了根据本公开实施例的数据处理方法的流程图。如图2所示，该方法包括操作S201～S203。
根据本公开的实施例，实现该方法通过第一处理系统和第二处理系统协同作用，共同完成对业务数据的处理过程。执行上述操作S201～S203的主体为第二处理系统。
在操作S201，在第T日的第一预设时间段内获取预处理结果数据，其中预处理结果数据为在第一处理系统中对截止第T-1日的系统交易日志数据处理获得的数据，且预处理结果数据包括第一类别数据、第二类别数据、以及第三类别数据，第一类别数据为用于表征截止第T-1日的日终损益余额的数据、第二类别数据为用于表征第T日的可预计损益发生额的数据、第三类别数据为用于表征截止第T-1日的外汇买卖余额的数据。
在操作S202，在第T日按照第二预设时间间隔，多次获取增量基础数据，其中增量基础数据用于计算第T日的不可预计损益发生额。
在操作S203，根据预处理结果数据和多个增量基础数据，计算目标损益额，其中目标损益额为截止第T日的日终损益余额。
根据本公开的实施例，第一处理系统用于对系统交易日志数据进行处理，得到预处理结果数据。第一处理系统可以包括用于业务处理的业务处理服务器，还可以包括数据库服务器，数据库服务器用于存储各类系统交易日志数据或者预处理结果数据。例如，第一处理系统可以是基于IBM主机和DB2数据库组成的主机业务处理系统。
第一处理系统除了用于对截止第T-1日的系统交易日志数据进行处理，得到预处理结果数据外，在第一处理系统中，还对第T日的系统交易日志数据进行解析，解析为ISON格式的增量基础数据。
根据本公开的实施例，预处理结果数据主要包括一些非实时性的阶段性结果数据，该类数据的结果不受第T日的交易影响，因此可以被预先处理，以减少第二处理系统数据处理的压力。例如可以包括用于表征截止第T-1日的日终损益余额的数据、用于表征截止第T-1日的外汇买卖余额的数据、用于表征第T日的可预计损益发生额的数据等。其中，可预计损益发生额可以是在第T日日初即可以确定当日会发生且是在当日日终批量记账的损益数据，例如，可以包括基于日初存贷款余额(个人存款、对公存款、信用卡存款、个人贷款、对公贷款、信用卡贷款、票据余额、债券余额)计算的当月/季周期应收应付利息，按照固定日收取客户的手续费，例如对公账户管理费等。
上述增量基础数据主要是一些实时性的数据，增量基础数据为ISON格式的系统交易日志数据，用于计算第T日的不可预计损益发生额，不可预计损益发生额因受第T日实时交易的影响，因此无法预先获得。例如，不可预计损益发生额可包括第T日的结算类交易损益发生总额、以及第T日的汇兑损益发生总额等。
第二处理系统主要是对预处理结果数据和增量基础数据进行处理，获得目标损益额，即截止第T日的日终损益余额，最终可根据目标损益额生成金融机构利润表。
因不可预计损益发生额因受第T日实时交易的影响，该类数据具有以下一些特点：第一、数据体量大，因金融机构业务规模的增长，日均结算类交易量都是数亿甚至十亿级别；第二、实时性要求高，财务决策特别是季末/年末等关键节点的决策要求业务处理系统要尽可能快的拿到准确的实时利润预测结果(例如，要求在15分钟之内统计到当前的实时利润)；第三、数据的解析处理过程复杂，为了快速实现产品创新同时保证核算系统的稳定，金融机构的核心业务系统一般都做到了产品与核算分离，在对系统交易日志数据进行处理的过程中，为了计算获得其中某一类利润统计的结果，往往需要关联多种类型的多张数据表，并结合复杂的业务处理逻辑来进行处理。
基于不可预计损益发生额的上述特点，第二处理系统可以为可用于大数据处理的分布式处理系统，例如可以是利用HADOOP技术、分布式内存等技术，基于PC Server构建的HADOOP分布式处理系统，以便形成在线存储容量大、可并行处理海量数据、且可扩展的大数据服务云计算平台。
根据本公开的实施例，在上述系统架构下，第一处理系统和第二处理系统协同作用，共同完成对业务数据的处理过程。
第一处理系统对截止第T-1日的系统交易日志数据进行处理，得到预处理结果数据，对第T日的系统交易日志数据进行解析，解析为ISON格式的增量基础数据。第一处理系统将上述预处理结果数据和增量基础数据传输至第二处理系统，第二处理系统对预处理结果数据和增量基础数据进行处理，获得目标损益额。
根据本公开的实施例，基于不可预计损益发生额的数据具有数据体量大、实时性要求高、数据的解析处理过程复杂等特点，假如在第T日日终一次性处理第T日当日的全部系统交易日志数据，耗时会比较长，处理过程比较慢。因此，根据本公开的实施例，将增量基础数据的处理分为多场次处理，可结合业务人员的实际需求安排场次间隔，在第T日按照第二预设时间间隔，多次获取增量基础数据并进行处理。考虑到实时预测的利润表数据越接近日终时效性要求越高，接近日终时的场次要排满(例如从上午9：00开始到晚上24:00，每30分钟一场共30场次)。据此方法，将一天内的数据处理任务平均分配至一天的多个时间段来进行分批处理，每一场次的数据处理结果分别单独存储在各自的存储分区，最终在日终将所有场次的数据处理结果进行汇总，以获得目标损益额，据此方法，可提高数据处理的效率。
根据本公开的实施例，通过第一处理系统和第二处理系统协同作用，将数据处理的过程分为预处理和实时处理的两个处理过程。针对一些不受第T日的交易影响的非实时性的阶段性结果数据，通过第一处理系统预先处理获得，以减少第二处理系统数据处理的压力。针对实时性的增量基础数据，通过第二处理系统实时处理。并且，第二处理系统中，将一天内的数据处理任务平均分配至一天的多个时间段来进行分批处理，据此方法，可提高数据处理的效率，同时，相比于单独利用一个数据处理系统，在完成同样数据处理任务的情况下，可节省了软硬件成本。通过上述方法，建立了一套高时效、低成本的利润实时预测系统和方法，便于金融机构在日常经营过程中、特别是关键时点准确的掌握辖属机构实时的财务收支情况，为管理层财务决策提供有力的信息支撑，便于进一步提高财务精细化管理水平。
根据本公开的是实施例，第一处理系统将上述预处理结果数据和增量基础数据传输至第二处理系统，可通过传输系统进行数据传输。例如传输系统可以是各种类型的数据传输系统，例如KAFKA分布式消息流平台、FTP数据传输平台等等。
根据本公开的实施例，其中，预处理结果数据被预先存储在数据传输平台中；获取预处理结果数据包括：从数据传输平台中获取预处理结果数据，例如可以是通过FTP文件传输的方式。第一处理系统将预处理结果数据上传至FTP服务器，第二处理系统从FTP服务器中获取数据。
根据本公开的实施例，其中，增量基础数据被预先存储在分布式消息流平台中；获取增量基础数据包括：从分布式消息流平台中获取增量基础数据。例如可以是通过KAFKA分布式消息流平台传输数据。第一处理系统将增量基础数据传输至KAFKA集群中，第二处理系统从KAFKA集群中获取数据。
根据本公开的实施例，因通过分布式消息流平台传输增量基础数据，可以实现多线程并行传输，以便后续数据处理过程中实现多线程并行处理，提高数据处理效率。
根据本公开的实施例，其中，根据预处理结果数据和多个增量基础数据，计算目标损益额包括：利用调度系统建立多个用于计算目标损益额的任务线程；以及采用多任务线程并行的方式，根据预处理结果数据和多个增量基础数据，计算目标损益额。
根据本公开的实施例，因第二处理系统中的数据处理量较大且包括多场次的数据处理，可建立调度系统实现同一业务逻辑下数据处理进程的调度，第一处理系统和第二处理系统可共用一套调度系统，可利用调度系统建立多个任务线程，采用多任务线程并行的方式实现数据的并行处理，提高了数据处理的效率。
根据本公开的实施例，其中，根据预处理结果数据和多个增量基础数据，计算目标损益额包括：
获取多个待关联数据表，其中待关联数据表中存储有预处理结果数据或增量基础数据；将多个待关联数据表进行关联，以获取关联数据；根据关联数据，计算目标损益额。
根据本公开的实施例，在计算目标损益额的过程中，需要根据业务逻辑关联多种类型的多张数据表，筛选出符合业务场景的数据，并根据这些数据计算目标损益额。
例如，预处理结果数据表可以包括截止第T-1日的日终损益余额表、第T日的可预计损益发生额表、截止第T-1日的外汇买卖余额表等。增量基础数据表可以包括实时汇率表、第T日的单次外汇买卖发生额表，第T日的单次结算类交易损益发生额表等。
根据本公开的实施例，计算目标损益额，可以关联截止第T-1日的外汇买卖余额表、实时汇率表、多个第T日的单次外汇买卖发生额表，以获得第T日的汇兑损益发生总额表；与此同时，可以关联多个第T日的单次结算类交易损益发生额表以获得第T日的汇兑损益发生总额表；之后，可关联截止第T-1日的日终损益余额表、第T日的可预计损益发生额表、第T日的汇兑损益发生总额表以及第T日的结算类交易损益发生总额表，以获得目标损益额。
根据本公开的实施例，其中将多个待关联数据表进行关联包括：采用第一关联方法将多个待关联数据表中的第一分类数据表进行关联；采用第二关联方法将多个待关联数据表中的第二分类数据表进行关联；其中第一分类数据表的数据量大于第二分类数据表的数据量，第一分类数据表与其他待关联数据表关联的次数少于第二分类数据表与其他待关联数据表关联的次数。
根据本公开的实施例，第一关联方法，例如可以是采用HADOOP下的Map Reduce计算程序来对数据表进行关联，第二关联方法，例如可以是采用SPARK计算引擎下的SPARKSQL计算工具来对数据表进行关联。为了使得数据处理性能更佳，采用SPARK SQL时，SELECT语句仅列出使用的字段名。
根据本公开的实施例，采用第一关联方法将数据量较大、关联关系较为简单的数据表进行关联计算，采用第二关联方法将数据量较小、关联关系较为复杂的数据表进行关联计算。通过结合采用第一关联方法和第二关联方法，对不同特点的数据表采用更有针对性的数据处理方法，实现了数据处理过程中的性能调优，便于提高数据处理的效率。
根据本公开的实施例，其中，采用第二关联方法将多个待关联数据表中的第二分类数据表进行关联包括：在第二分类数据表中选取驱动表，其中驱动表采用JOIN KEY(关联主键)分布均匀的数据表；以及将驱动表与第二分类数据表中的其他数据表关联。
根据本公开的实施例，选取JOIN KEY分布最均匀的表作为驱动表，可保证数据表在进行关联的过程中，产生的中间数据量较小，如此，可减少不必要的数据处理，提高数据处理的速度。
根据本公开的实施例，其中，采用第二关联方法将多个待关联数据表中的第二分类数据表进行关联包括：将第二分类数据表中的第一表采用MAPJOIN的方式加载到内存；以及将第一表，与第二分类数据表中的第二表进行关联，其中第一表的数据量小于第二表的数据量。
根据本公开的实施例，通过将数据量较小的表先加载至内存后，再将其其他数据量较大的表进行关联，由于数据量较小的表在内存中进行处理处理速度较快，因此可整体提高数据处理的速度。
根据本公开的实施例，其中：增量基础数据包括第四类别数据和第五类别数据，第四类别数据包括用于表征第T日的每个第二预设时间间隔内的实时汇率的系统交易日志数据、以及用于表征第T日的每个第二预设时间间隔内的单次外汇买卖发生额的系统交易日志数据，第五类别数据包括用于计算第T日的每个第二预设时间间隔内的结算类交易损益发生额的系统交易日志数据。第T日的不可预计损益发生额包括第T日的结算类交易损益发生总额、以及第T日的汇兑损益发生总额。
根据本公开的实施例，其中根据预处理结果数据和多个增量基础数据，计算目标损益额包括：
解析第一类别数据，以获得截止第T-1日的日终损益余额。
解析第二类别数据，以获得第T日的可预计损益发生额；其中，可预计损益发生额可以是在第T日日初即可以确定当日会发生且是在当日日终批量记账的损益数据，例如，可以包括基于日初存贷款余额(个人存款、对公存款、信用卡存款、个人贷款、对公贷款、信用卡贷款、票据余额、债券余额)计算的当月/季周期应收应付利息，按照固定日收取客户的手续费，例如对公账户管理费等。
根据第三类别数据、第四类别数据计算第T日的汇兑损益发生总额；即根据截止第T-1日的外汇买卖余额、实时汇率、多个第T日的单次外汇买卖发生额，获得第T日的汇兑损益发生总额。
根据第五类别数据计算第T日的结算类交易损益发生总额；即，根据多个第T日的单次结算类交易损益发生额获得第T日的汇兑损益发生总额。
汇总截止第T-1日的日终损益余额、第T日的可预计损益发生额、第T日的汇兑损益发生总额以及第T日的结算类交易损益发生总额，以获得目标损益额。
根据本公开的实施例，根据第三类别数据、第四类别数据计算第T日的汇兑损益发生总额包括：
解析第三类别数据，以获得截止第T-1日的外汇买卖余额；
解析第四类别数据，以获得第T日的每个第二预设时间间隔内的实时汇率、和第T日的每个第二预设时间间隔内的单次外汇买卖发生额；
汇总多个单次外汇买卖发生额以及截止第T-1日的外汇买卖余额，以获得截止第T日的外汇买卖余额；
根据截止第T日的外汇买卖余额和第T日的每个第二预设时间间隔内的实时汇率，计算第T日的汇兑损益发生总额。
根据本公开的实施例，根据第五类别数据计算第T日的结算类交易损益发生总额包括：
解析第五类别数据，以获得第T日的每个第二预设时间间隔内的结算类交易损益发生额；
汇总多个第二预设时间间隔内的结算类交易损益发生额，以获得第T日的结算类交易损益发生总额。
本公开的另一个方面提供了另一种数据处理方法，图3示意性示出了根据本公开实施例的数据处理方法的流程图。如图3所示，该方法包括操作S301～S302。
根据本公开的实施例，实现该方法通过第一处理系统和第二处理系统协同作用，共同完成对业务数据的处理过程。根据本公开的实施例，执行上述操作S301～S302的主体为第一处理系统。
在操作S301，在第T日按照第二预设时间间隔，依次解析来自于第一处理系统的消息队列中的第一原始数据，以获得增量基础数据，其中，增量基础数据用于计算第T日的不可预计损益发生额，第一原始数据为在第T日按照第二预设时间间隔，利用传输工具依次从第一处理系统的数据库中获取后发送至消息队列的数据，其中第一原始数据包括第T日的系统交易日志数据；以及将增量基础数据发送至分布式消息流平台，以便第二处理系统从分布式消息流平台中获取增量基础数据。
根据本公开的实施例，上述数据处理方法还包括：
在第T日的第一预设时间段内，从第一处理系统的数据库中获取第一原始数据，其中，第一原始数据包括截止第T-1日的系统交易日志数据；
根据第一原始数据计算预处理结果数据，其中预处理结果数据为在第一处理系统中对截止第T-1日的系统交易日志数据处理获得的数据，且预处理结果数据包括第一类别数据、第二类别数据、以及第三类别数据，第一类别数据为用于表征截止第T-1日的日终损益余额的数据、第二类别数据为用于表征第T日的可预计损益发生额的数据、第三类别数据为用于表征截止第T-1日的外汇买卖余额的数据；
将预处理结果数据发送至数据传输平台，以便第二处理系统从数据传输平台中获取预处理结果数据。
图4示意性示出了根据本公开实施例的数据处理方法的示意图。以下结合图4，对上述数据处理方法进行详细说明。
根据本公开的实施例，第一处理系统可以包括用于业务处理的业务处理服务器，还可以包括数据库服务器，数据库服务器用于存储各类系统交易日志数据或者预处理结果数据。例如，第一处理系统可以是基于IBM主机和DB2数据库组成的主机业务处理系统。第一处理系统还可以包括消息队列服务器，消息队列服务器可用于在数据库服务器和业务处理服务器或服务器集群之间之间传输数据，例如可以是MQ消息队列服务器。
在第一处理系统中，对截止第T-1日的系统交易日志数据进行处理，得到预处理结果数据，并将预处理结果数据发送至数据传输平台，以便第二处理系统从数据传输平台中获取预处理结果数据。例如可以是通过FTP文件传输的方式进行数据传输，第一处理系统将预处理结果数据上传至FTP服务器，第二处理系统从FTP服务器中获取数据。
根据本公开的实施例，预处理结果数据主要包括一些非实时性的阶段性结果数据。例如可以包括用于表征截止第T-1日的日终损益余额的数据、用于表征截止第T-1日的外汇买卖余额的数据、用于表征第T日的可预计损益发生额的数据等。其中，可预计损益发生额可以是在第T日日初即可以确定当日会发生且是在当日日终批量记账的损益数据，例如，可以包括基于日初存贷款余额(个人存款、对公存款、信用卡存款、个人贷款、对公贷款、信用卡贷款、票据余额、债券余额)计算的当月/季周期应收应付利息，按照固定日收取客户的手续费，例如对公账户管理费等。
此外，在第一处理系统中，还对第T日的系统交易日志数据进行解析，解析为ISON格式的增量基础数据。根据本公开的实施例，上述增量基础数据主要是一些实时性的ISON格式的系统交易日志数据，用于计算第T日的不可预计损益发生额，不可预计损益发生额因受第T日实时交易的影响，因此无法预先获得。例如，不可预计损益发生额可包括第T日的结算类交易损益发生总额、以及第T日的汇兑损益发生总额等。
根据本公开的实施例，因增量基础数据主要是一些实时性的系统交易日志数据，实时性要求高，且数据量较大，处理耗时较长，因此，在第一处理系统中，将第T日的系统交易日志数据解析为ISON格式的增量基础数据的过程中，可分多场次进行解析，将一天内的数据处理任务平均分配至一天的多个时间段来进行分批处理，可提高数据处理的效率。
具体地，在第T日按照第二预设时间间隔，从数据库中依次获取第T日的系统交易日志数据，之后，依次利用传输工具(例如可以是IBM的Qrep工具)将获取到第T日的系统交易日志数据发送至消息队列服务器，然后，业务处理服务器依次从消息队列服务器中获取该系统交易日志数据后，利用解析工具(例如可以是DB2日志解析工具)解析该系统交易日志数据，将其转换为可跨平台传输的ISON格式的增量基础数据。
在第一处理系统中，对第T日的系统交易日志数据进行解析，解析为ISON格式的增量基础数据后，将增量基础数据发送至分布式消息流平台，以便第二处理系统从分布式消息流平台中获取增量基础数据。例如可以是通过KAFKA分布式消息流平台传输数据。第一处理系统将增量基础数据传输至KAFKA集群中，第二处理系统从KAFKA集群中获取数据。因通过分布式消息流平台传输增量基础数据，可以实现多线程并行传输，以便后续数据处理过程中实现多线程并行处理，提高数据处理效率。
第二处理系统在获取到预处理结果数据和增量基础数据后，对预处理结果数据和增量基础数据进行处理，获得目标损益额。其中，在第二处理系统中对数据进行处理的具体方法，可参考根据图2所示的数据处理方法，在此不再赘述。
图5示意性示出了根据本公开另一实施例的数据处理方法的示意图。以下结合图5，对本公开实施例的数据处理方法的具体应用场景进行详细说明。
在第一处理系统，即在主机系统中，对截止第T-1日的系统交易日志数据进行处理，得到预处理结果数据，并将预处理结果数据通过FTP文件传输的方式传输至第二处理系统，即HADOOP分布式处理系统中。
根据本公开的实施例，预处理结果数据包括截止第T-1日的日终损益余额、第T日的可预计损益发生额、以及截止第T-1日的外汇买卖余额。其中，可预计损益发生额可以是在第T日日初即可以确定当日会发生且是在当日日终批量记账的损益数据，例如，可以包括基于日初存贷款余额(个人存款、对公存款、信用卡存款、个人贷款、对公贷款、信用卡贷款、票据余额、债券余额)计算的当月/季周期应收应付利息，按照固定日收取客户的手续费，例如对公账户管理费等。
其中，截止第T-1日的外汇买卖余额例如可以是外汇买卖、贵金属买卖和账户外汇等的余额，该余额用于后续结合据实时汇率计算汇兑损益额。
此外，在第一处理系统中，还对第T日的系统交易日志数据进行解析，解析为ISON格式的增量基础数据。之后将增量基础数据发送至KAFKA分布式消息流平台中，以便第二处理系统(即HADOOP分布式处理系统)KAFKA集群中获取增量基础数据。
根据本公开的实施例，上述增量基础数据主要是一些实时性的ISON格式的系统交易日志数据，用于计算第T日的不可预计损益发生额，不可预计损益发生额可包括第T日的结算类交易损益发生总额、以及第T日的汇兑损益发生总额等。上述增量基础数据例如可以包括实时汇率、多个第T日的单次外汇买卖发生额、以及各类结算类交易损益发生额。结算类交易例如可以包括内部帐交易、对公存款贷款交易、个人存款贷款交易、信用卡存款贷款交易、中间业务交易等。
根据本公开的实施例，在第一处理系统中处理得到的预处理结果数据和增量基础数据可以在日终批量后金融机构当日营业前通过主机系统处理得到，每日处理一次。
根据本公开的实施例，在HADOOP分布式处理系统中，在获取到预处理结果数据和增量基础数据后，对预处理结果数据和增量基础数据进行处理，获得目标损益额，并根据目标损益额表表生成实时利润表后通过FTP点对点下传至报表展现系统，供业务人员调用。
根据本公开的实施例，上述对预处理结果数据和增量基础数据进行处理，获得目标损益额的具体操作为：
1、计算第T日的日初损益余额
汇总截止第T-1日的日终损益余额以及第T日的可预计损益发生额得到第T日的日初损益余额。
2、计算第T日的汇兑损益发生总额
根据截止第T-1日的外汇买卖余额、实时汇率、多个第T日的单次外汇买卖发生额计算获得第T日的汇兑损益发生总额。
具体地，汇总多个单次外汇买卖发生额以及截止第T-1日的外汇买卖余额，以获得截止第T日的外汇买卖余额；
根据截止第T日的外汇买卖余额，关联第T日的每个第二预设时间间隔内的实时汇率，计算得到第T日的汇兑损益发生总额。
3、计算第T日的结算类交易损益发生总额
汇总所有场次的、所有类别的第二预设时间间隔内的结算类交易损益发生额(如依据内部帐交易、对公存款贷款交易、个人存款贷款交易、信用卡存款贷款交易、中间业务交易等类别生成的多个损益科目的交易发生额)，获得第T日的结算类交易损益发生总额。
4、计算目标损益额
汇总第T日的日初损益余额、第T日的汇兑损益发生总额以及第T日的结算类交易损益发生总额，获得目标损益额。
图6示意性示出了根据本公开实施例的数据处理装置600的框图。
该数据处理装置600可以用来实现参考图2所示的方法。
如图6所示，数据处理装置600包括：第一获取模块610、第二获取模块620和第一计算模块630。
其中第一获取模块610，用于在第T日的第一预设时间段内获取预处理结果数据，其中预处理结果数据为在第一处理系统中对截止第T-1日的系统交易日志数据处理获得的数据，且预处理结果数据包括第一类别数据、第二类别数据、以及第三类别数据，第一类别数据为用于表征截止第T-1日的日终损益余额的数据、第二类别数据为用于表征第T日的可预计损益发生额的数据、第三类别数据为用于表征截止第T-1日的外汇买卖余额的数据。
第二获取模块620，用于在第T日按照第二预设时间间隔，多次获取增量基础数据，其中增量基础数据用于计算第T日的不可预计损益发生额。
第一计算模块630，用于根据预处理结果数据和多个增量基础数据，计算目标损益额，其中目标损益额为截止第T日的日终损益余额。
根据本公开的实施例，通过第一获取模块610和第二获取模块620、第一计算模块630协同作用，将数据处理的过程分为预处理和实时处理的两个处理过程。针对一些不受第T日的交易影响的非实时性的阶段性结果数据，通过第一获取模块610预先处理获得，以减少第二获取模块620、第一计算模块630数据处理的压力。针对实时性的增量基础数据，通过第二获取模块620和第一计算模块630实时处理。并且，通过第二获取模块620、第一计算模块630，将一天内的数据处理任务平均分配至一天的多个时间段来进行分批处理，据此方法，可提高数据处理的效率，同时，相比于单独利用一个数据处理系统，在完成同样数据处理任务的情况下，可节省了软硬件成本。通过上述方法，建立了一套高时效、低成本的利润实时预测系统，便于金融机构在日常经营过程中、特别是关键时点准确的掌握辖属机构实时的财务收支情况，为管理层财务决策提供有力的信息支撑，便于进一步提高财务精细化管理水平。
根据本公开的实施例，其中，预处理结果数据被预先存储在数据传输平台中；获取预处理结果数据包括：从数据传输平台中获取预处理结果数据。
根据本公开的实施例，其中，增量基础数据被预先存储在分布式消息流平台中；获取增量基础数据包括：从分布式消息流平台中获取增量基础数据。
根据本公开的实施例，其中，上述第一计算模块包括调度单元和第一计算单元。
其中，调度单元，用于利用调度系统建立多个用于计算目标损益额的任务线程。第一计算单元，用于采用多任务线程并行的方式，根据预处理结果数据和多个增量基础数据，计算目标损益额。
根据本公开的实施例，上述第一计算模块包括获取单元、关联单元、第二计算单元。
其中，获取单元，用于获取多个待关联数据表，其中待关联数据表中存储有预处理结果数据或增量基础数据。关联单元，用于将多个待关联数据表进行关联，以获取关联数据。第二计算单元，用于根据关联数据，计算目标损益额。
根据本公开的实施例，上述关联单元包括第一关联子单元、第二关联子单元。
其中，第一关联子单元，用于采用第一关联方法将多个待关联数据表中的第一分类数据表进行关联。第二关联子单元，用于采用第二关联方法将多个待关联数据表中的第二分类数据表进行关联；其中第一分类数据表的数据量大于第二分类数据表的数据量，第一分类数据表与其他待关联数据表关联的次数少于第二分类数据表与其他待关联数据表关联的次数。
根据本公开的实施例，其中，上述第二关联子单元中，采用第二关联方法将多个待关联数据表中的第二分类数据表进行关联包括：在第二分类数据表中选取驱动表，其中驱动表采用关联主键分布均匀的数据表；以及将驱动表与第二分类数据表中的其他数据表关联。
根据本公开的实施例，其中，上述第二关联子单元中，采用第二关联方法将多个待关联数据表中的第二分类数据表进行关联包括：将第二分类数据表中的第一表加载到内存；以及将第一表，与第二分类数据表中的第二表进行关联，其中第一表的数据量小于第二表的数据量。
根据本公开的实施例，其中：上述增量基础数据包括第四类别数据和第五类别数据，第四类别数据包括用于表征第T日的每个第二预设时间间隔内的实时汇率的系统交易日志数据、以及用于表征第T日的每个第二预设时间间隔内的单次外汇买卖发生额的系统交易日志数据，第五类别数据包括用于计算第T日的每个第二预设时间间隔内的结算类交易损益发生额的系统交易日志数据。第T日的不可预计损益发生额包括第T日的结算类交易损益发生总额、以及第T日的汇兑损益发生总额。
根据本公开的实施例，上述第一计算模块包括：第一解析单元、第二解析单元、第三计算单元、第四计算单元和汇总单元。
其中，第一解析单元，用于解析第一类别数据，以获得截止第T-1日的日终损益余额。第二解析单元，用于解析第二类别数据，以获得第T日的可预计损益发生额。第三计算单元，用于根据第三类别数据、第四类别数据计算第T日的汇兑损益发生总额。第四计算单元，用于根据第五类别数据计算第T日的结算类交易损益发生总额。汇总单元，用于汇总截止第T-1日的日终损益余额、第T日的可预计损益发生额、第T日的汇兑损益发生总额以及第T日的结算类交易损益发生总额，以获得目标损益额。
根据本公开的实施例，第三计算单元包括：第一解析子单元、第二解析子单元、和第一汇总子单元。
其中，第一解析子单元，用于解析第三类别数据，以获得截止第T-1日的外汇买卖余额。第二解析子单元，用于解析第四类别数据，以获得第T日的每个第二预设时间间隔内的实时汇率、和第T日的每个第二预设时间间隔内的单次外汇买卖发生额。第一汇总子单元，用于汇总多个单次外汇买卖发生额以及截止第T-1日的外汇买卖余额，以获得截止第T日的外汇买卖余额。计算子单元，用于根据截止第T日的外汇买卖余额和第T日的每个第二预设时间间隔内的实时汇率，计算第T日的汇兑损益发生总额。
根据本公开的实施例，上述第四计算单元包括：第三解析子单元和第二汇总子单元。
其中，第三解析子单元，用于解析第五类别数据，以获得第T日的每个第二预设时间间隔内的结算类交易损益发生额。第二汇总子单元，用于汇总多个第二预设时间间隔内的结算类交易损益发生额，以获得第T日的结算类交易损益发生总额。
图7示意性示出了根据本公开实施例的另一数据处理装置的框图；
该数据处理装置700可以用来实现参考图3所示的方法。
如图7所示，数据处理装置700包括：解析模块710和第一发送模块720。
其中，解析模块710，用于在第T日按照第二预设时间间隔，依次解析来自于第一处理系统的消息队列中的第一原始数据，以获得增量基础数据，其中，增量基础数据用于计算第T日的不可预计损益发生额，第一原始数据为在第T日按照第二预设时间间隔，利用传输工具依次从第一处理系统的数据库中获取后发送至消息队列的数据，其中第一原始数据包括第T日的系统交易日志数据；
第一发送模块720，用于将增量基础数据发送至分布式消息流平台，以便第二处理系统从分布式消息流平台中获取增量基础数据。
根据本公开的实施例，上述数据处理装置还包括第三获取模块、第二计算模块和第二发送模块。
其中，第三获取模块，用于在第T日的第一预设时间段内，从第一处理系统的数据库中获取第一原始数据，其中，第一原始数据包括截止第T-1日的系统交易日志数据。
第二计算模块，用于根据第一原始数据计算预处理结果数据，其中预处理结果数据为在第一处理系统中对截止第T-1日的系统交易日志数据处理获得的数据，且预处理结果数据包括第一类别数据、第二类别数据、以及第三类别数据，第一类别数据为用于表征截止第T-1日的日终损益余额的数据、第二类别数据为用于表征第T日的可预计损益发生额的数据、第三类别数据为用于表征截止第T-1日的外汇买卖余额的数据。
第二发送模块，用于将预处理结果数据发送至数据传输平台，以便第二处理系统从数据传输平台中获取预处理结果数据。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
例如，第一获取模块610、第二获取模块620和第一计算模块630、解析模块710和第一发送模块720中的任意多个可以合并在一个模块/单元/子单元中实现，或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者，这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合，并在一个模块/单元/子单元中实现。根据本公开的实施例，第一获取模块610、第二获取模块620、第一计算模块630、解析模块710和第一发送模块720中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，第一获取模块610、第二获取模块620、第一计算模块630、解析模块710和第一发送模块720中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
图8示意性示出了根据本公开实施例的用于实现数据处理方法的电子设备的框图。
图8示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图8所示，根据本公开实施例的电子设备800包括处理器801，其可以根据存储在只读存储器(ROM)802中的程序或者从存储部分808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。处理器801例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))，等等。处理器801还可以包括用于缓存用途的板载存储器。处理器801可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 803中，存储有电子设备800操作所需的各种程序和数据。处理器801、ROM802以及RAM 803通过总线804彼此相连。处理器801通过执行ROM 802和/或RAM 803中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 802和RAM 803以外的一个或多个存储器中。处理器801也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例，电子设备800还可以包括输入/输出(I/O)接口805，输入/输出(I/O)接口805也连接至总线804。电子设备800还可以包括连接至I/O接口805的以下部件中的一项或多项：包括键盘、鼠标等的输入部分806；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分807；包括硬盘等的存储部分808；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至I/O接口805。可拆卸介质811，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器810上，以便于从其上读出的计算机程序根据需要被安装入存储部分808。
根据本公开的实施例，根据本公开实施例的方法流程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分809从网络上被下载和安装，和/或从可拆卸介质811被安装。在该计算机程序被处理器801执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。
根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 802和/或RAM 803和/或ROM 802和RAM 803以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行本公开实施例所提供的方法的程序代码，当计算机程序产品在电子设备上运行时，该程序代码用于使电子设备实现本公开实施例所提供的数据处理方法。
在该计算机程序被处理器801执行时，执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分809被下载和安装，和/或从可拆卸介质811被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。
根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (18)

1.一种数据处理方法，应用于第二处理系统，包括：
在第T日的第一预设时间段内获取预处理结果数据，其中所述预处理结果数据为在第一处理系统中对截止第T-1日的系统交易日志数据处理获得的数据，且所述预处理结果数据包括第一类别数据、第二类别数据、以及第三类别数据，所述第一类别数据为用于表征截止所述第T-1日的日终损益余额的数据、所述第二类别数据为用于表征所述第T日的可预计损益发生额的数据、所述第三类别数据为用于表征截止所述第T-1日的外汇买卖余额的数据；
在所述第T日按照第二预设时间间隔，多次获取增量基础数据，其中所述增量基础数据用于计算所述第T日的不可预计损益发生额；以及
根据所述预处理结果数据和多个所述增量基础数据，计算目标损益额，其中所述目标损益额为截止所述第T日的日终损益余额。
2.根据权利要求1所述的方法，其中，所述预处理结果数据被预先存储在数据传输平台中；
获取所述预处理结果数据包括：从所述数据传输平台中获取所述预处理结果数据。
3.根据权利要求1所述的方法，其中，所述增量基础数据被预先存储在分布式消息流平台中；
所述获取增量基础数据包括：从所述分布式消息流平台中获取所述增量基础数据。
4.根据权利要求1所述的方法，其中，根据所述预处理结果数据和多个所述增量基础数据，计算目标损益额包括：
利用调度系统建立多个用于计算所述目标损益额的任务线程；
采用多任务线程并行的方式，根据所述预处理结果数据和多个所述增量基础数据，计算所述目标损益额。
5.根据权利要求1所述的方法，其中，根据所述预处理结果数据和多个所述增量基础数据，计算目标损益额包括：
获取多个待关联数据表，其中所述待关联数据表中存储有所述预处理结果数据或所述增量基础数据；
将多个所述待关联数据表进行关联，以获取关联数据；
根据所述关联数据，计算所述目标损益额。
6.根据权利要求5所述的方法，其中所述将多个所述待关联数据表进行关联包括：
采用第一关联方法将多个所述待关联数据表中的第一分类数据表进行关联；
采用第二关联方法将多个所述待关联数据表中的第二分类数据表进行关联；其中
所述第一分类数据表的数据量大于所述第二分类数据表的数据量，所述第一分类数据表与其他所述待关联数据表关联的次数少于所述第二分类数据表与其他所述待关联数据表关联的次数。
7.根据权利要求6所述的方法，其中，所述采用第二关联方法将多个所述待关联数据表中的第二分类数据表进行关联包括：
在所述第二分类数据表中选取驱动表，其中所述驱动表采用关联主键分布均匀的数据表；
将所述驱动表与所述第二分类数据表中的其他数据表关联。
8.根据权利要求6所述的方法，其中，所述采用第二关联方法将多个所述待关联数据表中的第二分类数据表进行关联包括：
将所述第二分类数据表中的第一表加载到内存；
将所述第一表，与所述第二分类数据表中的第二表进行关联，其中所述第一表的数据量小于所述第二表的数据量。
9.根据权利要求1所述的方法，其中：
所述增量基础数据包括第四类别数据和第五类别数据，所述第四类别数据包括用于表征所述第T日的每个所述第二预设时间间隔内的实时汇率的系统交易日志数据、以及用于表征所述第T日的每个所述第二预设时间间隔内的单次外汇买卖发生额的系统交易日志数据，所述第五类别数据包括用于计算所述第T日的每个所述第二预设时间间隔内的结算类交易损益发生额的系统交易日志数据；
所述第T日的不可预计损益发生额包括所述第T日的结算类交易损益发生总额、以及所述第T日的汇兑损益发生总额。
10.根据权利要求9所述的方法，其中根据所述预处理结果数据和多个所述增量基础数据，计算目标损益额包括：
解析所述第一类别数据，以获得截止所述第T-1日的日终损益余额；
解析所述第二类别数据，以获得所述第T日的可预计损益发生额；
根据所述第三类别数据、第四类别数据计算所述第T日的汇兑损益发生总额；
根据所述第五类别数据计算所述第T日的结算类交易损益发生总额；
汇总所述截止所述第T-1日的日终损益余额、所述第T日的可预计损益发生额、所述第T日的汇兑损益发生总额以及所述第T日的结算类交易损益发生总额，以获得所述目标损益额。
11.根据权利要求10所述的方法，根据所述第三类别数据、第四类别数据计算所述第T日的汇兑损益发生总额包括：
解析所述第三类别数据，以获得截止所述第T-1日的外汇买卖余额；
解析所述第四类别数据，以获得所述第T日的每个所述第二预设时间间隔内的实时汇率、和所述第T日的每个所述第二预设时间间隔内的单次外汇买卖发生额；
汇总多个所述单次外汇买卖发生额以及截止所述第T-1日的外汇买卖余额，以获得截止所述第T日的外汇买卖余额；
根据所述截止所述第T日的外汇买卖余额和所述第T日的每个所述第二预设时间间隔内的实时汇率，计算所述第T日的汇兑损益发生总额。
12.根据权利要求10所述的方法，根据所述第五类别数据计算所述第T日的结算类交易损益发生总额包括：
解析所述第五类别数据，以获得所述第T日的每个所述第二预设时间间隔内的结算类交易损益发生额；
汇总多个所述第二预设时间间隔内的结算类交易损益发生额，以获得所述第T日的结算类交易损益发生总额。
13.一种数据处理方法，应用于第一处理系统，包括：
在第T日按照第二预设时间间隔，依次解析来自于第一处理系统的消息队列中的第一原始数据，以获得增量基础数据，其中，所述增量基础数据用于计算所述第T日的不可预计损益发生额，所述第一原始数据为在所述第T日按照第二预设时间间隔，利用传输工具依次从所述第一处理系统的数据库中获取后发送至所述消息队列的数据，其中所述第一原始数据包括所述第T日的系统交易日志数据；
将所述增量基础数据发送至分布式消息流平台，以便第二处理系统从所述分布式消息流平台中获取所述增量基础数据；
在所述第T日的第一预设时间段内，从第一处理系统的数据库中获取第一原始数据，其中，所述第一原始数据包括截止第T-1日的系统交易日志数据；
根据所述第一原始数据计算预处理结果数据，其中所述预处理结果数据为在第一处理系统中对截止所述第T-1日的系统交易日志数据处理获得的数据，且所述预处理结果数据包括第一类别数据、第二类别数据、以及第三类别数据，所述第一类别数据为用于表征截止所述第T-1日的日终损益余额的数据、所述第二类别数据为用于表征所述第T日的可预计损益发生额的数据、所述第三类别数据为用于表征截止所述第T-1日的外汇买卖余额的数据；
将所述预处理结果数据发送至数据传输平台，以便第二处理系统从所述数据传输平台中获取所述预处理结果数据。
14.一种数据处理装置，应用于第二处理系统，包括：
第一获取模块，用于在第T日的第一预设时间段内获取预处理结果数据，其中所述预处理结果数据为在第一处理系统中对截止第T-1日的系统交易日志数据处理获得的数据，且所述预处理结果数据包括第一类别数据、第二类别数据、以及第三类别数据，所述第一类别数据为用于表征截止所述第T-1日的日终损益余额的数据、所述第二类别数据为用于表征所述第T日的可预计损益发生额的数据、所述第三类别数据为用于表征截止所述第T-1日的外汇买卖余额的数据；
第二获取模块，用于在所述第T日按照第二预设时间间隔，多次获取增量基础数据，其中所述增量基础数据用于计算所述第T日的不可预计损益发生额；以及
第一计算模块，用于根据所述预处理结果数据和多个所述增量基础数据，计算目标损益额，其中所述目标损益额为截止所述第T日的日终损益余额。
15.一种数据处理装置，应用于第一处理系统，包括：
解析模块，用于在第T日按照第二预设时间间隔，依次解析来自于第一处理系统的消息队列中的第一原始数据，以获得增量基础数据，其中，所述增量基础数据用于计算所述第T日的不可预计损益发生额，所述第一原始数据为在所述第T日按照第二预设时间间隔，利用传输工具依次从所述第一处理系统的数据库中获取后发送至所述消息队列的数据，其中所述第一原始数据包括所述第T日的系统交易日志数据；
第一发送模块，用于将所述增量基础数据发送至分布式消息流平台，以便第二处理系统从所述分布式消息流平台中获取所述增量基础数据；
第三获取模块，用于在第T日的第一预设时间段内，从第一处理系统的数据库中获取第一原始数据，其中，第一原始数据包括截止第T-1日的系统交易日志数据；
第二计算模块，用于根据第一原始数据计算预处理结果数据，其中预处理结果数据为在第一处理系统中对截止第T-1日的系统交易日志数据处理获得的数据，且预处理结果数据包括第一类别数据、第二类别数据、以及第三类别数据，第一类别数据为用于表征截止第T-1日的日终损益余额的数据、第二类别数据为用于表征第T日的可预计损益发生额的数据、第三类别数据为用于表征截止第T-1日的外汇买卖余额的数据；
第二发送模块，用于将预处理结果数据发送至数据传输平台，以便第二处理系统从数据传输平台中获取预处理结果数据。
16.一种电子设备，包括：
一个或多个处理器；
存储器，用于存储一个或多个程序，
其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现权利要求1至12中任一项所述的方法，或者实现权利要求13所述的方法。
17.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器实现权利要求1至12中任一项所述的方法，或者实现权利要求13所述的方法。
18.一种计算机程序产品，所述计算机程序产品包括计算机可执行指令，所述指令在被执行时用于实现权利要求1至12中任一项所述的方法，或者实现权利要求13所述的方法。
CN202110542874.XA 2021-05-18 2021-05-18 数据处理方法及装置、电子设备和计算机可读存储介质 Active CN113515374B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110542874.XA CN113515374B (zh) 2021-05-18 2021-05-18 数据处理方法及装置、电子设备和计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110542874.XA CN113515374B (zh) 2021-05-18 2021-05-18 数据处理方法及装置、电子设备和计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN113515374A CN113515374A (zh) 2021-10-19
CN113515374B true CN113515374B (zh) 2024-02-27

Family

ID=78064696

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110542874.XA Active CN113515374B (zh) 2021-05-18 2021-05-18 数据处理方法及装置、电子设备和计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN113515374B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106445738A (zh) * 2016-09-13 2017-02-22 郑州云海信息技术有限公司 一种数据库备份方法及装置
CN107577805A (zh) * 2017-09-26 2018-01-12 华南理工大学 一种面向日志大数据分析的业务服务系统
CN110070440A (zh) * 2019-04-30 2019-07-30 苏州工业园区服务外包职业学院 一种业务数据处理方法、装置、设备和存储介质
CN111124650A (zh) * 2019-12-26 2020-05-08 中国建设银行股份有限公司 一种流式数据处理方法及装置
CN111861004A (zh) * 2020-07-22 2020-10-30 携程计算机技术（上海）有限公司 日收入产量的自动佣金预测方法、系统、设备及存储介质
CN112307121A (zh) * 2020-10-30 2021-02-02 中国平安人寿保险股份有限公司 基于Oracle的数据同步方法、装置及计算机设备

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106445738A (zh) * 2016-09-13 2017-02-22 郑州云海信息技术有限公司 一种数据库备份方法及装置
CN107577805A (zh) * 2017-09-26 2018-01-12 华南理工大学 一种面向日志大数据分析的业务服务系统
CN110070440A (zh) * 2019-04-30 2019-07-30 苏州工业园区服务外包职业学院 一种业务数据处理方法、装置、设备和存储介质
CN111124650A (zh) * 2019-12-26 2020-05-08 中国建设银行股份有限公司 一种流式数据处理方法及装置
CN111861004A (zh) * 2020-07-22 2020-10-30 携程计算机技术（上海）有限公司 日收入产量的自动佣金预测方法、系统、设备及存储介质
CN112307121A (zh) * 2020-10-30 2021-02-02 中国平安人寿保险股份有限公司 基于Oracle的数据同步方法、装置及计算机设备

Also Published As

Publication number Publication date
CN113515374A (zh) 2021-10-19

Similar Documents

Publication Publication Date Title
US11475511B2 (en) Optimizing aggregation routing over a network
US11928652B2 (en) Electronic capital marketplace systems and methods
US20170293980A1 (en) System and method for managing processing resources of a computing system
US20210216936A1 (en) Intelligent diversification tool
CN111242661A (zh) 优惠券发放方法和装置以及计算机系统和介质
CN114022031A (zh) 数据处理方法、装置、电子设备、介质和计算机程序产品
US20220207606A1 (en) Prediction of future occurrences of events using adaptively trained artificial-intelligence processes
CN113515374B (zh) 数据处理方法及装置、电子设备和计算机可读存储介质
CN111695988A (zh) 信息处理方法、装置、电子设备和介质
CN111709842B (zh) 由电子设备执行的产品参数调整方法和装置、系统和介质
CN113391988A (zh) 流失用户留存的方法、装置、电子设备及存储介质
CN112907362A (zh) 贷款业务的处理方法、装置、电子设备和存储介质
CN113971007B (zh) 信息处理方法、装置、电子设备及介质
US20090006252A1 (en) Billing data report system
CN117196869A (zh) 资金清算方法、装置、设备和介质
TWI652641B (zh) 貸款續約申請系統及貸款續約申請方法
CN117853216A (zh) 利息计提方法、装置、设备和介质
CN114298149A (zh) 用户分类的方法、装置、设备和计算机可读介质
CN116611906A (zh) 交易任务的分拣方法、装置、设备、存储介质和程序产品
CN116737795A (zh) 一种信息生成方法、装置、设备及存储介质
CN115809890A (zh) 信息预测方法、装置、设备、介质
CN112598498A (zh) 一种数据处理方法和装置
CN118035294A (zh) 数据整合方法、装置、设备、存储介质和程序产品
CN116167849A (zh) 业务处理方法、装置、电子设备和存储介质
CN113421152A (zh) 由电子设备执行的任务执行方法及装置、电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant