CN110457333B - 数据实时更新方法、装置及计算机可读存储介质 - Google Patents

数据实时更新方法、装置及计算机可读存储介质 Download PDF

Info

Publication number
CN110457333B
CN110457333B CN201910698880.7A CN201910698880A CN110457333B CN 110457333 B CN110457333 B CN 110457333B CN 201910698880 A CN201910698880 A CN 201910698880A CN 110457333 B CN110457333 B CN 110457333B
Authority
CN
China
Prior art keywords
data
real
time
data set
updating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910698880.7A
Other languages
English (en)
Other versions
CN110457333A (zh
Inventor
梁慷凯
熊一龙
戴秀凤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Merchants Finance Technology Co Ltd
Original Assignee
China Merchants Finance Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Merchants Finance Technology Co Ltd filed Critical China Merchants Finance Technology Co Ltd
Priority to CN201910698880.7A priority Critical patent/CN110457333B/zh
Publication of CN110457333A publication Critical patent/CN110457333A/zh
Application granted granted Critical
Publication of CN110457333B publication Critical patent/CN110457333B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22—Indexing; Data structures therefor; Storage structures
    • G06F16/2282—Tablespace storage structures; Management thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/23—Updating
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25—Integrating or interfacing systems involving database management systems
    • G06F16/254—Extract, transform and load [ETL] procedures, e.g. ETL data flows in data warehouses
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • G06F16/275—Synchronous replication

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明涉及一种大数据技术，揭露了一种数据实时更新方法，包括：获取客户端的数据集，通过预先构建的宽表对所述客户端的数据集进行解析处理，得到源数据集；利用数据复制技术将所述源数据集复制到预先构建的实时数据仓库中；对所述实时数据仓库中的源数据集进行汇总处理，并将汇总处理后的所述源数据集进行分析处理，得到目标数据集；利用任务调度对所述目标数据集进行定时更新操作，完成所述目标数据集的实时更新，并将实时更新后的所述目标数据集存入所述实时数据仓库中。本发明还提出一种数据实时更新装置以及一种计算机可读存储介质。本发明实现了数据的实时更新。

Description

数据实时更新方法、装置及计算机可读存储介质
技术领域
本发明涉及大数据技术领域，尤其涉及一种数据实时更新方法、装置及计算机可读存储介质。
背景技术
随着信息技术的不断发展，海量数据的不断涌现，企业迫切需要高效、精确、科学的分析数据。由于传统数据仓库的数据更新一般是每天、每周或是每个月更新一次，意味着它的数据不是最新的。然而，对于电子商业、股票经济、在线通讯以及决策系统等信息，需要及时的将数据发送到企业管理人员，最新的数据信息可以帮助所述企业管理人员作出更加精确的战略部署。目前行业内通过使用Hadoop(分布式存储)+Spark/Flink(分布式计算)+Oozie(分布式任务调度)的技术对数据实时进行更新处理，所采用的解决方案均为开源软件，技术尚不成熟，架构复杂，数据准确性低，并且人工运维成本极高。
发明内容
本发明提供一种数据实时更新方法、装置及计算机可读存储介质，其主要目的在于实现高效的数据实时更新的效果。
为实现上述目的，本发明提供的一种数据实时更新方法，包括：
获取客户端的数据集，通过预先构建的宽表对所述客户端的数据集进行解析处理，得到源数据集；
利用数据复制技术将所述源数据集复制到预先构建的实时数据仓库中；
对所述实时数据仓库中的源数据集进行汇总处理，并将汇总处理后的所述源数据集进行分析处理，得到目标数据集；
利用任务调度对所述目标数据集进行定时更新操作，完成所述目标数据集的实时更新，并将实时更新后的所述目标数据集存入所述实时数据仓库中。
可选地，所述预先构建的宽表包括table_a和table_b两个样例宽表，以及所述解析处理包括；
在所述table_a样例宽表中输入所述数据集的第一客户端数据集；
在所述table_b样例宽表中输入所述数据集的第二客户端数据集；
根据所述table_a样例宽表和table_b样例宽表中包含的相同的字段，对所述table_a和table_b两个样例宽表进行合并，完成所述解析处理。
可选地，所述实时数据仓库包括数据存储模块和实时计算处理模块；
所述数据存储模块对所述实时数据仓库中的源数据集进行汇总处理，其中，所述数据存储模块包括明细宽表层和汇总数据层；
所述实时计算模块对汇总处理后的所述源数据集进行分析处理，其中所述实时计算模块包括联机分析处理层和应用数据层。
可选地，所述对所述实时数据仓库中的源数据集进行汇总处理，包括：
通过数据仓库技术将所述实时数据仓库的源数据集传递至所述数据存储模块的明细宽表层中，对所述明细宽表层的源数据集进行萃取、转置以及加载的预处理操作，将所述预处理后的所述源数据存入所述汇总数据层中，完成所述源数据集的汇总处理。
可选地，所述利用任务调度对所述目标数据集进行定时更新操作，包括：
调用所述任务调度中的存储任务队列，根据用户的需求将所述目标数据集中需要进行更新的目标数据加入到所述存储任务队列中；
将所述存储任务队列中需要进行更新的目标数据加载至预设的sql语句中，完成所述目标数据集的定时更新操作。
此外，为实现上述目的，本发明还提供一种数据实时更新装置，该装置包括存储器和处理器，所述存储器中存储有可在所述处理器上运行的数据实时更新程序，所述数据实时更新程序被所述处理器执行时实现如下步骤：
获取客户端的数据集，通过预先构建的宽表对所述客户端的数据集进行解析处理，得到源数据集；
利用数据复制技术将所述源数据集复制到预先构建的实时数据仓库中；
对所述实时数据仓库中的源数据集进行汇总处理，并将汇总处理后的所述源数据集进行分析处理，得到目标数据集；
利用任务调度对所述目标数据集进行定时更新操作，完成所述目标数据集的实时更新，并将实时更新后的所述目标数据集存入所述实时数据仓库中。
可选地，，所述预先构建的宽表包括table_a和table_b两个样例宽表，以及所述解析处理包括；
在所述table_a样例宽表中输入所述数据集的第一客户端数据集；
在所述table_b样例宽表中输入所述数据集的第二客户端数据集；
根据所述table_a样例宽表和table_b样例宽表中包含的相同的字段，对所述table_a和table_b两个样例宽表进行合并，完成所述解析处理。
可选地，所述实时数据仓库包括数据存储模块和实时计算处理模块；
所述数据存储模块对所述实时数据仓库中的源数据集进行汇总处理，其中，所述数据存储模块包括明细宽表层和汇总数据层；
所述实时计算模块对汇总处理后的所述源数据集进行分析处理，其中所述实时计算模块包括联机分析处理层和应用数据层。
可选地，，所述对所述实时数据仓库中的源数据集进行汇总处理，包括：
通过数据仓库技术将所述实时数据仓库的源数据集传递至所述数据存储模块的明细宽表层中，对所述明细宽表层的源数据集进行萃取、转置以及加载的预处理操作，将所述预处理后的所述源数据存入所述汇总数据层中，完成所述源数据集的汇总处理。
此外，为实现上述目的，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有数据实时更新程序，所述数据实时更新程序可被一个或者多个处理器执行，以实现如上所述的数据实时更新方法的步骤。
本发明提出的数据实时更新方法、装置及计算机可读存储介质，在用户进行数据实时更新时，结合所述获取的数据集，将所述获取的数据集同步复制到预先构建的实时数据仓库，利用所述实时数据仓库对所述数据集进行汇总、分析处理后执行定时更新操作，从而给用户呈现出高效的数据实时更新的效果。
附图说明
图1为本发明一实施例提供的数据实时更新方法的流程示意图；
图2为本发明一实施例提供的数据实时更新装置的内部结构示意图；
图3为本发明一实施例提供的数据实时更新装置中数据实时更新程序的模块示意图。
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
本发明提供一种数据实时更新方法。参照图1所示，为本发明一实施例提供的数据实时更新方法的流程示意图。该方法可以由一个装置执行，该装置可以由软件和/或硬件实现。
在本实施例中，数据实时更新方法包括：
S1、获取客户端的数据集，通过预先构建的宽表对所述客户端的数据集进行解析处理，得到源数据集，并将所述源数据集存入数据库中。
本发明较佳实施例中，所述客户端的数据集通过以下两种方式获取：方式一、获取用户在办理业务时实时产生的数据集，其中，所述用户可以为某银行或某证券公司的客户群体，例如招商银行的客户群体，所述业务可以为某个客户群体需要查询自身账号的余额情况、了解招商银行贷款利率情况以及办理理财基金情况等；方式二、通过关键字在搜索引擎中搜索获取得到。
所述宽表通常是指将业务主题相关的指标、维度、属性等相关字段关联在一起的一张数据库表，应用于数据挖掘模型训练前的数据准备，通过把相关字段放在同一张表中，可以提高所述数据挖掘模型训练过程中迭代计算时的效率问题。
进一步地，本发明所述解析处理包括：预设table_a和table_b两个样例宽表；在所述样例宽表table_a中输入所述数据集的第一客户端数据集，例如，NAME、AGE以及SEX等，在所述table_b中输入所述数据集的第二客户端数据集，例如NAME、WORK以及ACCOUNT等；根据所述table_a样例宽表和table_b样例宽表中包含的相同的字段，对所述table_a和table_b两个样例宽表进行合并，完成所述解析处理。
本发明根据用户需求可以将所述客户端的数据集进行解析得到所述源数据集，并将所述源数据集存入数据库中，优选地，所述数据库为Oracle数据库。
S2、利用数据复制技术将所述源数据集同步复制到预先构建的实时数据仓库中。
本发明较佳实施例中，所述数据复制技术为Oracle高级复制技术，所述同步复制指的是复制的数据在任何时间在任何复制节点均保持一致，即当复制环境中的任何一个节点的复制数据发生了更新操作，这种变化会立刻反映到其他所有的复制节点。所述实时数据仓库指的是实时行为和数据仓库的组合。所述实时行为是一种即时发生的行为，所述数据仓库是指得到有关用户行为的数据。所述预先构建的实时数据仓库包括数据存储模块和实时计算处理模块。其中，通过所述数据存储模块对所述实时数据仓库中的源数据集进行汇总处理，所述数据存储模块包括明细宽表层和汇总数据层。通过所述实时计算模块对汇总处理后的所述源数据集进行分析处理，实时计算模块包括联机分析处理(OnlineAnalytical Processing，OLAP)层和应用数据层。
进一步地，本发明通过PL/SQL Developer工具对所述存储在Oracle数据库的源数据集进行导出和导入操作，其中，所述导出操作包括：选择导出.sql文件的语句：tools->export user object；选择导出.dmp文件的语句：tools->export tables->OracleExport。所述导入操作包括:导入.sql文件的语句：tools->import tables->SQL Inserts；导入dmp文件语句：tools->import talbes->Oracle Import。
S3、对所述实时数据仓库中的源数据集进行汇总处理，并将汇总处理后的所述源数据集进行分析处理，得到目标数据集。
本发明较佳实施例中，所述汇总处理包括：通过数据仓库技术(Extract-Transform-Load,ETL)将所述实时数据仓库中的源数据集传递至上述数据存储模块的明细宽表层中，对所述明细宽表层的源数据集进行萃取(extract)、转置(transform)以及加载(load)预处理操作，将所述预处理后的所述源数据存入所述汇总数据层中，完成所述汇总处理。
其中，所述预处理操作具体实施步骤如下所示：
a.对所述源数据集进行萃取处理，得到初始源数据集：
本发明较佳实施例通过数据抽取技术对所述源数据集进行萃取。详细地，当在增加、更新以及删除某源数据时，在所述实时数据仓库中都会立刻将其记录在日志文件中。所述数据抽取技术通过读取所述日志文件，选择所有相关记录，根据所述日志文件包含的相关记录，利用复制技术捕获所述源数据集的变化，完成所述萃取处理，得到所述初始源数据集。
b.对所述初始源数据集进行转置，得到汇总数据集：
较佳地，所述转置包括对所述初始源数据集的转化、清洗以及整合处理。进一步地，本发明通过数据转换规则对所述初始源数据集重新结构化、根据清洗规则对重新结构化的所述初始源数据集进行清洗以及对清洗后的所述初始源数据集进行整合，得到所述汇总数据集。
c.对所述汇总数据集进行加载：
较佳地，本发明通过Oracle的装载工具SQL*Loader将所述汇总数据集加载到所述数据存储模块的汇总数据层中。所述SQL*Loader装载工具用于直接装载数据到表中并且允许多个会话并行地将数据装载到同一个表中。其中当装载的数据容量很大的时候，采用并行装载和缓冲处理两种方法装载数据。所述并行装载为：数据被分成几个工作流对输入的数据进行划分后每一个工作流就独立于其它工作流的执行。所述缓冲处理为：装载之前对数据进行缓冲处理独立的数据在被抽取转换装载软件处理之前被集中在一起放入缓冲区。
较佳地，所述分析处理包括：通过部署脚本监控所述汇总数据层的数据操纵语言语句，将增加、更新以及删除的所述汇总数据层的源数据实时同步输入到所述实时计算模块中；利用所述OLAP中的联机分析和可视化工具对所述汇总数据层的数据进行分析计算，并利用多维数据集合和数据聚集技术将所述分析计算的数据传递到应用数据层中，完成所述解析处理，从而得到所述目标数据集。其中，所述数据操纵语言是SQL语言中负责对数据库对象运行数据访问工作的指令集。进一步地，本发明中所述用户可以为招商银行的管理层人员，根据显示在应用数据层的目标数据集可以为招商银行的管理层人员提供有效的使用信息，对企业的经营管理作出正确的决策。
S4、利用任务调度对所述目标数据集进行定时更新操作，完成所述目标数据集的实时更新，并将实时更新后的所述目标数据集存入所述实时数据仓库中。
本发明较佳实施例通过Oracle数据库中的dbms_job任务调度执行所述目标数据集的定时更新操作。其中，所述dbms_job是Oracle提供的内部函数包，提供了管理和调度作业队列中的作业定时执行的控制机制。所述定时更新操作包括：用所述任务调度中的存储任务队列，根据用户的需求将所述目标数据集中需要进行更新的目标数据加入到所述存储任务队列中；将所述存储任务队列中的目标数据加载至预设的sql语句中，完成所述目标数据集的定时更新操作，并将实时更新的目标数据集存入所述预先构建的实时数据仓库中，确保了在企业管理人员在部署战略决策或营销策略时提供最新的信息。较佳地，本发明中所述预设的sql语句包括：
a、创建job:dbms_job.submit(jobno,what,next_date,interval)；
b、删除job:dbms_job.remove(jobno)；
c、修改要执行的操作:job:dbms_job.what(jobno,what)；
d、修改下次执行时间：dbms_job.next_date(jobno,next_date)；
e、修改间隔时间：dbms_job.interval(jobno,interval)；
f、启动job:dbms_job.run(jobno)；
g、停止job:dbms.broken(jobno,broken,nextdate)，其中broken为boolean值。
发明还提供一种数据实时更新装置。参照图2所示，为本发明一实施例提供的数据实时更新装置的内部结构示意图。
在本实施例中，所述数据实时更新装置1可以是PC(Personal Computer，个人电脑)，或者是智能手机、平板电脑、便携计算机等终端设备，也可以是一种服务器等。该数据实时更新装置1至少包括存储器11、处理器12，通信总线13，以及网络接口14。
其中，存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、磁性存储器、磁盘、光盘等。存储器11在一些实施例中可以是数据实时更新装置1的内部存储单元，例如该数据实时更新装置1的硬盘。存储器11在另一些实施例中也可以是数据实时更新装置1的外部存储设备，例如数据实时更新装置1上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。进一步地，存储器11还可以既包括数据实时更新装置1的内部存储单元也包括外部存储设备。存储器11不仅可以用于存储安装于数据实时更新装置1的应用软件及各类数据，例如数据实时更新程序01的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。
处理器12在一些实施例中可以是一中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器或其他数据处理芯片，用于运行存储器11中存储的程序代码或处理数据，例如执行数据实时更新程序01等。
通信总线13用于实现这些组件之间的连接通信。
网络接口14可选的可以包括标准的有线接口、无线接口(如WI-FI接口)，通常用于在该装置1与其他电子设备之间建立通信连接。
可选地，该装置1还可以包括用户接口，用户接口可以包括显示器(Display)、输入单元比如键盘(Keyboard)，可选的用户接口还可以包括标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode，有机发光二极管)触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在数据实时更新装置1中处理的信息以及用于显示可视化的用户界面。
图2仅示出了具有组件11-14以及数据实时更新程序01的数据实时更新装置1，本领域技术人员可以理解的是，图1示出的结构并不构成对数据实时更新装置1的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。
在图2所示的装置1实施例中，存储器11中存储有数据实时更新程序01；处理器12执行存储器11中存储的数据实时更新程序01时实现如下步骤：
步骤一、获取客户端的数据集，通过预先构建的宽表对所述客户端的数据集进行解析处理，得到源数据集，并将所述源数据集存入数据库中。
本发明较佳实施例中，所述客户端的数据集通过以下两种方式获取：方式一、获取用户在办理业务时实时产生的数据集，其中，所述用户可以为某银行或某证券公司的客户群体，例如招商银行的客户群体，所述业务可以为某个客户群体需要查询自身账号的余额情况、了解招商银行贷款利率情况以及办理理财基金情况等；方式二、通过关键字在搜索引擎中搜索获取得到。
所述宽表通常是指将业务主题相关的指标、维度、属性等相关字段关联在一起的一张数据库表，应用于数据挖掘模型训练前的数据准备，通过把相关字段放在同一张表中，可以提高所述数据挖掘模型训练过程中迭代计算时的效率问题。
进一步地，本发明所述解析处理包括：预设table_a和table_b两个样例宽表；在所述样例宽表table_a中输入所述数据集的第一客户端数据集，例如，NAME、AGE以及SEX等，在所述table_b中输入所述数据集的第二客户端数据集，例如NAME、WORK以及ACCOUNT等；根据所述table_a样例宽表和table_b样例宽表中包含的相同的字段，对所述table_a和table_b两个样例宽表进行合并，完成所述解析处理。
本发明根据用户需求可以将所述客户端的数据集进行解析得到所述源数据集，并将所述源数据集存入数据库中，优选地，所述数据库为Oracle数据库。
步骤二、利用数据复制技术将所述源数据集同步复制到预先构建的实时数据仓库中。
本发明较佳实施例中，所述数据复制技术为Oracle高级复制技术，所述同步复制指的是复制的数据在任何时间在任何复制节点均保持一致，即当复制环境中的任何一个节点的复制数据发生了更新操作，这种变化会立刻反映到其他所有的复制节点。所述实时数据仓库指的是实时行为和数据仓库的组合。所述实时行为是一种即时发生的行为，所述数据仓库是指得到有关用户行为的数据。所述预先构建的实时数据仓库包括数据存储模块和实时计算处理模块。其中，通过所述数据存储模块对所述实时数据仓库中的源数据集进行汇总处理，所述数据存储模块包括明细宽表层和汇总数据层。通过所述实时计算模块对汇总处理后的所述源数据集进行分析处理，实时计算模块包括联机分析处理(OnlineAnalytical Processing，OLAP)层和应用数据层。
进一步地，本发明通过PL/SQL Developer工具对所述存储在Oracle的源数据集进行导出和导入操作，其中，所述导出操作包括：选择导出.sql文件的语句：tools->exportuser object；选择导出.dmp文件的语句：tools->export tables->Oracle Export。所述导入操作包括:导入.sql文件的语句：tools->import tables->SQL Inserts；导入dmp文件语句：tools->import talbes->Oracle Import。
步骤三、对所述实时数据仓库中的源数据集进行汇总处理，并将汇总处理后的所述源数据集进行分析处理，得到目标数据集。
本发明较佳实施例中，所述汇总处理包括：通过数据仓库技术(Extract-Transform-Load,ETL)将所述实时数据仓库中的源数据集传递至上述数据存储模块的明细宽表层中，对所述明细宽表层的源数据集进行萃取(extract)、转置(transform)以及加载(load)预处理操作，将所述预处理后的所述源数据存入所述汇总数据层中，完成所述汇总处理。
其中，所述预处理操作具体实施步骤如下所示：
a.对所述源数据集进行萃取处理，得到初始源数据集：
本发明较佳实施例通过数据抽取技术对所述源数据集进行萃取。详细地，当在增加、更新以及删除某源数据时，在所述实时数据仓库中都会立刻将其记录在日志文件中。所述数据抽取技术通过读取所述日志文件，选择所有相关记录，根据所述日志文件包含的相关记录，利用复制技术捕获所述源数据集的变化，完成所述萃取处理，得到所述初始源数据集。
b.对所述初始源数据集进行转置，得到汇总数据集：
较佳地，所述转置包括对所述初始源数据集的转化、清洗以及整合处理。进一步地，本发明通过数据转换规则对所述初始源数据集重新结构化、根据清洗规则对重新结构化的所述初始源数据集进行清洗以及对清洗后的所述初始源数据集进行整合，得到所述汇总数据集。
c.对所述汇总数据集进行加载：
较佳地，本发明通过Oracle的装载工具SQL*Loader将所述汇总数据集加载到所述数据存储模块的汇总数据层中。所述SQL*Loader装载工具用于直接装载数据到表中并且允许多个会话并行地将数据装载到同一个表中。其中当装载的数据容量很大的时候，采用并行装载和缓冲处理两种方法装载数据。所述并行装载为：数据被分成几个工作流对输入的数据进行划分后每一个工作流就独立于其它工作流的执行。所述缓冲处理为：装载之前对数据进行缓冲处理独立的数据在被抽取转换装载软件处理之前被集中在一起放入缓冲区。
较佳地，所述分析处理包括：通过部署脚本监控所述汇总数据层的数据操纵语言语句，将增加、更新以及删除的所述汇总数据层的源数据实时同步输入到所述实时计算模块中；利用所述OLAP中的联机分析和可视化工具对所述汇总数据层的数据进行分析计算，并利用多维数据集合和数据聚集技术将所述分析计算的数据传递到应用数据层中，完成所述解析处理，从而得到所述目标数据集。其中，所述数据操纵语言是SQL语言中负责对数据库对象运行数据访问工作的指令集。进一步地，本发明中所述用户可以为招商银行的管理层人员，根据显示在应用数据层的目标数据集可以为招商银行的管理层人员提供有效的使用信息，对企业的经营管理作出正确的决策。
步骤四、利用任务调度对所述目标数据集进行定时更新操作，完成所述目标数据集的实时更新，并将实时更新后的所述目标数据集存入所述实时数据仓库中。
本发明较佳实施例通过Oracle数据库中的dbms_job任务调度执行所述目标数据集的定时更新操作。其中，所述dbms_job是Oracle提供的内部函数包，提供了管理和调度作业队列中的作业定时执行的控制机制。所述定时更新操作包括：用所述任务调度中的存储任务队列，根据用户的需求将所述目标数据集中需要进行更新的目标数据加入到所述存储任务队列中；将所述存储任务队列中的目标数据加载至预设的sql语句中，完成所述目标数据集的定时更新操作，并将实时更新的目标数据集存入所述预先构建的实时数据仓库中，确保了在企业管理人员在部署战略决策或营销策略时提供最新的信息。较佳地，本发明中所述预设的sql语句包括：
a、创建job:dbms_job.submit(jobno,what,next_date,interval)；
b、删除job:dbms_job.remove(jobno)；
c、修改要执行的操作:job:dbms_job.what(jobno,what)；
d、修改下次执行时间：dbms_job.next_date(jobno,next_date)；
e、修改间隔时间：dbms_job.interval(jobno,interval)；
f、启动job:dbms_job.run(jobno)；
g、停止job:dbms.broken(jobno,broken,nextdate)，其中broken为boolean值。
可选地，在其他实施例中，数据实时更新程序还可以被分割为一个或者多个模块，一个或者多个模块被存储于存储器11中，并由一个或多个处理器(本实施例为处理器12)所执行以完成本发明，本发明所称的模块是指能够完成特定功能的一系列计算机程序指令段，用于描述数据实时更新程序在数据实时更新装置中的执行过程。
例如，参照图3所示，为本发明数据实时更新装置一实施例中的数据实时更新程序的程序模块示意图，该实施例中，所述数据实时更新程序可以被分割为数据解析处理模块10、数据同步复制模块20、数据汇总分析模块30以及数据定时更新模块40，示例性地：
所述数据解析处理模块10用于：获取客户端的数据集，通过预先构建的宽表对所述客户端的数据集进行解析处理，得到源数据集。
所述特数据同步复制20用于：利用数据复制技术将所述源数据集复制到预先构建的实时数据仓库中。
所述数据汇总分析模块30用于：对所述实时数据仓库中的源数据集进行汇总处理，并将汇总处理后的所述源数据集进行分析处理，得到目标数据集。
所述数据定时更新模块40用于：利用任务调度对所述目标数据集进行定时更新操作，完成所述目标数据集的实时更新，并将实时更新后的所述目标数据集存入所述实时数据仓库中。
上述数据解析处理模块10、数据同步复制模块20、数据汇总分析模块30以及数据定时更新模块40等程序模块被执行时所实现的功能或操作步骤与上述实施例大体相同，在此不再赘述。
此外，本发明实施例还提出一种计算机可读存储介质，所述计算机可读存储介质上存储有数据实时更新程序，所述数据实时更新程序可被一个或多个处理器执行，以实现如下操作：
获取客户端的数据集，通过预先构建的宽表对所述客户端的数据集进行解析处理，得到源数据集，并将所述源数据集存入数据库中；
利用数据复制技术将所述源数据集同步复制到预先构建的实时数据仓库中；
对所述实时数据仓库中的源数据集进行汇总处理，并将汇总处理后的所述源数据集进行分析处理，得到目标数据集；
利用任务调度对所述目标数据集进行定时更新操作，完成所述目标数据集的实时更新，并将实时更新后的所述目标数据集存入所述实时数据仓库中。
本发明计算机可读存储介质具体实施方式与上述数据实时更新装置和方法各实施例基本相同，在此不作累述。
需要说明的是，上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。并且本文中的术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、装置、物品或者方法不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、装置、物品或者方法所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、装置、物品或者方法中还存在另外的相同要素。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (9)

1.一种数据实时更新方法，其特征在于，所述方法包括：
获取客户端的数据集，通过预先构建的宽表对所述客户端的数据集进行解析处理，得到源数据集；
利用数据复制技术将所述源数据集复制到预先构建的实时数据仓库中；
对所述实时数据仓库中的源数据集进行汇总处理，并将汇总处理后的所述源数据集进行分析处理，得到目标数据集；
调用任务调度中的存储任务队列，根据用户的需求将所述目标数据集中需要进行更新的目标数据加入到所述存储任务队列，并将所述存储任务队列中需要进行更新的目标数据加载至预设的sql语句中，完成所述目标数据集的实时更新，并将实时更新后的所述目标数据集存入所述实时数据仓库中。
2.如权利要求1所述的数据实时更新方法，其特征在于，所述预先构建的宽表包括table_a和table_b两个样例宽表，以及所述解析处理包括；
在所述table_a样例宽表中输入所述数据集的第一客户端数据集；
在所述table_b样例宽表中输入所述数据集的第二客户端数据集；
根据所述table_a样例宽表和table_b样例宽表中包含的相同的字段，对所述table_a和table_b两个样例宽表进行合并，完成所述解析处理。
3.如权利要求1所述的数据实时更新方法，其特征在于，所述实时数据仓库包括数据存储模块和实时计算模块；
所述数据存储模块对所述实时数据仓库中的源数据集进行汇总处理，其中，所述数据存储模块包括明细宽表层和汇总数据层；
所述实时计算模块对汇总处理后的所述源数据集进行分析处理，其中，所述实时计算模块包括联机分析处理层和应用数据层。
4.如权利要求3所述的数据实时更新方法，其特征在于，所述对所述实时数据仓库中的源数据集进行汇总处理，包括：
通过数据仓库技术将所述实时数据仓库的源数据集传递至所述数据存储模块的明细宽表层中，对所述明细宽表层的源数据集进行萃取、转置以及加载的预处理操作，将所述预处理后的所述源数据存入所述汇总数据层中，完成所述源数据集的汇总处理。
5.一种数据实时更新装置，其特征在于，所述装置包括存储器和处理器，所述存储器上存储有可在所述处理器上运行的数据实时更新程序，所述数据实时更新程序被所述处理器执行时实现如下步骤：
获取客户端的数据集，通过预先构建的宽表对所述客户端的数据集进行解析处理，得到源数据集；
利用数据复制技术将所述源数据集复制到预先构建的实时数据仓库中；
对所述实时数据仓库中的源数据集进行汇总处理，并将汇总处理后的所述源数据集进行分析处理，得到目标数据集；
调用任务调度中的存储任务队列，根据用户的需求将所述目标数据集中需要进行更新的目标数据加入到所述存储任务队列，并将所述存储任务队列中需要进行更新的目标数据加载至预设的sql语句中，完成所述目标数据集的实时更新，并将实时更新后的所述目标数据集存入所述实时数据仓库中。
6.如权利要求5所述的数据实时更新装置，其特征在于，述预先构建的宽表包括table_a和table_b两个样例宽表，以及所述解析处理包括；
在所述table_a样例宽表中输入所述数据集的第一客户端数据集；
在所述table_b样例宽表中输入所述数据集的第二客户端数据集；
根据所述table_a样例宽表和table_b样例宽表中包含的相同的字段，对所述table_a和table_b两个样例宽表进行合并，完成所述解析处理。
7.如权利要求5所述的数据实时更新装置，其特征在于，所述实时数据仓库包括数据存储模块和实时计算模块；
所述数据存储模块对所述实时数据仓库中的源数据集进行汇总处理，其中，所述数据存储模块包括明细宽表层和汇总数据层；
所述实时计算模块对汇总处理后的所述源数据集进行分析处理，其中，所述实时计算模块包括联机分析处理层和应用数据层。
8.如权利要求7所述的数据实时更新装置，其特征在于，所述对所述实时数据仓库中的源数据集进行汇总处理，包括：
通过数据仓库技术将所述实时数据仓库的源数据集传递至所述数据存储模块的明细宽表层中，对所述明细宽表层的源数据集进行萃取、转置以及加载的预处理操作，将所述预处理后的所述源数据存入所述汇总数据层中，完成所述源数据集的汇总处理。
9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有数据实时更新程序，所述数据实时更新程序可被一个或者多个处理器执行，以实现如权利要求1至4中任一项所述的数据实时更新方法的步骤。
CN201910698880.7A 2019-07-29 2019-07-29 数据实时更新方法、装置及计算机可读存储介质 Active CN110457333B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910698880.7A CN110457333B (zh) 2019-07-29 2019-07-29 数据实时更新方法、装置及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910698880.7A CN110457333B (zh) 2019-07-29 2019-07-29 数据实时更新方法、装置及计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN110457333A CN110457333A (zh) 2019-11-15
CN110457333B true CN110457333B (zh) 2021-10-22

Family

ID=68484081

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910698880.7A Active CN110457333B (zh) 2019-07-29 2019-07-29 数据实时更新方法、装置及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN110457333B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111125161B (zh) * 2019-12-27 2023-08-15 中国移动通信集团江苏有限公司 数据的实时处理方法、装置、设备及存储介质
CN111986042A (zh) * 2020-08-24 2020-11-24 绵阳上策网络科技有限公司 一种基于互联网技术构建农业大数据服务体系
CN113760900B (zh) * 2021-02-19 2024-10-18 西安京迅递供应链科技有限公司 数据的实时汇总以及区间汇总的方法和装置
CN114168595B (zh) * 2021-12-09 2024-08-27 中国建设银行股份有限公司 一种数据分析方法及装置
CN114385876B (zh) * 2022-01-13 2022-09-13 北京九章云极科技有限公司 一种模型搜索空间生成方法、装置及系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101661491A (zh) * 2008-08-31 2010-03-03 阿里巴巴集团控股有限公司 数据仓库中宽表的更新方法和更新系统
CN107784098A (zh) * 2017-10-24 2018-03-09 百味云科技股份有限公司 实时数据仓库平台

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3114620A1 (en) * 2014-03-07 2017-01-11 Systema Systementwicklung Dip.-Inf. Manfred Austen Gmbh Real-time information systems and methodology based on continuous homomorphic processing in linear information spaces

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101661491A (zh) * 2008-08-31 2010-03-03 阿里巴巴集团控股有限公司 数据仓库中宽表的更新方法和更新系统
CN107784098A (zh) * 2017-10-24 2018-03-09 百味云科技股份有限公司 实时数据仓库平台

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
面向实时数据仓库的ETL研究;徐春艳;《中国优秀硕士学位论文全文数据库-信息科技辑》;20080115(第1期);I138-247 *

Also Published As

Publication number Publication date
CN110457333A (zh) 2019-11-15

Similar Documents

Publication Publication Date Title
CN110457333B (zh) 数据实时更新方法、装置及计算机可读存储介质
US10521404B2 (en) Data transformations with metadata
US11327935B2 (en) Intelligent data quality
Van der Aalst Extracting event data from databases to unleash process mining
US10191931B2 (en) Systems and methods for generating event stream data
EP2929467B1 (en) Integrating event processing with map-reduce
CN109997126A (zh) 事件驱动提取、变换、加载（etl）处理
US11783254B2 (en) Method and system for implementing an adaptive data governance system
US8626703B2 (en) Enterprise resource planning (ERP) system change data capture
US20120023445A1 (en) Managing extension projects with repository based tagging
US8407183B2 (en) Business intelligence data extraction on demand
US9336286B2 (en) Graphical record matching process replay for a data quality user interface
US20220171755A1 (en) Systems and methods for generating event stream data
US12001480B2 (en) System and method of creating different relationships between various entities using a graph database
US9336245B2 (en) Systems and methods providing master data management statistics
US11868363B2 (en) Method and system for persisting data
US20230306039A1 (en) Updating one or more databases based on dataflow events
US10552455B2 (en) Analytics enablement for engineering records
US20140149186A1 (en) Method and system of using artifacts to identify elements of a component business model
CN115714807A (zh) 工业场景数据中台的设计系统
CN111179076A (zh) It系统智能管理方法、装置及计算机可读存储介质
Chen et al. Transforming Data
VARMUS et al. Enterprise Reporting as A Tool For Decision Support
Barkaway Change Data Capture and the Benefits to the Modern Enterprise Data Warehouse
CN111522842A (zh) 一种etl数据处理方法、装置、计算机设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant