CN110633306A - 业务数据处理方法、装置、计算机设备和存储介质 - Google Patents
业务数据处理方法、装置、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN110633306A CN110633306A CN201910748664.9A CN201910748664A CN110633306A CN 110633306 A CN110633306 A CN 110633306A CN 201910748664 A CN201910748664 A CN 201910748664A CN 110633306 A CN110633306 A CN 110633306A
- Authority
- CN
- China
- Prior art keywords
- data
- offline
- service
- service data
- newly added
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24564—Applying rules; Deductive queries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2462—Approximate or statistical queries
Abstract
本申请涉及一种业务数据处理方法、装置、计算机设备和存储介质。该方法包括:基于预设频率,调用实时数据库接口,提取新增业务数据,为新增业务数据创建与离线数据表相同的表结构,得到宽表,将新增业务数据插入宽表中,基于宽表中的新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内新增业务数据的业务分析结果。采用该方法,在达到离线数据统计时间时,得到统计周期的新增业务数据分析结果,当用户需要查询统计周期的统计数据时,无需等待离线数据的分析结果,为用户及时地获取数据提供了基础。
Description
技术领域
本申请涉及数据处理技术领域,特别是涉及一种业务数据处理方法、装置、计算机设备和存储介质。
背景技术
在大数据时代,对于用户而言,数据的及时性是评价应用程序的重要指标。尤其对于业务系统来说,管理人员需要及时地了解营业相关数据,如统计截止昨日的业务相关数据,如截止至昨天的成交量,成交金额等。
传统地方式,到了统计时间,如次日0点,利用离线存储的历史数据,对昨日的相关业务数据进行统计分析。而针对大规模数据的离线分析任务一般都比较耗时,例如,对一个统计周期内的数据进行统计,可能需要四到五个小时才能完成,这就导致在对离线数据进行分析的这段时间,用户对于昨日数据的查询请求无法得到及时反馈。
发明内容
基于此,有必要针对上述技术问题,提供一种能够提高数据及时性地的业务数据处理方法、装置、计算机设备和存储介质。
一种业务数据处理方法,所述方法包括:
基于预设频率,调用实时数据库接口,提取新增业务数据;
为所述新增业务数据创建与离线数据表相同的表结构,得到宽表;
将所述新增业务数据插入所述宽表中;
基于所述宽表中的所述新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内的所述新增业务数据的业务分析结果。
在其中一个实施例中,所述方法还包括:
当达到离线数据统计时间时,调用离线数据接口,获取统计周期内的离线业务数据;
基于所述离线业务数据执行业务计算,离线计算得到统计周期内的所述离线业务数据的业务分析结果。
在其中一个实施例中,所述基于所述宽表中的所述新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内所述新增业务数据的业务分析结果的步骤,包括:
根据所述宽表中的所述新增业务数据,调用离线数据的处理逻辑进行统计分析,实时执行业务计算;
当达到离线数据统计时间时,得到统计周期内所述新增业务数据的业务分析结果并存储。
在其中一个实施例中,所述基于所述离线业务数据执行业务计算,离线计算得到统计周期内所述离线业务数据的业务分析结果的步骤,包括:
对所述离线业务数据,按照所述离线数据的处理逻辑进行统计分析,离线计算得到统计周期内所述离线业务数据的业务分析结果并存储。
在其中一个实施例中,所述方法还包括:当接收到业务查询请求时,将所述新增业务数据的业务分析结果或所述离线业务数据的业务分析结果发送至请求终端。
在其中一个实施例中,当接收到业务查询请求时,将所述新增业务数据的业务分析结果或所述离线业务数据的业务分析结果发送至请求终端的步骤,包括:
当接收到业务查询请求时,若统计周期内的离线数据统计未完毕,则将所述新增业务数据的业务分析结果发送至请求终端;
若统计周期内的离线数据统计完毕,则将所述离线业务数据的业务分析结果发送至请求终端。
在其中一个实施例中,当统计周期内的离线业务数据统计完毕时,根据统计周期内的所述离线业务数据的业务分析结果校正统计周期内的所述新增业务数据的业务分析结果。
一种业务数据处理装置,所述装置包括:
数据提取模块,用于基于预设频率,调用实时数据库接口,提取新增业务数据;
创建模块,用于为所述新增业务数据创建与离线数据表相同的表结构,得到宽表;
插入模块,用于将所述新增业务数据插入所述宽表中
在线分析模块,用于基于所述宽表中的所述新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内所述新增业务数据的业务分析结果。
一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行上述各实施例的业务数据处理方法的步骤。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述各实施例的业务数据处理方法的步骤。
上述业务数据处理方法、装置、计算机设备和存储介质,提取新增业务数据的过程是实时基于预设频率进行的,为新增业务数据创建与离线数据表相同的表结构,得到宽表,并将新增业务数据插入宽表中。随着时间的推进,不断对宽表中的新增业务数据执行业务计算,而宽表的表结构与离线数据表的表结构相同,在对宽表中的新增业务数据进行计算时,为调用离线数据计算逻辑提供了基础。采用该方法,在达到离线数据统计时间时,得到统计周期的新增业务数据分析结果,当用户需要查询统计周期的统计数据时,无需等待离线数据的分析结果,为用户及时地获取数据提供了基础。
附图说明
图1为一个实施例中业务数据处理方法的应用场景图;
图2为一个实施例中业务数据处理方法的流程示意图;
图3为一个实施例中业务数据处理装置的结构框图;
图4为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
本申请提供的业务数据处理方法,可以应用于如图1所示的应用环境中。其中,终端102通过网络与服务器104通过网络进行通信,服务器104分别与第一数据库106和第二数据库108连接。其中,第一数据库106用于存储离线数据,第二数据库108用于存储实时数据。服务器104从第一数据库106和第二数据库108获取业务数据,并进行统计分析,得到相关的业务分析结果。终端102向服务器104发送查询请求,获取相关业务分析结果并展示。其中,终端102可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑和便携式可穿戴设备,服务器104可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
在一个实施例中,如图2所示,提供了一种业务数据处理方法,以该方法应用于图1中的服务器为例进行说明,包括以下步骤:
步骤202,基于预设频率,调用实时数据库接口,提取新增业务数据。
新增业务数据是指应用程序运行时实时所产生的数据,存储在第二数据库108中。第二数据库可采用HIVE表结构。本实施例中,基于预设的频率,如每隔五分钟,调用实时数据库接口,提取新增业务数据。具体地,提取新增业务数据是针对一个统计周期的实时业务而言。如,一个业务平台的统计周期为天,当前时间为1月27日,则基于预设的频率,提取1月27日当天产生的新增业务数据。应用程序在运行时,所产生的实时数据存储在实时数据库中,实时数据库中的实时数据会按照一定的周期同步至离线数据库中。离线数据从某种程度来说,是历史数据。新增业务数据相对于离线业务数据而言为增量数量。
步骤204,为新增业务数据创建与离线数据表相同的表结构,得到宽表。
离线数据库存储离线业务数据,其存储数据的离线数据表采用的是宽表。实时数据库中存储有实时数据,但实时数据表的维度相比离线数据表要少。为方便数据统计分析,离线数据表采用的是宽表。宽表通常是指业务主题相关的指标、维度、属性关联在一起的一张数据库表,包含的维度层次比较多,有利于取数统计。而用于存储新增业务数据的HIVE表里的表结构的维度没有宽表多。本实施例中,为便于实时计算,为新增业务数据创建与离线数据表相同的表结构,得到宽表。
步骤206,将新增业务数据插入宽表中。
具体地,根据宽表的表结构,将当前统计周期的新增业务数据插入宽表中,则宽表的数据结构与离线数据表的数据结构相同,从而离线数据的处理逻辑所需调用的原始数据能够在宽表中查找到,这就为新增业务数据计算调用离线数据的处理逻辑提供了基础,宽表中的增业务数据可采用与离线数据相同的处理逻辑进行业务计算,由于其计算目标是一致的,利用现有的处理逻辑可以保证新增业务数据计算与离线数据计算的一致性,减少新增业务计算结果与离线数据计算结果的差异,并且,减少开发人员构建实时业务数据处理逻辑的工作量。
步骤208,基于宽表中的新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内新增业务数据的业务分析结果。
离线数据统计时间,是对统计周期内的产生的离线业务数据进行统计的时间,即设置的对统计周期内的历史数据的统计时间。统计周期根据业务需求设置,如,统计周期为日。例如,业务平台的离线数据统计时间为次日0点,即在次日,对前一日的历史数据进行统计。
在不同的应用场景中,离线业务数据可对应不同的历史数据范围。如营销业务管理系统,需要在每日的0点统计营业数据,则离线业务数据为截止前一天的历史数据。传统的方式中,在达到离线业务数据统计时间时,对昨日的营销业务进行统计,则实时数据库中前一天产生的数据成为历史数据并同步于离线数据库中,在每日0点触发离线业务数据统计。而离线业务数据统计触发后到处理结束需要一定的时间。比如,1月28日的零点,需要根据1月27日的离线数据统计当日的营业数据,离线数据统计完需要4-6个小时,这就意味着这段时间,前端无法获取1月27日的离线业务数据的业务分析结果。
本实施例中,提取新增业务数据是基于预设频率进行的,故而基于宽表中的新增业务数据实时在执行业务计算,得到新增业务数据的实时业务计算结果,并在达到离线数据统计时间时,得到统计周期内的新增业务数据的业务分析结果。例如,当前时间为1月27日三点,基于宽表中的新增业务数据,可得到1月27日三点前的新增业务数据统计结果。随着时间的推进,当达到离线数据统计时间时,能够得到统计周期内的新增业务数据分析结果。例如,当达到1月28日的零点,则能够得到1月27日通过新增业务数据分析得到的业务数据统计分析结果。
实时计算是指对实时数据不停地连续计算。由于宽表的结构与离线数据表的表结构相同,基于宽表的新增业务数据执行业务计算时,可采用与对离线数据进行业务计算的相同执行逻辑,无需额外调整计算方式。
不同的应用场景,业务计算的执行逻辑不同。通常而言,业务计算是指对业务相关数据进行统计计算,业务计算结果为统计值。
以营销业务管理系统为例,业务计算需要统计截止昨日的营销总额,计划完成比和同比增长量。对于每个维度的统计值,离线数据预设设置了执行逻辑。本申请的技术方案,由于宽表与离线数据表具有相同的表结构,使得能够采用对离线数据表进行统计分析的相同逻辑,对宽表中的当前周期的新增业务数据实时进行业务计算,得到截止当前时间的实时业务计算结果。用户能够实时地对当前周期的业务数据进行查询,而无需等待离线数据业务分析结果。
具体地,基于宽表中的新增业务数据,对于业务计算的每一分析维度,采用预设的执行逻辑进行统计分析,得到统计周期每一分析维度的业务计算结果,如截止当前时间当日的营销总额,计划完成比和同比增长量。
以营销业务管理系统为例,对于实时数据,服务器以一定的频率,调用实时数据接口,提取当前周期的最新新增业务数据。即,提取业务数据的过程是实时进行的,随着时间的推进,不断的提取应用程序产生的最新新增业务数据。将提取的新增业务数据插入与离线数据表相同表结构的宽表中,基于宽表中的新增业务数据实时地执行业务计算,从而能够不停地对当时周期业务数据进行计算,当达到次日0点时,能够得到前一日的新增业务数据分析结果的各项统计值,无需等待离线数据的业务分析结果。
上述的业务数据处理方法,提取新增业务数据的过程是实时基于预设频率进行的,为新增业务数据创建与离线数据表相同的表结构,得到宽表,并将新增业务数据插入宽表中。随着时间的推进,不断对宽表中的新增业务数据执行业务计算,而宽表的表结构与离线数据表的表结构相同,在对宽表中的新增业务数据进行计算时,为调用离线数据计算逻辑提供了基础。采用该方法,在达到离线数据统计时间时,得到统计周期的新增业务数据分析结果,当用户需要查询统计周期的统计数据时,无需等待离线数据的分析结果,为用户及时地获取数据提供了基础。
在另一个实施例中,业务数据处理方法,还包括:当达到离线数据统计时间时,调用离线数据接口,获取统计周期内的离线业务数据,基于离线业务数据执行业务计算,离线计算得到统计周期内的离线业务数据的业务分析结果。
具体地,离线数据存储在数据库中,用于进行数据分析统计的数据。例如,存储在Oracle数据库的离线数据表中。离线数据统计时间,即设置的对历史数据的统计时间。在不同的应用场景中,离线数据可对应不同的历史数据范围。如营销业务管理系统,需要在每日的0点统计营业数据,则离线数据为前一天的历史数据。统计周期是指离线数据统计时间周期。以统计周期为天为例,若离线数据统计时间为当日0点,则统计周期为前一日0点至24点。
当达到离线数据统计时间时,调用离线数据接口,获取统计周期内的离线业务数据,基于离线业务数据执行业务计算,即离线业务计算是对统计周期内的离线业务数据进行统计分析。
具体地,业务计算的执行逻辑即离线数据的执行逻辑。利用离线数据的执行逻辑,对统计周期(如前一日)的离线业务数据进行统计,得到统计周期业务计算结果。不同的应用场景,业务计算的执行逻辑不同。业务计算是指对业务相关数据进行统计计算,业务计算结果为统计值。以营销业务管理系统为例,业务计算需要统计截止昨日的营销总额,计划完成比和同比增长量。对于每个维度的统计值,离线数据预设设置了执行逻辑。具体地,对于业务计算的每一分析维度,采用预设的执行逻辑进行统计分析,得到统计周期每一分析维度的业务计算结果,如截止昨日的营销总额,计划完成比和同比增长量。
在另一个实施例中,基于宽表中的新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内所述新增业务数据的业务分析结果的步骤,包括:根据宽表中的新增业务数据,调用离线数据的处理逻辑进行统计分析,实时执行业务计算,当达到离线数据统计时间时,得到统计周期内新增业务数据的业务分析结果并存储。
具体地,宽表中的新增业务数据的结果是针对新增业务数据而言,由于计算的实时性,能够随着时间的推进,不断地更新统计周期的新增业务数据的业务分析结果,并在在达到离线数据统计时间时,得到统计周期内的新增业务数据的业务分析结果。而宽表中的表结构与离线数据表的表结构相同,这就使得新增业务数据可直接采用离线数据的处理逻辑进行计算,无需额外设置,保持与离线数据处理逻辑的一致性。离线数据的处理逻辑是指每一项统计值的具体算法,如昨日的营销总额的计算方法,计划完成比的计算方法和同比增长量的计算方法。
本实施例中,将新增业务数据的业务分析结果实时写入hbase,hbase为应用程序的服务API请求对应的数据库。当接收到终端的查询请求时,从hbase查找新增业务数据的业务分析结果并发送至请求终端。
在另一个实施例中,基于离线业务数据执行业务计算,离线计算得到统计周期内的离线业务数据的业务分析结果的步骤,包括:对离线业务数据,按照离线数据的处理逻辑进行统计分析,离线计算得到统计周期内的离线业务数据的业务分析结果并存储。
具体地,离线业务数据的业务分析结果是针对统计周期内的离线数据而言,如对前一日的离线数据,按照预设逻辑进行统计分析,计算得到前一日的相关业务分析结果,如截止昨日的营销总额,计划完成比和同比增长量。离线数据的统计量较大,通常需要4至6个小时。
在另一个实施例中,业务处理方法还包括:当接收对当前周期的业务查询请求时,将新增业务数据的业务分析结果或离线业务数据的业务分析结果发送至请求终端。
即,请求终端向服务器发送查询请求,能够查询统计分析数据。服务器根据离线数据是否统计完毕的判断结果,将新增业务数据的业务分析结果或离线业务数据的业务分析结果发送至请求终端。
具体地,当接收到业务查询请求时,若统计周期内的离线数据统计未完毕,则将新增业务数据的业务分析结果发送至请求终端;若统计周期内的离线数据统计完毕,则将离线业务数据的业务分析结果发送至请求终端。
如前面所记载的,基于宽表中的新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期的新增业务数据分析结果。例如,当达到1月28日零点时,基于宽表中的新增业务数据,得到1月27日的新增业务数据的业务分析结果。并在1月28日零点,对1月27日的离线数据执行业务计算。离线数据的统计量较大,通常需要4至6个小时。在1月28日三点,离线数据统计尚未结果,在此期间,若接收到业务查询请求,仅依靠离线数据,用户并不能够及时地获取前一日的相关业务统计结果。采用本申请的技术这群,将基于实时业务数据得到的新增业务数据的业务分析结果发送至请求终端,即请求终端无需等待离线数据分析结果,能够及时地对了解统计周期的业务统计数据。而若离线业务数据统计结束,则将离线业务数据的业务分析结果发送至请求终端,无缝切换到离线分析统计的结果。
可以理解的是,受上线不稳定性或是高并发请求的原因,实时计算的实时业务数据分析结果可能不准确,而离线数据的统计不受此影响。因此,本实施例中,当统计周期内的离线业务数据统计完毕时,根据统计周期内的离线业务数据的业务分析结果校正统计周期内的新增业务数据的业务分析结果。通过校正,使新增业务数据业务分析结果与离线业务数据的业务分析结果保持一致。
应该理解的是,虽然图2的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中,如图3所示,提供了一种业务数据处理装置,包括:数据提取模块、创建模块、插入模块和在线分析模块,其中:
数据提取模块301,用于基于预设频率,调用实时数据库接口,提取新增业务数据。
创建模块302,用于为所述新增业务数据创建与离线数据表相同的表结构,得到宽表。
插入模块303,用于将新增业务数据插入宽表中。
在线分析模块304,用于基于宽表中的新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内的新增业务数据的业务分析结果。
上述业务数据处理装置,提取新增业务数据的过程是实时基于预设频率进行的,为新增业务数据创建与离线数据表相同的表结构,得到宽表,并将新增业务数据插入宽表中。随着时间的推进,不断对宽表中的新增业务数据执行业务计算,而宽表的表结构与离线数据表的表结构相同,在对宽表中的新增业务数据进行计算时,为调用离线数据计算逻辑提供了基础。采用该装置,在达到离线数据统计时间时,得到统计周期的新增业务数据分析结果,当用户需要查询统计周期的统计数据时,无需等待离线数据的分析结果,为用户及时地获取数据提供了基础。
在另一个实施例中,业务数据处理装置还包括:
离线数据获取模块,用于当达到离线数据统计时间时,调用离线数据接口,获取统计周期内的离线业务数据;
离线分析模块,用于基于离线业务数据执行业务计算,离线计算得到统计周期内的离线业务数据的业务分析结果。
具体地,在线分析模块,用于根据宽表中的新增业务数据,调用离线数据的处理逻辑进行统计分析,实时执行业务计算,当达到离线数据统计时间时,得到统计周期内新增业务数据的业务分析结果并存储。
具体地,离线分析模块,用于对离线业务数据,按照离线数据的处理逻辑进行统计分析,离线计算得到统计周期内的离线业务数据的业务分析结果并存储。
在另一个实施例中,业务数据处理装置,还包括查询处理模块,用于当接收到业务查询请求时,将新增业务数据的业务分析结果或离线业务数据的业务分析结果发送至请求终端。
具体地,查询处理模块,用于当接收到业务查询请求时,若统计周期内的离线数据统计未完毕,则将新增业务数据的业务分析结果发送至请求终端,若统计周期内的离线数据统计完毕,则将离线业务数据的业务分析结果发送至请求终端。
在另一个实施例中,业务数据处理模块,还包括校正模块,用于当统计周期内的离线业务数据统计完毕时,根据统计周期的离线业务数据的业务分析结果校正统计周期内的新增业务数据的业务分析结果。
关于业务数据处理装置的具体限定可以参见上文中对于业务数据处理方法的限定,在此不再赘述。上述业务数据处理装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图4所示。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种业务数据处理方法。
本领域技术人员可以理解,图4中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,提供了一种计算机设备,包括存储器和处理器,该存储器存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
基于预设频率,调用实时数据库接口,提取新增业务数据;
为新增业务数据创建与离线数据表相同的表结构,得到宽表;
将新增业务数据插入宽表中;
基于宽表中的新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内的新增业务数据的业务分析结果。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
当达到离线数据统计时间时,调用离线数据接口,获取统计周期内的离线业务数据;
基于离线业务数据执行业务计算,离线计算得到统计周期内的离线业务数据的业务分析结果。
在一个实施例中,基于宽表中的新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内新增业务数据的业务分析结果的步骤,包括:
根据宽表中的新增业务数据,调用离线数据的处理逻辑进行统计分析,实时执行业务计算;
当达到离线数据统计时间时,得到统计周期内新增业务数据的业务分析结果并存储。
在一个实施例中,基于离线业务数据执行业务计算,离线计算得到统计周期内的离线业务数据的业务分析结果的步骤,包括:
对离线业务数据,按照离线数据的处理逻辑进行统计分析,离线计算得到统计周期内离线业务数据的业务分析结果并存储。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:当接收到业务查询请求时,将新增业务数据的业务分析结果或离线业务数据的业务分析结果发送至请求终端。
在一个实施例中,当接收到业务查询请求时,将新增业务数据的业务分析结果或离线业务数据的业务分析结果发送至请求终端的步骤,包括:
当接收到业务查询请求时,若统计周期内的离线数据统计未完毕,则将新增业务数据的业务分析结果发送至请求终端;
若统计周期内的离线数据统计完毕,则将离线业务数据的业务分析结果发送至请求终端。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:当统计周期内的离线业务数据统计完毕时,根据统计周期内的离线业务数据的业务分析结果校正统计周期内的新增业务数据的业务分析结果。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
基于预设频率,调用实时数据库接口,提取新增业务数据;
为所述新增业务数据创建与离线数据表相同的表结构,得到宽表;
将新增业务数据插入宽表中;
基于宽表中的新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内的新增业务数据的业务分析结果。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
当达到离线数据统计时间时,调用离线数据接口,获取统计周期内的离线业务数据;
基于离线业务数据执行业务计算,离线计算得到统计周期内的离线业务数据的业务分析结果。
在一个实施例中,基于宽表中的新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内新增业务数据的业务分析结果的步骤,包括:
根据宽表中的新增业务数据,调用离线数据的处理逻辑进行统计分析,实时执行业务计算;
当达到离线数据统计时间时,得到统计周期内新增业务数据的业务分析结果并存储。
在一个实施例中,基于离线业务数据执行业务计算,离线计算得到统计周期内的离线业务数据的业务分析结果的步骤,包括:
对离线业务数据,按照离线数据的处理逻辑进行统计分析,离线计算得到统计周期内的离线业务数据的业务分析结果并存储。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:当接收到业务查询请求时,将新增业务数据的业务分析结果或离线业务数据的业务分析结果发送至请求终端。
在一个实施例中,当接收到业务查询请求时,将新增业务数据的业务分析结果或离线业务数据的业务分析结果发送至请求终端的步骤,包括:
当接收到业务查询请求时,若统计周新增业务数据的期内的离线数据统计未完毕,则将新增业务数据的业务分析结果发送至请求终端;
若统计周期内的离线数据统计完毕,则将离线业务数据的业务分析结果发送至请求终端。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:当统计周期的离线业务数据统计完毕时,根据统计周期内的离线业务数据的业务分析结果校正统计周期内的新增业务数据的业务分析结果。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种业务数据处理方法,所述方法包括:
基于预设频率,调用实时数据库接口,提取新增业务数据;
为所述新增业务数据创建与离线数据表相同的表结构,得到宽表;
将所述新增业务数据插入所述宽表中;
基于所述宽表中的所述新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内所述新增业务数据的业务分析结果。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
当达到离线数据统计时间时,调用离线数据接口,获取统计周期内的离线业务数据;
基于所述离线业务数据执行业务计算,离线计算得到统计周期内的所述离线业务数据的业务分析结果。
3.根据权利要求2所述的方法,其特征在于,所述基于所述宽表中的所述新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内所述新增业务数据的业务分析结果的步骤,包括:
根据所述宽表中的所述新增业务数据,调用离线数据的处理逻辑进行统计分析,实时执行业务计算;
当达到离线数据统计时间时,得到统计周期内所述新增业务数据的业务分析结果并存储。
4.根据权利要求3所述的方法,其特征在于,所述基于所述离线业务数据执行业务计算,离线计算得到统计周期内的所述离线业务数据的业务分析结果的步骤,包括:
对所述离线业务数据,按照所述离线数据的处理逻辑进行统计分析,离线计算得到统计周期内所述离线业务数据的业务分析结果并存储。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:当接收到业务查询请求时,将所述新增业务数据的业务分析结果或所述离线业务数据的业务分析结果发送至请求终端。
6.根据权利要求5所述的方法,其特征在于,当接收到业务查询请求时,将所述新增业务数据的业务分析结果或所述离线业务数据的业务分析结果发送至请求终端的步骤,包括:
当接收到业务查询请求时,若统计周期内的离线数据统计未完毕,则将所述新增业务数据的业务分析结果发送至请求终端;
若统计周期内的离线数据统计完毕,则将所述离线业务数据的业务分析结果发送至请求终端。
7.根据权利要求4所述的方法,其特征在于,当统计周期内的离线业务数据统计完毕时,根据统计周期内的所述离线业务数据的业务分析结果校正统计周期内的所述新增业务数据的业务分析结果。
8.一种业务数据处理装置,其特征在于,所述装置包括:
数据提取模块,用于基于预设频率,调用实时数据库接口,提取新增业务数据;
创建模块,用于为所述新增业务数据创建与离线数据表相同的表结构,得到宽表;
插入模块,用于将所述新增业务数据插入所述宽表中
在线分析模块,用于基于所述宽表中的所述新增业务数据执行业务计算,在达到离线数据统计时间时,得到统计周期内所述新增业务数据的业务分析结果。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910748664.9A CN110633306A (zh) | 2019-08-14 | 2019-08-14 | 业务数据处理方法、装置、计算机设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910748664.9A CN110633306A (zh) | 2019-08-14 | 2019-08-14 | 业务数据处理方法、装置、计算机设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110633306A true CN110633306A (zh) | 2019-12-31 |
Family
ID=68969746
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910748664.9A Pending CN110633306A (zh) | 2019-08-14 | 2019-08-14 | 业务数据处理方法、装置、计算机设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110633306A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111666191A (zh) * | 2020-06-09 | 2020-09-15 | 贝壳技术有限公司 | 数据质量监控方法、装置、电子设备及存储介质 |
CN112767036A (zh) * | 2021-01-25 | 2021-05-07 | 北京有竹居网络技术有限公司 | 业务处理方法及设备 |
CN112765234A (zh) * | 2021-01-20 | 2021-05-07 | 京东数字科技控股股份有限公司 | 敞口数据的获取方法和装置、存储介质、电子装置 |
CN113407617A (zh) * | 2021-06-25 | 2021-09-17 | 交控科技股份有限公司 | 基于大数据技术的实时与离线业务统一处理方法和装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103455575A (zh) * | 2013-08-22 | 2013-12-18 | 北京炎黄盈动科技发展有限责任公司 | 数据统计分析方法和装置 |
WO2016019729A1 (zh) * | 2014-08-07 | 2016-02-11 | 中兴通讯股份有限公司 | 一种动态调度方法、系统及计算机存储介质 |
CN106446170A (zh) * | 2016-09-27 | 2017-02-22 | 努比亚技术有限公司 | 数据查询方法及装置 |
CN108920498A (zh) * | 2018-05-23 | 2018-11-30 | 阿里巴巴集团控股有限公司 | 数据查询方法、装置及设备 |
-
2019
- 2019-08-14 CN CN201910748664.9A patent/CN110633306A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103455575A (zh) * | 2013-08-22 | 2013-12-18 | 北京炎黄盈动科技发展有限责任公司 | 数据统计分析方法和装置 |
WO2016019729A1 (zh) * | 2014-08-07 | 2016-02-11 | 中兴通讯股份有限公司 | 一种动态调度方法、系统及计算机存储介质 |
CN106446170A (zh) * | 2016-09-27 | 2017-02-22 | 努比亚技术有限公司 | 数据查询方法及装置 |
CN108920498A (zh) * | 2018-05-23 | 2018-11-30 | 阿里巴巴集团控股有限公司 | 数据查询方法、装置及设备 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111666191A (zh) * | 2020-06-09 | 2020-09-15 | 贝壳技术有限公司 | 数据质量监控方法、装置、电子设备及存储介质 |
CN111666191B (zh) * | 2020-06-09 | 2023-09-29 | 贝壳技术有限公司 | 数据质量监控方法、装置、电子设备及存储介质 |
CN112765234A (zh) * | 2021-01-20 | 2021-05-07 | 京东数字科技控股股份有限公司 | 敞口数据的获取方法和装置、存储介质、电子装置 |
CN112767036A (zh) * | 2021-01-25 | 2021-05-07 | 北京有竹居网络技术有限公司 | 业务处理方法及设备 |
CN113407617A (zh) * | 2021-06-25 | 2021-09-17 | 交控科技股份有限公司 | 基于大数据技术的实时与离线业务统一处理方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110633306A (zh) | 业务数据处理方法、装置、计算机设备和存储介质 | |
CN109189799B (zh) | 业务数据查询方法、装置、计算机设备及存储介质 | |
CN109766349B (zh) | 任务防重方法、装置、计算机设备及存储介质 | |
CN110716989A (zh) | 维度数据处理方法、装置、计算机设备和存储介质 | |
CN110490594B (zh) | 业务数据处理方法、装置、计算机设备和存储介质 | |
CN110569222B (zh) | 链路追踪方法、装置、计算机设备和可读存储介质 | |
CN110750267A (zh) | 业务信息更新方法、装置、计算机设备和存储介质 | |
CN109284289B (zh) | 数据集处理方法、装置、计算机设备及存储介质 | |
CN110213392B (zh) | 数据分发方法、装置、计算机设备和存储介质 | |
CN110704675B (zh) | 对象管理方法、装置、计算机设备和存储介质 | |
CN109389299B (zh) | 工作流流程部署方法、装置、计算机设备和存储介质 | |
CN110717647A (zh) | 决策流构建方法、装置、计算机设备和存储介质 | |
CN111177121A (zh) | 订单数据反馈方法、装置、计算机设备及存储介质 | |
CN110795171A (zh) | 业务数据处理方法、装置、计算机设备及存储介质 | |
CN112488745A (zh) | 一种智能费控管理方法、装置、设备和存储介质 | |
CN110750443A (zh) | 网页测试的方法、装置、计算机设备及存储介质 | |
CN109542962B (zh) | 数据处理方法、装置、计算机设备和存储介质 | |
CN111209061A (zh) | 用户信息的填写方法、装置、计算机设备和存储介质 | |
CN108389124B (zh) | 数据处理方法、装置、计算机设备和存储介质 | |
CN110659272A (zh) | 数据清洗方法和系统 | |
CN113377789A (zh) | 数据库变更数据的处理方法、装置、计算机设备和介质 | |
CN112750027A (zh) | 批量业务处理方法、装置、计算机设备和存储介质 | |
CN110113384A (zh) | 网络请求处理方法、装置、计算机设备和存储介质 | |
CN110851446B (zh) | 数据表的生成方法、装置、计算机设备及存储介质 | |
CN114116908A (zh) | 一种数据管理方法、装置及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |