CN103440333A - 一种数据处理方法及装置 - Google Patents
一种数据处理方法及装置 Download PDFInfo
- Publication number
- CN103440333A CN103440333A CN2013103999605A CN201310399960A CN103440333A CN 103440333 A CN103440333 A CN 103440333A CN 2013103999605 A CN2013103999605 A CN 2013103999605A CN 201310399960 A CN201310399960 A CN 201310399960A CN 103440333 A CN103440333 A CN 103440333A
- Authority
- CN
- China
- Prior art keywords
- data
- processing
- encapsulation
- analyzed
- directed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例提供一种数据处理方法及装置,其中所述方法包括:通过结果数据库中的封装数据生成数据报表,所述封装数据为经定向集群处理后的数据处理结果,所述结果数据库通过所述定向集群处理后的数据处理结果定时更新;基于所述数据报表展示封装数据。本发明实施例可保留海量数据处理能力的同时,提高报表工作的响应速度和稳定性。
Description
技术领域
本发明涉及电子技术领域,尤其涉及一种数据处理方法及装置。
背景技术
随着数据量的迅速增长,传统的数据库分析技术已经无法满足海量数据分析的需求,现有技术通常采用集群处理与报表引擎的方式实现海量数据的实时分析处理与输出。
集群处理方式在处理海量数据时通常需要多台服务器进行实时联机计算,当其中一台服务器出现故障时,单台服务器节点响应中断会影响其他节点的数据处理,影响数据处理与报表引擎的稳定性;此外,集群数据处理架构的特点导致了现有技术方法在进行报表查询时,响应速度和处理速度较慢。
发明内容
本发明实施例提供一种数据处理方法及装置,保留海量数据处理能力的同时,提高报表工作的响应速度和稳定性。
具体的,本发明实施例提供一种数据处理方法,其可包括:
通过结果数据库中的封装数据生成数据报表,所述封装数据为经定向集群处理后的数据处理结果,所述结果数据库通过所述定向集群处理后的数据处理结果定时更新;
基于所述数据报表展示封装数据。
较佳的,通过结果数据库中的封装数据生成数据报表之前,包括:
采集待分析数据,并储存至数据仓库,所述数据仓库按照预设的数据维度储存所述待分析数据;
定时对所述数据仓库中所述待分析数据进行定向集群处理,生成所述封装数据;
将所述封装数据更新至所述结果数据库并储存。
较佳的,定时对所述待分析数据进行定向集群处理,生成所述封装数据包括:
每经过规定的时间间隔时,生成定向数据处理提示消息;
检测到所述定向数据处理提示消息后,按照所述定向数据处理提示消息对未处理过的所述待用数据进行定向集群处理,生成所述封装数据。
较佳的,所述储存至数据仓库包括清洗所述待分析数据、将所述待分析数据分组储存至所述数据仓库中至少一种。
较佳的,所述定向集群处理是根据所述所述定向数据处理提示消息携带指定的数据处理方案进行处理的,所述数据处理方案包括数据拆分、数据定向筛选、数据定向组合、组合分析中一种或多种。
相应的,本发明实施例还提供一种服务器,其可包括:
生成模块,用于通过结果数据库中的封装数据生成数据报表,所述封装数据为经定向集群处理后的数据处理结果,所述结果数据库通过所述定向集群处理后的数据处理结果定时更新;
展示模块,用于基于所述生成模块生成的所述数据报表展示封装数据。
较佳的,还包括:
采集与储存模块,用于采集待分析数据,并储存至数据仓库,所述数据仓库按照预设的数据维度储存所述待分析数据;
处理模块,用于定时对所述采集与储存模块采集的位于所述数据仓库中的所述待分析数据进行定向集群处理,生成所述封装数据;
更新与储存模块,用于将所述处理模块生成的所述封装数据更新至所述结果数据库并储存。
较佳的,所述处理模块包括:
提示单元,用于每经过规定的时间间隔时,生成定向数据处理提示消息并发送至定向处理单元;
定向处理单元,用于检测到所述提示单元发送的所述定向数据处理提示消息后,按照所述定向数据处理提示消息对未处理过的所述待用数据进行定向集群处理,生成所述封装数据。
较佳的,所述采集与储存模块储存所述待分析数据至所述数据仓库包括清洗所述待分析数据、将所述待分析数据分组储存至所述数据仓库中至少一种。
较佳的,所述定向集群处理是根据所述所述定向数据处理提示消息携带指定的数据处理方案进行处理的,所述数据处理方案包括数据拆分、数据定向筛选、数据定向组合、组合分析中一种或多种。
本发明实施例基于集群处理后的结果数据库进行报表工作,可使服务器保留海量数据处理能力的同时,提高报表工作的响应速度和稳定性。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单的介绍,显而易见地,下面描述中的附图是本发明实施例的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明的数据处理方法的一实施例流程示意图;
图2为本发明的服务器的一实施例结构组成示意图;
图3为本发明的服务器的另一实施例结构组成示意图;
图4为本发明的服务器的一实施例流程示意图;
图5为本发明的服务器的另一实施例流程示意图;
图6为本发明的服务器的又一实施例流程示意图;
图7为本发明的数据处理方法的一数据结构组成示意图;
图8为本发明的数据处理方法的另一数据结构组成示意图;
图9为本发明的数据处理方法的又一数据结构组成示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供了一种数据处理方法,其可包括:通过结果数据库中的封装数据生成数据报表,所述封装数据为经定向集群处理后的数据处理结果,所述结果数据库通过所述定向集群处理后的数据处理结果定时更新;基于所述数据报表展示封装数据。本发明实施例能够在保留服务器海量数据处理能力的同时,提高报表工作的响应速度和稳定性。
下面结合附图及具体实施方式,对本发明的技术方案进行详细说明。
如图1所示,本发明提供的数据处理方法的一实施例可以包括以下步骤:
步骤S110,通过结果数据库中的封装数据生成数据报表。其中,本发明实施例所提及的封装数据为经定向集群处理后的数据处理结果,本发明实施例所提及的结果数据库是通过定向集群处理后的数据处理结果定时更新的。
本发明实施例主要是针对海量数据整理报表方案的改进,故在实施本步骤之前,本发明实施例还须实施以下步骤:采集待分析数据,并储存至数据仓库,用于储存的数据仓库按照预设的数据维度储存待分析数据;定时对数据仓库中的待分析数据进行定向集群处理,生成封装数据;将封装数据更新至所述结果数据库并储存。
具体实施中,采集待分析数据主要是针对性地采集需要的数据。其中,可供采集数据的来源可以有多种,如数字电视终端、PC终端以及手机等移动终端等,这些均可以为本发明实施例的待分析数据提供终端;采集数据的方式可以为定时采集,也可以为实时采集,其中,定时采集可以是根据规定的时间点进行采集,也可以是以实时规定的时间点为基准、按照一定的时间间隔进行采集;此外,采集到待分析数据后,可以实时推送处理,也可以进行数据队列,定时批量推送处理,其中,推送处理可采用加密传输的形式进行传输,相应地,也需要传送与接收的双方约定加解密协议。
具体实施中,采集到的数据需储存到数据仓库中进行保存,以供查询和再次使用。其中,在进行储存过程中,需要对采集到的待分析数据进行清洗和分组,待分析数据清洗主要用于过滤无效或者不合法的数据项,待分析数据分组主要用于以一定的维度将数据储存在数据仓库中,以供定时分析,以及可能需要的查询工作和再次分析使用。
具体实施中,用于储存待分析数据的数据仓库是按照一定的数据维度储存收集到的待分析数据的,数据仓库中的数据维度是按照实际应用的情况进行预设的,本发明实施例在创建数据仓库时可直接对数据维度进行预设,具体的使用中,还可以根据使用情况进行数据维度的定义进行修改、更新,或增删数据维度。
具体实施中,定时对所述待分析数据进行定向集群处理,生成封装数据。本步骤主要是定时对数据仓库中储存的待分析数据进行处理,将需要分析的数据整理并封装,以供调取使用。具体的,本步骤可以通过以下步骤来实现:每经过规定的时间间隔时,生成定向数据处理提示消息;检测到定向数据处理提示消息后,按照定向数据处理提示消息对未处理过的待用数据进行定向集群处理,生成封装数据。
本发明实施例中定向集群处理数据的工作是定时进行的,其可根据检测到定向数据处理提示消息为基准,定向数据处理提示消息的生成规则可以为:当到达系统指定的时间或时间间隔时,生成定向数据处理提示消息;或者,如前述步骤所提及的定时批量推送待分析数据,以接收到批量数据的时间为基准,当接收到批量数据时,生成定向数据处理提示消息。
本发明实施例所提及的定向处理提示消息用于提示进行待分析数据的定向集群处理,该消息中携带指定的数据处理方案,其中,本发明实施例所提及的数据处理方案可包括数据拆分、数据定向筛选、数据定向组合、组合分析中一种或多种。例如:数据处理方案可包括数据拆分、数据定向筛选工作,用于将需要的数据分离出来;数据处理方案还可包括数据定向组合,用于将拆分的数据根据实际需要进行重组,合并到另一个数据文件中;数据处理方案还可以包括组合分析,用于将重组后的数据进行组合式的分析,如,组合成需要分析的业务维度后加以集群分析并生成代表结果的封装数据,以供调用,例如,组成业务维度的基本数据可以为IP地址所在的国家、当前用户是否为新用户等,代表结果的封装数据可以包括人数统计数据、使用产品的时长、以及降低用户体验的应用缺陷等,通过业务维度分析,可生成代表离散结果的封装数据。
相应的,本发明实施例所提及的定向集群处理包括数据拆分、数据定向筛选、数据定向组合、组合分析中一种或多种,其可根据定向处理提示消息中所携带的数据处理方案进行处理。
具体实施中,将封装数据更新至结果数据库并储存。如前述步骤所提及的结果数据库,其用于储存定向集群处理后的封装数据,其可供生成数据报表,在进行报表生成、展示的过程中,调用结果数据库中的数据无需多台服务器并行计算,可直接根据经定向集群处理后的数据进行分析。
本发明实施例所提及的结果数据库可以为一种本地数据库,也可以为一种网络数据库,其可定时接收定向集群处理的封装数据并进行更新储存,进行调用和计算工作中无需多台服务器的集群计算参与,其相对于集群处理状态下的数据库,具有较好的稳定性。
本发明实施例所提及的数据报表是基于前述的结果数据库生成的,故当结果数据库接收到新的封装数据并进行更新储存后,数据报表也将随之更新;生成数据报表后,运用数据报表时,服务器也同样不会受到参与集群计算的服务器的故障影响,具有较好的稳定性,可提高报表工作的效率。
步骤S111,基于数据报表展示封装数据。本步骤主要基于前述步骤生成的数据报表进行工作,服务器可通过配置报表展示页面的元素和条件,也可通过页面设置权限分配报表展示页,也可通过设置路径的方式,控制某些菜单使用权限。
具体实现中,当需要创建新的报表选项时,可通过页面的方式配置用于展示页面的元素和条件,例如,可一并参照图7所示的数据结构示意图,用于输入报表创建的参数可包括报表名称、条件、SQL语句、图表等,基于DeployReportController处理前台,该类汇总可采用的数据处理方法可包括saveDeployReport、updateDeployReport、以及deleteDeployReport等相关工具,调用依赖类DeployReportServiceImpl,DeployChartServiceImpl来保存报表的到数据库中。
具体实现中,报表菜单的管理可以以用户权限设置的方式进行管理。本发明实施例的方法可通过页面来设置使用权限,相关用户可被授权后浏览展示页面,相关用户也可以通过权限调用数据,修改展示页面。本发明实施例的方法中,权限的处理可根据url正则匹配而来,每一个被创建的报表都有一个唯一的url,其可根据选择的目录相应生成。如,可一并参照图8所示的数据结构示意图,RoleManagerController类是负责创建角色以及给用户分配角色的类,本发明实施例的方法中,可在类ResourceManagerController中创建一个权限名称以及一个匹配的url,创建方法可以为,利用类中addResource、updateResource、deleteResource、以及addRoleResource等方法创建好权限后,根据需要分配该权限给某一个角色,即通过addRoleResource进行角色选择,用户的角色代表了用户是否具有浏览或修改页面等权限。
具体实现中,报表展现处理功能主要是根据菜单的url来查询数据库报表的信息,自动展现前台页面数据。如,可一并参照图9所示的数据结构示意图,一种TemplateController处理核心类,其可包含以下自动展示功能:getGridJson报表的表格数据的处理;getBarJson柱形图的数据处理;getPerJson饼状图的数据处理;getBasicLineJson线性图的数据处理;getTemplatePage模板的处理化处理;getReportExportExcel导出Excel数据处理。又如,一种BaseController分页处理类,其可包含以下功能:getPage获取前台分页参数;getReportGridJson获取分页表格数据;getReportJson获取整个报表数据;getRequest获取request,通过以上功能,可灵活地将url与前台页面数据的展现结合起来,便于查阅和参考。
此外,如前述步骤所提及的内容,数据报表不会受到参与集群计算的服务器的故障影响,具有较好的稳定性,故本步骤运行的过程中同样不会受到此类影响。
本发明实施例通过将集群处理的结果保留至稳定的结果数据库中,并基于结果数据库生成数据报表和运用数据报表,避免了集群处理中可能出现的响应中断影响,以及响应速度问题,较好地提高了工作效率。由此,本发明实施例在保留服务器海量数据处理能力的同时,提高了报表工作的响应速度和稳定性。
相应的,本发明提供了一种服务器,其可包括:生成模块,用于通过结果数据库中的封装数据生成数据报表,所述封装数据为经定向集群处理后的数据处理结果,所述结果数据库通过所述定向集群处理后的数据处理结果定时更新;展示模块,用于基于所述生成模块生成的所述数据报表展示封装数据。本发明实施例的服务器可在保留海量数据处理能力的同时,提高报表工作的响应速度和稳定性。
下面结合附图及具体实施方式,对本发明的装置的技术方案进行详细说明。
图2为本发明的服务器的一实施例结构组成示意图。该实施例的装置可用于执行图1所示的方法,具体的,该实施例的装置包括:生成模块21和展示模块22,请一并参照图3所示的本发明实施例的服务器的另一结构组成示意图,本发明实施例的服务器还可以包括采集与储存模块23、处理模块24和更新与储存模块25,其中,处理模块24还可以进一步包括提示单元241和定向处理单元242,其中:
生成模块21,用于通过结果数据库中的封装数据生成数据报表。其中,结果数据库中的封装数据为经定向集群处理后的数据处理结果,本发明实施例所提及的结果数据库通过定向集群处理后的数据处理结果定时更新。具体实施方式可参照前述步骤S110所提及的方法,在此不作赘述。
展示模块22,用于基于生成模块21生成的数据报表展示封装数据。具体实施方式可参照前述步骤S110所提及的方法,在此不作赘述。
本发明实施例的服务器还可以包括以下模块:
采集与储存模块23,用于采集待分析数据,并储存至数据仓库。其中,采集与储存模块23储存待分析数据至数据仓库包括清洗待分析数据、将待分析数据分组储存至数据仓库中至少一种。可一并参照图4所示的流程示意图,本发明实施例的采集与储存模块23可通过多种终端获取用于分析的数据,如数字电视终端、PC终端以及移动终端等,还可以包括其他的可用于提供用于分析的数据的终端;采集与储存模块23采集数据的方式可以为定时采集,也可以为实时采集,其中,定时采集可以是根据规定的时间点进行采集,也可以是以实时规定的时间点为基准、按照一定的时间间隔进行采集;另外,采集与储存模块23采集的待处理数据需储存到数据仓库中进行保存,以供处理模块24使用,以及可能需要的查询工作和再次分析使用,其将待处理数据推送至处理模块24的方法可以为:实时推送至处理模块24;也可以为,将数据队列后,定时推送至处理模块24,其中,推送处理可采用加密传输的形式进行传输,相应地,也需要传送与接收的双方约定加解密协议。相应的,采集与储存模块23在进行队列时,用于队列的缓存可以为内部缓存器,也可以为外置的缓存器,通过外置设备将缓存的队列数据提供给处理模块24。具体实施方式可参照前述步骤S110所提及的方法,在此不作赘述。
处理模块24,用于定时对数据仓库中储存的待分析数据进行定向集群处理,生成封装数据。其中,处理模块24可通过以下两个单元进行待分析数据的定向集群处理。
提示单元241,用于每经过规定的时间间隔时,生成定向数据处理提示消息并发送至定向处理单元242。其中,生成定向数据处理提示消息的方法可以包括:系统根据规定的时间或时间间隔生成该提示消息;或者当接收到采集与储存模块24定时推送的数据时,生成该提示消息。另外,定向数据处理提示消息中可携带指定的数据处理方案,如数据拆分、数据定向筛选、数据定向组合、组合分析中一种或多种。具体实施方式可参照前述步骤S110所提及的方法,在此不作赘述。
定向处理单元242,用于检测到提示单元241发送的定向数据处理提示消息后,按照定向数据处理提示消息定时对数据仓库中储存的待分析数据进行处理,将需要分析的数据整理并封装。其中,定向集群处理可包括数据拆分、数据定向筛选、数据定向组合、组合分析中一种或多种,其根据定向数据处理提示消息中携带的内容而定。本单元在进行定向数据处理时可直接通过集成的数据模块进行数据处理,例如,可通过数据拆分程序、数据定向筛选程序等可内置的应用程序来实现定向数据处理,无需实时应用编程语句实时编写处理程序。具体实施方式可参照前述步骤S110所提及的方法,在此不作赘述。
更新与储存模块25,用于将处理模块24生成的封装数据更新至结果数据库并储存。其中,结果数据库可以为MYSQL展示数据库等一类具有稳定性的数据库。具体实施方式可参照前述步骤S110所提及的方法,在此不作赘述。
可一并参考图5提供的本发明实施例的服务器的一流程示意图,该流程图展示了采集单元23以定时推送队列数据的方式向处理单元24推送数据的过程,其可包括以下步骤:
步骤S510,校对时间。本步骤可用于设置基准时间,该基准时间用于作为定时任务的基准。
步骤S511,启动定时任务。其中,定时任务是以一定的时间间隔进行推送数据工作。
步骤S512,是否经过规定的时间间隔,到达提示时间。本步骤中,若经过了规定的时间间隔,到达了提示时间,则执行步骤S513;若尚未经过规定的时间间隔,则重新执行步骤S512。
步骤S513,推送数据。其中,推送的数据通常为队列数据,即前述的缓存器中的数据,当接收到步骤S512的提示后,本步骤将队列中的数据批量发送至处理模块24进行定向集群处理。
可一并参照图6所示的本发明实施例的服务器的又一流程示意图,该流程图展示了本发明实施例的服务器的处理模块24处理数据、更新与储存模块25、生成模块21和展示模块22的工作流程,该流程可包括以下步骤:
步骤S610,数据处理流程。如图6所示,其为包括数据拆分、数据定向筛选、数据定向组合、组合分析中一种或多种的定向集群处理,由流程图可看出,定向集群处理过程需要多台子服务器的支持得以实施,故本发明实施例的方法采用了用于处理海量数据的集群处理方法。
步骤S611,结果数据库存储与更新。本步骤用于将步骤S610的定向集群处理结果储存并更新至结果数据库,由此可知,本发明实施例的结果数据库具有更新性和稳定性。
步骤S612,报表生成。本步骤是基于步骤S611的结果数据库进行报表生成的,该报表可用于数据查询、展示等。
步骤S613,报表展示。本步骤可基于步骤S612生成的报表进行报表展示等工作。
本发明实施例所采用的用于储存待分析数据的数据仓库是按照一定的数据维度储存收集到的待分析数据的,数据仓库中的数据维度是按照实际应用的情况进行预设的,本发明实施例在创建数据仓库时可直接对数据维度进行预设,具体的使用中,还可以根据使用情况进行数据维度的定义进行修改、更新,或增删数据维度。
本发明实施例所采用的结果数据库可以为一种本地数据库,也可以为一种网络数据库,其可定时接收定向集群处理的封装数据并进行更新储存,进行调用和计算工作中无需多台服务器的集群计算参与,其相对于集群处理状态下的数据库,具有较好的稳定性。
本发明实施例所采用的数据报表是基于结果数据库生成的,故当结果数据库接收到新的封装数据并进行更新储存后,数据报表也将随之更新;生成数据报表后,运用数据报表时,服务器也同样不会受到参与集群计算的服务器的故障影响,具有较好的稳定性,可提高报表工作的效率。
此外,本发明实施例所采用的数据报表不会受到参与集群计算的服务器的故障影响,具有较好的稳定性,故实际运行的过程中同样不会受到此类影响。
本发明实施例的服务器通过将集群处理的结果保留至稳定的结果数据库中,并基于结果数据库生成数据报表和运用数据报表,避免了集群处理中可能出现的响应中断影响,以及响应速度问题,较好地提高了工作效率。由此,本发明实施例的服务器在保留海量数据处理能力的同时,提高了报表工作的响应速度和稳定性。
本发明实施例中所述模块或单元,可以通过通用集成电路,例如CPU(Central Processing Unit,中央处理器),或通过ASIC(Application SpecificIntegrated Circuit,专用集成电路)来实现。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(Random Access Memory,RAM)等。
以上所揭露的仅为本发明较佳实施例而已,当然不能以此来限定本发明之权利范围,本领域普通技术人员可以理解实现上述实施例的全部或部分流程,并依本发明权利要求所作的等同变化,仍属于发明所涵盖的范围。
Claims (10)
1.一种数据处理方法,其特征在于,包括:
通过结果数据库中的封装数据生成数据报表,所述封装数据为经定向集群处理后的数据处理结果,所述结果数据库通过所述定向集群处理后的数据处理结果定时更新;
基于所述数据报表展示封装数据。
2.如权利要求1所述的方法,其特征在于,通过结果数据库中的封装数据生成数据报表之前,包括:
采集待分析数据并储存至数据仓库,所述数据仓库按照预设的数据维度储存所述待分析数据;
定时对所述数据仓库中所述待分析数据进行定向集群处理,生成所述封装数据;
将所述封装数据更新至所述结果数据库并储存。
3.如权利要求2所述的方法,其特征在于,定时对所述待分析数据进行定向集群处理,生成所述封装数据包括:
每经过规定的时间间隔时,生成定向数据处理提示消息;
检测到所述定向数据处理提示消息后,按照所述定向数据处理提示消息对未处理过的所述待用数据进行定向集群处理,生成所述封装数据。
4.如权利要求2所述的方法,其特征在于,所述储存至数据仓库包括清洗所述待分析数据、将所述待分析数据分组储存至所述数据仓库中至少一种。
5.如权利要求3所述的方法,其特征在于,所述定向集群处理是根据所述所述定向数据处理提示消息携带指定的数据处理方案进行处理的,所述数据处理方案包括数据拆分、数据定向筛选、数据定向组合、组合分析中一种或多种。
6.一种服务器,其特征在于,包括:
生成模块,用于通过结果数据库中的封装数据生成数据报表,所述封装数据为经定向集群处理后的数据处理结果,所述结果数据库通过所述定向集群处理后的数据处理结果定时更新;
展示模块,用于基于所述生成模块生成的所述数据报表展示封装数据。
7.如权利要求6所述的服务器,其特征在于,还包括:
采集与储存模块,用于采集待分析数据,并储存至数据仓库,所述数据仓库按照预设的数据维度储存所述待分析数据;
处理模块,用于定时对所述采集与储存模块采集的位于所述数据仓库中的所述待分析数据进行定向集群处理,生成所述封装数据;
更新与储存模块,用于将所述处理模块生成的所述封装数据更新至所述结果数据库并储存。
8.如权利要求7所述的方法,其特征在于,所述处理模块包括:
提示单元,用于每经过规定的时间间隔时,生成定向数据处理提示消息并发送至定向处理单元;
定向处理单元,用于检测到所述提示单元发送的所述定向数据处理提示消息后,按照所述定向数据处理提示消息对未处理过的所述待用数据进行定向集群处理,生成所述封装数据。
9.如权利要求7所述的方法,其特征在于,所述采集与储存模块储存所述待分析数据至所述数据仓库包括清洗所述待分析数据、将所述待分析数据分组储存至所述数据仓库中至少一种。
10.如权利要求8所述的方法,其特征在于,所述定向处理单元是根据所述提示单元发送的所述定向数据处理提示消息携带指定的数据处理方案进行定向集群处理的,所述数据处理方案包括数据拆分、数据定向筛选、数据定向组合、组合分析中一种或多种。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2013103999605A CN103440333A (zh) | 2013-09-05 | 2013-09-05 | 一种数据处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2013103999605A CN103440333A (zh) | 2013-09-05 | 2013-09-05 | 一种数据处理方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN103440333A true CN103440333A (zh) | 2013-12-11 |
Family
ID=49694026
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2013103999605A Pending CN103440333A (zh) | 2013-09-05 | 2013-09-05 | 一种数据处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103440333A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107391550A (zh) * | 2017-06-06 | 2017-11-24 | 广东广业开元科技有限公司 | 一种基于大数据模板技术的报表生成方法及系统 |
CN109299169A (zh) * | 2018-10-24 | 2019-02-01 | 中国平安人寿保险股份有限公司 | 数据可视化方法、系统、终端及计算机可读存储介质 |
CN110032587A (zh) * | 2019-04-17 | 2019-07-19 | 上海圣剑网络科技股份有限公司 | 数据汇总方法、装置、计算机设备和存储介质 |
CN110659270A (zh) * | 2019-08-19 | 2020-01-07 | 苏宁金融科技(南京)有限公司 | 一种数据处理及传输方法和装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7725470B2 (en) * | 2006-08-07 | 2010-05-25 | Bea Systems, Inc. | Distributed query search using partition nodes |
CN103258054A (zh) * | 2013-05-31 | 2013-08-21 | 闫朝升 | 数据处理方法及装置 |
-
2013
- 2013-09-05 CN CN2013103999605A patent/CN103440333A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7725470B2 (en) * | 2006-08-07 | 2010-05-25 | Bea Systems, Inc. | Distributed query search using partition nodes |
CN103258054A (zh) * | 2013-05-31 | 2013-08-21 | 闫朝升 | 数据处理方法及装置 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107391550A (zh) * | 2017-06-06 | 2017-11-24 | 广东广业开元科技有限公司 | 一种基于大数据模板技术的报表生成方法及系统 |
CN109299169A (zh) * | 2018-10-24 | 2019-02-01 | 中国平安人寿保险股份有限公司 | 数据可视化方法、系统、终端及计算机可读存储介质 |
CN109299169B (zh) * | 2018-10-24 | 2023-08-08 | 中国平安人寿保险股份有限公司 | 数据可视化方法、系统、终端及计算机可读存储介质 |
CN110032587A (zh) * | 2019-04-17 | 2019-07-19 | 上海圣剑网络科技股份有限公司 | 数据汇总方法、装置、计算机设备和存储介质 |
CN110659270A (zh) * | 2019-08-19 | 2020-01-07 | 苏宁金融科技(南京)有限公司 | 一种数据处理及传输方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106101176B (zh) | 一种一体化的融媒体云生产发布系统与方法 | |
CN105357054B (zh) | 网站流量分析方法、装置和电子设备 | |
WO2021169268A1 (zh) | 数据处理方法、装置、设备和存储介质 | |
CN107040863B (zh) | 实时业务推荐方法及系统 | |
CN103942210A (zh) | 海量日志信息的处理方法、装置与系统 | |
US20150170070A1 (en) | Method, apparatus, and system for monitoring website | |
CN103443781A (zh) | 数据递送 | |
CN103827810A (zh) | 资产模型导入连接器 | |
CN102957622B (zh) | 一种数据处理的方法、装置及系统 | |
CN104243598A (zh) | 一种信息推荐方法及装置 | |
CN102208991A (zh) | 一种日志处理方法、设备和系统 | |
CN109840262B (zh) | 数据统计方法及相关装置 | |
CN102164175A (zh) | 一种基于云存储的用电信息采集方法及系统 | |
CN103440333A (zh) | 一种数据处理方法及装置 | |
CN111258978A (zh) | 一种数据存储的方法 | |
CN110928681A (zh) | 数据的处理方法和装置、存储介质及电子装置 | |
CN111339183A (zh) | 数据处理方法、边缘节点、数据中心及存储介质 | |
KR20180104424A (ko) | 공장의 실시간 상황 변화에 대응하기 위한 동적 상황 관리 장치 및 방법 | |
CN103440302B (zh) | 实时数据交换的方法和系统 | |
CN108334547B (zh) | 基于大数据的数据共享交换系统与方法 | |
CN108696559B (zh) | 流处理方法及装置 | |
CN208046653U (zh) | 一种电力监控系统网络安全监测主站平台系统 | |
CN109213955B (zh) | 数据处理方法及相关设备 | |
CN112445861A (zh) | 信息处理方法、装置、系统及存储介质 | |
CN104462235A (zh) | 一种基于Restful Web Service的物联网通用事件服务机制 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20131211 |