CN104462368A - 数据计算方法、装置和服务器 - Google Patents
数据计算方法、装置和服务器 Download PDFInfo
- Publication number
- CN104462368A CN104462368A CN201410746446.9A CN201410746446A CN104462368A CN 104462368 A CN104462368 A CN 104462368A CN 201410746446 A CN201410746446 A CN 201410746446A CN 104462368 A CN104462368 A CN 104462368A
- Authority
- CN
- China
- Prior art keywords
- data
- calculation task
- calculation
- cycle
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2453—Query optimisation
- G06F16/24534—Query rewriting; Transformation
- G06F16/24549—Run-time optimisation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种数据计算方法、装置和服务器,主要涉及互联网技术领域,主要目的在于减少提供数据的服务器的压力,以及提高数据分析的效率。方法包括:从外部服务器接收待进行数据分析的第一数据;根据用于进行数据分析的多个计算任务,从第一数据中提取分别适于在多个计算任务中使用的第二数据;根据多次提取的第二数据,执行多个计算任务得到多个计算结果。根据本发明,由于外部服务器上不需进行数据查找的操作,所以不影响外部服务器进行其他的工作,而接收到第一数据根据不同计算任务提取相应的第二数据,同一第一数据用于可以用于多次提取,提高了第一数据的复用程度。
Description
技术领域
本发明涉及互联网技术领域,具体而言,涉及一种数据计算方法、装置和服务器。
背景技术
在目前的互联网技术领域,经常需要对大量的业务数据进行分析,由于待分析的数据量通常较大,所以如何使得数据分析的效率得到提高就成为重要的课题。
例如,某游戏厂商的服务器产生了大量的数据,现需要基于这些数据进行玩家消费行为分析、玩家数量分析等多种类型的数据分析,则需要从游戏厂商服务器处请求适于进行不同数据分析任务的数据,这要游戏厂商服务器查找用于不同数据分析任务的数据,会对游戏厂商服务器来说会造成很大的压力,甚至会有可能会影响游戏厂商服务器上游戏程序的运行。
发明内容
鉴于上述问题,提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的数据计算方法、装置和服务器。
依据本发明的一个方面,提供了一种数据计算方法,其包括:从外部服务器接收待进行数据分析的第一数据;根据用于进行数据分析的多个计算任务,从所述第一数据中提取分别适于在所述多个计算任务中使用的第二数据;根据多次提取的第二数据,执行所述多个计算任务得到多个计算结果。
根据本发明的另一个方面,提供了一种数据计算装置,其包括:第一数据接收模块,用于从外部服务器接收待进行数据分析的第一数据;第二数据提取模块,用于根据用于进行数据分析的多个计算任务,从所述第一数据中提取分别适于在所述多个计算任务中使用的第二数据;计算模块,用于根据多次提取的第二数据,执行所述多个计算任务得到多个计算结果。
根据本发明的另一个方面,提供了一种服务器,其包括:前述的数据计算装置。
根据以上技术方案,可知本发明的数据计算方法、装置和服务器至少具有以下优点:
在本发明的技术方案中,并不从外部服务器处直接获取适于进行不同计算任务的第二数据,而是从外部服务器获取第一数据之后再根据计算任务的不同提取第二数据,可以发现由于外部服务器上不需进行数据查找的操作,所以不影响外部服务器进行其他的工作,而接收到第一数据根据不同计算任务提取相应的第二数据,同一第一数据可以用于多次提取,提高了第一数据的复用程度。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了根据本发明的一个实施例的数据计算方法的流程图;
图2示出了根据本发明的一个实施例的数据计算方法的流程图;
图3示出了根据本发明的一个实施例的数据计算方法的流程图;
图4示出了根据本发明的一个实施例的数据计算方法的流程图;
图5示出了根据本发明的一个实施例的数据计算方法的流程图;
图6示出了根据本发明的一个实施例的数据计算装置的框图;
图7示出了根据本发明的一个实施例的数据计算装置的框图;
图8示出了根据本发明的一个实施例的数据计算装置的框图;
图9示出了根据本发明的一个实施例的服务器的框图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
如图1所示,本发明的一个实施例中的数据计算方法,其包括:
步骤110,从外部服务器接收待进行数据分析的第一数据。
步骤120,根据用于进行数据分析的多个计算任务,从第一数据中提取分别适于在多个计算任务中使用的第二数据。在本实施例中,对计算任务的类型不进行限制,其可以根据不同的业务来灵活制定。在本实施例中,可以基于storm等工具设置一个数据提取节点,用于提取多种第二数据。
步骤130,根据多次提取的第二数据,执行多个计算任务得到多个计算结果。在本实施例中,可以基于storm等工具设置多个计算任务的节点,接收提取的第二数据并进行计算。
根据本实施例的技术方案,并不从外部服务器处直接获取适于进行不同计算任务的第二数据,而是从外部服务器获取第一数据之后再根据计算任务的不同提取第二数据,可知由于外部服务器上不需进行数据查找的操作,所以不影响外部服务器进行其他的工作,而接收到第一数据根据不同计算任务提取相应的第二数据,同一第一数据用于可以用于多次提取,提高了第一数据的复用程度。
根据图1,游戏厂商的服务器(第一服务器)的游戏数据(第一数据)传输到数据分析商的服务器(第二服务器)后,需要进行玩家上线时间分析、玩家消费金额分析(计算任务)等。针对玩家上线时间分析从游戏数据中提取玩家的上线时间(第二数据)并进行计算,以及针对玩家消费金额分析从游戏数据中提取玩家购买道具消费的金额(第二数据)并进行计算。
如图2所示,本发明的一个实施例中的数据计算方法,其包括:
步骤210,从外部服务器接收待进行数据分析的第一数据。
步骤220,根据用于进行数据分析的多个计算任务,从第一数据中提取分别适于在多个计算任务中使用的第二数据。
步骤221,根据每个计算任务所采用的计算策略,确定每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对周期内所提取的对应的第二数据进行计算。根据本实施例的技术方案,计算策略简单则计算任务带来的负担较小,可以基于tomcat实现一个接口,来实时获取相应的第二数据并进行计算;计算策略复杂则计算任务带来的负担较大,可以将第二数据缓存到mongoDB等工具中,并可以按一定周期延时调用前述的接口进行计算。
步骤230,根据多次提取的第二数据,执行多个计算任务得到多个计算结果。
根据图2,游戏厂商的服务器(第一服务器)的游戏数据(第一数据)传输到数据分析商的服务器(第二服务器)后,针对玩家上线时间分析从游戏数据中提取玩家的上线时间(第二数据),以及针对玩家消费金额分析从游戏数据中提取玩家购买道具消费的金额(第二数据);其中,玩家上线时间分析所采用的算法(计算策略)较简单,所以获取玩家上线时间后实时进行计算;玩家消费金额分析的算法(计算策略)较复杂,所以获取玩家购买道具消费的金额后进行缓存,并每隔1分钟(周期)收集缓存数据进行计算。
本发明的一个实施例中的数据计算方法,其包括:
步骤210,从外部服务器接收待进行数据分析的第一数据。
步骤220,根据用于进行数据分析的多个计算任务,从第一数据中提取分别适于在多个计算任务中使用的第二数据。
步骤221,根据每个计算任务所采用的计算策略,确定每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对周期内所提取的对应的第二数据进行计算。
步骤222,根据每个计算任务所采用的计算策略,计算每个计算任务在按周期进行计算时的周期的长度。根据本实施例的技术方案,计算策略的复杂程度不同表示计算任务带来的负担也不同,所以可以通过控制延时周期的长度来缓解计算任务带来的负担。
步骤230,根据多次提取的第二数据,执行多个计算任务得到多个计算结果。
根据图2,游戏厂商的服务器(第一服务器)的游戏数据(第一数据)传输到数据分析商的服务器(第二服务器)后,针对玩家消费金额分析从游戏数据中提取玩家购买道具消费的金额(第二数据),针对玩家游戏内分布分析提取了玩家在游戏中的位置信息(第二数据);玩家消费金额分析的复杂度小于玩家游戏内分布分析的复杂度,所以可设置玩家消费金额分析对应的周期为1分钟,玩家游戏内分布分析对应的周期为2分钟。
如图3所示,本发明的一个实施例中的数据计算方法,其包括:
步骤310,从外部服务器接收待进行数据分析的第一数据。
步骤320,根据用于进行数据分析的多个计算任务,从第一数据中提取分别适于在多个计算任务中使用的第二数据。
步骤321,根据每个计算任务对应的第二数据的属性,确定每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对周期内所提取的对应的第二数据进行计算。在本实施例中个,每个计算任务对应的第二数据的属性包括但不限于每个计算任务对应的第二数据的类型、字段和数据量中的一种或多种。根据本实施例的技术方案,计算任务的负担除了与采用的计算策略复杂程度有关,也所采用的数据的属性有关,某些属性的数据进行计算时会带来较大的负担,所以可以基于第二数据的属性来判断是否延时进行计算任务。
步骤330,根据多次提取的第二数据,执行多个计算任务得到多个计算结果。
根据图3,游戏厂商的服务器(第一服务器)的游戏数据(第一数据)传输到数据分析商的服务器(第二服务器)后,针对玩家上线时间分析从游戏数据中提取玩家的上线时间(第二数据),其为时间数据(类型),以及针对玩家消费金额分析从游戏数据中提取玩家购买道具消费的金额(第二数据),其为货币数据(类型)。根据以往经验,对时间数据进行运算的负担较小,所以获取玩家上线时间后实时进行计算;对货币数据进行运算的负担较大,所以获取玩家购买道具消费的金额后进行缓存,并每隔1分钟(周期)收集缓存数据进行计算。
本发明的一个实施例中的数据计算方法,其包括:
步骤310,从外部服务器接收待进行数据分析的第一数据。
步骤320,根据用于进行数据分析的多个计算任务,从第一数据中提取分别适于在多个计算任务中使用的第二数据。
步骤321,根据每个计算任务对应的第二数据的属性,确定每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对周期内所提取的对应的第二数据进行计算。
步骤322,根据每个计算任务对应的第二数据的属性,计算每个计算任务在按周期进行计算时的周期的长度。在本实施例中个,每个计算任务对应的第二数据的属性包括但不限于每个计算任务对应的第二数据的类型、字段和数据量中的一种或多种。根据本实施例的技术方案,第二数据的属性不同往往造成计算任务带来的负担也不同,所以可以通过控制延时周期的长度来缓解计算任务带来的负担。
步骤330,根据多次提取的第二数据,执行多个计算任务得到多个计算结果。
根据图3,游戏厂商的服务器(第一服务器)的游戏数据(第一数据)传输到数据分析商的服务器(第二服务器)后,针对玩家消费金额分析从游戏数据中提取玩家购买道具消费的金额(第二数据),针对玩家游戏内分布分析提取了玩家在游戏中的位置信息(第二数据);玩家购买道具消费的金额的长度小于玩家在游戏中的坐标信息的长度(数据量),所以可设置玩家消费金额分析对应的周期为1分钟,玩家游戏内分布分析对应的周期为2分钟。
如图4所示,本发明的一个实施例中的数据计算方法,其包括:
步骤410,从外部服务器接收待进行数据分析的第一数据。
步骤420,根据用于进行数据分析的多个计算任务,从第一数据中提取分别适于在多个计算任务中使用的第二数据。
步骤430,为多个计算任务各自分配对应的资源,并使用资源并行执行多个计算任务。在本实施例中,对资源的类型不进行限制,其包括但不限于CPU和内存资源。根据本实施例的技术方案,对不同计算任务独立分配资源,并行进行计算有利于提高计算效率,且并行处理的方式下各个计算任务还不干扰,有利于随时添加新的计算任务。
根据图4,游戏厂商的服务器(第一服务器)的游戏数据(第一数据)传输到数据分析商的服务器(第二服务器)后,进行玩家消费金额分析以及玩家在游戏内分布分析(计算任务);将现有的CPU、内存(资源)分别划分出一部分用于玩家消费金额分析以及玩家在游戏内分布分析的计算。
如图5所示,本发明的一个实施例中的数据计算方法,其包括:
步骤510,从外部服务器接收待进行数据分析的第一数据,并将第一数据记录在预设的日志文件中。在本实施例中,用于进行日志记录的工具较多,例如可以利用scribe工具来收集记录日志。
步骤520,从日志文件中提取适于在多个计算任务中使用的第二数据。
步骤530,根据多次提取的第二数据,执行多个计算任务得到多个计算结果。根据本实施例的技术方案,记录日志文件的好处在于,可以实时接收外部服务器的第一数据,并延时进行第二数据的提取,避免数据提取工作带来的负担过大。
如图6所示,本发明的一个实施例中的数据计算装置,其包括:
第一数据接收模块610,从外部服务器接收待进行数据分析的第一数据。
第二数据提取模块620,根据用于进行数据分析的多个计算任务,从第一数据中提取分别适于在多个计算任务中使用的第二数据。在本实施例中,对计算任务的类型不进行限制,其可以根据不同的业务来灵活制定。在本实施例中,可以基于storm等工具设置一个数据提取节点,用于提取多种第二数据。
计算模块630,根据多次提取的第二数据,执行多个计算任务得到多个计算结果。在本实施例中,可以基于storm等工具设置多个计算任务的节点,接收提取的第二数据并进行计算。
根据本实施例的技术方案,并不从外部服务器处直接获取适于进行不同计算任务的第二数据,而是从外部服务器获取第一数据之后再根据计算任务的不同提取第二数据,可知由于外部服务器上不需进行数据查找的操作,所以不影响外部服务器进行其他的工作,而接收到第一数据根据不同计算任务提取相应的第二数据,同一第一数据用于可以用于多次提取,提高了第一数据的复用程度。
根据图6,游戏厂商的服务器(第一服务器)的游戏数据(第一数据)传输到数据分析商的服务器(第二服务器)后,需要进行玩家上线时间分析、玩家消费金额分析(计算任务)等。针对玩家上线时间分析从游戏数据中提取玩家的上线时间(第二数据)并进行计算,以及针对玩家消费金额分析从游戏数据中提取玩家购买道具消费的金额(第二数据)并进行计算。
如图7所示,本发明的一个实施例中的数据计算装置,其包括:
第一数据接收模块710,从外部服务器接收待进行数据分析的第一数据。
第二数据提取模块720,根据用于进行数据分析的多个计算任务,从第一数据中提取分别适于在多个计算任务中使用的第二数据。
第一延时计算模块730,根据每个计算任务所采用的计算策略,确定每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对周期内所提取的对应的第二数据进行计算。根据本实施例的技术方案,计算策略简单则计算任务带来的负担较小,可以基于tomcat实现一个接口,来实时获取相应的第二数据并进行计算;计算策略复杂则计算任务带来的负担较大,可以将第二数据缓存到mongoDB等工具中,并可以按一定周期延时调用前述的接口进行计算。
计算模块740,根据多次提取的第二数据,执行多个计算任务得到多个计算结果。
根据图7,游戏厂商的服务器(第一服务器)的游戏数据(第一数据)传输到数据分析商的服务器(第二服务器)后,针对玩家上线时间分析从游戏数据中提取玩家的上线时间(第二数据),以及针对玩家消费金额分析从游戏数据中提取玩家购买道具消费的金额(第二数据);其中,玩家上线时间分析所采用的算法(计算策略)较简单,所以获取玩家上线时间后实时进行计算;玩家消费金额分析的算法(计算策略)较复杂,所以获取玩家购买道具消费的金额后进行缓存,并每隔1分钟(周期)收集缓存数据进行计算。
本发明的一个实施例中的数据计算装置,其包括:
第一数据接收模块710,从外部服务器接收待进行数据分析的第一数据。
第二数据提取模块720,根据用于进行数据分析的多个计算任务,从第一数据中提取分别适于在多个计算任务中使用的第二数据。
第一延时计算模块730,根据每个计算任务所采用的计算策略,确定每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对周期内所提取的对应的第二数据进行计算。
第一延时计算模块730还根据每个计算任务所采用的计算策略,计算每个计算任务在按周期进行计算时的周期的长度。根据本实施例的技术方案,计算策略的复杂程度不同表示计算任务带来的负担也不同,所以可以通过控制延时周期的长度来缓解计算任务带来的负担。
计算模块740,根据多次提取的第二数据,执行多个计算任务得到多个计算结果。
根据图7,游戏厂商的服务器(第一服务器)的游戏数据(第一数据)传输到数据分析商的服务器(第二服务器)后,针对玩家消费金额分析从游戏数据中提取玩家购买道具消费的金额(第二数据),针对玩家游戏内分布分析提取了玩家在游戏中的位置信息(第二数据);玩家消费金额分析的复杂度小于玩家游戏内分布分析的复杂度,所以可设置玩家消费金额分析对应的周期为1分钟,玩家游戏内分布分析对应的周期为2分钟。
如图8所示,本发明的一个实施例中的数据计算装置,其包括:
第一数据接收模块810,从外部服务器接收待进行数据分析的第一数据。
第二数据提取模块820,根据用于进行数据分析的多个计算任务,从第一数据中提取分别适于在多个计算任务中使用的第二数据。
第二延时计算模块830,根据每个计算任务对应的第二数据的属性,确定每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对周期内所提取的对应的第二数据进行计算。在本实施例中个,每个计算任务对应的第二数据的属性包括但不限于每个计算任务对应的第二数据的类型、字段和数据量中的一种或多种。根据本实施例的技术方案,计算任务的负担除了与采用的计算策略复杂程度有关,也所采用的数据的属性有关,某些属性的数据进行计算时会带来较大的负担,所以可以基于第二数据的属性来判断是否延时进行计算任务。
计算模块840,根据多次提取的第二数据,执行多个计算任务得到多个计算结果。
根据图8,游戏厂商的服务器(第一服务器)的游戏数据(第一数据)传输到数据分析商的服务器(第二服务器)后,针对玩家上线时间分析从游戏数据中提取玩家的上线时间(第二数据),其为时间数据(类型),以及针对玩家消费金额分析从游戏数据中提取玩家购买道具消费的金额(第二数据),其为货币数据(类型)。根据以往经验,对时间数据进行运算的负担较小,所以获取玩家上线时间后实时进行计算;对货币数据进行运算的负担较大,所以获取玩家购买道具消费的金额后进行缓存,并每隔1分钟(周期)收集缓存数据进行计算。
本发明的一个实施例中的数据计算装置,其包括:
第一数据接收模块810,从外部服务器接收待进行数据分析的第一数据。
第二数据提取模块820,根据用于进行数据分析的多个计算任务,从第一数据中提取分别适于在多个计算任务中使用的第二数据。
第二延时计算模块830,根据每个计算任务对应的第二数据的属性,确定每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对周期内所提取的对应的第二数据进行计算。
第一延时计算模块还根据每个计算任务对应的第二数据的属性,计算每个计算任务在按周期进行计算时的周期的长度。在本实施例中个,每个计算任务对应的第二数据的属性包括但不限于每个计算任务对应的第二数据的类型、字段和数据量中的一种或多种。根据本实施例的技术方案,第二数据的属性不同往往造成计算任务带来的负担也不同,所以可以通过控制延时周期的长度来缓解计算任务带来的负担。
计算模块840,根据多次提取的第二数据,执行多个计算任务得到多个计算结果。
根据图8,游戏厂商的服务器(第一服务器)的游戏数据(第一数据)传输到数据分析商的服务器(第二服务器)后,针对玩家消费金额分析从游戏数据中提取玩家购买道具消费的金额(第二数据),针对玩家游戏内分布分析提取了玩家在游戏中的位置信息(第二数据);玩家购买道具消费的金额的长度小于玩家在游戏中的坐标信息的长度(数据量),所以可设置玩家消费金额分析对应的周期为1分钟,玩家游戏内分布分析对应的周期为2分钟。
本发明的一个实施例中的数据计算装置,其包括:
第一数据接收模块610,从外部服务器接收待进行数据分析的第一数据。
第二数据提取模块620,根据用于进行数据分析的多个计算任务,从第一数据中提取分别适于在多个计算任务中使用的第二数据。
计算模块630,为多个计算任务各自分配对应的资源,并使用资源并行执行多个计算任务。在本实施例中,对资源的类型不进行限制,其包括但不限于CPU和内存资源。根据本实施例的技术方案,对不同计算任务独立分配资源,并行进行计算有利于提高计算效率,且并行处理的方式下各个计算任务还不干扰,有利于随时添加新的计算任务。
根据图6,游戏厂商的服务器(第一服务器)的游戏数据(第一数据)传输到数据分析商的服务器(第二服务器)后,进行玩家消费金额分析以及玩家在游戏内分布分析(计算任务);将现有的CPU、内存(资源)分别划分出一部分用于玩家消费金额分析以及玩家在游戏内分布分析的计算。
本发明的一个实施例中的数据计算装置,其包括:
第一数据接收模块610,从外部服务器接收待进行数据分析的第一数据,并将第一数据记录在预设的日志文件中。在本实施例中,用于进行日志记录的工具较多,例如可以利用scribe工具来收集记录日志。
第二数据提取模块620,从日志文件中提取适于在多个计算任务中使用的第二数据。
计算模块630,根据多次提取的第二数据,执行多个计算任务得到多个计算结果。根据本实施例的技术方案,记录日志文件的好处在于,可以实时接收外部服务器的第一数据,并延时进行第二数据的提取,避免数据提取工作带来的负担过大。
如图9所示,本发明的一个实施例中提供了一种服务器,其包括:根据图6至图8对应的任一实施例中的数据计算装置。
根据前述实施例的可知,本实施例的服务器并不从外部服务器处直接获取适于进行不同计算任务的第二数据,而是从外部服务器获取第一数据之后再根据计算任务的不同提取第二数据,可以发现由于外部服务器上不需进行数据查找的操作,所以不影响外部服务器进行其他的工作,而接收到第一数据根据不同计算任务提取相应的第二数据,同一第一数据用于可以用于多次提取,提高了第一数据的复用程度。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的数据计算装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
A1、一种数据计算方法,其包括:
从外部服务器接收待进行数据分析的第一数据;
根据用于进行数据分析的多个计算任务,从所述第一数据中提取分别适于在所述多个计算任务中使用的第二数据;
根据多次提取的第二数据,执行所述多个计算任务得到多个计算结果。
A2、根据A1所述的数据计算方法,其中,在根据多次提取的第二数据,执行所述多个计算任务得到多个计算结果之前,还包括:
根据每个计算任务所采用的计算策略,确定所述每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对所述周期内所提取的对应的第二数据进行计算。
A3、根据A2所述的数据计算方法,其中,还包括:
根据所述每个计算任务所采用的计算策略,计算所述每个计算任务在按所述周期进行计算时的所述周期的长度。
A4、根据A1所述的数据计算方法,其中,在根据多次提取的第二数据,执行所述多个计算任务得到多个计算结果之前,还包括:
根据每个计算任务对应的第二数据的属性,确定所述每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对所述周期内所提取的对应的第二数据进行计算。
A5、根据A4所述的数据计算方法,其中,还包括:
根据所述每个计算任务对应的第二数据的属性,计算所述每个计算任务在按所述周期进行计算时的所述周期的长度。
A6、根据A4所述的数据计算方法,其中,所述每个计算任务对应的第二数据的属性包括所述每个计算任务对应的第二数据的类型、字段和数据量中的一种或多种。
A7、根据A1所述的数据计算方法,其中,执行所述多个计算任务得到多个计算结果,具体包括:
为所述多个计算任务各自分配对应的资源,并使用所述资源并行执行所述多个计算任务。
A8、根据A1至A7中任一项所述的数据计算方法,其中,从外部服务器接收待进行数据分析的第一数据,还包括:
将所述第一数据记录在预设的日志文件中;
从所述第一数据中提取分别适于在所述多个计算任务中使用的第二数据,具体包括:
从所述日志文件中提取适于在所述多个计算任务中使用的第二数据。
A9、一种数据计算装置,其包括:
第一数据接收模块,用于从外部服务器接收待进行数据分析的第一数据;
第二数据提取模块,用于根据用于进行数据分析的多个计算任务,从所述第一数据中提取分别适于在所述多个计算任务中使用的第二数据;
计算模块,用于根据多次提取的第二数据,执行所述多个计算任务得到多个计算结果。
A10、根据A9所述的数据计算装置,其中,还包括:
第一延时计算模块,用于根据每个计算任务所采用的计算策略,确定所述每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对所述周期内所提取的对应的第二数据进行计算。
A11、根据A10所述的数据计算装置,其中,还包括:
所述第一延时计算模块根据所述每个计算任务所采用的计算策略,计算所述每个计算任务在按所述周期进行计算时的所述周期的长度。
A12、根据A9所述的数据计算装置,其中,还包括:
所述第二延时计算模块根据每个计算任务对应的第二数据的属性,确定所述每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对所述周期内所提取的对应的第二数据进行计算。
A13、根据A12所述的数据计算装置,其中,还包括:
所述第二延时计算模块根据所述每个计算任务对应的第二数据的属性,计算所述每个计算任务在按所述周期进行计算时的所述周期的长度。
A14、根据A12所述的数据计算装置,其中,所述每个计算任务对应的第二数据的属性包括所述每个计算任务对应的第二数据的类型、字段和数据量中的一种或多种。
A15、根据A9所述的数据计算装置,其中,
所述计算模块为所述多个计算任务各自分配对应的资源,并使用所述资源并行执行所述多个计算任务。
A16、根据A9至A15中任一项所述的数据计算装置,其中,还包括:
日志记录模块,用于将所述第一数据记录在预设的日志文件中;
所述第二数据提取模块从所述日志文件中提取适于在所述多个计算任务中使用的第二数据。
A17、一种服务器,其包括:
A9至A16中任一项所述的数据计算装置。
Claims (10)
1.一种数据计算方法,其包括:
从外部服务器接收待进行数据分析的第一数据;
根据用于进行数据分析的多个计算任务,从所述第一数据中提取分别适于在所述多个计算任务中使用的第二数据;
根据多次提取的第二数据,执行所述多个计算任务得到多个计算结果。
2.根据权利要求1所述的数据计算方法,其中,在根据多次提取的第二数据,执行所述多个计算任务得到多个计算结果之前,还包括:
根据每个计算任务所采用的计算策略,确定所述每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对所述周期内所提取的对应的第二数据进行计算。
3.根据权利要求2所述的数据计算方法,其中,还包括:
根据所述每个计算任务所采用的计算策略,计算所述每个计算任务在按所述周期进行计算时的所述周期的长度。
4.根据权利要求1所述的数据计算方法,其中,在根据多次提取的第二数据,执行所述多个计算任务得到多个计算结果之前,还包括:
根据每个计算任务对应的第二数据的属性,确定所述每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对所述周期内所提取的对应的第二数据进行计算。
5.根据权利要求4所述的数据计算方法,其中,还包括:
根据所述每个计算任务对应的第二数据的属性,计算所述每个计算任务在按所述周期进行计算时的所述周期的长度。
6.一种数据计算装置,其包括:
第一数据接收模块,用于从外部服务器接收待进行数据分析的第一数据;
第二数据提取模块,用于根据用于进行数据分析的多个计算任务,从所述第一数据中提取分别适于在所述多个计算任务中使用的第二数据;
计算模块,用于根据多次提取的第二数据,执行所述多个计算任务得到多个计算结果。
7.根据权利要求6所述的数据计算装置,其中,还包括:
第一延时计算模块,用于根据每个计算任务所采用的计算策略,确定所述每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对所述周期内所提取的对应的第二数据进行计算。
8.根据权利要求7所述的数据计算装置,其中,还包括:
所述第一延时计算模块根据所述每个计算任务所采用的计算策略,计算所述每个计算任务在按所述周期进行计算时的所述周期的长度。
9.根据权利要求6所述的数据计算装置,其中,还包括:
所述第二延时计算模块根据每个计算任务对应的第二数据的属性,确定所述每个计算任务是在提取对应的第二数据后实时进行计算,还是在每个特定的周期过后对所述周期内所提取的对应的第二数据进行计算。
10.一种服务器,其包括:
权利要求6至9中任一项所述的数据计算装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410746446.9A CN104462368B (zh) | 2014-12-08 | 2014-12-08 | 数据计算方法、装置和服务器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410746446.9A CN104462368B (zh) | 2014-12-08 | 2014-12-08 | 数据计算方法、装置和服务器 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104462368A true CN104462368A (zh) | 2015-03-25 |
CN104462368B CN104462368B (zh) | 2018-01-05 |
Family
ID=52908403
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410746446.9A Active CN104462368B (zh) | 2014-12-08 | 2014-12-08 | 数据计算方法、装置和服务器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104462368B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109558434A (zh) * | 2018-10-19 | 2019-04-02 | 深圳点猫科技有限公司 | 一种基于教育资源平台的消费数据统计方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101854350A (zh) * | 2010-04-16 | 2010-10-06 | 北京航空航天大学 | 一种多学科协同设计信息交流平台 |
US20140019949A1 (en) * | 2012-07-10 | 2014-01-16 | Loring Craymer | Method and System for Automated Improvement of Parallelism in Program Compilation |
CN103645892A (zh) * | 2013-11-29 | 2014-03-19 | 北京奇虎科技有限公司 | 一种图片处理方法和系统 |
CN103870591A (zh) * | 2014-03-28 | 2014-06-18 | 武汉聪源科技有限责任公司 | 用于针对空间数据进行并行空间分析服务的方法及系统 |
-
2014
- 2014-12-08 CN CN201410746446.9A patent/CN104462368B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101854350A (zh) * | 2010-04-16 | 2010-10-06 | 北京航空航天大学 | 一种多学科协同设计信息交流平台 |
US20140019949A1 (en) * | 2012-07-10 | 2014-01-16 | Loring Craymer | Method and System for Automated Improvement of Parallelism in Program Compilation |
CN103645892A (zh) * | 2013-11-29 | 2014-03-19 | 北京奇虎科技有限公司 | 一种图片处理方法和系统 |
CN103870591A (zh) * | 2014-03-28 | 2014-06-18 | 武汉聪源科技有限责任公司 | 用于针对空间数据进行并行空间分析服务的方法及系统 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109558434A (zh) * | 2018-10-19 | 2019-04-02 | 深圳点猫科技有限公司 | 一种基于教育资源平台的消费数据统计方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN104462368B (zh) | 2018-01-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Ratanaworabhan et al. | {JSMeter}: Comparing the Behavior of {JavaScript} Benchmarks with Real Web Applications | |
CN1795438B (zh) | 用于跨距剖析软件应用的方法和设备 | |
Kwon et al. | Mantis: Automatic performance prediction for smartphone applications | |
CN105183592B (zh) | 用于支持性能分析的方法和装置 | |
CN109101237A (zh) | 代码的加密编译方法及装置 | |
JP6342129B2 (ja) | 混合モードプログラムのソースコードエラー位置検出装置及び方法 | |
US10754744B2 (en) | Method of estimating program speed-up in highly parallel architectures using static analysis | |
CN107704436A (zh) | 数据抽样方法、终端、设备以及计算机可读存储介质 | |
US9182956B2 (en) | Flattening conditional statements | |
CN109918296A (zh) | 软件自动化测试方法及装置 | |
KR102013657B1 (ko) | 연관된 다중 파일 정적 분석 장치 | |
CN102789377B (zh) | 处理指令分组信息的方法和装置 | |
JP5440287B2 (ja) | シンボリック実行支援プログラム、方法及び装置 | |
Sharma et al. | Hardware‐assisted instruction profiling and latency detection | |
US20150154103A1 (en) | Method and apparatus for measuring software performance | |
US8756580B2 (en) | Instance-based field affinity optimization | |
US9934006B2 (en) | Scalable code division and workflow chart | |
CN114721926A (zh) | 一种检测代码覆盖率的方法、装置、设备及存储介质 | |
CN104462368A (zh) | 数据计算方法、装置和服务器 | |
Zhu et al. | An analysis of programming language statement frequency in C, C++, and Java source code | |
CN113806231A (zh) | 一种代码覆盖率分析方法、装置、设备和介质 | |
US9798546B2 (en) | Space reduction in processor stressmark generation | |
WO2021104027A1 (zh) | 代码性能检测方法、装置、设备及存储介质 | |
US10552185B2 (en) | Lightweight and precise value profiling | |
CN112464242A (zh) | 一种网页平台漏洞采集方法、系统、终端及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right |
Effective date of registration: 20220714 Address after: Room 801, 8th floor, No. 104, floors 1-19, building 2, yard 6, Jiuxianqiao Road, Chaoyang District, Beijing 100015 Patentee after: BEIJING QIHOO TECHNOLOGY Co.,Ltd. Address before: 100088 room 112, block D, 28 new street, new street, Xicheng District, Beijing (Desheng Park) Patentee before: BEIJING QIHOO TECHNOLOGY Co.,Ltd. Patentee before: Qizhi software (Beijing) Co.,Ltd. |
|
TR01 | Transfer of patent right |