CN105868554A - 一种基于大数据复杂运算的接力计算方法 - Google Patents
一种基于大数据复杂运算的接力计算方法 Download PDFInfo
- Publication number
- CN105868554A CN105868554A CN201610184695.2A CN201610184695A CN105868554A CN 105868554 A CN105868554 A CN 105868554A CN 201610184695 A CN201610184695 A CN 201610184695A CN 105868554 A CN105868554 A CN 105868554A
- Authority
- CN
- China
- Prior art keywords
- data
- computing
- request
- big data
- web server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16Z—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS, NOT OTHERWISE PROVIDED FOR
- G16Z99/00—Subject matter not provided for in other main groups of this subclass
Landscapes
- Information Transfer Between Computers (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明涉及一种基于大数据复杂运算的接力计算方法,其特征在于,所述方法包括计算机系统经过动态分配,将数据提取、规范、简单运算放在数据库访问端完成;之后将半成品结果传递给Web服务器,由Web服务器的专门研制的运算处理模块利用Web服务器的硬件资源进一步处理数据,完成大数据基本的计算任务;之后,将S2中未完成格式化的数据传递给客户端,由客户端采用先进的客户端控件,利用JS客户端程序完成最后简单合并、相加减、截取、过滤的计算,以及对数据进行格式显示、图表展示、排序、着重显示、关联突出处理。该方法避免了一般处理软件会造成的处理瓶颈,也大大减少甚至消除了一处的运算和处理接近满负荷或积压,而另外两处却等待或闲置的状况。
Description
技术领域
本发明涉及计算机大数据运算方法技术领域,具体涉及一种基于大数据复杂运算的接力计算方法。
背景技术
随着网络的大规模普及和发展,越来越多的企业、社区、学校等部门都应用了如人力资源数据管理软件。这些软件分布独立运作,保障了人力资源的合理分配,提供了辅助决策信息和追溯管理凭据。因此,自动分析数据异常信息,实时查询上层数据,以提高人力资源管理的智能性,是当前人力资源管理领域备受关注前沿技术,拥有巨大市场需求。
一个微型企事业单位的数据网络,最少也包括数百个数据。这些数据一般通过多通道采集的方式,集中采集到企事业单位的数据网络服务器中,并作为企事业单位管理的最小管理单元,为保障企事业单位的人力资源管理提供了有力保障。而一个地区往往包括数百个这样的企事业单位,一个行政片区又包括多个地区。简单来说,一个中等规模的行政片区拥有数万个最小数据管理单元,以及上百万兆的人力资源管理数据。同时这些最小管理单元相互独立,彼此间信息并不互联,一旦发生异常情况,如何能够快速地从查询目标,是企事业单位人力资源管理网络的一个极具挑战的问题。
在实际应用中,多数智能服务器的管理方法针对位置固定的单一企事业单位,但是企事业单位的管理数据本身具有局限性,当发现异常查询处理。
针对大数据的复杂运算,一般处理软件会造成在数据库端、Web服务器端或客户端之一的处理瓶颈,往往使得一处的运算和处理接近满负荷或积压,而另外两处却等待或闲置,大大影响系统的整体速度和性能
发明内容
本发明的目的在于克服现有技术中的缺陷,提供一种将大数据量的复杂运算过程分解,使每一层负担一部分处理和运算任务,在给用户显示前处理完成的基于大数据复杂运算的接力计算方法。
为实现上述目的,本发明所采用的技术方案是:
一种基于大数据复杂运算的接力计算方法,其特征在于,所述方法包括如下计算步骤:
S1:计算机系统经过动态分配,将数据提取、规范、简单运算放在数据库访问端完成;
S2:之后将半成品结果传递给Web服务器,由Web服务器的专门研制的运算处理模块利用Web服务器的硬件资源进一步处理数据,完成大数据基本的计算任务;
S3:之后,将S2中未完成格式化的数据传递给客户端,由客户端采用先进的客户端控件,利用JS客户端程序完成最后简单合并、相加减、截取、过滤的计算,以及对数据进行格式显示、图表展示、排序、着重显示、关联突出处理。
其中优选的技术方案是,所述S1中的动态分配是将分配器传来的数据访问交由系列计算器完成,计算器将判数据量的大小,根据数据量大小决定进行完整运算还是进行初运算。
优选的技术方案还有,所述计算器将判断数据量的大小的过程包括分配器的数据请求,所述包括有不含运算的请求、复杂运算的请求和简单运算的请求,其中不含运算的请求经由直接快速插叙运算的数据处理输出传送到上层,复杂运算的请求经由进行读取,仅做初步运算,传输到上级的数据处理输出传送到上层,简单运算的请求经由立即计算的数据处理输出传送到上层。
进一步优选的技术方案是,所述S2中的Web服务器中采用分配层和迭代运算层逻辑运算,其算层逻辑运算的过程包括:接收客户端原始运算请求,原始运算请求发往数据库服务器,由数据库服务器完成数据提取和初步运算,然后转交层叠运算器并提交运算,将未完成运算的数据交层叠运算器进一步运算,层叠运算器完成主要运算后,将运算结果输出提交到客户端。
本发明的优点和有益效果在于:所述基于大数据复杂运算的接力计算方法是计针对大数据的复杂运算逻辑与实现步骤,该方法避免了一般处理软件会造成在数据库端、Web服务器端或客户端之一的处理瓶颈,也大大减少甚至消除了一处的运算和处理接近满负荷或积压,而另外两处却等待或闲置的状况,大大影响系统的整体速度和性能。该设计的思路为将大数据量的复杂运算过程分解,使每一层负担一部分处理和运算任务,在给用户显示前处理完成。
所述基于大数据复杂运算的接力计算方法由上面的步骤可知,计算机系统经过动态分配,将数据提取、规范、简单运算放在数据库访问端完成。之后将半成品结果传递给Web服务器,Web服务器的专门研制的运算处理模块利用Web服务器的硬件资源进一步处理数据,完成大数据基本的计算任务。这时的数据已经基本完成计算任务,之后,将这些未完成格式化的数据传递给客户端,客户端采用先进的客户端控件,利用JS客户端程序完成最后的计算(简单合并、相加减、截取、过滤等)以及对数据进行格式显示、图表展示、排序、着重显示、关联突出等的处理。从而完成一整套从大数据的提取、赛选,到最后的为客户展示等整个过程。经实测运行效果理想,成果已经集成到我们开发的应用软件。
附图说明
图1是本发明基于大数据复杂运算的接力计算方法的流程图;
图2是本发明基于大数据复杂运算的接力计算方法中数据库服务层的基本逻辑框图;
图3是本发明基于大数据复杂运算的接力计算方法中Web服务分配层及迭代运算层的总体设计逻辑框图。
具体实施方式
下面结合附图和实施例,对本发明的具体实施方式作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案,而不能以此来限制本发明的保护范围。
如附图1所示:本发明是一种基于大数据复杂运算的接力计算方法,其特征在于,所述方法包括如下计算步骤:
S1:计算机系统经过动态分配,将数据提取、规范、简单运算放在数据库访问端完成;
S2:之后将半成品结果传递给Web服务器,由Web服务器的专门研制的运算处理模块利用Web服务器的硬件资源进一步处理数据,完成大数据基本的计算任务;
S3:之后,将S2中未完成格式化的数据传递给客户端,由客户端采用先进的客户端控件,利用JS客户端程序完成最后简单合并、相加减、截取、过滤的计算,以及对数据进行格式显示、图表展示、排序、着重显示、关联突出处理。从而完成一整套从大数据的提取、赛选,到最后的为客户展示等整个过程,经实测运行效果理想。
本发明优选的实施方案是,所述S1中的动态分配是将分配器传来的数据访问交由系列计算器完成,计算器将判数据量的大小,根据数据量大小决定进行完整运算还是进行初运算。
如附图2所示:本发明进一步优选的实施方案是,所述计算器将判数据量的大小的过程包括分配器的数据请求,所述包括有不含运算的请求、复杂运算的请求和简单运算的请求,其中不含运算的请求经由直接快速插叙运算的数据处理输出传送到上层,复杂运算的请求经由进行读取,仅做初步运算,传输到上级的数据处理输出传送到上层,简单运算的请求经由立即计算的数据处理输出传送到上层。
如附图3所示:本发明优选的实施方案还有,所述S2中的Web服务器中采用分配层和迭代运算层逻辑运算,其算层逻辑运算的过程包括:接收客户端原始运算请求,原始运算请求发往数据库服务器,由数据库服务器完成数据提取和初步运算,然后转交层叠运算器并提交运算,将未完成运算的数据交层叠运算器进一步运算,层叠运算器完成主要运算后,将运算结果输出提交到客户端。
该基于大数据复杂运算的接力计算方法是针对大数据的复杂运算逻辑与实现步骤,该方法避免了一般处理软件会造成在数据库端、Web服务器端或客户端之一的处理瓶颈,也大大减少甚至消除了一处的运算和处理接近满负荷或积压,而另外两处却等待或闲置的状况,大大影响系统的整体速度和性能。该设计的思路为将大数据量的复杂运算过程分解,使每一层负担一部分处理和运算任务,在给用户显示前处理完成。
所述基于大数据复杂运算的接力计算方法由上面的步骤可知,计算机系统经过动态分配,将数据提取、规范、简单运算放在数据库访问端完成。之后将半成品结果传递给Web服务器,Web服务器的专门研制的运算处理模块利用Web服务器的硬件资源进一步处理数据,完成大数据基本的计算任务。这时的数据已经基本完成计算任务,之后,将这些未完成格式化的数据传递给客户端,客户端采用先进的客户端控件,利用JS客户端程序完成最后的计算(简单合并、相加减、截取、过滤等)以及对数据进行格式显示、图表展示、排序、着重显示、关联突出等的处理。从而完成一整套从大数据的提取、赛选,到最后的为客户展示等整个过程。经实测运行效果理想,成果已经集成到我们开发的应用软件。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (4)
1.一种基于大数据复杂运算的接力计算方法,其特征在于,所述方法包括如下计算步骤:
S1:计算机系统经过动态分配,将数据提取、规范、简单运算放在数据库访问端完成;
S2:之后将半成品结果传递给Web服务器,由Web服务器的专门研制的运算处理模块利用Web服务器的硬件资源进一步处理数据,完成大数据基本的计算任务;
S3:之后,将S2中未完成格式化的数据传递给客户端,由客户端采用先进的客户端控件,利用JS客户端程序完成最后简单合并、相加减、截取、过滤的计算,以及对数据进行格式显示、图表展示、排序、着重显示、关联突出处理。
2.如权利要求1所述的基于大数据复杂运算的接力计算方法,其特征在于,所述S1中的动态分配是将分配器传来的数据访问交由系列计算器完成,计算器将判数据量的大小,根据数据量大小决定进行完整运算还是进行初运算。
3.如权利要求2所述的基于大数据复杂运算的接力计算方法,其特征在于,所述计算器将判数据量的大小的过程包括分配器的数据请求,所述包括有不含运算的请求、复杂运算的请求和简单运算的请求,其中不含运算的请求经由直接快速插叙运算的数据处理输出传送到上层,复杂运算的请求经由进行读取,仅做初步运算,传输到级上的数据处理输出传送到上层,简单运算的请求经由立即计算的数据处理输出传送到上层。
4.如权利要求1所述的基于大数据复杂运算的接力计算方法,其特征在于,所述S2中的Web服务器中采用分配层和迭代运算层逻辑运算,其算层逻辑运算的过程包括:接收客户端原始运算请求,原始运算请求发往数据库服务器,由数据库服务器完成数据提取和初步运算,然后转交层叠运算器并提交运算,将未完成运算的数据交层叠运算器进一步运算,层叠运算器完成主要运算后,将运算结果输出提交到客户端。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610184695.2A CN105868554B (zh) | 2016-03-28 | 2016-03-28 | 一种基于大数据复杂运算的接力计算方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610184695.2A CN105868554B (zh) | 2016-03-28 | 2016-03-28 | 一种基于大数据复杂运算的接力计算方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105868554A true CN105868554A (zh) | 2016-08-17 |
CN105868554B CN105868554B (zh) | 2018-03-27 |
Family
ID=56626181
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610184695.2A Active CN105868554B (zh) | 2016-03-28 | 2016-03-28 | 一种基于大数据复杂运算的接力计算方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105868554B (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020023117A1 (en) * | 2000-05-31 | 2002-02-21 | James Bernardin | Redundancy-based methods, apparatus and articles-of-manufacture for providing improved quality-of-service in an always-live distributed computing environment |
CN1591319A (zh) * | 2003-12-03 | 2005-03-09 | 威盛电子股份有限公司 | 以Booth算法为基础的乘法运算方法与乘法装置 |
CN1614604A (zh) * | 2003-11-03 | 2005-05-11 | 鸿富锦精密工业(深圳)有限公司 | 库存查询系统及方法 |
CN101252451A (zh) * | 2008-03-22 | 2008-08-27 | 桂林电子科技大学 | 保证服务质量的Web服务器系统请求区分服务方法与中间件 |
CN101373474A (zh) * | 2008-09-02 | 2009-02-25 | 北京开拓天际信息技术有限公司 | 海量数据实时处理架构及用于该架构的实时随需处理平台 |
US7725430B2 (en) * | 2004-12-28 | 2010-05-25 | Fujitsu Limited | High-speed information processing by coordination of information processing resources apparatus, including method, and computer-readable recording medium thereof |
CN102646223A (zh) * | 2012-02-17 | 2012-08-22 | 中国电力科学研究院 | 一种多人异地并行计算系统 |
CN103336748A (zh) * | 2013-05-31 | 2013-10-02 | 北京中创信测科技股份有限公司 | 智能计算机系统及在其中运行的方法 |
-
2016
- 2016-03-28 CN CN201610184695.2A patent/CN105868554B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020023117A1 (en) * | 2000-05-31 | 2002-02-21 | James Bernardin | Redundancy-based methods, apparatus and articles-of-manufacture for providing improved quality-of-service in an always-live distributed computing environment |
CN1614604A (zh) * | 2003-11-03 | 2005-05-11 | 鸿富锦精密工业(深圳)有限公司 | 库存查询系统及方法 |
CN1591319A (zh) * | 2003-12-03 | 2005-03-09 | 威盛电子股份有限公司 | 以Booth算法为基础的乘法运算方法与乘法装置 |
US7725430B2 (en) * | 2004-12-28 | 2010-05-25 | Fujitsu Limited | High-speed information processing by coordination of information processing resources apparatus, including method, and computer-readable recording medium thereof |
CN101252451A (zh) * | 2008-03-22 | 2008-08-27 | 桂林电子科技大学 | 保证服务质量的Web服务器系统请求区分服务方法与中间件 |
CN101373474A (zh) * | 2008-09-02 | 2009-02-25 | 北京开拓天际信息技术有限公司 | 海量数据实时处理架构及用于该架构的实时随需处理平台 |
CN102646223A (zh) * | 2012-02-17 | 2012-08-22 | 中国电力科学研究院 | 一种多人异地并行计算系统 |
CN103336748A (zh) * | 2013-05-31 | 2013-10-02 | 北京中创信测科技股份有限公司 | 智能计算机系统及在其中运行的方法 |
Non-Patent Citations (1)
Title |
---|
黄荔: "基于客户/中间服务器/数据库服务器的三层结构", 《兵工自动化》 * |
Also Published As
Publication number | Publication date |
---|---|
CN105868554B (zh) | 2018-03-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6801938B1 (en) | Segmentation and processing of continuous data streams using transactional semantics | |
US8521871B2 (en) | System and method for merging monitoring data streams from a server and a client of the server | |
US8156172B2 (en) | Monitoring and reporting enterprise data using a message-based data exchange | |
US20080270403A1 (en) | Segmentation and processing of continuous data streams using transactional semantics | |
CN105631026A (zh) | 一种安全数据分析系统 | |
CN104036139B (zh) | 一种移动对象轨迹监测方法 | |
CN102404126A (zh) | 一种云计算在应用过程中的收费方法 | |
CN110019194B (zh) | 数据核对方法、装置、计算机设备及存储介质 | |
CN112330412B (zh) | 一种产品推荐方法、装置、计算机设备及存储介质 | |
CN105069926A (zh) | 一种柜面业务自助化实现方法 | |
CN116108934B (zh) | 联邦学习系统、联邦学习方法和装置 | |
CN107645410A (zh) | 一种基于OpenStack云平台的虚拟机管理系统及方法 | |
CN106251114B (zh) | 应用中实现审批的方法和装置 | |
CN109558397A (zh) | 一种数据处理方法、装置、服务器及计算机存储介质 | |
CN108615189A (zh) | 一种基于区块链数据协同处理的方法 | |
CN109739992A (zh) | 一种获取关联信息的方法及终端 | |
CN106355489A (zh) | 一种面向管理的数据中心系统及数据处理方法 | |
CN106909492B (zh) | 业务数据的追踪方法及装置 | |
CN109615172A (zh) | 一种处理考核数据的方法及终端 | |
CN106296522A (zh) | 一种基于大数据的医院排队查询方法 | |
CN107302583A (zh) | 一种基于Kylo实现数据集成的自动化运营管理方法 | |
CN105138656A (zh) | 一种处理数据的方法及装置 | |
CN114021005A (zh) | 网点信息查询方法、装置、设备及存储介质 | |
CN107292602A (zh) | 一种避免利息损失的转账方法及系统 | |
CN105868554A (zh) | 一种基于大数据复杂运算的接力计算方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |