CN105391777A - 一种解耦逻辑代码与性能代码的算法托管PaaS平台 - Google Patents
一种解耦逻辑代码与性能代码的算法托管PaaS平台 Download PDFInfo
- Publication number
- CN105391777A CN105391777A CN201510713437.4A CN201510713437A CN105391777A CN 105391777 A CN105391777 A CN 105391777A CN 201510713437 A CN201510713437 A CN 201510713437A CN 105391777 A CN105391777 A CN 105391777A
- Authority
- CN
- China
- Prior art keywords
- platform
- algorithm
- code
- performance
- trustship
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
- H04L67/561—Adding application-functional data or data for application control, e.g. adding metadata
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
- H04L67/564—Enhancement of application control based on intercepted application data
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Library & Information Science (AREA)
- Stored Programmes (AREA)
Abstract
本发明涉及一种解耦逻辑代码与性能代码的算法托管PaaS平台,属于云计算技术领域。具体包括以下步骤:S1:将传统算法设计中的逻辑代码与性能代码进行解耦;S2:建立面向多角色、高可靠性的算法托管PaaS平台;S3:将平台的处理结果以接口方式提供给平台使用者,通过统一标准实现模块化服务;S4:将算法、数据分类保存,实现平台统一调度;S5:由解耦机制、模块化服务、托管平台构成算法托管PaaS平台。
Description
技术领域
本发明属于云计算技术领域,涉及一种解耦逻辑代码与性能代码的算法托管PaaS平台。
背景技术
大数据开启了一个重要的时代转型,而从技术上看,云计算与大数据是密不可分的,其分布式计算架构为大数据分析提供了良好的环境和更大的可能性。随着数据生成的自动化以及数据生成速度的加快,需要处理的数据量急剧膨胀,“大数据”已毋庸置疑成为当今研究热点。业界将大数据的特点归纳为4个“V”——Volume(数据体量大)、Variety(数据类型繁多)、Velocity(处理速度快)、Value(价值密度低)。
从海量数据中提取信息的能力正快速成为战略性的强制要求。于是,如何构建分布式的数据仓库?如何设计兼容结构化数据、半结构化和非结构化数据的数据库?如何实时并高效处理数据?这都是当下信息技术行业发展亟待解决的问题,因此,寻找更先进的数据处理解决方案,便显得尤为重要。除此之外,具有提供多种数据处理解决方案能力,并且可扩展的基础平台更是稀少而重要。
随着企业越来越重视应用程序向云技术迁移,云托管应运而生,大幅度提高企业系统的运行效率以及执行灵活性。国内著名的互联网企业都对外提供云托管服务,比如阿里云、腾讯云和百度云,以及国外的IBM和Google都拥有该项服务。但是,专门针对算法的云托管平台尚不多见,算法托管平台可以为算法提供可靠的性能保障,并且可以提供一个学习和交流的社区。
PaaS(PlatformasaService):平台即服务。PaaS是位于IaaS(InfrastructureasaService,基础设施即服务)和SaaS(SoftwareasaService,软件即服务)模型之间的一种云服务,它提供了应用程序的开发环境,可分为分布式处理,如MapReduce,JobKeeper和分布式数据库,如Hbase。IaaS主要提供云存储和虚拟化服务,而SaaS主要为用户提供基于云的应用,如以Mahout为代表的分布式数据挖掘应用。国外著名的PaaS平台包括Google公司的GoogleAppEngie,微软公司的WindowsAzure和亚马逊的AmazonElasticBeanstalk。PaaS平台解耦了开发团队和运维团队,极大的提高了效率。
传统的算法设计将算法的逻辑代码和性能代码杂糅在一起,具有高耦合性,算法设计者必须考虑性能瓶颈,否则难以在大数据背景下产出高效的算法。但是随着云计算分布式技术的日益发展,算法的设计更需要从多个切入点进行解耦,使得算法设计者可以分层设计,提高效率的同时没有提高算法设计者的技术门槛。
发明内容
有鉴于此,本发明的目的在于提供一种解耦逻辑代码与性能代码的算法托管PaaS平台,包括将传统算法设计中的逻辑代码与性能代码进行解耦;将平台的处理结果以接口方式提供给平台使用者,通过统一标准实现模块化服务;建立面向多角色、高可靠性的算法托管PaaS平台;将算法、数据分类保存,实现平台统一调度;由解耦机制、模块化服务、基础平台构成算法托管PaaS平台。
为达到上述目的,本发明提供如下技术方案:
一种解耦逻辑代码与性能代码的算法托管PaaS平台,包括以下步骤:
S1:将传统算法设计中的逻辑代码与性能代码进行解耦;
S2:建立面向多角色、高可靠性的算法托管PaaS平台;
S3:将平台的处理结果以接口方式提供给平台使用者,通过统一标准实现模块化服务;
S4:将算法、数据分类保存,实现平台统一调度;
S5:由解耦机制、模块化服务、托管平台构成算法托管PaaS平台。
进一步,在步骤S1中:
S11:将算法设计过程拆分为逻辑代码设计过程与性能代码设计过程;
S12:所述算法逻辑代码设计过程不包含算法性能设计部分;
S13:所述算法性能代码设计过程不包含专门针对算法的逻辑实现部分。
进一步,在步骤S2中:
S21:所述面向多角色、高可靠性的平台指平台的使用者包含但不限于企业、科研机构及个人,平台为使用者提供多样定制的可靠服务;
S22:所述平台的基础平台层使用Hadoop分布式集群,Java分布式集群和其他分布式架构;
S23:所述平台的性能处理包含但不限于分布式缓存、任务调度、任务分割及负载均衡;
S24:所述平台的逻辑控制在下层的支持下,进行相关研究包含但不限于机器学习,社交网络分析,推荐系统。
进一步,在步骤S3中:
S31:所述平台以统一接口的方式,提供模块化服务;
S311:所述统一接口包括算法的逻辑运行接口,处理结果的返回接口及中间过程所涉及的算法与平台的交互接口等;
S312:所述模块化服务指平台将部分重要模块以组件的方式提供给平台使用者,使用者根据自身需求从平台获取模块化服务。
进一步,在步骤S4中:
S41:所述将算法、数据分类保存,指平台提供算法、数据的上传入口,并按照规则将其保存至平台上,供随时随地使用和分享;
S42:所述平台统一调度包括平台对算法、数据的管理,审核查看权限与使用权限,实现托管服务。
本发明的有益效果在于:本发明将传统算法设计中的逻辑代码与性能代码进行解耦;将平台的处理结果以接口方式提供给平台使用者,通过统一标准实现模块化服务;建立面向多角色、高可靠性的算法托管PaaS平台;将算法、数据分类保存,实现平台统一调度。
附图说明
为了使本发明的目的、技术方案和有益效果更加清楚,本发明提供如下附图进行说明:
图1为本发明划分的一种解耦逻辑代码与性能代码的算法托管PaaS平台的层次图;
图2为本发明的一种解耦逻辑代码与性能代码的算法托管PaaS平台总体结构图。
具体实施方式
下面将结合附图,对本发明的优选实施例进行详细的描述。
本发明定义了一种解耦逻辑代码与性能代码的算法托管PaaS平台,包含如下内容:将传统算法设计中的逻辑代码与性能代码进行解耦;将平台的处理结果以接口方式提供给平台使用者,通过统一标准实现模块化服务;建立面向多角色、高可靠性的算法托管PaaS平台;将算法、数据分类保存,实现平台统一调度;由解耦机制、模块化服务、基础平台构成算法托管PaaS平台。其中包括:
1、基础平台层:通过分布式集群为系统提供物理承载平台,是为算法提供可靠的性能保障的基础。
2、性能处理层:数据主要包括流式数据和批量数据,通过对数据进行多样化处理,对任务进行调度和保证系统负载均衡,是平台的核心模块之一。
3、逻辑控制层:包括各种数据分析算法,为上层应用提供在线服务,是平台的核心模块之二。
4、可视化应用层:基于算法托管PaaS平台的上层应用,即通过统一接口实现可视化应用对算法的调用,并产生具有价值的计算结果。
如图1所示为本发明所划分的解耦逻辑代码与性能代码的算法托管PaaS平台层次图,本发明定义该层次为:性能代码层、逻辑代码层、应用层,其中:
性能代码层:一种解耦逻辑代码与性能代码的算法托管PaaS平台的底层。由分布式组件、底层调用者完成。提供解耦的性能开发接口,包括分布式开发、内存检测、负载均衡、任务调度与分割、分布式缓存等。
逻辑代码层:一种解耦逻辑代码与性能代码的算法托管PaaS平台的中层。由平台的算法逻辑业务开发者完成。为底层和顶层分别提供接口,提供多样化的在线数据分析算法。将下层所提供的接口封装为服务接口,提供调用。
应用层:一种解耦逻辑代码与性能代码的算法托管PaaS平台的顶层。由平台的使用者即软件开发人员开发完成。提供数据、算法驱动的分析模块。通过调用逻辑代码层提供的接口,实现底层解耦的算法分析模块化服务。
如图2所示为一种解耦逻辑代码与性能代码的算法托管PaaS平台的总体结构图,其包括如下层次及模块:
1.基础平台层:通过分布式集群为系统提供物理承载平台,是为算法提供可靠的性能保障的基础。包含基本的硬件、基本的网络结构,和基本的数据存储,主要由分布式集群为依托,如Hadoop集群,Java分布式集群和其他分布式架构等。
2.性能处理层:数据主要包括流式数据和批量数据,通过对数据进行多样化处理,对任务进行合理调度和保证系统负载均衡。
21:流式数据指处理的数据不是一次全部到来而是一点一点“流”过来,可减少内存的消耗。批量数据在特定场景下可减少请求次数,提高效率。
22:性能处理层提供弹性的数据处理方法,支持但不仅限于分布式数据缓存、任务分割、任务调度和负载均衡等。
3.逻辑控制层:数据分析算法,包括多种可实现的算法和基于算法接口提供的在线服务。
31:通过调用下层标准接口和利用本层标准接口,实现各算法的全部逻辑部分,并且可以通过平台监控算法运行的实时进度,保存中间结果以及返回异常原因。高效实现算法对比和逻辑调优。
32:平台提供全天全功能覆盖的在线服务,降低了科学实验的技术门槛。同时也可根据上层应用的需求,定制基于算法的模块化服务。
4:一种解耦逻辑代码与性能代码的算法托管PaaS平台总体结构图是解耦逻辑代码与性能代码的算法托管PaaS平台发明的一项具体实现。一种解耦逻辑代码与性能代码的算法托管PaaS平台具体解释为如结构图所示的一种将原有算法设计过程解耦为算法性能代码开发、算法逻辑代码开发两个步骤,并建立扩展的算法托管PaaS平台。
最后说明的是,以上优选实施例仅用以说明本发明的技术方案而非限制,尽管通过上述优选实施例已经对本发明进行了详细的描述,但本领域技术人员应当理解,可以在形式上和细节上对其作出各种各样的改变,而不偏离本发明权利要求书所限定的范围。
Claims (5)
1.一种解耦逻辑代码与性能代码的算法托管PaaS平台,其特征在于:包括以下步骤:
S1:将传统算法设计中的逻辑代码与性能代码进行解耦;
S2:建立面向多角色、高可靠性的算法托管PaaS平台;
S3:将平台的处理结果以接口方式提供给平台使用者,通过统一标准实现模块化服务;
S4:将算法、数据分类保存,实现平台统一调度;
S5:由解耦机制、模块化服务、托管平台构成算法托管PaaS平台。
2.根据权利要求1所述的一种解耦逻辑代码与性能代码的算法托管PaaS平台,其特征在于:在步骤S1中:
S11:将算法设计过程拆分为逻辑代码设计过程与性能代码设计过程;
S12:所述算法逻辑代码设计过程不包含算法性能设计部分;
S13:所述算法性能代码设计过程不包含专门针对算法的逻辑实现部分。
3.根据权利要求1所述的一种解耦逻辑代码与性能代码的算法托管PaaS平台,其特征在于:在步骤S2中:
S21:所述面向多角色、高可靠性的平台指平台的使用者包含但不限于企业、科研机构及个人,平台为使用者提供多样定制的可靠服务;
S22:所述平台的基础平台层使用Hadoop分布式集群,Java分布式集群和其他分布式架构;
S23:所述平台的性能处理包含但不限于分布式缓存、任务调度、任务分割及负载均衡;
S24:所述平台的逻辑控制在下层的支持下,进行相关研究包含但不限于机器学习,社交网络分析,推荐系统。
4.根据权利要求1所述的一种解耦逻辑代码与性能代码的算法托管PaaS平台,其特征在于:在步骤S3中:
S31:所述平台以统一接口的方式,提供模块化服务;
S311:所述统一接口包括算法的逻辑运行接口,处理结果的返回接口及中间过程所涉及的算法与平台的交互接口等;
S312:所述模块化服务指平台将部分重要模块以组件的方式提供给平台使用者,使用者根据自身需求从平台获取模块化服务。
5.根据权利要求1所述的一种解耦逻辑代码与性能代码的算法托管PaaS平台,其特征在于:在步骤S4中:
S41:所述将算法、数据分类保存,指平台提供算法、数据的上传入口,并按照规则将其保存至平台上,供随时随地使用和分享;
S42:所述平台统一调度包括平台对算法、数据的管理,审核查看权限与使用权限,实现托管服务。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510713437.4A CN105391777A (zh) | 2015-10-28 | 2015-10-28 | 一种解耦逻辑代码与性能代码的算法托管PaaS平台 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510713437.4A CN105391777A (zh) | 2015-10-28 | 2015-10-28 | 一种解耦逻辑代码与性能代码的算法托管PaaS平台 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN105391777A true CN105391777A (zh) | 2016-03-09 |
Family
ID=55423607
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510713437.4A Pending CN105391777A (zh) | 2015-10-28 | 2015-10-28 | 一种解耦逻辑代码与性能代码的算法托管PaaS平台 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105391777A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105787117A (zh) * | 2016-03-28 | 2016-07-20 | 广东三盟信息科技有限公司 | 一种云计算环境下大数据节点的自动部署方法及其装置 |
CN105930460A (zh) * | 2016-04-21 | 2016-09-07 | 重庆邮电大学 | 一种集成多算法的大数据分析中间件平台 |
CN107273138A (zh) * | 2017-07-04 | 2017-10-20 | 杭州铜板街互联网金融信息服务有限公司 | 基于Android业务模块间交互的解耦方法和系统 |
CN107862038A (zh) * | 2017-11-04 | 2018-03-30 | 公安部第三研究所 | 一种解耦web客户端与大数据挖掘分析的数据挖掘平台及实现方法 |
CN110457817A (zh) * | 2019-08-09 | 2019-11-15 | 祁鹏远 | 基于计算机逻辑算法自动生成建筑设计方案的方法及操作平台 |
CN112464088A (zh) * | 2020-11-24 | 2021-03-09 | 上海哔哩哔哩科技有限公司 | 推荐请求响应方法、装置及推荐系统开发方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103259843A (zh) * | 2013-03-22 | 2013-08-21 | 嘉兴安尚云信软件有限公司 | 一个智能化PaaS云计算平台系统 |
CN103369038A (zh) * | 2013-07-03 | 2013-10-23 | 中国联合网络通信集团有限公司 | 平台即服务PaaS管理平台及方法 |
CN103699425A (zh) * | 2013-09-26 | 2014-04-02 | 武汉中地数码科技有限公司 | 一种基于云计算的软件t/c/v架构及其云计算方法 |
-
2015
- 2015-10-28 CN CN201510713437.4A patent/CN105391777A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103259843A (zh) * | 2013-03-22 | 2013-08-21 | 嘉兴安尚云信软件有限公司 | 一个智能化PaaS云计算平台系统 |
CN103369038A (zh) * | 2013-07-03 | 2013-10-23 | 中国联合网络通信集团有限公司 | 平台即服务PaaS管理平台及方法 |
CN103699425A (zh) * | 2013-09-26 | 2014-04-02 | 武汉中地数码科技有限公司 | 一种基于云计算的软件t/c/v架构及其云计算方法 |
Non-Patent Citations (1)
Title |
---|
曾述青: "基于PaaS平台电信互联网融合业务的研究", 《中国优秀硕士学位论文全文数据库信息科技辑》 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105787117A (zh) * | 2016-03-28 | 2016-07-20 | 广东三盟信息科技有限公司 | 一种云计算环境下大数据节点的自动部署方法及其装置 |
CN105930460A (zh) * | 2016-04-21 | 2016-09-07 | 重庆邮电大学 | 一种集成多算法的大数据分析中间件平台 |
CN107273138A (zh) * | 2017-07-04 | 2017-10-20 | 杭州铜板街互联网金融信息服务有限公司 | 基于Android业务模块间交互的解耦方法和系统 |
CN107862038A (zh) * | 2017-11-04 | 2018-03-30 | 公安部第三研究所 | 一种解耦web客户端与大数据挖掘分析的数据挖掘平台及实现方法 |
CN107862038B (zh) * | 2017-11-04 | 2022-01-21 | 公安部第三研究所 | 一种解耦web客户端与大数据挖掘分析的数据挖掘平台及实现方法 |
CN110457817A (zh) * | 2019-08-09 | 2019-11-15 | 祁鹏远 | 基于计算机逻辑算法自动生成建筑设计方案的方法及操作平台 |
CN112464088A (zh) * | 2020-11-24 | 2021-03-09 | 上海哔哩哔哩科技有限公司 | 推荐请求响应方法、装置及推荐系统开发方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20210097080A1 (en) | Managed query service | |
CN105391777A (zh) | 一种解耦逻辑代码与性能代码的算法托管PaaS平台 | |
Zicari | Big data: Challenges and opportunities | |
JP6523354B2 (ja) | 改善されたインターフェースを備えるステートマシンビルダー及び状態非依存イベントの処理 | |
Barika et al. | Orchestrating big data analysis workflows in the cloud: research challenges, survey, and future directions | |
US10754704B2 (en) | Cluster load balancing based on assessment of future loading | |
CN104036025A (zh) | 一种基于分布式的海量日志采集系统 | |
CN103425762A (zh) | 基于Hadoop平台的电信运营商海量数据处理方法 | |
Costa et al. | The SusCity big data warehousing approach for smart cities | |
CN103051714A (zh) | 一种水利云平台的实现方法 | |
CN113407649A (zh) | 数据仓库建模方法、装置、电子设备及存储介质 | |
US10944814B1 (en) | Independent resource scheduling for distributed data processing programs | |
CN104299170B (zh) | 间歇性能源海量数据处理方法 | |
US11294901B1 (en) | Isolating the performance of functions included in queries | |
US11042530B2 (en) | Data processing with nullable schema information | |
Chang et al. | Development of multiple big data analytics platforms with rapid response | |
Liu et al. | Survey of big data platform based on cloud computing container technology | |
Lang et al. | Design of A Cloud Native-Based Integrated Management Platform for Smart Operation of Multi-Business Buildings | |
Yang | [Retracted] Intelligent Analysis of Logistics Information Based on Dynamic Network Data | |
Sun et al. | Design of Distributed Human Resource Management System of Spark Framework Based on Fuzzy Clustering | |
Ai et al. | A scene analysis model for water resources big data | |
CN107885834A (zh) | 一种Hadoop大数据组件统一验证系统 | |
Kulshrestha et al. | Analyze the future: cloud computing, a new phase in information technology infrastructure management | |
Estrada et al. | Big Data, Big Solutions | |
Mishra et al. | The role of grid technologies: a next level combat with big data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
AD01 | Patent right deemed abandoned | ||
AD01 | Patent right deemed abandoned |
Effective date of abandoning: 20190531 |