CN105208095A - 过滤服务的部署推荐装置和方法 - Google Patents
过滤服务的部署推荐装置和方法 Download PDFInfo
- Publication number
- CN105208095A CN105208095A CN201510520381.0A CN201510520381A CN105208095A CN 105208095 A CN105208095 A CN 105208095A CN 201510520381 A CN201510520381 A CN 201510520381A CN 105208095 A CN105208095 A CN 105208095A
- Authority
- CN
- China
- Prior art keywords
- configuration
- deployment
- resource
- filtering services
- service
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/2866—Architectures; Arrangements
- H04L67/30—Profiles
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Stored Programmes (AREA)
Abstract
本发明提供了一种过滤服务的部署推荐装置,包括:分布式引擎配置单元,用于定义分布式计算引擎的服务类型,完成部署脚本的部署;算法库配置单元,用于定义算法库的类型,完成分布式计算引擎集群配置资源的算法配置;过滤服务推荐单元,用于定义推荐过滤服务的服务类型,完成部署脚本的部署;服务绑定单元,用于基于过滤服务集群配置资源的部署,调用生命周期过程的绑定脚本;应用装置部署时,推荐过滤服务绑定给应用装置,进行服务之间的绑定。本发明还提供了一种过滤服务的部署推荐方法。通过本发明的技术方案,可以在现有的过滤服务部署推荐方式基础上,建立多对象类型参与的面向复杂类型的过滤服务部署推荐的通用、统一部署推荐思路。
Description
技术领域
本发明涉及计算机技术领域,具体地,涉及一种过滤服务的部署推荐装置和一种过滤服务的部署推荐方法。
背景技术
云计算作为信息技术领域的一种创新模式,因其低成本、弹性、按需付费等特点引发了新一轮的商业模式变革,已经成为一种技术应用新常态。在互联网紧急浪潮席卷下,竞争激烈的市场和快速发展的业务也对云计算服务提出更高的要求,越来越多的企业需要面临应用数据从百万级、千万级甚至更多的变化,在这个过程中,需要有效配置云计算资源,既保障业务需要,同时又满足经济利益。PaaS是Platform-as-a-Service的缩写,意思是平台即服务。把服务平台作为一种服务提供的商业模式。而云计算时代相应的服务平台作为服务进行提供就成了PaaS(PlatformasaService)。PaaS平台是由不同的提供基础服务能力的服务和应用组合而成。这种组合是一种节约资源且实现资源最佳组合的平台。
随着PaaS平台的发展,越来越多、越来越大的应用部署在PaaS平台上,由于数据产生的自动化进步,越来越多的应用要求将这些数量持续增长的数据流持久化保存下来,并进行后续的查询分析和数据挖掘,这对PaaS平台的海量数据的管理提出了严峻的挑战,PaaS平台下的大数据处理问题孕育而生。
因此,需要一种新的过滤服务部署推荐技术,可以在现有的过滤服务部署推荐方式基础上,充分利用单对象类型完成多对象类型的过滤服务部署推荐,建立多对象类型参与的面向复杂类型的过滤服务部署推荐的通用、统一部署推荐思路。
发明内容
本发明正是基于上述问题,提出了一种新的过滤服务部署推荐技术,可以在现有的过滤服务部署推荐方式基础上,充分利用单对象类型完成多对象类型的过滤服务部署推荐,建立多对象类型参与的面向复杂类型的过滤服务部署推荐的通用、统一部署推荐思路。
有鉴于此,本发明提出了一种过滤服务的部署推荐装置,包括:分布式引擎配置单元,用于定义分布式计算引擎的服务类型,基于该服务类型生成分布式计算引擎的拓扑结构,通过对该拓扑结构的处理完成对分布式计算引擎集群配置资源的调整,基于对分布式计算引擎集群配置资源的调整结果完成部署脚本的部署;算法库配置单元,用于定义算法库的类型,根据算法库类型,完成分布式计算引擎集群配置资源的算法配置;过滤服务推荐单元,用于定义推荐过滤服务的服务类型,基于该服务类型完成对过滤服务集群配置资源的调整,基于对过滤服务集群配置资源的调整结果完成部署脚本的部署;服务绑定单元,用于基于过滤服务集群配置资源的部署,调用生命周期过程的绑定脚本;应用装置部署时,基于调用的绑定脚本,推荐过滤服务绑定给应用装置,进行服务之间的绑定;绑定完成后,应用装置获取到推荐过滤服务的环境信息,完成相应的服务调用。在该技术方案中,通过部署特定的分布式集群,作为推荐过滤任务的计算基础设施,完成对推荐过滤的执行任务,高效省时。
在上述技术方案中,优选地,所述分布式引擎配置单元,具体包括:分布式计算引擎定义模块,用于定义分布式计算引擎的服务类型,该服务类型包括在元数据中指定服务实例的配置项,该配置项包括集群节点是否对等、所需软件、监控配置及弹性配置信息;分布式计算引擎拓扑结构生成模块,用于基于定义的服务类型,根据用户的实际请求,生成分布式计算引擎集群的拓扑结构;该拓扑结构包含主从节点分布情况;分布式计算引擎资源调整模块,用于解析拓扑结构所需的虚机资源,进行资源探测并调整集群配置,对调整好的集群配置进行保存;分布式计算引擎应用仓库部署模块,用于基于调整好的集群配置,部署一个应用仓库,用于存放软件安装介质和相关配置脚本;执行部署时,从服务器下载服务相关的配置文件,解析出需要安装的软件;从应用仓库下载相关安装介质和配置脚本,完成软件安装;执行部署脚本完成部署。在该技术方案中,可以支持独占和共享的模式,资源利用率高。
在上述技术方案中,优选地,所述算法库配置单元,具体包括:算法库类型定义模块,用于定义算法库的类型,该类型包括在元数据中指定算法的配置项,该配置项包括算法类型、采用的分布式引擎类型;部署脚本部署模块,用于基于定义的算法库的类型,将配置项保存在控制服务器;在服务部署时将配置项下载到对应的节点上,并下载服务相关的配置文件,执行部署脚本完对算法的配置;进一步地,所述分布式计算引擎资源调整模块解析所得虚机资源,包括网络、端口、内存;和/或,所述分布式计算引擎资源调整模块调整集群配置的操作包括:如果存在资源冲突,则调整集群配置,直到不存在资源冲突为止;如果拓扑结构中定义了主从结构,则自动将第一个节点设置为主节点;和/或,所述分布式计算引擎资源调整模块保存的集群配置,包括所有集群节点的全部信息,该集群配置在服务或应用部署时会被下载到对应的节点上。在该技术方案中,可以对推荐过滤框架进行扩展,对算法库进行扩展,同时还可以对推荐服务的提供方式进行扩展。
在上述技术方案中,优选地,所述过滤服务推荐单元,具体包括:过滤服务定义模块,用于定义推荐过滤服务的服务类型,该服务类型包括在元数据中指定服务实例的配置项,该配置项包括支持的算法库、支持的分布式引擎范围、数据源类型、资源规模限制;资源解析及调整模块,用于基于定义的推荐过滤服务的的服务类型,解析所需的资源,进行资源探测并调整;将调整好的集群配置进行保存,以在服务部署时将保存的集群配置下载到对应的节点上;过滤服务应用仓库部署模块,用于基于调整好的集群配置,分解部署任务,下载服务相关的配置文件,解析出需要安装的软件;并下载相关安装介质和配置脚本,完成软件安装;基于安装的软件,解析出所需要的算法,下载相关的算法到服务节点,并进行算法参数配置,执行部署脚本完成部署。在该技术方案中,可以对现有的应用无需做大的改动,只需调用通用的服务调用,即可获得推荐过滤服务。
在上述技术方案中,优选地,所述服务绑定单元,具体包括:绑定脚本调用模块,用于基于算法的配置,调用生命周期过程的绑定脚本;推荐过滤服务绑定模块,用于应用装置部署时,基于调用的绑定脚本,将过滤服务绑定给应用装置,进行绑定;服务调用模块,用于绑定完成后,应用装置获取到推荐过滤服务的环境信息,完成服务调用;进一步地,所述资源解析及调整模块解析所得资源,包括网络、端口、内存;和/或,所述资源解析及调整模块解析所得资源调整集群配置的操作包括:如果冲突,则进行调整,直到不冲突为止。在该技术方案中,可以采用分布式推荐过滤引擎支持有主从结构,能够适用目前绝大多数计算装置。
根据本发明的又一个方面,还提出了一种过滤服务的部署推荐方法,包括:步骤202:定义分布式计算引擎的服务类型,基于该服务类型生成分布式计算引擎的拓扑结构,通过对该拓扑结构的处理完成对分布式计算引擎集群配置资源的调整,基于对分布式计算引擎集群配置资源的调整结果完成部署脚本的部署;步骤204:定义算法库的类型,根据算法库类型,完成分布式计算引擎集群配置资源的算法配置;步骤206:定义推荐过滤服务的服务类型,基于该服务类型完成对过滤服务集群配置资源的调整,基于对过滤服务集群配置资源的调整结果完成部署脚本的部署;步骤208:基于过滤服务集群配置资源的部署,调用生命周期过程的绑定脚本;应用装置部署时,基于调用的绑定脚本,推荐过滤服务绑定给应用装置,进行服务之间的绑定;绑定完成后,应用装置获取到推荐过滤服务的环境信息,完成相应的服务调用。在该技术方案中,通过部署特定的分布式集群,作为推荐过滤任务的计算基础设施,完成对推荐过滤的执行任务,高效省时。
在上述技术方案中,优选地,所述步骤202,具体包括:步骤302:定义分布式计算引擎的服务类型,该服务类型包括在元数据中指定服务实例的配置项,该配置项包括集群节点是否对等、所需软件、监控配置及弹性配置信息;步骤304:基于定义的服务类型,根据用户的实际请求,生成分布式计算引擎集群的拓扑结构;该拓扑结构包含主从节点分布情况;步骤306:解析拓扑结构所需的虚机资源,进行资源探测并调整集群配置,对调整好的集群配置进行保存;步骤308:基于调整好的集群配置,部署一个应用仓库,用于存放软件安装介质和相关配置脚本;执行部署时,从服务器下载服务相关的配置文件,解析出需要安装的软件;从应用仓库下载相关安装介质和配置脚本,完成软件安装;执行部署脚本完成部署。在该技术方案中,可以支持独占和共享的模式,资源利用率高。
在上述技术方案中,优选地,所述步骤204,具体包括:步骤402:定义算法库的类型,该类型包括在元数据中指定算法的配置项,该配置项包括算法类型、采用的分布式引擎类型;步骤404:基于定义的算法库的类型,将配置项保存在控制服务器;在服务部署时将配置项下载到对应的节点上,并下载服务相关的配置文件,执行部署脚本完对算法的配置;进一步地,所述步骤306解析所得虚机资源,包括网络、端口、内存;和/或,所述分布式计算引擎资源调整模块调整集群配置的操作包括:如果存在资源冲突,则调整集群配置,直到不存在资源冲突为止;如果拓扑结构中定义了主从结构,则自动将第一个节点设置为主节点;和/或,所述步骤306保存的集群配置,包括所有集群节点的全部信息,该集群配置在服务或应用部署时会被下载到对应的节点上。在该技术方案中,可以对推荐过滤框架进行扩展,对算法库进行扩展,同时还可以对推荐服务的提供方式进行扩展。
在上述技术方案中,优选地,所述步骤206,具体包括:步骤502:定义推荐过滤服务的服务类型,该服务类型包括在元数据中指定服务实例的配置项,该配置项包括支持的算法库、支持的分布式引擎范围、数据源类型、资源规模限制;步骤504:基于定义的推荐过滤服务的的服务类型,解析所需的资源,进行资源探测并调整;将调整好的集群配置进行保存,以在服务部署时将保存的集群配置下载到对应的节点上;步骤506:基于调整好的集群配置,分解部署任务,下载服务相关的配置文件,解析出需要安装的软件;并下载相关安装介质和配置脚本,完成软件安装;基于安装的软件,解析出所需要的算法,下载相关的算法到服务节点,并进行算法参数配置,执行部署脚本完成部署。在该技术方案中,可以对现有的应用无需做大的改动,只需调用通用的服务调用,即可获得推荐过滤服务。
在上述技术方案中,优选地,所述步骤208,具体包括:步骤602:基于算法的配置,调用生命周期过程的绑定脚本;步骤604:应用装置部署时,基于调用的绑定脚本,将过滤服务绑定给应用装置,进行绑定;步骤606:绑定完成后,应用装置获取到推荐过滤服务的环境信息,完成服务调用;进一步地,所述步骤504解析所得资源,包括网络、端口、内存;和/或,所述步骤504解析所得资源调整集群配置的操作包括:如果冲突,则进行调整,直到不冲突为止。在该技术方案中,可以采用分布式推荐过滤引擎支持有主从结构,能够适用目前绝大多数计算装置。
通过以上技术方案,可以在现有的过滤服务部署推荐方式基础上,充分利用单对象类型完成多对象类型的过滤服务部署推荐,建立多对象类型参与的面向复杂类型的过滤服务部署推荐的通用、统一部署推荐思路。
附图说明
图1示出了根据本发明的实施例的过滤服务的部署推荐装置的框图;
图2示出了根据本发明的实施例的过滤服务的部署推荐方法的流程图;
图3示出了根据本发明的实施例的分布式引擎配置单元的原理示意图;
图4示出了根据本发明的实施例的算法库配置单元的原理示意图;
图5示出了根据本发明的实施例的过滤服务推荐单元的原理示意图;
图6示出了根据本发明的实施例的服务绑定单元的流程图;
图7示出了根据本发明的实施例的推荐过滤服务供应的原理图;
图8示出了根据本发明的实施例的部署方法与过程的流程图;
图9示出了根据本发明的实施例的部署完成后拓扑结构图。
具体实施方式
为了能够更清楚地理解本发明的上述目的、特征和优点,下面结合附图和具体实施方式对本发明进行进一步的详细描述。需要说明的是,在不冲突的情况下,本申请的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是,本发明还可以采用其他不同于在此描述的其他方式来实施,因此,本发明的保护范围并不受下面公开的具体实施例的限制。
图1示出了根据本发明的实施例的过滤服务的部署推荐装置的框图。
如图1所示,根据本发明的实施例的过滤服务的部署推荐装置100,包括:分布式引擎配置单元102,用于定义分布式计算引擎的服务类型,基于该服务类型生成分布式计算引擎的拓扑结构,通过对该拓扑结构的处理完成对分布式计算引擎集群配置资源的调整,基于对分布式计算引擎集群配置资源的调整结果完成部署脚本的部署;算法库配置单元104,用于定义算法库的类型,根据算法库类型,完成分布式计算引擎集群配置资源的算法配置;过滤服务推荐单元106,用于定义推荐过滤服务的服务类型,基于该服务类型完成对过滤服务集群配置资源的调整,基于对过滤服务集群配置资源的调整结果完成部署脚本的部署;服务绑定单元108,用于基于过滤服务集群配置资源的部署,调用生命周期过程的绑定脚本;应用装置部署时,基于调用的绑定脚本,推荐过滤服务绑定给应用装置,进行服务之间的绑定;绑定完成后,应用装置获取到推荐过滤服务的环境信息,完成相应的服务调用。在该技术方案中,通过部署特定的分布式集群,作为推荐过滤任务的计算基础设施,完成对推荐过滤的执行任务,高效省时。
在上述技术方案中,优选地,分布式引擎配置单元102,具体包括:分布式计算引擎定义模块1022,用于定义分布式计算引擎的服务类型,该服务类型包括在元数据中指定服务实例的配置项,该配置项包括集群节点是否对等、所需软件、监控配置及弹性配置信息;分布式计算引擎拓扑结构生成模块1024,用于基于定义的服务类型,根据用户的实际请求,生成分布式计算引擎集群的拓扑结构;该拓扑结构包含主从节点分布情况;分布式计算引擎资源调整模块1026,用于解析拓扑结构所需的虚机资源,进行资源探测并调整集群配置,对调整好的集群配置进行保存;分布式计算引擎应用仓库部署模块1028,用于基于调整好的集群配置,部署一个应用仓库,用于存放软件安装介质和相关配置脚本;执行部署时,从服务器下载服务相关的配置文件,解析出需要安装的软件;从应用仓库下载相关安装介质和配置脚本,完成软件安装;执行部署脚本完成部署。在该技术方案中,可以支持独占和共享的模式,资源利用率高。
在上述技术方案中,优选地,算法库配置单元104,具体包括:算法库类型定义模块1042,用于定义算法库的类型,该类型包括在元数据中指定算法的配置项,该配置项包括算法类型、采用的分布式引擎类型;部署脚本部署模块1044,用于基于定义的算法库的类型,将配置项保存在控制服务器;在服务部署时将配置项下载到对应的节点上,并下载服务相关的配置文件,执行部署脚本完对算法的配置;进一步地,分布式计算引擎资源调整模块1026解析所得虚机资源,包括网络、端口、内存;和/或,分布式计算引擎资源调整模块1026调整集群配置的操作包括:如果存在资源冲突,则调整集群配置,直到不存在资源冲突为止;如果拓扑结构中定义了主从结构,则自动将第一个节点设置为主节点;和/或,分布式计算引擎资源调整模块1026保存的集群配置,包括所有集群节点的全部信息,该集群配置在服务或应用部署时会被下载到对应的节点上。在该技术方案中,可以对推荐过滤框架进行扩展,对算法库进行扩展,同时还可以对推荐服务的提供方式进行扩展。
在上述技术方案中,优选地,过滤服务推荐单元106,具体包括:过滤服务定义模块1062,用于定义推荐过滤服务的服务类型,该服务类型包括在元数据中指定服务实例的配置项,该配置项包括支持的算法库、支持的分布式引擎范围、数据源类型、资源规模限制;资源解析及调整模块1064,用于基于定义的推荐过滤服务的的服务类型,解析所需的资源,进行资源探测并调整;将调整好的集群配置进行保存,以在服务部署时将保存的集群配置下载到对应的节点上;过滤服务应用仓库部署模块1066,用于基于调整好的集群配置,分解部署任务,下载服务相关的配置文件,解析出需要安装的软件;并下载相关安装介质和配置脚本,完成软件安装;基于安装的软件,解析出所需要的算法,下载相关的算法到服务节点,并进行算法参数配置,执行部署脚本完成部署。在该技术方案中,可以对现有的应用无需做大的改动,只需调用通用的服务调用,即可获得推荐过滤服务。
在上述技术方案中,优选地,服务绑定单元108,具体包括:绑定脚本调用模块1082,用于基于算法的配置,调用生命周期过程的绑定脚本;推荐过滤服务绑定模块1084,用于应用装置部署时,基于调用的绑定脚本,将过滤服务绑定给应用装置,进行绑定;服务调用模块1086,用于绑定完成后,应用装置获取到推荐过滤服务的环境信息,完成服务调用;进一步地,资源解析及调整模块1064解析所得资源,包括网络、端口、内存;和/或,资源解析及调整模块1064解析所得资源调整集群配置的操作包括:如果冲突,则进行调整,直到不冲突为止。在该技术方案中,可以采用分布式推荐过滤引擎支持有主从结构,能够适用目前绝大多数计算装置。
图2示出了根据本发明的实施例的过滤服务的部署推荐方法的流程图。
如图2所示,根据本发明的实施例的过滤服务的部署推荐方法,包括:步骤202:定义分布式计算引擎的服务类型,基于该服务类型生成分布式计算引擎的拓扑结构,通过对该拓扑结构的处理完成对分布式计算引擎集群配置资源的调整,基于对分布式计算引擎集群配置资源的调整结果完成部署脚本的部署;步骤204:定义算法库的类型,根据算法库类型,完成分布式计算引擎集群配置资源的算法配置;步骤206:定义推荐过滤服务的服务类型,基于该服务类型完成对过滤服务集群配置资源的调整,基于对过滤服务集群配置资源的调整结果完成部署脚本的部署;步骤208:基于过滤服务集群配置资源的部署,调用生命周期过程的绑定脚本;应用装置部署时,基于调用的绑定脚本,推荐过滤服务绑定给应用装置,进行服务之间的绑定;绑定完成后,应用装置获取到推荐过滤服务的环境信息,完成相应的服务调用。在该技术方案中,通过部署特定的分布式集群,作为推荐过滤任务的计算基础设施,完成对推荐过滤的执行任务,高效省时。
在上述技术方案中,优选地,参见图3,步骤202,具体包括:步骤302:定义分布式计算引擎的服务类型,该服务类型包括在元数据中指定服务实例的配置项,该配置项包括集群节点是否对等、所需软件、监控配置及弹性配置信息;步骤304:基于定义的服务类型,根据用户的实际请求,生成分布式计算引擎集群的拓扑结构;该拓扑结构包含主从节点分布情况;步骤306:解析拓扑结构所需的虚机资源,进行资源探测并调整集群配置,对调整好的集群配置进行保存;步骤308:基于调整好的集群配置,部署一个应用仓库,用于存放软件安装介质和相关配置脚本;执行部署时,从服务器下载服务相关的配置文件,解析出需要安装的软件;从应用仓库下载相关安装介质和配置脚本,完成软件安装;执行部署脚本完成部署。在该技术方案中,可以支持独占和共享的模式,资源利用率高。
在上述技术方案中,优选地,参见图4,步骤204,具体包括:步骤402:定义算法库的类型,该类型包括在元数据中指定算法的配置项,该配置项包括算法类型、采用的分布式引擎类型;步骤404:基于定义的算法库的类型,将配置项保存在控制服务器;在服务部署时将配置项下载到对应的节点上,并下载服务相关的配置文件,执行部署脚本完对算法的配置;进一步地,步骤306解析所得虚机资源,包括网络、端口、内存;和/或,分布式计算引擎资源调整模块调整集群配置的操作包括:如果存在资源冲突,则调整集群配置,直到不存在资源冲突为止;如果拓扑结构中定义了主从结构,则自动将第一个节点设置为主节点;和/或,步骤306保存的集群配置,包括所有集群节点的全部信息,该集群配置在服务或应用部署时会被下载到对应的节点上。在该技术方案中,可以对推荐过滤框架进行扩展,对算法库进行扩展,同时还可以对推荐服务的提供方式进行扩展。
在上述技术方案中,优选地,参见图5,步骤206,具体包括:步骤502:定义推荐过滤服务的服务类型,该服务类型包括在元数据中指定服务实例的配置项,该配置项包括支持的算法库、支持的分布式引擎范围、数据源类型、资源规模限制;步骤504:基于定义的推荐过滤服务的的服务类型,解析所需的资源,进行资源探测并调整;将调整好的集群配置进行保存,以在服务部署时将保存的集群配置下载到对应的节点上;步骤506:基于调整好的集群配置,分解部署任务,下载服务相关的配置文件,解析出需要安装的软件;并下载相关安装介质和配置脚本,完成软件安装;基于安装的软件,解析出所需要的算法,下载相关的算法到服务节点,并进行算法参数配置,执行部署脚本完成部署。在该技术方案中,可以对现有的应用无需做大的改动,只需调用通用的服务调用,即可获得推荐过滤服务。
在上述技术方案中,优选地,参见图6,步骤208,具体包括:步骤602:基于算法的配置,调用生命周期过程的绑定脚本;步骤604:应用装置部署时,基于调用的绑定脚本,将过滤服务绑定给应用装置,进行绑定;步骤606:绑定完成后,应用装置获取到推荐过滤服务的环境信息,完成服务调用;进一步地,步骤504解析所得资源,包括网络、端口、内存;和/或,步骤504解析所得资源调整集群配置的操作包括:如果冲突,则进行调整,直到不冲突为止。在该技术方案中,可以采用分布式推荐过滤引擎支持有主从结构,能够适用目前绝大多数计算装置。
本发明涉及一种基于云计算的服务供应方法和装置,具体涉及一种PaaS平台供应推荐过滤服务的方法(即一种PaaS平台部署推荐过滤服务的方法)和装置。综上,本发明提出了一种在PaaS云平台中供应推荐过滤服务的方法和装置,能够有效解决现有技术中存在的问题。
本发明的目的旨在设计一种方法和装置,实现PaaS平台中供应推荐过滤服务。在PaaS平台上,应用装置能够方便的获得推荐过滤服务。推荐过滤服务提供者能够发布新的应用服务类型。本发明具有普适性,进行优化升级后可适用于其它的大数据服务。
本发明技术方案中的设计:
通过部署特定的分布式集群,作为推荐过滤任务的计算基础设施,完成对推荐过滤的执行任务。可扩展的算法库,提供了对行业数据的业务处理算法和策略,应用装置可以根据需要进行选择使用。推荐过滤服务通过通用的接口调用的方式提供,应用装置无需对现有的程序框架进行大的改造和重构,即可享用推荐过滤分析的成果。本发明包含如下模块:
⑴平台组件:支持对非对等的集群的生命周期管理,服务及应用之间的绑定和依赖,可以监控并基于负载情况进行弹性伸缩。
⑵分布式引擎:负责推荐过滤任务处理过程的调度、执行,是一个分布式集群。
⑶推荐过滤算法库:提供各种推荐过滤的算法,支持算法的扩展。算法支持运行在不同分布式引擎中。
推荐过滤服务供应:提供推荐过滤服务,为应用程序提供服务接口,按照应用的需求向分布式引擎提交计算任务,并返回计算结果。提供数据源的转化功能,根据不同数据来源进行适配,以满足计算的需要。参见图7。
本发明技术方案中的角色分配,本发明包含如下角色:
⑴平台管理员:对PaaS平台的基础设施进行初始化设置,包括计算资源、IaaS适配、监控和弹性伸缩的参数等。
⑵推荐过滤算法提供者:对不同应用领域按照某种需求进行处理,并提供出能在分布式装置中运行的处理算法。如基于物品、基于用户、基于评分等
⑶分布式引擎提供者:提供分布式调度、执行的计算框架,或者对现有开源框架进行符合PaaS平台生命周期过程的包装。如Hadoop、Spark、ElasticSearch等。
⑷推荐过滤服务提供者:针对不同业务和数据,提供推荐过滤处理的服务类型,给应用装置使用。推荐过滤服务依赖算法库和分布式计算引擎。
⑸应用提供者:提供业务装置给最终的用户使用,应用依赖推荐过滤服务。应用提供者通过PaaS平台发布开发好的应用装置。
本发明技术方案中的部署方法与过程:根据应用配置,分解成不同等级的部署任务并执行,所有完成后发布应用。参见图8。
⑴分布式引擎
定义分布式计算引擎的服务类型,其中在元数据中指定了服务实例的配置项,包括集群节点是否对等、所需软件、监控配置及弹性配置信息。
PaaS平台根据实际请求,生成分布式计算引擎集群的拓扑结构。拓扑结构包含主从节点分布情况。PasS服务器解析拓扑结构所需的虚机资源,进行资源探测,如网络、端口、内存等,如果冲突,则进行调整,直到不冲突为止。如果定义了主从结构,自动将第一个节点设置为主节点。将调整好的集群配置保存在PaaS平台的控制服务器。配置信息包含了所有集群节点的全部信息,该配置信息在服务或应用部署时会被下载到对应的节点上,因此每个节点都能够获取所有集群节点的信息。
分解成部署任务,并发送给Agent执行。部署一个应用仓库,作为PaaS平台的软件源服务器,用于存放软件安装介质和相关配置脚本。Agent从PaaS控制服务器下载服务相关的配置文件,解析出需要安装的软件。从应用仓库下载相关安装介质和配置脚本,完成软件安装。执行部署脚本完成部署。如果是非对等结构,集群的弹性伸缩只针对从节点。
⑵算法库
定义算法库的类型,元数据指定了算法的配置项,包括算法类型、采用的分布式引擎类型等。
PaaS平台将配置信息保存在控制服务器。该配置信息在服务部署时会被下载到对应的节点上。部署任务发送给Agent执行。Agent从PaaS服务器下载服务相关的配置文件,执行部署脚本完对算法的配置。
⑶推荐过滤服务
定义推荐过滤服务的服务类型,元数据指定了服务实例的配置项,包括支持的算法库、支持的分布式引擎范围、数据源类型、资源规模限制等。
PaaS平台解析所需的资源,进行资源探测,如网络、端口、内存等,如果冲突,则进行调整,直到不冲突为止。将调整好的集群配置保存在PaaS控制服务器。该配置信息在服务部署时会被下载到对应的节点上。
分解部署任务并发送给Agent执行。Agent从PaaS控制服务器下载服务相关的配置文件,解析出需要安装的软件。从应用仓库下载相关安装介质和配置脚本,完成软件安装。解析出所需要的算法,从应用仓库下载相关的算法到服务节点,并进行算法参数配置。最后执行部署脚本完成部署。
⑷绑定服务
通过调用生命周期过程的绑定脚本,完成服务之间的绑定。此过程发生在绑定双方创建完成之后。具体地,应用装置部署时,会将推荐过滤服务绑定给应用装置,绑定完成后,应用装置能够获取到推荐过滤服务的环境信息,从而可以完成服务调用。
本发明技术方案中的弹性伸缩:
分布式引擎承担着主要的计算任务,推荐过滤的数据模型建立、用户相似度、物品相似度的计算等,都在计算引擎中完成。本发明中,分布式引擎可以作为共享服务,也可以作为独占服务提供。无论哪种方式,分布式引擎在不同时刻所需的资源不尽相同,为了最大效率的利用资源,并且能够满足计算能力,所以PaaS平台要最大化的支持集群的的弹性伸缩。
⑴PaaS平台组件定期的收集监控数据,并交由Redis进行存储。收集模块从Redis中获取数据。分析引擎则读取数据并根据规则进行分析,生成分析报告,并依据分析报告确定伸缩。
⑵当满足了收缩条件时,PaaS服务器会收缩分布式引擎集群规模以节省资源。PaaS服务器发送销毁命令给服务器所在Agent,调用脚本完成服务的销毁。修改应用的配置文件,并通知所有集群节点进行更新。主节点不会作为收缩对象。
⑶当满足了扩张条件时,PaaS服务器会扩张应用集群规模以满足业务需求。PaaS服务器发送销创建任务给服务器所在Agent,调用脚本完成服务的创建和部署。修改应用的配置文件,并通知所有集群节点进行更新。
本发明的技术方案以电商装置为例,阐述本发明的其中一种实施场景。
⑴定义分布式引擎服务类型:Hadoop、Spark。Hadoop和Spark定位与分布式任务的调度和执行。
⑵定义算法库:Mahout、MLlib,提供机器学习算法。
⑶定义推荐过滤服务的服务类型:推荐服务(cf)。推荐服务支持的分布式引擎为Hadoop和Spark,算法支持Mahout。
⑷部署ec应用,包括中间件服务(mw1-vm2),数据库服务(db1)和负载均衡服务(lb1),同时还有推荐服务。
部署完成后拓扑结构如图9所示。ec应用装置通过推荐服务计算出客户可能感兴趣的商品,给客户推荐。
与现有技术相比,本发明的技术方案具有以下特点:
⑴分布式推荐过滤引擎支持有主从结构,能够适用目前绝大多数计算装置。
⑵能够对推荐过滤服务集群进行监控,并根据压力情况实现弹性伸缩。
⑶能够对推荐过滤框架进行扩展,对算法库进行扩展,同时还可以对推荐服务的提供方式进行扩展。
⑷松耦合架构,对现有的应用无需做大的改动,只需调用通用的服务调用,即可获得推荐过滤服务。
⑸推荐过滤引擎支持独占和共享的模式,资源利用率高。
本发明的技术方案,提供了推荐过滤服务基于PaaS平台的供应方法,具有普适性,进行优化和润色后可以适用于其它的机器学习服务,甚至大数据服务。
以上结合附图详细说明了本发明的技术方案,考虑到相关技术中没有简便的、统一的针对复杂类型元数据过滤服务部署推荐的解决办法。现有的过滤服务部署推荐无法完成有复杂类型参与的过滤服务部署推荐过程。因此,本发明提出了一种过滤服务的部署推荐装置和一种过滤服务的部署推荐方法,可以在现有的过滤服务部署推荐方式基础上,充分利用单对象类型完成多对象类型的过滤服务部署推荐,建立多对象类型参与的面向复杂类型的过滤服务部署推荐的通用、统一部署推荐思路。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种过滤服务的部署推荐装置,其特征在于,包括:
分布式引擎配置单元,用于定义分布式计算引擎的服务类型,基于该服务类型生成分布式计算引擎的拓扑结构,通过对该拓扑结构的处理完成对分布式计算引擎集群配置资源的调整,基于对分布式计算引擎集群配置资源的调整结果完成部署脚本的部署;
算法库配置单元,用于定义算法库的类型,根据算法库类型,完成分布式计算引擎集群配置资源的算法配置;
过滤服务推荐单元,用于定义推荐过滤服务的服务类型,基于该服务类型完成对过滤服务集群配置资源的调整,基于对过滤服务集群配置资源的调整结果完成部署脚本的部署;
服务绑定单元,用于基于过滤服务集群配置资源的部署,调用生命周期过程的绑定脚本;应用装置部署时,基于调用的绑定脚本,推荐过滤服务绑定给应用装置,进行服务之间的绑定;绑定完成后,应用装置获取到推荐过滤服务的环境信息,完成相应的服务调用。
2.根据权利要求1所述的过滤服务的部署推荐装置,其特征在于,所述分布式引擎配置单元,具体包括:
分布式计算引擎定义模块,用于定义分布式计算引擎的服务类型,该服务类型包括在元数据中指定服务实例的配置项,该配置项包括集群节点是否对等、所需软件、监控配置及弹性配置信息;
分布式计算引擎拓扑结构生成模块,用于基于定义的服务类型,根据用户的实际请求,生成分布式计算引擎集群的拓扑结构;该拓扑结构包含主从节点分布情况;
分布式计算引擎资源调整模块,用于解析拓扑结构所需的虚机资源,进行资源探测并调整集群配置,对调整好的集群配置进行保存;
分布式计算引擎应用仓库部署模块,用于基于调整好的集群配置,部署一个应用仓库,用于存放软件安装介质和相关配置脚本;执行部署时,从服务器下载服务相关的配置文件,解析出需要安装的软件;从应用仓库下载相关安装介质和配置脚本,完成软件安装;执行部署脚本完成部署。
3.根据权利要求2所述的过滤服务的部署推荐装置,其特征在于,所述算法库配置单元,具体包括:
算法库类型定义模块,用于定义算法库的类型,该类型包括在元数据中指定算法的配置项,该配置项包括算法类型、采用的分布式引擎类型;
部署脚本部署模块,用于基于定义的算法库的类型,将配置项保存在控制服务器;在服务部署时将配置项下载到对应的节点上,并下载服务相关的配置文件,执行部署脚本完对算法的配置;
进一步地,
所述分布式计算引擎资源调整模块解析所得虚机资源,包括网络、端口、内存;和/或,
所述分布式计算引擎资源调整模块调整集群配置的操作包括:如果存在资源冲突,则调整集群配置,直到不存在资源冲突为止;如果拓扑结构中定义了主从结构,则自动将第一个节点设置为主节点;和/或,
所述分布式计算引擎资源调整模块保存的集群配置,包括所有集群节点的全部信息,该集群配置在服务或应用部署时会被下载到对应的节点上。
4.根据权利要求1-3中任一项所述的过滤服务的部署推荐装置,其特征在于,所述过滤服务推荐单元,具体包括:
过滤服务定义模块,用于定义推荐过滤服务的服务类型,该服务类型包括在元数据中指定服务实例的配置项,该配置项包括支持的算法库、支持的分布式引擎范围、数据源类型、资源规模限制;
资源解析及调整模块,用于基于定义的推荐过滤服务的的服务类型,解析所需的资源,进行资源探测并调整;将调整好的集群配置进行保存,以在服务部署时将保存的集群配置下载到对应的节点上;
过滤服务应用仓库部署模块,用于基于调整好的集群配置,分解部署任务,下载服务相关的配置文件,解析出需要安装的软件;并下载相关安装介质和配置脚本,完成软件安装;基于安装的软件,解析出所需要的算法,下载相关的算法到服务节点,并进行算法参数配置,执行部署脚本完成部署。
5.根据权利要求4所述的过滤服务的部署推荐装置,其特征在于,所述服务绑定单元,具体包括:
绑定脚本调用模块,用于基于算法的配置,调用生命周期过程的绑定脚本;
推荐过滤服务绑定模块,用于应用装置部署时,基于调用的绑定脚本,将过滤服务绑定给应用装置,进行绑定;
服务调用模块,用于绑定完成后,应用装置获取到推荐过滤服务的环境信息,完成服务调用;
进一步地,
所述资源解析及调整模块解析所得资源,包括网络、端口、内存;和/或,
所述资源解析及调整模块解析所得资源调整集群配置的操作包括:如果冲突,则进行调整,直到不冲突为止。
6.一种过滤服务的部署推荐方法,其特征在于,包括:
步骤202:定义分布式计算引擎的服务类型,基于该服务类型生成分布式计算引擎的拓扑结构,通过对该拓扑结构的处理完成对分布式计算引擎集群配置资源的调整,基于对分布式计算引擎集群配置资源的调整结果完成部署脚本的部署;
步骤204:定义算法库的类型,根据算法库类型,完成分布式计算引擎集群配置资源的算法配置;
步骤206:定义推荐过滤服务的服务类型,基于该服务类型完成对过滤服务集群配置资源的调整,基于对过滤服务集群配置资源的调整结果完成部署脚本的部署;
步骤208:基于过滤服务集群配置资源的部署,调用生命周期过程的绑定脚本;应用装置部署时,基于调用的绑定脚本,推荐过滤服务绑定给应用装置,进行服务之间的绑定;绑定完成后,应用装置获取到推荐过滤服务的环境信息,完成相应的服务调用。
7.根据权利要求6所述的过滤服务的部署推荐方法,其特征在于,所述步骤202,具体包括:
步骤302:定义分布式计算引擎的服务类型,该服务类型包括在元数据中指定服务实例的配置项,该配置项包括集群节点是否对等、所需软件、监控配置及弹性配置信息;
步骤304:基于定义的服务类型,根据用户的实际请求,生成分布式计算引擎集群的拓扑结构;该拓扑结构包含主从节点分布情况;
步骤306:解析拓扑结构所需的虚机资源,进行资源探测并调整集群配置,对调整好的集群配置进行保存;
步骤308:基于调整好的集群配置,部署一个应用仓库,用于存放软件安装介质和相关配置脚本;执行部署时,从服务器下载服务相关的配置文件,解析出需要安装的软件;从应用仓库下载相关安装介质和配置脚本,完成软件安装;执行部署脚本完成部署。
8.根据权利要求7所述的过滤服务的部署推荐方法,其特征在于,所述步骤204,具体包括:
步骤402:定义算法库的类型,该类型包括在元数据中指定算法的配置项,该配置项包括算法类型、采用的分布式引擎类型;
步骤404:基于定义的算法库的类型,将配置项保存在控制服务器;在服务部署时将配置项下载到对应的节点上,并下载服务相关的配置文件,执行部署脚本完对算法的配置;
进一步地,
所述步骤306解析所得虚机资源,包括网络、端口、内存;和/或,
所述分布式计算引擎资源调整模块调整集群配置的操作包括:如果存在资源冲突,则调整集群配置,直到不存在资源冲突为止;如果拓扑结构中定义了主从结构,则自动将第一个节点设置为主节点;和/或,
所述步骤306保存的集群配置,包括所有集群节点的全部信息,该集群配置在服务或应用部署时会被下载到对应的节点上。
9.根据权利要求6-8中任一项所述的过滤服务的部署推荐方法,其特征在于,所述步骤206,具体包括:
步骤502:定义推荐过滤服务的服务类型,该服务类型包括在元数据中指定服务实例的配置项,该配置项包括支持的算法库、支持的分布式引擎范围、数据源类型、资源规模限制;
步骤504:基于定义的推荐过滤服务的的服务类型,解析所需的资源,进行资源探测并调整;将调整好的集群配置进行保存,以在服务部署时将保存的集群配置下载到对应的节点上;
步骤506:基于调整好的集群配置,分解部署任务,下载服务相关的配置文件,解析出需要安装的软件;并下载相关安装介质和配置脚本,完成软件安装;基于安装的软件,解析出所需要的算法,下载相关的算法到服务节点,并进行算法参数配置,执行部署脚本完成部署。
10.根据权利要求9所述的过滤服务的部署推荐方法,其特征在于,所述步骤208,具体包括:
步骤602:基于算法的配置,调用生命周期过程的绑定脚本;
步骤604:应用装置部署时,基于调用的绑定脚本,将过滤服务绑定给应用装置,进行绑定;
步骤606:绑定完成后,应用装置获取到推荐过滤服务的环境信息,完成服务调用;
进一步地,
所述步骤504解析所得资源,包括网络、端口、内存;和/或,
所述步骤504解析所得资源调整集群配置的操作包括:如果冲突,则进行调整,直到不冲突为止。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510520381.0A CN105208095B (zh) | 2015-08-24 | 2015-08-24 | 过滤服务的部署推荐装置和方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510520381.0A CN105208095B (zh) | 2015-08-24 | 2015-08-24 | 过滤服务的部署推荐装置和方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105208095A true CN105208095A (zh) | 2015-12-30 |
CN105208095B CN105208095B (zh) | 2018-12-14 |
Family
ID=54955519
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510520381.0A Active CN105208095B (zh) | 2015-08-24 | 2015-08-24 | 过滤服务的部署推荐装置和方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105208095B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110704749A (zh) * | 2019-10-16 | 2020-01-17 | 网易(杭州)网络有限公司 | 推荐引擎定制系统、推荐方法及推荐系统、电子设备 |
CN111222046A (zh) * | 2020-01-03 | 2020-06-02 | 腾讯科技(深圳)有限公司 | 服务配置方法、用于服务配置的客户端、设备及电子设备 |
CN113204352A (zh) * | 2021-06-07 | 2021-08-03 | 中国银行股份有限公司 | 应用部署方法、目标服务器、调度引擎及分布式系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103281306A (zh) * | 2013-05-03 | 2013-09-04 | 四川省电力公司信息通信公司 | 云数据中心虚拟化基础架构平台 |
US20140012995A1 (en) * | 2011-03-11 | 2014-01-09 | Huawei Technologies Co., Ltd. | Resource management method, resource management system and resource manager |
CN103716372A (zh) * | 2013-11-22 | 2014-04-09 | 浙江大学 | 一种数字图书馆即服务的云计算平台构建方法 |
CN103731495A (zh) * | 2013-12-31 | 2014-04-16 | 曙光云计算技术有限公司 | Paas平台的扩展和收缩资源池的资源数量的方法和系统 |
-
2015
- 2015-08-24 CN CN201510520381.0A patent/CN105208095B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140012995A1 (en) * | 2011-03-11 | 2014-01-09 | Huawei Technologies Co., Ltd. | Resource management method, resource management system and resource manager |
CN103281306A (zh) * | 2013-05-03 | 2013-09-04 | 四川省电力公司信息通信公司 | 云数据中心虚拟化基础架构平台 |
CN103716372A (zh) * | 2013-11-22 | 2014-04-09 | 浙江大学 | 一种数字图书馆即服务的云计算平台构建方法 |
CN103731495A (zh) * | 2013-12-31 | 2014-04-16 | 曙光云计算技术有限公司 | Paas平台的扩展和收缩资源池的资源数量的方法和系统 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110704749A (zh) * | 2019-10-16 | 2020-01-17 | 网易(杭州)网络有限公司 | 推荐引擎定制系统、推荐方法及推荐系统、电子设备 |
CN110704749B (zh) * | 2019-10-16 | 2022-07-12 | 网易(杭州)网络有限公司 | 推荐引擎定制系统、推荐方法及推荐系统、电子设备 |
CN111222046A (zh) * | 2020-01-03 | 2020-06-02 | 腾讯科技(深圳)有限公司 | 服务配置方法、用于服务配置的客户端、设备及电子设备 |
CN111222046B (zh) * | 2020-01-03 | 2022-09-20 | 腾讯科技(深圳)有限公司 | 服务配置方法、用于服务配置的客户端、设备及电子设备 |
CN113204352A (zh) * | 2021-06-07 | 2021-08-03 | 中国银行股份有限公司 | 应用部署方法、目标服务器、调度引擎及分布式系统 |
Also Published As
Publication number | Publication date |
---|---|
CN105208095B (zh) | 2018-12-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109325855B (zh) | 区块链网络、部署方法及存储介质 | |
CN102682052B (zh) | 过滤数据存储上的查询数据 | |
US10394611B2 (en) | Scaling computing clusters in a distributed computing system | |
KR102008242B1 (ko) | 클라우드-에지 토폴로지 | |
CN102291416B (zh) | 一种客户端与服务器端双向同步的方法及系统 | |
CN107451147B (zh) | 一种kafka集群动态切换的方法和装置 | |
CN102591724B (zh) | 消息交互方法及装置 | |
Smets-Solanes et al. | Slapos: A multi-purpose distributed cloud operating system based on an erp billing model | |
KR20210036226A (ko) | 복수의 엣지와 클라우드를 포함하는 분산 컴퓨팅 시스템 및 이의 적응적 지능 활용을 위한 분석 모델 제공 방법 | |
CN103473287A (zh) | 一种自动分发、运行和更新可执行程序的方法及系统 | |
CN110532493B (zh) | 数据的处理方法及装置、存储介质和电子装置 | |
CN105205143A (zh) | 一种文件存储及处理方法、设备和系统 | |
US10824641B1 (en) | Deterministic query-based replication | |
CN105208095A (zh) | 过滤服务的部署推荐装置和方法 | |
CN110377506A (zh) | 一种服务器测试优化方法 | |
KR20130037995A (ko) | 멀티테넌시를 지원하는 비즈니스 로직 설정방법 | |
CN107977572B (zh) | 一种应用程序运行方法和装置、智能终端 | |
Lee | A framework for seamless execution of mobile applications in the cloud | |
CN109783132B (zh) | 一种可适应系统单体化及分布式化的实现方法及装置 | |
CN103425707A (zh) | 数据分析方法和装置 | |
CN104714813B (zh) | 一种基于代理模式的android数据库延迟加载方法 | |
CN105653334A (zh) | 一种基于saas模式的mis系统快速开发框架 | |
CN110308914A (zh) | 升级处理方法、装置、设备、系统及计算机可读存储介质 | |
US11514030B2 (en) | Automated materialized view table generation and maintenance | |
CN114675872A (zh) | 一种对应用程序的数据处理方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |