CN104579761B - 一种基于云计算的nosql集群自动配置系统及自动配置方法 - Google Patents

Abstract

本发明公开了一种基于云计算的nosql集群自动配置系统及自动配置方法，其中自动配置系统包括决策分析模块、云通信模块、nosql管理模块、集群监控模块、云平台，集群监控模块实时采集nosql集群的运动状态参数，并发送至决策分析模块进行决策分析，根据分析结果向nosql管理模块发送调整nosql集群的命令，nosql管理模块配置调整后的nosql集群。本发明解决了现有技术中云计算大数据存储与管理所要求的高并发、可扩展性、动态可伸缩性问题，并且能够动态响应负载情况变化，减轻管理人员的负担，提高系统资源的利用率。

Description

一种基于云计算的nosql集群自动配置系统及自动配置方法

技术领域

本发明属于数据的管理与存储技术领域，涉及一种基于云计算的nosql集群自动配置系统，还涉及上述基于云计算的nosql集群的自动配置方法。

背景技术

随着云计算、新型互联网等技术的发展，对大数据的存储与管理提出了更高的要求。云计算作为一种新型的IT发布模式，催生出大量新型互联网服务的同时，对云数据的存储管理系统也提出了新的需求，如大容量、高并发、可扩展性强、动态可伸缩等特点。用户可以借助云平台提供的虚拟机资源部署自己的应用系统。目前，已有数据库系统支持动态增减云计算中虚拟机节点，从而满足大数据的可扩展性需求。随着云计算中数据资源规模的扩增，手动及人工管理数目庞大的资源集群已经变的非常不现实。如今，更需要一种自动化的资源管理技术，动态响应负载情况变化，并减轻管理人员的负担，提高系统资源的利用率。

发明内容

本发明的目的是提供一种基于云计算的nosql集群自动配置系统，解决了现有技术中大数据存储与管理时高并发、可扩展性、动态可伸缩性性能低下及管理人员负担重的技术问题。

本发明的另一目的是提供上述基于云计算的nosql集群自动配置系统的自动配置方法。

本发明所采用的第一技术方案是，一种基于云计算的nosql集群自动配置系统包括：云平台，集群监控模块，决策分析模块，云通信模块，nosql管理模块；

云平台用于创建虚拟机，并在虚拟机上部署nosql集群，来承载云计算中大数据的管理与存储服务；

决策分析模块用于决策分析，输出添加、删除或保持不变的nosql节点的命令；

云通信模块用于根据决策分析模块输出的添加、删除或保持不变的nosql节点的命令，向云平台申请或释放一定数量的虚拟机节点，并发出nosql集群同步配置命令；

nosql管理模块用于根据nosql集群同步配置命令，配置虚拟机节点，形成nosql集群，并发送对nosql集群进行集群监控同步配置命令；

集群监控模块用于根据集群监控同步配置命令对nosql集群进行监控配置，实时监控nosql集群的运行状态。

本发明所采用的另一技术方案是，一种基于云计算的nosql集群自动配置方法，采用基于云计算的nosql集群自动配置系统，其包括：云平台，集群监控模块，决策分析模块，云通信模块，nosql管理模块；

nosql集群自动配置方法包括以下步骤：

步骤1：启动基于云计算的nosql集群自动配置系统，根据用户设定的初始运行的nosql节点数量，决策分析模块向云通信模块发送添加初始数量的nosql节点命令；

步骤2：云通信模块收到添加初始数量的nosql节点命令后，采用云管理工具euca2ools向云平台申请一定数量的虚拟机节点，并向nosql管理模块发送集群同步配置命令；

步骤3：nosql管理模块收到云通信模块的集群同步配置命令后，对步骤2中的虚拟机节点进行nosql集群同步配置工作，配置完成后形成nosql集群，之后向集群监控模块发送集群监控同步配置命令；

步骤4：集群监控模块收到集群监控同步配置命令后对nosql集群进行集群监控同步配置工作；

步骤5：对nosql集群的监控同步配置工作完成后，集群监控模块开始实时监控nosql集群每个nosql节点的运行状态，得到实时的监控数据，并通过网络将实时的监控数据传送到决策分析模块；

步骤6：决策分析模块接收集群监控模块传递的监控数据，调用自动配置技术，决策分析监控数据，根据分析结果向云通信模块输出添加、删除或保持不变nosql节点的命令；

步骤7：云通信模块收到命令后，采用云管理工具euca2ools向云平台申请或释放一定数量的虚拟机资源，并向nosql管理模块发出nosql集群同步配置命令；

步骤8：nosql管理模块接收云通信模块的nosql集群同步配置命令，进行nosql集群同步配置，形成资源调整后的虚拟nosql集群，若是添加了nosql节点，则在nosql集群同步配置后，向集群监控模块发送对添加nosql节点的集群监控同步配置命令，集群监控模块收到命令后对添加的nosql节点进行集群监控同步配置；

步骤9：至此，经过资源调整后的nosql虚拟集群继续为用户提供服务，返回步骤5循环执行，随着工作负载的不断变化，实现对nosql集群的自动配置。

本发明另一技术方案的特点还在于，

集群监控同步配置方法如下：采用脚本化的工作流方式把模板文件夹下客户端监控程序配置文件gmond.conf自动注入到nosql集群中的nosql节点。

步骤5中的集群监控模块得到实时的监控数据的具体过程如下：客户端进程gmond搜集nosql节点的运行状态参数，包括CPU利用率、内存利用率、磁盘利用率、网络带宽与用户负载请求，每隔一定时间向集群监控模块发送每个nosql节点的监控数据。

步骤6中的决策分析监控数据的具体步骤如下：首先设置每个nosql节点的CPU利用率、内存利用率、磁盘利用率、网络带宽与用户负载请求的性能指标相对应的阈值区间；当存在nosql节点的上述性能指标均超过了各自设置的阈值区间的上限时，就输出添加节点的命令，当所有nosql节点的上述性能指标都低于各自设置的阈值区间的下限时，就输出删除节点的命令，当不满足上述两种情况时，不输出命令，nosql集群中的nosql节点数量保持不变。

步骤7的具体步骤如下：云通信模块采用云管理工具euca2ools向云平台申请或释放一定数量的虚拟机资源：当收到添加虚拟机的命令后，云通信模块首先向云平台申请、创建并运行新虚拟机，再向nosql管理模块发送nosql节点添加同步配置命令；当收到删除nosql节点的命令后，云通信模块首先向nosql管理模块发送nosql节点删除同步配置命令，再向云平台申请终止并释放运行的虚拟机。

nosql集群同步配置的方法如下：对于添加的虚拟机，采用远程注入的方式自动把模板文件夹下的nosql数据库配置文件复制到每个虚拟机中，并启动nosql客户端进程；对于即将删除的nosql节点，根据每个nosql引擎设置的replication值，自动把数据备份到其它nosql节点，并进行负载均衡，保证删除nosql节点后，集群正常向用户提供服务。

本发明的有益效果在于，本发明的基于云计算的nosql集群自动配置系统采用云计算中nosql集群的自动配置管理技术，可以随负载的动态变化以及虚拟机资源的资源运行状况，自动分析决策，动态扩展或释放nosql集群资源，有效满足用户负载需求，提高nosql数据库集群的整体资源利用率，减轻了管理人员的负担。另外，本发明的基于云计算的nosql集群自动配置系统能够与不同的nosql数据库系统以及云平台如openstack、eucalyptus、亚马逊EC2广泛集成，实现了从云平台中申请虚拟机到创建虚拟机，再到部署nosql数据库系统等一系列自动化工作流程，保证了nosql数据库集群的自动扩展和动态可伸缩，提供了业务逻辑、通信、不同的nosql引擎、云平台接口等，有效降低开发成本，减小了编码工作量，节省开发时间。

附图说明

图1是本发明的基于云计算的nosql集群自动配置系统结构图；

图2是基于云计算的nosql集群自动配置系统的配置方法流程图。

具体实施方式

下面结合附图和具体实施方式对本发明进行详细说明。

本发明的基于云计算的nosql集群自动配置系统，其结构如图1所示，包括决策分析模块、云通信模块、nosql管理模块、集群监控模块、云平台。决策分析模块分别与云通信模块和集群监控模块传递数据；云通信模块分别与nosql管理模块以及云平台传递数据；nosql管理模块与集群监控模块传递数据，并且通过网络与nosql集群进行通信；集群监控模块通过网络与nosql集群进行通信。

本发明中的虚拟nosql集群运行所有的nosql数据库系统，如hbase、riak、cassandra等，需要预先把不同nosql数据库的所有配置以及监控模块ganglia配置文件gmetad.conf、gmond.conf置于模板文件夹templates下；

用户需要在属性文件Config.properties中，根据实际情况设定相应的参数值，包括云平台类型cloud_api_type，nosql集群初始运行数量initial_cluster_size，nosql集群最大运行数量max_cluster_size＝13,nosql数据库类型cluster_type，每一次添加的节点数量add_nodes＝2,每一次删除的节点数量rem_nodes＝2。

(1)决策分析模块(Decision Analysis Module，DAM)是本系统最核心的模块，它需要和其他模块频繁通信，并且这个模块采用自动配置技术来对整个nosql集群系统进行管理，因此对它的设计将关系到整个系统的稳定性。

初始启动时，本模块根据用户设定的初始运行集群数量initial_cluster_size直接输出添加节点命令。

运行过程中，本模块需要根据自动配置算法来动态决定增加或删除nosql节点，自动配置算法采用阈值比较法，选取了能反映节点运行状态的大部分性能参数来综合判断，保证了自动配置算法对集群调整的有效性，将CPU利用率、内存利用率、磁盘利用率、网络带宽与用户负载请求各性能指标的阈值区间分别设为(2％-30％)、(10％-70％)、(10％-80％)、(20％-80％)、(1-6)，如果各性能指标均超过阈值上限，则输出添加节点命令，如果各性能指标均小于阈值下限，则输出删除节点命令。

(2)云通信模块(Cloud Communication Module，CCM)接收决策分析模块输出的集群资源调整命令，与云平台进行交互，申请或释放虚拟机资源，并向nosql管理模块发送nosql集群同步配置命令，以此来保证删除节点时，nosql数据库集群不丢失数据。

本模块的实现主要采用云管理工具euca2ools，该工具能够与众多云平台如亚马逊EC2、openstack、eucalyptus等进行通信，自动完成申请虚拟机、创建虚拟机到运行虚拟机，以及终止虚拟机、释放虚拟机的一系列工作流程。

(3)nosql管理模块(Nosql Management Module，NMM)接收云通信模块的nosql集群同步配置命令，对新申请的虚拟机节点进行nosql集群的同步配置工作，并向集群监控模块发送客户端监控程序配置命令，本模块的实现主要采用脚本化的工作流方式，自动完成nosql集群的自动配置。

(4)集群监控模块(Cluster Monitor Module，CMM)，其采用开源分布式监控工具ganglia，它可以远程收集nosql集群运行信息，如CPU利用率、内存利用率、磁盘利用率、网络带宽与用户负载请求，ganglia分为服务器端程序和客户端程序，每个nosql节点运行客户端进程gmond，集群监控模块运行服务器端进程gmetad，设定gmond进程每隔30秒向gmetad进程发送每个节点的监控数据，此外为了减少网络拥堵，选用udp协议，单播形式。

并且，当其收到集群监控同步配置命令后，同样采用脚本化的工作流方式把模板文件夹下客户端监控程序配置文件自动注入到nosql节点中，自动开启客户端监控守护进程，并且每隔一定时间把新申请nosql节点的监控信息收集汇总，及时把最新的监控数据输入决策分析模块。

(5)云平台的选用取决于云通信模块所选用的工具及接口，本框架需要在云平台上动态申请或释放虚拟机资源，来配置nosql数据库集群，本框架中的云平台支持亚马逊EC2、openstack、eucalyptus等与EC2兼容的云平台。本框架采取基于镜像的工作机制，即在云平台上创建虚拟机时，需要运行预先制作好的虚拟机镜像文件，该镜像包含nosql数据库客户端依赖包及ganglia监控客户端依赖包。

参见图2，基于云计算的nosql集群自动配置系统的配置方法运行流程如下：

首先进行初始启动流程：

步骤1：启动基于云计算的nosql集群自动配置系统，根据用户设定的初始运行的nosql节点数量决策分析模块向云通信模块发送添加初始数量的nosql节点命令；

步骤2：云通信模块收到添加初始数量的nosql节点命令后，采用云管理工具euca2ools向云平台申请一定数量的虚拟机节点，并向nosql管理模块发送集群同步配置命令；

步骤3：nosql管理模块收到云通信模块的集群同步配置命令后，采用远程注入的方式自动把模板文件夹下的nosql数据库配置文件复制到步骤2中申请的虚拟机节点中，进行集群同步配置工作，配置完成后形成nosql集群，之后向集群监控模块发送集群监控同步配置命令；

步骤4：集群监控模块收到集群监控同步配置命令后，采用脚本化的工作流方式把模板文件夹下客户端监控程序配置文件gmond.conf自动注入到nosql集群中的nosql节点，并启动客户端gmond守护进程。

步骤1-4完成后，初始启动流程完毕，自动部署了具有一定初始数量nosql节点的nosql集群，向用户提供服务，进入自动配置流程：

步骤5：集群监控模块开始实时监控nosql集群中的nosql节点的运行状态，具体过程如下：客户端进程gmond搜集nosql节点的运行状态参数，包括CPU利用率、内存利用率、磁盘利用率、网络带宽与用户负载请求，每隔一定时间向集群监控模块发送每个nosql节点的监控数据，集群监控模块把最新监控数据通过网络传递给决策分析模块；

步骤6：决策分析模块接收集群监控模块传递的最新监控数据，调用自动配置技术，根据每个nosql节点的CPU、内存、磁盘和负载性能指标综合判断，进行决策分析，根据当前nosql集群的运行状态向云通信模块输出添加、删除或保持不变nosql节点的命令；决策分析的方法如下：首先设置每个nosql节点的CPU利用率、内存利用率、磁盘利用率、网络带宽与用户负载请求的性能指标相对应的阈值区间；当存在nosql节点的上述性能指标均超过了各自设置的阈值区间的上限时，就输出添加节点的命令，当所有nosql节点的上述性能指标都低于各自设置的阈值区间的下限时，就输出删除节点的命令，当不满足上述两种情况时，不输出命令，nosql集群中的nosql节点数量保持不变；

步骤7：云通信模块收到命令后，采用云管理工具euca2ools向云平台申请或释放一定数量的虚拟机资源，并向nosql管理模块发出nosql集群同步配置命令，具体步骤如下：当收到添加虚拟机的命令后，云通信模块首先向云平台申请、创建并运行新虚拟机，再向nosql管理模块发送nosql节点添加同步配置命令；当收到删除nosql节点的命令后，云通信模块首先向nosql管理模块发送nosql节点删除同步配置命令，再向云平台申请终止并释放运行的虚拟机；

步骤8：nosql管理模块接收云通信模块的nosql集群同步配置命令，对于添加的虚拟机，采用远程注入的方式自动把模板文件夹下的nosql数据库配置文件复制到每个虚拟机中，并启动nosql客户端进程，之后向集群监控模块发送集群监控同步配置命令，集群监控模块收到集群监控同步配置命令后，采用脚本化的工作流方式把模板文件夹下客户端监控程序配置文件自动注入到添加的nosql节点进行集群监控同步配置，自动开启客户端监控守护进程；对于即将删除的nosql节点，根据每个nosql引擎设置的replication值，自动把数据备份到其它nosql节点，并进行负载均衡，保证删除nosql节点后，集群正常向用户提供服务；

步骤9：至此，经过资源调整后的nosql集群继续为用户提供服务，返回步骤5循环执行，随着工作负载的不断变化，实现对nosql集群的自动配置。

Claims (5)

1.一种基于云计算的nosql集群自动配置系统，其特征在于，包括：云平台，集群监控模块，决策分析模块，云通信模块，nosql管理模块；

所述云平台用于创建虚拟机，并在虚拟机上部署nosql集群，来承载云计算中大数据的管理与存储服务；

所述决策分析模块用于决策分析，输出添加、删除或保持不变的nosql节点的命令；

所述云通信模块用于根据决策分析模块输出的添加、删除或保持不变的nosql节点的命令，向云平台申请或释放一定数量的虚拟机节点，并发出nosql集群同步配置命令；

所述nosql管理模块用于根据nosql集群同步配置命令，配置虚拟机节点，形成nosql集群，并发送对nosql集群进行集群监控同步配置命令；

所述集群监控模块用于根据集群监控同步配置命令对nosql集群进行监控配置，实时监控nosql集群的运行状态。

2.一种基于云计算的nosql集群自动配置方法，其特征在于，采用基于云计算的nosql集群自动配置系统，其包括：云平台，集群监控模块，决策分析模块，云通信模块，nosql管理模块；

nosql集群自动配置方法包括以下步骤：

步骤1：启动基于云计算的nosql集群自动配置系统，根据用户设定的初始运行的nosql节点数量决策分析模块向云通信模块发送添加初始数量的nosql节点命令；

步骤2：云通信模块收到添加初始数量的nosql节点命令后，采用云管理工具euca2ools向云平台申请一定数量的虚拟机节点，并向nosql管理模块发送集群同步配置命令；

步骤3：nosql管理模块收到云通信模块的集群同步配置命令后，对步骤2中的虚拟机节点进行nosql集群同步配置工作，配置完成后形成nosql集群，之后向集群监控模块发送集群监控同步配置命令；

步骤4：集群监控模块收到集群监控同步配置命令后对nosql集群进行集群监控同步配置工作；

步骤5：对nosql集群的监控同步配置工作完成后，集群监控模块开始实时监控nosql集群每个nosql节点的运行状态，得到实时的监控数据，并通过网络将实时的监控数据传送到决策分析模块；

步骤6：决策分析模块接收集群监控模块传递的最新监控数据，调用自动配置技术，决策分析监控数据，根据分析结果向云通信模块输出添加、删除或保持不变nosql节点的命令；

步骤7：云通信模块收到命令后，采用云管理工具euca2ools向云平台申请或释放一定数量的虚拟机资源，并向nosql管理模块发出nosql集群同步配置命令；

步骤8：nosql管理模块接收云通信模块的nosql集群同步配置命令，进行nosql集群同步配置，形成资源调整后的虚拟nosql集群，若是添加了nosql节点，则在nosql集群同步配置后，向集群监控模块发送对添加nosql节点的集群监控同步配置命令，集群监控模块收到命令后对添加的nosql节点进行集群监控同步配置；

步骤9：至此，经过资源调整后的nosql虚拟集群继续为用户提供服务，返回步骤5循环执行，随着工作负载的不断变化，实现对nosql集群的自动配置；

集群监控同步配置方法如下：采用脚本化的工作流方式把模板文件夹下客户端监控程序配置文件gmond.conf自动注入到nosql集群中的nosql节点；

所述步骤5中的集群监控模块得到实时的监控数据的具体过程如下：客户端进程gmond搜集nosql节点的运行状态参数，包括CPU利用率、内存利用率、磁盘利用率、网络带宽与用户负载请求，每隔一定时间向集群监控模块发送每个nosql节点的监控数据。

3.根据权利要求2所述的一种基于云计算的nosql集群自动配置方法，其特征在于，所述步骤6中的决策分析监控数据的具体步骤如下：首先设置每个nosql节点的CPU利用率、内存利用率、磁盘利用率、网络带宽与用户负载请求的性能指标相对应的阈值区间；当存在nosql节点的上述性能指标均超过了各自设置的阈值区间的上限时，就输出添加节点的命令，当所有nosql节点的上述性能指标都低于各自设置的阈值区间的下限时，就输出删除节点的命令，当不满足上述两种情况时，不输出命令，nosql集群中的nosql节点数量保持不变。

4.根据权利要求2所述的一种基于云计算的nosql集群自动配置方法，其特征在于，所述步骤7的具体步骤如下：云通信模块采用云管理工具euca2ools向云平台申请或释放一定数量的虚拟机资源：当收到添加虚拟机的命令后，云通信模块首先向云平台申请、创建并运行新虚拟机，再向nosql管理模块发送nosql节点添加同步配置命令；当收到删除nosql节点的命令后，云通信模块首先向nosql管理模块发送nosql节点删除同步配置命令，再向云平台申请终止并释放运行的虚拟机。

5.根据权利要求2所述的一种基于云计算的nosql集群自动配置方法，其特征在于，nosql集群同步配置的方法如下：对于添加的虚拟机，采用远程注入的方式自动把模板文件夹下的nosql数据库配置文件复制到每个虚拟机中，并启动nosql客户端进程；对于即将删除的nosql节点，根据每个nosql引擎设置的replication值，自动把数据备份到其它nosql节点，并进行负载均衡，保证删除nosql节点后，集群正常向用户提供服务。