CN109656709A - 一种Codis集群扩容的方法和装置 - Google Patents
一种Codis集群扩容的方法和装置 Download PDFInfo
- Publication number
- CN109656709A CN109656709A CN201710946406.2A CN201710946406A CN109656709A CN 109656709 A CN109656709 A CN 109656709A CN 201710946406 A CN201710946406 A CN 201710946406A CN 109656709 A CN109656709 A CN 109656709A
- Authority
- CN
- China
- Prior art keywords
- group
- dilatation
- redis example
- redis
- slot position
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/54—Indexing scheme relating to G06F9/54
- G06F2209/548—Queue
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种Codis集群扩容的方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:根据待创建扩容组的数量G和每个待创建扩容组所需的Redis实例的个数S生成Redis实例队列;根据当前集群可用的槽位创建G个扩容组,并且读取所述Redis实例队列,向创建的每个扩容组中添加S个Redis实例。该实施方式能够动态规划Codis集群所需要创建的组和组中所需添加的主从Redis实例,并且自适应动态创建组,以及为创建的组添加主从Redis实例,减少人工参与,降低了成本,提高了扩容效率和准确度。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种Codis集群扩容的方法和装置。
背景技术
开源项目Codis是一个分布式的Redis解决方案(Redis是基于内存亦可持久化的日志型、Key-Value数据库),现在已经应用在各个场景中。现阶段对于Codis集群进行扩容,是基于其自带的管理工具(如codis-admin),逐一对codis-server(Codis项目维护的一个Redis分支)进行操作。具体的,首先通过人为观察确定出可用的槽位,并且基于该可用的槽位通过页面操作创建出一个扩容组Codis-Redis-Group;然后人为操作相应页面为该Codis-Redis-Group添加一个主Redis实例codis-server-master,以及为该Codis-Redis-Group逐一添加从Redis实例codis-server-slave。重复上述创建以及添加的过程,为当前Codis集群进行扩容。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:面对大规模Codis集群扩容的需求,现有技术只能通过人工进行扩容以及只支持单台操作,所以操作速度慢、效率低;对于不止维护一套Codis集群的现状,如果各个集群都通过手工维护,则会有准确度不高的问题;而且,扩容Codis集群时需要人为规划,存在人工成本高的问题。
发明内容
有鉴于此,本发明实施例提供一种Codis集群扩容的方法和装置,能够动态规划Codis集群所需要创建的组和组中所需添加的主从Redis实例,并且自适应动态创建组,以及为创建的组添加主从Redis实例。
为实现上述目的,根据本发明实施例的一个方面,提供了一种Codis集群扩容的方法。
本发明实施例的Codis集群扩容的方法包括:根据待创建扩容组的数量G和每个待创建扩容组所需的Redis实例的个数S生成Redis实例队列;根据当前集群可用的槽位创建G个扩容组,并且读取所述Redis实例队列,向创建的每个扩容组中添加S个Redis实例。
可选地,所述生成Redis实例队列的步骤包括:根据扩容组的数量G和每个扩容组所需的Redis实例的个数S,获取G*S个Redis实例的标识信息;将获取到的Redis实例的标识信息存于Redis实例队列中。
可选地,在根据当前集群可用的槽位创建G个扩容组,并且读取所述Redis实例队列,向每个扩容组中添加S个Redis实例之前,还包括:获取当前集群中的已有组的ID,根据所述已有组的ID获取对应的所述已有组在当前集群中的槽位;根据所述已有组的槽位以及当前集群支持的组的最大数量,确定出当前集群可用的槽位。
可选地,在确定出当前集群可用的槽位之后,还包括将所述可用的槽位存于槽位队列中;
所述根据当前集群可用的槽位创建G个扩容组,并且读取所述Redis实例队列,向每个扩容组中添加S个Redis实例的步骤包括:读取所述槽位队列中的G个可用槽位,根据所述G个可用槽位创建G个扩容组;读取所述Redis实例队列中的标识信息,向每个扩容组中添加S个Redis实例。
可选地,还包括:在根据当前集群可用的槽位创建G个扩容组之前,确定当前集群可用的槽位的数量大于所述待创建扩容组的数量G。
可选地,所述Redis实例队列包括主Redis实例队列和从Redis实例队列;
所述根据扩容组的数量G和每个扩容组所需的Redis实例的个数S生成Redis实例队列的步骤包括:根据待扩容的Redis实例的个数N以及每个扩容组所需的Redis实例的个数S,计算待创建扩容组的数量G;将G个Redis实例的标识信息存于主Redis实例队列中;将N-G个Redis实例的标识信息存于从Redis实例队列中;
所述根据当前集群可用的槽位创建G个扩容组,并且读取所述Redis实例队列,向每个扩容组中添加S个Redis实例的步骤包括:根据当前集群可用的槽位创建一个扩容组,并且,读取出所述主Redis实例队列中的一个标识信息以及所述从Redis实例队列中的S-1个标识信息,将读取出的标识信息添加到该扩容组;直至创建的扩容组的个数为G。
为实现上述目的,根据本发明实施例的另一个方面,提供了一种Codis集群扩容的装置。
本发明实施例的Codis集群扩容的装置包括:队列生成模块,用于根据待创建扩容组的数量G和每个待创建扩容组所需的Redis实例的个数S生成Redis实例队列;创建模块,用于根据当前集群可用的槽位创建G个扩容组,并且读取所述Redis实例队列,向创建的每个扩容组中添加S个Redis实例。
可选地,所述队列生成模块还用于,根据扩容组的数量G和每个扩容组所需的Redis实例的个数S,获取G*S个Redis实例的标识信息;以及,将获取到的Redis实例的标识信息存于Redis实例队列中。
可选地,还包括确定模块,用于获取当前集群中的已有组的ID,根据所述已有组的ID获取对应的所述已有组在当前集群中的槽位;以及,根据所述已有组的槽位以及当前集群支持的组的最大数量,确定出当前集群可用的槽位。
可选地,所述确定模块还用于,将所述可用的槽位存于槽位队列中;
所述创建模块还用于,读取所述槽位队列中的G个可用槽位,根据所述G个可用槽位创建G个扩容组;读取所述Redis实例队列中的标识信息,向每个扩容组中添加S个Redis实例。
可选地,还包括判断模块,用于确定当前集群可用的槽位的数量大于所述待创建扩容组的数量G。
可选地,所述队列生成模块还用于,根据待扩容的Redis实例的个数N以及每个扩容组所需的Redis实例的个数S,计算待创建扩容组的数量G;将G个Redis实例的标识信息存于主Redis实例队列中;将N-G个Redis实例的标识信息存于从Redis实例队列中;
所述创建模块还用于,根据当前集群可用的槽位创建一个扩容组,并且,读取出所述主Redis实例队列中的一个标识信息以及所述从Redis实例队列中的S-1个标识信息,将读取出的标识信息添加到该扩容组;直至创建的扩容组的个数为G。
为实现上述目的,根据本发明实施例的再一个方面,提供了一种Codis集群扩容的服务器。
本发明实施例的Codis集群扩容的服务器包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述任一项Codis集群扩容的方法。
为实现上述目的,根据本发明实施例的再一个方面,提供了一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现上述任一项Codis集群扩容的方法。
上述发明中的一个实施例具有如下优点或有益效果:根据当前集群可用的槽位自动创建G个扩容组后,读取生成的Redis实例队列,则自动为创建的扩容组添加主从Redis实例,进而减少扩容过程中人工的参与,降低了成本。并且本实施例的过程通过程序实现,不仅提高了扩容效率,而且又因为程序中会通过一些准确逻辑进行判断,则提高了扩容的操作准确度。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是Codis集群codis-server构架的示意图;
图2是根据本发明实施例的一种Codis集群扩容的方法的基本步骤的示意图;
图3是根据本发明实施例的一种Codis集群扩容的方法的优选流程的示意图;
图4是根据本发明实施例的一种Codis集群扩容的装置的基本组成部分的示意图;
图5是本发明实施例可以应用于其中的示例性系统架构图;
图6是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是Codis集群codis-server构架的示意图。如图1所示,Codis集群codis-server中包含一个以上的组(Codis-Redis-Group,简称group),也可称为Codis-group。在每个组中,又包含有一个以上的Redis实例,而且对于同一个Codis集群每个组包含的Redis实例的个数相同。其中,Redis实例指的是独立的Redis服务,可以理解为一个数据库进程,一台数据库服务器可以运行一个或者多个Redis实例,数据库服务器使用IP地址来标识,Redis实例使用IP:Port对(IP和端口信息对)来标识。通常一台数据库服务器上只运行一个Redis实例,端口选择默认端口,这种情况下数据库服务器和Redis实例可以等价看待,则数据库服务器的IP即可标识Redis实例。codis-server的一个组中的Redis实例分为主Redis实例(codis-server-master,简称master)和从Redis实例(codis-server-slave,简称slave)。对Codis集群扩容,即在当前集群已有组的基础上进行创建更多的组以及向创建的组中添加master和slave。现有技术中,只能通过Codis自带的管理工具以及人工操作单台机器进行扩容。但是,Codis自带的管理工具一次只能创建一个group,然后向创建好的group中添加master,然后再添加slave。因为Codis自带管理工具本身不支持并行操作,所以该添加master和slave的过程只能进行单台添加不能批量操作。现有技术进行Codis集群扩容时,只能逐一操作,会耗费大量的工时,而且会造成误操作的可能性。例如,创建100个组,一个组中有3个Redis实例,至少需要执行400次。如果需要开启一些其他功能比如主从同步数据或者开启主从支持读写分析等功能,则会需要执行更多次。
图2是根据本发明实施例的一种Codis集群扩容的方法的基本步骤的示意图。
如图2所示,本发明实施例的Codis集群扩容的方法主要包括:
步骤S201:根据待创建扩容组的数量G和每个待创建扩容组所需的Redis实例的个数S生成Redis实例队列。具体的,根据扩容组的数量G和每个扩容组所需的Redis实例的个数S,获取G*S个Redis实例的标识信息,将获取到的Redis实例的标识信息存于Redis实例队列中。其中,队列是一种特殊的线性表,特殊之处在于它只允许在表的前端(front)进行删除操作,而在表的后端(rear)进行插入操作。进行插入操作的端称为队尾,进行删除操作的端称为队头。
Redis实例队列中保存的标识信息为IP:Port对或者IP,IP都是指运行该Redis实例的数据库服务器的IP地址。由于运行在同一台数据库服务器上Redis实例的端口是不同的,所以如果一台数据库服务器上不只运行一个Redis实例,则通过IP:Port对来标识Redis实例;如果一台数据库服务器上只运行一个Redis实例,则通过IP来标识Redis实例。但是,同一个group中的主从Redis实例对应的IP不同,即同一个group中的主从Redis实例不运行在同一台数据库服务器中。
在生成Redis实例队列的过程中,用户只要提供了其扩容需求,比如扩容组的数量G和每个扩容组所需的Redis实例的个数S,实现本发明实施例扩容方法的系统则可自动根据该扩容需求获取到G*S个Redis实例的标识信息,进而不需要通过人为向相应部门申请获取或者人为查询获取。该标识信息与Redis实例为一对一的关系,通过标识信息即可链接到对应的Redis实例。如果用户提供的扩容需求包含有待扩容的Redis实例的标识信息列表和每个扩容组所需的Redis实例的个数S,则实现本发明实施例扩容方法的系统则可根据待扩容的Redis实例的个数N以及每个扩容组所需的Redis实例的个数S,计算出待创建扩容组的数量G,进而用户不用人为进行计算。并且可将G个Redis实例的标识信息存于主Redis实例队列(master队列)中,将N-G个Redis实例的标识信息存于从Redis实例队列(slave队列)中,进而不用人工规划将哪些Redis实例添加为master、哪些Redis实例添加为slave。如果Redis实例的标识信息为IP,则可根据IP列表得到IP个数N,每个group中slave服务器数量S-1,通过N/S得到所需要组的数量G,从IP列表取得第一个IP放入master队列中,再从剩下的IP列表随机读取S-1个IP放入slave队列中。依次完成整个IP列表的读取,生成master队列和slave队列。
本发明实施例中的N、S和G的取值为自然数,其仅代表数量,不具有其他含义。
步骤S202:根据当前集群可用的槽位创建G个扩容组,并且读取Redis实例队列,向创建的每个扩容组中添加S个Redis实例。
在上述步骤S202之前,获取当前集群中的已有组的ID,根据已有组的ID获取对应的已有组在当前集群中的槽位;根据已有组的槽位以及当前集群支持的组的最大数量,确定出当前集群可用的槽位。并且,将可用的槽位存于槽位队列中。例如,从zookeeper等存储中获取当前集群已有组ID列表,ID是数字形式表示的(如1,3,6),即为已经占用组的槽位,然后通过diff运算,就可以得到剩余的可以使用的槽位。Codis本身最多支持1024个group(如1,2,3,…1024),但是每个Codis集群可根据其作用进行设置其支持的组的最大数量。该确定当前集群可用的槽位的过程也是实现本发明实施例扩容方法的系统自动进行的,进而不需要通过人工观察来确定,提高了效率也减少的人工成本。将可用的槽位存于槽位队列中后,在创建group时,可直接读取该槽位队列中的值,即可直接进行创建。
在创建group和向group中添加Redis实例的过程中,可一次性读取槽位队列中的G个可用槽位,然后根据读取到的G个可用槽位创建G个扩容组,然后通过读取Redis实例队列同时向该G个group分别添加一个主Redis实例和S-1个从Redis实例,进而能高效的实现扩容。也可以读取槽位队列中位于对头的第一个可用槽位,根据该可用槽位创建一个group之后,读取Redis实例队列向该group添加一个主Redis实例和S-1个从Redis实例。扩容完成一个group之后,基于队列先进先出原则,继续读取队列,执行创建组、添加master、添加slave的操作。上述扩容操作执行G次,完成Codis集群的扩容。
图3是根据本发明实施例的一种Codis集群扩容的方法的优选流程的示意图。
如图3所示,本发明实施例的一种Codis集群扩容的方法可分为三部分,其分别为数据预处理、数据检测和扩容操作。在数据预处理的过程中,根据待扩容的IP列表和每个group所需要slave的个数,进行计算得到待创建扩容组的数量,并且根据该待创建扩容组的数量和每个group所需要slave的个数得到codis-server-masterIP列表和codis-server-slaveIP列表,并且存于队列中,生成master队列和slave队列,以进行扩容操作。
在数据检测过程中,通过程序动态采集当前集群已有组的ID,算出可用组槽位(如1,3,6,…1024),存于group队列中,以进行扩容操作(Codis集群最大支持1024个group)。通过当前集群可用的槽位的数量与待创建扩容组的数量进行对比,来确认是否满足扩容需求。如果当前集群可用的槽位的数量小于待创建扩容组的数量,则确认无法满足扩容需求,说明该Codis集群不支持客户需求,则需搭建新的集群,此时不再进行扩容操作,流程结束。如果当前集群可用的槽位的数量大于待创建扩容组的数量,满足需求,则进行扩容操作。
在扩容操作过程中,读取group队列第一个值,同时读取master队列第一个值和slave队列前S个值,动态创建组,动态向组中添加master和添加slave。扩容完成一个组之后,按照上述扩容操作,基于队列先进先出原则,继续读取队列,执行创建组、添加master、添加slave的操作。上述扩容操作执行G次,完成Codis集群的扩容。并且,在读取槽位队列、主数据库服务器队列和从数据库服务器队列时,为顺序读取,并且每次读取完之后将该读取的数据删除。例如,创建当前集群已有组为1,4,5,7组,其中2,6并没有使用,通过上述步骤可得到剩余的可用槽位包含2和6,基于队列技术,就会优先读取这两个槽位,并且创建相应的组。通过该过程可自适应合理的创建扩容组,所以,通过上述扩容操作,可实现一键化的自适应动态扩容codis集群,提高了扩容效率和准确度。并且,自适应创建组,动态规划和添加master和slave,减少了人工参与,降低了成本。
图4是根据本发明实施例的一种Codis集群扩容的装置的基本组成部分的示意图。
如图4所示,本发明实施例的一种Codis集群扩容的装置400主要包括队列生成模块401和创建模块402。
队列生成模块401,用于根据待创建扩容组的数量G和每个待创建扩容组所需的Redis实例的个数S生成Redis实例队列。队列生成模块401还用于,根据扩容组的数量G和每个扩容组所需的Redis实例的个数S,获取G*S个Redis实例的标识信息;以及,将获取到的Redis实例的标识信息存于Redis实例队列中。标识信息为IP:Port对或者IP,IP都是指运行该Redis实例的数据库服务器的IP地址。由于运行在同一台数据库服务器上Redis实例的端口是不同的,所以如果一台数据库服务器上不只运行一个Redis实例,则通过IP:Port对来标识Redis实例;如果一台数据库服务器上只运行一个Redis实例,则通过IP来标识Redis实例。
创建模块402,用于根据当前集群可用的槽位创建G个扩容组,并且读取Redis实例队列,向创建的每个扩容组中添加S个Redis实例。
本发明实施例的一种Codis集群扩容的装置还包括确定模块,用于获取当前集群中的已有组的ID,根据已有组的ID获取对应的已有组在当前集群中的槽位;以及,根据已有组的槽位以及当前集群支持的组的最大数量,确定出当前集群可用的槽位。确定模块还用于,将可用的槽位存于槽位队列中;创建模块还用于,读取槽位队列中的G个可用槽位,根据G个可用槽位创建G个扩容组;读取Redis实例队列中的标识信息,向每个扩容组中添加S个Redis实例。
本发明实施例的一种Codis集群扩容的装置还包括判断模块,用于确定当前集群可用的槽位的数量大于待创建扩容组的数量G。该判断模块通过对比当前集群可用的槽位的数量与待创建扩容组的数量,来确认是否满足扩容需求。如果当前集群可用的槽位的数量小于待创建扩容组的数量,则确认无法满足扩容需求,说明该Codis集群不支持客户需求,则需搭建新的集群,此时不再进行扩容操作,流程结束。如果当前集群可用的槽位的数量大于待创建扩容组的数量,满足需求,则进行扩容操作。
队列生成模块还用于,根据待扩容的Redis实例的个数N以及每个扩容组所需的Redis实例的个数S,计算待创建扩容组的数量G;将G个Redis实例的标识信息存于主Redis实例队列中;将N-G个Redis实例的标识信息存于从Redis实例队列中。创建模块还用于,根据当前集群可用的槽位创建一个扩容组,并且,读取出主Redis实例队列中的一个标识信息以及从Redis实例队列中的S-1个标识信息,将读取出的标识信息添加到该扩容组;直至创建的扩容组的个数为G。
本发明实施例的一种Codis集群扩容的装置可自动根据该扩容需求获取到G*S个Redis实例的标识信息,进而不需要通过人为向相应部门申请获取或者人为查询获取。并且在确定可用槽位的过程中,可通过采集已有组的槽位或者直接读取槽位队列获取到可用槽位,进而不需要通过人工观察来确定,提高了效率也减少的人工成本。在获取到可用操作后,可自动创建group,并且通过读取Redis实例队列自动实现向group添加master和slave。进而可自适应合理的创建扩容组,并且可实现一键化的自适应动态扩容codis集群,提高了扩容效率和准确度。以及,动态规划和添加master和slave,减少了人工参与,降低了成本。
图5示出了可以应用本发明实施例的Codis集群扩容的方法或Codis集群扩容的装置的示例性系统架构500。
如图5所示,系统架构500可以包括终端设备501、502、503,网络504和服务器505。网络504用以在终端设备501、502、503和服务器505之间提供通信链路的介质。网络504可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备501、502、503通过网络504与服务器505交互,以接收或发送消息等。终端设备501、502、503上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备501、502、503可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器505可以是提供各种服务的服务器,例如对用户利用终端设备501、502、503所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是,本发明实施例所提供的Codis集群扩容的方法一般由服务器505执行,相应地,Codis集群扩容的装置一般设置于服务器505中。
应该理解,图5中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图6,其示出了适于用来实现本发明实施例的终端设备的计算机系统600的结构示意图。图6示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,计算机系统600包括中央处理单元(CPU)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时,执行本发明的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括队列生成模块和创建模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,队列生成模块还可以被描述为“根据待创建扩容组的数量G和每个待创建扩容组所需的Redis实例的个数S生成Redis实例队列的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:根据待创建扩容组的数量G和每个待创建扩容组所需的Redis实例的个数S生成Redis实例队列;根据当前集群可用的槽位创建G个扩容组,并且读取所述Redis实例队列,向创建的每个扩容组中添加S个Redis实例。
根据本发明实施例的技术方案,可自动根据该扩容需求获取到G*S个Redis实例的标识信息,进而不需要通过人为向相应部门申请获取或者人为查询获取。并且在确定可用槽位的过程中,可通过采集已有组的槽位或者直接读取槽位队列获取到可用槽位,进而不需要通过人工观察来确定,提高了效率也减少的人工成本。在获取到可用操作后,可自动创建group,并且通过读取Redis实例队列自动实现向group添加master和slave。进而可自适应合理的创建扩容组,并且可实现一键化的自适应动态扩容codis集群,提高了扩容效率和准确度。以及,动态规划和添加master和slave,减少了人工参与,降低了成本。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (14)
1.一种Codis集群扩容的方法,其特征在于,包括:
根据待创建扩容组的数量G和每个待创建扩容组所需的Redis实例的个数S生成Redis实例队列;
根据当前集群可用的槽位创建G个扩容组,并且读取所述Redis实例队列,向创建的每个扩容组中添加S个Redis实例。
2.根据权利要求1所述的方法,其特征在于,所述生成Redis实例队列的步骤包括:
根据扩容组的数量G和每个扩容组所需的Redis实例的个数S,获取G*S个Redis实例的标识信息;
将获取到的Redis实例的标识信息存于队列中,以生成Redis实例队列。
3.根据权利要求1所述的方法,其特征在于,在根据当前集群可用的槽位创建G个扩容组,并且读取所述Redis实例队列,向每个扩容组中添加S个Redis实例之前,还包括:
获取当前集群中的已有组的ID,根据所述已有组的ID获取对应的所述已有组在当前集群中的槽位;
根据所述已有组的槽位以及当前集群支持的组的最大数量,确定出当前集群可用的槽位。
4.根据权利要求3所述的方法,其特征在于,在确定出当前集群可用的槽位之后,还包括将所述可用的槽位存于槽位队列中;
所述根据当前集群可用的槽位创建G个扩容组,并且读取所述Redis实例队列,向每个扩容组中添加S个Redis实例的步骤包括:读取所述槽位队列中的G个可用槽位,根据所述G个可用槽位创建G个扩容组;读取所述Redis实例队列中的标识信息,向每个扩容组中添加S个Redis实例。
5.根据权利要求1所述的方法,其特征在于,还包括:在根据当前集群可用的槽位创建G个扩容组之前,确定当前集群可用的槽位的数量大于所述待创建扩容组的数量G。
6.根据权利要求1所述的方法,其特征在于,所述Redis实例队列包括主Redis实例队列和从Redis实例队列;
所述根据扩容组的数量G和每个扩容组所需的Redis实例的个数S生成Redis实例队列的步骤包括:根据待扩容的Redis实例的个数N以及每个扩容组所需的Redis实例的个数S,计算待创建扩容组的数量G;将G个Redis实例的标识信息存于主Redis实例队列中;将N-G个Redis实例的标识信息存于从Redis实例队列中;
所述根据当前集群可用的槽位创建G个扩容组,并且读取所述Redis实例队列,向每个扩容组中添加S个Redis实例的步骤包括:根据当前集群可用的槽位创建一个扩容组,并且,读取出所述主Redis实例队列中的一个标识信息以及所述从Redis实例队列中的S-1个标识信息,将读取出的标识信息添加到该扩容组;直至创建的扩容组的个数为G。
7.一种Codis集群扩容的装置,其特征在于,包括:
队列生成模块,用于根据待创建扩容组的数量G和每个待创建扩容组所需的Redis实例的个数S生成Redis实例队列;
创建模块,用于根据当前集群可用的槽位创建G个扩容组,并且读取所述Redis实例队列,向创建的每个扩容组中添加S个Redis实例。
8.根据权利要求7所述的装置,其特征在于,所述队列生成模块还用于,根据扩容组的数量G和每个扩容组所需的Redis实例的个数S,获取G*S个Redis实例的标识信息;以及,将获取到的Redis实例的标识信息存于Redis实例队列中。
9.根据权利要求7所述的装置,其特征在于,还包括确定模块,用于获取当前集群中的已有组的ID,根据所述已有组的ID获取对应的所述已有组在当前集群中的槽位;以及,根据所述已有组的槽位以及当前集群支持的组的最大数量,确定出当前集群可用的槽位。
10.根据权利要求9所述的装置,其特征在于,所述确定模块还用于,将所述可用的槽位存于槽位队列中;
所述创建模块还用于,读取所述槽位队列中的G个可用槽位,根据所述G个可用槽位创建G个扩容组;读取所述Redis实例队列中的标识信息,向每个扩容组中添加S个Redis实例。
11.根据权利要求7所述的装置,其特征在于,还包括判断模块,用于确定当前集群可用的槽位的数量大于所述待创建扩容组的数量G。
12.根据权利要求7所述的装置,其特征在于,所述队列生成模块还用于,根据待扩容的Redis实例的个数N以及每个扩容组所需的Redis实例的个数S,计算待创建扩容组的数量G;将G个Redis实例的标识信息存于主Redis实例队列中;将N-G个Redis实例的标识信息存于从Redis实例队列中;
所述创建模块还用于,根据当前集群可用的槽位创建一个扩容组,并且,读取出所述主Redis实例队列中的一个标识信息以及所述从Redis实例队列中的S-1个标识信息,将读取出的标识信息添加到该扩容组;直至创建的扩容组的个数为G。
13.一种Codis集群扩容的服务器,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。
14.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-6中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710946406.2A CN109656709B (zh) | 2017-10-12 | 2017-10-12 | 一种Codis集群扩容的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710946406.2A CN109656709B (zh) | 2017-10-12 | 2017-10-12 | 一种Codis集群扩容的方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109656709A true CN109656709A (zh) | 2019-04-19 |
CN109656709B CN109656709B (zh) | 2021-08-10 |
Family
ID=66109277
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710946406.2A Active CN109656709B (zh) | 2017-10-12 | 2017-10-12 | 一种Codis集群扩容的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109656709B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111262727A (zh) * | 2020-01-08 | 2020-06-09 | 广州虎牙科技有限公司 | 服务的扩容方法、装置、设备及存储介质 |
WO2021168618A1 (zh) * | 2020-02-24 | 2021-09-02 | 深圳市欢太科技有限公司 | redis集群扩容方法、装置、电子设备以及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102930062A (zh) * | 2012-11-30 | 2013-02-13 | 南京富士通南大软件技术有限公司 | 一种数据库快速水平扩展的方法 |
CN105677251A (zh) * | 2016-01-05 | 2016-06-15 | 上海瀚之友信息技术服务有限公司 | 基于Redis集群的存储系统 |
CN105760552A (zh) * | 2016-03-25 | 2016-07-13 | 北京奇虎科技有限公司 | 数据管理方法和装置 |
CN106571943A (zh) * | 2015-10-10 | 2017-04-19 | 北京国双科技有限公司 | 分布式架构集群扩容方法及装置 |
CN107526838A (zh) * | 2017-09-08 | 2017-12-29 | 北京京东尚科信息技术有限公司 | 数据库集群扩容的方法和装置 |
-
2017
- 2017-10-12 CN CN201710946406.2A patent/CN109656709B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102930062A (zh) * | 2012-11-30 | 2013-02-13 | 南京富士通南大软件技术有限公司 | 一种数据库快速水平扩展的方法 |
CN106571943A (zh) * | 2015-10-10 | 2017-04-19 | 北京国双科技有限公司 | 分布式架构集群扩容方法及装置 |
CN105677251A (zh) * | 2016-01-05 | 2016-06-15 | 上海瀚之友信息技术服务有限公司 | 基于Redis集群的存储系统 |
CN105760552A (zh) * | 2016-03-25 | 2016-07-13 | 北京奇虎科技有限公司 | 数据管理方法和装置 |
CN107526838A (zh) * | 2017-09-08 | 2017-12-29 | 北京京东尚科信息技术有限公司 | 数据库集群扩容的方法和装置 |
Non-Patent Citations (1)
Title |
---|
MEN_WEN: "Redis 学习笔记(十五)Redis Cluster 集群扩容与收缩", 《HTTPS://BLOG.CSDN.NET/MEN_WEN/ARTICLE/DETAILS/72896682》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111262727A (zh) * | 2020-01-08 | 2020-06-09 | 广州虎牙科技有限公司 | 服务的扩容方法、装置、设备及存储介质 |
WO2021168618A1 (zh) * | 2020-02-24 | 2021-09-02 | 深圳市欢太科技有限公司 | redis集群扩容方法、装置、电子设备以及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109656709B (zh) | 2021-08-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110472207A (zh) | 表单生成方法和装置 | |
CN108280685B (zh) | 信息获取方法和装置 | |
CN110019125A (zh) | 数据库管理的方法和装置 | |
CN110019503A (zh) | Redis集群的扩容和/或缩容的方法及装置 | |
CN109660397A (zh) | 用于采集日志的系统、方法和装置 | |
CN109033001A (zh) | 用于分配gpu的方法和装置 | |
CN109981322A (zh) | 基于标签的云资源管理的方法和装置 | |
CN110019080A (zh) | 数据访问方法和装置 | |
CN108510081A (zh) | 机器学习方法和平台 | |
CN109905286A (zh) | 一种监控设备运行状态的方法和系统 | |
CN109446274A (zh) | 大数据平台bi元数据管理的方法和装置 | |
CN110334036A (zh) | 一种实现缓存数据调度的方法和装置 | |
CN110377462A (zh) | 接口测试方法、装置及终端设备 | |
CN110019437A (zh) | 一种导出数据的方法和系统 | |
CN110377416A (zh) | 分布式分区任务调度方法和装置 | |
CN109783197A (zh) | 用于程序运行时环境的调度方法和装置 | |
CN110019158A (zh) | 一种监控数据质量的方法和装置 | |
CN109992495A (zh) | 接口测试的方法和装置 | |
CN109002385A (zh) | 用于数据流系统的压力测试方法和装置 | |
CN109656709A (zh) | 一种Codis集群扩容的方法和装置 | |
CN109976919A (zh) | 一种消息请求的传输方法和装置 | |
CN108196943B (zh) | 虚拟机管理方法和装置 | |
CN109960212A (zh) | 任务发送方法和装置 | |
CN110334248A (zh) | 一种系统配置信息处理方法和装置 | |
CN111435329A (zh) | 一种自动化测试方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |