CN104580393A - 用于服务器集群系统的扩容方法、装置及服务器集群系统 - Google Patents
用于服务器集群系统的扩容方法、装置及服务器集群系统 Download PDFInfo
- Publication number
- CN104580393A CN104580393A CN201410798371.9A CN201410798371A CN104580393A CN 104580393 A CN104580393 A CN 104580393A CN 201410798371 A CN201410798371 A CN 201410798371A CN 104580393 A CN104580393 A CN 104580393A
- Authority
- CN
- China
- Prior art keywords
- server
- cryptographic hash
- access request
- newly
- content
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Computer And Data Communications (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明公开了一种用于服务器集群系统的扩容方法、装置及服务器集群系统。该方法包括:负载均衡服务器接收来自客户端的第一访问请求;负载均衡服务器计算第一哈希值;负载均衡服务器确定对应第一哈希值的原始缓存服务器;负载均衡服务器计算第二哈希值;负载均衡服务器确定对应第二哈希值的缓存服务器;负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容;负载均衡服务器将接收到的内容发送给客户端。通过本发明,实现了新增缓存服务器通过从原始缓存服务器而非直接从源站获取服务内容,进而达到了提高缓存服务器的命中率、降低源站压力的效果。
Description
技术领域
本发明涉及内容分发网络领域,具体而言,涉及一种用于服务器集群系统的扩容方法、装置及服务器集群系统。
背景技术
内容分发网络(Content Delivery Network,简称为CDN),通过在现有的因特网中增加一层新的网络架构,将网站的内容发布到最接近用户的网络“边缘”,使用户可以就近取得所需的内容,从而提高用户访问网站的响应速度。
在互联网及CDN领域中,为了有效提高CDN自身的承载能力,提高CDN服务命中率,通常采用的是搭建服务器集群的方式。同时,利用一致性哈希(Hash)技术可以有效避免集群服务器扩容时对原有CDN集群缓存内容的影响,在新增加服务器资源得到有效利用的同时,使得从源站获取服务内容的比率得到有效控制,从而使CDN扩容给源站带来的压力变得可控。
现有的服务器集群扩容方法通常是采用负载均衡服务器(Load Balance Server,简称为LBS)和缓存(Cache)服务器共同组成CDN集群架构。图1给出了现有技术中服务器集群系统的扩容架构示意图。如图1所示,网民01通过浏览器等网页浏览软件,使用超文本传输(http)协议的方式浏览内容,请求到达F(LBS)。LBS通过提取网民http协议相关特征,以及通过一定的Hash策略定位后端Cache服务器(A、B或者C),将网民请求转发到后端Cache服务器。然后,Cache服务器判断请求内容是否命中,如果命中,将命中内容从本地读取;如果没有命中,将从源站获取内容,获取内容后,再将内容发送给LBS,由LBS发送给网民。
随着时间累积,服务器集群中服务器Cache A、B和C缓存内容将逐渐增多,集群命中率(即Cache服务器命中的请求数量/请求总数量)越来越高。当目前服务器集群Cache服务器容量或者集群访问请求承载量达到一定限度时,服务器集群需要进行扩容。假设需要增加服务器Cache D。LBS根据一致性Hash算法的平衡性原则,将原有集群中的服务器Cache A、B和C中的近1/4内容分配给服务器Cache D,从而导致命中率下降25%,增加了源站E的压力。如果扩容时增加的Cache服务器台数更多,命中率下降比例将更高,命中率下降比例等于m/(n+m),其中,m为增加的Cache服务器数量,n为原有Cache服务器数量。可见,现有的服务器集群扩容方法中,利用一致性Hash技术,虽然可以避免所有访问内容都回源,但仍然会导致命中率有一个较大比例的下降,从而导致源站压力增加。
针对相关技术中在服务器集群系统进行扩容后,发生响应的服务器的命中率下降,从源站获取服务内容的比率增大,从而导致源站压力增加的问题,目前尚未提出有效的解决方案。
发明内容
针对现有的服务器集群进行扩容后,发生响应的服务器的命中率下降,从而导致源站压力增加的问题而提出本发明,为此,本发明的主要目的在于提供一种服务器集群系统的扩容方法及系统,以解决上述问题。
为了实现上述目的,根据本发明的一个方面,提供了一种用于服务器集群系统的扩容方法。该方法包括:负载均衡服务器接收来自客户端的第一访问请求;负载均衡服务器计算第一哈希值,其中,第一哈希值是服务器集群系统未增加新增缓存服务器之前的哈希值,服务器集群系统包括原始缓存服务器和新增缓存服务器;负载均衡服务器确定对应第一哈希值的原始缓存服务器;负载均衡服务器计算第二哈希值,其中,第二哈希值是服务器集群系统增加新增缓存服务器之后的哈希值;负载均衡服务器确定对应第二哈希值的缓存服务器;如果对应第二哈希值的缓存服务器是新增缓存服务器,对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容,则负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容;负载均衡服务器将接收到的内容发送给客户端。
进一步地,在负载均衡服务器接收来自客户端的第一访问请求之前,该方法还包括:负载均衡服务器确定预设哈希记忆时间,如果对应第二哈希值的缓存服务器是新增缓存服务器,对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容,则负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容包括:如果对应第二哈希值的缓存服务器是新增缓存服务器,则负载均衡服务器判断预设哈希记忆时间是否过期;如果预设哈希记忆时间没有过期,则判断对应第二哈希值的新增缓存服务器中是否存在对应第一访问请求的内容;如果对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容,则负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容。
进一步地,负载均衡服务器确定对应第一哈希值的原始缓存服务器包括负载均衡服务器确定对应第一哈希值的原始缓存服务器的IP地址,如果对应第二哈希值的缓存服务器是新增缓存服务器,对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容,负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容包括:如果对应第二哈希值的缓存服务器是新增缓存服务器,则负载均衡服务器将第一访问请求和第一哈希值的原始缓存服务器的IP地址发送给对应第二哈希值的新增缓存服务器;如果对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容,则负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容,其中,对应第二哈希值的新增缓存服务器向对应第一哈希值的原始缓存服务器发出第二访问请求,第二访问请求包括第一访问请求和对应第二哈希值的新增缓存服务器的IP地址,对应第一哈希值的原始缓存服务器按照第二访问请求将对应第一访问请求的内容发送给对应第二哈希值的新增缓存服务器,对应第二哈希值的新增缓存服务器将对应第一访问请求的内容发送给负载均衡服务器。
进一步地,对应第一哈希值的原始缓存服务器按照第二访问请求将对应第一访问请求的内容发送给对应第二哈希值的新增缓存服务器包括:判断对应第一哈希值的原始缓存服务器是否存在对应第一访问请求的内容;如果对应第一哈希值的原始缓存服务器中存在对应第一访问请求的内容,则对应第一哈希值的原始缓存服务器将对应第一访问请求的内容发送给对应第二哈希值的新增缓存服务器;如果对应第一哈希值的原始缓存服务器中不存在对应第一访问请求的内容,则对应第一哈希值的原始缓存服务器从源站获取对应第一访问请求的内容;对应第一哈希值的原始缓存服务器将获取的对应第一访问请求的内容发送给对应第二哈希值的新增缓存服务器。
进一步地,负载均衡服务器确定对应第一哈希值的原始缓存服务器包括负载均衡服务器确定对应第一哈希值的第一原始缓存服务器,该方法还包括:如果对应第二哈希值的缓存服务器是第二原始缓存服务器,则判断第二原始缓存服务器中是否存在对应第一访问请求的内容;如果第二原始缓存服务器中存在对应第一访问请求的内容,则第二原始缓存服务器将对应第一访问请求的内容发送给负载均衡服务器,其中,负载均衡服务器用于接收原始缓存服务器发送的对应第一访问请求的内容;如果第二原始缓存服务器中不存在对应第一访问请求的内容,则第二原始缓存服务器向第一原始缓存服务器发出第三访问请求,其中,第三访问请求包括第一访问请求和第二原始缓存服务器的IP地址,第一原始缓存服务器接收第三访问请求,并判断是否存在对应第一访问请求的内容;如果第一原始缓存服务器中存在对应第一访问请求的内容,则第二原始缓存服务器接收第一原始缓存服务器发送的对应第一访问请求的内容,并将对应第一访问请求的内容发送给负载均衡服务器,其中,第一原始缓存服务器用于向第二原始缓存服务器发送对应第一访问请求的内容,负载均衡服务器用于接收第二原始缓存服务器发送的对应第一访问请求的内容;如果第一原始缓存服务器不存在对应第一访问请求的内容,则第二原始缓存服务器接收第一原始缓存服务器发送的对应第一访问请求的内容,并将对应第一访问请求的内容发送给负载均衡服务器,其中,第一原始缓存服务器用于向源站获取对应第一访问请求的内容,并将对应第一访问请求的内容发送给第二原始缓存服务器,负载均衡服务器用于接收第二原始缓存服务器发送的对应第一访问请求的内容。
为了实现上述目的,根据本发明的另一方面,提供了一种用于服务器集群系统的扩容装置,该装置包括:第一接收单元,用于接收来自客户端的第一访问请求;第一计算单元,用于计算第一哈希值,其中,第一哈希值是服务器集群系统未增加新增缓存服务器之前的哈希值,服务器集群系统包括原始缓存服务器和新增缓存服务器;第一确定单元,用于确定对应第一哈希值的原始缓存服务器;第二计算单元,用于计算第二哈希值,其中,第二哈希值是服务器集群系统增加新增缓存服务器之后的哈希值;第二确定单元,用于确定对应第二哈希值的缓存服务器;第二接收单元,用于在对应第二哈希值的缓存服务器是新增缓存服务器,对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容时,经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容;发送单元,用于将接收到的内容发送给客户端。
进一步地,该装置还包括:第三确定单元,用于在接收来自客户端的第一访问请求之前确定预设哈希记忆时间,第二接收单元包括:第一判断模块,用于在对应第二哈希值的缓存服务器是新增缓存服务器时,判断预设哈希记忆时间是否过期;第二判断模块,用于在预设哈希记忆时间没有过期时,判断对应第二哈希值的新增缓存服务器中是否存在对应第一访问请求的内容;第一接收模块,用于在对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容时,经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容。
进一步地,第一确定单元,用于确定对应第一哈希值的原始缓存服务器的IP地址,第二接收单元包括:发送模块,用于在对应第二哈希值的缓存服务器是新增缓存服务器时,将第一访问请求和第一哈希值的原始缓存服务器的IP地址发送给对应第二哈希值的新增缓存服务器;第二接收模块,用于在对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容时,经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容,其中,对应第二哈希值的新增缓存服务器向对应第一哈希值的原始缓存服务器发出第二访问请求,第二访问请求包括第一访问请求和对应第二哈希值的新增缓存服务器的IP,对应第一哈希值的原始缓存服务器按照第二访问请求将对应第一访问请求的内容发送给对应第二哈希值的新增缓存服务器,对应第二哈希值的新增缓存服务器发送对应第一访问请求的内容。
为了实现上述目的,根据本发明的另一方面,提供了一种服务器集群系统,该系统包括:客户端,用于发送第一访问请求;原始缓存服务器,用于发送对应第一访问请求的内容;新增缓存服务器,用于接收来自于原始缓存服务器的对应第一访问请求的内容;负载均衡服务器,用于接收来自客户端的第一访问请求,计算第一哈希值,确定对应第一哈希值的原始缓存服务器,计算第二哈希值,确定对应第二哈希值的缓存服务器,在确定的对应第二哈希值的缓存服务器为新增缓存服务器,对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容时,经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容,并将接收到的内容发送给客户端,其中,第一哈希值是服务器集群系统未增加新增缓存服务器之前的哈希值,第二哈希值是服务器集群系统增加新增缓存服务器之后的哈希值。
进一步地,负载均衡服务器还用于在负载均衡服务器接收来自客户端的第一访问请求之前,确定预设哈希记忆时间,在对应第二哈希值的缓存服务器是新增缓存服务器,对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容时,负载均衡服务器用于通过以下方式接收对应第一访问请求的内容:负载均衡服务器判断预设哈希记忆时间是否过期;在预设哈希记忆时间没有过期时,判断对应第二哈希值的新增缓存服务器中是否存在对应第一访问请求的内容;在对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容时,负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容。
通过本发明,采用包括以下步骤的方法:负载均衡服务器接收来自客户端的第一访问请求;负载均衡服务器计算第一哈希值,其中,第一哈希值是服务器集群系统未增加新增缓存服务器之前的哈希值,服务器集群系统包括原始缓存服务器和新增缓存服务器;负载均衡服务器确定对应第一哈希值的原始缓存服务器;负载均衡服务器计算第二哈希值,其中,第二哈希值是服务器集群系统增加新增缓存服务器之后的哈希值;负载均衡服务器确定对应第二哈希值的缓存服务器;如果对应第二哈希值的缓存服务器是新增缓存服务器,对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容,则负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容;负载均衡服务器将接收到的内容发送给客户端,解决了服务器集群进行扩容后,发生响应的缓存服务器的命中率下降,从而导致源站压力增加的问题,进而达到了通过新增缓存服务器从原始缓存服务器而非直接从源站获取服务内容,进而达到了提高缓存服务器的命中率、降低源站压力的效果。
附图说明
构成本申请的一部分的附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是现有技术中服务器集群系统的扩容架构示意图;
图2是根据本发明的用于服务器集群系统的扩容方法的第一实施例的流程图;
图3是根据本发明的服务器集群系统的扩容架构示意图;
图4是根据本发明的用于服务器集群系统的扩容方法的第二实施例的流程图;
图5是根据本发明的用于服务器集群系统的扩容装置的第一实施例的结构框图;
图6是根据本发明的用于服务器集群系统的扩容装置的第二实施例的结构框图;以及
图7是根据本发明的服务器集群系统的第一实施例的示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本发明。
图2是根据本发明的用于服务器集群系统的扩容方法的第一实施例的流程图。如图2所示,该方法包括如下步骤:
步骤S102,负载均衡服务器接收来自客户端的第一访问请求。
负载均衡服务器(Load Balance Server,简称为LBS),是服务器集群系统的控制服务器,所有用户的请求都首先到该服务器,然后由该服务器根据各个实际处理服务器状态将请求具体分配到某个实际处理服务器中,对外公开的域名与IP地址都是这台服务器。
客户端的第一访问请求,是指客户端访问源站的请求信息。源站是实际提供服务的网站,从缓存服务器中获取的服务内容是源站中相关内容在缓存服务器中的缓存。
步骤S104,负载均衡服务器计算第一哈希值,其中,第一哈希值是服务器集群系统未增加新增缓存服务器之前的哈希值,服务器集群系统包括原始缓存服务器和新增缓存服务器。
集群系统中的缓存(Cache)服务器,用来存储网络上的其他用户需要的网页、文件等。它将需要频繁访问的网页和对象保存在离用户更近的系统中。当再次访问这些对象时,不仅可以使用户得到他们想要的信息,而且可以减少网络的交换量。
需要说明的是,当目前的服务器集群系统中的Cache服务器容量或者集群系统访问请求承载量达到一定限度时,服务器集群系统便需要扩容,即增加新的Cache服务器。同时,当增加新的Cache服务器时,在LBS上会标识新增Cache服务器,以区别于原始Cache服务器。
哈希(Hash)技术,是把任意长度的输入(预映射),通过散列算法,变换成固定长度的输出的技术。Hash算法的一个衡量指标是单调性。单调性是指如果已经有一些内容通过Hash技术分派到了相应的缓冲服务器中,又有新的缓冲服务器加入到系统中。Hash的结果应能够保证原有已分配的内容可以被映射到新的缓冲服务器中去,而不会被映射到旧的缓冲集合中的其他缓冲区。一些简单的Hash算法难以满足单调性条件。
一致性Hash技术,提出了在动态变化的缓冲存储环境中,Hash算法应满足的4个适应性条件:平衡性、单调性、分散性和负载。一致性Hash算法,在移除或者添加一个缓存服务器时,它能够尽可能小的改变已存在的键值的映射关系,尽可能的满足单调性的要求。
该步骤中的第一哈希值,是利用一致性Hash技术,在考虑服务器集群系统中不包含新增缓存服务器的条件下(即扩容前的架构),负载均衡服务器根据提取到的网民的第一访问请求的HTTP协议的相关信息,计算得到的值。
步骤S106,负载均衡服务器确定对应第一哈希值的原始缓存服务器。
根据第一哈希值,负载均衡服务器可以将用户的访问请求定位到后端的原始缓存服务器,即指定后端哪个原始缓存服务器接收该请求消息。
例如,图3给出了根据本发明的服务器集群系统的扩容架构示意图。在图3中,A、B和C是原始缓存服务器,D为新增缓存服务器,E为源站,F为LBS,01为客户端。根据计算得到的第一哈希值,可以定位到Cache服务器A、B或者C。
步骤S108,负载均衡服务器计算第二哈希值,其中,第二哈希值是服务器集群系统增加新增缓存服务器之后的哈希值。
在考虑服务器集群系统中包含新增缓存服务器的条件下(即扩容后的架构),负载均衡服务器根据提取到的网民的第一访问请求的HTTP协议的相关信息,计算得到的值。
步骤S110,负载均衡服务器确定对应第二哈希值的缓存服务器。
根据第二哈希值,负载均衡服务器可以将用户的访问请求定位到后端的缓存服务器,即指定后端哪个缓存服务器接收该请求消息。对应第二哈希值的缓存服务器可能为原始缓存服务器,也可能为新增缓存服务器。
步骤S112,如果对应第二哈希值的缓存服务器是新增缓存服务器,对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容,则负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容。
例如,在图3中,如果根据二哈希值确定的缓存服务器为新增缓存服务器D,则负载均衡服务器将经由新增缓存服务器D接收Cache服务器A、B或者C中的对应访问请求信息的缓存信息。
需要说明的是,在第二哈希值确定的缓存服务器为新增缓存服务器(Cache服务器D),且新增缓存服务器中不存在对应第一访问请求的内容的情况下,本发明中,负载均衡服务器不能直接从原始缓存服务器(如图3中的Cache服务器A、B或者C)中获取相应于访问请求的信息,原始缓存服务器将相关信息首先发送给新增缓存服务器(如图3中的Cache服务器D),再由新增缓存服务器将相关信息发送给负载均衡服务器。
需要说明的是,新增缓存服务器将接收到的内容发送给LBS的同时,会将该内容缓存下来,当再次有相同的请求访问该新增缓存服务器时,新增缓存服务器将直接把缓存内容发送给LBS,而不再访问原始缓存服务器。
优选地,负载均衡服务器确定对应第一哈希值的原始缓存服务器包括负载均衡服务器确定对应第一哈希值的原始缓存服务器的IP地址。如果对应第二哈希值的缓存服务器是新增缓存服务器,对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容,负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容可以通过如下步骤实现:如果对应第二哈希值的缓存服务器是新增缓存服务器,则负载均衡服务器将第一访问请求和第一哈希值的原始缓存服务器的IP地址发送给对应第二哈希值的新增缓存服务器;如果对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容,则负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容,其中,对应第二哈希值的新增缓存服务器向对应第一哈希值的原始缓存服务器发出第二访问请求,第二访问请求包括第一访问请求和对应第二哈希值的新增缓存服务器的IP,对应第一哈希值的原始缓存服务器按照第二访问请求将对应第一访问请求的内容发送给对应第二哈希值的新增缓存服务器,对应第二哈希值的新增缓存服务器将对应第一访问请求的内容发送给负载均衡服务器。
这里,在第二访问请求信息中包含了对应第一哈希值的原始缓存服务器的IP地址和第一访问请求,根据该IP地址,第二访问请求将传达给对应的原始缓存服务器,从而向该原始缓存服务器寻求对应第一访问请求的内容。
优选地,对应第一哈希值的原始缓存服务器按照第二访问请求将对应第一访问请求的内容发送给对应第二哈希值的新增缓存服务器可以通过如下步骤实现:判断对应第一哈希值的原始缓存服务器是否存在对应第一访问请求的内容;如果对应第一哈希值的原始缓存服务器中存在对应第一访问请求的内容,则对应第一哈希值的原始缓存服务器将对应第一访问请求的内容发送给对应第二哈希值的新增缓存服务器;如果对应第一哈希值的原始缓存服务器中不存在对应第一访问请求的内容,则对应第一哈希值的原始缓存服务器从源站获取对应第一访问请求的内容;对应第一哈希值的原始缓存服务器将获取的对应第一访问请求的内容发送给对应第二哈希值的新增缓存服务器。
由于对应第一哈希值的原始缓存服务器中可能存在对应第一访问请求的内容,也可能不存在对应第一访问请求的内容。因此,当对应第一哈希值的原始缓存服务器存在对应第一访问请求的内容时,可直接把对应第一访问请求的内容发送给对应第二哈希值的新增缓存服务器,并由对应第二哈希值的新增缓存服务器将对应第一访问请求的内容发送给负载均衡服务器,继而发送给客户端。当对应第一哈希值的原始缓存服务器中不存在对应第一访问请求的内容时,对应第一哈希值的原始缓存服务器则需要从源站获取对应第一访问请求的内容,并将该内容发送给对应第一哈希值的原始缓存服务器,对应第一哈希值的原始缓存服务器将该内容再发送给对应第二哈希值的新增缓存服务器,并由对应第二哈希值的新增缓存服务器将该内容发送给负载均衡服务器,继而发送给客户端。
步骤S114,负载均衡服务器将接收到的内容发送给客户端。
负载均衡服务器既向缓存服务器传递客户端的访问请求,同时将缓存服务器的回应传递给客户端。
该实施例由于采取了以下步骤:负载均衡服务器接收来自客户端的第一访问请求;负载均衡服务器计算第一哈希值,其中,第一哈希值是服务器集群系统未增加新增缓存服务器之前的哈希值,服务器集群系统包括原始缓存服务器和新增缓存服务器;负载均衡服务器确定对应第一哈希值的原始缓存服务器;负载均衡服务器计算第二哈希值,其中,第二哈希值是服务器集群系统增加新增缓存服务器之后的哈希值;负载均衡服务器确定对应第二哈希值的缓存服务器;如果对应第二哈希值的缓存服务器是新增缓存服务器,对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容,则负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容;负载均衡服务器将接收到的内容发送给客户端,使得服务器集群系统进行扩容时,新增缓存服务器从原始缓存服务器而非直接从源站获取服务内容,进而达到了提高缓存服务器的命中率、降低源站压力的效果。
图4是根据本发明的用于服务器集群系统的扩容方法的第二实施例的流程图。该实施例可以作为图2所示实施例的一种优选实施方式,如图4所示,该用于服务器集群系统的扩容方法包括:
步骤S201,负载均衡服务器确定预设哈希记忆时间。
哈希技术可以利用键值快速计算出所需内容的存储位置,哈希记忆的内容是键值。这里,可以根据需求设置哈希记忆时间。例如,设置哈希记忆时间为“1 day”,即记忆时间为一天。
步骤S202,负载均衡服务器接收来自客户端的第一访问请求。
该步骤同上述步骤S102,这里不再赘述。
步骤S203,负载均衡服务器计算第一哈希值,其中,第一哈希值是服务器集群系统未增加新增缓存服务器之前的哈希值,服务器集群系统包括原始缓存服务器和新增缓存服务器。
该步骤同上述步骤S104,这里不再赘述。
步骤S204,负载均衡服务器确定对应第一哈希值的原始缓存服务器。
该步骤同上述步骤S106,这里不再赘述。
步骤S205,负载均衡服务器计算第二哈希值,其中,第二哈希值是服务器集群系统增加新增缓存服务器之后的哈希值。
该步骤同上述步骤S108,这里不再赘述。
步骤S206,负载均衡服务器确定对应第二哈希值的缓存服务器。
该步骤同上述步骤S110,这里不再赘述。
步骤S207,如果对应第二哈希值的缓存服务器是新增缓存服务器,则负载均衡服务器判断预设哈希记忆时间是否过期。
需要说明的是,当负载均衡服务器设置的哈希记忆时间过期后,哈希记忆功能将被取消。
步骤S208,如果预设哈希记忆时间没有过期,则判断对应第二哈希值的新增缓存服务器中是否存在对应第一访问请求的内容。
预设哈希记忆时间没有过期说明负载均衡服务器在计算的第二哈希值对应的是新增缓存服务器时,依旧记忆了第一哈希值对应的原始缓存服务器。这样,可以在第二哈希值对应的新增缓存服务器中不存在第一访问请求内容时,可以追溯至第一哈希值对应的原始缓存服务器。
步骤S209,如果对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容,则负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容。
该步骤同上述步骤S112,这里不再赘述。
步骤S210,负载均衡服务器将接收到的内容发送给客户端。
该步骤同上述步骤S114,这里不再赘述。
该实施例由于采取以下步骤:负载均衡服务器确定预设哈希记忆时间;负载均衡服务器接收来自客户端的第一访问请求;负载均衡服务器计算第一哈希值,其中,第一哈希值是服务器集群系统未增加新增缓存服务器之前的哈希值,服务器集群系统包括原始缓存服务器和新增缓存服务器;负载均衡服务器确定对应第一哈希值的原始缓存服务器;负载均衡服务器计算第二哈希值,其中,第二哈希值是服务器集群系统增加新增缓存服务器之后的哈希值;负载均衡服务器确定对应第二哈希值的缓存服务器;如果对应第二哈希值的缓存服务器是新增缓存服务器,则负载均衡服务器判断预设哈希记忆时间是否过期;如果预设哈希记忆时间没有过期,则判断对应第二哈希值的新增缓存服务器中是否存在对应第一访问请求的内容;如果对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容,则负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容;负载均衡服务器将接收到的内容发送给客户端,在服务器集群系统扩容过程中,对哈希算法引入了记忆功能,能够在服务器集群系统扩容时最大限度的减小命中率下降的比例,减小源站的压力。
可选地,负载均衡服务器确定对应第一哈希值的为第一原始缓存服务器,如果对应第二哈希值的缓存服务器是第二原始缓存服务器,则判断第二原始缓存服务器中是否存在对应第一访问请求的内容;如果第二原始缓存服务器中存在对应第一访问请求的内容,则第二原始缓存服务器将对应第一访问请求的内容发送给负载均衡服务器,其中,负载均衡服务器用于接收原始缓存服务器发送的对应第一访问请求的内容;如果第二原始缓存服务器中不存在对应第一访问请求的内容,则第二原始缓存服务器向第一原始缓存服务器发出第三访问请求,其中,第三访问请求包括第一访问请求和第二原始缓存服务器的IP地址,第一原始缓存服务器接收第三访问请求,并判断是否存在对应第一访问请求的内容;如果第一原始缓存服务器中存在对应第一访问请求的内容,则第二原始缓存服务器接收第一原始缓存服务器发送的对应第一访问请求的内容,并将对应第一访问请求的内容发送给负载均衡服务器,其中,第一原始缓存服务器用于向第二原始缓存服务器发送对应第一访问请求的内容,负载均衡服务器用于接收第二原始缓存服务器发送的对应第一访问请求的内容;如果第一原始缓存服务器不存在对应第一访问请求的内容,则第二原始缓存服务器接收第一原始缓存服务器发送的对应第一访问请求的内容,并将对应第一访问请求的内容发送给负载均衡服务器,其中,第一原始缓存服务器用于向源站获取对应第一访问请求的内容,并将对应第一访问请求的内容发送给第二原始缓存服务器,负载均衡服务器用于接收第二原始缓存服务器发送的对应第一访问请求的内容。
例如,假设在图3中,如果根据第一哈希值定位到的后端Cache服务器为原始Cache服务器C,根据第二哈希值定位到的后端Cache服务器为原始Cache服务器A,且Cache服务器A和C中均不存在对应第一访问请求的内容,则Cache服务器C将返回源站取一份相应内容,并将其发送给原始Cache服务器A。
可选地,如果第二哈希值定位到的后端Cache服务器为新增缓存服务器,新增缓存服务器中存在对应第一访问请求的内容,则新增缓存服务器不需要返回源站或者向邻近的原始缓存服务器寻求相关内容,直接将对应第一访问请求的内容发送给负载均衡服务器,其中,负载均衡服务器用于接收新增缓存服务器发送的对应第一访问请求的内容。
需要说明的是,本发明实施例的用于服务器集群系统的扩容装置可以用于执行本发明实施例所提供的用于服务器集群系统的扩容方法,本发明实施例的用于服务器集群系统的扩容方法也可以通过本发明实施例所提供的用于服务器集群系统的扩容装置来执行。
同时,需要说明的是,下面提供的用于服务器集群系统的扩容装置的作用同于上述用于服务器集群系统的扩容方法中的负载均衡服务器。
图5是根据本发明的用于服务器集群系统的扩容装置的第一实施例的结构框图。如图5所示,该装置结构包括:
第一接收单元22,用于接收来自客户端的第一访问请求。
客户端的第一访问请求,是指客户端访问源站的请求信息。源站是实际提供服务的网站,从缓存服务器中获取的服务内容是源站中相关内容在缓存服务器中的缓存。
第一计算单元24,用于计算第一哈希值,其中,第一哈希值是服务器集群系统未增加新增缓存服务器之前的哈希值,服务器集群系统包括原始缓存服务器和新增缓存服务器。
第一确定单元26,用于确定对应第一哈希值的原始缓存服务器。
根据第一哈希值,该单元可以将用户的访问请求定位到后端的缓存服务器,即指定后端哪个缓存服务器接收该请求消息。
第二计算单元28,用于计算第二哈希值,其中,第二哈希值是服务器集群系统增加新增缓存服务器之后的哈希值。
第二确定单元210,用于确定对应第二哈希值的缓存服务器。
第二接收单元212,用于在对应第二哈希值的缓存服务器是新增缓存服务器,对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容时,经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容。
发送单元214,用于将接收到的内容发送给客户端。
本实施例提供的用于服务器集群系统的扩容装置包括:第一接收单元22、第一计算单元24、第一确定单元26、第二计算单元28、第二确定单元210、第二接收单元212和发送单元214。通过该装置,使得服务器集群进行扩容时,新增缓存服务器从原始缓存服务器而非直接从源站获取服务内容,进而达到了提高缓存服务器的命中率、降低源站压力的效果。
图6是根据本发明的用于服务器集群系统的扩容装置的第二实施例的结构框图。该实施例可以作为图5所示实施例的一种优选实施方式,如图6所示,该装置结构包括:
第三确定单元21、第一接收单元22、第一计算单元24、第一确定单元26、第二计算单元28、第二确定单元210、第二接收单元212、发送单元214。第二接收单元212还可以包括第一判断模块31、第二判断模块32、第一接收模块33。
第一接收单元22、第一计算单元24、第一确定单元26、第二计算单元28、第二确定单元210、第二接收单元212、发送单元214与图4中相同,这里不再赘述。
第三确定单元21,用于在接收来自客户端的第一访问请求之前确定预设哈希记忆时间。
第一判断模块31,用于在对应第二哈希值的缓存服务器是新增缓存服务器时,判断预设哈希记忆时间是否过期。
第二判断模块32,用于在预设哈希记忆时间没有过期时,判断对应第二哈希值的新增缓存服务器中是否存在对应第一访问请求的内容。
第一接收模块33,用于在对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容时,经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容。
本实施例提供的用于服务器集群系统的扩容装置包括:第三确定单元21、第一接收单元22、第一计算单元24、第一确定单元26、第二计算单元28、第二确定单元210、第二接收单元212、发送单元214。通过该装置,对Hash算法引入了记忆功能,能够在服务器集群系统扩容时最大限度的减小命中率下降的比例,减小源站的压力。
可选地,第一确定单元,还用于确定对应第一哈希值的原始缓存服务器的IP地址,第二接收单元可以包括如下模块:发送模块,用于在对应第二哈希值的缓存服务器是新增缓存服务器时,将第一访问请求和第一哈希值的原始缓存服务器的IP地址发送给对应第二哈希值的新增缓存服务器;第二接收模块,用于在对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容时,经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容,其中,对应第二哈希值的新增缓存服务器向对应第一哈希值的原始缓存服务器发出第二访问请求,第二访问请求包括第一访问请求和对应第二哈希值的新增缓存服务器的IP,对应第一哈希值的原始缓存服务器按照第二访问请求将对应第一访问请求的内容发送给对应第二哈希值的新增缓存服务器,对应第二哈希值的新增缓存服务器发送对应第一访问请求的内容。
需要说明的是,本发明实施例的服务器集群系统可以用于执行本发明实施例所提供的用于服务器集群系统的扩容方法,本发明实施例的用于服务器集群系统的扩容方法也可以通过本发明实施例所提供的服务器集群系统来执行。
图7是根据本发明的服务器集群系统的第一实施例的示意图。如图7所示,该系统包括:客户端10、原始缓存服务器20、新增缓存服务器30和负载均衡服务器40。
客户端10,用于发送第一访问请求。
原始缓存服务器20,用于发送对应第一访问请求的内容。
新增缓存服务器30,用于接收来自于原始缓存服务器的对应第一访问请求的内容。
负载均衡服务器40,用于接收来自客户端的第一访问请求,计算第一哈希值,确定对应第一哈希值的原始缓存服务器,计算第二哈希值,确定对应第二哈希值的缓存服务器,在确定的对应第二哈希值的缓存服务器为新增缓存服务器,对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容时,经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容,并将接收到的内容发送给客户端,其中,第一哈希值是服务器集群系统未增加新增缓存服务器之前的哈希值,第二哈希值是服务器集群系统增加新增缓存服务器之后的哈希值。
优选地,负载均衡服务器还用于在负载均衡服务器接收来自客户端的第一访问请求之前,确定预设哈希记忆时间,在对应第二哈希值的缓存服务器是新增缓存服务器,对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容时,负载均衡服务器用于通过以下方式接收对应第一访问请求的内容:负载均衡服务器判断预设哈希记忆时间是否过期;在预设哈希记忆时间没有过期时,判断对应第二哈希值的新增缓存服务器中是否存在对应第一访问请求的内容;在对应第二哈希值的新增缓存服务器中不存在对应第一访问请求的内容时,负载均衡服务器经由对应第二哈希值的新增缓存服务器接收对应第一哈希值的原始缓存服务器中对应第一访问请求的内容。
本实施例提供的服务器集群系统包括:客户端10、原始缓存服务器20、新增缓存服务器30和负载均衡服务器40,使得服务器集群系统进行扩容时,新增缓存服务器从原始缓存服务器而非直接从源站获取服务内容,进而达到了提高缓存服务器的命中率、降低源站压力的效果。
显然,本领域的技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
以上仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种用于服务器集群系统的扩容方法,其特征在于,包括:
负载均衡服务器接收来自客户端的第一访问请求;
所述负载均衡服务器计算第一哈希值,其中,所述第一哈希值是服务器集群系统未增加新增缓存服务器之前的哈希值,所述服务器集群系统包括原始缓存服务器和所述新增缓存服务器;
所述负载均衡服务器确定对应所述第一哈希值的原始缓存服务器;
所述负载均衡服务器计算第二哈希值,其中,所述第二哈希值是所述服务器集群系统增加新增缓存服务器之后的哈希值;
所述负载均衡服务器确定对应所述第二哈希值的缓存服务器;
如果对应所述第二哈希值的缓存服务器是新增缓存服务器,对应所述第二哈希值的新增缓存服务器中不存在对应所述第一访问请求的内容,则所述负载均衡服务器经由对应所述第二哈希值的新增缓存服务器接收对应所述第一哈希值的原始缓存服务器中对应所述第一访问请求的内容;以及
所述负载均衡服务器将接收到的内容发送给所述客户端。
2.根据权利要求1所述的方法,其特征在于,
在负载均衡服务器接收来自客户端的第一访问请求之前,所述方法还包括:所述负载均衡服务器确定预设哈希记忆时间,
如果对应所述第二哈希值的缓存服务器是新增缓存服务器,对应所述第二哈希值的新增缓存服务器中不存在对应所述第一访问请求的内容,则所述负载均衡服务器经由对应所述第二哈希值的新增缓存服务器接收对应所述第一哈希值的原始缓存服务器中对应所述第一访问请求的内容包括:
如果对应所述第二哈希值的缓存服务器是新增缓存服务器,则所述负载均衡服务器判断所述预设哈希记忆时间是否过期;
如果所述预设哈希记忆时间没有过期,则判断对应所述第二哈希值的新增缓存服务器中是否存在对应所述第一访问请求的内容;以及
如果对应所述第二哈希值的新增缓存服务器中不存在对应所述第一访问请求的内容,则所述负载均衡服务器经由对应所述第二哈希值的新增缓存服务器接收对应所述第一哈希值的原始缓存服务器中对应所述第一访问请求的内容。
3.根据权利要求1所述的方法,其特征在于,
所述负载均衡服务器确定对应所述第一哈希值的原始缓存服务器包括所述负载均衡服务器确定对应所述第一哈希值的原始缓存服务器的IP地址,
如果对应所述第二哈希值的缓存服务器是新增缓存服务器,对应所述第二哈希值的新增缓存服务器中不存在对应所述第一访问请求的内容,所述负载均衡服务器经由对应所述第二哈希值的新增缓存服务器接收对应所述第一哈希值的原始缓存服务器中对应所述第一访问请求的内容包括:
如果对应所述第二哈希值的缓存服务器是新增缓存服务器,则所述负载均衡服务器将所述第一访问请求和所述第一哈希值的原始缓存服务器的IP地址发送给对应所述第二哈希值的新增缓存服务器;以及
如果对应所述第二哈希值的新增缓存服务器中不存在对应所述第一访问请求的内容,则所述负载均衡服务器经由对应所述第二哈希值的新增缓存服务器接收对应所述第一哈希值的原始缓存服务器中对应所述第一访问请求的内容,其中,对应所述第二哈希值的新增缓存服务器向对应所述第一哈希值的原始缓存服务器发出第二访问请求,所述第二访问请求包括所述第一访问请求和对应所述第二哈希值的新增缓存服务器的IP地址,对应所述第一哈希值的原始缓存服务器按照所述第二访问请求将对应所述第一访问请求的内容发送给对应所述第二哈希值的新增缓存服务器,对应所述第二哈希值的新增缓存服务器将对应所述第一访问请求的内容发送给所述负载均衡服务器。
4.根据权利要求3所述的方法,其特征在于,对应所述第一哈希值的原始缓存服务器按照所述第二访问请求将对应所述第一访问请求的内容发送给对应所述第二哈希值的新增缓存服务器包括:
判断对应所述第一哈希值的原始缓存服务器是否存在对应所述第一访问请求的内容;
如果对应所述第一哈希值的原始缓存服务器中存在对应所述第一访问请求的内容,则对应所述第一哈希值的原始缓存服务器将对应所述第一访问请求的内容发送给对应所述第二哈希值的新增缓存服务器;
如果对应所述第一哈希值的原始缓存服务器中不存在对应所述第一访问请求的内容,则对应所述第一哈希值的原始缓存服务器从源站获取对应所述第一访问请求的内容;以及
对应所述第一哈希值的原始缓存服务器将获取的对应所述第一访问请求的内容发送给对应所述第二哈希值的新增缓存服务器。
5.根据权利要求1所述的方法,其特征在于,所述负载均衡服务器确定对应所述第一哈希值的原始缓存服务器包括所述负载均衡服务器确定对应所述第一哈希值的第一原始缓存服务器,所述方法还包括:
如果对应所述第二哈希值的缓存服务器是第二原始缓存服务器,则判断所述第二原始缓存服务器中是否存在对应所述第一访问请求的内容;
如果所述第二原始缓存服务器中存在对应所述第一访问请求的内容,则所述第二原始缓存服务器将对应所述第一访问请求的内容发送给所述负载均衡服务器,其中,所述负载均衡服务器用于接收所述原始缓存服务器发送的对应所述第一访问请求的内容;
如果所述第二原始缓存服务器中不存在对应所述第一访问请求的内容,则所述第二原始缓存服务器向所述第一原始缓存服务器发出第三访问请求,其中,所述第三访问请求包括所述第一访问请求和所述第二原始缓存服务器的IP地址,所述第一原始缓存服务器接收所述第三访问请求,并判断是否存在对应所述第一访问请求的内容;
如果所述第一原始缓存服务器中存在对应所述第一访问请求的内容,则所述第二原始缓存服务器接收所述第一原始缓存服务器发送的对应所述第一访问请求的内容,并将对应所述第一访问请求的内容发送给所述负载均衡服务器,其中,所述第一原始缓存服务器用于向所述第二原始缓存服务器发送对应所述第一访问请求的内容,所述负载均衡服务器用于接收所述第二原始缓存服务器发送的对应所述第一访问请求的内容;以及
如果所述第一原始缓存服务器不存在对应所述第一访问请求的内容,则所述第二原始缓存服务器接收所述第一原始缓存服务器发送的对应所述第一访问请求的内容,并将对应所述第一访问请求的内容发送给所述负载均衡服务器,其中,所述第一原始缓存服务器用于向所述源站获取对应所述第一访问请求的内容,并将对应所述第一访问请求的内容发送给所述第二原始缓存服务器,所述负载均衡服务器用于接收所述第二原始缓存服务器发送的对应所述第一访问请求的内容。
6.一种用于服务器集群系统的扩容装置,其特征在于,包括:
第一接收单元,用于接收来自客户端的第一访问请求;
第一计算单元,用于计算第一哈希值,其中,所述第一哈希值是服务器集群系统未增加新增缓存服务器之前的哈希值,所述服务器集群系统包括原始缓存服务器和所述新增缓存服务器;
第一确定单元,用于确定对应所述第一哈希值的原始缓存服务器;
第二计算单元,用于计算第二哈希值,其中,所述第二哈希值是所述服务器集群系统增加新增缓存服务器之后的哈希值;
第二确定单元,用于确定对应所述第二哈希值的缓存服务器;
第二接收单元,用于在对应所述第二哈希值的缓存服务器是新增缓存服务器,对应所述第二哈希值的新增缓存服务器中不存在对应所述第一访问请求的内容时,经由对应所述第二哈希值的新增缓存服务器接收对应所述第一哈希值的原始缓存服务器中对应所述第一访问请求的内容;以及
发送单元,用于将接收到的内容发送给所述客户端。
7.根据权利要求6所述的装置,其特征在于,
所述装置还包括:第三确定单元,用于在接收来自客户端的第一访问请求之前确定预设哈希记忆时间,
所述第二接收单元包括:
第一判断模块,用于在对应所述第二哈希值的缓存服务器是新增缓存服务器时,判断所述预设哈希记忆时间是否过期;
第二判断模块,用于在所述预设哈希记忆时间没有过期时,判断对应所述第二哈希值的新增缓存服务器中是否存在对应所述第一访问请求的内容;以及
第一接收模块,用于在对应所述第二哈希值的新增缓存服务器中不存在对应所述第一访问请求的内容时,经由对应所述第二哈希值的新增缓存服务器接收对应所述第一哈希值的原始缓存服务器中对应所述第一访问请求的内容。
8.根据权利要求6所述的装置,其特征在于,
所述第一确定单元,用于确定对应所述第一哈希值的原始缓存服务器的IP地址,
所述第二接收单元包括:
发送模块,用于在对应所述第二哈希值的缓存服务器是新增缓存服务器时,将所述第一访问请求和所述第一哈希值的原始缓存服务器的IP地址发送给对应所述第二哈希值的新增缓存服务器;以及
第二接收模块,用于在对应所述第二哈希值的新增缓存服务器中不存在对应所述第一访问请求的内容时,经由对应所述第二哈希值的新增缓存服务器接收对应所述第一哈希值的原始缓存服务器中对应所述第一访问请求的内容,其中,对应所述第二哈希值的新增缓存服务器向对应所述第一哈希值的原始缓存服务器发出第二访问请求,所述第二访问请求包括所述第一访问请求和对应所述第二哈希值的新增缓存服务器的IP地址,对应所述第一哈希值的原始缓存服务器按照所述第二访问请求将对应所述第一访问请求的内容发送给对应所述第二哈希值的新增缓存服务器,对应所述第二哈希值的新增缓存服务器发送对应所述第一访问请求的内容。
9.一种服务器集群系统,其特征在于,包括:
客户端,用于发送第一访问请求;
原始缓存服务器,用于发送对应所述第一访问请求的内容;
新增缓存服务器,用于接收来自于所述原始缓存服务器的对应所述第一访问请求的内容;以及
负载均衡服务器,用于接收来自所述客户端的第一访问请求,计算第一哈希值,确定对应所述第一哈希值的原始缓存服务器,计算第二哈希值,确定对应所述第二哈希值的缓存服务器,在确定的对应所述第二哈希值的缓存服务器为所述新增缓存服务器,对应所述第二哈希值的新增缓存服务器中不存在对应所述第一访问请求的内容时,经由对应所述第二哈希值的新增缓存服务器接收对应所述第一哈希值的原始缓存服务器中对应所述第一访问请求的内容,并将接收到的内容发送给所述客户端,其中,所述第一哈希值是服务器集群系统未增加所述新增缓存服务器之前的哈希值,所述第二哈希值是所述服务器集群系统增加新增缓存服务器之后的哈希值。
10.根据权利要求9所述的系统,所述负载均衡服务器还用于在负载均衡服务器接收来自客户端的第一访问请求之前,确定预设哈希记忆时间,在对应所述第二哈希值的缓存服务器是新增缓存服务器,对应所述第二哈希值的新增缓存服务器中不存在对应所述第一访问请求的内容时,所述负载均衡服务器用于通过以下方式接收对应所述第一访问请求的内容:
所述负载均衡服务器判断所述预设哈希记忆时间是否过期;
在所述预设哈希记忆时间没有过期时,判断对应所述第二哈希值的新增缓存服务器中是否存在对应所述第一访问请求的内容;以及
在对应所述第二哈希值的新增缓存服务器中不存在对应所述第一访问请求的内容时,所述负载均衡服务器经由对应所述第二哈希值的新增缓存服务器接收对应所述第一哈希值的原始缓存服务器中对应所述第一访问请求的内容。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410798371.9A CN104580393B (zh) | 2014-12-18 | 2014-12-18 | 用于服务器集群系统的扩容方法、装置及服务器集群系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410798371.9A CN104580393B (zh) | 2014-12-18 | 2014-12-18 | 用于服务器集群系统的扩容方法、装置及服务器集群系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104580393A true CN104580393A (zh) | 2015-04-29 |
CN104580393B CN104580393B (zh) | 2017-12-15 |
Family
ID=53095551
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410798371.9A Active CN104580393B (zh) | 2014-12-18 | 2014-12-18 | 用于服务器集群系统的扩容方法、装置及服务器集群系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104580393B (zh) |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105162859A (zh) * | 2015-08-20 | 2015-12-16 | 湖南亿谷科技发展股份有限公司 | 服务器动态扩容系统及方法 |
CN105991769A (zh) * | 2016-04-12 | 2016-10-05 | 上海帝联信息科技股份有限公司 | 数据迁移方法及装置、边缘节点服务器 |
CN106202370A (zh) * | 2016-07-07 | 2016-12-07 | 乐视控股(北京)有限公司 | 一种在云对象存储中进行导流的方法和系统 |
CN106790324A (zh) * | 2015-11-20 | 2017-05-31 | 华为技术有限公司 | 内容分发方法、虚拟服务器管理方法、云平台和系统 |
WO2017097092A1 (zh) * | 2015-12-08 | 2017-06-15 | 中兴通讯股份有限公司 | 缓存集群服务的处理方法及系统 |
CN106941508A (zh) * | 2016-01-05 | 2017-07-11 | 阿里巴巴集团控股有限公司 | 服务调用方法、装置和系统 |
CN107231402A (zh) * | 2016-08-31 | 2017-10-03 | 北京新媒传信科技有限公司 | Http请求处理方法、装置及系统 |
CN107689930A (zh) * | 2017-09-08 | 2018-02-13 | 桂林加宏汽车修理有限公司 | 一种资源调度方法及系统 |
CN108965401A (zh) * | 2018-06-25 | 2018-12-07 | 千寻位置网络有限公司 | 支持水平扩展的地理围栏系统及工作方法 |
CN109618174A (zh) * | 2018-12-11 | 2019-04-12 | 深圳市网心科技有限公司 | 一种直播数据传输方法、装置、系统以及存储介质 |
CN109634746A (zh) * | 2018-12-05 | 2019-04-16 | 四川长虹电器股份有限公司 | 一种web集群缓存的利用系统及优化方法 |
CN109769019A (zh) * | 2018-12-29 | 2019-05-17 | 深圳联友科技有限公司 | 一种一致性负载均衡方法及装置 |
CN110300132A (zh) * | 2018-03-22 | 2019-10-01 | 贵州白山云科技股份有限公司 | 服务器数据缓存方法、装置和系统 |
CN110875942A (zh) * | 2018-09-03 | 2020-03-10 | 北京京东尚科信息技术有限公司 | 一种热点节目负载均衡的方法和装置 |
CN111464649A (zh) * | 2017-04-19 | 2020-07-28 | 贵州白山云科技股份有限公司 | 一种访问请求回源方法和装置 |
CN111556167A (zh) * | 2020-05-19 | 2020-08-18 | 湖南快乐阳光互动娱乐传媒有限公司 | 视频cdn节点即时扩容方法、扩容虚拟机房及cnd系统 |
CN111669629A (zh) * | 2020-05-19 | 2020-09-15 | 湖南快乐阳光互动娱乐传媒有限公司 | 视频cdn节点即时扩容方法、调度器及cnd存储系统 |
CN112532687A (zh) * | 2020-11-03 | 2021-03-19 | 杭州朗澈科技有限公司 | kubernetes负载均衡器扩容方法和系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2010148415A1 (en) * | 2009-06-19 | 2010-12-23 | Blekko, Inc. | Scalable cluster database |
CN102033938A (zh) * | 2010-12-10 | 2011-04-27 | 天津神舟通用数据技术有限公司 | 基于二级映射的集群动态扩展方法 |
CN102118433A (zh) * | 2010-12-27 | 2011-07-06 | 网宿科技股份有限公司 | 多层次的分布式集群系统 |
CN102855294A (zh) * | 2012-08-13 | 2013-01-02 | 北京联创信安科技有限公司 | 一种智能哈希数据布局方法、集群存储系统及其方法 |
-
2014
- 2014-12-18 CN CN201410798371.9A patent/CN104580393B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2010148415A1 (en) * | 2009-06-19 | 2010-12-23 | Blekko, Inc. | Scalable cluster database |
CN102033938A (zh) * | 2010-12-10 | 2011-04-27 | 天津神舟通用数据技术有限公司 | 基于二级映射的集群动态扩展方法 |
CN102118433A (zh) * | 2010-12-27 | 2011-07-06 | 网宿科技股份有限公司 | 多层次的分布式集群系统 |
CN102855294A (zh) * | 2012-08-13 | 2013-01-02 | 北京联创信安科技有限公司 | 一种智能哈希数据布局方法、集群存储系统及其方法 |
Non-Patent Citations (1)
Title |
---|
程斌等: "HANDY:一种具有动态扩展性的集群文件系统", 《小型微型计算机系统》 * |
Cited By (33)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105162859A (zh) * | 2015-08-20 | 2015-12-16 | 湖南亿谷科技发展股份有限公司 | 服务器动态扩容系统及方法 |
CN105162859B (zh) * | 2015-08-20 | 2019-04-12 | 湖南亿谷科技发展股份有限公司 | 服务器动态扩容系统及方法 |
US10911530B2 (en) | 2015-11-20 | 2021-02-02 | Huawei Technologies Co., Ltd. | Content delivery method, virtual server management method, cloud platform, and system |
CN106790324A (zh) * | 2015-11-20 | 2017-05-31 | 华为技术有限公司 | 内容分发方法、虚拟服务器管理方法、云平台和系统 |
US11431791B2 (en) | 2015-11-20 | 2022-08-30 | Huawei Technologies Co., Ltd. | Content delivery method, virtual server management method, cloud platform, and system |
CN106790324B (zh) * | 2015-11-20 | 2020-06-16 | 华为技术有限公司 | 内容分发方法、虚拟服务器管理方法、云平台和系统 |
WO2017097092A1 (zh) * | 2015-12-08 | 2017-06-15 | 中兴通讯股份有限公司 | 缓存集群服务的处理方法及系统 |
CN106856456A (zh) * | 2015-12-08 | 2017-06-16 | 中兴通讯股份有限公司 | 缓存集群服务的处理方法及系统 |
CN106856456B (zh) * | 2015-12-08 | 2020-02-28 | 中兴通讯股份有限公司 | 缓存集群服务的处理方法及系统 |
CN106941508A (zh) * | 2016-01-05 | 2017-07-11 | 阿里巴巴集团控股有限公司 | 服务调用方法、装置和系统 |
CN105991769B (zh) * | 2016-04-12 | 2019-04-16 | 上海帝联信息科技股份有限公司 | 数据迁移方法及装置、边缘节点服务器 |
CN105991769A (zh) * | 2016-04-12 | 2016-10-05 | 上海帝联信息科技股份有限公司 | 数据迁移方法及装置、边缘节点服务器 |
CN106202370A (zh) * | 2016-07-07 | 2016-12-07 | 乐视控股(北京)有限公司 | 一种在云对象存储中进行导流的方法和系统 |
CN107231402B (zh) * | 2016-08-31 | 2021-02-12 | 北京新媒传信科技有限公司 | Http请求处理方法、装置及系统 |
CN107231402A (zh) * | 2016-08-31 | 2017-10-03 | 北京新媒传信科技有限公司 | Http请求处理方法、装置及系统 |
CN111464649B (zh) * | 2017-04-19 | 2022-10-21 | 贵州白山云科技股份有限公司 | 一种访问请求回源方法和装置 |
CN111464649A (zh) * | 2017-04-19 | 2020-07-28 | 贵州白山云科技股份有限公司 | 一种访问请求回源方法和装置 |
CN107689930A (zh) * | 2017-09-08 | 2018-02-13 | 桂林加宏汽车修理有限公司 | 一种资源调度方法及系统 |
CN110300132A (zh) * | 2018-03-22 | 2019-10-01 | 贵州白山云科技股份有限公司 | 服务器数据缓存方法、装置和系统 |
CN111131402B (zh) * | 2018-03-22 | 2022-06-03 | 贵州白山云科技股份有限公司 | 一种配置共享缓存服务器组的方法、装置、设备及介质 |
CN111131402A (zh) * | 2018-03-22 | 2020-05-08 | 贵州白山云科技股份有限公司 | 一种配置共享缓存服务器组的方法、装置、设备及介质 |
CN108965401A (zh) * | 2018-06-25 | 2018-12-07 | 千寻位置网络有限公司 | 支持水平扩展的地理围栏系统及工作方法 |
CN110875942B (zh) * | 2018-09-03 | 2023-03-07 | 北京京东尚科信息技术有限公司 | 一种热点节目负载均衡的方法和装置 |
CN110875942A (zh) * | 2018-09-03 | 2020-03-10 | 北京京东尚科信息技术有限公司 | 一种热点节目负载均衡的方法和装置 |
CN109634746A (zh) * | 2018-12-05 | 2019-04-16 | 四川长虹电器股份有限公司 | 一种web集群缓存的利用系统及优化方法 |
CN109618174B (zh) * | 2018-12-11 | 2021-12-03 | 深圳市网心科技有限公司 | 一种直播数据传输方法、装置、系统以及存储介质 |
CN109618174A (zh) * | 2018-12-11 | 2019-04-12 | 深圳市网心科技有限公司 | 一种直播数据传输方法、装置、系统以及存储介质 |
CN109769019B (zh) * | 2018-12-29 | 2021-11-09 | 深圳联友科技有限公司 | 一种一致性负载均衡方法及装置 |
CN109769019A (zh) * | 2018-12-29 | 2019-05-17 | 深圳联友科技有限公司 | 一种一致性负载均衡方法及装置 |
CN111669629A (zh) * | 2020-05-19 | 2020-09-15 | 湖南快乐阳光互动娱乐传媒有限公司 | 视频cdn节点即时扩容方法、调度器及cnd存储系统 |
CN111556167A (zh) * | 2020-05-19 | 2020-08-18 | 湖南快乐阳光互动娱乐传媒有限公司 | 视频cdn节点即时扩容方法、扩容虚拟机房及cnd系统 |
CN112532687B (zh) * | 2020-11-03 | 2022-07-08 | 杭州朗澈科技有限公司 | kubernetes负载均衡器扩容方法和系统 |
CN112532687A (zh) * | 2020-11-03 | 2021-03-19 | 杭州朗澈科技有限公司 | kubernetes负载均衡器扩容方法和系统 |
Also Published As
Publication number | Publication date |
---|---|
CN104580393B (zh) | 2017-12-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104580393A (zh) | 用于服务器集群系统的扩容方法、装置及服务器集群系统 | |
CN108696895B (zh) | 资源获取方法、装置及系统 | |
US10491534B2 (en) | Managing resources and entries in tracking information in resource cache components | |
US9794216B2 (en) | Request routing in a networked environment | |
US9451046B2 (en) | Managing CDN registration by a storage provider | |
US10623408B1 (en) | Context sensitive object management | |
CN106031130B (zh) | 具有边缘代理的内容传送网络架构 | |
US9549038B1 (en) | Cacheable resource location selection | |
US9172674B1 (en) | Managing request routing information utilizing performance information | |
EP2294515B1 (en) | Request routing using network computing components | |
CN102882939B (zh) | 负载均衡方法、设备及泛域名加速访问系统 | |
US10165039B1 (en) | Pre-connecting to a cacheable resource based on page profiles | |
CN108076142A (zh) | 一种基于cdn技术加速用户请求的方法及系统 | |
CN102204324A (zh) | 提高移动互联网用户访问速度的方法及设备 | |
CN101123578A (zh) | 一种提高访问网络资源速度的方法及系统 | |
EP3389240B1 (en) | Method and system for processing cache cluster service | |
US9686372B1 (en) | Systems and methods for automatically rewriting network page code | |
CN107733949B (zh) | 一种无线接入网缓存方法及系统 | |
KR101131787B1 (ko) | 캐시서버에 저장된 데이터 갱신방법, 그 캐시서버 및 컨텐츠 제공시스템 | |
US20160344838A1 (en) | Caching of tracking elements in network content | |
KR20100047652A (ko) | 컨텐츠서버 및 캐시서버를 이용한 데이터 저장방법, 그 컨텐츠서버 및 컨텐츠 제공시스템 | |
KR102622252B1 (ko) | 콘텐츠 전송 장치 및 방법 | |
CN115842824A (zh) | 内容访问方法、系统及本地域名服务器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
PP01 | Preservation of patent right |
Effective date of registration: 20220225 Granted publication date: 20171215 |
|
PP01 | Preservation of patent right |