CN103118076A - 升级服务器集群系统及其负载均衡方法 - Google Patents

升级服务器集群系统及其负载均衡方法 Download PDF

Info

Publication number
CN103118076A
CN103118076A CN2013100113560A CN201310011356A CN103118076A CN 103118076 A CN103118076 A CN 103118076A CN 2013100113560 A CN2013100113560 A CN 2013100113560A CN 201310011356 A CN201310011356 A CN 201310011356A CN 103118076 A CN103118076 A CN 103118076A
Authority
CN
China
Prior art keywords
server
weights
download server
download
list
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2013100113560A
Other languages
English (en)
Other versions
CN103118076B (zh
Inventor
刘焱青
石磊
李明春
李璐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fiberhome Telecommunication Technologies Co Ltd
Original Assignee
Fiberhome Telecommunication Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fiberhome Telecommunication Technologies Co Ltd filed Critical Fiberhome Telecommunication Technologies Co Ltd
Priority to CN201310011356.0A priority Critical patent/CN103118076B/zh
Publication of CN103118076A publication Critical patent/CN103118076A/zh
Application granted granted Critical
Publication of CN103118076B publication Critical patent/CN103118076B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

本发明公开了一种升级服务器集群系统及其负载均衡方法,涉及服务器集群领域,该升级服务器集群系统包括一个策略服务器和多个下载服务器,策略服务器为统一访问入口,升级服务器集群系统给每个下载服务器分配一个权值,表示该下载服务器在单位时间内允许的最大访问量,各下载服务器的权值减去其实时连接数,得到该下载服务器的剩余权值;策略服务器将下载服务器的信息列表、权值列表、剩余权值列表存储在策略服务器可访问的数据库或配置文件中,下载服务器的信息列表分别与权值列表、剩余权值列表一一对应。本发明结合访问下载服务器的通信终端设备数量与下载服务器的最大可访问权值,实现访问请求的科学动态调度与合理分配。

Description

升级服务器集群系统及其负载均衡方法
技术领域
本发明涉及服务器集群领域,特别是涉及一种升级服务器集群系统及其负载均衡方法。
背景技术
随着通信终端设备软件技术的发展和网络接入的普及,各种通信终端设备在成倍增长且不断扩大,在成本和响应速度等制约条件下,基于网络的软件升级方式逐渐成为主流的升级方式,升级服务器逐渐被广泛应用。升级服务器系统往往需要处理通信终端设备的升级请求、逻辑处理、软件下载等功能,单一升级服务器系统处理大量且越来越多的并发请求的能力有限,对升级服务器的可伸缩性、高可用性的要求变得越来越高,升级服务器的高性能、高可用性问题逐渐成为升级服务器应用和部署时关注的焦点。
目前升级服务器性能和响应速度的提升主要通过几个方面:
1、提升单一升级服务器硬件设备的硬件配置和软件性能,以提高升级服务器的业务处理能力和请求响应速度。
2、升级服务器集群部署的应用,将过去单一升级服务器结构扩充为集群升级服务器结构,使更多的升级服务器来处理原来单一升级服务器所处理的升级下载服务,通过一定机制使他们共同分担系统负载。对于用户而言,整个升级服务器集群仿佛是一台单一的逻辑服务器,这样的系统能够提供较强的可扩展性、较好的吞吐性能和较高的可靠性。
上述两种办法是目前解决升级服务器性能最直接最有效的方法,相比较而言,升级服务器集群部署的应用是大多数用户解决升级服务器性能瓶颈问题的有效途径,它将用户的请求按照负载均衡的策略分发到服务器集群中的某台升级服务器上,通过升级服务器之间的协同工作并行处理用户的请求来提高整个系统的性能。在升级服务器集群的应用中存在异构服务器集群和同构服务器集群两种形式,异构是一个互操作环境的构件,而同构则是供应商定制环境。同构意味着一个存储环境中的所有构件都来自于同一个供应商,或者是间接来自于伙伴关系。异构则意味着技术来自于不同供应商的混合环境,各个服务器的性能高低不同。异构服务器集群系统比同构服务器集群系统更有实际意义,但实现起来却非常困难。
为实现高效、高可靠性的升级服务器集群,必须解决诸多问题,其中负载均衡是其中最主要也是最关键的问题之一,它包括请求分配、容错处理、可用性检测等。通过负载均衡的方法来控制负载的分布,使升级服务器集群系统的负载尽可能达到均衡,提高分配的效率,使服务器资源得到充分利用,才能使整个升级服务器集群系统的性能发挥到最大限度。
目前对于升级服务器集群系统应用中的负载均衡技术已提出轮询调度、最小负载优先调度等,其中,轮询调度又分为加权轮询和依次轮询,加权轮询是根据各台服务器的处理能力给它们分配不同的权重,用相应的权值表示服务器的处理能力,然后升级服务器集群系统的分配器根据升级服务器的权值来给服务器分配连接,权值高的升级服务器优先得到连接,并且权值低的升级服务器会得到并处理更多的连接,升级服务器处理的连接数与升级服务器的权值成正比,而依次轮询就是升级服务器集群系统的分配器采用均衡的方式对所有的升级服务器依次分发连接。最小负载优先调度主要是使升级服务器集群系统中占用最少的服务器优先处理用户请求。
相比较而言,依次轮询实现简单,但没有考虑升级服务器的处理能力,升级服务器集群系统的整体性能不能更好的发挥,而加权轮询只是从理论的角度考虑的服务器的处理能力,来分配各个升级服务器的权值,对于提供升级下载服务的升级服务器,由于网络速度、软件文件大小等原因,在软件文件下载过程中会较长时间来占用网络带宽和服务器处理能力,在这种情况下加权轮询无法考虑各个升级服务器的真实占用状态。而最小负载优先调度考虑了升级服务器的占用状态,但却缺乏考虑升级服务器的真实处理能力,并且对于网络速度、软件文件过大对升级服务器的长时间占用情况也缺乏考虑,难以真正发挥升级服务器集群系统的最大性能。
发明内容
本发明的目的是为了克服上述背景技术的不足,提供一种升级服务器集群系统及其负载均衡方法,结合访问下载服务器的通信终端设备数量与下载服务器的最大可访问权值,实现访问请求的科学动态调度与合理分配,使升级服务器集群系统中下载服务器的性能得到最大限度的发挥,通信终端设备可以更快更稳定的进行软件升级。
本发明提供的升级服务器集群系统,包括一个策略服务器和多个下载服务器,所述策略服务器为统一访问入口,升级服务器集群系统给每个下载服务器分配一个权值,表示该下载服务器在单位时间内允许的最大访问量,策略服务器启动时,各下载服务器的剩余权值默认为下载服务器权值列表中该下载服务器的权值;策略服务器将下载服务器的信息列表、权值列表、剩余权值列表存储在策略服务器可访问的数据库或配置文件中,下载服务器的信息列表以IP地址:端口形式存储所有下载服务器的访问地址信息,下载服务器的权值列表以数值的形式存储所有下载服务器的权值,下载服务器的信息列表分别与权值列表、剩余权值列表一一对应。
在上述技术方案中,所述策略服务器将所有下载服务器的IP地址及其下载服务端口,以IP地址:端口格式分行存储到下载服务器的信息列表中,供升级请求调度时使用;下载服务器信息列表以数字或字符串的编号为键,以下载服务器信息为键值,以键值对的形式存储编号和下载服务器信息,其中编号是各下载服务器的唯一标识。
在上述技术方案中,所述策略服务器给每个下载服务器配置一个权值,并存储在下载服务器的权值列表中,供升级请求调度时使用;下载服务器的权值信息以正整数形式标识,表示该下载服务器在同一时间点所能承载的最大访问用户数;下载服务器权值列表以下载服务器对应的编号为键,以下载服务器的权值为键值,以键值对的形式存储编号和下载服务器的权值;各下载服务器的权值减去其实时连接数,得到该下载服务器的剩余权值。
在上述技术方案中,每个下载服务器包括下载单元和上报单元,当通信终端设备的访问请求被调度到该下载服务器时,下载单元给该通信终端设备提供软件的下载服务,下载方式包括HTTP和FTP;上报单元定时将本下载服务器的实时下载连接数上报给策略服务器。
在上述技术方案中,所述策略服务器包括初始化单元、监听等待单元、可用状态监控更新单元、实时连接数监控单元、剩余权值计算更新单元和调度单元,其中:
初始化单元,用于:当策略服务器启动时,从策略服务器的数据库或配置文件中读取下载服务器的信息和权值,初始化下载服务器的信息列表和权值列表,并将下载服务器的权值发送到剩余权值计算更新单元;
监听等待单元,用于:监听、等待通信终端设备发起的升级请求,当一个新的升级请求访问到达时,将其加入到升级请求服务队列中排队,等候调度处理;
可用状态监控更新单元,用于:获取各下载服务器的下载服务可用状态,并更新下载服务器剩余权值列表:将所有不可用的下载服务器的剩余权值从下载服务器剩余权值列表中移除,将可用的下载服务器的剩余权值继续保留,原来不可用的下载服务器变为可用状态后,将其剩余权值重新加入下载服务器剩余权值列表;
实时连接数监控单元,用于:监控并获取各下载服务器定时上报的实时连接数,并将获取到的实时连接数发送到剩余权值计算更新单元;
剩余权值计算更新单元,用于:根据初始化单元发来的下载服务器的权值和实时连接数监控单元发来的实时连接数进行计算,得到下载服务器的剩余权值,更新下载服务器剩余权值列表,并将更新后的下载服务器剩余权值列表发送到调度单元;
调度单元,用于:比较调度单元发来的下载服务器剩余权值列表中剩余权值的数值大小,获取数值最大的剩余权值,将升级请求服务队列中的请求分配给该数值最大的剩余权值对应的下载服务器处理;如果所有下载服务器的剩余权值都为0,则暂停处理升级请求任务,并对升级请求服务队列中的升级请求分别给予暂停升级的响应。
在上述技术方案中,所述调度单元还用于:当检测到有一个或多个下载服务器的下载服务不可用时,更新下载服务器剩余权值列表,将不可用的下载服务器的剩余权值从下载服务器剩余权值列表中移除。
本发明还提供一种基于升级服务器集群系统的负载均衡方法,包括以下步骤:
S1、将策略服务器部署到升级服务器集群系统中的一台服务器上,将其作为升级服务器集群系统的统一访问入口;将下载服务器分别部署到升级服务器集群系统中的其它服务器中,将其作为升级服务器集群系统的软件下载服务器;
策略服务器启动时,进行初始化:
策略服务器将所有下载服务器的IP地址及其下载服务端口,以IP地址:端口格式分行存储到下载服务器的信息列表中,供升级请求调度时使用;下载服务器信息列表以数字或字符串的编号为键,以下载服务器信息为键值,以键值对的形式存储编号和下载服务器信息,其中编号是各下载服务器的唯一标识;
策略服务器给每个下载服务器配置一个权值,并存储在下载服务器的权值列表中,供升级请求调度时使用;下载服务器的权值信息以正整数形式标识,表示下载该服务器同一时间点所能承载的最大访问用户数;下载服务器权值列表以下载服务器对应的编号为键,以下载服务器的权值为键值,以键值对的形式存储编号和下载服务器的权值;
策略服务器启动时,各下载服务器的剩余权值默认为下载服务器权值列表中该下载服务器的权值;
策略服务器将下载服务器的信息列表、权值列表、剩余权值列表存储在策略服务器可访问的数据库或配置文件中;
S2、通信终端设备访问策略服务器,策略服务器获取所有下载服务器的信息列表和权值列表;
S3、策略服务器监听并接收通信终端设备的升级请求,将收到的升级请求依次加入到升级请求服务队列中排队,等待调度处理;
S4、策略服务器根据下载服务器信息列表中的下载服务器信息,向各下载服务器发送访问请求,获取各下载服务器当前的可用状态,并更新下载服务器剩余权值列表:将所有不可用的下载服务器的剩余权值从下载服务器剩余权值列表中移除,将可用的下载服务器的剩余权值继续保留,原来不可用的下载服务器变为可用状态后,将其剩余权值重新加入下载服务器剩余权值列表;
S5、策略服务器启动监听,获取所有下载服务器的实时连接数,下载服务器的实时连接数为下载服务器当前实际连接下载的数量;将下载服务器的权值减去该下载服务器的实时连接数,得到该下载服务器剩余权值,将该下载服务器剩余权值更新到下载服务器剩余权值列表中;
S6、策略服务器判断升级请求服务队列是否为空,如果为空,则表示没有通信终端设备发起升级请求,返回S3,策略服务器进入等待升级请求到达的状态;否则转到S7;
S7、策略服务器判断下载服务器剩余权值列表是否为空,如果为空,则表示当前所有下载服务器都处于不可用状态,策略服务器对升级请求服务队列中的升级请求分别给予无法升级的响应,并将该升级请求从消息队列中移除;如果下载服务器剩余权值列表不为空,则转到S8;
S8、策略服务器比较下载服务器剩余权值列表中剩余权值的数值大小,获取数值最大的剩余权值,作为最大剩余权值;
S9、判断最大剩余权值是否为0,如果最大剩余权值为0,则表示所有下载服务器都处于满负荷运载,暂时无法处理新的升级请求,策略服务器对升级请求服务队列中的升级请求分别给予无法升级的响应,并将该升级请求从消息队列中移除;如果最大剩余权值不为0,则转到S10;
S10、策略服务器在下载服务器信息列表中根据该最大剩余权值对应的下载服务器的编号,找到该最大剩余权值对应的下载服务器,根据该下载服务器信息的IP地址和端口,从升级请求服务队列中取出一个升级请求,升级请求包括IP地址、端口以及升级特殊标示信息;策略服务器通过HTTP重定向的方式,将该升级请求的IP地址和端口重定向到该下载服务器进行软件下载、升级;
S11、升级请求被重定向到下载服务器后,更新下载服务器剩余权值列表。
在上述技术方案中,步骤S3中策略服务器采用基于堆栈的FIFO算法,将收到的升级请求依次加入到升级请求服务队列中排队。
在上述技术方案中,步骤S8中如果存在多个相同的最大剩余权值,则以下载服务器剩余权值列表中排在第一位的剩余权值为最大剩余权值。
在上述技术方案中,步骤S1中所述策略服务器启动时,还包括以下步骤:
判断是否存在新增或待移除一台下载服务器;
当判定存在新增的下载服务器时,在策略服务器的数据库或配置文件的下载服务器信息列表中以IP地址:端口格式新增该下载服务器的IP地址及其下载服务端口号等配置信息,然后在策略服务器的数据库或配置文件的下载服务器权值列表中新增该下载服务器的权值信息;下载服务器剩余权值列表中的剩余权值默认为下载服务器权值列表中的权值,下载服务器上报其实时连接数后,根据下载服务器对应权值减去实时连接数,得到该下载服务器的剩余权值,并将该剩余权值新增到该下载服务器的剩余权值列表中;
当判定有待移除的下载服务器时,在策略服务器的数据库或配置文件的下载服务器信息列表中移除该下载服务器的IP地址及其下载服务端口号等配置信息,然后从下载服务器权值列表中移除该下载服务器的权值信息,从下载服务器剩余权值列表中移除该下载服务器的剩余权值信息;
每次新增或移除下载服务器后,都要重启策略服务器,重新初始化更新后的下载服务器的信息列表、权值列表和剩余权值列表。
与现有技术相比,本发明的优点如下:
(1)本发明通过剩余权值列表对升级服务器集群系统中下载服务器的可用状态和实时负载状态进行监控,结合访问下载服务器的通信终端设备数量与下载服务器的最大可访问权值,实现访问请求的科学动态调度与合理分配,使升级服务器集群系统中下载服务器的性能得到最大限度的发挥,通信终端设备可以更快更稳定的进行软件升级。
(2)如果升级服务器集群系统中所有下载服务器的剩余权值为0,即所有下载服务器均处于满负荷运转状态,升级服务器集群系统将响应通信终端设备无法进行软件下载,即升级服务不可用,确保升级服务器集群系统的稳定性,避免因为过载而导致升级服务器集群系统宕机,或软件下载响应速度过慢等,提升通信终端设备软件升级的用户体验。
(3)本发明通过配置的方式对升级服务器集群系统中的下载服务器进行管理,实现动态、快捷地安装或移除一个或多个下载服务器。
附图说明
图1是本发明实施例中升级服务器集群系统的结构框图。
图2是本发明实施例中下载服务器的信息列表与权值列表、剩余权值列表的对应关系示意图。
图3是本发明实施例中基于堆栈的FIFO算法的实现示意图。
具体实施方式
下面结合附图及具体实施例对本发明作进一步的详细描述。
参见图1所示,本发明实施例提供一种升级服务器集群系统,包括一个策略服务器和多个下载服务器,策略服务器为统一访问入口,升级服务器集群系统给每个下载服务器分配一个权值,表示该下载服务器的处理能力,即在单位时间内允许的最大访问量。策略服务器启动时,各下载服务器的剩余权值默认为下载服务器权值列表中该下载服务器的权值。策略服务器中保存有下载服务器的信息列表、权值列表和剩余权值列表,参见图2所示,下载服务器的信息列表以IP地址:端口形式存储所有下载服务器的访问地址信息,下载服务器的权值列表以数值的形式存储所有下载服务器的权值,下载服务器的信息列表分别与权值列表、剩余权值列表一一对应。
策略服务器将所有下载服务器的IP地址及其下载服务端口,以IP地址:端口格式分行存储到下载服务器的信息列表中,供升级请求调度时使用;下载服务器信息列表以数字或字符串的编号为键,例如1、2、3,以下载服务器信息为键值,以键值对的形式存储编号和下载服务器信息,其中编号是各下载服务器的唯一标识,通过编号可以从下载服务器列表中找到对应的下载服务器;
策略服务器给每个下载服务器配置一个权值,并存储在下载服务器的权值列表中,供升级请求调度时使用;下载服务器的权值信息以正整数形式标识,例如800,表示该下载服务器在同一时间点所能承载的最大访问用户数为800;下载服务器权值列表以下载服务器对应的编号为键,以下载服务器的权值为键值,以键值对的形式存储编号和下载服务器的权值;下载服务器信息列表中有多少条下载服务器信息,在下载服务器权值列表中就有多少条下载服务器权值信息;各下载服务器的权值减去其实时连接数,得到该下载服务器的剩余权值。
策略服务器将下载服务器的信息列表、权值列表、剩余权值列表存储在策略服务器可访问的数据库或配置文件中。
每个下载服务器包括下载单元和上报单元,当通信终端设备的访问请求被调度到该下载服务器时,下载单元给该通信终端设备提供软件的下载服务,下载方式包括HTTP(HyperText Transfer Protocol,超文本传输协议)和FTP(File Transfer Protoco1,文件传输协议);上报单元定时将本下载服务器的实时下载连接数上报给策略服务器。
策略服务器包括初始化单元、监听等待单元、可用状态监控更新单元、实时连接数监控单元、剩余权值计算更新单元和调度单元,其中:
初始化单元,用于:当策略服务器启动时,从策略服务器的数据库或配置文件中读取下载服务器的信息和权值,初始化下载服务器的信息列表和权值列表,并将下载服务器的权值发送到剩余权值计算更新单元;
监听等待单元,用于:监听、等待通信终端设备发起的升级请求,当一个新的升级请求访问到达时,将其加入到升级请求服务队列中排队,等候调度处理;
可用状态监控更新单元,用于:获取各下载服务器的下载服务可用状态,并更新下载服务器剩余权值列表:将所有不可用的下载服务器的剩余权值从下载服务器剩余权值列表中移除,将可用的下载服务器的剩余权值继续保留,原来不可用的下载服务器变为可用状态后,将其剩余权值重新加入下载服务器剩余权值列表;
实时连接数监控单元,用于:监控并获取各下载服务器定时上报的实时连接数,并将获取到的实时连接数发送到剩余权值计算更新单元;
剩余权值计算更新单元,用于:根据初始化单元发来的下载服务器的权值和实时连接数监控单元发来的实时连接数进行计算,得到下载服务器的剩余权值,更新下载服务器剩余权值列表,并将更新后的下载服务器剩余权值列表发送到调度单元;
调度单元,用于:比较调度单元发来的下载服务器剩余权值列表中剩余权值的数值大小,获取数值最大的剩余权值,将升级请求服务队列中的请求分配给该数值最大的剩余权值对应的下载服务器处理;如果所有下载服务器的剩余权值都为0,则暂停处理升级请求任务,并对升级请求服务队列中的升级请求分别给予暂停升级的响应;以及当检测到有一个或多个下载服务器的下载服务不可用时,更新下载服务器剩余权值列表,将不可用的下载服务器的剩余权值从下载服务器剩余权值列表中移除,调度单元便不会将升级请求服务队列中的升级请求调度到该下载服务器。
本发明实施例提供的升级服务器集群系统,不但可以用作升级服务系统,还可以用作独立的web服务系统。
本发明实施例还提供一种基于升级服务器集群系统的负载均衡方法,包括以下步骤:
S1、将策略服务器部署到升级服务器集群系统中的一台服务器上,将其作为升级服务器集群系统的统一访问入口;将下载服务器分别部署到升级服务器集群系统中的其它服务器中,将其作为升级服务器集群系统的软件下载服务器;
策略服务器启动时,进行初始化:
策略服务器将所有下载服务器的IP地址及其下载服务端口,以IP地址:端口格式分行存储到下载服务器的信息列表中,供升级请求调度时使用;下载服务器信息列表以数字或字符串的编号为键,例如1、2、3,以下载服务器信息为键值,以键值对的形式存储编号和下载服务器信息,其中编号是各下载服务器唯一标识,通过编号可以从下载服务器列表中找到对应的下载服务器;
策略服务器给每个下载服务器配置一个权值,并存储在下载服务器的权值列表中,供升级请求调度时使用;下载服务器的权值信息以正整数形式标识,例如800,表示该服务器同一时间点所能承载的最大访问用户数为800;下载服务器权值列表以下载服务器对应的编号为键,以下载服务器的权值为键值,以键值对的形式存储编号和下载服务器的权值;下载服务器信息列表中有多少条下载服务器信息,在下载服务器权值列表中就有多少条下载服务器权值信息;
策略服务器启动时,各下载服务器的剩余权值默认为下载服务器权值列表中该下载服务器的权值;
策略服务器将下载服务器的信息列表、权值列表、剩余权值列表存储在策略服务器可访问的数据库或配置文件中;
S2、通信终端设备访问策略服务器,策略服务器获取所有下载服务器的信息列表和权值列表;
S3、策略服务器监听并接收通信终端设备的升级请求,参见图3所示,策略服务器采用基于堆栈的FIFO(First Input First Output,先入先出队列)算法,将收到的升级请求依次加入到升级请求服务队列中排队,等待调度处理;
S4、策略服务器根据下载服务器信息列表中的下载服务器信息,向各下载服务器发送访问请求,获取各下载服务器当前的可用状态,并更新下载服务器剩余权值列表:将所有不可用的下载服务器的剩余权值从下载服务器剩余权值列表中移除,将可用的下载服务器的剩余权值继续保留,原来不可用的下载服务器变为可用状态后,将其剩余权值重新加入下载服务器剩余权值列表;
S5、策略服务器启动监听,获取所有下载服务器的实时连接数,下载服务器的实时连接数为下载服务器当前实际连接下载的数量,例如下载服务器的实时连接数为500,表示当前有500个通信终端设备连接到该下载服务器进行软件下载;将下载服务器的权值减去该下载服务器的实时连接数,得到该下载服务器剩余权值(即该下载服务器当前剩余的可用连接数),将该下载服务器剩余权值更新到下载服务器剩余权值列表中;
S6、策略服务器判断升级请求服务队列是否为空,如果为空,则表示没有通信终端设备发起升级请求,返回S3,策略服务器进入等待升级请求到达的状态;否则转到S7;
S7、策略服务器判断下载服务器剩余权值列表是否为空,如果为空,则表示当前所有下载服务器都处于不可用状态,策略服务器对升级请求服务队列中的升级请求分别给予无法升级的响应,并将该升级请求从消息队列中移除;如果下载服务器剩余权值列表不为空,则转到S8;
S8、策略服务器比较下载服务器剩余权值列表中剩余权值的数值大小,获取数值最大的剩余权值,作为最大剩余权值;如果存在多个相同的最大剩余权值,则以下载服务器剩余权值列表中排在第一位的剩余权值为最大剩余权值;
S9、判断最大剩余权值是否为0,如果最大剩余权值为0,则表示所有下载服务器都处于满负荷运载,暂时无法处理新的升级请求,策略服务器对升级请求服务队列中的升级请求分别给予无法升级的响应,并将该升级请求从消息队列中移除;如果最大剩余权值不为0,则转到S10;
S10、策略服务器在下载服务器信息列表中根据该最大剩余权值对应的下载服务器的编号,找到该最大剩余权值对应的下载服务器,根据该下载服务器信息的IP地址和端口,从升级请求服务队列中取出一个升级请求,升级请求包括IP地址、端口以及升级特殊标示信息,如http://192.168.1.100:80/stb600/upgrade,其中.“192.168.1.100”为升级服务器的入口地址,即策略服务器的IP地址,“80”为策略服务器开放接收请求消息的端口,“stb600/upgrade”为下载服务的服务名;策略服务器通过HTTP重定向的方式,将该升级请求的IP地址和端口重定向到该下载服务器进行软件下载、升级;HTTP重定向主要包括三种重定向方式:301redirect、302redirect和meta fresh,其中,301redirect表示永久性跳转,302redirect表示暂时性跳转,metafresh表示通过网页中的meta指令在特定时间后重定向到新的链接;
S11、升级请求被重定向到下载服务器后,更新下载服务器剩余权值列表。
步骤S1中,策略服务器启动时,还包括以下步骤:
判断是否存在新增或待移除一台下载服务器;
当判定存在新增的下载服务器时,在策略服务器的数据库或配置文件的下载服务器信息列表中以IP地址:端口格式新增该下载服务器的IP地址及其下载服务端口号等配置信息,然后在策略服务器的数据库或配置文件的下载服务器权值列表中新增该下载服务器的权值信息;下载服务器剩余权值列表中的剩余权值默认为下载服务器权值列表中的权值,下载服务器上报其实时连接数后,根据下载服务器对应权值减去实时连接数,得到该下载服务器的剩余权值,并将该剩余权值新增到该下载服务器的剩余权值列表中;
当判定有待移除的下载服务器时,在策略服务器的数据库或配置文件的下载服务器信息列表中移除该下载服务器的IP地址及其下载服务端口号等配置信息,然后从下载服务器权值列表中移除该下载服务器的权值信息,从下载服务器剩余权值列表中移除该下载服务器的剩余权值信息;
每次新增或移除下载服务器后,都要重启策略服务器,重新初始化更新后的下载服务器的信息列表、权值列表和剩余权值列表。
本领域的技术人员可以对本发明实施例进行各种修改和变型,倘若这些修改和变型属在本发明权利要求及其等同技术的范围之内,则这些修改和变型也在本发明的保护范围之内。
说明书中未详细描述的内容为本领域技术人员公知的现有技术。

Claims (10)

1.一种升级服务器集群系统,包括一个策略服务器和多个下载服务器,其特征在于:所述策略服务器为统一访问入口,升级服务器集群系统给每个下载服务器分配一个权值,表示该下载服务器在单位时间内允许的最大访问量,策略服务器启动时,各下载服务器的剩余权值默认为下载服务器权值列表中该下载服务器的权值;策略服务器将下载服务器的信息列表、权值列表、剩余权值列表存储在策略服务器可访问的数据库或配置文件中,下载服务器的信息列表以IP地址:端口形式存储所有下载服务器的访问地址信息,下载服务器的权值列表以数值的形式存储所有下载服务器的权值,下载服务器的信息列表分别与权值列表、剩余权值列表一一对应。
2.如权利要求1所述的升级服务器集群系统,其特征在于:所述策略服务器将所有下载服务器的IP地址及其下载服务端口,以IP地址:端口格式分行存储到下载服务器的信息列表中,供升级请求调度时使用;下载服务器信息列表以数字或字符串的编号为键,以下载服务器信息为键值,以键值对的形式存储编号和下载服务器信息,其中编号是各下载服务器的唯一标识。
3.如权利要求2所述的升级服务器集群系统,其特征在于:所述策略服务器给每个下载服务器配置一个权值,并存储在下载服务器的权值列表中,供升级请求调度时使用;下载服务器的权值信息以正整数形式标识,表示该下载服务器在同一时间点所能承载的最大访问用户数;下载服务器权值列表以下载服务器对应的编号为键,以下载服务器的权值为键值,以键值对的形式存储编号和下载服务器的权值;各下载服务器的权值减去其实时连接数,得到该下载服务器的剩余权值。
4.如权利要求3所述的升级服务器集群系统,其特征在于:每个下载服务器包括下载单元和上报单元,当通信终端设备的访问请求被调度到该下载服务器时,下载单元给该通信终端设备提供软件的下载服务,下载方式包括HTTP和FTP;上报单元定时将本下载服务器的实时下载连接数上报给策略服务器。
5.如权利要求4所述的升级服务器集群系统,其特征在于:所述策略服务器包括初始化单元、监听等待单元、可用状态监控更新单元、实时连接数监控单元、剩余权值计算更新单元和调度单元,其中:
初始化单元,用于:当策略服务器启动时,从策略服务器的数据库或配置文件中读取下载服务器的信息和权值,初始化下载服务器的信息列表和权值列表,并将下载服务器的权值发送到剩余权值计算更新单元;
监听等待单元,用于:监听、等待通信终端设备发起的升级请求,当一个新的升级请求访问到达时,将其加入到升级请求服务队列中排队,等候调度处理;
可用状态监控更新单元,用于:获取各下载服务器的下载服务可用状态,并更新下载服务器剩余权值列表:将所有不可用的下载服务器的剩余权值从下载服务器剩余权值列表中移除,将可用的下载服务器的剩余权值继续保留,原来不可用的下载服务器变为可用状态后,将其剩余权值重新加入下载服务器剩余权值列表;
实时连接数监控单元,用于:监控并获取各下载服务器定时上报的实时连接数,并将获取到的实时连接数发送到剩余权值计算更新单元;
剩余权值计算更新单元,用于:根据初始化单元发来的下载服务器的权值和实时连接数监控单元发来的实时连接数进行计算,得到下载服务器的剩余权值,更新下载服务器剩余权值列表,并将更新后的下载服务器剩余权值列表发送到调度单元;
调度单元,用于:比较调度单元发来的下载服务器剩余权值列表中剩余权值的数值大小,获取数值最大的剩余权值,将升级请求服务队列中的请求分配给该数值最大的剩余权值对应的下载服务器处理;如果所有下载服务器的剩余权值都为0,则暂停处理升级请求任务,并对升级请求服务队列中的升级请求分别给予暂停升级的响应。
6.如权利要求5所述的升级服务器集群系统,其特征在于:所述调度单元还用于:当检测到有一个或多个下载服务器的下载服务不可用时,更新下载服务器剩余权值列表,将不可用的下载服务器的剩余权值从下载服务器剩余权值列表中移除。
7.一种基于升级服务器集群系统的负载均衡方法,其特征在于,包括以下步骤:
S1、将策略服务器部署到升级服务器集群系统中的一台服务器上,将其作为升级服务器集群系统的统一访问入口;将下载服务器分别部署到升级服务器集群系统中的其它服务器中,将其作为升级服务器集群系统的软件下载服务器;
策略服务器启动时,进行初始化:
策略服务器将所有下载服务器的IP地址及其下载服务端口,以IP地址:端口格式分行存储到下载服务器的信息列表中,供升级请求调度时使用;下载服务器信息列表以数字或字符串的编号为键,以下载服务器信息为键值,以键值对的形式存储编号和下载服务器信息,其中编号是各下载服务器的唯一标识;
策略服务器给每个下载服务器配置一个权值,并存储在下载服务器的权值列表中,供升级请求调度时使用;下载服务器的权值信息以正整数形式标识,表示下载该服务器同一时间点所能承载的最大访问用户数;下载服务器权值列表以下载服务器对应的编号为键,以下载服务器的权值为键值,以键值对的形式存储编号和下载服务器的权值;
策略服务器启动时,各下载服务器的剩余权值默认为下载服务器权值列表中该下载服务器的权值;
策略服务器将下载服务器的信息列表、权值列表、剩余权值列表存储在策略服务器可访问的数据库或配置文件中;
S2、通信终端设备访问策略服务器,策略服务器获取所有下载服务器的信息列表和权值列表;
S3、策略服务器监听并接收通信终端设备的升级请求,将收到的升级请求依次加入到升级请求服务队列中排队,等待调度处理;
S4、策略服务器根据下载服务器信息列表中的下载服务器信息,向各下载服务器发送访问请求,获取各下载服务器当前的可用状态,并更新下载服务器剩余权值列表:将所有不可用的下载服务器的剩余权值从下载服务器剩余权值列表中移除,将可用的下载服务器的剩余权值继续保留,原来不可用的下载服务器变为可用状态后,将其剩余权值重新加入下载服务器剩余权值列表;
S5、策略服务器启动监听,获取所有下载服务器的实时连接数,下载服务器的实时连接数为下载服务器当前实际连接下载的数量;将下载服务器的权值减去该下载服务器的实时连接数,得到该下载服务器剩余权值,将该下载服务器剩余权值更新到下载服务器剩余权值列表中;
S6、策略服务器判断升级请求服务队列是否为空,如果为空,则表示没有通信终端设备发起升级请求,返回S3,策略服务器进入等待升级请求到达的状态;否则转到S7;
S7、策略服务器判断下载服务器剩余权值列表是否为空,如果为空,则表示当前所有下载服务器都处于不可用状态,策略服务器对升级请求服务队列中的升级请求分别给予无法升级的响应,并将该升级请求从消息队列中移除;如果下载服务器剩余权值列表不为空,则转到S8;
S8、策略服务器比较下载服务器剩余权值列表中剩余权值的数值大小,获取数值最大的剩余权值,作为最大剩余权值;
S9、判断最大剩余权值是否为0,如果最大剩余权值为0,则表示所有下载服务器都处于满负荷运载,暂时无法处理新的升级请求,策略服务器对升级请求服务队列中的升级请求分别给予无法升级的响应,并将该升级请求从消息队列中移除;如果最大剩余权值不为0,则转到S10;
S10、策略服务器在下载服务器信息列表中根据该最大剩余权值对应的下载服务器的编号,找到该最大剩余权值对应的下载服务器,根据该下载服务器信息的IP地址和端口,从升级请求服务队列中取出一个升级请求,升级请求包括IP地址、端口以及升级特殊标示信息;策略服务器通过HTTP重定向的方式,将该升级请求的IP地址和端口重定向到该下载服务器进行软件下载、升级;
S11、升级请求被重定向到下载服务器后,更新下载服务器剩余权值列表。
8.如权利要求7所述的基于升级服务器集群系统的负载均衡方法,其特征在于:步骤S3中策略服务器采用基于堆栈的FIFO算法,将收到的升级请求依次加入到升级请求服务队列中排队。
9.如权利要求8所述的基于升级服务器集群系统的负载均衡方法,其特征在于:步骤S8中如果存在多个相同的最大剩余权值,则以下载服务器剩余权值列表中排在第一位的剩余权值为最大剩余权值。
10.如权利要求7至9中任一项所述的基于升级服务器集群系统的负载均衡方法,其特征在于:步骤S1中所述策略服务器启动时,还包括以下步骤:
判断是否存在新增或待移除一台下载服务器;
当判定存在新增的下载服务器时,在策略服务器的数据库或配置文件的下载服务器信息列表中以IP地址:端口格式新增该下载服务器的IP地址及其下载服务端口号等配置信息,然后在策略服务器的数据库或配置文件的下载服务器权值列表中新增该下载服务器的权值信息;下载服务器剩余权值列表中的剩余权值默认为下载服务器权值列表中的权值,下载服务器上报其实时连接数后,根据下载服务器对应权值减去实时连接数,得到该下载服务器的剩余权值,并将该剩余权值新增到该下载服务器的剩余权值列表中;
当判定有待移除的下载服务器时,在策略服务器的数据库或配置文件的下载服务器信息列表中移除该下载服务器的IP地址及其下载服务端口号等配置信息,然后从下载服务器权值列表中移除该下载服务器的权值信息,从下载服务器剩余权值列表中移除该下载服务器的剩余权值信息;
每次新增或移除下载服务器后,都要重启策略服务器,重新初始化更新后的下载服务器的信息列表、权值列表和剩余权值列表。
CN201310011356.0A 2013-01-11 2013-01-11 升级服务器集群系统及其负载均衡方法 Active CN103118076B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310011356.0A CN103118076B (zh) 2013-01-11 2013-01-11 升级服务器集群系统及其负载均衡方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310011356.0A CN103118076B (zh) 2013-01-11 2013-01-11 升级服务器集群系统及其负载均衡方法

Publications (2)

Publication Number Publication Date
CN103118076A true CN103118076A (zh) 2013-05-22
CN103118076B CN103118076B (zh) 2015-05-13

Family

ID=48416346

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310011356.0A Active CN103118076B (zh) 2013-01-11 2013-01-11 升级服务器集群系统及其负载均衡方法

Country Status (1)

Country Link
CN (1) CN103118076B (zh)

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103488733A (zh) * 2013-09-17 2014-01-01 新浪网技术(中国)有限公司 一种导入数据的方法及装置
CN103618772A (zh) * 2013-11-20 2014-03-05 国家电网公司 基于主机压力的负载均衡分发方法
CN104158911A (zh) * 2014-09-01 2014-11-19 青岛海信电器股份有限公司 一种面向服务器集群的控制方法及系统
CN104168207A (zh) * 2014-08-21 2014-11-26 北京奇艺世纪科技有限公司 负载调节方法及系统
CN104320272A (zh) * 2014-10-21 2015-01-28 中国联合网络通信集团有限公司 一种传递设备信息的方法和网络设备
CN104426917A (zh) * 2013-08-19 2015-03-18 中兴通讯股份有限公司 一种下载处理方法、下载处理装置及客户端
CN105430093A (zh) * 2015-12-21 2016-03-23 浙江省公众信息产业有限公司 用于实现用户接入负载均衡的方法和系统
CN105635124A (zh) * 2015-12-24 2016-06-01 小米科技有限责任公司 流量控制方法和装置
CN105656665A (zh) * 2015-12-24 2016-06-08 浪潮集团有限公司 一种交换机端口配置的方法和交换机
CN105872028A (zh) * 2016-03-25 2016-08-17 努比亚技术有限公司 服务端、客户端及访问策略管理方法
CN106230735A (zh) * 2016-07-14 2016-12-14 乐视控股(北京)有限公司 后台服务控制方法及装置
CN106302809A (zh) * 2016-09-20 2017-01-04 天津海量信息技术股份有限公司 一种服务器性能优化方法及系统
CN106302709A (zh) * 2016-08-12 2017-01-04 杭州东信北邮信息技术有限公司 一种网络文件管理的实现方法和系统
CN106657259A (zh) * 2016-10-28 2017-05-10 努比亚技术有限公司 一种用于服务器集群的路由服务器及路由服务方法
CN107295048A (zh) * 2016-04-01 2017-10-24 百度在线网络技术(北京)有限公司 负载均衡方法及装置
CN107301055A (zh) * 2017-07-19 2017-10-27 北京小米移动软件有限公司 升级服务器的方法及装置
CN107547563A (zh) * 2017-09-25 2018-01-05 新华三信息安全技术有限公司 一种认证方法及装置
CN108600344A (zh) * 2018-04-09 2018-09-28 杭州登虹科技有限公司 一种网络访问请求调度方法、装置和存储介质
CN109101325A (zh) * 2017-06-21 2018-12-28 杭州海康威视数字技术股份有限公司 一种任务调度方法、装置、系统及电子设备
CN110620798A (zh) * 2018-06-19 2019-12-27 北京京东尚科信息技术有限公司 Ftp连接的控制方法、系统、设备和存储介质
CN111737000A (zh) * 2020-06-22 2020-10-02 四川长虹电器股份有限公司 一种实现负载均衡的方法
CN112653632A (zh) * 2019-10-09 2021-04-13 北京京东振世信息技术有限公司 一种流量控制实现方法和装置
CN113486042A (zh) * 2021-08-11 2021-10-08 腾讯科技(上海)有限公司 数据处理方法、装置、计算机可读介质及电子设备
CN113487278A (zh) * 2021-07-02 2021-10-08 钦州云之汇大数据科技有限公司 一种基于物联网的企业协同办公系统
CN115658116A (zh) * 2022-11-11 2023-01-31 苏州浪潮智能科技有限公司 一种存储集群升级控制方法、装置、设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6351775B1 (en) * 1997-05-30 2002-02-26 International Business Machines Corporation Loading balancing across servers in a computer network
CN102143075A (zh) * 2011-03-28 2011-08-03 中国人民解放军国防科学技术大学 实现负载均衡的方法和系统
CN102611735A (zh) * 2011-12-21 2012-07-25 奇智软件(北京)有限公司 一种应用服务的负载均衡方法及系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6351775B1 (en) * 1997-05-30 2002-02-26 International Business Machines Corporation Loading balancing across servers in a computer network
CN102143075A (zh) * 2011-03-28 2011-08-03 中国人民解放军国防科学技术大学 实现负载均衡的方法和系统
CN102611735A (zh) * 2011-12-21 2012-07-25 奇智软件(北京)有限公司 一种应用服务的负载均衡方法及系统

Cited By (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104426917A (zh) * 2013-08-19 2015-03-18 中兴通讯股份有限公司 一种下载处理方法、下载处理装置及客户端
CN103488733A (zh) * 2013-09-17 2014-01-01 新浪网技术(中国)有限公司 一种导入数据的方法及装置
CN103618772B (zh) * 2013-11-20 2018-12-11 国家电网公司 基于主机压力的负载均衡分发方法
CN103618772A (zh) * 2013-11-20 2014-03-05 国家电网公司 基于主机压力的负载均衡分发方法
CN104168207A (zh) * 2014-08-21 2014-11-26 北京奇艺世纪科技有限公司 负载调节方法及系统
CN104158911A (zh) * 2014-09-01 2014-11-19 青岛海信电器股份有限公司 一种面向服务器集群的控制方法及系统
CN104320272A (zh) * 2014-10-21 2015-01-28 中国联合网络通信集团有限公司 一种传递设备信息的方法和网络设备
CN105430093A (zh) * 2015-12-21 2016-03-23 浙江省公众信息产业有限公司 用于实现用户接入负载均衡的方法和系统
CN105656665A (zh) * 2015-12-24 2016-06-08 浪潮集团有限公司 一种交换机端口配置的方法和交换机
CN105635124A (zh) * 2015-12-24 2016-06-01 小米科技有限责任公司 流量控制方法和装置
CN105635124B (zh) * 2015-12-24 2019-05-14 小米科技有限责任公司 流量控制方法和装置
CN105872028A (zh) * 2016-03-25 2016-08-17 努比亚技术有限公司 服务端、客户端及访问策略管理方法
CN107295048A (zh) * 2016-04-01 2017-10-24 百度在线网络技术(北京)有限公司 负载均衡方法及装置
CN106230735A (zh) * 2016-07-14 2016-12-14 乐视控股(北京)有限公司 后台服务控制方法及装置
CN106302709A (zh) * 2016-08-12 2017-01-04 杭州东信北邮信息技术有限公司 一种网络文件管理的实现方法和系统
CN106302709B (zh) * 2016-08-12 2019-04-30 杭州东信北邮信息技术有限公司 一种网络文件管理的实现方法和系统
CN106302809A (zh) * 2016-09-20 2017-01-04 天津海量信息技术股份有限公司 一种服务器性能优化方法及系统
CN106657259B (zh) * 2016-10-28 2020-12-01 广东亿网通科技有限公司 一种用于服务器集群的路由服务器及路由服务方法
CN106657259A (zh) * 2016-10-28 2017-05-10 努比亚技术有限公司 一种用于服务器集群的路由服务器及路由服务方法
CN109101325A (zh) * 2017-06-21 2018-12-28 杭州海康威视数字技术股份有限公司 一种任务调度方法、装置、系统及电子设备
CN107301055A (zh) * 2017-07-19 2017-10-27 北京小米移动软件有限公司 升级服务器的方法及装置
CN107547563A (zh) * 2017-09-25 2018-01-05 新华三信息安全技术有限公司 一种认证方法及装置
CN108600344A (zh) * 2018-04-09 2018-09-28 杭州登虹科技有限公司 一种网络访问请求调度方法、装置和存储介质
CN110620798A (zh) * 2018-06-19 2019-12-27 北京京东尚科信息技术有限公司 Ftp连接的控制方法、系统、设备和存储介质
CN110620798B (zh) * 2018-06-19 2023-08-04 北京京东尚科信息技术有限公司 Ftp连接的控制方法、系统、设备和存储介质
CN112653632A (zh) * 2019-10-09 2021-04-13 北京京东振世信息技术有限公司 一种流量控制实现方法和装置
CN111737000A (zh) * 2020-06-22 2020-10-02 四川长虹电器股份有限公司 一种实现负载均衡的方法
CN113487278A (zh) * 2021-07-02 2021-10-08 钦州云之汇大数据科技有限公司 一种基于物联网的企业协同办公系统
CN113487278B (zh) * 2021-07-02 2023-05-09 深圳市顿泽慧科技有限公司 一种基于物联网的企业协同办公系统
CN113486042A (zh) * 2021-08-11 2021-10-08 腾讯科技(上海)有限公司 数据处理方法、装置、计算机可读介质及电子设备
CN113486042B (zh) * 2021-08-11 2024-03-08 腾讯科技(上海)有限公司 数据处理方法、装置、计算机可读介质及电子设备
CN115658116A (zh) * 2022-11-11 2023-01-31 苏州浪潮智能科技有限公司 一种存储集群升级控制方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN103118076B (zh) 2015-05-13

Similar Documents

Publication Publication Date Title
CN103118076B (zh) 升级服务器集群系统及其负载均衡方法
CN108737270B (zh) 一种服务器集群的资源管理方法和装置
CN104283939B (zh) 用于灵活流卸载的装置、方法及非暂时性计算机可读媒体
CN107707943B (zh) 一种实现云服务融合的方法及系统
CN105450757A (zh) 一种服务管理方法及系统
CN104079630A (zh) 一种业务服务端负载均衡方法、客户端、服务端以及系统
CN101207550A (zh) 负载均衡系统及多种业务实现负载均衡的方法
CN105979009A (zh) 一种针对云应用容器的增加负载自动均衡方法
CN107438060A (zh) 一种网络设备中的远程过程调用方法及网络设备
WO2014098556A1 (en) System and method for dynamically allocating an application session manager at runtime
KR20000004988A (ko) 제한된 메모리 컴퓨터 시스템에서의 클라이언트관리흐름제어를 위한 방법과 장치
CN101741912A (zh) 一种处理计算任务的方法、网络设备及分布式网络系统
CN108965461A (zh) 服务治理方法、装置及dubbo服务系统
CN113596110A (zh) 一种面向异构云的云原生微服务平台
CN104735095A (zh) 一种云计算平台作业调度方法及装置
CN102595208A (zh) 云端控制网络化视频图像处理流媒体服务系统及方法
CN105554178B (zh) 一种地址分配的方法、网关及系统
CN102394929A (zh) 一种面向会话的云计算负载均衡系统及其方法
CN105554046A (zh) 内容分发系统对终端请求的调度方法、装置及设备
CN102724132B (zh) 一种提高tcp连接复用处理效率的方法及装置
CN103945000A (zh) 一种负载均衡方法及负载均衡器
CN110691131A (zh) 基于智能移动终端的微服务框架系统
CN111092921A (zh) 数据采集方法、装置及存储介质
CN102571568A (zh) 任务处理方法及装置
CN107846365A (zh) 一种基于sdn的负载均衡实现系统及方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant