CN1098488C - 基于动态时间间隔的负载平衡方法和装置 - Google Patents

基于动态时间间隔的负载平衡方法和装置 Download PDF

Info

Publication number
CN1098488C
CN1098488C CN98103659A CN98103659A CN1098488C CN 1098488 C CN1098488 C CN 1098488C CN 98103659 A CN98103659 A CN 98103659A CN 98103659 A CN98103659 A CN 98103659A CN 1098488 C CN1098488 C CN 1098488C
Authority
CN
China
Prior art keywords
server
request
effective time
interval
group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
CN98103659A
Other languages
English (en)
Other versions
CN1190213A (zh
Inventor
俞士纶
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of CN1190213A publication Critical patent/CN1190213A/zh
Application granted granted Critical
Publication of CN1098488C publication Critical patent/CN1098488C/zh
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer And Data Communications (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

一种用于地理上分布的或群集的系统中的方法，其中仲裁器把客户分配给服务器。仲裁器还根据网络负载和/或能力参数、诸如客户请求率和/或服务器能力，动态地把有效时间间隔分配给每一个映射请求。还设计了另一种用来与调度过程结合动态地设定有效时间间隔的装置，调度过程可以是确定性的或随机性的。

Description

基于动态时间间隔的负载平衡方法和装置
技术领域
一般说来，本发明涉及向可能包括能力不同的多机种服务器的整个分布站点提供负载平衡。本发明比较具体的方面涉及分布或群集系统中用的方法和系统，其中仲裁器利用动态地调整的有效分配时间间隔把一组客户分配给服务器。
背景技术
万维网(World Wide Web，WWW)上的信息流通量呈指数曲线的增长，而流行的站点(热站点)尤为如此。除了通过在这些站点上群集节点来增加热站点的能力以外，往往还在地理上分布地点添加额外的节点。添加地理上分布的站点可以既增大能力，又提供灾难恢复能力。
这些节点是复制品，而且在客户看来就象一个实体，使得通过一组站点而增加的能力对客户是透明的。这些复制的站点往往包括能力不同、多机种的服务器。可以设置一种仲裁器，把客户分配给站点。
为了用一组站点来支持几乎成直线增大的负载，在这些站点之间平衡客户负载是很重要的。
以前在多处理器或多节点的环境下在负载平衡方面作的工作，诸如IBM S/390 Sysplex，注意力主要集中在调度算法上，给每一个进来的任务或用户会话选择多个一般资源中的一个。调度程序控制每一个进来的任务或会话的调度，对资源选择不作高速缓存。
为了在地理上分布的复制站点之间平衡负载，一种先有技术方法称为轮转式域名服务器(RR-DNS)方法。对基本域名服务器方法的描述见于Mockapetris，P.在1987年11月编写的题为”域名实现和规格”的文件，RFC 1035，USC Information Science Institute。利用域名服务器的负载平衡支持的描述还见于Brisco，T编写的题为”负载平衡的域名服务器支持”一文，RFC 1794，Rutgers University，1995年3月。在Katz，E.，Butler，M.和McGrath，R.等编写的题为”可升级的HTTP服务器。NCSA原型”，Computer Networks and ISDN Systems，Vol.27，1994，pp.68-74，轮转式域名服务器方法用来在一组WEB服务器节点之间平衡节点。在这里，一组分布的站点用一个URL(统一资源定位器，例如，www.hotsite.com)代表；这个分布站点用的群集器子域名是用子域名服务器来定义的。子域名服务器把客户名解析请求映射到该分布的群集器的不同IP地址上。这样，客户子集就被分配到每一个复制的站点。
为了减少网络的信息流通量，不是每一个服务请求都发出映射的请求。相反，映射请求的结果保存一段”生存期”(TTL)的时间间隔。在TTL时间间隔期间随后发出的请求将遵循前一个映射的结果，因而通向同一个服务器节点。
正如在Dias，D.M.，Kish，W.，Mukherjee，R.和Tewari，R.等编写的题为”可升级的高可用性Web(万维网)服务器”，Proc.41st IEEEComputer Society Intl.Conf.(COMPCON)1996，Technologies for theInformation Superhighway，pp.85-92，Feb.1996一文中描述的，RR-DNS方法的问题在于，它会引起分布站点之间的负载平衡不良。这个问题是由于网络中名字与不同网关、防火墙和域名服务器的IP地址之间关联的高速缓存引起的。这样，在TTL期间，采取通过这些网关、防火墙和域名服务器的路由的所有新客户请求都将被分配给高速缓存中储存的单个站点。本专业的技术人员都会意识到，简单地缩短TTL值不能解决这个问题。事实上，低的TTL值往往是许多域名服务器所不能接受的。比较重要的是，简单地减小TTL值并不能减小不均匀分布的客户请求率造成的负载歪斜。
正如Attanasio，Clement R.和Smith，Stephen E.编写的题为”用松散耦合计算机加封群集器实现的虚拟多处理器”，IBM Resaech Report RC18442，1992和1994年12月6日授予的美国专利No.5,371,852题为”使计算机的群集器看上去像是单一的主机的方法和装置”所描述的，节点的一个本地群集器内的负载平衡方法是使用所谓TCP(传输控制协议)路由器，这两个文件整个引入这里作为参考。在这里，只把TCP路由器的地址交给客户，TCP路由器不是用轮转方法就是基于节点负载的方法在该群集器的节点之间分配进入的请求。正如在这些文献中描述的，该TCP路由器方法只适用于节点的本地群集器。
最近，在Colajanni，M.，Yu，P.和Dias，D.题为”分布式Web服务器调度算法”，IBM Research Report，RC 20680，Jan.1997一文中，提出了多列轮转方法，根据网关的请求速率把网关分成多个列，该文在这里整个引入作参考。来自每一列的请求分别利用轮转式算法调度。这种方法也能处理多机种分布式服务器结构。
不论在哪一种情况下，上述可能是由在名字与网络各个网关、防火墙和域名服务器的IP地址之间关联的高速缓存造成的负载不平衡仍旧存在，因为跟在一个地址请求后面的数据请求个数，不论其来源如何，是与TTL值成正比的。这样，有必要改进其中可能包括多机种服务器的分布或群集的站点之间负载平衡方法。本发明就是针对这样的要求。
发明内容
按照上述要求，本发明涉及向可能包括能力不同的多机种服务器的分布的或群集的复制站点之间提供对客户请求进行负载平衡的经过改进的方法和装置。
更具体地说，本发明提供这样一种环境，使得接收地址映射请求的调度器(亦称仲裁器)不仅返回被选中的服务器的地址，还返回有效的时间间隔，以此使随后在此时间间隔期间出现的请求都被引向该选中的服务器。本发明具有这样的特点，即它把有效时间间隔参数转变成动态控制，以便更好地使负载平衡。
具有本发明特征的装置的例子把调度器分解成两个主要成分：第一个是选择下一个可用的服务器用的调度逻辑；第二个是动态地计算有效时间间隔用的有效时间间隔逻辑。调度成分可以利用任何一种标准的路由方法，诸如轮转方法。本发明的有效时间间隔逻辑动态地控制服务器选择或路由确定的有效时间间隔，并如下所述。
本发明的另一方面提供一种负载平衡方法，它除了万维网以外，还适用于一般的分布环境。
具有本发明特征的方法可以在分布的或群集的服务器网络中实施，其中客户被划分成组，后者定期地向仲裁器发送映射请求，以便在能够服务该请求的多个复制的服务器之间进行映射并平衡服务请求。按照本发明把服务器映射到服务请求的计算方法的例子包括下列步骤：按照调度程序把来自第一组的第一个映射请求映射到第一个服务器；作为第一组的请求负载和第一服务器的能力之一的函数，动态地为所述映射到第一服务器的映射请求计算有效时间间隔；并通过通讯联系把服务器选择和有效时间间隔通知该第一组，以便高速缓存，使得在有效时间间隔期间随后来自第一组的请求都引向该第一服务器。
在最佳实施例中，本发明可以应用于万维网。这里，每一个服务器都是在地理上处于分布地点的Web服务器，仲裁器是一种扩展的域名服务器，而每一个地址映射包括生存期(Time-To-Life，TTL)的时间间隔，而且其中该组包括一组与任何一个公共的网关(或SOCKS(套接字)服务器)相联系的客户。上述映射步骤可以加以修改以包括把名字请求映射到IP地址；而动态地计算有效时间间隔的步骤包括作为网关请求负载和与此IP地址相联系的目的服务器的能力之一的函数动态地计算TTL。
这样，通过动态地为每一个地址请求选择TTL值，本发明就可以减轻成为过载主要原因的负载歪斜，尤其是在多机种的系统中。
在TTL时间间隔期间，本发明的动态TTL逻辑有利地平衡随后请求对每一个服务器的冲击。更具体地说，其效果是使来自每一个网关的随后的请求都消耗数量相近的服务器利用率或服务器能力的百分数。这既可以针对服务器的多机种性，又可以针对不均匀的客户速率。首先考虑服务器的多机种性。当域名服务器选择能力较强的服务器时，分配较高的TTL值。而当请求被引向能力较弱的服务器时，使用较低的TTL值。这是由于这样的一个事实，即对于同样份额的服务器能力，能力较强的服务器能处理数量较多的请求，或在较长的TTL时间间隔受理请求。
类似的途径可以用来处理不均匀的客户请求率。对于来自热网关的地址映射请求，与来自其他网关的请求相比，可以赋给较低的TTL值。因为热网关的客户请求率较高，较短的TTL时间间隔可以用来拉平随后产生的请求的总数。
按照本发明的另一方面，动态TTL逻辑可以与基本轮转式(RR)算法或其变形，诸如多列轮转或其他负载平衡算法，诸如最短队列优先等相结合。
在最佳实施例中，假定RR是调度算法。按照本发明的另一个方面，既提供基于RR的确定性路由算法，又提供基于RR的随机性路由算法。这两种方法都用与源网关的数据请求率成反比的TTL值来处理不均匀的请求。但是，确定性策略通过使TTL值与服务器能力成正比来处理服务器多机种性，而随机性策略则使用RR的随机版本。
附图说明
从对最佳实施例的下列详细描述和附图中，本发明的这些和其他目的、优点和特征将变得更加明显。附图中：
图1是具有本发明特征的Internet(互联网络)环境的示意图；
图2是具有本发明特征的一般环境的一个更详细的例子；
图3是图2仲裁器逻辑的例子；
图4是该仲裁器的报警/恢复处理器例子；
图5是该仲裁器映射请求处理器例子；
图6是映射请求处理器所用调度逻辑的例子；
图7是该仲裁器的TTL逻辑例子；
图8是该仲裁器的统计搜集器的例子；
图9是图2服务请求处理器例子；
图10是服务器用的检查利用率例程例子；
图11是随机路由选择情况下的调度逻辑例子；以及
图12是随机路由选择情况下的TTL逻辑例子。
具体实施方式
图1描述了具有本发明特征的Internet环境的例子。客户工作站或PC(个人计算机)50通过公共网关52连接到网络64上。它们向也连接到该网络64上的服务器54请求服务。典型的服务请求包括万维网的页面访问、远程文件传输、电子邮件、交易支持等。
某些服务可能需要构成服务组58的一个以上的服务器，以处理较高的信息流通量要求。这些服务器可能位于地理上不同的地点。尽管如此，多个服务器的存在对于客户来说是透明的。客户根据服务器组的逻辑的或符号的名字发出服务请求。这可以由域名服务器(DNS)提供，把逻辑的或符号的名字映射到服务器组中服务器节点的物理的或IP地址。把来自客户的请求映射到DNS就可以做到这一点。于是，映射请求不同于服务请求，后者是客户发向服务器的。
为了减少网络的信息流通量，并不是对每一个服务请求都发映射请求。相反，映射请求的结果保存TTL时间间隔的一段时间。在TTL时间间隔期间随后发出的服务请求都遵循前一次映射的结果，因而被引向同一个服务器节点。
按照本发明，改进标准DNS，使得能够在服务器组的服务器之间更好地平衡客户服务请求；这一概括被称为”扩展的域名服务器”62。扩展的域名服务器(XDNS)在后面将要详细描述的更一般的结构中亦称”仲裁器”。再参照图1，每一个服务器54都是在分布的或群集的地点190上的Web服务器，而每一个地址映射都包括生存期(TTL)时间间隔。每一组客户50都与或者公共网关52或者SOCKS服务器相联系。XDNS把名字请求映射到IP地址，并作为网关请求负载和/或与此IP地址相联系的目的服务器的能力的函数动态地算出TTL。
图2比较详细地描绘具有本发明特征的网络185和系统的例子。正如所描绘的，源100用来代表任何一个能够通过网络185发出映射和服务请求的计算节点。仲裁器110代表任何一个能够把映射请求调度到这些服务器节点150之一的计算节点。图1，基于Internet，是图2的一个特例，在这里仲裁器140相当于扩展域名服务器(XDNS)62。仲裁器最好包括CPU115、诸如RAM等存储器116和诸如直接存储装置(DASD)等储存装置112。
存储器116储存最好从计算机可执行程序码的形式实施的仲裁器逻辑148，后者从DASD112装入存储器116让CPU115执行。为了清楚起见，并仅仅为了举例，仲裁器逻辑148被分成几个成分：报警/恢复处理器135、映射请求处理器138和统计搜集器145。这些成分分别在图4，5和8中详细解释。映射请求处理器包括两个主要成分：调度器逻辑140和TTL逻辑142。维护几个数据结构，包括服务(请求)计数表130和服务器能力表125。现将用这几个成分对这些数据结构的操作作一解释。
服务器1..M150可以是任何一种能够处理诸如提供源100请求的数据/对象访问和/或文件传输等服务请求的计算节点。服务器节点150包括CPU155、存储器160和储存装置158。服务器节点执行服务请求处理器(170)(程序)，来处理图9详细描述的服务请求。
用N表示源的个数，M表示服务器150...150M的个数。令GW(I，j)为给定长度的时间间隔t内从源100I向服务器150j发出的服务请求个数。然后，令A(I)为从源100I发出的服务请求率，而C(j)是服务器150j的相对能力。在最佳实施例中，假定A(I)是动态地变化的。周期地估计A(I)的方法的例子将在图8中描述，而C(j)则是相对稳定的，而且可以在初始化时确定(将在图3中描述)。A(I)，1＜I＜N+1，及C(j)，1＜j＜M+1，分别代表在图2中的服务计数表130和服务器能力表125。
图3描绘了仲裁器逻辑148的例子。正如所描绘的，在步骤205对开始的目的服务器P进行初始化。按照用各服务器中最大能力归一化后的它能处理的请求个数，对服务器相对能力，C(j)，进行初始化。在步骤210，把搜集统计的计时器时间间隔(TD)设为t，例如5分钟。把用于指示服务器j是否过载的矩阵W(j)，0＜j＜M+1，及矩阵A(I)，0＜I＜N+1设为1。
然后仲裁器逻辑148反复地检查输入。在步骤215，检测到有报警/恢复请求从服务器，例如服务器j，到达时，在步骤220(步骤220的详细例子在图4中给出)报警/恢复请求处理器被调用。在步骤225，若检测到从源I(0＜I＜N+1)发出的映射请求，则在步骤230(步骤230的详细例子在图5中给出)调用映射请求处理器。在步骤235，若检测到统计搜集计时器时间间隔(TD)用尽，则仲裁器在240(步骤240的详细例子在图8中给出)执行统计搜集例程。
图4描绘报警/恢复请求处理器135的例子。在步骤305，检查请求的类型，看它是否报警请求。若发现它是报警请求，则在步骤310将W(j)置为0，以指示服务器j处于过载状态。否则，在步骤315接收恢复请求，将W(j)置为1。
图5描绘映射请求处理器138的例子。在步骤510，调度例程被调用，以确定服务器的选择。在步骤515，调用TTL例程，以确定TTL时间间隔。利用确定性方法的调度逻辑140和TTL逻辑142的例子细节示于图6和7。
确定性算法
用概述的方法，首先考虑多机种服务器的作用。在这里，TTL值是作为已被DNS选中的服务器的能力的函数来动态地计算的。目的是减少能力较弱的服务器的数据请求个数，而增大能力较强的服务器的请求个数。
接着，考虑从网关发出的不均匀请求率的情况。该方法可以像对随机的情况(后述)描述的一样。但是，现在选择TTL值时把服务器的能力也考虑在内。确定性TTL/1算法是一种蜕化的情况，它只考虑服务器的多机种性，而忽略客户请求的源网关，亦即每一个服务器根据它的能力给出它自己的TTL值。TTL/2策略每个服务器采用两个TTL值。给每一个服务器选择的TTL值取决于请求的源网关，亦即是正常网关还是热网关。
TTL/K算法针对服务器的每一种类型和网关结合选择TTL值。具体地说，令TTL(I，j)为第j个网关到第I个服务器的TTL，
              TTL(i，j)＝hC(I)/A(j)
式中，h是一个确定地址映射请求总速率标度的参数。
对于TTL/I，网关被分成I组，并估计每一组的客户请求率。服务器I处的每一组用的TTL被设成与其请求率成反比，与服务器的能力成正比。
图6描绘调度逻辑(140)的例子。在步骤605，P加一，并用服务器个数(M)取模。在步骤610，测试服务器的过载状态。若W(P)不等于0，则服务器P被选择，并在步骤615把该选择通知发出请求的源。否则，重复步骤605产生另一个候选服务器。
图7描绘TTL时间间隔计算的确定性例子。正如所描绘的，在步骤720，TTL是C(P)，被选中的服务器P的能力，和A(I)，来自源I的服务请求率的函数。
图8描绘统计处理器的例子。在步骤805，仲裁器搜集来自每一个服务器j的GW(I，j)，0＜I＜M+1。这一点可以通过明确地发出请求信息的消息来做到。为所有的服务器收集了信息之后，在步骤810计算A(I)，来自源I的平均服务请求率。在步骤820，将计时器的时间间隔复位为t。
图9描绘具有本发明特征的服务器150，例如服务器j，的例子。在步骤905，对两个利用率等级，UH和UL进行初始化，它们代表过载和回到正常状态。例如，可以把UH选为90％的利用率，而UL为70％的利用率。在步骤910，把矩阵GW(I，j)，0＜I＜M+1，初始化为0。把检查利用率用的计时器时间间隔(TW)初始化为s，例如1分钟，并将状态变量置为0。请注意，当服务器被检测为过载时，TAG被置为0。
然后，服务器j反复检查输入。在步骤915，检查到有来自源I的服务请求到来时，在步骤920将GW(I，j)加一，在步骤925处理该服务请求。在步骤930，若检测到来自仲裁器110的数据搜集请求，则在步骤935服务器j向仲裁器发送GW(I，j)，0＜I＜M+1，并在步骤940将GW(I，j)，0＜I＜M+1置为0。在步骤945，若检测到计时器时间间隔(TW)用完，则在步骤950服务器执行检查利用率例程。步骤950的详细的例子在图10中给出。
图10描绘检查利用率例程的例子。正如所描绘的，在步骤1005，检查服务器的状态TAG。若TAG的值等于0，则在步骤1010检查服务器的利用率。若利用率高于UH，则在步骤1015将TAG置为1，并在步骤1020向仲裁器110发送报警消息。在步骤1040，将计时器的时间间隔复位为s。在步骤1010，若利用率低于UH，则执行步骤1040。在步骤1005，若TAG值不等于0，则在步骤1025检查服务器的利用率。若利用率低于UL，则在步骤1030把TAG置为0并在步骤1035向仲裁器发送恢复(至正常)消息。
本专业的技术人员都很容易认识到，在不离开本发明的精神和范围的情况下，可以对本发明采用各种各样的扩展。例如，尽管在图6和7详细描绘的调度器和TTL逻辑是利用确定性方法举例说明的，但是他们很容易修改成随机性的情况。图11和12分别给出另一种方案的调度器逻辑和TTL逻辑。
随机性算法
用概述的方法，首先考虑多机种服务器的作用。诸如RR等算法力求在分布的同机种服务器中间平衡请求负载。通过添加基于服务器能力的随机性路由选择特性，这些策略可以扩展到多机种Web系统。
假定C(I)是服务器I的相对能力，亦即服务器I的能力除以各服务器中的最大能力。DNS调度器产生随机数r(0＜r＜1)，并在第I-1个服务器是最后被选中的服务器的假定下，若r小于C(I)，则把新的请求分配给第I个服务器。否则调度器跳过第I个服务器，考虑第I+1个服务器，重复同一过程。这一修改允许RR或其变种调度所述请求，而同时考虑不同的服务器能力。
接着，考虑从网关发出不均匀请求率的情况。该方法，以其最一般的形式(TTL/I)，假定每一个网关请求率都可以动态地估计。通过跟踪从每一个网关到来的请求个数可以做到这一点，而且DNS周期地搜集信息并计算来自每一个网关的客户请求率。TTL/I是一种元算法，它可以包括各种策略。对于I＝1，它代表对每个请求都只用一个TTL的蜕化策略(TTL/1)，因而不是一个自适应的TTL算法；对于I＝2，策略(TTL/2)把网关分成两类：正常网关和热网关。它为来自热网关的请求选择高的TTL，而为来自正常网关的请求选择低的TTL。类似地，对于I＝3，它是一个以把网关分成三列为基础的策略，如此等等，直至I＝K，或(TTL/K)，其中为每一个网关使用不同的TTL。对于TTL/K，令TTL(j)为第j个网关的TTL值。
TTL(j)＝h/A(j)，
式中A(j)为第j个网关的数据请求率，而h为某个常数参数，它确定地址映射请求的总速率。对于TTL/I，我们把网关分成I组，并估计每一组的客户请求率。与它的请求率成反比地设置每一组的TTL。
图11描绘随机情况的调度逻辑的例子。正如所描绘的，在步骤1105，将P加一，并用服务器个数(M)取模。在步骤1110，检查服务器的过载状态。若W(P)不等于0，则在步骤1115产生均匀分布于0与1之间的随机数r。在步骤1120，若r小于或等于C(P)，则服务器P被指定为服务器节点。否则，重复步骤1105，以产生另一个候选服务器。
图12描绘步骤1240的TTL时间间隔计算例子。正如所描绘的，在步骤1240，TTL是用比例因子调整过的来自源A(I)的服务请求率。
作为另一方案，TTL值可以设置成与C(I)成正比，来处理服务器的多机种性，并利用多列轮转式调度算法来处理歪斜的客户请求率。
最后，可以从服务器向DNS调度器提供反馈，来避免过载。例如，若一个节点变得过载了，则可以产生向DNS的报警使得较少或不再有新的客户请求被映射到这个已经过载的节点。当负载回到正常时，可以向DNS发送返回正常的消息。在最佳实施例中，在节点发送报警消息之后，DNS调度器就不再考虑让它接受新的请求，直至它的负载回到正常为止。
上面已经描述了本发明的最佳实施例，本专业的技术人员会提出其他方案、各种修改和改进。因此，应该把这些详细的描述理解为例子而不是限制。本发明的适当的范围由后附的权利要求书恰当地确定。

Claims (20)

1.在分布的或群集的服务器网络中，其中客户被分成组，后者周期地向仲裁器发送映射请求，以便在多个能够对服务请求提供服务的复制的服务器之间对服务请求进行映射并加以平衡，一种把服务器映射到服务请求上用的计算机计算方法，其特征在于所述方法包括下列步骤：
按照调度把来自第一组的第一映射请求映射到第一服务器；
作为第一组的请求负载和第一服务器的能力之一的函数，动态地计算向第一服务器的映射请求的有效时间间隔；以及
通过通讯联系把服务器的选择和有效时间间隔通知第一组，以便高速缓存，使得在该有效时间间隔期间随后来自第一组的请求都引向该第一服务器。
2.权利要求1的方法，其特征在于：每一个服务器都是在地理上处于分布地点的万维网服务器，仲裁器是一种扩展的域名服务器，而每一个地址映射包括生存期的时间间隔，而且其中该组包括一组与公共网关或套接字服务器之一相联系的客户，所述方法包括下列步骤：
所述映射步骤包括把名字请求映射到IP地址；以及
所述动态地计算有效时间间隔的步骤包括作为网关请求负载和与此IP地址相联系的目的服务器的能力之一的函数动态地计算生存期。
3.权利要求1的方法，其特征在于：所述映射步骤包括按照轮转和多列轮转调度中的一种进行映射的步骤；而该有效时间间隔与请求负载成反比，并与服务器的能力成正比。
4.权利要求1的方法，其特征在于：所述映射步骤包括按照随机性轮转和随机性多列轮转调度中的一种根据服务器的能力进行映射的步骤；而该有效时间间隔与请求负载成反比。
5.权利要求1的方法，其特征在于：所述为所述映射到第一服务器的映射请求动态地计算有效时间间隔的步骤包括下列步骤：
估计发向第一服务器的请求负载，包括与此相关的隐藏的和明显的负载之一；以及
响应所述估计步骤，根据与该组相关的请求负载设定有效时间间隔。
6.权利要求5的方法，其特征在于：所述根据与该组相关的请求负载设定有效时间间隔的步骤包括与该组相关的请求负载成反比地设定有效时间间隔。
7.权利要求1的方法，其特征在于：所述为所述映射到第一服务器的映射请求动态地计算有效时间间隔的步骤包括下列步骤：
估计该第一服务器的能力；以及
作为所选的服务器的能力的函数设定有效时间间隔。
8.权利要求7的方法，其特征在于：有效时间间隔与服务器的能力成正比。
9.权利要求5的方法，其特征在于：所述为所述映射到第一服务器的映射请求动态地计算有效时间间隔的步骤包括下列步骤：
估计该第一服务器的能力；以及
既作为第一服务器的能力估计值的函数，又作为与该组相关的请求负载估计值的函数设定有效时间间隔。
10.权利要求9的方法，其特征在于：该有效时间间隔与估计的与该源组相关的负载成反比，并与服务器的能力成正比。
11.一种用于分布的或群集的服务器网络中的仲裁器，其中网络中的客户被分成组，客户周期地向仲裁器发送映射请求，以便在多个能够对服务请求提供服务的复制的服务器之间对服务请求进行映射并加以平衡，所述仲裁器的特征在于包括：
可由计算机执行的调度逻辑装置，用来按照调度把来自第一组的第一映射请求映射到第一服务器；以及
与所述调度逻辑装置耦合的可由计算机执行的动态有效时间间隔装置，用来作为第一组的请求负载和第一服务器的能力之一的函数，动态地为所述映射到第一服务器的映射请求计算有效时间间隔；以及
响应所述调度逻辑装置，把第一服务器的识别符和有效时间间隔通知该第一组，使得在有效时间间隔期间把随后来自该第一组的请求都引向该第一服务器。
12.权利要求11的仲裁器，其特征在于：每一个服务器都是在地理上处于分布地点的万维网服务器，仲裁器是一种扩展的域名服务器，而每一个地址映射都包括生存期的时间间隔，而且其中该组包括一组与公共网关或套接字服务器之一相联系的客户，所述：
所述可由计算机执行的调度逻辑装置包括把名字请求映射到IP地址用的装置；以及
所述可由计算机执行的动态有效时间间隔装置包括作为网关请求负载和与此IP地址相联系的目的服务器的能力之一的函数动态地计算生存期用的装置。
13.权利要求11的仲裁器，其特征在于：所述可由计算机执行的调度逻辑装置包括按照轮转和多列轮转调度中的一种进行映射用的装置；而所述有效时间间隔与请求负载成反比，并与服务器的能力成正比。
14.权利要求11的仲裁器，其特征在于：所述可由计算机执行的调度逻辑装置包括按照随机性轮转和随机性多列轮转调度中的一种作为服务器的能力的函数进行映射用的装置；而该有效时间间隔与请求负载成反比。
15.权利要求的11的仲裁器，其特征在于：所述可由计算机执行的动态有效时间间隔装置包括：
估计发向第一服务器的请求负载用的装置，包括与此相关的隐藏的和明显的请求负载；以及
响应所述估计步骤，作为与该组相关的请求负载的函数设定有效时间间隔用的装置。
16.权利要求15的仲裁器，其特征在于：所述作为与该组相关的请求负载的函数设定有效时间间隔用的装置包括用来与该组相关的请求负载成反比地设定有效时间间隔的装置。
17.权利要求11的仲裁器，其特征在于：所述可由计算机执行的动态有效时间间隔装置包括：
估计该第一服务器的能力用的装置；以及
作为所选的服务器的能力的函数设定有效时间间隔用的装置。
18.权利要求17的仲裁器，其特征在于：有效时间间隔与服务器的能力成正比。
19.权利要求15的仲裁器，其特征在于：所述可由计算机执行的动态有效时间间隔装置包括：
估计该第一服务器的能力用的装置；以及
既作为第一服务器的能力估计值的函数，又作为与该组相关的请求负载估计值的函数设定有效时间间隔用的装置。
20.权利要求19的仲裁器，其特征在于：该有效时间间隔与估计的与该源组相关的负载成反比，并与服务器的能力成正比。
CN98103659A 1997-02-07 1998-01-19 基于动态时间间隔的负载平衡方法和装置 Expired - Lifetime CN1098488C (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US798,385 1997-02-07
US08/798,385 US6078943A (en) 1997-02-07 1997-02-07 Method and apparatus for dynamic interval-based load balancing
US798385 1997-02-07

Publications (2)

Publication Number Publication Date
CN1190213A CN1190213A (zh) 1998-08-12
CN1098488C true CN1098488C (zh) 2003-01-08

Family

ID=25173263

Family Applications (1)

Application Number Title Priority Date Filing Date
CN98103659A Expired - Lifetime CN1098488C (zh) 1997-02-07 1998-01-19 基于动态时间间隔的负载平衡方法和装置

Country Status (6)

Country Link
US (1) US6078943A (zh)
JP (1) JP3124955B2 (zh)
KR (1) KR100295004B1 (zh)
CN (1) CN1098488C (zh)
GB (1) GB2323458B (zh)
TW (1) TW512266B (zh)

Families Citing this family (133)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9603582D0 (en) 1996-02-20 1996-04-17 Hewlett Packard Co Method of accessing service resource items that are for use in a telecommunications system
JP3190813B2 (ja) * 1996-02-15 2001-07-23 日本電気株式会社 配信システム
US6154445A (en) 1996-04-18 2000-11-28 Bell Atlantic Network Services, Inc. Telephony communication via varied redundant networks
US6069890A (en) 1996-06-26 2000-05-30 Bell Atlantic Network Services, Inc. Internet telephone service
US6078582A (en) 1996-12-18 2000-06-20 Bell Atlantic Network Services, Inc. Internet long distance telephone service
US7020700B1 (en) * 1997-02-28 2006-03-28 International Business Machines Corporation Client side socks server for an internet client
US6137869A (en) 1997-09-16 2000-10-24 Bell Atlantic Network Services, Inc. Network session management
US6104711A (en) * 1997-03-06 2000-08-15 Bell Atlantic Network Services, Inc. Enhanced internet domain name server
US6292479B1 (en) 1997-03-19 2001-09-18 Bell Atlantic Network Services, Inc. Transport of caller identification information through diverse communication networks
US6870827B1 (en) 1997-03-19 2005-03-22 Verizon Services Corp. Voice call alternative routing through PSTN and internet networks
CA2202572C (en) * 1997-04-14 2004-02-10 Ka Lun Eddie Law A scaleable web server and method of efficiently managing multiple servers
US6351775B1 (en) * 1997-05-30 2002-02-26 International Business Machines Corporation Loading balancing across servers in a computer network
US6185598B1 (en) 1998-02-10 2001-02-06 Digital Island, Inc. Optimized network resource location
US8296396B2 (en) * 1998-02-10 2012-10-23 Level 3 Communications, Llc Delivering resources to clients in a distributed computing environment with rendezvous based on load balancing and network conditions
US6396830B2 (en) * 1998-06-18 2002-05-28 Lucent Technologies Inc. Implementing network services over the internet through dynamic resolution of personal host names
US6108703A (en) 1998-07-14 2000-08-22 Massachusetts Institute Of Technology Global hosting system
US6665702B1 (en) * 1998-07-15 2003-12-16 Radware Ltd. Load balancing
US6249801B1 (en) * 1998-07-15 2001-06-19 Radware Ltd. Load balancing
US6205477B1 (en) * 1998-10-20 2001-03-20 Cisco Technology, Inc. Apparatus and method for performing traffic redirection in a distributed system using a portion metric
US6606661B1 (en) * 1998-12-23 2003-08-12 At&T Corp. Method for dynamic connection closing time selection
US6374294B1 (en) * 1998-12-23 2002-04-16 Nortel Networks Limited Method and apparatus for negating invalid networking addresses
US6269410B1 (en) * 1999-02-12 2001-07-31 Hewlett-Packard Co Method and apparatus for using system traces to characterize workloads in a data storage system
GB2348985A (en) * 1999-04-15 2000-10-18 Ibm Centralized affinity maintenance in a workload managed client/server system
US6788692B1 (en) * 1999-05-03 2004-09-07 Nortel Networks Limited Network switch load balancing
EP1224536B1 (en) * 1999-05-28 2005-12-21 Sentillion, Inc. Context management server appliance
US7346648B1 (en) 1999-05-28 2008-03-18 Sentillion, Inc. Context management server appliance
US6442602B1 (en) * 1999-06-14 2002-08-27 Web And Net Computing System and method for dynamic creation and management of virtual subdomain addresses
US6275470B1 (en) 1999-06-18 2001-08-14 Digital Island, Inc. On-demand overlay routing for computer-based communication networks
US6742019B1 (en) * 1999-07-23 2004-05-25 International Business Machines Corporation Sieved caching for increasing data rate capacity of a heterogeneous striping group
US6374297B1 (en) * 1999-08-16 2002-04-16 International Business Machines Corporation Method and apparatus for load balancing of web cluster farms
US7979508B1 (en) * 1999-09-23 2011-07-12 International Business Machines Corporation System and method for improving gateway transparency
JP4001698B2 (ja) * 1999-10-14 2007-10-31 富士通株式会社 負荷分散システム
US8554628B1 (en) * 1999-10-26 2013-10-08 Aol Inc. Advertisement delivery
KR100333632B1 (ko) * 1999-11-10 2002-04-25 백덕호 동적 아이피 주소 기반의 서버 접속 방법 및 시스템
US6405252B1 (en) * 1999-11-22 2002-06-11 Speedera Networks, Inc. Integrated point of presence server network
US7062556B1 (en) * 1999-11-22 2006-06-13 Motorola, Inc. Load balancing method in a communication network
US7523181B2 (en) 1999-11-22 2009-04-21 Akamai Technologies, Inc. Method for determining metrics of a content delivery and global traffic management network
US6389448B1 (en) * 1999-12-06 2002-05-14 Warp Solutions, Inc. System and method for load balancing
US6754706B1 (en) * 1999-12-16 2004-06-22 Speedera Networks, Inc. Scalable domain name system with persistence and load balancing
KR20000017857A (ko) * 1999-12-23 2000-04-06 이재혁 웹 콘텐츠 전송 시스템 및 그 전송 제어 방법
US20020188606A1 (en) * 2001-05-11 2002-12-12 Chen Sun Organizing and accessing electronic business cards by virtual subdomain
US7886023B1 (en) 2000-01-21 2011-02-08 Cisco Technology, Inc. Method and apparatus for a minimalist approach to implementing server selection
US7047301B2 (en) * 2000-01-31 2006-05-16 F5 Networks, Inc. Method and system for enabling persistent access to virtual servers by an LDNS server
US6751668B1 (en) * 2000-03-14 2004-06-15 Watchguard Technologies, Inc. Denial-of-service attack blocking with selective passing and flexible monitoring
US7058706B1 (en) 2000-03-31 2006-06-06 Akamai Technologies, Inc. Method and apparatus for determining latency between multiple servers and a client
US20020019843A1 (en) * 2000-04-26 2002-02-14 Killian Robert T. Multiprocessor object control
KR100368108B1 (ko) * 2000-07-13 2003-01-15 (주) 멀티웨이브 부하 분산기
US7653706B2 (en) * 2000-07-19 2010-01-26 Akamai Technologies, Inc. Dynamic image delivery system
US7725602B2 (en) * 2000-07-19 2010-05-25 Akamai Technologies, Inc. Domain name resolution using a distributed DNS network
US7346676B1 (en) * 2000-07-19 2008-03-18 Akamai Technologies, Inc. Load balancing service
US8060581B2 (en) * 2000-07-19 2011-11-15 Akamai Technologies, Inc. Dynamic image delivery system
US6823380B1 (en) * 2000-08-07 2004-11-23 Microsoft Corporation System and method providing continual rate requests
US7089301B1 (en) * 2000-08-11 2006-08-08 Napster, Inc. System and method for searching peer-to-peer computer networks by selecting a computer based on at least a number of files shared by the computer
US8527639B1 (en) * 2000-08-18 2013-09-03 Cisco Technology, Inc. Content server selection for accessing content in a content distribution network
US6996615B1 (en) * 2000-09-29 2006-02-07 Cisco Technology, Inc. Highly scalable least connections load balancing
WO2002059742A1 (en) * 2000-12-21 2002-08-01 Reba Technologies, Inc. Server farm information processing system and method of operation
US7546369B2 (en) 2000-12-21 2009-06-09 Berg Mitchell T Method and system for communicating a request packet in response to a state
US20020116397A1 (en) * 2000-12-21 2002-08-22 Berg Mitchell T. Method and system for communicating an information packet through multiple router devices
US7418522B2 (en) * 2000-12-21 2008-08-26 Noatak Software Llc Method and system for communicating an information packet through multiple networks
US7287090B1 (en) * 2000-12-21 2007-10-23 Noatak Software, Llc Method and system for identifying a computing device in response to a request packet
US7512686B2 (en) 2000-12-21 2009-03-31 Berg Mitchell T Method and system for establishing a data structure of a connection with a client
US20020087722A1 (en) * 2000-12-29 2002-07-04 Ragula Systems D/B/A/ Fatpipe Networks Domain name resolution making IP address selections in response to connection status when multiple connections are present
US7274658B2 (en) * 2001-03-01 2007-09-25 Akamai Technologies, Inc. Optimal route selection in a content delivery network
US7085825B1 (en) 2001-03-26 2006-08-01 Freewebs Corp. Apparatus, method and system for improving application performance across a communications network
US7149797B1 (en) * 2001-04-02 2006-12-12 Akamai Technologies, Inc. Content delivery network service provider (CDNSP)-managed content delivery network (CDN) for network service provider (NSP)
US20020143798A1 (en) * 2001-04-02 2002-10-03 Akamai Technologies, Inc. Highly available distributed storage system for internet content with storage site redirection
KR100470493B1 (ko) * 2001-06-01 2005-02-07 니트젠테크놀러지스 주식회사 특수 도메인네임 분해 서비스 방법
US7290059B2 (en) * 2001-08-13 2007-10-30 Intel Corporation Apparatus and method for scalable server load balancing
KR20030021363A (ko) * 2001-09-05 2003-03-15 윤인수 인터넷망을 기반으로 하는 멀티미디어 데이터 전송 시스템및 이를 이용한 멀티미디어 데이터 전송 방법
GB0122507D0 (en) * 2001-09-18 2001-11-07 Marconi Comm Ltd Client server networks
US20030074467A1 (en) * 2001-10-11 2003-04-17 Oblak Sasha Peter Load balancing system and method for data communication network
US7283538B2 (en) * 2001-10-12 2007-10-16 Vormetric, Inc. Load balanced scalable network gateway processor architecture
US20030079027A1 (en) * 2001-10-18 2003-04-24 Michael Slocombe Content request routing and load balancing for content distribution networks
US6938031B1 (en) 2001-10-19 2005-08-30 Data Return Llc System and method for accessing information in a replicated database
US7000016B1 (en) 2001-10-19 2006-02-14 Data Return Llc System and method for multi-site clustering in a network
JP3904435B2 (ja) * 2001-11-28 2007-04-11 株式会社日立製作所 Ｗｅｂサービス向け輻輳制御装置及び方法
US20030105830A1 (en) * 2001-12-03 2003-06-05 Duc Pham Scalable network media access controller and methods
JP4039195B2 (ja) * 2001-12-27 2008-01-30 富士ゼロックス株式会社 ネットワークシステム
US9167036B2 (en) * 2002-02-14 2015-10-20 Level 3 Communications, Llc Managed object replication and delivery
US8224986B1 (en) * 2002-03-07 2012-07-17 Cisco Technology, Inc. Methods and apparatus for redirecting requests for content
US20030229695A1 (en) * 2002-03-21 2003-12-11 Mc Bride Edmund Joseph System for use in determining network operational characteristics
US7181527B2 (en) * 2002-03-29 2007-02-20 Intel Corporation Method for transmitting load balancing in mixed speed environments
US7222245B2 (en) * 2002-04-26 2007-05-22 Hewlett-Packard Development Company, L.P. Managing system power based on utilization statistics
US7155438B2 (en) * 2002-05-01 2006-12-26 Bea Systems, Inc. High availability for event forwarding
US7526519B2 (en) * 2002-05-01 2009-04-28 Bea Systems, Inc. High availability application view deployment
US7222148B2 (en) 2002-05-02 2007-05-22 Bea Systems, Inc. System and method for providing highly available processing of asynchronous service requests
US7191249B1 (en) 2002-06-14 2007-03-13 Juniper Networks, Inc. Packet prioritization systems and methods using address aliases
US7165103B2 (en) * 2002-06-26 2007-01-16 Microsoft Corporation Method and system for matching network clients and servers under matching constraints
US7380002B2 (en) * 2002-06-28 2008-05-27 Microsoft Corporation Bi-directional affinity within a load-balancing multi-node network interface
US6931530B2 (en) 2002-07-22 2005-08-16 Vormetric, Inc. Secure network file access controller implementing access control and auditing
US6678828B1 (en) * 2002-07-22 2004-01-13 Vormetric, Inc. Secure network file access control system
US7334124B2 (en) * 2002-07-22 2008-02-19 Vormetric, Inc. Logical access block processing protocol for transparent secure file storage
US7143288B2 (en) * 2002-10-16 2006-11-28 Vormetric, Inc. Secure file system server architecture and methods
US20040122950A1 (en) * 2002-12-20 2004-06-24 Morgan Stephen Paul Method for managing workloads in an autonomic computer system for improved performance
JP4431315B2 (ja) * 2003-01-14 2010-03-10 株式会社日立製作所 パケット通信方法およびパケット通信装置
US7353276B2 (en) * 2003-02-13 2008-04-01 Microsoft Corporation Bi-directional affinity
US7475108B2 (en) * 2003-06-26 2009-01-06 International Business Machines Corporation Slow-dynamic load balancing method
US20050060391A1 (en) * 2003-09-16 2005-03-17 International Business Machines Corporation Autonomic cluster-based optimization
DE10345535B4 (de) * 2003-09-30 2005-10-06 Siemens Ag Überprüfung der Verfügbarkeit eines Servers
DE10346303B3 (de) * 2003-10-06 2005-03-24 Sap Ag Verfahren zur Bearbeitung von aufeinanderfolgenden Anfragen eines externen Computers in einem Computersystem mit mindestens einem ersten Computer und einem zweiten Computer, sowie Computerprogramm und Computersystem
US7389510B2 (en) * 2003-11-06 2008-06-17 International Business Machines Corporation Load balancing of servers in a cluster
US8089972B2 (en) 2004-05-03 2012-01-03 Level 3 Communications, Llc Registration redirect server
US20060064478A1 (en) * 2004-05-03 2006-03-23 Level 3 Communications, Inc. Geo-locating load balancing
JP4511547B2 (ja) * 2004-09-17 2010-07-28 三洋電機株式会社 通信端末
US8145908B1 (en) * 2004-10-29 2012-03-27 Akamai Technologies, Inc. Web content defacement protection system
US8346956B2 (en) 2004-10-29 2013-01-01 Akamai Technologies, Inc. Dynamic image delivery system
US9843557B2 (en) 2004-12-09 2017-12-12 Level 3 Communications, Llc Systems and methods for dynamically registering endpoints in a network
US7734019B1 (en) * 2004-12-09 2010-06-08 Level 3 Communications, Llc Systems and methods for third party emergency call termination
US8768350B2 (en) 2004-12-09 2014-07-01 Level 3 Communications, Llc Systems and methods for locating endpoints in a communication network
WO2006063623A1 (en) * 2004-12-16 2006-06-22 Telefonaktiebolaget Lm Ericsson (Publ) Method and devices for distributing service requests to service providers
US8996702B2 (en) * 2005-09-19 2015-03-31 International Business Machines Corporation Method, system, and computer program product for routing sessions to a specific URL in a multi-site environment
US8447837B2 (en) * 2005-12-30 2013-05-21 Akamai Technologies, Inc. Site acceleration with content prefetching enabled through customer-specific configurations
US7941805B2 (en) * 2006-08-15 2011-05-10 International Business Machines Corporation Affinity dispatching load balancer with precise CPU consumption data
CN101193124B (zh) * 2006-11-27 2010-09-08 英业达股份有限公司 自动调整伺服系统的储存资源的方法
US20080225714A1 (en) * 2007-03-12 2008-09-18 Telefonaktiebolaget Lm Ericsson (Publ) Dynamic load balancing
US7881329B2 (en) 2007-05-25 2011-02-01 Sharp Laboratories Of America, Inc. Method and system for maintaining high reliability logical connection
CN103441829A (zh) * 2007-12-12 2013-12-11 华为技术有限公司 调整nhr参考值的方法、系统和装置
US10924573B2 (en) 2008-04-04 2021-02-16 Level 3 Communications, Llc Handling long-tail content in a content delivery network (CDN)
CA2720353C (en) 2008-04-04 2016-01-19 Level 3 Communications, Llc Handling long-tail content in a content delivery network (cdn)
US9762692B2 (en) 2008-04-04 2017-09-12 Level 3 Communications, Llc Handling long-tail content in a content delivery network (CDN)
CN101778037A (zh) * 2009-01-12 2010-07-14 财团法人工业技术研究院 动态评分负载平衡装置与方法
KR101237502B1 (ko) * 2009-04-16 2013-02-27 연세대학교 산학협력단 무선 애드 혹(ａｂ ｈｏｃ) 네트워크에서 스케줄링 방법 및스케줄링 정보의 동기화 방법
US8238538B2 (en) 2009-05-28 2012-08-07 Comcast Cable Communications, Llc Stateful home phone service
US8397088B1 (en) 2009-07-21 2013-03-12 The Research Foundation Of State University Of New York Apparatus and method for efficient estimation of the energy dissipation of processor based systems
KR101276340B1 (ko) * 2009-09-22 2013-06-18 한국전자통신연구원 병렬 처리 시스템 및 그 방법
TWI414161B (zh) * 2011-01-28 2013-11-01 Univ Nat Chiao Tung 負載分配方法
US10460004B1 (en) * 2011-06-24 2019-10-29 Amazon Technologies, Inc. Load regulation using dynamically determined time to live values
JP2013218670A (ja) * 2012-02-28 2013-10-24 Sap Ag コンピュータ実装方法、コンピュータシステム、およびコンピュータ可読記録媒体
CN103312629B (zh) * 2012-03-09 2018-02-27 深圳市腾讯计算机系统有限公司 一种cdn流量分配方法、设备及系统
US9876873B1 (en) 2015-10-21 2018-01-23 Perfect Sense, Inc. Caching techniques
JP6597823B2 (ja) 2018-03-23 2019-10-30 日本電気株式会社 ロードバランシング装置、通信システム、制御方法及びプログラム
US10778757B1 (en) 2018-06-18 2020-09-15 Amazon Technologies, Inc. Load balancing traffic via dynamic DNS record TTLs
US11924019B2 (en) * 2021-05-31 2024-03-05 Jio Platforms Limited Alarm management module for internet-of-things (IoT) network

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5371852A (en) * 1992-10-14 1994-12-06 International Business Machines Corporation Method and apparatus for making a cluster of computers appear as a single host on a network
EP0648038A2 (en) * 1993-09-11 1995-04-12 International Business Machines Corporation A data processing system for providing user load levelling in a network
EP0715257A1 (fr) * 1994-11-30 1996-06-05 Bull S.A. Outil d'aide à la répartition de la charge d'une application répartie

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5287508A (en) * 1992-04-07 1994-02-15 Sun Microsystems, Inc. Method and apparatus for efficient scheduling in a multiprocessor system
JPH0764926A (ja) * 1993-08-25 1995-03-10 Nippon Telegr & Teleph Corp <Ntt> 分散サーバ装置
EP0694837A1 (en) * 1994-07-25 1996-01-31 International Business Machines Corporation Dynamic workload balancing
JP4008049B2 (ja) * 1995-03-20 2007-11-14 富士通株式会社 アドレス送信装置、アドレス送信方法およびアドレス送信システム
US5774668A (en) * 1995-06-07 1998-06-30 Microsoft Corporation System for on-line service in which gateway computer uses service map which includes loading condition of servers broadcasted by application servers for load balancing
US5862348A (en) * 1996-02-09 1999-01-19 Citrix Systems, Inc. Method and apparatus for connecting a client node to a server node based on load levels

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5371852A (en) * 1992-10-14 1994-12-06 International Business Machines Corporation Method and apparatus for making a cluster of computers appear as a single host on a network
EP0648038A2 (en) * 1993-09-11 1995-04-12 International Business Machines Corporation A data processing system for providing user load levelling in a network
EP0715257A1 (fr) * 1994-11-30 1996-06-05 Bull S.A. Outil d'aide à la répartition de la charge d'une application répartie

Also Published As

Publication number Publication date
TW512266B (en) 2002-12-01
GB2323458B (en) 2001-11-28
KR100295004B1 (ko) 2001-07-12
GB9800629D0 (en) 1998-03-11
GB2323458A (en) 1998-09-23
JP3124955B2 (ja) 2001-01-15
KR19980070924A (ko) 1998-10-26
JPH10254838A (ja) 1998-09-25
US6078943A (en) 2000-06-20
CN1190213A (zh) 1998-08-12

Similar Documents

Publication Publication Date Title
CN1098488C (zh) 基于动态时间间隔的负载平衡方法和装置
US6119143A (en) Computer system and method for load balancing with selective control
Zhang et al. Proactive workload management in hybrid cloud computing
KR100318779B1 (ko) 인터넷에서의동적경로배정방법및장치
CN102624922B (zh) 一种网络gis异构集群服务器负载均衡方法
US20180288141A1 (en) Http scheduling system and method of content delivery network
WO2021012663A1 (zh) 一种访问日志的处理方法及装置
CN101848137B (zh) 一种应用于三层网络的负载均衡方法和系统
CN108494868A (zh) 一种基于云业务系统下的负载均衡方法及系统
CN1777880A (zh) 被管对象的复制和传送
CN1878181A (zh) 用于管理dns请求的方法和数据处理系统
CN110430274A (zh) 一种基于云存储的文件下载方法及系统
CN103493449A (zh) 分组交换网络中的有效电路
Wang et al. Presto: Towards efficient online virtual network embedding in virtualized cloud data centers
Tiwari et al. Dynamic load balancing algorithm for scalable heterogeneous web server cluster with content awareness
KR20100038800A (ko) 캐시서버에 저장된 데이터 갱신방법, 그 캐시서버 및 컨텐츠 제공시스템
Shoaib et al. Fast Data Access through Nearest Location-Based Replica Placement
Yeung et al. Least load dispatching algorithm for parallel Web server nodes
WO2017215249A1 (zh) 分配网际协议ip磁盘的方法及装置
Zhang et al. Communication optimization for RDMA-based science data transmission tools
WO2018156789A1 (en) Channel management in scalable messaging system
Asaka et al. Distributed web caching using hash-based query caching method
Aggarwal et al. Dynamic load balancing based on CPU utilization and data locality in distributed database using priority policy
Kinoshita et al. High throughput dequeuing technique in distributed message queues for IoT
Hu et al. An efficient data transfer service for scientific applications in cloud environments

Legal Events

Date Code Title Description
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C06 Publication
PB01 Publication
C14 Grant of patent or utility model
GR01 Patent grant
CX01 Expiry of patent term

Granted publication date: 20030108

CX01 Expiry of patent term