CN114866799A - 一种服务器调度方法及装置 - Google Patents

一种服务器调度方法及装置 Download PDF

Info

Publication number
CN114866799A
CN114866799A CN202210510612.XA CN202210510612A CN114866799A CN 114866799 A CN114866799 A CN 114866799A CN 202210510612 A CN202210510612 A CN 202210510612A CN 114866799 A CN114866799 A CN 114866799A
Authority
CN
China
Prior art keywords
machine room
server
target
hash value
client
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210510612.XA
Other languages
English (en)
Other versions
CN114866799B (zh
Inventor
张瀚文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing QIYI Century Science and Technology Co Ltd
Original Assignee
Beijing QIYI Century Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing QIYI Century Science and Technology Co Ltd filed Critical Beijing QIYI Century Science and Technology Co Ltd
Priority to CN202210510612.XA priority Critical patent/CN114866799B/zh
Publication of CN114866799A publication Critical patent/CN114866799A/zh
Application granted granted Critical
Publication of CN114866799B publication Critical patent/CN114866799B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/231Content storage operation, e.g. caching movies for short term storage, replicating data over plural servers, prioritizing data for deletion
    • H04N21/23103Content storage operation, e.g. caching movies for short term storage, replicating data over plural servers, prioritizing data for deletion using load balancing strategies, e.g. by placing or distributing content on different disks, different memories or different servers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/262Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Computer And Data Communications (AREA)

Abstract

本申请提供了一种服务器调度方法及装置,接收客户端发送的调度请求,调度请求用于请求为客户端分配与其建立传输控制协议TCP连接的服务器,调度请求包括客户端的IP和客户端播放的视频ID;根据客户端的IP和视频ID,确定为客户端分配的目标服务器。本申请通过根据客户端IP和视频ID,确定和客户端建立TCP连接的服务器,降低了播放视频中TCP连接中断的可能性,避免服务器的负载不均衡,减小了单台服务器故障对客户端的影响。

Description

一种服务器调度方法及装置
技术领域
本申请主要涉及视频播放领域,特别涉及一种服务器调度方法及装置。
背景技术
随着优化视频播放体验的需求日益增长,对视频下载时间的优化非常关键。例如,在线视频的播放过程中,为了加载视频,经常需要将较长的视频分为多个片段,每次下载一个片段到缓存中,保证播放顺畅不卡顿。对于单次的下载过程,需要基于TCP(TransmissionControl Protocol,传输控制协议)连接获得传递数据。在提供TCP连接的服务器状态良好的情况下,下载完一个片段之后可以复用下载该片段时已经建立的TCP连接,继续下载后续的片段,这样能省去再次建立连接的时间,从而减少播放视频期间,下载多个片段的时间,优化播放视频的体验。
目前的视频播放中,往往采用为同一个客户端IP分配同一个服务器的方法,某个客户端IP的播放请求均由固定的服务器处理。然而,这种方法可能会造成各个服务器之间负载不均衡的问题;而且在某台服务器发生故障时,可能会产生某些客户端无法播放所有视频的风险。
发明内容
有鉴于此,本申请提供了一种服务器调度方法及装置,降低了播放视频中TCP连接中断的可能性,避免服务器的负载不均衡,降低了单台服务器故障对客户端的影响。
一方面,本申请实施例提供了一种服务器调度方法,所述方法包括:
接收客户端发送的调度请求,所述调度请求用于请求为所述客户端分配与其建立传输控制协议TCP连接的服务器,所述调度请求包括所述客户端的IP和所述客户端播放的视频ID;
根据所述客户端的IP和所述视频ID,,确定为所述客户端分配的目标服务器。
可选的,所述根据所述客户端的IP和所述视频ID,确定为所述客户端分配的目标服务器,包括:
根据所述客户端的IP和所述视频ID,确定目标哈希值;
根据所述目标哈希值,确定为所述客户端分配的目标服务器。
可选的,所述根据所述目标哈希值,确定为所述客户端分配的目标服务器,包括:
根据所述目标哈希值,确定为所述客户端分配的目标机房;
在所述目标机房的服务器中,根据所述目标哈希值,确定为所述客户端分配的所述目标服务器。
可选的,所述根据所述目标哈希值,确定为所述客户端分配的目标机房,包括:
根据所述调度请求,从预设的机房的集合中,确定匹配所述调度请求的可用机房子集;
获取预先确定的机房虚拟节点的哈希值列表,所述机房虚拟节点的哈希值列表保存有所述机房虚拟节点和所述机房虚拟节点的哈希值的对应关系,所述机房虚拟节点是由所述机房的集合中每个机房的物理节点复制而来的节点;
在所述机房虚拟节点的哈希值列表中查找目标机房虚拟节点,所述目标机房虚拟节点对应的机房属于所述可用机房子集;
确定目标虚拟机房节点对应的机房为所述目标机房。
可选的,所述机房虚拟节点的哈希值列表中的各机房虚拟节点按照所述机房虚拟节点的哈希值从小到大顺序排列;
所述在所述机房虚拟节点的哈希值列表中查找目标机房虚拟节点包括:
在所述机房虚拟节点的哈希值列表中查找到排在第k位的机房虚拟节点,第k位的机房虚拟节点对应的哈希值小于所述目标哈希值,并且第k+1位的机房虚拟节点对应的哈希值大于所述目标哈希值;
确定所述第k位的机房虚拟节点对应的机房是否属于所述可用机房子集;
若属于,则将所述第k位的机房虚拟节点作为所述目标机房虚拟节点;
若不属于,则在所述机房虚拟节点的哈希值列表中查找排在所述第k位的机房虚拟节点之后、且排序最靠前的机房虚拟节点作为所述目标机房虚拟节点,所述目标机房虚拟节点对应的机房属于所述可用机房子集。
可选的,所述机房虚拟节点的哈希值列表是根据以下方式确定的:
根据所述机房的集合中每个机房的负载能力,确定所述机房的集合中每个机房的负载权重;
根据所述负载权重,为每个所述机房分配机房虚拟节点,所述机房的机房虚拟节点的个数和所述机房的负载权重成正比,每个所述机房至少分配两个机房虚拟节点;
分别计算所述机房虚拟节点的哈希值,并根据所述机房虚拟节点和所述机房虚拟节点的哈希值的对应关系,得到所述机房虚拟节点的哈希值列表。
可选的,所述根据所述调度请求,从机房的集合中,确定匹配所述调度请求的可用机房子集,包括:
根据所述调度请求携带的信息和所述调度请求的特点中的至少一种,从机房的集合中,筛选出匹配所述调度请求的可用机房子集,所述调度请求的特点用于表征所述调度请求所使用的协议。
可选的,所述在所述目标机房的服务器中,根据所述目标哈希值,确定为所述客户端分配的所述目标服务器,包括:
获取预先确定的服务器虚拟节点的哈希值列表,所述服务器虚拟节点的哈希值列表保存有所述服务器虚拟节点和所述服务器虚拟节点的哈希值的对应关系,所述服务器虚拟节点是由所述目标机房的服务器的物理节点复制而来的节点;
在所述服务器虚拟节点的哈希值列表中查找目标服务器虚拟节点;
确定目标服务器虚拟节点对应的服务器为所述目标服务器。
可选的,所述服务器虚拟节点的哈希值列表中的各服务器虚拟节点按照所述服务器虚拟节点的哈希值从小到大顺序排列;
所述在所述服务器虚拟节点的哈希值列表中查找目标服务器虚拟节点包括:
在所述服务器虚拟节点的哈希值列表中查找到排在第p位的服务器虚拟节点,第p位的服务器虚拟节点对应的哈希值小于所述目标哈希值,并且第p+1位的服务器虚拟节点对应的哈希值大于所述目标哈希值;
将所述第p位的服务器虚拟节点作为所述目标服务器虚拟节点。
可选的,所述服务器虚拟节点的哈希值列表是根据以下方式确定的:
为每个所述服务器分配至少两个服务器虚拟节点,且为每个所述服务器分配的服务器虚拟节点个数相等;
分别计算所述服务器虚拟节点的哈希值,并根据所述服务器虚拟节点和所述服务器虚拟节点的哈希值的对应关系,得到所述服务器虚拟节点的哈希值列表。
另一方面,本申请实施例还提供了一种服务器调度装置,所述装置包括:
调度请求接收单元,用于接收客户端发送的调度请求,所述调度请求用于请求为所述客户端分配与其建立传输控制协议TCP连接的服务器,所述调度请求包括所述客户端的IP和所述客户端播放的视频ID;
目标服务器分配单元,用于根据所述客户端的IP和所述视频ID,确定为所述客户端分配的目标服务器。
由此可见,本申请实施例有如下有益效果:
本申请提供了一种视频播放的服务器调度方法,接收客户端发送的调度请求,调度请求用于请求为客户端分配与其建立传输控制协议TCP连接的服务器,调度请求包括客户端的IP和客户端播放的视频ID;根据客户端的IP和视频ID,确定为客户端分配的目标服务器。本申请通过根据客户端IP和视频ID,确定和客户端建立TCP连接的服务器,一方面,尽可能将客户端不同视频的播放请求调度到不同的服务器上,避免将同一客户端IP的所有播放请求均分配给同一服务器,有利于各个服务器占的负载均衡,降低了因某台服务器故障造成某些用户无法播放所有视频的风险;另一方面,同一客户端IP在播放同一视频ID的视频时,尽可能连接到同一服务器上,保证在播放同一视频过程中TCP连接不中断。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1为本申请实施例提供的一种服务器调度方法流程图;
图2为本申请实施例提供的一种服务器调度装置示意图。
具体实施方式
为使本申请的上述目的、特征和优点能够更加明显易懂,下面结合附图对本申请的具体实施方式做详细的说明。
在下面的描述中阐述了很多具体细节以便于充分理解本申请,但是本申请还可以采用其它不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本申请内涵的情况下做类似推广,因此本申请不受下面公开的具体实施例的限制。
在线视频的播放过程中,一方面,为了节约视频片段的加载时间,需要保持TCP连接不断,从而可以省去再次建立TCP连接的时间;另一方面,对于CDN(Content DeliveryNetwork,内容分发网络)来说,还需要兼顾各个服务器的负载问题。目前,一种常见的方法是为同一个客户端IP固定分配同一个服务器。这种方法可能会造成各个服务器之间负载不均衡的问题;而且在某台服务器发生故障时,可能会产生某些客户端无法播放所有视频的风险。
为解决上述问题,本申请提供了一种服务器调度方法及装置,通过根据客户端IP和视频ID,确定和客户端建立TCP连接的服务器,降低了播放视频中TCP连接中断的可能性,并且有利于避免服务器的负载不均衡,减小了单台服务器故障对客户端的影响。
为了便于理解,下面结合附图对本申请实施例提供的一种服务器调度方法及装置进行详细的说明。
参考图1所示,为本申请实施例提供的一种服务器调度方法流程图,该方法可以包括以下步骤:
S101:接收客户端发送的调度请求。
其中,所述调度请求用于请求为所述客户端分配与其建立传输控制协议TCP连接的服务器,所述调度请求包括所述客户端的IP和所述客户端播放的视频ID。
本申请实施例中,客户端发送的调度请求用于请求为客户端分配与其建立TCP连接的服务器。客户端在线播放视频是基于客户端和服务器之间的TCP连接进行的。客户端通过和服务器之间的TCP连接,将视频下载到缓存中,保证视频的流畅播放。
S102:根据所述客户端的IP和所述视频ID,确定为所述客户端分配的目标服务器。
一种可能的实现方式中,所述根据所述客户端的IP和所述视频ID,确定为所述客户端分配的目标服务器,包括:
根据所述客户端的IP和所述视频ID,确定目标哈希值;
根据所述目标哈希值,确定为所述客户端分配的目标服务器。
本申请实施例中,根据客户端的IP和视频ID确定目标哈希值,能够使得不同调度请求中,客户端IP一致,且视频ID一致时,确定出相同的目标哈希值,从而能够为客户端分配到同一台服务器,即在同一客户端IP播放同一视频时,可以连接到同一服务器上。
具体地,可以对客户端的IP和视频ID进行四则运算或其他的运算方式,得到一个值并计算其哈希值,作为目标哈希值。
一种可能的实现方式中,所述根据所述客户端的IP和所述视频ID,确定目标哈希值,包括:
根据所述客户端的IP和所述视频ID之和,计算所述和的哈希值作为所述目标哈希值。
本申请实施例中,一种可选的计算目标哈希值的算法为crc32(Acyclicredundancy check 32,32位循环冗余校验)。
具体地,可将客户端的IP表示为client_IP,视频ID表示为tv_ID,目标哈希值记为H,则H=crc32(client_IP+tv_ID)。
S103:根据所述目标哈希值,确定为所述客户端分配的目标服务器。
本申请实施例中,对于不同调度请求,当客户端的IP一致且视频ID一致时,目标哈希值相同,因此根据目标哈希值,确定为客户端分配的目标服务器,能够实现在客户端的IP一致且视频ID一致时,为客户端分配同一服务器。一方面,在同一客户端播放同一视频时调度到同一服务器,可以避免播放视频的过程中TCP连接的中断,节约重新建立TCP连接的时间;另一方面,采取根据客户端的IP和视频ID调度服务器,而不是将同一客户端调度到固定的服务器的方式,将负载压力分散到多个服务器上,避免各个服务器之间负载不均衡,同时也降低了因单台服务器故障造成客户端无法观看所有视频的风险。
一种可能的实现方式中,所述根据所述目标哈希值,确定为所述客户端分配的目标服务器,包括:
根据所述目标哈希值,确定为所述客户端分配的目标机房;
在所述目标机房的服务器中,根据所述目标哈希值,确定为所述客户端分配的所述目标服务器。
本申请实施例中,为客户端分配目标服务器可以分为两步,首先选择目标机房,然后在目标机房中,选择目标服务器。具体地,在一个区域中可能包括多个机房,在一个机房中可能包括多个服务器,在多个机房中选取目标机房和在目标机房的多个服务器中选取目标服务器,都是根据目标哈希值进行选取的。
一种可能的实现方式中,所述根据所述目标哈希值,确定为所述客户端分配的目标机房,包括:
根据所述调度请求,从预设的机房的集合中,确定匹配所述调度请求的可用机房子集;
获取预先确定的机房虚拟节点的哈希值列表,所述机房虚拟节点的哈希值列表保存有所述机房虚拟节点和所述机房虚拟节点的哈希值的对应关系,所述机房虚拟节点是由所述机房的集合中每个机房的物理节点复制而来的节点;;
在所述机房虚拟节点的哈希值列表中查找目标机房虚拟节点,所述目标虚拟机房节点对应的机房属于所述可用机房子集;
确定目标虚拟机房节点对应的机房为所述目标机房。
本申请实施例中,在确定为客户端分配的目标机房时,对于不同的调度请求,可能存在针对目标机房的不同约束条件。为了匹配客户端的调度请求,需要对机房进行筛选,即从机房的集合中,确定匹配调度请求的可用机房子集。
具体地,若机房的集合中机房的总数为n,则将机房的集合中的各个机房记为v1,v2,……vn,则在{v1,v2,……,vn}中,确定匹配调度请求的可用机房子集T,
Figure BDA0003639299470000081
一种可能的实现方式中,所述根据所述调度请求,从机房的集合中,确定匹配所述调度请求的可用机房子集,包括:
根据所述调度请求携带的信息和所述调度请求的特点中的至少一种,从机房的集合中,筛选出匹配所述调度请求的可用机房子集,所述调度请求的特点用于表征所述调度请求所使用的协议。
其中,调度请求携带的信息可以包括调度请求中的参数,如主机标识、用户代理等;调度请求的特点可以包括调度请求采用的传输协议等。
具体地,调度请求携带的信息可以包括免流参数;调度请求的特点可以包括HTTPS(Hyper Text Transfer Protocol over Secure Socket Layer,超文本传输安全协议)请求,等等。调度请求的约束条件可以是调度请求携带的信息和调度请求的特点的至少一种,用于从机房的集合中确定出可用机房子集。例如,在调度请求包括免流参数时,可以将支持免流播放的机房的集合确定为可用机房子集;在调度请求为HTTPS请求时,可以将支持HTTPS请求的机房确定为可用机房子集;在调度请求包括免流参数且调度请求为HTTPS请求时,可以将支持免流播放且支持HTTPS请求的机房确定为可用机房子集。
在选取目标机房中,由于不同的机房的负载能力可能不同,需要进行恰当的分配,使得机房的实际负载水平和预期负载水平尽可能一致。本申请实施例中,为机房的集合中的每个机房配置有虚拟节点,即机房虚拟节点。为每个机房配置多个机房虚拟节点,能够避免机房的实际负载和机房的预期负载相差过大,从而有利于各个服务器之间的负载均衡。
一种可能的实现方式中,所述机房虚拟节点的哈希值列表是根据以下方式确定的:
根据所述机房的集合中每个机房的负载能力,确定所述机房的集合中每个机房的负载权重;
根据所述负载权重,为每个所述机房分配机房虚拟节点,所述机房的机房虚拟节点的个数和所述机房的负载权重成正比,每个所述机房至少分配两个机房虚拟节点;
分别计算所述机房虚拟节点的哈希值,并根据所述机房虚拟节点和所述机房虚拟节点的哈希值的对应关系,得到所述机房虚拟节点的哈希值列表。
本申请实施例中,为每个机房分配的机房虚拟节点的个数是由机房的负载权重确定的,机房的负载权重则由机房的负载能力确定。机房的负载能力表征的是机房可承受的预期负载,具体地,机房的负载能力可以由机房的服务器数量等确定。
具体地,若机房的集合中机房的总数为n,则将机房的集合中的各个机房记为v1,v2,……vn,各个机房的负载权重记为w1,w2,……wn。为每个机房分配机房虚拟节点时,机房虚拟节点的个数和机房的负载权重成正比,且每个机房至少分配两个虚拟节点,即,为每个机房按照负载权重,分配相同倍数的机房虚拟节点,这一倍数为机房虚拟节点的基数,记为a。一种可能的实现方式中,机房虚拟节点的数量应该保持在适当的范围内,一方面,避免机房虚拟节点的数量过少,导致每个机房的实际负载水平和预期负载水平不一致的问题;另一方面,避免机房虚拟节点的数量过多,导致布置过多机房虚拟节点影响时间、空间复杂度的问题。
对于机房vq(q∈[1,n],q是整数),对应的负载权重为wq,分配的机房虚拟节点个数为a×wq,其中a×wq≥2。对于机房集合中的所有机房,令机房虚拟节点的总数为N,则
Figure BDA0003639299470000101
本申请实施例中,分别计算机房虚拟节点的哈希值,一种可以采取的算法为crc32。需要说明的是,计算机房虚拟节点时采取的哈希值算法和计算目标哈希值时采取的哈希值算法应该保持一致。
具体地,对于机房虚拟节点i,将机房虚拟节点的哈希值记为c[i],则c[i]=crc32(vi),i=1,2……N,其中vi可以为机房虚拟节点i的虚拟地址。根据机房虚拟节点i和机房虚拟节点的哈希值c[i]的对应关系,得到N对配对(vi,c[i]),i=1,2……N,由N对配对组成的列表即为机房虚拟节点的哈希值列表。
本申请实施例中,受限于前文所述的各种约束条件,不同的调度请求匹配的可用机房子集可能不同。一般的一致性哈希方法,将机房虚拟节点以二叉平衡查找树等查找树的结构进行组织,采用查找树查找目标机房虚拟节点,适用于可用机房子集不变时的查找;而在可用机房子集频繁发生更改时,为了使查找树上的机房虚拟节点与可用机房子集的机房虚拟节点相匹配,需要频繁地对查找树进行修改,这种实现的时间复杂度较高,查找的效率和性能都较低。
为克服这一困难,本申请实施例中,机房虚拟节点的哈希值列表中的各机房虚拟节点可以是根据机房虚拟节点的哈希值的大小顺序排列的;采用预先确定顺序列表的方式代替查找树,在查找目标机房虚拟节点时无需对查找树进行修改,提高了查找效率,时间复杂度较低,性能较高。具体地,机房虚拟节点的哈希值列表的各机房虚拟节点可以按照所述机房虚拟节点的哈希值从小到大顺序排列,也可以按照所述机房虚拟节点的哈希值从大到小顺序排列。
一种可能的实现方式中,所述机房虚拟节点的哈希值列表中的各机房虚拟节点按照所述机房虚拟节点的哈希值从小到大顺序排列;
所述在所述机房虚拟节点的哈希值列表中查找目标机房虚拟节点包括:
在所述机房虚拟节点的哈希值列表中查找到排在第k位的机房虚拟节点,第k位的机房虚拟节点对应的哈希值小于所述目标哈希值,并且第k+1位的机房虚拟节点对应的哈希值大于所述目标哈希值;
确定所述第k位的机房虚拟节点对应的机房是否属于所述可用机房子集;
若属于,则将所述第k位的机房虚拟节点作为所述目标机房虚拟节点;
若不属于,则在所述机房虚拟节点的哈希值列表中查找排在所述第k位的机房虚拟节点之后、且排序最靠前的机房虚拟节点作为所述目标机房虚拟节点,所述目标机房虚拟节点对应的机房属于所述可用机房子集。
本申请实施例中,具体地,可以将(vi,c[i]),i=1,2……N按照c[i]从小到大排序,得到列表vlist=[(v_j1,c[j1]),(v_j2,c[j2]),……(v_jN,c[jN])],其中j1,j2,……jN为集合{1,2,……N}中两两不相同的序号,且c[j1]<c[j2]<……<c[jN]。
具体地,在列表vlist中查找到排在第k位的机房虚拟节点和机房虚拟节点的哈希值的配对
Figure BDA0003639299470000111
和排在第k+1位的机房虚拟节点和机房虚拟节点的哈希值的配对
Figure BDA0003639299470000112
其中c[jk]<H<c[jk+1]。再确定
Figure BDA0003639299470000113
是否属于可用机房子集T,若
Figure BDA0003639299470000114
则将
Figure BDA0003639299470000115
作为目标虚拟节点;
Figure BDA0003639299470000116
则逐一递增k的值,直到
Figure BDA0003639299470000117
为止,即查找到排在所述第k位的机房虚拟节点之后、且排序最靠前的属于可用机房子集T的机房虚拟节点作为所述目标机房虚拟节点。
另一种可能的实现方式中,所述机房虚拟节点的哈希值列表中的各机房虚拟节点按照所述机房虚拟节点的哈希值从大到小顺序排列;
所述在所述机房虚拟节点的哈希值列表中查找目标机房虚拟节点包括:
在所述机房虚拟节点的哈希值列表中查找到排在第k位的机房虚拟节点,第k位的机房虚拟节点对应的哈希值大于所述目标哈希值,并且第k+1位的机房虚拟节点对应的哈希值小于所述目标哈希值;
确定所述第k位的机房虚拟节点对应的机房是否属于所述可用机房子集;
若属于,则将所述第k位的机房虚拟节点作为所述目标机房虚拟节点;
若不属于,则在所述机房虚拟节点的哈希值列表中查找排在所述第k位的机房虚拟节点之后、且排序最靠前的机房虚拟节点作为所述目标机房虚拟节点,所述目标机房虚拟节点对应的机房属于所述可用机房子集。
机房虚拟节点的哈希值列表中的各机房虚拟节点按照机房虚拟节点的哈希值从大到小顺序排列的具体实现方式与按照从小到大顺序排列的具体实现方式类似,在此不再赘述。
一种可能的实现方式中,所述在所述目标机房的服务器中,根据所述目标哈希值,确定为所述客户端分配的所述目标服务器,包括:
获取预先确定的服务器虚拟节点的哈希值列表,所述服务器虚拟节点的哈希值列表保存有所述服务器虚拟节点和所述服务器虚拟节点的哈希值的对应关系,所述服务器虚拟节点是由所述目标机房的服务器的物理节点复制而来的节点;
在所述服务器虚拟节点的哈希值列表中查找目标服务器虚拟节点;
确定目标服务器虚拟节点对应的服务器为所述目标服务器。
本申请实施例中,在选取目标机房之后,再在目标机房中确定目标服务器。一般来说,同一个机房中的服务器能够匹配的调度请求的种类是相同的,因此匹配到目标机房之后,不需要再确定目标机房中的服务器是否匹配调度请求。
本申请实施例中,为服务器分配服务器虚拟节点的原因和为机房分配机房虚拟节点的原因是类似的。
为了使得各个服务器之间的负载尽可能均衡,本实施例中为目标机房中的每个服务器配置有虚拟节点,即服务器虚拟节点。为服务器配置多个服务器虚拟节点,能够避免各个服务器之间负载不均衡的问题。
一种可能的实现方式中,所述服务器虚拟节点的哈希值列表是根据以下方式确定的:
为每个所述服务器分配至少两个服务器虚拟节点,且为每个所述服务器分配的服务器虚拟节点个数相等;
分别计算所述服务器虚拟节点的哈希值,并根据所述服务器虚拟节点和所述服务器虚拟节点的哈希值的对应关系,得到所述服务器虚拟节点的哈希值列表。
本申请实施例中,若目标机房中服务器的总数为m,则各个服务器记为s1,s2,……,sm。若为每个服务器分配的服务器虚拟节点个数均为b,其中b≥2。对于目标机房中的所有服务器虚拟节点,令目标机房中服务器虚拟节点的总数为M,则M=b×m。
本申请实施例中,分别计算服务器虚拟节点的哈希值,一种可以采取的算法为crc32。需要说明的是,计算服务器虚拟节点时采取的哈希值算法和计算目标哈希值时采取的哈希值算法应该保持一致。
具体地,对于服务器虚拟节点l,将服务器虚拟节点的哈希值记为g[l],则g[l]=crc32(sl),l=1,2……M,其中sl可以为服务器虚拟节点l的虚拟地址。根据服务器虚拟节点l和服务器虚拟节点的哈希值g[l]的对应关系,得到M对配对(sl,g[l]),l=1,2……M,由M对配对组成的列表即为服务器虚拟节点的哈希值列表。
本申请实施例中,为了提高查找目标服务器虚拟节点的效率,服务器虚拟节点的哈希值列表中的各服务器虚拟节点可以是按照服务器虚拟节点的哈希值的大小顺序排列的。具体地,服务器虚拟节点的哈希值列表中的各服务器虚拟节点可以按照服务器虚拟节点的哈希值从小到大顺序排列,也可以按照服务器虚拟节点的哈希值从大到小顺序排列。
一种可能的实现方式中,所述服务器虚拟节点的哈希值列表中的各服务器虚拟节点按照所述服务器虚拟节点的哈希值从小到大顺序排列;
所述在所述服务器虚拟节点的哈希值列表中查找目标服务器虚拟节点包括:
在所述服务器虚拟节点的哈希值列表中查找到排在第p位的服务器虚拟节点,第p位的服务器虚拟节点对应的哈希值小于所述目标哈希值,并且第p+1位的服务器虚拟节点对应的哈希值大于所述目标哈希值;
将所述第p位的服务器虚拟节点作为所述目标服务器虚拟节点。
本申请实施例中,具体地,可以将(sl,g[l]),l=1,2……M按照g[l]从小到大排序,得到列表slist=[(s_f1,g[f1]),(s_f2,g[f2]),……(s_fM,g[fM])],其中f1,f2,……fM为集合{1,2,……M}中两两不相同的序号,且g[f1]<g[f2]<……<g[fM]。
具体地,在列表slist中查找到排在第p位的服务器虚拟节点和服务器虚拟节点的哈希值的配对(s_fp,g[fp])和排在第p+1位的服务器虚拟节点和服务器虚拟节点的哈希值的配对(s_fp+1,g[fp+1]),其中g[fp]<H<g[fp+1]。s_fp即为目标服务器虚拟节点。
另一种可能的实现方式中,所述服务器虚拟节点的哈希值列表中的各服务器虚拟节点按照所述服务器虚拟节点的哈希值从大到小顺序排列;
所述在所述服务器虚拟节点的哈希值列表中查找目标服务器虚拟节点包括:
在所述服务器虚拟节点的哈希值列表中查找到排在第p位的服务器虚拟节点,第p位的服务器虚拟节点对应的哈希值大于所述目标哈希值,并且第p+1位的服务器虚拟节点对应的哈希值小于所述目标哈希值;
将所述第p位的服务器虚拟节点作为所述目标服务器虚拟节点。
服务器虚拟节点的哈希值列表中的各服务器虚拟节点按照服务器虚拟节点的哈希值从大到小顺序排列的具体实现方式与按照从小到大顺序排列的具体实现方式类似,在此不再赘述。
本申请实施例提供了一种视频播放的服务器调度方法,接收客户端发送的调度请求,调度请求用于请求为客户端分配与其建立传输控制协议TCP连接的服务器,调度请求包括客户端的IP和客户端播放的视频ID;根据客户端的IP和视频ID,确定为客户端分配的目标服务器。本申请通过根据客户端IP和视频ID,确定和客户端建立TCP连接的服务器,一方面,尽可能将客户端不同视频的播放请求调度到不同的服务器上,避免将同一客户端IP的所有播放请求均分配给同一服务器,有利于各个服务器占的负载均衡,降低了因某台服务器故障造成某些用户无法播放所有视频的风险;另一方面,同一客户端IP在播放同一视频时,尽可能连接到同一服务器上,保证在播放同一视频过程中TCP连接不中断。
基于以上服务器调度方法,本申请实施例还提供了一种服务器调度装置200,参照图2所示,为本申请实施例提供的一种服务器调度装置示意图,所述装置包括:
调度请求接收单元201,用于接收客户端发送的调度请求,所述调度请求用于请求为所述客户端分配与其建立传输控制协议TCP连接的服务器,所述调度请求包括所述客户端的IP和所述客户端播放的视频ID;
目标服务器分配单元202,用于根据所述客户端的IP和所述视频ID,确定为所述客户端分配的目标服务器。
一种可能的实现方式中,所述目标服务器分配单元具体用于:
根据所述客户端的IP和所述视频ID,确定目标哈希值;
根据所述目标哈希值,确定为所述客户端分配的目标服务器。
一种可能的实现方式中,所述目标服务器分配单元包括目标机房分配子单元和目标服务器分配子单元;
所述目标机房分配子单元用于根据所述目标哈希值,确定为所述客户端分配的目标机房;
所述目标服务器分配子单元用于在所述目标机房的服务器中,根据所述目标哈希值,确定为所述客户端分配的所述目标服务器。
一种可能的实现方式中,所述目标机房分配子单元具体用于:
根据所述调度请求,从预设的机房的集合中,确定匹配所述调度请求的可用机房子集;
获取预先确定的机房虚拟节点的哈希值列表,所述机房虚拟节点的哈希值列表保存有所述机房虚拟节点和所述机房虚拟节点的哈希值的对应关系,所述机房虚拟节点是由所述机房的集合中每个机房的物理节点复制而来的节点;
在所述机房虚拟节点的哈希值列表中查找目标机房虚拟节点,所述目标机房虚拟节点对应的机房属于所述可用机房子集;
确定目标虚拟机房节点对应的机房为所述目标机房。
一种可能的实现方式中,所述机房虚拟节点的哈希值列表中的各机房虚拟节点按照所述机房虚拟节点的哈希值从小到大顺序排列;
所述目标机房分配子单元具体用于:在所述机房虚拟节点的哈希值列表
中查找到排在第k位的机房虚拟节点,第k位的机房虚拟节点对应的哈希值
小于所述目标哈希值,并且第k+1位的机房虚拟节点对应的哈希值大于所述目标哈希值;
确定所述第k位的机房虚拟节点对应的机房是否属于所述可用机房子集;
若属于,则将所述第k位的机房虚拟节点作为所述目标机房虚拟节点;
若不属于,则在所述机房虚拟节点的哈希值列表中查找排在所述第k位的机房虚拟节点之后、且排序最靠前的机房虚拟节点作为所述目标机房虚拟节点,所述目标机房虚拟节点对应的机房属于所述可用机房子集。
一种可能的实现方式中,所述机房虚拟节点的哈希值列表是根据以下方式确定的:
根据所述机房的集合中每个机房的负载能力,确定所述机房的集合中每个机房的负载权重;
根据所述负载权重,为每个所述机房分配机房虚拟节点,所述机房的机房虚拟节点的个数和所述机房的负载权重成正比,每个所述机房至少分配两个机房虚拟节点;
分别计算所述机房虚拟节点的哈希值,并根据所述机房虚拟节点和所述机房虚拟节点的哈希值的对应关系,得到所述机房虚拟节点的哈希值列表。
一种可能的实现方式中,所述目标机房分配子单元具体用于:根据所述调度请求携带的信息和所述调度请求的特点中的至少一种,从机房的集合中,筛选出匹配所述调度请求的可用机房子集,所述调度请求的特点用于表征所述调度请求所使用的协议。
一种可能的实现方式中,所述目标服务器分配子单元具体用于:获取预先确定的服务器虚拟节点的哈希值列表,所述服务器虚拟节点的哈希值列表保存有所述服务器虚拟节点和所述服务器虚拟节点的哈希值的对应关系,所述服务器虚拟节点是由所述目标机房的服务器的物理节点复制而来的节点;
在所述服务器虚拟节点的哈希值列表中查找目标服务器虚拟节点;
确定目标服务器虚拟节点对应的服务器为所述目标服务器。
一种可能的实现方式中,所述服务器虚拟节点的哈希值列表中的各服务器虚拟节点按照所述服务器虚拟节点的哈希值从小到大顺序排列;
所述目标服务器分配子单元具体用于:在所述服务器虚拟节点的哈希值列表中查找到排在第p位的服务器虚拟节点,第p位的服务器虚拟节点对应的哈希值小于所述目标哈希值,并且第p+1位的服务器虚拟节点对应的哈希值大于所述目标哈希值;将所述第p位的服务器虚拟节点作为所述目标服务器虚拟节点。
一种可能的实现方式中,所述服务器虚拟节点的哈希值列表是根据以下方式确定的:
为每个所述服务器分配至少两个服务器虚拟节点,且为每个所述服务器分配的服务器虚拟节点个数相等;
分别计算所述服务器虚拟节点的哈希值,并根据所述服务器虚拟节点和所述服务器虚拟节点的哈希值的对应关系,得到所述服务器虚拟节点的哈希值列表。
需要说明的是,本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统或装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
应当理解,在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
还需要说明的是,在本文中,诸如目标和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (11)

1.一种服务器调度方法,其特征在于,所述方法包括:
接收客户端发送的调度请求,所述调度请求用于请求为所述客户端分配与其建立传输控制协议TCP连接的服务器,所述调度请求包括所述客户端的IP和所述客户端播放的视频ID;
根据所述客户端的IP和所述视频ID,确定为所述客户端分配的目标服务器。
2.根据权利要求1所述的方法,其特征在于,所述根据所述客户端的IP和所述视频ID,确定为所述客户端分配的目标服务器,包括:
根据所述客户端的IP和所述视频ID,确定目标哈希值;
根据所述目标哈希值,确定为所述客户端分配的目标服务器。
3.根据权利要求2所述的方法,其特征在于,所述根据所述目标哈希值,确定为所述客户端分配的目标服务器,包括:
根据所述目标哈希值,确定为所述客户端分配的目标机房;
在所述目标机房的服务器中,根据所述目标哈希值,确定为所述客户端分配的所述目标服务器。
4.根据权利要求3所述的方法,其特征在于,所述根据所述目标哈希值,确定为所述客户端分配的目标机房,包括:
根据所述调度请求,从预设的机房的集合中,确定匹配所述调度请求的可用机房子集;
获取预先确定的机房虚拟节点的哈希值列表,所述机房虚拟节点的哈希值列表保存有所述机房虚拟节点和所述机房虚拟节点的哈希值的对应关系,所述机房虚拟节点是由所述机房的集合中每个机房的物理节点复制而来的节点;
在所述机房虚拟节点的哈希值列表中查找目标机房虚拟节点,所述目标机房虚拟节点对应的机房属于所述可用机房子集;
确定目标虚拟机房节点对应的机房为所述目标机房。
5.根据权利要求4所述的方法,其特征在于,所述机房虚拟节点的哈希值列表中的各机房虚拟节点按照所述机房虚拟节点的哈希值从小到大顺序排列;
所述在所述机房虚拟节点的哈希值列表中查找目标机房虚拟节点包括:
在所述机房虚拟节点的哈希值列表中查找到排在第k位的机房虚拟节点,第k位的机房虚拟节点对应的哈希值小于所述目标哈希值,并且第k+1位的机房虚拟节点对应的哈希值大于所述目标哈希值;
确定所述第k位的机房虚拟节点对应的机房是否属于所述可用机房子集;
若属于,则将所述第k位的机房虚拟节点作为所述目标机房虚拟节点;
若不属于,则在所述机房虚拟节点的哈希值列表中查找排在所述第k位的机房虚拟节点之后、且排序最靠前的机房虚拟节点作为所述目标机房虚拟节点,所述目标机房虚拟节点对应的机房属于所述可用机房子集。
6.根据权利要求4所述的方法,其特征在于,所述机房虚拟节点的哈希值列表是根据以下方式确定的:
根据所述机房的集合中每个机房的负载能力,确定所述机房的集合中每个机房的负载权重;
根据所述负载权重,为每个所述机房分配机房虚拟节点,所述机房的机房虚拟节点的个数和所述机房的负载权重成正比,每个所述机房至少分配两个机房虚拟节点;
分别计算所述机房虚拟节点的哈希值,并根据所述机房虚拟节点和所述机房虚拟节点的哈希值的对应关系,得到所述机房虚拟节点的哈希值列表。
7.根据权利要求4所述的方法,其特征在于,所述根据所述调度请求,从机房的集合中,确定匹配所述调度请求的可用机房子集,包括:
根据所述调度请求携带的信息和所述调度请求的特点中的至少一种,从机房的集合中,筛选出匹配所述调度请求的可用机房子集,所述调度请求的特点用于表征所述调度请求所使用的协议。
8.根据权利要求3所述的方法,其特征在于,所述在所述目标机房的服务器中,根据所述目标哈希值,确定为所述客户端分配的所述目标服务器,包括:
获取预先确定的服务器虚拟节点的哈希值列表,所述服务器虚拟节点的哈希值列表保存有所述服务器虚拟节点和所述服务器虚拟节点的哈希值的对应关系,所述服务器虚拟节点是由所述目标机房的服务器的物理节点复制而来的节点;
在所述服务器虚拟节点的哈希值列表中查找目标服务器虚拟节点;
确定目标服务器虚拟节点对应的服务器为所述目标服务器。
9.根据权利要求8所述的方法,其特征在于,所述服务器虚拟节点的哈希值列表中的各服务器虚拟节点按照所述服务器虚拟节点的哈希值从小到大顺序排列;
所述在所述服务器虚拟节点的哈希值列表中查找目标服务器虚拟节点包括:
在所述服务器虚拟节点的哈希值列表中查找到排在第p位的服务器虚拟节点,第p位的服务器虚拟节点对应的哈希值小于所述目标哈希值,并且第p+1位的服务器虚拟节点对应的哈希值大于所述目标哈希值;
将所述第p位的服务器虚拟节点作为所述目标服务器虚拟节点。
10.根据权利要求8所述的方法,其特征在于,所述服务器虚拟节点的哈希值列表是根据以下方式确定的:
为每个所述服务器分配至少两个服务器虚拟节点,且为每个所述服务器分配的服务器虚拟节点个数相等;
分别计算所述服务器虚拟节点的哈希值,并根据所述服务器虚拟节点和所述服务器虚拟节点的哈希值的对应关系,得到所述服务器虚拟节点的哈希值列表。
11.一种服务器调度装置,其特征在于,所述装置包括:
调度请求接收单元,用于接收客户端发送的调度请求,所述调度请求用于请求为所述客户端分配与其建立传输控制协议TCP连接的服务器,所述调度请求包括所述客户端的IP和所述客户端播放的视频ID;
目标服务器分配单元,用于根据所述客户端的IP和所述视频ID,确定为所述客户端分配的目标服务器。
CN202210510612.XA 2022-05-11 2022-05-11 一种服务器调度方法及装置 Active CN114866799B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210510612.XA CN114866799B (zh) 2022-05-11 2022-05-11 一种服务器调度方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210510612.XA CN114866799B (zh) 2022-05-11 2022-05-11 一种服务器调度方法及装置

Publications (2)

Publication Number Publication Date
CN114866799A true CN114866799A (zh) 2022-08-05
CN114866799B CN114866799B (zh) 2024-04-05

Family

ID=82636693

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210510612.XA Active CN114866799B (zh) 2022-05-11 2022-05-11 一种服务器调度方法及装置

Country Status (1)

Country Link
CN (1) CN114866799B (zh)

Citations (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6182139B1 (en) * 1996-08-05 2001-01-30 Resonate Inc. Client-side resource-based load-balancing with delayed-resource-binding using TCP state migration to WWW server farm
US6470389B1 (en) * 1997-03-14 2002-10-22 Lucent Technologies Inc. Hosting a network service on a cluster of servers using a single-address image
US20120030326A1 (en) * 2010-07-30 2012-02-02 Brendan Cassidy Method of Servicing Requests to Manage Network Congestion and Server Load and Server Thereof
JP2015035182A (ja) * 2013-08-09 2015-02-19 日本電信電話株式会社 分散データベースシステム
CN104852934A (zh) * 2014-02-13 2015-08-19 阿里巴巴集团控股有限公司 基于前端调度实现流量分配的方法、装置和系统
CN105227602A (zh) * 2014-06-20 2016-01-06 北京新媒传信科技有限公司 一种负载均衡的方法、客户端、注册服务器和系统
US20170195448A1 (en) * 2015-12-31 2017-07-06 Hughes Network Systems, Llc Accurate caching in adaptive video streaming based on collision resistant hash applied to segment contents and ephemeral request and url data
CN107197035A (zh) * 2017-06-21 2017-09-22 中国民航大学 一种基于一致性哈希算法的亲和性动态负载均衡方法
CN108093272A (zh) * 2017-12-29 2018-05-29 北京奇艺世纪科技有限公司 一种视频cdn调度优化方法及装置
CN108769271A (zh) * 2018-08-20 2018-11-06 北京百度网讯科技有限公司 负载均衡的方法、装置、存储介质和终端设备
CN109040232A (zh) * 2018-08-01 2018-12-18 广州视源电子科技股份有限公司 一种视频会议的负载均衡方法、装置、设备及其存储介质
WO2019001083A1 (zh) * 2017-06-30 2019-01-03 武汉斗鱼网络科技有限公司 一种视频流地址鉴权方法及装置
CN110086886A (zh) * 2019-05-14 2019-08-02 北京天融信网络安全技术有限公司 动态会话保持方法及装置
CN110198332A (zh) * 2018-04-13 2019-09-03 腾讯科技(深圳)有限公司 内容分发网络节点的调度方法、装置及存储介质
WO2019200714A1 (zh) * 2018-04-17 2019-10-24 平安科技(深圳)有限公司 服务器连接方法、计算机可读存储介质、终端设备及装置
CN110688523A (zh) * 2019-09-29 2020-01-14 深圳市网心科技有限公司 视频服务提供方法、装置、电子设备及存储介质
CN111258726A (zh) * 2018-11-30 2020-06-09 北京京东尚科信息技术有限公司 任务调度方法和装置
CN112565385A (zh) * 2020-11-30 2021-03-26 北京达佳互联信息技术有限公司 服务器地址信息的配置方法、装置及电子设备
US20210176310A1 (en) * 2017-09-29 2021-06-10 Wangsu Science & Technology Co., Ltd. Data synchronization method and system
CN112948120A (zh) * 2021-03-18 2021-06-11 广东好太太智能家居有限公司 负载均衡方法、系统、装置和存储介质
CN113382074A (zh) * 2021-06-10 2021-09-10 东南大学 一种基于动态反馈的微服务负载均衡优化方法
WO2021223109A1 (zh) * 2020-05-06 2021-11-11 深圳市欢太科技有限公司 数据同步方法、装置、系统、电子设备及存储介质
CN114124962A (zh) * 2021-11-30 2022-03-01 工银科技有限公司 多机房消息负载均衡处理方法及装置

Patent Citations (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6182139B1 (en) * 1996-08-05 2001-01-30 Resonate Inc. Client-side resource-based load-balancing with delayed-resource-binding using TCP state migration to WWW server farm
US6470389B1 (en) * 1997-03-14 2002-10-22 Lucent Technologies Inc. Hosting a network service on a cluster of servers using a single-address image
US20120030326A1 (en) * 2010-07-30 2012-02-02 Brendan Cassidy Method of Servicing Requests to Manage Network Congestion and Server Load and Server Thereof
JP2015035182A (ja) * 2013-08-09 2015-02-19 日本電信電話株式会社 分散データベースシステム
CN104852934A (zh) * 2014-02-13 2015-08-19 阿里巴巴集团控股有限公司 基于前端调度实现流量分配的方法、装置和系统
CN105227602A (zh) * 2014-06-20 2016-01-06 北京新媒传信科技有限公司 一种负载均衡的方法、客户端、注册服务器和系统
US20170195448A1 (en) * 2015-12-31 2017-07-06 Hughes Network Systems, Llc Accurate caching in adaptive video streaming based on collision resistant hash applied to segment contents and ephemeral request and url data
CN107197035A (zh) * 2017-06-21 2017-09-22 中国民航大学 一种基于一致性哈希算法的亲和性动态负载均衡方法
WO2019001083A1 (zh) * 2017-06-30 2019-01-03 武汉斗鱼网络科技有限公司 一种视频流地址鉴权方法及装置
US20210176310A1 (en) * 2017-09-29 2021-06-10 Wangsu Science & Technology Co., Ltd. Data synchronization method and system
CN108093272A (zh) * 2017-12-29 2018-05-29 北京奇艺世纪科技有限公司 一种视频cdn调度优化方法及装置
CN110198332A (zh) * 2018-04-13 2019-09-03 腾讯科技(深圳)有限公司 内容分发网络节点的调度方法、装置及存储介质
WO2019200714A1 (zh) * 2018-04-17 2019-10-24 平安科技(深圳)有限公司 服务器连接方法、计算机可读存储介质、终端设备及装置
CN109040232A (zh) * 2018-08-01 2018-12-18 广州视源电子科技股份有限公司 一种视频会议的负载均衡方法、装置、设备及其存储介质
CN108769271A (zh) * 2018-08-20 2018-11-06 北京百度网讯科技有限公司 负载均衡的方法、装置、存储介质和终端设备
CN111258726A (zh) * 2018-11-30 2020-06-09 北京京东尚科信息技术有限公司 任务调度方法和装置
CN110086886A (zh) * 2019-05-14 2019-08-02 北京天融信网络安全技术有限公司 动态会话保持方法及装置
CN110688523A (zh) * 2019-09-29 2020-01-14 深圳市网心科技有限公司 视频服务提供方法、装置、电子设备及存储介质
WO2021223109A1 (zh) * 2020-05-06 2021-11-11 深圳市欢太科技有限公司 数据同步方法、装置、系统、电子设备及存储介质
CN112565385A (zh) * 2020-11-30 2021-03-26 北京达佳互联信息技术有限公司 服务器地址信息的配置方法、装置及电子设备
CN112948120A (zh) * 2021-03-18 2021-06-11 广东好太太智能家居有限公司 负载均衡方法、系统、装置和存储介质
CN113382074A (zh) * 2021-06-10 2021-09-10 东南大学 一种基于动态反馈的微服务负载均衡优化方法
CN114124962A (zh) * 2021-11-30 2022-03-01 工银科技有限公司 多机房消息负载均衡处理方法及装置

Also Published As

Publication number Publication date
CN114866799B (zh) 2024-04-05

Similar Documents

Publication Publication Date Title
US11102290B2 (en) Peer-to-peer network prioritizing propagation of objects through the network
US10459899B1 (en) Splitting database partitions
KR101424362B1 (ko) 컨텐츠 전송 네트워크를 통한 청크식 다운로드
US6360256B1 (en) Name service for a redundant array of internet servers
US11032581B2 (en) Protocol and architecture for the decentralization of content delivery
US10241876B1 (en) Cooperative fault tolerance and load balancing
US20070088703A1 (en) Peer-to-peer auction based data distribution
CN108259603B (zh) 一种负载均衡方法及装置
CN107105013B (zh) 文件的处理方法、服务器、终端和系统
US8868756B1 (en) Sticky routing
CN108200211B (zh) 集群中镜像文件下载的方法、节点和查询服务器
JP2012118709A (ja) 配信システム、ストレージ容量決定プログラム、及びストレージ容量決定方法
JP6951410B2 (ja) 所望のストレージ・ユニット・セットを特定するためのディストリビューテッド・アグリーメント・プロトコルの操作
CN108920282B (zh) 一种支持负载均衡的内容副本生成、放置及更新方法
US20060075082A1 (en) Content distribution system and content distribution method
CN114866799A (zh) 一种服务器调度方法及装置
CN113783919A (zh) 访问请求分流方法、系统、设备及存储介质
US10073638B2 (en) Automatic namespace ordering determination
Kim et al. ZipfAllocation: an algorithm for static allocation of movies in a cluster of video servers
US12003578B2 (en) System and method for load balancing in a multitenant environment
US20160098486A1 (en) Searching system, method and p2p device for p2p device community
Lee et al. Efficient pole zero sensitivity calculation in AWE
JP2003256392A (ja) ロードバランス制御装置及びロードバランス制御方法
KR101676653B1 (ko) Http 세션 정보 동적 유지 방법, 이를 사용한 웹 애플리케이션 서버 및 웹 서버
JP5852922B2 (ja) マシン管理支援装置、マシン管理支援方法、マシン管理支援プログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant