CN107241374A - 负载平衡系统、负载平衡装置及拓朴管理方法 - Google Patents
负载平衡系统、负载平衡装置及拓朴管理方法 Download PDFInfo
- Publication number
- CN107241374A CN107241374A CN201611248225.4A CN201611248225A CN107241374A CN 107241374 A CN107241374 A CN 107241374A CN 201611248225 A CN201611248225 A CN 201611248225A CN 107241374 A CN107241374 A CN 107241374A
- Authority
- CN
- China
- Prior art keywords
- edge server
- server
- edge
- video stream
- frequency range
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000007726 management method Methods 0.000 title claims abstract description 18
- 230000005540 biological transmission Effects 0.000 claims abstract description 75
- 239000000463 material Substances 0.000 claims description 76
- 230000001360 synchronised effect Effects 0.000 claims description 42
- 238000012545 processing Methods 0.000 claims description 37
- 238000012546 transfer Methods 0.000 claims description 23
- VEMKTZHHVJILDY-UHFFFAOYSA-N resmethrin Chemical compound CC1(C)C(C=C(C)C)C1C(=O)OCC1=COC(CC=2C=CC=CC=2)=C1 VEMKTZHHVJILDY-UHFFFAOYSA-N 0.000 claims description 16
- 238000004891 communication Methods 0.000 claims description 10
- 230000008878 coupling Effects 0.000 claims description 2
- 238000010168 coupling process Methods 0.000 claims description 2
- 238000005859 coupling reaction Methods 0.000 claims description 2
- 238000000034 method Methods 0.000 description 45
- 238000009792 diffusion process Methods 0.000 description 14
- 230000009467 reduction Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000007423 decrease Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 239000004744 fabric Substances 0.000 description 1
- 238000000265 homogenisation Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000005303 weighing Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/12—Discovery or management of network topologies
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/16—Threshold monitoring
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/61—Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
- H04L65/612—Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for unicast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/75—Media network packet handling
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/75—Media network packet handling
- H04L65/752—Media network packet handling adapting media to network capabilities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/80—Responding to QoS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1031—Controlling of the operation of servers by a load balancer, e.g. adding or removing servers that serve requests
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/104—Peer-to-peer [P2P] networks
- H04L67/1074—Peer-to-peer [P2P] networks for supporting data block transmission mechanisms
- H04L67/1078—Resource delivery mechanisms
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
- H04L67/63—Routing a service request depending on the request content or context
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明提出一种负载平衡系统、负载平衡装置及拓朴管理方法。拓朴管理方法包括为每个边缘服务器配置及维护传输进度值;将边缘服务器分组为多个服务器群组,每个服务器群组的边缘服务器供应一影音串流且每个边缘服务器被分组到至少一服务器群组;从频宽使用率高于高负载门槛值的第一边缘服务器供应的至少一影音串流中选择第一影音串流;选择第二边缘服务器;将第一影音串流的影音资料同步到第二边缘服务器;将第二边缘服务器的传输进度值设定为第一边缘服务器的传输进度值;以及将第二边缘服务器加入供应第一影音串流的服务器群组。
Description
技术领域
本发明是有关于一种负载平衡系统、负载平衡装置及拓朴管理方法,且也有关于一种能最佳化利用频宽及硬体资源的负载平衡系统、负载平衡装置及拓朴管理方法。
背景技术
随着网际网络技术与云端运算技术快速发展,云端运算服务具备可靠性高、建置成本低、扩展性佳等优势,企业可随时利用云端环境快速部署虚拟机器以提供各式应用服务如Web档案传输、影音随选视频信息(Video on Demand)、影音串流(Live Streaming)等,解决了传统自主建置系统设备可能导致使用率不佳与设备维护的问题。虽然云端运算服务带来许多好处,对企业而言,如何有效率地依其用户数量调整云端系统服务规模以维持良好的服务品质,是一项重要的议题。
以影音串流应用服务为例,影音发布端利用影音发布软件或装置将影音串流上传至影音服务系统指定的串流来源服务器(Origin Server)后,再由串流来源服务器将串流资料扩散至串流边缘服务器(Edge Server)以服务使用者连线进行影音播放,此为典型且已广泛被使用的来源-边缘架构。在此架构中,影音服务系统会配置一负载平衡服务器(Load Balancer)接收影音串流观看请求并进行连线资料分流,指当使用者欲观看某一影音频道时,需先连线至负载平衡服务器,再由负载平衡服务器决定此一使用者连线应重新导向(Redirect)至哪一台串流边缘服务器以取得该影音频道的影音串流资料。其中,每一影音频道可对应多种解析度产生多个影音串流。另外,不同的影音频道依其影音内容热门程度与播放时段等因素影响,会有不同数量的线上观赏人数,若影音串流系统配置服务使用者的串流边缘服务器不足,则在大量观看人数的情形下,易导致连线拥塞,使得影音播放不顺畅与延迟时间上升而造成使用者服务体验品质下降。反之,若配置的串流边缘服务器数量过多,则可能导致有些串流边缘服务器的使用者观看数量偏低,而造成云端资源浪费与主机租用成本提高。
目前已有许多网络流量的负载平衡方法被提出与应用,例如随机选择(Random)、轮替(Round Robin)、加权轮替(Weighted Round Robin,WRR)、加权公平伫列(WeightedFair Queuing,WFQ)、最少连接(Least Connection)、加权最少连接(Weighted LeastConnection)、服务器负载(Server Load)评估等。在多影音串流与动态观看人数的影音应用情境下,如何使用适当的负载平衡方法并搭配服务器动态扩充/缩编机制,达到有效率的影音资料扩散且节省主机租用成本,便是一项挑战。
发明内容
本发明提出一种拓朴管理方法,包括:
为多个边缘服务器的每一个配置及维护一传输进度值,并将多个边缘服务器分组为多个服务器群组,其中所述多个服务器群组的每一个的边缘服务器供应多个影音串流中的其中一影音串流,所述多个边缘服务器的每一个被分组至属于所述多个服务器群组之中的至少一服务器群组;
从所述多个边缘服务器之中选择一第一边缘服务器,其中所述第一边缘服务器的一频宽使用率高于一高负载门槛值并且所述第一边缘服务器供应所述多个影音串流之中的至少一影音串流的影音资料;
从所述第一边缘服务器供应的所述至少一影音串流中选择一第一影音串流;
从所述多个边缘服务器之中选择一第二边缘服务器;
将所述第一影音串流的影音资料同步到所述第二边缘服务器;
将所述第二边缘服务器的传输进度值设定为所述第一边缘服务器的传输进度值;以及
将所述第二边缘服务器加入供应所述第一影音串流的服务器群组。
优选的,为所述多个边缘服务器的每一个配置及维护所述传输进度值的步骤包括:
从一用户端装置接收对应所述多个影音串流之中的一第二影音串流的一下载请求;
依据所述下载请求从上述多个服务器群组之中选择一第一服务器群组,其中所述第一服务器群组供应所述第二影音串流;以及
依据所述第一服务器群组的边缘服务器的传输进度值,从所述第一服务器群组的边缘服务器之中选择其中一个边缘服务器作为一第三边缘服务器来提供所述第二影音串流的一影音资料给所述用户端装置。
优选的,依据所述第一服务器群组的边缘服务器的传输进度值,从所述第一服务器群组的边缘服务器之中选择其中一个边缘服务器作为所述第三边缘服务器来提供所述第二影音串流的所述影音资料给所述用户端装置的步骤包括:
选择所述第一服务器群组的边缘服务器之中具有一最小传输进度值的边缘服务器作为所述第三边缘服务器;
计算一增值并将所述增值累加至所述第三边缘服务器的传输进度值;以及
将所述下载请求重新导向到所述第三边缘服务器。
优选的,所述增值为所述影音资料大小除以所述第三边缘服务器的一第一频宽参数,其中所述第一频宽参数是依据所述第三边缘服务器的对外频宽而决定。
优选的,选择所述第二边缘服务器的步骤包括:
在所述多个边缘服务器之中不属于供应所述第一影音串流的服务器群组的边缘服务器之中,选择频宽使用率不为零且频宽使用率低于一低负载门槛值的边缘服务器作为所述第二边缘服务器。
优选的,选择所述第二边缘服务器的步骤还包括:
若在所述多个边缘服务器之中不属于供应所述第一影音串流的服务器群组的边缘服务器之中不存在频宽使用率不为零且频宽使用率低于所述低负载门槛值的边缘服务器时,则在不属于供应所述第一影音串流的服务器群组的所述多个边缘服务器之中,选择频宽使用率介于所述低负载门槛值及所述高负载门槛值之间的边缘服务器作为所述第二边缘服务器。
优选的,选择所述第二边缘服务器的步骤还包括:
若在不属于供应所述第一影音串流的服务器群组的边缘服务器之中,不存在频宽使用率介于所述低负载门槛值及所述高负载门槛值之间的边缘服务器时,则选择频宽使用率为零的边缘服务器作为所述第二边缘服务器。
优选的,还包括:
从一第三影音串流的服务器群组中选择一第四边缘服务器,其中所述第四边缘服务器的传输进度值与所述第三影音串流的服务器群组的边缘服务器的传输进度值之中的一最小传输进度值的一差值在一预定时间内大于或等于一无效门槛值,其中所述预定时间可等于零;
将所述第四边缘服务器从所述第三影音串流的服务器群组中移除;以及
发送一信息给所述第三影音串流对应的来源服务器或所述第四边缘服务器,以停止将所述第三影音串流的影音资料同步到所述第四边缘服务器。
本发明还提出一种负载平衡系统,包括:
多个边缘服务器;
多个来源服务器,耦接所述多个边缘服务器,其中所述多个来源服务器的每一个产生多个影音串流中的其中一影音串流,所述影音串流的影音资料被同步到所述多个边缘服务器中的至少一边缘服务器;以及
一负载平衡装置,耦接所述多个来源服务器及所述多个边缘服务器,
其中所述负载平衡装置为所述多个边缘服务器的每一个配置及维护一传输进度值,
其中所述负载平衡装置将多个边缘服务器分组为多个服务器群组,其中所述多个服务器群组的每一个的边缘服务器供应所述影音串流,所述多个边缘服务器的每一个被分组至属于所述多个服务器群组之中的至少一服务器群组,
其中所述负载平衡装置从所述多个边缘服务器之中选择一第一边缘服务器,其中所述第一边缘服务器的一频宽使用率高于一高负载门槛值并且所述第一边缘服务器提供所述多个影音串流之中的至少一影音串流的影音资料,
其中所述负载平衡装置从所述第一边缘服务器供应的所述至少一影音串流中选择一第一影音串流,
其中所述负载平衡装置从所述多个边缘服务器之中选择一第二边缘服务器,
其中所述负载平衡装置将所述第一影音串流的影音资料同步到所述第二边缘服务器,
其中所述负载平衡装置将所述第二边缘服务器的传输进度值设定为所述第一边缘服务器的传输进度值,
其中所述负载平衡装置将所述第二边缘服务器加入供应所述第一影音串流的服务器群组。
优选的,所述负载平衡装置从一用户端装置接收对应所述多个影音串流之中的一第二影音串流的一下载请求,其中所述多个服务器群组之中的一第一服务器群组供应所述第二影音串流,
其中所述负载平衡装置依据所述第一服务器群组的边缘服务器的传输进度值,从所述第一服务器群组的边缘服务器之中选择其中一个边缘服务器作为一第三边缘服务器来提供所述第二影音串流的一影音资料给所述用户端装置。
优选的,所述负载平衡装置选择所述第一服务器群组的边缘服务器之中具有一最小传输进度值的边缘服务器作为所述第三边缘服务器,
其中所述负载平衡装置计算一增值并将所述增值累加至所述第三边缘服务器的传输进度值,
其中所述负载平衡装置将所述下载请求重新导向到所述第三边缘服务器。
优选的,所述增值为所述影音资料大小除以所述第三边缘服务器的一第一频宽参数,其中所述第一频宽参数是依据所述第三边缘服务器的对外频宽而决定。
优选的,所述负载平衡装置在所述多个边缘服务器之中不属于供应所述第一影音串流的服务器群组的边缘服务器之中,选择频宽使用率不为零且频宽使用率低于一低负载门槛值的边缘服务器作为所述第二边缘服务器。
优选的,若在所述多个边缘服务器之中不属于供应所述第一影音串流的服务器群组的边缘服务器之中不存在频宽使用率不为零且频宽使用率低于所述低负载门槛值的边缘服务器时,则所述负载平衡装置在不属于供应所述第一影音串流的服务器群组的所述多个边缘服务器之中,选择频宽使用率介于所述低负载门槛值及所述高负载门槛值之间的边缘服务器作为所述第二边缘服务器。
优选的,若在不属于供应所述第一影音串流的服务器群组的边缘服务器之中,不存在频宽使用率介于所述低负载门槛值及所述高负载门槛值之间的边缘服务器时,则所述负载平衡装置选择频宽使用率为零的边缘服务器作为所述第二边缘服务器。
优选的,包括:
其中所述负载平衡装置从一第三影音串流的服务器群组中选择一第四边缘服务器,其中所述第四边缘服务器的传输进度值与所述第三影音串流的服务器群组的边缘服务器的传输进度值之中的一最小传输进度值的一差值在一预定时间内大于或等于一无效门槛值,其中所述预定时间可等于零,
其中所述负载平衡装置将所述第四边缘服务器从所述第三影音串流的服务器群组中移除,
其中所述负载平衡装置发送一信息给所述第三影音串流对应的所述来源服务器或所述第四边缘服务器,以停止将所述第三影音串流的影音资料同步到所述第四边缘服务器。
本发明还提出一种负载平衡装置,包括一处理单元及一通信单元,所述负载平衡装置通过所述通信单元耦接多个来源服务器及多个边缘服务器,所述多个来源服务器耦接所述多个边缘服务器,其中所述多个来源服务器的每一个产生多个影音串流中的其中一影音串流,所述影音串流的影音资料被同步到所述多个边缘服务器中的至少一边缘服务器,
其中所述处理单元为所述多个边缘服务器的每一个配置及维护一传输进度值,
其中所述处理单元将多个边缘服务器分组为多个服务器群组,其中所述多个服务器群组的每一个的边缘服务器供应所述影音串流,所述多个边缘服务器的每一个被分组至属于所述多个服务器群组之中的至少一服务器群组,
其中所述处理单元从所述多个边缘服务器之中选择一第一边缘服务器,其中所述第一边缘服务器的一频宽使用率高于一高负载门槛值并且所述第一边缘服务器提供所述多个影音串流之中的至少一影音串流的影音资料,
其中所述处理单元从所述第一边缘服务器供应的所述至少一影音串流中选择一第一影音串流,
其中所述处理单元从所述多个边缘服务器之中选择一第二边缘服务器,
其中所述通信单元发送一信息给所述第一影音串流所对应的所述来源服务器或所述第二边缘服务器,以将所述第一影音串流的影音资料同步到所述第二边缘服务器,
其中所述处理单元将所述第二边缘服务器的传输进度值设定为所述第一边缘服务器的传输进度值,
其中所述处理单元将所述第二边缘服务器加入供应所述第一影音串流的服务器群组。
优选的,所述处理单元从一用户端装置接收对应所述多个影音串流之中的一第二影音串流的一下载请求,其中所述多个服务器群组之中的一第一服务器群组供应所述第二影音串流,
其中所述处理单元依据所述第一服务器群组的边缘服务器的传输进度值,从所述第一服务器群组的边缘服务器之中选择其中一个边缘服务器作为一第三边缘服务器来提供所述第二影音串流的一影音资料给所述用户端装置。
优选的,所述处理单元选择所述第一服务器群组的边缘服务器之中具有一最小传输进度值的边缘服务器作为所述第三边缘服务器,
其中所述处理单元计算一增值并将所述增值累加至所述第三边缘服务器的传输进度值,
其中所述处理单元将所述下载请求重新导向到所述第三边缘服务器。
优选的,所述增值为所述影音资料大小除以所述第三边缘服务器的一第一频宽参数,其中所述第一频宽参数是依据所述第三边缘服务器的对外频宽而决定。
优选的,所述处理单元在所述多个边缘服务器之中不属于供应所述第一影音串流的服务器群组的边缘服务器之中,选择频宽使用率不为零且频宽使用率低于一低负载门槛值的边缘服务器作为所述第二边缘服务器。
优选的,若在所述多个边缘服务器之中不属于供应所述第一影音串流的服务器群组的边缘服务器之中不存在频宽使用率不为零且频宽使用率低于所述低负载门槛值的边缘服务器时,则所述处理单元在不属于供应所述第一影音串流的服务器群组的所述多个边缘服务器之中,选择频宽使用率介于所述低负载门槛值及所述高负载门槛值之间的边缘服务器作为所述第二边缘服务器。
优选的,若在不属于供应所述第一影音串流的服务器群组的边缘服务器之中,不存在频宽使用率介于所述低负载门槛值及所述高负载门槛值之间的边缘服务器时,则所述处理单元选择频宽使用率为零的边缘服务器作为所述第二边缘服务器。
优选的,所述处理单元从一第三影音串流的服务器群组中选择一第四边缘服务器,其中所述第四边缘服务器的传输进度值与所述第三影音串流的服务器群组的边缘服务器的传输进度值之中的一最小传输进度值的一差值在一预定时间内大于或等于一无效门槛值,其中所述预定时间可等于零,
其中所述处理单元将所述第四边缘服务器从所述第三影音串流的服务器群组中移除,
其中所述通信单元发送一信息给所述第三影音串流对应的所述来源服务器或所述第四边缘服务器,以停止将所述第三影音串流的影音资料同步到所述第四边缘服务器。
附图说明
图1是根据一范例实施例的负载平衡系统的方块图。
图2是根据一范例实施例的负载平衡方法的流程图。
图3是根据一范例实施例的负载平衡方法的范例。
图4是根据一范例实施例的负载平衡方法的另一范例。
图5A及图5B是根据一范例实施例用以说明负载平衡方法运作原理的一范例。
图6为根据一范例实施例的影音扩散拓朴简化方法的流程图。
图7是根据一范例实施例的影音扩散拓朴简化方法的范例。
图8为根据一范例实施例的影音扩散拓朴强化方法的流程图。
图9为根据一范例实施例的影音扩散拓朴强化方法的范例。
图10为根据一范例实施例的服务器动态扩充方法的范例。
图11为根据一范例实施例的服务器动态扩充方法的另一范例。
图12A及图12B为根据一范例实施例的服务器动态缩减方法的流程图。
图13A及图13B为根据一范例实施例的服务器动态缩减方法的范例。
其中附图标记为:
100:负载平衡系统
110:负载平衡装置
120-1~120-3:边缘服务器
130-1~130-2:来源服务器
140-1~140-n:用户端装置
150:管理装置
160:数据库
S201、S203、S205:负载平衡方法的步骤
S601、S603、S605:影音扩散拓朴简化方法的步骤
S801、S803、S805、S807、S809、S811:影音扩散拓朴强化方法的步骤
S1201、S1203、S1205、S1207、S1209、S1211、S1213:服务器动态缩减方法的步骤
具体实施方式
为让本发明的上述特征和优点能更明显易懂,下文特举实施例,并配合所附图式作详细说明如下。
图1为根据一范例实施例的负载平衡系统的方块图。
请参照图1,负载平衡系统100包括负载平衡装置110、边缘服务器120-1~120-3及来源服务器130-1~130-2。首先值得注意的是,尽管在图1中只绘示了三个边缘服务器120-1~120-3及两个来源服务器130-1~130-2,但本发明不限于此,负载平衡系统100可包括任意数量的边缘服务器及来源服务器。来源服务器130-1~130-2所耦接到的边缘服务器120-1~120-3的数量和对象会根据负载平衡系统100的负载平衡状态而动态调整。负载平衡系统100可耦接到多个用户端装置140-1~140-n及管理装置150,其中管理装置150还可耦接到数据库160。用户端装置140-1~140-n可为个人电脑、笔记本电脑、平板电脑、智能手机等电子装置。使用者可通过用户端装置140-1~140-n上的网页浏览器或播放器等软件从边缘服务器120-1~120-3下载影音资料。在一范例实施例中,负载平衡装置110可为包括处理器(也参考为处理单元)及通信晶片(亦参考为通信单元)的服务器。
每一边缘服务器120-1~120-3及来源服务器130-1~130-2可设置于相同或不同的机器中。而每一来源服务器130-1~130-2也可以与任一边缘服务器120-1~120-3设置于同一个实体机器或同一个虚拟机器。来源服务器130-1~130-2与边缘服务器120-1~120-3设置于同一个实体或虚拟机器时,来源服务器130-1~130-2与边缘服务器120-1~120-3会共享同一个实体机器或虚拟机器的中央处理单元运算资源与网络频宽资源。负载平衡装置110可与任一边缘服务器120-1~120-3或来源服务器130-1~130-2位于相同或不同的实体或虚拟机器。负载平衡装置110可以是以软件实作的程序码或是以硬体实作的负载平衡电路,也可以是一个独立的负载平衡服务器。
举例来说,当影音发布端正在利用影音发布软件或装置将影音串流的影音资料上传到来源服务器130-1时,负载平衡装置110会根据影音串流的总流量需求指示来源服务器130-1将影音资料同步到由边缘服务器120-1、120-2所组成的服务器群组,以提供用户端装置140-1~140-n从此服务器群组中的边缘服务器120-1或120-2下载影音资料。详细来说,负载平衡装置110可根据边缘服务器的负载状况来调整影音串流对应的服务器群组,并且动态扩充或缩减服务器群组中边缘服务器的数量。
当用户端装置140-1~140-n要下载影音资料时,用户端装置140-1~140-n会发送请求给负载平衡装置110以询问边缘服务器网址,并在获得此边缘服务器网址后发送请求给此边缘服务器以下载影音资料。上述下载过程可采用超本文传输协定(HyperTextTransfer Protocol,HTTP)网址导向,以相容于现有播放器的影音资料下载。当负载平衡装置110收到用户端装置140-1~140-n的下载请求时,负载平衡装置110可依据用户端装置140-1~140-n欲下载的影音串流(例如,来源服务器130-1的影音串流)对应的服务器群组(例如,边缘服务器120-1、120-2)中的边缘服务器的负载情况选择一个边缘服务器(例如,边缘服务器120-1)并将其网址回复给用户端装置140-1~140-n。
也就是说,来源服务器130-1会对影音资料进行编码并将影音资料扩散到边缘服务器120-1、120-2。边缘服务器120-1、120-2则会接收编码后的影音资料并提供影音资料的下载频宽以供用户端装置140-1~140-n来下载。负载平衡装置110则会决定影音资料的扩散拓朴,其中扩散拓朴为来源服务器130-1~130-2将影音资料同步到边缘服务器120-1~120-3时,来源服务器130-1~130-2与这些边缘服务器120-1~120-3同步影音串流的影音资料的连接状态。负载平衡装置110还会决定影音资料的传输排程及提供影音资料的下载转址,使得用户端装置140-1~140-n可从正确的边缘服务器下载影音资料。
另外,管理装置150会在影音串流发布时选择影音串流对应的来源服务器(例如,来源服务器130-1),并将上述资料记录于数据库160中。管理装置150还可对负载平衡装置110进行组态设定及提供影音串流和服务器资讯,或者从数据库160中查询负载平衡系统100的历史资料。
图2是根据本发明一范例实施例的负载平衡方法的流程图。
请参照图2,在步骤S201中,负载平衡装置110为每一边缘服务器配置一传输进度值并将多个边缘服务器分组为多个服务器群组。在此每一服务器群组的边缘服务器用以供应一影音串流,且每一边缘服务器会被分组至这些服务器群组中的至少一个服务器群组。在步骤S203中,负载平衡装置110从用户端装置接收对应第二影音串流的一下载请求,并依据此下载请求从上述多个服务器群组之中选择其中一个服务器群组(以下称为第一服务器群组),此第一服务器群组供应此第二影音串流。在步骤S205中,负载平衡装置110依据第一服务器群组的边缘服务器的传输进度值,从第一服务器群组的边缘服务器之中选择其中一个边缘服务器作为第三边缘服务器来提供第二影音串流的影音资料给用户端装置。值得注意的是,第一服务器群组的边缘服务器之中具有最小传输进度值的边缘服务器会被选作第三边缘服务器,而负载平衡装置110还会计算一增值并将此增值累加至第三边缘服务器的传输进度值,负载平衡装置110将下载请求重新导向到第三边缘服务器。在本范例实施例中,此增值为所述影音资料大小除以第三边缘服务器的一第一频宽参数。
上述边缘服务器对应的频宽参数是依据边缘服务器的对外频宽而决定。任意两个边缘服务器的频宽参数比例与对外频宽比例相等。例如,边缘服务器1的对外频宽为100Mbps、边缘服务器2的对外频宽为200Mbps,则边缘服务器1与边缘服务器2的频宽参数可以分别为100和200、或者分别为100×106和200×106、或者分别为100/(100+200)和200/(100+200),即1/3与2/3…等等。
此外,任意两个边缘服务器的频宽参数比例也可设定与预留的对外频宽比例相等。例如,边缘服务器1预留的对外频宽为80Mbps、边缘服务器2预留的对外频宽为180Mbps,则边缘服务器1与边缘服务器2的频宽参数可以分别为80和180、或者分别为80×106和180×106、或者分别为80/(80+180)和180/(80+180),即4/13与9/13…等等。
图3是根据本发明一范例实施例的负载平衡方法的范例。
请参照图3,在本范例中有三个影音频道,也就是频道A、B、C分别由来源服务器A、B、C产生对应的影音串流,并使用边缘服务器1、2、3、4对外供应频宽(本范例实施例假设频道与来源服务器为一一对应,因此以相同符号A、B、C来同时表示影音频道及来源服务器)。其中,频道A的影音串流同步至边缘服务器1和边缘服务器2,频道B的影音串流同步至边缘服务器2和边缘服务器3,频道C的影音串流同步至边缘服务器3和边缘服务器4。边缘服务器对于每一频道提供的分流服务及其频宽用量分别以方块的填满方式和面积来表示。因此,边缘服务器1服务频道A、边缘服务器2同时服务频道A和频道B,边缘服务器3同时服务频道B和频道C,边缘服务器4服务频道C。此外,为简化说明,在下文中假设每一边缘服务器的对外频宽可同时供应100台用户端装置140-1~140-n下载频道影音串流资料。
随着频道观看人数变化,例如,频道A观看人数从160升至170,频道B人数维持80,频道C人数从160降至150,本范例实施例的负载平衡方法可即时调适边缘服务器1、2、3、4对于各频道的频宽供应量,自动调整每一频道的影音串流在边缘服务器的频宽负载,收敛达成最适当的频宽负载平衡状态。举例来说,边缘服务器2提供给频道A、B的频宽从60、40变为70、30,而边缘服务器3提供给频道B、C的频宽从40、60变为50、50。
上述每一影音频道对应一来源服务器,以及来源服务器对应每一影音频道产生一影音串流的对应关系仅是为了方便说明,实际上每一来源服务器可同时耦接服务多个影音频道,且来源服务器可为每一影音频道产生对应多种解析度的多个影音串流。对边缘服务器而言,将对应同一影音频道的多个影音串流视为不同的影音串流。因此,更精确的说法是,边缘服务器提供分流服务的对象是个别的影音串流,也就是说,对应同一影音频道的多个影音串流的影音资料可被同步至不同的边缘服务器。
图4是根据本发明一范例实施例的负载平衡方法的另一范例。
请参照图4,频道A的影音串流同步至边缘服务器1、2、3、4,每一边缘服务器频宽用量皆为80,且剩余频宽皆为20。假设加入频道B分享边缘服务器4的频宽,随着频道B的观看人数增加至80,本范例实施例的负载平衡方法可将原本频道A的影音串流在边缘服务器4的频宽用量自动转移至边缘服务器1、2、3,使频道A和频道B的影音串流的频宽需求皆能满足。
从图3及图4的范例可得知,当影音频道的频宽需求随观看人数改变时,使用本范例实施例的负载平衡方法可自动调整所有边缘服务器的频宽分配比例。
图5A及图5B是根据本发明一范例实施例用以说明负载平衡方法运作原理的一范例。
请参照图5A,在本范例中有三个影音频道,频道A的影音串流同步至边缘服务器1和边缘服务器2,频道B的影音串流同步至边缘服务器2和边缘服务器3,频道C的影音串流同步至边缘服务器3和边缘服务器4,其中,负载平衡装置110对应每一边缘服务器配置一传输进度值,分别为TP1、TP2、TP3、以及TP4,而BW1到BW4分别为边缘服务器1到边缘服务器4的频宽参数。依据图2所揭露的负载平衡方法流程图,首先,在步骤S203中,负载平衡装置110从用户端装置X接收频道A的影音串流下载请求(REQ Channel A),并依据此下载请求从多个服务器群组之中选择频道A影音串流所对应的服务器群组,此服务器群组包括边缘服务器1和边缘服务器2。在步骤S205中,负载平衡装置110从边缘服务器1和边缘服务器2之中选择具有最小传输进度值的边缘服务器来提供频道A影音串流的影音资料给用户端装置X。假设目前边缘服务器1的频宽负载较高,其传输进度值TP1大于边缘服务器2的传输进度值TP2,因而负载平衡装置110选择边缘服务器2作为对应此下载请求的影音资料提供者,并计算一增值累加至边缘服务器2的传输进度值TP2(即,TP2←TP2+ChunkSizeA/BW2),如图5A所示的第①步骤。此增值可为频道A影音串流的影音资料大小(ChunkSizeA)除以边缘服务器2的频宽参数(BW2)。当用户端装置X收到负载平衡装置110的重导向回应时,从边缘服务器2下载对应此下载请求的影音资料,如图5B所示的第①步骤。
接着,负载平衡装置110从用户端装置Y接收频道B的影音串流下载请求(REQChannel B),并依据此下载请求选择频道B影音串流所对应的服务器群组,即边缘服务器2和边缘服务器3。类似地,负载平衡装置110从频道B影音串流的服务器群组中选择传输进度值最小的边缘服务器。此时,因为边缘服务器2的传输进度值TP2已在步骤①中累加而增大,因此负载平衡装置110选择边缘服务器3作为对应此下载请求的影音资料提供者,并计算一增值累加至边缘服务器3的传输进度值TP3(即,TP3←TP3+ChunkSizeB/BW3),如图5A所示的第②步骤。当用户端装置Y收到负载平衡装置110的重导向回应时,从边缘服务器3下载对应此下载请求的影音资料,如图5B所示的第②步骤。
接着,负载平衡装置110从用户端装置Z接收频道C的影音串流下载请求(REQChannel C),并依据此下载请求选择频道C影音串流所对应的服务器群组,即边缘服务器3和边缘服务器4。类似地,负载平衡装置110从频道C影音串流的服务器群组中选择传输进度值最小的边缘服务器。此时,因为边缘服务器3的传输进度值TP3已在步骤②中累加而增大,因此负载平衡装置110选择边缘服务器4作为对应此下载请求的影音资料提供者,并计算一增值累加至边缘服务器4的传输进度值TP4(即,TP4←TP4+ChunkSizeC/BW4),如图5A的第③步骤。当用户端装置Z收到负载平衡装置110的重导向回应时,从边缘服务器4下载对应此下载请求的影音资料,如图5B的第③步骤。
值得注意的是,依据图5A及图5B范例中的影音资料扩散拓朴,每个频道所对应的服务器群组仅涵盖部分的边缘服务器,而任一边缘服务器(例如边缘服务器1)的频宽负载却能平均分散至其他所有的边缘服务器(例如边缘服务器2~4)。也就是说,频宽资源用量可在全部的边缘服务器之间自适性调度。因此,本方法通过各影音串流的服务器群组重叠所造成的资源连通特性,可自动达成系统全部边缘服务器的频宽负载平衡。
图6为根据本发明一范例实施例的影音扩散拓朴简化方法的流程图。
请参照图6,在步骤S601中,负载平衡装置110从对应一影音串流的服务器群组中选择一无效边缘服务器(以下也参考为第四边缘服务器),其中此无效边缘服务器的传输进度值与此服务器群组的所有边缘服务器的传输进度值之中的最小传输进度值的差值在预定时间内是大于或等于一无效门槛值。值得注意的是,无效门槛值代表边缘服务器对应该服务器群组的频宽用量的偏移上限。此外,上述预定时间可等于零。在步骤S603中,负载平衡装置110将无效边缘服务器从服务器群组中移除,并且在步骤S605中,负载平衡装置110发送信息给此影音串流对应的来源服务器及/或无效边缘服务器,以停止将此影音串流的影音资料同步到无效边缘服务器。
具体来说,由于对于每一影音串流的服务器群组只有传输进度值最小的边缘服务器才会被选择当作此影音串流的资料下载点,因此服务器群组中传输进度值过大的边缘服务器在短时间内已经无法服务此影音串流,而可将此传输进度值过大的边缘服务器从服务器群组中移除。通常这种情况可能发生在同一个边缘服务器被其他影音串流瞬间地过度使用,导致其负载高于服务器群组中的其他边缘服务器。而无效门槛值的设定可考虑传输进度值瞬间可容忍的累增偏移量,并依据频道观看人数瞬间增加量的上限来计算。
图7是根据本发明一范例实施例的影音扩散拓朴简化方法的范例。
请参照图7,原本频道A的影音串流同步至边缘服务器1,频道B的影音串流同步至边缘服务器1和边缘服务器2,频道A与B的观看人数分别为50和70,且在边缘服务器1和边缘服务器2的频宽用量达成负载平衡。随着频道A观看人数增加至80,边缘服务器1的传输进度值也会随着频道A观看人数增加而快速增加。负载平衡装置110在短时间内不会将频道B影音串流的影音资料下载请求导向原本属于频道B影音串流的服务器群组中的边缘服务器1,所以边缘服务器1实质上已不再为频道B影音串流提供分流服务。因此,可以停止频道B影音串流从来源服务器B到边缘服务器1的影音资料同步连线。
图8为根据本发明一范例实施例的影音扩散拓朴强化方法的流程图。
请参照图8,在步骤S801中,负载平衡装置110会从负载平衡系统100的边缘服务器中选择一个高负载边缘服务器(以下也参考为第一边缘服务器),其中高负载边缘服务器的频宽使用率高于高负载门槛值,且高负载边缘服务器供应一或多个影音串流的影音资料下载。在步骤S803中,负载平衡装置110会从对应高负载边缘服务器的多个影音串流中选择一移转影音串流(以下也参考为第一影音串流)。并且,在步骤S805中,负载平衡装置110会选择一接收边缘服务器(以下也参考为第二边缘服务器),其中接收边缘服务器不属于对应移转影音串流的服务器群组。
例如,在一范例实施例中,负载平衡装置110会在不属于对应移转影音串流的服务器群组的边缘服务器中,先挑出频宽使用率不为零且频宽使用率低于低负载门槛值的边缘服务器,然后,再从所挑出的边缘服务器中任选一个边缘服务器作为接收边缘服务器,也可从上述所挑出的边缘服务器中选择频宽使用率最高的边缘服务器作为接收边缘服务器。此外,若在不属于对应移转影音串流的服务器群组的边缘服务器之中,不存在频宽使用率不为零且频宽使用率低于低负载门槛值的边缘服务器时,则负载平衡装置110会在不属于对应移转影音串流的服务器群组的边缘服务器中,先挑出频宽使用率介于低负载门槛值及高负载门槛值之间的边缘服务器,然后再从所挑出的边缘服务器中选择频宽使用率最低的边缘服务器作为接收边缘服务器。
之后,在步骤S807中,负载平衡装置110会发送信息给移转影音串流对应的来源服务器及/或接收边缘服务器,将移转影音串流的影音资料同步到接收边缘服务器。然后,在步骤S809中,负载平衡装置110会将接收边缘服务器的传输进度值设定为高负载边缘服务器的传输进度值。最后,在步骤S811中,负载平衡装置110会将接收边缘服务器加入对应移转影音串流的服务器群组。在本范例实施例中,例如,高负载门槛值会被设定为每一边缘服务器的对外频宽的80%且低负载门槛值会被设定为每一边缘服务器的对外频宽的60%。
在本范例实施例中,通过优先选择频宽使用率低于低负载门槛值的边缘服务器之中,频宽使用率最高的边缘服务器作为接收边缘服务器,可降低负载平衡系统100使用的边缘服务器的总量并提高每个使用中边缘服务器的使用率。而通过选择频宽使用率介于低负载门槛值及高负载门槛值之间的边缘服务器之中,频宽使用率最低的边缘服务器作为接收边缘服务器,可在负载平衡系统100整体边缘服务器使用率偏高的情况下尽可能让个别边缘服务器的频宽使用率不超过高负载门槛值。另外,为了保证接收边缘服务器加入对应移转影音串流的服务器群组后能维持正确的负载平衡效果,必须先完成接收边缘服务器传输进度值的均一化设定。例如,在步骤S809中,在进行均一设定时,负载平衡装置110会将接收边缘服务器的传输进度值设定为高负载边缘服务器的传输进度值。
图9为根据本发明一范例实施例的影音扩散拓朴强化方法的范例。
请参照图9,由于边缘服务器2频宽负载过高,因此负载平衡装置110选择频道B作为移转影音串流并将其在边缘服务器2的负载转移至接收边缘服务器(即,边缘服务器3)。依据本范例实施例的影音扩散拓朴强化方法,边缘服务器3不仅分摊了频道B影音串流在边缘服务器2的负载,且通过频道A和频道D影音串流各自对应的服务器群组的负载连动,达成边缘服务器3和边缘服务器4共同分摊边缘服务器1和边缘服务器2频宽负载的效果。
请再参照图8,若在步骤S805中,当负载平衡装置110找不到频宽使用率不为零且频宽使用率低于低负载门槛值的边缘服务器,也找不到频宽使用率介于低负载门槛值及高负载门槛值之间的边缘服务器时,则负载平衡装置110会选择一频宽使用率为零的边缘服务器作为接收边缘服务器。以上选择频宽使用率为零的边缘服务器作为接收边缘服务器的方法也称为服务器动态扩充方法。
图10为根据本发明一范例实施例的服务器动态扩充方法的范例。
请参照图10,由于负载平衡装置110侦测到边缘服务器3为高负载服务器,因此负载平衡装置110在边缘服务器3所服务的频道中选择一移转影音串流。为了方便说明,假设频道D被选为移转影音串流。在选择移转影音串流之后,本范例实施例的服务器动态扩充方法会先建立来源服务器D至动态扩充的边缘服务器4之间的同步连线,再配合上文中的负载平衡方法,边缘服务器4会自动分摊频道D影音串流在边缘服务器1、边缘服务器2、以及边缘服务器3的频宽负载,重新收敛至最适当的负载平衡状态。此外,配合上文中的影音扩散拓朴简化方法,负载平衡装置110还会自动移除来源服务器D至边缘服务器1、边缘服务器2、以及边缘服务器3的同步连线。
图11为根据本发明一范例实施例的服务器动态扩充方法的另一范例。
请参照图11,假设边缘服务器3对应的频道C被选为移转影音串流,则负载平衡装置110会建立来源服务器C至动态扩充的边缘服务器4之间的同步连线。配合上文中的负载平衡方法,边缘服务器4会自动分摊频道C影音串流在边缘服务器3的频宽负载,且边缘服务器3会自动分摊频道D影音串流在边缘服务器1及边缘服务器2的频宽负载,最后重新收敛至最适当的负载平衡状态。此外,配合上文中的影音扩散拓朴简化方法,负载平衡装置110还会自动移除来源服务器D至边缘服务器1及边缘服务器2的同步连线。
图12A及图12B为根据本发明一范例实施例的服务器动态缩减方法的流程图。
请参照图12A及图12B,在步骤S1201中,负载平衡装置110判断在移除所有边缘服务器的其中之一后,其余边缘服务器的平均频宽使用率是否仍小于中负载门槛值。若在移除所有边缘服务器的其中之一后,此些边缘服务器的平均频宽使用率仍小于中负载门槛值时,则在步骤S1203中,负载平衡装置110会从所有边缘服务器中选择一离线边缘服务器(以下也参考为第五边缘服务器)并计算离线边缘服务器的目前频宽用量。在步骤S1205中,负载平衡装置110会从离线边缘服务器以外的边缘服务器中选择至少一接收边缘服务器(以下也参考为第六边缘服务器),其中所选出的每个第六边缘服务器的目前频宽用量与到达中负载门槛值的频宽用量的频宽差额的总和大于离线边缘服务器的目前频宽用量。在步骤S1207中,负载平衡装置110会将离线边缘服务器所供应的每一影音串流在离线边缘服务器的频宽用量填补到第六边缘服务器的频宽差额,由此选出离线边缘服务器的每一影音串流所对应的第六边缘服务器,并发送信息给此影音串流对应的来源服务器及/或所选出的第六边缘服务器,以将此影音串流的影音资料从来源服务器同步到选出的第六边缘服务器。在此,若此影音串流对应的来源服务器与所选出的第六边缘服务器已在进行影音资料同步则不需要再次发送信息或重复同步影音资料。在步骤S1209中,负载平衡装置110会重置所有边缘服务器的传输进度值,例如,将负载平衡系统100的所有边缘服务器的传输进度值重新设定为0。在步骤S1211中,负载平衡装置110会将离线边缘服务器的每一影音串流所对应选出的第六边缘服务器加入至该每一影音串流所对应的服务器群组。在此,若所选出的第六边缘服务器已属于该影音串流所对应的服务器群组则不需要再次加入。在步骤S1213中,负载平衡装置110会将离线边缘服务器从负载平衡系统100中的所有服务器群组移除,并发送信息给离线边缘服务器的每一影音串流所对应的来源服务器及/或离线边缘服务器,停止将影音串流的影音资料同步到离线边缘服务器。最后,关闭离线边缘服务器。在本范例实施例中,例如,中负载门槛值是被设定为每一边缘服务器总频宽的70%。
图13A及图13B为根据本发明一范例实施例的服务器动态缩减方法的范例。
请参照图13A及图13B,负载平衡装置110选择边缘服务器4为离线边缘服务器,并将边缘服务器4所服务的每一频道影音串流的频宽用量填补到其他接收边缘服务器的频宽差额。其中,频道A影音串流在边缘服务器4的频宽用量被填补到边缘服务器1,频道B影音串流在边缘服务器4的频宽用量被分割后分别填补到边缘服务器2和边缘服务器3。由于边缘服务器4对应频道B影音串流的频宽用量要被分配到边缘服务器2和边缘服务器3,而来源服务器B与边缘服务器3原本并未进行过影音资料同步,因此必须先建立来源服务器B与边缘服务器3的影音资料同步(对应图12的步骤S1207),并将边缘服务器3加入频道B影音串流所对应的服务器群组中(对应图12B的步骤S1211)。最后,负载平衡系统100重新收敛至最适当的负载平衡状态,边缘服务器4完成所有频宽负载转移后即可离线。
上述每一影音频道对应一来源服务器,以及来源服务器对应每一影音频道产生一影音串流的对应关系仅是为了方便说明,实际上每一来源服务器可同时耦接服务多个影音频道,且来源服务器可为每一影音频道产生对应多种解析度的多个影音串流。对边缘服务器而言,是将对应同一影音频道的多个影音串流视为不同的影音串流。因此,更精确的说法是,边缘服务器提供分流服务的对象是个别的影音串流,也就是说,对应同一影音频道的多个影音串流的影音资料可被同步至不同的边缘服务器。
综上所述,本发明的负载平衡系统、负载平衡装置与拓朴管理方法会自动调整系统中所有服务器供应各影音串流资料下载的频宽分配比例,并适时进行来源服务器与边缘服务器之间拓朴的简化或强化以节省来源服务器的上传频宽且达成多个服务器群组之间的负载平衡。此外,本发明的负载平衡系统、负载平衡装置与拓朴管理方法还会对应来源服务器的影音串流进行边缘服务器的扩充以缓解边缘服务器负载过高的情况。本发明的负载平衡系统、负载平衡装置与拓朴管理方法也会对应来源服务器的影音串流进行边缘服务器的缩减,使得系统可利用最少数量的边缘服务器在每个边缘服务器不超过高负载的情况下提供影音串流资料下载的足够频宽。
虽然本发明已以实施例发明如上,然其并非用于限定本发明,任何所属技术领域中具有通知常识者,在不脱离本发明的精神和范围内,当可作些许的改动与修饰,故本发明的保护范围当视后附的权利要求所界定的范围为准。
Claims (24)
1.一种拓朴管理方法,其特征在于,包括:
为多个边缘服务器的每一个配置及维护传输进度值,并将所述多个边缘服务器分组为多个服务器群组,其中所述多个服务器群组的每一个的边缘服务器供应多个影音串流中的其中一影音串流,所述多个边缘服务器的每一个被分组至属于所述多个服务器群组之中的至少一服务器群组;
从所述多个边缘服务器之中选择第一边缘服务器,其中所述第一边缘服务器的频宽使用率高于高负载门槛值并且所述第一边缘服务器供应所述多个影音串流之中的至少一影音串流的影音资料;
从所述第一边缘服务器供应的所述至少一影音串流中选择第一影音串流;
从所述多个边缘服务器之中选择第二边缘服务器;
将所述第一影音串流的影音资料同步到所述第二边缘服务器;
将所述第二边缘服务器的传输进度值设定为所述第一边缘服务器的传输进度值;以及
将所述第二边缘服务器加入供应所述第一影音串流的服务器群组。
2.如权利要求1所述的拓朴管理方法,其特征在于,为所述多个边缘服务器的每一个配置及维护所述传输进度值的步骤包括:
从用户端装置接收对应所述多个影音串流之中的第二影音串流的下载请求;
依据所述下载请求从上述多个服务器群组之中选择第一服务器群组,其中所述第一服务器群组供应所述第二影音串流;以及
依据所述第一服务器群组的边缘服务器的传输进度值,从所述第一服务器群组的边缘服务器之中选择其中一个边缘服务器作为第三边缘服务器来提供所述第二影音串流的影音资料给所述用户端装置。
3.如权利要求2所述的拓朴管理方法,其特征在于,依据所述第一服务器群组的边缘服务器的传输进度值,从所述第一服务器群组的边缘服务器之中选择其中一个边缘服务器作为所述第三边缘服务器来提供所述第二影音串流的所述影音资料给所述用户端装置的步骤包括:
选择所述第一服务器群组的边缘服务器之中具有最小传输进度值的边缘服务器作为所述第三边缘服务器;
计算增值并将所述增值累加至所述第三边缘服务器的传输进度值;以及
将所述下载请求重新导向到所述第三边缘服务器。
4.如权利要求3所述的拓朴管理方法,其特征在于,所述增值为所述影音资料大小除以所述第三边缘服务器的第一频宽参数,其中所述第一频宽参数是依据所述第三边缘服务器的对外频宽而决定。
5.如权利要求1所述的拓朴管理方法,其特征在于,选择所述第二边缘服务器的步骤包括:
在所述多个边缘服务器之中不属于供应所述第一影音串流的服务器群组的边缘服务器之中,选择频宽使用率不为零且频宽使用率低于低负载门槛值的边缘服务器作为所述第二边缘服务器。
6.如权利要求5所述的拓朴管理方法,其特征在于,选择所述第二边缘服务器的步骤还包括:
若在所述多个边缘服务器之中不属于供应所述第一影音串流的服务器群组的边缘服务器之中不存在频宽使用率不为零且频宽使用率低于所述低负载门槛值的边缘服务器时,则在不属于供应所述第一影音串流的服务器群组的所述多个边缘服务器之中,选择频宽使用率介于所述低负载门槛值及所述高负载门槛值之间的边缘服务器作为所述第二边缘服务器。
7.如权利要求6所述的拓朴管理方法,其特征在于,选择所述第二边缘服务器的步骤还包括:
若在不属于供应所述第一影音串流的服务器群组的边缘服务器之中,不存在频宽使用率介于所述低负载门槛值及所述高负载门槛值之间的边缘服务器时,则选择频宽使用率为零的边缘服务器作为所述第二边缘服务器。
8.如权利要求1所述的拓朴管理方法,其特征在于,还包括:
从第三影音串流的服务器群组中选择第四边缘服务器,其中所述第四边缘服务器的传输进度值与所述第三影音串流的服务器群组的边缘服务器的传输进度值之中的最小传输进度值的差值在预定时间内大于或等于无效门槛值,其中所述预定时间可等于零;
将所述第四边缘服务器从所述第三影音串流的服务器群组中移除;以及发送信息给所述第三影音串流对应的来源服务器或所述第四边缘服务器,以停止将所述第三影音串流的影音资料同步到所述第四边缘服务器。
9.一种负载平衡系统,其特征在于,包括:
多个边缘服务器;
多个来源服务器,耦接所述多个边缘服务器,其中所述多个来源服务器的每一个产生多个影音串流中的其中一影音串流,所述影音串流的影音资料被同步到所述多个边缘服务器中的至少一边缘服务器;以及
负载平衡装置,耦接所述多个来源服务器及所述多个边缘服务器,
其中所述负载平衡装置为所述多个边缘服务器的每一个配置及维护传输进度值,
其中所述负载平衡装置将多个边缘服务器分组为多个服务器群组,其中所述多个服务器群组的每一个的边缘服务器供应所述影音串流,所述多个边缘服务器的每一个被分组至属于所述多个服务器群组之中的至少一服务器群组,
其中所述负载平衡装置从所述多个边缘服务器之中选择第一边缘服务器,其中所述第一边缘服务器的频宽使用率高于高负载门槛值并且所述第一边缘服务器提供所述多个影音串流之中的至少一影音串流的影音资料,
其中所述负载平衡装置从所述第一边缘服务器供应的所述至少一影音串流中选择第一影音串流,
其中所述负载平衡装置从所述多个边缘服务器之中选择第二边缘服务器,
其中所述负载平衡装置将所述第一影音串流的影音资料同步到所述第二边缘服务器,
其中所述负载平衡装置将所述第二边缘服务器的传输进度值设定为所述第一边缘服务器的传输进度值,
其中所述负载平衡装置将所述第二边缘服务器加入供应所述第一影音串流的服务器群组。
10.如权利要求9项所述的负载平衡系统,其特征在于,所述负载平衡装置从用户端装置接收对应所述多个影音串流之中的第二影音串流的下载请求,其中所述多个服务器群组之中的第一服务器群组供应所述第二影音串流,
其中所述负载平衡装置依据所述第一服务器群组的边缘服务器的传输进度值,从所述第一服务器群组的边缘服务器之中选择其中一个边缘服务器作为第三边缘服务器来提供所述第二影音串流的影音资料给所述用户端装置。
11.如权利要求10所述的负载平衡系统,其特征在于,所述负载平衡装置选择所述第一服务器群组的边缘服务器之中具有最小传输进度值的边缘服务器作为所述第三边缘服务器,
其中所述负载平衡装置计算增值并将所述增值累加至所述第三边缘服务器的传输进度值,
其中所述负载平衡装置将所述下载请求重新导向到所述第三边缘服务器。
12.如权利要求11所述的负载平衡系统,其特征在于,所述增值为所述影音资料大小除以所述第三边缘服务器的第一频宽参数,其中所述第一频宽参数是依据所述第三边缘服务器的对外频宽而决定。
13.如权利要求9所述的负载平衡系统,其特征在于,所述负载平衡装置在所述多个边缘服务器之中不属于供应所述第一影音串流的服务器群组的边缘服务器之中,选择频宽使用率不为零且频宽使用率低于低负载门槛值的边缘服务器作为所述第二边缘服务器。
14.如权利要求13所述的负载平衡系统,其特征在于,若在所述多个边缘服务器之中不属于供应所述第一影音串流的服务器群组的边缘服务器之中不存在频宽使用率不为零且频宽使用率低于所述低负载门槛值的边缘服务器时,则所述负载平衡装置在不属于供应所述第一影音串流的服务器群组的所述多个边缘服务器之中,选择频宽使用率介于所述低负载门槛值及所述高负载门槛值之间的边缘服务器作为所述第二边缘服务器。
15.如权利要求14所述的负载平衡系统,其特征在于,若在不属于供应所述第一影音串流的服务器群组的边缘服务器之中,不存在频宽使用率介于所述低负载门槛值及所述高负载门槛值之间的边缘服务器时,则所述负载平衡装置选择频宽使用率为零的边缘服务器作为所述第二边缘服务器。
16.如权利要求9所述的负载平衡系统,其特征在于,包括:
其中所述负载平衡装置从第三影音串流的服务器群组中选择第四边缘服务器,其中所述第四边缘服务器的传输进度值与所述第三影音串流的服务器群组的边缘服务器的传输进度值之中的最小传输进度值的差值在预定时间内大于或等于无效门槛值,其中所述预定时间可等于零,
其中所述负载平衡装置将所述第四边缘服务器从所述第三影音串流的服务器群组中移除,
其中所述负载平衡装置发送信息给所述第三影音串流对应的所述来源服务器或所述第四边缘服务器,以停止将所述第三影音串流的影音资料同步到所述第四边缘服务器。
17.一种负载平衡装置,其特征在于,包括处理单元及通信单元,所述负载平衡装置通过所述通信单元耦接多个来源服务器及多个边缘服务器,所述多个来源服务器耦接所述多个边缘服务器,其中所述多个来源服务器的每一个产生多个影音串流中的其中一影音串流,所述影音串流的影音资料被同步到所述多个边缘服务器中的至少一边缘服务器,
其中所述处理单元为所述多个边缘服务器的每一个配置及维护传输进度值,
其中所述处理单元将多个边缘服务器分组为多个服务器群组,其中所述多个服务器群组的每一个的边缘服务器供应所述影音串流,所述多个边缘服务器的每一个被分组至属于所述多个服务器群组之中的至少一服务器群组,
其中所述处理单元从所述多个边缘服务器之中选择第一边缘服务器,其中所述第一边缘服务器的频宽使用率高于高负载门槛值并且所述第一边缘服务器提供所述多个影音串流之中的至少一影音串流的影音资料,
其中所述处理单元从所述第一边缘服务器供应的所述至少一影音串流中选择第一影音串流,
其中所述处理单元从所述多个边缘服务器之中选择第二边缘服务器,
其中所述通信单元发送信息给所述第一影音串流对应的所述来源服务器或所述第二边缘服务器,将所述第一影音串流的影音资料同步到所述第二边缘服务器,
其中所述处理单元将所述第二边缘服务器的传输进度值设定为所述第一边缘服务器的传输进度值,
其中所述处理单元将所述第二边缘服务器加入供应所述第一影音串流的服务器群组。
18.如权利要求17所述的负载平衡装置,其特征在于,所述处理单元从用户端装置接收对应所述多个影音串流之中的第二影音串流的下载请求,其中所述多个服务器群组之中的第一服务器群组供应所述第二影音串流,
其中所述处理单元依据所述第一服务器群组的边缘服务器的传输进度值,从所述第一服务器群组的边缘服务器之中选择其中一个边缘服务器作为第三边缘服务器来提供所述第二影音串流的影音资料给所述用户端装置。
19.如权利要求18所述的负载平衡装置,其特征在于,所述处理单元选择所述第一服务器群组的边缘服务器之中具有最小传输进度值的边缘服务器作为所述第三边缘服务器,
其中所述处理单元计算增值并将所述增值累加至所述第三边缘服务器的传输进度值,
其中所述处理单元将所述下载请求重新导向到所述第三边缘服务器。
20.如权利要求19所述的负载平衡装置,其特征在于,所述增值为所述影音资料大小除以所述第三边缘服务器的第一频宽参数,其中所述第一频宽参数是依据所述第三边缘服务器的对外频宽而决定。
21.如权利要求17所述的负载平衡装置,其特征在于,所述处理单元在所述多个边缘服务器之中不属于供应所述第一影音串流的服务器群组的边缘服务器之中,选择频宽使用率不为零且频宽使用率低于低负载门槛值的边缘服务器作为所述第二边缘服务器。
22.如权利要求21所述的负载平衡装置,其特征在于,若在所述多个边缘服务器之中不属于供应所述第一影音串流的服务器群组的边缘服务器之中不存在频宽使用率不为零且频宽使用率低于所述低负载门槛值的边缘服务器时,则所述处理单元在不属于供应所述第一影音串流的服务器群组的所述多个边缘服务器之中,选择频宽使用率介于所述低负载门槛值及所述高负载门槛值之间的边缘服务器作为所述第二边缘服务器。
23.如权利要求22所述的负载平衡装置,其特征在于,若在不属于供应所述第一影音串流的服务器群组的边缘服务器之中,不存在频宽使用率介于所述低负载门槛值及所述高负载门槛值之间的边缘服务器时,则所述处理单元选择频宽使用率为零的边缘服务器作为所述第二边缘服务器。
24.如权利要求17所述的负载平衡装置,其特征在于,所述处理单元从第三影音串流的服务器群组中选择第四边缘服务器,其中所述第四边缘服务器的传输进度值与所述第三影音串流的服务器群组的边缘服务器的传输进度值之中的最小传输进度值的差值在预定时间内大于或等于无效门槛值,其中所述预定时间可等于零,
其中所述处理单元将所述第四边缘服务器从所述第三影音串流的服务器群组中移除,
其中所述通信单元发送信息给所述第三影音串流对应的所述来源服务器或所述第四边缘服务器,以停止将所述第三影音串流的影音资料同步到所述第四边缘服务器。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW105109609 | 2016-03-28 | ||
TW105109609 | 2016-03-28 | ||
TW105142409 | 2016-12-21 | ||
TW105142409A TWI630807B (zh) | 2016-03-28 | 2016-12-21 | 負載平衡系統、負載平衡裝置及拓樸管理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107241374A true CN107241374A (zh) | 2017-10-10 |
CN107241374B CN107241374B (zh) | 2020-01-31 |
Family
ID=59896810
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201611248225.4A Active CN107241374B (zh) | 2016-03-28 | 2016-12-29 | 负载平衡系统、负载平衡装置及拓朴管理方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10484463B2 (zh) |
CN (1) | CN107241374B (zh) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8776207B2 (en) * | 2011-02-16 | 2014-07-08 | Fortinet, Inc. | Load balancing in a network with session information |
CN112470445B (zh) * | 2018-07-24 | 2022-10-18 | 华为技术有限公司 | 用于边缘计算拓扑信息开放的方法和设备 |
CN110896404B (zh) * | 2018-09-12 | 2021-09-14 | 华为技术有限公司 | 数据处理的方法、装置和计算节点 |
US10440175B1 (en) * | 2019-03-07 | 2019-10-08 | Securus Technologies, Inc. | Dynamic controlled-environment facility resident communication allocation based on call volume |
TWI727496B (zh) * | 2019-11-11 | 2021-05-11 | 財團法人工業技術研究院 | 多邊緣雲之網路通訊控制方法及邊緣運算系統 |
US11330045B2 (en) * | 2019-12-06 | 2022-05-10 | At&T Intellectual Property I, L.P. | Live streaming server selection |
CN111030938B (zh) * | 2019-12-20 | 2022-08-16 | 锐捷网络股份有限公司 | 基于clos架构的网络设备负载均衡方法及装置 |
CN111432159B (zh) * | 2020-03-19 | 2022-05-17 | 深圳市鹏创软件有限公司 | 计算任务处理方法、装置、系统与计算机可读存储介质 |
CN111770355B (zh) * | 2020-07-09 | 2022-07-01 | 北京达佳互联信息技术有限公司 | 媒体服务器确定方法、装置、服务器以及存储介质 |
US20220272136A1 (en) * | 2021-02-19 | 2022-08-25 | International Business Machines Corporatlion | Context based content positioning in content delivery networks |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101080001A (zh) * | 2007-06-22 | 2007-11-28 | 中兴通讯股份有限公司 | 网络电视系统中用于实现媒体内容均衡的装置及其方法 |
CN101262488A (zh) * | 2007-03-09 | 2008-09-10 | 中兴通讯股份有限公司 | 一种内容分发网络系统及方法 |
CN101282281A (zh) * | 2007-04-03 | 2008-10-08 | 华为技术有限公司 | 一种媒体分发系统、装置及流媒体播放方法 |
CN101312464A (zh) * | 2008-07-11 | 2008-11-26 | 烽火通信科技股份有限公司 | 一种在自动交换光网络中实现负载均衡的方法 |
CN103778591A (zh) * | 2012-10-18 | 2014-05-07 | 纬创资通股份有限公司 | 处理图形运算负载平衡的方法及系统 |
US8819187B1 (en) * | 2013-10-29 | 2014-08-26 | Limelight Networks, Inc. | End-to-end acceleration of dynamic content |
Family Cites Families (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6976090B2 (en) * | 2000-04-20 | 2005-12-13 | Actona Technologies Ltd. | Differentiated content and application delivery via internet |
US7346676B1 (en) * | 2000-07-19 | 2008-03-18 | Akamai Technologies, Inc. | Load balancing service |
US7155723B2 (en) * | 2000-07-19 | 2006-12-26 | Akamai Technologies, Inc. | Load balancing service |
US20030033463A1 (en) * | 2001-08-10 | 2003-02-13 | Garnett Paul J. | Computer system storage |
JP2003256310A (ja) | 2002-03-05 | 2003-09-12 | Nec Corp | サーバ負荷分散システム、サーバ負荷分散装置、コンテンツ管理装置、及びサーバ負荷分散プログラム |
US6856991B1 (en) * | 2002-03-19 | 2005-02-15 | Cisco Technology, Inc. | Method and apparatus for routing data to a load balanced server using MPLS packet labels |
US7088718B1 (en) * | 2002-03-19 | 2006-08-08 | Cisco Technology, Inc. | Server load balancing using IP option field approach to identify route to selected server |
US7512702B1 (en) * | 2002-03-19 | 2009-03-31 | Cisco Technology, Inc. | Method and apparatus providing highly scalable server load balancing |
US7047315B1 (en) * | 2002-03-19 | 2006-05-16 | Cisco Technology, Inc. | Method providing server affinity and client stickiness in a server load balancing device without TCP termination and without keeping flow states |
US9137324B2 (en) | 2002-04-10 | 2015-09-15 | International Business Machines Corporation | Capacity on-demand in distributed computing environments |
US7624047B1 (en) | 2002-07-31 | 2009-11-24 | Amazon Technologies, Inc. | Managing server load by varying responses to requests for dynamically-generated web pages |
US7675890B2 (en) | 2003-09-10 | 2010-03-09 | Delta Networks, Inc. | QoS based load-balance policy for WLAN |
US7483380B2 (en) | 2004-08-30 | 2009-01-27 | Motorola, Inc. | Method and apparatus for bandwidth management |
US7499998B2 (en) | 2004-12-01 | 2009-03-03 | Cisco Technology, Inc. | Arrangement in a server for providing dynamic domain name system services for each received request |
US8161159B1 (en) * | 2005-10-31 | 2012-04-17 | Adobe Systems Incorporated | Network configuration with smart edge servers |
CN100531098C (zh) | 2007-03-13 | 2009-08-19 | 华为技术有限公司 | 一种对等网络系统及重叠网间节点的互通方法 |
CN105306586A (zh) | 2008-02-29 | 2016-02-03 | 汤姆逊许可公司 | 用于提供负载平衡信号分配的方法和装置 |
WO2010010761A1 (ja) * | 2008-07-23 | 2010-01-28 | 株式会社村田製作所 | 絶縁型スイッチング電源装置 |
WO2011090715A2 (en) * | 2009-12-28 | 2011-07-28 | Akamai Technologies, Inc. | Edge server for format-agnostic streaming architecture |
US8745239B2 (en) | 2010-04-07 | 2014-06-03 | Limelight Networks, Inc. | Edge-based resource spin-up for cloud computing |
US8244874B1 (en) | 2011-09-26 | 2012-08-14 | Limelight Networks, Inc. | Edge-based resource spin-up for cloud computing |
US9088577B2 (en) * | 2010-11-24 | 2015-07-21 | Microsoft Technology Licensing, Llc | Multimedia aware cloud for mobile device computing |
US8862775B2 (en) | 2010-11-26 | 2014-10-14 | Industrial Technology Research Institute | Network server and load balancing routing method for networks thereof |
US9923826B2 (en) | 2011-10-14 | 2018-03-20 | Citrix Systems, Inc. | Systems and methods for dynamic adaptation of network accelerators |
TWI445356B (zh) | 2012-08-13 | 2014-07-11 | Chunghwa Telecom Co Ltd | 寬頻網路媒體封包最佳傳遞路徑選擇系統 |
US9571540B2 (en) | 2013-09-19 | 2017-02-14 | Verizon Patent And Licensing Inc. | Broadcast/multicast offloading and recommending of infrastructural changes based on usage tracking |
US9332046B2 (en) * | 2013-10-17 | 2016-05-03 | Cisco Technology, Inc. | Rate-adapted delivery of virtual desktop image elements by an edge server in a computer network environment |
US9338097B2 (en) * | 2013-10-31 | 2016-05-10 | Telefonaktiebolaget L M Ericsson (Publ) | Method and system for load balancing at a data network |
US20150127774A1 (en) | 2013-11-01 | 2015-05-07 | Numecent Holdings Inc. | Adaptive cloud-based application streaming |
US8892686B1 (en) | 2013-12-19 | 2014-11-18 | Limelight Networks, Inc. | Dynamic content transformation for multiple devices |
-
2016
- 2016-12-29 CN CN201611248225.4A patent/CN107241374B/zh active Active
-
2017
- 2017-03-28 US US15/470,924 patent/US10484463B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101262488A (zh) * | 2007-03-09 | 2008-09-10 | 中兴通讯股份有限公司 | 一种内容分发网络系统及方法 |
CN101282281A (zh) * | 2007-04-03 | 2008-10-08 | 华为技术有限公司 | 一种媒体分发系统、装置及流媒体播放方法 |
CN101080001A (zh) * | 2007-06-22 | 2007-11-28 | 中兴通讯股份有限公司 | 网络电视系统中用于实现媒体内容均衡的装置及其方法 |
CN101312464A (zh) * | 2008-07-11 | 2008-11-26 | 烽火通信科技股份有限公司 | 一种在自动交换光网络中实现负载均衡的方法 |
CN103778591A (zh) * | 2012-10-18 | 2014-05-07 | 纬创资通股份有限公司 | 处理图形运算负载平衡的方法及系统 |
US8819187B1 (en) * | 2013-10-29 | 2014-08-26 | Limelight Networks, Inc. | End-to-end acceleration of dynamic content |
Also Published As
Publication number | Publication date |
---|---|
CN107241374B (zh) | 2020-01-31 |
US20170279881A1 (en) | 2017-09-28 |
US10484463B2 (en) | 2019-11-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107241374A (zh) | 负载平衡系统、负载平衡装置及拓朴管理方法 | |
Sahni et al. | Multi-hop multi-task partial computation offloading in collaborative edge computing | |
US10432709B2 (en) | Load balancing method, load balancing system, load balancing device and topology reduction method | |
Zheng et al. | Online cloud transcoding and distribution for crowdsourced live game video streaming | |
Deng et al. | The server allocation problem for session-based multiplayer cloud gaming | |
CN105340234B (zh) | 在电缆Wi-Fi网络上用于多屏幕视频应用的自适应资源管理 | |
Wen et al. | Effective load balancing for cloud-based multimedia system | |
CN109862592A (zh) | 一种基于多基站协作的移动边缘计算环境下资源管理和调度方法 | |
CN106792835B (zh) | 一种无线设备共享带宽的控制方法及系统 | |
CN105337901A (zh) | 一种路由器的智能带宽分配方法及装置 | |
Zhang et al. | UAV-assisted edge computing and streaming for wireless virtual reality: Analysis, algorithm design, and performance guarantees | |
Tian et al. | On achieving cost-effective adaptive cloud gaming in geo-distributed data centers | |
CN102595208A (zh) | 云端控制网络化视频图像处理流媒体服务系统及方法 | |
CN107547545A (zh) | 视频云平台系统、视频请求处理方法及存储介质、处理器 | |
CN102447636A (zh) | 一种数据中心通讯设备的负载分担方法和装置 | |
Wang et al. | Wireless network aware cloud scheduler for scalable cloud mobile gaming | |
Dong et al. | A novel distribution service policy for crowdsourced live streaming in cloud platform | |
CN104811467A (zh) | 综合效用的数据处理方法 | |
Chunlin et al. | Distributed QoS-aware scheduling optimization for resource-intensive mobile application in hybrid cloud | |
Fu et al. | Service level agreement based distributed resource allocation for streaming hosting systems | |
Hu et al. | Maximum profit of real-time IoT content retrieval by joint content placement and storage allocation in C-RANs | |
CN107241376A (zh) | 负载平衡方法、系统与装置及其拓朴简化方法 | |
Ma et al. | Live broadcast with community interactions: Bottlenecks and optimizations | |
US9553924B1 (en) | Load sharing among loosely coupled or independent video servers | |
Tian et al. | Optimal bandwidth allocation for hybrid video-on-demand streaming with a distributed max flow algorithm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |