WO2020134753A1 - 请求消息处理方法、装置及系统、服务器、存储介质 - Google Patents

请求消息处理方法、装置及系统、服务器、存储介质 Download PDF

Info

Publication number
WO2020134753A1
WO2020134753A1 PCT/CN2019/120027 CN2019120027W WO2020134753A1 WO 2020134753 A1 WO2020134753 A1 WO 2020134753A1 CN 2019120027 W CN2019120027 W CN 2019120027W WO 2020134753 A1 WO2020134753 A1 WO 2020134753A1
Authority
WO
WIPO (PCT)
Prior art keywords
service node
period
target sub
request message
service
Prior art date
Application number
PCT/CN2019/120027
Other languages
English (en)
French (fr)
Inventor
林立新
赖明鸣
金明地
Original Assignee
广州华多网络科技有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 广州华多网络科技有限公司 filed Critical 广州华多网络科技有限公司
Publication of WO2020134753A1 publication Critical patent/WO2020134753A1/zh

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/218—Source of audio or video content, e.g. local disk arrays
    • H04N21/2187—Live feed
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/239—Interfacing the upstream path of the transmission network, e.g. prioritizing client content requests
    • H04N21/2393—Interfacing the upstream path of the transmission network, e.g. prioritizing client content requests involving handling client requests
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24—Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2402—Monitoring of the downstream path of the transmission network, e.g. bandwidth available
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/262—Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists
    • H04N21/26208—Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists the scheduling operation being performed under constraints
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/647—Control signaling between network components and server or clients; Network processes for video distribution between server and clients, e.g. controlling the quality of the video stream, by dropping packets, protecting content from unauthorised alteration within the network, monitoring of network load, bridging between two different networks, e.g. between IP and wireless
    • H04N21/64723—Monitoring of network processes or resources, e.g. monitoring of network load
    • H04N21/64738—Monitoring network characteristics, e.g. bandwidth, congestion level

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Security & Cryptography (AREA)
  • Information Transfer Between Computers (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本申请公开了一种请求消息处理方法、装置及系统、服务器、存储介质，属于网络技术领域。所述方法包括：获取请求消息处理系统中每个服务节点的历史剩余带宽值，所述请求消息处理系统包括多个服务节点；基于所述每个服务节点的历史剩余带宽值，确定所述每个服务节点的调度系数，任一服务节点的调度系数用于反映所述任一服务节点相对于其他服务节点的调度能力，所述其他服务节点为所述多个服务节点中除所述任一服务节点外的服务节点；基于所述每个服务节点的调度系数，将接收到的多个请求消息分发至所述多个服务节点。本申请有效地提高了请求消息调度的效率。

Description

请求消息处理方法、装置及系统、服务器、存储介质
本申请要求于2018年12月28日提交的申请号为201811621453.0、申请名称为“请求消息处理方法、装置及系统、服务器、存储介质”的中国专利申请的优先权，其全部内容通过引用结合在本申请中。
技术领域
本申请涉及网络技术领域，特别涉及一种请求消息处理方法、装置及系统、服务器、存储介质。
背景技术
随着网络直播平台用户量的增多，用户在网络直播平台发送请求消息所消耗的流量也逐渐增多，如何对直播过程中发送的请求消息进行处理是亟待解决的问题。其中，直播过程中发送的请求消息可以包括观众端向直播间发送的请求消息，或者，直播间向观众端发送直播过程产生的视频流的请求消息。
相关技术中，网络直播服务器在接收到请求消息后，通常将请求消息分发至多个内容分发网络(Content Delivery Network，CDN)中，并通过CDN将请求消息分发至距离用户最近的服务节点，使该距离最近的服务节点为用户提供服务，以提高服务的响应速度。其中，将请求消息分发至多个CDN的实现过程可以包括：根据指定的服务质量指标，获取每个CDN的服务质量得分，然后根据该得分将请求消息分发至多个CDN。
但是，由于CDN带宽的限制，当网络直播平台的请求消息出现高并发情况时，仍无法有效地对请求消息进行调度，导致对请求消息进行调度的效率较低。
发明内容
本申请提供了一种请求消息处理方法、装置及系统、服务器、存储介质，可以解决先关技术中请求消息调度的效率较低的问题，所述技术方案如下：
第一方面，提供了一种请求消息处理方法，所述方法包括：
获取请求消息处理系统中每个服务节点的历史剩余带宽值，所述请求消息处理系统包括多个服务节点；
基于所述每个服务节点的历史剩余带宽值，确定所述每个服务节点的调度系数，任一服务节点的调度系数用于反映所述任一服务节点相对于其他服务节点的调度能力，所述其他服务节点为所述多个服务节点中除所述任一服务节点外的服务节点；
基于所述每个服务节点的调度系数，将接收到的多个请求消息分发至所述多个服务节点。
可选地，所述基于所述每个服务节点的历史剩余带宽值，确定所述每个服务节点的调度系数，包括：
基于第一服务节点在目标时段中每个目标子时段内的历史剩余带宽值，确定所述第一服务节点在所述每个目标子时段内的调度系数，所述第一服务节点为所述多个服务节点中的任一服务节点，所述目标时段包括N个目标子时段，所述N为正整数。
可选地，所述基于所述每个服务节点的调度系数，将接收到的多个请求消息分发至所述多个服务节点，包括：
将所述多个请求消息划分为所述N份；
对于每份所述请求消息，基于所述第一服务节点在所述每个目标子时段内的调度系数，按照分发至所述第一服务节点的请求消息的数量与所述第一服务节点在对应目标子时段内的调度系数成正比的方式，将每份所述请求消息分发至所述多个服务节点。
可选地，在所述基于所述每个服务节点的调度系数，将接收到的多个请求消息分发至所述多个服务节点之前，所述方法还包括：
通过N组服务器分别接收至少一个请求消息，所述N组服务器与所述N个目标子时段一一对应；
所述基于所述每个服务节点的调度系数，将接收到的多个请求消息分发至所述多个服务节点，包括：
对于任一组服务器接收到的请求消息，基于所述第一服务节点在所述任一组服务器对应的目标子时段内的调度系数，按照分发至所述第一服务节点的请求消息的数量与所述第一服务节点在对应目标子时段内的调度系数成正比的方 式，将每份所述请求消息分发至所述多个服务节点。
可选地，所述第一服务节点在第一目标子时段内的调度系数为：所述第一服务节点在所述第一目标子时段内的历史剩余带宽值与总历史剩余带宽值的比值，所述总历史剩余带宽值为所述多个服务节点在所述第一目标子时段内的历史剩余带宽值的和，所述第一目标子时段为所述N个目标子时段中的任一子时段。
可选地，所述获取请求消息处理系统中每个服务节点的历史剩余带宽值，包括：
获取所述第一服务节点在所述每个目标子时段内的历史剩余带宽值。
可选地，所述获取所述第一服务节点在所述每个目标子时段内的历史剩余带宽值，包括：
获取所述第一服务节点在所述第一目标子时段内的历史使用带宽值，所述第一目标子时段为所述N个目标子时段中的任一子时段；
将所述第一服务节点的可用带宽额度值与所述历史使用带宽值的差值确定为所述第一服务节点在所述第一目标子时段内的历史剩余带宽值。
可选地，在所述获取所述第一服务节点在所述每个目标子时段内的历史剩余带宽值之前，所述方法还包括：
基于所述第一服务节点在所述第一目标子时段的上一指定时段内的历史使用带宽值，预测所述第一服务节点在所述第一目标子时段内的未来使用带宽值，所述上一指定时段为在时序上位于所述第一目标子时段之前的时段，所述第一目标子时段为所述N个目标子时段中的任一子时段；
所述获取所述第一服务节点在所述每个目标子时段内的历史剩余带宽值，包括：
获取所述第一服务节点在所述第一目标子时段内的历史使用带宽值；
将所述第一服务节点的可用带宽额度值与使用带宽总量的差值确定为所述第一服务节点在所述第一目标子时段内的历史剩余带宽值，所述使用带宽总量为所述第一服务节点在所述第一目标子时段内的所述历史使用带宽值与所述未来使用带宽值的和。
第二方面，提供了一种请求消息处理装置，所述装置包括：
获取单元，用于获取请求消息处理系统中每个服务节点的历史剩余带宽值， 所述请求消息处理系统包括多个服务节点；
确定单元，用于基于所述每个服务节点的历史剩余带宽值，确定所述每个服务节点的调度系数，任一服务节点的调度系数用于反映所述任一服务节点相对于其他服务节点的调度能力，所述其他服务节点为所述多个服务节点中除所述任一服务节点外的服务节点；
发送单元，用于基于所述每个服务节点的调度系数，将接收到的多个请求消息分发至所述多个服务节点。
可选地，所述确定单元，用于：
基于第一服务节点在目标时段中每个目标子时段内的历史剩余带宽值，确定所述第一服务节点在所述每个目标子时段内的调度系数，所述第一服务节点为所述多个服务节点中的任一服务节点，所述目标时段包括N个目标子时段，所述N为正整数。
可选地，所述发送单元，包括：
划分子单元，用于将所述多个请求消息划分为所述N份；
发送子单元，用于对于每份所述请求消息，基于所述第一服务节点在所述每个目标子时段内的调度系数，按照分发至所述第一服务节点的请求消息的数量与所述第一服务节点在对应目标子时段内的调度系数成正比的方式，将每份所述请求消息分发至所述多个服务节点。
可选地，所述方法还包括：通过N组服务器分别接收至少一个请求消息，所述N组服务器与所述N个目标子时段一一对应；
相应的，所述发送单元，包括：对于任一组服务器接收到的请求消息，基于所述第一服务节点在所述任一组服务器对应的目标子时段内的调度系数，按照分发至所述第一服务节点的请求消息的数量与所述第一服务节点在对应目标子时段内的调度系数成正比的方式，将每份所述请求消息分发至所述多个服务节点。
可选地，所述第一服务节点在第一目标子时段内的调度系数为：所述第一服务节点在所述第一目标子时段内的历史剩余带宽值与总历史剩余带宽值的比值，所述总历史剩余带宽值为所述多个服务节点在所述第一目标子时段内的历史剩余带宽值的和，所述第一目标子时段为所述N个目标子时段中的任一子时段。
可选地，所述获取单元，包括：获取子单元，用于获取所述第一服务节点在所述每个目标子时段内的历史剩余带宽值。
可选地，所述获取子单元，用于：
获取所述第一服务节点在所述第一目标子时段内的历史使用带宽值，所述第一目标子时段为所述N个目标子时段中的任一子时段；
将所述第一服务节点的可用带宽额度值与所述历史使用带宽值的差值确定为所述第一服务节点在所述第一目标子时段内的历史剩余带宽值。
可选地，所述获取单元，还包括：
预测子单元，用于基于所述第一服务节点在所述第一目标子时段的上一指定时段内的历史使用带宽值，预测所述第一服务节点在所述第一目标子时段内的未来使用带宽值，所述上一指定时段为在时序上位于所述第一目标子时段之前的时段，所述第一目标子时段为所述N个目标子时段中的任一子时段；
所述获取子单元，还用于：
获取所述第一服务节点在所述第一目标子时段内的历史使用带宽值；
将所述第一服务节点的可用带宽额度值与使用带宽总量的差值确定为所述第一服务节点在所述第一目标子时段内的历史剩余带宽值，所述使用带宽总量为所述第一服务节点在所述第一目标子时段内的所述历史使用带宽值与所述未来使用带宽值的和。
第三方面，提供了一种请求消息处理系统，包括：多个服务节点和第二方面任一所述的请求消息处理装置。
可选地，所述服务节点为内容分发网络CDN节点。
第四方面，提供了一种服务器，包括处理器和存储器；
其中，
所述存储器，用于存放计算机程序；
所述处理器，用于执行所述存储器上所存放的程序，实现第一方面任一所述的请求消息处理方法。
第五方面，提供了一种存储介质，所述存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现第一方面任一所述的请求消息处理方法。
本申请提供的技术方案带来的有益效果至少包括：
本申请提供的请求消息处理方法、装置及系统、服务器、存储介质，通过 获取每个服务节点的历史剩余带宽值，基于历史剩余带宽值确定服务节点的调度系数，并基于每个服务节点的调度系数，将请求消息分发至多个服务节点，相较于相关技术，由于任一调度系数用于反映任一服务节点相对于请求消息处理系统中其他服务节点的调度能力，使得在网络直播平台的请求消息出现高并发时，第一服务器可以根据每个服务节点的调度能力为服务节点分发请求消息，将并发的请求消息按照调度系数分摊到多个服务节点，使多个服务节点共同承担请求消息高发带来的调度压力，提高了请求消息调度的效率。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种请求消息处理方法涉及的请求消息处理系统的结构示意图；
图2是本申请实施例提供的另一种请求消息处理系统的结构示意图；
图3是本申请实施例提供的一种请求消息处理方法的流程图；
图4是本申请实施例提供的另一种请求消息处理方法的流程图；
图5是本申请实施例提供的一种调度系数获取周期和消息采样周期的示意图；
图6是本申请实施例提供的一种获取请求消息处理系统中每个服务节点的历史剩余带宽值方法的流程图；
图7是本申请实施例提供的另一种获取请求消息处理系统中每个服务节点的历史剩余带宽值方法的流程图；
图8是本申请实施例提供的一种获取服务节点的调度系数至再次获取调度系数之前的时段的示意图；
图9是根据相关技术提供的请求消息处理方法对请求消息进行分发时，服务节点的流量变化示意图；
图10是根据本申请实施例提供的请求消息处理方法对请求消息进行分发时，服务节点的流量变化示意图；
图11是本申请实施例提供的一种请求消息处理装置的示意图；
图12是本申请实施例提供的一种发送单元的示意图；
图13是本申请实施例提供的另一种请求消息处理装置的示意图；
图14是本申请实施例提供的一种获取单元的示意图；
图15是本申请实施例提供的一种服务器的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚，下面将结合附图对本申请实施方式作进一步地详细描述。
图1是本申请实施例提供的一种请求消息处理方法涉及的请求消息处理系统的结构示意图。如图1所示，该系统可以包括：第一服务器110和服务节点120。
其中，第一服务器110与服务节点120可以通过有线或无线网络连接。第一服务器110可以是一台服务器，或者由若干台服务器组成的服务器集群，或者是一个云计算服务中心等。服务节点120可以为CDN节点和软件定义网络节点等。请求消息处理系统中可以包括多个服务节点120，图1为请求消息处理系统包括2个服务节点120的示意图。
可选地，第一服务器110用于获取服务节点120的调度系数，并根据每个服务节点120的调度系数向服务节点120分发请求消息。服务节点120在接收第一服务器110分发的请求消息后，可将该请求消息分发至距离请求消息发送端最近的服务器(图1中未示出)，以便基于该请求消息为用户提供服务。
图2为本申请实施例提供的另一种请求消息处理系统的结构示意图。如图2所述，该系统可以包括：第一服务器110、服务节点120、终端130和第二服务器140。
其中，终端130与第一服务器110之间，以及终端130与第二服务器140之间均可以通过有线或无线网络连接；服务节点120与第一服务器110之间，以及服务节点120与第二服务器140之间均可以通过有线或无线网络连接。终端130可以为智能手机、电脑、多媒体播放器、电子阅读器、可穿戴式设备等，且终端130上可以安装有直播客户端。第二服务器140可以是一台服务器，或者由若干台服务器组成的服务器集群，或者是一个云计算服务中心等。
可选地，终端可以向第一服务器110发送请求消息，第一服务器110可以获取每个服务节点120的调度系数，并根据每个服务节点120的调度系数，将接收到的多个请求消息分发至多个服务节点120。服务节点120可将接收到的请求消息分发至距离终端130最近的第二服务器140。第二服务器140可以根据接受到的请求消息的内容为终端130提供服务。
接下来，对本申请实施例提供的请求消息处理方法进行详细介绍。
图3为本申请实施例提供的一种请求消息处理方法的流程图。如图3所示，该请求消息调度的方法可以包括：
步骤301、获取请求消息处理系统中每个服务节点的历史剩余带宽值。
其中，请求消息处理系统可以为图1或图2中所示的请求消息处理系统，且该请求消息处理系统可以包括多个服务节点。历史剩余带宽为服务节点能够用于发送数据的带宽。服务节点发送请求消息时需要消耗流量，该消耗的流量使该服务节点能够使用的带宽减小。当服务节点已使用的带宽越多时，该服务节点的剩余带宽就越少。
步骤302、基于每个服务节点的历史剩余带宽值，确定每个服务节点的调度系数。
其中，任一服务节点的调度系数可以用于反映该任一服务节点相对于其他服务节点的调度能力，该其他服务节点为多个服务节点中除该任一服务节点外的服务节点。
步骤303、基于每个服务节点的调度系数，将接收到的多个请求消息分发至多个服务节点。
综上所述，本申请实施例提供的请求消息处理方法，通过获取每个服务节点的历史剩余带宽值，基于历史剩余带宽值确定服务节点的调度系数，并基于每个服务节点的调度系数，将请求消息分发至多个服务节点，相较于相关技术，由于任一调度系数用于反映任一服务节点相对于请求消息处理系统中其他服务节点的调度能力，使得在网络直播平台的请求消息出现高并发时，第一服务器可以根据每个服务节点的调度能力为服务节点分发请求消息，将并发的请求消息按照调度系数分摊到多个服务节点，使多个服务节点共同承担请求消息高发带来的调度压力，提高了请求消息调度的效率。
图4为本申请实施例提供的另一种请求消息处理方法的流程图。该方法可应用于图1或图2所示的请求消息处理系统中的第一服务器。如图4所示，该方法可以包括：
步骤401、获取请求消息处理系统中每个服务节点的历史剩余带宽值。
可选地，第一服务器可以实时地获取服务节点的历史剩余带宽值。例如，在任一分发时刻，第一服务器可以获取服务节点在该分发时刻之前的历史剩余带宽值。其中，该分发时刻为需要对请求消息进行分发的时刻。
或者，第一服务器可以预先获取服务节点的历史剩余带宽值，并将该历史剩余带宽值缓存在第一服务器中，以便于第一服务器需要使用该历史剩余带宽值时读取该历史剩余带宽值。其中，第一服务器可以每隔一个目标时段获取一次服务节点的历史剩余带宽值。且每个目标时段的时长可以相同或者不同。当每个目标时段的时长相同时，即为周期性地获取该历史剩余带宽值，此时，该目标时段可以称为调度系数获取周期。并且，该调度系数获取周期的时长可以根据实际需要确定。例如，该调度系数获取周期的时长可以为10秒、15秒或20秒等，本申请实施例对此不做限定。
进一步地，每个目标时段可以包括N个目标子时段，该N为正整数。第一服务器在接收到终端发送的请求消息后，可以将该请求消息缓存在第一服务器中，并按照指定策略对缓存的请求消息进行采样，然后将采样到的请求消息分发至服务节点。此时，每个目标子时段可以与请求消息的一个采样过程对应。且该每个目标子时段的时长可以相等或不等。例如，当第一服务器周期性地对请求消息进行采样时，该每个目标子时段的时长相等，且该时长与第一服务器的采样频率对应，此时，该目标子时段可以称为消息采样周期。并且，在该每个目标子时长内，若服务节点被分发了请求消息，该请求消息会导致服务节点的剩余带宽发生变化，因此，第一服务器可以分别获取服务节点在每个目标子时段内的历史剩余带宽值，以得到服务节点在目标时段内的多个历史剩余带宽值。
可选地，图5示出了在t1分发时刻之前的一个调度系数获取周期T2和多个消息采样周期T1的示意图，从图5中可以看出，该调度系数获取周期T2包括8个消息采样周期T1，即N＝8。
下面以获取每个目标子时段内的历史剩余带宽值为例，对获取历史剩余带 宽值的实现方式进行说明。示例地，步骤401至少可以包括以下两种可实现方式：
在步骤401的一种可实现方式中，第一服务器可以获取服务节点的可用带宽额度值，以及服务节点在目标子时段内的历史使用带宽值，并根据该可用带宽额度值和该历史使用带宽值确定服务节点在该目标子时段内的历史剩余带宽值。如图6所示，其实现过程可以包括：
步骤4011a、获取第一服务节点在第一目标子时段内的历史使用带宽值。
其中，第一服务节点为多个服务节点中的任一服务节点。第一目标子时段为N个目标子时段中的任一子时段。
可选地，在需要获取第一服务节点的历史使用带宽值时，第一服务器可以向第一服务节点发送获取请求，该获取请求中可以携带有第一目标子时段的标识，以请求获取第一服务节点在该第一目标子时段内的历史使用带宽值。第一服务节点在接收到该获取请求后，可以向第一服务器发送携带有该第一服务节点在该第一目标子时段内的历史使用带宽值的获取响应。第一服务器在接收到获取响应后，可以获取第一服务节点在该第一目标子时段内的历史使用带宽值。
步骤4012a、将第一服务节点的可用带宽额度值与历史使用带宽值的差值确定为该第一服务节点在第一目标子时段内的历史剩余带宽值。
第一服务器内可以预存有第一服务节点的可用带宽额度值，在获取第一服务节点在第一目标子时段内的历史使用带宽值后，第一服务器可以读取该第一服务节点的可用带宽额度值。并将该可用带宽额度值与历史使用带宽值的差值确定为该第一服务节点在第一目标子时段内的历史剩余带宽值。
在步骤401的另一种可实现方式中，第一服务器可以获取服务节点的可用带宽额度值、在目标子时段内的历史使用带宽值和未来使用带宽值，并根据该可用带宽额度值、该历史使用带宽值和该未来使用带宽值确定服务节点在该目标子时段的历史剩余带宽值。如图7所示，其实现过程可以包括：
步骤4011b、基于第一服务节点在第一目标子时段的上一指定时段内的历史使用带宽值，预测第一服务节点在第一目标子时段内的未来使用带宽值。
可选地，可以根据自动控制理论中的微分控制算法，对该第一服务节点在上一指定时段内的历史使用带宽值进行微分处理，以得到该第一服务节点在该第一目标子时段内的未来使用带宽值。其中，第一服务器获取第一服务节点在 上一指定时段内的历史使用带宽值的实现过程，可以参考步骤4011a的实现过程。
可选地，上一指定时段为在时序上位于第一目标子时段之前的时段。可选地，当目标时段为调度系数获取周期时，该上一指定时段可以包括：在时序上位于第一目标子时段所在的调度系数获取周期之前的至少一个调度系数获取周期。或者，当第一目标子时段为消息采样周期时，该上一指定时段可以包括：在时序上位于该消息采样周期之前的至少一个消息采样周期。且该至少一个消息采样周期可以包括：在时序上位于第一目标子时段所在的调度系数获取周期内的消息采样周期，和/或，在时序上位于第一目标子时段所在的调度系数获取周期之前的调度系数获取周期内的消息采样周期，本申请实施例对此不作具体限定。
并且，第一服务器可以实时预测该未来使用带宽值，即在需要获取历史剩余带宽值时，再预测该未来使用带宽值。或者，可以预先预测该未来使用带宽值，并存储该未来使用带宽值，以便于在获取历史剩余带宽值时，从存储位置中获取该未来使用带宽值。
同时，对于不同的目标子时段，每个目标子时段对应的上一指定时段的时长可以相同或者不同。例如，每个目标子时段对应的上一指定时段的时长可以等于调度系数获取周期的时长。
步骤4012b、获取第一服务节点在第一目标子时段内的历史使用带宽值。
该步骤4012b的实现过程可以参考步骤4011a的实现过程。
步骤4013b、将第一服务节点的可用带宽额度值与使用带宽总量的差值确定为第一服务节点在第一目标子时段内的历史剩余带宽值。
其中，使用带宽总量为第一服务节点在第一目标子时段内的历史使用带宽值与未来使用带宽值的和。
可选地，第一服务器中可以存储第一服务节点的可用带宽额度值，第一服务器在获取第一服务节点在第一目标子时段内的历史使用带宽值和未来使用带宽值后，可以从第一服务器内获取第一服务节点的可用带宽额度值。然后，第一服务器先将该第一服务节点的历史使用带宽值与未来使用带宽值的和确定为使用带宽总量，再将该第一服务节点的可用带宽额度值与使用带宽总量的差确定为该第一服务节点在第一目标子时段内的历史剩余带宽值。
由于在目标时段内，根据该使用带宽对请求消息进行调度的过程相较于获取第一服务节点的使用带宽的过程通常存在延迟，使得第一服务器获取的使用带宽与实际使用的带宽之间存在差异。因此，通过获取第一服务节点在第一目标时段内的未来使用带宽值，并根据该未来使用带宽值、历史使用带宽值和可用带宽额度值确定历史剩余带宽，能够使获取的历史剩余带宽更接近实际剩余的带宽，使得根据历史剩余带宽值确定的调度系数更准确，能够进一步提高根据该调度系数分发请求消息的效率。
步骤402、基于第一服务节点在目标时段中每个目标子时段内的历史剩余带宽值，确定第一服务节点在每个目标子时段内的调度系数。
可选地，第一服务节点在第一目标子时段内的调度系数可以为：该第一服务节点在第一目标子时段内的历史剩余带宽值与总历史剩余带宽值的比值。该总历史剩余带宽值为多个服务节点在第一目标子时段内的历史剩余带宽值的和。
示例地，假设请求消息处理系统包括三个服务节点，分别为第一个服务节点、第二个服务节点和第三个服务节点。该第一个服务节点、第二个服务节点和第三个服务节点在第一目标子时段内的历史剩余带宽值分别为10兆、20兆和20兆，则总历史剩余带宽值为20兆+10兆+20兆＝50兆。因此，第一个服务节点在该第一目标子时段内的调度系数为：20兆/50兆＝0.4，第二个服务节点在该第一目标子时段内的调度系数为：10兆/50兆＝0.2，第三个服务节点在该第一目标子时段内的调度系数为：20兆/50兆＝0.4。
步骤403、基于第一服务节点在每个目标子时段内的调度系数，按照分发至第一服务节点的请求消息的数量与第一服务节点在对应目标子时段内的调度系数成正比的方式，将每份请求消息分发至多个服务节点。
可选地，步骤403至少具有以下两种可实现方式，下面分别对其进行说明：
在第一种可实现方式中，请求消息处理系统中可以包括多个第一服务器，该多个第一服务器可以组成N组第一服务器，该每组服务器可以包括至少一个服务器，且该N组服务器可以与N个目标子时段一一对应。此时，每组服务器可以向不同的终端提供服务。相应的，在接收请求消息时，每组服务器可以分别接收对应终端发送的至少一个请求消息。在分发请求消息时，可以基于每组服务器接收的请求消息执行请求消息的分发过程。
其中，由于N组服务器中的每组服务器对应一个目标子时段，且调度系数对应一个目标子时段，可以确定每组服务器与一个目标子时段内的调度系数对应，因此，在分发请求消息时，可以按照服务节点在每个目标子时段对应的调度系数，将对应的每组服务器接收到的请求消息分发至对应的服务节点。
可选地，该请求消息的分发过程可以包括：将每组服务器接收到的请求消息，基于第一服务节点在该组服务器对应的目标子时段内的调度系数，按照分发至第一服务节点的请求消息的数量与第一服务节点在对应目标子时段内的调度系数成正比的方式，将该每组服务器接收到的请求消息分发至多个服务节点。
示例地，假设目标时段包括2个目标子时段，分别为X目标子时段和Y目标子时段，且请求消息调度系统通过第一组服务器和第二组服务器接收请求消息，且第一组服务器与X目标子时段对应，第二组服务器与Y目标子时段对应。当按照分发至第一服务节点的请求消息的数量与第一服务节点在对应目标子时段内的调度系数成正比的方式分发请求消息时，可以将第一组服务器接收到的请求消息按照第一服务节点在X目标子时段内对应的调度系数分发至第一服务节点，将第二组服务器接收到的请求消息按照第一服务节点在Y目标子时段内对应的调度系数分发至第一服务节点。
另外，当第一服务器根据N个目标子时段的调度系数分发请求消息时，即使部分调度系数所反映服务节点相对于其他服务节点的调度能力与服务节点的实际调度能力存在偏差，由于该调度系数对应的请求消息仅为部分组服务器接收到的请求消息，根据其分发请求消息后，其只会影响部分服务器接收到的请求消息，而对其他组服务器(N组服务器中除部分组服务器外的至少一组服务器)接收到的请求消息的分发仍能够对请求消息并发压力起到缓冲作用，相较于相关技术，本申请实施例提供的请求消息处理方法，仍能够有效地降低每个服务节点所承担的并发压力，并提高服务节点的性能。
在第二种可实现方式中，可以先将多个请求消息或分为N份，再将每份请求消息按照分发至所述第一服务节点的请求消息的数量与所述第一服务节点在对应目标子时段内的调度系数成正比的方式，分发至多个服务节点。
可选地，由于N份请求消息中的每份请求消息对应一个目标子时段，且调度系数对应一个目标子时段，可以确定每份请求消息与一个目标子时段内的调度系数对应，因此，在分发请求消息时，可以按照服务节点在每个目标子时段 对应的调度系数，将对应的每份请求消息分发至服务节点。
示例地，假设请求消息处理系统包括3个服务节点，分别为第一个服务节点、第二个服务节点和第三个服务节点。目标时段包括第一个目标子时段和第二个目标子时段，待分发的请求消息的数量为200个，根据该目标子时段的数量，第一服务器将请求消息等分为2份，每份请求消息的个数均为100个。如表1所示，该第一个服务节点、第二个服务节点和第三个服务节点在第一个目标子时段内的调度系数分别为5/10、2/10和3/10，当按照请求消息的数量与该服务节点的调度系数成正比的方式分发请求消息时，第一个服务节点、第二个服务节点和第三个服务节点在该第一个目标子时段内被分发的请求消息的个数分别为50、20和30。该第一个服务节点、第二个服务节点和第三个服务节点在第二个目标子时段内的调度系数分别为4/10、1/10和5/10，当按照请求消息的数量与该服务节点的调度系数成正比的方式分发请求消息时，第一个服务节点、第二个服务节点和第三个服务节点在该第二个目标子时段内被分发的请求消息的个数分别为40、10和50。
表1
Figure PCTCN2019120027-appb-000001
从表1中可以看出，在每个目标子时段内，第一服务器均可以按照调度系数与请求消息的数量成正比的方式将请求消息分发至多个服务节点。例如，在第一个目标子时段内，第一个服务节点的调度系数大于第二个服务节点的调度系数，第一个服务节点被分发的请求消息的数量大于第二个服务节点被分发的请求消息的数量；类似地，在第二个目标子时段内，第三个服务节点的调度系数大于第一个服务节点的调度系数，第三个服务节点被分发的请求消息的数量 也大于第一个服务节点被分发的请求消息的数量。这样一来，在完成请求消息分发过程后，三个服务节点上用于传输请求消息所使用的带宽在对应服务节点的剩余带宽中的占比较接近，使得三个服务节点所承担的消息处理压力较均衡。
其中，由于目标时段包括N个目标子时段，且每个服务节点在每个目标子时段均对应一个调度系数，因此，第一服务器可以将多个请求消息划分为与目标子时段的个数相同的份数(即N份)，以便于第一服务器在需要分发请求消息的目标子时段内，将该目标子时段对应的请求消息按照每个服务节点在该目标子时段内对应的调度系数分发至每个服务节点。其中，每份请求消息可以包括至少一个请求消息。
可选地，当N＞1时，第一服务器可以按照等分或者不等分的方式将多个请求消息分为N份。并且，当第一服务器将多个请求消息不等分为N份时，其划分规则可以根据实际需要确定。例如，可以按照N个目标子时段对应的权值进行划分。并且，可以通过对每个目标子时段的请求消息处理情况，确定每个目标子时段的处理得分，然后，按照目标子时段对应的处理得分与对应的一份请求消息的数量成正比的方式，将多个请求消息分为N份。
当第一服务器将多个请求消息等分为N份时，即每份请求消息中请求消息的数量均相等，也即每个目标子时段均可以分发到待调度请求消息总量的1/N倍的请求消息。由于每个目标子时段内任一服务节点对应的调度系数用于反映该任一服务节点相对于其他服务节点的调度能力，这样一来，在第一目标子时段内，当多个服务节点接收到请求消息后，该多个服务节点能够较均衡地承担由请求消息带来的处理压力。当请求消息出现高并发时，该多个服务节点能够较均衡地承担该高并发压力，能够避免当高并发压力偏移至部分服务节点所造成的性能下降或崩溃。
调度系数为历史剩余带宽值与总历史剩余带宽值的比值，也即是，第一服务节点的历史剩余带宽值越多，其在对应目标子时段内的调度系数就越大。当按照请求消息的数量与该第一服务节点的调度系数成正比的方式分发请求消息时，对应调度系数越大的第一服务节点被分发的请求消息越多，使得该多个服务节点能够较均衡地承担由请求消息带来的处理压力。当请求消息出现高并发时，该多个服务节点能够较均衡地承担该高并发压力，能够避免当高并发压力 偏移至部分服务节点所造成的性能下降或崩溃。
另外，当第一服务器根据N个目标子时段的调度系数分发请求消息时，即使部分调度系数所反映服务节点相对于其他服务节点的调度能力与服务节点的实际调度能力存在偏差，由于该调度系数对应的请求消息仅为所有待分发请求消息中的1/N，根据其分发请求消息后，其只会影响所有待分发请求消息中的1/N，而对其他N-1份请求消息的分发仍能够对请求消息并发压力起到缓冲作用，相较于相关技术，本申请实施例提供的请求消息处理方法，仍能够有效地降低每个服务节点所承担的并发压力，并提高服务节点的性能。
需要说明的是，在获取服务节点的调度系数至再次获取调度系数之前的时段内，若需要多次分发请求消息，该多次分发过程均可按照该次获取的调度系数，对请求消息进行分发。例如，当调度系数获取周期包括多个消息采样周期时，在根据在时序上位于该调度系数获取周期前的上一调度系数获取周期获取调度系数后，在该多个消息采样周期内，均可以按照在该上一调度系数获取周期获取的调度系数，对请求消息进行分发。
示例地，如图8所示，时段T4的起始时刻获取了调度系数，且再次获取调度系数的时刻为时段T4的结束时刻，在时段T4内多次分发请求消息时，例如，在时刻T41、时刻T42和时刻T43均需要分发请求消息，此时，在时刻T41、时刻T42和时刻T43，均可按照在该起始时刻获取的调度系数与分发至每个服务节点的请求消息的数量成正比的方式，将待调度请求消息分发至多个服务节点。
图9为根据相关技术提供的请求消息处理方法对请求消息进行分发时，服务节点的流量变化示意图。该流量变化示意图的横坐标为时间，单位为小时；纵坐标为流量，单位为千字节(Kilobyte，kb)。从图9中可以看出，在请求消息出现高并发情况时，服务节点的流量视情况的波动加大，因此，该请求消息处理方法的调度效率较低。例如，时间在第30小时左右时，出现了服务节点上消耗的流量剧增，并且流量超过200000kb的情况。另外，当出现服务节点上消耗的带宽(如200000kb)超过购买的带宽(如100000kb)时，需要支付额外的费用，导致请求消息处理的成本较高。
图10为根据本申请实施例提供的请求消息处理方法对请求消息进行分发时，服务节点的流量变化示意图，且图10与图9中除请求消息处理方法的实现 过程不同外，其他条件均相同。该其他条件可以包括：向服务节点发送的请求消息的数量和服务节点的可用带宽额度值等。该流量变化示意图的横坐标为时间，单位为小时；纵坐标为流量，单位为kb。从图10中可以看出，服务节点消耗的流量随时间的变化较稳定，即使在请求消息高并发时，如时间在第30小时左右时，流量仅在50000kb左右出现小幅度震荡，未出现服务节点上消耗的流量剧增的情况。且该流量的最大值未超过100000kb，远小于相关技术中的200000kb。由此可知，使用本申请实施例提供的请求消息处理方法进行请求消息调度时的效率较高。并且，由于未出现服务节点上消耗的流量剧增的情况，使得无需支付额外的费用，有效地降低了请求消息处理的成本。
综上所述，本申请实施例提供的请求消息处理方法，通过获取每个服务节点的历史剩余带宽值，基于历史剩余带宽值确定服务节点的调度系数，并基于每个服务节点的调度系数，将请求消息分发至多个服务节点，相较于相关技术，由于任一调度系数用于反映任一服务节点相对于请求消息处理系统中其他服务节点的调度能力，使得在网络直播平台的请求消息出现高并发时，第一服务器可以根据每个服务节点的调度能力为服务节点分发请求消息，将并发的请求消息按照调度系数分摊到多个服务节点，使多个服务节点共同承担请求消息高发带来的调度压力，提高了请求消息调度的效率。
图11为本申请实施例提供的一种请求消息处理装置的示意图。如图11所示，该请求消息处理装置200可以包括：
获取单元201，用于获取请求消息处理系统中每个服务节点的历史剩余带宽值，请求消息处理系统包括多个服务节点。
确定单元202，用于基于每个服务节点的历史剩余带宽值，确定每个服务节点的调度系数，任一服务节点的调度系数用于反映任一服务节点相对于其他服务节点的调度能力，其他服务节点为多个服务节点中除任一服务节点外的服务节点。
发送单元203，用于基于每个服务节点的调度系数，将接收到的多个请求消息分发至多个服务节点。
综上所述，本申请实施例提供的请求消息处理装置，通过获取单元获取每个服务节点的历史剩余带宽值，确定单元基于历史剩余带宽值确定服务节点的 调度系数，发送单元基于每个服务节点的调度系数，将请求消息分发至多个服务节点，相较于相关技术，由于任一调度系数用于反映任一服务节点相对于请求消息处理系统中其他服务节点的调度能力，使得在网络直播平台的请求消息出现高并发时，第一服务器可以根据每个服务节点的调度能力为服务节点分发请求消息，将并发的请求消息按照调度系数分摊到多个服务节点，使多个服务节点共同承担请求消息高发带来的调度压力，提高了请求消息调度的效率。
可选地，确定单元202，用于基于第一服务节点在目标时段中每个目标子时段内的历史剩余带宽值，确定第一服务节点在每个目标子时段内的调度系数，第一服务节点为多个服务节点中的任一服务节点，目标时段包括N个目标子时段，N为正整数。
可选地，如图12所示，发送单元203，可以包括：
划分子单元2031，用于将多个请求消息划分为N份。
发送子单元2032，用于对于每份请求消息，基于第一服务节点在每个目标子时段内的调度系数，按照分发至第一服务节点的请求消息的数量与第一服务节点在对应目标子时段内的调度系数成正比的方式，将每份请求消息分发至多个服务节点。
可选地，第一服务节点在第一目标子时段内的调度系数为：第一服务节点在第一目标子时段内的历史剩余带宽值与总历史剩余带宽值的比值，总历史剩余带宽值为多个服务节点在第一目标子时段内的历史剩余带宽值的和，第一目标子时段为N个目标子时段中的任一子时段。
可选地，如图13所示，该请求消息处理装置200可以包括：接收单元204，用于通过N组服务器分别接收至少一个请求消息，所述N组服务器与所述N个目标子时段一一对应；
相应的，发送单元203用于对于任一组服务器接收到的请求消息，基于所述第一服务节点在所述任一组服务器对应的目标子时段内的调度系数，按照分发至所述第一服务节点的请求消息的数量与所述第一服务节点在对应目标子时段内的调度系数成正比的方式，将每份所述请求消息分发至所述多个服务节点。
可选地，如图14所示，获取单元201，可以包括：获取子单元2011，用于获取第一服务节点在每个目标子时段内的历史剩余带宽值。
可选地，获取子单元2011，用于：
获取第一服务节点在第一目标子时段内的历史使用带宽值，第一目标子时段为N个目标子时段中的任一子时段。
将第一服务节点的可用带宽额度值与历史使用带宽值的差值确定为第一服务节点在第一目标子时段内的历史剩余带宽值。
可选地，请继续参考图14，获取单元201，还可以包括：预测子单元2012，用于基于第一服务节点在第一目标子时段的上一指定时段内的历史使用带宽值，预测第一服务节点在第一目标子时段内的未来使用带宽值，上一指定时段为在时序上位于第一目标子时段之前的时段，第一目标子时段为N个目标子时段中的任一子时段。
可选地，获取子单元2011，还用于：
获取第一服务节点在第一目标子时段内的历史使用带宽值。
将第一服务节点的可用带宽额度值与使用带宽总量的差值确定为第一服务节点在第一目标子时段内的历史剩余带宽值，使用带宽总量为第一服务节点在第一目标子时段内的历史使用带宽值与未来使用带宽值的和。
综上所述，本申请实施例提供的请求消息处理装置，通过获取单元获取每个服务节点的历史剩余带宽值，确定单元基于历史剩余带宽值确定服务节点的调度系数，发送单元基于每个服务节点的调度系数，将请求消息分发至多个服务节点，相较于相关技术，由于任一调度系数用于反映任一服务节点相对于请求消息处理系统中其他服务节点的调度能力，使得在网络直播平台的请求消息出现高并发时，第一服务器可以根据每个服务节点的调度能力为服务节点分发请求消息，将并发的请求消息按照调度系数分摊到多个服务节点，使多个服务节点共同承担请求消息高发带来的调度压力，提高了请求消息调度的效率。
本申请提供了一种请求消息处理系统，该系统可以包括：多个服务节点和本申请实施例提供的任一的请求消息处理装置。可选地，该请求消息处理装置可以部署在第一服务器内部。
可选地，服务节点可以为内容分发网络CDN节点。
本申请实施例提供了一种服务器，包括处理器和存储器。其中，存储器，用于存放计算机程序；处理器，用于执行存储器上所存放的程序，实现本申请 实施例提供的请求消息处理方法。
图15是根据一示例性实施例示出的一种服务器的结构示意图。所述服务器700包括中央处理单元(CPU)701、包括随机存取存储器(RAM)702和只读存储器(ROM)703的系统存储器704，以及连接系统存储器704和中央处理单元701的系统总线705。所述服务器700还包括帮助计算机内的各个器件之间传输信息的基本输入/输出系统(I/O系统)706，和用于存储操作系统717、应用程序714和其他程序模块715的大容量存储设备707。
所述基本输入/输出系统706包括有用于显示信息的显示器708和用于用户输入信息的诸如鼠标、键盘之类的输入设备709。其中所述显示器708和输入设备709都通过连接到系统总线705的输入输出控制器710连接到中央处理单元701。所述基本输入/输出系统706还可以包括输入输出控制器710以用于接收和处理来自键盘、鼠标、或电子触控笔等多个其他设备的输入。类似地，输入输出控制器710还提供输出到显示屏、打印机或其他类型的输出设备。
所述大容量存储设备707通过连接到系统总线705的大容量存储控制器(未示出)连接到中央处理单元701。所述大容量存储设备707及其相关联的计算机可读介质为服务器700提供非易失性存储。也就是说，所述大容量存储设备707可以包括诸如硬盘或者CD-ROM驱动器之类的计算机可读介质(未示出)。
不失一般性，所述计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括RAM、ROM、EPROM、EEPROM、闪存或其他固态存储其技术，CD-ROM、DVD或其他光学存储、磁带盒、磁带、磁盘存储或其他磁性存储设备。当然，本领域技术人员可知所述计算机存储介质不局限于上述几种。上述的系统存储器704和大容量存储设备707可以统称为存储器。
根据本申请的各种实施例，所述服务器700还可以通过诸如因特网等网络连接到网络上的远程计算机运行。也即服务器700可以通过连接在所述系统总线705上的网络接口单元711连接到网络712，或者说，也可以使用网络接口单元711来连接到其他类型的网络或远程计算机系统(未示出)。
所述存储器还包括一个或者一个以上的程序，所述一个或者一个以上程序存储于存储器中，中央处理器701通过执行该一个或一个以上程序来实现本申 请实施例提供的请求消息处理方法。
本申请实施例提供了一种存储介质，该存储介质可以为非易失性计算机可读存储介质，存储介质内存储有计算机程序，计算机程序被处理器执行时实现本申请实施例提供的请求消息处理方法。
本申请实施例提供了一种包含指令的计算机程序产品，当计算机程序产品在计算机上运行时，使得计算机执行本申请实施例提供的请求消息处理方法。
以上所述仅为本申请的可选实施例，并不用以限制本申请，凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。

Claims (13)

  1. 一种请求消息处理方法，其特征在于，所述方法包括：
    获取请求消息处理系统中每个服务节点的历史剩余带宽值，所述请求消息处理系统包括多个服务节点；
    基于所述每个服务节点的历史剩余带宽值，确定所述每个服务节点的调度系数，任一服务节点的调度系数用于反映所述任一服务节点相对于其他服务节点的调度能力，所述其他服务节点为所述多个服务节点中除所述任一服务节点外的服务节点；
    基于所述每个服务节点的调度系数，将接收到的多个请求消息分发至所述多个服务节点。
  2. 根据权利要求1所述的方法，其特征在于，所述基于所述每个服务节点的历史剩余带宽值，确定所述每个服务节点的调度系数，包括：
    基于第一服务节点在目标时段中每个目标子时段内的历史剩余带宽值，确定所述第一服务节点在所述每个目标子时段内的调度系数，所述第一服务节点为所述多个服务节点中的任一服务节点，所述目标时段包括N个目标子时段，所述N为正整数。
  3. 根据权利要求2所述的方法，其特征在于，所述基于所述每个服务节点的调度系数，将接收到的多个请求消息分发至所述多个服务节点，包括：
    将所述多个请求消息划分为所述N份；
    对于每份所述请求消息，基于所述第一服务节点在所述每个目标子时段内的调度系数，按照分发至所述第一服务节点的请求消息的数量与所述第一服务节点在对应目标子时段内的调度系数成正比的方式，将每份所述请求消息分发至所述多个服务节点。
  4. 根据权利要求2所述的方法，其特征在于，在所述基于所述每个服务节点的调度系数，将接收到的多个请求消息分发至所述多个服务节点之前，所述方法还包括：
    通过N组服务器分别接收至少一个请求消息，所述N组服务器与所述N个目标子时段一一对应；
    所述基于所述每个服务节点的调度系数，将接收到的多个请求消息分发至所述多个服务节点，包括：
    对于任一组服务器接收到的请求消息，基于所述第一服务节点在所述任一组服务器对应的目标子时段内的调度系数，按照分发至所述第一服务节点的请求消息的数量与所述第一服务节点在对应目标子时段内的调度系数成正比的方式，将每份所述请求消息分发至所述多个服务节点。
  5. 根据权利要求2至4任一所述的方法，其特征在于，所述第一服务节点在第一目标子时段内的调度系数为：所述第一服务节点在所述第一目标子时段内的历史剩余带宽值与总历史剩余带宽值的比值，所述总历史剩余带宽值为所述多个服务节点在所述第一目标子时段内的历史剩余带宽值的和，所述第一目标子时段为所述N个目标子时段中的任一子时段。
  6. 根据权利要求2至4任一所述的方法，其特征在于，所述获取请求消息处理系统中每个服务节点的历史剩余带宽值，包括：
    获取所述第一服务节点在所述每个目标子时段内的历史剩余带宽值。
  7. 根据权利要求6所述的方法，其特征在于，所述获取所述第一服务节点在所述每个目标子时段内的历史剩余带宽值，包括：
    获取所述第一服务节点在所述第一目标子时段内的历史使用带宽值，所述第一目标子时段为所述N个目标子时段中的任一子时段；
    将所述第一服务节点的可用带宽额度值与所述历史使用带宽值的差值确定为所述第一服务节点在所述第一目标子时段内的历史剩余带宽值。
  8. 根据权利要求6所述的方法，其特征在于，在所述获取所述第一服务节点在所述每个目标子时段内的历史剩余带宽值之前，所述方法还包括：
    基于所述第一服务节点在所述第一目标子时段的上一指定时段内的历史使用带宽值，预测所述第一服务节点在所述第一目标子时段内的未来使用带宽值， 所述上一指定时段为在时序上位于所述第一目标子时段之前的时段，所述第一目标子时段为所述N个目标子时段中的任一子时段；
    所述获取所述第一服务节点在所述每个目标子时段内的历史剩余带宽值，包括：
    获取所述第一服务节点在所述第一目标子时段内的历史使用带宽值；
    将所述第一服务节点的可用带宽额度值与使用带宽总量的差值确定为所述第一服务节点在所述第一目标子时段内的历史剩余带宽值，所述使用带宽总量为所述第一服务节点在所述第一目标子时段内的所述历史使用带宽值与所述未来使用带宽值的和。
  9. 一种请求消息处理装置，其特征在于，所述装置包括：
    获取单元，用于获取请求消息处理系统中每个服务节点的历史剩余带宽值，所述请求消息处理系统包括多个服务节点；
    确定单元，用于基于所述每个服务节点的历史剩余带宽值，确定所述每个服务节点的调度系数，任一服务节点的调度系数用于反映所述任一服务节点相对于其他服务节点的调度能力，所述其他服务节点为所述多个服务节点中除所述任一服务节点外的服务节点；
    发送单元，用于基于所述每个服务节点的调度系数，将接收到的多个请求消息分发至所述多个服务节点。
  10. 一种请求消息处理系统，其特征在于，包括：多个服务节点和权利要求9所述的请求消息处理装置。
  11. 根据权利要求10所述的系统，其特征在于，所述服务节点为内容分发网络CDN节点。
  12. 一种服务器，其特征在于，包括处理器和存储器；
    其中，
    所述存储器，用于存放计算机程序；
    所述处理器，用于执行所述存储器上所存放的程序，实现权利要求1至8 任一所述的请求消息处理方法。
  13. 一种存储介质，其特征在于，所述存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1至8任一所述的请求消息处理方法。
PCT/CN2019/120027 2018-12-28 2019-11-21 请求消息处理方法、装置及系统、服务器、存储介质 WO2020134753A1 (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201811621453.0 2018-12-28
CN201811621453.0A CN109688421B (zh) 2018-12-28 2018-12-28 请求消息处理方法、装置及系统、服务器、存储介质

Publications (1)

Publication Number Publication Date
WO2020134753A1 true WO2020134753A1 (zh) 2020-07-02

Family

ID=66190197

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2019/120027 WO2020134753A1 (zh) 2018-12-28 2019-11-21 请求消息处理方法、装置及系统、服务器、存储介质

Country Status (2)

Country Link
CN (1) CN109688421B (zh)
WO (1) WO2020134753A1 (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109688421B (zh) * 2018-12-28 2020-07-10 广州华多网络科技有限公司 请求消息处理方法、装置及系统、服务器、存储介质
CN111464820B (zh) * 2020-03-31 2022-05-10 北京字节跳动网络技术有限公司 拉取消息记录的采样方法、装置、电子设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140297857A1 (en) * 2011-12-02 2014-10-02 Nec Corporation Traffic management device, system, method, and non-transitory computer readable medium storing program
CN105072182A (zh) * 2015-08-10 2015-11-18 北京佳讯飞鸿电气股份有限公司 一种负载均衡方法、负载均衡器和用户终端
CN105847370A (zh) * 2016-03-31 2016-08-10 乐视控股（北京）有限公司 视频文件的调度分发或请求的方法及系统
CN107786620A (zh) * 2016-08-31 2018-03-09 华为技术有限公司 一种获取资源的方法、终端及服务器
CN108712302A (zh) * 2018-04-19 2018-10-26 上海帝联网络科技有限公司 区域带宽的计算方法及装置、计算机可读介质
CN109688421A (zh) * 2018-12-28 2019-04-26 广州华多网络科技有限公司 请求消息处理方法、装置及系统、服务器、存储介质

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100338911C (zh) * 2004-04-30 2007-09-19 武汉烽火网络有限责任公司 网际协议电信网上动态带宽分配的方法和装置
US8397088B1 (en) * 2009-07-21 2013-03-12 The Research Foundation Of State University Of New York Apparatus and method for efficient estimation of the energy dissipation of processor based systems
CN102436401A (zh) * 2011-12-16 2012-05-02 北京邮电大学 负载均衡系统及方法
CN102611735B (zh) * 2011-12-21 2015-12-09 北京奇虎科技有限公司 一种应用服务的负载均衡方法及系统
CN103401947A (zh) * 2013-08-20 2013-11-20 曙光信息产业(北京)有限公司 多个服务器的任务分配方法和装置
CN104320455B (zh) * 2014-10-23 2018-05-01 京信通信系统（中国）有限公司 一种数据分发方法、服务器及系统
CN106332141A (zh) * 2016-09-13 2017-01-11 杭州华三通信技术有限公司 流量负载分担的方法和装置
CN108132839B (zh) * 2016-11-30 2020-10-30 中国移动通信有限公司研究院 一种资源调度方法及装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140297857A1 (en) * 2011-12-02 2014-10-02 Nec Corporation Traffic management device, system, method, and non-transitory computer readable medium storing program
CN105072182A (zh) * 2015-08-10 2015-11-18 北京佳讯飞鸿电气股份有限公司 一种负载均衡方法、负载均衡器和用户终端
CN105847370A (zh) * 2016-03-31 2016-08-10 乐视控股（北京）有限公司 视频文件的调度分发或请求的方法及系统
CN107786620A (zh) * 2016-08-31 2018-03-09 华为技术有限公司 一种获取资源的方法、终端及服务器
CN108712302A (zh) * 2018-04-19 2018-10-26 上海帝联网络科技有限公司 区域带宽的计算方法及装置、计算机可读介质
CN109688421A (zh) * 2018-12-28 2019-04-26 广州华多网络科技有限公司 请求消息处理方法、装置及系统、服务器、存储介质

Also Published As

Publication number Publication date
CN109688421A (zh) 2019-04-26
CN109688421B (zh) 2020-07-10

Similar Documents

Publication Publication Date Title
US7856501B2 (en) Network traffic prioritization
US8190745B2 (en) Methods and apparatuses for adjusting bandwidth allocation during a collaboration session
US20170126583A1 (en) Method and electronic device for bandwidth allocation based on online media services
CN108848530B (zh) 一种获取网络资源的方法、装置及调度服务器
US20090178058A1 (en) Application Aware Networking
EP2976887A1 (en) Bandwidth management for over-the-top adaptive streaming
US9800638B2 (en) Downstream bandwidth aware adaptive bit rate selection
KR20150091223A (ko) 가상 파이프에서 멀티미디어 스트림에 의해 사용되는 망자원들을 관리하기 위한 방법 및 장치
US20140304372A1 (en) Methods, apparatus, and computer program products for allocating bandwidth for push and pull content requests in a content delivery network
CN112543357B (zh) 一种基于dash协议的流媒体数据传输方法
WO2020134753A1 (zh) 请求消息处理方法、装置及系统、服务器、存储介质
CN115134368A (zh) 一种负载均衡方法、装置、设备以及存储介质
CN107920108A (zh) 一种媒体资源的推送方法、客户端及服务器
EP2503762A1 (en) Method, apparatus and system for cache collaboration
US9197712B2 (en) Multi-stage batching of content distribution in a media distribution system
US11190430B2 (en) Determining the bandwidth of a communication link
US20130311668A1 (en) Methods And Systems For Providing Fairness And Stability To Video Streams
CN110401731B (zh) 用于分配内容分发节点的方法和装置
CN113824689B (zh) 边缘计算网络、数据传输方法、装置、设备和存储介质
CN115665054A (zh) 带宽分配的方法和模块、以及数据传输管理系统
CN113381939B (zh) 数据传输方法、装置、电子设备及计算机可读存储介质
TWI766387B (zh) 一種具延遲感知負載平衡的反向代理方法和存儲裝置
CN112860432A (zh) 一种进程管理方法、装置及服务器
CN115037696B (zh) 数据传输方法、装置、电子设备和存储介质
WO2024051424A1 (zh) 分配网络资源的方法、装置及存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19904317

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19904317

Country of ref document: EP

Kind code of ref document: A1

122 Ep: pct application non-entry in european phase

Ref document number: 19904317

Country of ref document: EP

Kind code of ref document: A1