CN107733805B - 业务负载调度方法和装置 - Google Patents

业务负载调度方法和装置 Download PDF

Info

Publication number
CN107733805B
CN107733805B CN201610662366.4A CN201610662366A CN107733805B CN 107733805 B CN107733805 B CN 107733805B CN 201610662366 A CN201610662366 A CN 201610662366A CN 107733805 B CN107733805 B CN 107733805B
Authority
CN
China
Prior art keywords
load
access
time
time point
access machine
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610662366.4A
Other languages
English (en)
Other versions
CN107733805A (zh
Inventor
李俊尧
谢立强
王晓明
方庆林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201610662366.4A priority Critical patent/CN107733805B/zh
Priority to PCT/CN2017/091429 priority patent/WO2018028344A1/zh
Priority to EP17838474.9A priority patent/EP3499818B9/en
Publication of CN107733805A publication Critical patent/CN107733805A/zh
Priority to US16/208,197 priority patent/US11025709B2/en
Application granted granted Critical
Publication of CN107733805B publication Critical patent/CN107733805B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3409—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
    • G06F11/3419—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment by assessing time
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3006—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3409—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
    • G06F11/3433—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment for load management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/16—Threshold monitoring
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1012—Server selection for load balancing based on compliance of requirements or conditions with available server resources
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1021—Server selection for load balancing based on client or server locations
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2201/00—Indexing scheme relating to error detection, to error correction, and to monitoring
    • G06F2201/81—Threshold
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2201/00—Indexing scheme relating to error detection, to error correction, and to monitoring
    • G06F2201/88—Monitoring involving counting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/5019—Workload prediction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/508—Monitor
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0805—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability
    • H04L43/0817—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability by checking functioning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Computer And Data Communications (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明涉及一种业务负载调度方法和装置。所述方法包括：获取各个接入机本次上报的负载量及本次上报时间点；获取从所述本次上报时间点减去第一时间差所得到的第一时间点至所述本次上报时间点之间分配的负载量，得到延迟感知负载量；所述第一时间差为负载从发起调度请求到实际接入到接入机的时间差；将所述本次上报的负载量与所述延迟感知负载量之和作为所述接入机本次上报的实际负载量；根据所述接入机本次上报的实际负载量筛选得到负载未超载的接入机，作为候选接入机；获取所述候选接入机的权重值；根据所述权重值将所述候选接入机分配给待分配的负载。上述业务负载调度方法和装置，因考虑了已分配延迟接入到接入机的负载，防止了接入机过载。

Description

业务负载调度方法和装置
技术领域
本发明涉及网络应用领域，特别是涉及一种业务负载调度方法和装置。
背景技术
随着网络技术的发展，越来越多的业务出现在网络中，为用户提供各种服务。业务是指为用户提供某种服务的事项，例如互动直播业务，是指在网络上提供搭建直播平台，并提供虚拟房间，以便用户进入虚拟房间与直播的主播进行互动。在互动直播业务中，用户所在的客户端作为业务负载通过接入机接入虚拟房间。每台接入机会上报负载，负载调度系统会根据接入机上的负载情况调度新的负载到接入机。
传统的负载调度方式是依据接入机上报的负载接入情况进行调度的，因负载调度系统调度到用户实际接入到接入机上存在延迟，若给一个接入机调度了一批用户，但是这批用户还没有实际接入到该接入机上，该接入机上报负载时，负载还是这批用户未接入时的负载，负载调度系统此时获知该接入机的负载还是不高，可能会继续调度一批用户给该接入机，导致该接入机过载。
发明内容
基于此，有必要针对传统的负载调度容易导致接入机过载的问题，提供一种业务负载调度方法和装置，能防止负载过载的情况。
一种业务负载调度方法，包括：
获取各个接入机本次上报的负载量及本次上报时间点；
获取从所述本次上报时间点减去第一时间差所得到的第一时间点至所述本次上报时间点之间分配的负载量，得到延迟感知负载量；所述第一时间差为负载从发起调度请求到实际接入到接入机的时间差；
将所述本次上报的负载量与所述延迟感知负载量之和作为所述接入机本次上报的实际负载量；
根据所述接入机本次上报的实际负载量筛选得到负载未超载的接入机，作为候选接入机；
获取所述候选接入机的权重值；
根据所述权重值将所述候选接入机分配给待分配的负载。
一种业务负载调度装置，包括：
接收模块，用于获取各个接入机本次上报的负载量及本次上报时间点；
延迟负载量获取模块，用于获取从所述本次上报时间点减去第一时间差所得到的第一时间点至所述本次上报时间点之间分配的负载量，得到延迟感知负载量；所述第一时间差为负载从发起调度请求到实际接入到接入机的时间差；
修正模块，用于将所述本次上报的负载量与所述延迟感知负载量之和作为所述接入机本次上报的实际负载量；
筛选模块，用于根据所述接入机本次上报的实际负载量筛选得到负载未超载的接入机，作为候选接入机；
权重值获取模块，用于获取所述候选接入机的权重值；
调度模块，用于根据所述权重值将所述候选接入机分配给待分配的负载。
上述业务负载调度方法和装置，获取本次上报的负载量及本次上报时间点减去第一时间差所得到的第一时间点至本次上报时间点之间分配的负载量得到延迟感知负载量，本次上报负载量和延迟感知负载量之和作为本次上报的实际负载量，再根据该实际负载量筛选得到负载未超载的接入机，根据接入机的权重值，将待分配的负载分配到对应的候选接入机上，因考虑了已分配延迟接入到接入机的负载，防止了接入机过载，且根据权重值分配负载，有效防止分配过程中出现抖动。
附图说明
图1为一个实施例中业务负载调度方法的应用环境示意图；
图2为一个实施例中服务器的内部结构示意图；
图3为一个实施例中业务负载调度方法的流程图；
图4为以第一时间差为T，接入机的分配周期为2T的负载量示意图；
图5为以第一时间差为T，接入机的分配周期为1.2T的负载量示意图；
图6为另一个实施例中业务负载调度方法的流程图；
图7为另一个实施例中业务负载调度方法的流程图；
图8为业务负载调度方法应用于互动直播场景中的架构示意图；
图9为一个实施例中业务负载调度装置的结构框图；
图10为另一个实施例中业务负载调度装置的结构框图；
图11为另一个实施例中业务负载调度装置的结构框图；
图12为另一个实施例中业务负载调度装置的结构框图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
可以理解，本发明所使用的术语“第一”、“第二”等可在本文中用于描述各种元件，但这些元件不受这些术语限制。这些术语仅用于将第一个元件与另一个元件区分。
图1为一个实施例中业务负载调度方法的应用环境示意图。如图1所示，该应用环境包括用户终端110、接入机120和服务器130。服务器130可提供账号信息和权限校验以及负载调度服务。用户终端110上安装有客户端，用户通过客户端登录访问服务器130，向服务器130发起调度请求。用户终端110可为一个或多个。接入机120也可为一个或多个。服务器130定时接收接入机120上报的负载量，并获取接入机120的延迟感知负载量，根据接入机120上报的负载量及延迟感知负载量筛选出未超过负载量阈值的接入机120，再计算小于负载量阈值的接入机120的权重值，根据权重值将发起调度请求的用户终端110分配到对应的接入机120，并将接入机120的网络地址发送给终端110。用户终端110根据接入机120的网络地址接入对应的接入机120。
在其他实施例中，服务器130可包括验证服务器132和调度服务器134。验证服务器132用于对用户终端110上登录的用户的账号信息和权限进行验证。调度服务器134用于根据接入机120上报的负载量和延迟感知负载量对用户终端110进行分配到对应的接入机120上。
图2为一个实施例中服务器(或云端等)的内部结构示意图。如图2所示，该服务器包括通过系统总线连接的处理器、非易失性存储介质、内存储器和网络接口。其中，该服务器的非易失性存储介质存储有操作系统、数据库和业务负载调度装置，数据库中存储有接入机的负载量、负载量阈值等，该业务负载调度装置用于实现适用于服务器的一种业务负载调度方法。该服务器的处理器用于提供计算和控制能力，支撑整个服务器的运行。该服务器的内存储器为非易失性存储介质中的业务负载调度装置的运行提供环境，该内存储器中可储存有计算机可读指令，该计算机可读指令被所述处理器执行时，可使得所述处理器执行一种业务负载调度方法。该服务器的网络接口用于据以与终端通过网络连接通信，比如接收终端发送的调度请求以及向终端返回接入机网络地址等。服务器可以用独立的服务器或者是多个服务器组成的服务器集群来实现。本领域技术人员可以理解，图2中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的服务器的限定，具体的服务器可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
图3为一个实施例中业务负载调度方法的流程图。如图3所示，一种业务负载调度方法，运行于图1中的服务器上，包括：
步骤302，获取各个接入机本次上报的负载量及本次上报时间点。
本实施例中，接入机定时向服务器上报负载信息，该负载信息可包括负载量、负载标识等。该定时上报的时间间隔可根据需要设定，如2秒、3秒等。定时上报的时间间隔是指一个接入机上报负载信息到下一次上报负载信息的时间间隔，可作为一个分配周期。在其他实施例中，定时的时间间隔也可根据业务敏感度和上报带来的负载决定。例如，在互动直播场景下，用户接入延迟在秒级，则该分配周期可为2秒，如此每台接入机1分钟内上报30次，网络开销可以接受。
用户终端获取用户的账号及密码后登录服务器，服务器对账号及密码进行校验，校验通过后，用户登录成功。用户终端获取用户触发业务请求，根据该触发业务请求向服务器发起调度请求。服务器根据调度请求分配对应的接入机。
用户终端接入对应的接入机后，接入机还将业务数据分发给用户终端。
步骤304，获取从该本次上报时间点减去第一时间差所得到的第一时间点至该本次上报时间点之间分配的负载量，得到延迟感知负载量；该第一时间差为负载从发起调度请求到实际接入到接入机的时间差。
本实施例中，负载即为终端，负载从发起调度请求到实际接入到接入机的时间差作为第一时间差，采用T表示。接入机的分配周期大于第一时间差。
因第一时间差的存在，故在本次上报时间点减去第一时间差所得到的第一时间点至本次上报时间点之间分配的负载量，在本次上报时间点上报时，并没有接入到接入机上，导致本次上报时间点上报的负载量不包含该段时间分配的负载量。
为了保证再次为该接入机分配负载不出现过载情况，需要考虑延迟感知负载量。
接入机的分配周期大于第一时间差，本次上报相邻的上一次上报的时间点至第一时间点之间分配的负载量到本次上报时已经接入到接入机了，也就是本次上报的负载量包含了本次上报相邻的上一次上报的时间点至第一时间点之间分配的负载量。
步骤306，将该本次上报的负载量与该延迟感知负载量之和作为该接入机本次上报的实际负载量。
为了保证再次为该接入机分配负载不出现过载情况，需要考虑延迟感知负载量，则将本次上报的负载量加上延迟感知负载量所得和作为接入机本次上报的实际负载量。
步骤308，根据该接入机本次上报的实际负载量筛选得到负载未超载的接入机，作为候选接入机。
本实施例中，负载未超载是指接入机所承接的负载未超过所能承接的负载的上限值。各个接入机可相同或不同。若接入机相同，则负载量的上限值相同。若接入机不同，负载量的上限值可相同，也可不同。
在一个实施例中，步骤308包括：根据该接入机本次上报的实际负载量计算该接入机的网络参数的值；判断该网络参数的值是否超过该网络参数阈值，若超过，则过滤该接入机，将剩余的接入机作为候选接入机。
该网络参数包括流量、数据包量、中央处理器中一种或多种。网络参数包括流量、数据包量和中央处理器等多种时，判断其中一个网络参数的值超过了对应的网络参数阈值，则过滤掉该接入机。
在一个实施例中，网络参数包括接入用户数。步骤308包括：根据接入机本次上报的实际负载量计算接入用户数，判断该接入用户数是否超过用户数阈值，若是，则过滤掉该接入机，将剩余的接入机作为候选接入机。
在一个实施例中，因在互动直播场景或其他场景中，接入机负载除了要考虑流量、数据包量和CPU等机器性能外，还需要考虑接入的用户数。例如在互动直播的在线教育的场景下，老师讲课过程中，可能开始放映的是幻灯片，放映幻灯片时产生的流量和数据包量极小，也不会耗CPU，如果只考虑机器性能，会给每个接入机分配过多的用户。当老师突然开启摄像头，上传视频时码率会突然增高，就可能产生接入机过载。
网络参数包括流量、数据包量、中央处理器和接入用户数。步骤308包括：当流量超过流量阈值、数据包量超过数据包量阈值、中央处理器超过中央处理器使用率阈值、接入用户数超过用户数阈值中任意一种时，过滤掉该接入机，将剩余的接入机作为候选接入机。
步骤310，获取该候选接入机的权重值。
本实施例中，候选接入机的权重值可根据候选接入机的网络参数计算得到。
在一个实施例中，该获取该候选接入机的权重值，包括：获取该候选接入机的网络参数的值及该网络参数对应的参数权重；根据该网络参数的值及对应的参数权重加权求和得到该候选接入机的权重值。
该网络参数包括流量、数据包量和中央处理器中一种或多种，该参数权重包括流量权重、数据包量权重和中央处理器权重中一种或多种。参数权重对应网络参数。若网络参数包括流量，则参数权重为流量权重。若网络参数包括流量和数据包量，则参数权重包括流量权重和数据包量权重。若网络参数包括流量、数据包量和中央处理器，则该参数权重包括流量权重、数据包量权重和中央处理器权重。
流量是指单位时间内的传送的数据量。数据包量是指单位时间内传送的数据包的数量。对于不同的业务，数据包的大小可能不同，例如语音数据包的大小可能为100字节，视频数据包的大小可能为1KB(千字节)，则流量可为数据包大小乘以数据包量。对于互动直播场景下，由于是较大的视频数据包，流量往往成为性能瓶颈，因此，流量权重大于CPU(中央处理器)权重，CPU权重大于数据包量权重。
步骤312，根据该权重值将候选接入机分配给待分配的负载。
具体地，权重值越大分配的可能性越高，权重值越小分配的可能性越小。
上述业务负载调度方法，获取本次上报的负载量及本次上报时间点减去第一时间差所得到的第一时间点至本次上报时间点之间分配的负载量得到延迟感知负载量，本次上报负载量和延迟感知负载量之和作为本次上报的实际负载量，再根据该实际负载量筛选得到负载未超载的接入机，根据接入机的权重值，将待分配的负载分配到对应的候选接入机上，因考虑了已分配延迟接入到接入机的负载，防止了接入机过载，且根据权重值分配负载，有效防止分配过程中出现抖动。
在一个实施例中，上述业务负载调度方法还包括：统计该本次上报时间点到相邻的下一次上报时间点的一个分配周期内各个时间点该接入机被分配的累计次数，根据该累计次数得到所述一个分配周期内各个时间点的预测负载量；将该预测负载量与该接入机本次上报的实际负载量之和作为该接入机在该一个分配周期内各个时间点的实际负载量。
具体地，本次上报时间点到相邻的下一次上报时间点的一个分配周期内各个时间点接入机被分配的累计次数是指以本次上报时间点为起点开始统计，在一个分配周期内的某个时间点该接入机被分配的累计次数。一个分配周期内的各个时间点的预测负载量是指以本次上报时间点为起点到该时间点为终点的预测负载量。
以第一时间差为T，接入机的分配周期为2T为例进行说明。如图4所示，某一接入机在0T时间点上报的负载量为A1，2T时间点上报的负载量为B1，4T时间点上报的负载量为C1，在0T时间点至2T时间点之间的一个分配周期内记录每个接入机被分配的累计次数，分配接入机一次累加一次，根据被分配的累计次数预测该接入机上将接入多少个用户，产生相应的负载量，即根据该累计次数得到各个时间点的预测负载量。如在0T至1T之间的预测负载量为m1，在2T时的预测负载量为m1+n1，在2T至3T之间的预测负载量为i1，在3T至4T之间的预测负载量为j1。因第一时间差为T，即用户发起调度请求到实际接入到接入机的时间差，则当2T时间点，服务器接收接入机上报的负载量B1中包含了0T至1T之间的预测负载量m1，不包含在1T至2T之间的预测负载量，则在2T上报的实际负载量为负载量B1+预测负载量n1，该预测负载量n1即为2T上报时间点的延迟感知负载量n1。若在2T时间点，服务器未接收到该接入机上报的负载量，可将(A1+m1+n1)作为2T时间点的实际负载量。在3T时间点的实际负载量为(B1+n1+i1)，在4T时间点，若服务器未接收到该接入机上报的负载量，可将(B1+n1+i1+j1)作为4T时间点的实际负载量。若在4T时间点，服务器接收到接入机上报的负载量C1，则4T时间点的实际负载量为(C1+j1)。
以第一时间差为T，接入机的分配周期为1.2T为例进行说明。如图5所示，某一接入机在0T时间点上报的负载量为A2，1.2T时间点上报的负载量为B2，2.4T时间点上报的负载量为C2。在0T至0.2T之间的预测负载量为m2，在1.2T时的预测负载量为m2+n2，在1.2T至1.4T之间的预测负载量为i2，在1.4T至2.4T之间的预测负载量为j2。因第一时间差为T，即用户发起调度请求到实际接入到接入机的时间差，则当1.2T时间点，服务器接收接入机上报的负载量B2中包含了0T至0.2T之间的预测负载量m2，不包含在0.2T至1.2T之间的预测负载量，则在1.2T上报的实际负载量为负载量B2+预测负载量n2，该预测负载量n2即为1.2T上报时间点的延迟感知负载量n2。若在1.2T时间点，服务器未接收到该接入机上报的负载量，可将(A2+m2+n2)作为1.2T时间点的实际负载量。在1.4T时间点的实际负载量为(B2+n2+i2)。在2.4T时间点，若服务器未接收到该接入机上报的负载量，可将(B2+n2+i2+j2)作为2.4T时间点的实际负载量。若在2.4T时间点，服务器接收到接入机上报的负载量C2，则2.4T时间点的实际负载量为(C2+j2)。
在一个实施例中，如图6所示，上述业务负载调度方法，还包括：
步骤602，获取发起调度请求的负载的网络地址。
具体地，服务器获取发起调度请求的用户终端的网络地址。
步骤604，根据该负载的网络地址确定该负载所处的地域。
具体地，根据负载的网络地址从网络地址与地域的对应关系中查找对应的地域，得到该负载所处的地域。地域是指按照地理位置划分的信息区域，例如北京市、上海市。
步骤606，根据该负载所处的地域获取地域相同或距离在预设范围内的候选接入机，并将该候选接入机分配给该负载。
具体地，地域相同是指处于同一信息区域，如都为北京市。预设范围可根据需要设定，例如100公里内、200公里内等。
上述业务负载调度方法，通过获取负载的网络地址确定负载所处的地域，查找到与负载地域相同或距离在预设范围内的候选接入机，将该候选接入机分配给负载，从而保证了负载接入的质量。
在一个实施例中，当根据负载所处的地域获取地域相同或距离在预设范围内的候选接入机有多台时，获取候选接入机的权重值，根据候选接入机的权重值将候选接入机分配给对应的负载。
本实施例中，权重值越高，接入机被分配给负载的概率越大。
在一个实施例中，如图7所示，上述业务负载调度方法还包括：
步骤702，获取发起调度请求的负载的网络地址。
具体地，服务器获取发起调度请求的用户终端的网络地址。
步骤704，根据该负载的网络地址确定该负载所处的地域和所属的运营商信息。
具体地，根据负载的网络地址从网络地址与地域的对应关系中查找对应的地域，得到该负载所处的地域。地域是指按照地理位置划分的信息区域，例如北京市、上海市。根据负载的网络地址从网络地址与运营商信息的对应关系中查找对应的运营商信息。运营商信息可为电信网络、网通网络、联通网络、移动网络等，不限于此。
步骤706，根据该负载所处的地域和所属的运营商信息获取地域相同且运营商相同的候选接入机，并将该负载分配给该候选接入机。
具体地，地域相同是指处于同一信息区域，如都为北京市。运营商相同是指同一运营商，如电信网络。
上述业务负载调度方法，通过获取负载的网络地址确定负载所处的地域和负载所属的运营商信息，查找到与负载地域相同且运营商相同的接入机，将该接入机分配给负载，如此接入机和负载处于同一地域同一网络运营商，进一步保证了负载接入的质量。
在一个实施例中，当根据负载所处的地域及所属的运营商信息获取地域相同且运营商相同的候选接入机有多台时，获取候选接入机的权重值，根据候选接入机的权重值将负载分配到对应的候选接入机。
本实施例中，权重值越高，接入机被分配给负载的概率越大。
在一个实施例中，获取候选接入机的权重值后，再根据负载所处的地域及所属的运营商信息获取地域相同且运营商相同的候选接入机。
图8为业务负载调度方法应用于互动直播场景中的架构示意图。如图8所示，互动直播云服务器获取用户终端发起的调度请求，对用户终端上的用户标识进行验证，验证通过后将该调度请求发送至分配调度服务器。分配调度服务器接收接入机定时上报的负载量，并获取延迟感知负载量，根据上报的负载量和延迟感知负载量得到上报的实际负载量，根据实际负载量筛选得到候选接入机，再根据候选接入机的流量、数据包量和CPU计算候选接入机的权重值，根据权重值将接入机分配给发起调度请求的用户终端，用户终端根据分配的接入机信息接入到对应的接入机。其中，互动直播云服务器是指服务于互动直播的自建互动直播平台，可采用服务器或服务器集群实现。
需要说明的是，本发明的业务调度方法除了应用于互动直播场景，还可应用于其他业务场景中，例如视频会议等。
图9为一个实施例中业务负载调度装置的结构框图。如图9所示，一种业务负载调度装置，运行于服务器上，包括接收模块902、延迟负载量获取模块904、修正模块906、筛选模块908、权重值获取模块910和调度模块912。其中：
接收模块902用于获取各个接入机本次上报的负载量及本次上报时间点。
本实施例中，接入机定时向服务器上报负载信息，该负载信息可包括负载量、负载标识等。该定时上报的时间间隔可根据需要设定，如2秒、3秒等。定时上报的时间间隔是指一个接入机上报负载信息到下一次上报负载信息的时间间隔，可作为一个分配周期。在其他实施例中，定时的时间间隔也可根据业务敏感度和上报带来的负载决定。例如，在互动直播场景下，用户接入延迟在秒级，则该分配周期可为2秒，如此每台接入机1分钟内上报30次，网络开销可以接受。
延迟负载量获取模块904用于获取从该本次上报时间点减去第一时间差所得到的第一时间点至该本次上报时间点之间分配的负载量，得到延迟感知负载量；该第一时间差为负载从发起调度请求到实际接入到接入机的时间差。
本实施例中，负载即为终端，负载从发起调度请求到实际接入到接入机的时间差作为第一时间差，采用T表示。接入机的分配周期大于第一时间差。
因第一时间差的存在，故在本次上报时间点减去第一时间差所得到的第一时间点至本次上报时间点之间分配的负载量，在本次上报时间点上报时，并没有接入到接入机上，导致本次上报时间点上报的负载量不包含该段时间分配的负载量。
接入机的分配周期大于第一时间差，本次上报相邻的上一次上报的时间点至第一时间点之间分配的负载量到本次上报时已经接入到接入机了，也就是本次上报的负载量包含了本次上报相邻的上一次上报的时间点至第一时间点之间分配的负载量。
修正模块906用于将该本次上报的负载量与该延迟感知负载量之和作为该接入机本次上报的实际负载量。
为了保证再次为该接入机分配负载不出现过载情况，需要考虑延迟感知负载量，则将本次上报的负载量加上延迟感知负载量所得和作为接入机本次上报的实际负载量。
筛选模块908用于根据该接入机本次上报的实际负载量筛选得到负载未超载的接入机，作为候选接入机。
本实施例中，负载未超载是指接入机所承接的负载未超过所能承接的负载的上限值。各个接入机可相同或不同。若接入机相同，则负载量的上限值相同。若接入机不同，负载量的上限值可相同，也可不同。
在一个实施例中，筛选模块908还用于根据该接入机本次上报的实际负载量计算该接入机的网络参数的值，判断该网络参数的值是否超过该网络参数阈值，若超过，则过滤该接入机，将剩余的接入机作为候选接入机。
该网络参数包括流量、数据包量、中央处理器中一种或多种。网络参数包括流量、数据包量和中央处理器等多种时，判断其中一个网络参数的值超过了对应的网络参数阈值，则过滤掉该接入机。
在一个实施例中，网络参数包括接入用户数。筛选模块908还用于根据接入机本次上报的实际负载量计算接入用户数，判断该接入用户数是否超过用户数阈值，若是，则过滤掉该接入机，将剩余的接入机作为候选接入机。
在一个实施例中，网络参数包括流量、数据包量、中央处理器和接入用户数。筛选模块908还用于当流量超过流量阈值、数据包量超过数据包量阈值、中央处理器超过中央处理器使用率阈值、接入用户数超过用户数阈值中任意一种时，过滤掉该接入机，将剩余的接入机作为候选接入机。
权重值获取模块910用于获取该候选接入机的权重值。
本实施例中，候选接入机的权重值可根据候选接入机的网络参数计算得到。
在一个实施例中，权重值获取模块910还用于获取该候选接入机的网络参数的值及该网络参数对应的参数权重；根据该网络参数的值及对应的参数权重加权求和得到该候选接入机的权重值。
该网络参数包括流量、数据包量和中央处理器中一种或多种，该参数权重包括流量权重、数据包量权重和中央处理器权重中一种或多种。参数权重对应网络参数。若网络参数包括流量，则参数权重为流量权重。若网络参数包括流量和数据包量，则参数权重包括流量权重和数据包量权重。若网络参数包括流量、数据包量和中央处理器，则该参数权重包括流量权重、数据包量权重和中央处理器权重。
调度模块912用于根据该权重值将候选接入机分配给待分配的负载。
具体地，权重值越大分配的可能性越高，权重值越小分配的可能性越小。
上述业务负载调度装置，获取本次上报的负载量及本次上报时间点减去第一时间差所得到的第一时间点至本次上报时间点之间分配的负载量得到延迟感知负载量，本次上报负载量和延迟感知负载量之和作为本次上报的实际负载量，再根据该实际负载量筛选得到负载未超载的接入机，根据接入机的权重值，将接入机分配给待分配的负载，因考虑了已分配延迟接入到接入机的负载，防止了接入机过载，且根据权重值分配负载，有效防止分配过程中出现抖动。
图10为另一个实施例中业务负载调度装置的结构框图。如图10所示，一种业务负载调度装置，运行于服务器上，除了包括接收模块902、延迟负载量获取模块904、修正模块906、筛选模块908、权重值获取模块910和调度模块912，还包括预测模块914和校正模块916。其中：
预测模块914用于统计该本次上报时间点到相邻的下一次上报时间点的一个分配周期内各个时间点为该接入机分配的负载量，得到该各个时间点的预测负载量。
校正模块916用于将该预测负载量与该接入机本次上报的实际负载量之和作为该接入机在该各个时间点的实际负载量。
具体地，本次上报时间点到相邻的下一次上报时间点的一个分配周期内各个时间点接入机被分配的累计次数是指以本次上报时间点为起点开始统计，在一个分配周期内的某个时间点该接入机被分配的累计次数。一个分配周期内的各个时间点的预测负载量是指以本次上报时间点为起点到该时间点为终点的预测负载量。
图11为另一个实施例中业务负载调度装置的结构框图。如图11所示，一种业务负载调度装置，运行于服务器上，除了包括接收模块902、延迟负载量获取模块904、修正模块906、筛选模块908、权重值获取模块910和调度模块912，还包括第一网络地址获取模块918和第一分析模块920。其中：
第一网络地址获取模块918用于获取发起调度请求的负载的网络地址。
第一分析模块920用于根据该负载的网络地址确定该负载所处的地域。
该调度模块912还用于根据该负载所处的地域获取地域相同或距离在预设范围内的候选接入机，并将该候选接入机分配给对应的负载。
上述业务负载调度装置，通过获取负载的网络地址确定负载所处的地域，查找到与负载地域相同或距离在预设范围内的接入机，将该接入机分配给负载，从而保证了负载接入的质量。
图12为另一个实施例中业务负载调度装置的结构框图。如图12所示，一种业务负载调度装置，运行于服务器上，除了包括接收模块902、延迟负载量获取模块904、修正模块906、筛选模块908、权重值获取模块910和调度模块912，还包括第二网络地址获取模块922和第二分析模块924。其中：
第二网络地址获取模块922用于获取发起调度请求的负载的网络地址。
第二分析模块924用于根据该负载的网络地址确定该负载所处的地域和所属的运营商信息。
该调度模块912还用于根据该负载所处的地域和所属的运营商信息获取地域相同且运营商相同的候选接入机，并将该候选接入机分配给该负载。
上述业务负载调度装置，通过获取负载的网络地址确定负载所处的地域和负载所属的运营商信息，查找到与负载地域相同且运营商相同的接入机，将该接入机分配给负载，如此接入机和负载处于同一地域同一网络运营商，进一步保证了负载接入的质量。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一非易失性计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等。
以上所述实施例仅表达了本发明的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对本发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。因此，本发明专利的保护范围应以所附权利要求为准。

Claims (16)

1.一种业务负载调度方法，包括：
获取各个接入机本次上报的负载量及本次上报时间点；
获取从所述本次上报时间点减去第一时间差所得到的第一时间点至所述本次上报时间点之间分配的负载量，得到延迟感知负载量；所述第一时间差为负载从发起调度请求到实际接入到接入机的时间差；
将所述本次上报的负载量与所述延迟感知负载量之和作为所述接入机本次上报的实际负载量；所述本次上报的负载量包含了本次上报相邻的上一次上报的时间点至第一时间点之间分配的负载量；
根据所述接入机本次上报的实际负载量筛选得到负载未超载的接入机，作为候选接入机；
获取所述候选接入机的权重值；
根据所述权重值将所述候选接入机分配给待分配的负载。
2.根据权利要求1所述的方法，其特征在于，所述根据所述接入机本次上报的实际负载量筛选得到负载未超载的接入机，作为候选接入机，包括：
根据所述接入机本次上报的实际负载量计算所述接入机的网络参数的值；
判断所述网络参数的值是否超过所述网络参数阈值，若超过，则过滤所述接入机，将剩余的接入机作为候选接入机。
3.根据权利要求1所述的方法，其特征在于，所述获取所述候选接入机的权重值，包括：
获取所述候选接入机的网络参数的值及所述网络参数对应的参数权重；
根据所述网络参数的值及对应的参数权重加权求和得到所述候选接入机的权重值。
4.根据权利要求2或3所述的方法，其特征在于，所述网络参数包括流量、数据包量、中央处理器和用户数中一种或多种。
5.根据权利要求1所述的方法，其特征在于，所述方法还包括：
获取发起调度请求的负载的网络地址；
根据所述负载的网络地址确定所述负载所处的地域；
根据所述负载所处的地域获取地域相同或距离在预设范围内的候选接入机，并将所述候选接入机分配给所述负载。
6.根据权利要求1所述的方法，其特征在于，所述方法还包括：
获取发起调度请求的负载的网络地址；
根据所述负载的网络地址确定所述负载所处的地域和所属的运营商信息；
根据所述负载所处的地域和所属的运营商信息获取地域相同且运营商相同的候选接入机，并将所述候选接入机分配给所述负载。
7.根据权利要求1所述的方法，其特征在于，所述方法还包括：
统计所述本次上报时间点到相邻的下一次上报时间点的一个分配周期内各个时间点所述接入机被分配的累计次数，根据所述累计次数得到所述各个时间点的预测负载量；
将所述预测负载量与所述接入机本次上报的实际负载量之和作为所述接入机在所述各个时间点的实际负载量。
8.一种业务负载调度装置，其特征在于，包括：
接收模块，用于获取各个接入机本次上报的负载量及本次上报时间点；
延迟负载量获取模块，用于获取从所述本次上报时间点减去第一时间差所得到的第一时间点至所述本次上报时间点之间分配的负载量，得到延迟感知负载量；所述第一时间差为负载从发起调度请求到实际接入到接入机的时间差；
修正模块，用于将所述本次上报的负载量与所述延迟感知负载量之和作为所述接入机本次上报的实际负载量；所述本次上报的负载量包含了本次上报相邻的上一次上报的时间点至第一时间点之间分配的负载量；
筛选模块，用于根据所述接入机本次上报的实际负载量筛选得到负载未超载的接入机，作为候选接入机；
权重值获取模块，用于获取所述候选接入机的权重值；
调度模块，用于根据所述权重值将所述候选接入机分配给待分配的负载。
9.根据权利要求8所述的装置，其特征在于，所述筛选模块还用于根据所述接入机本次上报的实际负载量计算所述接入机的网络参数的值，以及判断所述网络参数的值是否超过所述网络参数阈值，若超过，则过滤所述接入机，将剩余的接入机作为候选接入机。
10.根据权利要求8所述的装置，其特征在于，所述权重值获取模块还用于获取所述候选接入机的网络参数的值及所述网络参数对应的参数权重，以及根据所述网络参数的值及对应的参数权重加权求和得到所述候选接入机的权重值。
11.根据权利要求9或10所述的装置，其特征在于，所述网络参数包括流量、数据包量、中央处理器和用户数中一种或多种。
12.根据权利要求8所述的装置，其特征在于，所述装置还包括：
第一网络地址获取模块，用于获取发起调度请求的负载的网络地址；
第一分析模块，用于根据所述负载的网络地址确定所述负载所处的地域；
所述调度模块还用于根据所述负载所处的地域获取地域相同或距离在预设范围内的候选接入机，并将所述候选接入机分配给所述负载。
13.根据权利要求8所述的装置，其特征在于，所述装置还包括：
第二网络地址获取模块，用于获取发起调度请求的负载的网络地址；
第二分析模块，用于根据所述负载的网络地址确定所述负载所处的地域和所属的运营商信息；
所述调度模块还用于根据所述负载所处的地域和所属的运营商信息获取地域相同且运营商相同的候选接入机，并将所述候选接入机分配给所述负载。
14.根据权利要求8所述的装置，其特征在于，所述装置还包括：
预测模块，用于统计所述本次上报时间点到相邻的下一次上报时间点的一个分配周期内各个时间点所述接入机被分配的累计次数，根据所述累计次数得到所述各个时间点的预测负载量；
校正模块，用于将所述预测负载量与所述接入机本次上报的实际负载量之和作为所述接入机在所述各个时间点的实际负载量。
15.一种服务器，包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行如权利要求1至7中任一项所述方法的步骤。
16.一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行如权利要求1至7中任一项所述方法的步骤。
CN201610662366.4A 2016-08-12 2016-08-12 业务负载调度方法和装置 Active CN107733805B (zh)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN201610662366.4A CN107733805B (zh) 2016-08-12 2016-08-12 业务负载调度方法和装置
PCT/CN2017/091429 WO2018028344A1 (zh) 2016-08-12 2017-07-03 负载处理方法和装置
EP17838474.9A EP3499818B9 (en) 2016-08-12 2017-07-03 Method and device for load processing
US16/208,197 US11025709B2 (en) 2016-08-12 2018-12-03 Load processing method and apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610662366.4A CN107733805B (zh) 2016-08-12 2016-08-12 业务负载调度方法和装置

Publications (2)

Publication Number Publication Date
CN107733805A CN107733805A (zh) 2018-02-23
CN107733805B true CN107733805B (zh) 2021-04-16

Family

ID=61162643

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610662366.4A Active CN107733805B (zh) 2016-08-12 2016-08-12 业务负载调度方法和装置

Country Status (4)

Country Link
US (1) US11025709B2 (zh)
EP (1) EP3499818B9 (zh)
CN (1) CN107733805B (zh)
WO (1) WO2018028344A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110198332B (zh) * 2018-04-13 2021-11-16 腾讯科技（深圳）有限公司 内容分发网络节点的调度方法、装置及存储介质
US20210185700A1 (en) * 2019-12-13 2021-06-17 Qualcomm Incorporated Scheduling request associated with artificial intelligence information
CN111866101B (zh) * 2020-07-08 2023-05-26 深圳市欢太科技有限公司 访问请求处理方法及装置、存储介质和电子设备
CN115412738B (zh) * 2021-05-26 2023-09-08 广西三方大供应链技术服务有限公司 服务器的调度方法、装置及存储介质
CN114285753B (zh) * 2021-12-27 2024-04-26 上海七牛信息技术有限公司 一种cdn调度方法和系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101695050A (zh) * 2009-10-19 2010-04-14 浪潮电子信息产业股份有限公司 一种基于网络流量自适应预测的动态负载均衡方法
CN104598551A (zh) * 2014-12-31 2015-05-06 华为软件技术有限公司 一种数据统计方法及装置
CN105791144A (zh) * 2014-12-19 2016-07-20 中兴通讯股份有限公司 链路流量分担的方法和装置
CN105847381A (zh) * 2016-04-18 2016-08-10 乐视控股（北京）有限公司 内容服务器的调度方法及装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6886035B2 (en) * 1996-08-02 2005-04-26 Hewlett-Packard Development Company, L.P. Dynamic load balancing of a network of client and server computer
KR100438824B1 (ko) * 2001-08-23 2004-07-05 삼성전자주식회사 일대다 데이타 통신망의 전파 지연 보상 방법들
US7801038B2 (en) * 2003-07-14 2010-09-21 Siemens Corporation Method and apparatus for providing a delay guarantee for a wireless network
CN101873639B (zh) * 2004-03-02 2012-05-23 松下电器产业株式会社 无线局域网实体的协商系统和方法
US8565103B2 (en) * 2006-12-12 2013-10-22 Qualcomm Incorporated Load determination in wireless networks
WO2012066633A1 (ja) * 2010-11-16 2012-05-24 富士通株式会社 通信装置、負荷分散方法、および記録媒体
KR20120065724A (ko) * 2010-12-13 2012-06-21 한국전자통신연구원 다수 패킷 처리 엔진에서의 부하 분산을 위한 패킷 분산 처리 장치 및 방법
US9965498B2 (en) * 2010-12-29 2018-05-08 Teradata Us, Inc. Predictive resource management
JP5949560B2 (ja) * 2011-01-20 2016-07-06 日本電気株式会社 動線検出処理データ分散システム、動線検出処理データ分散方法およびプログラム
KR101718088B1 (ko) * 2011-04-19 2017-03-20 삼성전자주식회사 무선통신 시스템에서 인접 셀의 부하 예측을 기반으로 하는 전력 할당 및 부하 균형을 위한 방법 및 장치
EP2749067B1 (en) * 2011-08-25 2015-08-12 Telefonaktiebolaget LM Ericsson (PUBL) Procedure latency based admission control node, method and system
US9054992B2 (en) * 2011-12-27 2015-06-09 Solidfire, Inc. Quality of service policy sets
US8769162B2 (en) * 2012-04-10 2014-07-01 Oracle International Corporation Multiple path load distribution for host communication with a tape storage device
JP2016038750A (ja) * 2014-08-07 2016-03-22 キヤノン株式会社 情報処理装置およびその方法、並びに、情報処理システム
CN104580489A (zh) * 2015-01-20 2015-04-29 浪潮电子信息产业股份有限公司 一种云环境下的Web应用弹性扩展方法
CN105516369A (zh) * 2016-02-04 2016-04-20 城云科技（杭州）有限公司 视频云平台负载均衡方法及视频云平台负载均衡调度器

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101695050A (zh) * 2009-10-19 2010-04-14 浪潮电子信息产业股份有限公司 一种基于网络流量自适应预测的动态负载均衡方法
CN105791144A (zh) * 2014-12-19 2016-07-20 中兴通讯股份有限公司 链路流量分担的方法和装置
CN104598551A (zh) * 2014-12-31 2015-05-06 华为软件技术有限公司 一种数据统计方法及装置
CN105847381A (zh) * 2016-04-18 2016-08-10 乐视控股（北京）有限公司 内容服务器的调度方法及装置

Also Published As

Publication number Publication date
EP3499818A4 (en) 2019-07-10
WO2018028344A1 (zh) 2018-02-15
EP3499818B9 (en) 2021-08-18
EP3499818A1 (en) 2019-06-19
US20190104174A1 (en) 2019-04-04
CN107733805A (zh) 2018-02-23
EP3499818B1 (en) 2021-02-17
US11025709B2 (en) 2021-06-01

Similar Documents

Publication Publication Date Title
CN107733805B (zh) 业务负载调度方法和装置
CN109819057B (zh) 一种负载均衡方法及系统
CN106302434B (zh) 服务器适配方法、装置和系统
US20170142177A1 (en) Method and system for network dispatching
CN110198344A (zh) 一种资源调度方法及系统
JP6881575B2 (ja) 資源割当システム、管理装置、方法およびプログラム
CN108776934A (zh) 分布式数据计算方法、装置、计算机设备及可读存储介质
JP6359114B2 (ja) 共有リソースに対する適応的な割り当て決定のための方法、システム、および装置
CN107402810B (zh) 线程分配方法及装置
CN110198332B (zh) 内容分发网络节点的调度方法、装置及存储介质
EP3293969A1 (en) Method of terminal-based conference load-balancing, and device and system utilizing same
CN110795244A (zh) 一种任务分配方法、装置、设备及介质
CN110661879A (zh) 节点调度方法、装置、系统、调度服务器及终端设备
CN110460879B (zh) 一种视频请求调度方法、装置、服务器及存储介质
CN111585824B (zh) 资源分发方法、装置、系统及电子设备
US8775627B2 (en) Discontinuous access management method using waiting ticket for resource allocation control, waiting ticket management method, and resource allocation control method
EP3541048A1 (en) Method and apparatus for determining main scheduler from cloud computing system
CN108184149B (zh) 一种视频cdn调度优化方法及装置
CN113079062B (zh) 一种资源调整方法、装置、计算机设备和存储介质
CN108200185B (zh) 一种实现负载均衡的方法及装置
CN111988388A (zh) 流量分配的方法、装置、电子设备及存储介质
Raivio et al. Hybrid Cloud Architecture for Short Message Services.
CN114936089A (zh) 资源调度方法、系统、设备及存储介质
CN115037968A (zh) 视频的播放方法、装置、存储介质及电子装置
CN114338683A (zh) 调度请求处理方法、装置、存储介质及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant