CN110049116A - 一种智能调度业务请求的方法和系统 - Google Patents
一种智能调度业务请求的方法和系统 Download PDFInfo
- Publication number
- CN110049116A CN110049116A CN201910272628.XA CN201910272628A CN110049116A CN 110049116 A CN110049116 A CN 110049116A CN 201910272628 A CN201910272628 A CN 201910272628A CN 110049116 A CN110049116 A CN 110049116A
- Authority
- CN
- China
- Prior art keywords
- scheduling
- server
- service request
- target
- dpvs
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1029—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers using data related to the state of servers by a load balancer
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明公开了一种智能调度业务请求的方法和系统,属于数据传输技术领域。所述方法包括:若接收到目标业务请求,所述dpvs服务器则读取所述智能学习服务器提供的调度白名单,其中,所述调度白名单记录有业务请求的属性信息与后端服务器的对应关系;所述dpvs服务器判断所述调度白名单中是否记录有所述目标业务请求的属性信息对应的目标后端服务器;若所述调度白名单中记录有所述目标后端服务器,所述dpvs服务器则将所述目标业务请求调度至所述目标后端服务器;若所述调度白名单中未记录所述目标后端服务器,所述dpvs服务器则根据预设的调度算法对所述目标业务请求进行调度。采用本发明,可以最大程度地利用服务器集群的性能,节约业务服务的成本。
Description
技术领域
本发明涉及数据传输技术领域,特别涉及一种智能调度业务请求的方法和系统。
背景技术
随着互联网的飞速发展,网络结构日渐复杂,网络业务日趋丰富。各网络业务的业务逻辑也越来越复杂,产生的业务流量也越来越大。单台服务器由于其性能问题及单点问题,已无法满足日趋繁杂的网络业务的基本需求。因此,需要采用多台服务器组成的服务器集群来支持网络业务的实现。那么,在服务器集群中可以设置有调度服务器,所有的业务请求都会首先由调度服务器接收,然后,调度服务器将业务请求分配给某一台后端服务器去处理。
现有技术中,调度服务器可以是基于DPDK技术的第四层负载均衡器(即dpvs服务器),dpvs服务器可以采用调度算法(如轮询调度算法(rr)、加权轮询调度算法(wrr)、加权最小连接数调度算法(wlc)、源地址哈希调度算法(sh)等)将业务请求调度至处理性能较优、冗余负载较高的后端服务器,以实现业务请求的合理分配,保证所有后端服务器都将性能充分发挥,从而保持服务器集群的整体性能最优。
在实现本发明的过程中,发明人发现现有技术至少存在以下问题:
dpvs服务器目前所采用的调度算法,只能根据后端服务器的处理性能、负载情况分配业务请求,而无法获知业务请求的类型、业务请求占用资源的情况,也无法获知业务请求的优先级。因此,现有的dpvs服务器还无法保证能将业务请求分配至合适的后端服务器,即现有的dpvs服务器还无法做到智能调度。
发明内容
为了解决现有技术的问题,本发明实施例提供了一种智能调度业务请求的方法和系统。所述技术方案如下:
第一方面,提供了一种智能调度业务请求的方法,所述方法应用于服务器集群,所述服务器集群包括dpvs服务器、智能学习服务器和多台后端服务器,其中:
若接收到目标业务请求,所述dpvs服务器则读取所述智能学习服务器提供的调度白名单,其中,所述调度白名单记录有业务请求的属性信息与后端服务器的对应关系;
所述dpvs服务器判断所述调度白名单中是否记录有所述目标业务请求的属性信息对应的目标后端服务器;
若所述调度白名单中记录有所述目标后端服务器,所述dpvs服务器则将所述目标业务请求调度至所述目标后端服务器;
若所述调度白名单中未记录所述目标后端服务器,所述dpvs服务器则根据预设的调度算法对所述目标业务请求进行调度。
可选的,所述方法还包括:
所述智能学习服务器周期性采集当前周期内所述dpvs服务器接收的所有业务请求的属性信息及调度结果;
所述智能学习服务器基于预设的调度评估机制,对每个所述业务请求的调度结果进行评估,生成每个所述业务请求的调度评估结果;
所述智能学习服务器基于所述所有业务请求的属性信息、调度结果和调度评估结果进行机器学习,更新本地存储的调度白名单;
所述智能学习服务器将更新后的调度白名单发送给所述dpvs服务器。
可选的,所述智能学习服务器基于预设的调度评估机制,对每个所述业务请求的调度结果进行评估,生成每个所述业务请求的调度评估结果,包括:
所述智能学习服务器基于预设的调度结果评分机制,对每个所述业务请求的调度结果进行评分,生成每个所述业务请求的调度结果得分,其中,所述调度结果得分越高,所述调度评估结果越佳。
可选的,所述智能学习服务器基于所述所有业务请求的属性信息、调度结果和调度评估结果进行机器学习之前,还包括:
所述智能学习服务器基于预设的请求调度规则,对所述调度结果得分低于的预设分数的调度结果进行调整。
可选的,所述业务请求的属性信息至少包括业务类型、请求优先级及资源占用情况中的一项或多项。
可选的,所述dpvs服务器判断所述调度白名单中是否存在所述目标业务请求的属性信息对应的目标后端服务器,包括:
所述dpvs服务器判断所述调度白名单中是否存在所述目标业务请求的预设项数的属性信息所对应的目标后端服务器。
可选的,若所述调度白名单中记录有所述目标后端服务器,所述dpvs服务器则将所述目标业务请求调度至所述目标后端服务器,包括:
若所述调度白名单中记录有多个所述目标后端服务器,所述dpvs服务器则确定所有所述目标后端服务器的实时可用负载;
所述dpvs服务器将所述目标业务请求调度至所述实时可用负载最高的目标后端服务器。
第二方面,提供了一种智能调度业务请求的系统,所述系统包括dpvs服务器、智能学习服务器和多台后端服务器,所述dpvs服务器,用于:
若接收到目标业务请求,则读取所述智能学习服务器提供的调度白名单,其中,所述调度白名单记录有业务请求的属性信息与后端服务器的对应关系;
判断所述调度白名单中是否记录有所述目标业务请求的属性信息对应的目标后端服务器;
若所述调度白名单中记录有所述目标后端服务器,则将所述目标业务请求调度至所述目标后端服务器;
若所述调度白名单中未记录所述目标后端服务器,则根据预设的调度算法对所述目标业务请求进行调度。
可选的,所述智能学习服务器,用于:
周期性采集当前周期内所述dpvs服务器接收的所有业务请求的属性信息及调度结果;
基于预设的调度评估机制,对每个所述业务请求的调度结果进行评估,生成每个所述业务请求的调度评估结果;
基于所述所有业务请求的属性信息、调度结果和调度评估结果进行机器学习,更新本地存储的调度白名单;
将更新后的调度白名单发送给所述dpvs服务器。
可选的,所述智能学习服务器,具体用于:
基于预设的调度结果评分机制,对每个所述业务请求的调度结果进行评分,生成每个所述业务请求的调度结果得分,其中,所述调度结果得分越高,所述调度评估结果越佳。
可选的,所述智能学习服务器,还用于:
基于预设的请求调度规则,对所述调度结果得分低于的预设分数的调度结果进行调整。
可选的,所述业务请求的属性信息至少包括业务类型、请求优先级及资源占用情况中的一项或多项。
可选的,所述dpvs服务器,具体用于:
判断所述调度白名单中是否存在所述目标业务请求的预设项数的属性信息所对应的目标后端服务器。
可选的,所述dpvs服务器,具体用于:
若所述调度白名单中记录有多个所述目标后端服务器,则确定所有所述目标后端服务器的实时可用负载;
将所述目标业务请求调度至所述实时可用负载最高的目标后端服务器。
本发明实施例提供的技术方案带来的有益效果是:
本发明实施例的dpvs服务器若接收到目标业务请求,则读取智能学习服务器提供的调度白名单,其中,调度白名单记录有业务请求的属性信息与后端服务器的对应关系;dpvs服务器判断调度白名单中是否记录有目标业务请求的属性信息对应的目标后端服务器;若调度白名单中记录有目标后端服务器,dpvs服务器则将目标业务请求调度至目标后端服务器;若调度白名单中未记录目标后端服务器,dpvs服务器则根据预设的调度算法对目标业务请求进行调度。这样,dpvs服务器对业务请求进行调度时,可以优先使用智能学习服务器提供的调度白名单进行智能调度,实现对不同属性的业务请求的更加合理的调度,从而可以最大程度地利用服务器集群的性能,节约业务服务的成本。进一步的,智能学习服务器可以定期收集dpvs服务器对业务请求调度的调度结果,基于预设的调度结果评分机制,对每个业务请求的调度结果进行评分,生成每个业务请求的调度结果得分,以反映每个业务请求是否被准确合理地调度,并可以通过调度结果的得分来调整维护调度白名单,使得dpvs服务器使用调度白名单进行智能调度的调度结果更加合理。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种智能调度业务请求的方法流程图;
图2为本发明实施例提供的一种更新调度白名单的方法流程图;
图3为本发明实施例提供的一种智能调度业务请求的系统框架图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
本实施例提供一种智能调度业务请求的方法,主要应用于由一台dpvs服务器和多台后端服务器组成的服务器集群。其中,dpvs服务器为基于DPDK技术的第四层负载均衡器,可以用于接收业务请求,并将业务请求调度至一台后端服务器,从而实现服务器集群内的负载均衡。后端服务器可以是用于对业务请求进行具体处理的真实服务器(RS,realserver),考虑到实时负载、软/硬件性能等因素,不同的后端服务器可以被规划用于处理不同的业务请求。进一步的,为了实现业务请求的智能调度,服务器集群中还可以配设有智能学习服务器,智能学习服务器可以通过机器学习技术,基于业务请求的调度结果构建调度白名单,并将调度白名单提供给dpvs服务器,使得dpvs服务器可以优先根据调度白名单智能地将业务请求调度到合适的后端服务器,以弥补调度算法的不足。上述dpvs服务器和智能学习服务器均可以包括处理器、存储器、收发器,处理器可以用于执行下述对业务请求进行智能调度的流程,存储器可以用于存储下述处理过程中需要的数据以及产生的数据,收发器可以用于接收和发送下述处理过程中的相关数据。值得一提的是,智能学习服务器的功能也可以由设置在dpvs服务器或其它服务器上的智能学习组件来实现,本实施例以智能学习服务器为例进行说明,其它情况与之类似。
下面将结合具体实施方式,对图1所示的处理流程进行详细的说明,内容可以如下:
步骤101,若接收到目标业务请求,dpvs服务器读取智能学习服务器提供的调度白名单。
其中,调度白名单记录有业务请求的属性信息与后端服务器的对应关系,业务请求的属性信息可以是业务请求所属的业务类型,如上传/下载、图片缩放及音视频的剪切等业务类型;也可以是业务请求的请求优先级,请求优先级具体可以为请求者的优先级或者请求所属业务的优先级等,还可以是业务请求的资源占用情况,资源占用情况可以理解为后端服务器处理业务请求时系统资源的占用情况。由于业务类型、请求优先级及资源占用情况,可以比较直接地影响对业务请求的处理效率,故而调度白名单中记录的业务请求的属性信息,可以至少包括业务类型、请求优先级及资源占用情况中的一项或多项。
在实施中,服务器集群在提供业务服务时,业务请求可以先到达服务器集群的dpvs服务器。以目标业务请求为例,dpvs服务器接收到目标业务请求后,可以先读取智能学习服务器提供的调度白名单,然后可以将读取到的调度白名单的内容添加到dpvs服务器的调度进程内,以便优先基于调度白名单对目标业务请求进行调度。调度白名单可以是智能学习服务器通过机器学习技术构建的,其中可以至少记录有业务请求的属性信息与后端服务器的对应关系。
步骤102,dpvs服务器判断调度白名单中是否存在目标业务请求的属性信息对应的目标后端服务器。
在实施中,dpvs服务器在读取了调度白名单的内容后,可以先判断是否能够通过调度白名单完成目标业务请求的调度,即判断调度白名单中是否记录有与目标业务请求的属性信息对应的目标后端服务器。值得一提的是,此处的判断可以通过查找的方式实现,即dpvs服务器可以先识别目标业务请求的属性信息,然后在调度白名单中查找是否记录有与目标业务请求的属性信息相匹配的属性信息,进一步的,此处的匹配可以是目标业务请求的属性信息与调度白名单里记录的属性信息完全相同或者相同信息的占比大于一定阈值。
可选的,可以设定当目标业务请求的属性信息与调度白名单里记录的属性信息存在预设项相同时,就存在目标业务请求对应的目标后端服务器,相应的,步骤102的处理具体可以如下:dpvs服务器判断调度白名单中是否记录有目标业务请求的预设项数的属性信息所对应的目标后端服务器。
在实施中,dpvs服务器判断调度白名单中是否记录有目标业务请求的属性信息对应的目标后端服务器时,若调度白名单中记录的后端服务器仅对应一项属性信息,dpvs服务器则可以直接根据该项属性信息查找目标业务请求的属性信息对应的目标后端服务器;而若调度白名单中记录的后端服务器对应多项业务请求的属性信息时,为了尽量能够按照调度白名单进行智能调度,dpvs服务器则可以判断每个后端服务器对应的多项属性信息与目标业务请求的属性信息间是否存在预设项数个相同的属性信息,即可以判断调度白名单中是否记录有目标业务请求的预设项数的属性信息所对应的目标后端服务器。其中,预设项数可以是大于等于1的自然数。
步骤103,若调度白名单中记录有目标后端服务器,dpvs服务器则将目标业务请求调度至目标后端服务器。
在实施中,dpvs服务器若在调度白名单中查找到与目标业务请求的属性信息相匹配的属性信息,则可以确定调度白名单中记录有目标业务请求的属性信息对应的目标后端服务器。这样,dpvs服务器可以将目标业务请求调度至该目标后端服务器。由于调度白名单是智能学习服务器基于机器学习技术构建的,其中记录由学习素材和计算规则训练得出的期望的学习结果,所以调度白名单中业务请求的属性信息对应的后端服务器,可以理解为适合处理具有该属性信息的业务请求的后端服务器。所以,按照调度白名单进行调度,能够保证目标业务请求被调度到合适的后端服务器,从而提升服务器集群的整体服务性能,节约服务成本。
可选的,dpvs服务器在利用调度白名单对业务请求进行调度时,可以参考目标后端服务器的实时可用负载,相应的,步骤103的处理具体可以如下:若调度白名单中记录有多个目标后端服务器,dpvs服务器则确定所有目标后端服务器的实时可用负载;dpvs服务器将目标业务请求调度至实时可用负载最高的目标后端服务器。
在实施中,在调度白名单中,同一项或一组业务请求的属性信息可能会同时对应多个后端服务器。这样,dpvs服务器读取了调度白名单之后,如果在调度白名单中查找到目标业务请求的属性信息对应有多个目标后端服务器,dpvs服务器则可以从多个目标后端服务器中选择一个进行调度,具体可以参考后端服务器的实时可用负载进行调度。故而,dpvs服务器在查找到多个目标后端服务器后,可以先确定所有目标后端服务器的实时可用负载,然后将目标业务请求调度至实时可用负载最高的目标后端服务器,以便提高业务请求的处理速度,从而进一步提高服务器集群的服务质量。
步骤104,若调度白名单中未记录目标后端服务器,dpvs服务器则根据预设的调度算法对目标业务请求进行调度。
在实施中,dpvs服务器若未在调度白名单中查找到与目标业务请求的属性信息相匹配的属性信息,则可以判断白名单中没有记录目标业务请求的属性信息对应的目标后端服务器。进而,dpvs服务器可以根据预设的调度算法将目标业务请求调度至某台后端服务器。其中,调度算法可以为轮询调度算法、加权轮询调度算法、加权最小连接数调度算法、源地址哈希调度算法中的一种或多种。
本实施例还提供了一种智能学习服务器更新调度白名单的方法,如图2所示,具体处理流程可以如下:
步骤201,智能学习服务器周期性采集当前周期内dpvs服务器接收的所有业务请求的属性信息及调度结果。
在实施中,dpvs服务器在对业务请求进行调度之后,可以先对业务请求的属性信息和调度结果进行缓存。故而,智能学习服务器可以周期性地采集当前周期内dpvs服务器接收的所有业务请求的属性信息及调度结果。例如,采集周期为1分钟,智能学习服务器则可以每隔1分钟,采集过去的1分钟内dpvs服务器接收的所有业务请求的属性信息及调度结果。
步骤202,智能学习服务器基于预设的调度评估机制,对每个业务请求的调度结果进行评估,生成每个业务请求的调度评估结果。
在实施中,dpvs服务器在采集了业务请求的调度结果之后,可以基于预设的调度评估机制,对每个业务请求的调度结果进行评估,从而生成每个业务请求的调度评估结果。此处的调度评估机制可以是服务器集群的管理人员根据实际的请求调度需求设定的,通过调度评估机制可以对每个业务请求的调度结果进行合理有效的评估,以反映每个业务请求是否被准确合理地调度。
可选的,预设的调度评估机制可以是调度结果评分机制,相应的,步骤202的处理具体可以如下:智能学习服务器基于预设的调度结果评分机制,对每个业务请求的调度结果进行评分,生成每个业务请求的调度结果得分。
其中,调度结果得分越高,调度评估结果越佳。
在实施中,智能学习服务器可以采用具象化的评分机制对调度结果进行评估,即基于预设的调度结果评分机制,对每个业务请求的调度结果进行评分,并生成调度结果得分,可以设定调度结果得分越高,调度评估结果越佳。其中,预设的调度结果评分机制可以是人为配置的,比如可以规定:若将具有某一或某些属性信息的业务请求调度到A(或A类)后端服务器,则调度结果评分在a~b之间;若将具有某一或某些属性信息的业务请求调度到B(或B类)后端服务器,则调度结果评分在b~c之间;若将具有某一或某些属性信息的业务请求调度到C(或C类)后端服务器,则调度结果评分在c~d之间。当然,智能学习服务器在实际实现调度白名单更新的过程中,也可以采用其它预设的评估机制进行评估(比如达到某些条件则调度评估结果为优;达不到则调度评估结果为差),本实施例对此不做具体限定。
步骤203,智能学习服务器基于所有业务请求的属性信息、调度结果和调度评估结果进行机器学习,更新本地存储的调度白名单。
在实施中,智能学习服务器生成每个业务请求的调度评估结果后,可以以所有业务请求的属性信息、调度结果和调度评估结果为学习素材进行机器学习,对调度白名单不断训练,从而更新本地存储的调度白名单。
可选的,智能学习服务器在进行机器学习前,可以对调度评估结果较差的学习素材进行调整,相应的,基于上述调度结果评分机制,步骤203之前可以存在如下处理:智能学习服务器基于预设的请求调度规则,对调度结果得分低于的预设分数的调度结果进行调整。
在实施中,当调度评估结果较差,即调度结果得分较低时,可以对学习素材进行调整,以获得较为正确的学习素材。这样,智能学习服务器上可以预先设置有请求调度规则,该请求调度规则可以用于对被错误调度的业务请求的调度结果进行有效调整,从而便于智能学习服务器基于调整后的调度结果进行机器学习。故而,智能学习服务器在利用业务请求的属性信息、调度结果和调度评估结果进行机器学习之前,可以基于预设的请求调度规则,对调度结果得分低于的预设分数的调度结果进行调整。
步骤204,智能学习服务器将更新后的调度白名单发送给dpvs服务器。
本发明实施例的dpvs服务器若接收到目标业务请求,则读取智能学习服务器提供的调度白名单,其中,调度白名单记录有业务请求的属性信息与后端服务器的对应关系;dpvs服务器判断调度白名单中是否记录有目标业务请求的属性信息对应的目标后端服务器;若调度白名单中记录有目标后端服务器,dpvs服务器则将目标业务请求调度至目标后端服务器;若调度白名单中未记录目标后端服务器,dpvs服务器则根据预设的调度算法对目标业务请求进行调度。这样,dpvs服务器对业务请求进行调度时,可以优先使用智能学习服务器提供的调度白名单进行智能调度,实现对不同属性的业务请求的更加合理的调度,从而可以最大程度地利用服务器集群的性能,节约业务服务的成本。进一步的,智能学习服务器可以定期收集dpvs服务器对业务请求调度的调度结果,基于预设的调度结果评分机制,对每个业务请求的调度结果进行评分,生成每个业务请求的调度结果得分,以反映每个业务请求是否被准确合理地调度,并可以通过调度结果的得分来调整维护调度白名单,使得dpvs服务器使用调度白名单进行智能调度的调度结果更加合理。
基于相同的技术构思,本发明实施例还提供了一种智能调度业务请求的系统,如图3所示,所述系统包括dpvs服务器、智能学习服务器和多台后端服务器,所述dpvs服务器,用于:
若接收到目标业务请求,则读取所述智能学习服务器提供的调度白名单,其中,所述调度白名单记录有业务请求的属性信息与后端服务器的对应关系;
判断所述调度白名单中是否记录有所述目标业务请求的属性信息对应的目标后端服务器;
若所述调度白名单中记录有所述目标后端服务器,则将所述目标业务请求调度至所述目标后端服务器;
若所述调度白名单中未记录所述目标后端服务器,则根据预设的调度算法对所述目标业务请求进行调度。
可选的,所述智能学习服务器,用于:
周期性采集当前周期内所述dpvs服务器接收的所有业务请求的属性信息及调度结果;
基于预设的调度评估机制,对每个所述业务请求的调度结果进行评估,生成每个所述业务请求的调度评估结果;
基于所述所有业务请求的属性信息、调度结果和调度评估结果进行机器学习,更新本地存储的调度白名单;
将更新后的调度白名单发送给所述dpvs服务器。
可选的,所述智能学习服务器,具体用于:
基于预设的调度结果评分机制,对每个所述业务请求的调度结果进行评分,生成每个所述业务请求的调度结果得分,其中,所述调度结果得分越高,所述调度评估结果越佳。
可选的,所述智能学习服务器,还用于:
基于预设的请求调度规则,对所述调度结果得分低于的预设分数的调度结果进行调整。
可选的,所述业务请求的属性信息至少包括业务类型、请求优先级及资源占用情况中的一项或多项。
可选的,所述dpvs服务器,具体用于:
判断所述调度白名单中是否存在所述目标业务请求的预设项数的属性信息所对应的目标后端服务器。
可选的,所述dpvs服务器,具体用于:
若所述调度白名单中记录有多个所述目标后端服务器,则确定所有所述目标后端服务器的实时可用负载;
将所述目标业务请求调度至所述实时可用负载最高的目标后端服务器。
本发明实施例的dpvs服务器若接收到目标业务请求,则读取智能学习服务器提供的调度白名单,其中,调度白名单记录有业务请求的属性信息与后端服务器的对应关系;dpvs服务器判断调度白名单中是否记录有目标业务请求的属性信息对应的目标后端服务器;若调度白名单中记录有目标后端服务器,dpvs服务器则将目标业务请求调度至目标后端服务器;若调度白名单中未记录目标后端服务器,dpvs服务器则根据预设的调度算法对目标业务请求进行调度。这样,dpvs服务器对业务请求进行调度时,可以优先使用智能学习服务器提供的调度白名单进行智能调度,实现对不同属性的业务请求的相对合理的调度,从而可以最大程度地利用服务器集群的性能,节约业务服务的成本。进一步的,智能学习服务器可以定期收集dpvs服务器对业务请求调度的调度结果,基于预设的调度结果评分机制,对每个业务请求的调度结果进行评分,生成每个业务请求的调度结果得分,以反映每个业务请求是否被准确合理地调度,并可以通过调度结果的得分来调整维护调度白名单,使得dpvs服务器使用调度白名单进行智能调度的调度结果更加合理。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (14)
1.一种智能调度业务请求的方法,其特征在于,所述方法应用于服务器集群,所述服务器集群包括dpvs服务器、智能学习服务器和多台后端服务器,其中:
若接收到目标业务请求,所述dpvs服务器则读取所述智能学习服务器提供的调度白名单,其中,所述调度白名单记录有业务请求的属性信息与后端服务器的对应关系;
所述dpvs服务器判断所述调度白名单中是否记录有所述目标业务请求的属性信息对应的目标后端服务器;
若所述调度白名单中记录有所述目标后端服务器,所述dpvs服务器则将所述目标业务请求调度至所述目标后端服务器;
若所述调度白名单中未记录所述目标后端服务器,所述dpvs服务器则根据预设的调度算法对所述目标业务请求进行调度。
2.如权利要求1所述的方法,其特征在于,所述方法还包括:
所述智能学习服务器周期性采集当前周期内所述dpvs服务器接收的所有业务请求的属性信息及调度结果;
所述智能学习服务器基于预设的调度评估机制,对每个所述业务请求的调度结果进行评估,生成每个所述业务请求的调度评估结果;
所述智能学习服务器基于所述所有业务请求的属性信息、调度结果和调度评估结果进行机器学习,更新本地存储的调度白名单;
所述智能学习服务器将更新后的调度白名单发送给所述dpvs服务器。
3.如权利要求2所述的方法,其特征在于,所述智能学习服务器基于预设的调度评估机制,对每个所述业务请求的调度结果进行评估,生成每个所述业务请求的调度评估结果,包括:
所述智能学习服务器基于预设的调度结果评分机制,对每个所述业务请求的调度结果进行评分,生成每个所述业务请求的调度结果得分,其中,所述调度结果得分越高,所述调度评估结果越佳。
4.如权利要求3所述的方法,其特征在于,所述智能学习服务器基于所述所有业务请求的属性信息、调度结果和调度评估结果进行机器学习之前,还包括:
所述智能学习服务器基于预设的请求调度规则,对所述调度结果得分低于的预设分数的调度结果进行调整。
5.如权利要求1所述的方法,其特征在于,所述业务请求的属性信息至少包括业务类型、请求优先级及资源占用情况中的一项或多项。
6.如权利要求5所述的方法,其特征在于,所述dpvs服务器判断所述调度白名单中是否存在所述目标业务请求的属性信息对应的目标后端服务器,包括:
所述dpvs服务器判断所述调度白名单中是否存在所述目标业务请求的预设项数的属性信息所对应的目标后端服务器。
7.如权利要求1所述的方法,其特征在于,若所述调度白名单中记录有所述目标后端服务器,所述dpvs服务器则将所述目标业务请求调度至所述目标后端服务器,包括:
若所述调度白名单中记录有多个所述目标后端服务器,所述dpvs服务器则确定所有所述目标后端服务器的实时可用负载;
所述dpvs服务器将所述目标业务请求调度至所述实时可用负载最高的目标后端服务器。
8.一种智能调度业务请求的系统,其特征在于,所述系统包括dpvs服务器、智能学习服务器和多台后端服务器,所述dpvs服务器,用于:
若接收到目标业务请求,则读取所述智能学习服务器提供的调度白名单,其中,所述调度白名单记录有业务请求的属性信息与后端服务器的对应关系;
判断所述调度白名单中是否记录有所述目标业务请求的属性信息对应的目标后端服务器;
若所述调度白名单中记录有所述目标后端服务器,则将所述目标业务请求调度至所述目标后端服务器;
若所述调度白名单中未记录所述目标后端服务器,则根据预设的调度算法对所述目标业务请求进行调度。
9.如权利要求8所述的系统,其特征在于,所述智能学习服务器,用于:
周期性采集当前周期内所述dpvs服务器接收的所有业务请求的属性信息及调度结果;
基于预设的调度评估机制,对每个所述业务请求的调度结果进行评估,生成每个所述业务请求的调度评估结果;
基于所述所有业务请求的属性信息、调度结果和调度评估结果进行机器学习,更新本地存储的调度白名单;
将更新后的调度白名单发送给所述dpvs服务器。
10.如权利要求9所述的系统,其特征在于,所述智能学习服务器,具体用于:
基于预设的调度结果评分机制,对每个所述业务请求的调度结果进行评分,生成每个所述业务请求的调度结果得分,其中,所述调度结果得分越高,所述调度评估结果越佳。
11.如权利要求10所述的系统,其特征在于,所述智能学习服务器,还用于:
基于预设的请求调度规则,对所述调度结果得分低于的预设分数的调度结果进行调整。
12.如权利要求8所述的系统,其特征在于,所述业务请求的属性信息至少包括业务类型、请求优先级及资源占用情况中的一项或多项。
13.如权利要求12所述的系统,其特征在于,所述dpvs服务器,具体用于:
判断所述调度白名单中是否存在所述目标业务请求的预设项数的属性信息所对应的目标后端服务器。
14.如权利要求8所述的系统,其特征在于,所述dpvs服务器,具体用于:
若所述调度白名单中记录有多个所述目标后端服务器,则确定所有所述目标后端服务器的实时可用负载;
将所述目标业务请求调度至所述实时可用负载最高的目标后端服务器。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910272628.XA CN110049116A (zh) | 2019-04-04 | 2019-04-04 | 一种智能调度业务请求的方法和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910272628.XA CN110049116A (zh) | 2019-04-04 | 2019-04-04 | 一种智能调度业务请求的方法和系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110049116A true CN110049116A (zh) | 2019-07-23 |
Family
ID=67276211
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910272628.XA Pending CN110049116A (zh) | 2019-04-04 | 2019-04-04 | 一种智能调度业务请求的方法和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110049116A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117376033A (zh) * | 2023-12-06 | 2024-01-09 | 浙江网商银行股份有限公司 | 文件处理方法以及装置 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050187958A1 (en) * | 2004-02-24 | 2005-08-25 | Oracle International Corporation | Sending control information with database statement |
CN101018138A (zh) * | 2007-01-18 | 2007-08-15 | 华为技术有限公司 | 通用业务系统及装置、网络接入系统和业务处理方法 |
CN103178988A (zh) * | 2013-02-06 | 2013-06-26 | 中电长城网际系统应用有限公司 | 一种性能优化的虚拟化资源的监控方法和系统 |
CN104767690A (zh) * | 2014-01-08 | 2015-07-08 | 杭州迪普科技有限公司 | 一种流量调度装置及方法 |
US20160098685A1 (en) * | 2014-10-01 | 2016-04-07 | Maury Hanigan | Video assisted hiring system and method |
CN106231365A (zh) * | 2016-08-18 | 2016-12-14 | 北京斗牛科技有限公司 | 一种调度方法和系统 |
CN106657379A (zh) * | 2017-01-06 | 2017-05-10 | 重庆邮电大学 | 一种nginx服务器负载均衡的实现方法及系统 |
CN109474759A (zh) * | 2018-10-24 | 2019-03-15 | 咪咕音乐有限公司 | 一种信息处理方法、装置及存储介质 |
-
2019
- 2019-04-04 CN CN201910272628.XA patent/CN110049116A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050187958A1 (en) * | 2004-02-24 | 2005-08-25 | Oracle International Corporation | Sending control information with database statement |
CN101018138A (zh) * | 2007-01-18 | 2007-08-15 | 华为技术有限公司 | 通用业务系统及装置、网络接入系统和业务处理方法 |
CN103178988A (zh) * | 2013-02-06 | 2013-06-26 | 中电长城网际系统应用有限公司 | 一种性能优化的虚拟化资源的监控方法和系统 |
CN104767690A (zh) * | 2014-01-08 | 2015-07-08 | 杭州迪普科技有限公司 | 一种流量调度装置及方法 |
US20160098685A1 (en) * | 2014-10-01 | 2016-04-07 | Maury Hanigan | Video assisted hiring system and method |
CN106231365A (zh) * | 2016-08-18 | 2016-12-14 | 北京斗牛科技有限公司 | 一种调度方法和系统 |
CN106657379A (zh) * | 2017-01-06 | 2017-05-10 | 重庆邮电大学 | 一种nginx服务器负载均衡的实现方法及系统 |
CN109474759A (zh) * | 2018-10-24 | 2019-03-15 | 咪咕音乐有限公司 | 一种信息处理方法、装置及存储介质 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117376033A (zh) * | 2023-12-06 | 2024-01-09 | 浙江网商银行股份有限公司 | 文件处理方法以及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104320487B (zh) | 内容分发网络的http调度系统和方法 | |
CN105122772B (zh) | 一种通过头部交换服务器状态和客户端信息的方法及设备 | |
US6742023B1 (en) | Use-sensitive distribution of data files between users | |
CN100414539C (zh) | 传输和下载流数据的方法 | |
US8271987B1 (en) | Providing access to tasks that are available to be performed | |
US8024740B2 (en) | Acquisition system for distributed computing resources | |
US20060069778A1 (en) | Content distribution system | |
CN109951323A (zh) | 一种日志分析方法和系统 | |
EP2044525B1 (en) | Multi-party cooperative peer-to-peer video streaming | |
CN108322502A (zh) | 用于均衡服务器负载的方法、网关系统和存储介质 | |
US11983189B2 (en) | Data pipeline controller | |
CN110233875A (zh) | 一种数据处理方法、对象存储网关池及业务系统 | |
CN109376172A (zh) | 基于区块链的数据获取方法和系统 | |
US20210303585A1 (en) | Data blending for multiple data pipelines | |
CN110336848A (zh) | 一种访问请求的调度方法及调度系统、设备 | |
CN110045964A (zh) | 软件灰度发布方法、代理服务器、配置中心和系统 | |
CN113300955A (zh) | 内容分发网络中节点间路径确定方法、系统及设备 | |
CN113411826A (zh) | 一种基于注意力机制强化学习的边缘网络设备缓存方法 | |
CN110049116A (zh) | 一种智能调度业务请求的方法和系统 | |
CN112822051A (zh) | 基于业务感知的业务加速方法 | |
CN115766722A (zh) | 一种基于信息中心网络的算力网络任务调度方法及装置 | |
CN107181825A (zh) | 终端设备数据的在线处理方法 | |
CN110392119A (zh) | 一种数据传输方法及基站 | |
CN106790647A (zh) | 一种自适应服务管理的方法和系统 | |
CN109543725A (zh) | 一种获取模型参数的方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190723 |