CN111225059A - 网络请求资源调度方法、装置、电子设备及存储介质 - Google Patents

网络请求资源调度方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN111225059A
CN111225059A CN202010024678.9A CN202010024678A CN111225059A CN 111225059 A CN111225059 A CN 111225059A CN 202010024678 A CN202010024678 A CN 202010024678A CN 111225059 A CN111225059 A CN 111225059A
Authority
CN
China
Prior art keywords
load
edge server
sys
preset
current
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010024678.9A
Other languages
English (en)
Inventor
陈宽
洪一帆
王广伟
戚剑锋
张阳平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Mobile Communications Group Co Ltd
China Mobile Hangzhou Information Technology Co Ltd
Original Assignee
China Mobile Communications Group Co Ltd
China Mobile Hangzhou Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Mobile Communications Group Co Ltd, China Mobile Hangzhou Information Technology Co Ltd filed Critical China Mobile Communications Group Co Ltd
Priority to CN202010024678.9A priority Critical patent/CN111225059A/zh
Publication of CN111225059A publication Critical patent/CN111225059A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5072—Grid computing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5077—Logical partitioning of resources; Management or configuration of virtualized resources
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1014—Server selection for load balancing based on the content of a request
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Computer Hardware Design (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明提供一种网络资源调度方法、装置、电子设备及存储介质。该方法计算用户请求的哈希值，并采用一致性哈希算法在一个预先设置的哈希环中确定所述哈希值的位置，根据所述位置在所述哈希环中查找一个虚拟节点，并定位该虚拟节点对应的边缘服务器。进一步地，该方法获取所述边缘服务器的当前负载，并根据一个平衡因子计算所述边缘服务器的目标负载，当所述当前负载大于或者等于所述目标负载时，按照所述预先设定的搜寻方法从所述哈希环中查找下一个虚拟节点，直到所述虚拟节点对应的边缘服务器的当前负载小于目标负载时，将所述用户请求转发给所述边缘服务器。利用本发明能够解决边缘服务器负载不均的问题。

Description

网络请求资源调度方法、装置、电子设备及存储介质
技术领域
本发明涉及互联网技术领域，尤其涉及一种网络请求资源调度方法、装置、电子设备及存储介质。
背景技术
随着互联网业务的发展，网络流量增长速度越来越快，基本6～9个月翻一番。大流量、高并发的用户访问对服务器的性能存储容量等压力越来越大，为满足业务的不断发展，分布式的系统架构成为互联网业务应用的主流。而CDN(Content Delivery Networ，内容分发网络)作为一种互联网内容分发加速技术，被越来越多的互联网业务所应用。CDN简单地说就是通过在不同地点缓存内容，通过负载均衡等技术将用户请求对应的内容资源定向到最近的边缘服务器上获取内容，提高用户访问网站的响应速度。
目前，CDN在进行内容分发时常用如下两种方案：一种方案是自行维护边缘服务器与内容资源之间的映射关系，需要增减边缘主机或者更新内容时，同步更新映射关系，这种方案在内容资源相对较少，边缘服务器数量相对稳定时，可以较好工作，但内容较多时不方便存储和维护；另一种方案是使用一致性哈希算法，此方案可以很好的解决增加或删除节点时引起的系统震荡问题。但是无论采用自行管理内容资源与边缘服务器之间的映射关系，还是采用一致性哈希算法，都会存在热点内容资源的问题，即某些内容资源的访问特别集中，会造成边缘缓存集群中各服务器负载不均，使这些内容资源对应的服务器超载甚至无法提供服务。现有的热点内容资源的负载均衡方案一般是通过提前预设热点内容列表，或者在对每台边缘服务器上的热点内容请求和负载情况进行统计分析，动态维护一张热点资源列表，将热点内容列表内的请求进行随机扩散，以降低负载较高的设备压力，达到负载均衡效果。但是发明人发现，现有的这种热点内容的负载均衡方案会存在如下问题：
1.因每个内容请求消耗的带宽，时长都可能不一样，因此内容请求数分布均匀并不一定代表实际边缘服务器之间负载分配均匀；
2.该方案对热点内容资源进行随机扩散，在边缘服务器较多的情况下，热点内容将缓存多份，严重降低存储资源利用率。
3.不同时刻，热点内容资源可能不同，即存在热点内容资源不断变化的情况，如果不及时收敛之前扩散热点内容请求，将进一步降低存储资源利用率。
4.为进一步降低区域负载均衡设备压力，一般只有上行内容请求消息经过负载均衡设备，而包含内容资源响应消息直接由边缘服务器发给用户侧，因此这种场景下负载均衡设备侧无法直接根据响应统计热点资源带宽；
5.该方案需对每个请求内容和边缘服务器进行统计和判断，在热点内容资源较多或者边缘服务器较多，并发较高的场景下，将严重降低负载均衡设备性能。
6.该方案没有考虑负载均衡设备集群部署的场景，集群场景下，只在单台负载均衡设备上进行计数和统计，并不能准确反映后端边缘服务器的负载情况。
综合以上情况，发明人了解到现有的负载均衡方案还是会存在后端边缘服务器负载不均的问题。
发明内容
鉴于以上内容，有必要提供一种网络请求资源调度方法、装置、电子设备及存储介质，能够解决边缘服务器负载不均的问题。
为了解决上述问题，本发明提出一种网络请求资源调度方法，所述方法包括：
接收用户请求，并计算所述用户请求的哈希值；
采用一致性哈希算法在一个预先设置的哈希环中确定所述哈希值的位置，并根据所述位置按照预先设定的搜寻方法在所述哈希环中查找一个虚拟节点，并定位该虚拟节点对应的边缘服务器；
获取所述边缘服务器的当前负载，并根据一个预设的平衡因子计算所述边缘服务器的目标负载；
当所述当前负载大于或者等于所述目标负载时，按照所述预先设定的搜寻方法从所述哈希环中查找下一个虚拟节点，直到所述虚拟节点对应的边缘服务器的当前负载小于目标负载；
当所述当前负载小于所述目标负载时，将所述用户请求转发给所述边缘服务器。
优选地，所述获取所述边缘服务器的当前负载包括：
在一个一致性协同设备中创建一个负载管理节点；
根据所述负载管理节点中新增的子节点获取当前在线的边缘服务器；
监听所述子节点中的数据变化，根据所述数据变化获取所述边缘服务器的当前负载。
优选地，所述根据一个平衡因子计算所述边缘服务器的目标负载，包括：
计算所述当前在线的边缘服务器平均负载avgLoad：
avgLoad＝(hostLoad1*R1+hostLoad2*R2+hostLoad3*R3+…+hostLoadn*Rn)/n，
其中，n为所述当前在线的边缘服务器的数量，hostLoad1，hostLoad2，hostLoad3…hostLoadn分别为所述当前在线的边缘服务器的当前负载，R1，R2，R3…Rn为预设权重；
计算其中一台边缘服务器Ai的目标负载destLoadi：
destLoadi＝min(avgLoad*C,maxLoad)，
其中，MaxLoad为所述边缘服务器Ai的最大负载上限，C为所述预设的平衡因子。
优选地，所述边缘服务器的当前负载通过下述方法得到：
定时通过所述边缘服务器的系统接口获取系统负载指标；
通过对所述边缘服务器的业务请求和连接进行统计分析，获取所述边缘服务器的业务负载指标；
根据所述系统负载指标及业务负载指标，采用预设的计算方法计算所述边缘服务器的当前负载，并将所述当前负载上传至所述一致性协同设备中的负载管理节点下对应的子节点中。
优选地，所述系统负载指标包括cpu使用率、内存使用率、磁盘io使用率、带宽使用率，及所述业务负载指标包括并发连接负载率及并发请求负载率。
优选地，所述预设的计算方法包括：
通过经验直接赋权、根据熵权法或者层次分析法中任意一种方法确定所述系统负载指标及业务负载指标中各指标的权重rn(n＝1,2,3…n)，通过下述方式计算所述边缘服务器的当前负载hostload：
Hostload＝r1*sys_cpuload+r2*sys_memload+r3*sys_diskioload+r4*sys_bwload+r5*app_connload+r6*app_tpsload；或者
Hostload＝max(sys_cpuload，sys_memload，sys_diskioload，sys_bwload，app_connload，app_tpsload)；
其中，sys_cpuload为所述cpu使用率，sys_memload为所述内存使用率，sys_diskioload为所述磁盘io使用率，sys_bwload为所述带宽使用率，app_connload为所述并发连接负载率，及app_tpsload为所述并发请求负载率。
优选地，所述一致性协同设备基于一致性协议的开源框架，包括zookeeper、etcd、euerka或者consul组件。
为了解决上述问题，本发明还提供一种网络请求资源调度装置，所述装置包括：
调度分发模块，用于接收用户请求，并计算所述用户请求的哈希值，采用一致性哈希算法在一个预先设置的哈希环中确定所述哈希值的位置，并根据所述位置按照预先设定的搜寻方法在所述哈希环中查找一个虚拟节点，并定位该虚拟节点对应的边缘服务器；
负载管理模块，用于获取所述边缘服务器的当前负载，并根据一个预设的平衡因子计算所述边缘服务器的目标负载；
所述调度分发模块，还用于当所述当前负载大于或者等于所述目标负载时，按照所述预先设定的搜寻方法从所述哈希环中查找下一个虚拟节点，直到所述虚拟节点对应的边缘服务器的当前负载小于所述目标负载时，将所述用户请求转发给所述边缘服务器。
为了解决上述问题，本发明还提供一种电子设备，所述电子设备包括：
存储器，存储至少一个指令；及
处理器，执行所述存储器中存储的指令以实现上述中任意一项所述的网络请求资源调度方法。
为了解决上述问题，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一个指令，所述至少一个指令被电子设备中的处理器执行以实现上述中任意一项所述的网络请求资源调度方法。
由以上技术方案可以看出，本发明实施例通过一个预设的平衡因子计算边缘服务器的目标负载，在所述边缘服务器过载，即所述边缘服务器的当前负载大于或者等于所述目标负载时，寻找下一个未过载的边缘服务器进行用户请求的响应，因此，本发明可以有效的解决边缘服务器负载不均的问题。
此外，本发明实施例在一个一致性协同设备中创建负载管理节点，每个启动的边缘服务器可以通过在所述负载管理节点中新增子节点的方式实现该边缘服务器的注册与发现；进一步地，所述边缘服务器的当前负载上传至所述子节点中，实现了边缘服务器与负载均衡设备之间负载信息的同步，降低了负载统计的所需消耗的性能资源。
附图说明
一个或多个实施例通过与之对应的附图中的图片进行示例性说明，这些示例性说明并不构成对实施例的限定，附图中具有相同参考数字标号的元件表示为类似的元件，除非有特别申明，附图中的图不构成比例限制。
图1是本发明网络请求资源调度方法的较佳实施例的应用环境示意图。
图2是本发明网络请求资源调度方法的第一较佳实施例的方法实施流程图。
图3是图2中所示网络请求资源调度方法的第一较佳实施例中查找虚拟节点的示意图。
图4是图2中所示网络请求资源调度方法的第一较佳实施例中获取边缘服务器的当前负载的详细实施流程图。
图5是本发明网络请求资源调度方法的第二较佳实施例的方法实施流程图。
图6是本发明网络请求资源调度装置的较佳实施例的功能模块图。
图7是实现本发明网络请求资源调度方法的较佳实施例的电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合附图对本发明的各实施方式进行详细的阐述。然而，本领域的普通技术人员可以理解，在本发明各实施方式中，为了使读者更好地理解本申请而提出了许多技术细节。但是，即使没有这些技术细节和基于以下各实施方式的种种变化和修改，也可以实现本申请所要求保护的技术方案。
本发明实施方式涉及一种网络请求资源调度方法，本实施方式通过设置一个平衡因子达到负载一致性与负载均衡之间的平衡点，在保证一致性和稳定性的同时，对负载分配的均匀性进行了改进。此外，本发明实施方式通过一致性协同服务，实现了负载信息的同步及获取，降低了负载统计的所需消耗的性能资源。下面对本实施方式的网络请求资源调度实现细节进行具体的说明，以下内容仅为方便理解提供的实现细节，并非实施本方案的必须。
参阅图1所示，是本发明网络请求资源调度方法的较佳实施例的应用环境示意图。本发明所述网络请求资源调度方法应用在一个CDN(Content Delivery Networ，内容分发网络)中。所述CDN包括一个或者多个负载均衡设备1、至少一个一致性协同设备2、多个边缘服务器3以及多个用户端4。
在本发明实施方式中，所述负载均衡设备1在接收到用户端4发送的用户请求时，采用一致性哈希算法从所述多个边缘服务器3中选择其中一个边缘服务器3，并通过所述一致性协同设备2提供的一致性协同服务，获取所选择的边缘服务器3的当前负载，以及通过一个平衡因子计算所选择的边缘服务器3的目标负载，并根据所述当前负载以及所述目标负载，采用所述一致性哈希算法选择适合的边缘服务器响应所述用户请求。
具体地，本发明网络请求资源调度方法的详细实施方式可以参阅下述的图2至图5的描述。
如图2所示，是本发明网络请求资源调度方法的第一较佳实施例的方法实施流程图。根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。
图2所示所述网络请求资源调度方法的第一较佳实施例应用于一个或者多个电子设备中，所述电子设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application SpecificIntegrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。
优选地，本发明实施例中，所述电子设备可以是图1中所示的负载均衡设备1。在本发明其他实施方式中，所述电子设备还可以包括集成了负载均衡功能的网络设备和/或用户设备。其中，所述网络设备包括，但不限于单个网络服务器、多个网络服务器组成的服务器组或基于云计算(Cloud Computing)的由大量主机或网络服务器构成的云。
所述电子设备所处的网络包括但不限于互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network，VPN)等。
本发明所述网络请求资源调度方法的第一较佳实施例的的目的是为了解决解决边缘服务器负载不均的问题，详细包括如下步骤：
S1，接收用户请求，并计算所述用户请求的哈希值。
本发明较佳实施例中，负载均衡设备1接收到任意一个用户端4发送的用户请求，如一个URL(Uniform Resource Locator,统一资源定位符)时，计算出所述URL的哈希值。哈希(Hash)也称为散列，就是把任意长度的输入，通过散列算法，变换成固定长度的输出，这个输出值就是散列值，即哈希值。
S2、采用一致性哈希算法在一个预先设置的哈希环中确定所述哈希值的位置，并根据所述位置按照预先设定的搜寻方法在所述哈希环中查找一个虚拟节点，并定位该虚拟节点对应的边缘服务器。
其中，所述一致性哈希算法将整个哈希值空间映射成一个虚拟的圆环，称之为哈希环，如图3所示。整个哈希值空间的取值范围为0～232-1，整个空间按顺时针方向组织。
本发明实施例首先获取当前在线的所有边缘服务器3的IP地址，将所述IP地址进行哈希运算，将得到的哈希值对232取模。例如，对边缘服务器A采用公式：hash(边缘服务器A的IP地址)％232，得到一个0～232-1之间的整数，将得到的这个整数代表服务器A放置于所述哈希环中，作为一个虚拟节点，并通过这个方法将所有边缘服务器3映射到所述哈希环中。
接下来，本发明对上述得到的用户请求的哈希值使用同样的算法对232取模得到一个0～232-1之间的整数，判断这个整数与所述哈希环中的虚拟节点的位置关系，并根据所述位置关系按照预先设定的搜寻方法在所述哈希环中查找一个虚拟节点，并定位该虚拟节点对应的边缘服务器。所述预先设定的搜寻方法为，例如，参照图3所示，如果根据用户请求得到的哈希值的位置在虚拟节点A与虚拟节点B之间，则按照沿圆环顺时针的顺序，查找得到虚拟节点B，最后定位到所述虚拟节点B对应的边缘服务器B。
S3、获取所述边缘服务器的当前负载，并根据一个平衡因子计算所述边缘服务器的目标负载。
本发明较佳实施例中，参照图4所示，获取所述边缘服务器的当前负载的详细实施流程如下：S30、在一个一致性协同设备中创建一个负载管理节点；S31、根据所述负载管理节点中新增的子节点获取当前在线的边缘服务器；S33、监听所述子节点中的数据变化，根据所述数据变化获取所述边缘服务器的当前负载。
详细地，所述负载均衡设备1在一个一致性协同设备中创建一个负载管理节点(/egdeinfo)。较佳地，所述一致性协同设备可基于一致性协议(paxos，raft)等的开源框架，zookeeper、consul、etcd等组件实现。本发明实施例以zookeeper组件为例。所述Zookeeper组件的数据模型结构与Unix文件系统很类似，是一个树状层次结构。每个节点叫做Znode，节点可以拥有子节点，同时允许将少量数据存储在该子节点下。
边缘服务器3在服务启动时通过在所述一致性协同设备的负载管理节点下为自己创建临时顺序的子节点(/egdeinfo/egde01)，完成所述边缘服务器3的注册，其中，子节点名可为边缘服务器的IP地址或者主机名。所述负载均衡设备1可以根据所述负载管理节点中新增的子节点获取当前在线的边缘服务器。
进一步地，所述边缘服务器3定时将自身最新负载信息保存在对应的子节点(/egdeinfo/egde01)上。所述负载均衡设备1可以监听所述子节点中的数据变化，根据所述数据变化获取所述边缘服务器的当前负载。
本发明实施方式中所述平衡因子是用于控制边缘服务器3之间允许的负载不平衡程度，其值一般大于1。假设平衡因子为1.25，则表示边缘服务器3不应该超过平均负载的125％。在平衡因子增加到+∞的极限中，本发明实施方式等效于普通一致性哈希方案，没有进行负载平衡；当平衡因子减小到接近1时，本发明实施方式变成最小负载的均衡策略，此时哈希计算变得不太重要。
假设有A1，A2，A3…An，n台在线的边缘服务器，每台边缘服务器的当前负载分别为hostLoad1，hostLoad2，hostLoad3…hostLoadn，权重分别为R1，R2，R3…Rn，则平均负载avgLoad计算方式为：
avgLoad＝(hostLoad1*R1+hostLoad2*R2+hostLoad3*R3+…+hostLoadn*Rn)/n。
此时，任意一台边缘服务器Ai的目标负载destLoadi计算方式为：
destLoadi＝min(avgLoad*C,maxLoad)，其中，MaxLoad为最大负载上限，C为平衡因子。当目标负载接近最大负载上限时，说明边缘服务器Ai需要扩容。
S4、判断所述当前负载是否小于所述目标负载。
若所述当前负载大于或者等于所述目标负载，则执行S5、按照所述预先设定的搜寻方法从所述哈希环中查找下一个虚拟节点，并定位该虚拟节点对应的边缘服务器，之后返回重复执行上述的S3。
若所述当前负载小于所述目标负载，则执行S6、将所述用户请求转发给所述边缘服务器，以使所述边缘服务器对所述用户请求进行响应。
由于每个边缘服务器的当前负载不可能全都高于所述目标负载，因此，利用本发明所述实施方式总能找到一个符合条件的边缘服务器响应所述用户请求。
通过本发明的上述方案能够达到以下几个目的：
1、边缘服务器的当前负载基本不会超过平均负载与平衡因子的乘积；
2、只要边缘服务器未过载(当前负载小于目标负载)，请求的分配策略与目前的一致性哈希相同；
3、如果边缘服务器过载，则所选择的备用边缘服务器列表对于相同的请求将是相同的，能够尽可能的保证数据一致性。
综上所述，本发明实施例能够有效地解决边缘服务器负载不均的问题。
参阅图5所示，是本发明网络请求资源调度方法的第二较佳实施例的方法实施流程图。根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。
图5所示所述网络请求资源调度方法的第二较佳实施例应用于一个或者多个边缘服务器中，用于计算所述边缘服务器的当前负载，并将所述当前负载同步到一致性协同设备中，详细包括如下步骤：
S40、在一致性协同设备的负载管理节点中创新一个子节点。
如上所述，所述负载均衡设备1在一致性协同设备2中创建一个负载管理节点(/egdeinfo)，当所述边缘服务器3启动时，在所述负载管理节点(/egdeinfo)下为自己创建临时顺序的子节点(/egdeinfo/egde01)。其中，所述子节点的命名可为边缘服务器的IP地址或者主机名，完成所述边缘服务器3的注册。
S50、通过系统接口获取系统负载指标以及通过统计分析获取业务负载指标。
所述边缘服务器3中的负载采集计算模块定时通过系统接口获取所述系统负载指标，包括但不限于sys_cpuload(cpu使用率)，sys_memload(内存使用率)，sys_diskioload(磁盘io使用率)，sys_bwload(带宽使用率)等，并通过对业务请求和连接进行统计分析，获取所述业务负载指标，包括但不限于app_connload(即并发连接负载率＝并发连接数/最大并发连接数)，app_tpsload(即并发请求负载率＝并发请求数/最大并发请求数)。
S60、根据所述系统负载指标及业务负载指标，采用预设的计算方法计算当前负载，并将所述当前负载存储到所述子节点中。
边缘服务器3的当前负载的计算方式包括，但不限于，加权法，最大值法等。假设纳入当前负载计算的指标包括，sys_cpuload、sys_memload、sys_diskioload、sys_bwload、app_connload、app_tpsload。
以采用加权法为例，可先通过经验直接赋权、根据熵权法或者层次分析法等方式中的任意一种确定各指标的权重，假设通过上述方式确定以上各指标的权重为r1，r2，r3，r4，r5，r6，则边缘服务器3的当前负载hostload的计算方式为：
Hostload＝r1*sys_cpuload+r2*sys_memload+r3*sys_diskioload+r4*sys_bwload+r5*app_connload+r6*app_tpsload。
又一实施例中，以采用最大值法为例，边缘服务器3的当前负载hostload的计算方法为：
Hostload＝max(sys_cpuload，sys_memload，sys_diskioload，sys_bwload，app_connload，app_tpsload)。
本发明实施例将上述计算得到的边缘服务器3的当前负载存储到所述子节点中所述负载管理节点(/egdeinfo)下以自己的IP地址或者主机名命名的子节点(/egdeinfo/egde01)中，从而实现与负载均衡设备1之间当前负载的同步。由于负载都是由边缘服务器自己计算统计得到，而不需通过负载均衡设备计算统计，因此，得到的负载信息更为精准，进一步地，所有的负载信息由边缘服务器上传至一致性协同设备，负载均衡设备只需要从所述一致性协同设备中直接获取即可，对于负载均衡设备集群部署的场景同样适用。
如图6所示，是本发明资源调度装置的较佳实施例的功能模块图。
本发明所述资源调度装置100可以安装于负载均衡设备等电子设备中。根据实现的功能，所述资源调度装置100可以包括调度分发模块101和负载管理模块102。本发所述模块也可以称之为单元，是指一种能够被电子设备1的处理器所执行，并且能够完成固定功能的一系列计算机程序段，其存储在电子设备的存储器中。
在本实施例中，关于各模块/单元的功能如下：
所述调度分发模块101用于接收用户请求，并计算所述用户请求的哈希值，采用一致性哈希算法在一个预先设置的哈希环中确定所述哈希值的位置，并根据所述位置按照预先设定的搜寻方法在所述哈希环中查找一个虚拟节点，并定位该虚拟节点对应的边缘服务器。
所述负载管理模块102用于获取所述边缘服务器的当前负载，并根据一个平衡因子计算所述边缘服务器的目标负载。
详细地，在获取所述边缘服务器的当前负载时，所述负载管理模块102在一个一致性协同设备中创建一个负载管理节点，根据所述负载管理节点中新增的子节点获取当前在线的边缘服务器，监听所述子节点中的数据变化，根据所述数据变化获取所述边缘服务器的当前负载。
进一步地，所述平衡因子是用于控制边缘服务器3之间允许的负载不平衡程度。本发明采用下述方式计算所述边缘服务器的目标负载：
首先，计算n台边缘服务器的平均负载avgLoad：
avgLoad＝(hostLoad1*R1+hostLoad2*R2+hostLoad3*R3+…+hostLoadn*Rn)/n，其中,hostLoad1，hostLoad2，hostLoad3…hostLoadn为每台边缘服务器的当前负载，R1，R2，R3…Rn为权重；
再计算任意一台边缘服务器的目标负载destLoadi：
destLoadi＝min(avgLoad*C,maxLoad)，其中，MaxLoad为最大负载上限，C为平衡因子。
所述调度分发模块101还用于判断所述当前负载是否小于所述目标负载，若所述当前负载大于或者等于所述目标负载，则按照所述预先设定的搜寻方法从所述哈希环中查找下一个虚拟节点，并定位该虚拟节点对应的边缘服务器，若所述当前负载小于所述目标负载，则将所述用户请求转发给所述边缘服务器。
如图7所示，是本发明实现资源调度方法的较佳实施例的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线，还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序，例如网络请求资源调度程序12。
其中，所述存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如：SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元，例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备，例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地，所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据，例如资源调度程序的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成，例如可以由单个封装的集成电路所组成，也可以是由多个相同功能或不同功能封装的集成电路所组成，包括一个或者多个中央处理器(Central Processing unit，CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备1的控制核心(Control Unit)，利用各种接口和线路连接整个电子设备1的各个部件，通过运行或执行存储在所述存储器11内的程序或者模块(例如执行资源调度程序等)，以及调用存储在所述存储器11内的数据，以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect，简称PCI)总线或扩展工业标准结构(extended industry standard architecture，简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图7仅示出了具有部件10-11的电子设备1，本领域技术人员可以理解的是，图7示出的结构并不构成对所述电子设备1的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。
例如，尽管未示出，所述电子设备1还可以包括给各个部件供电的电源(比如电池)，优选地，电源可以通过电源管理装置与所述至少一个处理器10逻辑相连，从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等，在此不再赘述。
进一步地，所述电子设备1还可以包括网络接口，可选地，所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等)，通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地，该电子设备1还可以包括用户接口，用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard))，可选地，用户接口还可以是标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode，有机发光二极管)触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解，所述实施例仅为说明之用，在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的请求资源调度程序12是多个指令的组合，在所述处理器10中运行时，可以实现：
接收用户请求，并计算所述用户请求的哈希值，采用一致性哈希算法在一个预先设置的哈希环中确定所述哈希值的位置，并根据所述位置按照预先设定的搜寻方法在所述哈希环中查找一个虚拟节点，并定位该虚拟节点对应的边缘服务器；
获取所述边缘服务器的当前负载，并根据一个平衡因子计算所述边缘服务器的目标负载；
判断所述当前负载是否小于所述目标负载，若所述当前负载大于或者等于所述目标负载，则按照所述预先设定的搜寻方法从所述哈希环中查找下一个虚拟节点，并定位该虚拟节点对应的边缘服务器，若所述当前负载小于所述目标负载，则将所述用户请求转发给所述边缘服务器。
具体地，所述处理器10对上述指令的具体实现方法可参考图2对应实施例中相关步骤的描述，在此不赘述。
进一步地，所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)。
在本发明所提供的几个实施例中，应该理解到，所揭露的设备，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称，而并不表示任何特定的顺序。
最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。

Claims (10)

1.一种网络请求资源调度方法，其特征在于，所述方法包括：
接收用户请求，并计算所述用户请求的哈希值；
采用一致性哈希算法在一个预先设置的哈希环中确定所述哈希值的位置，并根据所述位置按照预先设定的搜寻方法在所述哈希环中查找一个虚拟节点，并定位该虚拟节点对应的边缘服务器；
获取所述边缘服务器的当前负载，并根据一个预设的平衡因子计算所述边缘服务器的目标负载；
当所述当前负载大于或者等于所述目标负载时，按照所述预先设定的搜寻方法从所述哈希环中查找下一个虚拟节点，直到所述虚拟节点对应的边缘服务器的当前负载小于目标负载；
当所述当前负载小于所述目标负载时，将所述用户请求转发给所述边缘服务器。
2.如权利要求1所述的网络请求资源调度方法，其特征在于，所述获取所述边缘服务器的当前负载包括：
在一个一致性协同设备中创建一个负载管理节点；
根据所述负载管理节点中新增的子节点获取当前在线的边缘服务器；
监听所述子节点中的数据变化，根据所述数据变化获取所述边缘服务器的当前负载。
3.如权利要求2所述的网络请求资源调度方法，其特征在于，所述根据一个平衡因子计算所述边缘服务器的目标负载，包括：
计算所述当前在线的边缘服务器平均负载avgLoad：
avgLoad＝(hostLoad1*R1+hostLoad2*R2+hostLoad3*R3+…+hostLoadn*Rn)/n，
其中，n为所述当前在线的边缘服务器的数量，hostLoad1，hostLoad2，hostLoad3…hostLoadn分别为所述当前在线的边缘服务器的当前负载，R1，R2，R3…Rn为预设权重；
计算其中一台边缘服务器Ai的目标负载destLoadi：
destLoadi＝min(avgLoad*C,maxLoad)，
其中，MaxLoad为所述边缘服务器Ai的最大负载上限，C为所述预设的平衡因子。
4.如权利要求2或3中所述的网络请求资源调度方法，其特征在于，所述边缘服务器的当前负载通过下述方法得到：
定时通过所述边缘服务器的系统接口获取系统负载指标；
通过对所述边缘服务器的业务请求和连接进行统计分析，获取所述边缘服务器的业务负载指标；
根据所述系统负载指标及业务负载指标，采用预设的计算方法计算所述边缘服务器的当前负载，并将所述当前负载上传至所述一致性协同设备中的负载管理节点下对应的子节点中。
5.如权利要求4所述的网络请求资源调度方法，其特征在于，所述系统负载指标包括cpu使用率、内存使用率、磁盘io使用率、带宽使用率，及所述业务负载指标包括并发连接负载率及并发请求负载率。
6.如权利要求5所述的网络请求资源调度方法，其特征在于，所述预设的计算方法包括：
通过经验直接赋权、根据熵权法或者层次分析法中任意一种方法确定所述系统负载指标及业务负载指标中各指标的权重rn(n＝1,2,3…n)，通过下述方式计算所述边缘服务器的当前负载hostload：
Hostload＝r1*sys_cpuload+r2*sys_memload+r3*sys_diskioload+r4*sys_bwload+r5*app_connload+r6*app_tpsload；或者
Hostload＝max(sys_cpuload，sys_memload，sys_diskioload，sys_bwload，app_connload，app_tpsload)；
其中，sys_cpuload为所述cpu使用率，sys_memload为所述内存使用率，sys_diskioload为所述磁盘io使用率，sys_bwload为所述带宽使用率，app_connload为所述并发连接负载率，及app_tpsload为所述并发请求负载率。
7.如权利要求1至3中任意一项所述的网络请求资源调度方法，其特征在于，所述一致性协同设备基于一致性协议的开源框架，包括zookeeper、etcd、euerka或者consul组件。
8.一种网络请求资源调度装置，其特征在于，所述装置包括：
调度分发模块，用于接收用户请求，并计算所述用户请求的哈希值，采用一致性哈希算法在一个预先设置的哈希环中确定所述哈希值的位置，并根据所述位置按照预先设定的搜寻方法在所述哈希环中查找一个虚拟节点，并定位该虚拟节点对应的边缘服务器；
负载管理模块，用于获取所述边缘服务器的当前负载，并根据一个预设的平衡因子计算所述边缘服务器的目标负载；
所述调度分发模块，还用于当所述当前负载大于或者等于所述目标负载时，按照所述预先设定的搜寻方法从所述哈希环中查找下一个虚拟节点，直到所述虚拟节点对应的边缘服务器的当前负载小于所述目标负载时，将所述用户请求转发给所述边缘服务器。
9.一种电子设备，其特征在于，所述电子设备包括：
存储器，存储至少一个指令；及
处理器，执行所述存储器中存储的指令以实现如权利要求1至7中任意一项所述的网络请求资源调度方法。
10.一种计算机可读存储介质，其特征在于：所述计算机可读存储介质中存储有至少一个指令，所述至少一个指令被电子设备中的处理器执行以实现如权利要求1至7中任意一项所述的网络请求资源调度方法。
CN202010024678.9A 2020-01-10 2020-01-10 网络请求资源调度方法、装置、电子设备及存储介质 Pending CN111225059A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010024678.9A CN111225059A (zh) 2020-01-10 2020-01-10 网络请求资源调度方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010024678.9A CN111225059A (zh) 2020-01-10 2020-01-10 网络请求资源调度方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN111225059A true CN111225059A (zh) 2020-06-02

Family

ID=70831565

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010024678.9A Pending CN111225059A (zh) 2020-01-10 2020-01-10 网络请求资源调度方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN111225059A (zh)

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111600794A (zh) * 2020-07-24 2020-08-28 腾讯科技（深圳）有限公司 服务器切换方法、终端、服务器及存储介质
CN111770302A (zh) * 2020-07-16 2020-10-13 安徽华速达电子科技有限公司 基于光网络单元设备的视频推流负载均衡方法及系统
CN112104752A (zh) * 2020-11-12 2020-12-18 上海七牛信息技术有限公司 一种内容分发网络缓存节点的热点均衡方法及系统
CN112492008A (zh) * 2020-11-19 2021-03-12 深圳壹账通智能科技有限公司 节点位置确定方法、装置、计算机设备和存储介质
CN112948120A (zh) * 2021-03-18 2021-06-11 广东好太太智能家居有限公司 负载均衡方法、系统、装置和存储介质
CN112994949A (zh) * 2021-04-02 2021-06-18 软通动力信息技术(集团)股份有限公司 一种专网连接方法、装置、设备及存储介质
CN113382074A (zh) * 2021-06-10 2021-09-10 东南大学 一种基于动态反馈的微服务负载均衡优化方法
CN113472901A (zh) * 2021-09-02 2021-10-01 深圳市信润富联数字科技有限公司 负载均衡方法、装置、设备、存储介质及程序产品
CN113596094A (zh) * 2021-06-29 2021-11-02 付腾瑶 一种基于云集群的负载均衡方法及装置
CN113778645A (zh) * 2021-08-18 2021-12-10 煤炭科学研究总院 基于边缘计算的任务调度方法、装置、设备及存储介质
CN113923218A (zh) * 2021-10-09 2022-01-11 天翼物联科技有限公司 编解码插件分布式部署方法、装置、设备及介质
CN114124797A (zh) * 2021-11-19 2022-03-01 中国电信集团系统集成有限责任公司 一种服务器路由方法、装置、电子设备及存储介质
CN114553964A (zh) * 2020-11-20 2022-05-27 中移动信息技术有限公司 一种联播系统的管控方法、装置、设备及联播系统
CN114553868A (zh) * 2022-02-10 2022-05-27 中盈优创资讯科技有限公司 一种解决大规模网络统一网元调度的方法及装置
CN115277676A (zh) * 2022-07-28 2022-11-01 招商局金融科技有限公司 基于负载均衡器的文件传输控制方法、装置、设备及介质
CN116055496A (zh) * 2022-12-30 2023-05-02 广州趣研网络科技有限公司 一种监控数据采集方法、装置、电子设备及存储介质
WO2023098702A1 (zh) * 2021-11-30 2023-06-08 中兴通讯股份有限公司 流量均衡方法、电子设备、计算机可读存储介质
CN117093429A (zh) * 2023-08-18 2023-11-21 上海皿鎏数字科技有限公司 一种服务器稳定性评价方法及系统
WO2024016506A1 (zh) * 2022-07-20 2024-01-25 青岛海尔科技有限公司 网关设备的控制方法、装置、存储介质及电子装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102523158A (zh) * 2011-12-15 2012-06-27 杭州电子科技大学 一种基于权重的元数据服务器集群负载均衡方法
CN106161120A (zh) * 2016-10-08 2016-11-23 电子科技大学 动态均衡负载的分布式元数据管理方法
CN108173937A (zh) * 2017-12-28 2018-06-15 北京中电普华信息技术有限公司 访问控制方法和装置
CN110365743A (zh) * 2019-06-21 2019-10-22 南京壹进制信息科技有限公司 一种基于Zookeeper实现的支持多种可自定义负载算法的负载均衡器实现方法
CN110515728A (zh) * 2019-08-19 2019-11-29 杭州迪普科技股份有限公司 服务器调度方法、装置、电子设备及机器可读存储介质
KR20190138355A (ko) * 2018-06-05 2019-12-13 엔에이치엔 주식회사 유저 이동을 통한 서버 채널의 자동 로드 밸런싱 방법

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102523158A (zh) * 2011-12-15 2012-06-27 杭州电子科技大学 一种基于权重的元数据服务器集群负载均衡方法
CN106161120A (zh) * 2016-10-08 2016-11-23 电子科技大学 动态均衡负载的分布式元数据管理方法
CN108173937A (zh) * 2017-12-28 2018-06-15 北京中电普华信息技术有限公司 访问控制方法和装置
KR20190138355A (ko) * 2018-06-05 2019-12-13 엔에이치엔 주식회사 유저 이동을 통한 서버 채널의 자동 로드 밸런싱 방법
CN110365743A (zh) * 2019-06-21 2019-10-22 南京壹进制信息科技有限公司 一种基于Zookeeper实现的支持多种可自定义负载算法的负载均衡器实现方法
CN110515728A (zh) * 2019-08-19 2019-11-29 杭州迪普科技股份有限公司 服务器调度方法、装置、电子设备及机器可读存储介质

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111770302A (zh) * 2020-07-16 2020-10-13 安徽华速达电子科技有限公司 基于光网络单元设备的视频推流负载均衡方法及系统
CN111600794A (zh) * 2020-07-24 2020-08-28 腾讯科技（深圳）有限公司 服务器切换方法、终端、服务器及存储介质
CN112104752A (zh) * 2020-11-12 2020-12-18 上海七牛信息技术有限公司 一种内容分发网络缓存节点的热点均衡方法及系统
CN112492008B (zh) * 2020-11-19 2022-05-20 深圳壹账通智能科技有限公司 节点位置确定方法、装置、计算机设备和存储介质
CN112492008A (zh) * 2020-11-19 2021-03-12 深圳壹账通智能科技有限公司 节点位置确定方法、装置、计算机设备和存储介质
CN114553964A (zh) * 2020-11-20 2022-05-27 中移动信息技术有限公司 一种联播系统的管控方法、装置、设备及联播系统
CN112948120A (zh) * 2021-03-18 2021-06-11 广东好太太智能家居有限公司 负载均衡方法、系统、装置和存储介质
CN112994949A (zh) * 2021-04-02 2021-06-18 软通动力信息技术(集团)股份有限公司 一种专网连接方法、装置、设备及存储介质
CN113382074A (zh) * 2021-06-10 2021-09-10 东南大学 一种基于动态反馈的微服务负载均衡优化方法
CN113596094A (zh) * 2021-06-29 2021-11-02 付腾瑶 一种基于云集群的负载均衡方法及装置
CN113596094B (zh) * 2021-06-29 2023-08-11 武汉思诚科技有限公司 一种基于云集群的负载均衡方法及装置
CN113778645A (zh) * 2021-08-18 2021-12-10 煤炭科学研究总院 基于边缘计算的任务调度方法、装置、设备及存储介质
CN113472901A (zh) * 2021-09-02 2021-10-01 深圳市信润富联数字科技有限公司 负载均衡方法、装置、设备、存储介质及程序产品
CN113923218B (zh) * 2021-10-09 2023-07-21 天翼物联科技有限公司 编解码插件分布式部署方法、装置、设备及介质
CN113923218A (zh) * 2021-10-09 2022-01-11 天翼物联科技有限公司 编解码插件分布式部署方法、装置、设备及介质
CN114124797A (zh) * 2021-11-19 2022-03-01 中国电信集团系统集成有限责任公司 一种服务器路由方法、装置、电子设备及存储介质
CN114124797B (zh) * 2021-11-19 2023-08-04 中电信数智科技有限公司 一种服务器路由方法、装置、电子设备及存储介质
WO2023098702A1 (zh) * 2021-11-30 2023-06-08 中兴通讯股份有限公司 流量均衡方法、电子设备、计算机可读存储介质
CN114553868A (zh) * 2022-02-10 2022-05-27 中盈优创资讯科技有限公司 一种解决大规模网络统一网元调度的方法及装置
CN114553868B (zh) * 2022-02-10 2023-06-23 中盈优创资讯科技有限公司 一种解决大规模网络统一网元调度的方法及装置
WO2024016506A1 (zh) * 2022-07-20 2024-01-25 青岛海尔科技有限公司 网关设备的控制方法、装置、存储介质及电子装置
CN115277676A (zh) * 2022-07-28 2022-11-01 招商局金融科技有限公司 基于负载均衡器的文件传输控制方法、装置、设备及介质
CN115277676B (zh) * 2022-07-28 2024-02-20 招商局金融科技有限公司 基于负载均衡器的文件传输控制方法、装置、设备及介质
CN116055496A (zh) * 2022-12-30 2023-05-02 广州趣研网络科技有限公司 一种监控数据采集方法、装置、电子设备及存储介质
CN116055496B (zh) * 2022-12-30 2024-04-05 广州趣研网络科技有限公司 一种监控数据采集方法、装置、电子设备及存储介质
CN117093429A (zh) * 2023-08-18 2023-11-21 上海皿鎏数字科技有限公司 一种服务器稳定性评价方法及系统
CN117093429B (zh) * 2023-08-18 2024-04-26 上海皿鎏数字科技有限公司 一种服务器稳定性评价方法及系统

Similar Documents

Publication Publication Date Title
CN111225059A (zh) 网络请求资源调度方法、装置、电子设备及存储介质
US10255091B2 (en) Adaptive CPU NUMA scheduling
CN109684074B (zh) 物理机资源分配方法及终端设备
US9699250B2 (en) Method and system for building an elastic cloud web server farm
CN105491138B (zh) 一种基于负载率分级触发的分布式负载调度方法
WO2021004063A1 (zh) 一种缓存服务器的带宽调度方法及装置
CN103067297B (zh) 一种基于资源消耗预测的动态负载均衡方法及装置
CN106657248A (zh) 一种基于Docker容器的网络负载均衡系统及其搭建方法、工作方法
US8046458B2 (en) Method and system for balancing the load and computer resources among computers
CN105159775A (zh) 基于负载均衡器的云计算数据中心的管理系统和管理方法
KR102047037B1 (ko) 로컬 캐시들을 갖는 메모리 캐시형 시스템들
CN107105013B (zh) 文件的处理方法、服务器、终端和系统
CN108667744A (zh) 流量控制方法及装置
CN103810015A (zh) 虚拟机创建方法和设备
CN103457870B (zh) 用于分布式系统的负载均衡及高可用性子系统及方法
WO2021072847A1 (zh) 计算机网络状况监控方法、装置、计算机设备及存储介质
CN111092942B (zh) 报文处理方法、装置、电子设备及存储介质
CN107003947B (zh) 产生用于共享高速缓冲存储器系统的近似使用测量
CN108200211B (zh) 集群中镜像文件下载的方法、节点和查询服务器
CN113419856A (zh) 智能限流方法、装置、电子设备及存储介质
Tang et al. A block-level caching optimization method for mobile transparent computing
Yadgar et al. Cooperative caching with return on investment
CN111191156A (zh) 网络请求资源调度方法、装置及计算机可读存储介质
CN113312328B (zh) 控制方法、数据处理方法、数据访问方法及计算设备
JP2019032653A (ja) 分散方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20200602