CN114510340A - 网络服务负载分配系统及其方法 - Google Patents

网络服务负载分配系统及其方法 Download PDF

Info

Publication number
CN114510340A
CN114510340A CN202011285388.6A CN202011285388A CN114510340A CN 114510340 A CN114510340 A CN 114510340A CN 202011285388 A CN202011285388 A CN 202011285388A CN 114510340 A CN114510340 A CN 114510340A
Authority
CN
China
Prior art keywords
service
service server
server
data
load distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011285388.6A
Other languages
English (en)
Inventor
郭志男
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Inventec Pudong Technology Corp
Inventec Corp
Original Assignee
Inventec Pudong Technology Corp
Inventec Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Inventec Pudong Technology Corp, Inventec Corp filed Critical Inventec Pudong Technology Corp
Priority to CN202011285388.6A priority Critical patent/CN114510340A/zh
Priority to US17/125,892 priority patent/US20220156113A1/en
Publication of CN114510340A publication Critical patent/CN114510340A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/5044—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering hardware capabilities
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5072—Grid computing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5077—Logical partitioning of resources; Management or configuration of virtualized resources
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/54—Interprogram communication
    • G06F9/546—Message passing systems or structures, e.g. queues
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/501—Performance criteria
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/54—Indexing scheme relating to G06F9/54
    • G06F2209/548—Queue

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Computer And Data Communications (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明公开一种网络服务负载分配系统及其方法，服务服务器依据服务服务器的识别信息以及服务服务器的服务内容将服务服务器的硬件效能数据生成消息队列，负载分配服务器通过订阅方式从服务服务器接收消息队列，负载分配服务器获取被轮询到服务服务器的消息队列，以取得对应的服务服务器的硬件效能数据，当服务服务器的硬件效能数据被判断出大于等于阈值，或是硬件效能计算数据被判断出大于等于阈值时，负载分配服务器对服务服务器的效能警示指标进行累计，且通知再次进行服务服务器的轮询，借此可以达成提供合理性网络服务负载分配的技术功效。

Description

网络服务负载分配系统及其方法
技术领域
本发明涉及一种负载分配系统及其方法，尤其是指一种服务服务器以消息队列方式提供硬件效能数据至负载分配服务器，负载分配服务器进行服务服务器的轮询会依据服务服务器的硬件效能数据进行服务负载分配的网络服务负载分配系统及其方法。
背景技术
随着网络服务功能日益复杂，且网络服务引发访问量出现明显增长，需要将网络服务进行水准扩展进行分散式部署，以解决单点服务在并发访问量大时出现服务不可用等的问题。
目前针对这个问题通用的方法是设置一个负责将前端请求分发到后台服务的负载均衡装置，这个装置可以是硬件也可以是软件，工作原理一般是通过配置策略：例如：依据服务服务器的数量依序进行服务的提供、依据指定服务服务器的优先顺序进行服务的提供或是依据服务服务器的网络延迟时间进行服务的提供等。
同时，还会结合对服务服务器的健康状态进行监控，将无法使用的服务服务器进行标识，从服务服务器清单中移除，同时在服务服务器恢复为可使用后，可以重新加入服务服务器清单等。虽然针对服务请求的考虑比较全面，然而在实际运行过程中，经常会出现一些服务服务器执行了较为复杂的计算逻辑造成系统资源被占用过多，但依旧被再次要求提供服务，对其他服务请求无法进行及时回应的情况，相对来说，另外一些服务服务器实际上资源基本没有消耗，即处于空闲状态，但并没有分配到更多的服务请求以提供服务。
综上所述，可知现有技术中长期以来一直存在现有网络服务负载分配合理性不足的问题，因此有必要提出改进的技术手段，来解决此问题。
发明内容
有鉴于现有技术存在现有网络服务负载分配合理性不足的问题，本发明遂公开一种网络服务负载分配系统及其方法，其中：
本发明所公开的网络服务负载分配系统，其包含：多个服务服务器以及负载分配服务器，服务服务器还包括：信息收集模块、数据库、生成模块以及消息队列发送模块；负载分配服务器还包括：接收模块、数据计算模块、轮询模块、数据获取模块以及负载分配模块。
服务服务器的信息收集模块用以收集服务服务器的硬件效能数据；服务服务器的数据库用以依据收集到服务服务器的硬件效能数据的系统时间储存服务服务器的硬件效能数据；服务服务器的生成模块用以依据服务服务器的识别信息以及服务服务器的服务内容将服务服务器的硬件效能数据生成消息队列；以及服务服务器的消息队列发送模块用以发送消息队列。
负载分配服务器的接收模块用以通过订阅方式从消息队列发送模块接收消息队列；负载分配服务器的数据计算模块用以当消息队列中的服务服务器的服务内容为特定的服务内容时，对服务服务器的硬件效能数据进行对应的数据计算以生成硬件效能计算数据；负载分配服务器的轮询模块用以依序轮询服务服务器；负载分配服务器的数据获取模块用以获取被轮询到服务服务器的消息队列，以取得对应的服务服务器的硬件效能数据，或是取得硬件效能计算数据；以及负载分配服务器的负载分配模块用以当服务服务器的硬件效能数据被判断出大于等于阈值，或是硬件效能计算数据被判断出大于等于阈值时，对服务服务器的效能警示指标进行累计，且通知轮询模块进行服务服务器的轮询，当服务服务器的效能警示指标大于等于预设值时，则将服务服务器移除轮询。
本发明所公开的网络服务负载分配方法，其包含下列步骤：
首先，提供多个服务服务器，每一个服务服务器收集服务服务器的硬件效能数据；接着，服务服务器依据收集到服务服务器的硬件效能数据的系统时间储存服务服务器的硬件效能数据；接着，服务服务器依据服务服务器的识别信息以及服务服务器的服务内容将服务服务器的硬件效能数据生成消息队列；接着，服务服务器发送消息队列；接着，负载分配服务器通过订阅方式从服务服务器接收消息队列；接着，当消息队列中的服务服务器的服务内容为特定的服务内容时，负载分配服务器对服务服务器的硬件效能数据进行对应的数据计算以生成硬件效能计算数据；接着，负载分配服务器依序轮询服务服务器；接着，负载分配服务器获取被轮询到服务服务器的消息队列，以取得对应的服务服务器的硬件效能数据，或是取得硬件效能计算数据；接着，当服务服务器的硬件效能数据被判断出大于等于阈值，或是硬件效能计算数据被判断出大于等于阈值时，负载分配服务器对服务服务器的效能警示指标进行累计，且通知再次进行服务服务器的轮询；最后，当服务服务器的效能警示指标大于等于预设值时，负载分配服务器将服务服务器移除轮询。
本发明所公开的系统及方法如上，与现有技术之间的差异在于服务服务器依据服务服务器的识别信息以及服务服务器的服务内容将服务服务器的硬件效能数据生成消息队列，负载分配服务器通过订阅方式从服务服务器接收消息队列，负载分配服务器获取被轮询到服务服务器的消息队列，以取得对应的服务服务器的硬件效能数据，当服务服务器的硬件效能数据被判断出大于等于阈值，或是硬件效能计算数据被判断出大于等于阈值时，负载分配服务器对服务服务器的效能警示指标进行累计，且通知再次进行服务服务器的轮询。
通过上述的技术手段，本发明可以达成提供合理性网络服务负载分配的技术功效。
附图说明
图1示出本发明网络服务负载分配系统的系统方框图。
图2示出本发明网络服务负载分配的架构示意图。
图3A以及图3B示出本发明网络服务负载分配方法的方法流程图。
附图标记说明：
10 服务服务器
101 第一服务服务器
102 第二服务服务器
11 信息收集模块
12 数据库
13 生成模块
14 消息队列发送模块
20 负载分配服务器
21 接收模块
22 数据计算模块
23 轮询模块
24 数据获取模块
25 负载分配模块
30 使用者装置
31 服务请求
具体实施方式
以下将配合图式及实施例来详细说明本发明的实施方式，借此对本发明如何应用技术手段来解决技术问题并达成技术功效的实现过程充分理解并据以实施。
以下首先要说明本发明所公开的网络服务负载分配系统，并请参考图1以及图2所示，图1示出本发明网络服务负载分配系统的系统方框图；图2示出本发明网络服务负载分配的架构示意图。
本发明所公开的网络服务负载分配系统，其包含：多个服务服务器10以及负载分配服务器20，服务服务器10还包括：信息收集模块11、数据库12、生成模块13以及消息队列发送模块14；负载分配服务器20还包括：接收模块21、数据计算模块22、轮询模块23、数据获取模块24以及负载分配模块25。
服务服务器10提供使用者所需求的网络服务，不同的服务服务器10提供使用者不同的网络服务，服务服务器10的信息收集模块11用以收集服务服务器10的硬件效能数据，在本发明中每一个网络服务提供至少两个服务服务器10。
前述的硬件效能数据包含中央处理器的使用率、存储器的使用率、存储器的空闲空间、硬盘的每秒读写次数(Input/Output Operations Per Second，IOPS)、网络流量、网络延时、服务平均响应时间以及数据流量的组合，在此仅为举例说明，并不以此局限本发明的应用范围。
在服务服务器10的信息收集模块11收集到服务服务器10的硬件效能数据时，即可通过服务服务器10的数据库12依据收集到服务服务器10的硬件效能数据的系统时间储存服务服务器10的硬件效能数据。
当服务服务器10的信息收集模块11收集到服务服务器10的硬件效能数据时，服务服务器10的生成模块13也可依据服务服务器10的识别信息以及服务服务器10的服务内容将服务服务器10的硬件效能数据生成消息队列。
服务服务器10的识别信息例如是：媒体存取控制地址(Media Access ControlAddress，MAC Address)、网际网络协定地址(Internet Protocol Address，IP Address)等，在此仅为举例说明，并不以此局限本发明的应用范围；服务服务器10的服务内容例如是：登录服务、查询服务、搜寻服务、计算服务等，在此仅为举例说明，并不以此局限本发明的应用范围。
在服务服务器10的生成模块13依据服务服务器10的识别信息以及服务服务器10的服务内容将服务服务器10的硬件效能数据生成消息队列时，即可通过服务服务器10的消息队列发送模块14发送消息队列。
负载分配服务器20与每一个服务服务器10彼此之间通过有线传输方式或是无线传输方式建立连线，前述的有线传输方式例如是：电缆网络、光纤网络等，前述的无线传输方式例如是：Wi-Fi、移动通信网络(例如是：3G、4G、5G等)，在此仅为举例说明，并不以此局限本发明的应用范围。
在服务服务器10的消息队列发送模块14发送消息队列，负载分配服务器20即可通过负载分配服务器20的接收模块21通过订阅方式从服务服务器10的消息队列发送模块14接收消息队列。
接着，负载分配服务器20的数据计算模块22用以当消息队列中的服务服务器10的服务内容为特定的服务内容时，对服务服务器10的硬件效能数据进行对应的数据计算以生成硬件效能计算数据。
服务服务器10的服务内容为查询服务或是搜寻服务时，负载分配服务器20的数据计算模块22即会对服务服务器10的硬件效能数据进行对应的数据计算以生成硬件效能计算数据，硬件效能计算数据例如是：服务平均响应时间以及数据流量等，在此仅为举例说明，并不以此局限本发明的应用范围。
在使用者装置30提供服务请求31，负载分配服务器20会需要对使用者装置30所提供的服务请求31进行服务服务器10的分配，负载分配服务器20的轮询模块23会依据服务请求依序轮询对应的服务服务器10。
具体而言，假设第一服务服务器101以及第二服务服务器102皆提供查询服务，在负载分配服务器20需要对服务请求31为“查询服务”进行服务服务器10的分配时，负载分配服务器20的轮询模块23会依据服务请求31为“查询服务”依序轮询对应的第一服务服务器101以及第二服务服务器102，在此仅为举例说明，并不以此局限本发明的应用范围。
接着，负载分配服务器20的数据获取模块24用以获取被轮询到服务服务器10的消息队列，以取得对应的服务服务器10的硬件效能数据，或是取得硬件效能计算数据。
负载分配服务器20的负载分配模块25用以当服务服务器10的硬件效能数据被判断出大于等于阈值，或是硬件效能计算数据被判断出大于等于阈值时，对服务服务器10的效能警示指标进行累计，且通知轮询模块23进行服务服务器10的轮询，当服务服务器10的效能警示指标大于等于预设值时，则将服务服务器10移除轮询。
具体而言，负载分配服务器20的轮询模块23会依据服务请求31为“查询服务”轮询到第一服务服务器101，负载分配服务器20的数据获取模块24获取被轮询到第一服务服务器101的消息队列，并取得对应的第一服务服务器101的硬件效能数据，硬件效能数据中中央处理器效能为85％，已超过中央处理器效能的阈值为80％，负载分配服务器20的负载分配模块25即会对第一服务服务器101的效能警示指标由“1”累计至“2”，并且通知轮询模块23由第一服务服务器101轮询至第二服务服务器102，以提供查询服务的服务，在此仅为举例说明，并不以此局限本发明的应用范围。
当负载分配服务器20的轮询模块23会依据服务请求31为“查询服务”再次轮询到第一服务服务器101，负载分配服务器20的数据获取模块24获取被轮询到第一服务服务器101的消息队列，并取得对应的第一服务服务器101的硬件效能数据，硬件效能数据中中央处理器效能仍为85％，仍然超过中央处理器效能的阈值为80％，负载分配服务器20的负载分配模块25即会对第一服务服务器101的效能警示指标由“2”累计至“3”，并且通知轮询模块23由第一服务服务器101轮询至第二服务服务器102，以提供查询服务的服务，在此仅为举例说明，并不以此局限本发明的应用范围。
并且由于第一服务服务器101的效能警示指标已被累计至“3”已等于预设值为“3”，负载分配服务器20的负载分配模块25则会将第一服务服务器101移除轮询，即负载分配服务器20的轮询模块23依据服务请求31为“查询服务”进行第一服务服务器101以及第二服务服务器102的轮询时，不会再轮询第一服务服务器101。
负载分配服务器20的负载分配模块20还包括被移除轮询的第一服务服务器101的硬件效能数据被判断出小于阈值，或是被移除轮询的第一服务服务器101的硬件效能计算数据被判断出小于阈值时，重新将第一服务服务器101加入轮询，并且将第一服务服务器101的效能警示指标归零。
值得注意的是，负载分配服务器20的数据计算模块22还包括依据服务服务器10的硬件效能数据计算出硬件效能数值，负载分配服务器20的负载分配模块25还包括依据硬件效能数值由高至低对对应的服务服务器10进行排序，以提供负载分配服务器20的轮询模块23轮询服务服务器的顺序。
接着，以下说明本发明的运作方法，并请同时参考图3A以及图3B所示，图3A以及图3B示出本发明网络服务负载分配方法的方法流程图。
首先，提供多个服务服务器，每一个服务服务器收集服务服务器的硬件效能数据(步骤101)；接着，服务服务器依据收集到服务服务器的硬件效能数据的系统时间储存服务服务器的硬件效能数据(步骤102)；接着，服务服务器依据服务服务器的识别信息以及服务服务器的服务内容将服务服务器的硬件效能数据生成消息队列(步骤103)；接着，服务服务器发送消息队列(步骤104)；接着，负载分配服务器通过订阅方式从服务服务器接收消息队列(步骤105)；接着，当消息队列中的服务服务器的服务内容为特定的服务内容时，负载分配服务器对服务服务器的硬件效能数据进行对应的数据计算以生成硬件效能计算数据(步骤106)；接着，负载分配服务器依序轮询服务服务器(步骤107)；接着，负载分配服务器获取被轮询到服务服务器的消息队列，以取得对应的服务服务器的硬件效能数据，或是取得硬件效能计算数据(步骤108)；接着，当服务服务器的硬件效能数据被判断出大于等于阈值，或是硬件效能计算数据被判断出大于等于阈值时，负载分配服务器对服务服务器的效能警示指标进行累计，且通知再次进行服务服务器的轮询(步骤109)；最后，当服务服务器的效能警示指标大于等于预设值时，负载分配服务器将服务服务器移除轮询(步骤110)。
综上所述，可知本发明与现有技术之间的差异在于服务服务器依据服务服务器的识别信息以及服务服务器的服务内容将服务服务器的硬件效能数据生成消息队列，负载分配服务器通过订阅方式从服务服务器接收消息队列，负载分配服务器获取被轮询到服务服务器的消息队列，以取得对应的服务服务器的硬件效能数据，当服务服务器的硬件效能数据被判断出大于等于阈值，或是硬件效能计算数据被判断出大于等于阈值时，负载分配服务器对服务服务器的效能警示指标进行累计，且通知再次进行服务服务器的轮询。
借由此技术手段可以来解决现有技术所存在现有网络服务负载分配合理性不足的问题，进而达成提供合理性网络服务负载分配的技术功效。
虽然本发明所公开的实施方式如上，但所述的内容并非仅用以直接限定本发明的专利保护范围。任何本领域技术人员，在不脱离本发明所公开的精神和范围的前提下，可以在实施的形式上及细节上作些许的更动。本发明的专利保护范围，仍须以所附的权利要求书所界定的范围为准。

Claims (8)

1.一种网络服务负载分配系统，其包含：
多个服务服务器，所述服务服务器还包括：
信息收集模块，用以收集所述服务服务器的硬件效能数据；
数据库，用以依据收集到所述服务服务器的硬件效能数据的系统时间储存所述服务服务器的硬件效能数据；
生成模块，用以依据所述服务服务器的识别信息以及所述服务服务器的服务内容将所述服务服务器的硬件效能数据生成消息队列；以及
消息队列发送模块，用以发送所述消息队列；以及
负载分配服务器，所述负载分配服务器还包括：
接收模块，用以通过订阅方式从所述消息队列发送模块接收所述消息队列；
数据计算模块，当所述消息队列中的所述服务服务器的服务内容为特定的服务内容时，对所述服务服务器的硬件效能数据进行对应的数据计算以生成硬件效能计算数据；
轮询模块，用以依序轮询所述服务服务器；
数据获取模块，用以获取被轮询到所述服务服务器的所述消息队列，以取得对应的所述服务服务器的硬件效能数据，或是取得所述硬件效能计算数据；以及
负载分配模块，用以当所述服务服务器的硬件效能数据被判断出大于等于阈值，或是所述硬件效能计算数据被判断出大于等于阈值时，对所述服务服务器的效能警示指标进行累计，且通知所述轮询模块进行所述服务服务器的轮询，当所述服务服务器的效能警示指标大于等于预设值时，则将所述服务服务器移除轮询。
2.根据权利要求1所述的网络服务负载分配系统，其中所述负载分配模块还包括被移除轮询的所述服务服务器的硬件效能数据被判断出小于阈值，或是被移除轮询的所述服务服务器的所述硬件效能计算数据被判断出小于阈值时，重新将所述服务服务器加入轮询，并且将所述服务服务器的效能警示指标归零。
3.根据权利要求1所述的网络服务负载分配系统，其中所述数据计算模块还包括依据所述服务服务器的硬件效能数据计算出硬件效能数值，所述负载分配模块还包括依据所述硬件效能数值由高至低对对应的所述服务服务器进行排序，以提供所述轮询模块轮询所述服务服务器的顺序。
4.根据权利要求1所述的网络服务负载分配系统，其中所述服务服务器的硬件效能数据包含中央处理器的使用率、存储器的使用率、存储器的空闲空间、硬盘的每秒读写次数、网络流量以及网络延时的组合。
5.一种网络服务负载分配方法，其包含下列步骤：
提供多个服务服务器，每一个服务服务器收集所述服务服务器的硬件效能数据；
所述服务服务器依据收集到所述服务服务器的硬件效能数据的系统时间储存所述服务服务器的硬件效能数据；
所述服务服务器依据所述服务服务器的识别信息以及所述服务服务器的服务内容将所述服务服务器的硬件效能数据生成消息队列；
所述服务服务器发送所述消息队列；
负载分配服务器通过订阅方式从所述服务服务器接收所述消息队列；
当所述消息队列中的所述服务服务器的服务内容为特定的服务内容时，所述负载分配服务器对所述服务服务器的硬件效能数据进行对应的数据计算以生成硬件效能计算数据；
所述负载分配服务器依序轮询所述服务服务器；
所述负载分配服务器获取被轮询到所述服务服务器的所述消息队列，以取得对应的所述服务服务器的硬件效能数据，或是取得所述硬件效能计算数据；
当所述服务服务器的硬件效能数据被判断出大于等于阈值，或是所述硬件效能计算数据被判断出大于等于阈值时，所述负载分配服务器对所述服务服务器的效能警示指标进行累计，且通知再次进行所述服务服务器的轮询；以及
当所述服务服务器的效能警示指标大于等于预设值时，所述负载分配服务器将所述服务服务器移除轮询。
6.根据权利要求5所述的网络服务负载分配方法，其中所述网络服务负载分配方法还包括当被移除轮询的所述服务服务器的硬件效能数据被判断出小于阈值，或是被移除轮询的所述服务服务器的所述硬件效能计算数据被判断出小于阈值时，所述负载分配服务器重新将所述服务服务器加入轮询，并且将所述服务服务器的效能警示指标归零的步骤。
7.根据权利要求5所述的网络服务负载分配方法，其中所述网络服务负载分配方法还包括所述负载分配服务器依据所述服务服务器的硬件效能数据计算出硬件效能数值，依据所述硬件效能数值由高至低对对应的所述服务服务器进行排序，以提供轮询所述服务服务器顺序的步骤。
8.根据权利要求5所述的网络服务负载分配方法，其中所述服务服务器的硬件效能数据包含中央处理器的使用率、存储器的使用率、存储器的空闲空间、硬盘的每秒读写次数、网络流量以及网络延时的组合。
CN202011285388.6A 2020-11-17 2020-11-17 网络服务负载分配系统及其方法 Pending CN114510340A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202011285388.6A CN114510340A (zh) 2020-11-17 2020-11-17 网络服务负载分配系统及其方法
US17/125,892 US20220156113A1 (en) 2020-11-17 2020-12-17 Network Service Load Distribution System And Method Thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011285388.6A CN114510340A (zh) 2020-11-17 2020-11-17 网络服务负载分配系统及其方法

Publications (1)

Publication Number Publication Date
CN114510340A true CN114510340A (zh) 2022-05-17

Family

ID=81546053

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011285388.6A Pending CN114510340A (zh) 2020-11-17 2020-11-17 网络服务负载分配系统及其方法

Country Status (2)

Country Link
US (1) US20220156113A1 (zh)
CN (1) CN114510340A (zh)

Also Published As

Publication number Publication date
US20220156113A1 (en) 2022-05-19

Similar Documents

Publication Publication Date Title
EP2563062B1 (en) Long connection management apparatus and link resource management method for long connection communication
US7890620B2 (en) Monitoring system and monitoring method
CN111966289B (zh) 基于Kafka集群的分区优化方法和系统
CN109831524B (zh) 一种负载均衡处理方法及装置
CN103179217A (zh) 一种用于web应用服务器群组的负载均衡方法和装置
CN109039817B (zh) 一种用于流量监控的信息处理方法、装置、设备及介质
CN110809060B (zh) 一种应用服务器集群的监控系统及监控方法
CN112632129A (zh) 一种码流数据管理方法、装置及存储介质
CN111131082A (zh) 一种充电设施数据传输动态控制方法及系统
CN112039799A (zh) 网络带宽管理的方法、服务器、系统、设备及介质
CN110677304A (zh) 一种分布式问题追踪系统及设备
CN112260889A (zh) 一种基于Linux的进程流量监控方法、系统及设备
EP2863597B1 (en) Computer-implemented method, computer system, computer program product to manage traffic in a network
WO2021147319A1 (zh) 一种数据处理方法、装置、设备及介质
CN112910743B (zh) 一种区块链性能检测系统
CN105893150B (zh) 接口调用频度控制、接口调用请求处理方法及装置
CN114510340A (zh) 网络服务负载分配系统及其方法
JP2001077813A (ja) ネットワーク情報管理装置とネットワーク情報管理方法およびその処理プログラムを記録した記録媒体
JP2009187230A (ja) サーバの監視装置
CN113347036B (zh) 利用公有云存储实现云环境旁路监控方法及系统
CN114143263B (zh) 一种对用户请求进行限流的方法、设备及介质
CN113419852B (zh) 微服务的请求响应方法、装置、设备及存储介质
CN106686082B (zh) 存储资源调整方法及管理节点
CN102655480B (zh) 相似邮件处理系统和方法
TW202224387A (zh) 網路服務負載分配系統及其方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination