CN116346740A - 一种负载均衡方法及装置 - Google Patents
一种负载均衡方法及装置 Download PDFInfo
- Publication number
- CN116346740A CN116346740A CN202310263728.2A CN202310263728A CN116346740A CN 116346740 A CN116346740 A CN 116346740A CN 202310263728 A CN202310263728 A CN 202310263728A CN 116346740 A CN116346740 A CN 116346740A
- Authority
- CN
- China
- Prior art keywords
- traffic
- load balancing
- flow
- strategy
- cloud
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 47
- 238000004590 computer program Methods 0.000 claims description 22
- 230000000694 effects Effects 0.000 claims description 13
- 230000008602 contraction Effects 0.000 claims description 11
- 238000012544 monitoring process Methods 0.000 claims description 8
- 238000004458 analytical method Methods 0.000 abstract description 3
- 238000007726 management method Methods 0.000 description 12
- 238000012423 maintenance Methods 0.000 description 8
- 230000004044 response Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000008520 organization Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 239000002699 waste material Substances 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/70—Admission control; Resource allocation
- H04L47/83—Admission control; Resource allocation based on usage prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/12—Avoiding congestion; Recovering from congestion
- H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
- H04L47/2441—Traffic characterised by specific attributes, e.g. priority or QoS relying on flow classification, e.g. using integrated services [IntServ]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/50—Reducing energy consumption in communication networks in wire-line communication networks, e.g. low power modes or reduced link rate
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明涉及一种负载均衡方法、装置、计算机设备及可读存储介质,该方法包括:对接收到的流量进行分流,并配置负载均衡策略,负载均衡策略是用于将流量负载均衡分配在各节点的方式;根据负载均衡策略将分流后的流量分别转发至公有云和/或私有云;获取并更新公有云和私有云中流量的各项资源信息进行分析,以得出该流量所属类型并做出记录,资源信息包括储存云端类型、内存、CPU信息、IP、磁盘以及带宽;根据记录的流量类型重新配置流量调度策略,调整负载均衡策略,流量调度策略是用于将不同类型的流量组合转发的方式。该方法能够在混合云的环境下综合考虑安全和成本,对用户流量进行分析规划,从而提高资源利用率,降低用户成本。
Description
技术领域
本发明涉及计算机云计算技术领域,特别是涉及一种负载均衡方法、装置、计算机设备及可读存储介质。
背景技术
随着社会经济的不断进步,云计算技术领域也在不断发展,目前社会存在的云计算架构大致可以划分为公有云、私有云以及混合云等。
其中,公有云主要通过互联网向用户提供计算或存储资源,用户可以按需付费,即买即用,使用、维护和管理成本比较低,但安全性也相对较低。私有云则是将云计算服务架设在企业或组织内部,不再受到公用网络上安全威胁和网络带宽的影响,其基础架构可以进行调整和优化以符合个性化企业或组织的需求,缺点是需要付出额外的成本进行维护和管理。混合云是多种云的结合体,可以是多个公有云结合,或者多个私有云结合,也可以是公有云和私有云的结合等等。由于安全和管理等多方面原因,有些用户既希望使用公有云,又不希望将一些隐私信息部署在公有云上,这时混合云便可以派上用场。考虑到使用时的安全保障以及资源利用的充分程度,混合云一般采用“私有云+公有云”的形式,由此兼顾了公有云可扩展、节约成本的优点以及私有云安全可控的优势,还能够为私有云的弹性资源需求和灾难恢复等问题提供解决方案。在应用混合云的环境下,用户要考虑资源成本和安全控制,以对公有云和私有云的资源进行统一规划和控制,而负载均衡将直接影响资源规划和控制效果,其中弹性控制更加强调负载均衡的重要性,合理的负载均衡方案可以让用户避免额外成本和资源浪费。
但是,传统的业务负载均衡方法对资源的利用率较低,用户使用的成本也相应较高,不适用于混合云环境下资源的统一规划及控制,无法满足用户对资源成本以及安全性能的需求,容易造成资源的浪费以及额外成本的产生。
发明内容
基于此,有必要针对上述技术问题,提供一种能够能够在混合云的环境下综合安全控制和资源成本,对用户流量进行分析和合理规划,从而提高资源利用率,降低用户成本的负载均衡方法、装置、计算机设备及可读存储介质。
一种负载均衡方法,应用于负载均衡器,包括:
对接收到的流量进行分流,并配置负载均衡策略,所述负载均衡策略是用于将流量负载均衡分配在各节点的方式;
根据负载均衡策略将分流后的流量分别转发至公有云和/或私有云;
获取并更新公有云和私有云中流量的各项资源信息进行分析,以得出该流量所属类型并做出记录,所述资源信息包括储存云端类型、内存、CPU信息、IP、磁盘以及带宽;
根据记录的流量类型重新配置流量调度策略,调整负载均衡策略,所述流量调度策略是用于将不同类型的流量组合转发的方式。
在其中一个实施例中,所述对接收到的流量进行分流,并配置负载均衡策略,包括:
根据流量的URL以及安全要求对流量进行分流;
配置轮询、加权平均或IP hash的方式作为负载均衡策略。
在其中一个实施例中,所述对接收到的流量进行分流,并配置负载均衡策略,之后还包括:
检测并记录负载均衡效果,根据负载均衡效果对流量调度策略进行初步调整,所述流量调度策略是用于将不同类型的流量组合转发的方式;
获取公有云和私有云中流量的各项资源信息,所述资源信息包括储存云端类型、内存、CPU信息、IP、磁盘以及带宽。
在其中一个实施例中,所述根据记录的流量类型重新配置流量调度策略,调整负载均衡策略,之后还包括:
对接收流量的时间进行统计,以得出已接收流量的波峰以及波谷的规律。
在其中一个实施例中,所述对接收流量的时间进行统计,以得出已接收流量的波峰以及波谷的规律,之后还包括:
根据已接收流量的波峰以及波谷的规律对未接收流量的峰值做出预测。
在其中一个实施例中,所述根据已接收流量的波峰以及波谷的规律对未接收流量的峰值做出预测,之后还包括:
结合资源成本、流量类型以及流量峰值的预测结果,向节点的扩缩容提供操作依据;
根据预测结果,监测并记录流量达到峰值时各项资源信息的利用率。
一种负载均衡装置,应用于负载均衡器,包括:
策略配置模块,用于对接收到的流量进行分流,并配置负载均衡策略,所述负载均衡策略是用于将流量负载均衡分配在各节点的方式;
策略执行模块,用于根据负载均衡策略将分流后的流量分别转发至公有云和/或私有云;
资源监控模块,用于获取并更新公有云和私有云中流量的各项资源信息进行分析,以得出该流量所属类型并做出记录,所述资源信息包括储存云端类型、内存、CPU信息、IP、磁盘以及带宽;
资源管理模块,用于根据记录的流量类型重新配置流量调度策略,调整负载均衡策略,所述流量调度策略是用于将不同类型的流量组合转发的方式。
在其中一个实施例中,一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
对接收到的流量进行分流,并配置负载均衡策略,所述负载均衡策略是用于将流量负载均衡分配在各节点的方式;
根据负载均衡策略将分流后的流量分别转发至公有云和/或私有云;
获取并更新公有云和私有云中流量的各项资源信息进行分析,以得出该流量所属类型并做出记录,所述资源信息包括储存云端类型、内存、CPU信息、IP、磁盘以及带宽;
根据记录的流量类型重新配置流量调度策略,调整负载均衡策略,所述流量调度策略是用于将不同类型的流量组合转发的方式。
在其中一个实施例中,一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现以下步骤:
对接收到的流量进行分流,并配置负载均衡策略,所述负载均衡策略是用于将流量负载均衡分配在各节点的方式;
根据负载均衡策略将分流后的流量分别转发至公有云和/或私有云;
获取并更新公有云和私有云中流量的各项资源信息进行分析,以得出该流量所属类型并做出记录,所述资源信息包括储存云端类型、内存、CPU信息、IP、磁盘以及带宽;
根据记录的流量类型重新配置流量调度策略,调整负载均衡策略,所述流量调度策略是用于将不同类型的流量组合转发的方式。
在其中一个实施例中,一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现以下步骤:
对接收到的流量进行分流,并配置负载均衡策略,所述负载均衡策略是用于将流量负载均衡分配在各节点的方式;
根据负载均衡策略将分流后的流量分别转发至公有云和/或私有云;
获取并更新公有云和私有云中流量的各项资源信息进行分析,以得出该流量所属类型并做出记录,所述资源信息包括储存云端类型、内存、CPU信息、IP、磁盘以及带宽;
根据记录的流量类型重新配置流量调度策略,调整负载均衡策略,所述流量调度策略是用于将不同类型的流量组合转发的方式。
上述负载均衡方法、装置、计算机设备及可读存储介质,根据用户对流量的需求将流量进行分流,并配置初步的负载均衡策略以维持负载均衡器的稳定运行,并根据负载均衡策略将接收到的流量按要求转发至公有云和/或私有云的资源池,一方面提高有保护需求的流量资源的安全性并节约混合云维护以及管理的成本,另一方面能够对公有云以及私有云的资源进行统一的规划和控制;而后获取资源池中流量的各项资源信息进行分析,得出流量所属类型并记录,根据记录重新配置流量调度策略,调整负载均衡策略。该方法能够在混合云的环境下综合考虑安全控制和资源成本,对用户流量进行分析和合理规划,提高资源信息的利用率,降低用户的使用成本。
附图说明
图1为本申请提供的负载均衡方法流程图之一;
图2为本申请提供的负载均衡方法流程图之二;
图3为本申请提供的负载均衡方法流程图之三;
图4为本申请提供的负载均衡方法流程图之四;
图5为本申请提供的负载均衡方法流程图之五;
图6为本申请提供的负载均衡装置模块图;
图7为一个实施例的计算机设备的内部结构图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地说明,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,在一个实施例中,一种负载均衡方法,应用于负载均衡器,包括以下步骤:
步骤S110,对接收到的流量进行分流,并配置负载均衡策略,负载均衡策略是用于将流量负载均衡分配在各节点的方式。
具体的,对流量进行分流具体指的是负载均衡器根据用户对该流量的需求,为该流量的转发提供相应的途径;配置初步的负载均衡策略,用于将流量负载均衡分配在各节点,确保负载均衡器能够稳定运行。
步骤S120,根据负载均衡策略将分流后的流量分别转发至公有云和/或私有云。
具体的,负载均衡器根据初步配置的负载均衡策略以及流量的分流结果,将接收到的流量按要求分别转发至公有云和/或私有云的资源池,提高有保护需求的流量资源的安全性,节约混合云维护以及管理的成本,并基于负载均衡策略对公有云以及私有云的资源进行统一的规划和控制。
步骤S130,获取并更新公有云和私有云中流量的各项资源信息进行分析,以得出该流量所属类型并做出记录,资源信息包括储存云端类型、内存、CPU信息、IP、磁盘以及带宽。
具体的,负载均衡器分别对公有云和私有云中流量的储存云端类型、内存、CPU信息、IP、磁盘以及带宽等资源信息进行获取更新,并进行分析,从而判断出该流量是属于高CPU、高内存、高带宽、高磁盘或者未知等类型中的其中的一种,还是属于其中几种类型的组合,并在分类后做出记录。通过对流量的分类,可以大幅度提高各个节点的资源利用率。
需要说明的是,在本实施例中负载均衡器是基于网络七层协议的负载均衡来对流量按照URL格式进行分类的,将一类流量(实际请求较多的)打到某个节点上进行测试,基于请求的响应时间、CPU负载、内存使用率、磁盘使用率以及带宽使用,自动估算出可处理请求的极限,同时分析出当前类型的请求和哪些指标相关。其具体操作过程如下:
将响应的合理时间设置为500-1000ms;基于初步负载均衡策略下的流量分发统计,估算常规流量的一个初始点,默认为1000,并根据情况逐步上升请求数量;统计响应时间,在合理响应时间范围内,观测上述各项指标的变化。并以百分比的方式记录;在响应超出合理范围时,记录请求数量极限并观察上述指标是否达到阈值,如CPU占比100%、带宽90%、磁盘写入速率或是内存90%等。
其中,如果没有一项达到阈值,说明过程中存在其他因素影响可处理请求的极限,将这些因素统称为未知因子,上述未知因子可能依赖其他的后端服务性能对可处理请求的极限造成影响,因此无法对其进行估算。
可将当前各个指标的占比情况记录如下表:
CPU | 内存 | 磁盘 | 带宽 | 未知因数 | Req |
50% | 60% | 10% | 50% | 1 | 10000 |
如果有一项或者多项指标接近或者超过阈值,即可初步判定为该类型的请求依赖上述指标,再运用以下公式对上述指标进行求导(离散导数),观测导数是否一直大于0,检测是否有关联。
可将当前各个指标的占比情况记录如下表:
CPU | 内存 | 磁盘 | 带宽 | 未知因数 | Req |
100% | 60% | 10% | 50% | 0 | 20000 |
步骤S140,根据记录的流量类型重新配置流量调度策略,调整负载均衡策略,流量调度策略是用于将不同类型的流量组合转发的方式。
具体的,根据记录的流量类型,将不同类型的流量进行组合,使机器的各项指标的负载达到一个较高的值,以提高节点的资源利用率。例如,某些请求对CPU的要求较高,可将其与一些CPU占比较低的请求建立组合关系,一同流向某个节点;再依据当前节点的剩余资源去估算最适合处理哪种类型的流量,进行流量重定向。当某个节点中两个以上的指标利用率较高时,设置阈值为80%,将该类组合进行记录,并保存在策略库中,同时定期自动更新策略库,只保留最近一段时间阈值内的记录,用于资源预估,节约占用空间。在已定的负载均衡策略下,动态调整负载均衡策略,以节约成本并保障安全,非必要的情况下,不另外扩展资源。
上述负载均衡方法,根据用户对流量的需求将流量进行分流,并配置初步的负载均衡策略以维持负载均衡器的稳定运行,并根据负载均衡策略将接收到的流量按要求转发至公有云和/或私有云的资源池,一方面提高有保护需求的流量资源的安全性并节约混合云维护以及管理的成本,另一方面能够对公有云以及私有云的资源进行统一的规划和控制;而后获取资源池中流量的各项资源信息进行分析,得出流量所属类型并记录,根据记录重新配置流量调度策略,调整负载均衡策略。该方法能够在混合云的环境下综合考虑安全控制和资源成本,对用户流量进行分析和合理规划,提高资源信息的利用率,降低用户的使用成本。
如图2所示,在本实施例中,对接收到的流量进行分流,并配置负载均衡策略,具体包括以下步骤:
步骤S111,根据流量的URL以及安全要求对流量进行分流。
具体的,负载均衡器支持网络七层负载均衡策略,基于URL(支持正则匹配)将用户上传的有安全要求的任务流量转发至私有云,将没有安全要求的流量结合后续的其他策略进行流量定向转发。
步骤S112,配置轮询、加权平均或IP hash的方式作为负载均衡策略。
具体的,在确定流量转发途径后,负载均衡器将配置常见的负载均衡算法(如轮询、加权平均或IP hash等)作为初步负载均衡策略,用于将流量负载均衡分配在各节点,以确保自身能够稳定运行。
如图3所示,在本实施例中,对接收到的流量进行分流,并配置负载均衡策略,之后还包括以下步骤:
步骤S210,检测并记录负载均衡效果,根据负载均衡效果对流量调度策略进行初步调整,流量调度策略是用于将不同类型的流量组合转发的方式。
具体的,在稳定运行后,负载均衡器会根据负载均衡效果自行调整,此功能默认开启,如发现调整后的负载均衡效果不佳可选择关闭,即默认以最初设置的负载均衡策略对流量进行转发。
步骤S220,获取公有云和私有云中流量的各项资源信息,资源信息包括储存云端类型、内存、CPU信息、IP、磁盘以及带宽。
具体的,节点的增加或缩减称为节点扩缩容,而节点扩缩容又分为手动和自动两种。在本实施例中,进行手动扩缩容或是自动扩缩容时,负载均衡器将分别对公有云和私有云中流量的储存云端类型、内存、CPU信息、IP、磁盘以及带宽等资源信息进行收集,以便根据获取到的资源信息对流量进行调度。
如图4所示,在本实施例中,根据记录的流量类型重新配置流量调度策略,调整负载均衡策略,之后还包括以下步骤:
步骤S310,对接收流量的时间进行统计,以得出已接收流量的波峰以及波谷的规律。
具体的,接收流量时记录接收时间,汇总进行统计,得出接收流量最密集以及最空闲的时间段。
步骤S320,根据已接收流量的波峰以及波谷的规律对未接收流量的峰值做出预测。
具体的,根据统计得出的已接收流量的波峰以及波谷的规律对可能出现的流量峰值进行预测,比如每周五晚上接收流量的次数最为密集,每周一早上接收流量的次数最为空闲,由此可以推断出,在每周五前可对节点进行适当扩容,而每周一前可以对节点进行适当缩容。
如图5所示,在本实施例中,根据已接收流量的波峰以及波谷的规律对未接收流量的峰值做出预测,之后还包括以下步骤:
步骤S410,结合资源成本、流量类型以及流量峰值的预测结果,向节点的扩缩容提供操作依据。
具体的,基于流量类型进行分析并做出预测,以此来调整调度策略,可以相对精准地进行缩扩容,其具体操作过程如下:
对新增变化的请求进行分类,计算出各自占比;根据策略库中的数据、策略进行组合,估算出需要扩容节点或者缩容节点的数量;找出新增变化的请求中占比前5的类型的相同的5个策略;运用下列公式,将上述5种策略组合并计算出符合条件的解。
其中,rate1为请求1的占比,reqNum为这个节点能接受的最大请求数,nodeNum1为估算的节点数。可以通过枚举法计算出符合条件的节点数。如计算结果不是较优解,则按照既定的缩扩容策略进行操作。上述计算过程中,可以通过各个估算节点依据各自的负载均衡策略中有效请求的占比总和来估算各个节点中所有请求的80%,以此判断是否为较优解,其中有效请求指的是新增请求中的某一种类别。
步骤S420,根据预测结果,监测并记录流量达到峰值时各项资源信息的利用率。
具体的,负载均衡器对流量以及节点资源进行监控,确保在流量达到峰值时不超出请求数量的极限,而后将节点的资源利用率记录并保存。
上述负载均衡方法,根据用户对流量的安全需求将流量进行分流,并配置初步的负载均衡策略以维持负载均衡器稳定运行,预先获取流量的各项资源信息,以便对其进行调度,并根据初步的负载均衡策略将接收到的流量按要求转发至公有云和/或私有云的资源池,一方面提高有保护需求的流量资源的安全性并节约混合云维护以及管理的成本,另一方面能够对公有云以及私有云的资源进行统一的规划和控制;而后获取资源池中流量的各项资源信息进行分析,得出流量所属类型并记录,根据记录重新配置流量调度策略,调整负载均衡策略,通过分析和预测得出流量峰值规律,以使负载均衡器能够更加精准进行负载均衡策略的调整,并对流量以及节点资源进行监控,保证运行的稳定性。该方法能够在混合云的环境下综合考虑安全控制和资源成本,对用户流量进行分析和合理规划,提高资源信息的利用率,降低用户的使用成本。
如图6所示,在一个实施例中,一种负载均衡装置,包括:
策略配置模块310,用于对接收到的流量进行分流,并配置负载均衡策略,负载均衡策略是用于将流量负载均衡分配在各节点的方式。
具体的,对流量进行分流具体指的是策略配置模块310根据用户对该流量的需求,为该流量的转发提供相应的途径;配置初步的负载均衡策略,用于将流量负载均衡分配在各节点,确保负载均衡器能够稳定运行。
策略执行模块320,用于根据负载均衡策略将分流后的流量分别转发至公有云和/或私有云。
具体的,策略执行模块320根据初步配置的负载均衡策略以及流量的分流结果,将接收到的流量按要求分别转发至公有云和/或私有云的资源池,提高有保护需求的流量资源的安全性,节约混合云维护以及管理的成本,并基于负载均衡策略对公有云以及私有云的资源进行统一的规划和控制。
资源监控模块330,用于获取并更新公有云和私有云中流量的各项资源信息进行分析,以得出该流量所属类型并做出记录,资源信息包括储存云端类型、内存、CPU信息、IP、磁盘以及带宽。
具体的,资源监控模块330分别对公有云和私有云中流量的储存云端类型、内存、CPU信息、IP、磁盘以及带宽等资源信息进行获取更新,并进行分析,从而判断出该流量是属于高CPU、高内存、高带宽、高磁盘或者未知等类型中的其中的一种,还是属于其中几种类型的组合,并在分类后做出记录。通过对流量的分类,可以大幅度提高各个节点的资源利用率。
资源管理模块340,用于根据记录的流量类型重新配置流量调度策略,调整负载均衡策略,流量调度策略是用于将不同类型的流量组合转发的方式。
具体的,根据记录的流量类型,资源管理模块340将不同类型的流量进行组合,使机器的各项指标的负载达到一个较高的值,以提高节点的资源利用率。例如,某些请求对CPU的要求较高,可将其与一些CPU占比较低的请求建立组合关系,一同流向某个节点;再依据当前节点的剩余资源去估算最适合处理哪种类型的流量,进行流量重定向。当某个节点中两个以上的指标利用率较高时,设置阈值为80%,将该类组合进行记录,并保存在策略库中,同时定期自动更新策略库,只保留最近一段时间阈值内的记录,用于资源预估,节约占用空间。在已定的负载均衡策略下,动态调整负载均衡策略,以节约成本并保障安全,非必要的情况下,不另外扩展资源。
上述负载均衡装置,根据用户对流量的需求将流量进行分流,并配置初步的负载均衡策略以维持负载均衡器的稳定运行,并根据负载均衡策略将接收到的流量按要求转发至公有云和/或私有云的资源池,一方面提高有保护需求的流量资源的安全性并节约混合云维护以及管理的成本,另一方面能够对公有云以及私有云的资源进行统一的规划和控制;而后获取资源池中流量的各项资源信息进行分析,得出流量所属类型并记录,根据记录重新配置流量调度策略,调整负载均衡策略。该装置能够在混合云的环境下综合考虑安全控制和资源成本,对用户流量进行分析和合理规划,提高资源信息的利用率,降低用户的使用成本。
在本实施例中,策略配置模块310具体包括安全配置模块以及策略调整模块,其中:
安全配置模块,用于根据流量的URL以及安全要求对流量进行分流。
具体的,安全配置模块支持网络七层负载均衡策略,基于URL(支持正则匹配)将用户上传的有安全要求的任务流量转发至私有云,将没有安全要求的流量结合后续的其他策略进行流量定向转发。
策略调整模块,用于配置轮询、加权平均或IP hash的方式作为负载均衡策略。
具体的,在确定流量转发途径后,策略调整模块将配置常见的负载均衡算法(如轮询、加权平均或IP hash等)作为初步负载均衡策略,用于将流量负载均衡分配在各节点,以确保自身能够稳定运行。
在本实施例中,策略调整模块还用于检测并记录负载均衡效果,根据负载均衡效果对流量调度策略进行初步调整,流量调度策略是用于将不同类型的流量组合转发的方式。
具体的,在稳定运行后,策略调整模块会根据负载均衡效果自行调整,此功能默认开启,如发现调整后的负载均衡效果不佳可选择关闭,即默认以最初设置的负载均衡策略对流量进行转发。
在本实施例中,负载均衡装置还包括流量预测模块,用于对接收流量的时间进行统计,以得出已接收流量的波峰以及波谷的规律,并对未接收流量的峰值做出预测。
具体的,流量预测模块在接收流量时记录接收时间,汇总进行统计,得出接收流量最密集以及最空闲的时间段。根据统计得出的已接收流量的波峰以及波谷的规律对可能出现的流量峰值进行预测,比如每周五晚上接收流量的次数最为密集,每周一早上接收流量的次数最为空闲,由此可以推断出,在每周五前可对节点进行适当扩容,而每周一前可以对节点进行适当缩容。
流量预测模块还用于结合资源成本、流量类型以及流量峰值的预测结果,向节点的扩缩容提供操作依据。具体的,流量预测模块基于流量类型进行分析并做出预测,以此来调整调度策略,可以相对精准地进行缩扩容。
流量预测模块还用于根据预测结果,监测并记录流量达到峰值时各项资源信息的利用率。具体的,流量预测模块对流量以及节点资源进行监控,确保在流量达到峰值时不超出请求数量的极限,而后将节点的资源利用率记录并保存。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是智能终端,其内部结构图可以如图7所示。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种负载均衡方法。
本领域技术人员可以理解,图7中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,一种计算机设备,包括存储器和处理器,存储器存储有计算机程序,该处理器执行计算机程序时实现上述各方法实施例中的步骤。在一个实施例中,一种计算机存储介质,存储有计算机程序,计算机程序被处理器执行时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各方法实施例中的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种负载均衡方法,应用于负载均衡器,其特征在于,包括:
对接收到的流量进行分流,并配置负载均衡策略,所述负载均衡策略是用于将流量负载均衡分配在各节点的方式;
根据负载均衡策略将分流后的流量分别转发至公有云和/或私有云;
获取并更新公有云和私有云中流量的各项资源信息进行分析,以得出该流量所属类型并做出记录,所述资源信息包括储存云端类型、内存、CPU信息、IP、磁盘以及带宽;
根据记录的流量类型重新配置流量调度策略,调整负载均衡策略,所述流量调度策略是用于将不同类型的流量组合转发的方式。
2.根据权利要求1所述的负载均衡方法,其特征在于,所述对接收到的流量进行分流,并配置负载均衡策略,包括:
根据流量的URL以及安全要求对流量进行分流;
配置轮询、加权平均或IP hash的方式作为负载均衡策略。
3.根据权利要求2所述的负载均衡方法,其特征在于,所述对接收到的流量进行分流,并配置负载均衡策略,之后还包括:
检测并记录负载均衡效果,根据负载均衡效果对流量调度策略进行初步调整,所述流量调度策略是用于将不同类型的流量组合转发的方式;
获取公有云和私有云中流量的各项资源信息,所述资源信息包括储存云端类型、内存、CPU信息、IP、磁盘以及带宽。
4.根据权利要求1所述的负载均衡方法,其特征在于,所述根据记录的流量类型重新配置流量调度策略,调整负载均衡策略,之后还包括:
对接收流量的时间进行统计,以得出已接收流量的波峰以及波谷的规律。
5.根据权利要求4所述的负载均衡方法,其特征在于,所述对接收流量的时间进行统计,以得出已接收流量的波峰以及波谷的规律,之后还包括:
根据已接收流量的波峰以及波谷的规律对未接收流量的峰值做出预测。
6.根据权利要求5所述的负载均衡方法,其特征在于,所述根据已接收流量的波峰以及波谷的规律对未接收流量的峰值做出预测,之后还包括:
结合资源成本、流量类型以及流量峰值的预测结果,向节点的扩缩容提供操作依据;
根据预测结果,监测并记录流量达到峰值时各项资源信息的利用率。
7.一种负载均衡装置,应用于负载均衡器,其特征在于,包括:
策略配置模块,用于对接收到的流量进行分流,并配置负载均衡策略,所述负载均衡策略是用于将流量负载均衡分配在各节点的方式;
策略执行模块,用于根据负载均衡策略将分流后的流量分别转发至公有云和/或私有云;
资源监控模块,用于获取并更新公有云和私有云中流量的各项资源信息进行分析,以得出该流量所属类型并做出记录,所述资源信息包括储存云端类型、内存、CPU信息、IP、磁盘以及带宽;
资源管理模块,用于根据记录的流量类型重新配置流量调度策略,调整负载均衡策略,所述流量调度策略是用于将不同类型的流量组合转发的方式。
8.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述的方法的步骤。
9.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
10.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310263728.2A CN116346740A (zh) | 2023-03-12 | 2023-03-12 | 一种负载均衡方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310263728.2A CN116346740A (zh) | 2023-03-12 | 2023-03-12 | 一种负载均衡方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116346740A true CN116346740A (zh) | 2023-06-27 |
Family
ID=86881723
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310263728.2A Pending CN116346740A (zh) | 2023-03-12 | 2023-03-12 | 一种负载均衡方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116346740A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116521247A (zh) * | 2023-06-29 | 2023-08-01 | 深圳艾为电气技术有限公司 | Ptc驱动器的同步装载控制方法、装置、设备及介质 |
CN117880206A (zh) * | 2024-03-12 | 2024-04-12 | 深圳市艾奥科技有限公司 | 一种物联网管理设备的负载平衡方法及系统 |
-
2023
- 2023-03-12 CN CN202310263728.2A patent/CN116346740A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116521247A (zh) * | 2023-06-29 | 2023-08-01 | 深圳艾为电气技术有限公司 | Ptc驱动器的同步装载控制方法、装置、设备及介质 |
CN116521247B (zh) * | 2023-06-29 | 2024-02-23 | 深圳艾为电气技术股份有限公司 | Ptc驱动器的同步装载控制方法、装置、设备及介质 |
CN117880206A (zh) * | 2024-03-12 | 2024-04-12 | 深圳市艾奥科技有限公司 | 一种物联网管理设备的负载平衡方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN116346740A (zh) | 一种负载均衡方法及装置 | |
Hieu et al. | Virtual machine consolidation with multiple usage prediction for energy-efficient cloud data centers | |
CN110166282B (zh) | 资源分配方法、装置、计算机设备和存储介质 | |
CN111818159B (zh) | 数据处理节点的管理方法、装置、设备及存储介质 | |
US20120221730A1 (en) | Resource control system and resource control method | |
CN112256438B (zh) | 负载均衡控制方法和装置、存储介质及电子设备 | |
CN110768837A (zh) | 一种网络切片虚拟资源分配方法、系统及装置 | |
CN111522636A (zh) | 应用容器的调整方法、调整系统、计算机可读介质及终端设备 | |
CN112689007B (zh) | 资源分配方法、装置、计算机设备和存储介质 | |
CN104767689A (zh) | 控制网络访问接入量的方法及服务器 | |
CN109218441B (zh) | 一种基于预测和区域划分的p2p网络动态负载均衡方法 | |
US20060280161A1 (en) | System and method for autonomic system management through modulation of network controls | |
CN110716808B (zh) | 业务处理方法、装置、计算机设备和存储介质 | |
CN106959820B (zh) | 一种数据提取方法和系统 | |
US11576187B2 (en) | Radio frequency resource allocation method, apparatus, device and system, and storage medium | |
EP3499818B9 (en) | Method and device for load processing | |
CN107566535B (zh) | 基于Web地图服务并发访问时序规则的自适应负载均衡方法 | |
CN111966289A (zh) | 基于Kafka集群的分区优化方法和系统 | |
CN111414070A (zh) | 一种机箱功耗管理方法、系统及电子设备和存储介质 | |
KR20220141070A (ko) | 지역적으로 분산된 다중 클라우드 환경에서의 컨테이너 오케스트레이션 장치 및 이를 이용한 방법 | |
CN117081996B (zh) | 基于服务端实时反馈和软阈值的流量控制方法及相关设备 | |
CN111506425B (zh) | 服务质量数据处理方法和装置 | |
CN107295103B (zh) | 基于集中式p2p系统的节点管理方法 | |
CN113419938A (zh) | 用户并发访问的控制方法、装置及设备 | |
CN116382892B (zh) | 一种基于多云融合以及云服务的负载均衡方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |