CN103259739A - 负载均衡设备以及负载均衡方法 - Google Patents
负载均衡设备以及负载均衡方法 Download PDFInfo
- Publication number
- CN103259739A CN103259739A CN2012100336776A CN201210033677A CN103259739A CN 103259739 A CN103259739 A CN 103259739A CN 2012100336776 A CN2012100336776 A CN 2012100336776A CN 201210033677 A CN201210033677 A CN 201210033677A CN 103259739 A CN103259739 A CN 103259739A
- Authority
- CN
- China
- Prior art keywords
- resource
- server
- idle
- business
- resource block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明提出了一种能够在均衡服务器的业务分配与路径的流量分配的同时改善资源的分配效率的负载均衡设备及负载均衡方法,根据业务的服务器资源需求和网络传输资源需求将业务划分成多个业务块,并将所述数据中心网络中的空闲服务器资源和空闲网络传输资源划分成多个资源块,监控所述数据中心网络中的空闲服务器资源和空闲网络传输资源,从而将针对服务器的空闲服务器资源和空闲网络传输资源的组合与各资源块建立对应,识别进入数据中心网络的业务请求所属的业务块,基于所述业务块和所述资源块之间的对应关系,对该业务请求分配所述空闲服务器资源和空闲网络传输资源的组合。
Description
技术领域
本发明涉及一种负载均衡方法,特别是应用在数据中心领域中同时改善网络资源和服务器资源利用效率的负载均衡设备以及负载均衡方法。
背景技术
专利文献I(CN101431532A)提出了一种内容分发网络中的负载均衡方法。通过资源管理设备收集资源信息并分发给负载均衡设备,由负载均衡设备根据收到的资源信息和预定的资源分配策略选择合适的缓存服务器,从而提高系统的性能和效率。其中所用的资源信息包括服务器的存储容量、存储容量已使用百分比、CPU使用率、服务器出口总带宽及带宽使用率。资源分配策略的表现形式是服务器节点选择算法,输出是可用服务器的有序列表。比如,资源分配策略可设定为:优先选择CPU使用率低的节点;如果各节点的CPU使用率差异在一定范围之内(比如5%~10%),优先选择可用带宽大的节点;如果各节点可用带宽使用差异在一定范围内(比如5%~10%),优先选择可用存储空间大的节点。
在专利文献I提到的负载均衡方法中,存在以下缺陷:仅考虑了服务器处理业务的能力和服务器的负载均衡,而没有考虑到达该服务器的网络链路的可用带宽,因此在易拥塞的网络环境中,并不能有效保障业务的质量,特别是对于具有高带宽需求的业务。
专利文献II(CN102055663A)提出了一种覆盖网络中的负载均衡方法,根据业务的资源需求,在覆盖网络中搜索一条端到端的最优负载均衡服务路径使其能满足业务的QoS(Quality of Service)需求。专利文献II改进了专利文献I中的缺陷,同时考虑节点的计算资源和路径的传输资源是否都能够满足业务的资源需求,并从中选择一条最优路径响应用户请求,从而改善用户体验,优化网络资源利用效率。但是该文献中的方法仍存在如下问题:只考虑了为当前的业务需求分配最优的资源,而没有考虑业务对不同资源需求的差异性及全局资源利用率的最大化,从而很难适应业务的动态变化特别是未来某些对资源要求不均衡的业务的突发。此外,对每个到达的业务请求,为了寻找最优服务路径需要将网络中存在的所有可能路径重新搜索一遍,导致计算量大,服务效率低下。
专利文献I:CN101431532A,中国电信,“一种内容路由方法、负载均衡设备和资源管理设备”,filed 15,Dec,2008。
专利文献II:CN102055663A,武汉大学,“一种在覆盖网络中实现负载均衡的QoS路由分配方法”,filed 10th,Oct,2009.
为了优化全局的资源利用效率,进一步改善数据中心网络的服务能力,本发明提供了一种路由有意识的负载均衡装置及方法,考虑业务需求与网络资源的最佳匹配,结合当前服务器可用负载及路径的可用带宽为业务分配服务器及路由组合的分配方案。目前的数据中心特别是面向物联网的数据中心支持多种业务类型,不同类型的业务对服务器资源和网络带宽资源的需求也存在差异,比如基于搜索的业务需要低带宽和大量计算资源,视频点拨业务则需要高带宽和少量计算资源,某些传感器的业务仅需要低带宽和少量计算资源。对于用户行为不可预知的物联网应用来说,随着业务流量的不均匀分布,某种业务汇聚的链路上可能带宽利用率很高但相连的服务器负载却很轻,相反某些链路可能带宽利用率很低但相连的服务器的负载却很重。前者会降低业务的性能,后者则会造成大量带宽资源的浪费。
发明内容
本发明目的在于提供一种负载均衡设备以及负载均衡方法,在动态的数据中心网络中针对不同资源需求的业务选择与其资源匹配度最佳的服务器及路由的组合,在均衡服务器的业务分配与路径的流量分配的同时改善资源的分配效率,从而最大化全局的资源利用,提高网络的处理容量,节约数据中心的建设成本。
一种负载均衡设备,在数据中心网络中进行负载均衡的资源分配,其特征在于,根据业务的服务器资源需求和网络传输资源需求将业务划分成多个业务块,并将所述数据中心网络中的空闲服务器资源和空闲网络传输资源划分成多个资源块,监控所述数据中心网络中的空闲服务器资源和空闲网络传输资源,从而将针对服务器的空闲服务器资源和空闲网络传输资源的组合与各资源块建立对应,识别进入数据中心网络的业务请求所属的业务块,基于所述业务块和所述资源块之间的对应关系,对该业务请求分配所述空闲服务器资源和空闲网络传输资源的组合。
一种负载均衡方法,用于在数据中心网络中进行负载均衡的资源分配,其特征在于,划分步骤,根据业务的服务器资源需求和网络传输资源需求将业务划分成多个业务块,并将所述数据中心网络中的空闲服务器资源和空闲网络传输资源划分成多个资源块;监控步骤,监控所述数据中心网络中的空闲服务器资源和空闲网络传输资源,从而将针对服务器的空闲服务器资源和空闲网络传输资源的组合与各资源块建立对应;以及分配步骤,识别进入数据中心网络的业务请求所属的业务块,基于所述业务块和所述资源块之间的对应关系,对该业务请求分配所述空闲服务器资源和空闲网络传输资源的组合。
附图说明
图1A是根据实施例1的基于集中式负载均衡器的数据中心网络的结构图。
图1B是根据实施例2的基于分布式负载均衡器的数据中心网络的结构图。
图1C是根据实施例3的基于非对称路径的数据中心网络的结构图。
图2是根据实施例1的具有路由意识的负载均衡器的功能实体图。
图3是根据实施例1的根据具有路径配置功能的交换机的功能实体图。
图4是根据实施例1的业务请求转发处理的时序图。
图5是根据实施例1的路径配置消息处理的时序图。
图6是根据实施例1的负载均衡器初始化过程的流程图。
图7是根据实施例1的负载均衡器处理业务请求的概要流程图。
图8是根据实施例1的负载均衡器决定业务所属业务块的流程图。
图9是根据实施例1的负载均衡器决定可用服务器/路径集合的流程图。
图10是根据实施例1的顺时针螺旋式搜索算法实施例的流程图。
图11是根据实施例1的负载均衡器决定最佳的服务器/路径组合的流程图。
图12是根据实施例1的负载均衡器预计算路由的流程图。
图13是根据实施例1的负载均衡器计算服务器/路径组合资源消耗成本的流程图。
图14A是表示根据实施例1的基于二维属性的业务块划分策略的图。
图14B是表示根据实施例1的基于二维属性的服务器/路径资源块划分策略的图。
图14C是根据实施例1的基于二维属性的业务块与资源块的首选映射表。
图15A是表示根据实施例3的基于三维属性的业务块划分策略的图。
图15B是表示根据实施例3的基于三维属性的服务器/下行路径/上行路径资源块划分策略的图。
图15C是根据实施例3的基于三维属性的业务块与资源块的首选映射表。
图16A是根据实施例1的服务器/路径记录表。
图16B是根据实施例3的服务器/下行路径/上行路径记录表。
图17A是根据实施例1的服务器/路径当前可用容量表(业务启动前)。
图17B是根据实施例1的服务器/路径当前可用容量表(业务处理中)。
图17C是根据实施例3的服务器/下行路径/上行路径当前可用容量表(业务启动前)。
图17D是根据实施例3的服务器/下行路径/上行路径当前可用容量表(业务处理中)。
图18是根据实施例1的业务分类表。
图19A是根据实施例1的资源块与服务器/路径组合记录表(业务启动前)。
图19B是根据实施例1的资源块与服务器/路径组合记录表(业务处理中)。
图19C是根据实施例3的资源块服务器/下行路径/上行路径组合记录表(业务启动前)。
图19D是根据实施例3的资源块服务器/下行路径/上行路径组合记录表(业务处理中)。
图20是根据实施例1的会话转发表。
图21是表示根据实施例1的路径配置消息格式的图。
图22A是根据实施例1的静态转发过滤表。
图22B是根据实施例1的动态转发过滤表。
具体实施方式
下面将结合实施例和附图,对本发明的内容进行详细阐述。
图1是应用本发明的数据中心内部网络实施例的系统结构图,图1A是根据实施例1的基于集中式负载均衡器的数据中心网络结构图,负载均衡器位于数据中心网络的入口,管理整个数据中心相关的资源分配包括所有服务器的负载分配及所有路径的带宽分配。如图1A所示,该系统包括负载均衡器100、101,交换节点如交换机110~116,以及服务器120~125,这里服务器既可以是物理服务器设备,也可以是虚拟机,向用户提供一种或多种业务130~133。负载均衡器100、101与接入侧的交换节点110、113相连,并经过多个中间交换节点111、112、114、115、116连接至服务器120~125。接入侧的交换节点110、113与每个服务器120~125之间存在着一条或多条路径140、141。这里路径140、141是双向链路对称式路径,即从均衡器到服务器下行方向与从服务器到均衡器上行方向的链路完全重合,同时两个方向上的带宽可以不同。负载均衡器100、101作为数据中心的逻辑入口点接收客户端发来的业务请求,并根据业务请求的类型和当前可用资源信息选择合适的服务器及相应的路径组合作转发,确保业务性能的同时考虑网络整体资源利用的效率和公平。其中当前可用的资源信息包括当前可用的服务器资源和当前可用的网络资源信息,比如服务器的CPU未使用率、可用内存容量、剩余连接数、剩余网络出口带宽等,路径的可用最大带宽,路径延时等信息。负载均衡器一般分为主负载均衡器100和备份负载均衡器101,可作为一个单独的物理实体存在也可以将负载均衡的功能集成到接入侧交换节点110和113上。
图1B是根据实施例2的基于分布式负载均衡器的数据中心网络结构图,在实施例2所示的数据中心网络中存在多个分布式的负载均衡器分别管理若干服务器组,并由位于数据中心入口全局负载均衡器统一管理。如图1B所示,服务器120~125被划分为若干个小的服务器组150、151,每个服务器组150、151内部的负载分配由局部负载均衡器170、171管理,所有的局部负载均衡器170、171则由位于整个数据中心网络入口处的负载均衡器100、101统一管理。当来自客户端的业务请求到达数据中心网络入口时,负载均衡器100、101为其选择合适的服务器组150、151及到达该服务器组的路径140、141,在业务请求沿着所选择的路径到达选择的服务器组后,再由服务器组150、151中的局部负载均衡器170、171将其分配到不同的服务器上120~125处理。这里路径140、141与实施例1中的路径特性相同,也是双向链路对称式路径。
在另外的一些实施例中,负载均衡器为业务分配的路径是双向链路非对称式路径,即均衡器到服务器下行方向与从服务器到均衡器上行方向的链路是不重合的,带宽也可能不同,如图1C中的实施例3所示。负载均衡器100、101为业务类型130分配不同的下行路径140和上行路径140r,业务请求经由路径140到达服务器120,服务器120响应消息经由路径140r发送至客户端。
图2是根据实施例1的负载均衡器的功能实体图,包括数据接收单元201、202,数据处理单元210,存储单元230,和数据转发单元250,其中数据处理单元210包括负载均衡模块220和监控模块240。数据接收单元201、202,主要用于接收用户的业务请求和数据中心网络的监控消息。数据处理单元210中的负载均衡模块220主要处理接收到的业务请求,该模块执行如下功能:业务/资源块划分设定功能221预配置业务块和资源块的划分策略及其映射关系,业务识别功能222通过检查接收到的业务请求数据包的内容识别该业务的类型并判断其所属哪个业务块,服务器/路径组合决策功能223根据业务所属的业务块信息按照预设的策略在资源块中搜索合适的服务器及路径组合,其中具体的搜索算法将后文中作详细阐述,路径配置功能224通知所选择的路径经过的交换机配置路径转发信息,具体交换机的工作过程及路径配置流程也将在后文中作进一步阐述。负载均衡模块220将配置信息存储至存储单元230的相关表格中,比如业务块与资源块首选映射表232,服务器/路径记录表235和业务分类表236,在处理完业务请求消息后,更新存储单元230中的相关表格,比如会话转发表231等,并交由数据转发单元250将业务请求沿着选择的路径转发至选择的服务器。数据处理单元210中的监控模块240主要负责处理监控消息,监控消息可来自网络中单个的交换节点、服务器设备或者集中式的性能管理服务器。其中路径监控消息处理241通过数据转发单元250向网络中的交换节点监控设备发送探测请求,处理交换节点监控设备发来的网络可用资源信息,比如网络端口的可用带宽、延时等,服务器监控消息处理242通过数据转发单元250向服务器监控设备发送探测请求,处理服务器监控设备发来的服务器可用资源信息,比如服务器的CPU未使用率、可用内存容量、剩余连接数、剩余网络出口带宽等。监控模块240将收到的监控消息处理后,更新存储单元230中的相关表格,比如服务器/路径当前可用容量表233,资源块与服务器/路径组合记录表234等。通常,业务请求接收单元201、监控消息接收单元202、数据转发单元250通过网络接口等来实现,存储单元230通过内存或高速缓存等来实现,数据处理单元210通过CPU等处理器来实现。
图3是根据实施例1的具有路径配置功能的交换机的功能实体图,主要包括MAC层接口300,网桥单元310和存储单元320。MAC层接口300包括数据接收器301和数据发送器302。数据接收器301用于接收普通用户MAC数据帧,网桥协议数据单元(BPDU),及来自负载均衡器的路径配置请求消息,数据发送器302用于将处理完毕的普通用户MAC数据帧帧和路径配置响应消息发送至网络。网桥单元310主要包括如下六个功能模块,帧中继311,转发决定模块312,STP模块313,MAC学习模块314、路径配置消息处理模块315和数据分发模块316。MAC接口300将接收到的MAC帧转发给网桥数据分发模块316,网桥数据分发模块316根据MAC帧的类型将MAC帧交由不同的功能模块作进一步处理。如果是网桥协议数据单元(BPDU)交由STP模块313作进一步处理,根据消息处理结果STP(Spanning Tree Protoco1)模块313更新动态转发过滤表322(如图22B所示),该动态转发过滤表322主要包括两个域:目的MAC地址和交换机转发端口。如果是来自负载均衡器的路径配置请求消息,交由路径配置消息处理模块315根据路径配置信息更新静态转发过滤表321(如图22A所示),并向负载均衡器发送路径配置响应消息。该静态转发过滤表321主要包括如下域:VLAN ID,源MAC地址,目的MAC地址,交换机进入端口和转发端口。如果是普通用户MAC数据帧,交由MAC学习模块314学习源MAC地址或者帧中继311作中继,等待转发队列空闲时交由转发决定模块312决定交换机转发端口。转发过程如下,转发决定模块312首先检查存储单元320中的静态转发过滤表321是否存在对应的转发记录,如果存在则将业务请求转发至对应的转发记录中的交换机转出端口,否则如果在静态转发过滤表321中找不多对应转发记录则根据动态转发过滤表322决定该数据帧转发端口并发送至相应的交换机转出端口。
图4根据实施例1的业务请求转发处理时序图的一个实施例。客户端180向数据中心网络发送第一个业务请求410,负载均衡器100收到业务请求410后,为该业务请求计算最佳的服务器/路径组合,将会话转发信息存入会话转发表231,并通知相关交换机为该业务请求配置转发路径411。配置完成后负载均衡器100沿着选择的路径向选择的服务器120发送该业务请求413、414,被选择提供服务的服务器120收到业务请求消息后处理该业务请求,并向客户端180发送响应消息415、416。当客户端180向数据中心网络发送之后的业务请求消息420时,负载均衡器100在会话转发表231中找到相应的转发记录,并沿着记录中的服务器/路径组合转发该业务请求421。服务器120处理业务请求后向客户端发送响应消息422。
图5是根据实施例1的路径配置消息处理时序图的一个实施例。负载均衡器100为收到的业务请求计算最佳路径后,广播相关的路径配置信息501、502至所有的交换机110、111。路径配置消息的格式如图21所示,包括如下域:以太帧头2101,路径配置协议标识2102,路径配置消息类型2103,配置交换机ID 2104,VLAN ID 2105,会话源MAC地址2106,会话目的MAC地址2107,交换机进入端口2108,交换机转发端口2109。交换机110、111收到路径配置广播消息后,检查配置交换机ID 2104是否与本机相同,如果与本交换机ID相符,根据路径配置请求中的会话转发消息配置交换机静态转发过滤表321,配置完毕后向负载均衡器发送路径配置OK消息522。反之如果与本交换机ID不符,则丢弃该消息521。之后假设当该业务请求经过交换机111时,配置交换机ID 2104与本交换机ID相符,交换机根据已配置的静态路径将业务转发至相应的端口。当该业务结束时,负载均衡器100向交换机110、111广播相应的路径配置取消请求531,相关交换机111收到路径配置取消请求后在转发表中删除相应的转发记录533,并向负载均衡器100发送路径配置取消OK的响应消息通知负载均衡器100已经取消相关路径配置535。在另外的一些实施例中,交换机111可以为静态转发过滤表321中的相关转发记录设置定时器,当该会话的业务请求发送间隔超过某个阈值,删除相应的记录。
下面将结合图1A中的数据中心网络拓扑实施例具体描述负载均衡器的工作流程。
在业务启动之前,负载均衡器首先需要执行初始化操作,完成系统初始配置。
图6是根据实施例1的负载均衡器初始化流程图。负载均衡器中的数据处理单元210执行以下步骤。
在步骤600,负载均衡器预计算到达每个服务器的可用路径集合。预计算路由的一个实施例流程图如图12所示,首先收集网络拓扑信息1200,收集链路的metric信息1201,然后利用CSPF路由算法计算到达每个服务器的可用路径集合1202。在本领域,常用的metric可以是带宽、延迟、路径长度、可靠性、负载、通信成本中的一种,对于复杂的路由算法可以基于多个metric选择路由,并把它们结合成一个复合的metric。本发明中的下述说明中以metric是带宽为例进行说明。
在步骤601,将计算结果及相关信息存储到服务器/路径记录表235中,如图16A所示,该服务器/路径记录表235主要包括业务类型,服务器ID,总CPU,路径/带宽列表这几个域,分别记录每个服务器所支持的业务类型,ID号,CPU总量,可用路径路由信息及每条路径的总带宽。在路径/带宽列表域中,路径是双向链路对称路径,带宽是下行链路带宽。
在另外的一些实施例中,根据资源优化的策略不同,带宽可以是路径所在两个方向上的可用带宽的较小值,或者是平均值,或者是其他预定义值比如上行链路带宽等。
在链路非对称路径的实施例3中,路径/带宽列表可以分别包括其两个方向的路径及带宽,对应的服务器/下行路径/上行路径记录表如图16B所示。
在步骤602,初始化服务器/路径当前可用容量表233,该表主要记录每个服务器上的当前可用容量及到达该服务器的每条路径的可用容量信息,如图17A所示。在业务启动之前,所有的服务器和路径的可用容量都是总容量。在路径非对称的实施例3中,路径当前可用容量包括下行路径和上行路径的可用容量,对应的服务器/下行路径/上行路径当前可用容量表如图17C、17D所示。
在步骤603,定义业务块和资源块的划分策略及其映射表。该步骤中所执行的处理对应于上述负载均衡模块220中的业务/资源块划分设定功能221。
业务块的划分策略是,根据每个业务对资源需求的大小S和R对业务进行分类,其中S为处理该业务需要的服务器资源,比如CPU使用率,R为传输该业务需要的网络资源,比如下行方向的网络带宽。假设S的取值范围是[Smin,Smax],R的取值范围是[Rmin,Rmax],将S的取值空间分成M个子空间,每个子空间的长度分别是S1,S2,...,Sm,将R的取值空间分成N个子空间,每个子空间的长度没别是R1,R2,...Rn,这样将S和R组成的二维平面空间划分为M*N个空间块,称之为业务块。每个业务块的取值范围分别为:{S∈[Smin,Smin+S1),R∈[Rmin,Rmin+R1)}、{S∈[Smin+S1,Smin+S1+S2),R∈[Rmin+R1,Rmin+R1+R2)}、…、{S∈[Smax-Sm,Smax),R∈[Rmax-Rn,Rmax]}。每种具体的业务根据所需资源的数值落入不同的业务块中。考虑到常见的业务类型,如文本搜索,视频下载,语音通话等的带宽需求通常存在数量级上的差异,所以网络资源R的取值空间可作对数化处理。同样,为了数据处理方便,服务器资源S也可以作归一化处理取相对值。业务块划分的一个实施例如图14A所示,x轴表示业务对服务器CPU的需求,y轴表示业务对下行网络带宽的需求,共形成3*3=9个业务块,分别是R11,R21...R33,其中R11对资源需求最小,R33对资源需求最大。当某业务消耗的资源满足某个业务块的取值范围时,该业务属于这个业务块,例如,当处理业务消耗的CPU资源百分比大于0小于0.01%,且传输业务消耗的下行网络带宽大于0小于103=1Kbps时,该业务落在R11业务块中。
在另外的一些实施例中,业务对网络的资源需求可以是其两个方向上带宽需求的最大值,或者是平均值或者其他预定义值。
在又一些实施例中,比如路径不对称的实施例3中,业务对网络资源的需求可是双方向的,根据业务对资源需求的三维空间CPU/下行带宽/上行带宽划分业务块,如图15A所示。此外,业务对资源的需求空间还可以考虑更多的信息,比如内存,能量消耗,延时等,将业务对资源需求空间扩展至更高维。
每种业务需要的资源具体数值可以通过对历史数据的统计获得。每个维度上子空间M和N的取值可以通过业务聚类的方法来确定。下面以基于网格的模糊聚类方法为例,具体说明。首先将业务的取值空间的每一维都K等分,将其划分为若干个均等的网格单元,网格单元的个数远远大于预期的业务块的数量M*N。将每种业务根据资源需求的大小映射到网格单元中,并计算每个网格单元的密度即落到该单元格中的业务的个数,其中包含至少一个业务的网格单元称之为有效网格单元,否则称之为空网格单元。在聚类之前设定每个业务块的密度范围,比如每个业务块所包含的业务个数不得小于密度阈值最小值DENSITYmin不得大于密度阈值最大值DENSITYmax。当出现某个有效网格单元的密度过大(>DENSITYmax)时,增加K的值重新划分网格单元直至所有有效网格单元的密度都小于预设的密度阈值最大值。当某个有效网格单元的密度过小(<DENSITYmin)时,通过合并邻近的网格单元增加网格单元的密度。反复执行此过程直至所有的有效网格单元都满足密度阈值要求。检测有效网格单元的边界和周围的空网格单元,连接形成若干取值空间连续的业务块,然后根据每个业务块的取值范围确定每个维度上的M和N的取值。
通过上述业务聚类的方法来确定各业务块的取值范围仅是一个例子,当然也可以采用其他的方式来划分。例如也可以采用等间隔划分的方法均等地确定各业务块的取值范围,这样的方式能够降低划分业务块时的处理负担。
资源块的划分策略是,将服务器的空闲计算资源(例如,CPU未使用率)及其相连的路径的空闲网络资源(例如,下行网络带宽)分成若干类,在系统运行过程中,每个服务器/路径组合根据其当前所拥有的空闲资源的情况落入不同的资源块中。假设网络中服务器的最大资源为NSmax,下行路径的最大带宽为NRmax,则服务器资源的取值范围[0,NSmax],网络带宽的取值范围[0,NRmax],将由空闲服务器资源和空闲网络带宽资源组成的二维平面空间划分成M*N个空间块,称之为资源块。其中,各资源块的每个子空间的取值范围可以与业务块的每个子空间的取值范围以相同趋势来确定(如图14A、图14B所示),也可以按业务块的每个子空间的取值范围的比例来确定,还可以采用等间隔划分的方法均等地确定等。假设服务器资源的取值空间上每个子空间的长度依次是NS1,NS2,...,NSm,网络带宽的取值空间上每个子空间的长度依次是NR1,NR2,...NRn,每个资源块的取值范围分别为:{S∈[0,NS1),R∈[0,NR1)}、{S∈[NS1,NS1+NS2),R∈[NR1,NR1+NR2)}、…、{S∈[NSmax-NSm,NSmax),R∈[NRmax-NRn,NRmax]}。考虑到作为负载均衡的目标,服务器的空闲资源差异不会太大,可以将服务器中等繁忙程度时的空闲资源为中心进行log处理,即加大在平均值附近的分类精度。同样为了数据处理方便,由于网络带宽资源的取值范围比较大,也可作对数化处理取相对值。资源块划分的一个实施例如图14B所示,x轴表示业务对服务器可用CPU的利用率百分比,y轴表示下行路径可用网络带宽资源,与图14A中的业务块对应,共形成3*3=9个资源块,分别是S11,S21,...S33,其中S11中服务器及相连的路径上可用资源最少,即服务器及相连的网络上负载非常重,S33中服务器及相连的路径上可用资源最多,即服务器及相连的网络上负载非常轻。当服务器/路径组合中可用资源满足某个资源块的取值范围时,该服务器/路径组合属于这个资源块,例如,当某服务器的可用CPU资源百分比大于0小于35%,且相连的路径带宽大于0小于106=1Mbps时,该服务器/路径组合落在S11资源块中。
在另外的一些实施例中,将服务器/路径组合划分为不同资源块时,网络资源也可以根据其路径在其两个方向上可用带宽的最大值,或者是平均值或者其他预定义值来划分。
在又一些实施例中,比如路径不对称的实施例3中,可以根据服务器/下行路径/上行路径划分资源块,这时资源块的取值空间扩展为可用CPU/下行可用带宽/上行可用带宽三维信息,如图15B所示。此外,资源块的取值空间还可以考虑更多的信息,比如可用内存,剩余能量,链路的当前延时等,将资源空间扩展至更高维。
业务块与资源块的映射规则是,每个业务块首选多个资源块中与该业务块位置对应的资源块即首选映射资源块。即,在对每个业务块上的业务分配服务器和网络资源时,首先搜索首选资源块上的服务器/路径组合,例如图14C是对应14A和14B基于二维属性划分的首选映射表的一个实施例,图15C是对应15A和15B基于三维属性划分的首选映射表的另一个实施例。如果首选映射的资源块中没有满足业务资源要求的服务器/路径组合,则首先去掉取值范围不满足业务资源要求的资源块,将剩余的资源块作为搜索区域,然后以首选资源块为中心由近至远逐层展开螺旋式搜索,直到搜索到满足业务需求的服务器/路径组合。螺旋式搜索过程如下:首先在靠近首选资源块的第一层可用资源块中随机选择一个资源块,在该资源块中搜索是否有满足条件的服务器/路径组合,如果有,停止搜索,否则按照顺时针顺序(例如,图15B中的S111、S121、S221、S211的顺序)或逆时针顺序(例如,图15B中的S111、S211、S221、S121的顺序)搜索该层的下一个资源块,直到这层的可用资源块搜索完毕。如果仍没有找到满足条件的服务器/路径组合,则开始搜索第二层的可用资源块,依次第三层,第四层,...,直到将搜索区域的资源块搜索完毕。
在步骤604,根据业务对资源的需求初始化业务分类表236,记录每个业务的业务类型,对资源需求的数值,及所属的业务块,如图18所示。
在步骤605,初始化资源块与服务器/路径组合记录表234,该表记录属于每个资源块中的服务器/路径组合,如图19A所示。在业务启动之前,所有的服务器和路径都处于空闲状态,因此都在资源块S33中。在路径非对称的实施例3中,每个资源块记录了属于该资源块的服务器/下行路径/上行路径组合,如图19C所示。
在完成初始化操作以后,业务启动,负载均衡器开始处理到达的数据包,并为每个业务请求分配服务器和路径,处理流程概要图如图7所示。
在步骤701,检查接收到的数据包并判断其消息类型,如果是监控消息进入步骤710,如果是业务请求消息则进入步骤702。
在步骤710,根据接收到的服务器或网络的监控消息更新服务器/路径当前可用容量表233,并根据当前的可用容量信息及资源块的划分策略更新其所属的资源块,如图17B和图19B所示。在路径非对称的实施例3中,根据当前服务器/下行路径/上行路径当前可用容量表中记录的容量信息,更新每个资源块中服务器/下行路径/上行路径组合,如图17D和19D所示。
在步骤702,检查该业务请求是否来自一个新的连接,如果该连接已经在会话转发表231中存在,则进入步骤720在该记录表中查找对应的服务器/路径组合作转发。如果是新的连接请求,则进入步骤703,为该业务请求搜索最优的服务器和路经提供服务。
在步骤703,识别业务请求的业务类型,并决定业务所属的业务块。该步骤703中所执行的处理对应于上述负载均衡模块220中的业务识别功能222。该过程的一个实施例如图8所示。首先在步骤800,检查接收到的数据包内容并判断其所属的业务类型,然后在步骤801根据业务分类表判断该业务是否是已知业务类型。如果是已知业务类型,在步骤810根据业务分类表236查找该业务类型所属的业务块,否则如果是未知业务类型,根据步骤802~806所述方法确定该业务所属的业务块。首先在步骤802根据预设策略为该业务选择一个业务块,比如依据端口的范围,协议的类型,业务的优先级别等根据对应用程序的历史信息统计结果设定所属的业务块。之后在步骤803通知负载均衡器或者经过的交换机监测该业务的流量信息,在步骤804通知服务器监测该业务所占用的资源信息,在步骤805收集该业务所需的网络带宽资源和服务器计算资源并将其资源需求添加至业务分类表236,最后在步骤806根据测定的该业务所需资源及业务块划分策略确定该业务类型所属的业务块并添加至业务分类表236对应的记录中。
在步骤703确定了业务所属的业务块之后,在步骤704,根据业务块与资源块首选映射表232查找与该业务块对应的首选映射资源块。基于该首选映射资源块在步骤705~706为该业务搜索最佳的服务器/路径组合,以均衡业务流量在网络和服务器中的分布,使得数据中心网络整体的资源利用效率得到优化,搜索算法的具体实施过程在图9~11中会进一步详细阐述。其中,步骤704~步骤706中所执行的处理对应于上述负载均衡模块220中的服务器/路径决策功能223。
在步骤707,将该业务请求连接信息及对应的最佳服务器/路径组合存储到会话转发表231中,如图20所示。该会话转发表主要包括如下几个域,会话ID,业务类型,源IP地址,目的IP地址,对应的VLAN ID,源MAC地址,目的MAC地址,以及为该业务连接分配的<目的服务器,经由路径>。当下一个来自同一连接的数据包到达时,根据该会话转发表查找对应的服务器/路径组合作转发即可,无需再重新搜索。
在步骤708,根据为该业务分配的最佳路径通知相关的交换机配置该路径。该步骤708中所执行的处理对应于上述负载均衡模块220中的路径配置功能224。
在步骤709,沿着该路径将业务请求转发至为其分配的服务器,之后由分配的服务器为该业务请求提供服务。该步骤709中所执行的处理对应于图2中的数据转发单元。
图9~图11是搜索算法的一个具体实施例。搜索过程主要分为两步,第一步如图9~10所示在资源块中搜索与业务需求适配的可用服务器/路径组合的集合,第二步如图11所示在可用的集合中甄选出最佳的服务器/路径组合。搜索可用的服务器/路径组合的集合的具体过程如下:
在步骤900,根据业务块与资源块首选映射表234查找与该业务块对应的首选搜索的资源块Sxy,之后步骤901在资源块与服务器/路径组合记录表中234查找该资源块Sxy中是否存在服务器/路径组合记录,如果存在进入步骤902。
在步骤902选择资源块Sxy中包含的第一个服务器/路径组合,之后在步骤903根据服务器/路径列表记录检查该组合中的服务器是否支持该业务请求,如果支持在步骤904根据检查该组合中的可用容量的绝对值是否满足该业务资源的需求,如果满足在步骤905将该服务器/路径组合存储至可用服务器/路径集合中,之后进入步骤906以同样的方式检查资源块Sxy中的下一个服务器/路径组合是否满足业务需求,直到将该资源块中的所有的服务器/路径组合都检查完毕,并将满足条件的组合都存储至可用服务器/路径集合。如果某一个服务器/路径组合在步骤903和步骤904中不满足要求,则跳过该组合进入步骤906检查下一个组合。
在搜索完毕首选映射资源块Sxy所对应的所有服务器/路径组合后,在步骤907检查可用服务器/路径集合是否为空,如果不为空,则依照图11的流程在该集合中甄选出最佳的组合,否则进入步骤908以资源块Sxy为中心由近至远向其邻近的资源块展开螺旋式搜索,直到满足业务需求的资源块全部搜索完毕,如图10所示。如果仍没有找到可用的服务器/路径组合,则将该业务请求缓存至队列等待一段时间重新搜索。
图10是以首选资源块Sxy为中心由近至远向其邻近的资源块展开顺时针螺旋式搜索的一个实施例。具体过程如下:
在步骤1000已知该业务对服务器的资源需求为Cr,对网络带宽的资源需求为Br,在步骤1001计算满足该业务需求的资源块区域的边界的最小值SMN,将SUV(U=M,M+1,...,V=N,N+1,...)的集合确定为资源块搜索区域并在该区域中搜索可用的服务器/路径的组合。
在步骤1002开始依照步骤1003~1007在与资源块Sxy相邻的第一层资源块中进行搜索。首先在步骤1003根据资源块搜索区域的范围划定该层中满足业务需求的资源块集合G,之后在步骤1004在资源块集合G中随机选择一个资源块Sij,并按照图9所示的流程在其中搜索可用服务器/路径集合。在步骤1005检查该可用服务器/路径集合中是否存在服务器/路径组合的记录,如果存在则停止搜索,否则进入步骤1006在资源块集合G中按照顺时针顺序依次搜索下一个资源块,直到搜索到可用的服务器/路径组合。如果在步骤1007资源块集合G中所有的资源块都已经搜索完毕仍然没有找到可用的服务器/路径组合,则进入步骤1008以同样的方法螺旋式搜索与所述第一层资源块相邻的第二层资源块,依次第三层资源块,第四层资源块......直至将资源块搜索区域中的所有资源块都搜索完毕。在螺旋式搜索第二层资源块时,第一个搜索点可选择在Sxy和Sij的延长线与该下一层资源块交叉的资源块,也可随机选择,之后按照顺时针顺序依次搜索与之相邻的下一个资源块。以图14B的情况为例,在资源块Sxy是S11的情况下,与资源块Sxy相邻的第一层资源块是S12、S22和S21,与所述第一层资源块相邻的第二层资源块是S13、S23、S33、S32、S31。
在邻近的资源块中搜索的方法并不限定图10中的流程,也可以以逆时针顺序或者随机的顺序进行搜索,搜索的基本原则是1)优先搜索与首选资源块Sxy可用资源数值差距比较小的资源块;2)尽量均衡周围的资源块被搜索的频率,避免某一资源块被过度搜索。
从搜索到的可用服务器/路径集合中甄选出最佳的服务器/路径组合的流程如图11所示,具体过程如下:
在步骤1101从该可用服务器/路径集合中选择第一个服务器/路径组合,并初始化当前最小资源消耗成本为∞。
在步骤1102计算该组合的资源消耗成本,计算方法如图13所示。假设所请求的业务对服务器的资源需求为Cr,对网络带宽的资源需求为Br,该组合中服务器的当前可用容量为CA,路径当前可用带宽为BA,则资源消耗成本LBc=Cr/CA+Br/BA。
在步骤1103检查该组合的资源消耗成本是否小于当前最小资源消耗成本,如果比当前最小资源消耗成本小,则进入步骤1104将该服务器/路径组合设定为当前最佳选择,并将其资源消耗成本设定为当前最小资源消耗成本,反之则跳过该组合。接着在步骤1105检查该可用服务器/路径集合中是否存在下一个服务器/路径组合,如果存在则依照1102~1104同样的流程计算其资源消耗成本,并设定当前最小资源消耗成本和当前最佳服务器/路径组合,直至将该可用服务器/路径集合中的所有服务器/路径组合都检查完毕,此时,清空上述的可用服务器/路径集合,并将当前最佳选择作为该业务请求所分配的服务器和路径。
Claims (11)
1.一种负载均衡设备,在数据中心网络中进行负载均衡的资源分配,其特征在于,
根据业务的服务器资源需求和网络传输资源需求将业务划分成多个业务块,并将所述数据中心网络中的空闲服务器资源和空闲网络传输资源划分成多个资源块,
监控所述数据中心网络中的空闲服务器资源和空闲网络传输资源,从而将针对服务器的空闲服务器资源和空闲网络传输资源的组合与各资源块建立对应,
识别进入数据中心网络的业务请求所属的业务块,基于所述业务块和所述资源块之间的对应关系,对该业务请求分配所述空闲服务器资源和空闲网络传输资源的组合。
2.根据权利要求1中所述的负载均衡设备,其特征在于,
包括:
数据接收单元,接收所述业务请求以及监控消息;
数据处理单元,处理由所述数据接收单元接收到的所述业务请求及所述监控信息;
存储单元,存储所述数据中心网络的资源信息以及进行数据处理所需的信息;以及
数据转发单元,根据所述数据处理单元的处理结果,转发所述业务请求。
3.根据权利要求2中所述的负载均衡设备,其特征在于,
所述监控消息包含所述数据中心网络中的空闲服务器资源和空闲网络传输资源的信息,
所述数据处理单元根据所述监控消息更新各所述空闲服务器资源和空闲网络传输资源的组合与各所述资源块的对应关系。
4.根据权利要求2中所述的负载均衡设备,其特征在于,
在所述负载均衡设备的初始化过程中,所述数据处理单元将所述服务器资源需求的取值空间分成多个子空间,将所述网络传输资源需求的取值空间分成多个子空间,从而将由所述服务器资源需求和所述网络传输资源需求构成的二维空间划分为多个业务块;
所述数据处理单元将由空闲服务器资源和空闲网络传输资源构成的二维空间划分成与所述多个业务块分别对应的多个资源块。
5.根据权利要求4中所述的负载均衡设备,其特征在于,
所述数据处理单元识别接收到的业务请求的业务类型,判断与该业务请求对应的业务块,
所述数据处理单元在多个资源块中确定与该业务请求对应的业务块位置对应的资源块,在与该资源块对应的空闲服务器资源和空闲网络传输资源的组合中搜索满足该业务请求的资源需求的组合。
6.根据权利要求4中所述的负载均衡设备,其特征在于,
所述数据处理单元识别接收到的业务请求的业务类型,判断与该业务请求对应的业务块,
所述数据处理单元在多个资源块中确定与该业务请求对应的业务块位置对应的资源块,若与该资源块对应的空闲服务器资源和空闲网络传输资源的组合中不存在满足该业务请求的资源需求的组合,则以该资源块为中心由近至远向邻近的资源块进行螺旋式搜索,直到找到满足资源需求的组合。
7.根据权利要求5或6中所述的负载均衡设备,其特征在于,
在搜索到的满足该业务请求的资源需求的组合为多个时,分别计算该业务请求在利用所述各组合时的资源消耗成本,选择与最小的资源消耗成本对应的组合。
8.根据权利要求1中所述的负载均衡设备,其特征在于,
在所述服务器资源需求是服务器的CPU使用率,所述网络传输资源需求是传输该业务时的下行方向带宽需求、上行方向带宽需求、或者上行下行两方向上的带宽需求的较小值或平均值;
所述空闲服务器资源是服务器的CPU未使用率,所述空闲网络传输资源是与该服务器有关的路径的下行方向可用带宽、上行方向可用带宽、或者上行下行两方向上的可用带宽的较小值或平均值。
9.根据权利要求1中所述的负载均衡设备,其特征在于,
在所述服务器资源需求是服务器的CPU使用率,所述网络传输资源需求是传输该业务时的下行方向带宽需求和上行方向带宽需求;
所述空闲服务器资源是服务器的CPU未使用率,所述空闲网络传输资源是与该服务器有关的路径的下行方向可用带宽和上行方向可用带宽。
10.根据权利要求9中所述的负载均衡设备,其特征在于,
在所述负载均衡设备的初始化阶段,将所述CPU使用率的取值空间分成多个子空间,将所述传输该业务时的下行方向带宽需求和上行方向带宽需求的取值空间分别分成多个子空间,从而将由所述CPU使用率、所述下行方向带宽需求和所述上行方向带宽需求构成的三维空间划分为多个业务块;
将由所述CPU未使用率、所述下行方向可用带宽和所述上行方向可用带宽构成的三维空间划分成与所述多个业务块分别对应的多个资源块。
11.一种负载均衡方法,用于在数据中心网络中进行负载均衡的资源分配,其特征在于,
划分步骤,根据业务的服务器资源需求和网络传输资源需求将业务划分成多个业务块,并将所述数据中心网络中的空闲服务器资源和空闲网络传输资源划分成多个资源块;
监控步骤,监控所述数据中心网络中的空闲服务器资源和空闲网络传输资源,从而将针对服务器的空闲服务器资源和空闲网络传输资源的组合与各资源块建立对应;以及
分配步骤,识别进入数据中心网络的业务请求所属的业务块,基于所述业务块和所述资源块之间的对应关系,对该业务请求分配所述空闲服务器资源和空闲网络传输资源的组合。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2012100336776A CN103259739A (zh) | 2012-02-15 | 2012-02-15 | 负载均衡设备以及负载均衡方法 |
JP2013010059A JP2013168934A (ja) | 2012-02-15 | 2013-01-23 | 負荷均衡装置及び負荷均衡方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2012100336776A CN103259739A (zh) | 2012-02-15 | 2012-02-15 | 负载均衡设备以及负载均衡方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN103259739A true CN103259739A (zh) | 2013-08-21 |
Family
ID=48963447
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2012100336776A Pending CN103259739A (zh) | 2012-02-15 | 2012-02-15 | 负载均衡设备以及负载均衡方法 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2013168934A (zh) |
CN (1) | CN103259739A (zh) |
Cited By (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103647839A (zh) * | 2013-12-18 | 2014-03-19 | 清华大学 | 物联网多任务资源分配方法和系统 |
CN103997526A (zh) * | 2014-05-21 | 2014-08-20 | 中国科学院计算技术研究所 | 一种可扩展负载均衡系统和方法 |
WO2014173341A1 (zh) * | 2013-08-22 | 2014-10-30 | 中兴通讯股份有限公司 | 一种负载均衡方法及系统 |
CN104796348A (zh) * | 2015-04-03 | 2015-07-22 | 华为技术有限公司 | 基于sdn的idc网络出口流量均衡调整方法、设备及系统 |
CN105099939A (zh) * | 2014-04-23 | 2015-11-25 | 株式会社日立制作所 | 在不同数据中心之间执行流量控制的方法和设备 |
CN105100151A (zh) * | 2014-05-14 | 2015-11-25 | 中国移动通信集团公司 | 一种内容分发的方法、设备和系统 |
CN105516347A (zh) * | 2015-12-31 | 2016-04-20 | 浙江大华系统工程有限公司 | 一种流媒体服务器的负载均衡调配的方法及装置 |
WO2017012471A1 (zh) * | 2015-07-20 | 2017-01-26 | 中兴通讯股份有限公司 | 负载均衡处理方法及装置 |
CN106453132A (zh) * | 2016-12-14 | 2017-02-22 | 深圳市深信服电子科技有限公司 | 一种混合云环境下的调度方法以及流控设备 |
CN106445709A (zh) * | 2016-10-24 | 2017-02-22 | 深圳有麦科技有限公司 | 一种分布式调用服务器的方法及其系统 |
CN106453637A (zh) * | 2016-11-24 | 2017-02-22 | 深圳市小满科技有限公司 | 云平台高效复用服务器资源的方法、装置以及云平台 |
CN103929368B (zh) * | 2014-05-05 | 2017-04-26 | 华为技术有限公司 | 多业务单元负载均衡方法及装置 |
CN106815061A (zh) * | 2015-12-01 | 2017-06-09 | 阿里巴巴集团控股有限公司 | 一种业务处理方法及装置 |
CN107454005A (zh) * | 2016-05-31 | 2017-12-08 | 鸿富锦精密工业(深圳)有限公司 | 数据网络负载动态调整装置以及方法 |
CN107613030A (zh) * | 2017-11-06 | 2018-01-19 | 网宿科技股份有限公司 | 一种处理业务请求的方法和系统 |
CN107624240A (zh) * | 2015-05-13 | 2018-01-23 | 思科技术公司 | 用于自动的基于策略的路由的网络元件的配置 |
CN107707661A (zh) * | 2017-10-16 | 2018-02-16 | 中国银联股份有限公司 | 一种负载均衡资源管理方法和装置 |
CN108259385A (zh) * | 2016-12-28 | 2018-07-06 | 瞻博网络公司 | 由于交换结构退化而分配并广告可用带宽 |
CN105554444B (zh) * | 2015-12-03 | 2018-07-24 | 深圳市泛海三江电子股份有限公司 | 安防监控系统及方法 |
CN108600344A (zh) * | 2018-04-09 | 2018-09-28 | 杭州登虹科技有限公司 | 一种网络访问请求调度方法、装置和存储介质 |
CN109391678A (zh) * | 2017-08-04 | 2019-02-26 | 慧与发展有限责任合伙企业 | 过滤对发现请求的响应 |
CN110442066A (zh) * | 2019-08-16 | 2019-11-12 | 佳源科技有限公司 | 一种基于云端协同的物联网系统 |
US10574578B2 (en) | 2016-05-31 | 2020-02-25 | Nanning Fugui Precision Industrial Co., Ltd. | Dynamic network load regulating device and method |
CN110881058A (zh) * | 2018-09-06 | 2020-03-13 | 阿里巴巴集团控股有限公司 | 请求调度方法、装置、服务器及存储介质 |
CN111381963A (zh) * | 2020-02-28 | 2020-07-07 | 腾讯科技(深圳)有限公司 | 负载均衡方法、装置、计算机可读存储介质和计算机设备 |
CN111722920A (zh) * | 2019-03-22 | 2020-09-29 | 鼎捷软件股份有限公司 | 负载控制方法 |
CN111756800A (zh) * | 2020-05-21 | 2020-10-09 | 网宿科技股份有限公司 | 一种处理突发流量的方法和系统 |
CN112714062A (zh) * | 2020-12-07 | 2021-04-27 | 山东省计算中心(国家超级计算济南中心) | 一种面向超算用户体验质量的多路径路由方法和装置 |
CN113068267A (zh) * | 2021-04-02 | 2021-07-02 | 中科天智运控(深圳)科技有限公司 | 一种通信卫星信道带宽资源动态分配方法及装置 |
CN117424932A (zh) * | 2023-10-30 | 2024-01-19 | 深圳市汇洋信息技术有限公司 | 智能物联网边缘网关的数据缓存系统及方法 |
WO2024119660A1 (zh) * | 2022-12-07 | 2024-06-13 | 上海移远通信技术股份有限公司 | 用于通信的方法及装置 |
CN117424932B (zh) * | 2023-10-30 | 2024-07-16 | 深圳市汇洋信息技术有限公司 | 智能物联网边缘网关的数据缓存系统及方法 |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6082678B2 (ja) * | 2013-09-13 | 2017-02-15 | 株式会社日立製作所 | サーバ負荷分散方法およびプログラム |
CN103716251B (zh) * | 2014-01-14 | 2017-06-27 | 三星电子(中国)研发中心 | 用于内容分发网络的负载均衡方法及设备 |
CN103944997B (zh) * | 2014-04-29 | 2015-10-07 | 上海交通大学 | 结合随机抽样和虚拟化技术的负载均衡方法 |
WO2018142700A1 (ja) * | 2017-02-02 | 2018-08-09 | 日本電信電話株式会社 | 制御装置、制御方法、及びプログラム |
CN114448987B (zh) * | 2022-03-09 | 2024-01-26 | 深圳市华创智慧健康科技有限公司 | 基于云服务的负荷分散管理方法、装置、设备及介质 |
CN115242732B (zh) * | 2022-08-02 | 2023-05-09 | 嘉兴学院 | 面向智慧医疗的数据中心网络带宽资源调度方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101047563A (zh) * | 2007-04-20 | 2007-10-03 | 北京航空航天大学 | 实现网格资源适配的系统、方法及负载均衡方法 |
CN101783768A (zh) * | 2010-03-08 | 2010-07-21 | 东南大学 | 基于资源预留的网格服务质量保证方法 |
CN102185708A (zh) * | 2011-04-18 | 2011-09-14 | 武汉理工大学 | 基于纳什均衡的网格资源分配方法 |
-
2012
- 2012-02-15 CN CN2012100336776A patent/CN103259739A/zh active Pending
-
2013
- 2013-01-23 JP JP2013010059A patent/JP2013168934A/ja active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101047563A (zh) * | 2007-04-20 | 2007-10-03 | 北京航空航天大学 | 实现网格资源适配的系统、方法及负载均衡方法 |
CN101783768A (zh) * | 2010-03-08 | 2010-07-21 | 东南大学 | 基于资源预留的网格服务质量保证方法 |
CN102185708A (zh) * | 2011-04-18 | 2011-09-14 | 武汉理工大学 | 基于纳什均衡的网格资源分配方法 |
Cited By (49)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014173341A1 (zh) * | 2013-08-22 | 2014-10-30 | 中兴通讯股份有限公司 | 一种负载均衡方法及系统 |
CN104426936A (zh) * | 2013-08-22 | 2015-03-18 | 中兴通讯股份有限公司 | 一种负载均衡方法及系统 |
CN103647839B (zh) * | 2013-12-18 | 2016-08-17 | 清华大学 | 物联网多任务资源分配方法和系统 |
CN103647839A (zh) * | 2013-12-18 | 2014-03-19 | 清华大学 | 物联网多任务资源分配方法和系统 |
CN105099939A (zh) * | 2014-04-23 | 2015-11-25 | 株式会社日立制作所 | 在不同数据中心之间执行流量控制的方法和设备 |
CN103929368B (zh) * | 2014-05-05 | 2017-04-26 | 华为技术有限公司 | 多业务单元负载均衡方法及装置 |
CN105100151B (zh) * | 2014-05-14 | 2018-12-07 | 中国移动通信集团公司 | 一种内容分发的方法、设备和系统 |
CN105100151A (zh) * | 2014-05-14 | 2015-11-25 | 中国移动通信集团公司 | 一种内容分发的方法、设备和系统 |
CN103997526A (zh) * | 2014-05-21 | 2014-08-20 | 中国科学院计算技术研究所 | 一种可扩展负载均衡系统和方法 |
CN103997526B (zh) * | 2014-05-21 | 2018-05-22 | 中国科学院计算技术研究所 | 一种可扩展负载均衡系统和方法 |
CN104796348A (zh) * | 2015-04-03 | 2015-07-22 | 华为技术有限公司 | 基于sdn的idc网络出口流量均衡调整方法、设备及系统 |
WO2016155330A1 (zh) * | 2015-04-03 | 2016-10-06 | 华为技术有限公司 | 基于sdn的idc网络出口流量均衡调整方法、设备及系统 |
US10298502B2 (en) | 2015-04-03 | 2019-05-21 | Huawei Technologies Co., Ltd. | Method, device, and system for performing balance adjustment on egress traffic of SDN based idc network |
CN104796348B (zh) * | 2015-04-03 | 2018-02-13 | 华为技术有限公司 | 基于sdn的idc网络出口流量均衡调整方法、设备及系统 |
CN107624240A (zh) * | 2015-05-13 | 2018-01-23 | 思科技术公司 | 用于自动的基于策略的路由的网络元件的配置 |
WO2017012471A1 (zh) * | 2015-07-20 | 2017-01-26 | 中兴通讯股份有限公司 | 负载均衡处理方法及装置 |
CN106815061A (zh) * | 2015-12-01 | 2017-06-09 | 阿里巴巴集团控股有限公司 | 一种业务处理方法及装置 |
CN106815061B (zh) * | 2015-12-01 | 2020-11-24 | 创新先进技术有限公司 | 一种业务处理方法及装置 |
CN105554444B (zh) * | 2015-12-03 | 2018-07-24 | 深圳市泛海三江电子股份有限公司 | 安防监控系统及方法 |
CN105516347A (zh) * | 2015-12-31 | 2016-04-20 | 浙江大华系统工程有限公司 | 一种流媒体服务器的负载均衡调配的方法及装置 |
CN105516347B (zh) * | 2015-12-31 | 2019-03-26 | 浙江大华系统工程有限公司 | 一种流媒体服务器的负载均衡调配的方法及装置 |
CN107454005B (zh) * | 2016-05-31 | 2020-04-24 | 南宁富桂精密工业有限公司 | 数据网络负载动态调整装置以及方法 |
CN107454005A (zh) * | 2016-05-31 | 2017-12-08 | 鸿富锦精密工业(深圳)有限公司 | 数据网络负载动态调整装置以及方法 |
US10574578B2 (en) | 2016-05-31 | 2020-02-25 | Nanning Fugui Precision Industrial Co., Ltd. | Dynamic network load regulating device and method |
WO2018076802A1 (zh) * | 2016-10-24 | 2018-05-03 | 深圳有麦科技有限公司 | 一种分布式调用服务器的方法及其系统 |
CN106445709A (zh) * | 2016-10-24 | 2017-02-22 | 深圳有麦科技有限公司 | 一种分布式调用服务器的方法及其系统 |
CN106453637B (zh) * | 2016-11-24 | 2018-01-26 | 深圳市小满科技有限公司 | 云平台高效复用服务器资源的方法、装置以及云平台 |
CN106453637A (zh) * | 2016-11-24 | 2017-02-22 | 深圳市小满科技有限公司 | 云平台高效复用服务器资源的方法、装置以及云平台 |
CN106453132A (zh) * | 2016-12-14 | 2017-02-22 | 深圳市深信服电子科技有限公司 | 一种混合云环境下的调度方法以及流控设备 |
CN108259385A (zh) * | 2016-12-28 | 2018-07-06 | 瞻博网络公司 | 由于交换结构退化而分配并广告可用带宽 |
CN109391678A (zh) * | 2017-08-04 | 2019-02-26 | 慧与发展有限责任合伙企业 | 过滤对发现请求的响应 |
CN107707661B (zh) * | 2017-10-16 | 2020-10-16 | 中国银联股份有限公司 | 一种负载均衡资源管理方法和装置 |
CN107707661A (zh) * | 2017-10-16 | 2018-02-16 | 中国银联股份有限公司 | 一种负载均衡资源管理方法和装置 |
CN107613030A (zh) * | 2017-11-06 | 2018-01-19 | 网宿科技股份有限公司 | 一种处理业务请求的方法和系统 |
CN108600344A (zh) * | 2018-04-09 | 2018-09-28 | 杭州登虹科技有限公司 | 一种网络访问请求调度方法、装置和存储介质 |
CN110881058A (zh) * | 2018-09-06 | 2020-03-13 | 阿里巴巴集团控股有限公司 | 请求调度方法、装置、服务器及存储介质 |
CN110881058B (zh) * | 2018-09-06 | 2022-04-12 | 阿里巴巴集团控股有限公司 | 请求调度方法、装置、服务器及存储介质 |
CN111722920A (zh) * | 2019-03-22 | 2020-09-29 | 鼎捷软件股份有限公司 | 负载控制方法 |
CN110442066A (zh) * | 2019-08-16 | 2019-11-12 | 佳源科技有限公司 | 一种基于云端协同的物联网系统 |
CN111381963A (zh) * | 2020-02-28 | 2020-07-07 | 腾讯科技(深圳)有限公司 | 负载均衡方法、装置、计算机可读存储介质和计算机设备 |
CN111381963B (zh) * | 2020-02-28 | 2023-06-09 | 腾讯科技(深圳)有限公司 | 负载均衡方法、装置、计算机可读存储介质和计算机设备 |
CN111756800A (zh) * | 2020-05-21 | 2020-10-09 | 网宿科技股份有限公司 | 一种处理突发流量的方法和系统 |
WO2022121029A1 (zh) * | 2020-12-07 | 2022-06-16 | 山东省计算中心(国家超级计算济南中心) | 一种面向超算用户体验质量的多路径路由方法和装置 |
CN112714062A (zh) * | 2020-12-07 | 2021-04-27 | 山东省计算中心(国家超级计算济南中心) | 一种面向超算用户体验质量的多路径路由方法和装置 |
CN113068267A (zh) * | 2021-04-02 | 2021-07-02 | 中科天智运控(深圳)科技有限公司 | 一种通信卫星信道带宽资源动态分配方法及装置 |
CN113068267B (zh) * | 2021-04-02 | 2023-03-24 | 中科天智运控(深圳)科技有限公司 | 一种通信卫星信道带宽资源动态分配方法及装置 |
WO2024119660A1 (zh) * | 2022-12-07 | 2024-06-13 | 上海移远通信技术股份有限公司 | 用于通信的方法及装置 |
CN117424932B (zh) * | 2023-10-30 | 2024-07-16 | 深圳市汇洋信息技术有限公司 | 智能物联网边缘网关的数据缓存系统及方法 |
CN117424932A (zh) * | 2023-10-30 | 2024-01-19 | 深圳市汇洋信息技术有限公司 | 智能物联网边缘网关的数据缓存系统及方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2013168934A (ja) | 2013-08-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103259739A (zh) | 负载均衡设备以及负载均衡方法 | |
CN106059960B (zh) | 一种基于软件定义网络的空间网络QoS保障方法及管理中心 | |
CN104272708B (zh) | 带有到服务器群组的无状态第一级分组分布和到群组内某个服务器的有状态第二级分组分布的二级分组分布 | |
EP1851921B1 (en) | Admission control and routing in a telecommunications network based on the consideration of all physical and logical links | |
Liu et al. | Load-balancing routing algorithm based on segment routing for traffic return in LEO satellite networks | |
JP2685069B2 (ja) | 通信ネットワークのネットワーク・アクセス・ノードおよび該ネットワークでの接続経路を選択する方法 | |
CN102710489B (zh) | 动态分流调度系统和方法 | |
US8773992B2 (en) | Methods and apparatus for hierarchical routing in communication networks | |
CN102726021B (zh) | 灵活的数据中心网络体系结构 | |
Hussain et al. | Genetic algorithm based adaptive offloading for improving IoT device communication efficiency | |
WO2004073269A1 (ja) | 伝送システム,配信経路制御装置,負荷情報収集装置および配信経路制御方法 | |
Park et al. | Cooperative base station caching and X2 link traffic offloading system for video streaming over SDN-enabled 5G networks | |
CN101127689B (zh) | 实现最小化优先级抢占代价的方法 | |
US9468014B2 (en) | Utility-based cross layering | |
CN109962760A (zh) | 一种适于无线tdma自组网的业务调度方法 | |
Habib et al. | Routing techniques in data center networks | |
Sahoo et al. | Ferrying vehicular data in cloud through software defined networking | |
De Leenheer et al. | Anycast algorithms supporting optical burst switched grid networks | |
US9001651B2 (en) | Method for call admission control in MPLS networks | |
Shuai et al. | A cost-based distributed algorithm for load balancing in content delivery network | |
Liu et al. | Online Virtual Network Embedding for Both the Delay Sensitive and Tolerant Services in SDN-enabled Satellite-Terrestrial Networks | |
JP2012169789A (ja) | 負荷分散サーバ及びサーバ選択方法及びサーバ選択プログラム | |
Watashiba et al. | An architectural design of a job management system leveraging software defined network | |
Dun et al. | Traffic allocation strategy based on reinforcement learning in two-layer satellite network | |
Zhang et al. | Disaster-aware dynamic routing for sdn-based active-active data center networks |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20130821 |