CN109218441A - 一种基于预测和区域划分的p2p网络动态负载均衡方法 - Google Patents
一种基于预测和区域划分的p2p网络动态负载均衡方法 Download PDFInfo
- Publication number
- CN109218441A CN109218441A CN201811215367.XA CN201811215367A CN109218441A CN 109218441 A CN109218441 A CN 109218441A CN 201811215367 A CN201811215367 A CN 201811215367A CN 109218441 A CN109218441 A CN 109218441A
- Authority
- CN
- China
- Prior art keywords
- node
- load
- high load
- nodes
- file
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/145—Network analysis or design involving simulating, designing, planning or modelling of a network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/147—Network analysis or design for predicting network behaviour
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/16—Threshold monitoring
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/20—Hop count for routing purposes, e.g. TTL
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/12—Avoiding congestion; Recovering from congestion
- H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/104—Peer-to-peer [P2P] networks
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Computer And Data Communications (AREA)
Abstract
一种基于预测和区域划分的P2P网络动态负载均衡方法属于网络文件传输领域;包括获取节点资源利用率;判断节点资源利用率是否超过高负载区阈值,若是,执行步骤e,若否,执行步骤c;根据节点当前文件访问情况预测接下来的访问量;判断文件是否成为热点文件,若是,执行步骤e,若否,执行步骤a;向周围节点广播获取周围节点负载信息;判断是否处在高负载区域,若是,执行高负载区域负载均衡模块,若否,执行低负载区域负载均衡模块;服务器建立热点文件副本,进行步骤a;本发明能够很好地实现实际系统网络的负载均衡。
Description
技术领域
本发明属于网络文件传输领域,尤其涉及一种基于预测和区域划分的P2P网络动态负载均衡方法。
背景技术
如今,高速发展的互联网已经成为生活中不可或缺的一部分,通过P2P网络的文件分发数据量也在不断增大,大规模的文件分发对P2P网络的整体的负载均衡带来了较大的影响,所以,对于P2P网络来说,负载均衡是一个需要解决的问题。
现有的结构化P2P网络的负载均衡策略虽然也有涉及热点预测的,但其对于负载迁移节点的选择不具有很强的明确性,且对节点的性能兼顾不全面,且多是通过模式网络测试性能。
对于已有的按照节点负载区域情况进行负载均衡的算法,多是采用实际节点与虚拟节点相结合的策略,没有兼顾实际情况可能发生的情况,在实际运行中,很少有多个虚拟节点运行在同一个实际节点上的情况。
发明内容
本发明克服了上述现有技术的不足,提供一种基于预测和区域划分的P2P网络动态负载均衡方法,本发明运行在实际运行的文件分发系统之上,兼顾热点文件预测和节点区域负载划分,能够很好地实现实际系统网络的负载均衡。
本发明的技术方案:
一种基于预测和区域划分的P2P网络动态负载均衡方法,包括以下步骤:
步骤a、获取节点资源利用率;
步骤b、判断节点资源利用率是否超过高负载区阈值,若是,执行步骤e,若否,执行步骤c;
步骤c、根据节点当前文件访问情况预测接下来的访问量;
步骤d、判断文件是否成为热点文件,若是,执行步骤e,若否,执行步骤a;
步骤e、向周围节点广播获取周围节点负载信息;
步骤f、判断是否处在高负载区域,若是,执行高负载区域负载均衡模块,若否,执行低负载区域负载均衡模块;
步骤g、服务器建立热点文件副本,进行步骤a。
进一步地,当所述节点资源利用率超过高负载区阈值时,采用局部负载均衡信息收集方法,包括下列步骤:
步骤b1、当节点根据预测模型预测到产生热点文件或者节点负载值高于高负载区阈值时,节点向周围节点分发广播信息,查询周围节点负载情况;
步骤b2、当节点接收到周围负载请求信息后,立即读取自身系统的负载情况,如果节点利用率高于高负载区阈值,则跳转至步骤b3;如果节点利用率低于高负载区阈值,则将节点信息、路由跳数反馈给负载信息请求节点,并在传输信息包中包含一个本节点发送信息包的时间戳;
步骤b3、如果所述接收节点为路由跳数的最后一跳接收节点,则丢弃所述信息包;否则,将路由跳数信息TTL-K信息减一,然后继续向周围节点广播。
进一步地,所述根据节点当前文件访问情况预测接下来的访问量的方法包括以下步骤:
步骤c1、节点统计分析单位区段时间内每个文件的访问次数,获得时间序列x1,x2,…,xn;
步骤c2、如果节点文件访问次数大于阈值则计算节点计算文件访问次数对应的下个时间段内的访问值xt+T;
步骤c3、如果节点预测访问值xt+T大于热点文件阈值Ψ,则进行步骤c4;否则跳至步骤c1;
步骤c4、节点请求周围节点负载信息,跳至步骤c1。
进一步地,所述服务器建立热点文件副本通过下列公式计算最佳副本建立节点,所述公式包括:
如上式所示,μ1、μ2、μ3为三个用户可调参数,用于匹调节不同指标所占的运算比例,μ1、μ2、μ3满足且ts表示链路延迟,k表示链路路由跳数,表示节点利用率,上式应用于近距离节点的迁移选择策略;
如上式所示,μ1、μ2、μ3为三个用户可调参数,用于匹调节不同指标所占的运算比例,μ1、μ2、μ3满足且ts表示链路延迟,k表示链路路由跳数,表示节点利用率,应用于远距离节点的迁移选择策略。
进一步地,所述执行高负载区域负载均衡模块的方法包括下列步骤:
步骤f11、高负载区中的中心节点向周围发送TTL-K消息,请求周围节点信息,其中K初始值设置为1;
步骤f12、当节点接收到请求消息后,检查本节点的资源利用率是否超过高负载区阈值,如果节点负载超过了高负载区阈值,则把所述节点的负载迁移优先级列表转发给信息请求节点;否则不做处理;将路由跳数K减1,如果K小于1,则丢弃所述节点的负载迁移优先级列表,否则转发所述请求;
步骤f13、将TTL-K中的K=K+1,若K值大于之前的TTL-K中初始化K值,则终止本算法,否则跳转到步骤f12;
步骤f14、高负载区中心节点接收到反馈消息后,建立负载中心节点迁移优先级列表,将优先迁移列表和节点当前的热点文件信息发送给二级服务器;
步骤f15、二级服务器取出这些节点,向这些节点发送请求,获取这些节点的负载信息以及链路时延ts,使用公式9计算这些节点的迁移性能E,计算获得迁移性能E最好的n个节点,向这些节点备份分发高负载节点中的热点文件。
进一步地,所述执行低负载区域负载均衡模块的方法包括下列步骤:
步骤f21、取出链表中前N个节点,将这些节点信息发送个二级服务器;
步骤f22、二级服务器向取出这些节点中的前n个节点,向这些节点发送请求,获取这些节点的负载信息以及链路延时ts,使用公式8计算这些节点的迁移性能W;
步骤f23、选取计算结果中迁移性能W最好节点即W最小值,并读取下一个链表节点,计算所述节点的迁移性能W,如果新计算节点的迁移性能W劣于之前最优节点,即新计算节点迁移性能W大于之前最优节点,则执行步骤f24,否则,执行步骤f23;
步骤f24、二级服务器向所述节点备份分发高负载节点中的热点文件,同时所述节点向高负载节点请求热点文件。
本发明相对于现有技术具有以下有益效果:
本发明公开了一种基于预测和区域划分的P2P网络动态负载均衡方法,本发明对于负载迁移节点的选择具有很强的明确性,且对节点的性能兼顾非常全面,在实际运行中,有多个虚拟节点运行在同一个实际节点上的情况;提升了P2P网络在分发文件时的整体分发效率;降低了分发过程中整个系统高负载节点的比例;降低了文件分发时间轴中段的服务请求响应时间;同时能够使高负载节点的负载率在负载均衡下较无负载均衡有一个峰值下降。
本发明运行在实际运行的文件分发系统之上,兼顾热点文件预测和节点区域负载划分,能够很好地实现实际系统网络的负载均衡,对P2P网络分发中、大规模文件时提供明显的增益,P2P网络高负载节点比例降低,提供更快的服务响应,减少了分发时间。
附图说明
图1是本发明流程图;
图2是节点过载率对比图;
图3是资源平均相应时间图;
图4是高负载节点负载波动图。
具体实施方式
以下将结合附图对本发明进行详细说明。
具体实施方式一
一种基于预测和区域划分的P2P网络动态负载均衡方法,如图1所示,包括以下步骤:
步骤a、获取节点资源利用率;
步骤b、判断节点资源利用率是否超过高负载区阈值,若是,执行步骤e,若否,执行步骤c;
步骤c、根据节点当前文件访问情况预测接下来的访问量;
步骤d、判断文件是否成为热点文件,若是,执行步骤e,若否,执行步骤a;
步骤e、向周围节点广播获取周围节点负载信息
步骤f、判断是否处在高负载区域,若是,执行高负载区域负载均衡模块,若否,执行低负载区域负载均衡模块;
步骤g、服务器建立热点文件副本,进行步骤a。
如图1所示,本发明将热点文件预测与节点所在区域划分结合起来,共同实现系统的负载均衡。本发明的热点文件预测使用的是三次指数平滑模型,通过节点接收到文件访问时间序列预测接下来的文件访问量,根据预测访问量判断文件是否会成为热点文件。当节点当前负载超过阈值或者会预测产生热点文件时,会向周围节点广播信息,判断节点所在的区域为高负载区域还是低负载区域,根据所在区域的不同使用不同的节点选择策略。当选择完成负载迁移节点时,由二级服务器向该节点传输热点文件,建立负载迁移节点。
指数平滑模型是一种基于连续时间数据,用于预测中短期发展趋势的一种预测模型。其中,依据参数的运算次数,又可分为单次指数平滑,二次指数平滑和三次指数平滑。单指数平滑的参数经过一次运算产生,适合简单平稳的时间序列,因为函数简单平稳,故经常在趋势明显时使用。二次指数平滑相较于一次指数平滑复杂,但曲线还是具有斜率,适合有一定趋势的曲线预测。三次指数平滑运算最复杂,曲线也最复杂,是一条曲线,适合描述周期性和波动性的事物。而结构化P2P网络的传输请求具有波动性,所以选用三指数平滑法作为本发明的热点文件预测函数。
三指数平滑模型如下:
设时间序列为:x1,x2,…,xn,三指数平滑公式如下:
在公式1中,xt为时间点t观测到的数值;α为平滑系数,α的取值范围为(0,1);为时间t时刻的i次平滑值,为时间t-1时刻的i次平滑值。
用于预测未来T个时间点之后的值xt+T的计算公式为:
xt+T=AT+BTT+CTT2 (公式2)
在公式2中,含有三个参数AT,BT,CT,是三个时间参数,它们的值采用如下公式计算:
上面介绍了参数的求值,还需要确定函数的初值和平滑系数α的取值。函数初值可采用如下公式:
当数据量较少时,n通常取3,随着时间的持续,初值的影响会越来越小。平滑系数α的取值决定了预测的准确性,α越小曲线波动越小,α越大,曲线波动越大,可以采用预测值与标准值方差的形式来调整平滑系数α的取值。预测值与标准值的方差公式如下:
如上公式所示,方差越小,预测越准确。
定义1(预测阈值)采用三次指数平滑模型分析预测值,预测值使用表示。
定义2(高负载预测阈值)预测高负载的请求文件的区分值,用Ψ表示,超过该区分值表示该文件为造成高负载的文件,也称热点文件。
定义3(高负载区与低负载区)指定以某一节点为中心的K跳路由距离的区域中至多有N节点负载低于节点高负载阈值时该区域为高负载区,该中心节点为高负载区中心节点。为了区分高负载区与低负载区的负载均衡阈值,将高负载区的阈值称为高负载区阈值,将低负载区的阈值称为低负载区阈值,显然高负载区阈值应当小于低负载区阈值。
具体实施方式二
在将三次指数平滑算法与结构化P2P网络相结合,对热点文件进行预测时,需要在每一个节点都进行各自的文件热度运算。节点周期性的记录当前区间内文件的请求访问情况,记录后交给算法进行分析。当前请求结果高于阈值时,计算热点文件预测值xt+T,如果预测值xt+T大于热点文件阈值Ψ(高负载区阈值与低负载区阈值不同,这里统一用Ψ表示),这一节点请求周围节点负载信息。
在具体实施方式一的基础上,当所述节点资源利用率超过高负载区阈值时,采用局部负载均衡信息收集方法,包括下列步骤:
步骤b1、当节点根据预测模型预测到产生热点文件或者节点负载值高于高负载区阈值时,节点向周围节点分发广播信息,查询周围节点负载情况;
步骤b2、当节点接收到周围负载请求信息后,立即读取自身系统的负载情况,如果节点利用率高于高负载区阈值,则跳转至步骤b3;如果节点利用率低于高负载区阈值,则将节点信息、路由跳数反馈给负载信息请求节点,并在传输信息包中包含一个本节点发送信息包的时间戳;
步骤b3、如果所述接收节点为路由跳数的最后一跳接收节点,则丢弃该广播包;否则,将路由跳数信息TTL-K信息减一,然后继续向周围节点广播。
基于三次指数平滑算法的热点文件预测算法是一种带有预测性质的行为,预测过程分散在每一个终端节点,每个节点运算的时间复杂度为O(lg m),空间复杂度为O(m),m为收到的请求文件数量,计算量较小。与负载超过阈值时才进行负载调度的算法相比,本方法能够更早的解决问题,从而缓解问题,减少出现高负载的情况,提高了系统的可靠性。
具体实施方式三
在节点进入高负载状态,即节点利用率高于高负载区阈值时,高负载节点向周围网络广播K跳路由信息,请求周围节点的负载情况,计算节点是否在高负载区域之中。当周围节点接收到负载请求信息时,节点检测本身节点的节点利用率,若节点为低负载状态,即节点利用率小于高负载区阈值时,节点向状态请求者返回节点的基本信息,并返回一个时间戳用以计算链路时延,同时,将路由跳数K减一,向其周围节点广播请求;若节点处于高负载状态,则只在处理路由跳数后转发消息,不回复消息。
在具体实施方式二的基础上,所述根据节点当前文件访问情况预测接下来的访问量的方法包括以下步骤:
步骤c1、节点统计分析单位区段时间内每个文件的访问次数,获得时间序列x1,x2,…,xn;
步骤c2、如果节点文件访问次数大于阈值则计算节点计算文件访问次数对应的下个时间段内的访问值xt+T;
步骤c3、如果节点预测访问值xt+T大于热点文件阈值Ψ,则进行步骤c4;否则跳至步骤c1;
步骤c4、节点请求周围节点负载信息,跳至步骤c1。
在节点广播请求消息后,等待所有反馈,即可获得路由跳数为K的区域范围内节点利用率小于高负载区域阈值的节点负载利用率和两节点之间的链路延迟ts等信息。
具体实施方式四
在具体实施方式三的基础上,所述服务器建立热点文件副本通过下列公式计算最佳副本建立节点,所述公式包括:
如上式所示,μ1、μ2、μ3为三个用户可调参数,用于匹调节不同指标所占的运算比例,μ1、μ2、μ3满足且ts表示链路延迟,k表示链路路由跳数,表示节点利用率,上式应用于近距离节点的迁移选择策略;运算值W越小,表示节点副本建立结果越优秀;
如上式所示,μ1、μ2、μ3为三个用户可调参数,用于匹调节不同指标所占的运算比例,μ1、μ2、μ3满足且ts表示链路延迟,k表示链路路由跳数,表示节点利用率,应用于远距离节点的迁移选择策略;运算值E越小,表示在节点建立副本的效果越好。
一个节点最大可以接收到N=m(mk-1)/(m-1)个节点的反馈,同时文献还指出该过程的时间复杂度为O(lg N),空间复杂度O(N)。经过测试发现,在将路由跳数设置为3时,将收到回复数设置为4时,测试效果较为理想。
具体实施方式五
当节点通过反馈消息判断自身位于高负载区,即返回的消息数小于4时,执行高负载区敷在迁移策略。面对高负载区域,应当将节点负载尽量迁移至较远的节点,以降低区域高负载节点的数量,降低区域的网络拥塞程度;同时,尽量将节点迁移至较远的节点,也可以降低节点之间互相迁移负载的可能性。迁移过程由负载中心节点将迁移节点发送至二级服务器,由二级服务器选择负载迁移节点,在负载迁移节点建立热点文件副本,使得负载迁移由高负载区的负载中心向外迁移,使得区域由高负载区域转变为低负载区域。
在具体实施方式五的基础上,所述执行高负载区域负载均衡模块的方法包括下列步骤:
步骤f11、高负载区中的中心节点向周围发送TTL-K消息,请求周围节点信息,其中K初始值设置为1;
步骤f12、当节点接收到请求消息后,检查本节点的资源利用率是否超过高负载区阈值,如果节点负载超过了高负载区阈值,则把该节点的负载迁移优先级列表转发给信息请求节点;否则不做处理。将路由跳数K减1,如果K小于1,则丢弃该包,否则转发该请求;
步骤f13、将TTL-K中的K=K+1,若K值大于之前的TTL-K中初始化K值,则终止该算法,否则跳转到步骤f12;
步骤f14、高负载区中心节点接收到反馈消息后,建立负载中心节点迁移优先级列表,将优先迁移列表和节点当前的热点文件信息发送给二级服务器;
步骤f15、二级服务器取出这些节点,向这些节点发送请求,获取这些节点的负载信息以及链路时延ts,使用公式2计算这些节点的迁移性能E,计算获得迁移性能E最好的n个节点,向这些节点备份分发高负载节点中的热点文件。
上述算法中,K通常取3,将迁移控制在较小范围内,避免广播范围过大会造成计算过于复杂和交互过多的问题。对于所有节点,高负载区负载迁移节点选择算法的时间复杂度为O(N),空间复杂度为O(N),其中N为收到的反馈的数量。本发明中n通常设置为拥有热点文件数目与高负载节点数目和的一半。
具体实施方式六
当节点负载超过高负载区阈值或者预测产生热点文件时,向周围节点请求到了周围节点的负载信息。这时,如果节点的节点利用率没有到达低负载区阈值,则不作处理;否则执行低负载区敷在迁移策略。有文献指出,想要实现P2P网络的完全负载均衡,这是一个NP完全问题。
当节点出现高负载或者预测到将有热点文件产生时,该节点从存储链表中取出W值最小的N个节点并读取该物理节点信息、负载信息,将这些节点信息发送给二级服务器,二级服务器根据这些节点信息,获取前n个节点的信息,向这些节点发送请求,获取这些节点的负载信息、链路延迟等相关信息,计算这些节点的迁移性能W。取出链表中的下一个节点,计算取出节点的迁移性能W,比较取出节点与之前最优节点的迁移性能W,直到新取出节点的迁移性能W低于之前最优节点的迁移性能W或者全部节点都已经读取完成,向最优节点分发高负载节点中的热点文件。
在具体实施方式五的基础上,所述执行低负载区域负载均衡模块的方法包括下列步骤:
步骤f21、取出链表中前N个节点,将这些节点信息发送个二级服务器;
步骤f22、二级服务器向取出这些节点中的前n个节点,向这些节点发送请求,获取这些节点的负载信息以及链路延时ts,使用公式1计算这些节点的迁移性能W;
步骤f23、选取计算结果中迁移性能W最好节点即W最小值,并读取下一个链表节点,计算该节点的迁移性能W,如果新计算节点的迁移性能W劣于之前最优节点,即新计算节点迁移性能W大于之前最优节点,则执行步骤f24,否则,执行步骤f23;
步骤f24、二级服务器向该节点备份分发高负载节点中的热点文件,同时该节点向高负载节点请求热点文件。
经过分析可以得出,对于终端节点,低负载区负载迁移节点选择算法的时间复杂度为O(1),空间复杂度为O(N),其中N为终端节点收集的周围节点负载信息;对于服务器节点,低负载区负载迁移节点选择算法的时间复杂度为O(N),空间复杂度为O(N),其中N为接收到终端节点反馈的迁移备选节点的数量。上述算法中节点抽取常数通常为4,可以满足迭代速度与效益效果之间的平衡。在节点周围建立新的副本节点,使二级节点与高负载节点同时向该节点迁移副本文件,使得该节点能够快速的建立新的副本节点,同时有利用了节点所在区域网络拥塞程度不高的优势,实现了副本的快速建立,之后副本节点与原节点同时提供服务,负载可以实现快速分担,从而完成系统的负载均衡。
具体实施方式七
在具体实施方式一至六的基础上,本实施例采用以下几个性能指标来衡量本发明的性能:
1、节点过载率:描述整个网络中的过载节点的比例,公式如下:
OverloadRate=Noverload_node÷Ntotal (公式10)
在上述公式中,Noverload_node为负载超过阈值的节点数量,Ntotal为所有在线节点的数量。
2、资源平均响应时间:单一节点从请求资源到接收完成资源所用的时间。公式如下:
上述公式中,Ntotal为所有请求节点的数目,t(i)distribute_end为单一节点接收完成的时刻,t(i)distribute_start为单一节点开始接收的时刻。这里主要测试的是对热点文件请求的平均响应时间,这一指标反映了节点负载迁移的整体效率。
3、高负载节点负载波动:节点在高负载情况下,负载波动情况。该指标反映了负载迁移策略对单一节点的调节效率。
本实施例通过程序连续分发5个200MB文件,分析不使用负载均衡算法和使用负载均衡的情况下,节点的过载情况。节点过载率如图2所示。
图2展示了节点过载率随时间的变化情况。从图中可以看出,对于开启了负载均衡模块的程序,在系统运行开始后不久,热点文件预测模块就预测到了热点文件的产生。之后,系统调用负载均衡策略,此时过载节点应该是处于非高负载区中的,迁移策略在节点周围建立副本策略,区域中的过载节点降低,之后一直处于小幅波动状态。而对于没有开启负载均衡模块的程序,在程序运行后,由于对个别文件的请求增加,导致过载节点数目不断增加,系统节点过载率不断提升,在部分节点接收完成后,节点过载率开始下降。当有新的文件请求到来时,系统节点过载率又开始波动性得上涨,然后周期性的波动。
由节点过载率的变化可以看出,本发明可以将系统中的过载节点数量维持在一个较低的稳定水平,使整个系统处于一个负载较为均衡的稳定状态中。
在测试资源平均响应时间时,设置了只有三个节点唯一拥有请求的资源,其它节点均向这些节点请求资源,观察系统的平均资源响应时间。
如图3所示,可看出有无负载均衡模块在开始阶段和结束阶段的资源平均响应时间基本一致。这是由于开始时,热点文件预测还没有触发,没有触发负载迁移策略。之后,伴随着请求数量的上升,响应时间开始上涨。对于没有负载迁移策略的版本,由于请求数的急剧增加,服务节点开始过载,对一些请求拒绝响应,导致大量丢包,响应时间开始急速上涨,直到达到顶峰,部分节点请求完成,请求数量开始下降,最终降低至初始水平。对于负载均衡模块的程序,因为预测到了热点文件的产生,服务器迅速在高负载区外建立副本节点。因此,具有负载均衡模块的系统请求峰值时的平均响应时间比没有负载均衡的系统低很多。最终,在大量请求过后,两个系统的平均响应时间又恢复了低值,且平均响应时间相差无几。通过数据可以看出,本发明对于系统整体效率有较大的提升,在大量请求到来时,可以将系统维持在一个响应较为迅速的状态。
在测试高负载节点负载波动时,这次同样设置了三个节点拥有请求的资源,其它节点均向这些节点请求资源,观察其中一个节点的负波动情况。
如图4所示,为可以看到高负载节点负载波动情况随时间的变化。在节点刚开始运行时,节点接收到的请求数大致相同,负载也对应相差无几。在40s时,负载均衡模块预测到了热点文件的产生,之后迅速建立副本文件,在之后的请求高峰中,由于副本文件的分担了部分请求压力,节点的负载维持在一个比较稳定的状态,之后随着请求的减少,节点的负载进一步降低,直至不再有请求时的低负载状态。而对于没有负载均衡的系统,服务节点的负载不断上涨,一度上涨到90%,之后,部分节点接收完成,服务节点的负载开始缓慢下降,一直到200秒时,不再接收到请求,进入低负载状态。通过数据可以分析得出,本发明有较好的热点文件预测能力,能够快速的执行负载迁移策略,调节单一节点的负载情况。
Claims (6)
1.一种基于预测和区域划分的P2P网络动态负载均衡方法,其特征在于,包括以下步骤:
步骤a、获取节点资源利用率;
步骤b、判断节点资源利用率是否超过高负载区阈值,若是,执行步骤e,若否,执行步骤c;
步骤c、根据节点当前文件访问情况预测接下来的访问量;
步骤d、判断文件是否成为热点文件,若是,执行步骤e,若否,执行步骤a;
步骤e、向周围节点广播获取周围节点负载信息;
步骤f、判断是否处在高负载区域,若是,执行高负载区域负载均衡模块,若否,执行低负载区域负载均衡模块;
步骤g、服务器建立热点文件副本,进行步骤a。
2.根据权利要求1所述一种基于预测和区域划分的P2网络动态负载均衡方法,其特征在于,当所述节点资源利用率超过高负载区阈值时,采用局部负载均衡信息收集方法,包括下列步骤:
步骤b1、当节点根据预测模型预测到产生热点文件或者节点负载值高于高负载区阈值时,节点向周围节点分发广播信息,查询周围节点负载情况;
步骤b2、当节点接收到周围负载请求信息后,立即读取自身系统的负载情况,如果节点利用率高于高负载区阈值,则跳转至步骤b3;如果节点利用率低于高负载区阈值,则将节点信息、路由跳数反馈给负载信息请求节点,并在传输信息包中包含一个本节点发送信息包的时间戳;
步骤b3、如果所述接收节点为路由跳数的最后一跳接收节点,则丢弃所述信息包;否则,将路由跳数信息TTL-K信息减一,然后继续向周围节点广播。
3.根据权利要求2所述一种基于预测和区域划分的P2网络动态负载均衡方法,其特征在于,所述根据节点当前文件访问情况预测接下来的访问量的方法包括以下步骤:
步骤c1、节点统计分析单位区段时间内每个文件的访问次数,获得时间序列x1,x2,…,xn;
步骤c2、如果节点文件访问次数大于阈值则计算节点计算文件访问次数对应的下个时间段内的访问值xt+T;
步骤c3、如果节点预测访问值xt+T大于热点文件阈值Ψ,则进行步骤c4;否则跳至步骤c1;
步骤c4、节点请求周围节点负载信息,跳至步骤c1。
4.根据权利要求3所述一种基于预测和区域划分的P2网络动态负载均衡方法,其特征在于,所述服务器建立热点文件副本通过下列公式计算最佳副本建立节点,所述公式包括:
如上式所示,μ1、μ2、μ3为三个用户可调参数,用于匹调节不同指标所占的运算比例,μ1、μ2、μ3满足且ts表示链路延迟,k表示链路路由跳数,表示节点利用率,上式应用于近距离节点的迁移选择策略;
如上式所示,μ1、μ2、μ3为三个用户可调参数,用于匹调节不同指标所占的运算比例,μ1、μ2、μ3满足且ts表示链路延迟,k表示链路路由跳数,表示节点利用率,应用于远距离节点的迁移选择策略。
5.根据权利要求4所述一种基于预测和区域划分的P2网络动态负载均衡方法,其特征在于,所述执行高负载区域负载均衡模块的方法包括下列步骤:
步骤f11、高负载区中的中心节点向周围发送TTL-K消息,请求周围节点信息,其中K初始值设置为1;
步骤f12、当节点接收到请求消息后,检查本节点的资源利用率是否超过高负载区阈值,如果节点负载超过了高负载区阈值,则把所述节点的负载迁移优先级列表转发给信息请求节点;否则不做处理;将路由跳数K减1,如果K小于1,则丢弃所述节点的负载迁移优先级列表,否则转发所述请求;
步骤f13、将TTL-K中的K=K+1,若K值大于之前的TTL-K中初始化K值,则终止本算法,否则跳转到步骤f12;
步骤f14、高负载区中心节点接收到反馈消息后,建立负载中心节点迁移优先级列表,将优先迁移列表和节点当前的热点文件信息发送给二级服务器;
步骤f15、二级服务器取出这些节点,向这些节点发送请求,获取这些节点的负载信息以及链路时延ts,使用公式9计算这些节点的迁移性能E,计算获得迁移性能E最好的n个节点,向这些节点备份分发高负载节点中的热点文件。
6.根据权利要求5所述一种基于预测和区域划分的P2网络动态负载均衡方法,其特征在于,所述执行低负载区域负载均衡模块的方法包括下列步骤:
步骤f21、取出链表中前N个节点,将这些节点信息发送个二级服务器;
步骤f22、二级服务器向取出这些节点中的前n个节点,向这些节点发送请求,获取这些节点的负载信息以及链路延时ts,使用公式8计算这些节点的迁移性能W;
步骤f23、选取计算结果中迁移性能W最好节点即W最小值,并读取下一个链表节点,计算所述节点的迁移性能W,如果新计算节点的迁移性能W劣于之前最优节点,即新计算节点迁移性能W大于之前最优节点,则执行步骤f24,否则,执行步骤f23;
步骤f24、二级服务器向所述节点备份分发高负载节点中的热点文件,同时所述节点向高负载节点请求热点文件。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811215367.XA CN109218441B (zh) | 2018-10-18 | 2018-10-18 | 一种基于预测和区域划分的p2p网络动态负载均衡方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811215367.XA CN109218441B (zh) | 2018-10-18 | 2018-10-18 | 一种基于预测和区域划分的p2p网络动态负载均衡方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109218441A true CN109218441A (zh) | 2019-01-15 |
CN109218441B CN109218441B (zh) | 2021-05-11 |
Family
ID=64980990
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811215367.XA Active CN109218441B (zh) | 2018-10-18 | 2018-10-18 | 一种基于预测和区域划分的p2p网络动态负载均衡方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109218441B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110417897A (zh) * | 2019-07-31 | 2019-11-05 | 中国联合网络通信集团有限公司 | 一种区块链分域触发方法、区块链节点设备和终端 |
CN111585908A (zh) * | 2019-02-15 | 2020-08-25 | 贵州白山云科技股份有限公司 | 一种智能热点打散的方法、装置、存储介质及计算机设备 |
CN112769946A (zh) * | 2021-01-19 | 2021-05-07 | 上海七牛信息技术有限公司 | 一种在rtc网络中对合流任务动态均衡调度方法及系统 |
CN112866132A (zh) * | 2020-12-31 | 2021-05-28 | 网络通信与安全紫金山实验室 | 面向海量标识的动态负载均衡器及方法 |
CN113393235A (zh) * | 2020-03-13 | 2021-09-14 | 富士通株式会社 | 处理写入请求的信息处理装置和发送控制方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101282281A (zh) * | 2007-04-03 | 2008-10-08 | 华为技术有限公司 | 一种媒体分发系统、装置及流媒体播放方法 |
US20110157193A1 (en) * | 2009-12-29 | 2011-06-30 | Nvidia Corporation | Load balancing in a system with multi-graphics processors and multi-display systems |
US8589574B1 (en) * | 2005-12-29 | 2013-11-19 | Amazon Technologies, Inc. | Dynamic application instance discovery and state management within a distributed system |
CN103905458A (zh) * | 2014-04-11 | 2014-07-02 | 北京云视天创网络科技有限公司 | 一种基于互联网的流媒体传输方法 |
CN106412821A (zh) * | 2016-06-20 | 2017-02-15 | 哈尔滨工业大学(威海) | 一种基于通信距离估计及其在线评估的最小二乘定位方法 |
-
2018
- 2018-10-18 CN CN201811215367.XA patent/CN109218441B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8589574B1 (en) * | 2005-12-29 | 2013-11-19 | Amazon Technologies, Inc. | Dynamic application instance discovery and state management within a distributed system |
CN101282281A (zh) * | 2007-04-03 | 2008-10-08 | 华为技术有限公司 | 一种媒体分发系统、装置及流媒体播放方法 |
US20110157193A1 (en) * | 2009-12-29 | 2011-06-30 | Nvidia Corporation | Load balancing in a system with multi-graphics processors and multi-display systems |
CN103905458A (zh) * | 2014-04-11 | 2014-07-02 | 北京云视天创网络科技有限公司 | 一种基于互联网的流媒体传输方法 |
CN106412821A (zh) * | 2016-06-20 | 2017-02-15 | 哈尔滨工业大学(威海) | 一种基于通信距离估计及其在线评估的最小二乘定位方法 |
Non-Patent Citations (8)
Title |
---|
A.AWAN等: "Distributed Uniform Sampling in Unstructured Peer-to-Peer Networks", 《PROCEEDINGS OF THE 39TH ANNUAL HAWAII INTERNATIONAL CONFERENCE ON SYSTEM SCIENCES (HICSS"06)》 * |
HONGLI ZHANG等: "Preventing Piracy Content Propagation in Peer-to-Peer Networks", 《IEEE JOURNAL ON SELECTED AREAS IN COMMUNICATIONS》 * |
XIAOMING WANG: "On Zone-Balancing of Peer-to-Peer Networks: Analysis of Random Node Join", 《HTTPS://WWW.RESEARCHGATE.NET/PUBLICATION/2910749》 * |
李丽娟: "结构化P2P系统中基于网络定位的负载均衡算法", 《计算机应用研究》 * |
沈海飞等: "多种资源下结构化P2P网络的负载均衡方法", 《计算机应用研究》 * |
肖文婷: "结构化P2P网络负载均衡策略的研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
赵璟寰: "P2P文件存储系统负载均衡技术研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
陈立龙等: "P2P网络中基于节点负载度的均衡控制算法研究", 《计算机科学》 * |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111585908A (zh) * | 2019-02-15 | 2020-08-25 | 贵州白山云科技股份有限公司 | 一种智能热点打散的方法、装置、存储介质及计算机设备 |
CN111585908B (zh) * | 2019-02-15 | 2022-03-04 | 贵州白山云科技股份有限公司 | 一种智能热点打散的方法、装置、存储介质及计算机设备 |
CN110417897A (zh) * | 2019-07-31 | 2019-11-05 | 中国联合网络通信集团有限公司 | 一种区块链分域触发方法、区块链节点设备和终端 |
CN110417897B (zh) * | 2019-07-31 | 2022-08-02 | 中国联合网络通信集团有限公司 | 一种区块链分域触发方法、区块链节点设备和终端 |
CN113393235A (zh) * | 2020-03-13 | 2021-09-14 | 富士通株式会社 | 处理写入请求的信息处理装置和发送控制方法 |
CN112866132A (zh) * | 2020-12-31 | 2021-05-28 | 网络通信与安全紫金山实验室 | 面向海量标识的动态负载均衡器及方法 |
CN112769946A (zh) * | 2021-01-19 | 2021-05-07 | 上海七牛信息技术有限公司 | 一种在rtc网络中对合流任务动态均衡调度方法及系统 |
CN112769946B (zh) * | 2021-01-19 | 2023-04-07 | 上海七牛信息技术有限公司 | 一种在rtc网络中对合流任务动态均衡调度方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN109218441B (zh) | 2021-05-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109218441A (zh) | 一种基于预测和区域划分的p2p网络动态负载均衡方法 | |
CN103997512B (zh) | 一种面向云存储系统的数据副本数量确定方法 | |
US20050154576A1 (en) | Policy simulator for analyzing autonomic system management policy of a computer system | |
US11316792B2 (en) | Method and system of limiting traffic | |
CN108880918B (zh) | 一种sdn多控制器负载均衡方法及系统 | |
CN110121194B (zh) | 信息传输方法及装置、计算机存储介质 | |
CN110582064B (zh) | 一种短信分发方法、装置、设备、介质 | |
CN103986766A (zh) | 自适应负载均衡作业任务调度方法及装置 | |
CN110231976A (zh) | 一种基于负载预测的边缘计算平台容器部署方法及系统 | |
CN105119751B (zh) | 一种基于环境实时感知的服务评估及选取方法 | |
US20170346886A1 (en) | Information processing apparatus and load distribution control method | |
CN112954009B (zh) | 区块链共识方法、设备及存储介质 | |
CN106339386A (zh) | 数据库弹性调度方法以及装置 | |
CN110716808A (zh) | 业务处理方法、装置、计算机设备和存储介质 | |
CN111131486A (zh) | 执行节点的负载调节方法、装置、服务器及存储介质 | |
Li et al. | Scalable and dynamic replica consistency maintenance for edge-cloud system | |
CN116346740A (zh) | 一种负载均衡方法及装置 | |
CN113132437B (zh) | Cdn调度方法、系统、设备和存储介质 | |
Dechouniotis et al. | A control‐theoretic approach towards joint admission control and resource allocation of cloud computing services | |
CN113543246B (zh) | 网络切换方法及设备 | |
CN116546028A (zh) | 服务请求的处理方法、装置、存储介质及电子设备 | |
CN114978913B (zh) | 一种基于切链的服务功能链跨域部署方法及系统 | |
CN109040283A (zh) | 一种基于差值反馈式的改进型负载均衡算法 | |
CN111400045A (zh) | 一种负载均衡方法及装置 | |
CN104714976B (zh) | 数据处理方法及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |