CN108650317A - 内容分发网络的负载调节方法、装置及设备 - Google Patents

内容分发网络的负载调节方法、装置及设备 Download PDF

Info

Publication number
CN108650317A
CN108650317A CN201810441610.3A CN201810441610A CN108650317A CN 108650317 A CN108650317 A CN 108650317A CN 201810441610 A CN201810441610 A CN 201810441610A CN 108650317 A CN108650317 A CN 108650317A
Authority
CN
China
Prior art keywords
node
load
destination node
user
district
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810441610.3A
Other languages
English (en)
Other versions
CN108650317B (zh
Inventor
潘芳
盛彬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yoostar Technology Co Ltd
Original Assignee
Yoostar Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yoostar Technology Co Ltd filed Critical Yoostar Technology Co Ltd
Priority to CN201810441610.3A priority Critical patent/CN108650317B/zh
Publication of CN108650317A publication Critical patent/CN108650317A/zh
Application granted granted Critical
Publication of CN108650317B publication Critical patent/CN108650317B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1008Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1029Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers using data related to the state of servers by a load balancer

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本发明公开了一种内容分发网络的负载调节方法、装置及设备,以解决对内容分发网络的性能进行提升的技术问题。该方法包括:以内容分发网络中拟响应用户请求的边缘节点为目标节点,并获取目标节点的负载状态参数;按预先设定的第一判断策略进行第一判断得到目标节点整体负载状态;若将目标节点整体负载状态判断为低负载时,指令目标节点响应用户的请求,若将目标节点整体负载状态判断为高负载时,则指令内容分发网络中与目标节点对应的区域共享节点帮助目标节点响应用户的请求;所述区域共享节点部署在目标节点和与该目标节点距离相近的至少一个边缘节点之间,并以被目标节点与该至少一个边缘节点共享的方式所配置。

Description

内容分发网络的负载调节方法、装置及设备
技术领域
本发明涉及内容分发网络技术领域,具体而言,涉及内容分发网络的负载调节方法、装置及设备。
背景技术
内容分发网络(英文名称Content Delivery Network,简称CDN)是一种近年来迅速兴起和发展的用以提升用户访问速度的互联网技术。其基本的技术构思是:在现有的互联网上部署一层分布在各地、位置接近当地用户并由系统统一调度的“边缘节点”,系统通过负载均衡、用户请求重定向等方式,将用户发出的原本指向互联网中某一源站点的请求定向到离该用户较近的边缘节点上并指令该边缘节点响应用户请求(该边缘节点或提前或即时的缓存源站点中存储的用户所要访问的内容),从而实现内容的就近访问。
由于网络视频服务具有用户庞大、视频文件存储量大、冷热内容不均、网络带宽压力大等特点,导致应用运用内容分发网络进行视频(特别是高清视频)传输时,依然容易出现网络对用户访问响应较慢的问题,从而降低了用户体验。对此,目前主要采取的改进措施为:第一,增加内容分发网络的边缘节点的数量并优化全局负载均衡策略,用以将用户请求定向到最近、最适宜的边缘节点;第二,提高单个边缘节点的负载能力并进行本地负载均衡,用以提供能够更快响应用户的缓存服务。
上述“本地负载均衡”以及“全局负载均衡”,是根据负载均衡应用的地理结构所进行的分类。其中,本地负载均衡是指,对本地服务器群中的服务器之间进行的负载均衡,其可将数据流量合理的分配给本地服务器群中的服务器共同负担,有效解决本地服务器数据流量过大、网络负荷过重的问题;全局负载均衡是指,对分别放置在不同地理位置的服务器群之间进行的负载均衡,其可将用户请求定向到最为适宜的服务器群(节点),降低网络局部失效、堵塞造成的影响。
尽管上述措施能够提高内容分发网络的性能,但是,无论是增加内容分发网络的边缘节点的数量还是提高边缘节点的负载能力,均需要较大的投入。然而,由于网络视频服务具有冷热内容不均的特点,可能导致高投入建设的内容分发网络部分时间段资源过于闲置的问题。
发明内容
本发明的目的在于提供一种内容分发网络的负载调节方法、装置及设备,以解决对内容分发网络的性能进行提升的技术问题。
为了实现上述目的,根据本发明的一个方面,提供了一种内容分发网络的负载调节方法。该方法包括:以内容分发网络中拟响应用户请求的边缘节点为目标节点,并获取目标节点的负载状态参数;以获取的目标节点的负载状态参数为输入项、低负载和高负载两种结果的其中之一为输出项,按预先设定的第一判断策略进行第一判断得到目标节点整体负载状态;根据第一判断得到的目标节点整体负载状态对用户请求进行响应,即,若将目标节点整体负载状态判断为低负载时,指令目标节点响应用户的请求,若将目标节点整体负载状态判断为高负载时,则指令内容分发网络中与目标节点对应的区域共享节点帮助目标节点响应用户的请求;所述区域共享节点部署在目标节点和与该目标节点距离相近的至少一个边缘节点之间,并以被目标节点与该至少一个边缘节点共享的方式所配置。
进一步地是,所述区域共享节点由目标节点和所述至少一个边缘节点专有;或者,所述区域共享节点由目标节点和所述至少一个边缘节点享有优先使用权限。
进一步地是,所述获取目标节点的负载状态参数,包括:获取目标节点中与用户请求相关的各节点服务器的负载状态参数。
进一步地是,所述各节点服务器的负载状态参数包括:第一参数,用以表示该节点服务器实际负载量与最大负载量的比值;以及第二参数,用以表示该节点服务器最大负载量减去实际负载量的余值;则,所述第一判断策略包括:选取所述各节点服务器的第一参数中的最大值和第二参数中的最小值,然后判断是否该最大值≥预设的第一阈值并且该最小值≤预设的第二阈值,是则将目标节点整体负载状态判断为高负载,否则判断为低负载。
进一步地是,所述最大负载量是对包含了该节点服务器的存储性能、磁盘读写性能、处理器性能以及内存性能的性能指标进行综合计算所得到的衡量该节点服务器负载能力的数值;所述实际负载量是指最大负载量中被实际使用部分的数值。
进一步地是,该方法还包括:将目标节点整体负载状态判断为低负载后,以获取的目标节点的负载状态参数为输入项、负载正常和负载预警两种结果的其中之一为输出项,按预先设定的第二判断策略进行第二判断得到目标节点预期负载状态;根据得到的目标节点预期负载状态指令是否启动区域共享节点预备缓存的启动决策程序,即,若将目标节点预期负载状态判断为负载正常时,指令不启动所述启动决策程序,若将目标节点预期负载状态判断为负载预警时,指令启动所述启动决策程序;以及当启动所述启动决策程序后,根据该启动决策程序得到的决策结果指令是否启动区域共享节点预备缓存;所述区域共享节点预备缓存是指,根据预先设定的缓存策略,将与目标节点响应用户的请求而发送给用户的数据有关的预期待发送数据缓存于区域共享节点。
进一步地是,所述第二判断策略包括:选取所述各节点服务器的第一参数中的最大值和第二参数中的最小值,然后判断是否该最大值≥预设的第一阈值或者该最小值≤预设的第二阈值,是则将目标节点整体负载状态判断为负载预警,否则判断为负载正常。
进一步地是,所述启动决策程序包括:获取对目标节点中与用户请求相关的各节点服务器中是否存储有所述预期待发送数据的查询结果,是则指令不启动区域共享节点预备缓存,否则进行以下程序;获取对与目标节点对应的区域共享节点中与用户请求相关的各节点服务器中是否存储有所述预期待发送数据的查询结果,是则指令不启动区域共享节点预备缓存,否则指令启动区域共享节点预备缓存。
进一步地是,所述内容分发网络包括:第一网络,由第一网络提供商提供,用于构建内容分发网络中的边缘节点;第二网络,由第二网络提供商提供,用于构建内容分发网络中的区域共享节点。
为了实现上述目的,根据本发明的另一个方面,提供了一种内容分发网络的负载调节装置。包括:获取模块,以内容分发网络中拟响应用户请求的边缘节点为目标节点,并获取目标节点的负载状态参数;第一处理模块,以获取的目标节点的负载状态参数为输入项、低负载和高负载两种结果的其中之一为输出项,按预先设定的第一判断策略进行第一判断得到目标节点整体负载状态;第一指示模块,根据第一判断得到的目标节点整体负载状态对用户请求进行响应,即,若将目标节点整体负载状态判断为低负载时,指令目标节点响应用户的请求,若将目标节点整体负载状态判断为高负载时,则指令内容分发网络中与目标节点对应的区域共享节点帮助目标节点响应用户的请求;所述区域共享节点部署在目标节点和与该目标节点距离相近的至少一个边缘节点之间,并以被目标节点与该至少一个边缘节点共享的方式所配置。
为了实现上述目的,根据本发明的又一个方面,提供了一种内容分发网络的负载调节设备。包括:至少一个处理器、至少一个存储器和存储在所述存储器中的计算机程序指令,当所述计算机程序指令被所述处理器执行时实现上述任意一种内容分发网络的负载调节方法。
本发明的上述内容分发网络的负载调节方法、装置及设备,能够在目标节点整体负载状态被判断为高负载时利用特别部署的区域共享节点帮助目标节点响应用户的请求,由于区域共享节点部署在目标节点和与该目标节点距离相近的至少一个边缘节点之间并以被目标节点与所述至少一个边缘节点共享的方式所配置,因此,区域共享节点与用户距离较近,可以快速响应用户的请求,故能够提升内容分发网络的性能。此外,由于一个区域共享节点对应了至少两个边缘节点,部署一个区域共享节点能够对至少两个边缘节点进行辅助,因此,部署区域共享节点相比于增加内容分发网络的边缘节点的数量或普遍提高边缘节点的负载能力而言,能够达到更高的资源利用率,从而降低对边缘节点进行扩展的需求。
下面结合附图和具体实施方式对本发明做进一步的说明。本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
构成本发明的一部分的附图用来辅助对本发明的理解,附图中所提供的内容及其在本发明中有关的说明可用于解释本发明,但不构成对本发明的不当限定。在附图中:
图1为本发明的一种内容分发网络的负载调节方法的具体实施方式的流程示意图。
图2为本发明的另一种内容分发网络的负载调节方法的具体实施方式的流程示意图。
图3为一种应用本发明的负载调节方法的内容分发网络系统的具体实施方式的示意图。
图4为本发明的一种内容分发网络的负载调节装置的具体实施方式的结构示意图。
图5为本发明的另一种内容分发网络的负载调节装置的具体实施方式的结构示意图。
图6为本发明的一种内容分发网络的负载调节设备的具体实施方式的结构示意图。
具体实施方式
下面结合附图对本发明进行清楚、完整的说明。本领域普通技术人员在基于这些说明的情况下将能够实现本发明。在结合附图对本发明进行说明前,需要特别指出的是:
本发明中在包括下述说明在内的各部分中所提供的技术方案、技术特征,在不冲突的情况下,这些技术方案、技术特征可以相互组合。
此外,下述说明中涉及到的本发明的优选实施方式和实施例通常仅是本发明一分部的实施方式和实施例,而不是全部的实施方式和实施例。因此,基于本发明中优选实施方式和实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施方式和实施例,都应当属于本发明保护的范围。
关于本发明中术语和单位。本发明的说明书和权利要求书及有关的部分中的术语“包括”以及它们的任何变形,意图在于覆盖不排他的包含。本发明的说明书和权利要求书及有关的部分中的术语“第一”、“第二”等类似术语,仅是为了便于描述,不必理解为由这类术语所限定的对象之间具有了特定的顺序。此外,本发明中的其他相关术语和单位,均可基于本发明相关内容得到合理的解释。
图1为本发明的一种内容分发网络的负载调节方法的具体实施方式的流程示意图。如图所示,该具体实施方式的负载调节方法包括:
步骤S110,该步骤具体为:以内容分发网络中拟响应用户请求的边缘节点为目标节点,并获取目标节点的负载状态参数。
上述步骤中,“拟响应用户请求的边缘节点”是指:根据内容分发网络已有的定位策略,将用户发出的原本指向互联网中某一源站点的请求定向到的离该用户较近的边缘节点。
现有的内容分发网络中,有的采取的定位策略比较简单,比如:仅根据地理位置来确定边缘节点,这时,用户发出的原本指向互联网中某一源站点的请求将被定向到离该用户最近的边缘节点。也有的内容分发网络通过更为复杂的全局负载均衡策略,将用户请求定向到综合评估较为适宜的边缘节点(不一定是离用户最近的边缘节点,而是在符合条件的情况下离用户较近的边缘节点)。
鉴于本发明的负载调节方法在上述步骤之后就会根据相关的负载状态参数进行相应的处理,因此,本发明的负载调节方法一般不必通过复杂的全局负载均衡策略来确定何为“拟响应用户请求的边缘节点”。例如,在上述步骤的一个优选实施方式中,“拟响应用户请求的边缘节点”被确定为内容分发网络中那个未发生故障的离用户最近的边缘节点;这时,该步骤的实施事实上附带的降低或简化了CDN中心控制平台(负责全局负载均衡)的要求。
上述步骤中,“负载状态参数”是指:可用以表征对象负载状态的参数,具体包括但不限于现有技术中用以表征网络节点负载状态所使用的参数。现有技术中为了评价一个网络节点负载状态,有着不同的评价方式和对应的参数选择,理论上它们都可以被本发明所借鉴。当然,本发明将在后面的实施例中对本发明采用的负载状态参数进行详述,但并不影响本发明此处已经实现了对“负载状态参数”的清楚、完整的说明。
步骤S120,该步骤具体为:以获取的目标节点的负载状态参数为输入项、低负载和高负载两种结果的其中之一为输出项,按预先设定的第一判断策略进行第一判断得到目标节点整体负载状态。
上述步骤中,“高负载”和“低负载”,仅仅是对第一判断所得到的两种分别代表负载高低状况的结果所进行的指代。因此,“高负载”和“低负载”完全可以用其他的术语加以替代(只要该术语所对应的第一判断的结果的含义不变),例如:“高负载”可以用“负载a”替代,“低负载”可以用“负载b”替代。
由于目标节点通常包含多台节点服务器,并且这些节点服务器往往会根据所提供的服务类型进行划分,因此,针对这类目标节点,“目标节点整体负载状态”是指:目标节点中与用户请求相关的各节点服务器作为一个整体的负载状态。相应的,步骤S110中“获取目标节点的负载状态参数”,应包括:获取目标节点中与用户请求相关的各节点服务器的负载状态参数。
例如,当一个目标节点中包含多台节点服务器并仅有部分节点服务器用于提供网络视频服务时,如果用户的请求是为了获得某视频数据,则步骤S110中应获取该目标节点用于提供网络视频服务的各节点服务器的负载状态参数,然后步骤S120中再通过第一判断得到目标节点中由这些节点服务器作为一个整体的负载状态(即目标节点整体负载状态)。
上述步骤中,由于对网络节点的负载进行判断是现有技术本,有鉴于此,领域技术人员能够根据第一判断的作用,即,根据目标节点的负载状态参数得到目标节点整体负载状态,设计出第一判断策略的具体算法。实际上,由不同人员设计的第一判断策略通常可能存在差异,具体实施时也会基于对结果的吻合程序对第一判断策略进行修正或完善。
步骤S130,该步骤为:根据第一判断得到的目标节点整体负载状态对用户请求进行响应。更具体的说,该步骤包括:若将目标节点整体负载状态判断为低负载时执行步骤S131,即,指令目标节点响应用户的请求;若将目标节点整体负载状态判断为高负载时执行步骤S132,即,指令内容分发网络中与目标节点对应的区域共享节点帮助目标节点响应用户的请求。
上述步骤中,“区域共享节点”是指:部署在目标节点和与该目标节点距离相近的至少一个边缘节点之间,并以被目标节点与所述至少一个边缘节点共享的方式所配置的网络节点。由于目标节点也是边缘节点,因此,区域共享节点即部署在至少两个距离相近的边缘节点之间,并能够帮助这些边缘节点相应用户请求。
上述方法中针对区域共享节点的一个优选实施方式中,所述区域共享节点由目标节点和所述至少一个边缘节点专有。这时,区域共享节点仅用于帮助其对应的边缘节点响应用户请求,因此,区域共享节点主要提供响应用户请求的数据的收发服务。
上述方法中针对区域共享节点的另一个优选实施方式中,所述区域共享节点由目标节点和所述至少一个边缘节点享有优先使用权限。这时,区域共享节点优先用于帮助其对应的边缘节点响应用户请求,此外,区域共享节点也可以提供其他服务。
上述方法至少可以产生如下有益的技术效果:
第一,能够在目标节点整体负载状态被判断为高负载时利用特别部署的区域共享节点帮助目标节点响应用户的请求,由于区域共享节点部署在目标节点和与该目标节点距离相近的至少一个边缘节点之间并以被目标节点与所述至少一个边缘节点共享的方式所配置,因此,区域共享节点与用户距离较近,可以快速响应用户的请求,故能够提升内容分发网络的性能。
第二,由于一个区域共享节点对应了至少两个边缘节点,部署一个区域共享节点能够对至少两个边缘节点进行辅助,因此,部署区域共享节点相比于增加内容分发网络的边缘节点的数量或普遍提高边缘节点的负载能力而言,能够达到更高的资源利用率,从而降低对边缘节点进行扩展的需求。
此外,由于引入了资源共享的思路,上述方法还可能为CDN产业带来潜在的发展机遇。如果将现有的内容分发网络中由各边缘节点构建的网络看作第一网络,则可以将内容分发网络中由各区域共享节点构建的网络看作第二网络;第一网络和第二网络可以由不同的网络提供商提供(例如第一网络由第一网络提供商提供,第二网络由第二网络提供商提供),从而将内容分发网络细分为两个彼此互补的节点层,强化了产业分工,并有助于降低第一网络和第二网络各自的建设成本。
图2为本发明的一种内容分发网络的负载调节方法的具体实施方式的流程示意图。如图所示,该具体实施方式的负载调节方法包括:
步骤S110,该步骤具体为:以内容分发网络中拟响应用户请求的边缘节点为目标节点,并获取目标节点的负载状态参数。
步骤S120,该步骤具体为:以获取的目标节点的负载状态参数为输入项、低负载和高负载两种结果的其中之一为输出项,按预先设定的第一判断策略进行第一判断得到目标节点整体负载状态。
步骤S130,该步骤为:根据第一判断得到的目标节点整体负载状态对用户请求进行响应。更具体的说,该步骤包括:若将目标节点整体负载状态判断为低负载时执行步骤S131,即,指令目标节点响应用户的请求;若将目标节点整体负载状态判断为高负载时执行步骤S132,即,指令内容分发网络中与目标节点对应的区域共享节点帮助目标节点响应用户的请求。
由于上述步骤S110-S130在图1所示的方法中同样存在,故此处不再对这些步骤进行赘述。此外,图2所示的方法还包括:
步骤S140,将目标节点整体负载状态判断为低负载后执行该步骤(可以与步骤S131同时执行),该步骤具体为:以获取的目标节点的负载状态参数为输入项、负载正常和负载预警两种结果的其中之一为输出项,按预先设定的第二判断策略进行第二判断得到目标节点预期负载状态。
上述步骤中,“负载正常”和“负载预警”,仅仅是对第二判断所得到的两种分别代表预期负载高低状况的结果所进行的指代。因此,“负载正常”和“负载预警”完全可以用其他的术语加以替代(只要该术语所对应的第二判断的结果的含义不变),例如:“负载正常”可以用“负载c”替代,“负载预警”可以用“负载d”替代。
上述步骤中,由于对网络节点的负载进行判断是现有技术本,有鉴于此,本领域技术人员能够根据第二判断的作用,即,根据目标节点的负载状态参数得到目标节点预期负载状态,设计出第二判断策略的具体算法。实际上,由不同人员设计的第二判断策略通常可能存在差异,具体实施时也会基于对结果的吻合程序对第二判断策略进行修正或完善。
步骤S150,该步骤为:根据得到的目标节点预期负载状态指令是否启动区域共享节点预备缓存的启动决策程序。更具体的说,该步骤包括:若将目标节点预期负载状态判断为负载正常时执行步骤S151,指令不启动所述启动决策程序;若将目标节点预期负载状态判断为负载预警时执行步骤S152,指令启动所述启动决策程序。
步骤S160,当启动所述启动决策程序后,根据启动决策程序得到决策结果。需要指出,“启动决策程序”是指:对是否启动区域共享节点预备缓存的决策程序。关于“区域共享节点预备缓存”的含义,将在后面进行说明。
步骤S170,根据该启动决策程序得到的决策结果指令是否启动区域共享节点预备缓存。更具体的说,该步骤包括:步骤S171,若根据启动决策程序得到的决策结果为“是”,指令启动区域共享节点预备缓存;步骤S172,若根据启动决策程序得到的决策结果为“否”,指令不启动区域共享节点预备缓存。
上述方法中,“区域共享节点预备缓存”是指,根据预先设定的缓存策略,将与目标节点响应用户的请求而发送给用户的数据有关的预期待发送数据缓存于区域共享节点。
图2所示的方法与图1所示的方法相比,还能够根据目标节点预期负载状态以及启动决策程序判断是否启动区域共享节点预备缓存,如果启动区域共享节点预备缓存,与目标节点响应用户的请求而发送给用户的数据有关的预期待发送数据将被缓存于区域共享节点,从而方便用户后续访问这些数据。
例如,目标节点为响应用户的请求而发送给用户的是一个完整视频文件的其中一段数据(如一部连续剧的其中一集),如果启动区域共享节点预备缓存,源站点将会将该完整视频文件的其他段数据发送给区域共享节点进行缓存,用户将来就能够快速接收该完整视频文件的其他段数据。
上面结合图1、2对本发明的两种内容分发网络的负载调节方法的具体实施方式进行了说明。下面将结合图3,以在图3所示的内容分发网络中实施本发明的方法为例,对本发明的方法的实施例进行详细的说明。
如图3所示,内容分发网络100部署与用户侧200与源站点侧300之间,并具体包括:位置重定向设备110(具备全局负载均衡功能)、边缘节点120和区域共享节点130。其中,各边缘节点120包括本地负载均衡设备121和多台节点服务器122;各区域共享节点130包括本地负载均衡设备131和多台节点服务器。
根据图3中的箭头G1、G3所示,当用户201发出一个指向互联网中某一提供视频流媒体服务的源站点301的请求时,该请求被位置重定向设备110定向到离该用户距离最近且未发生故障的边缘节点120(以北京节点为例)上并指令北京节点准备响应用户请求,当北京节点的本地负载均衡设备121接收到位置重定向设备110的指令后,开始执行本发明的方法。
需要指出的是:与北京节点对应的区域共享节点130为临沂节点;临沂节点仅被北京节点和上海节点(另一边缘节点120)所共享。从部署地理位置上看,临沂节点位于北京节点和上海节点之间,且临沂节点与北京节点之间的直线距离与临沂节点与上海节点之间的直线距离接近。
另外,从图3中可见,北京节点的本地负载均衡设备121和上海节点的本地负载均衡设备121分别与临沂节点的本地负载均衡设备131连接,以便为实施本实施例实现所需的物理连接。
该方法包括:
步骤S110,以北京节点为目标节点,获取该目标节点的负载状态参数。
具体为:获取北京节点中所有用于提供视频流媒体服务的各节点服务器122的负载状态参数,所述各节点服务器的负载状态参数包括:第一参数,用以表示该节点服务器122实际负载量与最大负载量的比值;以及第二参数,用以表示该节点服务器122最大负载量减去实际负载量的余值。
步骤S120,以获取的目标节点的负载状态参数为输入项、低负载和高负载两种结果的其中之一为输出项,按预先设定的第一判断策略进行第一判断得到目标节点整体负载状态。
第一判断策略具体包括:选取上述步骤得到的所述各节点服务器122的第一参数中的最大值和第二参数中的最小值,然后判断是否该最大值≥预设的第一阈值并且该最小值≤预设的第二阈值,是则将目标节点整体负载状态判断为高负载,否则判断为低负载。
步骤S130,根据第一判断得到的目标节点整体负载状态对用户请求进行响应。包括:
若将目标节点整体负载状态判断为低负载时执行步骤S131,即,指令目标节点响应用户的请求。此时,北京节点的本地负载均衡设备121根据本地负载均衡策略指令北京节点中的相关节点服务器122响应用户的请求。
将目标节点整体负载状态判断为低负载时,除了执行步骤S131,同时将执行步骤S140,以获取的目标节点的负载状态参数为输入项、负载正常和负载预警两种结果的其中之一为输出项,按预先设定的第二判断策略进行第二判断得到目标节点预期负载状态。
所述第二判断策略包括:选取上述步骤得到的所述各节点服务器的第一参数中的最大值和第二参数中的最小值,然后判断是否该最大值≥预设的第一阈值或者该最小值≤预设的第二阈值,是则将目标节点整体负载状态判断为负载预警,否则判断为负载正常。
步骤S150,根据得到的目标节点预期负载状态指令是否启动区域共享节点预备缓存的启动决策程序。包括:若将目标节点预期负载状态判断为负载正常时执行步骤S151,指令不启动所述启动决策程序;若将目标节点预期负载状态判断为负载预警时执行步骤S152,指令启动所述启动决策程序。
步骤S160,当启动所述启动决策程序后,根据启动决策程序得到决策结果。所述启动决策程序包括:获取对目标节点中与用户请求相关的各节点服务器中是否存储有所述预期待发送数据的查询结果,是则得到不启动区域共享节点预备缓存的决策结果,否则进行以下程序;即,获取对与目标节点对应的区域共享节点中与用户请求相关的各节点服务器中是否存储有所述预期待发送数据的查询结果,是则得到不启动区域共享节点预备缓存的决策结果,否则得到启动区域共享节点预备缓存的决策结果。
步骤S170,根据该启动决策程序得到的决策结果指令是否启动区域共享节点预备缓存。更具体的说,该步骤包括:步骤S171,若根据启动决策程序得到的决策结果为启动区域共享节点预备缓存,指令启动区域共享节点预备缓存;步骤S172,若根据启动决策程序得到的决策结果为不启动区域共享节点预备缓存,指令不启动区域共享节点预备缓存。
步骤S130还包括:若将目标节点整体负载状态判断为高负载时执行步骤S132,指令即临沂节点帮助目标节点响应用户的请求(参见图3中的箭头G3)。此时,临沂节点的本地负载均衡设备131根据本地负载均衡策略指令临沂节点中的相关节点服务器响应用户的请求。
上述实施例给出了第一判断策略、第二判断策略以及启动决策程序的具体条件和方式。其中,第一判断策略和第二判断策略均需要对所述第一参数和第二参数进行处理。使用第一参数、第二参数并配合相关的策略不仅能够进行更准确的判断,也为目标节点预期负载状态的判断提供比较理想的途径。
上述第一参数和第二参数涉及最大负载量和实际负载量的问题。本实施例的最大负载量是指:对包含了该节点服务器的存储性能、磁盘读写性能、处理器性能以及内存性能的性能指标进行综合计算所得到的衡量该节点服务器负载能力的数值;所述实际负载量是指:最大负载量中被实际使用部分的数值。
关于通过多指标(如上述节点服务器的存储性能、磁盘读写性能、处理器性能以及内存性能的性能指标)衡量负载状态,在“一种基于多衡量指标的HDFS负载均衡算法,康承昆等,四川大学学报,2014年11月”一文中进行了较为详细的介绍,本发明也可借鉴其具体方式来确定第一参数和第二参数。
图4为本发明的一种内容分发网络的负载调节装置的具体实施方式的结构示意图,图5为本发明的另一种内容分发网络的负载调节装置的具体实施方式的结构示意图。其中,图4所示的负载调节装置用于实施图1所示的方法;图5所示的负载调节装置用于实施图2所示的方法。
如图4所示,内容分发网络的负载调节装置包括:
获取模块410,以内容分发网络中拟响应用户请求的边缘节点为目标节点,并获取目标节点的负载状态参数;
第一处理模块420,以获取的目标节点的负载状态参数为输入项、低负载和高负载两种结果的其中之一为输出项,按预先设定的第一判断策略进行第一判断得到目标节点整体负载状态;
第一指示模块430,根据第一判断得到的目标节点整体负载状态对用户请求进行响应,即,若将目标节点整体负载状态判断为低负载时,指令目标节点响应用户的请求,若将目标节点整体负载状态判断为高负载时,则指令内容分发网络中与目标节点对应的区域共享节点帮助目标节点响应用户的请求;
其中,所述区域共享节点部署在目标节点和与该目标节点距离相近的至少一个边缘节点之间,并以被目标节点与该至少一个边缘节点共享的方式所配置。
如图5所示,内容分发网络的负载调节装置包括:
获取模块410,以内容分发网络中拟响应用户请求的边缘节点为目标节点,并获取目标节点的负载状态参数;
第一处理模块420,以获取的目标节点的负载状态参数为输入项、低负载和高负载两种结果的其中之一为输出项,按预先设定的第一判断策略进行第一判断得到目标节点整体负载状态;
第一指示模块430,根据第一判断得到的目标节点整体负载状态对用户请求进行响应,即,若将目标节点整体负载状态判断为低负载时,指令目标节点响应用户的请求,若将目标节点整体负载状态判断为高负载时,则指令内容分发网络中与目标节点对应的区域共享节点帮助目标节点响应用户的请求;
其中,所述区域共享节点部署在目标节点和与该目标节点距离相近的至少一个边缘节点之间,并以被目标节点与该至少一个边缘节点共享的方式所配置;
第二处理模块440,将目标节点整体负载状态判断为低负载后,以获取的目标节点的负载状态参数为输入项、负载正常和负载预警两种结果的其中之一为输出项,按预先设定的第二判断策略进行第二判断得到目标节点预期负载状态;
第二指示模块450,根据得到的目标节点预期负载状态指令是否启动区域共享节点预备缓存的启动决策程序,即,若将目标节点预期负载状态判断为负载正常时,指令不启动所述启动决策程序,若将目标节点预期负载状态判断为负载预警时,指令启动所述启动决策程序;
第三处理模块460,当启动所述启动决策程序后,根据该启动决策程序得到的决策结果;
第三指示模块470,根据该启动决策程序得到的决策结果指令是否启动区域共享节点预备缓存;所述区域共享节点预备缓存是指,根据预先设定的缓存策略,将与目标节点响应用户的请求而发送给用户的数据有关的预期待发送数据缓存于区域共享节点。
另外,图1所示的方法或图2所示的方法还可以由负载均衡设备来实现。图5示出了负载调节设备的一种具体实施方式的结构示意图。
负载调节设备包括:至少一个处理器510、至少一个存储器520以及存储在所述存储器520中的计算机程序指令,当所述计算机程序指令被所述处理器510执行时实现图1所示的方法或图2所示的方法。
具体的,上述处理器510可以包括中央处理器(CPU),或者特定集成电路(Application Special Integrated Circuit,ASIC),或者可以被配置成实施本发明方法的一个或多个集成电路。
存储器520可以包括用于数据可以包括用于数据或指令的大容量存储器。举例来说而非限制,存储器520可包括硬盘驱动器(Hard Disk Drive,HDD)、软盘驱动器、闪存、光盘、磁光盘、磁带或通用串行总线(Universal Serial Bus,USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下,存储器520可包括可移除或不可移除(或固定)的介质。在合适的情况下,存储器520可在数据处理装置的内部或外部。在特定实施例中,存储器520是非易失性固态存储器。在特定实施例中,存储器520包括只读存储器(ROM)。在合适的情况下,该ROM可以是掩模编程的ROM、可编程ROM(PROM)、可擦除PROM(EPROM)、电可擦除PROM(EEPROM)、电可改写ROM(EAROM)或闪存或者两个或更多个以上这些的组合。
处理器510通过读取并执行存储器520中存储的计算机程序指令,以实现上述任意一种负载调节方法。
在一个实施例中,负载均衡设备还可包括通信接口530和总线540。其中,如图6所示,处理器510、存储器520、通信接口530通过总线540连接并完成相互间的通信。
通信接口530,主要用于实现本发明实施例中各模块、装置、单元和/或设备之间的通信。总线540包括硬件、软件或两者,将负载均衡设备的部件彼此耦接在一起。举例来说而非限制,总线可包括加速图形端口(AGP)或其他图形总线、增强工业标准架构(EISA)总线、前端总线(FSB)、超传输(HT)互连、工业标准架构(ISA)总线、无限带宽互连、低引脚数(LPC)总线、存储器总线、微信道架构(MCA)总线、外围组件互连(PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(SATA)总线、视频电子标准协会局部(VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下,总线540可包括一个或多个总线。尽管本发明描述和示出了特定的总线,但本发明考虑任何合适的总线或互连。
该负载均衡设备可以基于获取到目标节点的负载状态参数,执行本发明的负载调节方法。
以上对本发明的有关内容进行了说明。本领域普通技术人员在基于这些说明的情况下将能够实现本发明。基于本发明的上述内容,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他优选实施方式和实施例,都应当属于本发明保护的范围。

Claims (10)

1.内容分发网络的负载调节方法,其特征在于,该方法包括:
以内容分发网络中拟响应用户请求的边缘节点为目标节点,并获取目标节点的负载状态参数;
以获取的目标节点的负载状态参数为输入项、低负载和高负载两种结果的其中之一为输出项,按预先设定的第一判断策略进行第一判断得到目标节点整体负载状态;
根据第一判断得到的目标节点整体负载状态对用户请求进行响应,即,若将目标节点整体负载状态判断为低负载时,指令目标节点响应用户的请求,
若将目标节点整体负载状态判断为高负载时,则指令内容分发网络中与目标节点对应的区域共享节点帮助目标节点响应用户的请求;
所述区域共享节点部署在目标节点和与该目标节点距离相近的至少一个边缘节点之间,并以被目标节点与所述至少一个边缘节点共享的方式所配置。
2.如权利要求1所述的方法,其特征在于:所述区域共享节点由目标节点和所述至少一个边缘节点专有;或者,所述区域共享节点由目标节点和所述至少一个边缘节点享有优先使用权限。
3.如权利要求1所述的方法,其特征在于,所述获取目标节点的负载状态参数,包括:获取目标节点中与用户请求相关的各节点服务器的负载状态参数;
所述各节点服务器的负载状态参数包括:
第一参数,用以表示该节点服务器实际负载量与最大负载量的比值;以及
第二参数,用以表示该节点服务器最大负载量减去实际负载量的余值;
则,所述第一判断策略包括:
选取所述各节点服务器的第一参数中的最大值和第二参数中的最小值,然后判断是否该最大值≥预设的第一阈值并且该最小值≤预设的第二阈值,是则将目标节点整体负载状态判断为高负载,否则判断为低负载。
4.如权利要求3所述的方法,其特征在于:所述最大负载量是对包含了该节点服务器的存储性能、磁盘读写性能、处理器性能以及内存性能的性能指标进行综合计算所得到的衡量该节点服务器负载能力的数值;所述实际负载量是指最大负载量中被实际使用部分的数值。
5.如权利要求1、2、3或4所述的方法,其特征在于,该方法还包括:
将目标节点整体负载状态判断为低负载后,以获取的目标节点的负载状态参数为输入项、负载正常和负载预警两种结果的其中之一为输出项,按预先设定的第二判断策略进行第二判断得到目标节点预期负载状态;
根据得到的目标节点预期负载状态指令是否启动区域共享节点预备缓存的启动决策程序,即,若将目标节点预期负载状态判断为负载正常时,指令不启动所述启动决策程序,若将目标节点预期负载状态判断为负载预警时,指令启动所述启动决策程序;以及
当启动所述启动决策程序后,根据该启动决策程序得到的决策结果指令是否启动区域共享节点预备缓存;所述区域共享节点预备缓存是指,根据预先设定的缓存策略,将与目标节点响应用户的请求而发送给用户的数据有关的预期待发送数据缓存于区域共享节点。
6.如权利要求5所述的方法,其特征在于,所述第二判断策略包括:选取所述各节点服务器的第一参数中的最大值和第二参数中的最小值,然后判断是否该最大值≥预设的第一阈值或者该最小值≤预设的第二阈值,是则将目标节点整体负载状态判断为负载预警,否则判断为负载正常。
7.如权利要求5所述的方法,其特征在于,所述启动决策程序包括:
获取对目标节点中与用户请求相关的各节点服务器中是否存储有所述预期待发送数据的查询结果,是则指令不启动区域共享节点预备缓存,否则进行以下程序;
获取对与目标节点对应的区域共享节点中与用户请求相关的各节点服务器中是否存储有所述预期待发送数据的查询结果,是则指令不启动区域共享节点预备缓存,否则指令启动区域共享节点预备缓存。
8.如权利要求1、2、3或4所述的方法,其特征在于,所述内容分发网络包括:
第一网络,由第一网络提供商提供,用于构建内容分发网络中的边缘节点;
第二网络,由第二网络提供商提供,用于构建内容分发网络中的区域共享节点。
9.内容分发网络的负载调节装置,其特征在于,包括:
获取模块,以内容分发网络中拟响应用户请求的边缘节点为目标节点,并获取目标节点的负载状态参数;
第一处理模块,以获取的目标节点的负载状态参数为输入项、低负载和高负载两种结果的其中之一为输出项,按预先设定的第一判断策略进行第一判断得到目标节点整体负载状态;
第一指示模块,根据第一判断得到的目标节点整体负载状态对用户请求进行响应,即,若将目标节点整体负载状态判断为低负载时,指令目标节点响应用户的请求,若将目标节点整体负载状态判断为高负载时,则指令内容分发网络中与目标节点对应的区域共享节点帮助目标节点响应用户的请求;
所述区域共享节点部署在目标节点和与该目标节点距离相近的至少一个边缘节点之间,并以被目标节点与该至少一个边缘节点共享的方式所配置。
10.内容分发网络的负载调节设备,其特征在于,包括:至少一个处理器、至少一个存储器以及存储在所述存储器中的计算机程序指令,当所述计算机程序指令被所述处理器执行时实现如权利要求1-8中任意一项权利要求所述的方法。
CN201810441610.3A 2018-05-10 2018-05-10 内容分发网络的负载调节方法、装置及设备 Active CN108650317B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810441610.3A CN108650317B (zh) 2018-05-10 2018-05-10 内容分发网络的负载调节方法、装置及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810441610.3A CN108650317B (zh) 2018-05-10 2018-05-10 内容分发网络的负载调节方法、装置及设备

Publications (2)

Publication Number Publication Date
CN108650317A true CN108650317A (zh) 2018-10-12
CN108650317B CN108650317B (zh) 2021-02-05

Family

ID=63754108

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810441610.3A Active CN108650317B (zh) 2018-05-10 2018-05-10 内容分发网络的负载调节方法、装置及设备

Country Status (1)

Country Link
CN (1) CN108650317B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110300184A (zh) * 2019-07-10 2019-10-01 深圳市网心科技有限公司 边缘节点分配方法、装置、调度服务器及存储介质
CN110336885A (zh) * 2019-07-10 2019-10-15 深圳市网心科技有限公司 边缘节点分配方法、装置、调度服务器及存储介质
CN110839166A (zh) * 2019-11-19 2020-02-25 中国联合网络通信集团有限公司 一种数据共享方法及装置
CN113067714A (zh) * 2020-01-02 2021-07-02 中国移动通信有限公司研究院 一种内容分发网络调度处理方法、装置及设备
CN114553964A (zh) * 2020-11-20 2022-05-27 中移动信息技术有限公司 一种联播系统的管控方法、装置、设备及联播系统

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1941736A (zh) * 2005-09-30 2007-04-04 西门子通信技术(北京)有限公司 一种内容分发系统及其用户请求重定向方法
CN101193294A (zh) * 2006-11-29 2008-06-04 中兴通讯股份有限公司 一种视频内容服务系统和服务方法
WO2012152751A1 (en) * 2011-05-12 2012-11-15 Telefonica, S.A. A method and a tracker for content delivery through a content delivery network
US20130297596A1 (en) * 2012-05-01 2013-11-07 Everbridge, Inc. Systems and methods for distance and performance based load balancing
CN104283963A (zh) * 2014-10-21 2015-01-14 无锡云捷科技有限公司 一种分布合作式的cdn负载均衡方法
CN104320487A (zh) * 2014-11-11 2015-01-28 网宿科技股份有限公司 内容分发网络的http调度系统和方法
CN105763628A (zh) * 2016-04-12 2016-07-13 上海帝联信息科技股份有限公司 数据访问请求处理方法及装置、边缘节点服务器和集群
CN106230971A (zh) * 2016-08-29 2016-12-14 无锡华云数据技术服务有限公司 基于cdn的大文件分发方法
US20170099345A1 (en) * 2015-10-01 2017-04-06 Fastly, Inc. Content delivery network load balancing
CN107196982A (zh) * 2016-03-14 2017-09-22 阿里巴巴集团控股有限公司 一种用户请求的处理方法和装置
CN107197039A (zh) * 2017-06-30 2017-09-22 郑州云海信息技术有限公司 一种基于cdn的paas平台服务包分发方法及系统
CN107277093A (zh) * 2016-04-08 2017-10-20 北京优朋普乐科技有限公司 内容分发网络及其负载均衡方法

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1941736A (zh) * 2005-09-30 2007-04-04 西门子通信技术(北京)有限公司 一种内容分发系统及其用户请求重定向方法
CN101193294A (zh) * 2006-11-29 2008-06-04 中兴通讯股份有限公司 一种视频内容服务系统和服务方法
WO2012152751A1 (en) * 2011-05-12 2012-11-15 Telefonica, S.A. A method and a tracker for content delivery through a content delivery network
US20130297596A1 (en) * 2012-05-01 2013-11-07 Everbridge, Inc. Systems and methods for distance and performance based load balancing
CN104283963A (zh) * 2014-10-21 2015-01-14 无锡云捷科技有限公司 一种分布合作式的cdn负载均衡方法
CN104320487A (zh) * 2014-11-11 2015-01-28 网宿科技股份有限公司 内容分发网络的http调度系统和方法
US20170099345A1 (en) * 2015-10-01 2017-04-06 Fastly, Inc. Content delivery network load balancing
CN107196982A (zh) * 2016-03-14 2017-09-22 阿里巴巴集团控股有限公司 一种用户请求的处理方法和装置
CN107277093A (zh) * 2016-04-08 2017-10-20 北京优朋普乐科技有限公司 内容分发网络及其负载均衡方法
CN105763628A (zh) * 2016-04-12 2016-07-13 上海帝联信息科技股份有限公司 数据访问请求处理方法及装置、边缘节点服务器和集群
CN106230971A (zh) * 2016-08-29 2016-12-14 无锡华云数据技术服务有限公司 基于cdn的大文件分发方法
CN107197039A (zh) * 2017-06-30 2017-09-22 郑州云海信息技术有限公司 一种基于cdn的paas平台服务包分发方法及系统

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110300184A (zh) * 2019-07-10 2019-10-01 深圳市网心科技有限公司 边缘节点分配方法、装置、调度服务器及存储介质
CN110336885A (zh) * 2019-07-10 2019-10-15 深圳市网心科技有限公司 边缘节点分配方法、装置、调度服务器及存储介质
CN110336885B (zh) * 2019-07-10 2022-04-01 深圳市网心科技有限公司 边缘节点分配方法、装置、调度服务器及存储介质
CN110300184B (zh) * 2019-07-10 2022-04-01 深圳市网心科技有限公司 边缘节点分配方法、装置、调度服务器及存储介质
CN110839166A (zh) * 2019-11-19 2020-02-25 中国联合网络通信集团有限公司 一种数据共享方法及装置
CN113067714A (zh) * 2020-01-02 2021-07-02 中国移动通信有限公司研究院 一种内容分发网络调度处理方法、装置及设备
CN113067714B (zh) * 2020-01-02 2022-12-13 中国移动通信有限公司研究院 一种内容分发网络调度处理方法、装置及设备
CN114553964A (zh) * 2020-11-20 2022-05-27 中移动信息技术有限公司 一种联播系统的管控方法、装置、设备及联播系统

Also Published As

Publication number Publication date
CN108650317B (zh) 2021-02-05

Similar Documents

Publication Publication Date Title
CN108650317A (zh) 内容分发网络的负载调节方法、装置及设备
CN111132191B (zh) 移动边缘计算服务器联合任务卸载、缓存及资源分配方法
CN109561141A (zh) 一种cdn节点的选择方法及设备
EP4055852A1 (en) Policy-based access and mobility management function (amf) selection using network slice selection assistance information (nssai) availability information
US20030133420A1 (en) Load balancing in data transfer networks
CN112203290B (zh) Mec节点部署位置确定方法和mec节点部署装置
CN108112037A (zh) 基于雾计算和协作通信网络的负载均衡方法
WO2021062740A1 (zh) 一种确定设备信息的方法、装置以及系统
CN112702213A (zh) 一种网络功能nf管理方法及nf管理设备
CN106502761B (zh) 一种资源高效利用的虚拟机部署方法
CN104581826B (zh) 一种动态负载均衡方法及系统
CN111447646B (zh) 一种用户设备ue接入amf的方法及其网络设备
CN111526526A (zh) 基于服务混搭的移动边缘计算中的任务卸载方法
CN110597598A (zh) 一种云环境中的虚拟机迁移的控制方法
CN107295103B (zh) 基于集中式p2p系统的节点管理方法
WO2021000694A1 (zh) 一种部署业务的方法以及调度装置
CN112291754B (zh) 一种qos参数的计算方法和接入网设备
CN116456409A (zh) 一种计算设备接入无线局域网的方法及装置
CN110839166A (zh) 一种数据共享方法及装置
CN116233928A (zh) 基于通感算一体化的卸载决策与资源分配方法
JP2022503762A (ja) セルラ電気通信ネットワーク
CN112203354B (zh) 一种业务处理方法及装置
CN117527591A (zh) 一种资源弹性伸缩方法、装置及设备
CN112203309A (zh) 一种基于服务器协作的联合任务卸载及缓存方法
CN111405612B (zh) 根据网络传输质量发现网络功能nf的方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant