CN110087107B - 一种提高系统自适应能力的方法和视联网系统 - Google Patents

一种提高系统自适应能力的方法和视联网系统 Download PDF

Info

Publication number
CN110087107B
CN110087107B CN201910341142.7A CN201910341142A CN110087107B CN 110087107 B CN110087107 B CN 110087107B CN 201910341142 A CN201910341142 A CN 201910341142A CN 110087107 B CN110087107 B CN 110087107B
Authority
CN
China
Prior art keywords
load balancing
manager
mserver
task request
balancing device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910341142.7A
Other languages
English (en)
Other versions
CN110087107A (zh
Inventor
张涛涛
沈军
王洪超
雷洋洋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Visionvera Information Technology Co Ltd
Original Assignee
Visionvera Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Visionvera Information Technology Co Ltd filed Critical Visionvera Information Technology Co Ltd
Priority to CN201910341142.7A priority Critical patent/CN110087107B/zh
Publication of CN110087107A publication Critical patent/CN110087107A/zh
Application granted granted Critical
Publication of CN110087107B publication Critical patent/CN110087107B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/231Content storage operation, e.g. caching movies for short term storage, replicating data over plural servers, prioritizing data for deletion
    • H04N21/23103Content storage operation, e.g. caching movies for short term storage, replicating data over plural servers, prioritizing data for deletion using load balancing strategies, e.g. by placing or distributing content on different disks, different memories or different servers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2404Monitoring of server processing errors or hardware failure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/258Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
    • H04N21/25808Management of client data

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Computer Graphics (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本申请提出了一种提高系统自适应能力的方法和视联网系统,所述方法应用于视联网系统,所述视联网系统包括:负载均衡管理器和负载均衡设备,所述负载均衡管理器与所述负载均衡设备通信连接。所述方法包括:所述负载均衡设备向所述负载均衡管理器发送注册请求,所述注册请求包括所述负载均衡设备对应的标识;所述负载均衡管理器根据所述注册请求,将所述负载均衡设备对应的标识添加到设备管理列表。本申请中在mserver系统和多个负载均衡设备之间设置有负载均衡管理器,由负载均衡管理器代替mserver系统响应新的负载均衡设备的注册请求,使得mserver系统无需重新启动以使新的负载均衡设备生效,提高了mserver系统的扩容自适应能力。

Description

一种提高系统自适应能力的方法和视联网系统
技术领域
本申请涉及视联网技术领域,具体涉及一种提高系统自适应能力的方法和视联网系统。
背景技术
相关技术中mserver(mserver是一款运行在Windows/Linux操作系统上的无线通信器软件,它包括后台服务程序和前台控制台程序,具有支持UDP、TCP、ETCP传输协议下的透明传输、支持对终端的远程配置、远程升级、支持链路测试等多项功能。)系统通常连接到多个流媒体模块,调节这些流媒体模块的负载均衡的一种方法是:通过mserver系统调节,即mserver系统一方面实现自身的业务,另一方面负责管理所有连接到mserver系统的各个流媒体模块的运行状态。
由于mserver系统和各个流媒体模块之间的耦合度比较高,因而,这种调节流媒体模块负载均衡的方式有一个主要的缺点:mserver系统扩容自适应能力差,例如:当有一个新的流媒体模块连接到mserver系统后,需要重启整个mserver系统才能使该新的流媒体模块正常提供业务服务。当业务数据量较大时,这种调节流媒体模块负载均衡的方式会严重影响整个mserver系统的业务执行效率。
发明内容
为解决上述问题,本申请提供一种提高系统自适应能力的方法和视联网系统。
本申请实施例第一方面提供了一种提高系统自适应能力的方法,所述方法应用于视联网系统,所述视联网系统包括:负载均衡管理器和负载均衡设备,所述负载均衡管理器与所述负载均衡设备通信连接;所述方法包括:
所述负载均衡设备向所述负载均衡管理器发送注册请求,所述注册请求包括所述负载均衡设备对应的标识;
所述负载均衡管理器根据所述注册请求,将所述负载均衡设备对应的标识添加到设备管理列表,所述设备管理列表包括多个已注册的负载均衡设备对应的标识。
可选地,所述视联网系统还包括:mserver系统,所述mserver系统与所述负载均衡管理器通信连接;
在所述负载均衡管理器根据所述注册请求将所述负载均衡设备对应的标识添加到设备管理列表后,所述负载均衡管理器执行以下步骤:
从所述设备管理列表中任意选择一个负载均衡设备,并将所述负载均衡设备确定为第一负载均衡设备;
从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备。
可选地,所述视联网系统还包括:mserver系统,所述mserver系统与所述负载均衡管理器通信连接;
在所述负载均衡管理器根据所述注册请求将所述负载均衡设备对应的标识添加到设备管理列表后,所述负载均衡管理器执行以下步骤:
确定所述设备管理列表中各个标识对应的负载均衡设备的当前负载值;
将所述当前负载值按照大小进行排序,将所述当前负载值最小的负载均衡设备确定为第一负载均衡设备;
从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备。
可选地,在从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备后,所述方法还包括:
所述负载均衡管理器判断所述第一负载均衡设备是否发生故障;
若判断得出所述第一负载均衡设备发生故障,所述负载均衡管理器将已分配给所述第一负载均衡设备的任务请求分配给第二负载均衡设备,所述第二负载均衡设备是所述设备管理列表中任意一个不同于所述第一负载均衡设备的负载均衡设备。
可选地,在从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备后,所述方法还包括:
所述负载均衡管理器判断所述第一负载均衡设备是否发生故障;
若判断得出所述第一负载均衡设备发生故障,所述负载均衡管理器执行以下步骤:
确定所述设备管理列表中其它各个标识对应的负载均衡设备的当前负载值,所述其它各个标识是所述设备管理列表中除所述第一负载均衡设备外的各个负载均衡设备对应的标识;
将所述当前负载值按照大小进行排序,将负载值最小的负载均衡设备确定为第三负载均衡设备;
将已分配给所述第一负载均衡设备的任务请求分配给所述第三负载均衡设备。
可选地,所述负载均衡管理器判断所述第一负载均衡设备是否发生故障,包括:
获取最后一次接收到所述第一负载均衡设备发送的心跳消息的时刻;
判断所述时刻与当前时刻的差值是否大于预设时长;
当所述差值大于所述预设时长时,确定所述第一负载均衡设备发生故障。
可选地,在从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备后,所述方法还包括:
所述第一负载均衡设备将针对所述任务请求的响应数据发送给所述负载均衡管理器;
所述负载均衡管理器将接收到的响应数据发送给所述mserver系统。
可选地,,在从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备后,所述方法还包括:
所述第一负载均衡设备将自身的设备运行信息发送给所述负载均衡管理器,所述设备运行信息至少包括:设备的剩余带宽、cpu利用率以及内存使用情况。
本申请实施例第二方面提供了一种视联网系统,所述系统包括:负载均衡设备和负载均衡管理器,所述负载均衡管理器与所述负载均衡设备通信连接;所述系统用于实现第一方面所述的提高系统自适应能力的方法。
可选地,所述系统还包括:mserver系统,所述mserver系统与所述负载均衡管理器通信连接;
所述mserver系统用于向所述负载均衡管理器发送任务请求;所述负载均衡管理器用于接收并分配所述任务请求。
采用本申请提供的一种提高系统自适应能力的方法,当有新的负载均衡设备向负载均衡管理器发起注册请求时,负载均衡管理器根据该注册请求将新的负载均衡设备对应的标识添加到设备管理列表。本申请中负载均衡设备主动向负载均衡管理器发起注册,注册成功后,新的负载均衡设备即可生效,相比于相关技术中的mserver系统管理负载均衡设备时,需要重新启动mserver系统才能使得新加入的负载均衡设备生效,本申请中管理负载均衡设备的负载均衡管理器无需重新启动,并且由于本申请中mserver系统不再管理负载均衡设备,因而mserver系统无法感知新的负载均衡设备的加入,避免了相关技术中mserver系统重新启动使得新的负载均衡设备生效的过程,提高了mserver系统的扩容自适应能力,加快了整个系统的业务执行效率。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请的一种视联网的组网示意图;
图2是本申请的一种节点服务器的硬件结构示意图;
图3是本申请的一种接入交换机的硬件结构示意图;
图4是本申请的一种以太网协转网关的硬件结构示意图;
图5是本申请一实施例示出的一种视联网系统的结构示意图;
图6是本申请一实施例示出的一种提高系统自适应能力的方法的流程示意图;
图7是本申请一实施例示出的一种应用场景示意图。
具体实施方式
下文描述了本发明的具体实施方式,该实施方式为示意性的,旨在揭示本发明的具体工作过程,不能理解为对权利要求的保护范围的进一步限定。
视联网是网络发展的重要里程碑,是一个实时网络,能够实现高清视频实时传输,将众多互联网应用推向高清视频化,高清面对面。
视联网采用实时高清视频交换技术,可以在一个网络平台上将所需的服务,如高清视频会议、视频监控、智能化监控分析、应急指挥、数字广播电视、延时电视、网络教学、现场直播、VOD点播、电视邮件、个性录制(PVR)、内网(自办)频道、智能化视频播控、信息发布等数十种视频、语音、图片、文字、通讯、数据等服务全部整合在一个系统平台,通过电视或电脑实现高清品质视频播放。
为使本领域技术人员更好地理解本发明实施例,以下对视联网进行介绍:
视联网所应用的部分技术如下所述:
网络技术(Network Technology)
视联网的网络技术创新改良了传统以太网(Ethernet),以面对网络上潜在的巨大视频流量。不同于单纯的网络分组包交换(Packet Switching)或网络电路交换(CircuitSwitching),视联网技术采用Packet Switching满足Streaming需求。视联网技术具备分组交换的灵活、简单和低价,同时具备电路交换的品质和安全保证,实现了全网交换式虚拟电路,以及数据格式的无缝连接。
交换技术(Switching Technology)
视联网采用以太网的异步和包交换两个优点,在全兼容的前提下消除了以太网缺陷,具备全网端到端无缝连接,直通用户终端,直接承载IP数据包。用户数据在全网范围内不需任何格式转换。视联网是以太网的更高级形态,是一个实时交换平台,能够实现目前互联网无法实现的全网大规模高清视频实时传输,将众多网络视频应用推向高清化、统一化。
服务器技术(Server Technology)
视联网和统一视频平台上的服务器技术不同于传统意义上的服务器,它的流媒体传输是建立在面向连接的基础上,其数据处理能力与流量、通讯时间无关,单个网络层就能够包含信令及数据传输。对于语音和视频业务来说,视联网和统一视频平台流媒体处理的复杂度比数据处理简单许多,效率比传统服务器大大提高了百倍以上。
储存器技术(Storage Technology)
统一视频平台的超高速储存器技术为了适应超大容量和超大流量的媒体内容而采用了最先进的实时操作系统,将服务器指令中的节目信息映射到具体的硬盘空间,媒体内容不再经过服务器,瞬间直接送达到用户终端,用户等待一般时间小于0.2秒。最优化的扇区分布大大减少了硬盘磁头寻道的机械运动,资源消耗仅占同等级IP互联网的20%,但产生大于传统硬盘阵列3倍的并发流量,综合效率提升10倍以上。
网络安全技术(Network Security Technology)
视联网的结构性设计通过每次服务单独许可制、设备与用户数据完全隔离等方式从结构上彻底根除了困扰互联网的网络安全问题,一般不需要杀毒程序、防火墙,杜绝了黑客与病毒的攻击,为用户提供结构性的无忧安全网络。
服务创新技术(Service Innovation Technology)
统一视频平台将业务与传输融合在一起,不论是单个用户、私网用户还是一个网络的总合,都不过是一次自动连接。用户终端、机顶盒或PC直接连到统一视频平台,获得丰富多彩的各种形态的多媒体视频服务。统一视频平台采用“菜谱式”配表模式来替代传统的复杂应用编程,可以使用非常少的代码即可实现复杂的应用,实现“无限量”的新业务创新。
视联网的组网如下所述:
视联网是一种集中控制的网络结构,该网络可以是树型网、星型网、环状网等等类型,但在此基础上网络中需要有集中控制节点来控制整个网络。
图1是本申请的一种视联网的组网示意图,如图1所示,视联网分为接入网和城域网两部分。
接入网部分的设备主要可以分为3类:节点服务器,接入交换机,终端(包括各种机顶盒、编码板、存储器等)。节点服务器与接入交换机相连,接入交换机可以与多个终端相连,并可以连接以太网。
其中,节点服务器是接入网中起集中控制功能的节点,可控制接入交换机和终端。节点服务器可直接与接入交换机相连,也可以直接与终端相连。
类似的,城域网部分的设备也可以分为3类:城域服务器,节点交换机,节点服务器。城域服务器与节点交换机相连,节点交换机可以与多个节点服务器相连。
其中,节点服务器即为接入网部分的节点服务器,即节点服务器既属于接入网部分,又属于城域网部分。
城域服务器是城域网中起集中控制功能的节点,可控制节点交换机和节点服务器。城域服务器可直接连接节点交换机,也可直接连接节点服务器。
由此可见,整个视联网络是一种分层集中控制的网络结构,而节点服务器和城域服务器下控制的网络可以是树型、星型、环状等各种结构。
形象地称,接入网部分可以组成统一视频平台(虚线圈中部分),多个统一视频平台可以组成视联网;每个统一视频平台可以通过城域以及广域视联网互联互通。
视联网设备分类
1.1本申请实施例的视联网中的设备主要可以分为3类:服务器,交换机(包括以太网网关),终端(包括各种机顶盒,编码板,存储器等)。视联网整体上可以分为城域网(或者国家网、全球网等)和接入网。
1.2其中接入网部分的设备主要可以分为3类:节点服务器,接入交换机(包括以太网网关),终端(包括各种机顶盒,编码板,存储器等)。
各接入网设备的具体硬件结构为:
节点服务器:
图2是本申请的一种节点服务器的硬件结构示意图,如图2所示,主要包括网络接口模块201、交换引擎模块202、CPU模块203、磁盘阵列模块204;
其中,网络接口模块201,CPU模块203、磁盘阵列模块204进来的包均进入交换引擎模块202;交换引擎模块202对进来的包进行查地址表205的操作,从而获得包的导向信息;并根据包的导向信息把该包存入对应的包缓存器206的队列;如果包缓存器206的队列接近满,则丢弃;交换引擎模202轮询所有包缓存器队列,如果满足以下条件进行转发:1)该端口发送缓存未满;2)该队列包计数器大于零。磁盘阵列模块204主要实现对硬盘的控制,包括对硬盘的初始化、读写等操作;CPU模块203主要负责与接入交换机、终端(图中未示出)之间的协议处理,对地址表205(包括下行协议包地址表、上行协议包地址表、数据包地址表)的配置,以及,对磁盘阵列模块204的配置。
接入交换机:
图3是本申请的一种接入交换机的硬件结构示意图,如图3所示,主要包括网络接口模块(下行网络接口模块301、上行网络接口模块302)、交换引擎模块303和CPU模块304;
其中,下行网络接口模块301进来的包(上行数据)进入包检测模块305;包检测模块305检测包的目地地址(DA)、源地址(SA)、数据包类型及包长度是否符合要求,如果符合,则分配相应的流标识符(stream-id),并进入交换引擎模块303,否则丢弃;上行网络接口模块302进来的包(下行数据)进入交换引擎模块303;CPU模块204进来的数据包进入交换引擎模块303;交换引擎模块303对进来的包进行查地址表306的操作,从而获得包的导向信息;如果进入交换引擎模块303的包是下行网络接口往上行网络接口去的,则结合流标识符(stream-id)把该包存入对应的包缓存器307的队列;如果该包缓存器307的队列接近满,则丢弃;如果进入交换引擎模块303的包不是下行网络接口往上行网络接口去的,则根据包的导向信息,把该数据包存入对应的包缓存器307的队列;如果该包缓存器307的队列接近满,则丢弃。
交换引擎模块303轮询所有包缓存器队列,在本申请实施例中分两种情形:
如果该队列是下行网络接口往上行网络接口去的,则满足以下条件进行转发:1)该端口发送缓存未满;2)该队列包计数器大于零;3)获得码率控制模块产生的令牌;
如果该队列不是下行网络接口往上行网络接口去的,则满足以下条件进行转发:1)该端口发送缓存未满;2)该队列包计数器大于零。
码率控制模块208是由CPU模块204来配置的,在可编程的间隔内对所有下行网络接口往上行网络接口去的包缓存器队列产生令牌,用以控制上行转发的码率。
CPU模块304主要负责与节点服务器之间的协议处理,对地址表306的配置,以及,对码率控制模块308的配置。
以太网协转网关:
图4是本申请的一种以太网协转网关的硬件结构示意图,如图4所示,主要包括网络接口模块(下行网络接口模块401、上行网络接口模块402)、交换引擎模块403、CPU模块404、包检测模块405、码率控制模块408、地址表406、包缓存器407和MAC添加模块409、MAC删除模块410。
其中,下行网络接口模块401进来的数据包进入包检测模块405;包检测模块405检测数据包的以太网MAC DA、以太网MAC SA、以太网length or frame type、视联网目地地址DA、视联网源地址SA、视联网数据包类型及包长度是否符合要求,如果符合则分配相应的流标识符(stream-id);然后,由MAC删除模块410减去MAC DA、MAC SA、length or frame type(2byte),并进入相应的接收缓存,否则丢弃;
下行网络接口模块401检测该端口的发送缓存,如果有包则根据包的视联网目地地址DA获知对应的终端的以太网MAC DA,添加终端的以太网MAC DA、以太网协转网关的MACSA、以太网length or frame type,并发送。
以太网协转网关中其他模块的功能与接入交换机类似。
终端:
主要包括网络接口模块、业务处理模块和CPU模块;例如,机顶盒主要包括网络接口模块、视音频编解码引擎模块、CPU模块;编码板主要包括网络接口模块、视音频编码引擎模块、CPU模块;存储器主要包括网络接口模块、CPU模块和磁盘阵列模块。
1.3城域网部分的设备主要可以分为2类:节点服务器,节点交换机,城域服务器。其中,节点交换机主要包括网络接口模块、交换引擎模块和CPU模块;城域服务器主要包括网络接口模块、交换引擎模块和CPU模块构成。
2、视联网数据包定义
2.1接入网数据包定义
接入网的数据包主要包括以下几部分:目的地址(DA)、源地址(SA)、保留字节、payload(PDU)、CRC。
如下表所示,接入网的数据包主要包括以下几部分:
DA SA Reserved Payload CRC
其中:
目的地址(DA)由8个字节(byte)组成,第一个字节表示数据包的类型(例如各种协议包、组播数据包、单播数据包等),最多有256种可能,第二字节到第六字节为城域网地址,第七、第八字节为接入网地址;
源地址(SA)也是由8个字节(byte)组成,定义与目的地址(DA)相同;
保留字节由2个字节组成;
payload部分根据不同的数据报的类型有不同的长度,如果是各种协议包的话是64个字节,如果是单组播数据包话是32+1024=1056个字节,当然并不仅仅限于以上2种;
CRC有4个字节组成,其计算方法遵循标准的以太网CRC算法。
2.2城域网数据包定义
城域网的拓扑是图型,两个设备之间可能有2种、甚至2种以上的连接,即节点交换机和节点服务器、节点交换机和节点交换机、节点交换机和节点服务器之间都可能超过2种连接。但是,城域网设备的城域网地址却是唯一的,为了精确描述城域网设备之间的连接关系,在本申请实施例中引入参数:标签,来唯一描述一个城域网设备。
本说明书中标签的定义和MPLS(Multi-Protocol Label Switch,多协议标签交换)的标签的定义类似,假设设备A和设备B之间有两个连接,那么数据包从设备A到设备B就有2个标签,数据包从设备B到设备A也有2个标签。标签分入标签、出标签,假设数据包进入设备A的标签(入标签)是0x0000,这个数据包离开设备A时的标签(出标签)可能就变成了0x0001。城域网的入网流程是集中控制下的入网过程,也就意味着城域网的地址分配、标签分配都是由城域服务器主导的,节点交换机、节点服务器都是被动的执行而已,这一点与MPLS的标签分配是不同的,MPLS的标签分配是交换机、服务器互相协商的结果。
如下表所示,城域网的数据包主要包括以下几部分:
DA SA Reserved 标签 Payload CRC
即目的地址(DA)、源地址(SA)、保留字节(Reserved)、标签、payload(PDU)、CRC。其中,标签的格式可以参考如下定义:标签是32bit,其中高16bit保留,只用低16bit,它的位置是在数据包的保留字节和payload之间。
图5是本申请一实施例示出的一种视联网系统的结构示意图。参照图5,所述系统包括:负载均衡管理器和负载均衡设备,所述负载均衡管理器与所述负载均衡设备通信连接。图6是本申请一实施例示出的一种提高系统自适应能力的方法的流程示意图。参照图6,所述方法包括:
步骤S11:所述负载均衡设备向所述负载均衡管理器发送注册请求,所述注册请求包括所述负载均衡设备对应的标识。
当新的负载均衡设备需要连接到负载均衡管理器时,主动向负载均衡管理器发起注册请求,注册请求中至少包括新的负载均衡设备的设备信息(例如:设备类型、设备地址、带宽、内存等)、对应的标识(不同的负载均衡设备对应的标识是不同的)。
步骤S12:所述负载均衡管理器根据所述注册请求,将所述负载均衡设备对应的标识添加到设备管理列表,所述设备管理列表包括多个已注册的负载均衡设备对应的标识。
负载均衡管理器对所有与其创建连接的负载均衡设备进行管理,例如:保存各个负载均衡设备的设备信息、查看各个负载均衡设备的当前状态、接收上级平台的任务请求并将任务请求分配给合适的负载均衡设备等。
负载均衡管理器中设置有设备管理列表,该设备管理列表中包含着所有与负载均衡管理器连接成功的负载均衡设备的标识。负载均衡管理器接收到新的负载均衡设备发送的注册请求后,从注册请求中提取创建连接所需要的配置信息并进行相应的配置,并从注册请求中提取该新的负载均衡设备的标识加入到设备管理列表,代表该次注册请求响应成功,即新的负载均衡设备成功连接到负载均衡管理器。
新的负载均衡设备成功连接到负载均衡管理器后,负载均衡管理器可直接对新的负载均衡设备进行调度,例如:从mserver系统接收任务请求并将任务请求分配给新的负载均衡设备,即新的负载均衡设备的生效无需负载均衡管理器的重新启动操作。
在本申请中,当有新的负载均衡设备向负载均衡管理器发起注册请求时,负载均衡管理器响应该注册请求,并根据该注册请求将新的负载均衡设备对应的标识添加到设备管理列表。本申请中在mserver系统和多个负载均衡设备之间设置有负载均衡管理器,由负载均衡管理器代替mserver系统响应新的负载均衡设备的注册请求,使得mserver系统无需重新启动以使新的负载均衡设备生效,不仅提高了mserver系统的扩容自适应能力,而且加快了整个系统的业务执行效率。
参照图5,所述视联网系统还包括:mserver系统,所述mserver系统与所述负载均衡管理器通信连接。在步骤S12之后,所述负载均衡管理器执行以下步骤:
步骤SA1:从所述设备管理列表中任意选择一个负载均衡设备,并将所述负载均衡设备确定为第一负载均衡设备。
步骤SA2:从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备。
在本实施例中,负载均衡管理器接收mserver系统发送的所有任务请求,并将这些任务请求保存到任务列表中。在将这些任务请求分配给已注册的负载均衡设备时,负载均衡管理器按照任务列表中的各个任务请求的优先级或者时间顺序,依次将各个任务请求分配给已注册成功的负载均衡设备,所有已注册的负载均衡设备都可以执行负载均衡管理器分配的任务请求。例如:负载均衡管理器在从任务列表中读取一项查询数据的任务请求A后,可以执行以下步骤:首先从设备管理列表中任意选择一个负载均衡设备,作为执行该任务请求A的第一负载均衡设备;然后根据第一负载均衡设备在发起注册请求时提交的设备信息找到该第一负载均衡设备的设备地址;最后按照设备地址将任务请求A分配给第一负载均衡设备。
结合上述实施例,进一步地,在步骤S12之后,所述负载均衡管理器还可以执行以下步骤:
步骤SB1:确定所述设备管理列表中各个标识对应的负载均衡设备的当前负载值。
其中,当前负载值的确定方式可以有多种,例如一种获得单个负载均衡设备的当前负载值的方式可以为:根据一个负载均衡设备的当前待处理的任务请求的数量和各个任务请求的预计处理时长,计算得到该负载均衡设备的处理完所有当前所有任务请求的总时长,将总时长作为该负载均衡设备的当前负载值。
步骤SB2:将所述当前负载值按照大小进行排序,将所述当前负载值最小的负载均衡设备确定为第一负载均衡设备。
一个负载均衡设备的当前负载值越大,代表该负载均衡设备的当前负载越重,如果将当前任务请求分配给该负载均衡设备,那么当前任务请求等待被执行的时间越长。将所有已注册的负载均衡设备的当前负载值按照大小进行排序,将其中当前负载值最小的负载均衡设备作为执行当前任务请求的第一负载均衡设备,能在一定程度上保证当前任务请求得到尽快的处理。
步骤SB3:从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备。
即:在确定出当前负载值最小的第一负载均衡设备后,负载均衡管理器将从任务列表中读取的当前任务请求分配给第一负载均衡设备,依次地,负载均衡管理器从任务列表中读取下一个任务请求,并将下一个任务请求分配给剩余的负载均衡设备中的当前负载值最小的负载均衡设备,直到负载均衡管理器将任务列表中的所有的任务请求分配完毕。
在本实施例中,负载均衡管理器确定出所有已注册的负载均衡设备的当前负载值,然后依次地将任务列表中的各项任务请求分配给当前负载值最小的负载均衡设备,最大化地提升各项任务请求的执行效率,避免了任务请求被分配到负载较重的负载均衡设备后,较长时间内无法被执行的现象。
可选地,在从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备后,所述方法还包括以下步骤:
步骤S21:所述负载均衡管理器判断所述第一负载均衡设备是否发生故障;
步骤S22:若判断得出所述第一负载均衡设备发生故障,所述负载均衡管理器将已分配给所述第一负载均衡设备的任务请求分配给第二负载均衡设备,所述第二负载均衡设备是所述设备管理列表中任意一个不同于所述第一负载均衡设备的负载均衡设备。
在本实施例中,负载均衡管理器时刻判断各个已注册的负载均衡设备是否发生故障,如果判断得到某一个负载均衡设备发生故障,负载均衡管理器将该发生故障的负载均衡设备中的所有待处理的任务请求重新分配到其它的负载均衡设备。例如:当负载均衡管理器确定负载均衡设备A发生故障后,获取负载均衡设备A的当前状态,确定出等待处理的各项任务请求,假设按照时间先后顺序依次为任务请求1、任务请求2以及任务请求3。对于任务请求1,负载均衡管理器从所有剩余的负载均衡设备(除了负载均衡设备A外的其余负载均衡设备)中任意确定一个第二负载均衡设备,然后将任务请求1重新分配给第二负载均衡设备,同理,负载均衡管理器从剩余的所有负载均衡设备中依次确定下一个第二负载均衡设备,并对任务请求2和任务请求3进行分配。
结合上述实施例,进一步地,在从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备后,所述方法还包括以下步骤:
步骤S31:所述负载均衡管理器判断所述第一负载均衡设备是否发生故障。
若判断得出所述第一负载均衡设备发生故障,所述负载均衡管理器执行以下步骤:
步骤S311:确定所述设备管理列表中其它各个标识对应的负载均衡设备的当前负载值,所述其它各个标识是所述设备管理列表中除所述第一负载均衡设备外的各个负载均衡设备对应的标识。
步骤S312:将所述当前负载值按照大小进行排序,将负载值最小的负载均衡设备确定为第三负载均衡设备。
步骤S313:将已分配给所述第一负载均衡设备的任务请求分配给所述第三负载均衡设备。
在本实施例中,当某个负载均衡设备发生故障后,负载均衡管理器读取该发生故障的负载均衡设备中的等待处理的各项任务请求,并按照剩余的负载均衡设备的当前负载值的高低,依次选择当前负载值最低的负载均衡设备作为执行等待处理的各项任务请求的第三负载均衡设备。从多个负载均衡设备中按照当前负载值的高低确定出第三负载均衡设备的过程,以及对各项待处理任务请求进行分配的过程可参照前文所述。
在本实施例中,当负载均衡设备发生故障时,负载均衡管理器首先确定出发生故障的负载均衡设备的等待处理的各项任务请求,并将这些等待处理的各项任务请求重新分配到其它未发生故障的负载均衡设备,防止等待处理的各项任务请求不能及时得到处理,影响整个业务的执行效率。本申请中,在mserver系统和各个负载均衡设备之间设置有负载均衡管理器,由负载均衡管理器代替原有的mserver系统对各个负载均衡设备进行管理,负载均衡管理器在确定某个负载均衡设备发生故障后,将该发生故障的负载均衡设备中的剩余的待处理任务请求重新分配给其它未发生故障的负载均衡设备,防止影响mserver系统对业务的执行,在一定程度上提高了mserver系统的容灾能力。
可选地,所述负载均衡管理器判断所述第一负载均衡设备是否发生故障,包括:
获取最后一次接收到所述第一负载均衡设备发送的心跳消息的时刻;
判断所述时刻与当前时刻的差值是否大于预设时长;
当所述差值大于所述预设时长时,确定所述第一负载均衡设备发生故障。
在本实施例中,负载均衡管理器周期性地向每个负载均衡设备发送心跳消息,如果在预设时长内,负载均衡管理器没有接收到某一个负载均衡设备发送的心跳消息,那么确定该负载均衡设备发生故障。本申请中加入了故障检测机制,能及时地检测出发生故障的负载均衡设备,以便对存在故障的负载均衡设备及时做出处理。
可选地,在从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备后,所述方法还包括以下步骤:
步骤S41:所述第一负载均衡设备将针对所述任务请求的响应数据发送给所述负载均衡管理器。
步骤S42:所述负载均衡管理器将接收到的响应数据发送给所述mserver系统。
在本实施例中,第一负载均衡设备在执行完负载均衡管理器发送的任务请求后,将针对该任务请求的响应数据返回给负载均衡管理器,再由负载均衡管理器发送给mserver系统。例如:当执行的任务请求为查询数据时,第一负载均衡设备将查询到的数据返回给负载均衡管理器,再由负载均衡管理器将查询到的数据根据mserver系统的要求做出或者不做出处理后再返回给mserver系统。
可选地,在从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备后,所述方法还包括以下步骤:
步骤S51:所述第一负载均衡设备将自身的设备运行信息发送给所述负载均衡管理器,所述设备运行信息至少包括:设备的剩余带宽、cpu利用率、内存使用情况、待处理的任务请求的数量、待处理的任务请求的名称、待处理的任务请求的预计处理时长以及当前处理的任务请求的名称。
在本实施例中,第一负载均衡设备在处理每一项任务请求时,会将处理该任务请求时的设备运行信息(例如:该第一负载均衡设备当前执行的任务请求的名称、剩余的待处理的任务请求的数量、剩余的待处理的任务请求的名称、剩余待处理的任务请求的预计处理时长等)全部发送给负载均衡管理器。负载均衡管理器根据各个负载均衡设备发送的设备运行信息,可以实时地查看到各个负载均衡设备的当前负载状态,以便于更合理地对任务列表中的各项任务请求进行分配。
图7是本申请一实施例示出的一种应用场景示意图。参照图7,在一种实施方式中,负载均衡管理器为流媒体设备管理器,负载均衡设备为流媒体设备,当mserver系统接收到上级平台发送的请求视频流的消息后,将该消息发送给流媒体设备管理器,流媒体设备管理器从多个流媒体设备中选择一个负载比较小的流媒体设备执行该请求视频流的业务,同时流媒体设备管理器记录该流媒体设备和该请求视频流的业务的状态。当该流媒体设备出现故障后,流媒体设备管理器从剩余流媒体设备中选择一个该流媒体设备继续执行该请求视频流的业务,保证该请求视频流的业务的执行不会中断。
本申请实施例还提供了一种视联网系统,参照图5,所述系统包括:负载均衡设备和负载均衡管理器,所述负载均衡管理器与所述负载均衡设备通信连接;所述系统用于实现前述实施例给出的提高系统自适应能力的方法。
可选地,所述系统还包括:mserver系统,所述mserver系统与所述负载均衡管理器通信连接;所述mserver系统用于向所述负载均衡管理器发送任务请求;所述负载均衡管理器用于接收并分配所述任务请求。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本申请的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个申请方面中的一个或多个,在上面对本申请的示例性实施例的描述中,本申请的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本申请要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,申请方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本申请的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本申请的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
应该注意的是上述实施例对本申请进行说明而不是对本申请进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本申请可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (9)

1.一种提高系统自适应能力的方法,其特征在于,所述方法应用于视联网系统,所述视联网系统包括:mserver系统、负载均衡管理器和负载均衡设备,所述mserver系统与所述负载均衡管理器通信连接,所述负载均衡管理器与所述负载均衡设备通信连接;所述方法包括:
所述负载均衡设备向所述负载均衡管理器发送注册请求,所述注册请求包括所述负载均衡设备对应的标识;
所述负载均衡管理器根据所述注册请求,将所述负载均衡设备对应的标识添加到设备管理列表,以使所述负载均衡设备成功连接到所述负载均衡管理器,且在不重启所述mserver系统的情况下生效,所述设备管理列表包括多个已注册的负载均衡设备对应的标识;
在所述负载均衡管理器根据所述注册请求将所述负载均衡设备对应的标识添加到设备管理列表后,所述负载均衡管理器执行以下步骤:
从所述设备管理列表中任意选择一个负载均衡设备,并将所述负载均衡设备确定为第一负载均衡设备;
从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备,以使所述第一负载均衡设备执行所述任务请求。
2.根据权利要求1所述的方法,其特征在于,所述视联网系统还包括:mserver系统,所述mserver系统与所述负载均衡管理器通信连接;
在所述负载均衡管理器根据所述注册请求将所述负载均衡设备对应的标识添加到设备管理列表后,所述负载均衡管理器执行以下步骤:
确定所述设备管理列表中各个标识对应的负载均衡设备的当前负载值;
将所述当前负载值按照大小进行排序,将所述当前负载值最小的负载均衡设备确定为第一负载均衡设备;
从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备。
3.根据权利要求1或2所述的方法,其特征在于,在从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备后,所述方法还包括:
所述负载均衡管理器判断所述第一负载均衡设备是否发生故障;
若判断得出所述第一负载均衡设备发生故障,所述负载均衡管理器将已分配给所述第一负载均衡设备的任务请求分配给第二负载均衡设备,所述第二负载均衡设备是所述设备管理列表中任意一个不同于所述第一负载均衡设备的负载均衡设备。
4.根据权利要求1或2所述的方法,其特征在于,在从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备后,所述方法还包括:
所述负载均衡管理器判断所述第一负载均衡设备是否发生故障;
若判断得出所述第一负载均衡设备发生故障,所述负载均衡管理器执行以下步骤:
确定所述设备管理列表中其它各个标识对应的负载均衡设备的当前负载值,所述其它各个标识是所述设备管理列表中除所述第一负载均衡设备外的各个负载均衡设备对应的标识;
将所述当前负载值按照大小进行排序,将负载值最小的负载均衡设备确定为第三负载均衡设备;
将已分配给所述第一负载均衡设备的任务请求分配给所述第三负载均衡设备。
5.根据权利要求3所述的方法,其特征在于,所述负载均衡管理器判断所述第一负载均衡设备是否发生故障,包括:
获取最后一次接收到所述第一负载均衡设备发送的心跳消息的时刻;
判断所述时刻与当前时刻的差值是否大于预设时长;
当所述差值大于所述预设时长时,确定所述第一负载均衡设备发生故障。
6.根据权利要求1或2所述的方法,其特征在于,在从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备后,所述方法还包括:
所述第一负载均衡设备将针对所述任务请求的响应数据发送给所述负载均衡管理器;
所述负载均衡管理器将接收到的响应数据发送给所述mserver系统。
7.根据权利要求1或2所述的方法,其特征在于,在从所述mserver系统接收任务请求并将所述任务请求分配给所述第一负载均衡设备后,所述方法还包括:
所述第一负载均衡设备将自身的设备运行信息发送给所述负载均衡管理器,所述设备运行信息至少包括:设备的剩余带宽、cpu利用率以及内存使用情况。
8.一种视联网系统,其特征在于,所述系统包括:mserver系统、负载均衡设备和负载均衡管理器,所述mserver系统与所述负载均衡管理器通信连接,所述负载均衡管理器与所述负载均衡设备通信连接;所述系统用于实现权利要求1-7任一项所述的提高系统自适应能力的方法。
9.根据权利要求8所述的系统,其特征在于,所述mserver系统用于向所述负载均衡管理器发送任务请求;所述负载均衡管理器用于接收并分配所述任务请求。
CN201910341142.7A 2019-04-25 2019-04-25 一种提高系统自适应能力的方法和视联网系统 Active CN110087107B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910341142.7A CN110087107B (zh) 2019-04-25 2019-04-25 一种提高系统自适应能力的方法和视联网系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910341142.7A CN110087107B (zh) 2019-04-25 2019-04-25 一种提高系统自适应能力的方法和视联网系统

Publications (2)

Publication Number Publication Date
CN110087107A CN110087107A (zh) 2019-08-02
CN110087107B true CN110087107B (zh) 2022-01-14

Family

ID=67416926

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910341142.7A Active CN110087107B (zh) 2019-04-25 2019-04-25 一种提高系统自适应能力的方法和视联网系统

Country Status (1)

Country Link
CN (1) CN110087107B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114424510B (zh) * 2019-09-06 2024-02-09 埃尔森有限公司 用于密集视频处理的分布式计算系统
CN115134227A (zh) * 2022-06-17 2022-09-30 京东科技信息技术有限公司 用于维护服务器的方法和装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105681217A (zh) * 2016-04-27 2016-06-15 深圳市中润四方信息技术有限公司 用于容器集群的动态负载均衡方法及系统
CN109617766A (zh) * 2019-01-11 2019-04-12 视联动力信息技术股份有限公司 一种心跳处理方法和装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100807817B1 (ko) * 2004-12-17 2008-02-27 엔에이치엔(주) 버스형 네트워크 구조의 통신 네트워크 시스템에서서브시스템 사이의 로드를 조절하는 방법
CN101729672B (zh) * 2009-11-10 2013-01-16 中兴通讯股份有限公司 多功能移动设备的管理方法和系统
CN106790595B (zh) * 2016-12-29 2020-12-22 上海理想信息产业(集团)有限公司 一种Docker容器主动负载均衡装置及方法
US20190005551A1 (en) * 2017-06-28 2019-01-03 Doron Aviad Method and system for customized electronic communications
CN107800779B (zh) * 2017-09-30 2020-09-29 北京京东尚科信息技术有限公司 优化负载均衡的方法及系统
CN108965226B (zh) * 2017-12-21 2020-11-13 视联动力信息技术股份有限公司 一种基于视联网的数据获取方法及装置
CN109120946B (zh) * 2018-08-27 2021-05-11 视联动力信息技术股份有限公司 收看直播的方法和装置
CN109672857B (zh) * 2018-11-14 2021-05-14 视联动力信息技术股份有限公司 监控资源的信息处理方法和装置
CN109587071B (zh) * 2018-11-30 2022-07-05 北京工业大学 基于sdn的微服务负载均衡方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105681217A (zh) * 2016-04-27 2016-06-15 深圳市中润四方信息技术有限公司 用于容器集群的动态负载均衡方法及系统
CN109617766A (zh) * 2019-01-11 2019-04-12 视联动力信息技术股份有限公司 一种心跳处理方法和装置

Also Published As

Publication number Publication date
CN110087107A (zh) 2019-08-02

Similar Documents

Publication Publication Date Title
CN109617956B (zh) 一种数据处理方法和装置
CN109462753B (zh) 一种视联网多会议测试系统和方法
CN111193788A (zh) 一种音视频流负载均衡方法和装置
CN110381030B (zh) 一种同步请求的处理方法及装置
CN110602039A (zh) 一种数据获取方法和系统
CN110460469B (zh) 一种系统升级方法、装置和存储介质
CN110557319B (zh) 一种基于视联网的报文处理方法及装置
CN110087107B (zh) 一种提高系统自适应能力的方法和视联网系统
CN109347930B (zh) 一种任务处理方法和装置
CN111224889A (zh) 一种数据传输的方法和装置
CN110830826A (zh) 视频转码设备调度方法及系统
CN110730500B (zh) 一种终端入网方法、服务器、终端、电子设备及存储介质
CN110022500B (zh) 一种丢包处理方法和装置
CN109743360B (zh) 一种信息处理方法及装置
CN110830817A (zh) 视频转码容量调节方法及视频转码服务器
CN110267110B (zh) 一种基于视联网的并发点播处理方法和系统
CN110493311B (zh) 一种业务处理方法及装置
CN110222075B (zh) 一种响应数据查询的方法、视联网系统以及mserver系统
CN110062258B (zh) 一种视联网号码的分配方法和装置
CN110493555B (zh) 请求处理方法、用户终端、核心服务器、设备及存储介质
CN110166840B (zh) 一种业务处理方法、系统及装置
CN110266768B (zh) 一种数据传输方法和系统
CN110096854B (zh) 资源权限分享方法、装置及可读存储介质
CN109474848B (zh) 一种基于视联网的视频处理方法、装置、电子设备及介质
CN109379222B (zh) 一种比对核心服务器版本的方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant