CN102323897B - 一种平台内部业务处理和负载均衡的方法 - Google Patents

一种平台内部业务处理和负载均衡的方法 Download PDF

Info

Publication number
CN102323897B
CN102323897B CN 201110126364 CN201110126364A CN102323897B CN 102323897 B CN102323897 B CN 102323897B CN 201110126364 CN201110126364 CN 201110126364 CN 201110126364 A CN201110126364 A CN 201110126364A CN 102323897 B CN102323897 B CN 102323897B
Authority
CN
China
Prior art keywords
business
platform
data
virtual processor
service
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN 201110126364
Other languages
English (en)
Other versions
CN102323897A (zh
Inventor
叶灿才
卢林发
黄家祺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ZHONGSHAN IKER DIGITAL TECHNOLOGY Co Ltd
Original Assignee
ZHONGSHAN IKER DIGITAL TECHNOLOGY Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ZHONGSHAN IKER DIGITAL TECHNOLOGY Co Ltd filed Critical ZHONGSHAN IKER DIGITAL TECHNOLOGY Co Ltd
Priority to CN 201110126364 priority Critical patent/CN102323897B/zh
Publication of CN102323897A publication Critical patent/CN102323897A/zh
Application granted granted Critical
Publication of CN102323897B publication Critical patent/CN102323897B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Computer And Data Communications (AREA)

Abstract

本发明属于信息技术领域,特别是一种平台内部业务处理和负载均衡的方法,适用于综合业务平台中,实现平台根据自身的处理能力和业务请求数量动态调节计算能力的分配和内部负载,其特征在于,该平台内部业务处理和负载均衡的方法至少包括;提供一个或一个以上的虚拟处理器,平台根据总的数据处理能力划分并经虚拟形成,虚拟处理器分布式处理输入的业务数据;提供虚拟信道,根据平台的服务总线的数据通讯能力进行划分和虚拟而成,通过虚拟信道调节输入虚拟处理器的业务数据种类和顺序;提供信道分配模块,根据业务的优先级把经过业务数据分割模块分割的子服务或数据分配到各虚拟信道对应的队列中,使子服务或数据按照队列输入虚拟处理器接受处理以达到平台根据业务种类和数量来动态分配其计算能力。

Description

一种平台内部业务处理和负载均衡的方法
技术领域
本发明属于信息技术领域,特别是一种平台内部业务处理和负载均衡的方法。
背景技术
目前,随着信息技术和网络技术的发展,各行业都出现了通过网络实现的综合业务平台,如政综合业务信息平台、电子政务平台、数字医疗互动平台等等。综合业务平台普遍存在如下特点:1、对接的系统比较多,实现通过网络实现某一主题的资源共享;2、业务种类比较多,涵盖该领域或行业的主要业务;3、协同度高,实现多业务整合应用;4、标准化程度高,支持分级管理,方便实现与其他系统无缝接口。
基于综合业务平台业务上述的特点,平台经常面临着负载大,服务动态的、科学的处理各种业务需求,动态的均衡平台负载。平台负载均衡问题,往往直接关系着平台的稳定性和服务质量。平台负载均衡一方面可以通过外部增加设备来进行数据通讯控制,另一方面更可以通过平台自身的结构、架构设计、业务处理机制等方面进行。如中国专利ZL200810000833.2(负载均衡调度方法和装置)提供了一种负载均衡调度方法和装置,其中,该方法包括以下步骤:步骤一,启动周期运行的负载均衡监控模块来监控多处理器系统中各个处理单元的任务优先级的分布,并且当监控到各个处理单元的任务优先级的分布不均衡且任务优先级的分布的最大差值超过预设阈值时,负载均衡监控模块确定源处理单元、目的处理单元、和所要执行的任务调度的优先级,并向相关负载均衡处理模块均发起负载均衡调度消息;以及步骤二,在接收到负载均衡调度消息后,相关负载均衡处理模块根据各个处理单元的任务优先级的分布以及各个处理单元之间的关系来执行任务调度,从而使对称多处理器系统中的各处理单元上任务负荷达到均衡。负载均衡的解决涉及到多方面,需要从不同角度进行突破。
发明内容
本发明的目的提出一种平台内部业务处理和负载均衡的方法,该方法提供一种不用于现有技术的平台内部计算能力分配机制和内部负载均衡的技术手段。
一种平台内部业务处理和负载均衡的方法,适用于综合业务平台中,实现平台根据自身的处理能力和业务请求数量动态调节计算能力的分配和内部负载,其特征在于,该平台内部业务处理和负载均衡的方法至少包括;
1)、提供一个或一个以上的虚拟处理器,平台根据总的数据处理能力划分并经虚拟形成,虚拟处理器分布式处理输入的业务数据;
2)、提供虚拟信道,根据平台的服务总线的数据通讯能力进行划分和虚拟而成,通过虚拟信道调节输入虚拟处理器的业务数据种类和顺序;
3)、提供业务识别和标识模块,将不同节点的业务及数据进行识别,并添加平台内部能识别的标识;
4)、提供业务数据分割模块,将来自业务识别和标识模块的服务或数据进行分割,被分割的子服务或数据保留原来标识;
5)、提供信道分配模块,根据业务的优先级把经过业务数据分割模块分割的子服务或数据分配到各虚拟信道对应的队列中,使子服务或数据按照队列输入虚拟处理器接受处理以达到平台根据业务种类和数量来动态分配其计算能力。
上所述的与虚拟处理器连通的虚拟信道包括一个主虚拟信道、一个或一个以上的副虚拟信道;主虚拟信道用于与该虚拟处理器对应业务的数据优先通讯;副虚拟信道动态分配用于对应业务或其它业务的数据通讯。
上所述的虚拟处理器为平台根据业务节点数量而动态划分和形成。
上所述的方法还提供一平台业务中心控制模块,其控制虚拟处理器的划分与形成,控制各模块的工作,同时将来自虚拟处理器的数据进行组合并通过业务接口输出至各业务节点的系统。
更进一步,所述的业务识别和标识模块输出的业务及数据,其标识包括业务在平台处理的优先级信息。
综上所述的方法,它具有如下显著特点和进步:
1.提出一种平台根据业务节点数量而动态划分和虚拟形成虚拟处理器的新技术手段;
2.提出一种通过控制根据平台的服务总线的数据通讯能力进行划分和虚拟而成虚拟信道,通过虚拟信道调节输入虚拟处理器的业务数据种类和顺序进而达到平台计算能力的分配和内部负载动态调节的新技术手段;
3.虚拟信道包括一个主虚拟信道、一个或一个以上的副虚拟信道;主虚拟信道用于与该虚拟处理器对应业务的数据优先通讯;副虚拟信道动态分配用于对应业务或其它业务的数据通讯,可以结合各种算法,达到更复杂和精确的内部业务负载调节。
附图说明
图1是发明涉及的平台整体结构示意图;
图2是业务数据分割示意图;
图3是经分割的服务元或数据元结构;
图4是发明涉及的平台应用示意图;
图5是发明涉及的平台示例的整体结构示意图;
图6是各虚拟信道对应的队列分配图。
具体实施方式
实施例
如图1所示,本发明方法涉及的综合平台结构,该综合平台至少提供一平台业务中心控制模块1、一个或一个以上虚拟处理器2、虚拟信道、信道分配模块4、业务数据分割模块5、业务识别和标识模块6和业务接口7,其中:
业务接口7,用于与不同业务节点的系统或应用服务系统的对接,实现业务所需数据的交互。业务节点是指某一与平台具有业务和数据交换软件系统及实现该软件系统所需要的服务器/集群、数据库等。下面将以数字医疗互动平台来说明。其中数字医疗互动平台的详细原理和作用可以参考中国专200920060422.2(数字医疗互动平台),它一方面与不同医院的系统对接实现医院医疗数据资源的共享,同时提供各种远程医疗业务的接入支持,提供包括远程预约挂号、健康咨询、体检报告的远程查询等服务。其中不同医院的信息系统、接入平台的应用系统等都可以成为业务节点。业务接口7为这些业务节点的系统或应用服务系统提供统一的输入和输出接口。
业务识别和标识模块6,用于将不同节点的业务及数据进行识别,并添加平台各模块能识别的标识;标识方法可以通过根据业务节点的数量和种类形成编码表,并根据该编码表形成数据编码标识。其中,优选方案中,标识应包括服务优先级信息,信道分配模块4将可以根据该服务优先级信息进行分配虚拟信道进而使数据接受为一个或一个以上的虚拟处理器2处理。
业务数据分割模块5,用于将来自业务识别和标识模块的服务或数据进行分割,被分割的子服务或数据保留原来标识;
信道分配模块4,用于为各具有标识的已被分割的子服务或数据形成待分配的队列,并根据队列分配至各虚拟信道;
虚拟信道,用于连接信道分配模块于各虚拟处理器2,为子服务或数据输入虚拟处理器2进行处理提供通道;如图1,虚拟信道分为一个主虚拟信道31、一个或一个以上的副虚拟信道32;主虚拟信道31用于与该虚拟处理器2对应业务的数据优先通讯;副虚拟信道32动态分配用于对应业务或其它业务的数据通讯。其中每个虚拟处理器2至少具有一主虚拟信道31,副虚拟信道32可以为一个,或一个以上(优选方案为两个)。主虚拟信道31、副虚拟信道32将根据平台的服务总线的数据通讯能力进行划分和虚拟而成;每个信道具有相同的通讯能力。
虚拟处理器2,根据平台的数据处理能力划分并虚拟形成的具有独立处理能力的计算单元;用于为各种服务生成和数据的加工;虚拟处理器的形成可以根据现有技术,即虚拟机的原理实现。可以通过平台开发一种固定的模型,然后当需要增加或形成虚拟处理器时候,通过该算法模型和通过相应的模型和构件来实现。
平台业务中心控制模块1,用于控制虚拟处理器2的划分与形成,控制各模块的工作,同时将来自虚拟处理器的数据进行组成并通过业务接口输出至各业务节点的系统/应用系统。
实现内部业务处理和负载均衡的方法的关键步骤包括:
(1)平台根据其硬件参数(主要是CPU和内存相关的参数)评估其总的数据处理能力,然后根据数据处理能力和业务节点数量将数据处理能力划分为与业务节点数量相同的计算单元;每个计算单元经过算法、模型、构件等方法虚拟形成具有独立的计算能力的虚拟处理器;虚拟处理器之间受平台业务中心控制模块统一控制并实现互相之间的分布式协作处理。每个虚拟处理器对应一个业务节点。
(2)平台预先评估计算其自身服务总线的数据通讯能力,然后根据虚拟处理器的数量,将服务总线的数据通讯能力划分为若干单元,并将每单元的数据通讯能力虚拟成一个虚拟信道。其中,虚拟信道包括主虚拟信道、副虚拟信道。优选方案下,每个虚拟处理器对应一个主虚拟信道,而副虚拟信道可以为一个或一个以上,优为两个副虚拟信道。则假设业务节点数量为S,则虚拟处理器的数量为S,而虚拟信道总的数量为3*S,其中主虚拟信道为S,副虚拟信道为2*S。主虚拟信道用于与虚拟处理器对应的业务节点的业务数据通讯,而副虚拟信道则作为动态调节的通道,它既可以用于通讯与拟处理器对应的业务节点的业务数据通讯,同时也可以应用于其它业务数据通讯。
(3)平台通过业务接口,接收来自业务节点的业务请求及业务数据;
(4)平台的业务识别和标识模块,将来自业务接口的不同节点的业务及数据进行识别,并添加平台各模块能识别的标识。标识中包括业务在平台处理的优先级信息。
(5)平台的业务数据分割模块,将来自业务识别和标识模块的服务或数据进行分割,被分割的子服务或数据保留原来标识;参考图2,自业务识别和标识模块的服务或数据被划分为一个服务元或数据元。如图3,每个服务元或数据元都保留了ID标识,及在整个数据中的顺序和大小信息。
(6)平台的信道分配模块将所有服务元或数据元形成与每个虚拟信道对应的待通讯队列;队列数量为3*S。队列形成的基本原则是:一个虚拟信道对应一个队列;主虚拟信道对应的队列为其对应的虚拟处理器对应的业务节点的服务元或数据元队列;优先级别高的业务服务元或数据元分别排在各副虚拟信道前面;每副虚拟信道先用于传输优先级别高的业务服务元或数据元,等优先级别高业务数据传输完了后才安排较低级的业务服务元或数据元通讯;
(7)每个虚拟处理器在平台业务中心控制模块控制下,对来自虚拟信道的数据进行加工处理;处理过程中,互相之间遵循分布式处理机制,并受平台业务中心控制模块控制统一调控,并且虚拟处理器可以共享业务数据和实时通讯。
(8)平台业务中心控制模块对虚拟处理器处理结果进行综合,组合后形成成服务或数据输出至业务接口或执行各种动作或功能。
下面,将通过一个更具体的例子说明:
参考图4和5,假设本发明方法涉及的综合业务平台连接有三个业务节点,即医院1系统、医院2系统和预约挂号系统。其中医院1系统需要与综合业务平台进行的业务是医生排班数据的同步(简称Y1);医院2系统与综合业务平台进行的是药品电子支付业务(简称Y2);预约挂号系统与综合业务平台进行的是挂号业务(简称Y3)。则,如图5所示,综合业务平台内部应具有平台业务中心控制模块1和三个虚拟处理器2。三个虚拟处理器2分别对应并依次负责处理医院1系统、医院2系统和预约挂号系统的业务。即虚拟处理器A1对应医院1系统;虚拟处理器A2对应医院2系统;虚拟处理器A3对应预约挂号系统。图中,每个虚拟处理器2的虚拟信道具有一个主虚拟信道31、两个32副虚拟信道。总共有3个主虚拟信道31(表示为T1、T2、T3)和六个32副虚拟信道(D1、D2、D3…D6)。假设医生排班数据的同步业务、药品电子支付业务、挂号业务的在平台的服务优先级别从高到低分别为:Y2>Y1>Y3。即则平台进行三种业务负载均衡原理为:
首先业务识别和标识模块6识别来自三个业务节点的业务请求,同时把业务数据请求和数据进行标识;然后业务数据分割模块5,用于将来自业务识别和标识模块的服务或数据进行分割成子服务或子数据。分割方法可以按照各种分割算法把数据划分为相等或不等长度的数据包。每个数据包保留原来业务标识。信道分配模块根据分配机制进行子数据的信道分配。信道分配模块为各具有标识的已被分割的子服务或数据形成待分配的队列(每个虚拟信道对应一个队列),并根据子数据包分配至各虚拟信道。其中,由于平台的服务优先级别从高到低分别为:Y2>Y1>Y3,则Y2的子数据部分分配到主虚拟信道T2对应的队列;剩余部分则优先分配在副虚拟信道(D1、D2、D3…D6)队列的前端;Y1的子数据部分分配到主虚拟信道T1对应的队列上,剩余的分配在副虚拟信道(D1、D2、D3…D6)队列中间;而Y3的子数据部分分配到主虚拟信道T3对应的队列上,剩余的分配在副虚拟信道(D1、D2、D3…D6)队列末端(如下图6所示)。首先,虚拟处理器A2、虚拟处理器A1和A3通过信道(T2、D1、D2、D3…D6)处理Y2的数据即平台大部分计算能力用于处理Y2业务,同时虚拟处理器A1通过信道(T1)处理Y1部分的数据、虚拟处理器A3通过信道(T3)处理Y3部分数据,即平台部分计算能力同时也在处理Y1、Y3业务。这样一方面均衡的综合业务平台内部的负载,同时也科学分配了平台的计算能力,提高了平台综合业务的处理能力和业务体验的速率。

Claims (5)

1.一种平台内部业务处理和负载均衡的方法,适用于综合业务平台中,实现平台根据自身的处理能力和业务请求数量动态调节计算能力的分配和内部负载,其特征在于,该平台内部业务处理和负载均衡的方法至少包括;
1)、提供一个或一个以上的虚拟处理器,由平台根据总的数据处理能力划分并经虚拟形成,虚拟处理器分布式处理输入的业务数据;
2)、提供虚拟信道,根据平台的服务总线的数据通讯能力进行划分和虚拟而成,通过虚拟信道调节输入虚拟处理器的业务数据种类和顺序;
3)、提供业务识别和标识模块,将不同节点的业务及数据进行识别,并添加平台内部能识别的标识;
4)、提供业务数据分割模块,将来自业务识别和标识模块的业务或数据进行分割,服务分割得到的子服务或数据保留原来标识;
5)、提供信道分配模块,根据业务的优先级把经过业务数据分割模块分割得到的子服务或数据分配到各虚拟信道对应的队列中,使子服务或数据按照队列输入虚拟处理器接受处理以达到平台根据业务种类和数量来动态分配其计算能力。
2.如权利要求1所述的平台内部业务处理和负载均衡的方法,其特征在于,虚拟信道还用于连接信道分配模块于各虚拟处理器,为子服务或数据输入虚拟处理器进行处理提供通道;与每个虚拟处理器连通的虚拟信道分为一个主虚拟信道、一个或一个以上的副虚拟信道;主虚拟信道用于与与其连通的虚拟处理器对应业务的数据优先通讯。
3.如权利要求2所述的平台内部业务处理和负载均衡的方法,其特征在于,所述的虚拟处理器为平台根据业务节点数量而动态划分和形成。
4.如权利要求3所述的平台内部业务处理和负载均衡的方法,其特征在于,还提供一平台业务中心控制模块,其控制虚拟处理器的划分与形成,控制各模块的工作,同时将来自虚拟处理器的数据进行组合并通过业务接口输出至各业务节点的系统。
5.如权利要求4所述的平台内部业务处理和负载均衡的方法,其特征在于,所述的业务识别和标识模块输出的业务及数据,其标识包括业务在平台处理的优先级信息。
CN 201110126364 2011-05-12 2011-05-12 一种平台内部业务处理和负载均衡的方法 Expired - Fee Related CN102323897B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN 201110126364 CN102323897B (zh) 2011-05-12 2011-05-12 一种平台内部业务处理和负载均衡的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN 201110126364 CN102323897B (zh) 2011-05-12 2011-05-12 一种平台内部业务处理和负载均衡的方法

Publications (2)

Publication Number Publication Date
CN102323897A CN102323897A (zh) 2012-01-18
CN102323897B true CN102323897B (zh) 2013-06-12

Family

ID=45451642

Family Applications (1)

Application Number Title Priority Date Filing Date
CN 201110126364 Expired - Fee Related CN102323897B (zh) 2011-05-12 2011-05-12 一种平台内部业务处理和负载均衡的方法

Country Status (1)

Country Link
CN (1) CN102323897B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB201405323D0 (en) * 2014-03-25 2014-05-07 Imagination Tech Ltd Prioritsing events to which a processor is to respond
CN108512922A (zh) * 2018-03-29 2018-09-07 重庆大学 一种设备运行工况数据的动态分布式处理方法
CN112235793A (zh) * 2020-10-16 2021-01-15 南京天华中安通信技术有限公司 一种多业务接入网系统及其控制方法
CN113365105B (zh) * 2021-06-30 2022-12-06 北京奇艺世纪科技有限公司 一种内容生产控制方法、装置、设备及存储介质
CN115412510B (zh) * 2022-10-31 2023-01-17 成都中科合迅科技有限公司 基于分布式框架业务灵活配置方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1202774A (zh) * 1997-06-10 1998-12-23 日本电气株式会社 异步传输模式通信设备
CN1885988A (zh) * 2006-06-13 2006-12-27 北京邮电大学 第三代移动通信系统网络层性能的动态仿真装置和方法
CN1954564A (zh) * 2004-05-19 2007-04-25 诺基亚公司 在电信系统中传送数据

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2527980A3 (en) * 2007-06-19 2013-01-09 VirtualLogix SA Load balancing

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1202774A (zh) * 1997-06-10 1998-12-23 日本电气株式会社 异步传输模式通信设备
CN1954564A (zh) * 2004-05-19 2007-04-25 诺基亚公司 在电信系统中传送数据
CN1885988A (zh) * 2006-06-13 2006-12-27 北京邮电大学 第三代移动通信系统网络层性能的动态仿真装置和方法

Also Published As

Publication number Publication date
CN102323897A (zh) 2012-01-18

Similar Documents

Publication Publication Date Title
CN107534583B (zh) 在管理节点中实现的方法和相关装置
CN102323897B (zh) 一种平台内部业务处理和负载均衡的方法
CN109582448B (zh) 一种面向关键度和时效性的边缘计算任务调度方法
US11206193B2 (en) Method and system for provisioning resources in cloud computing
JP4995808B2 (ja) データネットワークを通して強化されたコンテンツ配信を行うための方法及び装置
Nan et al. Optimal resource allocation for multimedia cloud in priority service scheme
EP2269136B1 (en) Method, system and computer program for workload scheduling
CN108845874A (zh) 资源的动态分配方法及服务器
WO2021136137A1 (zh) 一种资源调度方法、装置及相关设备
CN103761146B (zh) 一种MapReduce动态设定slots数量的方法
CN106533806B (zh) 多租户SDN网络中基于应用感知提供跨层QoS的方法
CN107846371B (zh) 一种多媒体业务QoE资源分配方法
WO2020004380A1 (ja) 割当装置、システム、タスク割当方法及びプログラム
TW202127249A (zh) 異質叢集中之機器學習工作負載編排技術
EP3235224B1 (en) Resource allocation
CN111835849B (zh) 增强接入网服务能力的方法和装置
CN103812886B (zh) 计算机集群资源分配系统和方法
CN116032767A (zh) 一种面向智融标识网络的算力服务链管控系统架构
Cao et al. A deep reinforcement learning approach to multi-component job scheduling in edge computing
WO2022134809A1 (zh) 模型训练处理方法、装置、计算机设备及介质
CN102323896B (zh) 一种能根据业务节点数自动进行负载均衡的综合业务平台
Hou et al. Dynamic load balancing algorithm based on optimal matching of weighted bipartite graph
CN105208119A (zh) 一种云数据中心任务分配方法、装置和系统
WO2021262293A1 (en) Dynamic power capping of computing systems and subsystems contained therein
Guo et al. PARA: Performability‐aware resource allocation on the edges for cloud‐native services

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C53 Correction of patent of invention or patent application
CB02 Change of applicant information

Address after: 605 room 6, 528400 Xinhua Road, Zhongshan Town, Guangdong, China

Applicant after: ZHONGSHAN IKER DIGITAL TECHNOLOGY Co.,Ltd.

Address before: 605 room 6, 528400 Xinhua Road, Zhongshan Town, Guangdong, China

Applicant before: Zhongshan Iker Digital Technology Co.,Ltd.

COR Change of bibliographic data

Free format text: CORRECT: APPLICANT; FROM: ZHONGSHAN AIKE DIGITAL TECHNOLOGY CO., LTD. TO: ZHONGSHAN IKER DIGITAL TECHNOLOGY CO., LTD.

C14 Grant of patent or utility model
GR01 Patent grant
DD01 Delivery of document by public notice

Addressee: Yue Na

Document name: payment instructions

DD01 Delivery of document by public notice
DD01 Delivery of document by public notice

Addressee: Yue Na

Document name: payment instructions

DD01 Delivery of document by public notice
DD01 Delivery of document by public notice

Addressee: Yue Na

Document name: Notice of Termination of Patent Rights

DD01 Delivery of document by public notice
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20130612