CN112448848A - 一种基于微服务自动扩容方法 - Google Patents
一种基于微服务自动扩容方法 Download PDFInfo
- Publication number
- CN112448848A CN112448848A CN202011268446.4A CN202011268446A CN112448848A CN 112448848 A CN112448848 A CN 112448848A CN 202011268446 A CN202011268446 A CN 202011268446A CN 112448848 A CN112448848 A CN 112448848A
- Authority
- CN
- China
- Prior art keywords
- service
- micro
- services
- business
- capacity expansion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
- H04L41/0823—Configuration setting characterised by the purposes of a change of settings, e.g. optimising configuration for enhancing reliability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0876—Aspects of the degree of configuration automation
- H04L41/0886—Fully automatic configuration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Automation & Control Theory (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明涉及一种基于微服务自动扩容方法。本发明的架构和方法,实现了监控、自动扩容一套流程全自动,可以大大降低人员的维护,提高开发效率。服务链中的各个目标微服务均可实现自动扩容处理机制,当高并发数据量访问时,根据对数据流量点监控,业务端可自行配置多个服务之间的节点,数据能够实现资源的调配、自动扩容,采用这种机制能够大幅度降低数据流和各个目标微服务实体设备之间的传输时延,提高平台负载能力,高数据流量点访问系统平台,服务器不会出现宕机,整个平台不会跨掉,保证数据能够实时进入到数据库中,数据一致性。
Description
技术领域
本发明涉及一种自动扩容方法,尤其涉及一种基于微服务单体服务的自动扩容方法领域。
背景技术
微服务架构是采用单应用开发完整的系统服务,部署的服务均以各自的进程运行,采用通信协议机制,所创建的服务与业务紧密联系在一起,结合业务进行构建,通过容器进行独立部署和集中化管理。
华为技术有限公司申请了《自动扩容的方法、管理设备及系统》的发明专利,该专利所公开的技术方案中,在新节点加入时,接收来自节点管理服务器的已加入的管理节点信息,所述已加入的管理节点信息至少包括已加入的管理节点的地址信息;利用所述已加入的管理节点的地址信息获取ID段连续的索引;发送所述新节点的加入消息到所有已加入的管理节点,所述加入消息中至少包含所述新节点所管理的连续的ID段和所述新节点的地址信息。
上述发明专利存在以下问题及缺点:虽讲了自动扩容的方法,通过节点地址信息的方式来进行实现,整个流程适合单系统的应用环境,形式上比较单一,业务模块没有单独化部署,整个流程没有全自动的部署,倘若遭遇了高数据流量点访问系统平台,服务器容易出现宕机,整个平台就会瞬间跨掉。
发明内容
本发明的目的是:能够根据用户端操作请求进行实时的监控,实现自动扩容服务器资源,从而保证在业务端能够实时、高速地处理处理业务端操作请求,解决单集群应用资源不足、容易出现宕机等问题,提高平台自身整体的性能。
为了达到上述目的,本发明的技术方案是提供了一种基于微服务自动扩容方法,其特征在于,包括以下步骤:
步骤1、用户在前端对相应的业务模块执行相关的操作从而产生操作请求;
步骤2、前端将操作请求发送给后端,后端依据业务逻辑对接收到的操作请求进行分析,获得响应该操作请求所需要调用的所有N个业务微服务,N≥1,向该N个业务微服务发出调用请求,请求对应的业务微服务完成对相关业务逻辑的处理操作,以响应前端发出的操作请求;将向一个业务微服务发出的一个上述调用请求定义为一个数据点;
步骤3、对数据点流量进行监控,判断某个业务微服务是否被高并发数据点访问:若是,则当前的业务微服务为目标业务微服务,先进入步骤4完全目标业务微服务的自动扩容后再进入步骤5;若不是,则进入步骤5;
步骤4、对目标业务微服务进行自动扩容处理包括以下内容:
将目标业务微服务中的服务接口打包部署成新的单体服务,新的单体服务通过网关进行向Eureka注册,将新的单体服务映射出来的服务地址与目标业务微服务的服务地址建立链接关系,由新的单体服务独立对外提供服务支撑,被数据点访问;
步骤5、服务器集群依据引流策略对数据点进行引流,使得相应的业务微服务被调用,被调用的各个业务微服务之间相互调度协调工作在服务器集群上并发处理操作请求,在此过程中,读取数据库中的相关数据完成相关操作,进行相关操作后产生的数据一方面在前端向用户进行展示,另外一方面存入数据库中。
优选地,步骤3中,判断某个业务微服务是否被高并发数据点访问采用以下步骤:
记录每个业务微服务被数据点请求调用的频率及次数,若频率及次数均大于预先设定的上限值,则判断当前的业务微服务被高并发数据点访问,否则判断当前的业务微服务未被高并发数据点访问。
优选地,步骤5中,所述引流策略包括:
随机策略:后端依据负载将服务器集群中的相关服务器配置为主服务器节点,随机选择主服务器节点对业务微服务的任务调度进行处理;
权重因子策略:将可能存在访问比较高的业务微服务配置权重因子,打包进行部署,服务器资源择先分配资源进行权重因子较高的业务微服务进行任务调度;
择优选择策略:当高并发数据点进行访问时,服务调度资源根据当前服务器集群各台服务器闲置情况,择优选择一台服务器资源进行任务处理;
服务器集群从上述三个引流策略中选择一个引流策略对数据点进行引流。
本发明通过全自动部署机制能够根据业务的需求,增加对单个服务或者多个服务的资源,实现针对高并发数据访问实时处理效率的问题,通过对服务接口自动化部署,将各个服务之间紧密的联系在一起,多个服务之间相互协调、调度进行任务处理。
与现有技术相比,本发明具有如下有益效果:本发明的架构和方法,实现了监控、自动扩容一套流程全自动,可以大大降低人员的维护,提高开发效率。服务链中的各个目标微服务均可实现自动扩容处理机制,当高并发数据量访问时,根据对数据流量点监控,业务端可自行配置多个服务之间的节点,数据能够实现资源的调配、自动扩容,采用这种机制能够大幅度降低数据流和各个目标微服务实体设备之间的传输时延,提高平台负载能力,高数据流量点访问系统平台,服务器不会出现宕机,整个平台不会跨掉,保证数据能够实时进入到数据库中,数据一致性。
附图说明
图1为自动扩容方法架构图;
图2为数据分流业务图;
图3为自动扩容方法流程图。
具体实施方式
下面结合具体实施例,进一步阐述本发明。应理解,这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解,在阅读了本发明讲授的内容之后,本领域技术人员可以对本发明作各种改动或修改,这些等价形式同样落于本申请所附权利要求书所限定的范围。
本发明提供了一种基于微服务自动扩容方法,包括以下步骤:
步骤1、用户在前端对相应的业务模块执行相关的操作从而产生操作请求;
步骤2、前端将操作请求发送给后端,后端依据业务逻辑对接收到的操作请求进行分析,获得响应该操作请求所需要调用的所有N个业务微服务,N≥1,向该N个业务微服务发出调用请求,请求对应的业务微服务完成对相关业务逻辑的处理操作,以响应前端发出的操作请求;将向一个业务微服务发出的一个上述调用请求定义为一个数据点;
步骤3、对数据点流量进行监控,判断某个业务微服务是否被高并发数据点访问:若是,则当前的业务微服务为目标业务微服务,先进入步骤4完全目标业务微服务的自动扩容后再进入步骤5;若不是,则进入步骤5;
本步骤中,判断某个业务微服务是否被高并发数据点访问采用以下步骤:
记录每个业务微服务被数据点请求调用的频率及次数,若频率及次数均大于预先设定的上限值,则判断当前的业务微服务被高并发数据点访问,否则判断当前的业务微服务未被高并发数据点访问;
步骤4、对目标业务微服务进行自动扩容处理包括以下内容:
将目标业务微服务中的服务接口打包部署成新的单体服务,新的单体服务通过网关进行向Eureka注册,将新的单体服务映射出来的服务地址与目标业务微服务的服务地址建立链接关系,由新的单体服务独立对外提供服务支撑,被数据点访问;
步骤5、服务器集群依据引流策略对数据点进行引流,使得相应的业务微服务被调用。引流策略包括:随机策略:后端依据负载将服务器集群中的相关服务器配置为主服务器节点,随机选择主服务器节点对业务微服务的任务调度进行处理;权重因子策略:将可能存在访问比较高的业务微服务配置权重因子,打包进行部署,服务器资源择先分配资源进行权重因子较高的业务微服务进行任务调度;择优选择策略:当高并发数据点进行访问时,服务调度资源根据当前服务器集群各台服务器闲置情况,择优选择一台服务器资源进行任务处理;服务器集群从上述三个引流策略中选择一个引流策略对数据点进行引流。
被调用的各个业务微服务之间相互调度协调工作在服务器集群上并发处理操作请求,在此过程中,读取数据库中的相关数据完成相关操作,进行相关操作后产生的数据一方面在前端向用户进行展示,另外一方面存入数据库中。
当业务微服务进行链路调用时,服务器确定待调用的业务微服务的名称,并从注册中心服务中获取服务注册表。服务器根据待调用的业务微服务的名称从服务注册表中获取多个预置微服务实例的网络协议地址,多个待调用的预置微服务实例属于相同的业务微服务。服务器从预置配置文件中确定多个预置微服务实例对应的区域标识。
本发明可以基于目标服务链中各个目标微服务实体设备的负载信息和各个目标微服务实体设备之间的传输时延确定目标服务链的业务处理信息,实现全自动将单个服务接口进行打包部署,向注册中心进行注册,暴露出接口,对外提供服务,并根据目标服务链的业务处理信息生成部署更新配置,按照部署更新配置调整目标服务链上的目标微服务实体设备的部署位置。在对目标微服务实体设备的部署位置进行调整的过程中,可以结合各个目标微服务实体设备之间的负载情况和各个目标微服务实体设备之间的传输时延对目标微服务实体设备的部署进行自适应的灵活调整,有利于降低部署调整后的目标服务链的业务响应时间。
Claims (3)
1.一种基于微服务自动扩容方法,其特征在于,包括以下步骤:
步骤1、用户在前端对相应的业务模块执行相关的操作从而产生操作请求;
步骤2、前端将操作请求发送给后端,后端依据业务逻辑对接收到的操作请求进行分析,获得响应该操作请求所需要调用的所有N个业务微服务,N≥1,向该N个业务微服务发出调用请求,请求对应的业务微服务完成对相关业务逻辑的处理操作,以响应前端发出的操作请求;将向一个业务微服务发出的一个上述调用请求定义为一个数据点;
步骤3、对数据点流量进行监控,判断某个业务微服务是否被高并发数据点访问:若是,则当前的业务微服务为目标业务微服务,先进入步骤4完全目标业务微服务的自动扩容后再进入步骤5;若不是,则进入步骤5;
步骤4、对目标业务微服务进行自动扩容处理包括以下内容:
将目标业务微服务中的服务接口打包部署成新的单体服务,新的单体服务通过网关进行向Eureka注册,将新的单体服务映射出来的服务地址与目标业务微服务的服务地址建立链接关系,由新的单体服务独立对外提供服务支撑,被数据点访问;
步骤5、服务器集群依据引流策略对数据点进行引流,使得相应的业务微服务被调用,被调用的各个业务微服务之间相互调度协调工作在服务器集群上并发处理操作请求,在此过程中,读取数据库中的相关数据完成相关操作,进行相关操作后产生的数据一方面在前端向用户进行展示,另外一方面存入数据库中。
2.如权利要求1所述的一种基于微服务自动扩容方法,其特征在于,步骤3中,判断某个业务微服务是否被高并发数据点访问采用以下步骤:
记录每个业务微服务被数据点请求调用的频率及次数,若频率及次数均大于预先设定的上限值,则判断当前的业务微服务被高并发数据点访问,否则判断当前的业务微服务未被高并发数据点访问。
3.如权利要求1所述的一种基于微服务自动扩容方法,其特征在于,步骤5中,所述引流策略包括:
随机策略:后端依据负载将服务器集群中的相关服务器配置为主服务器节点,随机选择主服务器节点对业务微服务的任务调度进行处理;
权重因子策略:将可能存在访问比较高的业务微服务配置权重因子,打包进行部署,服务器资源择先分配资源进行权重因子较高的业务微服务进行任务调度;
择优选择策略:当高并发数据点进行访问时,服务调度资源根据当前服务器集群各台服务器闲置情况,择优选择一台服务器资源进行任务处理;
服务器集群从上述三个引流策略中选择一个引流策略对数据点进行引流。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011268446.4A CN112448848A (zh) | 2020-11-13 | 2020-11-13 | 一种基于微服务自动扩容方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011268446.4A CN112448848A (zh) | 2020-11-13 | 2020-11-13 | 一种基于微服务自动扩容方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112448848A true CN112448848A (zh) | 2021-03-05 |
Family
ID=74737871
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011268446.4A Pending CN112448848A (zh) | 2020-11-13 | 2020-11-13 | 一种基于微服务自动扩容方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112448848A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113485830A (zh) * | 2021-07-01 | 2021-10-08 | 广东电网有限责任公司 | 一种电网监控系统微服务自动扩容方法 |
CN114125035A (zh) * | 2021-09-27 | 2022-03-01 | 烽火通信科技股份有限公司 | 一种大规模扩容场景下服务注册方法与装置 |
CN115484273A (zh) * | 2022-09-02 | 2022-12-16 | 深圳市思为软件技术有限公司 | 数据传输的缩扩容方法及相关装置 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106506605A (zh) * | 2016-10-14 | 2017-03-15 | 华南理工大学 | 一种基于微服务架构的SaaS应用构建方法 |
CN108712464A (zh) * | 2018-04-13 | 2018-10-26 | 中国科学院信息工程研究所 | 一种面向集群微服务高可用的实现方法 |
CN108833462A (zh) * | 2018-04-13 | 2018-11-16 | 中国科学院信息工程研究所 | 一种面向微服务的自注册服务发现的系统及方法 |
CN110149396A (zh) * | 2019-05-20 | 2019-08-20 | 华南理工大学 | 一种基于微服务架构的物联网平台构建方法 |
CN110149397A (zh) * | 2019-05-20 | 2019-08-20 | 湖北亿咖通科技有限公司 | 一种微服务整合方法和装置 |
CN111459681A (zh) * | 2020-04-07 | 2020-07-28 | 上海熙菱信息技术有限公司 | 一种基于微服务负载的动态弹性伸缩方法 |
CN111752965A (zh) * | 2020-05-29 | 2020-10-09 | 南京南瑞继保电气有限公司 | 一种基于微服务的实时数据库数据交互方法和系统 |
-
2020
- 2020-11-13 CN CN202011268446.4A patent/CN112448848A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106506605A (zh) * | 2016-10-14 | 2017-03-15 | 华南理工大学 | 一种基于微服务架构的SaaS应用构建方法 |
CN108712464A (zh) * | 2018-04-13 | 2018-10-26 | 中国科学院信息工程研究所 | 一种面向集群微服务高可用的实现方法 |
CN108833462A (zh) * | 2018-04-13 | 2018-11-16 | 中国科学院信息工程研究所 | 一种面向微服务的自注册服务发现的系统及方法 |
CN110149396A (zh) * | 2019-05-20 | 2019-08-20 | 华南理工大学 | 一种基于微服务架构的物联网平台构建方法 |
CN110149397A (zh) * | 2019-05-20 | 2019-08-20 | 湖北亿咖通科技有限公司 | 一种微服务整合方法和装置 |
CN111459681A (zh) * | 2020-04-07 | 2020-07-28 | 上海熙菱信息技术有限公司 | 一种基于微服务负载的动态弹性伸缩方法 |
CN111752965A (zh) * | 2020-05-29 | 2020-10-09 | 南京南瑞继保电气有限公司 | 一种基于微服务的实时数据库数据交互方法和系统 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113485830A (zh) * | 2021-07-01 | 2021-10-08 | 广东电网有限责任公司 | 一种电网监控系统微服务自动扩容方法 |
CN114125035A (zh) * | 2021-09-27 | 2022-03-01 | 烽火通信科技股份有限公司 | 一种大规模扩容场景下服务注册方法与装置 |
CN114125035B (zh) * | 2021-09-27 | 2023-08-08 | 烽火通信科技股份有限公司 | 一种大规模扩容场景下服务注册方法与装置 |
CN115484273A (zh) * | 2022-09-02 | 2022-12-16 | 深圳市思为软件技术有限公司 | 数据传输的缩扩容方法及相关装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112448848A (zh) | 一种基于微服务自动扩容方法 | |
CN113448721A (zh) | 算力处理的网络系统及算力处理方法 | |
CN106330576A (zh) | 容器化微服务自动伸缩及迁移调度的方法、系统和设备 | |
WO2019001092A1 (zh) | 负载均衡引擎,客户端,分布式计算系统以及负载均衡方法 | |
CN113342478B (zh) | 资源管理方法、设备、网络系统及存储介质 | |
CN100367217C (zh) | 支持大量间歇使用的应用集群的方法和系统 | |
CN104283948A (zh) | 服务器集群系统及其负载均衡实现方法 | |
CN109618002A (zh) | 一种微服务网关优化方法、装置及存储介质 | |
CN113301102A (zh) | 资源调度方法、设备、边缘云网络、程序产品及存储介质 | |
CN111625354A (zh) | 一种边缘计算设备算力的编排方法及其相关设备 | |
CN101257406B (zh) | 网元发现方法和系统 | |
CN102045197A (zh) | 一种告警数据的同步方法及网管系统 | |
CN110519348A (zh) | 一种多服务分布式集群部署系统及方法 | |
CN105681216A (zh) | Nfv架构下网络业务接入控制和负载均衡的系统及方法 | |
CN115002681A (zh) | 一种算力感知网络及其使用方法、存储介质 | |
CN107426323A (zh) | 一种基于分布式的资源服务与可视化监控系统及方法 | |
CN115002862A (zh) | 算力处理的网络系统、业务处理方法及算力网元节点 | |
CN112994937A (zh) | 智融标识网络中虚拟cdn的部署与迁移系统 | |
CN109600760A (zh) | 网络管理方法、设备及系统 | |
US20220350637A1 (en) | Virtual machine deployment method and related apparatus | |
CN106385330A (zh) | 一种网络功能虚拟化编排器的实现方法及装置 | |
CN115915404A (zh) | 一种基于nfv-mano的网络切片部署系统和方法 | |
CN107343012A (zh) | 视频存储系统及其视频数据发送方法 | |
CN111913784A (zh) | 任务调度方法及装置、网元、存储介质 | |
CN100484014C (zh) | 智能网中的分布式集群业务管理系统及业务管理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210305 |
|
RJ01 | Rejection of invention patent application after publication |