CN109067869A - 云计算系统中微服务节点的管理方法和装置 - Google Patents

Abstract

本发明公开了一种云计算系统中微服务节点的管理方法和装置。所述方法包括：获取为各微服务节点配置的第一权值，其中所述第一权值用于控制分配到该微服务节点的微服务请求占全部微服务请求的比例信息；在处理所述第一权值对应的微服务请求过程中，获取所述各微服务节点的负载状态信息；根据所述各微服务节点的负载状态信息，对所述第一权值的数值进行调整，得到所述各微服务节点的第二权值；根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例。

Description

云计算系统中微服务节点的管理方法和装置

技术领域

本发明涉及信息处理领域，尤指一种云计算系统中微服务节点的管理方法和装置。

背景技术

云计算(Cloud Computing)是基于互联网的相关服务的增加、使用和交付模式，通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。云是网络、互联网的一种比喻说法。过去在图中往往用云来表示电信网，后来也用来表示互联网和底层基础设施的抽象。因此，云计算甚至可以让你体验每秒10万亿次的运算能力，拥有这么强大的计算能力可以模拟核爆炸、预测气候变化和市场发展趋势。用户通过电脑、笔记本、手机等方式接入数据中心，按自己的需求进行运算。

对云计算的定义，现阶段广为接受的是美国国家标准与技术研究院定义：云计算是一种按使用量付费的模式，这种模式提供可用的、便捷的、按需的网络访问，进入可配置的计算资源共享池，其中资源包括网络、服务器、存储、应用软件和服务等，这些资源能够被快速提供，只需投入很少的管理工作，或与服务供应商进行很少的交互。在数据中心建设的初期主要是完成网络、计算、存储的搭建，构建统一的资源管理平台，完成资源的统一化管理和自主服务；在后续的发展过程中用户逐渐关注资源的真正使用情况，以便更好的规划资源和控制资源的使用。

在云计算时代，微服务架构已经应用于系统的开发和部署当中，微服务可以具备海量的节点程序提供服务。而海量节点所在的服务器环境不尽相同，导致每个节点可以承担的负载不同，传统的微服务请求分发，是轮询试分发或随机分发，无法根据微服务节点部署的具体环境调整分发策略，会导致部分微服务节点响应延迟。

发明内容

为了解决上述技术问题，本发明提供了一种云计算系统中微服务节点的管理方法和装置，实现动态调整微服务节点的微服务请求分发比例。

为了达到本发明目的，本发明提供了一种云计算系统中微服务节点的管理方法，包括：

获取为各微服务节点配置的第一权值，其中所述第一权值用于控制分配到该微服务节点的微服务请求占全部微服务请求的比例信息；

在处理所述第一权值对应的微服务请求过程中，获取所述各微服务节点的负载状态信息；

根据所述各微服务节点的负载状态信息，对所述第一权值的数值进行调整，得到所述各微服务节点的第二权值；

根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例。

其中，所述方法还具有如下特点：所述获取所述各微服务节点的负载状态信息，包括：

监控各微服务节点所在宿主机实时的运行性能信息，其中所述运行性能信息包括CPU的使用率、内存占用率以及响应时长中的至少一个；

根据所述运行性能信息，计算所述微服务节点的负载状态信息。

其中，所述方法还具有如下特点：所述根据所述各微服务节点的负载状态信息，对所述第一权值的数值进行调整，得到所述各微服务节点的第二权值，包括：

判断各微服务节点的负载状态信息是否超过预先设置的上限值；和/或，判断所述微服务节点的负载状态信息是否低于预先设置的下限值；

如果微服务节点的负载状态信息超过所述上限值，则减少所述微服务节点的第一权值，得到所述微服务节点的第二权值；和/或，如果微服务节点的负载状态信息低于所述下限值，则增大所述微服务节点的第一权值，得到所述微服务节点的第二权值。

其中，所述方法还具有如下特点：所述根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例，包括：

发送所述各微服务节点的第二权值到用于请求分发的处理中心，并通知所述处理中心按照所述各微服务节点的第二权值进行微服务请求进行分发。

其中，所述方法还具有如下特点：所述根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例之后，所述方法还包括：

记录各微服务节点所在宿主机的资源信息和权值的对应关系；

在检测到有新增的微服务节点后，根据所述对应关系，查询所述新增的的微服务节点所在宿主机的资源信息对应的权值，得到查询结果；

根据所述查询结果，为所述微服务节点设置对应的权值信息。

一种云计算系统中微服务节点的管理装置，包括：

第一获取模块，用于获取为各微服务节点配置的第一权值，其中所述第一权值用于控制分配到该微服务节点的微服务请求占全部微服务请求的比例信息；

第二获取模块，用于在处理所述第一权值对应的微服务请求过程中，获取所述各微服务节点的负载状态信息；

调整模块，用于根据所述各微服务节点的负载状态信息，对所述第一权值的数值进行调整，得到所述各微服务节点的第二权值；

控制模块，用于根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例。

其中，所述装置还具有如下特点：所述第二获取模块包括：

监控单元，用于监控各微服务节点所在宿主机实时的运行性能信息，其中所述运行性能信息包括CPU的使用率、内存占用率以及响应时长中的至少一个；

计算单元，用于根据所述运行性能信息，计算所述微服务节点的负载状态信息。

其中，所述装置还具有如下特点：所述调整模块包括：

判断单元，用于判断各微服务节点的负载状态信息是否超过预先设置的上限值；和/或，判断所述微服务节点的负载状态信息是否低于预先设置的下限值；

调整单元，用于如果微服务节点的负载状态信息超过所述上限值，则减少所述微服务节点的第一权值，得到所述微服务节点的第二权值；和/或，如果微服务节点的负载状态信息低于所述下限值，则增大所述微服务节点的第一权值，得到所述微服务节点的第二权值。

其中，所述装置还具有如下特点：所述控制模块包括：

发送单元，用于发送所述各微服务节点的第二权值到用于请求分发的处理中心；

通知单元，用于通知所述处理中心按照所述各微服务节点的第二权值进行微服务请求进行分发。

其中，所述装置还具有如下特点：所述装置还包括：

记录模块，用于在根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例之后，记录各微服务节点所在宿主机的资源信息和权值的对应关系；

查询模块，用于在检测到有新增的微服务节点后，根据所述对应关系，查询所述新增的的微服务节点所在宿主机的资源信息对应的权值，得到查询结果；

设置模块，用于根据所述查询结果，为所述微服务节点设置对应的权值信息。

本发明提供的实施例，在处理第一权值对应的微服务请求过程中，获取所述各微服务节点的负载状态信息，并根据负载状态信息调整各微服务节点配置的第一权值，得到所述各微服务节点的第二权值，再根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例，实现根据微服务节点部署的具体环境调整分发，保证微服务节点响应稳定，提升系统资源的利用率。

本发明的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点可通过在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。

附图说明

附图用来提供对本发明技术方案的进一步理解，并且构成说明书的一部分，与本申请的实施例一起用于解释本发明的技术方案，并不构成对本发明技术方案的限制。

图1为本发明提供的云计算系统中微服务节点的管理方法的流程图；

图2为本发明提供的微服务架构下微服务节点动态负载均衡的方法流程图；

图3为本发明提供的云计算系统中微服务节点的管理装置的结构图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，下文中将结合附图对本发明的实施例进行详细说明。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互任意组合。

在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行。并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

图1为本发明提供的云计算系统中微服务节点的管理方法的流程图。图1所示方法包括：

步骤101、获取为各微服务节点配置的第一权值，其中所述第一权值用于控制分配到该微服务节点的微服务请求占全部微服务请求的比例信息；

步骤102、在处理所述第一权值对应的微服务请求过程中，获取所述各微服务节点的负载状态信息；

步骤103、根据所述各微服务节点的负载状态信息，对所述第一权值的数值进行调整，得到所述各微服务节点的第二权值；

步骤104、根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例。

本发明提供的方法实施例，在处理第一权值对应的微服务请求过程中，获取所述各微服务节点的负载状态信息，并根据负载状态信息调整各微服务节点配置的第一权值，得到所述各微服务节点的第二权值，再根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例，实现根据微服务节点部署的具体环境调整分发，保证微服务节点响应稳定，提升系统资源的利用率。

下面对本发明提供的方法实施例作进一步说明：

本发明提供的发明思路如下：

按照预先设置的时间策略，计，根据微服务节点所在的服务器环境中各资源使用情况，对各微服务节点进行权值的动态升降，得到各微服务节点对应的最新的权值，再根据各微服务节点对应的最新的权值，动态分配微服务请求到各个微服务节点，实现微服务节点的负载动态调整的目的，提高系统的可靠性。

在本发明提供的一个实施例中，获取所述各微服务节点的负载状态信息，包括：

监控各微服务节点所在宿主机实时的运行性能信息，其中所述运行性能信息包括CPU的使用率、内存占用率以及响应时长中的至少一个；

根据所述运行性能信息，计算所述微服务节点的负载状态信息。

具体的，在计算微服务节点的负载状态信息时，可以提前设置一个基准值，参考该基准值为微服务节点当前的运行性能进行负载状态的计算，例如设置权值为50的基准值，配置在权值为50时，上述运行性能信息对应的性能基准数值；可以基于上述基准数值以及获取到各性能参数的实时数值，得到该微服务节点的负载状态信息。

举例来说，可以设置CPU的使用率、内存使用率和响应时长共三个维度，其中每个维度有配置的评分规则，在最终计算负载状态时，根据上述三个维度的重要性，设置对应的比例信息；以CPU利用率为例，预先设置CPU利用率的基准值，设置与该基准值有不同差值的利用率对应的分数，在得到CPU的使用率后，计算该实时值与基准值的差值，再利用差值与分数的对应关系，计算当前得到的差值对应的分数；同理，可以得到其他三个维度的分数。在得到上述分数后，在根据预先记录的比例，计算得到该微服务节点所在的负载状态信息。

通过上述方式，可以精确地计算得到微服务节点的负载状态，为后续调整该微服务节点的权值提供数据依据。

在本发明提供的一个实施例中，根据所述各微服务节点的负载状态信息，对所述第一权值的数值进行调整，得到所述各微服务节点的第二权值，包括：

判断各微服务节点的负载状态信息是否超过预先设置的上限值；和/或，判断所述微服务节点的负载状态信息是否低于预先设置的下限值；

如果微服务节点的负载状态信息超过所述上限值，则减少所述微服务节点的第一权值，得到所述微服务节点的第二权值；和/或，如果微服务节点的负载状态信息低于所述下限值，则增大所述微服务节点的第一权值，得到所述微服务节点的第二权值。

具体的，该实施例中所设置的上限值和/或下限值是用于判断该微服务节点的负载是否超载或轻载，通过上述判断结果可以动态调整该微服务节点的权值，实现动态调整负载的目的。其中，调整的权值的大小可以根据该微服务节点的负载状态进行调整，根据上文设置的基准权值对应的负载状态，调整微服务节点当前负载对应的权值。

在得到该微服务节点对应的最新权值后，需要控制该分发节点根据最新权值进行控制，其中所述根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例，包括：

发送所述各微服务节点的第二权值到用于请求分发的处理中心，并通知所述处理中心按照所述各微服务节点的第二权值进行微服务请求进行分发。

在本发明实施例中，在计算得到最新的权值后，将该最新的权值告知用于分发的节点，通知该节点根据该最新的权值进行消息的分发。

当然，在实际应用中，也可以将权值的计算和分发请求的功能集成在一个设备上完成。

随着动态调整微服务节点的权值的次数不断增多，系统会记录多次调整操作，依次在系统中增加有新的微服务节点时，可以参照之前积累的调整结果，在保证数据精确的前提下，进行自动调整。

具体来说，在根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例之后，所述方法还包括：

记录各微服务节点所在宿主机的资源信息和权值的对应关系；

在检测到有新增的微服务节点后，根据所述对应关系，查询所述新增的的微服务节点所在宿主机的资源信息对应的权值，得到查询结果；

根据所述查询结果，为所述微服务节点设置对应的权值信息。

具体的，为了方便设置微服务节点的权值，更好的分配系统中微服务节点的负载，利用已记录的对应关系，可以更快更精确的完成对微服务节点的配置，提高管理效率。

图2为本发明提供的微服务架构下微服务节点动态负载均衡的方法流程图。图2所示方法的具体实施过程如下：

步骤201、熔断器实时监控微服务节点的节点性能参数，包括响应时间，cpu、内存使用率以及和CPU使用量；

步骤202、熔断器从注册中心获取用户设置的基准值；

步骤203、熔断器根据基准值和监控数据，计算最新的权值；

步骤204、熔断器向注册中心发送新权值；

步骤205、注册中心根据权值进行请求分发。

本发明应用实例提供的方法，通过微服务架构下微服务节点熔断防护方法设计，实现了基于微服务节点的系统的可靠性提升。

图3为本发明提供的云计算系统中微服务节点的管理装置的结构图。结合图1和图2所示的方法，图3所示装置包括：

第一获取模块301，用于获取为各微服务节点配置的第一权值，其中所述第一权值用于控制分配到该微服务节点的微服务请求占全部微服务请求的比例信息；

第二获取模块302，用于在处理所述第一权值对应的微服务请求过程中，获取所述各微服务节点的负载状态信息；

调整模块303，用于根据所述各微服务节点的负载状态信息，对所述第一权值的数值进行调整，得到所述各微服务节点的第二权值；

控制模块304，用于根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例。

在本发明提供的一个装置实施例中，所述第二获取模块302包括：

监控单元，用于监控各微服务节点所在宿主机实时的运行性能信息，其中所述运行性能信息包括CPU的使用率、内存占用率以及响应时长中的至少一个；

计算单元，用于根据所述运行性能信息，计算所述微服务节点的负载状态信息。

在本发明提供的一个装置实施例中，所述调整模块303包括：

判断单元，用于判断各微服务节点的负载状态信息是否超过预先设置的上限值；和/或，判断所述微服务节点的负载状态信息是否低于预先设置的下限值；

调整单元，用于如果微服务节点的负载状态信息超过所述上限值，则减少所述微服务节点的第一权值，得到所述微服务节点的第二权值；和/或，如果微服务节点的负载状态信息低于所述下限值，则增大所述微服务节点的第一权值，得到所述微服务节点的第二权值。

在本发明提供的一个装置实施例中，所述控制模块304包括：

发送单元，用于发送所述各微服务节点的第二权值到用于请求分发的处理中心；

通知单元，用于通知所述处理中心按照所述各微服务节点的第二权值进行微服务请求进行分发。

在本发明提供的一个装置实施例中，所述装置还包括：

记录模块，用于在根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例之后，记录各微服务节点所在宿主机的资源信息和权值的对应关系；

查询模块，用于在检测到有新增的微服务节点后，根据所述对应关系，查询所述新增的的微服务节点所在宿主机的资源信息对应的权值，得到查询结果；

设置模块，用于根据所述查询结果，为所述微服务节点设置对应的权值信息。

本发明提供的装置实施例，在处理第一权值对应的微服务请求过程中，获取所述各微服务节点的负载状态信息，并根据负载状态信息调整各微服务节点配置的第一权值，得到所述各微服务节点的第二权值，再根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例，实现根据微服务节点部署的具体环境调整分发，保证微服务节点响应稳定，提升系统资源的利用率。

本领域普通技术人员可以理解上述实施例的全部或部分步骤可以使用计算机程序流程来实现，所述计算机程序可以存储于一计算机可读存储介质中，所述计算机程序在相应的硬件平台上(如系统、设备、装置、器件等)执行，在执行时，包括方法实施例的步骤之一或其组合。

可选地，上述实施例的全部或部分步骤也可以使用集成电路来实现，这些步骤可以被分别制作成一个个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件结合。

上述实施例中的各装置/功能模块/功能单元可以采用通用的计算装置来实现，它们可以集中在单个的计算装置上，也可以分布在多个计算装置所组成的网络上。

上述实施例中的各装置/功能模块/功能单元以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。上述提到的计算机可读取存储介质可以是只读存储器，磁盘或光盘等。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求所述的保护范围为准。

Claims (10)

1.一种云计算系统中微服务节点的管理方法，其特征在于，包括：

获取为各微服务节点配置的第一权值，其中所述第一权值用于控制分配到该微服务节点的微服务请求占全部微服务请求的比例信息；

在处理所述第一权值对应的微服务请求过程中，获取所述各微服务节点的负载状态信息；

根据所述各微服务节点的负载状态信息，对所述第一权值的数值进行调整，得到所述各微服务节点的第二权值；

根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例。

2.根据权利要求1所述的方法，其特征在于，所述获取所述各微服务节点的负载状态信息，包括：

监控各微服务节点所在宿主机实时的运行性能信息，其中所述运行性能信息包括CPU的使用率、内存占用率以及响应时长中的至少一个；

根据所述运行性能信息，计算所述微服务节点的负载状态信息。

3.根据权利要求1所述的方法，其特征在于，所述根据所述各微服务节点的负载状态信息，对所述第一权值的数值进行调整，得到所述各微服务节点的第二权值，包括：

判断各微服务节点的负载状态信息是否超过预先设置的上限值；和/或，判断所述微服务节点的负载状态信息是否低于预先设置的下限值；

如果微服务节点的负载状态信息超过所述上限值，则减少所述微服务节点的第一权值，得到所述微服务节点的第二权值；和/或，如果微服务节点的负载状态信息低于所述下限值，则增大所述微服务节点的第一权值，得到所述微服务节点的第二权值。

4.根据权利要求1所述的方法，其特征在于，所述根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例，包括：

发送所述各微服务节点的第二权值到用于请求分发的处理中心，并通知所述处理中心按照所述各微服务节点的第二权值进行微服务请求进行分发。

5.根据权利要求1至4任一所述的方法，其特征在于，所述根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例之后，所述方法还包括：

记录各微服务节点所在宿主机的资源信息和权值的对应关系；

在检测到有新增的微服务节点后，根据所述对应关系，查询所述新增的的微服务节点所在宿主机的资源信息对应的权值，得到查询结果；

根据所述查询结果，为所述微服务节点设置对应的权值信息。

6.一种云计算系统中微服务节点的管理装置，其特征在于，包括：

第一获取模块，用于获取为各微服务节点配置的第一权值，其中所述第一权值用于控制分配到该微服务节点的微服务请求占全部微服务请求的比例信息；

第二获取模块，用于在处理所述第一权值对应的微服务请求过程中，获取所述各微服务节点的负载状态信息；

调整模块，用于根据所述各微服务节点的负载状态信息，对所述第一权值的数值进行调整，得到所述各微服务节点的第二权值；

控制模块，用于根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例。

7.根据权利要求6所述的装置，其特征在于，所述第二获取模块包括：

监控单元，用于监控各微服务节点所在宿主机实时的运行性能信息，其中所述运行性能信息包括CPU的使用率、内存占用率以及响应时长中的至少一个；

计算单元，用于根据所述运行性能信息，计算所述微服务节点的负载状态信息。

8.根据权利要求6所述的装置，其特征在于，所述调整模块包括：

判断单元，用于判断各微服务节点的负载状态信息是否超过预先设置的上限值；和/或，判断所述微服务节点的负载状态信息是否低于预先设置的下限值；

调整单元，用于如果微服务节点的负载状态信息超过所述上限值，则减少所述微服务节点的第一权值，得到所述微服务节点的第二权值；和/或，如果微服务节点的负载状态信息低于所述下限值，则增大所述微服务节点的第一权值，得到所述微服务节点的第二权值。

9.根据权利要求6所述的装置，其特征在于，所述控制模块包括：

发送单元，用于发送所述各微服务节点的第二权值到用于请求分发的处理中心；

通知单元，用于通知所述处理中心按照所述各微服务节点的第二权值进行微服务请求进行分发。

10.根据权利要求6至9任一所述的装置，其特征在于，所述装置还包括：

记录模块，用于在根据所述各微服务节点的第二权值，控制向各微服务节点分配的微服务请求的比例之后，记录各微服务节点所在宿主机的资源信息和权值的对应关系；

查询模块，用于在检测到有新增的微服务节点后，根据所述对应关系，查询所述新增的的微服务节点所在宿主机的资源信息对应的权值，得到查询结果；

设置模块，用于根据所述查询结果，为所述微服务节点设置对应的权值信息。