CN115941613A - 节点限流方法、装置、设备、介质和程序产品 - Google Patents

Abstract

本公开提供了一种节点限流方法，可以应用于分布式技术领域。该节点限流方法包括：获取第一接口负载变化值、接口服务等级以及当前时刻的第一节点负载量；在所述第一节点负载量高于预设的节点负载阈值时，基于所述第一接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第一限流服务接口；基于所述第一接口负载变化值、所述接口服务等级、所述第一节点负载量以及所述节点负载阈值进行计算，得到第一接口限流阈值；以及基于所述第一接口限流阈值限流对应的所述第一限流服务接口。本公开还提供了一种节点限流装置、设备、存储介质和程序产品。

Description

节点限流方法、装置、设备、介质和程序产品

技术领域

本公开涉及分布式技术领域，具体地涉及一种节点限流方法、装置、设备、介质和程序产品。

背景技术

随着分布式微服务的流行，微服务架构已成为主流，随着业务应用的越来越复杂，流量安全防护就变得越来越重要。业务中常用的是单机限流，一般对每个服务接口会有一个精确的限流值。随着业务应用功能的增加，链路的复杂程度也不断增加，单节点暴露的服务与接口也将越来越多。

由于每个接口的功能不同，需要消耗的系统资源也不一致，这就会导致部分高开销的接口，遇到流量高峰时会占用大量系统资源，进而影响该节点的所有服务接口。

现有技术中，采用预设的固定限流值对节点进行限流，而预设的估计限流值是通过提前在压力测试环境中确定出来的，但是，压力测试环境中的机器性能和生产环境中的机器性能不一定对等，使得预设的限流值在生产环境中不一定适用。

因此，如何设计一套能够对服务接口进行精确限流的方法则显得尤为重要。

发明内容

鉴于上述问题，本公开提供了提高节点限流精确度并能最大程度保证服务正常运转的节点限流方法、装置、设备、介质和程序产品。

根据本公开的第一个方面，提供了一种节点限流方法，所述节点包括多个服务接口，所述方法包括：获取第一接口负载变化值、接口服务等级以及当前时刻的第一节点负载量；在所述第一节点负载量高于预设的节点负载阈值时，基于所述第一接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第一限流服务接口；基于所述第一接口负载变化值、所述接口服务等级、所述第一节点负载量以及所述节点负载阈值进行计算，得到第一接口限流阈值；以及基于所述第一接口限流阈值限流对应的所述第一限流服务接口。

根据本公开的实施例，其中，所述获取第一接口负载变化值、接口服务等级以及当前时刻的第一节点负载量，包括：对于所述第一接口负载变化值，按照预设的时间间隔，获取至少两个滑动时间窗的服务接口负载量；以及基于在所述至少两个滑动时间窗口的所述服务接口负载量作差，得到所述第一接口负载变化值。

根据本公开的实施例，其中，所述服务接口负载量包括资源请求数和负载资源量，所述第一接口负载变化值包括差量资源请求数和差量负载资源量，不同的所述接口服务等级对应不同的基础参数。

根据本公开的实施例，其中，所述在所述第一节点负载量高于预设的节点负载阈值时，基于所述第一接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第一限流服务接口，包括：基于所述多个服务接口对应的所述差量资源请求数和所述差量负载资源量进行计算，得到所述多个服务接口对应的单位请求负载资源量；基于所述多个服务接口对应的所述基础参数和所述单位请求负载资源量进行计算，得到所述多个服务接口对应的打分分值；对所述打分分值进行排序；以及基于不同的所述打分分值，从高到底的顺序选取所述第一预设数量的所述服务接口作为所述第一限流服务接口。

根据本公开的实施例，其中，所述基于所述第一接口负载变化值、所述接口服务等级、所述第一节点负载量以及所述节点负载阈值进行计算，得到第一接口限流阈值，包括：基于所述第一节点负载量和所述节点负载阈值进行计算，得到待限流节点负载量；以及基于不同的所述第一限流服务接口对应的所述基础参数和所述待限流节点负载量进行计算，得到不同的所述第一限流服务接口对应的所述第一接口限流阈值。

根据本公开的实施例，其中，所述基于所述第一接口限流阈值限流对应的所述第一限流服务接口，包括：获取所述第一限流服务接口的当前时刻的第一接口流量；基于所述第一接口限流阈值和所述第一接口流量进行计算，接口限流差值；基于所述单位请求负载资源量和所述接口限流差值进行计算，得到待限制请求个数；以及基于所述待限制请求个数限制所述资源请求数。

根据本公开的实施例，其中，所述基于所述第一接口限流阈值限流对应的所述第一限流服务接口的持续时间是所述预设的时间间隔。

根据本公开的实施例，其中，在所述基于所述第一接口限流阈值限流对应的所述第一限流服务接口后，还包括：获取第二接口负载变化值、接口服务等级以及下一时刻的第二节点负载量，其中，所述当前时刻和所述下一时刻之间间隔所述预设的时间间隔；在所述第二节点负载量高于预设的节点负载阈值时，基于所述第二接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第二限流服务接口；基于所述第二接口负载变化值、所述接口服务等级、所述第二节点负载量以及所述节点负载阈值进行计算，得到所述第一预设数量的限流接口第二接口限流阈值；以及基于所述第二接口限流阈值限流对应的所述第二限流服务接口。

本公开的第二个方面，提供了一种节点限流装置，包括：节点参数获取模块，用于获取第一接口负载变化值、接口服务等级以及当前时刻的第一节点负载量；第一限流服务接口选取模块，用于在所述第一节点负载量高于预设的节点负载阈值时，基于所述第一接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第一限流服务接口；第一接口限流阈值计算模块，用于基于所述第一接口负载变化值、所述接口服务等级、所述第一节点负载量以及所述节点负载阈值进行计算，得到第一接口限流阈值；以及限流模块，用于基于所述第一接口限流阈值限流对应的所述第一限流服务接口。

根据本公开的实施例，其中，所述节点参数获取模块，还用于对于所述第一接口负载变化值，按照预设的时间间隔，获取至少两个滑动时间窗的服务接口负载量；以及基于在所述至少两个滑动时间窗口的所述服务接口负载量作差，得到所述第一接口负载变化值。

根据本公开的实施例，其中，所述服务接口负载量包括资源请求数和负载资源量，所述第一接口负载变化值包括差量资源请求数和差量负载资源量，不同的所述接口服务等级对应不同的基础参数。

根据本公开的实施例，其中，所述第一限流服务接口选取模块，还用于基于所述多个服务接口对应的所述差量资源请求数和所述差量负载资源量进行计算，得到所述多个服务接口对应的单位请求负载资源量；基于所述多个服务接口对应的所述基础参数和所述单位请求负载资源量进行计算，得到所述多个服务接口对应的打分分值；对所述打分分值进行排序；以及基于不同的所述打分分值，从高到底的顺序选取所述第一预设数量的所述服务接口作为所述第一限流服务接口。

根据本公开的实施例，其中，所述第一接口限流阈值计算模块，还用于基于所述第一节点负载量和所述节点负载阈值进行计算，得到待限流节点负载量；以及基于不同的所述第一限流服务接口对应的所述基础参数和所述待限流节点负载量进行计算，得到不同的所述第一限流服务接口对应的所述第一接口限流阈值。

根据本公开的实施例，其中，所述限流模块，还用于获取所述第一限流服务接口的当前时刻的第一接口流量；基于所述第一接口限流阈值和所述第一接口流量进行计算，接口限流差值；基于所述单位请求负载资源量和所述接口限流差值进行计算，得到待限制请求个数；以及基于所述待限制请求个数限制所述资源请求数。

根据本公开的实施例，其中，所述基于所述第一接口限流阈值限流对应的所述第一限流服务接口的持续时间是所述预设的时间间隔。

根据本公开的实施例，其中，所述装置还包括持续限流模块，所述持续限流模块，用于获取第二接口负载变化值、接口服务等级以及下一时刻的第二节点负载量，其中，所述当前时刻和所述下一时刻之间间隔所述预设的时间间隔；在所述第二节点负载量高于预设的节点负载阈值时，基于所述第二接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第二限流服务接口；基于所述第二接口负载变化值、所述接口服务等级、所述第二节点负载量以及所述节点负载阈值进行计算，得到所述第一预设数量的限流接口第二接口限流阈值；以及基于所述第二接口限流阈值限流对应的所述第二限流服务接口。

本公开的第三个方面，提供了一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个程序，其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得一个或多个处理器执行上述节点限流方法。

本公开的第四个方面，还提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行上述节点限流方法。

本公开的第五个方面，还提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述节点限流方法。

在本公开的实施例中，通过负载变化值能够确定接口的资源消耗情况；接口对应的业务等级能够确定接口的核心程度；结合两者综合确定的限流服务接口和接口限流阈值，能够在复杂节点环境中考虑到节点上所有服务接口互相影响的情况，计算最优限流策略，最大程度上保证了在应急情况下，服务的正常运转。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述内容以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本公开实施例的节点限流方法的应用场景图。

图2示意性示出了根据本公开实施例的节点限流方法的流程图。

图3示意性示出了根据本公开实施例的滑动时间窗的示意图。

图4示意性示出了根据本公开实施例的节点限流方法的流程图。

图5示意性示出了根据本公开实施例的节点限流方法的流程图。

图6示意性示出了根据本公开实施例的节点限流方法的流程图。

图7示意性示出了根据本公开实施例的节点限流方法的流程图。

图8示意性示出了根据本公开实施例的节点限流装置的结构框图。

图9示意性示出了根据本公开实施例的适于实现节点限流方法的电子设备的方框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。

本公开的实施例提供了一种节点限流方法，所述节点包括多个服务接口，所述方法包括：获取第一接口负载变化值、接口服务等级以及当前时刻的第一节点负载量；在所述第一节点负载量高于预设的节点负载阈值时，基于所述第一接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第一限流服务接口；基于所述第一接口负载变化值、所述接口服务等级、所述第一节点负载量以及所述节点负载阈值进行计算，得到第一接口限流阈值；以及基于所述第一接口限流阈值限流对应的所述第一限流服务接口。

在本公开的实施例中，通过负载变化值能够确定接口的资源消耗情况；接口对应的业务等级能够确定接口的核心程度；结合两者综合确定的限流服务接口和接口限流阈值，能够在复杂节点环境中考虑到节点上所有服务接口互相影响的情况，计算最优限流策略，最大程度上保证了在应急情况下，服务的正常运转。

图1示意性示出了根据本公开实施例的节点限流方法的应用场景图。

如图1所示，根据该实施例的应用场景100可以包括终端设备101、102、103、网络104以及服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。

需要说明的是，本公开实施例所提供的节点限流方法一般可以由服务器105执行。相应地，本公开实施例所提供的节点限流装置一般可以设置于服务器105中。本公开实施例所提供的节点限流方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的节点限流装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

以下将基于图1描述的场景，通过图2～图7对公开实施例的节点限流方法进行详细描述。

图2示意性示出了根据本公开实施例的节点限流方法的流程图。

图3示意性示出了根据本公开实施例的滑动时间窗的示意图。

如图2所示，该实施例的节点限流方法包括操作S210～操作S240，该节点限流方法可以由服务器105执行。

在操作S210中，获取第一接口负载变化值、接口服务等级以及当前时刻的第一节点负载量。

根据本公开的实施例，其中，所述获取第一接口负载变化值、接口服务等级以及当前时刻的第一节点负载量，包括：对于所述第一接口负载变化值，按照预设的时间间隔，获取至少两个滑动时间窗的服务接口负载量；以及基于在所述至少两个滑动时间窗口的所述服务接口负载量作差，得到所述第一接口负载变化值。

根据本公开的实施例，其中，所述服务接口负载量包括资源请求数和负载资源量，所述第一接口负载变化值包括差量资源请求数和差量负载资源量，不同的所述接口服务等级对应不同的基础参数。

一个节点包括多个服务接口，不同的服务接口用于处理不同的服务逻辑，一般情况下，在同一服务接口中，处理的服务逻辑使得资源请求类似，这可以体现在该服务接口中不同的资源请求和对应的负载资源量的比值基本上处于一致的状态。

第一接口负载变化值是指在时序上距离当前时刻最近的几个滑动时间窗内服务接口负载量的差值，该第一接口负载变化值对应节点中的某一服务接口。因此，在当前时刻，不同的服务接口存在不同的第一接口负载变化量。

接口服务等级由高到低可以包括多个等级，这些都可以由开发人员和/或运维人员预设的。由于不同的服务接口负责不同的服务逻辑，有的服务逻辑较为核心，有的服务逻辑则较为旁路，在对进行限流的情况下，可能会导致无法正常运行。因此，可以提前将每个服务接口进行等级设置，以区分其重要程度，该等级设置则是上述基础参数。

对于滑动时间窗，包括一段预设的时间窗时长，而不同的滑动时间窗之间存在一定时间的交集，按照时间序列来说，相邻的两个滑动时间窗之间间隔上述预设的间隔时间的同时又存在一定的交集。例如，第1秒-第5秒是一个滑动时间窗，第2秒-第6秒是另一个滑动时间窗，预设的时间窗时长则为5秒，两个滑动时间窗之间间隔的一秒则是上述预设的时间间隔。当然，上述“获取至少两个滑动时间窗”也即获取的滑动时间窗包括两个或者两个以上。在滑动时间窗的数量为两个时，在进一步计算第一接口负载变化量时，则可以基于获取到的服务接口负载量作差；在滑动时间窗的数量大于两个时，在进一步计算第一接口负载变化量时，可以基于获取到的服务接口负载量进行两两作差后求和，并求均值。

上述资源请求数用以标识接口的资源请求情况。例如，可以采集每秒事务次数(transaction per second，简称为TPS)以确定资源请求数。上述负载资源量则是能够反映出资源负载情况的某个指标或者指标合集。例如，负载资源量包括CPU负载、输入输出负载、读写负载以及内存负载等。当然，其他可以标识接口的资源请求情况的指标亦可，在此不再赘述。

如图3所示，在当前时刻为t3时，上述第一接口负载变化值则是通过分别获取滑动时间窗1和滑动时间窗2中的接口负载量，在此基础上，计算其差值(由第二滑动时间窗对应的接口负载量减去第一滑动时间窗的接口负载量)。采用滑动时间窗统计接口负载变化的差值，能够使得更加精确的计算出负载变化情况，更有利于在流量暴增的情况下完成限流。

在操作S220中，在所述第一节点负载量高于预设的节点负载阈值时，基于所述第一接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第一限流服务接口。

图4示意性示出了根据本公开实施例的节点限流方法的流程图。

如图4所示，该实施例的节点限流方法包括操作S410～操作S440，上述操作S410～操作S440可以至少部分执行上述操作S220。

在操作S410中，基于所述多个服务接口对应的所述差量资源请求数和所述差量负载资源量进行计算，得到所述多个服务接口对应的单位请求负载资源量。

在操作S420中，基于所述多个服务接口对应的所述基础参数和所述单位请求负载资源量进行计算，得到所述多个服务接口对应的打分分值。

在操作S430中，对所述打分分值进行排序。

在操作S440中，基于不同的所述打分分值，从高到底的顺序选取所述第一预设数量的所述服务接口作为所述第一限流服务接口。

不同的请求对应不同的负载量。上述单位请求负载资源量则可看作是差量负载资源量与差量资源请求数的比值。例如，差量负载资源量为10TPS，计算平均每个差量资源请求数占用的资源量。不同的接口服务等级对应的基础参数不同。例如，将接口服务等级分为五级，其对应的服务等级按照该服务接口的重要程度由高到低分为第一级、第二级、第三级、第四级以及第五级，相应的，其基础参数配置为0.2、0.4、0.6、0.8以及1.0。将上述基础参数分别乘以限流接口，即可得到上述打分分值。

可以理解的是，较为重要核心的服务节点，其基础参数配置的相对较低，这样可以极好地平衡大资源开销的请求和服务接口核心程度，保证节点服务运行的流畅度。

在操作S230中，基于所述第一接口负载变化值、所述接口服务等级、所述第一节点负载量以及所述节点负载阈值进行计算，得到第一接口限流阈值。

图5示意性示出了根据本公开实施例的节点限流方法的流程图。

如图5所示，该实施例的节点限流方法包括操作S510～操作S520，上述操作S510～操作S520至少可以部分执行上述操作S230。

在操作S510中，基于所述第一节点负载量和所述节点负载阈值进行计算，得到待限流节点负载量。

在操作S520中，基于不同的所述第一限流服务接口对应的所述基础参数和所述待限流节点负载量进行计算，得到不同的所述第一限流服务接口对应的所述第一接口限流阈值。

上述操作S510～操作S520即是将不同的接口等级对应的基础参数作为权重，将超过阈值部分的负载，按照权重分配在待限流接口上，进而计算其接口限流阈值，使其限流。

在操作S240中，基于所述第一接口限流阈值限流对应的所述第一限流服务接口。

图6示意性示出了根据本公开实施例的节点限流方法的流程图。

如图6所示，该实施例的节点限流方法包括操作S610～操作S640，上述操作S610～操作S640至少可以部分执行上述操作S240。

在操作S610中，获取所述第一限流服务接口的当前时刻的第一接口流量。

在操作S620中，基于所述第一接口限流阈值和所述第一接口流量进行计算，接口限流差值。

在操作S630中，基于所述单位请求负载资源量和所述接口限流差值进行计算，得到待限制请求个数。

在操作S640中，基于所述待限制请求个数限制所述资源请求数。

可以理解的是，限流是则是限制请求，通过。需要说明的是，由于服务接口中不同资源请求所对应的负载资源量基本一致，数值变化较小，因此限制请求可以达到精准限流的效果。

根据本公开的实施例，其中，所述基于所述第一接口限流阈值限流对应的所述第一限流服务接口的持续时间是所述预设的时间间隔。

也就是说，计算得到的接口限流阈值为动态的阈值，其有效时间与之前的采样的时间间隔保持一致，同样是所述预设的时间间隔，能够保证每次采样后，变化接口与阈值。

在本公开的实施例中，通过负载变化值能够确定接口的资源消耗情况；接口对应的业务等级能够确定接口的核心程度；结合两者综合确定的限流服务接口和接口限流阈值，能够在复杂节点环境中考虑到节点上所有服务接口互相影响的情况，计算最优限流策略，最大程度上保证了在应急情况下，服务的正常运转。

可以理解的是，上述操作S210～操作S240展示了在一个预设的时间间隔内的节点中接口的限流策略，以下图7则展示了在下一个限流周期(当然，在节点负载没有超过节点阈值的情况下，也可以看作是监控周期)内，新一轮的限流策略。

图7示意性示出了根据本公开实施例的节点限流方法的流程图。

如图7所示，该实施例的节点限流方法包括操作S710～操作S740，上述操作S710～操作S740执行与上述操作S240后。

在操作S710中，获取第二接口负载变化值、接口服务等级以及下一时刻的第二节点负载量，其中，所述当前时刻和所述下一时刻之间间隔所述预设的时间间隔。

在操作S720中，在所述第二节点负载量高于预设的节点负载阈值时，基于所述第二接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第二限流服务接口。

在操作S730中，基于所述第二接口负载变化值、所述接口服务等级、所述第二节点负载量以及所述节点负载阈值进行计算，得到所述第一预设数量的限流接口第二接口限流阈值。

在操作S740中，基于所述第二接口限流阈值限流对应的所述第二限流服务接口。

与上述操作S210～操作S240类似，不同点在于，获取的节点负载量是在下一时刻的第二节点负载量，获取的滑动时间窗也是距离下一时刻较近的时间窗。

如图3所示，上述操作S210～操作S240可以看作是获取滑动时间窗1和滑动时间窗2对应的负载变化值，t3时刻对应的节点负载量，并执行于t3时刻-t4时刻之间；而上述操作S710～操作S740可以看作是获取活动时间窗2和滑动时间窗3对应的负载变化值，t4时刻对应的几点负载量，并执行于t4时刻至t5时刻之间。当然，在本公开的实施例中，需要对节点与接口进行持续监控，以避免出现高并发事件。

可以理解的是，上述操作S710～操作S740结合上述操作S210～操作240，是为了表示在开启限流后，在不同的时间窗内持续开启此项限流策略，在不同的时间船内挑选接口并设置节点限流的策略，对某个节点进行限流。该限流的循环操作是可以有预先设置的截止条件，也可以是不具有预先设置的截止条件。例如，在有预先设置的截止条件的情况下，可以持续自动判断某个节点中接口的流程到达正常状态，该正常状态可以是在某一个时间窗内正常，也可以是在连续几个时间窗内正常，上述正常状态的条件即为节点限流的截止条件；又例如，在不具备预先设置的截止条件的情况下，可以是由该节点限流装置接收到用户的截止指令，则节点限流的方法截止。

在本公开的实施例中，依照预设时间间隔，持续挑选限流服务接口，持续设置限流服务接口的阈值，使得能够实时监测流量并完成动态限流。起到了持续监控的作用。

基于上述节点限流方法，本公开还提供了一种节点限流装置。以下将结合图8对该装置进行详细描述。

图8示意性示出了根据本公开实施例的节点限流装置的结构框图。

如图8所示，该实施例的节点限流装置800包括节点参数获取模块810、第一限流服务接口选取模块820、第一接口限流阈值计算模块830和限流模块840。

所述节点参数获取模块810用于获取第一接口负载变化值、接口服务等级以及当前时刻的第一节点负载量。在一实施例中，所述节点参数获取模块810可以用于执行前文描述的操作S210，在此不再赘述。

所述第一限流服务接口选取模块820用于在所述第一节点负载量高于预设的节点负载阈值时，基于所述第一接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第一限流服务接口。在一实施例中，所述第一限流服务接口选取模块820可以用于执行前文描述的操作S220，在此不再赘述。

所述第一接口限流阈值计算模块830用于基于所述第一接口负载变化值、所述接口服务等级、所述第一节点负载量以及所述节点负载阈值进行计算，得到第一接口限流阈值。在一实施例中，所述第一接口限流阈值计算模块830可以用于执行前文描述的操作S230，在此不再赘述。

所述限流模块840用于基于所述第一接口限流阈值限流对应的所述第一限流服务接口。在一实施例中，所述限流模块840可以用于执行前文描述的操作S240，在此不再赘述。

在本公开的实施例中，通过负载变化值能够确定接口的资源消耗情况；接口对应的业务等级能够确定接口的核心程度；结合两者综合确定的限流服务接口和接口限流阈值，能够在复杂节点环境中考虑到节点上所有服务接口互相影响的情况，计算最优限流策略，最大程度上保证了在应急情况下，服务的正常运转。

根据本公开的实施例，其中，所述节点参数获取模块810，还用于对于所述第一接口负载变化值，按照预设的时间间隔，获取至少两个滑动时间窗的服务接口负载量；以及基于在所述至少两个滑动时间窗口的所述服务接口负载量作差，得到所述第一接口负载变化值。

根据本公开的实施例，其中，所述服务接口负载量包括资源请求数和负载资源量，所述第一接口负载变化值包括差量资源请求数和差量负载资源量，不同的所述接口服务等级对应不同的基础参数。

根据本公开的实施例，其中，所述第一限流服务接口选取模块820，还用于基于所述多个服务接口对应的所述差量资源请求数和所述差量负载资源量进行计算，得到所述多个服务接口对应的单位请求负载资源量；基于所述多个服务接口对应的所述基础参数和所述单位请求负载资源量进行计算，得到所述多个服务接口对应的打分分值；对所述打分分值进行排序；以及基于不同的所述打分分值，从高到底的顺序选取所述第一预设数量的所述服务接口作为所述第一限流服务接口。

根据本公开的实施例，其中，所述第一接口限流阈值计算模块830，还用于基于所述第一节点负载量和所述节点负载阈值进行计算，得到待限流节点负载量；以及基于不同的所述第一限流服务接口对应的所述基础参数和所述待限流节点负载量进行计算，得到不同的所述第一限流服务接口对应的所述第一接口限流阈值。

根据本公开的实施例，其中，所述限流模块840，还用于获取所述第一限流服务接口的当前时刻的第一接口流量；基于所述第一接口限流阈值和所述第一接口流量进行计算，接口限流差值；基于所述单位请求负载资源量和所述接口限流差值进行计算，得到待限制请求个数；以及基于所述待限制请求个数限制所述资源请求数。

根据本公开的实施例，其中，所述基于所述第一接口限流阈值限流对应的所述第一限流服务接口的持续时间是所述预设的时间间隔。

根据本公开的实施例，其中，所述装置还包括持续限流模块，所述持续限流模块，用于获取第二接口负载变化值、接口服务等级以及下一时刻的第二节点负载量，其中，所述当前时刻和所述下一时刻之间间隔所述预设的时间间隔；在所述第二节点负载量高于预设的节点负载阈值时，基于所述第二接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第二限流服务接口；基于所述第二接口负载变化值、所述接口服务等级、所述第二节点负载量以及所述节点负载阈值进行计算，得到所述第一预设数量的限流接口第二接口限流阈值；以及基于所述第二接口限流阈值限流对应的所述第二限流服务接口。

根据本公开的实施例，所述节点参数获取模块810、所述第一限流服务接口选取模块820、所述第一接口限流阈值计算模块830和所述限流模块840中的任意多个模块可以合并在一个模块中实现，或者其中的任意一个模块可以被拆分成多个模块。或者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合，并在一个模块中实现。根据本公开的实施例，所述节点参数获取模块810、所述第一限流服务接口选取模块820、所述第一接口限流阈值计算模块830和所述限流模块840中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，所述节点参数获取模块810、所述第一限流服务接口选取模块820、所述第一接口限流阈值计算模块830和所述限流模块840中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

图9示意性示出了根据本公开实施例的适于实现节点限流方法的电子设备的方框图。

如图9所示，根据本公开实施例的电子设备900包括处理器901，其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。处理器901例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))等等。处理器901还可以包括用于缓存用途的板载存储器。处理器901可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 903中，存储有电子设备900操作所需的各种程序和数据。处理器901、ROM902以及RAM 903通过总线904彼此相连。处理器901通过执行ROM 902和/或RAM 903中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 902和RAM 903以外的一个或多个存储器中。处理器901也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，电子设备900还可以包括输入/输出(I/O)接口905，输入/输出(I/O)接口905也连接至总线904。电子设备900还可以包括连接至I/O接口905的以下部件中的一项或多项：包括键盘、鼠标等的输入部分906；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907；包括硬盘等的存储部分908；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器910上，以便于从其上读出的计算机程序根据需要被安装入存储部分908。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质，例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 902和/或RAM 903和/或ROM 902和RAM 903以外的一个或多个存储器。

本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时，该程序代码用于使计算机系统实现本公开实施例所提供的方法。

在该计算机程序被处理器901执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。

在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分909被下载和安装，和/或从可拆卸介质911被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

在这样的实施例中，该计算机程序可以通过通信部分909从网络上被下载和安装，和/或从可拆卸介质911被安装。在该计算机程序被处理器901执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (12)

1.一种节点限流方法，所述节点包括多个服务接口，所述方法包括：

获取第一接口负载变化值、接口服务等级以及当前时刻的第一节点负载量；

在所述第一节点负载量高于预设的节点负载阈值时，基于所述第一接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第一限流服务接口；

基于所述第一接口负载变化值、所述接口服务等级、所述第一节点负载量以及所述节点负载阈值进行计算，得到第一接口限流阈值；以及

基于所述第一接口限流阈值限流对应的所述第一限流服务接口。

2.根据权利要求1所述的方法，其中，所述获取第一接口负载变化值、接口服务等级以及当前时刻的第一节点负载量，包括：

对于所述第一接口负载变化值，按照预设的时间间隔，获取至少两个滑动时间窗的服务接口负载量；以及

基于在所述至少两个滑动时间窗口的所述服务接口负载量作差，得到所述第一接口负载变化值。

3.根据权利要求2所述的方法，其中，所述服务接口负载量包括资源请求数和负载资源量，所述第一接口负载变化值包括差量资源请求数和差量负载资源量，不同的所述接口服务等级对应不同的基础参数。

4.根据权利要求3所述的方法，其中，所述在所述第一节点负载量高于预设的节点负载阈值时，基于所述第一接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第一限流服务接口，包括：

基于所述多个服务接口对应的所述差量资源请求数和所述差量负载资源量进行计算，得到所述多个服务接口对应的单位请求负载资源量；

基于所述多个服务接口对应的所述基础参数和所述单位请求负载资源量进行计算，得到所述多个服务接口对应的打分分值；

对所述打分分值进行排序；以及

基于不同的所述打分分值，从高到底的顺序选取所述第一预设数量的所述服务接口作为所述第一限流服务接口。

5.根据权利要求4所述的方法，其中，所述基于所述第一接口负载变化值、所述接口服务等级、所述第一节点负载量以及所述节点负载阈值进行计算，得到第一接口限流阈值，包括：

基于所述第一节点负载量和所述节点负载阈值进行计算，得到待限流节点负载量；以及

基于不同的所述第一限流服务接口对应的所述基础参数和所述待限流节点负载量进行计算，得到不同的所述第一限流服务接口对应的所述第一接口限流阈值。

6.根据权利要求5所述的方法，其中，所述基于所述第一接口限流阈值限流对应的所述第一限流服务接口，包括：

获取所述第一限流服务接口的当前时刻的第一接口流量；

基于所述第一接口限流阈值和所述第一接口流量进行计算，接口限流差值；

基于所述单位请求负载资源量和所述接口限流差值进行计算，得到待限制请求个数；以及

基于所述待限制请求个数限制所述资源请求数。

7.根据权利要求2所述的方法，其中，

所述基于所述第一接口限流阈值限流对应的所述第一限流服务接口的持续时间是所述预设的时间间隔。

8.根据权利要求7所述的方法，其中，在所述基于所述第一接口限流阈值限流对应的所述第一限流服务接口后，还包括：

获取第二接口负载变化值、接口服务等级以及下一时刻的第二节点负载量，其中，所述当前时刻和所述下一时刻之间间隔所述预设的时间间隔；

在所述第二节点负载量高于预设的节点负载阈值时，基于所述第二接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第二限流服务接口；

基于所述第二接口负载变化值、所述接口服务等级、所述第二节点负载量以及所述节点负载阈值进行计算，得到所述第一预设数量的限流接口第二接口限流阈值；以及

基于所述第二接口限流阈值限流对应的所述第二限流服务接口。

9.一种节点限流装置，包括：

节点参数获取模块，用于获取第一接口负载变化值、接口服务等级以及当前时刻的第一节点负载量；

第一限流服务接口选取模块，用于在所述第一节点负载量高于预设的节点负载阈值时，基于所述第一接口负载变化值和所述接口服务等级，挑选第一预设数量的所述服务接口作为所述当前时刻的第一限流服务接口；

第一接口限流阈值计算模块，用于基于所述第一接口负载变化值、所述接口服务等级、所述第一节点负载量以及所述节点负载阈值进行计算，得到第一接口限流阈值；以及

限流模块，用于基于所述第一接口限流阈值限流对应的所述第一限流服务接口。

10.一种电子设备，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器执行根据权利要求1～8中任一项所述的方法。

11.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行根据权利要求1～8中任一项所述的方法。

12.一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现根据权利要求1～8中任一项所述的方法。

Images