CN113778730A - 分布式系统的服务降级方法和装置 - Google Patents

分布式系统的服务降级方法和装置 Download PDF

Info

Publication number
CN113778730A
CN113778730A CN202110119150.4A CN202110119150A CN113778730A CN 113778730 A CN113778730 A CN 113778730A CN 202110119150 A CN202110119150 A CN 202110119150A CN 113778730 A CN113778730 A CN 113778730A
Authority
CN
China
Prior art keywords
degradation
class
strategy
node
index
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110119150.4A
Other languages
English (en)
Other versions
CN113778730B (zh
Inventor
李中原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Qianshi Technology Co Ltd
Original Assignee
Beijing Jingdong Qianshi Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Qianshi Technology Co Ltd filed Critical Beijing Jingdong Qianshi Technology Co Ltd
Priority to CN202110119150.4A priority Critical patent/CN113778730B/zh
Publication of CN113778730A publication Critical patent/CN113778730A/zh
Application granted granted Critical
Publication of CN113778730B publication Critical patent/CN113778730B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0709—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in a distributed system consisting of a plurality of standalone computer nodes, e.g. clusters, client-server systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0793—Remedial or corrective actions

Abstract

本发明公开了一种分布式系统的服务降级方法和装置，涉及计算机技术领域。该方法的一具体实施方式包括：针对分布式系统中的任一节点：采集向该节点提供服务的任一服务提供者的运行数据，统计所述运行数据以获取该服务提供者在当前统计周期的运行指标，依据所述运行指标以及预设的第一类降级策略对该服务提供者执行第一类降级操作；采集该节点的资源利用率数据，统计所述资源利用率数据以获取该节点在当前统计周期的资源利用率指标，依据所述资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作。该实施方式能够采集分布式系统任一节点的相关数据来执行自动降级操作。

Description

分布式系统的服务降级方法和装置
技术领域
本发明涉及计算机技术领域，尤其涉及一种分布式系统的服务降级方法和装置。
背景技术
服务降级和恢复是分布式系统保持稳定的重要手段：在流量高峰期时，通过降级的方式能够保障服务的可用性，防止雪崩；在流量高峰期过后，可以解除降级恢复原有工作状态。目前，针对单机系统存在各种降级和恢复方案，但对于分布式系统，大多是通过人工介入的方式进行降级控制，容易产生降级操作不够迅速、存在较长时间滞后导致较多服务不可用等问题。
发明内容
有鉴于此，本发明实施例提供一种分布式系统的服务降级方法和装置，能够采集分布式系统任一节点的相关数据来执行自动降级操作。
为实现上述目的，根据本发明的一个方面，提供了一种分布式系统的服务降级方法。
本发明实施例的分布式系统的服务降级方法包括：针对分布式系统中的任一节点：采集向该节点提供服务的任一服务提供者的运行数据，统计所述运行数据以获取该服务提供者在当前统计周期的运行指标，依据所述运行指标以及预设的第一类降级策略对该服务提供者执行第一类降级操作；采集该节点的资源利用率数据，统计所述资源利用率数据以获取该节点在当前统计周期的资源利用率指标，依据所述资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作。
可选地，所述运行数据包括响应时长数据和可用率数据，所述运行指标包括响应时长指标和可用率指标，任一第一类降级策略包括降级条件和相应的第一类降级操作；以及，所述依据所述运行指标以及预设的第一类降级策略对该服务提供者执行第一类降级操作，包括：遍历每一第一类降级策略，获取服务提供者的响应时长指标和可用率指标满足降级条件的第一类降级策略，将该第一类降级策略确定为第一目标策略；对该服务提供者执行第一目标策略中的第一类降级操作。
可选地，所述资源利用率数据包括CPU利用率、内存利用率、磁盘利用率和/或功率利用率，任一第二类降级策略包括降级条件和相应的第二类降级操作；以及，所述依据所述资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作，包括：遍历每一第二类降级策略，获取节点的资源利用率指标满足降级条件的第二类降级策略，将该第二类降级策略确定为第二目标策略；对该节点执行第二目标策略中的第二类降级操作。
可选地，第一类降级操作包括：将数据库读取请求转换为缓存读取请求、和/或基于哈希算法限制当前请求；第二类降级操作包括：将当前请求对应的任务转换为延时任务、将当前请求对应的任务发送到预设的任务队列进行处理、和/或拒绝特定类型的当前请求。
可选地，第一目标策略中包括访问量降级比例；以及，所述基于哈希算法限制当前请求，包括：将当前请求中携带的用户标识转换为0与1之间的哈希值；在该哈希值小于第一目标策略中的访问量降级比例时，控制服务提供者不提供访问；在该哈希值不小于第一目标策略中的访问量降级比例时，控制服务提供者提供访问。
可选地，所述方法进一步包括：在任一服务提供者的运行指标满足预设的第一类恢复策略时，对该服务提供者执行对应于第一类降级操作的恢复操作；在节点的资源利用率指标满足预设的第二类恢复策略时，对该节点执行对应于第二类降级操作的恢复操作。
为实现上述目的，根据本发明的另一方面，提供了一种分布式系统的服务降级装置。
本发明实施例的分布式系统的服务降级装置可以包括：第一降级单元，用于：针对分布式系统中的任一节点，采集向该节点提供服务的任一服务提供者的运行数据，统计所述运行数据以获取该服务提供者在当前统计周期的运行指标，依据所述运行指标以及预设的第一类降级策略对该服务提供者执行第一类降级操作；第二降级单元，用于：采集该节点的资源利用率数据，统计所述资源利用率数据以获取该节点在当前统计周期的资源利用率指标，依据所述资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作。
可选地，所述运行数据包括响应时长数据和可用率数据，所述运行指标包括响应时长指标和可用率指标，任一第一类降级策略包括降级条件和相应的第一类降级操作；所述资源利用率数据包括CPU利用率、内存利用率、磁盘利用率和/或功率利用率，任一第二类降级策略包括降级条件和相应的第二类降级操作；以及，第一降级单元可以进一步用于：遍历每一第一类降级策略，获取服务提供者的响应时长指标和可用率指标满足降级条件的第一类降级策略，将该第一类降级策略确定为第一目标策略；对该服务提供者执行第一目标策略中的第一类降级操作；第二降级单元可以进一步用于：遍历每一第二类降级策略，获取节点的资源利用率指标满足降级条件的第二类降级策略，将该第二类降级策略确定为第二目标策略；对该节点执行第二目标策略中的第二类降级操作。
为实现上述目的，根据本发明的又一方面，提供了一种电子设备。
本发明的一种电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明所提供的分布式系统的服务降级方法。
为实现上述目的，根据本发明的再一方面，提供了一种计算机可读存储介质。
本发明的一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现本发明所提供的分布式系统的服务降级方法。
根据本发明的技术方案，上述发明中的实施例具有如下优点或有益效果：对于分布式系统的任一节点：采集该节点的服务提供者的运行数据，进而统计服务提供者的运行指标，依据运行指标以及第一类降级策略对服务提供者执行第一类降级操作；采集该节点的资源利用率数据，进而统计该节点的资源利用率指标，依据资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作。这样，能够实现自动监控系统性能、根据相关指标和预先配置的降级策略进行自动降级的效果，由此避免人工控制方式引发的降级失误以及系统不可用。同时，本发明实施例能够依据公布式系统中任一节点的不同角色执行相应的降级操作，即在将该节点作为服务接受者时，依据服务提供者的响应时长、可用率等运行指标执行请求转换、请求限制等降级操作；在将该节点作为服务提供者时，依据该节点的资源利用率指标执行任务延时处理、任务异步处理等降级操作，从而在分布式系统中实现更为精准的降级处理，能够进一步保障分布式系统的稳定性和可用性。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明，不构成对本发明的不当限定。其中：
图1是本发明实施例中分布式系统的服务降级方法的主要步骤示意图；
图2是本发明实施例中分布式系统的服务降级方法的系统架构示意图；
图3是本发明实施例中分布式系统的服务降级装置的组成部分示意图；
图4是根据本发明实施例可以应用于其中的示例性系统架构图；
图5是用来实现本发明实施例中分布式系统的服务降级方法的电子设备结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明，其中包括本发明实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
需要指出的是，在不冲突的情况下，本发明的实施例以及实施例中的技术特征可以相互结合。
图1是根据本发明实施例中分布式系统的服务降级方法的主要步骤示意图。
如图1所示，本发明实施例的分布式系统的服务降级方法可具体按照如下步骤执行：
步骤S101：针对分布式系统中的任一节点：采集向该节点提供服务的任一服务提供者的运行数据，统计运行数据以获取该服务提供者在当前统计周期的运行指标，依据运行指标以及预设的第一类降级策略对该服务提供者执行第一类降级操作。
在本步骤中，上述节点可以是分布式系统中的服务器或者服务程序，上述运行数据可以包括服务提供者的响应时长数据和可用率数据，对当前统计周期的响应时长数据进行统计可以得到响应时长指标，对当前统计周期的可用率数据进行统计可以得到可用率指标，响应时长指标和可用率指标都属于运行指标。
具体地，响应时长指标可以是TP指标如TP90、TP50等，TP90是一种响应时间的百分线TP(Top Percentile)指标，其物理含义为：将统计周期内的多个响应时长从小到大排序，位于第90％的响应时长。同样的，TP50指的是将统计周期内的多个响应时长从小到大排序，位于第50％的响应时长。可用率指标可以是统计周期内服务提供者的正常调用总数(即成功调用总数)与调用总数之商。
实际应用中，第一类降级策略用于通过监测服务提供者的运行数据进而执行降级，其可以包括降级条件和相应的第一类降级操作。其中，降级条件表征执行降级操作服务提供者需要满足的运行指标；第一类降级操作是针对服务提供者预设的特定操作，可以包括：将针对服务提供者的数据库读取请求转换为缓存读取请求(可以理解，该操作能够减轻服务提供者访问压力)、以及基于哈希算法限制当前请求。
例如，某第一类降级策略为：当TP90大于1000毫秒时，自动降级20％(20％为访问量降级比例)的流量，其含义为：如果当前统计周期服务提供者的TP90指标大于1000毫秒，则对20％的访问请求进行限制。
基于哈希算法限制当前请求的具体步骤可以如下：首先，将当前请求中携带的用户标识转换为0与1之间的哈希值；之后，比较该哈希值与第一类降级策略中的访问量降级比例，在该哈希值小于第一类降级策略中的访问量降级比例时，控制服务提供者不提供访问；在该哈希值不小于第一类降级策略中的访问量降级比例时，控制服务提供者提供访问。
在本发明实施例中，可以通过以下步骤对服务提供者执行降级：首先，遍历每一第一类降级策略，获取服务提供者的响应时长指标和可用率指标满足降级条件的第一类降级策略，并将该第一类降级策略确定为第一目标策略；此后，对该服务提供者执行第一目标策略中的第一类降级操作。
具体应用中，当任一服务提供者的运行指标满足预设的第一类恢复策略时，可以对该服务提供者执行对应于第一类降级操作的恢复操作。具体地，第一类恢复策略用于恢复正在执行降级的服务提供者的原有工作状态，其可以包括恢复条件和恢复操作。一般地，每一第一类降级策略均与一个第一类恢复策略对应，在相互对应的第一类降级策略和第一类恢复策略中，降级操作与恢复操作相互对应，该恢复操作用于消除降级操作的影响从而使服务提供者回到原有工作状态。例如，某第一类降级策略为：当TP90大于1000毫秒时，自动降级20％的流量，则其对应的恢复策略可以是：当TP90小于500毫秒时，恢复全部流量。
步骤S102：采集该节点的资源利用率数据，统计资源利用率数据以获取该节点在当前统计周期的资源利用率指标，依据资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作。
在本步骤中，资源利用率可以包括CPU利用率、内存利用率、磁盘利用率和/或功率利用率，第二类降级策略用于通过监测节点的资源利用率进而执行降级，其可以包括降级条件和相应的第二类降级操作。其中，降级条件表征对节点执行降级时节点需要满足的资源利用率指标；第二类降级操作是针对节点预设的特定操作，可以包括：将当前请求对应的任务转换为延时任务(该延时任务可以在访问量较小的时段执行)、将当前请求对应的任务发送到预设的任务队列进行排队处理、和/或拒绝特定类型的当前请求(例如网络爬虫)。
具体应用中，可以通过以下步骤对节点执行降级：首先，遍历每一第二类降级策略，获取节点的资源利用率指标满足降级条件的第二类降级策略，将该第二类降级策略确定为第二目标策略；此后，对该节点执行第二目标策略中的第二类降级操作。
具体应用中，当任一节点的资源利用率指标满足预设的第二类恢复策略时，可以对该节点执行对应于第二类降级操作的恢复操作。具体地，第二类恢复策略用于恢复正在执行降级的节点的原有工作状态，其可以包括恢复条件和恢复操作。一般地，每一第二类降级策略均与一个第二类恢复策略对应，在相互对应的第二类降级策略和第二类恢复策略中，降级操作与恢复操作相互对应，该恢复操作用于消除降级操作的影响从而使节点回到原有工作状态。例如，某第二类降级策略为：当CPU利用率大于80％时，将当前请求对应的任务发送到任务队列进行处理，则其对应的恢复策略可以是：当CPU利用率小于50％时，实时处理当前请求对应的任务。此外，可以理解，步骤S101与步骤S102可以按照任何先后顺序执行，也可以同时执行。
图2是本发明实施例中分布式系统的服务降级方法的系统架构示意图，如图2所述，分布式系统中支持每一服务的实例可以作为分布式系统的节点。具体地，监控模块用于采集每一实例的相关数据进而计算每一实例的资源利用率指标及其服务提供者的运行指标；配置模块用于由系统管理员预先配置第一类降级策略、第一类恢复策略、第二类降级策略以及第二类恢复策略，并依据监控模块提供的指标为每一实例确定第一目标策略和第二目标策略(还可以确定第一类恢复策略和第二类恢复策略)；执行模块用于根据监控模块确定的策略对实例及其服务提供者执行相应的降级或恢复操作，实际应用中，执行模块可以通过变量控制或消息队列通知的方式执行上述操作。
在本发明实施例的技术方案中，对于分布式系统的任一节点：采集该节点的服务提供者的运行数据，进而统计服务提供者的运行指标，依据运行指标以及第一类降级策略对服务提供者执行第一类降级操作；采集该节点的资源利用率数据，进而统计该节点的资源利用率指标，依据资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作。这样，能够实现自动监控系统性能、根据相关指标和预先配置的降级策略进行自动降级的效果，由此避免人工控制方式引发的降级失误以及系统不可用。同时，本发明实施例能够依据公布式系统中任一节点的不同角色执行相应的降级操作，即在将该节点作为服务接受者时，依据服务提供者的响应时长、可用率等运行指标执行请求转换、请求限制等降级操作；在将该节点作为服务提供者时，依据该节点的资源利用率指标执行任务延时处理、任务异步处理等降级操作，从而在分布式系统中实现更为精准的降级处理，能够进一步保障分布式系统的稳定性和可用性。
需要说明的是，对于前述的各方法实施例，为了便于描述，将其表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明并不受所描述的动作顺序的限制，某些步骤事实上可以采用其它顺序进行或者同时进行。此外，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是实现本发明所必须的。
为便于更好的实施本发明实施例的上述方案，下面还提供用于实施上述方案的相关装置。
请参阅图3所示，本发明实施例提供的分布式系统的服务降级装置300可以包括：第一降级单元301和第二降级单元302。
其中，第一降级单元301可用于：针对分布式系统中的任一节点，采集向该节点提供服务的任一服务提供者的运行数据，统计所述运行数据以获取该服务提供者在当前统计周期的运行指标，依据所述运行指标以及预设的第一类降级策略对该服务提供者执行第一类降级操作；第二降级单元302可用于：采集该节点的资源利用率数据，统计所述资源利用率数据以获取该节点在当前统计周期的资源利用率指标，依据所述资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作。
在本发明实施例中，所述运行数据包括响应时长数据和可用率数据，所述运行指标包括响应时长指标和可用率指标，任一第一类降级策略包括降级条件和相应的第一类降级操作；所述资源利用率数据包括CPU利用率、内存利用率、磁盘利用率和/或功率利用率，任一第二类降级策略包括降级条件和相应的第二类降级操作；以及，第一降级单元301可进一步用于：遍历每一第一类降级策略，获取服务提供者的响应时长指标和可用率指标满足降级条件的第一类降级策略，将该第一类降级策略确定为第一目标策略；对该服务提供者执行第一目标策略中的第一类降级操作；第二降级单元302可进一步用于：遍历每一第二类降级策略，获取节点的资源利用率指标满足降级条件的第二类降级策略，将该第二类降级策略确定为第二目标策略；对该节点执行第二目标策略中的第二类降级操作。
较佳地，第一类降级操作可以包括：将数据库读取请求转换为缓存读取请求、和/或基于哈希算法限制当前请求；第二类降级操作可以包括：将当前请求对应的任务转换为延时任务、将当前请求对应的任务发送到预设的任务队列进行处理、和/或拒绝特定类型的当前请求。
作为一个优选方案，第一目标策略中可以包括访问量降级比例；以及，第一降级单元301可进一步用于：将当前请求中携带的用户标识转换为0与1之间的哈希值；在该哈希值小于第一目标策略中的访问量降级比例时，控制服务提供者不提供访问；在该哈希值不小于第一目标策略中的访问量降级比例时，控制服务提供者提供访问。
此外，在本发明实施例中，所述装置300可以进一步包括恢复单元，其用于：在任一服务提供者的运行指标满足预设的第一类恢复策略时，对该服务提供者执行对应于第一类降级操作的恢复操作；在节点的资源利用率指标满足预设的第二类恢复策略时，对该节点执行对应于第二类降级操作的恢复操作。
在本发明实施例的技术方案中，对于分布式系统的任一节点：采集该节点的服务提供者的运行数据，进而统计服务提供者的运行指标，依据运行指标以及第一类降级策略对服务提供者执行第一类降级操作；采集该节点的资源利用率数据，进而统计该节点的资源利用率指标，依据资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作。这样，能够实现自动监控系统性能、根据相关指标和预先配置的降级策略进行自动降级的效果，由此避免人工控制方式引发的降级失误以及系统不可用。同时，本发明实施例能够依据公布式系统中任一节点的不同角色执行相应的降级操作，即在将该节点作为服务接受者时，依据服务提供者的响应时长、可用率等运行指标执行请求转换、请求限制等降级操作；在将该节点作为服务提供者时，依据该节点的资源利用率指标执行任务延时处理、任务异步处理等降级操作，从而在分布式系统中实现更为精准的降级处理，能够进一步保障分布式系统的稳定性和可用性。
图4示出了可以应用本发明实施例的分布式系统的服务降级方法或分布式系统的服务降级装置的示例性系统架构400。
如图4所示，系统架构400可以包括终端设备401、402、403，网络404和服务器405(此架构仅仅是示例，具体架构中包含的组件可以根据申请具体情况调整)。网络404用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等。
用户可以使用终端设备401、402、403通过网络404与服务器405交互，以接收或发送消息等。终端设备401、402、403上可以安装有各种通讯客户端应用，例如服务降级控制应用(仅为示例)。
终端设备401、402、403可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器405可以是提供各种服务的服务器，例如对用户利用终端设备401、402、403所操作的服务降级控制应用提供支持的降级管理服务器(仅为示例)。降级管理服务器405可以对接收到的降级操作请求等进行处理，并将处理结果(例如降级操作结果--仅为示例)反馈给终端设备401、402、403。
需要说明的是，本发明实施例所提供的分布式系统的服务降级方法一般由服务器405执行，相应地，分布式系统的服务降级装置一般设置于服务器405中。
应该理解，图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
本发明还提供了一种电子设备。本发明实施例的电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明所提供的分布式系统的服务降级方法。
下面参考图5，其示出了适于用来实现本发明实施例的电子设备的计算机系统500的结构示意图。图5示出的电子设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示，计算机系统500包括中央处理单元(CPU)501，其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM503中，还存储有计算机系统500操作所需的各种程序和数据。CPU501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
以下部件连接至I/O接口505：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便从其上读出的计算机程序根据需要被安装入存储部分508。
特别地，根据本发明公开的实施例，上文的主要步骤图描述的过程可以被实现为计算机软件程序。例如，本发明实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行主要步骤图所示的方法的程序代码。在上述实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元501执行时，执行本发明的系统中限定的上述功能。
需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。在本发明中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这根据所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括第一降级单元和第二降级单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一降级单元还可以被描述为“对服务提供者执行降级操作的单元”。
作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中的。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该设备执行时，使得该设备执行的步骤包括：针对分布式系统中的任一节点：采集向该节点提供服务的任一服务提供者的运行数据，统计所述运行数据以获取该服务提供者在当前统计周期的运行指标，依据所述运行指标以及预设的第一类降级策略对该服务提供者执行第一类降级操作；采集该节点的资源利用率数据，统计所述资源利用率数据以获取该节点在当前统计周期的资源利用率指标，依据所述资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作。
在本发明实施例的技术方案中，对于分布式系统的任一节点：采集该节点的服务提供者的运行数据，进而统计服务提供者的运行指标，依据运行指标以及第一类降级策略对服务提供者执行第一类降级操作；采集该节点的资源利用率数据，进而统计该节点的资源利用率指标，依据资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作。这样，能够实现自动监控系统性能、根据相关指标和预先配置的降级策略进行自动降级的效果，由此避免人工控制方式引发的降级失误以及系统不可用。同时，本发明实施例能够依据公布式系统中任一节点的不同角色执行相应的降级操作，即在将该节点作为服务接受者时，依据服务提供者的响应时长、可用率等运行指标执行请求转换、请求限制等降级操作；在将该节点作为服务提供者时，依据该节点的资源利用率指标执行任务延时处理、任务异步处理等降级操作，从而在分布式系统中实现更为精准的降级处理，能够进一步保障分布式系统的稳定性和可用性。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种分布式系统的服务降级方法，其特征在于，包括：
针对分布式系统中的任一节点：
采集向该节点提供服务的任一服务提供者的运行数据，统计所述运行数据以获取该服务提供者在当前统计周期的运行指标，依据所述运行指标以及预设的第一类降级策略对该服务提供者执行第一类降级操作；
采集该节点的资源利用率数据，统计所述资源利用率数据以获取该节点在当前统计周期的资源利用率指标，依据所述资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作。
2.根据权利要求1所述的方法，其特征在于，所述运行数据包括响应时长数据和可用率数据，所述运行指标包括响应时长指标和可用率指标，任一第一类降级策略包括降级条件和相应的第一类降级操作；以及，所述依据所述运行指标以及预设的第一类降级策略对该服务提供者执行第一类降级操作，包括：
遍历每一第一类降级策略，获取服务提供者的响应时长指标和可用率指标满足降级条件的第一类降级策略，将该第一类降级策略确定为第一目标策略；
对该服务提供者执行第一目标策略中的第一类降级操作。
3.根据权利要求2所述的方法，其特征在于，所述资源利用率数据包括CPU利用率、内存利用率、磁盘利用率和/或功率利用率，任一第二类降级策略包括降级条件和相应的第二类降级操作；以及，所述依据所述资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作，包括：
遍历每一第二类降级策略，获取节点的资源利用率指标满足降级条件的第二类降级策略，将该第二类降级策略确定为第二目标策略；
对该节点执行第二目标策略中的第二类降级操作。
4.根据权利要求3所述的方法，其特征在于，
第一类降级操作包括：将数据库读取请求转换为缓存读取请求、和/或基于哈希算法限制当前请求；
第二类降级操作包括：将当前请求对应的任务转换为延时任务、将当前请求对应的任务发送到预设的任务队列进行处理、和/或拒绝特定类型的当前请求。
5.根据权利要求4所述的方法，其特征在于，第一目标策略中包括访问量降级比例；以及，所述基于哈希算法限制当前请求，包括：
将当前请求中携带的用户标识转换为0与1之间的哈希值；
在该哈希值小于第一目标策略中的访问量降级比例时，控制服务提供者不提供访问；
在该哈希值不小于第一目标策略中的访问量降级比例时，控制服务提供者提供访问。
6.根据权利要求1所述的方法，其特征在于，所述方法进一步包括：
在任一服务提供者的运行指标满足预设的第一类恢复策略时，对该服务提供者执行对应于第一类降级操作的恢复操作；
在节点的资源利用率指标满足预设的第二类恢复策略时，对该节点执行对应于第二类降级操作的恢复操作。
7.一种分布式系统的服务降级装置，其特征在于，包括：
第一降级单元，用于：针对分布式系统中的任一节点，采集向该节点提供服务的任一服务提供者的运行数据，统计所述运行数据以获取该服务提供者在当前统计周期的运行指标，依据所述运行指标以及预设的第一类降级策略对该服务提供者执行第一类降级操作；
第二降级单元，用于：采集该节点的资源利用率数据，统计所述资源利用率数据以获取该节点在当前统计周期的资源利用率指标，依据所述资源利用率指标以及预设的第二类降级策略对该节点执行第二类降级操作。
8.根据权利要求7所述的装置，其特征在于，所述运行数据包括响应时长数据和可用率数据，所述运行指标包括响应时长指标和可用率指标，任一第一类降级策略包括降级条件和相应的第一类降级操作；所述资源利用率数据包括CPU利用率、内存利用率、磁盘利用率和/或功率利用率，任一第二类降级策略包括降级条件和相应的第二类降级操作；以及，
第一降级单元进一步用于：遍历每一第一类降级策略，获取服务提供者的响应时长指标和可用率指标满足降级条件的第一类降级策略，将该第一类降级策略确定为第一目标策略；对该服务提供者执行第一目标策略中的第一类降级操作；
第二降级单元进一步用于：遍历每一第二类降级策略，获取节点的资源利用率指标满足降级条件的第二类降级策略，将该第二类降级策略确定为第二目标策略；对该节点执行第二目标策略中的第二类降级操作。
9.一种电子设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-6中任一所述的方法。
CN202110119150.4A 2021-01-28 2021-01-28 分布式系统的服务降级方法和装置 Active CN113778730B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110119150.4A CN113778730B (zh) 2021-01-28 2021-01-28 分布式系统的服务降级方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110119150.4A CN113778730B (zh) 2021-01-28 2021-01-28 分布式系统的服务降级方法和装置

Publications (2)

Publication Number Publication Date
CN113778730A true CN113778730A (zh) 2021-12-10
CN113778730B CN113778730B (zh) 2024-04-05

Family

ID=78835557

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110119150.4A Active CN113778730B (zh) 2021-01-28 2021-01-28 分布式系统的服务降级方法和装置

Country Status (1)

Country Link
CN (1) CN113778730B (zh)

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6526521B1 (en) * 1999-06-18 2003-02-25 Emc Corporation Methods and apparatus for providing data storage access
US20100099388A1 (en) * 2008-10-16 2010-04-22 At & T Delaware Intellectual Property, Inc., A Corporation Of The State Of Delaware Devices, methods, and computer-readable media for providing broad quality of service optimization using policy-based selective quality degradation
CN103095744A (zh) * 2011-10-28 2013-05-08 中国移动通信集团公司 对等网络节点降级方法及系统、对等网络节点
CN103581289A (zh) * 2012-08-09 2014-02-12 国际商业机器公司 有助于分布式计算系统的服务提供和协调的方法和系统
US20150207711A1 (en) * 2012-07-13 2015-07-23 Thomson Licensing Method for isolated anomaly detection in large-scale data processing systems
CN106453457A (zh) * 2015-08-10 2017-02-22 微软技术许可有限责任公司 云计算平台内的多优先级服务实例分配
CN107066332A (zh) * 2017-01-25 2017-08-18 广东神马搜索科技有限公司 分布式系统及其调度方法和调度装置
CN107196785A (zh) * 2017-03-31 2017-09-22 北京奇艺世纪科技有限公司 后端服务自动降级的方法及装置
CN108924244A (zh) * 2018-07-24 2018-11-30 广东神马搜索科技有限公司 分布式系统以及用于该系统的流量分配方法和装置
CN109144699A (zh) * 2018-08-31 2019-01-04 阿里巴巴集团控股有限公司 分布式任务调度方法、装置及系统
CN110071952A (zh) * 2018-01-24 2019-07-30 北京京东尚科信息技术有限公司 服务调用量的控制方法和装置
CN110505155A (zh) * 2019-08-13 2019-11-26 北京达佳互联信息技术有限公司 请求降级处理方法、装置、电子设备及存储介质
US20200084293A1 (en) * 2018-02-20 2020-03-12 Intuit Inc. Method and apparatus for predicting experience degradation events in microservice-based applications

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6526521B1 (en) * 1999-06-18 2003-02-25 Emc Corporation Methods and apparatus for providing data storage access
US20100099388A1 (en) * 2008-10-16 2010-04-22 At & T Delaware Intellectual Property, Inc., A Corporation Of The State Of Delaware Devices, methods, and computer-readable media for providing broad quality of service optimization using policy-based selective quality degradation
CN103095744A (zh) * 2011-10-28 2013-05-08 中国移动通信集团公司 对等网络节点降级方法及系统、对等网络节点
US20150207711A1 (en) * 2012-07-13 2015-07-23 Thomson Licensing Method for isolated anomaly detection in large-scale data processing systems
CN103581289A (zh) * 2012-08-09 2014-02-12 国际商业机器公司 有助于分布式计算系统的服务提供和协调的方法和系统
CN106453457A (zh) * 2015-08-10 2017-02-22 微软技术许可有限责任公司 云计算平台内的多优先级服务实例分配
CN107066332A (zh) * 2017-01-25 2017-08-18 广东神马搜索科技有限公司 分布式系统及其调度方法和调度装置
CN107196785A (zh) * 2017-03-31 2017-09-22 北京奇艺世纪科技有限公司 后端服务自动降级的方法及装置
CN110071952A (zh) * 2018-01-24 2019-07-30 北京京东尚科信息技术有限公司 服务调用量的控制方法和装置
US20200084293A1 (en) * 2018-02-20 2020-03-12 Intuit Inc. Method and apparatus for predicting experience degradation events in microservice-based applications
CN108924244A (zh) * 2018-07-24 2018-11-30 广东神马搜索科技有限公司 分布式系统以及用于该系统的流量分配方法和装置
CN109144699A (zh) * 2018-08-31 2019-01-04 阿里巴巴集团控股有限公司 分布式任务调度方法、装置及系统
CN110505155A (zh) * 2019-08-13 2019-11-26 北京达佳互联信息技术有限公司 请求降级处理方法、装置、电子设备及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
高子妍;王勇;: "面向云服务的分布式消息系统负载均衡策略", 计算机科学, no. 1, pages 33 - 35 *

Also Published As

Publication number Publication date
CN113778730B (zh) 2024-04-05

Similar Documents

Publication Publication Date Title
US9923965B2 (en) Storage mirroring over wide area network circuits with dynamic on-demand capacity
CN111786895A (zh) 动态全局限流的方法和装置
EP3985932A1 (en) Method and apparatus for node speed limiting, electronic device, and storage medium
CN109936613B (zh) 应用于服务器的容灾方法和装置
CN111131058A (zh) 访问量控制方法和装置
CN109428926B (zh) 一种调度任务节点的方法和装置
CN107819745B (zh) 异常流量的防御方法和装置
CN110008187B (zh) 文件传输调度方法、装置、设备及计算机可读存储介质
CN110071952B (zh) 服务调用量的控制方法和装置
CN111447113B (zh) 一种系统监控方法和装置
CN113742389A (zh) 一种业务处理方法和装置
CN113778730B (zh) 分布式系统的服务降级方法和装置
CN111831503A (zh) 一种基于监控代理的监控方法和监控代理装置
CN115543416A (zh) 一种配置更新方法、装置、电子设备及存储介质
CN114612212A (zh) 一种基于风险控制的业务处理方法、装置和系统
CN114265692A (zh) 服务调度方法、装置、设备以及存储介质
CN109388546B (zh) 处理应用程序的故障的方法、装置和系统
CN113760982B (zh) 一种数据处理方法和装置
CN113626175A (zh) 数据处理的方法和装置
CN114745276B (zh) 交换机带宽调整方法、装置、电子设备和计算机可读介质
CN113779019B (zh) 一种基于环形链表的限流方法和装置
CN113760982A (zh) 一种数据处理方法和装置
CN113779019A (zh) 一种基于环形链表的限流方法和装置
JP6646340B2 (ja) 分散装置および分散方法
CN116032737A (zh) 一种服务资源处理的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant