CN112764919A - 分布式服务自适应负载均衡方法及装置 - Google Patents
分布式服务自适应负载均衡方法及装置 Download PDFInfo
- Publication number
- CN112764919A CN112764919A CN202011641408.9A CN202011641408A CN112764919A CN 112764919 A CN112764919 A CN 112764919A CN 202011641408 A CN202011641408 A CN 202011641408A CN 112764919 A CN112764919 A CN 112764919A
- Authority
- CN
- China
- Prior art keywords
- load balancing
- node
- current node
- distributed service
- index
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 61
- 238000011144 upstream manufacturing Methods 0.000 claims abstract description 74
- 230000007613 environmental effect Effects 0.000 claims abstract description 24
- 230000003044 adaptive effect Effects 0.000 claims description 40
- 238000012544 monitoring process Methods 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 15
- 230000003828 downregulation Effects 0.000 claims description 15
- 239000000725 suspension Substances 0.000 claims description 14
- 230000003827 upregulation Effects 0.000 claims description 11
- 238000012216 screening Methods 0.000 claims description 9
- 238000002955 isolation Methods 0.000 claims description 2
- 238000004891 communication Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 13
- 238000004519 manufacturing process Methods 0.000 description 11
- 230000004044 response Effects 0.000 description 11
- 238000012545 processing Methods 0.000 description 8
- 230000002159 abnormal effect Effects 0.000 description 6
- 239000002131 composite material Substances 0.000 description 5
- 239000000872 buffer Substances 0.000 description 4
- 238000012360 testing method Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer And Data Communications (AREA)
Abstract
本申请实施例提供一种分布式服务自适应负载均衡方法及装置，属于分布式服务领域，方法包括：接收分布式服务架构中当前节点发送的环境时序数据；根据所述环境时序数据中各特征指标的指标数据，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略；本申请能够自动、灵活、准确得调整分布式服务框架中各节点的负载均衡策略，保障整体稳定性。
Description
技术领域
本申请涉及分布式服务领域，具体涉及一种分布式服务自适应负载均衡方法及装置。
背景技术
随着互联网的普及，互联网用户的急速增长，分布式服务架构已经成为主流架构。现有的分布式服务框架的负载均衡策略在服务启动时根据配置文件参数决定负载策略，无法在运行过程中，根据上下游环境的变化，实时动态自适应调整负载均衡策略，比如在运行过程中,某个下游节点处理能力降低，堆积大量请求，或开始出现超时失败情况，现有框架无法动态调整负载均衡策略，降低该节点负载或隔离该下游节点，造成服务失败率升高。
综上，目前没有方式解决分布式服务框架运行时，根据运行实时情况，自适应调整负载策略，因此，如何提供一种新的方案，解决上述技术问题是本领域亟待解决的技术难题。
发明内容
针对现有技术中的问题，本申请提供一种分布式服务自适应负载均衡方法及装置，能够自动、灵活、准确得调整分布式服务框架中各节点的负载均衡策略，保障整体稳定性。
为了解决上述问题中的至少一个，本申请提供以下技术方案：
第一方面，本申请提供一种分布式服务自适应负载均衡方法，包括：
接收分布式服务架构中当前节点发送的环境时序数据；
根据所述环境时序数据中各特征指标的指标数据，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略。
进一步地，所述当前节点发送的环境时序数据是所述当前节点根据设定频率监测自身基础环境数据和业务环境数据后，按照时间维度聚合而成的。
进一步地，所述根据所述环境时序数据中各特征指标的指标数据，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，包括：
根据预设优先级筛选规则确定所述环境时序数据中各特征指标的指标优先级；
根据不同指标优先级的特征指标的指标数据，得到对应的负载均衡策略更新信息并发送至所述当前节点的上游节点。
进一步地，所述根据不同指标优先级的特征指标的指标数据，得到对应的负载均衡策略更新信息并发送至所述当前节点的上游节点，包括：
若所述特征指标的指标优先级为普通优先级，则根据各普通优先级的特征指标的指标数据以及对应的预设权重得到所述当前节点的节点状态评分；
根据所述节点状态评分与预设节点状态基准评分的数值比较关系，生成对应的负载均衡策略上调信息或负载均衡策略下调信息并发送至所述当前节点的上游节点。
进一步的，所述根据不同指标优先级的特征指标的指标数据，得到对应的负载均衡策略更新信息并发送至所述当前节点的上游节点，包括：
若所述特征指标的指标优先级为高优先级，且所述高优先级的特征指标的指标数据小于对应的预设阈值，则生成对应的负载均衡策略中止信息并发送至所述当前节点的上游节点。
进一步的，所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略，包括：
所述上游节点根据所述负载均衡策略上调信息或负载均衡策略下调信息对所述当前节点执行对应的流量增加操作或流量减少操作，或所述上游节点根据所述负载均衡策略中止信息停止向所述当前节点的流量输出。
进一步的，在所述上游节点根据所述负载均衡策略中止信息停止向所述当前节点的流量输出之后，包括：
对所述当前节点执行网络隔离操作。
第二方面，本申请提供一种分布式服务自适应负载均衡装置，包括：
当前节点监测模块，用于接收分布式服务架构中当前节点发送的环境时序数据；
负载均衡策略更新模块，用于根据所述环境时序数据中各特征指标的指标数据，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略。
第三方面，本申请提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现所述的分布式服务自适应负载均衡方法的步骤。
第四方面，本申请提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现所述的分布式服务自适应负载均衡方法的步骤。
由上述技术方案可知，本申请提供一种分布式服务自适应负载均衡方法及装置，通过接收分布式服务架构中当前节点发送的环境时序数据，并根据所述环境时序数据中的各特征指标和对应的预设权重确定所述当前节点的节点负载状态，根据所述当前节点的节点负载状态，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略，由此根据生产环境实时运行状况，动态自适应调整各当前节点的负载，保障整体稳定性。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例中的分布式服务自适应负载均衡方法的流程示意图之一；
图2A为本申请实施例中的分布式服务自适应负载均衡方法的流程示意图之二；
图2B为本申请实施例中的分布式服务自适应负载均衡方法的流程示意图之三；
图3为本申请实施例中的分布式服务自适应负载均衡装置的结构图之一；
图4为本申请一具体实施例中的当前节点上报环境时序数据的示意图；
图5为本申请一具体实施例中的对当前节点进行评分的示意图；
图6为本申请一具体实施例中的确定异常节点的示意图；
图7为本申请实施例中的电子设备的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整的描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
考虑到现有技术无法动态调整负载均衡策略，降低该节点负载或隔离该下游节点。造成服务失败率升高的问题，本申请提供一种分布式服务自适应负载均衡方法及装置，通过接收分布式服务架构中当前节点发送的环境时序数据，并根据所述环境时序数据中的各特征指标和对应的预设权重确定所述当前节点的节点负载状态，根据所述当前节点的节点负载状态，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略，由此根据生产环境实时运行状况，动态自适应调整各当前节点的负载，保障整体稳定性。
为了能够自动、灵活、准确得调整分布式服务框架中各节点的负载均衡策略，保障整体稳定性，本申请提供一种分布式服务自适应负载均衡方法的实施例，参见图1，所述分布式服务自适应负载均衡方法具体包含有如下内容：
步骤S101：接收分布式服务架构中当前节点发送的环境时序数据。
可选的，本步骤的执行主体可以是一种与分布式服务架构中的当前节点通信连接的智能决策系统，也可以由一监控系统先与当前节点通信连接，且主动/被动采集当前节点的环境时序数据，再发送至所述智能决策系统。
可选的，所述环境时序数据可以实时采集，也可以按照设定频率定时采集。
可选的，所述环境时序数据可以为当前节点的基础环境数据，例如CPU和内存，也可以为当前节点的业务环境数据，例如当前响应时间、等待队列长度等，本申请在此对所述环境时序数据的具体类型不做具体限定，能够从某一维度表征当前节点的当前负载状态即可。
步骤S102：根据所述环境时序数据中各特征指标的指标数据，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略。
可选的，由上述内容可知，所述环境时序数据可以包含多种特征指标，而每种特征指标均可对应有不同的指标优先级和预设权重，所述指标优先级和所述预设权重可以通过本申请的智能决策系统随时人为更改。
可选的，所述指标优先级包括但不限于：普通优先级和高优先级，本申请可以通过一预设优先级筛选规则从所述环境时序数据的各个特征指标中筛选出普通优先级的特征指标和高优先级的特征指标，所述优先级筛选规则可以包含有预先定义的各特征指标与指标优先级的对应关系。
举例来说，高优先级指标为成功率，普通优先级指标为等待队列、响应时间、基础环境，其分别占比一部分权重，由此对所有当前节点进行综合打分。此外，本申请还可以通过智能决策系统根据环境和实践经验，人为动态调整各特征指标与指标优先级的对应关系。
在本申请的一些可行实施例中，在得到当前节点的综合评分后即可根据综合评分的数值大小确定当前节点的当前负载状态，例如综合评分90分，则确定当前节点的当前负载状态正常，综合评分30分，则确定当前节点的当前负载状态异常。
可选的，当确定当前节点为异常节点时，本申请可以通过智能决策系统，或通过一配置中心向分布式服务架构中当前节点的上游节点发送负载均衡策略更新信息，以进行该上游节点的负载均衡策略调整。
可选的，所述负载均衡策略更新信息可以为一流量下调指令或流量上调指令，也可以为一流量中止指令，具体可由智能决策中心依据当前节点的综合评分数值大小决定。
举例来说，参见图6，上游节点A的框架接收到更新的策略后，动态实时更新框架负载均衡策略，调整对下游发请求的权重，如下游节点queue3发生了大规模失败，通过监控系统反馈给智能决策系统后，经过综合打分后，调整该节点的权重为0，上游节点A就不会给该节点发送流量，网络隔离该节点，保障交易的正常执行。
由此，本申请能在运行过程中，动态自适应调整分布式系统中提供方节点的负载权重值，在消费方路由流量时，会给健壮的(分值高)的提供方负载更多流量，对不健康的压力大的(分值低)提供方，动态减少流量，防止该提供方堆积请求，造成请求超时，或者雪崩，最终造成交易失败。对彻底雪崩的节点，能直接网格隔离，不在负载流量，保障交易正常运行。
从上述描述可知，本申请实施例提供的分布式服务自适应负载均衡方法，能够通过接收分布式服务架构中当前节点发送的环境时序数据，并根据所述环境时序数据中的各特征指标和对应的预设权重确定所述当前节点的节点负载状态，根据所述当前节点的节点负载状态，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略，由此根据生产环境实时运行状况，动态自适应调整各当前节点的负载，保障整体稳定性。
为了能够准确监测分布式服务架构中当前节点的状态，在本申请的分布式服务自适应负载均衡方法的一实施例中，所述当前节点发送的环境时序数据是所述当前节点根据设定频率监测自身基础环境数据和业务环境数据后，按照时间维度聚合而成的。
可选的，所述环境时序数据可以为当前节点的基础环境数据，例如CPU和内存，也可以为当前节点的业务环境数据，例如当前响应时间、等待队列长度等，本申请在此对所述环境时序数据的具体类型不做具体限定，能够从某一维度表征当前节点的当前负载状态即可。
可选的，本申请可以定期汇总、聚合各当前节点传来的数据，按照时间的维度聚合成时序数据，如每分钟各节点成功率、响应时间等等，然后推送给智能决策系统，智能决策系统根据每个节点的监控数据，再进行多个维度综合打分。
为了能够准确更新上游节点对当前节点的负载均衡策略，在本申请的分布式服务自适应负载均衡方法的一实施例中，参见图2A，上述步骤S102还包括：
步骤S201：根据预设优先级筛选规则确定所述环境时序数据中各特征指标的指标优先级。
步骤S202：根据不同指标优先级的特征指标的指标数据，得到对应的负载均衡策略更新信息并发送至所述当前节点的上游节点。
可选的，所述环境时序数据可以包含多种特征指标，而每种特征指标均可对应有不同的指标优先级和预设权重，所述指标优先级和所述预设权重可以通过本申请的智能决策系统随时人为更改。
可选的，所述指标优先级包括但不限于：普通优先级和高优先级，本申请可以通过一预设优先级筛选规则从所述环境时序数据的各个特征指标中筛选出普通优先级的特征指标和高优先级的特征指标，所述优先级筛选规则可以包含有预先定义的各特征指标与指标优先级的对应关系。
具体的，在得到当前节点的综合评分后即可根据综合评分的数值大小确定当前节点的当前负载状态，例如综合评分90分，则确定当前节点的当前负载状态正常，综合评分30分，则确定当前节点的当前负载状态异常。
可选的，当确定当前节点为异常节点时，本申请可以通过智能决策系统，或通过一配置中心向分布式服务架构中当前节点的上游节点发送负载均衡策略更新信息，以进行该上游节点的负载均衡策略调整。
为了能够准确更新上游节点对当前节点的负载均衡策略，在本申请的分布式服务自适应负载均衡方法的一实施例中，参见图2B，在上述步骤S202中还包括：
步骤S301：若所述特征指标的指标优先级为普通优先级，则根据各普通优先级的特征指标的指标数据以及对应的预设权重得到所述当前节点的节点状态评分。
步骤S302：根据所述节点状态评分与预设节点状态基准评分的数值比较关系，生成对应的负载均衡策略上调信息或负载均衡策略下调信息并发送至所述当前节点的上游节点。
可选的，本申请在判定所述特征指标的指标优先级为普通优先级时，可以根据各普通优先级的特征指标的指标数据以及对应的预设权重得到所述当前节点的节点状态评分，例如当前节点的两种特征指标为等待队列和响应时间，在等待时间指标中其具体指标数据为10，由于其队列数量较多，与之对应的预设权重为30％，同时响应时间为5s，由于其响应时间较短，与之对应的预设权重为70％，由此可得当前节点的节点状态评分为10x30％+5x70％＝6.5。
可选的，由于当前节点的节点状态评分与预设节点状态基准评分(例如8)相比小1.5分，则可据此生成一负载均衡策略下调信息，其中包含有与1.5分相应的下调比例，例如下调15％。
为了能够准确更新上游节点对当前节点的负载均衡策略，在本申请的分布式服务自适应负载均衡方法的一实施例中，在上述步骤S202中还包括：
若所述特征指标的指标优先级为高优先级，且所述高优先级的特征指标的指标数据小于对应的预设阈值，则生成对应的负载均衡策略中止信息并发送至所述当前节点的上游节点。
可选的，本申请在判定所述特征指标的指标优先级为高优先级时，可以根据该高优先级的特征指标的指标数据与对应的预设阈值进行数值比较，例如当前节点的一种特征指标为成功率，其具体指标数据为50％，低于预设阈值(例如60％)，据此可以生成一负载均衡策略中止信息，用于停止上游节点向当前节点输出流量。
为了能够及时有效的对当前节点进行流量调控，在本申请的分布式服务自适应负载均衡方法的一实施例中，还包括：
所述上游节点根据所述负载均衡策略上调信息或负载均衡策略下调信息对所述当前节点执行对应的流量增加操作或流量减少操作，或所述上游节点根据所述负载均衡策略中止信息停止向所述当前节点的流量输出。
可选的，本申请可以通过智能决策系统，或通过一配置中心向分布式服务架构中当前节点的上游节点发送负载均衡策略更新信息，以进行该上游节点的负载均衡策略调整。
可选的，所述负载均衡策略更新信息可以为一流量下调指令或一流程上调指令，也可以为一流量中止指令，具体可由智能决策中心依据当前节点的综合评分数值大小决定。
举例来说，参见图6，上游节点A的框架接收到更新的策略后，动态实时更新框架负载均衡策略，调整对下游发请求的权重，如下游节点queue3发生了大规模失败，通过监控系统反馈给智能决策系统后，经过综合打分后，调整该节点的权重为0，上游节点A就不会给该节点发送流量，网络隔离该节点，保障交易的正常执行。
为了能够自动、灵活、准确得调整分布式服务框架中各节点的负载均衡策略，保障整体稳定性，本申请提供一种用于实现所述分布式服务自适应负载均衡方法的全部或部分内容的分布式服务自适应负载均衡装置的实施例，参见图3，所述分布式服务自适应负载均衡装置具体包含有如下内容：
当前节点监测模块10，用于接收分布式服务架构中当前节点发送的环境时序数据。
负载均衡策略更新模块20，根据所述环境时序数据中各特征指标的指标数据，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略。
从上述描述可知，本申请实施例提供的分布式服务自适应负载均衡装置，能够通过接收分布式服务架构中当前节点发送的环境时序数据，并根据所述环境时序数据中的各特征指标和对应的预设权重确定所述当前节点的节点负载状态，根据所述当前节点的节点负载状态，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略，由此根据生产环境实时运行状况，动态自适应调整各当前节点的负载，保障整体稳定性。
为了更进一步说明本方案，本申请还提供一种应用上述分布式服务自适应负载均衡装置实现分布式服务自适应负载均衡方法的具体应用实例，具体包含有：当前节点、监测系统、智能决策系统以及配置中心，其具体执行步骤如下：
步骤1)：分布式服务框架在运行过程，把本节点(即当前节点)的运行状态信息上报至监控系统(参见图4)。
步骤2)：监控系统把分布式节点运行状态信息，按时间片聚合汇总后实时定期通知到智能决策系统。
步骤3)：智能决策系统根据监控汇总数据，通过多个维度如(CPU、内存、当前响应平均耗时等等)对各节点进行综合打分(参见图5)。
步骤4)：智能决策系统对各节点打分后，根据分数对上游节点对应的下游所有节点的负载权重进行重新调整，如下游某节点大规模雪崩时，权重调整为0，隔离该节点(参见图6)。
步骤5)：智能决策系统将权重调整策略通过配置中心下发至上游节点。
步骤6)：上游节点收到配置中心推送策略后，内部通过分布式服务框架根据策略重新更新负载均衡策略。
具体的，分布式节点在运行过程中，通过分布式服务框架做负载均衡流量转发。同时会定期上报监控数据至监控系统。如图4所示，是本发明分布式节点运行时，应用程序和其基础分布式服务框运行在同一进程中，对外暴露微服务，在运行过程中，间隔每分钟(可配)发送当前微服务进程的运行状况给监控系统。上报内容分为基础环境数据(CPU等)和当前节点业务环境数据(当前响应时间、等待队列长度等)。
数据上报到监控系统后，如图5所示，监控系统定期汇总，聚合各分布式节点传来的数据，按照时间的维度聚合成时序数据，如每分钟各节点成功率、响应时间等等，然后推送给智能决策系统，智能决策系统根据每个节点的监控数据，进行多个维度综合打分。
如根据优先级设置最优先指标，然后其余指标动态调整比例，如最优先指标为成功率，如果成功率为0则打分为0，等待队列，响应时间，基础环境为次级指标，分别占比一部分权重，对所有节点进行综合打分。打分策略能通过智能决策系统动态调整，根据环境和实践经验，调整最优。
智能决策系统打完分后，再根据每个节点的分数，对提供方节点重新调整每个节点的负载均衡权重。
更新后的负载权重，通过配置中心实时下发，如图6所示，服务A的框架接收到更新的策略后，动态实时更新框架负载均衡策略，调整对下游发请求的权重，如下游queue3发生了大规模失败，通过监控反馈给智能决策系统后，经过综合打分后，就调整该节点的权重为0，上游ServiceA就不会给该节点发送流量，网络隔离该节点，保障交易的正常执行。
该系统对能在运行过程中，动态自适应调整分布式系统中提供方节点的负载权重值，在消费方路由流量时，会给健壮的(分值高)的提供方负载更多流量，对不健康的压力大的(分值低)提供方，动态减少流量，防止该提供方堆积请求，造成请求超时，或者雪崩，最终造成交易失败。对彻底雪崩的节点，能直接网格隔离，不在负载流量，保障交易正常运行。
有上述内容可知，本申请至少还可以实现以下技术效果：
1、根据生产环境实时运行状况，对一些有堆积请求的慢节点，能动态自适应调整降低其负载，防止过多压力彻底压垮该节点，造成服务交易失败或超时。
2、根据生产环境实时运行状况，对异常节点，能动态自适应隔离该节点，保障交易成功运行。
3、通过测试环境调优的负载均衡策略，由于测试环境和生产环境存在差异，测试环境的负载均衡策略不一定适用于生产环境，能根据当前环境自适应调优负载均衡策略。
从硬件层面来说，为了能够自动、灵活、准确得调整分布式服务框架中各节点的负载均衡策略，保障整体稳定性，本申请提供一种用于实现所述分布式服务自适应负载均衡方法中的全部或部分内容的电子设备的实施例，所述电子设备具体包含有如下内容：
处理器(processor)、存储器(memory)、通信接口(Communications Interface)和总线；其中，所述处理器、存储器、通信接口通过所述总线完成相互间的通信；所述通信接口用于实现分布式服务自适应负载均衡装置与核心业务系统、用户终端以及相关数据库等相关设备之间的信息传输；该逻辑控制器可以是台式计算机、平板电脑及移动终端等，本实施例不限于此。在本实施例中，该逻辑控制器可以参照实施例中的分布式服务自适应负载均衡方法的实施例，以及分布式服务自适应负载均衡装置的实施例进行实施，其内容被合并于此，重复之处不再赘述。
可以理解的是，所述用户终端可以包括智能手机、平板电子设备、网络机顶盒、便携式计算机、台式电脑、个人数字助理(PDA)、车载设备、智能穿戴设备等。其中，所述智能穿戴设备可以包括智能眼镜、智能手表、智能手环等。
在实际应用中，分布式服务自适应负载均衡方法的部分可以在如上述内容所述的电子设备侧执行，也可以所有的操作都在所述客户端设备中完成。具体可以根据所述客户端设备的处理能力，以及用户使用场景的限制等进行选择。本申请对此不作限定。若所有的操作都在所述客户端设备中完成，所述客户端设备还可以包括处理器。
上述的客户端设备可以具有通信模块(即通信单元)，可以与远程的服务器进行通信连接，实现与所述服务器的数据传输。所述服务器可以包括任务调度中心一侧的服务器，其他的实施场景中也可以包括中间平台的服务器，例如与任务调度中心服务器有通信链接的第三方服务器平台的服务器。所述的服务器可以包括单台计算机设备，也可以包括多个服务器组成的服务器集群，或者分布式装置的服务器结构。
图7为本申请实施例的电子设备9600的系统构成的示意框图。如图7所示，该电子设备9600可以包括中央处理器9100和存储器9140；存储器9140耦合到中央处理器9100。值得注意的是，该图7是示例性的；还可以使用其他类型的结构，来补充或代替该结构，以实现电信功能或其他功能。
一实施例中，分布式服务自适应负载均衡方法功能可以被集成到中央处理器9100中。其中，中央处理器9100可以被配置为进行如下控制：
步骤S101：接收分布式服务架构中当前节点发送的环境时序数据。
步骤S102：根据所述环境时序数据中的各特征指标和对应的预设权重确定所述当前节点的节点负载状态。
步骤S103：根据所述当前节点的节点负载状态，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略。
从上述描述可知，本申请实施例提供的电子设备，通过接收分布式服务架构中当前节点发送的环境时序数据，并根据所述环境时序数据中的各特征指标和对应的预设权重确定所述当前节点的节点负载状态，根据所述当前节点的节点负载状态，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略，由此根据生产环境实时运行状况，动态自适应调整各当前节点的负载，保障整体稳定性。
在另一个实施方式中，分布式服务自适应负载均衡装置可以与中央处理器9100分开配置，例如可以将分布式服务自适应负载均衡装置配置为与中央处理器9100连接的芯片，通过中央处理器的控制来实现分布式服务自适应负载均衡方法功能。
如图7所示，该电子设备9600还可以包括：通信模块9110、输入单元9120、音频处理器9130、显示器9160、电源9170。值得注意的是，电子设备9600也并不是必须要包括图7中所示的所有部件；此外，电子设备9600还可以包括图7中没有示出的部件，可以参考现有技术。
如图7所示，中央处理器9100有时也称为控制器或操作控件，可以包括微处理器或其他处理器装置和/或逻辑装置，该中央处理器9100接收输入并控制电子设备9600的各个部件的操作。
其中，存储器9140，例如可以是缓存器、闪存、硬驱、可移动介质、易失性存储器、非易失性存储器或其它合适装置中的一种或更多种。可储存上述与失败有关的信息，此外还可存储执行有关信息的程序。并且中央处理器9100可执行该存储器9140存储的该程序，以实现信息存储或处理等。
输入单元9120向中央处理器9100提供输入。该输入单元9120例如为按键或触摸输入装置。电源9170用于向电子设备9600提供电力。显示器9160用于进行图像和文字等显示对象的显示。该显示器例如可为LCD显示器，但并不限于此。
该存储器9140可以是固态存储器，例如，只读存储器(ROM)、随机存取存储器(RAM)、SIM卡等。还可以是这样的存储器，其即使在断电时也保存信息，可被选择性地擦除且设有更多数据，该存储器的示例有时被称为EPROM等。存储器9140还可以是某种其它类型的装置。存储器9140包括缓冲存储器9141(有时被称为缓冲器)。存储器9140可以包括应用/功能存储部9142，该应用/功能存储部9142用于存储应用程序和功能程序或用于通过中央处理器9100执行电子设备9600的操作的流程。
存储器9140还可以包括数据存储部9143，该数据存储部9143用于存储数据，例如联系人、数字数据、图片、声音和/或任何其他由电子设备使用的数据。存储器9140的驱动程序存储部9144可以包括电子设备的用于通信功能和/或用于执行电子设备的其他功能(如消息传送应用、通讯录应用等)的各种驱动程序。
通信模块9110即为经由天线9111发送和接收信号的发送机/接收机9110。通信模块(发送机/接收机)9110耦合到中央处理器9100，以提供输入信号和接收输出信号，这可以和常规移动通信终端的情况相同。
基于不同的通信技术，在同一电子设备中，可以设置有多个通信模块9110，如蜂窝网络模块、蓝牙模块和/或无线局域网模块等。通信模块(发送机/接收机)9110还经由音频处理器9130耦合到扬声器9131和麦克风9132，以经由扬声器9131提供音频输出，并接收来自麦克风9132的音频输入，从而实现通常的电信功能。音频处理器9130可以包括任何合适的缓冲器、解码器、放大器等。另外，音频处理器9130还耦合到中央处理器9100，从而使得可以通过麦克风9132能够在本机上录音，且使得可以通过扬声器9131来播放本机上存储的声音。
本申请的实施例还提供能够实现上述实施例中的执行主体为服务器或客户端的分布式服务自适应负载均衡方法中全部步骤的一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述实施例中的执行主体为服务器或客户端的分布式服务自适应负载均衡方法的全部步骤，例如，所述处理器执行所述计算机程序时实现下述步骤：
步骤S101：接收分布式服务架构中当前节点发送的环境时序数据。
步骤S102：根据所述环境时序数据中的各特征指标和对应的预设权重确定所述当前节点的节点负载状态。
步骤S103：根据所述当前节点的节点负载状态，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略。
从上述描述可知，本申请实施例提供的计算机可读存储介质，通过接收分布式服务架构中当前节点发送的环境时序数据，并根据所述环境时序数据中的各特征指标和对应的预设权重确定所述当前节点的节点负载状态，根据所述当前节点的节点负载状态，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略，由此根据生产环境实时运行状况，动态自适应调整各当前节点的负载，保障整体稳定性。
本领域内的技术人员应明白，本发明的实施例可提供为方法、装置、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(装置)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
本发明中应用了具体实施例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种分布式服务自适应负载均衡方法，其特征在于，所述方法包括：
接收分布式服务架构中当前节点发送的环境时序数据；
根据所述环境时序数据中各特征指标的指标数据，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略。
2.根据权利要求1所述的分布式服务自适应负载均衡方法，其特征在于，所述当前节点发送的环境时序数据是所述当前节点根据设定频率监测自身基础环境数据和业务环境数据后，按照时间维度聚合而成的。
3.根据权利要求1所述的分布式服务自适应负载均衡方法，其特征在于，所述根据所述环境时序数据中各特征指标的指标数据，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，包括：
根据预设优先级筛选规则确定所述环境时序数据中各特征指标的指标优先级；
根据不同指标优先级的特征指标的指标数据，得到对应的负载均衡策略更新信息并发送至所述当前节点的上游节点。
4.根据权利要求3所述的分布式服务自适应负载均衡方法，其特征在于，所述根据不同指标优先级的特征指标的指标数据，得到对应的负载均衡策略更新信息并发送至所述当前节点的上游节点，包括：
若所述特征指标的指标优先级为普通优先级，则根据各普通优先级的特征指标的指标数据以及对应的预设权重得到所述当前节点的节点状态评分；
根据所述节点状态评分与预设节点状态基准评分的数值比较关系，生成对应的负载均衡策略上调信息或负载均衡策略下调信息并发送至所述当前节点的上游节点。
5.根据权利要求4所述的分布式服务自适应负载均衡方法，其特征在于，所述根据不同指标优先级的特征指标的指标数据，得到对应的负载均衡策略更新信息并发送至所述当前节点的上游节点，包括：
若所述特征指标的指标优先级为高优先级，且所述高优先级的特征指标的指标数据小于对应的预设阈值，则生成对应的负载均衡策略中止信息并发送至所述当前节点的上游节点。
6.根据权利要求5所述的分布式服务自适应负载均衡方法，其特征在于，所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略，包括：
所述上游节点根据所述负载均衡策略上调信息或负载均衡策略下调信息对所述当前节点执行对应的流量增加操作或流量减少操作，或所述上游节点根据所述负载均衡策略中止信息停止向所述当前节点的流量输出。
7.根据权利要求6所述的分布式服务自适应负载均衡方法，其特征在于，在所述上游节点根据所述负载均衡策略中止信息停止向所述当前节点的流量输出之后，包括：
对所述当前节点执行网络隔离操作。
8.一种分布式服务自适应负载均衡装置，其特征在于，包括：
当前节点监测模块，用于接收分布式服务架构中当前节点发送的环境时序数据；
负载均衡策略更新模块，用于根据所述环境时序数据中各特征指标的指标数据，向所述分布式服务架构中所述当前节点的上游节点发送负载均衡策略更新信息，以使所述上游节点根据所述负载均衡策略更新信息更新对所述当前节点的负载均衡策略。
9.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1至7任一项所述的分布式服务自适应负载均衡方法的步骤。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现权利要求1至7任一项所述的分布式服务自适应负载均衡方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011641408.9A CN112764919A (zh) | 2020-12-31 | 2020-12-31 | 分布式服务自适应负载均衡方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011641408.9A CN112764919A (zh) | 2020-12-31 | 2020-12-31 | 分布式服务自适应负载均衡方法及装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112764919A true CN112764919A (zh) | 2021-05-07 |
Family
ID=75698475
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011641408.9A Pending CN112764919A (zh) | 2020-12-31 | 2020-12-31 | 分布式服务自适应负载均衡方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112764919A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113542027A (zh) * | 2021-07-16 | 2021-10-22 | 中国工商银行股份有限公司 | 一种基于分布式服务架构的流量隔离方法、装置和系统 |
| CN113590236A (zh) * | 2021-08-03 | 2021-11-02 | 聚好看科技股份有限公司 | 一种服务器及微服务声明式接口超时配置方法 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140310417A1 (en) * | 2013-04-16 | 2014-10-16 | Amazon Technologies, Inc. | Connection publishing in a distributed load balancer |
| CN107204933A (zh) * | 2016-03-16 | 2017-09-26 | 华为技术有限公司 | 分布式流量调节方法及装置 |
| CN107948330A (zh) * | 2018-01-04 | 2018-04-20 | 郑州云海信息技术有限公司 | 一种云环境下基于动态优先级的负载均衡策略 |
-
2020
- 2020-12-31 CN CN202011641408.9A patent/CN112764919A/zh active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140310417A1 (en) * | 2013-04-16 | 2014-10-16 | Amazon Technologies, Inc. | Connection publishing in a distributed load balancer |
| CN107204933A (zh) * | 2016-03-16 | 2017-09-26 | 华为技术有限公司 | 分布式流量调节方法及装置 |
| CN107948330A (zh) * | 2018-01-04 | 2018-04-20 | 郑州云海信息技术有限公司 | 一种云环境下基于动态优先级的负载均衡策略 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113542027A (zh) * | 2021-07-16 | 2021-10-22 | 中国工商银行股份有限公司 | 一种基于分布式服务架构的流量隔离方法、装置和系统 |
| CN113542027B (zh) * | 2021-07-16 | 2022-10-11 | 中国工商银行股份有限公司 | 一种基于分布式服务架构的流量隔离方法、装置和系统 |
| CN113590236A (zh) * | 2021-08-03 | 2021-11-02 | 聚好看科技股份有限公司 | 一种服务器及微服务声明式接口超时配置方法 |
| CN113590236B (zh) * | 2021-08-03 | 2023-10-31 | 聚好看科技股份有限公司 | 一种服务器及微服务声明式接口超时配置方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN103119899B (zh) | 减少数据传输开销的方法和设备 | |
| CN113055479A (zh) | 分布式服务集群负载自适应处理方法、装置及系统 | |
| US10491535B2 (en) | Adaptive data synchronization | |
| CN113032233A (zh) | 分布式服务集群运行时参数自适应处理方法、装置及系统 | |
| CN112764919A (zh) | 分布式服务自适应负载均衡方法及装置 | |
| CN111756646A (zh) | 网络传输控制方法、装置、计算机设备及存储介质 | |
| CN113055483A (zh) | 消息中间件数据处理方法、装置及系统 | |
| US20230199515A1 (en) | Prioritizing an issue reported by a user of a wireless telecommunication network | |
| CN114237896A (zh) | 分布式节点资源动态调度方法及装置 | |
| US12052607B2 (en) | Communication apparatus, communication method, and program | |
| CN117560700B (zh) | 一种基于智能设备监控网络数据的控制方法及系统 | |
| CN111338905A (zh) | 应用节点数据处理方法及装置 | |
| CN106162577A (zh) | 一种消息推送方法，及消息推送设备 | |
| CN107734475B (zh) | 基于短信链路的短信发送方法及业务平台 | |
| CN112396511A (zh) | 分布式风控变量数据处理方法、装置及系统 | |
| CN115914375A (zh) | 分布式消息平台容灾处理方法及装置 | |
| CN116185755A (zh) | 分布式负载均衡系统数据处理方法及装置 | |
| CN115168139A (zh) | 一种基于监控预测的预警方法及系统 | |
| CN112905358A (zh) | 分布式系统的软件分发方法、装置及系统 | |
| CN110473103B (zh) | 应用管理方法、装置、计算机系统和介质 | |
| CN117041046A (zh) | 一种基于配置的动态流量调整方法及系统 | |
| CN116321514A (zh) | 多接入边缘计算方法及装置 | |
| CN114116179A (zh) | 一种基于预计算的多任务分配批处理方法及系统 | |
| CN113691604A (zh) | 一种网络请求的自适应限流方法、装置、设备及介质 | |
| CN118803980A (zh) | 基站业务性能监控方法、装置、设备、介质和程序产品 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |