CN113301168A - 一种动态策略灰度发布引擎实现请求精准分流方法及系统 - Google Patents

Abstract

本发明公开了一种动态策略灰度发布引擎实现请求精准分流方法及系统，该方法包括以下步骤：S1、通过灰度发布管控平台进行不同策略下分流规则配置，并实时下发到分流引擎；S2、由分流引擎提取请求特征并与分流规则进行配对，根据配对结果实现精准分流。有益效果：通过灰度发布管控平台进行不同策略下分流规则配置，能够实时地将请求分发至分流引擎，提高分流的效率；通过分流引擎对不同协议的请求的处理，能够高效地对流量进行精准分发，且能够根据产品发布处于不同阶段时用户请求特征动态的配置发布规则，做到不重启应用实时生效，进而大大提高流量分发的精确度与效率。

Description

一种动态策略灰度发布引擎实现请求精准分流方法及系统

技术领域

本发明涉及流量分发技术领域，具体来说，涉及一种动态策略灰度发布引擎实现请求精准分流方法及系统。

背景技术

在这个技术多样性的时代，能否实现业务快速创新，很大程度上决定了一个企业的核心竞争力。这种要求同样渗透到了传统行业，比如中国电信和中国移动，在近几年的技术规范书中对持续发布都提出了比较明确的要求。灰度发布是一种实现持续发布的有效手段，它是指在黑与白之间，能够平滑过渡的一种发布方式。让一部分用户继续用A，一部分用户开始用B，如果用户对B没有什么反对意见，那么逐步扩大范围，把所有用户都迁移到B上面来。灰度发布可以保证整体系统的稳定，在初始灰度的时候就可以发现、调整问题，以保证其影响度，从而降低生产环境中引入新版本的风险。大部分互联网公司也都使用了灰度发布来降低版本发布的影响。

灰度发布是一项体系化工程，通过对版本发布过程进行建模，可以抽象出：发布计划、部署规则、分流规则、平台连接器、发布流水线等模型，基于这套模型来实现灰度发布过程可定义、可管控和可追溯。由于发布模式的不同加之业务环境的差异使得整个发布过程十分复杂，需要针对不同场景配置不同的发布策略，同时建立一套规则引擎实现流量的精准分发。

针对相关技术中的问题，目前尚未提出有效的解决方案。

发明内容

针对相关技术中的问题，本发明提出一种动态策略灰度发布引擎实现请求精准分流方法及系统，以克服现有相关技术所存在的上述技术问题。

为此，本发明采用的具体技术方案如下：

根据本发明的一个方面，提供了一种动态策略灰度发布引擎实现请求精准分流方法，该方法包括以下步骤：

S1、通过灰度发布管控平台进行不同策略下分流规则配置，并实时下发到分流引擎；

S2、由分流引擎提取请求特征并与分流规则进行配对，根据配对结果实现精准分流。

进一步的，所述策略包括系统级发布策略与服务级发布策略；

其中，所述系统级发布策略为将整个系统部署成两套物理隔离的环境，通过入口网关接入请求流量，经由灰度发布引擎进行分流的发布策略；所述服务级发布策略为对单个或多个微服务进行灰度发布，在服务入口处通过分流引擎进行分流的分布策略。

进一步的，所述灰度发布管控平台与所述分流引擎之间的规则同步通过引入动态配置服务实现。

进一步的，所述由分流引擎提取请求特征并与分流规则进行配对，根据配对结果实现精准分流包括以下步骤：

S21、所述分流引擎根据不同的请求类型，依据协议解析并提取请求包头和包体，并从包头或者包体中提取出源数据作为请求特征；

S22、当所述请求特征与分流规则配对成功，则将当前请求分流至灰度环境中，否则默认分流到生产环境。

进一步的，所述请求类型包括HTTP请求与远程过程调用协议请求，所述分流引擎包括处理HTTP请求的HTTP协议处理引擎模块与处理远程过程调用协议请求的远程过程调用引擎模块。

进一步的，所述HTTP协议处理引擎模块处理HTTP请求的步骤包括：

S211′、核心引擎从HTTP首部获取上游服务传递的灰度标识，若存在灰度标识，则直接分流到灰度环境，若不存在灰度标识，则进入下一步骤；

S212′、从动态配置中心拉取分流规则，根据分流规则的配置从超文本传输协议请求中提取请求特征；

S213′、对提取到的请求特征与规则配置目标值进行配对，并对配对结果作为灰度标识写入请求上下文，再由调用链技术向下传递；

S214′、核心引擎根据灰度标识进行流量的精准分发。

进一步的，所述远程过程调用引擎模块处理远程过程调用协议请求的步骤包括：

S211′′、核心引擎从请求上下文中获取灰度标识，从请求中提取请求特征，从动态配置中心拉取分流规则；

S212′′、从服务注册中心拉取服务提供者列表，并对提供者列表进行重组，分为生产组与灰度组；

S213′′、若存在上游服务传递的灰度标识，则将请求分发到目标分组，若不存在，则进入下一步骤；

S214′′、对提取到的请求特征与规则配置的目标值进行配对，并将配对结果作为灰度标识写入请求上下文，并由调用链技术向下传递，同时根据配对结果将请求分发至目标分组，若成功配对则转发到灰度组，若失败则转到生产组；

S215′′、核心引擎从上下文中提取灰度标识，并将灰度标识写入线程上下文，避免下游规则引擎重复解析。

进一步的，所述调用链技术包括分布式跟踪系统与分布式性能监控系统。

根据本发明的另一个方面，还提供了一种动态策略灰度发布引擎实现请求精准分流系统，该系统包括以下组成：

灰度发布管控平台，用于进行不同策略下分流规则配置，并实时下发到分流引擎；

分流引擎，用于提取请求特征并与分流规则进行配对，根据配对结果实现精准分流；

动态配置服务中心，用于实现灰度发布管控平台和分流引擎的规则同步；

调用链模块，用于传递配对结果与请求上下文。

进一步的，所述分流引擎包括处理HTTP请求的HTTP协议处理引擎模块与处理远程过程调用协议请求的远程过程调用引擎模块。

本发明的有益效果为：通过灰度发布管控平台进行不同策略下分流规则配置，能够实时地将请求分发至分流引擎，提高分流的效率；同时，通过引入动态配置服务，能够实现灰度发布管控平台和分流引擎的规则同步，避免出现引擎重复解析带来的规则不一致的风险。通过分流引擎对不同协议的请求的处理，能够高效地对流量进行精准分发，且能够根据产品发布处于不同阶段时用户请求特征动态的配置发布规则，做到不重启应用实时生效，进而大大提高流量分发的精确度与效率。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是根据本发明实施例的一种动态策略灰度发布引擎实现请求精准分流方法的流程图；

图2是根据本发明实施例的一种动态策略灰度发布引擎实现请求精准分流方法中系统级和服务级发布策略示意图；

图3是根据本发明实施例的一种动态策略灰度发布引擎实现请求精准分流方法中Lua引擎实现原理；

图4是根据本发明实施例的一种动态策略灰度发布引擎实现请求精准分流方法中Dubbo引擎实现原理；

图5是根据本发明实施例的一种动态策略灰度发布引擎实现请求精准分流系统的系统框图。

图中：

1、灰度发布管控平台；2、分流引擎；3、动态配置服务中心；4、调用链模块。

具体实施方式

为进一步说明各实施例，本发明提供有附图，这些附图为本发明揭露内容的一部分，其主要用以说明实施例，并可配合说明书的相关描述来解释实施例的运作原理，配合参考这些内容，本领域普通技术人员应能理解其他可能的实施方式以及本发明的优点，图中的组件并未按比例绘制，而类似的组件符号通常用来表示类似的组件。

根据本发明的实施例，提供了一种动态策略灰度发布引擎实现请求精准分流方法。

现结合附图和具体实施方式对本发明进一步说明，如图1所示，根据本发明实施例的动态策略灰度发布引擎实现请求精准分流方法，该方法包括以下步骤：

S1、通过灰度发布管控平台进行不同策略下分流规则配置，并实时下发到分流引擎；

其中，所述策略包括系统级发布策略与服务级发布策略，如图2所示，所述系统级发布策略为将整个系统部署成两套物理隔离的环境，通过入口网关接入请求流量，经由灰度发布引擎进行分流的发布策略（适用于系统级业务迭代）；所述服务级发布策略为对单个或多个微服务进行灰度发布，在服务入口处通过分流引擎进行分流的分布策略（适用于：服务重构，性能优化，Hotfix等）。

此外，所述灰度发布管控平台与所述分流引擎之间的规则同步通过引入动态配置服务实现，常见支持动态配置服务的组件有Zookeeper（分布式的，开放源码的分布式应用程序协调服务），与Nacos（开源软件，提供简单易用的特性集，快速实现动态服务发现、服务配置、服务元数据及流量管理），此类组件均提供了可实时感知服务端配置变更的客户端。

S2、由分流引擎提取请求特征并与分流规则进行配对，根据配对结果实现精准分流。

具体的，所述S2中由分流引擎提取请求特征并与分流规则进行配对，根据配对结果实现精准分流包括以下步骤：

S21、所述分流引擎根据不同的请求类型，依据协议解析并提取请求包头和包体，并从包头或者包体中提取出源数据作为请求特征；

S22、当所述请求特征与分流规则配对成功，则将当前请求分流至灰度环境中，否则默认分流到生产环境。

其中，所述请求类型包括HTTP请求与远程过程调用协议请求，所述分流引擎包括处理HTTP请求的HTTP协议处理引擎模块（NGINX+Lua引擎模块）与处理远程过程调用（RPC）协议请求的远程过程调用引擎模块（RPC引擎模块处理）。

具体的，如图3所示，所述HTTP协议处理引擎模块处理HTTP请求的步骤包括：

S211′、核心引擎从HTTP首部（HTTP HEAD）获取上游服务传递的灰度标识，若存在灰度标识，则直接分流到灰度环境，若不存在灰度标识，则进入下一步骤；

S212′、从动态配置中心拉取分流规则，根据分流规则的配置从超文本传输协议请求中提取请求特征（可以是从HTTP HEAD中提取，也可以是从COOKIE或PARAMETER中提取）；

S213′、对提取到的请求特征与规则配置目标值进行配对，并对配对结果作为灰度标识写入请求上下文，再由调用链技术向下传递；

S214′、核心引擎根据灰度标识进行流量的精准分发。

具体的，如图4所示，在微服务架构中，不同的功能服务之间需要频繁的进行信息交互，性能因素会作为通信协议选型的重要考量。RPC全称Remote Procedure Call，即远程过程调用，是一种高性能的网络通信技术，常见的RPC框架如Dubbo， Spring Cloud，RPC引擎的处理逻辑需要针对不同的RPC框架进行设计实现，方案类似，以Dubbo为例，所述远程过程调用引擎模块处理远程过程调用协议请求的步骤包括：

S211′′、核心引擎从请求上下文中获取灰度标识，从请求中提取请求特征，从动态配置中心拉取分流规则；

S212′′、从服务注册中心拉取服务提供者列表，并对提供者列表进行重组，分为生产组与灰度组；

S213′′、若存在上游服务传递的灰度标识，则将请求分发到目标分组，若不存在，则进入下一步骤；

S214′′、对提取到的请求特征与规则配置的目标值进行配对，并将配对结果作为灰度标识写入请求上下文，并由调用链技术向下传递，同时根据配对结果将请求分发至目标分组，若成功配对则转发到灰度组，若失败则转到生产组；

S215′′、核心引擎从上下文中提取灰度标识，并将灰度标识写入线程上下文，避免下游规则引擎重复解析（避免规则不一致风险，即如果应用业务逻辑内部进行线程切换，需要把灰度标识传递到下一个线程的上下文对象）。

其中，所述调用链技术包括分布式跟踪系统（Zipkin）、分布式性能监控系统（Pinpoint）与Skywalking，此类组件都提供了baggage技术，可以将用户数据写入调用链上下文，并支持通过SDK的方式提取。

根据本发明的另一个实施例，如图5所示，还提供了一种动态策略灰度发布引擎实现请求精准分流系统，该系统包括以下组成：

灰度发布管控平台1，用于进行不同策略下分流规则配置，并实时下发到分流引擎；

分流引擎2，用于提取请求特征并与分流规则进行配对，根据配对结果实现精准分流；

动态配置服务中心3，用于实现灰度发布管控平台1和分流引擎2的规则同步；

调用链模块4，用于传递配对结果与请求上下文。

其中，所述分流引擎2包括处理HTTP请求的HTTP协议处理引擎模块与处理远程过程调用协议请求的远程过程调用引擎模块。

以下为结合表格，通过列举具体规则、生产分组及灰度分组等信息对本发明步骤做举例说明：

步骤一：通过灰度发布管控平台针对不同的发布策略配置发布分组，通常分为两个分组，生产环境分组ProdGroup和灰度环境分组TestGroup，如表1所示；

表1：

步骤二：通过灰度发布管控平台针对不同的协议类型配置分流规则，本例我们为不同的发布阶段配置不同的分流规则，如表2所示；

表2：

步骤三：通过灰度发布管控平台配置一个发布计划，并在不同的发布阶段绑定步骤一和步骤二中已经配置的分组规则和分流规则，如表3所示；

表3：

步骤四：启动灰度发布计划，在不同的发布阶段将对应的分组和分流信息下发同步到分流引擎，由引擎进行动态分流。

综上所述，借助于本发明的上述技术方案，通过灰度发布管控平台进行不同策略下分流规则配置，能够实时地将请求分发至分流引擎，提高分流的效率；同时，通过引入动态配置服务，能够实现灰度发布管控平台和分流引擎的规则同步，避免出现引擎重复解析带来的规则不一致的风险。通过分流引擎对不同协议的请求的处理，能够高效地对流量进行精准分发，且能够根据产品发布处于不同阶段时用户请求特征动态的配置发布规则，做到不重启应用实时生效，进而大大提高流量分发的精确度与效率。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (7)

1.一种动态策略灰度发布引擎实现请求精准分流方法，其特征在于，该方法包括以下步骤：

S1、通过灰度发布管控平台进行不同策略下分流规则配置，并实时下发到分流引擎；

S2、由分流引擎提取请求特征并与分流规则进行配对，根据配对结果实现精准分流；

其中，所述由分流引擎提取请求特征并与分流规则进行配对，根据配对结果实现精准分流包括以下步骤：

S21、所述分流引擎根据不同的请求类型，依据协议解析并提取请求包头和包体，并从包头或者包体中提取出源数据作为请求特征；

S22、当所述请求特征与分流规则配对成功，则将当前请求分流至灰度环境中，否则默认分流到生产环境；

其中，所述请求类型包括HTTP请求与远程过程调用协议请求，所述分流引擎包括处理HTTP请求的HTTP协议处理引擎模块与处理远程过程调用协议请求的远程过程调用引擎模块；

所述HTTP协议处理引擎模块处理HTTP请求的步骤包括：

S211′、核心引擎从HTTP首部获取上游服务传递的灰度标识，若存在灰度标识，则直接分流到灰度环境，若不存在灰度标识，则进入下一步骤；

S212′、从动态配置中心拉取分流规则，根据分流规则的配置从HTTP请求中提取请求特征；

S213′、对提取到的请求特征与规则配置目标值进行配对，并对配对结果作为灰度标识写入请求上下文，再由调用链技术向下传递；

S214′、核心引擎根据灰度标识进行流量的精准分发。

2.根据权利要求1所述的一种动态策略灰度发布引擎实现请求精准分流方法，其特征在于，所述策略包括系统级发布策略与服务级发布策略；

其中，所述系统级发布策略为将整个系统部署成两套物理隔离的环境，通过入口网关接入请求流量，经由灰度发布引擎进行分流的发布策略；所述服务级发布策略为对单个或多个微服务进行灰度发布，在服务入口处通过分流引擎进行分流的分布策略。

3.根据权利要求2所述的一种动态策略灰度发布引擎实现请求精准分流方法，其特征在于，所述灰度发布管控平台与所述分流引擎之间的规则同步通过引入动态配置服务实现。

4.根据权利要求3所述的一种动态策略灰度发布引擎实现请求精准分流方法，其特征在于，所述远程过程调用引擎模块处理远程过程调用协议请求的步骤包括：

S211′′、核心引擎从请求上下文中获取灰度标识，从请求中提取请求特征，从动态配置中心拉取分流规则；

S212′′、从服务注册中心拉取服务提供者列表，并对提供者列表进行重组，分为生产组与灰度组；

S213′′、若存在上游服务传递的灰度标识，则将请求分发到目标分组，若不存在，则进入下一步骤；

S214′′、对提取到的请求特征与规则配置的目标值进行配对，并将配对结果作为灰度标识写入请求上下文，并由调用链技术向下传递，同时根据配对结果将请求分发至目标分组，若成功配对则转发到灰度组，若失败则转到生产组；

S215′′、核心引擎从上下文中提取灰度标识，并将灰度标识写入线程上下文，避免下游规则引擎重复解析。

5.根据权利要求4所述的一种动态策略灰度发布引擎实现请求精准分流方法，其特征在于，所述调用链技术包括分布式跟踪系统与分布式性能监控系统。

6.一种动态策略灰度发布引擎实现请求精准分流系统，用于权利要求1-5中任一项动态策略灰度发布引擎实现请求精准分流方法的实现，其特征在于，该系统包括以下组成：

灰度发布管控平台（1），用于进行不同策略下分流规则配置，并实时下发到分流引擎；

分流引擎（2），用于提取请求特征并与分流规则进行配对，根据配对结果实现精准分流；

动态配置服务中心（3），用于实现灰度发布管控平台（1）和分流引擎（2）的规则同步；

调用链模块（4），用于传递配对结果与请求上下文。

7.根据权利要求6所述的一种动态策略灰度发布引擎实现请求精准分流系统，其特征在于，所述分流引擎（2）包括处理HTTP请求的HTTP协议处理引擎模块与处理远程过程调用协议请求的远程过程调用引擎模块。

Images