CN115314547A - 微服务灰度发布方法、装置及系统、存储介质、电子设备 - Google Patents

Abstract

本发明涉及涉及计算机技术领域，具体涉及一种微服务灰度发布方法、装置及系统、存储介质、电子设备，该方法包括步骤：API网关接收客户端发起的服务请求；API网关根据IP地址灰名单和商户编号灰名单，确定该服务请求是否为灰度服务请求；如果不是灰度服务请求，则在应用服务集群中选择正常服务器将服务请求转发出去；如果是灰度服务请求，则先给该服务请求的请求头添加灰度服务标识，然后在应用服务集群中选择用于灰度发布的灰度服务器将服务请求转发出去。本发明通过IP地址灰名单、商户编号灰名单实现了在网关侧的灰度发布，同时灰度服务标识在应用服务集群间请求实现了全链路的灰度发布。

Description

微服务灰度发布方法、装置及系统、存储介质、电子设备

技术领域

本发明涉及计算机技术领域，特别涉及一种微服务灰度发布方法、装置及系统、存储介质、电子设备。

背景技术

基于Spring boot、Spring Cloud微服务组件实现业务服务，在敏捷开发模式的驱动下完成需求的快速迭代、发布，这对于业务服务的稳定性提出了挑战，快速迭代、发布势必会造成应用程序的频繁发布、回滚。为实现在敏捷模式下实现需求的快速迭代、发布，并且能够保障业务服务的稳定运行，降低客户感知度、减少对客户不良体验，通过扩展SpringCloud Gateway、Spring Cloud Netflix Eureka两大微服务组件功能，实现灰度发布（又名金丝雀发布）。Spring Cloud Gateway、Spring Cloud Netflix Eureka实现微服务的网关、注册中心更能够融入到现有的微服务集群中，但基于原生实现并不能满足业务基于商户的精准灰度服务转发，以及微服务间调用的全链路灰度服务调用。

发明内容

本发明的目的在于提供一种微服务灰度发布方法及系统，以满足基于商户的灰度服务转发。

为了实现上述发明目的，本发明实施例提供了以下技术方案：

一方面，本发明实施例提供了一种微服务灰度发布方法，基于Spring Cloud实现，包括以下步骤：

API网关接收客户端发起的服务请求；

API网关根据IP地址灰名单和商户编号灰名单，确定该服务请求是否为灰度服务请求；

如果不是灰度服务请求，则在应用服务集群中选择正常服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端；

如果是灰度服务请求，则先给该服务请求的请求头添加灰度服务标识，然后在应用服务集群中选择用于灰度发布的灰度服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端。

作为一种可实施方式的举例，所述API网关根据IP地址灰名单确定该服务请求是否为灰度服务请求的步骤，包括：

API网关在接收到服务请求后，获取客户端的真实IP地址，并将获取到的真实IP地址与所述IP地址灰名单中的IP地址进行匹配，如果该真实IP地址存在于所述IP地址灰名单内，则判断出该服务请求为灰度服务请求，否则为正常服务请求。

作为一种可实施方式的举例，所述API网关根据商户编号灰名单确定该服务请求是否为灰度服务请求的步骤，包括：

API网关接收到服务请求时，获取服务请求的请求头中的商户编号标识，如果服务请求的请求头中存在商户编号标识，并且该商户编号标识存在于所述商户编号灰名单中，则判断出该服务请求为灰度服务请求，否则为正常服务请求。

在更完善的方案中，所述的微服务灰度发布方法，还包括步骤：API网关根据服务请求的请求头中是否存在灰度服务标识确定该服务请求是否为灰度服务请求；如果是则直接在应用服务集群中选择用于灰度发布的灰度服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端；否则在应用服务集群中选择正常服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端。

另一方面，本发明实施例提供了一种微服务灰度发布装置，基于Spring Cloud实现，包括：

请求接收模块，用于接收客户端发起的服务请求；

灰度服务判断模块，用于根据IP地址灰名单和商户编号灰名单，确定该服务请求是否为灰度服务请求；

服务处理模块，用于当服务请求不是灰度服务请求时，在应用服务集群中选择正常服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端；以及当服务请求是灰度服务请求时，先给该服务请求的请求头添加灰度服务标识，然后在应用服务集群中选择用于灰度发布的灰度服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端。

又一方面，本发明实施例提供了一种微服务灰度发布系统，包括客户端、API网关、应用服务集群，所述应用服务集群中包括正常服务器和灰度服务器，其中，

客户端用于发出服务请求；

API网关用于接收客户端发起的服务请求，并根据IP地址灰名单和商户编号灰名单，确定该服务请求是否为灰度服务请求，如果不是灰度服务请求，则将服务请求转发给正常服务器，如果是灰度服务请求，则将服务请求转发给灰度服务器；以及将正常服务器或灰度服务器的响应结果回复给客户端；

正常服务器和灰度服务器用于响应服务请求，并将响应结果回复给API网关。

又一方面，本发明实施例提供了一种存储介质，其上存储有可运行程序，所述可运行程序被处理器运行时，实现本发明实施例中微服务灰度发布方法的步骤。

再一方面，本发明实施例提供了一种电子设备，包括处理器以及存储器，所述存储器用于存储可执行程序；所述处理器用于执行所述可执行程序以实现本发明实施例中微服务灰度发布方法的步骤。

与现有技术相比，本发明通过IP地址灰名单、商户编号灰名单实现了在网关侧的灰度发布，并满足了基于商户和IP地址的灰度服务转发，同时灰度服务标识在应用服务集群间请求实现了全链路的灰度发布。本发明实现了在敏捷开发模式下快速迭代、滚动发布的目标，同时兼顾了应用集群服务的稳定性。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍， 应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1为本发明实施例中微服务灰度发布方法的流程图。

图2为本发明实施例中微服务灰度发布系统的结构图。

图3为本发明实施例中微服务灰度发布装置的结构组成框图。

具体实施方式

下面将结合本发明实施例中附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

本实施例提供的微服务灰度发布方法，基于Spring Boot、Spring Cloud实现微服务集群。在实现微服务灰度发布之前，先要搭建微服务灰度发布系统。请参阅图2，微服务灰度发布系统包括配置中心、注册中心、API网关、应用服务集群，具体地，微服务灰度发布系统的构建包括以下步骤：

步骤1，准备配置中心服务集群。

配置中心一般包括客户端和服务端两部分，此处说的是服务端部分，服务端依赖MySQL数据库。在具备MySQL数据库的前提下，创建数据库导入表机构，修改服务端数据库的配置指向MySQL，然后部署到服务器并启动应用即准备完成。

配置中心是微服务应用架构中集中管理应用配置信息的组件，解决了应用于配置文件高度耦合的问题，实现了应用于配置信息松散的依赖关系，方便应用配置信息的统一修改、维护。本实施例中，配置信息的维护包括IP地址灰名单的维护、商户编号灰名单的维护。

所谓的灰名单即在白名单与黑名单之间，白名单是允许访问的，黑名单是不允许访问的，灰名单是特定访问的。IP地址灰名单是维护的可以访问特定服务器（即灰度服务器）的IP地址列表，通过canary-ip标识配置维护。商户编号灰名单是维护的可以访问特定服务器（即灰度服务器）的商户编号的列表，通过canary-mno标识配置维护。

步骤2，准备注册中心服务集群。

基于Spring Cloud Eureka实现的注册中心服务，分为客户端和服务端两部分。此处说明为服务端，服务端依赖MySQL数据库，准备一套MySQL数据库并建立数据导入建表语句，修改服务端的数据库配置指向MySQL数据库，在服务器上部署并启动服务端应用，注册中心准备完成。

注册中心是维护微服务注册信息的管理应用，分为客户端和服务端，服务端用于维护信息，客户端用于服务的调用和信息维护。服务端的信息维护包括应用在发布时确定灰度服务器的标识。canary代表灰度服务标识，当该标识为1时即为灰度服务器，为0时则为正常服务器。

步骤3，准备API网关集群。

API网关是统一微服务应用请求入口，实现服务请求的转发、限流、统一权限认证等功能的服务集群。

步骤4，准备应用服务集群。

主要是指在微服务架构下，在单体应用按照业务边界划分出的各微服务的应用服务集群。各应用服务联合起来完成客户业务逻辑。

本实施例微服务灰度发布系统中，还可以包括客户端，用于发出服务请求。API网关则用于接收客户端发起的服务请求，并根据IP地址灰名单和商户编号灰名单，确定该服务请求是否为灰度服务请求，如果不是灰度服务请求，则将服务请求转发给正常服务器，如果是灰度服务请求，则将服务请求转发给灰度服务器；以及将正常服务器或灰度服务器的响应结果回复给客户端。应用服务集群中的正常服务器和灰度服务器则用于响应服务请求，并将响应结果回复给API网关。

请参阅图1，本实施例中提供的基于Spring Cloud的微服务灰度发布方法包括以下步骤：

步骤10，API网关接收客户端发起的服务请求。服务请求为HTTP请求，包括请求头和请求体，请求头中包含一些标识。

步骤20，API网关根据灰度服务标识、IP地址灰名单和商户编号灰名单，确定该服务请求是否为灰度服务请求。

灰度服务标识是验证服务请求是否为灰度服务的标识，本实施例中，canary=1为灰度服务标识，canary=0为正常服务标识。请求方在发出服务请求时，如果在请求头中标记了canary=1，API网关接收到服务请求后，即可发现服务请求的请求头中存在canary=1的标识，因此判断出该服务请求为灰度服务请求。也就是说，API网关接收到服务请求后，通过判断该服务请求中的请求头中是否存在canary=1的标识来判断该服务请求是否为灰度服务请求，如果是则为灰度服务请求，否则为正常服务请求。这是最简单也是目前常用的判别手段。

IP地址灰名单中记录的是可以访问灰度服务器的IP地址列表。API网关在接收到服务请求时，会获取到客户端的真实IP地址，并与IP地址灰名单中的IP地址匹配，如果当前请求客户端真实IP地址在IP地址灰名单内，则判断出该服务请求为灰度服务请求，否则为正常服务请求。

商户编号灰名单中记录的是可以访问灰度服务器的商户编号的列表。API网关接收到服务请求时，会获取请求头中的商户编号标识（本实施例中用mno标识表示），如果服务请求中存在mno标识并且该mno标识在商户编号灰名单中，则判断出该服务请求为灰度服务请求，否则为正常服务请求。

步骤30，如果不是灰度服务请求，即转发正常服务。也就是，在应用服务集群中选择正常服务节点（正常服务器）将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端。

灰度发布是为了在新功能上线时，缩小影响客户的范围而对特定商户进行开放的服务。正常服务即为所有客户都正常在用的服务。举例：京东给客户A发了一个某功能使用要求短信，希望客户A升级APP版本，在升级后的APP中会看到其他人看不到功能。客户A使用了该功能并最终做出了评价，京东收集后说该功能还有存在的问题和改进的地方。在客户A试用的过程中对于京东后端的服务器就是走的灰度服务器，而没有收到邀请短信的其他客户就是走的正常服务器。

步骤40，如果确定是灰度服务请求，则转发灰度服务。也就是，在应用服务集群中选择用于灰度发布的灰度服务节点（灰度服务器）将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端。

一个服务对应一个应用服务集群，一个应用服务集群里可能存在灰度服务器，也可能不存在灰度服务器。因此，如果在当前应用服务集群中不存在灰度服务器，则在下一个应用服务集群中寻找灰度服务器进行服务处理。

本步骤中，针对于不同情况进行了不同处理。具体的：

如果是通过服务请求的请求头中的灰度服务标识判断出是灰度请求服务，即服务请求的请求头中直接有灰度服务标识（canary=1），那么API网关直接从应用服务集群中选择用于灰度发布的灰度服务节点（灰度服务器）进行转发。

如果是通过IP地址灰名单判断出是灰度请求服务，那么API网关先自动为该服务请求的请求头添加灰度服务标识，然后再从应用服务集群中选择用于灰度发布的灰度服务节点（灰度服务器）进行转发。

如果是通过商户编号灰名单判断出是灰度请求服务，那么API网关先自动为该服务请求的请求头添加灰度服务标识，然后再从应用服务集群中选择用于灰度发布的灰度服务节点（灰度服务器）进行转发。

上述灰度发布方法中，通过IP地址灰名单、商户编号灰名单实现了在网关侧的灰度发布，同时灰度服务标识在应用服务集群间请求实现了全链路的灰度发布。实现了在敏捷开发模式下快速迭代、滚动发布的目标，同时兼顾了应用集群服务的稳定性。

请参阅图3，基于相同的发明构思，本实施例中同时提供了一种微服务灰度发布装置，包括请求接收模块、灰度服务判断模块、服务处理模块。

其中，请求接收模块用于接收客户端发起的服务请求。

其中，灰度服务判断模块用于根据IP地址灰名单和商户编号灰名单，确定该服务请求是否为灰度服务请求。

具体的，根据IP地址灰名单确定是否为灰度服务请求时，获取客户端的真实IP地址，并将获取到的真实IP地址与所述IP地址灰名单中的IP地址进行匹配，如果该真实IP地址存在于所述IP地址灰名单内，则判断出该服务请求为灰度服务请求，否则为正常服务请求。

根据商户编号灰名单确定是否为灰度服务请求时，获取服务请求的请求头中的mno标识，如果服务请求的请求头中存在mno标识，并且该mno标识存在于所述商户编号灰名单中，则判断出该服务请求为灰度服务请求，否则为正常服务请求。

灰度服务判断模块还可以根据灰度服务标识确定是否为灰度服务请求。具体的，判断服务请求的请求头是否有灰度服务标识，如果有则判断出该服务请求为灰度服务请求，否则为正常服务请求。

其中，服务处理模块用于当服务请求不是灰度服务请求时，在应用服务集群中选择正常服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端；以及当服务请求是灰度服务请求时，先给该服务请求的请求头添加灰度服务标识，然后在应用服务集群中选择用于灰度发布的灰度服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端。

需要注意的是，如果服务请求的请求头中已经存在灰度服务标识，那么就不需要再重复添加灰度服务标识了，而是直接在应用服务集群中选择用于灰度发布的灰度服务器将服务请求转发出去。

对于微服务灰度发布装置的描述相对比较简略，可以参见前面方法的相关描述，此处不再赘述。

应该理解到，本发明所揭露的装置，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个模块或组件可以结合或者可以集成到另一个装置或系统，或一些特征可以忽略，或不执行。

在一个实施例中，本发明还提供一种电子设备，所述设备中包括处理器及存储器，所述存储器中存储有可执行程序，当所述可执行程序在计算机上运行时，所述计算机执行上述任一实施例所述的微服务灰度发布方法的步骤。

在一个实施例中，本发明还提供一种存储有可运行程序的存储介质，所述可运行程序被处理器运行时，其中所述可运行程序使得处理器执行上述任一实施例所述的微服务灰度发布方法所包含的操作步骤。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分，或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器（ROM，Read-OnlyMemory）、随机存取存储器（RAM，Random Access Memory）、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。

Claims (10)

1.一种微服务灰度发布方法，基于Spring Cloud实现，其特征在于，包括以下步骤：

API网关接收客户端发起的服务请求；

API网关根据IP地址灰名单和商户编号灰名单，确定该服务请求是否为灰度服务请求；

如果不是灰度服务请求，则在应用服务集群中选择正常服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端；

如果是灰度服务请求，则先给该服务请求的请求头添加灰度服务标识，然后在应用服务集群中选择用于灰度发布的灰度服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端。

2.根据权利要求1所述的微服务灰度发布方法，其特征在于，所述API网关根据IP地址灰名单确定该服务请求是否为灰度服务请求的步骤，包括：

API网关在接收到服务请求后，获取客户端的真实IP地址，并将获取到的真实IP地址与所述IP地址灰名单中的IP地址进行匹配，如果该真实IP地址存在于所述IP地址灰名单内，则判断出该服务请求为灰度服务请求，否则为正常服务请求。

3.根据权利要求1所述的微服务灰度发布方法，其特征在于，所述API网关根据商户编号灰名单确定该服务请求是否为灰度服务请求的步骤，包括：

API网关接收到服务请求时，获取服务请求的请求头中的商户编号标识，如果服务请求的请求头中存在商户编号标识，并且该商户编号标识存在于所述商户编号灰名单中，则判断出该服务请求为灰度服务请求，否则为正常服务请求。

4.根据权利要求1-3任一项所述的微服务灰度发布方法，其特征在于，还包括步骤：API网关根据服务请求的请求头中是否存在灰度服务标识确定该服务请求是否为灰度服务请求；如果是则直接在应用服务集群中选择用于灰度发布的灰度服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端；否则在应用服务集群中选择正常服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端。

5.一种微服务灰度发布装置，基于Spring Cloud实现，其特征在于，包括：

请求接收模块，用于接收客户端发起的服务请求；

灰度服务判断模块，用于根据IP地址灰名单和商户编号灰名单，确定该服务请求是否为灰度服务请求；

服务处理模块，用于当服务请求不是灰度服务请求时，在应用服务集群中选择正常服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端；以及当服务请求是灰度服务请求时，先给该服务请求的请求头添加灰度服务标识，然后在应用服务集群中选择用于灰度发布的灰度服务器将服务请求转发出去，并等待服务的响应结果，然后再将响应结果回复给发出服务请求的客户端。

6.根据权利要求5所述的微服务灰度发布装置，其特征在于，所述灰度服务判断模块具体用于：获取客户端的真实IP地址，并将获取到的真实IP地址与所述IP地址灰名单中的IP地址进行匹配，如果该真实IP地址存在于所述IP地址灰名单内，则判断出该服务请求为灰度服务请求，否则为正常服务请求；或者，获取服务请求的请求头中的商户编号标识，如果服务请求的请求头中存在商户编号标识，并且该商户编号标识存在于所述商户编号灰名单中，则判断出该服务请求为灰度服务请求，否则为正常服务请求。

7.根据权利要求5所述的微服务灰度发布装置，其特征在于，所述灰度服务判断模块还用于：根据服务请求的请求头中是否存在灰度服务标识确定该服务请求是否为灰度服务请求。

8.一种微服务灰度发布系统，其特征在于，包括客户端、API网关、应用服务集群，所述应用服务集群中包括正常服务器和灰度服务器，其中，

客户端用于发出服务请求；

API网关用于接收客户端发起的服务请求，并根据IP地址灰名单和商户编号灰名单，确定该服务请求是否为灰度服务请求，如果不是灰度服务请求，则将服务请求转发给正常服务器，如果是灰度服务请求，则将服务请求转发给灰度服务器；以及将正常服务器或灰度服务器的响应结果回复给客户端；

正常服务器和灰度服务器用于响应服务请求，并将响应结果回复给API网关。

9.一种存储介质，其上存储有可运行程序，其特征在于，所述可运行程序被处理器运行时，实现权利要求1-4中任一项所述的方法的步骤。

10.一种电子设备，包括处理器以及存储器，所述存储器用于存储可执行程序；其特征在于，所述处理器用于执行所述可执行程序以实现权利要求1-4中任一项所述的方法的步骤。

Images