CN117290448A - 一种多租户模式SaaS服务分布式配置同步共享的系统及方法 - Google Patents

Abstract

本发明公开了一种多租户模式SaaS服务分布式配置同步共享的系统，包括配置中心集群模块和应用实例部署模块，通过构建配置中心集群实现数据同步，并向开发者、租户提供对外HTTP服务，实现配置键值数据的存储、查询、持久化以及多节点灾备转移，将配置管理细化到键值维度；使用边车进程建立并维护轻型数据库，通过轻型数据库管理、共享、复用多进程之间的业务配置；并使用快照备份、快照恢复以及日志追赶完成轻型数据库的配置数据同步，提高了SaaS服务的稳定性，配置生效实时性，有效利用了服务器内存资源，显著减少服务器资源成本。

Description

一种多租户模式SaaS服务分布式配置同步共享的系统及方法

技术领域

本发明涉及SaaS服务技术领域，尤其涉及一种多租户模式SaaS服务分布式配置同步共享的系统及方法。

背景技术

在SaaS的多租户体系结构中，每个租户的需求是个性多样化的。例如：某某品牌的实体商品在下单时，需要根据商品的重量增加运费到订单中。而有些虚拟商品品牌客户是不需要运费的。对于SaaS开发者来说，需要在下单接口内，使用到诸如此类的配置：是否需要计算运费，运费计算的规则是什么...这就导致在同一个下单业务中，业务代码是同一套的情况下，会因为租户的需求或者体验要求不同，产生各种各样的个性化配置，有些配置项是通用的，而有些配置项是个性化的。

在传统的ToC场景中，软件开发商们往往只需要考虑自身在各个业务场景的配置项。自定义的配置数量假设为n，而对于SaaS开发者来说，配置数量会与租户的数量m产生乘积，极端情况下数量可能是n*m。

SaaS服务体量会随着租户数量，及租户业务的规模的不断变大。单体业务架构显然是无法满足服务需求的。SaaS也不例外，大多使用软件业界推崇的分布式微服务架构。它能有效，快速地提高服务的承载能力，快速扩容，高可用。但也带来了，多进程服务配置管理的难题。

在业务快速扩张的初期，我们引入了国内流行的配置中心Apollo。使用该项技术在我们业务的初期阶段，配置量较少时，满足来我们分布式业务节点，配置分发和共享的需求。但经过一段时间发展，Apollo在应对单Namespace配置超过几千甚至上万后，配置同步会出现高延迟，在Namespace中更新单个配置项会引起全量Namespace的所有配置项进行同步，导致自身CPU资源耗尽等问题时尽显疲态。

另外，在微服务的实践过程中，我们发现单机混合部署应用多版本节点是常态。而由于SaaS本身的业务多租户配置项多的缘故，每个进程都需要从配置中心，读取大量的多租户的配置保存在内存中。因为同一个服务节点会同时服务不用的租户。这些配置经过分析，占进程的申请内存不小的一部分，而这些配置在同应用不同版本中的key的差异是微小的，大多是可以复用的。

因此，亟需设计一种高性能，高可用，内存复用的分布式配置同步和配置共享的方法，来应对SaaS多租户的业务场景和微服务架构场景。

发明内容

鉴于目前存在的多租户模式SaaS服务中分布式配置管理困难，本发明提供一种多租户模式SaaS服务分布式配置同步共享的系统及方法，通过配置中心集群模块以及应用实例部署模块，将配置管理细化到键值维度，通过配置中心集群实现数据同步；使用边车进程建立维护轻型数据库，通过轻型数据库管理、共享、复用多进程之间的业务配置。

为达到上述目的，本发明的实施例采用如下技术方案：

一种多租户模式SaaS服务分布式配置同步共享的系统，包括配置中心集群模块和应用实例部署模块；

配置中心集群模块，用于通过分布式算法构建数据同步的配置中心集群，向开发者、租户提供对外HTTP服务，实现配置键值数据的存储、查询、持久化以及多节点灾备转移；

应用实例部署模块，用于在多租户模式SaaS服务环境的多个应用实例中部署单独的边车进程，并通过边车进程建立并维护的轻型数据库实现配置数据共享。

依照本发明的一个方面，所述配置中心集群包括投票节点与非投票节点，所述投票节点中包含唯一主节点与若干从节点，所述主节点配置为向开发者、租户提供HTTP服务，将开发者或租户的配置写入请求散发到从节点、非投票节点，并返回写入成功信息，所述主节点还包括快照备份。

依照本发明的一个方面，所述镜像节点配置为与所述主节点数据同步的非投票节点，并与所述边车进程实现数据同步交互，还包括快照备份、快照恢复以及日志追赶。

依照本发明的一个方面，所述从节点配置为将键值数据写入本地存储中，并向主节点返回写入成功信息。

依照本发明的一个方面，所述边车进程配置为与所述镜像节点保持HTTP长轮询通信，建立并维护轻型数据库，还包括快照恢复与日志追赶。

依照本发明的一个方面，所述轻型数据库配置为实现多进程配置共享，并将轻型数据库中的内容通过MMAP文件映射到内存，提供数据查询与访问。

依照本发明的一个方面，所述配置中心集群模块还包括监视器，所述监视器配置为监视所述从节点、所述镜像节点以及所述边车进程。

一种多租户模式SaaS服务分布式配置同步共享的方法，包括以下步骤：

获取键值数据写入请求；

将键值数据写入本地存储中；

执行镜像节点与边车进程的数据同步交互；

维护轻型数据库。

依照本发明的一个方面，多租户模式SaaS服务分布式配置同步共享的方法还包括：

若本地存储中不存在轻型数据库，初始化本地存储；

与镜像节点进行通信，请求进行轻型数据库的快照恢复；

快照恢复后进行日志追赶。

依照本发明的一个方面，所述日志追赶包括以下步骤：

将本地数据库中的日志索引发送给镜像节点；

将日志索引的值与本地的日志窗口中最小值比较；

若日志索引的值小于最小日志窗口值，执行快照恢复；

若日志索引的值大于最小日志窗口值，返回数据库中大于最小日志窗口值的记录。

本发明实施的优点：本发明所述的一种多租户模式SaaS服务分布式配置同步共享的系统，包括配置中心集群模块和应用实例部署模块，通过构建配置中心集群实现数据同步，并向开发者、租户提供对外HTTP服务，实现配置键值数据的存储、查询、持久化以及多节点灾备转移，将配置管理细化到键值维度；使用边车进程建立并维护轻型数据库，通过轻型数据库管理、共享、复用多进程之间的业务配置；并使用快照备份、快照恢复以及日志追赶完成轻型数据库的配置数据同步，提高了SaaS服务的稳定性，配置生效实时性，有效利用了服务器内存资源，显著减少服务器资源成本。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明所述的一种实施方式的系统结构图

图2为本发明所述的一种实施方式的方法流程图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例1

如图1所示，一种多租户模式SaaS服务分布式配置同步共享的系统，包括配置中心集群模块和应用实例部署模块；

配置中心集群模块，用于通过分布式算法构建数据同步的配置中心集群，向开发者、租户提供对外HTTP服务，实现配置键值数据的存储、查询、持久化以及多节点灾备转移；

应用实例部署模块，用于在多租户模式SaaS服务环境的多个应用实例中部署单独的边车进程，并通过边车进程建立并维护的轻型数据库实现配置数据共享。

在本实施例中，分布式算法使用raft算法，即分布式一致性算法，通过raft算法实现多节点共识，构建配置中心集群，并选举出Leader节点，Leader节点即主节点。

在实际应用中，配置中心集群包括投票节点与非投票节点，投票节点中包含唯一主节点与若干从节点，主节点配置为向开发者、租户提供HTTP服务，将开发者或租户的配置写入请求散发到从节点、非投票节点，并返回写入成功信息，所述主节点还包括快照备份。

在实际应用中，从节点配置为将键值数据写入本地存储中，并向主节点返回写入成功信息，且仅有半数以上投票节点写入本地存储后，才会向主节点返回写入成功信息。

在本实施例中，使用raft的扩展功能，将与主节点同步数据的非投票节点的作为镜像节点，镜像节点还配置为向上与配置中心集群保持数据同步，向下与应用实例部署模块中的边车进程做数据同步的交互。

在实际应用中，键值数据写入时，要求半数以上投票节点都写入该数据，节点越多写入性能越慢，而镜像节点作为非投票节点，不参与投票，镜像节点的数量不会影响数据的写入，作为只读节点，横向提高了配置集群的读取性能，即使访问量过大，导致镜像节点瘫痪，也不会影响中心集群的读写。

在实际应用中，应用实例部署模块可以为业务主机，在业务主机上部署与镜像节点保持HTTP长轮询通信的边车进程，边车进程还负责在当前主机上建立并维护SQLite文件数据库，即轻型数据库。

在实际应用中，轻型数据库配置为实现多进程配置共享，并将轻型数据库中的内容通过MMAP文件映射到内存，提供数据查询与访问，每个业务进程无需在本身进程中申请内存存储和维护配置数据，通过轻型数据库共享内存的方式，达到了节省内存及内存复用的目的。

在本实施例中，业务进程的读取方式为多租户临时型配置，结合短时效的本地缓存，缓存存在时从缓存中读取配置并返回，缓存不存在时读取轻型数据库中的配置，并在本地缓存设置短暂有效期，兼顾性能与内存空间消耗。

在实际应用中，配置中心集群模块还包括监视器，所述监视器配置为监视所述从节点、所述镜像节点以及所述边车进程。

在实际应用中，边车进程维护的轻型数据库，总是最终会与配置中心中的配置项保持一致，业务主机上的进程，只需要方位约定的轻型数据库就能获取到所需配置。

在实际应用中，主节点与镜像节点还包括快照备份，定时或者在日志窗口量达到阈值时进行快照备份，应用一段区间内日志窗口中对键值数据的保存/删除操作，合并为最终状态的键值快照结果，并保存在本地。

在实际应用中，镜像节点和边车进程还包括快照恢复，在本地初始化或者日志进度严重滞后的情况下，向上一级请求快照，进行一次较大的追赶过程，追赶中镜像节点会向主节点索取快照，而边车进程会向镜像节点索取快照。

在实际应用中，当快照恢复完成或者日志索引未与上级节点保持一致时，会进入日志追赶循环，具体地，日志追赶包括以下步骤：

将本地数据库中的日志索引发送给镜像节点；

镜像节点收到日志索引后，将日志索引的值与本地的日志窗口中最小值比较；

若日志索引的值小于最小日志窗口值，执行快照恢复；

若日志索引的值大于最小日志窗口值，返回数据库中大于最小日志窗口值的记录。

在实际应用中，返回的记录内容可以描述为：

(1)操作类型，包括：PUT，写入；DELETE，删除；

(2)记录内容，内容主要字段为app_id,cluster,namespace,key,value等。

在实际应用中，当有配置数据写入/删除成功时，任意的主节点，从节点，镜像节点，边车进程，以及边车进程维护的轻型数据库中都会有对应的配置数据。并且配置项的变更细化到了键值的纬度，所有改动及同步都是最小颗粒度的，开销非常小。

如图2所示，一种多租户模式SaaS服务分布式配置同步共享的方法，包括以下步骤：

步骤S1：获取键值数据写入请求；

在实际应用中，通过配置中心集群中的主节点向开发者、租户提供对外HTTP服务，开发者或租户保存配置相关的键值数据时，主节点收到写入请求并将请求下发到从节点与非投票节点。

步骤S2：将键值数据写入本地存储中；

在实际应用中，从节点与非投票节点在收到写入请求后，将键值数据写入本地存储中，并返回写入成功信息到主节点，主节点收到返回写入成功信息后，将写入成功信息返回给开发者或租户。

步骤S3：执行镜像节点与边车进程的数据同步交互；

在实际应用中，超过半数的投票节点写入键值数据后，镜像节点会与配置中心集群保持数据同步，还会与边车进程进行数据同步交互。

步骤S4：维护轻型数据库。

在实际应用中，边车进程会根据与镜像节点的数据同步交互结果，对轻型数据库进行维护，使配置相关的键值数据也存储到轻型数据库中。

在实际应用中，多租户模式SaaS服务分布式配置同步共享的方法还包括：

若本地存储中不存在轻型数据库，则初始化本地存储；

与镜像节点进行通信，请求进行轻型数据库的快照恢复；

快照恢复后进行日志追赶。

实施例2

如图1所示，一种多租户模式SaaS服务分布式配置同步共享的系统，包括配置中心集群模块和应用实例部署模块；

配置中心集群模块，用于通过分布式算法构建数据同步的配置中心集群，向开发者、租户提供对外HTTP服务，实现配置键值数据的存储、查询、持久化以及多节点灾备转移；

应用实例部署模块，用于在多租户模式SaaS服务环境的多个应用实例中部署单独的边车进程，并通过边车进程建立并维护的轻型数据库实现配置数据共享。

在本实施例中，分布式算法使用raft算法，即分布式一致性算法，通过raft算法实现多节点共识，构建配置中心集群，并选举出Leader节点，Leader节点即主节点。

在实际应用中，配置中心集群包括投票节点与非投票节点，投票节点中包含唯一主节点与若干从节点，主节点配置为向开发者、租户提供HTTP服务，将开发者或租户的配置写入请求散发到从节点、非投票节点，并返回写入成功信息，所述主节点还包括快照备份。

在实际应用中，从节点配置为将键值数据写入本地存储中，并向主节点返回写入成功信息，且仅有半数以上投票节点写入本地存储后，才会向主节点返回写入成功信息。

在本实施例中，使用raft的扩展功能，将与主节点同步数据的非投票节点的作为镜像节点，镜像节点还配置为向上与配置中心集群保持数据同步，向下与应用实例部署模块中的边车进程做数据同步的交互。

在实际应用中，键值数据写入时，要求半数以上投票节点都写入该数据，节点越多写入性能越慢，而镜像节点作为非投票节点，不参与投票，镜像节点的数量不会影响数据的写入，作为只读节点，横向提高了配置集群的读取性能，即使访问量过大，导致镜像节点瘫痪，也不会影响中心集群的读写。

在实际应用中，应用实例部署模块可以为业务主机，在业务主机上部署与镜像节点保持HTTP长轮询通信的边车进程，边车进程还负责在当前主机上建立并维护SQLite文件数据库，即轻型数据库。

在实际应用中，轻型数据库配置为实现多进程配置共享，并将轻型数据库中的内容通过MMAP文件映射到内存，提供数据查询与访问，每个业务进程无需在本身进程中申请内存存储和维护配置数据，通过轻型数据库共享内存的方式，达到了节省内存及内存复用的目的。

在本实施例中，业务进程的读取方式为应用本身常驻型配置，与多租户无关且变化量小，在应用初始化时，进行一次性读取到本地内存中，后续监听轻型数据库文件变动和本身应用配置所处的Namespace是否变化，在变化时重新读取并装载，来同步更新配置。

在实际应用中，业务进程不需要与边车进程通信，达到了高可用及服务解耦的目的。

在实际应用中，配置中心集群模块还包括监视器，所述监视器配置为监视所述从节点、所述镜像节点以及所述边车进程。

在实际应用中，边车进程维护的轻型数据库，总是最终会与配置中心中的配置项保持一致，业务主机上的进程，只需要方位约定的轻型数据库就能获取到所需配置。

在实际应用中，主节点与镜像节点还包括快照备份，定时或者在日志窗口量达到阈值时进行快照备份，应用一段区间内日志窗口中对键值数据的保存/删除操作，合并为最终状态的键值快照结果，并保存在本地。

在实际应用中，镜像节点和边车进程还包括快照恢复，在本地初始化或者日志进度严重滞后的情况下，向上一级请求快照，进行一次较大的追赶过程，追赶中镜像节点会向主节点索取快照，而边车进程会向镜像节点索取快照。

在实际应用中，当快照恢复完成或者日志索引未与上级节点保持一致时，会进入日志追赶循环，具体地，日志追赶包括以下步骤：

将本地数据库中的日志索引发送给镜像节点；

镜像节点收到日志索引后，将日志索引的值与本地的日志窗口中最小值比较；

若日志索引的值小于最小日志窗口值，执行快照恢复；

若日志索引的值大于最小日志窗口值，返回数据库中大于最小日志窗口值的记录。

在实际应用中，返回的记录内容可以描述为：

(3)操作类型，包括：PUT，写入；DELETE，删除；

(4)记录内容，内容主要字段为app_id,cluster,namespace,key,value等。

在实际应用中，当有配置数据写入/删除成功时，任意的主节点，从节点，镜像节点，边车进程，以及边车进程维护的轻型数据库中都会有对应的配置数据。并且配置项的变更细化到了键值的纬度，所有改动及同步都是最小颗粒度的，开销非常小。

本发明实施的优点：本发明所述的一种多租户模式SaaS服务分布式配置同步共享的系统，包括配置中心集群模块和应用实例部署模块，通过构建配置中心集群实现数据同步，并向开发者、租户提供对外HTTP服务，实现配置键值数据的存储、查询、持久化以及多节点灾备转移，将配置管理细化到键值维度；使用边车进程建立并维护轻型数据库，通过轻型数据库管理、共享、复用多进程之间的业务配置；并使用快照备份、快照恢复以及日志追赶完成轻型数据库的配置数据同步，提高了SaaS服务的稳定性，配置生效实时性，有效利用了服务器内存资源，显著减少服务器资源成本。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本领域技术的技术人员在本发明公开的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以所述权利要求的保护范围为准。

Claims (10)

1.一种多租户模式SaaS服务分布式配置同步共享的系统，其特征在于，包括配置中心集群模块和应用实例部署模块；

配置中心集群模块，用于通过分布式算法构建数据同步的配置中心集群，向开发者、租户提供对外HTTP服务，实现配置键值数据的存储、查询、持久化以及多节点灾备转移；

应用实例部署模块，用于在多租户模式SaaS服务环境的多个应用实例中部署单独的边车进程，并通过边车进程建立并维护的轻型数据库实现配置数据共享。

2.根据权利要求1所述的多租户模式SaaS服务分布式配置同步共享的系统，其特征在于，所述配置中心集群包括投票节点与非投票节点，所述投票节点中包含唯一主节点与若干从节点，所述主节点配置为向开发者、租户提供HTTP服务，将开发者或租户的配置写入请求散发到从节点、非投票节点，并返回写入成功信息，所述主节点还包括快照备份。

3.根据权利要求2所述的多租户模式SaaS服务分布式配置同步共享的系统，其特征在于，所述镜像节点配置为与所述主节点数据同步的非投票节点，并与所述边车进程实现数据同步交互，还包括快照备份、快照恢复以及日志追赶。

4.根据权利要求2所述的多租户模式SaaS服务分布式配置同步共享的系统，其特征在于，所述从节点配置为将键值数据写入本地存储中，并向主节点返回写入成功信息。

5.根据权利要求3所述的多租户模式SaaS服务分布式配置同步共享的系统，其特征在于，所述边车进程配置为与所述镜像节点保持HTTP长轮询通信，建立并维护轻型数据库，还包括快照恢复与日志追赶。

6.根据权利要求5所述的多租户模式SaaS服务分布式配置同步共享的系统，其特征在于，所述轻型数据库配置为实现多进程配置共享，并将轻型数据库中的内容通过MMAP文件映射到内存，提供数据查询与访问。

7.根据权利要求5或6所述的多租户模式SaaS服务分布式配置同步共享的系统，其特征在于，所述配置中心集群模块还包括监视器，所述监视器配置为监视所述从节点、所述镜像节点以及所述边车进程。

8.一种多租户模式SaaS服务分布式配置同步共享的方法，其特征在于，包括以下步骤：

获取键值数据写入请求；

将键值数据写入本地存储中；

执行镜像节点与边车进程的数据同步交互；

维护轻型数据库。

9.根据权利要求8所述的多租户模式SaaS服务分布式配置同步共享的方法，其特征在于，还包括：

若本地存储中不存在轻型数据库，初始化本地存储；

与镜像节点进行通信，请求进行轻型数据库的快照恢复；

快照恢复后进行日志追赶。

10.根据权利要求9所述的多租户模式SaaS服务分布式配置同步共享的方法，其特征在于，所述日志追赶包括以下步骤：

将本地数据库中的日志索引发送给镜像节点；

将日志索引的值与本地的日志窗口中最小值比较；

若日志索引的值小于最小日志窗口值，执行快照恢复；

若日志索引的值大于最小日志窗口值，返回数据库中大于最小日志窗口值的记录。