CN117171261A - 面向多数据库单元的弹性扩展智能调用方法和系统 - Google Patents

Abstract

本发明提供一种面向多数据库单元的弹性扩展智能调用方法和系统。本发明在SAAS模式下将服务器集群进行多群组拆分，并且每个服务器群组独立部署数据库单元，并采用网关实现面向多个数据库单元的路由。进而，对各个数据库单元建立了实现数据库优化分配的强化学习算法，达到对数据库调用请求在数据库单元分配之间的优化；本发明可以针对部分数据库单元在迭代升级过程中进行灰度测试，从而降低了故障风险和对用户的影响。

Description

面向多数据库单元的弹性扩展智能调用方法和系统

技术领域

本发明涉及计算机网络技术领域，特别涉及一种面向多数据库单元的弹性扩展智能调用方法和系统。

背景技术

SAAS即“软件即服务”(Software-as-a-Service)模式，这是将应用服务与计算机网络相互结合的一种技术模式。对当前的很多应用场景而言，SAAS已经成为最为常见的设计架构，特别是在生产管理、资源管理等领域尤为如此。在SAAS模式下，用户可以通过浏览器或者支持Web2.0的客户端程序访问网络端的服务器，进而获得生产管理、资源管理等具体业务相关的服务，业务相关的数据也在服务器一侧进行存储，并随时通过网络接受访问和调用。

随着SAAS模式下活跃用户数量的增加，业务数据量也日益增加。支持SAAS的服务器虽然可以弹性扩展，但是其承载的数据库却无法支持弹性扩展。因此，单个数据库已经无法满足SAAS模式下的海量用户需求，请求高峰期，会造成数据库的CPU/内存/IO单元频频发出告警，甚至宕机，严重影响用户体验。部分功能需求受限于数据库瓶颈，响应时间较长，严重影响用户体验。

另外，SAAS模式下，数据库版本迭代的节奏快，有些服务2周左右就要进行一次大的数据库版本迭代，容易发生上线故障，甚至发生批量用户群体性故障的风险也明显增大。

发明内容

本发明提供一种面向多数据库单元的弹性扩展智能调用方法和系统。本发明在SAAS模式下将服务器集群进行多群组拆分，并且每个服务器群组独立部署数据库单元，并采用网关实现面向多个数据库单元的路由。进而，对各个数据库单元建立了实现数据库优化分配的强化学习算法，达到对数据库调用请求在数据库单元分配之间的优化；本发明可以针对部分数据库单元在迭代升级过程中进行灰度测试，从而降低了故障风险和对用户的影响。

本发明面向多数据库单元的弹性扩展智能调用方法，其特征在于，包括以下步骤：

步骤S101，将服务器集群划分为多个服务器群组，并且在每个服务器群组上部署对应的一个数据库单元；

步骤S102，通过网关将用户的数据调用请求分配至其中一个所述数据库单元；

步骤S103，由该数据库单元响应所述数据调用请求而执行数据调用；

其中，步骤S102中，所述网关对于用户的数据调用请求的分配采用基于递归训练的强化学习机制，以观测到的数据库单元对数据调用请求的响应执行时间作为反馈信号，实现对强化学习机制的递归训练，得到一个最终确定的分配策略，基于该策略从而达到对数据调用请求在数据库单元分配之间的优化。

优选的是，所述步骤S102具体包括：

步骤102A：为每个数据库单元构造一个对应的均衡响应拟合单元，该均衡响应拟合单元包括以下单元组合：响应决策单元，反馈拟合单元、目标响应决策单元、目标反馈拟合单元。这些单元均以CNN或RNN型神经网络构建；

步骤S102B：针对每个数据库单元的所述均衡响应拟合单元，定义每个数据库单元的均衡激励和响应决策；

步骤S102C：初始化所述均衡响应拟合单元的各个神经网络的参数；

步骤S102D：执行针对网关的所述均衡响应拟合单元的m轮迭代，从而对所述均衡响应拟合单元的各个神经网络进行参数优化；

步骤S102E：网关对于来自用户的数据调用请求，依次输入每个数据库单元所对应的响应决策单元；响应决策单元依据经过迭代递归训练后最优的参数向量，做出响应决策，响应决策表明本数据库单元是否适于分配该数据调用请求。

优选的是，所述步骤102B中，第i个数据库单元的均衡激励r_i＝r_i(s,a_i),其目标是激励在全部数据库单元之间实现分配的均衡；第i个数据库单元的响应决策其中a_i为第i个数据库单元在实时状态空间下对任一数据调用请求的响应决策，o_i为第i个数据库单元的实时状态观测值，/>为响应决策单元的神经网络经过递归训练优化后的神经网络参数组成的向量。

优选的是，所述步骤102D中，在每一轮迭代m的每个时间单元t当中(m＝1,2,…M，且t＝1,2,…T_m，其中T_m是第m轮迭代中包含的时间单元总数)，接收初始化的状态观测：进而，对第i个数据库单元，在该第i个数据库单元对应的响应决策单元基础上执行随机调试，生成响应并执行，即/>其中/>表示在本时间单元实现随机调试的一个随机赋值；在本时间单元的随机调试基础上获得均衡激励以及新的状态观测/>在本轮迭代的本个时间单元遍历全部的数据库单元之后，将(x^t，a^t，r^t+1，x^t+1)储存到缓冲池/>中，这里/> 进而，从缓冲池/>中随机抽取样本数量为S的样本，组成以下样本集合：/>接着，针对被抽取的第j个样本(j＝1，2，...，S)，利用均衡激励以及目标反馈拟合单元计算响应执行时间目标/>即：

这里，i＝1，2，...，N；再利用响应执行时间目标以及反馈拟合单元来计算时序误差/>即：

这里以时序误差作为损失函数，更新第i个数据库单元对应的反馈拟合单元的神经网络参数向量：

这里，α_w是表示反馈拟合单元的神经网络学习率的超参数，是反馈拟合单元q(·)关于参数向量w_i的梯度；进而，更新第i个数据库单元对应的响应决策单元的神经网络参数向量：

这里，α_θ是响应决策单元的神经网络学习率的超参数；i＝1，2，...，N；更新目标反馈拟合单元的神经网络参数向量 并更新目标响应决策单元的神经网络参数向量/>这里，τ是权重系数，i＝1，2，...，N。

优选的是，所述网关基于所述数据调用请求的请求头token信息中包含的用户ID，确定所述数据调用请求可被分配的备选数据库单元，并将所述数据调用请求路由至所分配的数据库单元。

优选的是，将其中一个所述数据库单元升级为测试版本，并在预定的时间间隔后，根据日志记录判断该测试版本是否符合灰度测试要求；在符合灰度测试要求的情况下，将其它数据库单元升级为所述测试版本。

本发明还提供了一种支持弹性扩展智能调用的多数据库单元系统，其特征在于，包括：

由多个服务器群组组成的服务器集群，其中每个所述服务器群组上部署对应的一个数据库单元；

网关，用于将用户的数据调用请求分配至其中一个所述数据库单元；

数据库单元，用于响应所述数据调用请求而执行数据调用；

优选的是，所述网关具体包括：为每个数据库单元构造一个对应的均衡响应拟合单元；所述均衡响应拟合单元用于对于用户的数据调用请求的分配采用基于递归训练的强化学习机制，以观测到的数据库单元对数据调用请求的响应执行时间作为反馈信号，实现对强化学习机制的递归训练，得到一个最终确定的分配策略，基于该策略从而达到对数据调用请求在数据库单元分配之间的优化。

优选的是，该均衡响应拟合单元包括以下单元组合：响应决策单元，反馈拟合单元、目标响应决策单元、目标反馈拟合单元；这些单元均以CNN或RNN型神经网络构建。

优选的是，所述支持弹性扩展智能调用的多数据库单元系统还包括：

升级测试单元，用于在数据库单元升级的过程中，将其中一个所述数据库单元升级为测试版本，并在预定的时间间隔后，根据日志记录判断该测试版本是否符合灰度测试要求；在符合灰度测试要求的情况下，将其它数据库单元升级为所述测试版本。

本发明将SAAS模式下针对数据库资源的调用请求分配到多个数据库单元的其中一个执行，实现了数据库单元的弹性扩展，避免了单一、固化的数据库单元所带来的响应延迟大、宕机概率高、降低用户体验的问题。并且，本发明设计了多个数据库单元的智能调用机制，实现均衡分配，通过强化学习算法的递归训练，达到对数据库调用请求在数据库单元分配之间的优化。本发明还提出在产品迭代过程中的平滑过渡。

附图说明

下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明提供的面向多数据库单元的弹性扩展智能调用方法流程图；

图2是本发明提供的一种支持弹性扩展智能调用的多数据库单元系统的结构图。

具体实施方式

为使本发明实施的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行更加详细的描述。

需要说明的是：在附图中，自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。所描述的实施例是本发明一部分实施例，而不是全部的实施例，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

下面参考图1，详细描述本发明公开的面向多数据库单元的弹性扩展智能调用方法的具体实施例，该方法具体包括以下步骤：

步骤S101：将服务器集群划分为多个服务器群组，并且在每个服务器群组上部署对应的一个数据库单元；

步骤S102：通过网关将用户的数据调用请求分配至其中一个所述数据库单元；

步骤S103：由该数据库单元响应所述数据调用请求而执行数据调用。

其中，在步骤S102中，所述网关对于用户的数据调用请求的分配采用基于递归训练的强化学习机制，以观测到的数据库单元对数据调用请求的响应执行时间作为反馈信号，实现对强化学习机制的递归训练，得到一个最终确定的分配策略，基于该策略从而达到对数据调用请求在数据库单元分配之间的优化。

具体来说，步骤S102中所述网关通过以下步骤，基于强化学习机制确定数据调用请求在数据库单元的分配策略。

步骤102A：为每个数据库单元构造一个对应的均衡响应拟合单元，该均衡响应拟合单元包括以下单元组合：响应决策单元，反馈拟合单元、目标响应决策单元、目标反馈拟合单元。这些单元均以CNN或RNN型神经网络构建；其中响应决策单元与目标响应决策单元采用相同的神经网络结构，但神经网络参数不同；反馈拟合单元与目标反馈拟合单元同理也采用结构相同但神经网络参数不同的神经网络。

步骤102B：针对每个数据库单元的所述均衡响应拟合单元，定义第i个数据库单元的均衡激励r_i＝r_i(s，a_i)，其目标是激励在全部数据库单元之间实现分配的均衡，从而达到均衡响应的最优化。并且，定义第i个数据库单元的响应决策其中a_i为第i个数据库单元在实时状态空间下对任一数据调用请求的响应决策，o_i为第i个数据库单元的实时状态观测值，/>为响应决策单元的神经网络经过递归训练优化后的神经网络参数组成的向量。这里，/>i＝1，2，...，N，N表示数据库单元的总数量，一般取值可以为3-10。/>描述数据库单元的实时状态空间，/>描述了数据库单元的响应决策空间，即面向任一数据调用请求每个数据库单元可能做出的响应决策；/>描述了数据库单元的状态观测空间。

步骤102C：初始化所述均衡响应拟合单元的各个神经网络的参数，作为第0轮迭代。

具体来说，初始化所有数据库单元的状态观测为 初始化第i个数据库单元所对应的响应决策单元/>这里，/>是构成该响应决策单元的神经网络的初始化参数向量，i＝1，2，...，N，该神经网络根据第i个数据库单元所对应的状态观测o_i而做出对数据调用请求的响应决策/>

进而，初始化第i个数据库单元所对应的目标响应决策单元这里，是构成该目标响应决策单元的神经网络的初始化参数向量，i＝1，2，...，N。

初始化第i个数据库单元对应的反馈拟合单元x＝(o₁，o₂，...，o_N)其表示所有数据库单元的观测值，a＝(a₁，a₂，...，a_N)是表示所有数据库单元对任一数据调用请求的响应决策，/>则是作为反馈拟合单元的神经网络的初始化参数向量，i＝1，2，...，N。

初始化第i个数据库单元对应的目标反馈拟合单元这里，/>是作为目标反馈拟合单元的神经网络的初始化参数向量，i＝1，2，...，N。

步骤102D，执行针对网关的所述均衡响应拟合单元的m轮迭代，从而对所述均衡响应拟合单元的各个神经网络进行参数优化。

在本步骤中，共计执行m轮迭代，且在每一轮的迭代中又按照一定数量的时间单元，逐个时间单元地执行随机调试。

其中，在每一轮迭代m的每个时间单元t当中(这里，m＝1，2，…M，且t＝1，2，…T_m，其中T_m是第m轮迭代中包含的时间单元总数)，接收初始化的状态观测：进而，对第i个数据库单元，在该第i个数据库单元对应的响应决策单元基础上执行随机调试，生成响应并执行，即/>其中/>表示在本时间单元实现随机调试的一个随机赋值；在本时间单元的随机调试基础上获得均衡激励以及新的状态观测/>在本轮迭代的本个时间单元遍历全部的数据库单元之后，将(x^t，a^t，r^t+1，x^t+1)储存到缓冲池/>中，这里/>

进而，从缓冲池中随机抽取样本数量为S的样本，组成以下样本集合：接着，针对被抽取的第j个样本/>(j＝1，2，...，S)，利用均衡激励以及目标反馈拟合单元计算响应执行时间目标/>即：

这里，i＝1，2，...，N；再利用响应执行时间目标以及反馈拟合单元来计算时序误差/>即：

这里

以时序误差作为损失函数，更新第i个数据库单元对应的反馈拟合单元的神经网络参数向量：

这里，α_w是表示反馈拟合单元的神经网络学习率的超参数，是反馈拟合单元q(·)关于参数向量w_i的梯度。进而，更新第i个数据库单元对应的响应决策单元的神经网络参数向量：

这里，α_θ是响应决策单元的神经网络学习率的超参数；i＝1，2，...，N。

更新目标反馈拟合单元的神经网络参数向量 并更新目标响应决策单元的神经网络参数向量/>这里，τ是权重系数，i＝1，2，...，N。

最终，经过以上m轮迭代的递归训练，针对N个数据库单元，每个数据库单元所对应的均衡响应拟合单元中作为响应决策单元的神经网络均获得了优化后的参数向量基于该参数向量得到了每个数据库单元最优的响应决策/>

步骤102E，网关对于来自用户的数据调用请求，依次输入每个数据库单元所对应的响应决策单元；响应决策单元依据经过迭代递归训练后最优的参数向量做出响应决策a_i，响应决策表明本数据库单元是否适于分配该数据调用请求。网关基于各个数据库单元的响应决策单元所做出的响应决策，将该数据调用请求分配给做出适于分配的的响应决策的数据库单元；当多个数据库单元均做出适于分配的响应决策的情况下，网关可以随机选取其中一个数据库单元执行分配，或者采用轮流机制实现分配。

其中，在步骤102中，所述网关基于所述数据调用请求的请求头token信息中包含的用户ID，确定所述数据调用请求可被分配的备选数据库单元，从而保障备选的数据库单元含有响应该数据调用请求所需的数据；进而，再基于上述步骤102A-102E，确定最终被分配响应该数据调用请求的数据库单元，将所述数据调用请求路由至所分配的数据库单元。

本发明公开的面向多数据库单元的弹性扩展智能调用方法还包括：在数据库单元升级的过程中，将其中一个所述数据库单元升级为测试版本，并在预定的时间间隔后，根据日志记录判断该测试版本是否符合灰度测试要求；在符合灰度测试要求的情况下，将其它数据库单元升级为所述测试版本。

参见图2，本发明还提供了一种支持弹性扩展智能调用的多数据库单元系统，其特征在于，包括：

由多个服务器群组组成的服务器集群，其中每个所述服务器群组上部署对应的一个数据库单元；

网关，用于将用户的数据调用请求分配至其中一个所述数据库单元；

数据库单元，用于响应所述数据调用请求而执行数据调用。

其中，所述网关具体包括：为每个数据库单元构造一个对应的均衡响应拟合单元；所述均衡响应拟合单元用于对于用户的数据调用请求的分配采用基于递归训练的强化学习机制，以观测到的数据库单元对数据调用请求的响应执行时间作为反馈信号，实现对强化学习机制的递归训练，得到一个最终确定的分配策略，基于该策略从而达到对数据调用请求在数据库单元分配之间的优化。

该均衡响应拟合单元包括以下单元组合：响应决策单元，反馈拟合单元、目标响应决策单元、目标反馈拟合单元；这些单元均以CNN或RNN型神经网络构建。

其中，所述支持弹性扩展智能调用的多数据库单元系统还包括：

升级测试单元，用于在数据库单元升级的过程中，将其中一个所述数据库单元升级为测试版本，并在预定的时间间隔后，根据日志记录判断该测试版本是否符合灰度测试要求；在符合灰度测试要求的情况下，将其它数据库单元升级为所述测试版本。

本发明将SAAS模式下针对数据库资源的调用请求分配到多个数据库单元的其中一个执行，实现了数据库单元的弹性扩展，避免了单一、固化的数据库单元所带来的响应延迟大、宕机概率高、降低用户体验的问题。并且，本发明设计了多个数据库单元的智能调用机制，实现均衡分配，通过强化学习算法的递归训练，达到对数据库调用请求在数据库单元分配之间的优化。本发明还提出在产品迭代过程中的平滑过渡。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以所述权利要求的保护范围为准。

Claims (10)

1.面向多数据库单元的弹性扩展智能调用方法，其特征在于，包括以下步骤：

步骤S101，将服务器集群划分为多个服务器群组，并且在每个服务器群组上部署对应的一个数据库单元；

步骤S102，通过网关将用户的数据调用请求分配至其中一个所述数据库单元；

步骤S103，由该数据库单元响应所述数据调用请求而执行数据调用；

其中，步骤S102中，所述网关对于用户的数据调用请求的分配采用基于递归训练的强化学习机制，以观测到的数据库单元对数据调用请求的响应执行时间作为反馈信号，实现对强化学习机制的递归训练，得到一个最终确定的分配策略，基于该策略从而达到对数据调用请求在数据库单元分配之间的优化。

2.根据权利要求1所述的面向多数据库单元的弹性扩展智能调用方法，其特征在于，所述步骤S102具体包括：

步骤102A：为每个数据库单元构造一个对应的均衡响应拟合单元，该均衡响应拟合单元包括以下单元组合：响应决策单元，反馈拟合单元、目标响应决策单元、目标反馈拟合单元。这些单元均以CNN或RNN型神经网络构建；

步骤S102B：针对每个数据库单元的所述均衡响应拟合单元，定义每个数据库单元的均衡激励和响应决策；

步骤S102C：初始化所述均衡响应拟合单元的各个神经网络的参数；

步骤S102D：执行针对网关的所述均衡响应拟合单元的m轮迭代，从而对所述均衡响应拟合单元的各个神经网络进行参数优化；

步骤S102E：网关对于来自用户的数据调用请求，依次输入每个数据库单元所对应的响应决策单元；响应决策单元依据经过迭代递归训练后最优的参数向量，做出响应决策，响应决策表明本数据库单元是否适于分配该数据调用请求。

3.根据权利要求2所述的面向多数据库单元的弹性扩展智能调用方法，其特征在于，所述步骤102B中，第i个数据库单元的均衡激励r_i＝r_i(s,a_i),其目标是激励在全部数据库单元之间实现分配的均衡；第i个数据库单元的响应决策其中a_i为第i个数据库单元在实时状态空间下对任一数据调用请求的响应决策，o_i为第i个数据库单元的实时状态观测值，/>为响应决策单元的神经网络经过递归训练优化后的神经网络参数组成的向量。

4.根据权利要求3所述的面向多数据库单元的弹性扩展智能调用方法，其特征在于，所述步骤102D中，在每一轮迭代m的每个时间单元t当中(m＝1,2,…M，且t＝1,2,…T_m，其中T_m是第m轮迭代中包含的时间单元总数)，接收初始化的状态观测: 进而，对第i个数据库单元，在该第i个数据库单元对应的响应决策单元基础上执行随机调试，生成响应并执行，即/>其中/>表示在本时间单元实现随机调试的一个随机赋值；在本时间单元的随机调试基础上获得均衡激励r_i ^t+1以及新的状态观测/>在本轮迭代的本个时间单元遍历全部的数据库单元之后，将(x^t,a^t,r^t+1,x^t+1)储存到缓冲池中,这里/> 进而，从缓冲池/>中随机抽取样本数量为S的样本，组成以下样本集合：/>接着，针对被抽取的第j个样本利用均衡激励以及目标反馈拟合单元计算响应执行时间目标/>即：

这里， 再利用响应执行时间目标以及反馈拟合单元来计算时序误差/>即：

这里以时序误差作为损失函数，更新第i个数据库单元对应的反馈拟合单元的神经网络参数向量：

这里,α_w是表示反馈拟合单元的神经网络学习率的超参数，是反馈拟合单元q(·)关于参数向量w_i的梯度；进而，更新第i个数据库单元对应的响应决策单元的神经网络参数向量：/>

这里,α_θ是响应决策单元的神经网络学习率的超参数；i＝1,2,…,N；更新目标反馈拟合单元的神经网络参数向量 并更新目标响应决策单元的神经网络参数向量/>这里，τ是权重系数，i＝1,2,…,N。

5.根据权利要求4所述的面向多数据库单元的弹性扩展智能调用方法，其特征在于，所述网关基于所述数据调用请求的请求头token信息中包含的用户ID，确定所述数据调用请求可被分配的备选数据库单元，并将所述数据调用请求路由至所分配的数据库单元。

6.根据权利要求5所述的面向多数据库单元的弹性扩展智能调用方法，其特征在于，将其中一个所述数据库单元升级为测试版本，并在预定的时间间隔后，根据日志记录判断该测试版本是否符合灰度测试要求；在符合灰度测试要求的情况下，将其它数据库单元升级为所述测试版本。

7.一种支持弹性扩展智能调用的多数据库单元系统，其特征在于，包括：

由多个服务器群组组成的服务器集群，其中每个所述服务器群组上部署对应的一个数据库单元；

网关，用于将用户的数据调用请求分配至其中一个所述数据库单元；

数据库单元，用于响应所述数据调用请求而执行数据调用。

8.根据权利要求7所述的支持弹性扩展智能调用的多数据库单元系统，其特征在于，所述网关具体包括：为每个数据库单元构造一个对应的均衡响应拟合单元；所述均衡响应拟合单元用于对于用户的数据调用请求的分配采用基于递归训练的强化学习机制，以观测到的数据库单元对数据调用请求的响应执行时间作为反馈信号，实现对强化学习机制的递归训练，得到一个最终确定的分配策略，基于该策略从而达到对数据调用请求在数据库单元分配之间的优化。

9.根据权利要求8所述的支持弹性扩展智能调用的多数据库单元系统，其特征在于，该均衡响应拟合单元包括以下单元组合：响应决策单元，反馈拟合单元、目标响应决策单元、目标反馈拟合单元；这些单元均以CNN或RNN型神经网络构建。

10.根据权利要求9所述的支持弹性扩展智能调用的多数据库单元系统，其特征在于，所述支持弹性扩展智能调用的多数据库单元系统还包括：

升级测试单元，用于在数据库单元升级的过程中，将其中一个所述数据库单元升级为测试版本，并在预定的时间间隔后，根据日志记录判断该测试版本是否符合灰度测试要求；在符合灰度测试要求的情况下，将其它数据库单元升级为所述测试版本。