CN116069264A - 一种应用程序数据信息存储控制系统 - Google Patents

Abstract

本发明公开了一种应用程序数据信息存储控制系统，属于云原生与微服务架构技术领域。该系统包括：可视化平台模块、接口模块、集群管理模块、数据面模块、控制面模块和动态感应服务模块；所述可视化平台模块与所述接口模块相连接；所述接口模块、集群管理模块与控制面模块相连接；所述集群管理模块与所述数据面模块相连接；所述数据面模块与所述控制面模块相连接；所述控制面模块与所述动态感应服务模块相连接。本发明解决因服务下线或者消亡带来的控制信息冗余问题，控制系统新增agent异步进程清理冗余控制信息，防止因服务异常下线造成的redis内存膨胀。新增熔断下的智能控制过程，提高系统数字化处理水平。

Description

一种应用程序数据信息存储控制系统

技术领域

本发明涉及云原生与微服务架构技术领域，具体为一种应用程序数据信息存储控制系统。

背景技术

在云原生ServiceMesh技术的微服务系统下，当前技术上采用了几乎同一种基于xDS协议的控制面方案，该方案与k8s环境完全耦合，且下发的配置信息数据量过大，极大挤占了业务流量空间。同时，数据面感应配置时间较长，仅能达到秒级，且随着集群规模和微服务规模变大，配置信息和感应时长成指数级增长。

另外，xDS协议可读性较差，不利于运维开发和业务人员排查问题，且完全基于k8s的yaml格式的配置不便于管理和下发。以pod和service为对象的设计理念和以微服务最小粒度的理念相悖，在实际应用生产中存在较大缺陷。

对于已经不存在的微服务无法及时清除控制信息，冗余数据越来越多，导致底层存储变得越发臃肿，进而影响整个集群，引发灾难。

发明内容

内容

本发明的目的在于提供一种应用程序数据信息存储控制系统，以解决上述背景技术中提出的问题。

为了解决上述技术问题，本发明提供如下技术方案：一种应用程序数据信息存储控制系统，该系统包括：可视化平台模块、接口模块、集群管理模块、数据面模块、控制面模块和动态感应服务模块；

所述可视化平台模块提供可视化程序，用于管理员实时查看应用程序数据；所述接口模块提供API接口供管理员和管理程序对信息内容和信息权限进行管理；所述集群管理模块用于将对微服务的控制信息存储到redis集群中，以服务识别号为基础键，控制内容为值，组成hash结构，并赋予对应的时间戳和过期时间；防止造成redis内存膨胀。所述数据面模块用于应用微服务系统下的不同的治理规则，调用redis的xadd命令发送stream通知到数据面；所述控制面模块用于下发微服务系统下的不同的治理规则；所述动态感应服务模块用于获取配置变更信号，利用sidecar发起请求获取配置中心中的配置最后更新时间，如果此时间大于本地内存中的配置更新时间，那么就发起请求获取全部配置；

所述可视化平台模块与所述接口模块相连接；所述接口模块、集群管理模块与控制面模块相连接；所述集群管理模块与所述数据面模块相连接；所述数据面模块与所述控制面模块相连接；所述控制面模块与所述动态感应服务模块相连接。

根据上述技术方案，所述服务识别号指每个微服务唯一的身份标识，为32位字符串，不同服务具有不同的服务识别号。

根据上述技术方案，所述可视化平台模块包括微服务治理单元和熔断管理单元；

所述微服务治理单元用于选择关键微服务，传输至熔断管理单元；所述熔断管理单元用于添加熔断规则。

根据上述技术方案，系统管理员通过接口模块，获取配置参数发送至控制面模块，所述配置参数包括：服务识别号、模块识别号和控制信息数据；

所述控制面模块接收到配置参数请求后，校验配置参数请求合法性，如果配置合法，那么根据唯一的服务识别号查看服务是否已经创建过熔断规则，如果存在，对熔断规则进行判断并下发，如果不存在，就新增一条配置信息，并将配置存入控制面模块的存储数据库中持久化存储。

根据上述技术方案，熔断规则的判断并下发包括：

当时间超过熔断持续时间时放开请求，判断是否正常，如果正常则释放熔断策略，将当前配置修改为新传入配置；如果依旧异常，再次执行快速失败流程。

根据上述技术方案，所述熔断持续时间由系统智能化配置，具体包括：

将熔断持续时间定义为目标层，根据系统数据定义熔断持续时间的一级指标：服务所占的内存大小、服务所占CPU大小、请求响应延迟时间、网络连接数量、单位时间内的错误日志数量以及http返回状态码；

构建层次结构模型，以http返回状态码作为准则层，以服务所占的内存大小、服务所占CPU大小、请求响应延迟时间、网络连接数量、单位时间内的错误日志数量作为因子层；

获取系统下各用户的手动操作数据，构建判断矩阵；

任选两个同层因素进行对比，对前者比后者的重要等级进行划分，其中准则层使用同一用户下的两种不同的http返回状态码进行对比；

所述重要等级包括同等重要、稍微重要、明显重要、非常重要四个等级，以每一项在对比中存在的选择次数或差值占比进行划分；

生成判断矩阵：

，

其中，A为判断矩阵；表示第i个一级指标相对于第j个一级指标的比较结果；n代表矩阵行列数量；

对判断矩阵的各行向量进行几何平均，然后进行归一化，得到各一级指标权重和特征向量W：

，

，

其中，代表几何平均后的各行向量；

对矩阵A进行一致性检验：

，

其中，分别代表行、列下的一级指标权重；表示最大特征根；

构建一致性指标：

，

其中，CI代表一致性指标；

设置一致性指标阈值，在一致性指标满足一致性指标阈值时，计算该用户的一级指标下的一级指标最佳优先级方案；

那么在该组手动数据下差值最大的一级指标记为该用户的优选指标；

根据该用户手动设置的熔断持续时间进行区域划分，在采集到系统给出的一级指标反馈值时，判断反馈值与设定的标准值差值最大的一级指标记为当前最差指标；

若最差指标等于优选指标，输出对应的熔断持续时间；若最差指标不是优选指标，采用系统设置的其他熔断持续时间下发。

根据上述技术方案，所述存储数据库连接有集群管理模块，配置存储成功后，控制面模块将配置信息发送到集群管理模块，所述集群管理模块包括高性能的redis 集群；

所述数据面模块调用redis集群的xadd命令发送stream通知到数据面，同时将唯一的服务识别号发送到redis stream中，构建redis stream key，任何发往redis stream的信息都表明对应的服务有配置更新。

根据上述技术方案，所述集群管理模块记录服务配置，并且将配置更新信号推送到信号队列中，所述动态感应服务模块利用sidecar在信号队列中获取配置详情；

所述动态感应服务模块包括sidecar管理单元和配置代理单元；

所述sidecar管理单元用于在初始化过程中，指令sidecar检查自身所依赖的外部基础设置是否完善以及当前服务提供的检查检查接口是否正常，同时，根据当前唯一的服务识别号通过配置代理单元拉取对应的全部配置信息，之后sidecar会一直和该配置代理建立监听机制，当配置代理接收到控制面发来的配置变更信号时，通知对应的sidecar配置信息已发生变更；

sidecar获取到变更信号之后就会再次根据自身唯一的服务识别号拉取最新的配置信息，同时会比对最新配置信息的更新时间戳和当前配置的时间戳，如果最新的时间戳比当前的时间戳大，代表获取的配置比当前的要新，进行配置替换。

与现有技术相比，本发明所达到的有益效果是：

本控制系统一改市面上控制系统固定思维，将控制信息下发与k8s完全解耦，可以在不依赖于k8s环境的场景下完成控制信息的下发。脱离和k8s共用的etcd存储，采用基于内存的redis集群作为控制信息存储站，一方面保障了高可用，另外不会和k8s集群相互影响。轻量化控制信息数据，点对点数据下发感应。摒弃市面上臃肿的xDS协议，将网络数据传输降到最小，减少了对服务间通信的影响。

同时在本发明中，控制信息以微服务为最小粒度，不拘泥于k8s对象，不用关心服务在集群内的pod和service信息，只需一个服务识别号，即可下发控制信息，大幅降低运维和开发人员使用困难，降本增效，贴合运维和开发使用场景，更易让人理解。

为了确保控制信息下发的及时性，控制系统在下发控制信息时，除了消息体本身外，还会调用redis的xadd命令对监听此配置的sidecar发送stream流信号主动通知sidecar，同时新增stream流主动通知机制，进一步加强控制信息感知，将控制下发感应控制在亚毫秒级。

为了解决因服务下线或者消亡带来的控制信息冗余问题，避免redis集群无限膨胀，控制系统新增agent异步进程清理冗余控制信息，防止因服务异常下线造成的redis内存膨胀。新增熔断下的智能控制过程，提高系统数字化处理水平。

附图说明

附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例一起用于解释本发明，并不构成对本发明的限制。在附图中：

图1是本发明一种应用程序数据信息存储控制系统的架构及流程示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

请参阅图1，在本实施例中：

由于线上微服务调用错综复杂且对实时性要求比较高，业界的方案不适用于该场景，我们急需一种能与k8s环境解耦且能高效下发控制面规则的方式。同时还需要兼顾将对微服务的影响降低到最小，并能够做到亚毫秒级下发。另外能够提供友好的数据可读性并利于运维开发人员配置下发，赋能底层能力于其他基础层系统。因此提供如下的微服务熔断控制系统：

微服务场景下服务间调用链路错综复杂，且绝大部分为串行调用。这就意味着当其中某个服务发生异常故障时，如果不能快速失败的话，会导致整个链路阻塞超时严重，因此我们需要一种策略应对该场景。我们针对不同职责和优先级的微服务配置不同的熔断策略，通过唯一的配置服务识别号、最大错误次数、错误请求统计间隔、错误请求百分比、熔断持续时间、请求超时时间。数据被封装好之后通过控制系统下发至redis集群，sidecar通过stream流信号或者定时拉取获取到最新配置并应用。当下游服务出现异常时判断是否符合熔断条件，如果符合，下面的请求将快速失败，不再继续请求下游服务。当时间超过熔断持续时间时放开请求，判断是否正常，如果正常则释放熔断策略，如果依旧异常，再次执行快速失败流程。具体执行流程如下：

进入微服务治理单元，选择关键微服务，传输进入熔断管理单元并添加熔断规则。

相关字段展示如表1所示：

表1

其中具体控制信息数据格式如表2所示：

表2

对于熔断持续时间的智能处理包括：

将熔断持续时间定义为目标层，根据系统数据定义熔断持续时间的一级指标：服务所占的内存大小、服务所占CPU大小、请求响应延迟时间、网络连接数量、单位时间内的错误日志数量以及http返回状态码；

构建层次结构模型，以http返回状态码作为准则层，以服务所占的内存大小、服务所占CPU大小、请求响应延迟时间、网络连接数量、单位时间内的错误日志数量作为因子层；

获取系统下各用户的手动操作数据，构建判断矩阵；

任选两个同层因素进行对比，对前者比后者的重要等级进行划分，其中准则层使用同一用户下的两种不同的http返回状态码进行对比；

所述重要等级包括同等重要、稍微重要、明显重要、非常重要四个等级，以每一项在对比中存在的选择次数或差值占比进行划分；

生成判断矩阵：

，

其中，A为判断矩阵；表示第i个一级指标相对于第j个一级指标的比较结果；n代表矩阵行列数量；

对判断矩阵的各行向量进行几何平均，然后进行归一化，得到各一级指标权重和特征向量W：

，

，

其中，代表几何平均后的各行向量；

对矩阵A进行一致性检验：

，

其中，分别代表行、列下的一级指标权重；表示最大特征根；

构建一致性指标：

，

其中，CI代表一致性指标；

设置一致性指标阈值，在一致性指标满足一致性指标阈值时，计算该用户的一级指标下的一级指标最佳优先级方案；

根据该用户手动设置的熔断持续时间进行区域划分，每一个一级指标对应一个熔断持续时间，在采集到系统给出的一级指标反馈值时，判断反馈值与设定的标准值差值最大的一级指标记为当前最差指标；

获取最差指标对应的熔断持续时间输出至系统指令。

例如在本实施例中：

http返回状态码一般包括信息响应 (100–199)、成功响应 (200–299)、重定向消息 (300–399)、客户端错误响应 (400–499)、服务端错误响应 (500–599)；

在任选两个同层因素进行对比时，选取同一用户的状态码进行分析，例如400和500之间；如果400在整个的http返回状态码中出现较多，则判定为其比较重要，而后利用两者出现之间的差值判断属于重要等级中的哪一种，这一部分分级有系统进行设置。例如差值两次以内认定为同等重要；3-10次认定为稍微重要等；

在因子层的对比中：

以服务所占的内存大小、服务所占CPU大小、请求响应延迟时间、网络连接数量、单位时间内的错误日志数量任选两例出来进行对比；其以该用户数据的每次选择为基准，例如在一次用户手动操作中，用户调整熔断持续时间时对应的服务所占的内存大小、服务所占CPU大小、请求响应延迟时间、网络连接数量、单位时间内的错误日志数量分别为a、b、c、d、e；系统设定标准值分别为a0、b0、c0、d0、e0；分别对应计算差值，差值最大的那组最为重要，以这样的方式对一级指标之间进行重要程度划分；

在本实施例中，以差值所占比例作为重要等级，例如a-a0最大，其所占的（a-a0）/a作为重要等级的划分依据，例如0-0.2属于同等重要等；

对比划分后，给出得分值，得分值可有系统设定，例如同等重要记1分、稍微重要、明显重要、非常重要分别记2、4、8；

根据不同分值，生成判断矩阵，以3*3的矩阵示例如下：

，

其中，A为判断矩阵；表示第i个一级指标相对于第j个一级指标的比较结果；n代表矩阵行列数量；

以第一例来算的话：

第一列对应指标：1/（1+1/2+1/4）

第二列对应指标：0.5 /（1+1/2+1/4）

第三列对应指标：0.25/（1+1/2+1/4）

分别进行几何平均，然后进行归一化后可得指标的标准特征向量：0.5954、0.2764、0.1283；

按照上述结果计算，在满足一致性指标阈值时，判断上述判断矩阵可行；

分别计算，每一组数据下的详细分值：

获取到历史数据下每组手动数据下的因子层内各一级指标值，与对应的标准特征向量相乘后求和，取最大值对应的手动数据记为该用户的一级指标下的一级指标最佳优先级方案；

那么在该组手动数据下差值最大的一级指标记为该用户的优选指标；

根据该用户手动设置的熔断持续时间进行区域划分，在采集到系统给出的一级指标反馈值时，判断反馈值与设定的标准值差值最大的一级指标记为当前最差指标；

若最差指标等于优选指标，输出对应的熔断持续时间；若最差指标不是优选指标，采用系统设置的其他熔断持续时间下发；

控制面模块接收到配置请求后，首先校验配置合法性，如果配置合法，那么根据服务的唯一识别号查看服务是否已经创建过熔断规则，如果存在就修改为当前传入配置，如果不存在就新增一条配置信息，并将配置存入控制面模块的存储数据库中持久化存储；

配置存储成功后，控制面模块会将该配置信息发送到配置中心单元，当前配置中心单元是高性能的redis 集群。同时将服务唯一识别号发送到配置更新信号的redisstream中，其中redis stream key为watch_config:msp:service_rule，任何发往此stream的信息都表明对应的服务有配置更新。

sidecar检查自身所依赖的外部基础设置是否完善以及当前服务提供的检查检查接口是否正常，同时，根据当前唯一的服务识别号通过配置代理单元拉取对应的全部配置信息，之后sidecar会一直和该配置代理建立监听机制，当配置代理接收到控制面发来的配置变更信号时，通知对应的sidecar配置信息已发生变更；

sidecar获取到变更信号之后就会再次根据自身唯一的服务识别号拉取最新的配置信息，同时会比对最新配置信息的更新时间戳和当前配置的时间戳，如果最新的时间戳比当前的时间戳大，代表获取的配置比当前的要新，进行配置替换，该方案的配置感应可以达到亚毫秒级。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。

最后应说明的是：以上所述仅为本发明的优选实施例而已，并不用于限制本发明，尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (8)

1.一种应用程序数据信息存储控制系统，其特征在于：该系统包括：可视化平台模块、接口模块、集群管理模块、数据面模块、控制面模块和动态感应服务模块；

所述可视化平台模块提供可视化程序，用于管理员实时查看应用程序数据；所述接口模块提供API接口供管理员和管理程序对信息内容和信息权限进行管理；所述集群管理模块用于将对微服务的控制信息存储到redis集群中，以服务识别号为基础键，控制内容为值，组成hash结构，并赋予对应的时间戳和过期时间；所述数据面模块用于应用微服务系统下的不同的治理规则，调用redis的xadd命令发送stream通知到数据面；所述控制面模块用于下发微服务系统下的不同的治理规则；所述动态感应服务模块用于获取配置变更信号，利用sidecar发起请求获取配置中心中的配置最后更新时间，如果此时间大于本地内存中的配置更新时间，那么就发起请求获取全部配置；

所述可视化平台模块与所述接口模块相连接；所述接口模块、集群管理模块与控制面模块相连接；所述集群管理模块与所述数据面模块相连接；所述数据面模块与所述控制面模块相连接；所述控制面模块与所述动态感应服务模块相连接。

2.根据权利要求1所述的一种应用程序数据信息存储控制系统，其特征在于：所述服务识别号指每个微服务唯一的身份标识，为32位字符串，不同服务具有不同的服务识别号。

3.根据权利要求2所述的一种应用程序数据信息存储控制系统，其特征在于：所述可视化平台模块包括微服务治理单元和熔断管理单元；

所述微服务治理单元用于选择关键微服务，传输至熔断管理单元；所述熔断管理单元用于添加熔断规则。

4.根据权利要求3所述的一种应用程序数据信息存储控制系统，其特征在于：系统管理员通过接口模块，获取配置参数发送至控制面模块，所述配置参数包括：服务识别号、模块识别号和控制信息数据；

所述控制面模块接收到配置参数请求后，校验配置参数请求合法性，如果配置合法，那么根据唯一的服务识别号查看服务是否已经创建过熔断规则，如果存在，对熔断规则进行判断并下发，如果不存在，就新增一条配置信息，并将配置存入控制面模块的存储数据库中持久化存储。

5.根据权利要求4所述的一种应用程序数据信息存储控制系统，其特征在于：熔断规则的判断并下发包括：

当时间超过熔断持续时间时放开请求，判断是否正常，如果正常则释放熔断策略，将当前配置修改为新传入配置；如果依旧异常，再次执行快速失败流程。

6.根据权利要求5所述的一种应用程序数据信息存储控制系统，其特征在于：所述熔断持续时间由系统智能化配置，具体包括：

将熔断持续时间定义为目标层，根据系统数据定义熔断持续时间的一级指标：服务所占的内存大小、服务所占CPU大小、请求响应延迟时间、网络连接数量、单位时间内的错误日志数量以及http返回状态码；

构建层次结构模型，以http返回状态码作为准则层，以服务所占的内存大小、服务所占CPU大小、请求响应延迟时间、网络连接数量、单位时间内的错误日志数量作为因子层；

获取系统下各用户的手动操作数据，构建判断矩阵；

任选两个同层因素进行对比，对前者比后者的重要等级进行划分，其中准则层使用同一用户下的两种不同的http返回状态码进行对比；

所述重要等级包括同等重要、稍微重要、明显重要、非常重要四个等级，以每一项在对比中存在的选择次数或差值占比进行划分；

生成判断矩阵：

，

其中，A为判断矩阵；表示第i个一级指标相对于第j个一级指标的比较结果；n代表矩阵行列数量；

对判断矩阵的各行向量进行几何平均，然后进行归一化，得到各一级指标权重和特征向量W：

，

，

其中，代表几何平均后的各行向量；

对矩阵A进行一致性检验：

，

其中，分别代表行、列下的一级指标权重；表示最大特征根；

构建一致性指标：

，

其中，CI代表一致性指标；

设置一致性指标阈值，在一致性指标满足一致性指标阈值时，计算该用户的一级指标下的一级指标最佳优先级方案；

最佳优先级方案对应的该组手动数据下差值最大的一级指标记为该用户的优选指标；

根据该用户手动设置的熔断持续时间进行划分，在采集到系统给出的一级指标反馈值时，判断反馈值与设定的标准值差值最大的一级指标记为当前最差指标；

若最差指标等于优选指标，输出最佳优先级方案下对应的熔断持续时间；若最差指标不是优选指标，采用系统设置的其他熔断持续时间下发。

7.根据权利要求6所述的一种应用程序数据信息存储控制系统，其特征在于：所述存储数据库连接有集群管理模块，配置存储成功后，控制面模块将配置信息发送到集群管理模块，所述集群管理模块包括高性能的redis 集群；

所述数据面模块调用redis集群的xadd命令发送stream通知到数据面，同时将唯一的服务识别号发送到redis stream中，构建redis stream key，任何发往redis stream的信息都表明对应的服务有配置更新。

8.根据权利要求7所述的一种应用程序数据信息存储控制系统，其特征在于：所述集群管理模块记录服务配置，并且将配置更新信号推送到信号队列中，所述动态感应服务模块利用sidecar在信号队列中获取配置详情；

所述动态感应服务模块包括sidecar管理单元和配置代理单元；

所述sidecar管理单元用于在初始化过程中，指令sidecar检查自身所依赖的外部基础设置是否完善以及当前服务提供的检查检查接口是否正常，同时，根据当前唯一的服务识别号通过配置代理单元拉取对应的全部配置信息，之后sidecar会一直和该配置代理建立监听机制，当配置代理接收到控制面发来的配置变更信号时，通知对应的sidecar配置信息已发生变更；

sidecar获取到变更信号之后就会再次根据自身唯一的服务识别号拉取最新的配置信息，同时会比对最新配置信息的更新时间戳和当前配置的时间戳，如果最新的时间戳比当前的时间戳大，代表获取的配置比当前的要新，进行配置替换。

Images