CN116226660A - 基于分位向量化与规则库的运维监控阈值生成方法和系统 - Google Patents

Abstract

本发明提供了一种基于分位向量化与规则库的运维监控阈值生成方法和系统，包括：根据用户的设置，定义核心指标及其阈值；根据用户的设置生成分位段，根据分位段映射规则，将核心指标的阈值映射为分位段；基于关联分位段关系生成非核心指标的阈值。本发明通过分位段的映射规则，能够从已经人工配置的核心指标的阈值上方便地获得其余未配置的非核心指标的推荐阈值，兼顾了可解释性、可信度、配置效率，解决了冷启动问题。

Description

基于分位向量化与规则库的运维监控阈值生成方法和系统

技术领域

本发明涉及运维技术领域，具体地，涉及基于分位向量化与规则库的运维监控阈值生成方法和系统。

背景技术

现代信息系统包含数量庞大的各类监控指标，在云计算与微服务出现后，这一趋势更为明显。以具备一百个节点的信息系统为例，其每个联网节点至少包含网络负载(如比特率、包数、并发量、新建连接数等)、网络功能可用性(如建连成功率、重置数、重传率、零窗等)、性能(如网络延时、RTT、服务响应时间等)等几类监控指标，其总监控指标数以千计。

在现有技术中，通常采用基于机器学习模型的监控系统、人工的阈值设置方法、自动参数设置的方法。

基于机器学习模型的监控系统可以回避指标设置的问题，但在可解释性、可靠性方面存在欠缺。例如专利文献CN110782045A公开了一种运维告警系统动态阈值的生成方法及装置，其基于SARIMA模型，通过对某一运维监控指标在不同时间点上的值进行建模，形成预测模型，通过置信度预设的置信区间生成阈值空间，从而形成动态阈值。此建模过程随着指标值数据的增加而不断调整优化，动态阈值亦随实际应用环境的变化而变化。但是专利文献CN110782045A完全忽略了人工经验，无法解决冷启动问题。

人工的阈值设置方法具备可解释性和可靠性，但设置阈值需要一定的技术背景和领域经验，不同的信息系统的需独立的设置，这使得人工设置成本高昂；例如专利文献CN115001942A公开一种运维监控阈值推荐的方法及系统，基于对已配置的告警阈值的具体表现来调整告警阈值的配置，以达到告警阈值优化的目标。但是该专利文献CN115001942A中基于所有告警阈值必须已有人工配置为基础展开后续工作，无法自动生成未有人工配置的阈值、无法解决冷启动问题。

还有一些自动参数设置的方法以大量的历史指标为基础，但是在面对新系统时将出现较难解决的冷启动问题。例如专利文献CN110415494A提供的一种基于历史运行数据的设备报警阈值计算方法，包括以下步骤：步骤1，采集设备历史运行数据；步骤2，对历史运行数据进行预处理；步骤3，经预处理后的历史数据统计指标计算，指标包括：数据平均值和数据标准差；步骤4，通过数据平均值和数据标准差计算报警阈值Alm；步骤5，设备实测状态参数S监测报警和报警阈值迭代更新。但是该专利文献CN110415494A不适用于新系统。

发明内容

针对现有技术中的缺陷，本发明的目的是提供一种基于分位向量化与规则库的运维监控阈值生成方法和系统。

根据本发明提供的一种基于分位向量化与规则库的运维监控阈值生成方法，包括：

第一步骤：根据用户的设置，定义核心指标core_metric、定义核心指标core_metric的阈值；

第二步骤：根据用户的设置生成分位段，根据分位段映射规则quantile_mapping_rules，将核心指标的阈值映射为分位段；

第三步骤：基于关联分位段关系生成非核心指标comm_metric的阈值。

优选地，在所述第二步骤中，将核心指标的阈值的分位数对应的区间进行向量化；

所述第二步骤基于分位点向量计算模型、指标规则库，通过如下步骤得到：

步骤B.1：构建基于分位数的样本集；所述步骤B.1包括：

步骤B.1.1：针对平衡后的指标样本集ban_metric_sample_set中的指标取值，计算每个指标取值的N个分位数点Quantile，将指标取值划分为N+1段；按照指标metric的取值到分位段的映射规则quantile_mapping_rules，将所述指标向量转成基于所在分位数段的序号组成的向量，得到基于分位数值的样本表示的样本集quantile_sample_set，所述基于分位数值的样本表示的样本集中的元素记为quantile_sample；

步骤B.2：构建分位点向量计算模型；所述步骤B.2包括：

步骤B.2.1：构建模型输入层；基于元素quantile_sample的长度和分位段数的乘积构建输入层，输入层存储的输入向量记为input_vec；

步骤B.2.2：构建向量编码层；向量编码层为一个矩阵，矩阵的行数R为输入层存储的输入向量input_vec的长度，矩阵的列数C为分位数编码后期望的向量长度；输入层和向量编码层的矩阵乘积为一下层的输入；

步骤B.2.3：构建完整的分类模型；分类模型各层包括：输入层、向量编码层、全连接层、激活函数输出；

步骤B.3：计算分位段向量；所述步骤B.3包括：

步骤B.3.1：得到基于分位数值的样本表示的样本集quantile_sample_set中每个元素的结构为<指标点向量，类标>，将指标点向量转为分类模型的输入向量，将类标作为分类模型的输出，训练所述分类模型，训练完成后，向量编码层的每一行对应一个指标的分位段；将分位段记为bucket_i_j,将每个分位段对应的向量记为embd_vec_i_j，其中i表示第i个指标，j表示分位段对应的分位数；

步骤B.4：构建两两指标之间关联分位段关系；如存在指标metric_i，被划分为M个分位段，其包含的每个分位向量记为embd_vec_i_m；如存在指标metric_j，被划分为N个分位段，其包含的每个分位向量记为embd_vec_j_n；对于给定的m＝α的分位向量embd_vec_i_α在指标metric_j中找到与其相似度最高的分位向量embd_vec_j_β，分位向量embd_vec_i_α与分位向量embd_vec_j_β这两个向量对应的分位段构成关联分位段关系，记为{bucket_i_α，bucket_j_β}；bucket_i_α与除去本指标以外的其他所有指标计算并得到关联分位段关系，得到关联分位段关系构成的集合relevant_set；

步骤B.5：构建指标规则库，指标规则库包括：分位段的映射规则quantile_mapping_rules、每个指标分类metric_cluster的关联分位段关系构成的集合relevant_set组成的分位段关系集合。

优选地，所述平衡后的指标样本集ban_metric_sample_set通过如下步骤获得：

步骤A.1：获取指标样本集metric_sample_set；所述步骤A.1包括：

步骤A.1.1：设置核心指标core_metric对应的核心指标阈值thres；针对核心指标core_metric，将历史日志中的指标值与核心指标阈值thres进行比较，得到以时间点time_point为元素的异常时间点集合anomaly_time_set、正常时间点集合normal_time_set；正常时间点指标的取值为正常样本，异常时间点指标的取值为异常样本，正常样本标签、异常样本标签不同，标签记为类标；

步骤A.1.2：将同一时间点上的同一指标分类metric_cluster中的核心指标、非核心指标的取值构成指标序列，记为指标向量(vec)；

步骤A.1.3：将相对应的所述指标向量与所述类标构成指标样本metric_sample，将多个指标样本构成指标样本集metric_sample_set；

步骤A.2：对所述指标样本集metric_sample_set进行样本平衡，使得异常样本所占比例落在预设的数值区间内，得到平衡后的指标样本集ban_metric_sample_set；所述步骤A.2包括：

步骤A.2.1：从指标样本集metric_sample_set中随机选择1个异常样本，记为s1；

步骤A.2.2：计算指标样本集metric_sample_set中的异常样本与s1的指标向量相似度，从中取相似度最高的p个样本，记为near_s；

步骤A.2.3：基于随机异常样本s1与p个相似度最高的样本near_s生成异常样本指标向量vec：

vec＝(s1.vec+near_s.vec)×r,r为0～1之间的随机数

s1.vec表示样本s1的指标向量vec(在步骤A.1.2生成)；

near_s.vec表示样本near_s的指标向量vec(在步骤A.1.2生成)；

重复步骤A.2.1、步骤A.2.2、步骤A.2.3，直至异常样本所占比例落在预设的数值区间内，将平衡后的样本集记为ban_metric_sample_set。

优选地，在所述第三步骤中，通过向量化结果推导获得非核心指标comm_metric的阈值；基于指标规则库，基于其中关联分位段关系构成的集合relevant_set，找到bucket_i_α在在各个指标中对应的关联分位段，找到关联分位段对应的分位点，各分位点的数值即为阈值。

优选地，在所述第二步骤中，分位段映射规则是基于在新系统上积累的指标数据日志得到的。

根据本发明提供的一种基于分位向量化与规则库的运维监控阈值生成系统，包括：

第一模块：根据用户的设置，定义核心指标core_metric、定义核心指标core_metric的阈值；

第二模块：根据用户的设置生成分位段，根据分位段映射规则quantile_mapping_rules，将核心指标的阈值映射为分位段；

第三模块：基于关联分位段关系生成非核心指标comm_metric的阈值。

优选地，在所述第二模块中，将核心指标的阈值的分位数对应的区间进行向量化；

所述第二模块M基于分位点向量计算模型、指标规则库，通过所述基于分位向量化与规则库的运维监控阈值生成系统还包括的如下模块得到：

模块MB.1：构建基于分位数的样本集；所述模块MB.1包括：

模块MB.1.1：针对平衡后的指标样本集ban_metric_sample_set中的指标取值，计算每个指标取值的N个分位数点Quantile，将指标取值划分为N+1段；按照指标metric的取值到分位段的映射规则quantile_mapping_rules，将所述指标向量转成基于所在分位数段的序号组成的向量，得到基于分位数值的样本表示的样本集quantile_sample_set，所述基于分位数值的样本表示的样本集中的元素记为quantile_sample；

模块MB.2：构建分位点向量计算模型；所述模块MB.2包括：

模块MB.2.1：构建模型输入层；基于元素quantile_sample的长度和分位段数的乘积构建输入层，输入层存储的输入向量记为input_vec；

模块MB.2.2：构建向量编码层；向量编码层为一个矩阵，矩阵的行数R为输入层存储的输入向量input_vec的长度，矩阵的列数C为分位数编码后期望的向量长度；输入层和向量编码层的矩阵乘积为一下层的输入；

模块MB.2.3：构建完整的分类模型；分类模型各层包括：输入层、向量编码层、全连接层、激活函数输出；

模块MB.3：计算分位段向量；所述模块MB.3包括：

模块MB.3.1：得到基于分位数值的样本表示的样本集quantile_sample_set中每个元素的结构为<指标点向量，类标>，将指标点向量转为分类模型的输入向量，将类标作为分类模型的输出，训练所述分类模型，训练完成后，向量编码层的每一行对应一个指标的分位段；将分位段记为bucket_i_j,将每个分位段对应的向量记为embd_vec_i_j，其中i表示第i个指标，j表示分位段对应的分位数；

模块MB.4：构建两两指标之间关联分位段关系；如存在指标metric_i，被划分为M个分位段，其包含的每个分位向量记为embd_vec_i_m；如存在指标metric_j，被划分为N个分位段，其包含的每个分位向量记为embd_vec_j_n；对于给定的m＝α的分位向量embd_vec_i_α在指标metric_j中找到与其相似度最高的分位向量embd_vec_j_β，分位向量embd_vec_i_α与分位向量embd_vec_j_β这两个向量对应的分位段构成关联分位段关系，记为{bucket_i_α，bucket_j_β}；bucket_i_α与除去本指标以外的其他所有指标计算并得到关联分位段关系，得到关联分位段关系构成的集合relevant_set；

模块MB.5：构建指标规则库，指标规则库包括：分位段的映射规则quantile_mapping_rules、每个指标分类metric_cluster的关联分位段关系构成的集合relevant_set组成的分位段关系集合。

优选地，所述平衡后的指标样本集ban_metric_sample_set通过所述基于分位向量化与规则库的运维监控阈值生成系统还包括的如下模块获得：

模块MA.1：获取指标样本集metric_sample_set；所述模块MA.1包括：

模块MA.1.1：设置核心指标core_metric对应的核心指标阈值thres；针对核心指标core_metric，将历史日志中的指标值与核心指标阈值thres进行比较，得到以时间点time_point为元素的异常时间点集合anomaly_time_set、正常时间点集合normal_time_set；正常时间点指标的取值为正常样本，异常时间点指标的取值为异常样本，正常样本标签、异常样本标签不同，标签记为类标；

模块MA.1.2：将同一时间点上的同一指标分类metric_cluster中的核心指标、非核心指标的取值构成指标序列，记为指标向量(vec)；

模块MA.1.3：将相对应的所述指标向量与所述类标构成指标样本metric_sample，将多个指标样本构成指标样本集metric_sample_set；

模块MA.2：对所述指标样本集metric_sample_set进行样本平衡，使得异常样本所占比例落在预设的数值区间内，得到平衡后的指标样本集ban_metric_sample_set；所述模块MA.2包括：

模块MA.2.1：从指标样本集metric_sample_set中随机选择1个异常样本，记为s1；

模块MA.2.2：计算指标样本集metric_sample_set中的异常样本与s1的指标向量相似度，从中取相似度最高的p个样本，记为near_s；

模块MA.2.3：基于随机异常样本s1与p个相似度最高的样本near_s生成异常样本指标向量vec：

vec＝(s1.vec+near_s.vec)×r,r为0～1之间的随机数

s1.vec表示样本s1的指标向量vec(在模块MA.1.2生成)；

near_s.vec表示样本near_s的指标向量vec(在模块MA.1.2生成)；

重复触发模块MA.2.1、模块MA.2.2、模块MA.2.3执行，直至异常样本所占比例落在预设的数值区间内，将平衡后的样本集记为ban_metric_sample_set。

优选地，在所述第三模块中，通过向量化结果推导获得非核心指标comm_metric的阈值；基于指标规则库，基于其中关联分位段关系构成的集合relevant_set，找到bucket_i_α在在各个指标中对应的关联分位段，找到关联分位段对应的分位点，各分位点的数值即为阈值。

优选地，在所述第二模块中，分位段映射规则是基于在新系统上积累的指标数据日志得到的。

与现有技术相比，本发明具有如下的有益效果：

1、本发明通过分位段的映射规则，能够从已经人工配置的核心指标的阈值上方便地获得其余未配置的非核心指标的推荐阈值，降低了配置的人力成本。

2、本发明由于核心指标通过人工配置，其余通过该人工配置的核心指标计算获得，兼顾了可解释性、可信度、配置效率。

3、本发明采用经验分位段映射或基于少量日志构建分位映射规则，解决了冷启动问题。

附图说明

通过阅读参照以下附图对非限制性实施例所作的详细描述，本发明的其它特征、目的和优点将会变得更明显：

图1为分类模型示意图。

图2为获得平衡样本集的流程步骤示意图。

图3为获得指标规则库的流程步骤示意图。

图4为生成阈值的流程步骤示意图。

具体实施方式

下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明，但不以任何形式限制本发明。应当指出的是，对本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变化和改进。这些都属于本发明的保护范围。

本发明提出一种基于分位向量化与规则库的运维监控阈值设置方法，该方法通过将阈值的分位数(统计学概念)对应的区间进行向量化，以人工设置的核心指标的阈值为依据，通过向量化结果推导获得非核心指标的阈值。

本发明的方案可在实验系统上完成数据准备，面对新系统可以基于少量人工配置的核心阈值完成其余非核心指标阈值的配置推荐，有效解决冷启动问题。本发明既具备人工设置阈值的可信度、可解释性，同时基于向量化的分位数关系，使得人工知识在不同指标、不同系统之间得到推广、应用，大幅降低了配置成本。

所述基于分位向量化与规则库的运维监控阈值设置方法，包括如下步骤：

步骤1：构建指标分类和“指标-标签”样本集；

步骤2：构建基于分位数的指标规则库；

步骤3：基于指标规则库的监控阈值生成；

所述步骤1包含如下步骤：

步骤1.1：依据用户的指令，构建指标分类和每类指标的核心指标，每类指标中除了核心指标，其余的指标为非核心指标。要求反应同一类问题的指标分为一类，例如但不限于将指标分为网络负载(核心指标如比特率)、网络功能可用性(核心指标如建连成功率)、性能(核心指标如网络时延)三类。每个分类的核心指标数可大于1个，但必须远小于分类的总指标数。将每个指标分类记为metric_cluster，将每个指标分类中的核心指标集合称为core_metric_set，其中每个核心指标记为一个core_metric；例如metric_cluster_i表示第i指标分类，core_metric_set_i表示第i核心指标集合、core_metric_i表示第i核心指标；指标metric包括核心指标core_metric、非核心指标comm_metric；

步骤1.2：设置核心指标阈值，基于阈值处理实验系统日志数据得到指标样本。实验系统指为了实现本发明目标而构建的仿真数据生成系统。指标设置和处理过程可如下例：

在指标分类metric_cluster_1中，存在核心指标core_metric_1，其告警阈值按照经验由用户设置为thres_1，当核心指标core_metric_1>核心指标阈值thre_1时为异常指标(也可以是核心指标core_metric_1<核心指标阈值thre_1为异常，此处仅以一种情况举例)。

将核心指标core_metric_1对应历史日志使用上述规则进行处理，得到异常时间点集合anomaly_time_set和正常时间点集合normal_time_set，异常时间点集合、正常时间点集合中的每个元素为一个时间点，记为time_point。对于第k个time_point_k可以获得对应的非核心指标(将非核心指标记为comm_metric)的取值序列，例如<comm_metric_1k,comm_metric_2k…comm_metric_nk>，其中，comm_metric_ik表示第k个时间点time_point_k对应的第i个非核心指标。

核心指标与非核心指标取值共同构成指标分类metric_cluster_1在时间点time_point_k时刻的指标序列<core_metric_1k,core_metric_2k,…core_metric_mk,comm_metric_1k,comm_metric_2k…comm_metric_nk>，其中，core_metric_ik表示第k个时间点time_point_k对应的第i个核心指标。

如果正常样本标签、异常样本标签分别为0、1，且time_point_k时刻为异常，则某个时刻time1的指标样本为：

[<core_metric_1k,core_metric_2k,…core_metric_mk,comm_metric_1k,comm_metric_2k…comm_metric_nk>,1]

其中左元素<core_metric_1k,core_metric_2k,…core_metric_mk,comm_metric_1k,comm_metric_2k…comm_metric_nk>称为指标样本的“指标向量”(vec)，右元素1称为指标样本的“类标”。由类似上述样例的样本点构成的集合是与指标分类metric_cluster对应的指标样本集，记为metric_sample_set；

步骤1.3：产生样本平衡的指标样本集。指标样本集metric_sample_set中，异常样本(即类标为1)所占比例可能过低，造成0、1样本不平衡。使用下述方法，产生异常样本,构成样本平衡的样本集：

步骤1.3.1：从指标样本集metric_sample_set中随机选择1个异常样本，记为s1；

步骤1.3.2：计算指标样本集metric_sample_set中的异常样本与s1的指标向量相似度，采用余弦向量法计算，从中取相似度最高的p个样本；

步骤1.3.3：基于s1与p个最相似的样本(记为near_s)生成异常样本指标向量vec：

vec＝(s1.vec+near_s.vec)×r,r为0～1之间的随机数

s1.vec表示样本s1的指标向量vec(步骤1.2中生成)；

near_s.vec表示样本near_s的指标向量vec(步骤1.2中生成)；

重复步骤1.3.1-步骤1.3.3，直至正常样本、异常样本这两类样本比例接近，认为已平衡，比例接近是指落入3:4到4：3的数值范围，取值可以是3:4、5：5、4：3。将平衡后的样本集记为ban_metric_sample_set。

所述步骤2包含如下步骤：

步骤2.1：构建基于分位数的样本集。基于实验系统数据，计算每个指标的N个分位数点，如N取9，9个分位数的点分别是[0.1分位数，0.2分位数，0.3分位数…0.9分位数]。分位数(Quantile)为统计学标准概念，计算方法参考统计学相关资料，0.5分位数即为中位数。例如按照公式计算，基于某一指标metric_1的取值计算可得到：Quantile_0.1＝0.027，Quantile_0.2＝0.12…Quantile_0.9＝0.832。表示Quantile_x表示x分位数。

基于这9个分位点，指标metric_1的取值可以被划分为10段，如取值0.11可以被划入Quantile_0.1对应的段中，如段从1开始计数，则对应第2段。将指标metric到分位段的映射规则记为quantile_mapping_rules。按照quantile_mapping_rules将上例中的指标向量转成基于所在分位数段的序号组成的向量，例如：

[<1,5,3,8…7>,1]

[<2,3,2,7…5>,0]

[<5,8,6,2…8>,0]

其中[<1,5,3,8…7>,1]的左元素<1,5,3,8…7>中的数字分别表示第1、5、3、8、7分位数段。

对于步骤1所生成的平衡后的样本集ban_metric_sample_set使用上述方法计算，得到基于分位数值的样本表示的样本集，记为quantile_sample_set，其中，所述基于分位数值的样本表示的样本集中的每个元素记为quantile_sample。

步骤2.2：构建分位点向量计算模型。

步骤2.2.1：构建模型输入层。基于quantile_sample的长度和分位段数的乘积构建输入层，输入层存储的输入向量记为input_vec。如输入层存储的输入向量quantile_sample的指标向量长度为20，即存在20个指标，每个指标被划分成10个分位点，则模型的输入向量长度为20×10＝200，如存在quantile_sample，其指标向量为<5,2…>，则在输入向量的前20位中，第5位和第12位取1，其余取0，形如：

[0,0,0,0,1,0,0,0,0,0,0,1,0,0,0,0,0,0,0,0…]；

步骤2.2.2：构建向量编码层。向量编码层为一个矩阵，矩阵的行数R为输入层存储的输入向量input_vec的长度，矩阵的列数C为分位数编码后期望的向量长度，如期望长度为32，则C＝32。输入层和向量编码层的矩阵乘积为一下层的输入；

步骤2.2.3：构建完整的分类模型。基于步骤2.2.1和步骤2.2.2，构建完整分类神经网络分类模型，模型各层例如但不限于以下结构：依次为[输入层，向量编码层，全连接层1，全连接层2，全连接层3，激活函数输出]，如图1所示；

步骤2.3：计算分位段向量。步骤2.1得到的quantile_sample_set中每个元素的结构为<指标点向量，类标>，将其指标点向量按照步骤2.2.1的描述的方法转为分类模型的输入向量，将其类标作为分类模型的输出，基于上述数据训练步骤2.2构建的分类模型。训练完成后，向量编码层的每一行对应一个指标的分位段。将分位段记为bucket_i_j,将每个分位段对应的向量记为embd_vec_i_j，其中i表示第i个指标，j表示分位段对应的分位数。如将每个指标划分成10个分位段，矩阵的第2行对应第1个指标的第二个分位段的向量，该分位段可记为bucket_1_0.1，对应的向量为embd_vec_1_0.1；矩阵的第16行对应第二个指标的第六个分位段的向量,该分位段可记为bucket_2_0.6，对应的向量为embd_vec_2_0.6；

步骤2.4：构建两两指标之间关联分位段关系。如存在指标metric_i，被划分为M个分位段，其包含的每个分位向量记为embd_vec_i_m；如存在指标metric_j，被划分为N个分位段，其包含的每个分位向量记为embd_vec_j_n。对于给定的m＝α的分位向量embd_vec_i_α可以在指标metric_j中找到与其相似度最高的向量embd_vec_j_β，相似度计算可采用但不限于余弦相似度计算法。上述两个向量对应的分位段构成关联分位段关系，记为{bucket_i_α，bucket_j_β}。bucket_i_α需要与除去本指标以外的其他所有指标计算并得到关联分位段关系，将关联分位段关系构成的集合记为relevant_set。按照上述方法计算每一个metric_cluster的relevant_set；

步骤2.5：构建指标规则库。指标规则库包含“分位段映射”和“分位段关系集合”两个部分。经验分位段映射规则即quantile_mapping_rules(在步骤2.1中生成)，分位段关系集合即每个metric_cluster的relevant_set组成的集合。

所述步骤3包含如下步骤：

步骤3.1：由人工完成每个metric_cluster的核心指标的配置；

步骤3.2：确定分位段映射规则(quantile_mapping_rules)。分位段映射规则可以来自于：1)完全使用步骤2生成的经验分位段映射规则(quantile_mapping_rules)；2)在新系统上积累少量的指标数据日志，例如但不限于1-3天的指标运行日志，计算该系统的分位段映射规则；

步骤3.3：生成人工设置值的分位段。基于步骤3.2确定的分位段映射规则，将人工设置的核心指标数字映射为分位段，如bucket_i_α；

步骤3.4：基于关联分位段生成阈值。基于步骤2生成的规则库，基于其中relevant_set，找到bucket_i_α在在各个指标中对应的关联分位段：bucket_i_α₁、bucket_i_α₂…bucket_i_α_n。找到所有上述关联分位段对应的分位点，如Quantile_1_0.2＝0.032，Quantile_2_0.3＝0.75等，各分位点的数值即为生成的阈值。

本发明还提供一种基于分位向量化与规则库的运维监控阈值生成系统，本领域技术人员可以通过执行所述基于分位向量化与规则库的运维监控阈值生成方法的流程步骤实现所述基于分位向量化与规则库的运维监控阈值生成系统，即可以将所述基于分位向量化与规则库的运维监控阈值生成方法理解为所述基于分位向量化与规则库的运维监控阈值生成系统的优选实施方式。具体地，根据本发明提供的一种基于分位向量化与规则库的运维监控阈值生成系统，包括：

第一模块：根据用户的设置，定义核心指标core_metric、定义核心指标core_metric的阈值；

第二模块：根据用户的设置生成分位段，根据分位段映射规则quantile_mapping_rules，将核心指标的阈值映射为分位段；在所述第二模块中，分位段映射规则是基于在新系统上积累的指标数据日志得到的；

第三模块：基于关联分位段关系生成非核心指标comm_metric的阈值。在所述第三模块中，通过向量化结果推导获得非核心指标comm_metric的阈值；基于指标规则库，基于其中关联分位段关系构成的集合relevant_set，找到bucket_i_α在在各个指标中对应的关联分位段，找到关联分位段对应的分位点，各分位点的数值即为阈值；

优选地，在所述第二模块中，将核心指标的阈值的分位数对应的区间进行向量化；

所述第二模块M基于分位点向量计算模型、指标规则库，通过所述基于分位向量化与规则库的运维监控阈值生成系统还包括的如下模块得到：

模块MB.1：构建基于分位数的样本集；所述模块MB.1包括：

模块MB.1.1：针对平衡后的指标样本集ban_metric_sample_set中的指标取值，计算每个指标取值的N个分位数点Quantile，将指标取值划分为N+1段；按照指标metric的取值到分位段的映射规则quantile_mapping_rules，将所述指标向量转成基于所在分位数段的序号组成的向量，得到基于分位数值的样本表示的样本集quantile_sample_set，所述基于分位数值的样本表示的样本集中的元素记为quantile_sample；

模块MB.2：构建分位点向量计算模型；所述模块MB.2包括：

模块MB.2.1：构建模型输入层；基于元素quantile_sample的长度和分位段数的乘积构建输入层，输入层存储的输入向量记为input_vec；

模块MB.2.2：构建向量编码层；向量编码层为一个矩阵，矩阵的行数R为输入层存储的输入向量input_vec的长度，矩阵的列数C为分位数编码后期望的向量长度；输入层和向量编码层的矩阵乘积为一下层的输入；

模块MB.2.3：构建完整的分类模型；分类模型各层包括：输入层、向量编码层、全连接层、激活函数输出；

模块MB.3：计算分位段向量；所述模块MB.3包括：

模块MB.3.1：得到基于分位数值的样本表示的样本集quantile_sample_set中每个元素的结构为<指标点向量，类标>，将指标点向量转为分类模型的输入向量，将类标作为分类模型的输出，训练所述分类模型，训练完成后，向量编码层的每一行对应一个指标的分位段；将分位段记为bucket_i_j,将每个分位段对应的向量记为embd_vec_i_j，其中i表示第i个指标，j表示分位段对应的分位数；

模块MB.4：构建两两指标之间关联分位段关系；如存在指标metric_i，被划分为M个分位段，其包含的每个分位向量记为embd_vec_i_m；如存在指标metric_j，被划分为N个分位段，其包含的每个分位向量记为embd_vec_j_n；对于给定的m＝α的分位向量embd_vec_i_α在指标metric_j中找到与其相似度最高的分位向量embd_vec_j_β，分位向量embd_vec_i_α与分位向量embd_vec_j_β这两个向量对应的分位段构成关联分位段关系，记为{bucket_i_α，bucket_j_β}；bucket_i_α与除去本指标以外的其他所有指标计算并得到关联分位段关系，得到关联分位段关系构成的集合relevant_set；

模块MB.5：构建指标规则库，指标规则库包括：分位段的映射规则quantile_mapping_rules、每个指标分类metric_cluster的关联分位段关系构成的集合relevant_set组成的分位段关系集合。

优选地，所述平衡后的指标样本集ban_metric_sample_set通过所述基于分位向量化与规则库的运维监控阈值生成系统还包括的如下模块获得：

模块MA.1：获取指标样本集metric_sample_set；所述模块MA.1包括：

模块MA.1.1：设置核心指标core_metric对应的核心指标阈值thres；针对核心指标core_metric，将历史日志中的指标值与核心指标阈值thres进行比较，得到以时间点time_point为元素的异常时间点集合anomaly_time_set、正常时间点集合normal_time_set；正常时间点指标的取值为正常样本，异常时间点指标的取值为异常样本，正常样本标签、异常样本标签不同，标签记为类标；

模块MA.1.2：将同一时间点上的同一指标分类metric_cluster中的核心指标、非核心指标的取值构成指标序列，记为指标向量(vec)；

模块MA.1.3：将相对应的所述指标向量与所述类标构成指标样本metric_sample，将多个指标样本构成指标样本集metric_sample_set；

模块MA.2：对所述指标样本集metric_sample_set进行样本平衡，使得异常样本所占比例落在预设的数值区间内，得到平衡后的指标样本集ban_metric_sample_set；所述模块MA.2包括：

模块MA.2.1：从指标样本集metric_sample_set中随机选择1个异常样本，记为s1；

模块MA.2.2：计算指标样本集metric_sample_set中的异常样本与s1的指标向量相似度，从中取相似度最高的p个样本，记为near_s；

模块MA.2.3：基于随机异常样本s1与p个相似度最高的样本near_s生成异常样本指标向量vec：

vec＝(s1.vec+near_s.vec)×r,r为0～1之间的随机数

s1.vec表示样本s1的指标向量vec(由模块MA.1.2生成)；

near_s.vec表示样本near_s的指标向量vec(由模块MA.1.2生成)；

重复触发模块MA.2.1、模块MA.2.2、模块MA.2.3执行，直至异常样本所占比例落在预设的数值区间内，将平衡后的样本集记为ban_metric_sample_set。

本领域技术人员知道，除了以纯计算机可读程序代码方式实现本发明提供的系统、装置及其各个模块以外，完全可以通过将方法步骤进行逻辑编程来使得本发明提供的系统、装置及其各个模块以逻辑门、开关、专用集成电路、可编程逻辑控制器以及嵌入式微控制器等的形式来实现相同程序。所以，本发明提供的系统、装置及其各个模块可以被认为是一种硬件部件，而对其内包括的用于实现各种程序的模块也可以视为硬件部件内的结构；也可以将用于实现各种功能的模块视为既可以是实现方法的软件程序又可以是硬件部件内的结构。

以上对本发明的具体实施例进行了描述。需要理解的是，本发明并不局限于上述特定实施方式，本领域技术人员可以在权利要求的范围内做出各种变化或修改，这并不影响本发明的实质内容。在不冲突的情况下，本申请的实施例和实施例中的特征可以任意相互组合。

Claims (10)

1.一种基于分位向量化与规则库的运维监控阈值生成方法，其特征在于，包括：

第一步骤：根据用户的设置，定义核心指标core_metric、定义核心指标core_metric的阈值；

第二步骤：根据用户的设置生成分位段，根据分位段映射规则quantile_mapping_rules，将核心指标的阈值映射为分位段；

第三步骤：基于关联分位段关系生成非核心指标comm_metric的阈值。

2.根据权利要求1所述的基于分位向量化与规则库的运维监控阈值生成方法，其特征在于，在所述第二步骤中，将核心指标的阈值的分位数对应的区间进行向量化；

所述第二步骤基于分位点向量计算模型、指标规则库，通过如下步骤得到：

步骤B.1：构建基于分位数的样本集；所述步骤B.1包括：

步骤B.1.1：针对平衡后的指标样本集ban_metric_sample_set中的指标取值，计算每个指标取值的N个分位数点Quantile，将指标取值划分为N+1段；按照指标metric的取值到分位段的映射规则quantile_mapping_rules，将所述指标向量转成基于所在分位数段的序号组成的向量，得到基于分位数值的样本表示的样本集quantile_sample_set，所述基于分位数值的样本表示的样本集中的元素记为quantile_sample；

步骤B.2：构建分位点向量计算模型；所述步骤B.2包括：

步骤B.2.1：构建模型输入层；基于元素quantile_sample的长度和分位段数的乘积构建输入层，输入层存储的输入向量记为input_vec；

步骤B.2.2：构建向量编码层；向量编码层为一个矩阵，矩阵的行数R为输入层存储的输入向量input_vec的长度，矩阵的列数C为分位数编码后期望的向量长度；输入层和向量编码层的矩阵乘积为一下层的输入；

步骤B.2.3：构建完整的分类模型；分类模型各层包括：输入层、向量编码层、全连接层、激活函数输出；

步骤B.3：计算分位段向量；所述步骤B.3包括：

步骤B.3.1：得到基于分位数值的样本表示的样本集quantile_sample_set中每个元素的结构为<指标点向量，类标>，将指标点向量转为分类模型的输入向量，将类标作为分类模型的输出，训练所述分类模型，训练完成后，向量编码层的每一行对应一个指标的分位段；将分位段记为bucket_i_j,将每个分位段对应的向量记为embd_vec_i_j，其中i表示第i个指标，j表示分位段对应的分位数；

步骤B.4：构建两两指标之间关联分位段关系；如存在指标metric_i，被划分为M个分位段，其包含的每个分位向量记为embd_vec_i_m；如存在指标metric_j，被划分为N个分位段，其包含的每个分位向量记为embd_vec_j_n；对于给定的m＝α的分位向量embd_vec_i_α在指标metric_j中找到与其相似度最高的分位向量embd_vec_j_β，分位向量embd_vec_i_α与分位向量embd_vec_j_β这两个向量对应的分位段构成关联分位段关系，记为{bucket_i_α，bucket_j_β}；bucket_i_α与除去本指标以外的其他所有指标计算并得到关联分位段关系，得到关联分位段关系构成的集合relevant_set；

步骤B.5：构建指标规则库，指标规则库包括：分位段的映射规则quantile_mapping_rules、每个指标分类metric_cluster的关联分位段关系构成的集合relevant_set组成的分位段关系集合。

3.根据权利要求2所述的基于分位向量化与规则库的运维监控阈值生成方法，其特征在于，所述平衡后的指标样本集ban_metric_sample_set通过如下步骤获得：

步骤A.1：获取指标样本集metric_sample_set；所述步骤A.1包括：

步骤A.1.1：设置核心指标core_metric对应的核心指标阈值thres；针对核心指标core_metric，将历史日志中的指标值与核心指标阈值thres进行比较，得到以时间点time_point为元素的异常时间点集合anomaly_time_set、正常时间点集合normal_time_set；正常时间点指标的取值为正常样本，异常时间点指标的取值为异常样本，正常样本标签、异常样本标签不同，标签记为类标；

步骤A.1.2：将同一时间点上的同一指标分类metric_cluster中的核心指标、非核心指标的取值构成指标序列，记为指标向量vec；

步骤A.1.3：将相对应的所述指标向量与所述类标构成指标样本metric_sample，将多个指标样本构成指标样本集metric_sample_set；

步骤A.2：对所述指标样本集metric_sample_set进行样本平衡，使得异常样本所占比例落在预设的数值区间内，得到平衡后的指标样本集ban_metric_sample_set；所述步骤A.2包括：

步骤A.2.1：从指标样本集metric_sample_set中随机选择1个异常样本，记为s1；

步骤A.2.2：计算指标样本集metric_sample_set中的异常样本与s1的指标向量相似度，从中取相似度最高的p个样本，记为near_s；

步骤A.2.3：基于随机异常样本s1与p个相似度最高的样本near_s生成异常样本指标向量vec：

vec＝(s1.vec+near_s.vec)×r,r为0～1之间的随机数

s1.vec表示样本s1的指标向量vec；

near_s.vec表示样本near_s的指标向量vec；重复步骤A.2.1、步骤A.2.2、步骤A.2.3，直至异常样本所占比例落在预设的数值区间内，将平衡后的样本集记为ban_metric_sample_set。

4.根据权利要求3所述的基于分位向量化与规则库的运维监控阈值生成方法，其特征在于，在所述第三步骤中，通过向量化结果推导获得非核心指标comm_metric的阈值；基于指标规则库，基于其中关联分位段关系构成的集合relevant_set，找到bucket_i_α在在各个指标中对应的关联分位段，找到关联分位段对应的分位点，各分位点的数值即为阈值。

5.根据权利要求1所述的基于分位向量化与规则库的运维监控阈值生成方法，其特征在于，在所述第二步骤中，分位段映射规则是基于在新系统上积累的指标数据日志得到的。

6.一种基于分位向量化与规则库的运维监控阈值生成系统，其特征在于，包括：

第一模块：根据用户的设置，定义核心指标core_metric、定义核心指标core_metric的阈值；

第二模块：根据用户的设置生成分位段，根据分位段映射规则quantile_mapping_rules，将核心指标的阈值映射为分位段；

第三模块：基于关联分位段关系生成非核心指标comm_metric的阈值。

7.根据权利要求6所述的基于分位向量化与规则库的运维监控阈值生成系统，其特征在于，在所述第二模块中，将核心指标的阈值的分位数对应的区间进行向量化；

所述第二模块M基于分位点向量计算模型、指标规则库，通过所述基于分位向量化与规则库的运维监控阈值生成系统还包括的如下模块得到：

模块MB.1：构建基于分位数的样本集；所述模块MB.1包括：

模块MB.1.1：针对平衡后的指标样本集ban_metric_sample_set中的指标取值，计算每个指标取值的N个分位数点Quantile，将指标取值划分为N+1段；按照指标metric的取值到分位段的映射规则quantile_mapping_rules，将所述指标向量转成基于所在分位数段的序号组成的向量，得到基于分位数值的样本表示的样本集quantile_sample_set，所述基于分位数值的样本表示的样本集中的元素记为quantile_sample；

模块MB.2：构建分位点向量计算模型；所述模块MB.2包括：

模块MB.2.1：构建模型输入层；基于元素quantile_sample的长度和分位段数的乘积构建输入层，输入层存储的输入向量记为input_vec；

模块MB.2.2：构建向量编码层；向量编码层为一个矩阵，矩阵的行数R为输入层存储的输入向量input_vec的长度，矩阵的列数C为分位数编码后期望的向量长度；输入层和向量编码层的矩阵乘积为一下层的输入；

模块MB.2.3：构建完整的分类模型；分类模型各层包括：输入层、向量编码层、全连接层、激活函数输出；

模块MB.3：计算分位段向量；所述模块MB.3包括：

模块MB.3.1：得到基于分位数值的样本表示的样本集quantile_sample_set中每个元素的结构为<指标点向量，类标>，将指标点向量转为分类模型的输入向量，将类标作为分类模型的输出，训练所述分类模型，训练完成后，向量编码层的每一行对应一个指标的分位段；将分位段记为bucket_i_j,将每个分位段对应的向量记为embd_vec_i_j，其中i表示第i个指标，j表示分位段对应的分位数；

模块MB.4：构建两两指标之间关联分位段关系；如存在指标metric_i，被划分为M个分位段，其包含的每个分位向量记为embd_vec_i_m；如存在指标metric_j，被划分为N个分位段，其包含的每个分位向量记为embd_vec_j_n；对于给定的m＝α的分位向量embd_vec_i_α在指标metric_j中找到与其相似度最高的分位向量embd_vec_j_β，分位向量embd_vec_i_α与分位向量embd_vec_j_β这两个向量对应的分位段构成关联分位段关系，记为{bucket_i_α，bucket_j_β}；bucket_i_α与除去本指标以外的其他所有指标计算并得到关联分位段关系，得到关联分位段关系构成的集合relevant_set；

模块MB.5：构建指标规则库，指标规则库包括：分位段的映射规则quantile_mapping_rules、每个指标分类metric_cluster的关联分位段关系构成的集合relevant_set组成的分位段关系集合。

8.根据权利要求7所述的基于分位向量化与规则库的运维监控阈值生成系统，其特征在于，所述平衡后的指标样本集ban_metric_sample_set通过所述基于分位向量化与规则库的运维监控阈值生成系统还包括的如下模块获得：

模块MA.1：获取指标样本集metric_sample_set；所述模块MA.1包括：

模块MA.1.1：设置核心指标core_metric对应的核心指标阈值thres；针对核心指标core_metric，将历史日志中的指标值与核心指标阈值thres进行比较，得到以时间点time_point为元素的异常时间点集合anomaly_time_set、正常时间点集合normal_time_set；正常时间点指标的取值为正常样本，异常时间点指标的取值为异常样本，正常样本标签、异常样本标签不同，标签记为类标；

模块MA.1.2：将同一时间点上的同一指标分类metric_cluster中的核心指标、非核心指标的取值构成指标序列，记为指标向量vec；

模块MA.1.3：将相对应的所述指标向量与所述类标构成指标样本metric_sample，将多个指标样本构成指标样本集metric_sample_set；

模块MA.2：对所述指标样本集metric_sample_set进行样本平衡，使得异常样本所占比例落在预设的数值区间内，得到平衡后的指标样本集ban_metric_sample_set；所述模块MA.2包括：

模块MA.2.1：从指标样本集metric_sample_set中随机选择1个异常样本，记为s1；

模块MA.2.2：计算指标样本集metric_sample_set中的异常样本与s1的指标向量相似度，从中取相似度最高的p个样本，记为near_s；

模块MA.2.3：基于随机异常样本s1与p个相似度最高的样本near_s生成异常样本指标向量vec：

vec＝(s1.vec+near_s.vec)×r,r为0～1之间的随机数

s1.vec表示样本s1的指标向量vec；

near_s.vec表示样本near_s的指标向量vec；

重复触发模块MA.2.1、模块MA.2.2、模块MA.2.3执行，直至异常样本所占比例落在预设的数值区间内，将平衡后的样本集记为ban_metric_sample_set。

9.根据权利要求8所述的基于分位向量化与规则库的运维监控阈值生成系统，其特征在于，在所述第三模块中，通过向量化结果推导获得非核心指标comm_metric的阈值；基于指标规则库，基于其中关联分位段关系构成的集合relevant_set，找到bucket_i_α在在各个指标中对应的关联分位段，找到关联分位段对应的分位点，各分位点的数值即为阈值。

10.根据权利要求6所述的基于分位向量化与规则库的运维监控阈值生成系统，其特征在于，在所述第二模块中，分位段映射规则是基于在新系统上积累的指标数据日志得到的。

Images