CN101968758B - 多数据点阈值检测方法 - Google Patents

Abstract

本发明公开了一种多数据点阈值检测方法，用于解决现有的自律计算系统性能分析方法决策效率低的技术问题。技术方案是通过划分性能数据的统计区间，对设备的性能指标在一个统计区间内，进行连续的阈值检测，当整个时间段内的多次检测值均超过边界值时，才认为性能故障发生，从而避免了无效决策所导致的系统开销，提高了自律系统的决策效率。与背景技术的单点判断相比，系统无效操作减少了75％。

Description

多数据点阈值检测方法

技术领域

本发明涉及一种阈值检测方法，特别是一种多数据点阈值检测方法。

背景技术

文献“LitoiuMarin.A Performance Analysis Methodfor Autonomic ComputingSystems[J].ACM Transactions on Autonomous and Adaptive Systems，v 2，n 1，March 1，2007”公开了一种自律计算系统的性能分析方法。该方法利用性能评估以及线性和非线性的编程模型，通过观察工作负载的负载度来计算分布式系统性能矩阵的边界值。系统采用队列网络模型建模(QNM)，模型数据能够实时的采集和过滤。自律管理器通过性能边界值，可以调节会话的数量，计算可用节点数。该方法解决了性能故障边界值的计算问题，但是，该方法采用单点检测，即性能故障发生一次就调节会话数量，在故障偶然发生立刻恢复的情况下，自律系统进行了无效决策和操作，导致自律系统的决策效率较低。

发明内容

为了克服现有的自律计算系统性能分析方法决策效率低的不足，本发明提供一种多数据点阈值检测方法。该方法通过划分性能数据的统计区间，对设备的性能指标在一个统计区间内，进行连续的阈值检测，当整个时间段内的多次检测值均超过边界值时，才认为性能故障发生，从而可以避免无效决策所导致的系统开销，提高自律系统的决策效率。

本发明解决其技术问题所采用的技术方案：一种多数据点阈值检测方法，其特点是包括以下步骤：

(a)定义阈值上限边界值T_uppererror和下限边界值T_lowererror，且：T_uppererror＞T_lowererror；性能计数器所记录的值value满足如下关系：{value＞T_uppererror}∨{value＜T_lowererror}则认为性能计数器发生性能异常，value处于阈值区间；

(b)设性能指标的初始统计时刻为T1，结束统计时刻为T2，插值间隔为Tn，则在区间[T1，T2]内，需要统计的区间个数定义为：

$N_{\mathrm{period}}=\frac{T2-T1}{T_n}$

对于任意的性能计数器，假设每t时刻(t∈[T1，T2])统计一个原始数据，共统计了N个时刻，这N个时刻的数据被划分在N_Period个区间内；

(c)设计统计量，采用统计量最大值，最小值，平均值或标准偏差来统计性能数据，其中将单个统计区间内的值按照统计量计算后即可得到一个采样数据点，①采用最大值统计性能数据：

MAX_i＝Max(X_t…X_t+period)

式中，i属于[1，N_Period]，t是i区间的起始时刻，t+period表示一个统计区间，MAX是求最大值的函数；则在整个[T1，T2]区间内，按照最大值统计量，性能数据构成由最大值组成的集合：

集合 $\mathrm{MAX}$

$=\{{\mathrm{MAX}}_1,{\mathrm{MAX}}_2,...{\mathrm{MAX}}_{N_{\mathrm{Period}}}\}$

$=\{\mathrm{MAX}\left(X_{T1,...T1+\mathrm{Period}}\right),\mathrm{MAX}\left(X_{T1+\mathrm{Period},...T1+2\mathrm{Period}}\right),...,\mathrm{MAX}\left(X_{T1+(N-1)*\mathrm{Period},...T1+N*\mathrm{Period}}\right)\}$

②采用最小值统计性能数据：

按照相同的时刻和插值条件，同等的定义基于最小值的统计量集合：

集合 $\mathrm{MIN}$

$=\{{\mathrm{MIN}}_1,{\mathrm{MIN}}_2,...{\mathrm{MIN}}_{N_{\mathrm{Period}}}\}$

$=\{\mathrm{MIN}\left(X_{T1,...T1+\mathrm{Period}}\right),\mathrm{MIN}\left(X_{T1+\mathrm{Period},...T1+2\mathrm{Period}}\right),...,\mathrm{MIN}\left(X_{T1+(N-1)*\mathrm{Period},...T1+N*\mathrm{Period}}\right)\}$

③采用平均值统计性能数据：

时刻和插值条件不变，在单个统计区间内采用平均值函数，得到统计集合：

集合 $\mathrm{AVERAGE}$

$=\{{\mathrm{AVG}}_1,{\mathrm{AVG}}_2,...{\mathrm{AVG}}_{N_{\mathrm{Period}}}\}$

$=\{\mathrm{AVG}\left(X_{T1,...T1+\mathrm{Period}}\right),\mathrm{AVG}\left(X_{T1+\mathrm{Period},...T1+2\mathrm{Period}}\right),...,\mathrm{AVG}\left(X_{T1+(N-1)*\mathrm{Period},...T1+N*\mathrm{Period}}\right)\}$

其中，假设单个统计区间内有k个性能数据，则该区间的平均值函数定义为：

$\mathrm{AVG}=\frac{\underset{i=1}{\overset{k}{\mathrm{\Σ}}}{X}_i}{k}$

④采用标准偏差统计性能数据：

假设SD为统计函数，得到统计集合SD：

统计集合 $\mathrm{SD}$

$=\{{\mathrm{SD}}_1,{\mathrm{SD}}_2,...{\mathrm{SD}}_{N_{\mathrm{Period}}}\}$

$=\{\mathrm{SD}\left(X_{T1,...T1+\mathrm{Period}}\right),\mathrm{SD}\left(X_{T1+\mathrm{Period},...T1+2\mathrm{Period}}\right),...,\mathrm{SD}\left(X_{T1+(N-1)*\mathrm{Period},...T1+N*\mathrm{Period}}\right)\}$

假设单个统计区间内有k个性能数据，则该区间的标准偏差函数定义为：

$\mathrm{SD}=\sqrt{\frac{K\underset{i=1}{\overset{K}{\mathrm{\Σ}}}{X_i}^2-{\left(\underset{i=1}{\overset{K}{\mathrm{\Σ}}}{X}_i\right)}^2}{K(K-1)}}$

(d)采用多点检测方法判断阈值是否越界；用计数器记录在整个[T1，T2]区间内阈值越界的次数，初始值为0；假设采样数据点为N个，当发现第一个数据点超过阈值后，计数器加1，继续判断随后的N-1个数据点是否越界，如果越界数据点超过P个(P＞1并且P＜＝N)，则认为性能故障发生，从而通知自律系统，自律系统采用策略来修复性能故障；当越界数据个数不足P时，不作任何通知，继续判断后续数据点；当判断个数等于N时，如果无性能故障发生，则计数器清零，重新开始下一组数据点计数。

本发明的有益效果是：由于通过划分性能数据的统计区间，对设备的性能指标在一个统计区间内，进行连续的阈值检测，当整个时间段内的多次检测值均超过边界值时，才认为性能故障发生，从而避免了无效决策所导致的系统开销，提高了自律系统的决策效率。与背景技术的单点判断相比，系统无效操作减少了75％。

下面结合具体实施方式对本发明作详细说明。

具体实施方式

A、定义阈值区间。阈值具有上限边界值T_upererror和下限边界值T_lowererror，且：T_uppererror＞T_lowererror。假设性能计数器为P，其值value满足如下关系：{Value＞T_uppererror}∨{Value＜T_lowererror}则认为性能计数器P发生性能异常，value处于阈值区间。

定义CPU使用率的上限为90％，下限为5％，及CPU负荷超过90％，则认为该设备负荷过大，需要其他设备来分担工作，当CPU使用率低于5％时，则认为该设备空闲，需要承担一些其他设备的工作，这两种情况发生时都需要向自律系统通知。因此，阈值区间为[5，90]。

B、划分时间周期。设性能指标的初始统计时刻为T1，结束统计时刻为T2，插值间隔为Tn，则在区间[T1，T2]内，需要统计的区间个数定义为：

$N_{\mathrm{period}}=\frac{T2-T1}{T_n}$

对于任意的性能计数器P_i，假设每t时刻(t∈[T1，T2])统计一个原始数据，共统计了N个时刻，这N个时刻的数据被划分在N_Period个区间内。

如统计开始时间为9:00，结束时间为10:00，插值间隔为10分钟，则统计区间＝60/10＝6。时间区间为[9:00，9:10]，[9:10，9:20]，[9:20，9:30]，[9:30，9:40]，[9:40，9:50]，[9:50，10:00]。

C、设计统计量。在一个固定的时间区间内，除了采用原始采样点判断阈值是否越界外，还采用最大值，最小值，平均值，标准偏差等统计量来统计性能数据，优点是将一个统计区间内的值按照统计量计算后得到一个数据点，之后再利用多数据点检测方法进行检测，进一步减少通报次数，避免无效操作。其中：

●基于最大值的统计。

MAX_i＝Max(X_t…X_t+period)

式中，i属于[1，N_Period]，t是i区间的起始时刻，t+period表示一个统计区间，MAX是求最大值的函数。则在整个[T1，T2]区间内，按照最大值统计量，性能数据构成由最大值组成的集合：

集合 $\mathrm{MAX}$

$=\{{\mathrm{MAX}}_1,{\mathrm{MAX}}_2,...{\mathrm{MAX}}_{N_{\mathrm{Period}}}\}$

$=\{\mathrm{MAX}\left(X_{T1,...T1+\mathrm{Period}}\right),\mathrm{MAX}\left(X_{T1+\mathrm{Period},...T1+2\mathrm{Period}}\right),...,\mathrm{MAX}\left(X_{T1+(N-1)*\mathrm{Period},...T1+N*\mathrm{Period}}\right)\}$

●基于最小值的统计。

按照相同的时刻和插值条件，同等的定义基于最小值的统计量集合：

集合 $\mathrm{MIN}$

$=\{{\mathrm{MIN}}_1,{\mathrm{MIN}}_2,...{\mathrm{MIN}}_{N_{\mathrm{Period}}}\}$

$=\{\mathrm{MIN}\left(X_{T1,...T1+\mathrm{Period}}\right),\mathrm{MIN}\left(X_{T1+\mathrm{Period},...T1+2\mathrm{Period}}\right),...,\mathrm{MIN}\left(X_{T1+(N-1)*\mathrm{Period},...T1+N*\mathrm{Period}}\right)\}$

●基于平均值的统计。

时刻和插值条件不变，在单个统计区间内采用平均值函数，得到统计集合：

集合 $\mathrm{AVERAGE}$

$=\{{\mathrm{AVG}}_1,{\mathrm{AVG}}_2,...{\mathrm{AVG}}_{N_{\mathrm{Period}}}\}$

$=\{\mathrm{AVG}\left(X_{T1,...T1+\mathrm{Period}}\right),\mathrm{AVG}\left(X_{T1+\mathrm{Period},...T1+2\mathrm{Period}}\right),...,\mathrm{AVG}\left(X_{T1+(N-1)*\mathrm{Period},...T1+N*\mathrm{Period}}\right)\}$

其中，假设一个区间内有k个性能数据，则该区间的平均值函数定义为：

$\mathrm{AVG}=\frac{\underset{i=1}{\overset{k}{\mathrm{\Σ}}}{X}_i}{k}$

●基于标准偏差的统计。

最大值，最小值和平均值反映了性能数据的真实走势，但在在实际应用中，还需要了解某个时间段内的性能数据偏离平均值的程度，这就需要用标准偏差来统计，现有的统计工具中缺少对该部分的定义。依据前面的条件，假设SD为统计函数，得到统计集合SD：

统计集合 $\mathrm{SD}$

$=\{{\mathrm{SD}}_1,{\mathrm{SD}}_2,...{\mathrm{SD}}_{N_{\mathrm{Period}}}\}$

$=\{\mathrm{SD}\left(X_{T1,...T1+\mathrm{Period}}\right),\mathrm{SD}\left(X_{T1+\mathrm{Period},...T1+2\mathrm{Period}}\right),...,\mathrm{SD}\left(X_{T1+(N-1)*\mathrm{Period},...T1+N*\mathrm{Period}}\right)\}$

假设一个区间内有k个性能数据，则该区间的标准偏差函数定义为：

$\mathrm{SD}=\sqrt{\frac{K\underset{i=1}{\overset{K}{\mathrm{\Σ}}}{X_i}^2-{\left(\underset{i=1}{\overset{K}{\mathrm{\Σ}}}{X}_i\right)}^2}{K(K-1)}}$

假设使用最大值作为统计量，在上述6个时间区间内，分别根据公式计算出区间内的最大值为{85，90，80，95，98，95}。

D、采用多点检测方法判断阈值是否越界。用计数器记录在一个采样区间内阈值越界的次数，初始值为0。假设采样数据点为N个，当发现第一个数据点超过阈值后，计数器加1，继续判断随后的N-1个数据点是否越界，如果越界数据点超过P个(P＞1并且P＜＝N)，则认为性能故障发生，从而通知自律系统，自律系统采用策略来修复性能故障。当越界数据个数不足P时，不作任何通知，继续判断后续数据点。当判断个数等于N时，如果无性能故障发生，则计数器清零，重新开始下一组数据点计数。

假设6个数据点中只要有3个超过阈值就通知自律系统。首先阈值计数器P＝0。

Step1：85＜90，P＝0；

Step2：90＝90，P＝1；

Step3：80＜90，P＝1；

Step4：95＞90，P＝2；

Step5：98＞90，P＝3；

Step6：95＞90，P＝4；

由于(P＝4)＞3，所以认为该设备发生性能故障，需要向自律系统通知一次。

以上实施例可以看出，减少了管理设备在发生性能故障时的无效通知次数，提高了自律计算系统的决策效率，避免了执行无效策略所产生的系统开销。

下面通过表1说明本发明的效果：

表1是针对ESX2.5服务器，对CPU利用率按照每分钟1次，采集了10个数据点作为一个采样区间，并利用多数据点阈值检测方法进行了判断，得到了实际通报给自律计算系统的阈值个数。

假设阈值上限是26，按照背景技术单点检测方法，则采样点2，5，6，7均超过阈值，通报次数为4，自律管理器AM在10分钟内将收到4次来自同一台服务器的性能故障通报，并采取策略来修复故障，导致同样的策略执行四次，而第一个策略执行完毕后，可能服务器性能值已经恢复正常，因此其他策略执行属于无效操作，从而加大了系统开销。

按照多数据点阈值检测方法，假设阈值上限相同，连续3个采样点越界才通报，则2属于偶然越界值，不通报，只有在5，6，7这3个数据点判断完毕后才认为性能故障发生，向自律系统通报一次，策略执行一次。与背景技术的单点判断相比，系统无效操作减少了75％。

表1ESX2.5服务器的CPU利用率％

个数	采样值
		1	23.92613
2	41.15160
		3	25.37086
4	22.78824
		5	26.58733
6	27.66686
		7	26.18363
8	23.53114
		9	23.80006
10	23.17188

Claims (1)

1.一种多数据点阈值检测方法，其特征在于包括以下步骤：

(a)定义阈值上限边界值T_uppererror和下限边界值T_lowererror，且：T_uppererror＞T_lowererror；性能计数器所记录的值value满足如下关系：{value＞T_uppererror}∨{value＜T_lowererror}则认为性能计数器发生性能异常，value处于阈值区间；

(b)设性能指标的初始统计时刻为T1，结束统计时刻为T2，插值间隔为Tn，则在区间[T1，T2]内，需要统计的区间个数定义为：

$N_{\mathrm{period}}=\frac{T2-T1}{T_n}$

对于任意的性能计数器，假设每t时刻，t∈[T1，T2]，统计一个原始数据，共统计了N个时刻，这N个时刻的数据被划分在N_Period个区间内；

(c)设计统计量，采用统计量最大值，最小值，平均值或标准偏差来统计性能数据，其中将单个统计区间内的值按照统计量计算后即可得到一个采样数据点，①采用最大值统计性能数据：

MAX_i＝Max(X_t…X_t+period)

式中，i属于[1，N_Period]，t是i区间的起始时刻，t+period表示一个统计区间，MAX是求最大值的函数；则在整个[T1，T2]区间内，按照最大值统计量，性能数据构成由最大值组成的集合：

集合 $\mathrm{MAX}$

$=\{{\mathrm{MAX}}_1,{\mathrm{MAX}}_2,...{\mathrm{MAX}}_{N_{\mathrm{period}}}\}$

$=\{\mathrm{MAX}(X_{T1}...X_{T1+\mathrm{period}}),\mathrm{MAX}(X_{T1+\mathrm{period}}...X_{T1+2\mathrm{period}}),...,\mathrm{MAX}(X_{T1+(N-1)*\mathrm{period}}...X_{T1+N*\mathrm{period}})\}$

②采用最小值统计性能数据：

按照相同的时刻和插值条件，同等的定义基于最小值的统计量集合：

集合 $\mathrm{MIN}$

$=\{{\mathrm{MIN}}_1,{\mathrm{MIN}}_2,...{\mathrm{MIN}}_{N_{\mathrm{period}}}\}$

$=\{\mathrm{MIN}(X_{T1}...X_{T1+\mathrm{period}}),\mathrm{MIN}(X_{T1+\mathrm{period}}...X_{T1+2\mathrm{period}}),...,\mathrm{MIN}(X_{T1+(N-1)*\mathrm{period}}...X_{T1+N*\mathrm{period}})\}$

③采用平均值统计性能数据：

时刻和插值条件不变，在单个统计区间内采用平均值函数，得到统计集合：

集合 $\mathrm{AVERAGE}$

$=\{{\mathrm{AVG}}_1,{\mathrm{AVG}}_2,...{\mathrm{AVG}}_{N_{\mathrm{period}}}\}$

$=\{\mathrm{AVG}(X_{T1}...X_{T1+\mathrm{period}}),\mathrm{AVG}(X_{T1+\mathrm{period}}...X_{T1+2\mathrm{period}}),...,\mathrm{AVG}(X_{T1+(N-1)*\mathrm{period}}...X_{T1+N*\mathrm{period}})\}$ 其中，假设单个统计区间内有k个性能数据，则该区间的平均值函数定义为：

$\mathrm{AVG}=\frac{\underset{i=1}{\overset{k}{\mathrm{\Σ}}}{X}_i}{k}$

④采用标准偏差统计性能数据：

假设SD为统计函数，得到统计集合SD：

统计集合

$=\{{\mathrm{SD}}_1,{\mathrm{SD}}_2,...{\mathrm{SD}}_{N_{\mathrm{period}}}\}$

$=\{\mathrm{SD}(X_{T1}...X_{T1+\mathrm{period}}),\mathrm{SD}(X_{T1+\mathrm{period}}...X_{T1+2\mathrm{period}}),...,\mathrm{SD}(X_{T1+(N-1)*\mathrm{period}}...X_{T1+N*\mathrm{period}})\}$

假设单个统计区间内有k个性能数据，则该区间的标准偏差函数定义为：

$\mathrm{SD}=\sqrt{\frac{K\underset{i=1}{\overset{K}{\mathrm{\Σ}}}{X_i}^2-{\left(\underset{i=1}{\overset{K}{\mathrm{\Σ}}}{X}_i\right)}^2}{K(K-1)}}$

(d)采用多点检测方法判断阈值是否越界；用计数器记录在整个[T1，T2]区间内阈值越界的次数，初始值为0；假设从自律系统中获取的采样数据点为N个，当发现第一个数据点超过阈值后，计数器加1，继续判断随后的N-1个数据点是否越界，如果越界数据点超过P个，P＞1并且P＜＝N，则认为性能故障发生，从而通知自律系统，自律系统采用策略来修复性能故障；当越界数据个数不足P时，不作任何通知，继续判断后续数据点；当判断个数等于N时，如果无性能故障发生，则计数器清零，重新开始下一组数据点计数。