CN114386601A - 一种面向服务器负载数据的htm高效异常检测方法 - Google Patents

Abstract

本发明公开了一种面向服务器负载数据的HTM高效异常检测方法，提高了HTM面对海量服务器负载数据时的训练效率，增加模型的在线工作能力。系统通过编码散列了服务器负载数据的空间特征，通过空间池训练形成了服务器负载数据的微柱稀疏分布表征，借助于基于活跃微柱的时间池训练，对服务器负载数据模式进行抽取和记忆，为后续的异常判定提供上下文环境的支持。本发明提出的基于活跃微柱的时间池训练算法，延迟了预测功能发生的时间，缩小了预测的范围，大幅度提高了系统的训练速度，同时提出的学习细胞生成规则，能够让时间池训练算法不仅可以对历史模式进行强化记忆，而且对当前时刻的数据模式也能形成有效记忆。

Description

一种面向服务器负载数据的HTM高效异常检测方法

技术领域

本发明涉及人工智能深度学习领域,尤其涉及一种面向服务器负载数据的 HTM高效异常检测方法。

背景技术

随着Internet的快速发展和业务量的不断提高，基于网络的数据访问流量迅速增长，特别是对数据中心、大型企业以及门户网站等的访问，其访问流量甚至达到了10Gb/s的级别；同时，服务器网站借助HTTP、FTP、SMTP等应用程序，为访问者提供了越来越丰富的内容和信息，服务器逐渐被数据淹没；另外，大部分网站(尤其电子商务等网站)都需要提供不间断24小时服务，若服务器负载异常引起的任何服务中断或通信中的关键数据丢失都会造成直接的商业损失。因此高效地服务器负载异常判定是保证系统服务性能稳定的重要手段之一。

近年来，深度学习算法在图像处理、语音处理、自然语言处理等多个领域得到广泛的应用并产生巨大的影响，这在很大程度上归功于各种新型神经网络模型以及高效的模型训练方法。随着生物神经科学的进步，越来越多的新型神经网络正在被研究。HTM(Hierarchical Temporal Memory)是一种模仿人脑中处理高级认知功能的新皮质部分运作原理的新型人工神经网络，其将接受到的各种模式与记忆中的模式进行匹配，并对下一刻将会出现的信息作出预测与反应，若下一时刻的输入远超预测的范围，则可判定出现异常，从而体现时效性(Temporal)。

现有的HTM在做预测时，会对输入的所有后继内容进行预测，而异常检测是在输入发生之后，通过对比当前输入和上一时刻的预测内容是否重合来判定当前的输入是否为异常，为此，调整HTM的预测机制，延迟预测发生的时间以及缩小预测内容的范围，则可大幅度提高HTM的训练效率，使模型更能适应分析海量数据的时效要求。

发明内容

本发明的目的在于提供一种面向服务器负载数据的HTM高效异常检测系统，提高HTM面对海量服务器负载数据时的训练效率，增加模型的在线工作能力。

本发明的技术方案为：一种面向服务器负载数据的HTM高效异常检测方法，包括如下步骤：

步骤1，在线采集服务器负载分段统计数据，使其包含服务器负载和时间两方面的特性，构成具有时序特征的服务器负载据流；

步骤2，利用编码器对服务器负载数据进行编码，通过HTM空间池训练算法形成服务器负载数据的微柱稀疏分布表征；

步骤3，使用基于活跃微柱的HTM时间池训练算法对服务器负载规律进行学习和记忆，在该过程中，通过延迟模型的预测功能，缩小预测的范围，提高模型的训练效率；

步骤4，完成对历史服务器负载数据训练和分析，输出在在线服务器当前时刻负载数据是否处于异常状态。

进一步，基于活跃微柱的HTM时间池训练算法中的时间池训练规则为：

步骤3.1，在t时刻获取HTM时间池在t-1时刻激活的活跃细胞集Φ^t-1和学习细胞集

步骤3.2，根据t时刻输入激活的微柱集合W^t，在活跃微柱上检查能够被上一时刻活跃细胞集Φ^t-1所能够预测的预测细胞集Π^t-1；

步骤3.3，根据步骤3.2计算出的预测细胞集Π^t-1，生成t时刻活跃微柱上的活跃细胞集Φ^t，计算方法如下：

步骤3.4，生成t时刻的学习细胞集

步骤3.5，更新树突分支的持久值。

进一步，步骤3.2预测细胞集Π^t-1的计算方法如下：

其中

表示在t-1时刻第j个微柱上的第i个细胞是否能够被t-1时刻的活跃细胞预测激活，

表示第j个微柱上的第i个细胞上的第k个树突分支对应的连通矩阵，如果树突分支中突触持久值大于阈值，该矩阵中对应位置的值被置为1，否则置为0，θ为激活阈值，°表示矩阵内积运算。

进一步，步骤3.4中学习细胞集

的分三种情况生成：

步骤3.4.1如果某个活跃微柱上具有因被预测而活跃的细胞，且该细胞中存在树突分支能够被上一时刻的学习细胞所激活，则该细胞可以成为该微柱上的学习细胞，t-1时刻的学习细胞集

计算方法如下：

步骤3.4.2如果某个活跃微柱上具有因被预测而活跃的细胞，但活跃的细胞中都不能被上一时刻的学习细胞所预测，即下式被满足；

步骤3.4.3如果活跃的微柱上没有因被预测而活跃的细胞，即下式被满足：

对应步骤3.4.2和步骤3.4.3中的情况，需要重新在该微柱上选择最少使用的细胞，即具有树突分支最少的细胞作为当前微柱的学习细胞，计算方法如下式所示：

其中min_j函数括号内指代能够根据第j个微柱上每一个细胞的树突分支数量，找到具有最少树突分支的细胞i。

进一步，步骤3.5中，更新树突分支的持久值，分两种情况进行，计算方法如下：

步骤3.5.1预测活跃的树突分支进行突触持久值调整，调整方法如下：

其中

表示第j个微柱上的第i个细胞上的第k个树突分支对应的持久值矩阵， p⁺为树突分支中突触调整的奖赏增量值，p^-为树突分支中突触调整的惩罚减少值；

步骤3.5.2对应步骤3.4.2和步骤3.4.3中的生成的学习细胞，增加新的树突分支，创建的方式如下所示：

其中

为第j个微柱上的第i个细胞上新增的树突分支，I_P为树突分支中突触的初值。

本发明的有益效果：

1、本发明设计了一种面向服务器负载数据的HTM高效异常检测系统，调整了现有HTM的训练规则，实现对服务器负载数据规律的更高效训练。

2、本发明使用基于活跃微柱的HTM时间池训练算法中，延迟了预测功能的发生时间，并将预测的内容限定在当前时刻活跃的微柱上，避免了对模型中所有细胞的预测活跃性检查，大幅度提高了HTM时间池的训练效率。

3、本发明使用基于活跃微柱的HTM时间池训练算法中，改进了HTM时间池学习细胞的生成规则，在每个时刻挑选出的学习细胞既能够对历史模式进行强化记忆，也能够对当前时刻的规律模式进行学习，进而能够获取规则模式的完整特征。

附图说明

图1面向服务器负载数据的HTM高效异常检测系统的结构图；

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用于解释本发明，并不用于限定本发明。

实施例1：

如图1展示了面向服务器负载数据的HTM高效异常检测系统的结构图，该系统可以对服务器负载数据进行异常检测。服务器负载数据通过编码将数据特征分散到一个二值一维向量中的不同有效位中，增加了系统对数据噪声的抗干扰能力；数据的编码通过空间池训练，形成了HTM微柱的系数分布表征，利用系数分布的数学特征，可以很方便地区分不同、相似和相同的输入数据；借助于基于微柱的时间池训练算法，在HTM中记忆了服务器负载数据所形成的序列中的稳定模式，为后续的输入提供历史规律的场景支持；借助于异常判定模块，系统可以给出当前负载数据是否异常，并给出数据异常的概率。

实施例2：

以一个具体面向服务器负载数据的HTM高效异常检测过程为例说明系统的工作流程。假设系统的模型中设定2048个微柱，每个微柱上具有16个神经元，输入数据通过编码之后形成一个1000个分量的二值向量，其中具有20个有效位，通过空间池之后，每个输入会激活40个微柱来表达输入数据。

t-1时刻，系统会激活40个微柱上的一些细胞集Φ^t-1来表达输入数据的内容和所处的多个上下文环境，并生成对应的学习细胞集

来表达t-1时刻确定的上下文环境。此时并不对所有微柱上的细胞进行预测激活。

t时刻输入数据进入系统进行训练，通过编码和空间池训练，激活40个微柱W^t来表达t时刻数据的内容信息。利用t-1时刻的活跃细胞集Φ^t-1对该40个微柱上的细胞进行预测激活，形成t-1时刻在该40个微柱上的预测细胞集Π^t-1。计算方法如下：

这种预测的方式，推迟了预测功能发生的时间，将本应对2048*16个细胞检查是否预测激活，缩减到40*16个细胞上，大幅度提升了计算效率。

接下来利用t-1时刻的预测细胞集Π^t-1和当前时刻的活跃微柱W^t，生成t 时刻对应的活跃细胞集Φ^t，计算方法如下：

接下来生成t时刻输入数据对应的学习细胞集，计算过程分为三种情况进行。

1)如果某个活跃微柱上具有因被预测而活跃的细胞，且该细胞中存在树突分支能够被上一时刻的学习细胞所激活，则该细胞可以成为该微柱上的学习细胞，计算方法如下：

2)如果某个活跃微柱上具有因被预测而活跃的细胞，但活跃的细胞中都不能被上一时刻的学习细胞所预测，即下式被满足。

3)如果活跃的微柱上没有因被预测而活跃的细胞，即下式被满足。

对应2)和3)两种情况，需要重新在该微柱上选择最少使用的细胞，即具有树突分支最少的细胞作为当前微柱的学习细胞。计算方法如下式所示。

接下来更新活跃细胞和学习细胞上的树突分支持久值，分为两种情况进行。

1)预测活跃的树突分支进行突触持久值调整，调整方法如下：

2)对应步骤3.4.2和步骤3.4.3中的生成的学习细胞，增加新的树突分支，创建的方式如下所示。

其中

为第j个微柱上的第i个细胞上新增的树突分支，I_P为树突分支中突触的初值。

最后根据下面的规则判定在线服务器当前时刻负载数据是否处于异常状态，给出负载数据的异常概率：

综上，本发明提出的一种面向服务器负载数据的HTM高效异常检测系统，调整了现有HTM的训练规则，设计了一种基于活跃微柱的时间池训练算法，通过延迟预测功能发生的时间和所需预测的范围，大幅度提高了系统的训练效率，使得系统能够应对海量数据带来的时效性要求。其次通过调整学习细胞的生成规则，使得时间池的训练过程不仅可以强化历史模式的记忆，还可以对当前的序列模型进行学习，提高HTM时间池的训练效果。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示意性实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。

以上实施例仅用于说明本发明的设计思想和特点，其目的在于使本领域内的技术人员能够了解本发明的内容并据以实施，本发明的保护范围不限于上述实施例。所以，凡依据本发明所揭示的原理、设计思路所作的等同变化或修饰，均在本发明的保护范围。

Claims (5)

1.一种面向服务器负载数据的HTM高效异常检测方法，其特征在于，包括如下步骤：

步骤1，在线采集服务器负载分段统计数据，使其包含服务器负载和时间两方面的特性，构成具有时序特征的服务器负载据流；

步骤2，利用编码器对服务器负载数据进行编码，通过HTM空间池训练算法形成服务器负载数据的微柱稀疏分布表征；

步骤3，使用基于活跃微柱的HTM时间池训练算法对服务器负载规律进行学习和记忆，在该过程中，通过延迟模型的预测功能，缩小预测的范围，提高模型的训练效率；

步骤4，完成对历史服务器负载数据训练和分析，输出在在线服务器当前时刻负载数据是否处于异常状态。

2.根据权利要求1所述的一种面向服务器负载数据的HTM高效异常检测方法，其特征在于，基于活跃微柱的HTM时间池训练算法中的时间池训练规则为：

步骤3.1，在t时刻获取HTM时间池在t-1时刻激活的活跃细胞集Φ^t-1和学习细胞集

步骤3.2，根据t时刻输入激活的微柱集合W^t，在活跃微柱上检查能够被上一时刻活跃细胞集Φ^t-1所能够预测的预测细胞集Π^t-1；

步骤3.3，根据步骤3.2计算出的预测细胞集Π^t-1，生成t时刻活跃微柱上的活跃细胞集Φ^t，计算方法如下：

步骤3.4，生成t时刻的学习细胞集

步骤3.5，更新树突分支的持久值。

3.根据权利要求2所述的一种面向服务器负载数据的HTM高效异常检测方法，其特征在于，步骤3.2预测细胞集Π^t-1的计算方法如下：

其中

表示在t-1时刻第j个微柱上的第i个细胞是否能够被t-1时刻的活跃细胞预测激活，

表示第j个微柱上的第i个细胞上的第k个树突分支对应的连通矩阵，如果树突分支中突触持久值大于阈值，该矩阵中对应位置的值被置为1，否则置为0，θ为激活阈值，

表示矩阵内积运算。

4.根据权利要求2所述的一种面向服务器负载数据的HTM高效异常检测方法，其特征在于，步骤3.4中学习细胞集

的分三种情况生成：

步骤3.4.1如果某个活跃微柱上具有因被预测而活跃的细胞，且该细胞中存在树突分支能够被上一时刻的学习细胞所激活，则该细胞可以成为该微柱上的学习细胞，t-1时刻的学习细胞集

计算方法如下：

步骤3.4.2如果某个活跃微柱上具有因被预测而活跃的细胞，但活跃的细胞中都不能被上一时刻的学习细胞所预测，即下式被满足；

步骤3.4.3如果活跃的微柱上没有因被预测而活跃的细胞，即下式被满足：

对应步骤3.4.2和步骤3.4.3中的情况，需要重新在该微柱上选择最少使用的细胞，即具有树突分支最少的细胞作为当前微柱的学习细胞，计算方法如下式所示：

其中min_j函数括号内指代能够根据第j个微柱上每一个细胞的树突分支数量，找到具有最少树突分支的细胞i。

5.根据权利要求2所述的一种面向服务器负载数据的HTM高效异常检测方法，其特征在于，步骤3.5中，更新树突分支的持久值，分两种情况进行，计算方法如下：

步骤3.5.1预测活跃的树突分支进行突触持久值调整，调整方法如下：

其中

表示第j个微柱上的第i个细胞上的第k个树突分支对应的持久值矩阵，p⁺为树突分支中突触调整的奖赏增量值，p^-为树突分支中突触调整的惩罚减少值；

步骤3.5.2对应步骤3.4.2和步骤3.4.3中的生成的学习细胞，增加新的树突分支，创建的方式如下所示：

其中

为第j个微柱上的第i个细胞上新增的树突分支，I_P为树突分支中突触的初值。

Images