CN114386602B - 一种面向多路服务器负载数据的htm预测分析方法 - Google Patents

Abstract

本发明公开了一种面向多路服务器负载数据的HTM预测分析方法，使得HTM能够对多路服务器负载数据进行并行训练，扩展了系统能够处理的数据序列类型。系统通过编码散列了服务器负载数据的空间特征，通过空间池训练形成了服务器负载数据的微柱稀疏分布表征，借助于序列状态缓存模块，能够正确获取负载数据所属服务器的上下文环境，通过时间池训练的对每一个服务器负载数据模式进行抽取和记忆，为后续的预测分析提供所属的上下文环境支持。本发明提出的序列状态缓存机制，记录了每一个服务器负载数据序列的上下文环境信息，能为每一个负载数据提供上一时刻正确的上下文环境，使得HTM可以对多路服务器负载数据进行并行训练。

Description

一种面向多路服务器负载数据的HTM预测分析方法

技术领域

本发明涉及人工智能深度学习领域，尤其涉及一种面向多路服务器负载数据的HTM预测分析方法。

背景技术

随着Internet的快速发展和业务量的不断提高，基于网络的数据访问流量迅速增长，特别是对数据中心、大型企业以及门户网站等的访问，其访问流量甚至达到了10Gb/s的级别；同时，服务器网站借助HTTP、FTP、SMTP等应用程序，为访问者提供了越来越丰富的内容和信息，服务器逐渐被数据淹没；另外，大部分网站(尤其电子商务等网站)都需要提供不间断24小时服务，若服务器负载过重引起的任何服务中断或通信中的关键数据丢失都会造成直接的商业损失。因此有效地对服务器负载数据进行预测分析，并根据预测结构及时进行负载均衡，是保证系统服务性能稳定的重要手段之一。

近年来，深度学习算法在图像处理、语音处理、自然语言处理等多个领域得到广泛的应用并产生巨大的影响，这在很大程度上归功于各种新型神经网络模型以及高效的模型训练方法。随着生物神经科学的进步，越来越多的新型神经网络正在被研究。HTM(Hierarchical Temporal Memory)是一种模仿人脑中处理高级认知功能的新皮质部分运作原理的新型人工神经网络，其将接受到的各种模式与记忆中的模式进行匹配，并根据匹配的模式对下一刻将会出现的信息作出预测分析。

现有的HTM在训练时，只会在相邻的服务器负载数据之间建立时间上的关联，对稳定模式形成记忆。当系统面对多个服务器的负载数据时，这些负载数据会因为传输的延迟而混合在一起，每一个数据尽管可以在混合的数据序列中向前找到由某一个服务器所产生的数据前驱，但通常该前驱数据不与当前数据相邻，这使得HTM无法对混合在一起的数据序列进行正确的学习。为此本发明的系统通过增加序列状态缓存机制，可以让每一个负载数据都能够通过序列状态缓存模块找到正确的前驱以及对应的上下文信息，进而对混合序列中的每一个子序列形成有效训练结果，扩展系统可以训练的数据序列类型。

发明内容

本发明的目的在于提供一种面向多路服务器负载数据的HTM预测分析系统，使得HTM能够对多路服务器负载数据进行并行训练，扩展了系统能够处理的数据序列类型。

本发明的技术方案为：一种面向多路服务器负载数据的HTM预测分析方法，包括如下步骤：

步骤1，在线采集服务器负载分段统计数据，使其包含服务器负载和时间两方面的特性，对每一个服务器构成具有时序特征的服务器负载据流；

步骤2，利用编码器对服务器负载数据进行编码，通过HTM空间池训练算法形成服务器负载数据的微柱稀疏分布表征W^t；

步骤3，使用负载数据所属服务器id通过序列状态缓存模块查询获取该服务器上一时刻的上下文环境信息；

步骤4，利用多路输入的时间池训练算法对当前负载数据进行训练和记忆；

步骤5，将当前负载数据产生的上下文环境更新至序列状态缓存模块；

步骤6，利用当前负载数据产生的上下文环境对后续内容进行预测分析。

进一步，构建序列状态缓存模块SSCM，记录了HTM学习过程中负载数据所对应的上下文环境，具体内容为多个<key,value>键值对，其中key取服务器的id，value取id为服务器p对应的负载数据所产生的活跃细胞集A^last_p、和预测细胞集Π^last_p。

进一步，步骤3中获取该服务器上一时刻的上下文环境信息的计算方式如下：

{A^last_p、Π^last_p}＝SSCM.get(id)

其中SSCM模块中的get函数可以根据子序列id获取该序列上一时刻的训练状态。

进一步，所述的多路输入的时间池训练算法中的时间池的训练规则如下：

步骤4.1，根据步骤2计算出的活跃微柱W^t，生成t时刻活跃微柱上的活跃细胞集A^t，计算方法如下：

其中表示t时刻第j个微柱上第i个细胞是否被激活，/>表示第j个微柱上的第i个细胞是否在t-1时刻被预测激活；

步骤4.2，生成t时刻的预测细胞集Π^t，计算方法如下：

其中表示第j个微柱上第i个细胞上由p服务器中的序列模式所生成的第d个树突分支所对应的连通矩阵，如果树突分支中突触持久值大于阈值，该矩阵中对应位置的值被置为1，否则置为0，θ为树突分支的激活阈值，°表示矩阵内积运算；

步骤4.3，更新活跃细胞上的树突分支的持久值。

进一步，步骤4.3中树突分支更新只对p服务器对应的序列所产生的树突分支进行突触持久值进行，更新方法如下：

其中表示第j个微柱上第i个细胞上由p服务器中的序列模式所生成的第k个树突分支所对应的突触持久值矩阵，/>为p⁺为树突分支中突触调整的奖赏增量值，p^-为树突分支中突触调整的惩罚减少值。

进一步，步骤5中更新序列状态缓存模块的计算方法如下：

SSCM.put(id,{A^t、Π^t})

其中SSCM模块中的put函数可以根据子序列id将该序列当前时刻的训练状态存入序列状态缓存模块，为下一时刻的数据训练提供上下文环境信息。

进一步，步骤6利用当前负载数据产生的上下文环境通过分类器可还原成为预测内容。

本发明的有益效果：

1、本发明的目的在于提供一种面向多路服务器负载数据的HTM预测分析系统，使得HTM能够对多路服务器负载数据进行并行训练，扩展了系统能够处理的数据序列类型。

2、本发明在HTM模型中增加了序列状态缓存模块，记录了不同子序列上一时刻的上下文信息，可以让系统在训练多个子序列混合在一起的数据序列时，能够为数据建立正确的时序关联关系，分别记忆每一个子序列的稳定模式。

3、本发明使用多路输入的HTM时间池训练算法，改进了HTM细胞上树突分支的生长和更新规则，并以此调整了预测细胞的计算规则，避免多个子序列中的稳定模式相互干扰。

附图说明

图1面向服务器负载分析的HTM高效异常检测系统的结构图；

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用于解释本发明，并不用于限定本发明。

实施例1：

如图1展示了面向多路服务器负载数据的HTM预测分析系统的结构图，该系统可以对多路服务器负载数据进行训练和预测分析。每一个服务器负载数据通过编码将数据特征分散到一个二值一维向量中的不同有效位中，增加了系统对数据噪声的抗干扰能力；数据的编码通过空间池训练，形成了HTM微柱的系数分布表征，利用系数分布的数学特征，可以很方便地区分不同、相似和相同的输入数据；借助于序列缓存模块和多路输入的时间池训练算法，在HTM中能够并行记忆每一个服务器负载数据所形成的稳定序列模式，为后续的输入提供历史规律的场景支持，生成对下一时刻内容的预测。

实施例2：

以一个具体面向两路服务器负载数据的HTM预测分析过程为例说明系统的工作流程。假设系统对两个服务器的负载数据进行预测分析，；两个服务器的id分别时1和2，服务器1产生的序列为{……,<1,a_t-1>,<1,a_t>,……}，服务器2产生的序列为{……,<2,b_t-1>,<2,b_t>,……}，则两个服务器数据混合在一起时，可能产生的数据序列为{……,<1,a_t-1>,<2,b_t-1>,<1,a_t>,<2,b_t>,……}。

假设某个t时刻，服务器负载数据<2,b_t>进入系统训练，b_t通过编码器编散列了数据的特征，通过HTM空间池训练算法形成服务器负载数据的微柱稀疏分布表征W^t。

接下来通过服务器id从序列状态缓存模块中获取该服务器产生的序列的t-1时刻的上下文信息，包括活跃细胞集和预测细胞集。

{A^t-1、Π^t-1}＝{A^last_2、Π^last_2}

获取该服务器上一时刻的上下文环境信息的计算方式如下：

{A^last_p、Π^last_p}＝SSCM.get(id)

其中SSCM模块中的get函数可以根据子序列id获取该序列上一时刻的训练状态。

接下来利用t-1时刻的预测细胞集和t时刻的活跃微柱集W^t，生成t时刻的活跃细胞集A^t，计算方式如下：

接下来根据t时刻的活跃细胞集，利用2号服务器在细胞上生成的树突分支计算t时刻的预测细胞集Π^t。计算方法如下：

这种预测的方式，避免了其他服务器负载数据序列所产生的训练结果对当前服务器负载数据序列训练的影响。

接下来更新活跃细胞上的活跃树突分支的持久值。其中树突分支更新只对2号服务器对应的序列所产生的树突分支进行突触持久值进行，更新方法如下：

接下来更新序列状态缓存模块的计算方法如下：

SSCM.put(2,{A^t、Π^t})

接下来利用当前服务器负载数据产生的预测细胞集Π^t通过分类器可还原成为预测内容。

综上，本发明提供一种面向多路服务器负载数据的HTM预测分析系统，使得HTM能够对多路服务器负载数据进行并行训练，扩展了系统能够处理的数据序列类型。系统在HTM模型中增加了序列状态缓存模块，记录了不同子序列上一时刻的上下文信息，可以让系统在训练多个子序列混合在一起的数据序列时，能够为数据建立正确的时序关联关系，分别记忆每一个子序列的稳定模式。其次使用多路输入的HTM时间池训练算法，改进了HTM细胞上树突分支的生长和更新规则，并以此调整了预测细胞的计算规则，避免多个子序列中的稳定模式相互干扰。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示意性实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。

以上实施例仅用于说明本发明的设计思想和特点，其目的在于使本领域内的技术人员能够了解本发明的内容并据以实施，本发明的保护范围不限于上述实施例。所以，凡依据本发明所揭示的原理、设计思路所作的等同变化或修饰，均在本发明的保护范围。

Claims (6)

1.一种面向多路服务器负载数据的HTM预测分析方法，其特征在于，包括如下步骤：

步骤1，在线采集服务器负载分段统计数据，使其包含服务器负载和时间两方面的特性，对每一个服务器构成具有时序特征的服务器负载据流；

步骤2，利用编码器对服务器负载数据进行编码，通过HTM空间池训练算法形成服务器负载数据的微柱稀疏分布表征W^t；

步骤3，使用负载数据所属服务器id通过序列状态缓存模块查询获取该服务器上一时刻的上下文环境信息；

步骤4，利用多路输入的时间池训练算法对当前负载数据进行训练和记忆；

步骤5，将当前负载数据产生的上下文环境更新至序列状态缓存模块；

步骤6，利用当前负载数据产生的上下文环境对后续内容进行预测分析。

2.根据权利要求1所述的一种面向多路服务器负载数据的HTM预测分析方法，其特征在于，构建序列状态缓存模块SSCM，记录了HTM学习过程中负载数据所对应的上下文环境，具体内容为多个<key,value>键值对，其中key取服务器的id，value取id为服务器p对应的负载数据所产生的活跃细胞集A^last_p、和预测细胞集Π^last_p。

3.根据权利要求2所述的一种面向多路服务器负载数据的HTM预测分析方法，其特征在于，步骤3中获取该服务器上一时刻的上下文环境信息的计算方式如下：

{A^last_p、Π^last_p}＝SSCM.get(id)

其中SSCM模块中的get函数可以根据子序列id获取该序列上一时刻的训练状态。

4.根据权利要求2所述的一种面向多路服务器负载数据的HTM预测分析方法，其特征在于，所述的多路输入的时间池训练算法中的时间池的训练规则如下：

步骤4.1，根据步骤2计算出的活跃微柱W^t，生成t时刻活跃微柱上的活跃细胞集A^t，计算方法如下：

其中表示t时刻第j个微柱上第i个细胞是否被激活，/>表示第j个微柱上的第i个细胞是否在t-1时刻被预测激活；

步骤4.2，生成t时刻的预测细胞集Π^t，计算方法如下：

其中表示第j个微柱上第i个细胞上由p服务器中的序列模式所生成的第d个树突分支所对应的连通矩阵，如果树突分支中突触持久值大于阈值，该矩阵中对应位置的值被置为1，否则置为0，θ为树突分支的激活阈值，°表示矩阵内积运算；

步骤4.3，更新活跃细胞上的树突分支的持久值。

5.根据权利要求4所述的一种面向多路服务器负载数据的HTM预测分析方法，其特征在于，步骤4.3中树突分支更新只对p服务器对应的序列所产生的树突分支进行突触持久值进行，更新方法如下：

其中表示第j个微柱上第i个细胞上由p服务器中的序列模式所生成的第k个树突分支所对应的突触持久值矩阵，/>为p⁺为树突分支中突触调整的奖赏增量值，p^-为树突分支中突触调整的惩罚减少值。

6.根据权利要求4所述的一种面向多路服务器负载数据的HTM预测分析方法，其特征在于，步骤5中更新序列状态缓存模块的计算方法如下：

SSCM.put(id,{A^t、Π^t})

其中SSCM模块中的put函数可以根据子序列id将该序列当前时刻的训练状态存入序列状态缓存模块，为下一时刻的数据训练提供上下文环境信息。