CN110716496A - 一种基于集成学习的智能控制系统异常预测方法 - Google Patents

Abstract

本发明公开了一种基于集成学习的智能控制系统异常预测方法。该方法包括以下步骤：基于个体学习器对传感器采集到的样本数据进行训练；重复训练多个个体学习器，直到个体学习器数量达到标准数量T；将T个个体学习器进行加权结合，通过动态规划方法确定各个体学习器的权重，并采用加性模型得到个体学习器的线性组合；基于该线性组合，最小化指数损失函数，从而最小化异常分类错误率。本发明提高了智能控制系统异常预测的准确率和计算效率。

Description

一种基于集成学习的智能控制系统异常预测方法

技术领域

本发明涉及智能控制系统技术领域，特别是一种基于集成学习的智能控制系统异常预测方法。

背景技术

在众多智能控制系统，例如航空发动机系统、车辆动力学系统、化学过程系统、制造系统、电力网络系统、电机系统、风能转换系统中，都对系统自身的安全性有很高的要求，所以对智能控制系统的可靠性和安全性要求越来越高。传统智能控制系统的安全性问题主要来源于智能控制系统潜在的过程异常和组件异常，因此，尽早检测和识别各种潜在的异常并实施容错操作，以最大程度地降低性能下降并避免危险情况至关重要。

传统的异常检测方法大多基于专家系统，这类方法需要大量的专家知识作为理论支撑，而随着工控领域数据的井喷，专家系统所需的知识也将越来越多，如果没有庞大的专家知识体系作为支撑，很难准确地对异常进行预测，而且随着知识越来越多，专家系统的性能也将越来越低，无法满足异常预测的实时性要求。

发明内容

本发明的目的在于提供一种方法简单、计算效率高、可靠性高的基于集成学习的智能控制系统异常预测方法。

实现本发明目的的技术解决方案为：一种基于集成学习的智能控制系统异常预测方法，包括以下步骤：

步骤1、基于个体学习器对传感器采集到的样本数据进行训练；

步骤2、重复训练多个个体学习器，直到个体学习器数量达到标准数量T；

步骤3、将T个个体学习器进行加权结合，通过动态规划方法确定各个体学习器的权重，并采用加性模型得到个体学习器的线性组合；

步骤4、基于该线性组合，最小化指数损失函数，从而最小化异常分类错误率。

进一步地，步骤1所述的基于个体学习器对传感器采集到的样本数据进行训练，具体如下：

步骤1.1、根据异常数据特征，选择个体学习器h_θ(x)，其中θ为个体学习器待学习的参数，x为接收到的异常样本矩阵；

步骤1.2、定义个体学习器h_θ(x)的损失函数J_θ(x)；

步骤1.3、初始化θ为零向量，基于梯度下降算法不断更新θ的值，直到损失函数J_θ(x)达到最小；

步骤1.4、得到单个个体学习器。

进一步地，步骤2所述的重复训练多个个体学习器，直到个体学习器数量达到标准数量T，具体如下：

定义个体学习器标准数量T，重复步骤1，直到个体学习器数量达到T，对于第t个个体学习器：

其中，t为个体学习器的编号，t＝1,2,3,…,T。

进一步地，步骤3所述的将T个个体学习器进行加权结合，通过动态规划方法确定各个体学习器的权重，并采用加性模型得到个体学习器的线性组合，具体如下：

步骤3.1、初始化第一个个体学习器的权重为1；

步骤3.2、设定动态规划模型dp[i],i∈{1,2,…，T}的含义为：对于第i个个体学习器而言，使得在当前i个模型下能得到的最佳预测函数，转移方程如下：

其中，j∈(0,1)，当上述公式取得最大值时，取dp[i]＝j；

步骤3.3、利用加权模型求得各个体学习器的线性组合H(x)，具体如下：

进一步地，步骤4所述的基于该线性组合，最小化指数损失函数，从而最小化异常分类错误率，具体如下：

步骤4.1、计算最小化指数损失函数J_exp(H|D)＝E_x～D[e^-f(x)H(x)]，其中，D为概率分布，J_exp表示最小化指数损失函数，E_x～D表示函数f(x)在分布D下的数学期望，f(x)表示训练集的真实映射；

步骤4.2、基于上述函数，对H(x)求偏导得：

其中，P表示事件的概率；

步骤4.3、由上述函数得：

sigmoid(H(x))＝argmaxP(f(x)＝y|x),y∈{1,-1}

由此得，sigmoid(H(x))达到贝叶斯最优错误率，分类错误率达到最小化。

本发明与现有技术相比，其显著优点在于：(1)无需依赖于专家系统的系统知识，基于传感器数据即可对设备异常进行准确的预测，降低了智能控制系统异常预测的复杂度；(2)基于集成学习的方法，集合了多个学习器进行预测，只需依赖于智能控制系统传感器的数据即可对潜在异常进行预测，而且集成学习集合了多个学习器进行预测，可靠性高，计算复杂度低，适应当前工控环境的实时性和准确性的要求。

附图说明

图1是本发明基于集成学习的智能控制系统异常预测方法的流程示意图。

具体实施方式

结合图1，本发明基于集成学习的智能控制系统异常预测方法，具体步骤如下：

步骤1、基于个体学习器对传感器采集到的样本数据进行训练；

步骤2、重复训练多个个体学习器，直到个体学习器数量达到标准数量T；

步骤3、将T个个体学习器进行加权结合，通过动态规划方法确定各个体学习器的权重，并采用加性模型得到个体学习器的线性组合；

步骤4、基于该线性组合，最小化指数损失函数，从而最小化异常分类错误率。

进一步地，步骤1所述的基于个体学习器对传感器采集到的样本数据进行训练，具体如下：

步骤1.1、根据异常数据特征，选择个体学习器h_θ(x)，其中θ为个体学习器待学习的参数，x为接收到的异常样本矩阵；

步骤1.2、定义个体学习器h_θ(x)的损失函数J_θ(x)；

步骤1.3、初始化θ为零向量，基于梯度下降算法不断更新θ的值，直到损失函数J_θ(x)达到最小；

步骤1.4、得到单个个体学习器。

进一步地，步骤2所述的重复训练多个个体学习器，直到个体学习器数量达到标准数量T，具体如下：

定义个体学习器标准数量T，重复步骤1，直到个体学习器数量达到T，对于第t个个体学习器：

其中，t为个体学习器的编号，t＝1,2,3,…,T。

进一步地，步骤3所述的将T个个体学习器进行加权结合，通过动态规划方法确定各个体学习器的权重，并采用加性模型得到个体学习器的线性组合，具体如下：

步骤3.1、初始化第一个个体学习器的权重为1；

步骤3.2、设定动态规划模型dp[i],i∈{1,2,…，T}的含义为：对于第i个个体学习器而言，使得在当前i个模型下能得到的最佳预测函数，转移方程如下：

其中，j∈(0,1)，当上述公式取得最大值时，取dp[i]＝j；

步骤3.3、利用加权模型求得各个体学习器的线性组合H(x)，具体如下：

进一步地，步骤4所述的基于该线性组合，最小化指数损失函数，从而最小化异常分类错误率，具体如下：

步骤4.1、计算最小化指数损失函数J_exp(H|D)＝E_x～D[e^-f(x)H(x)]，其中，D为概率分布，J_exp表示最小化指数损失函数，E_x～D表示函数f(x)在分布D下的数学期望，f(x)表示训练集的真实映射；

步骤4.2、基于上述函数，对H(x)求偏导得：

其中，P表示事件的概率；

步骤4.3、由上述函数得：

sigmoid(H(x))＝argmaxP(f(x)＝y|x),y∈{1,-1}

由此得，sigmoid(H(x))达到贝叶斯最优错误率，分类错误率达到最小化。

下面结合附图和具体实施方式对本发明作进一步的详细说明。

结合图1，本发明一种基于集成学习的智能控制系统异常预测体系化方法，包括以下步骤：

步骤1、基于个体训练模型对传感器采集到的的样本数据进行训练，得到单个个体学习器，具体如下：

步骤1.1、根据异常数据特征，选择个体学习器h_θ(x),其中，θ为个体学习器待学习的参数，x为接收到的异常样本矩阵；

步骤1.2、定义个体学习器h_θ(x)的损失函数J_θ(x)；

步骤1.3、初始化θ为零向量，基于梯度下降算法不断更新θ的值，直到损失函数J_θ(x)达到最小；

步骤1.4、得到单个个体学习器。

步骤2、重复训练多个个体学习器，直到个体学习器数量达到标准数量T，具体如下：

定义个体学习器标准数量T，重复步骤1，直到个体学习器数量达到T：

Fort in(1,T)：

步骤3、将T个个体学习器进行加权结合，通过动态规划方法确定各个体学习器的权重，并采用加性模型得到个体学习器的线性组合，具体如下：

步骤3.1、初始化第一个个体学习器的权重为1；

步骤3.2、设定动态规划模型dp[i],i∈{1,2,…，T}的含义为：对于第i个学习器而言，使得在当前i个模型下能得到的最佳预测函数，转移方差如下：

dp[i]＝j where

步骤3.3、利用加权模型求得各个体学习器的线性组合，具体如下：

步骤4、基于该线性组合，最小化指数损失函数，从而最小化异常分类错误率，具体如下：

步骤4.1、计算最小化指数损失函数J_exp(H|D)＝E_x～D[e^-f(x)H(x)]

步骤4.2、基于上述函数，对H(x)求偏导得：

步骤4.3、由上述函数可得：

sigmoid(H(x))＝argmaxP(f(x)＝y|x),y∈{1,-1}

由此可得，sigmoid(H(x))达到贝叶斯最优错误率，分类错误率达到最小化。

综上所述，本发明无需依赖于专家系统的系统知识，基于传感器数据即可对设备异常进行准确的预测，降低了智能控制系统异常预测的复杂度；基于集成学习的方法，集合了多个学习器进行预测，只需依赖于智能控制系统传感器的数据即可对潜在异常进行预测，而且集成学习集合了多个学习器进行预测，可靠性高，计算复杂度低，适应当前工控环境的实时性和准确性的要求。

Claims (5)

1.一种基于集成学习的智能控制系统异常预测方法，其特征在于，包括以下步骤：

步骤1、基于个体学习器对传感器采集到的样本数据进行训练；

步骤2、重复训练多个个体学习器，直到个体学习器数量达到标准数量T；

步骤3、将T个个体学习器进行加权结合，通过动态规划方法确定各个体学习器的权重，并采用加性模型得到个体学习器的线性组合；

步骤4、基于该线性组合，最小化指数损失函数，从而最小化异常分类错误率。

2.根据权利要求1所述的基于集成学习的智能控制系统异常预测方法，其特征在于，步骤1所述的基于个体学习器对传感器采集到的样本数据进行训练，具体如下：

步骤1.1、根据异常数据特征，选择个体学习器h_θ(x)，其中θ为个体学习器待学习的参数，x为接收到的异常样本矩阵；

步骤1.2、定义个体学习器h_θ(x)的损失函数J_θ(x)；

步骤1.3、初始化θ为零向量，基于梯度下降算法不断更新θ的值，直到损失函数J_θ(x)达到最小；

步骤1.4、得到单个个体学习器。

3.根据权利要求2所述的基于集成学习的智能控制系统异常预测方法，其特征在于，步骤2所述的重复训练多个个体学习器，直到个体学习器数量达到标准数量T，具体如下：

定义个体学习器标准数量T，重复步骤1，直到个体学习器数量达到T，对于第t个个体学习器：

其中，t为个体学习器的编号，t＝1,2,3,…,T。

4.根据权利要求3所述的基于集成学习的智能控制系统异常预测方法，其特征在于，步骤3所述的将T个个体学习器进行加权结合，通过动态规划方法确定各个体学习器的权重，并采用加性模型得到个体学习器的线性组合，具体如下：

步骤3.1、初始化第一个个体学习器的权重为1；

步骤3.2、设定动态规划模型dp[i],i∈{1,2,…，T}的含义为：对于第i个个体学习器而言，使得在当前i个模型下能得到的最佳预测函数，转移方程如下：

其中，j∈(0,1)，当上述公式取得最大值时，取dp[i]＝j；

步骤3.3、利用加权模型求得各个体学习器的线性组合H(x)，具体如下：

5.根据权利要求4所述的基于集成学习的智能控制系统异常预测方法，其特征在于，步骤4所述的基于该线性组合，最小化指数损失函数，从而最小化异常分类错误率，具体如下：

步骤4.1、计算最小化指数损失函数J_exp(H|D)＝E_x～D[e^-f(x)H(x)]，其中，D为概率分布，J_exp表示最小化指数损失函数，E_x～D表示函数f(x)在分布D下的数学期望，f(x)表示训练集的真实映射；

步骤4.2、基于上述函数，对H(x)求偏导得：

其中，P表示事件的概率；

步骤4.3、由上述函数得：

sigmoid(H(x))＝arg max P(f(x)＝y|x),y∈{1,-1}

由此得，sigmoid(H(x))达到贝叶斯最优错误率，分类错误率达到最小化。

Images