CN111079978B - 基于逻辑回归和增强学习的煤与瓦斯突出预测的方法 - Google Patents

Abstract

本发明公开一种基于逻辑回归和增强学习的煤与瓦斯突出预测的方法，属于动态预测技术领域，该方法融合LR和Adaboost增强学习设计煤与瓦斯突出预测模型，采集煤与瓦斯突出的多种影响因素数据样本，训练基于LR与Adaboost融合模型的煤与瓦斯突出预测模型，在对煤与瓦斯突出灾害实时监测过程中，如果煤与瓦斯突出的预测结果与反馈的实际结果不一致时，则需要利用实时数据及其对应的实际结果更新样本数据，并对基于LR与Adaboost融合模型的煤与瓦斯突出预测模型重新进行训练学习，完成煤与瓦斯突出预测模型的修正。本发明提供的方法可以实现对煤与瓦斯突出预测的快速、准确和动态预测。

Description

基于逻辑回归和增强学习的煤与瓦斯突出预测的方法

技术领域

本发明涉及动态预测技术领域，尤其涉及一种基于逻辑回归和增强学习的煤与瓦斯突出预测的方法。

背景技术

煤与瓦斯突出是地应力、瓦斯和煤物理力学性质综合作用的结果。瓦斯压力、瓦斯放散初速度、地质构造、煤层坚固性系数等因素对煤与瓦斯突出有着一定程度的影响。瓦斯压力与游离和吸附的瓦斯有关，是预测煤层瓦斯含量的前提，可以反映煤与瓦斯突出发生及其危险程度；在煤体被破坏程度很大时，瓦斯放散初速度越大，越容易发生瓦斯突出；地质构造对煤与瓦斯突出影响巨大，高瓦斯煤矿及受局部集中影响的低瓦斯煤矿均易发生煤与瓦斯突出；煤层坚固性系数是表征煤体强度和微硬度大小的一个参数，其值越小，煤与瓦斯突出危险性越大；随着矿井开采深度增加，煤层瓦斯含量也增加，煤层的透气性越低，煤与瓦斯突出危险性也增大。煤与瓦斯突出是矿井开采过程中危险性最大的灾害之一，发生频率高，社会影响大。进行煤与瓦斯突出快速、准确和动态预测对有效防治矿井煤与瓦斯突出灾害尤为重要。

截至目前，国内外学者对煤与瓦斯突出预测问题进行了大量的研究，提出了多种预测方法，如电磁辐射监测方法、支持向量机(SVM)方法、神经网络(ANN)方法、贝叶斯分类方法等。电磁辐射监测方法属于指标预测法，预测时考虑的指标只是煤与瓦斯突出多种影响因素的局部映射，而且指标临界值难以准确确定，在实际生产中常出现低指标的煤与瓦斯突出事故，因此在实际生产中煤与瓦斯突出预测结果的准确性不高。神经网络方法在构建煤与突出预测模型时常会出现模型构建失败和过拟合的情况，导致预测准确性不高。支持向量机方法比较适用于利用小规模样本数据来构建煤与瓦斯突出预测模型，而对于大规模样本数据建模的效率很低。贝叶斯分类方法非常依赖由样本数据分布获取的先验概率，当样本数据分布不合理时，预测准确性难以保证。由于上述各方法自身局限性或样本数据分布不合理，上述各方法很难利用煤与瓦斯突出多种影响因素的样本数据，高效建立一个稳定的高性能煤与瓦斯突出预测模型。

发明内容

针对上述现有技术的不足，本发明提供一种基于逻辑回归和增强学习的煤与瓦斯突出预测的方法。

为解决上述技术问题，本发明所采取的技术方案是：基于逻辑回归和增强学习的煤与瓦斯突出预测的方法，其结构原理如图1所示，包括如下步骤：

步骤1：采集煤与瓦斯突出的多种影响因素数据样本，利用基于均值的分批估计融合方法对样本数据进行融合处理并进行危险等级的划分，将处理后的样本作为训练集，记为R；

所述煤与瓦斯突出的多种影响因素包括瓦斯压力、瓦斯放散初速度、地质构造、煤层坚固性系数、开采深度。

步骤2：用训练集训练基于LR与Adaboost融合模型的煤与瓦斯突出预测模型；

所述基于LR与Adaboost融合模型由多个弱分类器和1个强分类器构成，其结构如图2所示，所述弱分类器由多个LR分类器构成，采用one-VS-rest形式进行分类，将概率值最大的突出危险等级作为每个弱分类器的输出；每个弱分类器中LR分类器的个数等于煤与瓦斯突出危险等级的类别数，该模型的训练过程如图3所示，包括如下步骤：

步骤2.1：训练样本集表示为R＝{(T₁,S₁),…(T_k,S_k)…,(T_m,S_m)}；设置最大弱分类器个数g，学习率η₁与η₂、正则化参数λ、LR最大迭代次数n；

其中，T_k为第k个突出预测样本的特征，T_k∈{t_k1,t_k2,…,t_ko}，t_kl为第k个样本特征的第l个元素，l＝1,2,…,o，o为考虑的突出影响因素数量；S_k为对应T_k的突出危险等级，S_k∈{1,2,…,φ}，m为训练集样本个数；

步骤2.2：初始化当前弱分类器索引i＝1，初始化样本权重值为e_ik＝1/m，k＝1,2,…,m，初始化强分类器H^fin＝0；

步骤2.3：采用one-VS-rest形式，训练基于LR的第i个弱分类器，并根据分类错误率计算第i个弱分类器的输出权重值；

步骤2.3.1：设弱分类器由φ个LR分类器构成，表示为/>弱分类器/>的输出如下：

其中，为分类器的输入，在训练时为第k个突出预测样本的特征T_k，w为回归系数，φ的值由煤与瓦斯突出危险等级的类别数决定；

步骤2.3.2：将R中m个突出预测训练样本数据作为输入，根据η₂、λ与n以及样本权重e_ik，利用梯度下降法调整回归系数，如下：

其中，如果第k样本为正样本，如果第k样本为负样本，/>

根据步骤2.3.1训练获取基于LR的第i个弱分类器

步骤2.3.3：计算以R中m个样本为输入的弱分类器分类错误率：

其中，f_i为训练样本被弱分类器误分类样本的权重值之和即弱分类器分类错误率，/>为函数，当条件/>成立，则/>否则/>

步骤2.3.4：计算第i个弱分类器的输出权重值：

α_i＝max(ln((1-f_i)/f_i)+ln(φ-1),0)

可以得出，弱分类器的错误率f_i越高，则弱分类器的输出权重值越小，同时对弱分类器学习效果的要求也降低了。

步骤2.4：更新强分类器，并计算强分类器分类的错误率；

步骤2.4.1：更新强分类器H^fin：

其中，η₁为学习率，0<η₁<1，可以弱化学习效果，提高煤与瓦斯突出预测模型的预测能力；α_j为第j个弱分类器的输出权重值，j＝1，…，i，为分类器的输入，δ为argmax函数的返回值，即突出危险等级预测值；

步骤2.4.2：计算强分类器分类的错误率

其中，sign()为符号函数，满足如下公式：

步骤2.5：判断是否达到循环结束条件，若是则转至执行步骤2.7结束循环，否则执行步骤2.6；是否达到循环结束条件的判断过程如下：

步骤2.5.1：判断强分类器的分类错误率是否为0，如果是则结束循环，否则执行步骤2.5.2；

步骤2.5.2：判断弱分类器个数i是否大于等于设定的弱分类器最大个数g，如果是则结束循环。

步骤2.6：依据第i个弱分类器的分类错误率重新计算样本权重值，将新的样本权重值加入样本中，将i+1赋值给i，转至执行步骤2.3；依据第i个弱分类器的分类错误率重新计算样本权重值的过程如下：

步骤2.6.1：根据第i个弱分类器的分类错误率计算用于训练第i+1个弱分类器的新的样本权重值，分类器的权重分布情况如图4所示：

其中，α_i为第i个弱分类器的输出权重值，e_ik为第i个弱分类器的第k个样本权重值，e_i+1k为第i+1个弱分类器的第k个样本权重值；

步骤2.6.2：令i＝i+1，将新的样本权重值进行归一化处理：

步骤2.7：输出训练好的煤与瓦斯突出预测模型。

步骤3：通过多传感器在线检测或离线检测获得突出预测所需的信息数据，利用基于均值的分批估计融合方法对多传感器数据进行融合处理，将处理后的信息数据记为数据X；

步骤4：将步骤3获得的数据X输入步骤2训练好的煤与瓦斯突出预测模型中，得到X的突出预测结果；

步骤5：检测得到X的突出实际结果，如果X的突出预测结果与突出实际结果不一致，则将X及其突出实际结果加入到步骤1所述训练集中，完成执行步骤2过程，实现对煤与瓦斯突出预测模型的修正，否则转至执行步骤6；

步骤6：输出数据X的预测结果。

采用上述技术方案所产生的有益效果在于：

1、本发明以实现对煤与瓦斯突出的快速、准确和动态预测为目的，提出了一种基于逻辑回归和增强学习的煤与瓦斯突出预测的方法。该方法考虑了煤与瓦斯突出的多种影响因素，融合逻辑回归(LR)和Adaboost增强学习设计了煤与瓦斯突出预测模型，降低对弱分类器学习效果的要求，利用学习率和正则化参数防止模型的过度学习；

2、本发明给出了基于反馈的突出实际结果的煤与瓦斯突出预测模型的修正方法，可根据实际预测情况对模型进行修正处理；

3、本发明无随机因子，可以快速建立稳定的煤与瓦斯突出预测模型；可以快速地对煤与瓦斯突出危险性进行预测，而且预测结果的准确性高。

附图说明

图1为本发明基于逻辑回归和增强学习的煤与瓦斯突出预测的方法的结构原理图；

图2为本发明基于LR与Adaboost融合模型结构图；

图3为本发明训练基于LR与Adaboost融合模型的流程如；

图4为本发明基于LR与Adaboost融合模型构建过程中样本权重及各若分类器权重分布情况图。

具体实施方式

下面结合附图和实施例，对本发明的具体实施方式作进一步详细描述。以下实施例用于说明本发明，但不用来限制本发明的范围。

步骤1：本实施例采用国内某矿井中的22组典型的煤与瓦斯突出实测数据，对提出的突出预测模型构建算法进行验证。利用前15组数据样本作为构建煤与瓦斯突出预测模型所需的训练集，利用后7组数据作为煤与瓦斯突出预测模型的测试数据。训练数据和测试数据如表1和表2所示。

表1训练数据

表2测试数据

步骤2：用训练集训练基于LR与Adaboost融合模型的煤与瓦斯突出预测模型；

所述基于LR与Adaboost融合模型由多个弱分类器和1个强分类器构成，其结构如图2所示，所述弱分类器由多个LR分类器构成，采用one-VS-rest形式进行分类，将概率值最大的突出危险等级作为每个弱分类器的输出；每个弱分类器中LR分类器的个数等于煤与瓦斯突出危险等级的类别数，该模型的训练过程如图3所示，包括如下步骤：

步骤2.1：训练样本集表示为R＝{(T₁,S₁),…(T_k,S_k)…,(T_m,S_m)}；设置最大弱分类器个数g＝50，学习率η₁＝0.8与η₂＝0.01、正则化参数λ＝110、LR最大迭代次数n＝100；

其中，T_k为第k个突出预测样本的特征，T_k∈{t_k1,t_k2,…,t_ko}，t_kl为第k个样本特征的第l个元素，l＝1,2,…,o,o为考虑的突出影响因素数量；S_k为对应T_k的突出危险等级，S_k∈{1,2,…,φ}，m为训练集样本个数；

本实施例中突出影响因素数量o＝5，训练集样本个数m＝15，突出危险等级被分成φ＝4类，T₁∈{2.75,19,3,0.31,620}，T₁对应的突出危险等级S₁为4。

步骤2.2：初始化当前弱分类器索引i＝1，初始化样本权重值为e_ik＝1/m，k＝1,2,…,m，初始化强分类器H^fin＝0；

步骤2.3：采用one-VS-rest形式，训练基于LR的第i个弱分类器，并根据分类错误率计算第i个弱分类器的输出权重值；

步骤2.3.1：设弱分类器由φ个LR分类器构成，表示为/>弱分类器/>的输出如下：

其中，为分类器的输入，w为回归系数，φ的值由煤与瓦斯突出危险等级的类别数决定；

步骤2.3.2：将15个突出预测训练样本数据作为输入，根据η₂、λ与n以及样本权重e_ik，利用梯度下降法调整回归系数，如下：

其中，如果第k样本为正样本，如果第k样本为负样本，/>

根据步骤2.3.1训练获取基于LR的第i个弱分类器

步骤2.3.3：计算以15个样本为输入的弱分类器分类错误率：

其中，f_i为训练样本被弱分类器误分类样本的权重值之和即弱分类器分类错误率，/>为函数，当条件/>成立，则/>否则/>

步骤2.3.4：计算第i个弱分类器的输出权重值：

α_i＝max(ln((1-f_i)/f_i)+ln(φ-1),0)

可以得出，弱分类器的错误率f_i越高，则弱分类器的输出权重值越小，同时对弱分类器学习效果的要求也降低了。

步骤2.4：更新强分类器，并计算强分类器分类的错误率；

步骤2.4.1：更新强分类器H^fin：

其中，η₁为学习率，0<η₁<1，可以弱化学习效果，提高煤与瓦斯突出预测模型的预测能力；α_j为第j个弱分类器的输出权重值，j＝1，…，i,为分类器的输入，δ为argmax函数的返回值，即突出危险等级预测值；

步骤2.4.2：计算强分类器分类的错误率

其中，sign()为符号函数，满足如下公式：

步骤2.5：判断是否达到循环结束条件，若是则转至执行步骤2.7结束循环，否则执行步骤2.6；是否达到循环结束条件的判断过程如下：

步骤2.5.1：判断强分类器的分类错误率是否为0，如果是则结束循环，否则执行步骤2.5.2；

步骤2.5.2：判断弱分类器个数i是否大于等于设定的弱分类器最大个数g，如果是则结束循环。

步骤2.6：依据第i个弱分类器的分类错误率重新计算样本权重值，将新的样本权重值加入样本中，将i+1赋值给i，转至执行步骤2.3；依据第i个弱分类器的分类错误率重新计算样本权重值的过程如下：

步骤2.6.1：根据第i个弱分类器的分类错误率计算用于训练第i+1个弱分类器的新的样本权重值：

其中，α_i为第i个弱分类器的输出权重值，e_ik为第i个弱分类器的第k个样本权重值，e_i+1k为第i+1个弱分类器的第k个样本权重值；

步骤2.6.2：令i＝i+1，将新的样本权重值进行归一化处理：

步骤2.7：输出训练好的煤与瓦斯突出预测模型。

本实施例中，训练集分类学习结果如表3所示：

表3训练集学习结果

由表3可知，对于表1中15个样本的学习，神经网络方法的学习效果最好，预测全部正确；而本发明方法与支持向量机方法的学习效果次之，均有一个预测错误，其中本发明方法对第13个样本预测错误，支持向量机方法对第8个样本预测错误。可以看出本发明的方法对逻辑回归学习的要求不高，因此建模是消耗的时长会很短。通过大量实验发现，对于本实施例的15个训练集样本，本发明的方法完成单次学习过程不超过2s，满足煤与瓦斯突出预测的实时要求。

步骤3：通过多传感器在线检测或离线检测获得突出预测所需的信息数据，利用基于均值的分批估计融合方法对多传感器数据进行融合处理，将处理后的信息数据记为数据X；

步骤4：将步骤3获得的数据X输入步骤2训练好的煤与瓦斯突出预测模型中，得到X的突出预测结果；

步骤5：检测得到X的突出实际结果，如果X的突出预测结果与突出实际结果不一致，则将X及其突出实际结果加入到步骤1所述训练集中，完成执行步骤2过程，实现对煤与瓦斯突出预测模型的修正，否则转至执行步骤6；

步骤6：输出数据X的预测结果。

本实施例采用表2中的数据作为处理后的实时采样数据X，输入到训练好的煤与瓦斯突出预测模型中，得到X的突出预测结果如表4所示；

表4预测结果

而表4可知，对于表2中的测试数据，本发明方法预测结果全部正确，而神经网络方法和支持向量机方法均是对第6组数据的突出预测错误，可见本发明方法有较好的预测能力。

Claims (8)

1.一种基于逻辑回归和增强学习的煤与瓦斯突出预测的方法，其特征在于包括如下步骤：

步骤1：采集煤与瓦斯突出的多种影响因素数据样本，利用基于均值的分批估计融合方法对样本数据进行融合处理并进行危险等级的划分，将处理后的样本作为训练集，记为R；

步骤2：用训练集训练基于LR与Adaboost融合模型的煤与瓦斯突出预测模型；

步骤3：通过多传感器在线检测或离线检测获得突出预测所需的信息数据，利用基于均值的分批估计融合方法对多传感器数据进行融合处理，将处理后的信息数据记为数据X；

步骤4：将步骤3获得的数据X输入步骤2训练好的煤与瓦斯突出预测模型中，得到X的突出预测结果；

步骤5：检测得到X的突出实际结果，如果X的突出预测结果与突出实际结果不一致，则将X及其突出实际结果加入到步骤1所述训练集中，完成执行步骤2过程，实现对煤与瓦斯突出预测模型的修正，否则转至执行步骤6；

步骤6：输出数据X的预测结果。

2.根据权利要求1所述的基于逻辑回归和增强学习的煤与瓦斯突出预测的方法，其特征在于步骤1所述煤与瓦斯突出的多种影响因素包括瓦斯压力、瓦斯放散初速度、地质构造、煤层坚固性系数、开采深度。

3.根据权利要求1所述的基于逻辑回归和增强学习的煤与瓦斯突出预测的方法，其特征在于所述基于LR与Adaboost融合模型由多个弱分类器和1个强分类器构成，所述弱分类器由多个LR分类器构成，采用one-VS-rest形式进行分类，将概率值最大的突出危险等级作为每个弱分类器的输出；每个弱分类器中LR分类器的个数等于煤与瓦斯突出危险等级的类别数。

4.根据权利要求1所述的基于逻辑回归和增强学习的煤与瓦斯突出预测的方法，其特征在于所述步骤2的过程如下：

步骤2.1：训练样本集表示为R＝{(T₁,S₁),…(T_k,S_k)…,(T_m,S_m)}；设置最大弱分类器个数g，学习率η₁与η₂、正则化参数λ、LR最大迭代次数n；

其中，T_k为第k个突出预测样本的特征，T_k∈{t_k1,t_k2,…,t_ko}，t_kl为第k个样本特征的第l个元素，l＝1,2,…,o，o为考虑的突出影响因素数量；S_k为对应T_k的突出危险等级，S_k∈{1,2,…,φ}，m为训练集样本个数；

步骤2.2：初始化当前弱分类器索引i＝1，初始化样本权重值为e_ik＝1/m，k＝1,2,…,m，初始化强分类器H^fin＝0；

步骤2.3：采用one-VS-rest形式，训练基于LR的第i个弱分类器，并根据分类错误率计算第i个弱分类器的输出权重值；

步骤2.4：更新强分类器，并计算强分类器分类的错误率；

步骤2.5：判断是否达到循环结束条件，若是则转至执行步骤2.7结束循环，否则执行步骤2.6；

步骤2.6：依据第i个弱分类器的分类错误率重新计算样本权重值，将新的样本权重值加入样本中，将i+1赋值给i，转至执行步骤2.3；

步骤2.7：输出训练好的煤与瓦斯突出预测模型。

5.根据权利要求4所述的基于逻辑回归和增强学习的煤与瓦斯突出预测的方法，其特征在于所述步骤2.3的过程如下：

步骤2.3.1：设弱分类器由φ个LR分类器构成，表示为/>弱分类器/>的输出如下：

其中，为分类器的输入，在训练时为第k个突出预测样本的特征T_k，w为回归系数，φ的值由煤与瓦斯突出危险等级的类别数决定；

步骤2.3.2：将R中m个突出预测训练样本数据作为输入，根据η₂、λ与n以及样本权重e_ik，利用梯度下降法调整回归系数，如下：

其中，如果第k样本为正样本，如果第k样本为负样本，/>

根据步骤2.3.1训练获取基于LR的第i个弱分类器

步骤2.3.3：计算以R中m个样本为输入的弱分类器分类错误率：

其中，f_i为训练样本被弱分类器误分类样本的权重值之和即弱分类器分类错误率，为函数，当条件/>成立，则/>否则/>

步骤2.3.4：计算第i个弱分类器的输出权重值：

α_i＝max(ln((1-f_i)/f_i)+ln(φ-1),0)

可以得出，弱分类器的错误率f_i越高，则弱分类器的输出权重值越小，同时对弱分类器学习效果的要求也降低了。

6.根据权利要求4所述的基于逻辑回归和增强学习的煤与瓦斯突出预测的方法，其特征在于所述步骤2.4的过程如下：

步骤2.4.1：更新强分类器H^fin：

其中，η₁为学习率，0<η₁<1，可以弱化学习效果，提高煤与瓦斯突出预测模型的预测能力；α_j为第j个弱分类器的输出权重值，j＝1，…，i，为分类器的输入，δ为argmax函数的返回值，即突出危险等级预测值；

步骤2.4.2：计算强分类器分类的错误率：

其中，sign()为符号函数，满足如下公式：

7.根据权利要求4所述的基于逻辑回归和增强学习的煤与瓦斯突出预测的方法，其特征在于步骤2.5所述循环结束条件如下：

步骤2.5.1：判断强分类器的分类错误率是否为0，如果是则结束循环，否则执行步骤2.5.2；

步骤2.5.2：判断弱分类器个数i是否大于等于设定的弱分类器最大个数g，如果是则结束循环。

8.根据权利要求5所述的基于逻辑回归和增强学习的煤与瓦斯突出预测的方法，其特征在于步骤2.6所述依据第i个弱分类器的分类错误率重新计算样本权重值的过程如下：

步骤2.6.1：根据第i个弱分类器的分类错误率计算用于训练第i+1个弱分类器的新的样本权重值：

其中，α_i为第i个弱分类器的输出权重值，e_ik为第i个弱分类器的第k个样本权重值，e_i+1k为第i+1个弱分类器的第k个样本权重值；

步骤2.6.2：令i＝i+1，将新的样本权重值进行归一化处理：