CN104966076A - 基于支持向量机的光纤入侵信号分类识别方法 - Google Patents

Abstract

本发明公开了一种基于支持向量机的光纤入侵信号识别方法，用于解决如何准确有效的识别相位敏感光时域反射机制下的光纤入侵信号的类型。其实现步骤为：首先提取光纤入侵信号样本的时频域特征作为训练样本；然后利用核函数将样本映射到高维空间；接着，利用序贯最小化算法训练支持向量机分类器并利用网格寻优和交叉验证获取最优的分类器参数；最后，将待分类的光纤入侵信号的特征向量输入到分类器中，根据分类器的输出得到相应的分类结果。本发明所采用的支持向量机和光纤入侵信号数字特征相结合的方法能够快速准确的识别入侵的类别。

Description

基于支持向量机的光纤入侵信号分类识别方法

技术领域

本发明涉及光纤入侵系统的振源识别的基于支持向量机(SVM)的光纤入侵信号分类识别方法。

技术背景

随着社会的发展，科技的进步，地下油气输送管道如今已经成为油气运输的大动脉。石油天然气管道安全预警技术关系到生命财产安全，具有重大的战略意义。随着管道沿线经济的快速发展，油气管道沿线施工、动土随处可见，在管道上打孔盗取油气的事故频繁发生，严重威胁着管道的生产安全。石油管道业的蓬勃发展，使政府每年投入大量的人力物力来保障管道的安全运行，但是仍无法预防和阻止破坏。这些现象加剧了管道安全预警系统的需求。

光纤预警系统对铺设在管道沿线的光纤采集到的光纤信号进行处理和识别，并根据入侵信号的特征确定各种破坏事件的严重性进行安全预警，从而保障油气管道安全。由于基于相敏光时域反射技术的光纤传感系统，对周围环境的任何扰动，包括机械振动、人为破坏、天气影响等都能感知，易引起频繁误报，因此基于光纤入侵信号特征的分类识别技术是光纤预警系统的关键技术环节。

目前光纤入侵信号的识别还存在明显不足，其实现入侵类型识别的方法是将检测到的入侵信号波形与数据库中的模板进行匹配。但是，这种处理方法对受噪声和干扰振动的影响大，使得识别的准确率不稳定，因此，急需开展新的光纤入侵信号分类识别方法。

经过一系列研究发现，基于支持向量机和光纤入侵信号数字特征的分类识别方法能够有效的识别入侵类型。

发明内容

本发明涉及光纤入侵系统的入侵信号类型识别，其利用多类光纤入侵信号样本的多维数字特征训练得到支持向量机分类器，通过所得的分类器可以对光纤入侵系统检测到的入侵信号进行分类识别，确定入侵信号的类型。

基于支持向量机(SVM)的光纤入侵信号分类识别方法，其特征在于包括：

将光纤入侵信号的占空比、中心频率组成特征向量x，根据n个训练样本x_i(i＝1,2,...,n)，训练出最优分类超平面u＝ωx+b，构成优化问题的目标函数：

$\begin{array}{cc}min& \frac{1}{2}\left|\right|\mathrm{\ω}|{|}^2+C\underset{i=1}{\overset{n}{\Σ}}{\mathrm{\ξ}}_i\end{array}$

s.t.y_i(ω^Tx_i+b)≥1-ξ_i i＝1,···n,

其中u是超平面方程函数值，ω是权向量，x是特征向量，b是超平面阀值，C是惩罚因子，ξ_i是松弛变量，y_i是样本标签。

通过拉格朗日乘数法引入拉格朗日乘子α_i构造拉格朗日函数沃尔夫对偶型：

$\underset{\mathrm{\α}}{min}\mathrm{\ψ}\left(\mathrm{\α}\right)=\underset{\mathrm{\α}}{min}\frac{1}{2}\underset{i=1}{\overset{n}{\Σ}}\underset{j=1}{\overset{n}{\Σ}}{y}_i{y}_j{x}_i{x}_j{\mathrm{\α}}_i{\mathrm{\α}}_j-\underset{i=1}{\overset{n}{\Σ}}{\mathrm{\α}}_i$

s.t.0≤α_i≤C,i＝1,...,n

$\underset{i=1}{\overset{n}{\Σ}}{\mathrm{\α}}_i{y}_i=0$

利用核函数将光纤入侵信号样本的特征向量映射到高维空间，在高维空间中求解能区分光纤入侵样本的分类超平面，解决了在输入空间中入侵样本线性不可分的问题。本发明选择高斯核函数作为映射函数，其中g为核函数系数，通过引入核函数将拉格朗日函数沃尔夫对偶型改写成：

$\underset{\mathrm{\α}}{min}\mathrm{\ψ}\left(\mathrm{\α}\right)=\underset{\mathrm{\α}}{min}\frac{1}{2}\underset{i=1}{\overset{n}{\Σ}}\underset{j=1}{\overset{n}{\Σ}}{y}_i{y}_{j}K\left(x_i{x}_j\right){\mathrm{\α}}_i{\mathrm{\α}}_j-\underset{i=1}{\overset{n}{\Σ}}{\mathrm{\α}}_i$

s.t.0≤α_i≤C,i＝1,...,n

$\underset{i=1}{\overset{n}{\Σ}}{\mathrm{\α}}_i{y}_i=0$

利用序贯最小化优化算法求解拉格朗日乘子α_i(i＝1,2,...,n)获得支持向量机分类器。通过启发式选择方法每次选取两个拉格朗日乘子α_j和α_k作为算法优化的对象，并固定其他拉格朗日乘子不变，由此得到 ${\mathrm{\α}}_j{y}_j+{\mathrm{\α}}_k{y}_k=\underset{i\≠j,k}{\Σ}{\mathrm{\α}}_i{y}_i=\mathrm{\γ},$ 其中γ是定值。

由α_jy_j+α_ky_k＝γ和0≤α_i≤C(i＝1,...,n)求解α_k的取值范围[L,H]：

当y_j≠y_k时， $\left\{\begin{array}{c}L=max\{0,{\mathrm{\α}}_k-{\mathrm{\α}}_j\}\\ H=min\{C,C+{\mathrm{\α}}_k-{\mathrm{\α}}_j\}\end{array}\right.$

当y_j＝y_k时， $\left\{\begin{array}{c}L=max\{0,{\mathrm{\α}}_k-{\mathrm{\α}}_j\}\\ H=min\{C,C+{\mathrm{\α}}_k-{\mathrm{\α}}_j\}\end{array}\right.$

以α_k自变量求解目标函数ψ(α)的极值点：

${\mathrm{\α}}_k^{new}={\mathrm{\α}}_k+\frac{y_k(E_j-E_k)}{\mathrm{\η}}$

其中E＝u-y，表示分类函数值与真实标签值的误差，设：η＝K(x_j,x_j)+K(x_k,x_k)-2K(x_j,x_k)。根据α_k的取值范围[L,H]得到优化后的α_k为：

${\mathrm{\&alpha;}}_k^{new,clipped}=\left\{\begin{array}{cc}H& {\mathrm{\&alpha;}}_k^{new}\&GreaterEqual;H\\ {\mathrm{\&alpha;}}_k^{new}& L<{\mathrm{\&alpha;}}_k^{new}<H\\ L& {\mathrm{\&alpha;}}_k^{new}\&le;L\end{array}\right.$

则另一个被优化的乘子重复上述优化过程直到所有的拉格朗日乘子满足沃尔夫对偶问题的卡罗需-库恩-塔克条件：

${\mathrm{\&alpha;}}_i=0\&DoubleLeftRightArrow;y_i{u}_i\&GreaterEqual;1$

$0<{\mathrm{\&alpha;}}_i<C\&DoubleLeftRightArrow;y_i{u}_i=1$

${\mathrm{\&alpha;}}_i=C\&DoubleLeftRightArrow;y_i{u}_i\&le;1$

采用网格寻优结合K折交叉验证(k-folder CV)的方法来选取支持向量机分类器的预设参数惩罚因子C和核函数系数g。限定C和g的取值范围，按一定的步进长度改变C和g的大小，将数据集分成个k子集，每个子集均做一次测试集，其余的作为训练集。重复交叉验证k次，每次选择一个子集作为测试集，并将k次的平均交叉验证识别率作为结果。选择分类准确率最高的C和g作为支持向量机的最优参数。

将未知类型光纤信号的特征向量x输入到支持向量机分类函数b得到相应的类别标签，从而得出未知入侵信号的类型。

附图说明

图1是根据本发明的一个实施例的光纤入侵信号识别方法的总体流程图。

图2是根据本发明的一个实施例中采用的高斯核函数映射示意图。

图3是根据本发明的一个实施例中获得的交叉验证参数图。

图4是根据本发明的一个实施例中获得的机械、人工挖掘信号实测分类结果。

具体实施方案

以下结合附图，对本发明的实施例进行具体描述。

根据本发明的一个实施例的一种基于支持向量机的光纤入侵信号分类识别方法的总体流程如图1所示，其中：

S101：读入用于训练样本的光纤入侵信号。

S102：提取光纤入侵信号相关的数字特征组成特征向量，得到多类入侵信号的特征向量集x_i(i＝1,2,...,n)。特征共有2维，包括：基于恒虚警检测的占空比特征和基于快速傅里叶变换的中心频率特征。本发明人通过分析光纤入侵样本信号特征在二维平面的分布，发现其具有线性不可分性。

S103：对不同类别的光纤入侵信号编号作为分类标签，针对含分类标签的光纤入侵信号建立非线性支持向量机分类器。其思想是在特征空间寻找超平面u＝ωx+b将不同类别的信号间隔开。其中ω是权向量，x是特征向量，b是超平面阀值。为了获得容错性最佳的分类器，即分类间隔最大的超平面，需要最大化本实施例中利用高斯核函数K(x_i,x_j)＝exp(-g||x_i-x_j||)将光纤入侵信号样本的特征向量映射到高维空间以解决在输入空间线性不可分的问题，其中g为高斯核函数系数。同时，为了使分类器能够处理样本线性不可分的情况，引入松弛变量优化问题的沃尔夫对偶型为：

$\underset{\mathrm{\&alpha;}}{min}\mathrm{\&psi;}\left(\mathrm{\&alpha;}\right)=\underset{\mathrm{\&alpha;}}{min}\frac{1}{2}\underset{i=1}{\overset{n}{\&Sigma;}}\underset{j=1}{\overset{n}{\&Sigma;}}{y}_i{y}_{j}K\left(x_i,x_j\right){\mathrm{\&alpha;}}_i{\mathrm{\&alpha;}}_j-\underset{i=1}{\overset{n}{\&Sigma;}}{\mathrm{\&alpha;}}_i$

s.t.0≤α_i≤C,i＝1,...,n

$\underset{i=1}{\overset{n}{\&Sigma;}}{\mathrm{\&alpha;}}_i{y}_i=0$

S104：利用序贯最小化优化算法求解上述问题中的拉格朗日乘子α_i(i＝1,2,...,n)来获得分类器。通过启发式算法选择两个拉格朗日乘子α_j和α_k作为算法优化的对象，并固定其他拉格朗日乘子不变，由此得到其中γ是定值。结合约束条件0≤α_i≤C(i＝1,...,n)求解α_k的取值范围[L,H]：

当y_j≠y_k时， $\{\begin{array}{c}L=max\{0,{\mathrm{\&alpha;}}_k-{\mathrm{\&alpha;}}_j\}\\ H=min\{C,C+{\mathrm{\&alpha;}}_k-{\mathrm{\&alpha;}}_j\}\end{array},$

当y_j＝y_k时， $\{\begin{array}{c}L=max\{0,{\mathrm{\&alpha;}}_k-{\mathrm{\&alpha;}}_j\}\\ H=min\{C,C+{\mathrm{\&alpha;}}_k-{\mathrm{\&alpha;}}_j\}\end{array}.$

以α_k自变量求解目标函数ψ(α)的极值点：其中E＝u-y，表示分类函数值与真实标签值的误差，设：根据α_k的取值范围[L,H]得到优化后的α_k为： ${\mathrm{\&alpha;}}_k^{new,clipped}=\left\{\begin{array}{cc}H& {\mathrm{\&alpha;}}_k^{new}\&GreaterEqual;H\\ {\mathrm{\&alpha;}}_k^{new}& L<{\mathrm{\&alpha;}}_k^{new}<H\\ L& {\mathrm{\&alpha;}}_k^{new}\&le;L\end{array}\right..$ 另一个被优化的乘子 ${\mathrm{\&alpha;}}_j^{new}={\mathrm{\&alpha;}}_j+s({\mathrm{\&alpha;}}_k-{\mathrm{\&alpha;}}_k^{new,clipped}).$

重复上述优化过程直到所有的拉格朗日乘子满足沃尔夫对偶问题的卡罗需-库恩-塔克条件：

${\mathrm{\&alpha;}}_i=0\&DoubleLeftRightArrow;y_i{u}_i\&GreaterEqual;1$

$0<{\mathrm{\&alpha;}}_i<C\&DoubleLeftRightArrow;y_i{u}_i=1$

${\mathrm{\&alpha;}}_i=C\&DoubleLeftRightArrow;y_i{u}_i\&le;1$

S105：由根据序贯最小化优化算法的求解过程可知，支持向量机分类器模型与惩罚因子C和核函数系数g有关。

为了获得最优的参数组合，本发明采用网格寻优和K折交叉验证的方法来选取支持向量机预设参数惩罚因子C和核函数系数g。

惩罚因子C的寻优范围为2^-8到2⁸，其指数以1作为步进长度；同样的，核函数系数g也以2^-8到2⁸为寻优范围，将其指数以1作为步进长度。为了兼顾参数寻优的运算效率和泛化能力，本实施例中采用10折交叉验证。将光纤入侵信号的样本特征集分成10个子集，每个子集均做一次测试集，其余的作为训练集。在不同的参数组合下交叉验证10次，并以10次的平均交叉验证识别率作为结果。交叉验证结果如图3所示，其中x轴和y轴分别是惩罚因子C和核函数系数g以2为底的对数，z轴是交叉验证下的平均分类准确率。以此方法不仅得到当前训练集下的最优参数组合，也保证了对训练集同类别的特征向量的推广性。

S106：根据满足KKT条件的拉格朗日乘子和经交叉验证获取的最优参数得到支持向量机分类函数

S107：提取需要识别的未知类型的光纤入侵信号的占空比、中心频率组成待分类信号的特征向量。

S108：将特征向量输入到支持向量机中，根据输出的结果判定为光纤入侵信号为相应的类别。

本发明人对机械信号和人工挖掘信号的实测分类结果如图4所示。其中横轴是光纤入侵信号的中心频率特征，纵轴是光纤入侵信号的占空比特征，+是电镐信号的样本点，·是电钻信号的样本点，曲线是非线性支持向量机超平面在二维空间的投影。从图中可以看出，本发明所使用的支持向量机结合光纤入侵信号数字特征的分类方法可以显著的将两类信号的特征识别区分。

本发明与现有识别方法相比具有以下优点

(1)、本发明能够有效实现光纤入侵系统检测信号的分类识别；

(2)、使用高斯核函数的非线性支持向量机解决了光纤信号特征在输入空间线性不可分的问题；

(3)、网格寻优和交叉验证获取了基于光纤入侵信号样本的最优分类器参数，使得本方法针对光纤入侵信号识别范围更大、泛化能力更强。

Claims (4)

1.基于支持向量机的光纤入侵信号分类识别方法，其特征在于包括：

根据光纤入侵信号样本的特征向量构成优化问题的目标函数，通过拉格朗日方法转换目标函数得到相应的目标函数的沃尔夫对偶型，并使用高斯核函数将样本映射到高维核空间；

利用序贯最小化优化算法优化每个样本相应的拉格朗日乘子求得核空间中的最优分类超平面；

通过网格寻优和交叉验证确定最优的惩罚因子和核函数系数作为支持向量机的参数，通过所求得的分类函数可以对从光纤入侵系统提取到的特征进行分类，从而识别振动类型。

2.根据权利要求1的方法，其特征在于进一步包括：

光纤入侵信号的特征向量x由占空比和中心频率构成，

根据n个含有类别标签的训练样本x_i(i＝1,2,...,n)，训练出最优分类超平面u＝ωx+b，其中，首先构成优化问题的目标函数：

$\begin{array}{cc}min& \frac{1}{2}\left|\right|\mathrm{\&omega;}|{|}^2+C\underset{i=1}{\overset{n}{\&Sigma;}}{\mathrm{\&xi;}}_i\end{array}$

s.t.y_i(ω^Tx_i+b)≥1-ξ_i i＝1,…n,

其中u是超平面方程函数值，ω是权向量，x是特征向量，b是超平面阀值，C是惩罚因子，ξ_i是松弛变量，y_i是样本标签，

利用高斯核函数K(x_i,x_j)＝exp(-g||x_i-x_j||)将光纤入侵信号样本的特征向量映射到高维空间以解决在输入空间线性不可分的问题，其中g为核函数系数，

通过拉格朗日乘数法引入拉格朗日乘子α_i构造拉格朗日函数沃尔夫对偶型：

$\underset{\mathrm{\&alpha;}}{\min }\mathrm{\&psi;}\left(\mathrm{\&alpha;}\right)=\underset{\mathrm{\&alpha;}}{\min }\frac{1}{2}\underset{i=1}{\overset{n}{\&Sigma;}}\underset{j=1}{\overset{n}{\&Sigma;}}{y}_i{y}_{j}K(x_i,x_j){\mathrm{\&alpha;}}_i{\mathrm{\&alpha;}}_j-\underset{i=1}{\overset{n}{\&Sigma;}}{\mathrm{\&alpha;}}_i$

s.t.0≤α_i≤C,i＝1,...,n

$\underset{i=1}{\overset{n}{\&Sigma;}}{\mathrm{\&alpha;}}_i{y}_i=0$

3.根据权利要求2的方法，其特征在于进一步包括：

利用序贯最小化优化算法求解拉格朗日乘子α_i(i＝1,2,...,n)获得支持向量机分类器，每次选取两个拉格朗日乘子α_j和α_k作为算法优化的对象，并固定其他拉格朗日乘子不变，由此得到其中γ是定值；

重复上述优化过程直到所有的拉格朗日乘子满足沃尔夫对偶问题的卡罗需-库恩-塔克条件：

${\mathrm{\&alpha;}}_i=0\&DoubleLeftRightArrow;y_i{u}_i\&GreaterEqual;1$

$0<{\mathrm{\&alpha;}}_i<C\&DoubleLeftRightArrow;y_i{u}_i=1$

${\mathrm{\&alpha;}}_i=C\&DoubleLeftRightArrow;y_i{u}_i\&le;1$

4.根据权利要求2的方法，其特征在于进一步包括：

采用网格寻优结合K折交叉验证(k-folder CV)的方法来选取支持向量机分类器的预设参数惩罚因子C和核函数系数σ，限定C和g的取值范围，按一定的步进长度改变C和g的大小；将数据集分成个k子集，每个子集均做一次测试集，其余的作为训练集，重复交叉验证k次，每次选择一个子集作为测试集，并将k次的平均交叉验证识别率作为结果；选择分类准确率最高的C和g作为支持向量机的最优参数。