CN105335762A - 一种基于Legendre矩不变量和PSO-LSSVM分类器的密级标识识别方法 - Google Patents

Abstract

一种基于Legendre矩不变量和PSO-LSSVM分类器的密级标识识别方法，所采取的识别方法为：将基于Legendre矩不变量和PSO-LSSVM的理论运用于电子取证中的密级标识的识别中，首先通过对密级标识进行图像预处理后，计算图像的低阶Legendre矩不变量组成特征向量，然后利用PSO-LSSVM分类器对密级标识图片进行分类识别。该方案有益效果在于一方面利用低阶Legendre矩不变量能够对图像的特征进行很好地刻画，且量在常见的攻击下包括几何攻击具有很好的稳定性，另一方面运用PSO-LSSVM分类器使得分类器能够提高密级标识识别精度与速度。

Description

一种基于Legendre矩不变量和PSO-LSSVM分类器的密级标识识别方法

技术领域

本发明属于电子取证领域，具体涉及一种基于Legendre矩不变量和PSO-LSSVM分类器的密级标志识别方法。

背景技术

在现有的文字识别技术中，常见的方法有模板匹配法(李新良.基于模板匹配法的字符识别算法研究[J].计算技术与自动化,2012,31(2):90-93.)、字符特征统计法(ShahJ,GokaniV.ASimpleandEffectiveOpticalCharacterRecognitionSystemforDigitsRecognitionusingthePixel-ContourFeaturesandMathematicalParameters[J].InternationalJournalofComputerScience&InformationTechnologies,2014,5(5):6827-6830.)

和神经网络法(张凯歌.基于K-means和神经网络算法的图像文字提取与识别[D].云南大学,2013.)等。模版匹配法基本思想是将待识别图像与模板图像进行直接或间接(对待识别图像进行一定的处理)相关运算得到相关值，根据相关值的大小去判定是否为模板字符。该方法相对简单，对于背景单一或者无污染的图片识别准确率较高，但随着背景图像的噪声增加，识别效果会急剧下降。基于字符特征的方法就是通过统计字符的特征，如轮廓特征、笔画特征、骨架特征和复杂指数特征等等，然后根据这些特征的相似度进行判别。该方法对于较为复杂的文字以及污染较轻的图片有较好的识别效果，但是对于污染较重的图片识别效果较差。神经网络法是通过利用神经网络对大量文字图像样本进行训练，通过神经网络不断的学习和收缩达到识别的目的。但是由于神经网络的结构设计严重依赖先验知识和经验，无法准确控制其是否收敛以及收敛速度。

以上文字识别方法，可以对密级标识完成较好的识别，但是一旦密级标识遭受常见攻击如几何攻击(旋转、缩放和平移等)、滤波攻击(均值滤波、高斯滤波等)、直方图均衡化攻击等利用上述方法无法准确的识别出密级标识。因此研究针对常见攻击具有稳定性的识别方法具有重要的意义。

发明内容

发明目的：电子取证中，在完成对涉密文件的检索后，需要对涉密文件的密级标识进行进一步的识别，将检查的结果以记录的形成日志，作为取证的证据。针对通常文字识别算法对遭受攻击后的密级标识无法进行有效的识别，提出了基于Legendre矩不变量和PSO-LSSVM分类器的文字识别算法，通过计算低阶Legendre矩不变量作为特征，利用PSO-LSSVM分类器进行分类识别，由于低阶Legendre矩不变量在常见的攻击下具有很好的稳定性，因此不管带识别图像是否遭受攻击，本技术方案均能够对密级标识信息进行很好地识别。

本方法中涉及的主要技术有：

[1]Legendre矩不变量：Teague中根据连续正交矩的理论提出了Legendre矩的概念，p+q阶的Legendre矩定义如下：

${\mathrm{LM}}_{pq}=\underset{-1}{\overset{1}{\∫}}\underset{-1}{\overset{1}{\∫}}{P}_p\left(x\right)P_q\left(y\right)f(x,y)dxdy,p,q=0,1,2,...---\left(a\right)$

其中P_p(x)为p阶Legendre正交多项式，且其中系数c_p,k为

根据Legendre矩的正交性可得

$x^p=\underset{k=0}{\overset{p}{\Σ}}{d}_{p,k}{P}_k\left(x\right)---\left(c\right)$

其中系数d_p,k ^[14]

Legendre矩不变量的定义，分别如式(e)所示：

${\mathrm{LMI}}_{p,q}=\underset{m=0}{\overset{p}{\Σ}}\underset{n=0}{\overset{q}{\Σ}}\underset{s=0}{\overset{m}{\Σ}}\underset{t=0}{\overset{n}{\Σ}}\underset{i=0}{\overset{s+t}{\Σ}}\underset{j=0}{\overset{m+n-s-t}{\Σ}}\left(\begin{array}{c}m\\ s\end{array}\right)\left(\begin{array}{c}n\\ t\end{array}\right){(-1)}^t{\left(cos\mathrm{\θ}\right)}^{n+s-t}{\left(sin\mathrm{\θ}\right)}^{m+t-s}{c}_{p,m}{c}_{q,n}{d}_{s+t,i}{d}_{m+n-s-t,j}{{\mathrm{LMI}}_{ij}}^{s-t}---\left(e\right)$

其中θ和LMI_i,j ^t的定义分别入式(f)和式(g)

$\mathrm{\θ}=\frac{1}{2}{\tan }^{-1}\frac{2{\mathrm{QLM}}_{11}}{{\mathrm{QLM}}_{20}-{\mathrm{QLM}}_{0,2}}---\left(f\right)$

${{\mathrm{LMI}}_{ij}}^{s-t}=\underset{m=0}{\overset{p}{\Σ}}\underset{n=0}{\overset{q}{\Σ}}\underset{i=0}{\overset{m}{\Σ}}\underset{j=0}{\overset{n}{\Σ}}{c}_{p,m}{c}_{q,n}{d}_{m,i}{d}_{n,j}{{\mathrm{LM}}_{00}}^{\frac{-(m+n+2)}{2}}{{\mathrm{LMI}}_{ij}}^t---\left(g\right)$

在式(g)中有，

${{\mathrm{LMI}}_{ij}}^t=\underset{m=0}{\overset{p}{\Σ}}\underset{n=0}{\overset{q}{\Σ}}\underset{s=0}{\overset{m}{\Σ}}\underset{t=0}{\overset{n}{\Σ}}\underset{i=0}{\overset{s}{\Σ}}\underset{j=0}{\overset{t}{\Σ}}\left(\begin{array}{c}m\\ s\end{array}\right)\left(\begin{array}{c}n\\ t\end{array}\right)c_{p,m}{c}_{q,n}{d}_{s,i}{d}_{t,j}{(-x_0)}^{m-s}{(-y_0)}^{n-t}{\mathrm{LM}}_{ij}---\left(h\right)$

其中x₀,y₀为大小M×N图像f(x,y)的质心，计算方法如式(i)所示：

$\begin{array}{cc}x0=\frac{\underset{x=1}{\overset{M}{\Σ}}\underset{y=1}{\overset{N}{\Σ}}x||f(x,y)||}{\underset{x=1}{\overset{M}{\Σ}}\underset{y=1}{\overset{N}{\Σ}}||f(x,y)||},& y0=\frac{\underset{x=1}{\overset{M}{\Σ}}\underset{y=1}{\overset{N}{\Σ}}y||f(x,y)||}{\underset{x=1}{\overset{M}{\Σ}}\underset{y=1}{\overset{N}{\Σ}}||f(x,y)||}\end{array}---\left(i\right)$

由于图像的Legendre矩不变量在常见攻击下具有很强的稳定性与鲁棒性，因此本文选取8个低阶Legendre矩不变量作为特征，再利用K-means分类器进行分类识别。

[2]PSO算法：粒子群优化算法是由Eberhat和Knenedy于1995年提出的一种全局搜索算法，通过粒子的本身的历史最优解和群体的全局最优解来更新粒子的速度和位置，让粒子在搜索空间中探索和开发，最终找到全局最优解。基本思想如下：

粒子组成的种群X＝[X₁,X₂,…,X_n]中，每个个体粒子在进化的过程中维护速度向量v_i＝[v_i1,v_i2,…,v_iD]和位置向量x_i＝[x_i1,x_i2,…,x_iD]，位置向量x_i也即问题潜在的一个解。其中i表示粒子编号，D表示求解问题的维数。

每次迭代时，每个粒子通过个体极值P_i＝[P_i1,P_i2,…,P_iD]和种群全局极P_g＝[P_g1,P_g2,…,P_gD]，对为自身的位置和速度按照式(j)和(k)进行更新：

$V_{id}^{k+1}={\mathrm{\ωV}}_{id}^k+c_1{r}_1(P_{id}^k-X_{id}^k)+c_2{r}_2(P_{gd}^k-X_{id}^k)---\left(j\right)$

$X_{id}^{k+1}=X_{id}^k+V_{id}^{k+1}---\left(k\right)$

其中d＝1,2,…,D，i＝1,2,…,n，ω为惯性权重，k为当前迭代次数，c₁和c₂为非负的加速因子，r₁和r₂为分布在[0,1]之间的随机数。

[3]LSSVM算法：最小二乘支持向量机由Suykens等于1999年提出，它的核心就是采用等式约束来替换标准支持向量机中的不等式约束，从而将求解二次规划的问题转换成了求解线性方程组的问题，简化了运算，并且提高了收敛速度和降低了算法复杂度。其基本思想如下：

设训练数据集为X＝{(x_i,y_i)},i＝1,2,…,n，x_i为输入样本且x_i∈R^d，d为维数，y_i为输出样本且y_i∈R。首先，利用一维非线性映射将样本输入空间R^d映射到高维特征空间，然后在此特征空间若令

其中ω＝(ω₁，ω₂，…，ω_n)为权值系数，b为阈值。根据结构化风险最小原则，f(x_i)优化最小损失和约束条件分别如式(m)和(n)所示，其中γ为正规化参数，e_i为松弛因子。

$\begin{array}{cc}min& \frac{1}{2}\left|\right|\mathrm{\ω}|{|}^2+\mathrm{\γ}\underset{i=1}{\overset{n}{\Σ}}{e}_i^2\end{array}---\left(m\right)$

s.t.y_i＝ωx_i+b+e_i(n)

根据拉格朗日法求解该问题，最终可以得到LS-SVM模型(o)

$f\left(x\right)=\underset{i=1}{\overset{n}{\Σ}}{\mathrm{\α}}_{i}K(x,x_i)+b---\left(o\right)$

其中α_i为拉格朗日因子，K(x,x_i)为核函数，一般选取径向基函数为核函数，如式(p)所示，其中δ径向基函数的宽度。

$K(x,x_i)=\exp (-\frac{{||x-x_i||}^2}{2{\mathrm{\δ}}^2})---\left(p\right)$

由于式(m)中的参数γ和式(p)中的参数δ对预测精度有很大影响，所以需采用粒子群算法确定参数γ和δ的最优值。

技术方案：

1、一种基于Legendre矩不变量和PSO-LSSVM分类器的密级标志识别方法，包括以下步骤：

(1)对密级标识图像按照式(a)进行灰度化，以减少不必要的干扰和降低处理的复杂度；设图像灰度f(x,y)∈[c₁,c₂]，若令集合则可以通过判断像素值是否在集合C中进行分类：

$f(x,y)=\left\{\begin{array}{cc}a& f(x,y)\∈C\\ b& f(x,y)\∉C\end{array}\right.---\left(a\right)$

通过选定适当的a,b值就可以对图像的灰度化分割，实现图像的增强，达到拉伸图像的效果增加图像对比度。

(2)对灰度化后的图像进行去噪，采取3*3或者5*5的均值滤波法进行去噪，去除干扰信息的影响；

(3)将灰度化后的图像进行反相操作，使字符区域呈现为白色，背景区域呈现为黑色，使得文字轮廓与背景色对比更加强烈，有利于观察文字特征。然后利用全局阈值法对反相后的按照式(b)进行二值化：

$f(x,y)=\left\{\begin{array}{cc}255& f(x,y)\≤T\\ 0& f(x,y)>T\end{array}\right.---\left(b\right)$

(4)对二值化后的图像采用Hough变换方法进行倾斜校正，其基本思想是通过把直线从图像的空间转换到参数的空间，求得参数空间的局部极大值获得图像文字的倾斜角；

(5)利用垂直投影法进行文字行切分以及基于回溯的最大宽度法进行单个字符的切分，最终得到包含每一个字符的文字序列；

(6)对每个字符进行细化，提取文字的骨架，使各个笔划均由宽度为1个像素的形式表示；

(7)对图像进行大小归一化和位置归一化，得到大小为N×N的图像，并使得待识别内容位于图像中心；

(8)计算图像的Legendre矩不变量分别选取两个1阶Legendre矩不变量、两个2阶Legendre矩不变量和四个3阶Legendre矩不变量构造图像的特征向量V＝(QMI_0,1,QMI_1,0,QMI_0,2,QMI_2,0,QMI_0,3,QMI_3,0,QMI_1,2,QMI_2,1)作为密级图像的特征；

(9)将数据集分为训练集和测试集，利用PSO-LSSVM分类器对密级标识图像进行识别，获取密级标识信息。

有益效果

提供一种具有抗攻击性的涉密文件密级标识识别算法，为提升电子取证的技术水平与能力服务。

本方案具有以下特点：

[1]利用低阶Legendre矩不变量能够对图像的内容特征进行很好地刻画，且量在常见的攻击下Legendre矩不变量具有很好的稳定性，有利于对密级标识的识别，克服了现有技术在常见攻击下不能对密级标识进行有效识别的特点。

[2]利用PSO算法优化确定LSSVM参数，与其他相关算法相比能够很好的提高识别的精度。

附图说明

图1为本发明算法流程。

具体实施方式

以下结合附图具体说明本发明方案：

[1]对密级标志进行不同的攻击(包括彷射变换、JPEG压缩、亮度降低、模糊处理、中值滤波、均值滤波、对比度增强等)获取实验数据。

[2]将实验数据分为训练样本和测试样本两部分，两者互不包含。

[3]预处理训练样本，包括图像灰度化、图像反相和二值化、图像去噪、倾斜校正、行字切分、细化以及归一化等步骤。

[4]计算预处理后训练样本的低阶Legendre矩不变量作为训练特征。

[5]利用PSO-LSSVM算法对特征向量进行训练获取训练模型。

[6]对测试样本进行图像预处理，包括图像灰度化、图像反相和二值化、图像去噪、倾斜校正、行字切分、细化以及归一化等步骤。

[7]计算预处理后的测试样本的低阶Legendre矩不变量作为特征向量。

[8]利用[5]中获得的训练模型对测试样本的特征向量进行识别，获得最终识别结果。

本发明是通过以下方案实现的：

[1]对密级标识图像按照式(a)进行灰度化，以减少不必要的干扰和降低处理的复杂度。设图像灰度f(x,y)∈[c₁,c₂]，若令集合则可以通过判断像素值是否在集合C中进行分类：

$f(x,y)=\left\{\begin{array}{cc}a& f(x,y)\∈C\\ b& f(x,y)\∉C\end{array}\right.---\left(a\right)$

通过选定适当的a,b值就可以对图像的灰度化分割，实现图像的增强，达到拉伸图像的效果增加图像对比度。

[2]对灰度化后的图像进行去噪，采取3*3或者5*5的均值滤波法进行去噪，去除干扰信息的影响。

[3]将灰度化后的图像进行反相操作，使字符区域呈现为白色，背景区域呈现为黑色，使得文字轮廓与背景色对比更加强烈，有利于观察文字特征。然后利用全局阈值法对反相后的按照式(b)进行二值化：

$f(x,y)=\left\{\begin{array}{cc}255& f(x,y)\≤T\\ 0& f(x,y)>T\end{array}\right.---\left(b\right)$

[4]对二值化后的图像采用Hough变换方法进行倾斜校正，其基本思想是通过把直线从图像的空间转换到参数的空间，求得参数空间的局部极大值获得图像文字的倾斜角。

[5]利用垂直投影法进行文字行切分以及基于回溯的最大宽度法进行单个字符的切分，最终得到包含每一个字符的文字序列。

[6]对每个字符进行细化，提取文字的骨架，使各个笔划均由宽度为1个像素的形式表示。

[7]对图像进行大小归一化和位置归一化，得到大小为N×N的图像，并使得待识别内容位于图像中心。

[8]计算图像的Legendre矩不变量分别选取两个1阶Legendre矩不变量、两个2阶Legendre矩不变量和四个3阶Legendre矩不变量构造图像的特征向量V＝(QMI_0,1,QMI_1,0,QMI_0,2,QMI_2,0,QMI_0,3,QMI_3,0,QMI_1,2,QMI_2,1)作为密级图像的特征。

[9]将数据集分为训练集和测试集，利用PSO-LSSVM分类器对密级标识图像进行识别，获取密级标识信息。

本发明具有以下优点:

[1]利用低阶Legendre矩不变量能够对图像的内容特征进行很好地刻画，且量在常见的攻击下Legendre矩不变量具有很好的稳定性，有利于对密级标识的识别。

[2]利用PSO算法优化确定LSSVM参数，与其他相关算法相比能够很好的提高识别的精度。

Claims (1)

1.一种基于Legendre矩不变量和PSO-LSSVM分类器的密级标志识别方法，其特征在于，包括以下步骤：

(1)对密级标识图像按照式(a)进行灰度化，以减少不必要的干扰和降低处理的复杂度；设图像灰度f(x,y)∈[c₁,c₂]，若令集合则可以通过判断像素值是否在集合C中进行分类：

通过选定适当的a,b值就可以对图像的灰度化分割，实现图像的增强，达到拉伸图像的效果增加图像对比度；

(2)对灰度化后的图像进行去噪，采取3*3或者5*5的均值滤波法进行去噪，去除干扰信息的影响；

(3)将灰度化后的图像进行反相操作，使字符区域呈现为白色，背景区域呈现为黑色，使得文字轮廓与背景色对比更加强烈，有利于观察文字特征，然后利用全局阈值法对反相后的按照式(b)进行二值化：

$f(x,y)=\left\{\begin{array}{cc}255& f\left(x,y\right)\≤T\\ 0& f\left(x,y\right)>T\end{array}\right.---\left(b\right)$

(4)对二值化后的图像采用Hough变换方法进行倾斜校正，通过把直线从图像的空间转换到参数的空间，求得参数空间的局部极大值获得图像文字的倾斜角；

(5)利用垂直投影法进行文字行切分以及基于回溯的最大宽度法进行单个字符的切分，最终得到包含每一个字符的文字序列；

(6)对每个字符进行细化，提取文字的骨架，使各个笔划均由宽度为1个像素的形式表示；

(7)对图像进行大小归一化和位置归一化，得到大小为N×N的图像，并使得待识别内容位于图像中心；

(8)计算图像的Legendre矩不变量分别选取两个1阶Legendre矩不变量、两个2阶Legendre矩不变量和四个3阶Legendre矩不变量构造图像的特征向量V＝(QMI_0,1,QMI_1,0,QMI_0,2,QMI_2,0,QMI_0,3,QMI_3,0,QMI_1,2,QMI_2,1)作为密级图像的特征；

(9)将数据集分为训练集和测试集，利用PSO-LSSVM分类器对密级标识图像进行识别，获取密级标识信息。