CN105590088A - 一种基于稀疏自编码和稀疏表示进行交通标志识别的方法 - Google Patents

Abstract

本发明公开了一种基于稀疏自编码和稀疏表示进行交通标志识别的方法，包括：搜集包含有交通标志的图片，手工将其分成l类；对每一类含有交通标志的图片进行取块，并对图像块进行预处理；预处理后的图像块作为训练样本，分别训练l个稀疏自编码器，权重字典分别记为：D₁,D₂,...,D_l；将未知交通标志的测试图片进行取块，构成测试图像块；运用稀疏表示原理，采用OMP算法，分别计算测试图像块在各权重字典下的稀疏系数；求取重构图像块与原图像块之间的F范数，选择F范数最小的字典类别作为测试图片的交通标志识别结果。本发明使用稀疏自编码自动提取交通标志的充分特征，通过计算重构样本与测试样本的距离完成识别，能取得较高的识别正确率。

Description

一种基于稀疏自编码和稀疏表示进行交通标志识别的方法

技术领域

本发明涉及计算机自动控制应用领域，具体涉及一种基于基于稀疏自编码和稀疏表示进行交通标志识别的方法。

背景技术

智能交通系统由于其安全、可靠、高效的特性，受到交通管理部门越来越多的重视。交通标志识别是智能交通的重要组成部分，在无人驾驶、辅助驾驶、交通标志维护等多方面有着重要作用。人类视觉系统可以容易地识别交通标志，然而，让计算机对交通标志进行识别仍是一个极具挑战性的课题。在真实的交通场景中，由于天气变化，光照条件，局部遮挡，尺度变化，背景干扰，某些不同类交通标志之间较小的类间距离等问题使得交通标志识别方法的研究远未达到成熟。因此，找到一种能够克服上述困难，对交通标志图片进行有效识别方法具有重要意义。

当前的交通标志识别方法一般分为两个步骤：特征提取和分类器设计。在特征提取阶段，研究者使用的特征通常是Haar特征，类别显著性特征，距离变换特征，HOG特征等。然而，这些特征通常是根据某些先验知识手动设计得到的，对于交通标志识别任务来说，手动设计的方式无法提取足够充分的特征；在分类器设计阶段，通常需要确定分类器的参数，增加整个识别算法的计算复杂度。稀疏自编码模型可以自动提取输入数据的充分有效特征，运用稀疏表示原理完成测试样本的重构可以避免分类过程的分类器设计。

近来，稀疏自编码模型成为机器学习领域的研究热点，该模型可以在无人工干预的情况下，提取输入数据的充分有效特征，该模型提取的特征信息包含在权重字典中。稀疏表示在计算机视觉领域有着广泛应用，它将输入信号建模成字典中少数原子的线性组合。使用稀疏自编码模型获得的权重字典，采用稀疏表示原理获得测试图像块的稀疏系数，从而获得重构图像块，最后根据重构图像块与测试图像块之间距离的大小完成识别。

发明内容

本发明的目的在于提供一种基于基于稀疏自编码和稀疏表示进行交通标志识别的方法，有效解决现有识别方法特征提取不充分、分类器设计带来的高计算复杂度问题。

一种基于稀疏自编码和稀疏表示进行交通标志识别的方法，包括：

(1)搜集包含有交通标志的图片，手工将其分成l类，分别记为：C₁,C₂,...,C_l；

(2)对每一类含有交通标志的图片进行取块，图像块的大小相同，每一类的图像块分别记为：P₁,P₂,...,P_l；

(3)对图像块P₁,P₂,...,P_l进行预处理(包括正规化和白化)，预处理后的图像块记为：P₁',P₂',...,P_l'；

(4)将P₁',P₂',...,P_l'作为训练样本，分别训练l个稀疏自编码器，获取的权重字典分别记为：D₁,D₂,...,D_l；

(5)取一幅包含未知交通标志的测试图片，取与(1)中大小相同的图像块，记为：X；

(6)运用稀疏表示原理，采用OMP算法，分别计算X在权重字典D₁,D₂,...,D_l下的稀疏系数：α₁,α₂,...,α_l；

(7)分别计算||X-D₁α₁||_F,||X-D₂α₂||_F,...,||X-D_lα_l||_F，选择F范数最小的字典类别作为测试图片的交通标志识别结果。

上述步骤(1)的具体步骤为：搜集含有交通标志的图片，人工将其分成l类，记为：C₁,C₂,...,C_l。C₁,C₂,...,C_l中的图片，尽量包含多张不同光照、天气、尺度、遮挡等情况的照片，并将每幅图片变成128×128。

所述步骤(2)中的取块步骤为：对C₁,C₂,...,C_l分别进行取块，运用滑动窗技术，步长为1，取块大小为8×8，并将图像块拉成64维的列向量，获得的图像块记为：P₁,P₂,...,P_l；

所述步骤(3)中的预处理操作包括正规化和白化，具体方法为：

(i)用M(P_i)表示第i类图像块P_i中的样本均值，用D(P_i)表示P_i中的样本方差，正规化具体为：M(P_i)/D(P_i)；

(ii)正规化后的图像块进行白化操作。白化操作的目的是去除相关性。用Σ(P_i)表示P_i的协方差，计算Σ(P_i)特征值和特征向量，特征值组成的列向量记为S_i，记Σ(P_i)的特征向量组成的矩阵记为U_i，白化操作可表示为： $P_i^{\′}=U_i\×{S_i}^{\′}\×U_i^T.$

所述步骤(4)中的稀疏自编码器，基本结构是包括输入层(64个节点)、隐含层(1600个节点)和输出层(64个节点)的神经网络，所不同的是，稀疏自编码器逼近的是样本自身。稀疏自编码器的具体训练过程为：

(i)令选取隐含层的激活函数为Sigmoid函数：g(z)＝1/(1+exp(-z))，则隐含层的输出为a(p_i)＝a(W₁p_i+b₁)，其中W₁即为权重字典D_i，b₁为偏置向量；

(ii)设稀疏自编码器的输出值为：则W₂和b₂分别为隐含层到输出层的权重和偏置向量；

(iii)稀疏自编码器的方差代价函数为：

(vi)权重衰减项表示为：其中λ是权重衰减参数；

(v)稀疏自编码器的代价函数用J表示，则优化目标是

$min\left(J\right)=min(J_{re}+J_{wd}+\mathrm{\β}\underset{j=1}{\overset{1600}{\Σ}}KL(\mathrm{\ρ}\left|\right|{\widehat{\mathrm{\ρ}}}_j\left)\right)$

其中β是稀疏性惩罚因子权重系数，用a_j(p_i)表示第j个隐含层节点的输出，表示第j个隐含层节点平均输出值， $KL\left(\mathrm{\ρ}\right|\left|{\widehat{\mathrm{\ρ}}}_j\right)=\mathrm{\ρ}log(\mathrm{\ρ}/{\mathrm{\ρ}}_j)+(1-\mathrm{\ρ})log(1-\mathrm{\ρ}/1-{\widehat{\mathrm{\ρ}}}_j),$ ρ是稀疏性系数，可取ρ＝0.05。

使用L-BFGS算法完成J的优化，获得最优的W₁，也就是第i类交通标志的权重字典D_i，采用相同方法获得其他类的权重字典：D₁,D₂,...,D_l。

所述步骤(5)的具体步骤是：选取大小为128×128的包含未知交通标志的图片，无重叠取8×8大小的块，每一个块均拉成列向量，组成测试图像块：X＝{x₁,x₂,...,x₆₄},X∈R^64×256。

所述步骤(6)中的稀疏表示原理，对权重字典D_i，和X中的每个图像块x_j,j＝1,2,...,64，通过求解j＝1,2,...,64，找到X的稀疏系数，记为：具体求解方法使用OMP算法(PatiYC,RezaiifarR,KrishnaprasadPS.Orthogonalmatchingpursuit:Recursivefunctionapproximationwithapplicationstowaveletdecomposition[C].Signals,SystemsandComputers,1993.1993ConferenceRecordofTheTwenty-SeventhAsilomarConferenceon.IEEE,1993:40-44.)。使用同样方法，获得X在权重字典D₁,D₂,...,D_l下的稀疏系数α₁,α₂,...,α_l。

所述步骤(7)中的D_iα_i,i＝1,2,...,l完成图像块的重构，计算重构图像块与原图像块之间的F范数，选择F范数最小的字典类别作为测试图片的交通标志识别结果。

相对于目前现有交通标志识别方法，本发明的有益效果是：

1.本发明使用稀疏自编码器作为特征提取模型，相对于现有的基于手工设计的特征提取方法，该模型提取的特征更加充分，能更有效地进行识别。

2.本发明在识别阶段计算重构图像块与原图像块之间的距离，并将距离最小的字典类别作为待识别交通标志的类别，与现有的分类器设计方法相比，本发明避免了分类器模型的构建及参数优化过程，减小计算成本的同时获得较高的识别率。

附图说明

图1为稀疏自编码器结构示意图

图2为权重字典的获取过程示意图

图3为测试图片的识别过程示意图

图4为本发明总的流程图

具体实施方式

如图4所示，一种基于稀疏自编码和稀疏表示进行交通标志识别的方法，具体实施过程如下：

如图1所示，本发明所采用稀疏自编码器，其基本结构是包括输入层、隐含层和输出层的神经网络，所不同的是稀疏自编码器逼近的样本自身。本发明中使用的稀疏自动编码器的输入层有64个节点，隐含层有1600个节点，输出层有64个节点。

本发明使用稀疏自编码器输入层与隐含层之间的权重作为字典。首先对每一类含有交通标志的图片进行取块，预处理之后的图像块作为稀疏自编码器的训练样本，权重字典的获取步骤即稀疏自编码器的训练过程如图2所示，具体实施步骤为：

(i)令选取隐含层的激活函数为Sigmoid函数：g(z)＝1/(1+exp(-z))，则隐含层的输出为a(p_i)＝a(W₁p_i+b₁)，其中W₁即为权重字典D_i，b₁为偏置向量；

(ii)设稀疏自编码器的输出值为：则W₂和b₂分别为隐含层到输出层的权重和偏置向量；

(iii)稀疏自编码器的方差代价函数为：

(vi)权重衰减项表示为：其中λ是权重衰减参数；

(v)稀疏自编码器的代价函数用J表示，则优化目标是

$min\left(J\right)=min(J_{re}+J_{wd}+\mathrm{\β}\underset{j=1}{\overset{1600}{\Σ}}KL(\mathrm{\ρ}\left|\right|{\widehat{\mathrm{\ρ}}}_j\left)\right)$

其中β是稀疏性惩罚因子权重系数，用a_j(p_i)表示第j个隐含层节点的输出，表示第j个隐含层节点平均输出值， $KL\left(\mathrm{\ρ}\right|\left|{\widehat{\mathrm{\ρ}}}_j\right)=\mathrm{\ρ}log(\mathrm{\ρ}/{\mathrm{\ρ}}_j)+(1-\mathrm{\ρ})log(1-\mathrm{\ρ}/1-{\widehat{\mathrm{\ρ}}}_j),$ ρ是稀疏性系数，可取ρ＝0.05。

使用L-BFGS算法完成J的优化，获得最优的W₁，也就是第i类交通标志的权重字典D_i，采用相同方法获得其他类的权重字典：D₁,D₂,...,D_l。

如图3所示，使用已获得的权重字典，确定测试图片的类别标签的具体实施步骤为：

(i)取一幅包含未知交通标志的测试图片，取与(1)中大小相同的图像块，记为：X；

(ii)运用稀疏表示原理，采用OMP算法，分别计算X在权重字典D₁,D₂,...,D_l下的稀疏系数：α₁,α₂,...,α_l；

(iii)分别计算||X-D₁α₁||_F,||X-D₂α₂||_F,...,||X-D_lα_l||_F，选择F范数最小的字典类别作为测试图片的交通标志识别结果。

Claims (5)

1.一种基于稀疏自编码和稀疏表示进行交通标志识别的方法，包括：

(1)搜集包含有交通标志的图片，手工将其分成l类，分别记为：C₁,C₂,...,C_l；

(2)对每一类含有交通标志的图片进行取块，图像块的大小相同，每一类的图像块分别记为：P₁,P₂,...,P_l；

(3)对图像块P₁,P₂,...,P_l进行预处理(包括正规化和白化)，预处理后的图像块记为：P₁',P₂',...,P_l'；

(4)将P₁',P₂',...,P_l'作为训练样本，分别训练l个稀疏自编码器，获取的权重字典分别记为：D₁,D₂,...,D_l；

(5)取一幅包含未知交通标志的测试图片，取与(1)中大小相同的图像块，记为：X；

(6)运用稀疏表示原理，采用OMP算法，分别计算X在权重字典D₁,D₂,...,D_l下的稀疏系数：α₁,α₂,...,α_l；

(7)分别计算||X-D₁α₁||_F,||X-D₂α₂||_F,...,||X-D_lα_l||_F，选择F范数最小的字典类别作为测试图片的交通标志识别结果。

2.根据权利要求1所述的基于稀疏自编码和稀疏表示进行交通标志识别的方法，其特征在于，所述图像块预处理包括正规化和白化的方法为：

(i)用M(P_i)表示第i类图像块P_i中的样本均值，用D(P_i)表示P_i中的样本方差，正规化具体为：M(P_i)/D(P_i)；

(ii)正规化后的图像块进行白化操作。白化操作的目的是去除相关性。用Σ(P_i)表示P_i的协方差，计算Σ(P_i)特征值和特征向量，特征值组成的列向量记为S_i，记Σ(P_i)的特征向量组成的矩阵记为U_i，白化操作可表示为：

3.根据权利要求1所述的基于稀疏自编码和稀疏表示进行交通标志识别的方法，其特征在于，所述稀疏自编码器即权重字典的训练方法为：

(i)令选取隐含层的激活函数为Sigmoid函数：g(z)＝1/(1+exp(-z))，则隐含层的输出为a(p_i)＝a(W₁p_i+b₁)，其中W₁即为权重字典D_i，b₁为偏置向量；

(ii)设稀疏自编码器的输出值为：则W₂和b₂分别为隐含层到输出层的权重和偏置向量；

(iii)稀疏自编码器的方差代价函数为：

(vi)权重衰减项表示为：其中λ是权重衰减参数；

(v)稀疏自编码器的代价函数用J表示，则优化目标是

其中β是稀疏性惩罚因子权重系数，用a_j(p_i)表示第j个隐含层节点的输出，表示第j个隐含层节点平均输出值，ρ是稀疏性系数，可取ρ＝0.05。

使用L-BFGS算法完成J的优化，获得最优的W₁，也就是第i类交通标志的权重字典D_i，采用相同方法获得其他类的权重字典：D₁,D₂,...,D_l。

4.根据权利要求1所述的基于稀疏自编码和稀疏表示进行交通标志识别的方法，其特征在于，运用稀疏表示原理求取稀疏系数的具体方法为：

对权重字典D_i，和X中的每个图像块x_j,j＝1,2,...,64，通过求解j＝1,2,...,64，使用OMP算法，找到X的稀疏系数，记为：使用同样方法，获得X在权重字典D₁,D₂,...,D_l下的稀疏系数α₁,α₂,...,α_l。

5.根据权利要求1所述的基于稀疏自编码器和稀疏表示进行交通标志识别的方法，其特征在于，所述利用学习到的字典对未知交通标志进行识别的具体方法为：

计算重构图像块与原图像块之间的F范数，||X-D₁α₁||_F,||X-D₂α₂||_F,...,||X-D_lα_l||_F，选择F范数最小的字典类别作为测试图片的交通标志识别结果。