CN102254196B - 计算机鉴别手写汉字的方法 - Google Patents

Abstract

本发明涉及一种基于集成学习算法Bagging和单类SVM的计算机鉴别手写汉字的方法，属于计算机图像处理和字符识别技术领域。它包括以下步骤：a.将手写汉字样本正规化处理大小为64*64；b.提取手写汉字样本的加权方向码直方图WDCH特征；c.采用PCA主元分析方法进行特征降维；d.采用Bootstrp方法抽取T个训练样本集S’；e.选择单类SVM及相应RBF核进行手写汉字鉴别；f.采用相对多数的投票策略集成T个单类SVM分类器Ci，得到分类器C*；然后对测试样本集Te中的手写汉字样本进行鉴别和评估测试。本发明可对手写汉字进行自动评估和指导、汉字识别准确率高。

Description

计算机鉴别手写汉字的方法

技术领域

本发明涉及一种基于集成学习算法Bagging和单类SVM的计算机鉴别手写汉字的方法，属于计算机图像处理和字符识别技术领域。

背景技术

随着中国经济的快速发展，越来越多的外国人热衷到中国，汉语逐渐成为热门语言。然而，如何写汉字成为重要而又困难的事情。随着计算机及网络的发展与普及，很多对外汉语专业的教师希望能通过文档扫描的方式，利用模式识别技术来自动评估和指导外国学生的汉字书写。现有多种手写字符分类和识别技术。对于手写字符鉴别，目前大部分技术专注于在线手写字符鉴别和签名验证。这些手写字符鉴别和验证技术根据特征提取方法可以分为两大类：基于变形的方法和基于结构的方法。

但关注一般意义上的手写字符鉴别的研究较少，其原因主要包括：手写字符鉴别本身是个很困难的任务；手写字符鉴别需要很多细节而琐碎的技术，比如要处理许多非常相似的结构、笔画和书写风格等；另外，一般意义上的手写字符识别总是要应对大类别数的问题，尤其是汉字。因此手写汉字鉴别面临巨大挑战。

发明内容

本发明所要解决的技术问题是，提供一种可对手写汉字进行自动评估和指导、汉字识别准确率高的计算机鉴别手写汉字的方法。

本发明计算机鉴别手写汉字的方法包括以下步骤：

a,将手写汉字样本正规化处理大小为64*64；

b.提取手写汉字样本的加权方向码直方图WDCH特征；

加权方向码直方图特征利用了图像中的所有像素点的信息，而且将各个点的方向属性量化到16级，大大增加特征提取的精度。其特征提取算法的步骤如下：

①对正规化的64*64的字符图像做n次3×3均值滤波，并将得到的灰度图像的灰度值归一化到[-1,1]，均值为0；

②用Sobel算子对归一化后的灰度图像提取梯度，并计算每一点的梯度强度，公式如下：

d_x＝[f(x-1,y-1)+2f(x,y-1)+f(x+1,y-1)]-[f(x-1,y+1)+2f(x,y+1)+f(x+1,y+1)]

(1)

d_y＝[f(x+1,y-1)+2f(x+1,y)+f(x+1,y+1)]-[f(x-1,y-1)+2f(x-1,y)+f(x-1,y+1)]

(2)

$\mathrm{\θ}(x,y)=\arctan \frac{d_y}{d_x}---\left(3\right)$

$S(x,y)=\sqrt{d_x^2+d_y^2}---\left(4\right)$

其中，θ(x,y)和S(x,y)就是点(x,y)的梯度方向和强度；

③将梯度方向量化到32级，间隔为π/16；

④将归一化后的灰度图像均匀分成若干个9×9个区域，并利用5×5的高斯滤波器对每两行和每两列的区域进行滤波，将图像分辨率降到5×5。同时，将32方向级加权降为16级，加权系数为[1,4,6,4,1]；

⑤在低分辨率图像上，对每个区域的每个方向统计像素点个数直方图，就可以得到5×5×16=400维特征。分辨率的降低会从一定程度上降低特征的精度，但同时也降低了特征对平移和形变的敏感程度。

c.采用PCA主元分析方法进行特征降维；

d.采用Bootstrap方法抽取T个训练样本集S’；即每个训练样本集S’都是从初始训练集S中有放回地随机选取N个训练样本来组成，其中可以有重复样本，并且保证每个训练样本集的样本替换率为50%，各个训练集之间相互独立；

e.选择了单类SVM及相应RBF核进行手写汉字鉴别；用上述T个训练样本集S’分别独立训练生成T个单类SVM分类器Ci，其中T个分类器可以并行训练生成；

对于单类SVM，正样本集X＝{x₁,x₂,...,x_N}，N为样本数，x_i为一个样本；在单类SVM训练过程中，输入为X，输出只包括正类标签；在测试过程中，输出为正类标签时，则输入测试样本鉴别为正类，否则被认为是负类；

f.采用相对多数的投票策略集成T个单类SVM分类器Ci，得到分类器C*；然后对测试样本集Te中的手写汉字样本进行鉴别和评估测试，鉴别结果依据下述公式(5)，

$C^{*}\left(x\right)=\underset{y\∈Y}{\arg \max }\underset{i:C_i\left(x\right)=y}{\mathrm{\Σ}}I---\left(5\right)$

实现相对多数投票策略集成；其中x表示测试样本，Ci表示各个单类SVM，y表示利用各个单类SVM鉴别获得的样本类别标签，Y为样本类别标签集合，当C_i(x)＝y成立时I为1，否则为0。

本发明所述的手写汉字鉴别新方法，能够获得以下有益效果：

（1）该方法主要解决了对外汉语教学中对外国学生手写汉字的自动评估和指导问题。

（2）该方法明显提高了手写汉字识别准确率。

（3）该方法及实验证明了分类器集成方法在手写汉字鉴别方面的优势。

附图说明

图1是本发明实施例所指手写汉字正样本示例；

图2是本发明实施例所指的手写汉字负样本示例；

图3是本发明方法的整体流程图；

图4是本发明方法的原理框图。

具体实施方式

本发明方法在字符鉴别中，正样本总是相关的，如图1中所示“导”字的手写样本；而负样本经常是分散的，如附图2中所示，有“导”字的错误书写以及非“导”字，因此本发明选择了单类分类技术来实现手写字符鉴别。另外，单类SVM对参数和核函数选择非常敏感，本发明提出基于Bagging算法对多个单类SVM进行集成（即Bagged One-class SVM），来提高分类器系统的鲁棒性和稳定性。

本发明中提出的基于集成学习算法Bagging和单类SVM的计算机鉴别手写汉字的方法，主要内容包括：

（1）如图3中S41，每个手写汉字样本正规化处理大小为64*64。

（2）如图3中S42，本发明中提取手写汉字样本的加权方向码直方图WDCH（weighted direction code histogram）特征。

加权方向码直方图特征利用了图像中的所有像素点的信息，而且将各个点的方向属性量化到16级，大大增加特征提取的精度。其特征提取算法的步骤如下：

①对正规化的64*64的字符图像做n次3×3均值滤波，并将得到的灰度图像的灰度值归一化到[-1,1]，均值为0；

②用Sobel算子对归一化后的灰度图像提取梯度，并计算每一点的梯度强度：

d_x＝[f(x-1,y-1)+2f(x,y-1)+f(x+1,y-1)]-[f(x-1,y+1)+2f(x,y+1)+f(x+1,y+1)]

(1)

d_y＝[f(x+1,y-1)+2f(x+1,y)+f(x+1,y+1)]-[f(x-1,y-1)+2f(x-1,y)+f(x-1,y+1)]

(2)

$\mathrm{\θ}(x,y)=\arctan \frac{d_y}{d_x}---\left(3\right)$

$S(x,y)=\sqrt{d_x^2+d_y^2}---\left(4\right)$

其中，θ(x,y)和S(x,y)就是点(x,y)的梯度方向和强度；

③将梯度方向量化到32级，间隔为π/16；

④将归一化后的灰度图像均匀分成若干个9×9个区域，并利用5×5的高斯滤波器对每两行和每两列的区域进行滤波，将图像分辨率降到5×5。同时，将32方向级加权降为16级，加权系数为[1,4,6,4,1]；

⑤在低分辨率图像上，对每个区域的每个方向统计像素点个数直方图，就可以得到5×5×16=400维特征。分辨率的降低会从一定程度上降低特征的精度，但同时也降低了特征对平移和形变的敏感程度。

（3）如图3中S43，采用PCA主元分析方法进行特征降维。

（4）如图3中S44，采用了Bootstrap（自助）方法抽取T个训练样本集S’（如图4中的S52），本发明中根据经验确定T为100。即每个训练样本集S’都是从初始训练集S（如图4中的S51，含N个训练样本）中有放回地随机选取N个训练样本来组成，其中可以有重复样本，并且保证每个训练样本集的样本替换率为50%，各个训练集之间相互独立。

（5）在字符鉴别中，正样本总是相关的，如图1中所示“导”字的手写样本；而负样本经常是分散的，如图2中所示，其中有“导”字的错误书写以及非“导”字，因此本发明中选择了单类SVM（One class SVM）及相应RBF核进行手写汉字鉴别。用上述T个训练样本集S’分别独立训练生成T个单类SVM分类器Ci，其中T个分类器可以并行训练生成，如图3中S45及图4中S53。

对于单类SVM，正样本集X＝{x₁,x₂,...,x_N}，N为样本数，x_i为一个样本。在单类SVM训练过程中，输入为X，输出只包括正类标签；在测试过程中，输出为正类标签时，则输入测试样本鉴别为正类，否则被认为是负类。

（6）如图3中S46及图5中S54，采用相对多数的投票策略集成T个单类SVM分类器Ci，得到分类器C*。然后如图4中S47对测试样本集Te（如图4中S55）中的手写汉字样本进行鉴别和评估测试，鉴别结果依据公式(5)，

$C^{*}\left(x\right)=\underset{y\∈Y}{\arg \max }\underset{i:C_i\left(x\right)=y}{\mathrm{\Σ}}I---\left(5\right)$

实现相对多数投票策略集成。其中x表示测试样本，Ci表示各个单类SVM，y表示利用各个单类SVM鉴别获得的样本类别标签，Y为样本类别标签集合，当C_i(x)＝y成立时I为1，否则为0。

Claims (1)

1.一种计算机鉴别手写汉字的方法，其特征是：包括以下步骤，

a.将手写汉字样本正规化处理大小为64*64；

b.提取手写汉字样本的加权方向码直方图WDCH特征；

c.采用PCA主元分析方法进行特征降维；

d.采用Bootstrap方法抽取T个训练样本集S’；即每个训练样本集S’都是从初始训练集S中有放回地随机选取N个训练样本来组成，其中允许有重复样本，并且保证每个训练样本集的样本替换率为50%，各个训练集之间相互独立；

e.选择单类SVM及相应RBF核进行手写汉字鉴别；用上述T个训练样本集S’分别独立训练生成T个单类SVM分类器Ci；

对于单类SVM，正样本集X＝{x₁,x₂,...,x_N}，N为样本数，x_i为一个样本；在单类SVM训练过程中，输入为X，输出只包括正类标签；在测试过程中，输出为正类标签时，则输入测试样本鉴别为正类，否则被认为是负类；

f.采用相对多数的投票策略集成T个单类SVM分类器Ci，得到分类器C*；然后对测试样本集Te中的手写汉字样本进行鉴别和评估测试，鉴别结果依据下述公式(5)，

$C^{*}\left(x\right)=\underset{y\∈Y}{\arg \max }\underset{i:C_i\left(x\right)=y}{\mathrm{\Σ}}I---\left(5\right)$

实现相对多数投票策略集成；其中x表示测试样本，Ci表示各个单类SVM，y表示利用各个单类SVM鉴别获得的样本类别标签，Y为样本类别标签集合，当C_i(x)＝y成立时I为1，否则为0；

所述步骤b中，提取手写汉字样本的加权方向码直方图WDCH特征的提取算法步骤如下：

①对正规化的64*64的字符图像做n次3×3均值滤波，并将得到的灰度图像的灰度值归一化到[-1,1]，均值为0；

②用Sobel算子对归一化后的灰度图像提取梯度，并计算每一点的梯度强度，公式如下：

d_x＝[f(x-1,y-1)+2f(x,y-1)+f(x+1,y-1)]-[f(x-1,y+1)+2f(x,y+1)+f(x+1,y+1)]

(1)

d_y＝[f(x+1,y-1)+2f(x+1,y)+f(x+1,y+1)]-[f(x-1,y-1)+2f(x-1,y)+f(x-1,y+1)]

(2)

$\mathrm{\θ}(x,y)=\arctan \frac{d_y}{d_x}---\left(3\right)$

$S(x,y)=\sqrt{d_x^2+d_y^2}---\left(4\right)$

其中，θ(x,y)和S(x,y)就是点(x,y)的梯度方向和强度；

③将梯度方向量化到32级，间隔为π/16；

④将归一化后的灰度图像均匀分成若干个9×9个区域，并利用5×5的高斯滤波器对每两行和每两列的区域进行滤波，将图像分辨率降到5×5；同时，将32方向级加权降为16级，加权系数为[1,4,6,4,1]；

⑤在低分辨率图像上，对每个区域的每个方向统计像素点个数直方图，就可以得到5×5×16=400维特征；分辨率的降低会从一定程度上降低特征的精度，但同时也降低了特征对平移和形变的敏感程度。

Images