CN101290660A - 一种用于行人检测的树状组合分类方法 - Google Patents

Abstract

一种应用于行人检测的动态生成树状组合分类器的方法包括：对读入的所有样本提取特征，生成特征向量；初始化树状组合分类器结构，使其为一棵只有一个根节点的树；判断树中是否存在可扩展的叶子节点；选择一个可扩展的叶子节点，作为待训练单分类器的父节点，并针对该待训练单分类器选择训练样本；使用AdaBoost算法训练得到一个单分类器；判断训练得到的分类器是否满足可分裂条件，若不满足则把此单分类器加入到树中；把训练此单分类器的样本分为两份，重新训练，得到两个单分类器并加入到树中；构造组合分类器直到满足条件；利用得到的树状组合分类器对待检测目标分类得到检测结果。本发明降低了误报率、提高了检测率。

Description

一种用于行人检测的树状组合分类方法

技术领域

本发明涉及一种智能交通概念下的行人检测系统，属于智能交通领域。

背景技术

近年来，我国道路交通事故呈快速增长趋势，其中城市交通事故占据了主要部分。针对城市交通中场景复杂、行人众多且易受伤害等特点，行人安全保护是城市交通安全的关键。正因如此，车载行人检测系统(PDS：Pedestrian Detection System)已成为研究界和产业界极为关注的关键技术。

基于分类的行人检测方法是目前的主流技术。要求分类器需要同时满足以下3个条件：(1)不受样本不均衡影响；(2)准确率高；(3)分类速度快。而目前常用的几类分类器难于同时满足以上要求。采用单分类器的方法。该类方法主要出现在PDS研究早期，被引入的方法有径向基函数(Radial Basis Functions)、神经网络(Neural Networks)、模拟退火(SimulatedAnnealing)、支持向量机(Support Vector Machine)等。在应用这些算法时，大多是将行人检测看成一种简单的2类划分问题，然后使用一个基于上述算法的单分类器来完成行人的分类。但是，采用单分类器的方法检测率低，误报率高，检测速度低，多场景适应性差。采用简单串联组合分类器的方法。这种组织方式将多个单分类器从上到下链状排列，待检测目标只有通过上一个分类器的“认可”才能被下一个分类器检测，当且仅当一个目标被所有单分类器“认可”才被确认为行人。这种方法可以减少误报，并且速度也较快；但是仍需进一步降低漏报率才能满足实用。采用简单并联组合。这种分类器组合方法较少，它将所有单分类器都放在同一层，根据它们的检测结果综合判定，此方式的优点在于检测率较高，但也存在误报率相对较高、速度较慢的不足。

发明内容

本发明针对行人检测系统中样本不均衡问题和检测速度问题，遵照分而治之、逐步求精原理，提出一种动态生成树状组合分类器的方法，树中的每一个节点代表一个单分类器，得到的组合分类器不仅具有快速的分类速度，而且由于它的树状结构降低了误报率、提高了检测率。

为了实现上述目的，本发明提供一种应用于行人检测的动态生成树状组合分类器的方法，包括：

(1)读入训练样本，(1)读入训练样本，训练样本包含有一个完整行人的正样本和形似行人物体的负样本，其中负样本数量远大于正样本数量；

(2)对(1)读入的所有样本提取特征，生成特征向量；

(3)初始化树状组合分类器结构为一棵只有一个根节点的树，其中根节点为一个永真的单分类器，即对任意输入的分类结果都为True；

(4)判断树中是否存在可扩展的叶子节点，若不存在则表示组合分类器训练完毕，转步骤(10)，其中，可把从根到叶子的路径看作为一个串联组合分类器，若其误报率不能满足要求，则表示还需要在此叶子后添加节点(单分类器)，并认为此叶子是可扩展的；

(5)选择一个可扩展的叶子节点，作为待训练单分类器的父节点，并针对待训练单分类器选择训练样本；

(6)使用AdaBoost算法训练得到一个单分类器；

(7)判断由步骤(6)训练得到的分类器是否满足可分裂条件，若满足则把此单分类器加入到树中，转步骤(4)，其中单分类器的可分裂条件是，包含的弱分类器的个数是否大于指定阈值。

(8)把训练此单分类器的样本分为两份，重新训练，得到两个单分类器并加入到树中；

(9)转步骤(4)继续构造组合分类器直到满足结束条件；

(10)利用以上步骤所得到的树状组合分类器对待检测目标分类，得到最终的检测结果。

本发明与现有技术相比的优点在于：

(1)本发明提出动态生成树状组合分类器方法解决了行人检测系统中样本不均衡问题。在树状层次结构中，位于下层的单分类器选择被上层错分的负样本，从而有效的解决了样本不均衡问题。

(2)由于树状组合分类器的“早拒绝”的原则，大多数负样本只需要被树的高层结点处的少数几个单分类器判断后，即被拒绝；而且，树的高层处的AdaBoost分类器含有较少弱分类器，下层的单分类器含有较多的弱分类器，因而这样的树状结构相对并联结构可以极大地提高检测速度。

(3)本发明的树状组合分类器能够自动根据弱分类器的个数，得到分类难度。当分类难度较高时，自适应地把原始分类问题一分为二，降低分类难度，提高了分类器的准确率。

附图说明

图1为本发明的组合分类器构造过程的流程图；

图2为本发明使用的Haar-like特征；

图3为本发明组合分类器的结构示意图。

具体实施方式

本发明提出一种树状组合分类器方法。设计思想是：遵照分而治之、逐步求精的原理。一方面，按照这一背景下正负对象的不均衡性(在一般场景下，每帧中包含20000个对象，其中行人仅占2％)，应用逐步求精原理，遵照“早拒绝”的原则保证分类的速度和低误报率；另一方面，应用分而治之的思想，把行人进一步细分为小类，把复杂的分类问题分为多个简单的子问题，从而提高分类的准确性。

组合分类器的结构是一棵树，树中每一结点是一个单分类器，单分类器使用AdaBoost方法训练得到。在这棵树中，位于上层位置的单分类器，能够粗略地区分行人和非行人；位于下层的两个单分类器根据行人特征把行人细分为两类，每个单分类器能够较为精细(准确)地区分每小类的行人和非行人。

对于一个待检测目标，若在树中存在一条从根到叶子的路径，此路径上所有单分类器都判断其为True，则被判断为True(是行人)，否则判断为False(不是行人)；因此，它将具有串联组合分类器的优点：低误报率。同时，它的下层单分类器把行人细分为较小的类，降低了子类间的差异度，从而保证单分类器具有高的识别率，所以这样的树状组合分类器将具有较高的检测率并能适应不同的场景。在检测时，树的每一层分类器都能拒绝掉一部分负样本，这样下层分类器只需要检测剩下的负样本，大多数负样本只需要被树的高层结点处的少数几个单分类器判断后，即被拒绝；而且，树的高层处的AdaBoost分类器含有较少弱分类器，下层的单分类器含有较多的弱分类器，因而这样的树状结构相对并联结构可以极大地提高检测速度。

本发明具体的实现过程如图1所示，包括：

(1)读入训练样本，包括正样本和负样本，其中负样本数量远大于正样本数量，正样本与负样本数量之比约为1∶100。本实施例选用正样本为2000个，负样本为1000000个。

在本发明中，正样本包含有一个完整的行人，负样本包含形似行人的物体，如树、路障等，且每个样本均缩放为统一规格：16象素×32象素。

在基于分类方法的行人检测系统中，行人的数量远少于非行人(例如树，障碍物等背景物体)的数量。因此为了降低分类器的误报率(把非行人误判为行人)，训练样本必须要包括能涵盖各种背景目标的大量负样本。故在本发明中，正样本由手工标记方法从视频中剪辑得到，而负样本从不含行人的视频中随机截取得到。

(2)对读入的所有样本提取特征，生成特征向量；

对所有的读入样本，提取样本中包含的行人特征。所述的行人特征既可能是图像上每个象素点的亮度值，也可能是经过某一特征提取器提取的特征，如形状特征、纹理特征、Haar-like特征。提取行人特征时，具体使用何种特征可根据实际情况而定，在本实例中，以Haar-like特征提取为例，说明行人特征提取过程。

Haar-like特征如图2所示，从中选择一个矩形框特征，放在样本图像的任意位置上，计算白色矩形框内象素和与黑色矩形框内象素和的差，得到的值作为特征值。由不同的矩形类型、尺寸以及在图像中的不同位置，可以得到多维特征向量。为加速计算速度，采用积分图像的方法计算每个样本的特征向量。以下以图2中最左上方的特征为例，介绍计算特征值的方法。

该特征的长度为w，宽度为h，在图像中的坐标位置为(x，y)，则它的特征值等于Rect(x，y，w/2，h)-Rect(x+w/2，y，w/2，h)，其中Rect(x，y，w，h)表示图像中左上角坐标为(x，y)，长为w，宽为h的矩形区域内的所有象素的灰度值之和。

由于矩形类型多样、尺寸多样以及可以在图像中的不同位置，一个样本的特征个数为海量。对于16象素×32象素规格的样本，Haar-like特征的个数约为14×16×32×16/2×32/2＝917504个，这样高维的特征对于设计分类器而言是很不现实的。在本发明中，采用协同进化算法优选出分类性能强的少量特征组成的特征子集。协同进化算法是一种优化算法，可以从大量特征的特征集合中，选出具有分类准确率最好或近似最好大于或等于400个特征子集。它的大致实现方法如下：

a、初始化n个种群，每个种群对应一类特征，每个种群随机生成N个个体，每个个体编码为二进制串，表示一个特征子集，其中N的取值范围为[100，300]，n取4；

b、将个体解码为特征组合，得到新的样本子集，计算所有个体的适应度；

c、判断是否满足特征选择终止条件，若满足则将每个种群中的最好个体所表示特征子集作为算法的最优解；

d、根据每个个体的适应度，选择个体，使用单点交叉法及变异生成下代个体；

e、返回步骤b继续进化种群直到满足步骤c的特征选择终止条件。

(3)初始化树状组合分类器结构为一棵只有一个根节点的树，其中根节点为一个永真的单分类器；

在本发明中，组合分类器的结构是一棵树，树中的每个节点代表一个单分类器。为便于表示，初始化此树仅包含一个节点，该节点所对应的单分类器对任意的输入向量的分类结果都为True。

(4)判断树中是否存在可扩展的叶子节点，若不存在则表示组合分类器训练完毕；

由于行人检测的下正负对象的严重不均衡，非行人的数量远远大于行人，故组合分类器的误报率需要足够得低。对于一个待检测目标，若在树中存在一条从根到叶子的路径，此路径上所有单分类器都判断其为True，则被判断为True(是行人)，否则判断为False(不是行人)。显然，组合分类器的误报率随树的高度而指数级别上的递减。同时，可把每条从根到叶子的路径看作为一个串联组合分类器。若所有路径(串联组合分类器)都满足低误报率的要求，则整个树状组合分类器的也满足了误报率要求，也表明组合分类器的构造完成。

反之，对于一叶子节点，若从根到它的串联分类器的误报率大于一指定阈值fp_threshold，则认为此叶子节点尚未满足低误报率要求，需要在此叶子节点后继续添加单分类器，并记此叶子节点为可扩展节点。

(5)选一个可扩展的叶子节点，作为待训练单分类器的父节点，并为待训练单分类器选择出合适的训练样本；

扩展某一叶子节点n_i，即训练一个新的单分类器n_i′作为n_i的子节点。在组合分类器中，每个单分类器的功能取决于它在树状结构中的位置。n_i′的作用就是在不降低漏报率的前提下，尽可能地降低从根到n_i′的串联组合分类器的误报率。为达到以上目的，应专门为之选择合适的训练样本。

■正样本取和训练n_i相同的正样本；

■负样本取自于被从根到n_i的串联分类器误判为行人的负样本集合，负样本与正样本数量相同。

(6)使用AdaBoost算法训练得到单分类器；

AdaBoost算法是一种组合学习算法，多个弱分类器综合投票得到最终的分类结果。算法描述如下：

输入：s＝{(x₁，y₁)，...，(x_n+，y_n)}，x_i∈X，y_i∈Y循环次数为T

初始化： $D=(\frac{1}{n},...\frac{1}{n})$

For t＝1，…，T

a.使用分发权重向量D_t训练弱分类器h_t＝R(x，y，D_t)，R为一弱分类器算法。

b.计算错误率e＝∑(h_t(x_i)≠y_i)D_t

c.如果e≤0.5，break

d.计算分类假设的权值h_t∶w_t∈w

e.更新权值D_t+1＝D_t(i)×F(e)，其中F(x)更新函数，它以该次得到的分类器的错误率e为自变量

输出：最终分类器： $H\left(x\right)=\underset{y\∈Y}{\arg \max }\left(\underset{h_t\left(x\right)=y}{\mathrm{\Σ}}{w}_t\right)$

在上面的算法中：

x_i∈X，y_i∈Y，x_i表示样本的特征向量，y_i＝0，1分别表示正、负样本；

D为样本的分发权值向量：没有先验知识的情况下，初始的分布应为等概率分布，每次循环后提高错误样本的分布概率，分错的样本在训练集中所占权重增大，使得下一次循环的弱学习机能够集中力量对这些错误样本进行判断，D_t的总和应该为1；

w_t为分类器的权重：准确率越高的分类器权重越大，每个弱分类器F对应一个特征f以及一个阈值th，可表示为 $o\left(F\right)=\left\{\begin{array}{cc}1& \mathrm{ifresponse}\left(f\right)\≥\mathrm{th}\\ 0& \mathrm{otherwise}\end{array}\right.,$ 其中response(f)是特征f关于样本的特征值。

(7)判断训练得到的分类器是否满足可分裂条件，若满足则把此单分类器加入到树中，否则把训练样本分为两类，重新训练，得到两个单分类器并加入到树中；

对于一个复杂的分类问题，即在向量空间上表现为，正、负样本混合在一起，难以获得一个超平面将其分开。对于AdaBoost分类器，则表现为含有较多的弱分类器以达到经验风险最小化，而期望风险并没有达到最小化。在本发明中，把正样本分为两小类(例如，把行人分为正面和侧面，这样判断是否为行人的分类问题转化为两个子问题：1)是否是正面行人，2)是否是侧面行人)。显然，这种方法把一个复杂的问题，分为两个子问题，降低了分类难度，提高了分类的准确性。

在本发明中，把弱分类器的个数作为分类器分裂的依据。若AdaBoost分类器中包括的弱分类器个数NUM大于一固定阈值NUM_th，则认为此分类问题过于复杂，把训练样本分为两类，对每类样本各训练得到一个AdaBoost分类器，作为待扩展节点的孩子加入到树状结构中；否则，把此AdaBoost分类器直接加入到树状结构中。

(8)使用树状组合分类器对待检测目标分类，得到检测结果；

由于组合分类器结构是一棵树，如图3所示，故组合分类器可以看作为一个单分类器和0、1或2个子组合分类器。分类过程可表示为一个递归的过程，对一个待分类的目标，若单分类器判断为True且至少有一个子组合分类器为True，则判断此目标为True，否则为False。

Claims (7)

1、一种应用于行人检测的动态生成树状组合分类器的方法，其特征在于：

(1)读入训练样本，训练样本包含有一个完整行人的正样本和形似行人的物体负样本，其中负样本数量远大于正样本数量；

(2)对步骤(1)读入的所有样本提取特征，生成特征向量；

(3)初始化树状组合分类器结构，使其为一棵只有一个根节点的树，其中根节点为一个永真的单分类器，即对任意输入向量的分类结果均为True；

(4)判断树中是否存在可扩展的叶子节点，若不存在则表示组合分类器训练完毕，转步骤(10)；

(5)选择一个可扩展的叶子节点，作为待训练单分类器的父节点，并针对该待训练单分类器选择训练样本；

(6)使用AdaBoost算法训练得到一个单分类器；

(7)判断由步骤(6)训练得到的分类器是否满足可分裂条件，若满足则把此单分类器加入到树中，转步骤(4)；

(8)把训练此单分类器的样本分为两份，重新训练，得到两个单分类器并加入到树中；

(9)转步骤(4)继续构造组合分类器直到满足结束条件；

(10)利用以上步骤所得到的树状组合分类器对待检测目标分类，得到最终的检测结果。

2、根据权利要求1所述的应用于行人检测的动态生成树状组合分类器的方法，其特征在于：所述步骤(2)所有样本提取特征，生成特征向量的方法如下：

(1)选择一个矩形框特征：采用Haar-like特征作为一种矩形框特征，包括黑色区域和白色两种区域，每个特征可以放在样本图像的任意位置上，白色矩形框内象素和与黑色矩形框内象素和的差就是特征值；

(2)根据上述的特征值，采用协同进化算法优选出分类性能最强的由大于或等于400个特征组成的特征子集，得到特征向量。

3、根据权利要求2所述的应用于行人检测的动态生成树状组合分类器的方法，其特征在于：所述的协同进化算法为：

a、初始化n个种群，每个种群对应一类特征，每个种群随机生成N个个体，每个个体编码为二进制串，表示一个特征子集，其中N的取值范围为[100，300]；

b、将个体解码为特征组合，得到新的样本子集，计算所有个体的适应度；

c、判断是否满足特征选择终止条件，若满足则将每个种群中的最好个体所表示特征子集作为算法的最优解；

d、根据每个个体的适应度，选择个体，使用单点交叉法及变异生成下代个体；

e、返回步骤b继续进化种群直到满足步骤c的特征选择终止条件。

4、根据权利要求1所述的应用于行人检测的动态生成树状组合分类器的方法，其特征在于：所述的步骤(4)中判断树中是否存在可扩展的叶子节点的方法为：把从根到叶子的路径看作为一个串联组合分类器，若其误报率不能满足要求，则表示还需要在此叶子后添加节点，即单分类器，并认为此叶子是可扩展的。

5、根据权利要求1所述的应用于行人检测的动态生成树状组合分类器的方法，其特征在于：所述的步骤(5)选择一个可扩展的叶子节点，作为待训练单分类器的父节点，并针对该待训练单分类器选择训练样本的方法如下：

(1)正样本即训练当前可扩展节点分类器的正样本；

(2)负样本取自于被从根到当前可扩展节点的串联分类器误判为行人的负样本集合，负样本的数量与正样本数量大致相当即可。

6、根据权利要求1所述的应用于行人检测的动态生成树状组合分类器的方法，其特征在于：所述的步骤(6)使用AdaBoost算法训练得到一个单分类器的方法为：

(1)AdaBoost算法描述如下：

输入：s＝{(x_l，y_l)，...，(x_n，y_n)}，x_i∈X，y_i∈Y，x_i表示样本的特征向量，y_i＝0，1分别表示正、负样本，循环次数为T

初始化： $D=(\frac{1}{n},...\frac{1}{n})$

对于t＝1，...，T

a.使用分发权重向量D_t训练弱分类器h_t＝R(x，y，D_t)，R为一弱分类器算法

b.计算错误率e＝∑(h_t(x_i)≠y_i)D_t

c.如果e≤0.5，break

d.计算分类假设的权值h_t：w_t∈w

e.更新权值D_t+1＝D_t(i)×F(e)，其中F(x)更新函数，它以该次得到的分类器的错误率e为自变量

输出：最终分类器： $H\left(x\right)=\underset{y\∈Y}{\arg \max }\left(\begin{array}{cc}\underset{h_t\left(x\right)=y}{\mathrm{\Σ}}& w_t\end{array}\right)$

(2)每个弱分类器F对应一个特征f以及一个阈值th，可表示为

$o\left(F\right)\text{=}\left\{\begin{array}{cc}1& \mathrm{ifresponse}\left(f\right)\≥\mathrm{th}\\ 0& \mathrm{otherwise}\end{array}\right.,$ 其中response(f)是特征f关于样本的特征值。

7、根据权利要求1所述的应用于行人检测的动态生成树状组合分类器的方法，其特征在于：所述步骤(7)中单分类器的可分裂条件为：包含的弱分类器的个数是否大于指定阈值，若大于指定的阈值，则满足分裂条件。

Images