CN107066984A - 基于子空间集成学习的步态识别算法 - Google Patents

Abstract

本发明涉及一种基于子空间集成学习的步态识别算法，包括以下步骤：S1)设计子空间集成学习框架，其包括：输入训练样本和三元组索引集。初始化：给每个训练样本的权重u_m都为1/M；对于每次迭代，根据图嵌入理论构建本征图G和惩罚图G^p的相似矩阵，然后求出Ψ_l的特征值并计算出最优投影矩阵V_l，接着计算出h_ml并将h_ml带入到约束条件当中，若h_ml的训练偏差满足约束条件，则循环继续，否则跳出循环，最后根据h_ml的训练偏差更新权重u_m；计算出权重矢量a，输出权重矢量a和投影矩阵。S2)构建基于线性判别分析法、边际Fisher分析的三元组集；S3)将子空间集成学习框架扩展到张量子空间集成学习算法；S4)将子空间集成学习框架扩展到基于图像块的局部子空间集成学习算法。

Description

基于子空间集成学习的步态识别算法

技术领域

本发明属于计算机视觉领域，尤其涉及一种基于子空间集成学习的步态识别算法。

背景技术

步态识别技术在远距离身份识别方面具有巨大的应用的前景，步态识别的目的就是通过对人体运动的图像序列进行分析处理，从而实现对个体的身份识别。一个完整的步态识别技术包括运动检测、周期检测、特征提取、算法识别这四个过程。其中特征提取是影响步态识别精度的关键因素，特征提取的好坏直接决定了最终的识别性能。现有的步态识别算法受着装、视角、负载、路况的影响较大，识别的效率不高。此外，现有的步态识别技术往往只专注于一个子空间，当外部环境变化时，学习一个子空间往往得到的是一个局部最优的判别，从而影响了识别的精度。

例如，在步态识别中，我们得到的数据往往都是高维数据。主成分分析算法其核心思想是在最小均方意义下对获取的数据去线性相关，通过较少数量的特征对原数据进行表示，从而达到降低特征维数的目的。然而，该方法选出的特征子集并不具有判别信息。线性判别分析法其主要作用是通过学习一个线性投影矩阵，使得训练数据在经过该投影矩阵投影后的类间离散度尽量大，同时类内离散度尽量小。二维线性判别分析法能够有效的保留数据的矩阵结构。然而，当训练样本由于着装、视角、负载、路况而产生差异时，这些方法通常获取的是局部最优子空间而不是全局最优子空间。为了解决这个问题，出现了一些子空间集成方法，这些方法通过使用随机采样、boosting算法、聚类技术来联合多个局部线性子空间以达到学习复流形的目的。然而，这些方法通常会产生大量的局部子空间并直接将它们合成，这样做将极大地降低效率。因此，如何提高步态识别的识别精度和识别效率成为了亟待解决的技术问题。

发明内容

针对现有技术之不足，本发明提出了一种基于子空间集成学习的步态识别算法，其包括以下步骤：

S1)设计子空间集成学习框架，其包括：S1.1)输入训练样本X＝[x₁,x₂,...,x_N]和三元组索引集

S1.2)初始化：在第一次迭代中，给每个训练样本的权重u_m都为1/M；

S1.3)对于每次迭代，首先基于三元组索引集τ和权重u_m，根据图嵌入理论构建本征图G和惩罚图G^p的相似矩阵，然后求出Ψ_l的特征值并且计算出最优投影矩阵V_l，接着计算出h_ml并将h_ml带入到约束条件当中，若h_ml的训练偏差满足约束条件，则循环继续，否则跳出循环，最后根据h_ml的训练偏差更新权重u_m；

S1.4)计算出权重矢量a，输出权重矢量a和投影矩阵{V_t|t＝1,...,L}；

S2)构建基于线性判别分析法(LDA)、边际Fisher分析(MFA)的三元组集；

S3)将子空间集成学习框架扩展到张量子空间集成学习算法；

S4)将子空间集成学习框架扩展到基于图像块的局部子空间集成学习算法。

根据一个优选实施方式，步骤S2中构建基于线性判别分析法的三元组集包括：通过类内散度矩阵S_b和类间散度矩阵S_w的比值最大化来找出最大判别子空间B：

其中是第C类样本的中心，是所有样本的中心；将类中心M＝[m₁,m₂,...,m_C]带入训练器W以获得扩展的训练样本W'＝[M，W]，基于W'得出基于线性判别分析法的三元组集：

根据一个优选实施方式，步骤S3包括：S3.1)输入训练样本和三元组索引集

S3.2)初始化：在第一次迭代中，给每个训练样本的权重u_m都为1/M；

S3.3)对于每次迭代，首先基于三元组索引集τ和权重u_m，根据图嵌入理论构建本征图G和惩罚图G^p的相似矩阵；通过迭代的算出Φ_l ^k,k＝1,...,n的本征值来求得投影矩阵集接着计算出h_ml并将h_ml带入到约束条件当中，若h_ml的训练偏差满足约束条件，则循环继续，否则跳出循环；最后根据h_ml的训练偏差更新权重u_m；

S3.4)计算并输出权重矢量a。输出投影矩阵集{V_t ^k|k＝1,...,n；t＝1,...,L}。

根据一个优选实施方式，步骤S4包括：S4.1)输入训练样本X＝[x₁,x₂,...,x_N]和三元组索引集

τ＝{(i,j,k)|x_j比x_k更加相似于x_i}；

S4.2)初始化：初始化u_m为1/M(M＝|τ|是τ的基数集)；提取基于图像块的局部特征表达式然后归一化特征表达式

S4.3)对于每次迭代，首先基于三元组索引集τ和权重[u_m]，根据图嵌入理论构建本征图G^j和惩罚图的相似矩阵，接着对每个X^j,j＝1,...,N'，计算出投影矩阵V^j，然后选出最优块k_l，保留第l个投影矩阵V_l对应于局部块k_l的投影矩阵接着计算出h_ml并将h_ml带入到约束条件当中，若h_ml的训练偏差满足约束条件，则循环继续，否则跳出循环，最后根据h_ml的训练偏差更新权重u_m；

S4.4)计算并输出权重矢量a，输出局部块以及对应的投影矩阵

本发明具有以下有益技术效果：

本发明基于子空间学习的步态识别算法，有效地提高了识别的精度。此外，本发明利用完全矫正技术来渐进地学习多个判决子空间以保留对象三元组中分类情况，从而在外部环境变化时也能够保证识别精度。此外，将子空间集成学习框架扩展到基于张量的子空间集成学习框架，从而很好的保留了步态模板的空间信息和频率信息。将子空间集成学习框架扩展到基于块的局部子空间集成学习框架，可以通过迭代选出对识别最有效的局部块，从而获得更加准确的识别效果。

附图说明

图1是基于子空间集成学习算法流程图；

图2是张量子空间集成学习算法流程图。

具体实施方式

下面结合附图及公式对本发明进行详细说明。

如图1所示，为基于子空间集成学习算法流程图，具体步骤如下：

(1)输入一个二维步态模板I，将其按列重新排序成为一个向量其中d是模板I中的像素数。

(2)给出一个训练模板集及其对应的类标签集{c_i|c_i∈[1,2,...,C],i＝1,...,N}，其中N是样本的数量、C表示样本有多少类。

(3)构建样本的三元组索引集其中M是τ的基数。

(4)子空间集成学习框架的目的就是通过学习多个子空间，使得对于任何三元组(i_m,j_m,k_m)，和相比，更加接近于可以在数学上将它看做一个如下所示的线性规划问题：

a_t≥0,t＝1,...,l

并且：

其中是一个松弛变量，D＞0是一个用来惩罚松弛变量的正则参数，.是,一}组子空间投影矩阵，a＝[a₁,...,a_l]^T是其对应的权重向量，||·||是范数运算符，F＞0是一个调谐参数，

(5)为了求解方程组(1)，给出方程组(1)的拉格朗日对偶问题：

其中u＝[u_m]≥0,g≥0,q≥0。拉格朗日对偶(3)在一阶导后原始变量a,ρ等于0，(1)的拉格朗日对偶问题可以写成如下形式：

(6)利用列生成算法，学习投影矩阵V_t的问题可以用以下方程来描述：

方程(5)的目标函数为：

其中tr(·)是一个踪迹运算符。

令矩阵：

其中

(7)为了减少计算成本，利用图嵌入理论构建了两个有向加权图：本征图G＝{W,S}，惩罚图G^p＝{W,S^p}。和分别表示图G,G^p的相似矩阵。S_ij,分别是S,S^p中的元素，其定义如下所示：

因为G,G^p是有向的，S,S^p可以是不对称矩阵。我们定义G的一个对角矩阵D、拉普拉斯矩阵L，G^p的一个对角矩阵D^p、拉普拉斯矩阵L^p：

其中所以，方程组(7)中的Φ_t可以写成以下矩阵形式：

(8)当维数d很高时，直接求解d×d矩阵Φ_t的特征值是很困难的。因此，通过求解一个较小的N×N矩阵的特征值来解得第一个q_t特征向量。令其中N＜＜d，则Ψ_t的特征向量为：

Ψ_tv＝(L^P-FL)W^TWv＝λv (12)

其中v是Ψ_t的特征向量，λ是其相应的特征值。在(12)公式两边左乘W，有：

WΨ_tv＝W(L^P-FL)W^TWv

Φ_tWv＝λWv (13)

因此，Φ_t的特征向量v'和对应的特征值λ'为：

v'＝Wv,λ'＝λ (14)

子空间学习技术在处理高维数据方面具有十分重要的地位。现有的步态识别算法受着装、视角、负载、路况的影响较大，识别的效率不高。此外，现有的步态识别技术往往只专注于一个子空间，当外部环境变化时，学习一个子空间往往得到的是一个局部最优的判别，从而影响识别的精度。本发明利用利用完全矫正技术来渐进地学习多个判决子空间，不仅提高了识别精度，在外部环境变化时也能够保证识别精度。

为了解决由于训练样本过多致使三元组数量过大的问题，可以采用以下三元组构建策略。

1、构建基于线性判别分析法的三元组集：

线性判别分析法通过类内散度矩阵S_b和类间散度矩阵S_w的比值最大化来找出最大判别子空间B：

其中是第C类样本的中心，是所有样本的中心。线性判别分析法使得不同类的中心距离最大，使相同类的每个样本和其类中心距离最小。我们将类中心M＝[m₁,m₂,...,m_C]带入训练器W以获得扩展的训练样本W'＝[M，W]，基于W'，得出基于线性判别分析法的三元组集：

2、构建基于边际Fisher分析的三元组集：

基于图嵌入理论，边际Fisher分析用G,G^p的相似矩阵S,S^p来表示类内紧凑性和类间分离性，其边界准则如下：

其中表示在同一类中w_i的k₁个最近邻的集合，是一组数据对，它表示在中的k₂个最近的一对。我们重新定义S,S^p用来保留边际Fisher分析的相似分布：

根据(20)中的S,S^p，对任意的(i,j,k)，i,j,k∈[1,2,...N]。若S_ij＝1,S_ij ^p＝1，则选(i,j,k)作为基于边际Fisher分析的三元组集的一个元素。

如图2所示为张量子空间集成学习算法。用张量表示时训练集由训练样本组成，对带有不同权重分布的训练样本进行多线性分析从而找到一组最优矩阵：对于张量数据，将方程组(2)中变量h_mt重新定义为：

其中 的目标函数可以表示如下：

s.t.方程(25) (20)

其约束条件就是方程式(25)。大多数情况下对于目标函数没有封闭形式的最优解，可以通过迭代的解得以下目标函数来获得的封闭形式的最优解：

k＝1,2,...,n (21)

令矩阵：

通过将子空间集成学习框架扩展到张量子空间集成学习算法，很好地保留了步态模板的空间信息和频率信息。

为了提取出有效的局部特征，将子空间集成学习框架扩展到基于图像块的局部子空间集成学习算法。基于图像块的局部子空间集成学习算法具体如下：将步态图模板I分成N₁个不重叠的具有固定大小的图像块。

(1)在行或者列上对选好的图像块的步态特征表式重新排序，以获得基于图像块的局部特征表式其中d'是每一块中的像素数，N'＝N₁×N₂。

(2)对于每个训练样本x_i∈X,i＝1,...,N，提取出其对应的基于图像块的局部特征表示

(3)选出l块找出对应的基于图像块的局部投影矩阵以及权重向量a＝[a₁,...,a_l]^T，使得对任意的(i_m,j_m,k_m)有下式成立：

其中

(4)令变量将方程(23)带入线性规划中进行求解。

基于图像块的局部子空间集成学习算法可以通过迭代选出对识别最有效的局部块，从而获得更加准确的识别效果。利用USF HumanID数据库和CASIA步态数据库进行测试，本发明所提出的算法和现有的步态识别算法相比在识别准确度上应具有较明显的提升。

需要注意的是，上述具体实施例是示例性的，本领域技术人员可以在本发明公开内容的启发下想出各种解决方案，而这些解决方案也都属于本发明的公开范围并落入本发明的保护范围之内。本领域技术人员应该明白，本发明说明书及其附图均为说明性而并非构成对权利要求的限制。本发明的保护范围由权利要求及其等同物限定。

Claims (4)

1.一种基于子空间集成学习的步态识别算法，其特征在于，包括以下步骤：

S1)设计子空间集成学习框架，其包括：S1.1)输入训练样本X＝[x₁,x₂,...,x_N]和三元组索引集

<mrow> <mi>&amp;tau;</mi> <mo>=</mo> <mo>{</mo> <mrow> <mo>(</mo> <msub> <mi>i</mi> <mi>m</mi> </msub> <mo>,</mo> <msub> <mi>j</mi> <mi>m</mi> </msub> <mo>,</mo> <msub> <mi>k</mi> <mi>m</mi> </msub> <mo>)</mo> </mrow> <mo>|</mo> <msub> <mi>c</mi> <msub> <mi>i</mi> <mi>m</mi> </msub> </msub> <mo>=</mo> <msub> <mi>c</mi> <msub> <mi>j</mi> <mi>m</mi> </msub> </msub> <mo>,</mo> <msub> <mi>c</mi> <msub> <mi>i</mi> <mi>m</mi> </msub> </msub> <mo>&amp;NotEqual;</mo> <msub> <mi>c</mi> <msub> <mi>k</mi> <mi>m</mi> </msub> </msub> <mo>,</mo> <mi>m</mi> <mo>=</mo> <mn>1</mn> <mo>,</mo> <mo>...</mo> <mo>,</mo> <mi>M</mi> <mo>}</mo> <mo>;</mo> </mrow>

S1.2)初始化：在第一次迭代中，给每个训练样本的权重u_m都为1/M；

S1.3)对于每次迭代，首先基于三元组索引集τ和权重u_m，根据图嵌入理论构建本征图G和惩罚图G^p的相似矩阵，然后求出Ψ_l的特征值并且计算出最优投影矩阵V_l，接着计算出h_ml并将h_ml带入到约束条件当中，若h_ml的训练偏差满足约束条件，则循环继续，否则跳出循环，最后根据h_ml的训练偏差更新权重u_m；

S1.4)计算出权重矢量a，输出权重矢量a和投影矩阵{V_t|t＝1,...,L}；

S2)构建基于线性判别分析法、边际Fisher分析的三元组集；

S3)将子空间集成学习框架扩展到张量子空间集成学习算法；

S4)将子空间集成学习框架扩展到基于图像块的局部子空间集成学习算法。

2.如权利要求1所述的步态识别算法，其特征在于，步骤S2中构建基于线性判别分析法的三元组集包括：通过类内散度矩阵S_b和类间散度矩阵S_w的比值最大化来找出最大判别子空间B：

<mrow> <mi>B</mi> <mo>=</mo> <mi>arg</mi> <munder> <mrow> <mi>m</mi> <mi>a</mi> <mi>x</mi> </mrow> <mi>B</mi> </munder> <mfrac> <mrow> <msup> <mi>B</mi> <mi>T</mi> </msup> <msub> <mi>S</mi> <mi>b</mi> </msub> <mi>B</mi> </mrow> <mrow> <msup> <mi>B</mi> <mi>T</mi> </msup> <msub> <mi>S</mi> <mi>w</mi> </msub> <mi>B</mi> </mrow> </mfrac> </mrow>

<mrow> <msub> <mi>S</mi> <mi>w</mi> </msub> <mo>=</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>c</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>C</mi> </munderover> <munder> <mo>&amp;Sigma;</mo> <mrow> <mi>i</mi> <mo>&amp;Element;</mo> <msub> <mi>&amp;pi;</mi> <mi>c</mi> </msub> </mrow> </munder> <mrow> <mo>(</mo> <msub> <mi>m</mi> <mi>c</mi> </msub> <mo>-</mo> <msub> <mi>m</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> <msup> <mrow> <mo>(</mo> <msub> <mi>m</mi> <mi>c</mi> </msub> <mo>-</mo> <msub> <mi>m</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> <mi>T</mi> </msup> </mrow>

<mrow> <msub> <mi>S</mi> <mi>b</mi> </msub> <mo>=</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>c</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>C</mi> </munderover> <msub> <mi>n</mi> <mi>c</mi> </msub> <mrow> <mo>(</mo> <msub> <mi>m</mi> <mi>c</mi> </msub> <mo>-</mo> <mi>m</mi> <mo>)</mo> </mrow> <msup> <mrow> <mo>(</mo> <msub> <mi>m</mi> <mi>c</mi> </msub> <mo>-</mo> <mi>m</mi> <mo>)</mo> </mrow> <mi>T</mi> </msup> </mrow>

其中是第C类样本的中心，是所有样本的中心；将类中心M＝[m₁,m₂,...,m_C]带入训练器W以获得扩展的训练样本W'＝[M，W]，基于W'得出基于线性判别分析法的三元组集：

<mrow> <mi>&amp;tau;</mi> <mo>=</mo> <mo>{</mo> <mrow> <mo>(</mo> <msub> <mi>i</mi> <mi>m</mi> </msub> <mo>,</mo> <msub> <mi>j</mi> <mi>m</mi> </msub> <mo>+</mo> <mi>C</mi> <mo>,</mo> <msub> <mi>k</mi> <mi>m</mi> </msub> <mo>)</mo> </mrow> <mo>|</mo> <msub> <mi>i</mi> <mi>m</mi> </msub> <mo>&amp;Element;</mo> <mo>{</mo> <mn>1</mn> <mo>,</mo> <mo>...</mo> <mo>,</mo> <mi>C</mi> <mo>}</mo> <mo>,</mo> <msub> <mi>j</mi> <mi>m</mi> </msub> <mo>&amp;Element;</mo> <msub> <mi>&amp;pi;</mi> <msub> <mi>i</mi> <mi>m</mi> </msub> </msub> <mo>,</mo> <msub> <mi>k</mi> <mi>m</mi> </msub> <mo>&amp;NotEqual;</mo> <msub> <mi>i</mi> <mi>m</mi> </msub> <mo>&amp;Element;</mo> <mo>{</mo> <mn>1</mn> <mo>,</mo> <mo>...</mo> <mo>,</mo> <mi>C</mi> <mo>}</mo> <mo>}</mo> <mo>.</mo> </mrow>

3.如权利要求1所述的步态识别算法，其特征在于，步骤S3包括：

S3.1)输入训练样本和三元组索引集

<mrow> <mi>&amp;tau;</mi> <mo>=</mo> <mo>{</mo> <mrow> <mo>(</mo> <msub> <mi>i</mi> <mi>m</mi> </msub> <mo>,</mo> <msub> <mi>j</mi> <mi>m</mi> </msub> <mo>,</mo> <msub> <mi>k</mi> <mi>m</mi> </msub> <mo>)</mo> </mrow> <mo>|</mo> <msub> <mi>c</mi> <msub> <mi>i</mi> <mi>m</mi> </msub> </msub> <mo>=</mo> <msub> <mi>c</mi> <msub> <mi>j</mi> <mi>m</mi> </msub> </msub> <mo>,</mo> <msub> <mi>c</mi> <msub> <mi>i</mi> <mi>m</mi> </msub> </msub> <mo>&amp;NotEqual;</mo> <msub> <mi>c</mi> <msub> <mi>k</mi> <mi>m</mi> </msub> </msub> <mo>,</mo> <mi>m</mi> <mo>=</mo> <mn>1</mn> <mo>,</mo> <mo>...</mo> <mo>,</mo> <mi>M</mi> <mo>}</mo> <mo>;</mo> </mrow>

S3.2)初始化：在第一次迭代中，给每个训练样本的权重u_m都为1/M；

S3.3)对于每次迭代，首先基于三元组索引集τ和权重u_m，根据图嵌入理论构建本征图G和惩罚图G^p的相似矩阵；通过迭代的算出Φ_l ^k,k＝1,...,n的本征值来求得投影矩阵集接着计算出h_ml并将h_ml带入到约束条件当中，若h_ml的训练偏差满足约束条件，则循环继续，否则跳出循环；最后根据h_ml的训练偏差更新权重u_m；

S3.4)计算并输出权重矢量a。输出投影矩阵集{V_t ^k|k＝1,...,n；t＝1,...,L}。

4.如权利要求1所述的步态识别算法，其特征在于，步骤S4包括：S4.1)输入训练样本X＝[x₁,x₂,...,x_N]和三元组索引集

τ＝{(i,j,k)|x_j比x_k更加相似于x_i}；

S4.2)初始化：初始化u_m为1/M(M＝|τ|是τ的基数集)；提取基于图像块的局部特征表达式X^j＝[x^j ₁,x^j ₂,...,x^j _N],j＝1,...,N'，然后归一化特征表达式

S4.3)对于每次迭代，首先基于三元组索引集τ和权重[u_m]，根据图嵌入理论构建本征图G^j和惩罚图的相似矩阵，接着对每个X^j,j＝1,...,N'，计算出投影矩阵V^j，然后选出最优块k_l，保留第l个投影矩阵V_l对应于局部块k_l的投影矩阵接着计算出h_ml并将h_ml带入到约束条件当中，若h_ml的训练偏差满足约束条件，则循环继续，否则跳出循环，最后根据h_ml的训练偏差更新权重u_m；

S4.4)计算并输出权重矢量a，输出局部块以及对应的投影矩阵