CN110353694A - 一种基于特征选取的运动识别方法 - Google Patents

Abstract

一种基于特征选取的运动识别方法，它属于运动识别技术领域。本发明解决了现有运动识别方法存在的运动识别的准确率低、以及运动识别的效率低的问题。本发明为了避免部分特征之间的区分效用互有重叠，构建了一套科学的特征评价指标，选择出了最佳的特征组合方案，结合极端梯度提升树算法能够达到97.99％的运动识别准确率，相比较于现有方法，本发明的精简方案下，特征种类减少了8类、特征提取时间减少了2.62％、特征维度减少20.78％，有效提升了运动识别的效率。本发明可以应用于运动识别技术领域。

Description

一种基于特征选取的运动识别方法

技术领域

本发明属于运动识别技术领域，具体涉及一种基于特征选取的运动识别方法。

背景技术

基于惯性测量单元(IMU)的运动捕捉系统在商用发展方面最具前途，它几乎可以在任何地方使用，真正实现了不受场景约束的动作数据采集。一些全身人体运动捕捉系统已经被用于计算机图形和动画行业。商业用的动作捕捉系统主要限制为单个模块的尺寸和重量，在这一方面由于MEMS陀螺仪和加速度计具有体积小巧、集成度高、适合工厂化生产、廉价易用等常规惯性传感器无法比拟的优势，使用基于MEMS元件的IMU测量单元研究动作捕捉方案的实现，对系统商业开发具有重要意义。

当IMU测量单元采集完运动数据以后，对采集的数据进行后续处理即可识别出相应的运动方式，因此，现有方法已经在运动识别领域取得了一定的成就，但是仍然存在着运动识别准确率较低以及运动识别的效率较低的问题。

发明内容

本发明的目的是为解决现有运动识别方法存在的运动识别的准确率低、以及运动识别的效率低的问题。

本发明为解决上述技术问题采取的技术方案是：一种基于特征选取的运动识别方法，该方法包括以下步骤：

步骤一、分别对人体的M₀个动作进行数据采集，且采集每个动作的数据时，均采用三轴加速度计、三轴陀螺仪和三轴磁强计同时进行，M₀个动作包含的动作种类数为N₀；

将采集的三轴加速度计数据、三轴陀螺仪数据、三轴磁强计数据和三轴姿态角数据作为原始数据；

对原始数据进行预处理，获得预处理后的数据，对预处理后的数据进行动作截取获得动作段数据，其中：每个动作对应一个动作段数据；

步骤二、计算出每个动作段数据的统计学特征、信号时频特征以及复杂建模特征；

步骤三、采用划分次数指标和信息增益指标对步骤二中的特征进行筛选，根据筛选出的特征将各个动作段数据转换为各个长度相同的特征向量；

步骤四、利用步骤三获得的特征向量对极端梯度提升树模型进行训练，直至训练次数达到设置的最大迭代次数Q时停止训练，获得训练好的极端梯度提升树模型；

步骤五、对于待进行动作识别的动作数据，采用步骤一的方法对动作数据进行处理后，再根据步骤三筛选出的特征将处理后数据转换为特征向量，将特征向量输入训练好的极端梯度提升树模型进行动作识别。

本发明的有益效果是：本发明提出了一种基于特征选取的运动识别方法，本发明为了避免部分特征之间的区分效用互有重叠，构建了一套科学的特征评价指标，选择出了最佳的特征组合方案，结合极端梯度提升树算法能够达到97.99％的运动识别准确率，相比较于现有方法，本发明的精简方案下，特征种类减少了8类、特征提取时间减少了2.62％、特征维度减少20.78％，有效提升了运动识别的效率。

附图说明

图1是本发明的一种基于特征选取的运动识别方法的流程图；

图2是在划分次数指标下，得到的特征重要性打分的示意图；

图3是在信息增益指标下，得到的特征重要性打分的示意图；

图4是归一化后的每类特征的综合得分对比图。

具体实施方式

具体实施方式一：如图1所示，本实施方式所述的一种基于特征选取的运动识别方法，该方法包括以下步骤：

步骤一、分别对人体的M₀个动作进行数据采集，且采集每个动作的数据时，均采用三轴加速度计、三轴陀螺仪和三轴磁强计同时进行，M₀个动作包含的动作种类数为N₀；

将采集的三轴加速度计数据、三轴陀螺仪数据、三轴磁强计数据和三轴姿态角数据(三轴姿态角数据通过三轴陀螺仪采集)作为原始数据；

对原始数据进行预处理，获得预处理后的数据，对预处理后的数据进行动作截取获得动作段数据，其中：每个动作对应一个动作段数据；

对于一个动作的动作段数据X_N×M，X_N×M为一个N×M维的矩阵，N表示动作段内的采样点总数，M表示每个采样点处的数据维度；

传感器数据均为三轴形式，传感器数据种类数目为m，则有M＝3×m；在本发明中m＝4；

步骤二、计算出每个动作段数据的统计学特征、信号时频特征以及复杂建模特征；

步骤三、采用划分次数指标和信息增益指标对步骤二中的特征进行筛选，根据筛选出的特征将各个动作段数据转换为各个长度相同的特征向量；

步骤四、利用步骤三获得的特征向量对极端梯度提升树模型进行训练，直至训练次数达到设置的最大迭代次数Q时停止训练，获得训练好的极端梯度提升树模型；

步骤五、对于待进行动作识别的动作数据，采用步骤一的方法对动作数据进行处理后，再根据步骤三筛选出的特征将处理后数据转换为特征向量，将特征向量输入训练好的极端梯度提升树模型进行动作识别。

步骤二中的特征输出维度表如表1所示：

表1

具体实施方式二：本实施方式与具体实施方式一不同的是：所述统计学特征包括均值特征、标准差特征、最大值特征、最小值特征、中位数绝对偏差特征、四分位差特征以及相关性特征；

所述信号时频特征包括能量均值特征、信号幅度区域特征、信号熵特征、最大震级幅值特征、最大震级频率特征、次级最大震级幅值特征、次级最大震级频率特征、平均归一化频率特征、幅值分布峰度特征以及幅值分布偏态特征；

所述复杂建模特征包括自回归系数特征以及梅尔频率倒谱特征。

具体实施方式三：本实施方式与具体实施方式二不同的是：所述采用划分次数指标和信息增益指标对步骤二中的特征进行筛选，其具体过程为：

划分次数指标

极端梯度提升树模型的基础模型是分类回归树，数据在分支结点处的走向由其特征值与阈值的关系决定，一个特征被选择用来实现分裂的次数直接体现了该特征在模型决策中的作用大小，一种对特征重要性进行评价的思路是以特征变量在所有决策树模型中用于划分的次数之和作为打分；

记极端梯度提升树模型共集成了Z棵决策树，某一维特征值x_i在决策树F_j中被用于决策的次数为C_j，其中：i＝1,2,…,462，j＝1,2,…,Z，则一维特征值x_i的得分为：

由于实际上我们的每一类特征，即使是单值特征，作用于12种信号源，得到的特征长度均不为1；

针对于步骤二中的每类特征，该类特征的得分为其涵盖的所有一维特征值得分之和；

划分次数指标(记F1)下，得到的特征重要性打分如图2所示：

信息增益指标

信息增益值大小表征了以步骤二的某类特征作为分割依据对数据分类不确定性的影响，将信息增益值作为特征重要性的数值化指标；

计算步骤二中的每一类特征的信息增益值，将每个信息增益值作为对应特征的重要性数值化指标：

信息增益值的计算过程如下：对于步骤二中的任一类特征，

式中：代表该类特征对应的数据分割方案下，左叶子结点的评分指标(基于目标函数变形得到)，代表该类特征对应的数据分割方案下，右叶子结点的评分指标，为不做数据分割的情况下的评分，γ为该类特征对应的数据分割方案带来的复杂度惩罚；Gain代表该类特征的信息增益值；

在训练的循环过程中，确定增量树结构的迭代策略即为根据增益值确定当前叶子结点处对数据集的最佳分割方案。

假设在某一结点处选择的分割方案为：将数据集D按照A是否小于等于a的条件切分为D₁和D₂两部分，分别落入叶子结点的左右两个分支结点中。

通过记录训练过程中产生的增益变量，绘制信息增益指标(记F2)下的特征重要性打分数值图如图3所示：

步骤二中每类特征的综合得分均为该类特征在划分次数指标下的得分与该类特征在信息增益指标下的信息增益值之和；对每类特征的综合得分进行加权平均和归一化，获得加权平均和归一化后的每类特征的综合得分；如图4所示；

将加权平均和归一化后的每类特征的综合得分进行降序排列，筛选出前面的11类特征；

筛选出的特征包括均值特征、标准差特征、最大值特征、最小值特征、中位数绝对偏差特征、相关性特征、信号熵特征、最大震级幅值特征、最大震级频率特征、自回归系数特征以及梅尔频率倒谱特征。

本实施方式中计算出每类特征的加权平均和归一化后的综合得分是指分别计算出均值特征、标准差特征、最大值特征、最小值特征、中位数绝对偏差特征、四分位差特征、相关性特征、能量均值特征、信号幅度区域特征、信号熵特征、最大震级幅值特征、最大震级频率特征、次级最大震级幅值特征、次级最大震级频率特征、平均归一化频率特征、幅值分布峰度特征、幅值分布偏态特征、自回归系数特征以及梅尔频率倒谱特征的加权平均和归一化后综合得分，然后从中选出综合得分排名前11类的特征。

具体实施方式四：本实施方式与具体实施方式三不同的是：所述极端梯度提升树模型是以分类回归树为基础模型，以boosting方法聚合构成的。

分类回归树

分类回归树(Classification And Regression Tree，CART)顾名思义其模型呈树状结构，树的分支形象地对应了实例按照特征被分类的过程，因此模型的可解释性极强，它属于白箱模型，输出结果很容易通过模型的结构来解释。

决策树可以理解为一系列“if—then”规则的形象集合：从树的根结点到叶子结点的每一条路径都对应着一条规则。对数据实行分类实质是对数据集进行分割，因此构建决策树的过程，也就是决定每一次分割逻辑的过程，为了在某一步决策都能够按照最佳策略进行分裂，引入了信息论中的指标信息增益的概念。

首先定义度量随机变量不确定性的指标熵(entropy)，熵值越大则表示随机变量的不确定程度越高。

记离散随机变量X服从如式(1)所示的概率分布：

P(X＝x_i)＝p_i,i＝1,2,…,n (1)

则定义该变量的熵如式(2)所示：

进一步定义条件熵如式(3)所示：

一般称变量的熵与条件熵的差值为互信息，它表示条件信息的确定对变量不确定性程度的影响，即特征信息能够减少随机变量的不确定性，于是在该思想的基础上定义信息增益：记某一特征为A，训练数据集为D，记特征A对数据集D的信息增益为g(D,A)，如式(4)所示：

g(D,A)＝H(D)-H(D|A) (4)

由上式可知不同的特征会对数据集表现出不同的信息增益，信息增益越大，则表明该特征对数据集具有更强的分类能力。

CART树的学习算法中假定决策树为二叉树形式，每一个内部结点处特征的取值都只有两个分支，相当于递归地二分每个特征。决策树的生成中使用Gini指数最小化准则选择最优特征，并同时决定该特征下的最佳分类阈值作为相应叶子结点的二值切分点，由此从上至下地递归构造二叉树。

假设问题为K分类问题，记某一个实例样本点属于第k类的概率为p_k，则对此概率分布定义基尼指数如式(5)所示：

扩展到给定的数据集D，则定义其基尼指数如式(6)所示：

其中C_k表示数据集D中属于类别k的子集。

进一步描述数据集D根据在特征A处的具体取值是否大于a被分割为D₁和D₂两部分，如式(7)所示：

D₁＝{(x,y)∈D|A(x)≤a},D₂＝D-D₁ (7)

则定义数据集D在特征A下的基尼指数如式(8)所示：

类似熵指标，基尼指数Gini(D)表征了数据集D的不确定性，而类似条件熵，基尼指数Gini(D,A)表征了数据集D按照A是否小于等于a的条件进行分割后的不确定性，因此选择最佳特征时显然希望基尼指数最小，于是在此思想的基础上使用数据集D训练CART决策树的算法步骤如下：

1.对D的所有分割方案计算基尼指数：即对所有特征A和其所有可能的取值a，按照式(8)计算数据集D按照A是否小于等于a的条件进行分割后的基尼指数Gini(D,A)；

2.在所有可能的切割方案(由特征A及切分点a确定)中选择基尼指数最小的方案作为最佳特征和最佳切割点，以此从现结点生出两个分支，将数据集D分配到两个子结点中；

3.对新生成的次级子结点递归地调用前两个步骤中的算法，直至满足分类指标；

4.CART决策树生成完毕。

极端梯度提升树

极端梯度提升树(Extreme Gradient Boosting，xgboost)是一种以树结构为基础分类器，按照boosting策略构建的集成学习算法。它的模型假设如下：xgboost的基础模型为简单分类树f_k，多个树组成的集合形象地称为森林F，总模型以求和的形式对各个基础分类器的预测值输出进行汇总，如式(9)所示：

目标函数的定义如式(10)所示，其中左半部分为真正的训练误差，右半部分为针对分类树复杂度的惩罚项。Ω函数的具体形式在此并不特指，它可以设计为树模型的叶结点数目、树的深度、或者叶结点权重值的L₂正则化，如式(10)所示。

对于上式表达的目标函数，我们无法像绝大部分机器学习算法一样使用随机梯度下降法(Stochastic Gradient Descent，SGD)作为优化器解算最优模型，因为其分类器是树，而不仅仅是纯数字向量表达的多项式。于是我们按照boosting的方法安排学习策略，即累加性质的训练，如式(11)所示。

式中——本轮迭代得到的模型；

f_t(x_i)——新产生的函数。

的进化策略为是在上一轮模型的基础上累加新函数。因此训练的核心思路为在每一轮迭代处确定f_t(x_i)。

为了达到优化目标函数的目的，将代入目标函数，得到当前迭代步骤处的目标函数值如式(12)所示：

以平方损失指标为例，上式可以进一步表达如式(13)所示：

其中常被称为针对上一轮迭代残差。

二阶泰勒展开公式如式(14)所示：

定义两个中间变量如式(15)所示：

于是得到目标函数式的二阶泰勒展开如式(16)所示：

移去上式中的常数项，得到：

可见目标函数值实质上只与变量g_i和h_i有关。

中间变量g_i和h_i的形式比较抽象，代入具体的损失函数如平方损失指标，则可以轻易地计算得到如式(18)所示：

接下来代入具体的基础分类器讨论，一棵决策树由其叶结点的权重向量(记w)和叶结点编号映射函数(即树的结构函数，记q)唯一确定如式(19)所示：

f_t(x)＝w_q(x) (19)

式中w∈R^T,q:R^d→{1,2,…,T}。

有了树的具体结构，就可以定义目标函数中的惩罚项，即树的复杂度函数为：

复杂度函数由两部分相加组成，前一部分与叶结点的总数目T有关，后一部分则与结点权重向量的L₂正则化项有关。

接下来定义被分割到结点j处的实例子集为I_j＝{i|q(x_i)＝j}，并且按照结点对目标函数式(21)重新进行分组，并代入惩罚项函数，得到：

于是目标函数被表达为T个独立的一元二次方程组合，进一步对上式进行简写，记代入上式得到：

假设树的结构函数q(x)已定，解形如式(22)的一元二次方程，可以轻易得到叶结点权重的最佳取值如式(23)所示：

代入后得到最小目标函数值如式(24)所示：

可以认为上式中的非常数项部分衡量了一棵树结构的好坏如式(25)所示：

显然式(25)表达的分值越小，就表征树的结构越优越，如果能够枚举所有可能的树结构q(x)，就能按照该标准挑选出最佳的结构q^*，从而根据式(25)确定最佳结点权重向量但是由于q(x)的取值范围是无穷的，因此使用贪心策略生成树结构，类似于决策树生成算法，递归地从根结点处开始逐层分割。

在树的当前叶子结点处，尝试对数据集进行一次分割，分割后的目标函数值变为如式(26)所示：

其中：下标L和R分别表示左右叶子结点的中间变量，γ表示因为一次分割(增加一个叶结点)带来的复杂度惩罚，因此在确定分割策略时根据Gain的值挑选特征和相应切分点即可。

于是得到式(11)中的boosting迭代算法步骤如下：

1.在每一次循环中添加一棵树，为了确定f_t(x)的具体形式，首先计算式(27)：

2.然后在数据集下以Gain值最小原则使用贪心策略生成树模型f_t(x)

3.将f_t(x)加到当前模型如式(28)所示：

该步骤通常使用学习速率控制策略，如式(29)所示：

4.循环上述步骤，直到目标函数如式(30)满足训练指标，模型生成完毕。

具体实施方式五：本实施方式与具体实施方式四不同的是：所述最大迭代次数Q时的取值为2000次。

具体实施方式六：本实施方式与具体实施方式五不同的是：所述对原始数据进行预处理，是指对原始数据进行数据清洗、误差标定和归一化操作。

本发明的上述算例仅为详细地说明本发明的计算模型和计算流程，而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其它不同形式的变化或变动，这里无法对所有的实施方式予以穷举，凡是属于本发明的技术方案所引伸出的显而易见的变化或变动仍处于本发明的保护范围之列。

Claims (6)

1.一种基于特征选取的运动识别方法，其特征在于，该方法包括以下步骤：

步骤一、分别对人体的M₀个动作进行数据采集，且采集每个动作的数据时，均采用三轴加速度计、三轴陀螺仪和三轴磁强计同时进行，M₀个动作包含的动作种类数为N₀；

将采集的三轴加速度计数据、三轴陀螺仪数据、三轴磁强计数据和三轴姿态角数据作为原始数据；

对原始数据进行预处理，获得预处理后的数据，对预处理后的数据进行动作截取获得动作段数据，其中：每个动作对应一个动作段数据；

步骤二、计算出每个动作段数据的统计学特征、信号时频特征以及复杂建模特征；

步骤三、采用划分次数指标和信息增益指标对步骤二中的特征进行筛选，根据筛选出的特征将各个动作段数据转换为各个长度相同的特征向量；

步骤四、利用步骤三获得的特征向量对极端梯度提升树模型进行训练，直至训练次数达到设置的最大迭代次数Q时停止训练，获得训练好的极端梯度提升树模型；

步骤五、对于待进行动作识别的动作数据，采用步骤一的方法对动作数据进行处理后，再根据步骤三筛选出的特征将处理后数据转换为特征向量，将特征向量输入训练好的极端梯度提升树模型进行动作识别。

2.根据权利要求1所述的一种基于特征选取的运动识别方法，其特征在于，所述统计学特征包括均值特征、标准差特征、最大值特征、最小值特征、中位数绝对偏差特征、四分位差特征以及相关性特征；

所述信号时频特征包括能量均值特征、信号幅度区域特征、信号熵特征、最大震级幅值特征、最大震级频率特征、次级最大震级幅值特征、次级最大震级频率特征、平均归一化频率特征、幅值分布峰度特征以及幅值分布偏态特征；

所述复杂建模特征包括自回归系数特征以及梅尔频率倒谱特征。

3.根据权利要求2所述的一种基于特征选取的运动识别方法，其特征在于，所述采用划分次数指标和信息增益指标对步骤二中的特征进行筛选，其具体过程为：

划分次数指标

记极端梯度提升树模型共集成了Z棵决策树，某一维特征值x_i在决策树F_j中被用于决策的次数为C_j，其中：i＝1,2,…,462，j＝1,2,…,Z，则一维特征值x_i的得分为：

针对于步骤二中的每类特征，该类特征的得分为其涵盖的所有一维特征值得分之和；

信息增益指标

计算步骤二中的每一类特征的信息增益值，将每个信息增益值作为对应特征的重要性数值化指标：

步骤二中每类特征的综合得分均为该类特征在划分次数指标下的得分与该类特征在信息增益指标下的信息增益值之和；对每类特征的综合得分进行加权平均和归一化，获得加权平均和归一化后的每类特征的综合得分；

将加权平均和归一化后的每类特征的综合得分进行降序排列，筛选出前面的11类特征；

筛选出的特征包括均值特征、标准差特征、最大值特征、最小值特征、中位数绝对偏差特征、相关性特征、信号熵特征、最大震级幅值特征、最大震级频率特征、自回归系数特征以及梅尔频率倒谱特征。

4.根据权利要求3所述的一种基于特征选取的运动识别方法，其特征在于，所述极端梯度提升树模型是以分类回归树为基础模型，以boosting方法聚合构成的。

5.根据权利要求4所述的一种基于特征选取的运动识别方法，其特征在于，所述最大迭代次数Q时的取值为2000次。

6.根据权利要求5所述的一种基于特征选取的运动识别方法，其特征在于，所述对原始数据进行预处理，是指对原始数据进行数据清洗、误差标定和归一化操作。