CN110298264A

CN110298264A - 基于堆叠降噪自编码器的人体日常行为活动识别优化方法

Info

Publication number: CN110298264A
Application number: CN201910497439.2A
Authority: CN
Inventors: 倪琴; 樊卓; 张波; 潘建国; 冯子敬; 李欣雅
Original assignee: Shanghai Normal University
Current assignee: Shanghai Normal University
Priority date: 2019-06-10
Filing date: 2019-06-10
Publication date: 2019-10-01
Anticipated expiration: 2039-06-10
Also published as: CN110298264B

Abstract

本发明涉及基于堆叠降噪自编码器的人体日常行为活动识别优化方法，包括下列步骤：1)基于深度学习方法和SDAE模型，采用来自可穿戴式传感器采集的人体行为数据构建人体行为识别的分类模型；2)对来自可穿戴式传感器采集收集的数据进行分类模型的初始化，将初始化后的数据分为训练集、测试集、验证集；3)对构建的分类模型进行预训练和微调处理；4)采用交叉验证方式，利用验证集验证训练后分类模型的泛化能力，并将测试集输入分类模型获取对应的预测类别。与现有技术相比，本发明具有取得更精确的模型识别结果、有助于为行为识别的应用提供更多方向等优点。

Description

基于堆叠降噪自编码器的人体日常行为活动识别优化方法

技术领域

本发明涉及基于可穿戴设备的人体行为活动识别技术领域，尤其是涉及一种基于堆叠降噪自编码器的人体日常行为活动识别优化方法。

背景技术

行为识别技术因为其广泛的应用受到了越来越广泛的关注，行为识别技术在工业、健康监护、室内定位等方面都有着越来越广泛的应用。人体的行为活动可以从不同角度进行分类，根据行为的特征可以分为静态行为、动态行为和转移行为，其中静态行为和动态行为是目前研究人员考虑的重点，而转移行为常常被忽视，转移行为在诸如医学领域同样具有重要的作用，转移行为是人体两种静态或动态行为的中间性活动，往往具有短时性和多变性，容易导致所收集到的数据样本的不平衡问题，降低识别的准确率。进行行为识别通常需要大量的数据集，这些数据的来源多种多样，照相机、麦克风、传感器等工具都是很好的采集人体行为的工具，其中最常用的是通过传感器进行数据收集，随着智能技术的发展，智能设备可以嵌入各式各样的传感器，这也为更加方便快捷的收集数据提供了条件。采集到数据之后，如何进行数据特征的提取以及使用何种方法利用特征进行分类是一个很重要的问题。

目前，国内外学者对于行为识别都有着各种各样的研究，机器学习的方法是常用的方法，通用的方法步骤包括数据收集、数据预处理、数据切分、特征提取、模型训练以及最后的分类。通过机器学习方法在行为识别领域已经取得了很好的效果，但机器学习方法仍存在一个缺陷：在进行特征提取时，往往需要研究人员手工地提取特征，这就导致了时间精力的大量消耗。因此，相比于机器学习，深度学习作为能够自动提取特征，同时效果也更好的方法，受到了越来越广泛的关注。现有技术利用了SDAE模型进行人体移动行为的识别，取得了不错的精确度，但该方法同样没有考虑到转移行为在行为识别领域中的应用。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种基于堆叠降噪自编码器的人体日常行为活动识别优化方法。

本发明的目的可以通过以下技术方案来实现：

基于堆叠降噪自编码器的人体日常行为活动识别优化方法，包括如下步骤：

步骤一、基于深度学习方法的原理和SDAE模型的特点，利用来自可穿戴式传感器采集的人体行为数据，构建人体行为识别的分类模型。

SDAE(stacked denoised autoencoder，堆栈去噪自编码器)模型由多个DAE(Denoising Autoencoder，降噪自编码器)堆叠而成。本发明的分类模型包含一个输入层、一个输出层和两个隐藏层，即模型堆叠了两个DAE。

优选地，利用来自可穿戴式传感器采集的人体行为数据构建分类模型。

步骤二、根据构建的分类模型的特点，利用传感器收集的数据划分合适的训练和测试数据，进行分类模型的初始化。初始化过程包括：

1)对收集的可穿戴式传感器数据依次进行数据预处理、数据切分，数据预处理包括随机过采样、数据标准化，并将处理、切分后的数据集按照60％，20％，20％划分为训练集、测试集、验证集。

2)分别设置分类模型的两个隐藏层的降噪因子为0.4和0.5，用于对输入的数据进行腐蚀，防止出现过拟合。

步骤三、对构建的分类模型进行训练。

基于DAE的特性，在对模型的训练过程中要对输入数据加入降噪因子进行破坏，防止出现过拟合问题。模型训练分为预训练和微调两个部分，相比于预训练部分，微调部分在神经网络最高层加入了softmax层用于分类。模型训练的具体内容为：

a)预训练。

将经过预处理和切分后的数据传入模型，并对模型中堆叠的两个DAE逐个进行单独训练，利用encoder和decoder更新网络参数，压缩不必要信息，将每个DAE的输出作为下一个DAE的输入；整个预训练过程用如下式表示：

y＝f(W₁x′_i+b₁)encoder

z＝g(W₂y+b₂)decoder

式中，y为对输入进行编码后的隐藏层向量，z为对隐藏层向量解码后的输出向量，f和g分别为执行encoder和decoder时的激活函数，采用的是sigmoid函数；W₁和W₂为网络的权值矩阵；b₁和b₂为每一层的偏置值。

利用交叉熵构造损失函数，即：

预训练阶段的主要目的是通过不断的压缩和重构数据，最小化输入数据和输出数据之间的误差，从而不断更新网络参数，便于在微调阶段提取更有代表性的特征，提升识别精度。通过梯度下降方法最小化误差并更新参数后，进入下一阶段。

b)微调。

在微调部分，每个DAE只保留encoder部分，并在最高层加入softmax层用来进行分类。微调阶段的训练过程将整个网络按照多层感知机的方式进行训练，通过反向传播算法来优化网络参数，提升模型效果。

步骤四、采用交叉验证方式，利用验证集验证训练所得分类模型的泛化能力。对于测试集，将其输入分类模型后得到对应的预测类别，预测类别为传感器采集的人体行为所对应的类别。将预测值与真实值进行对比，计算预测值中错误的个数，获取错误率。

与现有技术相比，本发明具有以下优点：

1)本发明方法利用SDAE的特点通过压缩和重构数据更新网络参数，能够更好的提取数据的潜在特征，再利用多层感知机的方式训练网络，在预训练过程，将分类模型的两个DAE分别进行单独训练，后一个DAE的输入作为前一个DAE对数据编码后的输出，通过编码器和解码器对数据进行编码和解码，通过最小化重构数据与原始数据之间的误差更新每个隐藏层的参数，之后在微调步骤将整个网络利用多层感知机的方式进行训练，最后通过softmax层对每组数据进行分类，进而能够取得更精确的模型识别结果；

2)本发明方法利用堆叠降噪自编码器提取数据中更具有代表性的特征，在静态、动态和转移行为的识别上展现了高精确率，同时与传统机器学习方法相比，具有更好的表现；

3)本发明方法不仅单单进行了静态和动态人类活动的识别，还专注于对人类转移行为进行精确识别，从而为行为识别的应用提供更多方向；

4)由于转移行为具有短时性等特性引起的样本不平衡问题，从而导致识别精度下降，针对样本不平衡的问题，本发明引入了重采样技术，重采样技术是面对不平衡数据集时用于平衡分类的方法，从而获得大概相同数量的类的数据，本发明在数据预处理步骤运用其中的随机过采样技术，通过随机复制少数类增加其中的实例数量，以此改善样本不平衡的问题，提高识别的精度。

附图说明

图1为本发明方法的流程示意图；

图2为本发明实施例中构建的分类模型的总体框架示意图；

图3为本发明实施例的实验验证结果图。

具体实施方式

下面结合附图和具体实施例对本发明进行详细说明。显然，所描述的实施例是本发明的一部分实施例，而不是全部实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都应属于本发明保护的范围。

本实施例采用实验验证本发明方法的有效性，实验数据收集部分是在可控制的实验室环境收集的，选取了10位健康的成年人进行实验，利用了Shimmer无线可穿戴式传感器用于收集数据，包括三轴的加速度计和陀螺仪；实验过程中工作人员会告知实验者他们需要进行什么行为，但不会严格规定他们如何进行这些行为，允许实验者在行为范围内自行操作。实验共设计了12种行为，包括3种静态行为(站立、睡觉、看电视)、3种动态行为(走路、跑步、打扫)和6种转移行为(站—坐、坐—站、站—走、走—站、躺—坐、坐—躺)。

下面给出本发明基于堆叠降噪自编码器的人体日常行为活动识别优化方法的具体步骤，包括：

(一)基于深度学习方法的原理和SDAE模型的特点，利用来自可穿戴式传感器(包括三轴加速度计和陀螺仪两种传感器)的人体行为数据，构建人体行为识别的分类模型。

(二)根据构建的分类模型的特点，利用两种传感器收集的数据，选择合适的训练和测试数据，进行分类模型的初始化。初始化过程包括：

①对收集的两种传感器数据进行数据预处理、数据切分、随机过采样、数据标准化，并将数据集按照60％，20％，20％划分为训练集、测试集、验证集。

②分别设置两个隐藏层的降噪因子为0.4和0.5。

(三)训练分类模型。

SDAE模型由多个降噪自编码器(DAE)堆叠而成，基于DAE的特性，训练过程中要对输入数据加入降噪因子进行破坏，防止出现过拟合问题。模型训练分为预训练和微调两个部分，预训练部分利用encoder和decoder压缩和重构数据，更新网络参数，微调部分在神经网络最高层加入了softmax层进行分类。

①预训练。在这一部分，将经过预处理和切分后的数据传入模型，并对模型中堆叠的DAE逐个进行单独训练，利用encoder和decoder压缩和重构数据，通过梯度下降方法更新网络参数，压缩不必要信息，每个DAE的输出都作为下一个DAE的输入；整个预训练过程可用如下公式表示：

y＝f(W₁x′_i+b₁)encoder

z＝g(W₂y+b₂)decoder

利用交叉熵构造损失函数，即：

②微调。在微调部分每个DAE只保留encoder部分，随着网络的深入不断对数据进行encoder，并在最高层加入softmax层进行分类。这一步的训练过程将整个网络按照多层感知机的方式进行训练，通过反向传播算法来优化网络参数，提升模型效果。

(四)采用交叉验证方式，利用验证集验证训练所得分类模型的泛化能力。对于测试集，将其输入分类模型后可得到对应的预测类别，将预测值与真实值进行对比，计算预测值中错误的个数，求出错误率。

(五)对训练所得的分类模型进行性能评估。本发明实施例的实验将本发明利用SDAE模型进行行为识别结果的准确率如图3所示，图中，A0-A2为静态行为(站立、睡觉、看电视)，A3-A5为动态行为(走路、跑步、打扫)，A6-A11为转移行为(站—坐、坐—站、站—走、走—站、躺—坐、坐—躺)。同时，本实施例将本发明利用SDAE的预测结果与利用支持向量机、决策树、KNN(k-NearestNeighbor，邻近算法)、CNN进行了对比，对比结果如表1所示。相比于传统机器学习方法，相同情况下，本发明的模型能够产生精确度更高的结果，而且在转移行为的识别上能够达到很高的精确度。

表1实验评估对比结果

方法	准确率(％)	精确率(％)	召回率(％)	F1分数(％)
					支持向量机	90.95	90.81	90.95	90.60
决策树	88.15	87.53	88.15	87.54
					KNN	84.84	84.38	84.84	84.29
CNN	81.33	79.85	81.33	80.27
					SDAE	94.88	94.88	94.88	94.86

本发明方法利用SDAE的特点通过压缩和重构数据更新网络参数，能够更好的提取数据的潜在特征，再利用多层感知机的方式训练网络，在预训练过程，将分类模型的两个DAE分别进行单独训练，后一个DAE的输入作为前一个DAE对数据编码后的输出，通过编码器和解码器对数据进行编码和解码，通过最小化重构数据与原始数据之间的误差更新每个隐藏层的参数，之后在微调步骤将整个网络利用多层感知机的方式进行训练，最后通过softmax层对每组数据进行分类，进而能够取得更精确的模型识别结果。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的工作人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims

1.基于堆叠降噪自编码器的人体日常行为活动识别优化方法，其特征在于，包括下列步骤：

1)基于深度学习方法和SDAE模型，采用来自可穿戴式传感器采集的人体行为数据构建人体行为识别的分类模型；

2)对来自可穿戴式传感器采集收集的数据进行分类模型的初始化，将初始化后的数据分为训练集、测试集、验证集；

3)对构建的分类模型进行预训练和微调处理；

4)采用交叉验证方式，利用验证集验证训练后分类模型的泛化能力，并将测试集输入分类模型获取对应的预测类别。

2.根据权利要求1所述的基于堆叠降噪自编码器的人体日常行为活动识别优化方法，其特征在于，步骤1)中，构建的人体行为识别的分类模型包括一个输入层、一个输出层和两个隐藏层，两个隐藏层为两个DAE。

3.根据权利要求2所述的基于堆叠降噪自编码器的人体日常行为活动识别优化方法，其特征在于，步骤2)具体包括以下步骤：

21)对收集的可穿戴式传感器数据依次进行数据预处理、数据切分，并将处理后的数据集按照比例划分为训练集、测试集、验证集；

22)分别设置分类模型两个隐藏层的降噪因子。

4.根据权利要求3所述的基于堆叠降噪自编码器的人体日常行为活动识别优化方法，其特征在于，步骤3)中，预训练的具体内容为：

将步骤2)处理后的数据传入分类模型，并对分类模型中堆叠的降噪自编码器DAE逐个进行单独训练，利用encoder和decoder更新网络参数，将每个DAE的输出作为下一个DAE的输入，整个预训练过程用如下式表示：

y＝f(W₁x′_i+b₁)encoder

z＝g(W₂y+b₂)decoder

式中，y为对输入进行编码后的隐藏层向量，z为对隐藏层向量解码后的输出向量，f和g分别为执行encoder和decoder时的激活函数，采用sigmoid函数；W₁和W₂为网络的权值矩阵；b₁和b₂为每一层的偏置值。

5.根据权利要求4所述的基于堆叠降噪自编码器的人体日常行为活动识别优化方法，其特征在于，步骤3)的预训练过程中，利用交叉熵构造损失函数，损失函数的表达式为：

6.根据权利要求5所述的基于堆叠降噪自编码器的人体日常行为活动识别优化方法，步骤3)中，微调的具体内容为：

将每个DAE只保留encoder部分，并在最高层加入softmax层进行分类，将整个网络按照多层感知机的方式进行训练。

7.根据权利要求6所述的基于堆叠降噪自编码器的人体日常行为活动识别优化方法，步骤21)中，将处理后的数据集按照60％，20％，20％划分为训练集、测试集、验证集。

8.根据权利要求3所述的基于堆叠降噪自编码器的人体日常行为活动识别优化方法，步骤21)中，所述的数据预处理包括随机过采样、数据标准化。

9.根据权利要求3所述的基于堆叠降噪自编码器的人体日常行为活动识别优化方法，步骤22)中，设置各隐藏层的降噪因子分别为0.4和0.5。

10.根据权利要求1所述的基于堆叠降噪自编码器的人体日常行为活动识别优化方法，步骤4)中，所述的预测类别为可穿戴式传感器采集的人体行为所对应的类别。