CN111461201B - 基于相空间重构的传感器数据分类方法 - Google Patents

Abstract

本发明基于相空间重构的传感器数据分类方法，包括步骤：1)把一维传感器时间序列通过基于坐标延迟的相空间重构映射到一个m维的相空间，使传感器数据暴露隐含的关键信息，得到相空间轨迹矩阵；2)把提取到的各个传感器在时刻i下的数据输入到长短期记忆网络模块，设置长短期记忆网络输入的时间步长均为相空间重构的嵌入维数m；3)将各个长短期记忆网络输出的状态信息类比图像的RGB矩阵输入二维卷积神经网络模块，二维卷积神经网络提取的特征输入全连接层，得出分类结果。本发明基于相空间重构的传感器数据分类方法，其改善了原始一维传感器数据结构上的局限性和传感器数据分类准确率受限的问题，能实现对时刻点上的传感器数据进行准确分类。

Description

基于相空间重构的传感器数据分类方法

技术领域

本发明涉及传感器数据识别技术领域，特别涉及一种基于相空间重构的传感器数据分类方法。

背景技术

早期基于传感器数据的识别主要采用传统的机器学习方法，包括决策树，支持向量机，隐马尔可夫等模型，此类方法通过人工提取时域特征实现状态分类，然而人工提取特征的能力十分有限，并且需要提供大量的先验经验来弥补数据挖掘的不足。在更为复杂的问题中，依赖人工提取特征不再现实，因此需要降低模型对手动特征的依赖。

传感器数据识别相对于图像数据识别有其特殊性，如何解决对一个时刻的传感器数据的分类是一个技术难题，即要对一个时间点而非时间段的数据状态进行判别，因为一个时间序列中划分给每个时刻的数据很少，数据越少表明特征越少，这就增加了分类的难度。

并且传感器数据有其自身的结构局限性。传感器数据本身就存在着数据丢失的嫌疑，每个传感器的原动力学系统都是高维的，经过降维，提取和转化得到一维时间序列，即可以通过设备采集到的数据。而在降维、提取和转化得到一维时间序列的过程中很大可能丢失了很多关键信息。并且人们在传感器特征提取模型上的改进受到传感器数据结构的很大约束，例如，对于一维的传感器数据人们总是惯性的改造一维卷积神经网络来提取特征进行分类。数据结构的局限性大大限制了科研人员的求解思路。

发明内容

有鉴于此，本发明的目的是提供一种基于相空间重构的传感器数据分类方法，以解决传统的机器学习方法在一维传感器数据上的识别效果上严重依赖人工提取特征、传感器数据结构局限性对特征提取模型的限制及传感器数据结构局限性使分类准确率受限的计算问题，以及解决对时刻点上的传感器数据进行准确分类困难的技术难题。

本发明基于相空间重构的传感器数据分类方法，包括以下步骤：

1)对一个传感器输入的时间序列{x₁,x₂,x₃…x_N}，通过坐标延迟重构法引入一个时间延迟参数τ和一个嵌入维数m,来构造一个m维的相空间：

X＝[x_i x_i+τ … x_i+(m-1)τ] (1)

其中i＝1,2,3…L,L＝N-(m-1)τ，重构后得到的相空间轨迹矩阵为：

式中：行向量x_i组成多维相空间的相点，L个相点共同构成重构相空间轨迹；

对于A、B、C……Z传感器序列，提取各个重构后的传感器数据在时刻i下的行向量，得到最终时刻i的输入数据点格式如下所示：

其中L＝min(A_l,B_l,C_l……Z_l)，M＝max(A_m,Bm,Cm.......Z_m)；

2)把步骤1)中提取到的多个传感器在时刻i下的行向量的组合矩阵(3)输入到各个长短期记忆网络模块，把各个长短期记忆网络输入的时间步长设置为相空间重构的嵌入维数m；

3)将各个长短期记忆网络输出的状态信息矩阵类比图像的RGB矩阵作为二维卷积神经网络模块的输入，通过二维卷积神经网络模块提取长短期记忆网络输出数据的特征，最后经过全连接层得到分类结果。

本发明的有益效果：

1、本发明基于相空间重构的传感器数据分类方法，通过对一维的传感器数据进行相空间重构，把一维的时序数据映射到高维的相空间，以便暴露更多有用的信息。同时，对传感器数据结构进行改进，克服了传感器数据结构的缺陷，重构后的传感器数据经过长短期记忆网络提取的状态信息能类比于图像的RGB矩阵，采用二维卷积神经网络作为特征提取网络，突破了传统一维传感器数据只能采用一维卷积神经网络进行特征提取的思维桎梏，同时对传感器数据结构的改进也增加了传感器数据集的大小，增强了数据集驱动网络训练的力量。

2、由于传感器数据本身就存在着数据丢失的嫌疑，每个传感器的原动力学系统都是高维的，但经过降维，提取和转化得到的一维时间序列很大可能丢失了很多关键信息。本发明基于相空间重构的传感器数据分类方法，根据坐标延迟技术将一维的传感器数据映射到相空间，实现扩维，能更多的暴露传感器数据隐含的关键信息，比如斜率，变化率等表示数据变化趋向的信息，使后续特征网络能提取到更多的隐含特征，进而能提高分类准确率。

3.本发明基于相空间重构的传感器数据分类方法，其通过坐标延迟法进行重构得到的某时刻的数据并不只是多个传感器数据的组合，更重要的是重构出的m维数据都是有时间相关性的。而本发明中采用的长短期记忆网络的输入结构又恰恰迎合了这一点，其把一个数据分为t(t即时间步长time_step)个时刻输入，每个时刻输入相对应的特征值，在这里特征值指的是传感器组合数据，相空间重构的嵌入维数m和LSTM网络输入参数的时间步长time_step合理的吻合，因此使相空间重构和长短期记忆网络结合成为可能，也是本发明基于相空间重构的传感器数据分类方法的关键创新所在，也是实现对时刻点上的传感器数据进行准确分类的关键。

4.本发明基于相空间重构的传感器数据分类方法，一方面，通过基于坐标延迟法的相空间重构技术对传感器数据进行重构使其单一时刻下携带时序信息，重构后数据的维数与长短期记忆网络的输入时间步的相似性都为模型的合理性和高精度的分类结果打下了坚实的基础；另一方面，针对传感器数据时序，分层的结构特点，将长短期记忆网络模型与二维卷积神经网络进行复合，将传感器数据的输出信息矩阵类比于图像的RGB矩阵进行适应性处理，利用二维卷积神经网络作为后继网络来提取特征以进行分类，能够有效地结合长短期记忆网络和二维卷积神经网络的优点，对数据进行更为全面的分析、提取和挖掘。并且本发明方法在实施例中对VIMS数据集二分类、五分类的平均准确率分别达到99.69％、98.67％，其对一维传感器数据的识别效果不依赖人工提取特征，解决了对一维传感器数据进行更准确分类的技术问题。

附图说明

图1是实施例中基于相空间重构的传感器数据分类方法对应的网络结构图。

图2是LSTM-Dense模型的网络结构图；

图3是LSTM-CNN模型的网络结构图；

图4是LSTM-Dense模型的二分类训练损失与迭代次数关系图；

图5是LSTM-Dense模型的二分类训练精度与迭代次数关系图；

图6是LSTM-Dense模型的五分类训练损失与迭代次数关系图；

图7是LSTM-Dense模型的五分类训练精度与迭代次数关系图；

图8是LSTM-CNN模型的二分类训练损失与迭代次数关系图；

图9是LSTM-CNN模型的二分类训练精度与迭代次数关系图；

图10是LSTM-CNN模型的五分类训练损失与迭代次数关系图；

图11是LSTM-CNN模型的五分类训练精度与迭代次数关系图。

具体实施方式

下面结合附图和实施例对本发明作进一步描述。

本实施例中基于相空间重构的传感器数据分类方法，包括以下步骤：

1)对一个传感器输入的时间序列{x₁,x₂,x3…x_N}，通过坐标延迟重构法引入一个时间延迟参数τ和一个嵌入维数m,来构造一个m维的相空间：

X＝[x_i x_i+τ … x_i+(m-1)τ] (1)

其中i＝1,2,3…L,L＝N-(m-1)τ，重构后得到的相空间轨迹矩阵为：

式中：行向量x_i组成多维相空间的相点，L个相点共同构成重构相空间轨迹；

对于A、B、C……Z传感器序列，提取各个重构后的传感器数据时刻i下的行向量进行拼接，得到最终数据格式如下所示：

其中L＝min(A_l,B_l,C_l……Z_l)，M＝max(A_m,Bm,Cm.......Z_m)；在重构过程中肯定会遇到每个序列重构之后的坐标矩阵结构不一致的情况，这里采用矩阵行取(重构之后点的个数)最小目的在于保证矩阵对齐，列取(重构的维数)最大目的是为了尽可能的打开相空间，全面的提取特征，行向量反映的是传感器阵列组合数据，列向量反应的是重构m维的时序相关性。

2)把步骤1)中提取到的多个传感器在时刻i下的行向量组合矩阵(3)输入到各个长短期记忆网络，把各长短期记忆网络输入的时间步长(time_step)设置为相空间重构的嵌入维数m。长短期记忆网络(LSTM)的输入参数为：batch_size,time_step,feature_dim，把有时间相关性的数据分成m个时刻输入(即time_step＝m)，然后按照时序关系依次输入特征值(即相应时刻下各个传感器数据的组合)。

3)将各个长短期记忆网络输出的状态信息类比图像的RGB矩阵作为二维卷积神经网络模块的输入，二维卷积神经网络模块包括卷积层、池化层、扁平层和全连接层，长短期记忆网络通过融合层与二维卷积神经网络模块连接，通过二维卷积神经网络模块提取各个长短期记忆网络输出数据的特征，最后经过全连接层得到分类结果。

下面通过实验来验证本实施例中基于相空间重构的传感器数据分类方法的分类效果。

选取人脑EEG数据作为实验数据，采用汽车驾驶模拟器对受试者进行视觉刺激，诱发视觉诱发晕动病(Visually Induced Motion Sickness，VIMS)，并使用可穿戴式EEG装置来采集所需数据。Muse API基于原始数据的功率谱密度(PSD)为每个通道产生绝对和相对的逐段功率输出。PSD描述了给定时频域上信号的能量分布,并且是指每单位频率的功率量与频率的关系。采集的脑电信号可分为5个频段：delta(0-4Hz)、theta(4-8Hz)、alpha(7.5-13Hz)、beta(13-30Hz)和gamma(30-44Hz)。因此，实验计算了每个电极的五个绝对带功率：delta_ABP、theta_ABP、alpha_ABP、beta_ABP和gamma_ABP。因此，这些绝对的波段功率形成了20(5×4)维的特征向量。数据集共包括8个受试者的143952个样本，实验取了两个受试者的数据，按照10：1进行下采样，共2443个样本数据，按照7：3来划分训练集和测试集，每个样本包括20个传感器的概率密度值，晕动级别包括5种，晕动-0级，晕动-1级，晕动-2级，晕动-3级，晕动-4级，级别越高晕动越剧烈。每个传感器数据经过相空间重构，然后把同一时刻的20个传感器数据进行拼接，最后，一个时刻对应一个二维矩阵。

实验在划分测试数据集和验证数据集的时候，为了保证正负样本之间的平衡，打乱顺序是必要的，打乱顺序使得失去了输入数据之间的时间特性，网络提取时间特征必然受到影响，而相空间重构正好可以弥补输入时间特性的缺失，通过坐标延迟重构法使得每个输入数据的内部包含时间延迟的信息。实验通过把前半部分的长短期记忆网络的时间步长设置为10，即把每个输入分成10个时间点来依次输入，这正是相空间重构的维数。相空间重构与长短期记忆网络的结合是分类方法的最大的关键点，利用相空间重构的维数和长短期记忆网络的输入时间步的一致合理性，把两者结合起来，这就为长短期记忆网络输入形状的时间步长的确定提供了方案。其次，每个步长的输入数据则是所有传感器(实验中为20个传感器)阵列的组合，它代表了每个时刻获取的具体数据。通过对LSTM结合密集层(LSTM-Dense)实验和LSTM结合二维卷积层(LSTM-CNN)实验进行对比，以比较是LSTM结合密集层的网络结构模型更好还是LSTM结合二维卷积层的网络结构模型更好。

LSTM结合密集层实验

本实验设计的是基于Dense密集层来提取LSTM的输出状态信息特征值。对原始数据进行预处理，包括下采样、相空间重构、转换矩阵等操作把每个时刻的一维数据转化成二维矩阵，并将其作为长短期记忆网络的输入。然后连接到密集层提取特征进行分类。LSTM结合密集层的具体模型的结构如图2所示，模型参数设置如表1所示。

表1 LSTM-Dense模型的网络结构

对于模型的编译，使用了二元交叉熵函数(binary_crossentropy)作为二分类的损失函数，使用了多分类交叉熵损失函数(categorical_crossentropy)作为五分类的损失函数。使用adam优化器和精度的评估方式。

LSTM结合二维卷积层实验

本实验数据预处理阶段和上述实验相同，先对原始数据进行下采样，然后用坐标延迟法相空间重构，把每个时刻的一维数据转化成二维矩阵作为长短期记忆网络的输入，设置长短期记忆网络的参数return_sequences为True，返回每个时间步长的结果信息，每个时间步之间有时序关系，每个时刻的输入内部包含着传感器阵列的层次关系。这个信息是对于时间依赖的特征提取的结果，然后将其输入到二维卷积网络模型，提取相关特征，最后连接一个密集层的分类器。具体网络结构如图3所示，具体各层参数如表2所示。

表2 LSTM-CNN模型的网络参数

其中两种模型长短期记忆网络的参数return_sequence的设置，若设成False，则在输出序列中仅返回最后一个时间的状态。这里，我们设为True，是为了得到每个时间步的全部状态信息。为了对比两种模型的优劣，控制模型编译的变量，采用和LSTM-Dense模型相同的编译参数。

实验结果及分析

经过参数调优，实验决定统一使用adam作为优化器，设置最大的训练轮次为200，对于训练集的标签均采用one-hot编码，训练和验证以及测试都是相同的标准以排除此类超参数对模型的影响。

LSTM-Dense模型和LSTM-CNN模型的识别受试者在某时刻的晕动级别结果分析。图4-图11给出了两个模型训练过程中模型的损失与精度随迭代次数的变化。训练过程中验证集损失持续下降，准确率持续上升，相关精度指标虽然出现轻微震荡，但最后基本趋于稳定，说明两个模型均能够对数据进行适当的拟合和收敛，有效的避免了过拟合的现象。表3给出了LSTM-Dense模型训练完成后在测试集上得到的损失和精度，可以发现该模型对数据集可以进行有效的分类，在二分类的测试下平均准确率达到99.28％，在五分类的测试下平均精确率达到96.81％。表3同样也给出了LSTM-CNN模型训练完成后在测试集上的得到的损失和精度，在二分类的测试下平均准确率达到99.69％，在五分类的测试下平均精确率达到98.67％。

表3模型结构对平均精度的影响

两个模型的结果分析和比较，通过表3基本可以得出一个比较显然的优劣。总体效果来看，显然是LSTM-CNN的效果要比LSTM-Dense的效果好些。无论是精度的高低还是对于二分类或五分类，上下起伏都很小，对LSTM-CNN模型来说，五分类的测试精度只比二分类的精度下降了约一个百分点。但是对于LSTM-Dense模型来说，下降了约三个百分点，且LSTM-CNN模型对所有类型分类的精度和损失都相对较优，并且通过图9我们知道，LSTM-CNN模型的精度最稳定和收敛的最好，说明本实施例中提出的分类方法具有较好的适应性。

最后说明的是，以上实施例仅用以说明本发明的技术方案，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本发明技术方案的宗旨和范围，其均应涵盖在本发明的权利要求范围当中。

Claims (1)

1.一种基于相空间重构的传感器数据分类方法，其特征在于：包括以下步骤：

1)对一个传感器输入的时间序列{x₁，x₂，x₃…x_N}，通过基于坐标延迟的相空间重构法引入一个时间延迟参数τ和一个嵌入维数m，来构造一个m维的相空间：

X＝[x_i x_i+τ…x_i+(m-1)τ] (1)

其中i＝1，2，3…L，L＝N-(m-1)τ，重构后得到的相空间轨迹矩阵为：

式中：行向量x_i组成多维相空间的相点，L个相点共同构成重构相空间轨迹.

对于A、B、C……Z传感器序列，提取各个重构后的传感器数据在时刻i下的行向量，得到最终时刻i的输入数据点格式如下所示：

其中，L＝min(A_l，B_l，C_l……Z_l)，M＝max(A_m，B_m，C_m……Z_m)；

2)把步骤1)中提取到的多个传感器在时刻i下的行向量的组合矩阵(3)输入到长短期记忆网络模块，把各个长短期记忆网络输入的时间步长设置为相空间重构的嵌入维数m；

3)将各个长短期记忆网络输出的状态信息矩阵类比图像的RGB矩阵作为二维卷积神经网络模块的输入，通过二维卷积神经网络模块提取长短期记忆网络输出数据的特征，最后经过全连接层得到分类结果。