CN110443276A - 基于深度卷积网络与灰度递归图分析的时间序列分类方法 - Google Patents

Abstract

一种基于深度卷积网络与灰度递归图分析的时间序列分类方法，将原始时间序列切分成若干长度相同且互不重叠的片段，并将这些片段分别进行二维灰度递归图转换，得到片段灰度递归图，将片段灰度递归图分成训练集和测试集，将训练集中的灰度递归图用于深度卷积神经网络端到端的训练，获得训练好的深度卷积神经网络模型，对训练好的深度卷积神经网络模型进行测试，在测试过程中，将测试集中的灰度递归图输入至训练好的深度卷积网络进行分类预测。本发明是一种非常快速的分类方法，不仅在表征效果上有显著的提升，同时是一种自动的特征提取方法，减少了复杂的人工设计过程。

Description

基于深度卷积网络与灰度递归图分析的时间序列分类方法

技术领域

本发明涉及一种时间序列分类方法。特别是涉及一种基于深度卷积网络与灰度递归图分析的时间序列分类方法。

背景技术

时间序列分析方法在很多领域(例如气象、金融、交通、通信、医疗等)都有广泛的应用，比如，在气象领域可以预测天气，在金融领域可以预测价格，在医疗领域可以为疾病的诊断提供帮助等。因此吸引了众多科研人员致力于该方向的研究。现有的时间序列分析方法主要有时域分析，频域分析(频谱分析、小波分析等)、联合时频分析及非线性分析方法(混沌分析、递归定量分析、分形、复杂网络分析方法等)。针对不同的应用，需要从中优选合适的分析方法，显然这要做大量的尝试。利用以上分析方法可以提取表征时间序列的各种特征。但对于时间序列分类应用而言，还需要从众多分类器(如神经网络、支持向量机、KNN(K-近邻算法))中优选最佳的分类器，这又要做大量的测试。由此可以看出，传统时间序列分类算法设计过程费时费力，且由于提取的特征都是时间序列的浅层特征，因此对于较为复杂的时间序列分类很难获得较高的精度。

近些年由于引入了深度学习技术，图像分类和目标检测算法研究取得突破性进展，有些算法在特定视觉任务测试中甚至超越了人类的水平。针对图像分类应用，从2012年起相继提出了AlexNet，ZFNet，VGGNet，GoogLeNet，Inception系列，ResNet和DenseNet等一系列深度卷积神经网络，图像分类的准确率也不断提升。这些多层深度卷积网络在图像分类应用中的巨大成功主要得益于其强大的特征抽取能力。且相较于传统的人工特征提取方法，深度卷积网络的特征提取是自动完成，无需人工干预。此外，深度卷积网络已经集成了特征提取和分类功能，因此省去了大量传统特征提取方法与分类器优化组合尝试工作。

尽管深度卷积神经网络在二维图像分类中取得很好的效果，但这类方法并不能直接应用于一维的时间序列分类。如果能将一维时间序列转换为二维图像，后续就可以借助性能优良的深度卷积神经网络对时间序列进行分类。时间序列的递归图是依据相空间重构理论，将一维时间序列扩展到高维相空间，并把相空间的递归特性进行二维可视化的结果。因此，递归图蕴含着丰富的时间序列动力学信息。

发明内容

本发明所要解决的技术问题是，提供一种能够实现一维时间序列高准确率分类的基于深度卷积网络与灰度递归图分析的时间序列分类方法。

本发明所采用的技术方案是：一种基于深度卷积网络与灰度递归图分析的时间序列分类方法，将原始时间序列切分成若干长度相同且互不重叠的片段，并将这些片段分别进行二维灰度递归图转换，得到片段灰度递归图，将片段灰度递归图分成训练集和测试集，将训练集中的灰度递归图用于深度卷积神经网络端到端的训练，获得训练好的深度卷积神经网络模型，对训练好的深度卷积神经网络模型进行测试，在测试过程中，将测试集中的灰度递归图输入至训练好的深度卷积网络进行分类预测。

具体包括如下步骤：

1)获取原始时间序列，并做归一化处理，将归一化处理得到的时间序列按照无重叠的方式分成若干个长度为N的时间序列片段；

2)每一个时间序列片段有N个数据点x_i,i＝1,2,...,N，根据Takens的嵌入定理，给定整数m＞1,τ＞0，得到一个m维的状态矢量Y＝{y₁(k),y₂(k),...,y_m(k)}，其中y₁(k)＝x_i,y₂(k)＝x_i+τ,...,y_m(k)＝x_i+(m-1)τ；从序列{x_i}获得状态矢量Y的方法就成为延迟嵌入法。m称为嵌入维数，τ称为延时常数。

3)计算m维的状态矢量中的第k个矢量Y_k和第j个矢量Y_j的距离，r_kj＝||Y_k-Y_j||,k,j＝1,2,...,N-(m-1)τ，其中||·||表示欧式距离，r_kj构成递归矩阵；

4)将递归矩阵中的值作为图像的灰度值描述到图像中，形成灰度递归图；

5)将形成的灰度递归图分成训练集和测试集；

6)将训练集中的灰度递归图输入到深度卷积神经网络进行端到端的训练，得到训练好的深度卷积神经网络模型；

7)将测试集中的灰度递归图输入到训练好的深度卷积神经网络模型中，输出该灰度递归图的类别，即为原始时间序列的类别。

本发明的基于深度卷积网络与灰度递归图分析的时间序列分类方法，主要优点及特色体现在如下几个方面：

1、本发明将一维时间序列转换为二维图像(灰度递归图)进行分析，可以获取原始时间序列中更多的信息，对分类中特征的提取有很大的帮助，是对现有时间序列分析方法的一个很好的补充。

2、本发明利用深度卷积网络强大的特征提取能力对时间序列进行分类，相对于传统的特征提取方法，不仅在表征效果上有显著的提升，同时是一种自动的特征提取方法，减少了复杂的人工设计过程。

3、本发明由于将时间序列切分成若干个小片段，不仅在分类准确率上取得优异的效果，还是一种非常快速的分类方法。

4、本发明中需要人工选择的参数只有嵌入维数和延迟时间，经过测试，在一定的范围内，不同的嵌入维数和延迟时间对分类的结果没有影响，因此本方法的鲁棒性较强。

附图说明

图1是A、B、C、D、E五组脑电信号所对应的典型灰度递归图；

图2是深度卷积神经网络架构图；

图3是深度卷积神经网络架构图中的跨连接卷积块的结构图。

具体实施方式

下面结合实施例和附图对本发明的基于深度卷积网络与灰度递归图分析的时间序列分类方法做出详细说明。

本发明的基于深度卷积网络与灰度递归图分析的时间序列分类方法，将原始时间序列切分成若干长度相同且互不重叠的片段，并将这些片段分别进行二维灰度递归图转换，得到片段灰度递归图，将片段灰度递归图分成训练集和测试集，将训练集中的灰度递归图用于深度卷积神经网络端到端的训练，获得训练好的深度卷积神经网络模型，对训练好的深度卷积神经网络模型进行测试，在测试过程中，将测试集中的灰度递归图输入至训练好的深度卷积网络进行分类预测。

本发明的基于深度卷积网络与灰度递归图分析的时间序列分类方法，具体包括如下步骤：

1)获取原始时间序列，并做归一化处理，将归一化处理得到的时间序列按照无重叠的方式分成若干个长度为N的时间序列片段；

2)每一个时间序列片段有N个数据点x_i,i＝1,2,...,N，根据Takens的嵌入定理，给定整数m＞1,τ＞0，得到一个m维的状态矢量Y＝{y₁(k),y₂(k),...,y_m(k)}，其中y₁(k)＝x_i,y₂(k)＝x_i+τ,...,y_m(k)＝x_i+(m-1)τ；从序列{x_i}获得状态矢量Y的方法就成为延迟嵌入法。m称为嵌入维数，τ称为延时常数。

3)计算m维的状态矢量中的第k个矢量Y_k和第j个矢量Y_j的距离，r_kj＝||Y_k-Y_j||,k,j＝1,2,...,N-(m-1)τ，其中||·||表示欧式距离，r_kj构成递归矩阵；

4)将递归矩阵中的值作为图像的灰度值描述到图像中，形成灰度递归图；

5)将形成的灰度递归图分成训练集和测试集；

6)将训练集中的灰度递归图输入到深度卷积神经网络进行端到端的训练，得到训练好的深度卷积神经网络模型；

7)将测试集中的灰度递归图输入到训练好的深度卷积神经网络模型中，输出该灰度递归图的类别，即为原始时间序列的类别。

为了检验本发明的基于深度卷积网络与灰度递归图分析的时间序列分类方法的有效性，本实例将其应用在脑电信号分类上。脑电信号本身变化非常复杂，且具有典型的非线性、非平稳特征，采用经典时间序列分析方法很难对不同类型脑电信号进行准确识别。

本发明中所采用的脑电信号是由Andrzejak等人提供的公开数据集。脑电信号是由五组构成，分别记为A、B、C、D、E。这些数据是通过10个人采集获得的，包括5个健康人和5个患有癫痫的病人。每组信号均由100个持续时间为23.6秒的单通道脑电信号组成，数据长度为4097个数据点。所有脑电信号的采集均使用10-20国际标准电极放置方式以及相同的128通道放大器系统。经过12位模数转换后，数据以173.61Hz的采样率连续写入数据采集计算机系统的磁盘，之后再通过0.53-40Hz带通滤波器。其中A组：五个健康人眼睛睁开时的脑电数据；B组：同样的五个健康人眼睛闭上时的脑电信号；C组：五个患有癫痫疾病的患者癫痫发作间隔时的非癫痫病灶区的脑电信号；D组：同样的五个患有癫痫疾病的患者癫痫发作间隔时的癫痫病灶区的脑电信号；E组：同样的五个患有癫痫疾病的患者癫痫发作时的癫痫病灶区的脑电信号。

为了区分正常脑电信号与癫痫脑电信号以及癫痫间期脑电信号与癫痫发作时期脑电信号，本发明进行了四个有效性验证实验，分别为A vs E，B vs E，C vs E，D vs E。

本实例中使用的深度卷积神经网络，是一个在图像分类中广泛应用的模型，它相对于之前的CNN模型最大的特点就是密集连接，即模型中每个层都会接受前面所有层的输出作为该层的输入，这样可以实现特征重用，提升分类的效率。一种基于递归图变换和卷积神经网络的快速且准确的不同生理状态脑电信号识别方法的具体实施步骤如下：

1)获取原始脑电信号，将脑电信号做归一化处理，并将归一化后的信号按照长度为100并且无重叠的方法分成了5*100*40＝20000个小片段，将每组数据按照9:1的比例分为训练集和测试集，并将训练集中的一份作为验证集。

2)对每一个脑电时间序列小片段中的N个数据点x_i,i＝1,2,...,N＝100，根据Takens的嵌入定理，给定整数m＞1,τ＞0，可以得到一个m维的状态矢量Y＝{y₁(k),y₂(k),...,y_m(k)}，其中y₁(k)＝x_i,y₂(k)＝x_i+τ,...,y_m(k)＝x_i+(m-1)τ；从序列{x_i}获得状态矢量Y的方法就成为延迟嵌入法。m称为嵌入维数，τ称为延时常数。本实例中m＝5,τ＝1。

3)计算m维的状态矢量中的第k个矢量Y_k和第j个矢量Y_j的距离，r_kj＝||Y_k-Y_j||,k,j＝1,2,...,N-(m-1)τ，其中||·||表示欧式距离，r_kj构成递归矩阵；

4)将递归矩阵中的值作为图像的灰度值描述到图像中，形成灰度递归图，如图1所示；

5)将形成的灰度递归图分成训练集和测试集；

6)将训练集中的灰度递归图输入到深度卷积神经网络进行端到端的训练，其中优化器选择自适应动量估计优化器(Adam)，初始学习率为0.01，每训练500步下降为原来的0.92，网络架构如图2所示，网络配置如表1所示，最后得到训练好的深度卷积神经网络模型；

表1

7)将测试集中的灰度递归图输入到训练好的深度卷积神经网络模型中，按照实验组别，比较两组信号深度卷积神经网络模型输出概率值的大小，如果较大的概率值对应的类别是该信号的标签类别，说明此次分类正确。

8)最后，用十折交叉验证对训练集和测试集进行划分，取10次的平均结果作为最终的分类结果，如表2所示。

表2

实验组别	准确率(％)	测试时间(s)
			AvsE	100	0.21
BvsE	100	0.08
			CvsE	100	0.08
DvsE	100	0.08

本发明的基于深度卷积网络与灰度递归图分析的时间序列分类方法，在所有的测试中均取得了100％的准确率并且用时非常少，说明本发明的方法是一个非常有效且快速的时间序列分类的方法，在以后的研究中可以将其应用在其他类型的信号中，因此具有很高的应用价值。

Claims (2)

1.一种基于深度卷积网络与灰度递归图分析的时间序列分类方法，其特征在于，将原始时间序列切分成若干长度相同且互不重叠的片段，并将这些片段分别进行二维灰度递归图转换，得到片段灰度递归图，将片段灰度递归图分成训练集和测试集，将训练集中的灰度递归图用于深度卷积神经网络端到端的训练，获得训练好的深度卷积神经网络模型，对训练好的深度卷积神经网络模型进行测试，在测试过程中，将测试集中的灰度递归图输入至训练好的深度卷积网络进行分类预测。

2.根据权利要求1所述的基于深度卷积网络与灰度递归图分析的时间序列分类方法，其特征在于，具体包括如下步骤：

1)获取原始时间序列，并做归一化处理，将归一化处理得到的时间序列按照无重叠的方式分成若干个长度为N的时间序列片段；

2)每一个时间序列片段有N个数据点x_i,i＝1,2,...,N，根据Takens的嵌入定理，给定整数m＞1,τ＞0，得到一个m维的状态矢量Y＝{y₁(k),y₂(k),...,y_m(k)}，其中y₁(k)＝x_i,y₂(k)＝x_i+τ,...,y_m(k)＝x_i+(m-1)τ；从序列{x_i}获得状态矢量Y的方法就成为延迟嵌入法。m称为嵌入维数，τ称为延时常数。

3)计算m维的状态矢量中的第k个矢量Y_k和第j个矢量Y_j的距离，r_kj＝||Y_k-Y_j||,k,j＝1,2,...,N-(m-1)τ，其中||·||表示欧式距离，r_kj构成递归矩阵；

4)将递归矩阵中的值作为图像的灰度值描述到图像中，形成灰度递归图；

5)将形成的灰度递归图分成训练集和测试集；

6)将训练集中的灰度递归图输入到深度卷积神经网络进行端到端的训练，得到训练好的深度卷积神经网络模型；

7)将测试集中的灰度递归图输入到训练好的深度卷积神经网络模型中，输出该灰度递归图的类别，即为原始时间序列的类别。