CN108171762A - 一种深度学习的压缩感知同类图像快速重构系统与方法 - Google Patents

Abstract

本发明公开了一种深度学习的压缩感知同类图像快速重构系统与方法，其方法特征是：1)将图像X的CS测量值y和测量矩阵Φ的伪逆的乘积进行重构得到生成器的输入数据2)生成器的初始化，包括确立生成器的损失函数、输出单元、隐藏单元以及梯度更新算法和初始化生成器网络内部参数；3)生成器的学习：根据生成器损失函数，完成生成器内部网络参数的更新；4)判别器的初始化，同生成器的初始化；5)判别器的学习：根据判别器损失函数，完成判别器内部参数的更新；6)系统总体训练和网络模型的保存。本发明克服已有压缩感知图像重构时间长的不足，针对同类图像，用训练后的生成器模型进行压缩感知重构，可以大大降低重构时间。

Description

一种深度学习的压缩感知同类图像快速重构系统与方法

技术领域

本发明属于通信技术领域，尤其是涉及一种深度学习的压缩感知同类图像快速重构系统与方法。

背景技术

图像压缩感知是近几年图像处理领域的重大突破，对稀疏信号或可压缩信号，压缩感知理论通过少量的线性投影直接编码图像信号中包含绝大部分信息的重要分量，实现对原始图像的采样、压缩以及重构，其中重构是压缩感知的研究核心。现阶段传统的压缩感知(CS)重构算法主要分两大类。第一类是贪婪迭代算法，通过迭代方式寻找稀疏向量的支撑集，并且使用受限支撑最小二乘估计来重构信号，主要包括:匹配追踪法(MP)、正交匹配追踪法(OMP)、分段OMP法、规范OMP法、迭代硬阈值法等。第二类是凸优化算法或最优化逼近方法，通过将非凸问题转化为凸问题求解找到信号的逼近，主要包括:基追踪法(BP)、梯度投影法(GPSR)、最小全变分法(TV)和最小角度回归法(LARS)。凸优化算法比贪婪算法所求的解更加精确，但是需要更高的计算复杂度。传统的CS重构算法由于需要计算量通常很大,难以满足实时性的要求。

发明内容

本发明的目的在于克服已有压缩感知图像重构时间长的不足，针对同类图像，提出了一种深度学习的压缩感知同类图像快速重构系统与方法。

本发明的一种深度学习的压缩感知同类图像快速重构系统，包括用于从CS测量值生成重构图像的反卷积网络，即生成器；和用于判别重构图像真实度的卷积神经网络，即判别器；所述生成器用于进行压缩感知重构，所述判别器用于辅助以及提高生成器的“重构”能力，结构如下：

所述生成器的结构包括1个全连接层、4个转置卷积层和1个输出层，其中第一转置卷积层包含有512个5*5大小的卷积核，上采样步长为2；第二转置卷积层包含有256个5*5大小的卷积核，上采样步长为2；第三转置卷积层包含有128个5*5大小的卷积核，上采样步长为2；第四转置卷积层包含有64个5*5大小的卷积核，上采样步长为2；

所述判别器的网络结构包括4个卷积层、1个全连接层和1个输出层，其中第一卷积层包含有64个5*5大小的卷积核，卷积步长为2；第二卷积层包含有128个5*5大小的卷积核，卷积步长为2；第三卷积层包含有256个5*5大小的卷积核，卷积步长为2；第四卷积层包含有512个5*5大小的卷积核，卷积步长为2。

一种深度学习的压缩感知同类图像快速重构方法，包括以下步骤：

1)将图像X的CS测量值y和测量矩阵Φ的伪逆的乘积进行重构：

得到生成器的输入数据

2)生成器的初始化

2a)确立生成器的损失函数、输出单元、隐藏单元以及梯度更新算法；

2b)初始化生成器网络内部参数θ_g；

3)生成器的学习

3a)将特征数据输入到生成器中；

3b)特征数据经过生成器得到重构完成的图像

3c)生成器根据其损失函数在固定判别器网络的情况下，利用自适应矩估计优化梯度算法，即Adam优化算法，完成生成器内部网络参数的更新；

4)判别器的初始化

4a)确立判别器的损失函数、输出单元、隐藏单元以及梯度更新算法；

4b)初始化判别器网络内部参数θ_d；

5)判别器的学习

5a)将生成器重构所得到的图像和真实图像输入到判别器中；

5b)图像数据X经过判别器得其对于输入图像真实性的概率判定结果；

5c)判别器根据其损失函数在固定生成器网络的情况下，利用Adam优化算法完成判别器内部参数的更新；

6)系统总体训练和网络模型的保存：

6a)设置总迭代次数；

6b)生成器和判别器的参数更新交替进行，即固定其中一个网络参数，完成另一个的参数更新，利用所述Adam优化算法分别根据生成器和判别器损失函数的梯度信息完成各自网络内部参数的迭代更新，生成器参数更新过程为(3a)～(3c),判别器的参数更新过程为(5a)～(5c)，交替重复生成器和判别器的学习，完成系统的训练；

6c)将训练完成的生成器和判别器分别保存下来，训练完成所得到的生成器就是快速压缩感知重构模型。

步骤2a)中所述的生成器的损失函数、输出单元、隐藏单元以及梯度更新算法如下：

生成器的损失函数为：

上式中，η，λ分别为权重系数，表示生成器G在接受输入特征数据之后生成的图像，即重构图像，Φ表示CS观测矩阵，θ_g表示生成器网络内部参数；表示在固定判别器内部参数时，判别器D对于生成器输出的重构图像的真实性概率判定结果，θ_d表示判别器内部参数，E表示数学期望；综上所述，损失函数包含了对抗损失、CS输入测量值与生成图像测量值范数和生成图像与相对应真实图像范数，其中的范数和范数使用比较模块完成，生成器的优化目标就是通过损失函数的梯度信息来更新生成器内部参数θ_g使得损失函数最小，即

生成器输出单元为其输出层的激活函数：双曲正切函数Tanh，其表达式：

生成器输出单元的输入为其前一转置卷积层的输出z，经过输出单元后结果为tanh(z)；

隐藏单元是生成器转置卷积层的激活函数，为整流线性单元ReLU，其表达式：ReLU(z)＝max(0，z)，隐藏单元位于每一个转置卷积最后，即每一个转置卷积的结果都要经过隐藏单元之后得到输出ReLU(z)；

生成器的梯度更新算法采用的是一阶自适应矩估计优化梯度算法，即Adam优化算法。

步骤2b)中生成器网络内部参数θ_g的初始化如下：

生成器网络的内部参数θ_g指的是生成器内转置卷积层以及全连接层内的权重，而生成器网络的转置卷积层和全连接层权重都采用零均值标准差为0.02的正态随机分布。

步骤4a)中所述的判别器的损失函数、输出单元、隐藏单元以及梯度更新算法如下：

判别器的损失函数如下：

上式中，x为真实图像，D(x；θ_d)表示判别器D对于真实图像真实性的概率判定结果，θ_d表示判别器网络中的参数，表示在固定生成器G内部参数时，判别器对于生成器输出的重构图像的真实性概率判定结果，θ_g表示生成器内部参数，E表示数学期望；上式表示了判别器的对抗损失所包含的两个部分，分别是对于真实图像的概率判定以及对重构图像的真实性概率判定，判别器的优化目标就是通过损失函数的梯度信息来更新判别器内部参数θ_d使得损失函数最小，即

判别器输出单元是其输出层的激活函数，为Sigmoid激活函数，其表达式：

其中p为判别器输出单元的输入，即为其前一卷积层的输出，经过输出单元后结果为S(p)；

隐藏单元是判别器中卷积层的激活函数，为渗漏整流线性单元Leaky ReLU，其表达式：LReLU(p)＝max(0，p)+αmin(0，p)，隐藏单元位于每一个卷积层最后，即每一个卷积之后的结果都要经过隐藏单元得到输出LReLU(p)；

判别器的梯度更新算法同样采用Adam优化算法。

步骤4b)中判别器网络内部参数θ_d的初始化：

判别器网络参数θ_d指的是判别器中卷积层以及全连接层的权重，判别器网络中的各个卷积层卷积核权重初始化均采用零均值标准差为0.02的截断正态随机分布，即初始化的值服从具有设定平均值和标准差的正态分布，如果生成的值大于平均值2个标准偏差值则丢弃重新选择，而全连接层权重采用零均值标准差为0.02的正态随机分布。

本发明的有益效果是：

本发明在能够获得较多同类图像集的情形下并且完成了对该方案中模型的训练测试之后，利用其反卷积网络即可完成压缩感知测量值的重构任务，并且即使在观测矩阵的采样率较低，普通贪婪迭代算法重构效果不理想的情况下也能够快速地获得相对较好图像质量的重构结果。

以下将结合附图对本发明的构思、具体结构及产生的技术效果作进一步说明，以充分地了解本发明的目的、特征和效果。

附图说明

图1是本发明系统总体框图；

图2是本发明的反卷积网络(生成器)结构图；

图3是本发明的卷积网络(判别器)结构图；

图4本发明与传统的压缩感知性能对比图。

具体实施方式

下面结合附图对本发明做进一步描述：

本发明把图像压缩感知测量值(CS测量值)看成图像的特征数据，通过反卷积网络，使特征数据经过反卷积上采样、反激活过程，从而达到用特征数据生成图像的目的；接下来把生成图像与真实图像输入卷积神经网络，来完成生成图像和真实图像的判别区分，同时判别网络通过梯度的方式隐式地说明什么样的输入更加像真实样本，从而利用梯度信息来调整生成网络的参数,完成迭代优化从图像CS测量值到重构图像的生成模型。在本发明中，生成网络通过加入交叉熵最小、生成图像测量值与输入测量值范数以及生成图像与真实原图像范数最小作为代价函数进行学习，使得生成模型具有很好的表达能力，对同类图像，只需要输入CS测量值，就能快速生成重构图像，并且保证图像重构的质量。

本发明的一种基于深度学习的压缩感知图像快速重构系统与方法，主要包括用于从CS测量值生成重构图像的反卷积网络(简称生成器)和用于判别重构图像真实度的卷积神经网络(以下简称判别器)，其特征包括以下步骤：

1)将图像X的CS测量值y和测量矩阵Φ的伪逆的乘积进行重构：得到生成器的输入数据

2)生成器的初始化

2a)确立生成器的损失函数、输出单元、隐藏单元、结构以及梯度更新算法。

生成器的损失函数如下：

上式中，表示生成器G在接受输入特征数据之后生成的图像，即“重构图像”，Φ表示CS观测矩阵，θ_g表示生成器网络内部参数；表示在固定判别器内部参数时，判别器D对于生成器输出的“重构图像”的真实性概率判定结果，θ_d表示判别器内部参数，E表示数学期望。综上所述，该损失函数包含了对抗损失、CS输入测量值与生成图像测量值范数和生成图像与相对应真实图像范数，其中的范数和范数使用比较模块完成。生成器的优化目标就是通过损失函数的梯度信息来更新生成器内部参数θ_g使得损失函数最小，即

生成器输出单元为其输出层的激活函数：双曲正切函数(Tanh)，其表达式：

其中z为生成器输出单元的输入，即前一层(转置卷积层)的输出，tanh(z)为经过输出单元后输出。

隐藏单元是生成器转置卷积层的激活函数，为整流线性单元(ReLU)，其表达式：ReLU(z)＝max(0，z)。隐藏单元位于每一个转置卷积最后，即每一个转置卷积的结果都要经过隐藏单元之后得到输出ReLU(z)。

生成器结构包括1个全连接层、4个转置卷积层和1个输出层。其中第一转置卷积层包含有512个5*5大小的卷积核，上采样步长为2；第二转置卷积层包含有256个5*5大小的卷积核，上采样步长为2；第三转置卷积层包含有128个5*5大小的卷积核，上采样步长为2；第四转置卷积层包含有64个5*5大小的卷积核，上采样步长为2。

生成器的梯度更新算法是根据损失函数采用替代传统随机梯度下降法的自适应矩估计(Adam)一阶优化梯度算法(以下简称Adam优化算法)。

2b)初始化生成器网络内部参数θ_g。

生成器网络的内部参数θ_g指的是生成器内转置卷积层以及全连接层内的权重，而生成器网络的转置卷积层和全连接层权重都采用零均值标准差为0.02的正态随机分布。

3)生成器的学习

3a)将特征数据输入到生成器中。

3b)特征数据在生成器中依次经过1个全连接层、4个转置卷积层和1个输出层之后得到重构完成的图像

3c)生成器根据其损失函数在固定判别器网络的情况下，利用Adam优化算法完成生成器内部网络参数θ_g的更新。

4)判别器的初始化

4a)确立判别器的损失函数、输出单元、隐藏单元、结构以及梯度更新算法。

判别器的损失函数如下：

上式中，x为真实图像，D(x；θ_d)表示判别器D对于真实图像真实性的概率判定结果，θ_d表示判别器网络中的参数，表示在固定生成器G内部参数时，判别器对于生成器输出的“重构图像”的真实性概率判定结果，θ_g表示生成器内部参数，E表示数学期望。上式表示了判别器的对抗损失所包含的两个部分，分别是对于真实图像的概率判定以及对“重构图像”的真实性概率判定。判别器的优化目标就是通过损失函数的梯度信息来更新判别器内部参数θ_d使得损失函数最小，即

判别器输出单元是其输出层的激活函数，为Sigmoid激活函数，其表达式：

其中p为判别器输出单元的输入，即为其前一层(卷积层)的输出，经过输出单元后结果为S(p)。

隐藏单元是判别器中卷积层的激活函数，为渗漏整流线性单元(Leaky ReLU)，其表达式：LReLU(p)＝max(0，p)+αmin(0，p)。隐藏单元位于每一个卷积层最后，即每一个卷积之后的结果都要经过隐藏单元得到输出LReLU(p)。

判别器网络结构包括4个卷积层、1个全连接层和1个输出层。其中第一卷积层包含有64个5*5大小的卷积核，卷积步长为2；第二卷积层包含有128个5*5大小的卷积核，卷积步长为2；第三卷积层包含有256个5*5大小的卷积核，卷积步长为2；第四卷积层包含有512个5*5大小的卷积核，卷积步长为2。

判别器根据损失函数同样采用替代传统随机梯度下降法的Adam优化算法作为其梯度更新算法。

4b)初始化判别器网络内部参数θ_d。

判别器网络参数θ_d指的是判别器中卷积层以及全连接层的权重，判别器网络中的各个卷积层卷积核权重初始化均采用零均值标准差为0.02的截断正态随机分布，即初始化的值服从具有指定平均值和标准差的正态分布，如果生成的值大于平均值2个标准偏差值则丢弃重新选择，而全连接层权重采用零均值标准差为0.02的正态随机分布。

5)判别器的学习

5a)将生成器重构所得到的图像和真实图像输入到判别器中。

5b)图像数据在判别器中依次经过4个卷积层、1个全连接层和输出层得到判别器对于输入图像真实性的概率判定结果。

5c)判别器根据其损失函数在固定生成器网络的情况下，利用Adam优化算法完成判别器内部参数的更新。

6)系统总体训练和网络模型的保存

6a)设置总迭代次数。

6b)生成器和判别器的参数更新过程是交替进行的，即固定其中一个网络参数，完成另一个的参数更新。本发明利用Adam优化算法分别根据生成器和判别器损失函数的梯度信息完成各自网络内部参数的迭代更新，生成器参数更新过程为(3a)～(3c),判别器的参数更新过程为(5a)～(5c)，交替重复生成器和判别器的学习，完成系统的训练。

6c)将训练完成的生成器和判别器分别保存下来(即保存训练完成的生成器内部参数θ_g以及判别器内部参数θ_d)。训练完成所得到的生成器就是本发明所提出的快速压缩感知重构模型。

本实施例中，图1给出了本发明提出的基于深度学习的压缩感知同类图像快速重构系统总体框架，系统的总体工作流程为：将CS观测值与观测矩阵的伪逆相乘结果输入到生成器当中，生成初始“重构图像”；再将“重构图像”和真实图像输入到判别器，输出真实性概率，计算判别器损失函数，根据判别器损失函数反馈到生成器，结合生成器自身损失函数，进一步调整生成器网络参数，生成新的“重构图像”，完成一次迭代，根据设定的迭代次数进行系统训练，完成训练的生成器即为本发明所需要的CS重构模型。其中真实图像指的是一组相同类型图像，例如一组医学人脑核磁共振图像。本发明采用对抗训练的方式，实际上是生成器和判别器之间的一个零和游戏，通过二者之间的对抗同时提升生成器的“重构”能力和判别器的“判别”能力。网络的训练具体表现为，分别根据生成器和判别器的损失函数，在固定另一个网络的前提下，交替采用Adam优化算法迭代更新生成器和判别器网络内部参数，完成本系统的训练。

基于深度学习的压缩感知同类图像快速重构方法，包括如下步骤：

步骤1：得到输入特征数据(图1)

将图像X的CS测量值y和测量矩阵Φ的伪逆的乘积进行重构：得到生成器的输入特征数据

步骤2：生成器的初始化

2a)确立损失函数：生成器的作为该系统中“重构图像”的关键模型，其目标是使得生成图像和需要重构的原始图像尽可能一样，所以该生成器的损失函数中增加了生成图像和原始图像的范数约束(范数比较模块)；此外，生成器是由CS测量值进行图像的重构，生成器的图像其CS观测值应与原真实图像观测值保持一致，所以生成器损失函数中增加了生成图像CS观测值和原CS观测值的范数约束(范数比较模块)；最后，由于本系统采用的对抗训练模式，所以生成器应使得判别器对于其生成图像的判别接近1(真)。综上所述，生成器的损失函数如下：

上式中，η，λ分别为权重系数，表示生成器G在接受输入特征数据之后生成的图像，即“重构图像”，Φ表示CS观测矩阵，θ_g表示生成器网络内部参数；表示在固定判别器内部参数时，判别器D对于生成器输出的“重构图像”的真实性概率判定结果，θ_d表示判别器内部参数，E表示数学期望。η和λ为权重，用以调整各约束在总损失所占的比例，实验中设为0.5。生成器的优化目标就是通过损失函数的梯度信息来更新生成器内部参数θ_g使得损失函数最小，即

2b)确立输出单元：生成器输出单元为其输出层的激活函数：双曲正切函数(Tanh)，其表达式：其中z为生成器输出单元的输入，即前一层(转置卷积层)的输出，tanh(z)为经过输出单元后输出。双曲正切函数的定义域为(-∞,+∞)，值域为(-1,1)。采用双曲正切函数作为其输出单元可以将生成器隐藏层所传来的特征图数值映射到真实归一化了的图像域(-1,1)。

2c)确立隐藏单元：隐藏单元是生成器转置卷积层的激活函数，为整流线性单元(ReLU)，其表达式：ReLU(z)＝max(0，z)隐藏单元位于每一个转置卷积最后，即每一个转置卷积的结果都要经过隐藏单元之后得到输出ReLU(z)。采用整流线性单元是因为其和线性单元非常相似，在其激活状态时(定义域大于0)，梯度不仅大而且一致。二阶导数几乎处处为0，处于激活状态时，一阶导数处处为1，梯度方向对于学习来说更加有用，易于优化。

2d)确立网络结构：生成器包括1个全连接层、4个转置卷积层和1个输出层。其中第一转置卷积层包含有512个5*5大小的卷积核，上采样步长为2；第二转置卷积层包含有256个5*5大小的卷积核，上采样步长为2；第三转置卷积层包含有128个5*5大小的卷积核，上采样步长为2；第四转置卷积层包含有64个5*5大小的卷积核，上采样步长为2。

2e)初始化生成器网络内部参数θ_g。

生成器网络的内部参数θ_g指的是生成器中转置卷积层以及全连接层内的权重，而生成器网络的转置卷积层和全连接层权重都采用零均值标准差为0.02的正态随机分布，偏置bias初始化为0。

步骤3：生成器的学习

3a)将特征数据输入到生成器中。

3b)特征数据在生成器中依次经过1个全连接层、4个转置卷积层和1个输出层之后得到重构完成的图像

下面结合图2做详细介绍：图像特征数据的列向量m作为生成器的输入，首先经过一个全连接层，全连接层提取y的特征得到特征向量m_，然后y_经过重新排列之后成为第一转置卷积层的输入特征图像层h0；h0层包含有512个特征图，特征图大小为w0*h0，h0层经过第一个转置卷积层生成特征图像层h1层，其中第一转置卷积层含有256个5*5大小的卷积核，转置卷积步长为2；h1层包含有256个特征图，特征图大小为w1*h1，h1层经过第二个转置卷积层生成特征图像层h2层，其中第二转置卷积层含有128个5*5大小的卷积核，转置卷积步长为2；h2层包含有128个特征图，特征图大小为w2*h2，h2层经过第三个转置卷积层生成特征图像层h3层，其中第三转置卷积层含有64个5*5大小的卷积核，转置卷积步长为2；h3层包含有64个特征图，特征图大小为w3*h3，h3层经过第四个转置卷积层生成特征图像层h4层，其中第四转置卷积层含有1个5*5大小的卷积核，转置卷积步长为2；h4层包含有1个特征图，特征图大小为w*h。最后h4层经过输出层的输出单元Tanh的到最终输出的“重构图像”上述各个特征图像层特征图的大小关系如下：

3c)生成器网络参数更新：根据其损失函数的梯度信息来完成其内部参数的更新，全局或局部最小化其损失函数来达到完成生成器训练的目的。本系统中采用替代传统随机梯度下降法的Adam优化算法作为其梯度更新算法。

步骤4：判别器的初始化

4a)确立损失函数：生成器目标在于提高对真实输入图像的判定概率期望，使其接近1(真)；降低对于生成图像的判定概率期望，使其接近0(假)。综上，判别器的损失函数如下：

上式中，x为真实图像，D(x；θ_d)表示判别器D对于真实图像真实性的概率判定结果，θ_d表示判别器网络中的参数，表示在固定生成器G内部参数时，判别器对于生成器输出的“重构图像”的真实性概率判定结果，θ_g表示生成器内部参数，E表示数学期望。上式表示了判别器的对抗损失所包含的两个部分，分别是对于真实图像的概率判定以及对“重构图像”的真实性概率判定。判别器的优化目标就是通过损失函数的梯度信息来更新判别器内部参数θ_d使得损失函数最小，即

4b)确立输出单元：判别器输出单元是其输出层的激活函数，为Sigmoid激活函数，其表达式：其中p为判别器输出单元的输入，即为其前一层(卷积层)的输出，经过输出单元后结果为S(p)。判别器输出单元采用Sigmoid函数，目的是使判别器输出一个介于0和1之间的真实性概率值，因为Sigmoid函数可以将定义域内的实数值映射到(0,1)，且函数处处可导，便于优化。

4c)确立隐藏单元：隐藏单元是判别器中卷积层的激活函数，为渗漏整流线性单元(Leaky ReLU)，其表达式：LReLU(p)＝max(0，p)+αmin(0，p)，其中α为一个小的非零数，设为0.2。隐藏单元位于每一个卷积层最后，即每一个卷积之后的结果都要经过隐藏单元得到输出LReLU(p)。渗漏整流线性单元既保留了整流线性单元的优点，又能够使得在定义域(-∞,0)上有着小数值的映射。

4d)确立判别器结构：判别器网络包括4个卷积层、1个全连接层和1个输出层。其中第一卷积层包含有64个5*5大小的卷积核，卷积步长为2；第二卷积层包含有128个5*5大小的卷积核，卷积步长为2；第三卷积层包含有256个5*5大小的卷积核，卷积步长为2；第四卷积层包含有512个5*5大小的卷积核，卷积步长为2。

4e)初始化判别器网络内部参数θ_d。

判别器网络内部参数θ_d指的是判别器中卷积层以及全连接层的权重，判别器网络中的各个卷积层卷积核权重初始化均采用零均值标准差为0.02的截断正态随机分布，即初始化的值服从具有指定平均值和标准差的正态分布，如果生成的值大于平均值2个标准偏差值则丢弃重新选择，而全连接层权重采用零均值标准差为0.02的正态随机分布，偏置bias初始化为0。

步骤5：判别器的学习

5a)将生成器重构所得到的图像和真实图像输入到判别器中。

5b)图像数据在判别器中依次经过4个卷积层、1个全连接层和输出层得到判别器对于输入图像真实性的概率判定结果D。

下面结合图3做详细介绍：判别器接受来自生成器的生成图像以及真实图像X，输出其对输入图像的真实性概率判定结果，该值介于0(假)和1(真)之间。判别器输入1帧图像数据，首先经过第一卷积层得到特征图层h0层，第一卷积层包含有64个大小为5*5的卷积核，卷积步长为2；h0层含有64个w0*h0大小的特征图，其经过第二卷积层得到特征图层h1层，第二卷积层包含有128个大小为5*5的卷积核，卷积步长为2；h1层含有128个w1*h1大小的特征图，其经过第三卷积层得到特征图层h2层，第三卷积层包含有256个大小为5*5的卷积核，卷积步长为2；h2层含有256个w2*h2大小的特征图，其经过第四卷积层得到特征图层h3层，第四卷积层包含有512个大小为5*5的卷积核，卷积步长为2；h3层含有512个w3*h3大小的特征图，其经过一个全连接层得到一个输出值p；最后p经过输出层输出单元Sigmoid函数得到判别器对于输入图像的真实性判定概率值D，即

5c)判别器网络参数更新：根据其损失函数的梯度信息来完成其内部参数的更新，全局或局部最小化其损失函数来达到完成生成器训练的目的。本系统中采用替代传统随机梯度下降法的一阶优化算法Adam优化算法作为其梯度更新算法。

步骤6：系统总体训练和训练后网络的保存

6a)在系统的训练过程中，生成器的转置卷积层和判别器的卷积层都采用了批标准化(Batch Normalization)，批标准化可以解决因糟糕的初始化引起的训练问题，使得梯度能传播更深层次，避免生成模型崩溃。

6b)设置总迭代次数，本系统总的迭代次数设为80次，每一个epoch中需要根据训练集个数交替迭代生成器和判别器来更新其网络内部参数。

6c)生成器和判别器的参数更新过程是交替进行的，即固定其中一个网络参数，完成另一个的参数更新。本发明利用Adam优化算法分别根据生成器和判别器损失函数的梯度信息完成各自网络内部参数的迭代更新，生成器参数更新过程为(3a)～(3c),判别器的参数更新过程为(5a)～(5c)，交替重复生成器和判别器的学习，完成系统的训练。

6d)将训练完成的生成器和判别器分别保存下来(即保存训练完成的生成器内部参数θ_g以及判别器内部参数θ_d)。训练完成所得到的生成器就是本发明所提出的快速压缩感知重构模型。

图4为本发明与传统的压缩感知算法性能对比图。传统算法包括压缩采样匹配追踪法(CoSaMP)、贪婪基追踪法(GBP)、迭代硬阈值法(IHT)迭代加权最小二乘法(IRLS)、正交匹配追踪法(OMP)以及子空间追踪法(SP)，本发明用GCS表示。实验采用核磁共振图像集作为同类图像集参与模型训练。从图4中可以明显看出本发明所提出的压缩感知重构系统的重构图像质量客观评价标准(PSNR)与迭代加权最小二乘法(IRLS)具有接近的质量，明显领先其他传统算法。并且从主观质量上，本发明模型所得到的重构图像结构要优于IRLS：图像更平滑，细节保留的更多。

表1为本发明与传统压缩感知算法时间对比表。可以明确看出本发明模型所得到的反卷积网络(生成器)由CS观测值重构图像的时间消耗较之传统算法有着较大的优势。

表1

算法	CoSaMP	GBP	IHT	IRLS	OMP	SP	GCS
								时间/s	3.0359	3.7655	0.1946	4.8212	0.4222	2.2291	0.0960

以上详细描述了本发明的较佳具体实施例。应当理解，本领域的普通技术人员无需创造性劳动就可以根据本发明的构思做出诸多修改和变化。因此，凡本技术领域中技术人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案，皆应在由权利要求书所确定的保护范围内。

Claims (6)

1.一种深度学习的压缩感知同类图像快速重构系统，其特征在于，包括用于从CS测量值生成重构图像的反卷积网络，即生成器；和用于判别重构图像真实度的卷积神经网络，即判别器；

所述生成器的结构包括1个全连接层、4个转置卷积层和1个输出层，其中第一转置卷积层包含有512个5*5大小的卷积核，上采样步长为2；第二转置卷积层包含有256个5*5大小的卷积核，上采样步长为2；第三转置卷积层包含有128个5*5大小的卷积核，上采样步长为2；第四转置卷积层包含有64个5*5大小的卷积核，上采样步长为2；

所述判别器的网络结构包括4个卷积层、1个全连接层和1个输出层，其中第一卷积层包含有64个5*5大小的卷积核，卷积步长为2；第二卷积层包含有128个5*5大小的卷积核，卷积步长为2；第三卷积层包含有256个5*5大小的卷积核，卷积步长为2；第四卷积层包含有512个5*5大小的卷积核，卷积步长为2。

2.一种深度学习的压缩感知同类图像快速重构方法，包括以下步骤：

1)将图像X的CS测量值y和测量矩阵Φ的伪逆的乘积进行重构：

得到生成器的输入数据

2)生成器的初始化

2a)确立生成器的损失函数、输出单元、隐藏单元以及梯度更新算法；

2b)初始化生成器网络内部参数θ_g；

3)生成器的学习

3a)将特征数据输入到生成器中；

3b)特征数据经过生成器得到重构完成的图像

3c)生成器根据其损失函数在固定判别器网络的情况下，利用自适应矩估计优化梯度算法，即Adam优化算法，完成生成器内部网络参数的更新；

4)判别器的初始化

4a)确立判别器的损失函数、输出单元、隐藏单元以及梯度更新算法；

4b)初始化判别器网络内部参数θ_d；

5)判别器的学习

5a)将生成器重构所得到的图像和真实图像输入到判别器中；

5b)图像数据X经过判别器得其对于输入图像真实性的概率判定结果；

5c)判别器根据其损失函数在固定生成器网络的情况下，利用Adam优化算法完成判别器内部参数的更新；

6)系统总体训练和网络模型的保存：

6a)设置总迭代次数；

6b)生成器和判别器的参数更新交替进行，即固定其中一个网络参数，完成另一个的参数更新，利用所述Adam优化算法分别根据生成器和判别器损失函数的梯度信息完成各自网络内部参数的迭代更新，生成器参数更新过程为(3a)～(3c),判别器的参数更新过程为(5a)～(5c)，交替重复生成器和判别器的学习，完成系统的训练；

6c)将训练完成的生成器和判别器分别保存下来，训练完成所得到的生成器就是快速压缩感知重构模型。

3.根据权利要求2所述的深度学习的压缩感知同类图像快速重构方法，其特征在于：步骤2a)中所述的生成器的损失函数、输出单元、隐藏单元以及梯度更新算法如下：

生成器的损失函数为：

上式中，η，λ分别为权重系数，表示生成器G在接受输入特征数据之后生成的图像，即重构图像，Φ表示CS观测矩阵，θ_g表示生成器网络内部参数；表示在固定判别器内部参数时，判别器D对于生成器输出的重构图像的真实性概率判定结果，θ_d表示判别器内部参数，E表示数学期望；综上所述，损失函数包含了对抗损失、CS输入测量值与生成图像测量值l₂范数和生成图像与相对应真实图像l₁范数，其中的l₁范数和l₂范数使用比较模块完成，生成器的优化目标就是通过损失函数的梯度信息来更新生成器内部参数θ_g使得损失函数最小，即

生成器输出单元为其输出层的激活函数：双曲正切函数Tanh，其表达式：

生成器输出单元的输入为其前一转置卷积层的输出z，经过输出单元后结果为tanh(z)；

隐藏单元是生成器转置卷积层的激活函数，为整流线性单元ReLU，其表达式：ReLU(z)＝max(0，z)，隐藏单元位于每一个转置卷积最后，即每一个转置卷积的结果都要经过隐藏单元之后得到输出ReLU(z)；

生成器的梯度更新算法采用的是一阶自适应矩估计优化梯度算法，即Adam优化算法。

4.根据权利要求2所述的基于深度学习的压缩感知图像快速重构方法，其特征在于：步骤2b)中生成器网络内部参数θ_g的初始化如下：

生成器网络的内部参数θ_g指的是生成器内转置卷积层以及全连接层内的权重，而生成器网络的转置卷积层和全连接层权重都采用零均值标准差为0.02的正态随机分布。

5.根据权利要求2所述的基于深度学习的压缩感知图像快速重构方法，其特征在于：步骤4a)中所述的判别器的损失函数、输出单元、隐藏单元以及梯度更新算法如下：

判别器的损失函数如下：

上式中，x为真实图像，D(x；θ_d)表示判别器D对于真实图像真实性的概率判定结果，θ_d表示判别器网络中的参数，表示在固定生成器G内部参数时，判别器对于生成器输出的重构图像的真实性概率判定结果，θ_g表示生成器内部参数，E表示数学期望；上式表示了判别器的对抗损失所包含的两个部分，分别是对于真实图像的概率判定以及对重构图像的真实性概率判定，判别器的优化目标就是通过损失函数的梯度信息来更新判别器内部参数θ_d使得损失函数最小，即

判别器输出单元是其输出层的激活函数，为Sigmoid激活函数，其表达式：

其中p为判别器输出单元的输入，即为其前一卷积层的输出，经过输出单元后结果为S(p)；

隐藏单元是判别器中卷积层的激活函数，为渗漏整流线性单元Leaky ReLU，其表达式：LReLU(p)＝max(0，p)+αmin(0，p)，隐藏单元位于每一个卷积层最后，即每一个卷积之后的结果都要经过隐藏单元得到输出LReLU(p)；

判别器的梯度更新算法同样采用Adam优化算法。

6.根据权利要求2所述的基于深度学习的压缩感知图像快速重构方法，其特征在于：步骤4b)中判别器网络内部参数θ_d的初始化：

判别器网络参数θ_d指的是判别器中卷积层以及全连接层的权重，判别器网络中的各个卷积层卷积核权重初始化均采用零均值标准差为0.02的截断正态随机分布，即初始化的值服从具有设定平均值和标准差的正态分布，如果生成的值大于平均值2个标准偏差值则丢弃重新选择，而全连接层权重采用零均值标准差为0.02的正态随机分布。