CN111986092A - 一种基于双重网络的图像超分辨率重建方法及系统 - Google Patents

一种基于双重网络的图像超分辨率重建方法及系统 Download PDF

Info

Publication number
CN111986092A
CN111986092A CN202010927427.1A CN202010927427A CN111986092A CN 111986092 A CN111986092 A CN 111986092A CN 202010927427 A CN202010927427 A CN 202010927427A CN 111986092 A CN111986092 A CN 111986092A
Authority
CN
China
Prior art keywords
image
network
layer
residual
super
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010927427.1A
Other languages
English (en)
Other versions
CN111986092B (zh
Inventor
倪翠
王朋
卢灏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong Jiaotong University
Original Assignee
Shandong Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong Jiaotong University filed Critical Shandong Jiaotong University
Priority to CN202010927427.1A priority Critical patent/CN111986092B/zh
Publication of CN111986092A publication Critical patent/CN111986092A/zh
Application granted granted Critical
Publication of CN111986092B publication Critical patent/CN111986092B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • G06T3/4076Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution using the original low-resolution images to iteratively correct the high-resolution images

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)

Abstract

本申请公开了一种基于双重网络的图像超分辨率重建方法及系统,该方法分别对原始图像数据分别进行上层网络训练获取图像特征的整体信息,进行下层网络训练获取图像特征的高频信息,然后对整体信息和高频信息进行加权平均,计算得出第一超分辨率重建图像,最后对第一超分辨率重建图像进行亚像素卷积操作,将其转换为第二超分辨率重建图像。该系统包括:图像整体信息获取模块、图像高频信息获取模块、加权平均计算模块和转换模块。通过本申请,能够提高图像超分辨率精度,并有利于提高运算效率。

Description

一种基于双重网络的图像超分辨率重建方法及系统
技术领域
本申请涉及图像处理技术领域,特别是涉及一种基于双重网络的图像超分辨率重建方法及系统。
背景技术
在图像处理技术领域,进行图像超分辨率重建,是提高图像和视频分辨率的一种重要图像处理技术。根据不同的处理对象,图像超分辨率重建技术中的分辨率通常包括三类:多幅图像超分辨率、视频序列超分辨率和单幅图像超分辨率。其中,单幅图像超分辨率的重建方法是针对单幅图像进行分辨率的处理。如何对单幅图像进行超分辨率重建,从而将低分辨率图像转换为分辨率更高、信息更丰富的高分辨率图像,是个重要的技术问题。
目前,单幅图像超分辨率的重建方法主要是基于卷积神经网络的深度学习方法,又称SRCNN(Super-Resolution Convolutional Neural Network,超分辨率卷积神经网络算法)方法。具体地,首先对低分辨率(LR)图像进行一次预处理,通过双三次插值的方法将低分辨率(LR)图像放大至与目标图像相同分辨率尺寸,最后将此过程图像作为模型的输入,通过网络模型实现特征提取(Patch extraction and representation)、非线性映射(Non-linear mapping)等操作,从而获得指定放大倍数的高分辨率(HR)目标图像。SRCNN模型网络结构示意图可以参见图1。
目前的SRCNN图像超分辨率重建方法中,对低分辨率图像的预处理过程中需要对低分辨率图像进行双三次插值,得到放大后的图像I',然后以I'作为初始值,增加了整个重建过程的运算量,从而导致降低运算效率。而且由于SRCNN方法采用了简单的卷积层,存在感受视野小的问题,在提高图像超分辨率的细节上,所能提供的特征局限较大,会导致超分重建后的精度不够高的问题。
发明内容
本申请提供了一种基于双重网络的图像超分辨率重建方法及系统,以解决现有技术中图像超分辨率重建的运算效率较低、图像超分辨率重建后结果精度不够高的问题。
为了解决上述技术问题,本申请实施例公开了如下技术方案:
一种基于双重网络的图像超分辨率重建方法,所述方法包括:
对原始图像数据I进行上层网络训练,获取图像特征的整体信息R1,所述上层网络为卷积神经网络,且上层网络包括:第一卷积层和第二卷积层;
对原始图像数据I进行下层网络训练,获取图像特征的高频信息R2,所述下层网络为卷积神经网络,且下层网络包括:带组归一化卷积层和残差网络,所述下层网络中最后一层的输出通道数与上层网络的输出通道数相同;
对所述整体信息R1和高频信息R2进行加权平均,将所述高频信息R2添加至整体信息R1中,计算得出第一超分辨率重建图像,所述第一超分辨率重建图像为改进后的整体特征图像;
对所述第一超分辨率重建图像进行亚像素卷积操作,将其转换为第二超分辨率重建图像,所述第二超分辨率重建图像为最终的超分辨率重建图像。
可选地,所述第一卷积层采用64个卷积核,每个卷积核的大小为5*5,所述第二卷积层采用32个卷积核,每个卷积核的大小为3*3。
可选地,所述带组归一化卷积层中包括:128个卷积核和归一化层GN,所述归一化层GN的通道数为128,组数为4,所采用的激活函数为Tanh(x)函数,
Figure BDA0002668934460000021
所述残差网络包括:第一残差网络层和第二残差网络层,任一残差网络层中包括第一残差块和第二残差块,所述第一残差网络层的输入通道数为128,输出通道数为64,残差块数量为2,所述第二残差网络层的输入通道数为64,输出通道数为32,残差块数量为2,且所述残差网络中使用的激活函数为ReLU(x)函数,ReLU(x)=max(0,x)。
可选地,亚像素卷积操作中的亚像素卷积层采用N个卷积核,且每个卷积核大小为3*3,其中,N的计算公式为:N=原始图像数据通道数*放大倍数2。
可选地,对所述整体信息R1和高频信息R2进行加权平均,将所述高频信息R2添加至整体信息R1中,计算得出第一超分辨率重建图像的方法,具体为:
利用公式R'=0.8×R1+0.2×R2,对所述整体信息R1和高频信息R2进行加权平均,其中,R'为超分辨率重建图像。
可选地,所述对原始图像数据I进行下层网络训练,获取图像特征的高频信息R2,包括:
对原始图像数据I进行卷积操作,获取残差网络的输入数据x;
根据所述输入数据x,进行残差网络处理,获取图像特征的高频信息R2。
可选地,所述根据所述输入数据x,进行残差网络处理,获取图像特征的高频信息R2,包括:
在第一残差块中,输入数据x分别通过第一残差块中的第一卷积层和第二卷积层,利用激活函数ReLU获取降维后的第一特征图像;
对输入数据x进行1*1的卷积降维,获取第二特征图像;
对所述第一特征图像和第二特征图像进行单位加操作;
利用ReLU函数对单位加操作结果进行激活,获取第二残差块的输入数据;
对第二残差块的输入数据分别通过第一卷积层和第二卷积层,利用激活函数ReLU获取降维后的第三特征图像,直到利用ReLU函数对单位加操作结果进行激活,获取图像特征的高频信息R2。
一种基于双重网络的图像超分辨率重建系统,所述系统包括:
图像整体信息获取模块,用于对原始图像数据I进行上层网络训练,获取图像特征的整体信息R1,所述上层网络为卷积神经网络,且上层网络包括:第一卷积层和第二卷积层;
图像高频信息获取模块,用于对原始图像数据I进行下层网络训练,获取图像特征的高频信息R2,所述下层网络为卷积神经网络,且下层网络包括:带组归一化卷积层和残差网络,所述下层网络中最后一层的输出通道数与上层网络的输出通道数相同;
加权平均计算模块,用于对所述整体信息R1和高频信息R2进行加权平均,将所述高频信息R2添加至整体信息R1中,计算得出第一超分辨率重建图像,所述第一超分辨率重建图像为改进后的整体特征图像;
转换模块,用于对所述第一超分辨率重建图像进行亚像素卷积操作,将其转换为第二超分辨率重建图像,所述第二超分辨率重建图像为最终的超分辨率重建图像。
可选地,所述带组归一化卷积层中包括:128个卷积核和归一化层GN,所述归一化层GN的通道数为128,组数为4,所采用的激活函数为Tanh(x)函数,
Figure BDA0002668934460000031
所述残差网络包括:第一残差网络层和第二残差网络层,任一残差网络层中包括第一残差块和第二残差块,所述第一残差网络层的输入通道数为128,输出通道数为64,残差块数量为2,所述第二残差网络层的输入通道数为64,输出通道数为32,残差块数量为2,且所述残差网络中使用的激活函数为ReLU(x)函数,ReLU(x)=max(0,x)。
可选地,所述图像高频信息获取模块包括:
卷积操作单元,用于对原始图像数据I进行卷积操作,获取残差网络的输入数据x;
残差处理单元,用于根据所述输入数据x,进行残差网络处理,获取图像特征的高频信息R2。
本申请的实施例提供的技术方案可以包括以下有益效果:
本申请提供一种基于双重网络的图像超分辨率重建方法,该方法分别对原始图像数据进行上层网络训练,获取图像特征的整体信息,对原始图像数据进行下层网络训练,获取图像特征的高频信息,然后对整体信息和高频信息进行加权平均,将高频信息添加至整体信息中,计算得出第一超分辨率重建图像,最后利用亚像素卷积层将第一超分辨率重建图像转换为第二超分辨率重建图像。本实施例中通过在原有的ESPCN算法中增加下层网络,对原始低分辨率图像数据实现双重网络训练,在原有整体信息的基础上增加高频信息,也就是细节信息,再对整体信息和高频信息进行加权平均,就能够将更多的高频信息添加至整体信息中,有利于提高图像超分辨率的精度。本实施例中并不需要对原始图像进行多次插值,能够避免对原始图像进行尺寸增大,因此不会增加重建过程中的运算量,有利于提高运算效率。本实施例的带组归一化卷积层中卷积核数量由64个增加至128个,从而得多更多的细节信息,有利于进一步提高图像超分辨率精度。通过添加归一化层GN,使得下一层输入数据的均值能够与方差固定在一定范围内,有利于尽快找到最优解,从而提高运算效率。
本申请还提供一种基于双重网络的图像超分辨率重建系统,该系统主要包括:图像整体信息获取模块、图像高频信息获取模块、加权平均计算模块和转换模块。通过设置图像高频信息获取模块,对原始图像数据进行下层网络训练,能够获取图像特征的高频信息,也就是获取到细节信息,再利用加权平均模块对整体信息和高频信息进行加权,将高频信息添加至整体信息中,从而获取到比原始图像数据精度更高的第一超分辨率重建图像,最后通过转换模块,利用亚像素卷积层将第一超分辨率重建图像转换为第二超分辨率重建图像,该系统并不需要对原始图像进行多次插值,能够避免对原始图像进行尺寸增大,因此不会增加重建过程中的运算量,有利于提高运算效率。该系统通过设置高频信息获取模块,能够有效提高图像的精度。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为背景技术中的SRCNN模型网络结构示意图;
图2为本申请实施例所提供的一种基于双重网络的图像超分辨率重建方法的流程示意图;
图3为现有的ESPCN模型网络结构示意图;
图4为本申请实施例中的ESPCN模型网络结构示意图;
图5为一个残差网络层的结构示意图;
图6为本申请实施例所提供的一种基于双重网络的图像超分辨率重建系统的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本申请中的技术方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
为了更好地理解本申请,下面结合附图来详细解释本申请的实施方式。
实施例一
参见图2,图2为本申请实施例所提供的一种基于双重网络的图像超分辨率重建方法的流程示意图。由图2可知,本实施例中基于双重网络的图像超分辨率重建方法,主要包括如下过程:
S1:对原始图像数据I进行上层网络训练,获取图像特征的整体信息R1。
本实施例中上层网络为卷积神经网络,且上层网络包括:第一卷积层和第二卷积层。两个卷积层的卷积核数量都是2的多次方关系。本实施例中,根据实际情况,第一卷积层可以采用64个卷积核,每个卷积核的大小为5*5,第二卷积层可以采用32个卷积核,每个卷积核的大小为3*3。激活函数采用Tanh()函数,其函数形式为:
Figure BDA0002668934460000061
本实施例中上层网络采用现有的ESPCN模型网络,ESPCN模型网络结构示意图可以参见图3所示。
S2:对原始图像数据I进行下层网络训练,获取图像特征的高频信息R2。
本实施例中下层网络也为卷积神经网络,且下层网络包括:带组归一化卷积层和残差网络,下层网络中最后一层的输出通道数与上层网络的输出通道数相同。高频信息即为细节信息。本实施例中改进后的ESPCN模型网络结构示意图可以参见图4所示,由图4可知,本实施例中的ESPCN模型网络结构增加了下层网络,对原始图像数据进行下层网络训练,能够获取到图像特征的高频信息。
本实施例中的下层网络结构主要由带组归一化卷积层和残差网络组成,在原卷积层后加上归一化层GN层,并对原始图像数据进行下层网络训练,能够让后续的残差网络获取到更多的特征信息,有利于提高超分辨率重建数据的精度。
在卷积神经网络中,归一化层具有防止梯度爆炸和梯度消失的作用,在实际应用中,可根据批处理样本数量N的大小,选择合适的归一化类型。本实施例中选用归一化层GN层。
其中,带组归一化卷积层中包括:128个卷积核和归一化层GN,归一化层GN的通道数为128,组数为4,所采用的激活函数为Tanh(x)函数,
Figure BDA0002668934460000062
残差网络包括:第一残差网络层和第二残差网络层,第一残差网络层的输入通道数为128,输出通道数为64,残差块数量为2,第二残差网络层的输入通道数为64,输出通道数为32,残差块数量为2,且残差网络中使用的激活函数为ReLU(x)函数,ReLU(x)=max(0,x)。一个残差网络层由两个残差块组成:第一残差块和第二残差块。
本实施例中首个卷积层的卷积核数量由64个卷积核增加至128个卷积核,从而能够获取到更多的细节信息,有利于提高图像精度。将信息添加GN层,使得下一层输入数据的均值与方差能够固定在一定范围内,从而能够更快地找到最优解,有利于提高运算效率。
具体地,步骤S2包括如下过程:
S21:对原始图像数据I进行卷积操作,获取残差网络的输入数据x。
步骤S21的卷积操作中,原始图像数据I通过带GN的卷积层之后,通过Than激活,得到残差网络的输入数据x。
S22:根据输入数据x,进行残差网络处理,获取图像特征的高频信息R2。
具体地,步骤S22包括:
S221:在第一残差块中,输入数据x分别通过第一残差块中的第一卷积层和第二卷积层,利用激活函数ReLU获取降维后的第一特征图像。
S222:对输入数据x进行1*1的卷积降维,获取第二特征图像。
S223:对第一特征图像和第二特征图像进行单位加操作。
S224:利用ReLU函数对单位加操作结果进行激活,获取第二残差块的输入数据x'。
S225:对第二残差块的输入数据x'分别通过第一卷积层和第二卷积层,利用激活函数ReLU获取降维后的第三特征图像,直到利用ReLU函数对单位加操作结果进行激活,获取图像特征的高频信息R2。
根据步骤S225可知,获取到第二残差块的输入数据x'之后,对其分别通过第一卷积层和第二卷积层,利用激活函数ReLU获取降维后的第三特征图像,对第二残差块的输入数据进行1*1的卷积降维,获取第四特征图像,然后对第三特征图像和第四特征图像进行单位加操作,最后利用ReLU函数对单位加操作结果进行激活,获取图像特征的高频信息R2。
本实施例中一个残差网络层的结构示意图可以参见图5所示。由图5可知,在第一残差块中,输入数据(x)分别通过卷积层conv 2-1和conv 2-2,使用的激活函数为ReLU,得到降维后的特征图像F1;由于该残差块中的输入通道和输出通道维数不同,对x进行了1×1的卷积降维,该操作后的结果记为F1';随后对F1和F1'进行单位加操作;对上一步结果进行激活,得到第二残差块的输入数据。第二残差块中,具体操作与第一残差块步骤相同。
需要注意的是,本实施例中步骤S1和S2并没有先后顺序的规定,可以根据实际应用场景先执行步骤S1再执行步骤S2,也可以先执行步骤S2,再执行步骤S1,或者两个步骤同时执行。
继续参见图2可知,获取到图像特征的整体信息和高频信息之后,执行步骤S3:对整体信息R1和高频信息R2进行加权平均,将高频信息R2添加至整体信息R1中,计算得出第一超分辨率重建图像。
本实施例中第一超分辨率重建图像为改进后的整体特征图像。通过采用加权平均的方法,能够将更多的细节信息添加在上层的整体信息中,从而获取到比原始图像精度更高的第一超分辨率重建图像,大大提高图像精度。
具体地,步骤S3的实现方法如下:
利用公式R'=0.8×R1+0.2×R2,对整体信息R1和高频信息R2进行加权平均,其中,R'为第一超分辨率重建图像。本实施例中整体信息的权值取0.8,高频信息的权值取0.2,该权值的确定,是发明人通过大量实验获得。通过该权值,能够进一步提高超分辨率图像重建结果的精度。
继续参见图2可知,获取到第一超分辨率重建图像之后,执行步骤S4:对第一超分辨率重建图像进行亚像素卷积操作,将其转换为第二超分辨率重建图像。
本实施例中第二超分辨率重建图像为最终的超分辨率重建图像。亚像素卷积操作中的亚像素卷积层采用N个卷积核,且每个卷积核大小为3*3,其中,N的计算公式为:N=原始图像数据通道数*放大倍数2。激活函数采用Tanh()函数,PixShuffle层用于实现特征图转目标图。
实施例二
在图2-图5所示实施例的基础之上参见图6,图6为本申请实施例所提供的一种基于双重网络的图像超分辨率重建系统的结构示意图。由图6可知,本实施例中基于双重网络的图像超分辨率重建系统,主要包括:图像整体信息获取模块、图像高频信息获取模块、加权平均计算模块和转换模块。
其中,图像整体信息获取模块,用于对原始图像数据I进行上层网络训练,获取图像特征的整体信息R1,上层网络为卷积神经网络,且上层网络包括:第一卷积层和第二卷积层。图像高频信息获取模块,用于对原始图像数据I进行下层网络训练,获取图像特征的高频信息R2,下层网络为卷积神经网络,且下层网络包括:带组归一化卷积层和残差网络,下层网络中最后一层的输出通道数与上层网络的输出通道数相同。加权平均计算模块,用于对整体信息R1和高频信息R2进行加权平均,将高频信息R2添加至整体信息R1中,计算得出第一超分辨率重建图像,第一超分辨率重建图像为改进后的整体特征图像。转换模块,用于对第一超分辨率重建图像进行亚像素卷积操作,将其转换为第二超分辨率重建图像,第二超分辨率重建图像为最终的超分辨率重建图像。
其中,带组归一化卷积层中包括:128个卷积核和归一化层GN,归一化层GN的通道数为128,组数为4,所采用的激活函数为Tanh(x)函数,
Figure BDA0002668934460000081
残差网络包括:第一残差网络层和第二残差网络层,任一残差网络层中包括第一残差块和第二残差块,第一残差网络层的输入通道数为128,输出通道数为64,残差块数量为2,第二残差网络层的输入通道数为64,输出通道数为32,残差块数量为2,且残差网络中使用的激活函数为ReLU(x)函数,ReLU(x)=max(0,x)。
进一步地,图像高频信息获取模块包括:卷积操作单元和残差处理单元。其中,卷积操作单元,用于对原始图像数据I进行卷积操作,获取残差网络的输入数据x;残差处理单元,用于根据输入数据x,进行残差网络处理,获取图像特征的高频信息R2。
残差处理单元又包括:第一特征图像获取子单元、第二特征图像获取子单元、单位加操作子单元、激活子单元、第三特征图像获取子单元和第四特征图像获取子单元。其中,第一特征图像获取子单元,用于在第一残差块中,对输入数据x分别通过第一残差块中的第一卷积层和第二卷积层,利用激活函数ReLU获取降维后的第一特征图像。第二特征图像获取子单元,用于对输入数据x进行1*1的卷积降维,获取第二特征图像。单位加操作子单元,用于对第一特征图像和第二特征图像进行单位加操作。激活子单元,用于利用ReLU函数对单位加操作结果进行激活,获取第二残差网络层的输入数据x'。第三特征图像获取子单元,用于对第二残差网络层的输入数据分别通过第一卷积层和第二卷积层,利用激活函数ReLU获取降维后的第三特征图像。第四特征图像获取子单元,用于对第二残差网络层的输入数据x'进行1*1的卷积降维,获取第四特征图像。单位加操作单元,还用于对第三特征图像和第四特征图像进行单位加操作。激活子单元,还用与利用ReLU函数对第三特征图像和第四特征图像的单位加操作结果进行激活,获取图像特征的高频信息R2。
该实施例中未详细描述的部分,可以参见图2-图5所示的实施例,两个实施例之间可以互相参照,在此不再赘述。
以上所述仅是本申请的具体实施方式,使本领域技术人员能够理解或实现本申请。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (10)

1.一种基于双重网络的图像超分辨率重建方法,其特征在于,所述方法包括:
对原始图像数据I进行上层网络训练,获取图像特征的整体信息R1,所述上层网络为卷积神经网络,且上层网络包括:第一卷积层和第二卷积层;
对原始图像数据I进行下层网络训练,获取图像特征的高频信息R2,所述下层网络为卷积神经网络,且下层网络包括:带组归一化卷积层和残差网络,所述下层网络中最后一层的输出通道数与上层网络的输出通道数相同;
对所述整体信息R1和高频信息R2进行加权平均,将所述高频信息R2添加至整体信息R1中,计算得出第一超分辨率重建图像,所述第一超分辨率重建图像为改进后的整体特征图像;
对所述第一超分辨率重建图像进行亚像素卷积操作,将其转换为第二超分辨率重建图像,所述第二超分辨率重建图像为最终的超分辨率重建图像。
2.根据权利要求1所述的一种基于双重网络的图像超分辨率重建方法,其特征在于,所述第一卷积层采用64个卷积核,每个卷积核的大小为5*5,所述第二卷积层采用32个卷积核,每个卷积核的大小为3*3。
3.根据权利要求1所述的一种基于双重网络的图像超分辨率重建方法,其特征在于,所述带组归一化卷积层中包括:128个卷积核和归一化层GN,所述归一化层GN的通道数为128,组数为4,所采用的激活函数为Tanh(x)函数,
Figure FDA0002668934450000011
所述残差网络包括:第一残差网络层和第二残差网络层,任一残差网络层中包括第一残差块和第二残差块,所述第一残差网络层的输入通道数为128,输出通道数为64,残差块数量为2,所述第二残差网络层的输入通道数为64,输出通道数为32,残差块数量为2,且所述残差网络中使用的激活函数为ReLU(x)函数,ReLU(x)=max(0,x)。
4.根据权利要求1所述的一种基于双重网络的图像超分辨率重建方法,其特征在于,亚像素卷积操作中的亚像素卷积层采用N个卷积核,且每个卷积核大小为3*3,其中,N的计算公式为:N=原始图像数据通道数*放大倍数2。
5.根据权利要求1所述的一种基于双重网络的图像超分辨率重建方法,其特征在于,对所述整体信息R1和高频信息R2进行加权平均,将所述高频信息R2添加至整体信息R1中,计算得出第一超分辨率重建图像的方法,具体为:
利用公式R'=0.8×R1+0.2×R2,对所述整体信息R1和高频信息R2进行加权平均,其中,R'为超分辨率重建图像。
6.根据权利要求3所述的一种基于双重网络的图像超分辨率重建方法,其特征在于,所述对原始图像数据I进行下层网络训练,获取图像特征的高频信息R2,包括:
对原始图像数据I进行卷积操作,获取残差网络的输入数据x;
根据所述输入数据x,进行残差网络处理,获取图像特征的高频信息R2。
7.根据权利要求6所述的一种基于双重网络的图像超分辨率重建方法,其特征在于,所述根据所述输入数据x,进行残差网络处理,获取图像特征的高频信息R2,包括:
在第一残差块中,输入数据x分别通过第一残差块中的第一卷积层和第二卷积层,利用激活函数ReLU获取降维后的第一特征图像;
对输入数据x进行1*1的卷积降维,获取第二特征图像;
对所述第一特征图像和第二特征图像进行单位加操作;
利用ReLU函数对单位加操作结果进行激活,获取第二残差块的输入数据;
对第二残差块的输入数据分别通过第一卷积层和第二卷积层,利用激活函数ReLU获取降维后的第三特征图像,直到利用ReLU函数对单位加操作结果进行激活,获取图像特征的高频信息R2。
8.一种基于双重网络的图像超分辨率重建系统,其特征在于,所述系统包括:
图像整体信息获取模块,用于对原始图像数据I进行上层网络训练,获取图像特征的整体信息R1,所述上层网络为卷积神经网络,且上层网络包括:第一卷积层和第二卷积层;
图像高频信息获取模块,用于对原始图像数据I进行下层网络训练,获取图像特征的高频信息R2,所述下层网络为卷积神经网络,且下层网络包括:带组归一化卷积层和残差网络,所述下层网络中最后一层的输出通道数与上层网络的输出通道数相同;
加权平均计算模块,用于对所述整体信息R1和高频信息R2进行加权平均,将所述高频信息R2添加至整体信息R1中,计算得出第一超分辨率重建图像,所述第一超分辨率重建图像为改进后的整体特征图像;
转换模块,用于对所述第一超分辨率重建图像进行亚像素卷积操作,将其转换为第二超分辨率重建图像,所述第二超分辨率重建图像为最终的超分辨率重建图像。
9.根据权利要求8所述的一种基于双重网络的图像超分辨率重建系统,其特征在于,所述带组归一化卷积层中包括:128个卷积核和归一化层GN,所述归一化层GN的通道数为128,组数为4,所采用的激活函数为Tanh(x)函数,
Figure FDA0002668934450000031
所述残差网络包括:第一残差网络层和第二残差网络层,任一残差网络层中包括第一残差块和第二残差块,所述第一残差网络层的输入通道数为128,输出通道数为64,残差块数量为2,所述第二残差网络层的输入通道数为64,输出通道数为32,残差块数量为2,且所述残差网络中使用的激活函数为ReLU(x)函数,ReLU(x)=max(0,x)。
10.根据权利要求9所述的一种基于双重网络的图像超分辨率重建系统,其特征在于,所述图像高频信息获取模块包括:
卷积操作单元,用于对原始图像数据I进行卷积操作,获取残差网络的输入数据x;
残差处理单元,用于根据所述输入数据x,进行残差网络处理,获取图像特征的高频信息R2。
CN202010927427.1A 2020-09-07 2020-09-07 一种基于双重网络的图像超分辨率重建方法及系统 Active CN111986092B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010927427.1A CN111986092B (zh) 2020-09-07 2020-09-07 一种基于双重网络的图像超分辨率重建方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010927427.1A CN111986092B (zh) 2020-09-07 2020-09-07 一种基于双重网络的图像超分辨率重建方法及系统

Publications (2)

Publication Number Publication Date
CN111986092A true CN111986092A (zh) 2020-11-24
CN111986092B CN111986092B (zh) 2023-05-05

Family

ID=73447670

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010927427.1A Active CN111986092B (zh) 2020-09-07 2020-09-07 一种基于双重网络的图像超分辨率重建方法及系统

Country Status (1)

Country Link
CN (1) CN111986092B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113222816A (zh) * 2021-04-30 2021-08-06 Oppo广东移动通信有限公司 一种超分辨率网络结构、超分模块、设备以及重建方法
CN113379600A (zh) * 2021-05-26 2021-09-10 北京邮电大学 基于深度学习的短视频超分辨率转换方法、装置及介质
CN114708144A (zh) * 2022-03-16 2022-07-05 荣耀终端有限公司 图像数据处理方法及装置
WO2023154006A3 (en) * 2022-02-10 2023-09-21 Lemon Inc. Method and system for a high-frequency attention network for efficient single image super-resolution
CN118297804A (zh) * 2024-06-04 2024-07-05 南方海洋科学与工程广东省实验室(珠海) 一种sst空间降尺度的智能方法、装置及电子设备

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107492070A (zh) * 2017-07-10 2017-12-19 华北电力大学 一种双通道卷积神经网络的单图像超分辨率计算方法
CN108460726A (zh) * 2018-03-26 2018-08-28 厦门大学 一种基于增强递归残差网络的磁共振图像超分辨重建方法
CN110211038A (zh) * 2019-04-29 2019-09-06 南京航空航天大学 基于dirac残差深度神经网络的超分辨率重建方法
CN110276721A (zh) * 2019-04-28 2019-09-24 天津大学 基于级联残差卷积神经网络的图像超分辨率重建方法
US20190378242A1 (en) * 2018-06-06 2019-12-12 Adobe Inc. Super-Resolution With Reference Images
CN110570353A (zh) * 2019-08-27 2019-12-13 天津大学 密集连接生成对抗网络单幅图像超分辨率重建方法
CN110717856A (zh) * 2019-09-03 2020-01-21 天津大学 一种用于医学成像的超分辨率重建算法
CN111383173A (zh) * 2020-02-12 2020-07-07 山东师范大学 一种基于基线的图像超分辨率重建方法及系统
CN111429355A (zh) * 2020-03-30 2020-07-17 新疆大学 一种基于生成对抗网络的图像超分辨率重建方法
CN111461983A (zh) * 2020-03-31 2020-07-28 华中科技大学鄂州工业技术研究院 一种基于不同频度信息的图像超分辨率重建模型及方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107492070A (zh) * 2017-07-10 2017-12-19 华北电力大学 一种双通道卷积神经网络的单图像超分辨率计算方法
CN108460726A (zh) * 2018-03-26 2018-08-28 厦门大学 一种基于增强递归残差网络的磁共振图像超分辨重建方法
US20190378242A1 (en) * 2018-06-06 2019-12-12 Adobe Inc. Super-Resolution With Reference Images
CN110276721A (zh) * 2019-04-28 2019-09-24 天津大学 基于级联残差卷积神经网络的图像超分辨率重建方法
CN110211038A (zh) * 2019-04-29 2019-09-06 南京航空航天大学 基于dirac残差深度神经网络的超分辨率重建方法
CN110570353A (zh) * 2019-08-27 2019-12-13 天津大学 密集连接生成对抗网络单幅图像超分辨率重建方法
CN110717856A (zh) * 2019-09-03 2020-01-21 天津大学 一种用于医学成像的超分辨率重建算法
CN111383173A (zh) * 2020-02-12 2020-07-07 山东师范大学 一种基于基线的图像超分辨率重建方法及系统
CN111429355A (zh) * 2020-03-30 2020-07-17 新疆大学 一种基于生成对抗网络的图像超分辨率重建方法
CN111461983A (zh) * 2020-03-31 2020-07-28 华中科技大学鄂州工业技术研究院 一种基于不同频度信息的图像超分辨率重建模型及方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
WANG PENG ETC.: "Utilizing Parallel Networks to Produce Sub-Pixel Shifted Images With Multiscale Spatio-Spectral Information for Soft-Then-Hard Sub-Pixel Mapping", 《IEEE ACCESS》 *
戎亚茹: "基于深度卷积神经网络的单幅图像超分辨率算法研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113222816A (zh) * 2021-04-30 2021-08-06 Oppo广东移动通信有限公司 一种超分辨率网络结构、超分模块、设备以及重建方法
CN113379600A (zh) * 2021-05-26 2021-09-10 北京邮电大学 基于深度学习的短视频超分辨率转换方法、装置及介质
WO2023154006A3 (en) * 2022-02-10 2023-09-21 Lemon Inc. Method and system for a high-frequency attention network for efficient single image super-resolution
CN114708144A (zh) * 2022-03-16 2022-07-05 荣耀终端有限公司 图像数据处理方法及装置
CN114708144B (zh) * 2022-03-16 2023-05-26 荣耀终端有限公司 图像数据处理方法及装置
CN118297804A (zh) * 2024-06-04 2024-07-05 南方海洋科学与工程广东省实验室(珠海) 一种sst空间降尺度的智能方法、装置及电子设备
CN118297804B (zh) * 2024-06-04 2024-09-10 南方海洋科学与工程广东省实验室(珠海) 一种sst空间降尺度的智能方法、装置及电子设备

Also Published As

Publication number Publication date
CN111986092B (zh) 2023-05-05

Similar Documents

Publication Publication Date Title
CN111986092A (zh) 一种基于双重网络的图像超分辨率重建方法及系统
CN112750082B (zh) 基于融合注意力机制的人脸超分辨率方法及系统
CN108734659B (zh) 一种基于多尺度标签的亚像素卷积图像超分辨率重建方法
Zhong et al. Joint sub-bands learning with clique structures for wavelet domain super-resolution
CN111815516B (zh) 一种弱监督红外遥感图像超分辨率重建方法
CN112435191B (zh) 一种基于多个神经网络结构融合的低照度图像增强方法
CN111028146A (zh) 基于双判别器的生成对抗网络的图像超分辨率方法
CN111951164B (zh) 一种图像超分辨率重建网络结构及图像重建效果分析方法
CN111652804B (zh) 基于膨胀卷积金字塔与瓶颈网络的超分辨率重建方法
CN111932461A (zh) 一种基于卷积神经网络的自学习图像超分辨率重建方法及系统
CN111612695B (zh) 一种低分辨率人脸图像超分辨重建方法
CN110930308B (zh) 一种图像超分辨生成网络的结构搜索方法
CN115953303B (zh) 结合通道注意力的多尺度图像压缩感知重构方法及系统
CN113222818A (zh) 一种使用轻量化多通道聚合网络重建超分辨率图像的方法
CN112270646B (zh) 基于残差密集跳跃网络的超分辨增强方法
CN116468605A (zh) 基于时空分层掩膜注意力融合的视频超分辨率重建方法
CN113902620A (zh) 一种基于可变形卷积网络的视频超分辨率系统及方法
CN115829834A (zh) 基于半耦合深度卷积字典学习的图像超分辨率重建方法
Hui et al. Two-stage convolutional network for image super-resolution
CN111311488A (zh) 一种基于深度学习的高效超分辨率重建方法
CN112150356A (zh) 基于级联框架的单幅压缩图像超分辨率重建方法
CN116485654A (zh) 卷积神经网络与Transformer相结合的轻量级单图像超分辨率重建方法
CN113781306B (zh) 基于双阶段策略的高光谱图像超分辨率重建方法
CN112308772B (zh) 基于深度学习局部与非局部信息的超分辨率重建方法
CN113674151A (zh) 一种基于深度神经网络的图像超分辨率重建方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant