CN113111891B - 一种图像重建方法、装置、终端设备和存储介质 - Google Patents
一种图像重建方法、装置、终端设备和存储介质 Download PDFInfo
- Publication number
- CN113111891B CN113111891B CN202110418337.4A CN202110418337A CN113111891B CN 113111891 B CN113111891 B CN 113111891B CN 202110418337 A CN202110418337 A CN 202110418337A CN 113111891 B CN113111891 B CN 113111891B
- Authority
- CN
- China
- Prior art keywords
- feature map
- target
- combination
- row
- characteristic diagram
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biophysics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Evolutionary Biology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本申请涉及图像处理技术领域,提出一种图像重建方法、装置、终端设备和存储介质。该方法首先提取原始图像的初始特征图,然后分别计算该初始特征图中每一列像素的元素值的平均值,并根据该平均值构建目标行向量,在对该目标行向量执行一维卷积处理后于列方向上对其进行复制,得到一个特征图;以及,分别计算该初始特征图中每一行像素的元素值的平均值,并根据该平均值构建目标列向量,在对该目标列向量执行一维卷积处理后于行方向上对其进行复制,得到另一个特征图,接着将两个特征图融合;最后,对融合的特征图执行二维卷积处理,并基于该融合的特征图生成重建的图像。通过这样设置,能够捕获图像的远距离依赖关系。
Description
技术领域
本申请涉及图像处理技术领域,尤其涉及一种图像重建方法、装置、终端设备和存储介质。
背景技术
目前,深度学习已经成为图像重建的常用技术手段,现有的基于深度学习的图像重建方法主要可以分为两类,一类是基于展开的方法,从优化图像的问题出发然后把一个优化算法展开到神经网络里,该神经网络的架构是基于迭代构建的;另一类是非展开的方法,直接学习零填充数据到全采样数据的映射,以完成图像的重建。然而,这两类方法均无法捕获特征图像中内容存在联系的不同图像区域之间的相互依赖关系,也即无法捕获图像的远距离依赖关系。
发明内容
有鉴于此,本申请实施例提供了一种图像重建方法、装置、终端设备和存储介质,能够捕获图像的远距离依赖关系。
本申请实施例的第一方面提供了一种图像重建方法,包括:
获取待重建的原始图像;
提取所述原始图像的初始特征图;
分别计算所述初始特征图中每一列像素的元素值的平均值,并根据获得的各列像素对应的平均值构建目标行向量;
分别计算所述初始特征图中每一行像素的元素值的平均值,并根据获得的各行像素对应的平均值构建目标列向量;
对所述目标行向量执行一维卷积处理,并在列方向上对一维卷积处理后的所述目标行向量进行复制,得到第一特征图;
对所述目标列向量执行一维卷积处理,并在行方向上对一维卷积处理后的所述目标列向量进行复制,得到第二特征图;
将所述第一特征图和所述第二特征图融合,得到第三特征图;
对所述第三特征图执行二维卷积处理,得到第四特征图;
根据所述第四特征图生成所述原始图像对应的重建图像。
在本申请实施例中,首先提取原始图像的初始特征图,然后分别计算该初始特征图中每一列像素的元素值的平均值,并根据该平均值构建目标行向量,在对该目标行向量执行一维卷积处理后于列方向上对其进行复制,得到一个特征图;以及,分别计算该初始特征图中每一行像素的元素值的平均值,并根据该平均值构建目标列向量,在对该目标列向量执行一维卷积处理后于行方向上对其进行复制,得到另一个特征图,接着将两个特征图融合;最后,在对融合的特征图执行二维卷积处理后,基于该融合的特征图生成重建的图像。上述过程采用的是一种交叉池化的方法,相当于沿着一个空间维度部署一个长条形状(特征图的一行或者一列)的池化核,在特征计算时能够用到的像素范围更广,因此能够捕获图像的远距离依赖关系。
在本申请的一个实施例中,所述根据所述第四特征图生成所述原始图像对应的重建图像,可以包括:
对所述第四特征图执行预设卷积核数量的卷积处理,得到多张目标特征图;
将所述多张目标特征图划分为两个以上的目标特征图组合,每个所述目标特征图组合包含两张以上的所述目标特征图;
针对每个所述目标特征图组合,对该目标特征图组合中的每张目标特征图分别执行二维卷积处理,然后采用特征映射的方式生成与该目标特征图组合对应的映射特征图组合,该映射特征图组合包含该目标特征图组合中每张目标特征图各自经预设的映射函数处理后获得的映射特征图;
根据各个所述目标特征图组合和各个所述映射特征图组合,生成所述原始图像对应的重建图像。
通过采用特征映射的方式,可以实现在较低计算量的前提下获得更多的特征图,提高图像重建使用的深度神经网络的性能。
进一步的,所述根据各个所述目标特征图组合和各个所述映射特征图组合,生成所述原始图像对应的重建图像,可以包括:
将各个所述目标特征图组合和各个所述映射特征图组合按照指定顺序排列,得到最终特征图组合;
根据所述最终特征图组合生成所述原始图像对应的重建图像。
通过排序,可以获得一个包含大量特征图的最终特征图组合,然后基于该最终特征图组合生成该原始图像对应的重建图像。
进一步的,所述将各个所述目标特征图组合和各个所述映射特征图组合按照指定顺序排列,得到最终特征图组合,可以包括:
将各个所述目标特征图组合排列在所述最终特征图组合的两端,且将各个所述映射特征图组合排列在所述最终特征图组合的两端之间。
在排列特征图组合时,可以将各个目标特征图组合排列在两端,将各个映射特征图组合排列在中间。
进一步的,所述根据所述最终特征图组合生成所述原始图像对应的重建图像,可以包括:
对所述最终特征图组合中的特征图执行反卷积处理,然后将反卷积处理后的特征图融合,得到所述原始图像对应的重建图像。
在生成重建的图像时,可以将该最终特征图组合中的特征图输入反卷积层进行处理,对特征图进行升维,使得处理后的结果和重建的图像的维度大小一致,同时可以通过将输入通道数设置为重建图像的通道数来将所有的特征图融合,从而得到最终的重建图像。
进一步的,所述采用特征映射的方式生成与该目标特征图组合对应的映射特征图组合,可以包括:
以预设的线性函数作为映射函数,对该目标特征图组合中的每张目标特征图分别执行特征映射处理,得到该目标特征图组合中的每张目标特征图各自对应的映射特征图。
通过采用线性函数作为映射函数,可以进一步减少特征映射过程的计算量。
在本申请的一个实施例中,所述将所述第一特征图和所述第二特征图融合,得到第三特征图,可以包括:
对所述第一特征图和所述第二特征图执行对应位置元素求和的处理,得到所述第三特征图。
为了减少计算量,在融合两个特征图时,可以采用对应位置元素求和的方式。
本申请实施例的第二方面提供了一种图像重建装置,包括:
原始图像获取模块,用于获取待重建的原始图像;
特征提取模块,用于提取所述原始图像的初始特征图;
行向量构建模块,用于分别计算所述初始特征图中每一列像素的元素值的平均值,并根据获得的各列像素对应的平均值构建目标行向量;
列向量构建模块,用于分别计算所述初始特征图中每一行像素的元素值的平均值,并根据获得的各行像素对应的平均值构建目标列向量;
行向量复制模块,用于对所述目标行向量执行一维卷积处理,并在列方向上对一维卷积处理后的所述目标行向量进行复制,得到第一特征图;
列向量复制模块,用于对所述目标列向量执行一维卷积处理,并在行方向上对一维卷积处理后的所述目标列向量进行复制,得到第二特征图;
特征融合模块,用于将所述第一特征图和所述第二特征图融合,得到第三特征图;
二维卷积模块,用于对所述第三特征图执行二维卷积处理,得到第四特征图;
图像重建模块,用于根据所述第四特征图生成所述原始图像对应的重建图像。
本申请实施例的第三方面提供了一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如本申请实施例的第一方面提供的图像重建方法。
本申请实施例的第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如本申请实施例的第一方面提供的图像重建方法。
本申请实施例的第五方面提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行本申请实施例的第一方面所述的图像重建方法。
可以理解的是,上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种图像重建方法的一个实施例的流程图;
图2是本申请实施例提供的对特征图进行交叉池化操作的处理示意图;
图3是本申请实施例提供的另一种图像重建方法的一个实施例的流程图;
图4是本申请实施例提供的对特征图进行特征映射操作的处理示意图;
图5是本申请实施例提供的一种图像重建装置的一个实施例的结构图;
图6是本申请实施例提供的一种终端设备的示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
本申请提出一种图像重建方法、装置、终端设备和存储介质,能够解决在重建图像时无法捕获图像的远距离依赖关系的问题。应当理解,本申请各个方法实施例的执行主体为各种类型的终端设备或服务器,比如手机、平板电脑、笔记本电脑、台式电脑和可穿戴设备等。
请参阅图1,示出了本申请实施例提供的一种图像重建方法,包括:
101、获取待重建的原始图像;
首先,获取待重建的原始图像。该原始图像可以是一幅模糊的图像,需要重建出与其对应的清晰图像。
102、提取所述原始图像的初始特征图;
在获取原始图像之后,需要提取该原始图像的特征图。例如,可以采用现有技术中的各类特征提取网络,对该原始图像执行卷积等处理,以提取对应的特征图像,作为本申请实施例中的初始特征图。需要说明的是,本申请不对该特征提取网络的结构和类型进行任何限制。
103、分别计算所述初始特征图中每一列像素的元素值的平均值,并根据获得的各列像素对应的平均值构建目标行向量;
在提取初始特征图之后,分别计算该初始特征图中每一列像素的元素值的平均值,例如,针对该初始特征图中的第一列像素,将该列的所有像素的元素值相加然后计算平均值,得到第一列像素对应的平均值,以此类推,针对该初始特征图的每一列像素都执行相同的操作,从而得到每一列像素分别对应的平均值。接着,根据获得的每一列像素分别对应的平均值构建一个目标行向量,该目标行向量的元素个数等于该初始特征图的列数量,且每个元素值分别为对应列的元素值的平均值,也即将每一列像素分别对应的平均值合并起来成为一个行向量。
104、分别计算所述初始特征图中每一行像素的元素值的平均值,并根据获得的各行像素对应的平均值构建目标列向量;
和构建目标行向量的方法类似,在构建目标列向量时,分别计算该初始特征图中每一行像素的元素值的平均值,例如,针对该初始特征图中的第一行像素,将该行的所有像素的元素值相加然后计算平均值,得到第一行像素对应的平均值,以此类推,针对该初始特征图的每一行像素都执行相同的操作,从而得到每一行像素分别对应的平均值。接着,根据获得的每一行像素分别对应的平均值构建一个目标列向量,该目标列向量的元素个数等于该初始特征图的行数量,且每个元素值分别为对应行的元素值的平均值,也即将每一行像素分别对应的平均值合并起来成为一个列向量。
105、对所述目标行向量执行一维卷积处理,并在列方向上对一维卷积处理后的所述目标行向量进行复制,得到第一特征图;
对于获得的目标行向量,首先对其执行一维的卷积处理,例如可以采用卷积核为3的1D卷积,然后在列方向上对一维卷积处理后的该目标行向量进行复制,得到第一特征图。一般的,复制目标行向量获得的第一特征图的尺寸(行数和列数)可以和该初始特征图的尺寸相同。
106、对所述目标列向量执行一维卷积处理,并在行方向上对一维卷积处理后的所述目标列向量进行复制,得到第二特征图;
类似的,对于获得的目标列向量,同样先对其执行一维的卷积处理,例如可以采用卷积核为3的1D卷积,然后在行方向上对一维卷积处理后的该目标列向量进行复制,得到第二特征图。一般的,复制目标列向量获得的第二特征图的尺寸(行数和列数)也可以和该初始特征图的尺寸相同。
107、将所述第一特征图和所述第二特征图融合,得到第三特征图;
然后,将该第一特征图和第二特征图融合,融合的方式可以包括对应位置元素叠加、对应位置元素取最大值、对应位置元素取平均值等,从而得到一个尺寸相同的第三特征图。
在本申请的一种实现方式中,所述将所述第一特征图和所述第二特征图融合,得到第三特征图,可以包括:
对所述第一特征图和所述第二特征图执行对应位置元素求和的处理,得到所述第三特征图。
为了减少计算量,在融合两个特征图时,可以采用对应位置元素求和的方式。例如,第一特征图的第一行、第一列的元素与第二特征图的第一行、第一列的元素求和,从而得到第三特征图的第一行、第一列的元素;第一特征图的第一行、第二列的元素与第二特征图的第一行、第二列的元素求和,从而得到第三特征图的第一行、第二列的元素,以此类推。
108、对所述第三特征图执行二维卷积处理,得到第四特征图;
接着,对融合获得的第三特征图执行二维的卷积处理,例如可以采用卷积核为3的2D卷积,从而得到第四特征图。
上述步骤103-108可以概括为交叉池化的操作,相应的处理示意图如图2所示。在图2中,首先提取初始特征图中每一列像素的元素值的平均值,构建成目标行向量,以及提取初始特征图中每一行像素的元素值的平均值,构建成目标列向量;然后,分别对目标行向量和目标列向量执行一维卷积处理,将目标行向量在列方向上进行复制,得到第一特征图,以及将目标列向量在行方向上进行复制,得到第二特征图;接着,将第一特征图和第二特征图叠加,得到第三特征图,再经过二维卷积处理后,得到第四特征图。
对于常规的图像重建网络,其采用的池化层的池化核的大小通常是2*2,通过不断地在整个原始特征图上滑动该池化核从而得到输出的特征图,这样进行计算时融合的特征都是很窄的像素范围内的特征,故无法捕捉图像的远距离依赖关系。针对这个问题,本申请实施例采用交叉池化层来替换常规的池化层,相应的池化核的大小与特征图像的一行或者一列相同,因此进行计算时融合的特征的像素范围较广,能够充分捕捉图像的远距离依赖关系。
109、根据所述第四特征图生成所述原始图像对应的重建图像。
最后,对该第四特征图执行反卷积、上采样等图像重建过程中常用的扩充处理后,可以得到该原始图像对应的重建图像。
在本申请实施例中,首先提取原始图像的初始特征图,然后分别计算该初始特征图中每一列像素的元素值的平均值,并根据该平均值构建目标行向量,在对该目标行向量执行一维卷积处理后于列方向上对其进行复制,得到一个特征图;以及,分别计算该初始特征图中每一行像素的元素值的平均值,并根据该平均值构建目标列向量,在对该目标列向量执行一维卷积处理后于行方向上对其进行复制,得到另一个特征图,接着将两个特征图融合;最后,在对融合的特征图执行二维卷积处理后,基于该融合的特征图生成重建的图像。上述过程采用的是一种交叉池化的方法,相当于沿着一个空间维度部署一个长条形状(特征图的一行或者一列)的池化核,在特征计算时能够用到的像素范围更广,因此能够捕获图像的远距离依赖关系。
请参阅图3,示出了本申请实施例提供的另一种图像重建方法,包括:
301、获取待重建的原始图像;
302、提取所述原始图像的初始特征图;
303、分别计算所述初始特征图中每一列像素的元素值的平均值,并根据获得的各列像素对应的平均值构建目标行向量;
304、分别计算所述初始特征图中每一行像素的元素值的平均值,并根据获得的各行像素对应的平均值构建目标列向量;
305、对所述目标行向量执行一维卷积处理,并在列方向上对一维卷积处理后的所述目标行向量进行复制,得到第一特征图;
306、对所述目标列向量执行一维卷积处理,并在行方向上对一维卷积处理后的所述目标列向量进行复制,得到第二特征图;
307、将所述第一特征图和所述第二特征图融合,得到第三特征图;
308、对所述第三特征图执行二维卷积处理,得到第四特征图;
步骤301-308与步骤101-108相同,具体可以参照步骤101-108的相关说明。
309、对所述第四特征图执行预设卷积核数量的卷积处理,得到多张目标特征图;
在深度学习中,特征图的丰富程度很重要,为了提高深度神经网络的性能以及图像重建的效果,往往需要获得更多数量的特征图。因此,在获得第四特征图后,可以采用如步骤309至311的方式增加获得的特征图的数量。通过设置一定数量卷积核的卷积层对该第四特征图进行处理,可以得到多张不同的目标特征图。
310、将所述多张目标特征图划分为两个以上的目标特征图组合,每个所述目标特征图组合包含两张以上的所述目标特征图;
在获得多张目标特征图后,对这些目标特征图进行分组,得到两个以上的目标特征图组合,其中每个目标特征图组合包含两张以上的目标特征图。需要说明的是,不同的目标特征图组合包含的目标特征图的数量可以相同,也可以不同,对目标特征图进行分组的方式可以采用随机分组、按照特定顺序进行分组等方式,本申请对此不作限定。
311、针对每个所述目标特征图组合,对该目标特征图组合中的每张目标特征图分别执行二维卷积处理,然后采用特征映射的方式生成与该目标特征图组合对应的映射特征图组合,该映射特征图组合包含该目标特征图组合中每张目标特征图各自经预设的映射函数处理后获得的映射特征图;
在对目标特征图分组后,对每个目标特征图组合中的所有目标特征图执行二维卷积处理,例如可以执行卷积核为3*3的卷积处理,然后采用特征映射的方式生成每个目标特征图组合分别对应的映射特征图组合。具体的,某个映射特征图组合中包含的每张映射特征图是由对应的目标特征图组合中包含的每张目标特征图各自经映射函数处理后获得的。例如,某个目标特征图组合A包含目标特征图1、目标特征图2和目标特征图3总共3张目标特征图,则采用某个预设的映射函数f(x)对目标特征图1进行处理,得到映射特征图1;采用f(x)对目标特征图2进行处理,得到映射特征图2;采用f(x)对目标特征图3进行处理,得到映射特征图3,那么最终获得的与目标特征图组合A对应的映射特征图组合由映射特征图1、映射特征图2和映射特征图3组成。
进一步的,所述采用特征映射的方式生成与该目标特征图组合对应的映射特征图组合,可以包括:
以预设的线性函数作为映射函数,对该目标特征图组合中的每张目标特征图分别执行特征映射处理,得到该目标特征图组合中的每张目标特征图各自对应的映射特征图。
为了减少特征映射过程的计算量,可以采用线性函数作为映射函数。例如,可以采用线性函数f(x)=a*x+b作为映射函数,其中x为输入的一幅目标特征图,a、b都是人工预设且和x的尺寸相同的矩阵。在运算时,a和x做矩阵对应位置相乘处理,然后再加上矩阵b中的元素,从而得到输出的映射特征图f(x)。
312、根据各个所述目标特征图组合和各个所述映射特征图组合,生成所述原始图像对应的重建图像。
通过采用特征映射的方式,可以生成更多数量的特征图,即上述的各个映射特征图组合。接下来,可以根据原始的目标特征图组合和生成的映射特征图组合生成与该原始图像对应的重建图像。
在本申请的一种实现方式中,所述根据各个所述目标特征图组合和各个所述映射特征图组合,生成所述原始图像对应的重建图像,可以包括:
将各个所述目标特征图组合和各个所述映射特征图组合按照指定顺序排列,得到最终特征图组合;
根据所述最终特征图组合生成所述原始图像对应的重建图像。
在排列特征图组合时,各个目标特征图组合和各个映射特征图组合的顺序没有限制,但每个特征图组合中包含的各个特征图在该特征图组合中的排序保持不变。通过排序,可以获得一个包含大量特征图的最终特征图组合,然后基于该最终特征图组合生成该原始图像对应的重建图像。
进一步的,所述将各个所述目标特征图组合和各个所述映射特征图组合按照指定顺序排列,得到最终特征图组合,可以包括:
将各个所述目标特征图组合排列在所述最终特征图组合的两端,且将各个所述映射特征图组合排列在所述最终特征图组合的两端之间。
在排列特征图组合时,可以将各个目标特征图组合排列在两端,将各个映射特征图组合排列在中间。例如,若有2个目标特征图组合,则可以将其中一个目标特征图组合复制为最终特征图组合的首端,将另一个目标特征图组合复制为最终特征图组合的尾端,而通过对该2个目标特征图组合进行特征映射获得的2个映射特征图组合则排布在该最终特征图组合的首尾两端之间。
进一步的,所述根据所述最终特征图组合生成所述原始图像对应的重建图像,可以包括:
对所述最终特征图组合中的特征图执行反卷积处理,然后将反卷积处理后的特征图融合,得到所述原始图像对应的重建图像。
在生成重建的图像时,可以将该最终特征图组合中的特征图输入反卷积层进行处理,对特征图进行升维,使得处理后的结果和重建的图像的维度大小一致,同时可以通过将输入通道数设置为重建图像的通道数来将所有的特征图融合,从而得到最终的重建图像。
上述步骤310-312属于对特征图进行特征映射的处理,对应的处理示意图如图4所示。在图4中,将多张目标特征图划分为2个目标特征图组合,经过3*3卷积核的卷积处理后,将其中一个目标特征图组合复制作为最终特征图组合的首端,将另一个目标特征图组合复制为最终特征图组合的尾端;另外,对该2个目标特征图组合分别执行特征映射的处理,得到的2个映射特征图组合则插入到该最终特征图组合的首尾两端之间。最后,可以基于该最终特征图组合完成图像的重建。与初始化更多的卷积核执行卷积运算以获得更多数量特征图的方式相比,本申请实施例通过对原有的特征图执行特征映射的方式生成更多数量的特征图,能够避免复杂的卷积运算,有效降低了计算量,提升算法处理速度。
本申请实施例在通过交叉池化的方式获得原始图像的特征图之后,会采用特征映射的方式生成更多数量的特征图,从而实现在较低计算量的前提下获得更多的特征图,可以提高图像重建使用的深度神经网络的性能。
应理解,上述各个实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
上面主要描述了一种图像重建方法,下面将对一种图像重建装置进行描述。
请参阅图5,本申请实施例中一种图像重建装置的一个实施例包括:
原始图像获取模块501,用于获取待重建的原始图像;
特征提取模块502,用于提取所述原始图像的初始特征图;
行向量构建模块503,用于分别计算所述初始特征图中每一列像素的元素值的平均值,并根据获得的各列像素对应的平均值构建目标行向量;
列向量构建模块504,用于分别计算所述初始特征图中每一行像素的元素值的平均值,并根据获得的各行像素对应的平均值构建目标列向量;
行向量复制模块505,用于对所述目标行向量执行一维卷积处理,并在列方向上对一维卷积处理后的所述目标行向量进行复制,得到第一特征图;
列向量复制模块506,用于对所述目标列向量执行一维卷积处理,并在行方向上对一维卷积处理后的所述目标列向量进行复制,得到第二特征图;
特征融合模块507,用于将所述第一特征图和所述第二特征图融合,得到第三特征图;
二维卷积模块508,用于对所述第三特征图执行二维卷积处理,得到第四特征图;
图像重建模块509,用于根据所述第四特征图生成所述原始图像对应的重建图像。
在本申请的一个实施例中,所述图像重建模块可以包括:
卷积处理单元,用于对所述第四特征图执行预设卷积核数量的卷积处理,得到多张目标特征图;
特征图划分单元,用于将所述多张目标特征图划分为两个以上的目标特征图组合,每个所述目标特征图组合包含两张以上的所述目标特征图;
特征映射单元,用于针对每个所述目标特征图组合,对该目标特征图组合中的每张目标特征图分别执行二维卷积处理,然后采用特征映射的方式生成与该目标特征图组合对应的映射特征图组合,该映射特征图组合包含该目标特征图组合中每张目标特征图各自经预设的映射函数处理后获得的映射特征图;
图像重建单元,用于根据各个所述目标特征图组合和各个所述映射特征图组合,生成所述原始图像对应的重建图像。
进一步的,所述图像重建单元可以包括:
特征图组合排列子单元,用于将各个所述目标特征图组合和各个所述映射特征图组合按照指定顺序排列,得到最终特征图组合;
图像重建子单元,用于根据所述最终特征图组合生成所述原始图像对应的重建图像。
进一步的,所述特征图组合排列子单元可以用于:将各个所述目标特征图组合排列在所述最终特征图组合的两端,且将各个所述映射特征图组合排列在所述最终特征图组合的两端之间。
更进一步的,所述图像重建子单元可以用于:对所述最终特征图组合中的特征图执行反卷积处理,然后将反卷积处理后的特征图融合,得到所述原始图像对应的重建图像。
进一步的,所述特征映射单元可以用于:以预设的线性函数作为映射函数,对该目标特征图组合中的每张目标特征图分别执行特征映射处理,得到该目标特征图组合中的每张目标特征图各自对应的映射特征图。
在本申请的一个实施例中,所述特征融合模块可以用于:对所述第一特征图和所述第二特征图执行对应位置元素求和的处理,得到所述第三特征图。
本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如图1或图3表示的任意一种图像重建方法。
本申请实施例还提供一种计算机程序产品,当该计算机程序产品在终端设备上运行时,使得终端设备执行实现如图1或图3表示的任意一种图像重建方法。
图6是本申请一实施例提供的终端设备的示意图。如图6所示,该实施例的终端设备6包括:处理器60、存储器61以及存储在所述存储器61中并可在所述处理器60上运行的计算机程序62。所述处理器60执行所述计算机程序62时实现上述各个图像重建方法的实施例中的步骤,例如图1所示的步骤101至109。或者,所述处理器60执行所述计算机程序62时实现上述各装置实施例中各模块/单元的功能,例如图5所示模块501至509的功能。
所述计算机程序62可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器61中,并由所述处理器60执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序62在所述终端设备6中的执行过程。
所称处理器60可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器61可以是所述终端设备6的内部存储单元,例如终端设备6的硬盘或内存。所述存储器61也可以是所述终端设备6的外部存储设备,例如所述终端设备6上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器61还可以既包括所述终端设备6的内部存储单元也包括外部存储设备。所述存储器61用于存储所述计算机程序以及所述终端设备所需的其他程序和数据。所述存储器61还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的系统实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括是电载波信号和电信信号。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (10)
1.一种图像重建方法,其特征在于,包括:
获取待重建的原始图像;
提取所述原始图像的初始特征图;
分别计算所述初始特征图中每一列像素的元素值的平均值,并根据获得的各列像素对应的平均值构建目标行向量;
分别计算所述初始特征图中每一行像素的元素值的平均值,并根据获得的各行像素对应的平均值构建目标列向量;
对所述目标行向量执行一维卷积处理,并在列方向上对一维卷积处理后的所述目标行向量进行复制,得到第一特征图;
对所述目标列向量执行一维卷积处理,并在行方向上对一维卷积处理后的所述目标列向量进行复制,得到第二特征图;
将所述第一特征图和所述第二特征图融合,得到第三特征图;
对所述第三特征图执行二维卷积处理,得到第四特征图;
根据所述第四特征图生成所述原始图像对应的重建图像。
2.如权利要求1所述的方法,其特征在于,所述根据所述第四特征图生成所述原始图像对应的重建图像,包括:
对所述第四特征图执行预设卷积核数量的卷积处理,得到多张目标特征图;
将所述多张目标特征图划分为两个以上的目标特征图组合,每个所述目标特征图组合包含两张以上的所述目标特征图;
针对每个所述目标特征图组合,对该目标特征图组合中的每张目标特征图分别执行二维卷积处理,然后采用特征映射的方式生成与该目标特征图组合对应的映射特征图组合,该映射特征图组合包含该目标特征图组合中每张目标特征图各自经预设的映射函数处理后获得的映射特征图;
根据各个所述目标特征图组合和各个所述映射特征图组合,生成所述原始图像对应的重建图像。
3.如权利要求2所述的方法,其特征在于,所述根据各个所述目标特征图组合和各个所述映射特征图组合,生成所述原始图像对应的重建图像,包括:
将各个所述目标特征图组合和各个所述映射特征图组合按照指定顺序排列,得到最终特征图组合;
根据所述最终特征图组合生成所述原始图像对应的重建图像。
4.如权利要求3所述的方法,其特征在于,所述将各个所述目标特征图组合和各个所述映射特征图组合按照指定顺序排列,得到最终特征图组合,包括:
将各个所述目标特征图组合排列在所述最终特征图组合的两端,且将各个所述映射特征图组合排列在所述最终特征图组合的两端之间。
5.如权利要求3所述的方法,其特征在于,所述根据所述最终特征图组合生成所述原始图像对应的重建图像,包括:
对所述最终特征图组合中的特征图执行反卷积处理,然后将反卷积处理后的特征图融合,得到所述原始图像对应的重建图像。
6.如权利要求2所述的方法,其特征在于,所述采用特征映射的方式生成与该目标特征图组合对应的映射特征图组合,包括:
以预设的线性函数作为映射函数,对该目标特征图组合中的每张目标特征图分别执行特征映射处理,得到该目标特征图组合中的每张目标特征图各自对应的映射特征图。
7.如权利要求1至6中任一项所述的方法,其特征在于,所述将所述第一特征图和所述第二特征图融合,得到第三特征图,包括:
对所述第一特征图和所述第二特征图执行对应位置元素求和的处理,得到所述第三特征图。
8.一种图像重建装置,其特征在于,包括:
原始图像获取模块,用于获取待重建的原始图像;
特征提取模块,用于提取所述原始图像的初始特征图;
行向量构建模块,用于分别计算所述初始特征图中每一列像素的元素值的平均值,并根据获得的各列像素对应的平均值构建目标行向量;
列向量构建模块,用于分别计算所述初始特征图中每一行像素的元素值的平均值,并根据获得的各行像素对应的平均值构建目标列向量;
行向量复制模块,用于对所述目标行向量执行一维卷积处理,并在列方向上对一维卷积处理后的所述目标行向量进行复制,得到第一特征图;
列向量复制模块,用于对所述目标列向量执行一维卷积处理,并在行方向上对一维卷积处理后的所述目标列向量进行复制,得到第二特征图;
特征融合模块,用于将所述第一特征图和所述第二特征图融合,得到第三特征图;
二维卷积模块,用于对所述第三特征图执行二维卷积处理,得到第四特征图;
图像重建模块,用于根据所述第四特征图生成所述原始图像对应的重建图像。
9.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述的图像重建方法。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的图像重建方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110418337.4A CN113111891B (zh) | 2021-04-19 | 2021-04-19 | 一种图像重建方法、装置、终端设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110418337.4A CN113111891B (zh) | 2021-04-19 | 2021-04-19 | 一种图像重建方法、装置、终端设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113111891A CN113111891A (zh) | 2021-07-13 |
CN113111891B true CN113111891B (zh) | 2022-05-27 |
Family
ID=76718338
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110418337.4A Active CN113111891B (zh) | 2021-04-19 | 2021-04-19 | 一种图像重建方法、装置、终端设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113111891B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112419153A (zh) * | 2020-11-23 | 2021-02-26 | 深圳供电局有限公司 | 图像超分辨率重建方法、装置、计算机设备和存储介质 |
CN112419184A (zh) * | 2020-11-19 | 2021-02-26 | 重庆邮电大学 | 一种综合局部信息和全局信息的空间注意力图像去噪方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9031354B2 (en) * | 2011-03-31 | 2015-05-12 | Raytheon Company | System and method for post-detection artifact reduction and removal from images |
KR102317337B1 (ko) * | 2019-07-30 | 2021-10-26 | 한국과학기술원 | 다양한 센서 조건에서의 초음파 영상 처리 장치 및 그 방법 |
-
2021
- 2021-04-19 CN CN202110418337.4A patent/CN113111891B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112419184A (zh) * | 2020-11-19 | 2021-02-26 | 重庆邮电大学 | 一种综合局部信息和全局信息的空间注意力图像去噪方法 |
CN112419153A (zh) * | 2020-11-23 | 2021-02-26 | 深圳供电局有限公司 | 图像超分辨率重建方法、装置、计算机设备和存储介质 |
Non-Patent Citations (2)
Title |
---|
Haoyun Liang等.Laplacian pyramid-based complex neural network learning for fast MR imaging.《Medical Imaging with Deep Learning》.2020,第454-464页. * |
程慧涛等.基于深度递归级联卷积神经网络的并行磁共振成像方法.《波谱学杂志》.2019,第36卷(第4期),第437-445页. * |
Also Published As
Publication number | Publication date |
---|---|
CN113111891A (zh) | 2021-07-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2016019484A1 (en) | An apparatus and a method for providing super-resolution of a low-resolution image | |
CN111860398B (zh) | 遥感图像目标检测方法、系统及终端设备 | |
CN109996023B (zh) | 图像处理方法和装置 | |
CN111951167B (zh) | 超分辨率图像重建方法、装置、计算机设备和存储介质 | |
US11636665B2 (en) | Streaming image semantic segmentation method, logical integrated circuit system and electronic device | |
WO2022166258A1 (zh) | 行为识别方法、装置、终端设备及计算机可读存储介质 | |
CN112419152A (zh) | 一种图像超分辨率方法、装置、终端设备和存储介质 | |
CN110838085B (zh) | 一种图像的超分辨率重建方法、装置及电子设备 | |
CN112001931A (zh) | 图像分割方法、装置、设备及存储介质 | |
CN111709415B (zh) | 目标检测方法、装置、计算机设备和存储介质 | |
Chen et al. | Recursive generalization transformer for image super-resolution | |
Conde et al. | Lens-to-lens bokeh effect transformation. NTIRE 2023 challenge report | |
CN112633470A (zh) | 优化神经网络卷积残差结构的方法、系统、设备及介质 | |
CN110782398B (zh) | 图像处理方法、生成式对抗网络系统和电子设备 | |
CN113538281B (zh) | 图像去噪方法、装置、计算机设备和存储介质 | |
Shen et al. | RSHAN: Image super-resolution network based on residual separation hybrid attention module | |
Sahito et al. | Transpose convolution based model for super-resolution image reconstruction | |
CN113111891B (zh) | 一种图像重建方法、装置、终端设备和存储介质 | |
CN111083479A (zh) | 一种视频帧预测方法、装置及终端设备 | |
CN115512258A (zh) | 一种视频图像的脱敏方法、装置、终端设备和存储介质 | |
CN114758145A (zh) | 一种图像脱敏方法、装置、电子设备及存储介质 | |
WO2022221982A1 (zh) | 一种图像重建方法、装置、终端设备和存储介质 | |
CN111524072A (zh) | 超分辨重构网络训练方法和装置、电子设备及存储介质 | |
CN113610704B (zh) | 图像生成方法、装置、设备和可读存储介质 | |
CN112329925B (zh) | 模型生成方法、特征提取方法、装置及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |