CN107527321B - 一种图像重建方法、终端及计算机可读存储介质 - Google Patents

一种图像重建方法、终端及计算机可读存储介质 Download PDF

Info

Publication number
CN107527321B
CN107527321B CN201710725261.3A CN201710725261A CN107527321B CN 107527321 B CN107527321 B CN 107527321B CN 201710725261 A CN201710725261 A CN 201710725261A CN 107527321 B CN107527321 B CN 107527321B
Authority
CN
China
Prior art keywords
image
image block
local image
local
gradient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710725261.3A
Other languages
English (en)
Other versions
CN107527321A (zh
Inventor
高振巍
张华琪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Vivo Mobile Communication Co Ltd
Original Assignee
Vivo Mobile Communication Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Vivo Mobile Communication Co Ltd filed Critical Vivo Mobile Communication Co Ltd
Priority to CN201710725261.3A priority Critical patent/CN107527321B/zh
Publication of CN107527321A publication Critical patent/CN107527321A/zh
Application granted granted Critical
Publication of CN107527321B publication Critical patent/CN107527321B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

本发明提供一种图像重建方法、终端及计算机可读存储介质。该方法包括:提取待重建图像中的多个局部图像块;根据待重建图像中每一局部图像块的梯度特征信息,计算每一局部图像块的哈希键值,其中,所述哈希键值与所述梯度特征信息存在映射关系;根据哈希键值,计算目标图像块的像素点值,所述目标图像块的像素个数为所述局部图像块的像素个数的N2倍,N≥2,且N为正整数;根据对每一局部图像块对应计算得到的像素点值,重建超分辨率图像,所述超分辨率图像的分辨率为待重建图像分辨率的N倍。本发明方法降低计算复杂度,提升运算速度;且处理速度快,重建出的高分辨率图像清晰度高,具有较好的边缘特征。

Description

一种图像重建方法、终端及计算机可读存储介质
技术领域
本发明涉及图像处理技术领域,特别是涉及一种图像重建方法、终端及计算机可读存储介质。
背景技术
图像超分辨率重建技术广泛应用于医学图像分析、遥感、计算机视觉领域,是应对图像成像清晰度不足,网络传输压缩后图像分辨率下降问题的一种有效方式。该技术是从低分辨率(Low-Resolution,简称LR)的单幅图像通过某种操作获得其高分辨率(High-Resolution,简称HR)的图像。
目前单幅图像超分辨率重建方法主要分为两类:
1、基于插值的方法,该方法利用多种插值方式,包括双线性插值算法、双三次插值算法、埃尔米特插值算法。
2、基于实例重建的方法,该方法引入一些先验知识,包括自相似、稀疏编码、混合高斯,旨在找出LR与对应HR的某种映射方法,然后从单幅低分辨率图获得其高分辨率图像。
然而,基于插值的方法不能很好恢复图像的纹理,会造成高分辨率图像存在伪影和过度光滑。基于实例重建的方法运算复杂,速度慢,在移动平台很难得到实用。
发明内容
本发明实施例提供一种图像重建方法、终端及计算机可读存储介质,以解决现有技术存在的伪影和过度光滑现象,以及运算复杂、速度慢的问题。
第一方面,本发明实施例提供一种图像重建方法,包括:
提取待重建图像中的多个局部图像块;
根据待重建图像中每一局部图像块的梯度特征信息,计算每一所述局部图像块的哈希键值,其中,所述哈希键值与所述梯度特征信息存在映射关系;
根据所述哈希键值,目标图像块的像素点值,所述目标图像块的像素个数为所述局部图像块的像素个数的N2倍,N≥2,且N为正整数;
根据对每一所述局部图像块对应计算得到的像素点值,重建超分辨率图像,所述超分辨率图像的分辨率为待重建图像分辨率的N倍。
第二方面,本发明实施例提供一种终端,包括:
提取模块,用于提取待重建图像中的多个局部图像块;
第一计算模块,用于根据待重建图像中每一局部图像块的梯度特征信息,计算每一所述局部图像块的哈希键值,其中,所述哈希键值与所述梯度特征信息存在映射关系;
第二计算模块,用于根据所述哈希键值,计算目标图像块的像素点值,所述目标图像块的像素个数为所述局部图像块的像素个数的N2倍,N≥2,且N为正整数;
图像重建模块,用于根据对每一所述局部图像块对应计算得到的像素点值,重建超分辨率图像,所述超分辨率图像的分辨率为待重建图像分辨率的N倍。
第三方面,本发明实施例提供一种终端,包括:处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如本发明实施例第一方面提供的图像重建方法的步骤。
第四方面,本发明实施例提供一种算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如本发明实施例第一方面提供的图像重建方法的步骤。
本发明实施例的上述方案中,根据待重建图像中局部图像块的梯度特征,计算得到的局部图像块的哈希键值,通过局部图像块的哈希键值计算出与局部图像块对应的目标图像块的像素点值,从而实现图像超分辨率重建,且降低计算复杂度,提升运算速度;在图像重建过程中,利用低分辨率图像直接生成高分辨率图像,其处理速度快,重建出的高分辨率图像清晰度高,具有较好的边缘特征。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一实施例的图像重建方法的流程图;
图2为图1中步骤102的具体流程图;
图3为图1中步骤103的具体流程图;
图4为图3中步骤1032的具体流程图;
图5为本发明实施例的待重建图像中的像素k重建超分辨率像素示意图;
图6为本发明一实施例提供的终端结构示意图;
图7为本发明另一实施例提供的终端结构示意图;
图8为本发明又一实施例提供的终端结构示意图;
图9为本发明再一实施例提供的终端结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1为本发明一实施例的图像重建方法的流程图。下面就该图具体说明该方法的实施过程。
步骤101,提取待重建图像中的多个局部图像块。
步骤102,根据待重建图像中每一局部图像块的梯度特征信息,计算每一所述局部图像块的哈希键值,其中,所述哈希键值与所述梯度特征信息存在映射关系。
这里,局部图像块的哈希键值用于表示局部图像块的梯度类别。其实质上是,局部图像块中的不同像素对应不同的梯度特征信息。这里,通过哈希键值即可找到局部图像块中与之对应的像素。
步骤103,根据所述哈希键值,计算目标图像块的像素点值,所述目标图像块的像素个数为所述局部图像块的像素个数的N2倍,N≥2,且N为正整数。
这里,目标图像块与局部图像块对应,每一局部图像块对应一目标图像块。
步骤104,根据对每一所述局部图像块对应计算得到的像素点值,重建超分辨率图像,所述超分辨率图像的分辨率为待重建图像分辨率的N倍。
本发明实施例提供的图像重建方法,根据待重建图像中局部图像块的梯度特征,计算得到的局部图像块的哈希键值,通过局部图像块的哈希键值计算出与局部图像块对应的目标图像块的像素点值,从而实现图像超分辨率重建,且降低计算复杂度,提升运算速度;在图像重建过程中,利用低分辨率图像直接生成高分辨率图像,其处理速度快,重建出的高分辨率图像清晰度高,具有较好的边缘特征。
作为一优选的实现方式,本发明实施例中,步骤101可具体包括:
步骤1011,控制一预设滑动窗口以预设步长沿所述待重建图像移动,每移动一次确定一个局部图像块。
优选的,预设滑动窗口为正方形窗口,边长为11个像素的大小。
优选的,预设步长为1,即一个像素大小。
这里,预设滑动窗口以预设步长遍历所述待重建图像,提取得到多个局部图像块。
需说明的是,局部图像块的尺寸大小等于预设滑动窗口的尺寸大小。
这里,如图2所示,本发明实施例中,步骤102可具体包括:
步骤1021,计算所述局部图像块的梯度方向、梯度强度和相关度。
这里,本步骤可具体包括:
步骤10211,将计算得到的所述局部图像块在中心像素为k、第一预设窗口范围下的水平梯度矩阵GH(k)和垂直梯度矩阵GV(k)合并,得到所述局部图像块的梯度矩阵G(k),所述第一预设窗口的尺寸大小小于所述局部图像块的尺寸大小。
这里,优选的,第一预设窗口的尺寸大小为9×9,局部图像块的尺寸大小为11×11。
需要说明的是,9×9是指9个像素乘以9个像素的大小。同理,11×11是指11个像素乘以11个像素的大小。
这里,以优选的第一预设窗口为例,GH(k)=[gx1,gx2,...,gx81],GV(k)=[gy1,gy2,...,gy81],G(k)=[GH T(k),GV T(k)]。
这里,GH T(k)为GH(k)的转置矩阵,GV T(k)为GV(k)的转置矩阵。
需说明的是,第一预设窗口的尺寸大小小于局部图像块的尺寸大小,目的是为了减少运算量,实现加速计算,节省计算时间。
步骤10212,计算GT(k)G(k)的特征值λk 1、λk 2和λk 1对应的特征向量φk 1,其中,λk 1k 2
步骤10213,将λk 1、λk 2和φk 1分别代入公式θ(k)=arctan(φk 1,yk 1,x);λ(k)=λk 1
Figure BDA0001385868410000051
计算得到所述局部图像块的梯度方向、梯度强度和相关度;
其中,φk 1,y表示特征向量φk 1垂直方向上的特征向量;φk 1,x表示特征向量φk 1水平方向上的特征向量;θ(k)表示局部图像块的梯度方向;λ(k)表示局部图像块的梯度强度;u(k)表示局部图像块的相关度。
步骤1022,根据所述局部图像块的梯度方向、梯度强度和相关度,计算得到所述局部图像块的哈希键值。
这里,本步骤可具体包括:
步骤10221,将所述局部图像块的梯度方向、梯度强度和相关度代入公式
Figure BDA0001385868410000052
中,计算得到所述局部图像块的哈希键值;
其中,θ(k)表示局部图像块的梯度方向,λ(k)表示局部图像块的梯度强度,u(k)表示局部图像块的相关度,j表示所述局部图像块的哈希键值。
需要说明的是,k表示局部图像块的中心像素。
这里,本发明中
Figure BDA0001385868410000053
Figure BDA0001385868410000054
的取值范围均为[0,1]。
这里,如图3所示,本发明实施例中,步骤103可具体包括:
步骤1031,根据所述哈希键值,从多个预设图像滤波器中,确定与每一所述局部图像块对应的图像滤波器;其中,所述预设图像滤波器用于表示局部图像块的像素点值到目标图像块的像素点值的映射关系。
需要说明的是,预设图像滤波器是通过低分辨率和高分辨率实例训练预先生成的。
步骤1032,利用确定出的图像滤波器,计算目标图像块的像素点值。
这里,如图4所示,本步骤可具体包括:
步骤10321,获取所述待重建图像在中心像素点为k、第二预设窗口范围下的矩阵pk,并将所述矩阵pk转换为行向量p(k),所述第二预设窗口的尺寸大小等于所述局部图像块的尺寸大小。
这里,本发明实施例优选的,第二预设窗口的尺寸大小为11×11,局部图像块的尺寸大小为11×11。
以第二预设窗口的尺寸大小为11×11为例,组成矩阵pk的元素为待重建图像中的121个像素点,其中该121个像素点构成的图像块的中心像素为k。
步骤10322,将所述哈希键值,代入公式arg minh||Qi(j,t)h(j,t)-Vi(j,t)||2 2得到与所述哈希键值对应的多个列向量h(j,t);其中,Qi(j,t)用于表示低分辨率图像在估计高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;Vi(j,t)用于表示高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;t取值为1~N2内的所有正整数。
需要说明的是,h(j,t)即为与局部图像块对应的图像滤波器。
步骤10323,将所述行向量p(k)分别与多个所述列向量h(j,t)相乘,得到像素个数为所述局部图像块N2倍的目标图像块的像素点值。
这里需要说明的是,由于待重建图像未经过N倍上采样,提取的局部图像块是未经放大的小图像,那么,局部图像块中一个像素点经滤波器h(j,t)后对应得到N2个像素点。像素个数的增多,使得局部图像块的清晰度变高,进而使得重建后的图像的清晰度变高。
如图5所示,以N=4为例,对应16种滤波器,h(j,1)~h(j,16),那么像素k经过滤波器h(j,t)后,产生16个像素点。
作为另一优选的实现方式,本发明实施例中,步骤101之前,包括:
步骤105,若所述待重建图像为彩色图像,则将所述待重建图像进行颜色空间转换,得到与所述待重建图像对应的黑白灰度图像。
一般地,待重建图像为RGB图像,颜色空间为RGB。将该待重建图像进行颜色空间转换,转换为YUV图像。
具体的,根据公式:Y=0.30R+0.59G+0.11B;U=0.493(B-Y);V=0.877(R-Y);得到待重建图像的Y分量单通道图像,U分量单通道图像和V分量单通道图像。其中,Y分量单通道图像即为与待重建图像对应的黑白灰度图像。
需要说明的是,若待重建图像进行了颜色空间转换,则在本发明实施例中,步骤104之后,还包括:
步骤106,将待重建图像经颜色空间转换得到的U分量单通道图像和V分量单通道分量通过N倍上采样,得到各自分量上的高分辨率通道图像;
步骤107,将得到的Y分量、U分量和V分量的高分辨率通道图像进行颜色空间转换,重建出分辨率为待重建图像分辨率N倍的RGB空间超分辨率图像。
具体的,根据公式:R=Y+1.140V;G=Y-0.394U-0.581V;B=Y+2.032U;得到RGB空间超分辨率图像。
本发明实施例的图像重建方法,根据待重建图像中局部图像块的梯度特征,计算得到的局部图像块的哈希键值,通过局部图像块的哈希键值得到与其对应的图像滤波器,并利用得到的图像滤波器计算出与局部图像块对应的目标图像块的像素点值,从而实现图像重建,且降低计算复杂度,提升运算速度;在图像重建过程中,利用低分辨率图像直接生成高分辨率图像,其处理速度快,重建出的高分辨率图像清晰度高,具有较好的边缘特征。
本发明实施例中,步骤1031中多个预设图像滤波器是通过低分辨率和高分辨率实例训练预先生成的。
下面具体说明一下,预设图像滤波器的生成过程。步骤如下:
步骤201,输入一待训练的样本图像;
需要说明的是,若该待训练的样本图像为彩色RGB图像,则将其进行颜色空间转换,转换为YUV图像。具体的转换过程,参见上述实施例颜色空间转换部分的阐述,这里不再赘述。
这里,对转换后的YUV图像中的Y分量单通道图像进行计算处理。
步骤202,对所述样本图像依次进行N倍下采样、N倍上采样,得到估计高分辨率图像;
需要说明的是,可采用线性插值算法,优选的双立方插值算法,对样本图像依次进行N倍下采样、N倍上采样。
这里,优选的,N为4。当然也可以是其他值,比如,2、3等。
步骤203,根据预设滑动窗口遍历所述估计高分辨率图像时,与所述预设滑动窗口对应的估计高分辨率样本图像块的梯度特征信息以及所述估计高分辨率样本图像块的像素位置信息,计算得到所述估计高分辨率样本图像块的梯度特征信息与像素位置信息的对应关系。
这里,具体步骤包括:
首先,使预设滑动窗口以预设步长沿估计高分辨率图像移动,每移动一次获取一个估计高分辨率样本图像块;
这里,优选的,预设滑动窗口为正方形窗口,边长为11个像素的大小。
优选的,预设步长为1,即一个像素大小。
这里,估计高分辨率样本图像块的尺寸大小等于预设滑动窗口的尺寸大小。
之后,计算估计高分辨率样本图像块的梯度方向、梯度强度和相关度。
具体的,计算估计高分辨率样本图像块在中心像素为k、窗口的尺寸大小为9×9的范围下的水平梯度矩阵GH(k)和垂直梯度矩阵GV(k);将水平梯度矩阵GsH(k)和垂直梯度矩阵GsV(k)合并,得到所述估计高分辨率样本图像块的梯度矩阵Gs(k);计算Gs T(k)Gs(k)的特征值λs k 1、λs k 2和λs k 1对应的特征向量φs k 1,其中,λs k 1s k 2;将λs k 1、λs k 2和φs k 1分别代入公式θs(k)=arctan(φs k 1,ys k 1,x);λs(k)=λs k 1
Figure BDA0001385868410000081
计算得到所述估计高分辨率样本图像块的梯度方向θs(k)、梯度强度λs(k)和相关度us(k);
其中,φs k 1,y表示特征向量φs k 1垂直方向上的特征向量;φs k 1,x表示特征向量φs k 1水平方向上的特征向量;θs(k)表示样本图像块的梯度方向;λs(k)表示样本图像块的梯度强度;us(k)表示样本图像块的相关度。
接着,根据估计高分辨率样本图像块的梯度方向、梯度强度和相关度,计算得到所述估计高分辨率样本图像块的哈希键值j;
这里,具体的,将所述估计高分辨率样本图像块的梯度方向θs(k)、梯度强度λs(k)和相关度us(k)代入公式
Figure BDA0001385868410000082
中,计算得到估计高分辨率样本图像块的哈希键值j。
然后,根据所述估计高分辨率样本图像块的像素点位置,计算得到所述估计高分辨率样本图像块的像素点所处的空间位置类型;
具体的,将所述估计高分辨率样本图像块的像素点位置代入公式t=mod(x,N)+mod(y,N),计算得到所述估计高分辨率样本图像块所处的空间位置类型;其中,x表示样本图像块的像素点的横坐标;y表示样本图像块的像素点的纵坐标;t表示样本图像块的像素点所处的空间位置类型。
最后,根据所述估计高分辨率样本图像块的哈希键值j和所述估计高分辨率样本图像块的像素点所处的空间位置类型t,计算得到所述估计高分辨率样本图像块的第一信息矩阵和第二信息矩阵,其中,第一信息矩阵用于表示在估计高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的对应关系;第二信息矩阵用于表示样本图像下包括多个图像块的哈希键值和像素点空间位置类型的对应关系。
这里,具体步骤包括:
首先,获取所述估计高分辨率图像在中心像素点为k、窗口的尺寸大小为11×11的范围下的矩阵psk,并将所述矩阵psk转换为行向量ps(k);接着,获取所述样本图像的像素点位置对应的像素值qs(k);根据估计高分辨率样本图像块的哈希键值j和估计高分辨率样本图像块的像素点所处的空间位置类型t,得到第一初始矩阵A0(j,t)和第二初始矩阵b0(j,t);
之后,将所述行向量ps(k)的转置矩阵ps T(k)增广到所述第一初始矩阵A0(j,t),得到第一矩阵A(j,t);将所述像素值qs(k)增广到所述第二初始矩阵b0(j,t),得到第二矩阵b(j,t);
最后,将估计高分辨率样本图像块的哈希键值j和估计高分辨率样本图像块的像素点所处的空间位置类型t,分别代入公式Qi(j,t)=Qi-1(j,t)+AT(j,t)A(j,t)、Vi(j,t)=Vi-1(j,t)+AT(j,t)b(j,t),得到估计高分辨率样本图像块的第一信息矩阵和第二信息矩阵。
这里,估计高分辨率图像的分辨率与样本图像的分辨率相同。
步骤204,根据所述估计高分辨率样本图像块的梯度特征信息与像素位置信息的对应关系,生成与所述估计高分辨率样本图像块的梯度特征信息与像素位置信息的对应关系相对应的图像滤波器。
具体步骤包括:将所述高分辨率样本图像块的第一信息矩阵Qi(j,t)和第二信息矩阵Vi(j,t)代入公式h(j,t)=arg minh||Qi(j,t)h-Vi(j,t)||2 2,计算得到与所述高分辨率样本图像块的梯度特征信息与像素位置信息的对应关系相对应的图像滤波器。
本发明实施例还提供一种计算机可读存储介质,其上存储有图像重建程序(指令),该程序(指令)被处理器执行时实现以下步骤:提取待重建图像中的多个局部图像块;根据待重建图像中每一局部图像块的梯度特征信息,计算每一所述局部图像块的哈希键值,其中,所述哈希键值与所述梯度特征信息存在映射关系;根据所述哈希键值,,计算目标图像块的像素点值,所述目标图像块的像素个数为所述局部图像块的像素个数的N2倍,N≥2,且N为正整数;根据对每一所述局部图像块对应计算得到的像素点值,重建超分辨率图像,所述超分辨率图像的分辨率为待重建图像分辨率的N倍。
可选地,该程序(指令)被处理器执行时还可实现以下步骤:控制一预设滑动窗口以预设步长沿所述待重建图像移动,每移动一次确定一个局部图像块。
可选地,该程序(指令)被处理器执行时还可实现以下步骤:计算所述局部图像块的梯度方向、梯度强度和相关度;
根据所述局部图像块的梯度方向、梯度强度和相关度,计算得到所述局部图像块的哈希键值。
可选地,该程序(指令)被处理器执行时还可实现以下步骤:若所述待重建图像为彩色图像,则将所述待重建图像进行颜色空间转换,得到与所述待重建图像对应的黑白灰度图像。
可选地,该程序(指令)被处理器执行时还可实现以下步骤:将计算得到的所述局部图像块在中心像素为k、第一预设窗口范围下的水平梯度矩阵GH(k)和垂直梯度矩阵GV(k)合并,得到所述局部图像块的梯度矩阵G(k),所述第一预设窗口的尺寸大小小于所述局部图像块的尺寸大小;计算GT(k)G(k)的特征值λk 1、λk 2和λk 1对应的特征向量φk 1,其中,λk 1k 2;将λk 1、λk 2和φk 1分别代入公式θ(k)=arctan(φk 1,yk 1,x);λ(k)=λk 1
Figure BDA0001385868410000111
计算得到所述局部图像块的梯度方向、梯度强度和相关度;其中,φk 1,y表示特征向量φk 1垂直方向上的特征向量;φk 1,x表示特征向量φk 1水平方向上的特征向量;θ(k)表示局部图像块的梯度方向;λ(k)表示局部图像块的梯度强度;u(k)表示局部图像块的相关度。
可选地,该程序(指令)被处理器执行时还可实现以下步骤:将所述局部图像块的梯度方向、梯度强度和相关度代入公式
Figure BDA0001385868410000112
中,计算得到所述局部图像块的哈希键值;其中,θ(k)表示局部图像块的梯度方向,λ(k)表示局部图像块的梯度强度,u(k)表示局部图像块的相关度,j表示所述局部图像块的哈希键值。
可选地,该程序(指令)被处理器执行时还可实现以下步骤:根据所述哈希键值,从多个预设图像滤波器中,确定与每一所述局部图像块对应的图像滤波器;其中,所述预设图像滤波器用于表示局部图像块的像素点值到目标图像块的像素点值的映射关系;利用确定出的图像滤波器,计算目标图像块的像素点值。
可选地,该程序(指令)被处理器执行时还可实现以下步骤:获取所述待重建图像在中心像素点为k、第二预设窗口范围下的矩阵pk,并将所述矩阵pk转换为行向量p(k),所述第二预设窗口的尺寸大小等于所述局部图像块的尺寸大小;将所述哈希键值,代入公式argminh||Qi(j,t)h(j,t)-Vi(j,t)||2 2得到与所述哈希键值对应的多个列向量h(j,t);其中,Qi(j,t)用于表示低分辨率图像在估计高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;Vi(j,t)用于表示高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;t取值为1~N2内的所有正整数;将所述行向量p(k)分别与多个所述列向量h(j,t)相乘,得到像素个数为所述局部图像块N2倍的目标图像块的像素点值。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
如图6所示,本发明实施例还提供一种终端300,包括:
提取模块301,用于提取待重建图像中的多个局部图像块;
第一计算模块302,用于根据待重建图像中每一局部图像块的梯度特征信息,计算每一所述局部图像块的哈希键值,其中,所述哈希键值与所述梯度特征信息存在映射关系;
第二计算模块303,用于根据所述哈希键值,计算目标图像块的像素点值,所述目标图像块的像素个数为所述局部图像块的像素个数的N2倍,N≥2,且N为正整数;
图像重建模块304,用于根据对每一所述局部图像块对应计算得到的像素点值,重建超分辨率图像,所述超分辨率图像的分辨率为待重建图像分辨率的N倍。
在图6的基础上,可选地,如图7所示,所述提取模块301包括:
提取子模块3011,用于控制一预设滑动窗口以预设步长沿所述待重建图像移动,每移动一次确定一个局部图像块。
可选地,所述第一计算模块302包括:
第一计算子模块3021,用于计算所述局部图像块的梯度方向、梯度强度和相关度;
第二计算子模块3022,用于根据所述局部图像块的梯度方向、梯度强度和相关度,计算得到所述局部图像块的哈希键值。
可选地,所述终端300还包括:
空间转换模块305,用于在提取待重建图像中的多个局部图像块之前,且所述待重建图像为彩色图像时,将所述待重建图像进行颜色空间转换,得到与所述待重建图像对应的黑白灰度图像。
可选地,所述第一计算子模块3021包括:
矩阵合并单元30211,用于将计算得到的所述局部图像块在中心像素为k、第一预设窗口范围下的水平梯度矩阵GH(k)和垂直梯度矩阵GV(k)合并,得到所述局部图像块的梯度矩阵G(k),所述第一预设窗口的尺寸大小小于所述局部图像块的尺寸大小;
第一计算单元30212,用于计算GT(k)G(k)的特征值λk 1、λk 2和λk 1对应的特征向量φk 1,其中,λk 1k 2
第二计算单元30213,用于将λk 1、λk 2和φk 1分别代入公式θ(k)=arctan(φk 1,yk 1,x);λ(k)=λk 1
Figure BDA0001385868410000131
计算得到所述局部图像块的梯度方向、梯度强度和相关度;
其中,φk 1,y表示特征向量φk 1垂直方向上的特征向量;φk 1,x表示特征向量φk 1水平方向上的特征向量;θ(k)表示局部图像块的梯度方向;λ(k)表示局部图像块的梯度强度;u(k)表示局部图像块的相关度。
可选地,所述第二计算子模块3022包括:
第三计算单元30221,用于将所述局部图像块的梯度方向、梯度强度和相关度代入公式
Figure BDA0001385868410000132
中,计算得到所述局部图像块的哈希键值;
其中,θ(k)表示局部图像块的梯度方向,λ(k)表示局部图像块的梯度强度,u(k)表示局部图像块的相关度,j表示所述局部图像块的哈希键值。
可选地,所述第二计算模块303包括:
滤波器确定子模块3031,用于根据所述哈希键值,从多个预设图像滤波器中,确定与每一所述局部图像块对应的图像滤波器;其中,所述预设图像滤波器用于表示局部图像块的像素点值到目标图像块的像素点值的映射关系;
第三计算子模块3032,用于利用确定出的图像滤波器,计算目标图像块的像素点值。
可选地,所述第三计算子模块3032包括:
矩阵转换单元30321,用于获取所述待重建图像在中心像素点为k、第二预设窗口范围下的的矩阵pk,并将所述矩阵pk转换为行向量p(k),所述第二预设窗口的尺寸大小等于所述局部图像块的尺寸大小;
第四计算单元30322,用于将所述哈希键值,代入公式arg minh||Qi(j,t)h(j,t)-Vi(j,t)||2 2得到与所述哈希键值对应的多个列向量h(j,t);其中,Qi(j,t)用于表示低分辨率图像在估计高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;Vi(j,t)用于表示高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;t取值为1~N2内的所有正整数;
第五计算单元30323,用于将所述行向量p(k)分别与多个所述列向量h(j,t)相乘,得到像素个数为所述局部图像块N2倍的目标图像块的像素点值。
本发明实施例提供的终端,第一计算模块根据待重建图像中局部图像块的梯度特征,计算得到的局部图像块的哈希键值,第二计算模块通过局部图像块的哈希键值计算出与局部图像块对应的目标图像块的像素点值,从而实现图像重建,且降低计算复杂度,提升运算速度;在图像重建过程中,利用低分辨率图像直接生成高分辨率图像,其处理速度快,重建出的高分辨率图像清晰度高,具有较好的边缘特征。
本发明实施例还提供一种的终端,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序;所述计算机程序被所述处理器执行时实现如上所述的图像重建方法中的步骤。
如图7所示,为本发明又一实施例提供的移动终端结构示意图。图7所示的移动终端400,包括:
至少一个处理器401、存储器402、至少一个网络接口406和用户接口403。移动终端400中的各个组件通过总线系统405耦合在一起。可理解,总线系统405用于实现这些组件之间的连接通信。总线系统405除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见,在图7中将各种总线都标为总线系统405。
其中,用户接口403可以包括显示器、键盘或者点击设备(例如,鼠标,轨迹球(trackball)、触感板或者触摸屏等。
可以理解,本发明实施例中的存储器402可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(Read-Only Memory,ROM)、可编程只读存储器(Programmable ROM,PROM)、可擦除可编程只读存储器(Erasable PROM,EPROM)、电可擦除可编程只读存储器(Electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(Random Access Memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(Static RAM,SRAM)、动态随机存取存储器(Dynamic RAM,DRAM)、同步动态随机存取存储器(Synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(Double Data RateSDRAM,DDRSDRAM)、增强型同步动态随机存取存储器(Enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(Synch link DRAM,SLDRAM)和直接内存总线随机存取存储器(DirectRambus RAM,DRRAM)。本文描述的系统和方法的存储器402旨在包括但不限于这些和任意其它适合类型的存储器。
在一些实施方式中,存储器402存储了如下的元素,可执行模块或者数据结构,或者他们的子集,或者他们的扩展集:操作系统4021和应用程序4022。
其中,操作系统4021,包含各种系统程序,例如框架层、核心库层、驱动层等,用于实现各种基础业务以及处理基于硬件的任务。应用程序4022,包含各种应用程序,例如媒体播放器(Media Player)、浏览器(Browser)等,用于实现各种应用业务。实现本发明实施例方法的程序可以包含在应用程序4022中。
在本发明实施例中,移动终端400还包括:存储在存储器402并可在处理器401上运行的计算机程序,具体地,可以是在应用程序4022中的计算机程序,计算机程序被处理器401执行时实现如下步骤:提取待重建图像中的多个局部图像块;根据待重建图像中每一局部图像块的梯度特征信息,计算每一所述局部图像块的哈希键值,其中,所述哈希键值与所述梯度特征信息存在映射关系;根据所述哈希键值,计算目标图像块的像素点值,所述目标图像块的像素个数为所述局部图像块的像素个数的N2倍,N≥2,且N为正整数;根据对每一所述局部图像块对应计算得到的像素点值,重建超分辨率图像,所述超分辨率图像的分辨率为待重建图像分辨率的N倍。
可选地,计算机程序被处理器401执行时还可实现如下步骤:控制一预设滑动窗口以预设步长沿所述待重建图像移动,每移动一次确定一个局部图像块。
可选地,计算机程序被处理器401执行时还可实现如下步骤:计算所述局部图像块的梯度方向、梯度强度和相关度;根据所述局部图像块的梯度方向、梯度强度和相关度,计算得到所述局部图像块的哈希键值。
可选地,计算机程序被处理器401执行时还可实现如下步骤:在提取待重建图像中的多个局部图像块之前,若所述待重建图像为彩色图像,则将所述待重建图像进行颜色空间转换,得到与所述待重建图像对应的黑白灰度图像。
可选地,计算机程序被处理器401执行时还可实现如下步骤:将计算得到的所述局部图像块在中心像素为k、第一预设窗口范围下的水平梯度矩阵GH(k)和垂直梯度矩阵GV(k)合并,得到所述局部图像块的梯度矩阵G(k),所述第一预设窗口的尺寸大小小于所述局部图像块的尺寸大小;计算GT(k)G(k)的特征值λk 1、λk 2和λk 1对应的特征向量φk 1,其中,λk 1k 2;将λk 1、λk 2和φk 1分别代入公式θ(k)=arctan(φk 1,yk 1,x);λ(k)=λk 1
Figure BDA0001385868410000161
计算得到所述局部图像块的梯度方向、梯度强度和相关度;其中,φk 1,y表示特征向量φk 1垂直方向上的特征向量;φk 1,x表示特征向量φk 1水平方向上的特征向量;θ(k)表示局部图像块的梯度方向;λ(k)表示局部图像块的梯度强度;u(k)表示局部图像块的相关度。
可选地,计算机程序被处理器401执行时还可实现如下步骤:将所述局部图像块的梯度方向、梯度强度和相关度代入公式
Figure BDA0001385868410000162
中,计算得到所述局部图像块的哈希键值;其中,θ(k)表示局部图像块的梯度方向,λ(k)表示局部图像块的梯度强度,u(k)表示局部图像块的相关度,j表示所述局部图像块的哈希键值。
可选地,计算机程序被处理器401执行时还可实现如下步骤:根据所述哈希键值,从多个预设图像滤波器中,确定与每一所述局部图像块对应的图像滤波器;其中,所述预设图像滤波器用于表示局部图像块的像素点值到目标图像块的像素点值的映射关系;利用确定出的图像滤波器,计算目标图像块的像素点值。
这里需要说明的是,预设图像滤波器可存储于存储器402中,处理器401可调用存储器402中的预设图像滤波器。
可选地,计算机程序被处理器401执行时还可实现如下步骤:获取所述待重建图像在中心像素点为k、第二预设窗口范围下的矩阵pk,并将所述矩阵pk转换为行向量p(k),所述第二预设窗口的尺寸大小等于所述局部图像块的尺寸大小;将所述哈希键值,代入公式argminh||Qi(j,t)h(j,t)-Vi(j,t)||2 2得到与所述哈希键值对应的多个列向量h(j,t);其中,Qi(j,t)用于表示低分辨率图像在估计高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;Vi(j,t)用于表示高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;t取值为1~N2内的所有正整数;将所述行向量p(k)分别与多个所述列向量h(j,t)相乘,得到像素个数为所述局部图像块N2倍的目标图像块的像素点值。
本发明的终端如可以是手机、平板电脑、个人数字助理(Personal DigitalAssistant,PDA)、或车载电脑等等移动终端。
移动终端400能够实现前述实施例中终端实现的各个过程,为避免重复,这里不再赘述。
本发明实施例的移动终端400,计算机程序被处理器401执行时实现如下步骤:提取待重建图像中的多个局部图像块;根据待重建图像中每一局部图像块的梯度特征信息,计算每一所述局部图像块的哈希键值,其中,所述哈希键值与所述梯度特征信息存在映射关系;根据所述哈希键值,计算目标图像块的像素点值,所述目标图像块的像素个数为所述局部图像块的像素个数的N2倍,N≥2,且N为正整数;根据对每一所述局部图像块对应计算得到的像素点值,重建超分辨率图像,所述超分辨率图像的分辨率为待重建图像分辨率的N倍。如此,实现图像重建,且降低计算复杂度,提升运算速度;在图像重建过程中,利用低分辨率图像直接生成高分辨率图像,其处理速度快,重建出的高分辨率图像清晰度高,具有较好的边缘特征。
上述本发明实施例揭示的方法均可以应用于处理器401中,或者由处理器401实现。处理器401可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器401中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器401可以是通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(FieldProgrammable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的计算机可读存储介质中。该计算机可读存储介质位于存储器402,处理器401读取存储器402中的信息,结合其硬件完成上述方法的步骤。具体地,该计算机可读存储介质上存储有截屏处理程序,截屏处理程序被处理器401执行时实现如上述截屏方法实施例的各步骤。
可以理解的是,本文描述的这些实施例可以用硬件、软件、固件、中间件、微码或其组合来实现。对于硬件实现,处理单元可以实现在一个或多个专用集成电路(ApplicationSpecific Integrated Circuits,ASIC)、数字信号处理器(Digital Signal Processing,DSP)、数字信号处理设备(DSP Device,DSPD)、可编程逻辑设备(Programmable LogicDevice,PLD)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、通用处理器、控制器、微控制器、微处理器、用于执行本申请所述功能的其它电子单元或其组合中。
对于软件实现,可通过执行本文所述功能的模块(例如过程、函数等)来实现本文所述的技术。软件代码可存储在存储器中并通过处理器执行。存储器可以在处理器中或在处理器外部实现。
如图8所示,为本发明再一实施例提供的移动终端结构示意图。图8所示的移动终端500,包括:
射频(Radio Frequency,RF)电路510、存储器520、输入单元530、显示单元540、处理器560、音频电路570、WiFi(Wireless Fidelity)模块580和电源590。
其中,输入单元530可用于接收用户输入的数字或字符信息,以及产生与终端500的用户设置以及功能控制有关的信号输入。具体地,本发明实施例中,该输入单元530可以包括触控面板531。触控面板531,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板531上的操作),并根据预先设定的程式驱动相应的连接装置。可选的,触控面板531可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给该处理器560,并能接收处理器560发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板531。除了触控面板531,输入单元530还可以包括其他输入设备532,其他输入设备532可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
其中,显示单元540可用于显示由用户输入的信息或提供给用户的信息以及终端500的各种菜单界面。显示单元540可包括显示面板541,可选的,可以采用LCD或有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板541。
应注意,触控面板531可以覆盖显示面板541,形成触摸显示屏,当该触摸显示屏检测到在其上或附近的触摸操作后,传送给处理器560以确定触摸事件的类型,随后处理器560根据触摸事件的类型在触摸显示屏上提供相应的视觉输出。
触摸显示屏包括应用程序界面显示区及常用控件显示区。该应用程序界面显示区及该常用控件显示区的排列方式并不限定,可以为上下排列、左右排列等可以区分两个显示区的排列方式。该应用程序界面显示区可以用于显示应用程序的界面。每一个界面可以包含至少一个应用程序的图标和/或widget桌面控件等界面元素。该应用程序界面显示区也可以为不包含任何内容的空界面。该常用控件显示区用于显示使用率较高的控件,例如,设置按钮、界面编号、滚动条、电话本图标等应用程序图标等。
其中处理器560是移动终端500的控制中心,利用各种接口和线路连接整个手机的各个部分,通过运行或执行存储在第一存储器521内的软件程序和/或模块,以及调用存储在第二存储器522内的数据,执行移动终端500的各种功能和处理数据,从而对移动终端500进行整体监控。可选的,处理器560可包括一个或多个处理单元。
在本发明实施例中,移动终端500还包括:存储在第一存储器521并可在处理器560上运行的图像重建程序和存储在第二存储器522内并可被处理器560调用的数据,具体地,图像重建程序被处理器560执行时实现如下步骤:提取待重建图像中的多个局部图像块;根据待重建图像中每一局部图像块的梯度特征信息,计算每一所述局部图像块的哈希键值,其中,所述哈希键值与所述梯度特征信息存在映射关系;根据所述哈希键值,计算目标图像块的像素点值,所述目标图像块的像素个数为所述局部图像块的像素个数的N2倍,N≥2,且N为正整数;根据对每一所述局部图像块对应计算得到的像素点值,重建超分辨率图像,所述超分辨率图像的分辨率为待重建图像分辨率的N倍。
可选地,计算机程序被处理器560执行时还可实现如下步骤:控制一预设滑动窗口以预设步长沿所述待重建图像移动,每移动一次确定一个局部图像块。
可选地,计算机控制程序被处理器560执行时还可实现如下步骤:计算所述局部图像块的梯度方向、梯度强度和相关度;根据所述局部图像块的梯度方向、梯度强度和相关度,计算得到所述局部图像块的哈希键值。
可选地,计算机程序被处理器560执行时还可实现如下步骤:在提取待重建图像中的多个局部图像块之前,若所述待重建图像为彩色图像,则将所述待重建图像进行颜色空间转换,得到与所述待重建图像对应的黑白灰度图像。
可选地,计算机程序被处理器560执行时还可实现如下步骤:将计算得到的所述局部图像块在中心像素为k、第一预设窗口范围下的水平梯度矩阵GH(k)和垂直梯度矩阵GV(k)合并,得到所述局部图像块的梯度矩阵G(k),所述第一预设窗口的尺寸大小小于所述局部图像块的尺寸大小;计算GT(k)G(k)的特征值λk 1、λk 2和λk 1对应的特征向量φk 1,其中,λk 1k 2;将λk 1、λk 2和φk 1分别代入公式θ(k)=arctan(φk 1,yk 1,x);λ(k)=λk 1
Figure BDA0001385868410000211
计算得到所述局部图像块的梯度方向、梯度强度和相关度;其中,φk 1,y表示特征向量φk 1垂直方向上的特征向量;φk 1,x表示特征向量φk 1水平方向上的特征向量;θ(k)表示局部图像块的梯度方向;λ(k)表示局部图像块的梯度强度;u(k)表示局部图像块的相关度。
可选地,计算机程序被处理器560执行时还可实现如下步骤:将所述局部图像块的梯度方向、梯度强度和相关度代入公式
Figure BDA0001385868410000212
中,计算得到所述局部图像块的哈希键值;其中,θ(k)表示局部图像块的梯度方向,λ(k)表示局部图像块的梯度强度,u(k)表示局部图像块的相关度,j表示所述局部图像块的哈希键值。
可选地,计算机程序被处理器560执行时还可实现如下步骤:根据所述哈希键值,从多个预设图像滤波器中,确定与每一所述局部图像块对应的图像滤波器;其中,所述预设图像滤波器用于表示局部图像块的像素点值到目标图像块的像素点值的映射关系;利用确定出的图像滤波器,计算目标图像块的像素点值。
需要说明的是,预设图像滤波器可存储于第二存储器522中,处理器560可调用第二存储器522中的预设图像滤波器。
可选地,计算机程序被处理器560执行时还可实现如下步骤:获取所述待重建图像在中心像素点为k、第二预设窗口范围下的矩阵pk,并将所述矩阵pk转换为行向量p(k),所述第二预设窗口的尺寸大小等于所述局部图像块的尺寸大小;将所述哈希键值,代入公式argminh||Qi(j,t)h(j,t)-Vi(j,t)||2 2得到与所述哈希键值对应的多个列向量h(j,t);其中,Qi(j,t)用于表示低分辨率图像在估计高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;Vi(j,t)用于表示高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;t取值为1~N2内的所有正整数;将所述行向量p(k)分别与多个所述列向量h(j,t)相乘,得到像素个数为所述局部图像块N2倍的目标图像块的像素点值。
本发明实施例提供的移动终端500,计算机程序被处理器560执行时实现如下步骤:提取待重建图像中的多个局部图像块;根据待重建图像中每一局部图像块的梯度特征信息,计算每一所述局部图像块的哈希键值,其中,所述哈希键值与所述梯度特征信息存在映射关系;根据所述哈希键值,计算目标图像块的像素点值,所述目标图像块的像素个数为所述局部图像块的像素个数的N2倍,N≥2,且N为正整数;根据对每一所述局部图像块对应计算得到的像素点值,重建超分辨率图像,所述超分辨率图像的分辨率为待重建图像分辨率的N倍。如此,实现图像重建,且降低计算复杂度,提升运算速度;在图像重建过程中,利用低分辨率图像直接生成高分辨率图像,其处理速度快,重建出的高分辨率图像清晰度高,具有较好的边缘特征。
本发明的终端如可以是手机、平板电脑、个人数字助理(Personal DigitalAssistant,PDA)、或车载电脑等等移动终端。
移动终端500能够实现前述实施例中终端实现的各个过程,为避免重复,这里不再赘述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来控制相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(Random AccessMemory,RAM)等。
本发明的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例,例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
以上所述是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明所述原理的前提下,还可以作出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

Claims (16)

1.一种图像重建方法,其特征在于,包括:
提取待重建图像中的多个局部图像块;
根据待重建图像中每一局部图像块的梯度特征信息,计算每一所述局部图像块的哈希键值,其中,所述哈希键值与所述梯度特征信息存在映射关系;
根据所述哈希键值,计算目标图像块的像素点值,所述目标图像块的像素个数为所述局部图像块的像素个数的N2倍,N≥2,且N为正整数;
根据对每一所述局部图像块对应计算得到的像素点值,重建超分辨率图像,所述超分辨率图像的分辨率为所述待重建图像分辨率的N倍;
根据待重建图像中每一局部图像块的梯度特征信息,计算每一所述局部图像块的哈希键值的步骤包括:
计算所述局部图像块的梯度方向、梯度强度和相关度;
根据所述局部图像块的梯度方向、梯度强度和相关度,计算得到所述局部图像块的哈希键值。
2.根据权利要求1所述的图像重建方法,其特征在于,所述提取待重建图像中的多个局部图像块的步骤,包括:
控制一预设滑动窗口以预设步长沿所述待重建图像移动,每移动一次确定一个局部图像块。
3.根据权利要求1所述的图像重建方法,其特征在于,所述提取待重建图像中的多个局部图像块的步骤之前,所述方法还包括:
若所述待重建图像为彩色图像,则将所述待重建图像进行颜色空间转换,得到与所述待重建图像对应的黑白灰度图像。
4.根据权利要求1所述的图像重建方法,其特征在于,计算所述局部图像块的梯度方向、梯度强度和相关度的步骤,包括:
将计算得到的所述局部图像块在中心像素为k、第一预设窗口范围下的水平梯度矩阵GH(k)和垂直梯度矩阵GV(k)合并,得到所述局部图像块的梯度矩阵G(k),所述第一预设窗口的尺寸大小小于所述局部图像块的尺寸大小;
计算GT(k)G(k)的特征值λk 1、λk 2和λk 1对应的特征向量φk 1,其中,λk 1k 2
将λk 1、λk 2和φk 1分别代入公式θ(k)=arctan(φk 1,yk 1,x);λ(k)=λk 1
Figure FDA0002377372710000021
计算得到所述局部图像块的梯度方向、梯度强度和相关度;
其中,φk 1,y表示特征向量φk 1垂直方向上的特征向量;φk 1,x表示特征向量φk 1水平方向上的特征向量;θ(k)表示局部图像块的梯度方向;λ(k)表示局部图像块的梯度强度;u(k)表示局部图像块的相关度。
5.根据权利要求1所述的图像重建方法,其特征在于,根据所述局部图像块的梯度方向、梯度强度和相关度,计算得到所述局部图像块的哈希键值的步骤,包括:
将所述局部图像块的梯度方向、梯度强度和相关度代入公式
Figure FDA0002377372710000022
中,计算得到所述局部图像块的哈希键值;
其中,θ(k)表示局部图像块的梯度方向,λ(k)表示局部图像块的梯度强度,u(k)表示局部图像块的相关度,j表示所述局部图像块的哈希键值。
6.根据权利要求1所述的图像重建方法,其特征在于,根据所述哈希键值,计算目标图像块的像素点值的步骤,包括:
根据所述哈希键值,从多个预设图像滤波器中,确定与每一所述局部图像块对应的图像滤波器;其中,所述预设图像滤波器用于表示局部图像块的像素点值到目标图像块的像素点值的映射关系;
利用确定出的图像滤波器,计算目标图像块的像素点值。
7.根据权利要求6所述的图像重建方法,其特征在于,利用确定出的图像滤波器,计算目标图像块的像素点值的步骤,包括:
获取所述待重建图像在中心像素点为k、第二预设窗口范围下的矩阵pk,并将所述矩阵pk转换为行向量p(k),所述第二预设窗口的尺寸大小等于所述局部图像块的尺寸大小;
将所述哈希键值,代入公式arg minh||Qi(j,t)h(j,t)-Vi(j,t)||2 2得到与所述哈希键值对应的多个列向量h(j,t);其中,Qi(j,t)用于表示低分辨率图像在估计高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;Vi(j,t)用于表示高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;j表示所述局部图像块的哈希键值,t表示所述局部图像块的像素点位置类型,t取值为1~N2内的所有正整数;
将所述行向量p(k)分别与多个所述列向量h(j,t)相乘,得到像素个数为所述局部图像块N2倍的目标图像块的像素点值。
8.一种终端,其特征在于,包括:
提取模块,用于提取待重建图像中的多个局部图像块;
第一计算模块,用于根据待重建图像中每一局部图像块的梯度特征信息,计算每一所述局部图像块的哈希键值,其中,所述哈希键值与所述梯度特征信息存在映射关系;
第二计算模块,用于根据所述哈希键值,计算目标图像块的像素点值,所述目标图像块的像素个数为所述局部图像块的像素个数的N2倍,N≥2,且N为正整数;
图像重建模块,用于根据对每一所述局部图像块对应计算得到的像素点值,重建超分辨率图像,所述超分辨率图像的分辨率为待重建图像分辨率的N倍;
所述第一计算模块包括:
第一计算子模块,用于计算所述局部图像块的梯度方向、梯度强度和相关度;
第二计算子模块,用于根据所述局部图像块的梯度方向、梯度强度和相关度,计算得到所述局部图像块的哈希键值。
9.根据权利要求8所述的终端,其特征在于,所述提取模块包括:
提取子模块,用于控制一预设滑动窗口以预设步长沿所述待重建图像移动,每移动一次确定一个局部图像块。
10.根据权利要求8所述的终端,其特征在于,所述终端还包括:
空间转换模块,用于在提取待重建图像中的多个局部图像块之前,且所述待重建图像为彩色图像时,将所述待重建图像进行颜色空间转换,得到与所述待重建图像对应的黑白灰度图像。
11.根据权利要求8所述的终端,其特征在于,所述第一计算子模块包括:
矩阵合并单元,用于将计算得到的所述局部图像块在中心像素为k、第一预设窗口范围下的水平梯度矩阵GH(k)和垂直梯度矩阵GV(k)合并,得到所述局部图像块的梯度矩阵G(k),所述第一预设窗口的尺寸大小小于所述局部图像块的尺寸大小;
第一计算单元,用于计算GT(k)G(k)的特征值λk 1、λk 2和λk 1对应的特征向量φk 1,其中,λk 1k 2
第二计算单元,用于将λk 1、λk 2和φk 1分别代入公式θ(k)=arctan(φk 1,yk 1,x);λ(k)=λk 1
Figure FDA0002377372710000041
计算得到所述局部图像块的梯度方向、梯度强度和相关度;
其中,φk 1,y表示特征向量φk 1垂直方向上的特征向量;φk 1,x表示特征向量φk 1水平方向上的特征向量;θ(k)表示局部图像块的梯度方向;λ(k)表示局部图像块的梯度强度;u(k)表示局部图像块的相关度。
12.根据权利要求8所述的终端,其特征在于,所述第二计算子模块包括:
第三计算单元,用于将所述局部图像块的梯度方向、梯度强度和相关度代入公式
Figure FDA0002377372710000042
中,计算得到所述局部图像块的哈希键值;
其中,θ(k)表示局部图像块的梯度方向,λ(k)表示局部图像块的梯度强度,u(k)表示局部图像块的相关度,j表示所述局部图像块的哈希键值。
13.根据权利要求8所述的终端,其特征在于,所述第二计算模块包括:
滤波器确定子模块,用于根据所述哈希键值,从多个预设图像滤波器中,确定与每一所述局部图像块对应的图像滤波器;其中,所述预设图像滤波器用于表示局部图像块的像素点值到目标图像块的像素点值的映射关系;
第三计算子模块,用于利用确定出的图像滤波器,计算目标图像块的像素点值。
14.根据权利要求13所述的终端,其特征在于,所述第三计算子模块包括:
矩阵转换单元,用于获取所述待重建图像在中心像素点为k、第二预设窗口范围下的矩阵pk,并将所述矩阵pk转换为行向量p(k),所述第二预设窗口的尺寸大小等于所述局部图像块的尺寸大小;
第四计算单元,用于将所述哈希键值,代入公式arg minh||Qi(j,t)h(j,t)-Vi(j,t)||2 2得到与所述哈希键值对应的多个列向量h(j,t);其中,Qi(j,t)用于表示低分辨率图像在估计高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;Vi(j,t)用于表示高分辨率图像下包括多个图像块的哈希键值和像素点空间位置类型的信息矩阵;j表示所述局部图像块的哈希键值,t表示所述局部图像块的像素点位置类型,t取值为1~N2内的所有正整数;
第五计算单元,用于将所述行向量p(k)分别与多个所述列向量h(j,t)相乘,得到像素个数为所述局部图像块N2倍的目标图像块的像素点值。
15.一种终端,其特征在于,包括:处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至7中任一项所述的图像重建方法的步骤。
16.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的图像重建方法的步骤。
CN201710725261.3A 2017-08-22 2017-08-22 一种图像重建方法、终端及计算机可读存储介质 Active CN107527321B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710725261.3A CN107527321B (zh) 2017-08-22 2017-08-22 一种图像重建方法、终端及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710725261.3A CN107527321B (zh) 2017-08-22 2017-08-22 一种图像重建方法、终端及计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN107527321A CN107527321A (zh) 2017-12-29
CN107527321B true CN107527321B (zh) 2020-04-17

Family

ID=60681883

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710725261.3A Active CN107527321B (zh) 2017-08-22 2017-08-22 一种图像重建方法、终端及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN107527321B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI823756B (zh) * 2022-06-27 2023-11-21 大陸商威視芯半導體(合肥)有限公司 一種利用數值轉換提高圖像分辨率的方法及系統

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110070486A (zh) * 2018-01-24 2019-07-30 杭州海康威视数字技术股份有限公司 一种图像处理方法、装置及电子设备
CN110545428B (zh) * 2018-05-28 2024-02-23 深信服科技股份有限公司 一种运动估计方法及装置、服务器及计算机可读存储介质
CN110807300A (zh) * 2018-07-18 2020-02-18 广州金山移动科技有限公司 一种图像处理的方法、装置、电子设备及介质
CN110874809A (zh) * 2018-08-29 2020-03-10 上海商汤智能科技有限公司 图像处理方法及装置、电子设备和存储介质
CN112215761A (zh) * 2019-07-12 2021-01-12 华为技术有限公司 图像处理方法、装置及设备
CN111445424B (zh) * 2019-07-23 2023-07-18 广州市百果园信息技术有限公司 图像处理和移动终端视频处理方法、装置、设备和介质
CN112767290B (zh) * 2019-11-01 2022-11-11 RealMe重庆移动通信有限公司 图像融合方法、图像融合装置、存储介质与终端设备
CN111932463B (zh) * 2020-08-26 2023-05-30 腾讯科技(深圳)有限公司 图像处理方法、装置、设备及存储介质
CN114612294A (zh) * 2020-12-08 2022-06-10 武汉Tcl集团工业研究院有限公司 一种图像超分辨率处理方法和计算机设备
CN112801879B (zh) * 2021-02-09 2023-12-08 咪咕视讯科技有限公司 图像超分辨率重建方法、装置、电子设备及存储介质
CN113538308A (zh) * 2021-06-29 2021-10-22 上海联影医疗科技股份有限公司 图像数据处理方法、装置、计算机设备和存储介质
CN113808020A (zh) * 2021-09-18 2021-12-17 北京字节跳动网络技术有限公司 图像处理方法及设备
WO2023050422A1 (en) * 2021-09-30 2023-04-06 Peking University Systems and methods for image processing

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103839242A (zh) * 2014-01-15 2014-06-04 中国科学院电子学研究所 一种基于高维索引的图像快速超分辨率增强方法
WO2015198368A1 (ja) * 2014-06-24 2015-12-30 三菱電機株式会社 画像処理装置及び画像処理方法
CN106127688A (zh) * 2016-06-30 2016-11-16 北京大学 一种超分辨率图像重建方法及其系统
CN106530231A (zh) * 2016-11-09 2017-03-22 武汉工程大学 一种基于深层协作表达的超分辨率图像的重建方法及系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103839242A (zh) * 2014-01-15 2014-06-04 中国科学院电子学研究所 一种基于高维索引的图像快速超分辨率增强方法
WO2015198368A1 (ja) * 2014-06-24 2015-12-30 三菱電機株式会社 画像処理装置及び画像処理方法
CN106127688A (zh) * 2016-06-30 2016-11-16 北京大学 一种超分辨率图像重建方法及其系统
CN106530231A (zh) * 2016-11-09 2017-03-22 武汉工程大学 一种基于深层协作表达的超分辨率图像的重建方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于局部与非局部先验的影像超分辨重建算法研究;沐广武;《中国优秀硕士学位论文全文数据库》;20130415(第2013/04期);第4章 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI823756B (zh) * 2022-06-27 2023-11-21 大陸商威視芯半導體(合肥)有限公司 一種利用數值轉換提高圖像分辨率的方法及系統

Also Published As

Publication number Publication date
CN107527321A (zh) 2017-12-29

Similar Documents

Publication Publication Date Title
CN107527321B (zh) 一种图像重建方法、终端及计算机可读存储介质
US11354785B2 (en) Image processing method and device, storage medium and electronic device
US10621697B2 (en) Blended neural network for super-resolution image processing
US10134111B2 (en) Generating an enhanced image of a predetermined scene from a plurality of images of the predetermined scene
CN110617973B (zh) 振动检测方法及相关装置
US20150363912A1 (en) Rgbw demosaic method by combining rgb chrominance with w luminance
KR20190005252A (ko) 병렬 컴퓨터 비전 및 이미지 스케일링 아키텍처
CN111915481B (zh) 图像处理方法、装置、电子设备及介质
CN108876716B (zh) 超分辨率重建方法及装置
TWI547853B (zh) 使用者介面顯示系統及方法
JP2017537403A (ja) 超解像画像を生成するための方法、装置およびコンピュータ・プログラム・プロダクト
CN106341530B (zh) 一种支付页面的切换方法及移动终端
CN105009172A (zh) 运动模糊感知视觉位姿跟踪
Bin et al. Fast multi-channel image reconstruction using a novel two-dimensional algorithm
CN109544490B (zh) 图像增强方法、装置和计算机可读存储介质
Vishnukumar et al. Edge preserving single image super-resolution with improved visual quality
CN107451548B (zh) 一种图像处理方法、移动终端及计算机可读存储介质
US20200051209A1 (en) Two stage multi-scale processing of image data
US9811892B1 (en) Separating sub-band image data for processing and merging with unprocessed image data
US10481774B2 (en) Area-dependent image enhancement
WO2016139871A1 (ja) 脈拍計測装置及びその制御方法
WO2018119787A1 (zh) 一种去马赛克方法及装置
US10692177B2 (en) Image pipeline with dual demosaicing circuit for efficient image processing
US9807315B1 (en) Lookup table interpolation in a film emulation camera system
Singh et al. A comparative performance analysis of DCT-based and Zernike moments-based image up-sampling techniques

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant