CN110838085A - 一种图像的超分辨率重建方法、装置及电子设备 - Google Patents

Abstract

本发明适用于图像处理技术领域，提供了一种图像的超分辨率重建方法、装置、电子设备及计算机可读存储介质，所述超分辨率重建方法包括：获取源图像上包含目标像素的图像块；构建重建图像的模板，并获取该模板上与所述目标像素对应的重建像素的位置标记；将所述图像块对应的像素矩阵与所述位置标记输入预先训练的神经网络，得到与所述位置标记对应的滤波矩阵；将所述滤波矩阵与所述像素矩阵进行卷积处理，得到与所述目标像素对应的重建像素的像素值。本发明能够对现有的低分辨率图像进行重建，得到符合人眼视觉效果的高分辨率重建图像，并且无需进行硬件更新，节省了硬件成本。

Description

一种图像的超分辨率重建方法、装置及电子设备

技术领域

本发明属于图像处理技术领域，尤其涉及一种图像的超分辨率重建方法、装置、电子设备及计算机可读存储介质。

背景技术

超分辨率重建(Super Resolution，简称SR)是指利用计算机将一幅低分辨率图像(Low Resolution)进行处理，生成高分辨率图像(High Resolution)的一种图像处理技术。高分辨率图像意味着图像具有高像素密度，可以提供更多的细节。

随着显示器件尺寸的不断增大，4K电视的不断普及，对于高清和超高清的图片、视频的需求不断增多。而现有技术中一般是通过升级硬件的方式来得到高分辨率图像；然而，采用该方式的成本较高，并且，难以对已有的低分辨率片源进行实施。

发明内容

有鉴于此，本发明提供了一种图像的超分辨率重建方法、装置、电子设备及计算机可读存储介质，以解决现有技术中高分辨率图像的获取成本高且难以对已有的低分辨率片源进行实施的问题。

本发明的第一方面提供了一种图像的超分辨率重建方法，包括：

获取源图像上包含目标像素的图像块；

构建重建图像的模板，并获取该模板上与所述目标像素对应的重建像素的位置标记；

将所述图像块对应的像素矩阵与所述位置标记输入预先训练的神经网络，得到与所述位置标记对应的滤波矩阵；

将所述滤波矩阵与所述像素矩阵进行卷积处理，得到与所述目标像素对应的重建像素的像素值。

基于本发明的第一方面，在第一方面第一种可能的实现方式中，所述超分辨率重建方法还包括：

以所述源图像上的各个像素分别作为目标像素，计算所述各个像素对应的重建像素的像素值；

基于所述各个像素对应的重建像素的像素值，生成所述重建图像。

基于本发明的第一方面，在第一方面第二种可能的实现方式中，在将所述图像块对应的像素矩阵与所述位置标记输入预先训练的神经网络之前还包括：

训练所述神经网络。

基于上述第二种可能的实现方式，在第三种可能的实现方式中，所述训练所述神经网络包括：

创建图像集，其中，所述图像集包括M个图像对，所述M个图像对中的每个图像对均包括一个第一图像和一个第二图像，所述第二图像为对所述第一图像进行下采样得到的图像，M为大于1的整数；

从所述M个图像对中的每个图像对中选取N个训练数据，共得到M*N个训练数据，其中，N为大于1的整数，每个训练数据包括：

该训练数据对应的图像对中的第一图像上的一个第一像素、该图像对中的第二图像中的一个训练图像块、以及该第一像素的位置标记，其中，所述训练图像块包含所述第一像素在所述第二图像上对应的第二像素；

利用所述M*N个训练数据训练所述神经网络。

基于上述第三种可能的实现方式，在第四种可能的实现方式中，所述利用所述M*N个训练数据训练所述神经网络包括：

基于所述M*N个训练数据中各训练数据的训练图像块和第一像素的映射关系，分别确定各训练数据对应的滤波矩阵；

对于每个训练数据，以其训练图像块对应的像素矩阵和其位置标记作为输入，以该训练数据对应的滤波矩阵作为目标输出，对所述神经网络进行训练。

基于上述第四种可能的实现方式，在第五种可能的实现方式中，

在所述基于所述M*N个训练数据中各训练数据的训练图像块和第一像素的映射关系，分别确定各训练数据对应的滤波矩阵之后还包括：

对确定的各训练数据的滤波矩阵进行聚类处理，得到指定数量的候选滤波矩阵；

相应的，所述对于每个训练数据，以其训练图像块对应的像素矩阵和其位置标记作为输入，以该训练数据对应的滤波矩阵作为目标输出，对所述神经网络进行训练，为：

确定每个训练数据对应的候选滤波矩阵；

对于每个训练数据，以其训练图像块对应的像素矩阵和其位置标记作为输入，以该训练数据对应的候选滤波矩阵作为目标输出，对所述神经网络进行训练。

基于上述第五种可能的实现方式，在第六种可能的实现方式中，所述候选滤波矩阵的数量为16个，所述神经网络包括尺度分别为128、64和32的三层全连接网络，所述神经网络的输出层为16维的Softmax回归网络。

本发明的第二方面提供了一种图像的超分辨率重建装置，包括：

第一获取单元，用于获取源图像上包含目标像素的图像块；

第二获取单元，用于构建重建图像的模板，并获取该模板上与所述目标像素对应的重建像素的位置标记；

处理单元，用于将所述第一获取单元获取的图像块对应的像素矩阵与所述第二获取单元获取的位置标记输入预先训练的神经网络，得到与所述位置标记对应的滤波矩阵；

计算单元，用于将所述处理单元得到的滤波矩阵与所述像素矩阵进行卷积处理，得到与所述目标像素对应的重建像素的像素值。

本发明的第三方面提供了一种电子设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如任一项所述图像的超分辨率重建方法的步骤。

本发明的第四方面提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如任一项所述图像的超分辨率重建方法的步骤。

本发明与现有技术相比存在的有益效果是：

本发明通过获取源图像上包含目标像素的图像块；构建重建图像的模板，并获取该模板上与所述目标像素对应的重建像素的位置标记；将所述图像块对应的像素矩阵与所述位置标记输入预先训练的神经网络，得到与所述位置标记对应的滤波矩阵；将所述滤波矩阵与所述像素矩阵进行卷积处理，得到与所述目标像素对应的重建像素的像素值；解决了现有技术中高分辨率图像的获取成本高且难以对已有的低分辨率片源进行实施的问题；也即，本发明对于待重建的源图像上的目标像素，根据其在重建图像上对应的不同位置，分别应用不同的滤波器进行重建，使得重建后得到的重建像素在不同位置体现出一定的像素值差异，一方面，能够对现有的低分辨率图像进行重建，得到符合人眼视觉效果的高分辨率重建图像；另一方面，无需进行硬件的更新，节省了硬件成本。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本发明实施例提供的图像的超分辨率重建方法的实现流程图；

图2是本发明另一实施例提供的图像的超分辨率重建方法的实现流程图；

图3是本发明实施例提供的图像的超分辨率重建装置的结构示意图；

图4是本发明实施例提供的电子设备的示意图。

具体实施方式

以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本发明实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本发明的描述。

为使本发明的目的、技术方案和优点更加清楚，下面将结合附图通过具体实施例来进行说明。

参见图1，其示出了本发明实施例提供的图像的超分辨率重建方法的实现流程图，详述如下：

在步骤101中、获取源图像上包含目标像素的图像块；

在本发明实施例中，所述源图像表示待重建的图像，对于源图像上的每一个像素，在进行重建时可以将其映射为重建图像上的多个像素，例如，若需要将源图像进行重建，得到分辨率是源图像的4倍的重建图像，那么，源图像上的任一像素在重建图像中可以对应4个像素。

在这里，将源图像上的目标像素称为源像素，将重建图像上与该目标像素对应的多个像素称为重建像素，那么，影响重建像素的像素值的因素除了源像素的像素值之外，还可以包括该源像素的邻域像素的像素值。基于此，为了使重建图像具有更好的显示效果，可以基于源像素及其邻域像素组成的图像块来获得重建像素的像素值。

在本发明实施例中，可以首先在源图像上选定一个目标像素，再从源图像上获取包含该目标像素的一个图像块，图像块的大小可以根据实际情况进行预先设定。

示例性的，在一种实现方式中，当选定目标像素之后，可以从源图像上选取以该目标像素为中心像素的5*5大小的图像块。在这里，中心像素是指位于图像块的中心位置处的像素。

在步骤102中、构建重建图像的模板，并获取该模板上与所述目标像素对应的重建像素的位置标记；

在本发明实施例中，可以根据源图像以及要重建的重建图像的分辨率大小，预先构建重建图像的模板，此时，该模板上的像素值为未知。而对于源图像上的任一像素，其在该模板上映射的位置信息是可以预先确定的。

在本发明实施例中，由于重建图像上的像素和源图像上的像素具有多对一的映射关系，也即，重建图像上存在多个像素对应于源图像上的同一像素。假设将重建图像上存在的多个对应于源图像上同一源像素的像素视为一组，那么，通过上述的位置标记来指示某像素在该组像素中的相对位置。

在一个应用场景中，设源图像的分辨率为100*100，若要基于该源图像重建分辨率为400*400的图像，则可以先构建分辨率为400*400的重建图像模板，此时，源图像上的10000个像素中的任一像素在重建图像模板上均存在对应的4个像素位置，在选定目标像素的情形下，可以得到模板上与该目标像素对应的4个位置标记。

示例性的，透射于二维平面，在模板上与目标像素对应的左上方像素的位置可以分别标记为0001、对应的右上方像素的位置可以标记为0010，对应的左下方像素的位置可以标记为0100、对应的右下方像素的位置可以标记为1000。

在步骤103中、将所述图像块对应的像素矩阵与所述位置标记输入预先训练的神经网络，得到与输入的像素矩阵和位置标记对应的滤波矩阵；

一个图像块可以包括多个像素，而图像块上的每个像素都具有一个明确的相对位置和像素值，显然，图像块所包括的多个像素实际上组成了一个与该图像块对应的像素矩阵，该像素矩阵包括该图像块中各个像素的相对位置信息和像素值信息。

在本发明实施例中，将上述步骤101中获取的图像块对应的的像素矩阵、以及上述步骤102中获取的位置标记作为输入参数，输入预先训练的神经网络，基于该神经网络的输出，可以得到与所述位置标记对应的滤波矩阵。

在这里，所述神经网络是预先训练好的，用于接收输入的图像块的像素矩阵和位置标记，并输出与该位置标记对应的滤波矩阵。

在这里，所述滤波矩阵表示用于对输入的图像块进行上采样滤波以得到所述位置标记处的重建像素的像素值的滤波系数。

在步骤104中、将所述滤波矩阵与所述图像块的像素矩阵进行卷积处理，得到与所述目标像素对应的重建像素的像素值。

在本发明实施例中，通过将所述神经网络输出的滤波矩阵与所述图像块的像素矩阵进行卷积计算，所得到的计算结果即为与所述目标像素对应的重建像素的像素值。也即，通过该滤波矩阵对所述图像块进行上采样滤波，可以得到重建图像模板上所述位置标记处的像素值。

可选的，若要得到重建的整幅重建图像，则以所述源图像上的各个像素分别作为目标像素，通过重复上述步骤101至步骤104，分别计算所述各个像素对应的重建像素的像素值；进而可以基于计算的所述各个像素对应的重建像素的像素值，生成所述整幅重建图像。

在本发明实施例中，通过对源图像上每个像素进行类似的处理计算，可以分别得到与其在模板上的映射位置对应的像素值，进而可以生成重建图像。

由上可知，本发明通过获取源图像上包含目标像素的图像块；构建重建图像的模板，并获取该模板上与所述目标像素对应的重建像素的位置标记；将所述图像块对应的像素矩阵与所述位置标记输入预先训练的神经网络，得到与所述位置标记对应的滤波矩阵；将所述滤波矩阵与所述像素矩阵进行卷积处理，得到与所述目标像素对应的重建像素的像素值；解决了现有技术中高分辨率图像的获取成本高且难以对已有的低分辨率片源进行实施的问题；也即，本发明对于待重建的源图像上的目标像素，根据其在重建图像上对应的不同位置，分别应用不同的滤波器进行重建，使得重建后得到的重建像素在不同位置体现出一定的像素值差异，一方面，能够对现有的低分辨率图像进行重建，得到符合人眼视觉效果的高分辨率重建图像；另一方面，无需进行硬件的更新，节省了硬件成本。

图2示出了本发明另一实施例提供的图像的超分辨率重建的实现流程图，详述如下：

在步骤201中、创建神经网络并对所述神经网络进行训练；

在本发明实施例中，在应用所述神经网络之前，需要预先创建神经网络并对所述神经网络进行训练，以使训练后的神经网络能够接收输入的像素矩阵和位置标记并输出与所述输入的像素矩阵和位置标记对应的滤波矩阵。

可选的，上述步骤201中的具体训练步骤可以如下：

步骤A、创建图像集，其中，所述图像集包括M个图像对，所述M个图像对中的每个图像对均包括一个第一图像和一个第二图像，所述第二图像为对所述第一图像进行下采样得到的图像，M为大于1的整数。

在本发明实施例中，可以从各种影视片源中采集M幅超分辨率大图(也即第一图像)，并按照超分辨率重建所需的分辨率放大倍数，以同样的比例对采集的M幅超分辨率大图进行双三次下采样缩小，得到与该M幅超分辨率大图对应的M幅低分辨率小图(也即第二图像)；其中，每幅超分辨大图以及其对应的低分辨率小图可以组成一个图像对，也即，可以得到包括M个图像对的图像集。

进一步的，本实施例中，所述第一图像和所述第二图像之间的分辨率倍数关系与所述源图像和所述重建图像之间的分辨率倍数关系一致。

步骤B、从所述M个图像对中的每个图像对中选取N个训练数据，共得到M*N个训练数据，其中，N为大于1的整数，每个训练数据包括：

该训练数据对应的图像对中的第一图像上的一个第一像素、该图像对中的第二图像中的一个训练图像块、以及该第一像素的位置标记，其中，所述训练图像块包含所述第一像素在所述第二图像上对应的第二像素。

在步骤B中，从上述创建的图像集中选取多个训练数据，具体的，对于所述M个图像对中的每个图像对，可以从其第一图像上随机选取第一像素，并确定所选取的第一像素的位置标记以及所选取的第一像素在第二图像上对应的第二像素；进而从第二图像上选取包含该第二像素的训练图像块，该训练图像块的大小可以预先指定。在一个实现方式中，可以选取以该第二像素为中心像素的指定大小的图像块。

需要说明的是，在一个图像对中，第二图像是对第一图像进行下采样所得到的图像，那么显然，第二图像和第一图像上的像素必然具有一定的对应关系，该对应关系为：第一图像上存在相邻的多个像素对应于第二图像上的同一像素，示例性的，若第一图像的分辨率为第二图像的分辨率的四倍，则第一图像上存在四个相邻像素对应于第二图像上的同一相对位置上的一个像素。于是，当选取了第一图像上的一个第一像素时，可以唯一的在第二图像上找到与该第一像素对应的第二像素。

另外，还需要说明的是，由于第一图像上可以存在多个与第二像素对应的相邻像素，那么通过第一像素的位置标记可以指示该第一像素在与第二像素对应的第一图像上存在的多个相邻像素中的相对位置。

示例性的，根据第一图像和第二图像的像素对应关系，我们把对应于第二图像上同一像素的第一图像上的多个相邻像素称为一个像素组。假设第一图像的分辨率为第二图像的分辨率的四倍，第一图像上存在相邻的四个像素(A1、A2、A3、A4)对应于第二图像上的一个像素(A)。那么，上述A1、A2、A3、A4便为一个像素组，于是，若像素A1被选取为训练用的第一像素，那么，上述的像素A1的位置标记即表示像素A1在A1、A2、A3、A4组成的像素组中的相对位置。例如，我们可以将上述像素组中A1、A2、A3、A4的位置标记定义为0001、0010、0100和1000，对应于二维平面，上述四个位置分别可以表示右上、左上、右下和左下等四个相对位置。

在本实施例中，对于每个图像对，可以从该图像对的第一图像上随机选取N个第一像素，相应的，可以得到与该N个第一像素对应的N个位置标记，以及N个训练图像块。以上述的一个第一像素、一个位置标记以及一个训练图像块组成一个训练数据，每个图像对则可以得到N个训练数据，于是，对于上述图像集中的M个图像对，共计可以得到M*N个训练数据。

步骤C、利用所述M*N个训练数据训练所述神经网络。

在本发明实施例中，利用所述M*N个训练数据对创建的神经网络进行训练，以使所述神经网络能够接收输入的像素矩阵和位置标记并输出与所述输入的像素矩阵和位置标记对应的滤波矩阵。

在这里，输出与所述输入的像素矩阵和位置标记对应的滤波矩阵所表示的含义为：该神经网络输出的滤波矩阵与输入的像素矩阵进行卷积计算之后得到的像素值与该位置标记上像素的像素值一致或接近一致。

作为一个可选实施例，上述步骤C可以通过以下步骤实现：

步骤C1、基于所述M*N个训练数据中各训练数据的训练图像块和第一像素的映射关系，分别确定各训练数据对应的滤波矩阵。

在本发明实施例中，对于每个训练数据，其训练图像块和其第一像素具有一定的映射关系，也即，对训练图像块对应的像素矩阵利用一个滤波矩阵进行滤波处理(卷积计算)，能够得到与其对应的第一像素的像素值。在这里，以各训练数据中的图像块和第一像素的映射关系作为已知条件，经过计算可以求解得到与各训练数据对应的滤波矩阵。

示例性的，在求解一个5*5大小的滤波矩阵时，需要25个训练数据，可以从训练数据中每次选取25个训练数据作为一组，以该组训练数据中的25个图像块对应的像素矩阵和25个第一像素的像素值作为已知条件，求解得到该组训练数据的滤波矩阵，也即，该组训练数据中的每个训练数据对应的滤波矩阵均为该求解得到的滤波矩阵。

步骤C2、对于每个训练数据，以其训练图像块对应的像素矩阵和其位置标记作为输入，以该训练数据对应的滤波矩阵作为目标输出，对所述神经网络进行训练。

本发明实施例中，在确定各训练数据对应的滤波矩阵之后，以训练图像块对应的像素矩阵和其位置标记作为输入，以训练数据对应的滤波矩阵作为目标输出，对预先创建的神经网络进行训练。训练的目的是使该神经网络能够输出较佳的滤波矩阵，该较佳的滤波矩阵与输入的像素矩阵进行卷积计算之后可以得到与输入的位置标记所指示像素的像素值一致。

作为一个可选实施例，在上述步骤C1之后还可以包括：对确定的各训练数据的滤波矩阵进行聚类处理，得到指定数量的候选滤波矩阵。

在图像集包括较多的图像对，或者，选取的训练数据较多的情况下，为了简化训练过程，提高训练速度，可以对确定的各训练数据对应的滤波矩阵进行聚类处理，以得到指定数量的候选滤波矩阵。

在本发明实施例中，可以应用K-Means聚类算法对确定的各训练数据对应的滤波矩阵进行聚类处理，得到指定数量的候选滤波矩阵。

示例性的，在M*N个训练数据中每次抽取一定数量(L)的训练数据为一组，计算该组训练数据对应的滤波矩阵。在这里，所述的一定数量与训练数据中的训练图像块对应的像素矩阵的大小相关。例如，训练图像块大小为5*5时，可以每次抽取25(L＝25)个训练数据为一组来计算滤波矩阵。于是，M*N个训练数据共可得到M*N/L个滤波矩阵。进一步的，对得到的M*N/L个滤波矩阵应用K-Means聚类算法进行聚类，得到指定数量的候选滤波矩阵。在这里，候选滤波矩阵的数量与实际选用的神经网络相关。

相应的，上述步骤C2具体为：

确定每个训练数据对应的候选滤波矩阵；

对于每个训练数据，以其训练图像块对应的像素矩阵和其位置标记作为输入，以该训练数据对应的候选滤波矩阵作为目标输出，对所述神经网络进行训练。

在本发明实施例中，在得到指定数量的候选滤波矩阵之后，对于每个训练数据，分别将其训练图像块对应的像素矩阵与各候选滤波矩阵进行加权叠加(卷积计算)，根据计算结果与该训练数据中的第一像素的像素值的接近程度，确定与该训练数据对应的候选滤波矩阵。

接下来，对于每个训练数据，以其训练图像块对应的像素矩阵和其位置标记作为输入，以该训练数据对应的候选滤波矩阵作为目标输出，对所述神经网络进行训练。训练的目的是使该神经网络能够输出较佳的滤波矩阵，该较佳的滤波矩阵与输入的像素矩阵进行卷积计算之后可以得到与输入的位置标记所指示像素的像素值一致或接近一致。

作为另一个可选实施例，上述步骤C还可以通过以下步骤实现：

计算所述M*N个训练数据中各训练数据对应的滤波矩阵；

在本发明实施例中，在进行训练时，首先计算出各训练数据对应的滤波矩阵，具体的，以训练数据中的训练图像块的像素矩阵以及训练数据中大图中第一像素的像素值作为第二已知条件，求解通过该像素矩阵(第一已知条件)得到该像素值(第二已知条件)所需的滤波矩阵。

在每次训练过程中，将本次训练数据中的训练图像块和位置标记输入所述神经网络，输出本次训练得到的滤波矩阵。

根据输出的本次训练得到的滤波矩阵和计算得到的与本次训练数据对应的滤波矩阵构建损失函数，并基于所述损失函数反向更新所述神经网络的参数，其中，所述损失函数用于指示所述输出的本次训练得到的滤波矩阵和所述计算得到的与本次训练数据对应的滤波矩阵的逼近程度。

若所述逼近程度小于预设阈值，则判定所述神经网络收敛，得到训练好的神经网络。

在本发明实施例中，利用训练数据对神经网络进行多次的迭代训练，在每次迭代训练中更新神经网络的参数，使得神经网络输出的滤波矩阵逐渐接近基于本次训练数据计算得到的滤波矩阵，当二者的接近程度达到预设阈值时，即可判定所述神经网络是收敛的，停止训练过程，获得训练好的神经网络。

在一个可选实施例中，所述候选滤波矩阵的数量为16个，所述神经网络包括尺度分别为128、64和32的三层全连接网络，所述神经网络的输出层为16维的Softmax回归网络，所述神经网络的激活函数可以选择Sigmoid激活函数。

步骤202、获取源图像上包含目标像素的图像块；

步骤203、构建重建图像的模板，并获取该模板上与所述目标像素对应的重建像素的位置标记；

步骤204、将所述图像块的像素矩阵与所述位置标记输入预先训练的神经网络，得到与所述位置标记对应的滤波矩阵；

步骤205、将所述滤波矩阵与所述图像块的像素矩阵进行卷积处理，得到与所述目标像素对应的重建像素的像素值.

在本发明实施例中，上述步骤202至步骤205具体可参见图1所示实施例中的步骤101至步骤104，在此不再赘述。

由上可知，本发明通过获取源图像上包含目标像素的图像块；构建重建图像的模板，并获取该模板上与所述目标像素对应的重建像素的位置标记；将所述图像块对应的像素矩阵与所述位置标记输入预先训练的神经网络，得到与所述位置标记对应的滤波矩阵；将所述滤波矩阵与所述像素矩阵进行卷积处理，得到与所述目标像素对应的重建像素的像素值；解决了现有技术中高分辨率图像的获取成本高且难以对已有的低分辨率片源进行实施的问题；也即，本发明对于待重建的源图像上的目标像素，根据其在重建图像上对应的不同位置，分别应用不同的滤波器进行重建，使得重建后得到的重建像素在不同位置体现出一定的像素值差异，一方面，能够对现有的低分辨率图像进行重建，得到符合人眼视觉效果的高分辨率重建图像；另一方面，无需进行硬件的更新，节省了硬件成本。

应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。

以下为本发明的装置实施例，对于其中未详尽描述的细节，可以参考上述对应的方法实施例。

图3示出了本发明实施例提供的图像的超分辨率重建装置的结构示意图，为了便于说明，仅示出了与本发明实施例相关的部分，详述如下：

如图3所示，超分辨率重建装置3包括：第一获取单元31，第二获取单元32，处理单元33和计算单元34。

第一获取单元31，用于获取源图像上包含目标像素的图像块；

第二获取单元32，用于构建重建图像的模板，并获取该模板上与所述目标像素对应的重建像素的位置标记；

处理单元33，用于将第一获取单元31获取的图像块对应的像素矩阵与第二获取单元32获取的位置标记输入预先训练的神经网络，得到与所述位置标记对应的滤波矩阵；

计算单元34，用于将处理单元33得到的滤波矩阵与所述像素矩阵进行卷积处理，得到与所述目标像素对应的重建像素的像素值。

可选的，计算单元34还用于，以所述源图像上的各个像素分别作为目标像素，计算所述各个像素对应的重建像素的像素值；

超分辨率重建装置3还包括重建图像生成单元，用于基于计算单元34计算的所述各个像素对应的重建像素的像素值，生成所述重建图像。

可选的，超分辨率重建装置3还包括训练单元，用于训练所述神经网络。

可选的，超分辨率重建装置3还包括：

创建单元，用于创建图像集，其中，所述图像集包括M个图像对，所述M个图像对中的每个图像对均包括一个第一图像和一个第二图像，所述第二图像为对所述第一图像进行下采样得到的图像，M为大于1的整数；

选取单元，用于从所述M个图像对中的每个图像对中选取N个训练数据，共得到M*N个训练数据，其中，N为大于1的整数，每个训练数据包括：该训练数据对应的图像对中的第一图像上的一个第一像素、该图像对中的第二图像中的一个训练图像块、以及该第一像素的位置标记，其中，所述训练图像块包含所述第一像素在所述第二图像上对应的第二像素；

所述训练单元具体用于，利用所述M*N个训练数据训练所述神经网络。

可选的，超分辨率重建装置3还包括：

第一滤波矩阵计算单元，用于基于所述M*N个训练数据中各训练数据的训练图像块和第一像素的映射关系，分别确定各训练数据对应的滤波矩阵。

所述训练单元具体还用于：对于每个训练数据，以其训练图像块对应的像素矩阵和其位置标记作为输入，以所述第一滤波矩阵计算单元确定的该训练数据对应的滤波矩阵作为目标输出，对所述神经网络进行训练。

进一步的，超分辨率重建装置3还包括：

聚类单元，用于在所述滤波矩阵计算单元确定各训练数据对应的滤波矩阵之后，对确定的各训练数据的滤波矩阵进行聚类处理，得到指定数量的候选滤波矩阵；

相应的，所述训练单元具体还用于，确定每个训练数据对应的候选滤波矩阵；对于每个训练数据，以其训练图像块对应的像素矩阵和其位置标记作为输入，以该训练数据对应的候选滤波矩阵作为目标输出，对所述神经网络进行训练。

可选的，超分辨率重建装置3还包括：

第二滤波矩阵计算单元，用于计算所述M*N个训练数据中各训练数据对应的滤波矩阵。

所述训练单元具体还用于，在每次训练过程中，将本次训练数据中的训练图像块和位置标记输入所述神经网络，输出本次训练得到的滤波矩阵；根据输出的本次训练得到的滤波矩阵和第二滤波矩阵计算单元计算得到的与本次训练数据对应的滤波矩阵构建损失函数，并基于所述损失函数反向更新所述神经网络的参数，其中，所述损失函数用于指示所述输出的本次训练得到的滤波矩阵和所述计算得到的与本次训练数据对应的滤波矩阵的逼近程度；若所述逼近程度小于预设阈值，则判定所述神经网络收敛，得到训练好的神经网络。

可选的，所述候选滤波矩阵的数量为16个，所述神经网络包括尺度分别为128、64和32的三层全连接网络，所述神经网络的输出层为16维的Softmax回归网络。

由上可知，本发明通过获取源图像上包含目标像素的图像块；构建重建图像的模板，并获取该模板上与所述目标像素对应的重建像素的位置标记；将所述图像块对应的像素矩阵与所述位置标记输入预先训练的神经网络，得到与所述位置标记对应的滤波矩阵；将所述滤波矩阵与所述像素矩阵进行卷积处理，得到与所述目标像素对应的重建像素的像素值；解决了现有技术中高分辨率图像的获取成本高且难以对已有的低分辨率片源进行实施的问题；也即，本发明对于待重建的源图像上的目标像素，根据其在重建图像上对应的不同位置，分别应用不同的滤波器进行重建，使得重建后得到的重建像素在不同位置体现出一定的像素值差异，一方面，能够对现有的低分辨率图像进行重建，得到符合人眼视觉效果的高分辨率重建图像；另一方面，无需进行硬件的更新，节省了硬件成本。

图4是本发明一实施例提供的电子设备的示意图。如图4所示，该实施例的电子设备4包括：处理器40、存储器41以及存储在所述存储器41中并可在所述处理器40上运行的计算机程序42。所述处理器40执行所述计算机程序42时实现上述各个图像的超分辨率重建方法实施例中的步骤，例如图1所示的步骤101至步骤104。或者，所述处理器40执行所述计算机程序42时实现上述各装置实施例中各模块/单元的功能，例如图3所示单元31至34的功能。

示例性的，所述计算机程序42可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器41中，并由所述处理器40执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述所述计算机程序42在所述电子设备4中的执行过程。例如，所述计算机程序42可以被分割成第一获取单元，第二获取单元，处理单元和计算单元，各单元具体功能如下：

第一获取单元，用于获取源图像上包含目标像素的图像块；

第二获取单元，用于构建重建图像的模板，并获取该模板上与所述目标像素对应的重建像素的位置标记；

处理单元，用于将第一获取单元获取的图像块对应的像素矩阵与所述第二获取单元获取的位置标记输入预先训练的神经网络，得到与所述位置标记对应的滤波矩阵；

计算单元，用于将所述处理单元得到的滤波矩阵与所述像素矩阵进行卷积处理，得到与所述目标像素对应的重建像素的像素值。

所述电子设备4可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述电子设备可包括，但不仅限于，处理器40、存储器41。本领域技术人员可以理解，图4仅仅是电子设备4的示例，并不构成对电子设备4的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述电子设备还可以包括输入输出设备、网络接入设备、总线等。

所称处理器40可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

所述存储器41可以是所述电子设备4的内部存储单元，例如电子设备4的硬盘或内存。所述存储器41也可以是所述电子设备4的外部存储设备，例如所述电子设备4上配备的插接式硬盘，智能存储卡(Smart Media Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)等。进一步地，所述存储器41还可以既包括所述电子设备4的内部存储单元也包括外部存储设备。所述存储器41用于存储所述计算机程序以及所述电子设备所需的其他程序和数据。所述存储器41还可以用于暂时地存储已经输出或者将要输出的数据。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本发明所提供的实施例中，应该理解到，所揭露的装置/电子设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/电子设备实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括是电载波信号和电信信号。

以上所述实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。

Claims (10)

1.一种图像的超分辨率重建方法，其特征在于，包括：

获取源图像上包含目标像素的图像块；

构建重建图像的模板，并获取该模板上与所述目标像素对应的重建像素的位置标记；

将所述图像块对应的像素矩阵与所述位置标记输入预先训练的神经网络，得到与所述位置标记对应的滤波矩阵；

将所述滤波矩阵与所述像素矩阵进行卷积处理，得到与所述目标像素对应的重建像素的像素值。

2.根据权利要求1所述的图像的超分辨率重建方法，其特征在于，所述超分辨率重建方法还包括：

以所述源图像上的各个像素分别作为目标像素，计算所述各个像素对应的重建像素的像素值；

基于所述各个像素对应的重建像素的像素值，生成所述重建图像。

3.根据权利要求1或2所述的图像的超分辨率重建方法，其特征在于，在将所述图像块对应的像素矩阵与所述位置标记输入预先训练的神经网络之前还包括：

训练所述神经网络。

4.根据权利要求3所述的图像的超分辨率重建方法，其特征在于，所述训练所述神经网络包括：

创建图像集，其中，所述图像集包括M个图像对，所述M个图像对中的每个图像对均包括一个第一图像和一个第二图像，所述第二图像为对所述第一图像进行下采样得到的图像，M为大于1的整数；

从所述M个图像对中的每个图像对中选取N个训练数据，共得到M*N个训练数据，其中，N为大于1的整数，每个训练数据包括：

该训练数据对应的图像对中的第一图像上的一个第一像素、该图像对中的第二图像中的一个训练图像块、以及该第一像素的位置标记，其中，所述训练图像块包含所述第一像素在所述第二图像上对应的第二像素；

利用所述M*N个训练数据训练所述神经网络。

5.根据权利要求4所述的图像的超分辨率重建方法，其特征在于，所述利用所述M*N个训练数据训练所述神经网络包括：

基于所述M*N个训练数据中各训练数据的训练图像块和第一像素的映射关系，分别确定各训练数据对应的滤波矩阵；

对于每个训练数据，以其训练图像块对应的像素矩阵和其位置标记作为输入，以该训练数据对应的滤波矩阵作为目标输出，对所述神经网络进行训练。

6.根据权利要求5所述的图像的超分辨率重建方法，其特征在于，在所述基于所述M*N个训练数据中各训练数据的训练图像块和第一像素的映射关系，分别确定各训练数据对应的滤波矩阵之后还包括：

对确定的各训练数据的滤波矩阵进行聚类处理，得到指定数量的候选滤波矩阵；

相应的，所述对于每个训练数据，以其训练图像块对应的像素矩阵和其位置标记作为输入，以该训练数据对应的滤波矩阵作为目标输出，对所述神经网络进行训练，为：

确定每个训练数据对应的候选滤波矩阵；

对于每个训练数据，以其训练图像块对应的像素矩阵和其位置标记作为输入，以该训练数据对应的候选滤波矩阵作为目标输出，对所述神经网络进行训练。

7.根据权利要求6所述的图像的超分辨率重建方法，其特征在于，所述候选滤波矩阵的数量为16个，所述神经网络包括尺度分别为128、64和32的三层全连接网络，所述神经网络的输出层为16维的Softmax回归网络。

8.一种图像的超分辨率重建装置，其特征在于，包括：

第一获取单元，用于获取源图像上包含目标像素的图像块；

第二获取单元，用于构建重建图像的模板，并获取该模板上与所述目标像素对应的重建像素的位置标记；

处理单元，用于将所述第一获取单元获取的图像块对应的像素矩阵与所述第二获取单元获取的位置标记输入预先训练的神经网络，得到与所述位置标记对应的滤波矩阵；

计算单元，用于将所述处理单元得到的滤波矩阵与所述像素矩阵进行卷积处理，得到与所述目标像素对应的重建像素的像素值。

9.一种电子设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述方法的步骤。

10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述方法的步骤。

Images