CN116563408A - 图像重建方法、装置、设备和介质 - Google Patents

Abstract

本公开提供了一种图像重建方法，涉及人工智能领域。该方法包括：将待重建图像输入至经训练的解码器；获得经训练的所述解码器输出的超分辨率图像；其中，经训练的所述解码器被配置为预先根据如下操作训练得到：将第一图像输入至第一编码器，生成具有更低分辨率的N张第二图像，其中第n个第二图像由所述第一编码器根据与第n‑1个第二图像相关联的随机因子生成，n大于或等于2，且小于或等于N；将所述N张第二图像输入至所述解码器，生成超分辨率重建后的N张第三图像；根据所述第一图像和所述N张第三图像中各图像之间的损失函数值，更新所述第一编码器和所述解码器。本公开还提供了一种图像重建装置、设备、存储介质和程序产品。

Description

图像重建方法、装置、设备和介质

技术领域

本公开涉及人工智能领域，更具体地，涉及一种图像重建方法、装置、设备、介质和程序产品。

背景技术

图像分辨率是指单位英寸内包含像素的个数，作为评价图像质量的指标，数值越高，图像质量越优。图像识别技术是指利用计算机对图像进行处理、分析和理解，以识别各种不同模式的目标和对象的技术，例如车牌识别、人脸识别和医学影像分析等应用场景中使用。图像识别效果与待识别图像的分辨率有关联，于低分辨率图像的识别结果并不准确。

相关技术中，可以基于卷积神经网络实现图像超分辨率重建，有效提高了重建图像的质量，具有更高分辨率。

在实现本公开发明构思的过程中，发明人发现，当前图像超分辨率重建技术，由于数据集的局限性，导致训练后的模型仅局限于某一类特定图像，适用场景有限。

发明内容

鉴于上述问题，本公开提供了图像重建方法、装置、设备、介质和程序产品。

本公开实施例的一个方面，提供了一种图像重建方法，包括：将待重建图像输入至经训练的解码器；获得经训练的所述解码器输出的超分辨率图像；其中，经训练的所述解码器被配置为预先根据如下操作训练得到：将第一图像输入至第一编码器，生成具有更低分辨率的N张第二图像，其中第n个第二图像由所述第一编码器根据与第n-1个第二图像相关联的随机因子生成，n大于或等于2，且小于或等于N；将所述N张第二图像输入至所述解码器，生成超分辨率重建后的N张第三图像；根据所述第一图像和所述N张第三图像中各图像之间的损失函数值，更新所述第一编码器和所述解码器。

根据本公开的实施例，在更新所述第一编码器和所述解码器之后，还包括执行如下操作继续训练：将所述N张第三图像输入至第二编码器，生成具有更低分辨率的N张第四图像，所述第一编码器与所述第二编码器相同或不同；根据所述N张第二图像和所述N张第四图像之间一一对应的损失函数值，继续更新所述解码器和所述第二编码器。

根据本公开的实施例，所述生成具有更低分辨率的N张第四图像包括：由所述第二编码器根据第n张第三图像，以及与第n-1个第四图像相关联的随机因子生成第n个第四图像。

根据本公开的实施例，所述第一编码器包括随机因子层，在生成第n个第二图像之前，获得与第n-1个第二图像相关联的随机因子包括：获取所述第n-1个第二图像的图像特征信息；利用所述随机因子层对所述图像特征信息进行采样，获得所述随机因子。

根据本公开的实施例，所述随机因子层包括全卷积组和第一卷积层，利用所述随机因子层对所述图像特征信息进行采样包括：将所述图像特征信息输入至所述全卷积组进行处理；将所述全卷积组的输出作为所述第一卷积层的输入，获得所述第一卷积层输出的随机因子。

根据本公开的实施例，所述第一编码器还包括M个卷积组，M大于或等于2，当所述第n-1个第二图像为首张第二图像时，获取所述第n-1个第二图像的图像特征信息包括：对所述第一图像进行下采样处理；将所述下采样处理得到的图像特征依次经过所述M个卷积组处理，得到所述第n-1个第二图像的图像特征信息。

根据本公开的实施例，所述随机因子包括M-1个随机值，由所述第一编码器根据与第n-1个第二图像相关联的随机因子生成第n个第二图像包括：将所述下采样处理得到的图像特征依次经过所述M个卷积组中前M-1个卷积组处理，其中包括利用所述M-1个随机值一一对应地对所述前M-1个卷积组的输出进行加权处理；将经加权处理后的所述第M-1个卷积组的输出作为第M个卷积组的输入；获得基于所述第M个卷积组生成的所述第n个第二图像。

本公开实施例的另一方面提供了一种图像重建装置，包括：第一输入模块，用于将待重建图像输入至经训练的解码器；第一输出模块，用于获得经训练的所述解码器输出的超分辨率图像；其中，经训练的所述解码器被配置为预先根据如下操作训练得到：将第一图像输入至第一编码器，生成具有更低分辨率的N张第二图像，其中第n个第二图像由所述第一编码器根据与第n-1个第二图像相关联的随机因子生成，n大于或等于2，且小于或等于N；将所述N张第二图像输入至所述解码器，生成超分辨率重建后的N张第三图像；根据所述第一图像和所述N张第三图像中各图像之间的损失函数值，更新所述第一编码器和所述解码器。

所述装置包括分别用于执行如上所述任意一项所述的方法的各个步骤的模块。

本公开实施例的另一方面提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得一个或多个处理器执行如上所述的方法。

本公开实施例的另一方面还提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行如上所述的方法。

本公开实施例的另一方面还提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现如上所述的方法。

上述一个或多个实施例具有如下有益效果：利用经训练的解码器处理待重建图像，输出超分辨率图像。在预先训练过程中，将训练图像，经过第一编码器与解码器实现重建步骤，并在第一编码器中设置随机因子生成不同的低分辨率图像，从而得到不同的超分辨率图像，利用第一图像和各张第三图像之间的对比，提高模型重建质量，强化了解码器重建图像的泛化能力，适用场景更广泛。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述内容以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本公开实施例的图像识别方法的应用场景图；

图2示意性示出了根据本公开实施例的图像重建方法的流程图；

图3示意性示出了根据本公开实施例的解码器的训练方法的流程图；

图4示意性示出了根据本公开实施例的解码器的训练方法的架构图；

图5示意性示出了根据本公开另一实施例的解码器的训练方法的流程图；

图6示意性示出了根据本公开另一实施例的解码器的训练方法的架构图；

图7示意性示出了根据本公开实施例的第一编码器的架构图；

图8示意性示出了根据本公开另一实施例的获得随机因子的流程图；

图9示意性示出了根据本公开实施例的获取图像特征信息的流程图；

图10示意性示出了根据本公开另一实施例的获得随机因子的流程图；

图11示意性示出了根据本公开实施例的随机因子层的架构图；

图12示意性示出了根据本公开实施例的生成第n个第二图像的流程图；

图13示意性示出了根据本公开实施例的图像重建装置的结构框图；

图14示意性示出了根据本公开实施例的解码器的训练装置的结构框图；以及

图15示意性示出了根据本公开实施例的适于实现图像重建方法的电子设备的方框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。

为便于本领域技术人员理解本发明，下面对本发明各实施例中涉及的部分术语或名词做出解释：

图像分辨率：单位英寸内包含像素的个数。

低分辨率图像：图像分辨率低，模糊甚至失真的图像。

高分辨率图像：图像分辨率高，色彩丰富，无模糊的图像。

超分辨率图像：由低分辨率图像重建的，与原始高分辨率图像尺寸一致的图像。

例如，目前银行中存在大量人脸识别等需要图像的业务场景，包括但不限于客户在银行办理开卡、理财、账户管理等业务的身份确认，对采集图像的清晰度有要求。通过人脸识别进行身份验证，如办理银行卡、登陆手机银行系统、挂失和更改手机号业务等，不同设备采集的图像清晰度不一致，导致出现业务失败等问题。尤其说明，本公开实施例并不仅限于银行场景中的人脸识别，还可以用于其他场景中的人脸识别，或者任意场景中的图像重建，并不限制在人脸图像。

相关技术中，基于卷积神经网络的图像超分辨率方法，存在三个卷积层，分别实现提取低分辨率图像特征信息并映射至高维，高维特征向量的映射与图像重建。该方法提高了重建图像的质量。EDSR(Enhanced Deep Super-Resolution Network)方法优化了残差块结构，去除了规范化模块，通过堆叠65个卷积层，加深网络深度，有效的提升了图像重建效果。

上述基于卷积神经网络的图像超分辨率方法需要先将低分辨率图像通过双三次插值的方法上采样至高分辨率图像尺寸，丢失了图像特征信息。EDSR方法使用低分辨率图像与高分辨率图像对进行训练。导致训练后的模型仅局限于某一类图像，适用场景有限。如当训练数据均为植物图像，则训练后的模型重建植物图像的质量，会明显优于重建其它类图像的质量。

本公开的一些实施例中提供了图像重建方法，该方法利用经训练的解码器处理待重建图像，输出超分辨率图像。在预先训练过程中，将训练图像，经过第一编码器与解码器实现重建步骤，并在第一编码器中设置随机因子生成不同的低分辨率图像，从而得到不同的超分辨率图像，利用第一图像和各张第三图像之间的对比，提高模型重建质量，强化了解码器重建图像的泛化能力，适用场景更广泛。

在本公开的技术方案中，在获取或采集用户个人信息(如用户图像)之前，均获取了用户的授权或同意。所涉及的用户个人信息的收集、存储、使用、加工、传输、提供、公开和应用等处理，均符合相关法律法规的规定，采取了必要保密措施，且不违背公序良俗。

图1示意性示出了根据本公开实施例的图像识别方法的应用场景图。但本公开并不限于此。

如图1所示，根据该实施例的应用场景100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。在一些实施例中，终端设备101、102、103可以具有摄像单元，或能够接收来自摄像单元所采集的视频或图像。

服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的图像识别请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成图像识别结果等)反馈给终端设备。

需要说明的是，本公开实施例所提供的图像识别方法一般可以由服务器105执行。相应地，本公开实施例所提供的图像识别装置一般可以设置于服务器105中。本公开实施例所提供的图像识别方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的图像识别装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

以下将基于图1描述的场景，通过图2～图12对本公开实施例的图像重建方法进行详细描述。

图2示意性示出了根据本公开实施例的图像重建方法的流程图。

如图2所示，该实施例的图像重建包括操作S210～操作S220。

在操作S210，将待重建图像输入至经训练的解码器。

例如待重建图像可以是低分辨率图像，例如垂直或水平方向的像素点少于一定数量的图像，该一定数量可以根据图像识别的设备性能来决定，如人脸识别中在非理想环境下预先采集的人脸图像。

示例性地，可以通过对抗神经网络结构(如，RaGAN(相对平均)结构)，重建解码器并得到经训练的解码器，将低分辨率图像重建为高分辨率图像。可以理解，还可以使用如超分辨率卷积网络(SRCNN)、快速超分辨率卷积网络(FSRCNN)、深度递归卷积网络(DRCN)或拉普拉斯金字塔超分辨率网络(LapLRNN)等构建解码器，并预先根据如下图3所示的操作训练得到。

在操作S220，获得经训练的解码器输出的超分辨率图像。

相关技术中，一般使用有监督学习方式，将成对的低分辨和高分辨率图像作为训练数据，学习两者之间的映射函数，从而提高低分辨图像的分辨率。这种方式需要人为确定图像对，例如人工生成低分辨或高分辨率图像组成图像对，依赖于大量的，已处理的训练数据，由于数据集的局限性，导致训练后的模型仅局限于某一类特定图像。为了避免数据集造成的场景局限性，提出一种基于解码器的单图像超分辨率重建方法，下面通过图3和图4进一步介绍。

图3示意性示出了根据本公开实施例的解码器的训练方法的流程图。图4示意性示出了根据本公开实施例的解码器的训练方法的架构图。

如图3所示，该实施例的解码器的训练方法包括操作S310～操作S330。

在操作S310，将第一图像输入至第一编码器，生成具有更低分辨率的N张第二图像，其中第n个第二图像由第一编码器根据与第n-1个第二图像相关联的随机因子生成，n大于或等于2，且小于或等于N。

示例性地，第一图像可以是现实世界中通过拍摄获得的真实图像。第二图像的分辨率低于第一图像，例如第二图像是低分辨率图像。

其中，相关联是指随机因子是根据第n-1个第二图像的信息生成的，该信息可以包括图像特征信息、生成顺序信息、图像噪声信息或图像大小信息等。由于每张第二图像是在上一图像的基础上，结合随机因子和第一图像生成，这就使得各张第二图像之间具有不同的图像特征，从而解码器能够接受到多样化的输入，提高学习能力，避免受到数据集的限制。

在操作S320，将N张第二图像输入至解码器，生成超分辨率重建后的N张第三图像。解码器可以执行上采样操作，第三图像的分辨率高于任一张第二图像。

在操作S330，根据第一图像和N张第三图像中各图像之间的损失函数值，更新第一编码器和解码器。

在一些实施例中，损失函数值可以是图像之间的相似度，相似度是指两幅图像在内容，结构或风格等方面的相似程度。可以计算两幅图像的颜色，纹理，形状等图像特征的直方图，并用某种距离度量来比较直方图或特征向量的相似度，如欧氏距离，余弦相似度或卡方距离等。又可以利用深度神经网络来提取高层语义图像特征，并用某种损失函数来比较特征的相似度，如对比损失，三元组损失或交叉熵损失等。相似度的预设值可以灵活设置，例如可以用平均值，中位数，标准差或分位数等描述数据的分布，然后用这些指标来确定一个合适的值。

在一些实施例中，可以使用L1损失函数与感知损失函数计算损失函数值，两者的结果可以直接相加，也可以加权处理后再相加，如各损失函数的值乘可学习权重后求和，可学习权重可在训练中迭代调整。

参照图4，并结合参照操作S310～操作S330，基于解码器的单图像超分辨率重建算法，仅使用输入的真实图像，通过多次迭代重建，获取解码器，可用于重建模糊的，包含噪音等多种场景下的图像。该方法无需使用低分辨率与高分辨率图像对，降低了人工构建数据集的成本。并且不会因训练某一类图像，而出现过拟合风险，极大提高了算法拟合能力。

根据本公开的实施例，利用经训练的解码器处理待重建图像，输出超分辨率图像。在预先训练过程中，将训练图像，经过第一编码器与解码器实现重建步骤，并在第一编码器中设置随机因子生成不同的低分辨率图像，从而得到不同的超分辨率图像，利用第一图像和各张第三图像之间的对比，提高模型重建质量，强化了解码器重建图像的泛化能力，适用场景更广泛。

图5示意性示出了根据本公开另一实施例的解码器的训练方法的流程图。图6示意性示出了根据本公开另一实施例的解码器的训练方法的架构图。

如图5和图6所示，该实施例的解码器的训练方法包括操作S310～操作S330，操作S510～操作S520。

在操作S510，将N张第三图像输入至第二编码器，生成具有更低分辨率的N张第四图像，第一编码器与第二编码器相同或不同。

第四图像的分辨率一一对应地低于第三图像的分辨率，例如第四图像是低分辨率图像。

在一些实施例中，可以由第二编码器直接根据N张第三图像一一对应地生成N张第四图像。

在另一些实施例中，生成具有更低分辨率的N张第四图像包括：由第二编码器根据第n张第三图像，以及与第n-1个第四图像相关联的随机因子生成第n个第四图像。每张第四图像也是在上一图像的基础上，结合与上一图像关联的随机因子和对应的第三图像生成，这也使得各张第四图像之间具有不同的图像特征，从而第二编码器能够接受到多样化的输入，提高学习能力，避免受到数据集的限制。

在操作S520，根据N张第二图像和N张第四图像之间一一对应的损失函数值，继续更新解码器和第二编码器。

参照图6，由左至右，真实图像为第一图像，第一编码器输出的低分辨率图像为第二图像，解码器输出的图像为第三图像，第二编码器输出的低分辨率图像为第四图像。

示例性地，在操作S520也是使用图像之间的相似度作为损失函数值。在一些实施例中，可以使用L2损失函数与感知损失函数计算损失函数值，两者的结果可以直接相加，也可以加权处理后再相加，如各损失函数的值乘可学习权重后求和，可学习权重可在训练中迭代调整。

根据本公开的实施例，通过低分辨率图像之间的对比损失结果，继续更新解码器和第二编码器，使得解码器学习到输入之前的低分辨率图像、输出之后的超分辨率图像及第二编码器输出的低分率图像之间的潜在映射关系，同样地，更新第二编码器使其输出的低分辨率图像更符合要求，这样在预先训练过程中迭代更新逐渐起到与解码器更好的协同重建作用。

在一些实施例中，参照图6，在第一编码器与第二编码器相同时，即重复调用第一编码器两次。由此可知，在输入一张真实图像后，共对第一编码器和解码器进行了两次更新，即基于真实图像和超分辨图像(第一图像和N张第三图像)之间的损失差异进行的更新，以及基于图6中左侧低分辨率图像和右侧低分辨率图像(N张第二图像和N张第四图像)之间的损失差异进行的更新。这样能够优化第一编码器和解码器，一方面利用一张真实图像可以实现多次更新优化，另一方面每次优化所依据的分辨率图像是不同的，利于调整优化的方向。可以理解，在预先训练过程中的训练集可以包括一张或多张真实图像。

在一些实施例中，参照图6，在第一编码器与第二编码器不同时，第一编码器和第二编码器可以具有不同的结构。在输入一张真实图像后，解码器进行了两次更新，第一编码器和第二编码器分别进行了一次更新。一方面，分别调整第一编码器和第二编码器的参数，使得输出的低分辨率图像更符合要求。另一方面，利用两个具有不同结构的编码器的输出参与到损失函数计算，由此为解码器带来不同的更新方向。为了防止后次更新导致解码器的效果变差，可以对后次更新后的解码器进行效果验证，若效果更差，则放弃本次更新。例如比较解码器在后次更新前后输出的超分辨率图像的重建效果。

下面以第一编码器与第二编码器相同举例展开描述。图7示意性示出了根据本公开实施例的第一编码器的架构图。可以理解，图7所示的第一编码器的卷积组数量仅是示例性地，不构成对方案的限制。

参照图7，第一编码器将真实图像或者超分辨率图像处理为低分辨率图像。首先使用下采样层，将输入图像采样，使得其与预期低分辨率图像尺寸一致。随后通过多个卷积组进行卷积操作，获取大量图像特征信息，最后一个卷积组生成低分辨率图像。由随机因子层对图像特征信息进行采样，获取随机因子。随机因子对各个卷积组加权，用于下一次重新生成低分辨率图像。下一次重新生成低分辨率图像时，虚线框内的各卷积组将会被加权，重新生成低分辨率图像，如此迭代生成多张低分辨率图像。下面结合图8～图12进一步说明。

在一些实施例中，随机因子可以是人工设置的，例如根据每张第二图像的顺序不同分配不同的随机因子。

图8示意性示出了根据本公开另一实施例的获得随机因子的流程图。

在生成第n个第二图像之前，如图8所示，该实施例的获得随机因子包括操作S810～操作S820。第一编码器包括随机因子层。

在操作S810，获取第n-1个第二图像的图像特征信息。

图9示意性示出了根据本公开实施例的获取图像特征信息的流程图。

当第n-1个第二图像为首张第二图像时，如图9所示，在操作S810获取图像特征信息包括操作S910～操作S920。其中，第一编码器还包括M个卷积组，M大于或等于2。

在操作S910，对第一图像进行下采样处理。在操作S920，将下采样处理得到的图像特征依次经过M个卷积组处理，得到第n-1个第二图像的图像特征信息。

示例性地，M个卷积组各卷积组结构相同，或其中至少两个卷积组之间具有不同的结构。上述结构包括卷积层的维度、权重等。

在操作S820，利用随机因子层对图像特征信息进行采样，获得随机因子。

参照图7，第一编码器中最后一个卷积组的输出作为低分辨率图像，并作为随机因子层的输入。接着由随机因子层进行采样，即对上述图像特征信息进一步提取和筛选。最后获得随机因子层输出的随机因子。

根据本公开的实施例，随机因子是根据图像特征信息进一步生成的，与第n-1个第二图像具有一定地关联性，降低了人工构建数据集的成本，并便于生成下一张不同的第二图像，提高解码器的泛化能力。

图10示意性示出了根据本公开另一实施例的获得随机因子的流程图。图11示意性示出了根据本公开实施例的随机因子层的架构图。

如图10所示，在操作S820利用随机因子层对图像特征信息进行采样包括操作S1010～操作S1020。

在操作S1010，将图像特征信息输入至全卷积组进行处理。

在操作S1020，将全卷积组的输出作为第一卷积层的输入，获得第一卷积层输出的随机因子。

如图11所示，随机因子层包含一个全卷积组和一个1*1卷积层，用于完成对上述图像特征信息的采样操作。1*1卷积层用于对全卷积组的输出进行维度压缩，从而输出随机因子。

在一些实施例中，还可以在随机因子层通过随机丢弃神经元、对输入添加随机噪声等方式进一步增强输出的随机性。

图12示意性示出了根据本公开实施例的生成第n个第二图像的流程图。

如图12所示，由第一编码器根据与第n-1个第二图像相关联的随机因子生成第n个第二图像包括操作S1210～操作S1230。其中，随机因子包括M-1个随机值。

在操作S1210，将下采样处理得到的图像特征依次经过M个卷积组中前M-1个卷积组处理，其中包括利用M-1个随机值一一对应地对前M-1个卷积组的输出进行加权处理。

在操作S1220，将经加权处理后的第M-1个卷积组的输出作为第M个卷积组的输入。

在操作S1230，获得基于第M个卷积组生成的第n个第二图像。

根据本公开的实施例，利用随机值对部分卷积组的输出进行加权处理的方式，进一步确定了上一张第二图像与下一张第二图像之间的差异性，克服来源于同一真实图像的局限性，有效提高解码器的泛化能力。

可以理解，由第二编码器根据第n张第三图像，以及与第n-1个第四图像相关联的随机因子生成第n个第四图像的过程，可以参照图7～图12的过程，在此不再赘述。

在一些实施例中，结合参照图2～图12，进一步解码器的流程如下：

第1步，将真实图像输入第一编码器，第一编码器会依次根据随机因子，生成多张低分辨率图像A，用于模拟实际场景中待重建的图像。

第2步，将多张低分辨率图像A依次输入解码器，解码器重建超分辨率图像。

第3步，通过L1损失函数与感知损失函数，计算重建后的超分辨率图像与真实图像之间的损失值，迭代更新第一编码器与解码器参数。

第4步，将第3步获取的超分辨率图像，通过第二编码器，生成低分辨率图像B。

第5步，通过L2损失函数与感知损失函数，计算低分辨率图像A与低分辨率图像B的损失值，迭代更新第二编码器与解码器参数。第一编码器与第二编码器相同或不同。

第6步，迭代训练多次，当损失值稳定时，训练结束。

第7步，解码器用于生成高分辨率图像。

基于上述图像重建方法，本公开还提供了一种图像重建装置和解码器的训练装置。以下将结合图13和图14进行详细描述。

图13示意性示出了根据本公开实施例的图像重建装置的结构框图。

如图13所示，该实施例的图像重建装置1300包括第一输入模块1310和第一输出模块1320。

第一输入模块1310可以执行操作S210，用于将待重建图像输入至经训练的解码器。

第一输出模块1320可以执行操作S220，用于获得经训练的解码器输出的超分辨率图像。

图14示意性示出了根据本公开实施例的解码器的训练装置的结构框图。

如图14所示，该实施例的解码器的训练装置1400包括第二输入模块1410、第二输出模块1420和第一更新模块1430。

第二输入模块1410可以执行操作S310，用于将第一图像输入至第一编码器，生成具有更低分辨率的N张第二图像，其中第n个第二图像由第一编码器根据与第n-1个第二图像相关联的随机因子生成，n大于或等于2，且小于或等于N。

第二输出模块1420可以执行操作S320，用于将N张第二图像输入至解码器，生成超分辨率重建后的N张第三图像。

第一更新模块1430可以执行操作S330，用于根据第一图像和N张第三图像中各图像之间的损失函数值，更新第一编码器和解码器。

训练装置1400还可以包括第三输入模块和第二更新模块。第三输入模块可以执行操作S510，用于将N张第三图像输入至第二编码器，生成具有更低分辨率的N张第四图像。第二更新模块可以执行操作S520，根据N张第二图像和N张第四图像之间一一对应的损失函数值，继续更新解码器和第二编码器

如图1所示，上图中两个编码器结构相同，按照编码器顺序，对其生成的低分辨率图像，依次记为低分辨率图像A，低分辨率图像B。低分辨率图像与实际场景中，待重建的图像尺寸一致。超分辨率图像与真实图像尺寸相同。

在一些实施例中，训练装置1400可以包括特征提取模块，在生成第n个第二图像之前，用于获取第n-1个第二图像的图像特征信息。训练装置1400可以包括随机因子模块，用于利用随机因子层对图像特征信息进行采样，获得随机因子。

在一些实施例中，随机因子模块还用于将图像特征信息输入至全卷积组进行处理。将全卷积组的输出作为第一卷积层的输入，获得第一卷积层输出的随机因子。

在一些实施例中，特征提取模块还用于对第一图像进行下采样处理。将下采样处理得到的图像特征依次经过M个卷积组处理，得到第n-1个第二图像的图像特征信息。

在一些实施例中，第二输入模块还用于将下采样处理得到的图像特征依次经过M个卷积组中前M-1个卷积组处理，其中包括利用M-1个随机值一一对应地对前M-1个卷积组的输出进行加权处理。将经加权处理后的第M-1个卷积组的输出作为第M个卷积组的输入。获得基于第M个卷积组生成的第n个第二图像。

需要说明的是，装置部分实施例中各模块/单元/子单元等的实施方式、解决的技术问题、实现的功能、以及达到的技术效果分别与方法部分实施例中各对应的步骤的实施方式、解决的技术问题、实现的功能、以及达到的技术效果相同或类似，在此不再赘述。

根据本公开的实施例，图像重建装置1300或解码器的训练装置1400中的任意多个模块可以合并在一个模块中实现，或者其中的任意一个模块可以被拆分成多个模块。或者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合，并在一个模块中实现。

根据本公开的实施例，图像重建装置1300或解码器的训练装置1400中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，图像重建装置1300或解码器的训练装置1400中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

图15示意性示出了根据本公开实施例的适于实现图像重建方法的电子设备的方框图。

如图15所示，根据本公开实施例的电子设备1500包括处理器1501，其可以根据存储在只读存储器(ROM)1502中的程序或者从存储部分1508加载到随机访问存储器(RAM)1503中的程序而执行各种适当的动作和处理。处理器1501例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))等等。处理器1501还可以包括用于缓存用途的板载存储器。处理器1501可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 1503中，存储有电子设备1500操作所需的各种程序和数据。处理器1501、ROM 1502以及RAM 1503通过总线1504彼此相连。处理器1501通过执行ROM 1502和/或RAM1503中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，程序也可以存储在除ROM 1502和RAM 1503以外的一个或多个存储器中。处理器1501也可以通过执行存储在一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，电子设备1500还可以包括输入/输出(I/O)接口1505，输入/输出(I/O)接口1505也连接至总线1504。电子设备1500还可以包括连接至I/O接口1505的以下部件中的一项或多项：包括键盘、鼠标等的输入部分1506。包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1507。包括硬盘等的存储部分1 508。以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1 509。通信部分1509经由诸如因特网的网络执行通信处理。驱动器1510也根据需要连接至I/O接口1505。可拆卸介质1 511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器1510上，以便于从其上读出的计算机程序根据需要被安装入存储部分1508。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的。也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质，例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 1502和/或RAM 1503和/或ROM 1502和RAM 1503以外的一个或多个存储器。

本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时，该程序代码用于使计算机系统实现本公开实施例所提供的方法。

在该计算机程序被处理器1501执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。

在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分1509被下载和安装，和/或从可拆卸介质1511被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

在这样的实施例中，该计算机程序可以通过通信部分1509从网络上被下载和安装，和/或从可拆卸介质1511被安装。在该计算机程序被处理器1501执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (11)

1.一种图像重建方法，包括：

将待重建图像输入至经训练的解码器；

获得经训练的所述解码器输出的超分辨率图像；

其中，经训练的所述解码器被配置为预先根据如下操作训练得到：

将第一图像输入至第一编码器，生成具有更低分辨率的N张第二图像，其中第n个第二图像由所述第一编码器根据与第n-1个第二图像相关联的随机因子生成，n大于或等于2，且小于或等于N；

将所述N张第二图像输入至所述解码器，生成超分辨率重建后的N张第三图像；

根据所述第一图像和所述N张第三图像中各图像之间的损失函数值，更新所述第一编码器和所述解码器。

2.根据权利要求1所述的方法，其中，在更新所述第一编码器和所述解码器之后，还包括执行如下操作继续训练：

将所述N张第三图像输入至第二编码器，生成具有更低分辨率的N张第四图像，所述第一编码器与所述第二编码器相同或不同；

根据所述N张第二图像和所述N张第四图像之间一一对应的损失函数值，继续更新所述解码器和所述第二编码器。

3.根据权利要求2所述的方法，其中，所述生成具有更低分辨率的N张第四图像包括：

由所述第二编码器根据第n张第三图像，以及与第n-1个第四图像相关联的随机因子生成第n个第四图像。

4.根据权利要求1所述的方法，其中，所述第一编码器包括随机因子层，在生成第n个第二图像之前，获得与第n-1个第二图像相关联的随机因子包括：

获取所述第n-1个第二图像的图像特征信息；

利用所述随机因子层对所述图像特征信息进行采样，获得所述随机因子。

5.根据权利要求4所述的方法，其中，所述随机因子层包括全卷积组和第一卷积层，利用所述随机因子层对所述图像特征信息进行采样包括：

将所述图像特征信息输入至所述全卷积组进行处理；

将所述全卷积组的输出作为所述第一卷积层的输入，获得所述第一卷积层输出的随机因子。

6.根据权利要求5所述的方法，其中，所述第一编码器还包括M个卷积组，M大于或等于2，当所述第n-1个第二图像为首张第二图像时，获取所述第n-1个第二图像的图像特征信息包括：

对所述第一图像进行下采样处理；

将所述下采样处理得到的图像特征依次经过所述M个卷积组处理，得到所述第n-1个第二图像的图像特征信息。

7.根据权利要求6所述的方法，其中，所述随机因子包括M-1个随机值，由所述第一编码器根据与第n-1个第二图像相关联的随机因子生成第n个第二图像包括：

将所述下采样处理得到的图像特征依次经过所述M个卷积组中前M-1个卷积组处理，其中包括利用所述M-1个随机值一对应地对所述前M-1个卷积组的输出进行加权处理；

将经加权处理后的所述第M-1个卷积组的输出作为第M个卷积组的输入；

获得基于所述第M个卷积组生成的所述第n个第二图像。

8.一种图像重建装置，包括：

第一输入模块，用于将待重建图像输入至经训练的解码器；

第一输出模块，用于获得经训练的所述解码器输出的超分辨率图像；

其中，经训练的所述解码器被配置为预先根据如下操作训练得到：

将第一图像输入至第一编码器，生成具有更低分辨率的N张第二图像，其中第n个第二图像由所述第一编码器根据与第n-1个第二图像相关联的随机因子生成，n大于或等于2，且小于或等于N；

将所述N张第二图像输入至所述解码器，生成超分辨率重建后的N张第三图像；

根据所述第一图像和所述N张第三图像中各图像之间的损失函数值，更新所述第一编码器和所述解码器。

9.一种电子设备，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器执行根据权利要求1～7中任一项所述的方法。

10.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行根据权利要求1～7中任一项所述的方法。

11.一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现根据权利要求1～7中任一项所述的方法。