CN108881707B - 图像生成方法、装置、系统和存储介质 - Google Patents

Abstract

本发明提供了一种图像生成方法、装置、系统和存储介质，所述图像生成方法包括：获取第一成像域的图像；以及利用训练好的环状对抗生成网络将所述获取的第一成像域的图像转换为第二成像域的图像，所述第一成像域的图像和所述第二成像域的图像为不同成像域的图像；其中，所述环状对抗生成网络为能够用于所述第一成像域的图像和所述第二成像域的图像的相互转换的对抗生成网络。本发明的图像生成方法、装置、系统和存储介质利用训练好的环状对抗生成网络能够便利地将一个成像域的图像转换为另一个成像域的图像，解决另一个成像域的图像采集困难、生成困难的问题，例如能便利地将可见光图像转换为红外图像，从而提供大量的红外人脸图像用于识别。

Description

图像生成方法、装置、系统和存储介质

技术领域

本发明涉及图像识别技术领域，更具体地涉及一种图像生成方法、装置、系统和存储介质。

背景技术

在图像识别技术领域，对于不同的应用场景，可能需要不同成像域的图像。例如，在人脸识别领域，在光线充足的场景下可以采用可见光图像进行人脸识别，而在光线微弱的场景下(例如夜间)则可能需要红外图像进行人脸识别。

在利用深度学习神经网络进行人脸识别时，需要两张图像进行比对，判断是否属于同一个人，但是这个方法往往需要大量的数据。在红外环境下进行人脸识别是夜间识别人脸的重要课题，而采集红外数据较为困难，一方面不同的红外摄像头波长有所不同，不能通用，另一方面公开的数据集很少。

因此，需要从一个成像域的图像生成另一个成像域的图像(例如从可见光图像生成红外图像)的方法，以解决另一个成像域的图像(例如红外图像)采集困难、生成困难的问题。

发明内容

本发明提出了一种关于图像生成的方案，其利用训练好的环状对抗生成网络能够便利地将一个成像域的图像转换为另一个成像域的图像。下面简要描述本发明提出的关于图像生成的方案，更多细节将在后续结合附图在具体实施方式中加以描述。

根据本发明一方面，提供了一种图像生成方法，所述图像生成方法包括：获取第一成像域的图像；以及利用训练好的环状对抗生成网络将所述获取的第一成像域的图像转换为第二成像域的图像，所述第一成像域的图像和所述第二成像域的图像为不同成像域的图像；其中，所述环状对抗生成网络为能够用于所述第一成像域的图像和所述第二成像域的图像的相互转换的对抗生成网络。

在本发明的一个实施例中，所述环状对抗生成网络包括第一生成器、第一判别器、第二生成器以及第二判别器，其中：所述第一生成器用于基于所述第一成像域的图像生成所述第二成像域的图像；所述第二生成器用于基于所述第二成像域的图像生成所述第一成像域的图像；所述第一判别器用于判断输入的图像为采集的所述第二成像域的图像还是生成的所述第二成像域的图像；以及所述第二判别器用于判断输入的图像为采集的所述第一成像域的图像还是生成的所述第一成像域的图像。

在本发明的一个实施例中，所述环状对抗生成网络的训练包括：输入所述第一成像域的图像，基于所述第一生成器将输入的所述第一成像域的图像转换为所述第二成像域的图像，基于所述第一判别器判断转换得到的所述第二成像域的图像是否为采集的图像，并基于判断结果优化所述第一生成器和所述第一判别器；以及输入所述第二成像域的图像，基于所述第二生成器将输入的所述第二成像域的图像转换为所述第一成像域的图像，基于所述第二判别器判断转换得到的所述第一成像域的图像是否为采集的图像，并基于判断结果优化所述第二生成器和所述第二判别器。

在本发明的一个实施例中，所述环状对抗生成网络的训练还包括：基于所述第二生成器将所述第一生成器生成的所述第二成像域的图像转换回所述第一成像域的图像，并基于输入的所述第一成像域的图像和转换得到的所述第一成像域的图像得到第一重建误差；基于所述第一生成器将所述第二生成器生成的所述第一成像域的图像转换回所述第二成像域的图像，并基于输入的所述第二成像域的图像和转换得到的所述第二成像域的图像得到第二重建误差；以及对所述第一重建误差和所述第二重建误差进行建模，并使得所述第一重建误差和所述第二重建误差最小化。

在本发明的一个实施例中，所述图像生成方法还包括：在所述环状对抗生成网络将所述第一成像域的图像转换为所述第二成像域的图像时和/或将所述第二成像域的图像转换为所述第一成像域的图像时，提供附加信息以优化转换效果，所述附加信息是使转换得到的图像更接近真实采集图像的信息。

在本发明的一个实施例中，所述第一成像域的图像为可见光图像，所述第二成像域的图像为红外图像。

在本发明的一个实施例中，所述图像生成方法还包括：在所述环状对抗生成网络将所述可见光图像转换为所述红外图像时，提供光斑信息以优化转换效果。

根据本发明另一方面，提供了一种用于实现上述任一项所述的图像生成方法的图像生成装置，所述图像生成装置包括：获取模块，用于获取第一成像域的图像；以及生成模块，用于利用训练好的环状对抗生成网络将所述获取模块获取的所述第一成像域的图像转换为第二成像域的图像，所述第一成像域的图像和所述第二成像域的图像为不同成像域的图像；其中，所述环状对抗生成网络为能够用于所述第一成像域的图像和所述第二成像域的图像的相互转换的对抗生成网络。

在本发明的一个实施例中，所述生成模块利用的所述环状对抗生成网络包括第一生成器、第一判别器、第二生成器以及第二判别器，其中：所述第一生成器用于基于所述第一成像域的图像生成所述第二成像域的图像；所述第二生成器用于基于所述第二成像域的图像生成所述第一成像域的图像；所述第一判别器用于判断输入的图像为采集的所述第二成像域的图像还是生成的所述第二成像域的图像；以及所述第二判别器用于判断输入的图像为采集的所述第一成像域的图像还是生成的所述第一成像域的图像。

在本发明的一个实施例中，所述生成模块利用的所述环状对抗生成网络的训练包括：输入所述第一成像域的图像，基于所述第一生成器将输入的所述第一成像域的图像转换为所述第二成像域的图像，基于所述第一判别器判断转换得到的所述第二成像域的图像是否为采集的图像，并基于判断结果优化所述第一生成器和所述第一判别器；以及输入所述第二成像域的图像，基于所述第二生成器将输入的所述第二成像域的图像转换为所述第一成像域的图像，基于所述第二判别器判断转换得到的所述第一成像域的图像是否为采集的图像，并基于判断结果优化所述第二生成器和所述第二判别器。

在本发明的一个实施例中，所述环状对抗生成网络的训练还包括：基于所述第二生成器将所述第一生成器生成的所述第二成像域的图像转换回所述第一成像域的图像，并基于输入的所述第一成像域的图像和转换得到的所述第一成像域的图像得到第一重建误差；基于所述第一生成器将所述第二生成器生成的所述第一成像域的图像转换回所述第二成像域的图像，并基于输入的所述第二成像域的图像和转换得到的所述第二成像域的图像得到第二重建误差；以及对所述第一重建误差和所述第二重建误差进行建模，并使得所述第一重建误差和所述第二重建误差最小化。

在本发明的一个实施例中，所述图像生成装置还包括信息模块，用于在所述生成模块利用所述环状对抗生成网络将所述第一成像域的图像转换为所述第二成像域的图像时和/或将所述第二成像域的图像转换为所述第一成像域的图像时，提供附加信息以优化转换效果，所述附加信息是使转换得到的图像更接近真实采集图像的信息。

在本发明的一个实施例中，所述第一成像域的图像为可见光图像，所述第二成像域的图像为红外图像。

在本发明的一个实施例中，所述图像生成装置还包括信息模块，用于在所述生成模块利用所述环状对抗生成网络将所述可见光图像转换为所述红外图像时，提供光斑信息以优化转换效果。

根据本发明又一方面，提供了一种图像生成系统，所述图像生成系统包括存储装置和处理器，所述存储装置上存储有由所述处理器运行的计算机程序，所述计算机程序在被所述处理器运行时执行上述任一项所述的图像生成方法。

根据本发明再一方面，提供了一种存储介质，所述存储介质上存储有计算机程序，所述计算机程序在运行时执行上述任一项所述的图像生成方法。

根据本发明实施例的图像生成方法、装置、系统和存储介质利用训练好的环状对抗生成网络能够便利地将一个成像域的图像转换为另一个成像域的图像，解决另一个成像域的图像采集困难、生成困难的问题，例如能够便利地将可见光图像转换为红外图像，从而提供大量的红外人脸图像用于识别。

附图说明

通过结合附图对本发明实施例进行更详细的描述，本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解，并且构成说明书的一部分，与本发明实施例一起用于解释本发明，并不构成对本发明的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1示出用于实现根据本发明实施例的图像生成方法、装置、系统和存储介质的示例电子设备的示意性框图；

图2示出根据本发明实施例的图像生成方法的示意性流程图；

图3A示出根据本发明实施例的环状对抗生成网络及其训练的示例性示意图；

图3B示出根据本发明另一实施例的环状对抗生成网络的训练的示例性示意图；

图3C示出根据本发明实施例的环状对抗生成网络在训练时被提供的光斑信息的示例图；

图4A示出采集的可见光图像的示例；

图4B示出根据本发明实施例的图像生成方法基于图4A的可见光图像生成的红外图像的示例；

图5示出根据本发明实施例的图像生成装置的示意性框图；以及

图6示出根据本发明实施例的图像生成系统的示意性框图。

具体实施方式

为了使得本发明的目的、技术方案和优点更为明显，下面将参照附图详细描述根据本发明的示例实施例。显然，所描述的实施例仅仅是本发明的一部分实施例，而不是本发明的全部实施例，应理解，本发明不受这里描述的示例实施例的限制。基于本发明中描述的本发明实施例，本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。

首先，参照图1来描述用于实现本发明实施例的图像生成方法、装置、系统和存储介质的示例电子设备100。

如图1所示，电子设备100包括一个或多个处理器102、一个或多个存储装置104、输入装置106、输出装置108以及图像采集装置110，这些组件通过总线系统112和/或其它形式的连接机构(未示出)互连。应当注意，图1所示的电子设备100的组件和结构只是示例性的，而非限制性的，根据需要，所述电子设备也可以具有其他组件和结构。

所述处理器102可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元，并且可以控制所述电子设备100中的其它组件以执行期望的功能。

所述存储装置104可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器102可以运行所述程序指令，以实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据，例如所述应用程序使用和/或产生的各种数据等。

所述输入装置106可以是用户用来输入指令的装置，并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。

所述输出装置108可以向外部(例如用户)输出各种信息(例如图像或声音)，并且可以包括显示器、扬声器等中的一个或多个。

所述图像采集装置110可以采集用户期望的图像(例如照片、视频等)，并且将所采集的图像存储在所述存储装置104中以供其它组件使用。图像采集装置110可以是摄像头。应当理解，图像采集装置110仅是示例，电子设备100可以不包括图像采集装置110。在这种情况下，可以利用具有图像采集能力的部件采集待转换图像，并将采集的待转换图像发送给电子设备100。

示例性地，用于实现根据本发明实施例的图像生成方法和装置的示例电子设备可以被实现为相机，或者诸如智能手机、平板电脑等等移动终端。

下面，将参考图2描述根据本发明实施例的图像生成方法200。如图2所示，图像生成方法200可以包括如下步骤：

在步骤S210，获取第一成像域的图像。

在一个示例中，第一成像域的图像可以为与后文的第二成像域的图像相比不同成像域的图像。例如，第一成像域的图像为某一成像域的图像，第二成像域的图像则为另一成像域的图像。在本文中，仅为了区别不同成像域的图像而如此命名，并无其他限制性作用。例如，第一成像域的图像为采用第一波段的光成像的图像，第二成像域的图像为采用第二波段的光成像的图像，第一波段与第二波段为不同的波段。在本文的示例中，第一成像域的图像可以为可见光图像，后文将描述的第二成像域的图像可以为红外图像。

在步骤S220，利用训练好的环状对抗生成网络将所述获取的第一成像域的图像转换为第二成像域的图像，所述第一成像域的图像和所述第二成像域的图像为不同成像域的图像；其中，所述环状对抗生成网络为能够用于所述第一成像域的图像和所述第二成像域的图像的相互转换的对抗生成网络。

在本发明的实施例中，利用环状对抗生成网络(Generative Adversarial Net)实现两个成像域的图像的相互转换。其中，“环状”可以这样理解：将第一成像域的图像(例如可见光图像)A转换为第二成像域的图像(例如红外图像)B，转换得到第二成像域的图像B之后，再由第二成像域的图像B转换回第一成像域的图像A，从而形成一个“环”；类似地，也可将第二成像域的图像B转换为第一成像域的图像A，之后再从第一成像域的图像A转换回第二成像域的图像B，从而也是一个“环”。

在本发明的实施例中，环状对抗生成网络可以包括第一生成器、第一判别器、第二生成器以及第二判别器，其中：所述第一生成器用于基于第一成像域的图像生成第二成像域的图像；所述第二生成器用于基于第二成像域的图像生成第一成像域的图像；所述第一判别器用于判断图像为采集的第二成像域的图像还是生成的第二成像域的图像；所述第二判别器用于判断图像为采集的第一成像域的图像还是生成的第一成像域的图像。

在本发明的实施例中，环状对抗生成网络的训练可以包括：输入第一成像域的图像，基于所述第一生成器将输入的第一成像域的图像转换为第二成像域的图像，基于所述第一判别器判断转换得到的第二成像域的图像是否为采集的图像，并基于判断结果优化所述第一生成器和所述第一判别器；以及输入第二成像域的图像，基于所述第二生成器将输入的第二成像域的图像转换为第一成像域的图像，基于所述第二判别器判断转换得到的第一成像域的图像是否为采集的图像，并基于判断结果优化所述第二生成器和所述第二判别器。

进一步地，在本发明的实施例中，环状对抗生成网络的训练还可以包括：基于所述第二生成器将所述第一生成器生成的第二成像域的图像转换回第一成像域的图像，并基于输入的第一成像域的图像和转换得到的第一成像域的图像得到第一重建误差；基于所述第一生成器将所述第二生成器生成的第一成像域的图像转换回第二成像域的图像，并基于输入的第二成像域的图像和转换得到的第二成像域的图像得到第二重建误差；以及对所述第一重建误差和所述第二重建误差进行建模，并使得所述第一重建误差和所述第二重建误差最小化。

下面可以参照图3A理解该示例的环状对抗生成网络的结构及其训练。

图3A示出了根据本发明实施例的环状对抗生成网络300及其训练的示例性示意图。如图3A所示，环状对抗生成网络300包括第一生成器310、第一判别器320、第二生成器330和第二判别器340。在图3A中，以可见光域成像的可见光图像和红外域成像的红外图像为例分别示出了第一成像域的图像和第二成像域的图像，其仅是示例性的，本领域技术人员可以理解，本发明的方案还可以用于任何其他不同成像域的图像之间的转换。

在本发明的实施例中，环状对抗生成网络300的训练可以包括生成器和判别器的训练。具体地，对于第一生成器310的训练，可以输入可见光图像A0，基于第一生成器310将输入的可见光图像A0换为红外图像B1。此处，输入的可见光图像A0可以为真实的可见光图像，真实的可见光图像可以理解为是采集得到的可见光图像而非通过算法从其他成像域的图像生成得到的可见光图像。相应地，对于第一判别器320的训练，可以通过输入真实的红外图像B0以及第一生成器310生成的红外图像B1使第一判别器320判断是真实的红外图像还是生成的红外图像。与前文对于真实的可见光图像的理解相类似的，真实的红外图像也可以理解为是采集得到的红外图像而非通过算法从其他成像域的图像生成得到的红外图像。当第一判别器320对于第一生成器310生成的红外图像B1输出一个判别结果时，可以基于该判别结果的对错来优化第一判别器320使其不断提高判别能力；同样，可以将该判别结果回传给第一生成器310来使第一生成器310生成更接近真实红外图像的红外图像。如此迭代，直到达到预期的效果，对它们的训练完成。

对第二生成器330和第二判别器340的训练可以是类似的。具体地，对于第二生成器330的训练，可以输入红外图像B0，基于第二生成器330将输入的红外图像B0转换为可见光图像A1。此处，输入的红外图像B0可以为真实的红外图像。相应地，对于第二判别器340的训练，可以通过输入真实的可见光图像A0以及通过第二生成器330生成的可见光图像A1，来使第二判别器340判断是真实的可见光图像还是生成的可见光图像。当第二判别器340对于第二生成器330生成的可见光图像输出一个判别结果时，可以基于该判别结果的对错来优化第二判别器340使其不断提高判别能力；同样，可以将该判别结果回传给第二生成器330来使第二生成器330生成更接近真实可见光图像的可见光图像。如此迭代，直到达到预期的效果，对它们的训练完成。

进一步地，输入到第二生成器330的可以是第一生成器310生成的红外图像B1，而非真实的红外图像B0。也就是说，在第一生成器310将输入的可见光图像A0转换为红外图像B1后，再通过第二生成器330将红外图像B1转换回可见光图像A2。然后，可以基于原来输入的可见光图像A0以及转换得到的可见光图像A2之间的差别得到可见光图像的重建误差(可以称为第一重建误差)。可对该重建误差进行建模，通过优化第一生成器310和第二生成器330使重建误差最小化，从而进一步优化整个环状对抗生成网络300。

类似地，输入到第一生成器310的可以是第二生成器330生成的可见光图像A1，而非真实的可见光图像A0。也就是说，在第二生成器330将输入的红外图像B0转换为可见光图像A1后，再通过第一生成器310将可见光图像A1转换回红外图像B2。然后，可以基于原来输入的红外图像B0以及转换得到的红外图像B2之间的差别得到红外图像的重建误差(可以称为第二重建误差)。可对该重建误差进行建模，通过优化第一生成器310和第二生成器330使重建误差最小化，从而进一步优化整个环状对抗生成网络300。

以上示例性地描述了根据本发明实施例的环状对抗生成网络及其训练。在本发明的实施例中，利用环状对抗生成网络来实现一个成像域的图像到另一个成像域的图像的转换，通过端到端的学习方式，直接让几个子网络进行对抗，使得网络可以自动生成某成像域的图像，而无需人为制定生成算法。此外，与普通的对抗生成网络(例如仅包括一个生成器和一个判别器)相比，环状对抗生成网络不仅可以学习到从第一成像域的图像到第二成像域的图像的转换，还可以学习到从第二成像域的图像到第一成像域的图像的转换。基于此，在实施从第一成像域的图像到第二成像域的图像的转换时或者实施从第二成像域的图像到第一成像域的图像的转换时，可以基于其学习到的双方相互转换的内容而更好地实施需要的单向转换，优化图像转换效果。当然，另一明显的优势是，环状对抗生成网络可以实现两个成像域的图像的相互转换，而不仅仅可以实施从一个成像域的图像到另一个成像域的图像的单向转换。

在本发明进一步的实施例中，环状对抗生成网络的训练还可以包括：在将第一成像域的图像转换为第二成像域的图像时和/或在将第二成像域的图像转换为第一成像域的图像时，提供附加信息以优化转换效果。所述附加信息是使转换得到的图像更接近真实采集图像的信息，因此可以优化转换效果。

示例地，附加信息可以为光斑信息。例如，在将可见光图像转换为红外图像时，可以提供光斑信息以优化转换效果。这是因为，从可见光域到红外域中，提供结构光的光斑信息可以用于红外图像中估计景深，从而提高生成的红外图像的质量。基于此，可以对前述的环状对抗生成网络300稍作修改，如图3B中示出的环状对抗生成网络300’所示的。与环状对抗生成网络300相比，环状对抗生成网络300’仅多了一条从可见光域到红外域中的通路，该通路提供基本光斑信息，从而保持信息的平衡。这条通路是单向的，因为红外域到可见光域去掉了光斑，所以不会经过这条通路。在一个示例中，可以在白纸上打上光斑，提供基本的模式信息，用来为生成图像提供模式，该包括光斑的基本图像可以如图3C所示。基于如上述光斑信息的附加信息，可以获得更好的图像转换效果。基于希望转换得到的图像的类型的不同，可以提供不同的附加信息以使转换得到的图像更接近真实采集图像。

同样地，在测试(应用)阶段，即采用训练好的环状对抗生成网络将第一成像域的图像转换为第二成像域的图像时和/或将第二成像域的图像转换为第一成像域的图像时，也可以提供附加信息以优化转换效果。

基于上面的描述，根据本发明实施例的图像生成方法利用训练好的环状对抗生成网络能够便利地将一个成像域的图像转换为另一个成像域的图像，解决另一个成像域的图像采集困难、生成困难的问题。

对于一些应用场景来说，例如红外图像采集困难但又需要大量的红外图像用于人脸识别的场景，可以通过本发明的方案来基于相对容易采集的可见光图像生成红外图像，从而便利地提供大量的红外图像用于人脸识别。而且，本发明方案中的环状对抗生成网络仅需接收可见光图像和红外图像，接收的可见光图像和红外图像不需要属于同一张人脸，因此可以最大限度地利用数据。

图4A示出采集的可见光图像的示例，受限于专利申请附图的要求而在图中示出为黑白图像，但一般可以为彩色图像；图4B示出根据本发明实施例的图像生成方法基于图4A的可见光图像生成的红外图像的示例。可以参照图4A到图4B来体会根据本发明的方案生成红外图像的效果。值得注意的是，由于图4B是基于图4A的可见光图像生成的红外图像，因此图4B示出的红外图像与图4A示出的可见光图像是一一对应的。从图4B可以看出，生成的红外图像与采集的红外图像十分近似，完全足以用于红外环境下的人脸识别。

以上示例性地描述了根据本发明实施例的图像生成方法。示例性地，根据本发明实施例的图像生成方法可以在具有存储器和处理器的设备、装置或者系统中实现。

此外，根据本发明实施例的图像生成方法可以方便地部署到智能手机、平板电脑、个人计算机等移动设备上。替代地，根据本发明实施例的图像生成方法还可以部署在服务器端(或云端)。替代地，根据本发明实施例的图像生成方法还可以分布地部署在服务器端(或云端)和个人终端处。

下面结合图5描述本发明另一方面提供的图像生成装置。图5示出了根据本发明实施例的图像生成装置500的示意性框图。

如图5所示，根据本发明实施例的图像生成装置500包括获取模块510和生成模块520。所述各个模块可分别执行上文中结合图2描述的图像生成方法的各个步骤/功能。以下仅对图像生成装置500的各模块的主要功能进行描述，而省略以上已经描述过的细节内容。

获取模块510用于获取第一成像域的图像。生成模块520用于利用训练好的环状对抗生成网络将所述获取模块获取的第一成像域的图像转换为第二成像域的图像；其中，所述环状对抗生成网络为能够用于所述第一成像域的图像和所述第二成像域的图像的相互转换的对抗生成网络。获取模块510和生成模块520均可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。

在一个示例中，获取模块510获取的第一成像域的图像可以为与本文中描述的第二成像域的图像相比不同成像域的图像。例如，第一成像域的图像为某一成像域的图像，第二成像域的图像则为另一成像域的图像。在本文中，仅为了区别不同成像域的图像而如此命名，并无其他限制性作用。在本文的示例中，第一成像域的图像可以为可见光图像，第二成像域的图像可以为红外图像。

在本发明的实施例中，生成模块520利用环状对抗生成网络实现两个成像域的图像的相互转换。其中，“环状”可以这样理解：将第一成像域的图像(例如可见光图像)A转换为第二成像域的图像(例如红外图像)B，转换得到第二成像域的图像B之后，再由第二成像域的图像B转换回第一成像域的图像A，从而形成一个“环”；类似地，也可将第二成像域的图像B转换为第一成像域的图像A，之后再从第一成像域的图像A转换回第二成像域的图像B，从而也是一个“环”。

在本发明的实施例中，生成模块520所利用的环状对抗生成网络可以包括第一生成器、第一判别器、第二生成器以及第二判别器，其中：所述第一生成器用于基于第一成像域的图像生成第二成像域的图像；所述第二生成器用于基于第二成像域的图像生成第一成像域的图像；所述第一判别器用于判断图像为采集的第二成像域的图像还是生成的第二成像域的图像；所述第二判别器用于判断图像为采集的第一成像域的图像还是生成的第一成像域的图像。

在本发明的实施例中，生成模块520所利用的环状对抗生成网络的训练可以包括：输入第一成像域的图像，基于所述第一生成器将输入的第一成像域的图像转换为第二成像域的图像，基于所述第一判别器判断转换得到的第二成像域的图像是否为采集的图像，并基于判断结果优化所述第一生成器和所述第一判别器；以及输入第二成像域的图像，基于所述第二生成器将输入的第二成像域的图像转换为第一成像域的图像，基于所述第二判别器判断转换得到的第一成像域的图像是否为采集的图像，并基于判断结果优化所述第二生成器和所述第二判别器。

进一步地，在本发明的实施例中，生成模块520所利用的环状对抗生成网络的训练还可以包括：基于所述第二生成器将所述第一生成器生成的第二成像域的图像转换回第一成像域的图像，并基于输入的第一成像域的图像和转换得到的第一成像域的图像得到第一重建误差；基于所述第一生成器将所述第二生成器生成的第一成像域的图像转换回第二成像域的图像，并基于输入的第二成像域的图像和转换得到的第二成像域的图像得到第二重建误差；以及对所述第一重建误差和所述第二重建误差进行建模，并使得所述第一重建误差和所述第二重建误差最小化。

在本发明进一步的实施例中，图像生成装置500还可以包括信息模块(未在图5中示出)，其用于在生成模块520利用环状对抗生成网络将第一成像域的图像转换为第二成像域的图像时和/或在将第二成像域的图像转换为第一成像域的图像时，提供附加信息以优化转换效果。所述附加信息是使转换得到的图像更接近真实采集图像的信息，因此可以优化转换效果。

例如，在将可见光图像转换为红外图像时，信息模块可以提供光斑信息以优化转换效果。这是因为，从可见光域到红外域中，提供结构光的“光斑”信息可以用于红外图像中估计景深，从而提高生成的红外图像的质量。基于如上述光斑信息的附加信息，可以获得更好的图像转换效果。基于希望转换得到的图像的类型的不同，信息模块可以提供不同的附加信息以使转换得到的图像更接近真实采集图像。

可以参照图3A、图3B以及图3C结合上文关于根据本发明实施例的图像生成方法中利用的环状对抗生成网络的结构及其训练过程理解根据本发明实施例的图像生成装置500的生成模块520所利用的环状对抗生成网络的结构及其训练过程，为了简洁，此处不再赘述。

基于上面的描述，根据本发明实施例的图像生成装置利用训练好的环状对抗生成网络能够便利地将一个成像域的图像转换为另一个成像域的图像，解决另一个成像域的图像采集困难、生成困难的问题，例如能够便利地将可见光图像转换为红外图像，从而提供大量的红外人脸图像用于识别。

图6示出了根据本发明实施例的图像生成系统600的示意性框图。图像生成系统600包括存储装置610以及处理器620。

其中，存储装置610存储用于实现根据本发明实施例的图像生成方法中的相应步骤的程序代码。处理器620用于运行存储装置610中存储的程序代码，以执行根据本发明实施例的图像生成方法的相应步骤，并且用于实现根据本发明实施例的图像生成装置中的相应模块。此外，图像生成系统600还可以包括图像采集装置(未在图6中示出)，其可以用于采集待转换的图像。当然，图像采集装置不是必需的，可直接接收来自其他源的待转换图像的输入。

在一个实施例中，在所述程序代码被处理器620运行时使得图像生成系统600执行以下步骤：获取第一成像域的图像；以及利用训练好的环状对抗生成网络将所述获取的第一成像域的图像转换为第二成像域的图像，所述第一成像域的图像和所述第二成像域的图像为不同成像域的图像；其中，所述环状对抗生成网络为能够用于所述第一成像域的图像和所述第二成像域的图像的相互转换的对抗生成网络。

在一个实施例中，所述环状对抗生成网络包括第一生成器、第一判别器、第二生成器以及第二判别器，其中：所述第一生成器用于基于第一成像域的图像生成第二成像域的图像；所述第二生成器用于基于第二成像域的图像生成第一成像域的图像；所述第一判别器用于判断图像为采集的第二成像域的图像还是生成的第二成像域的图像；以及所述第二判别器用于判断图像为采集的第一成像域的图像还是生成的第一成像域的图像。

在一个实施例中，所述环状对抗生成网络的训练包括：输入第一成像域的图像，基于所述第一生成器将输入的第一成像域的图像转换为第二成像域的图像，基于所述第一判别器判断转换得到的第二成像域的图像是否为采集的图像，并基于判断结果优化所述第一生成器和所述第一判别器；以及输入第二成像域的图像，基于所述第二生成器将输入的第二成像域的图像转换为第一成像域的图像，基于所述第二判别器判断转换得到的第一成像域的图像是否为采集的图像，并基于判断结果优化所述第二生成器和所述第二判别器。

在一个实施例中，所述环状对抗生成网络的训练还包括：基于所述第二生成器将所述第一生成器生成的第二成像域的图像转换回第一成像域的图像，并基于输入的第一成像域的图像和转换得到的第一成像域的图像得到第一重建误差；基于所述第一生成器将所述第二生成器生成的第一成像域的图像转换回第二成像域的图像，并基于输入的第二成像域的图像和转换得到的第二成像域的图像得到第二重建误差；以及对所述第一重建误差和所述第二重建误差进行建模，并使得所述第一重建误差和所述第二重建误差最小化。

在一个实施例中，在所述程序代码被处理器620运行时还使得图像生成系统600执行以下步骤：在所述环状对抗生成网络将所述第一成像域的图像转换为所述第二成像域的图像时和/或将所述第二成像域的图像转换为所述第一成像域的图像时，提供附加信息以优化转换效果，所述附加信息是使转换得到的图像更接近真实采集图像的信息。

在一个实施例中，所述第一成像域的图像为可见光图像，所述第二成像域的图像为红外图像。

在一个实施例中，在所述程序代码被处理器620运行时还使得图像生成系统600执行以下步骤：在所述环状对抗生成网络将所述可见光图像转换为所述红外图像时，提供光斑信息以优化转换效果。

此外，根据本发明实施例，还提供了一种存储介质，在所述存储介质上存储了程序指令，在所述程序指令被计算机或处理器运行时用于执行本发明实施例的图像生成方法的相应步骤，并且用于实现根据本发明实施例的图像生成装置中的相应模块。所述存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。所述计算机可读存储介质可以是一个或多个计算机可读存储介质的任意组合，例如一个计算机可读存储介质包含获取第一成像域的图像的计算机可读的程序代码，另一个计算机可读存储介质包含利用训练好的环状对抗生成网络将所述获取的第一成像域的图像转换为第二成像域的图像的计算机可读的程序代码。

在一个实施例中，所述计算机程序指令在被计算机运行时可以实现根据本发明实施例的图像生成装置的各个功能模块，并且/或者可以执行根据本发明实施例的图像生成方法。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤：获取第一成像域的图像；以及利用训练好的环状对抗生成网络将所述获取的第一成像域的图像转换为第二成像域的图像，所述第一成像域的图像和所述第二成像域的图像为不同成像域的图像；其中，所述环状对抗生成网络为能够用于所述第一成像域的图像和所述第二成像域的图像的相互转换的对抗生成网络。

在一个实施例中，所述环状对抗生成网络包括第一生成器、第一判别器、第二生成器以及第二判别器，其中：所述第一生成器用于基于第一成像域的图像生成第二成像域的图像；所述第二生成器用于基于第二成像域的图像生成第一成像域的图像；所述第一判别器用于判断图像为采集的第二成像域的图像还是生成的第二成像域的图像；以及所述第二判别器用于判断图像为采集的第一成像域的图像还是生成的第一成像域的图像。

在一个实施例中，所述环状对抗生成网络的训练包括：输入第一成像域的图像，基于所述第一生成器将输入的第一成像域的图像转换为第二成像域的图像，基于所述第一判别器判断转换得到的第二成像域的图像是否为采集的图像，并基于判断结果优化所述第一生成器和所述第一判别器；以及输入第二成像域的图像，基于所述第二生成器将输入的第二成像域的图像转换为第一成像域的图像，基于所述第二判别器判断转换得到的第一成像域的图像是否为采集的图像，并基于判断结果优化所述第二生成器和所述第二判别器。

在一个实施例中，所述环状对抗生成网络的训练还包括：基于所述第二生成器将所述第一生成器生成的第二成像域的图像转换回第一成像域的图像，并基于输入的第一成像域的图像和转换得到的第一成像域的图像得到第一重建误差；基于所述第一生成器将所述第二生成器生成的第一成像域的图像转换回第二成像域的图像，并基于输入的第二成像域的图像和转换得到的第二成像域的图像得到第二重建误差；以及对所述第一重建误差和所述第二重建误差进行建模，并使得所述第一重建误差和所述第二重建误差最小化。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行以下步骤：在所述环状对抗生成网络将所述第一成像域的图像转换为所述第二成像域的图像时和/或将所述第二成像域的图像转换为所述第一成像域的图像时，提供附加信息以优化转换效果，所述附加信息是使转换得到的图像更接近真实采集图像的信息。

在一个实施例中，所述第一成像域的图像为可见光图像，所述第二成像域的图像为红外图像。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行以下步骤：在所述环状对抗生成网络将所述可见光图像转换为所述红外图像时，提供光斑信息以优化转换效果。

根据本发明实施例的图像生成装置中的各模块可以通过根据本发明实施例的图像生成的电子设备的处理器运行在存储器中存储的计算机程序指令来实现，或者可以在根据本发明实施例的计算机程序产品的计算机可读存储介质中存储的计算机指令被计算机运行时实现。

根据本发明实施例的图像生成方法、装置、系统以及存储介质利用训练好的环状对抗生成网络能够便利地将一个成像域的图像转换为另一个成像域的图像，解决另一个成像域的图像采集困难、生成困难的问题，例如能够便利地将可见光图像转换为红外图像，从而提供大量的红外人脸图像用于识别。

尽管这里已经参考附图描述了示例实施例，应理解上述示例实施例仅仅是示例性的，并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改，而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本申请所提供的几个实施例中，应该理解到，所揭露的设备和方法，可以通过其它的方式实现。例如，以上所描述的设备实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个设备，或一些特征可以忽略，或不执行。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本发明并帮助理解各个发明方面中的一个或多个，在对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该本发明的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如相应的权利要求书所反映的那样，其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域的技术人员可以理解，除了特征之间相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一些模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

以上所述，仅为本发明的具体实施方式或对具体实施方式的说明，本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。

Claims (9)

1.一种图像生成方法，其特征在于，所述图像生成方法包括：

获取第一成像域的图像；以及

利用训练好的环状对抗生成网络将所述获取的第一成像域的图像转换为第二成像域的图像，所述第一成像域的图像和所述第二成像域的图像为不同成像域的图像；

其中，所述环状对抗生成网络为能够用于所述第一成像域的图像和所述第二成像域的图像的相互转换的对抗生成网络；

所述图像生成方法还包括：

在所述环状对抗生成网络将所述第一成像域的图像转换为所述第二成像域的图像时和/或将所述第二成像域的图像转换为所述第一成像域的图像时，提供附加信息以优化转换效果，所述附加信息是使转换得到的图像更接近真实采集图像的信息。

2.根据权利要求1所述的图像生成方法，其特征在于，所述环状对抗生成网络包括第一生成器、第一判别器、第二生成器以及第二判别器，其中：

所述第一生成器用于基于所述第一成像域的图像生成所述第二成像域的图像；

所述第二生成器用于基于所述第二成像域的图像生成所述第一成像域的图像；

所述第一判别器用于判断输入的图像为采集的所述第二成像域的图像还是生成的所述第二成像域的图像；以及

所述第二判别器用于判断输入的图像为采集的所述第一成像域的图像还是生成的所述第一成像域的图像。

3.根据权利要求2所述的图像生成方法，其特征在于，所述环状对抗生成网络的训练包括：

输入所述第一成像域的图像，基于所述第一生成器将输入的所述第一成像域的图像转换为所述第二成像域的图像，基于所述第一判别器判断转换得到的所述第二成像域的图像是否为采集的图像，并基于判断结果优化所述第一生成器和所述第一判别器；以及

输入所述第二成像域的图像，基于所述第二生成器将输入的所述第二成像域的图像转换为所述第一成像域的图像，基于所述第二判别器判断转换得到的所述第一成像域的图像是否为采集的图像，并基于判断结果优化所述第二生成器和所述第二判别器。

4.根据权利要求3所述的图像生成方法，其特征在于，所述环状对抗生成网络的训练还包括：

基于所述第二生成器将所述第一生成器生成的所述第二成像域的图像转换回所述第一成像域的图像，并基于输入的所述第一成像域的图像和转换得到的所述第一成像域的图像得到第一重建误差；

基于所述第一生成器将所述第二生成器生成的所述第一成像域的图像转换回所述第二成像域的图像，并基于输入的所述第二成像域的图像和转换得到的所述第二成像域的图像得到第二重建误差；以及

对所述第一重建误差和所述第二重建误差进行建模，并使得所述第一重建误差和所述第二重建误差最小化。

5.根据权利要求1-4中的任一项所述的图像生成方法，其特征在于，所述第一成像域的图像为可见光图像，所述第二成像域的图像为红外图像。

6.根据权利要求5所述的图像生成方法，其特征在于，所述图像生成方法还包括：

在所述环状对抗生成网络将所述可见光图像转换为所述红外图像时，提供光斑信息以优化转换效果。

7.一种用于实现权利要求1-6中的任一项所述的图像生成方法的图像生成装置，其特征在于，所述图像生成装置包括：

获取模块，用于获取第一成像域的图像；以及

生成模块，用于利用训练好的环状对抗生成网络将所述获取模块获取的所述第一成像域的图像转换为第二成像域的图像，所述第一成像域的图像和所述第二成像域的图像为不同成像域的图像；

其中，所述环状对抗生成网络为能够用于所述第一成像域的图像和所述第二成像域的图像的相互转换的对抗生成网络；

所述获取模块还用于获取附加信息，所述生成模块在利用所述环状对抗生成网络将所述第一成像域的图像转换为所述第二成像域的图像时和/或将所述第二成像域的图像转换为所述第一成像域的图像时还基于所述附加信息优化转换效果，所述附加信息是使转换得到的图像更接近真实采集图像的信息。

8.一种图像生成系统，其特征在于，所述图像生成系统包括存储装置和处理器，所述存储装置上存储有由所述处理器运行的计算机程序，所述计算机程序在被所述处理器运行时执行如权利要求1-6中的任一项所述的图像生成方法。

9.一种存储介质，其特征在于，所述存储介质上存储有计算机程序，所述计算机程序在运行时执行如权利要求1-6中的任一项所述的图像生成方法。

Images