CN109685750A

CN109685750A - 图像增强方法及计算设备

Info

Publication number: CN109685750A
Application number: CN201811531717.3A
Authority: CN
Inventors: 邢晨; 周星光; 徐铎; 张伟; 刘挺
Original assignee: Xiamen Meitu Technology Co Ltd
Current assignee: Xiamen Meitu Technology Co Ltd
Priority date: 2018-12-14
Filing date: 2018-12-14
Publication date: 2019-04-26

Abstract

本发明公开了一种图像增强方法，该方法适于在计算设备中执行，包括步骤：将待增强图像输入第一增强模型，经多次卷积处理后输出至少一个调整参数；利用调整参数生成调整曲线来对待增强图像进行调整，以输出调整后图像；将调整后图像输入第二增强模型，经多次卷积处理后输出增强后图像，其中第一增强模型利用生成第一增强模型的方法来生成，第二增强模型利用生成第二增强模型的方法来生成。本发明一并公开了用于执行上述方法的计算设备。

Description

图像增强方法及计算设备

技术领域

本发明涉及图像处理技术领域，尤其是图像增强方法及计算设备。

背景技术

随着技术的发展，移动终端(例如手机、平板电脑等)成为人们常用的拍照设备，其成像效果也越来越好。但是，受移动终端的硬件限制，其成像效果与单反相机相比，依然有一些待改进之处。例如，在高频细节和色彩的显示方面，与单反相机拍摄所得的图像仍有差距。所以，为满足用户需求，对移动终端所拍摄得的图像进行增强处理，就显得极其重要。

传统的图像增强方式，如使用Photoshop等图像编辑软件，调节图像曲线、对比度、亮度等，当然，还可根据图像内容，针对图像局部进行调整。然而，整个处理过程不仅耗时且需要一定的专业知识和软件使用技巧，并不适用于一般用户。另一种图像增强方式是通过图像处理算法在对移动终端拍摄到的图像进行增强处理。然而，简单的处理算法，如滤波(各种滤镜)、锐化等，不具有自适应能力，无法根据图像内容进行自适应调整；而复杂的处理算法，随着图像增强效果的提升而提升的，还有算法的复杂度。

综上，需要一种增强效果良好、处理效率又高的图像增强方案。

发明内容

为此，本发明提供了一种图像增强方案，以力图解决或者至少缓解上面存在的至少一个问题。

根据本发明的一个方面，提供了生成第一增强模型的方法，第一增强模型适于对输入图像进行处理以得到优化其图像质量的调整参数，该方法包括步骤：获取训练图像，其中训练图像是对第一图像和第二图像进行匹配处理后的配准图，第一图像和第二图像是针对同一场景同时拍摄所得的两张图；将训练图像输入到预训练的第一增强模型进行处理，以输出至少一个调整参数，其中，第一增强模型包括依次相连的至少一个第一卷积处理层、第二卷积处理层和全连接层；根据至少一个调整参数生成调整曲线来对第一图像进行调整，以生成调整后的第一图像；以及根据调整后的第一图像和与其对应的第二图像对预训练的第一增强模型进行模型训练以得到训练后的第一增强模型，作为所生成的第一增强模型。

可选地，在根据本发明的生成第一增强模型的方法中，获取训练图像的步骤还包括：利用单应性矩阵对第一图像和第二图像进行匹配，生成配准图；对配准图进行缩放处理，以得到第一预定尺寸的图像作为训练图像；其中，第二图像的图像质量高于与其对应的第一图像的图像质量。

根据本发明的另一方面，提供了生成第二增强模型的方法，第二增强模型适于对输入图像的质量进行优化处理以得到增强后图像，该方法包括步骤：获取训练图像，其中训练图像通过对第一图像和第二图像进行匹配处理来生成，第一图像和第二图像是针对同一场景同时拍摄所得的两张图；将训练图像输入到预训练的第二增强模型进行处理，以输出增强后的图像，其中，第二增强模型至少包括依次相连的第三卷积处理层、第一数目个第四卷积处理层和第五卷积处理层；以及根据增强后的图像和与其对应的第二图像对预训练的第二增强模型进行模型训练以得到训练后的第二增强模型，作为所生成的第二增强模型。

可选地，在根据本发明的生成第二增强模型的方法中，获取训练图像的步骤还包括：利用单应性矩阵对第一图像和第二图像进行匹配，生成配准图；从配准图中裁剪出多个第二预定尺寸的子图像作为训练图像；其中，第二图像的图像质量高于与其对应的第一图像的图像质量。

根据本发明的再一方面，提供了一种图像增强方法，该方法适于在计算设备中执行，包括步骤：将待增强图像输入第一增强模型，经多次卷积处理后输出至少一个调整参数；利用调整参数生成调整曲线来对待增强图像进行调整，以输出调整后图像；将调整后图像输入第二增强模型，经多次卷积处理后输出增强后图像，其中，第一增强模型利用如上所述的生成第一增强模型的方法来生成，第二增强模型利用如上所述的生成第二增强模型的方法来生成。

可选地，在根据本发明的图像增强方法中，在经多次卷积处理后输出至少一个调整参数的步骤之后，还包括步骤：对所输出的每个调整参数进行L2正则化处理，来生成对应的调整参数。

可选地，在根据本发明的图像增强方法中，利用调整参数生成调整曲线来对待增强图像进行调整、以输出调整后图像的步骤包括：根据调整参数按预设多项式生成三条多项式曲线，作为三条调整曲线；利用三条调整曲线对待增强图像的三个通道图像分别进行调整，以生成调整后的三个通道图像；以及融合调整后的三个通道图像，得到调整后图像。

根据本发明的又一方面，提供了一种计算设备，包括：一个或多个处理器；和存储器；一个或多个程序，其中一个或多个程序存储在存储器中并被配置为由一个或多个处理器执行，一个或多个程序包括用于执行如上所述各种方法中的任一方法的指令。

根据本发明的再一方面，提供了一种存储一个或多个程序的计算机可读存储介质，一个或多个程序包括指令，指令当计算设备执行时，使得计算设备执行如上所述的各种方法中的任一方法。

根据本发明的方案，通过训练生成第一增强模型和第二增强模型，利用第一增强模型和第二增强模型来对待增强图像进行增强处理，以得到增强后图像。同时，相比于传统图像处理软件，更省时省力地提升移动终端拍照的效果，并且，整个处理过程不需要专业知识，更适合于大众用户。

附图说明

为了实现上述以及相关目的，本文结合下面的描述和附图来描述某些说明性方面，这些方面指示了可以实践本文所公开的原理的各种方式，并且所有方面及其等效方面旨在落入所要求保护的主题的范围内。通过结合附图阅读下面的详细描述，本公开的上述以及其它目的、特征和优势将变得更加明显。遍及本公开，相同的附图标记通常指代相同的部件或元素。

图1示出了根据本发明一个实施例的计算设备100的构造示意图；

图2示出了根据本发明一个实施例的生成第一增强模型的方法200的流程图；

图3示出了根据本发明一个实施例的第一增强模型300的网络结构示意图；

图4示出了根据本发明一个实施例的生成第二增强模型的方法400的流程图；

图5示出了根据本发明一个实施例的生成子图像的示意图；

图6示出了根据本发明一个实施例的第二增强模型600的网络结构示意图；

图7示出了根据本发明一个实施例的图像增强方法700的流程图；以及图8A、图8B、图8C和图8D示出了根据本发明实施例的增强效果对比图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

图1是示例计算设备100的框图。在基本的配置102中，计算设备100典型地包括系统存储器106和一个或者多个处理器104。存储器总线108可以用于在处理器104和系统存储器106之间的通信。

取决于期望的配置，处理器104可以是任何类型的处理器，包括但不限于：微处理器(μP)、微控制器(μC)、数字信息处理器(DSP)或者它们的任何组合。处理器104可以包括诸如一级高速缓存110和二级高速缓存112之类的一个或者多个级别的高速缓存、处理器核心114和寄存器116。示例的处理器核心114可以包括运算逻辑单元(ALU)、浮点数单元(FPU)、数字信号处理核心(DSP核心)或者它们的任何组合。示例的存储器控制器118可以与处理器104一起使用，或者在一些实现中，存储器控制器118可以是处理器104的一个内部部分。

取决于期望的配置，系统存储器106可以是任意类型的存储器，包括但不限于：易失性存储器(诸如RAM)、非易失性存储器(诸如ROM、闪存等)或者它们的任何组合。系统存储器106可以包括操作系统120、一个或者多个应用122以及程序数据124。在一些实施方式中，应用122可以布置为在操作系统上利用程序数据124进行操作。在一些实施例中，计算设备100被配置为执行根据本发明的方法(如生成第一增强模型的方法200、生成第二增强模型的方法400、图像增强方法700)，程序数据124中就包含了用于执行上述方法的指令，程序数据124中还可以包含用于训练第一增强模型和/或第二增强模型的训练样本集合(即，训练图像)、预训练的模型参数等数据。

在根据本发明的一些实施例中，计算设备100中包含可以实现本发明的方法(如生成第一增强模型的方法200和/或生成第二增强模型的方法400和/或图像增强方法700)的应用122，应用122中包含多条执行对应方法的程序指令，来指示处理器104执行对应方法，以实现本发明的图像增强方案。

计算设备100还可以包括有助于从各种接口设备(例如，输出设备142、外设接口144和通信设备146)到基本配置102经由总线/接口控制器130的通信的接口总线140。示例的输出设备142包括图形处理单元148和音频处理单元150。它们可以被配置为有助于经由一个或者多个A/V端口152与诸如显示器或者扬声器之类的各种外部设备进行通信。示例外设接口144可以包括串行接口控制器154和并行接口控制器156，它们可以被配置为有助于经由一个或者多个I/O端口158和诸如输入设备(例如，键盘、鼠标、笔、语音输入设备、图像输入设备)或者其他外设(例如打印机、扫描仪等)之类的外部设备进行通信。示例的通信设备146可以包括网络控制器160，其可以被布置为便于经由一个或者多个通信端口164与一个或者多个其他计算设备162通过网络通信链路的通信。

网络通信链路可以是通信介质的一个示例。通信介质通常可以体现为在诸如载波或者其他传输机制之类的调制数据信号中的计算机可读指令、数据结构、程序模块，并且可以包括任何信息递送介质。“调制数据信号”可以是这样的信号，它的数据集中的一个或者多个或者它的改变可以在信号中编码信息的方式进行。作为非限制性的示例，通信介质可以包括诸如有线网络或者专线网络之类的有线介质，以及诸如声音、射频(RF)、微波、红外(IR)或者其它无线介质在内的各种无线介质。这里使用的术语计算机可读介质可以包括存储介质和通信介质二者。在一些实施例中，计算机可读介质中存储一个或多个程序。

计算设备100可以实现为小尺寸便携(或者移动)电子设备的一部分，这些电子设备可以是诸如蜂窝电话、数码照相机、个人数字助理(PDA)、个人媒体播放器设备、无线网络浏览设备、个人头戴设备、应用专用设备、或者可以包括上面任何功能的混合设备。当然，计算设备100也可以实现为包括桌面计算机和笔记本计算机配置的个人计算机。

根据本发明的图像增强方案，先利用计算设备100训练生成第一增强模型和第二增强模型，接着，在计算设备100上通过训练好的第一增强模型和第二增强模型来对待增强的图像进行增强处理，以得到增强后图像。根据一种优选的实施方式，用于训练和测试的计算设备100均布置为具有上述配置和功能的一个或多个个人计算机，但本发明对此不作限制。

图2示出了根据本发明一个实施例的生成第一增强模型的方法200的流程图。第一增强模型能够对输入图像进行处理，来得到优化该输入图像的图像质量的调整参数。如图2所示，方法200始于步骤S210。

在步骤S210中，获取用来训练第一增强模型的训练图像。在本发明的实施例中，训练图像是对第一图像和第二图像进行匹配处理后的配准图，第一图像和第二图像是针对同一场景同时拍摄所得的两张图。

根据一种实施方式，设置一个可同时放置单反相机和移动终端的支架，且保证这两个设备的摄像头平行(如，在水平方向上并列放置)并尽量靠近，这样，利用布置好的单反相机和移动终端就可以对同一场景同时拍摄得到两张图像，将移动终端拍摄得到的图像作为第一图像，单反相机拍摄得到的图像作为第二图像。在根据本发明的实施例中，对于一组图像(即针对同一场景同时拍摄得到的第一图像和第二图像)，认为其具有相同的图像尺寸和图像内容、且第二图像的图像质量高于与其对应的第一图像的图像质量(此处所述的“图像质量”不仅包括图像清晰度、还包括图像的色彩显示)，换言之，将通过单反相机拍摄得到的第二图像作为参考图像，来对具有相同图像内容的第一图像进行调整。根据一些实施例，利用布置好的单反相机和移动终端进行多场景、多时间段的拍摄(拍摄内容尽量以远景为主，但不限于此)，以得到多组不同的第一图像和第二图像，来构建训练图像集合。

可选地，通过如下步骤利用第一图像和第二图像来生成训练图像：①先利用单应性矩阵对第一图像和第二图像进行全局匹配，生成配准图(配准图与第一图像和第二图像具有相同尺寸)，本发明的实施例对单应性变换(Homography)的具体过程不再赘述，当然，也可以采用诸如SIFT变换等算法对第一图像和第二图像进行全局匹配，本发明对此不作限制；②再对配准图进行缩放处理，以得到第一预定尺寸的图像作为训练图像，在根据本发明的一个实施例中，第一预定尺寸取256×256大小。

综上，对于每个通过移动终端拍摄得到的第一图像，均有一个第二图像(通过单反相机拍摄所得)和一个配准图与其对应。将所有的配准图缩放到第一预定尺寸，就可以作为训练第一增强模型的训练图像集合。

随后在步骤S220中，将所有的训练图像输入到预训练的第一增强模型进行处理，以输出至少一个调整参数。

第一增强模型采用卷积神经网络，更具体地，采用逐层降采样的Encoder网络。图3示出了根据本发明一个实施例的第一增强模型300的网络结构示意图。第一增强模型300包括依次相连的至少一个第一卷积处理层310、至少一个第二卷积处理层320和至少一个全连接层330，其中，第一卷积处理层310中采用3×3大小的卷积核，第二卷积处理层320包括依次相连的卷积单元322、规范(BatchNormalization)单元324和激活单元326，卷积单元322中同样采用3×3大小的卷积核，通过规范单元324可以加速收敛、防止过拟合，激活单元326采用LeakyReLU激活函数。当然，第一卷积处理层310、第二卷积处理层320和全连接层330中除了对输出数据进行卷积处理外，还可能包含池化、激活处理等，由于池化、激活均属于神经网络的常见处理，所有这些对于了解本发明方案的技术人员来说是可以容易想到的，并且也在本发明的保护范围之内，此处不予以赘述。如图3，示出了一个包含1层第一卷积处理层310、2层第二卷积处理层320和1层全连接层330的第一增强模型300。需要说明的是，图3仅为示例，在实际处理时，可根据训练过程和输出的调整参数的个数来调整第一卷积处理层310、第二卷积处理层320和全连接层330的层数，本发明的实施例对此不作限制。

在根据本发明的一个实施例中，将经步骤S210生成的训练图像经1层第一卷积处理层310、5层第二卷积处理层320和1层全连接层330处理后，输出12个调整参数，对第一增强模型300输出的至少一个调整参数执行后续步骤S230，生成调整第一图像的调整曲线。

根据本发明的另一个实施例，为防止后续步骤中生成的调整曲线过拟合，对经第一增强模型300输出的调整参数进行进一步处理，用处理后的调整参数执行后续步骤S230，生成调整第一图像的调整曲线。具体地，按如下方式执行步骤S220：首先，将训练图像输入到预训练的第一增强模型300进行处理，以输出至少一个初始调整参数(这一步可参照前文所述)；接着，对所有的初始调整参数进行L2正则化处理(即，在初始调整参数后增加一个L2正则项)，以生成对应的至少一个调整参数。

随后在步骤S230中，根据至少一个调整参数生成调整曲线来对第一图像进行调整，以生成调整后的第一图像。

根据本发明的一个实施例，对第一图像的R、G、B三个通道分别进行调整，用于调整三个通道的调整曲线可以是一样的，也可以是不一样的，本发明中根据至少一个调整参数按预设多项式生成三条多项式曲线，作为三条调整曲线，来对第一图像的三个通道图像分别进行调整，这样，就得到了调整后的三个通道图像，最后，将调整后的R、G、B三个通道图像融合，得到调整后的第一图像。

在根据本发明的实施例中，预设多项式是一个三阶多项式，如令预设多项式为：

y＝a+b*x+c*x²+d*x³，

式中，系数a、b、c和d就是经第一增强模型300输出的4个调整参数，x是第一图像中某个像素的像素值(特别地，x是第一图像的某个通道图中某像素的像素值)，y是该像素调整后的像素值。在对第一图像中每个通道图像的所有像素都按照对应的调整曲线进行调整后，就得到了调整后的每个通道的图像。

如前文所述，经第一增强模型300输出12个调整参数(记作a₁、b₁、c₁、d₁、a₂、b₂、c₂、d₂、a₃、b₃、c₃和d₃)，正好可以生成3条调整曲线，分别为：

y₁＝a₁+b₁*x+c₁*x²+d₁*x³，

y₂＝a₂+b₂*x+c₂*x²+d₂*x³，

y₃＝a₃+b₃*x+c₃*x²+d₃*x³。

在根据本发明的另一些实施例中，预设多项式采用四阶多项式，同时，通过调整第一增强模型300使得其输出大于12个调整参数(如，15个)，例如调整第一增强模型300中的训练参数、调整第一增强模型300中第二卷积处理层的层数等，来生成3条调整曲线。本发明的实施例对此均不作过多限制。

随后在步骤S240中，根据调整后的第一图像和与其对应的第二图像对预训练的第一增强模型300进行模型训练以得到训练后的第一增强模型，作为所生成的第一增强模型。

在根据本发明的实施例中，按照第一计算方式计算调整后的第一图像和与其对应的第二图像的第一损失，根据第一损失来训练第一增强模型。为进一步说明第一计算方式，下面将结合公式详细阐述计算第一损失的过程。

第一步，对经步骤S230调整后的第一图像进行高斯模糊处理，得到模糊后的第一图像。高斯模糊是一种二维的卷积模糊操作，对于本领域技术人员来说，高斯模糊属于已知内容，故此处不做展开。模糊后的第一图像可以表示为：

式中，X_b(i,j)表示模糊后的第一图像，X(i,j)表示调整后的第一图像，(i,j)表示图像中像素在x和y方向的坐标，G(k,l)表示高斯卷积核，表示为：

式中，μ_x和μ_y分别表示在预定图像区域内x和y方向上的均值，σ_x和σ_y分别表示x和y方向上的方差，A为系数。

第二步，计算模糊后的第一图像相比于第二图像的第一损失，可选地，第一损失通过一个2-范数计算，表示如下：

式中，X_b是模糊后的第一图像，Y_b是对应的第二图像。换言之，通过计算X_b和Y_b的欧氏距离，作为第一损失。

第三步，根据第一损失更新第一增强模型的模型参数，得到更新后的第一增强模型，再将所有的训练图像输入到更新后的第一增强模型进行处理，以输出至少一个调整参数，通过至少一个调整参数生成调整曲线来对第一图像进行调整，以生成调整后的第一图像(更详细的步骤描述可以参见步骤S220和步骤S230的描述)。

重复迭代上述第一步、第二步和第三步，并在每次计算出第一损失后判断是否满足预定条件，直到第一损失满足预定条件时，训练结束，得到训练后的第一增强模型。可选地，预定条件可以是第一损失收敛或者第一损失值相对稳定。

图4示出了根据本发明一个实施例的生成第二增强模型的方法400的流程图。第二增强模型可以对输入图像的质量进行优化处理以得到增强后图像。根据本发明的一些实施例，训练生成第一增强模型的方法200和训练生成第二增强模型的方法400可同时执行。如图4所示，方法400始于步骤S410。

在步骤S410中，获取训练图像。如步骤S210，训练图像通过对第一图像和第二图像进行匹配处理来生成，第一图像和第二图像是针对同一场景同时拍摄所得的两张图。关于如何采集第一图像和第二图像、并根据单应性矩阵对第一图像和第二图像进行匹配来生成配准图的过程，可参见前文步骤S210的相关描述，此处不再赘述。

根据本发明的实施方式，从配准图中裁剪出多个第二预定尺寸的子图像作为训练图像。在根据本发明的一个实施例中，第二预定尺寸取512×512。本发明的实施例对裁剪子图像的方式不作限制，可以从配准图中随机裁剪出多个第二预定尺寸的子图像。

根据本发明的一个实施例，在裁剪出子图像的同时，根据每个子图像在配准图中的位置坐标从与该配准图对应的第二图像中裁剪出相应的第二预定尺寸的第二子图像。这样，将从配准图中裁剪出的子图像作为训练图像，将从第二图像中裁剪出的第二子图像作为参照图像以留待后用。

为更形象地说明从配准图中裁剪出子图像的过程，图5示出了根据本发明的实施例生成子图像的示意图。在图5中，图510和图520分别表示配准图和与其对应的第二图像，从图510和图520的对应位置处分别裁剪出3个子图像，分别记作图512、图514、图516、图522、图524和图526，且图512与图522的位置坐标相对应，图514和图524的位置坐标相对应，图516和图526的位置坐标相对应，在图5中，采用不同的方式填充对应的图像区域以便于区分各个子图像。

随后在步骤S420中，将训练图像输入到预训练的第二增强模型进行处理，以输出增强后的图像。

第二增强模型采用卷积神经网络结构，可选地，第二增强模型采用端到端的网络结构，至少包括依次相连的第三卷积处理层、第一数目层第四卷积处理层和第五卷积处理层。图6示出了根据本发明一个实施例的第二增强模型600的网络结构图。如图6所示，第二增强模型600包含1层第三卷积处理层610、2层第四卷积处理层620和1层第五卷积处理层630(图6仅为示例，本发明对第二增强模型600中各卷积处理层的个数并不做限制)。在每个卷积处理层中，除了对输入的图像数据进行卷积处理外，还可能包含池化处理和激活处理，由于池化、激活均属于神经网络的常见处理，所有这些对于了解本发明方案的技术人员来说是可以容易想到的，并且也在本发明的保护范围之内，此处不予以赘述。特别地，在每个第四卷积处理层620中，包含不同数目个卷积单元622(图6中数目仅为示例，本发明对此亦不作限制)，每个卷积单元622又包括依次相连的第一卷积模块6222和第二卷积模块6224，其中，第一卷积模块6222和第二卷积模块6224的卷积核大小均为3×3，且第二卷积模块6224的输出与第一卷积模块6222的输入合并后，作为该卷积单元622的输出。

在根据本发明的一个实施例中，将经步骤S410生成的训练图像输入到第二增强模型600中，经1层第三卷积处理层610、4层第四卷积处理层620和3层第五卷积处理层630处理后，输出与训练图像相同尺寸的增强后的图像。

随后在步骤S430中，根据增强后的图像和与其对应的第二图像对预训练的第二增强模型进行模型训练，以得到训练后的第二增强模型，作为所生成的第二增强模型。

如前文所述，在生成训练图像集合的同时，还会生成对应的第二子图像作为参照图像集合。接着在步骤S430中，对于每一个增强后的图像，都会有一个与其输入的训练图像相对应的第二子图像，在根据本发明的实施方式中，训练过程可以看作是：根据增强后的图像和与其对应的第二子图像对预训练的第二增强模型进行模型训练，具体分3部分进行训练。

第一，按照第一计算方式计算增强后的图像相比于第二子图像的第一损失。

在根据本发明的一个实施例中，第一损失计算与训练第一增强模型时计算第一损失的方法相同，此处不做过多阐述。具体地，先对增强后的图像进行高斯模糊处理，得到模糊后的图像；再计算模糊后的图像相比于第二子图像的颜色损失，作为第一损失。可选地，第一损失L_color通过一个2-范数计算，表示如下：

在这里，X_b是增强后的图像，Y_b是对应的第二子图像。换言之，通过计算X_b和Y_b的欧氏距离，作为第一损失。

第二，按照第二计算方式计算增强后的图像相比于第二子图像的第二损失。

在根据本发明的一个实施例中，第二损失通过如下方式进行计算：先将增强后的图像与第二子图像分别输入预设卷积网络来生成各自的特征图(即，增强后的图像的特征图和第二子图像的特征图)；再计算增强后的图像的特征图与第二子图像的特征图的差值作为第二损失。第二损失L_content的计算通过如下公式表示：

式中，ψ_j表示预设卷积网络的第j层，F_W表示第二增强模型，I_s表示输入第二增强模型的训练图像，I_t表示与I_s对应的第二子图像，这样，F_W(I_s)表示增强后的图像，ψ_j(F_W(I_s))表示将增强后的图像输入预设卷积网络后第j层输出的特征图，ψ_j(I_t)表示将第二子图像输入预设卷积网络后第j层输出的特征图，C、H、W分别表示第j层输出的特征图的通道数、特征图的宽度和高度。

在根据本发明的实施例中，预设卷积网络选取VGG-19网络。经过本发明申请人的试验研究，最终从VGG-19网络中抽取出两层或三层特征图来计算每一层的第二损失，并对这两层或三层的第二损失求均值后作为最终的第二损失。

第三，按照第三计算方式计算增强后的图像相比于第二子图像的第三损失。

在根据本发明的一个实施例中，第三损失通过生成对抗网络来计算，具体通过如下方式计算第三损失：先分别生成增强后的图像与第二子图像的灰度图；再通过判别网络计算增强后的图像的灰度图相比于第二子图像的灰度图的损失，作为第三损失。第三损失L_texture的计算通过如下公式表示：

L_texture＝-logD(F_W(I_s),I_t)

式中，F_W表示第二增强模型，I_s表示输入第二增强模型的训练图像，I_t表示与I_s对应的第二子图像，这样，F_W(I_s)表示增强后的图像，D()表示生成对抗网络中的判别网络。

最后，对上述3部分计算出的第一损失L_color、第二损失L_content和第三损失L_texture加权，计算出总损失值L_total，在一些优选的实施例中，总损失值表示如下：

L_total＝w₁*L_color+w₂*L_content+w₃*L_texture，

式中，w₁、w₂、w₃分别表示加权计算的权重，且w₁大于w₂和w₃。在一个优选的实施例中，w₁＝15000.0，w₂＝0.0015，w₃＝50.0，但不限于此。

根据总损失值更新第二增强模型的模型参数，得到更新后的第二增强模型，再将所有的训练图像输入到更新后的第二增强模型进行处理，以输出增强后的图像(更详细的步骤描述可以参见步骤S420的描述)。重复迭代上述计算损失的步骤(即步骤S420)和更新第二增强模型参数的步骤，并在每次计算出总损失值后判断是否满足预定条件，直到总损失值满足预定条件时，训练结束，得到训练后的第二增强模型。可选地，预定条件可以是总损失值收敛或者总损失值相对稳定。

根据另一些实施例，训练生成第二增强模型的方法400在完成训练生成第一增强模型的方法200后再执行。在一些实施例中，方法400的训练图像通过训练好的第一增强模型获得。在步骤S410中，将采集到的第一图像输入到训练好的第一增强模型，得到至少一个调整参数，利用调整参数生成调整曲线(参考步骤S230的描述)，来对第一图像进行调整，得到调整后的第一图像，而后从调整后的第一图像中裁剪出多个第二预定尺寸的子图像作为训练图像。其它训练步骤还是同前文中方法400的流程描述，此处不再赘述。

图7示出了根据本发明一个实施例的图像增强方法700的流程示意图。该方法700基于由方法200和方法400所训练生成的第一增强模型和第二增强模型来实现。方法700始于步骤S710。

在步骤S710中，将待增强图像I_ori输入第一增强模型，经多次卷积处理后输出至少一个调整参数。第一增强模型根据方法200训练生成，以对待增强图像进行全局图像的处理，关于第一增强模型的描述可参见前文所述，此处不再赘述。

在根据本发明的又一个实施例中，为防止后续利用调整曲线对待增强图像进行调整时出现过拟合的问题，会对由第一增强模型输出的所有调整参数做进一步处理，例如，对所输出的每个调整参数进行L2正则化处理，来得到对应处理后的调整参数，这里的正则项系数可参照方法200在训练过程中使用的正则项系数，此处不做过多讨论。

随后在步骤S720中，利用调整参数生成调整曲线来对待增强图像I_ori进行调整，以输出调整后图像I_adj。

在根据本发明的实施方式中，根据经步骤S710处理后的调整参数按预设多项式生成三条多项式曲线，作为三条调整曲线，预设多项式可参照方法200在训练过程中使用的预设多项式；然后，利用三条调整曲线对待增强图像I_ori的三个通道图像(即R、G、B三个通道图像)分别进行调整，以生成调整后的三个通道图像；最后，将调整后的三个通道图像相融合，得到调整后图像I_adj。

随后在步骤S730中，将调整后图像I_adj输入第二增强模型，经多次卷积处理后输出增强后图像I_en。第二增强模型通过方法400训练生成，以对经全局调整后的图像再进行局部的增强处理，关于第二增强模型的描述可参见前文所述，此处不再赘述。

由于第二增强模型是一个端到端的网络模型，故而输出的增强后图像I_en与调整后图像I_adj和待增强图像I_ori具有相同的尺寸。如图8A、图8B、图8C和图8D示出了根据本发明实施例的增强效果对比图。其中，图8A和图8C为待增强图像，图8B和图8D分别为图8A和图8C对应的增强后图像，对比图8A和图8B、图8C和图8D可以看出，增强后图像具有更多的高频信息，表现为细节更丰富，并且就彩色图像而言，增强后图像的色彩显示更为饱和。

综上，根据本发明的图像增强方案，通过训练生成用于全局调整的第一增强模型和用于局部调整的第二增强模型，利用第一增强模型和第二增强模型来对待增强图像进行增强处理，以得到增强后图像。突破了移动终端硬件成像的极限，在移动终端现有硬件的基础上，进一步提升图像的画质及效果，缩短了移动终端成像效果与单反相机成像效果的差距。同时，相比于传统图像处理软件，更省时省力地提升移动终端拍照的效果，并且，整个处理过程不需要专业知识，更适合于大众用户。

更进一步地，根据本发明的图像增强方案可以灵活地调整效果方向，具体地，可以通过调整训练图像来实现期望达到的图像增强效果。例如，用户期望移动终端拍摄的人物图像具有更好的处理效果，则可以采集一些符合用户期望的人物图像作为训练图像；又如，用户期望移动终端拍摄的远景图像具有更好的处理效果，则可以采集一些符合用户期望的远景图像作为训练图像，调整效果不局限于细节增强、色彩增强、构图增强等等，本发明的实施例对此不作限制。这样，本发明的算法不会像传统算法一样具体效果专门设计算法，并且可以使用GPU加速，比传统算法具有更高的效率。

应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员应当理解在本文所公开的示例中的设备的模块或单元或组件可以布置在如该实施例中所描述的设备中，或者可替换地可以定位在与该示例中的设备不同的一个或多个设备中。前述示例中的模块可以组合为一个模块或者此外可以分成多个子模块。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明一并公开了：

A2、如A1所述的方法，其中获取训练图像的步骤还包括：利用单应性矩阵对第一图像和第二图像进行匹配，生成配准图；对配准图进行缩放处理，以得到第一预定尺寸的图像作为训练图像；其中，第二图像的图像质量高于与其对应的第一图像的图像质量。

A3、如A1或2所述的方法，在第一增强模型中，所述第二卷积处理层包括依次相连的卷积单元、规范单元和激活单元。

A4、如A1-3中任一项所述的方法，其中，根据至少一个调整参数生成调整曲线来对第一图像进行调整、以生成调整后的第一图像的步骤包括：根据至少一个调整参数按预设多项式生成三条多项式曲线，作为三条调整曲线；利用三条调整曲线对第一图像的三个通道图像分别进行调整，以生成调整后的三个通道图像；以及融合调整后的三个通道图像，得到调整后的第一图像。

A5、如A1-4中任一项所述的方法，其中，根据调整后的第一图像和与其对应的第二图像对预训练的第一增强模型进行模型训练以得到训练后的第一增强模型的步骤包括：对调整后的第一图像进行高斯模糊处理，得到模糊后的第一图像；计算模糊后的第一图像相比于与其对应的第二图像的第一损失，直到第一损失满足预定条件时，训练结束，得到训练后的第一增强模型。

A7、如A1-6中任一项所述的方法，其中，所述第一预定尺寸为256×256。

B11、如B10所述的方法，其中，获取训练图像的步骤还包括：根据每个子图像在配准图中的位置从与配准图对应的第二图像中裁剪出每个第二子图像。

B12、如B11所述的方法，其中，根据增强后的图像和与其对应的第二图像对预训练的第二增强模型进行模型训练的步骤包括：根据增强后的图像和与其对应的第二子图像对预训练的第二增强模型进行模型训练，包括步骤：按照第一计算方式计算增强后的图像相比于第二子图像的第一损失；按照第二计算方式计算增强后的图像相比于第二子图像的第二损失；按照第三计算方式计算增强后的图像相比于第二子图像的第三损失；以及根据第一损失、第二损失和第三损失加权计算出总损失值，当总损失值满足预定条件时，训练结束，得到训练后的第二增强模型。

B13、如B12所述的方法，其中，按照第一计算方式计算增强后的图像相比于第二子图像的第一损失的步骤包括：对增强后的图像进行高斯模糊处理，得到模糊后的图像；计算模糊后的图像相比于第二子图像的颜色损失，作为第一损失。

B14、如B12所述的方法，其中，按照第二计算方式计算增强后的图像相比于第二子图像的第二损失的步骤包括：将增强后的图像与第二子图像分别输入预设卷积网络来生成各自的特征图；计算增强后的图像的特征图与第二子图像的特征图的差值作为第二损失。

B15、如B12所述的方法，其中，按照第三计算方式计算增强后的图像相比于第二子图像的第三损失的步骤包括：分别生成增强后的图像与第二子图像的灰度图；通过判别网络计算增强后的图像的灰度图相比于第二子图像的灰度图的损失，作为第三损失。

B16、如B14所述的方法，其中，预设卷积网络为VGG-19网络。

这里描述的各种技术可结合硬件或软件，或者它们的组合一起实现。从而，本发明的方法和设备，或者本发明的方法和设备的某些方面或部分可采取嵌入有形媒介，例如软盘、CD-ROM、硬盘驱动器或者其它任意机器可读的存储介质中的程序代码(即指令)的形式，其中当程序被载入诸如计算机之类的机器，并被所述机器执行时，所述机器变成实践本发明的设备。

在程序代码在可编程计算机上执行的情况下，计算设备一般包括处理器、处理器可读的存储介质(包括易失性和非易失性存储器和/或存储元件)，至少一个输入装置，和至少一个输出装置。其中，存储器被配置用于存储程序代码；处理器被配置用于根据该存储器中存储的所述程序代码中的指令，执行本发明所述的方法。

以示例而非限制的方式，计算机可读介质包括计算机存储介质和通信介质。计算机可读介质包括计算机存储介质和通信介质。计算机存储介质存储诸如计算机可读指令、数据结构、程序模块或其它数据等信息。通信介质一般以诸如载波或其它传输机制等已调制数据信号来体现计算机可读指令、数据结构、程序模块或其它数据，并且包括任何信息传递介质。以上的任一种的组合也包括在计算机可读介质的范围之内。

此外，所述实施例中的一些在此被描述成可以由计算机系统的处理器或者由执行所述功能的其它装置实施的方法或方法元素的组合。因此，具有用于实施所述方法或方法元素的必要指令的处理器形成用于实施该方法或方法元素的装置。此外，装置实施例的在此所述的元素是如下装置的例子：该装置用于实施由为了实施该发明的目的的元素所执行的功能。

如在此所使用的那样，除非另行规定，使用序数词“第一”、“第二”、“第三”等等来描述普通对象仅仅表示涉及类似对象的不同实例，并且并不意图暗示这样被描述的对象必须具有时间上、空间上、排序方面或者以任意其它方式的给定顺序。

尽管根据有限数量的实施例描述了本发明，但是受益于上面的描述，本技术领域内的技术人员明白，在由此描述的本发明的范围内，可以设想其它实施例。此外，应当注意，本说明书中使用的语言主要是为了可读性和教导的目的而选择的，而不是为了解释或者限定本发明的主题而选择的。因此，在不偏离所附权利要求书的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。对于本发明的范围，对本发明所做的公开是说明性的，而非限制性的，本发明的范围由所附权利要求书限定。

Claims

1.生成第一增强模型的方法，所述第一增强模型适于对输入图像进行处理以得到优化其图像质量的调整参数，所述方法包括步骤：

获取训练图像，其中所述训练图像是对第一图像和第二图像进行匹配处理后的配准图，所述第一图像和第二图像是针对同一场景同时拍摄所得的两张图；

将训练图像输入到预训练的第一增强模型进行处理，以输出至少一个调整参数，其中，所述第一增强模型包括依次相连的至少一个第一卷积处理层、第二卷积处理层和全连接层；

根据所述至少一个调整参数生成调整曲线来对第一图像进行调整，以生成调整后的第一图像；以及

根据调整后的第一图像和与其对应的第二图像对所述预训练的第一增强模型进行模型训练以得到训练后的第一增强模型，作为所生成的第一增强模型。

2.如权利要求1所述的方法，其中，所述将训练图像输入到预训练的第一增强模型进行处理、以输出至少一个调整参数的步骤还包括：

将训练图像输入到预训练的第一增强模型进行处理，以输出至少一个初始调整参数；以及

对所述至少一个初始调整参数进行L2正则化处理，以生成至少一个调整参数。

3.生成第二增强模型的方法，所述第二增强模型适于对输入图像的质量进行优化处理以得到增强后图像，所述方法包括步骤：

获取训练图像，其中所述训练图像通过对第一图像和第二图像进行匹配处理来生成，所述第一图像和第二图像是针对同一场景同时拍摄所得的两张图；

将训练图像输入到预训练的第二增强模型进行处理，以输出增强后的图像，其中，所述第二增强模型至少包括依次相连的第三卷积处理层、第一数目层第四卷积处理层和第五卷积处理层；以及

根据增强后的图像和与其对应的第二图像对所述预训练的第二增强模型进行模型训练以得到训练后的第二增强模型，作为所生成的第二增强模型。

4.如权利要求3所述的方法，在所述第二增强模型中，

每个第四卷积处理层中包含不同数目个卷积单元，所述卷积单元包括：依次相连的第一卷积模块和第二卷积模块，

其中，第一卷积模块和第二卷积模块的卷积核大小均为3×3，且第二卷积模块的输出与第一卷积模块的输入合并后，作为该卷积单元的输出。

5.如权利要求3或4所述的方法，其中，所述获取训练图像的步骤还包括：

利用单应性矩阵对第一图像和第二图像进行匹配，生成配准图；

从所述配准图中裁剪出多个第二预定尺寸的子图像作为训练图像；

其中，第二图像的图像质量高于与其对应的第一图像的图像质量。

6.一种图像增强方法，所述方法适于在计算设备中执行，所述方法包括步骤：

将待增强图像输入第一增强模型，经多次卷积处理后输出至少一个调整参数；

利用所述调整参数生成调整曲线来对待增强图像进行调整，以输出调整后图像；

将所述调整后图像输入第二增强模型，经多次卷积处理后输出增强后图像，

其中，所述第一增强模型利用如权利要求1或2所述的方法来生成，所述第二增强模型利用如权利要求3-5中任一项所述的方法来生成。

7.如权利要求6所述的方法，其中，在经多次卷积处理后输出至少一个调整参数的步骤之后，还包括步骤：

对所输出的每个调整参数进行L2正则化处理，来生成对应的调整参数。

8.如权利要求7所述的方法，其中，所述利用调整参数生成调整曲线来对待增强图像进行调整、以输出调整后图像的步骤包括：

根据所述调整参数按预设多项式生成三条多项式曲线，作为三条调整曲线；

利用三条调整曲线对待增强图像的三个通道图像分别进行调整，以生成调整后的三个通道图像；以及

融合调整后的三个通道图像，得到调整后图像。

9.一种计算设备，包括：

一个或多个处理器；和

存储器；

一个或多个程序，其中所述一个或多个程序存储在所述存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序包括用于执行根据权利要求1或2所述方法中的任一方法的指令、用于执行根据权利要求3-5所述方法中任一方法的指令和用于执行根据权利要求6-8所述方法中任一方法的指令。

10.一种存储一个或多个程序的计算机可读存储介质，所述一个或多个程序包括指令，所述指令当计算设备执行时，使得所述计算设备执行根据权利要求1或2所述的方法中的任一方法用于执行根据权利要求3-5所述方法中任一方法的指令和用于执行根据权利要求6-8所述方法中任一方法的指令。