CN109087269A - 弱光图像增强方法及装置 - Google Patents

弱光图像增强方法及装置 Download PDF

Info

Publication number
CN109087269A
CN109087269A CN201810954109.7A CN201810954109A CN109087269A CN 109087269 A CN109087269 A CN 109087269A CN 201810954109 A CN201810954109 A CN 201810954109A CN 109087269 A CN109087269 A CN 109087269A
Authority
CN
China
Prior art keywords
network model
image data
low light
denoising
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810954109.7A
Other languages
English (en)
Other versions
CN109087269B (zh
Inventor
周星光
程安
张伟
刘挺
邢晨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xiamen Meitu Technology Co Ltd
Original Assignee
Xiamen Meitu Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xiamen Meitu Technology Co Ltd filed Critical Xiamen Meitu Technology Co Ltd
Priority to CN201810954109.7A priority Critical patent/CN109087269B/zh
Publication of CN109087269A publication Critical patent/CN109087269A/zh
Application granted granted Critical
Publication of CN109087269B publication Critical patent/CN109087269B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G06T5/70—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06T5/77—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10024—Color image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Abstract

本申请实施例提供一种弱光图像增强方法及装置，方法包括分别建立去噪网络模型、颜色亮度变换模型和细节增强网络模型，其中，去噪网络模型、颜色亮度变换网络模型和细节增强网络模型均为CNN模型。分别对去噪网络模型、颜色亮度变换网络模型和细节增强网络模型进行训练，并在训练完成后对去噪网络模型、颜色亮度网络模型和细节增强网络模型进行联合训练。在完成联合训练后，通过去噪网络模型、颜色亮度变换网络模型和细节增强网络模型依次对目标弱光图像数据进行处理，得到对应的增强图像。如此，能够从去噪、颜色亮度变换和细节增强三方面共同提升图像质量。

Description

弱光图像增强方法及装置
技术领域
本申请涉及图像处理技术领域，具体而言，涉及一种弱光图像增强方法及装置。
背景技术
相关技术中，弱光(低照度)图像增强算法大致分为3类，一类是基于直方图均衡的增强算法，包括DHE(Dynamic HistogramEqualization，DHE)、对比度有限的自适应直方图均衡(ContrastLimitedAdaptiveHistogramEqualization，CLAHE)、加权自适应直方图均衡算法(Weighted Approximated Histogram Equalization)、上下文和变分对比增强算法(ContexualandVariationalContast enhancement，CVC)、分层差异表示算法(LayeredDifferenceRepresentation，LDR)等；一类是基于视网膜理论的增强算法，另一类是基于去雾理论的增强算法。另外还有一些基于图像融合的弱光图像增强算法，但需要有多幅弱光图像。
总体而言，传统的弱光图像增强算法是一种相对通用的算法，通用性较强，缺点是有时需要人工调整相应参数，才能得到比较好的增强效果。另外传统的弱光图像增强算法，在图像增强的同时面临着噪声放大的情况。
发明内容
有鉴于此，本申请的目的在于提供一种弱光图像增强方法及装置，以改善上述问题。
为了达到上述目的，本申请实施例采用如下技术方案：
第一方面，本申请实施例提供一种弱光图像增强方法，所述方法包括：
分别建立去噪网络模型、颜色亮度变换网络模型和细节增强网络模型，其中，所述去噪网络模型、所述颜色亮度网络模型和所述细节增强网络模型均为CNN模型；
分别对所述去噪网络模型、所述颜色亮度变换网络模型和所述细节增强网络模型进行训练，并在训练完成后对所述去噪网络模型、所述颜色亮度变换网络模型和所述细节增强网络模型进行联合训练；
在完成所述联合训练后，通过所述去噪网络模型对待处理的目标弱光图像进行处理，得到第一图像数据，通过所述颜色亮度变换网络模型对所述第一图像数据进行处理，得到第二图像数据，通过所述细节增强网络模型对所述第二图像数据进行处理，得到第三图像数据，并将所述第三图像数据作为增强图像输出。
第二方面，本申请实施例提供一种弱光图像增强系统，其特征在于，所述系统包括：
训练模块，用于分别对建立的去噪网络模型、颜色亮度变换网络模型和细节增强网络模型进行训练，并在训练完成后对所述去噪网络模型、所述颜色亮度网络模型和所述细节增强网络模型进行联合训练；
去噪模块，用于通过所述去噪网络模型对待处理的目标弱光图像进行处理，得到第一图像数据；
颜色亮度变换模块，用于通过所述颜色亮度变换网络模型对所述第一图像数据进行处理，得到第二图像数据；
细节增强模块，用于通过所述细节增强网络模型对所述第二图像数据进行处理，得到第三图像数据，并将所述第三图像数据作为增强图像输出。
与现有技术相比，本申请实施例具有以下有益效果：
本申请实施例提供的一种弱光图像增强方法及装置，分别建立去噪网络模型、颜色亮度变换网络模型和细节增强网络模型三个模型，该三个模型均为CNN模型。对该三个模型进行独立训练，并在训练完成后对该三个模型进行联合训练。在完成联合训练后，通过去噪网络模型对待处理的目标弱光图像进行处理，得到第一图像数据。通过颜色亮度变换网络模型对第一图像数据进行处理，得到第二图像数据。通过细节增强网络模型对第二图像数据进行处理，得到第三图像数据，并将第三图像数据作为增强图像输出。如此，能够从去噪、颜色亮度变换和细节增强三方面共同提升图像质量。
附图说明
为了更清楚地说明本申请实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本申请的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的一种图像处理设备的方框示意图；
图2为本申请实施例提供的一种弱光图像增强方法的流程示意图；
图3为本申请实施例提供的一种去噪网络模型的结构示意图；
图4为本申请实施例提供的一种残差计算模块ResBlock的结构示意图；
图5为本申请实施例提供的一种颜色亮度变换网络模型的结构示意图；
图6为本申请实施例提供的一种细节增强网络模型的结构示意图；
图7为本申请实施例提供的一种弱光图像增强装置的功能模块框图。
图标：10-图像处理设备；11-弱光图像增强装置；111-训练模块；112-去噪模块；113-颜色亮度变换模块；114-细节增强模块；12-存储器；13-处理器；14-显示单元；30-去噪网络模型；50-颜色亮度变换网络模型；60-细节增强网络模型。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。
因此，以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围，而是仅仅表示本申请的选定实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。
请参照图1，是本申请实施例提供的一种图像处理设备10的方框示意图。所述图像处理设备10包括弱光图像处理装置11、存储器12和处理器13。
所述存储器12和处理器13之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述弱光图像处理装置11包括至少一个可以以软件或固件(firmware)的形式存储于存储器12中或固化在图像处理设备10的操作系统(OperatingSystem，OS)中的软件功能模块。处理器130用于执行存储器120中的软件功能模块。
其中，所述存储器120可以是，但不限于，随机存取存储器(Random AccessMemory，RAM)，只读存储器(Read Only Memory，ROM)，可编程只读存储器(ProgrammableRead-Only Memory，PROM)，可擦除只读存储器(Erasable Programmable Read-OnlyMemory，EPROM)，电可擦除只读存储器(Electric Erasable Programmable Read-OnlyMemory，EEPROM)等。
所述处理器130可以是一种集成电路芯片，具有信号的处理能力。上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(NetworkProcessor，NP)等；还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
应当理解，图1所示的结构仅为示意，图像处理设备10还可以包括比图1所示更多或更少的组件，比如还可以包括显示单元14。此外，图像处理设备10还可以具有与图1所示完全不同的配置。
请参照图2，是本申请实施例提供的一种弱光图像增强方法的流程示意图，该弱光图像增强方法可以应用于图1所示的图像处理设备10，下面对该方法进行详细阐述。
步骤S21，分别建立去噪网络模型、颜色亮度变换网络模型和细节增强网络模型。
其中，所述去噪网络模型、所述颜色亮度网络模型和所述细节增强网络模型均为CNN模型。
在本实施例中，所述去噪网络模型用于去除目标弱光图像中的噪声，其中包括多个残差计算模块ResBlock，所述ResBlock的数量可以根据实际需求灵活设定，例如可以为10个。此外，所述去噪网络模型还可以包括卷积层。
以所述去噪网络模型包括10个ResBlock为例，所述去噪网络模型的网络结构可以如图3所示，图3示出了本实施例提供的一种去噪网络模型30的示意图。去噪网络模型30包括依次连接的卷积层Conv1、ResBlock_1、ResBlock_2、ResBlock_3、ResBlock_4、ResBlock_5、ResBlock_6、ResBlock_7、ResBlock_8、ResBlock_9、ResBlock_10、卷积层Conv2及Sum层。
其中，所述Sum层用于将卷积层Conv2输出的图像和输入所述去噪网络模型30的图像进行求和，以得到所述第一图像数据。
所述卷积层Conv1包括3个输入通道in_channel，64个输出通道out_chaonnel，所述卷积层Conv1的卷积核的大小kernel_size为3*3，卷积操作的步进大小stride为1，在卷积时对图像进行加边的宽度padding为1。
所述卷积层Conv2包括64个输入通道in_channel，3个输出通道out_channel，所述卷积层Conv2的卷积核的大小kernel_size为3*3，卷积操作的步进大小stride为1，在卷积时对图像进行加边的宽度padding为1。
如图4所示，是本申请实施例提供的一种ResBlock的结构示意图。在本实施例中，ResBlock包括依次设置的至少三个卷积层，其中，设置在首尾两端的两个卷积层包括的输入通道的数量相同，设置在所述两个卷积层之间的其他卷积层包括的输入通道的数量少于所述两个卷积层包括的输入通道的数量。如此，ResBlock中卷积层的Featuremap的数量为：多→少→多，即宽窄宽的结构，这有利于网络模型的训练和最终效果的提升。
在此值得说明的是，图4中示出的是ResBlock包括三个卷积层的示例。
此外，可选地，在所述至少两个卷积层中，任意两个相邻的卷积层之间设置有激活函数，所述激活函数为prelu函数。相较于其他函数如relu函数等，采用prelu函数作为激活函数，能够在一定程度上考虑featuremap激活值为负数时对结果的影响，能够得到更好的效果。
详细地，以图4为例，ResBlock可以包括依次连接的卷积层Conv2、激活函数Prelu、卷积层Conv3、激活函数Prelu、卷积层Conv4以及Sum层。
其中，卷积层Conv2包括64个输入通道in_channel和128个输出通道out_channel，其卷积核大小kernel_size为1*1，卷积操作步进大小stride为1，卷积过程中图像加边的大小padding为0。卷积层Conv3包括128个输入通道in_channel和128个输出通道out_channel，其卷积核大小为3*3，卷积操作步进大小stride为1，卷积过程中图像加边的大小padding为1。卷积层Conv4包括128个输入通道in_channel和64个输出通道，其卷积核大小为1*1，卷积操作步进大小stride为1，卷积过程中图像加边的大小padding为0。所述Sum层用于对输入所述ResBlock的图像和所述卷积层Conv4输出的图像求和，并将求得的和作为所述ResBlock最终的输出。
可选地，在本申请实施例中，所述颜色亮度变换网络模型可以包括多个所述ResBlock、多个卷积层Conv和多个反卷积层ConvTranspose。如图5所示，是本申请实施例提供的一种具体实施方式中的颜色亮度变换网络模型50。颜色亮度变换网络模型50包括8个ResBlock、5个卷积层和3个反卷积层，具体为依次相连的卷积层Conv1、ResBlock_1、激活函数Prelu、卷积层Conv3、ResBlock_2、卷积层Conv5、ResBlock_3、卷积层Conv5、ResBlock_4、ResBlock_5、ResBlock_6、反卷积层ConvTranspose、ResBlock_7、反卷积层ConvTranspose、ReaBlock_8、反卷积层ConvTranspose、卷积层Conv6。
其中，卷积层Conv3包括64个输入通道in_channel、64个输出通道out_channel，卷积核大小kernel_size为4*4，卷积操作步进大小stride为2，卷积过程中给图像加边的大小padding为2。反卷积层ConvTranspose包括64个输入通道in_channel、64个输出通道out_channel，卷积核大小kernel_size为4*4，卷积操作步进大小stride为2，卷积过程中给图像加边的大小padding为2。卷积层Conv4包括64个输入通道in_channel、12个输出通道out_channel，卷积核大小kernel_size为3*3，卷积操作步进大小stride为1，卷积过程中给图像加边的大小padding为1。
在本实施例中，上述多层结构用于对所述第一图像数据进行处理，以得到仿射变换系数，其中，所述仿射变换系数通过所述卷积层Conv4输出。所述颜色亮度变换网络模型50还包括连接在所述卷积层Conv4之后的仿射变换模块，用于对所述第一图像数据进行局部的仿射变换，以将获得的所述仿射变换系数作用到所述第一图像数据的RGB通道上，得到颜色和亮度变换后的图像，实现颜色和亮度的增强。
可选地，在本实施例中，所述细节增强网络模型可以多个所述ResBlock，具体可以为6个，比如图6所示的细节增强网络模型60，多个所述ResBlock用于对所述颜色亮度变换网络模50输出的第二图像数据的高频细节进行增强。
步骤S22，分别对所述去噪网络模型、所述颜色亮度变换网络模型和所述细节增强网络模型进行训练，并在训练完成后对所述去噪网络模型、所述颜色亮度网络模型和所述细节增强网络模型进行联合训练。
在相关技术中，通常采用单个网络来实现去噪、颜色亮度增强和细节增强等，这一方面增加了网络的学习难度，最终得到的效果也一般。并且，虽然相关技术中的单个网络具有上述多种功能，但在实际训练时只能针对其中一种功能进行训练，最终对图像的处理结果也只能针对其中一种效果进行改善，而无法达到同时从多个方面进行改善的目的。
而通过本申请实施例提出的弱光图像增强方法，分别通过三个单独的网络模型来对输入图像进行处理，在训练阶段先分别训练三个网络，在分别训练完成后再进行联合训练，如此，一方面能够达到较好的增强效果，另一方面减小了训练复杂度。
步骤S23，在完成所述联合训练后，通过所述去噪网络模型对待处理的目标弱光图像进行处理，得到第一图像数据，通过所述颜色亮度变换网络模型对所述第一图像数据进行处理，得到第二图像数据，通过所述细节增强网络模型对所述第二图像数据进行处理，得到第三图像数据，并将所述第三图像数据作为增强图像输出。
其中，基于上述对网络模型的描述，步骤S3可以通过以下子步骤实现通过所述去噪网络模型对待处理的目标弱光图像进行处理，得到第一图像数据：
通过多个残差计算模块ResBlock对所述目标弱光图像进行渐进式去噪。
对应地，步骤S23还可以包括以下子步骤，以实现通过所述颜色亮度变换网络模型对所述第一图像数据进行处理，得到第二图像数据：
第一，通过多个所述ResBlock、多个卷积层和多个反卷积层对所述第一图像数据I进行处理，得到仿射变换系数Coeff。
其中，所述放射变换系数Coeff是大小为H×W×12的矩阵，所述第一图像数据I为H×W×3的矩阵。
第二，通过如下公式对所述第一图像数据I进行仿射变换，以将所述仿射变换系数Coeff作用于所述第一图像数据I的RGB通道，以得到第二图像数据Inew：
可选地，步骤S23还可以包括以下步骤，以实现通过细节增强网络模型对所述第二图像数据进行处理，得到第三图像数据：
通过多个所述ResBlock对所述第二图像数据进行处理，以增强所述第二图像数据的高频细节，得到所述第三图像数据。
通过上述设计，可以实现对图像的去噪、颜色亮度、高频细节等多个方面的共同增强。
如图7所示，是本申请实施例提供的一种弱光图像处理装置11的功能模块框图，该弱光图像处理装置11应用于图1所示的图像处理设备10。所述弱光图像处理装置11包括训练模块111、去噪模块112、颜色亮度变换模块113和细节增强模块114。
其中，训练模块111用于分别对建立的去噪网络模型、颜色亮度变换网络模型和细节增强网络模型进行训练，并在训练完成后对所述去噪网络模型、所述颜色亮度变换网络模型和所述细节增强网络模型进行联合训练。
在本实施例中，关于训练模块的描述具体可参考对图2所示步骤S21和步骤S22的详细描述，其中，步骤S22可以由训练模块执行。
去噪模块112用于通过所述去噪网络模型对待处理的目标弱光图像进行处理，得到第一图像数据。
在本实施例中，所述去噪网络模型包括多个残差计算模块ResBlock，所述ResBlock用于在根据输入图像得到输出图像时，对该输入图像和该输出图像求和，并将得到的和作为该ResBlock的输出。
基于此，所述去噪模块112具体用于通过所述多个ResBlock对所述目标弱光图像进行渐进式去噪。
可选地，所述ResBlock可以包括依次设置的至少三个卷积层，其中，设置在收尾两端的两个卷积层包括的数据通道的数量相同，设置在所述两个卷积层之间的其他卷积层包括的数据通道的数量少于所述两个卷积层包括的数据通道的数量。
颜色亮度变换模块113用于通过所述颜色亮度变换网络模型对所述第一图像数据进行处理，得到第二图像数据。
可选地，所述颜色亮度变换模块113具体用于通过多个所述ResBlock、多个卷积层和多个反卷积层对所述第一图像数据I进行处理，得到仿射变换系数Coeff，其中，所述放射变换系数Coeff是大小为H×W×12的矩阵，所述第一图像数据I为H×W×3的矩阵；通过如下公式对所述第一图像数据I进行仿射变换，以将所述仿射变换系数Coeff作用于所述第一图像数据I的RGB通道，以得到第二图像数据Inew：
细节增强模块114用于通过所述细节增强网络模型对所述第二图像数据进行处理，得到第三图像数据，并将所述第三图像数据作为增强图像输出。
在本实施例中，关于去噪模块112、颜色亮度变换模块113和细节增强模块114的描述具体可参考对图2所示步骤S23的相关描述。
综上所述，本申请实施例提供的一种弱光图像增强方法及装置，分别建立去噪网络模型、颜色亮度变换网络模型和细节增强网络模型三个模型，该三个模型均为CNN模型。对该三个模型进行独立训练，并在训练完成后对该三个模型进行联合训练。在完成联合训练后，通过去噪网络模型对待处理的目标弱光图像进行处理，得到第一图像数据。通过颜色亮度变换网络模型对第一图像数据进行处理，得到第二图像数据。通过细节增强网络模型对第二图像数据进行处理，得到第三图像数据，并将第三图像数据作为增强图像输出。如此，能够从去噪、颜色亮度变换和细节增强三方面共同提升图像质量。
在本申请所提供的实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以权利要求的保护范围为准。

Claims (10)

1.一种弱光图像增强方法，其特征在于，所述方法包括：
分别建立去噪网络模型、颜色亮度变换网络模型和细节增强网络模型，其中，所述去噪网络模型、所述颜色亮度变换网络模型和所述细节增强网络模型均为CNN模型；
分别对所述去噪网络模型、所述颜色亮度变换网络模型和所述细节增强网络模型进行训练，并在训练完成后对所述去噪网络模型、所述颜色亮度网络模型和所述细节增强网络模型进行联合训练；
在完成所述联合训练后，通过所述去噪网络模型对待处理的目标弱光图像进行处理，得到第一图像数据，通过所述颜色亮度变换网络模型对所述第一图像数据进行处理，得到第二图像数据，通过所述细节增强网络模型对所述第二图像数据进行处理，得到第三图像数据，并将所述第三图像数据作为增强图像输出。
2.根据权利要求1所述的弱光图像增强方法，其特征在于，通过所述去噪网络模型对待处理的目标弱光图像进行处理，得到第一图像数据，包括：
通过多个残差计算模块ResBlock对所述目标弱光图像进行渐进式去噪；
其中，所述ResBlock用于在根据输入图像得到输出图像时，对该输入图像和该输出图像求和，并将得到的和作为该ResBlock的输出。
3.根据权利要求2所述的弱光图像增强方法，其特征在于，所述ResBlock包括依次设置的至少三个卷积层，其中，设置在首尾两端的两个卷积层包括的输入通道的数量相同，设置在所述两个卷积层之间的其他卷积层包括的输入通道的数量少于所述两个卷积层包括的输入通道的数量。
4.根据权利要求3所述的弱光图像增强方法，其特征在于，在所述至少三个卷积层中，任意两个相邻的卷积层之间设置有激活函数，所述激活函数为prelu函数。
5.根据权利要求1-4中任一项所述的弱光图像增强方法，其特征在于，通过所述颜色亮度变换网络模型对所述第一图像数据进行处理，得到第二图像数据，包括：
通过多个所述ResBlock、多个卷积层和多个反卷积层对所述第一图像数据I进行处理，得到仿射变换系数Coeff，其中，所述放射变换系数Coeff是大小为H×W×12的矩阵，所述第一图像数据I为H×W×3的矩阵；
通过如下公式对所述第一图像数据I进行仿射变换，以将所述仿射变换系数Coeff作用于所述第一图像数据I的RGB通道，以得到第二图像数据Inew：
6.根据权利要求1-4中任一项所述的弱光图像增强方法，其特征在于，通过细节增强网络模型对所述第二图像数据进行处理，得到第三图像数据，包括：
通过多个所述ResBlock对所述第二图像数据进行处理，以增强所述第二图像数据的高频细节，得到所述第三图像数据。
7.一种弱光图像增强系统，其特征在于，所述系统包括：
训练模块，用于分别对建立的去噪网络模型、颜色亮度变换网络模型和细节增强网络模型进行训练，并在训练完成后对所述去噪网络模型、所述颜色亮度变换网络模型和所述细节增强网络模型进行联合训练；
去噪模块，用于通过所述去噪网络模型对待处理的目标弱光图像进行处理，得到第一图像数据；
颜色亮度变换模块，用于通过所述颜色亮度变换网络模型对所述第一图像数据进行处理，得到第二图像数据；
细节增强模块，用于通过所述细节增强网络模型对所述第二图像数据进行处理，得到第三图像数据，并将所述第三图像数据作为增强图像输出。
8.根据权利要求7所述的弱光图像增强系统，其特征在于，所述去噪网络模型包括多个残差计算模块ResBlock，所述ResBlock用于在根据输入图像得到输出图像时，对该输入图像和该输出图像求和，并将得到的和作为该ResBlock的输出；
所述去噪模块，具体用于通过所述多个ResBlock对所述目标弱光图像进行渐进式去噪。
9.根据权利要求8所述的弱光图像增强方法，其特征在于，所述ResBlock包括依次设置的至少三个卷积层，其中，设置在收尾两端的两个卷积层包括的数据通道的数量相同，设置在所述两个卷积层之间的其他卷积层包括的数据通道的数量少于所述两个卷积层包括的数据通道的数量。
10.根据权利要求7-9中任一项所述的弱光图像增强系统，其特征在于，所述颜色亮度变换模块，具体用于通过多个所述ResBlock、多个卷积层和多个反卷积层对所述第一图像数据I进行处理，得到仿射变换系数Coeff，其中，所述放射变换系数Coeff是大小为H×W×12的矩阵，所述第一图像数据I为H×W×3的矩阵；通过如下公式对所述第一图像数据I进行仿射变换，以将所述仿射变换系数Coeff作用于所述第一图像数据I的RGB通道，以得到第二图像数据Inew：
CN201810954109.7A 2018-08-21 2018-08-21 弱光图像增强方法及装置 Active CN109087269B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810954109.7A CN109087269B (zh) 2018-08-21 2018-08-21 弱光图像增强方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810954109.7A CN109087269B (zh) 2018-08-21 2018-08-21 弱光图像增强方法及装置

Publications (2)

Publication Number Publication Date
CN109087269A true CN109087269A (zh) 2018-12-25
CN109087269B CN109087269B (zh) 2020-08-04

Family

ID=64794037

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810954109.7A Active CN109087269B (zh) 2018-08-21 2018-08-21 弱光图像增强方法及装置

Country Status (1)

Country Link
CN (1) CN109087269B (zh)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109741281A (zh) * 2019-01-04 2019-05-10 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及终端
CN110544221A (zh) * 2019-09-05 2019-12-06 迪爱斯信息技术股份有限公司 训练方法及装置、去雨方法、终端设备、存储介质
CN110781899A (zh) * 2019-10-23 2020-02-11 维沃移动通信有限公司 图像处理方法及电子设备
CN110827375A (zh) * 2019-10-31 2020-02-21 湖北大学 一种基于微光图像的红外图像真彩着色方法及系统
CN111028163A (zh) * 2019-11-28 2020-04-17 湖北工业大学 一种基于卷积神经网络的联合图像去噪与弱光增强方法
CN111145128A (zh) * 2020-03-02 2020-05-12 Oppo广东移动通信有限公司 色彩增强方法及相关装置
CN111429366A (zh) * 2020-03-03 2020-07-17 浙江大学 基于亮度转换函数的单帧弱光图像增强方法
CN112434780A (zh) * 2019-08-26 2021-03-02 上海高德威智能交通系统有限公司 目标对象识别网络模型及其训练方法、目标对象识别方法
CN112991227A (zh) * 2021-04-15 2021-06-18 中国人民解放军国防科技大学 基于U-net++网络的弱光图像增强方法和装置
WO2021196401A1 (zh) * 2020-03-31 2021-10-07 北京市商汤科技开发有限公司 图像重建方法及装置、电子设备和存储介质
CN113658050A (zh) * 2020-05-12 2021-11-16 武汉Tcl集团工业研究院有限公司 一种图像的去噪方法、去噪装置、移动终端及存储介质
WO2022021025A1 (zh) * 2020-07-27 2022-02-03 华为技术有限公司 图像增强方法及装置
CN116721038A (zh) * 2023-08-07 2023-09-08 荣耀终端有限公司 颜色修正方法、电子设备及存储介质
US11948279B2 (en) 2020-11-23 2024-04-02 Samsung Electronics Co., Ltd. Method and device for joint denoising and demosaicing using neural network

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105825484A (zh) * 2016-03-23 2016-08-03 华南理工大学 一种基于深度学习的深度图像去噪及增强方法
US20180033144A1 (en) * 2016-09-21 2018-02-01 Realize, Inc. Anomaly detection in volumetric images

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105825484A (zh) * 2016-03-23 2016-08-03 华南理工大学 一种基于深度学习的深度图像去噪及增强方法
US20180033144A1 (en) * 2016-09-21 2018-02-01 Realize, Inc. Anomaly detection in volumetric images

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
WENJIE XU 等: "《Deep Residual Convolutional Network for Natural Image Denoising and Brightness Enhancement》", 《2018 INTERNATIONAL CONFERENCE ON PLATFORM TECHNOLOGY AND SERVICE》 *
余春艳 等: "《应用雾天退化模型的低照度图像增强》", 《中国图像图形学报》 *

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109741281A (zh) * 2019-01-04 2019-05-10 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及终端
CN112434780A (zh) * 2019-08-26 2021-03-02 上海高德威智能交通系统有限公司 目标对象识别网络模型及其训练方法、目标对象识别方法
CN112434780B (zh) * 2019-08-26 2023-05-30 上海高德威智能交通系统有限公司 目标对象识别网络模型及其训练方法、目标对象识别方法
CN110544221B (zh) * 2019-09-05 2022-03-29 迪爱斯信息技术股份有限公司 训练方法及装置、去雨方法、终端设备、存储介质
CN110544221A (zh) * 2019-09-05 2019-12-06 迪爱斯信息技术股份有限公司 训练方法及装置、去雨方法、终端设备、存储介质
CN110781899A (zh) * 2019-10-23 2020-02-11 维沃移动通信有限公司 图像处理方法及电子设备
CN110781899B (zh) * 2019-10-23 2022-11-25 维沃移动通信有限公司 图像处理方法及电子设备
CN110827375A (zh) * 2019-10-31 2020-02-21 湖北大学 一种基于微光图像的红外图像真彩着色方法及系统
CN110827375B (zh) * 2019-10-31 2023-05-30 湖北大学 一种基于微光图像的红外图像真彩着色方法及系统
CN111028163A (zh) * 2019-11-28 2020-04-17 湖北工业大学 一种基于卷积神经网络的联合图像去噪与弱光增强方法
CN111028163B (zh) * 2019-11-28 2024-02-27 湖北工业大学 一种基于卷积神经网络的联合图像去噪与弱光增强方法
CN111145128B (zh) * 2020-03-02 2023-05-26 Oppo广东移动通信有限公司 色彩增强方法及相关装置
CN111145128A (zh) * 2020-03-02 2020-05-12 Oppo广东移动通信有限公司 色彩增强方法及相关装置
CN111429366B (zh) * 2020-03-03 2022-05-17 浙江大学 基于亮度转换函数的单帧弱光图像增强方法
CN111429366A (zh) * 2020-03-03 2020-07-17 浙江大学 基于亮度转换函数的单帧弱光图像增强方法
WO2021196401A1 (zh) * 2020-03-31 2021-10-07 北京市商汤科技开发有限公司 图像重建方法及装置、电子设备和存储介质
CN113658050A (zh) * 2020-05-12 2021-11-16 武汉Tcl集团工业研究院有限公司 一种图像的去噪方法、去噪装置、移动终端及存储介质
WO2022021025A1 (zh) * 2020-07-27 2022-02-03 华为技术有限公司 图像增强方法及装置
US11948279B2 (en) 2020-11-23 2024-04-02 Samsung Electronics Co., Ltd. Method and device for joint denoising and demosaicing using neural network
CN112991227A (zh) * 2021-04-15 2021-06-18 中国人民解放军国防科技大学 基于U-net++网络的弱光图像增强方法和装置
CN116721038A (zh) * 2023-08-07 2023-09-08 荣耀终端有限公司 颜色修正方法、电子设备及存储介质

Also Published As

Publication number Publication date
CN109087269B (zh) 2020-08-04

Similar Documents

Publication Publication Date Title
CN109087269A (zh) 弱光图像增强方法及装置
CN109934776B (zh) 模型生成方法、视频增强方法、装置及计算机可读存储介质
US20210209459A1 (en) Processing method and system for convolutional neural network, and storage medium
CN102779330B (zh) 图像增强方法、图像增强装置和显示装置
US8780996B2 (en) System and method for encoding and decoding video data
CN109064428A (zh) 一种图像去噪处理方法、终端设备及计算机可读存储介质
CN110189260B (zh) 一种基于多尺度并行门控神经网络的图像降噪方法
CN109829926B (zh) 道路场景语义分割方法及装置
CN110717953A (zh) 基于cnn-lstm组合模型的黑白图片的着色方法和系统
CN110930327B (zh) 基于级联深度残差网络的视频去噪方法
Thanh et al. Single image dehazing based on adaptive histogram equalization and linearization of gamma correction
CN110956202A (zh) 基于分布式学习的图像训练方法、系统、介质及智能设备
CN104166967A (zh) 提升视频图像清晰度的方法
US20190034787A1 (en) Relative position encoding based networks for action recognition
CN108961188A (zh) 一种图像画质增强方法、系统及装置
CN110634103A (zh) 基于生成对抗网络的图像去马赛克方法
WO2019172262A1 (ja) 処理装置、処理方法、コンピュータプログラム及び処理システム
CN110809126A (zh) 一种基于自适应可变形卷积的视频帧插值方法及系统
CN110428382A (zh) 一种用于移动终端的高效视频增强方法、装置和存储介质
CN110111347B (zh) 图像标志提取方法、装置及存储介质
Hanumantharaju et al. A novel FPGA implementation of adaptive color image enhancement based on HSV color space
US11823352B2 (en) Processing video frames via convolutional neural network using previous frame statistics
CN112489144A (zh) 图像处理方法、图像处理装置、终端设备及存储介质
CN116188808B (zh) 图像特征提取方法和系统、存储介质及电子设备
CN111383299B (zh) 图像的处理方法、装置及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant