CN113284061A - 一种基于梯度网络的水下图像增强方法 - Google Patents
一种基于梯度网络的水下图像增强方法 Download PDFInfo
- Publication number
- CN113284061A CN113284061A CN202110536518.7A CN202110536518A CN113284061A CN 113284061 A CN113284061 A CN 113284061A CN 202110536518 A CN202110536518 A CN 202110536518A CN 113284061 A CN113284061 A CN 113284061A
- Authority
- CN
- China
- Prior art keywords
- image
- gradient
- network
- layer
- multiplied
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 55
- 238000012937 correction Methods 0.000 claims abstract description 77
- 238000012549 training Methods 0.000 claims abstract description 53
- 238000012545 processing Methods 0.000 claims abstract description 30
- 238000001914 filtration Methods 0.000 claims abstract description 7
- 238000011176 pooling Methods 0.000 claims description 43
- 238000012360 testing method Methods 0.000 claims description 24
- 230000004913 activation Effects 0.000 claims description 11
- 230000008569 process Effects 0.000 claims description 7
- 239000011159 matrix material Substances 0.000 claims description 3
- 230000017105 transposition Effects 0.000 claims description 3
- 230000006870 function Effects 0.000 description 13
- 238000004422 calculation algorithm Methods 0.000 description 8
- 238000003384 imaging method Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 230000010287 polarization Effects 0.000 description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000010521 absorption reaction Methods 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000003631 expected effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/30—Assessment of water resources
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于梯度网络的水下图像增强方法,包括以下步骤,步骤1、获取拍摄的水下图像,通过加权最小二乘滤波法对所述图像进行分层处理,将所述图像分解成逐渐平滑的图像序列,通过所述图像序列获得基础图像和多个细节图像;步骤2、对所述基础图像进行颜色校正网络训练处理获得增强后的基础图像;步骤3、对多个所述细节图像分别进行梯度域处理获得多个梯度图像,并对所述多个梯度图像进行梯度网络训练处理获得多个增强后的梯度图像;步骤4、对所述增强后的基础图像和所述增强后的梯度图像进行重构获得增强后的水下图像。该方法可以有效改善水下图像的质量,在复杂的海洋环境中具有优异的鲁棒性,准确性和有效性。
Description
技术领域
本发明涉及水下图像增强与复原技术领域,具体涉及一种基于梯度网络的水下图像增强方法。
背景技术
由于陆地资源短缺,海底世界获得了很大的关注。例如监视海洋生物,评估地质环境和水下考古,因此水下图像的质量对于水下计算机视觉非常重要。但是,由于强烈的光吸收和散射,在水下获取的图像和视频通常会由于低照度,色彩失真和低对比度而不清晰,可见性明显下降,使得水下图像呈现蓝绿色,因此水下视觉检测是许多科学和工业应用的关键组成部分。而且,大量的悬浮颗粒和海洋积雪会带来明显的噪音,这些不利因素进一步降低了水下物体检测和模式识别的准确性。因此,需要开发一种有效的方法来恢复水下图像。
目前水下图像增强方法可以分为基于图像增强的方法和基于模型的方法。
基于图像增强的方法:
基于图像增强的算法直接从捕获的水下图像估计透射图,然后将其用于颜色校正和去雾。例如,Ancuti等人提出了一种增强水下视频和图像的方法,基于融合原理,他们定义两个输入,分别代表原始水下图像的色彩校正和对比度增强,此外还定义了四个权重图,目的是增加由于散射和吸收而退化的远处物体的可见性。这个方法可以降低噪声水平,改善暗区的曝光度,提高全局对比度。Li ChongYi等人基于最小信息损失原理,提出了一种有效的水下图像去雾算法,以恢复水下图像的可见性,颜色和自然外观。同时提出了一种基于先验直方图分布的对比度增强算法,提高了水下图像的对比度和亮度。该方法被证明即使在某些挑战性场景下拍摄的水下图像,也仍然具有更好的视觉质量,更有价值的信息以及更准确的色彩还原。
基于模型的方法:
基于模型的算法考虑了水下光学特性,可以更好地描述成像过程。例如,基于偏振的方法依赖于多个图像来生成清晰的水下图像。他们使用固定在相机上的偏振滤波器,并改变偏振的程度去捕获包含互补信息的多个图像。Schechner和Averbuch等人利用这种技术来估计水下场景的透射图,偏振的方法也可以用于雾天去雾,该方法对静态场景有效,但是不适用于动态场景的采集。He等人提出的暗通道先验方法,启发了许多水下去雾技术。假设在绝大多数非天空的局部区域里,某一些像素总会有至少一个颜色通道具有很低的值。换言之,该区域光强度的最小值是个很小的数,这个统计规律称为暗通道先验,也即DCP。在这个基础上,产生了许多水下图像增强的方法。例如,Chiang and Chen等人用DCP对前景和背景区域进行分割,并使用该信息基于颜色补偿来消除雾和颜色变化。Drews-Jr等人假设水下视觉信息的主要来源是蓝色和绿色通道。新的水下暗通道先验(UDCP)被证明比DCP更强大,它可以估计水下场景的透射率。Galdran等人提出了红通道先验,基于假设:在水下图像中,红色分量的倒数会随着与相机距离的增加而增加,该方法主要是为了恢复与短波长有关的的颜色。
这些方法的共同特性是它们都需要用到各种假设和约束。因此,他们的局限性也是相同的,即所采用的假设可能不适用于某些特定场景。
发明内容
本发明提出了一种基于梯度网络的水下图像增强方法,该方法解决了现有水下图像增强算法中水下成像模型计算复杂、水下图像的质量差的问题。
本发明采用的技术手段如下:
一种基于梯度网络的水下图像增强方法,包括以下步骤,
步骤1、获取拍摄的水下图像,通过加权最小二乘滤波法对所述图像进行分层处理,将所述图像分解成逐渐平滑的图像序列,通过所述图像序列获得基础图像和多个细节图像;
步骤2、对所述基础图像进行颜色校正网络训练处理获得增强后的基础图像;
步骤3、对多个所述细节图像分别进行梯度域处理获得多个梯度图像,并对所述多个梯度图像进行梯度网络训练处理获得多个增强后的梯度图像;
步骤4、对所述增强后的基础图像和所述增强后的梯度图像进行重构获得增强后的水下图像。
进一步地,所述对梯度图像进行梯度网络训练处理获得增强后的梯度图像包括以下步骤:
步骤30、构建梯度网络模型并对所述梯度网络模型进行参数设置,构建训练集和测试集,所述训练集中包括训练所需要的梯度网络输入图像和梯度网络目标图像;
步骤31、将所述训练集的梯度网络输入图像输入至所述梯度网络模型进行前向传播获得训练后梯度网络输出图像;
步骤32、计算所述梯度网络输出图像与梯度网络目标图像的损失值,根据所述损失值进行误差反向传播以对梯度网络模型的权重值进行更新;
步骤33、判断梯度网络是否训练完毕,若是,获得训练后的梯度网络模型并执行步骤34,若否,返回步骤31;
步骤34、将所述测试集输入至所述训练后的梯度网络模型进行测试,并根据所述测试结果判断训练后的梯度网络模型是否达到预期要求,若是,执行步骤35,若否,返回步骤31;
步骤35、将梯度图像输入至所述测试后的梯度网络中进行梯度网络训练处理获得增强后的梯度图像。
进一步地,所述梯度网络模型包括六层网络,第一层网络包括依次连接的两个卷积核大小均为3×3的卷积层和一个最大池化层;第二层网络包括依次连接的三个卷积核大小均为3×3卷积层和一个最大池化层;第三层网络包括依次连接的卷积核大小为7×7和3×3的两个卷积层和一个最大池化层;第四层网络包括依次连接的卷积核大小为4×4的一个转置卷积层和一个最大池化层;第五层网络包括依次连接的卷积核大小为3×3的一个卷积层和一个卷积核大小4×4转置卷积层和一个最大池化层;第六层网络包括依次连接的卷积核大小为3×3的卷积层和一个卷积核大小为5×5的卷积层,并在所述卷积核大小为5×5的卷积层后接一个sigmoid激活函数层。
进一步地,通过公式(3)计算所述梯度网络输出图像与梯度网络目标图像的损失值:
LSSIM(x,y)=1-SSIM(x,y)(3)
其中:SSIM(x,y)为两张图片的相似性函数,x为梯度网络输出图像,y为梯度网络目标图像:
其中,μx和μy分别表示x,y的均值,σx和σy分别表示x,y的方差,σxy表示x,y的协方差,C1,C2表示正则化参数。
进一步地,所述对所述基础图像进行颜色校正网络训练处理获得增强后的基础图像包括以下步骤:
步骤20、构建颜色校正网络模型并对所述颜色校正网络模型进行参数设置,构建颜色校正的训练集和测试集,所述训练集中包括训练所需要的颜色校正网络输入图像和颜色校正网络目标图像;
步骤21、将所述训练集的颜色校正网络输入图像输入至所述颜色校正网络模型进行前向传播获得训练后颜色校正网络输出图像;
步骤22、计算所述颜色校正网络输出图像与颜色校正网络目标图像的损失值,根据所述损失值进行误差反向传播以对颜色校正网络模型的权重值进行更新;
步骤23、判断颜色校正网络是否训练完毕,若是,获得训练后的颜色校正网络模型并执行步骤24,若否,返回步骤21;
步骤24、将所述测试集输入至所述训练后的颜色校正网络进行测试,并根据所述测试结果判断训练后的颜色校正网络模型是否达到预期要求,若是,执行步骤25,若否,返回步骤21;
步骤25、将基础图像输入至所述测试后的颜色校正网络中进行颜色校正网络训练处理获得增强后的基础图像。
进一步地,所述颜色校正网络模型包括五层网络,第一层网络包括三个卷积核大小均为4×4的卷积层、一个卷积核大小均为64×64的卷积层和一个最大池化层,三个所述卷积核大小4×4的卷积层并联设置后与所述卷积核大小均为64×64的卷积层和所述最大池化层依次连接;
第二层网络包括三个卷积核大小均为4×4的卷积层、一个卷积核大小均为32×32的卷积层和一个最大池化层,三个所述卷积核大小4×4的卷积层并联设置后与所述卷积核大小均为32×32的卷积层和所述最大池化层依次连接;
第三层网络包括三个卷积核大小均为4×4的转置卷积层、一个卷积核大小均为64×64的转置卷积层和一个最大池化层,三个所述卷积核大小4×4的转置卷积层并联设置后与所述卷积核大小均为64×64的转置卷积层和所述最大池化层依次连接;
第四层网络包括三个卷积核大小均为4×4的转置卷积层、一个卷积核大小均为128×128的转置卷积层和一个最大池化层,三个所述卷积核大小4×4的转置卷积层并联设置后与所述卷积核大小均为128×128的转置卷积层和所述最大池化层依次连接;
第五层网络包括依次连接的两个卷积核大小为3×3的卷积层,并在第二个卷积核大小为3×3的卷积层后面接一个sigmoid激活函数;
所述Sigmoid激活函数的表达式如公式(5)所示:
其中,参数z表示Sigmoid函数的输入。
进一步地,通过公式(6)计算所述颜色校正网络输出图像与颜色校正网络目标图像的损失值:
其中:xi为颜色校正网络输出图像,yi为颜色校正网络目标图像。
进一步地,所述步骤1包括如下步骤:
步骤10、获取拍摄的水下图像,将该图像用加权最小二乘滤波进行分层处理,从而将图像分解成逐渐平滑的图像序列,所述逐渐平滑的图像序列通过公式(1)获得:
ui=Fλ(I)=(E+λ(Dx TAxDx+Dy TAyDy))-1I (1)
其中:I为输入的原始图像,ui是原始图像I平滑后的图像,E是单位矩阵,(x,y)是某个像素的空间位置,Dx和Dy是离散微分运算,Ax和Ay包含平滑度权重,λ是一个变量参数;
步骤11、通过所述平滑的图像序列获得基础图像和多个细节图像,所述细节图像dj的获得过程如下:
不断用当前产生的平滑图像减去下一个产生的平滑图像,如公式(2):
dj=uj-1-uj (2)
其中j=1,2,3,…,i-1;uj为最后一个平滑图像即基础图像。
与现有技术比较,本发明公开的基于梯度网络的水下图像增强方法具有以下优点,本发明将水下拍摄到的图像从细节层转到梯度域中,可以在避免伪影的同时改善结构和细节;利用梯度网络处理水下图像,能够更好的提取图像的细节,保留边缘和纹理信息,减少噪声;同时,基于梯度网络的水下图像增强方法避免了传统水下成像模型复杂的计算,可以有效改善水下图像的质量,在复杂的海洋环境中具有优异的鲁棒性,准确性和有效性。
附图说明
图1为本发明公开的基于梯度网络的水下图像增强方法的流程图;
图2是本发明公开的基于梯度网络的水下图像增强方法的总体框架结构图;
图3为本发明中梯度网络训练处理的流程图;
图4是本发明中梯度网络详细结构;
图5为颜色网络校正的流程图;
图6是本发明中颜色校正网络详细结构。
具体实施方式
如图1和图2所示为本发明公开的基于梯度网络的水下图像增强方法,包括以下步骤,
步骤1、获取拍摄的水下图像,通过加权最小二乘滤波法对所述图像进行分层处理,将所述图像分解成逐渐平滑的图像序列,通过所述图像序列获得基础图像和多个细节图像;
步骤2、对所述基础图像进行颜色校正网络训练处理获得增强后的基础图像;
步骤3、对多个所述细节图像分别进行梯度域处理获得多个梯度图像,并对所述多个梯度图像进行梯度网络训练处理获得多个增强后的梯度图像;
步骤4、对所述增强后的基础图像和所述增强后的梯度图像进行重构获得增强后的水下图像。
具体地,所述步骤1包括如下步骤:步骤10、获取拍摄的水下图像,将该图像用加权最小二乘滤波进行分层处理,从而将图像分解成逐渐平滑的图像序列,所述逐渐平滑的图像序列通过公式(1)获得:
ui=Fλ(I)=(E+λ(Dx TAxDx+Dy TAyDy))-1I (1)
其中:I指的是输入的原始图像,ui是原始图像I平滑后的图像,E是单位矩阵,(x,y)是某个像素的空间位置,Dx和Dy是离散微分运算,Ax和Ay包含平滑度权重,λ是一个参数,参数λ越大,产生的图像越平滑,因此本发明通过逐渐增大参数λ,得到许多平滑的图像序列u1,u2,u3,…,ui-1,其中u1是第一个平滑图像,u2第二个平滑图像,ui-1是第i-1个平滑图像;
步骤11、通过所述平滑的图像序列获得基础图像和多个细节图像,所述细节图像dj的获得过程如下:
不断用当前产生的平滑图像减去下一个产生的平滑图像(细节图像),如公式(2):
dj=uj-1-uj (2)
其中j=1,2,3,…,i-1;uj为最后一个平滑图像即基础图像。
为了在避免伪影的同时改善结构和细节,将步骤1中得到的细节层di(i=1,2)转化到梯度域中,生成梯度层gi(i=1,2)。该步骤能够很好的改善纹理细节,有效抑制不需要的伪影和噪声,所述对梯度图像进行梯度网络训练处理获得增强后的梯度图像包括以下步骤:
如图3所示,步骤30、构建梯度网络模型并对所述梯度网络模型进行参数设置,构建训练集和测试集,所述训练集中包括训练所需要的梯度网络输入图像和梯度网络目标图像;
步骤31、将所述训练集的梯度网络输入图像输入至所述梯度网络模型进行前向传播获得训练后梯度网络输出图像;
步骤32、计算所述梯度网络输出图像与梯度网络目标图像的损失值,根据所述损失值进行误差反向传播以对梯度网络模型的权重值进行更新;
步骤33、判断梯度网络模型是否训练完毕,具体可以采用损失值达到设定的精度要求或达到训练次数达到最大迭代次数进行判断,若是,获得训练后的梯度网络模型并执行步骤34,若否,返回步骤31;
步骤34、将所述测试集输入至所述训练后的梯度网络模型进行测试,并根据所述测试结果判断训练后的梯度网络模型是否达到预期要求,若是,执行步骤35,若否,返回步骤31;
步骤35、将梯度图像输入至所述测试后的梯度网络中进行梯度网络训练处理获得增强后的梯度图像。
本实施例中,如图4所示,所述梯度网络模型包括六层网络,第一层网络包括依次连接的两个卷积核大小均为3×3的卷积层和一个最大池化层;第二层网络包括依次连接的三个卷积核大小均为3×3卷积层和一个最大池化层;第三层网络包括依次连接的卷积核大小为7×7和3×3的两个卷积层和一个最大池化层;第四层网络包括依次连接的卷积核大小为4×4的一个转置卷积层和一个最大池化层;第五层网络包括依次连接的卷积核大小为3×3的一个卷积层和一个卷积核大小4×4转置卷积层和一个最大池化层;第六层网络包括依次连接的卷积核大小为3×3的卷积层和一个卷积核大小为5×5的卷积层,并在所述卷积核大小为5×5的卷积层后接一个sigmoid激活函数层。
本发明中为了对梯度层gi(i=1,2)进行增强,本发明构建了一个新颖的梯度网络。梯度网络可以提取更多的细节进行增强,在该网络中,特征提取越多,细节增强就会越多。前五层网络后面都设有一个最大池化层Maxpooling,目的也是为了能够很好的保留纹理特征。最后分别经过卷积核为3×3和一个卷积核为5×5的卷积层并且接一个sigmoid激活函数,对输出的数据进行归一化,从而输出增强后的梯度层g'i(i=1,2)。即当i为1时,梯度层g1增强后的图像为g'1;当i为2时,梯度层g2增强后的图像为g'2。
本发明中梯度网络模型的训练方法如下:
本发明选取拍摄的水下图像作为训练集,使用Pytorch来训练梯度网络。优化算法默认的是Adam,即在每一次迭代时,调用forward算法来计算最终的输出值以及对应的损失;之后调用backward算法来计算每层的梯度;然后根据Adam来对参数进行更新;最后记录并保存每次迭代的学习率、以及对应的状态。本发明将批处理大小设为2,学习率设为0.001。
本发明中梯度网络的有益效果以及解决的问题:
(1)将细节图像转换为梯度域得到梯度图像,可以有效的改善图像的结构和细节。解决了产生伪影和噪声的问题。
(2)通过在神经网络中设置不同的网络层来对梯度图像进行增强,可以很好的提取梯度图像的特征,有助于改善最终输出图像的质量。解决了传统水下成像模型复杂的计算,且过度依赖参数而导致结果不符合预期效果的问题。
进一步地,通过公式(3)计算所述梯度网络输出图像与梯度网络目标图像的损失值:
LSSIM(x,y)=1-SSIM(x,y)(3)
其中:SSIM(x,y)为两张图片的相似性函数,x为梯度网络输出图像,y为梯度网络目标图像:
其中,μx和μy分别表示x,y的均值,σx和σy分别表示x,y的方差,σxy表示x,y的协方差,C1,C2表示正则化参数。
对基础层b进行颜色校正处理,由于水下光的波长会发生衰减,大多数水下图像显示为蓝色或绿色。颜色变化主要体现在由步骤1分层得到的基础层b上面,因此,对基础层b进行色彩校正,以进一步恢复水下图像的颜色失真。本发明进行色彩校正用的是校正网络,如图5所示,所述对所述基础图像进行颜色校正网络训练处理获得增强后的基础图像包括以下步骤:
步骤20、构建颜色校正网络模型并对所述颜色校正网络模型进行参数设置,构建颜色校正的训练集和测试集,所述训练集中包括训练所需要的输入图像和目标图像;
步骤21、将所述训练集的输入图像输入至所述颜色校正网络模型进行前向传播获得训练输出图像;
步骤22、计算所述输出图像与目标图像的损失值,根据所述损失值进行误差反向传播以对颜色校正网络模型的权重值进行更新;
步骤23、判断颜色校正网络模型是否训练完毕,具体可以采用损失值达到设定的精度要求或达到训练次数达到最大迭代次数进行判断,若是,获得训练后的颜色校正网络模型并执行步骤24,若否,返回步骤21;
步骤24、将所述测试集输入至所述训练后的颜色校正网络进行测试,并根据所述测试结果判断训练后的颜色校正网络模型是否达到预期要求,若是,执行步骤25,若否,返回步骤21;
步骤25、将基础图像输入至所述测试后的颜色校正网络中进行颜色校正网络训练处理获得增强后的基础图像。
如图6所示,本发明中所述颜色校正网络模型包括五层网络,第一层网络包括三个卷积核大小均为4×4的卷积层、一个卷积核大小均为64×64的卷积层和一个最大池化层,三个所述卷积核大小4×4的卷积层并联设置后与所述卷积核大小均为64×64的卷积层和所述最大池化层依次连接;
第二层网络包括三个卷积核大小均为4×4的卷积层、一个卷积核大小均为32×32的卷积层和一个最大池化层,三个所述卷积核大小4×4的卷积层并联设置后与所述卷积核大小均为32×32的卷积层和所述最大池化层依次连接;
第三层网络包括三个卷积核大小均为4×4的转置卷积层、一个卷积核大小均为64×64的转置卷积层和一个最大池化层,三个所述卷积核大小4×4的转置卷积层并联设置后与所述卷积核大小均为64×64的转置卷积层和所述最大池化层依次连接;
第四层网络包括三个卷积核大小均为4×4的转置卷积层、一个卷积核大小均为128×128的转置卷积层和一个最大池化层,三个所述卷积核大小4×4的转置卷积层并联设置后与所述卷积核大小均为128×128的转置卷积层和所述最大池化层依次连接;
第五层网络包括依次连接的两个卷积核大小为3×3的卷积层,并在第二个卷积核大小为3×3的卷积层后面接一个sigmoid激活函数;
所述Sigmoid激活函数的表达式如公式(5)所示:
其中,参数z表示Sigmoid函数的输入。
本申请中颜色校正网络模型包括五层网络,前五层网络中不同的卷积核是为了提取特征信息,消除伪影,而最大池化层Maxpooling是为了能够更好地保留纹理的特征。最终在最后一层网络后接一个sigmoid激活函数,对输出的数据进行归一化,得到增强后的图像。
进一步地,通过公式(6)计算所述颜色校正网络输出图像与颜色校正网络目标图像的损失值:
其中:xi为颜色校正网络输出图像,yi为颜色校正网络目标图像。
由于两个梯度图像保留的原始图片的细节更多,所以本发明使用SSIM损失来训练梯度网络,以更好地保留高频信息。同时,本发明使用l1损失训练校正网络,更新相应的网络参数。总损失函数可以简单的表示为公式(7):
其中Ll1是训练校正网络的l1损失,本发明中校正网络只有一个,所以n=1。LSSIM是训练梯度网络的SSIM损失,本发明中梯度网络有两个,所以n=1,2。
本发明公开的基于梯度网络的水下图像增强方法具有以下优点,本发明将水下拍摄到的图像从细节层转到梯度域中,可以在避免伪影的同时改善结构和细节;利用梯度网络处理水下图像,能够更好的提取图像的细节,保留边缘和纹理信息,减少噪声;同时,基于梯度网络的水下图像增强方法避免了传统水下成像模型复杂的计算,可以有效改善水下图像的质量,在复杂的海洋环境中具有优异的鲁棒性,准确性和有效性。
Claims (8)
1.一种基于梯度网络的水下图像增强方法,其特征在于:包括以下步骤,
步骤1、获取拍摄的水下图像,通过加权最小二乘滤波法对所述图像进行分层处理,将所述图像分解成逐渐平滑的图像序列,通过所述图像序列获得基础图像和多个细节图像;
步骤2、对所述基础图像进行颜色校正网络训练处理获得增强后的基础图像;
步骤3、对多个所述细节图像分别进行梯度域处理获得多个梯度图像,并对所述多个梯度图像进行梯度网络训练处理获得多个增强后的梯度图像;
步骤4、对所述增强后的基础图像和所述增强后的梯度图像进行重构获得增强后的水下图像。
2.根据权利要求1所述的基于梯度网络的水下图像增强方法,其特征在于:
所述对梯度图像进行梯度网络训练处理获得增强后的梯度图像包括以下步骤:
步骤30、构建梯度网络模型并对所述梯度网络模型进行参数设置,构建训练集和测试集,所述训练集中包括训练所需要的梯度网络输入图像和梯度网络目标图像;
步骤31、将所述训练集的梯度网络输入图像输入至所述梯度网络模型进行前向传播获得训练后梯度网络输出图像;
步骤32、计算所述梯度网络输出图像与梯度网络目标图像的损失值,根据所述损失值进行误差反向传播以对梯度网络模型的权重值进行更新;
步骤33、判断梯度网络是否训练完毕,若是,获得训练后的梯度网络模型并执行步骤34,若否,返回步骤31;
步骤34、将所述测试集输入至所述训练后的梯度网络模型进行测试,并根据所述测试结果判断训练后的梯度网络模型是否达到预期要求,若是,执行步骤35,若否,返回步骤31;
步骤35、将梯度图像输入至所述测试后的梯度网络中进行梯度网络训练处理获得增强后的梯度图像。
3.根据权利要求2所述的基于梯度网络的水下图像增强方法,其特征在于:所述梯度网络模型包括六层网络,第一层网络包括依次连接的两个卷积核大小均为3×3的卷积层和一个最大池化层;第二层网络包括依次连接的三个卷积核大小均为3×3卷积层和一个最大池化层;第三层网络包括依次连接的卷积核大小为7×7和3×3的两个卷积层和一个最大池化层;第四层网络包括依次连接的卷积核大小为4×4的一个转置卷积层和一个最大池化层;第五层网络包括依次连接的卷积核大小为3×3的一个卷积层和一个卷积核大小4×4转置卷积层和一个最大池化层;第六层网络包括依次连接的卷积核大小为3×3的卷积层和一个卷积核大小为5×5的卷积层,并在所述卷积核大小为5×5的卷积层后接一个sigmoid激活函数层。
5.根据权利要求1所述的基于梯度网络的水下图像增强方法,其特征在于:所述对所述基础图像进行颜色校正网络训练处理获得增强后的基础图像包括以下步骤:
步骤20、构建颜色校正网络模型并对所述颜色校正网络模型进行参数设置,构建颜色校正的训练集和测试集,所述训练集中包括训练所需要的颜色校正网络输入图像和颜色校正网络目标图像;
步骤21、将所述训练集的颜色校正网络输入图像输入至所述颜色校正网络模型进行前向传播获得训练后颜色校正网络输出图像;
步骤22、计算所述颜色校正网络输出图像与颜色校正网络目标图像的损失值,根据所述损失值进行误差反向传播以对颜色校正网络模型的权重值进行更新;
步骤23、判断颜色校正网络是否训练完毕,若是,获得训练后的颜色校正网络模型并执行步骤24,若否,返回步骤21;
步骤24、将所述测试集输入至所述训练后的颜色校正网络进行测试,并根据所述测试结果判断训练后的颜色校正网络模型是否达到预期要求,若是,执行步骤25,若否,返回步骤21;
步骤25、将基础图像输入至所述测试后的颜色校正网络中进行颜色校正网络训练处理获得增强后的基础图像。
6.根据权利要求4所述的基于梯度网络的水下图像增强方法,其特征在于:所述颜色校正网络模型包括五层网络,第一层网络包括三个卷积核大小均为4×4的卷积层、一个卷积核大小均为64×64的卷积层和一个最大池化层,三个所述卷积核大小4×4的卷积层并联设置后与所述卷积核大小均为64×64的卷积层和所述最大池化层依次连接;
第二层网络包括三个卷积核大小均为4×4的卷积层、一个卷积核大小均为32×32的卷积层和一个最大池化层,三个所述卷积核大小4×4的卷积层并联设置后与所述卷积核大小均为32×32的卷积层和所述最大池化层依次连接;
第三层网络包括三个卷积核大小均为4×4的转置卷积层、一个卷积核大小均为64×64的转置卷积层和一个最大池化层,三个所述卷积核大小4×4的转置卷积层并联设置后与所述卷积核大小均为64×64的转置卷积层和所述最大池化层依次连接;
第四层网络包括三个卷积核大小均为4×4的转置卷积层、一个卷积核大小均为128×128的转置卷积层和一个最大池化层,三个所述卷积核大小4×4的转置卷积层并联设置后与所述卷积核大小均为128×128的转置卷积层和所述最大池化层依次连接;
第五层网络包括依次连接的两个卷积核大小为3×3的卷积层,并在第二个卷积核大小为3×3的卷积层后面接一个sigmoid激活函数;
所述Sigmoid激活函数的表达式如公式(5)所示:
其中,参数z表示Sigmoid函数的输入。
8.根据权利要求1所述的基于梯度网络的水下图像增强方法,其特征在于:所述步骤1包括如下步骤:
步骤10、获取拍摄的水下图像,将该图像用加权最小二乘滤波进行分层处理,从而将图像分解成逐渐平滑的图像序列,所述逐渐平滑的图像序列通过公式(1)获得:
ui=Fλ(I)=(E+λ(Dx TAxDx+Dy TAyDy))-1I (1)
其中:I为输入的原始图像,ui是原始图像I平滑后的图像,E是单位矩阵,(x,y)是某个像素的空间位置,Dx和Dy是离散微分运算,Ax和Ay包含平滑度权重,λ是一个变量参数;
步骤11、通过所述平滑的图像序列获得基础图像和多个细节图像,所述细节图像dj的获得过程如下:
不断用当前产生的平滑图像减去下一个产生的平滑图像,如公式(2):
dj=uj-1-uj (2)
其中j=1,2,3,…,i-1;uj为最后一个平滑图像即基础图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110536518.7A CN113284061B (zh) | 2021-05-17 | 2021-05-17 | 一种基于梯度网络的水下图像增强方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110536518.7A CN113284061B (zh) | 2021-05-17 | 2021-05-17 | 一种基于梯度网络的水下图像增强方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113284061A true CN113284061A (zh) | 2021-08-20 |
CN113284061B CN113284061B (zh) | 2024-04-05 |
Family
ID=77279461
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110536518.7A Active CN113284061B (zh) | 2021-05-17 | 2021-05-17 | 一种基于梯度网络的水下图像增强方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113284061B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114529464A (zh) * | 2022-01-14 | 2022-05-24 | 电子科技大学 | 一种基于深度学习的水下图像恢复方法 |
CN114820385A (zh) * | 2022-05-20 | 2022-07-29 | 河南科技学院 | 局部自适应的水下图像颜色校正方法 |
CN117036209A (zh) * | 2023-10-07 | 2023-11-10 | 深圳英美达医疗技术有限公司 | 图像对比度增强方法、装置、计算机设备和存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100014776A1 (en) * | 2008-07-18 | 2010-01-21 | Xerox Corporation | System and method for automatic enhancement of seascape images |
CN102289792A (zh) * | 2011-05-03 | 2011-12-21 | 北京云加速信息技术有限公司 | 一种低照度视频图像增强方法及系统 |
CN103617617A (zh) * | 2013-12-05 | 2014-03-05 | 淮海工学院 | 基于功率谱描述的水下图像质量评价测量方法 |
CN106780368A (zh) * | 2016-11-24 | 2017-05-31 | 天津大学 | 一种基于前景模型的水下图像增强方法 |
CN107146209A (zh) * | 2017-05-02 | 2017-09-08 | 四川大学 | 一种基于梯度域的单幅图像去雾方法 |
CN109949247A (zh) * | 2019-03-26 | 2019-06-28 | 常州工学院 | 一种基于yiq空间光学成像模型的梯度域自适应增益水下图像增强方法 |
US20190266712A1 (en) * | 2018-02-24 | 2019-08-29 | United States Of America As Represented By The Administrator Of The Nasa | System and method for imaging underwater environments using fluid lensing |
CN111833268A (zh) * | 2020-07-10 | 2020-10-27 | 中国海洋大学 | 一种基于条件生成对抗网络的水下图像增强方法 |
CN112767279A (zh) * | 2021-02-01 | 2021-05-07 | 福州大学 | 一种基于离散小波集成生成对抗网络的水下图像增强方法 |
-
2021
- 2021-05-17 CN CN202110536518.7A patent/CN113284061B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100014776A1 (en) * | 2008-07-18 | 2010-01-21 | Xerox Corporation | System and method for automatic enhancement of seascape images |
CN102289792A (zh) * | 2011-05-03 | 2011-12-21 | 北京云加速信息技术有限公司 | 一种低照度视频图像增强方法及系统 |
CN103617617A (zh) * | 2013-12-05 | 2014-03-05 | 淮海工学院 | 基于功率谱描述的水下图像质量评价测量方法 |
CN106780368A (zh) * | 2016-11-24 | 2017-05-31 | 天津大学 | 一种基于前景模型的水下图像增强方法 |
CN107146209A (zh) * | 2017-05-02 | 2017-09-08 | 四川大学 | 一种基于梯度域的单幅图像去雾方法 |
US20190266712A1 (en) * | 2018-02-24 | 2019-08-29 | United States Of America As Represented By The Administrator Of The Nasa | System and method for imaging underwater environments using fluid lensing |
CN109949247A (zh) * | 2019-03-26 | 2019-06-28 | 常州工学院 | 一种基于yiq空间光学成像模型的梯度域自适应增益水下图像增强方法 |
CN111833268A (zh) * | 2020-07-10 | 2020-10-27 | 中国海洋大学 | 一种基于条件生成对抗网络的水下图像增强方法 |
CN112767279A (zh) * | 2021-02-01 | 2021-05-07 | 福州大学 | 一种基于离散小波集成生成对抗网络的水下图像增强方法 |
Non-Patent Citations (3)
Title |
---|
徐岩;孙美双;: "基于卷积神经网络的水下图像增强方法", 吉林大学学报(工学版), no. 06, 26 March 2018 (2018-03-26) * |
林森;刘世本;唐延东;: "多输入融合对抗网络的水下图像增强", 红外与激光工程, no. 05, 25 May 2020 (2020-05-25) * |
赵悰悰: "基于梯度域的水下图像增强方法研究", 《中国优秀硕士学位论文全文数据库》, 15 March 2021 (2021-03-15) * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114529464A (zh) * | 2022-01-14 | 2022-05-24 | 电子科技大学 | 一种基于深度学习的水下图像恢复方法 |
CN114820385A (zh) * | 2022-05-20 | 2022-07-29 | 河南科技学院 | 局部自适应的水下图像颜色校正方法 |
CN114820385B (zh) * | 2022-05-20 | 2023-06-23 | 河南科技学院 | 局部自适应的水下图像颜色校正方法 |
CN117036209A (zh) * | 2023-10-07 | 2023-11-10 | 深圳英美达医疗技术有限公司 | 图像对比度增强方法、装置、计算机设备和存储介质 |
CN117036209B (zh) * | 2023-10-07 | 2024-01-26 | 深圳英美达医疗技术有限公司 | 图像对比度增强方法、装置、计算机设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113284061B (zh) | 2024-04-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Wang et al. | An experimental-based review of image enhancement and image restoration methods for underwater imaging | |
Lim et al. | DSLR: Deep stacked Laplacian restorer for low-light image enhancement | |
Cao et al. | Underwater image restoration using deep networks to estimate background light and scene depth | |
Yin et al. | Color transferred convolutional neural networks for image dehazing | |
CN113284061B (zh) | 一种基于梯度网络的水下图像增强方法 | |
CN112288658A (zh) | 一种基于多残差联合学习的水下图像增强方法 | |
CN107798661B (zh) | 一种自适应的图像增强方法 | |
CN109118446B (zh) | 一种水下图像复原及去噪方法 | |
Wang et al. | Joint iterative color correction and dehazing for underwater image enhancement | |
CN111882489A (zh) | 用于水下图像同时增强的超分辨率图形恢复方法 | |
Bi et al. | Haze removal for a single remote sensing image using low-rank and sparse prior | |
Wang et al. | Single Underwater Image Enhancement Based on $ L_ {P} $-Norm Decomposition | |
Huang et al. | Color correction and restoration based on multi-scale recursive network for underwater optical image | |
Wang et al. | Underwater attentional generative adversarial networks for image enhancement | |
CN115546505A (zh) | 一种基于深度学习的无监督单目图像深度估计方法 | |
Huang et al. | Underwater image enhancement based on color restoration and dual image wavelet fusion | |
Saleem et al. | A non-reference evaluation of underwater image enhancement methods using a new underwater image dataset | |
CN111476739B (zh) | 水下图像增强方法、系统及存储介质 | |
CN113935917A (zh) | 一种基于云图运算和多尺度生成对抗网络的光学遥感影像薄云去除方法 | |
CN117593235A (zh) | 基于深度CNN去噪先验的Retinex变分水下图像增强方法和装置 | |
CN116664446A (zh) | 基于残差密集块的轻量级暗光图像增强方法 | |
Kumar et al. | Underwater Image Enhancement using deep learning | |
Ju et al. | Single sea surface image dehazing using multi-scale cascaded convolutional neural network | |
CN107301625B (zh) | 基于亮度融合网络的图像去雾方法 | |
CN113012067B (zh) | 基于Retinex理论和端到端深度网络的水下图像复原方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |