CN109816737B - 基于耦合自然矢量全变差的保边缘图像着色方法 - Google Patents

基于耦合自然矢量全变差的保边缘图像着色方法 Download PDF

Info

Publication number
CN109816737B
CN109816737B CN201910098196.5A CN201910098196A CN109816737B CN 109816737 B CN109816737 B CN 109816737B CN 201910098196 A CN201910098196 A CN 201910098196A CN 109816737 B CN109816737 B CN 109816737B
Authority
CN
China
Prior art keywords
image
coloring
total variation
color space
result
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910098196.5A
Other languages
English (en)
Other versions
CN109816737A (zh
Inventor
闵莉花
李振华
金正猛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Posts and Telecommunications
Original Assignee
Nanjing University of Posts and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Posts and Telecommunications filed Critical Nanjing University of Posts and Telecommunications
Priority to CN201910098196.5A priority Critical patent/CN109816737B/zh
Publication of CN109816737A publication Critical patent/CN109816737A/zh
Application granted granted Critical
Publication of CN109816737B publication Critical patent/CN109816737B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

本发明公开了一种基于耦合自然矢量全变差的保边缘图像着色方法,包括如下步骤:对于一幅RGB颜色空间下的彩色图像,在该图像上画上黑色线条,得到图像1;采用MATLAB将图像1转化为带彩色线条的灰度图像2;将图像2转变为YCbCr颜色空间上的图像3,得到在区域Ω上的亮度信息和在人工着色区域上的色度信息;建立基于变分的着色模型,利用原始对偶算法求解区域Ω中的色度信息;获取YCbCr颜色空间中的图像4;将图像4转变为RGB颜色空间内的图像5;对图像5进行评价得到其数值结果。本发明在处理多通道图像时可以在各个通道之间仅产生一个共同的边缘方向,从而可以更有效的保留图像边缘,防止颜色越界和颜色模糊。

Description

基于耦合自然矢量全变差的保边缘图像着色方法
技术领域
本发明属于图像处理技术领域,具体涉及一种基于耦合自然矢量全变差的保边缘图像着色方法。
背景技术
图像是传递信息的一种重要途径,其中颜色能够为人们理解图像内容提供重要的信息。相比灰度图像,彩色图像还可以增加其观赏性,因此灰度图像的彩色化是一项重要的任务。图像着色(image colorization)是20世纪70年代由Wilson Markle提出的,用于描述借助计算法技术对黑白图像或视频着色的过程。着色技术的出现使得人们可以从图像中提取更多有用的信息,加深对图像内容的理解,从而提高图像利用率。现在,图像着色通常用于描述将灰度图像转换为彩色图像的任何过程,该技术已经广泛应用于许多领域,如古画修复、改善医学图像的视觉效果等。
目前常用的着色方法主要有两种,即颜色转移和颜色扩张。对于基于颜色转移的着色方法,需要输入一幅与目标灰度图像相似的彩色图像作为参照图,再根据一定的算法将参照图中的颜色转移到目标灰度图像中从而实现着色。对于基于颜色扩张的着色方法,需要人为地在目标灰度图像上添加彩色线条,再利用一定的算法使彩色线条中的颜色扩展到整幅图像上以实现着色。
在基于颜色转移的着色方法中,由于最初目标灰度图像中每个像素点是独立处理的,因此存在颜色不一致的问题。随后,学者提出将图像分割用于着色中来提高着色效果,取得了一定的成果。近来,学者将机器学习也用于图像着色中。
在基于颜色扩张的着色方法中,Levin等人[参见文献《Levin,A.,Lischinski,D.,Weiss,Y.:Colorization using optimization.ACM T.Graphic.,23(3),689-694(2004)》]认为具有相似灰度值的相邻像素应该有相似的颜色,基于该假设,他们提出如下模型:
Figure BDA0001964985890000011
其中,Ur,Us为r,s处的像素值,N(r)是像素点r的领域,ωr,s是权重函数,在这里,只显示U分量,因为对于着色,色度通道U和V是相似的。随后,Sapiro将偏微分方程的方法引入到图像着色中,求解亮度通道Y的梯度和色度通道Cb(或Cr)的梯度之间的差值最小,从而实现着色。虽然这些方法可以实现着色,但会出现边界模糊和颜色越界的现象。Yatziv[参看文献《Yatziv,L.,Sapiro,G.:Fast image and video colorization using chrominanceblending.IEEE T.Image Process.,15(5),1120-1129(2006)》]利用加权距离色度混合技术,找出最短路径进行快速图像着色。Kang等人[参看文献《Kang S.H.,March,R.:Variational models for image colorization via chromaticity and brightnessdecomposition.IEEE T.Image Process.,16(9), 2251-2261(2007)》]提出基于全变分的图像着色方法:
Figure BDA0001964985890000021
该模型基于CB颜色空间,其中扩散函数g为
Figure BDA0001964985890000022
Figure BDA0001964985890000023
Gσ为高斯核,λ为权重系数,用于平衡上述模型中的两项,该方法可以有效保留图像边界,但图像内部的伪边缘会影响颜色的进一步扩张。随后,Jin等人[参看文献《Jin,Z.M.,Zhou,C.,Ng,M.K.:A coupled total variation model with curvature driven for imagecolorization.Inverse Probl.Imag.,10(4),1037-1055(2016)》]提出如下的基于曲率驱动的耦合全变分着色模型:
Figure BDA0001964985890000024
其中,
Figure BDA0001964985890000025
g为单调递减函数,选取
Figure BDA0001964985890000026
该方法通过利用曲率驱动使得颜色可以越过伪边缘扩散到整幅图像,并在外部边界处停止扩散。但这些方法对于通道之间的耦合均不是最优的,故这些方法仍然存在一定程度上的颜色越界。
发明内容
为解决上述现有技术的不足,本发明提出了一种基于耦合自然矢量全变差的保边缘图像着色方法,有效解决图像着色中多个通道之间的耦合问题,能够保留图像边界,防止颜色越界。
为实现上述目的,本发明采用如下的技术方案:
基于耦合自然矢量全变差的保边缘图像着色方法,包括如下步骤:
步骤1)、对于一幅RGB颜色空间下的彩色图像,在该图像上画上黑色线条,得到图像1;
步骤2)、采用MATLAB将图像1转化为带彩色线条的灰度图像2,即含有人工着色区域Dc的图像,其中
Figure BDA0001964985890000027
为含有利普希茨边界的图像区域,
Figure BDA0001964985890000028
为待着色区域;
步骤3)、将图像2由RGB颜色空间内的图像转变为YCbCr颜色空间上的图像3,得到图像3在区域Ω上的亮度信息Y0和在人工着色区域Dc上的色度信息(Cb0,Cr0),亮度信息Y0在着色过程中不变;
步骤4)、根据以下公式建立基于耦合全变分的着色模型:
Figure BDA0001964985890000029
其中,
Figure BDA0001964985890000031
其中,g为单调递减函数,Δ为拉普拉斯算子,Gσ为高斯核,λ为权重系数,用于平衡正则项和保真项, J1V表示自然矢量全变差;
步骤5)、结合亮度信息Y0和色度信息(Cb0,Cr0),根据步骤4)中的着色模型利用原始对偶算法求解区域Ω中的色度信息(Cb,Cr);
步骤6)、将得到的区域Ω上的色度信息(Cb,Cr)和亮度信息Y0联合,得到YCbCr颜色空间中的图像 4;
步骤7)、将图像4由YCbCr颜色空间内的图像转变为RGB颜色空间内的图像5,图像5即为最终的着色图像;
步骤8)、对步骤7)中得到的图像5用峰值信噪比、均方误差、结构相似度作为评价指标得到其数值结果,峰值信噪比和结构相似度值越大,或均方误差值越小,着色效果越好。
进一步的,步骤3)中,所选择的YCbCr颜色空间进行归一化处理。
进一步的,步骤4)中,公式一中第一项∫Ωg(|Δ(Gσ*Y0)|)J1V为耦合全变差正则项,第二项
Figure BDA0001964985890000032
为保真项。
进一步的,步骤4)中,g为单调递减函数,设
Figure BDA0001964985890000033
Δ为拉普拉斯算子,拉普拉斯的定义如下:
Figure BDA0001964985890000034
进一步的,步骤4)中,利用矢量全变分TVJ=∫ΩJ1Vdx,其中J1V与导数矩阵DV的最大奇异值σ1(DV)相关,即J1V=σ1(DV),其中,
Figure BDA0001964985890000035
该矢量全变分可以用对偶公式写为:
Figure BDA0001964985890000036
该矢量TV在所有通道中,仅产生一个共同的边缘方向ξ,从而可以更有效地保留图像边缘,其中, div是散度算子。
进一步的,步骤5)中,原始对偶算法的步骤包括:将耦合全变分模型转变为鞍点问题;使用原始对偶算法进行交替迭代求解获得最优解;
原始对偶算法求解过程如下:
根据TVJ的对偶定义,可以得到如下的鞍点问题:
Figure BDA0001964985890000041
其中,
Figure BDA0001964985890000042
是克罗内克积
Figure BDA0001964985890000043
的凸包,δS为指示函数:
Figure BDA0001964985890000044
且Div(ζ)为散度算子,如下:
Figure BDA0001964985890000045
当得到第k次的迭代解(Vkk)时,原始对偶算法更新解的过程如下:
a1.更新变量ζ
固定V=Vk,则变量ζ计算如下:
Figure BDA0001964985890000046
已知,A的奇异值分解为A=UΣVT,则ProjS(A)=Udiag(σP)VT,其中σP是(σ1,…,σn)到对偶求 {x∈Rn:Σ|xi|≤g}的投影。
a2.更新变量V
固定ζ=ζk,则变量V计算如下:
Figure BDA0001964985890000047
Figure BDA0001964985890000051
根据上述结果,最终算法如下:
S1、初始化:令τ0>0,σ0>0,V0=0,ζ0=0,
Figure BDA0001964985890000052
S2、迭代:按如下方式迭代更新变量ζk,Vk,
Figure BDA0001964985890000053
σkkk:
ζk+1=ProjSk+σGrad(Vk))
Vk+1=ProjV(Vk-τDiv(ζk+1))
Figure BDA0001964985890000054
Figure BDA0001964985890000055
S3、当
Figure BDA0001964985890000056
时停止迭代,其中E(V)是公式一的目标函数。
假设V0,ζ0为任意实数,σ,τ>0,则数列(Vkk)通过原始对偶算法收敛到鞍点问题的鞍点 (V**)。
进一步的,步骤8)中,均方误差、峰值信噪比、结构相似度分别为:
1)均方误差(MSE):
Figure BDA0001964985890000057
2)峰值信噪比(PSNR):
Figure BDA0001964985890000058
3)结构相似度(SSIM):
Figure BDA0001964985890000059
其中,ftrue和f分别是原始图像和着色后的图像,M×N是图像大小,μx,μy分别是ftrue和f的平均值,
Figure BDA00019649858900000510
分别是ftrue和f的方差,σxy是ftrue和f的协方差。
进一步地,本发明所用的软件为MATLABr2018a。
进一步地,本发明的实验环境为:Windows 10,处理器:Intel(R)Core(TM)i7-5500U CPU@ 2.40GHz 2.40GHz;内存:4.00GB;系统类型:64位操作系统,基于x64的处理器。
本发明采用上述方案,能产生如下效果:
本发明公开了一种基于耦合自然矢量全变差的保边缘图像着色方法,通过采用TVJ正则项,可以在所用通道之间仅产生一个共同的边缘方向,实现通道之间更好的耦合,对于图像边缘不明显的情况,本发明可以通过颜色之间的差异检测到色度边缘,从而使得颜色在图像边缘处停止扩散,达到保边缘的作用。
附图说明
图1为本发明的示意图;
图2为本发明的带有人工着色区域的灰度纹理图;
图3为本发明的图2中图像对应的纹理图原始图;
图4为本发明的图2中(a)图的着色结果,图 4 的 (a)为Levin方法的着色结果,图4 的 (b)为Yatziv方法的着色结果,图 4 的 (c)为Kang方法的着色结果,图 4 的 (d)为Jin方法的着色结果,图 4 的 (e)为本发明的着色结果;
图5为本发明的图2中(b)图的着色结果,图 5 的 (a)为Levin方法的着色结果,图5 的 (b)为Yatziv方法的着色结果,图 5 的 (c)为Kang方法的着色结果,图 5 的 (d)为Jin方法的着色结果,图 5 的 (e)为本发明的着色结果;
图6为本发明的图2中(c)图的着色结果,图 6 的 (a)为Levin方法的着色结果,图6 的 (b)为Yatziv方法的着色结果,图 6 的 (c)为Kang方法的着色结果,图 6 的 (d)为Jin方法的着色结果,图 6 的 (e)为本发明的着色结果;
图7为本发明的图2中(d)图的着色结果,图 7 的 (a)为Levin方法的着色结果,图7 的 (b)为Yatziv方法的着色结果,图 7 的 (c)为Kang方法的着色结果,图 7 的 (d)为Jin方法的着色结果,图 7 的 (e)为本发明的着色结果;
图8为本发明的图2中(e)图的着色结果,图 8 的 (a)为Levin方法的着色结果,图8 的 (b)为Yatziv方法的着色结果,图 8 的 (c)为Kang方法的着色结果,图 8 的 (d)为Jin方法的着色结果,图 8 的 (e)为本发明的着色结果;
图9为本发明的图4中着色结果的白框标记处的局部放大图,图 9 的 (a)为Levin方法的着色结果,图 9 的 (b)为Yatziv方法的着色结果,图 9 的 (c)为Kang方法的着色结果,图 9 的 (d)为Jin方法的着色结果,图 9 的 (e)为本发明的着色结果;
图10为本发明的图5中着色结果的白框标记处的局部放大图,图 10 的 (a)为Levin方法的着色结果,图 10 的 (b)为Yatziv方法的着色结果,图 10 的 (c)为Kang方法的着色结果,图 10 的 (d)为Jin方法的着色结果,图 10 的 (e)为本发明的着色结果;
图11为本发明的图6中着色结果的白框标记处的局部放大图,图 11 的 (a)为Levin方法的着色结果,图 11 的 (b)为Yatziv方法的着色结果,图 11 的 (c)为Kang方法的着色结果,图 11 的 (d)为Jin方法的着色结果,图 11 的 (e)为本发明的着色结果;
图12为本发明的图7中着色结果的白框标记处的局部放大图,图 12 的 (a)为Levin方法的着色结果,图 12 的 (b)为Yatziv方法的着色结果,图 12 的 (c)为Kang方法的着色结果,图 12 的 (d)为Jin方法的着色结果,图 12 的 (e)为本发明的着色结果;
图13为本发明的图8中着色结果的白框标记处的局部放大图,图 13 的 (a)为Levin方法的着色结果,图 13 的 (b)为Yatziv方法的着色结果,图 13 的 (c)为Kang方法的着色结果,图 13 的 (d)为Jin方法的着色结果,图 13 的 (e)为本发明的着色结果;
图14为本发明的带有人工着色区域的灰度结构图及对应的原始图;
图15为本发明的图14中(a)图的着色结果,图 15 的 (a)为Levin方法的着色结果,图 15 的 (b)为Yatziv方法的着色结果,图 15 的 (c)为Kang方法的着色结果,图 15的 (d)为Jin方法的着色结果,图 15 的 (e)为本发明的着色结果;
图16为本发明的图14中(c)图的着色结果,图 16 的 (a)为Levin方法的着色结果,图 16 的 (b)为Yatziv方法的着色结果,图 16 的 (c)为Kang方法的着色结果,图 16的 (d)为Jin方法的着色结果,图 16 的 (e)为本发明的着色结果;
图17为本发明的图15中着色结果的白框标记处的局部放大图,图 17 的 (a)为Levin方法的着色结果,图 17 的 (b)为Yatziv方法的着色结果,图 17 的 (c)为Kang方法的着色结果,图 17 的 (d)为Jin方法的着色结果,图 17 的 (e)为本发明的着色结果;
图18为本发明的图16中着色结果的白框标记处的局部放大图,图 18 的 (a)为Levin方法的着色结果,图 18 的 (b)为Yatziv方法的着色结果,图 18 的 (c)为Kang方法的着色结果,图 18 的 (d)为Jin方法的着色结果,图 18 的 (e)为本发明的着色结果。
具体实施方式
下面结合说明书附图对本发明进行进一步的详细说明。以下实施仅用于说明本发明的实施方案,并不能以此来限定本发明。
如图1-图 18所示,一种基于耦合自然矢量全变差的保边缘图像着色方法,该方法基于源彩色图像和目标灰度图像,主要包含四个部分:(1)颜色空间转换;(2)建立着色模型;(3)用原始对偶算法求解提出的着色模型;(4)颜色空间转换,输出最终着色图像。
本发明的具体步骤如下:
步骤1)、对于一幅RGB颜色空间下的彩色图像,在该图像上画上黑色线条,得到图像1;
步骤2)、采用MATLAB将图像1转化为带彩色线条的灰度图像2,即含有人工着色区域Dc的图像,其中
Figure BDA0001964985890000071
为含有利普希茨边界的图像区域,
Figure BDA0001964985890000072
为待着色区域;
步骤3)、将图像2由RGB颜色空间内的图像转变为YCbCr颜色空间上的图像3,得到图像3在区域Ω上的亮度信息Y0和在人工着色区域Dc上的色度信息(Cb0,Cr0),其中YCbCr颜色空间进行归一化处理,可采用常规处理,不作赘述;
步骤4)、建立基于变分的着色模型:
Figure BDA0001964985890000081
其中,
Figure BDA0001964985890000082
公式一中第一项∫Ωg(|Δ(Gσ*Y0)|)J1V为耦合全变差正则项,第二项
Figure BDA0001964985890000083
为保真项,其中, g为单调递减函数,设为
Figure BDA0001964985890000084
Δ为拉普拉斯算子,定义为
Figure BDA0001964985890000085
Gσ为高斯核,λ为权重系数,用于平衡正则项和保真项。
本发明的着色模型利用了矢量全变分TVJ=∫ΩJ1Vsx,其中J1V与导数矩阵DV的最大奇异值σ1(DV)相关,即J1V=σ1(DV),其中
Figure BDA0001964985890000086
该矢量全变分可以用对偶公式写为:
Figure BDA0001964985890000087
从对偶公式可知,在该矢量TV中,仅存在一个共同的边缘方向ξ,其在各个通道之间被加权,从而可以更有效地保留图像边缘。
根据对偶公式,公式一中的正则项可以写为:
Figure BDA0001964985890000088
其中,ζ是向量值函数
Figure BDA0001964985890000089
是克罗内克积
Figure BDA00019649858900000810
的凸包,Div是散度算子,定义如下:
Figure BDA00019649858900000811
步骤5)、结合亮度信息Y0和人工着色区域Dc上的色度信息(Cb0,Cr0),根据步骤4)中的着色模型利用原始对偶算法求解YCbCr颜色空间中的最优色度值(Cb,Cr),亮度信息Y0在着色过程中不变;
原始对偶算法求解过程如下:
根据TVJ的对偶定义,可以得到如下的鞍点问题:
Figure BDA0001964985890000091
其中
Figure BDA0001964985890000092
δS为指示函数:
Figure BDA0001964985890000093
当得到第k次的迭代解(Vk,ζk)时,原始对偶算法更新解的过程如下:
a1.更新变量ζ
固定V=Vk,则变量ζ计算如下:
Figure BDA0001964985890000094
其中ProjS(A)=Udiag(σP)VT,其中σP是(σ1,…,σn)到对偶求 {x∈Rn:Σ|xi|≤g}的投影。
a2.更新变量V
固定ζ=ζk,则变量V计算如下:
Figure BDA0001964985890000095
根据上述结果,最终算法如下:
S1、初始化:令τ0>0,σ0>0,V0=0,ζ0=0,
Figure BDA0001964985890000096
S2、迭代:按如下方式迭代更新变量ζk,Vk,
Figure BDA0001964985890000101
δkkk:
ζk+1=ProjSk+σGrad(Vk))
Vk+1=ProjV(Vk-τDiv(ζk+1))
Figure BDA0001964985890000102
Figure BDA0001964985890000103
S3、当
Figure BDA0001964985890000104
时停止迭代,其中E(V)是公式一中的目标函数。
假设V0,ζ0为任意实数,σ,τ>0,则数列(Vkk)通过原始对偶算法收敛到鞍点问题的鞍点 (V**)。
步骤6)、将得到的区域Ω上的色度信息(Cb,Cr)和亮度信息Y0联合,得到YCbCr颜色空间中的图像 4;
步骤7)、将图像4由YCbCr颜色空间内的图像转变为RGB颜色空间内的图像5,图像5即为最终的着色图像;
步骤8)、对步骤7)中得到的图像5用均方误差(MSE)、峰值信噪比(PSNR)、结构相似度(SSIM)作为评价指标得到其数值结果。
三个评价指标具体如下:
1)均方误差(MSE):
Figure BDA0001964985890000105
2)峰值信噪比(PSNR):
Figure BDA0001964985890000106
3)结构相似度(SSIM):
Figure BDA0001964985890000107
其中,ftrue和f分别是原始图像和着色后的图像,M×N是图像大小,μxy分别是ftrue和f的平均值,
Figure BDA0001964985890000111
分别是ftrue和f的方差,σxy是ftrue和f的协方差。
PSNR、SSIM的值越大,或MSE值越小,则模型的着色效果越好。
实施例1
本发明选择的实验环境为MATLABr2018a,实验所用电脑配置为:Windows 10,处理器:Intel(R) Core(TM)i7-5500U CPU@2.40GHz 2.40GHz;内存:4.00GB;系统类型:64位操作系统,基于x64的处理器。在下面的实验中,用ΔY0替换Δ(Gσ*Y0),高斯核Gσ和亮度信息Y0的卷积用于数学分析。基于耦合全变分的着色模型公式一中的参数:权重系数λ和单调递减函数g中的参数τ的取值为使峰值信噪比 PSNR达到最大时的值。对于算法的终止准则,设Tol=1.0×10-4,将本发明模型和现有的Levin模型、 Yatziv模型、Kang模型、Jin模型进行着色结果评价,结果如表1-2所示,表1为纹理图着色结果比较,表2为结构图着色结果比较。
表1
Figure BDA0001964985890000112
Figure BDA0001964985890000121
表2
Figure BDA0001964985890000122
从纹理图的着色后图像中可以看出Levin模型对于图2中(a)图和图2中(d)图存在颜色越界现象。使用Yatziv模型着色后的图像颜色均发生了明显的变化。在Kang模型的着色结果图中有部分区域未实现着色。和本发明模型相比,Jin模型的着色效果也不是很好,参看图4和图5。观察着色结果图4-图8,本发明所提方法可以有效保留颜色边缘,防止颜色越界,具有较好的着色效果。
在图9-图13中,我们罗列了图4-图8中着色后图像的放大区域,该区域在图4-图8中用黄框标记。可以看出,使用本发明模型着色后的图像与原始彩色图像更接近。从图9和图12可以看出Levin模型着色时存在颜色越界现象。对于图2中所有纹理图,Yatziv模型着色后的图像颜色和原始图像颜色有一定差距。Kang模型的着色结果也较差,在部分区域未实现着色,特别是对于图2中(c)图、图2中(d)图和图 2中(e)图的放大区域。此外,在图9和图12中,Jin模型在着色时也存在颜色越界现象,这是由于Jin模型中的扩散函数g(|Δ(Gσ*Y0)|)不能检测到纹理图的亮度边缘,从而出现了颜色越界现象。相比这些方法,本发明所提方法由于使用自然矢量全变差从而使得着色后的图像颜色边缘可以很好地保留。
本发明所提方法不仅可以对纹理图进行着色,对于结构图也和其他方法一样有较好的着色结果。具体可参看图15和图16。Levin模型对于图14中(a)图有些许的颜色越界,Yatziv模型对于图14中(a)图和图14中(c)图均存在颜色变化现象。在图15中,Kang模型着色后的图像存在颜色越界和部分区域未着色。使用Jin模型对图14中(a)图着色时颜色跨越了边界,同时该方法在图像底部使得颜色发生了变化。相比以上方法,本发明所提方法具有较好的着色结果,其颜色更接近原始彩色图像。以上结果可以在图17-图 18的放大区域中清晰地观察到。从图15-图 18可以看出,本发明所提方法对于结构图也有较好的着色效果。
表1、表2给出了图4-图 8、图15-图 16所示着色后图像的PSNR、MSE和SSIM值,从表1-表 2中可以看出,本发明所提方法相比其他方法着色效果更好。
以上所述是对本发明的实施方案所做的详细说明,对于本技术领域的普通技术人员,在不脱离本发明技术的前提下,还可以做出若干改进,同属于本发明的保护范围。

Claims (4)

1.基于耦合自然矢量全变差的保边缘图像着色方法,其特征在于,包括如下步骤:
步骤1)、对于一幅RGB颜色空间下的彩色图像,在该图像上画上黑色线条,得到图像1;
步骤2)、采用MATLAB将图像1转化为带彩色线条的灰度图像2,即含有人工着色区域Dc的图像,其中
Figure FDA0003685538880000011
为含有利普希茨边界的图像区域,
Figure FDA0003685538880000012
为待着色区域;
步骤3)、将灰度图像2由RGB颜色空间内的图像转变为YCbCr颜色空间上的图像3,得到图像3在区域Ω上的亮度信息Y0和在人工着色区域Dc上的色度信息(Cb0,Cr0),亮度信息Y0在着色过程中不变;
步骤4)、根据以下公式建立基于耦合全变分的着色模型:
Figure FDA0003685538880000013
其中,
Figure FDA0003685538880000014
其中,∫Ωg(|Δ(Gσ*Y0)|)J1V为耦合全变差正则项,
Figure FDA0003685538880000015
为保真项,Gσ为高斯核,λ为权重系数,用于平衡正则项和保真项,J1V表示自然矢量全变差,g为单调递减函数,设
Figure FDA0003685538880000016
Figure FDA00036855388800000110
Δ为拉普拉斯算子,拉普拉斯的定义为:
Figure FDA0003685538880000017
利用矢量全变分TVJ=∫ΩJ1Vdx,其中J1V与导数矩阵DV的最大奇异值σ1(DV)相关,即J1V=σ1(DV),其中,
Figure FDA0003685538880000018
该矢量全变分可以用对偶公式写为:
Figure FDA0003685538880000019
该矢量TV在所有通道中,仅产生一个共同的边缘方向ξ,从而可以更有效地保留图像边缘,其中,div是散度算子;
步骤5)、结合亮度信息Y0和色度信息(Cb0,Cr0),根据步骤4)中的着色模型利用原始对偶算法求解区域Ω中的色度信息(Cb,Cr);
步骤6)、将得到的区域Ω上的色度信息(Cb,Cr)和亮度信息Y0联合,得到YCbCr颜色空间中的图像4;
步骤7)、将图像4由YCbCr颜色空间内的图像转变为RGB颜色空间内的图像5,图像5即为最终的着色图像;
步骤8)、对步骤7)中得到的图像5用峰值信噪比、均方误差、结构相似度作为评价指标得到其数值结果,峰值信噪比和结构相似度值越大,或均方误差值越小,着色效果越好。
2.根据权利要求1所述的基于耦合自然矢量全变差的保边缘图像着色方法,其特征在于,步骤3)中,所选择的YCbCr颜色空间进行归一化处理。
3.根据权利要求1所述的基于耦合自然矢量全变差的保边缘图像着色方法,其特征在于,步骤5)中,原始对偶算法的步骤包括:将耦合全变分模型转变为鞍点问题;使用原始对偶算法进行交替迭代求解获得最优解;
原始对偶算法求解过程如下:
根据TVJ的对偶定义,可以得到如下的鞍点问题:
Figure FDA0003685538880000021
其中,
Figure FDA0003685538880000022
是克罗内克积
Figure FDA0003685538880000023
的凸包,δS为指示函数:
Figure FDA0003685538880000024
且Div(ζ)为散度算子,如下:
Figure FDA0003685538880000025
当得到第k次的迭代解(Vk,ζk)时,原始对偶算法更新解的过程如下:
a1.更新变量ζ
固定V=Vk,则变量ζ计算如下:
Figure FDA0003685538880000026
已知,A的奇异值分解为A=U∑VT,则Projs(A)=Udiag(σP)VT,其中σP是(σ1,…,σn)到对偶求 {x∈Rn:∑|xi|≤g}的投影;
a2.更新变量V
固定ζ=ζk,则变量V计算如下:
Figure FDA0003685538880000027
Figure FDA0003685538880000031
根据上述结果,最终算法如下:
S1、初始化:令τ0>0,σ0>0,V0=0,ζ0=0,
Figure FDA0003685538880000032
S2、迭代:按如下方式迭代更新变量ζk,Vk
Figure FDA0003685538880000033
σk,τk,θk
ζk+1=Projsk+σGrad(Vk))
Vk+1=ProjV(Vk-τDiv(ζk+1))
Figure FDA0003685538880000034
Figure FDA0003685538880000035
S3、当
Figure FDA0003685538880000036
时停止迭代,其中E(V)是公式一的目标函数;
假设V0,ζ0为任意实数,σ,τ>0,则数列(Vk,ζk)通过原始对偶算法收敛到鞍点问题的鞍点(V*,ζ*)。
4.根据权利要求1所述的基于耦合自然矢量全变差的保边缘图像着色方法,其特征在于,步骤8)中,均方误差、峰值信噪比、结构相似度分别为:
1)均方误差MSE:
Figure FDA0003685538880000037
2)峰值信噪比PSNR:
Figure FDA0003685538880000038
3)结构相似度SSIM:
Figure FDA0003685538880000039
其中,ftrue和f分别是原始图像和着色后的图像,M×N是图像大小,μx,μy分别是ftrue和f的平均值,
Figure FDA00036855388800000310
分别是ftrue和f的方差,σxy是ftrue和f的协方差。
CN201910098196.5A 2019-01-31 2019-01-31 基于耦合自然矢量全变差的保边缘图像着色方法 Active CN109816737B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910098196.5A CN109816737B (zh) 2019-01-31 2019-01-31 基于耦合自然矢量全变差的保边缘图像着色方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910098196.5A CN109816737B (zh) 2019-01-31 2019-01-31 基于耦合自然矢量全变差的保边缘图像着色方法

Publications (2)

Publication Number Publication Date
CN109816737A CN109816737A (zh) 2019-05-28
CN109816737B true CN109816737B (zh) 2022-08-09

Family

ID=66606106

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910098196.5A Active CN109816737B (zh) 2019-01-31 2019-01-31 基于耦合自然矢量全变差的保边缘图像着色方法

Country Status (1)

Country Link
CN (1) CN109816737B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112991371B (zh) * 2021-04-20 2024-01-05 云南大学 一种基于着色溢出约束的图像自动着色方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110022375A1 (en) * 2007-11-14 2011-01-27 Universite Henri Poincare Nancy 1 Method for reconstructing a signal from distorted experimental measurements and device for its implementation
CN102779351A (zh) * 2012-06-08 2012-11-14 温州大学 基于局部线性模型优化的交互式灰度图像彩色化方法
CN105761292A (zh) * 2016-02-29 2016-07-13 南京邮电大学 一种基于颜色转移和修正的图像着色方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110022375A1 (en) * 2007-11-14 2011-01-27 Universite Henri Poincare Nancy 1 Method for reconstructing a signal from distorted experimental measurements and device for its implementation
CN102779351A (zh) * 2012-06-08 2012-11-14 温州大学 基于局部线性模型优化的交互式灰度图像彩色化方法
CN105761292A (zh) * 2016-02-29 2016-07-13 南京邮电大学 一种基于颜色转移和修正的图像着色方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于Prewitt算子的耦合全变差图像着色算法;金正猛等;《南京邮电大学学报(自然科学版)》;20161031;第36卷(第5期);第30-35页 *

Also Published As

Publication number Publication date
CN109816737A (zh) 2019-05-28

Similar Documents

Publication Publication Date Title
CN109754377B (zh) 一种多曝光图像融合方法
Xiang et al. Selective color transfer with multi-source images
CN104537634B (zh) 动态图像中去除雨滴影响的方法和系统
CN105118076B (zh) 基于过度分割和局部与全局一致性的图像彩色化方法
CN105046653B (zh) 一种视频雨滴去除方法及系统
CN103617596A (zh) 一种基于流型转换的图像色彩风格变换方法
EP4057609B1 (en) Method and apparatus for image correction
CN105761292B (zh) 一种基于颜色转移和修正的图像着色方法
Dong et al. Fast local color transfer via dominant colors mapping
CN106651817A (zh) 一种基于非抽样Contourlet的图像增强方法
CN105184748A (zh) 图像比特深度增强方法
Pierre et al. Luminance-hue specification in the RGB space
CN109816737B (zh) 基于耦合自然矢量全变差的保边缘图像着色方法
CN106296749B (zh) 基于l1范数约束的rgb-d图像本征分解方法
Kuzovkin et al. Descriptor-based image colorization and regularization
Titus et al. Fast colorization of grayscale images by convolutional neural network
CN111311517B (zh) 基于抠图的颜色校正优化方法
Min et al. Color edge preserving image colorization with a coupled natural vectorial total variation
Jimenez-Arredondo et al. Multilevel color transfer on images for providing an artistic sight of the world
CN111127618A (zh) 一种实时渲染时的纹理调色方法及装置
CN109672874A (zh) 一种时空一致的立体视频颜色校正方法
Dalmau-Cedeno et al. Computing the α-channel with probabilistic segmentation for image colorization
Yuan et al. Full convolutional color constancy with adding pooling
Sundararajan et al. Color image processing
CN103440652A (zh) 一种基于一二阶合并的目标检测区域特征描述方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant