CN110310241A - 一种融合深度区域分割的多大气光值交通图像去雾方法 - Google Patents
一种融合深度区域分割的多大气光值交通图像去雾方法 Download PDFInfo
- Publication number
- CN110310241A CN110310241A CN201910559582.XA CN201910559582A CN110310241A CN 110310241 A CN110310241 A CN 110310241A CN 201910559582 A CN201910559582 A CN 201910559582A CN 110310241 A CN110310241 A CN 110310241A
- Authority
- CN
- China
- Prior art keywords
- image
- sky
- haze
- light value
- indicate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000011218 segmentation Effects 0.000 title claims abstract description 53
- 238000000034 method Methods 0.000 title claims abstract description 31
- 230000004927 fusion Effects 0.000 title claims abstract description 12
- 238000012360 testing method Methods 0.000 claims abstract description 27
- 238000001914 filtration Methods 0.000 claims abstract description 26
- 238000012549 training Methods 0.000 claims abstract description 14
- 230000008569 process Effects 0.000 claims abstract description 6
- 238000010801 machine learning Methods 0.000 claims abstract description 3
- 238000010586 diagram Methods 0.000 claims description 23
- 239000011159 matrix material Substances 0.000 claims description 21
- 230000006870 function Effects 0.000 claims description 19
- 230000005540 biological transmission Effects 0.000 claims description 14
- 238000002834 transmittance Methods 0.000 claims description 8
- 239000003595 mist Substances 0.000 claims description 7
- JHIVVAPYMSGYDF-UHFFFAOYSA-N cyclohexanone Chemical compound O=C1CCCCC1 JHIVVAPYMSGYDF-UHFFFAOYSA-N 0.000 claims description 6
- 239000000284 extract Substances 0.000 claims description 5
- 238000001514 detection method Methods 0.000 claims description 4
- 230000015572 biosynthetic process Effects 0.000 claims description 3
- 230000001186 cumulative effect Effects 0.000 claims description 3
- 238000004519 manufacturing process Methods 0.000 claims description 3
- 238000005070 sampling Methods 0.000 claims description 3
- 238000003786 synthesis reaction Methods 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 238000000638 solvent extraction Methods 0.000 claims description 2
- 241000208340 Araliaceae Species 0.000 claims 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 claims 1
- 235000003140 Panax quinquefolius Nutrition 0.000 claims 1
- 235000008434 ginseng Nutrition 0.000 claims 1
- 238000013527 convolutional neural network Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000002146 bilateral effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000003709 image segmentation Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000003245 coal Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 235000013372 meat Nutrition 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000000926 neurological effect Effects 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
- 238000013441 quality evaluation Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000007670 refining Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G06T5/73—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20192—Edge enhancement; Edge preservation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30168—Image quality inspection
Abstract
本发明公开了一种融合深度区域分割的多大气光值交通图像去雾方法,首先制作雾霾图像数据集,然后利用雾霾图像数据集为输入,训练雾霾图像深度分割器,让机器学习雾霾天气下天空和非天空区域的特征;采集雾霾天气下用于测试的交通图像;采用雾霾图像深度分割器对采集的交通图像进行分割,得到天空区域和非天空区域,求取天空区域和非天空区域的大气光值和透射率,加权平均后,得到综合大气光值和综合透射率;利用快速引导滤波对综合透射率细化处理,重构无雾交通场景图片。
Description
技术领域
本发明属于图像处理技术领域,具体涉及一种融合深度区域分割的多大 气光值交通图像去雾方法。
背景技术
大气污染物是一个待解决的环境问题,其来源有很多,电厂煤炭发电, 路上车排放的尾气,工厂排放的废气等,导致雾霾天气频发。细分地说,雾 是液体颜色偏白,霾是固体颜色偏黄且有害,二者结合就产生了灰暗色调的 雾霾。空气中的雾霾,会使得图像在被采集的过程中发生降质。雾霾越重, 图像质量越差。在公路交通视频监控、无人机航拍、卫星遥感等领域,往往 需要利用采集到的高质量视频图像进行后续的检测、识别、分类等任务,低 质量雾霾图像显然不能满足其输入要求,因此去雾的研究有很大意义。
现阶段,以去雾本质是否基于大气散射模型将算法分成两大类,基于非 物理模型的图像增强去雾和基于物理模型参数先验的图像重构去雾,从效果 上看,结合雾霾物理成像模型的方法有更好的结果图。但是已有的去雾算法 在重构还原图像的时候,由于没有处理好天空区域和场景区域的关系,往往 会使结果图的整体亮度下降或者出现光晕现象,严重的会出现失真。
发明内容
本发明的目的在于提供一种融合深度区域分割的多大气光值交通图像去 雾方法,以克服现有技术存在的缺陷,本发明提出了一种专门处理雾霾图像 的深度分割器,通过机器学习的方法对雾霾图像的天空和场景区域进行特征 学习,将图像分割应用到去雾中去,填补了原有分割算法对雾天降质图像的 应用空缺,改善了基于物理模型去雾的模型参数大气光和投射率的估计不足。
为达到上述目的,本发明采用如下技术方案:
一种融合深度区域分割的多大气光值交通图像去雾方法,包括以下步骤:
步骤1:制作雾霾图像数据集;
步骤2:利用步骤1中的雾霾图像数据集为输入,训练雾霾图像深度分 割器,让机器学习雾霾天气下天空和非天空区域的特征;
步骤3:采集雾霾天气下用于测试的交通图像;
步骤4:采用步骤2中雾霾图像深度分割器对步骤3采集的交通图像进 行分割,得到天空区域和非天空区域,求取天空区域和非天空区域的大气光 值和透射率,加权平均后,得到综合大气光值和综合透射率;
步骤5:利用快速引导滤波对步骤4中的综合透射率细化处理,重构无 雾交通场景图片。
进一步地,步骤1中制作雾霾图像数据集的方法为:
步骤1.1:在含雾的天气下,沿着交通路线,拍摄各个路口,整理成9 个视频和1000张图片,对含有天空和非天空区域的图片进行筛选,最终确定 264张真实交通场景图像,做成初始雾霾图像数据集;
步骤1.2:对步骤1.1中初始雾霾图像数据集的图片进行标注,即采用 github开源工具labelme对雾天场景的天空和非天空区域进行分割,最终得到 的雾霾图像数据集包含四类文件,第一类文件是步骤1.1中初始雾霾图像数 据集,第二类文件是对第一类文件标注后生成的标签文件,第三类文件是通 过第二类文件的标签信息生成的数据集,第四类文件是从第三类文件中提取 的分割图片集合,共有两类,分为天空区域和非天空区域。
进一步地,步骤2具体为:
步骤2.1:搭建Mask R-CNN网络
网络第一部分使用了残差网络ResNet对初始雾霾图像数据集中的雾霾 图像的结构和纹理特征进行提取;
网络第二部分是候选区生成网络RPN,候选区生成网络RPN依赖于一 个滑动的窗口,在网络第一部分输出的特征图上遍历,为每一个像素点生成 9种目标框,对于生成的目标框,首先通过目标框与第三类文件中含有标签 信息数据集中图片的的交叠比判断当前目标框属于前景还是背景,交叠比大 于0.5认为是前景,小于0.3认为是背景,交叠比在0.3和0.5之间的目标框 舍弃;然后在判断出目标框为前景的情况下,对其区域的坐标进行依次修正, 整个候选区生成网络RPN的损失函数如式(1):
其中,pi为目标框预测为目标的概率,在正标签是值为1,其他全为0, ti={tx,ty,tw,th}是一个向量,表示预测的目标框的4个参数化坐标,是前 景部分目标框对应的真实标签坐标向量,是目标和非目标的对数损 失,是回归损失,λ为10,Ncls为256,Nreg设为2400,以确保两部 分损失平衡;
网络第三部分是分类输出,一共有三个输出分支,第一个分支中,每一 类都输出一张分割预测图;第二个分支,得到目标框的位置信息输出;第三 个分支,得到类别的输出,这三个分支的输出组合成了最终的结果,包含有 目标检测、识别和分割,总体损失函数为:
Lfinal=L({pi},{ti})+(Lcls+Lbox+Lmask) (2)
其中L({pi},{ti})表示RPN部分的损失,Lcls、Lbox、Lmask分别表示类别、目 标框、分割部分的损失;
对步骤1中的雾霾图像数据集进行训练,当总体损失函数Lfinal小于0.01 时,跳出训练过程;
步骤2.2:对步骤1中获得的图像进行模糊C均值聚类
首先获取步骤1中雾霾图像的暗通道图,求取暗通道的公式表示为:
其中,表示训练集中图像的暗通道图,c表示RGB的某个通道, 表示训练集中图像对应通道的原图,Ω(x)是计算暗通道的算子滑块大小;
然后对暗通道图进行模糊C均值聚类;
使用随机算法生成一组数据,利用不确定的数据初始化隶属度矩阵U, 使其符合式:
其中,c表示聚类中心的个数,uij表示索引为(i,j)的隶属度;
计算出聚类中心的个数c,符合下式:
其中,c为模糊组的中心的个数,uij表示索引为(i,j)的隶属度,m表 示控制算法的柔性参数,n是需要分类的样本数量;
设置阈值判断条件,使算法执行或者跳出,以达到损失函数要求,损失 函数表示为:
其中,ci为第i个模糊组的中心,U为隶属度矩阵,uij表示索引为(i,j) 的隶属度,介于0到1间,dij=||ci-xj||为第j个数据与第i个中心与的欧式 距离,m表示控制算法的柔性参数;
计算每一次迭代后的U矩阵,其中矩阵中每个元素满足:
其中,c为模糊组的中心的个数,uij表示索引为(i,j)的隶属度,m表 示控制算法的柔性参数,dij=||ci-xj||为第j个数据与第i个中心与的欧式距 离,dkj=||ck-xj||为第j个数据与第k个中心与的欧式距离;
总体损失函数为:
其中,U为隶属度矩阵,c为模糊组的中心的个数,uij表示索引为(i,j) 的隶属度,λj表示第索引为j的平衡系数,m表示控制算法的柔性参数,dij为 第j个数据与第i个中心与的欧式距离;
步骤2.3:综合步骤2.1和步骤2.2算法,得到雾霾图像深度分割器。
进一步地,步骤4中求取综合大气光值和综合透射率的方法为:
步骤4.1:利用步骤2中得到的雾霾图像深度分割器,对步骤3中采集的 测试图像分割,得到雾霾天气下交通图像的天空区域图像Isky,非天空区域 图像Inon-sky;
步骤4.2:利用步骤4.1中的Isky,Inon-sky求综合大气光值;
先求出步骤3中测试图像的暗通道图,
其中,表示测试图像的暗通道图,c表示RGB的某个通道,表示测试图像对应通道的原图,Ω(x)是计算暗通道的算子滑块大小;
结合步骤4.1中Isky,Inon-sky,对进行分割,得到只含天空区域 的暗通道图和只含非天空区域的暗通道图
找出图像和中亮度值为从小到大排列后前千分之一点的 坐标,将得到的坐标映射到步骤3中的测试图像中,提取出相应点的像素值, 累加之后取平均值,得到需要的大气光;
其中,Asky对应天空区域Isky的大气光值矩阵,Anon-sky对应非天空区域 的大气光值矩阵,n1和n2分别表示Asky和Anon-sky的元素个数,和 表示天空和非天空区域的大气光值;
综合和得到综合大气光值
其中,和表示天空和非天空区域的大气光值,Azongh表示 综合大气光值;
步骤4.3:求透射率图
初始透射率计算的计算如下
其中,为估计的初始透射率,ω为影响因子,Ω(x)为计算暗通道的算 子滑块大小,Ic(x)为步骤3中测试图像对应RGB三通道的图像,为某 一通道对应的大气光值。
进一步地,步骤5中还原无雾图像的方法为:
以初始透射率图为输入图像,步骤3中的测试图像为引导图像,输 出图像为最终的透射率图t(x),采用快速引导滤波对初始透射率细化,首先对 输入图像和引导图像以步长为4进行下采样,得到缩小尺寸的输入图像p′和 引导图像I′;
之后对输入图像p′和引导图像I′进行引导滤波:
q′in=∑jnWinjn(I′)p′jn (14)
其中,I′为缩小尺寸的引导图像,in,jn是图像像素的索引,缩小尺寸的 输入图像的像素点为p′jn,输出图像像素点为q′in,Winjn是由输入图像和引导图 像组成的滤波核函数;
假设滤波过程为成局部的线性变换,滤波后的输出图像表示为:
其中,ak和bk是以像素k为中心的滑框系数;
对比输入输出图像的差异,将误差降到最低,则得到
其中,μk和分别表示引导图像I′在局部窗口ωk中的均值和方差,是缩 小尺寸的输入图像p′在窗口ωk中的均值;
然后对式(15)中的输出图像进行上采样,恢复到原有尺寸大小,得到输 出图像为qin;
公式为:
其中,
重构图像公式为
其中,I(x)表示步骤3中的测试图像,Azonghe表示综合大气光值,t(x)为 经过快速引导滤波后的透射率图,即为式(18)的结果图qin,t0为正则化项, 取0.15。
与现有技术相比,本发明具有以下有益的技术效果:
对于从雾霾天气下获得的交通图像,传统暗通道去雾算法先取暗通道图 中灰度值前千分之一像素对应的位置,然后映射到原图,取平均值作为大气 光值,这样会导致图像整体亮度很低。其根本原因是没有考虑天空区域和非 天空区域的关系。本发明中兼顾天空区域与非天空区域的关联信息,提出一 种新的雾霾图像深度分割器,该分割器融合了Mask R-CNN神经网络和模糊 C均值(FCM)聚类的优点,对雾天降质图像进行分割。对分割后得到的天 空和非天空区域分别处理,细化透射率后,得到去雾后图像。对比当前图像 分割技术,本发明提出的雾霾图像深度分割器(DRSH)能够更好地适应雾 霾图像。兼顾了天空和非天空区域信息,去雾后的图像更加接近真实无雾场 景图像,克服了传统算法不适用于天空区域的缺陷。
附图说明
图1是本发明的流程示意图;
图2是本发明与其他图像去雾算法的结果图对比,其中,(a)为雾霾图 像,(b)雾霾图像深度分割器分割的非天空区域图像,(c)雾霾图像深度分 割器分割的天空区域图像,(d)暗通道去雾后图像,(e)双边滤波去雾后图 像,(f)引导滤波去雾后图像,(g)DehazeNet去雾后图像,(h)本发明去 雾后的图像。
具体实施方式
下面结合附图对本发明作进一步详细描述:
参见图1,本发明提供了一种融合深度区域分割的多大气光值交通图像 去雾算法,提出了雾霾图像深度分割器,让分割器对雾霾图像数据集进行学 习,完成对天空和非天空区域的分割。对分割后的图像分别处理,综合细化。 具体的思路是,考虑到传统暗通道去雾对天空区域的估计不足,导致图像整 体亮度偏暗,现设计一种雾霾图像深度分割器,综合了有监督的神经网络 Mask R-CNN和无监督的聚类算法FCM的优点,完成对雾霾天气下严重降质 图像的天空和非天空区域分割,对分割后的两个区域分别求取大气光值,加 权平均得到综合大气光值,利用综合大气光值估计初始透射率,利用快速引 导滤波细化透射率,最后结合大气散射模型重构无雾图像。
具体步骤如下:
步骤1、制作雾霾图像数据集;
在含雾的天气下,沿着交通路线,拍摄各个路口,整理成9个视频和1000 张图片,对含有天空和非天空区域的图片进行筛选,最终确定264张真实交 通场景图像,做成初始雾霾图像数据集;
对初始雾霾图像数据集的图片进行标注,这里只对雾天场景的天空和非 天空区域进行分割,选用的是github开源工具labelme,整个数据集制作完成 需要包含四类文件,第一类文件是初始雾霾图像数据集,第二类文件是对第 一类文件标注后生成的标签文件,第三类文件是通过第二类文件的标签信息 生成的数据集,第四类文件是从第三类文件中提取的分割图片集合,共有两 类,分为天空区域和非天空区域。
步骤2、利用步骤1中的雾霾数据集为输入,训练雾霾图像深度区域分 割器,让机器学习雾霾天气下天空和非天空区域的特征;
搭建Mask R-CNN网络,网络一共分为三个部分。
网络第一部分使用了残差网络ResNet对初始雾霾图像数据集中的雾霾 图像的结构和纹理特征进行提取。
网络第二部分是候选区生成网络(RPN),RPN依赖于一个滑动的窗口, 其在网络第一部分输出的特征图上遍历,为每一个像素点生成9种目标框 (anchor),每种anchor包含512×512、256×256、128×128三种面积,每 种面积包含1:1、1:2、2:1三种长宽比。对于生成的anchor,RPN需要做两件 事,第一判断当前anchor属于目标内部还是外部,判断前景还是背景问题; 第二在判断出anchor为前景的情况下,对其区域的坐标进行依次修正,这也是整个网络中第一次对预测框修正。采用Softmax直接进行训练,排除一些 明显超出图像边界的anchor。对于RPN网络输出特征图的每个点,由于每一 个像素点都对应9个anchor,每个anchor有前景和背景两个的分数,所以第 一个卷积层输出了18个值。RPN网络训练时需要用anchor与步骤1中第三 类文件中含有标签信息的数据集的交叠比判断,值大于0.5算前景,小于0.3 认为是背景,交叠比在0.3和0.5之间的目标框舍弃,以这个为标准答案,对 网络进行有效训练得到好的输出。对于第二个问题,网络使用SmoothL1loss 训练。整个RPN的损失函数可以写成:
其中,pi为目标框预测为目标的概率,在正标签是值为1,其他全为0, ti={tx,ty,tw,th}是一个向量,表示预测的目标框的4个参数化坐标,是前 景部分目标框对应的真实标签坐标向量,是目标和非目标的对数损 失,是回归损失,λ为10,Ncls为256,Nreg设为2400,以确保两部 分损失平衡。
网络第三部分是分类输出,一共有三个输出分支,第一个分支中,每一 类都输出一张分割预测图;第二个分支,得到目标框的位置信息输出;第三 个分支,得到类别的输出,这三个分支的输出组合成了最终的结果,包含有 目标检测、识别和分割,总体损失函数为:
Lfinal=L({pi},{ti})+(Lcls+Lbox+Lmask) (2)
其中L({pi},{ti})表示RPN部分的损失,Lcls、Lbox、Lmask分别表示类别、目 标框、分割部分的损。
对步骤1中的雾霾图像数据集进行训练,当总体损失函数Lfinal小于0.01 时,跳出训练过程。
对步骤1中获得的图像进行模糊C均值聚类(FCM)。
首先获取步骤1中雾霾图像的暗通道图,求取暗通道的公式表示为:
其中,表示训练集中图像的暗通道图,c表示RGB的某个通道, 表示训练集中图像对应通道的原图,Ω(x)是计算暗通道的算子滑块大小。
然后对暗通道图进行FCM聚类。
使用随机算法生成一组数据,利用不确定的数据初始化隶属度矩阵U, 使其符合式:
其中,c表示聚类中心的个数,uij表示索引为(i,j)的隶属度。
计算出聚类中心的个数c,符合式:
其中,c为模糊组的中心的个数,uij表示索引为(i,j)的隶属度,m表 示控制算法的柔性参数,n是需要分类的样本数量。
设置阈值判断条件,来让算法执行或者跳出,以达到损失函数要求,损 失函数表示为:
其中,ci为第i个模糊组的中心,U为隶属度矩阵,uij表示索引为(i,j) 的隶属度,介于0到1间,dij=||ci-xj||为第j个数据与第i个中心与的欧式 距离,m表示控制算法的柔性参数。
计算每一次迭代后的U矩阵,其中矩阵中每个元素满足:
其中,c为模糊组的中心的个数,uij表示索引为(i,j)的隶属度,m表 示控制算法的柔性参数,dij=||ci-xj||为第j个数据与第i个中心与的欧式距 离,dkj=||ck-xj||为第j个数据与第k个中心与的欧式距离。
总体损失函数为:
其中,U为隶属度矩阵,c为模糊组的中心的个数,uij表示索引为(i,j) 的隶属度,λj表示第索引为j的平衡系数,m表示控制算法的柔性参数,dij为 第j个数据与第i个中心与的欧式距离。
综合神经网络和聚类算法的输出,得到雾霾图像深度分割器,此时的分 割器可以适应雾霾天气下交通图片,能够很好地分割出雾霾图像的天空和非 天空区域,对于一些肉眼难以区分的细节也能做到很好地分割。
步骤3、采集雾霾天气下用于测试的交通图像;
在雾霾天气条件下,去交通路口,使用图像采集设备采集测试图像。
步骤4、采用步骤2中雾霾图像深度分割器对步骤3中的图像进行分割, 得到天空区域和非天空区域,求取天空区域和非天空区域的大气光值和透射 率,加权平均后,得到综合大气光值和综合透射率;
利用步骤2中得到的雾霾图像深度分割器,对步骤3中获得的图像分割。 得到雾霾天气下交通图像的天空区域图像Isky,非天空区域图像Inon-s。
利用Isky,Inon-sky求综合大气光值。
先求出步骤3中测试图像的暗通道图,
其中,表示测试图像的暗通道图,c表示RGB的某个通道,表示测试图像对应通道的原图,Ω(x)是计算暗通道的算子滑块大小。
结合Isky,Inon-sky,对进行分割,得到只含天空区域的暗通道图 和只含非天空区域的暗通道图
找出图像和中亮度值为前千分之一点的坐标,将得到的坐 标映射到原始雾霾图像中,提取出相应点的像素值,累加之后取平均值,得 到需要的大气光。
其中,Asky对应天空区域Isky的大气光值矩阵,Anon-sky对应非天空区域 的大气光值矩阵,n1和n2分别表示Asky和Anon-s的元素个数,和 表示天空和非天空区域的大气光值。
综合和得到综合大气光值
其中,和表示天空和非天空区域的大气光值,Azongh表示 综合大气光值。
利用综合大气光值求透射率图。
初始透射率计算的计算如下
其中,为估计的透射率,ω为影响因子,Ω(x)为计算暗通道的算子滑 块大小,Ic(x)为步骤3中测试图像对应RGB三通道的图像,为某一通 道对应的大气光值。
步骤5、利用快速引导滤波对步骤4中的综合透射率细化处理,重构无 雾交通场景图片。
采用快速引导滤波对初始透射率细化。
以初始透射率图为输入图像,步骤3中的测试图像为引导图像,输 出图像为最终的透射率图t(x),采用快速引导滤波对初始透射率细化,首先对 输入图像和引导图像以步长为4进行下采样,得到缩小尺寸的输入图像p′和 引导图像I′。
之后对输入图像p′和引导图像I′进行引导滤波:
q′in=∑jnWinjn(I′)p′jn (14)
其中,I′为缩小尺寸的引导图像,in,jn是图像像素的索引,缩小尺寸的 输入图像的像素点为p′jn,输出图像像素点为q′in,Winjn是由输入图像和引导图 像组成的滤波核函数;
假设滤波过程为成局部的线性变换,滤波后的输出图像表示为:
其中,ak和bk是以像素k为中心的滑框系数;
对比输入输出图像的差异,将误差降到最低,则得到
其中,μk和分别表示引导图像I′在局部窗口ωk中的均值和方差,是缩 小尺寸的输入图像p′在窗口ωk中的均值;
然后对式(15)中的输出图像进行上采样,恢复到原有尺寸大小,得到输 出图像为qin;
公式为:
其中,
重构图像公式为
其中,I(x)表示步骤3中的测试图像,Azong表示综合大气光值,t(x)就 是式(18)的结果图qin,t0为正则化项,取0.15。
从图2可以看出,图2中(a)为原始雾霾图像,分别使用传统方法和本 文中提出的方法对(a)去雾。首先使用雾霾图像深度分割器对图像中的天空 和非天空区域分割,分割后的非天空图像如(b)所示,分割后的天空图像如(c) 所示,综合(b)和(c)的结果可以发现分割效果很好,对路灯和树杈区域 也能有效分割;(d)是暗通道去雾后图像;(e)双边滤波去雾后图像;(f)引导滤 波去雾后图像;(g)DehazeNet去雾后图像。这些方法都对天空区域的处理 很不好,整体亮度偏暗,细节还原不到位,对比度不高。(h)是本发明的去雾 算法,使用雾霾图像深度分割器,综合了有监督的神经网络Mask R-CNN和 无监督的聚类算法FCM的优点,完成对雾霾天气下严重降质图像的天空和 非天空区域分割,对分割后的两个区域分别求取大气光值,加权平均得到综 合大气光值,利用综合大气光值估计初始透射率,利用快速引导滤波细化透 射率,最后结合大气散射模型重构无雾图像。与其他算法相比,该算法在天 空区域的处理更好,图像整体亮度提高,细节还原地更充分。
表1多种去雾图像的图像质量评价比较
表1通过对比平均梯度、标准差、对比度、模糊系数和雾浓度评估器(FADE)来比较处理后去雾效果。由表1可知,一般情况下平均梯度、标 准差和对比度越大表示图像清晰度越高,则说明本发明相比于暗通道去雾、 双边滤波去雾、引导滤波去雾、DehazeNet去雾的清晰度高。在对图像的模 糊系数进行评价的时候,本发明中的方法参数明显优于其他的去雾方法,图 像的边缘轮廓和纹理信息更加清晰突出。雾浓度评估器(FADE)越小表示 雾的浓度越小,从表1中可以发现本发明算法的雾浓度是最低,效果最佳。
综合以上可以发现本发明算法优于其他传统去雾算法。
Claims (5)
1.一种融合深度区域分割的多大气光值交通图像去雾方法,其特征在于,包括以下步骤:
步骤1:制作雾霾图像数据集;
步骤2:利用步骤1中的雾霾图像数据集为输入,训练雾霾图像深度分割器,让机器学习雾霾天气下天空和非天空区域的特征;
步骤3:采集雾霾天气下用于测试的交通图像;
步骤4:采用步骤2中雾霾图像深度分割器对步骤3采集的交通图像进行分割,得到天空区域和非天空区域,求取天空区域和非天空区域的大气光值和透射率,加权平均后,得到综合大气光值和综合透射率;
步骤5:利用快速引导滤波对步骤4中的综合透射率细化处理,重构无雾交通场景图片。
2.根据权利要求1所述的一种融合深度区域分割的多大气光值交通图像去雾方法,其特征在于,步骤1中制作雾霾图像数据集的方法为:
步骤1.1:在含雾的天气下,沿着交通路线,拍摄各个路口,整理成9个视频和1000张图片,对含有天空和非天空区域的图片进行筛选,最终确定264张真实交通场景图像,做成初始雾霾图像数据集;
步骤1.2:对步骤1.1中初始雾霾图像数据集的图片进行标注,即采用github开源工具labelme对雾天场景的天空和非天空区域进行分割,最终得到的雾霾图像数据集包含四类文件,第一类文件是步骤1.1中初始雾霾图像数据集,第二类文件是对第一类文件标注后生成的标签文件,第三类文件是通过第二类文件的标签信息生成的数据集,第四类文件是从第三类文件中提取的分割图片集合,共有两类,分为天空区域和非天空区域。
3.根据权利要求2所述的一种融合深度区域分割的多大气光值交通图像去雾方法,其特征在于,步骤2具体为:
步骤2.1:搭建Mask R-CNN网络
网络第一部分使用了残差网络ResNet对初始雾霾图像数据集中的雾霾图像的结构和纹理特征进行提取;
网络第二部分是候选区生成网络RPN,候选区生成网络RPN依赖于一个滑动的窗口,在网络第一部分输出的特征图上遍历,为每一个像素点生成9种目标框,对于生成的目标框,首先通过目标框与第三类文件中含有标签信息数据集中图片的的交叠比判断当前目标框属于前景还是背景,交叠比大于0.5认为是前景,小于0.3认为是背景,交叠比在0.3和0.5之间的目标框舍弃;然后在判断出目标框为前景的情况下,对其区域的坐标进行依次修正,整个候选区生成网络RPN的损失函数如式(1):
其中,pi为目标框预测为目标的概率,在正标签是值为1,其他全为0,yi={tx,ty,tw,th}是一个向量,表示预测的目标框的4个参数化坐标,是前景部分目标框对应的真实标签坐标向量,是目标和非目标的对数损失,是回归损失,λ为10,Ncls为256,Nreg设为2400,以确保两部分损失平衡;
网络第三部分是分类输出,一共有三个输出分支,第一个分支中,每一类都输出一张分割预测图;第二个分支,得到目标框的位置信息输出;第三个分支,得到类别的输出,这三个分支的输出组合成了最终的结果,包含有目标检测、识别和分割,总体损失函数为:
Lfinal=L({pi},{ti})+(Lcls+Lbox+Lmask) (2)
其中L({pi},{ti})表示RPN部分的损失,Lcls、Lbox、Lmask分别表示类别、目标框、分割部分的损失;
对步骤1中的雾霾图像数据集进行训练,当总体损失函数Lfinal小于0.01时,跳出训练过程;
步骤2.2:对步骤1中获得的图像进行模糊C均值聚类
首先获取步骤1中雾霾图像的暗通道图,求取暗通道的公式表示为:
其中,表示训练集中图像的暗通道图,c表示RGB的某个通道,表示训练集中图像对应通道的原图,Ω(x)是计算暗通道的算子滑块大小;
然后对暗通道图进行模糊C均值聚类;
使用随机算法生成一组数据,利用不确定的数据初始化隶属度矩阵U,使其符合式:
其中,c表示聚类中心的个数,uij表示索引为(i,j)的隶属度;
计算出聚类中心的个数c,符合下式:
其中,c为模糊组的中心的个数,uij表示索引为(i,j)的隶属度,m表示控制算法的柔性参数,n是需要分类的样本数量;
设置阈值判断条件,使算法执行或者跳出,以达到损失函数要求,损失函数表示为:
其中,ci为第i个模糊组的中心,U为隶属度矩阵,uij表示索引为(i,j)的隶属度,介于0到1间,dij=||ci-xj||为第j个数据与第i个中心与的欧式距离,m表示控制算法的柔性参数;
计算每一次迭代后的U矩阵,其中矩阵中每个元素满足:
其中,c为模糊组的中心的个数,uij表示索引为(i,j)的隶属度,m表示控制算法的柔性参数,dij=||ci-xj||为第j个数据与第i个中心与的欧式距离,dkj=||ck-xj||为第j个数据与第k个中心与的欧式距离;
总体损失函数为:
其中,U为隶属度矩阵,c为模糊组的中心的个数,uij表示索引为(i,j)的隶属度,λj表示第索引为j的平衡系数,m表示控制算法的柔性参数,dij为第j个数据与第i个中心与的欧式距离;
步骤2.3:综合步骤2.1和步骤2.2算法,得到雾霾图像深度分割器。
4.根据权利要求1所述的一种融合深度区域分割的多大气光值交通图像去雾方法,其特征在于,步骤4中求取综合大气光值和综合透射率的方法为:
步骤4.1:利用步骤2中得到的雾霾图像深度分割器,对步骤3中采集的测试图像分割,得到雾霾天气下交通图像的天空区域图像Isky,非天空区域图像Inon-s;
步骤4.2:利用步骤4.1中的Isky,Inon-sky求综合大气光值;
先求出步骤3中测试图像的暗通道图,
其中,表示测试图像的暗通道图,c表示RGB的某个通道,表示测试图像对应通道的原图,Ω(x)是计算暗通道的算子滑块大小;
结合步骤4.1中Isky,Inon-sky,对进行分割,得到只含天空区域的暗通道图和只含非天空区域的暗通道图
找出图像和中亮度值为从小到大排列后前千分之一点的坐标,将得到的坐标映射到步骤3中的测试图像中,提取出相应点的像素值,累加之后取平均值,得到需要的大气光;
其中,Asky对应天空区域Isky的大气光值矩阵,Anon-sky对应非天空区域的大气光值矩阵,n1和n2分别表示Asky和Anon-sky的元素个数,和表示天空和非天空区域的大气光值;
综合和得到综合大气光值
其中,和表示天空和非天空区域的大气光值,Azonghe表示综合大气光值;
步骤4.3:求透射率图
初始透射率计算的计算如下
其中,为估计的初始透射率,ω为影响因子,Ω(x)为计算暗通道的算子滑块大小,Ic(x)为步骤3中测试图像对应RGB三通道的图像,为某一通道对应的大气光值。
5.根据权利要求4所述的一种融合深度区域分割的多大气光值交通图像去雾方法,其特征在于,步骤5中还原无雾图像的方法为:
以初始透射率图为输入图像,步骤3中的测试图像为引导图像,输出图像为最终的透射率图t(x),采用快速引导滤波对初始透射率细化,首先对输入图像和引导图像以步长为4进行下采样,得到缩小尺寸的输入图像p′和引导图像I′;
之后对输入图像p′和引导图像I′进行引导滤波:
q′in=∑jnWinjn(I′)p′jn (14)
其中,I′为缩小尺寸的引导图像,in,jn是图像像素的索引,缩小尺寸的输入图像的像素点为p′jn,输出图像像素点为q′in,Winjn是由输入图像和引导图像组成的滤波核函数;
假设滤波过程为成局部的线性变换,滤波后的输出图像表示为:
其中,ak和bk是以像素k为中心的滑框系数;
对比输入输出图像的差异,将误差降到最低,则得到
其中,μk和分别表示引导图像I′在局部窗口ωk中的均值和方差,是缩小尺寸的输入图像p′在窗口ωk中的均值;
然后对式(15)中的输出图像进行上采样,恢复到原有尺寸大小,得到输出图像为qin;
公式为:
其中,
重构图像公式为
其中,I(x)表示步骤3中的测试图像,Azongh表示综合大气光值,t(x)为经过快速引导滤波后的透射率图,即为式(18)的结果图qin,t0为正则化项,取0.15。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910559582.XA CN110310241B (zh) | 2019-06-26 | 2019-06-26 | 一种融合深度区域分割的多大气光值交通图像去雾方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910559582.XA CN110310241B (zh) | 2019-06-26 | 2019-06-26 | 一种融合深度区域分割的多大气光值交通图像去雾方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110310241A true CN110310241A (zh) | 2019-10-08 |
CN110310241B CN110310241B (zh) | 2021-06-01 |
Family
ID=68076398
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910559582.XA Active CN110310241B (zh) | 2019-06-26 | 2019-06-26 | 一种融合深度区域分割的多大气光值交通图像去雾方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110310241B (zh) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111401559A (zh) * | 2020-02-17 | 2020-07-10 | 北京石油化工学院 | 雾霾形成的模糊认知图及其多维时间序列挖掘方法 |
CN112200746A (zh) * | 2020-10-16 | 2021-01-08 | 中南大学 | 一种雾天交通场景图像的去雾方法和设备 |
CN112419166A (zh) * | 2020-09-24 | 2021-02-26 | 南京晓庄学院 | 一种基于局部区域分割与scn结合的图像去雾方法 |
CN112465697A (zh) * | 2020-12-11 | 2021-03-09 | 哈尔滨工程大学 | 一种海上雾天图像模拟方法 |
CN112581411A (zh) * | 2021-02-26 | 2021-03-30 | 深圳金三立视频科技股份有限公司 | 一种图像去雾的方法及终端 |
CN112950504A (zh) * | 2021-03-02 | 2021-06-11 | 山东鲁能软件技术有限公司智能电气分公司 | 一种输电线路巡检雾霾天气单目隐患物体测距方法及系统 |
CN113554872A (zh) * | 2021-07-19 | 2021-10-26 | 昭通亮风台信息科技有限公司 | 一种位于交通路口及弯道的检测预警方法及系统 |
CN113628145A (zh) * | 2021-08-27 | 2021-11-09 | 燕山大学 | 一种图像清晰化方法、系统、设备及存储介质 |
CN113689343A (zh) * | 2021-03-31 | 2021-11-23 | 西安理工大学 | 一种Resnet计算Veil的单幅图像去雾方法 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104134194A (zh) * | 2014-07-23 | 2014-11-05 | 中国科学院深圳先进技术研究院 | 图像去雾方法和系统 |
CN104794688A (zh) * | 2015-03-12 | 2015-07-22 | 北京航空航天大学 | 基于深度信息分离天空区域的单幅图像去雾方法及装置 |
CN105279739A (zh) * | 2015-09-08 | 2016-01-27 | 哈尔滨工程大学 | 一种自适应含雾数字图像去雾方法 |
CN105701785A (zh) * | 2016-02-17 | 2016-06-22 | 天津大学 | 基于天空区域划分加权tv透射率优化的图像雾霾去除方法 |
CN106204494A (zh) * | 2016-07-15 | 2016-12-07 | 潍坊学院 | 一种包含大面积天空区域的图像去雾方法及系统 |
CN106934836A (zh) * | 2017-03-14 | 2017-07-07 | 潍坊学院 | 一种雾霾图像基于自动聚类的大气光值计算方法及系统 |
CN108182671A (zh) * | 2018-01-25 | 2018-06-19 | 南京信息职业技术学院 | 一种基于天空区域识别的单幅图像去雾方法 |
CN108596849A (zh) * | 2018-04-23 | 2018-09-28 | 南京邮电大学 | 一种基于天空区域分割的单幅图像去雾方法 |
CN108765336A (zh) * | 2018-05-25 | 2018-11-06 | 长安大学 | 基于暗亮原色先验与自适应参数优化的图像去雾方法 |
CN109523480A (zh) * | 2018-11-12 | 2019-03-26 | 上海海事大学 | 一种海雾图像的去雾方法、装置、计算机存储介质及终端 |
-
2019
- 2019-06-26 CN CN201910559582.XA patent/CN110310241B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104134194A (zh) * | 2014-07-23 | 2014-11-05 | 中国科学院深圳先进技术研究院 | 图像去雾方法和系统 |
CN104794688A (zh) * | 2015-03-12 | 2015-07-22 | 北京航空航天大学 | 基于深度信息分离天空区域的单幅图像去雾方法及装置 |
CN105279739A (zh) * | 2015-09-08 | 2016-01-27 | 哈尔滨工程大学 | 一种自适应含雾数字图像去雾方法 |
CN105701785A (zh) * | 2016-02-17 | 2016-06-22 | 天津大学 | 基于天空区域划分加权tv透射率优化的图像雾霾去除方法 |
CN106204494A (zh) * | 2016-07-15 | 2016-12-07 | 潍坊学院 | 一种包含大面积天空区域的图像去雾方法及系统 |
CN106934836A (zh) * | 2017-03-14 | 2017-07-07 | 潍坊学院 | 一种雾霾图像基于自动聚类的大气光值计算方法及系统 |
CN108182671A (zh) * | 2018-01-25 | 2018-06-19 | 南京信息职业技术学院 | 一种基于天空区域识别的单幅图像去雾方法 |
CN108596849A (zh) * | 2018-04-23 | 2018-09-28 | 南京邮电大学 | 一种基于天空区域分割的单幅图像去雾方法 |
CN108765336A (zh) * | 2018-05-25 | 2018-11-06 | 长安大学 | 基于暗亮原色先验与自适应参数优化的图像去雾方法 |
CN109523480A (zh) * | 2018-11-12 | 2019-03-26 | 上海海事大学 | 一种海雾图像的去雾方法、装置、计算机存储介质及终端 |
Non-Patent Citations (2)
Title |
---|
XIAO,JS ET AL: "Scene-aware image dehazing based on sky-segmented dark channel prior", 《IET IMAGE PROCESSING》 * |
陈燕 等: "基于图模型分割和大气光细化的天空区域去雾优化算法", 《辽宁工业大学学报(自然科学版)》 * |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111401559B (zh) * | 2020-02-17 | 2023-05-05 | 北京石油化工学院 | 雾霾形成的模糊认知图及其多维时间序列挖掘方法 |
CN111401559A (zh) * | 2020-02-17 | 2020-07-10 | 北京石油化工学院 | 雾霾形成的模糊认知图及其多维时间序列挖掘方法 |
CN112419166A (zh) * | 2020-09-24 | 2021-02-26 | 南京晓庄学院 | 一种基于局部区域分割与scn结合的图像去雾方法 |
CN112419166B (zh) * | 2020-09-24 | 2024-01-05 | 南京晓庄学院 | 一种基于局部区域分割与scn结合的图像去雾方法 |
CN112200746A (zh) * | 2020-10-16 | 2021-01-08 | 中南大学 | 一种雾天交通场景图像的去雾方法和设备 |
CN112200746B (zh) * | 2020-10-16 | 2024-03-08 | 中南大学 | 一种雾天交通场景图像的去雾方法和设备 |
CN112465697A (zh) * | 2020-12-11 | 2021-03-09 | 哈尔滨工程大学 | 一种海上雾天图像模拟方法 |
CN112581411A (zh) * | 2021-02-26 | 2021-03-30 | 深圳金三立视频科技股份有限公司 | 一种图像去雾的方法及终端 |
CN112950504A (zh) * | 2021-03-02 | 2021-06-11 | 山东鲁能软件技术有限公司智能电气分公司 | 一种输电线路巡检雾霾天气单目隐患物体测距方法及系统 |
CN113689343A (zh) * | 2021-03-31 | 2021-11-23 | 西安理工大学 | 一种Resnet计算Veil的单幅图像去雾方法 |
CN113554872A (zh) * | 2021-07-19 | 2021-10-26 | 昭通亮风台信息科技有限公司 | 一种位于交通路口及弯道的检测预警方法及系统 |
CN113628145A (zh) * | 2021-08-27 | 2021-11-09 | 燕山大学 | 一种图像清晰化方法、系统、设备及存储介质 |
CN113628145B (zh) * | 2021-08-27 | 2024-02-02 | 燕山大学 | 一种图像清晰化方法、系统、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110310241B (zh) | 2021-06-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110310241A (zh) | 一种融合深度区域分割的多大气光值交通图像去雾方法 | |
CN107563372B (zh) | 一种基于深度学习ssd框架的车牌定位方法 | |
CN108304798B (zh) | 基于深度学习及运动一致性的街面秩序事件视频检测方法 | |
CN110084234B (zh) | 一种基于实例分割的声呐图像目标识别方法 | |
CN103578119B (zh) | 基于超像素的Codebook动态场景中目标检测方法 | |
CN109255350B (zh) | 一种基于视频监控的新能源车牌检测方法 | |
CN104134068B (zh) | 基于稀疏编码的监控车辆特征表示及分类方法 | |
CN110232316A (zh) | 一种基于改进的dsod模型的车辆检测与识别方法 | |
CN103049763A (zh) | 一种基于上下文约束的目标识别方法 | |
CN109117788A (zh) | 一种融合ResNet和LSTM的公交车厢拥挤度检测方法 | |
CN112464911A (zh) | 基于改进YOLOv3-tiny的交通标志检测与识别方法 | |
CN102819841B (zh) | 用于目标图像分割的全局阈值分割方法 | |
CN112434723B (zh) | 一种基于注意力网络的日/夜间图像分类及物体检测方法 | |
CN109766823A (zh) | 一种基于深层卷积神经网络的高分辨率遥感船舶检测方法 | |
CN106056102A (zh) | 基于视频图像分析的道路车型分类方法 | |
CN113591617B (zh) | 基于深度学习的水面小目标检测与分类方法 | |
CN110889360A (zh) | 一种基于切换卷积网络的人群计数方法及系统 | |
CN114973199A (zh) | 一种基于卷积神经网络的轨道交通列车障碍物检测方法 | |
CN114743126A (zh) | 一种基于图注意力机制网络的车道线标志分割方法 | |
CN116883650A (zh) | 一种基于注意力和局部拼接的图像级弱监督语义分割方法 | |
CN114612506B (zh) | 一种简易高效抗干扰的高空抛物轨迹识别与定位方法 | |
CN115019039A (zh) | 一种结合自监督和全局信息增强的实例分割方法及系统 | |
Ran et al. | Adaptive fusion and mask refinement instance segmentation network for high resolution remote sensing images | |
Li et al. | Prediction model of urban street public space art design indicators based on deep convolutional neural network | |
Xi et al. | High Resolution Remote Sensing Image Classification Using Hybrid Ensemble Learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right |
Effective date of registration: 20230227 Address after: 230000 Room 203, building 2, phase I, e-commerce Park, Jinggang Road, Shushan Economic Development Zone, Hefei City, Anhui Province Patentee after: Hefei Jiuzhou Longteng scientific and technological achievement transformation Co.,Ltd. Address before: 710064 middle section, south two ring road, Shaanxi, Xi'an Patentee before: CHANG'AN University |
|
TR01 | Transfer of patent right |