CN104881845A - 用于处理图像的方法和设备 - Google Patents

用于处理图像的方法和设备 Download PDF

Info

Publication number
CN104881845A
CN104881845A CN201410742489.XA CN201410742489A CN104881845A CN 104881845 A CN104881845 A CN 104881845A CN 201410742489 A CN201410742489 A CN 201410742489A CN 104881845 A CN104881845 A CN 104881845A
Authority
CN
China
Prior art keywords
transfer rate
pixel
airlight
value
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410742489.XA
Other languages
English (en)
Other versions
CN104881845B (zh
Inventor
尹相珍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hanhua Vision Co ltd
New Future Semiconductor Co ltd
Original Assignee
Samsung Techwin Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Techwin Co Ltd filed Critical Samsung Techwin Co Ltd
Publication of CN104881845A publication Critical patent/CN104881845A/zh
Application granted granted Critical
Publication of CN104881845B publication Critical patent/CN104881845B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20182Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30192Weather; Meteorology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

本发明提供了一种用于处理图像以从该图像去除雾的方法和设备。所述用于处理图像的设备包括:传输率估计单元,被构造为通过将包括雾分量的当前图像的当前像素的基于像素的传输率与先前图像的多个块的基于块的传输率进行合成,来计算当前图像的传输率,其中,每个块包括多个像素;空气光估计单元,被构造为计算当前图像的空气光;图像复原单元,被构造为基于传输率和空气光来产生从当前图像去除了雾分量的复原图像。

Description

用于处理图像的方法和设备
本申请要求于2014年2月27日在韩国知识产权局提交的第10-2014-0023710号韩国专利申请的优先权,该申请的整个公开通过引用包含于此。
技术领域
与示例性实施例一致的方法和设备涉及处理图像,更具体地讲,涉及恢复从包括雾的图像去除了雾的图像。
背景技术
一般来说,在监控相机安装在户外的情况下,诸如雨、雪和雾的天气变化影响使用监控相机捕获的图像的画面质量。雨和雪具有较大颗粒,并且零星地出现。当捕获图像时,它们的运动迅速地改变。同时,雾和/或烟遍布整个图像,因此,贯穿整个图像,画面品质的劣化相对均匀且一致。
发明内容
本发明构思的一个或更多个示例性实施例提供一种能够通过有效地估计并去除包括雾的运动图像中的雾分量来提高图像的画面品质的图像处理设备和方法。
将在以下描述中部分阐述一个或更多个示例性实施例,并且从所述描述,本发明构思将变得清楚,或可通过呈现的实施例的实践而被学习。
根据示例性实施例的一方面,提供了一种用于处理图像的设备,所述设备包括:传输率估计单元,被构造为通过将包括雾分量的当前图像的当前像素的基于像素的传输率与先前图像的多个块的基于块的传输率进行合成,来计算当前图像的传输率,其中,每个块包括多个像素;空气光估计单元,被构造为计算当前图像的空气光;图像恢复单元,被构造为基于传输率和空气光产生从当前图像去除了雾分量的复原图像。
传输率估计单元可包括:第一传输率估计单元,被构造为通过将暗通道先验应用于当前图像的当前像素来计算基于像素的传输率;第二传输率估计单元,被构造为通过将暗通道先验应用于先前图像的每个块来计算基于块的传输率。空气光可从所述多个块中的最亮的块的最亮像素值计算。
第二传输率估计单元可被构造为通过使用先前图像的每个块中的多个像素中的最小像素值,来计算基于块的传输率。
第二传输率估计单元还可包括插值单元,被构造为根据每个块和当前像素之间的距离来对每个块的传输率和相邻块的传输率进行插值。
传输率估计单元还可包括合成单元,被构造为将应用了第一权重值的基于像素的传输率和应用了第二权重值并执行了插值的基于块的传输率进行合成。
第一传输率估计单元和第二传输率估计单元可被构造为通过应用当前图像的空气光,来计算基于像素的传输率和基于块的传输率。
空气光估计单元可包括:代表性空气光值提取单元,被构造为:将先前图像的每个块中的最亮像素的像素值,或最亮像素的像素值和最亮像素的左边和右边的像素的像素值的均值设置为块的代表性空气光值,提取所述多个块中的代表性空气光值中的最亮的代表性空气光值作为先前图像的空气光,使用先前图像的空气光计算当前图像的空气光;滤波器,从当前图像的空气光去除噪声。
传输率估计单元可被构造为应用当前图像的空气光,以获得基于像素的传输率和基于块的传输率。
滤波器包括无限冲击响应(IIR)滤波器,以从当前图像的空气光滤除噪声。
第一传输率估计单元和第二传输率估计单元可被构造为通过应用当前图像的空气光来计算基于像素的传输率和基于块的传输率。
根据另一示例性实施例的一方面,提供一种处理图像的方法,所述方法可包括:通过将包括雾分量的当前图像的当前像素的基于像素的传输率与先前图像的多个块的基于块的传输率进行合成,来计算当前图像的传输率,其中,每个块包括多个像素;计算当前图像的空气光;基于传输率和空气光复原从当前图像去除了雾分量的图像。
基于像素的传输率可以是通过将暗通道先验应用于当前图像的当前像素来计算的,并且基于块的传输率可以是通过将暗通道先验应用于前一图像的每个块来计算的。空气光可以是从所述多个块中的最亮的块的最亮像素值计算的。
基于块的传输率可以是通过使用先前图像的每个块中的多个像素的最小像素值来计算的。
计算基于块的传输率的步骤可包括:将先前图像分割成多个块;通过比较每个块中的多个像素的像素值来提取最小的像素值作为每个块的代表性像素值;通过使用代表性像素值来计算基于块的传输率。
可通过应用当前图像的空气光来计算基于像素的传输率和基于块的传输率。
所述方法还可包括:根据每个块的中心与当前像素之间的距离来对每个块的传输率和相邻块的传输率进行插值。
所述方法还可包括:将应用了第一权重值的基于像素的传输率和应用了第二权重值并执行了插值的基于块的传输率进行合并。
估计空气光的步骤可包括:将前一图像的每个块中的最亮像素的像素值,或最亮像素的像素值和最亮像素左边和右边的像素的像素值的均值设置为块的代表性空气光值;提取所述多个块的代表性空气光值中的最亮的代表性空气光值作为先前图像的空气光;使用先前图像的空气光计算当前图像的空气光;将噪声从当前图像的空气光去除;
可通过应用无限冲击响应(IIR)滤波器去除噪声。
根据另一示例性实施例的一方面,提供一种记录有用于执行处理图像的以上方法的计算机可读记录介质。
根据本发明构思的示例性实施例,可从包括图像的移动图像有效地估计并去除雾分量,从而提高图像的画面品质。
附图说明
从以下结合附图对示例性实施例进行的描述中,这些和/或其它方面将变得清楚且更易于理解,其中,在附图中:
图1是示出根据示例性实施例的用于处理图像的设备的结构的框图;
图2是根据示例性实施例的第二传输率估计单元的详细框图;
图3是示出在根据示例性实施例的第二传输率估计单元中计算基于块的传输率的示图;
图4A至图4E示出根据示例性实施例的雾图像以及去除了雾的图像。
图5是根据示例性实施例的处理图像的方法的操作的流程图。
具体实施方式
现在将参照示出示例性实施例的附图更充分地描述本发明构思。然而,本发明构思可以以许多不同的形式实施,并且不应被解释为局限于在此阐述的实施例;相反,提供这些实施例使得本公开是充分且完整的,并将本发明构思充分地传达给本领域的普通技术人员。在实施例的描述中,如果确定与本发明构思有关的常用技术或结构的详细描述会不必要地使本发明的主题模糊,则将省略该详细描述。
本说明书中使用的术语仅用于描述特定示例性实施例,而不意图限制本发明构思。除非在上下文中具有明显不同的意思,否则以单数使用的表述包含复数表述。在本说明书中,将理解诸如“包含”或“具有”等的术语意图指示在说明书中公开的特征、数量、步骤、作用、组件、部件或其组合的存在,而不意图排除可能存在或可增加一个或更多个其它特征、数量、步骤、作用、组件、部件或其组合的可能性。虽然诸如“第一”、“第二”等的术语可用于描述各种组件,但这样的组件不限于以上术语。以上术语仅用于将一组件与另一组件区分。
以下将参照附图更详细地描述本发明构思的示例性实施例。不管附图标号如何,由相同的标号描绘相同或相应的组件,并且将省略冗余的解释。如在此使用的,术语“和/或”包括一个或更多个相关联的列出的项目中的任意组合和所有组合。
在图像处理领域和/或计算机视觉领域,为了表示包括雾的图像,诸如以下等式1的数学模型被广泛使用:
I(x)=J(x)t(x)+A(1-t(x))   (1)
在以上等式中,I(x)表示包括雾的输入图像,J(x)表示指示去除了雾的情形的场景辐射率(即,去除了雾的图像),A指示表示输入图像的雾值的空气光(airlight),t(x)指示表示对象因空气散射而实际传输到人眼的辐射量的比例的透射率。因此,如果t(x)接近于1,则对象的亮度完整地传输到人眼而不会被雾或其它因素散射。t(x)越接近于0,由浓雾或其它因素导致的信息的损失就越多,并且对于人眼而言,对象变得不清楚。
在图像的R、G、B颜色通道中的每个颜色通道中表达如等式1的模型。为了从输入图像去除雾,从包括雾的输入图像I(x)计算空气光A和传输率t(x),并通过使用A和t(x)最终恢复J(x)。
根据示例性实施例的用于从图像去除雾的设备使用暗通道先验(darkchannel prior),以通过等式1的模型从输入图像去除雾。
暗通道先验是一种为了从输入图像去除雾而提出的方法。针对没有雾的清晰图像的每个像素,具有预定大小并以每个像素为中心的面片(patch)中的一些像素包含具有接近于0的很小的值的至少一个颜色通道。这可如以下的等式2表示:
J dark ( x ) = min C ∈ { r , g , b } ( min y ∈ Ω ( x ) ( J c ( y ) ) ) - - - ( 2 )
这里,Jdark(x)表示关于图像J的像素x的暗通道,c表示R、G、B颜色通道值,Ω(x)表示以x为中心的面片。
也就是,暗通道先验值表示当前面片中的最暗的通道的亮度。存在这样的趋势:当雾存在时,暗通道先验值为高,而当雾不存在时,暗通道先验值为低。
也就是,当雾不存在时,暗通道先验值具有收敛于0的趋势。因此,算子min被施加到等式1的两边,且如果两边同除以A,则获得以下等式3:
min C ( min y ∈ Ω ( x ) ( J c ( y ) A c ) ) = t ~ ( x ) min c ( min y ∈ Ω ( x ) ( J c ( y ) A c ) ) + ( 1 - t ~ ( x ) ) - - - ( 3 )
当等式3右手边包括J的结果收敛于0时,通过以下等式4相应地获得传输率:
t ~ ( x ) = 1 - min C ( min y ∈ Ω ( x ) ( J c ( y ) A c ) ) - - - ( 4 )
等式4中计算的传输率基于具有预定大小的面片Ω(x),并与输入图像不完全匹配,呈现出暗通道先验和图像的边缘不完全匹配的块现象,先。因此,为了去除该块现象,通过用于通过诸如软抠图算法(softmattingalgorithm)的数值分析方法对计算的传输率进行优化的处理,计算最终的传输率(t(x))。
通过以下等式5获得通过使用计算的最终传输率(t(x))而去除了雾的图像J(x):
J ( x ) = I ( x ) - A max ( t ( x ) , to ) + A - - - ( 5 )
这里,t0是被设置为对传输率限制的上限值,该值可由用户设置。
雾的去除依赖于如何精确地估计传输率(t(x))。通过用于通过诸如软抠图算法的数值分析方法对如上所述计算的传输率进行优化的处理,来计算最终的传输率(t(x))。然而,存在这样的缺点:当使用软抠图算法计算最终传输率(t(x))时,需要大量的线存储器和硬件资源。因此,在本发明构思的示例性实施例中,将省略使用软抠图算法的优化处理,通过使用等式4,从输入图像计算基于像素的传输率(第一传输率,t1(n)、tptx)并计算基于块的传输率(第二传输率,t2(n-1)、tbtx)。然后,将基于像素的传输率和基于块的传输率合成,并计算出结果作为最终的传输率t(x),从而减少线存储器和硬件资源的使用,并实现实时处理。此外,当估计空气光时,使用在基于块的传输率的计算中使用的先前图像(n-1)块,从而减少计算量。
图1是示出根据示例性实施例的用于处理图像的设备100的结构的框图。
参照图1,所述设备100包括传输率估计单元200、空气光估计单元300和图像恢复单元400。
传输率估计单元200将基于像素的传输率和基于块的传输率进行合成,从而估计最终的传输率,其中,基于像素的传输率通过将暗通道先验应用于包括雾的输入图像的当前像素而被计算,基于块的传输率通过将暗通道先验应用于被划分成多个块的先前图像的每个块而被计算。
传输率估计单元200包括第一传输率估计单元210、第二传输率估计单元220和合成单元230。
第一传输率估计单元210通过使用包括在输入图像(n)中的当前像素的像素值(R/G/B值)和空气光来计算应用了暗通道先验的基于像素的传输率(tPTX)。在等式4中,面片大小(Ω(x))为1,第一传输率估计单元210通过以下等式6获得第一传输率(tPTX):
t PTX = 1 - min C ( J C ( y ) A C ) - - - ( 6 )
如等式6所示,只需当前像素位置的像素值和空气光就可计算第一传输率(稍后将对此进行解释),因此不需要单独的线存储器。
然而,当仅使用第一传输率去除雾时,使当前像素的最暗通道值成为0。因此,虽然色度被最大化,但是局部对比度会骤降。图4A是输入图像的示例,图4B示出从图4A的输入图像去除了雾的结果图像。参照图4B,图4B示出色度被最大化,但是局部对比度骤降。
为了解决局部对比度骤降的问题,本实施例估计第二传输率作为基于块的传输率。第二传输率估计单元220通过使用先前图像(n-1)的每个块中的最小像素值和空气光来计算基于块的传输率。
图2是第二传输率估计单元220的详细框图,其中,第二传输率估计单元220包括分块单元221、代表性像素值提取单元222、传输率计算单元223和插值单元224。
分块单元221将先前图像(n-1)划分成多个块(M×N个块)。图3示出将先前图像(n-1)划分成16×16个块的分块的示例。例如,当先前图像(n-1)具有1024×768的分辨率时,分块单元221可将该图像划分成256个块,每个块具有64×48个像素。这里,被划分的块的数量可根据设置而改变。
代表性像素值提取单元222通过比较包括在块中的像素的像素值,来提取具有最小像素值的像素作为每个块的代表性像素,并提取各个块的代表性像素的像素值中的最小像素值作为代表性像素值。参照图3,将包括在第一块中的第一像素和第二像素的像素值进行相互比较并仅存储较小像素值,将存储的像素值与第三像素的像素值进行比较并存储较小的像素值。以这种方式,将64×48个像素的像素值进行比较,并提取最小的像素值作为第一块的代表性像素值。可从图3提取256个代表性像素值。
根据现有技术,当估计传输率时,使用当前像素处于其中心处的面片,并对于每个当前像素,应比较面片区域中的所有像素,从而需要非常大量的重复计算。然而,根据如上所述的代表性像素值的提取,无需重复计算而可大幅减少计算量。
传输率计算单元223通过使用每个块的代表性像素值和空气光,来计算应用了暗通道先验的基于块的传输率(tBTX)。通过以下等式7获得基于块的传输率(tBTX),并获得与块的数量(在图3的情况下为256)相同数量的传输率:
t BTX = 1 - min C ( min y ∈ B ( x ) ( J C ( y ) A C ) ) - - - ( 7 )
图4C示出从图4A中示出的输入图像去除了雾的结果图像。参照图4C,示出了发生块效应(blocking artifact)的图像的示例,其中,所述块效应是由于传输率是针对每个块而获得的并且被应用于图4A的输入图像而发生。
插值单元224用于防止块效应。
插值单元224计算每个块的中心与当前像素之间的距离,并通过将与距离成反比的权重值应用于所述距离来获得每个块的传输率和相邻块的传输率的加权平均值。因此,插值单元224执行插值以使用加权平均值作为当前像素的传输率。图4D示出通过对发生块效应的图4C中示出的图像进行插值处理而去除了块效应的图像的示例。
在图4D中,虽然去除了块效应,但是传输率也不是与块对应的最优传输率,且去雾能力也表现为低于图4C的去雾能力。如图所示,在韩式房屋屋顶上,晕轮效果(halo effect)明显。
因此,在本实施例中,通过将作为基于像素的传输率的第一传输率与作为基于块的传输率的第二传输率进行合成来获得最终的传输率,其中,基于像素的传输率在色度方面具有优势,而基于块的传输率在计算量和/或局部对比度方面具有优势。
为了获得最终的传输率,合成单元230通过将第一传输率与对应于当前像素的块的第二传输率进行合成,来计算将被应用于当前像素的最终传输率。通过以下等式8获得最终传输率:
Trx=ω×tPTX+(1-ω)×Int(tBTX)   (8)
Trx表示最终传输率(图1中的t,等式5中的t(x)),ω表示权重值,tPTX表示第一传输率(t1(n)),Int()表示插值函数,tBTX表示第二传输率(t2(n-1))。这里,权重值可根据目的而被定义为常数,并可根据图像的统计特征而被自适应地应用到任意区域。图4E示出通过应用最终传输率去除了雾的图像的示例。
在本实施例中,第二传输率估计单元220从先前图像(n-1)计算第二传输率,并将该第二传输率应用于输入图像(n),即,当前图像。参照图1,第二传输率估计单元220从输入图像(n)计算第二传输率,存储第二传输率,随后将该第二传输率应用于下一图像(n+1)。
空气光估计单元300从第二传输率估计单元220接收分块信息,并将先前图像(n-1)划分成与在估计第二传输率中使用的块的数量相同数量的块。空气光估计单元300计算包括在最亮的块中的最亮像素值作为空气光。
这里,考虑计算量,可将计算空气光设计为:可在获得第二传输率时一起获得空气光。根据该设计,可减少用于获得空气光的计算量。
为了获得空气光,使用如下假设:“由于雾是大气中来自太阳的光,因此在图像中,雾具有非常亮的值”、“受雾影响的像素值与空气光相似”。然后,参照等式1,传输率越大,雾对图像的影响越大。因此,如果结合这两个假设,则可理解:在图像中空气光具有非常大的亮度值,并且可在受雾影响最大的区域中获得空气光。一般来说,最亮的像素值有时可能被选择为空气光,且在这种情况下,白色对象可能被选择,从而引起问题。因此,当基于块估计空气光时,出现误差的可能性将减少。
空气光估计单元300可包括代表性空气光值提取单元310和滤波单元320。
代表性空气光值提取单元310通过将包括在先前图像(n-1)中的像素的像素值进行比较来将亮的像素值设置为每个块的代表性空气光值,并提取先前图像(n-1)的代表性空气光值中的最亮的代表性空气光值作为空气光。这里,当提取代表性空气光值时,为了防止由噪声引起的误差,可获得最亮像素的像素值和最亮像素左侧和右侧的像素的像素值的平均值,并将该平均值设置为每个块的代表性空气光像素值。当通过该方法估计空气光时,可防止由噪声引起的失真,并且由于仅使用左侧和右侧的像素,因此可避免使用多个线存储器(未示出)。
滤波单元320从空气光去除噪声。当在每个图像帧中估计并应用空气光时,可能发生由空气光的变化而引起的闪烁。因此,通过无线冲击响应(IIR)滤波,确定将被实际应用的空气光。可通过以下等式9获得空气光。
A=a×An+(1-a)An-1   (9)
这里,A表示最终的空气光,An表示输入图像(n)的空气光,An-1表示先前图像(n-1)的空气光,a表示在输入图像(n)中应用获得的空气光的比率。a的值越小,越不会发生闪烁,a的值越大,发生闪烁的概率将越大。
在本实施例中,空气光估计单元300通过对从输入图像(n)估计的空气光(An)和从先前图像(n-1)估计的空气光(An-1)进行求和,来估计最终的空气光(A)。空气光估计单元300存储在输入图像(n)中估计的空气光并将其应用于下一图像(n+1)中的空气光的估计。
图像恢复单元400通过将在传输率估计单元200中计算的最终传输率(Trs,t(x))和在空气光估计单元300中计算的空气光(A)应用于等式5,来产生去除了雾的恢复图像。
因此,通过凭借有效的估计从包括雾的运动图像去除雾,提高图像的画面质量。
参照图5,现在将解释根据示例性实施例处理图像的方法。可在用于处理图像的设备100中通过使用设备100周围的元件来执行根据实施例的处理图像的方法。在对该方法的描述中,将省略与图1、图2、图3、图4A、图4B、图4C、图4D和图4E的描述重复的解释。
参照图5,在操作S100,用于处理图像的设备100通过将基于像素的传输率(第一传输率,t1(n)、tPTX)和基于块的传输率(第二传输率,t2(n-1),tBTX)进行合成来估计最终的传输率(t(x)),其中,基于像素的传输率通过将暗通道先验应用于包括雾分量的输入图像(n)的当前像素而被计算,且基于块的传输率通过将暗通道先验应用于被分割成多个块的先前图像(n-1)的每个块而被计算。这里,基于像素的传输率可被表示为第一传输率,基于块的传输率可被表示为第二传输率。使用等式6,用于处理图像100的设备通过使用当前像素的像素值(R/G/B值)和空气光,来计算应用了暗通道先验的基于像素的传输率(tPTX),从而估计第一传输率。为了估计第二传输率,用于处理图像的设备100将先前图像划分成多个块,通过比较包括在每个块中的像素的像素值来提取具有最小像素值的像素作为代表性像素,并提取多个块的代表性像素的像素值中的最小像素值作为代表性像素值。基于等式7,用于处理图像的设备100通过使用提取的代表性像素值和空气光,来计算基于块的传输率(tbtx)。这里,为了去除块效应,对第二传输率进行插值。此外,第二传输率从先前图像(n-1)计算且被应用于输入图像(n),即,当前图像。从输入图像(n)计算的第二传输率被应用于下一图像。用于处理图像的设备100将应用了第一权重值的第一传输率和在应用了第二权重值之后进行插值的第二传输率进行合成。
用于处理图像的设备100将先前图像(n-1)划分成与在估计第二传输率中使用的块的数量相同数量的块,并在操作S200,计算包括在最亮的块中的最亮像素值作为空气光。
用于处理图像的设备100通过比较包括在每个块中的像素的像素值来将最亮的像素值设置为每个块的代表性空气光值,并提取先前图像的所有代表性空气光值中的最亮的代表性空气光值作为先前图像的空气光。这里,当提取代表性空气光值时,为了防止由噪声引起的误差,可获得最亮的像素的像素值和最亮的像素值的左侧和右侧的像素的像素值的平均值,并将该平均值设置为每个块的代表性空气光值。此外,当在每个图像帧中估计并应用空气光时,会发生因空气光的变化而发生的闪烁。因此,通过无线冲击响应(IIR)滤波,去除噪声并确定将被实际应用的空气光。这里,通过对从输入图像(n)计算的空气光(An)和从先前图像(n-1)估计的空气光(An-1)进行求和来估计最终的空气光(A)。在输入图像(n)中估计的空气光被存储并被应用于下一图像(n+1)中的空气光的估计。因此,如果完成了最终传输率(Trs,t(x))和空气光(A)的估计,则用于处理图像的设备100通过将最终传输率(Trs,t(x))和空气光(A)应用于等式5来产生去除了雾的恢复图像。
根据示例性实施例,由图1和图2中示出的块表示的多个单元可被实施为执行上述各个功能的多个硬件、软件和/或固件结构。例如,这些单元可使用可通过一个或更多个微处理器或其它控制设备的控制而执行各个功能的直接电路结构(诸如存储器、处理、逻辑、查询表等)。这些单元可由模块、程序、包含用于执行特定逻辑功能的一个或更多个可执行指令的一部分代码具体实现。此外,上述单元中的至少一个还可包括处理器(诸如执行各个功能的中央处理器(CPU)、微处理器等)。
描述上述实施例的语境中(尤其在权利要求的语境中)的单数形式或其相似表述将被解释为覆盖单数和复数两者。另外,除非这里另有指示,否则这里对值的范围的叙述仅意图用作单独指示落在该范围内的每个单独的值的速记方法,且每个单独的值如在此分别阐述一样包含在说明书。
除非在此另有指示或与上下文明显相反,否则在此描述的所有方法的步骤可以以任意合适的顺序执行。除非另有申明,否则在此提供的任意和所有示例或示例性的表述(例如,“诸如”)的使用仅意图更好地阐述实施例,而不限制本发明构思的范围。在不脱离本发明构思的精神和范围的情况下,各种修改和改变对于本领域的普通技术人员而言将更加明显。
应理解在此描述的示例性实施例应仅被视为描述性意义而不是为了限制的目的。每个实施例中的特征或方面的描述应被代表性地视为可用于其它实施例中的其它相似特征或方面。
虽然已参照附图描述了本发明构思的一个或更多个实施例,但本领域的普通技术人员将理解,可在不脱离由权利要求限定的本发明的构思的精神和范围的情况下做出形式和细节上的各种改变。

Claims (19)

1.一种用于处理图像的设备,所述设备包括:
传输率估计单元,被构造为通过将包括雾分量的当前图像的当前像素的基于像素的传输率与先前图像的多个块的基于块的传输率进行合成,来计算当前图像的传输率,其中,每个块包括多个像素;
空气光估计单元,被构造为计算当前图像的空气光;
图像恢复单元,被构造为基于传输率和空气光产生从当前图像去除了雾分量的恢复图像。
2.如权利要求1所述的设备,其中,传输率估计单元包括:
第一传输率估计单元,被构造为通过将暗通道先验应用于当前图像的当前像素来计算基于像素的传输率;
第二传输率估计单元,被构造为通过将暗通道先验应用于先前图像的每个块来计算基于块的传输率,
其中,空气光从所述多个块中的最亮的块的最亮像素值计算。
3.如权利要求2所述的设备,其中,第二传输率估计单元被构造为通过使用先前图像的每个块中的多个像素中的最小像素值,来计算基于块的传输率。
4.如权利要求3所述的设备,其中,第二传输率估计单元包括:
分块单元,被构造为将先前图像划分成多个块;
代表性像素值提取单元,被构造为通过比较每个块中的多个像素的像素值,来提取最小像素值作为每个块的代表性像素值;
传输率估计单元,被构造为通过使用代表性像素值来计算基于块的传输率。
5.如权利要求4所述的设备,其中,第一传输率估计单元和第二传输率估计单元被构造为通过应用当前图像的空气光,来计算基于像素的传输率和基于块的传输率。
6.如权利要求4所述的设备,其中,第二传输率估计单元还包括:
插值单元,被构造为根据每个块的中心与当前像素之间的距离,来对每个块的传输率和相邻块的传输率进行插值。
7.如权利要求2所述的设备,其中,传输率估计单元还包括:
合成单元,被构造为将应用了第一权重值的基于像素的传输率和在执行插值后应用了第二权重值的基于块的传输率进行合成。
8.如权利要求1所述的设备,其中,空气光估计单元包括:
代表性空气光值提取单元,被构造为:将先前图像的每个块中的最亮像素的像素值或最亮像素的像素值和最亮像素的左边和右边的像素的像素值的平均值设置为块的代表性空气光值,提取所述多个块中的代表性空气光值中的最亮的代表性空气光值作为先前图像的空气光,使用先前图像的空气光计算当前图像的空气光;
滤波器,从当前图像的空气光去除噪声。
9.如权利要求7所述的设备,其中,滤波器包括无限冲击响应(IIR)滤波器,以从当前图像的空气光去除噪声。
10.如权利要求1所述的设备,其中,空气光估计单元计算当前图像的空气光并将当前图像的空气光应用于下一图像的空气光的计算。
11.一种用于处理图像的方法,所述方法包括:
通过将包括雾分量的当前图像的当前像素的基于像素的传输率与先前图像的多个块的基于块的传输率进行合成,来计算当前图像的传输率,其中,每个块包括多个像素;
计算当前图像的空气光;
基于传输率和空气光产生从当前图像去除雾分量的恢复图像。
12.如权利要求11所述的方法,其中,通过将暗通道先验应用于当前图像的当前像素来计算基于像素的传输率,通过将暗通道先验应用于先前图像的每个块来计算基于块的传输率,
其中,空气光从所述多个块中的最亮的块的最亮像素值计算。
13.如权利要求12所述的方法,其中,通过使用先前图像的每个块中的多个像素的最小像素值来计算基于块的传输率。
14.如权利要求13所述的方法,其中,计算基于块的传输率的步骤包括:
将先前图像划分成多个块;
通过比较每个块中的多个像素的像素值来提取最小的像素值作为每个块的代表性像素值;
通过使用代表性像素值来计算基于块的传输率。
15.如权利要求14所述的方法,基于像素的传输率和基于块的传输率通过应用当前图像的空气光来计算。
16.如权利要求14所述的方法,其中,计算基于块的传输率的步骤还包括:
根据每个块的中心与当前像素之间的距离来对每个块的传输率和相邻块的传输率进行插值。
17.如权利要求12所述的方法,其中,计算当前图像的传输率的步骤包括:
将应用了第一权重值的基于像素的传输率和在执行插值之后应用了第二权重值的基于块的传输率进行合成。
18.如权利要求11所述的方法,其中,估计空气光的步骤包括:
将先前图像的每个块中的最亮像素的像素值或最亮像素的像素值和最亮像素左边和右边的像素的像素值的平均值设置为块的代表性空气光值,提取所述多个块的代表性空气光值中的最亮的代表性空气光值作为先前图像的空气光;
使用先前图像的空气光计算当前图像的空气光;
从当前图像的空气光去除噪声。
19.如权利要求11所述的方法,其中,当前图像的空气光被应用于下一图像的空气光的计算。
CN201410742489.XA 2014-02-27 2014-12-05 用于处理图像的方法和设备 Active CN104881845B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2014-0023710 2014-02-27
KR1020140023710A KR102182697B1 (ko) 2014-02-27 2014-02-27 영상 처리 장치 및 방법

Publications (2)

Publication Number Publication Date
CN104881845A true CN104881845A (zh) 2015-09-02
CN104881845B CN104881845B (zh) 2019-09-17

Family

ID=53882693

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410742489.XA Active CN104881845B (zh) 2014-02-27 2014-12-05 用于处理图像的方法和设备

Country Status (3)

Country Link
US (1) US9280808B2 (zh)
KR (1) KR102182697B1 (zh)
CN (1) CN104881845B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102182697B1 (ko) * 2014-02-27 2020-11-25 한화테크윈 주식회사 영상 처리 장치 및 방법
US9508126B2 (en) * 2015-02-17 2016-11-29 Adobe Systems Incorporated Image haze removal using fast constrained transmission estimation
CN107194900A (zh) * 2017-07-27 2017-09-22 广东欧珀移动通信有限公司 图像处理方法、装置、计算机可读存储介质和移动终端
US10367976B2 (en) * 2017-09-21 2019-07-30 The United States Of America As Represented By The Secretary Of The Navy Single image haze removal
TWI674804B (zh) * 2018-03-15 2019-10-11 國立交通大學 視訊除霧處理裝置及方法
RU2724969C1 (ru) * 2019-12-23 2020-06-29 Акционерное общество "Научно-исследовательский институт телевидения" Способ обнаружения малоразмерных объектов
CN113344802A (zh) * 2021-04-19 2021-09-03 大连海事大学 一种基于自适应的大气光融合的水下图像复原方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013165210A1 (ko) * 2012-05-03 2013-11-07 에스케이텔레콤 주식회사 정지영상에 포함된 헤이즈 제거를 위한 영상 처리 장치 및 그 방법
WO2013172580A1 (ko) * 2012-05-15 2013-11-21 에스케이텔레콤 주식회사 동영상에 포함된 헤이즈 제거를 위한 영상 처리 장치 및 그 방법
CN103942758A (zh) * 2014-04-04 2014-07-23 中国人民解放军国防科学技术大学 基于多尺度融合的暗通道先验图像去雾方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004289276A (ja) 2003-03-19 2004-10-14 Hitachi Kokusai Electric Inc テレビジョンカメラ
JP5771430B2 (ja) * 2011-04-08 2015-08-26 オリンパス株式会社 霞除去画像処理装置、霞除去画像処理方法及び霞除去画像処理プログラム
EP2740100A1 (en) * 2011-08-03 2014-06-11 Indian Institute Of Technology, Kharagpur Method and system for removal of fog, mist or haze from images and videos
CN102968760B (zh) 2011-08-30 2016-08-17 富士通株式会社 图像去雾方法和系统
CN102999883B (zh) * 2011-09-08 2016-03-02 富士通株式会社 图像去雾方法和系统
KR102182697B1 (ko) * 2014-02-27 2020-11-25 한화테크윈 주식회사 영상 처리 장치 및 방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013165210A1 (ko) * 2012-05-03 2013-11-07 에스케이텔레콤 주식회사 정지영상에 포함된 헤이즈 제거를 위한 영상 처리 장치 및 그 방법
WO2013172580A1 (ko) * 2012-05-15 2013-11-21 에스케이텔레콤 주식회사 동영상에 포함된 헤이즈 제거를 위한 영상 처리 장치 및 그 방법
CN103942758A (zh) * 2014-04-04 2014-07-23 中国人民解放军国防科学技术大学 基于多尺度融合的暗通道先验图像去雾方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
吕兴永: "单张图像去雾研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *
齐妙 等: "基于小波融合的单幅图像去雾方法", 《东北师大学报》 *

Also Published As

Publication number Publication date
KR102182697B1 (ko) 2020-11-25
US9280808B2 (en) 2016-03-08
CN104881845B (zh) 2019-09-17
US20150243003A1 (en) 2015-08-27
KR20150101872A (ko) 2015-09-04

Similar Documents

Publication Publication Date Title
CN104881845A (zh) 用于处理图像的方法和设备
Aittala et al. Burst image deblurring using permutation invariant convolutional neural networks
CN102326379B (zh) 从图像中去除模糊的方法
US11182620B2 (en) Method for training a convolutional recurrent neural network and for semantic segmentation of inputted video using the trained convolutional recurrent neural network
Mao et al. Non rigid geometric distortions correction-application to atmospheric turbulence stabilization
US9672601B2 (en) System, method and computer-accessible medium for restoring an image taken through a window
Zhang et al. Hierarchical feature fusion with mixed convolution attention for single image dehazing
Eigen et al. Restoring an image taken through a window covered with dirt or rain
CN105023256B (zh) 一种图像去雾方法及系统
CN105046658A (zh) 一种低照度图像处理方法和装置
CN105472204A (zh) 基于运动检测的帧间降噪方法
CN105913392A (zh) 复杂环境下退化图像综合质量提升方法
CN106169181A (zh) 一种图像处理方法及系统
CN111861925A (zh) 一种基于注意力机制与门控循环单元的图像去雨方法
Gao et al. Atmospheric turbulence removal using convolutional neural network
CN105205794A (zh) 一种低照度图像的同步增强去噪方法
CN104166968A (zh) 一种图像去雾的方法、装置及移动终端
CN104272347A (zh) 去除包含在静止图像中的雾的图像处理装置及其方法
CN103034983A (zh) 一种基于各向异性滤波的去雾方法
Kim et al. Temporally x real-time video dehazing
Malik et al. Llrnet: A multiscale subband learning approach for low light image restoration
CN103971345A (zh) 一种基于改进双边滤波的图像去噪方法
CN111325671A (zh) 网络训练方法、装置、图像处理方法及电子设备
CN108171124B (zh) 一种相似样本特征拟合的人脸图像清晰化方法
CN112132757B (zh) 一种基于神经网络的通用图像复原方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C53 Correction of patent of invention or patent application
CB02 Change of applicant information

Address after: Gyeongnam Changwon City, South Korea

Applicant after: HANWHA TECHWIN Co.,Ltd.

Address before: Gyeongnam Changwon City, South Korea

Applicant before: Samsung Techwin Co.,Ltd.

COR Change of bibliographic data

Free format text: CORRECT: APPLICANT; FROM: SAMSUNG TAI KEWEI CO., LTD. TO: HANWHA TECHWIN CO., LTD.

Free format text: CORRECT: ADDRESS; FROM:

C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: Gyeongnam Changwon City, South Korea

Applicant after: HANWHA AEROSPACE Co.,Ltd.

Address before: Gyeongnam Changwon City, South Korea

Applicant before: HANWHA TECHWIN Co.,Ltd.

TA01 Transfer of patent application right

Effective date of registration: 20190228

Address after: Gyeonggi Do city of South Korea

Applicant after: HANWHA TECHWIN Co.,Ltd.

Address before: Gyeongnam Changwon City, South Korea

Applicant before: HANWHA AEROSPACE Co.,Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20220330

Address after: Gyeonggi Do city of South Korea

Patentee after: HANWHA TECHWIN Co.,Ltd.

Patentee after: New future semiconductor Co.,Ltd.

Address before: Gyeonggi Do city of South Korea

Patentee before: HANWHA TECHWIN Co.,Ltd.

TR01 Transfer of patent right
CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: Gyeonggi Do city of South Korea

Patentee after: Hanhua Vision Co.,Ltd.

Patentee after: New future semiconductor Co.,Ltd.

Address before: Gyeonggi Do city of South Korea

Patentee before: HANWHA TECHWIN Co.,Ltd.

Patentee before: New future semiconductor Co.,Ltd.