KR101426298B1 - apparatus and method for compensating image for enhancing fog removing efficiency - Google Patents
apparatus and method for compensating image for enhancing fog removing efficiency Download PDFInfo
- Publication number
- KR101426298B1 KR101426298B1 KR1020140008906A KR20140008906A KR101426298B1 KR 101426298 B1 KR101426298 B1 KR 101426298B1 KR 1020140008906 A KR1020140008906 A KR 1020140008906A KR 20140008906 A KR20140008906 A KR 20140008906A KR 101426298 B1 KR101426298 B1 KR 101426298B1
- Authority
- KR
- South Korea
- Prior art keywords
- dark channel
- pixel
- channel map
- fog
- brightness value
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration by the use of local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
- G06T2207/20028—Bilateral filtering
Abstract
Description
본 발명은 안개 제거율을 높인 영상보정장치 및 방법에 관한 것으로서, 상세하게로는 다크 채널 프라이어(Dark channel prior)를 이용하여 안개깊이 정보를 포함하는 다크 채널 맵을 생성한 후 Blilteral filter를 통해 다크 채널 맵을 정련시키고, 기 설정된 무빙 윈도우(Moving window) 알고리즘을 이용하여 정련된 다크 채널 맵의 밝기값을 재 정렬함으로써 에지정보의 손실로 인한 블록현상을 절감시킴과 동시에 안개 제거율을 현저히 높일 수 있는 영상보정장치 및 방법에 관한 것이다.The present invention relates to an image correcting apparatus and method for enhancing a fog removal rate. More specifically, a dark channel map including dark depth information is generated using a dark channel prior to a dark channel map, The map is refined and the brightness values of the refined dark channel map are rearranged by using a predetermined moving window algorithm to reduce the block phenomenon due to the loss of edge information and to improve the fog removal rate A correction device and a method.
실외영상은 실내영상에 비교하여 날씨 및 기상상황 등에 따라 밝기가 유동적이며, 노이즈가 심한 특성을 갖기 때문에 영상의 화질이 떨어지게 된다. 특히 안개는 빛을 흡수 및 산란시켜 안개가 형성된 날에 촬영된 영상은 피사체와의 거리가 멀어질수록 색 정보 및 edge 정보가 줄어들어 영상처리 인식률이 현저히 떨어지게 된다.Compared to the indoor image, the outdoor image has a variable brightness depending on the weather and weather conditions, and the quality of the image is deteriorated due to the noise characteristic. Especially, fog absorbs and scatters light, and images captured on a fogged day become less distant from color images and edge information as the distance from the subject increases.
이에 따라 좋지 않은 기상상태에서의 영상으로부터 노이즈, 특히 안개를 제거하여 깨끗한 영상으로 보정하기 위한 영상보정 알고리즘 및 장치에 대한 다양한 연구가 진행되고 있다.Accordingly, various studies have been made on an image correction algorithm and an apparatus for correcting noise, especially fog, from a video image in a bad weather state to a clean image.
종래에 안개를 제거하기 위한 영상보정방법으로는 서로 다른 편광렌즈를 사용하는 방법, 두 개 이상의 카메라를 이용하는 방법 및 노이즈 없는 영상을 이용하는 방법 등이 있으나, 이러한 방법들은 영상이 하나만 존재하거나 모든 장소에 대한 추가적인 정보(모든 장소에 대한 영상데이터, GPS 정보 등)가 없을 경우 적용될 수 없는 한계를 갖는다.Conventionally, image correction methods for removing fog include a method of using different polarizing lenses, a method of using two or more cameras, and a method of using noise-free images. However, these methods require only one image, , There is a limit that can not be applied when there is no additional information (image data, GPS information, etc. for all places).
또한 종래의 Markov random field(MRF) 모델을 이용한 영상보정방법은 신뢰도 전파(belief propagation: BP)나 그래프 컷(graph cut) 등의 알고리즘을 이용하여 MRF 모델에 적용시켜 영상을 보정하는 방법이나, 이러한 방법은 과도한 채도 증가로 인해 결과 영상에 후광(halo)이 생성되는 단점을 갖는다.In addition, the image correction method using the conventional Markov random field (MRF) model is applied to the MRF model by using belief propagation (BP) or graph cut algorithm to correct the image, The method has a disadvantage in that a halo is generated in the resultant image due to an increase in saturation.
또한 종래의 Fattal 방법은 일정 구간 내 깨끗한 영상의 벡터방향은 일정한 반사율 R의 벡터방향과 같은 점을 이용하여 ICA(independent component analysis)를 통해 반사율을 측정함으로써 원하는 결과 영상을 획득하는 방법이나, 이러한 방법은 짙은 안개에 대해서는 보정율이 떨어지는 단점을 갖는다.Also, in the conventional Fattal method, the vector direction of a clean image within a predetermined section is obtained by measuring the reflectance through ICA (independent component analysis) using the same vector direction as the vector direction of the reflectance R, Has a disadvantage that the correction rate is lowered for dense fog.
이에 따라 연산처리가 간단하면서도 보정율이 높은 다크 채널 프라이어(Dark channel prior)를 이용한 영상보정방법이 연구되었다. Accordingly, an image correction method using a dark channel prior, which has a simple calculation process and a high correction rate, has been studied.
다크 채널 프라이어(Dark channel prior)를 이용한 영상보정방법은 안개가 없는 영상의 일정 구역에서는 밝기가 '0'인 화소가 존재한다는 점과, 안개가 짙은 영역일수록 일정 구역 내에 존재하는 가장 어두운 화소가 밝아진다는 성질을 이용하여 안개의 전달량을 산출하고, 이를 통해 영상을 복원하여 연산처리가 간단하면서도 보정율이 높아 사용량이 점차 증가하고 있다.The image correction method using the dark channel prior method is advantageous in that there is a pixel having a brightness of '0' in a certain region of a fogless image and that the darkest pixel existing in a certain region in the fog- And the amount of fog is calculated by using the property that the image is restored, and the amount of use is gradually increased because the image is restored and the calculation process is simple and the correction rate is high.
국내등록특허 제10-1190286호(발명의 명칭 : 에지 정보 및 톤 매핑을 기반으로 한 영상의 안개제거 장치 및 방법)에 개시된 안개제거 장치는 다크 채널 맵을 생성한 후 입력영상에서 에지 영역을 제외한 영역의 화소들에 대응하는 다크 채널 프라이어 값을 기초로 인력영상의 안개 밝기값과, 안개의 짙은 정도를 나타내는 전달량을 산출하여 영상을 복원하도록 구성되어 있다.A fog removing device disclosed in Korean Patent No. 10-1190286 (entitled " Device and method for eliminating fog of an image based on edge information and tone mapping "), generates a dark channel map, Based on the dark channel flier value corresponding to the pixels of the region, the fog brightness value of the attraction image and the transmission amount indicating the degree of darkness of the fog are calculated and the image is restored.
그러나 상기 안개제거 장치는 전달맵 생성부가 다크 채널 맵의 에지 정보가 원 영상의 에지 정보와 일치하지 않는 블록 현상을 해결하기 위해 소프트 매팅 알고리즘(Soft matting algorithm)을 이용하여 전달량에 대한 정련을 수행하나, 소프트 매팅 알고리즘을 높은 연산처리가 요구되는 매트릭스를 기반으로 연산을 처리하기 때문에 연산처리시간이 과도하게 지체되는 단점을 갖는다.However, in the fog removal apparatus, the transmission map generation unit refines the transmission amount using a soft matting algorithm to solve the block phenomenon in which the edge information of the dark channel map does not match the edge information of the original image , There is a disadvantage that the calculation processing time is excessively delayed because the soft matting algorithm processes the arithmetic operation based on the matrix requiring high arithmetic processing.
도 1은 국내등록특허 제10-11902586호(발명의 명칭 : 에지 정보 및 톤 매핑을 기반으로 한 영상의 안개제거 장치 및 방법)의 문제점을 설명하기 위한 예시도이다.FIG. 1 is an exemplary view for explaining the problem of the Korean Registered Patent No. 10-11902586 (name of the invention: an apparatus and method for removing fog on an image based on edge information and tone mapping).
상기 안개제거 장치는 도 1에 도시된 바와 같이 영상분석부가 입력된 동영상 프레임(205)으로부터 다크 채널 맵을 생성할 때 각 화소의 밝기값을 직접 이용한 것이 아니라 임의의 화소(210)를 중심으로 기 설정된 크기의 영역(220)에 포함되는 화소들의 밝기값들 중 최소값을 각 화소의 안개깊이 정보인 다크 채널 프라이어를 산출하였기 때문에 전달맵의 에지가 원 영상의 에지와 일치하지 않는 블록현상이 발생하는 문제점을 갖는다.1, when the dark channel map is generated from the moving
도 2는 미국공개특허 US2013/0071043 A1호에 개시된 영상 안개제거 시스템을 나타내는 블록도이다.2 is a block diagram illustrating an image fog removal system as disclosed in U.S. Patent Application No. US2013 / 0071043 Al.
도 2의 영상 안개제거 시스템(이하 종래기술이라고 함)(100)은 각 화소의 다크 채널 값으로 이루어지는 픽셀 기반 다크 채널 맵을 생성하는 픽셀 기반 다크 채널 맵 생성부(102)와, 각 화소의 다크 채널 값을 기 설정된 크기의 로컬영역에 포함되는 화소들의 밝기값들 중 최소의 밝기값으로 대체한 로컬영역 기반 다크 채널 맵을 생성하는 로컬영역 기반 다크 채널 맵 생성부(104)와, 픽셀 기반 다크 채널 맵 및 로컬영역 다크 채널 맵을 이용하여 최적화된 최종 다크 채널 맵을 새성하는 최종 다크 채널 맵 생성부(106)와, 최종 다크 채널 맵을 분석하여 안개 밝기값을 산출하는 안개 밝기값 산출부(108)와, 안개 밝기값 산출부에 의해 산출된 안개 밝기값을 이용하여 안개의 짙은 정도를 나타내는 전달량으로 이루어지는 전달맵을 새성하는 전달맵 생성부(110)와, 전달맵 생성부(110)의 전달량을 분석하여 영상을 보정하는 보정부(112)로 이루어진다.The image
종래기술(100)은 최종 다크 채널 맵 생성부(105)가 픽셀기반 다크 채널 맵 및 로컬기반 다크 채널 맵을 이용하여 픽셀기반 다크 채널 맵의 픽셀 X에 대한 밝기값과, 로컬기반 다크 채널 맵의 픽셀 X에 대한 밝기값들 중 낮은 밝기값을 픽셀 X에 대한 밝기값으로 결정한 최종 다크 채널 맵을 생성함으로써 안개제거를 더욱 효율적으로 수행할 수 있으며, 종래에 비교하여 전달맵에 더 많은 에지 정보를 포함하는 장점을 갖는다.The prior art (100) shows that the final dark channel map generator 105 uses the pixel-based dark channel map and the locally-based dark channel map to calculate the brightness value for the pixel X of the pixel-based dark channel map, It is possible to more efficiently perform the fog removal by generating the final dark channel map in which the lower brightness value of the pixel X is determined as the brightness value of the pixel X. Thus, .
그러나 종래기술(100)은 최종 다크 채널 맵의 각 화소의 밝기값이 해당 화소에 대한 정확한 밝기값일 수도 있으나 해당 화소를 중심으로 한 로컬영역의 밝기값일 수도 있기 때문에 전달맵의 에지가 원영상의 에지와 일치하지 않는 도 1의 문제점이 여전히 지속되게 된다.However, in the
또한 종래기술(100)은 전달맵의 전달량은 로컬영역을 기반으로 산출된 값이기 때문에 에지 정보가 원 영상과 일치하지 않는 블록현상을 줄이기 위한 별도의 방법 및 수단이 기재되어 있지 않아 보정영상의 품질이 저하되는 단점을 갖는다.In addition, since the transmission amount of the transmission map is a value calculated based on the local area, the
본 발명은 이러한 문제를 해결하기 위한 것으로서, 본 발명의 해결과제는 다크 채널 프라이어(Dark channel prior)를 이용하여 동영상 프레임으로부터 각 화소의 안개깊이 정보를 나타내는 다크 채널 맵을 생성한 후 이전 프레임들과의 채널값을 비교하여 가장 낮은 값을 해당 화소의 다크 채널 프라이어 값으로 결정하는 moving window 알고리즘을 수행함으로써 입력영상과 비교하였을 때 에지 정보의 손실을 현저히 절감시킬 수 있는 영상보정장치 및 방법을 제공하기 위한 것이다.SUMMARY OF THE INVENTION The present invention has been made to solve the above problems, and it is an object of the present invention to provide a method and apparatus for generating dark channel maps representing fog depth information of each pixel from a moving picture frame using a dark channel prior, And a moving window algorithm for determining a lowest value as a dark channel flier value of the corresponding pixel by comparing the channel values of the input image and the channel values of the input image, .
또한 본 발명의 다른 해결과제는 픽셀기반 다크 채널 맵이 생성되면 Blilteral filter를 이용하여 픽셀기반 다크 채널 맵으로부터 에지 정보는 보존하되 노이즈를 제거함으로써 연산처리량 및 속도를 절감시킴과 동시에 안개제거 효율 및 영상 품질을 높일 수 있는 영상보정장치 및 방법을 제공하기 위한 것이다.Another object of the present invention is to save the edge information from the pixel-based dark channel map by using a blilter filter when the pixel-based dark channel map is generated, and reduce the processing throughput and speed by removing noise, And to provide an image correction apparatus and method capable of enhancing quality.
또한 본 발명의 또 다른 해결과제는 최적화부가 moving window 알고리즘이 수행된 윈도우기반 다크 채널 맵을 로컬기반 다크 채널 맵으로 변환한 후 변환된 로컬기반 다크 채널 맵과, 필터링 된 픽셀기반 다크 채널 맵으로부터 동일 화소의 밝기값들을 비교하여 낮은 값을 최종적으로 해당 화소의 다크 채널 프라이어 값으로 결정함으로써 안개제거 효율을 더욱 높일 수 있는 영상보정장치 및 방법을 제공하기 위한 것이다.Yet another object of the present invention is to provide a method and an apparatus for optimizing an image processing apparatus in which an optimization unit converts a window-based dark channel map on which a moving window algorithm is performed to a local-based dark channel map, The present invention is to provide an image correcting apparatus and method capable of further increasing the fog removal efficiency by comparing the brightness values of the pixels and finally determining the lower value as the dark channel flier value of the corresponding pixel.
상기 해결과제를 해결하기 위한 본 발명의 해결수단은 동영상으로부터 안개를 제거하기 위한 영상보정장치에 있어서: 현재 프레임으로부터 각 화소의 안개깊이 정보를 나타내는 다크 채널 프라이어 값들로 이루어지는 픽셀기반 다크 채널 맵을 생성하는 픽셀기반 다크 채널 맵 생성부; 상기 픽셀기반 다크 채널 맵 생성부에 의해 생성된 상기 픽셀기반 다크 채널 맵으로부터 밝기 정보에 기반을 두는 가우시안 평균값과, 거리에 기반을 두는 가우시안 평균값의 조합된 평균값으로 각 화소의 밝기값을 결정하는 Blilateral filer를 수행하는 필터링부; 상기 필터링부에 의해 필터링 된 픽셀기반 다크 채널 맵과, 상기 현재 프레임으로부터 기 설정된 수량의 이전 프레임들로부터 동일 화소에 대한 채널값들을 비교하여 최소값을 해당 화소의 다크 채널 프라이어 값으로 결정하는 moving window 알고리즘을 수행함으로써 윈도우기반 다크 채널 맵을 생성하는 moving window 처리부; 상기 현재 프레임의 안개 밝기값을 검출하는 안개 밝기값 검출부; 상기 안개 밝기값 및 상기 윈도우기반 다크 채널 맵을 활용하여 각 화소의 안개 정도를 나타내는 전달량으로 이루어지는 전달맵을 생성하는 전달맵 생성부; 상기 안개 밝기값 및 상기 전달맵을 이용하여 상기 현재 프레임으로터 안개를 제거한 복원영상을 생성하는 영상 보정부를 포함하는 것이다.According to an aspect of the present invention, there is provided an image correction apparatus for removing fog from a moving image, the apparatus comprising: a pixel-based dark channel map including dark channel flier values representing fog depth information of each pixel from a current frame; Based dark channel map generating unit; Based on the pixel-based dark channel map generated by the pixel-based dark channel map generator, a combined average value of the Gaussian average value based on the brightness information and the Gaussian average value based on the distance, a filtering unit for performing a filer; A moving window algorithm that compares channel values for the same pixel from a predetermined number of previous frames from the current frame and determines a minimum value as a dark channel flier value of the corresponding pixel based on the pixel-based dark channel map filtered by the filtering unit; A moving window processing unit for generating a window-based dark channel map by executing the window-based dark channel map; A fog brightness value detector for detecting a fog brightness value of the current frame; A transmission map generating unit for generating a transmission map including a fog brightness value and a fog amount indicating a degree of fog of each pixel using the window based dark channel map; And an image correction unit for generating a reconstructed image from which the fog is removed from the current frame by using the fog brightness value and the transmission map.
삭제delete
또한 본 발명에서 상기 moving window 처리부에 의해 생성된 윈도우기반 다크 채널 맵으로부터 특정 화소의 밝기값을 상기 특정 화소를 기준으로 기 설정된 크기의 로컬영역들 중 가장 낮은 밝기값으로 대체하는 로컬기반 다크 채널 맵을 생성하며, 상기 로컬기반 다크 채널 맵과 상기 픽셀기반 다크 채널 맵으로부터 동일 화소에 대한 밝기값을 비교하여 두 값들 중 낮은 값을 해당 화소의 밝기값으로 최종적으로 결정하여 최적 다크 채널 맵을 생성하는 최적화부를 더 포함하고, 상기 전달맵 생성부는 상기 최적화부에 의해 생성된 상기 최적 다크 채널 맵을 활용하여 전달맵을 생성하는 것이 바람직하다.Also, in the present invention, a local-based dark channel map for replacing the brightness value of a specific pixel from the window-based dark channel map generated by the moving window processing unit with the lowest brightness value among local areas of predetermined sizes based on the specific pixel And compares the brightness values of the same pixel from the local-based dark channel map and the pixel-based dark channel map to finally determine the lower value of the two values as the brightness value of the corresponding pixel to generate an optimal dark channel map Preferably, the transmission map generating unit generates the transmission map using the optimal dark channel map generated by the optimizing unit.
또한 본 발명에서 상기 안개 밝기값 검출부는 상기 현재 프레임으로부터 밝기값 히스토그램을 생성한 후 상위 10%를 제외한 최대 밝기값을 안개 밝기값으로 결정하는 것이 바람직하다.Also, in the present invention, it is preferable that the fog brightness value detector determines the maximum brightness value excluding the upper 10% as the fog brightness value after generating the brightness value histogram from the current frame.
또한 본 발명의 다른 해결과제는 동영상으로부터 안개를 제거하기 위한 영상보정방법에 있어서: 현재 프레임으로부터 밝기값을 검출하는 안개 밝기값 검출단계; 상기 현재 프레임의 각 화소의 안개깊이 정보를 나타내는 다크 채널 프라이어 값들로 이루어지는 픽셀기반 다크 채널 맵을 생성하는 픽셀기반 다크 채널 맵 생성단계; 상기 픽셀기반 다크 채널 맵 생성단계에 의해 생성된 상기 픽셀기반 다크 채널 맵으로부터 밝기 정보에 기반을 두는 가우시안 평균값과, 거리에 기반을 두는 가우시안 평균값의 조합된 평균값으로 각 화소의 밝기값을 결정하는 Blilateral filer를 수행하는 필터링단계; 상기 필터링단계에 의해 필터링 된 픽셀기반 다크 채널 맵과, 상기 현재 프레임으로부터 기 설정된 수량의 이전 프레임들로부터 동일 화소에 대한 채널값들을 비교하여 가장 낮은 값을 해당 화소의 밝기값으로 결정하는 moving window 알고리즘을 수행하여 윈도우기반 다크 채널 맵을 생성하는 moving window 처리단계; 상기 moving window 처리단계에 의해 생성된 상기 윈도우기반 다크 채널 맵과, 상기 안개 밝기값 검출단계에 의해 검출된 안개 밝기값을 활용하여 각 화소에 포함된 안개의 짙은 정도를 나타내는 전달량으로 이루어지는 전달맵을 생성하는 전달맵 생성단계; 상기 전달맵 생성단계에 의해 생성된 전달맵과, 상기 안개 밝기값을 이용하여 상기 현재 프레임으로부터 안개가 제거된 영상인 복원영상을 생성하는 영상복원단계를 포함하는 것이다.According to another aspect of the present invention, there is provided an image correction method for removing fog from a moving image, the method comprising: a fog brightness value detection step of detecting a brightness value from a current frame; A pixel-based dark channel map generating step of generating a pixel-based dark channel map consisting of dark channel flier values representing fog depth information of each pixel of the current frame; Based on the pixel-based dark channel map generated by the pixel-based dark channel map generating step, a combined average value of the Gaussian average value based on the brightness information and the Gaussian average value based on the distance, a filtering step of performing a filer; A moving window algorithm that compares channel values for the same pixel from a predetermined number of previous frames from the current frame and determines the lowest value as the brightness value of the pixel, based on the pixel-based dark channel map filtered by the filtering step; A moving window processing step of generating a window-based dark channel map by performing the following steps; Based on the window-based dark channel map generated by the moving window processing step and a fog brightness value detected by the fog brightness value detecting step, a transmission map including a delivery amount indicating a degree of darkness of fog contained in each pixel Generating a transmission map; And generating a reconstructed image, which is a fog removed image from the current frame, using the transmission map generated by the transmission map generating step and the fog brightness value.
또한 본 발명에서 상기 픽셀기반 다크 채널 맵 생성단계 이후에 진행되어 상기 픽셀기반 다크 채널 맵 생성단계에 의해 생성된 상기 픽셀기반 다크 채널 맵으로부터 밝기 정보에 기반을 두는 가우시안 평균값과, 거리에 기반을 두는 가우시안 평균값의 조합된 평균값으로 각 화소의 밝기값을 결정하는 Blilateral filer를 수행하는 필터링단계를 더 포함하고, 상기 moving window 처리단계는 상기 필터링단계에 의해 필터링 된 픽셀기반 다크 채널 맵에 상기 moving window 알고리즘을 수행하는 것이 바람직하다.Further, in the present invention, the Gaussian average value based on the brightness information from the pixel-based dark channel map generated by the pixel-based dark channel map generation step after the pixel-based dark channel map generation step, Further comprising a filtering step of performing a blilateral filer to determine a brightness value of each pixel with a combined average value of the Gaussian averages, wherein the moving window processing step includes a moving window algorithm . ≪ / RTI >
또한 본 발명에서 상기 moving window 처리단계 이후에 진행되며, 상기 moving window 처리단계에 의해 생성된 윈도우기반 다크 채널 맵으로부터 특정 화소의 밝기값을 상기 특정 화소를 기준으로 기 설정된 크기의 로컬영역들 중 가장 낮은 밝기값으로 대체하는 로컬기반 다크 채널 맵을 생성한 후 상기 로컬기반 다크 채널 맵과 상기 픽셀기반 다크 채널 맵으로부터 동일 화소에 대한 밝기값을 비교하여 두 값들 중 낮은 값을 해당 화소의 밝기값으로 최종적으로 결정하여 최적 다크 채널 맵을 생성하는 최적화단계를 더 포함하고, 상기 전달맵 생성단계는 상기 최적화단계에 의해 생성된 상기 최적 다크 채널 맵을 활용하여 전달맵을 생성하는 것이 바람직하다.In the present invention, the brightness value of a specific pixel may be calculated from the window-based dark channel map generated by the moving window processing step after the moving window processing step, Based dark channel map is replaced with a lower brightness value, and then a brightness value of the same pixel is compared with the brightness value of the corresponding pixel from the local-based dark channel map and the pixel-based dark channel map, Further comprising an optimization step of finally determining an optimal dark channel map to generate an optimal dark channel map, and the transmission map generating step generates the transmission map using the optimum dark channel map generated by the optimization step.
또한 본 발명에서 상기 안개 밝기값 검출단계는 상기 현재 프레임으로부터 밝기값 히스토그램을 생성한 후 상위 10%를 제외한 최대 밝기값을 안개 밝기값으로 결정하는 것이 바람직하다.Also, in the present invention, it is preferable that the fog brightness value detection step determines the maximum brightness value excluding the upper 10% as the fog brightness value after generating the brightness value histogram from the current frame.
상기 해결 수단을 갖는 본 발명에 따르면 다크 채널 프라이어(Dark channel prior)를 이용하여 동영상 프레임으로부터 각 화소의 안개깊이 정보를 나타내는 다크 채널 맵을 생성하되 생성된 다크 채널 맵에 moving window 알고리즘을 수행함으로써 안개를 효율적으로 보정함과 동시에 에지정보가 손실되는 블록현상을 획기적으로 절감시킬 수 있게 된다.According to the present invention having the above-mentioned solution, a dark channel map representing fog depth information of each pixel is generated from a moving picture frame using a dark channel prior, and a moving window algorithm is performed on the generated dark channel map, It is possible to remarkably reduce the block phenomenon in which the edge information is lost.
또한 본 발명에 의하면 Blilteral filter를 이용하여 다크 채널 맵으로부터 에지정보를 보존하되 노이즈를 제거함으로써 안개를 효율적으로 제거할 뿐만 아니라 영상품질을 증가시킬 수 있다.According to the present invention, edge information is preserved from a dark channel map using a blilter filter, but noise can be removed, thereby effectively removing fog and increasing image quality.
또한 본 발명에 의하면 최적화부가 moving window 알고리즘이 수행된 윈도우기반 다크 채널 맵을 로컬기반 다크 채널 맵으로 변환한 후 변환된 로컬기반 다크 채널 맵과, 필터링 된 픽셀기반 다크 채널 맵으로부터 동일 화소의 밝기값들을 비교하여 낮은 값을 최종적으로 해당 화소의 다크 채널 프라이어 값으로 결정함으로써 안개제거가 더욱 효율적으로 이루어진다.According to the present invention, the optimizing unit converts the window-based dark channel map, in which the moving window algorithm is performed, into the local-based dark channel map, and then converts the converted local-based dark channel map and the brightness value And finally determining the lower value as the dark channel flier value of the corresponding pixel, the fog removal is performed more efficiently.
도 1은 국내등록특허 제10-11902586호(발명의 명칭 : 에지 정보 및 톤 매핑을 기반으로 한 영상의 안개제거 장치 및 방법)의 문제점을 설명하기 위한 예시도이다.
도 2는 미국공개특허 US2013/0071043 A1호에 개시된 영상 안개제거 시스템을 나타내는 블록도이다.
도 3은 본 발명의 일실시예인 영상보정장치를 나타내는 블록도이다.
도 4는 도 3의 Moving window 처리부를 나타내는 블록도이다.
도 5는 도 의 예시도이다.
도 6은 도 3의 다크 채널 맵 최적화부를 나타내는 블록도이다.
도 7은 도 6의 예시도이다.
도 8의 (a)는 본 발명이 적용되지 않은 영상을 나타내는 실제 화면이고, (b)는 본 발명이 적용되어 안개가 제거된 영상을 나타내는 실제 화면이다.
도 9는 본 발명의 동작과정을 설명하기 위한 플로차트이다.FIG. 1 is an exemplary view for explaining the problem of the Korean Registered Patent No. 10-11902586 (name of the invention: an apparatus and method for removing fog on an image based on edge information and tone mapping).
2 is a block diagram illustrating an image fog removal system as disclosed in U.S. Patent Application No. US2013 / 0071043 Al.
3 is a block diagram illustrating an image correction apparatus according to an embodiment of the present invention.
FIG. 4 is a block diagram showing a moving window processing unit of FIG. 3. FIG.
Fig. 5 is an exemplary view of the figure.
FIG. 6 is a block diagram illustrating the dark channel map optimizer of FIG. 3. FIG.
Fig. 7 is an exemplary view of Fig. 6. Fig.
8 (a) is an actual screen showing an image to which the present invention is not applied, and FIG. 8 (b) is an actual screen showing a fog removed image according to the present invention.
FIG. 9 is a flowchart illustrating an operation procedure of the present invention.
이하, 첨부된 도면을 참조하여 본 발명의 일실시예를 설명하기로 한다.Hereinafter, an embodiment of the present invention will be described with reference to the accompanying drawings.
도 3은 본 발명의 일실시예인 영상보정장치를 나타내는 블록도이다.3 is a block diagram illustrating an image correction apparatus according to an embodiment of the present invention.
도 3의 영상보정장치(1)는 데이터들이 저장되는 데이터베이스부(12)와, 카메라(10)로부터 영상을 수신 받는 통신 인터페이스부(13)와, 입력된 영상으로부터 각 화소의 안개 깊이정보를 나타내는 다크 채널 프라이어(Dark channel prior) 값으로 이루어지는 다크 채널 맵(이하 픽셀기반 다크 채널 맵이라고 함)을 생성하는 픽셀기반 다크 채널 맵 생성부(14)와, 후술되는 도 5의 Blilateral filer를 이용하여 픽셀기반 다크 채널 맵으로부터 각 화소의 안개는 제거하되 에지정보는 보존하는 필터링부(15)와, moving window 알고리즘을 이용하여 필터링부(15)에 의해 필터링 된 픽셀기반 다크 채널 맵으로부터 각 화소의 다크 채널 프라이어 값을 재배치한 윈도우기반 다크 채널 맵을 생성하는 Moving window 처리부(16)와, 픽셀기반 다크 채널 맵 및 윈도우기반 다크 채널 맵들을 비교하여 각 화소의 최적의 값들로 이루어지는 다크 채널 맵(이하 최적 다크 채널 맵이라고 함)을 생성하는 다크 채널 맵 최적화부(17)와, 픽셀기반 다크 채널 맵 생성부(14)에 의해 생성된 픽셀기반 다크 채널 맵을 분석하여 안개 밝기값을 검출하는 안개 밝기값 검출부(18)와, 안개 밝기값 및 최적 다크 채널 맵을 이용하여 각 화소의 안개의 짙은 정도인 전달량을 나타내는 전달맵을 생성하는 전달맵 생성부(19)와, 전달맵, 안개 밝기값 및 최적 다크 채널 맵을 분석하여 영상을 보정하는 영상보정부(20)와, 이들 제어대상(12), (13), (14), (15), (16), (17), (18), (19), (20)들을 제어하는 제어부(11)로 이루어진다.The image correction apparatus 1 shown in Fig. 3 includes a
제어부(11)는 영상보정장치(1)의 O.S(Operating system)이며, 제어대상(12), (13), (14), (15), (16), (17), (18), (19), (20)들을 제어한다.The
또한 제어부(11)는 주기적으로 통신 인터페이스부(13)를 실시간으로 크롤링(Crawling) 하여 카메라(10)로부터 입력받은 영상을 픽셀기반 다크 채널 맵 생성부(14)로 입력한다.The
또한 제어부(11)는 픽셀기반 다크 채널 맵 생성부(14)에 의해 생성된 픽셀기반 다크 채널 맵을 Moving window 처리부(16), 최적화부(17) 및 안개 밝기값 검출부(18)로 입력한다.The
또한 제어부(11)는 Moving window 처리부(16)에 의해 생성된 윈도우기반 다크 채널 맵을 최적화부(17)로 입력한다.The
또한 제어부(11)는 다크 채널 맵 최적화부(17)에 의해 최적화된 다크 채널 맵인 최적 다크 채널 맵과, 안개 밝기값 검출부(18)에 의해 검출된 안개 밝기값과, 전달맵 생성부(19)에 의해 생성된 전달맵을 영상 보정부(20)로 입력한다.The
데이터베이스부(12)에는 입력된 동영상 프레임과, 영상 보정부(20)에 의해 보정된 프레임(이하 보정 프레임이라고 함)들이 저장된다.The input video frame and the frame corrected by the video correction unit 20 (hereinafter referred to as a correction frame) are stored in the
또한 데이터베이스부(12)에는 픽셀기반 다크 채널 맵 생성부(14)에 의해 생성된 픽셀기반 다크 채널 맵과, Moving window 처리부(16)에 의해 생성된 윈도우기반 다크 채널 맵과, 다크 채널 맵 최적화부(17)에 의해 최적화된 최적 다크 채널 맵과, 안개 밝기값 검출부(18)에 의해 검출된 안개 밝기값과, 전달맵 생성부(19)에 의해 생성된 전달맵이 저장된다.The
또한 데이터베이스부(12)에는 필터링부(15)에 활용되는 후술되는 도 5의 Blilateral filer들과, Moving window 처리부(16)에 활용되는 Moving window 알고리즘이 저장된다.In addition, the
이하 다크 채널 맵을 생성하기 위한 연산처리 과정을 살펴보기로 한다.Hereinafter, an operation process for generating a dark channel map will be described.
다음의 수학식 1의 광학모델 연산은 안개 영상을 표현하는데 널리 사용되는 공지된 수학식이며, R, G, B 채널마다 정의된다.The optical model operation of the following equation (1) is a well-known mathematical expression widely used for representing a fog image, and is defined for each of the R, G, and B channels.
[수학식 1][Equation 1]
이때 는 안개가 포함된 카메라를 통해 획득된 영상인 입력영상이고, 는 복원해야할 깨끗한 영상이고, 는 영상의 안개 밝기값이고, 는 깨끗한 영상에 안개 밝기값이 어느 정도의 비율인지를 나타내는 안개의 짙은 정도로 정의되는 전달량이다.At this time Is an input image which is a video obtained through a camera including a fog, Is a clean image to be restored, Is the fog brightness value of the image, Is the amount of transmission defined as the degree of darkness of the fog indicating how much the fog brightness value is in a clean image.
수학식 1을 살펴보면, 영상의 안개 제거는 입력영상 로부터 안개 밝기값'' 및 전달량 ''를 산출하고, 이를 이용하여 최종적으로 을 검출하여 영상을 복원하도록 구성된다.Referring to Equation 1, The fog brightness value " 'And delivery volume' ', And finally, And reconstruct the image.
픽셀기반 다크 채널 맵 생성부(14)는 안개가 없는 깨끗한 영상에서 일정 구간 내 한 픽셀 중 어느 한 채널(R, G, B 채널들 중 하나)은 '0'에 인접한 값을 가지는 점을 이용하여 각 화소의 다크 채널 프라이어 값을 산출한 후 산출된 각 화소의 다크 채널 프라이어 값으로 이루어지는 픽셀기반 다크 채널 맵을 생성한다. 이때 다크 채널 프라이어는 다음의 수학식 2로 정의된다.The pixel-based dark channel map generation unit 14 uses a point having a value adjacent to '0' in one of the pixels (one of the R, G, and B channels) within a predetermined interval in a clear image without fog A dark channel flier value of each pixel is calculated, and then a pixel-based dark channel map including a dark channel flier value of each calculated pixel is generated. At this time, the dark channel flier is defined by the following equation (2).
[수학식 2]&Quot; (2) "
이때 는 'x' 화소의 다크 채널 프라이어 값이다.At this time Is the dark channel flier value of the 'x' pixel.
픽셀기반 다크 채널 맵 생성부(14)는 수학식 2에서와 같이 각 화소의 R, G , B 채널들 중 가장 낮은 밝기값을 다크 채널 프라이어로 결정한다. 이때 다크 채널 프라이어 값은 안개 밀도가 높을수록 증가하게 되고, 만약 안개가 없는 영상일 경우 하늘을 제외한 대부분의 영역에서 다크 채널 프라이어 값은 '0'이 된다.The pixel-based dark channel map generating unit 14 determines the lowest brightness value among the R, G, and B channels of each pixel as a dark channel flier, as shown in Equation (2). At this time, the dark channel flier value increases as the fog density becomes higher, and in the case of a fog free image, the dark channel flier value becomes '0' in most areas except sky.
또한 픽셀기반 다크 채널 맵 생성부(14)에 의해 생성된 픽셀기반 다크 채널 맵은 제어부(11)의 제어에 따라 필터링부(15), 다크 채널 맵 최적화부(17) 및 안개 밝기값 검출부(18)로 입력된다.The pixel-based dark channel map generated by the pixel-based dark channel map generating unit 14 is also supplied to the
필터링부(15)는 데이터베이스부(12)에 저장된 Blilateral filer를 이용하여 입력된 다크 채널 맵으로부터 에지정보는 보존하고, 노이즈(안개)를 제거함으로써 종래에 다크 채널 프라이어를 이용한 영상보정에 있어서 에지정보의 블록현상을 절감시킨다. 이때 본 발명에서는 필터링부(15)가 큰 행렬을 기본으로 연산을 처리하여 연산속도 및 메모리 사용이 높은 종래의 matting 알고리즘을 개선하도록 Blilateral filer를 이용하였다.The
Blilateral filer는 비선형적인 필터로서, 기존의 가우시안 필터에 밝기 정보를 이용한 가우시안 필터를 결합하였고, 상세하게로는 두 필터의 결합을 통해 밝기 정보에 기반을 두는 가우시안 평균값과, 거리에 기반을 두는 가우시안 평균값의 조합된 평균값으로 각 픽셀의 밝기값을 필터링 함으로써 영상의 에지 정보는 보존하되 스팟(spot) 형태인 안개 및 노이즈를 제거할 수 있다. 이때 Blilateral filer는 다음의 수학식 3으로 정의된다.The blilateral filer is a nonlinear filter which combines a Gaussian filter using brightness information with a conventional Gaussian filter. In detail, the Gaussian average based on brightness information and the Gaussian mean value based on distance, The edge information of the image is preserved and the spot type fog and noise can be removed by filtering the brightness value of each pixel with a combined average value of the pixels. At this time, the blilateral filer is defined by the following equation (3).
[수학식 3]&Quot; (3) "
이때 는 필터링 된 이미지이고, 는 입력된 영상이고, 는 x를 중심으로 하는 기 설정된 영역인 윈도우이고, 은 밝기 차이를 평활화하기 위한 가우시안 필터이고, 는 거리 차이를 평활화하기 위한 가우시안 필터이다.At this time Is a filtered image, Is an input image, Is a window which is a predetermined area centered at x, Is a Gaussian filter for smoothing the brightness difference, Is a Gaussian filter for smoothing the distance difference.
이와 같이 Blilateral filer는 기본적으로 한 장의 영상을 이용한 필터이며, 필터 내에서 두 개의 가우시안 윈도우를 사용할 때 각각 두 개의 영상을 이용하여 필터링 함으로써 영상의 에지 정보는 보존하되 스팟(spot) 형태인 안개 및 노이즈를 제거함으로써 종래의 매팅 알고리즘에 비해 연산처리량 및 속도를 절감시킬 수 있다.In this way, the blilateral filer is basically a single image filter. When two Gaussian windows are used in the filter, each of the two images is used to filter the edge information of the image, and the spot type fog and noise The computational throughput and speed can be reduced as compared with the conventional matting algorithm.
이때 필터링 된 픽셀기반 다크 채널 맵은 제어부(11)의 제어에 따라 Moving window 처리부(16)로 입력된다.At this time, the filtered pixel-based dark channel map is input to the moving
도 4는 도 3의 Moving window 처리부를 나타내는 블록도이고, 도 5는 도 의 예시도이다.Fig. 4 is a block diagram showing a moving window processing unit of Fig. 3, and Fig. 5 is an illustration of the figure.
도 4와 5의 Moving window 처리부(16)는 종래에 다크 채널 맵이 각 화소를 기준으로 기 설정된 크기의 로컬영역 내의 가장 낮은 밝기값으로 결정됨으로써 입력영상과 에지정보가 일치하지 않는 블록현상이 발생되는 문제점을 해결하기 위해 적용된 것이다.4 and 5, the dark channel map is conventionally determined to be the lowest brightness value in the local area of a predetermined size based on each pixel, thereby causing a block phenomenon in which the input image and the edge information do not match each other This is a solution to the problem.
또한 Moving window 처리부(16)는 필터링부(15)에 의해 필터링 된 다크 채널 프라이어 값과, 해당 프레임의 첫 번째 이전 프레임과, 해당 프레임의 두 번째 이전 프레임으로부터 동일한 화소의 채널값들을 비교하는 비교모듈(161)과, 비교모듈(161)에 의해 비교된 채널값들 중 가장 낮은 채널값을 해당 화소의 다크 채널 프라이어 값으로 결정하는 결정모듈(163)과, 결정모듈(163)에 의해 결정된 각 화소의 다크 채널 프라이어 값으로 이루어지는 윈도우기반 다크 채널 맵을 생성하는 윈도우기반 다크 채널 맵 생성모듈(165)로 이루어진다.In addition, the moving
이때 Moving window 처리부(16)에 적용되는 Moving window 알고리즘은 다음의 수학식 4로 정의된다.At this time, the moving window algorithm applied to the moving
[수학식 4]&Quot; (4) "
즉 Moving window 처리부(16)는 도 5에 도시된 바와 같이 각 화소의 다크 채널 프라이어 값을 입력된 현재 프레임(2) 및 전 프레임(2-1), (2-2)들의 동일한 화소들을 대상으로 결정하기 때문에 인접한 영역의 밝기값으로 대체하여 입력영상과 에지정보가 일치하지 않는 종래의 문제점을 획기적으로 해결할 수 있다.That is, as shown in FIG. 5, the moving
이때 Moving window 처리부(16)에 의해 생성된 윈도우기반 다크 채널 맵은 제어부(11)의 제어에 따라 다크 채널 맵 최적화부(17)로 입력된다.At this time, the window-based dark channel map generated by the moving
도 6은 도 3의 다크 채널 맵 최적화부를 나타내는 블록도이고, 도 7은 도 6의 예시도이다.FIG. 6 is a block diagram showing the dark channel map optimizer of FIG. 3, and FIG. 7 is an exemplary diagram of FIG. 6. FIG.
다크 채널 맵 최적화부(17)는 입력된 필터링 된 픽셀기반 다크 채널 맵과, 윈도우기반 다크 채널 맵을 이용하여 각 화소의 최적화된 다크 채널 프라이어 값을 결정한다.The dark
도 6의 다크 채널 맵 최적화부(17)는 윈도우기반 다크 채널 맵을 로컬 기반 다크 채널 맵으로 변환시키는 변환모듈(171)과, 변환모듈(171)에 의해 생성된 로컬기반 다크 채널 맵 및 픽셀기반 다크 채널 맵으로부터 동일 화소에 대한 밝기값들을 비교하는 비교모듈(173)과, 비교모듈(173)에 의해 두 데이터들 중 낮은 밝기값을 해당 화소의 밝기값으로 결정하는 결정모듈(175)과, 결정모듈(175)에 의해 결정된 각 화소의 밝기값으로 이루어지는 최적 다크 채널 맵을 생성하는 최적 다크 채널 맵 생성모듈(177)로 이루어진다.The dark
변환모듈(171)은 Moving window 처리부(16)에 의해 생성된 윈도우기반 다크 채널 맵으로부터 특정 화소에 대한 밝기값을, 특정 화소를 기준으로 기 설정된 크기의 로컬영역들 중 가장 낮은 밝기값으로 대체하여 로컬기반 다크 채널 맵을 생성한다.The
비교모듈(173)은 변환모듈(171)에 의해 변환된 로컬기반 다크 채널 맵과, 픽셀기반 다크 채널 맵으로부터 동일 화소에 대한 밝기값을 비교한다.The comparison module 173 compares the brightness values for the same pixel from the local-based dark-channel map converted by the
결정모듈(173)은 비교모듈(173)에 의하여 낮은 밝기값을 해당 화소의 밝기값으로 결정하고, 최적 다크 채널 맵 생성모듈(177)은 결정모듈(173)에 의하여 결정된 밝기값으로 이루어지는 최적 다크 채널 맵을 생성한다.The determination module 173 determines a low brightness value as a brightness value of the corresponding pixel by the comparison module 173 and the optimal dark channel map generation module 177 determines an optimal dark pixel value having a brightness value determined by the determination module 173. [ Create a channel map.
즉 다크 채널 맵 최적화부(17)는 윈도우기반 다크 채널 맵을 다시 로컬영역으로 변환하고, 변환된 로컬영역 다크 채널 맵과 픽셀기반 다크 채널 맵의 밝기값들 중 낮은 값을 취함으로써 안개제거 효율을 더욱 높일 수 있다.That is, the dark
또한 다크 채널 맵 최적화부(17)에 의해 산출되는 각 화소의 최적 다크 채널 프라이어 함수는 다음의 수학식 5로 정의된다.The optimal dark channel flier function of each pixel calculated by the dark channel
[수학식 5]&Quot; (5) "
안개 밝기값 검출부(18)는 입력영상으로부터 밝기값 히스토그램을 생성한 후 생성된 밝기값 히스토그램으로부터 상위 10%를 제외한 최대 밝기값을 안개 밝기값 'A'로 결정함으로써 입력영상으로부터 가장 밝은 화소를 선택한 경우에 비해 좋은 결과를 얻을 수 있다. 이때 안개 밝기값 함수는 다음의 수학식 6으로 정의된다.The fog brightness
[수학식 6]&Quot; (6) "
전달맵 생성부(19)는 안개 밝기값 검출부(18)에 의해 검출된 안개 밝기값 'A'와, 다크 채널 맵 최적화부(17)에 의해 최적화된 최적 다크 채널 맵을 이용하여 안개의 짙은 정도를 나타내는 전달량 't(x)'를 산출하고, 각 화소의 전달량 't(x)'로 이루어지는 전달맵을 생성한다. 이때 전달량 't(x)'는 다음의 수학식 7로 정의된다.The transmission
[수학식 7]&Quot; (7) "
영상보정부(20)는 다음의 수학식 8에 의해 입력영상으로부터 안개가 제거된 복원영상을 생성한다.The
[수학식 8]&Quot; (8) "
이때 는 안개가 제거된 복원영상이고, 는 기 설정된 전달량의 하한값이고, 는 안개 밝기값이다.At this time Is a reconstructed image with fog removed, Is a lower limit value of a predetermined amount of transmission, Is the fog brightness value.
도 8의 (a)는 본 발명이 적용되지 않은 영상을 나타내는 실제 화면이고, (b)는 본 발명이 적용되어 안개가 제거된 영상을 나타내는 실제 화면이다.8 (a) is an actual screen showing an image to which the present invention is not applied, and FIG. 8 (b) is an actual screen showing a fog removed image according to the present invention.
도 8의 (a)와 (b)를 참조하여 살펴보면, 본 발명은 moving window 처리부(16)가 픽셀기반 다크 채널 맵과, 이전 프레임들로부터 동일 화소의 밝기값들을 비교하여 해당 화소의 다크 채널 프라이어 값을 결정하기 때문에 에지영상이 손실되는 블록현상이 현저히 절감되어 안개를 효율적으로 제거함과 동시에 에지정보가 손실되지 않아 높은 품질로 영상이 복원되는 것을 알 수 있다.8A and 8B, the moving
도 9는 본 발명의 동작과정을 설명하기 위한 플로차트이다.FIG. 9 is a flowchart illustrating an operation procedure of the present invention.
도 9를 참조하여 본 발명의 동작과정을 살펴보면, 영상보정방법(S1)은 다크 채널 프라이어(Dark channel prior)를 이용하여 입력된 동영상 프레임으로부터 각 화소의 안개깊이 정보인 다크 채널 프라이어 값으로 이루어지는 픽셀기반 다크 채널 맵을 생성하는 픽셀기반 다크 채널 맵 생성단계(S10)와, 기 저장된 Blilateral filer를 이용하여 픽셀기반 다크 채널 맵 생성단계(S10)에 의해 생성된 픽셀기반 다크 채널 맵을 분석하여 픽셀기반 다크 채널 맵으로부터 에지정보는 보존하되 노이즈는 제거하는 필터링 단계(S20)와, 기 저장된 moving window 알고리즘을 이용하여 필터링 단계(S20)에 의해 필터링 된 픽셀기반 다크 채널 맵에 대한 현재 프레임과 첫 번째 이전 프레임, 두 번째 이전 프레임들로부터 동일한 화소의 채널값들을 비교하여 가장 낮은 채널값을 해당 화소의 밝기값으로 결정하여 윈도우기반 다크 채널 맵을 생성하는 moving window 처리 단계(S30)와, moving window 처리 단계(S30)에 의해 생성된 윈도우기반 다크 채널 맵을 로컬기반 다크 채널 맵으로 변환한 후 변환된 로컬기반 다크 채널 맵 및 픽셀기반 다크 채널 맵들로부터 동일 화소의 밝기값을 비교하여 두 값들 중 낮은 값을 최종적으로 해당 화소의 밝기값으로 결정하여 최적 다크 채널 맵을 생성하는 최적화단계(S40)와, 입력영상으로부터 밝기값 히스토그램을 생성한 후 생성된 히스토그램의 상위 10%를 제외하여 가장 높은 밝기값을 안개 밝기값으로 결정하는 안개 밝기값 검출단계(S50)와, 최적화단계(S40)에 의해 생성된 최적 다크 채널 맵 및 안개 밝기값 검출단계(S50)에 의해 결정된 안개 밝기값을 이용하여 각 화소의 전달량을 산출하여 전달맵을 생성하는 전달맵 생성단계(S60)와, 전달맵 생성단계(S60)에 의해 생성된 전달맵과, 안개 밝기값 검출단계(S50)에 의해 검출된 안개 밝기값을 이용하여 복원영상을 생성하는 영상복원단계(S70)로 이루어진다.Referring to FIG. 9, the image correction method (S1) includes an image correction method using a dark channel flier (Dark channel prior), a pixel having a dark channel flier value, which is fog depth information of each pixel, Based dark channel map generated by the pixel-based dark channel map generation step (S10) using the previously stored blilateral filer is analyzed to generate a pixel-based dark channel map based on the pixel-based dark channel map A filtering step (S20) of preserving edge information from the dark channel map, removing noises, a current moving frame for the pixel-based dark channel map filtered by the filtering step (S20) using the previously stored moving window algorithm, Frame, and the second previous frames, and outputs the lowest channel value to the corresponding pixel A moving window processing step S30 for generating a window-based dark channel map by determining a brightness value, a window-based dark channel map generated by the moving window processing step S30 into a local-based dark channel map, An optimizing step (S40) of comparing the brightness values of the same pixel from the locally-based dark channel map and the pixel-based dark channel maps and finally determining a lower value among the two values as the brightness value of the corresponding pixel to generate an optimal dark channel map; A fog brightness value detection step (S50) of determining the highest brightness value as a fog brightness value by excluding the upper 10% of the generated histogram after generating a brightness value histogram from the input image, and a fog brightness value detection step (S50) The fog brightness value determined by the optimal dark channel map and fog brightness value detection step (S50) is used to calculate the delivery amount of each pixel, An image reconstruction step (S60) of generating a reconstruction image using the transmission map generated by the map generation step (S60), the transmission map generation step (S60), and the fog brightness value detected by the fog brightness value detection step (S50) S70).
1:영상보정장치 2:프레임 3:특정 화소
11:제어부 12:데이터베이스부 13:통신 인터페이스부
14:픽셀기반 다크 채널 맵 생성부 15:필터링부
16:Moving window 처리부 17:다크 채널 맵 최적화부
18:안개 밝기값 검출부 19:전달맵 생성부
20:영상 보정부1: image correction device 2: frame 3: specific pixel
11: control unit 12: database unit 13: communication interface unit
14: Pixel-based dark channel map generator 15:
16: Moving window processing unit 17: Dark channel map optimizing unit
18: fog brightness value detection unit 19: transmission map generation unit
20: image correction unit
Claims (8)
현재 프레임으로부터 각 화소의 안개깊이 정보를 나타내는 다크 채널 프라이어 값들로 이루어지는 픽셀기반 다크 채널 맵을 생성하는 픽셀기반 다크 채널 맵 생성부;
상기 픽셀기반 다크 채널 맵 생성부에 의해 생성된 상기 픽셀기반 다크 채널 맵으로부터 밝기 정보에 기반을 두는 가우시안 평균값과, 거리에 기반을 두는 가우시안 평균값의 조합된 평균값으로 각 화소의 밝기값을 결정하는 Blilateral filer를 수행하는 필터링부;
상기 필터링부에 의해 필터링 된 픽셀기반 다크 채널 맵과, 상기 현재 프레임으로부터 기 설정된 수량의 이전 프레임들로부터 동일 화소에 대한 채널값들을 비교하여 최소값을 해당 화소의 다크 채널 프라이어 값으로 결정하는 moving window 알고리즘을 수행함으로써 윈도우기반 다크 채널 맵을 생성하는 moving window 처리부;
상기 현재 프레임의 안개 밝기값을 검출하는 안개 밝기값 검출부;
상기 안개 밝기값 및 상기 윈도우기반 다크 채널 맵을 활용하여 각 화소의 안개 정도를 나타내는 전달량으로 이루어지는 전달맵을 생성하는 전달맵 생성부;
상기 안개 밝기값 및 상기 전달맵을 이용하여 상기 현재 프레임으로터 안개를 제거한 복원영상을 생성하는 영상 보정부를 포함하는 것을 특징으로 하는 영상보정장치.An image correction apparatus for removing fog from a moving image, comprising:
A pixel-based dark channel map generator for generating a pixel-based dark channel map consisting of dark channel flier values representing fog depth information of each pixel from the current frame;
Based on the pixel-based dark channel map generated by the pixel-based dark channel map generator, a combined average value of the Gaussian average value based on the brightness information and the Gaussian average value based on the distance, a filtering unit for performing a filer;
A moving window algorithm that compares channel values for the same pixel from a predetermined number of previous frames from the current frame and determines a minimum value as a dark channel flier value of the corresponding pixel based on the pixel-based dark channel map filtered by the filtering unit; A moving window processing unit for generating a window-based dark channel map by executing the window-based dark channel map;
A fog brightness value detector for detecting a fog brightness value of the current frame;
A transmission map generating unit for generating a transmission map including a fog brightness value and a fog amount indicating a degree of fog of each pixel using the window based dark channel map;
And an image correction unit for generating a reconstructed image from which the fog is removed from the current frame by using the fog brightness value and the transmission map.
상기 전달맵 생성부는 상기 최적화부에 의해 생성된 상기 최적 다크 채널 맵을 활용하여 전달맵을 생성하는 것을 특징으로 하는 영상보정장치.The method according to claim 1, further comprising the steps of: locally based on a specific pixel a brightness value of a specific pixel from a window-based dark channel map generated by the moving window processing unit, And compares the brightness values of the same pixel from the local-based dark channel map and the pixel-based dark channel map to finally determine the lower value of the two values as the brightness value of the corresponding pixel to generate an optimal dark channel map Further comprising an optimizer,
Wherein the transmission map generating unit generates the transmission map using the optimal dark channel map generated by the optimizing unit.
현재 프레임으로부터 밝기값을 검출하는 안개 밝기값 검출단계;
상기 현재 프레임의 각 화소의 안개깊이 정보를 나타내는 다크 채널 프라이어 값들로 이루어지는 픽셀기반 다크 채널 맵을 생성하는 픽셀기반 다크 채널 맵 생성단계;
상기 픽셀기반 다크 채널 맵 생성단계에 의해 생성된 상기 픽셀기반 다크 채널 맵으로부터 밝기 정보에 기반을 두는 가우시안 평균값과, 거리에 기반을 두는 가우시안 평균값의 조합된 평균값으로 각 화소의 밝기값을 결정하는 Blilateral filer를 수행하는 필터링단계;
상기 필터링단계에 의해 필터링 된 픽셀기반 다크 채널 맵과, 상기 현재 프레임으로부터 기 설정된 수량의 이전 프레임들로부터 동일 화소에 대한 채널값들을 비교하여 가장 낮은 값을 해당 화소의 밝기값으로 결정하는 moving window 알고리즘을 수행하여 윈도우기반 다크 채널 맵을 생성하는 moving window 처리단계;
상기 moving window 처리단계에 의해 생성된 상기 윈도우기반 다크 채널 맵과, 상기 안개 밝기값 검출단계에 의해 검출된 안개 밝기값을 활용하여 각 화소에 포함된 안개의 짙은 정도를 나타내는 전달량으로 이루어지는 전달맵을 생성하는 전달맵 생성단계;
상기 전달맵 생성단계에 의해 생성된 전달맵과, 상기 안개 밝기값을 이용하여 상기 현재 프레임으로부터 안개가 제거된 영상인 복원영상을 생성하는 영상복원단계를 포함하는 것을 특징으로 하는 영상보정방법.1. An image correction method for removing fog from a moving image, comprising:
A fog brightness value detection step of detecting a brightness value from the current frame;
A pixel-based dark channel map generating step of generating a pixel-based dark channel map consisting of dark channel flier values representing fog depth information of each pixel of the current frame;
Based on the pixel-based dark channel map generated by the pixel-based dark channel map generating step, a combined average value of the Gaussian average value based on the brightness information and the Gaussian average value based on the distance, a filtering step of performing a filer;
A moving window algorithm that compares channel values for the same pixel from a predetermined number of previous frames from the current frame and determines the lowest value as the brightness value of the pixel, based on the pixel-based dark channel map filtered by the filtering step; A moving window processing step of generating a window-based dark channel map by performing the following steps;
Based on the window-based dark channel map generated by the moving window processing step and a fog brightness value detected by the fog brightness value detecting step, a transmission map including a delivery amount indicating a degree of darkness of fog contained in each pixel Generating a transmission map;
And generating a reconstructed image that is a fog removed image from the current frame using the transmission map generated by the transmission map generating step and the fog brightness value.
상기 전달맵 생성단계는 상기 최적화단계에 의해 생성된 상기 최적 다크 채널 맵을 활용하여 전달맵을 생성하는 것을 특징으로 하는 영상보정방법.The method of claim 5, further comprising: after the moving window processing step, calculating a brightness value of a specific pixel from the window-based dark channel map generated by the moving window processing step, Based dark channel map is replaced with a lower brightness value, and then a brightness value of the same pixel is compared with the brightness value of the corresponding pixel from the local-based dark channel map and the pixel-based dark channel map, Further comprising an optimization step of finally determining and generating an optimal dark channel map,
Wherein the transmission map generation step uses the optimal dark channel map generated by the optimization step to generate a transmission map.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020140008906A KR101426298B1 (en) | 2014-01-24 | 2014-01-24 | apparatus and method for compensating image for enhancing fog removing efficiency |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020140008906A KR101426298B1 (en) | 2014-01-24 | 2014-01-24 | apparatus and method for compensating image for enhancing fog removing efficiency |
Publications (1)
Publication Number | Publication Date |
---|---|
KR101426298B1 true KR101426298B1 (en) | 2014-08-13 |
Family
ID=51749442
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020140008906A KR101426298B1 (en) | 2014-01-24 | 2014-01-24 | apparatus and method for compensating image for enhancing fog removing efficiency |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101426298B1 (en) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105809641A (en) * | 2016-03-09 | 2016-07-27 | 北京理工大学 | Exposure compensation and edge enhancement method of defogged image |
KR101689562B1 (en) * | 2015-08-28 | 2016-12-26 | 한국항공대학교산학협력단 | Haze removal method and device based on dual dark channel |
CN106530249A (en) * | 2016-11-07 | 2017-03-22 | 湖南源信光电科技有限公司 | Low-illumination color image enhancement method based on physical model |
KR101798911B1 (en) * | 2016-06-02 | 2017-11-17 | 한국항공대학교산학협력단 | Dehazing method and device based on selective atmospheric light estimation |
WO2018056545A3 (en) * | 2016-09-21 | 2018-08-09 | 주식회사 에스카 | Monitoring camera using composite filtering method robust against change in visibility status and video monitoring system employing same |
KR20200028598A (en) | 2018-09-07 | 2020-03-17 | 고려대학교 산학협력단 | Metohd and device of single image dehazing based on dark channel, recording medium for performing the method |
CN112330568A (en) * | 2020-11-27 | 2021-02-05 | 云南省烟草农业科学研究院 | Brightness compensation method for tobacco leaf image with uneven illumination |
US10931925B2 (en) | 2017-03-02 | 2021-02-23 | Esca(Electronic Security Of The Creative Association) Co., Ltd. | Monitoring camera having autofocusing function based on composite filtering robust against change in visibility status and video monitoring system employing same |
KR102225362B1 (en) | 2019-11-15 | 2021-03-09 | 울산과학기술원 | Image restoration method |
CN115861104A (en) * | 2022-11-30 | 2023-03-28 | 西安电子科技大学 | Remote sensing image defogging method based on transmissivity refinement |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101190286B1 (en) * | 2011-01-05 | 2012-10-12 | 중앙대학교 산학협력단 | Apparatus and method for image defogging based on edge information and tone mapping |
JP2013058202A (en) * | 2011-09-08 | 2013-03-28 | Fujitsu Ltd | Image defogging method and system |
KR101361644B1 (en) | 2012-08-01 | 2014-02-13 | 엠텍비젼 주식회사 | Image processing device and image defogging method |
-
2014
- 2014-01-24 KR KR1020140008906A patent/KR101426298B1/en active IP Right Grant
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101190286B1 (en) * | 2011-01-05 | 2012-10-12 | 중앙대학교 산학협력단 | Apparatus and method for image defogging based on edge information and tone mapping |
JP2013058202A (en) * | 2011-09-08 | 2013-03-28 | Fujitsu Ltd | Image defogging method and system |
KR101361644B1 (en) | 2012-08-01 | 2014-02-13 | 엠텍비젼 주식회사 | Image processing device and image defogging method |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101689562B1 (en) * | 2015-08-28 | 2016-12-26 | 한국항공대학교산학협력단 | Haze removal method and device based on dual dark channel |
CN105809641B (en) * | 2016-03-09 | 2018-02-16 | 北京理工大学 | The exposure compensating and edge enhancing method of a kind of mist elimination image |
CN105809641A (en) * | 2016-03-09 | 2016-07-27 | 北京理工大学 | Exposure compensation and edge enhancement method of defogged image |
KR101798911B1 (en) * | 2016-06-02 | 2017-11-17 | 한국항공대학교산학협력단 | Dehazing method and device based on selective atmospheric light estimation |
US10819941B2 (en) | 2016-09-21 | 2020-10-27 | Esca (Electronic Security Of The Creative Assocation) Co., Ltd. | Monitoring camera using composite filtering method robust against change in visibility status and video monitoring system employing same |
WO2018056545A3 (en) * | 2016-09-21 | 2018-08-09 | 주식회사 에스카 | Monitoring camera using composite filtering method robust against change in visibility status and video monitoring system employing same |
CN106530249A (en) * | 2016-11-07 | 2017-03-22 | 湖南源信光电科技有限公司 | Low-illumination color image enhancement method based on physical model |
US10931925B2 (en) | 2017-03-02 | 2021-02-23 | Esca(Electronic Security Of The Creative Association) Co., Ltd. | Monitoring camera having autofocusing function based on composite filtering robust against change in visibility status and video monitoring system employing same |
KR20200028598A (en) | 2018-09-07 | 2020-03-17 | 고려대학교 산학협력단 | Metohd and device of single image dehazing based on dark channel, recording medium for performing the method |
KR102225362B1 (en) | 2019-11-15 | 2021-03-09 | 울산과학기술원 | Image restoration method |
CN112330568A (en) * | 2020-11-27 | 2021-02-05 | 云南省烟草农业科学研究院 | Brightness compensation method for tobacco leaf image with uneven illumination |
CN115861104A (en) * | 2022-11-30 | 2023-03-28 | 西安电子科技大学 | Remote sensing image defogging method based on transmissivity refinement |
CN115861104B (en) * | 2022-11-30 | 2023-10-17 | 西安电子科技大学 | Remote sensing image defogging method based on transmissivity refinement |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101426298B1 (en) | apparatus and method for compensating image for enhancing fog removing efficiency | |
US9842382B2 (en) | Method and device for removing haze in single image | |
US8279345B2 (en) | System and method for random noise estimation in a sequence of images | |
JP5954063B2 (en) | Image fog removal method and system | |
CN109003249B (en) | Method, device and terminal for enhancing image details | |
CN101739672B (en) | A kind of histogram equalizing method based on sub-regional interpolation and device | |
WO2016206087A1 (en) | Low-illumination image processing method and device | |
US20160142615A1 (en) | Robust layered light-field rendering | |
KR101361644B1 (en) | Image processing device and image defogging method | |
US8611691B2 (en) | Automated video data fusion method | |
US20140369601A1 (en) | Apparatus and method for enhancing image using color channel | |
CN107292830B (en) | Low-illumination image enhancement and evaluation method | |
KR20130127654A (en) | Image processing apparatus for moving image haze removal and method using that | |
WO2022000397A1 (en) | Low-illumination image enhancement method and apparatus, and computer device | |
US10992845B1 (en) | Highlight recovery techniques for shallow depth of field rendering | |
KR102221116B1 (en) | A device and method for removing the noise on the image using cross-kernel type median filter | |
KR102182697B1 (en) | Apparatus and method for processing image | |
CN104867122A (en) | Infrared self-adaptive non-uniformity correction and detail enhanced cascade processing method | |
US9258460B2 (en) | Image processing method and apparatus for correcting an image | |
CN115578297A (en) | Generalized attenuation image enhancement method for self-adaptive color compensation and detail optimization | |
WO2020210472A1 (en) | High-dynamic-range image generation with pre-combination denoising | |
CN111192205A (en) | Image defogging method and system and computer readable storage medium | |
CN110175967B (en) | Image defogging processing method, system, computer device and storage medium | |
CN115984535A (en) | Low-illumination image judgment and image enhancement method for drilling operation site | |
CN115661008A (en) | Image enhancement processing method, device, equipment and medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |