KR20190072027A - Method for improving low illumination image - Google Patents
Method for improving low illumination image Download PDFInfo
- Publication number
- KR20190072027A KR20190072027A KR1020170173043A KR20170173043A KR20190072027A KR 20190072027 A KR20190072027 A KR 20190072027A KR 1020170173043 A KR1020170173043 A KR 1020170173043A KR 20170173043 A KR20170173043 A KR 20170173043A KR 20190072027 A KR20190072027 A KR 20190072027A
- Authority
- KR
- South Korea
- Prior art keywords
- image
- estimating
- map
- brightness
- quot
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 98
- 238000005286 illumination Methods 0.000 title claims description 25
- 238000013139 quantization Methods 0.000 claims description 16
- 230000003252 repetitive effect Effects 0.000 claims description 12
- 230000014509 gene expression Effects 0.000 claims description 10
- 230000000694 effects Effects 0.000 claims description 5
- 230000002194 synthesizing effect Effects 0.000 claims description 3
- 230000002708 enhancing effect Effects 0.000 claims 2
- 238000010586 diagram Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 9
- 239000000470 constituent Substances 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000015572 biosynthetic process Effects 0.000 description 4
- 238000003786 synthesis reaction Methods 0.000 description 4
- 238000011478 gradient descent method Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000008030 elimination Effects 0.000 description 2
- 238000003379 elimination reaction Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
-
- G06T5/007—
-
- G06T5/002—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20208—High dynamic range [HDR] image processing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
Abstract
Description
본 발명은 저조도 영상 개선 방법에 관한 것으로, 보다 상세하게는 영상의 밝기를 개선하고, 영상의 밝기를 개선하는 과정에서의 증폭된 잡음을 제거할 수 있는 기술에 관한 것이다.The present invention relates to a low-illuminance image enhancement method, and more particularly, to a technique capable of eliminating amplified noise in a process of improving brightness of an image and improving brightness of an image.
자동차 실제 환경에서 인간의 시각 인지 시스템(Human Visual System: HVS)은 일반적인 영상 장치보다 높은 동적 대역을 다룰 수 있다. 따라서 기존의 영상 장치는 인간이 인지하는 영상을 그대로 획득(capture) 또는 표현(display)할 수 없다. 이처럼 기존의 영상 장치가 다룰 수 있는 것보다 큰 동적 대역을 갖는 영상의 처리에 관한 필요성이 커지게 되었으며, 이러한 영상을 높은 동적 대역(High Dynamic Range: HDR) 영상이라고 한다.Human visual system (HVS) in real world of automobile can deal with dynamic band higher than general image device. Therefore, the conventional image device can not directly capture or display a human-recognized image. Thus, there is a growing need for the processing of images having a dynamic bandwidth larger than that of conventional imaging apparatuses, and these images are called high dynamic range (HDR) images.
높은 동적 대역 영상을 생성하는 가장 대표적인 기술은 서로 다른 노출 조건에서 동일한 장면을 연속적으로 촬영하여 얻어진 다수의 낮은 동적 대역(Low Dynamic Range: LDR) 영상을 합성하여 동적 대역을 확장하는 것이다. 구체적으로 높은 동적 대역 영상은 단 노출 영상(Short Exposure Image: SEI)과 장 노출 영상(Long Exposure Image: LEI)을 합성하여 얻을 수 있다.The most representative technique for generating a high dynamic range image is to synthesize a plurality of low dynamic range (LDR) images obtained by successively photographing the same scene under different exposure conditions to expand the dynamic range. Specifically, a high dynamic range image can be obtained by synthesizing Short Exposure Image (SEI) and Long Exposure Image (LEI).
이때 단 노출 영상 및 장 노출 영상을 획득하는 과정에서 다소 시간이 걸릴 수 있다. 또한 복수의 LDR 영상을 순차적으로 촬영하는 동안 피사체 또는 영상 장치가 움직이면 단 노출 영상과 장 노출 영상이 동일하지 않으므로, 높은 동적 대역 영상 합성 시 움직임이 발생한 영역의 상이 겹쳐지는 고스트 현상(ghost effect)이 발생하게 된다.In this case, it may take some time to acquire the single exposure image and the long exposure image. In addition, since a single exposure image and a long exposure image are not the same when a subject or an imaging device moves during sequential shooting of a plurality of LDR images, ghost effect in which images overlap in a region where motion occurs during high dynamic range image synthesis .
또한 디지털 영상에서 노이즈를 제거하는 것은 양질의 영상 데이터를 획득하는데 있어서 매우 중요하다. 디지털 영상 데이터에는 백색 노이즈(white noise) 및 임펄스 노이즈(impulse noise) 등의 다양한 노이즈가 존재할 수 있다. 이러한 노이즈들은 디지털 카메라 등에 의하여 디지털 영상이 생성될 때, 디지털 데이터에 부가된다.Also, removing noise from a digital image is very important for acquiring high quality image data. Various noise such as white noise and impulse noise may exist in the digital image data. These noises are added to digital data when a digital image is generated by a digital camera or the like.
노이즈를 제거하기 위한 가장 단순한 방식은 메디안(median) 필터, 평균(mean) 필터를 이용하는 것이다. 이러한 필터들을 이용하면 노이즈의 상당 부분을 제거할 수 있으나, 영상의 에지(edge)가 흐려지는 블러링(blurring) 현상이 발생할 수 있다.The simplest way to remove noise is to use a median filter and a mean filter. Using these filters can remove much of the noise, but blurring can occur where the edge of the image is blurred.
즉, 영상이 급격히 변동되는 부분에 있어서 고주파 성분의 색 정보가 필터를 거치면서 왜곡되는 현상이 발생한다. 그러므로 노이즈를 제거하기 위한 과정에 있어서 에지 보존(edge preserving) 여부도 동시에 고려해야한다.That is, the color information of the high frequency component is distorted while passing through the filter in the portion where the image is rapidly changed. Therefore, edge preserving should be considered in the process of removing noise.
[특허문헌]한국등록특허 1287521호.[Patent Literature] Korean Registered Patent No. 1287521.
본 발명의 목적은, 영상의 밝은 영역 및 어두운 영역에 따른 밝기 개선을 다르게 하고, 영상의 에지 영역 및 평평한 영역에 따른 증폭된 잡음을 효과적으로 제거하는 저조도 영상 개선 방법을 제공하는 데 있다.SUMMARY OF THE INVENTION It is an object of the present invention to provide a low-illuminance image enhancement method that improves brightness according to a bright region and a dark region of an image and effectively removes amplified noise according to an edge region and a flat region of the image.
본 발명의 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재들로부터 당업자에게 명확하게 이해될 수 있을 것이다.The technical problems of the present invention are not limited to the above-mentioned technical problems, and other technical problems which are not mentioned can be understood by those skilled in the art from the following description.
본 발명의 일 실시예에 따른 저조도 영상 개선 방법은 입력영상의 RGB 색상 공간을 HSV 색상 공간으로 변환하는 단계, 상기 HSV 색상 공간의 V 채널에서 조명성분과 반사성분을 추정하는 단계, 상기 반사성분의 밝기를 개선하고, 잡음을 제거하기 위한 가중치 맵을 추정하는 단계, 상기 조명성분, 상기 반사성분 및 상기 가중치 맵을 이용하여 개선된 영상을 추정하는 단계 및 상기 개선된 영상 및 상기 입력영상을 결합하여 RGB 색상 공간으로 변환하여 최종 영상을 생성하는 단계를 포함한다.According to an aspect of the present invention, there is provided a low-illuminance image enhancement method including transforming an RGB color space of an input image into an HSV color space, estimating an illumination component and a reflection component in a V-channel of the HSV color space, Estimating a weight map for improving brightness and removing noise, estimating an improved image using the illumination component, the reflection component, and the weight map, and combining the improved image and the input image Into an RGB color space to generate a final image.
일 실시예에서, 상기 조명성분과 반사성분을 추정하는 단계는, 하기 [수학식1] 및 [수학식2]을 이용하여 상기 조명성분과 반사성분을 추정할 수 있다.In one embodiment, the step of estimating the illumination component and the reflection component may estimate the illumination component and the reflection component using the following equations (1) and (2).
[수학식1][Equation 1]
[수학식2]&Quot; (2) "
(여기서, fL은 조명성분, fR은 반사성분, gv는 V채널, H는 가우시안 로우-패스 필터(평균 필터)를 의미한다.)(Where f L is the illumination component, f R is the reflection component, g v is the V channel, and H is the Gaussian low-pass filter (mean filter).)
일 실시예에서, 상기 가중치 맵을 추정하는 단계는, 역변환된 밝기 채널을 추정하는 단계 및 활성맵을 추정하는 단계를 포함할 수 있다.In one embodiment, estimating the weight map may include estimating an inversely transformed brightness channel and estimating an activity map.
일 실시예에서, 상기 역변환된 밝기 채널을 추정하는 단계는, 하기 [수학식]을 이용하여 상기 역변환된 밝기 채널을 추정할 수 있다.In one embodiment, the step of estimating the inversely transformed brightness channel may estimate the inversely transformed brightness channel using the following equation.
[수학식][Mathematical Expression]
(여기서, WB(x)는 역변환된 밝기 채널, , 입력영상(g)에서 x에 위치한 R, G, B 픽셀의 화소값 중 가장 큰 값이 위치 x에서의 밝기 채널의 값을 의미한다.)(Where WB (x) is the inverse transformed brightness channel, , The largest value among the pixel values of the R, G, and B pixels located at x in the input image (g) means the value of the brightness channel at the position x).
일 실시예에서, 상기 활성맵을 추정하는 단계는, 하기 [수학식]을 이용하여 상기 활성맵을 추정할 수 있다.In one embodiment, the step of estimating the activity map may estimate the activity map using the following equation.
[수학식][Mathematical Expression]
(여기서, A(x)는 활성맵, H는 가우시안 로우-패스 필터(평균 필터), 는 x에 위치한 각 화소에서의 표준편차를 의미한다.)(Where A (x) is the active map, H is the Gaussian low-pass filter (mean filter) Denotes the standard deviation at each pixel located at x.)
일 실시예에서, 상기 가중치 맵을 추정하는 단계는, 상기 역변환된 밝기 채널과 상기 추정된 활성맵을 곱하여 상기 가중치 맵을 추정할 수 있다.In one embodiment, estimating the weight map may estimate the weight map by multiplying the inversely transformed brightness channel by the estimated active map.
[수학식][Mathematical Expression]
(여기서, 는 각각의 화소의 위치 x에서 화소끼리의 곱을 의미한다.)(here, Denotes the product of the pixels at the position x of each pixel.)
일 실시예에서, 상기 개선된 영상을 추정하는 단계는, 반복적인 기울기 하강 방법을 이용하여 영상의 밝기를 개선하고, 에지 영역의 잡음을 제거할 수 있다.In one embodiment, the step of estimating the improved image may improve the brightness of the image using a repetitive slope descent method and remove noise in the edge region.
일 실시예에서, 상기 RGB 색상 공간으로 변환하는 단계는, 상기 개선된 영상 및 상기 입력영상의 H 채널 및 S 채널을 결합하여 RGB 색상 공간으로 변환할 수 있다.In one embodiment, the step of converting to the RGB color space may combine the enhanced image and the H channel and the S channel of the input image into an RGB color space.
일 실시예에서, 상기 가중치 맵을 추정하는 단계와 상기 개선된 영상을 추정하는 단계 사이에, 양자화 가중치 값을 계산하는 단계, 고속 푸리에 변환 방법을 이용하여 영상의 밝기를 개선하고, 에지 영역의 잡음을 제거하는 단계 및 상기 영상을 합성하기 위하여 이진화 영상을 생성하는 단계를 포함할 수 있다.Calculating a quantization weight value between the step of estimating the weight map and the step of estimating the improved image, the step of improving the brightness of an image using a fast Fourier transform method, And generating a binarized image to synthesize the image.
일 실시예에서, 상기 양자화 가중치 값을 계산하는 단계는, 하기 [수학식]을 이용하여 상기 양자화 가중치 값을 계산할 수 있다.In one embodiment, the step of calculating the quantization weight value may calculate the quantization weight value using the following equation.
[수학식][Mathematical Expression]
(여기서, Wq는 양자화 가중치 값, N은 레벨, N이 4인 경우에, Wq={0, 0.33, 0.66, 1}이고, q=1 내지 4를 의미한다.)(Where W q is a quantization weight value, N is a level, W is = 0, 0.33, 0.66, 1 when N is 4, and q is 1 to 4.)
일 실시예에서, 상기 고속 푸리에 변환 방법을 이용하여 밝기를 개선하고, 에지 영역의 잡음을 제거하는 단계는, 하기 [수학식1] 및 [수학식2]을 이용하여 상기 양자화 가중치 값을 이용하여 반사성분을 생성하는 단계를 포함할 수 있다.In one embodiment, the step of improving brightness using the fast Fourier transform method and removing noise in an edge region may be performed using the quantization weight values using Equations 1 and 2: < EMI ID = And generating a reflection component.
[수학식1][Equation 1]
[수학식2]&Quot; (2) "
(여기서, Wq는 양자화한 가중치 값, 은 N개의 반사영상을 의미한다.)(Where W q is a quantized weight value, Denotes N reflection images).
일 실시예에서, 상기 이진화 영상을 생성하는 단계는, 하기 [수학식1]을 이용하여 추정된 N개의 반사성분을 양자화된 q번째 가중치 레벨에 따라 영상을 합성하는 이진화 맵을 생성하는 단계 및 하기 [수학식2]를 이용하여 추정된 이진화 맵과 추정된 N개의 반사성분의 픽셀 단위를 곱하여 상기 이진화 영상을 생성하는 단계를 포함할 수 있다.In one embodiment, the step of generating the binarized image comprises: generating a binarization map for synthesizing images according to a quantized q-th weighted level of N reflected components estimated using Equation (1) And generating the binarized image by multiplying the binarization map estimated using Equation (2) by the pixel unit of the estimated N reflection components.
[수학식 1] [Equation 1]
[수학식 2]&Quot; (2) "
본 발명의 일 실시예에 따른 저조도 영상 개선 방법에 따르면, 영상의 역변환된 밝기 채널에서 밝은 영역(bright region)과 어두운 영역(dark region)에 따라 가중치를 다르게 적용하고, 활성맵에서 영상의 에지 영역(edge region) 및 평평한 영역(flat region)에 따라 가중치를 다르게 적용함으로써, 가중치 맵에 의해 밝은 영역 및 에지 영역에서는 낮은 가중치를 이용하여 밝은 영역의 디테일을 유지하며, 에지 영역에 발생하는 블러를 최소화하며 잡음을 제거할 수 있고, 가중치 맵에 의해 어두운 영역 및 평평한 영역에서는 높은 가중치를 이용하여 증폭된 잡음을 효과적으로 제거할 수 있다.According to the low-illuminance image improving method according to an embodiment of the present invention, weights are applied differently according to a bright region and a dark region in an inversely transformed brightness channel of an image, the weights are applied differently according to the edge region and the flat region to maintain the details of the bright region by using the low weight in the bright region and the edge region by the weight map and minimize blurring in the edge region The noise can be removed, and the weighted map can effectively remove the amplified noise by using the high weight in the dark region and the flat region.
도 1은 본 발명의 일 실시예에 따른 저조도 영상 개선 시스템을 개략적으로 설명하는 구성도이다.
도 2는 본 발명의 일 실시예에 따른 저조도 영상 개선 방법을 구체적으로 설명하는 순서도이다.
도 3은 본 발명의 일 실시예에 따른 저조도 영상 개선 방법에서 조명 성분 및 반사 성분을 추정하는 방법을 구체적으로 설명하는 도면이다.
도 4는 본 발명의 일 실시예에 따른 저조도 영상 개선 방법에서 역변환된 밝기 채널을 추정하는 방법을 설명하는 도면이다.
도 5는 본 발명의 일 실시예에 따른 저조도 영상 개선 방법에서 활성맵을 추정하는 방법을 설명하는 도면이다.
도 6 및 도 7은 본 발명의 일 실시예에 따른 가중치맵을 추정하는 방법을 설명하는 도면이다.
도 8은 본 발명의 다른 실시예에 따른 저조도 영상 개선 방법에서 고속 푸리에 변환 방법과 양자화 가중치값을 이용한 영상 개선 방법을 설명하는 순서도이다.
도 9는 본 발명의 일 실시예에 따른 저조도 영상 개선 방법에서 고속 푸리에 변환 방법을 이용하여 밝기 개선 및 잡음을 제거하는 방법을 설명하는 도면이다.
도 10은 본 발명의 일 실시예에 따른 저조도 영상 개선 방법에서 영상 합성을 위한 이진화 영상의 생성 방법을 설명하는 도면이다.
도 11은 본 발명의 일 실시예에 따른 저조도 영상 개선 방법을 실행하는 컴퓨팅 시스템을 보여주는 도면이다.1 is a block diagram schematically illustrating a low-illuminance image enhancement system according to an embodiment of the present invention.
FIG. 2 is a flowchart illustrating a method of improving a low-illuminance image according to an exemplary embodiment of the present invention. Referring to FIG.
3 is a diagram for explaining a method for estimating illumination components and reflection components in a low-illuminance image improving method according to an embodiment of the present invention.
4 is a view for explaining a method of estimating an inversely converted brightness channel in a low-illuminance image improving method according to an embodiment of the present invention.
5 is a diagram illustrating a method of estimating an active map in a low-illuminance image improving method according to an embodiment of the present invention.
6 and 7 are views for explaining a method of estimating a weight map according to an embodiment of the present invention.
FIG. 8 is a flowchart illustrating a fast Fourier transform method and an image enhancement method using a quantization weight value in a low-illuminance image enhancement method according to another embodiment of the present invention.
9 is a diagram for explaining a method of improving brightness and removing noise using a fast Fourier transform method in a low-illuminance image improving method according to an embodiment of the present invention.
10 is a view for explaining a method of generating a binarized image for image synthesis in a low-illuminance image improving method according to an embodiment of the present invention.
11 is a diagram illustrating a computing system that implements a low-illuminance image enhancement method according to an embodiment of the present invention.
이하, 본 발명의 일부 실시예들을 예시적인 도면을 통해 상세하게 설명한다. 각 도면의 구성요소들에 참조부호를 부가함에 있어서, 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명의 실시예를 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 실시예에 대한 이해를 방해한다고 판단되는 경우에는 그 상세한 설명은 생략한다.Hereinafter, some embodiments of the present invention will be described in detail with reference to exemplary drawings. It should be noted that, in adding reference numerals to the constituent elements of the drawings, the same constituent elements are denoted by the same reference symbols as possible even if they are shown in different drawings. In the following description of the embodiments of the present invention, a detailed description of known functions and configurations incorporated herein will be omitted when it may make the difference that the embodiments of the present invention are not conclusive.
본 발명의 실시예의 구성 요소를 설명하는 데 있어서, 제 1, 제 2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질이나 차례 또는 순서 등이 한정되지 않는다. 또한, 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 가진 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.In describing the components of the embodiment of the present invention, terms such as first, second, A, B, (a), and (b) may be used. These terms are intended to distinguish the constituent elements from other constituent elements, and the terms do not limit the nature, order or order of the constituent elements. Also, unless otherwise defined, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by one of ordinary skill in the art to which this invention belongs. Terms such as those defined in commonly used dictionaries should be interpreted as having a meaning consistent with the meaning in the context of the relevant art and are to be interpreted in an ideal or overly formal sense unless explicitly defined in the present application Do not.
도 1은 본 발명의 일 실시예에 따른 저조도 영상 개선 시스템을 개략적으로 설명하는 구성도이다.1 is a block diagram schematically illustrating a low-illuminance image enhancement system according to an embodiment of the present invention.
도 1을 참조하면, 저조도 영상 개선 시스템(10)은 영상 취득부(100), 영상 처리부(200) 및 영상 표시부(300)를 포함한다.Referring to FIG. 1, the low-illuminance
영상 취득부(100)는 카메라를 이용하여 영상을 촬영한다. 여기서는 전방 카메라를 실시 예로 설명한다. 예를 들어, 카메라는 차량의 전방, 후방, 좌측 및 우측을 촬영할 수 있는 영상 장치이다. 예를 들어, 카메라는 3개 또는 4개의 어안렌즈를 이용하여 최대 8개의 면을 촬영하며, 어안렌즈를 이용하는 경우 곡선 균일(Curved evenly) 기법으로 8개 면의 촬영이 가능하다.The
영상 처리부(200)는 입력영상의 RGB 색상 공간을 HSV 색상 공간으로 변환하고, HSV 색상 공간을 RGB 색상 공간으로 변환하며, 입력영상의 RGB 색상 공간과 HSV 색상 공간 간의 변환하는 방법은 도 2에서 자세하게 설명한다.The
영상 처리부(200)는 입력영상의 조명성분 및 반사성분을 추정하며, 입력영상의 조명성분 및 반사성분을 추정하는 방법은 도 3에서 자세하게 설명한다.The
영상 처리부(200)는 입력영상의 반사성분에 대한 밝기를 개선하고, 잡음을 제거하기 위하여 가중치 맵을 추정하며, 이러한 가중치 맵을 추정하는 방법은 도 6 및 도 7에서 자세하게 설명한다.The
영상 처리부(200)는 반복적인 영상 개선 방법(반복적인 기울기 하강 방법)을 이용하여 밝기를 개선하고, 에지 영역의 잡음을 제거한다. 예를 들어, 차량에 구비된 저조도 영상 개선 시스템(10)의 경우, 전방 카메라(100)를 통해 영상이 취득되고, 취득된 영상이 영상 처리부(200)로 전송되며, 영상 처리부(200)에서 영상을 적절히 처리한 후, 영상을 저장한다. The
즉, 영상 처리부(200)는 야간이나 악천후 상황에서 영상의 화질이 저하되어 물체를 구별하기 어렵고, 상황을 인지하기 어려우므로, 영상을 저장하기 전에 영상에 적절한 처리를 통해 화질을 개선한다. 화질이 개선된 영상은 영상 표시부(300)를 통해 영상이 재생될 수 있다.That is, the
도 2는 본 발명의 일 실시예에 따른 저조도 영상 개선 방법을 구체적으로 설명하는 순서도이다.FIG. 2 is a flowchart illustrating a method of improving a low-illuminance image according to an exemplary embodiment of the present invention. Referring to FIG.
도 2를 참조하면, 본 발명의 일 실시예에 따른 저조도 영상 개선 시스템(10)의 영상 처리부(200)에서의 영상 처리 방법은 상술한 S11 단계 내지 S15 단계가 도 1을 참조하여 구체적으로 설명된다.Referring to FIG. 2, the image processing method in the
S11 단계에서, 영상 처리부(200)는 영상 처리 과정에서 발생하는 색상 왜곡 현상을 최소화하기 위하여 영상 취득부(100)로부터 수신한 입력영상을 RGB 색상(컬러) 공간에서 HSV 색상 공간으로 변환 후, V채널(gv)에서 영상 처리 과정을 실시한다. 예를 들어, HSV 색상 공간은 H(Hue) 채널, S(Saturation) 채널 및 V(luminance) 채널을 포함하며, H채널 및 S채널은 영상의 색상 정보를 나타내고, V채널은 영상의 밝기(luminance) 또는 강도(intensity)를 나타낸다.In step S11, the
S12 단계에서, 영상 처리부(200)는 입력영상의 조명성분(fL) 및 반사성분(fR)을 추정한다. 예를 들어, 영상 처리부(200)는 입력영상의 V채널을 조명성분(fL)과 반사성분(fR)으로 분리할 수 있으며, 조명성분(fL)과 반사성분(fR)으로 추정하는 방법은 도 3에서 자세하게 설명한다. In step S12, the
S13 단계에서, 영상 처리부(200)는 반사성분(fR)에 대해 밝기를 개선하고, 잡음을 제거하기 위한 가중치 맵(W)을 추정한다. 예를 들어, 영상 처리부(200)는 역변환된 밝기 채널 및 활성맵을 추정한 후, 추정된 역변환된 밝기 채널 및 활성맵을 이용하여 가중치 맵(W)을 추정할 수 있으며, 역변환된 밝기 채널을 추정하는 방법은 도 4에서 자세하게 설명하고, 활성맵을 추정하는 방법은 도 5에서 자세하게 설명하며, 가중치 맵(W)을 추정하는 방법은 도 6 및 도 7에서 자세하게 설명한다.In step S13, the
S14 단계에서, 영상 처리부(200)는 에너지 함수를 반복적인 영상 개선 방법(반복적인 기울기 하강 방법)을 이용하여 개선된 영상()을 추정한다. 예를 들어, 개선된 영상()을 추정하는 방법은 하기 수학식 5와 같이 조명성분(fL), 반사성분(fR) 및 추정된 가중치 맵(W)이 포함된 에너지 함수를 반복적인 영상 개선 방법(반복적인 기울기 하강 방법)을 이용하여 개선된 영상()을 추정할 수 있으며, 개선된 영상()을 추정하는 구체적인 방법은 하기 수학식 5 내지 수학식 11을 이용하여 자세하게 설명한다.In step S14, the
S15 단계에서, 영상 처리부(200)는 개선된 영상()과 입력영상의 H채널 및 S채널을 다시 결합하여 RGB 색상 공간으로 변환하여 최종적인 결과 영상을 생성한다.In step S15, the
도 3은 본 발명의 일 실시예에 따른 저조도 영상 개선 방법에서 조명 성분 및 반사 성분을 추정하는 방법을 구체적으로 설명하는 도면이다.3 is a diagram for explaining a method for estimating illumination components and reflection components in a low-illuminance image improving method according to an embodiment of the present invention.
도 3의 (a), (b) 및 (c)를 참조하면, 도 3의 (a)는 입력영상이 V채널(gv)인 경우이고, 도 3의 (b)는 V채널에서 반사성분(fR)을 추정한 영상이며, 도 3의 (c)는 V채널에서 조명성분(fL)을 추정한 영상이다.3 (a), 3 (b), and 3 (c), the input image is a V channel (g v ) (f R ), and FIG. 3 (c) is an image obtained by estimating the illumination component (f L ) in the V channel.
영상 처리부(200)는 영상에서 조명성분(fL)과 반사성분(fR)은 하기 수학식 1을 이용하여 추정한다. The
[수학식 1][Equation 1]
여기서, gv는 V채널이고, H는 가우시안 로우-패스 필터(평균 필터)를 의미한다.Where g v is the V channel and H is the Gaussian low-pass filter (mean filter).
도 4는 본 발명의 일 실시예에 따른 저조도 영상 개선 방법에서 역변환된 밝기 채널을 추정하는 방법을 설명하는 도면이다.4 is a view for explaining a method of estimating an inversely converted brightness channel in a low-illuminance image improving method according to an embodiment of the present invention.
도 4의 (a) 및 (b)를 참조하면, 도 4의 (a)는 각 픽셀에서 RGB 화소 중 가장 큰 값을 추출한 영상(밝기 채널 영상)이고, 도 4의 (b)는 역변환된 밝기 채널 영상이다.4 (a) and 4 (b), FIG. 4 (a) is an image (brightness channel image) obtained by extracting the largest value among RGB pixels in each pixel and FIG. 4 (b) Channel images.
영상 처리부(200)는 역변환된 밝기 채널(Inversed Bright Channel)은 하기 수학식 2에 의해 입력된 RGB 영상(g)를 이용하여 추정한다.The
[수학식 2]&Quot; (2) "
여기서, WB(x)는 역변환된 밝기 채널이고, 이다. 입력영상(g)에서 x에 위치한 R, G, B 픽셀의 화소값 중 가장 큰값(높은값)이 위치 x에서의 밝기 채널의 값이다. 영상 처리부(200)는 0부터 1사이의 값으로 정규화를 실시하고, 1에서 밝기 채널을 차분하여 역변환된 밝기 채널(WB(x))을 추정한다. Where W B (x) is the inversely transformed brightness channel, to be. The largest value (high value) of the pixel values of the R, G, and B pixels located at x in the input image (g) is the value of the brightness channel at the position x. The
예를 들어, 역변환된 밝기 채널(WB(x))은 영상의 밝은 영역에서는 낮은 가중치가 할당되고, 영상의 어두운 영역에서는 큰 가중치가 할당됨으로써, 입력영상의 밝기에 따라 잡음 제거의 세기가 조절될 수 있다. 예를 들어, 영상 처리부(200)는 영상의 밝은 영역에서 낮은 가중치를 적용하여 잡음 제거의 세기를 약하게 함으로써, 밝은 영역의 디테일은 유지하고, 영상의 어두운 영역에서 높은 가중치를 적용하여 잡음 제거의 세기를 강하게 함으로써, 밝기 개선 시 증폭된 잡음을 효과적으로 제거할 수 있다.For example, the inversely transformed brightness channel (W B (x)) is assigned a low weight in the bright region of the image and a large weight is assigned in the dark region of the image, . For example, the
도 5는 본 발명의 일 실시예에 따른 저조도 영상 개선 방법에서 활성맵을 추정하는 방법을 설명하는 도면이다.5 is a diagram illustrating a method of estimating an active map in a low-illuminance image improving method according to an embodiment of the present invention.
도 5의 (a) 및 (b)를 참조하면, 도 5의 (a)는 각 픽셀에서 RGB 화소 중 가장 큰 값을 추출한 영상(밝기 채널 영상)이고, 도 5의 (b)는 활성맵이 적용된 영상이다.5 (a) and 5 (b), FIG. 5 (a) is an image (brightness channel image) obtained by extracting the largest value among RGB pixels in each pixel, It is the applied image.
영상 처리부(200)는 활성맵(activation map)을 추정한다. 여기서, 활성맵은 하기 수학식 3을 이용하여 추정한다.The
[수학식 3]&Quot; (3) "
여기서, A(x)는 활성맵이고, H는 가우시안 로우-패스 필터(평균 필터)이며, 는 x에 위치한 각 화소에서의 표준편차를 의미한다. Where A (x) is the active map, H is the Gaussian low-pass filter (mean filter) Is the standard deviation at each pixel located at x.
예를 들어, 영상 처리부(200)는 영상의 평평한 영역(영상의 에지 영역을 제외한 영역)에서 낮은 표준편차를 추정하고, 영상의 에지 영역에서 높은 표준편차를 추정할 수 있다.For example, the
예를 들어, 영상 처리부(200)는 표준편차의 역수를 이용하여 영상의 평평한 영역에 높은 가중치를 적용하고, 영상의 에지 영역에 낮은 가중치를 적용할 수 있다.For example, the
즉, 영상 처리부(200)는 영상의 평평한 영역에 높은 가중치를 적용하여 밝기 개선 시 증폭된 잡음을 효과적으로 제거하고, 영상의 에지 영역에 낮은 가중치를 적용하여 l2-norm 최소화에 따른 영상의 에지 영역에 발생하는 블러(blur)를 최소화할 수 있다.That is, the
도 6 및 도 7은 본 발명의 일 실시예에 따른 가중치 맵을 추정하는 방법을 설명하는 도면이다.6 and 7 are views for explaining a method of estimating a weight map according to an embodiment of the present invention.
도 6의 (a), (b), (c), (d)를 참조하면, 도 6의 (a)는 입력영상이고, 도 6의 (b)는 역변환된 밝기 채널 영상이며, 도 6의 (c)는 활성맵이 적용된 영상이고, 도 6의 (d)는 가중치 맵이 적용된 영상이다.6 (a) is an input image, FIG. 6 (b) is an inversely transformed brightness channel image, and FIG. 6 (b) (c) is an image to which an active map is applied, and (d) of FIG. 6 is an image to which a weight map is applied.
영상 처리부(200)는 하기 수학식 4와 같이, 역변환된 밝기 채널(WB(x))과 활성맵(A(x))을 곱하여 가중치 맵(W(x))을 추정한다. 영상 처리부(200)는 가중치 맵을 추정하여 영상의 밝기를 개선하고, 에지 영역의 잡음을 제거할 수 있다.The
[수학식 4]&Quot; (4) "
여기서, W(x)는 가중치 맵이고, 는 각각의 화소의 위치(x)에서 화소끼리의 곱을 의미한다.Here, W (x) is a weight map, and x (x) denotes a product of pixels at each pixel position.
도 7의 (a), (b)를 참조하면, 영상 처리부(200)는 역변환된 밝기 채널(WB(x))에서 영상의 밝은 영역(A) 및 어두운 영역(B)에 대응하여 가중치(E, F)를 적용하고, 활성맵(A(x))에서 영상의 에지 영역(C) 및 평평한 영역(D)에 대응하여 가중치(G, H)를 적용할 수 있다.Referring to FIGS. 7A and 7B, the
예를 들어, 영상 처리부(200)는 영상의 밝은 영역 및 에지 영역에 낮은 가중치를 적용함으로써, 잡음 제거의 세기를 약하게 하여 영상의 밝은 영역의 디테일을 유지할 수 있고, 영상의 에지 영역에 발생하는 블러(blur)를 최소화할 수 있다. For example, the
예를 들어, 영상 처리부(200)는 영상의 어두운 영역 및 평평한 영역에 높은 가중치를 적용함으로써, 잡음 제거의 세기를 강하게 하여 영상의 어두운 영역 및 평평한 영역의 밝기 개선 시 증폭된 잡음을 효과적으로 제거할 수 있다. For example, by applying a high weight to dark and flat areas of an image, the
본 발명의 일 실시예에 따른 저조도 영상 개선 방법은 반복적인 영상 개선 방법(반복적인 기울기 하강 방법)을 이용하여 영상의 밝은 영역 및 어두운 영역에 따른 밝기 개선을 다르게 하고, 영상의 에지 영역 및 평평한 영역에 따른 증폭된 잡음을 효과적으로 제거할 수 있다.The low-illuminance image enhancement method according to an embodiment of the present invention differs in brightness improvement according to a bright region and a dark region of an image by using an iterative image enhancement method (repetitive slope descent method) It is possible to effectively remove the amplified noise according to the received signal.
예를 들어, 영상 처리부(200)는 하기 수학식 5와 같이, 영상에서의 에너지 함수를 미분하여 기울기를 계산하고, 반복적으로 기울기를 감소시킬 수 있다. 또한, 영상 처리부(200)는 감소된 기울기에서 최소가 되는 점을 추정하여 해를 구할 수 있다.For example, the
영상 처리부(200)는 수학식 5에서 조명성분(fL)과 반사성분(fR)에 대한 수식으로 각각 분리하여 하기 수학식 6 및 수학식 7과 같이 나타낼 수 있다.The
영상 처리부(200)는 수학식 6과 수학식 7에서 조명성분(fL)과 반사성분(fR)을 각각 미분하여 하기 수학식 8과 수학식 9과 같이 해를 추정할 수 있다.The
영상 처리부(200)는 수학식 8과 수학식 9에서 구해진 해에서, 하기 수학식 10 및 수학식 11과 같이, 반복적인 영상 개선 방법(반복적인 기울기 하강 방법)에 의한 가중치 맵을 이용하여 각 화소에서의 잡음을 제거할 수 있다. 여기서, k는 반복적인 영상 개선 방법이 반복된 횟수를 의미한다. The
[수학식 5]&Quot; (5) "
[수학식 6]&Quot; (6) "
[수학식 7]&Quot; (7) "
[수학식 8]&Quot; (8) "
[수학식 9]&Quot; (9) "
[수학식 10]&Quot; (10) "
[수학식 11]&Quot; (11) "
본 발명의 일 실시예에 따른 저조도 영상 개선 방법은 고속 푸리에 변환 방법과 양자화 가중치 값을 이용하여 저도도 영상 개선 방법을 고속화할 수 있다.The low-illuminance image enhancement method according to an embodiment of the present invention can speed up the low-level image enhancement method using the fast Fourier transform method and the quantization weight value.
예를 들어, 반복적인 영상 개선 방법(반복적인 기울기 하강 방법)은 에너지 함수의 반복적인 최소화 과정(반복적인 기울기 최소화 과정)에 의해 연산량이 많아지고, 처리속도가 증가하는 단점이 있다. For example, a repetitive image enhancement method (repetitive gradient descent method) has a disadvantage in that the amount of computation is increased and the processing speed is increased due to the repetitive minimization process (repetitive slope minimization process) of the energy function.
영상 처리부(200)는 이러한 처리속도를 개선하기 위하여 고속 푸리에 변환(Fast Fourier transform; FFT) 방법에 의해 주파수 도메인으로 변환된 영상에 공간 도메인의 가중치 맵(Wd)을 사용하는 것이 불가능하기 때문에 0에서부터 1의 값을 갖는 가중치 맵을 N개의 레벨로 양자화한 가중치값(Wq)을 이용하여 하기 수학식 12와 같이 양자화된 가중치를 이용할 수 있다. Since the
영상 처리부(200)는 최적의 반사성분(fR)을 추정된 N개의 레벨로 양자화된 가중치(Wq)를 이용하여 결과 영상(반사 성분,)을 생성하고, 이진화 맵을 이용하여 결과 영상(반사 성분,)를 적응적으로 합성함으로써, 영상의 밝은 영역 및 어두운 영역에 따른 밝기 개선을 다르게 하고, 영상의 에지 영역 및 평평한 영역에 따른 증폭된 잡음을 효과적으로 제거할 수 있는 결과 영상을 생성할 수 있다.The
예를 들어, 하기 수학식 12를 이용한 고속화하는 방법은 양자화된 스칼라 가중치(Wq)를 이용하여 영상 전체의 픽셀에 동일한 가중치로 최소화를 수행한 결과를 획득할 수 있다.For example, the method of increasing the speed using Equation (12) can obtain a result of minimizing the weight of all the pixels of the image using the quantized scalar weight W q .
영상 처리부(200)는 상기 수학식 5의 영상의 밝은 영역 및 어두운 영역에 따른 밝기 개선을 다르게 하고, 영상의 에지 영역 및 평평한 영역에 따른 증폭된 잡음을 효과적으로 제거된 결과를 생성하기 위하여 양자화된 가중치 값에 따라 가중치 맵(W(x))을 이진화하여 N개의 결과 영상(반사 성분, )을 합성한다.The
[수학식 12]&Quot; (12) "
도 8은 본 발명의 다른 실시예에 따른 저조도 영상 개선 방법에서 고속 푸리에 변환 방법과 양자화 가중치 값을 이용한 영상 개선 방법을 설명하는 순서도이다.FIG. 8 is a flowchart illustrating a fast Fourier transform method and an image enhancement method using a quantization weight value in a low-illuminance image enhancement method according to another embodiment of the present invention.
도 8을 참조하면, 본 발명의 다른 실시예에 따른 저조도 영상 개선 시스템(10)의 영상 처리부(200)에서의 영상 처리 방법은 상술한 S21 단계 내지 S28 단계가 도 1을 참조하여 구체적으로 설명된다.Referring to FIG. 8, in the image processing method in the
S21 단계에서, 영상 처리부(200)는 영상 처리 과정에서 발생하는 색상 왜곡 현상을 최소화 하기 위하여 영상 취득부(100)로부터 수신한 입력영상을 RGB 색상(컬러) 공간에서 HSV 색상 공간으로 변환 후, V채널(gv)에서 영상 처리 과정을 실시한다. 예를 들어, HSV 색상 공간은 H(Hue) 채널, S(Saturation) 채널 및 V(luminance) 채널을 포함하며, H채널 및 S채널은 영상의 색상 정보를 나타내고, V채널은 영상의 밝기(luminance) 또는 강도(intensity)를 나타낸다.In step S21, the
S22 단계에서, 영상 처리부(200)는 입력영상의 조명성분(fL) 및 반사성분(fR)을 추정한다. 예를 들어, 영상 처리부(200)는 입력영상의 V채널을 조명성분(fL)과 반사성분(fR)으로 분리할 수 있다.In step S22, the
S23 단계에서, 영상 처리부(200)는 반사성분(fR)에 대해 밝기를 개선하고, 잡음을 제거하기 위한 가중치 맵(W)을 추정한다. 예를 들어, 영상 처리부(200)는 역변환된 밝기 채널 및 활성맵을 추정한 후, 추정된 역변환된 밝기 채널 및 활성맵을 이용하여 가중치 맵(W)을 추정할 수 있다.In step S23, the
S24 단계에서, 영상 처리부(200)는 양자화 가중치 값을 계산한다. 예를 들어, 영상 처리부(200)는 양자화 가중치 값(Wq)을 계산하기 위하여, 하기 수학식 13과 같이, [0~1]의 값을 갖는 가중치 맵을 N개의 레벨로 양자화할 수 있다.In step S24, the
[수학식 13]&Quot; (13) "
여기서, Wq는 양자화 가중치 값, N은 레벨, N이 4인 경우에, Wq={0, 0.33, 0.66, 1}이고, q=1 내지 4를 의미한다.W q = {0, 0.33, 0.66, 1} and q = 1 to 4 when N is 4 and W q is a quantization weight value.
S25 단계에서, 영상 처리부(200)는 고속 푸리에 변환 방법을 이용하여 밝기를 개선하고, 에지 영역의 잡음을 제거 영상의 밝은 영역 및 어두운 영역에 따른 밝기 개선을 다르게 하고, 영상의 에지 영역 및 평평한 영역에 따른 증폭된 잡음을 효과적으로 제거하며, 고속 푸리에 변환 방법을 이용하여 밝기를 개선하고, 에지 영역의 잡음을 제거하는 방법은 도 9에서 자세하게 설명한다.In step S25, the
S26 단계에서, 영상 처리부(200)는 영상 합성을 위한 이진화 영상을 생성하며, 이진화 영상의 생성 방법은 도 10에서 자세하게 설명한다. 예를 들어, 영상 처리부(200)는 추정된 N개의 반사성분()을 양자화된 q번째 가중치 레벨에 따라 합성하기 위하여 이진화 맵을 생성한다.In step S26, the
S27 단계에서, 영상 처리부(200)는 밝기가 개선되고, 잡음이 제거된 영상들을 이진화 맵을 이용하여 합성하며, 이진화 맵을 이용하여 합성하는 방법은 도 10에서 자세하게 설명한다. 예를 들어, 영상 처리부(200)는 추정된 이진화 맵(Bq)과 추정된 N개의 반사성분()의 픽셀 단위의 곱을 통해 최종적으로 개선된 영상()을 획득하고, N개의 개선된 영상()을 이진화 맵(Bq(x))을 이용하여 합성함으로써, 영상의 밝기를 개선하고, 밝은 영역의 디테일은 보존하며, 밝기 개선 과정에서 증폭된 잡음을 제거한 결과를 도출할 수 있다.In step S27, the
S28 단계에서, 영상 처리부(200)는 개선된 영상()과 입력영상의 H채널 및 S채널을 다시 결합하여 RGB 색상 공간으로 변환하여 최종적인 영상을 생성한다.In step S28, the
도 9는 본 발명의 일 실시예에 따른 저조도 영상 개선 방법에서 고속 푸리에 변환 방법을 이용하여 밝기 개선 및 잡음을 제거하는 방법을 설명하는 도면이다.9 is a diagram for explaining a method of improving brightness and removing noise using a fast Fourier transform method in a low-illuminance image improving method according to an embodiment of the present invention.
도 9의 (a), (b), (c) 및 (d)를 참조하면, 영상 처리부(200)는 고속 푸리에 변환 방법을 이용하여 밝기 개선 및 에지 영역의 잡음을 제거하고, 결과 영상을 추정한다.9 (a), 9 (b), 9 (c), and 9 (d), the
예를 들어, 영상 처리부(200)는 하기 수학식 14 및 15를 이용한 고속화 방법은 양자화된 가중치 값(Wq)을 이용하여 N개의 반사성분()을 생성하며, 양자화된 가중치 값(Wq,예를 들어, Wq={0, 0.33, 0.66, 1})이 커질수록 잡음 제거의 세기를 강하게 실시할 수 있다.For example, the
[수학식 14]&Quot; (14) "
[수학식 15]&Quot; (15) "
도 10은 본 발명의 일 실시예에 따른 저조도 영상 개선 방법에서 영상 합성을 위한 이진화 영상의 생성 방법을 설명하는 도면이다.10 is a view for explaining a method of generating a binarized image for image synthesis in a low-illuminance image improving method according to an embodiment of the present invention.
도 10의 (a), (b), (c) 및 (d)를 참조하면, 영상 처리부(200)는 추정된 N개의 반사성분()을 양자화된 q번째 가중치 레벨에 따라 합성하기 위하여 하기 수학식 16과 같이 이진화 맵을 생성한다.10 (a), (b), (c) and (d), the
영상 처리부(200)는 하기 수학식 17과 같이, 추정된 이진화 맴(Bq)과 추정된 N개의 반사성분()의 픽셀 단위의 곱을 이용하여 최종적으로 개선된 영상()을 획득하고, N개의 개선된 영상()을 이진화 맵(Bq(x))을 이용하여 합성함으로써, 밝기를 개선하고, 에지 영역의 잡음을 제거한 영상을 추출할 수 있다.The
[수학식 16] &Quot; (16) "
[수학식 17]&Quot; (17) "
도 11은 본 발명의 일 실시예에 따른 저조도 영상 개선 방법을 실행하는 컴퓨팅 시스템을 보여주는 도면이다.11 is a diagram illustrating a computing system that implements a low-illuminance image enhancement method according to an embodiment of the present invention.
도 11을 참조하면, 컴퓨팅 시스템(1000)은 버스(1200)를 통해 연결되는 적어도 하나의 프로세서(1100), 메모리(1300), 사용자 인터페이스 입력 장치(1400), 사용자 인터페이스 출력 장치(1500), 스토리지(1600), 및 네트워크 인터페이스(1700)를 포함할 수 있다.11, a
프로세서(1100)는 중앙 처리 장치(CPU) 또는 메모리(1300) 및/또는 스토리지(1600)에 저장된 명령어들에 대한 처리를 실행하는 반도체 장치일 수 있다. 메모리(1300) 및 스토리지(1600)는 다양한 종류의 휘발성 또는 불휘발성 저장 매체를 포함할 수 있다. 예를 들어, 메모리(1300)는 ROM(Read Only Memory) 및 RAM(Random Access Memory)을 포함할 수 있다. The
따라서, 본 명세서에 개시된 실시예들과 관련하여 설명된 방법 또는 알고리즘의 단계는 프로세서(1100)에 의해 실행되는 하드웨어, 소프트웨어 모듈, 또는 그 2 개의 결합으로 직접 구현될 수 있다. 소프트웨어 모듈은 RAM 메모리, 플래시 메모리, ROM 메모리, EPROM 메모리, EEPROM 메모리, 레지스터, 하드 디스크, 착탈형 디스크, CD-ROM과 같은 저장 매체(즉, 메모리(1300) 및/또는 스토리지(1600))에 상주할 수도 있다. 예시적인 저장 매체는 프로세서(1100)에 커플링되며, 그 프로세서(1100)는 저장 매체로부터 정보를 판독할 수 있고 저장 매체에 정보를 기입할 수 있다. 다른 방법으로, 저장 매체는 프로세서(1100)와 일체형일 수도 있다. 프로세서 및 저장 매체는 주문형 집적회로(ASIC) 내에 상주할 수도 있다. ASIC는 사용자 단말기 내에 상주할 수도 있다. 다른 방법으로, 프로세서 및 저장 매체는 사용자 단말기 내에 개별 컴포넌트로서 상주할 수도 있다.Thus, the steps of a method or algorithm described in connection with the embodiments disclosed herein may be embodied directly in hardware, in a software module executed by
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. The foregoing description is merely illustrative of the technical idea of the present invention, and various changes and modifications may be made by those skilled in the art without departing from the essential characteristics of the present invention.
따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.Therefore, the embodiments disclosed in the present invention are intended to illustrate rather than limit the scope of the present invention, and the scope of the technical idea of the present invention is not limited by these embodiments. The scope of protection of the present invention should be construed according to the following claims, and all technical ideas within the scope of equivalents should be construed as falling within the scope of the present invention.
10: 저조도 영상 개선 시스템
100: 영상 취득부
200: 영상 처리부
300: 영상 표시부
1000: 컴퓨팅 시스템
1100: 프로세서
1200: 시스템 버스
1300: 메모리
1310: ROM
1320: RAM
1400: 사용자 인터페이스 입력장치
1500: 사용자 인터페이스 출력장치
1600: 스토리지
1700: 네트워크 인터페이스10: Low light image enhancement system
100:
200:
300:
1000: Computing System
1100: Processor
1200: System bus
1300: Memory
1310: ROM
1320: RAM
1400: User interface input device
1500: User interface output device
1600: Storage
1700: Network interface
Claims (12)
상기 HSV 색상 공간의 V 채널에서 조명성분과 반사성분을 추정하는 단계;
상기 반사성분의 밝기를 개선하고, 잡음을 제거하기 위한 가중치 맵을 추정하는 단계;
상기 조명성분, 상기 반사성분 및 상기 가중치 맵을 이용하여 개선된 영상을 추정하는 단계; 및
상기 개선된 영상 및 상기 입력영상을 결합하여 RGB 색상 공간으로 변환하여 최종 영상을 생성하는 단계
를 포함하는 것을 특징으로 하는 저조도 영상 개선 방법.Converting an RGB color space of an input image into an HSV color space;
Estimating an illumination component and a reflection component in a V-channel of the HSV color space;
Estimating a weight map for improving the brightness of the reflection component and removing noise;
Estimating an improved image using the illumination component, the reflection component, and the weight map; And
Combining the improved image and the input image to convert the input image into an RGB color space to generate a final image
Wherein the low-illuminance image enhancing method comprises:
상기 조명성분과 반사성분을 추정하는 단계는,
하기 [수학식1] 및 [수학식2]을 이용하여 상기 조명성분과 반사성분을 추정하는 것을 특징으로 하는 저조도 영상 개선 방법.
[수학식1]
[수학식2]
(여기서, fL은 조명성분, fR은 반사성분, gv는 V채널, H는 가우시안 로우-패스 필터(평균 필터)를 의미한다.)The method according to claim 1,
Wherein the step of estimating the illumination component and the reflection component comprises:
Wherein the illumination component and the reflection component are estimated using the following equations (1) and (2).
[Equation 1]
&Quot; (2) "
(Where f L is the illumination component, f R is the reflection component, g v is the V channel, and H is the Gaussian low-pass filter (mean filter).)
상기 가중치 맵을 추정하는 단계는,
역변환된 밝기 채널을 추정하는 단계; 및
활성맵을 추정하는 단계를 포함하는 것을 특징으로 하는 저조도 영상 개선 방법.The method according to claim 1,
Estimating the weight map comprises:
Estimating an inversely transformed brightness channel; And
And estimating an active map based on the first and second images.
상기 역변환된 밝기 채널을 추정하는 단계는,
하기 [수학식]을 이용하여 상기 역변환된 밝기 채널을 추정하는 것을 특징으로 하는 저조도 영상 개선 방법.
[수학식]
(여기서, WB(x)는 역변환된 밝기 채널, , 입력영상(g)에서 x에 위치한 R, G, B 픽셀의 화소값 중 가장 큰 값이 위치 x에서의 밝기 채널의 값을 의미한다.)The method of claim 3,
The step of estimating the inversely converted brightness channel comprises:
Wherein the inversely transformed brightness channel is estimated using the following equation.
[Mathematical Expression]
(Where W B (x) is the inverse transformed brightness channel, , The largest value among the pixel values of the R, G, and B pixels located at x in the input image (g) means the value of the brightness channel at the position x).
상기 활성맵을 추정하는 단계는,
하기 [수학식]을 이용하여 상기 활성맵을 추정하는 것을 특징으로 하는 저조도 영상 개선 방법.
[수학식]
(여기서, A(x)는 활성맵, H는 가우시안 로우-패스 필터(평균 필터), 는 x에 위치한 각 화소에서의 표준편차를 의미한다.)The method of claim 3,
Wherein estimating the activity map comprises:
Wherein the active map is estimated using the following equation.
[Mathematical Expression]
(Where A (x) is the active map, H is the Gaussian low-pass filter (mean filter) Denotes the standard deviation at each pixel located at x.)
상기 가중치 맵을 추정하는 단계는,
상기 역변환된 밝기 채널과 상기 추정된 활성맵을 곱하여 상기 가중치 맵을 추정하는 것을 특징으로 하는 저조도 영상 개선 방법.
[수학식]
(여기서, 는 각각의 화소의 위치 x에서 화소끼리의 곱을 의미한다.)The method of claim 3,
Estimating the weight map comprises:
And estimating the weight map by multiplying the inversely transformed brightness channel by the estimated active map.
[Mathematical Expression]
(here, Denotes the product of the pixels at the position x of each pixel.)
상기 개선된 영상을 추정하는 단계는,
반복적인 기울기 하강 방법을 이용하여 영상의 밝기를 개선하고, 에지 영역의 잡음을 제거하는 것을 특징으로 하는 저조도 영상 개선 방법.The method according to claim 1,
Wherein the estimating the enhanced image comprises:
Wherein the brightness of the image is improved by using the repetitive slope descent method, and the noise of the edge region is removed.
상기 RGB 색상 공간으로 변환하는 단계는,
상기 개선된 영상 및 상기 입력영상의 H 채널 및 S 채널을 결합하여 RGB 색상 공간으로 변환하는 것을 특징으로 하는 저조도 영상 개선 방법.The method according to claim 1,
Wherein the converting into the RGB color space comprises:
Wherein the improved image and the H and S channels of the input image are combined and converted into an RGB color space.
상기 가중치 맵을 추정하는 단계와 상기 개선된 영상을 추정하는 단계 사이에,
양자화 가중치 값을 계산하는 단계;
고속 푸리에 변환 방법을 이용하여 영상의 밝기를 개선하고, 에지 영역의 잡음을 제거하는 단계; 및
상기 영상을 합성하기 위하여 이진화 영상을 생성하는 단계
를 포함하는 것을 특징으로 하는 저조도 영상 개선 방법.The method according to claim 1,
Between the step of estimating the weight map and the step of estimating the improved image,
Calculating a quantization weight value;
Improving the brightness of an image using a fast Fourier transform method and removing noise in an edge region; And
Generating a binarized image to synthesize the image;
Wherein the low-illuminance image enhancing method comprises:
상기 양자화 가중치 값을 계산하는 단계는,
하기 [수학식]을 이용하여 상기 양자화 가중치 값을 계산하는 것을 특징으로 하는 저조도 영상 개선 방법.
[수학식]
(여기서, Wq는 양자화 가중치 값, N은 레벨, N이 4인 경우에, Wq={0, 0.33, 0.66, 1}이고, q=1 내지 4를 의미한다.)The method of claim 9,
Wherein the step of calculating the quantization weight value comprises:
Wherein the quantization weight value is calculated using the following equation.
[Mathematical Expression]
(Where W q is a quantization weight value, N is a level, W is = 0, 0.33, 0.66, 1 when N is 4, and q is 1 to 4.)
상기 고속 푸리에 변환 방법을 이용하여 밝기를 개선하고, 에지 영역의 잡음을 제거하는 단계는,
하기 [수학식1] 및 [수학식2]을 이용하여 상기 양자화 가중치 값을 이용하여 반사성분을 생성하는 단계를 포함하는 것을 특징으로 하는 저조도 영상 개선 방법.
[수학식1]
[수학식2]
(여기서, Wq는 양자화한 가중치 값, 는 N개의 반사영상을 의미한다.)The method of claim 9,
Wherein the step of improving the brightness using the fast Fourier transform method and removing the noise of the edge region comprises:
And generating a reflection component using the quantization weight value using Equation (1) and Equation (2) below.
[Equation 1]
&Quot; (2) "
(Where W q is a quantized weight value, Denotes N reflection images.)
상기 이진화 영상을 생성하는 단계는,
하기 [수학식1]을 이용하여 추정된 N개의 반사성분을 양자화된 q번째 가중치 레벨에 따라 영상을 합성하는 이진화 맵을 생성하는 단계; 및
하기 [수학식2]를 이용하여 추정된 이진화 맵과 추정된 N개의 반사성분의 픽셀 단위를 곱하여 상기 이진화 영상을 생성하는 단계를 포함하는 것을 특징으로 하는 저조도 영상 개선 방법.
[수학식 1]
[수학식 2]
The method of claim 9,
Wherein the generating the binarized image comprises:
Generating a binarization map for synthesizing images according to a quantized q-th weighted level of N reflected components estimated using Equation (1) below; And
And generating the binarized image by multiplying the estimated binarization map using the following equation (2) by the pixel unit of the estimated N reflection components.
[Equation 1]
&Quot; (2) "
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170173043A KR102395305B1 (en) | 2017-12-15 | 2017-12-15 | Method for improving low illumination image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170173043A KR102395305B1 (en) | 2017-12-15 | 2017-12-15 | Method for improving low illumination image |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20190072027A true KR20190072027A (en) | 2019-06-25 |
KR102395305B1 KR102395305B1 (en) | 2022-05-09 |
Family
ID=67065367
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020170173043A KR102395305B1 (en) | 2017-12-15 | 2017-12-15 | Method for improving low illumination image |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102395305B1 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111274952A (en) * | 2020-01-20 | 2020-06-12 | 新疆爱华盈通信息技术有限公司 | Backlight face image processing method and face recognition method |
KR20220025550A (en) | 2020-08-24 | 2022-03-03 | 현대모비스 주식회사 | Lamp controller interlocking system of camera built-in headlamp and method thereof |
CN115619659A (en) * | 2022-09-22 | 2023-01-17 | 北方夜视科技(南京)研究院有限公司 | Regularization Gaussian field model-based low-illumination image enhancement method and system |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101287521B1 (en) | 2011-10-14 | 2013-07-18 | 중앙대학교 산학협력단 | Apparatus and method for generating high dynamic range image based on single frame |
KR101488641B1 (en) * | 2014-07-02 | 2015-02-06 | 중앙대학교 산학협력단 | Image processing apparatus and Image processing method |
JP2016177504A (en) * | 2015-03-19 | 2016-10-06 | 富士ゼロックス株式会社 | Image processing device and program |
JP2017151908A (en) * | 2016-02-26 | 2017-08-31 | 富士通株式会社 | Image correction device, image correction method, and computer program for image correction |
-
2017
- 2017-12-15 KR KR1020170173043A patent/KR102395305B1/en active IP Right Grant
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101287521B1 (en) | 2011-10-14 | 2013-07-18 | 중앙대학교 산학협력단 | Apparatus and method for generating high dynamic range image based on single frame |
KR101488641B1 (en) * | 2014-07-02 | 2015-02-06 | 중앙대학교 산학협력단 | Image processing apparatus and Image processing method |
JP2016177504A (en) * | 2015-03-19 | 2016-10-06 | 富士ゼロックス株式会社 | Image processing device and program |
JP2017151908A (en) * | 2016-02-26 | 2017-08-31 | 富士通株式会社 | Image correction device, image correction method, and computer program for image correction |
Non-Patent Citations (1)
Title |
---|
Seonhee Park, ET AL, "Low-light image enhancement using variational optimization-based retinex model", IEEE Transactions on Consumer Electronics, Volume: 63, Issue: 2, May 2017(2017.05.31.) 1부.* * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111274952A (en) * | 2020-01-20 | 2020-06-12 | 新疆爱华盈通信息技术有限公司 | Backlight face image processing method and face recognition method |
KR20220025550A (en) | 2020-08-24 | 2022-03-03 | 현대모비스 주식회사 | Lamp controller interlocking system of camera built-in headlamp and method thereof |
CN115619659A (en) * | 2022-09-22 | 2023-01-17 | 北方夜视科技(南京)研究院有限公司 | Regularization Gaussian field model-based low-illumination image enhancement method and system |
CN115619659B (en) * | 2022-09-22 | 2024-01-23 | 北方夜视科技(南京)研究院有限公司 | Low-illumination image enhancement method and system based on regularized Gaussian field model |
Also Published As
Publication number | Publication date |
---|---|
KR102395305B1 (en) | 2022-05-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101574733B1 (en) | Image processing apparatus for obtaining high-definition color image and method therof | |
JP6169186B2 (en) | Image processing method and apparatus, and photographing terminal | |
KR101442153B1 (en) | Method and system for processing for low light level image. | |
US8941761B2 (en) | Information processing apparatus and information processing method for blur correction | |
US8773593B2 (en) | Noise reduction filter circuitry and method | |
KR20160102524A (en) | Method for inverse tone mapping of an image | |
US20180115752A1 (en) | Imaging device, imaging method, program, and image processing device | |
CN113170030A (en) | Correction of photographic underexposure using neural networks | |
KR101705605B1 (en) | Photographing apparatus and image processing apparatus using a coded light, and methods thereof | |
KR20110044594A (en) | High iso image generating apparatus and method | |
US20130329004A1 (en) | Method of and Apparatus for Image Enhancement | |
KR101813292B1 (en) | Method for improving images | |
US8456541B2 (en) | Image processing apparatus and image processing program | |
KR101341101B1 (en) | Apparatus and Method for restoring image | |
KR102395305B1 (en) | Method for improving low illumination image | |
WO2017136481A1 (en) | Adaptive bilateral (bl) filtering for computer vision | |
EP3438923B1 (en) | Image processing apparatus and image processing method | |
KR20140003835A (en) | Apparatus and method of reducing noise of image | |
Kim et al. | A novel framework for extremely low-light video enhancement | |
JP2011100204A (en) | Image processor, image processing method, image processing program, imaging apparatus, and electronic device | |
KR101287521B1 (en) | Apparatus and method for generating high dynamic range image based on single frame | |
CN112927162A (en) | Low-illumination image oriented enhancement method and system | |
KR101778461B1 (en) | A method of reducing noise of low light environment and an apparatus therefor | |
JP2018201137A (en) | Image composition device, image composition method, and image processing system, and program and recording medium | |
JP6324235B2 (en) | Image processing apparatus and image processing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |