KR100933556B1 - Color image processing apparatus and method for extending the dynamic range - Google Patents

Color image processing apparatus and method for extending the dynamic range Download PDF

Info

Publication number
KR100933556B1
KR100933556B1 KR1020070114466A KR20070114466A KR100933556B1 KR 100933556 B1 KR100933556 B1 KR 100933556B1 KR 1020070114466 A KR1020070114466 A KR 1020070114466A KR 20070114466 A KR20070114466 A KR 20070114466A KR 100933556 B1 KR100933556 B1 KR 100933556B1
Authority
KR
South Korea
Prior art keywords
luminance
signal
image
color difference
circuit
Prior art date
Application number
KR1020070114466A
Other languages
Korean (ko)
Other versions
KR20090048191A (en
Inventor
김진헌
윤세환
김현철
Original Assignee
주식회사 쎄이미지
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 쎄이미지 filed Critical 주식회사 쎄이미지
Priority to KR1020070114466A priority Critical patent/KR100933556B1/en
Publication of KR20090048191A publication Critical patent/KR20090048191A/en
Application granted granted Critical
Publication of KR100933556B1 publication Critical patent/KR100933556B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration by the use of histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/181Segmentation; Edge detection involving edge growing; involving edge linking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/68Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
    • H04N9/69Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits for modifying the colour signals by gamma correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/77Circuits for processing the brightness signal and the chrominance signal relative to each other, e.g. adjusting the phase of the brightness signal relative to the colour signal, correcting differential gain or differential phase
    • H04N9/78Circuits for processing the brightness signal and the chrominance signal relative to each other, e.g. adjusting the phase of the brightness signal relative to the colour signal, correcting differential gain or differential phase for separating the brightness signal or the chrominance signal from the colour television signal, e.g. using comb filter

Abstract

본 발명은 넓은 다이내믹 레인지를 갖는 영상신호 처리장치에 관한 것으로서, 촬상소자로부터 장노광 및 단노광 영상신호를 획득하는 장노광/단노광 영상 획득회로와, 상기 장노광/단노광 영상 확득회로의 출력 영상신호를 휘도와 색차신호로 분리하는 휘도/색차신호 변환회로와, 상기 휘도/색차신호 변환회로로부터 장노광 및 단노광의 휘도신호를 입력받아 가중치 평균기법으로 휘도를 압축하는 휘도신호 결합회로와, 상기 휘도 압축과정에서 감쇄된 신호를 보정하는 휘도신호 후처리회로와, 상기 휘도/색차신호 변환회로로부터 장노광 및 단노광의 색차신호를 입력받아 채도의 강도에 따라 가중치 평균기법으로 색차신호를 결합하는 색차신호 결합회로, 및 상기 휘도신호 후처리회로의 출력 휘도신호와 상기 색차신호 결합회로의 색차신호를 합성하는 RGB역변환회로로 구성된 다이내믹 레인지를 확장하는 칼라 영상 처리장치 및 방법에 관한 것이다.BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image signal processing apparatus having a wide dynamic range, comprising: a long exposure / short exposure image acquisition circuit for acquiring long and short exposure video signals from an image pickup device, and an output of the long exposure / short exposure image acquisition circuit. A luminance / color difference signal conversion circuit that separates a video signal into luminance and color difference signals, and a luminance signal combining circuit which receives luminance signals of long and short exposures from the luminance / color difference signal conversion circuit and compresses the luminance by a weighted average technique; And a chrominance signal post-processing circuit for correcting a signal attenuated in the luminance compression process, and a chrominance signal using a weighted average method according to the intensity of saturation by receiving chrominance signals of long and short exposures from the luminance / color difference signal conversion circuit. A color difference signal combining circuit to combine, and an output luminance signal of the luminance signal post-processing circuit and a color difference signal of the color difference signal combining circuit. Relates to a color image processing apparatus and method that extends the dynamic range consisting of RGB inverse transformation circuit.

영상처리장치, 다이내믹 레인지, 색차신호 결합, 휘도신호 결합 Image processing device, dynamic range, color difference signal coupling, luminance signal coupling

Description

다이내믹 레인지를 확장하는 칼라 영상 처리장치 및 방법{color image processing apparatus and method for expanding dynamic range}Color image processing apparatus and method for expanding dynamic range

본 발명은 넓은 다이내믹 레인지를 갖는 영상신호 처리장치에 관한 것으로서, 장노광 영상과 단노광 영상을 색차와 휘도로 분리하여 채도의 선명성을 잘 유지하고 휘도 압축과정에서 감쇄된 신호를 보정하여 다이내믹 레인지를 확장하는 칼라 영상 처리장치 및 방법에 관한 것이다. The present invention relates to an image signal processing apparatus having a wide dynamic range. The present invention relates to a long-exposure image and a short-exposure image by dividing the color image into a color difference and luminance to maintain the clarity of saturation and to correct the signal attenuated during the luminance compression process. An extended color image processing apparatus and method are disclosed.

영상 신호 처리에 있어서, 카메라를 통해 촬상된 영상을 인간의 시각특성과 가깝도록 재현하는 연구가 활발하게 진행되고 있다. 실제로, 인간이 밝은 곳부터 어두운 곳까지 볼 수 있는 변위 즉, 다이내믹 레인지(dynamic range)는 약 120dB정도이다. 그러나, 일반적으로 고체 촬상소자(CCD:Charged Coupled Device)를 이용하는 영상 처리 시스템에서 처리된 영상의 다이내믹 레인지는 약 60dB정도에 불과하다. 결국, 어둡고 밝은 휘도 레벨들이 혼재하는 영상으로부터 인간의 시각과 같은 감도 특성을 얻기 어려우므로, 이를 극복하기 위해 영상의 다이내믹 레인지를 확대 한다.In image signal processing, studies are being actively conducted to reproduce images captured by a camera so as to be closer to human visual characteristics. Indeed, the displacement, or dynamic range, that a human can see from bright to dark is about 120 dB. However, in general, the dynamic range of an image processed in an image processing system using a solid-state image pickup device (CCD) is only about 60 dB. As a result, since it is difficult to obtain sensitivity characteristics such as human vision from an image having dark and bright luminance levels, it is necessary to enlarge the dynamic range of the image to overcome this problem.

전술한 영상의 다이내믹 레인지를 확대하는 방법에는 크게 센서레벨에서 아날로그 회로를 개량하는 방법과, 디지털 영상처리를 통한 방법이 있다. 그 중 본 발명은 디지털 영상처리방법에 대한 것으로서 다중 노출에 의해 취득된 영상들을 결합하여 다이내믹 레인지를 높이는 것이다.As a method of enlarging the dynamic range of the above-described image, there are largely a method of improving an analog circuit at a sensor level and a method through digital image processing. Among them, the present invention relates to a digital image processing method, which combines images acquired by multiple exposure to increase dynamic range.

이때, 다중 노출에 의한 장노광 영상과 단노광 영상을 결합함에 있어서 중요한 요인은 장노광 영상에서의 포화영역과 단노광 영역의 저휘도 영역을 어떻게 적정 노광 영상정보로 조합할 것인가의 문제이다. In this case, an important factor in combining the long exposure image and the short exposure image by multiple exposure is a question of how to combine the saturation region and the low luminance region of the short exposure region into appropriate exposure image information.

종래에는 장노광 영상과 단노광 영상의 두 영상을 단순히 가중치 평균에 의해 결합하여 합성하는 방법을 사용하고 있는데, 두 영상의 단순 평균 결합은 휘도 특성에 대해서는 다이내믹 레인지를 가장 손실 없이 표현해낼 수 있는 장점이 있으나, 칼라 측면에서는 채도를 제대로 반영하지 못해 선명한 영상을 구현하지 못하는 단점이 있다. Conventionally, a method of combining two images of a long exposure image and a short exposure image by simply a weighted average is used. A simple average combination of two images has the advantage of expressing the dynamic range without loss most with respect to luminance characteristics. However, in terms of color, it does not properly reflect saturation, and thus has a disadvantage in that a clear image cannot be realized.

종래 기술로는, ① 등록 특허 10-0672856 '넓은 다이내믹 레인지를 갖는 카메라 영상신호 처리장치'와 ② 등록 특허 10-0363827 '넓은 다이내믹레인지의 영상신호를 생성하는 텔레비젼신호처리장치와 그 신호처리장치를 가지는 텔레비젼 카메라 및 텔레비젼 신호 처리 방법'이 있다. In the prior art, ① a patented video signal processing device having a wide dynamic range and a registered patent 10-0672856 and a 10-0363827 'TV signal processing device for generating a video signal having a wide dynamic range and a signal processing device are described. Branches' television cameras and television signal processing methods.

도 1은 종래의 카메라 영상신호 처리장치①의 블록 구성도이고, 도 2는 종래의 텔레비젼 카메라 및 텔레비젼 신호처리 방식②의 블록 구성도이다. 1 is a block diagram of a conventional camera video signal processing apparatus 1, and FIG. 2 is a block diagram of a conventional television camera and a television signal processing method ②.

먼저, 도 1을 참조하여 종래의 카메라 영상신호 처리장치①의 구성을 살펴보면, 촬상소자로부터 장노광 및 단노광 영상신호를 획득하는 장노광/단노광 획득회로와; 상기 두 영상 신호의 차분값을 계산하는 차분회로와; 상기 차분회로로부터 얻어지는 차분영상과 차분영상값에 따라 변화하는 승산계수를 만들어 내기 위한 승산비율계수를 입력하여 승산계수를 만들어 내는 승산계수 연산회로와; 상기 두 영상 신호의 승산 계수를 각 영상에 곱하는 제1 및 제2 승산회로; 및 상기 승산에 의해 얻어진 두 영상을 합성하는 합성회로로 구성되어 있다. First, referring to FIG. 1, a configuration of a conventional camera image signal processing apparatus 1 includes: a long exposure / short exposure acquisition circuit for acquiring long and short exposure video signals from an image pickup device; A difference circuit for calculating a difference value between the two video signals; A multiplication coefficient calculating circuit configured to generate a multiplication coefficient by inputting a multiplication ratio coefficient for producing a multiplication coefficient which varies according to the difference image value and the difference image obtained from the difference circuit; First and second multiplication circuits for multiplying each image by a multiplication coefficient of the two image signals; And a synthesis circuit for synthesizing two images obtained by the multiplication.

상기한 종래 기술①은 장노광과 단노광의 휘도값을 차분한 값과 특정 파라미터(Rls)에 의해 가중치 계수를 결정하여 두 영상을 결합함으로써 합성 영상의 결과가 광량 변화에 자연스럽게 대응할 수 있도록 한 것이다. In the above-described prior art ①, the weighted coefficient is determined by a difference between the luminance values of the long exposure and the short exposure and a specific parameter Rls, and the two images are combined to allow the result of the synthesized image to naturally respond to the change in the amount of light.

그러나, 종래의 카메라 영상신호 처리장치①는 RGB컴포넌트를 휘도와 색차성분으로 분리하여 처리하지 않고 RGB 각각의 도메인 상에서 휘도결합을 하므로 색 재연능력이 현저히 떨어지는 문제점이 있다. However, the conventional camera image signal processing apparatus ① does not separate and process RGB components into luminance and chrominance components, thereby combining luminance on each domain of RGB.

게다가, 단노광 영상의 결합 반영률을 높이기 위해 Rls파라미터를 낮추게 될 경우 단노광 영상의 계조치가 낮은 영역이 결합 영상에 어색한 영상(역전현상)으로 반영되는 문제점이 있다. In addition, when the Rls parameter is lowered to increase the combined reflectance of the short exposure image, an area having a low gray level of the short exposure image is reflected as an awkward image (reverse phenomenon) in the combined image.

한편, 도 2를 참조하여 종래의 텔레비젼 카메라 및 텔레비젼 신호처리 방식②의 구성을 살펴보면, 고휘도 영상신호(V2)의 예를 들어 1필드기간에 있어서의 피크치(P)를 검출하는 피크치 검출회로(52)와; 가산비율(R)과 피크치(P)로부터 표준휘도 영상신호(V1)의 승산계수(L)와 고휘도 영상신호(V2)의 승산계수(S)를 연산하는 승산계수 연산회로(52)와; 표준휘도 영상신호(V1)에 승산계수(L)를 승산하여 표분휘도 영상신호(O1)를 출력하는 승산회로(53)와; 고휘도 영상신호(V2)에 승산계수(S)를 승산하여 고휘도 영산신호(O2)를 출력하는 승산회로(54); 및 표준휘도 영상신호(O1)와 고휘도 영상신호(O2)를 가산하여 넓은 다이내믹레인지 영상신호(W)를 출력하는 합성회로(55)로 구성되어 있다.On the other hand, referring to Fig. 2, the structure of the conventional television camera and the television signal processing method ② will be described. The peak value detection circuit 52 for detecting the peak value P in one field period of the high luminance video signal V2, for example, will be described. )Wow; A multiplication coefficient calculating circuit 52 for calculating a multiplication coefficient L of the standard luminance video signal V1 and a multiplication coefficient S of the high luminance video signal V2 from the addition ratio R and the peak value P; A multiplication circuit 53 for multiplying the standard luminance video signal V1 by the multiplication coefficient L to output the table luminance video signal O1; A multiplication circuit 54 for multiplying the high luminance video signal V2 by the multiplication coefficient S to output a high luminance calculation signal O2; And a synthesizing circuit 55 for adding the standard luminance video signal O1 and the high luminance video signal O2 to output a wide dynamic range video signal W.

상기한 종래기술②의 전체적인 영상 취득 시스템은 종래기술①과 동일하나 다만, 한 프레임에서 결합 계수를 구하는데 필요한 히스토그램 및 각종 요소들을 획득하여 다음 프레임에 적용하고, 단노광 영상에서 피크치를 검출하여 단노광 영상을 스트레칭하는 과정이 더 포함되어 있다. The overall image acquisition system of the prior art ② is the same as in the prior art ①, except that the histogram and various elements required to obtain the coupling coefficient in one frame are acquired and applied to the next frame, and the peak value is detected from the short exposure image. The process of stretching the exposure image is further included.

그러나, 종래의 텔레비젼 카메라 및 텔레비젼 신호처리 방식②는 피크치가 높으면 고조도 영상의 반영비율이 대체적으로 떨어져서 전체적인 합성 영상이 어두워지며, 피크치가 낮아지면 고조도 영상의 반영비율이 증가되어 합성 영상이 밝아 지는 문제점이 있다. However, in conventional TV cameras and TV signal processing methods ②, when the peak value is high, the reflection ratio of the high illuminance image is generally lowered, and the overall synthesized image is darkened. There is a problem losing.

그리고, 검은색 영역을 촬영하다가 포화된 영역(형광등 혹은 백색종)이 있는 화면을 촬영하거나, 그 반대로 포화된 영역을 촬영하다가 검은색 영역을 촬영할 때, 또는 어두운 영상에서 포화된 화소가 불규칙적으로 검출될 때 갑작스런 피크치 변화에 의해 합성될 영상 자체도 급격한 스트레칭이 일어나게 되는 문제점이 있다.When the black area is taken and the saturated area (fluorescent lamp or white species) is taken, or the saturated area is taken while the black area is taken or the saturated pixels are irregularly detected in the dark image. In this case, there is a problem in that the image itself to be synthesized by a sudden peak value change also causes a sudden stretching.

또한, 피크치 검출 값의 높낮이에 따라 화면 자체의 밝기가 유동적으로 변하는 문제점이 있다. In addition, there is a problem in that the brightness of the screen itself changes fluidly according to the height of the peak value detection value.

본 발명은 상기와 같은 문제점을 해결하기 위한 것으로서, 디지털 영상처리를 통한 다이내믹 레인지 확장 과정에서 채도의 선명성을 잘 유지하고 휘도 결합과정에서 감쇄된 신호를 보안할 수 있도록 하는 다이내믹 레인지를 확장하는 칼라 영상 처리장치 및 방법을 제공함을 목적으로 한다.The present invention is to solve the above problems, a color image that extends the dynamic range to maintain the sharpness of the saturation in the dynamic range expansion process through digital image processing and to secure the signal attenuated in the luminance combining process It is an object to provide a treatment apparatus and method.

상술한 본 발명의 목적은 영상신호 처리장치에 있어서, 촬상소자로부터 장노광 및 단노광 영상신호를 획득하는 장노광/단노광 영상 획득회로와; 상기 장노광/단노광 영상 확득회로의 출력 영상신호를 휘도와 색차신호로 분리하는 휘도/색차신호 변환회로와; 상기 휘도/색차신호 변환회로로부터 장노광 및 단노광의 휘도신호를 입력받아 가중치 평균기법으로 휘도를 압축하는 휘도신호 결합회로와; 상기 휘도 압축과정에서 감쇄된 신호를 보정하는 휘도신호 후처리회로와; 상기 휘도/색차신호 변환회로로부터 장노광 및 단노광의 색차신호를 입력받아 채도의 강도에 따라 가중치 평균기법으로 색차신호를 결합하는 색차신호 결합회로; 및 상기 휘도신호 후처리회로의 출력 휘도신호와 상기 색차신호 결합회로의 색차신호를 합성하는 RGB역변환회로으로 구성된 다이내믹 레인지를 확장하는 칼라 영상 처리장치에 의해 달성된다.The above object of the present invention is to provide a video signal processing apparatus comprising: a long exposure / short exposure image acquisition circuit for acquiring long and short exposure video signals from an image pickup device; A luminance / color difference signal conversion circuit for separating the output image signal of the long exposure / short exposure image acquisition circuit into a luminance and a color difference signal; A luminance signal combining circuit for receiving long and short exposure luminance signals from the luminance / color difference signal conversion circuit and compressing the luminance by a weighted average technique; A luminance signal post-processing circuit for correcting a signal attenuated in the luminance compression process; A color difference signal combining circuit which receives color difference signals of long exposure and short exposure from the luminance / color difference signal conversion circuit and combines the color difference signals by a weighted average method according to the intensity of saturation; And an RGB inverse conversion circuit for synthesizing the output luminance signal of the luminance signal post-processing circuit and the color difference signal of the chrominance signal combining circuit.

상기한 본 발명의 휘도신호 후처리회로는 두 영상의 결합 휘도신호를 스트레칭하는 히스토그램 스트레칭 수단과; 상기 히스토그램 스트레칭 결과 계조치가 낮은 영역에 대해서만 감마 변환하는 감마 조정 수단; 및 상기 감마 조정된 휘도신호의 약해진 에지를 강화하는 에지 강조 처리수단으로 이루어진 것을 특징으로 한다.The luminance signal post-processing circuit of the present invention includes histogram stretching means for stretching a combined luminance signal of two images; Gamma adjusting means for performing gamma conversion only on a region having a low gradation value as a result of the histogram stretching; And edge emphasis processing means for enhancing the weakened edge of the gamma-adjusted luminance signal.

그리고, 넓은 다이내믹 레인지를 구현하는 방법에 있어서, 촬상소자(CCD, CIS)를 이용하여 노출시간을 길게 촬영한 장노광 영상(ILE)과 노출시간을 짧게 하여 촬영한 단노광 영상(ISE)을 결합하여 다이내믹 레인지가 확장된 영상을 취득하는 R-1단계와; 상기 취득된 두 영상을 휘도(Y)신호와 색차신호(R-Y, G-Y, B-Y)로 변환하는 R-2단계와; 상기 색차신호(R-Y, G-Y, B-Y)에 대해서 두 영상을 화소별(Pixel by Pixel)로 색차에 대한 가중치 평균처리(Weighted Averaging)하여 색차신호를 결합하는 R-3단계와; 상기 휘도(Y)신호에 대해서는 가중치 평균화작업을 통해 두 영상의 휘도를 결합하여 휘도 압축하는 R-4단계와; 휘도 압축과정에서 감쇄된 휘도를 보정하기 위해 히스토그램을 스트레칭하는 R-5단계와; 가중치 평균결합으로 부족한 휘도 압축을 보상하는 동시에 어두운 부분에 대한 가시성을 높이기 위해 감마 변환하는 R-6단계와; 휘도처리로 인해 김쇄된 영상의 선명성을 보상하는 에지 강조처리 R-7단계; 및 상기 색차신호 결합 영상과 에지 강조처리된 휘도신호를 합성하여 다이내믹 레인지가 확장된 RGB영상을 제공하는 R-8단계로 이루어진 다이내믹 레인지를 확장하는 칼라 영상 처리방법에 의해 달성된다. In the method for realizing a wide dynamic range, the long exposure image I LE photographed with a long exposure time using the imaging devices CCD and CIS and the short exposure image I SE photographed with a short exposure time Combining R-1 to obtain an image having an extended dynamic range; An R-2 step of converting the acquired two images into a luminance Y signal and a color difference signal (RY, GY, BY); R-3 step of combining the color difference signals by weighted averaging the two images for each color difference signal (RY, GY, BY) pixel by pixel (Pixel by Pixel); An R-4 step of compressing the luminance (Y) signal by combining the luminance of two images by weight averaging; R-5 stretching the histogram to correct the luminance attenuated during the luminance compression process; R-6 performing gamma conversion to compensate for insufficient luminance compression due to the weighted average combination and to increase visibility of dark areas; An edge enhancement process R-7 for compensating for the sharpness of the image which is blurred due to the luminance process; And an R-8 step of synthesizing the color difference signal combined image and the edge-enhanced luminance signal to provide an RGB image having an extended dynamic range.

상기한 본 발명의 색차신호를 결합하는 R-3단계에서 가중치 평균처리 공식에 이용되는 가중치는 RGB 3 컴포넌트의 간소화된 표준편차로 구한 스칼라값으로 하는 것을 특징으로 한다. In the R-3 step of combining the color difference signal of the present invention, the weight used in the weight averaging formula is a scalar value obtained by the simplified standard deviation of the RGB 3 component.

상기한 본 발명의 휘도신호를 감마 변환하는 R-6단계에서 감마 변환은 원하는 구간에 대해서만 변환을 시행하도록 하는 것을 특징으로 한다.In the R-6 step of gamma-converting the luminance signal of the present invention, the gamma conversion is characterized in that the conversion is performed only for a desired section.

상기한 바와 같이 본 발명에 의하면 노출시간이 다른 두 영상에서 색차신호를 분류하여 채도의 크기로 가중치 평균 결합함으로써 다이내믹 레인지가 확장된 영상의 채도가 선명성을 유지할 수 있는 효과가 있다. As described above, according to the present invention, color saturation signals are classified in two images having different exposure times and weighted and averaged by the magnitude of saturation, thereby maintaining the saturation of the image with the extended dynamic range.

또한, 노출시간이 다른 두 영상에서 휘도신호를 분류하여 휘도신호를 결합하고 히스토그램을 스트레칭함으로써, 휘도 결합과정에서 감쇄된 신호를 보정하여 대비 약화를 개선할 수 있는 효과가 있다. In addition, by classifying the luminance signals in two images having different exposure times, combining the luminance signals, and stretching the histogram, it is possible to correct the attenuated signal during the luminance combining process to improve the weakening of the contrast.

그리고, 히스토그램 스트레칭 결과 계조치가 낮은 특정 영역만을 감마변환 함으로써, 가시성이 높고 영상전역에 적절한 대비효과를 갖는 영상을 제공할 수 있는 효과가 있다.In addition, by gamma-converting only a specific region having a low gradation value as a result of histogram stretching, an image having high visibility and an appropriate contrast effect for the entire image may be provided.

또한, 감마 변환 이후 에지 강조처리를 함으로써, 휘도 처리과정에서 감쇄된 에지 성분을 복원하여 영상의 선명성을 높이는 효과가 있다.In addition, by performing edge enhancement after gamma conversion, the edge component reduced in the luminance process may be restored to increase the sharpness of the image.

이하, 본 발명의 바람직한 실시예를 첨부한 도면에 의거하여 상세히 기술하기로 한다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings.

도 3은 본 발명에 의한 칼라 영상 처리장치의 블록 구성도이다. 3 is a block diagram of a color image processing apparatus according to the present invention.

본 발명의 칼라 영상 처리장치는 촬상소자로부터 장노광 및 단노광 영상신호를 획득하는 장노광/단노광 영상 획득회로(11)와; 상기 장노광/단노광 영상 확득회로(11)의 출력 영상신호를 휘도와 색차신호로 분리하는 휘도/색차신호 변환회로(12)와; 상기 휘도/색차신호 변환회로(12)로부터 장노광 및 단노광의 휘도신호를 입력받아 가중치 평균기법으로 휘도를 압축하는 휘도신호 결합회로(13)와; 상기 휘도 압축과정에서 감쇄된 신호를 보정하는 휘도신호 후처리회로(14)와; 상기 휘도/색차신호 변환회로(12)로부터 장노광 및 단노광의 색차신호를 입력받아 색차신호의 강도에 따라 가중치 평균기법으로 채도를 결합하는 색차신호 결합회로(15); 및 상기 휘도신호 후처리회로의 출력 휘도신호와 상기 색차신호 결합회로의 색차신호를 합성하는 RGB역변환회로(16)로 구성된다. The color image processing apparatus of the present invention includes a long exposure / short exposure image acquisition circuit 11 for acquiring long and short exposure image signals from an image pickup device; A luminance / color difference signal conversion circuit (12) for separating the output image signal of the long exposure / short exposure image acquisition circuit (11) into luminance and color difference signals; A luminance signal combining circuit 13 which receives the luminance signals of long exposure and short exposure from the luminance / color difference signal conversion circuit 12 and compresses the luminance by a weighted average technique; A luminance signal post-processing circuit (14) for correcting the signal attenuated in the luminance compression process; A color difference signal combining circuit 15 which receives the color difference signals of long exposure and short exposure from the luminance / color difference signal conversion circuit 12 and combines the saturation by a weighted average method according to the intensity of the color difference signal; And an RGB inverse conversion circuit 16 for combining the output luminance signal of the luminance signal post-processing circuit and the color difference signal of the color difference signal combining circuit.

상기 휘도신호 후처리회로(14)는 두 영상의 결합 휘도신호를 스트레칭하는 히스토그램 스트레칭 수단과; 상기 히스토그램 스트레칭 결과 계조치가 낮은 영역에 대해서만 감마 변환하는 감마 조정 수단; 및 상기 감마 조정된 휘도신호의 약해진 에지를 강화하는 에지 강조 처리수단으로 이루어진다. The luminance signal post-processing circuit 14 includes histogram stretching means for stretching the combined luminance signal of two images; Gamma adjusting means for performing gamma conversion only on a region having a low gradation value as a result of the histogram stretching; And edge enhancement processing means for enhancing the weakened edge of the gamma-adjusted luminance signal.

상기 색차신호 결합회로(15)에서 가중치 값은 채도의 크기를 스칼라값으로 표현하되, RGB 3 컴포넌트의 간소화된 표준편차로 구하는 것이 바람직하다. In the chrominance signal combining circuit 15, the weight value is expressed as a scalar value of saturation, but preferably obtained as a simplified standard deviation of the RGB 3 component.

상기한 바와 같이 종래에 촬영된 두 영상을 단순히 결합하던 것에 반해 본 발명의 구성은 두 영상의 휘도신호와 채도신호를 별도로 분류하여 보정한 후 두 신호를 합성하도록 함으로써, 채도의 선명성을 잘 유지하고 휘도 압축과정에서 감쇄된 신호를 보정하여 우수한 화질의 넓은 다이내믹레인지를 갖는 영상을 제공할 수 있는 것이다. As described above, in contrast to simply combining two images captured in the related art, the configuration of the present invention classifies and corrects the luminance signal and the chroma signal of the two images separately, and then synthesizes the two signals to maintain the sharpness of saturation well. By compensating for the attenuated signal in the luminance compression process, an image having a wide dynamic range with excellent image quality can be provided.

더욱이 상기 휘도신호 후처리회로는 두 영상의 결합 휘도 신호를 스트레칭한 결과 계조치가 낮은 영역에 대해서만 감마 변환함으로써 신호값이 낮은 영역의 가시성이 높아짐과 동시에 영상전역에 적절한 대비 효과를 기대할 수 있고, 최종적으로 휘도신호에 에지 강조처리를 함으로써, 영상 결합과정에서 수반할 수밖에 없는 에지약화 현상의 부작용을 상쇄해 강한 샤프니스 강조 효과를 기대할 수 있다. In addition, the luminance signal post-processing circuit stretches the combined luminance signal of the two images and thus gamma-converts only the region having a low gradation value, thereby increasing the visibility of the region having the low signal value and at the same time expecting an appropriate contrast effect for the entire image. Finally, by applying edge emphasis to the luminance signal, a strong sharpening effect can be expected by canceling side effects of edge weakening, which is inevitably involved in the image combining process.

이어서, 상술한 본 발명의 구성이 어떻게 유기적으로 동작 되는가를 도 4를 참조하여 상세하게 기술하기로 한다. Next, how the above-described configuration of the present invention operates organically will be described in detail with reference to FIG. 4.

도 4는 본 발명에 의한 칼라 영상 처리장치의 영상처리 흐름도이다.4 is an image processing flowchart of a color image processing apparatus according to the present invention.

먼저, 촬상소자(CCD, CIS)를 이용하여 노출시간을 길게 촬영한 장노광 영상(ILE)과 노출시간을 짧게 하여 촬영한 단노광 영상(ISE)을 결합하여 다이내믹 레인지가 확장된 영상을 취득한다.(R-1단계)First, a long exposure image I LE photographed with a long exposure time using image pickup devices CCD and CIS is combined with a short exposure image I SE photographed with a short exposure time to obtain an image with extended dynamic range. Acquisition (R-1)

영상 결합은 광대역의 신호를 좁은 영역의 신호로 압축하는 작업이므로 비선형적인 처리를 수반하기 때문에 RGB영역에서 실행하면 각각의 다른 압축 비율로써 색상의 왜곡된 결과를 가져오게 된다. 따라서, 우선 휘도(Y)신호와 색차신호(R-Y, G-Y, B-Y)로 변환하는 RGB 색상신호 변환작업을 수행한다.(R-2단계)Since image combining is a process of compressing a wideband signal into a narrow area signal, it involves non-linear processing, so when executed in the RGB area, color distortion results in different compression ratios. Therefore, first, the RGB color signal conversion operation for converting the luminance (Y) signal and the color difference signal (R-Y, G-Y, B-Y) is performed.

여기서, 색차신호에 대해서는 두 영상을 화소별(Pixel by Pixel)로 색차에 대한 가중치 평균처리(Weighted Averaging)하여 색차신호를 결합한다.(R-3단계)Here, for the color difference signal, the two images are pixel-by-pixel (Pixel by Pixel) weighted averaging for the color difference to combine the color difference signals (step R-3).

그리고, 휘도에 대해서는 가중치 평균화작업을 통해 두 영상의 휘도를 결합하여 휘도압축(R-4단계)한 후 감쇄된 휘도를 보정하기 위해 히스토그램 스트레칭(R-5단계)을 수행하고, 가중치 평균결합으로는 부족한 휘도 압축을 보상하면서 동시에 어두운 부분에 대한 가시성을 높이기 위해 감마 변환(R-6단계)을 수행하며, 앞선 휘도처리로 인해 김쇄된 영상의 선명성을 보상하는 에지 강조처리(R-7단계)를 수행한다.In addition, the luminance is compressed by combining the luminance of the two images through a weighted averaging operation (step R-4), and then performing histogram stretching (step R-5) to correct the attenuated luminance. Performs a gamma conversion (R-6) to compensate for the lack of luminance compression while increasing the visibility of dark areas, and an edge enhancement process (R-7) to compensate for the sharpness of the image that has been lost due to the previous luminance processing. Perform

최종적으로 두 영상의 결합된 색차신호 및 휘도신호를 합성하여 다이내믹 레인지가 확장된 RGB영상을 제공한다.(R-8단계) Finally, the combined color difference signal and the luminance signal of the two images are synthesized to provide an RGB image having an extended dynamic range.

상기한 과정에 있어서, RGB신호의 색차신호 변환(R-2단계)은 아래 식 1, 2를 이용해 구한다. In the above process, the color difference signal conversion of the RGB signal (step R-2) is obtained using Equations 1 and 2 below.

RYi = Ri - Yi (식 1)RY i = R i Y i (Equation 1)

GYi = Gi - Yi GY i = G i -Y i

BYi = Bi - Yi BY i = B i -Y i

Yi=(Ri + (Gi<<1) + Bi)>>2 (식 2)Y i = (R i + (G i << 1) + B i ) >> 2 (Equation 2)

식 1 및 2에서 i = 1, 2이고, 1은 ILE (x,y)에 2는 ISE (x,y)에 해당한다.In Equations 1 and 2, i = 1, 2, 1 corresponds to I LE (x, y) and 2 corresponds to I SE (x, y) .

실제로 BT.601규격에 따르면 휘도(Y)를 구하는 공식은 Y=0.299·R + 0.587·G + 0.114·B이나 간단히 그레이스케일로 휘도를 구할 때는 Y=(R+G+B)/3을 사용할 수 있다. 그러나 하드웨어 구현관점에서 전자는 정수화 연산과 3개의 곱셈기 및 2개 덧셈기를, 후자는 2개 덧셈기 및 2n 나눗셈이 아니므로 나눗셈기를 필요로 한다. 두 방법은 단순히 연산임에도 불구하고 하드웨어 로직을 불필요하게 많이 사용한다 고 볼 수 있다. 그러므로 식 2에 의거하면 2개 덧셈기와 쉬프트 연산만으로 전자의 공식과 거의 유사한 휘도값을 얻을 수 있다. In fact, according to the BT.601 standard, the formula for obtaining luminance (Y) is Y = 0.299 · R + 0.587 · G + 0.114 · B, but simply use Y = (R + G + B) / 3 to obtain luminance in grayscale. Can be. However, from the hardware implementation point of view, the former requires an integer operation, three multipliers and two adders, and the latter is not two adders and 2 n divisions. The two methods use hardware logic unnecessarily even though they are simply operations. Therefore, based on Equation 2, only two adders and a shift operation can obtain a luminance value that is almost similar to the former formula.

한편, 다이내믹 레인지 확장을 위한 영상 결합에서 가장 이상적인 방법은 장/단노광 영상에서 적정 노출이 되지 않아 영상 정보가 없는 영역을 서로 적절히 보완하는 것이다. 즉, 단노광 영상에서 어두운 영역을 장노광 영상에서 보완해주고 장노광 영상의 포화영역(과도노출로 하얗게 된 영역)을 단노광 영상으로 채워주는 것이 이상적인 결합법이 된다. 실제로 영상정보가 없는 이러한 영역은 무채색에 가깝고 쉽게 식별할 수 있다. 그러므로 이 영역에 대한 결합비율은 최대한 감소시키고, 보다 채도가 높은 타 영상(장노광 혹은 단노광)의 정보를 활용해야 한다. 이를 위해 본 발명에서는 색차신호 결합(R-3단계)을 수행하는 것이다. On the other hand, the most ideal method for combining images to extend the dynamic range is to properly compensate for the areas without image information due to poor exposure in long / short exposure images. That is, an ideal combination method is to supplement the dark region in the short exposure image with the long exposure image and to fill the saturated region of the long exposure image with the short exposure image with the short exposure image. In fact, these areas without image information are almost achromatic and easily identifiable. Therefore, the coupling ratio for this area should be reduced as much as possible, and information of other saturated images (long exposure or short exposure) should be used. To this end, in the present invention, color difference signal combining (step R-3) is performed.

본 발명에서 색차신호 결합(R-3단계)은 식 4, 5, 6을 따른다. In the present invention, the color difference signal combination (step R-3) follows Equations 4, 5, and 6.

고휘도 영상은 밝게 포화된 영역에서, 저휘도 영상은 어두운 영역에서 색상이 거의 없다고 볼 수 있다. 그러므로 이 영역에 대한 단순 평균을 이용한 영상 결합은 색상의 채도를 떨어뜨릴 가능성이 매우 크다. 이를 보상하기 위해 전 영역에 걸쳐 색상 강조를 하면 정상적으로 취득된 색차정보가 지나치게 강조되는 문제를 야기할 수 있다. The high luminance image may be seen in a brightly saturated region, and the low luminance image may have little color in a dark region. Therefore, image combining using a simple average over this region is very likely to reduce color saturation. In order to compensate for this, if the color is emphasized over the entire area, it may cause a problem that the normally acquired color difference information is excessively emphasized.

상기한 문제를 해결하기 위해 본 발명에서는 화소별(Pixel by Pixel)로 색차에 대한 가중치 평균처리(Weighted Averaging)를 한다. 식 4는 식2에서 구한 색차 신호에 대한 가중치 평균결합을 나타내며, 각 가중치 알파(α)는 식 5로써 구한다. In order to solve the above problem, the present invention performs weighted averaging on the color difference by pixel by pixel. Equation 4 represents the weighted average combination of the color difference signals obtained in Equation 2, and each weight alpha (α) is obtained by Equation 5.

RYF = RY1·α + RY2·(1-α) (식 4)RY F = RY 1 · α + RY 2 · (1-α) ( Equation 4)

GYF = GY1·α + GY2·(1-α)GY F = GY 1 · α + GY 2 · (1-α)

BYF = BY1·α + BY2·(1-α) BY F = BY 1 · α + BY 2 · (1-α)

α = S1/(S1 + S2), if (S1 + S2)=0 then S1 = S2 = 0.5 (식 5)α = S 1 / (S 1 + S 2 ), if (S 1 + S 2 ) = 0 then S 1 = S 2 = 0.5 (Equation 5)

식 5의 가중치는 장노광과 단노광의 동일 위치 채도의 강도에 의해 획득된다. 즉, S1은 장노광 화소의 색상 강도가 되며 S2는 동일 위치의 단노광 화소의 색상 강도가 된다. The weight in Equation 5 is obtained by the intensity of the co-saturation of the long exposure and the short exposure. That is, S 1 becomes the color intensity of the long exposure pixel and S 2 becomes the color intensity of the short exposure pixel at the same position.

여기서, 종래에 색상 강도는 식 7에 의해 구해 졌다.Here, the color intensity is conventionally obtained by the formula (7).

Figure 112007080660348-pat00001
Figure 112007080660348-pat00001

if max(R,G,B) = 0 then Ssat = 0 (식 7)if max (R, G, B) = 0 then S sat = 0 (Equation 7)

그러나, 식 7과 같이 HSI좌표계의 채도(S:Saturation)를 색의 강도로써 활용할 경우 매우 작은 RGB스칼라 값에 의해 높은 채도로 표현될 수 있는 문제가 있다.However, when saturation (S: Saturation) of the HSI coordinate system is used as the intensity of the color as shown in Equation 7, there is a problem that high saturation can be expressed by very small RGB scalar values.

예를 들어, R=2, G=0, B=0인 경우 검은색이면서 채도가 거의 없는 무채색에 가깝다고 할 수 있는데, 이 경우 식 7에 적용하면 색의 강도는 100%가 되는 문제를 초래한다. For example, if R = 2, G = 0, B = 0, it is close to achromatic color with black color and almost no saturation. In this case, the intensity of color becomes 100% when applied to Equation 7. .

따라서, 본 발명에서는 색상 강도를 식 6을 응용하여 구하고자 한다. 이는 RGB 3 컴포넌트의 간략화한 표준편차로 채도의 크기를 스칼라로 표현함으로써 안정된 적정 가중치를 획득할 수 있게 한다. Therefore, in the present invention, to obtain the color intensity by applying the equation (6). This is a simplified standard deviation of the RGB 3 components, which makes it possible to obtain stable weights by expressing the magnitude of saturation as a scalar.

S1=│Avg1-R1│+│Avg1-G1│+│Avg1-B1│, Avgi=(Ri+Gi+Bi)/3 (식 6)S 1 = │Avg 1 -R 1 │ + │Avg 1 -G 1 │ + │Avg 1 -B 1 │, Avg i = (R i + G i + B i ) / 3 (Equation 6)

S2=│Avg2-R2│+│Avg2-G2│+│Avg2-B2S 2 = │Avg 2 -R 2 │ + │Avg 2 -G 2 │ + │Avg 2 -B 2

그러나, 식 6의 각 Avg는 사실상 RGB로 구성된 한 픽셀의 휘도값과 거의 동일시 할 수 있기 때문에, Avg를 식 2로 대체하면 가중치 S는 식 1에서 구한 색차신호들의 절대치 합으로 표현 가능하다. 그러므로 아래의 식 6-1에 의거한 하드웨어 구현으로 나눗셈기를 사용하지 않는 이점을 갖게 된다. However, since each Avg in Equation 6 can be almost identical to the luminance value of one pixel composed of RGB, if Avg is replaced with Equation 2, the weight S can be expressed as the absolute sum of the color difference signals obtained in Equation 1. Therefore, the hardware implementation based on Equation 6-1 below has the advantage of not using a divider.

S1 = |R1-Y| + |G1-Y| + |B1-Y| (식 6-1)S 1 = | R 1 -Y | + | G 1 -Y | + | B 1 -Y | (Equation 6-1)

S2 = |R2-Y| + |G2-Y| + |B2-Y|S 2 = R 2 -Y | + | G 2 -Y | + | B 2 -Y |

상기 식 6-1과 7을 비교해 볼 때, 식 7은 RGB 세 값의 상대적인 크기를 통해 채도를 계산하기 때문에 그 값이 매우 작은 RGB라 하더라도 채도가 높게 계산될 수 있다. 이때, 상대적이라 함은 RGB중 가장 큰 값에 의해 채도의 크기가 정규화(Normalization)되는 것을 의미한다. 반면, 식 6-1은 RGB값들의 절대적인 비교에 의해 앞선 예시와 같이 거의 검은 색이라 할 수 있는 무채색 RGB(2,0,0)을 낮은 채도로 계산한다.Comparing Equations 6-1 and 7 above, Equation 7 calculates saturation through the relative magnitudes of the three RGB values. In this case, relative means that the magnitude of saturation is normalized by the largest value among RGB. On the other hand, Equation 6-1 calculates achromatic RGB (2,0,0) with low saturation, which is almost black as in the previous example, by absolute comparison of RGB values.

즉, 사람의 눈으로는 어둡거나 무채색이라고 판단되는 화소값이 식 7에 의해 높은 채도의 잘못된 결과로 사용된다면 결합 영상의 색 재연성에 문제를 초래하게 된다. HSI좌표계에서는 특히 I(Intensity 혹은 Lightness)가 낮아질수록 정규화된 채도값이 앞서 기술한 원치 않은 결과를 발생시킬 가능성을 높인다. 그 이유는 도 5의 HSI좌표계에서 I가 낮을수록 S는 쉽게 100%가 되기 때문이다. That is, if the pixel value determined to be dark or achromatic with the human eye is used as a wrong result of high saturation by Equation 7, it causes a problem in color reproduction of the combined image. In HSI coordinate systems, in particular, the lower the I (intensity or lightness), the higher the probability that the normalized saturation value will produce the unwanted results described above. This is because the lower I is in the HSI coordinate system of FIG. 5, the easier the S is to 100%.

도 5는 일반적인 HSI좌표계를 도시한 도면이다. 5 is a diagram illustrating a general HSI coordinate system.

HSI좌표계는 원뿔을 거꾸로 세운 모습으로 아래에서 위로 갈수록 I(Intensity 혹은 Lightness)가 높아지고, 원뿔 바닥 둘레가 색상(H:Hue)을 나타내며 각도에 따라 달라진다. 즉, I를 축으로 원뿔 밖으로 멀어질수록 채도(S:Saturation)가 증가하고 I가 낮아질수록 S는 쉽게 100%가 되는 것이다.In the HSI coordinate system, the cone is upside down and the I (Intensity or Lightness) increases from bottom to top, and the bottom of the cone shows the color (H: Hue) and varies with angle. In other words, as I moves away from the cone, the saturation (S) increases and as I decreases, S becomes 100% easily.

상기한 과정에 있어서, 휘도 결합(R-4단계)은 아래 식3을 이용해 구한 장노광 및 단노광 휘도값을 사용하고 식8에 의거한 가중치 평균결합을 수행한다. In the above process, luminance combining (step R-4) uses the long exposure and short exposure luminance values obtained using Equation 3 below and performs weighted average combining based on Equation 8.

Ycombining=Y1·β+Y2·(1-β), if 0≤β≤1 (식 8)Y combining = Y 1 · β + Y 2 · (1-β), if 0≤β≤1 (Equation 8)

일반적으로 적정 노출시간에 의해 적정 노광된 영상을 취득하였다고 가정할 때, 장/단노광 영상의 휘도 결합 즉, 휘도 압축은 평균 결합을 통해 두 영상 전역의 명암을 고루 표현해낼 수 있다. 이때는 식 8에서 가중치 베타 값을 0.5로 적용하고 있으나, 이 경우 평균 휘도 결합은 두 영상의 명암을 완벽히 재현해 낼 수 있으나 대비가 약화되어 가시성(visibility)이 떨어지는 문제가 있다. 본 발명에서는 이러한 문제를 해결하기 위해 상기 히스토그램 스트레칭(R-5단계)을 수행하는 것이다. In general, assuming that an appropriately exposed image is acquired by an appropriate exposure time, luminance combination, that is, luminance compression, of a long / short exposure image may be uniformly expressed throughout the two images through an average combination. In this case, the weighted beta value is applied as 0.5 in Equation 8, but in this case, the average luminance combination can completely reproduce the contrast of the two images, but the contrast is weakened, so the visibility is reduced. In the present invention, to solve this problem, the histogram stretching (step R-5) is performed.

도 6은 종래의 휘도 결합단계에서 저조도 영상(a)과 고조도 영상(b) 및 두 영상을 평균결합한 영상(c)의 사진이고, 도 7은 도 6의 저조도 영상의 히스토그램(a)과 고조도 영상의 히스토그램(b) 및 두 영상의 평균결합 영상에 대한 히스토그램(c)을 도시한 도면이며, 도 8은 본 발명에서 휘도 결합한 영상을 히스토그램 스트레칭 처리한 후의 히스토그램을 도시한 도면이다. FIG. 6 is a photograph of a low light image (a) and a high light image (b) and an image (c) obtained by averaging two images in a conventional brightness combining step, and FIG. 7 is a histogram (a) and high tone of the low light image of FIG. FIG. 8 is a diagram illustrating a histogram (b) of an image and a histogram (c) of an average combined image of two images. FIG. 8 is a diagram illustrating a histogram after a histogram stretching process of a luminance-coupled image.

종래에는 단순히 두 영상을 평균결합했기 때문에 도 7의 (c)에 도시된 바와 같이 저조도 영상의 히스토그램(a)이 전체적으로 Shift-up된 모습과 유사하다. 즉, 평균결합 영상의 대비 약화는 물론이고, 풀레인지(Full Range, 0~255)의 휘도값이 사용되지 못하는 문제를 보이게 된다.In the related art, since the average image is simply combined with each other, the histogram a of the low light image is shifted up as shown in FIG. That is, as well as a weakening of the contrast of the average combined image, the luminance value of the full range (0 ~ 255) can not be used.

이러한 대비 약화를 개선하기 위한 방법으로 히스토그램 스트레칭(R-5단계)을 수행하는 것이다. To improve this contrast weakening is to perform histogram stretching (R-5 step).

실제로 히스토그램 스트레칭을 처리한 후의 히스토그램은 도 8에 도시된 바와 같고, 도 7의 (c)와 비교해 볼 때 그래프가 전체적으로 좌측으로 스트레칭하여 휘도값이 0~255 구간에 전체적으로 확장된 것을 확인할 수 있다. In fact, the histogram after the histogram stretching process is as shown in FIG. 8, and when compared with FIG. 7C, the graph is stretched to the left as a whole to confirm that the luminance value is entirely extended in the 0 to 255 section.

여기서, 히스토그램 스트레칭은 식 9에 의거한다.Here, the histogram stretching is based on Equation 9.

Figure 112007080660348-pat00002
(식 9)
Figure 112007080660348-pat00002
(Eq. 9)

한편, 상기 히스토그램 스트레칭(R-5단계) 결과, 계조치가 낮은 화소가 히스토그램상에서 좌측으로 이동한 경우 계조치가 낮은영역(도 9의 P구간)의 가시성이 떨어지는 현상이 나타날 수 있다. 본 발명에서는 이 부분의 다이내믹 레인지를 넓히기 위한 방법으로 감마를 조정하는 감마 변환(R-6단계)을 수행한다.On the other hand, as a result of the histogram stretching (step R-5), when a pixel having a low gradation value is moved to the left on the histogram, the visibility of a region having a low gradation value (section P in FIG. 9) may be degraded. In the present invention, a gamma conversion (step R-6) for adjusting gamma is performed as a method for widening the dynamic range of this portion.

도 9는 본 발명의 히스토그램 스트레칭 이후 히스토그램이고, 도 10은 일반적인 감마 변환 기본 공식을 적용한 경우의 감마신호 변환 형태 그래프이며, 도 11은 본 발명에 의한 감마 변환 공식을 적용한 경우의 감마신호 변환 형태 그래프이고, 도 12는 본 발명에 의한 히스토그램 스트레칭 영상(a)과 전역 감마 변환 영상(b)과 일부 감마 변환 영상(c)의 사진이다.9 is a histogram after stretching the histogram of the present invention, and FIG. 10 is a graph of the gamma signal conversion form when the general gamma conversion basic formula is applied, and FIG. 11 is a graph of the gamma signal conversion form when the gamma conversion formula according to the present invention is applied. 12 is a photograph of a histogram stretching image (a), a global gamma transform image (b), and a partial gamma transform image (c) according to the present invention.

일반적으로 감마 변환의 기본 공식은 식 10과 같이 입력신호(x)에 대해 감마를 제곱근으로 하여 출력 신호를 얻는 것이다.(이때 0≤x≤1, 0≤y≤1)In general, the basic formula for gamma conversion is to obtain an output signal by using gamma as the square root of the input signal (x) as shown in Equation 10 (where 0≤x≤1 and 0≤y≤1).

Figure 112007080660348-pat00003
(식 10)
Figure 112007080660348-pat00003
(Eq. 10)

그러나, 0부터 255 값을 갖는 영상 신호의 경우는 식 11과 같이 감마 변환 공식을 변형하여 사용한다. However, in the case of a video signal having a value from 0 to 255, the gamma conversion formula is modified and used as in Equation 11.

Figure 112007080660348-pat00004
(식 11)
Figure 112007080660348-pat00004
(Eq. 11)

도 9에서 P구간의 신호를 증가시키기 위해서는 감마값을 1미만으로 낮추면 된다. 그때의 감마신호 형태는 도 10의 초록색 실선과 같아져 P구간의 신호를 증가시킬 수 있으나 0~255에 대한 전역 처리로 인해 P구간이 아닌 나머지 구간에 대해서도 전체적으로 증가된 신호값을 얻게 된다. 이것은 휘도 결합된 영상에서 적절히 결합되었다고 판단할 수 있는 영역 또한 신호처리를 하는 것이므로 영상 전역으로 볼 때 대비를 떨어뜨리는 부작용이 된다. In FIG. 9, the gamma value may be lowered to less than 1 to increase the signal of the P section. At that time, the gamma signal shape is the same as the green solid line of FIG. 10, so that the signal of the P section can be increased, but the globally increased signal value is obtained for the remaining sections other than the P section due to global processing for 0 to 255. This is an area that can be judged as properly combined in the luminance-combined image is also signal processing, which is a side effect of reducing the contrast when viewed throughout the image.

따라서, 본 발명에서는 식 12를 이용하여 원하는 P구간에 대해서만 감마 변환을 시행하여 신호값이 낮은 영역의 가시성이 높아지도록 한다. Therefore, in the present invention, gamma conversion is performed only on a desired P section using Equation 12 to increase visibility of a region having a low signal value.

Figure 112007080660348-pat00005
(식 12)
Figure 112007080660348-pat00005
(Eq. 12)

상기 식 12에서 Gamma Max Point(GMP)를 설정하고, 그 이하의 신호에 대해서만 감마변환을 시행함으로써, 계조치가 낮은 P구간에 대해서만 감마 변환을 시행하고 계조치가 높은 나머지 구간에 대해서는 입력신호를 그대로 출력함으로써 도 11에 도시된 바와 같이, 신호값이 낮은 영역의 가시성이 높아짐과 동시에 영상 전역에 적절한 대비효과를 기대할 수 있게 된다.By setting the Gamma Max Point (GMP) in Equation 12 and performing gamma conversion only for signals below it, gamma conversion is performed only for the P section with low gradation values, and the input signal is applied for the remaining sections with high gradation values. As shown in FIG. 11, as shown in FIG. 11, the visibility of the region having a low signal value is increased and an appropriate contrast effect can be expected for the entire image.

도 12를 참조하여 히스토그램 스트레칭 결과 영상(a)과 전역 감마 변환 처리 후 영상(b)을 비교하면, 전역 감마 변환 처리 후 오히려 영상의 대비가 떨어진 것을 확인할 수 있는 반면, 일부 감마 변환 영상(c)은 가시성이 낮은 영역과 그외의 영역의 대비가 안정이며 상기한 두 영상보다 우수한 것을 확인할 수 있다.Comparing the histogram stretching result image (a) with the image (b) after the global gamma conversion processing with reference to FIG. 12, it can be seen that the contrast of the image is rather deteriorated after the global gamma conversion processing. It can be seen that the contrast between the low visibility area and other areas is stable and superior to the above two images.

한편, 다이내믹 레인지 확장을 위한 영상 결합은 넓은 영역의 계조 데이터를 좁은 영역으로 압축하는 작업이기 때문에 큰 계조변화를 작은 계조변화로 만드는 부작용을 수반할 수밖에 없다. 이는 에지 약화 현상으로 나타난다. 따라서, 계조압축 후에는 에지 강조를 통해 그 부작용을 상쇄할 수 있다.On the other hand, since image combining for dynamic range expansion is an operation of compressing a wide range of gray scale data into a narrow region, it is inevitably accompanied by side effects of making a large gray scale change into a small gray scale change. This is indicated by edge weakening. Therefore, after the gradation compression, the side effect can be canceled out through the edge emphasis.

여기서, 에지 강조는 식 13 및 14와 같은 마스크 연산을 통해 에지 감쇄 효과를 보상한다. Here, edge enhancement compensates for the edge attenuation effect through a mask operation such as equations (13) and (14).

Y'(i,j)={9*Ygamma(i,j)-Ygamma(i-1,j)-Ygamma(i+1,j)-Ygamma(i,j-1)- Y '(i, j) = (9 * Y gamma (i, j) -Y gamma (i-1, j) -Y gamma (i + 1, j) -Y gamma (i, j-1)-

Ygamma(i,j+1)}/5 (식 13)Y gamma (i, j + 1)} / 5 (Equation 13)

Y'(i,j) = 5*Ygamma(i,j)-Ygamma(i-1,j)-Ygamma(i+1,j)-Ygamma(i,j-1)-Y '(i, j) = 5 * Y gamma (i, j) -Y gamma (i-1, j) -Y gamma (i + 1, j) -Y gamma (i, j-1)-

Ygamma(i,j+1) (식 14)Y gamma (i, j + 1) (Equation 14)

여기서, i, j는 각각 영상의 x축, y축의 좌표데이터이며, Ygamma와 Y'은 각각 감마 조정된 영상과 출력 영상을 의미한다. 식 14는 식 13보다 에지의 강도가 강하므로 보다 강한 샤프니스 강조 효과를 위해 선택하여 사용할 수 있다. Here, i and j are coordinate data of the x-axis and y-axis, respectively, and Y gamma and Y 'mean gamma-adjusted image and output image, respectively. Equation 14 has a stronger edge than Equation 13, and can be selected and used for a stronger sharpening effect.

마지막으로 색차 및 휘도신호에 대한 모든 처리가 끝나면, 식 4에서 구한 RYF, GYF, BYF를 RGB로 복원한다. RGB복원은 에지 강조까지 처리된 Y'를 색차신호 RYF, GYF, BYF에 가산하는 식 15에 의거한다. Finally, after all processing for the chrominance and luminance signal is finished, the RY F , GY F , and BY F obtained in Equation 4 are restored to RGB. The RGB restoration is based on Equation 15 in which Y 'processed up to the edge emphasis is added to the color difference signals RY F , GY F and BY F.

RHDR=RYF+Y' (식 15)R HDR = RY F + Y '(Equation 15)

GHDR=GYF+Y'G HDR = GY F + Y '

BHDR=BYF+Y'B HDR = BY F + Y '

도 1은 종래의 카메라 영상신호 처리장치①의 블록 구성도.1 is a block diagram of a conventional camera video signal processing apparatus ①.

도 2는 종래의 텔레비젼 카메라 및 텔레비젼 신호처리 방식②의 블록 구성도2 is a block diagram of a conventional television camera and television signal processing method ②.

도 3은 본 발명에 의한 칼라 영상 처리장치의 블록 구성도Figure 3 is a block diagram of a color image processing apparatus according to the present invention

도 4는 본 발명에 의한 칼라 영상 처리장치의 영상처리 흐름도4 is an image processing flowchart of a color image processing apparatus according to the present invention.

도 5는 일반적인 HSI좌표계5 is a general HSI coordinate system

도 6은 종래의 휘도 결합단계에서 저조도 영상(a)과 고조도 영상(b) 및 두 영상을 평균결합한 영상(c)의 사진FIG. 6 is a photograph of a low light image (a) and a high light image (b) and an image of average image combining two images in a conventional brightness combining step.

도 7은 도 6의 저조도 영상의 히스토그램(a)과 고조도 영상의 히스토그램(b) 및 두 영상의 평균결합 영상에 대한 히스토그램(c)FIG. 7 is a histogram (a) of the low light image of FIG. 6, a histogram (b) of a high light image, and a histogram (c) of an average combined image of two images.

도 8은 본 발명에 의한 히스토그램 스트레칭 처리한 후의 히스토그램8 is a histogram after the histogram stretching process according to the present invention

도 9는 본 발명의 히스토그램 스트레칭 이후 히스토그램이고, 9 is a histogram after histogram stretching of the present invention,

도 10은 일반적인 감마 변환 기본 공식을 적용한 경우의 감마신호 변환 그래프10 is a graph of gamma signal conversion when the general gamma conversion basic formula is applied.

도 11은 본 발명에 의한 감마 변환 공식을 적용한 경우의 감마신호 변환 그래프11 is a gamma signal conversion graph when the gamma conversion formula according to the present invention is applied.

도 12는 본 발명에 의한 히스토그램 스트레칭 영상(a)과 전역 감마 변환 영상(b)과 일부 감마 변환 영상(c)의 사진12 is a photograph of a histogram stretching image (a), a global gamma transform image (b), and a partial gamma transform image (c) according to the present invention.

Claims (5)

삭제delete 촬상소자로부터 장노광 및 단노광 영상신호를 획득하는 장노광/단노광 영상 획득회로와; 상기 장노광/단노광 영상 확득회로의 출력 영상신호를 휘도와 색차신호로 분리하는 휘도/색차신호 변환회로와; 상기 휘도/색차신호 변환회로로부터 장노광 및 단노광의 휘도신호를 입력받아 가중치 평균기법으로 휘도를 압축하는 휘도신호 결합회로와; 상기 휘도 압축과정에서 감쇄된 신호를 보정하는 휘도신호 후처리회로와; 상기 휘도/색차신호 변환회로로부터 장노광 및 단노광의 색차신호를 입력받아 채도의 강도에 따라 가중치 평균기법으로 색차신호를 결합하는 색차신호 결합회로; 및 상기 휘도신호 후처리회로의 출력 휘도신호와 상기 색차신호 결합회로의 색차신호를 합성하는 RGB역변환회로로 구성된 다이내믹 레인지를 확장하는 칼라 영상 처리장치에 있어서,A long exposure / short exposure image acquisition circuit for acquiring long and short exposure image signals from an image pickup device; A luminance / color difference signal conversion circuit for separating the output image signal of the long exposure / short exposure image acquisition circuit into a luminance and a color difference signal; A luminance signal combining circuit for receiving long and short exposure luminance signals from the luminance / color difference signal conversion circuit and compressing the luminance by a weighted average technique; A luminance signal post-processing circuit for correcting a signal attenuated in the luminance compression process; A color difference signal combining circuit which receives color difference signals of long exposure and short exposure from the luminance / color difference signal conversion circuit and combines the color difference signals by a weighted average method according to the intensity of saturation; And an RGB inverse conversion circuit for synthesizing the output luminance signal of the luminance signal post-processing circuit and the color difference signal of the color difference signal combining circuit. 상기 휘도신호 후처리회로는 두 영상의 결합 휘도신호를 스트레칭하는 히스토그램 스트레칭 수단과; 상기 히스토 그램 스트레칭 결과 계조치가 낮은 영역에 대해서만 감마 변환하는 감마 조정 수단; 및 상기 감마 조정된 휘도신호의 약해진 에지를 강화하는 에지 강조 처리수단으로 이루어진 것을 특징으로 하는 다이내믹 레인지를 확장하는 칼라 영상 처리장치.The luminance signal post-processing circuit includes: histogram stretching means for stretching the combined luminance signal of the two images; Gamma adjusting means for performing gamma conversion only on a region having a low gray level as a result of the histogram stretching; And edge enhancement processing means for enhancing the weakened edge of the gamma-adjusted luminance signal. 넓은 다이내믹 레인지를 구현하는 방법에 있어서, In a method for realizing a wide dynamic range, 촬상소자(CCD, CIS)를 이용하여 노출시간을 길게 촬영한 장노광 영상(ILE)과 노출시간을 짧게 하여 촬영한 단노광 영상(ISE)을 결합하여 다이내믹 레인지가 확장된 영상을 취득하는 R-1단계와; 상기 취득된 두 영상을 휘도(Y)신호와 색차신호(R-Y, G-Y, B-Y)로 변환하는 R-2단계와; 상기 색차신호(R-Y, G-Y, B-Y)에 대해서 두 영상을 화소별(Pixel by Pixel)로 색차에 대한 가중치 평균처리(Weighted Averaging)하여 색차신호를 결합하는 R-3단계와; 상기 휘도(Y)신호에 대해서는 가중치 평균화작업을 통해 두 영상의 휘도를 결합하여 압축하는 R-4단계와; 휘도 압축과정에서 감쇄된 휘도를 보정하기 위해 히스토그램을 스트레칭하는 R-5단계와; 가중치 평균결합으로 부족한 휘도 압축을 보상하는 동시에 어두운 부분에 대한 가시성을 높이기 위해 감마 변환하는 R-6단계와; 휘도처리로 인해 김쇄된 영상의 선명성을 보상하는 에지 강조처리 R-7단계; 및 상기 색차신호 결합 영상과 에지 강조처리된 휘도신호를 합성하여 다이내믹 레인지가 확장된 RGB영상을 제공하는 R-8단계로 이루어진 것을 특징으로 하는 다이내믹 레인지를 확장하는 칼라 영상 처리방법.Long-exposure image I LE photographed with long exposure time using image pickup devices CCD and CIS is combined with short-exposure image I SE photographed with short exposure time to obtain an image with extended dynamic range. R-1 step; An R-2 step of converting the acquired two images into a luminance Y signal and a color difference signal (RY, GY, BY); R-3 step of combining the color difference signals by weighted averaging the two images for each color difference signal (RY, GY, BY) pixel by pixel (Pixel by Pixel); An R-4 step of combining and compressing the luminance of the two images through a weighted averaging operation on the luminance (Y) signal; R-5 stretching the histogram to correct the luminance attenuated during the luminance compression process; R-6 performing gamma conversion to compensate for insufficient luminance compression due to the weighted average combination and to increase visibility of dark areas; An edge enhancement process R-7 for compensating for the sharpness of the image which is blurred due to the luminance process; And an R-8 step of synthesizing the chrominance combined image and the edge-weighted luminance signal to provide an RGB image having an extended dynamic range. 제3항에 있어서, The method of claim 3, 상기 색차신호를 결합하는 R-3단계는 화소별(Pixel by Pixel)로 색차에 대한 가중치 평균(Weighted Averaging)으로 구하되 상기 가중치(α)는 아래 식 5 및 6-1The R-3 step of combining the color difference signal is obtained by weighted averaging for the color difference by pixel by pixel, and the weight α is expressed by Equations 5 and 6-1 below. α = S1/(S1 + S2), if (S1 + S2)=0 then S1 = S2 = 0.5 (식 5)α = S 1 / (S 1 + S 2 ), if (S 1 + S 2 ) = 0 then S 1 = S 2 = 0.5 (Equation 5) S1 =│R1-Y| + |G1-Y| +|B1-Y| (식 6-1)S 1 = │R 1 -Y | + | G 1 -Y | + | B 1 -Y | (Equation 6-1) S2 = |R2-Y| + |G2-Y| + |B2-Y|S 2 = R 2 -Y | + | G 2 -Y | + | B 2 -Y | 에 의해 획득하되, 상기 S1은 장노광 화소의 색상 강도가 되며 S2는 동일 위치의 단노광 화소의 색상 강도가 됨을 특징으로 하는 다이내믹 레인지를 확장하는 칼라 영상 처리방법.Acquisition by, wherein S 1 is the color intensity of the long exposure pixel, S 2 is the color intensity of the short exposure pixel of the same position. 제3항에 있어서, The method of claim 3, 상기 히스토그램 스트래칭 결과 영상을 감마 변환하는 R-6단계는 Gamma Max Point(GMP)를 설정하되,In the R-6 step of gamma-converting the histogram stretching result image, Gamma Max Point (GMP) is set.
Figure 112009031701162-pat00006
(식 12)
Figure 112009031701162-pat00006
(Eq. 12)
식 12를 이용하여 원하는 P구간(계조치가 낮은 화소가 히스토그램상에서 좌측으로 이동한 경우)에 대해서만 감마 변환을 시행하는 것을 특징으로 하는 다이내믹 레인지를 확장하는 칼라 영상 처리방법.A gamma conversion is performed only on a desired P section (when a pixel having a low gradation value is shifted to the left on a histogram) using Equation 12.
KR1020070114466A 2007-11-09 2007-11-09 Color image processing apparatus and method for extending the dynamic range KR100933556B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020070114466A KR100933556B1 (en) 2007-11-09 2007-11-09 Color image processing apparatus and method for extending the dynamic range

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020070114466A KR100933556B1 (en) 2007-11-09 2007-11-09 Color image processing apparatus and method for extending the dynamic range

Publications (2)

Publication Number Publication Date
KR20090048191A KR20090048191A (en) 2009-05-13
KR100933556B1 true KR100933556B1 (en) 2009-12-23

Family

ID=40857415

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020070114466A KR100933556B1 (en) 2007-11-09 2007-11-09 Color image processing apparatus and method for extending the dynamic range

Country Status (1)

Country Link
KR (1) KR100933556B1 (en)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101068886B1 (en) * 2009-10-06 2011-09-29 클레어픽셀 주식회사 Image Singnal Processing Apparatus and Method thereof
KR101633893B1 (en) 2010-01-15 2016-06-28 삼성전자주식회사 Apparatus and Method for Image Fusion
KR101682531B1 (en) * 2010-09-14 2016-12-05 엘지디스플레이 주식회사 Gamma correction device and gamma correction method, apparatus and method for driving of display using the same
US9544505B2 (en) 2014-04-11 2017-01-10 Hanwha Techwin Co., Ltd. Image processing apparatus for synthesizing images based on a plurality of exposure time periods and image processing method thereof
KR101645542B1 (en) * 2015-03-09 2016-08-08 연세대학교 산학협력단 Exposure fusion device and method, and apparatus for processing image utilizing the same
KR101715247B1 (en) * 2015-08-25 2017-03-10 경북대학교 산학협력단 Apparatus and method for processing image to adaptively enhance low contrast, and apparatus for detecting object employing the same
CN107786814B (en) * 2016-08-24 2023-08-04 杭州海康威视数字技术股份有限公司 Wide dynamic image processing method and device and exposure circuit
KR102193374B1 (en) * 2019-02-20 2020-12-21 국민대학교산학협력단 Image processing method, device and system using the same

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11164195A (en) 1997-12-01 1999-06-18 Olympus Optical Co Ltd Image-pickup device
KR20010007236A (en) * 1999-06-07 2001-01-26 소가 마사히로 Television signal processor for generating video signal of wide dynamic range, television camera using the same, and method for television signal processing
JP2001238128A (en) * 2000-02-22 2001-08-31 Olympus Optical Co Ltd Image processing apparatus
KR20040057927A (en) * 2002-12-25 2004-07-02 후지 샤신 필름 가부시기가이샤 Image synthesis method and image pickup apparatus

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11164195A (en) 1997-12-01 1999-06-18 Olympus Optical Co Ltd Image-pickup device
KR20010007236A (en) * 1999-06-07 2001-01-26 소가 마사히로 Television signal processor for generating video signal of wide dynamic range, television camera using the same, and method for television signal processing
JP2001238128A (en) * 2000-02-22 2001-08-31 Olympus Optical Co Ltd Image processing apparatus
KR20040057927A (en) * 2002-12-25 2004-07-02 후지 샤신 필름 가부시기가이샤 Image synthesis method and image pickup apparatus

Also Published As

Publication number Publication date
KR20090048191A (en) 2009-05-13

Similar Documents

Publication Publication Date Title
KR100933556B1 (en) Color image processing apparatus and method for extending the dynamic range
JP4163353B2 (en) Image processing device
EP2624204B1 (en) Image processing apparatus and method of controlling the same
KR101051604B1 (en) Image processing apparatus and method
JP4218723B2 (en) Image processing apparatus, imaging apparatus, image processing method, and program
JP5713752B2 (en) Image processing apparatus and control method thereof
JP4208909B2 (en) Image processing device and photographing device
US10469760B2 (en) High dynamic range imaging
KR101099401B1 (en) Image processing apparatus and computer-readable medium
US8391598B2 (en) Methods for performing local tone mapping
US20100231748A1 (en) Imaging device
JP2007049540A (en) Image processing apparatus and method, recording medium, and program
JP5901667B2 (en) Image processing apparatus and method, image processing program, and imaging apparatus
JP2008104009A (en) Imaging apparatus and method
KR20090078583A (en) Method and system for processing for low light level image
JP2001054013A (en) Image pickup signal processor and its processing method
JP2010219797A (en) Edge enhancement image processing apparatus
JP2021114696A (en) Image processing device, image processing method and program
JPWO2008111180A1 (en) Image signal processing apparatus and image signal processing program
US20080131007A1 (en) Image Coding Method and Image Coding Device
JP2018182376A (en) Image processing apparatus
KR20090111065A (en) Apparatus for image composition
JP5591026B2 (en) Imaging apparatus and control method thereof
KR102199472B1 (en) Apparatus and method for processing image
JP2002288650A (en) Image processing device, digital camera, image processing method and recording medium

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee