KR101637488B1 - Image interpolation method and apparatus using pattern characteristics of color filter array - Google Patents
Image interpolation method and apparatus using pattern characteristics of color filter array Download PDFInfo
- Publication number
- KR101637488B1 KR101637488B1 KR1020090098876A KR20090098876A KR101637488B1 KR 101637488 B1 KR101637488 B1 KR 101637488B1 KR 1020090098876 A KR1020090098876 A KR 1020090098876A KR 20090098876 A KR20090098876 A KR 20090098876A KR 101637488 B1 KR101637488 B1 KR 101637488B1
- Authority
- KR
- South Korea
- Prior art keywords
- pixel
- color
- difference
- value
- filter array
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4015—Demosaicing, e.g. colour filter array [CFA], Bayer pattern
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
본 발명은 이미지 보간 방법 및 장치에 관한 것으로, 본 발명의 일 실시 예에 따른 이미지 보간 방법은 CFA 이미지로부터 수평/수직 절대 채널간 차이를 계산하고, R, G, B의 DAIDs를 고려하여 추정된 수평/수직 방향을 따라 보간함으로써, 피크 신호대 잡음비(PSNR) 및 구조적 유사도(SSIM)가 크고, 시각적 품질도 뛰어난 효과가 있다.
적응적, CFA, 가중치, 디모자이싱, 보간
The present invention relates to an image interpolation method and apparatus, and an image interpolation method according to an embodiment of the present invention includes calculating a horizontal / vertical absolute channel difference from a CFA image, estimating DAIDs of R, G, By interpolating along the horizontal / vertical direction, the peak signal-to-noise ratio (PSNR) and the structural similarity (SSIM) are large, and the visual quality is also excellent.
Adaptive, CFA, weighting, di-hatting, interpolation
Description
본 발명은 이미지 처리에 관한 것으로, 더 상세하게는 이미지 보간 방법 및 장치에 관한 것이다.The present invention relates to image processing, and more particularly, to an image interpolation method and apparatus.
대부분의 디지털 카메라와 캠코더는 컬러 CCD 또는 CMOS를 통해 컬러 이미지들을 캡쳐한다. 획득한 이미지는 컬러 필터 어레이(color filter array, 이하 'CFA' 라 한다)의 패턴에 따라 모자이싱된 이미지이고, 모자이싱된 이미지는 각각의 픽셀에 대해 2개의 모르는 컬러 값들과 하나의 알고 있는 컬러 값을 가진다. CFA 패턴은 레드(R), 그린(G) 및 블루(B) 채널들로 구성되며, 각각의 채널은 다른 팩터에 의해 데시메이트된다. 데시메이트된 G 채널은 R/B 채널에 비해 2배의 픽셀들을 갖는다. R/B 컬러들은 줄 또는 열을 따라 G 컬러와 교번한다. 즉 G와 R 또는 G와 B로 번갈아 교번한다.Most digital cameras and camcorders capture color images through color CCD or CMOS. The acquired image is a hatched image according to a pattern of a color filter array (hereinafter, referred to as 'CFA'), and a hatched image includes two unknown color values for each pixel and one known color Value. The CFA pattern consists of the red (R), green (G) and blue (B) channels, and each channel is decimated by another factor. The decimated G channel has twice as many pixels as the R / B channel. The R / B colors alternate with the G color along the rows or columns. Alternating between G and R or G and B.
디모자이싱(demosaicing), 즉 CFA 보간법(interpolation)은 풀-컬러 이미지를 생성하기 위해 미지의 R,G 및 B 컴포넌트들을 재구성하는 프로세스이다. 각각 의 픽셀의 2개의 미지의 컬러들은 다양한 디모자이싱 알고리즘에 의해 추정된다. 디모자이싱 알고리즘은 불완전한 데이터, 즉 각각의 픽셀에서 2개의 빠진 데이터로부터 풀-컬러 이미지를 재구성하는 것이다. 이러한 재구성 알고리즘은 RGB 채널들에서 이용 가능한 데이터의 채널간 및 채널내 상관을 사용한다.Demosaicing, or CFA interpolation, is a process of reconstructing unknown R, G, and B components to produce a full-color image. The two unknown colors of each pixel are estimated by various demosaicing algorithms. The de-mosaicing algorithm is to reconstruct the full-color image from incomplete data, i.e., two missing data at each pixel. This reconfiguration algorithm uses interchannel and intrachannel correlation of the data available on the RGB channels.
종래의 적응적 디모자이싱 알고리즘은 컬러 상관과 이미지의 지역적 특성을 고려한다. 에지 방향 보간법(edge-directed interpolation) 및 다양한 적응적 가중합 보간법들은 미지의 픽셀 값들의 보간을 위해 적응적 가중치를 사용한다. 또한, 지퍼 효과(zipper effect), 잘못된 컬러(false color), 및 에일리어싱과 같은 아티팩트(artifacts)가 나타나는 고주파 영역에서, 채널들의 컬러 차이, 즉 R채널과 G채널, B채널과 G채널의 컬러 차이가 높은 상관성을 가짐으로 종래의 디모자이싱 알고리즘들은 이러한 특성들을 이용한다. Conventional adaptive demosaicing algorithms consider color correlation and local characteristics of images. Edge-directed interpolation and various adaptive weighted sum interpolations use adaptive weights for interpolation of unknown pixel values. In addition, in the high frequency region where artifacts such as zipper effect, false color, and aliasing appear, the color difference of the channels, that is, the color difference between the R channel and the G channel, the B channel and the G channel Lt; / RTI > have high correlation so that conventional demagnification algorithms use these properties.
종래의 적응적 디모자이싱 알고리즘으로는, X. Li,의 "Demosaicing by successive approximation," IEEE Trans. Image Process., vol. 14, no. 3, pp. 370-379, Mar. 2005., 와 W. Lu 등의 "Color filter array demosaicing: New method and performance measures," IEEE Trans. Image Process., vol. 12, no. 10, pp. 1194-1210, Oct. 2003. 등이 있다.A conventional adaptive demagnification algorithm is described in X. Li, "Demosaicing by successive approximation," IEEE Trans. Image Process., Vol. 14, no. 3, pp. 370-379, Mar. 2005, and W. Lu et al., "Color filter array demosaicing: New method and performance measures," IEEE Trans. Image Process., Vol. 12, no. 10, pp. 1194-1210, Oct. 2003.
Li는 각각의 컬러 채널을 초기 보간한 후에 컬러 차이를 구해 컬러 차이 도메인에서 라플라시안 필터를 적용한 값을 통해 에지의 방향을 찾아 초기 보간된 화소 값들을 업데이트한다. 여기서 업데이트는 중단 기준(stop criterion)을 만족할 때까지 반복하여 잘못된 컬러 및 지퍼 흠결들을 억제하기 위해서, 모든 반복에서 컬러 차이 규칙을 강조함으로써 미지의 컬러 픽셀 값들의 추정치를 조정한다. Li obtains the color difference after initial color interpolation of each color channel and finds the direction of the edge through the value to which the Laplacian filter is applied in the color difference domain to update the initial interpolated pixel values. Where the update is repeated until the stop criterion is satisfied to adjust the estimate of the unknown color pixel values by emphasizing the color difference rule in all iterations to suppress false colors and zip defects.
Lu는 컬러 차이 모델 또는 컬러-비율 모델을 사용하는 에지 센싱 알고리즘이며, 에지들을 가로 질러 보간하는 것을 방지하면서, 에지들을 따라 보간함으로써 에지들을 보존한다. 미지의 컬러 픽셀 값들을 추정하기 위해, 이러한 방법들은 이웃하는 픽셀들 간의 공간적 상관성을 고려하고, 이웃하는 픽셀을 이용하여 적당한 보간 방향을 고른다. Lu is an edge sensing algorithm that uses a color difference model or a color-ratio model and preserves edges by interpolating along the edges while preventing interpolation across the edges. To estimate unknown color pixel values, these methods consider the spatial correlation between neighboring pixels and use the neighboring pixels to select the appropriate interpolation direction.
전술한 종래 기술들은 고품질의 디모자이싱된 이미지들 생성하는데, 특히 샤프 에지들과 같은 고주파 영역들을 재구성하는데 효과적이다. 하지만, Li는 초기 보간된 픽셀의 업데이트를 위해, 멈춤 기준을 만족할 때까지 반복하기 때문에 계산 속도가 느리고, 초기 보간한 값이 에지 방향이 잘못되도록 보간 되는 경우 왜곡현상이 발생하게 된다. The prior art techniques described above produce high quality, demultiplexed images, and are particularly effective in reconstructing high frequency regions such as sharp edges. However, because Li repeats until the stop criterion is satisfied for updating the initial interpolated pixel, the computation speed is slow, and distortion occurs when the initial interpolated value is interpolated so that the edge direction is erroneous.
또한, 전술한 종래기술들은 잘못된 색, 에일리어싱, 및 지퍼 효과 등과 같은 아티팩트(artifacts)를 감소시키는 데는 충분하지 않다. 에지 주위의 잘못된 색 및 디모자이싱된 이미지의 디테일한 텍스쳐는 이미지 품질을 떨어뜨린다. 지퍼 효과, 디모자이싱된 이미지의 샤프 컬러 에지와 같은 오버슈트 흠결들은 때로 적응적 알고리즘의 또 하나의 단점으로 나타난다.In addition, the prior art techniques described above are not sufficient to reduce artifacts such as false colors, aliasing, and zipper effects. Incorrect color around the edge and a detailed texture of the di-hatched image degrade the image quality. Overshoot defects, such as the zipper effect and the sharp color edge of the di-hatched image, are often another disadvantage of adaptive algorithms.
본 발명은 전술한 종래기술들의 문제점을 해결하기 위해 안출된 것으로, CFA의 특성을 고려하여 DAID(Differences of Absolute Inter-channel Differences)로부터 에지 방향을 검출하고, 검출한 에지 방향을 따라 CFA 이미지로부터 직접 3가지 컬러 픽셀값들을 보간할 수 있는 이미지 보간 방법 및 장치를 제공하는 데 목적이 있다. SUMMARY OF THE INVENTION The present invention has been made in order to solve the problems of the conventional techniques described above, and it is an object of the present invention to provide a method of detecting an edge direction from DAID (Differential of Absolute Inter- channel Differences) It is an object of the present invention to provide an image interpolation method and apparatus capable of interpolating three color pixel values.
상기 기술적 과제를 해결하기 위한, 본 발명의 일 실시 예에 따른 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 방법은 컬러 필터 어레이에 배열된 R,G,B 픽셀들의 패턴 특성에 따라 중심 픽셀을 기준으로 좌,우,상,하 방향의 절대 채널간 차이값들을 계산하여 에지 방향을 검출하는 단계; 상기 R,G,B 픽셀들의 패턴 특성에 따라 좌,우,상,하 방향의 방향성 가중치를 각각 계산하는 단계; 및 상기 검출한 에지 방향에 따라 상기 R,G,B 픽셀들로부터 좌,우,상,하 방향의 컬러 차이값 및 상기 계산한 방향성 가중치를 이용하여 미지의 픽셀을 보간하는 단계를 포함하고, 상기 절대 채널간 차이값은 중심 화소의 일 측상에 제1 채널의 컬러 강도 값과 제2 컬러 채널의 이웃하는 화소의 컬러 강도 값의 차이의 절대값에서, 중심 화소의 반대 측상의 제1 채널 화소의 컬러 강도값과 제2 컬러 채널의 이웃하는 화소의 컬러 강도 값의 차이의 절대값의 감산하여 계산되는 것을 특징으로 한다.According to an aspect of the present invention, there is provided an image interpolation method using characteristics of a color filter array pattern according to an exemplary embodiment of the present invention, Detecting edge directions by calculating absolute difference values between the left, right, up and down directions; Calculating directivity weights in the left, right, up and down directions according to pattern characteristics of the R, G, and B pixels, respectively; And interpolating an unknown pixel using the color difference values in the left, right, up and down directions from the R, G and B pixels according to the detected edge direction and the calculated direction weight, The absolute channel difference value is obtained by subtracting the absolute value of the difference between the color intensity value of the first channel and the color intensity value of the neighboring pixel of the second color channel on one side of the center pixel, Is calculated by subtracting the absolute value of the difference between the color intensity value and the color intensity value of the neighboring pixel of the second color channel.
바람직하게, 상기 절대 채널간 차이값들은, 좌,우,상,하 각각의 방향으로 이웃하는 픽셀값들의 차이값들인 것을 특징으로 한다.Preferably, the absolute channel difference values are difference values of neighboring pixel values in the left, right, up, and down directions.
바람직하게, 상기 검출 단계는, 상기 좌,우,상,하 방향의 절대 채널간 차이 값들로부터 상기 좌,우 방향의 차이값인 수평 차이(DH) 및 상기 상,하 방향의 차이값인 수직 차이(DV)를 각각 계산하는 것을 특징으로 한다.Preferably, the detecting step includes a step of detecting a horizontal difference (D H ), which is a difference between the left and right direction absolute difference values in the left, right, upper and lower directions, And a difference (D V ), respectively.
바람직하게, 상기 검출 단계는, 컬러 필터 어레이 패턴의 중심 픽셀이 Ri,j인 경우, 상기 수평 차이(DH)와 수직 차이(DV)는 다음 수학식 4 및 5를 이용하여 계산하는 것을 특징으로 한다.Preferably, in the detecting step, when the center pixel of the color filter array pattern is R i, j , the horizontal difference D H and the vertical difference D V are calculated using the following equations (4) and .
바람직하게, 상기 보간 단계는, 컬러 필터 어레이 패턴의 중심 픽셀이 Ri,j인 경우, 미지의 픽셀 G는 다음 수학식 6을 이용하여 보간하는 것을 특징으로 한다.Preferably, in the interpolation step, when the center pixel of the color filter array pattern is R i, j , the unknown pixel G is interpolated using the following equation (6).
바람직하게, 상기 보간 단계는, 미지의 픽셀 중 G 픽셀을 보간한 다음, 보간한 G 픽셀값(G')을 기초로 미지의 나머지 픽셀값을 보간하는 것을 특징으로 한다.Preferably, the interpolation step interpolates G pixels among unknown pixels, and then interpolates the remaining unknown pixel values based on the interpolated G pixel values G '.
바람직하게, 상기 보간 단계는, 컬러 필터 어레이 패턴의 중심 픽셀이 Bi,j인 경우, 미지의 R 픽셀은 다음 수학식 15를 이용하여 보간하는 것을 특징으로 한다.Preferably, in the interpolation step, when the center pixel of the color filter array pattern is B i, j , the unknown R pixel is interpolated using the following equation (15).
바람직하게, 상기 컬러 필터 어레이 패턴의 중심 픽셀이 Gi,j인 경우, 상기 수학식 15에서, 좌, 우, 상, 하 방향의 컬러 차이 값들은 각각 , , , 인 것을 특징으로 한다.Preferably, when the center pixel of the color filter array pattern is G i, j , the color difference values in the left, right, up, and down directions in Equation (15) , , , .
바람직하게, 상기 이미지 보간 방법은 보간된 픽셀값에 알고 있는 픽셀의 고 주파 성분값을 더함으로써 보간된 픽셀값을 조정하는 단계를 더 포함하는 것을 특징으로 한다.Advantageously, the image interpolation method further comprises adjusting the interpolated pixel value by adding the high frequency component value of the known pixel to the interpolated pixel value.
상기 다른 기술적 과제를 달성하기 위한, 본 발명의 다른 실시 예에 따른 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 장치는 컬러 필터 어레이에 배열된 R,G,B 픽셀들의 패턴 특성에 따라 중심 픽셀을 기준으로 좌,우,상,하 방향의 절대 채널간 차이값들을 계산하여 에지 방향을 검출하는 에지 방향 검출부; 상기 R,G,B 픽셀들의 패턴 특성에 따라 좌,우,상,하 방향의 방향성 가중치를 계산하는 가중치 계산부; 및 상기 검출한 에지 방향에 따라 상기 R,G,B 픽셀들로부터 좌,우,상,하 방향의 컬러 차이값 및 상기 계산한 방향성 가중치를 이용하여 미지의 픽셀을 보간하는 보간부를 포함하고, 상기 절대 채널간 차이값은 중심 화소의 일 측상에 제1 채널의 컬러 강도 값과 제2 컬러 채널의 이웃하는 화소의 컬러 강도 값의 차이의 절대값에서, 중심 화소의 반대 측상의 제1 채널 화소의 컬러 강도값과 제2 컬러 채널의 이웃하는 화소의 컬러 강도 값의 차이의 절대값의 감산하여 계산되는 것을 특징으로 한다.According to another aspect of the present invention, there is provided an image interpolating apparatus using characteristics of a color filter array pattern according to another embodiment of the present invention, An edge direction detecting unit for detecting an edge direction by calculating absolute difference values between left, right, up and down directions; A weight calculation unit for calculating directional weights in left, right, up and down directions according to pattern characteristics of the R, G, and B pixels; And an interpolator interpolating an unknown pixel using the color difference values in the left, right, up and down directions from the R, G and B pixels according to the detected edge direction and the calculated direction weight, Wherein the absolute channel difference value is a difference between a color intensity value of the first channel and a color intensity value of a neighboring pixel of the second color channel on one side of the center pixel, Is calculated by subtracting the absolute value of the difference between the color intensity value of the first color channel and the color intensity value of the neighboring pixel of the second color channel.
바람직하게, 상기 절대 채널간 차이값들은, 좌,우,상,하 각각의 방향으로 이웃하는 픽셀값들의 차이값들인 것을 특징으로 한다.Preferably, the absolute channel difference values are difference values of neighboring pixel values in the left, right, up, and down directions.
바람직하게, 상기 에지 방향 검출부는, 상기 좌,우,상,하 방향의 절대 채널간 차이값들로부터 상기 좌,우 방향의 차이값인 수평 차이(DH) 및 상기 상,하 방향의 차이값인 수직 차이(DV)를 각각 계산하는 것을 특징으로 한다.Preferably, the edge direction detecting unit detects a horizontal difference (D H ), which is a difference between the left and right direction absolute difference values in the left, right, upper and lower directions, and a difference value And a vertical difference (D V ) that is a difference between the vertical difference and the vertical difference.
바람직하게, 상기 에지 방향 검출부는, 컬러 필터 어레이 패턴의 중심 픽셀이 Ri,j인 경우, 상기 수평 차이(DH)와 수직 차이(DV)는 다음 수학식 4 및 5를 이용하여 계산하는 것을 특징으로 한다.Preferably, the edge direction detecting unit calculates the horizontal difference (D H ) and the vertical difference (D V ) using the following equations (4) and (5) when the center pixel of the color filter array pattern is R i, j .
바람직하게, 상기 보간부는, 컬러 필터 어레이 패턴의 중심 픽셀이 Ri,j인 경 우, 미지의 픽셀 G는 다음 수학식 6을 이용하여 보간하는 것을 특징으로 한다.Preferably, when the center pixel of the color filter array pattern is R i, j , the interpolator interpolates the unknown pixel G using the following equation (6).
바람직하게, 상기 보간부는, 미지의 픽셀 중 G 픽셀을 보간한 다음, 보간한 G 픽셀값(G')을 기초로 미지의 나머지 픽셀값을 보간하는 것을 특징으로 한다.Preferably, the interpolator interpolates the G pixel among the unknown pixels, and then interpolates the remaining unknown pixel values based on the interpolated G pixel value (G ').
바람직하게, 상기 보간부는, 컬러 필터 어레이 패턴의 중심 픽셀이 Bi,j인 경우, 미지의 R 픽셀은 다음 수학식 15를 이용하여 보간하는 것을 특징으로 한다.Preferably, when the central pixel of the color filter array pattern is B i, j , the interpolator interpolates the unknown R pixel using the following equation (15).
바람직하게, 상기 컬러 필터 어레이 패턴의 중심 픽셀이 Gi,j인 경우, 상기 수학식 15에서, 좌, 우, 상, 하 방향의 컬러 차이 값들은 각각 , , , 인 것을 특징으로 한다.Preferably, when the center pixel of the color filter array pattern is G i, j , the color difference values in the left, right, up, and down directions in Equation (15) , , , .
바람직하게, 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 장치는 보간된 픽셀값에 알고 있는 픽셀의 고주파 성분값을 더함으로써 보간된 픽셀값을 조정하는 조정부를 더 포함하는 것을 특징으로 한다.Preferably, the image interpolating apparatus using the characteristics of the color filter array pattern further comprises an adjustment unit for adjusting the interpolated pixel value by adding the high-frequency component value of the known pixel to the interpolated pixel value.
상기 또 다른 기술적 과제를 달성하기 위한, 본 발명의 또 다른 실시 예에 따른 상기 이미지 보간 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 기록매체를 포함한다.According to another aspect of the present invention, there is provided a recording medium having recorded thereon a program for causing a computer to execute the image interpolation method according to another embodiment of the present invention.
제안된 알고리즘은 생생한 컬러 에지들과 텍스쳐 주위의 지퍼 효과를 줄인다. 제안된 알고리즘의 성능을 평가하기 위해서, 종래의 디모자이싱 알고리즘이 시뮬레이션 된다. 실험 결과들이 피크 신호대 잡음비(PSNR)와, 구조적 유사도(SSIM) 및 시각적 품질의 측면에서 비교된다. 제안된 알고리즘의 성능은 공지의 기술들보다 뛰어난 성능을 보이고 컬러 에지 및 텍스처의 지퍼 효과를 잘 감소시킨다. The proposed algorithm reduces vivid color edges and zipper effect around the texture. To evaluate the performance of the proposed algorithm, a conventional demagnification algorithm is simulated. Experimental results are compared in terms of peak signal-to-noise ratio (PSNR), structural similarity (SSIM) and visual quality. The performance of the proposed algorithm shows better performance than the known techniques and well reduces the zipper effect of color edges and textures.
이하, 첨부한 도면들을 참조하여 본 발명의 바람직한 실시 예들을 상세히 설명한다. 하기의 설명에서는 본 발명에 따른 동작을 이해하는데 필요한 부분만이 설명되며 그 이외 부분의 설명은 본 발명의 요지를 흩트리지 않도록 생략될 수 있다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. In the following description, only parts necessary for understanding the operation according to the present invention will be described, and descriptions of other parts may be omitted so as not to disturb the gist of the present invention.
또한, 이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 본 발명을 가장 적절하게 표현할 수 있도록 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야 한다. In addition, terms and words used in the following description and claims should not be construed to be limited to ordinary or dictionary meanings, but are to be construed in a manner consistent with the technical idea of the present invention As well as the concept.
도 1은 베이어 CFA 패턴을 도시하며, 전체 픽셀 수의 절반은 그린이고, 나머지 픽셀들은 레드 또는 블루로 동일하게 할당된다. 이러한 패턴의 각각의 픽셀은 하나의 컬러, 즉 R, G, 또는 B에만 민감하다. 따라서, 이러한 패턴을 사용해서 획득한 컬러 이미지들은 풀-컬러 이미지를 생성하기 위해 3개의 컬러 채널들에서 보간되며, 이를 CFA 디모자이싱 또는 보간(interpolation)이라 한다. Figure 1 shows a Bayer CFA pattern, where half of the total number of pixels is green and the remaining pixels are equally assigned to red or blue. Each pixel in this pattern is only sensitive to one color, R, G, or B. Thus, color images obtained using this pattern are interpolated on three color channels to produce a full-color image, which is referred to as CFA demosaicing or interpolation.
일반적인 적응적 가중합 알고리즘의 기본 개념은 모자이싱된 이미지로부터 국부적 분산을 추정하고 나서, 디모자이싱을 위해 국부적 분산을 이용하는 것이다. 대부분 종래의 알고리즘은 이웃하는 픽셀의 강도의 가중합을 이용해서 모자이싱된 이미지를 획득한다.The basic idea of a general adaptive weighting algorithm is to estimate the local variance from the hatched image and then use local variance for the demosaicing. Most conventional algorithms obtain a hatched image using the weighted sum of the intensity of neighboring pixels.
도 1a, 1b, 1c는 5×5 베이어 CFA 패턴을 도시하고, 각각은 패턴의 센터에 각각 R, G, B 픽셀을 갖는다. 도 1a의 CFA 패턴을 참조하면, 미지의 G 픽셀이 수평 및 수직 그래디언트들을 이용해서 보간의 방향성을 고려하여 먼저 추정되는데, 이는 다음 수학식 1 및 2와 같다.Figures 1a, 1b and 1c show a 5x5 Bayer CFA pattern, each having R, G and B pixels at the center of the pattern. Referring to the CFA pattern of FIG. 1A, an unknown G pixel is estimated first by considering the directionality of interpolation using horizontal and vertical gradients, as shown in the following equations (1) and (2).
여기서, Gp,q 및 Rp,q 는 CFA 패턴의 (p,q)에서 각각의 알고있는 G 및 R 픽셀 강도 값들이고, 수평 그래디언트 ΔHi,j, 수직 그래디언트 ΔVi,j 를 이용해서 미지의 G 픽셀 값 이 다음 수학식 3과 같이 계산된다.Here, G p, q and R p, q are the known G and R pixel intensity values at (p, q) of the CFA pattern and are calculated using the horizontal gradient H i, j and the vertical gradient V i, G pixel value of Is calculated as shown in the following equation (3).
도 1b는 도 1a와 유사하며, 단지 Rp,q 가 Bp,q 로 바뀌었다. 따라서, 도 1b의 CFA 패턴을 이용해서 미지의 G 픽셀 값, 는 상기 수학식 1 내지 3에서, Rp,q 를 Bp,q 로 대체하고 동일하게 계산하여 추정된다. 1B is similar to FIG. 1A except that R p, q is replaced by B p, q . Therefore, by using the CFA pattern of FIG. 1B, an unknown G pixel value, Is estimated by substituting B p, q with R p, q in the
도 1c는 미지의 R 픽셀 값 및 B 픽셀 값을 갖는 G 센터 픽셀에서의 베이어 CFA 패턴을 도시한다. 여기서, 고주파 컴포넌트들은 3가지 컬러 컴포넌트, 즉 R,G 및 B에 걸쳐 유사성을 갖는다는 가정하에, 보간된 G 픽셀, 즉 을 이용해서 미지의 R 픽셀 값 및 B 픽셀 값이 추정된다.1C shows a Bayer CFA pattern at a G-center pixel having an R pixel value and an B pixel value, which are unknown. Here, it is assumed that the high frequency components have similarity over the three color components, R, G and B, An unknown R pixel value and a B pixel value are estimated.
도 2는 본 발명의 일 실시 예에 따른 CFA 패턴의 특성을 이용한 이미지 보간 장치(100)의 개략적인 블록도이다.FIG. 2 is a schematic block diagram of an
도 2를 참조하면, 이미지 보간 장치(100)는 에지 방향 검출부(110), 가중치 계산부(120), 보간부(130) 및 조정부(140)를 포함한다.2, the
본 발명의 일 실시 예에서, 보간 방향을 결정하기 위해 수평 및 수직 DAIDs 가 CFA 이미지로부터 직접 계산된다. 일반적으로 고주파 영역에서 나타나는 디모자이싱된 이미지에서의 아티팩트는 R/B 채널에서의 에일리어싱에 의해 1차적으로 발생하는데, 이는 데시메이션된 R/B 채널들은 데시메이션된 G채널에 비하여 픽셀수가 반이기 때문이다. 바람직하게, 컬러 채널들 R, G, B 간에 높은 상관성, 즉 채널간 상관성이 컬러 이미지의 고주파 영역에서 존재한다.In one embodiment of the present invention, horizontal and vertical DAIDs are calculated directly from the CFA image to determine the interpolation direction. Generally, the artifacts in the demosaiced image appearing in the high frequency region are primarily caused by the aliasing in the R / B channel because the decimated R / B channels have half the number of pixels compared to the decimated G channel Because. Preferably, a high correlation between the color channels R, G, B exists, i.e., inter-channel correlation exists in the high-frequency region of the color image.
R, G, B 채널의 고주파 컴포넌트들은 에지와 텍스처 영역에서 크다. 에지들의 위치가 R, G, B 채널들에서 동일하다는 것을 가정한다. 여기서, 에지 방향과 방향성 보간 가중치를 추정하기 위해, 절대 채널간 차이를 사용하는데, 이는 CFA 패턴으로부터 직접 계산된다. 도 1a에 도시된 센터 열을 따르는 성분들은 G와 R이 교대한다. 유사하게 도 1b, 1c에서도 적용 가능하다. 각각의 픽셀에서, 보간 방향은 수평 및 수직 방향을 따라 이웃 픽셀 값들을 이용하여 계산되고, 적응적 방향 가중치는 검출된 보간 방향을 따라 이웃 픽셀들 사이의 공간 상관성을 이용하여 추정된다.The high frequency components of the R, G, and B channels are large in the edge and texture regions. It is assumed that the positions of the edges are the same in the R, G, and B channels. Here, in order to estimate the edge direction and the directional interpolation weight, an absolute channel difference is used, which is calculated directly from the CFA pattern. The components along the center column shown in Fig. 1A alternate between G and R. Fig. 1b and 1c. At each pixel, the interpolation direction is calculated using neighboring pixel values along the horizontal and vertical directions, and the adaptive direction weight is estimated using the spatial correlation between neighboring pixels along the detected interpolation direction.
에지 방향 검출부(110)는 컬러 필터 어레이에 배열된 R,G,B 픽셀들의 패턴 특성에 따라 중심 픽셀을 기준으로 좌,우,상,하 방향의 절대 채널간 차이값들을 계산하여 에지 방향을 검출한다. 에지 방향의 검출을 위해 DAIDs(DH, DV)를 계산하는데, 여기서, 절대 채널 간 차이(DH L, DH R, DV U, DV D)가 사용된다. 예를 들면, 도 1a의 CFA 패턴을 참조하면, DAIDs(DH, DV)는 수평 및 수직 방향을 따라 다음 수학식 4 및 5와 같이 각각 정의된다.The edge
여기서, Rp.q 와 Gp,q 는 각각 R과 G 채널에서의 위치 (p,q)에서의 컬러 강도 값이고, DH L, DH R, DV U, DV D 는 좌, 우, 상, 하 방향에서의 절대 채널간 차이를 각각 의미한다. DAIDs(DH, DV)는 CFA의 센터에서의 Ri,j를 이용하여 5×5 윈도우에서 계산된다. Wherein, R pq and G p, q, R, and the color intensity value at the position (p, q) in the G channel, and, D H L, D H R, D V U, D V D is the left and right, respectively, And the absolute channel difference in the up and down directions, respectively. DAIDs (D H , D V ) are computed in a 5 × 5 window using R i, j at the center of the CFA.
도 1b는 단지 Rp,q 와 Bp,q 가 교체된 것을 제외하고 유사하다. 따라서, 도 1b의 CFA 패턴을 이용해서, DAIDs(DH, DV)가 상기 수학식 4 및 5에서 Rp,q를 Bp,q로 교체하고 계산된다. 도 1c의 CFA 패턴을 이용해서, DAIDs(DH, DV)가 상기 수학식 4 및 5에서 Rp,q 를 Gp,q 로 바꾸고, 상기 수학식 4에서 Gp,q를 Bp,q로 바꾸고, 상기 수학식 5에서, Gp,q 를 Rp,q 로 바꾸고 계산한다.Figure Ib is similar except that only Rp, q and Bp, q are replaced. Therefore, DAIDs (D H , D V ) are calculated by replacing R p, q with B p, q in the above equations (4) and (5) using the CFA pattern in FIG. FIG using 1c CFA pattern of, DAIDs (D H, D V ) of the G p, q an R p, q in the equation 4 and 5 change as G p, q, from the equation (4) B p, switching to q, and calculates the change in the mathematical expression (5), the G p, q with R p, q.
가중치 계산부(120)는 R,G,B 픽셀들의 패턴 특성에 따라 좌,우,상,하 방향의 방향성 가중치를 계산한다. The
보간부(130)는 에지 방향 검출부(110)에서 검출한 에지 방향, 즉 수평 차 이(DH) 및 수직 차이(DV)에 따라 R,G,B 픽셀들로부터 좌,우,상,하 방향의 컬러 차이값, 예를 들면 ΔGH L, ΔGH R, ΔGV U, ΔGV D 과 가중치 계산부(120)에서 계산한 방향성 가중치, 즉 γH L, γH R, γV U, γV D 를 이용하여 미지의 픽셀을 보간한다.The
에지 방향을 검출한 후에, 적응적 보간 가중치를 유도하고, 방향 보간 가중치와 컬러 차이 값들을 이용해서 미지의 픽셀 값을 적응적으로 보간한다.After detecting the edge direction, an adaptive interpolation weight is derived, and the unknown pixel value is adaptively interpolated using the direction interpolation weight and color difference values.
도 1a에서, 5×5 베이어 CFA 패턴의 센터에 R픽셀이 있고, 미지의 G 픽셀값, G'i,j 는 다음 수학식 6과 같이 보간된다. In FIG. 1A, there is an R pixel at the center of a 5x5 Bayer CFA pattern, and an unknown G pixel value, G ' i, j, is interpolated as shown in Equation 6 below.
여기서, ΔGH L, ΔGH R, ΔGV U, ΔGV D 는 각각 좌, 우, 상, 하 방향에서 정의되는 컬러 차이 값들이고, 다음 수학식 7 내지 10과 같이 각각 계산된다. 도 3을 함께 참조하면, ΔGH L은 도 3에 도시된 좌측 방향(310)처럼 다음 수학식 7을 이용하 고, ΔGH R은 우측 방향(320)처럼 다음 수학식 8을 이용하고, ΔGV U은 도 3에 도시된 위 방향(330)처럼 다음 수학식 9를 이용하고, ΔGV D는 도 3에 도시된 아래 방향(340)처럼 다음 수학식 10을 이용하여 각각 계산한다.Here, ΔG H L , ΔG H R , ΔG V U , and ΔG V D are color difference values defined in the left, right, up, and down directions, respectively, and are calculated as shown in the following Equations 7 to 10, respectively. Referring together to Fig. 3, ΔG H L is the
상기 수학식 6에서, γH L, γH R, γV U, γV D 는 각각 좌, 우, 상 및 하 방향에서 정의되는 방향 보간 가중치를 나타내며, 다음 수학식 11 내지 14를 이용하여 계산된다.In Equation (6), γ H L , γ H R , γ V U , and γ V D represent direction interpolation weights defined in left, right, up and down directions, respectively, do.
도 1b는 Rp,q 와 Bp,q 가 바뀐 것을 제외하고 도 1a와 유사하다. 따라서, B 픽셀이 5×5 베이어 CFA 패턴의 센터인 도 1b에서, 미지의 G 픽셀 값, G'i,j 는 Rp,q 를 Bp,q 로 바꾸고, 상기 수학식 6 내지 14를 이용해서 유사하게 추정된다. 1B is similar to FIG. 1A except that R p, q and B p, q are changed. Thus, B pixels are 5 × 5 in the Figure 1b center of the Bayer CFA pattern, changing the G pixel values of the image, G 'i, j is R p, q with B p, q, using the equation (6) to 14 .
보간부(130)는 G 픽셀 보간 후에, R 픽셀 및 B 픽셀 보간을 수행한다. 예를 들면, B 픽셀이 5×5 베이어 CFA 패턴의 센터인 도 1b에서, 미지의 R 픽셀 값, R'i,j 는 다음 수학식 15를 이용해서 보간된다.
여기서, ΔRH L, ΔRH R, ΔRV U, ΔRV D 는 각각 좌, 우, 상, 하 방향에서 정의되는 컬러 차이 값들이고, 유사하게 CFA 패턴을 시계 방향으로 45도 만큼 회전시킨 후에 정의된다. 도 4a를 함께 참조하면, 도시된 것처럼 좌, 우, 상, 하 방향이 정의되며, 다음 수학식 16 내지 19와 같이 각각 계산된다. Here, ΔR H L , ΔR H R , ΔR V U , and ΔR V D are the color difference values defined in the left, right, top, and bottom directions, respectively, and similarly, after rotating the CFA pattern clockwise by 45 degrees do. Referring to FIG. 4A together, left, right, up and down directions are defined as shown and calculated as shown in the following equations (16) to (19), respectively.
상기 수학식 15에서, γH L, γH R, γV U, γV D 는 각각 좌, 우, 상, 하 방향에서 유사하게 정의되는 방향 보간 가중치를 나타내며, 다음 수학식 20 내지 23를 이용하여 계산된다.In Equation (15), γ H L , γ H R , γ V U , and γ V D represent directionally interpolated weights similarly defined in the left, right, up, and down directions, respectively, .
본 발명의 일 실시 예에서, 상기 수학식 20 내지 23에 따라 계산된 도 1b의 방향 보간 가중치를 이용하여 R 픽셀을 보간한다.In one embodiment of the present invention, R pixels are interpolated using the directional interpolation weights of FIG. 1B calculated according to
도 1a는 Bp,q 와 Rp,q 가 교체된 것을 제외하고 도 1b와 유사하다. 따라서, R 픽셀이 5×5 베이어 CFA 패턴의 센터인 도 1a에서, 미지의 B 픽셀값( B'i,j)는 Bp,q 를 Rp,q 로 바꾸고, 상기 수학식 15 내지 23를 이용해서 유사하게 추정된다. Fig. 1A is similar to Fig. 1B except that B p, q and R p, q are replaced. Thus, in FIG. 1A, in which the R pixel is the center of a 5 × 5 Bayer CFA pattern, the unknown B pixel value (B ' i, j ) is obtained by replacing B p, q with R p, q , And is similarly estimated.
도 1c에서, R/B 픽셀 보간에 대해, 방향 가중치 γH L, γH R, γV U, γV D 는 Rp,q 는 Gp,q, Gp,q 는 상기 수학식 11 및 12에서는 Bp,q로, 상기 수학식 13 및 14에서는 Rp,q 로 바꾸고, 상기 수학식 11 내지 14를 이용해서 추정된다. 미지의 R 픽셀 값(R'p,q)는 상기 수학식 15, 및 컬러 차이 값 및 방향 가중치를 이용해서 보간되는데, 컬러 차이 값은 다음 수학식 24 내지 27과 같이 정의된다. In FIG. 1C, for the R / B pixel interpolation, the direction weights? H L ,? H R ,? V U ,? V D are R p, q is G p, q ,
미지의 B 픽셀, B'p,q 는 상기 수학식 15와, R 픽셀의 컬러 차이 값들 ΔRH L, ΔRH R, ΔRV U, ΔRV D 이 B 픽셀의 컬러 차이 값들 ΔBH L, ΔBH R, ΔBV U, ΔBV D 로 각각 바뀌고, 상기 수학식 24 내지 27 중 R'p,q 가 수학식 24 및 25에서 Bp,q로 상기 수학식 26 및 27에서 B'p,q 로 바뀐다. 도 4c 및 4d에 도시된 바와 같이, 센터 픽셀에 따라 좌, 우, 상, 하 방향이 각각 다르게 정의된다.The image B pixel, B 'p, q is the equation (15), and color difference values of the R pixels ΔR H L, ΔR H R, ΔR V U, ΔR V D color difference values of the B pixels ΔB H L, ΔB H R, ΔB V U, ΔB respectively replaced with V D, the equation 24 to 27 of R 'p, q the equation (24), and from 25 to B p, q equation 26 and 27, B' p, q . As shown in Figs. 4C and 4D, the left, right, up and down directions are defined differently according to the center pixel.
조정부(140)는 보간된 픽셀값에 알고 있는 픽셀의 고주파 성분값을 더함으로써 보간된 픽셀값을 조정한다. 조정부(140)는 이미지 보간 장치(100)에 선택적으로 포함될 수 있다. The adjustment unit 140 adjusts the interpolated pixel value by adding the high frequency component value of the known pixel to the interpolated pixel value. The adjustment unit 140 may be optionally included in the
본 발명의 일 실시 예에서, 디모자이싱된 이미지는 조정 처리에 의해 강화된다. 디모자이싱된 이미지, 예를 들면 R', G', B'는 지퍼 아티팩트(zipper artifact), 블러링(blurring), 잘못된 컬러(false color)와 같은 눈에 뛰는 아티팩트들을 포함할 수 있으며, 이러한 아티팩트들은 주로 고주파 영역에서 나타난다. 따라서, 조정부(140)는 디모자이싱된 이미지는 R/G/B 채널의 채널간 상관을 가진 고주파 컴포넌트를 이용해서 조정한다. In one embodiment of the invention, the demapped image is enhanced by adjustment processing. The di-hatched image, e.g., R ', G', B ', may include eye-popping artifacts such as zipper artifacts, blurring, false color, Artifacts appear primarily in the high frequency domain. Accordingly, the adjustment unit 140 adjusts the demosaiced image using the high-frequency component having the inter-channel correlation of the R / G / B channel.
예를 들면, G 픽셀은 R 또는 B 픽셀의 고주파 성분을 추가함으로써 업데이트되는데, 이는 CFA 패턴에서 알려진 픽셀 값이다. 예를 들면, R 픽셀이 5×5 베이어 CFA 패턴의 센터인 도 1a에서, G/B 컴포넌트들이 조정된다. 조정된 G 컴포넌트, 는 다음 수학식 28 및 29와 같다.For example, a G pixel is updated by adding a high frequency component of R or B pixels, which is a known pixel value in the CFA pattern. For example, in Figure 1A where the R pixel is the center of a 5x5 Bayer CFA pattern, the G / B components are adjusted. The adjusted G component, Is expressed by the following equations (28) and (29).
여기서, G'i,j 는 적응적 보간 단계에서 (i,j)에서의 보간된 G 픽셀을 나타내고, Rh i,j 는 R 채널의 고주파 성분이고, Rl i,j 는 검출된 수평 또는 수직 에지 방향을 따라 3탭 1-D 필터[1/3, 1/3, 1/3]에 의해 필터링된 저주파 성분을 의미한다. 유사하게, B 픽셀은 상기 수학식 28 및 29에서 를 로, G'i,j를 B'i,j로 대체하고, 동일하게 조정할 수 있다. 예를 들면 5×5 베이어 CFA 패턴의 센터가 각각 B와 G 픽셀들인 도 1b 및 1c에서, R/G 및 R/B 컴포넌트들이 유사한 방식으로 조정된다. 이러한 조정 단계를 수행한 후에, 조정부(140)는 디모자이싱된 이미지, 즉 , , 를 출력한다. Here, G 'i, j denotes the interpolated G pixel in from the adaptive interpolation step (i, j), R h i, j is a high-frequency component of the R channel, R l i, j is the detected horizontal or Means a low frequency component filtered by a 3-tap 1-D filter [1/3, 1/3, 1/3] along the vertical edge direction. Similarly, the B pixel can be expressed in Equations 28 and 29 To , G ' i, j can be replaced with B' i, j , and the same adjustment can be made. For example, in Figures 1b and 1c, where the centers of the 5x5 Bayer CFA patterns are B and G pixels respectively, the R / G and R / B components are adjusted in a similar manner. After performing this adjustment step, the adjustment unit 140 adjusts the demosaiced image, i.e., , , .
도 5a 내지 도 5h는 본 발명의 일 실시 예에 따라 보간된 이미지와 종래의 다른 디모자이싱 알고리즘들에 따라 보간된 이미지를 시각적 품질의 측면에서 비교하기 위한 도면이다.Figures 5A through 5H are diagrams for comparing visualized quality of interpolated images according to one embodiment of the present invention and interpolated images according to other conventional demagnification algorithms.
도 5a는 원본 이미지이고, 도 5b 내지 5d는 종래의 디모자이싱 알고리즘에 따라 디모자이싱된 이미지들이고, 도 5e는 본 발명의 일 실시 예에 따라 디모자이 싱된 이미지이다. 5A is an original image, FIGS. 5B through 5D are images demagnified according to a conventional demagnification algorithm, and FIG. 5E is a demosaiced image according to an embodiment of the present invention.
도면들로부터 직관적으로 알 수 있듯이, 도 5b 내지 5d의 이미지에서는 보간에 의해 디모자이싱된 컬러 에지가 블러링되거나, 수직 컬러 에지선을 따라 지퍼 효과가 나타난다. 도 5e에 도시된 디모자이싱된 이미지는 지퍼 효과가 나타나지 않으며 만족할 만한 결과를 도시하고 있다.As can be seen intuitively from the figures, in the images of FIGS. 5B to 5D, the color edges that have been demapped by interpolation are blurred, or a zipper effect appears along the vertical color edge lines. The demapped image shown in Figure 5e shows no zip effect and satisfactory results.
도 6a 내지 6c는 본 발명의 일 실시 예에 따라 보간된 이미지와 종래의 다른 디모자이싱 알고리즘들에 따라 보간된 이미지를 픽셀 강도 프로파일 측면에서 비교하기 위한 도면이다.6A to 6C are diagrams for comparing an interpolated image according to an embodiment of the present invention and an interpolated image according to other conventional demagnification algorithms in terms of a pixel intensity profile.
도 6a 내지 6c는 도 5a의 테스트 이미지에서 50개의 수평선을 따라 R, G, B 채널들의 1차원 강도 프로파일을 도시한다. 컬러 에지는 2개의 구별되는 컬러들(R과 B, G는 0) 사이의 샤프 경계이다. 보간의 방향을 결정하기 위해, 본 발명의 일 실시 예는 CFA 이미지로부터 직접 수평 및 수직 DAIDs를 계산한다. 3가지 컬러 컴포넌트, R/G/B는 DAIDs(DH, DV)를 고려하여 검출한 수평 및 수직 방향을 따라 보간된다. 본 발명의 일 실시 예에 따른 이미지 보간 방법은 결과 이미지에서의 샤프 컬러 에지는 블러링 및 지퍼 아티팩트 없이 보존된다.Figs. 6A to 6C show one-dimensional intensity profiles of R, G, B channels along 50 horizontal lines in the test image of Fig. 5A. A color edge is a sharp boundary between two distinct colors (R and B, G = 0). To determine the direction of interpolation, an embodiment of the present invention calculates horizontal and vertical DAIDs directly from the CFA image. Three color components, R / G / B, are interpolated along the horizontal and vertical directions detected in consideration of DAIDs (D H , D V ). The image interpolation method according to an embodiment of the present invention preserves sharp color edges in the resulting image without blurring and zip artifacts.
또한, 본 발명의 일 실시 예에 따른 이미지 보간은 PSNR(Peak Signal and Noise Ratio), SSIM(Structual Similarity)가 다른 종래의 알고리즘보다 크고, 시각적 품질이 뛰어나다. 특히, 다수의 컬러 에지들을 가진 이미지들에 대한 제안한 방법의 PSNR은 다른 종래의 디모자이싱 방법들에 비하여 더 큰 값을 가진다. 또한, 컬러 샤프 에지들(color sharp edges)과 자연 배경(natural backgoround)을 가진 이미지들에 대한 SSIM은 다른 종래의 디모자이싱 방법들보다 더 크다.In addition, the image interpolation according to an exemplary embodiment of the present invention is larger than the conventional algorithms having different Peak Signal and Noise Ratio (PSNR) and Structural Similarity (SSIM), and has excellent visual quality. In particular, the PSNR of the proposed method for images with multiple color edges has a larger value compared to other conventional demosaicing methods. In addition, the SSIM for images with color sharp edges and a natural backgorund is larger than other conventional demagnetizing methods.
도 7은 본 발명의 다른 실시 예에 따른 CFA 패턴의 특성을 이용한 이미지 보간 방법을 설명하기 위한 도면이다.7 is a view for explaining an image interpolation method using characteristics of a CFA pattern according to another embodiment of the present invention.
도 7을 참조하면, 단계 700에서, 컬러 필터 어레이 이미지를 입력한다. 여기서, 이미지는 R,G,B의 일정한 배열로 이루어진 디모자이싱되기 전의 이미지이다. 단계 702에서, 수평 및 수직 방향의 DAID(DH, DV)값을 이용하여 에지 방향을 검출한다. 단계 704에서, 가중치를 계산한다. 단계 706에서, 단계 702에서 검출한 에지 방향에 따라 단계 704에서 계산한 가중치와 컬러 차이 값들을 이용해서 미지의 픽셀값을 보간한다. 단계 706에서, 각각의 픽셀의 고주파 성분을 이용해서 보간된 픽셀값을 조정한다.Referring to FIG. 7, in
본 발명의 바람직한 실시 예에서, CFA 패턴의 특성을 이용한 이미지 보간 방법 및 장치를 제공한다. 즉, 에지 방향과 방향 가중치가 DAIDs를 이용하여 CFA 이미지로부터 직접 계산된다. 다수의 다양한 이미지들을 이용한 실험 결과는 PSNR, SSIM 및 시각적 품질의 측면에서, 지퍼 효과와 컬러 아티팩트에 대한 효과적인 디모자이싱 방법이라는 것을 알 수 있다.In a preferred embodiment of the present invention, an image interpolation method and apparatus using the characteristics of the CFA pattern are provided. That is, edge direction and direction weights are calculated directly from the CFA image using DAIDs. Experimental results using a large number of different images reveal that it is an effective method of de-mosaicing the zipper effect and color artifacts in terms of PSNR, SSIM and visual quality.
이상 본 발명의 바람직한 실시 예에서는 5×5 베이어 CFA 패턴을 가지고 설명하였으나, 5×5 픽셀의 숫자에 한정되지 않으며, 그 이상의 픽셀들을 이용해서도 이미지 보간을 수행할 수 있다. Although a 5 × 5 Bayer CFA pattern has been described in the preferred embodiment of the present invention, it is not limited to a 5 × 5 pixel number, and image interpolation can be performed by using more pixels.
한편, 본 발명은 컴퓨터로 읽을 수 있는 기록 매체에 컴퓨터가 읽을 수 있는 코드로 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다.Meanwhile, the present invention can be embodied in computer readable code on a computer readable recording medium. A computer-readable recording medium includes all kinds of recording apparatuses in which data that can be read by a computer system is stored.
컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어 인터넷을 통한 전송)의 형태로 구현하는 것을 포함한다. 또한, 컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다. 그리고 본 발명을 구현하기 위한 기능적인(functional) 프로그램, 코드 및 코드 세그먼트들은 본 발명이 속하는 기술 분야의 프로그래머들에 의하여 용이하게 추론될 수 있다.Examples of the computer-readable recording medium include a ROM, a RAM, a CD-ROM, a magnetic tape, a floppy disk, an optical data storage device and the like, and also a carrier wave (for example, transmission via the Internet) . In addition, the computer-readable recording medium may be distributed over network-connected computer systems so that computer readable codes can be stored and executed in a distributed manner. In addition, functional programs, codes, and code segments for implementing the present invention can be easily deduced by programmers skilled in the art to which the present invention belongs.
이제까지 본 발명에 대하여 바람직한 실시 예를 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 본 발명을 구현할 수 있음을 이해할 것이다. 그러므로 상기 개시된 실시 예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 한다.The present invention has been described above with reference to preferred embodiments. It will be understood by those skilled in the art that the present invention may be embodied in various other forms without departing from the spirit or essential characteristics thereof. Therefore, the above-described embodiments should be considered in an illustrative rather than a restrictive sense. The scope of the present invention is indicated by the appended claims rather than by the foregoing description, and all differences within the scope of equivalents thereof should be construed as being included in the present invention.
도 1a 내지 1c는 각각 R, B, G 픽셀이 센터(i,j) 픽셀인 5×5 베이어 CFA 패턴을 도시한다.Figs. 1A to 1C show a 5x5 Bayer CFA pattern in which the R, B, and G pixels are center (i, j) pixels, respectively.
도 2는 본 발명의 일 실시 예에 따른 CFA 패턴의 특성을 이용한 이미지 보간 장치(100)의 개략적인 블록도이다.FIG. 2 is a schematic block diagram of an
도 3은 미지의 픽셀을 보간하기 위해, CFA 패턴에서 컬러 차이 값을 계산하는 방법을 설명하기 위한 도면이다.Fig. 3 is a diagram for explaining a method of calculating a color difference value in a CFA pattern to interpolate an unknown pixel. Fig.
도 4a 내지 4d는 미지의 픽셀을 보간하기 위해, CFA 패턴에서 컬러 차이 값을 계산하는 방법을 설명하기 위한 도면이다.4A to 4D are diagrams for explaining a method of calculating a color difference value in a CFA pattern in order to interpolate an unknown pixel.
도 5a 내지 도 5e는 본 발명의 일 실시 예에 따라 보간된 이미지와 종래의 다른 디모자이싱 알고리즘들에 따라 보간된 이미지를 시각적 품질의 측면에서 비교하기 위한 도면이다. FIGS. 5A through 5E are diagrams for comparing visualized quality of interpolated images according to one embodiment of the present invention and interpolated images according to other conventional demagnification algorithms.
도 6a 내지 6c는 본 발명의 일 실시 예에 따라 보간된 이미지와 종래의 다른 디모자이싱 알고리즘들에 따라 보간된 이미지를 픽셀 강도 프로파일 측면에서 비교하기 위한 도면이다.6A to 6C are diagrams for comparing an interpolated image according to an embodiment of the present invention and an interpolated image according to other conventional demagnification algorithms in terms of a pixel intensity profile.
도 7은 본 발명의 다른 실시 예에 따른 CFA 패턴의 특성을 이용한 이미지 보간 방법을 설명하기 위한 도면이다.7 is a view for explaining an image interpolation method using characteristics of a CFA pattern according to another embodiment of the present invention.
<도면의 주요 부분에 대한 부호의 설명>Description of the Related Art
100: 이미지 보간 장치 110: 에지 방향 검출부100: image interpolating device 110: edge direction detecting section
120: 가중치 계산부 130: 보간부120: Weight calculation unit 130:
140: 조정부140:
Claims (19)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US12/689,312 US8571312B2 (en) | 2009-01-16 | 2010-01-19 | Image interpolation method and apparatus using pattern characteristics of color filter array |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR20090003719 | 2009-01-16 | ||
KR1020090003719 | 2009-01-16 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20100084458A KR20100084458A (en) | 2010-07-26 |
KR101637488B1 true KR101637488B1 (en) | 2016-07-07 |
Family
ID=42643865
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020090098876A KR101637488B1 (en) | 2009-01-16 | 2009-10-16 | Image interpolation method and apparatus using pattern characteristics of color filter array |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101637488B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11263724B2 (en) | 2019-10-02 | 2022-03-01 | Hanwha Techwin Co., Ltd. | Device for interpolating colors and method thereof |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2487241A (en) | 2011-01-17 | 2012-07-18 | Sony Corp | Feature Aligned Interpolation Using Colour Components |
KR102003780B1 (en) * | 2014-01-02 | 2019-07-25 | 한화테크윈 주식회사 | Apparatus for interpolating color |
KR102116095B1 (en) | 2014-03-17 | 2020-05-27 | 한화에어로스페이스 주식회사 | Method for minimizing color interpolation error |
KR102224742B1 (en) | 2014-06-10 | 2021-03-09 | 삼성디스플레이 주식회사 | Image display method |
KR101634548B1 (en) * | 2015-01-07 | 2016-07-08 | 인천대학교 산학협력단 | Voting Based Directional Interpolation Method and Its Application to Still Color Image Demosaicking |
CN110730336B (en) * | 2019-07-02 | 2021-10-08 | 珠海全志科技股份有限公司 | Demosaicing method and device |
CN116309126B (en) * | 2023-02-16 | 2024-01-23 | 长春理工大学 | Five-band multispectral image reconstruction method based on autoregressive model |
CN116977173B (en) * | 2023-07-12 | 2024-03-22 | 武汉大学 | Edge optimization Bayer interpolation method based on chromatic aberration and chromatic ratio |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000244934A (en) | 1998-12-21 | 2000-09-08 | Nikon Corp | Interpolation processor and recording medium storing interpolation processing program |
US20070110300A1 (en) | 2005-11-17 | 2007-05-17 | Hung-An Chang | Color interpolation apparatus and color interpolation method utilizing edge indicators adjusted by stochastic adjustment factors to reconstruct missing colors for image pixels |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3612891B2 (en) * | 1996-10-02 | 2005-01-19 | 松下電器産業株式会社 | Outline enhancement method of imaging output of solid-state imaging device |
KR100782812B1 (en) * | 2005-06-15 | 2007-12-06 | 삼성전자주식회사 | Method and apparatus for edge adaptive color interpolation |
-
2009
- 2009-10-16 KR KR1020090098876A patent/KR101637488B1/en active IP Right Grant
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000244934A (en) | 1998-12-21 | 2000-09-08 | Nikon Corp | Interpolation processor and recording medium storing interpolation processing program |
US20070110300A1 (en) | 2005-11-17 | 2007-05-17 | Hung-An Chang | Color interpolation apparatus and color interpolation method utilizing edge indicators adjusted by stochastic adjustment factors to reconstruct missing colors for image pixels |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11263724B2 (en) | 2019-10-02 | 2022-03-01 | Hanwha Techwin Co., Ltd. | Device for interpolating colors and method thereof |
Also Published As
Publication number | Publication date |
---|---|
KR20100084458A (en) | 2010-07-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101637488B1 (en) | Image interpolation method and apparatus using pattern characteristics of color filter array | |
US8571312B2 (en) | Image interpolation method and apparatus using pattern characteristics of color filter array | |
US7825965B2 (en) | Method and apparatus for interpolating missing colors in a color filter array | |
US9179113B2 (en) | Image processing device, and image processing method, and program | |
US9582863B2 (en) | Image processing apparatus, image processing method, and program | |
US6816197B2 (en) | Bilateral filtering in a demosaicing process | |
US20080253652A1 (en) | Method of demosaicing a digital mosaiced image | |
CN110730336B (en) | Demosaicing method and device | |
WO2011158572A1 (en) | Image processing device, image processing method, and program | |
JP2000341707A (en) | Method for releasing mosaic of image by using directional smoothing operation | |
US20060291746A1 (en) | Method of and apparatus for removing color noise based on correlation between color channels | |
CN110852953B (en) | Image interpolation method and device, storage medium, image signal processor and terminal | |
CN108734668B (en) | Image color recovery method and device, computer readable storage medium and terminal | |
US20060087567A1 (en) | Method and system for de-mosaicing artifact removal, and computer program product therefor | |
ITVI20110009A1 (en) | TEXTURE DETECTION IN IMAGE PROCESSING | |
WO2008086037A2 (en) | Color filter array interpolation | |
KR100565429B1 (en) | Apparatus and method for reconstructing missing color values in a color filter array | |
KR101692747B1 (en) | Improved directional weighted interpolation method for single-sensor camera imaging | |
KR101327790B1 (en) | Image interpolation method and apparatus | |
Chang et al. | Directionally weighted color interpolation for digital cameras | |
Wang et al. | Demosaicing with improved edge direction detection | |
KR102050352B1 (en) | Bayer demosaicking method using bilateral filtering and directional differentiation | |
KR102119138B1 (en) | Bayesian based image restoration method for camera | |
KR101780726B1 (en) | Anti-aliasing FIR filter-based demosaicking | |
Chang et al. | Adaptive color filter array demosaicing with artifact suppression |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
N231 | Notification of change of applicant | ||
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20190627 Year of fee payment: 4 |