KR101637488B1 - Image interpolation method and apparatus using pattern characteristics of color filter array - Google Patents

Image interpolation method and apparatus using pattern characteristics of color filter array Download PDF

Info

Publication number
KR101637488B1
KR101637488B1 KR1020090098876A KR20090098876A KR101637488B1 KR 101637488 B1 KR101637488 B1 KR 101637488B1 KR 1020090098876 A KR1020090098876 A KR 1020090098876A KR 20090098876 A KR20090098876 A KR 20090098876A KR 101637488 B1 KR101637488 B1 KR 101637488B1
Authority
KR
South Korea
Prior art keywords
pixel
color
difference
value
filter array
Prior art date
Application number
KR1020090098876A
Other languages
Korean (ko)
Other versions
KR20100084458A (en
Inventor
장순근
박래홍
이지원
Original Assignee
삼성전자주식회사
서강대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사, 서강대학교산학협력단 filed Critical 삼성전자주식회사
Priority to US12/689,312 priority Critical patent/US8571312B2/en
Publication of KR20100084458A publication Critical patent/KR20100084458A/en
Application granted granted Critical
Publication of KR101637488B1 publication Critical patent/KR101637488B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4015Demosaicing, e.g. colour filter array [CFA], Bayer pattern
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

본 발명은 이미지 보간 방법 및 장치에 관한 것으로, 본 발명의 일 실시 예에 따른 이미지 보간 방법은 CFA 이미지로부터 수평/수직 절대 채널간 차이를 계산하고, R, G, B의 DAIDs를 고려하여 추정된 수평/수직 방향을 따라 보간함으로써, 피크 신호대 잡음비(PSNR) 및 구조적 유사도(SSIM)가 크고, 시각적 품질도 뛰어난 효과가 있다.

Figure R1020090098876

적응적, CFA, 가중치, 디모자이싱, 보간

The present invention relates to an image interpolation method and apparatus, and an image interpolation method according to an embodiment of the present invention includes calculating a horizontal / vertical absolute channel difference from a CFA image, estimating DAIDs of R, G, By interpolating along the horizontal / vertical direction, the peak signal-to-noise ratio (PSNR) and the structural similarity (SSIM) are large, and the visual quality is also excellent.

Figure R1020090098876

Adaptive, CFA, weighting, di-hatting, interpolation

Description

컬러 필터 어레이의 패턴 특성을 이용한 이미지 보간 방법 및 장치{Image interpolation method and apparatus using pattern characteristics of color filter array}BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image interpolation method and apparatus using pattern characteristics of a color filter array,

본 발명은 이미지 처리에 관한 것으로, 더 상세하게는 이미지 보간 방법 및 장치에 관한 것이다.The present invention relates to image processing, and more particularly, to an image interpolation method and apparatus.

대부분의 디지털 카메라와 캠코더는 컬러 CCD 또는 CMOS를 통해 컬러 이미지들을 캡쳐한다. 획득한 이미지는 컬러 필터 어레이(color filter array, 이하 'CFA' 라 한다)의 패턴에 따라 모자이싱된 이미지이고, 모자이싱된 이미지는 각각의 픽셀에 대해 2개의 모르는 컬러 값들과 하나의 알고 있는 컬러 값을 가진다. CFA 패턴은 레드(R), 그린(G) 및 블루(B) 채널들로 구성되며, 각각의 채널은 다른 팩터에 의해 데시메이트된다. 데시메이트된 G 채널은 R/B 채널에 비해 2배의 픽셀들을 갖는다. R/B 컬러들은 줄 또는 열을 따라 G 컬러와 교번한다. 즉 G와 R 또는 G와 B로 번갈아 교번한다.Most digital cameras and camcorders capture color images through color CCD or CMOS. The acquired image is a hatched image according to a pattern of a color filter array (hereinafter, referred to as 'CFA'), and a hatched image includes two unknown color values for each pixel and one known color Value. The CFA pattern consists of the red (R), green (G) and blue (B) channels, and each channel is decimated by another factor. The decimated G channel has twice as many pixels as the R / B channel. The R / B colors alternate with the G color along the rows or columns. Alternating between G and R or G and B.

디모자이싱(demosaicing), 즉 CFA 보간법(interpolation)은 풀-컬러 이미지를 생성하기 위해 미지의 R,G 및 B 컴포넌트들을 재구성하는 프로세스이다. 각각 의 픽셀의 2개의 미지의 컬러들은 다양한 디모자이싱 알고리즘에 의해 추정된다. 디모자이싱 알고리즘은 불완전한 데이터, 즉 각각의 픽셀에서 2개의 빠진 데이터로부터 풀-컬러 이미지를 재구성하는 것이다. 이러한 재구성 알고리즘은 RGB 채널들에서 이용 가능한 데이터의 채널간 및 채널내 상관을 사용한다.Demosaicing, or CFA interpolation, is a process of reconstructing unknown R, G, and B components to produce a full-color image. The two unknown colors of each pixel are estimated by various demosaicing algorithms. The de-mosaicing algorithm is to reconstruct the full-color image from incomplete data, i.e., two missing data at each pixel. This reconfiguration algorithm uses interchannel and intrachannel correlation of the data available on the RGB channels.

종래의 적응적 디모자이싱 알고리즘은 컬러 상관과 이미지의 지역적 특성을 고려한다. 에지 방향 보간법(edge-directed interpolation) 및 다양한 적응적 가중합 보간법들은 미지의 픽셀 값들의 보간을 위해 적응적 가중치를 사용한다. 또한, 지퍼 효과(zipper effect), 잘못된 컬러(false color), 및 에일리어싱과 같은 아티팩트(artifacts)가 나타나는 고주파 영역에서, 채널들의 컬러 차이, 즉 R채널과 G채널, B채널과 G채널의 컬러 차이가 높은 상관성을 가짐으로 종래의 디모자이싱 알고리즘들은 이러한 특성들을 이용한다. Conventional adaptive demosaicing algorithms consider color correlation and local characteristics of images. Edge-directed interpolation and various adaptive weighted sum interpolations use adaptive weights for interpolation of unknown pixel values. In addition, in the high frequency region where artifacts such as zipper effect, false color, and aliasing appear, the color difference of the channels, that is, the color difference between the R channel and the G channel, the B channel and the G channel Lt; / RTI > have high correlation so that conventional demagnification algorithms use these properties.

종래의 적응적 디모자이싱 알고리즘으로는, X. Li,의 "Demosaicing by successive approximation," IEEE Trans. Image Process., vol. 14, no. 3, pp. 370-379, Mar. 2005., 와 W. Lu 등의 "Color filter array demosaicing: New method and performance measures," IEEE Trans. Image Process., vol. 12, no. 10, pp. 1194-1210, Oct. 2003. 등이 있다.A conventional adaptive demagnification algorithm is described in X. Li, "Demosaicing by successive approximation," IEEE Trans. Image Process., Vol. 14, no. 3, pp. 370-379, Mar. 2005, and W. Lu et al., "Color filter array demosaicing: New method and performance measures," IEEE Trans. Image Process., Vol. 12, no. 10, pp. 1194-1210, Oct. 2003.

Li는 각각의 컬러 채널을 초기 보간한 후에 컬러 차이를 구해 컬러 차이 도메인에서 라플라시안 필터를 적용한 값을 통해 에지의 방향을 찾아 초기 보간된 화소 값들을 업데이트한다. 여기서 업데이트는 중단 기준(stop criterion)을 만족할 때까지 반복하여 잘못된 컬러 및 지퍼 흠결들을 억제하기 위해서, 모든 반복에서 컬러 차이 규칙을 강조함으로써 미지의 컬러 픽셀 값들의 추정치를 조정한다. Li obtains the color difference after initial color interpolation of each color channel and finds the direction of the edge through the value to which the Laplacian filter is applied in the color difference domain to update the initial interpolated pixel values. Where the update is repeated until the stop criterion is satisfied to adjust the estimate of the unknown color pixel values by emphasizing the color difference rule in all iterations to suppress false colors and zip defects.

Lu는 컬러 차이 모델 또는 컬러-비율 모델을 사용하는 에지 센싱 알고리즘이며, 에지들을 가로 질러 보간하는 것을 방지하면서, 에지들을 따라 보간함으로써 에지들을 보존한다. 미지의 컬러 픽셀 값들을 추정하기 위해, 이러한 방법들은 이웃하는 픽셀들 간의 공간적 상관성을 고려하고, 이웃하는 픽셀을 이용하여 적당한 보간 방향을 고른다. Lu is an edge sensing algorithm that uses a color difference model or a color-ratio model and preserves edges by interpolating along the edges while preventing interpolation across the edges. To estimate unknown color pixel values, these methods consider the spatial correlation between neighboring pixels and use the neighboring pixels to select the appropriate interpolation direction.

전술한 종래 기술들은 고품질의 디모자이싱된 이미지들 생성하는데, 특히 샤프 에지들과 같은 고주파 영역들을 재구성하는데 효과적이다. 하지만, Li는 초기 보간된 픽셀의 업데이트를 위해, 멈춤 기준을 만족할 때까지 반복하기 때문에 계산 속도가 느리고, 초기 보간한 값이 에지 방향이 잘못되도록 보간 되는 경우 왜곡현상이 발생하게 된다. The prior art techniques described above produce high quality, demultiplexed images, and are particularly effective in reconstructing high frequency regions such as sharp edges. However, because Li repeats until the stop criterion is satisfied for updating the initial interpolated pixel, the computation speed is slow, and distortion occurs when the initial interpolated value is interpolated so that the edge direction is erroneous.

또한, 전술한 종래기술들은 잘못된 색, 에일리어싱, 및 지퍼 효과 등과 같은 아티팩트(artifacts)를 감소시키는 데는 충분하지 않다. 에지 주위의 잘못된 색 및 디모자이싱된 이미지의 디테일한 텍스쳐는 이미지 품질을 떨어뜨린다. 지퍼 효과, 디모자이싱된 이미지의 샤프 컬러 에지와 같은 오버슈트 흠결들은 때로 적응적 알고리즘의 또 하나의 단점으로 나타난다.In addition, the prior art techniques described above are not sufficient to reduce artifacts such as false colors, aliasing, and zipper effects. Incorrect color around the edge and a detailed texture of the di-hatched image degrade the image quality. Overshoot defects, such as the zipper effect and the sharp color edge of the di-hatched image, are often another disadvantage of adaptive algorithms.

본 발명은 전술한 종래기술들의 문제점을 해결하기 위해 안출된 것으로, CFA의 특성을 고려하여 DAID(Differences of Absolute Inter-channel Differences)로부터 에지 방향을 검출하고, 검출한 에지 방향을 따라 CFA 이미지로부터 직접 3가지 컬러 픽셀값들을 보간할 수 있는 이미지 보간 방법 및 장치를 제공하는 데 목적이 있다. SUMMARY OF THE INVENTION The present invention has been made in order to solve the problems of the conventional techniques described above, and it is an object of the present invention to provide a method of detecting an edge direction from DAID (Differential of Absolute Inter- channel Differences) It is an object of the present invention to provide an image interpolation method and apparatus capable of interpolating three color pixel values.

상기 기술적 과제를 해결하기 위한, 본 발명의 일 실시 예에 따른 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 방법은 컬러 필터 어레이에 배열된 R,G,B 픽셀들의 패턴 특성에 따라 중심 픽셀을 기준으로 좌,우,상,하 방향의 절대 채널간 차이값들을 계산하여 에지 방향을 검출하는 단계; 상기 R,G,B 픽셀들의 패턴 특성에 따라 좌,우,상,하 방향의 방향성 가중치를 각각 계산하는 단계; 및 상기 검출한 에지 방향에 따라 상기 R,G,B 픽셀들로부터 좌,우,상,하 방향의 컬러 차이값 및 상기 계산한 방향성 가중치를 이용하여 미지의 픽셀을 보간하는 단계를 포함하고, 상기 절대 채널간 차이값은 중심 화소의 일 측상에 제1 채널의 컬러 강도 값과 제2 컬러 채널의 이웃하는 화소의 컬러 강도 값의 차이의 절대값에서, 중심 화소의 반대 측상의 제1 채널 화소의 컬러 강도값과 제2 컬러 채널의 이웃하는 화소의 컬러 강도 값의 차이의 절대값의 감산하여 계산되는 것을 특징으로 한다.According to an aspect of the present invention, there is provided an image interpolation method using characteristics of a color filter array pattern according to an exemplary embodiment of the present invention, Detecting edge directions by calculating absolute difference values between the left, right, up and down directions; Calculating directivity weights in the left, right, up and down directions according to pattern characteristics of the R, G, and B pixels, respectively; And interpolating an unknown pixel using the color difference values in the left, right, up and down directions from the R, G and B pixels according to the detected edge direction and the calculated direction weight, The absolute channel difference value is obtained by subtracting the absolute value of the difference between the color intensity value of the first channel and the color intensity value of the neighboring pixel of the second color channel on one side of the center pixel, Is calculated by subtracting the absolute value of the difference between the color intensity value and the color intensity value of the neighboring pixel of the second color channel.

바람직하게, 상기 절대 채널간 차이값들은, 좌,우,상,하 각각의 방향으로 이웃하는 픽셀값들의 차이값들인 것을 특징으로 한다.Preferably, the absolute channel difference values are difference values of neighboring pixel values in the left, right, up, and down directions.

바람직하게, 상기 검출 단계는, 상기 좌,우,상,하 방향의 절대 채널간 차이 값들로부터 상기 좌,우 방향의 차이값인 수평 차이(DH) 및 상기 상,하 방향의 차이값인 수직 차이(DV)를 각각 계산하는 것을 특징으로 한다.Preferably, the detecting step includes a step of detecting a horizontal difference (D H ), which is a difference between the left and right direction absolute difference values in the left, right, upper and lower directions, And a difference (D V ), respectively.

바람직하게, 상기 검출 단계는, 컬러 필터 어레이 패턴의 중심 픽셀이 Ri,j인 경우, 상기 수평 차이(DH)와 수직 차이(DV)는 다음 수학식 4 및 5를 이용하여 계산하는 것을 특징으로 한다.Preferably, in the detecting step, when the center pixel of the color filter array pattern is R i, j , the horizontal difference D H and the vertical difference D V are calculated using the following equations (4) and .

바람직하게, 상기 보간 단계는, 컬러 필터 어레이 패턴의 중심 픽셀이 Ri,j인 경우, 미지의 픽셀 G는 다음 수학식 6을 이용하여 보간하는 것을 특징으로 한다.Preferably, in the interpolation step, when the center pixel of the color filter array pattern is R i, j , the unknown pixel G is interpolated using the following equation (6).

바람직하게, 상기 보간 단계는, 미지의 픽셀 중 G 픽셀을 보간한 다음, 보간한 G 픽셀값(G')을 기초로 미지의 나머지 픽셀값을 보간하는 것을 특징으로 한다.Preferably, the interpolation step interpolates G pixels among unknown pixels, and then interpolates the remaining unknown pixel values based on the interpolated G pixel values G '.

바람직하게, 상기 보간 단계는, 컬러 필터 어레이 패턴의 중심 픽셀이 Bi,j인 경우, 미지의 R 픽셀은 다음 수학식 15를 이용하여 보간하는 것을 특징으로 한다.Preferably, in the interpolation step, when the center pixel of the color filter array pattern is B i, j , the unknown R pixel is interpolated using the following equation (15).

바람직하게, 상기 컬러 필터 어레이 패턴의 중심 픽셀이 Gi,j인 경우, 상기 수학식 15에서, 좌, 우, 상, 하 방향의 컬러 차이 값들은 각각

Figure 112009063584975-pat00001
,
Figure 112009063584975-pat00002
,
Figure 112009063584975-pat00003
,
Figure 112009063584975-pat00004
인 것을 특징으로 한다.Preferably, when the center pixel of the color filter array pattern is G i, j , the color difference values in the left, right, up, and down directions in Equation (15)
Figure 112009063584975-pat00001
,
Figure 112009063584975-pat00002
,
Figure 112009063584975-pat00003
,
Figure 112009063584975-pat00004
.

바람직하게, 상기 이미지 보간 방법은 보간된 픽셀값에 알고 있는 픽셀의 고 주파 성분값을 더함으로써 보간된 픽셀값을 조정하는 단계를 더 포함하는 것을 특징으로 한다.Advantageously, the image interpolation method further comprises adjusting the interpolated pixel value by adding the high frequency component value of the known pixel to the interpolated pixel value.

상기 다른 기술적 과제를 달성하기 위한, 본 발명의 다른 실시 예에 따른 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 장치는 컬러 필터 어레이에 배열된 R,G,B 픽셀들의 패턴 특성에 따라 중심 픽셀을 기준으로 좌,우,상,하 방향의 절대 채널간 차이값들을 계산하여 에지 방향을 검출하는 에지 방향 검출부; 상기 R,G,B 픽셀들의 패턴 특성에 따라 좌,우,상,하 방향의 방향성 가중치를 계산하는 가중치 계산부; 및 상기 검출한 에지 방향에 따라 상기 R,G,B 픽셀들로부터 좌,우,상,하 방향의 컬러 차이값 및 상기 계산한 방향성 가중치를 이용하여 미지의 픽셀을 보간하는 보간부를 포함하고, 상기 절대 채널간 차이값은 중심 화소의 일 측상에 제1 채널의 컬러 강도 값과 제2 컬러 채널의 이웃하는 화소의 컬러 강도 값의 차이의 절대값에서, 중심 화소의 반대 측상의 제1 채널 화소의 컬러 강도값과 제2 컬러 채널의 이웃하는 화소의 컬러 강도 값의 차이의 절대값의 감산하여 계산되는 것을 특징으로 한다.According to another aspect of the present invention, there is provided an image interpolating apparatus using characteristics of a color filter array pattern according to another embodiment of the present invention, An edge direction detecting unit for detecting an edge direction by calculating absolute difference values between left, right, up and down directions; A weight calculation unit for calculating directional weights in left, right, up and down directions according to pattern characteristics of the R, G, and B pixels; And an interpolator interpolating an unknown pixel using the color difference values in the left, right, up and down directions from the R, G and B pixels according to the detected edge direction and the calculated direction weight, Wherein the absolute channel difference value is a difference between a color intensity value of the first channel and a color intensity value of a neighboring pixel of the second color channel on one side of the center pixel, Is calculated by subtracting the absolute value of the difference between the color intensity value of the first color channel and the color intensity value of the neighboring pixel of the second color channel.

바람직하게, 상기 절대 채널간 차이값들은, 좌,우,상,하 각각의 방향으로 이웃하는 픽셀값들의 차이값들인 것을 특징으로 한다.Preferably, the absolute channel difference values are difference values of neighboring pixel values in the left, right, up, and down directions.

바람직하게, 상기 에지 방향 검출부는, 상기 좌,우,상,하 방향의 절대 채널간 차이값들로부터 상기 좌,우 방향의 차이값인 수평 차이(DH) 및 상기 상,하 방향의 차이값인 수직 차이(DV)를 각각 계산하는 것을 특징으로 한다.Preferably, the edge direction detecting unit detects a horizontal difference (D H ), which is a difference between the left and right direction absolute difference values in the left, right, upper and lower directions, and a difference value And a vertical difference (D V ) that is a difference between the vertical difference and the vertical difference.

바람직하게, 상기 에지 방향 검출부는, 컬러 필터 어레이 패턴의 중심 픽셀이 Ri,j인 경우, 상기 수평 차이(DH)와 수직 차이(DV)는 다음 수학식 4 및 5를 이용하여 계산하는 것을 특징으로 한다.Preferably, the edge direction detecting unit calculates the horizontal difference (D H ) and the vertical difference (D V ) using the following equations (4) and (5) when the center pixel of the color filter array pattern is R i, j .

바람직하게, 상기 보간부는, 컬러 필터 어레이 패턴의 중심 픽셀이 Ri,j인 경 우, 미지의 픽셀 G는 다음 수학식 6을 이용하여 보간하는 것을 특징으로 한다.Preferably, when the center pixel of the color filter array pattern is R i, j , the interpolator interpolates the unknown pixel G using the following equation (6).

바람직하게, 상기 보간부는, 미지의 픽셀 중 G 픽셀을 보간한 다음, 보간한 G 픽셀값(G')을 기초로 미지의 나머지 픽셀값을 보간하는 것을 특징으로 한다.Preferably, the interpolator interpolates the G pixel among the unknown pixels, and then interpolates the remaining unknown pixel values based on the interpolated G pixel value (G ').

바람직하게, 상기 보간부는, 컬러 필터 어레이 패턴의 중심 픽셀이 Bi,j인 경우, 미지의 R 픽셀은 다음 수학식 15를 이용하여 보간하는 것을 특징으로 한다.Preferably, when the central pixel of the color filter array pattern is B i, j , the interpolator interpolates the unknown R pixel using the following equation (15).

바람직하게, 상기 컬러 필터 어레이 패턴의 중심 픽셀이 Gi,j인 경우, 상기 수학식 15에서, 좌, 우, 상, 하 방향의 컬러 차이 값들은 각각

Figure 112009063584975-pat00005
,
Figure 112009063584975-pat00006
,
Figure 112009063584975-pat00007
,
Figure 112009063584975-pat00008
인 것을 특징으로 한다.Preferably, when the center pixel of the color filter array pattern is G i, j , the color difference values in the left, right, up, and down directions in Equation (15)
Figure 112009063584975-pat00005
,
Figure 112009063584975-pat00006
,
Figure 112009063584975-pat00007
,
Figure 112009063584975-pat00008
.

바람직하게, 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 장치는 보간된 픽셀값에 알고 있는 픽셀의 고주파 성분값을 더함으로써 보간된 픽셀값을 조정하는 조정부를 더 포함하는 것을 특징으로 한다.Preferably, the image interpolating apparatus using the characteristics of the color filter array pattern further comprises an adjustment unit for adjusting the interpolated pixel value by adding the high-frequency component value of the known pixel to the interpolated pixel value.

상기 또 다른 기술적 과제를 달성하기 위한, 본 발명의 또 다른 실시 예에 따른 상기 이미지 보간 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 기록매체를 포함한다.According to another aspect of the present invention, there is provided a recording medium having recorded thereon a program for causing a computer to execute the image interpolation method according to another embodiment of the present invention.

제안된 알고리즘은 생생한 컬러 에지들과 텍스쳐 주위의 지퍼 효과를 줄인다. 제안된 알고리즘의 성능을 평가하기 위해서, 종래의 디모자이싱 알고리즘이 시뮬레이션 된다. 실험 결과들이 피크 신호대 잡음비(PSNR)와, 구조적 유사도(SSIM) 및 시각적 품질의 측면에서 비교된다. 제안된 알고리즘의 성능은 공지의 기술들보다 뛰어난 성능을 보이고 컬러 에지 및 텍스처의 지퍼 효과를 잘 감소시킨다. The proposed algorithm reduces vivid color edges and zipper effect around the texture. To evaluate the performance of the proposed algorithm, a conventional demagnification algorithm is simulated. Experimental results are compared in terms of peak signal-to-noise ratio (PSNR), structural similarity (SSIM) and visual quality. The performance of the proposed algorithm shows better performance than the known techniques and well reduces the zipper effect of color edges and textures.

이하, 첨부한 도면들을 참조하여 본 발명의 바람직한 실시 예들을 상세히 설명한다. 하기의 설명에서는 본 발명에 따른 동작을 이해하는데 필요한 부분만이 설명되며 그 이외 부분의 설명은 본 발명의 요지를 흩트리지 않도록 생략될 수 있다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. In the following description, only parts necessary for understanding the operation according to the present invention will be described, and descriptions of other parts may be omitted so as not to disturb the gist of the present invention.

또한, 이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 본 발명을 가장 적절하게 표현할 수 있도록 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야 한다. In addition, terms and words used in the following description and claims should not be construed to be limited to ordinary or dictionary meanings, but are to be construed in a manner consistent with the technical idea of the present invention As well as the concept.

도 1은 베이어 CFA 패턴을 도시하며, 전체 픽셀 수의 절반은 그린이고, 나머지 픽셀들은 레드 또는 블루로 동일하게 할당된다. 이러한 패턴의 각각의 픽셀은 하나의 컬러, 즉 R, G, 또는 B에만 민감하다. 따라서, 이러한 패턴을 사용해서 획득한 컬러 이미지들은 풀-컬러 이미지를 생성하기 위해 3개의 컬러 채널들에서 보간되며, 이를 CFA 디모자이싱 또는 보간(interpolation)이라 한다. Figure 1 shows a Bayer CFA pattern, where half of the total number of pixels is green and the remaining pixels are equally assigned to red or blue. Each pixel in this pattern is only sensitive to one color, R, G, or B. Thus, color images obtained using this pattern are interpolated on three color channels to produce a full-color image, which is referred to as CFA demosaicing or interpolation.

일반적인 적응적 가중합 알고리즘의 기본 개념은 모자이싱된 이미지로부터 국부적 분산을 추정하고 나서, 디모자이싱을 위해 국부적 분산을 이용하는 것이다. 대부분 종래의 알고리즘은 이웃하는 픽셀의 강도의 가중합을 이용해서 모자이싱된 이미지를 획득한다.The basic idea of a general adaptive weighting algorithm is to estimate the local variance from the hatched image and then use local variance for the demosaicing. Most conventional algorithms obtain a hatched image using the weighted sum of the intensity of neighboring pixels.

도 1a, 1b, 1c는 5×5 베이어 CFA 패턴을 도시하고, 각각은 패턴의 센터에 각각 R, G, B 픽셀을 갖는다. 도 1a의 CFA 패턴을 참조하면, 미지의 G 픽셀이 수평 및 수직 그래디언트들을 이용해서 보간의 방향성을 고려하여 먼저 추정되는데, 이는 다음 수학식 1 및 2와 같다.Figures 1a, 1b and 1c show a 5x5 Bayer CFA pattern, each having R, G and B pixels at the center of the pattern. Referring to the CFA pattern of FIG. 1A, an unknown G pixel is estimated first by considering the directionality of interpolation using horizontal and vertical gradients, as shown in the following equations (1) and (2).

Figure 112009063584975-pat00009
Figure 112009063584975-pat00009

Figure 112009063584975-pat00010
Figure 112009063584975-pat00010

여기서, Gp,q 및 Rp,q 는 CFA 패턴의 (p,q)에서 각각의 알고있는 G 및 R 픽셀 강도 값들이고, 수평 그래디언트 ΔHi,j, 수직 그래디언트 ΔVi,j 를 이용해서 미지의 G 픽셀 값

Figure 112009063584975-pat00011
이 다음 수학식 3과 같이 계산된다.Here, G p, q and R p, q are the known G and R pixel intensity values at (p, q) of the CFA pattern and are calculated using the horizontal gradient H i, j and the vertical gradient V i, G pixel value of
Figure 112009063584975-pat00011
Is calculated as shown in the following equation (3).

Figure 112009063584975-pat00012
Figure 112009063584975-pat00012

도 1b는 도 1a와 유사하며, 단지 Rp,q 가 Bp,q 로 바뀌었다. 따라서, 도 1b의 CFA 패턴을 이용해서 미지의 G 픽셀 값,

Figure 112009063584975-pat00013
는 상기 수학식 1 내지 3에서, Rp,q 를 Bp,q 로 대체하고 동일하게 계산하여 추정된다. 1B is similar to FIG. 1A except that R p, q is replaced by B p, q . Therefore, by using the CFA pattern of FIG. 1B, an unknown G pixel value,
Figure 112009063584975-pat00013
Is estimated by substituting B p, q with R p, q in the above Equations 1 to 3 and calculating the same.

도 1c는 미지의 R 픽셀 값 및 B 픽셀 값을 갖는 G 센터 픽셀에서의 베이어 CFA 패턴을 도시한다. 여기서, 고주파 컴포넌트들은 3가지 컬러 컴포넌트, 즉 R,G 및 B에 걸쳐 유사성을 갖는다는 가정하에, 보간된 G 픽셀, 즉

Figure 112009063584975-pat00014
을 이용해서 미지의 R 픽셀 값 및 B 픽셀 값이 추정된다.1C shows a Bayer CFA pattern at a G-center pixel having an R pixel value and an B pixel value, which are unknown. Here, it is assumed that the high frequency components have similarity over the three color components, R, G and B,
Figure 112009063584975-pat00014
An unknown R pixel value and a B pixel value are estimated.

도 2는 본 발명의 일 실시 예에 따른 CFA 패턴의 특성을 이용한 이미지 보간 장치(100)의 개략적인 블록도이다.FIG. 2 is a schematic block diagram of an image interpolation apparatus 100 using characteristics of a CFA pattern according to an embodiment of the present invention.

도 2를 참조하면, 이미지 보간 장치(100)는 에지 방향 검출부(110), 가중치 계산부(120), 보간부(130) 및 조정부(140)를 포함한다.2, the image interpolating apparatus 100 includes an edge direction detecting unit 110, a weight calculating unit 120, an interpolating unit 130, and an adjusting unit 140. As shown in FIG.

본 발명의 일 실시 예에서, 보간 방향을 결정하기 위해 수평 및 수직 DAIDs 가 CFA 이미지로부터 직접 계산된다. 일반적으로 고주파 영역에서 나타나는 디모자이싱된 이미지에서의 아티팩트는 R/B 채널에서의 에일리어싱에 의해 1차적으로 발생하는데, 이는 데시메이션된 R/B 채널들은 데시메이션된 G채널에 비하여 픽셀수가 반이기 때문이다. 바람직하게, 컬러 채널들 R, G, B 간에 높은 상관성, 즉 채널간 상관성이 컬러 이미지의 고주파 영역에서 존재한다.In one embodiment of the present invention, horizontal and vertical DAIDs are calculated directly from the CFA image to determine the interpolation direction. Generally, the artifacts in the demosaiced image appearing in the high frequency region are primarily caused by the aliasing in the R / B channel because the decimated R / B channels have half the number of pixels compared to the decimated G channel Because. Preferably, a high correlation between the color channels R, G, B exists, i.e., inter-channel correlation exists in the high-frequency region of the color image.

R, G, B 채널의 고주파 컴포넌트들은 에지와 텍스처 영역에서 크다. 에지들의 위치가 R, G, B 채널들에서 동일하다는 것을 가정한다. 여기서, 에지 방향과 방향성 보간 가중치를 추정하기 위해, 절대 채널간 차이를 사용하는데, 이는 CFA 패턴으로부터 직접 계산된다. 도 1a에 도시된 센터 열을 따르는 성분들은 G와 R이 교대한다. 유사하게 도 1b, 1c에서도 적용 가능하다. 각각의 픽셀에서, 보간 방향은 수평 및 수직 방향을 따라 이웃 픽셀 값들을 이용하여 계산되고, 적응적 방향 가중치는 검출된 보간 방향을 따라 이웃 픽셀들 사이의 공간 상관성을 이용하여 추정된다.The high frequency components of the R, G, and B channels are large in the edge and texture regions. It is assumed that the positions of the edges are the same in the R, G, and B channels. Here, in order to estimate the edge direction and the directional interpolation weight, an absolute channel difference is used, which is calculated directly from the CFA pattern. The components along the center column shown in Fig. 1A alternate between G and R. Fig. 1b and 1c. At each pixel, the interpolation direction is calculated using neighboring pixel values along the horizontal and vertical directions, and the adaptive direction weight is estimated using the spatial correlation between neighboring pixels along the detected interpolation direction.

에지 방향 검출부(110)는 컬러 필터 어레이에 배열된 R,G,B 픽셀들의 패턴 특성에 따라 중심 픽셀을 기준으로 좌,우,상,하 방향의 절대 채널간 차이값들을 계산하여 에지 방향을 검출한다. 에지 방향의 검출을 위해 DAIDs(DH, DV)를 계산하는데, 여기서, 절대 채널 간 차이(DH L, DH R, DV U, DV D)가 사용된다. 예를 들면, 도 1a의 CFA 패턴을 참조하면, DAIDs(DH, DV)는 수평 및 수직 방향을 따라 다음 수학식 4 및 5와 같이 각각 정의된다.The edge direction detection unit 110 calculates the absolute channel difference values in the left, right, up and down directions on the basis of the center pixel according to the pattern characteristics of the R, G, and B pixels arranged in the color filter array, do. (D H , D V ) for the detection of the edge direction, where the absolute channel differences (D H L , D H R , D V U , D V D ) are used. For example, referring to the CFA pattern of FIG. 1A, the DAIDs (D H , D V ) are defined along the horizontal and vertical directions as shown in Equations 4 and 5, respectively.

Figure 112009063584975-pat00015
Figure 112009063584975-pat00015

Figure 112009063584975-pat00016
Figure 112009063584975-pat00016

여기서, Rp.q 와 Gp,q 는 각각 R과 G 채널에서의 위치 (p,q)에서의 컬러 강도 값이고, DH L, DH R, DV U, DV D 는 좌, 우, 상, 하 방향에서의 절대 채널간 차이를 각각 의미한다. DAIDs(DH, DV)는 CFA의 센터에서의 Ri,j를 이용하여 5×5 윈도우에서 계산된다. Wherein, R pq and G p, q, R, and the color intensity value at the position (p, q) in the G channel, and, D H L, D H R, D V U, D V D is the left and right, respectively, And the absolute channel difference in the up and down directions, respectively. DAIDs (D H , D V ) are computed in a 5 × 5 window using R i, j at the center of the CFA.

도 1b는 단지 Rp,q 와 Bp,q 가 교체된 것을 제외하고 유사하다. 따라서, 도 1b의 CFA 패턴을 이용해서, DAIDs(DH, DV)가 상기 수학식 4 및 5에서 Rp,q를 Bp,q로 교체하고 계산된다. 도 1c의 CFA 패턴을 이용해서, DAIDs(DH, DV)가 상기 수학식 4 및 5에서 Rp,q 를 Gp,q 로 바꾸고, 상기 수학식 4에서 Gp,q를 Bp,q로 바꾸고, 상기 수학식 5에서, Gp,q 를 Rp,q 로 바꾸고 계산한다.Figure Ib is similar except that only Rp, q and Bp, q are replaced. Therefore, DAIDs (D H , D V ) are calculated by replacing R p, q with B p, q in the above equations (4) and (5) using the CFA pattern in FIG. FIG using 1c CFA pattern of, DAIDs (D H, D V ) of the G p, q an R p, q in the equation 4 and 5 change as G p, q, from the equation (4) B p, switching to q, and calculates the change in the mathematical expression (5), the G p, q with R p, q.

가중치 계산부(120)는 R,G,B 픽셀들의 패턴 특성에 따라 좌,우,상,하 방향의 방향성 가중치를 계산한다. The weight calculation unit 120 calculates directional weights in the left, right, up and down directions according to pattern characteristics of the R, G, and B pixels.

보간부(130)는 에지 방향 검출부(110)에서 검출한 에지 방향, 즉 수평 차 이(DH) 및 수직 차이(DV)에 따라 R,G,B 픽셀들로부터 좌,우,상,하 방향의 컬러 차이값, 예를 들면 ΔGH L, ΔGH R, ΔGV U, ΔGV D 과 가중치 계산부(120)에서 계산한 방향성 가중치, 즉 γH L, γH R, γV U, γV D 를 이용하여 미지의 픽셀을 보간한다.The interpolator 130 receives the left, right, upper, and lower pixels from the R, G, and B pixels according to the edge direction detected by the edge direction detecting unit 110, that is, the horizontal difference D H and the vertical difference D V color difference values of the direction, for example, ΔG H L, ΔG H R, ΔG V U, ΔG V D and weighted directional weights calculated in the calculation unit 120, i.e., γ H L, γ H R, γ V U, and interpolates unknown pixels using? V D.

에지 방향을 검출한 후에, 적응적 보간 가중치를 유도하고, 방향 보간 가중치와 컬러 차이 값들을 이용해서 미지의 픽셀 값을 적응적으로 보간한다.After detecting the edge direction, an adaptive interpolation weight is derived, and the unknown pixel value is adaptively interpolated using the direction interpolation weight and color difference values.

도 1a에서, 5×5 베이어 CFA 패턴의 센터에 R픽셀이 있고, 미지의 G 픽셀값, G'i,j 는 다음 수학식 6과 같이 보간된다. In FIG. 1A, there is an R pixel at the center of a 5x5 Bayer CFA pattern, and an unknown G pixel value, G ' i, j, is interpolated as shown in Equation 6 below.

Figure 112009063584975-pat00017
Figure 112009063584975-pat00017

여기서, ΔGH L, ΔGH R, ΔGV U, ΔGV D 는 각각 좌, 우, 상, 하 방향에서 정의되는 컬러 차이 값들이고, 다음 수학식 7 내지 10과 같이 각각 계산된다. 도 3을 함께 참조하면, ΔGH L은 도 3에 도시된 좌측 방향(310)처럼 다음 수학식 7을 이용하 고, ΔGH R은 우측 방향(320)처럼 다음 수학식 8을 이용하고, ΔGV U은 도 3에 도시된 위 방향(330)처럼 다음 수학식 9를 이용하고, ΔGV D는 도 3에 도시된 아래 방향(340)처럼 다음 수학식 10을 이용하여 각각 계산한다.Here, ΔG H L , ΔG H R , ΔG V U , and ΔG V D are color difference values defined in the left, right, up, and down directions, respectively, and are calculated as shown in the following Equations 7 to 10, respectively. Referring together to Fig. 3, ΔG H L is the left direction 310, as shown in the following and take advantage of Equation 7, ΔG H R is using the following equation (8) as a right direction (320), ΔG V shown in Figure 3 U uses the following equation 9 as the upper direction 330 shown in FIG. 3 and ΔG V D is calculated using the following equation 10 as the lower direction 340 shown in FIG. 3, respectively.

Figure 112009063584975-pat00018
Figure 112009063584975-pat00018

Figure 112009063584975-pat00019
Figure 112009063584975-pat00019

Figure 112009063584975-pat00020
Figure 112009063584975-pat00020

Figure 112009063584975-pat00021
Figure 112009063584975-pat00021

상기 수학식 6에서, γH L, γH R, γV U, γV D 는 각각 좌, 우, 상 및 하 방향에서 정의되는 방향 보간 가중치를 나타내며, 다음 수학식 11 내지 14를 이용하여 계산된다.In Equation (6), γ H L , γ H R , γ V U , and γ V D represent direction interpolation weights defined in left, right, up and down directions, respectively, do.

Figure 112009063584975-pat00022
Figure 112009063584975-pat00022

Figure 112009063584975-pat00023
Figure 112009063584975-pat00023

Figure 112009063584975-pat00024
Figure 112009063584975-pat00024

Figure 112009063584975-pat00025
Figure 112009063584975-pat00025

도 1b는 Rp,q 와 Bp,q 가 바뀐 것을 제외하고 도 1a와 유사하다. 따라서, B 픽셀이 5×5 베이어 CFA 패턴의 센터인 도 1b에서, 미지의 G 픽셀 값, G'i,j 는 Rp,q 를 Bp,q 로 바꾸고, 상기 수학식 6 내지 14를 이용해서 유사하게 추정된다. 1B is similar to FIG. 1A except that R p, q and B p, q are changed. Thus, B pixels are 5 × 5 in the Figure 1b center of the Bayer CFA pattern, changing the G pixel values of the image, G 'i, j is R p, q with B p, q, using the equation (6) to 14 .

보간부(130)는 G 픽셀 보간 후에, R 픽셀 및 B 픽셀 보간을 수행한다. 예를 들면, B 픽셀이 5×5 베이어 CFA 패턴의 센터인 도 1b에서, 미지의 R 픽셀 값, R'i,j 는 다음 수학식 15를 이용해서 보간된다.Interpolation section 130 performs R pixel and B pixel interpolation after G pixel interpolation. For example, in FIG. 1B, where the B pixel is the center of a 5x5 Bayer CFA pattern, the unknown R pixel value, R'i, j, is interpolated using:

Figure 112009063584975-pat00026
Figure 112009063584975-pat00026

여기서, ΔRH L, ΔRH R, ΔRV U, ΔRV D 는 각각 좌, 우, 상, 하 방향에서 정의되는 컬러 차이 값들이고, 유사하게 CFA 패턴을 시계 방향으로 45도 만큼 회전시킨 후에 정의된다. 도 4a를 함께 참조하면, 도시된 것처럼 좌, 우, 상, 하 방향이 정의되며, 다음 수학식 16 내지 19와 같이 각각 계산된다. Here, ΔR H L , ΔR H R , ΔR V U , and ΔR V D are the color difference values defined in the left, right, top, and bottom directions, respectively, and similarly, after rotating the CFA pattern clockwise by 45 degrees do. Referring to FIG. 4A together, left, right, up and down directions are defined as shown and calculated as shown in the following equations (16) to (19), respectively.

Figure 112009063584975-pat00027
Figure 112009063584975-pat00027

Figure 112009063584975-pat00028
Figure 112009063584975-pat00028

Figure 112009063584975-pat00029
Figure 112009063584975-pat00029

Figure 112009063584975-pat00030
Figure 112009063584975-pat00030

상기 수학식 15에서, γH L, γH R, γV U, γV D 는 각각 좌, 우, 상, 하 방향에서 유사하게 정의되는 방향 보간 가중치를 나타내며, 다음 수학식 20 내지 23를 이용하여 계산된다.In Equation (15), γ H L , γ H R , γ V U , and γ V D represent directionally interpolated weights similarly defined in the left, right, up, and down directions, respectively, .

Figure 112009063584975-pat00031
Figure 112009063584975-pat00031

Figure 112009063584975-pat00032
Figure 112009063584975-pat00032

Figure 112009063584975-pat00033
Figure 112009063584975-pat00033

Figure 112009063584975-pat00034
Figure 112009063584975-pat00034

본 발명의 일 실시 예에서, 상기 수학식 20 내지 23에 따라 계산된 도 1b의 방향 보간 가중치를 이용하여 R 픽셀을 보간한다.In one embodiment of the present invention, R pixels are interpolated using the directional interpolation weights of FIG. 1B calculated according to Equations 20 through 23 above.

도 1a는 Bp,q 와 Rp,q 가 교체된 것을 제외하고 도 1b와 유사하다. 따라서, R 픽셀이 5×5 베이어 CFA 패턴의 센터인 도 1a에서, 미지의 B 픽셀값( B'i,j)는 Bp,q 를 Rp,q 로 바꾸고, 상기 수학식 15 내지 23를 이용해서 유사하게 추정된다. Fig. 1A is similar to Fig. 1B except that B p, q and R p, q are replaced. Thus, in FIG. 1A, in which the R pixel is the center of a 5 × 5 Bayer CFA pattern, the unknown B pixel value (B ' i, j ) is obtained by replacing B p, q with R p, q , And is similarly estimated.

도 1c에서, R/B 픽셀 보간에 대해, 방향 가중치 γH L, γH R, γV U, γV D 는 Rp,q 는 Gp,q, Gp,q 는 상기 수학식 11 및 12에서는 Bp,q로, 상기 수학식 13 및 14에서는 Rp,q 로 바꾸고, 상기 수학식 11 내지 14를 이용해서 추정된다. 미지의 R 픽셀 값(R'p,q)는 상기 수학식 15, 및 컬러 차이 값 및 방향 가중치를 이용해서 보간되는데, 컬러 차이 값은 다음 수학식 24 내지 27과 같이 정의된다. In FIG. 1C, for the R / B pixel interpolation, the direction weights? H L ,? H R ,? V U ,? V D are R p, q is G p, q , G p, 12, B p, q are substituted for R p, q in Equations (13) and (14), and are estimated using Equations (11) to (14). The unknown R pixel value (R ' p, q ) is interpolated using Equation (15) and the color difference value and the direction weight, the color difference value being defined as:

Figure 112009063584975-pat00035
Figure 112009063584975-pat00035

Figure 112009063584975-pat00036
Figure 112009063584975-pat00036

Figure 112009063584975-pat00037
Figure 112009063584975-pat00037

Figure 112009063584975-pat00038
Figure 112009063584975-pat00038

미지의 B 픽셀, B'p,q 는 상기 수학식 15와, R 픽셀의 컬러 차이 값들 ΔRH L, ΔRH R, ΔRV U, ΔRV D 이 B 픽셀의 컬러 차이 값들 ΔBH L, ΔBH R, ΔBV U, ΔBV D 로 각각 바뀌고, 상기 수학식 24 내지 27 중 R'p,q 가 수학식 24 및 25에서 Bp,q로 상기 수학식 26 및 27에서 B'p,q 로 바뀐다. 도 4c 및 4d에 도시된 바와 같이, 센터 픽셀에 따라 좌, 우, 상, 하 방향이 각각 다르게 정의된다.The image B pixel, B 'p, q is the equation (15), and color difference values of the R pixels ΔR H L, ΔR H R, ΔR V U, ΔR V D color difference values of the B pixels ΔB H L, ΔB H R, ΔB V U, ΔB respectively replaced with V D, the equation 24 to 27 of R 'p, q the equation (24), and from 25 to B p, q equation 26 and 27, B' p, q . As shown in Figs. 4C and 4D, the left, right, up and down directions are defined differently according to the center pixel.

조정부(140)는 보간된 픽셀값에 알고 있는 픽셀의 고주파 성분값을 더함으로써 보간된 픽셀값을 조정한다. 조정부(140)는 이미지 보간 장치(100)에 선택적으로 포함될 수 있다. The adjustment unit 140 adjusts the interpolated pixel value by adding the high frequency component value of the known pixel to the interpolated pixel value. The adjustment unit 140 may be optionally included in the image interpolating apparatus 100.

본 발명의 일 실시 예에서, 디모자이싱된 이미지는 조정 처리에 의해 강화된다. 디모자이싱된 이미지, 예를 들면 R', G', B'는 지퍼 아티팩트(zipper artifact), 블러링(blurring), 잘못된 컬러(false color)와 같은 눈에 뛰는 아티팩트들을 포함할 수 있으며, 이러한 아티팩트들은 주로 고주파 영역에서 나타난다. 따라서, 조정부(140)는 디모자이싱된 이미지는 R/G/B 채널의 채널간 상관을 가진 고주파 컴포넌트를 이용해서 조정한다. In one embodiment of the invention, the demapped image is enhanced by adjustment processing. The di-hatched image, e.g., R ', G', B ', may include eye-popping artifacts such as zipper artifacts, blurring, false color, Artifacts appear primarily in the high frequency domain. Accordingly, the adjustment unit 140 adjusts the demosaiced image using the high-frequency component having the inter-channel correlation of the R / G / B channel.

예를 들면, G 픽셀은 R 또는 B 픽셀의 고주파 성분을 추가함으로써 업데이트되는데, 이는 CFA 패턴에서 알려진 픽셀 값이다. 예를 들면, R 픽셀이 5×5 베이어 CFA 패턴의 센터인 도 1a에서, G/B 컴포넌트들이 조정된다. 조정된 G 컴포넌트,

Figure 112009063584975-pat00039
는 다음 수학식 28 및 29와 같다.For example, a G pixel is updated by adding a high frequency component of R or B pixels, which is a known pixel value in the CFA pattern. For example, in Figure 1A where the R pixel is the center of a 5x5 Bayer CFA pattern, the G / B components are adjusted. The adjusted G component,
Figure 112009063584975-pat00039
Is expressed by the following equations (28) and (29).

Figure 112009063584975-pat00040
Figure 112009063584975-pat00040

Figure 112009063584975-pat00041
Figure 112009063584975-pat00041

여기서, G'i,j 는 적응적 보간 단계에서 (i,j)에서의 보간된 G 픽셀을 나타내고, Rh i,j 는 R 채널의 고주파 성분이고, Rl i,j 는 검출된 수평 또는 수직 에지 방향을 따라 3탭 1-D 필터[1/3, 1/3, 1/3]에 의해 필터링된 저주파 성분을 의미한다. 유사하게, B 픽셀은 상기 수학식 28 및 29에서

Figure 112009063584975-pat00042
Figure 112009063584975-pat00043
로, G'i,j를 B'i,j로 대체하고, 동일하게 조정할 수 있다. 예를 들면 5×5 베이어 CFA 패턴의 센터가 각각 B와 G 픽셀들인 도 1b 및 1c에서, R/G 및 R/B 컴포넌트들이 유사한 방식으로 조정된다. 이러한 조정 단계를 수행한 후에, 조정부(140)는 디모자이싱된 이미지, 즉
Figure 112009063584975-pat00044
,
Figure 112009063584975-pat00045
,
Figure 112009063584975-pat00046
를 출력한다. Here, G 'i, j denotes the interpolated G pixel in from the adaptive interpolation step (i, j), R h i, j is a high-frequency component of the R channel, R l i, j is the detected horizontal or Means a low frequency component filtered by a 3-tap 1-D filter [1/3, 1/3, 1/3] along the vertical edge direction. Similarly, the B pixel can be expressed in Equations 28 and 29
Figure 112009063584975-pat00042
To
Figure 112009063584975-pat00043
, G ' i, j can be replaced with B' i, j , and the same adjustment can be made. For example, in Figures 1b and 1c, where the centers of the 5x5 Bayer CFA patterns are B and G pixels respectively, the R / G and R / B components are adjusted in a similar manner. After performing this adjustment step, the adjustment unit 140 adjusts the demosaiced image, i.e.,
Figure 112009063584975-pat00044
,
Figure 112009063584975-pat00045
,
Figure 112009063584975-pat00046
.

도 5a 내지 도 5h는 본 발명의 일 실시 예에 따라 보간된 이미지와 종래의 다른 디모자이싱 알고리즘들에 따라 보간된 이미지를 시각적 품질의 측면에서 비교하기 위한 도면이다.Figures 5A through 5H are diagrams for comparing visualized quality of interpolated images according to one embodiment of the present invention and interpolated images according to other conventional demagnification algorithms.

도 5a는 원본 이미지이고, 도 5b 내지 5d는 종래의 디모자이싱 알고리즘에 따라 디모자이싱된 이미지들이고, 도 5e는 본 발명의 일 실시 예에 따라 디모자이 싱된 이미지이다. 5A is an original image, FIGS. 5B through 5D are images demagnified according to a conventional demagnification algorithm, and FIG. 5E is a demosaiced image according to an embodiment of the present invention.

도면들로부터 직관적으로 알 수 있듯이, 도 5b 내지 5d의 이미지에서는 보간에 의해 디모자이싱된 컬러 에지가 블러링되거나, 수직 컬러 에지선을 따라 지퍼 효과가 나타난다. 도 5e에 도시된 디모자이싱된 이미지는 지퍼 효과가 나타나지 않으며 만족할 만한 결과를 도시하고 있다.As can be seen intuitively from the figures, in the images of FIGS. 5B to 5D, the color edges that have been demapped by interpolation are blurred, or a zipper effect appears along the vertical color edge lines. The demapped image shown in Figure 5e shows no zip effect and satisfactory results.

도 6a 내지 6c는 본 발명의 일 실시 예에 따라 보간된 이미지와 종래의 다른 디모자이싱 알고리즘들에 따라 보간된 이미지를 픽셀 강도 프로파일 측면에서 비교하기 위한 도면이다.6A to 6C are diagrams for comparing an interpolated image according to an embodiment of the present invention and an interpolated image according to other conventional demagnification algorithms in terms of a pixel intensity profile.

도 6a 내지 6c는 도 5a의 테스트 이미지에서 50개의 수평선을 따라 R, G, B 채널들의 1차원 강도 프로파일을 도시한다. 컬러 에지는 2개의 구별되는 컬러들(R과 B, G는 0) 사이의 샤프 경계이다. 보간의 방향을 결정하기 위해, 본 발명의 일 실시 예는 CFA 이미지로부터 직접 수평 및 수직 DAIDs를 계산한다. 3가지 컬러 컴포넌트, R/G/B는 DAIDs(DH, DV)를 고려하여 검출한 수평 및 수직 방향을 따라 보간된다. 본 발명의 일 실시 예에 따른 이미지 보간 방법은 결과 이미지에서의 샤프 컬러 에지는 블러링 및 지퍼 아티팩트 없이 보존된다.Figs. 6A to 6C show one-dimensional intensity profiles of R, G, B channels along 50 horizontal lines in the test image of Fig. 5A. A color edge is a sharp boundary between two distinct colors (R and B, G = 0). To determine the direction of interpolation, an embodiment of the present invention calculates horizontal and vertical DAIDs directly from the CFA image. Three color components, R / G / B, are interpolated along the horizontal and vertical directions detected in consideration of DAIDs (D H , D V ). The image interpolation method according to an embodiment of the present invention preserves sharp color edges in the resulting image without blurring and zip artifacts.

또한, 본 발명의 일 실시 예에 따른 이미지 보간은 PSNR(Peak Signal and Noise Ratio), SSIM(Structual Similarity)가 다른 종래의 알고리즘보다 크고, 시각적 품질이 뛰어나다. 특히, 다수의 컬러 에지들을 가진 이미지들에 대한 제안한 방법의 PSNR은 다른 종래의 디모자이싱 방법들에 비하여 더 큰 값을 가진다. 또한, 컬러 샤프 에지들(color sharp edges)과 자연 배경(natural backgoround)을 가진 이미지들에 대한 SSIM은 다른 종래의 디모자이싱 방법들보다 더 크다.In addition, the image interpolation according to an exemplary embodiment of the present invention is larger than the conventional algorithms having different Peak Signal and Noise Ratio (PSNR) and Structural Similarity (SSIM), and has excellent visual quality. In particular, the PSNR of the proposed method for images with multiple color edges has a larger value compared to other conventional demosaicing methods. In addition, the SSIM for images with color sharp edges and a natural backgorund is larger than other conventional demagnetizing methods.

도 7은 본 발명의 다른 실시 예에 따른 CFA 패턴의 특성을 이용한 이미지 보간 방법을 설명하기 위한 도면이다.7 is a view for explaining an image interpolation method using characteristics of a CFA pattern according to another embodiment of the present invention.

도 7을 참조하면, 단계 700에서, 컬러 필터 어레이 이미지를 입력한다. 여기서, 이미지는 R,G,B의 일정한 배열로 이루어진 디모자이싱되기 전의 이미지이다. 단계 702에서, 수평 및 수직 방향의 DAID(DH, DV)값을 이용하여 에지 방향을 검출한다. 단계 704에서, 가중치를 계산한다. 단계 706에서, 단계 702에서 검출한 에지 방향에 따라 단계 704에서 계산한 가중치와 컬러 차이 값들을 이용해서 미지의 픽셀값을 보간한다. 단계 706에서, 각각의 픽셀의 고주파 성분을 이용해서 보간된 픽셀값을 조정한다.Referring to FIG. 7, in step 700, a color filter array image is input. Here, the image is an image before being demagnetized, consisting of a certain arrangement of R, G, B. In step 702, the edge direction is detected using the DAID (D H , D V ) values in the horizontal and vertical directions. In step 704, weights are calculated. In step 706, the unknown pixel value is interpolated using the weight and color difference values calculated in step 704 according to the edge direction detected in step 702. [ In step 706, the interpolated pixel values are adjusted using the high-frequency components of each pixel.

본 발명의 바람직한 실시 예에서, CFA 패턴의 특성을 이용한 이미지 보간 방법 및 장치를 제공한다. 즉, 에지 방향과 방향 가중치가 DAIDs를 이용하여 CFA 이미지로부터 직접 계산된다. 다수의 다양한 이미지들을 이용한 실험 결과는 PSNR, SSIM 및 시각적 품질의 측면에서, 지퍼 효과와 컬러 아티팩트에 대한 효과적인 디모자이싱 방법이라는 것을 알 수 있다.In a preferred embodiment of the present invention, an image interpolation method and apparatus using the characteristics of the CFA pattern are provided. That is, edge direction and direction weights are calculated directly from the CFA image using DAIDs. Experimental results using a large number of different images reveal that it is an effective method of de-mosaicing the zipper effect and color artifacts in terms of PSNR, SSIM and visual quality.

이상 본 발명의 바람직한 실시 예에서는 5×5 베이어 CFA 패턴을 가지고 설명하였으나, 5×5 픽셀의 숫자에 한정되지 않으며, 그 이상의 픽셀들을 이용해서도 이미지 보간을 수행할 수 있다. Although a 5 × 5 Bayer CFA pattern has been described in the preferred embodiment of the present invention, it is not limited to a 5 × 5 pixel number, and image interpolation can be performed by using more pixels.

한편, 본 발명은 컴퓨터로 읽을 수 있는 기록 매체에 컴퓨터가 읽을 수 있는 코드로 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다.Meanwhile, the present invention can be embodied in computer readable code on a computer readable recording medium. A computer-readable recording medium includes all kinds of recording apparatuses in which data that can be read by a computer system is stored.

컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어 인터넷을 통한 전송)의 형태로 구현하는 것을 포함한다. 또한, 컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다. 그리고 본 발명을 구현하기 위한 기능적인(functional) 프로그램, 코드 및 코드 세그먼트들은 본 발명이 속하는 기술 분야의 프로그래머들에 의하여 용이하게 추론될 수 있다.Examples of the computer-readable recording medium include a ROM, a RAM, a CD-ROM, a magnetic tape, a floppy disk, an optical data storage device and the like, and also a carrier wave (for example, transmission via the Internet) . In addition, the computer-readable recording medium may be distributed over network-connected computer systems so that computer readable codes can be stored and executed in a distributed manner. In addition, functional programs, codes, and code segments for implementing the present invention can be easily deduced by programmers skilled in the art to which the present invention belongs.

이제까지 본 발명에 대하여 바람직한 실시 예를 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 본 발명을 구현할 수 있음을 이해할 것이다. 그러므로 상기 개시된 실시 예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 한다.The present invention has been described above with reference to preferred embodiments. It will be understood by those skilled in the art that the present invention may be embodied in various other forms without departing from the spirit or essential characteristics thereof. Therefore, the above-described embodiments should be considered in an illustrative rather than a restrictive sense. The scope of the present invention is indicated by the appended claims rather than by the foregoing description, and all differences within the scope of equivalents thereof should be construed as being included in the present invention.

도 1a 내지 1c는 각각 R, B, G 픽셀이 센터(i,j) 픽셀인 5×5 베이어 CFA 패턴을 도시한다.Figs. 1A to 1C show a 5x5 Bayer CFA pattern in which the R, B, and G pixels are center (i, j) pixels, respectively.

도 2는 본 발명의 일 실시 예에 따른 CFA 패턴의 특성을 이용한 이미지 보간 장치(100)의 개략적인 블록도이다.FIG. 2 is a schematic block diagram of an image interpolation apparatus 100 using characteristics of a CFA pattern according to an embodiment of the present invention.

도 3은 미지의 픽셀을 보간하기 위해, CFA 패턴에서 컬러 차이 값을 계산하는 방법을 설명하기 위한 도면이다.Fig. 3 is a diagram for explaining a method of calculating a color difference value in a CFA pattern to interpolate an unknown pixel. Fig.

도 4a 내지 4d는 미지의 픽셀을 보간하기 위해, CFA 패턴에서 컬러 차이 값을 계산하는 방법을 설명하기 위한 도면이다.4A to 4D are diagrams for explaining a method of calculating a color difference value in a CFA pattern in order to interpolate an unknown pixel.

도 5a 내지 도 5e는 본 발명의 일 실시 예에 따라 보간된 이미지와 종래의 다른 디모자이싱 알고리즘들에 따라 보간된 이미지를 시각적 품질의 측면에서 비교하기 위한 도면이다. FIGS. 5A through 5E are diagrams for comparing visualized quality of interpolated images according to one embodiment of the present invention and interpolated images according to other conventional demagnification algorithms.

도 6a 내지 6c는 본 발명의 일 실시 예에 따라 보간된 이미지와 종래의 다른 디모자이싱 알고리즘들에 따라 보간된 이미지를 픽셀 강도 프로파일 측면에서 비교하기 위한 도면이다.6A to 6C are diagrams for comparing an interpolated image according to an embodiment of the present invention and an interpolated image according to other conventional demagnification algorithms in terms of a pixel intensity profile.

도 7은 본 발명의 다른 실시 예에 따른 CFA 패턴의 특성을 이용한 이미지 보간 방법을 설명하기 위한 도면이다.7 is a view for explaining an image interpolation method using characteristics of a CFA pattern according to another embodiment of the present invention.

<도면의 주요 부분에 대한 부호의 설명>Description of the Related Art

100: 이미지 보간 장치 110: 에지 방향 검출부100: image interpolating device 110: edge direction detecting section

120: 가중치 계산부 130: 보간부120: Weight calculation unit 130:

140: 조정부140:

Claims (19)

컬러 필터 어레이에 배열된 R,G,B 픽셀들의 패턴 특성에 따라 중심 픽셀을 기준으로 좌,우,상,하 방향의 절대 채널간 차이값들을 계산하여 에지 방향을 검출하는 단계;Detecting edge directions by calculating absolute difference values in the left, right, up and down directions based on the center pixel according to the pattern characteristics of the R, G, and B pixels arranged in the color filter array; 상기 R,G,B 픽셀들의 패턴 특성에 따라 좌,우,상,하 방향의 방향성 가중치를 각각 계산하는 단계; 및Calculating directivity weights in the left, right, up and down directions according to pattern characteristics of the R, G, and B pixels, respectively; And 상기 검출한 에지 방향에 따라 상기 R,G,B 픽셀들로부터 좌,우,상,하 방향의 컬러 차이값 및 상기 계산한 방향성 가중치를 이용하여 미지의 픽셀을 보간하는 단계를 포함하고,Interpolating unknown pixels using the color difference values in the left, right, up and down directions from the R, G and B pixels according to the detected edge direction and the calculated directional weights, 상기 절대 채널간 차이값은 중심 화소의 일 측상에 제1 채널의 컬러 강도 값과 제2 컬러 채널의 이웃하는 화소의 컬러 강도 값의 차이의 절대값에서, 중심 화소의 반대 측상의 제1 채널 화소의 컬러 강도값과 제2 컬러 채널의 이웃하는 화소의 컬러 강도 값의 차이의 절대값의 감산하여 계산되는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 방법.Wherein the absolute channel difference value is a difference between a color intensity value of the first channel and a color intensity value of a neighboring pixel of the second color channel on one side of the center pixel, Is calculated by subtracting the absolute value of the difference between the color intensity value of the second color channel and the color intensity value of the neighboring pixel of the second color channel. 제 1 항에 있어서,The method according to claim 1, 상기 절대 채널간 차이값들은,The absolute channel-to-channel difference values, 좌,우,상,하 각각의 방향으로 이웃하는 픽셀값들의 차이값들인 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 방법. And the difference values of neighboring pixel values in the left, right, upper, and lower directions of the color filter array pattern. 제 2 항에 있어서,3. The method of claim 2, 상기 검출 단계는,Wherein the detecting step comprises: 상기 좌,우,상,하 방향의 절대 채널간 차이값들로부터 상기 좌,우 방향의 차 이값인 수평 차이(DH) 및 상기 상,하 방향의 차이값인 수직 차이(DV)를 각각 계산하는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 방법. (D H ), which is the left-right difference value and the vertical difference (D V ), which is the difference value in the up-down direction from the absolute-channel difference values in the left, right, And calculating the color filter array pattern using the characteristic of the color filter array pattern. 제 3 항에 있어서,The method of claim 3, 상기 검출 단계는,Wherein the detecting step comprises: 컬러 필터 어레이 패턴의 중심 픽셀이 Ri,j인 경우, If the center pixel of the color filter array pattern is R i, j , 상기 수평 차이(DH)와 수직 차이(DV)는 다음 수학식 4 및 5를 이용하여 계산하는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 방법.Wherein the horizontal difference (D H ) and the vertical difference (D V ) are calculated using the following equations (4) and (5). [수학식 4]&Quot; (4) &quot;
Figure 112009063584975-pat00047
Figure 112009063584975-pat00047
[수학식 5]&Quot; (5) &quot;
Figure 112009063584975-pat00048
Figure 112009063584975-pat00048
(여기서, Rp.q 와 Gp,q 는 각각 R 및 G 픽셀의 (p,q)에서의 컬러 강도 값이고, DH L, DH R, DV U, DV D 는 각각 좌,우,상,하에서의 절대 채널간 차이값임)(Wherein, R pq and G p, q in the R and G pixels, respectively (p, q) the color intensity value is, D H L, D H R, D V U, D V D are respectively left and right in, Absolute difference between the upper and lower channels)
제 4 항에 있어서,5. The method of claim 4, 상기 보간 단계는,Wherein the interpolation step comprises: 컬러 필터 어레이 패턴의 중심 픽셀이 Ri,j인 경우, 미지의 픽셀 G는 다음 수학식 6을 이용하여 보간하는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 방법.Wherein when the center pixel of the color filter array pattern is R i, j , the unknown pixel G is interpolated using the following equation (6). [수학식 6]&Quot; (6) &quot;
Figure 112009063584975-pat00049
Figure 112009063584975-pat00049
(여기서, G'i,j는 보간된 G 픽셀값이고, ΔGH L, ΔGH R, ΔGV U, ΔGV D 는 각각 좌,우,상,하 방향의 컬러 차이 값들이고, γH L, γH R, γV U, γV D 는 각각 좌,우,상,하 방향의 방향성 가중치들임)(Wherein, G 'i, j is the interpolated G pixel value, ΔG H L, ΔG H R, ΔG V U, ΔG V D are respectively left and right, deulyigo phase, the downward color difference value, γ H L , γ H R , γ V U , and γ V D are directional weights in the left, right, up, and down directions, respectively)
제 3 항에 있어서,The method of claim 3, 상기 보간 단계는,Wherein the interpolation step comprises: 미지의 픽셀 중 G 픽셀을 보간한 다음, 보간한 G 픽셀값(G')을 기초로 미지의 나머지 픽셀값을 보간하는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 방법. Interpolates G pixels among unknown pixels, and interpolates the remaining unknown pixel values based on the interpolated G pixel values (G '). 제 6 항에 있어서,The method according to claim 6, 상기 보간 단계는,Wherein the interpolation step comprises: 컬러 필터 어레이 패턴의 중심 픽셀이 Bi,j인 경우, 미지의 R 픽셀은 다음 수학식 15에 따라 보간되는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 방법.When the center pixel of the color filter array pattern is B i, j , the unknown R pixel is interpolated according to the following expression (15). [수학식 15]&Quot; (15) &quot;
Figure 112009063584975-pat00050
Figure 112009063584975-pat00050
(여기서, R'i,j 및 G'i,j 는 각각 보간된 픽셀값들이고, ΔRH L, ΔRH R, ΔRV U, ΔRV D 는 각각 좌, 우, 상, 하 방향의 컬러 차이 값들이고,
Figure 112009063584975-pat00051
,
Figure 112009063584975-pat00052
,
Figure 112009063584975-pat00053
,
Figure 112009063584975-pat00054
이고, γH L, γH R, γV U, γV D 는 각각 좌, 우, 상, 하 방향의 방향성 가중치들임)
(Wherein, R 'i, j and G' i, j is deulyigo pixel value interpolation, respectively, ΔR H L, ΔR H R, ΔR V U, ΔR V D are each left, right, up, the downward color difference Values,
Figure 112009063584975-pat00051
,
Figure 112009063584975-pat00052
,
Figure 112009063584975-pat00053
,
Figure 112009063584975-pat00054
Γ H L , γ H R , γ V U , and γ V D are the directional weights in the left, right, up, and down directions, respectively.
제 7 항에 있어서,8. The method of claim 7, 상기 컬러 필터 어레이 패턴의 중심 픽셀이 Gi,j인 경우, 상기 수학식 15에서, 좌, 우, 상, 하 방향의 컬러 차이 값들은 각각
Figure 112009063584975-pat00055
,
Figure 112009063584975-pat00056
,
Figure 112009063584975-pat00057
,
Figure 112009063584975-pat00058
인 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 방법.
When the center pixel of the color filter array pattern is G i, j , the color difference values in the left, right, up, and down directions in Equation (15)
Figure 112009063584975-pat00055
,
Figure 112009063584975-pat00056
,
Figure 112009063584975-pat00057
,
Figure 112009063584975-pat00058
Wherein the color filter array pattern is formed on the substrate.
제 1 항에 있어서,The method according to claim 1, 보간된 픽셀값에 알고 있는 픽셀의 고주파 성분값을 더함으로써 보간된 픽셀값을 조정하는 단계를 더 포함하는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 방법.Further comprising the step of adjusting the interpolated pixel value by adding the high frequency component value of the known pixel to the interpolated pixel value. 제 1 항 내지 제 9 항 중 어느 한 항에 따른 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 기록매체.10. A recording medium on which a program for causing a computer to execute the method according to any one of claims 1 to 9 is recorded. 컬러 필터 어레이에 배열된 R,G,B 픽셀들의 패턴 특성에 따라 중심 픽셀을 기준으로 좌,우,상,하 방향의 절대 채널간 차이값들을 계산하여 에지 방향을 검출하는 에지 방향 검출부;An edge direction detecting unit for detecting edge directions by calculating difference values between absolute channels in the left, right, up and down directions with respect to the center pixel according to pattern characteristics of R, G, and B pixels arranged in the color filter array; 상기 R,G,B 픽셀들의 패턴 특성에 따라 좌,우,상,하 방향의 방향성 가중치를 계산하는 가중치 계산부; 및A weight calculation unit for calculating directional weights in left, right, up and down directions according to pattern characteristics of the R, G, and B pixels; And 상기 검출한 에지 방향에 따라 상기 R,G,B 픽셀들로부터 좌,우,상,하 방향의 컬러 차이값 및 상기 계산한 방향성 가중치를 이용하여 미지의 픽셀을 보간하는 보간부를 포함하고,And an interpolator interpolating unknown pixels using color difference values in the left, right, upper, and lower directions from the R, G, and B pixels according to the detected edge direction and the calculated directional weights, 상기 절대 채널간 차이값은 중심 화소의 일 측상에 제1 채널의 컬러 강도 값과 제2 컬러 채널의 이웃하는 화소의 컬러 강도 값의 차이의 절대값에서, 중심 화소의 반대 측상의 제1 채널 화소의 컬러 강도값과 제2 컬러 채널의 이웃하는 화소의 컬러 강도 값의 차이의 절대값의 감산하여 계산되는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 장치.Wherein the absolute channel difference value is a difference between a color intensity value of the first channel and a color intensity value of a neighboring pixel of the second color channel on one side of the center pixel, And the absolute value of the difference between the color intensity value of the first color channel and the color intensity value of the neighboring pixel of the second color channel. 제 11 항에 있어서,12. The method of claim 11, 상기 절대 채널간 차이값들은,The absolute channel-to-channel difference values, 좌,우,상,하 각각의 방향으로 이웃하는 픽셀값들의 차이값들인 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 장치. And the difference values of neighboring pixel values in the left, right, upper, and lower directions. 제 12 항에 있어서,13. The method of claim 12, 상기 에지 방향 검출부는,Wherein the edge direction detecting unit comprises: 상기 좌,우,상,하 방향의 절대 채널간 차이값들로부터 상기 좌,우 방향의 차이값인 수평 차이(DH) 및 상기 상,하 방향의 차이값인 수직 차이(DV)를 각각 계산하는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 장치. The horizontal difference D H, which is the difference between the left and right directional absolute values, and the vertical difference D V , which is the difference value between the left and right directions, Wherein the color filter array pattern is formed on the substrate. 제 13 항에 있어서,14. The method of claim 13, 상기 에지 방향 검출부는,Wherein the edge direction detecting unit comprises: 컬러 필터 어레이 패턴의 중심 픽셀이 Ri,j인 경우, If the center pixel of the color filter array pattern is R i, j , 상기 수평 차이(DH)와 수직 차이(DV)는 다음 수학식 4 및 5를 이용하여 계산 하는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 장치.Wherein the horizontal difference (D H ) and the vertical difference (D V ) are calculated using the following equations (4) and (5). [수학식 4]&Quot; (4) &quot;
Figure 112009063584975-pat00059
Figure 112009063584975-pat00059
[수학식 5]&Quot; (5) &quot;
Figure 112009063584975-pat00060
Figure 112009063584975-pat00060
(여기서, Rp.q 와 Gp,q 는 각각 R 및 G 픽셀의 (p,q)에서의 컬러 강도 값이고, DH L, DH R, DV U, DV D 는 각각 좌,우,상,하에서의 절대 채널간 차이값임)(Wherein, R pq and G p, q in the R and G pixels, respectively (p, q) the color intensity value is, D H L, D H R, D V U, D V D are respectively left and right in, Absolute difference between the upper and lower channels)
제 14 항에 있어서,15. The method of claim 14, 상기 보간부는,Wherein the interpolator comprises: 컬러 필터 어레이 패턴의 중심 픽셀이 Ri,j인 경우, 미지의 픽셀 G는 다음 수학식 6을 이용하여 보간하는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 장치.And the center pixel of the color filter array pattern is R i, j , the unknown pixel G is interpolated using the following equation (6). [수학식 6]&Quot; (6) &quot;
Figure 112009063584975-pat00061
Figure 112009063584975-pat00061
(여기서, G'i,j는 보간된 G 픽셀값이고, ΔGH L, ΔGH R, ΔGV U, ΔGV D 는 각각 좌,우,상,하 방향의 컬러 차이 값들이고, γH L, γH R, γV U, γV D 는 각각 좌,우,상,하 방향의 방향성 가중치들임)(Wherein, G 'i, j is the interpolated G pixel value, ΔG H L, ΔG H R, ΔG V U, ΔG V D are respectively left and right, deulyigo phase, the downward color difference value, γ H L , γ H R , γ V U , and γ V D are directional weights in the left, right, up, and down directions, respectively)
제 13 항에 있어서,14. The method of claim 13, 상기 보간부는,Wherein the interpolator comprises: 미지의 픽셀 중 G 픽셀을 보간한 다음, 보간한 G 픽셀값(G')을 기초로 미지의 나머지 픽셀값을 보간하는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 장치. Interpolates G pixels among unknown pixels, and interpolates the remaining unknown pixel values based on the interpolated G pixel values (G '). 제 16 항에 있어서,17. The method of claim 16, 상기 보간부는,Wherein the interpolator comprises: 컬러 필터 어레이 패턴의 중심 픽셀이 Bi,j인 경우, 미지의 R 픽셀은 다음 수학식 15에 따라 보간하는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 장치.Wherein when the center pixel of the color filter array pattern is B i, j , the unknown R pixel is interpolated according to the following expression (15). [수학식 15]&Quot; (15) &quot;
Figure 112009063584975-pat00062
Figure 112009063584975-pat00062
(여기서, R'i,j 및 G'i,j 는 각각 보간된 픽셀값들이고, ΔRH L, ΔRH R, ΔRV U, ΔRV D 는 각각 좌, 우, 상, 하 방향의 컬러 차이 값들이고,
Figure 112009063584975-pat00063
,
Figure 112009063584975-pat00064
,
Figure 112009063584975-pat00065
,
Figure 112009063584975-pat00066
이고, γH L, γH R, γV U, γV D 는 각각 좌, 우, 상, 하 방향의 방향성 가중치들임)
(Wherein, R 'i, j and G' i, j is deulyigo pixel value interpolation, respectively, ΔR H L, ΔR H R, ΔR V U, ΔR V D are each left, right, up, the downward color difference Values,
Figure 112009063584975-pat00063
,
Figure 112009063584975-pat00064
,
Figure 112009063584975-pat00065
,
Figure 112009063584975-pat00066
Γ H L , γ H R , γ V U , and γ V D are the directional weights in the left, right, up, and down directions, respectively.
제 17 항에 있어서,18. The method of claim 17, 상기 컬러 필터 어레이 패턴의 중심 픽셀이 Gi,j인 경우, 상기 수학식 15에서, 좌, 우, 상, 하 방향의 컬러 차이 값들은 각각
Figure 112009063584975-pat00067
,
Figure 112009063584975-pat00068
,
Figure 112009063584975-pat00069
,
Figure 112009063584975-pat00070
인 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 장치.
When the center pixel of the color filter array pattern is G i, j , the color difference values in the left, right, up, and down directions in Equation (15)
Figure 112009063584975-pat00067
,
Figure 112009063584975-pat00068
,
Figure 112009063584975-pat00069
,
Figure 112009063584975-pat00070
Wherein the color filter array pattern is formed on the substrate.
제 11 항에 있어서,12. The method of claim 11, 보간된 픽셀값에 알고 있는 픽셀의 고주파 성분값을 더함으로써 보간된 픽셀값을 조정하는 조정부를 더 포함하는 것을 특징으로 하는 컬러 필터 어레이 패턴의 특성을 이용한 이미지 보간 장치.And adjusting the interpolated pixel value by adding the high-frequency component value of the known pixel to the interpolated pixel value.
KR1020090098876A 2009-01-16 2009-10-16 Image interpolation method and apparatus using pattern characteristics of color filter array KR101637488B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US12/689,312 US8571312B2 (en) 2009-01-16 2010-01-19 Image interpolation method and apparatus using pattern characteristics of color filter array

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20090003719 2009-01-16
KR1020090003719 2009-01-16

Publications (2)

Publication Number Publication Date
KR20100084458A KR20100084458A (en) 2010-07-26
KR101637488B1 true KR101637488B1 (en) 2016-07-07

Family

ID=42643865

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020090098876A KR101637488B1 (en) 2009-01-16 2009-10-16 Image interpolation method and apparatus using pattern characteristics of color filter array

Country Status (1)

Country Link
KR (1) KR101637488B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11263724B2 (en) 2019-10-02 2022-03-01 Hanwha Techwin Co., Ltd. Device for interpolating colors and method thereof

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2487241A (en) 2011-01-17 2012-07-18 Sony Corp Feature Aligned Interpolation Using Colour Components
KR102003780B1 (en) * 2014-01-02 2019-07-25 한화테크윈 주식회사 Apparatus for interpolating color
KR102116095B1 (en) 2014-03-17 2020-05-27 한화에어로스페이스 주식회사 Method for minimizing color interpolation error
KR102224742B1 (en) 2014-06-10 2021-03-09 삼성디스플레이 주식회사 Image display method
KR101634548B1 (en) * 2015-01-07 2016-07-08 인천대학교 산학협력단 Voting Based Directional Interpolation Method and Its Application to Still Color Image Demosaicking
CN110730336B (en) * 2019-07-02 2021-10-08 珠海全志科技股份有限公司 Demosaicing method and device
CN116309126B (en) * 2023-02-16 2024-01-23 长春理工大学 Five-band multispectral image reconstruction method based on autoregressive model
CN116977173B (en) * 2023-07-12 2024-03-22 武汉大学 Edge optimization Bayer interpolation method based on chromatic aberration and chromatic ratio

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244934A (en) 1998-12-21 2000-09-08 Nikon Corp Interpolation processor and recording medium storing interpolation processing program
US20070110300A1 (en) 2005-11-17 2007-05-17 Hung-An Chang Color interpolation apparatus and color interpolation method utilizing edge indicators adjusted by stochastic adjustment factors to reconstruct missing colors for image pixels

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3612891B2 (en) * 1996-10-02 2005-01-19 松下電器産業株式会社 Outline enhancement method of imaging output of solid-state imaging device
KR100782812B1 (en) * 2005-06-15 2007-12-06 삼성전자주식회사 Method and apparatus for edge adaptive color interpolation

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244934A (en) 1998-12-21 2000-09-08 Nikon Corp Interpolation processor and recording medium storing interpolation processing program
US20070110300A1 (en) 2005-11-17 2007-05-17 Hung-An Chang Color interpolation apparatus and color interpolation method utilizing edge indicators adjusted by stochastic adjustment factors to reconstruct missing colors for image pixels

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11263724B2 (en) 2019-10-02 2022-03-01 Hanwha Techwin Co., Ltd. Device for interpolating colors and method thereof

Also Published As

Publication number Publication date
KR20100084458A (en) 2010-07-26

Similar Documents

Publication Publication Date Title
KR101637488B1 (en) Image interpolation method and apparatus using pattern characteristics of color filter array
US8571312B2 (en) Image interpolation method and apparatus using pattern characteristics of color filter array
US7825965B2 (en) Method and apparatus for interpolating missing colors in a color filter array
US9179113B2 (en) Image processing device, and image processing method, and program
US9582863B2 (en) Image processing apparatus, image processing method, and program
US6816197B2 (en) Bilateral filtering in a demosaicing process
US20080253652A1 (en) Method of demosaicing a digital mosaiced image
CN110730336B (en) Demosaicing method and device
WO2011158572A1 (en) Image processing device, image processing method, and program
JP2000341707A (en) Method for releasing mosaic of image by using directional smoothing operation
US20060291746A1 (en) Method of and apparatus for removing color noise based on correlation between color channels
CN110852953B (en) Image interpolation method and device, storage medium, image signal processor and terminal
CN108734668B (en) Image color recovery method and device, computer readable storage medium and terminal
US20060087567A1 (en) Method and system for de-mosaicing artifact removal, and computer program product therefor
ITVI20110009A1 (en) TEXTURE DETECTION IN IMAGE PROCESSING
WO2008086037A2 (en) Color filter array interpolation
KR100565429B1 (en) Apparatus and method for reconstructing missing color values in a color filter array
KR101692747B1 (en) Improved directional weighted interpolation method for single-sensor camera imaging
KR101327790B1 (en) Image interpolation method and apparatus
Chang et al. Directionally weighted color interpolation for digital cameras
Wang et al. Demosaicing with improved edge direction detection
KR102050352B1 (en) Bayer demosaicking method using bilateral filtering and directional differentiation
KR102119138B1 (en) Bayesian based image restoration method for camera
KR101780726B1 (en) Anti-aliasing FIR filter-based demosaicking
Chang et al. Adaptive color filter array demosaicing with artifact suppression

Legal Events

Date Code Title Description
N231 Notification of change of applicant
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20190627

Year of fee payment: 4