KR100784158B1 - 에지 향상을 위한 컬러 보간 장치 - Google Patents

Abstract

본 발명은 에지 향상을 위한 컬러 보간 장치에 관한 것으로서, 입력되는 베이어 패턴 이미지에 대하여 보간을 수행하고, 이미지의 에지 성분 데이터를 검출하여, 상기 에지 성분 데이터와 에지 파라미터를 이용하여 에지 향상계수를 생성한다. 본 발명에 따르면, 라인 메모리를 줄일 수 있다.

컬러 보간, 에지, 향상, 에지 성분, 에지 파라미터

Description

에지 향상을 위한 컬러 보간 장치{Color interpolation apparatus for edge enhancement}

도 1a는 종래의 컬러 보간 처리 과정을 나타내는 구성도,

도 1b는 종래의 에지 향상 처리 과정을 나타내는 구성도,

도 2는 본 발명에 따른 에지 향상을 위한 컬러 보간 장치의 일실시예 구조도,

도 3은 도 2의 컬러 보간부가 수행하는 보간 방식을 설명하기 위한 개략도,

도 4는 도 2의 컬러 보간부의 제1실시예 상세 구조도,

도 5a 및 도 5b는 도 4의 보간부가 수행하는 컬러 보간을 설명하기 위한 베이어 패턴 이미지의 개략도,

도 6은 도 4의 가우시안 필터부의 일예시도,

도 7a 내지 도 7c는 도 2의 에지 향상계수 생성부에 입력되는 에지 파라미터를 설명하기 위한 일예시도,

도 8은 도 2의 컬러 보간부가 수행하는 보간을 설명하기 위한 개략도,

도 9는 도 2의 컬러 보간부의 제2실시예 상세 구조도,

도 10은 도 9의 라플라시안 필터부의 일예시도.

<도면의 주요 부분에 대한 부호의 설명>

210 : 컬러 보간부 220 : 에지 향상계수 생성부

230 : RGB 변환부 240 : 에지 향상부

본 발명은 에지 향상을 위한 컬러 보간 장치에 관한 것으로서, 보다 상세하게는 영상 처리 시스템에 입력되는 베이어 패턴 이미지가 5×5인 경우 사용하기 위한 에지 향상을 위한 컬러 보간 장치에 관한 것이다.

최근, 멀티미디어 기기의 발전에 따라 복잡한 영상에 대한 영상 처리가 이루어지고 있다. 이러한 영상 처리 과정에서 컬러 보간 및 에지 향상 과정의 수행은 필수적이라 할 수 있다.

도 1a는 종래의 컬러 보간 처리 과정을 나타내는 구성도이며, 도 1b는 종래의 에지 향상 처리 과정을 나타내는 구성도이다.

도면에 도시된 바와 같이, 종래의 컬러 보간 처리 과정은 컬러 보간부(110)에서 보간이 수행된 적녹청(RGB) 데이터가 카메라 신호 처리(camera signal processing; 이하, 간단히 ‘CSP’라 함) 중간처리부(120)를 거쳐 RGB 변환부(130)에서 휘도(luminance; Y) 데이터와, 색차(chrominance; C) 데이터로 변환되게 된 다. 이와 같이 변환된 Y 데이터 및 C 데이터는 영상 처리 시스템의 뒷단에서 노이즈 제거부(140)를 거쳐 에지 향상부(150)에서 에지 향상이 수행된다.

그러나, 이와 같은 종래의 기술은, 에지 향상을 위한 처리와 컬러 보간 처리가 따로 수행되므로, 에지 향상을 위하여 라인 메모리가 필요하게 되는 문제점이 있다.

본 발명은 상기한 바와 같은 문제점을 해결하기 위하여 제안된 것으로, 컬러 보간시 에지 향상을 위한 에지 향상계수를 제공함으로써 라인 메모리를 줄이기 위한, 에지 향상을 위한 컬러 보간 장치를 제공하는데 그 목적이 있다.

상기한 바와 같은 목적을 달성하기 위해, 본 발명의 바람직한 실시예에 따르면, 입력되는 베이어 패턴 이미지에 대하여 보간을 수행하고, 이미지의 에지 성분 데이터를 검출하기 위한 컬러 보간부; 및 상기 에지 성분 데이터와, 에지 파라미터를 이용하여 에지 향상계수를 생성하기 위한 생성부를 포함하는 에지 향상을 위한 에지 향상을 위한 컬러 보간 장치가 제공된다.

이때, 상기 컬러 보간부가 생성한 적(R)/녹(G)/청(B) 데이터를 휘도(Y)/색차(C) 데이터로 변환하기 위한 변환부가 더 포함될 수 있으며, 상기 변환부가 변환한 Y 데이터와 상기 생성부가 생성한 에지 향상계수를 이용하여 에지 향상을 수행 하기 위한 에지 향상부가 더 포함될 수 있다. 이때, 상기 에지 향상부의 출력은, Y 데이터와 상기 에지 향상계수의 합이다.

여기서, 상기 컬러 보간부는, 입력되는 5×5 구조의 상기 베이어 패턴 이미지에 대하여 쌍선형 보간을 수행하여 3×3 데이터를 출력하기 위한 제1보간부; 상기 제1보간부의 출력 데이터에 대하여 데이터의 중간 화소값에 따라 보간을 수행하여 1픽셀의 데이터를 출력하기 위한 제2보간부; 상기 제2보간부의 출력에 대하여, 에지 검출을 수행하여 1픽셀의 상기 에지 성분 데이터를 출력하기 위한 제1연산부; 상기 제1보간부의 출력에 대하여, 에지 검출을 수행하여 3×3 구조의 상기 에지 성분 데이터를 출력하기 위한 제2연산부; 및 상기 제2연산부의 출력에 대하여, 가우시안 필터링(Gaussian filtering)을 수행하여 1픽셀의 데이터를 출력하기 위한 제1필터부를 포함할 수 있으며, 또한, 입력되는 5×5 구조의 상기 베이어 패턴 이미지에 대하여 쌍선형 보간을 수행하여 3×3 데이터를 출력하기 위한 제3보간부; 상기 제3보간부의 출력 데이터에 대하여 데이터의 중간 화소값에 따라 보간을 수행하여 1픽셀의 데이터를 출력하기 위한 제4보간부; 상기 제3보간부의 출력에 대하여, 에지 검출을 수행하여 3×3 구조의 상기 에지 성분 데이터를 출력하기 위한 제3연산부; 및 상기 제3연산부의 출력에 대하여, 라플라시안 필터링(Laplacian filtering)을 수행하여 1픽셀의 데이터를 출력하기 위한 제2필터부를 포함할 수 있다.

이때, 상기 에지 파라미터는, 에지 코어링, 에지 이득, 에지 양의 제한 및 에지 음의 제한 중 적어도 하나 이상을 포함한다.

상기 에지 향상계수는, 상기 제1연산부의 출력, 상기 제1필터부의 출력 및 상기 에지 파라미터에 의해 결정될 수도 있고, 상기 에지 향상계수는, 상기 제2필터부의 출력 및 상기 에지 파라미터에 의해 결정될 수도 있다.

상술한 목적, 특징들 및 장점은 첨부된 도면과 관련한 다음의 상세한 설명을 통하여 보다 분명해 질 것이다. 우선 각 도면의 구성요소들에 참조 번호를 부가함에 있어서, 동일한 구성요소들에 한해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 번호를 가지도록 하고 있음에 유의하여야 한다. 이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 일실시예를 상세히 설명한다.

도 2는 본 발명에 따른 에지 향상을 위한 컬러 보간 장치의 일실시예 구조도이다.

도면에 도시된 바와 같이, 본 발명의 컬러 보간 장치는, 컬러 보간부(210), 에지 향상계수 생성부(220), RGB 변환부(230) 및 에지 향상부(240)를 포함하여 구성된다.

컬러 보간부(210)는 입력되는 베이어 패턴 이미지(bayer pattern image)에 대하여 컬러 보간을 수행하는 기능을 담당한다. 이를 도 3을 참조로 하여 상세하게 설명하기로 하자.

도 3은 도 2의 컬러 보간부가 수행하는 보간 방식을 설명하기 위한 개략도이다. 도면에 도시된 바와 같이, 본 발명의 컬러 보간부(210)는 5×5 베이어 패턴 이미지(310)가 입력되면, 이에 대하여 쌍선형 보간(bilinear interpolation)을 수행하여 3×3로 구성된 출력 이미지(320)를 얻는다. 이에 대하여 보간(이에 대해서 는 추후 설명하기로 한다)을 수행하면 1픽셀의 데이터(330)를 얻게 된다. 이 데이터가 1픽셀로 된 하나의 출력 E_R, E_G, E_B(340)가 되며, 이에 대하여 다시 에지 연산을 수행한 것이 1픽셀로 된 하나의 출력 E_Y(350)가 된다.

다시 3×3 출력 이미지(320)에 대하여, 에지 연산(추후 설명하기로 한다)을 수행하면 3×3 Y_all 이미지(360)을 얻을 수 있고, 이에 대하여 가우시안 필터링(Gaussian filtering)을 수행하면 1픽셀로 된 마지막 하나의 출력 G_Y(370)를 얻을 수 있다. 컬러 보간부(210)는 5×5 베이어 패턴 이미지를 입력으로 하여, 1픽셀 데이터 3개(340, 350, 370)를 그 출력으로 한다. 이제 컬러 보간부(210)의 구성을 설명하기로 하자.

도 4는 도 2의 컬러 보간부의 제1실시예 상세 구조도이다.

도면에 도시된 바와 같이, 본 발명의 컬러 보간부(210)는, 쌍선형 보간부(410), 보간부(420), 에지 연산부1(430), 에지 연산부2(440) 및 가우시안 필터부(450)를 포함하여 구성된다.

쌍선형 보간부(410)는 입력되는 5×5 베이어 패턴 이미지에 대하여 쌍선형 보간을 수행하여 3×3 데이터를 출력하는 기능을 담당한다. 이 쌍선형 보간에 대해서는 이미 공지된 바와 같으므로, 그 상세한 설명은 생략하는 것으로 하겠다.

보간부(420)는 입력되는 3×3 데이터에 대하여 컬러 보간을 수행하는 기능을 담당한다. 이의 동작을 도면을 참조로 설명하기로 하자.

도 5a는 도 4의 보간부가 수행하는 컬러 보간을 설명하기 위한 베이어 패턴 이미지의 개략도로서, RG 라인에서 R 성분인 R3가 중앙 화소인 경우를 나타낸 것이 다. 다만, 도 5a를 참조로 R 성분이 중앙 화소인 경우에 대해서 설명하겠으나, 베이어 패턴 이미지에서 R 성분과 B 성분의 위치가 서로 바뀌는 것을 감안하면, GB 라인에서 중앙 화소가 B 성분인 경우에도 동일하다 할 것이다.

보간부(420)가 수행하는 보간을 위하여 도 5a에서 Rn, Rw, Rs, Re와 Kr1, Kr2, Kr3, Kr4를 각각 다음의 수학식 1 및 수학식 2로 정의하기로 하자.

그러면, 보간부(420)의 G 성분의 출력 E_G는 다음 수학식 3과 같다.

보간부(420)의 보간 방법에 대해서는 종래 알려진 바와 같으므로(예를 들어, Soo-Chang Pei, Fellow, IEEE, Io-Kuong Tam, “Effective Color Interpolation in CCD Color Filter Arrays Using Signal Correlation”, IEEE transaction on circuits and systems for video technology, Vol. 13(6), June 2003) 그 상세한 설명은 생략하는 것으로 하자.

한편, 보간된 B 및 R 성분의 출력(E_B, E_R)을 구하기 위하여, Gwn, Gws, Ges, Gen과 Kb1, Kb2, Kb3, Kb4를 각각 다음의 수학식 4 과 5과 같이 정의하자.

이에 의해 보간된 B 및 R 성분의 출력(E_B, E_R)이 다음 수학식 6 및 수학식 7과 같이 결정된다.

한편, 도 5b는 도 4의 보간부가 수행하는 컬러 보간을 설명하기 위한 베이어 패턴 이미지의 개략도로서, GB 라인에서 G 성분인 G5가 중앙 화소인 경우를 나타낸 것이다. 다만, 도 5b를 참조로 GB 라인에서 G 성분이 중앙 화소인 경우에 대해서 설명하겠으나, 베이어 패턴 이미지에서 R 성분과 B 성분의 위치가 서로 바뀌는 것을 감안하면, RB 라인에서 중앙 화소가 G 성분인 경우에도 동일하다 할 것이다.

도 5b의 베이어 패턴 이미지에서 컬러 보간을 수행하기 위하여 Gn, Gw, Gs, Ge와 Kr1, Kr2, Kb1, Kb2를 각각 다음의 수학식 8 및 수학식 9로 정의하기로 하자.

이에 따라, 도 5b의 경우 보간부(420)의 출력(E_G, E_R 및 E_B)는 다음의 수학식 10 내지 수학식 12와 같다.

이와 같이, 중앙 화소가 G 성분인 경우와 R 또는 B 성분인 경우 각각 출력이 결정된다.

도 4의 에지 연산부1(430)은 보간부(420)의 출력인 E_G, E_R 및 E_B에 대하여 에지 연산을 수행하는 기능을 담당한다. 이 에지 연산을 수식으로 나타내면 다음과 같다.

이때, E_Y는 에지 연산부1(430)의 출력으로 정의한다.

한편, 쌍선형 보간부(410)로부터 3×3 데이터를 입력받은 에지 연산부2(440)는 3×3 데이터에 대하여 에지 검출을 수행하는 에지 연산을 하는 기능을 담당한다. 이 에지 연산은 수학식 14와 같다.

Y_all은 3×3 데이터로서, 입력되는 3×3 데이터에 대하여 각 픽셀을 수학식 14와 같이 연산하여 구한 것이다. 이에 대하여 가우시안 필터부(450)를 통과하 면 1픽셀 데이터인 G_Y가 된다. 도 6은 도 4의 가우시안 필터부의 일예시도이다.

이와 같이, 도 2의 컬러 보간부(210)의 출력은 1픽셀의 E_R, E_G, E_B와, 1픽셀의 E_Y와, 1픽셀의 G_Y이다.

에지 향상계수 생성부(220)는 컬러 보간부(210)의 출력과, 에지 파라미터(edge parameter)를 입력받아, RGB 데이터를 바이패스하고, 에지 향상계수를 생성하는 기능을 담당한다. 이 에지 파라미터는 에지 코어링(edge coring), 에지 이득(edge gain) 및 에지 제한(edge limit) 등을 포함한다. 이를 도 7을 참조로 설명하기로 하자.

도 7a 내지 도 7c는 도 2의 에지 향상계수 생성부에 입력되는 에지 파라미터를 설명하기 위한 일예시도이다.

에지 코어링은 노이즈성 에지 성분을 제거할 뿐 아니라, 작은 에지 성분들이 화면에 노이즈와 같은 형태로 나타나는 것을 막기 위한 것으로, 도 7a와 같이 입력되는 에지값에서 일정 값을 차감하고 일정 값 이하의 에지 성분은 0으로 하는 것이다.

에지 코어링을 거친 에지값에 대하여는 도 7b와 같이 에지 이득이 수행되는데, 입력되는 에지 성분에 대한 출력되는 에지 성분 결과치의 기울기를 변화시켜 줌으로써 큰 에지값과 작은 에지값에 대한 차이를 생성한다. 따라서 화면상에서 뚜렷한 에지 성분은 더욱 뚜렷하게 하고 작은 에지 성분은 거의 변화 없이 유지시킴으로써 보다 선명하고 개선된 화질을 이루도록 하는 것이다.

에지 제한은, 에지 이득 과정에서 추출된 에지 성분의 절대값이 아주 큰 경 우 화면에 특징적으로 나타나는 것을 피하기 위한 것으로, 최대 에지값을 제한하기 위한 것이다. 양의 제한(positive limit)과 음의 제한(negative limit)이 포함된다.

에지 향상계수는, 이러한 에지 파라미터와 컬러 보간부(210)로부터 에지 성분을 검출한 출력인 E_Y 및 G_Y에 의해 결정된다. 다음의 수학식과 같다.

여기서 Srgb는 에지 향상계수이고, ‘edge_component’는 E_Y에서 G_Y를 차감한 값을 말하는 것이다. 에지 향상계수는 ‘edge_engancement’라는 에지 콤포넌트와 에지 파라미터의 함수로써, 시스템에 따라 결정되는 것으로, 그 값이 한정되는 것이 아니다.

한편, 바이패스되는 E_R, E_G, E_B에 대해서 에지 향상계수 생성부(220)의 출력을 각각 R_out, G_out 및 B_out이라 하면, 에지 향상계수 생성부(220)의 출력은 R_out, G_out 및 B_out와 Srgb이다.

RGB 변환부(230)는 R_out, G_out 및 B_out을 입력으로 하여, 이를 YCbCr 데이터로 변환하는 기능을 담당한다. 이를 수학식으로 나타내면 다음과 같다.

다만, RGB 데이터를 YCbCr 데이터로 변환하는 식에 대해서는 이미 널리 알려진 바와 같다 할 것이므로, 위 변환식에 한정되는 것은 아니며, 그 비율에 대해서는 영상 처리 시스템의 종류에 따라 달라질 수 있다.

에지 향상부(240)는 위 RGB 변환부(230)로부터 입력받은 Y 데이터와, 에지 향상계수 생성부(220)로부터 입력받은 에지 향상계수 Srgb를 이용하여 에지를 향상시키는 기능을 담당한다. 이를 수식으로 나타내면 다음과 같다.

한편, 도 2의 컬러 보간부(210)는 다음과 같은 구조로 컬러 보간을 수행할 수도 있다. 도 8은 도 2의 컬러 보간부가 수행하는 보간을 설명하기 위한 개략도이다.

도면에 도시된 바와 같이, 본 발명의 컬러 보간부(210)는 5×5 베이어 패턴 이미지(810)가 입력되면, 이에 대하여 쌍선형 보간을 수행하여 3×3로 구성된 출력 이미지(820)를 얻는다. 이에 대하여 위에서 설명한 바와 같이 보간을 수행하면 1픽셀의 데이터(830)를 얻게 된다. 이 데이터가 1픽셀로 된 하나의 출력 E_R, E_G, E_B이다.

다시 3×3 출력 이미지(820)에 대하여, 에지 연산(추후 설명하기로 한다)을 수행하면 3×3 Y_all 데이터(840)를 얻을 수 있고, 이에 대하여 라플라시안 필터링(Laplacian filtering)을 수행하면 1픽셀로 된 마지막 하나의 출력 S_Y(850)를 얻 을 수 있다. 컬러 보간부(210)는 5×5 베이어 패턴 이미지를 입력으로 하여, 1픽셀 데이터 2개(830, 850)를 그 출력으로 한다.

이제 컬러 보간부(210)의 구성을 설명하기로 하자.

도 9는 도 2의 컬러 보간부의 제2실시예 상세 구조도이다.

도면에 도시된 바와 같이, 본 발명의 컬러 보간부(210)는, 쌍선형 보간부(410), 보간부(420), 에지 연산부(440) 및 라플라시안 필터부(910)를 포함하여 구성된다. 쌍선형 보간부(410), 보간부(420) 및 에지 연산부(440)에 대해서는 위에서 이미 설명한 바와 같으므로 그 상세한 설명은 생략하는 것으로 한다.

라플라시안 필터부(910)는 입력되는 3×3 데이터에 대하여 라플라시안 필터링을 수행하는 기능을 담당한다. 도 10은 도 9의 라플라시안 필터부의 일예시도이다.

도 9와 같은 구성의 컬러 보간부는, 도 4의 구성을 가지는 컬러 보간부에 비해 출력이 2개인 점이 다르다. 따라서, 에지 향상계수 Srgb의 결정시에 ‘edge_component’는 S_Y가 된다.

이상에서 설명한 본 발명은 전술한 실시예 및 첨부된 도면에 의해 한정되는 것이 아니고, 본 발명의 기술적 사상을 벗어나지 않는 범위 내에서 여러 가지 치환, 변형 및 변경이 가능하다는 것이 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 있어 명백할 것이다.

상기한 바와 같은 본 발명은, 컬러 보간시 에지 향상을 위한 에지 향상계수를 생성하여 에지 향상부에 제공함으로써 라인 메모리를 줄이도록 하는 효과가 있다.

Claims (9)

1. 입력되는 베이어 패턴 이미지에 대하여 보간을 수행하고, 이미지의 에지 성분 데이터를 검출하기 위한 컬러 보간부;

   상기 에지 성분 데이터와, 에지 파라미터를 이용하여 에지 향상계수를 생성하기 위한 생성부; 및

   상기 컬러 보간부가 생성한 적(R)/녹(G)/청(B) 데이터를 휘도(Y)/색차(C) 데이터로 변환하기 위한 변환부를 포함하는 컬러 보간 장치.
2. 삭제
3. 제1항에 있어서, 상기 변환부가 변환한 Y 데이터와 상기 생성부가 생성한 에지 향상계수를 이용하여 에지 향상을 수행하기 위한 에지 향상부를 더 포함하는 컬러 보간 장치.
4. 제3항에 있어서, 상기 에지 향상부의 출력은, Y 데이터와 상기 에지 향상계수의 합인 컬러 보간 장치.
5. 제1항에 있어서, 상기 컬러 보간부는,

   입력되는 5×5 구조의 상기 베이어 패턴 이미지에 대하여 쌍선형 보간을 수행하여 3×3 데이터를 출력하기 위한 제1보간부;

   상기 제1보간부의 출력 데이터에 대하여 데이터의 중간 화소값에 따라 보간을 수행하여 1픽셀의 데이터를 출력하기 위한 제2보간부;

   상기 제2보간부의 출력에 대하여, 에지 검출을 수행하여 1픽셀의 상기 에지 성분 데이터를 출력하기 위한 제1연산부;

   상기 제1보간부의 출력에 대하여, 에지 검출을 수행하여 3×3 구조의 상기 에지 성분 데이터를 출력하기 위한 제2연산부; 및

   상기 제2연산부의 출력에 대하여, 가우시안 필터링(Gaussian filtering)을 수행하여 1픽셀의 상기 에지 성분 데이터를 출력하기 위한 제1필터부를 포함하는 컬러 보간 장치.
6. 제1항에 있어서, 상기 컬러 보간부는,

   입력되는 5×5 구조의 상기 베이어 패턴 이미지에 대하여 쌍선형 보간을 수행하여 3×3 데이터를 출력하기 위한 제3보간부;

   상기 제3보간부의 출력 데이터에 대하여 데이터의 중간 화소값에 따라 보간을 수행하여 1픽셀의 데이터를 출력하기 위한 제4보간부;

   상기 제3보간부의 출력에 대하여, 에지 검출을 수행하여 3×3 구조의 데이터를 출력하기 위한 제3연산부; 및

   상기 제3연산부의 출력에 대하여, 라플라시안 필터링(Laplacian filtering)을 수행하여 1픽셀의 상기 에지 성분 데이터를 출력하기 위한 제2필터부를 포함하는 컬러 보간 장치.
7. 제1항에 있어서, 상기 에지 파라미터는, 에지 코어링, 에지 이득, 에지 양의 제한 및 에지 음의 제한 중 적어도 하나 이상을 포함하는 컬러 보간 장치.
8. 제5항 또는 제7항 중 어느 한 항에 있어서, 상기 에지 향상계수는, 상기 제1연산부의 출력, 상기 제1필터부의 출력 및 상기 에지 파라미터에 의해 결정되는 컬러 보간 장치.
9. 제6항 또는 제7항 중 어느 한 항에 있어서, 상기 에지 향상계수는, 상기 제2필터부의 출력 및 상기 에지 파라미터에 의해 결정되는 컬러 보간 장치.

Images