KR20060000715A - 이미지 센서의 화질 개선장치 및 방법 - Google Patents

이미지 센서의 화질 개선장치 및 방법 Download PDF

Info

Publication number
KR20060000715A
KR20060000715A KR1020040049656A KR20040049656A KR20060000715A KR 20060000715 A KR20060000715 A KR 20060000715A KR 1020040049656 A KR1020040049656 A KR 1020040049656A KR 20040049656 A KR20040049656 A KR 20040049656A KR 20060000715 A KR20060000715 A KR 20060000715A
Authority
KR
South Korea
Prior art keywords
black level
video signal
signal
value
correction
Prior art date
Application number
KR1020040049656A
Other languages
English (en)
Other versions
KR100617781B1 (ko
Inventor
권성근
이건일
송규익
한찬호
장수욱
김은수
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020040049656A priority Critical patent/KR100617781B1/ko
Priority to US11/159,223 priority patent/US7639292B2/en
Priority to CNB2005100800385A priority patent/CN100399798C/zh
Publication of KR20060000715A publication Critical patent/KR20060000715A/ko
Application granted granted Critical
Publication of KR100617781B1 publication Critical patent/KR100617781B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/82Camera processing pipelines; Components thereof for controlling camera response irrespective of the scene brightness, e.g. gamma correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/571Control of the dynamic range involving a non-linear response
    • H04N25/575Control of the dynamic range involving a non-linear response with a response composed of multiple slopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/62Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
    • H04N25/626Reduction of noise due to residual charges remaining after image readout, e.g. to remove ghost images or afterimages
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Nonlinear Science (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Studio Devices (AREA)

Abstract

본 발명은 CMOS 이미지 센서를 사용하여 이미지를 촬영하는 장치에서 촬상된 이미지에 대한 화질을 개선하기 위한 장치 및 방법을 제안한다. 이를 위해 본 발명에서는 촬상된 영상신호에 대한 블랙 레벨을 조정하고, 상기 블랙 레벨이 조정된 영상신호에 대한 니 보정을 통해 표현 가능한 영상신호의 밝기를 확장한다. 또한 영상신호에 대한 감마 보정에 선행하여 불량 화소를 복원하는 보간이 이루어질 수 있도록 한다.
CMOS image sensor, black level, knee correction, white balance, gamma correction

Description

이미지 센서의 화질 개선장치 및 방법{APPARATUS AND METHOD FOR IMPROVING IMAGE QUALITY IN A IMAGE SENSOR}
도 1은 통상적인 이미지 처리 절차를 보이고 있는 도면.
도 2는 본 발명의 실시 예에 따른 이미지 처리장치의 구조를 보이고 있는 도면.
도 3 내지 도 5는 도 2에서의 영상신호 조정부의 예들을 보이고 있는 도면.
도 6은 노광 시간을 조절함으로써, 입력 영상신호와 휘도(Luminance)의 관계를 보이고 있는 도면.
도 7은 노광 시간과 기울기의 비(Gradient ratio)간의 관계를 보이고 있는 도면.
도 8은 본 발명의 실시 예에 따른 블랙 레벨의 측정을 설명하기 위한 도면.
도 9는 본 발명의 실시 예에 따른 블랙 레벨 조정을 통해 이미지 데이터의 입력 밝기와 출력 밝기의 관계를 보이고 있는 도면.
도 10은 본 발명의 실시 예에 따른 knee 보정에 의한 입/출력 영상신호의 관계를 보이고 있는 도면.
도 11은 통상적인 감마 보정을 개념적으로 보이고 있는 도면.
도 12는 본 발명의 실시 예에 따른 감마 보정을 통해 획득하고자 하는 영상신호의 출력 파형을 보이고 있는 도면.
도 13은 본 발명의 실시 예에 따른 감마 보정을 설명하기 위한 도면.
도 14는 본 발명의 실시 예에 따른 knee 보정 절차를 위한 제어 흐름을 보이고 있는 도면.
본 발명은 이미지 센서에 관한 것으로, 특히 촬상된 이미지의 화질을 개선하기 위한 장치 및 방법에 관한 것이다.
최근 들어 영상기기의 급속한 발전으로 인해 이미지 센서에 대한 개발이 가속화되고 있다. 상기 이미지 센서는 빛에 반응하는 반도체의 성질을 이용하여 이미지를 찍어내는 장치를 통칭한다. 통상적으로 자연계에 존재하는 피사체의 각 부분은 빛의 밝기 및 파장 등이 서로 다르다. 따라서 상기 이미지 센서는 렌즈를 통해 빛의 밝기 및 파장 등에 의해 얻어진 빛 에너지(광자)를 전기적인 신호(전하)로 변환하는 기능을 수행한다. 이러한 이미지 센서의 대표적인 것으로, 전하결합소자(Charge Coupled Device : 이하 CCD라 칭함) 이미지 센서와 상보성 금속 산화막 반도체(Complimentary Metal Oxide Semiconductor : 이하 CMOS라 칭함) 이미지 센서가 있다. 상기 두 종류의 이미지 센서들은 주사된 빛에서 그 강약에 따 른 전하를 생성하는 광 검출기(Photo Detector)와, 그 전하를 외부로 전달하는 회로로 구성된다. 이러한 구성을 가지는 상기 두 종류의 센서들은 광 검출기를 통해 전하를 생성하는데 까지는 같은 과정을 거치지만, 그 이후에 이루어지는 전하 처리 방식에 큰 차이가 있다.
상기 CCD 이미지 센서는 전하의 전송을 담당하는 것이 CCD라고 불리는 소자다. 상기 CCD 이미지 센서는 디지털카메라나 비디오카메라 등을 중심으로 오래 전부터 채용되고 있다.
상기 CMOS 이미지 센서는 CCD 대신에 CMOS 트랜지스터의 스위치 기능을 이용해 전하를 처리한다. 상기 CMOS 이미지 센서는 광 검출기마다 스위치를 갖고 있기 때문에 어느 장소의 전하라도 직접 처리할 수 있는 것이 특징이다. 따라서 상기 CCD 이미지 센서와 비교해 읽어내기가 빠르고, 소비전력도 적다. 또한 상기 CMOS 이미지 센서는 전 세계적으로 컴퓨터 칩을 만드는데 사용되는 공정과 매우 유사한 공정에 의해 만들어 진다. 따라서 이미지 센서의 회로와 화상처리회로 등을 혼용해서 배치하는 것도 가능하다.
이러한 CMOS 이미지 센서는 휴대전화나 소형 디지털카메라 등에서 많이 채용되어 왔다. 하지만, 최근에는 고급 디지털카메라 등에도 채용되고 있어, CCD 이미지 센서를 위협하는 존재로 성장하고 있다.
상기 CMOS 이미지 센서는 하나의 픽셀(Pixel)을 단위로 하는 셀의 내부에 하나 이상의 트랜지스터와 포토다이오드로 화상을 촬상한다. 즉, 평면상으로 나열된 포토다이오드의 광/전 변환에 의해 발생한 전하를 내부의 트랜지스터로 증폭하고, 이를 스위치 회로를 통해 1 화소 씩 독출하는 이미지 캡쳐 장치(Image Capture Device)이다. 따라서 각 화소마다 증폭기능을 갖기 때문에 고감도 및 높은 신호대 잡음비(High SNR)를 얻을 수 있는 가능성이 크다. 또한 수평, 수직의 신호 선을 각각 하나씩 선택해서 임의의 화소를 독출할 수 있는 랜덤 액세스(Random Access) 기능을 갖는다.
따라서 상기 CMOS 이미지 센서는 표준 CMOS 처리 기술에 기반을 두고 있기 때문에 칩 사이즈의 소형화, 카메라의 경량화, 주변의 구동회로를 포함한 온-칩(On-Chip)화 가능, 저전력 소비가 가능할 뿐만 아니라 신호전하에 비례한 전류의 증폭으로 미약한 조도에서 촬상이 가능하다는 장점을 가진다.
하지만 CMOS 이미지센서를 사용하는 디지털 카메라의 경우 하기와 같은 문제점으로 인해 최상의 화질을 제공할 수 없는 문제점을 가진다.
첫 번째로, CMOS 센서의 픽셀 배열부에 사용되는 소자는 온도의 변화에 민감하여 그 변화되는 온도에 따라 암 전류를 발생한다. 이는 영상신호에 원치 않는 블랙 레벨이 포함되는 원인이 된다.
두 번째로, CMOS 이미지 센서를 사용하는 디지털 카메라의 경우 광량이 큰 형광등 등의 피사체를 찰영할 시 영상신호의 포화로 인해 고스트 이미지가 발생한다.
세 번째로, 감마 보정이 이루어진 영상신호에 대해 보간을 수행하게 되면, 보간에 의해 복원된 불량 화소에 대응하여 감마 보정을 위한 최적의 값을 획득할 수 없다.
따라서 상기한 바와 같은 문제점을 해결하기 위한 본 발명의 목적은 카메라의 화질을 개선하기 위한 장치 및 방법을 제공함에 있다.
본 발명의 다른 목적은 화이트 레벨에서 명암이 포화되는 현상을 최소화하는 장치 및 방법을 제공함에 있다.
본 발명의 또 다른 목적은 포화 영역이 발생하지 않도록 노광 시간을 조절하고, 영상신호 이득을 통해 노광 시간을 보상하는 장치 및 방법을 제공함에 있다.
본 발명의 또 다른 목적은 영상신호가 포화 되는 시점을 지연시킴으로써, 고스트 이미지의 발생을 최소화하는 이미지 처리장치 및 방법을 제공함에 있다.
본 발명의 또 다른 목적은 불량 화소에 대한 복원이 이루어진 영상신호에 대해 감마 보정을 수행하는 이미지 센서와 이를 위한 방법을 제공함에 있다.
본 발명의 또 다른 목적은 화이트 보상을 위한 이득 값을 니 보정을 위해 사용하는 이미지 처리 장치 및 방법을 제공함에 있다.
본 발명의 또 다른 목적은 픽셀 배열부를 구성하는 픽셀들 중 촬상 시 빛이 인가되지 않는 픽셀을 통해 블랙 레벨 값을 측정하는 장치 및 방법을 제공함에 있다.
본 발명의 또 다른 목적은 아날로그 영상신호에 대해 블랙 레벨 조정 및 니 보정을 수행하는 이미지 처리 장치 및 방법을 제공함에 있다.
본 발명의 또 다른 목적은 디지털 영상신호에 대해 블랙 레벨 조정 및 니 보정을 수행하는 이미지 처리 장치 및 방법을 제공함에 있다.
본 발명의 또 다른 목적은 영상신호의 밝기에 대응하여 서로 다른 이득 값을 부여함으로써 니 보정을 수행하는 이미지 처리 장치 및 방법을 제공함에 있다.
본 발명의 또 다른 목적은 잡음 성분으로 인해 발생하는 누설 전류(dark current)를 보상하는 장치 및 방법을 제공함에 있다.
상기한 목적을 달성하기 위한 제1견지에 있어서, 본 발명은 소정 노광 시간에 의해 피사체를 촬상하고, 상기 촬상에 의해 인가되는 광 신호를 영상신호로 출력하는 디지털 카메라에서 상기 영상신호의 화질을 개선하는 이미지 처리 방법에 있어서, 암 전류로 인해 야기되는 블랙 레벨 값을 측정하고, 상기 측정한 블랙 레벨 값에 의해 상기 영상신호에 대한 블랙 레벨을 조정하는 과정과, 상기 영상신호의 입력 밝기를 소정 개수의 영역들로 구분하고, 상기 소정 영역 별로 서로 다른 이득 값을 부여함으로써, 상기 블랙 레벨이 조정된 영상신호의 밝기를 포함하는 영역에 부여된 이득 값으로 상기 영상신호에 대한 니 보정을 수행하는 과정과, 상기 니 보정이 이루어진 영상신호를 입력하고, 상기 영상신호를 구성하는 불량 화소에 대한 보간을 통해 상기 불량 화소를 복원하는 과정과, 상기 불량 화소가 복원된 영상신호에 대해 감마 보정을 수행하는 과정과, 상기 감마 보정된 영상신호로부터 휘도 성분과 색도 성분을 분리하여 출력하는 과정과, 상기 휘도 성분을 입력으로 하여 상기 블랙 레벨 조정 및 상기 니 보정을 위해 요구되는 노광 시간을 출력하는 과정과, 상기 색 신호를 입력으로 하여 상기 니 보정을 위한 이득 값을 출력하는 과정을 포함하며, 상기 소정 개수의 영역들은 미리 결정된 적어도 하나의 기준 밝기를 변곡점으로 할 때 상기 변곡점에 의해 구분되는 입력 밝기의 범위들로써, 화 이트 포화 시점에 근접할수록 상대적으로 작은 이득 값이 부여됨을 특징으로 한다.
상기한 목적을 달성하기 위한 제2견지에 있어서, 본 발명은 소정 노광 시간에 의해 피사체를 촬상하고, 상기 촬상에 의해 인가되는 광 신호를 영상신호로 출력하는 디지털 카메라에서 상기 영상신호의 화질을 개선하는 이미지 처리 장치에 있어서, 암 전류로 인해 야기되는 블랙 레벨 값에 의해 상기 영상신호에 대한 블랙 레벨을 조정하고, 상기 영상신호의 입력 밝기를 구분하는 소정 개수의 영역 별로 서로 다른 이득 값을 부여함으로써, 상기 블랙 레벨이 조정된 영상신호의 밝기를 포함하는 영역에 부여된 이득 값으로 상기 영상신호에 대한 니 보정을 수행하는 영상신호 조정부와, 상기 니 보정이 이루어진 영상신호를 입력하고, 상기 영상신호를 구성하는 불량 화소에 대한 보간을 통해 상기 불량 화소를 복원하는 보간 및 픽셀 보정부와, 상기 불량 화소가 복원된 영상신호에 대해 감마 보정을 수행하는 감마 보정부와, 상기 감마 보정된 영상신호로부터 휘도 성분과 색도 성분을 분리하여 출력하는 색공간 변환부와, 상기 휘도 성분을 입력으로 하여 상기 블랙 레벨 조정 및 상기 니 보정을 위해 요구되는 노광 시간을 출력하는 자동 노광 조정부와, 상기 색 신호를 입력으로 하여 상기 니 보정을 위한 이득 값을 출력하는 자동 화이트 밸런스 조정부를 포함하며, 상기 소정 개수의 영역들은 미리 결정된 적어도 하나의 기준 밝기를 변곡점으로 할 때 상기 변곡점에 의해 구분되는 입력 밝기의 범위들로써, 화이트 포화 시점에 근접할수록 상대적으로 작은 이득 값이 부여됨을 특징으로 한다.
이하 본 발명에 따른 바람직한 실시 예들을 첨부한 도면을 참조하여 상세히 설명한다. 하기의 설명에서는 본 발명에 따른 동작을 이해하는데 필요한 부분만이 설명되며 그 이외 부분의 설명은 본 발명의 요지를 흩트리지 않도록 생략될 것이라는 것을 유의하여야 한다.
후술 될 본 발명에서는 화질을 개선하기 위해 원하지 않는 화상 데이터를 제거하거나 복원하고, 기존의 이미지 처리 순서를 변경한다. 즉 본 발명에서는 노광 시간을 이용하여 이미지 데이터가 가지는 블랙 레벨(black level)을 강제로 조정하고, 이를 색 신호 이득(G gain, R gain, B gain)을 조정함으로써 보상한다. 상기 블랙 레벨은 암 전류(dark current)로 인해 발생한다. 상기 암 전류는 CMOS 이미지 센서에 사용되는 광 다이오드에서 입사광에 의해 상승하는 온도가 주요 원인이 된다. 따라서 상기 블랙 레벨은 완전히 차광된 광 다이오드의 암 전류를 기준으로 측정할 수 있다.
그리고 본 발명에서는 영상신호로써 입력될 수 있는 입력 밝기를 소정 구간으로 구분하고, 각 구간 별로 영상신호에 대한 이득 값을 달리함으로써, 보다 넓은 범위의 영상신호가 표현될 수 있도록 한다. 이때 상기 이득 값은 포화점에 인접한 구간에 대해 상대적으로 작은 값이 부여되도록 한다.
또한 본 발명에서는 영상신호에 대한 보간을 우선적으로 수행하고, 상기 보간에 의해 불량 화소가 복원된 영상신호에 대해 감마 보정을 수행하도록 한다. 이는 정상적인 화소들에 대해 감마 보정을 위한 보정 픽셀 값들을 구하고, 상기 보정 픽셀 값에 의해 불량 화소를 복원하게 되면 영상신호를 표시하는 단계에서의 감마 보정에 오차가 발생하는 것을 방지하게 된다.
이하 본 발명의 실시 예에 따른 동작을 첨부된 도면을 참조하여 상세히 설명하도록 한다.
도 1은 통상적인 이미지 처리 절차를 보이고 있는 도면이다. 상기 도 1을 통해 보이고 있는 이미지 처리 절차는 CMOS 이미지 센서가 사용된 경우를 가정하고 있다. 하지만 당업자라면 화상 신호를 처리하기 위한 장치에 용이하게 적용할 수 있음은 자명할 것이다.
상기 도 1을 참조하면, 광학부(110)는 렌즈를 통해 피사체를 촬상하고, 상기 촬상에 의해 얻어진 빛 에너지(광자)를 출력한다. 픽셀 배열부(Pixel Array)(112)는 수만에서 수십만 개의 픽셀(pixel)들로 구성되며, 상기 광학부(110)의 렌즈를 통해 입사되는 광 신호를 아날로그의 전기적인 신호(전하)로 변환하여 출력한다. 이때 상기 픽셀 배열부(112)는 이미지 처리부(114)로부터 제공되는 타이밍 신호(timing signal)와 센서 제어 신호(sensor control signal)에 의해 동작한다. 상기 타이밍 신호에 의해서는 상기 광 신호를 받아들이는 시간 등이 제어될 수 있다. 상기 광 신호를 받아들이는 시간은 추후 표시되는 이미지의 밝기뿐만 아니라 색상에 지대한 영향을 미치게 된다. 또한 상기 타이밍 신호는 본 발명의 실시 예에 따른 블랙 레벨 조정 및 knee 보정을 위해 사용된다.
상기 이미지 처리부(114)는 상기 픽셀 배열부(Pixel Array)(112)로부터의 전 기적 신호에 의해 레드(R), 그린(G), 블루(B)로 이루어진 영상신호에 대한 이미지 처리를 수행한다. 그 후 상기 이미지 처리에 의해 얻어진 완전한 영상신호를 출력한다. 그리고 상기 이미지 처리부(114)는 상기 출력되는 영상신호를 보정하기 위한 타이밍 신호 및 센서 제어 신호를 생성하고, 이를 상기 픽셀 배열부(112)로 제공한다.
상기 이미지 처리부(114)로부터의 영상신호는 표시부(116)를 통해 표시되거나 저장부(118)에 기록된다. 상기 표시부(116)는 다양한 표시 창(CRT, LCD 등)과, 상기 표시 창을 통해 이미지를 표시하기 위해 상기 영상신호를 처리하기 위한 구성을 포함한다. 상기 저장부(118)에 저장된 영상신호는 추후에 다양하게 응용될 수 있다. 한편 상기 도면에는 도시 되고 있지 않으나 상기 이미지 처리부(114)로부터 출력되는 영상신호 또는 상기 저장부(118)에 저장된 영상신호는 프린터를 통한 인쇄가 가능하다.
도 2에서는 본 발명의 실시 예에 따른 이미지 처리부의 구체적인 구조를 보이고 있다. 한편 상기 도 2에서는 본 발명의 실시 예를 설명함에 있어 발명의 요지를 흐릴 수 있는 불필요한 구성에 대해서는 생략하고 있다.
상기 도 2를 참조하면, 영상신호 조정부(210)는 픽셀 배열부로부터의 영상신호와 함께 상기 영상신호를 조정하기 위한 제어 신호(control signal)를 입력으로 한다. 상기 제어 신호는 R 신호와 B 신호의 이득 값을 포함한다. 상기 R 신호와 상기 B 신호의 이득 값은 수동으로 조정할 수 있으나 본 발명에서는 자동으로 조정됨을 가정한다. 상기 R 신호와 B 신호의 이득 값은 화이트 보정뿐만 아니라 knee 보 정을 위해 사용된다. 상기 영상신호 조정부(210)는 상기 제어 신호에 의해 상기 영상신호에 대한 화이트 보정뿐만 아니라 블랙 레벨 조정 및 knee 보정을 수행한다.
상기 화이트 보정은 영상신호 중 R 신호 및 B 신호에 대한 이득을 조정함으로써, 원하는 화이트 색상을 가지는 영상신호가 출력될 수 있도록 한다. 상기 R 신호와 B 신호 외의 영상신호인 G 신호의 이득 값은 통상적으로 고정된다. 따라서 고정된 G 신호의 이득 값에 대응하여 R 신호와 B 신호의 이득 값을 조정함으로써 화이트 보정을 수행할 수 있다. 통상적으로 R 신호와 G 신호 및 B 신호의 비율이 균등할 때 화이트 색상을 얻게 된다.
상기 블랙 레벨 조정은 암 전류로 인해 영상신호가 가지는 블랙 레벨을 조정함으로써, 원하는 블랙 색상이 표현될 수 있도록 한다. 이때 상기 영상신호에 대해 블랙 레벨을 조정하게 되면, 소정 영역에서의 출력 영상신호를 얻을 수 없게 된다. 따라서 이를 감안한 블랙 레벨 조정이 이루어져야 한다.
상기 knee 보정은 조명 등과 같은 피사체를 촬영할 시 영상신호의 포화로 인해 이미지가 정상적으로 표현되지 못하고, 고스트 이미지(ghost image)가 발생하는 현상을 방지한다. 이를 위해 입력 영상신호에 대한 출력 영상신호의 관계를 표현하는 그래프의 기울기를 특정 변곡점(knee point)을 기준으로 달리한다. 즉 상기 그래프의 시작점으로부터 영상신호가 포화되기 시작하는 시점 이전의 임의의 변곡점까지의 제1기울기와 상기 변곡점에서 인가될 수 있는 최대 입력 영상신호까지의 제2기울기를 달리하는 것이다. 물론 상기 제2기울기는 상기 제1기울기에 비해 상대적으로 완만하여야 한다. 또한 상기 변곡점은 복수 개가 존재할 수 있다. 복수 개 의 변곡점들이 존재하는 경우에는 상기 변곡점들에 대응하여 다양한 기울기들에 의해 상기 그래프가 형성될 것이다. 따라서 상기 knee 보정을 수행하게 되면, 기존에 포화영역에 해당하는 입력 영상신호에 대해서는 표현 가능한 소정의 출력 영상신호를 얻을 수 있게 된다.
상기 화이트 보정, 블랙 레벨 조정 및 knee 보정에 대한 구체적인 동작 설명은 후술하도록 한다.
상기 영상신호 조정부(210)로부터 출력되는 영상신호는 보간 및 픽셀 보정부(212)로 제공된다. 상기 보간 및 픽셀 보정부(212)는 상기 영상신호의 불량 화소(dead pixel)에 대한 보간(Interpolation)을 수행한다. 그리고 상기 영상신호의 픽셀들에 대한 보정을 수행한다. 상기 불량 화소는 영상신호를 구성하는 화소들 중 잃어버린 화소를 가리킨다. 상기 보간을 통해서는 상기 불량 화소의 정보를 그 주위의 화소들에 대한 정보를 이용함으로써 추론 할 수 있다.
상기 보간을 위한 알고리즘은 크게 비적응적 알고리즘(Nonadaptive algorithms)과 적응적 알고리즘(Adaptive algorithms)으로 나누어진다. 상기 비적응적 알고리즘은 모든 화소들에 대해서 고정된 패턴으로 보간하는 알고리즘으로 수행이 쉽고, 계산 양이 적은 장점이 있다. 상기 적응적 알고리즘은 잃어버린 화소의 값을 찾기 위해 가장 효과적인 이웃 화소들의 특성을 이용하여 추정하는 알고리즘으로 계산양은 많지만 비적응적 알고리즘에 비해 더 나은 영상을 얻을 수 있다. 상기 비적응적 알고리즘의 방법에는 가장 인접한 이웃 화소 보간법, 양선형 보간법, 중간값 보간법, 점진적 색상 변화 보간법의 방법이 있으며, 상기 적응 알고리즘의 방법에는 패턴 일치 보간 알고리즘, 기울기의 문턱치 기반 가변수를 이용한 보간법, 경계법 보존 보간법 등의 방법이 있다. 본 발명의 구현함에 있어서는 사용되는 보간 알고리즘에 대해 개의치 않는다.
상기 보간 및 픽셀 보정부(212)로부터의 영상신호는 컬러 보정부(214)로 제공된다. 상기 컬러 보정부(214)는 상기 영상신호를 표준 영상신호로 보정한다. 즉 입력되는 R 신호, G 신호 및 B 신호를 표준 R 신호(sR), 표준 G 신호(sG) 및 표준 B 신호(sB)로 보정한다. 하기 <수학식 1>에서는 상기 컬러 보정을 위한 일반화된 방안을 제안한다.
Figure 112004028593892-PAT00001
여기서, MCSC는 비표준 카메라의 전달 특성을 표준 카메라의 전달 특성과 같게 만들어 주기 위한 표준 카메라의 전달 특성 매트릭스이며, MC -1는 비표준 카메라의 전달 특성 매트릭스의 역매트릭스이다.
이때
Figure 112004028593892-PAT00002
,
Figure 112004028593892-PAT00003
를 가정할 때, MCSC는 상기 <수학식 1>에 의해
Figure 112004028593892-PAT00004
가 된다.
상기 표준 영상신호는 감마 보정부(216)로 제공된다. 통상적으로 감마(gamma)는 콘트라스트 상태를 나타내는 척도로 특성곡선의 경사도, 즉 농도의 변화/노광량의 변화를 말한다. 그리고 CRT 등과 같은 표시장치는 영상신호의 입력 전압에 대한 전자 빔 전류의 관계는 비선형적이며, 빔 전류에 대한 화상의 밝기는 선형적이다. 즉 영상신호의 입력 전압에 대한 화상의 밝기가 비선형적이다. 따라서 상기 감마 보정부(216)는 상기 표시장치의 비선형적인 특성을 고려하여 최종 영상신호가 선형성을 가질 수 있도록 상기 표준 영상신호에 대한 감마 보정을 수행한다. 즉 상기 감마 보정부(216)는 상기 표시장치가 가지는 비선형적인 특징을 보정한다. 이는 상기 표준 영상신호가 상기 표시장치가 가지는 비선형성을 보정할 수 있는 비선형성의 커브를 갖도록 하는 것이다. 도 11에서는 그 예를 보이고 있다. 상기 도 11에서 참조번호 1120은 표시장치가 가지는 비선형적인 특성을 보이고 있는 커브이며, 참조번호 1110은 최종적으로 얻고자 하는 선형적인 영상신호의 커브를 보이고 있다. 참조번호 1100은 상기 참조번호 1120의 커브를 보상하기 위해 감마 보정된 영상신호의 비선형적인 특성을 보이고 있는 커브이다. 결과적으로 상기 감마 보정부(216)는 상기 참조번호 1100으로 보이고 있는 커브를 갖도록 상기 표준 영상신호를 보정한다.
상기 감마 보정된 영상신호(sR', sG', sB')는 색공간 변환부(218)로 제공된다. 상기 색공간 변환부(218)는 초당 요구되는 프레임 수를 출력하기 위해 상기 감마 보정된 영상신호의 픽셀을 변환한다. 상기 색공간 변환부(216)로부터는 휘도 성분(Y)과 색도 성분(Cb, Cr)이 출력된다. 상기 Y 신호는 출력 영상신호의 휘도 성분 에 해당하며, 상기 Cb, Cr 신호는 출력 영상신호의 색도 성분에 해당한다. 따라서 상기 Cb, Cr 신호는 자동 화이트 밸런스 조정부(220)로 제공되며, 상기 Y 신호는 자동 노광 조정부(222)로 제공된다.
상기 자동 노광 조정부(222)는 렌즈를 통해 들어오는 빛의 양을 상기 Y 신호에 의해 감지하고, 상기 빛의 양에 의해 조리개의 열림 정도를 제어하는 노광 시간(Exposure Time)을 조정한다. 예컨대 빛의 양이 작아 출력 이미지가 전반적으로 어두운 경우에는 노광 시간을 증가시키는 조정을 행한다. 반대로 빛의 양이 커서 고스트 이미지가 출력되는 경우에는 노광 시간을 줄이는 조정을 행한다. 한편 상기 노광 시간의 조정에 있어서는 블랙 레벨의 발생 원인인 암 전류가 감안되어야 한다. 이는 본 발명에서 제안하는 블랙 레벨 조정에 따른 것이다. 상기 노광 시간은 소정 단계들(보통 1/50s부터 1/10000s까지 8단계 혹은 15단계)로 구분하여 조정될 수 있다. 통상적으로 이미지 처리에 있어 어두운 이미지에 대해서는 보상이 쉬운 반면 고스트 이미지에 대해서는 보상이 거의 불가능하다. 따라서 본 발명에서는 전반적으로 어두운 이미지의 영상신호를 입력 받아 이를 보상하기 위해 상기 자동 노광 조정부(222)가 노광 시간을 강제로 줄이도록 하고 있다. 이와 같이 노광 시간을 강제로 줄이는 정도는 암 전류로 인해 발생하는 블랙 레벨에 의해 정할 수 있다.
상기 노광 시간은 타이밍 생성 및 센서 제어부(224)로 입력된다. 상기 타이밍 생성 및 센서 제어부(224)는 상기 노광 시간뿐만 아니라 마스터 클럭을 입력으 로 한다. 상기 타이밍 생성 및 센서 제어부(224)는 상기 노광 시간과 마스터 클럭에 의해 타이밍 신호 및 센서 제어 신호를 생성한다.
도 6에서는 노광 시간을 조정함으로써, 12비트 레벨로 표현되는 입력 영상신호와 휘도(Luminance)의 관계에 따른 그래프(knee 커브)가 변화되는 것을 보이고 있다. 상기 그래프들은 상기 노광 시간을 2배씩 증가시키는 것을 조건으로 하고 있다. 상기 도 6을 통해 보이고 있듯이, 노광 시간이 증가할수록 knee 커브의 기울기가 커진다. 상기 knee 커브의 기울기가 커진다는 것은, 출력 영상신호가 포화되는 휘도 값이 점점 낮아짐을 의미한다.
도 7은 노광 시간과 기울기의 비(Gradient ration)간의 관계를 보이고 있는 그래프이다. 상기 도 7에서 보이듯이, 노광 시간이 증가할수록 기울기의 비가 증가함을 알 수 있다.
하기 <수학식 2>에서는 노광 시간과 기울기간의 관계를 보이고 있다.
Figure 112004028593892-PAT00005
여기서, Gradient of AutoExp.Time은 자동 조정된 노광 시간(Exposure Time)의 변화율이며, Gradient of DefaultExp.Time은 기본 설정된 노광 시간(Exposure Time)의 변화율을 의미한다.
상기 자동 화이트 밸런스 조정부(220)는 상기 Cb, Cr 신호에 의해 영상신호 의 화이트 밸런스를 위한 이득 값을 조정한다. 이때 상기 이득 값은 R 신호를 보정하는 R 이득 값과 B 신호를 보정하는 B 이득 값으로 구성된다. 그 외의 영상신호인 G 신호의 이득 값은 임의의 값으로 고정된다. 상기 G 신호의 이득 값을 고정 시키는 방안에 대해서는 knee 보정을 설명할 때 구체적으로 언급될 것이다. 한편 상기 이득 값의 조정은 상기 노광 시간만으로 빛의 양에 대한 조정이 충분하지 않거나 주변의 색 온도를 감안하여 이루어진다. 한편 본 발명의 실시 예를 위해 상기 이득 값은 knee 보정을 감안하여 조정되어야 한다.
도 3 내지 도 5에서는 본 발명의 실시 예에 따른 영상신호 조정부(210)의 예들을 보이고 있다. 상기 도 3에서는 디지털 영상신호에 대한 블랙 레벨 조정, knee 보정 및 화이트 보정을 수행하는 영상신호 조정부의 예를 보이고 있다. 상기 도 4에서는 아날로그 영상신호에 대한 블랙 레벨 조정, knee 보정 및 화이트 보정을 수행하는 영상신호 조정부의 예를 보이고 있다. 상기 도 5에서는 아날로그 영상신호에 대한 블랙 레벨 조정과 knee 보정을 수행하고, 디지털 영상신호에 대한 화이트 보정을 수행하는 영상신호 조정부의 예를 보이고 있다.
상기 도 3을 참조하면, 픽셀 배열부로부터 제공되는 아날로그 형태의 R, G, B 신호는 아날로그/디지털 변환부(A/D 변환부)(312)로 입력된다. 상기 A/D 변환부(312)는 상기 아날로그 형태의 R, G, B 신호를 디지털 신호로 변환한다. 일예로써, 상기 A/D 변환부(312)로부터의 디지털 신호는 12비트들로 이루어진다.
상기 디지털 형태의 R, G, B 신호는 블랙 레벨 조정부(314)로 입력된다. 상기 블랙 레벨 조정부(314)는 블랙 레벨 조정 값에 대응하는 오프셋(offset)을 입력 받아 상기 R, G, B 신호에 대한 블랙 레벨 조정을 수행한다. 상기 블랙 레벨은 상기 R, G, B 신호로부터 상기 오프셋을 강제로 감산한 후 노광 시간에 의해 보상으로 조정하거나 일반화된 수식에 의해 조정할 수 있다. 다른 예로써, 미리 정하여진 조정 테이블에 의해 상기 R, G, B 신호에 대한 블랙 레벨을 조정할 수 있다. 한편 상기 오프셋은 미리 측정된 블랙 레벨에 의해 정하여 진다. 상기 블랙 레벨은 렌즈를 통해 빛이 입사 되지 않지 않도록 차광한 상태에서 출력되는 영상신호에 의해 측정이 가능하다. 상기 블랙 레벨을 측정하는 구체적인 예는 후술하도록 한다.
상기 블랙 레벨이 조정된 R, G, B 신호는 화이트 보정부(316)를 구성하는 복수의 증폭기들 중 대응하는 증폭기로 입력된다.
상기 화이트 보정부(316)는 흰 물체가 정확하게 흰색으로 재현될 수 있도록 주어진 조명 아래에서 R, G, B 신호의 레벨을 조정한다. 이를 화이트 밸런스의 보정이라 한다. 상기 화이트 밸런스의 보정에 의해 피사체에 대한 정확한 색온도를 표현할 수 있게 된다. 따라서 상기 화이트 보정부(518)는 R, G, B 신호들 각각의 레벨을 조정하기 위한 증폭기들로 구성된다. 상기 증폭기들은 상기 R, G, B 신호들 각각에 대해 이득 값(G 이득, R 이득, B 이득)을 곱함으로써, 화이트 밸런스의 보정이 이루어진다. 따라서 상기 증폭기들 각각으로는 소정의 이득 값이 제공된다. 즉, G 신호가 입력되는 증폭기로는 G 이득 값이 제공된다. 상기 B 신호가 입력되는 증폭기로는 B 이득 값이 제공되며, 상기 R 신호가 입력되는 증폭기로는 R 이득 값이 제공된다. 상기 G 이득 값은 고정된 임의의 값을 가지며, 상기 B 이득 값과 상기 R 이득 값은 상기 고정된 G 이득 값에 대응하여 조정된다. 상기 B 이득 값과 R 이득 값은 앞서 살펴본 화이트 밸런스 조정부에 의해 결정된다. 상기 증폭기들에 의해서는 상기 R, G, B 신호의 크기 조정에 의해 화이트 보정 및 knee 보정이 이루어진다. 상기 B 이득 값과 상기 R 이득 값을 결정하는 구체적인 방안과, 상기 knee 보정에 따른 구체적인 동작에 대해서는 후술 될 것이다.
전술한 바와 같이 상기 도 3의 구조에 따른 영상신호 조정부에 의해서는 디지털 영상신호에 대한 화이트 보정뿐만 아니라 블랙 레벨 조정 및 knee 보정이 수행된다. 이는 기존 구조를 최소로 변경하여 구현이 가능하다는 장점을 가진다. 하지만 디지털 영상신호에 대해 블랙 레벨 및 knee 보정을 수행함으로써, 보정에 한계가 있다는 문제점을 가진다.
상기 도 4를 참조하면, 픽셀 배열부로부터 제공되는 아날로그 형태의 R, G, B 신호는 블랙 레벨 조정부(412)로 입력된다. 상기 블랙 레벨 조정부(412)는 블랙 레벨 조정 값에 대응하는 오프 셋(offset)을 입력 받아 상기 R, G, B 신호에 대한 블랙 레벨 조정을 수행한다. 상기 블랙 레벨의 조정은 앞서 설명된 바에 의해 수행될 수 있다.
상기 블랙 레벨이 조정된 R, G, B 신호는 knee/화이트 보정부(414)로 입력된다. 상기 knee/화이트 보정부(414)로는 제어신호로써, 소정의 이득 값이 제공된다. 즉, knee 보정 및 화이트 보정을 위한 G 이득 값, B 이득 값 및 R 이득 값이 제공된다. 상기 G 이득 값은 고정된 임의의 값을 가지며, 상기 B 이득 값과 상기 R 이득 값은 상기 고정된 G 이득 값에 대응하여 조정된다. 상기 B 이득 값과 R 이득 값은 화이트 밸런스 조정부로부터 제공되며, 상기 R, G, B 신호의 크기 조정에 의해 화이트 보정 및 knee 보정이 이루어진다.
상기 knee 보정 및 화이트 보정이 이루어진 R, G, B 신호는 A/D 변환부(416)로 입력된다. 상기 A/D 변환부(416)는 상기 아날로그 형태의 R, G, B 신호를 디지털 신호로 변환한다.
전술한 바와 같이 상기 도 4의 구조에 따른 영상신호 조정부에 의해서는 아날로그 영상신호에 대한 화이트 보정뿐만 아니라 블랙 레벨 조정 및 knee 보정이 수행된다. 이는 아날로그 영상신호에 대한 블랙 레벨 및 knee 보정을 수행함으로써, 보정에 제약이 없다는 장점을 가진다.
도 5를 참조하면, 픽셀 배열부로부터 제공되는 아날로그 형태의 R, G, B 신호는 블랙 레벨 조정부(512)로 입력된다. 상기 블랙 레벨 조정부(512)는 블랙 레벨 조정 값에 대응하는 오프셋(offset)을 입력 받아 상기 R, G, B 신호에 대한 블랙 레벨 조정을 수행한다. 상기 블랙 레벨의 조정은 앞서 설명된 바에 의해 수행될 수 있다.
상기 블랙 레벨이 조정된 R, G, B 신호는 knee 보정부(514)로 입력된다. 상기 knee 보정부(514)로는 제어신호로써, 소정의 이득 값이 제공된다. 즉, knee 보정을 위한 G 이득 값, B 이득 값 및 R 이득 값이 제공된다. 상기 G 이득 값은 고정된 임의의 값을 가지며, 상기 B 이득 값과 상기 R 이득 값은 상기 고정된 G 이득 값에 대응하여 조정된다. 상기 B 이득 값과 R 이득 값은 화이트 밸런스 조정부로부터 제공되며, 상기 R, G, B 신호의 크기 조정에 의해 knee 보정이 이루어진다.
상기 knee 보정이 이루어진 R, G, B 신호는 A/D 변환부(416)로 입력된다. 상 기 A/D 변환부(416)는 상기 아날로그 형태의 R, G, B 신호를 디지털 신호로 변환한다.
상기 디지털 형태로 변화된 R, G, B 신호는 화이트 보정부(518)를 구성하는 복수의 증폭기들 중 대응하는 증폭기로 입력된다. 상기 증폭기들 각각으로는 소정의 이득 값이 제공된다. 즉, G 신호가 입력되는 증폭기로는 G 이득 값이 제공된다. 상기 B 신호가 입력되는 증폭기로는 B 이득 값이 제공되며, 상기 R 신호가 입력되는 증폭기로는 R 이득 값이 제공된다. 상기 G 이득 값은 고정된 임의의 값을 가지며, 상기 B 이득 값과 상기 R 이득 값은 상기 고정된 G 이득 값에 대응하여 조정된다. 상기 B 이득 값과 R 이득 값은 앞서 살펴본 화이트 밸런스 조정부에 의해 결정되며, 상기 증폭기들에 의해서는 상기 R, G, B 신호의 크기 조정에 의해 화이트 보정이 이루어진다.
전술한 바와 같이 상기 도 5의 구조에 따른 영상신호 조정부에 의해서는 아날로그 영상신호에 대한 블랙 레벨 조정 및 knee 보정이 수행됨에 따라 보정의 제약이 없는 장점이 있다. 또한 화이트 보정은 기존과 같이 디지털 신호에 대해 수행되도록 함으로써, 기존의 구성을 최대한 유지할 수 있는 장점을 가진다.
이하 앞에서 살펴본 구성들을 참조하여 본 발명의 실시 예에서 제안하고자 하는 기능들에 대해 설명하도록 한다. 특히 후술 될 설명에서는, 블랙 레벨 조정 기능, knee 보정 기능 및 감마 보정 기능에 대해 구체적으로 기술할 것이다.
1. 블랙 레벨 조정
본 발명에서는 CMOS 이미지 센서가 가지는 블랙 레벨 값(black level value)을 측정하고, 이미지 데이터에 상기 측정한 블랙 레벨 값에 의해 이미지 데이터에 대한 블랙 레벨을 보정하는 방법을 제안한다. 상기 블랙 레벨 값의 측정은 암 전류(dark current)로 인해 발생한다. 따라서 상기 블랙 레벨은 완전히 차광된 환경에서 광 다이오드의 암 전류를 기준으로 측정할 수 있다. 한편 측정된 블랙 레벨 값에 의해 블랙 레벨 보정을 수행하는 것은 도 3의 314, 도 4의 412 및 도 5의 512 블록에서 이루어진다. 상기 도 3의 314 블록은 디지털 영역에서의 블랙 레벨 보정을 수행하며, 상기 도 4의 412 및 상기 도 5의 512 블록은 아날로그 영역에서의 블랙 레벨 보정을 수행한다. 상기 구성들에 있어서의 Offset은 블랙 레벨 보정을 위해 측정된 블랙 레벨 값에 의해 계산된 보정 값에 해당한다.
이하 첨부된 도면을 참조하여 블랙 레벨을 측정하고, 이를 통해 블랙 레벨을 조정하는 동작에 대해 구체적으로 설명한다.
도 8에서는 본 발명의 실시 예를 위해 블랙 레벨을 측정하기 위한 방안을 제시하고 있다. 상기 도 8에서 보이고 있는 바와 같이 픽셀 베이어(810)의 상부에는 빛을 받아들이는 원형의 렌즈 경통(820)이 부착된다. 이때 상기 픽셀 베이어(810)는 사각형으로 형성되는데 반하여 상기 렌즈 경통(820)은 원형을 가진다. 따라서 상기 픽셀 베이어(810)의 꼭지 점 측으로는 빛이 입사 되지 않는 픽셀들(830-a,830-b,830-c,830-d)이 발생한다. 상기 빛이 입사 되지 않는, 즉 차광된 픽셀들(830-a,830-b,830-c,830-d)은 블랙 레벨 값을 측정하기 위한 영역으로 사용될 수 있다. 따라서 본 발명에서는 상기 차광된 픽셀들(830-a,830-b,830-c,830-d) 로부터 출력되는 이미지 데이터들을 측정된 블랙 레벨 값으로 간주할 수 있다. 즉 상기 차광된 픽셀들(830-a,830-b,830-c,830-d)로부터 구해진 레드, 그린, 블루의 입력 밝기 평균값을 취함으로써 원하는 블랙 레벨 값을 얻을 수 있다.
상기 블랙 레벨 값이 측정되면, 상기 픽셀 베이어(810)로부터 출력되는 이미지 데이터의 입력 밝기 값에서 상기 측정된 블랙 레벨 값을 감산한다. 한편 측정된 블랙 레벨 값을 전체 이미지 데이터를 구성하는 레드, 그린 및 블루의 입력 밝기 값에 공통적으로 빼주면 전체적인 이미지의 밝기가 어두워질 것이다. 따라서 하기 <수학식 3>을 이용하여 전체 이미지 데이터의 입력 밝기 값(InImg[y][x])에 대한 블랙 레벨을 보정하도록 한다.
Figure 112004028593892-PAT00006
여기서, InImg[y][x]은 이미지 데이터의 입력 밝기 값을 의미하고, OutImg[y][x]은 이미지 데이터의 출력 밝기 값을 의미하며, Low는 측정된 블랙 레벨 값을 의미한다. 상기 <수학식 3>에서는 이미지 데이터의 최대 출력 밝기 값으로써 255를 가정하고 있다.
예를 들어 블랙 레벨 값으로 50이 측정되고, 최대 출력 밝기로써 255를 가정하면, 블랙 레벨이 보정된 이미지 데이터는 0에서 255까지 선형적으로 표현될 것이다. 즉 입력 밝기가 0에서 50사이에 있는 이미지 데이터에 대해서는 출력 밝기가 0인 이미지 데이터로 보정한다. 한편 입력 밝기가 51에서 255사이의 이미지 데이터 는 상기 <수학식 3>에 의해 구해진 출력 밝기의 이미지 데이터로 보정된다. 이는 블랙 레벨의 보정뿐만 아니라 색 대비(contrast)의 향상으로 이미지가 전체적으로 어두워지는 문제점을 해소할 수 있다.
도 9는 앞에서 제안한 블랙 레벨 조정에 따른 이미지 데이터의 입력 밝기와 출력 밝기의 관계를 보이고 있는 그래프이다.
상기 도 9를 참조하면, 참조번호 930은 블랙 레벨을 보정하지 않을 시의 입력 밝기(Vi)와 출력 밝기(Vo)의 관계를 보이고 있는 제1그래프이다. 상기 제1그래프(930)를 통해 완전히 검은색의 입력 밝기에 대응하여 일정한 값(black level value, 960)을 가지는 출력 밝기가 얻어짐을 알 수 있다. 한편 상기 입력 밝기의 소정 구간(참조번호 920)에서는 항상 일정한 값(black level value, 960)의 출력 밝기가 얻어진다.
상기 일정한 값(black level value, 960)을 보정하기 위해 모든 입력 밝기에 대응한 출력 밝기에 상기 일정한 값(black level value, 960)을 균등하게 빼주면 참조번호 940과 같은 제2그래프를 얻을 수 있다. 하지만 전술한 바에 의해 블랙 레벨을 보정하게 되면 참조번호 910에서 보이듯이 소정 구간(Vmax-Vt)에 해당하는 출력 밝기가 표현되지 않게 된다.
참조번호 950은 소정 구간(910)에 해당하는 출력 밝기가 표현되도록 블랙 레벨 보정을 행할 시에 얻을 수 있는 제3그래프이다. 상기 제3그래프(950)에서 보이듯이 일정한 레벨(920)의 입력 밝기에 대해서는 완전한 검은색에 해당하는 출력 밝 기를 출력한다. 그리고 상기 일정한 레벨(920)을 넘어서는 모든 입력 밝기에 대해서는 0에서 Vmax까지의 모든 출력 밝기가 표현될 수 있도록 한다. 상기 제3그래프(950)는 앞에서 정의한 <수학식 3>에 의해 얻을 수 있다.
전술한 설명에서는 전체 이미지 데이터에 대해 블랙 레벨을 보정하는 방안에 대해서만 언급하였다. 하지만 이미지 데이터를 구성하는 레드, 그린 및 블루 각각에 대해 블랙 레벨 값을 구하고, 이를 이용하여 상기 레드, 그린 및 블루에 대한 블랙 레벨 보정이 이루어지도록 구현할 수 있음은 당업자에게 자명할 것이다.
또한 상기 <수학식 3>을 사용하지 않고, 노광 시간(exposure time)에 의해 제2그래프(940)를 제3그래프(950)로 변경할 수 있다. 이를 위해서는 상기 노광 시간을 증가시킴으로써 가능하다. 상기 노광 시간에 의해 입력 밝기에 대한 출력 밝기의 변화는 앞에서 이미 설명되었다.
전술한 블랙 레벨에 대한 보정은 디지털 영역에서 이루어지는 것을 가정하고 있다. 따라서 모든 입력 밝기에 대해 측정된 블랙 레벨 값을 감산할 시 표현되지 않는 출력 밝기가 존재하게 된다. 만약 아날로그 영역에서 블랙 레벨을 보정하고자 하는 경우에는 모든 입력 밝기에 대해 측정된 블랙 레벨 값을 균등하게 감산하는 형태로의 블랙 레벨 보정이 가능할 것이다. 이는 아날로그 영역에서 모든 입력 밝기에 대해 측정 블랙 레벨을 균등하게 감산한다고 하더라도 표현되지 않는 출력 밝기가 존재하지 않기 때문이다.
2. Knee Correction
본 발명에서는 출력 영상신호의 포화로 인한 고스트 이미지가 발생하는 시점을 지연시킴으로써 표현 가능한 입력 영상신호의 영역을 넓히고자 한다. 이를 위해서는 적어도 하나의 변곡점(knee point)들을 구하고, 상기 변곡점을 기준으로 하여 그래프의 기울기를 변화시킨다. 물론 변곡점 이전에서의 기울기에 비해 변곡점 이후의 기울기가 상대적으로 작아야 할 것이다. 이는 상기 변곡점 이후에서 출력 영상신호가 서서히 포화되도록 하기 위함이다. 상기 변곡점이 복수인 경우에는 보다 다양한 기울기들에 의해 상기 그래프가 그려질 것이다. 상기 변곡점들의 위치는 피사체의 밝기에 따라 자동으로 변경시킬 수 있다. 뿐만 아니라 상기 변곡점을 기준으로 하는 구간별로의 기울기를 달리하는 것은 영상신호의 이득 값에 의해 조정할 수 있다.
본 발명에서 제안하는 knee 보정은 도 3의 316, 도 4의 414 및 도 5의 514 블록에서 이루어진다. 상기 도 3의 316 블록은 디지털 영역에서의 knee 보정을 수행하며, 상기 도 4의 414 및 상기 도 5의 514 블록은 아날로그 영역에서의 knee 보정을 수행한다. 상기 구성들에 있어서의 제어 신호는 knee 보정을 위한 계산된 영상신호의 이득 값에 해당한다.
한편 디지털 영역에서의 knee 보정과 아날로그 영역에서의 knee 보정은 구분되어야 한다. 그 이유는 디지털 영역에서의 신호 처리는 제한적으로 이루어지기 때문이다. 후술 될 설명에서는 디지털 영역에서의 knee 보정과 아날로그 영역에서의 knee 보정을 구분하여 설명하도록 한다.
이하 첨부된 도면을 참조하여 knee 보정을 수행하는 동작에 대해 구체적으로 설명한다.
도 10은 본 발명에서 제안하는 knee 보정에 의한 R, G, B 신호의 입력(빛의 강도; Light intensity)과 출력(IRE; institute of Ratio Engineers) 관계를 보이고 있는 도면이다. 상기 도 10에서는 R, G, B 신호 각각에 대해 두 개의 변곡점들을 사용하고 있다. 즉 G 그래프(1000)에 있어서는 a, a'로 표시한 두 개의 변곡점들이 사용되고, R 그래프(1010)에 있어서는 b, b'로 표시한 두 개의 변곡점들이 사용되며, B 그래프(1020)에 있어서는 c, c'로 표시한 두 개의 변곡점들이 사용된다. 상기 R, G, B 신호 각각에 대해 knee 보정의 적용은 동일하게 이루어질 것이다. 따라서 후술 될 설명에서는 G 그래프를 기준으로 한다.
한편 상기 도 10에서는 0 IRE에서 120 IRE까지의 출력 영상신호를 얻도록 한다. 통상적으로 출력 영상신호의 최고점에서 최저점까지의 전압 레벨을 소정 단위로 분할할 때에 그 단위를 IRE이라 한다. 예컨대 상기 최고점에서 최저점까지의 전압 레벨이 1볼트라 할 때, 하나의 IRE 단위는 0.00714IRE가 된다. 한편 R, G, B 신호의 입력(빛의 강도)은 앞서 살펴본 블랙 레벨 조정을 감안하여 일정한 영역(1030)에서 완전한 블랙 레벨의 출력 영상신호를 얻도록 하였다. 그리고 본 발명에서 제안하는 knee 보정을 적용하지 않을 시의 R, G, B 그래프에 대해서는 점선으로 표시함으로써, knee 보정을 적용할 시의 그래프와 비교될 수 있도록 하였다.
상기 도 10을 참조하면, G 신호는 출력이 90 IRE인 지점을 제1변곡점(a)으로 하며, 출력이 110 IRE인 지점을 제2변곡점(a')으로 하고 있습니다. 그래프의 시작 점과 상기 제1변곡점(a) 사이의 제1구간에 대한 제1기울기는 상기 시작점과 상기 제1변곡점(a)에 의해 결정된다. 제1변곡점(a)과 제2변곡점(a') 사이의 제2구간에 대한 제2기울기는 상기 제1변곡점(a)과 상기 제2변곡점(a')에 의해 결정된다. 상기 제2변곡점(a')에서 포화점 사이의 제3구간에 대한 제3기울기는 상기 제2변곡점(a')와 상기 포화점에 의해 결정된다.
상기 결정된 기울기들은 제1기울기, 제2기울기 및 제3기울기의 순서로써 그 크기가 결정된다. 즉 상기 제1기울기가 가장 큰 값을 갖고, 상기 제2기울기가 중간 값을 가지며, 상기 제3기울기가 가장 작은 값을 가진다. 따라서 상기 제1구간에서 입력 영상신호에 대한 출력 영상신호의 변화가 가장 심하며, 상기 제3구간에서 입력 영상신호에 대한 출력 영상신호의 변화가 작게 된다.
전술한 바와 같이 각 구간별로 서로 다른 기울기를 부여함으로써, 기존의 그래프에 비해 본 발명에 의한 그래프가 소정의 이득을 갖게 됨을 알 수 있다. 상기 도 10의 참조번호 1030은 상기 knee 보정에 의해 얻게 되는 knee gain을 가리킨다. 상기 knee gain에 대응하는 입력 영상신호는 기존에는 포화 영역으로써, 표현할 수 없는 이미지에 해당한다.
상기 도 10에서 보이고 있는 knee 보정 기법은 아날로그 영역에서 적용될 수 있다. 즉 상기 도 10에서는 입력 영상신호에 대한 제한 사항이 존재하지 않는다. 하지만 디지털 영역에서 knee 보정을 수행하게 되면, 입력 영상신호에 대한 제한이 존재한다. 즉 디지털 영역에서는 포화점이 미리 결정된다. 따라서 디지털 영역에서 knee 보정을 수행할 시에는 미리 결정된 포화점을 이동시키는 것이 불가능함에 따 라 그래프의 기울기를 상기 도 10에서 보인 바와 같이 작게 조정할 수 없게 된다. 하지만 기울기를 조절하는데, 제약이 있을 뿐 본 발명에서 제안한 knee 보정을 통한 효과를 충분히 얻을 수 있다.
본 발명에서 제안한 knee 보정을 위한 동작을 살펴보면, 자동 노광 조정에 의해 글로벌 이득(global gain)과 노광 시간을 결정한 후 이를 저장한다. 그 후 상기 저장된 글로벌 이득과 노광 시간 및 자동 화이트 밸런스를 조건으로 하여 영상신호를 획득한다. 상기 획득한 영상신호의 R, G, B 신호 각각에 대한 최대 값들(Rmax, Gmax, Bmax)을 구한다. 그리고 노광 시간을 조정하여 상기 최대 값들(Rmax, Gmax, Bmax)을 임의의 출력 값에 정규화 시킨다. 상기 임의의 출력 값은 영상신호로서 출력될 수 있는 최대 값으로써, 일예로 12비트의 디지털 값으로 표현할 시 4095가 된다. 상기 4098은 100IRE에 대응한다. 상기 임의의 최대 값이 4095라 할 때, 상기 R, G, B, 신호 각각에 대한 정규화는 하기 <수학식 4>에 의해 이루어지다.
Figure 112004028593892-PAT00007
전술한 바에 의해 글로벌 이득 및 노광 시간을 기본 값으로 하는 조건 하에서 블랙 레벨 보정된 R, G, B 신호는 임의의 값에 각각 정규화된다. 상기 정규화된 R, G, B 신호는 선형적인 그래프를 가진다.
상기 R, G, B 신호 각각에 대한 정규화가 이루어지면, 이리 결정된 임의의 변곡점에서 상기 정규화된 R, G, B 신호에 대한 knee 보정을 수행한다. 이는 앞에서도 살펴보았듯이 동일한 기울기를 가지는 그래프를 상기 변곡점을 기준으로 서로 다른 기울기를 가지는 그래프로 변경하는 동작에 해당한다. 이와 같이 상기 변곡점을 기준으로 하여 구간 별로 서로 다른 기울기를 부여하는 것은 R, G, B 신호 각각의 이득 값을 조정함으로써 가능하다.
상기 R, G, B 신호 각각에 대한 기울기는 하기 <수학식 5>로 정의될 수 있다.
Figure 112004028593892-PAT00008
상기 <수학식 5>에 의한 G 신호의 기울기 mG가 결정되면, 상기 mG를 이용하여 G 신호에 대한 변곡점을 계산할 수 있다. 그 후 화이트 밸런스를 맞추기 위해 상기 G 신호를 기준으로 R, B 신호에 대한 출력 데이터를 계산한다. 상기 R, B 신호에 대한 출력 데이터의 계산은 하기 <수학식 6>에 의해 이루어진다.
Figure 112004028593892-PAT00009
도 14는 본 발명의 실시 예에 따른 knee 보정을 수행하는 절차를 보이고 있는 제어 흐름이다. 상기 도 14에서는 제어 흐름은 노광 시간을 고려한 예를 보이고 있다.
상기 도 14를 참조하면,1410단계에서 자동 화이트 밸런스 기능과 자동 노광 조정 기능을 구동 시킨다. 이는 영상 처리장치에서 통상적으로 사용되는 자동 화이트 밸런스 기능과 자동 노광 조정 기능을 사용함을 의미한다. 그리고 1412단계에서 상기 자동 화이트 밸런스 기능 및 자동 노광 조정 기능이 동작하는 상황에서의 R, G, B 이득 및 노광 시간을 독출(read)한다. 이때 상기 G 이득은 G1 이득과 G2 이득을 포함한다.
그 후 1416단계에서는 상기 자동 화이트 밸런스 기능 및 상기 자동 노광 조정 기능의 구동을 종료 시킨다. 이는 영상 처리장치에서 통상적으로 사용되는 자동 화이트 밸런스 기능과 자동 노광 조정 기능을 사용하지 않음을 의미한다. 그리고 1418단계에서 상기 R, G, B 이득 및 노광 시간을 미리 결정된 값으로 조정한다. 상기 미리 결정된 값으로써, 상기 R, G, B 이득으로는 0x40(default, gain 1)이 될 수 있으며, 상기 노광 시간은 50%가 될 수 있다. 1420단계에서는 앞서 설정된 R, G, B 이득 및 노광 시간에 의해 영상신호를 획득한다.
그리고 1422단계에서 상기 획득한 영상신호에 대해 G를 기준으로 하여 R, G, B 신호 각각에 대한 기울기(knee curve)를 계산한다. 상기 기울기의 계산은 앞서 제시한 <수학식 5>에 의해 수행된다. 상기 기울기에 대한 계산이 완료되면 1424단계로 진행하여, 상기 계산된 기울기들 중 mG를 이용하여 G에 대하여 임의의 기준점(90IRE)에 대한 입력 데이터(knee point)를 계산한다. 즉 G에 대한 변곡점에서의 입력 데이터 값을 계산한다. 그리고 1424단계에서는 화이트 밸런스를 맞추기 위하여 G 이득을 기준으로 R, B 이득을 반영하여 상기 입력 데이터에 대응한 출력 데이터를 계산한다. 이는 앞서 제시한 <수학식 6>에 의해 얻을 수 있다.
전술한 본 발명의 knee 보정은 knee 커브를 이용하는 방법에 관한 것이었다. 한편 knee 보정을 구현하기 위한 다른 예로써, 룩-업 테이블(look-up table)을 이용할 수 있다. 즉 입력 가능한 범위에서의 입력 영산신호 각각에 대응한 출력 영상신호를 매핑하는 룩-업 테이블을 미리 생성한다. 이때 상기 입력 영상신호와 출력 영상신호의 관계는 노광 시간에 의해 변화함에 따라 상기 룩-업 테이블은 사용될 노광 시간별로 생성하는 것이 바람직할 것이다. 그 후 knee 보정을 수행함에 있어, 노광 시간에 대응하여 사용할 룩-업 테이블을 결정한다. 상기 룩-업 테이블을 결정하는 것은 사용할 knee 커브를 결정하는 것에 해당할 것이다. 그리고 결정된 룩-업 테이블을 통해 입력 영상신호에 매핑된 출력 영상신호를 획득함으로써, knee 보정을 수행할 수 있을 것이다.
3. 감마 보정
본 발명에서는 이미지 데이터에 대한 보간을 수행하고, 상기 보간이 이루어진 이미지 데이터에 대해 감마 보정을 수행하는 것을 제안한다. 즉 이미지 데이터를 구성하는 화소들 중 잃어버린 화소(불량 화소 ; dead pixel)를 보간을 통해 복원하고, 상기 복원된 이미지 데이터에 대해 감마 보정이 이루어지도록 함으로써, 보다 양질의 이미지 데이터를 얻을 수 있도록 한다. 하지만 보간을 통해 복원된 이미지 데이터에 대한 감마 보정이 이루어지도록 하기 위해서는 메모리의 크기 증가가 필연적이다. 하지만 칩 집적화에 대한 기술의 발달로 메모리로 인한 공간이 커지는 문제는 해결될 수 있다.
통상적으로 이미지의 화질을 개선하기 위해 디지털 연산을 이용한 감마 보정을 반드시 수행하여야 한다. 그 이유는 이미지 센서를 표시하기 위한 장치(CRT 등)의 특성에 있다. 즉 화면에서의 왜곡된 감마 신호를 상쇄시키기 위해 상기 왜곡된 신호 출력 관계의 역 대칭이 되는 감마값을 입력하여 감마 신호의 선형성을 회복시켜야 한다. 이를 통상적으로 '감마 보정'이라 한다.
도 11은 상기 감마 보정의 개념을 그래프로써 보이고 있는 도면이다. 상기 도 11에서 참조번호 1120은 왜곡된 감마 신호를 보이고 있다. 참조번호 1100은 왜곡된 감마 신호의 선형성을 회복시키기 위한 감마값에 대한 그래프를 보이고 있다. 참조번호 1110은 상기 왜곡된 감마 신호(1120)의 선형성을 상기 감마 값(1100)에 의해 회복시킴으로써 얻게 되는 감마 신호를 보이고 있다.
따라서 이미지 센서에서는 표시장치로 출력되는 최종 영상신호가 상기 도 11 의 참조번호 1100과 같은 특성을 가질 수 있도록 하여야 한다. 즉 입력되는 영상신호에 대해 감마 보정을 수행하여 상기 그래프(1100)에 대응하는 영상신호가 출력되도록 하여야 한다. 따라서 감마 보정은 입력 영상신호와 출력 영상신호의 관계가 상기 그래프(110)에 근사한 정도에 따라 그 성능이 좌우된다고 말할 수 있다.
이를 위해 후술 될 본 발명의 실시 예에서는 불량 화소에 대한 보간이 선행되도록 하고, 상기 보간이 이루어진 영상신호에 대해 감마 보정을 수행하도록 하는 방안을 제안한다.
이하 본 발명의 실시 예에 따른 감마 보정과 기존의 감마 보정에 대한 성능을 비교하여 보면 다음과 같다. 이때 입력 밝기 값이 4와 12인 경우를 가정한다.
먼저 기존의 기법을 적용하여 감마 보정이 이루어진 후 보간을 수행하는 경우에 대해 살펴보도록 한다.
기존 기법에 따른 감마 보정의 일 예를 하기 <수학식 7>에서 보이고 있다.
Figure 112004028593892-PAT00010
상기 <수학식 7>에서 보인 바와 같이 입력 밝기 값이 4인 경우 감마 보정에 의해 얻어지는 출력 밝기 값은 27이며, 입력 밝기 값이 12인 경우 감마 보정에 의해 얻어지는 출력 밝기 값은 63이다. 따라서 보간에 의해 상기 27과 상기 63에 의해 입력 밝기 값이 8인 경우의 출력 밝기 값은 하기 <수학식 8>에 의해 구할 수 있다
(27+63)/2=45
따라서 기존의 기법에 의해 8의 입력 밝기 값에 대응하여 최종적으로 얻을 수 있는 출력 밝기 값은 45가 된다.
다음으로 본 발명에서 제안한 기법을 적용하여 보간을 수행한 후 감마 보정이 이루어지는 경우에 대해 살펴보도록 한다.
입력 밝기 값인 4와 12에 대해 수행되는 보간은 하기 <수학식 9>로 표현될 수 있다.
(4+12)/2=8
상기 보간에 의해 구하여진 입력 밝기 값 8에 대한 감마 보정은 하기 <수학식 10>에 의해 이루어진다.
Figure 112004028593892-PAT00011
상기 <수학식 10>에서 보인 바와 같이 입력 밝기 값이 8인 경우 감마 보정에 의해 얻어지는 출력 밝기 값은 53이다.
따라서 입력 밝기 8에 대해 기존 기법에 의해 얻어진 출력 밝기 값과 본 발명에서 제안한 기법에 의해 얻어진 출력 밝기 값을 비교할 때, 6.2의 개선 효과를 가진다.
이하 본 발명의 실시 예에 따른 보간 및 감마 보정에 대해 첨부된 도면을 참조하여 설명하면 다음과 같다.
도 12는 본 발명의 실시 예에 의해 얻고자 하는 감마 곡선을 보이고 있는 도면이다. 상기 도 12에서 참조번호 1200은 이상적인 감마 곡선을 가리키며, 참조번호 1210은 감마 보정을 위해 적용될 실제 감마 곡선이다. 상기 참조번호 1220과 상기 참조번호 1210에서 보이고 있는 감마 곡선은 완전히 일치 하지 않음을 알 수 있다. 그 이유는 실제로 사용할 감마 곡선은 모든 입력 영상신호들에 대응한 출력 영상신호들에 의해 그려진 것이 아니기 때문이다. 즉 실제로 사용될 감마 곡선은 입력 영상신호를 샘플링하고, 상기 샘플링된 입력 영상신호와 상기 입력 영상신호에 대응한 출력 영상신호로써 얻을 수 있기 때문이다.
도 13은 상기 도 12에 있어 참조번호 1220의 영역을 확대하여 그린 감마 곡선이다. 상기 도 13을 통해서는 이상적인 감마 곡선과 실제 감마 곡선의 오차가 보다 극명하게 나타나고 있다. 상기 도 13에서는 보간 절차를 통해 임의의 두 지점의 픽셀 값들(Vin_a, Vin_c)의 가운데 픽셀 값(Vin_b)을 보간하고, 상기 보간된 픽셀 값(Vin_b)에 대해 감마 보정을 수행하는 것을 보이고 있다.
상기 도 13을 참조하면, 보간 및 픽셀 보정부(212)는 입력되는 임의의 두 지점의 픽셀 값들(Vin_a, Vin_c)에 의해 가운데 픽셀 값(Vin_b)을 보간한다. 두 개의 픽셀 값들에 의해 가운데 픽셀 값을 구하기 위한 보간 기법은 앞에서도 밝힌 바와 같이 이미 공지의 기술이라 할 것이다. 일예로써 상기 가운데 픽셀 값(Vin_b)은 상기 임의 의 두 지점의 픽셀 값들(Vin_a, Vin_c)의 평균값에 의해 구하여 질 수 있다.
그 후 상기 임의의 두 지점의 픽셀 값들(Vin_a, Vin_c)과 상기 보간에 의해 구하여진 픽셀 값(Vin_b)은 컬러 보정 절차를 거쳐 감마 보정부(216)로 전달된다. 상기 감마 교정부(216)는 미리 결정된 감마 곡선 상에서 상기 Vin_a에 대해서는 a 지점에 매핑된 출력(Vout_a)을 얻게 되며, 상기 Vin_c에 대해서는 c 지점에 매핑된 출력(V out_c)을 얻게 된다. 한편 상기 보간에 의해 구하여진 Vin_b에 대해서는 b 지점에 매핑된 출력(Vout_b)을 얻을 수 있다. 즉 보간에 의해 구하여진 입력 값에 대응하여 실제로 감마 곡선(1210) 상에 존재하는 값이 출력됨을 알 수 있다.
하지만 기존과 같이 감마 보정이 선행되는 경우에는 Vin_b에 대응한 출력 값이 상기 도 12에서 보이고 있는 에러만큼의 오차가 발생함을 알 수 있다. 즉 상기 임의의 두 지점의 픽셀 값들(Vin_a, Vin_c)에 대한 감마 보정을 수행하게 되면, V out_a와 Vout_c를 출력 값으로 얻게 된다. 그 후 상기, Vout_a와 Vout_c 를 이용하여 보간을 수행함으로써, 상기 Vin_b에 대해서는 b'에 매핑된 출력 값 Vout_b'를 얻게 된다. 이때 얻어지는 출력 값 Vout_b'는 b 지점에 매핑된 출력 값 Vout_b와 소정의 오차 값을 가지게 된다.
따라서 감마 보정이 이루어진 영상신호의 픽셀들에 보간을 수행하는 것에 비 해 보간이 이루어진 영상신호에 대해 감마 보정을 수행하는 것이 보다 이상적인 감마 곡선에 의해 감마 보정을 수행하게 되는 효과를 가진다고 할 것이다.
전술한 바와 같이 본 발명은 이미지의 화질을 개선하기 위해 블랙 레벨의 보정, knee 보정 및 감마 보정을 제안하고 있으며, 이로 인해 하기와 같은 효과를 얻을 수 있다.
첫 번째로, 이미지 센서의 구조로 인해 발생하는 빛이 입사 되지 않는 영역들[의]을 이용하여 블랙 레벨을 측정하고, 측정한 블랙 레벨을 입력 영상신호에 반영함으로써 원하는 블랙 레벨의 이미지를 표현할 수 있는 효과를 가진다.
두 번째로, knee 보정을 통해 고스트 이미지 현상이 발생하는 포화 영역을 줄임으로써, 보다 개선된 화질의 이미지를 표현할 수 있는 효과를 가진다.
세 번째로, 보간이 이루어진 영상신호에 대해 감마 보정을 수행함으로써, 기존에 감마 보정에 의해 발생하던 오차 값을 줄일 수 있어 개선된 화질의 이미지를 표현할 수 있는 효과를 가진다.

Claims (15)

  1. 소정 노광 시간에 의해 피사체를 촬상하고, 상기 촬상에 의해 인가되는 광 신호를 영상신호로 출력하는 디지털 카메라에서 상기 영상신호의 화질을 개선하는 이미지 처리 방법에 있어서,
    암 전류로 인해 야기되는 블랙 레벨 값을 측정하고, 상기 측정한 블랙 레벨 값에 의해 상기 영상신호에 대한 블랙 레벨을 조정하는 과정과,
    상기 영상신호의 입력 밝기를 소정 개수의 영역들로 구분하고, 상기 소정 영역 별로 서로 다른 이득 값을 부여함으로써, 상기 블랙 레벨이 조정된 영상신호의 밝기를 포함하는 영역에 부여된 이득 값으로 상기 영상신호에 대한 니 보정을 수행하는 과정과,
    상기 니 보정이 이루어진 영상신호를 입력하고, 상기 영상신호를 구성하는 불량 화소에 대한 보간을 통해 상기 불량 화소를 복원하는 과정과,
    상기 불량 화소가 복원된 영상신호에 대해 감마 보정을 수행하는 과정과,
    상기 감마 보정된 영상신호로부터 휘도 성분과 색도 성분을 분리하여 출력하는 과정과,
    상기 휘도 성분을 입력으로 하여 상기 블랙 레벨 조정 및 상기 니 보정을 위해 요구되는 노광 시간을 출력하는 과정과,
    상기 색 신호를 입력으로 하여 상기 니 보정을 위한 이득 값을 출력하는 과정을 포함하며,
    여기서, 상기 소정 개수의 영역들은 미리 결정된 적어도 하나의 기준 밝기를 변곡점으로 할 때 상기 변곡점에 의해 구분되는 입력 밝기의 범위들로써, 화이트 포화 시점에 근접할수록 상대적으로 작은 이득 값이 부여됨을 특징으로 하는 상기 방법.
  2. 제1항에 있어서, 상기 이득 값에 의해 상기 영상신호에 대한 화이트 보정이 이루어짐을 특징으로 하는 상기 방법.
  3. 제1항에 있어서, 상기 블랙 레벨 값은, 상기 피사체의 촬상 시 빛이 인가되지 않는 적어도 하나의 픽셀로부터 제공되는 영상신호에 의해 측정함을 특징으로 하는 상기 방법.
  4. 제1항에 있어서, 상기 블랙 레벨의 조정은, 상기 영상신호의 입력 밝기 레벨이 255라 할 때, 하기 <수학식 11>에 의해 이루어짐을 특징으로 하는 상기 방법.
    Figure 112004028593892-PAT00012
    여기서, InImg[y][x]은 영상신호의 입력 밝기 값을 의미하고, OutImg[y][x]은 영상신호의 출력 밝기 값을 의미하며, Low는 측정된 블랙 레벨 값을 의미함.
  5. 제1항에 있어서, 상기 감마 보정에 앞서 상기 불량 화소가 복원된 영상신호를 표준 영상신호로 보정하는 컬러 보정 과정을 더 구비함을 특징으로 하는 상기 방법.
  6. 제1항에 있어서, 상기 블랙 레벨의 조정과, 상기 니 보정이 아날로그 영상신호에 대해 이루어짐을 특징으로 하는 상기 방법.
  7. 소정 노광 시간에 의해 피사체를 촬상하고, 상기 촬상에 의해 인가되는 광 신호를 영상신호로 출력하는 디지털 카메라에서 상기 영상신호의 화질을 개선하는 이미지 처리 장치에 있어서,
    암 전류로 인해 야기되는 블랙 레벨 값에 의해 상기 영상신호에 대한 블랙 레벨을 조정하고, 상기 영상신호의 입력 밝기를 구분하는 소정 개수의 영역 별로 서로 다른 이득 값을 부여함으로써, 상기 블랙 레벨이 조정된 영상신호의 밝기를 포함하는 영역에 부여된 이득 값으로 상기 영상신호에 대한 니 보정을 수행하는 영상신호 조정부와,
    상기 니 보정이 이루어진 영상신호를 입력하고, 상기 영상신호를 구성하는 불량 화소에 대한 보간을 통해 상기 불량 화소를 복원하는 보간 및 픽셀 보정부와,
    상기 불량 화소가 복원된 영상신호에 대해 감마 보정을 수행하는 감마 보정부와,
    상기 감마 보정된 영상신호로부터 휘도 성분과 색도 성분을 분리하여 출력하는 색공간 변환부와,
    상기 휘도 성분을 입력으로 하여 상기 블랙 레벨 조정 및 상기 니 보정을 위해 요구되는 노광 시간을 출력하는 자동 노광 조정부와,
    상기 색 신호를 입력으로 하여 상기 니 보정을 위한 이득 값을 출력하는 자동 화이트 밸런스 조정부를 포함하며,
    여기서, 상기 소정 개수의 영역들은 미리 결정된 적어도 하나의 기준 밝기를 변곡점으로 할 때 상기 변곡점에 의해 구분되는 입력 밝기의 범위들로써, 화이트 포화 시점에 근접할수록 상대적으로 작은 이득 값이 부여됨을 특징으로 하는 상기 장치.
  8. 제7항에 있어서, 상기 블랙 레벨 값은, 상기 피사체의 촬상 시 빛이 인가되지 않는 적어도 하나의 픽셀로부터 제공되는 영상신호에 의해 측정함을 특징으로 하는 상기 장치.
  9. 제8항에 있어서, 상기 이득 값에 의해 상기 영상신호에 대한 화이트 보정이 이루어짐을 특징으로 하는 상기 장치.
  10. 제9항에 있어서, 상기 영상신호 조정부는,
    아날로그 영상신호를 디지털 영상신호로 변환하는 아날로그/디지털 변환부와,
    상기 디지털 영상신호에 대한 블랙 레벨을 상기 측정된 블랙 레벨 값에 의해 조정하는 블랙 레벨 조정부와,
    상기 소정 영역들 중 상기 블랙 레벨이 조정된 영상신호의 밝기가 포함된 영역을 확인하고, 상기 확인된 영역에 대해 부여된 이득 값으로 상기 영상신호를 증폭하는 니/화이트 보정부를 포함함을 특징으로 하는 상기 장치.
  11. 제9항에 있어서, 상기 영상신호 조정부는,
    상기 영상신호에 대한 블랙 레벨을 상기 측정된 블랙 레벨 값에 의해 조정하는 블랙 레벨 조정부와,
    상기 소정 영역들 중 상기 블랙 레벨이 조정된 영상신호의 밝기가 포함된 영역을 확인하고, 상기 확인된 영역에 대해 부여된 이득 값으로 상기 영상신호를 증폭하는 니/화이트 보정부와,
    상기 니 및 화이트 보정이 이루어진 아날로그 영상신호를 디지털 영상신호로 변환하는 아날로그/디지털 변환부를 포함함을 특징으로 하는 상기 장치.
  12. 제9항에 있어서, 상기 영상신호 조정부는,
    상기 영상신호에 대한 블랙 레벨을 상기 측정된 블랙 레벨 값에 의해 조정하는 블랙 레벨 조정부와,
    상기 소정 영역들 중 상기 블랙 레벨이 조정된 영상신호의 밝기가 포함된 영역을 확인하고, 상기 확인된 영역에 대해 부여된 이득 값으로 상기 영상신호를 증폭하는 니 보정부와,
    상기 니 보정이 이루어진 아날로그 영상신호를 디지털 영상신호로 변환하는 아날로그/디지털 변환부와,
    상기 이득 값에 의해 상기 디지털 영상신호에 대한 화이트 보정을 수행하는 화이트 보정부를 포함함을 특징으로 하는 상기 장치.
  13. 제7항에 있어서, 상기 블랙 레벨 값은, 상기 피사체의 촬상 시 빛이 인가되지 않는 적어도 하나의 픽셀로부터 제공되는 영상신호에 의해 측정함을 특징으로 하는 상기 장치.
  14. 제7항에 있어서, 상기 영상신호 조정부는, 상기 영상신호의 입력 밝기 레벨이 255라 할 때, 하기 <수학식 12>에 의해 블랙 레벨을 조정함을 특징으로 하는 상기 장치.
    Figure 112004028593892-PAT00013
    여기서, InImg[y][x]은 영상신호의 입력 밝기 값을 의미하고, OutImg[y][x]은 영상신호의 출력 밝기 값을 의미하며, Low는 측정된 블랙 레벨 값을 의미함.
  15. 제7항에 있어서, 상기 보간 및 픽셀 보정부와 상기 감마 보정부 사이에서 상기 불량 화소가 복원된 영상신호를 표준 영상신호로 보정하는 컬러 보정부를 더 구비함을 특징으로 하는 상기 장치.
KR1020040049656A 2004-06-29 2004-06-29 이미지 센서의 화질 개선장치 및 방법 KR100617781B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020040049656A KR100617781B1 (ko) 2004-06-29 2004-06-29 이미지 센서의 화질 개선장치 및 방법
US11/159,223 US7639292B2 (en) 2004-06-29 2005-06-23 Apparatus and method for improving image quality in image sensor
CNB2005100800385A CN100399798C (zh) 2004-06-29 2005-06-28 用于在图像传感器中改善图像质量的设备和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020040049656A KR100617781B1 (ko) 2004-06-29 2004-06-29 이미지 센서의 화질 개선장치 및 방법

Publications (2)

Publication Number Publication Date
KR20060000715A true KR20060000715A (ko) 2006-01-06
KR100617781B1 KR100617781B1 (ko) 2006-08-28

Family

ID=35505240

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020040049656A KR100617781B1 (ko) 2004-06-29 2004-06-29 이미지 센서의 화질 개선장치 및 방법

Country Status (3)

Country Link
US (1) US7639292B2 (ko)
KR (1) KR100617781B1 (ko)
CN (1) CN100399798C (ko)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100707071B1 (ko) * 2005-12-02 2007-04-13 매그나칩 반도체 유한회사 자동 블랙 레벨 보상 기능을 갖는 이미지 센서 및 자동블랙 레벨 보상방법
KR100878305B1 (ko) * 2006-10-20 2009-01-14 삼성전자주식회사 저전력 소모 저잡음 씨모스 이미지 센서
KR100900678B1 (ko) * 2008-02-15 2009-06-01 한양대학교 산학협력단 동적 영역 분할을 이용한 영상 화질 개선 방법
KR101470019B1 (ko) * 2008-12-26 2014-12-05 엘지이노텍 주식회사 이미지센서의 불량 픽셀 검출 및 보정 방법
US10184669B2 (en) 2004-07-23 2019-01-22 Oy Halton Group Ltd Control of exhaust systems
KR20190075034A (ko) * 2019-06-20 2019-06-28 주식회사 아이닉스 차량용 영상 생성 장치 및 방법

Families Citing this family (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080192130A1 (en) * 2000-03-28 2008-08-14 Mtekvision Co., Ltd. Method And Apparatus For Compensating Black Level By Dark Current Of Image Sensor
WO2006098374A1 (ja) * 2005-03-15 2006-09-21 Omron Corporation 撮像装置、信号処理装置及び信号処理方法
US20070242153A1 (en) * 2006-04-12 2007-10-18 Bei Tang Method and system for improving image region of interest contrast for object recognition
CN101060643B (zh) * 2006-04-17 2011-12-28 北京大学深圳研究生院 一种用于数字摄像的自适应坏点去除方法
JP4616794B2 (ja) * 2006-05-18 2011-01-19 富士フイルム株式会社 画像データのノイズ低減装置およびその制御方法
KR100696165B1 (ko) * 2006-08-28 2007-03-20 엠텍비젼 주식회사 이미지 밝기 보정 장치 및 방법, 이를 수행하는 프로그램이기록된 기록 매체
US9137466B2 (en) * 2006-08-30 2015-09-15 Micron Technology, Inc. Image sensor defect identification using optical flare
US20080055434A1 (en) * 2006-08-31 2008-03-06 Micron Technology, Inc. Image sensor defect identification using blurring techniques
DE602006020361D1 (de) * 2006-11-24 2011-04-07 Bosch Gmbh Robert Prozess, vorrichtung und computerprogramm zur verbesserung der detailsichtbarkeit in einem eingangsbild
JP4428389B2 (ja) * 2007-01-25 2010-03-10 船井電機株式会社 情報出力ユニット及び電子機器
US20080239111A1 (en) * 2007-03-26 2008-10-02 Micron Technology, Inc. Method and appratus for dark current compensation of imaging sensors
JP4992507B2 (ja) * 2007-03-28 2012-08-08 ソニー株式会社 撮像装置、映像信号処理装置及び映像信号処理方法
CN100562063C (zh) * 2007-05-22 2009-11-18 鸿富锦精密工业(深圳)有限公司 图像信号校正方法
US7733391B2 (en) * 2007-05-29 2010-06-08 Nokia Corporation Method and system for black-level correction on digital image data
CN101119502B (zh) * 2007-08-22 2010-06-16 北京中星微电子有限公司 图像处理装置及方法
CN101500171A (zh) 2008-01-28 2009-08-05 鸿富锦精密工业(深圳)有限公司 影像处理装置及方法
US8350924B2 (en) * 2008-02-15 2013-01-08 Semisolution Inc. System and method for processing image signals based on interpolation
US20090251572A1 (en) * 2008-04-02 2009-10-08 Chi-Shao Lin Efficient wide-range and high-resolution black level and offset calibration system
CN101588505B (zh) * 2008-05-21 2011-05-11 英华达(南京)科技有限公司 校正数字照相设备上坏点的方法及具坏点自动校正功能的数字照相设备
JP4743243B2 (ja) * 2008-09-08 2011-08-10 ソニー株式会社 撮像装置、黒レベルの調整方法およびプログラム
JP5195395B2 (ja) * 2008-12-19 2013-05-08 株式会社リコー 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体
CN102342089A (zh) * 2009-03-02 2012-02-01 弗莱克斯电子有限责任公司 相机模块的校准技术
JP5326793B2 (ja) * 2009-05-14 2013-10-30 ソニー株式会社 静脈撮像装置、静脈画像補間方法およびプログラム
CN101909144B (zh) * 2009-06-08 2012-06-27 华晶科技股份有限公司 影像数据补正方法
CN102469243B (zh) * 2010-11-04 2014-12-17 卡西欧计算机株式会社 能白平衡调整的摄像装置
CN102426698A (zh) * 2011-11-04 2012-04-25 中国航空工业集团公司洛阳电光设备研究所 一种红外图像增强方法
CN104285435B (zh) * 2012-05-10 2016-09-28 富士胶片株式会社 摄像装置及信号校正方法
SG10201703538UA (en) * 2012-10-17 2017-06-29 Bio Rad Laboratories Inc Image capture for large analyte arrays
CN105008976B (zh) * 2013-03-13 2017-07-11 富士胶片株式会社 摄像装置、信号处理方法、信号处理程序
CN103428522B (zh) * 2013-08-07 2017-04-19 北京汉邦高科数字技术股份有限公司 一种提高网络摄像机低照度图像质量的方法
KR102211592B1 (ko) * 2014-03-19 2021-02-04 삼성전자주식회사 전자 장치 및 이의 영상 처리 방법
US9734703B1 (en) 2016-06-23 2017-08-15 Nxp B.V. Sensor apparatuses and methods
CN106506905B (zh) * 2016-10-20 2019-07-16 湖南国科微电子股份有限公司 镜头阴影校正方法
JP2019016833A (ja) * 2017-07-03 2019-01-31 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
CN107613192A (zh) * 2017-08-09 2018-01-19 深圳市巨龙创视科技有限公司 一种基于摄像机模组的数字图像处理算法
CN107592472B (zh) * 2017-10-20 2019-12-20 思特威(上海)电子科技有限公司 多段曝光图像传感器的成像校正方法
DE102017219276A1 (de) * 2017-10-26 2019-05-02 Continental Automotive Gmbh Belichtungssteuerung für eine Kamera mit nichtlinearer Kennlinie
KR102565277B1 (ko) * 2017-11-24 2023-08-09 삼성전자주식회사 영상 복원 장치 및 방법
JP2020064102A (ja) * 2018-10-15 2020-04-23 キヤノン株式会社 表示装置および表示方法
CN109712084B (zh) * 2018-12-10 2021-01-19 上海奕瑞光电子科技股份有限公司 一种图像修复方法、图像修复系统及平板探测器
CN111064963A (zh) * 2019-11-11 2020-04-24 北京迈格威科技有限公司 图像数据解码方法、装置、计算机设备和存储介质
CN116324869A (zh) * 2020-08-28 2023-06-23 西安诺瓦星云科技股份有限公司 亮色度校正的方法和装置
TWI751873B (zh) * 2020-12-31 2022-01-01 晶相光電股份有限公司 影像感測裝置及其黑階校正方法
CN113194264B (zh) * 2021-04-29 2023-04-25 维沃移动通信有限公司 偏色调整方法、装置、电子设备及存储介质
CN115866159B (zh) * 2023-03-02 2023-04-25 北京小米移动软件有限公司 一种黑电平校正方法、装置、电子设备、芯片及存储介质
CN117011183A (zh) * 2023-08-15 2023-11-07 上海为旌科技有限公司 一种暗场景图像降噪方法及系统
CN117129730B (zh) * 2023-10-23 2024-01-02 福弼通科技有限公司 一种用于采样示波器的成像系统

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6049395B2 (ja) * 1978-01-13 1985-11-01 日立電子株式会社 カラ−テレビジョンカメラの白圧縮特性の制御装置
US5270802A (en) * 1989-04-14 1993-12-14 Hitachi, Ltd. White balance adjusting device for video camera
KR100202343B1 (ko) * 1990-03-13 1999-06-15 이데이 노부유끼 셰이딩 보정 장치
KR100202344B1 (ko) * 1990-03-26 1999-06-15 이데이 노부유끼 자동니제어회로
US5221963A (en) * 1990-03-31 1993-06-22 Minolta Camera Kabushiki Kaisha Video camera having a video signal processing apparatus
JP3355729B2 (ja) * 1993-11-15 2002-12-09 ソニー株式会社 ディジタル信号処理カメラ
KR100193387B1 (ko) * 1994-10-11 1999-06-15 윤종용 광전 변환된 영상신호를 위한 디지탈 신호변환방법 및 그 장치
US5784178A (en) * 1996-03-06 1998-07-21 Dyna Image Corporation High performance contact image sensor
US6720999B1 (en) * 1999-03-31 2004-04-13 Cirrus Logic, Inc. CCD imager analog processor systems and methods
US7102669B2 (en) * 2002-04-02 2006-09-05 Freescale Semiconductor, Inc. Digital color image pre-processing
JP3788393B2 (ja) * 2002-06-10 2006-06-21 ソニー株式会社 デジタルスチルカメラ装置、ビデオカメラ装置及び情報端末装置
US7508421B2 (en) * 2002-06-24 2009-03-24 Fujifilm Corporation Image pickup apparatus and image processing method
JP4298253B2 (ja) * 2002-10-01 2009-07-15 キヤノン株式会社 画像処理方法及び装置、及び撮像装置
US7236190B2 (en) * 2002-10-31 2007-06-26 Freescale Semiconductor, Inc. Digital image processing using white balance and gamma correction

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10184669B2 (en) 2004-07-23 2019-01-22 Oy Halton Group Ltd Control of exhaust systems
KR100707071B1 (ko) * 2005-12-02 2007-04-13 매그나칩 반도체 유한회사 자동 블랙 레벨 보상 기능을 갖는 이미지 센서 및 자동블랙 레벨 보상방법
KR100878305B1 (ko) * 2006-10-20 2009-01-14 삼성전자주식회사 저전력 소모 저잡음 씨모스 이미지 센서
KR100900678B1 (ko) * 2008-02-15 2009-06-01 한양대학교 산학협력단 동적 영역 분할을 이용한 영상 화질 개선 방법
KR101470019B1 (ko) * 2008-12-26 2014-12-05 엘지이노텍 주식회사 이미지센서의 불량 픽셀 검출 및 보정 방법
KR20190075034A (ko) * 2019-06-20 2019-06-28 주식회사 아이닉스 차량용 영상 생성 장치 및 방법

Also Published As

Publication number Publication date
US20050285952A1 (en) 2005-12-29
CN1717006A (zh) 2006-01-04
KR100617781B1 (ko) 2006-08-28
CN100399798C (zh) 2008-07-02
US7639292B2 (en) 2009-12-29

Similar Documents

Publication Publication Date Title
KR100617781B1 (ko) 이미지 센서의 화질 개선장치 및 방법
JP4768448B2 (ja) 撮像装置
US8125543B2 (en) Solid-state imaging device and imaging apparatus with color correction based on light sensitivity detection
US8988561B2 (en) Imaging apparatus having temperature sensor within image sensor wherein apparatus outputs an image whose quality does not degrade if temperature increases within image sensor
US7692699B2 (en) Image pickup apparatus for preventing linearity defect
US8564688B2 (en) Methods, systems and apparatuses for white balance calibration
US20070076103A1 (en) Image pickup apparatus and image processing method
US20030184659A1 (en) Digital color image pre-processing
US7643072B2 (en) Signal processing method for image capturing apparatus, and image capturing apparatus including calculating image transfer efficiency
US7643069B2 (en) Device and method for adjusting exposure of image sensor
US20030184673A1 (en) Automatic exposure control for digital imaging
JP5520833B2 (ja) 撮像方法および撮像装置
US20040179132A1 (en) Camera system and camera control method
US7773805B2 (en) Method and apparatus for flare cancellation for image contrast restoration
JP5917160B2 (ja) 撮像装置、画像処理装置、画像処理方法およびプログラム
KR100934730B1 (ko) 적응적 노이즈 제거 장치 및 상기 장치를 이용한 이미지센서
US10623674B2 (en) Image processing device, image processing method and computer readable recording medium
JP2009177436A (ja) 固体撮像装置、信号処理装置、および電子情報機器
JP3822486B2 (ja) 電子カメラおよび信号処理方法
JP4735820B2 (ja) 撮像装置の信号処理方法及び撮像装置
JP4498086B2 (ja) 画像処理装置および画像処理方法
KR100594020B1 (ko) 블랙 레벨 보정 장치 및 방법
JP2007243637A (ja) 固体撮像装置および撮像方法
JP2004096633A (ja) 撮像装置および撮像方法
JP5267290B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
J201 Request for trial against refusal decision
B701 Decision to grant
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20120730

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20130730

Year of fee payment: 8

FPAY Annual fee payment

Payment date: 20140730

Year of fee payment: 9

FPAY Annual fee payment

Payment date: 20150730

Year of fee payment: 10

LAPS Lapse due to unpaid annual fee