KR20060090178A - 색 신호 처리 방법 - Google Patents

색 신호 처리 방법 Download PDF

Info

Publication number
KR20060090178A
KR20060090178A KR1020060011054A KR20060011054A KR20060090178A KR 20060090178 A KR20060090178 A KR 20060090178A KR 1020060011054 A KR1020060011054 A KR 1020060011054A KR 20060011054 A KR20060011054 A KR 20060011054A KR 20060090178 A KR20060090178 A KR 20060090178A
Authority
KR
South Korea
Prior art keywords
color
signal
light receiving
component
offset
Prior art date
Application number
KR1020060011054A
Other languages
English (en)
Inventor
히사시 마쯔야마
Original Assignee
산요덴키가부시키가이샤
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 산요덴키가부시키가이샤 filed Critical 산요덴키가부시키가이샤
Publication of KR20060090178A publication Critical patent/KR20060090178A/ko

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B43WRITING OR DRAWING IMPLEMENTS; BUREAU ACCESSORIES
    • B43KIMPLEMENTS FOR WRITING OR DRAWING
    • B43K29/00Combinations of writing implements with other articles
    • B43K29/20Combinations of writing implements with other articles with other articles having storage compartments
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B43WRITING OR DRAWING IMPLEMENTS; BUREAU ACCESSORIES
    • B43KIMPLEMENTS FOR WRITING OR DRAWING
    • B43K24/00Mechanisms for selecting, projecting, retracting or locking writing units
    • B43K24/02Mechanisms for selecting, projecting, retracting or locking writing units for locking a single writing unit in only fully projected or retracted positions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/131Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing infrared wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B43WRITING OR DRAWING IMPLEMENTS; BUREAU ACCESSORIES
    • B43KIMPLEMENTS FOR WRITING OR DRAWING
    • B43K29/00Combinations of writing implements with other articles
    • B43K29/18Combinations of writing implements with other articles with hand tools, e.g. erasing knives
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/047Picture signal generators using solid-state devices having a single pick-up sensor using multispectral pick-up elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Radiation Pyrometers (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

종래에 RGB 각 수광부의 컬러 필터가 적외광을 투과시키는 경우, 각 색 신호에 각각 적외광에 기인하는 신호 성분(IR 성분)이 중첩되고, 색 밸런스가 무너진다는 과제가 있다. 상기 과제를 해결하기 위해, 본 발명에서는, RGB 각 색 신호에 포함되는 IR 성분(Ir, Ig, Ib)을, IR 성분을 검지하는 IR 수광부로부터의 출력 신호 <IR>에 기초하여 특정한다. 각 색 신호에 포함되는 IR 성분에 관해서만, 각 색신호 사이에서의 비율을, 백색광에서의 RGB 성분비 α:β:Y에 맞추는 보정을 행하여, 보정색 신호를 생성한다.
수광 소자, 반올림 오차, 보간 처리, 포토다이오드

Description

색 신호 처리 방법{CHROMA SIGNAL PROCESSING METHOD}
도 1은, 실시 형태에 따른 촬상 장치의 개략의 구성을 도시하는 블록도.
도 2는, RGB 각 필터의 투과율의 파장 특성, 및 포토다이오드의 분광 감도 특성을 나타내는 그래프.
도 3은, RGB 각 수광부의 분광 감도 특성을 나타내는 그래프.
<도면의 주요부분에 대한 부호의 설명>
2 : CCD 이미지 센서
4 : 아날로그 신호 처리 회로
6 : A/D 변환 회로
8 : 디지털 신호 처리 회로
10, 12, 14, 16 : 수광부
본 발명은, 서로 다른 색 성분의 검출을 목적으로 하는 복수 종류의 수광 소자로부터 얻어지는 색 신호의 처리 방법에 관한 것으로, 특히, 각 색 신호에 포함되는 목적 이외의 파장에 따른 오프셋 성분에 대응한 보정 처리에 관한 것이다.
비디오 카메라나 디지털 카메라에 탑재되는 CCD(Charge Coupled Device) 이미지 센서 등의 고체 촬상 소자(고체 촬상 장치)는 이차원 배열된 수광부(수광 소자)를 갖고, 이 수광부에서 입사광을 광전 변환하여 전기적인 화상 신호를 생성한다. 수광부는 반도체 기판에 형성된 포토다이오드를 포함하고, 이 포토다이오드 자체는, 어느 수광부에서도 공통의 분광 감도 특성을 갖는다. 그 때문에, 컬러 화상을 취득하기 위해, 투과광의 색, 즉 투과 파장 영역이 상이한 복수 종류의 컬러 필터를 포토다이오드 위에 배치한다.
컬러 필터에는, 투과광이 적(R), 녹(G) 및 청(B)인 원색계의 필터 세트나, 시안(Cy), 마젠타(Mg) 및 옐로우(Ye)인 보색계의 필터 세트가 있다. 이들 컬러 필터는 예를 들면, 착색한 유기 재료로 형성되고, 각각 대응하는 색의 가시광을 투과시키는데, 그 재질 상, 적외광도 투과한다. 예를 들면, 도 2는, RGB 각 필터의 투과율의 파장 특성을 나타내는 그래프이며, 동 도면은 포토다이오드의 분광 감도 특성도 아울러 도시하고 있다. 각 색의 컬러 필터의 투과율은, 가시광 영역에서는 각각의 착색에 따라 고유의 분광 특성을 나타내지만, 적외광 영역에서는 거의 공통의 분광 특성을 나타낸다.
한편, 포토다이오드는, 파장이 380∼780nm 정도의 가시광 영역 전반 이외에, 더욱 장파장의 근적외 영역까지 감도를 갖는다. 그 때문에, 적외광 성분(IR 성분)이 수광부에 입사하면, 그 적외광 성분은 컬러 필터를 투과하여, 포토다이오드에서 신호 전하를 발생하여, 올바른 색 표현을 할 수 없다. 그 때문에, 종래에는, 카메라의 렌즈와 고체 촬상 소자 사이에, 별도로, 적외 컷트 필터를 배치하고 있다.
이 적외 컷트 필터는, 적외광을 컷트함과 동시에, 가시광도 10∼20% 정도 감쇠시킨다. 그 때문에, 수광부에 입사하는 가시광의 강도가 감소하고, 그에 따라 출력 신호의 S/N 비가 저하하여, 화질의 열화를 초래한다는 문제가 있었다.
이 문제에 대한 대처 방법으로서, 적외 컷트 필터를 없애는 한편, RGB 등의 특정색의 광 성분을 투과시키는 컬러 필터가 배치된 수광부(특정색 수광부) 이외에 추가로, 기본적으로 입사광 중의 IR 성분만을 검출하는 수광부(IR 수광부)를 갖는 고체 촬상 소자가 제안되어 있다. IR 수광부가 출력하는 신호(참조 신호)는, 각 수광부에서 IR 성분에 기인하여 발생하는 신호량에 관한 정보를 제공한다. 이 참조 신호를 이용하여, 특정색 수광부로부터 출력되는 각 색 신호에 포함되는 IR 성분의 영향을 제거하는 것을 생각되고 있다.
IR 수광부는, 예를 들면, 포토다이오드 위에 서로 다른 색의 가시광을 투과시키는 복수 종류의 컬러 필터를 적층함으로써 실현할 수 있다. 즉, 서로 적층된 컬러 필터는, 임의의 컬러 필터를 투과한 가시광 성분을 다른 컬러 필터에서 흡수함으로써 가시광의 투과를 저지하는 한편, 각 컬러 필터가 IR 성분을 투과시키는 결과, 적외광을 선택적으로 투과시킨다.
예를 들면, 입사광의 R, G, B 성분에 고유의 감도를 갖는 R 수광부, G 수광부, B 수광부와, 적외광에 선택적으로 감도를 갖는 IR 수광부가 촬상부에 이차원 배열된 고체 촬상 소자로부터의 출력 신호에 기초하여, RGB 신호, 또는 휘도 신호(Y) 및 색차 신호(Cr, Cb)를 생성하는 종래의 색 신호 처리 방법을 설명한다.
도 3은, RGB 각 수광부의 분광 감도 특성을 나타내는 그래프이다. RGB 각 수광부의 분광 감도 특성은, 도 2에 도시한, R, G, B 각 필터의 투과율 특성과 포토다이오드의 분광 감도 특성의 곱으로 된다. 각 수광부는, 780nm를 초과하는 파장 영역인 적외광 영역에 공통으로 강한 감도를 갖는 한편, 가시광 영역에서, RGB 각 수광부는 R, G, B 각 필터의 투과율 특성에 따른 고유의 파장 영역에 강한 감도를 나타낸다. 구체적으로는, 도 3에서, G 수광부의 분광 감도 특성(30)은, 그 수광부에 고유의 분광 감도 특성으로서 녹색에 대응하는 550nm 부근에 중심을 갖는 피크(32)와, 적외광 영역의 850nm 부근에 중심을 갖는 피크(34)가 중첩된 것으로 된다. 마찬가지로 B 수광부의 분광 감도 특성(40)은, 해당 수광부에 고유의 분광 감도 특성으로서 청색에 대응하는 450nm 부근에 중심을 갖는 피크(42)와, 적외광 영역의 850nm 부근에 중심을 갖는 피크(44)가 중첩된 것으로 된다. R 수광부의 분광 감도 특성(50)에서는, 적색과 적외광 영역이 근접하기 때문에, 분리한 2개의 피크는 나타나 있지 않지만, 역시, 고유의 분광 감도 특성으로서 적색에 대응하는 650nm 부근에서의 감도의 강조부(52)와, 적외광 영역에서의 감도의 강조부(54)가 중첩되어 있음을 도 3으로부터 판독할 수 있다.
일반적으로, 휘도 신호(Y)는, 적당한 계수 α, β를 이용하여, 하기에 나타내는 바와 같은 RGB 각 성분의 1차식으로 표현된다.
Figure 112006008542470-PAT00001
여기서,
α+β+γ=1
의 관계가 있다.
또한, 색차 신호(Cr, Cb)의 일반식은 계수 λ, μ를 이용하여 다음 수학식으로 표현된다.
Figure 112006008542470-PAT00002
Figure 112006008542470-PAT00003
R 수광부, G 수광부, B 수광부의 출력 신호를 <R>, <G>, <B>, 이들 중 입사광의 R, G, B 성분에 따른 신호 성분을 R0, G0, B0, 적외광에 따른 신호 성분을 Ir, Ig, Ib라고 하면, 다음 수학식이 성립한다.
Figure 112006008542470-PAT00004
덧붙어 말하면, 도 3에서, R0, G0, B0은, 분광 감도 특성 중 각각 강조부(52), 피크(32, 42)에 따른 부분에 대응하여 발생하는 신호 성분이며, Ir, Ig, Ib는 분광 감도 특성 중 각각 강조부(54), 피크(34, 44)에 대응하여 발생하는 신호 성분이다.
여기서, IR 수광부의 출력 신호를 <IR>로 한다. R, G, B, IR 각 수광부에 배치되는 컬러 필터는 적외광 영역에서 기본적으로 마찬가지의 분광 특성을 갖고, Ir, Ig, Ib, <IR>은 동일한 정도로 된다. 설명을 간단히 하기 위해,
Figure 112006008542470-PAT00005
이라고 하면, 수학식 4는,
Figure 112006008542470-PAT00006
로 된다.
수학식 4 또는 수학식 6으로 표현되는, <R>, <G>, <B>는, 각각에 동일한 정도의 IR 성분이 오프셋으로서 중첩되어 있고, 이들로 표현되는 화상은 색 밸런스가 무너진다. 특히, R0, G0, B0에 비해 IR 성분이 클수록, 밸런스의 붕괴가 현저해진다. 또한, <R>, <G>, <B>를 이용하여 수학식 1~수학식 3으로부터 얻어지는 휘도 신호(Y'), 색차 신호(Cr', Cb')도 마찬가지로 색 밸런스가 결여된 화상을 나타내게 된다.
그래서, 종래의 처리 방법으로서, IR 성분을 제거하여 R0, G0, B0을 출력하거나, R0, G0, B0에 따라 수학식 1~수학식 3으로부터 얻어지는 휘도 신호(Y0), 색차 신 호(Cr0, Cb0)를 생성하거나 하는 것이 행해지고 있다.
구체적으로는, R0, G0, B0은, R, G, B, IR 각 수광부로부터의 출력을 이용한 다음 수학식에 의해 산출할 수 있다.
Figure 112006008542470-PAT00007
또는, 휘도 신호(Y0)는, 각 수광부의 출력 신호에 기초하여 다음 수학식으로 산출할 수 있다.
Figure 112006008542470-PAT00008
색차 신호(Cr0, Cb0)는 다음 수학식으로 산출할 수 있다.
Figure 112006008542470-PAT00009
Figure 112006008542470-PAT00010
예를 들면, α, β, γ는,
α=0.299, β=0.587, γ=0.114
로 설정할 수 있다. 또한, λ, μ는 Cr0에 포함되는 R 성분의 계수 (1-α), Cb0에 포함되는 B 성분의 계수 (1-γ)를 각각 0.5로 스케일링하도록 설정할 수 있고, 상기 α, β, γ의 값에 대해서는,
λ=0.713, μ=0.564
로 된다.
원리적으로는, 상기한 바와 같이 IR 성분을 제거하면, 색 밸런스를 바르게 표현할 수 있는 R, G, B 신호, 또는 Y, Cr, Cb 신호가 얻어질 것이다. 그러나, 예를 들면, 백열 전구에 의한 조명 하에서의 촬영 등, 각 수광부로의 입사광에 IR 성분이 많이 포함되는 경우, IR 수광부로부터의 출력 신호 <IR>이 커짐과 함께, RGB 각 수광부로부터의 출력 신호 <R>, <G>, <B>에 포함되는 IR 성분 Ir, Ig, Ib도 커진다.
수학식 7이나 수학식 8~수학식 10의 신호 처리는, 고체 촬상 소자로부터 출력되는 아날로그 신호를 A/D(Analog to Digital) 변환하고, 얻어진 디지털 데이터를 이용하여 행해진다. A/D 변환에서는 아날로그 신호는 소정의 비트 수의 디지털 데이터로 변환된다. 예를 들면, A/D 변환의 양자화 비트 수가 8 비트인 경우, 각 수광부로부터의 출력 신호 <R>, <G>, <IR>은 0 내지 255까지의 범위 내의 정수 값 으로 표현된다.
이와 같은 A/D 변환 후의 출력 신호에서, IR 성분이 커지면, 상대적으로, 본래의 RGB 성분인 R0, G0, B0이 작아진다. 그 때문에, 이들에 대응하여 Y0이 작아지는 것으로부터 이해할 수 있듯이, 화상이 어두워진다고 하는 문제가 발생한다.
또한, 디지털 데이터로 표현되는 <R>, <G>, <B>, <IR>로부터 예를 들면 수학식 7을 이용하여, 디지털 데이터로 표현되는 R0, G0, B0을 구하는 경우, 얻어진 R0, G0, B0에는 양자화에 수반하는 반올림 오차가 포함될 수 있다. 이들 R0, G0, B0의 반올림 오차는, R0, G0, B0이 작을수록, 상대적으로 커진다. 이 때문에, IR 성분을 제거하여 얻어진 R0, G0, B0, 또는 이들로부터 얻어진 Cr, Cb에 의해 나타나는 색은, 반올림 오차의 영향에 의해 색 밸런스의 어긋남이 비교적 커지는 경우가 있다는 문제도 있었다.
본 발명은. 상기의 문제점을 해결하기 위해 이루어진 것으로, 서로 다른 색 성분의 검출을 목적으로 하는 복수 종류의 수광 소자로부터 얻어지는 색 신호에 IR 성분과 같은 목적 이외의 파장에 따른 오프셋 성분이 포함되는 경우에, 올바른 색 밸런스이고, 또한 밝은 화상이 얻어지는 색 신호 처리 방법을 제공하는 것을 목적으로 한다.
본 발명에 따른 색 신호 처리 방법은, 소정의 참조 분광 감도 특성을 갖는 수광 소자로부터 얻어지는 참조 신호 및, 서로 다른 특정색에 대응한 고유 감도 특성과 상기 참조 분광 감도 특성에 따른 오프셋 감도 특성이 합성된 분광 감도 특성을 갖는 복수 종류의 수광 소자로부터 얻어지는 복수 종류의 색 신호를 이용하는 방법으로서, 상기 참조 신호에 기초하여, 상기 각 색 신호에 포함되는 상기 오프셋 감도 특성에 따른 오프셋 신호 성분량을 결정하고, 해당 오프셋 신호 성분량에 대하여 상기 각 색신호 사이에서의 비율을 변경함으로써, 상기 각 색 신호로부터 각각 보정색 신호를 생성하는 보정 단계를 갖고, 상기 각 보정색 신호 사이에서의 상기 오프셋 신호 성분량의 상기 비율이, 백색광에서의 상기 각 특정색에 관한 성분비에 따라 정해지는 방법이다.
다른 본 발명에 따른 색 신호 처리 방법은, 소정의 참조 분광 감도 특성을 갖는 수광 소자로부터 얻어지는 참조 신호 및, 서로 다른 특정색에 대응한 고유 감도 특성과 상기 참조 분광 감도 특성에 따른 오프셋 감도 특성이 합성된 분광 감도 특성을 갖는 복수 종류의 수광 소자로부터 얻어지는 복수 종류의 색 신호를 이용하는 방법으로서, 상기 각 색 신호로부터 보정색 신호에 따른 보정 색차 신호를 생성하는 보정 색차 신호 생성 단계를 갖고, 상기 보정색 신호가, 상기 각 색 신호에서, 상기 오프셋 감도 특성에 따른 오프셋 신호 성분량에 대한 상기 각 색 신호 사이에서의 비율을 변경한 것이며, 상기 각 보정색 신호 사이에서의 상기 오프셋 신호 성분량의 상기 비율이, 백색광에서의 상기 각 특정색에 관한 성분비에 따라 정해지는 방법이다.
또 다른 본 발명에 따른 색 신호 처리 방법에서는, 상기 보정 색차 신호 생 성 단계가, 상기 색 신호에 따른 휘도 신호를 생성하는 휘도 신호 생성 단계와, 상기 각 색 신호와 상기 각 보정색 신호의 상기 오프셋 신호 성분량의 차에 기인하는 색차 신호의 변화량을 구하는 단계와, 상기 색 신호, 상기 휘도 신호 및 상기 변화량에 기초하여, 상기 보정 색차 신호를 생성하는 단계를 갖는다.
본 발명의 바람직한 양태는, 상기 참조 분광 감도 특성이, 가시광 대역에 비해 적외광 대역에 큰 감도를 갖는 색 신호 처리 방법이다.
본 발명의 다른 바람직한 양태는, 상기 특정색이, 적, 녹 및 청의 3원색인 색 신호 처리 방법이다.
<본 발명을 실시하기 위한 최량의 형태>
이하, 본 발명의 실시 형태(이하 실시 형태라고 한다)에 대해, 도면에 기초하여 설명한다.
도 1은, 본 실시 형태에 따른 촬상 장치의 개략적인 구성을 도시하는 블록도이다. 이 촬상 장치는, CCD 이미지 센서(2), 아날로그 신호 처리 회로(4), A/D 변환 회로(ADC)(6) 및 디지털 신호 처리 회로(8)를 구비하고 있다.
도 1에 도시하는 CCD 이미지 센서(2)는 프레임 전송형이며, 반도체 기판 위에 형성되는 촬상부(2i), 축적부(2s), 수평 전송부(2h), 및 출력부(2d)를 포함하여 구성된다.
촬상부(2i)를 구성하는 수직 시프트 레지스터의 각 비트는, 각각 화소를 구성하는 수광부(수광 소자)로서 기능한다.
각 수광부는 컬러 필터가 배치되고, 그 컬러 필터의 투과 특성에 따라, 수광 부가 감도를 갖는 광 성분이 정해진다. 여기서는, 2×2 화소의 배열이 수광부의 배열의 단위를 구성한다. 예를 들면, 수광부(10, 12, 14, 16)가 이 단위를 구성한다.
수광부(10, 12, 14)는 각각 G 필터, R 필터, B 필터가 배치된다. 이들 각 필터는 예를 들면, 도 2에 도시하는 투과 특성을 갖는다. 수광부(10)는 G 수광부이며, 가시광뿐 아니라 IR 성분도 포함하는 입사광에 대하여, 해당 수광부는 G 성분 및 IR 성분에 따른 신호 전하를 발생한다. 또한, 마찬가지로, 수광부(12)는 R 성분 및 IR 성분에 따른 신호 전하를 발생하는 R 수광부이며, 수광부(14)는 B 성분 및 IR 성분에 따른 신호 전하를 발생하는 B 수광부이다.
수광부(16)는, IR 성분을 선택적으로 투과시키는 IR 필터(적외광 투과 필터)가 배치되고, 입사광 중의 IR 성분에 따른 신호 전하를 발생하는 IR 수광부이다. 이 IR 필터는, R 필터와 B 필터를 적층하여 구성할 수 있다. 왜냐하면, 가시광 중 B 필터를 투과하는 B 성분은 R 필터를 투과하지 않고, 한편, R 필터를 투과하는 R 성분은 B 필터를 투과하지 않기 때문에, 양 필터를 통과시킴으로써, 기본적으로 가시광 성분이 제거되고, 오로지 투과광에는 양 필터를 투과하는 IR 성분이 남기 때문이다.
촬상부(2i)에는, 해당 2×2 화소의 구성이 수직 방향, 수평 방향 각각으로 반복해서 배열된다.
CCD 이미지 센서(2)는, 도시되어 있지 않은 구동 회로로부터 공급되는 클럭 펄스 등에 의해 구동되고, 촬상부(2i)의 각 수광부에서 발생한 신호 전하는, 축적 부(2s), 수평 전송부(2h)를 통하여 출력부(2d)로 전송된다. 출력부(2d)는, 수평 전송부(2h)로부터 출력되는 신호 전하를 전압 신호로 변환하여, 화상 신호로서 출력한다.
아날로그 신호 처리 회로(4)는, 출력부(2d)가 출력하는 아날로그 신호의 화상 신호에 대하여, 증폭이나 샘플 홀드 등의 처리를 실시한다. A/D 변환 회로(6)는 아날로그 신호 처리 회로(4)로부터 출력되는 화상 신호를, 소정의 양자화 비트 수의 디지털 데이터로 변환함으로써, 화상 데이터를 생성하여, 이것을 출력한다. 예를 들면, A/D 변환 회로(6)는 8 비트의 디지털 값으로의 A/D 변환을 행하고, 이에 따라 화상 데이터는 0으로부터 255까지의 범위 내의 값으로 표현된다.
디지털 신호 처리 회로(8)는 A/D 변환 회로(6)로부터 화상 데이터를 취득하고, 각종의 처리를 행한다. 예를 들면, 디지털 신호 처리 회로(8)는 촬상부(2i) 에서의 R, G, B, IR 각 수광부의 배열에 대응하여 각각 상이한 샘플링점에서 얻어진 R, G, B, IR 각 데이터에 대하여 보간 처리를 행하고, 화상을 구성하는 각 샘플링점 각각에 의해, R, G, B, IR 데이터를 정의한다. 또한, 이들 데이터를 이용하여, 각 샘플링점에서의 휘도 데이터(휘도 신호)(Y) 및 색차 데이터(색차 신호)(Cr, Cb)를 생성하는 처리가 행해진다.
이하, Y, Cr, Cb를 생성하는 색 신호 처리 방법에 대해 설명한다. 이하, 배경 기술란에서 이미 설명한 기호를 가능한 한 이용하여 설명의 간략화를 도모한다. 본 색 신호 처리로의 입력으로 되는 신호는, R, G, B, IR 각 수광부의 출력 신호를 공간적으로 보간함으로써, 화상의 각 샘플링점에 대하여 각각 정의된 <R>, <G>, < B>, <IR>이다.
간단한 경우로서 수학식 5, 즉
Ir=Ig=Ib=<IR>
이 성립하는 경우를 설명한다. 이 경우, 상기 수학식 6과 동일한 다음 식이 성립한다.
<R>=R0+<IR>
<G>=G0+<IR>
<B>=B0+<IR>
백색광에서의 R, G, B 성분의 비율은,
Figure 112006008542470-PAT00011
이다. 이에 대응하여, 다음 수학식에서 나타나는 보정색 신호(RN, GN, BN)를 정의한다.
Figure 112006008542470-PAT00012
여기서 κ는 κ>O인 비례 계수이다. 이들 보정색 신호(RN, GN, BN)의 합성에 의해 표현되는 색은, 각 보정색 신호에 포함되는 IR 성분의 합성이 백색광으로 되기 때문에, R0, G0, B0을 합성한 색으로 된다. 즉, 그 성분은 R, G, B 각 수광부가 검출 목적으로 하는 가시광 영역의 고유 감도 특성에 따른 신호 성분(R0, G0, B0)에 기초하는 것이며, IR 성분에 의한 색 밸런스의 어긋남을 회피할 수 있다.
예를 들면, α, β, γ는,
Figure 112006008542470-PAT00013
로 설정할 수 있다. 또한, 예를 들면, κ는, 백색광(또는 휘도 신호)에서 가장 비율이 높은 성분인 G 성분에 포함되는 IR 성분이, 보정색 신호(GN)와 오리지널의 색신호 <G>에서 동일하게 되도록 설정할 수 있다. 그 경우, κ는 1/β로 설정된다.
보정색 신호에 대응하는 휘도 신호(YN)는, 수학식 1, 수학식 12로부터,
Figure 112006008542470-PAT00014
로 표현된다. 또한,
Figure 112006008542470-PAT00015
이다.
수학식 14로부터 알 수 있는 바와 같이 YN은 Y0보다 크게 되고, 따라서 보정색 신호에 기초하는 화상은 밝아진다.
한편, 보정색 신호에 대응하는 색차 신호(CrN, CbN)는, 수학식 2, 수학식 3에 상당하는 다음 수학식으로 정의된다.
Figure 112006008542470-PAT00016
Figure 112006008542470-PAT00017
수학식 16, 수학식 17을 오리지널의 색 신호 <R>, <G>, <B> 및 이들에 대응하는 휘도 신호(Y')를 이용하여 나타내면,
Figure 112006008542470-PAT00018
Figure 112006008542470-PAT00019
로 된다. 또한,
Y'≡α<R>+β<G>+γ<B>
이다. 덧붙여서 말하면, 수학식 16a, 수학식 17a를 얻을 때에, 수학식 6, 수학식 12, 수학식 14 및,
Figure 112006008542470-PAT00020
의 관계를 이용하고 있다.
오리지널의 색 신호 <R>, <G>, <B>에 대응하는 색차 신호(Cr', Cb')를 나타내는 다음 식,
Cr'≡λ(<R>-Y')
Cb'≡μ(<B>-Y')
와 수학식 16a, 수학식 17a를 비교하면, 수학식 16a, 수학식 17a 우변의 <IR>에 관한 항은, 수학식 6으로 표현되는 오리지널의 색 신호와 수학식 12로 표현되는 보정색 신호의 IR 성분의 차에 기인하는 색차 신호의 변화량(이것을 Δ로 한다)임을 이해할 수 있다.
수학식 16, 수학식 17 우변을 구성하는 RN, BN, YN은 IR 성분을 포함하는 만큼, R0, B0, Y0보다 큰 값으로 된다. 상기한 바와 같이, IR 성분이 커지면, R0, G0, B0이 작아지고, Cr0, Cb0을 구성하는 R0, B0, Y0에 포함되는 반올림 오차의 상대적인 크기는 커질 수 있다. 이에 반해, RN, BN, YN이 R0, B0, Y0보다 큰 값으로 됨으로써, RN, BN, YN에 포함되는 반올림 오차의 상대적인 크기는 비교적 작다. 즉, 색차 신호(CrN, CbN)는 반올림 오차에 의한 색 밸런스의 어긋남이 발생하기 어렵다.
또한, 디지털 신호 처리 회로(8)는, 수학식 16a, 수학식 17a를 이용하여, 오리지널의 색 신호 및 그것에 대응하는 휘도 신호와, 상기 색차 신호의 변화량(Δ)으로부터, 색차 신호(CrN, CbN)를 산출할 수 있다. 이 경우에도, 수학식 16a, 수학식 17a 우변에 포함되는 <R>, <B>, Y'의 반올림 오차의 상대적인 크기가 작아짐으로써, 색 밸런스의 어긋남이 발생하기 어렵다.
수학식 13의 α, β, γ에 대한 수학식 14, 수학식 16a, 수학식 17a는 이하와 같이 된다. 여기서, λ, μ는 각각 상기한 값 0.713, 0.564로 하고 있다.
YN=Y0+0.447κ<IR>
CrN=0.713(<R>-Y')-0.105κ<IR>
CbN=0.564(<B>-Y')-0.188κ<IR>
디지털 신호 처리 회로(8)는, 이들 휘도 신호(YN) 및 색차 신호(CrN, CbN)를 생성하여 출력한다. YN, CrN, CbN은, 보정색 신호(RN, GN, BN)에 대응한 휘도 신호 및 색차 신호이며, 보정색 신호와 마찬가지로, 색 밸런스의 어긋남이 억제된 화상을 표현할 수 있다.
또한, 디지털 신호 처리 회로(8)는, 보정색 신호(RN, GN, BN)를 출력하도록 구성할 수도 있다.
상기한 구성에서는,
Ir=Ig=Ib=<IR>
로 했지만, 오프셋 신호 성분으로 되는 Ir, Ig, Ib가 각각 <IR>과 소정의 관계에 있는 경우에는, <IR>을 참조하여 Ir, Ig, Ib를 정할 수 있다. 따라서, 예를 들면, 도 2에 도시하는 각 수광부의 분광 감도 특성을 측정하는 등의 방법에 의해, 미리 Ir, Ig, Ib와 <IR>의 관계를 구해 놓으면, 그 관계를 이용하여, 상기한 바와 마찬가지로 하여, 밝고 또한 색 밸런스의 어긋남이 억제된 보정색 신호, 또는 그것에 대응하는 휘도 신호 및 색차 신호를 얻을 수 있다.
또한, 각 색 신호에 중첩하는 오프셋 신호를 백색광화 한다는 상기의 방법은, 입사광 중 IR 성분에 기인하는 것 이외의 오프셋 신호 성분에 대해서도 적용할 수 있다. 또한 각 수광부가 고유의 감도를 갖는 색의 세트는 R, G, B 이외의 것이어도 되고, 예를 들면, Cy, Mg, Ye 등의 보색계의 세트이어도 된다.
본 발명에 따르면, 각 보정색 신호는 오프셋 신호 성분을 포함하는 만큼, 신호 레벨이 커진다. 즉, 각 수광 소자의 고유 감도 특성에 따른 신호 성분에만 기초하는 휘도보다도 큰 휘도가 얻어진다. 한편, 각 특정색의 보정색 신호 상호간에서의 오프셋 신호 성분량의 비율은, 백색광에서의 각 특정색의 성분비에 따른 것으로 된다. 이에 따라, 각 보정색 신호로 나타나는 각 특정색 성분을 합성했을 때, 오프셋 신호 성분은 그 합성 결과가 백색으로 되므로, 색 밸런스가, 각 수광 소자의 고유 감도 특성에 따른 신호 성분에 기초하는 것으로 된다. 즉, 오프셋 신호 성분에 의한 색 밸런스의 어긋남을 회피할 수 있다.

Claims (5)

  1. 소정의 참조 분광 감도 특성을 갖는 수광 소자로부터 얻어지는 참조 신호 및, 서로 다른 특정색에 대응한 고유 감도 특성과 상기 참조 분광 감도 특성에 따른 오프셋 감도 특성이 합성된 분광 감도 특성을 갖는 복수 종류의 수광 소자로부터 얻어지는 복수 종류의 색 신호를 이용하는 색 신호 처리 방법으로서,
    상기 참조 신호에 기초하여, 상기 각 색 신호에 포함되는 상기 오프셋 감도 특성에 따른 오프셋 신호 성분량을 결정하고, 그 오프셋 신호 성분량에 대해 상기 각 색 신호 사이에서의 비율을 변경함으로써, 상기 각 색 신호로부터 각각 보정색 신호를 생성하는 보정 단계를 갖고,
    상기 각 보정색 신호 사이에서의 상기 오프셋 신호 성분량의 상기 비율은, 백색광에서의 상기 각 특정색에 관한 성분비에 따라 정해지는 것
    을 특징으로 하는 색 신호 처리 방법.
  2. 소정의 참조 분광 감도 특성을 갖는 수광 소자로부터 얻어지는 참조 신호 및, 서로 다른 특정색에 대응한 고유 감도 특성과 상기 참조 분광 감도 특성에 따른 오프셋 감도 특성이 합성된 분광 감도 특성을 갖는 복수 종류의 수광 소자로부터 얻어지는 복수 종류의 색 신호를 이용하는 색 신호 처리 방법으로서,
    상기 각 색 신호로부터 보정색 신호에 따른 보정 색차 신호를 생성하는 보정색차 신호 생성 단계를 갖고,
    상기 보정색 신호는, 상기 각 색 신호에서, 상기 오프셋 감도 특성에 따른 오프셋 신호 성분량에 대한 상기 각 색 신호 사이에서의 비율을 변경한 것이며,
    상기 각 보정색 신호 사이에서의 상기 오프셋 신호 성분량의 상기 비율은, 백색광에서의 상기 각 특정색에 관한 성분비에 따라 정해지는 것
    을 특징으로 하는 색 신호 처리 방법.
  3. 제2항에 있어서,
    상기 보정 색차 신호 생성 단계는,
    상기 색 신호에 따른 휘도 신호를 생성하는 휘도 신호 생성 단계와,
    상기 각 색 신호와 상기 각 보정색 신호의 상기 오프셋 신호 성분량의 차에 기인하는 색차 신호의 변화량을 구하는 단계와,
    상기 색 신호, 상기 휘도 신호 및 상기 변화량에 기초하여, 상기 보정 색차 신호를 생성하는 단계
    를 갖는 것을 특징으로 하는 색 신호 처리 방법.
  4. 제1항 내지 제3항 중 어느 한 항에 있어서,
    상기 참조 분광 감도 특성은, 가시광 대역에 비해 적외광 대역에 큰 감도를 갖는 것을 특징으로 하는 색 신호 처리 방법.
  5. 제4항에 있어서,
    상기 특정색은, 적, 녹 및 청의 3원색인 것을 특징으로 하는 색 신호 처리 방법.
KR1020060011054A 2005-02-07 2006-02-06 색 신호 처리 방법 KR20060090178A (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JPJP-P-2005-00029979 2005-02-07
JP2005029979A JP2006217441A (ja) 2005-02-07 2005-02-07 色信号処理方法

Publications (1)

Publication Number Publication Date
KR20060090178A true KR20060090178A (ko) 2006-08-10

Family

ID=36780008

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020060011054A KR20060090178A (ko) 2005-02-07 2006-02-06 색 신호 처리 방법

Country Status (5)

Country Link
US (1) US20060177129A1 (ko)
JP (1) JP2006217441A (ko)
KR (1) KR20060090178A (ko)
CN (1) CN1819663A (ko)
TW (1) TW200629916A (ko)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4730082B2 (ja) * 2005-12-22 2011-07-20 ソニー株式会社 画像信号処理装置、撮像装置、および画像信号処理方法、並びにコンピュータ・プログラム
JP5106870B2 (ja) * 2006-06-14 2012-12-26 株式会社東芝 固体撮像素子
JP2008092247A (ja) * 2006-10-02 2008-04-17 Sanyo Electric Co Ltd 固体撮像素子
JP4949806B2 (ja) * 2006-11-10 2012-06-13 オンセミコンダクター・トレーディング・リミテッド 撮像装置及び画像信号処理装置
JP4971816B2 (ja) * 2007-02-05 2012-07-11 三洋電機株式会社 撮像装置
JP2010206678A (ja) 2009-03-05 2010-09-16 Panasonic Corp 固体撮像装置、撮像モジュール、及び撮像システム
CN101610355B (zh) * 2009-05-05 2011-03-16 张日和 日夜两用摄像装置
CN101621697B (zh) * 2009-07-28 2010-11-10 黄松涛 一种用多色图像传感器的背景消除装置及使用方法
CN102088553A (zh) * 2009-10-08 2011-06-08 Hoya株式会社 对移动物体成像的成像仪和成像系统
JP2011239252A (ja) * 2010-05-12 2011-11-24 Panasonic Corp 撮像装置
EP2579574A4 (en) * 2010-06-07 2013-12-25 Konica Minolta Advanced Layers IMAGING DEVICE
EP2579573A4 (en) * 2010-06-07 2014-09-10 Konica Minolta Advanced Layers IMAGING DEVICE
JP5507376B2 (ja) 2010-07-28 2014-05-28 三洋電機株式会社 撮像装置
US8357899B2 (en) * 2010-07-30 2013-01-22 Aptina Imaging Corporation Color correction circuitry and methods for dual-band imaging systems
KR101695252B1 (ko) 2012-06-07 2017-01-13 한화테크윈 주식회사 멀티 대역 필터 어레이 기반 카메라 시스템 및 그의 영상 처리 방법
JP6368115B2 (ja) 2013-05-10 2018-08-01 キヤノン株式会社 固体撮像装置およびカメラ
KR102071325B1 (ko) * 2013-09-27 2020-04-02 매그나칩 반도체 유한회사 조도와 물체의 거리를 측정하는 광 센서
CN104980667B (zh) * 2014-04-13 2018-11-09 比亚迪股份有限公司 图像传感器和监控系统
US10321110B2 (en) * 2014-05-29 2019-06-11 Nokia Technologies Oy Method and apparatus for image processing
CN106488209A (zh) * 2016-09-29 2017-03-08 杭州雄迈集成电路技术有限公司 一种基于红外环境的rgb‑ir图像传感器的颜色校正方法
CN111050097B (zh) * 2018-10-15 2022-03-15 瑞昱半导体股份有限公司 红外线串扰补偿方法及其装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4286123B2 (ja) * 2003-12-22 2009-06-24 三洋電機株式会社 カラー撮像素子およびカラー信号処理回路

Also Published As

Publication number Publication date
JP2006217441A (ja) 2006-08-17
TW200629916A (en) 2006-08-16
US20060177129A1 (en) 2006-08-10
CN1819663A (zh) 2006-08-16

Similar Documents

Publication Publication Date Title
KR20060090178A (ko) 색 신호 처리 방법
US10257484B2 (en) Imaging processing device and imaging processing method
KR100785596B1 (ko) 색 신호 처리 방법
KR100657772B1 (ko) 영상처리장치,영상처리방법과카메라
JP4984634B2 (ja) 物理情報取得方法および物理情報取得装置
JP5187433B2 (ja) 物理情報取得方法および物理情報取得装置
US20060186322A1 (en) Color filter array and solid-state image pickup device
JP4407448B2 (ja) 撮像装置
US8508633B2 (en) Image device with color and brightness signal processing
US20050280727A1 (en) Solid state imaging device
US8144221B2 (en) Image sensor apparatus and methods employing unit pixel groups with overlapping green spectral content
JP4874752B2 (ja) デジタルカメラ
KR20070102398A (ko) 촬상 장치
CN104756488A (zh) 信号处理设备、信号处理方法和信号处理程序
KR20090018803A (ko) 촬상장치 및 신호처리방법
JP4011039B2 (ja) 撮像装置及び信号処理方法
US7317478B2 (en) Solid-state imaging apparatus and digital camera
KR20100082452A (ko) 이미지 신호 처리 장치 및 방법
JP4859502B2 (ja) 撮像装置
JP3966868B2 (ja) 撮像装置、カメラ、及び信号処理方法
KR100905269B1 (ko) 적외선 보정 기능을 구비한 이미지센서
JP4397724B2 (ja) 撮像装置、カメラ、及び信号処理方法
JP3933649B2 (ja) 撮像装置及び信号処理方法
JP2006013567A (ja) 撮像装置及びその信号処理方法
JP4298595B2 (ja) 撮像装置及びその信号処理方法

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
NORF Unpaid initial registration fee