JP2007088873A - 信号処理方法、信号処理回路およびこれを用いたカメラシステム - Google Patents
信号処理方法、信号処理回路およびこれを用いたカメラシステム Download PDFInfo
- Publication number
- JP2007088873A JP2007088873A JP2005275798A JP2005275798A JP2007088873A JP 2007088873 A JP2007088873 A JP 2007088873A JP 2005275798 A JP2005275798 A JP 2005275798A JP 2005275798 A JP2005275798 A JP 2005275798A JP 2007088873 A JP2007088873 A JP 2007088873A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- color
- luminance
- data
- color signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Color Television Image Signal Generators (AREA)
Abstract
赤外光成分が画素信号に含まれても、輝度信号を補正して色再現性を良くする。
【解決手段】
入力画素信号から輝度信号を生成する前に、画素の色信号に混入された赤外光成分を色フィルタ毎に推定演算処理し、該推定演算処理した色信号の結果に応じて輝度信号を生成し、この生成された輝度信号と色差信号を用いて画像信号を発生することにより、赤外光が画素信号に混入しても色再現性を向上することができる。
【選択図】図5
Description
これを解決するため、たとえば特許文献1(特開2001−69519号公報)において、近赤外光領域まで感度を持つCCD受光素子が2次元的に配列され、この受光素子には1対1にフィルタアレイが設けられている。
具体的には、撮像(受光)素子のR(赤),G(緑),B(青)上には近赤外光をカットするカラーフィルタを設け、受光素子のY(輝度)上には近赤外光を透過するようにするため、近赤外カット用のフィルタは設けていない。
すなわち、近赤外領域の光を透過するフィルタと近赤外領域の光を透過しないフィルタを備えた撮像素子を利用することにより、Y信号は、近赤外領域の光を含むので高感度となり、クロマ(色)信号は、近赤外光を含まないので色再現性が良好である。
また、特許文献2(特開2000-59798号公報)には、赤外カットフィルタの位置を切り替える構成が開示されている。
レンズとCCD撮像素子間には、可視光カットフィルタは設けてなく、IR(赤外光)カットフィルタと光学ローパスフィルタを設け、このIRカットフィルタを切替機構により、撮像の光学経路に出し入れして(位置P1,P2)、近赤外光領域の感度と可視光領域の感度との両方を有効に活用して、近赤外光と可視光による撮影ができるようにしている。
さらに、特許文献3(特開2003−70009号公報)には、CCDまたはCMOSの撮像素子、撮像駆動手段、信号処理手段、同期信号生成手段、レンズなどが開示され、この信号処理手段は色差信号生成部と輝度信号生成部を備えている。
赤外光の影響を排除するため、信号処理手段に構成された色差信号生成部で、赤外光の影響を受ける色差信号の値を減少させる補正を行う。
たとえば、赤外光の影響が大きいCr(=Ye+Mg−(Cy+G);Ye黄色,Mgマゼンタ,Cyシアン,G緑)に対応する、色差信号のR−Y信号の正負を検出し、R−Y信号が負またはゼロの場合は補正を無効とし、正の場合にR−Y信号に関する補正を行うことにより、色再現性を改善している。また、R−Y信号の補正量にパラメータを乗算し、この値を輝度信号から減算して輝度信号を可変しているが、これは赤外光が混入した色差信号で輝度信号を処理する方法である。
図1にCMOS撮像素子の分光特性を示すように、IR(Infrared;赤外光)成分が混入するのはR(赤)フィルタだけでなく、G(緑)やB(青)フィルタにも混入していることが分かる。特に、780〜900nmの波長領域において赤外光の混入が著しい。
ここでGRは画素R(赤)の行に配列された画素G(緑)のスペクトル特性、またGBは画素B(青)の行に配列された画素Gのスペクトル特性をそれぞれ表している。この特性は撮像素子(センサ)により異なり、また環境光の分光特性によっても変わってくる。
特許文献3の方法では、色フィルタ毎に処理を行うのではなく、信号処理がほぼ完了したところで(色信号を生成した後)で対策を施しているので、効果が少ないと思われる。
本発明の信号処理回路は、入力画素信号から輝度信号を生成する前に、画素の色信号に混入している赤外光成分を色フィルタ毎に推定演算処理回路で補正し、色信号の補正結果に応じて輝度信号を生成し色差信号を用いて画像信号を発生する信号処理回路であって、前記推定演算処理回路は、色信号と輝度信号を制御信号により択一的に選択する選択回路と、前記選択回路から出力された出力信号が供給され、所定係数倍されて出力される乗算器と、前記色信号と前記乗算器から出力された信号が演算され、補正された色信号が出力される演算器とを有する。
本発明のカメラシステムは、近赤外領域まで感度を有する複数の受光素子が配列された撮像部から出力された信号を画像処理して出力する赤外光遮断フィルタを除去したカメラシステムにおいて、入力画素信号から輝度信号を生成する前に、画素の色信号に混入された赤外光成分を色フィルタ毎に推定演算処理し、推定演算処理した色信号の結果に応じて輝度信号を生成し、該生成された輝度信号と色差信号を用いて画像信号を発生するし、色再現性を向上させることを特徴とする。
また本発明は、色信号処理した後で補正するのではなく色信号処理前において、輝度(Y)信号処理回路に赤外光(IR)推定処理回路を追加するだけで色再現性を向上させることができる。
カメラシステム10は、例えば、レンズ11、撮像素子12、CDS(相関二重サンプリング)やプリアンプなどを有する前処理部13、AD(アナログ・ディジタル)変換器14と、補正処理部(21)、輝度信号処理部(22)、色信号処理部(23)を有する信号処理部20などで構成される。
補正処理部21では、黒検出、ディジタルゲイン調整(Digital Gain Control)、レンズ11で生じるシェーディングの補正や、遅延線を用いて輝度信号(データ)と色信号(データ)を分離し、また遅延線を用いて画素欠陥の補正を行う。
輝度信号処理部22はY(輝度)信号の垂直・水平(方向)輪郭補正(VHアパーチャーコントロール)、Y輝度信号と垂直・水平輪郭補正信号のMix(混合;加算)処理、γ(ガンマ)補正、ルミナンス(輝度)キー処理、画像の一部領域を任意の輝度などに処理するソラリ、また画像を反転するネガ処理などの種々の画像処理を行う。
色信号処理部23は、色分離やクランプ処理、色信号のノイズや色偽信号の除去、RGBマトリックス(Matrix)処理、R,G,Bの各色の係数を可変するホワイトバランス(WB)調整、γ(ガンマ)補正、R−G/B−G変換,色偽信号の抑圧処理、色差信号(Cr/Cb)の生成、クロマサプレス(抑制)処理,Hue/Gain調整,モノトーン効果処理などを行う。
信号処理部(回路)50は、前処理部(PRE)60、Y−ブロック(輝度信号処理部)70とC−ブロック(色信号処理部)80の3つのブロックで構成されている。
前処理部60は、黒検出部61、加算器62、ディジタルゲイン調整部63、シェーディング補正部64、遅延線/欠陥補正部65などで構成されている。
黒検出器61はAD変換器14から出力されたデータ(ADin)を用いて、この入力データ(信号)の黒レベルを計算し、クランプレベルを計算するためのデータを出力する。
加算器62は、入力データ(ADin)から黒レベルを減算処理し、黒レベルを基準とした(黒レベルにクランプされた)新たな画素データを生成する。
ディジタルゲイン調整部63は、加算器62から出力された黒レベルにクランプされたデータの利得をディジタル的に可変して明るさを調整している。
シェーディング補正部64は、レンズ11の口径により画像の中心部に対して周辺部は輝度の差(ムラ)があり、この輝度ムラを補正するようにしている。
遅延線/欠陥補正部65は、遅延線と演算(加算・減算)器を用いて入力データを輝度信号(データ)と色信号(データ)に分離する。また、遅延素子で入力データを、例えば1画素、2画素遅延させ、この遅延した画素値を演算器を用いて加算して欠陥画素の前後のデータを平均化した値を求め、欠陥画素と置換して、画素の欠陥補正を行っている。
YLPF71は、輝度信号に関するデータを加算演算処理して、等価的にノイズを除去している。
また、フィルタ機能以外に、IR(赤外光)に関する推定(演算)処理部を有し、そこで色信号(データ)号を補正して輝度信号を生成する機能も備えている。
輝度信号を構成するR(赤),GR(R行のグリーンデータ),B(青),GB(B行のグリーンデータ)に所定の係数を乗算し、夫々の色データ(信号)からこの乗算値を減算して、補正した色データを求め、この補正色データを用いて輝度信号を生成している。
またこれ以外にたとえば、輝度データ(Y)に所定の係数を乗算し、夫々の色データR(赤),GR(R行のグリーンデータ),B(青),GB(B行のグリーンデータ)からこの乗算値を減算し、補正した色データを求めて、輝度信号を生成することもできる。
さらに、補正用の色信号を求める際、係数に対する被乗算値を色データ(信号)と同じ色データを用いるかあるいは輝度(Y)データを用いるか任意に選択することもでき、光源などに対応した輝度信号を発生することもできる。
垂直・水平輪郭補正(VHアパーチャーコントロール)部72は、遅延素子と加算・減算処理する演算器を用いて、画像の水平方向の輪郭部を強調するパルスを生成し、また画像の垂直方向の輪郭部を強調するパルスも生成する。
輪郭補正加算器(輪郭補正Mix)73は、垂直・水平輪郭補正部72から出力された水平方向の輪郭補正パルスと垂直方向の輪郭補正パルスと、YLPF71から供給された輝度データが供給され、加算処理がされて輪郭が強調された輝度データが出力される。
ガンマ(γ)補正部74は、たとえば表示装置をCRT(Cathode ray tube;受像管)のとき、このCRTのγ特性が2.2であるので、あらかじめ撮像側で1/γ=0.45と入出力特性のカーブを補正して、CRT側で画像の階調が正しく再現されるようにし、正しい再生画像が得られるようにしている。
画像エフェクト処理部75は、ルミナンス(輝度)キー処理、画像の一部領域を任意の輝度などに処理するソラリ処理、また画像を反転するネガ処理などを行う。
クロマサプレス用信号生成部76は、垂直・水平輪郭補正部72で生成したパルス信号から、画像輪郭部のパルスを用いて、クロマ(色)データを削除する制御信号を発生する。
色信号処理部80は、遅延線/欠陥補正部65で処理された色データが入力され、色分離/クランプ処理部81、色(クロマ)信号ローパスフィルタ(CLPF)82、RGB Matrix(RGBマトリックス)83、ホワイトバランス(WB)調整部84、色信号オプティカルディテクタ85、γ補正部86、R−G/B−G変換,色偽抑圧処理部87、Cr/Cb生成部88、クロマサプレス,Hue(色相制御)/Gain(ゲイン)調整,モノトーン効果処理部89などで構成される。
遅延線/欠陥補正部65から出力された画像信号(データ)は色分離/クランプ処理部81に供給され、色分離されかつ所定の値にクランプされる。
クロマ信号ローパスフィルタ(CLPF)82は、たとえばディジタルローパスフィルタで構成され、色分離された信号の偽色信号やノイズの除去を行っている。
RGB Matrix(RGBマトリックス)83はCLPF82からの出力データを演算処理してR,G,Bの3原色データを求め、ホワイトバランス(WB)調整部84に出力する。
ホワイトバランス(WB)調整部84は、R(赤),G(緑),B(青)の色信号(データ)に所定の係数を掛けて、目標の色温度に対する白色を設定するようにしている。ホワイトバランスのとれた色データをガンマ補正部86と色信号オプティカルディテクタ(COPD)85に出力する。
色信号オプティカルディテクタ(COPD)85で3原色R,G,Bの色データが検出され、AE(自動露光)/AWB(オートホワイトバランス)/OPD(オプティカルディテクタ)部95のOPD部でたとえば1フィールド、1フレーム期間積分される。
露光・自動ホワイトバランス(AE/AWB S/W(ソフトウエアー))部96において、ソフトウエアー処理により、前述の積分された各色データから色温度座標で色温度を求め、目標とする色温度に対する各色データの補正係数を求める。この値をホワイトバランス(WB)調整部84にフィードバックしてホワイトバランスの調整を行う。
R−G/B−G変換,色偽抑圧処理部87は、ホワイトバランス調整部84から出力された色データをγ補正した後、撮像素子の画素間で他の色信号が混入したことによる色偽信号を抑圧し、そしてR(赤)−G(緑),B(青)−G(緑)の色信号に変換する。
Cr/Cb生成部88は、R−YとB−Yの色差信号を発生する。ここで、Cr=R−Y,Cb=B−Y(Yは輝度信号)である。
クロマサプレス,Hue/Gain調整,モノトーン効果処理部89は、クロマサプレス用信号生成部76から出力された制御信号により、Cr,Cbの色差信号のデータが出力されることを阻止する。
また、色差信号のデータに関し、Hue(色相)の調整、Gain(ゲイン;利得)の調整を行うと共に、色を消して白黒画像にするモノトーン効果の処理も行う。
そして、処理された(色)データは不図示のエンコーダに出力され、輝度信号処理部(Y−ブロック)70から出力される輝度(Y)信号を用いてエンコードされてコンポーネントまたはコンポジットの画像信号が生成される。
前処理部13から出力された画素のアナログ信号が、AD変換器14で10〜12Bits精度のディジタルデータ(信号)に変換され、この変換されたデータが信号処理回路50の前処理(PRE)部60に入力される。入力されたデータ(ADin)は黒検出部61と加算器62の一方の入力端子に入力され、黒検出部61で黒レベルの計算が行われ、その計算されたデータがクランプソフトウエアー(CLAMP S/W)97に供給され、クランプレベルがソフトウエアー処理により計算される。このクランプソフトウエアー97から出力されたクランプデータが黒検出部61に供給され、黒検出部61から黒クランプレベルのデータが加算器62に出力される。
加算器62に入力されたデータ(ADin)と黒レベルのクランプデータが減算処理され、ディジタルゲイン調整部63に出力され、ゲインが可変されて明るさの調整が行われる。
ゲイン調整された画素データは、シェーディング補正部64に供給され、カメラシステムの撮像素子前面に備えられたレンズに起因する輝度ムラが補正された後、遅延線/欠陥補正67で画素の欠陥を補正し、また色データと輝度データに分離される。
分離された色データと輝度データに関し、輝度データは輝度信号処理部(Y−ブロック(Block))70に、色データは色信号処理部(C−ブロック(Block))80にそれぞれ供給される。
図4に示したYLPF100(71)はフィルタ(不図示)と推定演算処理回路を構成するIR(赤外光)成分推定処理部101と輝度計算処理部102などで構成され、IR成分推定処理部101においてIR成分の推定減算処理を行っている。また輝度計算処理部102では、IR成分推定処理部101で演算処理されて得られた各色の補正された値を用いて、輝度信号を生成している。
いま、カラーフィルタの配列をたとえば原色ベイヤー方式とし、さらに色データをR(赤)、B(青)、GR(R行の緑)とGB(B行の緑)とすると、推定演算式は下記のように表される。
補正データに輝度(Y)データのみを用いた場合は、
R'=R−KR*Y
B'=B−KB*Y
GR'=GR−KGR*Y
GB'=GB−KGB*Y ・・・(1)
と表される。
ここで、KR,KB,KGR,KGBは各色データR,B,GR,GBに関する補正係数であり、*印は乗算記号を表し、またY=(R+B+GR+GB)/4である。
また、補正データに各色データを用いた場合は、
R'=R−KR*R
B'=B−KB*B
GR'=GR−KGR*GR
GB'=GB−KGB*GB ・・・(2)
と表される。
さらに、補正を環境光に合致するように設定した場合は、
R'=R−KR*R
B'=B−KB*Y
GR'=GR−KGR*Y
GB'=GB−KGB*Y ・・・(3)
と表すことができる。
この例ではR'色データのみをRデータに係数KRを掛けて補正した例を示したが、それ以外の色データについても適宜色データを用い、これら補正した色データを組み合わせることもできる。
具体的には、上述した式(1)、(2)または(3)のいずれかの一つの式のR',B',GR',GB'の色信号の補正された色データを用いると、
Y=(R'+B'+GR'+GB')/4 ・・・(4)
と輝度データが計算(生成)され、この値が輝度信号として出力される。
そして、ルミナンスキー処理、ソラリ/ネガ処理などの画像エフェクト処理が行われ、この画像エフェクト処理された信号が出力端子(YOUT)から導出される。
ノイズと色偽信号が除去された色データはRGBマトリックス83でR,G,Bの3原色信号が求められ、ホワイトバランス(WB)調整部84でホワイトバランス調整し、ガンマ補正部86で色信号に関するガンマ(γ)補正を行う。またホワイトバランス(WB)調整部84から出力されたデータは、色信号オプティカルディテクタ85、AE/AWB/OPD部95でハードウエアーを用いて色データを検出する。
この検出した色データをAE/AWB S/W部96に供給してコンピュータまたは演算装置でソフトウエアー処理により、色信号(データ)に対する色温度を求め、また目標(白)色温度に対する各色の補正係数を計算し、そのデータをホワイトバランス(WB)調整部84にフィードバックして自動的にホワイトバランスの調整を行う。
輝度Yデータは、
Y=0.30R+0.59G+0.11B ・・・(5)
と表されるので、
Cr=R−Y=0.70(R−G)−0.11(B−G)・・・(6)
Cb=B−Y=0.89(B−G)−0.30(R−G)・・・(7)
と変形できる。すなわち、R−GとB−Gの色データからCr,Cbの色差信号を式(6),(7)から求めることができる。
クロマサプレス用信号生成部76から出力された制御信号とCrとCbの色差信号がクロマサプレス,Hue/Gain調整,モノトーン効果処理部89に供給され、クロマサプレス用の制御信号が供給されると色信号は消され、Hue/Gain調整の処理を行うと色相や飽和度が可変され色信号が調整される。また、モノトーン効果を作動させると、色が消され白黒の画像に設定される。
クロマサプレス,Hue/Gain調整,モノトーン効果処理部89から出力された色データは出力(COUT)され、上述した輝度信号処理部70から出力(YOUT)された輝度信号と共にエンコーダ(不図示)に供給され、IR領域が補正された色再現性の良いコンポーネントまたはコンポジットの画像信号が生成される。
その結果、再現された色信号を、たとえばマクベスチャート(登録商標)を用いて色評価すると、IR推定演算(減算)処理が無い場合は、IR成分によりたとえば赤色(red;カラー番号15)に白色が混入した色となり、中程度の赤(Moderate red;カラー番号9)やマジェンタ(magenta;カラー番号17)との差は少なくなり、識別しにくくなる。またこれ以外にもマクベスチャート上に表示された各色は全体に白身を帯びた色に変化して、本来の色は再現されていない。これに対して、IR推定演算処理がある場合、マクベスチャート全体の明るさはやや暗くなるものの、赤色(カラー番号17)や中程度の赤(カラー番号9)などは元の色に再現され、これらの色は明確に識別でき色再現性が良くなる。
IR推定処理回路150は、R(赤)色データが入力端子T1に入力される。入力端子T1は加算器151の一方の入力とSEL(セレクタ;切替器)153の一方の端子と加算器155の+(プラス)端子に接続される。加算器151の他方の入力は端子T2に接続され、この加算器151の出力は加算器152の一方の入力に接続される。また加算器152の他方の入力は加算器171の出力に接続され、出力は1/4演算器156の入力に接続される。
1/4演算器156の出力はSEL(セレクタ)153,161,172,181の他方の端子に接続され、輝度信号Y(データ)を供給している。
SEL153に制御信号R−SELが供給され、入力のR色データまたはYデータの切り替えを行っている。SEL153の出力は、乗算器154の一方の入力に供給され、またこの乗算器154の他方の入力に係数KRが供給され、出力は加算器155の−(マイナス)端子に接続され、ここで減算処理されて出力からR信号(データ)の補正されたR'色データが導出される。
加算器163の+(プラス)端子は端子T2に接続され、出力からGR信号(データ)の補正されたGR'色データが導出される。
B色データが入力される端子T3は加算器171の一方の入力とSEL172の一方の入力と、加算器174の+(プラス)端子に接続されている。SEL172の他方の入力は1/4演算器156の出力に接続され、B−SEL制御信号により切り換えられてB色データまたはYデータが選択される。またSEL172の出力は乗算器173の一方の端子に接続され、この乗算器173の他方の入力は係数KBが入力され、出力は加算器174の−(マイナス)端子に接続される。そして、加算器174の出力からB信号(データ)の補正されたB'色データが導出される。
GB色データが入力されるT4は、加算器171他方の入力に接続され、さらにSEL181の一方の入力と加算器183の+(プラス)端子に接続される。SEL181にGB−SELの制御信号が供給され、GB色データまたはYデータのどちらか一方が選択される。
SEL181の出力は乗算器182の一方の端子に接続され、この乗算器182の他方の端子に係数KGBが供給され、出力は加算器183の−(マイナス)端子に接続される。加算器183の出力は、GB色信号(データ)の補正されたGB'色データが導出される。
R色データが端子T1に入力され、また端子T2からGR色データが入力されると、加算器151の出力からR+GR色データが導出される。また端子T3からB色データと端子T4からGB色データが加算器171に入力されると、出力からB+GB色データが導出され、このB+GB色データが加算器152に出力される。
加算器152の入力には加算器151の出力からR+GR色データと加算器171からのB+GB色データが供給されるので、出力からR+GR+B+GB色データが出力される。このR+GR+B+GB色データは次段の1/4演算器156で1/4に演算処理されてY(輝度)データとして出力され、各SEL153,161,172,181に供給される。
また、R−SELの制御信号により、SEL153の入力の他方の端子が選択されると、入力のYデータが選択される。このYデータが乗算器154に入力されると係数KRと乗算され、その結果、KR*Yが加算器155の−(マイナス)端子に入力される。一方、加算器155の+(プラス)端子にはR色データが入力されるので、減算処理されて、R−KR*YがR'色データとして出力される。
また、GR−SELの制御信号により、SEL161の入力の他方の端子が選択されると、入力のYデータが選択され、出力される。このYデータが乗算器162に入力されると係数KGRと乗算され、その結果、KGR*Yが加算器163の−(マイナス)端子に入力される。一方、加算器163の+(プラス)端子にはGR色データが入力されるので、減算処理されて、GR−KGR*YがGR'色データとして出力される。
また、B−SELの制御信号により、SEL172の入力の他方の端子が選択されると、入力のYデータが選択され、出力される。このYデータが乗算器173に入力されると係数KBと乗算され、その結果、KB*Yが加算器174の−(マイナス)端子に入力される。一方、加算器174の+(プラス)端子にはB色データが入力されるので、減算処理されて、B−KB*YがB'色データとして出力される。
また、GB−SELの制御信号により、SEL181の入力の他方の端子が選択されると、入力のYデータが選択され、出力される。このYデータが乗算器182に入力されると、係数KGBと乗算され、その結果、KGB*Yが加算器183の−(マイナス)端子に入力される。一方、加算器183の+(プラス)端子にはGB色データが入力されるので、減算処理されて、GB−KGB*YがGB'色データとして出力される。
上述した制御信号により、係数KR,KGR,KB,KGBに乗算されるデータとして色データあるいはYデータを任意に選択することができ、色々な組み合わせができる。
補正した色データから輝度(Y)データを生成し、輪郭補正加算器(輪郭補正Mix)73、γ補正部74、画像エフェクト処理部75の各信号処理を得て、IR(赤外光)補正された輝度(Y)データが出力(YOUT)される。
このIR(赤外光)補正された輝度出力(YOUT)と色出力(COUT)が不図示のエンコーダに供給され、演算されてたとえばコンポーネントまたはコンポジットの画像信号が出力される。
例えば、式(3)で、R色データに関して被乗算値としてR色データを選択し、R'=R−KR*Rと表している。またそれ以外の色データに関して被乗算値として輝度(Y)データを用いて、B'=B−KB*Y、GR'=GR−KGR*Y、GB'=GB−KGB*Yと表している。
この例ではR'のみをR色データを用いて変形した例を示したが、それ以外の色データについても被乗算値に適宜色データか輝度(Y)データのいずれかを選択して、組みあわせることもできる。
このように、環境光やセンサの分光特性などに応じて、(補正)係数、被乗算値や減算処理方法を決める必要がある。これを実現するために光源推定機能をカメラシステムに追加すると良い。
光源推定機能において、光源のスペクトルを測定し、たとえば、測定波長に対する光強度を測定し、ピーク値に対して正規化し、各波長に対する相対的な光強度をメモリなどの記憶装置に記憶する。これらの測定を、たとえばハロゲンランプ、蛍光灯、人工太陽、太陽光(8:00頃,14:00頃,15:30頃)などの種々の光源に対して行い、データを蓄積し、必要なとき読み出せるようにしておく。
撮影時、R,G,Bなどの各撮像素子に入射する光を測定し、この測定した光データの相対値と記憶したスペクトルデータ(波長に対する光強度の相対的なスペクトルデータ)とを照合することにより光源を特定する。また測定用に新たに受光素子を設けても良い。
また、スペクトルを特定する時、全ての波長について検証する必要はなく、特徴のある波長を数点測定、評価してもよく、短時間に光源を特定できる。
このようにして、光源を特定すると、ソフトウエアー処理などにより光源に合った色データの補正係数や減算処理方法を採用することができ、色再現性がさらに向上する。
赤外カットフィルタを取り外す主な理由は感度向上をねらうことであり、低照度時に輝度を減算してしまうと表示画面が暗くなり特性が劣化するので、低照度を検出して、そこから推定減算した信号と何も加工していない信号を混合して徐々になにも加工していない信号を主成分にすることで違和感なく感度向上を図ることができる。
図6に、低照度時に色再現性を良くするIR推定処理回路200のブロック構成図を示す。
IR推定処理回路200は、PRE(前処理部)60から輝度(Y)データが端子T10に供給される。この端子T10は輝度計算処理部201の入力に接続され、この出力は利得制御部202に接続される。利得制御部202の出力は加算器203の一方に端子に接続される。
また端子T10は、IR成分推定処理部210に接続され、この出力は輝度計算処理部211の入力に接続される。輝度計算処理部211の出力は利得制御部212の入力に接続され、出力は加算器203の他方の入力に接続される。
加算器203で利得制御部202,212から供給されたデータが加算処理され、その処理結果が端子T11から出力される。ここで、利得制御部202,212はゲイン(KMix)を可変して暗い場合の混入比を決定している。
IR成分推定処理部210の各色データに関する推定計算式は、たとえば式(3)で表した計算式を用いても良い。
まず、明るい時の動作について説明する。端子T10から色データが入力され、輝度計算処理部201で輝度(Y)データが計算される。たとえばY=(R+GR+B+GB)/4と計算される。この計算処理された輝度(Y)データは、利得制御部202に供給される。今明るい時の利得制御の係数KMixを0.9とすると、利得制御部202の出力にはY*(1−0.9)=0.1*Yが出力される。
一方、IR成分推定処理部210でたとえば式(3)に基く推定処理が行われ、補正された色データで演算処理し、輝度データY'が生成される。
この生成された輝度データY'が利得制御部212に供給され、Y'*KMix=0.9*Y'の結果が得られ、加算器203に出力される。
加算器203には利得制御部202,212の出力データが供給されるので、その出力は、0.1*Y+0.9*Y'となる。
このように、明るい時は、たとえばIR成分推定処理回路210から出力された補正値を全体の9割、IR成分推定処理回路210なしのスルーの輝度計算処理部201のみを介した補正値を全体の1割として、IR補正を行っている。すなわち、明るい時は、IR成分推定処理回路210を用いた推定処理を主としている。
明るい時、輝度データが大きいので、IR補正による輝度の減少は色再現性に及ぼす影響は少ない。
端子T10から入力された色データは、輝度計算処理部201で演算処理され、たとえば輝度(Y)データがY=(R+GR+B+GB)/4と計算される。この計算処理された輝度(Y)データは、利得制御部202に供給され、今暗い時の利得制御の係数KMixを0.1とすると、利得制御部202の出力にはY*(1−0.1)=0.9*Yが出力される。
一方、IR成分推定処理部210で式(3)に基く推定処理が行われ、輝度計算処理部211で演算処理され輝度データY'が生成される。
この生成された輝度データY'が利得制御部212に供給され、Y'*KMix=0.1*Y'の結果が得られ、加算器203に出力される。
加算器203には利得制御部202,212の出力データが供給されるので、その出力は、0.9*Y+0.1*Y'となる。
ここでは、KMixを0.1の場合について説明したが、この係数は0.0〜1.0間の任意の値に設定することができる。
このように、暗い時は、IR成分推定処理部210から出力された補正値を全体に対する割合を小さくし、IR成分推定処理部210なしのスルーの輝度計算処理部201のみを介した補正値の割合を大きくし、IR補正を行っている。すなわち、暗い時は輝度データが小さいのでIR成分推定処理部210回路なし(輝度(Y)データが減少しない)の推定処理を主としている。
したがって、輝度(Y)データの大きさに応じて、係数KMixの値を可変することにより、輝度成分が減少することによる画質の劣化を防止している。
また係数KMixを明るさに応じて、徐々に可変するようにして、明るさが変化したとき、色再現性に違和感が無いようにすることができる。
図2に、撮像素子12とAD変換器14の間に前処理部13が接続されている。この前処理部13はCDS、S/H、AGC(Automatic Gain Control;自動利得制御)などで構成され、CCD撮像素子から供給されたセンサ信号をサンプルホールドして必要なデータを取り出し、AGCでゲインを制御して適正なレベルに設定している。
この前処理部13に設けられたAGCの制御を、暗くなった時ゲインを加え(大きくして)、明るさがIR推定処理をしない場合と同じ程度に輝度(Y)信号のレベルを設定する。
すなわち、前処理部13でセンサ信号出力にゲインを付加して、輝度信号を相対的に大きくして、次段のAD変換器14に出力し、ディジタルデータに変換して、上述したIR推定処理を行うことにより、暗い時にも色再現性の劣化を防ぐことができる。
また、色信号処理した後で補正するのではなく、色信号処理前において、輝度(Y)信号処理回路に、赤外光(IR)推定処理回路を追加するだけで、色再現性を向上させることができる。
Claims (15)
- 入力画素信号から輝度信号を生成する前に、画素の色信号に混入された赤外光成分を色フィルタ毎に推定演算処理し、推定演算処理した色信号の結果に応じて輝度信号を生成し、該生成された輝度信号と色差信号を用いて画像信号を発生する信号処理方法。
- 前記推定演算処理は、各色信号から前記輝度信号に所定係数を乗じた値を減算した値を色信号の補正値とする
請求項1記載の信号処理方法。 - 前記推定演算処理は、各色信号から該各色信号に所定係数を乗じた値を減算した値を色信号の補正値とする
請求項1記載の信号処理方法。 - 前記推定演算処理は、前記色フィルタ毎に輝度信号または色信号を用いて色信号の補正値を求め、該色信号補正値を任意に選択して推定値を切り替えることを特徴とする請求項2または3記載の信号処理方法。
- 入力画素信号から輝度信号を生成する前に、画素の色信号に混入している赤外光成分を色フィルタ毎に推定演算処理回路で補正し、色信号の補正結果に応じて輝度信号を生成し色差信号を用いて画像信号を発生する信号処理回路であって、
前記推定演算処理回路は、
色信号と輝度信号を制御信号により択一的に選択する選択回路と、
前記選択回路から出力された出力信号が供給され、所定係数倍されて出力される乗算器と、
前記色信号と前記乗算器から出力された信号が演算され、補正された色信号が出力される演算器と
を有する
信号処理回路。 - 前記推定演算処理回路は、各色信号から前記輝度信号に所定係数を乗じた値を減算した値を色信号の補正値とする
請求項5記載の信号処理回路。 - 前記推定演算処理回路は、各色信号から該各色信号に所定係数を乗じた値を減算した値を色信号の補正値とする
請求項5記載の信号処理回路。 - 前記推定演算処理回路は、前記色フィルタ毎に輝度信号または色信号を用いて色信号の補正値を求め、該色信号補正値を任意に選択して推定値を切り替えることを特徴とする請求項6または7記載の信号処理回路。
- 近赤外領域まで感度を有する複数の受光素子が配列された撮像部から出力された信号を画像処理して出力する赤外光遮断フィルタを除去したカメラシステムにおいて、入力画素信号から輝度信号を生成する前に、画素の色信号に混入された赤外光成分を色フィルタ毎に推定演算処理し、推定演算処理した色信号の結果に応じて輝度信号を生成し、該生成された輝度信号と色差信号を用いて画像信号を発生し、色再現性を向上させることを特徴とするカメラシステム。
- 前記推定演算処理は、各色信号から前記輝度信号に所定係数を乗じた値を減算した値を色信号の補正値とする
請求項9記載のカメラシステム。 - 前記推定演算処理は、各色信号から該各色信号に所定係数を乗じた値を減算した値を色信号の補正値とする
請求項9記載のカメラシステム。 - 前記推定演算処理は、前記色フィルタ毎に前記輝度信号または色信号を用いて色信号の補正値を求め、該色信号補正値を任意に選択して推定値を切り替えることを特徴とする請求項10または11記載のカメラシステム。
- 前記推定演算処理は、光源推定機能を有し、光源により推定演算方法を切り替えることを特徴とする請求項9記載のカメラシステム。
- 前記推定演算処理は、前記輝度信号のレベルが小さいとき、所定レベルを基準に推定減算した成分と入力信号を混合し、前記輝度信号のレベルが減少するに伴い該輝度信号を増加して主成分として出力する機能を有する請求項9記載のカメラシステム。
- 前記カメラシステムは、所定照度以上のとき、前記推定演算処理を行う信号処理部に入力する信号が、あらかじめ未飽和状態の所定レベル以上にアナログAGCを調整することを特徴とする請求項9記載のカメラシステム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005275798A JP4892909B2 (ja) | 2005-09-22 | 2005-09-22 | 信号処理方法、信号処理回路およびこれを用いたカメラシステム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005275798A JP4892909B2 (ja) | 2005-09-22 | 2005-09-22 | 信号処理方法、信号処理回路およびこれを用いたカメラシステム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007088873A true JP2007088873A (ja) | 2007-04-05 |
JP4892909B2 JP4892909B2 (ja) | 2012-03-07 |
Family
ID=37975408
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005275798A Expired - Fee Related JP4892909B2 (ja) | 2005-09-22 | 2005-09-22 | 信号処理方法、信号処理回路およびこれを用いたカメラシステム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4892909B2 (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2010116923A1 (ja) * | 2009-04-07 | 2012-10-18 | コニカミノルタアドバンストレイヤー株式会社 | 画像入力装置 |
WO2013015145A1 (ja) * | 2011-07-22 | 2013-01-31 | 三洋電機株式会社 | 情報取得装置および物体検出装置 |
KR101441380B1 (ko) | 2007-06-21 | 2014-11-03 | 엘지디스플레이 주식회사 | 선호색 검출 방법 및 장치와, 그를 이용한 액정 표시 장치 |
KR101767093B1 (ko) | 2012-12-14 | 2017-08-17 | 한화테크윈 주식회사 | 색감 복원 방법 및 장치 |
CN107623844A (zh) * | 2016-07-14 | 2018-01-23 | 宝视纳股份公司 | 中间位置处的像素的颜色值的确定 |
US9900485B2 (en) | 2014-01-08 | 2018-02-20 | Mitsubishi Electric Corporation | Image generation device |
JPWO2017222021A1 (ja) * | 2016-06-24 | 2019-05-16 | 日本電気株式会社 | 画像処理装置、画像処理システム、画像処理方法及びプログラム |
JP2019103004A (ja) * | 2017-12-04 | 2019-06-24 | キヤノン株式会社 | 撮像装置、撮像装置の制御方法およびプログラム |
WO2021187076A1 (ja) * | 2020-03-16 | 2021-09-23 | ソニーセミコンダクタソリューションズ株式会社 | 撮像素子及び電子機器 |
CN113905183A (zh) * | 2021-08-25 | 2022-01-07 | 珠海全志科技股份有限公司 | 宽动态范围图像的色差校正方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002142228A (ja) * | 2000-10-31 | 2002-05-17 | Toyota Central Res & Dev Lab Inc | 撮像装置 |
JP2005323141A (ja) * | 2004-05-10 | 2005-11-17 | Mitsubishi Electric Corp | 撮像装置、カメラ、及び信号処理方法 |
JP2005341470A (ja) * | 2004-05-31 | 2005-12-08 | Mitsubishi Electric Corp | 撮像装置及び信号処理方法 |
JP2005341467A (ja) * | 2004-05-31 | 2005-12-08 | Mitsubishi Electric Corp | 撮像装置及び信号処理方法 |
-
2005
- 2005-09-22 JP JP2005275798A patent/JP4892909B2/ja not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002142228A (ja) * | 2000-10-31 | 2002-05-17 | Toyota Central Res & Dev Lab Inc | 撮像装置 |
JP2005323141A (ja) * | 2004-05-10 | 2005-11-17 | Mitsubishi Electric Corp | 撮像装置、カメラ、及び信号処理方法 |
JP2005341470A (ja) * | 2004-05-31 | 2005-12-08 | Mitsubishi Electric Corp | 撮像装置及び信号処理方法 |
JP2005341467A (ja) * | 2004-05-31 | 2005-12-08 | Mitsubishi Electric Corp | 撮像装置及び信号処理方法 |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101441380B1 (ko) | 2007-06-21 | 2014-11-03 | 엘지디스플레이 주식회사 | 선호색 검출 방법 및 장치와, 그를 이용한 액정 표시 장치 |
JP5397788B2 (ja) * | 2009-04-07 | 2014-01-22 | コニカミノルタ株式会社 | 画像入力装置 |
JPWO2010116923A1 (ja) * | 2009-04-07 | 2012-10-18 | コニカミノルタアドバンストレイヤー株式会社 | 画像入力装置 |
WO2013015145A1 (ja) * | 2011-07-22 | 2013-01-31 | 三洋電機株式会社 | 情報取得装置および物体検出装置 |
CN103597316A (zh) * | 2011-07-22 | 2014-02-19 | 三洋电机株式会社 | 信息取得装置以及物体检测装置 |
KR101767093B1 (ko) | 2012-12-14 | 2017-08-17 | 한화테크윈 주식회사 | 색감 복원 방법 및 장치 |
US9900485B2 (en) | 2014-01-08 | 2018-02-20 | Mitsubishi Electric Corporation | Image generation device |
JPWO2017222021A1 (ja) * | 2016-06-24 | 2019-05-16 | 日本電気株式会社 | 画像処理装置、画像処理システム、画像処理方法及びプログラム |
CN107623844A (zh) * | 2016-07-14 | 2018-01-23 | 宝视纳股份公司 | 中间位置处的像素的颜色值的确定 |
JP2019103004A (ja) * | 2017-12-04 | 2019-06-24 | キヤノン株式会社 | 撮像装置、撮像装置の制御方法およびプログラム |
JP7005317B2 (ja) | 2017-12-04 | 2022-01-21 | キヤノン株式会社 | 撮像装置、撮像装置の制御方法およびプログラム |
WO2021187076A1 (ja) * | 2020-03-16 | 2021-09-23 | ソニーセミコンダクタソリューションズ株式会社 | 撮像素子及び電子機器 |
CN113905183A (zh) * | 2021-08-25 | 2022-01-07 | 珠海全志科技股份有限公司 | 宽动态范围图像的色差校正方法及装置 |
CN113905183B (zh) * | 2021-08-25 | 2024-04-16 | 珠海全志科技股份有限公司 | 宽动态范围图像的色差校正方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
JP4892909B2 (ja) | 2012-03-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4892909B2 (ja) | 信号処理方法、信号処理回路およびこれを用いたカメラシステム | |
KR100993047B1 (ko) | 디지털 이미징 시스템에 자동 컬러 밸런싱을 제공하는 방법및 장치 | |
JP5527448B2 (ja) | 画像入力装置 | |
US7773136B2 (en) | Image pickup apparatus and image pickup method for equalizing infrared components in each color component signal | |
US7545412B2 (en) | Image-sensing apparatus with a solid-state image sensor switchable between linear and logarithmic conversion | |
JP5223742B2 (ja) | エッジ強調画像処理装置 | |
JP4999494B2 (ja) | 撮像装置 | |
JP4960309B2 (ja) | 固体撮像装置 | |
JP4420917B2 (ja) | 撮像装置 | |
US9936172B2 (en) | Signal processing device, signal processing method, and signal processing program for performing color reproduction of an image | |
WO2011132618A1 (ja) | 撮像装置並びに撮像画像処理方法と撮像画像処理プログラム | |
WO2010116923A1 (ja) | 画像入力装置 | |
US20070229676A1 (en) | Physical quantity interpolating method, and color signal processing circuit and camera system using the same | |
WO2016098641A1 (ja) | 撮像装置、撮像方法、およびプログラム | |
JP4374484B2 (ja) | ディジタル・カメラにおける画質向上のための方法 | |
US8648937B2 (en) | Image processing apparatus, image processing method, and camera module | |
US8384799B2 (en) | Image processing apparatus and image processing method | |
JP2004186879A (ja) | 固体撮像装置及びデジタルカメラ | |
JP2010161455A (ja) | 赤外線混合撮像装置 | |
JP2003304556A (ja) | 映像信号処理装置及び映像信号処理方法 | |
JP6590955B2 (ja) | 撮像装置及び色補正方法 | |
JP2008177724A (ja) | 画像入力装置、信号処理装置および信号処理方法 | |
JP2010147800A (ja) | 画像処理装置 | |
JP2009506722A (ja) | ホワイトバランス統計計算のための改良された色差フィルタ | |
JP4833669B2 (ja) | 撮像装置およびその信号処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080910 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20101020 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20101124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110120 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110906 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111107 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20111122 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20111205 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150106 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |