以下、添付図面に従って本発明に係る撮像装置の信号処理方法及び撮像装置の好ましい実施の形態について説明する。
尚、以下の説明では、撮像装置(デジタルカメラ)を例にとって説明するが、本発明は撮像装置を備えた携帯電話や携帯情報端末(PDA)、PCカメラ等にも適用することができる。
[第1の実施の形態]
図1は本発明に係る撮像装置の第1の実施の形態を示すブロック図である。
図1に示す撮像装置1―1(以下の説明では、カメラ1―1と記載する)は、静止画や動画の記録及び再生機能を備えたデジタルカメラであり、カメラ全体の動作は中央処理装置(CPU)10によって統括制御される。CPU10は、所定のプログラムに従って本カメラシステムを制御する制御手段として機能するとともに、自動露出(AE)演算、自動焦点調節(AF)演算、ホワイトバランス(WB)調整演算等、各種演算を実施する演算手段として機能する。
CPU10には、バス12及びメモリ・インターフェース14を介してRAM(Random Access Memory)16及びROM(Read Only Memory)18が接続されている。RAM16は、プログラムの展開領域及びCPU10の演算作業用領域として利用されるとともに、画像データの一時記憶領域として利用される。ROM18には、CPU10が実行するプログラム及び制御に必要な各種データや、カメラ動作に関する各種定数/情報等が格納されている。
撮像部20には、撮影レンズ及び絞り等を含む光学ユニット22や、CCD撮像素子24(以下、単に「CCD」という)等が含まれている。光学ユニット22は、CPU10からのAF指令やAE指令によりモータ駆動部32を介してフォーカスレンズや絞り等が駆動される。
CCD24は、図2に示すように多数の受光素子(フォトダイオード)24Aが水平方向(行方向)及び垂直方向(列方向)に一定の配列周期で配置されたCCD型2次元撮像デバイス(イメージセンサ)である。図示した構成はハニカム配列と呼ばれる画素配列であり、受光素子24Aの幾何学的な形状の中心点を行方向及び列方向に1つ置きに画素ピッチの半分(1/2ピッチ)ずらして配列させたものとなっている。
各受光素子24Aは、八角形の受光面を有し、各受光素子24Aに対応してRGBの原色カラーフィルタが配置されている。図2のように、水平方向についてRBRB…の行の次段にGGGG…の行が配置され、その次段にBRBR…の行、という具合に配列される。列方向についてみれば、RBRB…の列と、GGGG…の列と、BRBR…の列とが循環式に繰り返される配列パターンとなっている。
各受光素子24Aの右側(又は左側)には垂直転送路(VCCD)24Vが形成されている。垂直転送路24Vは、受光素子24Aの各列に近接して受光素子24Aを避けながらジグザグ状に蛇行して垂直方向に伸びている。図示されていないが、垂直転送路24V上には4相駆動(φ1,φ2,φ3,φ4)に必要な転送電極が配置される。転送電極は、受光素子16Aの各行に近接して受光素子24Aの開口を避けながら蛇行して図2の水平方向に伸びるように設けられている。
各受光素子24Aで光電変換により生成された信号電荷は、当該受光素子24Aの右側(又は左側)に隣接した垂直転送路16Vに読み出され、転送パルスに従って図2の下方(V方向)に転送される。
図2において垂直転送路24Vの下端(垂直転送路24Vの最下流側)には、垂直転送路24Vから移された信号電荷を水平方向に転送する水平転送路(HCCD)24Hが設けられている。
水平転送路24Hは、2相又は4相駆動の転送CCDで構成されており、水平転送路24Hの最終段(図2上で最左段)は出力部25に接続されている。出力部25は出力アンプを含み、入力された信号電荷の電荷検出を行い、信号電圧として出力端子25Aに出力する。こうして、各受光素子24Aで生成された信号が、点順次の信号列として出力される。尚、出力端子25Aから出力される信号はRGBGRGBG…という信号列となる。
図1に戻って、CCD24は、各受光素子の電荷蓄積時間(シャッタースピード)を制御する電子シャッター機能を有している。CPU10は、タイミング・ジェネレータ34を介してCCD24での電荷蓄積時間を制御する。
このCCD24から順次読み出されたCCD信号は、アナログ信号処理部26に加えられる。アナログ信号処理部26は、CDS回路やアナログアンプ等を有し、CDS回路は入力するCCD信号を相関二重サンプリング処理し、アナログアンプは、CPU10から加えられる撮影感度設定用ゲインによってCDS回路から出力されるCCD信号を増幅する。
アナログ信号処理部26にてアナログ処理されたCCD信号は、A/D変換器28に加えられ、ここで画素ごとにデジタルのカラー画像データ(点順次のR,G,B信号)に変換される。
R,G,B信号は、デジタル信号処理部30を介してRAM16に一時的に記憶される。このR,G,B信号は、デジタル信号処理部30に入力され、ここで所要の信号処理が行われる。尚、デジタル信号処理部30での画像処理の詳細については、後述する。
カメラ1―1の操作部36には、シャッターボタン、撮影モードと再生モードを切り替えるモード切替レバー、撮影モード(オート撮影モード、マニュアル撮影モード、連写モード等)を選択するためのモードダイヤル、表示部(LCD)40にメニュー画面を表示させるメニューボタン、メニュー画面から所望の項目を選択するためのマルチファンクションの十字キー、選択項目の確定や処理の実行を指令するOKボタン、選択項目など所望の対象の消去や指示内容の取消し、或いは1つ前の操作状態に戻らせる指令を入力するBACKボタンなどが含まれる。操作部36からの出力信号は、バス32を介してCPU10に入力され、CPU10は操作部36からの入力信号に基づいて撮影や再生等の適宜の処理を実施させる。
カメラ1−1には、被写体にフラッシュ光を照射するためのフラッシュ装置42が含まれ、フラッシュ装置42は、CPU10からの発光指令によって充電部4から電源の供給を受けてフラッシュ光を照射する。
デジタル信号処理部30で処理された画像データ(輝度信号Y,色差信号Cr,Cb)は、圧縮伸張処理回路46に与えられ、ここで、所定の圧縮フォーマット(例えば、JPEG方式) に従って圧縮される。圧縮された画像データは、外部メモリ・インターフェース48を介してメモリカード50に記録される。
また、LCD40には、LCDインターフェース38を介して加えられる画像信号により撮像準備中に映像(スルームービー画)が表示され、また、再生モード時にメモリカード50に記録された画像が表示される。
図3は図1に示したデジタル信号処理部30の詳細な回路構成を示すブロック図である。
前述したようにRAM16に一時記憶されたR,G,B信号は、デジタル信号処理部30のオフセット処理回路30AにR,G,Bの点順次で加えられる。R,G,B信号は、オフセット処理回路30Aにおいてオフセット処理が行われる。オフセット処理回路30Aから出力されたR,G,B信号(CCDRAWデータ)は、リニアマトリクス回路30Bに出力され、ここでCCD24の分光特性を補正する色調補正処理、及び本発明に係る色補正処理が行われる。
即ち、リニアマトリクス回路30Bは、入力するR,G,B信号と、3行×3列の色補正マトリクス係数(A11,A12, …,A33)とからマトリクス演算を行って、色補正されたR,G,B信号を算出する。
尚、マトリクス演算に使用される3行×3列の色補正マトリクス係数(A11,A12, …,A33)の詳細については後述する。
リニアマトリクス回路30Bから出力されたR,G,B信号は、ホワイトバランス(WB)調整回路30Cに出力される。WB調整回路30Cは、R,G,B信号ごとにそれぞれホワイトバランス調整用のゲインをかけることによりホワイトバランス調整を行う。WB調整回路30Cから出力されたR,G,B信号は、ガンマ補正回路30Dに出力され、ここで中間調等の階調補正を行うガンマ補正が行われる。ガンマ補正されたR,G,B信号は、同時化処理回路30Eに出力される。
同時化処理回路30Eは、単板のCCD24のCCDカラーフィルタ配列(以下、単に「CCD配列」という)に伴うR,G,B信号の空間的なズレを補間してR,G,B信号を同時式に変換する処理を行い、同時化したR,G,B信号をRGB/YC変換回路30Fに出力する。
RGB/YC変換回路30Fは、R,G,B信号を輝度信号Y,色差信号Cr,Cbに変換し、輝度信号Yを輪郭補正回路30Gに出力し、色差信号Cr,Cbを色差マトリクス回路30Hに出力する。輪郭補正回路30Gは、輝度信号Yの輪郭部(輝度変化の大きい部分)を強調する処理を行う。
色差マトリクス回路30Hは、2行×2列の色補正マトリクス係数と入力する色差信号Cr,Cbとのマトリクス演算を行い、良好な色再現性を実現させるための色補正を行う。
このようにして輪郭補正された輝度信号Y、及び色差マトリクス変換された色差信号Cr,Cbは、一旦RAM16に保存された後、圧縮伸張処理回路46に与えられ、ここで、JPEG方式に従って圧縮される。圧縮された画像データは、外部メモリ・インターフェース48を介してメモリカード50に記録される。
次に、CCD24の水平転送路24Hの転送効率について説明する。
CCD24の垂直転送路24Vから水平転送路24Hに送出されたCCD24の各ラインの信号電荷は、水平転送路24Hに形成されたポテンシャル井戸を介して順次水平方向に転送される。このとき、信号電荷が次の転送素子に完全に転送されずに、わずかに残る。元の井戸にあった電荷に対して次の井戸に転送された電荷の割合を転送効率という。また、転送効率は、元の井戸にあった電荷量(信号量)によって変わる。
図4は信号量に対する転送残量の一例を示す転送効率特性を示すグラフである。図4において、元の井戸にあった信号量をS0、この信号量S0の転送後に残った転送残量をf(S0)とすると、転送効率は、次式で表すことができる。
[数1]
転送効率=(1―f(S0)/S0)×100(%)
図4のグラフからも明らかなように、転送効率は、信号量S0が小さい場合に低下する。また、転送効率は、CCD駆動周波数が高いとき、CCD温度が低いときに低下する。
転送効率は、CCDごとに固体差があるため、例えば、出荷前にカメラ1−1により被写体(例えば、単色のチャート)を所定の条件下で撮像し、CCD24の有効画素領域と、オプティカルブラック(OB)領域との境目の領域において、有効画素領域とOB領域側の1画素の電圧値をそれぞれ取得する。このOB領域側の1画素の電圧値は、有効画素領域側の1画素の転送時の転送残量を含んでいる。従って、これらの画素の電圧値に基づいてCCD24の転送効率を算出することができる。このようにして算出された転送効率は、ROM18又は図示しないフラッシュROM等に記憶させる。
図1に戻って、CCD転送効率検出部52は、ROM18からCCD24の転送効率を読み出す。
デジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率に基づいて標準の転送効率よりも転送効率が低下した場合に生じる画質劣化を抑制するように信号処理を行う。
即ち、CCD24の水平転送路24Hでは、GRGBGRGB…と信号電荷を転送するため、転送効率が低下すると、GとR,GとBとの間の混色が大きくなり、色再現性が劣化する。
この実施の形態では、デジタル信号処理部30のリニアマトリクス回路30B(図3)で使用される3行×3列の色補正マトリクス係数を変更することにより、画質劣化を抑制するようにしている。
図5(A)に示すように転送効率が良い場合には、色補正マトリクス係数(A11,A12, …,A33)を使用し、転送効率が悪い場合には、色補正マトリクス係数(B11,B12, …,B33)を使用する。
また、色補正マトリクス係数(A11,A12, …,A33)に対する補正量をa、cとし、転送効率をx(%)として、次式により補正量a、cを求める。
[数2]
a=αx+β
a'=a
c=γx+λ
c'=c
但し、a',c':最終補正量、α、β、γ、λ:係数(実験的に算出してもよい)
そして、図5(B)に示すように最終補正量a',c'によって補正した色補正マトリクス係数(変更後)を使用する。
尚、補正量a,cを求める式は、一次式としているが、多項式でも指数対数近似式でもよい。
図6は本発明に係る第1の実施の形態の信号処理方法を示すフローチャートである。
同図に示すように、デジタル信号処理部30は、R,G,BのCCDRAWデータを入力する(ステップS10)。また、CCD24の転送効率が良いか悪いかを判別する(ステップS12)。
そして、転送効率が良い場合には、デジタル信号処理部30のリニアマトリクス回路30Bは、図5に示すように標準(変更前)の色補正マトリクス係数を使用した信号処理を実施する(ステップS14)。
一方、転送効率が悪い場合には、リニアマトリクス回路30Bは、図5に示すように変更後の色補正マトリクス係数を使用した信号処理を実施する(ステップS16)。
これにより、転送効率が低下しても色再現性や解像度等の画質劣化が抑制された処理画像を出力することができる(ステップS18)。
尚、この実施の形態では、転送効率に応じてリニアマトリクス回路30Bの色補正マトリクス係数を変更するようにしているが、これに限らず、色差マトリクス回路30Hの22行×2列の色補正マトリクス係数を変更してもよく、又は両マトリクス回路の色補正マトリクス係数を変更するようにしてもよい。
[第2の実施の形態]
図7は本発明に係る撮像装置の第2の実施の形態を示すブロック図である。尚、図1に示した第1の実施の形態と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図7に示す第2の実施の形態のカメラ1−2は、第1の実施の形態のカメラ1−1と比較して、カメラ感度検出部54を更に備えている点で相違する。
図4で説明したように、転送する信号量S0が小さい程、信号量S0に対する転送残量f(S0) の比率が大きくなり、[数1]式からも明らかなように転送効率は低下する。従って、被写体が暗く、カメラ感度を高くして撮影する場合(例えば、ISO800,ISO1600)には、転送効率は低下する。
尚、カメラ感度は、CPU10によってアナログ信号処理部26内のアナログアンプに設定される撮影感度設定用ゲインによって調整される。
カメラ感度検出部54は、撮影時に使用するカメラ感度を検出する。デジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、及びカメラ感度検出部54が検出したカメラ感度に基づいて標準の転送効率よりも転送効率が低下した場合に生じる画質劣化を抑制するように信号処理を行う。
この実施の形態では、デジタル信号処理部30のリニアマトリクス回路30Bで使用される3行×3列の色補正マトリクス係数の最終補正量a’を、カメラ感度を考慮して次式のように求める。
[数3]
a’=a*2^(sv−9)
但し、a:転送効率に応じた補正量([数2]式参照)
sv:カメラ感度=log2(ISO/3.125)
上記[数3]式からも明らかなようにカメラ感度ISO1600のときに、最終補正量a’は、補正量aとなり、カメラ感度が低くなるにしたがって最終補正量a’は小さくなる。
尚、図5(B)に示した最終補正量c’も同様に求める。また、図5(A)に示すようにカメラ感度ごとに色補正マトリクス係数(B11,B12, …,B33)を準備しておき、カメラ感度に対応した色補正マトリクス係数を使用するようにしてもよい。
図8は本発明に係る第2の実施の形態の信号処理方法を示すフローチャートである。尚、図6に示した第1の実施の形態のフローチャートと共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
図8において、転送効率が良い場合には、更にステップS20にてカメラ感度が低いか否かを判別する。そして、カメラ感度が高い場合には、[数3]式により求めた最終補正量a’等によって補正した色補正マトリクス係数を使用して信号処理を実施する(ステップS22)。
同様に、転送効率が悪い合には、更にステップS24にてカメラ感度が低いか否かを判別する。そして、カメラ感度が高い場合には、[数3]式により求めた最終補正量a’等によって補正した色補正マトリクス係数を使用して信号処理を実施する(ステップS26)。尚、ステップS22とステップS26とでは、[数3]式上の転送効率に応じた補正量aが異なり、その結果、異なる信号処理が行われる。
このように、転送効率やカメラ感度に応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
[第3の実施の形態]
図9は本発明に係る撮像装置の第3の実施の形態を示すブロック図である。尚、図1に示した第1の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図9に示す第3の実施の形態のカメラ1−3は、第1の実施の形態のカメラ1−1と比較して、CCD駆動周波数検出部56を更に備えている点で相違する。
CCD24の水平転送路24Hは、2相駆動又は4相駆動の転送CCDで構成されており、この水平転送路24Hでの駆動周波数が高速になるため、転送効率が低下する。即ち、CCD24の垂直転送路24Vの駆動周波数は、水平転送路24Hの駆動周波数に比べて低いため、ここでの転送効率は問題にならない。
CCD24の水平転送路24Hの駆動周波数は、例えば、CCD24から全画素の読み出しを行う場合には速くなり、スルームービー画の表示時、動画撮影時等のようにCCD24から画素の間引き読み出しを行う場合や、動画撮影時のフレームレートが低く設定される場合には低くなる。
CCD駆動周波数検出部56は、水平転送路24Hの駆動周波数を検出するもので、例えば、CCD24の駆動モードによって駆動周波数を検出することができる。デジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、及びCCD駆動周波数検出部56が検出した駆動周波数に基づいて標準の転送効率よりも転送効率が低下した場合に生じる画質劣化を抑制するように信号処理を行う。
この実施の形態では、デジタル信号処理部30のリニアマトリクス回路30Bで使用される3行×3列の色補正マトリクス係数の最終補正量a’を、駆動周波数を考慮して次式のように求める。
[数4]
駆動周波数が低い場合
a’=a
駆動周波数が高い場合
a’=a*S (S>1)
但し、S:駆動周波数に応じた値
上記[数4]式からも明らかなように駆動周波数が高いと、転送効率が低下する(信号電荷を良好に送ることができなくなる)ため、最終補正量a’を大きくする。
尚、図5(B)に示した最終補正量c’も同様に求める。また、図5(A)に示すように駆動周波数ごとに色補正マトリクス係数(B11,B12, …,B33)を準備しておき、駆動周波数に対応した色補正マトリクス係数を使用するようにしてもよい。
図10は本発明に係る第3の実施の形態の信号処理方法を示すフローチャートである。尚、図6に示した第1の実施の形態のフローチャートと共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
図10において、転送効率が良い場合には、更にステップS30にてCCD24の水平転送路24Hの駆動周波数が高いか否かを判別する。そして、駆動周波数が高い場合には、[数4]式により求めた最終補正量a’等によって補正した色補正マトリクス係数を使用して信号処理を実施する(ステップS32)。
同様に、転送効率が悪い合には、更にステップS34にて駆動周波数が高いか否かを判別する。そして、駆動周波数が高い場合には、[数4]式により求めた最終補正量a’等によって補正した色補正マトリクス係数を使用して信号処理を実施する(ステップS36)。尚、ステップS32とステップS36とでは、[数4]式上の転送効率に応じた補正量aが異なり、その結果、異なる信号処理が行われる。
このように、転送効率や駆動周波数に応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
[第4の実施の形態]
図11は本発明に係る撮像装置の第4の実施の形態を示すブロック図である。尚、図1に示した第1の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図11に示す第4の実施の形態のカメラ1−4は、第1の実施の形態のカメラ1−1と比較して、オートホワイトバランス(AWB)算出部58からWBゲインを検出するWBゲイン検出部60を更に備えている点で相違する。
AWB算出部58は、RAM16に格納されたR、G、B信号を用いて、1画面が16×16に分割された256個の分割エリアごとにRGB信号の色別の平均積算値を算出し、分割エリアごとにR、G、Bの平均積算値の比、即ち、R/G及びB/Gの比(WB用積算値)を算出する。このようにして算出された256個の分割エリアごとの色情報は、前記R/G、B/Gの値に基づいてR/G、B/G軸座標の色空間上で分布する256個の点として表すことができる。AWB算出部58は、R/G、B/G軸座標の色空間上で分布する256個の色情報のうちの相互に近似している色情報の集合の重心位置を算出し、その算出した重心位置が示す色情報の色温度を検出する。尚、前記検出した色温度を有する光源種(例えば、青空、日陰、晴れ、蛍光灯(昼光色、昼白色、白色、温白色)、タングステン等)を求めることで撮影時の光源種を自動判別することもできる。
前記検出した色温度に対応する所定の色順応後の色情報を目標値として設定して、WBゲインを算出する。デジタル信号処理部30のWB調整回路30Cは、R,G,B信号ごとに前記算出されたWBゲインをかけることによりホワイトバランス調整を行う。
WBゲイン検出部60は、R,G,B信号に対する前記WBゲインを検出する。デジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、及びWBゲイン検出部60が検出したWBゲインに基づいて標準の転送効率よりも転送効率が低下した場合に生じる画質劣化を抑制するように信号処理を行う。
この実施の形態では、デジタル信号処理部30のリニアマトリクス回路30Bで使用される3行×3列の色補正マトリクス係数の最終補正量a’を、R,G,BのWBゲインRgain,Ggain,Bgainを考慮して次式のように求める。
[数5]
Rgain/Ggain>Bgain/Ggainのとき
a’=a
Rgain/Ggain≦Bgain/Ggainのとき
a’=a*U (U≧1)
但し、U:WBゲインに応じた値
即ち、色温度(又は光源種)がタングステンに対応する場合、B信号に対するWBゲインが、R信号に対するWBゲインに比べて非常に大きくなる。従って、このような色温度のシーンに対しては、上記[数5]式に示すように最終補正量a’を補正量aよりも大きくする。
尚、図5(B)に示した最終補正量c’も同様に求める。また、図5(A)に示すように色温度(又は光源種)ごとに色補正マトリクス係数(B11,B12, …,B33)を準備しておき、色温度(又は光源種)に対応した色補正マトリクス係数を使用するようにしてもよい。
図12は本発明に係る第4の実施の形態の信号処理方法を示すフローチャートである。尚、図6に示した第1の実施の形態のフローチャートと共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
図12において、転送効率が良い場合には、更にステップS40にてWBゲインが高いか否かを判別する。そして、WBゲインが高い場合には、[数5]式により求めた最終補正量a’等によって補正した色補正マトリクス係数を使用して信号処理を実施する(ステップS42)。
同様に、転送効率が悪い合には、更にステップS44にてWBゲインが高いか否かを判別する。そして、WBゲインが高い場合には、[数5]式により求めた最終補正量a’等によって補正した色補正マトリクス係数を使用して信号処理を実施する(ステップS46)。尚、ステップS42とステップS46とでは、[数5]式上の転送効率に応じた補正量aが異なり、その結果、異なる信号処理が行われる。
このように、転送効率やWBゲインに応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
[第5の実施の形態]
図13は本発明に係る撮像装置の第5の実施の形態を示すブロック図である。尚、図1に示した第1の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図13に示す第5の実施の形態のカメラ1−5は、第1の実施の形態のカメラ1−1と比較して、画素数検出部62を更に備えている点で相違する。
画素数検出部62は、撮影時の画素数(VGA,1M,3M,6M等)を検出する。デジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、及び画素数検出部62が検出した画素数に基づいて標準の転送効率よりも転送効率が低下した場合に生じる画質劣化を抑制するように信号処理を行う。
この実施の形態では、第1の実施の形態と同様にデジタル信号処理部30のリニアマトリクス回路30Bで使用される色補正マトリクス係数を最終補正量a’により補正する。また、画素数検出部62によって検出された画素数に基づいてデジタル信号処理部30内の図示しないローパスフィルタ(LPF)の周波数帯域を変化させる処理を行う。
例えば、デジタル信号処理部30の同時化処理回路30EとRGB/YC変換回路30Fとの間、又はRGB/YC変換回路30Fと輪郭補正回路30Gとの間にLPFを設ける。このLPFでは、撮影画像の画素数に対応したフィルタリング処理を行う。そして、画素数が少ないときには、その画素数に応じた通常のフィルタリング処理を行い、画素数が多いときには、その画素数に応じた通常のフィルタリング処理よりも強めにして周波数帯域を落とすようにする。
即ち、画素数が多いときの通常のLPFの特性が図14の実線で示す場合に、同図の破線で示すように周波数帯域を落とす。これは、画素数が多いときにはフィールド段差が目立ちやすいが、上記のように周波数帯域を落とすことにより、フィールド段差を緩和するためである。
尚、フィールド段差を緩和させる他の方法としては、フィールドごとにゲインを変えることも考えられる。
また、同時化処理回路30Eでは、注目画素上に或る色(例えば、G)の実データがある場合には、他の色(R,B)のデータは、その注目画素の周囲の同じ色の画素を補間して作成する処理を行っている。また、注目画素の周囲の同じ色の画素であっても、色がどの方向に連続しているかを判別(連続性判別)し、連続性のある画素のみを使用して補間演算を行っている。
画素数が多く、フィールド段差が発生する場合には、同時化処理回路30Eでの同時化処理時に連続性の判別処理を行わせずに、注目画素の周囲の同じ色の画素の平均化処理を行わせて同時化処理を行わせる。これは、フィールド段差によって連続性の判別を誤るおそれがあるからです。
更に、画素数に応じて輪郭補正回路30Gでの輪郭補正処理を変えるようにしてもよい。例えば、LPFで周波数帯域を落とした場合には、輪郭補正を強めにかける。
図15は本発明に係る第5の実施の形態の信号処理方法を示すフローチャートである。尚、図6に示した第1の実施の形態のフローチャートと共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
図15において、転送効率が良い場合には、更にステップS50にて画素数が多いか否かを判別する。そして、画素数が多い場合には、LPFで周波数帯域を落とす処理を実施する(ステップS52)。
同様に、転送効率が悪い合には、更にステップS54にて画素数が多いか否かを判別する。そして、画素数が多い場合には、転送効率が悪い場合の信号処理とともに、LPFで周波数帯域を落とす処理を実施する(ステップS56)。
このように、転送効率や画素数に応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
[第6の実施の形態]
図16は本発明に係る撮像装置の第6の実施の形態を示すブロック図である。尚、図1に示した第1の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図16に示す第6の実施の形態のカメラ1−6は、第1の実施の形態のカメラ1−1と比較して、温度検出部64を更に備えている点で相違する。
温度検出部64は、CCD24の温度を検出する。尚、温度検出部64は、CCD24の温度を直接検出できない場合には、カメラ筐体内の温度を検出し、これをCCD24の温度に対応する温度として検出するようにしてもよい。
デジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、及び温度検出部64が検出したCCD24の温度に基づいて標準の転送効率よりも転送効率が低下した場合に生じる画質劣化を抑制するように信号処理を行う。
この実施の形態では、デジタル信号処理部30のリニアマトリクス回路30Bで使用される3行×3列の色補正マトリクス係数の最終補正量a’を、CCD24の温度を考慮して次式のように求める。
[数6]
温度が高い場合
a’=a
温度が低い場合
a’=a*W,(W>1)
但し、W:CCD24の転送効率の温度特性に応じた値
上記[数6]式からも明らかなようにCCD24の温度が低いと、転送効率が低下するため、最終補正量a’を大きくする。
尚、図5(B)に示した最終補正量c’も同様に求める。また、図5(A)に示すように温度ごとに色補正マトリクス係数(B11,B12, …,B33)を準備しておき、CCD24の温度に対応した色補正マトリクス係数を使用するようにしてもよい。
図17は本発明に係る第6の実施の形態の信号処理方法を示すフローチャートである。尚、図6に示した第1の実施の形態のフローチャートと共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
図17において、転送効率が良い場合には、更にステップS60にてCCD24の温度が高いか否かを判別する。そして、温度が低い場合には、[数6]式により求めた最終補正量a’等によって補正した色補正マトリクス係数を使用して信号処理を実施する(ステップS22)。
同様に、転送効率が悪い合には、更にステップS64にて温度が低いか否かを判別する。そして、温度が低い場合には、[数6]式により求めた最終補正量a’等によって補正した色補正マトリクス係数を使用して信号処理を実施する(ステップS26)。尚、ステップS62とステップS66とでは、[数6]式上の転送効率に応じた補正量aが異なり、その結果、異なる信号処理が行われる。
このように、転送効率や温度に応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
[第7の実施の形態]
図18は本発明に係る撮像装置の第7の実施の形態を示すブロック図である。尚、図1に示した第1の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図18に示す第7の実施の形態のカメラ1−7は、第1の実施の形態のカメラ1−1と比較して、CCD配列検出部66を更に備えている点で相違する。
CCD配列検出部66は、CCD24のCCD配列を検出する。尚、CCD22のCCD配列はCCDによって予め決まっており、CCD24から出力されるR,G,Bの点順次のCCD信号が、どのような色の順序で出力されるかは既知であるため、CCD配列検出部66は、CCD24のCCD配列に関連する情報(例えば、GストライプR/G完全市松、ベイヤー配列など)を記憶し、必要に応じてその情報を読み出すものとして構成することができる。
デジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、及びCCD配列検出部66から取得したCCD配列に基づいて標準の転送効率よりも転送効率が低下した場合に生じる画質劣化を抑制するように信号処理を行う。
即ち、CCDの水平転送路にて転送される信号電荷が、あるラインではRBRB…、次のラインではGGGG…となるCCD配列の場合に転送効率が悪いと、RBの色の間で混色する。一方、CCDの水平転送路にて転送される信号電荷が、あるラインではRGRG…、次のラインではGBGB…となるCCD配列(ベイヤー配列)の場合に転送効率が悪いと、GB,GRの色の間で混色し、フィールド段差が起こる。
従って、デジタル信号処理部30は、リニアマトリクス回路30Bで使用される3行×3列の色補正マトリクス係数として、CCD配列に応じて上記混色する色間を分離させるマトリクス係数を使用してマトリクス演算を行い、色補正されたR,G,B信号を算出する。
尚、CCD配列にかかわらず色再現性を維持するために、WBゲインにCCD配列に係わる補正量を付加するようにしてもよい。また、フィールド段差を補正するために、前述したようにフィールドごとにゲインを補正したり、LPFによるフィルタリング処理等を行うことが考えられる。
図19は本発明に係る第7の実施の形態の信号処理方法を示すフローチャートである。尚、図6に示した第1の実施の形態と共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
図19において、転送効率が良い場合には、更にステップS70にてCCD24のCCD配列を判別する。そして、CCD配列が、図2に示したハニカム配列(HA)の場合には、ステップS14の信号処理を実施し、ベイヤー配列(BA)の場合には、ステップS72にてフィールド段差を補正する信号処理を実施する。
同様に、送効率が悪い合には、更にステップS74にてカラーフィル配列を判別する。そして、CCD配列がハニカム配列(HA)の場合には、ステップS16の信号処理を実施し、ベイヤー配列(BA)の場合には、ステップS76にてフィールド段差を補正する信号処理を実施する。
このように、転送効率やCCD配列に応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
[第8の実施の形態]
図20は本発明に係る撮像装置の第8の実施の形態を示すブロック図である。尚、図7及び図9に示した第2及び第3の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図20に示す第8の実施の形態のカメラ1−8は、第2の実施の形態のカメラ1−2と比較して、CCD駆動周波数検出部56を更に備えている点で相違する。
即ち、カメラ1−8は、第2及び第3の実施の形態のカメラ1−2、1−3の機能を備えたものであり、このカメラ1−8のデジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、カメラ感度検出部54から取得したカメラ感度及びCCD駆動周波数検出部56から取得したCCD駆動周波数に応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
この実施の形態では、デジタル信号処理部30のリニアマトリクス回路30Bで使用される3行×3列の色補正マトリクス係数の最終補正量a’を、転送効率、カメラ感度及びCCD駆動周波数を考慮して次式のように求める。
[数7]
a’=a*2^(sv−9)*S
リニアマトリクス回路30Bは、上記[数7]式で示す最終補正量a’によって補正された色補正マトリクス係数を使用してマトリクス演算を実施する。
図21は本発明に係る第8の実施の形態の信号処理方法を示すフローチャートである。
同図に示すように、転送効率、カメラ感度、及びCCD駆動周波数の3つの情報に基づいて信号処理が選択される。デジタル信号処理部30は、その選択された信号処理を実施し、これにより、転送効率、カメラ感度及び駆動周波数にかかわらず、色再現性や解像度等の画質劣化を抑制可能にしている。
[第9の実施の形態]
図22は本発明に係る撮像装置の第9の実施の形態を示すブロック図である。尚、図7及び図11に示した第2及び第4の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図22示す第9の実施の形態のカメラ1−9は、第2の実施の形態のカメラ1−2と比較して、WBゲイン検出部60を更に備えている点で相違する。
即ち、カメラ1−9は、第2及び第4の実施の形態のカメラ1−2、1−4の機能を備えたものであり、このカメラ1−9のデジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、カメラ感度検出部54から取得したカメラ感度及びWBゲイン検出部60から取得したWBゲインに応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
この実施の形態では、デジタル信号処理部30のリニアマトリクス回路30Bで使用される3行×3列の色補正マトリクス係数の最終補正量a’を、転送効率、カメラ感度及びWBゲインを考慮して次式のように求める。
[数8]
a’=a*2^(sv−9)*U
リニアマトリクス回路30Bは、上記[数8]式で示す最終補正量a’によって補正された色補正マトリクス係数を使用してマトリクス演算を実施する。
図23は本発明に係る第9の実施の形態の信号処理方法を示すフローチャートである。
同図に示すように、転送効率、カメラ感度、及びWBゲインの3つの情報に基づいて信号処理が選択される。デジタル信号処理部30は、その選択された信号処理を実施し、これにより、転送効率、カメラ感度及びWBゲインにかかわらず、色再現性や解像度等の画質劣化を抑制可能にしている。
[第10の実施の形態]
図24は本発明に係る撮像装置の第10の実施の形態を示すブロック図である。尚、図7及び図13に示した第2及び第5の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図24に示す第10の実施の形態のカメラ1−10は、第2の実施の形態のカメラ1−2と比較して、画素数検出部62を更に備えている点で相違する。
即ち、カメラ1−10は、第2及び第5の実施の形態のカメラ1−2、1−5の機能を備えたものであり、このカメラ1−10のデジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、カメラ感度検出部54から取得したカメラ感度及び画素数検出部62から取得した画素数に応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
図25は本発明に係る第10の実施の形態の信号処理方法を示すフローチャートである。
同図に示すように、転送効率、カメラ感度、及び画素数の3つの情報に基づいて信号処理が選択される。デジタル信号処理部30は、その選択された信号処理を実施し、これにより、転送効率、カメラ感度及び画素数にかかわらず、色再現性や解像度等の画質劣化を抑制可能にしている。
[第11の実施の形態]
図26は本発明に係る撮像装置の第11の実施の形態を示すブロック図である。尚、図7及び図16に示した第2及び第6の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図26示す第11の実施の形態のカメラ1−11は、第2の実施の形態のカメラ1−2と比較して、温度検出部64を更に備えている点で相違する。
即ち、カメラ1−11は、第2及び第6の実施の形態のカメラ1−2、1−6の機能を備えたものであり、このカメラ1−11のデジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、カメラ感度検出部54から取得したカメラ感度及び温度検出部64から取得したCCD24の温度に応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
この実施の形態では、デジタル信号処理部30のリニアマトリクス回路30Bで使用される3行×3列の色補正マトリクス係数の最終補正量a’を、転送効率、カメラ感度及び温度を考慮して次式のように求める。
[数9]
a’=a*2^(sv−9)*W
リニアマトリクス回路30Bは、上記[数9]式で示す最終補正量a’によって補正された色補正マトリクス係数を使用してマトリクス演算を実施する。
図27は本発明に係る第11の実施の形態の信号処理方法を示すフローチャートである。
同図に示すように、転送効率、カメラ感度、及び温度の3つの情報に基づいて信号処理が選択される。デジタル信号処理部30は、その選択された信号処理を実施し、これにより、転送効率、カメラ感度及び温度にかかわらず、色再現性や解像度等の画質劣化を抑制可能にしている。
[第12の実施の形態]
図28は本発明に係る撮像装置の第12の実施の形態を示すブロック図である。尚、図7及び図18に示した第2及び第7の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図28に示す第12の実施の形態のカメラ1−12は、第2の実施の形態のカメラ1−2と比較して、CCD配列検出部66を更に備えている点で相違する。
即ち、カメラ1−12は、第2及び第7の実施の形態のカメラ1−2、1−7の機能を備えたものであり、このカメラ1−12のデジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、カメラ感度検出部54から取得したカメラ感度及びCCD配列検出部66から取得したCCD配列に応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
従って、デジタル信号処理部30は、転送効率、カメラ感度及びCCD配列に応じてリニアマトリクス回路30Bで使用される3行×3列の色補正マトリクス係数を変更してマトリクス演算を行い、色補正されたR,G,B信号を算出する。
尚、CCD配列にかかわらず色再現性を維持するために、WBゲインにCCD配列に係わる補正量を付加するようにしてもよい。また、フィールド段差を補正するために、フィールドごとにゲインを補正したり、LPFによるフィルタリング処理等を行うことが考えられる。
図29は本発明に係る第12の実施の形態の信号処理方法を示すフローチャートである。
同図に示すように、転送効率、カメラ感度、及びカラーフィル配列の3つの情報に基づいて信号処理が選択される。デジタル信号処理部30は、その選択された信号処理を実施し、これにより、転送効率、カメラ感度及びカラーフィル配列にかかわらず、色再現性や解像度等の画質劣化を抑制可能にしている。
[第13の実施の形態]
図30は本発明に係る撮像装置の第13の実施の形態を示すブロック図である。尚、図11及び図20に示した第4及び第8の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図30に示す第13の実施の形態のカメラ1−13は、第8の実施の形態のカメラ1−8と比較して、WBゲイン検出部60を更に備えている点で相違する。
即ち、カメラ1−13は、第4及び第8の実施の形態のカメラ1−4、1−8の機能を備えたものであり、このカメラ1−13のデジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、カメラ感度検出部54から取得したカメラ感度、CCD駆動周波数検出部56から取得したCCD駆動周波数、及びWBゲイン検出部60から取得したWBゲインに応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
この実施の形態では、デジタル信号処理部30のリニアマトリクス回路30Bで使用される3行×3列の色補正マトリクス係数の最終補正量a’を、転送効率、カメラ感度、CCD駆動周波数及びWBゲインを考慮して次式のように求める。
[数10]
a’=a*2^(sv−9)*S*U
リニアマトリクス回路30Bは、上記[数10]式で示す最終補正量a’によって補正された色補正マトリクス係数を使用してマトリクス演算を実施する。
図31は本発明に係る第13の実施の形態の信号処理方法を示すフローチャートである。
同図に示すように、転送効率、カメラ感度、CCD駆動周波数、及びWBゲインの4つの情報に基づいて信号処理が選択される。デジタル信号処理部30は、その選択された信号処理を実施し、これにより、転送効率、カメラ感度、駆動周波数及びWBゲインにかかわらず、色再現性や解像度等の画質劣化を抑制可能にしている。
[第14の実施の形態]
図32は本発明に係る撮像装置の第14の実施の形態を示すブロック図である。尚、図13及び図20に示した第5及び第8の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図32に示す第14の実施の形態のカメラ1−14は、第8の実施の形態のカメラ1−8と比較して、画素数検出部62を更に備えている点で相違する。
即ち、カメラ1−14は、第5及び第8の実施の形態のカメラ1−5、1−8の機能を備えたものであり、このカメラ1−14のデジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、カメラ感度検出部54から取得したカメラ感度、CCD駆動周波数検出部56から取得したCCD駆動周波数、及び画素数検出部62から取得した画素数に応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
図33は本発明に係る第14の実施の形態の信号処理方法を示すフローチャートである。
同図に示すように、転送効率、カメラ感度、CCD駆動周波数、及び画素数の4つの情報に基づいて信号処理が選択される。デジタル信号処理部30は、その選択された信号処理を実施し、これにより、転送効率、カメラ感度、駆動周波数及び画素数にかかわらず、色再現性や解像度等の画質劣化を抑制可能にしている。
[第15の実施の形態]
図34は本発明に係る撮像装置の第15の実施の形態を示すブロック図である。尚、図18及び図20に示した第7及び第8の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図34に示す第15の実施の形態のカメラ1−15は、第8の実施の形態のカメラ1−8と比較して、CCD配列検出部66を更に備えている点で相違する。
即ち、カメラ1−15は、第7及び第8の実施の形態のカメラ1−7、1−8の機能を備えたものであり、このカメラ1−15のデジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、カメラ感度検出部54から取得したカメラ感度、CCD駆動周波数検出部56から取得したCCD駆動周波数、及びCCD配列検出部66から取得したCCD配列に応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
図35は本発明に係る第15の実施の形態の信号処理方法を示すフローチャートである。
同図に示すように、転送効率、カメラ感度、CCD駆動周波数、及びCCD配列の4つの情報に基づいて信号処理が選択される。デジタル信号処理部30は、その選択された信号処理を実施し、これにより、転送効率、カメラ感度、駆動周波数及びCCD配列にかかわらず、色再現性や解像度等の画質劣化を抑制可能にしている。
[第16の実施の形態]
図36は本発明に係る撮像装置の第16の実施の形態を示すブロック図である。尚、図11、図13、図16及び図34に示した第6及び第15の実施の形態のブロック図と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図36に示す第16の実施の形態のカメラ1−16は、第15の実施の形態のカメラ1−15と比較して、WBゲイン検出部60、画素数検出部62、及び温度検出部64を更に備えている点で相違する。
即ち、カメラ1−16は、第7及び第8の実施の形態のカメラ1−4、1−5、1−6、及び1−15の機能を備えたものであり、このカメラ1−16のデジタル信号処理部30は、CCD転送効率検出部52から取得した転送効率、カメラ感度検出部54から取得したカメラ感度、CCD駆動周波数検出部56から取得したCCD駆動周波数、WBゲイン検出部60から取得したWBゲイン、画素数検出部62から取得した画素数、温度検出部64から取得した温度、及びCCD配列検出部66から取得したCCD配列に応じて信号処理を変更し、転送効率の低下に伴う色再現性や解像度等の画質劣化を抑制するようにしている。
図37は本発明に係る第16の実施の形態の信号処理方法を示すフローチャートである。
同図に示すように、転送効率、カメラ感度、CCD駆動周波数、WBゲイン、画素数、温度及びCCD配列の7つの情報に基づいて信号処理が選択される。デジタル信号処理部30は、その選択された信号処理を実施し、これにより、転送効率、カメラ感度、駆動周波数、WBゲイン、画素数、温度及びCCD配列にかかわらず、色再現性や解像度等の画質劣化を抑制可能にしている。
尚、図37等のフローチャートで示す信号処理は、転送効率、カメラ感度、駆動周波数、WBゲイン、画素数、温度及びCCD配列の7つの情報ごとに2つに分岐して信号処理を変えるようしたが、これに限らず、各情報について段階的に又は連続的に信号処理を変えるようにしてもよい。また、信号処理を変えるための情報は、第1の実施の形態乃至第16の実施の形態のものに限らず、上記7つの情報を適宜組み合わせた情報でもよく、更に7つの情報に限らず、他の情報を含めてもよい。
1−1〜1−16…撮像装置(カメラ)、10…中央処理装置(CPU)、16…RAM、18…ROM、20…撮像部、22…光学ユニット、24…CCD撮像素子、24V…垂直転送路、24H…水平転送路、26…アナログ信号処理部、30…デジタル信号処理部、30A…オフセット処理回路、30B…リニアマトリクス回路、30C…ホワイトバランス調整回路、30D…ガンマ補正回路、30E…同時化処理回路、30F…RGB/YC変換回路、30G…輪郭補正回路、30H…色差マトリクス回路、36…操作部、40…表示部(LCD)、50…メモリカード、52…CCD転送効率検出部、54…カメラ感度検出部、56…CCD駆動周波数検出部、58…オートホワイトバランス(AWB)算出部、60…WBゲイン検出部、62…画素数検出部、64…温度検出部、66…CCD配列検出部