実施の形態1.
図1は本発明の実施の形態1による撮像装置を示す。図示の撮像装置は、連像して撮像を行って、時間的に連続するフレームの画像を表す画像信号を順次出力するものである。以下では、画像は赤、緑、青の画素から成るカラー画像であるとする。
図1において、レンズ1は、被写体像をCCD撮像素子2の撮像面上に合焦させる。
CCD撮像素子(CCD)2は、後述の図3〜図5に示すように、赤色の光(第1の色成分の光)を検出するR画素、緑色の光(第2の色成分の光)を検出するG画素、及び青色の光(第3の色成分の光)を検出するB画素がベイヤ配列されたものである。
R画素、G画素、B画素は、例えば、それぞれ赤色の光のみを透過させる色フィルタを備えた光電変換素子、緑色の光のみを透過させる色フィルタを備えた光電変換素子、青色の光のみを透過させる色フィルタを備えた光電変換素子で構成される。
R画素、G画素、B画素により、赤色の光、緑色の光、青色の光(第1の色成分の光、第2の色成分の光、第3の色成分の光)が検出され、即ち光電変換されて、光電変換により生成された電荷が素子内部を転送されて、電気信号(撮像信号)として出力される。撮像信号の出力はフレーム毎に順次行われる。
撮像信号は、R画素からの画素信号であるR信号(第1の色成分値を表す信号)、G画素からの画素信号であるG信号(第2の色成分値を表す信号)、及びB画素からの画素信号であるB信号(第3の色成分値を表す信号)を含む。
CCD撮像素子2から信号された撮像信号は、相関二重サンプリング処理部(CDS)3でノイズ等が除去される。
プログラマブル利得増幅部(PGA)4は、相関二重サンプリング処理部3の出力信号を制御部12から出力された制御信号によって制御された利得で増幅して出力する。
A/D変換部(ADC)5は、プログラマブル利得増幅部4の出力信号を、デジタル信号Pcに変換する。
撮像素子2と、相関二重サンプリング処理部3と、プログラマブル利得増幅部4と、A/D変換部5とで、被写体の撮像の結果得られる複数の色成分のフレーム毎の撮像信号を順次生成する撮像信号生成部13が構成されている。この撮像信号は、時間的に連続するフレームの各々を構成する複数の画素の画素毎の画素値を示すものである。
三次元画素加算部6は、A/D変換部5から出力される撮像信号Pcを受け、面内画素加算及び面間画素加算を行って、三次元増感信号を生成する。
面内画素加算においては、連続するフレームの各々内において、当該フレーム内の画素を順次指定し、指定された画素について、同じフレーム内において、指定された画素の周辺に位置する画素のうち、指定された画素との画素値の相関性が高い画素を選択し、選択された画素の画素値と、指定された画素の画素値を加算して加算結果を当該指定された画素についての面内増感信号として出力する。
面間画素加算においては、連続するフレームを順次注目フレームとして指定し、注目フレーム内の画素を順次注目画素として指定し、各注目画素について、当該注目フレームの近傍に位置する1又は2以上のフレームの各々から、注目画素と同じ位置及びその周辺に位置する画素のうち、注目画素との面内増感信号の相関性が高い画素を選択し、1又は2以上の近傍のフレームの各々から選択された画素についての面内増感信号と注目画素についての面内増感信号を加算して加算結果を三次元増感信号として出力する。
面内画素加算において順次指定された画素についての面内増感信号を求め、面間画素加算においては、複数のフレームのそれぞれの画素についての面内増感信号を用いて画素加算を行うので、各時点で実行される面間画素加算における注目フレームの注目画素と、面内画素加算の際に「指定された画素」とは同じではないが、面内画素加算に関する説明では、上記の「指定された画素」を注目画素と言う。
映像信号処理部7は、三次元画素加算部6の出力信号に、色同時化処理、階調補正処理、ノイズ低減処理、輪郭補正処理、白バランス調整処理、信号振幅調整処理、及び色補正処理などを加えた映像信号を映像信号出力端子8から出力する。
同期信号発生部11は、垂直同期信号VD及び水平同期信号HDを生成して三次元画素加算部6、映像信号処理部7及びタイミング発生部10に供給する。
タイミング発生部10は、CCD撮像素子2の駆動タイミング信号DRTを発生して駆動部9に供給する。駆動部9は、タイミング発生部10から出力された駆動タイミング信号DRTに基づいてCCD撮像素子2の駆動信号DRSを生成する。CCD撮像素子2は、駆動部9から出力された駆動信号DRSに基づいて、光電変換及び電荷転送を行う。
制御部12は、レンズ1の絞りの制御、タイミング発生部10が発生するCCD撮像素子2の光電変換素子からの電荷読出しタイミング及び電荷強制排出タイミングの制御(従って、電荷蓄積時間、即ち露光時間の制御)、プログラマブル利得増幅部4の増幅利得の制御、並びに三次元画素加算部6に対する増感倍率La、Lbの設定を含む、画素加算処理の制御を行う。
撮像素子2の撮像画面上の画素は、図2に示すように水平方向(行方向)H及び垂直方向(列方向)Vに整列し、全体としてマトリクス状に配置されている。各画素の画面上の位置は、水平方向位置h、及び垂直方向位置vにより座標(h,v)で表され、座標(h,v)の画素は符号Phvで表される。水平方向に隣接する画素間ではhの値が1だけ異なり、垂直方向に隣接する画素間ではvの値が1だけ異なる。即ち隣接画素間の距離(画素ピッチ)は1で表される。
図2には、(面内画素加算における)注目画素P33を中心とした水平5画素、垂直5画素の5範囲(5×5画素の範囲)及びその周辺に位置する画素(水平9画素、垂直9画素の範囲内の画素の一部)の配置が示されている。
図3、図4及び図5は、R画素、G画素及びB画素の配列を示す。この配列においては、R画素、G画素、B画素が市松模様状に配列され、水平2画素、垂直2画素の4画素の配列を基本単位として繰り返している。この基本単位においては、2つのG画素が一方の対角線に並び、R画素とB画素が他方の対角線上に並んでいる。これらの図で、Rhv、Ghv、Bhvはそれぞれ座標(h,v)のR画素、G画素、B画素を示す。これらの図でも(h,v)=(3,3)が注目画素の座標である。
図3は、図2の画素空間配置で注目画素がG画素(Gフィルタを備えた画素)の時の5×5画素の領域及びその周辺の画素の配置を示す。例えば、R32、G33、B43、G42から成る、水平2画素、垂直2画素の4画素の組合せを基本単位として繰り返すように、それぞれの色の画素が配列されている。
図3は、G33の同じライン上の隣接画素(1画素前及び1画素後の画素)がB画素の場合を例に説明したが、G22のように同じライン上の隣接画素がR画素である配列パターンも存在する。その場合は、R画素とB画素が入れ替わった色配置となるが、注目画素がG画素の時の加算対象画素はG画素のみなので、一方の色配置についての説明は他方にも若干の修正のみで当てはまる。
図4は、図2の画素空間配置で注目画素がR画素(Rフィルタを備えた画素)の時の5×5画素の領域及びその周辺の画素の配置を示す。例えば、R33、G34、B44、G43から成る、水平2画素、垂直2画素の4画素の組合せを基本単位として繰り返すように、それぞれの色の画素が配列されている。
図5は、図2の画素空間配置で注目画素がB画素(Bフィルタを備えた画素)の時の5×5画素の領域及びその周辺の画素の配置を示す。例えば、R22、G23、B33、G32から成る、水平2画素、垂直2画素の4画素の組合せを基本単位として繰り返すように、それぞれの色の画素が配列されている。
三次元画素加算部6は、図6に示すように、面内画素加算部20と面間画素加算部30とを有する。
A/D変換部5からベイヤ配列されたR画素、G画素、B画素の撮像信号Pcが入力端子601を介して面内画素加算部20へ供給される。
面内画素加算部20は、撮像信号生成部13で生成された撮像信号に基づいて、連続するフレームの各々内において、当該フレーム内の画素を順次指定し、指定された画素について、同じフレーム内において、前記指定された画素の周辺に位置する画素のうち、前記指定された画素との画素値の相関性が高い画素を選択し、選択された画素の画素値と、前記指定された画素の画素値を加算して加算結果を当該指定された画素についての面内増感信号VALとして出力する。
面間画素加算部30は、連続するフレームを順次注目フレームとして指定し、注目フレーム内の画素を順次注目画素として指定し、各注目画素について、当該注目フレームの近傍に位置する1又は2以上のフレームの各々から、注目画素と同じ位置及びその周辺に位置する画素のうち、注目画素との面内増感信号VALの相関性が高い画素を選択し、上記1又は2以上の近傍のフレームの各々から選択された画素についての面内増感信号VALと注目画素についての面内増感信号VALを加算して加算結果を三次元増感信号Pfとして出力する。
面内増感信号VALは、面内画素加算部20で元の撮像信号を例えば4個加算することで得られるものとされ、その場合4倍まで増感したものとすることができ、三次元増感信号Pfは、面間画素加算部30で面内増感信号VALを例えば5個加算することで得られるものとされ、その場合さらに5倍まで増感することができ、従って、三次元増感信号Pfとして元の撮像信号を20倍まで増感したものを得ることができる。
面間画素加算部30は、三次元増感信号Pfを出力端子602から映像信号処理部7へ供給する。
面内画素加算部20は、図7に示すように、画素抽出部21と、領域選択部22と、選択加算部23と、信号結合部24とを有する。
三次元画素加算部6の入力端子601には、A/D変換部5から出力される撮像信号Pcが入力され、出力端子604からは、上記の面内増感信号VALと、後述の加算画素パターン符号PATを結合した複合信号MIXが出力される。
領域選択部22及び選択加算部23には、図1の同期信号発生部11から出力される水平同期信号HD及び垂直同期信号VDが入力される。
選択加算部23にはまた、図1の制御部12から出力される増感倍率Laを示す情報が入力される。
入力端子601を介して画素抽出部21に供給される撮像信号Pcは、上記のようにベイヤ配列されたR画素、G画素、B画素の画素値を表すものである。
画素抽出部21は、入力された撮像信号Pcを互いに異なる時間だけ遅延させて、同じフレーム内の互いに近傍に位置する、注目画素と同じ色フィルタを備えた(同じ色成分の光を検出する)複数の画素の画素値を同時に抽出する。この場合、複数の画素のうちの中心に位置するものが注目画素として扱われ、他のものが参照画素として扱われる。従って、上記の抽出処理は、注目画素と、注目画素と同じフレーム内において、注目画素の周辺に位置し、注目画素と同じ色フィルタを備えた(同じ色成分の光を検出する)、複数の画素(参照画素)の画素値を同時に抽出する処理であると言うことができる。抽出される画素は順次切り替わるので、上記の処理はまた、フレーム内の画素を順次指定して、指定された画素と、その周辺に位置し、指定された画素と同じ色フィルタを備えた(同じ色成分の光を検出する)、複数の画素の画素値を同時に抽出する処理であると言うこともできる。
注目画素と同じ色フィルタを備えた(同じ色成分の光を検出する)複数の画素は、注目画素と同じ色成分の撮像信号を出力するものである。
領域選択部22は、画素抽出部21で抽出された注目画素及びその周辺の参照画素の画素値を表す信号を受け、注目画素とその周辺に位置する1又は2以上の画素とから成る組合せ、従って組合せで構成される画素領域を複数個形成し、形成された複数個の画素領域のうちの、相互間の相関性が高い画素から成る画素領域を選択して出力する。各画素領域には、注目画素が含まれるので、相互間の相関性が高い画素から成る画素領域を選択することで、注目画素に対する相関性が高い画素から成る画素領域を選択することができる。相互間の相関の高い画素から成る画素領域の選択のため、各画素領域の画素の画素値の最大値と最小値の差が最小の組合せが選択される。
選択された画素領域を構成する画素の位置を示す情報(加算画素位置情報)POSが選択加算部23に出力される。
加算画素位置情報POSとともに、選択された画素領域のパターン(類型)を示す情報(例えば、予め定められた複数の類型のいずれに属するものであるかを示す情報)を加算画素パターン符号PATとして生成し、信号結合部24に出力する。ここで言うパターン(類型)は、例えば、注目画素に対する選択された領域の相対的位置或いは方位によって定義され、さらに領域の形状によって定義される。
例えば、上記の複数の画素領域として、パターンの異なるもの、例えば、注目画素に対する相対的位置乃至方位が異なるものが複数個用意され、或いは相対的方位乃至方位とともに形状が異なるものが複数個用意され、これらの複数の画素領域の中から、最も相関の高いものが選択され、選択された領域のパターンを示す情報が加算画素パターン符号PATとして出力される。
選択加算部23は、画素抽出部21で抽出された撮像信号を受け、各注目画素の撮像信号について、領域選択部22で選択された画素領域に含まれる画素、即ち加算画素位置情報POSで指定された画素の撮像信号を加算して、加算結果を面内増感信号VALとして出力する。選択加算部23から出力された面内加算画素信号VALは信号結合部24へ供給される。
信号結合部24は、選択加算部23から出力された面内増感信号VALと、領域選択部22から出力された加算画素パターン符号PATを1つの信号に結合して複合信号MIXを生成して出力する。
例えば、面内増感信号VALが12bit、加算画素パターン符号PATが4bitのとき、複合信号MIXは16bitとなる。
信号結合部24で生成された複合信号MIXは出力端子604を介して面間画素加算部30へ供給される。
以下、画素抽出部21、領域選択部22、選択加算部23、及び信号結合部24について詳しく説明する。
画素抽出部21は、例えば、図8に示すように構成されている。
図8で、「1L−DL」は1ライン遅延部を示し、「2L−DL」は2ライン遅延部を示し、「1D−DL」は1画素遅延部を示し、「2D−DL」は2画素遅延部を示す。
「4D−DL」は4画素遅延部を示す。
画素抽出部21は、2ライン遅延部511、512と、1ライン遅延部522〜525と、4画素遅延部530、531と、2画素遅延部532〜537と、1画素遅延部542〜545、547〜550、552〜555、557〜560、562〜565とを図示のように接続して構成されており、撮像信号Pcを互いに異なる時間遅延させて、互いに近傍に位置する画素の信号を出力する。
画素抽出部21から出力される信号のうち、遅延部553から出力される信号が注目画素P33(図2)の信号として用いられる。遅延部553からの信号を注目画素P33(図2)の信号とすると、このとき入力端子601に入力される撮像信号Pcは、画素PRB(図2)の信号であり、注目画素P33とその周辺の画素P11〜P55、PL3、P3T、P3B、PR1〜PR5の画素値(画素値を表す画素信号)が同時に出力される。
以下では、各画素と、当該画素の画素値及び画素信号を同じ符号で表す。例えば、画素P33の画素値及び画素信号をも符号P33で表す。
以下、画素抽出部21の各遅延部による処理を詳しく説明する。
画素信号PRBは、2ライン遅延部511、1ライン遅延部522〜525、2ライン遅延部512で順次遅延されて、画素信号PRBに対して、それぞれ2、3、4、5、6、8ライン遅延した画素信号PR5、PR4、PR3、PR2、PR1、PRTが出力される。
画素信号PRBはまた、4画素遅延部530で遅延されて、画素信号P3Bとして出力される。
2ライン遅延部511から出力された画素信号PR5は、2画素遅延部532で2画素遅延され、さらに、1画素遅延部542〜545で順次1画素遅延されて、画素信号PR5に対してそれぞれ2、3、4、5、6画素遅延した画素信号P55、P45、P35、P25、P15が出力される。
1ライン遅延部522から出力された画素信号PR4は、2画素遅延部533で2画素遅延され、さらに、1画素遅延部547〜550で順次1画素遅延されて、画素信号PR4に対してそれぞれ2、3、4、5、6画素遅延した画素信号P54、P44、P34、P24、P14が出力される。
1ライン遅延部523から出力された画素信号PR3は、2画素遅延部534で2画素遅延され、さらに、1画素遅延部552〜555で順次1画素遅延され、さらに、2画素遅延部535で2画素遅延されて、画素信号PR3に対してそれぞれ2、3、4、5、6、8画素遅延した画素信号P53、P43、P33、P23、P13、PL3が出力される。
1ライン遅延部524から出力された画素信号PR2は、2画素遅延部536で2画素遅延され、さらに、1画素遅延部557〜560で順次1画素遅延されて、画素信号PR2に対してそれぞれ2、3、4、5、6画素遅延した画素信号P52、P42、P32、P22、P12が出力される。
1ライン遅延部525から出力された画素信号PR1は、2画素遅延部537で2画素遅延され、さらに、1画素遅延部562〜565で順次1画素遅延されて、画素信号PR1に対してそれぞれ2、3、4、5、6画素遅延した画素信号P51、P41、P31、P21、P11が出力される。
2ライン遅延部512から出力された画素信号PRTは、4画素遅延部531で遅延されて画素信号P3Tとして出力される。
画素信号P55〜P11、P3B、PR3、PL3、P3Tは、それぞれ図2の画素P55〜P11、P3B、PR3、PL3、P3Tの画素値を表すものであり、画素信号PRBが入力されたタイミングで、画素抽出部21から同時に出力され、領域選択部22及び選択加算部23に供給される。
領域選択部22は、例えば図9に示されるように、画素選択部570と、変化幅算出部571〜582と、最小値算出部585と、画素指定部587とを有する。
図1の同期信号発生部11から出力された水平同期信号HD及び垂直同期信号VDは、画素選択部570、最小値算出部585、及び画素指定部587に供給される。
画素選択部570は水平同期信号HDと垂直同期信号VDに基づいて注目画素P33の画素位置を判断して、注目画素の色フィルタ配列上の画素位置を特定する。画素選択部570は、注目画素が、R画素、G画素及びB画素のいずれであるかをも特定する。
そして、画素抽出部21から供給された画素信号P55〜P11、P3B、PR3、PL3、P3Tを受け、注目画素とその周辺の画素から成る組合せ(乃至画素領域)を複数個生成する。各注目画素についてそのような組合せは複数個生成される。
選択加算部23における画素加算に用いられる画素として、注目画素と相関の高い画素を正しく選択できれば、画素加算後の画像の解像度劣化を小さくすることができる。そこで、領域選択部22では上記のように注目画素とその周辺の画素との組合せを複数個、異なるパターンのものを用意乃至形成し、各組合せについて相関の高さを求め、選択加算部23で、最も相関の高い組合せに属する画素を用いて画素加算を行う。
各組合せについて、相関の高さは、各組合せに属する画素の画素値のうちの最大値(最大画素値)と最小値(最小画素値)の差で与えられる画素値の変化幅に基づいて評価される。即ち、上記の変化幅が最も小さい組合せが最も相関の高い組合せとして選択される。
図2の画素空間配置で注目画素がG画素の時の4画素加算を行う場合の4個の画素の組合せのパターンを図10(a)から図12(d)に示す。G画素の4画素加算の場合は、12個の組合せのパターンのうちの最も相関の高い組合せのパターンを求める。
図10(a)は、注目画素とその上側の周辺画素、即ち、注目画素G33、注目画素の2ライン前の画素G31、注目画素の1ライン前の1画素前の画素G22、及び注目画素の1ライン前の1画素後の画素G42で構成される上側ブロックパターンの組合せGP1を示す。
図10(b)は、注目画素とその右側の周辺画素、即ち、注目画素G33、注目画素の2画素後の画素G53、注目画素の1ライン前の1画素後の画素G42、及び注目画素の1ライン後の1画素後の画素G44で構成される右側ブロックパターンの組合せGP2を示す。
図10(c)は、注目画素とその左側の周辺画素、即ち、注目画素G33、注目画素の2画素前の画素G13、注目画素の1ライン前の1画素前の画素G22、及び注目画素の1ライン後の1画素前の画素G24で構成される左側ブロックパターンの組合せGP3を示す。
図10(d)は、注目画素とその下側の周辺画素、即ち、注目画素G33、注目画素の2ライン後の画素G35、注目画素の1ライン後の1画素前の画素G24、及び注目画素の1ライン後の1画素後の画素G44で構成される下側ブロックパターンの組合せGP4を示す。
図11(a)は、注目画素とその上側の周辺画素、即ち、注目画素G33、注目画素の4ライン前の画素G3T、注目画素の2ライン前の画素G31、及び注目画素の2ライン後の画素G35で構成される上側縦ラインパターンの組合せGP5を示す。
図11(b)は、注目画素とその下側の周辺画素、即ち、注目画素G33、注目画素の4ライン後の画素G3B、注目画素の2ライン後の画素G35、及び注目画素の2ライン前の画素G31で構成される下側縦ラインパターンの組合せGP6を示す。
図11(c)は、注目画素とその左側の周辺画素、即ち、注目画素G33、注目画素の4画素前の画素GL3、注目画素の2画素前の画素G13、及び注目画素の2画素後の画素G53で構成される左側横ラインパターンの組合せGP7を示す。
図11(d)は、注目画素とその右側の周辺画素、即ち、注目画素G33、注目画素の4画素後の画素GR3、注目画素の2画素後の画素G53、及び注目画素の2画素前の画素G13で構成される右側横ラインパターンの組合せGP8を示す。
図12(a)は、注目画素とその左上側の周辺画素、即ち、注目画素G33、注目画素の2ライン前の2画素前の画素G11、注目画素の1ライン前の1画素前の画素G22、及び注目画素の1ライン後の1画素後の画素G44で構成される左上側斜めラインパターンの組合せGP9を示す。
図12(b)は、注目画素とその右下側の周辺画素、即ち、注目画素G33、注目画素の2ライン後の2画素後の画素G55、注目画素の1ライン後の1画素後の画素G44、及び注目画素の1ライン前の1画素前の画素及びG22で構成される右下側斜めラインパターンの組合せGP10を示す。
図12(c)は、注目画素とその右上側の周辺画素、即ち、注目画素G33、注目画素の2ライン前の2画素後の画素G51、注目画素の1ライン前の1画素後の画素G42、及び注目画素の1ライン後の1画素前の画素G24で構成される右上側斜めラインパターンの組合せGP11を示す。
図12(d)は、注目画素とその左下側の周辺画素、即ち、注目画素G33、注目画素の2ライン後の2画素前の画素G15、注目画素の1ライン後の1画素前の画素G24、及び注目画素の1ライン前の1画素後の画素G42で構成される左下側斜めラインパターンの組合せGP12を示す。
画素選択部570は、上記の組合せGP1〜GP12をそれぞれ第1乃至第12の組合せAP1〜AP12とし、これらを構成する画素の画素値をそれぞれ第1乃至第12の変化幅算出部571〜582へ供給する。
図2の画素空間配置で注目画素がR画素の時の4画素加算を行う場合の4個の画素の組合せのパターンを図13(a)〜(d)に示す。R画素の4画素加算の場合は、4個の組合せのパターンのうちの最も相関の高い組合せのパターンを求める。
図13(a)は、注目画素とその左上側の周辺画素、即ち、注目画素R33、注目画素の2ライン前の画素R31、注目画素の2ライン前の2画素前の画素R11、及び注目画素の2画素前の画素R13で構成される左上側ブロックパターンの組合せRP1を示す。
図13(b)は、注目画素とその右上側の周辺画素、即ち、注目画素R33、注目画素の2ライン前の画素R31、注目画素の2ライン前の2画素後の画素R51、及び注目画素の2画素後の画素R53で構成される右上側ブロックパターンの組合せRP2を示す。
図13(c)は、注目画素とその左下側の周辺画素、即ち、注目画素R33、注目画素の2画素前の画素R13、注目画素の2ライン後の画素R35、及び注目画素の2ライン後の2画素前の画素R15で構成される左下側ブロックパターンの組合せRP3を示す。
図13(d)は、注目画素とその右下側の周辺画素、即ち、注目画素R33、注目画素の2画素後の画素R53、注目画素の2ライン後の画素R35、及び注目画素の2ライン後の2画素後の画素R55で構成される右下側ブロックパターンの組合せRP4を示す。
画素選択部570は、上記の組合せPR1〜PR4をそれぞれ第1乃至第4の組合せAP1〜AP4とし、これらを構成する画素の画素値をそれぞれ第1乃至第4の変化幅算出部571〜574へ供給する。
図2の画素空間配置で注目画素がB画素の時の4画素加算を行う場合の4個の画素の組合せのパターンを図14(a)〜(d)に示す。B画素の4画素加算の場合は、4個の組合せのパターンのうちの最も相関の高い組合せのパターンを求める。
図14(a)は、注目画素とその左上側の周辺画素、即ち、注目画素B33、注目画素の2ライン前の画素B31、注目画素の2ライン前の2画素前の画素B11、及び注目画素の2画素前の画素B13で構成される左上側ブロックパターンの組合せBP1を示す。
図14(b)は、注目画素とその右上側の周辺画素、即ち、注目画素B33、注目画素の2ライン前の画素B31、注目画素の2ライン前の2画素後の画素B51、及び注目画素の2画素後の画素B53で構成される右上側ブロックパターンの組合せBP2を示す。
図14(c)は、注目画素とその左下側の周辺画素、即ち、注目画素B33、注目画素の2画素前の画素B13、注目画素の2ライン後の画素B35、及び注目画素の2ライン後の2画素前の画素B15で構成される左下側ブロックパターンの組合せBP3を示す。
図14(d)は、注目画素とその右下側の周辺画素、即ち、注目画素B33、注目画素の2画素後の画素B53、注目画素の2ライン後の画素B35、及び注目画素の2ライン後の2画素後の画素B55で構成される右下側ブロックパターンの組合せBP4を示す。
画素選択部570は、上記の組合せPB1〜PB4をそれぞれ第1乃至第4の組合せAP1〜AP4とし、これらを構成する画素の画素値をそれぞれ第1乃至第4の変化幅算出部571〜574へ供給する。
以上のように、注目画素がG画素である場合に用意される画素の組合せ、組合せを構成する領域の形状によってブロック状(菱形状)のものと、ライン状(帯状)とに分けられ、ブロック状のものについては、上記領域の中心が、注目画素に対して上側、右側、左側、下側のいずれにあるかによって分けられ、ライン状のものについては、上記領域の中心が、注目画素に対して上側、下側、左側、右側、斜め左上側、斜め右下側、斜め右上側、斜め左下側のいずれであるかによって分けられる。
従って、加算画素パターン符号PATとしては、選択された組合せが図10(a)〜図12(d)のいずれであるか、即ち、注目画素及びその周辺に位置する画素から成る領域の形状、即ち、ブロック状(菱形状)であるか、又はライン状(帯状)のものであるか、並びに、領域の中心の、指定された画素に対する相対的位置乃至方位、即ち、ブロック状のものについては、上、右、左、下のいずれの側であるか、ライン状のものについては、上、右、左、下、斜め左上、斜め右上、斜め左下、斜め右上のいずれの側であるかを示すものが用いられる。
これに対して、注目画素がR画素又はB画素である場合に用意される画素の組合せは、組合せを構成する領域の形状がすべてブロック状のものであり、上記領域の中心が、注目画素に対して左斜め上側、右斜め上側、左斜め下側、右斜め下側のいずれにあるかによって分けられる。
従って、加算画素パターン符号PATとしては、選択された組合せが図13(a)〜(d)又は図14(a)〜(d)のいずれであるか、即ち、注目画素及びその周辺に位置する画素から成る領域の中心の、指定された画素に対する相対的位置乃至方位、即ち、斜め左上、斜め右上、斜め左下、斜め右下のいずれの側であるかを示すものが用いられる。
しかしながら、本発明は上記の例に限定されない。即ち、注目画素及びその周辺の画素から成る領域の形状、及び、該領域の中心の、注目画素に対する方位は、図10(a)〜図14(d)に示すもの以外のものであっても良い。いずれにしても、加算画素パターン符号PATは注目画素及びその周辺の画素から成る領域の、注目画素に対する相対的位置乃至方位を示すものであれば良い。
第1乃至第12の変化幅算出部571〜582は、各々、入力された第1乃至第12の組合せAP1〜AP12について最大画素値と最小画素値の差を変化幅として算出する。
即ち、変化幅算出部571〜582は、入力される4画素の画素値同士を比較して、最大画素値と最小画素値を求める。次に最大画素値と最小画素値の差分を求め当該組合せ(画素領域)の変化幅として最小値算出部585へ供給する。
注目画素がG画素の場合、
変化幅算出部571は、第1の組合せAP1として入力された上側ブロックパターンGP1の組合せの変化幅を算出し、第1の変化幅WP1として出力し、
変化幅算出部572は、第2の組合せAP2として入力された右側ブロックパターンGP2の組合せの変化幅を算出し、第2の変化幅WP2として出力し、
変化幅算出部573は、第3の組合せAP3として入力された左側ブロックパターンGP3の組合せの変化幅を算出し、第3の変化幅WP3として出力し、
変化幅算出部574は、第4の組合せAP4として入力された下側ブロックパターンGP4の組合せの変化幅を算出し、第4の変化幅WP4として出力し、
変化幅算出部575は、第5の組合せAP5として入力された上側縦ラインパターンGP5の組合せの変化幅を算出し、第5の変化幅WP5として出力し、
変化幅算出部576は、第6の組合せAP6として入力された下側縦ラインパターンGP6の組合せの変化幅を算出し、第6の変化幅WP6として出力し、
変化幅算出部577は、第7の組合せAP7として入力された左側横ラインパターンGP7の組合せの変化幅を算出し、第7の変化幅WP7として出力し、
変化幅算出部578は、第8の組合せAP8として入力された右側横ラインパターンGP8の組合せの変化幅を算出し、第8の変化幅WP8として出力し、
変化幅算出部579は、第9の組合せAP9として入力された左上側斜めラインパターンGP9の組合せの変化幅を算出し、第9の変化幅WP9として出力し、
変化幅算出部580は、第10の組合せAP10として入力された右下側斜めラインパターンGP10の変化幅を算出し、第10の変化幅WP10として出力し、
変化幅算出部581は、第11の組合せAP11として入力された右上側斜めラインパターンGP11の組合せの変化幅を算出し、第11の変化幅WP11として出力し、
変化幅算出部582は、第12の組合せAP12として入力された左下側斜めラインパターンGP12の組合せの変化幅を算出し、第12の変化幅WP12として出力する。
注目画素がR画素或いはB画素の場合、
変化幅算出部571は、第1の組合せAP1として入力された左上側ブロックパターンRP1或いはBP1の組合せの変化幅を算出し、第1の変化幅WP1として出力し、
変化幅算出部572は、第2の組合せAP2として入力された右上側ブロックパターンRP2或いはBP2の組合せの変化幅を算出し、第2の変化幅WP2として出力し、
変化幅算出部573は、第3の組合せAP3として入力された左下側ブロックパターンRP3或いはBP3の組合せの変化幅を算出し、第3の変化幅WP3として出力し、
変化幅算出部574は、第4の組合せAP4として入力された右下側ブロックパターンRP4或いはBP4の組合せの変化幅を算出し、第4の変化幅WP4として出力する。
変化幅算出部575〜582は変化幅算出の動作を行わない。
最小値算出部585の注目画素がG画素の場合の動作について説明する。
最小値算出部585は、変化幅算出部571〜582から出力される第1乃至第12の変化幅WP1〜WP12を受け、そのうちの最小のものを求め、変化幅が最小の組合せのパターン(加算画素パターン)を示す情報(加算画素パターン符号)PATを画素指定部587及び信号結合部24へ通知する。
画素指定部587は、最小値算出部585から通知された加算画素パターン符号PATで特定される組合せを構成する画素の画素位置を示す情報(加算画素位置情報)POSを選択加算部23へ供給する。
上側ブロックパターンGP1の組合せの変化幅が最小の場合は、画素G31、G22、G42、G33の位置情報POSが選択加算部23へ供給される。
右側ブロックパターンGP2の組合せの変化幅が最小の場合は、画素G42、G33、G53、G44の位置情報POSが選択加算部23へ供給される。
左側ブロックパターンGP3の組合せの変化幅が最小の場合は、画素G22、G13、G33、G24の位置情報POSが選択加算部23へ供給される。
下側ブロックパターンGP4の組合せの変化幅が最小の場合は、画素G33、G24、G44、G35の位置情報POSが選択加算部23へ供給される。
上側縦ラインパターンGP5の組合せの変化幅が最小の場合は、画素G3T、G31、G33、G35の位置情報POSが選択加算部23へ供給される。
下側縦ラインパターンGP6の組合せの変化幅が最小の場合は、画素G31、G33、G35、G3Bの位置情報POSが選択加算部23へ供給される。
左側横ラインパターンGP7の組合せの変化幅が最小の場合は、画素GL3、G13、G33、G53の位置情報POSが選択加算部23へ供給される。
右側横ラインパターンGP8の組合せの変化幅が最小の場合は、画素G13、G33、G53、GR3の位置情報POSが選択加算部23へ供給される。
左上側斜めラインパターンGP9の組合せの変化幅が最小の場合は、画素G11、G22、G33、G44の位置情報POSが選択加算部23へ供給される。
右下側斜めラインパターンGP10の組合せの変化幅が最小の場合は、画素G22、G33、G44、G55の位置情報POSが選択加算部23へ供給される。
右上側斜めラインパターンGP11の組合せの変化幅が最小の場合は、画素G51、G42、G33、G24の位置情報POSが選択加算部23へ供給される。
左下側斜めラインパターンGP12の組合せの変化幅が最小の場合は、画素G42、G33、G24、G15の位置情報POSが選択加算部23へ供給される。
このような処理により、最小値算出部585と画素指定部587とで構成される相関領域検出部590は、変化幅算出部571〜582から出力される第1乃至第12の変化幅WP1〜WP12を受け、変化幅が最小の組合せを構成する画素から成る画素領域を、最も相関の高い画素領域と判定し、該領域の位置(該領域を構成する画素の位置)を示す情報(加算画素位置情報)POSを選択加算部23へ供給するとともに、上記最小の組合せのパターン(類型)を示す情報(該最小の組合せが図10(a)〜図12(d)のいずれのパターンのものであるか示す情報)を加算画素パターン符号PATとして信号結合部24へ供給する。
最小値算出部585の注目画素がR画素の場合の動作について説明する。
最小値算出部585は、変化幅算出部571〜574から出力される第1乃至第4の変化幅WP1〜WP4を受け、そのうちの最小のものを求め、変化幅が最小の組合せのパターン(加算画素パターン)を示す情報(加算画素パターン符号)PATを画素指定部587及び信号結合部24へ通知する。
画素指定部587は、最小値算出部585から通知された加算画素パターン符号PATで特定される組合せを構成する画素の画素位置を示す情報(加算画素位置情報)POSを選択加算部23へ供給する。
左上側ブロックパターンRP1の組合せの変化幅が最小の場合は、画素R11、R31、R13、R33の位置情報POSが選択加算部23へ供給される。
右上側ブロックパターンRP2の組合せの変化幅が最小の場合は、画素R31、R51、R33、R53の位置情報POSが選択加算部23へ供給される。
左下側ブロックパターンRP3の組合せの変化幅が最小の場合は、画素R13、R33、R15、R35の位置情報POSが選択加算部23へ供給される。
右下側ブロックパターンRP4の組合せの変化幅が最小の場合は、画素R33、R53、R35、R55の位置情報POSが選択加算部23へ供給される。
このような処理により、相関領域検出部590は、変化幅算出部571〜574から出力される第1乃至第4の変化幅WP1〜WP4を受け、変化幅が最小の組合せを構成する画素から成る画素領域を、最も相関の高い画素領域と判定し、該領域の位置(該領域を構成する画素の位置)を示す情報(加算画素位置情報)POSを選択加算部23へ供給するとともに、上記最小の組合せのパターン(類型)を示す情報(該最小の組合せが図13(a)〜図13(d)のいずれのパターンのものであるか示す情報)を加算画素パターン符号PATとして信号結合部24へ供給する。
最小値算出部585の注目画素がB画素の場合の動作について説明する。
最小値算出部585は、変化幅算出部571〜574から出力される第1乃至第4の変化幅WP1〜WP4を受け、そのうちの最小のものを求め、変化幅が最小の組合せのパターン(加算画素パターン)を示す情報(加算画素パターン符号)PATを画素指定部587及び信号結合部24へ通知する。
画素指定部587は、最小値算出部585から通知された加算画素パターン符号PATで特定される組合せを構成する画素の画素位置を示す情報(加算画素位置情報)POSを選択加算部23へ供給する。
左上側ブロックパターンBP1の組合せの変化幅が最小の場合は、画素B11、B31、B13、B33の位置情報POSが選択加算部23へ供給される。
右上側ブロックパターンBP2の組合せの変化幅が最小の場合は、画素B31、B51、B33、B53の位置情報POSが選択加算部23へ供給される。
左下側ブロックパターンBP3の組合せの変化幅が最小の場合は、画素B13、B33、B15、B35の位置情報POSが選択加算部23へ供給される。
右下側ブロックパターンBP4の組合せの変化幅が最小の場合は、画素B33、B53、B35、B55の位置情報POSが選択加算部23へ供給される。
このような処理により、相関領域検出部590は、変化幅算出部571〜574から出力される第1乃至第4の変化幅WP1〜WP4を受け、変化幅が最小の組合せを構成する画素から成る画素領域を、最も相関の高い画素領域と判定し、該領域の位置(該領域を構成する画素の位置)を示す情報(加算画素位置情報)POSを選択加算部23へ供給するとともに、上記最小の組合せのパターン(類型)を示す情報(該最小の組合せが図14(a)〜図14(d)のいずれのパターンのものであるか示す情報)を加算画素パターン符号PATとして信号結合部24へ供給する。
以上のように、G画素の場合は12個の組合せから、R画素、B画素の場合は4個の組合せから、最も相関の高い組合せを求めるように構成したので画素加算に用いられる画素として、注目画素と相関の高い画素を正しく選択することができ、画素加算後の画像の解像度劣化を小さくすることができる。
次に、図15を参照して、選択加算部23について説明する。選択加算部23は、図15に示すように、画素選択部593と、画素加算部595を有する。
画素抽出部21で抽出された画素信号P55〜P11、P3B、PR3、PL3、P3Tは、画素選択部593に供給される。
領域選択部22の画素指定部587から通知される加算画素位置情報POS、並びに図1の同期信号発生部11から出力された水平同期信号HD及び垂直同期信号VDも、画素選択部593へ供給される。
画素選択部593は、水平同期信号HD及び垂直同期信号VDに基づいて注目画素P33の画素位置を判断して、注目画素の色フィルタ配列上の画素位置を特定する。
画素選択部593は、注目画素が、R画素、G画素、及びB画素のいずれであるかをも特定する。そして画素指定部587からの加算画素位置情報POSに基づいて、選択領域を構成する4個の画素の画素位置をも特定する。
画素選択部593は、加算画素位置情報POSで示される画素位置にある4個の画素の画素値Ps1〜Ps4を画素加算部595へ供給する。
制御部12から出力される増感倍率La(La=1〜4)を示す信号は画素加算部595へ供給される。
画素加算部595は、画素選択部593から供給された4個の画素の画素値を加算して、加算結果を面内増感信号Peとして、出力端子602を介して映像信号処理部7へ供給する。この加算に当たり、加算前の画素値に対して加算結果が所定の増感倍率Laを有するように、加算係数(重み付け係数)が掛けられる。
例えば、4個の画素の画素値をPs1、Ps2、Ps3、Ps4、増感倍率をLaとすると、
Pe=(Ps1+Ps2+Ps3+Ps4)×La/4
で表される演算により、面内増感信号(の値)Peを求める。以下の説明で、G画素についての面内増感信号(の値)はGeで、R画素についての面内増感信号(の値)はReで、B画素についての面内増感信号(の値)はBeで示される。
注目画素がG画素の時の動作を説明する。
第1の組合せAP1としての上側ブロックパターンGP1の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Ge=(G31+G22+G42+G33)×La/4
第2の組合せAP2としての右側ブロックパターンGP2の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Ge=(G42+G33+G53+G44)×La/4
第3の組合せAP3としての左側ブロックパターンGP3の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Ge=(G22+G13+G33+G24)×La/4
第4の組合せAP4としての下側ブロックパターンGP4の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Ge=(G33+G24+G44+G35)×La/4
第5の組合せAP5としての上側縦ラインパターンGP5の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Ge=(G3T+G31+G33+G35)×La/4
第6の組合せAP6としての下側縦ラインパターンGP6の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Ge=(G31+G33+G35+G3B)×La/4
第7の組合せAP7としての左側横ラインパターンGP7の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Ge=(GL3+G13+G33+G53)×La/4
第8の組合せAP8としての右側横ラインパターンGP8の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Ge=(G13+G33+G53+GR3)×La/4
第9の組合せAP9としての左上側斜めラインパターンGP9の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Ge=(G11+G22+G33+G44)×La/4
第10の組合せAP10としての右下側斜めラインパターンGP10の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Ge=(G22+G33+G44+G55)×La/4
第11の組合せAP11としての右上側斜めラインパターンGP11の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Ge=(G51+G42+G33+G24)×La/4
第12の組合せAP12としての左下側斜めラインパターンGP12の組合せが選択された場合、画素加算部595は、次式の演算を行う。
G=(G42+G33+G24+G15)×La/4
注目画素がR画素の時の動作を説明する。
第1の組合せAP1としての左上側ブロックパターンRP1の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Re=(R11+R31+R13+R33)×La/4
第2の組合せAP2としての右上側ブロックパターンRP2の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Re=(R31+R51+R33+R53)×La/4
第3の組合せAP3としての左下側ブロックパターンRP3の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Re=(R13+R33+R15+R35)×La/4
第4の組合せAP4としての右下側ブロックパターンRP4の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Re=(R33+R53+R35+R55)×La/4
注目画素がB画素の時の動作を説明する。
第1の組合せAP1としての左上側ブロックパターンBP1の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Be=(B11+B31+B13+B33)×La/4
第2の組合せAP2としての右上側ブロックパターンBP2の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Be=(B31+B51+B33+B53)×La/4
第3の組合せAP3としての左下側ブロックパターンBP3の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Be=(B13+B33+B15+B35)×La/4
第4の組合せAP4としての右下側ブロックパターンBP4の組合せが選択された場合、画素加算部595は、次式の演算を行う。
Be=(B33+B53+B35+B55)×La/4
上記の例では、G画素について、画素加算を、縦、横、斜めラインパターン、ブロックパターンなど、解像度の高い被写体を含む画像を想定した組合せのパターンを使うように構成したので、相関の高い画素同士を加算に用いることができる。細かな模様や細かな凹凸を含む被写体を含むシーンを画素加算した場合でも、高解像度部分がぼやけることを防ぐ効果がある。
上記の例ではR画素とB画素については、ブロックパターンの組合せのみを用いているが、R画素とB画素の組合せとして、G画素同様に、縦、横、斜めラインパターンの組合せをも用い、これらについて相関を判定するように構成しても良い。
但し、R画素とB画素の場合は、G画素よりも加算対象の画素間の距離が長くなることから相関判定の誤判定の危険性が高まること、また回路規模が大きくなること、また人間の色の変化に対する感度が輝度よりも低いこと等を総合的に判断して組合せのパターンを決める。
また、上記の例では、注目画素に周辺の3画素を加算しているが、さらに多くの周辺の画素をも加算対象画素に含める組合せを用いることとしても良い。そのようにすれば、一層の高感度化を図ることができる。
また、G画素について、上記の12の組合せのパターンのすべてを用いず、その一部のみを用いても良い。例えば、図10(a)〜(d)に示す4つのパターンのみを用いても良く、図11(a)〜(d)に示す4つのパターンのみを用いても良く、図12(a)〜(d)に示す4つのパターンのみを用いても良い。
また、R画素とB画素のベイヤ配置に対応して面内画素加算のための組合せのパターンを1種類としても良い。その場合には後述の面間画素加算において、加算画素パターン符号が一致するか否かの判定を行わずに、画素値の相関判定のみで近傍フレームの加算対象画素を選択する。
次に、図16を参照して、面間画素加算部30の動作を説明する。
面間画素加算部30は、図16に示されるように、画素抽出部31と、信号分離部350と、加算画素選択部35と、画素加算部39とを有する。加算画素選択部35は、第1乃至第4の画素選択部351〜354を有する。
面内画素加算部20から連続するフレームの各画素についての複合信号MIXが面内画素加算部20の出力端子604から順次出力され、面間画素加算部30の入力端子605を介して画素抽出部31に順次入力される。
画素抽出部31は、入力端子605に入力された複合信号MIXを、互いに異なる期間遅延させて、互いに近傍に位置する、複数のフレーム内の複数の画素について複合信号MIXを同時に抽出する。この場合、複数のフレームのうちの中心に位置するものが注目フレームとして扱われ、注目フレーム内の一つの画素が注目画素として抽出され、他のフレームの各々から、注目フレームの注目画素と同じ位置及びその周辺に位置する、1又は2以上の画素が抽出される。従って、上記の抽出処理は、注目フレーム内の注目画素についての複合信号MIXと、注目フレームの近傍に位置するフレーム(参照フレーム)内の1又は2以上の画素(参照画素)について複合信号MIXとを同時に抽出する処理であると言うことができる。抽出されるフレーム及び画素は順次切り替わるので、上記の処理はまた、連続するフレームを順次注目フレームとして指定し、注目フレーム内の画素を順次注目画素として指定し、注目フレームの注目画素についての複合信号MIXと、注目フレームの近傍に位置するフレーム内の参照画素についての複合信号MIXとを同時に抽出する処理であると言うこともできる。
画素抽出部31は例えば、図17に示すように構成されている。
図17で、「1F−DL」は1フレーム遅延部を示し、「1L−DL」は1ライン遅延部を示し、「1D−DL」は1画素遅延部を示し、「2D−DL」は2画素遅延部を示す。
画素抽出部31は、1フレーム遅延部311〜314と、1ライン遅延部321〜329と、2画素遅延部331〜338と、1画素遅延部341〜345とを図示のように接続して構成されており、入力端子605に入力された複合信号MIXを互いに異なる時間遅延させて、互いに近傍に位置するフレーム内の画素についての複合信号を出力する。
出力される信号のうち、遅延部343から出力される信号が注目フレームF2の注目画素P33(図2)についての複合信号として用いられる。遅延部343からの信号を注目フレームF2の注目画素P33(図2)の信号とすると、このとき入力端子605に入力される複合信号MIXは、2フレーム後のフレームF0の画素P44(図2)についての複合信号MIXであり、注目フレームF2の注目画素P33についての複合信号MIXと、注目フレームF2の近傍に位置するフレームF0、F1、F3、F4内の、注目画素と同じ位置P33、及びその周辺に位置する画素P22、P42、P24、P44について複合信号MIXが同時に出力される。F1、F3、F4はそれぞれ注目フレームF0の1フレーム後のフレーム(後フレーム)、1フレーム前のフレーム(前フレーム)、2フレーム前のフレームを表す。
フレームF0の画素P44についての複合信号MIXを区別のためMIX(F2,P44)と表すことがある。他の画素についての複合信号MIXについても同様である。面内画素信号VAL、加算画素パターン符号PAT、三次元増感信号Pfについても同様である。但し、区別の必要がないときは、単に「MIX」、「VAL」、「PAT」、「Pf」で表す。
以下、画素抽出部31の各遅延部による処理を詳しく説明する。
入力端子605に入力された複合信号MIX(F0,P44)は、1フレーム遅延部311〜314で順次遅延されて、信号MIX(F1,P44)、信号MIX(F2,P44)、信号MIX(F3,P44)、信号MIX(F4,P44)となる。
入力端子605に入力された信号MIX(F0,P44)はまた2画素遅延部331で遅延されて信号MIX(F0,P24)となり、1ライン遅延部321及び1画素遅延部341で遅延されて信号MIX(F0,P33)となる。
1ライン遅延部321の出力は、1ライン遅延部322で遅延されて信号MIX(F0,P42)となり、さらに2画素遅延部332で遅延されて信号MIX(F0,P22)となる。
1フレーム遅延部311から出力された信号MIX(F1,P44)は、2画素遅延部333で遅延されて信号MIX(F1,P24)となり、1ライン遅延部323及び1画素遅延部342で遅延されて信号MIX(F1,P33)となる。
1ライン遅延部323の出力は、1ライン遅延部324で遅延されて信号MIX(F1,P42)となり、さらに2画素遅延部334で遅延されて信号MIX(F1,P22)となる。
1フレーム遅延部312から出力された信号MIX(F2,P44)は、1ライン遅延部325及び1画素遅延部343で遅延されて信号MIX(F2,P33)となる。
1フレーム遅延部313から出力された信号MIX(F3,P44)は、2画素遅延部335で遅延されて信号MIX(F3,P24)となり、1ライン遅延部326及び1画素遅延部344で遅延されて信号MIX(F3,P33)となる。
1ライン遅延部326の出力は、1ライン遅延部327で遅延されて信号MIX(F3,P42)となり、さらに2画素遅延部336で遅延されて信号MIX(F3,P22)となる。
1フレーム遅延部314から出力された信号MIX(F4,P44)は、2画素遅延部337で遅延されて信号MIX(F4,P24)となり、1ライン遅延部328及び1画素遅延部345で遅延されて信号MIX(F4,P33)となる。
1ライン遅延部328の出力は、1ライン遅延部329で遅延されて信号MIX(F4,P42)となり、さらに2画素遅延部338で遅延されて信号MIX(F4,P22)となる。
このようにして生成された信号MIX(F0,P44)〜MIX(F4,P22)のうち、信号MIX(F0,P44)〜MIX(F0,P22)は、第1の画素選択部351に供給され、信号MIX(F1,P44)〜MIX(F1,P22)は、第2の画素選択部352に供給され、信号MIX(F3,P44)〜MIX(F3,P22)は、第3の画素選択部353に供給され、信号MIX(F4,P44)〜MIX(F4,P22)は、第4の画素選択部354に供給される。
信号分離部350は、注目フレームF2の注目画素P33についての複合信号MIX(F2,P33)を、面内増感信号VAL(F2,P33)と、加算画素パターン符号PAT(F2,P33)に分離する。
信号分離部350から出力された加算画素パターン符号PAT(F2,P33)及び面内増感信号VAL(F2,P33)は、加算画素選択部35の第1乃至第4の画素選択部351〜354に供給される。
面内増感信号VAL(F2,P33)はまた、画素加算部39にも供給される。
第1の画素選択部351は、図18に示すように、パターン判別部361と相関判別部381を有する。
同様に、第2乃至第4の画素選択部352〜354は、それぞれパターン判別部362〜364と相関判別部382〜384を有する。
パターン判別部361〜364は、それぞれ画素抽出部31から出力される復号信号MIX、即ち、それぞれフレームF0、F1、F3、F4内において、注目画素位置(注目フレーム内の注目画素と同じ位置)及びその周辺の位置の画素についての複合信号MIXの各々について、加算画素パターン符号PATが、注目フレームF2の注目画素についての複合信号MIXの加算画素パターン符号PATと同じであるか否かの判定を行い、判定結果(一致/不一致情報)PAGとともに、複合信号MIXのうちの面内増感信号VALを、それぞれ対応する相関判別部381〜384へ供給する。同じ画素についての面内増感信号VALと一致/不一致情報PAGとは互いに関連付けて出力される。
相関判別部381〜384の各々は、対応するパターン判別部(361〜364のいずれか)から供給された複数の画素(注目画素位置及びその周辺の画素)についての面内増感信号VALと一致/不一致情報PAGに基づいて、複数の面内増感信号VALのいずれか一つを選択する。即ち、いずれかの一致/不一致情報PAGが「一致」を示す場合には、「一致」を示す一致/不一致情報PAGに関連付けられている(「一致」を示す一致/不一致情報PAGと同じ画素についての)面内増感信号VALのうち、注目画素の面内増感信号VALの相関が最も高いものを選択して、出力する。いずれの一致/不一致情報PAGも「一致」を示すものではない場合には、入力されたすべての面内増感信号VALのうち、注目画素についての面内増感信号VALとの相関が最も高いものを選択して、出力する。
相関は例えば差によって評価され、差が小さいほど相関が高いと判断される。従って、注目画素の面内増感信号VALとの相関が最も高い面内増感信号としては、注目画素の面内増感信号VALとの差が最も小さい面内増感信号が選択される。
ある画素についての面内増感信号VALが選択されたとき、当該画素が選択されて加算対象画素となる。
第1の画素選択部351のパターン判別部361は、図19に示すように、第1乃至第5の判別部3611〜3615を有する。第1の判別部3611は、図20に示すように、信号分離部36111と、判定部36112を有する。
信号分離部36111は、フレームF0の画素P44についての複合信号MIX(F0,P44)を受けて、面内増感信号VAL(F0,P44)と、加算画素パターン符号PAT(F0,P44)とに分離する。
判定部36112は、信号分離部36111からの加算画素パターン符号PAT(F0,P44)と信号分離部350からの加算画素パターン符号PAT(F2,P33)とを比較し、一致するか否かの判定を行い、判定結果を示す情報(一致/不一致情報)PAG(F0,P44)を出力する。
第2乃至第5の判別部3612〜3615も第1のパターン判別部3611と同様に構成され、それぞれ複合信号MIX(F0,P24)、MIX(F0,P33)、MIX(F0,P42)、MIX(F0,P22)に対して同様の処理を行って、面内増感信号VAL(F0,P24)、VAL(F0,P33)、VAL(F0,P42)、VAL(F0,P22)と、一致/不一致情報PAG(F0,P24)、PAG(F0,P33)、PAG(F0,P42)、PAG(F0,P22)を出力する。
相関判別部381は、対応するパターン判別部361から出力されたフレームF0の画素P44、P24、P33、P42、P22についての面内増感信号VAL(F0,P44)、VAL(F0,P24)、VAL(F0,P33)、VAL(F0,P42)、VAL(F0,P22)のうち、一致/不一致情報PAGにより、加算画素パターン符号PATが一致することが示されているものの中から、注目フレームF2の注目画素P33についての面内増感信号VAL(F2,P33)と最も近い値を有する面内増感信号VALを選択して当該フレームF0についての、選択された加算対象画素の面内増感信号VAL(F0)として出力する。
パターン判別部361から出力された面内増感信号VAL(F0,P44)、VAL(F0,P24)、VAL(F0,P33)、VAL(F0,P42)、VAL(F0,P22)の中に、一致/不一致情報PAGにより加算画素パターン符号が一致することが示されるものが1つもない場合、相関判別部381は、入力されたすべての面内増感信号VAL(F0,P44)、VAL(F0,P24)、VAL(F0,P33)、VAL(F0,P42)、VAL(F0,P22)の中から、注目フレームF2の注目画素P33についての面内増感信号VAL(F2,P33)と最も近い値を有する面内増感信号VALを選択してフレームF0についての、選択された加算対象画素の面内増感信号VAL(F0)として出力する。
相関判別部381から出力された面内増感信号VALは、第1の画素選択部351の出力となる。
第2乃至第4の画素選択部352〜354は、第1の画素選択部351と同様に構成されており、それぞれフレームF1、F3、F4の画素P44、P24、P33、P42、P22についての複合信号MIXに対して、第1の画素選択部351と同様の処理を行って、フレームF1、F3、F4についての、選択された加算対象画素の面内増感信号VAL(F1)、VAL(F3)、VAL(F4)を出力する。
第1乃至第4の画素選択部351〜354から出力された面内増感信号VAL(F0)、VAL(F1)、VAL(F3)、VAL(F4)は、信号分離部350から出力された面内増感信号VAL(F2,P33)とともに、画素加算部39へ供給される。
画素加算部39は、第1乃至第4の画素選択部351〜354から出力された面内増感信号VAL(F0)、VAL(F1)、VAL(F3)、VAL(F4)と、信号分離部350から出力された面内増感信号VAL(F2,P33)を加算する。
制御部12は、画素加算部39に、増感倍率Lb(Lb=1〜5)を設定しており、画素加算部39は、上記の加算に当たり、加算前の画素値に対して加算結果が所定の増感倍率Lbを有するように、加算係数を掛ける。
増感信号Pf(F2,P33)を求める演算は、下記の式で表される。
Pf(F2,P33)
={VAL(F2,P33)+VAL(F0)+VAL(F1)+VAL(F3)
+VAL(F4)}×Lb/5
この加算により、注目フレームF2の注目画素P33についての面内増感信号VAL(F2,P33)に、注目フレームF2の前後の4フレームF0、F1、F3、F4内から各々1つずつ選択された、合計4つの、注目画素と相関の高い画素についての面内増感信号VAL(F0)、VAL(F1)、VAL(F3)、VAL(F4)が加算され、面内増感信号VAL(F2,P33)を増感倍率Lbで増感した三次元増感信号Pf(F2,P33)が生成される。
生成された三次元増感信号Pfは出力端子602を介して映像信号処理部7に供給される。
面内画素加算部20の増感倍率Laと面間画素加算部30の増感倍率Lbの積が三次元画素加算部6の増感倍率Lとなる。
増感倍率Lは、例えば、被写体照度との関係で定められる。
例えば、被写体照度が第1の所定の値(高照度側基準値)以上では、増感倍率Lは1と設定され、上記第1の所定の値よりも低い第2の所定の値(低照度側基準値)以下では、増感倍率を20とし、高照度側基準値よりも低く、低照度側基準よりも高い範囲(中照度範囲)では、照度の低下とともに、増感倍率を次第に大きくする。
増感倍率Lを所望の値にするための増感倍率La、Lbの決定にあたっては、増感倍率Laと増感倍率Lbの比を一定に保つようにしても良い。代わりに、例えば、画像の動きが大きく、高い解像度がさほど必要とされないときは増感倍率Laを比較的大きくし、増感倍率Lbを比較的小さくし、逆に、画像の動きが少なく、解像度の高い画像が必要なときは増感倍率Lbを比較的大きくし、増感倍率Laを比較的小さくすることとしても良い。
面内画素加算部20における画素加算に当たり、各画素の画素値に異なる値の加算係数を掛けて加重加算を行うこととしても良い。例えば、画素加算部595における加算にあたり、増感倍率Laが1のときは、注目画素に対する加算係数を1とし、他の画素に対する加算係数を0とし、増感倍率Laが最大値、例えば4のときは、すべての画素に対する加算係数を同じ値とし、増感倍率Laが1と4の間では、増感倍率が1のときの値から、増感倍率Laが最大値のときの値へ、加算係数を連続的に変化させるようにしても良い。
同様に、面間画素加算部30における面内増感信号VALの加算に当たり、各フレームの画素の画素値に異なる値の加算係数を掛けて加重加算を行うこととしても良い。例えば、増感倍率Lbが1のときは、注目フレームの注目画素に対する加算係数を1とし、他のフレームの画素に対する加算係数を0とし、増感倍率Lbが最大値、例えば5のときは、すべての画素に対する加算係数を同じ値とし、増感倍率Lbが1と5の間では、増感倍率が1のときの値から、増感倍率Lbが最大値のときの値へ、加算係数を連続的に変化させるようにしても良い。
なお、上記の例では、面内画素加算に当たり、4倍までの増感倍率Laを設定した場合について説明したが、4倍以上に設定しても良い。4倍以上の増感倍率Laを設定する場合には、階調落ちに注意する必要がある。
同様に、面間画素加算に当たり、5倍までの増感倍率Lbを設定した場合について説明したが、5倍以上に設定しても良い。5倍以上の増感倍率Lbを設定する場合には、階調落ちに注意する必要がある。
また、上記の例では、注目フレームの注目画素に対して、注目フレームの近傍の4つのフレームから一つずつ画素を選択して、合計で5つの画素についての面内増感信号を加算しているが、加算対象とする画素の選択に用いる近傍のフレームの数は4に限定されず、例えばより多くしても良く、逆により少なくしても良く、例えば注目フレームの1つ前のフレームのみ、或いは注目フレームの1つ後のフレームのみであっても良い。
より多数の近傍のフレームの画素を加算対象画素に含めれば、一層の高感度化を図ることができる。
また、色フィルタの画素配列は、RGBベイヤ配列の場合について説明したが、水平2画素、垂直2画素の4画素の配列を基本配列としていれば、インタライン配列でも、ストライプ配列でも、Ye画素、Mg画素、G画素、Cy画素の補色配列でも、W画素を使うものでも、他のいかなる色フィルタの組合せでも、本発明は適用可能であり、同様の効果が得られる。
以上撮像画像がカラー画像である場合について説明したが、本発明は撮像画像が白黒画像である場合にも適用可能である。
色フィルタが設けられておらず、白黒画像を生成することができる撮像素子の場合は、より近傍に位置する、相関の高い画素を加算することができるので、上記と同様の考え方で加算画素を決めることで解像度の低下を防ぎながら高感度化を図ることができる。
上記の実施の形態によれば、面内画素加算と面間画素加算を合わせて行うことで、面内画素加算のみの場合、或いは面間画素加算のみの場合に比べて、総合的な増感倍率を大きくすることができる。
また、面内画素加算に当たり、注目画素に相関の高い画素を使って画素加算を行うので画像解像度の劣化を最小限に抑えつつ感度向上を実現することができる。
さらに、面間画素加算に当たり、注目フレームとの加算画素パターン符号の一致/不一致に基づいて面間画素加算のための加算対象画素を選択することとしたので、画像に動きがある場合にも、解像度を低下させることなく高感度化を図ることができる。
また、上記の例では、まず面内画素加算を行うことで面内増感信号を及び加算画素パターン符号を含む複合信号を生成し、これをフレーム遅延することで生成した信号を用いて面間画素加算を行うように構成したので、注目フレームの注目画素と相関の高い画素を用いた三次元増感を最小限の参照画素で実現でき、従って、回路規模の抑制、及び低コスト化を図ることができる。
さらにまた、同じフィルタ色の画素を加算するので、混色することなく高感度なカラー画像が得られる。
低照度時の撮像画像をアナログアンプで増幅すると信号よりもノイズが大きくなる。またデジタルアンプで増幅すると階調落ちが発生する。上記の例で説明したように本発明は、空間的又は時間的に注目画素の近くに位置し、相関の高い画素を用いた画素加算で高感度化を行うので信号よりもノイズが相対的に小さくなる。例えば2画素加算すると信号成分は2倍になり、ノイズ成分は二乗根倍になり、相対的に純粋な信号成分が大きくなる。
また、画素加算を撮像素子から出力された直後に(即ち映像信号処理部7による処理の前に)行うことにより、映像信号処理の影響を受けずに、画素加算による高感度信号の生成を行うことができる。映像信号処理の後段で画素加算を行うと、近傍に位置する画素を使った演算である色同時化処理や、フィルタ処理が施されているので、水平解像度や垂直解像度の低下が想定よりも大きい。また、小振幅信号のまま、映像信号処理を行うので階調落ちの可能性がある。画素加算を撮像素子から出力された直後に(映像信号処理の前に)行うことにより、画像情報が損なわれる前に、画素加算して信号振幅を回復できるので、画像の細部の視認性が向上する効果がある。
また映像信号処理部7による映像信号処理では非線形なフィルタ処理や階調変換処理が行われているので、低振幅信号を入力した場合、信号振幅が失われている場合がある。このため、映像信号処理の出力信号を2画素加算しても、2倍の画像信号にならない可能性がある。上記した例では映像信号処理前に画素加算するように構成したので、2画素加算したら、2倍の画像信号になる効果がある。
さらにまた、フレーム周波数の低下を防止乃至抑制することができるので、動解像度の劣化はなく、水平解像度、垂直解像度の劣化は最小に抑えることができる。
実施の形態2.
上記の実施の形態1では、面間画素加算に当たり、注目フレームF2に対して1フレーム離れた(1フレーム期間後及び1フレーム期間前の)フレームF1、F3と、2フレーム離れた(2フレーム期間後及び2フレーム期間前の)フレームF0、F4のいずれについても注目フレームF2の加算画素パターン符号PATとの一致/不一致、及び注目フレームF2の面内増感信号VALとの相関に基づいて加算対象画素を選択している。
代わりに、注目フレームF2から2フレーム離れたフレームF0、F4では、注目フレームの注目画素ではなく、注目フレームの側で隣接するフレーム(直後又は直前のフレーム)F1、F3で加算対象画素として選択した画素との、加算画素パターン符号PATとの一致/不一致、及び面内増感信号VALとの相関に基づいて加算対象画素を選択することとしても良い。
具体的には、注目フレームF2の注目画素についての加算画素パターン符号PATと面内増感信号VALを参照して前フレームF3の加算対象画素を選択し、前フレームF3の加算対象画素についての加算画素パターン符号PATと面内増感信号VALを参照してさらに前のフレームF4の加算対象画素を選択する。
同様に、注目フレームF2の注目画素についての加算画素パターン符号PATと面内増感信号VALを参照して後フレームF1の加算対象画素を選択し、後フレームF1の加算対象画素についての加算画素パターン符号PATと面内増感信号VALを参照してさらに後のフレームF0の加算対象画素を選択する。
上記のようにして選択された、前後のフレームF0、F1、F3、F4の加算対象画素についての面内増感信号VALを注目フレームF2の面内増感信号VALに加算する。
このような処理を行うため、本実施の形態では、図18の加算画素選択部35の代わりに、図21に示される加算画素選択部35bが用いられる。
図21の加算画素選択部35bは図18の加算画素選択部35と概して同じであるが、図18の画素選択部351〜354の代わりに、画素選択部651〜654を備えている。
画素選択部651〜654は、それぞれパターン判別部661〜664及び相関判別部681〜684を有する。
パターン判別部662及び663は、図18のパターン判別部362及び363と概して同じであるが、それぞれの近傍フレームF1、F3内の画素についての面内増感信号VAL、及び一致/不一致情報PAGに加えて、加算画素パターン符号PATをも出力する。
具体的には、パターン判別部662は、図22に示すように、判別部6621〜6625を有し、面内増感信号VAL(F1,P44)〜VAL(F1,P22)及び一致/不一致情報PAG(F1,P44)〜PAG(F1,P22)に加えて、加算画素パターン符号PAT(F1,P44)〜PAT(F1,P22)をも出力する。
そのため、判別部6621〜6625の各々は以下のように構成されている。
例えば、判別部6621は、図23に示されるように、信号分離部66211と判定部66212を備える。
信号分離部66211は、図20の信号分離部36111と同様に構成されており、複合信号MIX(F1,P44)を面内増感信号VAL(F1,P44)と加算画素パターン符号PAT(F1,P44)とに分離する。
信号分離部66211から出力された加算画素パターン符号PAT(F1,P44)は、判定部66212に供給されるのみならず、相関判別部682に出力される。
判定部66212は図20の判定部36112と同様に構成されており、加算画素パターン符号PAT(F2,P33)と信号分離部66211から供給された加算画素パターン符号PAT(F1,P44)との一致/不一致の判定を行って、一致/不一致情報PAG(F1,P44)を出力する。
他の判別部6622〜6625も同様に構成され、面内増感信号VAL(F1,P24)〜VAL(F1,P22)及び一致/不一致情報PAG(F1,P24)〜PAG(F1,P22)に加えて加算画素パターン符号PAT(F1,P24)〜PAT(F1,P22)を相関判別部682に出力する。
相関判別部682は、パターン判別部662から供給されたフレームF1内の画素についての面内増感信号VAL(F1,P44)〜VAL(F1,P22)、及び一致/不一致情報PAG(F1,P44)〜PAG(F1,P22)と、信号分離部350から供給された、注目フレームF2の注目画素P33についての面内増感信号VAL(F2,P33)に基づいて、フレームF1の加算対象画素を選択して、選択された画素についての面内増感信号を、フレームF1についての選択された面内増感信号VAL(F1)として相関判別部681に出力する。
これとともに、選択された画素についての加算画素パターン符号PAT(F1)をパターン判別部661に供給する。
パターン判別部661は、図24に示されるように、判別部6611〜6615を有し、注目画素についての加算画素パターン符号PAT(F2,P33)の代わりに、フレームF1から選択された画素についての加算画素パターン符号PAT(F1)を用いて、画素抽出部21から供給されたフレームF0の画素についての加算画素パターン符号と一致するか否かの判定を行って、判定結果を示す一致/不一致情報PAG(F0,P44)〜PAG(F0,P22)を出力する。
そのため、判別部6611〜6615の各々は以下のように構成されている。
例えば、判別部6611は、図25に示されるように、信号分離部66111と判定部66112を備える。
信号分離部66111は、図20の信号分離部36111と同様に構成されており、複合信号MIX(F0,P44)を面内増感信号VAL(F0,P44)と加算画素パターン符号PAT(F0,P44)とに分離する。
判定部66112は、図20の判定部36112と同様に構成されているが、加算画素パターン符号PAT(F2,P33)の代わりに、加算画素パターン符号PAT(F1)を用いて、信号分離部66111から供給された加算画素パターン符号PAT(F0,P44)との一致/不一致の判定を行って、一致/不一致情報PAG(F0,P44)を出力する。
他の判別部6612〜6615も同様に構成され、面内増感信号VAL(F2,P24)〜PAG(F2,P22)及び一致/不一致情報PAG(F2,P24)〜PAG(F2,P22)を相関判別部681に出力する。
相関判別部681は、信号VAL(F2,P33)の代わりに、信号VAL(F1)を用いて、対応するパターン判別部661から供給された信号VAL(F0,P44)〜VAL(F0,P22)との相関を算出して、加算対象画素を選択して、選択された画素についての面内増感信号VALを当該フレームF0についての選択された面内増感信号VAL(F0)として出力する。
パターン判別部663及び相関判別部683は、パターン判別部662及び相関判別部682と同様に構成され、信号分離部350から、注目フレームの注目画素についての加算画素パターン符号PAT(F2,P33)及び面内増感信号VAL(F2,P33)を受け、画素抽出部21からの、フレームF3の複合信号MIX(F3,P44)〜MIX(F3,P22)に対して同様の処理を行って、フレームF3についての面内増感信号VAL(F3)を出力する。
パターン判別部664及び相関判別部684は、パターン判別部661及び相関判別部681と同様に構成され、相関判別部683から、フレームF3の選択された画素についての加算画素パターン符号PAT(F3)及び面内増感信号VAL(F3)を受け、画素抽出部21からの、フレームF4の複合信号MIX(F4,P44)〜MIX(F4,P22)に対して同様の処理を行って、フレームF4についての面内増感信号VAL(F4)を出力する。
以上のような処理を行うことで、画像の動き考慮した加算対象画素の選択をより適切に行うことができ、動きぼけによる解像度低下を抑制することができる。
以上、注目フレームの近傍のフレームが注目フレームに隣接する2つのフレームと、注目フレームから2フレーム離れた2つのフレームから成る場合について説明したが、注目フレームから3フレーム以上離れたフレームが含まれる場合にも本実施の形態を適用することができる。
この場合、各フレームについては、それに対して注目フレーム側で隣接する他のフレームについての加算画素パターン符号PAT及び面内増感信号VALを用いて当該フレームにおける画素の選択を行う。
即ち、パターン判別部が、各フレーム(例えば注目フレームからmフレーム(mは正の整数)離れたフレーム)内の画素についての加算画素パターン符号PATが、当該フレームに対して注目フレーム側で隣接する他のフレーム(注目フレームから(m−1)フレーム離れたフレーム)において選択された画素についての加算画素パターン符号PATと一致するか否かの判定を行い、相関判別部が、当該フレーム(注目フレームからmフレーム離れたフレーム)内の画素についての面内増感信号VALと、当該フレームに対して注目フレーム側で隣接する他のフレーム(注目フレームから(m−1)フレーム離れたフレーム)において選択された画素についての面内増感信号VALとの相関性と、上記パターン判別部での判定結果とに基づいて、当該フレーム内において、注目画素位置及びその周辺位置する画素のうちのいずれかを選択することとすれば良い。
実施の形態3.
上記の実施の形態1では、面内画素加算部20が信号結合部24を有して、複合信号MIXを出力し、面間画素加算部30の画素抽出部31が、複合信号MIXを互いに異なる時間だけ遅延させて注目フレームの注目画素及び近傍フレームの注目画素位置及びその周辺の位置の画素についての複合信号MIXを同時に抽出しているが、面内画素加算部20が信号結合部24を有さず、加算画素パターン符号PAT及び面内増感信号VALを結合せずに(但し互いに関連付けて)出力し、図26に示される面間画素加算部30bを用いることとしても良い。
図26の面間画素加算部30bは図16の面間画素加算部30と概して同じであるが、図16の画素抽出部31の代わりに、加算画素パターン符号PATを互いに異なる時間だけ遅延させて注目フレームの注目画素及び近傍フレームの注目画素位置及びその周辺の位置の画素についての加算画素パターン符号PAT(F0,P44)〜PAT(F4,P22)を同時に抽出するパターン符号抽出部31pを有するとともに、面内増感信号VALを互いに異なる時間だけ遅延させて注目フレームの注目画素及び近傍フレームの注目画素位置及びその周辺の位置の画素についての面内増感信号VAL(F0,P44)〜VAL(F4,P22)を同時に抽出する面内増感信号抽出部31vを備える。
また、面間画素加算部30内の信号分離部350(図16)は用いられず、加算画素選択部35の代わりに加算画素選択部35cが用いられる。
加算画素選択部35cは、図18の加算画素選択部35と同様のものであるが、パターン判別部361〜364の各々の判別部(図19の判別部3611〜3615に相当するもの)に信号分離部(図20の符号36111)が設けられておらず、パターン符号抽出部31pから供給される近傍フレームの各画素についての加算画素パターン符号PATと、注目フレームの注目画素についての加算画素パターン符号PATとを、判定部(図20の判定部36112に相当するもの)で比較して比較結果を出力する。
実施の形態4.
上記の実施の形態1において、固体撮像素子として図1のようにCCD撮像素子2を使った構成について説明したが、2次元イメージセンサであればCCD撮像素子に限らず、CMOS撮像素子でも、どのようなものでも良い。またインターライントランスファーCCDに限らず、フレームトランスファーCCDでもフレームインターライントランスファーCCDであっても良い。
図27に、CMOS撮像素子14を使った構成を示す。CMOS撮像素子は、撮像機能単体のデバイスの場合もあるし、周辺機能を集積したデバイスの場合もある。
図27は、周辺機能を集積したCMOS撮像素子の場合について示す。
図1のCCD撮像素子2、相関二重サンプリング処理部3、プログラマブル利得増幅部4、A/D変換部5、タイミング発生部10の持つ機能は、CMOS撮像素子14の中に含まれており、CMOS撮像素子14のみにより、図1の撮像信号生成部13と同等の機能を有するもの、即ち被写体の撮像による撮像の結果得られる複数の色成分の撮像信号を生成する撮像信号生成部13bが構成されている。
実施の形態5.
図28は本発明の実施の形態5による撮像装置を示す。図28において、検波部15が付加されていること、及び図1の制御部12の代わりに制御部12bが設けられている点を除き、実施の形態1の説明と同様であり、同様な効果を奏する。
検波部15は、三次元画素加算部6から出力された信号Pfの大きさを検波し、信号振幅のレベル、例えば平均レベルの検出値ASAを求め、照度情報として出力する。
検波部15は、上記の検波において、全有効画素の画素値の総和を全有効画素数で除算することで信号振幅の平均レベルの算出値ASAを求める。
このような平均レベルの算出は、例えば垂直走査周期毎に行われ、例えば積分処理と割算処理とにより実行される。上記のようにして求められる信号振幅の平均レベルの「算出値」を、信号振幅の平均レベルの「検出値」とも言う。
なお、上記の信号振幅の平均レベル算出における全有効画素数での除算は、画素数が2のn乗(nは整数)で与えられるときは、デジタル値のビットシフト処理で実現しても良い。また全有効画素数は、同じシステムでは定数であるので全有効画素数の除算を省略しても良い。
制御部12bは、実施の形態1の制御部12と同様であるが、以下のように付加的な機能を有する。即ち、制御部12bは、検波部15から供給された信号振幅の平均レベルの検出値ASAに基づいて、レンズ1の絞りの制御、タイミング発生部10が発生するCCD撮像素子2の光電変換素子からの電荷読出しタイミング及び電荷強制排出タイミングの制御(従って、電荷蓄積時間、即ち露光時間の制御)、プログラマブル利得増幅部4の増幅利得の制御、並びに三次元画素加算部6の画素加算処理の制御を行う。
さらに、映像信号処理部7は、垂直走査周期毎に三次元画素加算部6の出力に含まれるノイズのレベルを算出し、制御部12bへ供給する。
なお、検波部15は、信号振幅の平均レベルの算出及びノイズレベルの算出を、垂直走査周期毎に行う代わりに、検波部15及び映像信号処理部7内部の信号処理時間並びに検波部15及び映像信号処理部7から制御部12bへの伝送時間を考慮して、数回の垂直走査に1回だけ行うようにしても良い。
また、検波部15は、信号振幅の平均レベルを算出する代わりに、信号振幅のピーク検波とする場合もある。検波部15の出力は、着目する被写体の視認性が高くなるように生成する。例えば、ハイライト部分を白く飽和させたくない場合は、ピーク検波とし、ハイライト部分が白く飽和しても中間階調がはっきり見えれば良い場合は、平均値検波とする。
以下で詳しく述べるように、三次元画素加算部6による感度制御も露光制御の一環として制御できるので、照度環境が変化しても、常に最適な条件で被写体を視認できる画像が得られる効果がある。また、三次元画素加算部6で、加算係数を変えることで、信号振幅を調整することも可能である。
制御部12bは、検波部15から得られる信号振幅の平均レベルの検出値ASAが一定となるように自動露光制御を行う。明るい環境での撮像で上記信号振幅が大きい時、制御部12bは、レンズ1の開口を絞るように制御してCCD撮像素子2への入射光量を減らしたり、タイミング発生部10による電荷強制排出タイミングの調整で、CCD撮像素子2の光電変換素子に蓄積される電荷を強制排出するように制御して露光時間を減らしたりする。
暗い環境での撮像で上記信号振幅が小さくなってきた時、制御部12bは、プログラマブル利得増幅部4の増幅利得を増やすように制御して撮像信号を増幅する。しかしながら、上記増幅利得が大き過ぎるとノイズが目立つようになり画質が低下する。他の方法として、制御部12bは、CCD撮像素子2の光電変換素子からの電荷読出しを垂直走査周期単位で間引くように制御することにより露光時間を延ばすこともできる。しかしながら、露光時間が長すぎると動く被写体が残像となり画質が低下する。さらに垂直走査周期単位で欠落する画像の補間(フレーム補間)を行なう部が必要になる。
実施の形態1と同様に、本実施の形態の制御部12bは、三次元画素加算部6への増感倍率Lを変更することができ、例えば1倍から20倍に設定する。増感倍率Lの設定(調整)は、検波部15からの照度情報並びに露光パラメータに基づいて行われる。設定された増感倍率Lに基づいて、面内画素加算での増感倍率La及び面間画素加算での増感倍率Lbが定められる。
実施の形態1で述べたように、設定された増感倍率Laに応じて面内画素加算部20の画素加算部595での画素加算に用いられる加算係数が調整され、設定された増感倍率Lbに応じて面間画素加算部30の画素加算部39での画素加算に用いられる加算係数が調整される。従って、照度情報に基づいて面内画素加算における加算係数及び面間画素加算における加算係数が調整される。
以下、被写体照度が変化したときの感度調整のための手順の一例を説明する。まず、露光時間は一定値(標準露光時間)Trに維持するものとして説明する。
被写体照度が徐々に暗くなり、信号振幅の平均レベルの検出値ASAが下がってくると(図29(e))、レンズ1の絞りを開放方向に制御して(図29(a)の範囲Sa)、信号振幅の平均レベルを維持する。ここで、「信号振幅の平均レベルを維持する」とは、三次元画素加算部6の出力の信号振幅の平均レベル、従って検波部15の出力で表される、信号振幅の平均レベルASAを維持することを意味する。
レンズ1の絞りが開放(全開)になった後は、プログラマブル利得増幅部4の増幅利得を増やすように制御して(図29(b)の範囲Sb)、信号振幅の平均レベルを維持する。プログラマブル利得増幅部4の増幅利得が大きくなり、増幅利得の所定の上限値UGLよりも大きくなった後は、三次元画素加算部6の増感倍率Lを大きくなるように制御して(図29(c)の範囲Sc)、信号振幅の平均レベルを維持する。
増感倍率Lの制御による平均レベルASAの維持は、増感倍率Lが最大値(L=20)となるまで可能である。それよりもさらに被写体照度が低下すると、平均レベルASAは低下を開始する。
標準露光時間Trにおいて、レンズ絞りを開放とし、増幅利得を最大とし、増感倍率Lが1であるときに三次元画素加算部6の出力が所定のレベルとなる照度HLを高照度側基準値とし、高照度基準値HLの1/20の照度、即ち、標準露光時間Trにおいて、レンズ絞りを開放とし、増幅利得を最大とし、増感倍率Lが20であるときに三次元画素加算部6の出力が所定のレベルとなる照度LLを、低照度側基準値とする。
被写体照度が徐々に明るくなって、低照度側基準値LL以上となり、信号振幅の平均レベルの検出値ASAが上がろうとすると、三次元画素加算部6の増感倍率Lを減らすように制御して(図29(c)の範囲Sc)、信号振幅の平均レベルASAを維持する。増感倍率Lが1倍まで小さくなると、次にプログラマブル利得増幅部4の増幅利得を減らすように制御して、信号振幅の平均レベルASAを維持する。プログラマブル利得増幅部4の増幅利得が減少し(図29(b)の範囲Sb)、所定の下限値LGLよりも小さくなった後は、レンズ1の絞りを遮光方向に制御して(図29(a)の範囲Sa)、信号振幅の平均レベルを維持する(図29(e))。さらに照度が高くなると、平均レベルASAは上昇する。
以上の制御を行う結果、図29(e)に実線で示すように、下限LLから上限ULまでの範囲において、信号振幅の平均レベルASAを一定に保つことができる。
なお、露光時間を一定としたが、被写体の照度に応じて露光時間をも制御しても良い。例えば、照度が低下して、増感倍率Lが最大値になってもなおも、信号振幅が十分な値とならないときに、露光時間を長くすることとしても良い(図29(d)の範囲Sd)。逆に、照度が高くなり、絞りを最大に絞っても(F値を最も高くしても)、信号振幅が大きすぎる場合には、露光時間を短くしても良い(図29(d)の範囲Se)。
このような露光時間の制御を加えると、図29(e)に点線で示すように、下限LLeから上限ULeまでの範囲において、信号振幅の平均レベルASAを一定に保つことができる。
上記増幅利得の所定の上限値UGLは、映像信号処理部7で検出されるノイズレベルの検出値ANLに基づいて決まる。(被写体照度が低下し、それに伴い撮像素子2の出力のS/Nが低下した場合に増幅利得を増加させる必要があることを考慮し、)ノイズレベルの検出値ANLが信号振幅の平均レベルの検出値ASAに対して所定のノイズ割合(第1の所定のノイズ割合、即ち許容上限値)NPR1に達したときのプログラマブル利得増幅部4の増幅利得を上記所定の上限値UGLとする。上記第1の所定のノイズ割合NPR1は例えば1/50と定められる。
ノイズレベルの算出値ANLは、ノイズ低減処理によりノイズ成分を抽出し、全有効画素範囲のノイズ成分の絶対値の総和を全有効画素数で除算することで求まる。ノイズ低減処理により、入力信号のノイズを低減したノイズ低減信号NRSが得られる。上記入力信号(映像信号処理部7内でノイズ低減処理を行う前の信号)から上記ノイズ低減信号NRSを減算することでノイズ成分を抽出できる。上記のようにして求められるノイズレベルの「算出値」を、「検出値」と言うことがある。
用途によって被写体の視認にあたり許容できるノイズレベルは異なるため、上記第1の所定のノイズ割合NPR1は、S/Nを重視するか、画像解像度を重視するか等、撮像装置の用途によって変わる。制御部12bは、プログラマブル利得増幅部4に設定している利得、及び検波部15から制御部12bへ供給されるノイズレベルの検出値ANLを観測しながらダイナミックに上記増幅利得の所定の上限値UGLを決めてプログラマブル利得増幅部4及び三次元画素加算部6を制御することとしても良く、撮像装置を工場から出荷する前にノイズレベルの検出値ANLが信号振幅の平均レベルの検出値ASAに対して第1の所定のノイズ割合NPR1に達する増幅利得を測定し、上記所定の上限値UGLとして、撮像装置の電源を切っても記憶内容を保持できる記憶部(不揮発性のメモリ、電池でバックアップされた揮発性のメモリなど)16に書込み、制御部12bは上記増幅利得の所定の上限値UGLを参照してプログラマブル利得増幅部4及び三次元画素加算部6を制御するようにしても良い。
上記増幅利得の所定の下限値LGLは、映像信号処理部7から制御部12bへ供給されるノイズレベルの検出値ANLに基づいて決まる。ノイズレベルの検出値ANLが信号振幅の平均レベルの検出値ASAに対して所定のノイズ割合(第2の所定のノイズ割合)NPR2を下回ったときのプログラマブル利得増幅部4の増幅利得を上記所定の下限値LGLとする。上記第2の所定のノイズ割合は、上記第1の所定のノイズ割合NPR1と三次元画素加算部6による感度倍率(20倍)に基づいて決める。例えば、上記第2の所定のノイズ割合NPR2は、1/1000(=(1/50)×(1/20))と定められる。
用途によって被写体の視認にあたり許容できるノイズレベルは異なるため、上記第2の所定のノイズ割合NPR2は、S/Nを重視するか、画像解像度を重視するか等、撮像装置の用途によって変わる。制御部12bは、プログラマブル利得増幅部4に設定している利得、及び検波部15から制御部12bへ供給されるノイズレベルの検出値ANLを観測しながらダイナミックに上記増幅利得の所定の下限値LGLを決めてプログラマブル利得増幅部4及び三次元画素加算部6を制御することとしても良く、撮像装置を工場から出荷する前にノイズレベルの検出値ANLが信号振幅の平均レベルの検出値ASAに対して第2の所定のノイズ割合NPR2に達する増幅利得を測定し、上記所定の下限値LGLとして、撮像装置の電源を切っても記憶内容を保持できる記憶部16に書込み、制御部12bは上記増幅利得の所定の下限値LGLを参照してプログラマブル利得増幅部4及び三次元画素加算部6を制御するようにしても良い。
制御部12bは、レンズ1の絞り、CCD撮像素子2の露光時間、プログラマブル利得増幅部4の増幅利得、三次元画素加算部6における画素加算による信号振幅調整機能を制御して信号振幅の平均レベル(三次元画素加算部6の出力の信号振幅の平均レベル)を維持する。
以上のような制御を行っているので、検波部15の出力に対し、露光制御パラメータに基づく逆算を行うことで得られる換算値は、被写体の照度に対応した値である。即ち、そのような逆算によって得られた照度が高照度側基準値以上か、低照度側輝度値以下か、それらの基準値の間の範囲にあるかを判断し、判断結果に応じ画素加算の制御(増感感度の調整)を行うことができる。
上記のように構成したので、露光制御の中で、絞り制御、増幅利得制御、画素加算制御、露光時間制御を順番に切替えることで、視認性の良い最適な明るさの画像を出力することができる効果がある。
また、画素加算部において、加算する画素の数ではなく加算係数で増感倍率を設定できるように構成し、増感倍率Lを整数に限らず小数を含む値で設定できることとしたので、露光制御の中で、画素加算制御も加算係数を小数点以下の値をも使ってシームレスに切替えられ、照度変化の過程で、画像の明るさが急変することなく見やすい画像が出力できる効果がある。
実施の形態6.
図30は本発明の実施の形態6による撮像装置を示す。図30において、測光部17が付加されている点、及び制御部12の代わりに制御部12cが設けられている点を除き、実施の形態1と同様であり、同様な効果を奏する。
測光部17は、レンズ1への光の入射方向の被写体照度を測光する。測光部17の照度センサ(図示せず)の取り付け及び位置決めはレンズの光軸に基づいて決められ、レンズ1が撮像する被写体の照度を測光する。
制御部12cは、実施の形態1の制御部12と同様であるが、以下のように付加的な機能を有する。即ち、制御部12cは、測光部17から供給された照度値に基づいて、レンズ1の絞りの制御、タイミング発生部10が発生するCCD撮像素子2の光電変換素子からの電荷読出しタイミング及び電荷強制排出タイミングの制御(従って、電荷蓄積時間、即ち露光時間の制御)、プログラマブル利得増幅部4の増幅利得の制御、並びに三次元画素加算部6の画素加算処理の制御を行う。
制御部12cは、記憶部16内に保持されている設定値テーブルに従って、レンズ1の絞り、CCD撮像素子2の露光時間、プログラマブル利得増幅部4の増幅利得、三次元画素加算部6の増感倍率の設定を行う。
設定値テーブルには、照度値ごとにレンズ1の絞り、CCD撮像素子2の露光時間、プログラマブル利得増幅部4の増幅利得、三次元画素加算部6の増感倍率が登録されている。
照度が明るいときは、撮像素子2の露光時間はフレームレートに基づく標準露光時間Trに、プログラマブル利得増幅部4の増幅利得は1倍に、三次元画素加算部6の増感倍率Lは1倍に設定してレンズ1の絞りを絞っていく(図29(a)の範囲Sa)。レンズ1が最大絞りになって照度がさらに明るくなると、撮像素子2の露光時間を標準露光時間Trから短く制御する(図29(d)の範囲Se)。
照度が暗くなると、撮像素子2の露光時間はフレームレートに基づく標準露光時間Trに、プログラマブル利得増幅部4の増幅利得は1倍に、三次元画素加算部6の増感倍率Lは1倍に設定してレンズ1の絞りを開いていく(図29(a)の範囲Sa)。レンズ1が絞り開放になって照度がさらに暗くなると、プログラマブル利得増幅部4の増幅利得を1倍から大きくしていく(図29(b)の範囲Sb)。プログラマブル利得増幅部4の増幅利得が、上記の上限値(三次元画素加算部6の出力に含まれるノイズのレベルが上記の第1の所定の割合に達したときの増幅利得の値、即ち、該ノイズレベルが上記の第1の所定の割合(許容範囲の上限値)を超えないという条件を満たす最大利得値)となって照度がさらに暗くなると、三次元画素加算部6の増感倍率を1倍から大きくしていく(図29(c)の範囲Sc)。さらに暗くなると、露光時間を長くする(図29(d)の範囲Sd)。
上記のように構成したので、露光制御の中で、絞り制御、増幅利得制御、画素加算制御及び露光時間制御を順番に切替えることで、視認性の良い最適な明るさの画像を出力することができる効果がある。
また、画素加算部において、加算する画素の数ではなく加算係数で増感倍率を設定できるように構成し、増感倍率Lを整数に限らず小数を含む値で設定できることとしたので、露光制御の中で、画素加算制御も加算係数を小数点以下の値をも使ってシームレスに切替えられ、照度変化の過程で、画像の明るさが急変することなく見やすい画像が出力できる効果がある。
なお、実施の形態5及び6において、増感倍率を最大にしても信号振幅が十分でない場合に露光時間を長くする旨説明したが、これはフレームレートが変わらないようにすることを優先した結果である。フレームレートよりも解像度を重視する場合には、露光時間を長くする制御を先に行い、露光時間を(例えば所定の値まで)長くしても信号振幅が十分でない場合に増感倍率を大きくすることとしても良く、増感倍率を大きくする制御と露光時間を長くする制御を平行して行っても良い。