以下、本発明に係る実施の形態について図面を参照しつつ説明する。
実施の形態1.
図1は、本発明に係る実施の形態1の撮像装置1の概略構成を示すブロック図である。図1に示されるように、撮像装置1は、撮像光学系(レンズ機構)11、CCD画像センサ12、フロントエンド部13、画素加算回路(ADD)14、映像信号処理回路(ISP:Image Signal Processor)15、駆動回路(DRV)16、タイミング発生回路(TG:Timing Generator)17、同期信号発生回路(SSG:Synchronization Signal Generator)18及びMPU(MicroProcessing Unit)19を備える。撮像光学系11は、前側レンズ110、開口絞り111及び後側レンズ112を有する。
また、CCD画像センサ12は、単板式の固体撮像素子であり、単一の色フィルタアレイ121と単一のCCD素子122とを有する。色フィルタアレイ121は、互いに異なるN個の波長域の色の光をそれぞれ透過させるN種類の色フィルタ(Nは2以上の正整数)を周期的に且つ面状に配列してなるものであればよい。本実施の形態では、色フィルタアレイ121の色フィルタ配列として原色系のベイヤ配列を使用するが、これに限定されるものではなく、補色系のベイヤ配列を使用してもよい。CCD素子122の2次元配列の複数の受光素子(フォトダイオード)上に複数の色フィルタがそれぞれ配置されている。これら受光素子は、入射光を検出して信号電荷を発生させる光電変換素子である。
図1において、撮像光学系(レンズ機構)11は、被写体の光学像をCCD画像センサ12の撮像面上に合焦させる。CCD画像センサ12で光電変換して得られた撮像信号は、フロントエンド部13に転送される。フロントエンド部13は、相関二重サンプリング(CDS:Correllated Double Sampling)処理回路13C、プログラマブル利得増幅回路(PGA:Programmable Gain Amplifier)13P及びA/D変換器(ADC)13Aからなる。CDS処理回路13Cは、CCD画像センサ12から出力される撮像信号からノイズなどの不要な成分を除去する。プログラマブル利得増幅回路13Pは、CDS処理回路13Cの出力信号を、制御回路であるMPU(MicroProcessing Unit)19から出力された制御信号によって制御された利得で増幅して出力する。A/D変換器13Aは、プログラマブル利得増幅回路13Pの出力信号をデジタル信号に変換する。
画素加算回路14は、制御端子INcと同期信号入力端子INsを有する。MPU19からは制御信号CONTが制御端子INcを介して供給され、同期信号発生回路18からは水平同期信号HDと垂直同期信号VDとが同期信号入力端子INsを介して供給されている。画素加算回路14は、A/D変換器13Aのデジタル出力を加算する機能を有する。
映像信号処理回路15は、画素加算回路14の出力信号に、色同時化処理、階調補正処理、ノイズ低減処理、輪郭補正処理、白バランス調整処理、信号振幅調整処理及び色補正処理などを施して得られる映像信号を映像信号出力端子OUTから出力する。
同期信号発生回路18は、垂直同期信号VD及び水平同期信号HDを生成して画素加算回路14、映像信号処理回路15及びタイミング発生回路17に供給する。
タイミング発生回路17はCCD画像センサ12の駆動タイミング信号DRTを発生して駆動回路16に供給する。駆動回路16は、タイミング発生回路17から出力された駆動タイミング信号DRTに応じてCCD画像センサ12の駆動信号DRSを生成する。CCD画像センサ12は、駆動回路16から出力された駆動信号DRSに基づいて、光電変換及び電荷転送を行う。
MPU19は、撮像光学系11の開口絞り(光量を調整するための絞り)111の制御、タイミング発生回路17が発生するCCD画像センサ12の光電変換素子からの電荷読出しタイミング及び電荷強制排出タイミングの制御(従って、露光時間の制御)、プログラマブル利得増幅回路13Pの増幅利得の制御、並びに画素加算回路14の画素加算処理の制御を行う。
図2は、実施の形態1の画素加算回路14の構成の一例を概略的に示すブロック図である。図2に示されるように、画素加算回路14は、1フレーム遅延回路31,32、遅延回路34,35,36,37,38、画素加算部20、面内パターン検出回路50及び参照パターン検出回路70を有する。以下、図2を参照しつつ、画素加算回路14の動作を説明する。
A/D変換器13Aから出力されたR画素値(赤色の色フィルタを透過した光から生成された画素の値)、G画素値(緑色の色フィルタを透過した光から生成された画素の値)及びB画素値(青色の色フィルタを透過した光から生成された画素)を含む撮像信号F3が入力端子INaに印加され、ノイズ低減回路40の空間フィルタ43と1フレーム遅延回路31と遅延回路36とへ供給される。1フレーム遅延回路31は、撮像信号F3を1フレーム期間遅延させたフレーム遅延信号F2を、ノイズ低減回路40の空間フィルタ42と1フレーム遅延回路32と遅延回路35へ供給する。1フレーム遅延回路32は、フレーム遅延信号F2を1フレーム期間遅延させたフレーム遅延信号F1をノイズ低減回路40の空間フィルタ41と遅延回路34へ供給する。空間フィルタ43は、フレーム遅延信号F3のノイズを低減したフィルタ信号NR3を出力する。空間フィルタ42は、フレーム遅延信号F2のノイズを低減したフィルタ信号NR2を出力する。空間フィルタ41は、信号F1のノイズを低減した信号NR1を出力する。図3は、空間フィルタ41,42,43と同じ回路構成を有する空間フィルタ4xの構成を概略的に示す図である。図4(A),(B)に示されるように、空間フィルタ4xの遅延回路420は、フレーム遅延信号F1,F2,F3のいずれかであるフレーム遅延信号Fxのフレーム画像中の任意の5×5画素領域をサンプリングする。遅延回路420は、サンプリングされた5×5画素領域内の複数画素の画素値を乗算回路461〜485に並列に出力する。乗算回路461〜485は、入力される画素値にフィルタ係数K33〜K37,K43〜K47,K53〜K57,K63〜K67,K73〜K77を乗算する。総和演算回路490は、乗算回路461〜485の出力値(重み付き画素値)を加算して出力端子402から出力する。
図2を参照すると、面内パターン検出回路50は、前記空間フィルタ42でノイズが低減されたフィルタ信号NR2の相関の高い画素領域を検出(判別)して、検出した画素領域の画素位置を画素加算部20へ通知するとともに、参照パターン検出回路70内の前方参照パターン検出回路(空間判別回路)71及び後方参照パターン検出回路(空間判別回路)72へ通知する。同時に、前記画素領域における最大画素値と最小画素値を前方参照パターン検出回路71及び後方参照パターン検出回路72へ供給する。図5は、この面内パターン検出回路50の構成を示すブロック図である。図6は、図5の面内パターン検出回路50に含まれる遅延回路520の構成を概略的に示す図であり、図7(A),(B)は、遅延回路520でサンプリングされるフレーム画像中の任意の5×5画素領域を示す図である。また、図8は、図5の面内パターン検出回路50に含まれる演算回路600の構成を概略的に示すブロック図である。面内パターン検出回路50の詳細については後述する。
図2を参照すると、遅延回路38は、空間フィルタ43の出力である信号NR3を所定時間遅延させて信号NR3Dを出力する。遅延回路38の所定の遅延時間は、面内パターン検出回路50での処理遅延時間に基づいて決められる。遅延回路37は、空間フィルタ41の出力である信号NR1を所定時間遅延させてフレーム遅延信号NR1Dを出力する。遅延回路37の所定の遅延時間は、面内パターン検出回路50での処理遅延時間に基づいて決められる。
遅延回路36は、撮像信号F3を所定時間遅延させて信号F3Dを出力する。遅延回路36の所定の遅延時間は、空間フィルタ42と面内パターン検出回路50での処理遅延時間に基づいて決められる。遅延回路35は、1フレーム遅延回路31の出力である信号F2を所定時間遅延させて信号F2Dを出力する。遅延回路35の所定の遅延時間は、空間フィルタ42と面内パターン検出回路50での処理遅延時間に基づいて決められる。遅延回路34は、1フレーム遅延回路32の出力である信号F1を所定時間遅延させて信号F1Dを出力する。遅延回路34の所定の遅延時間は、空間フィルタ42と面内パターン検出回路50での処理遅延時間に基づいて決められる。
前方参照パターン検出回路71は、面内パターン検出回路50で検出された画素領域と相関の高い信号NR1Dの画素領域を検出(判別)して、検出した画素の画素位置を画素加算部20へ通知する。後方参照パターン検出回路72は、面内パターン検出回路50で判別した画素領域と相関の高い信号NR3Dの画素領域を検出(判別)して、検出した画素の画素位置を画素加算部20へ通知する。図9は、前方参照パターン検出回路71及び後方参照パターン検出回路72と同じ構成を有する回路7xの構成を概略的に示すブロック図である。図10は、図9の回路7xに含まれる遅延回路770の構成を概略的に示す図であり、図11(A),(B)は、遅延回路770にサンプリングされるフレーム画像中の任意の11×11画素領域を示す図である。また、図12は、図9の回路7xに含まれる演算回路720の構成を概略的に示すブロック図である。前方参照パターン検出回路71及び後方参照パターン検出回路72の詳細については後述する。
図2を参照すると、画素加算部20は、遅延回路34,35,36の出力信号に含まれる複数の画素パターンにおける画素を加算する機能を有する。図2に示されるように、画素加算部20は、選択回路21,22,23と加算演算回路24とを有する。選択回路21,22,23は、加算すべき画素を、面内パターン検出回路50から通知された信号F2Dの指定画素位置と、前方参照パターン検出回路71から通知された信号F1Dの指定画素位置と、後方参照パターン検出回路72から通知された信号F3D内の指定画素位置とに基づいて選択する。加算演算回路24は、選択回路21,22,23によって選択された画素を加算して画素加算信号を生成する。画素加算部20は、画素加算信号を出力端子OUTaから映像信号処理回路15へ供給する。また、面内パターン検出回路50から注目画素の加算対象画素の位置を指定するタイミングで、画素加算部20には、注目画素を中心とし加算対象画素を中心とした周辺画素が入力されている必要がある。遅延回路34,35,36では、加算対象画素の画素位置(面内パターン検出回路50の出力)と画素値(画素加算部20の入力)とが整合するように遅延時間が決められる。
選択回路(参照画素選択部)23は、後方参照パターン検出回路72から通知された指定画素を信号F3Dから選択して加算演算回路24へ供給する。選択回路(面内画素選択部)22は、面内パターン検出回路50から通知された指定画素を信号F2Dから選択して加算演算回路24へ供給する。選択回路(参照画素選択部)21は、前方参照パターン検出回路71から通知された指定画素を信号F1Dから選択して加算演算回路24へ供給する。加算演算回路24は、選択回路21,22,23から入力された画素を加算して、画素加算信号を出力端子OUTaから映像信号処理回路15へ供給する。図13は、選択回路21,22,23と同一構成を有する選択回路2xの構成を概略的に示す図である。図13の選択回路2xの動作については後述する。
ところで、図3に示されるように、空間フィルタ4xは、5×5画素領域の25個の画素値を並列に出力する遅延回路420を有する。図4(A)に示されるように、遅延回路420は、フレーム遅延信号F1,F2,F3のいずれかであるフレーム遅延信号Fxのフレーム画像中の任意の5×5画素領域をサンプリングし、この5×5画素領域中の画素値P55を注目画素値とする25個の画素値P33〜P37,P43〜P47,P53〜P57,P63〜P67,P73〜P77(図4(B))を並列に出力する機能を有する。図4(A)において、Xは、水平画素方向を示し、Yは、垂直画素方向を示している。図4(B)の画素値P77が入力端子401に印加されたタイミングについて説明する。
A/D変換器13Aから出力された画素値P77は、画素加算回路14の入力端子401に印加され、1ライン遅延回路422、1画素遅延回路432、乗算回路461へ供給される。1画素遅延回路432は、1画素遅延した画素値P67を出力する。画素値P67は、1画素遅延回路433、乗算回路462へ供給される。1画素遅延回路433は、1画素遅延した画素値P57を出力する。画素値P57は、1画素遅延回路434、乗算回路463へ供給される。1画素遅延回路434は、1画素遅延した画素値P47を出力する。画素値P47は、1画素遅延回路435、乗算回路464へ供給される。1画素遅延回路435は、1画素遅延した画素値P37を出力する。画素値P37は、乗算回路465へ供給される。
1ライン遅延回路422から出力された画素値P76は、1ライン遅延回路423、1画素遅延回路437、乗算回路466へ供給される。1画素遅延回路437は、1画素遅延した画素値P66を出力する。画素値P66は、1画素遅延回路438、乗算回路467へ供給される。1画素遅延回路438は、1画素遅延した画素値P56を出力する。画素値P56は、1画素遅延回路439、乗算回路468へ供給される。1画素遅延回路439は、1画素遅延した画素値P46を出力する。画素値P46は、1画素遅延回路440、乗算回路469へ供給される。1画素遅延回路440は、1画素遅延した画素値P36を出力する。画素値P36は、乗算回路470へ供給される。
1ライン遅延回路423から出力された画素値P75は、1ライン遅延回路424、1画素遅延回路442、乗算回路471へ供給される。1画素遅延回路442は、1画素遅延した画素値P65を出力する。画素値P65は、1画素遅延回路443、乗算回路472へ供給される。1画素遅延回路443は、1画素遅延した画素値P55を出力する。画素値P55は、1画素遅延回路444、乗算回路473へ供給される。1画素遅延回路444は、1画素遅延した画素値P45を出力する。画素値P45は、1画素遅延回路445、乗算回路474へ供給される。1画素遅延回路445は、1画素遅延した画素値P35を出力する。画素値P35は、乗算回路475へ供給される。
1ライン遅延回路424から出力された画素値P74は、1ライン遅延回路425、1画素遅延回路447、乗算回路476へ供給される。1画素遅延回路447は、1画素遅延した画素値P64を出力する。画素値P64は、1画素遅延回路448、乗算回路477へ供給される。1画素遅延回路448は、1画素遅延した画素値P54を出力する。画素値P54は、1画素遅延回路449、乗算回路478へ供給される。1画素遅延回路449は、1画素遅延した画素値P44を出力する。画素値P44は、1画素遅延回路450、乗算回路479へ供給される。1画素遅延回路450は、1画素遅延した画素値P34を出力する。画素値P34は、乗算回路480へ供給される。
1ライン遅延回路425から出力された画素値P73は、1画素遅延回路452、乗算回路481へ供給される。1画素遅延回路452は、1画素遅延した画素値P63を出力する。画素値P63は、1画素遅延回路453、乗算回路482へ供給される。1画素遅延回路453は、1画素遅延した画素値P53を出力する。画素値P53は、1画素遅延回路454、乗算回路483へ供給される。1画素遅延回路454は、1画素遅延した画素値P43を出力する。画素値P43は、1画素遅延回路455、乗算回路484へ供給される。1画素遅延回路455は、1画素遅延した画素値P33を出力する。画素値P33は、乗算回路485へ供給される。
MPU19は、制御端子417を介して係数可変設定回路495へ低域通過型フィルタの特性を設定する。係数可変設定回路495は、MPU19からの設定指示に基づいてフィルタ係数群(重み係数群)KDを設定する。同期信号発生回路18は、同期信号入力端子418を介して係数可変設定回路495へ水平同期信号HDと垂直同期信号VDを供給する。係数可変設定回路495は水平同期信号HDと垂直同期信号VDに基づいて注目画素P55の画素位置を判断して、色フィルタ配列に対応する注目画素の画素位置を特定する。係数可変設定回路495は、注目画素がR画素かG画素かB画素かも特定できる。そして、係数可変設定回路495は、特定された画素位置とフィルタ係数群KDとに基づいて、乗算回路461〜485に対して独立に25個のフィルタ係数K33〜K37,K43〜K47,K53〜K57,K63〜K67,K73〜K77を設定する。乗算回路461〜485は、入力される画素値にフィルタ係数を乗算する。総和演算回路490は、乗算回路461〜485の出力値(重み付き画素値)を加算して出力端子402から出力する。
図14は、フレーム画像Fxの画素空間配置を概略的に示す図である。図14中、Pks(k,sは、水平方向及び垂直方向における画素位置を表す整数または記号)は、フレーム画像Fx中の1画素またはその画素値を表している。図15は、図14の画素空間配置で注目画素がG画素のときの水平11画素、垂直11画素の空間的な配置を示す図である。図15中、Gnm(n,mは、水平方向及び垂直方向における画素位置を表す整数または記号)は、G画素またはその画素値を表し、Rpq(p,qは、水平方向及び垂直方向における画素位置を表す整数または記号)は、R画素またはその画素値を表し、Brs(r,sは、水平方向及び垂直方向における画素位置を表す整数または記号)は、B画素またはその画素値を表している。他の図面においても同様である。
図15に示されるように、R画素、G画素、B画素は市松状に配列されている。R10、R30、R50、R70、R90、R12、R32、R52、R72、R92、R14、R34、R54、R74、R94、R16、R36、R56、R76、R96、R18、R38、R58、R78、R98、R1A、R3A、R5A、R7A、R9AはR画素を示す。G00、G20、G40、G60、G80、GA0、G11、G31、G51、G71、G91、G02、G22、G42、G62,G82、GA2、G13、G33、G53、G73,G93、G04、G24、G44、G64、G84、GA4、G15、G35、G55、G75、G95、G06、G26、G46、G66、G86、GA6、G17、G37、G57、G77、G97、G08、G28、G48、G68、G88、GA8、G19、G39、G59、G79、G99、G0A、G2A、G4A、G6A、G8A、GAAはG画素を示す。B01、B21、B41、B61,B81、BA1、B03、B23、B43、B63、B83,BA3、B05、B25、B45、B65、B85、BA5、B07、B27、B47、B67,B87、BA7、B09、B29、B49、B69,B89、BA9はB画素を示す。例えば、R34、G35、B45、G44の水平2画素、垂直2画素の4画素の基本配列で画素配列は構成されている。図15は、G55の隣接画素がB画素の場合を例に説明したが、G44のように隣接画素がR画素の配列パターンも存在する。その場合は、R画素とB画素が入れ替わった色配置となるが、注目画素がG画素のときの加算対象画素はG画素のみなので、どちらの色配置に基づいて説明しても構わない。
図16は、画素加算回路14の空間フィルタ41,42,43で注目画素がG画素のときの、演算対象画素の配列(点線で囲まれた領域の画素)を示す図である。
このとき、空間フィルタ41,42,43の出力は次式で求める。
G=K44×G44+K64×G64
+K55×G55
+K46×G46+K66×G66
係数可変設定回路495は、フィルタ係数K33〜K37,K43〜K47,K53〜K57,K63〜K67,K73〜K77のうち、上式で使わない係数を0に設定する。係数可変設定回路495は、MPU19からの設定指示に基づいて、よりノイズが低減されるフィルタ係数を設定する。例えば以下のフィルタ係数を設定することができる。
K44=1/8
K64=1/8
K55=4/8
K46=1/8
K66=1/8
被写体照度が所定の閾値以下の低照度時で画素の信号振幅が小さい場合は、上記フィルタ係数を例えば各々8倍の係数とすることができる。また、微弱な信号成分が少しでも失われることを防ぐため、1以上のフィルタ係数とすることができる。
あるいは、係数可変設定回路495は、MPU19からの設定指示に基づいて、例えば以下のフィルタ係数を設定することができる。
K44=1/5
K64=1/5
K55=1/5
K46=1/5
K66=1/5
被写体照度が所定の閾値以下の低照度時で画素の信号振幅が小さい場合は、上記フィルタ係数を例えば各々5倍の係数とすることができる。また、微弱な信号成分が少しでも失われることを防ぐため、1以上のフィルタ係数とすることができる。
上記実施の形態では、空間フィルタ41,42,43は、周辺画素の5画素を対象としたノイズ低減フィルタを構成するが、さらにノイズが多い低照度時の撮像信号の場合は、周辺の9画素を対象としたノイズ低減フィルタを構成したほうがよい。このとき、空間フィルタ4xの出力は次式で求める。
G=K53×G53
+K44×G44+K64×G64
+K35×G35+K55×G55+K75×G75
+K46×G46+K66×G66
+K57×G57
図17は、図14の画素空間配置で注目画素がR画素のときの水平11画素、垂直11画素の空間的な配置を示す図である。R画素、G画素、B画素は市松状に配列されている。R11、R31、R51、R71、R91、R13、R33、R53、R73,R93、R15、R35、R55、R75、R95、R17、R37、R57、R77、R97、R19、R39、R59、R79、R99はR画素を示す。G10、G30、G50、G70、G90、G12、G32、G52、G72、G92、G14、G34、G54、G74、G94、G16、G36、G56、G76、G96、G18、G38、G58、G78、G98、G1A、G3A、G5A、G7A、G9A、G01、G21、G41、G61,G81、GA1、G03、G23、G43、G63、G83,GA3、G05、G25、G45、G65、G85、GA5、G07、G27、G47、G67,G87、GA7、G09、G29、G49、G69,G89、GA9はG画素を示す。B00、B20、B40、B60、B80、BA0、B02、B22、B42、B62,B82、BA2、B04、B24、B44、B64、B84、BA4、B06、B26、B46、B66、B86、BA6、B08、B28、B48、B68、B88、BA8、B0A、B2A、B4A、B6A、B8A、BAAはB画素を示す。例えば、R33、G34、B44、G43の水平2画素、垂直2画素の4画素の基本配列で色フィルタ配列は構成されている。
図18は、画素加算回路14の空間フィルタ41,42,43で注目画素がR画素のときの、演算対象画素の配列を示す図である。
このとき、空間フィルタ41,42,43の出力は次式で求められる。
R=K53×R53
+K35×R35+K55×R55+K75×R75
+K57×R57
係数可変設定回路495は、フィルタ係数K33〜K37,K43〜K47,K53〜K57,K63〜K67,K73〜K77のうち、上式で使わない係数を0に設定する。係数可変設定回路495は、MPU19からの設定指示に基づいて、よりノイズが低減されるフィルタ係数を設定する。例えば以下のフィルタ係数を設定することができる。
K53=1/8
K35=1/8
K55=4/8
K75=1/8
K57=1/8
被写体照度が所定の閾値以下の低照度時で画素の信号振幅が小さい場合は、上記フィルタ係数を例えば各々8倍の係数とすることができる。微弱な信号成分が少しでも失われることを防ぐため、1以上のフィルタ係数とすることができる。
あるいは、係数可変設定回路495は、MPU19からの設定指示に基づいて、例えば以下のフィルタ係数を設定することができる。
K53=1/5
K35=1/5
K55=1/5
K75=1/5
K57=1/5
被写体照度が所定の閾値以下の低照度時で画素の信号振幅が小さい場合は、上記フィルタ係数を例えば各々5倍の係数とすることができる。微弱な信号成分が少しでも失われることを防ぐため、1以上のフィルタ係数とすることができる。
上記実施の形態では、空間フィルタ41,42,43は、周辺の5画素を対象としたノイズ低減フィルタとしたが、さらにノイズが多い低照度時の撮像信号の場合は、周辺の9画素を対象としたノイズ低減フィルタとするように構成したほうが良い。このとき、空間フィルタ41,42,43の出力は次式で求める。
R=K33×R33+K53×R53+K73×R73
+K35×R35+K55×R55+K75×R75
+K37×R37+K57×R57+K77×R77
図14は、図14の画素空間配置で注目画素がB画素のときの水平11画素、垂直11画素の周辺画素の色フィルタ配置を示す図である。R画素、G画素、B画素は市松状に配列されている。R00、R20、R40、R60、R80、RA0、R02、R22、R42、R62,R82、RA2、R04、R24、R44、R64、R84、RA4、R06、R26、R46、R66、R86、RA6、R08、R28、R48、R68、R88、RA8、R0A、R2A、R4A、R6A、R8A、RAAはR画素を示す。G10、G30、G50、G70、G90、G12、G32、G52、G72、G92、G14、G34、G54、G74、G94、G16、G36、G56、G76、G96、G18、G38、G58、G78、G98、G1A、G3A、G5A、G7A、G9A、G01、G21、G41、G61,G81、GA1、G03、G23、G43、G63、G83,GA3、G05、G25、G45、G65、G85、GA5、G07、G27、G47、G67,G87、GA7、G09、G29、G49、G69,G89、GA9はG画素を示す。B11、B31、B51、B71、B91、B13、B33、B53、B73,B93、B15、B35、B55、B75、B95、B17、B37、B57、B77、B97、B19、B39、B59、B79、B99はB画素を示す。例えば、R44、G45、B55、G54の水平2画素、垂直2画素の4画素の基本配列で色フィルタ配列は構成されている。
図19は、図14の画素空間配置で注目画素がB画素のときの水平11画素、垂直11画素の空間的な配置を示す図である。R画素、G画素、B画素は市松状に配列されている。図20は、画素加算回路14の空間フィルタ41,42,43で注目画素がB画素のときの、演算対象画素の配列を示す図である。
このとき、空間フィルタ41,42,43の出力は次式で求める。
B=K53×B53
+K35×B35+K55×B55+K75×B75
+K57×B57
係数可変設定回路495は、フィルタ係数K33〜K37,K43〜K47,K53〜K57,K63〜K67,K73〜K77のうち、上式で使わない係数を0に設定する。係数可変設定回路495は、MPU19からの設定指示に基づいて、よりノイズが低減されるフィルタ係数を設定する。例えば以下のフィルタ係数を設定することができる。
K53=1/8
K35=1/8
K55=4/8
K75=1/8
K57=1/8
被写体照度が所定の閾値以下の低照度時で画素の信号振幅が小さい場合は、上記フィルタ係数を例えば各々8倍の係数とすることができる。微弱な信号成分が少しでも失われることを防ぐため、1以上のフィルタ係数とすることができる。
あるいは、係数可変設定回路495は、MPU19からの設定指示に基づいて、例えば以下のフィルタ係数を設定することができる。
K53=1/5
K35=1/5
K55=1/5
K75=1/5
K57=1/5
被写体照度が所定の閾値以下の低照度時で画素の信号振幅が小さい場合は、上記フィルタ係数を例えば各々5倍の係数とすることができる。微弱な信号成分が少しでも失われることを防ぐため、1以上のフィルタ係数とすることができる。
上記実施の形態では、空間フィルタ41,42,43は、周辺の5画素を対象としたノイズ低減フィルタとしたが、さらにノイズが多い低照度時の撮像信号の場合は、周辺の9画素を対象としたノイズ低減フィルタとするように構成したほうが良い。このとき、空間フィルタ41,42,43の出力は次式で求める。
R=K33×B33+K53×B53+K73×B73
+K35×B35+K55×B55+K75×B75
+K37×B37+K57×B57+K77×B77
上記実施の形態では、空間フィルタ41,42,43の構成は、例えばノイズが高域周波数に多く分布するとの仮定から、低域通過型フィルタの構成とされたが、フィルタ係数を調整して撮像信号に含まれるノイズの特性に応じたノイズ低減フィルタとされてもよい。また、空間フィルタ41,42,43の構成を、例えばイプシロンフィルタなどの輪郭保存型の低域通過型フィルタとして、より原画の特徴を残してノイズを除去することで、注目画素と相関の高い画素の検出精度を高めてもよい。
また、上記実施の形態では、空間フィルタ41,42,43は、水平3画素、垂直3画素の9画素を使った低域通過型フィルタの構成とされたが、ノイズ成分の多い場合は、水平5画素、垂直5画素の25画素を使った低域通過型フィルタの構成とされてもよい。
また、上記実施の形態では、空間フィルタ41,42,43は、面内の低域通過型フィルタの構成とされたが、これに限定されるものではない。空間フィルタ41,42,43の構成を、時間軸方向の低域通過型フィルタとしてもよいし、画像の動きに応じて適応的にフィルタ係数を変えることができる時間軸方向の非巡回型フィルタの構成としてもよい。
本実施の形態では、空間フィルタ41,42,43を設け、ノイズ成分による誤判定を防ぎ、より相関の高い画素を特定できるように構成したので、画素加算画像の解像度が低下することなく高画質化できる。
次に、図5〜図8を参照して、面内パターン検出回路50の動作を詳細に説明する。図5に示されるように、面内パターン検出回路50は、遅延回路520、画素選択回路(面内画素抽出部)599、演算回路600及び画素指定回路630を有している。図5では、全ての構成を表記することにより煩雑となり分かりにくくなってしまうことがないように、同じ構成の繰返し部分が省略されている。注目画素P55を中心とした水平11画素、垂直11画素からなる画素の配置を図7(A),(B)に示す。以下、図7(B)の画素値P99が入力端子500に印加されたタイミングについて説明する。A/D変換器13Aから出力された画素値P99は、画素加算回路14の入力端子INaから、1フレーム遅延回路31、空間フィルタ42を経て面内パターン検出回路50の入力端子500に印加される。
図6は、遅延回路520の構成を示す図である。入力端子500に印加された画素値P99は、1ライン遅延回路501、1画素遅延回路511、画素選択回路599へ供給される。1画素遅延回路511は、1画素遅延した画素値P89を出力する。画素値P89は、1画素遅延回路512、画素選択回路599へ供給される。1画素遅延回路512は、1画素遅延した画素値P79を出力する。画素値P79は、1画素遅延回路513、画素選択回路599へ供給される。1画素遅延回路513は、1画素遅延した画素値P69を出力する。画素値P69は、1画素遅延回路514、画素選択回路599へ供給される。1画素遅延回路514は、1画素遅延した画素値P59を出力する。画素値P59は、1画素遅延回路515、画素選択回路599へ供給される。1画素遅延回路515は、1画素遅延した画素値P49を出力する。画素値P49は、1画素遅延回路516、画素選択回路599へ供給される。1画素遅延回路516は、1画素遅延した画素値P39を出力する。画素値P39は、1画素遅延回路517、画素選択回路599へ供給される。1画素遅延回路517は、1画素遅延した画素値P29を出力する。画素値P29は、1画素遅延回路518、画素選択回路599へ供給される。1画素遅延回路518は、1画素遅延した画素値P19を出力する。画素値P19は、画素選択回路599へ供給される。
1ライン遅延回路501は画素値P98を出力する。画素値P98は、1ライン遅延回路502、1画素遅延回路521、画素選択回路599へ供給される。1画素遅延回路521は、1画素遅延した画素値P88を出力する。画素値P88は、1画素遅延回路522、画素選択回路599へ供給される。1画素遅延回路522は、1画素遅延した画素値P78を出力する。画素値P78は、1画素遅延回路523、画素選択回路599へ供給される。1画素遅延回路523は、1画素遅延した画素値P68を出力する。画素値P68は、1画素遅延回路524、画素選択回路599へ供給される。1画素遅延回路524は、1画素遅延した画素値P58を出力する。画素値P58は、1画素遅延回路525、画素選択回路599へ供給される。1画素遅延回路525は、1画素遅延した画素値P48を出力する。画素値P48は、1画素遅延回路526、画素選択回路599へ供給される。1画素遅延回路526は、1画素遅延した画素値P38を出力する。画素値P38は、1画素遅延回路527、画素選択回路599へ供給される。1画素遅延回路527は、1画素遅延した画素値P28を出力する。画素値P28は、1画素遅延回路528、画素選択回路599へ供給される。1画素遅延回路528は、1画素遅延した画素値P18を出力する。画素値P18は、画素選択回路599へ供給される。
1ライン遅延回路502は画素値P97を出力する。画素値P97は、1ライン遅延回路503、1画素遅延回路531、画素選択回路599へ供給される。1画素遅延回路531は、1画素遅延した画素値P87を出力する。画素値P87は、1画素遅延回路532、画素選択回路599へ供給される。1画素遅延回路532は、1画素遅延した画素値P77を出力する。画素値P77は、1画素遅延回路533、画素選択回路599へ供給される。1画素遅延回路533は、1画素遅延した画素値P67を出力する。画素値P67は、1画素遅延回路534、画素選択回路599へ供給される。1画素遅延回路534は、1画素遅延した画素値P57を出力する。画素値P57は、1画素遅延回路535、画素選択回路599へ供給される。1画素遅延回路535は、1画素遅延した画素値P47を出力する。画素値P47は、1画素遅延回路536、画素選択回路599へ供給される。1画素遅延回路536は、1画素遅延した画素値P37を出力する。画素値P37は、1画素遅延回路537、画素選択回路599へ供給される。1画素遅延回路537は、1画素遅延した画素値P27を出力する。画素値P27は、1画素遅延回路538、画素選択回路599へ供給される。1画素遅延回路538は、1画素遅延した画素値P17を出力する。画素値P17は、画素選択回路599へ供給される。
1ライン遅延回路503は画素値P96を出力する。画素値P96は、1ライン遅延回路504、1画素遅延回路541、画素選択回路599へ供給される。1画素遅延回路541は、1画素遅延した画素値P86を出力する。画素値P86は、1画素遅延回路542、画素選択回路599へ供給される。1画素遅延回路542は、1画素遅延した画素値P76を出力する。画素値P76は、1画素遅延回路543、画素選択回路599へ供給される。1画素遅延回路543は、1画素遅延した画素値P66を出力する。画素値P66は、1画素遅延回路544、画素選択回路599へ供給される。1画素遅延回路544は、1画素遅延した画素値P56を出力する。画素値P56は、1画素遅延回路545、画素選択回路599へ供給される。1画素遅延回路545は、1画素遅延した画素値P46を出力する。画素値P46は、1画素遅延回路546、画素選択回路599へ供給される。1画素遅延回路546は、1画素遅延した画素値P36を出力する。画素値P36は、1画素遅延回路547、画素選択回路599へ供給される。1画素遅延回路547は、1画素遅延した画素値P26を出力する。画素値P26は、1画素遅延回路548、画素選択回路599へ供給される。1画素遅延回路548は、1画素遅延した画素値P16を出力する。画素値P16は、画素選択回路599へ供給される。
1ライン遅延回路504は画素値P95を出力する。画素値P95は、1ライン遅延回路505、1画素遅延回路551、画素選択回路599へ供給される。1画素遅延回路551は、1画素遅延した画素値P85を出力する。画素値P85は、1画素遅延回路552、画素選択回路599へ供給される。1画素遅延回路552は、1画素遅延した画素値P75を出力する。画素値P75は、1画素遅延回路553、画素選択回路599へ供給される。1画素遅延回路553は、1画素遅延した画素値P65を出力する。画素値P65は、1画素遅延回路554、画素選択回路599へ供給される。1画素遅延回路554は、1画素遅延した画素値P55を出力する。画素値P55は、1画素遅延回路555、画素選択回路599へ供給される。1画素遅延回路555は、1画素遅延した画素値P45を出力する。画素値P45は、1画素遅延回路556、画素選択回路599へ供給される。1画素遅延回路556は、1画素遅延した画素値P35を出力する。画素値P35は、1画素遅延回路557、画素選択回路599へ供給される。1画素遅延回路557は、1画素遅延した画素値P25を出力する。画素値P25は、1画素遅延回路558、画素選択回路599へ供給される。1画素遅延回路558は、1画素遅延した画素値P15を出力する。画素値P15は、画素選択回路599へ供給される。
1ライン遅延回路505は画素値P94を出力する。画素値P94は、1ライン遅延回路506、1画素遅延回路561、画素選択回路599へ供給される。1画素遅延回路561は、1画素遅延した画素値P84を出力する。画素値P84は、1画素遅延回路562、画素選択回路599へ供給される。1画素遅延回路562は、1画素遅延した画素値P74を出力する。画素値P74は、1画素遅延回路563、画素選択回路599へ供給される。1画素遅延回路563は、1画素遅延した画素値P64を出力する。画素値P64は、1画素遅延回路564、画素選択回路599へ供給される。1画素遅延回路564は、1画素遅延した画素値P54を出力する。画素値P54は、1画素遅延回路565、画素選択回路599へ供給される。1画素遅延回路565は、1画素遅延した画素値P44を出力する。画素値P44は、1画素遅延回路566、画素選択回路599へ供給される。1画素遅延回路566は、1画素遅延した画素値P34を出力する。画素値P34は、1画素遅延回路567、画素選択回路599へ供給される。1画素遅延回路567は、1画素遅延した画素値P24を出力する。画素値P24は、1画素遅延回路568、画素選択回路599へ供給される。1画素遅延回路568は、1画素遅延した画素値P14を出力する。画素値P14は、画素選択回路599へ供給される。
1ライン遅延回路506は画素値P93を出力する。画素値P93は、1ライン遅延回路507、1画素遅延回路571、画素選択回路599へ供給される。1画素遅延回路571は、1画素遅延した画素値P83を出力する。画素値P83は、1画素遅延回路572、画素選択回路599へ供給される。1画素遅延回路572は、1画素遅延した画素値P73を出力する。画素値P73は、1画素遅延回路573、画素選択回路599へ供給される。1画素遅延回路573は、1画素遅延した画素値P63を出力する。画素値P63は、1画素遅延回路574、画素選択回路599へ供給される。1画素遅延回路574は、1画素遅延した画素値P53を出力する。画素値P53は、1画素遅延回路575、画素選択回路599へ供給される。1画素遅延回路575は、1画素遅延した画素値P43を出力する。画素値P43は、1画素遅延回路576、画素選択回路599へ供給される。1画素遅延回路576は、1画素遅延した画素値P33を出力する。画素値P33は、1画素遅延回路577、画素選択回路599へ供給される。1画素遅延回路577は、1画素遅延した画素値P23を出力する。画素値P23は、1画素遅延回路578、画素選択回路599へ供給される。1画素遅延回路578は、1画素遅延した画素値P13を出力する。画素値P13は、画素選択回路599へ供給される。
1ライン遅延回路507は画素値P92を出力する。画素値P92は、1ライン遅延回路508、1画素遅延回路581、画素選択回路599へ供給される。1画素遅延回路581は、1画素遅延した画素値P82を出力する。画素値P82は、1画素遅延回路582、画素選択回路599へ供給される。1画素遅延回路582は、1画素遅延した画素値P72を出力する。画素値P72は、1画素遅延回路583、画素選択回路599へ供給される。1画素遅延回路583は、1画素遅延した画素値P62を出力する。画素値P62は、1画素遅延回路584、画素選択回路599へ供給される。1画素遅延回路584は、1画素遅延した画素値P52を出力する。画素値P52は、1画素遅延回路585、画素選択回路599へ供給される。1画素遅延回路585は、1画素遅延した画素値P42を出力する。画素値P42は、1画素遅延回路586、画素選択回路599へ供給される。1画素遅延回路586は、1画素遅延した画素値P32を出力する。画素値P32は、1画素遅延回路587、画素選択回路599へ供給される。1画素遅延回路587は、1画素遅延した画素値P22を出力する。画素値P23は、1画素遅延回路588、画素選択回路599へ供給される。1画素遅延回路588は、1画素遅延した画素値P12を出力する。画素値P13は、画素選択回路599へ供給される。
1ライン遅延回路508は画素値P91を出力する。画素値P91は、1画素遅延回路591、画素選択回路599へ供給される。1画素遅延回路591は、1画素遅延した画素値P81を出力する。画素値P81は、1画素遅延回路592、画素選択回路599へ供給される。1画素遅延回路592は、1画素遅延した画素値P71を出力する。画素値P71は、1画素遅延回路593、画素選択回路599へ供給される。1画素遅延回路593は、1画素遅延した画素値P61を出力する。画素値P61は、1画素遅延回路594、画素選択回路599へ供給される。1画素遅延回路594は、1画素遅延した画素値P51を出力する。画素値P51は、1画素遅延回路595、画素選択回路599へ供給される。1画素遅延回路595は、1画素遅延した画素値P41を出力する。画素値P41は、1画素遅延回路596、画素選択回路599へ供給される。1画素遅延回路596は、1画素遅延した画素値P31を出力する。画素値P31は、1画素遅延回路597、画素選択回路599へ供給される。1画素遅延回路597は、1画素遅延した画素値P21を出力する。画素値P21は、1画素遅延回路598、画素選択回路599へ供給される。1画素遅延回路598は、1画素遅延した画素値P11を出力する。画素値P11は、画素選択回路599へ供給される。
同期信号発生回路18は、図5の同期信号入力端子518を介して画素選択回路599へ水平同期信号HDと垂直同期信号VDを供給する。画素選択回路599は、水平同期信号HDと垂直同期信号VDに基づいて注目画素P55の画素位置を判断して、色フィルタ配列に対応する注目画素の画素位置を特定することができる。このとき画素選択回路599は、注目画素がR画素かG画素かB画素かも特定できる。特定した画素位置に基づいて、差分算出回路601〜612に加算パターンT01〜T12を構成する画素値をそれぞれ供給する。
次に、加算パターンT01〜T12について説明する。画素加算に使う画素として、注目画素と相関の高い画素を正しく選択できれば、画素加算後の画像の解像度劣化は小さくすることができる。注目画素と周辺画素との組み合わせから、複数の加算パターンが存在する。図14の画素空間配置で注目画素がG画素のときの4画素加算の加算パターンを図21〜図24並びに図29〜図32に示す。G画素の4画素加算の場合は、12パターンの加算パターンから最も相関の高い最適な加算パターンが求められる。
図21は、注目画素から上側の周辺画素を組合せた上側ブロックパターンである。画素選択回路599は、画素値G53、G44、G64、G55を差分算出回路601へ供給する。図22は、注目画素から右側の周辺画素を組合せた右側ブロックパターンである。画素選択回路599は、画素値G64、G55、G75、G66を差分算出回路602へ供給する。図23は、注目画素から下側の周辺画素を組合せた下側ブロックパターンである。画素選択回路599は、画素値G55、G46、G66、G57を差分算出回路603へ供給する。図24は、注目画素から左側の周辺画素を組合せた左側ブロックパターンである。画素選択回路599は、画素値G44、G35、G55、G46を差分算出回路604へ供給する。
図25は、注目画素とその上側及び下側の周辺画素とを組合せた上側縦ラインパターンである。画素選択回路599は、画素値G51、G53、G55、G57を差分算出回路605へ供給する。図26は、注目画素とその上側及び下側の周辺画素とを組合せた下側縦ラインパターンである。画素選択回路599は、画素値G53、G55、G57、G59を差分算出回路606へ供給する。図27は、注目画素とその右側及び左側の周辺画素とを組合せた左側横ラインパターンである。画素選択回路599は、画素値G15、G35、G55、G75を差分算出回路607へ供給する。図28は、注目画素とその右側及び下側の周辺画素とを組合せた右側横ラインパターンである。画素選択回路599は、画素値G35、G55、G75、G95を差分算出回路608へ供給する。
図29は、注目画素とその左上側及び右下側の周辺画素とを組合せた左上側斜めラインパターンである。画素選択回路599は、画素値G33、G44、G55、G66を差分算出回路609へ供給する。図30は、注目画素とその右下側及び左上側の周辺画素とを組合せた右下側斜めラインパターンである。画素選択回路599は、画素値G44、G55、G66、G77を差分算出回路610へ供給する。図31は、注目画素とその右上側及び左下側の周辺画素とを組合せた右上側斜めラインパターンである。画素選択回路599は、画素値G73、G64、G55、G46を差分算出回路611へ供給する。図32は、注目画素とその左下側及び右上側の周辺画素とを組合せた左下側斜めラインパターンである。画素選択回路599は、画素値G64、G55、G46、G37を差分算出回路612へ供給する。
図14の画素空間配置で注目画素がR画素のときの4画素加算の加算パターンを図33〜図36に示す。R画素の4画素加算の場合は、4パターンの加算パターンから最も相関の高い最適な加算パターンを求める。図33は、注目画素とその左上側の周辺画素とを組合せた左上側ブロックパターンである。画素選択回路599は、画素値R33、R53、R35、R55を差分算出回路601へ供給する。図34は、注目画素とその右上側の周辺画素とを組合せた右上側ブロックパターンである。画素選択回路599は、画素値R53、R73、R55、R75を差分算出回路602へ供給する。図35は、注目画素とその右下側の周辺画素とを組合せた右下側ブロックパターンである。画素選択回路599は、画素値R55、R75、R57、R77を差分算出回路604へ供給する。図36は、注目画素とその左下側の周辺画素とを組合せた左下側ブロックパターンである。画素選択回路599は、画素値R35、R55、R37、R57を差分算出回路603へ供給する。
図14の画素空間配置で注目画素がB画素のときの4画素加算の加算パターンを図37〜図40に示す。B画素の4画素加算の場合は、4パターンの加算パターンから最も相関の高い最適な加算パターンを求める。図37は、注目画素とその左上側の周辺画素とを組合せた左上側ブロックパターンである。画素選択回路599は、画素値B33、B53、B35、B55を差分算出回路601へ供給する。図38は、注目画素とその右上側の周辺画素とを組合せた右上側ブロックパターンである。画素選択回路599は、画素値B53、B73、B55、B75を差分算出回路602へ供給する。図39は、注目画素とその右下側の周辺画素とを組合せた右下側ブロックパターンである。画素選択回路599は、画素値B55、B75、B57、B77を差分算出回路603へ供給する。図40は、注目画素とその左下側の周辺画素とを組合せた左下側ブロックパターンである。画素選択回路599は、画素値B35、B55、B37、B57を差分算出回路604へ供給する。
図8に示されるように、面内パターン検出回路50の演算回路600を構成する差分算出回路601〜612は、入力される4画素の組T01〜T12について、画素値同士を比較して、最大画素値MAX1〜MAX12と最小画素値MIN1〜MIN12を求める。次に最大画素値と最小画素値の差分(面内相関評価値)PP1〜PP12を求め、当該加算パターンの差分として最小値算出回路620へ供給する。注目画素がG画素の場合、差分算出回路601は、上側ブロックパターンの画素間の差分を算出する。差分算出回路602は、右側ブロックパターンの画素間の差分を算出する。差分算出回路603は、左側ブロックパターンの画素間の差分を算出する。差分算出回路604は、下側ブロックパターンの画素間の差分を算出する。差分算出回路605は、上側縦ラインパターンの画素間の差分を算出する。差分算出回路606は、下側縦ラインパターンの画素間の差分を算出する。差分算出回路607は、左側横ラインパターンの画素間の差分を算出する。差分算出回路608は、右側横ラインパターンの画素間の差分を算出する。差分算出回路609は、左上側斜めラインパターンの画素間の差分を算出する。差分算出回路610は、右下側斜めラインパターンの画素間の差分を算出する。差分算出回路611は、右上側斜めラインパターンの画素間の差分を算出する。差分算出回路612は、左下側斜めラインパターンの画素間の差分を算出する。
注目画素がR画素、B画素の場合、差分算出回路601は、左上側ブロックパターンの画素間の差分を算出する。差分算出回路602は、右上側ブロックパターンの画素間の差分を算出する。差分算出回路603は、右下側ブロックパターンの画素間の差分を算出する。差分算出回路604は、左下側ブロックパターンの画素間の差分を算出する。
最小値算出回路620の注目画素がG画素の場合の動作について説明する。最小値算出回路620は、差分算出回路601〜612から入力される12パターンの画素間の差分を比較して、最小の差分PPの加算パターンを求め、画素指定回路630へ通知する。画素指定回路630は、最小値算出回路620から通知された加算パターンを構成する画素の画素位置を出力端子640から選択回路22、前方参照パターン検出回路71及び後方参照パターン検出回路72へそれぞれ供給する。画素指定回路630は、最小値算出回路620から通知された加算パターンに対応する最大画素値MAXと最小画素値MINを各々最大画素値出力端子641、最小画素値出力端子642から出力して前方参照パターン検出回路71、後方参照パターン検出回路72へ供給する。
上側ブロックパターンの構成画素が最小の差分の場合は、画素G53、G44、G64、G55の画素位置情報を選択回路22へ供給する。右側ブロックパターンの構成画素が最小の差分の場合は、画素G64、G55、G75、G66の画素位置情報を選択回路22へ供給する。下側ブロックパターンの構成画素が最小の差分の場合は、画素G55、G46、G66、G57の画素位置情報を選択回路22へ供給する。左側ブロックパターンの構成画素が最小の差分の場合は、画素G44、G35、G55、G46の画素位置情報を選択回路22へ供給する。上側縦ラインパターンの構成画素が最小の差分の場合は、画素G51、G53、G55、G57の画素位置情報を選択回路22へ供給する。下側縦ラインパターンの構成画素が最小の差分の場合は、画素G53、G55、G57、G59の画素位置情報を選択回路22へ供給する。左側横ラインパターンの構成画素が最小の差分の場合は、画素G15、G35、G55、G75の画素位置情報を選択回路22へ供給する。右側横ラインパターンの構成画素が最小の差分の場合は、画素G35、G55、G75、G95の画素位置情報を選択回路22へ供給する。左上側斜めラインパターンの構成画素が最小の差分の場合は、画素G33、G44、G55、G66の画素位置情報を選択回路22へ供給する。右下側斜めラインパターンの構成画素が最小の差分の場合は、画素G44、G55、G66、G77の画素位置情報を選択回路22へ供給する。右上側斜めラインパターンの構成画素が最小の差分の場合は、画素G73、G64、G55、G46の画素位置情報を選択回路22へ供給する。左下側斜めラインパターンの構成画素が最小の差分の場合は、画素G64、G55、G46、G37の画素位置情報を選択回路22へ供給する。
最小値算出回路620の注目画素がR画素の場合の動作について説明する。最小値算出回路620は、差分算出回路601〜604から入力される4パターンの画素間の差分を比較して、最小の差分の加算パターンを求め、画素指定回路630へ通知する。画素指定回路630は、最小値算出回路620から通知された加算パターンを構成する画素の画素位置を出力端子640から選択回路22、前方参照パターン検出回路71、後方参照パターン検出回路72へ供給する。画素指定回路630は、最小値算出回路620から通知された加算パターンに対応する最大画素値と最小画素値を各々最大画素値出力端子641、最小画素値出力端子642から出力して前方参照パターン検出回路71、後方参照パターン検出回路72へ供給する。
左上側ブロックパターンの構成画素が最小の差分の場合は、画素R33、R53、R35、R55の画素位置情報を選択回路22へ供給する。右上側ブロックパターンの構成画素が最小の差分の場合は、画素R53、R73、R55、R75の画素位置情報を選択回路22へ供給する。右下側ブロックパターンの構成画素が最小の差分の場合は、画素R55、R75、R57、R77の画素位置情報を選択回路22へ供給する。左下側ブロックパターンの構成画素が最小の差分の場合は、画素R35、R55、R37、R57の画素位置情報を選択回路22へ供給する。
最小値算出回路620の注目画素がB画素の場合の動作について説明する。最小値算出回路620は、差分算出回路601〜604から入力される4パターンの画素間の差分を比較して、最小の差分の加算パターンを求め、画素指定回路630へ通知する。画素指定回路630は、最小値算出回路620から通知された加算パターンを構成する画素の画素位置を出力端子640から選択回路22、前方参照パターン検出回路71、後方参照パターン検出回路72へ供給する。画素指定回路630は、最小値算出回路620から通知された加算パターンに対応する最大画素値と最小画素値を各々最大画素値出力端子641、最小画素値出力端子642から出力して前方参照パターン検出回路71、後方参照パターン検出回路72へ供給する。
左上側ブロックパターンの構成画素が最小の差分の場合は、画素B33、B53、B35、B55の画素位置情報を選択回路22へ供給する。右上側ブロックパターンの構成画素が最小の差分の場合は、画素B53、B73、B55、B75の画素位置情報を選択回路22へ供給する。右下側ブロックパターンの構成画素が最小の差分の場合は、画素B55、B75、B57、B77の画素位置情報を選択回路22へ供給する。左下側ブロックパターンの構成画素が最小の差分の場合は、画素B35、B55、B37、B57の画素位置情報を選択回路22へ供給する。
前記のようにG画素の場合は12パターンの加算パターンから、R画素、B画素の場合は4パターンの加算パターンから、最も相関の高い最適な加算パターンを求めるように構成したので画素加算に使う画素に、注目画素と相関の高い画素を正しく選択できるように出来、画素加算後の画像の解像度劣化を小さくすることができる。
次に、前方参照パターン検出回路71及び後方参照パターン検出回路72の動作を説明する。前方参照パターン検出回路71及び後方参照パターン検出回路72の構成は、図9の回路構成と同じである。図9に示されるように、回路7xは、遅延回路770、画素選択回路(参照画素抽出部)719、演算回路720及び画素指定回路750を有する。
注目画素P55を中心とした水平11画素、垂直11画素の周辺画素の配置を図14に示す。図14の画素値PAAが入力端子500に印加されたタイミングについて説明する。A/D変換器13Aから出力された画素値PAAは、画素加算回路14の入力端子INaから、空間フィルタ43、遅延回路38を経て後方参照パターン検出回路72の入力端子700に印加される。あるいは、A/D変換器13Aから出力された画素値PAAは、画素加算回路14の入力端子INaから、1フレーム遅延回路31、1フレーム遅延回路32、空間フィルタ41、遅延回路37を経て前方参照パターン検出回路71の入力端子700に印加される。
入力端子700に印加された画素値PAAは、図10の1ライン遅延回路701及び1画素遅延回路1700と図12の画素選択回路719へ供給される。1画素遅延回路1700は、1画素遅延した画素値P9Aを出力する。画素値P9Aは、1画素遅延回路1701、画素選択回路719へ供給される。1画素遅延回路1701は、1画素遅延した画素値P8Aを出力する。画素値P8Aは、1画素遅延回路1702、画素選択回路719へ供給される。1画素遅延回路1702は、1画素遅延した画素値P7Aを出力する。画素値P7Aは、1画素遅延回路1703、画素選択回路719へ供給される。1画素遅延回路1703は、1画素遅延した画素値P6Aを出力する。画素値P6Aは、1画素遅延回路1704、画素選択回路719へ供給される。1画素遅延回路1704は、1画素遅延した画素値P5Aを出力する。画素値P5Aは、1画素遅延回路1705、画素選択回路719へ供給される。1画素遅延回路1705は、1画素遅延した画素値P4Aを出力する。画素値P4Aは、1画素遅延回路1706、画素選択回路719へ供給される。1画素遅延回路1706は、1画素遅延した画素値P3Aを出力する。画素値P3Aは、1画素遅延回路1707、画素選択回路719へ供給される。1画素遅延回路1707は、1画素遅延した画素値P2Aを出力する。画素値P2Aは、1画素遅延回路1708、画素選択回路719へ供給される。1画素遅延回路1708は、1画素遅延した画素値P1Aを出力する。画素値P1Aは、1画素遅延回路1709、画素選択回路719へ供給される。1画素遅延回路1709は、1画素遅延した画素値P0Aを出力する。画素値P0Aは、画素選択回路719へ供給される。
1ライン遅延回路701は画素値PA9を出力する。画素値PA9は、1ライン遅延回路702、1画素遅延回路1710、画素選択回路719へ供給される。1画素遅延回路1710は、1画素遅延した画素値P99を出力する。画素値P99は、1画素遅延回路1711、画素選択回路719へ供給される。1画素遅延回路1711は、1画素遅延した画素値P89を出力する。画素値P89は、1画素遅延回路1712、画素選択回路719へ供給される。1画素遅延回路1712は、1画素遅延した画素値P79を出力する。画素値P79は、1画素遅延回路1713、画素選択回路719へ供給される。1画素遅延回路1713は、1画素遅延した画素値P69を出力する。画素値P69は、1画素遅延回路1714、画素選択回路719へ供給される。1画素遅延回路1714は、1画素遅延した画素値P59を出力する。画素値P59は、1画素遅延回路1715、画素選択回路719へ供給される。1画素遅延回路1715は、1画素遅延した画素値P49を出力する。画素値P49は、1画素遅延回路1716、画素選択回路719へ供給される。1画素遅延回路1716は、1画素遅延した画素値P39を出力する。画素値P39は、1画素遅延回路1717、画素選択回路719へ供給される。1画素遅延回路1717は、1画素遅延した画素値P29を出力する。画素値P29は、1画素遅延回路1718、画素選択回路719へ供給される。1画素遅延回路1718は、1画素遅延した画素値P19を出力する。画素値P19は、1画素遅延回路1719、画素選択回路719へ供給される。1画素遅延回路1719は、1画素遅延した画素値P09を出力する。画素値P09は、画素選択回路719へ供給される。
1ライン遅延回路702は画素値PA8を出力する。画素値PA8は、1ライン遅延回路703、1画素遅延回路1720、画素選択回路719へ供給される。1画素遅延回路1720は、1画素遅延した画素値P98を出力する。画素値P98は、1画素遅延回路1721、画素選択回路719へ供給される。1画素遅延回路1721は、1画素遅延した画素値P88を出力する。画素値P88は、1画素遅延回路1722、画素選択回路719へ供給される。1画素遅延回路1722は、1画素遅延した画素値P78を出力する。画素値P78は、1画素遅延回路1723、画素選択回路719へ供給される。1画素遅延回路1723は、1画素遅延した画素値P68を出力する。画素値P68は、1画素遅延回路1724、画素選択回路719へ供給される。1画素遅延回路1724は、1画素遅延した画素値P58を出力する。画素値P58は、1画素遅延回路1725、画素選択回路719へ供給される。1画素遅延回路1725は、1画素遅延した画素値P48を出力する。画素値P48は、1画素遅延回路1726、画素選択回路719へ供給される。1画素遅延回路1726は、1画素遅延した画素値P38を出力する。画素値P38は、1画素遅延回路1727、画素選択回路719へ供給される。1画素遅延回路1727は、1画素遅延した画素値P28を出力する。画素値P28は、1画素遅延回路1728、画素選択回路719へ供給される。1画素遅延回路1728は、1画素遅延した画素値P18を出力する。画素値P18は、1画素遅延回路1729、画素選択回路719へ供給される。1画素遅延回路1729は、1画素遅延した画素値P08を出力する。画素値P08は、画素選択回路719へ供給される。
1ライン遅延回路703は画素値PA7を出力する。画素値PA7は、1ライン遅延回路704、1画素遅延回路1730、画素選択回路719へ供給される。1画素遅延回路1730は、1画素遅延した画素値P97を出力する。画素値P97は、1画素遅延回路1731、画素選択回路719へ供給される。1画素遅延回路1731は、1画素遅延した画素値P87を出力する。画素値P87は、1画素遅延回路1732、画素選択回路719へ供給される。1画素遅延回路1732は、1画素遅延した画素値P77を出力する。画素値P77は、1画素遅延回路1733、画素選択回路719へ供給される。1画素遅延回路1733は、1画素遅延した画素値P67を出力する。画素値P67は、1画素遅延回路1734、画素選択回路719へ供給される。1画素遅延回路1734は、1画素遅延した画素値P57を出力する。画素値P57は、1画素遅延回路1735、画素選択回路719へ供給される。1画素遅延回路1735は、1画素遅延した画素値P47を出力する。画素値P47は、1画素遅延回路1736、画素選択回路719へ供給される。1画素遅延回路1736は、1画素遅延した画素値P37を出力する。画素値P37は、1画素遅延回路1737、画素選択回路719へ供給される。1画素遅延回路1737は、1画素遅延した画素値P27を出力する。画素値P27は、1画素遅延回路1738、画素選択回路719へ供給される。1画素遅延回路1738は、1画素遅延した画素値P17を出力する。画素値P17は、1画素遅延回路1739、画素選択回路719へ供給される。1画素遅延回路1739は、1画素遅延した画素値P07を出力する。画素値P07は、画素選択回路719へ供給される。
1ライン遅延回路704は画素値PA6を出力する。画素値PA6は、1ライン遅延回路705、1画素遅延回路1740、画素選択回路719へ供給される。1画素遅延回路1740は、1画素遅延した画素値P96を出力する。画素値P96は、1画素遅延回路1741、画素選択回路719へ供給される。1画素遅延回路1741は、1画素遅延した画素値P86を出力する。画素値P86は、1画素遅延回路1742、画素選択回路719へ供給される。1画素遅延回路1742は、1画素遅延した画素値P76を出力する。画素値P76は、1画素遅延回路1743、画素選択回路719へ供給される。1画素遅延回路1743は、1画素遅延した画素値P66を出力する。画素値P66は、1画素遅延回路1744、画素選択回路719へ供給される。1画素遅延回路1744は、1画素遅延した画素値P56を出力する。画素値P56は、1画素遅延回路1745、画素選択回路719へ供給される。1画素遅延回路1745は、1画素遅延した画素値P46を出力する。画素値P46は、1画素遅延回路1746、画素選択回路719へ供給される。1画素遅延回路1746は、1画素遅延した画素値P36を出力する。画素値P36は、1画素遅延回路1747、画素選択回路719へ供給される。1画素遅延回路1747は、1画素遅延した画素値P26を出力する。画素値P26は、1画素遅延回路1748、画素選択回路719へ供給される。1画素遅延回路1748は、1画素遅延した画素値P16を出力する。画素値P16は、1画素遅延回路1749、画素選択回路719へ供給される。1画素遅延回路1749は、1画素遅延した画素値P06を出力する。画素値P06は、画素選択回路719へ供給される。
1ライン遅延回路705は画素値PA5を出力する。画素値PA5は、1ライン遅延回路706、1画素遅延回路1750、画素選択回路719へ供給される。1画素遅延回路1750は、1画素遅延した画素値P95を出力する。画素値P95は、1画素遅延回路1751、画素選択回路719へ供給される。1画素遅延回路1751は、1画素遅延した画素値P85を出力する。画素値P85は、1画素遅延回路1752、画素選択回路719へ供給される。1画素遅延回路1752は、1画素遅延した画素値P75を出力する。画素値P75は、1画素遅延回路1753、画素選択回路719へ供給される。1画素遅延回路1753は、1画素遅延した画素値P65を出力する。画素値P65は、1画素遅延回路1754、画素選択回路719へ供給される。1画素遅延回路1754は、1画素遅延した画素値P55を出力する。画素値P55は、1画素遅延回路1755、画素選択回路719へ供給される。1画素遅延回路1755は、1画素遅延した画素値P45を出力する。画素値P45は、1画素遅延回路1756、画素選択回路719へ供給される。1画素遅延回路1756は、1画素遅延した画素値P35を出力する。画素値P35は、1画素遅延回路1757、画素選択回路719へ供給される。1画素遅延回路1757は、1画素遅延した画素値P25を出力する。画素値P25は、1画素遅延回路1758、画素選択回路719へ供給される。1画素遅延回路1758は、1画素遅延した画素値P15を出力する。画素値P15は、1画素遅延回路1759、画素選択回路719へ供給される。1画素遅延回路1759は、1画素遅延した画素値P05を出力する。画素値P05は、画素選択回路719へ供給される。
1ライン遅延回路706は画素値PA4を出力する。画素値PA4は、1ライン遅延回路707、1画素遅延回路1760、画素選択回路719へ供給される。1画素遅延回路1760は、1画素遅延した画素値P94を出力する。画素値P94は、1画素遅延回路1761、画素選択回路719へ供給される。1画素遅延回路1761は、1画素遅延した画素値P84を出力する。画素値P84は、1画素遅延回路1762、画素選択回路719へ供給される。1画素遅延回路1762は、1画素遅延した画素値P74を出力する。画素値P74は、1画素遅延回路1763、画素選択回路719へ供給される。1画素遅延回路1763は、1画素遅延した画素値P64を出力する。画素値P64は、1画素遅延回路1764、画素選択回路719へ供給される。1画素遅延回路1764は、1画素遅延した画素値P54を出力する。画素値P54は、1画素遅延回路1765、画素選択回路719へ供給される。1画素遅延回路1765は、1画素遅延した画素値P44を出力する。画素値P44は、1画素遅延回路1766、画素選択回路719へ供給される。1画素遅延回路1766は、1画素遅延した画素値P34を出力する。画素値P34は、1画素遅延回路1767、画素選択回路719へ供給される。1画素遅延回路1767は、1画素遅延した画素値P24を出力する。画素値P24は、1画素遅延回路1768、画素選択回路719へ供給される。1画素遅延回路1768は、1画素遅延した画素値P14を出力する。画素値P14は、1画素遅延回路1769、画素選択回路719へ供給される。1画素遅延回路1769は、1画素遅延した画素値P04を出力する。画素値P04は、画素選択回路719へ供給される。
1ライン遅延回路707は画素値PA3を出力する。画素値PA3は、1ライン遅延回路708、1画素遅延回路1770、画素選択回路719へ供給される。1画素遅延回路1770は、1画素遅延した画素値P93を出力する。画素値P93は、1画素遅延回路1771、画素選択回路719へ供給される。1画素遅延回路1771は、1画素遅延した画素値P83を出力する。画素値P83は、1画素遅延回路1772、画素選択回路719へ供給される。1画素遅延回路1772は、1画素遅延した画素値P73を出力する。画素値P73は、1画素遅延回路1773、画素選択回路719へ供給される。1画素遅延回路1773は、1画素遅延した画素値P63を出力する。画素値P63は、1画素遅延回路1774、画素選択回路719へ供給される。1画素遅延回路1774は、1画素遅延した画素値P53を出力する。画素値P53は、1画素遅延回路1775、画素選択回路719へ供給される。1画素遅延回路1775は、1画素遅延した画素値P43を出力する。画素値P43は、1画素遅延回路1776、画素選択回路719へ供給される。1画素遅延回路1776は、1画素遅延した画素値P33を出力する。画素値P33は、1画素遅延回路1777、画素選択回路719へ供給される。1画素遅延回路1777は、1画素遅延した画素値P23を出力する。画素値P23は、1画素遅延回路1778、画素選択回路719へ供給される。1画素遅延回路1778は、1画素遅延した画素値P13を出力する。画素値P13は、1画素遅延回路1779、画素選択回路719へ供給される。1画素遅延回路1779は、1画素遅延した画素値P03を出力する。画素値P03は、画素選択回路719へ供給される。
1ライン遅延回路708は画素値PA2を出力する。画素値PA2は、1ライン遅延回路709、1画素遅延回路1780、画素選択回路719へ供給される。1画素遅延回路1780は、1画素遅延した画素値P92を出力する。画素値P92は、1画素遅延回路1781、画素選択回路719へ供給される。1画素遅延回路1781は、1画素遅延した画素値P82を出力する。画素値P82は、1画素遅延回路1782、画素選択回路719へ供給される。1画素遅延回路1782は、1画素遅延した画素値P72を出力する。画素値P72は、1画素遅延回路1783、画素選択回路719へ供給される。1画素遅延回路1783は、1画素遅延した画素値P62を出力する。画素値P62は、1画素遅延回路1784、画素選択回路719へ供給される。1画素遅延回路1784は、1画素遅延した画素値P52を出力する。画素値P52は、1画素遅延回路1785、画素選択回路719へ供給される。1画素遅延回路1785は、1画素遅延した画素値P42を出力する。画素値P42は、1画素遅延回路1786、画素選択回路719へ供給される。1画素遅延回路1786は、1画素遅延した画素値P32を出力する。画素値P32は、1画素遅延回路1787、画素選択回路719へ供給される。1画素遅延回路1787は、1画素遅延した画素値P22を出力する。画素値P22は、1画素遅延回路1788、画素選択回路719へ供給される。1画素遅延回路1788は、1画素遅延した画素値P12を出力する。画素値P12は、1画素遅延回路1789、画素選択回路719へ供給される。1画素遅延回路1789は、1画素遅延した画素値P02を出力する。画素値P02は、画素選択回路719へ供給される。
1ライン遅延回路709は画素値PA1を出力する。画素値PA1は、1ライン遅延回路710、1画素遅延回路1790、画素選択回路719へ供給される。1画素遅延回路1790は、1画素遅延した画素値P91を出力する。画素値P91は、1画素遅延回路1791、画素選択回路719へ供給される。1画素遅延回路1791は、1画素遅延した画素値P81を出力する。画素値P81は、1画素遅延回路1792、画素選択回路719へ供給される。1画素遅延回路1792は、1画素遅延した画素値P71を出力する。画素値P71は、1画素遅延回路1793、画素選択回路719へ供給される。1画素遅延回路1793は、1画素遅延した画素値P61を出力する。画素値P61は、1画素遅延回路1794、画素選択回路719へ供給される。1画素遅延回路1794は、1画素遅延した画素値P51を出力する。画素値P51は、1画素遅延回路1795、画素選択回路719へ供給される。1画素遅延回路1795は、1画素遅延した画素値P41を出力する。画素値P41は、1画素遅延回路1796、画素選択回路719へ供給される。1画素遅延回路1796は、1画素遅延した画素値P31を出力する。画素値P31は、1画素遅延回路1797、画素選択回路719へ供給される。1画素遅延回路1797は、1画素遅延した画素値P21を出力する。画素値P21は、1画素遅延回路1798、画素選択回路719へ供給される。1画素遅延回路1798は、1画素遅延した画素値P11を出力する。画素値P11は、1画素遅延回路1799、画素選択回路719へ供給される。1画素遅延回路1799は、1画素遅延した画素値P01を出力する。画素値P01は、画素選択回路719へ供給される。
1ライン遅延回路710は画素値PA0を出力する。画素値PA0は、1画素遅延回路1800、画素選択回路719へ供給される。1画素遅延回路1800は、1画素遅延した画素値P90を出力する。画素値P90は、1画素遅延回路1801、画素選択回路719へ供給される。1画素遅延回路1801は、1画素遅延した画素値P80を出力する。画素値P80は、1画素遅延回路1802、画素選択回路719へ供給される。1画素遅延回路1802は、1画素遅延した画素値P70を出力する。画素値P70は、1画素遅延回路1803、画素選択回路719へ供給される。1画素遅延回路1803は、1画素遅延した画素値P60を出力する。画素値P60は、1画素遅延回路1804、画素選択回路719へ供給される。1画素遅延回路1804は、1画素遅延した画素値P50を出力する。画素値P50は、1画素遅延回路1805、画素選択回路719へ供給される。1画素遅延回路1805は、1画素遅延した画素値P40を出力する。画素値P40は、1画素遅延回路1806、画素選択回路719へ供給される。1画素遅延回路1806は、1画素遅延した画素値P30を出力する。画素値P30は、1画素遅延回路1807、画素選択回路719へ供給される。1画素遅延回路1807は、1画素遅延した画素値P20を出力する。画素値P20は、1画素遅延回路1808、画素選択回路719へ供給される。1画素遅延回路1808は、1画素遅延した画素値P10を出力する。画素値P10は、1画素遅延回路1809、画素選択回路719へ供給される。1画素遅延回路1809は、1画素遅延した画素値P00を出力する。画素値P00は、画素選択回路719へ供給される。
同期信号発生回路18は、同期信号入力端子718を介して画素選択回路719へ水平同期信号HDと垂直同期信号VDを供給するので、画素選択回路719は、水平同期信号HDと垂直同期信号VDに基づいて注目フレーム画像の注目画素P55、あるいは隣接フレーム画像の注目画素相当のP55の画素位置を判断して、色フィルタ配列に対応する注目画素の画素位置を特定する。注目画素が、R画素かG画素かB画素かも特定できる。特定した画素位置に基づいて、加算パターンの画素領域に対応する差分算出回路721〜725各々へ、加算パターンを構成する画素値を供給する。面内パターン検出回路50は画素領域入力端子711を介して画素選択回路719へ面内パターン検出回路50で注目画素に最も相関の高い周辺画素の加算パターンを通知する。画素選択回路719は、面内パターン検出回路50で判別された加算パターンに基づきフレーム画像間での画素領域の移動も考慮した加算パターンに従って画素を選択する。
前記加算パターンについて説明する。画素加算に使う画素に、注目画素と相関の高い画素を正しく選択できれば、画素加算後の画像の解像度劣化は小さくすることができる。注目画素と周辺画素の組み合わせから、複数の加算パターンが存在する。図14の画素空間配置で注目画素がG画素のときの、面内4画素加算パターンと前側フレーム画像内4画素加算パターン、あるいは面内4画素加算パターンと後側フレーム画像内4画素加算パターンの組合せを図41(A),(B)〜図160(A),(B)に示す。
これら図41(A),(B)〜図160(A),(B)において、フィルタ信号NR2の注目フレーム画像の面内加算パターンが示され、フレーム遅延信号NR1Dの前側の隣接フレーム画像(参照フレーム画像)の加算パターンが示され、フレーム遅延信号NR3Dの後側の隣接フレーム画像の加算パターンが示されている。前方参照パターン検出回路71、後方参照パターン検出回路72は各々、面内パターン検出回路50で判別された面内加算パターンに対し、隣接フレーム画像の5パターンの加算パターンの中から最も相関の高い加算パターンを判別する。
図41(A),(B)〜図45(A),(B)は、注目画素がG画素で、第1の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第1の面内加算パターンは、注目画素から上側の周辺画素を組合せた上側ブロックパターンである。
図41は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G153、G144、G164、G155を差分算出回路721へ供給する。図42は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G142、G133、G153、G144を差分算出回路722へ供給する。図43は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G164、G155、G175、G166を差分算出回路723へ供給する。図44は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G162、G153、G173、G164を差分算出回路724へ供給する。図45は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G135、G155、G146を差分算出回路725へ供給する。
図46〜図50は、注目画素がG画素で、第1の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第1の面内加算パターンは、注目画素から上側の周辺画素を組合せた上側ブロックパターンである。
図46は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G353、G344、G364、G355を差分算出回路721へ供給する。図47は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G342、G333、G353、G344を差分算出回路722へ供給する。図48は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G364、G355、G375、G366を差分算出回路723へ供給する。図49は注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G362、G353、G373、G364を差分算出回路724へ供給する。図50は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G335、G355、G346を差分算出回路725へ供給する。
図51〜図55は、注目画素がG画素で、第2の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第2の面内加算パターンは、注目画素から右側の周辺画素を組合せた右側ブロックパターンである。
図51は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G164、G155、G175、G166を差分算出回路721へ供給する。図52は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G153、G144、G164、G155を差分算出回路722へ供給する。図53は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G175、G166、G186、G177を差分算出回路723へ供給する。図54は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G173、G164、G184、G175を差分算出回路724へ供給する。図55は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G155、G146、G166、G157を差分算出回路725へ供給する。
図56〜図60は注目画素がG画素で、第2の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第2の面内加算パターンは、注目画素から右側の周辺画素を組合せた右側ブロックパターンである。
図56は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G364、G355、G375、G366を差分算出回路721へ供給する。図57は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G353、G344、G364、G355を差分算出回路722へ供給する。図58は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G375、G366、G386、G377を差分算出回路723へ供給する。図59は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G373、G364、G384、G375を差分算出回路724へ供給する。図60は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G355、G346、G366、G357を差分算出回路725へ供給する。
図61〜図65は、注目画素がG画素で、第3の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第3の面内加算パターンは、注目画素から下側の周辺画素を組合せた下側ブロックパターンである。
図61は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G155、G146、G166、G157を差分算出回路721へ供給する。図62は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G135、G155、G146を差分算出回路722へ供給する。図63は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G166、G157、G177、G168を差分算出回路723へ供給する。図64は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G164、G155、G175、G166を差分算出回路724へ供給する。図65は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G146、G137、G157、G148を差分算出回路725へ供給する。
図66〜図70は、注目画素がG画素で、第3の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第3の面内加算パターンは、注目画素から下側の周辺画素を組合せた下側ブロックパターンである。
図66は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G355、G346、G366、G357を差分算出回路721へ供給する。図67は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G335、G355、G346を差分算出回路722へ供給する。図68は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G366、G357、G377、G368を差分算出回路723へ供給する。図69は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G364、G355、G375、G366を差分算出回路724へ供給する。図70は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G346、G337、G357、G348を差分算出回路725へ供給する。
図71〜図75は、注目画素がG画素で、第4の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第4の面内加算パターンは、注目画素から左側の周辺画素を組合せた左側ブロックパターンである。
図71は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G135、G155、G146を差分算出回路721へ供給する。図72は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G133、G124、G144、G135を差分算出回路722へ供給する。図73は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G155、G146、G166、G157を差分算出回路723へ供給する。図74は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G153、G144、G164、G155を差分算出回路724へ供給する。図75は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G135、G126、G146、G137を差分算出回路725へ供給する。
図76〜図80は、注目画素がG画素で、第4の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第4の面内加算パターンは、注目画素から左側の周辺画素を組合せた左側ブロックパターンである。
図76は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G335、G355、G346を差分算出回路721へ供給する。図77は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G333、G324、G344、G335を差分算出回路722へ供給する。図78は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G355、G346、G366、G357を差分算出回路723へ供給する。図79は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G353、G344、G364、G355を差分算出回路724へ供給する。図80は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G335、G326、G346、G337を差分算出回路725へ供給する。
図81〜図85は、注目画素がG画素で、第5の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第5の面内加算パターンは、注目画素から上側の周辺画素を組合せた上側縦ラインパターンである。
図81は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G151、G153、G155、G157を差分算出回路721へ供給する。図82は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G140、G142、G144、G146を差分算出回路722へ供給する。図83は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G142、G144、G146、G148を差分算出回路723へ供給する。図84は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G160、G162、G164、G166を差分算出回路724へ供給する。図85は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G162、G164、G166、G168を差分算出回路725へ供給する。
図86〜図90は、注目画素がG画素で、第5の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第5の面内加算パターンは、注目画素から上側の周辺画素を組合せた上側縦ラインパターンである。
図86は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G351、G353、G355、G357を差分算出回路721へ供給する。図87は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G340、G342、G344、G346を差分算出回路722へ供給する。図88は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G342、G344、G346、G348を差分算出回路723へ供給する。図89は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G360、G362、G364、G366を差分算出回路724へ供給する。図90は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G362、G364、G366、G368を差分算出回路725へ供給する。
図91〜図95は、注目画素がG画素で、第6の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第6の面内加算パターンは、注目画素から下側の周辺画素を組合せた下側縦ラインパターンである。
図91は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G153、G155、G157、G159を差分算出回路721へ供給する。図92は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G142、G144、G146、G148を差分算出回路722へ供給する。図93は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G146、G148、G14Aを差分算出回路723へ供給する。図94は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G162、G164、G166、G168を差分算出回路724へ供給する。図95は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G164、G166、G168、G16Aを差分算出回路725へ供給する。
図96〜図100は、注目画素がG画素で、第6の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第6の面内加算パターンは、注目画素から下側の周辺画素を組合せた下側縦ラインパターンである。
図96は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G353、G355、G357、G359を差分算出回路721へ供給する。図97は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G342、G344、G346、G348を差分算出回路722へ供給する。図98は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G346、G348、G34Aを差分算出回路723へ供給する。図99は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G362、G364、G366、G368を差分算出回路724へ供給する。図100は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G364、G366、G368、G36Aを差分算出回路725へ供給する。
図101〜図105は、注目画素がG画素で、第7の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第7の面内加算パターンは、注目画素から左側の周辺画素を組合せた左側横ラインパターンである。
図101は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G115、G135、G155、G175を差分算出回路721へ供給する。図102は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G104、G124、G144、G164を差分算出回路722へ供給する。図103は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G124、G144、G164、G184を差分算出回路723へ供給する。図104は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G106、G126、G146、G166を差分算出回路724へ供給する。図105は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G126、G146、G166、G186を差分算出回路725へ供給する。
図106〜図110は、注目画素がG画素で、第7の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第7の面内加算パターンは、注目画素から左側の周辺画素を組合せた左側横ラインパターンである。
図106は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G315、G335、G355、G375を差分算出回路721へ供給する。図107は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G304、G324、G344、G364を差分算出回路722へ供給する。図108は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G324、G344、G364、G384を差分算出回路723へ供給する。図109は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G306、G326、G346、G366を差分算出回路724へ供給する。図110は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G326、G346、G366、G386を差分算出回路725へ供給する。
図111〜図115は、注目画素がG画素で、第8の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第8の面内加算パターンは、注目画素から右側の周辺画素を組合せた右側横ラインパターンである。
図111は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G135、G155、G175、G195を差分算出回路721へ供給する。図112は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G124、G144、G164、G184を差分算出回路722へ供給する。図113は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G164、G184、G1A4を差分算出回路723へ供給する。図114は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G126、G146、G166、G186を差分算出回路724へ供給する。図115は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G146、G166、G186、G1A6を差分算出回路725へ供給する。
図116〜図120は、注目画素がG画素で、第8の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第8の面内加算パターンは、注目画素から右側の周辺画素を組合せた右側横ラインパターンである。
図116は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G335、G355、G375、G395を差分算出回路721へ供給する。図117は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G324、G344、G364、G384を差分算出回路722へ供給する。図118は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G364、G384、G3A4を差分算出回路723へ供給する。図119は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G326、G346、G366、G386を差分算出回路724へ供給する。図120は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G346、G366、G386、G3A6を差分算出回路725へ供給する。
図121〜図125は、注目画素がG画素で、第9の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第9の面内加算パターンは、注目画素から左上側の周辺画素を組合せた左上側斜めラインパターンである。
図121は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G133、G144、G155、G166を差分算出回路721へ供給する。図122は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G122、G133、G144、G155を差分算出回路722へ供給する。図123は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G155、G166、G177を差分算出回路723へ供給する。図124は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G142、G153、G164、G175を差分算出回路724へ供給する。図125は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G124、G135、G146、G157を差分算出回路725へ供給する。
図126〜図130は、注目画素がG画素で、第9の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第9の面内加算パターンは、注目画素から左上側の周辺画素を組合せた左上側斜めラインパターンである。
図126は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G333、G344、G355、G366を差分算出回路721へ供給する。図127は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G322、G333、G344、G355を差分算出回路722へ供給する。図128は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G355、G366、G377を差分算出回路723へ供給する。図129は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G342、G353、G364、G375を差分算出回路724へ供給する。図130は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G324、G335、G346、G357を差分算出回路725へ供給する。
図131〜図135は、注目画素がG画素で、第10の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第10の面内加算パターンは、注目画素から右下側の周辺画素を組合せた右下側斜めラインパターンである。
図131は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G155、G166、G177を差分算出回路721へ供給する。図132は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G133、G144、G155、G166を差分算出回路722へ供給する。図133は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G155、G166、G177、G188を差分算出回路723へ供給する。図134は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G153、G164、G175、G186を差分算出回路724へ供給する。図135は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G135、G146、G157、G168を差分算出回路725へ供給する。
図136〜図140は、注目画素がG画素で、第10の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第10の面内加算パターンは、注目画素から右下側の周辺画素を組合せた右下側斜めラインパターンである。
図136は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G355、G366、G377を差分算出回路721へ供給する。図137は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G333、G344、G355、G366を差分算出回路722へ供給する。図138は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G355、G366、G377、G388を差分算出回路723へ供給する。図139は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G353、G364、G375、G386を差分算出回路724へ供給する。図140は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G335、G346、G357、G368を差分算出回路725へ供給する。
図141〜図145は、注目画素がG画素で、第11の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第11の面内加算パターンは、注目画素から右上側の周辺画素を組合せた右上側斜めラインパターンである。
図141は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G146、G155、G164、G173を差分算出回路721へ供給する。図142は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G155、G164、G173、G182を差分算出回路722へ供給する。図143は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G137、G146、G155、G164を差分算出回路723へ供給する。図144は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G135、G144、G153、G162を差分算出回路724へ供給する。図145は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G157、G166、G175、G184を差分算出回路725へ供給する。
図146〜図150は、注目画素がG画素で、第11の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第11の面内加算パターンは、注目画素から右上側の周辺画素を組合せた右上側斜めラインパターンである。
図146は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G346、G355、G364、G373を差分算出回路721へ供給する。図147は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G355、G364、G373、G382を差分算出回路722へ供給する。図148は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G337、G346、G355、G364を差分算出回路723へ供給する。図149は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G335、G344、G353、G362を差分算出回路724へ供給する。図150は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G357、G366、G375、G384を差分算出回路725へ供給する。
図151〜図155は、注目画素がG画素で、第12の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第12の面内加算パターンは、注目画素から左下側の周辺画素を組合せた左下側斜めラインパターンである。
図151は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G137、G146、G155、G164を差分算出回路721へ供給する。図152は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G146、G155、G164、G173を差分算出回路722へ供給する。図153は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G128、G137、G146、G155を差分算出回路723へ供給する。図154は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G126、G135、G144、G153を差分算出回路724へ供給する。図155は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G148、G157、G166、G175を差分算出回路725へ供給する。
図156〜図160は、注目画素がG画素で、第12の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第12の面内加算パターンは、注目画素から左下側の周辺画素を組合せた左下側斜めラインパターンである。
図156は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G337、G346、G355、G364を差分算出回路721へ供給する。図157は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G346、G355、G364、G373を差分算出回路722へ供給する。図158は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G328、G337、G346、G355を差分算出回路723へ供給する。図159は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G326、G335、G344、G353を差分算出回路724へ供給する。図160は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G348、G357、G366、G375を差分算出回路725へ供給する。
図14の画素空間配置で注目画素がR画素のときの、面内4画素加算パターンと前側フレーム画像内4画素加算パターン、あるいは面内4画素加算パターンと後側フレーム画像内4画素加算パターンの組合せを図161〜図200に示す。これら図161〜図200において、フィルタ信号NR2の注目フレーム画像の面内加算パターンが示され、フレーム遅延信号NR1Dの前側の隣接フレーム画像の加算パターンが示され、フレーム遅延信号NR3Dの後側の隣接フレーム画像の加算パターンが示されている。前方参照パターン検出回路71、後方参照パターン検出回路72は各々、面内パターン検出回路50で判別された面内加算パターンに対し、隣接フレーム画像の5パターンの加算パターンの中から最も相関の高い加算パターンを判別する。
図161〜図165は、注目画素がR画素で、第1の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第1の面内加算パターンは、注目画素から左上側の周辺画素を組合せた左上側ブロックパターンである。
図161は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値R133、R153、R135、R155を差分算出回路721へ供給する。図162は、注目フレーム画像の画素配置を左シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R113、R133、R115、R135を差分算出回路722へ供給する。図163は、注目フレーム画像の画素配置を右シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R153、R173、R155、R175を差分算出回路723へ供給する。図164は、注目フレーム画像の画素配置を上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R131、R151、R133、R153を差分算出回路724へ供給する。図165は、注目フレーム画像の画素配置を下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R135、R155、R137、R157を差分算出回路725へ供給する。
図166〜図170は、注目画素がR画素で、第1の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第1の面内加算パターンは、注目画素から左上側の周辺画素を組合せた左上側ブロックパターンである。
図166は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値R333、R353、R335、R355を差分算出回路721へ供給する。図167は、注目フレーム画像の画素配置を右シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R313、R333、R315、R335を差分算出回路722へ供給する。図168は、注目フレーム画像の画素配置を左シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R353、R373、R355、R375を差分算出回路723へ供給する。図169は、注目フレーム画像の画素配置を上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R331、R351、R333、R353を差分算出回路724へ供給する。図170は、注目フレーム画像の画素配置を下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R335、R355、R337、R357を差分算出回路725へ供給する。
図171〜図175は、注目画素がR画素で、第2の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第2の面内加算パターンは、注目画素から右上側の周辺画素を組合せた右上側ブロックパターンである。
図171は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値R153、R173、R155、R175を差分算出回路721へ供給する。図172は、注目フレーム画像の画素配置を左シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R133、R153、R135、R155を差分算出回路722へ供給する。図173は、注目フレーム画像の画素配置を右シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R173、R193、R175、R195を差分算出回路723へ供給する。図174は、注目フレーム画像の画素配置を上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R151、R171、R153、R173を差分算出回路724へ供給する。図175は、注目フレーム画像の画素配置を下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R155、R175、R157、R177を差分算出回路725へ供給する。
図176〜図180は、注目画素がR画素で、第2の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第2の面内加算パターンは、注目画素から右上側の周辺画素を組合せた右上側ブロックパターンである。
図176は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値R353、R373、R355、R375を差分算出回路721へ供給する。図177は、注目フレーム画像の画素配置を右シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R333、R353、R335、R355を差分算出回路722へ供給する。図178は、注目フレーム画像の画素配置を左シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R373、R393、R375、R395を差分算出回路723へ供給する。図179は、注目フレーム画像の画素配置を上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R351、R371、R353、R373を差分算出回路724へ供給する。図180は、注目フレーム画像の画素配置を下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R355、R375、R357、R377を差分算出回路725へ供給する。
図181〜図185は、注目画素がR画素で、第3の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第3の面内加算パターンは、注目画素から右下側の周辺画素を組合せた右下側ブロックパターンである。
図181は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値R155、R175、R157、R177を差分算出回路721へ供給する。図182は、注目フレーム画像の画素配置を左シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R135、R155、R137、R157を差分算出回路722へ供給する。図183は、注目フレーム画像の画素配置を右シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R175、R195、R177、R197を差分算出回路723へ供給する。図184は、注目フレーム画像の画素配置を上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R153、R173、R155、R175を差分算出回路724へ供給する。図185は、注目フレーム画像の画素配置を下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R157、R177、R159、R179を差分算出回路725へ供給する。
図186〜図190は、注目画素がR画素で、第3の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第3の面内加算パターンは、注目画素から右下側の周辺画素を組合せた右下側ブロックパターンである。
図186は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値R355、R375、R357、R377を差分算出回路721へ供給する。図187は、注目フレーム画像の画素配置を右シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R335、R355、R337、R357を差分算出回路722へ供給する。図188は、注目フレーム画像の画素配置を左シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R375、R395、R377、R397を差分算出回路723へ供給する。図189は、注目フレーム画像の画素配置を上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R353、R373、R355、R375を差分算出回路724へ供給する。図190は、注目フレーム画像の画素配置を下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R357、R377、R359、R379を差分算出回路725へ供給する。
図191〜図195は、注目画素がR画素で、第4の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第4の面内加算パターンは、注目画素から左下側の周辺画素を組合せた左下側ブロックパターンである。
図191は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値R135、R155、R137、R157を差分算出回路721へ供給する。図192は、注目フレーム画像の画素配置を左シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R115、R135、R117、R137を差分算出回路722へ供給する。図193は、注目フレーム画像の画素配置を右シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R155、R175、R157、R177を差分算出回路723へ供給する。図194は、注目フレーム画像の画素配置を上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R133、R153、R135、R155を差分算出回路724へ供給する。図195は、注目フレーム画像の画素配置を下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R137、R157、R139、R159を差分算出回路725へ供給する。
図196〜図200は、注目画素がR画素で、第4の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第4の面内加算パターンは、注目画素から左下側の周辺画素を組合せた左下側ブロックパターンである。
図196は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値R335、R355、R337、R357を差分算出回路721へ供給する。図197は、注目フレーム画像の画素配置を右シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R315、R335、R317、R337を差分算出回路722へ供給する。図198は、注目フレーム画像の画素配置を左シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R355、R375、R357、R377を差分算出回路723へ供給する。図199は、注目フレーム画像の画素配置を上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R333、R353、R335、R355を差分算出回路724へ供給する。図200は、注目フレーム画像の画素配置を下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R337、R357、R339、R359を差分算出回路725へ供給する。
図14の画素空間配置で注目画素がB画素のときの、面内4画素加算パターンと前側フレーム画像内4画素加算パターン、あるいは面内4画素加算パターンと後側フレーム画像内4画素加算パターンの組合せを図201〜図240に示す。これら図201〜図240において、フィルタ信号NR2の注目フレーム画像の面内加算パターンが示され、フレーム遅延信号NR1Dの前側の隣接フレーム画像の加算パターンが示され、フレーム遅延信号NR3Dの後側の隣接フレーム画像の加算パターンが示されている。前方参照パターン検出回路71、後方参照パターン検出回路72は各々、面内パターン検出回路50で判別された面内加算パターンに対し、隣接フレーム画像の5パターンの加算パターンの中から最も相関の高い加算パターンを判別する。
図201〜図205は、注目画素がB画素で、第1の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第1の面内加算パターンは、注目画素から左上側の周辺画素を組合せた左上側ブロックパターンである。
図201は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値B133、B153、B135、B155を差分算出回路721へ供給する。図202は、注目フレーム画像の画素配置を左シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B113、B133、B115、B135を差分算出回路722へ供給する。図203は、注目フレーム画像の画素配置を右シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B153、B173、B155、B175を差分算出回路723へ供給する。図204は、注目フレーム画像の画素配置を上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B131、B151、B133、B153を差分算出回路724へ供給する。図205は、注目フレーム画像の画素配置を下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B135、B155、B137、B157を差分算出回路725へ供給する。
図206〜図210は、注目画素がB画素で、第1の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第1の面内加算パターンは、注目画素から左上側の周辺画素を組合せた左上側ブロックパターンである。
図206は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値B333、B353、B335、B355を差分算出回路721へ供給する。図207は、注目フレーム画像の画素配置を右シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B313、B333、B315、B335を差分算出回路722へ供給する。図208は、注目フレーム画像の画素配置を左シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B353、B373、B355、B375を差分算出回路723へ供給する。図209は、注目フレーム画像の画素配置を上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B331、B351、B333、B353を差分算出回路724へ供給する。図210は、注目フレーム画像の画素配置を下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B335、B355、B337、B357を差分算出回路725へ供給する。
図211〜図215は、注目画素がB画素で、第2の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第2の面内加算パターンは、注目画素から右上側の周辺画素を組合せた右上側ブロックパターンである。
図211は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値B153、B173、B155、B175を差分算出回路721へ供給する。図212は、注目フレーム画像の画素配置を左シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B133、B153、B135、B155を差分算出回路722へ供給する。図213は、注目フレーム画像の画素配置を右シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B173、B193、B175、B195を差分算出回路723へ供給する。図214は、注目フレーム画像の画素配置を上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B151、B171、B153、B173を差分算出回路724へ供給する。図215は、注目フレーム画像の画素配置を下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B155、B175、B157、B177を差分算出回路725へ供給する。
図216〜図220は、注目画素がB画素で、第2の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第2の面内加算パターンは、注目画素から右上側の周辺画素を組合せた右上側ブロックパターンである。
図216は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値B353、B373、B355、B375を差分算出回路721へ供給する。図217は、注目フレーム画像の画素配置を右シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B333、B353、B335、B355を差分算出回路722へ供給する。図218は、注目フレーム画像の画素配置を左シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B373、B393、B375、B395を差分算出回路723へ供給する。図219は、注目フレーム画像の画素配置を上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B351、B371、B353、B373を差分算出回路724へ供給する。図220は、注目フレーム画像の画素配置を下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B355、B375、B357、B377を差分算出回路725へ供給する。
図221〜図225は、注目画素がB画素で、第3の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第3の面内加算パターンは、注目画素から右下側の周辺画素を組合せた右下側ブロックパターンである。
図221は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値B155、B175、B157、B177を差分算出回路721へ供給する。図222は、注目フレーム画像の画素配置を左シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B135、B155、B137、B157を差分算出回路722へ供給する。図223は、注目フレーム画像の画素配置を右シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B175、B195、B177、B197を差分算出回路723へ供給する。図224は、注目フレーム画像の画素配置を上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B153、B173、B155、B175を差分算出回路724へ供給する。図225は、注目フレーム画像の画素配置を下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B157、B177、B159、B179を差分算出回路725へ供給する。
図226〜図230は、注目画素がB画素で、第3の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第3の面内加算パターンは、注目画素から右下側の周辺画素を組合せた右下側ブロックパターンである。
図226は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値B355、B375、B357、B377を差分算出回路721へ供給する。図227は、注目フレーム画像の画素配置を右シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B335、B355、B337、B357を差分算出回路722へ供給する。図228は、注目フレーム画像の画素配置を左シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B375、B395、B377、B397を差分算出回路723へ供給する。図229は、注目フレーム画像の画素配置を上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B353、B373、B355、B375を差分算出回路724へ供給する。図230は、注目フレーム画像の画素配置を下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B357、B377、B359、B379を差分算出回路725へ供給する。
図231〜図235は、注目画素がB画素で、第4の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第4の面内加算パターンは、注目画素から左下側の周辺画素を組合せた左下側ブロックパターンである。
図231は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値B135、B155、B137、B157を差分算出回路721へ供給する。図232は、注目フレーム画像の画素配置を左シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B115、B135、B117、B137を差分算出回路722へ供給する。図233は、注目フレーム画像の画素配置を右シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B155、B175、B157、B177を差分算出回路723へ供給する。図234は、注目フレーム画像の画素配置を上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B133、B153、B135、B155を差分算出回路724へ供給する。図235は、注目フレーム画像の画素配置を下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B137、B157、B139、B159を差分算出回路725へ供給する。
図236〜図240は、注目画素がB画素で、第4の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第4の面内加算パターンは、注目画素から左下側の周辺画素を組合せた左下側ブロックパターンである。
図236は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値B335、B355、B337、B357を差分算出回路721へ供給する。図237は、注目フレーム画像の画素配置を右シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B315、B335、B317、B337を差分算出回路722へ供給する。図238は、注目フレーム画像の画素配置を左シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B355、B375、B357、B377を差分算出回路723へ供給する。図239は、注目フレーム画像の画素配置を上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B333、B353、B335、B355を差分算出回路724へ供給する。図240は、注目フレーム画像の画素配置を下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B337、B357、B339、B359を差分算出回路725へ供給する。
面内パターン検出回路50は、図9の最大画素値入力端子712及び最小画素値入力端子713を介して、図12の差分算出回路721〜725へ、面内パターン検出回路50で最も相関が高いと判別された加算パターンに対応した最大画素値MAXと最小画素値MINを供給する。差分算出回路721〜725の各々は、図9の画素選択回路719から入力される4画素群K1〜K5のいずれかの画素値と、面内パターン検出回路50から入力される最大画素値MAXと最小画素値MINとの併せて6画素を相互に比較して、これら6画素の中での最大画素値と最小画素値を求める。次に、差分算出回路721〜725の各々は、これら最大画素値と最小画素値の差分(面間相関評価値)を求め、当該加算パターンの差分情報として最小値算出回路740へ供給する。
最小値算出回路740は、差分算出回路721〜725から入力される5パターンの画素間の差分を互いに比較して、最小の差分の加算パターンを求め、求めた加算パターンの情報を図9の画素指定回路750へ通知する。画素指定回路750は、最小値算出回路740から通知された加算パターンを構成する画素の画素位置を出力端子760から画素加算部20へ供給する。前方参照パターン検出回路71の出力は選択回路21へ、後方参照パターン検出回路72の出力は選択回路23へそれぞれ供給される。
前記のようにG画素の場合は面内パターン検出回路50で判別された12パターンの加算パターン各々に対して、隣接フレーム画像の5パターンの加算パターンを組み合わせるように、R画素、B画素の場合は面内パターン検出回路50で判別された4パターンの加算パターン各々に対して、隣接フレーム画像の5パターンの加算パターンを組み合わせるように構成したので、隣接フレーム画像を含めて画素加算に使う画素に、注目画素と相関の高い画素を正しく選択できるように出来、画素加算後の画像の解像度劣化を小さくすることができる。
次に、図13を参照して、選択回路21,22,23のいずれかである選択回路2xの動作を説明する。図14に示されるような注目画素P55を中心とした水平11画素、垂直11画素からなる画素群が遅延回路270でサンプリングされる。以下、図14の画素値PAAが入力端子200に印加されたタイミングについて説明する。A/D変換器13Aから出力された画素値PAAは、画素加算回路14の入力端子INaから、遅延回路36を経て選択回路23の入力端子200に印加される。あるいは、A/D変換器13Aから出力された画素値PAAは、画素加算回路14の入力端子INaから、1フレーム遅延回路31、遅延回路35を経て選択回路22の入力端子200に印加される。あるいは、A/D変換器13Aから出力された画素値PAAは、画素加算回路14の入力端子INaから、1フレーム遅延回路31、1フレーム遅延回路32、遅延回路34を経て選択回路21の入力端子200に印加される。
入力端子200に印加された画素値PAAは、1ライン遅延回路201、1画素遅延回路2700、画素選択回路220へ供給される。1画素遅延回路2700は、1画素遅延した画素値P9Aを出力する。画素値P9Aは、1画素遅延回路2701、画素選択回路220へ供給される。1画素遅延回路2701は、1画素遅延した画素値P8Aを出力する。画素値P8Aは、1画素遅延回路2702、画素選択回路220へ供給される。1画素遅延回路2702は、1画素遅延した画素値P7Aを出力する。画素値P7Aは、1画素遅延回路2703、画素選択回路220へ供給される。1画素遅延回路2703は、1画素遅延した画素値P6Aを出力する。画素値P6Aは、1画素遅延回路2704、画素選択回路220へ供給される。1画素遅延回路2704は、1画素遅延した画素値P5Aを出力する。画素値P5Aは、1画素遅延回路2705、画素選択回路220へ供給される。1画素遅延回路2705は、1画素遅延した画素値P4Aを出力する。画素値P4Aは、1画素遅延回路2706、画素選択回路220へ供給される。1画素遅延回路2706は、1画素遅延した画素値P3Aを出力する。画素値P3Aは、1画素遅延回路2707、画素選択回路220へ供給される。1画素遅延回路2707は、1画素遅延した画素値P2Aを出力する。画素値P2Aは、1画素遅延回路2708、画素選択回路220へ供給される。1画素遅延回路2708は、1画素遅延した画素値P1Aを出力する。画素値P1Aは、1画素遅延回路2709、画素選択回路220へ供給される。1画素遅延回路2709は、1画素遅延した画素値P0Aを出力する。画素値P0Aは、画素選択回路220へ供給される。
1ライン遅延回路201は画素値PA9を出力する。画素値PA9は、1ライン遅延回路202、1画素遅延回路2710、画素選択回路220へ供給される。1画素遅延回路2710は、1画素遅延した画素値P99を出力する。画素値P99は、1画素遅延回路2711、画素選択回路220へ供給される。1画素遅延回路2711は、1画素遅延した画素値P89を出力する。画素値P89は、1画素遅延回路2712、画素選択回路220へ供給される。1画素遅延回路2712は、1画素遅延した画素値P79を出力する。画素値P79は、1画素遅延回路2713、画素選択回路220へ供給される。1画素遅延回路2713は、1画素遅延した画素値P69を出力する。画素値P69は、1画素遅延回路2714、画素選択回路220へ供給される。1画素遅延回路2714は、1画素遅延した画素値P59を出力する。画素値P59は、1画素遅延回路2715、画素選択回路220へ供給される。1画素遅延回路2715は、1画素遅延した画素値P49を出力する。画素値P49は、1画素遅延回路2716、画素選択回路220へ供給される。1画素遅延回路2716は、1画素遅延した画素値P39を出力する。画素値P39は、1画素遅延回路2717、画素選択回路220へ供給される。1画素遅延回路2717は、1画素遅延した画素値P29を出力する。画素値P29は、1画素遅延回路2718、画素選択回路220へ供給される。1画素遅延回路2718は、1画素遅延した画素値P19を出力する。画素値P19は、1画素遅延回路2719、画素選択回路220へ供給される。1画素遅延回路2719は、1画素遅延した画素値P09を出力する。画素値P09は、画素選択回路220へ供給される。1ライン遅延回路202は画素値PA8を出力する。画素値PA8は、1ライン遅延回路203、1画素遅延回路2720、画素選択回路220へ供給される。1画素遅延回路2720は、1画素遅延した画素値P98を出力する。画素値P98は、1画素遅延回路2721、画素選択回路220へ供給される。1画素遅延回路2721は、1画素遅延した画素値P88を出力する。画素値P88は、1画素遅延回路2722、画素選択回路220へ供給される。1画素遅延回路2722は、1画素遅延した画素値P78を出力する。画素値P78は、1画素遅延回路2723、画素選択回路220へ供給される。1画素遅延回路2723は、1画素遅延した画素値P68を出力する。画素値P68は、1画素遅延回路2724、画素選択回路220へ供給される。1画素遅延回路2724は、1画素遅延した画素値P58を出力する。画素値P58は、1画素遅延回路2725、画素選択回路220へ供給される。1画素遅延回路2725は、1画素遅延した画素値P48を出力する。画素値P48は、1画素遅延回路2726、画素選択回路220へ供給される。1画素遅延回路2726は、1画素遅延した画素値P38を出力する。画素値P38は、1画素遅延回路2727、画素選択回路220へ供給される。1画素遅延回路2727は、1画素遅延した画素値P28を出力する。画素値P28は、1画素遅延回路2728、画素選択回路220へ供給される。1画素遅延回路2728は、1画素遅延した画素値P18を出力する。画素値P18は、1画素遅延回路2729、画素選択回路220へ供給される。1画素遅延回路2729は、1画素遅延した画素値P08を出力する。画素値P08は、画素選択回路220へ供給される。
1ライン遅延回路203は画素値PA7を出力する。画素値PA7は、1ライン遅延回路204、1画素遅延回路2730、画素選択回路220へ供給される。1画素遅延回路2730は、1画素遅延した画素値P97を出力する。画素値P97は、1画素遅延回路2731、画素選択回路220へ供給される。1画素遅延回路2731は、1画素遅延した画素値P87を出力する。画素値P87は、1画素遅延回路2732、画素選択回路220へ供給される。1画素遅延回路2732は、1画素遅延した画素値P77を出力する。画素値P77は、1画素遅延回路2733、画素選択回路220へ供給される。1画素遅延回路2733は、1画素遅延した画素値P67を出力する。画素値P67は、1画素遅延回路2734、画素選択回路220へ供給される。1画素遅延回路2734は、1画素遅延した画素値P57を出力する。画素値P57は、1画素遅延回路2735、画素選択回路220へ供給される。1画素遅延回路2735は、1画素遅延した画素値P47を出力する。画素値P47は、1画素遅延回路2736、画素選択回路220へ供給される。1画素遅延回路2736は、1画素遅延した画素値P37を出力する。画素値P37は、1画素遅延回路2737、画素選択回路220へ供給される。1画素遅延回路2737は、1画素遅延した画素値P27を出力する。画素値P27は、1画素遅延回路2738、画素選択回路220へ供給される。1画素遅延回路2738は、1画素遅延した画素値P17を出力する。画素値P17は、1画素遅延回路2739、画素選択回路220へ供給される。1画素遅延回路2739は、1画素遅延した画素値P07を出力する。画素値P07は、画素選択回路220へ供給される。
1ライン遅延回路204は画素値PA6を出力する。画素値PA6は、1ライン遅延回路205、1画素遅延回路2740、画素選択回路220へ供給される。1画素遅延回路2740は、1画素遅延した画素値P96を出力する。画素値P96は、1画素遅延回路2741、画素選択回路220へ供給される。1画素遅延回路2741は、1画素遅延した画素値P86を出力する。画素値P86は、1画素遅延回路2742、画素選択回路220へ供給される。1画素遅延回路2742は、1画素遅延した画素値P76を出力する。画素値P76は、1画素遅延回路2743、画素選択回路220へ供給される。1画素遅延回路2743は、1画素遅延した画素値P66を出力する。画素値P66は、1画素遅延回路2744、画素選択回路220へ供給される。1画素遅延回路2744は、1画素遅延した画素値P56を出力する。画素値P56は、1画素遅延回路2745、画素選択回路220へ供給される。1画素遅延回路2745は、1画素遅延した画素値P46を出力する。画素値P46は、1画素遅延回路2746、画素選択回路220へ供給される。1画素遅延回路2746は、1画素遅延した画素値P36を出力する。画素値P36は、1画素遅延回路2747、画素選択回路220へ供給される。1画素遅延回路2747は、1画素遅延した画素値P26を出力する。画素値P26は、1画素遅延回路2748、画素選択回路220へ供給される。1画素遅延回路2748は、1画素遅延した画素値P16を出力する。画素値P16は、1画素遅延回路2749、画素選択回路220へ供給される。1画素遅延回路2749は、1画素遅延した画素値P06を出力する。画素値P06は、画素選択回路220へ供給される。
1ライン遅延回路205は画素値PA5を出力する。画素値PA5は、1ライン遅延回路206、1画素遅延回路2750、画素選択回路220へ供給される。1画素遅延回路2750は、1画素遅延した画素値P95を出力する。画素値P95は、1画素遅延回路2751、画素選択回路220へ供給される。1画素遅延回路2751は、1画素遅延した画素値P85を出力する。画素値P85は、1画素遅延回路2752、画素選択回路220へ供給される。1画素遅延回路2752は、1画素遅延した画素値P75を出力する。画素値P75は、1画素遅延回路2753、画素選択回路220へ供給される。1画素遅延回路2753は、1画素遅延した画素値P65を出力する。画素値P65は、1画素遅延回路2754、画素選択回路220へ供給される。1画素遅延回路2754は、1画素遅延した画素値P55を出力する。画素値P55は、1画素遅延回路2755、画素選択回路220へ供給される。1画素遅延回路2755は、1画素遅延した画素値P45を出力する。画素値P45は、1画素遅延回路2756、画素選択回路220へ供給される。1画素遅延回路2756は、1画素遅延した画素値P35を出力する。画素値P35は、1画素遅延回路2757、画素選択回路220へ供給される。1画素遅延回路2757は、1画素遅延した画素値P25を出力する。画素値P25は、1画素遅延回路2758、画素選択回路220へ供給される。1画素遅延回路2758は、1画素遅延した画素値P15を出力する。画素値P15は、1画素遅延回路2759、画素選択回路220へ供給される。1画素遅延回路2759は、1画素遅延した画素値P05を出力する。画素値P05は、画素選択回路220へ供給される。
1ライン遅延回路206は画素値PA4を出力する。画素値PA4は、1ライン遅延回路207、1画素遅延回路2760、画素選択回路220へ供給される。1画素遅延回路2760は、1画素遅延した画素値P94を出力する。画素値P94は、1画素遅延回路2761、画素選択回路220へ供給される。1画素遅延回路2761は、1画素遅延した画素値P84を出力する。画素値P84は、1画素遅延回路2762、画素選択回路220へ供給される。1画素遅延回路2762は、1画素遅延した画素値P74を出力する。画素値P74は、1画素遅延回路2763、画素選択回路220へ供給される。1画素遅延回路2763は、1画素遅延した画素値P64を出力する。画素値P64は、1画素遅延回路2764、画素選択回路220へ供給される。1画素遅延回路2764は、1画素遅延した画素値P54を出力する。画素値P54は、1画素遅延回路2765、画素選択回路220へ供給される。1画素遅延回路2765は、1画素遅延した画素値P44を出力する。画素値P44は、1画素遅延回路2766、画素選択回路220へ供給される。1画素遅延回路2766は、1画素遅延した画素値P34を出力する。画素値P34は、1画素遅延回路2767、画素選択回路220へ供給される。1画素遅延回路2767は、1画素遅延した画素値P24を出力する。画素値P24は、1画素遅延回路2768、画素選択回路220へ供給される。1画素遅延回路2768は、1画素遅延した画素値P14を出力する。画素値P14は、1画素遅延回路2769、画素選択回路220へ供給される。1画素遅延回路2769は、1画素遅延した画素値P04を出力する。画素値P04は、画素選択回路220へ供給される。
1ライン遅延回路207は画素値PA3を出力する。画素値PA3は、1ライン遅延回路208、1画素遅延回路2770、画素選択回路220へ供給される。1画素遅延回路2770は、1画素遅延した画素値P93を出力する。画素値P93は、1画素遅延回路2771、画素選択回路220へ供給される。1画素遅延回路2771は、1画素遅延した画素値P83を出力する。画素値P83は、1画素遅延回路2772、画素選択回路220へ供給される。1画素遅延回路2772は、1画素遅延した画素値P73を出力する。画素値P73は、1画素遅延回路2773、画素選択回路220へ供給される。1画素遅延回路2773は、1画素遅延した画素値P63を出力する。画素値P63は、1画素遅延回路2774、画素選択回路220へ供給される。1画素遅延回路2774は、1画素遅延した画素値P53を出力する。画素値P53は、1画素遅延回路2775、画素選択回路220へ供給される。1画素遅延回路2775は、1画素遅延した画素値P43を出力する。画素値P43は、1画素遅延回路2776、画素選択回路220へ供給される。1画素遅延回路2776は、1画素遅延した画素値P33を出力する。画素値P33は、1画素遅延回路2777、画素選択回路220へ供給される。1画素遅延回路2777は、1画素遅延した画素値P23を出力する。画素値P23は、1画素遅延回路2778、画素選択回路220へ供給される。1画素遅延回路2778は、1画素遅延した画素値P13を出力する。画素値P13は、1画素遅延回路2779、画素選択回路220へ供給される。1画素遅延回路2779は、1画素遅延した画素値P03を出力する。画素値P03は、画素選択回路220へ供給される。
1ライン遅延回路208は画素値PA2を出力する。画素値PA2は、1ライン遅延回路209、1画素遅延回路2780、画素選択回路220へ供給される。1画素遅延回路2780は、1画素遅延した画素値P92を出力する。画素値P92は、1画素遅延回路2781、画素選択回路220へ供給される。1画素遅延回路2781は、1画素遅延した画素値P82を出力する。画素値P82は、1画素遅延回路2782、画素選択回路220へ供給される。1画素遅延回路2782は、1画素遅延した画素値P72を出力する。画素値P72は、1画素遅延回路2783、画素選択回路220へ供給される。1画素遅延回路2783は、1画素遅延した画素値P62を出力する。画素値P62は、1画素遅延回路2784、画素選択回路220へ供給される。1画素遅延回路2784は、1画素遅延した画素値P52を出力する。画素値P52は、1画素遅延回路2785、画素選択回路220へ供給される。1画素遅延回路2785は、1画素遅延した画素値P42を出力する。画素値P42は、1画素遅延回路2786、画素選択回路220へ供給される。1画素遅延回路2786は、1画素遅延した画素値P32を出力する。画素値P32は、1画素遅延回路2787、画素選択回路220へ供給される。1画素遅延回路2787は、1画素遅延した画素値P22を出力する。画素値P22は、1画素遅延回路2788、画素選択回路220へ供給される。1画素遅延回路2788は、1画素遅延した画素値P12を出力する。画素値P12は、1画素遅延回路2789、画素選択回路220へ供給される。1画素遅延回路2789は、1画素遅延した画素値P02を出力する。画素値P02は、画素選択回路220へ供給される。
1ライン遅延回路209は画素値PA1を出力する。画素値PA1は、1ライン遅延回路210、1画素遅延回路2790、画素選択回路220へ供給される。1画素遅延回路2790は、1画素遅延した画素値P91を出力する。画素値P91は、1画素遅延回路2791、画素選択回路220へ供給される。1画素遅延回路2791は、1画素遅延した画素値P81を出力する。画素値P81は、1画素遅延回路2792、画素選択回路220へ供給される。1画素遅延回路2792は、1画素遅延した画素値P71を出力する。画素値P71は、1画素遅延回路2793、画素選択回路220へ供給される。1画素遅延回路2793は、1画素遅延した画素値P61を出力する。画素値P61は、1画素遅延回路2794、画素選択回路220へ供給される。1画素遅延回路2794は、1画素遅延した画素値P51を出力する。画素値P51は、1画素遅延回路2795、画素選択回路220へ供給される。1画素遅延回路2795は、1画素遅延した画素値P41を出力する。画素値P41は、1画素遅延回路2796、画素選択回路220へ供給される。1画素遅延回路2796は、1画素遅延した画素値P31を出力する。画素値P31は、1画素遅延回路2797、画素選択回路220へ供給される。1画素遅延回路2797は、1画素遅延した画素値P21を出力する。画素値P21は、1画素遅延回路2798、画素選択回路220へ供給される。1画素遅延回路2798は、1画素遅延した画素値P11を出力する。画素値P11は、1画素遅延回路2799、画素選択回路220へ供給される。1画素遅延回路2799は、1画素遅延した画素値P01を出力する。画素値P01は、画素選択回路220へ供給される。
1ライン遅延回路210は画素値PA0を出力する。画素値PA0は、1画素遅延回路2800、画素選択回路220へ供給される。1画素遅延回路2800は、1画素遅延した画素値P90を出力する。画素値P90は、1画素遅延回路2801、画素選択回路220へ供給される。1画素遅延回路2801は、1画素遅延した画素値P80を出力する。画素値P80は、1画素遅延回路2802、画素選択回路220へ供給される。1画素遅延回路2802は、1画素遅延した画素値P70を出力する。画素値P70は、1画素遅延回路2803、画素選択回路220へ供給される。1画素遅延回路2803は、1画素遅延した画素値P60を出力する。画素値P60は、1画素遅延回路2804、画素選択回路220へ供給される。1画素遅延回路2804は、1画素遅延した画素値P50を出力する。画素値P50は、1画素遅延回路2805、画素選択回路220へ供給される。1画素遅延回路2805は、1画素遅延した画素値P40を出力する。画素値P40は、1画素遅延回路2806、画素選択回路220へ供給される。1画素遅延回路2806は、1画素遅延した画素値P30を出力する。画素値P30は、1画素遅延回路2807、画素選択回路220へ供給される。1画素遅延回路2807は、1画素遅延した画素値P20を出力する。画素値P20は、1画素遅延回路2808、画素選択回路220へ供給される。1画素遅延回路2808は、1画素遅延した画素値P10を出力する。画素値P10は、1画素遅延回路2809、画素選択回路220へ供給される。1画素遅延回路2809は、1画素遅延した画素値P00を出力する。画素値P00は、画素選択回路220へ供給される。
同期信号発生回路18は、同期信号入力端子218を介して画素選択回路220へ水平同期信号HDと垂直同期信号VDを供給するので、画素選択回路220は水平同期信号HDと垂直同期信号VDに基づいて注目フレーム画像の注目画素P55、あるいは隣接フレーム画像の注目画素相当のP55の画素位置を判断して、色フィルタ配列に対応する注目画素の画素位置を特定する。また、注目画素が、R画素かG画素かB画素かも特定できる。面内パターン検出回路50、前方参照パターン検出回路71、後方参照パターン検出回路72から指定された加算すべき画素の画素位置も特定できる。
図2を参照すると、選択回路21,22,23は、加算パターンに対応する4画素の画素値を加算演算回路24へ供給する。MPU19は、制御端子17を介して加算演算回路24へ1倍から12倍の増感倍率Lを設定する。加算演算回路24は、選択回路21,22,23から供給された各4画素、合計12画素の画素値を加算して出力端子OUTaを介して映像信号処理回路15へ供給する。
注目画素がG画素のときに、フレーム画像間で動きが無いときの動作例を図41と図46について説明する。
注目フレーム画像で画像領域「上側ブロックパターン」が最も注目画素との相関が高く、前側フレーム画像で注目フレーム画像の画素配置と同じ画素配置が最も注目画素との相関が高く、側フレーム画像で注目フレーム画像の画素配置と同じ画素配置が最も注目画素との相関が高い場合、加算演算回路24は、次式の演算を行う。
G=(G153+G144+G164+G155
+G53+G44+G64+G55
+G353+G344+G364+G355)×L/12
注目画素がG画素のときに、フレーム画像間で動きが有るときの動作例を図42と図48について説明する。
注目フレーム画像で画像領域「上側ブロックパターン」が最も注目画素との相関が高く、前側フレーム画像で注目フレーム画像の画素配置を左上シフトした画素配置が最も注目画素との相関が高く、後側フレーム画像で注目フレーム画像の画素配置を右下シフトした画素配置が最も注目画素との相関が高い場合、加算演算回路24は、次式の演算を行う。
G=(G153+G144+G164+G155
+G53+G44+G64+G55
+G353+G344+G364+G355)×L/12
注目画素がR画素のときに、フレーム画像間で動きが無いときの動作例を図161と図166について説明する。
注目フレーム画像で画像領域「左上側ブロックパターン」が最も注目画素との相関が高く、前側フレーム画像で注目フレーム画像の画素配置と同じ画素配置が最も注目画素との相関が高く、後側フレーム画像で注目フレーム画像の画素配置と同じ画素配置が最も注目画素との相関が高い場合、加算演算回路24は、次式の演算を行う。
R=(R133+R153+R135+R155
+R33+R53+R35+R55
+R333+R353+R335+R355)×L/12
注目画素がR画素のときに、フレーム画像間で動きが有るときの動作例を図162と図168について説明する。
注目フレーム画像で画像領域「上側ブロックパターン」が最も注目画素との相関が高く、前側フレーム画像で注目フレーム画像の画素配置を左シフトした画素配置が最も注目画素との相関が高く、後側フレーム画像で注目フレーム画像の画素配置を右シフトした画素配置が最も注目画素との相関が高い場合、加算演算回路24は、次式の演算を行う。
R=(R113+R133+R115+R135
+R33+R53+R35+R55
+R353+R373+R355+R375)×L/12
注目画素がB画素のときに、フレーム画像間で動きが無いときの動作例を図201と図206について説明する。
注目フレーム画像で画像領域「左上側ブロックパターン」が最も注目画素との相関が高く、前側フレーム画像で注目フレーム画像の画素配置と同じ画素配置が最も注目画素との相関が高く、後側フレーム画像で注目フレーム画像の画素配置と同じ画素配置が最も注目画素との相関が高い場合、加算演算回路24は、次式の演算を行う。
B=(B133+B153+B135+B155
+B33+B53+B35+B55
+B333+B353+B335+B355)×L/12
注目画素がB画素のときに、フレーム画像間で動きが有るときの動作例を図202と図208について説明する。
注目フレーム画像で画像領域「上側ブロックパターン」が最も注目画素との相関が高く、前側フレーム画像で注目フレーム画像の画素配置を左シフトした画素配置が最も注目画素との相関が高く、後側フレーム画像で注目フレーム画像の画素配置を右シフトした画素配置が最も注目画素との相関が高い場合、加算演算回路24は、次式の演算を行う。
B=(B113+B133+B115+B135
+B33+B53+B35+B55
+B353+B373+B355+B375)×L/12
上記実施の形態では、画素加算を、縦、横、斜めパターン、ブロックパターンなど、解像度の高い被写体を含む画像を想定した加算パターンを使うように構成したので、相関の高い画素同士が加算できる。解像度の高い被写体を含むシーンを画素加算した場合でも、高解像度部分がぼやけることを防ぐ効果がある。
R画素とB画素の加算パターンも、G画素同様に、縦、横、斜めパターンも含めて相関を判定するように構成してもよい。R画素とB画素の場合は、G画素よりも加算対象の画素間の距離が長くなることから相関判定の誤判定の危険性が高まること、また回路規模が大きくなること、また人間の色の変化に対する感度が輝度よりも低いことなどを総合的に判断して加算パターンを決める。
上記実施の形態では、注目フレーム画像及び、前後の隣接フレーム画像の各面内での加算画素数が4画素、3面あわせて合計12画素加算まで可能な場合について説明したが、例えば、各面内での加算画素数が2画素、3面あわせて合計6画素加算することもできる。前記増感倍率Lは1〜12倍まで設定できるが、増感倍率Lが7〜12倍のときは、面内での加算画素数が4画素の加算パターンを使用し、増感倍率Lが1〜6倍のときは、面内での加算画素数が2画素の加算パターンを使用することで、解像度の低下を最低限に抑えた高感度化が可能となる。図について面内での加算画素数が2画素の加算パターンについて説明する。図241〜図264について注目フレーム画像の2画素の加算パターンを示す。
図241は、注目画素から上側の周辺画素を組合せた上側縦ラインパターンである。画素選択回路599は、画素値G53、G55を差分算出回路601へ供給する。図242は、注目画素から下側の周辺画素を組合せた下側縦ラインパターンである。画素選択回路599は、画素値G55、G57を差分算出回路602へ供給する。図243は、注目画素から左側の周辺画素を組合せた左側ブロックパターンである。画素選択回路599は、画素値G35、G55を差分算出回路603へ供給する。図244は、注目画素から右側の周辺画素を組合せた右側ブロックパターンである。画素選択回路599は、画素値G55、G75を差分算出回路604へ供給する。
図245は、注目画素から右上側の周辺画素を組合せた右上側斜めラインパターンである。画素選択回路599は、画素値G64、G55を差分算出回路605へ供給する。図246は、注目画素から右下側の周辺画素を組合せた右下側斜めラインパターンである。画素選択回路599は、画素値G55、G66を差分算出回路606へ供給する。図247は、注目画素から左下側の周辺画素を組合せた左下側斜めラインパターンである。画素選択回路599は、画素値G55、G46を差分算出回路607へ供給する。図248は、注目画素から左上側の周辺画素を組合せた左上側斜めラインパターンである。画素選択回路599は、画素値G44、G55を差分算出回路608へ供給する。
図249は、注目画素から上側の周辺画素を組合せた上側縦ラインパターンである。画素選択回路599は、画素値R53、R55を差分算出回路601へ供給する。図250は、注目画素から下側の周辺画素を組合せた下側縦ラインパターンである。画素選択回路599は、画素値R55、R57を差分算出回路602へ供給する。図251は、注目画素から左側の周辺画素を組合せた左側ブロックパターンである。画素選択回路599は、画素値R35、R55を差分算出回路603へ供給する。図252は、注目画素から右側の周辺画素を組合せた右側ブロックパターンである。画素選択回路599は、画素値R55、R75を差分算出回路604へ供給する。
図253は、注目画素から右上側の周辺画素を組合せた右上側斜めラインパターンである。画素選択回路599は、画素値R73、R55を差分算出回路605へ供給する。図254は、注目画素から右下側の周辺画素を組合せた右下側斜めラインパターンである。画素選択回路599は、画素値R55、R77を差分算出回路606へ供給する。図255は、注目画素から左下側の周辺画素を組合せた左下側斜めラインパターンである。画素選択回路599は、画素値R55、R37を差分算出回路607へ供給する。図256は、注目画素から左上側の周辺画素を組合せた左上側斜めラインパターンである。画素選択回路599は、画素値R33、R55を差分算出回路608へ供給する。
図257は、注目画素から上側の周辺画素を組合せた上側縦ラインパターンである。画素選択回路599は、画素値B53、B55を差分算出回路601へ供給する。図258は、注目画素から下側の周辺画素を組合せた下側縦ラインパターンである。画素選択回路599は、画素値B55、B57を差分算出回路602へ供給する。図259は、注目画素から左側の周辺画素を組合せた左側ブロックパターンである。画素選択回路599は、画素値B35、B55を差分算出回路603へ供給する。図260は、注目画素から右側の周辺画素を組合せた右側ブロックパターンである。画素選択回路599は、画素値B55、B75を差分算出回路604へ供給する。
図261は、注目画素から右上側の周辺画素を組合せた右上側斜めラインパターンである。画素選択回路599は、画素値B73、B55を差分算出回路605へ供給する。図262は、注目画素から右下側の周辺画素を組合せた右下側斜めラインパターンである。画素選択回路599は、画素値B55、B77を差分算出回路606へ供給する。図263は、注目画素から左下側の周辺画素を組合せた左下側斜めラインパターンである。画素選択回路599は、画素値B55、B37を差分算出回路607へ供給する。図264は、注目画素から左上側の周辺画素を組合せた左上側斜めラインパターンである。画素選択回路599は、画素値B33、B55を差分算出回路608へ供給する。
次に、図265〜図440について隣接フレーム画像の2画素の加算パターンを示す。
図265〜図269は、注目画素がG画素で、第1の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第1の面内加算パターンは、注目画素から上側の周辺画素を組合せた上側縦ラインパターンである。
図265は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G153、G155を差分算出回路721へ供給する。図266は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G142、G144を差分算出回路722へ供給する。図267は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G146を差分算出回路723へ供給する。図268は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G162、G164を差分算出回路724へ供給する。図269は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G164、G166を差分算出回路725へ供給する。
図270〜図274は、注目画素がG画素で、第1の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第1の面内加算パターンは、注目画素から上側の周辺画素を組合せた上側縦ラインパターンである。
図270は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G353、G355を差分算出回路721へ供給する。図271は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G342、G344を差分算出回路722へ供給する。図272は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G346を差分算出回路723へ供給する。図273は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G362、G364を差分算出回路724へ供給する。図274は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G364、G366を差分算出回路725へ供給する。
図275〜図279は、注目画素がG画素で、第2の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第2の面内加算パターンは、注目画素から下側の周辺画素を組合せた下側縦ラインパターンである。
図275は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G155、G157を差分算出回路721へ供給する。図276は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G146を差分算出回路722へ供給する。図277は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G146、G148を差分算出回路723へ供給する。図278は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G164、G166を差分算出回路724へ供給する。図279は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G166、G168を差分算出回路725へ供給する。
図280〜図284は、注目画素がG画素で、第2の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第2の面内加算パターンは、注目画素から下側の周辺画素を組合せた下側縦ラインパターンである。
図280は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G355、G357を差分算出回路721へ供給する。図281は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G346を差分算出回路722へ供給する。図282は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G346、G348を差分算出回路723へ供給する。図283は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G364、G366を差分算出回路724へ供給する。図284は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G366、G368を差分算出回路725へ供給する。
図285〜図289は、注目画素がG画素で、第3の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第3の面内加算パターンは、注目画素から左側の周辺画素を組合せた左側横ラインパターンである。
図285は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G135、G155を差分算出回路721へ供給する。図286は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G124、G144を差分算出回路722へ供給する。図287は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G164を差分算出回路723へ供給する。図288は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G126、G146を差分算出回路724へ供給する。図289は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G146、G166を差分算出回路725へ供給する。
図290〜図294は、注目画素がG画素で、第3の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第3の面内加算パターンは、注目画素から左側の周辺画素を組合せた左側横ラインパターンである。
図290は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G335、G355を差分算出回路721へ供給する。図291は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G324、G344を差分算出回路722へ供給する。図292は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G364を差分算出回路723へ供給する。図293は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値GG326、G346を差分算出回路724へ供給する。図294は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G346、G366を差分算出回路725へ供給する。
図295〜図299は、注目画素がG画素で、第4の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第4の面内加算パターンは、注目画素から右側の周辺画素を組合せた右側横ラインパターンである。
図295は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G155、G175を差分算出回路721へ供給する。図296は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G164を差分算出回路722へ供給する。図297は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G164、G184を差分算出回路723へ供給する。図298は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G146、G166を差分算出回路724へ供給する。図299は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G166、G186を差分算出回路725へ供給する。
図300〜図304は、注目画素がG画素で、第4の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第4の面内加算パターンは、注目画素から右側の周辺画素を組合せた右側横ラインパターンである。
図300は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G355、G375を差分算出回路721へ供給する。図301は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G364を差分算出回路722へ供給する。図302は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G364、G384を差分算出回路723へ供給する。図303は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G346、G366を差分算出回路724へ供給する。図304は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G366、G386を差分算出回路725へ供給する。
図305〜図309は、注目画素がG画素で、第5の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第5の面内加算パターンは、注目画素から右上側の周辺画素を組合せた右上側斜めラインパターンである。
図305は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G164、G155を差分算出回路721へ供給する。図306は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G164、G173を差分算出回路722へ供給する。図307は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G155、G146を差分算出回路723へ供給する。図308は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G153を差分算出回路724へ供給する。図309は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G166、G175を差分算出回路725へ供給する。
図310〜図314は、注目画素がG画素で、第5の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第5の面内加算パターンは、注目画素から右上側の周辺画素を組合せた右上側斜めラインパターンである。
図310は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G364、G355を差分算出回路721へ供給する。図311は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G364、G373を差分算出回路722へ供給する。図312は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G346、G355を差分算出回路723へ供給する。図313は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G353を差分算出回路724へ供給する。図314は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G366、G375を差分算出回路725へ供給する。
図315〜図319は、注目画素がG画素で、第6の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第6の面内加算パターンは、注目画素から右下側の周辺画素を組合せた右下側斜めラインパターンである。
図315は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G155、G166を差分算出回路721へ供給する。図316は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G155を差分算出回路722へ供給する。図317は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G166、G177を差分算出回路723へ供給する。図318は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G164、G175を差分算出回路724へ供給する。図319は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G146、G157を差分算出回路725へ供給する。
図320〜図324は、注目画素がG画素で、第6の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第6の面内加算パターンは、注目画素から右下側の周辺画素を組合せた右下側斜めラインパターンである。
図320は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G355、G366を差分算出回路721へ供給する。図321は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G355を差分算出回路722へ供給する。図322は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G366、G377を差分算出回路723へ供給する。図323は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G364、G375を差分算出回路724へ供給する。図324は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G346、G357を差分算出回路725へ供給する。
図325〜図329は、注目画素がG画素で、第7の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第7の面内加算パターンは、注目画素から左下側の周辺画素を組合せた左下側斜めラインパターンである。
図325は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G146、G155を差分算出回路721へ供給する。図326は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G155、G164を差分算出回路722へ供給する。図327は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G137、G146を差分算出回路723へ供給する。図328は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G135、G144を差分算出回路724へ供給する。図329は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G157、G166を差分算出回路725へ供給する。
図330〜図334は、注目画素がG画素で、第7の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第7の面内加算パターンは、注目画素から左下側の周辺画素を組合せた左下側斜めラインパターンである。
図330は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G346、G355を差分算出回路721へ供給する。図331は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G355、G364を差分算出回路722へ供給する。図332は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G337、G346を差分算出回路723へ供給する。図333は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G335、G344を差分算出回路724へ供給する。図334は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G357、G366を差分算出回路725へ供給する。
図335〜図339は、注目画素がG画素で、第8の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第8の面内加算パターンは、注目画素から左上側の周辺画素を組合せた左上側斜めラインパターンである。
図335は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値G144、G155を差分算出回路721へ供給する。図336は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G133、G144を差分算出回路722へ供給する。図337は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G155、G166を差分算出回路723へ供給する。図338は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G153、G164を差分算出回路724へ供給する。図339は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値G135、G146を差分算出回路725へ供給する。
図340〜図344は、注目画素がG画素で、第8の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第8の面内加算パターンは、注目画素から左上側の周辺画素を組合せた左上側斜めラインパターンである。
図340は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値G344、G355を差分算出回路721へ供給する。図341は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G333、G344を差分算出回路722へ供給する。図342は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G355、G366を差分算出回路723へ供給する。図343は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G353、G364を差分算出回路724へ供給する。図344は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値G335、G346を差分算出回路725へ供給する。
図345〜図347は、注目画素がR画素で、第1の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第1の面内加算パターンは、注目画素から上側の周辺画素を組合せた上側ブロックパターンである。
図345は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値R153、R155を差分算出回路721へ供給する。図346は、注目フレーム画像の画素配置を上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R151、R153を差分算出回路722へ供給する。図347は、注目フレーム画像の画素配置を下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R155、R157を差分算出回路723へ供給する。
図348〜図350は、注目画素がR画素で、第1の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第1の面内加算パターンは、注目画素から上側の周辺画素を組合せた上側ブロックパターンである。
図348は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値R353、R355を差分算出回路721へ供給する。図349は、注目フレーム画像の画素配置を上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R351、R353を差分算出回路722へ供給する。図350は、注目フレーム画像の画素配置を下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R355、R357を差分算出回路723へ供給する。
図351〜図353は、注目画素がR画素で、第2の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第2の面内加算パターンは、注目画素から下側の周辺画素を組合せた下側ブロックパターンである。
図351は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値R155、R157を差分算出回路721へ供給する。図352は、注目フレーム画像の画素配置を上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R153、R155を差分算出回路722へ供給する。図353は、注目フレーム画像の画素配置を下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R157、R159を差分算出回路723へ供給する。
図354〜図356は、注目画素がR画素で、第2の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第2の面内加算パターンは、注目画素から下側の周辺画素を組合せた下側ブロックパターンである。
図354は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値R355、R357を差分算出回路721へ供給する。図355は、注目フレーム画像の画素配置を上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R353、R355を差分算出回路722へ供給する。図356は、注目フレーム画像の画素配置を下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R357、R359を差分算出回路723へ供給する。
図357〜図359は、注目画素がR画素で、第3の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第3の面内加算パターンは、注目画素から左側の周辺画素を組合せた左側ブロックパターンである。
図357は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値R135、R155を差分算出回路721へ供給する。図358は、注目フレーム画像の画素配置を左シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R115、R135を差分算出回路722へ供給する。図359は、注目フレーム画像の画素配置を右シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R155、R175を差分算出回路723へ供給する。
図360〜図362は、注目画素がR画素で、第3の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第3の面内加算パターンは、注目画素から左側の周辺画素を組合せた左側ブロックパターンである。
図360は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値R335、R355を差分算出回路721へ供給する。図361は、注目フレーム画像の画素配置を左シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R315、R335を差分算出回路722へ供給する。図362は、注目フレーム画像の画素配置を右シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R355、R375を差分算出回路723へ供給する。
図363〜図365は、注目画素がR画素で、第4の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第4の面内加算パターンは、注目画素から右側の周辺画素を組合せた右側ブロックパターンである。
図363は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値R155、R175を差分算出回路721へ供給する。図364は、注目フレーム画像の画素配置を左シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R135、R155を差分算出回路722へ供給する。図365は、注目フレーム画像の画素配置を右シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R175、R195を差分算出回路723へ供給する。
図366〜図368は、注目画素がR画素で、第4の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第4の面内加算パターンは、注目画素から右側の周辺画素を組合せた右側ブロックパターンである。
図366は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値R355、R375を差分算出回路721へ供給する。図367は、注目フレーム画像の画素配置を左シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R335、R355を差分算出回路722へ供給する。図368は、注目フレーム画像の画素配置を右シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R375、R395を差分算出回路723へ供給する。
図369〜図371は、注目画素がR画素で、第5の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第5の面内加算パターンは、注目画素から右上側の周辺画素を組合せた右上側ブロックパターンである。
図369は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値R155、R173を差分算出回路721へ供給する。図370は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R173、R191を差分算出回路722へ供給する。図371は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R137、R155を差分算出回路723へ供給する。
図372〜図374は、注目画素がR画素で、第5の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第5の面内加算パターンは、注目画素から右上側の周辺画素を組合せた右上側ブロックパターンである。
図372は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値R355、R373を差分算出回路721へ供給する。図373は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R373、R391を差分算出回路722へ供給する。図374は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R337、R355を差分算出回路723へ供給する。
図375〜図377は、注目画素がR画素で、第6の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第6の面内加算パターンは、注目画素から右下側の周辺画素を組合せた右下側ブロックパターンである。
図375は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値R155、R177を差分算出回路721へ供給する。図376は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R133、R155を差分算出回路722へ供給する。図377は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R177、R199を差分算出回路723へ供給する。
図378〜図380は、注目画素がR画素で、第6の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第6の面内加算パターンは、注目画素から右下側の周辺画素を組合せた右下側ブロックパターンである。
図378は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値R355、R377を差分算出回路721へ供給する。図379は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R333、R355を差分算出回路722へ供給する。図380は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R377、R399を差分算出回路723へ供給する。
図381〜図383は、注目画素がR画素で、第7の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第7の面内加算パターンは、注目画素から左下側の周辺画素を組合せた左下側ブロックパターンである。
図381は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値R155、R137を差分算出回路721へ供給する。図382は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R173、R155を差分算出回路722へ供給する。図383は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R137、R119を差分算出回路723へ供給する。
図384〜図386は、注目画素がR画素で、第7の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第7の面内加算パターンは、注目画素から左下側の周辺画素を組合せた左下側ブロックパターンである。
図384は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値R355、R337を差分算出回路721へ供給する。図385は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R373、R355を差分算出回路722へ供給する。図386は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R337、R319を差分算出回路723へ供給する。
図387〜図389は、注目画素がR画素で、第8の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第8の面内加算パターンは、注目画素から左上側の周辺画素を組合せた左上側ブロックパターンである。
図387は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値R155、R133を差分算出回路721へ供給する。図388は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R133、R111を差分算出回路722へ供給する。図389は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値R155、R177を差分算出回路723へ供給する。
図390〜図392は、注目画素がR画素で、第8の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第8の面内加算パターンは、注目画素から左上側の周辺画素を組合せた左上側ブロックパターンである。
図390は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値R355、R333を差分算出回路721へ供給する。図391は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R311、R333を差分算出回路722へ供給する。図392は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値R355、R377を差分算出回路723へ供給する。
図393〜図395は、注目画素がB画素で、第1の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第1の面内加算パターンは、注目画素から上側の周辺画素を組合せた上側ブロックパターンである。
図393は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値B153、B155を差分算出回路721へ供給する。図394は、注目フレーム画像の画素配置を上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B151、B153を差分算出回路722へ供給する。図395は、注目フレーム画像の画素配置を下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B155、B157を差分算出回路723へ供給する。
図396〜図398は、注目画素がB画素で、第1の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第1の面内加算パターンは、注目画素から上側の周辺画素を組合せた上側ブロックパターンである。
図396は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値B353、B355を差分算出回路721へ供給する。図397は、注目フレーム画像の画素配置を上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B351、B353を差分算出回路722へ供給する。図398は、注目フレーム画像の画素配置を下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B355、B357を差分算出回路723へ供給する。
図399〜図401は、注目画素がB画素で、第2の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第2の面内加算パターンは、注目画素から下側の周辺画素を組合せた下側ブロックパターンである。
図399は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値B155、B157を差分算出回路721へ供給する。図400は、注目フレーム画像の画素配置を上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B153、B155を差分算出回路722へ供給する。図401は、注目フレーム画像の画素配置を下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B157、B159を差分算出回路723へ供給する。
図402〜図404は、注目画素がB画素で、第2の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第2の面内加算パターンは、注目画素から下側の周辺画素を組合せた下側ブロックパターンである。
図402は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値B355、B357を差分算出回路721へ供給する。図403は、注目フレーム画像の画素配置を上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B353、B355を差分算出回路722へ供給する。図404は、注目フレーム画像の画素配置を下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B357、B359を差分算出回路723へ供給する。
図405〜図407は、注目画素がB画素で、第3の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第3の面内加算パターンは、注目画素から左側の周辺画素を組合せた左側ブロックパターンである。
図405は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値B135、B155を差分算出回路721へ供給する。図406は、注目フレーム画像の画素配置を左シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B115、B135を差分算出回路722へ供給する。図407は、注目フレーム画像の画素配置を右シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B155、B175を差分算出回路723へ供給する。
図408〜図410は、注目画素がB画素で、第3の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第3の面内加算パターンは、注目画素から左側の周辺画素を組合せた左側ブロックパターンである。
図408は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値B335、B355を差分算出回路721へ供給する。図409は、注目フレーム画像の画素配置を左シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B315、B335を差分算出回路722へ供給する。図410は、注目フレーム画像の画素配置を右シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B355、B375を差分算出回路723へ供給する。
図411〜図413は、注目画素がB画素で、第4の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第4の面内加算パターンは、注目画素から右側の周辺画素を組合せた右側ブロックパターンである。
図411は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値B155、B175を差分算出回路721へ供給する。図412は、注目フレーム画像の画素配置を左シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B135、B155を差分算出回路722へ供給する。図413は、注目フレーム画像の画素配置を右シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B175、B195を差分算出回路723へ供給する。
図414〜図416は、注目画素がB画素で、第4の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第4の面内加算パターンは、注目画素から右側の周辺画素を組合せた右側ブロックパターンである。
図414は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値B355、B375を差分算出回路721へ供給する。図415は、注目フレーム画像の画素配置を左シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B335、B355を差分算出回路722へ供給する。図416は、注目フレーム画像の画素配置を右シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B375、B395を差分算出回路723へ供給する。
図417〜図419は、注目画素がB画素で、第5の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第5の面内加算パターンは、注目画素から右上側の周辺画素を組合せた右上側ブロックパターンである。
図417は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値B155、B173を差分算出回路721へ供給する。図418は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B173、B191を差分算出回路722へ供給する。図419は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B137、B155を差分算出回路723へ供給する。
図420〜図422は、注目画素がB画素で、第5の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第5の面内加算パターンは、注目画素から右上側の周辺画素を組合せた右上側ブロックパターンである。
図420は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値B355、B373を差分算出回路721へ供給する。図421は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B373、B391を差分算出回路722へ供給する。図422は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B337、B355を示す信号K3を差分算出回路723へ供給する。
図423〜図425は、注目画素がB画素で、第6の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第6の面内加算パターンは、注目画素から右下側の周辺画素を組合せた右下側ブロックパターンである。
図423は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値B155、B177を差分算出回路721へ供給する。図424は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B133、B155を差分算出回路722へ供給する。図425は、注目フレーム画像の画素配置を右下シフトした画素配置の前フレーム画像フレーム内加算パターンである。画素選択回路719は、画素値B177、B199を示す信号K3を差分算出回路723へ供給する。
図426〜図428は、注目画素がB画素で、第6の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第6の面内加算パターンは、注目画素から右下側の周辺画素を組合せた右下側ブロックパターンである。
図426は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値B355、B377を差分算出回路721へ供給する。図427は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B333、B355を差分算出回路722へ供給する。図428は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B377、B399を差分算出回路723へ供給する。
図429〜図431は、注目画素がB画素で、第7の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第7の面内加算パターンは、注目画素から左下側の周辺画素を組合せた左下側ブロックパターンである。
図429は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値B155、B137を差分算出回路721へ供給する。図430は、注目フレーム画像の画素配置を右上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B173、B155を差分算出回路722へ供給する。図431は、注目フレーム画像の画素配置を左下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B137、B119を差分算出回路723へ供給する。
図432〜図434は、注目画素がB画素で、第7の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第7の面内加算パターンは、注目画素から左下側の周辺画素を組合せた左下側ブロックパターンである。
図432は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値B355、B337を差分算出回路721へ供給する。図433は、注目フレーム画像の画素配置を右上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B373、B355を差分算出回路722へ供給する。図434は、注目フレーム画像の画素配置を左下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B337、B319を差分算出回路723へ供給する。
図435〜図437は、注目画素がB画素で、第8の面内加算パターンが選択されたときの、前方参照パターン検出回路71に対応した第1から第5の前方参照加算パターンを示す図である。第8の面内加算パターンは、注目画素から左上側の周辺画素を組合せた左上側ブロックパターンである。
図435は、注目フレーム画像の画素配置と同じ画素配置の前方参照加算パターンである。画素選択回路719は、画素値B155、B133を差分算出回路721へ供給する。図436は、注目フレーム画像の画素配置を左上シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B133、B111を差分算出回路722へ供給する。図437は、注目フレーム画像の画素配置を右下シフトした画素配置の前方参照加算パターンである。画素選択回路719は、画素値B155、B177を差分算出回路723へ供給する。
図438〜図440は、注目画素がB画素で、第8の面内加算パターンが選択されたときの、後方参照パターン検出回路72に対応した第1から第5の後方参照加算パターンを示す図である。第8の面内加算パターンは、注目画素から左上側の周辺画素を組合せた左上側ブロックパターンである。
図438は、注目フレーム画像の画素配置と同じ画素配置の後方参照加算パターンである。画素選択回路719は、画素値B355、B333を差分算出回路721へ供給する。図439は、注目フレーム画像の画素配置を左上シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B311、B333を差分算出回路722へ供給する。図440は、注目フレーム画像の画素配置を右下シフトした画素配置の後方参照加算パターンである。画素選択回路719は、画素値B355、B377を差分算出回路723へ供給する。
増感倍率Lは1〜12倍まで設定できるが、増感倍率Lが1〜6倍のときは、面内での加算画素数が2画素の加算パターンを使用し、増感倍率Lが7〜12倍のときは、面内での加算画素数が4画素の加算パターンを使用することで、解像度の低下を最低限に抑えた高感度化が可能となる。
前記の増感倍率Lの設定パターンの別パターンを説明する。増感倍率Lが1〜6倍のときは、面内での加算画素数が2画素の加算パターンを使用して最大倍率の6倍を実現する。増感倍率Lが6〜8倍のときは、注目フレーム画像内での加算画素数は4画素の加算パターンを使用し、隣接フレーム画像内での加算画素数は2画素の加算パターンを使用して最大倍率の8倍を実現する。増感倍率Lが8〜12倍のときは、面内での加算画素数が4画素の加算パターンを使用して最大倍率の12倍を実現する。このように2画素の加算パターンと4画素の加算パターンを組み合わせることで解像度の低下を最低限に抑えた高感度化が可能となる。
上記実施の形態では、隣接フレーム画像を前後両方とも加算対象とした構成について説明したが、フレーム画像メモリを含む回路規模の削減による低コスト化のために、隣接フレーム画像をどちらか一方にしてフレーム画像メモリを削減してもよい。加算すべき画素は減るものの本発明の解像度の劣化が少ない高感度化の効果は得られる。
上記実施の形態では、フレーム画像メモリを2フレーム画像分使った注目フレーム画像と隣接の2フレーム画像の合計3フレーム画像から加算する構成を採用したが、4フレーム画像以上の構成とすることで、より加算画素数を増やし高感度化することができる。次の隣接フレーム画像の加算対象画素を空間判別回路で判別した画素領域の最大値画素と最小値画素を参照して探索することで順次フレーム画像数の拡張も可能である。
色フィルタの配列としてRGBの原色系のベイヤ配列の場合について説明したが、水平2画素、垂直2画素の4画素の同様な市松パターンを基本配列としていれば、いかなる色フィルタの組み合わせでも、同様に動作し、同様な効果が得られるものである。
以上に説明したように、本実施の形態では、注目画素に最も相関の高い画素を使って画素加算を行うので画像解像度の劣化を最小限に抑えつつ感度向上とS/N比の向上とを実現することができる。
また、時間的に前方及び後方の隣接フレーム画像の画素を、注目フレーム画像の注目画素と最も相関の高い画素を使って画素加算を行うので動きによるぼやけを最小限に抑えつつ感度向上とS/N比の向上とを実現することができる。
また、上記したように、まず注目フレーム画像で相関の高い画素を判別した上で、その加算パターンに絞って、前後の隣接フレーム画像の中の加算すべき画素を探索するので、全ての加算パターンについて探索するための回路規模を削減できる。
また、上記したように、画素加算を撮像素子から出力された直後に行うことにより、映像信号処理の影響を受けずに、画素加算による高感度信号が生成できる。映像信号処理の後段で行う画素加算は、近傍画素を使った演算である色同時化処理や、フィルタ処理が施されているので、水平解像度や垂直解像度の低下が想定よりも大きい。また、小振幅信号のまま、映像信号処理を行うので階調落ちの可能性がある。画素加算を撮像素子から出力された直後に行うことにより、画像情報が損なわれる前に、画素加算して信号振幅を回復することができるので、細部の画像情報を視認することができるという効果がある。
また、撮像部で得られた画像(例えば、ベイヤ配列の色フィルタアレイを透過した光学像から得られた画像)に対して、色同時化処理などの各種画像処理を施す前に、ノイズを低減する処理を施すことが可能となる。そのため、各種画像処理を施すことによってノイズの影響が周囲に拡散する前に、ノイズを低減する処理を施すことが可能となる。したがって、効果的にノイズを低減することが可能となる。
また、映像信号処理回路15では非線形なフィルタ処理や階調変換処理が行われているので、低振幅信号を入力とした場合、信号振幅が失われている場合がある。このため、仮に、映像信号処理回路15の出力信号を2画素加算しても、信号振幅が2倍の画像信号にならない可能性がある。上記実施の形態では、映像信号処理回路15での映像信号処理前に画素加算するように構成したので、2画素加算したら、信号振幅が2倍の画像信号になる効果がある。
また、上記実施の形態では、12倍までの増感倍率Lを設定した場合について説明したが、12倍以上に設定してもよい。12倍以上の増感倍率Lの設定は、階調落ちに注意して使う必要がある。
また、上記実施の形態では、例えば、説明のわかりやすさのため、図3,図6,図10及び図13の遅延回路420,520,770,270が冗長となる構成で説明されているが、回路構成の工夫で削減されてもよい。
また、上記したように、本実施の形態では、同じフィルタ色の画素を加算するので、混色することなく高感度なカラー画像が得られる。
ところで、低照度時の撮像画像をアナログアンプで増幅すると信号よりもノイズが大きくなる。またデジタルアンプで増幅すると階調落ちが発生する。上記したように、本実施の形態では、周辺画素の画素加算で高感度化を図ることができるので信号成分よりもノイズ成分が小さくなる。例えば2画素加算すると信号成分は2倍になり、ノイズ成分は二乗根倍になり、相対的に純粋の信号成分が大きくなる。また、画像の性質として空間的に近傍に位置する画素同士は高い相関を有することから、注目画素に最も近い位置の複数画素を加算することで実効性の高い感度向上を実現している。
実施の形態2.
次に、本発明に係る実施の形態2について説明する。図441は、実施の形態2の撮像装置2の概略構成を示すブロック図である。図441において、実施の形態2の撮像装置2の構成は、画像検波回路81が付加されている点と図1のMPU19の代わりにMPU19Bが設けられている点を除き、実施の形態1の撮像装置1の構成と同様であり、実施の形態1と同様な効果を奏するものである。
画像検波回路81は、同期信号発生回路18から供給される水平同期信号HDと垂直同期信号VDとに同期して動作し、画素加算回路14の出力信号(すなわち、補正された撮像信号)を検波する機能を有する。例えば、画像検波回路81は、垂直走査周期と同期して、画素加算回路14の出力信号に含まれる有効画素領域の補正画素値を所定数のフレーム分(たとえば、1フレーム分)だけ積算して積算値Σpを算出する積分機能や、その積算値Σpを全有効画素数Npで除算して信号振幅の平均レベルASA(=Σp/Np)を算出(検出)する平均レベル検出機能を有している。積分値Σpや平均レベルASAは、MPU19Bに与えられる。画像検波回路81は、画素加算回路14の出力信号から特定の空間周波数成分を抽出し、抽出された空間周波数成分を積算して積算値Σpの算出や平均レベルASAの検出を行うこともできる。なお、全有効画素数Npが2のn乗(nは2以上の整数)で与えられる場合には、積算値Σpを示すビット列にビットシフト演算を施すことで平均レベルASAを算出(検出)してもよい。
また、画像検波回路81は、MPU19Bにより指定された露光制御パラメータと積算値Σpとから被写体照度の換算値を逆算する機能を有する。露光制御パラメータとしては、例えば、開口絞り111の開口度を示す絞り値、プログラマブル利得増幅回路13Pの増幅利得、CCD画像センサ12の電荷蓄積時間、及び、増感倍率Lが挙げられる。被写体照度の換算値をLXで表すとき、例えば、次の式(1)を用いて被写体照度の換算値LXを逆算することができる。
LX=Σp/(K×Tc×G×L) ・・・(1)
上式(1)中、Kは、比例定数、Tcは、CCD画像センサ12の電荷蓄積時間、Gは、プログラマブル利得増幅回路13Pの増幅利得、Lは、画素加算回路14で使用される増感倍率である。
本実施の形態のMPU19Bは、実施の形態1のMPU19の機能に加えて、映像信号レベルが目標とする信号レベルとなるように、画像検波回路81の出力に応じて露光制御パラメータを制御する機能を有している。具体的には、MPU19Bは、画像検波回路81の出力に応じて撮像光学系11の開口絞り111の絞り値を制御することができる。また、タイミング発生回路17は、駆動タイミング信号DRTを駆動回路16に供給してCCD素子122の光電変換素子からの電荷読み出しタイミングや電荷強制排出タイミングを制御することができるので、MPU19Bは、画像検波回路81の出力に応じてタイミング発生回路17の動作を制御することによりCCD画像センサ12の電荷蓄積時間Tc(すなわち露光時間)を制御することが可能である。また、MPU19Bは、画像検波回路81の出力に応じて増幅利得Gと増感倍率Lとを個別に制御することができる。
映像信号処理回路15は、垂直走査周期と同期して、画素加算回路14の出力に含まれるノイズ信号の信号レベル(ノイズレベル)を検出する機能を有している。MPU19Bは、映像信号処理回路15から供給されたノイズレベルに応じた露光制御を行うことができる。例えば、MPU19Bは、当該ノイズレベルに応じて、係数可変設定回路495を制御して空間フィルタ41,42,43におけるフィルタ係数群を最適なものに設定することが可能である。これにより、ノイズが低減した画像を得ることができる。
なお、上記の例では、信号振幅の平均レベルASAの算出及びノイズレベルの算出は、垂直走査周期と同期して行うものとして説明されていたが、画像検波回路81及び映像信号処理回路15のそれぞれの信号処理時間、並びに、画像検波回路81及び映像信号処理回路15からMPU19Bへの信号伝送時間を考慮して、垂直走査周期の数回に1回の割合で平均レベルASAの算出及びノイズレベルの算出が行われてもよい。
また、画像検波回路81は、画素加算回路14の出力信号に対してピーク検波と平均値検波とを実行する機能を有していてもよい。MPU19Bは、画像検波回路81により検出されたピーク値及び平均値を用いて、着目する被写体画像の視認性が高くなるように露光制御を行うことができる。例えば、MPU19Bは、被写体画像のハイライト部分を白く飽和させないようにピーク値を用いた露光制御を行うことができ、あるいは、ハイライト部分が白く飽和しても中間階調部分が明瞭に視認されるように平均値を用いた露光制御を行うことができる。
次に、画素加算回路14の出力信号を用いた露光制御の一例を以下に説明する。以下に詳しく述べるように、MPU19Bは、画素加算回路14の動作を制御することで露光制御の一環として感度制御を行うことができる。このため、照度環境が変動しても、常に最適な撮影条件で視認性の良好な被写体画像を得ることができるという効果がある。上述したように、画素加算回路14は、照度環境の変動に応じて増感倍率Lを変えることで画素の信号振幅を調整することができる。
MPU19Bは、上記被写体照度の換算値LXに応じて、画像検波回路81から得られる平均レベルASAの検出値が一定となるように自動露光制御を行うことができる。被写体照度の換算値LXが高く、明るい環境での撮像で画素の信号振幅が大きいときは、MPU19Bは、撮像光学系11の開口絞り111を絞るように制御(すなわち絞り値を制御)してCCD画像センサ12への入射光量を減らしたり、タイミング発生回路17による電荷強制排出タイミングを調整することで、CCD画像センサ12の光電変換素子に蓄積される電荷を強制排出して露光時間(電荷蓄積時間Tc)を減らしたりすることができる。
一方、被写体照度の換算値LXが低く、暗い環境での撮像で画素の信号振幅が小さくなってきたときは、MPU19Bは、プログラマブル利得増幅回路13Pの増幅利得Gを増やすように制御して撮像信号を増幅することができる。このとき、増幅利得Gが大き過ぎると画像中のノイズが目立つようになり視認性の悪い画像となり得るので、増幅利得Gに上限を設けることが望ましい。
MPU19Bは、CCD画像センサ12の光電変換素子からの電荷読出しを垂直走査周期単位で間引くように制御することにより露光時間(電荷蓄積時間Tc)を延ばすこともできる。このとき、露光時間が長すぎると、動く被写体が残像となり視認性の悪い画像が撮像されるので、垂直走査周期単位で欠落する画像の補間(フレーム補間)を行う回路を設けることが望ましい。
上記実施の形態1の場合と同様に、本実施の形態のMPU19Bは、被写体照度の換算値LXに応じて、画素加算回路14に対して増感倍率Lを1倍から12倍の範囲内の値に設定することができる。増感倍率Lの設定(即ち調整)は、画像検波回路81の出力と露光制御パラメータとに基づいて行われる。上述したように、加算演算回路24は、注目画素の近傍領域内に位置する互いに相関の高い複数の画素(例えば、12画素)を加算して補間画素を生成し、その補間画素の画素値に増感倍率Lを乗算する。このため、感度向上を実現することができ、極めて暗い低照度環境での撮像でも撮像画像の視認性を大幅に改善することができる。また、フレーム周波数の低下を防止乃至抑制することができるので、動解像度、水平解像度及び垂直解像度の劣化を最小に抑えることができる。
以下、図442(A)〜(E)を参照しつつ、被写体照度の換算値LX(以下、単に「照度LX」と呼ぶ。)が変化したときの露光制御(感度制御)のための手順の一例を説明する。図442(A)〜(D)は、照度LXと各種露光制御パラメータとの関係を示すグラフであり、図442(E)は、照度LXに対する平均レベルASAの一例を示すグラフである。図442(A)は、照度LXと開口絞り111の絞り値(開口量)との関係を示すグラフであり、図442(B)は、照度LXと増幅利得Gとの関係を示すグラフであり、図442(C)は、照度LXと増感倍率Lとの関係を示すグラフであり、図442(D)は、照度LXと露光時間との関係を示すグラフである。増感倍率Lは、1倍から12倍の範囲内で設定可能であるものとする。
図442(D)の実線で示されるように露光時間が標準露光時間Trに維持される場合に、開口絞り111の絞り値を開放値とし、増幅利得Gを上限値UGLとし、増感倍率Lが1倍(下限値)としたときに、画素加算回路14の出力値が所定レベルとなる照度を高照度側基準値HLとする。また、この高照度基準値HLの1/12の照度、即ち、露光時間が標準露光時間Trに維持される場合に、開口絞り111の絞り値を開放値とし、増幅利得Gを上限値UGLとし、増感倍率Lが4倍としたときに、画素加算回路14の出力値が所定のレベルとなる照度を低照度側基準値LLとする。
図442(A),(B),(C)に示されるように、照度LXが閾値ULを超えていて撮像条件が高照度環境のときには、MPU19Bは、絞り値を上限値(最大絞り値)に、増幅利得Gを下限値LGLに、増感倍率Lを1倍にそれぞれ維持する。このとき、図442(D)の実線で示されるように露光時間は一定値(標準露光時間)Trに維持される。また、照度LXが閾値UL以下で閾値ML以上の範囲Sa内にある場合には、絞り値は、閾値ULから閾値MLに向かうにつれて上限値から全開値(開放F値)に連続的又は段階的に低減させられる。露光時間は一定である。このとき、増幅利得Gは下限値LGLに維持され、増感倍率Lは1倍に維持される。これにより、照度LXが範囲Sa内にある場合には、図442(E)に示されるように、平均レベルASAをほぼ一定の目標値に維持することができる。
また、照度LXが閾値ML未満で高照度側基準値HL以上の範囲Sb内にあるときには、図442(A),(C)に示されるように、絞り値は全開値に維持され、増感倍率Lは1倍に維持される。このとき、図442(B)に示されるように、増幅利得Gは、閾値MLから高照度側基準値HLに向かうにつれて下限値LGLから上限値UGLに連続的又は段階的に上昇させられる。露光時間は一定である。これにより、照度LXが範囲Sb内にある場合には、図442(E)に示されるように、平均レベルASAをほぼ一定の目標値に維持することができる。
また、照度LXが高照度側基準値HL未満で低照度側基準値LL以上の範囲Sc内にあるときには、図442(A),(B)に示されるように、絞り値は全開値に維持され、増幅利得Gは上限値UGLに維持される。このとき、図442(C)に示されるように、増感倍率Lは、高照度側基準値HLから低照度側基準値LLに向かうにつれて1倍から12倍に連続的又は段階的に上昇させられる。露光時間は一定である。これにより、照度LXが範囲Sc内にある場合には、図442(E)に示されるように、平均レベルASAをほぼ一定の目標値に維持することができる。そして、照度LXが低照度側基準値LL未満のときは、図442(A)〜(D)に示されるように、絞り値は全開値に、増幅利得Gは上限値UGLに、増感倍率Lは12倍に、露光時間は一定値Trにそれぞれ維持される。
図442(A)〜(D)の対応関係は、メモリ(図示せず)に保持された設定値テーブル(ルックアップテーブル)で実現されてもよいし、あるいは、1次関数などの関数を用いた演算で露光制御パラメータの値を算出する演算回路で実現されてもよい。MPU19Bは、図442(A)〜(D)の対応関係に基づいて信号振幅の平均レベルASAを所望の目標値に維持することが可能である。
例えば、照度LXが徐々に暗くなり、信号振幅の平均レベルASAの検出値が下がってくると、MPU19Bは、撮像光学系11の開口絞り111を開放方向に制御して(図442(A)の範囲Sa)、信号振幅の平均レベルASAを一定に維持することができる。また、撮像光学系11の開口絞り111の絞り値が全開値になった後は、MPU19Bは、プログラマブル利得増幅回路13Pの増幅利得Gを増やすように制御して(図442(B)の範囲Sb)、信号振幅の平均レベルASAを一定に維持する。プログラマブル利得増幅回路13Pの増幅利得Gが大きくなり、増幅利得Gの所定の上限値UGLに達した後は、MPU19Bは、画素加算回路14の増感倍率Lが大きくなるように制御して(図442(C)の範囲Sc)、信号振幅の平均レベルASAを一定に維持する。
増感倍率Lの制御による平均レベルASAの維持は、増感倍率Lが最大値(L=12)となるまで可能である。増感倍率Lが最大値(=12倍)に達した後にさらに照度LXが低下すると、図442(E)の実線で示されるように、平均レベルASAは低下を開始する。
また、照度LXが徐々に明るくなって、低照度側基準値LL以上となり、信号振幅の平均レベルの検出値ASAが上がろうとすると、画素加算回路14における増感倍率Lを減らすように制御して(図442(C)の範囲Sc)、信号振幅の平均レベルASAを一定に維持する。増感倍率Lが1倍まで小さくなると、MPU19Bは、プログラマブル利得増幅回路13Pの増幅利得Gを減らすように制御して、信号振幅の平均レベルASAを一定に維持する。プログラマブル利得増幅回路13Pの増幅利得Gが減少し(図442(B)の範囲Sb)、所定の下限値LGLに達した後は、撮像光学系11の開口絞り111を遮光方向に制御して(図442(A)の範囲Sa)、信号振幅の平均レベルASAを一定に維持する(図442(E))。さらに照度LXが高くなると、図442(E)に示されるように、平均レベルASAは上昇する。
以上の露光制御により、図442(E)の実線で示されるように、低照度側基準値LLから閾値UL(UL>LL)までの照度範囲において、信号振幅の平均レベルASAを一定に保つことができる。
上記の露光制御では、図442(E)の実線で示されるように、露光時間は一定とされたが、照度LXに応じて露光時間も可変制御してもよい。例えば、照度LXが低下して、増感倍率Lが最大値(=12倍)に到達してもなお、平均レベルASAが十分な値とならないときには、図442(E)の破線で示されるように、MPU19Bは、低照度側基準値LL以下で閾値LLe以上の照度範囲Sd内で露光時間を長くしてもよい。逆に、照度LXが高くなり、開口絞り111を最大に絞っても(F値を最も高くしても)、平均レベルASAが大きすぎる場合には、図442(E)の破線で示されるように、MPU19Bは、閾値UL以上で閾値ULe以下の照度範囲Se内で露光時間を短くしてもよい。このような露光時間の制御を実行することにより、図442(E)の点線で示されるように、下限LLeから上限ULeまでの照度範囲において、信号振幅の平均レベルASAを一定に保つことができる。
ところで、増幅利得Gの上限値UGLは、映像信号処理回路15で検出されるノイズレベルに基づいて適正な値に設定することができる。このとき、照度LXが低下し、これに伴いCCD画像センサ12の出力のS/N比が低下する場合に増幅利得Gを増加させる必要がある状況が考慮される。具体的には、平均レベルASAの検出値に対するノイズレベルの検出値の比率が、許容上限値である所定の割合(以下「第1の所定ノイズ割合」と呼ぶ。)に達したときのプログラマブル利得増幅回路13Pの増幅利得Gの値を上限値UGLとして設定することができる。第1の所定ノイズ割合は、例えば、1/50と定められる。
ノイズレベルの検出値は、例えば、フィルタリング処理により画素加算回路14の出力からノイズ成分を抽出し、全有効画素範囲のノイズ成分の絶対値の総和を全有効画素数で除算することで算出される。フィルタリング処理では、まず、画素加算回路14の出力信号からノイズ成分を低減させたノイズ低減信号を生成し、次に、画素加算回路14の出力信号からノイズ低減信号を減算することで画素加算回路14の出力信号からノイズ成分を抽出することができる。
用途によって被写体画像の視認にあたり許容できるノイズレベルは異なるため、第1の所定ノイズ割合は、S/N比を重視するか、画像解像度を重視するか等、撮像装置2の用途に応じて定められる。MPU19Bは、プログラマブル利得増幅回路13Pに設定される増幅利得Gと、映像信号処理回路15からMPU19Bへ供給されるノイズレベルの検出値とを監視しつつ増幅利得Gの上限値UGLをダイナミックに(動的に)決定してプログラマブル利得増幅回路13P及び画素加算回路14を制御してもよい。
また、撮像装置2を工場から出荷する前に、平均レベルASAの検出値に対するノイズレベルの検出値の比率が第1の所定ノイズ割合に達したときの増幅利得Gの値を測定し、この測定値を上限値UGLとして参照可能な形でメモリ(図示せず)に書き込むことができる。これにより、MPU19Bは、このメモリに記憶された上限値UGLを参照し利用することができる。なお、上限値UGLのデータが書き込まれるメモリは、撮像装置2の電源を切断してもその記憶内容を保持することができる不揮発性メモリやバッテリーバックアップ型メモリ(内蔵電池でバックアップされた揮発性メモリ)であればよい。
ところで、増幅利得Gの下限値LGLも、映像信号処理回路15で検出されるノイズレベルに基づいて適正な値に設定することができる。具体的には、平均レベルASAの検出値に対するノイズレベルの検出値の比率が所定の割合(以下「第2の所定ノイズ割合」と呼ぶ。)を下回ったときのプログラマブル利得増幅回路13Pの増幅利得Gの値を下限値LGLとして設定することができる。第2の所定ノイズ割合は、上記第1の所定ノイズ割合(例えば、1/50)と増感倍率Lの設定値(例えば、12倍)とに基づいて決めることができる。例えば、第2の所定ノイズ割合は、1/200(={(1/50)×(1/12)})の値と定めることができる。
用途によって被写体画像の視認にあたり許容できるノイズレベルは異なるため、第2の所定ノイズ割合は、S/N比を重視するか、画像解像度を重視するか等、撮像装置2の用途に応じて定められる。MPU19Bは、プログラマブル利得増幅回路13Pに設定される増幅利得Gと、映像信号処理回路15からMPU19Bへ供給されるノイズレベルの検出値とを監視しつつ増幅利得Gの下限値LGLをダイナミックに(動的に)決定してプログラマブル利得増幅回路13P及び画素加算回路14を制御してもよい。
また、撮像装置2を工場から出荷する前に、平均レベルASAの検出値に対するノイズレベルの検出値の比率が第2の所定ノイズ割合に達したときの増幅利得Gの値を測定し、この測定値を下限値LGLとして参照可能なメモリ(図示せず)に書き込むことができる。これにより、MPU19Bは、このメモリに記憶された下限値LGLを参照し利用することができる。なお、下限値LGLが書き込まれるメモリは、撮像装置2の電源を切断してもその記憶内容を保持することができる不揮発性メモリやバッテリーバックアップ型メモリであればよい。
以上に説明したように実施の形態2では、MPU19Bは、画素加算回路14の出力信号に基づいて、露光制御パラメータ(開口絞り111の絞り値、増幅利得G、電荷蓄積時間Tc及び増感倍率L)を動的に設定することができるので、撮影環境が変化しても、視認性の良好な画像を含む映像信号を生成することができる。例えば、MPU19Bは、画像検波回路81から供給される被写体照度LXや平均レベルASAの検出値に応じて露光制御パラメータを動的に設定することができる。上述の通り、画素加算回路14は、画像解像度の劣化を最小限に抑制しつつ感度向上とS/N比の向上とを実現する。このため、画素加算回路14の出力信号に基づいて適正な自動露光制御を行うことができる。
また、上述の通り、画素加算回路14は、画素加算処理の過程で増感倍率Lを用いた増感処理(乗算処理)を行う機能を有している。MPU19Bは、撮影環境の変化に合わせて、絞り値、増幅利得G及び電荷蓄積時間Tcに加えて増感倍率Lをも動的に設定することができる。このため、撮像装置2は、撮影環境が変化しても、細かいシームレスな露出制御を行うことができる。これにより、画像の明るさの急変などの画質劣化を伴うことなく、視認性の良好な画像を生成することが可能である。また、増感倍率Lは、整数値に限らず、小数を含む値に設定され得るので、極めて細かい露出制御を行うことができる。
また、図442(A)〜(E)に例示されるように、MPU19Bは、画像検波回路81から出力される被写体照度の換算値LXに応じて、増感倍率Lを含む露光制御パラメータを制御するので、低照度環境下でも適正な露光制御を行うことができる。絞り値の制御、増幅利得Gの制御、増感倍率Lの制御及び露光時間の制御を順番に切替えることで、視認性の良好な最適な明るさの画像を出力することができるという効果がある。
実施の形態3.
次に、本発明に係る実施の形態3について説明する。図443は、実施の形態3の撮像装置3の概略構成を示すブロック図である。図443において、実施の形態3の撮像装置3の構成は、測光部82が付加されている点とMPU19の代わりにMPU19Cが設けられている点とを除き、実施の形態1の撮像装置1の構成と同様であり、実施の形態1と同様な効果を奏するものである。
測光部82は、CCD画像センサ12の撮像面あるいは撮像光学系11への入射光を測光して被写体照度を検出する機能を有する。測光部82は、照度センサ(図示せず)を有しており、この照度センサの取り付け及びその位置決めは、撮像光学系11の光軸に基づいて決められる。
MPU19Cは、実施の形態1のMPU19の機能に加えて、測光部82から供給される被写体照度の検出値(以下、「照度」と呼ぶ。)に応じて露光制御パラメータを制御する機能を有している。具体的には、MPU19Cは、照度に応じて、撮像光学系11の開口絞り111の絞り値と増幅利得Gと増感倍率Lとを個別に制御することができる。また、MPU19Bは、照度に応じてタイミング発生回路17の動作を制御することによりCCD画像センサ12の電荷蓄積時間Tc(すなわち露光時間)を制御することができる。また、MPU19Cは、実施の形態2のMPU19Bと同様に、映像信号処理回路15から供給されたノイズレベルに応じた露光制御を行うことができる。
MPU19Cは、例えば、メモリ(図示せず)に保持された設定値テーブルあるいは演算回路を用いて、照度に対応する露光制御パラメータ(開口絞り111の絞り値、増幅利得G、電荷蓄積時間Tc及び増感倍率L)の値を取得し、取得した値を用いた露光制御を行う。設定値テーブルは、複数の照度値と露光制御パラメータの値との対応関係が記録されたルックアップテーブルである。
設定値テーブルには、例えば、図442(A)〜(D)の対応関係を記録することができる。この場合には、例えば、照度が範囲Sa内のときは、MPU19Cは、CCD画像センサ12の露光時間をフレームレートに基づく標準露光時間Trに設定し、プログラマブル利得増幅回路13Pの増幅利得Gを下限値LGLに設定し、画素加算回路14の増感倍率Lを1倍に設定することができる。このときに照度が次第に上昇すると、図442(A)の対応関係に従って、MPU19Cは、絞り値を連続的又は段階的に上昇させる。絞り値が上限値(最大絞り値)に到達した後に照度がさらに上昇するとき、図422(D)の点線で示されるように、MPU19Cは、CCD画像センサ12の露光時間を標準露光時間Trから短く制御することができる(図442(D)の範囲Se)。
一方、照度が範囲Sa内のときに照度が次第に暗くなると、MPU19Cは、図442(A)の対応関係に従って、絞り値を連続的又は段階的に低下させる。絞り値が全開値(開放値)に達した後に照度がさらに低下すると、MPU19Cは、プログラマブル利得増幅回路13Pの増幅利得Gを下限値LGLから増加させる(図442(B)の範囲Sb)。増幅利得Gが上記の上限値UGLに達した後に照度がさらに低下すると、MPU19Cは、増感倍率Lを1倍から上昇させる(図442(C)の範囲Sc)。増感倍率Lが12倍(上限値)に到達した後に照度がさらに低下すると、図442(D)の点線で示されるように、MPU19Cは、露光時間を標準露光時間Trを長くする(図442(D)の範囲Sd)。
以上の露光制御により、図442(E)に示されるように、下限LLeから上限ULeまでの照度範囲において、信号振幅の平均レベルASAを一定に保つことができる。
以上に説明したように実施の形態3では、実施の形態2の場合と同様に、MPU19Cは、照度の測定値に基づいて、露光制御パラメータ(開口絞り111の絞り値、増幅利得G、電荷蓄積時間Tc及び増感倍率L)を動的に設定することができるので、撮影環境が変化しても、視認性の良好な画像を含む映像信号を生成することができる。また、画素加算回路14の出力信号に基づいて、低照度環境下でも適正な自動露光制御を行うことができる。また、増感倍率Lは、整数値に限らず、小数を含む値に設定され得るので、極めて細かい露出制御を行うことが可能である。
また、実施の形態2の場合と同様に、MPU19Cは、撮影環境の変化に合わせて、絞り値、増幅利得G及び電荷蓄積時間Tcに加えて増感倍率Lをも動的に設定することができる。このため、撮像装置3は、撮影環境が変化しても、細かいシームレスな露出制御を行うことができる。さらに、絞り値の制御、増幅利得Gの制御、増感倍率Lの制御及び露光時間の制御を順番に切替えることで、視認性の良好な最適な明るさの画像を含む映像信号を生成することができる。
なお、上記実施の形態2及び3について、増感倍率Lを最大にしても信号振幅Gが十分でない場合に露光時間を長くする旨説明したが、これはフレームレートが変わらないようにすることを優先した結果である。フレームレートよりも解像度を重視する場合には、露光時間を長くする制御を先に行い、露光時間を(例えば所定の値まで)長くしても信号振幅が十分でない場合に増感倍率Lを大きくすることとしてもよい。また、増感倍率Gを大きくする制御と露光時間を長くする制御とを並行して行ってもよい。
実施の形態1〜3の変形例.
以上、図面を参照して本発明に係る種々の実施の形態について述べたが、これらは本発明の例示であり、上記以外の様々な形態を採用することもできる。例えば、上記実施の形態1〜3は、固体撮像素子の一例としてCCD画像センサ12を使用しているが、これに限定されるものではない。2次元イメージセンサであれば、CMOS撮像素子などのCCD画像センサ12以外のいかなる固体撮像素子を使用してもよい。図444は、実施の形態1の変形例である撮像装置4の概略構成を示すブロック図である。この撮像装置4は、上記CCD画像センサ12及びフロントエンド部13に代えて、CMOS画像センサ12Cを有している。また、CCD画像センサ12としては、インターライントランスファーCCD撮像素子に限らず、フレームトランスファーCCD撮像素子であってもよく、フレームインターライントランスファーCCD撮像素子であってもよい。
また、上記実施の形態では、画素加算回路14は、入力された撮像信号のうち有効画素領域内の画素についてのみ処理してもよいし、あるいは、有効画素領域の外側にある画素を用いて処理を行ってもよい。例えば、注目画素が有効画素領域の端に位置するとき、画素加算回路14は、有効画素領域外の画素に代えて有効画素領域内の画素を使用してもよいし、有効画素領域外の画素が存在する場合には、その有効画素領域外の画素を使用してよい。
また、上記画素加算回路14は、FPGA(Field−Programmable Gate Array)やASIC(Application Specific Integrated Circuit)などのLSI(Large scale integrated circuit)により実現され得る。
また、上記画素加算回路14の機能の全部または一部は、ハードウェア構成で実現されてもよいし、あるいは、マイクロプロセッサにより実行されるコンピュータプログラムで実現されてもよい。図445は、当該機能の全部または一部をコンピュータプログラムで実現する場合の画像処理ユニット5の構成を概略的に示す図である。図445の画像処理ユニット5は、CPU(central processing unit)を含むプロセッサ91、入出力インタフェース92、RAM(random access memory)93、不揮発性メモリ94、記録媒体95及びバス90を備えている。記録媒体95としては、例えば、ハードディスク(磁気ディスク)、光ディスクまたはフラッシュメモリが挙げられる。プロセッサ91は、不揮発性メモリ94または記録媒体95からコンピュータプログラムをロードし実行することによって画素加算回路14の機能を実現することができる。
上記撮像装置1〜4は、例えば、監視カメラや車載カメラに組み込むことができる。特に、比較的暗い場所を撮像する監視カメラとして上記撮像装置1〜4が使用される場合には、暗所においても良好な視認性を得ることができ、高感度を実現することができる。近年、固体撮像素子の高画素化に伴い、画素サイズの微細化が進んでおり、画素あたりの集光量が減少することによる感度の低下が課題となっているが、上記撮像装置1〜4は、このような課題を解決し得る構成を有している。