最近、フィルムや感光板を使って撮影する銀塩カメラに代わって、光電変換及び蓄積を行なう画素配列の受光部をフォトダイオードにより構成した固体撮像素子で画像をキャプチャしデジタル符号処理して保存するデジタルカメラが広範に普及している。デジタルカメラによれば、デジタル符号化された画像をメモリに記憶し、コンピュータによる画像処理や画像管理を行なうことができ、さらにフィルムの寿命という問題がないといった利点がある。
固体撮像素子として、例えばCCD(Charge Coupled Device:電荷結合素子)やCMOS(Comprementary Metal Oxide Semiconductor:相補型金属酸化物半導体)などを挙げることができる。このうちCMOSイメージ・センサは、信号の順次読み出し転送をMOSトランジスタ・スイッチのマトリクスにより構成し、垂直及び水平シフトレジスタにより順次走査を行なうように構成されるが、CCDと比べて製造コストが低く低消費電力であるという利点がある。
ところで、商用交流電源により点灯される蛍光灯などの点滅する光源の照明下で、ビデオカメラにより被写体を撮影すると、光源の輝度変化(光量変化)の周波数とカメラの垂直同期周波数との違いのために撮像画像上に生じる時間的な明暗の変化、すなわち蛍光灯フリッカが生じることが知られている。特に、上述したCMOS型イメージ・センサなどのXYアドレス走査型の撮像素子を用いた場合には、水平ライン毎の露光タイミングが異なるため、撮像画像上のフリッカは、垂直方向の周期的な輝度レベルあるいは色相の変動による縞模様として観察される。このようなフリッカの成分を撮像画像信号から除去するための手法としては、主に、シャッタ速度とフリッカ・レベルとの関連性に基づいて補正する「シャッタ補正方式」と、フリッカ波形を検出してその逆波形を補正ゲインとして画像信号に適用する「ゲイン補正方式」が知られている。
他方、デジタルビデオカメラなどに対する高機能化の要求に伴い、最近では、標準テレビ信号よりも高速な画面レートで被写体を撮像する機能を持ったカメラの開発が進んでいる。以下では、このような高速撮像機能を持つカメラにおけるフリッカの低減手法について考察する。
図15には、XYアドレス走査型の撮像素子を持つカメラにより蛍光灯照明下で撮影したときのフリッカ・レベルとシャッタ速度との関係についてのコンピュータ・シミュレーション結果を示している。図示のグラフは、横軸にシャッタ・速度をとるとともに縦軸にフリッカ・レベルをとり、商用交流電源周波数が50Hzの地域における非インバータ方式の蛍光灯照明下で撮影したときのシャッタ速度に応じたフリッカ・レベルの変化を示している。同図から、シャッタ速度とフリッカ・レベルには関連性があり、特に、シャッタ速度がN/100(但し、Nは正の整数)のときにフリッカを完全に抑制することができる。蛍光灯の電源周波数をf[Hz]とおくと、フリッカ・レスとなるシャッタ速度S_fklessは一般に以下の式(1)で表すことができる。
シャッタ補正方式では、このような性質に基づき、何らかの方法でフリッカが発生していることを検出した場合に、シャッタ速度を上式( 1 ) のS _ f k l e s s に設定することでフリッカの発生を回避することができる。しかしながら、この手法はシャッタ速度に制限が生じるため、AE(Auto Exposure)制御の自由度が低下するという問題がある。
例えばフレームレートがNTSCの4倍(240fps)となる高速撮影時に、カメラに設定できるシャッタ速度は、少なくとも 1/240秒よりも高速側に制限されることは容易に想像がつく。さらにフレームレートが高速になっていくと、カメラに設定できるシャッタ速度はフレームレート以上の高速側のシャッタスピードしか選択することができない。つまり、高速撮影を行なうカメラにとって、そもそもシャッタ補正方式によるフリッカの回避という選択肢はないのである。
これに対し、ゲイン補正方式では、フリッカ波形を検出してその逆波形を補正ゲインとして画像信号に適用することから、シャッタ補正方式におけるシャッタ速度の制約から解放されるが、一般にフリッカ波形を正確に検出することは非常に困難である。
ゲイン補正方式の一例として、入力画像信号を1水平周期以上の時間にわたって積分する工程と、その積分値又は隣接するフィールド又はフレームにおける積分値の差分値を正規化する工程と、その正規化後の積分値又は差分値のスペクトルを抽出する工程と、その抽出したスペクトルからフリッカ成分を推定する工程と、その推定したフリッカ成分を打ち消すように、推定したフリッカ成分と前記入力画像信号を演算する工程を備え、蛍光灯照明下でX Y アドレス走査型の撮像素子により撮影された画像信号に含まれる蛍光灯フリッカ成分を低減する方法について提案がなされている(例えば、特許文献1を参照のこと)。この方法におけるフリッカ縞の検波系は、要するに、入力信号を適当な形に加工しながらフリッカ縞1周期分をサンプリングし、このサンプリング・データからDFT(Discrete Fourier Transform)周期を基本波とするフリッカの周波数スペクトルを計算し、低次項のみを利用してフリッカ波形を推定するというステップからなる。
上記のフリッカ低減方法によれば、正規化後の積分値又は差分値として、フリッカ成分以外の信号成分を除去してフリッカ成分を容易に高精度で推定できる信号を得て、その正規化後の積分値又は差分値の適当な次数までのスペクトルを抽出することによってフリッカ成分を高精度で推定することができ、その推定したフリッカ成分と入力画像信号を演算することによって、入力画像信号からフリッカ成分を確実且つ十分に低減することができる。しかしながら、フリッカの検波系では1画面内からフリッカ1周期分のサンプリングを行なうことを前提としていることから、高速撮影時においてフリッカ1周期が1画面内に収まりきらないときには有効なフリッカ補正アルゴリズムではなくなる。
垂直同期期間内のライン数をMとし、フリッカ縞の1周期分に相当するライン数をT_fkとし、フレームレートをFPSとすると、一般に下式(2)に示す関係が成り立つ。
フレームレートが下式(3)に示す条件を満足するような高速撮影時には、上式(2)よりフリッカ縞の周期とライン数の関係が下式(4)のようになってしまう。
上式(4)は、フリッカ1周期がもはや1画面内に収まりきらなくなってしまうことを意味する。
図16には、通常撮像時及び高速撮像時における垂直同期周波数とフリッカ波形との関係をそれぞれ示している。
図16Aには、NTSC方式(National Television Standards Committee)のフレームレートである60fpsの垂直同期信号VDとフリッカ波形との関係を示している(同図中、フリッカ縞の1周期分に相当するライン数T_fkは上式(2)により決定される)。この場合、垂直同期期間が1/60秒であるのに対し、フリッカ縞の1周期は1/100秒であり、1画面内にフリッカ縞1周期が収まることから、上述のフリッカ低減方法によってフリッカ波形を検波することができ、有効にフリッカ補正を行なうことができる。同図中、破線で囲った範囲がフリッカ縞1周期分からなる検波枠単位であり、この単位でフリッカと背景を区別して、フリッカの推定処理を行なう。
一方、図16Bには、高速撮影の例として標準の4倍のフレームレートである240fpsで撮像を行なったときの垂直同期信号とフリッカ波形との関係を示している(同図中、フリッカ縞の1周期分に相当するライン数T_fkは上式(2)により決定される)。この場合、フリッカ縞の1周期は図16Aと同様に1/100秒であるが、垂直同期期間は1/240秒となることから、上式(3)に示したように1画面内にフリッカ縞1周期分が収まりきらないので、上述のフリッカ低減方法ではフリッカ波形を検波することができず、有効にフリッカ補正を行なうことができなくなる。同図中、破線で囲った範囲がフリッカ縞1周期分からなる検波枠単位であるが、複数画面を使ってフリッカ縞1周期分にして扱い、この単位でフリッカと背景を区別して、フリッカの推定処理を行なう。
なお、上記のフリッカ低減方法に限らず、多くのフリッカ補正アルゴリズムでは、フリッカ現象がフィールド繰り返し性を持つこと(例えば、NTSCの50Hz電源地域のフリッカは3フィールド後に同じフリッカ波形となる)を利用し、例えば3枚分の画面のフリッカ波形の平均値から背景成分のみの抽出を行なうようなことを必要としているが、高速撮像時にはその繰り返しフィールド数がフレームレートFPSに応じて異なるため、この種のフリッカ補正アルゴリズムを高速撮像時に適用することはできない。
また、ゲイン補正方式の他の例として、フリッカ縞が1画面にもはや1周期分含まれなくなるような条件下では、フリッカ縞が1周期分以上含まれる時間に相当する複数フィールド分の画像情報を集め、常時フリッカ縞の情報が1周期以上含まれるような形に前処理した上で、フリッカの繰り返し性を利用したフリッカ検出及び補正アルゴリズムを適用する画像処理装置について提案がなされている(例えば、特許文献2を参照のこと)。この画像処理装置によれば、画像信号の画面レートに関係なく、1周期分のフリッカ成分を含む連続的な画像信号が確実にフリッカの解析対象となり、フリッカの検出精度が向上する。
ここで、別の撮影条件下で高速撮像を行なう場合についてさらに考察する。例えば、電源周波数が60Hzの地域の蛍光灯下で撮影した場合、カメラに設定できるシャッタ速度は基本的に1/240秒より高速側に限られる(同上)。すなわち、この撮影条件下でも、シャッタ補正によるフリッカの回避という選択肢はない。そこで、フリッカ縞が1周期分以上含まれる時間に相当する複数フィールド分の画像情報を集め、常時フリッカ縞の情報が1周期以上含まれるような形に前処理してからフリッカ補正を行なうという上記のフリッカ検出及び補正アルゴリズムの適用を検討してみる。
図17には、電源周波数が60Hzの地域の蛍光灯下で通常撮像及び高速撮像したときの垂直同期周波数とフリッカ波形との関係をそれぞれ示している。
図17Aには、NTSC方式のフレームレートである60fpsの垂直同期信号VDとフリッカ波形との関係を示している(同図中、フリッカ縞の1周期分に相当するライン数T_fkは上式(2)により決定される)。この場合、垂直同期期間が1/60秒であるのに対し、フリッカ縞の1周期は1/120秒であり、1画面内にフリッカ縞1周期が収まる。しかしながら、フレームレートとフリッカの1周期に相当する時間がちょうど整数倍の関係にあることから、検波枠単位で見たときに、各検波枠単位のフリッカ縞が垂直同期期間に対して全く同じ位置になるという固定フリッカ縞が発生する同図中、破線で囲った範囲がフリッカ縞1周期分からなる検波枠単位であるが、図示のように検波枠単位毎にフリッカ位相が全く同じになるから、フリッカと背景との区別がつけられない。但し、通常撮影モード下では、シャッタ補正方式によりフリッカを回避することができる。
一方、図17Bには、高速撮影の例として標準の4倍のフレームレートである240fpsで撮像を行なったときの垂直同期信号とフリッカ波形との関係を示しているが、フリッカ縞の1周期が1/120秒であるのに対し、垂直同期期間は120秒となる(同図中、フリッカ縞の1周期分に相当するライン数T_fkは上式(2)により決定される)。同図中、破線で囲った範囲がフリッカ縞1周期分からなる検波枠単位であるが、複数画面を使ってフリッカ縞1周期分にして扱う。実はこの撮影条件下では1画面にフリッカ縞1周期分がちょうど入っており、1周期分のフリッカ情報を含むことになるから、一見何の問題も無いように見える(固定フリッカ条件であるが、画面毎で考えると固定フリッカではない)。確かに各画面に1周期分の情報は入っている。しかしながら、フレームレートとフリッカの1周期に相当する時間がちょうど整数倍の関係にあることから、図17Bを見て分かる通り、検波枠単位で見たときに、各検波枠単位のフリッカ縞が垂直同期期間に対して全く同じ位置になるという固定フリッカ縞が発生する。このような場合、正規化処理を行なう際にフィールド間の差分を取った時点で、背景とともにフリッカ縞の情報もなくなってしまうことになる。すなわち、垂直同期とフリッカ縞が同期してしまうような上記条件では、たとえフリッカに繰り返し性があっても背景と区別することができないので、フリッカ現象の繰り返し性を使って背景とフリッカ縞の区別を行なう上記のフリッカ検出アルゴリズムを適用することはできない。
勿論、通常撮像時においても、フレームレートとフリッカの1周期に相当する時間がちょうど整数倍の関係となる撮影条件下では、上述したように固定フリッカ縞は発生する(図17Aを参照のこと)。但し、通常撮像時にはシャッタ補正方式(前述)による回避方法が存在するので、何らかの手法で固定フリッカが発生する撮影条件であることが分かればフリッカを消すことはできる。
あるいは、あらかじめ固定フリッカ問題が発生しないようなシャッタ速度制約を設ける方法も提案されているが(例えば、特許文献3を参照のこと)、高速撮像モードではシャッタ補正方式によるフリッカの回避は不可能である。また、図17Bを見ると分かるように、画面単位でみればもはや固定フリッカ縞ではなく、フリッカ縞が垂直方向に流れていくという映像として非常に醜いものになってしまう。
特開2004−222228号公報
特開2006−345368号公報
特許3826604号公報
以下、図面を参照しながら本発明の実施形態について詳解する。
図1には、本発明を適用するのに適した撮像装置の構成を模式的に示している。図示の撮像装置は、光学ブロック11と、ドライバ11aと、CMOS型イメージ・センサ12と、タイミング・ジェネレータ(TG)12aと、アナログ・フロント・エンド(AFE)回路13と、カメラ処理回路14と、システム・コントローラ15と、入力部16と、グラフィックI/F(インターフェース)17と 、ディスプレイ17aを備えている。以下、各部について説明する。
光学ブロック11は、被写体からの光をCMOSセンサ12に集光するためのレンズと、レンズを移動させてフォーカス合わせやズーミングを行なうための駆動機構と、シャッタ機構と、アイリス機構などで構成される。ドライバ11aは、システム・コントローラ15からの制御信号に基づいて、光学ブロック11内の各機構を駆動する。
CMOSセンサ12は、CMOS基板上に、フォトダイオード(フォトゲート)、転送ゲート(シャッタ・トランジスタ)、スイッチング・トランジスタ(アドレスト・ランジスタ)、増幅トランジスタ、リセット・トランジスタ(リセット・ゲート)などからなる複数の画素を2次元状に配列して形成され、垂直走査回路、水平走査回路、画像信号の出力回路なども同一のCMOS基板上に形成される。CMOSセンサ12は、タイミング・ジェネレータ12aから出力されるタイミング信号に基づいて駆動し、被写体からの入射光を電気信号に変換する。タイミング・ジェネレータ12aは、システム・コントローラ15の制御の下でタイミング信号を出力する。
CMOSセンサ12は、例えば、1ライン分の画素信号を出力するときに、撮像素子上の隣接している同色の画素の信号を加算して同時に出力することによって、画素信号を読み出す際の同期周波数を高めることなく、画面の切り替えレートを高めている。またこれにより、画角を変えることなく画像サイズ( 解像度) が低下する。本実施形態では、CMOSセンサ12は、NTSC方式の仕様である6 0fpsによる通常速度での通常撮像モードとともに、60fpsより高いフレームレート(例えば240fps)で高速に撮像する高速撮像モードを備えているものとする。
AFE回路13は、CMOSセンサ12から出力された画像信号に対して、CDS(Correlated Double Sampling:相関多重サンプリング)処理によりS/N(Signal/Noise)比を良好に保つようにサンプル・ホールドを行ない、さらにAGC(Auto Gain Control:自動利得制御)処理により利得を制御し、A/D 変換を行なってデジタル画像信号を出力する。なお、AFE回路13は、例えば1つのIC(Integrated Circuit)として構成されるが、あるいはCDS処理を行なう回路をCMOSセンサ12と同一のCMOS基板上に形成されてもよい。
カメラ処理回路14は、例えば1つのICとして構成され、AFE回路13からの画像信号に対するAF(Auto Focus:自動焦点合わせ)、AE(Auto Exposure:自動露光調整)、AWB(Auto White Balance:ホワイトバランス調整)などの各種カメラ信号処理、又はその処理の一部を実行する。本実施形態では、カメラ処理回路14は蛍光灯下の撮像時に画面に生じるフリッカの信号成分を画像信号から低減するフリッカ低減部20を備えている。
システム・コントローラ15 は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)などからなるマイクロプロセッサで構成され、ROMなどに記憶されたプログラムを実行することにより、この撮像装置の各部を統括的に制御する。
入力部16は、例えばシャッタ・レリーズ・ボタンなどの各種操作キーやレバー、ダイヤルなどにより構成され、ユーザによる入力操作に応じた制御信号をシステム・コントローラ15に出力する。
グラフィックI/F17は、カメラ処理回路14からシステム・コントローラ15を介して供給された画像信号から、ディスプレイ17aに表示させるための画像信号を生成して、この信号をディスプレイ17aに供給し、画像を表示させる。ディスプレイ17aは、例えばLCD(Liquid Crystal Display)からなり、撮像中のカメラスルー画像や図示しない記録媒体に記録されたデータに基づく再生画像などを表示する。また、ディスプレイ17a上には、システム・コントローラ15からの要求に応じて、メニュー画面や各種設定画面や、各種警告情報などを合成して、OSD(On SCreen Display)として表示出力される。
図示の撮像装置では、CMOSセンサ12によって受光されて光電変換された信号が、順次AFE回路13に供給され、CDS処理やAGC処理が施された後、デジタル信号に変換される。カメラ処理回路14は、AFE回路13から供給されたデジタル画像信号を画質補正処理し、最終的に輝度信号(Y)と色差信号(R−Y,B−Y)に変換して出力する。
カメラ処理回路14から出力された画像データは、システム・コントローラ15を介してグラフィックI/F17に供給されて表示用の画像信号に変換され、これによりディスプレイ17aにカメラスルー画像が表示される。また、入力部16からのユーザの入力操作などによりシステム・コントローラ15に対して画像の記録が指示されると、カメラ処理回路14からの画像データはエンコーダ(図示しない)に供給され、所定の圧縮符号化処理が施されて図示しない記録媒体に記録される。静止画像の記録の際には、カメラ処理回路14からは1フレーム分の画像データがエンコーダに供給され、動画像の記録の際には、AF、AE、AWBなどカメラ信号処理が施された画像データがエンコーダに連続的に供給される。
図2には、カメラ処理回路14の内部構成を示している。図示のカメラ処理回路14は、当該回路全体に対する基準信号を生成する基準信号生成部30と、基準信号生成部30から基準信号の供給を受けて動作する、各種カメラ信号処理のための複数の処理ブロック31、32、33…を備えている。また、本実施形態では、処理ブロックの1つとしてフリッカ低減部20が配設されている。
基準信号生成部30は、源発振器(図示しない)からカメラ処理回路14に供給される基準信号に同期して、処理ブロック31、32、33…をそれぞれ動作させるための基準信号SIG_REF_1、SIG_REF_2、SIG_REF_3…を生成して出力する。各基準信号SIG_REF_1、SIG_REF_2、SIG_REF_3…は、画像信号の流れなどに応じて各処理ブロック31、32、33…間で生じる遅延を考慮して出力される。また、処理ブロック31、32、33…には、供給された基準信号SIG_REF_1、SIG_REF_2、SIG_REF_3…を基にそれらの内部での動作タイミングを詳細に司る基準信号を生成するブロック(いずれも図示しない)がそれぞれ設けられている。
処理ブロックの1つであるフリッカ低減部20も同様に、基準信号生成部30からの基準信号SIG_REF_FKを基にフリッカ低減部20の内部での動作タイミングを司る基準信号を生成する内部基準信号生成部21と、生成された基準信号を用いて動作する検出・低減処理部22とを備えている。
基準信号生成部30は、フリッカ低減部20に対する基準信号SIG_REF_FKとして、垂直同期信号VD、水平同期信号HD、垂直方向に対する画像信号の有効期間を示す2種類のイネーブル信号VEN1及びVEN2(後述)、水平方向に対する画像信号の有効期間を示すイネーブル信号HENなどを出力する。内部基準信号生成部21は、これらの信号を基に、検出・低減処理部22に対する各種基準信号やカウント値などを生成する。
内部基準信号生成部21はカウンタ21aを備え、このカウンタ21aにより、1垂直期間中の有効期間におけるライン数を示すカウント値VCOUNTを出力する。カウンタ21aは、システム・コントローラ15から撮像モードの設定を受け取ると、その設定に対応したフレームレートに従ってイネーブル信号VEN1又はVEN2のいずれかを選択する。そして、内部基準信号生成部21は、選択したイネーブル信号がハイ・レベルの期間における水平同期信号HDのカウント数をVCOUNTとして出力し、イネーブル信号がロー・レベルに転じたときにカウント値VCOUNTをリセットする。
検出・低減処理部22内の各部は、画像信号の垂直方向に対する動作タイミングはすべてカウント値VCOUNTを基準に制御される。内部基準信号生成部21は、例えば、カウント値VCOUNTと所定の値とを比較することで、ある期間のみハイ・レベルとなるイネーブル信号、ある期間で所定の間隔でハイ・レベルとなるパルス信号などといった信号を自在に生成し、検出・低減処理部22の動作タイミングを制御することができる。
本実施形態では、内部基準信号生成部21は、システム・コントローラ15から設定された撮像モードに応じて、フリッカ縞の1周期分に相当するカウント数(後述するT_fk)を算出し、イネーブル信号VEN1又はVEN2がハイ・レベルで且つカウント値VCOUNTがそのカウント数(T_fk:フリッカ縞の1周期分に相当するライン数)に達するまでの間にハイ・レベルとするイネーブル信号DETECT_ENを生成して、検出・低減処理部22に供給する。イネーブル信号DETECT_ENは、検出・低減処理部22での画像信号のサンプリング期間を示し、検出・低減処理部22内の検波系ブロック(後述)は、このサンプリング期間を基準として動作する。
なお、内部基準信号生成部21がシステム・コントローラ1から通知される撮影モードに応じてイネーブル信号DETECT_ENがハイ・レベルとなる期間を決めるカウント数(T_fk)を設定するのではなく、システム・コントローラ15がカウント数(T_fk)を直接設定するようにしてもよい。
検出・低減処理部22は、イネーブル信号DETECT_ENでアサートされるサンプリング期間において、入力画像信号をサンプリングし、そのサンプリング・データからフリッカ波形を推定して、画像信号のゲインを調整して、フリッカ成分を低減もしくは除去する処理を実行する。フリッカ成分の検出と低減に関する一連の処理は、イネーブル信号DETECT_EN及びカウント値VCOUNTなど、内部基準信号生成部21からの各種基準信号に基づいて実行される。
図3には、検出・低減処理部20の内部構成を示している。以下では、どう図を参照しながら、検出・低減処理部20内の各部の構成と画像信号のサンプリング動作について説明する。
図示の検出・低減処理部22は、画像信号を検波し、その検波値を正規化して出力する正規化積分値算出部110と、正規化された検波値にDFT処理を施すDFT処理部120と、DFTによるスペクトル解析の結果からフリッカ成分を推定するフリッカ生成部130と、フリッカ成分の推定値を一時的に記憶するバッファ140と、推定されたフリッカ成分を画像信号から除去する演算部150を備えている。
正規化積分値算出部110は、積分処理部111と、積分値保持部112と、平均値演算部113と、差分演算部114と、正規化処理部115で構成される。
積分処理部111は、フリッカ成分を含んだ入力画像信号In´(x,y)を、イネーブル信号DETECT_ENがハイ・レベルとなるサンプリング期間(前述)にわたってライン毎に積分する。積分値保持部112は、2つのサンプリング期間に算出された積分値Fn_1(y)及びFn_2(y)を一時的に保持する。
平均値演算部113は、直近のサンプリング期間に算出された積分値を平均化する機能ブロックであり、積分処理部111からの出力に、フリッカ縞の繰り返し周期に相当する過去の積分処理部111からの出力分(積分値保持部112から与えられる)を加算して、その平均値を出力する。
差分演算部114は、直近の2つのサンプリング期間に算出された積分値の差分を算出する機能ブロックであり、積分処理部111からの出力から、積分処理部111からの1フィールド前の出力(積分値保持部112から与えられる)を差し引くことで背景成分を取り除く、純粋にフリッカ成分だけを抽出する。
正規化処理部115は、平均値演算部113で得られた平均値を用いて、差分演算部114により算出された差分値を正規化する。
DFT処理部120は、正規化された差分値にDFTを施して周波数解析し、フリッカ成分の振幅γm及び初期位相φmnを推定する。フリッカ生成部130は、周波数解析による推定値から、画像信号に含まれるフリッカ成分の割合を示す補正係数を算出する。演算部150は、算出された補正係数に基づいて、入力画像信号In´(x,y)からフリッカ成分を除去するための演算を行ない、フリッカ成分が低減され若しくは除去された画像信号In(x,y)を出力する。
図4には、平均値演算部113の内部構成を示している。平均値演算部113は、入力画像信号から背景成分のみを抽出するために、積分処理部111からの出力に、フリッカ縞の繰り返し周期に相当する過去の積分処理部111からの出力分(積分値保持部112から与えられる)を加算して、その平均値を出力する。本実施形態では、現サンプリング期間における各ラインyの入力画像信号の積分値Fn(y)とこれに直近する過去2つのサンプリング期間における同一ラインyの積分値Fn_1(y)及びFn_2(y)との3V平均に相当する平均化処理Aと並列して、現サンプリング期間とその1つ前のサンプリング期間におけるライン毎の積分値の2V平均に相当する平均化処理Bを設け、選択部(SEL)が外部からの指示によりそれぞれの平均化処理A又はBのいずれかの出力を平均値演算部113の出力Ave[Fn(y)]として選ぶことができる構成になっている。
平均化処理Aでは、サンプリング位相の順に3つの波形Fn(y)、Fn_1(y)、及びFn_2(y)を加算平均するだけである(図5Aを参照のこと)。すなわち平均化処理Aは下式(5)で表される。
一方、平均化処理Bでは、単純にサンプリング位相の順に2つの波形Fn(y)及びFn_1(y)を加算平均するのではなく、サンプリング位相をフリッカ周期の半周期分ずらして加算平均化する。すなわち、平均化処理Bでは、ラインyのサンプリング位相に応じて計算式が異なり、フリッカ位相0〜πに相当する0≦y<T_fk/2の領域では下式(6)によって1つ前のサンプリング期間の半周期だけ先の波形Fn_1(y+T_fk/2)との平均化を行なうが(図5Bを参照のこと)、フリッカ位相π〜2πに相当するT_fk/2≦y<T_fkの領域では下式(7)により1つ前のサンプリング期間の半周期だけ後の波形Fn_1(y−T_fk/2)との平均化を行なう(図5Cを参照のこと)。平均化処理Bは、フリッカ及び背景ともに同じとなる信号の加重平均をとることを回避することを目的とする。言い換えると背景が同じでちょうどフリッカ信号が逆相となる信号の加算平均をとることに相当する(後述)。
このように加算するサンプリング位相の組み合わせを変えた状態で平均化処理を行なう。なお、位相をずらすべき側は本質的には現サンプリング期間における積分値Fn(y)であっても構わないが、以下では上式(6)並びに(7)に示したように1つ前のサンプリング期間の積分値Fn_1(y)の位相をずらすものとして説明する。
図6には、差分演算部114の内部構成を示している。差分演算部114はフリッカ成分のみを抽出するために、積分処理部111からの出力から、1つ前の積分処理部111からの出力(積分値保持部112から与えられる)を差し引くことで背景成分を取り除いて、純粋にフリッカ成分だけを抽出する。本実施形態では、サンプリング期間における各ラインyの入力画像信号の積分値Fn(y)からその1つ前の前のサンプリング期間における同一ラインyの積分値Fn_1(y)を差し引く差分処理Aと並列して、現サンプリング期間とその1つ前のサンプリング期間におけるライン毎の差分を行なう差分処理Bを設け、選択部(SEL)が外部からの指示によりそれぞれの差分処理A又はBのいずれかの出力を差分演算部114の出力[Fn(y)−Fn_1(y)]として選ぶことができる構成になっている。
差分処理Aでは、サンプリング位相の順に2つの波形Fn(y)とFn_1(y)の差分をとるだけである(図5Aを参照のこと)。すなわち、差分処理Aは下式(8)で表される。
一方、差分処理Bでは、単純にサンプリング位相の順に2つの波形Fn(y)及びFn_1(y)の差分をとるのではなく、サンプリング位相をフリッカ周期の半周期分ずらして差分をとる。すなわち、差分処理Bでは、ラインyのサンプリング位相に応じて計算式が異なり、フリッカ位相0〜πに相当する0≦y<T_fk/2の領域では下式(9)によって1つ前のサンプリング期間の半周期だけ先の波形Fn_1(y+T_fk/2)との差分をとるが(図5Bを参照のこと)、フリッカ位相π〜2πに相当するT_fk/2≦y<T_fkの領域では下式(10)により1つ前のサンプリング期間の半周期だけ後の波形Fn_1(y−T_fk/2)との差分をとる(図5Cを参照のこと)。差分処理Bは、フリッカ及び背景ともに同じとなる信号の差分をとることを回避することを目的とする。言い換えると背景が同じでちょうどフリッカ信号が逆相となる信号の差分をとることに相当する(後述)。
このように差分をとるサンプリング位相の組み合わせを変えた状態で差分処理を行なう。なお、位相をずらすべき側は本質的には現サンプリング期間における積分値Fn(y)であっても構わないが、以下では上式(9)並びに(10)に示したように1つ前のサンプリング期間の積分値Fn_1(y)の位相をずらすものとして説明する。
なお、図3に示した各機能ブロックによる処理の少なくとも一部は、システム・コントローラ15におけるソフトウェア処理という形態でも実現することができる。また、図1に示した撮像装置では、画像信号を構成する輝度信号、色差信号毎に、図3に示した各機能ブロックによる処理が実行される。あるいは、少なくとも輝度信号について図3に示した各機能ブロックによる処理を実行し、必要に応じて色差信号や各色信号について実行するようにしてもよい。また、輝度信号については、輝度信号に合成する前の色信号の段階で図3に示した各機能ブロックによる処理を実行してもよい。また、この色信号の段階における処理では、原色による色信号、補色による色信号のいずれの段階で図3に示した各機能ブロックによる処理を実行してもよい。これらの色信号について図3に示した各機能ブロックによる処理を実行する場合には、色信号毎に当該処理が実行される。
続いて、図3に示した検出・低減処理部22によって高速撮影時のフリッカ検出を行なう動作について説明する。以下では、周波数50Hz並びに60Hzそれぞれの商用交流電源による蛍光灯の照明下で240fps撮像を行なった場合の各例を挙げる。
まず、電源周波数50Hz地域における高速撮像モードの例として240fpsで撮像した場合のサンプリング動作について、図7及び図8を参照しながら説明する。
図7には、高速撮像モード(240fps)でのサンプリング動作を説明するための第1のタイミングチャートを示している。図示の例では、フレームレートの高速化に伴って、イネーブル信号VEN1で示される垂直方向に対する画像信号の有効データ領域の長さも短くなっている。ここで、内部基準信号生成部21のカウンタ21aにおいて、イネーブル信号としてVEN1を選択し、このイネーブル信号VEN1がハイ・レベルとなる期間内に水平同期信号HDをカウントした場合について検討してみる。カウント値VCOUNTは、通常撮像モードのときと同様に、有効データ領域の期間毎にライン数Mまでのカウントアップが繰り返される。
しかしながら、図16Bに示したように、FPS>2×fなる関係が成立している場合には(但し、蛍光灯の電源周波数をfとし、フレームレートをFPSとする)、フリッカ1周期分より1フィールドの有効データ領域の期間の方が短くなってしまう。このため、カウント値VCOUNTは、フリッカ1周期に対応するT_fkまでカウントされる前にリセットされるので、フリッカ1周期分のサンプリング・タイミングを生成することができなくなる。すなわち、検出・低減処理部22の検波系ブロックは、画像信号をフリッカ1周期分毎に処理することができない。
また、図8には、高速撮像モード(240fps)でのサンプリング動作を説明するための第2のタイミングチャートを示している。図示の例では、フレームレートに応じた有効データ領域を示すイネーブル信号VEN1の他に、60fpsの通常撮像モードでの有効データ領域を示すイネーブル信号VEN2を、基準信号生成部30からフリッカ低減部20に供給させる。そして、内部基準信号生成部21のカウンタ21aは、FPS>2×fが成立する高速撮像モードに設定されたときには、入力されるイネーブル信号としてVEN2を選択し、このイネーブル信号VEN2がハイ・レベルとなる期間に水平同期信号HDをカウントしてカウント値VCOUNTを出力する。
したがって、検出・低減処理部22は、イネーブル信号VEN2がハイ・レベルとなるフリッカ1周期分以上の長さを持つサンプリング期間にわたってサンプリング動作を行なうので、図7で説明したような、フリッカ1周期分より1フィールドの有効データ領域の期間の方が短いために画像信号をフリッカ1周期分毎に処理することができないという問題点を解決することができる。
図8に示した例では、イネーブル信号VEN2は、イネーブル信号VEN1を基準に、例えば同期タイミングをカウントするなどして生成されたものなどである。但し、イネーブル信号VEN2は、常に通常撮像モードでの同期信号を基に生成される、通常撮像モードでの有効データ領域を正確に示す信号であってもよい。言い換えれば、高速撮影モード下での有効データ領域を規定するイネーブル信号VEN2としては、あるフィールドでの有効データ領域の開始時を起点に、フリッカ1周期以上の期間だけハイ・レベルとなる信号であればよい。また、内部基準信号生成部21のカウンタ21aは、イネーブル信号を選択するのではなく、常時イネーブル信号VEN2を基にカウント値VCOUNTを生成する構成としてもよい。
このようなイネーブル信号VEN2を利用することにより、カウント値VCOUNTの上限値はフリッカ1周期に対応するT_fk以上となる。そして、カウント値VCOUNTのカウントアップが開始されてから、そのカウント値がT_fkに達するまでの間、イネーブル信号DETECT_ENがハイ・レベルとなる。したがって、検出・低減処理部22では、このようなイネーブル信号DETECT_ENを用いることで、常に1周期分以上のフリッカ成分を含む画像信号を各検波系の機能ブロックで取り込んで、フリッカ成分の検出処理を行なうことが可能となる。
但し、イネーブル信号DETECT_ENがハイ・レベルとなる期間には、画像データが無効となる垂直ブランキング期間が存在するため、この期間では画像信号のサンプリング値が不確定となる。このため、本実施形態では、サンプリング(積分)処理ブロックの最終段において、当該無効期間における画像信号をその前後の信号から補間して、1周期分のフリッカ成分が滑らかにつながるようにしている。この補間処理の詳細については後述に譲る。
続いて、電源周波数60Hz地域における高速撮像モードの例として240fpsで撮像した場合のサンプリング動作について、図9及び図10を参照しながら説明する。
図9には、高速撮像モード(240fps)でのサンプリング動作を説明するための第1のタイミングチャートを示している。図7に示したタイミングチャートと同様に、フレームレートの高速化に伴って、イネーブル信号VEN1で示される垂直方向に対する画像信号の有効データ領域の長さも短くなっている。ここで、内部基準信号生成部21のカウンタ21aにおいて、イネーブル信号としてVEN1を選択し、このイネーブル信号VEN1がハイ・レベルとなる期間内に水平同期信号HDをカウントした場合について検討してみる。カウント値VCOUNTは、通常撮像モードのときと同様に、有効データ領域の期間毎にライン数Mまでのカウントアップが繰り返される。
しかしながら、図16Bに示したように、FPS>2×fなる関係が成立しているので、フリッカ1周期分より1フィールドの有効データ領域の期間の方が短くなってしまう。このため、カウント値VCOUNTは、フリッカ1周期に対応するT_fkまでカウントされる前にリセットされるので、フリッカ1周期分のサンプリング・タイミングを生成することができなくなる。すなわち、検出・低減処理部22の検波系ブロックは、画像信号をフリッカ1周期分毎に処理することができない(同上)。
また、図10には、高速撮像モード(240fps)でのサンプリング動作を説明するための第2のタイミングチャートを示している。図示の例では、フレームレートに応じた有効データ領域を示すイネーブル信号VEN1の他に、60fpsの通常撮像モードでの有効データ領域を示すイネーブル信号VEN2を、基準信号生成部30からフリッカ低減部20に供給させる。そして、内部基準信号生成部21のカウンタ21aは、FPS>2×fが成立する高速撮像モードに設定されたときには、入力されるイネーブル信号としてVEN2を選択し、このイネーブル信号VEN2がハイ・レベルとなる期間に水平同期信号HDをカウントしてカウント値VCOUNTを出力する。
したがって、検出・低減処理部22は、イネーブル信号VEN2がハイ・レベルとなるフリッカ1周期分以上の長さを持つサンプリング期間にわたってサンプリング動作を行なうので、図9で説明したような、フリッカ1周期分より1フィールドの有効データ領域の期間の方が短いために画像信号をフリッカ1周期分毎に処理することができないという問題点を解決することができる。
図10に示した例では、イネーブル信号VEN2は、イネーブル信号VEN1を基準に、例えば同期タイミングをカウントするなどして生成されたものなどである。但し、イネーブル信号VEN2は、常に通常撮像モードでの同期信号を基に生成される、通常撮像モードでの有効データ領域を正確に示す信号であってもよい。言い換えれば、高速撮影モード下での有効データ領域を規定するイネーブル信号VEN2としては、あるフィールドでの有効データ領域の開始時を起点に、フリッカ1周期以上の期間だけハイ・レベルとなる信号であればよい。また、内部基準信号生成部21のカウンタ21aは、イネーブル信号を選択するのではなく、常時イネーブル信号VEN2を基にカウント値VCOUNTを生成する構成としてもよい(同上)。
このようなイネーブル信号VEN2を利用することにより、カウント値VCOUNTの上限値はフリッカ1周期に対応するT_fk以上となる。そして、カウント値VCOUNTのカウントアップが開始されてから、そのカウント値がT_fkに達するまでの間、イネーブル信号DETECT_ENがハイ・レベルとなる。したがって、検出・低減処理部22では、このようなイネーブル信号DETECT_ENを用いることで、常に1周期分以上のフリッカ成分を含む画像信号を各検波系の機能ブロックで取り込んで、フリッカ成分の検出処理を行なうことが可能となる(同上)。
但し、イネーブル信号DETECT_ENがハイ・レベルとなる期間には、画像データが無効となる垂直ブランキング期間が存在するため、サンプリング(積分)処理ブロックの最終段において、当該無効期間における画像信号をその前後の信号から補間するようにしている(同上)。
ところで、図8に示した電源周波数50Hz地域における高速撮影モード下でのサンプリング動作と、図10に示した電源周波数60Hz地域における高速撮影モード下でのサンプリング動作とを比較すると、60Hz地域におけるフリッカの場合、DETECT_EN期間にサンプリングされる波形は、垂直同期期間に対して毎回同じ位相になってしまう「固定フリッカ縞」であることが分かる。これはフレームレートとフリッカの1周期に相当する時間がちょうど整数倍の関係にあるためである。すなわち、フリッカに繰り返し性はあるもの、検波単位で考えると毎回同じ位相でフリッカが発生するため、正規化処理を行なう際にフィールド間の差分を取った時点で、背景とともにフリッカ縞の情報もなくなってしまう(前述)。
具体的には、上式(5)に従って平均化処理Aを行なうと、フリッカ及び背景ともに同じ信号となる3つの波形Fn(y)、Fn_1(y)、及びFn_2(y)を加算平均するので、目的とする背景成分を抽出することができない。また、上式(8)に従って差分処理Aを行なうと、フリッカ及び背景ともに同じ信号となる2つの波形Fn(y)及びFn_1(y)の差分をとるので、目的とするフリッカ成分の抽出(若しくは背景成分の除去)を行なうことができない。すなわち、フリッカ現象の繰り返し性を使って背景とフリッカ縞の区別を行なうアルゴリズムに対し、垂直同期とフリッカ縞が同期してしまうような上記条件では、たとえ繰り返し性があっても背景と区別することができず、所望の検出動作を行なうことができない。
そこで、本実施形態では、フレームレートとフリッカの1周期に相当する時間がちょうど整数倍の関係にあり、垂直同期とフリッカ縞が同期してしまう撮影条件下では、平均値演算部113では平均化処理Bを実施するとともに、差分演算部114では差分処理Bを実施するようにする。
図4を参照しながら既に説明したように、平均化処理Bでは、フリッカ及び背景ともに同じとなる信号の加重平均をとることを回避している。ラインyのサンプリング位相に応じて計算式が異なり、フリッカ位相0〜πに相当する0≦y<T_fk/2の領域では下式(11)によって1つ前のサンプリング期間の半周期だけ先の波形Fn_1(y+T_fk/2)との平均化を行なうが(図5Bを参照のこと)、フリッカ位相π〜2πに相当するT_fk/2≦y<T_fkの領域では下式(12)により1つ前のサンプリング期間の半周期だけ後の波形Fn_1(y−T_fk/2)との平均化を行なう(図5Cを参照のこと)。
また、図6を参照しながら既に説明したように、差分処理Bでは、位相をフリッカ周期の半周期分ずらして差分をとることで、フリッカ及び背景ともに同じとなる信号の差分をとることを回避している。ラインyのサンプリング位相に応じて計算式が異なり、フリッカ位相0〜πに相当する0≦y<T_fk/2の領域では下式(13)によって1つ前のサンプリング期間の半周期だけ先の波形Fn_1(y+T_fk/2)との差分をとるが(図5Bを参照のこと)、フリッカ位相π〜2πに相当するT_fk/2≦y<T_fkの領域では下式(14)により1つ前のサンプリング期間の半周期だけ後の波形Fn_1(y−T_fk/2)との差分をとる(図5Cを参照のこと)。
図11には、電源周波数60Hz地域における高速撮像モード(240fps)で平均化処理B及び差分処理Bを行なうことで得られる検出波形の様子を示している。但し、フリッカ波形のサンプリング動作は図10に示したタイミングチャートと同様である。また、説明の便宜上、図11では垂直ブランキング期間を省略して描いている。
平均化処理Bでは、フリッカ位相0〜πに相当する0≦y<T_fk/2の領域では下式(15)によって1つ前のサンプリング期間の半周期だけ先の波形Fn_1(y+T_fk/2)との加重平均を行ない、フリッカ位相π〜2πに相当するT_fk/2≦y<T_fkの領域では下式(16)により1つ前のサンプリング期間の半周期だけ後の波形Fn_1(y−T_fk/2)との加重平均を行なう。
したがって、平均化処理Bでは、フリッカ位相の0〜πに相当する部分は図11中の「(C)+(B)」になり、フリッカ位相のπ〜2πに相当する部分は図11中の「(D)+(A)」となる。
また、差分処理Bでは、フリッカ位相0〜πに相当する0≦y<T_fk/2の領域では下式(17)によって1つ前のサンプリング期間の半周期だけ先の波形Fn_1(y+T_fk/2)との差分をとり、フリッカ位相π〜2πに相当するT_fk/2≦y<T_fkの領域では下式(18)により1つ前のサンプリング期間の半周期だけ後の波形Fn_1(y−T_fk/2)との差分をとる。
したがって、差分処理Bでは、フリッカ位相の0〜πに相当する部分は図11中の「(C)−(B)」になり、フリッカ位相のπ〜2πに相当する部分は図11中の「(D)−(A)」となる。
図11から分かるように、(A)と(D)、及び(B)と(C)の組み合わせは、背景が同じでフリッカ位相が逆方向となる。したがって、(A)と(D)、及び(B)と(C)の組み合わせで平均化及び差分の演算を行なうと、フレームレートとフリッカの1周期に相当する時間がちょうど整数倍の関係にあるため固定フリッカが発生する撮影条件下でも、入力された画像信号から背景成分及びフリッカ成分のみを抽出することができるようになる。
図11では、説明の便宜上、背景がフラットな例について示している。実際には背景が映りこむため、図11のようなフラットな背景成分及び綺麗なフリッカ波形とはならないが、後段の正規化処理及びDFT処理によって高精度なフリッカ検出、及びフリッカ補正を実現することができることを理解されたい。また、図11からも分かるように、差分処理Bにより得られるフリッカ成分は振幅が2倍になってしまうので、補正係数を算出する際にはその分を考慮した形で補正係数を求める点に注意が必要である。
上述したように、本実施形態によれば、フレームレートとフリッカの1周期に相当する時間がちょうど整数倍の関係にあるため固定フリッカが発生する撮影条件下でも、平均化演算及び差分演算を適切に実施することができる。それ以降の正規化処理、DFT処理、フリッカ生成処理、フリッカ補正処理の詳細については、例えば本出願人に既に譲渡されている特開2004−222228号公報(特許文献1)の段落0092〜0111を参照されたい。
なお、あらかじめ50Hz地域と60Hz地域のいずれかが分かっている状態で高速撮像モードに入れた場合には、平均化処理AとBあるいは差分処理AとBのどちらを使えばよいかは上記の通りである。また、どちらの電源周波数であるのかが分からない状態においても、例えば高速撮像に入れた後に、以下の手順を踏めば自動的に適切な補正をかけることもできる。
(1)まず、平均化処理A、差分処理Aという設定でフリッカ検出を行なう。被写体の撮影を行なっている場所が50Hz地域であれば、この設定でフリッカ成分を検出することが可能である。
(2)この時点で、フリッカ成分に相当するDFTスペクトルが定常的に発生しないときには、60Hz地域のフリッカあるいはフリッカ非発生状態のいずれかであることが推定される。そこで、平均化処理B及び差分処理Bという設定に切り替え、60Hz地域であればフリッカ成分を検出可能な装置状態にする。
(3)この時点で、フリッカ成分に相当するDFTスペクトルが定常的に発生しないときには、フリッカ非発生状態であることが断定的となる。したがって、フリッカ検出値が出力されず、その結果として入力画像信号に対し不要な補正がかかることもない。
図2に示したカメラ処理回路14構成の場合、図10に示したタイミングチャートからも分かるように、60fpsの通常撮像モードでの有効データ領域を示すイネーブル信号VEN2を使ってサンプリング期間を規定するDETECT_ENを発生させている。このような場合、DETECT_ENの発生間隔はVEN2の発生間隔である1/60秒間隔に制限されてしまうが、60Hz地域で発生するフリッカの場合はDETECT_ENを1/60秒間隔にする必要は無い。何故なら、図10あるいは図11を見て分かるように、1/120秒間隔で全く同じフリッカ位相になるからであり、わざわざ1/60秒間隔でサンプリング処理を行わなくても、1/120秒間隔で同等の処理を行なうようにしてもよい。
図12には、カメラ処理回路14の変形例を示している。図示のカメラ処理回路14では、VEN1並びにVEN2に加えて基準信号生成部30よりVEN3(VEN2のちょうど半分に相当する時間だけハイ・レベルになるになるような信号)をカウンタ21aに供給する。内部基準信号生成部21のカウンタ21aは、FPS>2×fが成立する高速撮像モードに設定された場合に、入力されるイネーブル信号としてVEN2の代わりにVEN3を選択し、このイネーブル信号VEN3がハイ・レベルの期間に水平同期信号HDをカウントしてカウント値VCOUNTを出力するようになっている。
また、図13には、図12に示したカメラ処理回路14を用いた場合において、電源周波数60Hz地域における高速撮像モード(240fps)でのサンプリング動作を示している。図示の例では、VEN2のちょうど半分に相当する時間だけハイ・レベルになるになるVEN3を、基準信号生成部30からフリッカ低減部20に供給させる。そして、内部基準信号生成部21のカウンタ21aは、FPS>2×fが成立する高速撮像モードに設定されたときには、入力されるイネーブル信号としてVEN3を選択し、このイネーブル信号VEN3がハイ・レベルとなる期間に水平同期信号HDをカウントしてカウント値VCOUNTを出力する。この場合、検出・低減処理部22は、イネーブル信号VEN3がハイ・レベルとなるフリッカ1周期分以上の長さを持つサンプリング期間にわたってサンプリング動作を行なうことができる。
図10に示したタイミングチャートでは1周期だけ隔たったフリッカ波形同士での平均化・差分の演算となる。これに対し、図13に示したタイミングチャートでは、直近のフリッカ波形同士での平均化・差分の演算となることから、検出精度が高まる(背景動きにも強くなる方向)。
また、図10並びに図13に示した実施形態ではいずれも、60Hz地域で240fpsにより撮影するようになっているが、本発明の要旨は、高速撮影時に限定されるものではない。
例えば、60Hz地域において60fpsの撮影を行なうなど通常撮影においても、フリッカ波形は検波枠単位で見たときに、各検波枠単位のフリッカ縞が同期に対して全く同じ位置となる固定フリッカ縞が発生するため、サンプリング期間毎の積分値をサンプリング位相の順に単純に差分をとって正規化処理を行なうと、フィールド間の差分を取った時点で背景と共にフリッカ縞の情報もなくなってしまうことになる。すなわち繰り返し性を使って背景とフリッカ縞の区別を行うアルゴリズムに対し、垂直同期とフリッカ縞が同期してしまう条件では、たとえフリッカ波形に繰り返し性があっても背景と区別することができない。
これに対し、本発明では、通常撮影時において垂直同期とフリッカ縞が同期してしまう条件下でも同様に、連続する2つのサンプリング期間における積分値の片方のサンプリング位相をフリッカ周期の半周期分ずらして加算平均化及び差分を演算することによって、ゲイン補正方式による高精度なフリッカ検出及び補正処理を実現することができる。
図14には、電源周波数60Hz地域における通常撮像モード(60fps)でのサンプリング動作例を示している。但し、同図に示すサンプリング動作は、均一被写体に対して適用することはできるが、自然画に対しては適用が困難である(異なる背景部分で演算することになってしまうことが直接の原因である)。
図示の例では、フレームレートに応じた有効データ領域を示すイネーブル信号VEN1の他に、60fpsの通常撮像モードでの有効データ領域を示すイネーブル信号VEN2を、基準信号生成部30からフリッカ低減部20に供給させる。内部基準信号生成部21のカウンタ21aは、FPS>2×fが成立しない通常撮影モードに設定されているときには、入力されるイネーブル信号としてVEN1を選択し、このイネーブル信号VEN1がハイ・レベルとなる期間に水平同期信号HDをカウントしてカウント値VCOUNTを出力する。そして、検出・低減処理部22は、DETECT_ENがハイ・レベルとなるサンプリング期間にわたってフリッカ1周期分のサンプリング動作を行なうことができる。
ここで、図14中のフリッカ波形Fn(y)、及びFn_1(y)を見れば、図10に示したフリッカ波形Fn(y)及びFn_1(y)の関係と全く同じであることが分かる。つまり、固定フリッカ発生条件において、加算平均化処理及び差分処理において背景とフリッカの分離ができないという問題に対し、サンプリング位相をフリッカ周期の半周期分ずらして加算平均化及び差分を演算する方法を適用することによって、画像信号を背景とフリッカに分離することが可能となる。したがって、正規化後の積分値又は差分値から抽出されるスペクトルを基にフリッカ成分を推定する方法(特許文献1を参照のこと)によって、高精度なフリッカ検出・補正が使えるようになる。
なお、図14に示した実施形態においても、図10に示した実施形態と同様に、あらかじめ50Hz地域と60Hz地域のいずれかが分かっている状態で高速撮像モードに入れた場合には、平均化処理AとBあるいは差分処理AとBのどちらを使えばよいかは上記の通りである。また、どちらの電源周波数であるのかが分からない状態においても、例えば高速撮像に入れた後に、以下の手順を踏めば自動的に適切な補正をかけることもできる。
(1)まず、平均化処理A、差分処理Aという設定でフリッカ検出を行なう。被写体の撮影を行なっている場所が50Hz地域であれば、この設定でフリッカ成分を検出することが可能である。
(2)この時点で、フリッカ成分に相当するDFTスペクトルが定常的に発生しないときには、60Hz地域のフリッカあるいはフリッカ非発生状態のいずれかであることが推定される。そこで、平均化処理B及び差分処理Bという設定に切り替え、60Hz地域であればフリッカ成分を検出可能な装置状態にする。
(3)この時点で、フリッカ成分に相当するDFTスペクトルが定常的に発生しないときには、フリッカ非発生状態であることが断定的となる。したがって、フリッカ検出値が出力されず、その結果として入力画像信号に対し不要な補正がかかることもない。