<第1の実施形態>
以下、本発明の第1の実施形態について説明する。本発明では、入力フレーム画像の平坦領域とエッジ領域とを検出し、検出結果に基づきエッジ近傍の平坦領域を求め、このエッジ近傍の平坦領域の画像の特徴を示す特徴量を求める。そして、入力フレーム画像から空間周波数の低域成分を抽出し、求められた特徴量に応じて適応的に設定した分配比率を低域成分に適用して、低域成分のみを含む第1のサブフレームを生成する。また、入力フレーム画像から第1のサブフレームを減じて、高域成分を含む第2のサブフレームを生成する。これら第1および第2のサブフレームを、入力フレーム画像のフレーム周波数の2倍のフレーム周波数で交互に出力する。
なお、以下では、「空間周波数の低域成分のみを含む信号からなる第1のサブフレーム」を、「低域成分のみを含む第1のサブフレーム」あるいは「第1のサブフレーム」と略称する。同様に、「空間周波数の高域成分を含む信号からなる第2のサブフレーム」を、「高域成分を含む第2のサブフレーム」あるいは「第2のサブフレーム」と略称する。
図1は、本発明の第1の実施形態に適用できる動画像処理装置100の一例の構成を示す。動画像処理装置100は、入力画像データ(入力フレーム画像)である入力フレーム101から低域成分のみを含む第1のサブフレームと、高域成分を含む第2のサブフレームとを生成する。生成されたこれら第1および第2のサブフレームは、入力フレーム101のフレーム期間に順次出力するように、スイッチ112により交互に切り換えられて、出力フレーム113として出力される。
動画像処理装置100の構成について、より詳細に説明する。入力フレーム101は、減算処理部111の被減算入力端に入力されると共に、エッジ近傍状態検出部102およびローパスフィルタ(LPF)処理部109にそれぞれ入力される。
検出手段および決定手段としてのエッジ近傍状態検出部102は、入力フレーム101に対してエッジ検出を行い、さらに、検出されたエッジの近傍領域の特徴を示す特徴量を求める。そして、このエッジ近傍領域の特徴量に基づき、第1および第2のサブフレームの分配比率を設定する。この分配比率の設定結果を示す分配設定信号は、分配比率処理部110に供給される。
一方、LPF処理部109は、ローパスフィルタ処理により入力フレーム101から空間周波数の低域成分を抽出する。抽出された低域成分は、分配比率処理部110に供給される。分配比率処理部110は、LPF処理部109から供給された入力フレーム101の低域成分に対して、エッジ近傍状態検出部102で検出された分配設定信号に応じてレベルを減衰させ、低域成分のみを含む第1のサブフレームを生成する。LPF処理部109および分配比率処理部110が第1の生成手段を構成する。この第1のサブフレームは、減算処理部111の減算入力端に入力されると共に、スイッチ112の一方の入力端に入力される。
第2の生成手段としての減算処理部111は、被減算入力端に入力された入力フレーム101から、減算入力端に入力された低域成分のみを含む第1のサブフレームを減算し、高域成分を含む第2のサブフレームを生成する。この第2のサブフレームは、スイッチ112の他方の入力端に入力される。
出力手段としてのスイッチ112は、所望のタイミング、例えば入力フレームのフレーム周波数が60Hzの場合であれば、2倍の120Hzの周期で、2つのサブフレームを切り替えて出力フレーム113として出力する。なお、スイッチ112は、入力される第1および第2のサブフレームを一時的に保持するバッファを含んでいてもよい。例えば、スイッチ112よって、入力された第1および第2のサブフレームがそれぞれバッファに一旦格納され、それぞれの出力タイミングで読み出され、出力フレーム113として出力される。
次に、エッジ近傍状態検出部102について、より詳細に説明する。エッジ近傍状態検出部102に入力された入力フレーム101は、平坦部検出部103およびエッジ検出部105にそれぞれ供給される。平坦部検出部103は、入力フレーム101による画像における平坦領域を検出する。例えば、平坦部検出部103は、入力画像データによる入力波形に対しラプラシアンフィルタ処理を施し、処理結果を閾値処理して、閾値より振幅の小さな領域を検出する。なお、平坦部検出部103による平坦領域の検出方法は、この方法に限定されるものではない。
平坦部検出部103による検出結果は、平坦領域拡張部104に供給される。拡張平坦領域生成手段としての平坦領域拡張部104は、平坦部検出部103で検出された平坦領域を拡張して拡張平坦領域として出力する。例えば、平坦領域拡張部104は、平坦部検出部103で検出された平坦領域を、予め決められた所定画素分、広げる。平坦領域拡張部104で拡張された拡張平坦領域を示す情報は、重なり領域検出部107に供給される。
一方、エッジ検出部105は、入力フレーム101による画像におけるエッジ領域を検出する。例えば、エッジ検出部105は、入力画像データによる入力波形に対しラプラシアンフィルタ処理を施し、処理結果を閾値処理して、閾値より振幅の大きな領域を検出する。なお、エッジ検出部105によるエッジ部の検出方法は、この方法に限定されるものではない。
エッジ検出部105による検出結果は、エッジ領域拡張部106に供給される。拡張エッジ領域生成手段としてのエッジ領域拡張部106は、エッジ検出部105で検出されたエッジ領域を拡張して、拡張エッジ領域として出力する。例えば、エッジ領域拡張部106は、エッジ検出部105で検出されたエッジ領域を、予め決められた所定画素分、広げる。エッジ領域拡張部106で拡張された拡張エッジ領域を示す情報は、重なり検出手段としての重なり領域検出部107に供給される。
重なり領域検出部107は、平坦領域拡張部104から供給された拡張平坦領域を示す情報と、エッジ領域拡張部106から供給された拡張エッジ領域を示す情報とに基づき、拡張平坦領域と拡張エッジ領域とが重なり合う領域を検出する。この領域は、換言すれば、エッジ近傍の平坦領域である。すなわち、拡張エッジ領域は、エッジ近傍の領域を示し、拡張平坦領域は、平坦と見なせる領域を示す。このエッジ近傍の平坦領域を示す情報は、領域特徴量検出部108に供給される。
領域特徴量検出部108は、重なり領域検出部107で検出されたエッジ近傍の平坦領域の特徴を示す特徴量を求める。領域特徴量検出部108は、例えば、平坦部検出部103から、検出された平坦領域の平坦度を示す情報を取得すると共に、エッジ検出部105から検出されたエッジ領域のエッジ強度を示す情報を取得する。そして、これら平坦度およびエッジ強度を示す情報に基づき、当該特徴量を求める。
特徴量は、例えば平坦部検出部103で検出された、平坦領域であるか否かを示す情報と、エッジ検出部105で検出された、エッジ領域であるか否かを示す情報とに基づき求めることができる。この場合には、エッジ近傍の平坦領域の特徴量が大か小かの2値化判断となる。
本第1の実施形態では、エッジ近傍の平坦領域の特徴量の検出を精度よく行うために、多値化による処理を行う。図2を用いて、多値化によるエッジ近傍の平坦領域の特徴量について説明する。図2において、縦軸はエッジ強度を示し、横軸は平坦領域の平坦度を示す。図2の例では、特徴量は、平坦領域の平坦度が大きくなるほど大きくなり、エッジ強度が強くなるほど大きくなるような値とされる。換言すれば、特徴量は、エッジ近傍において動きブレが知覚され易い場合に大きな値を取り、動きブレが知覚されにくい場合に小さな値を取る。
そこで、一例として、エッジ近傍の平坦領域に係るエッジ部分のエッジ強度と平坦領域の平坦度とに応じて、エッジ近傍の平坦領域の特徴量を求める。図2の例では、説明のため、エッジ強度および平坦領域の平坦度をそれぞれ強中弱、大中小の3段階で表現し、エッジ強度および平坦度に応じて特徴量を3値化している。すなわち、エッジ強度が弱いか、または、平坦度が小さければ特徴量を小さな値とし、エッジ強度が強く、且つ、平坦度が大きい場合に、特徴量を大きな値とする。
より具体的な例として、エッジ強度および平坦度をそれぞれ正規化すると共に、エッジ強度および平坦度のそれぞれに対して第1の閾値および第1の閾値より大きな第2の閾値を設定する。そして、例えばエッジ強度を第1および第2の閾値と比較し、第2の閾値より大きな値の場合にエッジ強度が強、第1の閾値より小さな値の場合にエッジ強度が弱とする。エッジ強度が第1の閾値より大きく、且つ、第2の閾値より小さければ、エッジ強度が中とする。平坦度についても同様である。
勿論、これは一例であって、特徴量は、エッジ強度および平坦度に応じて連続的または段階的に変化させることも可能である。例えば、エッジ強度が中の場合、特徴量をエッジ強度に応じて連続的または段階的に変化させることができる。
なお、平坦領域の平坦度は、例えば平坦部検出部103において、平坦領域であると検出された領域内の波形の振幅に基づき求めることができる。この場合、当該振幅が小さいほど、平坦度が大きいとされる。また、エッジ強度は、例えばエッジ検出部105において、検出されたエッジ領域の両側における振幅の差分の絶対値に基づき求めることができる。この場合、当該振幅の差分の絶対値が大きいほど、エッジ強度が強いとされる。
領域特徴量検出部108で検出されたエッジ近傍の平坦領域の特徴量は、エッジ近傍の平坦領域を示す情報と共に、分配設定信号として分配比率処理部110に供給される。分配比率処理部110は、供給された分配設定信号に基づき、低域成分のみを含む第1のサブフレームの分配比率を設定する。
図2を用いて説明したように、エッジ近傍の平坦領域の特徴量は、エッジの強度が強く、平坦領域の平坦度が大きいほど小さくなる。従来技術で説明したように、エッジ近傍の平坦領域の特徴量が小さければ動きボケが知覚され易くなるので、このエッジ強度が強く、且つ、平坦領域の平坦度が大きい領域が、分配比率に差をつけるべき領域である。この領域では、低域成分のみを含む第1のサブフレームに対する分配比率を0%に近い値とすると、出力画像における動きボケを効果的に抑制することができる。一方、平坦度が小さかったり、エッジ強度が弱い場合は、低域成分のみを含む第1のサブフレームと、高域成分を含む第2のサブフレームとで、均等に近い分配比率とすると、フリッカを抑制することができ好ましい。
図3は、エッジ近傍の平坦領域の特徴量と、低域成分のみを含む第1のサブフレームの分配比率との一例の関係を示す。エッジ強度が強く且つ平坦領域の平坦度が大きい、特徴量が大の領域においては、理論上取り得る分配比率の最小値は0%となる。実際には、図3に例示されるように、フリッカの除去効果も考慮して、第1のサブフレームに対する分配比率の最小値を10%としている。一方、特徴量が小の領域においては、分配比率を略50%に設定している。なお、特徴量が中の領域では、図3に例示されるように、特徴量に応じて分配比率を可変させてもよいし、分配比率を、最小値および50%の間の所定値としてもよい。
上述したエッジ近傍状態検出部102におけるより詳細な処理を、エッジ近傍の状態が平坦である場合と、エッジ近傍の状態が複雑である場合とに分けて説明する。先ず、図4を用いて、エッジ近傍の状態が平坦である場合について説明する。
図4(a)は、入力フレーム101による入力波形に対して、平坦部検出部103で平坦領域を検出した一例の状態を示す。平坦領域として検出された領域を、図4(a)において斜線を付して示す(領域202および203)。この領域202および203が、平坦領域拡張部104で拡張され、図4(b)に例示される領域205および206とされる。なお、図4(a)の如くエッジ部の両側で検出された平坦領域に関し、平坦度は、原則的に、それぞれの平坦領域毎に独立的に求める。これに限らず、平坦度を、当該エッジ部の両側の平坦領域それぞれの平坦度の平均値を平坦度として求めてもよい。
一方、エッジ検出部105は、入力波形に対してエッジ部の検出を行う。エッジ検出された結果の例を、図4(c)において斜線を付して示す(領域208)。この領域208が、エッジ領域拡張部106で拡張され、図4(d)に例示される領域210とされる。
次に、重なり領域検出部107において、拡張平坦領域である領域205および206(図4(b)と、拡張エッジ領域である領域210(図4(d))とが重なり合うエッジ近傍の平坦領域が検出される。図4(e)は、重なり領域検出部107で検出された、領域205および206と、領域210とが重なり合う領域212の例を示す。この図4(e)において斜線を付して示される領域212が、エッジ近傍の平坦領域ということになる。
領域特徴量検出部108は、上述した平坦度およびエッジ強度に基づき、エッジ近傍の平坦領域212の特徴量を求める。そして、分配比率処理部110は、この特徴量に応じて、低域成分のみを含む第1のサブフレームに対する分配比率を設定する。このとき、分配比率処理部110は、図5(a)に例示されるように、エッジ近傍の平坦領域では分配比率25%、それ以外の部分では分配比率50%といったように、領域毎の分配比率を求めることができる。
ここで、分配比率の異なる境界部分での分配比率の不連続性を避けるため、図5(b)に例示するように、エッジ近傍の平坦領域内からエッジ近傍の平坦領域外へ、分配比率を直線的に変化させることが考えられる。これに限らず、図5(c)に例示するように、フィルタ処理などによって、エッジ近傍の平坦領域内からエッジ近傍の平坦領域外へ、分配比率を滑らかに変化させることも可能である。
上述したようにして求めた領域毎の分配比率を処理波形に適用させた例を、図6を用いて説明する。
先ず、第1のサブフレームの処理に係る波形について説明する。図6(a)は、分配比率処理部110に入力されるローパスフィルタ処理後の波形に対し、図5(a)に例示される、分配比率が25%とされた分配領域402(斜線を付して示す)を重ねて表示させた図である。すなわち、この分配領域402が、分配比率を25%に下げるべき領域である。図6(b)は、図6(a)に例示される波形のレベルを25%に減衰させた波形の例を示す。図6(a)の領域402に対応する領域404(斜線を付して示す)が、この波形を適用すべき領域である。
図6(c)は、分配比率処理部110に入力されるローパスフィルタ処理後の波形に対し、図5(a)に例示される、分配比率が50%とされた分配領域406および407(斜線を付して示す)を重ねて表示させた図である。すなわち、これら分配領域406および407が、分配比率を50%とするべき領域である。なお、図6(c)においては、分配領域406および407に対する分配比率に合わせて、図6(a)に例示される波形のレベルが50%に減衰されて示されている。
図6(d)は、上述した図6(b)および図6(c)にそれぞれ示される分配領域402、406および407毎に分配比率を変えた波形の例を示す。図6(d)に斜線を付して示される領域409および410は、分配比率が変わる境界の領域の例を示す。これらの境界領域において、図5(b)を用いて説明したように、分配比率を所定の傾斜の直線で接続した波形の例を、図6(e)に示す。この図6(e)に例示される波形が、低域成分のみを含む第1のサブフレームの波形となる。
一方、高域成分を含む第2のサブフレームは、図1で示した減算処理部111にて、入力フレーム101から、上述した低域成分のみを含む第1のサブフレームを減じることで生成される。図6(f)は、入力フレーム101による入力波形から、図6(d)に例示される低域成分のみを含む第1のサブフレームによる波形を減じて生成された、高域成分を含む第2のサブフレームの波形の例を示す。
動きのない静止した画像においては、これら低域成分のみを含む第1のサブフレームと、高域成分を含む第2のサブフレームとによる見かけ上の合成波形は、図6(g)に例示するようになり、図6(a)に示した入力フレーム101による波形と同一となる。
一方、動きのある画像においては、図6(e)および図6(f)にそれぞれ示される波形に相対的な位置ずれが発生する。そのため、これら第1および第2のサブフレームとによる見かけ上の合成波形は、図6(h)に例示されるように、入力波形に対して若干の不一致が生じる。しかしながら、本第1の実施形態では、エッジ近傍の平坦度に応じて分配比率を適応的に設定しているので、図6(f)において丸で囲んだ注目点415に示されるように、図20(f)を用いて説明した従来技術の例に対して、動きによる視覚的な劣化が抑制される。
なお、第1および第2のサブフレームにおける相対的な波形の位置のずれは、画像の動きの大きさに依存する。大きすぎる動きに対しては、眼が追従することが難しいので、動きボケの目立つ範囲には上限が存在する。そのため、上述した平坦領域拡張部104およびエッジ領域拡張部106において、エッジ近傍の平坦領域を求めるために平坦領域およびエッジ領域を拡張する拡張範囲は、眼が追従可能な動きの大きさにおける範囲で決定すればよい。
次に、図7を用いて、エッジ近傍の状態が複雑である場合について説明する。図7(a)は、入力フレーム101による入力波形に対して、平坦部検出部103で平坦領域を検出した一例の状態を示す。この図7(a)の例では、平坦部検出部103で平坦と判定された領域が無い状態であることを示している。したがって、平坦領域拡張部104による処理においても、図7(b)に例示されるように、拡張領域が無い状態となる。
一方、エッジ検出部105による入力波形に対するエッジ検出の結果、図7(c)に斜線を付して示される領域510がエッジ領域として検出される。この領域510がエッジ領域拡張部106で拡張され、図7(d)に例示される拡張エッジ領域511とされる。
重なり領域検出部107において、平坦領域拡張部104で拡張された拡張平坦領域と、エッジ領域拡張部106で拡張された拡張エッジ領域511とが重なり合う領域が求められる。図7の例では、平坦部検出部103で平坦領域が検出されないため拡張平坦領域も存在せず、図7(e)に例示されるように、拡張平坦領域と拡張エッジ領域511とが重なり合う領域も存在しない。そのため、図8に例示されるように、特に分配比率を変えるべき領域は存在せず、分配比率は、均一に50%となる。
図8に示す分配比率を処理波形に適用させた例を、図9を用いて説明する。図9(a)は、分配比率処理部110に入力されるローパスフィルタ処理後の波形である。図8を用いて説明したように、分配比率を変える領域は存在しないため、ローパスフィルタ処理後の波形のレベルを50%下げた波形(図9(b))を、そのまま低域成分のみを含む第1のサブフレームとして出力する。
一方、高域成分を含む第2のサブフレームは、図1で示した減算処理部111にて、入力フレーム101から上述した低域成分を含む第1のサブフレームを減じることで生成される。図9(c)は、図7(a)で示した入力波形から図9(b)に例示される低域成分のみを含む第1のサブフレームを減じて生成された、高域成分を含む第2のサブフレームの波形の例を示す。
動きのない静止した画像においては、これら低域成分のみを含む第1のサブフレームと、高域成分を含む第2のサブフレームとによる見かけ上の合成波形は、図9(d)に例示するようになり、図7(a)に示した入力フレーム101による波形と同一となる。
また、動きのある画像における、第1および第2のサブフレームの見かけ上の合成波形は、図9(b)および図9(c)にそれぞれ示される波形の相対的な位置ずれを含み、図9(e)に例示されるようになる。この場合、図9(e)において丸で囲んだ注目点706に示されるように、高域成分の上に歪が乗る状態なので、視覚的な劣化は少ない。
なお、カラー画像に対する処理は、一般的に、R信号、G信号およびB信号からなるコンポーネント信号や、輝度信号Yおよび色差信号Cb、Crからなるコンポジット信号といった、3種類の画像データに分けて行われる。本発明による上述した一連の処理は、コンポーネント信号による画像データのR信号、G信号およびB信号のそれぞれに対して行ってもよいし、コンポジット信号における輝度信号Yに対してのみ行ってもよい。また、R信号、G信号およびB信号から輝度信号Yを算出して本発明による一連の処理を行い、結果を再びR信号、G信号およびB信号に当てはめることも、もちろん可能である。
次に、本発明の第1の実施形態による処理の例を、図10のフローチャートを用いてより具体的に説明する。先ず、ステップS1001で、例えばエッジ検出や平坦部検出に必要な閾値設定、領域拡張範囲、ローパスフィルタの静的特性といった、必要な初期設定が行われる。
例えば、図1を参照し、平坦領域の検出処理やエッジ検出に必要な閾値が平坦部検出部103やエッジ検出部105に対してそれぞれ設定される。同様に、平坦領域拡張部104やエッジ領域拡張部106に対して、それぞれ領域拡張範囲が設定される。また、LPF処理部109に対して、所定の静的特性を実現するためのパラメータが設定される。これらの設定は、例えば図示されないCPUなどにより行われる。これに限らず、該当する各部に対して各値が予め設定されていてもよい。
初期設定がなされると、処理はステップS1002に移行され、入力画像である入力フレーム101が動画像処理装置100に対して入力される。例えば、図4(a)に示した波形が入力されるものとする。次のステップS1003で、入力フレーム101に対して平坦部検出部103により平坦領域の検出処理が行われる。検出結果を、例えば図4(a)の領域202および203とする。検出された平坦領域は、ステップS1004で、平坦領域拡張部104により拡張される。拡張結果を、例えば図4(b)の領域205および206とする。
ステップS1005で、入力フレーム101に対してエッジ検出部105によりエッジ領域の検出処理が行われる。検出結果を、例えば図4(c)の領域208とする。検出されたエッジ領域は、ステップS1006で、エッジ領域拡張部106により拡張される。拡張結果を、例えば図4(d)の領域210とする。
なお、このステップS1005およびステップS1006の処理と、上述したステップS1003およびステップS1004の処理とは、順序を入れ替えて、ステップS1005およびステップS1006を先に実行しても構わない。これに限らず、ステップS1005およびステップS1006の処理と、上述したステップS1003およびステップS1004の処理とを並列的に行ってもよいし、時分割で交互に行ってもよい。
拡張平坦領域および拡張エッジ領域が求められると、処理はステップS1007に移行され、重なり領域検出部107において、これら拡張平坦領域と拡張エッジ領域とが重なり合う領域、すなわち、エッジ近傍の平坦領域が検出される。エッジ近傍の平坦領域の検出結果を、例えば図4(e)の領域212とする。そして、次のステップS1008で、領域特徴量検出部108により、エッジ近傍領域の平坦領域の特徴量を求め、低域成分のみを含む第1のサブフレームの最終的な分配比率を決定する。例えば、図5(b)のように、異なる分配比率を所定の傾きで直線的に接続して、この最終的な分配比率の決定結果を得る。この最終的な分配比率は、分配比率処理部110に供給される。
ステップS1009で、入力フレーム101に対し、LPF処理部109でローパスフィルタ処理を行う。ローパスフィルタ処理の結果、例えば図6(a)に示される波形が得られたものとする。次のステップS1010で、分配比率処理部110により、ステップS1008で決定された分配比率に従い、ローパスフィルタ処理による出力信号の出力比率(分配比率)を変更し、低域成分のみを含む第1のサブフレームが生成される。例えば、この第1のサブフレームによる波形が図6(e)に例示されるように得られたものとする。
次のステップS1011は、減算処理部111での差分画像生成処理により、入力フレーム101と低域成分のみを含む第1のサブフレームとの差分を取って、高域成分のみを含む第2のサブフレームを生成する。例えば図6(f)に例示されるように、この第2のサブフレームによる波形が得られたものとする。
次のステップS1012で、スイッチ112により、第1のサブフレームの出力タイミングが判定される。若し、第1のサブフレームの出力タイミングであると判定されれば、処理がステップS1013に移行され、第1のサブフレームを出力フレーム113として出力する。なお、第1のサブフレームは、スイッチ112が有するバッファメモリに一時的に保持されており、第1のサブフレームの出力タイミングでバッファメモリから読み出されてスイッチ112から出力フレーム113として出力される。
第1のサブフレームが出力されると、処理がステップS1014に移行され、スイッチ112より、第2のサブフレームの出力タイミングが判定される。若し、第2のサブフレームの出力タイミングであると判定されれば、処理がステップS1015に移行され、第2のサブフレームを出力フレーム113として出力する。なお、第2サブフレームは、スイッチ112が有するバッファメモリに一時的に保持されてもよく、第2のサブフレームの出力タイミングバッファメモリから読み出されてスイッチ112から出力フレーム113として出力される。
第2のサブフレームが出力されると、次のステップS1016で、入力された全ての入力フレーム101について処理が完了したか否かが判定される。若し、完了したと判定されたら、一連の処理が終了される。一方、全ての入力フレーム101について処理が完了してないと判定されたら、処理がステップS1002に戻され、次の入力フレーム101に対して処理が繰り返される。
一例として、ステップS1012、S1013による第1のサブフレームの出力と、ステップS1014、S1015による第2のサブフレームの出力とが、入力フレーム101の2倍のフレーム周波数の間隔で交互に繰り返されるように制御される。
なお、上述のステップS1012〜ステップS1014による第1および第2のサブフレームの出力順序は、一例であってこれに限定されるものではない。すなわち、第2のサブフレームを出力した後に第1のサブフレームを出力してもよい。また、上述では、第1および第2のサブフレームを生成した後に出力タイミングを判定しているが、これはこの例に限定されない。例えば、ステップS1009におけるローパスフィルタ処理が完了した時点で第1のサブフレームの出力タイミングを判定し、出力した後に差分値検出処理を行って第2サブフレームを生成してもよい。
以上説明したように、低域成分のみを含む第1のサブフレームの分配比率を、画像のエッジ近傍の平坦領域の特徴量に応じて領域毎に変えることで、フリッカと動きボケによる劣化の両方を適応的に抑制し、高画質な出力画像を得ることが可能となる。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。図11は、本第2の実施形態による動画像処理装置100Aの一例の構成を示す。なお、図11において、上述の図1と共通する部分には同一の符号を付し、詳細な説明を省略する。
本第2の実施形態による動画像処理装置100Aは、図1の第1の実施形態による動画像処理装置100に対して、エッジ近傍状態検出部102Aの入力部に、入力フレーム101とLPF処理部109からの出力の差分を検出する差分検出部200が設けられる。
上述した第1の実施形態では、平坦部検出部103やエッジ検出部105にそれぞれ高域成分を検出する機能を含むものとして説明した。これに対して、本第2の実施形態では、入力フレーム101とLPF処理部109の出力との差分を差分検出部200により生成することで、入力フレーム101の高域成分を検出し、これを活用することで回路規模の低減を図る。
エッジ近傍の状態が平坦である場合に説明した入力フレーム101の入力波形(図4(a))に対し、差分検出部200で高域成分を検出した一例の結果を、図12(a)に示す。
平坦部検出部103Aは、この図12(a)に例示される波形における、振幅の小さい領域を平坦領域として検出する処理を行う。平坦部検出部103Aで検出された平坦領域1202および1203を、図12(a)に斜線を付して示す。平坦部検出部103Aで検出された平坦領域1202および1203は、平坦領域拡張部104で拡張され、図12(b)に斜線を付して示す拡張平坦領域1205および1206を得る。
一方、エッジ検出部105Aは、図12(a)に例示される波形における、振幅の大きい領域をエッジ領域として検出する処理を行う。エッジ検出部105Aで検出されたエッジ領域1208を、図12(c)に斜線を付して示す。エッジ検出部105Aで検出されたエッジ領域1208は、エッジ領域拡張部106で拡張され、図12(d)に斜線を付して示す拡張エッジ領域1210を得る。
以降、重なり領域検出部107において、拡張平坦領域1205および1206と、拡張エッジ領域1201とが重なり合う領域が、エッジ近傍の平坦領域として検出される。検出されたエッジ近傍の平坦領域1212を、図12(e)に斜線を付して示す。このエッジ近傍の平坦領域1212は、第1の実施形態で説明した図4(e)の領域212と対応する。したがって、最終的な分配領域も、第1の実施形態の場合と同様に得ることができる。
例えば、平坦部検出部103Aおよびエッジ検出部105Aにおける閾値や、平坦領域拡張部104およびエッジ領域拡張部106における拡張範囲を、第1の実施形態の場合と対応するように設定する。これにより、本第2の実施形態により得られるエッジ近傍の平坦領域1212を、第1の実施形態によるエッジ近傍の平坦領域212と略等しくすることが可能である。
次に、本発明の第2の実施形態による処理の例を、図13のフローチャートを用いてより具体的に説明する。なお、図13において、上述した図10のフローチャートと共通する処理には同一の符号を付して、詳細な説明を省略する。
先ず、ステップS1001で、例えばエッジ検出や平坦部検出に必要な閾値設定、領域拡張範囲、ローパスフィルタの静的特性といった、必要な初期設定が行われ、ステップS1002で、入力フレーム101が動画像処理装置100Aに対して入力される。例えば、図4(a)に示した波形が入力されるものとする。
本第2の実施形態では、入力フレーム101が入力されると、先ずLPF処理部109においてローパスフィルタ処理が行われる(ステップS1303)。次に、ステップS1304にて、差分検出部200により入力フレーム101とLPF処理部109の出力との差分が検出される。差分検出部200による差分の検出結果は、例えば図12(a)に示される波形のようになる。
次のステップS1305で、差分検出部200の出力に対して平坦部検出部103Aにより平坦領域の検出処理が行われる。検出結果を、例えば図12(a)の領域1202および1203とする。検出された平坦領域は、ステップS1306で、平坦領域拡張部104により拡張される。拡張結果を、例えば図12(b)の拡張平坦領域1205および1206とする。
ステップS1307で、差分検出部200の出力に対してエッジ検出部105Aによりエッジ領域の検出処理が行われる。検出結果を、例えば図12(c)の領域1208とする。検出されたエッジ領域は、ステップS1308で、エッジ領域拡張部106により拡張される。拡張結果を、例えば図12(d)の拡張エッジ領域1210とする。
なお、このステップS1307およびステップS1308の処理と、上述したステップS1305およびステップS1306の処理とは、順序を入れ替えて、ステップS1307およびステップS1308を先に実行しても構わない。これに限らず、ステップS1307およびステップS1308の処理と、上述したステップS1305およびステップS1306の処理とを並列的に行ってもよいし、時分割で交互に行ってもよい。
拡張平坦領域および拡張エッジ領域が求められると、処理はステップS1309に移行され、重なり領域検出部107において、これら拡張平坦領域と拡張エッジ領域とが重なり合う、エッジ近傍の平坦領域が検出される。この検出結果を、例えば図12(e)のエッジ近傍の平坦領域1212とする。そして、次のステップS1310で、領域特徴量検出部108により、エッジ近傍領域の平坦領域の特徴量を求め、低域成分のみを含む第1のサブフレームの最終的な分配比率を決定する。例えば、図5(b)のように、異なる分配比率を所定の傾きで直線的に接続して、この最終的な分配比率の決定結果を得る。この最終的な分配比率は、分配比率処理部110に供給される。
以降、上述した図10のフローチャートのステップS1011からの処理と同様にして処理がなされる。すなわち、低域成分のみを含む第1のサブフレームの分配処理がなされ(ステップS1011)、分配処理された第1のサブフレームと、入力フレーム101との差分が減算処理部111で取られる(ステップS1012)。そして、それぞれの出力タイミングで第1および第2のサブフレームが出力フレーム113として出力される(ステップS1013〜ステップS1016)。全ての入力フレーム101に対して処理が完了していなければ、処理がステップS1002に戻される。
このように、本第2の実施形態では、LPF処理部109の出力結果を利用して、平坦領域やエッジ領域の検出処理を行っている。そのため、平坦部検出部103Aやエッジ検出部105Aで用いるフィルタの規模を削減しつつ、第1の実施形態と同様の高画質な出力画像を得ることが可能となる。
<第3の実施形態>
次に、本発明の第3の実施形態について説明する。図14は、本第3の実施形態による動画像処理装置100Bの一例の構成を示す。なお、図14において、上述した図1と共通する部分には同一の符号を付し、詳細な説明を省略する。
本第3の実施形態では、LPF処理部109Bの前に分配比率処理部110Bを配置し、入力フレーム101に対して分配比率処理部110Bにより分配処理を施した後に、LPF処理部109Bでローパスフィルタ処理を施す。
本第3の実施形態において、エッジ近傍状態検出部102における処理は、上述した第1の実施形態における処理と何ら変わるところがない。そのため、以下では、入力フレーム101に基づきエッジ近傍状態検出部102で分配比率が決定した状態から説明を行う。また、以下では、エッジ近傍が平坦である場合を例にとって説明する。
図15(a)に例示される波形を有する入力フレーム101が分配比率処理部110Bに入力される。分配比率処理部110Bは、エッジ近傍状態検出部102で入力フレーム101に基づき決定された分配比率に従って、入力波形のレベルを減衰させる。この、入力フレーム101の信号レベルが分配比率にしたがって減衰された波形の例を、図15(b)に示す。この例では、図15(b)に斜線を付して示す領域1503では、25%の分配比率が適用され、それ以外の領域では50%の分配比率が適用される。
分配比率が適用され入力フレーム101に対して減衰された信号に対して、LPF処理部109Bで、ローパスフィルタ処理を行う。図15(c)は、上述した図15(b)に例示された波形に対してローパスフィルタ処理を施した一例の波形を示す。入力波形におけるエッジ部のみならず、分配比率が不連続となることにより生じる波形のエッジ部に対してもフィルタ処理がなされる。これにより、低域成分のみを含む第1のサブフレームの生成に際し、図5を用いて説明したような境界処理を別途に行うことが不要となる。
LPF処理部109Bから出力された第1のサブフレームは、減算処理部111に供給されると共に、スイッチ112の一方の入力端に供給される。高域成分を含む第2のサブフレームは、減算処理部111で、入力フレーム101からLPF処理部109Bから出力された第1のサブフレームを減ずることで生成される。図15(d)は、こうして生成された第2のサブフレームの一例の波形を示す。
動きのない静止した画像においては、これら低域成分のみを含む第1のサブフレームと、高域成分を含む第2のサブフレームとによる見かけ上の合成波形は、図15(e)に例示するようになり、図15(a)に示した入力フレーム101による波形と同一となる。
また、動きのある画像における、第1および第2のサブフレームの見かけ上の合成波形は、図15(c)および図15(d)にそれぞれ示される波形の相対的な位置ずれを含み、図15(f)に例示されるようになる。図15(f)において丸で囲んだ注目点1508に示されるように、入力フレーム101に対して分配比率を下げた効果で、視覚的な劣化が少なくなっていることが分かる。
次に、本発明の第3の実施形態による処理の例を、図16のフローチャートを用いてより具体的に説明する。なお、図16において、上述した図10のフローチャートと共通する処理には同一の符号を付して、詳細な説明を省略する。
先ず、ステップS1001で、例えばエッジ検出や平坦部検出に必要な閾値設定、領域拡張範囲、ローパスフィルタの静的特性といった、必要な初期設定が行われ、ステップS1002で、入力フレーム101が動画像処理装置100Aに対して入力される。例えば、図15(a)に示した波形が入力されるものとする。
次のステップS1003で、入力フレーム101に対して平坦部検出部103により平坦領域の検出処理が行われ、平坦領域は、ステップS1004で、平坦領域拡張部104により拡張される。また、ステップS1005で、入力フレーム101に対してエッジ検出部105によりエッジ領域の検出処理が行われ、エッジ領域は、ステップS1006で、エッジ領域拡張部106により拡張される。
なお、このステップS1005およびステップS1006の処理と、上述したステップS1003およびステップS1004の処理とは、順序を入れ替えて、ステップS1005およびステップS1006を先に実行しても構わない。これに限らず、ステップS1005およびステップS1006の処理と、上述したステップS1003およびステップS1004の処理とを並列的に行ってもよいし、時分割で交互に行ってもよい。
拡張平坦領域および拡張エッジ領域が求められると、処理はステップS1007に移行され、重なり領域検出部107において、これら拡張平坦領域と拡張エッジ領域とが重なり合う、エッジ近傍の平坦領域が検出される(図15(b))。そして、次のステップS1008で、領域特徴量検出部108により、エッジ近傍領域の平坦領域の特徴量を求め、低域成分のみを含む第1のサブフレームの分配比率を決定する。一例として、図5(a)に示されるように、エッジ近傍の平坦領域では25%の分配比率が適用され、それ以外の領域では50%の分配比率が適用される。決定された分配比率は、分配比率処理部110Bに供給される。
次に、ステップS1609で、分配比率処理部110Bにおいて、入力フレーム101に対する分配比率に応じたレベル減衰処理が行われる。例えば、図15(b)に例示されるように、入力フレーム101による入力波形に対し、エッジ近傍の平坦領域である領域1503のレベルが減衰される。そして、次のステップS1610で、領域1503の入力波形のレベルが減衰された信号に対して、LPF処理部109Bにおいてローパスフィルタ処理が施される。このローパスフィルタ処理の結果、図15(c)に例示される波形の、低域成分のみを含む第1のサブフレームが得られる。
以降、上述した図10のフローチャートのステップS1011からの処理と同様にして処理がなされる。すなわち、低域成分のみを含む第1のサブフレームの分配処理がなされ(ステップS1011)、分配処理された第1のサブフレームと、入力フレーム101との差分が減算処理部111で取られる(ステップS1012)。これにより、図15(d)に例示されるような、高域成分を含む第2のサブフレームが生成される。そして、それぞれの出力タイミングで第1および第2のサブフレームが出力フレーム113として出力される(ステップS1013〜ステップS1016)。全ての入力フレーム101に対して処理が完了していなければ、処理がステップS1002に戻される。
このように、入力フレームを分配比率処理後にローパスフィルタ処理を行うことにより、分配比率が不連続となる領域に対しても特別な処理を追加することなく、第1の実施形態と同様の高画質な出力画像を得ることが可能となる。
<各実施形態に共通して適用可能なハードウェア構成>
図17は、本発明の第1、第2および第3の実施形態に共通して適用可能な動画像処理装置300の一例の構成を示す。図17に例示されるように、当該動画像処理装置300は、一般的なコンピュータにより実現可能である。
バス308に対して、CPU301、ROM302、RAM303およびネットワークI/F304が接続される。また、バス308に対して、入力装置305、出力装置306および外部記憶装置307がさらに接続される。バス308に接続される各部は、バス308を介して互いに通信が可能とされている。外部記憶装置307は、例えばハードディスクや不揮発性メモリといった記録媒体であって、CPU301が用いるプログラムや各種データを格納することができる。
CPU301は、ROM302や外部記憶装置307に記憶されるプログラムに従い、RAM303をワークメモリとして用いてこの動画像処理装置300の全体を制御する。CPU301は、対応するプログラムを実行することにより、例えば図1のエッジ近傍状態検出部102、LPF処理部109、減算処理部111および分配比率処理部110として機能することができ、図2から図9における処理を実行する。図11および図14の各部についても同様に、CPU301上で動作するプログラムにより実現できる。
また、RAM303は、CPU301のワークメモリとして用いられると共に、上述したスイッチ112が有するバッファメモリとしても機能できる。したがって、RAM303に対する書き込みおよび読み出し動作をCPU301が制御することで、図1、図11および図14におけるスイッチ112が実現される。
入力装置305は、ユーザからの入力を受け付けるキーボードやマウスといった入力デバイスの他、被写体の画像を撮影して画像入力を行うための撮像装置を含むことができる。当該撮像装置を有することにより、この動画像処理装置300はデジタルスチルカメラ、あるいは、デジタルビデオカメラとして機能することができる。
出力装置306は、表示デバイスおよびその駆動回路からなり、指定された駆動周波数でCPU301から出力された画像データを表示する。表示デバイスとしては、液晶ディスプレイのようなホールド型の表示デバイスや、フィールドエミッションタイプの表示デバイスのようなインパルス型の表示デバイスを適用できる。出力装置306は、この動画像処理装置300と一体的に構成してもよいし、所定のインターフェイスを介して接続される外部機器であってもよい。
ネットワークI/F304は、外部のネットワークに接続され、所定のプロトコルを用いて当該ネットワークを介してデータ通信を行うことができる。
<他の実施形態>
なお、本発明は、複数の機器から構成されるシステムに適用してもよいし、一つの機器からなる装置に適用してもよい。
また、本発明の目的は、上述した機能を実現するコンピュータプログラムのコードを記録した記憶媒体をシステムに供給し、そのシステムがコンピュータプログラムのコードを読み出し実行することによっても達成される。この場合、記憶媒体から読み出されたコンピュータプログラムのコード自体が前述した実施形態の機能を実現し、そのコンピュータプログラムのコードを記憶した記憶媒体は本発明を構成する。また、そのプログラムのコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した機能が実現される場合も含まれる。
さらに、以下の形態で実現しても構わない。すなわち、記憶媒体から読み出されたコンピュータプログラムコードを、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込む。そして、そのコンピュータプログラムのコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行って、前述した機能が実現される場合も含まれる。
本発明を上述の記憶媒体に適用する場合、その記憶媒体には、例えば、先に説明したフローチャートに対応するコンピュータプログラムのコードが格納されることになる。