しかしながら、上記従来の構成は、「消える領域」、「現れる領域」を考慮した画像の補間方法ではあるが、内挿画像を精度良く生成することができないという問題が生じる。
特許文献1に記載の構成は、内挿点に割り付けられたベクトルから原画上の競合点を検査し、作画の方向性を決めるものであって、原画上の「消える領域」、「現れる領域」を特定するものではなく、また、内挿座標において「消える領域」、「現れる領域」を特定するものでもない。そして、競合したベクトルのいずれについても片方向からの作画となり、また、正しくベクトル表現が可能な領域に対しても操作が行われてしまう。そのため、原画座標においては正しく検出できた有用なベクトルも「消える領域」上の非有用なベクトルも区別が出来ず、有用なベクトルについても候補ベクトルから外さざるを得ず、ベクトルの検出精度が落ちてしまう結果となり得る。
特許文献2には、原画におけるアンカバー領域(消える領域・現れる領域)を検出する構成が記載されている。特許文献2に記載の構成では、動きベクトルが検出されない領域や動きベクトルが割り付かず予測できない領域を、「消える領域」、「現れる領域」とするものである。このとき、原画における「消える領域」、「現れる領域」は、片方向の動きベクトルによって判定される。そして、近傍点に類似領域が存在するような原画においては、動きベクトルそのものが誤検出され易く、「消える領域」、「現れる領域」を誤抽出してしまう可能性が高い。
例えば、原画像f(t−1)と原画像f(t)との間において、同じ形状の柱が等間隔で並んでいるような景色(背景)の中を物体が移動した場合、物体の移動によって柱が誤検出された場合であっても、f(t−1)とf(t)との間で異なる柱に向かう動きベクトルが検出されることがあり得る。つまり、f(t−1)とf(t)との間において、動きベクトルの始点の柱と終点の柱とが異なる柱であっても、柱の形状は同じであるため、動きベクトルの始点と終点の画素相関値は、「相関あり」を示し、動きベクトルが誤検出されることになる。さらに、動きベクトルの誤検出によって、内挿座標において、2つの動きベクトルが割り付く点も発生する。
この場合、正しい動きベクトルの始点と終点の画素相関値も、誤検出された動きベクトルの始点と終点の画素相関値も、ともに低い値を示すことになり(すなわち、高い相関を示すことになり)、正しい動きベクトルを判別することができず、最終的に内挿座標に割り付けられる動きベクトルは、ノイズ成分や、ベクトル検出精度に依存する位相差に応じて選択されるため、誤選択されることがある。また、本来割り付けるべきでない内挿点に対して動きベクトルが割り付く場合もある。このため、内挿画像に破綻が生じてしまう結果となる。
また、特許文献3に記載の構成は、内挿画像におけるアンカバー領域(消える領域・現れる領域)を、原画におけるアンカバー領域および双方向ベクトルに基づいて予測する構成である。ここで、原画像におけるアンカバー領域は、特許文献2に記載されている方法、すなわち、片方向の動きベクトルのみを使用して判定されるため、類似した領域において、「消える領域」、「現れる領域」を誤抽出してしまうという上述の問題が発生する。
また、特許文献3に記載の構成では、「消える領域」、「現れる領域」の判定を原画座標で行い、その領域を演算処理して、更に内挿座標に移し、内挿点でベクトルを再割付する手法であり複雑になる。さらに、複数の内挿画を作成する場合には、内挿座標ごとに領域計算、再割付の構造が必要となり、構成が複雑化してコストアップの要因となる。
また、特許文献4に記載の構成では、過去に検出した結果を候補ベクトルとして動きベクトルの推定を行う手法が用いられるが、過去画f(t)から未来画f(t+1)に向かうベクトルにおいては、前回検出、すなわち、f(t−1)とf(t)との間の検出の結果、「消える領域」として示されたベクトルの結果は、類似した近傍点に割り付けられたものであり、動きの継続の候補にすべきではない。また、未来画f(t+1)から過去画f(t)に向かうベクトルにおいては、前回検出f(t)とf(t−1)との間の検出の結果、「現れる領域」として示されたベクトルの結果は、類似した近傍点に割り付けられたものであり、動きの継続の候補にすべきではない。
本発明は、上記の問題点に鑑みてなされたものであり、その目的は、内挿画像の破綻を防止し、精度良く内挿画像を生成するために、信頼性の高い動きベクトルを決定することが可能な動きベクトル補正装置、動きベクトル補正方法、画像補間装置、テレビジョン受像装置、映像再生装置、制御プログラム、および、コンピュータ読み取り可能な記録媒体を提供することにある。
本発明に係る動きベクトル補正装置は、第1の時刻における第1の原画像の各ブロックを始点として、上記第1の時刻よりも後の第2の時刻における第2の原画像のいずれかのブロックを終点とする前方向動きベクトルを検出する前方向動きベクトル検出手段と、上記第2の原画像の各ブロックを始点として、上記第1の原画像のいずれかのブロックを終点とする後方向動きベクトルを検出する後方向動きベクトル検出手段と、前方向動きベクトルの始点と、当該前方向動きベクトルの終点を始点とする後方向動きベクトルの終点との間隔が、所定の閾値よりも大きい場合、当該前方向ベクトルの始点を補正対象ブロックと判定する判定手段と、上記第1の時刻よりも前の第3の時刻における第3の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度と、上記第1の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度とを比較し、最も出現頻度の減少した前方向動きベクトルを、予測動きベクトルとして決定する予測動きベクトル決定手段と、上記補正対象ブロックを始点とする前方向動きベクトルを、上記予測動きベクトルに置き換える補正手段とを備えていることを特徴としている。
上記の構成によれば、前方向動きベクトル検出手段は、第1の時刻における第1の原画像の各ブロックを始点として、上記第1の時刻よりも後の第2の時刻における第2の原画像のいずれかのブロックを終点とする前方向動きベクトルを検出する。そして、後方向動きベクトル検出手段は、上記第2の原画像の各ブロックを始点として、上記第1の原画像のいずれかのブロックを終点とする後方向動きベクトルを検出する。
また、上記の構成によれば、判定手段は、前方向動きベクトルの始点と、当該前方向動きベクトルの終点のブロックを始点とする後方向動きベクトルの終点との間隔が、所定の閾値よりも大きい場合、当該前方向ベクトルの始点を補正対象ブロックと判定する。
第1の原画像における領域が第2の原画像にも存在する場合、前方向動きベクトルの始点と、当該前方向動きベクトルの終点のブロックを始点とする後方向動きベクトルの終点とは略一致するが、反対に、略一致しない場合、第1の原画像において存在する領域が、第2の原画像において存在していないことになる。つまり、判定手段によって、補正対象ブロックとして、第1の原画像における「消える領域」(すなわち、移動する物体などの背後に隠れる領域)が検出される。なお、所定の閾値としては、例えば、動きベクトルの検出精度に応じてブロック数が予め設定される構成であってよく、特に限定されない。
また、上記の構成によれば、予測動きベクトル決定手段は、上記第1の時刻よりも前の第3の時刻における第3の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度と、上記第1の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度とを比較し、最も出現頻度の減少した前方向動きベクトルを、予測動きベクトルとして決定する。そして、補正手段は、補正対象ブロックにおける前方向動きベクトルを予測動きベクトルに置き換える。
例えば、予測動きベクトル決定手段は、第1の原画像における補正対象ブロックを中心とする一定領域において検出された動きベクトルのヒストグラムデータと、第3の原画像において、第1の原画像における補正対象ブロックに対応するブロック(すなわち、第1の原画像における補正対象ブロックと同一の座標)を中心とする一定領域において検出された動きベクトルのヒストグラムデータとから、最も出現頻度の減少した前方向動きベクトルを予測動きベクトルとして検出する。「消える領域」は、例えば物体の移動によって消える背景領域であり、本来背景領域の動きを示す前方向ベクトルが検出されるべきである。そして、「消える領域」周辺では、背景領域の前方向動きベクトルは時間の経過に伴って減少することになるため、「消える領域」周辺において減少する前方向動きベクトルを検出して、「消える領域」において誤検出された動きベクトルに置き換えることにより、過去画(内挿する画像に対して過去の時刻の原画)における動きベクトルを補正する。
これにより、本発明に係る動きベクトル補正装置では、「消える領域」において誤検出された動きベクトルを、より信頼性の高い動きベクトルに補正することができる。したがって、原画において「消える領域」が含まれている場合において、内挿画像の精度を向上させることが可能となる。
本発明に係る動きベクトル補正方法は、第1の時刻における第1の原画像の各ブロックを始点として、上記第1の時刻よりも後の第2の時刻における第2の原画像のいずれかのブロックを終点とする前方向動きベクトルを検出する前方向動きベクトル検出ステップと、上記第2の原画像の各ブロックを始点として、上記第1の原画像のいずれかのブロックを終点とする後方向動きベクトルを検出する後方向動きベクトル検出ステップと、前方向動きベクトルの始点と、当該前方向動きベクトルの終点を始点とする後方向動きベクトルの終点との間隔が、所定の閾値よりも大きい場合、当該前方向ベクトルの始点を補正対象ブロックと判定する判定ステップと、上記第1の時刻よりも前の第3の時刻における第3の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度と、上記第1の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度とを比較し、最も出現頻度の減少した前方向動きベクトルを、予測動きベクトルとして決定する予測動きベクトル決定ステップと、上記補正対象ブロックを始点とする前方向動きベクトルを、上記予測動きベクトルに置き換える補正ステップとを含んでいることを特徴としている。
上記の構成によれば、本発明に係る動きベクトル補正装置と同様の作用効果を奏する。
本発明に係る動きベクトル補正装置は、第1の時刻における第1の原画像の各ブロックを始点として、上記第1の時刻よりも後の第2の時刻における第2の原画像のいずれかのブロックを終点とする前方向動きベクトルを検出する前方向動きベクトル検出手段と、上記第2の原画像の各ブロックを始点として、上記第1の原画像のいずれかのブロックを終点とする後方向動きベクトルを検出する後方向動きベクトル検出手段と、後方向動きベクトルの始点と、当該後方向動きベクトルの終点を始点とする前方向動きベクトルの終点との間隔が、所定の閾値よりも大きい場合、当該後方向ベクトルの始点を補正対象ブロックと判定する判定手段と、上記第1の時刻よりも前の第3の時刻における第3の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度と、上記第1の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度とを比較し、最も出現頻度の増加した前方向動きベクトルの逆ベクトルを、予測動きベクトルとして決定する予測動きベクトル決定手段と、上記補正対象ブロックを始点とする後方向動きベクトルを、上記予測動きベクトルに置き換える補正手段とを備えていることを特徴としている。
上記の構成によれば、前方向動きベクトル検出手段は、第1の時刻における第1の原画像の各ブロックを始点として、上記第1の時刻よりも後の第2の時刻における第2の原画像のいずれかのブロックを終点とする前方向動きベクトルを検出する。そして、後方向動きベクトル検出手段は、上記第2の原画像の各ブロックを始点として、上記第1の原画像のいずれかのブロックを終点とする後方向動きベクトルを検出する。
また、上記の構成によれば、判定手段は、後方向動きベクトルの始点と、当該後方向動きベクトルの終点のブロックを始点とする前方向動きベクトルの終点との間隔が、所定の閾値よりも大きい場合、当該後方向ベクトルの始点を補正対象ブロックと判定する。
第2の原画像における領域が第1の原画像にも存在する場合、後方向動きベクトルの始点と、当該後方向動きベクトルの終点のブロックを始点とする前方向動きベクトルの終点とは略一致するが、反対に、略一致しない場合、第2の原画像において存在する領域が、第1の原画像において存在していないことになる。つまり、判定手段によって、補正対象ブロックとして、第2の原画像における「現れる領域」(すなわち、移動する物体などの背後から出てくる領域)が検出される。なお、所定の閾値としては、例えば、動きベクトルの検出精度に応じてブロック数が予め設定される構成であってよく、特に限定されない。
また、上記の構成によれば、予測動きベクトル決定手段は、上記第1の時刻よりも前の第3の時刻における第3の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度と、上記第1の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度とを比較し、最も出現頻度の増加した前方向動きベクトルの逆ベクトルを、予測動きベクトルとして決定する。そして、補正手段は、補正対象ブロックにおける前方向動きベクトルを予測動きベクトルに置き換える。
例えば、予測動きベクトル決定手段は、第1の原画像における補正対象ブロックを中心とする一定領域において検出された動きベクトルのヒストグラムデータと、第3の原画像において、第1の原画像における補正対象ブロックに対応するブロック(すなわち、第1の原画像における補正対象ブロックと同一の座標)を中心とする一定領域において検出された動きベクトルのヒストグラムデータとから、最も出現頻度の増加した前方向動きベクトルの逆ベクトルを予測動きベクトルとして検出する。「現れる領域」は、例えば物体の移動によって現れる背景領域であり、本来背景領域の動きを示す後方向ベクトルが検出されるべきである。そして、「現れる領域」周辺では、背景領域の前方向動きベクトルは時間の経過に伴って増加することになるため、「現れる領域」周辺において増加する前方向動きベクトルを検出し、その逆ベクトルである後方向動きベクトルを、「現れる領域」において誤検出された動きベクトルに置き換えることにより、未来画(内挿する画像に対して未来の時刻の原画)における動きベクトルを補正する。
これにより、本発明に係る動きベクトル補正装置では、「現れる領域」において誤検出された動きベクトルを、より信頼性の高い動きベクトルに補正することができる。したがって、原画において「現れる領域」が含まれている場合において、内挿画像の精度を向上させることが可能となる。
本発明に係る動きベクトル補正方法は、第1の時刻における第1の原画像の各ブロックを始点として、上記第1の時刻よりも後の第2の時刻における第2の原画像のいずれかのブロックを終点とする前方向動きベクトルを検出する前方向動きベクトル検出ステップと、上記第2の原画像の各ブロックを始点として、上記第1の原画像のいずれかのブロックを終点とする後方向動きベクトルを検出する後方向動きベクトル検出ステップと、後方向動きベクトルの始点と、当該後方向動きベクトルの終点を始点とする前方向動きベクトルの終点との間隔が、所定の閾値よりも大きい場合、当該後方向ベクトルの始点を補正対象ブロックと判定する判定ステップと、上記第1の時刻よりも前の第3の時刻における第3の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度と、上記第1の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度とを比較し、最も出現頻度の増加した前方向動きベクトルの逆ベクトルを、予測動きベクトルとして決定する予測動きベクトル決定ステップと、上記補正対象ブロックを始点とする後方向動きベクトルを、上記予測動きベクトルに置き換える補正ステップとを含んでいることを特徴としている。
上記の構成によれば、本発明に係る動きベクトル補正装置と同様の作用効果を奏する。
本発明に係る画像補間装置では、上記判定手段は、上記第3の原画像の各ブロックを始点として、上記第1の原画像のいずれかのブロックを終点とする前方向動きベクトルと、上記第1の原画像の各ブロックを始点として、上記第3の原画像のいずれかのブロックを終点とする後方向動きベクトルとから、上記第3の原画像における上記補正対象ブロックを判定し、上記前方向動きベクトル検出手段は、上記第3の原画像における上記補正対象ブロックを始点とする前方向動きベクトル以外を、上記第1の原画像における前方向動きベクトルを推定するための候補ベクトルとして用いることが好ましい。
上記の構成によれば、判定手段は、第3の原画像において補正対象ブロック、すなわち、第3の原画像における「消える領域」を判別し、前方向動きベクトル検出手段は、第3の原画像の「消える領域」における前方向動きベクトルを、第1の原画像における前方向動きベクトルを検出するための候補ベクトルとして用いない。つまり、ある時刻における原画像の前方向動きベクトルを検出する場合、1つ前の時刻における原画像の「消える領域」を始点とする前方向動きベクトルを、候補ベクトルとして用いない。
これにより、候補ベクトルを利用して、第1の原画像(現在の原画像)における前方向動きベクトルを検出する場合、第3の原画像(前回の原画像)の「消える領域」において誤検出された前方向動きベクトルが候補ベクトルとして用いられないため、第1の原画像における前方向動きベクトルの検出精度を向上させることが可能となる。
本発明に係る画像補間装置では、上記判定手段は、上記第3の原画像の各ブロックを始点として、上記第1の原画像のいずれかのブロックを終点とする前方向動きベクトルと、上記第1の原画像の各ブロックを始点として、上記第3の原画像のいずれかのブロックを終点とする後方向動きベクトルとから、上記第1の原画像における上記補正対象ブロックを判定し、上記後方向動きベクトル検出手段は、上記第1の原画像における上記補正対象ブロックを始点とする後方向動きベクトル以外を、上記第2の原画像における後方向動きベクトルを推定するための候補ベクトルとして用いることが好ましい。
上記の構成によれば、判定手段は、第1の原画像において補正対象ブロック、すなわち、第1の原画像における「現れる領域」を判別し、後方向動きベクトル検出手段は、第1の原画像の「現れる領域」における後方向動きベクトルを、第2の原画像における後方向動きベクトルを検出するための候補ベクトルとして用いない。つまり、ある時刻における原画像の後方向動きベクトルを検出する場合、1つ前の時刻における原画像の「現れる領域」を始点とする後方向動きベクトルを、候補ベクトルとして用いない。
これにより、候補ベクトルを利用して、第2の原画像(現在の原画像)における後方向動きベクトルを検出する場合、第1の原画像(前回の原画像)の「現れる領域」において誤検出された後方向動きベクトルが候補ベクトルとして用いられないため、第2の原画像における後方向動きベクトルの検出精度を向上させることが可能となる。
本発明に係る画像補間装置は、動きベクトル補正装置を備え、上記補正対象ブロックを始点とする予測動きベクトルと、上記補正対象ブロック以外のブロックを始点とする前方向動きベクトルまたは後方向動きベクトルとを用いて、上記第1の原画像と上記第2の原画像との間に内挿する内挿画像の各ブロックに割り付ける内挿ベクトルを決定する内挿ベクトル決定手段と、上記内挿ベクトル決定手段によって決定された内挿ベクトルに基づいて、上記内挿画像を生成する内挿画像生成手段とを備えていることを特徴としている。
上記の構成によれば、本発明に係る画像補間装置は、内挿画像の各ブロックに割り付ける内挿ベクトルとして、上記動きベクトル補正装置によって決定された予測動きベクトルを選択することが可能となる。
これにより、本発明に係る画像補間装置は、原画において「消える領域」、「現れる領域」が含まれている場合、動きベクトルの信頼性を向上させることができるため、精度良く内挿画像を生成することが可能となる。
本発明に係る画像補間装置では、上記内挿ベクトル決定手段は、上記補正対象ブロックを始点とする予測動きベクトルと、上記補正対象ブロック以外のブロックを始点とする前方向動きベクトルまたは後方向動きベクトルとの両方が上記内挿画像の同一のブロックに割り付く場合、上記補正対象ブロック以外のブロックを始点とする前方向動きベクトルまたは後方向動きベクトルを当該ブロックに割り付ける内挿ベクトルと決定することが好ましい。
上記の構成によれば、内挿画像のブロックにおいて、原画像において正しく検出された「消える領域」、「現れる領域」以外の領域を始点とする動きベクトルと、上記動きベクトル補正装置によって予測される予測動きベクトルを用いて補正した「消える領域」、「現れる領域」を始点とする動きベクトルとが競合した場合には、上記動きベクトル補正装置によって予測された動きベクトルではなく、原画において正確に検出された動きベクトルが内挿画像のブロックに割り付けられる。
これにより、内挿画像の各ブロックには、より確実性の高い動きベクトルが優先的に割り付けられるため、内挿画像の精度をより一層向上させることができる。
また、本発明に係るテレビジョン受像装置は、上記画像補間装置を備えていることが好ましい。
また、本発明に係る映像再生装置は、上記画像補間装置を備えていることが好ましい。
なお、画像補間装置は、コンピュータによって実現してもよい。この場合、コンピュータを上記各手段として動作させることにより上記画像補間装置をコンピュータにおいて実現する制御プログラム、およびその制御プログラムを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
本発明に係る動きベクトル補正装置は、第1の時刻における第1の原画像の各ブロックを始点として、上記第1の時刻よりも後の第2の時刻における第2の原画像のいずれかのブロックを終点とする前方向動きベクトルを検出する前方向動きベクトル検出手段と、上記第2の原画像の各ブロックを始点として、上記第1の原画像のいずれかのブロックを終点とする後方向動きベクトルを検出する後方向動きベクトル検出手段と、前方向動きベクトルの始点と、当該前方向動きベクトルの終点のブロックを始点とする後方向動きベクトルの終点との間隔が、所定の閾値よりも大きい場合、当該前方向ベクトルの始点を補正対象ブロックと判定する判定手段と、上記第1の時刻よりも前の第3の時刻における第3の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度と、上記第1の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度とを比較し、最も出現頻度の減少した前方向動きベクトルを、予測動きベクトルとして決定する予測動きベクトル決定手段と、上記補正対象ブロックにおける前方向動きベクトルを、上記予測動きベクトルに置き換える補正手段とを備えていることを特徴としている。
また、本発明に係る動きベクトル補正装置は、第1の時刻における第1の原画像の各ブロックを始点として、上記第1の時刻よりも後の第2の時刻における第2の原画像のいずれかのブロックを終点とする前方向動きベクトルを検出する前方向動きベクトル検出手段と、上記第2の原画像の各ブロックを始点として、上記第1の原画像のいずれかのブロックを終点とする後方向動きベクトルを検出する後方向動きベクトル検出手段と、後方向動きベクトルの始点と、当該後方向動きベクトルの終点のブロックを始点とする前方向動きベクトルの終点との間隔が、所定の閾値よりも大きい場合、当該後方向ベクトルの始点を補正対象ブロックと判定する判定手段と、上記第1の時刻よりも前の第3の時刻における第3の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度と、上記第1の原画像において上記補正対象ブロックから所定の範囲内にあるブロックを始点とする前方向動きベクトルの出現頻度とを比較し、最も出現頻度の増加した前方向動きベクトルの逆ベクトルを、予測動きベクトルとして決定する予測動きベクトル決定手段と、上記補正対象ブロックにおける後方向動きベクトルを、上記予測動きベクトルに置き換える補正手段とを備えていることを特徴としている。
それゆえ、本発明に係る動きベクトル補正装置では、「消える領域」、「現れる領域」において誤検出された動きベクトルを、より信頼性の高い動きベクトルに補正することができるため、原画において「消える領域」、「現れる領域」が含まれている場合において、内挿画像の精度を向上させることが可能となる。
〔実施の形態1〕
(画像補間装置1の概要)
図1は、本発明に係る画像補間装置1の構成を示すブロック図である。本発明に係る画像補間装置1は、遅延部2と動きベクトル検出部3(後方向動きベクトル検出部)および動きベクトル検出部4(前方向動きベクトル検出部)と状態記録部5と統計データ処理部6と双方向ベクトル比較部7(判定手段)とベクトル補正部8(予測動きベクトル決定手段、補正手段)とベクトル割付部9と作画部10とを備えている。
なお、動きベクトル補正装置100は、動きベクトル検出部3(後方向動きベクトル検出部)および動きベクトル検出部4(前方向動きベクトル検出部)と双方向ベクトル比較部7(判定手段)とベクトル補正部8(予測動きベクトル決定手段、補正手段)とを含んで構成されている。本実施の形態では、動きベクトル補正装置100は、画像補間装置1に一体的に備えられており、ベクトル割付部9や作画部10と共に画像補間装置1を形成している。
画像補間装置1は、外部から入力される映像信号に含まれる時刻tにおける原画像f(t)(第2の原画像、未来画)と、1つ前の時刻t−1における原画像f(t−1)(第1の原画像、過去画)とから、内挿画像を生成する。画像補間装置1では、外部からの映像信号は、遅延部2、および、作画部10に入力される。以下では、外部から時刻tにおける原画像f(t)を表す映像信号が入力されたときの処理について説明する。
遅延部2は、入力された外部からの映像信号を遅延させて、作画部10に供給する。外部から原画像f(t)を表す映像信号が入力されるタイミングにおいて、遅延部2は、原画像f(t−1)を表す映像信号を出力する。遅延部2は、例えば、DDRなどのメモリによって構成される。
動きベクトル検出部3および4は、それぞれ原画像f(t)および原画像f(t−1)を基準画像として、双方向の動きベクトルを算出する。また、動きベクトル検出部3,4は、図2に示すように、原画像を複数のピクセルから成る複数のブロックに分割し、ブロック単位で動きベクトルを検出する。動きベクトル検出部3,4は、ブロックマッチングや勾配法によって動きベクトルを算出するが、動きベクトルは他の方法によって算出されてもよい。動きベクトル検出部3,4は、検出した動きベクトルを、双方向ベクトル比較部7および統計データ処理部6に出力する。
双方向ベクトル比較部7は、動きベクトル検出部3,4において検出された動きベクトルを比較し、比較結果に基づいて、「現れる領域」および「消える領域」(補正対象ブロック)を特定する。そして、双方向ベクトル比較部7は、動きベクトル検出部3,4において検出された動きベクトルと共に、「現れる領域」、「消える領域」を特定する情報を動きベクトル補正部8および統計データ処理部6に出力する。
統計データ処理部6は、動きベクトル検出部3,4からの動きベクトルの情報および双方向ベクトル比較部7からの「現れる領域」、「消える領域」を特定する情報を統計処理し、動きベクトルの統計データ(例えば、ヒストグラム)を算出し、状態記録部5に出力する。
動きベクトル補正部8は、動きベクトル検出部3,4において検出された動きベクトルのうち、「現れる領域」、「消える領域」において検出された動きベクトルを補正し、補正後の動きベクトルをベクトル割付部9に出力する。このとき、動きベクトル補正部8は、状態記録部5から統計データを読み出し、読み出した統計データに基づいて、「現れる領域」、「消える領域」における新たな動きベクトル(予測動きベクトル)を決定する。
ベクトル割付部9は、動きベクトル補正部8からの補正後の動きベクトルを、内挿画像の各座標に割り付け、動きベクトルの割付情報を作画部10に出力する。割付座標の単位は任意であるが、本実施の形態では、基準画像のブロック単位より小さな領域が指定される。ベクトル割付部9は、内挿座標において複数の動きベクトルが競合する場合、補正後の動きベクトルに設定されている優先度に従って、内挿座標に割り付ける動きベクトルを決定する。
なお、上述した補正後の動きベクトルに設定された優先度だけでは競合が解消されない場合、ベクトル割付部9は、競合している動きベクトルのうち、最適な動きベクトルを選択する。最適な動きベクトルを決定する方法としては、内挿座標に割り付けられた動きベクトルによって指定される原画像f(t)と原画像f(t−1)の特定領域の相関が最も高いもので代表する。相関を表すデータ(相関値)の算出には、一般的に、輝度データが用いられるが、RGBのデータを使用してもよいし、YUVのデータを使用してもよい。相関値としては、対応する画素ごとに差分の絶対値を計算し加算した結果であるSAD(絶対差和)や対応する画素ごとに差分の絶対値を計算し加算した結果であるDFD(差の2乗和)などを算出する。また、ベクトル割付部9は、動きベクトルが未割付の内挿座標においては、ゼロベクトルを割り付ける。さらに、ベクトル割付部9は、メディアンフィルタなどによるフィルタ処理を行い、内挿画像の各座標に動きベクトルを割り付ける。そして、ベクトル割付部9は、内挿座標に割り付けられた動きベクトルの情報を、作画部10に出力する。
そして、作画部10は、ベクトル割付部9からの動きベクトルの割付情報に基づいて、原画像の映像信号から、内挿画像の各座標における映像信号を読み出し、内挿画像を生成する。
(画像補間処理)
はじめに、本願発明に係る画像補間装置1における画像補間処理のうち、一般的な画像補間処理と同様の処理内容について説明する。
(1)動きベクトルの検出
図2は、小物体Aが移動する映像の原画像を示す図であり、(a)は時刻t−1における原画像f(t−1)を示す図であり、(b)は時刻tにおける原画像f(t)を示す図である。図2に示す例では、時刻tと時刻t−1の間の内挿画像を生成する。時刻t−1は、時刻tの1つ前の時刻であり、原画像f(t−1)は内挿画像に対して過去の画像となり、原画像f(t)は内挿画像に対して未来の画像となる。
図2(a)に示すとおり、原画像f(t−1)において、個所2−1のように細い線で囲まれた部分は、1ピクセル(画素)を表しており、8×8ピクセルの画素群ごとに検出ブロック2−2〜2−7を構成している。同様に、図2(b)に示すとおり、原画像f(t)においても、8×8ピクセルの画素群ごとに検出ブロック2−9〜2−13を構成している。原画像f(t−1)およびf(t)における白抜きの画素群は、移動する小物体Aを表している。また、図2(a)および(b)において、斜線等によって示される領域は、小物体Aの背景領域を表している。図2(a)および(b)において、同一の線種によって示されている領域は、同じ背景領域を表している。また、図2(a)の矢印2−7は、小物体Aの動きベクトルを示しており、矢印2−8は、背景領域の動きベクトルを示している。
図3は、内挿画像の作画処理を説明するための図であって、図2(a)および(b)に示す原画像と内挿画像を、小物体Aの動き方向の断面をとって一次元表示した図である。図3では、過去画f(t−1)と未来画f(t)とを動きベクトルで対応付けて示している。動きベクトルは、f(t−1)とf(t)との間で、検出ブロックごとに検出される。動きベクトルの求め方としては、ブロックマッチングや勾配法など一般的な方法を用いる。
動きベクトルの検出においては、「消える領域」、「現れる領域」が問題となる。例えば、検出ブロック3−5に示されている背景領域の画像は、未来画においては、小物体によって隠れてしまう「消える領域」である。つまり、原画像f(t−1)の検出ブロック3−5に示されている背景画像は、原画像f(t)では、移動してきた小物体によって隠れてしまっている。そのため、検出ブロック3−5については、正しい動きベクトルを検出することはできない。しかしながら、解が存在しないとする検出方法はない。したがって、検出ブロック3−5については、f(t)において検出ブロック3−5と類似する領域を示す動きベクトルが検出されることになる。
そして、本願発明に係る画像補間装置1は、「消える領域」、「現れる領域」における動きベクトルを判別し(すなわち、「消える領域」、「現れる領域」を検出し)、「消える領域」、「現れる領域」において検出された動きベクトルを、統計データに基づいて補正する。
(2)動きベクトルの割り付け
以下に、内挿座標への動きベクトルの割り付けについて説明する。本願発明に係る画像補間装置1は、上述のとおり、「消える領域」、「現れる領域」において検出された動きベクトルを、統計データに基づいて補正したうえで、内挿座標への動きベクトルの割付処理を行う。
図3では、原画像f(t−1)を基準として原画像f(t)に対して検出された動きベクトルが内挿座標に割り付けられる様子が示されている。図3に示す例では、動きベクトルは、過去画f(t−1)から未来画f(t)に対して求められており、理想的に求まったものとして示している。図3において、実線の矢印は、原画において検出された動きベクトルであって、内挿ブロックにおいて割り付けられた動きベクトルを示しており、破線の矢印は、原画において検出された動きベクトルであって、内挿ブロックにおける競合により割り付けられなかった動きベクトルを示しており、一点鎖線の矢印は、原画において検出されない動きベクトルであって、予め定められた条件にしたがって内挿ブロックに割り付けられた動きベクトルを示している。
図3において、原画像f(t−1)は、検出ブロック3−1〜3−5を含んでおり、原画像f(t)は、検出ブロック3−6〜3−10を含んでいる。図3の検出ブロック3−1〜3−5は、図2(a)の検出ブロック2−2〜2−6に対応しており、図3の検出ブロック3−6〜3−10は、図2(b)の検出ブロック2−9〜2−13に対応している。
また、図3に示す例では、内挿画像fi(t−1)は、原画像f(t−1)と原画像f(t)との中間点において作成される。また、内挿画像fi(t−1)は、内挿ブロック3−11〜3−20を含んでいる。内挿ブロック3−11〜3−20には、基準となる原画像において検出された動きベクトルが割り付けられる。内挿ブロックは、検出ブロックよりも小さい領域であり、検出ブロックよりも少ない画素で構成されている。
図3に示す例では、検出ブロック3−1における動きベクトルとして、背景画像の動きを示すベクトルが検出される。そして、検出ブロック3−1において検出された動きベクトルは、内挿ブロック3−11に割り付けられ、ベクトル3−21として示されている。以下では、内挿ブロックに割り付けられた動きベクトルを内挿ベクトルと呼ぶ。
また、検出ブロック3−2における動きベクトルとして、小物体の動きを示すベクトルが検出される。そして、検出ブロック3−2において検出された動きベクトルは、内挿ブロック3−15、3−16に割り付けられ、内挿ベクトル3−32、3−33として示されている。
また、検出ブロック3−3における動きベクトルとして、背景の動きを示すベクトルが検出される。そして、検出ブロック3−3において検出された動きベクトルは、内挿ブロック3−14、3−15に割り付けられ、内挿ベクトル3−23、3−28として示されている。ここで、内挿ブロック3−15において、物体の動きを示すベクトル3−32と背景の動きを示すベクトル3−28とが競合するが、最終的に作画に用いられる動きベクトルは1つである。したがって、ベクトルの競合が発生した場合に作画に用られる動きベクトルを決定するための条件が予め定められ、その条件にしたがって、最終的に1つの動きベクトルを決定することになる。図3に示す例では、内挿ブロック3−15には、予め定められた条件にしたがって、小物体の動きを示すベクトル3−32が割り付けられるものとする。
また、検出ブロック3−4における動きベクトルとして、背景の動きを示すベクトルが検出される。そして、検出ブロック3−4において検出された動きベクトルは、内挿ブロック3−16、3−17に割り付けられ、内挿ベクトル3−29、3−34として示されている。ここで、内挿ブロック3−16において、物体の動きを示すベクトル3−33と背景の動きを示すベクトル3−29とが競合する。図3に示す例では、内挿ブロック3−16には、予め定められた条件にしたがって、小物体の動きを示すベクトル3−33が割り付けられるものとする。
なお、図3は、内挿ブロック3−12、3−13、3−18、3−19には、割り付くベクトルが存在しない例として示している。一般的に、内挿点に割り付けられるベクトルが存在しない場合、作画は不可能になってしまう。そのため、動きベクトルの割付処理においては、より広い範囲の内挿ブロックに割り付くようなベクトル割付の条件が予め設定されている。それでも割り付かない場合には、ゼロベクトルを割り付けてもよいし、周辺の内挿ブロックに割り付けられているベクトルの平均値を用いてもよい。
図3に示す例では、動きベクトルが割り付けられなかった内挿ブロック(未割付けブロック)に対して、未割付けブロックに隣接する内挿ブロックに割り付けられた内挿ベクトルを割り付ける。これにより、図3に示す例では、内挿ブロック3−12、3−13、3−18、3−19に対して、それぞれ、隣接する内挿ブロック3−11、3−14、3−17、3−20に割り付けられているとベクトルと同じベクトルが割り付けられる。内挿ブロック3−12、3−13、3−18、3−19に割り付けられるベクトルは、それぞれ、内挿ベクトル3−26、3−27、3−30、3−31として示されている。
(3)内挿画像の作画
次に、内挿ベクトルを用いた内挿画像の作画方法について説明する。内挿画像を作画する方法としては、過去画f(t−1)もしくは未来画f(t)のいずれか片側から作画する方法と、過去画および未来画の双方から作画する方法とがある。
片側から作画する方法について説明すれば、次のとおりである。図2(a)において、図面左上の座標を(0,0)、図面右方向をx座標の正の方向、図面下方向をy座標の正の方向とし、過去画f(t−1)における座標(x,y)の画素値をPp(x,y)、未来画f(t)における座標(x,y)の画素値をPf(x,y)と表す。また、内挿画fi(t−1)において、座標(x,y)に割り付いている動きベクトルを(Vx,Vy)、座標(x,y)の画素値をP(x,y)とする。ここで、内挿画fi(t−1)は、過去画f(t−1)と未来画f(t)との中間(1/2の位置)に作画されるものとする。
このとき、過去画f(t−1)のみから内挿画fi(t−1)を作画する場合、
P(x,y)=Pp(x−Vx×1/2,y−Vy×1/2)
となる。また、未来画f(t)のみから内挿画fi(t−1)を作画する場合、
P(x,y)=Pf(x+Vx×1/2,y+Vy×1/2)
となる。さらに、過去画f(t−1)および未来画f(t)の双方向から作画する場合、
P(x,y)=α×Pp(x−Vx×1/2,y−Vy×1/2)+(1−α)×Pf(x+Vx×1/2,y+Vy×1/2)
となる。
ここで、Pp(x−Vx×1/2,y−Vy×1/2)、Pf(x+Vx×1/2,y+Vy×1/2)は、単一画素を示すのではなく、過去画、未来画を代表する値を意味する。例えば、ベクトルが少数値を示す場合などにおいては、原画像をリニア補間した値やガウシアンフィルタによりフィルタリングされた値などを意味する。また、αは過去画および未来画の混合比率であり、ブレンド率と呼ばれる。αの値としては、1/2に固定してもよいし、内挿画の時間的内分点の比率によって変動させてもよい。
さらに動きベクトルの信頼性を向上し、内挿画像におけるアーティファクトを減少させるため、双方向ベクトルを用いて作画する構成であってもよい。双方向ベクトルとは、f(t−1)を基準画像としてf(t)の画像を参照することで前方向動きベクトルを求めるだけでなく、f(t)を基準画像としてf(t−1)の画像を参照することで後方向動きベクトルを求めた、両方向のベクトルのことである。例えば、内挿座標に対して、前方向動きベクトルのみを割付けたものと、後方向動きベクトルのみを割付けたものを用意し、それぞれ割付けられたベクトルをもとにf(t−1)とf(t)の特定領域に対する画像の相関が高いベクトルを最終ベクトルとして決定することで、ベクトルの信頼性を向上させることが可能となる。
(消える領域・現れる領域の問題点)
上述したとおり、動きベクトルの検出においては、「消える領域」、「現れる領域」に起因して発生する動きベクトルの誤検出により、内挿画像が破綻してしまうという問題がある。特に、近接して存在する複数の類似した景色を背景にして物体が移動する原画像において、従来技術の方法では、「消える領域」、「現れる領域」を正確に検出することは困難であり、誤検出された動きベクトルに基づいて生成される内挿画像の精度は著しく低下する。
「消える領域」、「現れる領域」により、内挿画像が破綻してしまう例について、図4を用いて、より詳細に説明する。図4は、等間隔で並ぶ同じ形状の複数の柱を背景にして物体が移動する様子を示す図であり、(a)は、時刻t−1における原画像f(t−1)と時刻tにおける原画像f(t)とを示す図であり、(b)は、(a)に示す原画像から生成された内挿画像を示す図である。図4(a)には、物体の動きを表す動きベクトルVaと、2本の柱の間の空間の動きを表す動きベクトルVbおよびVcが示されている。動きベクトルVbおよびVcの始点は、原画像f(t−1)において異なる背景領域だが、いずれの動きベクトルの終点も、原画像f(t)において同一の背景領域を指し示している。
図4(a)に示す例では、動きベクトルVcの始点と終点とは、異なる背景を示しているが、非常に類似しているため画素相関値が「相関あり」を示し、誤検出されている。そして、この誤検出された動きベクトルに基づいて内挿画像を生成した場合、図4(b)に示すように、柱が消えて表示され、内挿画像が破綻してしまうことになる。
そこで、本願発明に係る画像補間装置1では、「消える領域」、「現れる領域」において検出された動きベクトルをより正確に判別し、当該動きベクトルを統計データに基づいて補正する。以下では、画像補間装置1の特徴的構成について、図5〜8を用いて詳細に説明する。
(消える領域の検出およびベクトルの補正)
以下では、本発明に係る画像補間装置1における「消える領域」の検出および動きベクトルの補正について詳細に説明する。
はじめに、「消える領域」の検出について説明する。図5は、「消える領域」の検出および動きベクトルの補正について説明するための図であって、原画像f(t−1)およびf(t)において検出した双方向の動きベクトルを示す図である。図5は、図4(a)に示す複数の柱を背景にして物体が移動する様子を示す画像を、物体の動き方向の断面をとって1次元表示したものである。図5に示す原画像f(t−1)およびf(t)は、それぞれ、図4(a)に示す原画像f(t−1)およびf(t)に対応している。また、図5では、原画像f(t−1)の1つ前の原画像f(t−2)(第3の原画像)も示されている。
図5において、原画像f(t−1)は、検出ブロック5−14〜5―26に分割されている。検出ブロック5−14〜5−19は、図4(a)に示す移動する物体を表す領域であり、検出ブロック5−20、5−23、および、5−24は、図4(a)に示す柱の間を表す領域であり、検出ブロック5−21、5−22、5−25、および、5−26は、図4(a)に示す柱を表す領域である。同様に、原画像f(t)は、検出ブロック5−27〜5−39に分割されている。検出ブロック5−27〜5−36は、移動する物体を表す領域であり、検出ブロック5−37は、柱の間を表す領域であり、検出ブロック5−38および5−39は、柱を表す領域である。
図5では、原画像f(t−1)および原画像f(t)のそれぞれを基準として互いの原画像に対して検出された対向する動きベクトル(双方向ベクトル)が示されている。また、図5では、原画像f(t−2)を基準として原画像f(t−1)に対して検出された動きベクトルが示されている。
本発明に係る画像補間装置1では、動きベクトル検出部4は、図5に示すように、原画像f(t−1)を基準画像として、原画像f(t)に対する動きベクトルを検出する。つまり、過去画f(t−1)の各検出ブロックを始点とし、未来画f(t)のいずれかの検出ブロックを終点とする前方向動きベクトルが検出される。また、画像補間装置1では、動きベクトル検出部3は、図5に示すように、原画像f(t)を基準画像として、原画像f(t−1)に対する動きベクトルを検出する。つまり、未来画f(t)の各検出ブロックを始点とし、過去画f(t−1)のいずれかの検出ブロックを終点とする後方向動きベクトルが算出される。そして、双方向ベクトル比較部7は、検出ブロックごとに、動きベクトル検出部3,4において検出された双方向の動きベクトルを比較する。
双方向ベクトル比較部7は、動きベクトル検出部4において検出された原画像f(t−1)の各検出ブロックを始点とする前方向動きベクトルについて、各前方向動きベクトルの終点となる原画像f(t)の検出ブロックを始点とする後方向動きベクトルと比較し、それらの対向する前方向動きベクトルと後方向動きベクトルとが、大きさが等しい逆向きのベクトルであるか否かを判定する。つまり、前方向動きベクトルの終点のブロックを始点とする後方向動きベクトルの終点が、当該前方向動きベクトルの始点と一致するか否かを判定する。
なお、双方向ベクトル比較部7における対向する前方向動きベクトルと後方向動きベクトルとが等しいか否かの判定処理は、動きベクトルの検出精度を考慮して幅をもたせてもよい。つまり、前方向動きベクトルの始点と、当該前方向動きベクトルの終点のブロックを始点とする後方向動きベクトルの終点との間隔が、所定の閾値よりも大きいか否か(予め定められた範囲内にあるか否か)を判定し、所定の閾値よりも大きい場合には「消える領域」と判定する構成であってもよい。ここで、所定の閾値(予め定められた範囲)としては、動きベクトルの検出精度に応じたブロック数を設定可能な構成であってよく、特に限定はされない。
双方向ベクトル比較部7での比較処理の一例について、図12を用いて説明する。図12は、双方向ベクトル比較部7での処理を説明するための図である。原画像f(t−1)からf(t)への前方向動きベクトルの検出を行った結果、f(t−1)上のあるブロックにおいて前方向動きベクトル(Vxft1,Vyft1)が検出されたとする。図12において、ブロック12−1〜12−4は、原画像f(t)からf(t−1)に対して後方向検出を行う場合のf(t)上の固定ブロックである。ブロック12−5は、f(t−1)上のあるブロックにおける前方向検出のベクトル検出結果が(Vxft1,Vyft1)を示したときに、f(t)上に割り付けられたエリアとする。すなわち、ブロック12−5は、f(t−1)を始点とする前方向動きベクトル(Vxft1,Vyft1)の終点のブロックである。また、ブロック12−1〜12−4において求まった後方向ベクトルを(Vxbt1,Vybt1)〜(Vxbt4,Vybt4)とする。このとき、双方向ベクトル比較部7は、対向する前方向動きベクトルと後方向動きベクトルとの比較処理を行い、
|Vxft1+Vxbt1|<Vxth
|Vxft1+Vxbt2|<Vxth
|Vxft1+Vxbt3|<Vxth
|Vxft1+Vxbt4|<Vxth
のいずれかが成立し、かつ
|Vyft1+Vybt1|<Vyth
|Vyft1+Vybt2|<Vyth
|Vyft1+Vybt3|<Vyth
|Vyft1+Vybt4|<Vyth
のいずれかが成立する場合、対向する前方向動きベクトルと後方向動きベクトルとは等しい、すなわち、前方向動きベクトル(Vxft1,Vyft1)の終点のブロック12−5を始点とする後方向動きベクトルの終点が、当該前方向動きベクトルの始点と一致(あるいは所定の範囲内に存在)すると判定する。ここで、Vxth、Vythは、対向する前方向動きベクトルと後方向動きベクトルとが等しいか否かを判定する基準として予め定められた閾値であって、設定によって変更可能である。
つまり、検出された前方向動きベクトルと、当該前方向動きベクトルが指し示す終点周辺のブロックの後方向ベクトルとの差が一定値以下のとき(前方向と後方向ベクトルは向きが逆であるため、加算した結果がゼロとなるのが理想)、前方向動きベクトルの終点のブロックを始点とする後方向動きベクトルの終点が、当該前方向動きベクトルの始点と一致すると判断する。
ここでは、双方向ベクトル比較のブロックを2×2の領域としたが、演算精度によっては、3×3の領域や、1ブロック単体としてもよいものとする。
双方向ベクトル比較部7について、図5を用いて説明すれば、以下のとおりである。なお、以下では、説明を簡単にするため、比較ブロックを1ブロック単体として記す。双方向ベクトル比較部7は、図5に示す検出ブロック5−14〜5−26を始点とする前方向動きベクトルについて、各前方向動きベクトルの終点の検出ブロックを始点とする後方向動きベクトルと比較する。
例えば、原画像f(t−1)の検出ブロック5−24を始点とする前方向動きベクトル5−40の終点は、原画像f(t)の検出ブロック5−37であり、双方向ベクトル比較部7は、検出ブロック5−37を始点とする後方向動きベクトル5−41と前方向動きベクトル5−40とを比較する。この場合、双方向ベクトル比較部7は、前方向動きベクトル5−40および後ろ方向動きベクトル5−41について、いずれも、ゼロベクトルであり、前方向動きベクトルの始点と、当該前方向動きベクトルの終点を始点とする後方向動きベクトルの終点とが等しいと判定する。
また、例えば、原画像f(t−1)の検出ブロック5−23を始点とする前方向動きベクトル5−42の終点は、原画像f(t)の検出ブロック5−37であり、双方向ベクトル比較部7は、検出ブロック5−37を始点とする後方向動きベクトル5−41と前方向動きベクトル5−42とを比較する。この場合、双方向ベクトル比較部7は、検出ブロック5−23の前方向動きベクトルの始点と、当該前方向動きベクトルの終点を始点とする後方向動きベクトルの終点とが異なっていると判定する。
双方向ベクトル比較部7は、原画像f(t−1)の全ての検出ブロックについて同様の判定処理を実行する。図5に示す例では、双方向ベクトル比較部7は、検出ブロック5−20〜5−23を始点とする前方向動きベクトルについて、前方向動きベクトルの始点と、当該前方向動きベクトルの終点を始点とする後方向動きベクトルの終点とが異なっていると判定する。
前方向動きベクトルの始点と、当該前方向動きベクトルの終点を始点とする後方向動きベクトルの終点とが同じである場合、前方向動きベクトルが指し示す原画像f(t)の検出ブロックと、後方向動きベクトルが指し示す原画像f(t−1)の検出ブロックとは、同一の物体の領域、あるいは、同一の背景領域ということになる。
反対に、前方向動きベクトルの始点と、当該前方向動きベクトルの終点を始点とする後方向動きベクトルの終点とが異なる場合、前方向動きベクトルの始点となる原画像f(t−1)の検出ブロックに表示されている物体や背景領域は、原画像f(t)には表示されていないことを意味する。
つまり、原画像f(t−1)における検出ブロックを始点とする前方向動きベクトルと、当該前方向動きベクトルの終点となる原画像f(t)における検出ブロックを始点とする後方向動きベクトルとを比較し、前方向動きベクトルと後方向動きベクトルとが反対向きで大きさが等しいベクトルであるか否かを判定することによって、時間的に前の時刻における原画像f(t−1)には表示されているが、時間的に後の時刻における原画像f(t)に表示されない「消える領域」を検出することができる。図5に示す例では、原画像f(t−1)における検出ブロック5−20〜5−23が「消える領域」として特定される。
次に、「消える領域」における動きベクトルの補正について説明する。図5では、「消える領域」である原画像f(t−1)の検出ブロック5−20〜5−23において検出された前方向動きベクトルは、類似の領域を指し示す誤検出された動きベクトルである。したがって、前方向動きベクトルを内挿画像の作画に利用する場合には、「消える領域」における誤検出された前方向動きベクトルを補正する必要がある。
本発明に係る画像補間装置1では、原画像f(t−1)の「消える領域」における動きベクトルの補正を行う場合、動きベクトル補正部8は、原画像f(t−1)の動きベクトルの統計データと原画像f(t−1)の1つ前の時刻における原画像f(t−2)の動きベクトルの統計データとに基づいて補正する。
より具体的には、動きベクトル補正部8は、原画像f(t−1)において「消える領域」の検出ブロックを中心として予め定められた範囲内の検出ブロックにおける前方向動きベクトルのヒストグラムデータと、原画像f(t−2)において当該「消える領域」に対応する検出ブロックを中心として予め定められた範囲内の検出ブロックにおける前方向動きベクトルのヒストグラムデータとを比較し、最も頻度の減少した前方向動きベクトルを、原画像f(t−1)の「消える領域」における動きベクトルとして決定する。
つまり、「消える領域」では、物体が進入してくることになり、時間の経過に伴って、背景領域が減少する。したがって、背景領域の前方向動きベクトルは減少することになる。そこで、「消える領域」における動きベクトルを、前回検出した動きベクトルと今回検出した前方向動きベクトルのヒストグラムデータにおいて、最も頻度の減少した動きベクトルに補正する。
なお、本実施の形態では、動きベクトル補正部8は、原画像f(t−2)および原画像f(t−1)における動きベクトルのヒストグラムデータを状態記録部5から読み出して比較する。また、統計データ処理部6は、動きベクトル検出部3,4において検出された動きベクトルのデータと双方向ベクトル比較部7において判定された「消える領域」を特定するデータとを受け取り、原画像f(t−1)において「消える領域」の検出ブロックを中心として予め定められた範囲内の検出ブロックにおける動きベクトルのヒストグラムデータと、原画像f(t−2)において原画像f(t−1)の「消える領域」に対応する検出ブロックを中心として予め定められた範囲内の検出ブロックにおける動きベクトルのヒストグラムデータとを算出し、状態記録部5に格納する。このとき、ヒストグラムデータのうち、上位のデータのみを状態記録部5に記憶させる構成であってもよい。また、統計データ処理部6は、双方向ベクトル比較部7からの「現れる領域」、「消える領域」の情報に基づいて、「現れる領域」、「消える領域」以外の領域の動きベクトルについて、統計データを算出する構成であってもよい。すなわち、統計データから、「現れる領域」、「消える領域」における動きベクトルのデータを除く構成とすることで、統計データの精度をより向上させることが可能となる。
図5に示す例では、動きベクトル補正部8は、例えば、原画像f(t−1)の「消える領域」(検出ブロック5−20〜5−23)に含まれる各検出ブロックを中心に5ブロックの範囲内の動きベクトルのヒストグラムと、原画像f(t−2)において原画像f(t−1)の「消える領域」に対応する領域(検出ブロック5−7〜5−10)に含まれる各検出ブロックを中心に5ブロックの範囲内の動きベクトルのヒストグラムと比較する。図5に示す例では、原画像f(t−2)と原画像f(t−1)との間で「消える領域」に含まれる各検出ブロックを中心として5ブロックの範囲内において出現頻度が最も減少した動きベクトルはゼロベクトルである。したがって、動きベクトル補正部8は、原画像f(t−1)の「消える領域」(検出ブロック5−20〜5−23)における動きベクトルとしてゼロベクトルを設定する。
なお、上述の説明では、説明を簡単にするために、図4に示す原画像をモデル化した図5に基づいて、「消える領域」を中心に5ブロックの範囲内のヒストグラムデータを算出する構成として説明したが、ヒストグラムデータを算出する範囲は「消える領域」を中心に5ブロックに限定されることはなく、原画像の種類等に応じてヒストグラムデータを算出するブロック数が設定される構成であってよく、特に限定はされない。
そして、動きベクトル補正部8は、補正後の動きベクトルをベクトル割付部9に供給する。このとき、動きベクトル補正部8は、「消える領域」の動きベクトルについて、内挿画像への割付処理における優先順位を落とす指示子、すなわち、内挿ブロックにおいて競合が発生した場合には内挿ベクトルとして選択しないことを指示する優先度指示情報をベクトル割付部9に供給する。ベクトル割付部9は、動きベクトル補正部8からの優先度指示情報に基づいて内挿ブロックへの割付処理を行い、内挿画像に割り付けた動きベクトル、すなわち、内挿ベクトルを作画部10に供給する。
また、動きベクトル補正部8は、「消える領域」の動きベクトルについて、過去画、すなわち、内挿時刻よりも前の時刻における原画像f(t−1)から作画することを指示する作画指示情報をベクトル割付部9に供給する。作画指示情報としては、例えば、上述した過去画及び未来画の双方向から作画する場合の式において、ブレンド率α=1として作画することを指示する情報が供給される。そして、ベクトル割付部9は、「消える領域」の動きベクトルを内挿画像に割り付けた場合、内挿ベクトルと共に作画指示情報を作画部10に供給する。そして、作画部10は、ベクトル割付部9からの内挿ベクトルおよび作画指示情報を用いて内挿画像を作画する。
図6は、「消える領域」の検出および動きベクトルの補正について説明するための図であって、補正後の動きベクトルを用いて内挿画像に動きベクトルを割り付ける様子を示す図である。図6の原画像f(t−1)における検出ブロック6−1〜6−6は、図5の原画像f(t−1)における検出ブロック5−19〜5−24に対応している。上述のとおり、原画像f(t−1)の「消える領域」(検出ブロック5−20〜5−23、すなわち、検出ブロック6−2〜6−5)にはゼロベクトルが設定されている。
図6は、t−0.75、t−0.5、t−0.25の各時刻における内挿画像f(t−0.75)、f(t−0.5)、f(t−0.25)を内挿する場合の例を示している。図6に示すとおり、内挿画像f(t−0.25)の内挿ブロック6−7では、動きベクトルの競合は発生しておらず、ベクトル割付部9は、原画像f(t−1)の「消える領域」である検出ブロック6−3における動きベクトルを内挿ベクトルとして割り付ける。一方、内挿画像f(t−0.5)の内挿ブロック6−8、および、内挿画像f(t−0.75)の内挿ブロック6−9では、動きベクトルの競合が発生している。
この場合、上述したとおり、ベクトル割付部9は、動きベクトル補正部8から、内挿ブロックにおいて競合が発生した場合には、「消える領域」の動きベクトルを内挿ベクトルとして選択しないことを指示する優先度指示情報を受けている。そのため、内挿ブロック6−8においては、「消える領域」である検出ブロック6−3における動きベクトルは内挿ベクトルとして選択されず、検出ブロック6−1において検出された動きベクトルを内挿ベクトルとして選択する。同様に、内挿ブロック6−9では、「消える領域」である検出ブロック6−3における動きベクトルは内挿ベクトルとして選択されない。
また、上述のとおり、作画部10は、「消える領域」の動きベクトルについて、過去画、過去画から作画する作画指示情報を受けている。そのため、作画部10は、例えば、「消える領域」の動きベクトルが割り付けられた内挿画像f(t−0.25)の内挿ブロック6−7について、原画像f(t−1)の検出ブロック6−3の画像を用いて作画する。
これにより、本発明に係る画像補間装置1では、「消える領域」において誤検出された動きベクトルを、より信頼性の高い動きベクトルに補正することができる。したがって、原画において「消える領域」が含まれている場合において、内挿画像の精度を向上させることが可能となる。
(現れる領域の検出およびベクトルの補正)
以下では、本発明に係る画像補間装置1における「現れる領域」の検出および動きベクトルの補正について詳細に説明する。
はじめに、「現れる領域」の検出について説明する。図7は、「現れる領域」の検出および動きベクトルの補正を説明するための図であって、原画像f(t−1)およびf(t)において検出した双方向の動きベクトルを示す図である。図7は、図4(a)に示すような複数の柱を背景にして物体が移動する様子を示す画像を、物体の動き方向の断面をとって1次元表示したものである。また、図7では、原画像f(t−1)の1つ前の原画像f(t−2)(第3の原画像)も示されている。
図7において、原画像f(t−1)は、検出ブロック7−14〜7―26に分割されている。検出ブロック7−21〜7−26は、図4(a)に示す移動する物体を表す領域であり、検出ブロック7−15、7−16、7−19、および、7−20は、図4(a)に示す柱を表す領域であり、検出ブロック7−14、7−17、および、7−18は、図4(a)に示す柱の間を表す領域である。同様に、原画像f(t)は、検出ブロック7−27〜7−39に分割されている。検出ブロック7−38〜7−39は、移動する物体を表す領域であり、検出ブロック7−28、7−29、7−32、7−33、7−36、および、7−37は、柱を表す領域であり、検出ブロック7−27、7−30、7−31、7−34、および、7−35は、柱の間を表す領域である。
図7では、原画像f(t−1)および原画像f(t)のそれぞれを基準として互いの原画像に対して検出された対向する動きベクトル(双方向ベクトル)が示されている。また、図5では、原画像f(t−2)を基準として原画像f(t−1)に対して検出された動きベクトルが示されている。
本発明に係る画像補間装置1では、動きベクトル検出部4は、図7に示すように、原画像f(t−1)を基準画像として、原画像f(t)に対する動きベクトルを検出する。つまり、過去画f(t−1)の各検出ブロックを始点とし、未来画f(t)のいずれかの検出ブロックを終点とする前方向動きベクトルが検出される。また、画像補間装置1では、動きベクトル検出部3は、図7に示すように、原画像f(t)を基準画像として、原画像f(t−1)に対する動きベクトルを検出する。つまり、未来画f(t)の各検出ブロックを始点とし、過去画f(t−1)のいずれかの検出ブロックを終点とする後方向動きベクトルが算出される。そして、双方向ベクトル比較部7は、検出ブロックごとに、動きベクトル検出部3,4において検出された双方向の動きベクトルを比較する。
双方向ベクトル比較部7は、動きベクトル検出部4において検出された原画像f(t−1)の各検出ブロックを始点とする前方向動きベクトルについて、各前方向動きベクトルの終点となる原画像f(t)の検出ブロックを始点とする後方向動きベクトルと比較し、それらの対向する前方向動きベクトルと後方向動きベクトルとが、反対向きで大きさが等しいベクトルであるか否かを判定する。つまり、後方向動きベクトルの終点のブロックを始点とする前方向動きベクトルの終点が、当該後方向動きベクトルの始点と一致するか否かを判定する。
なお、上述した双方向ベクトル比較部7における対向する前方向動きベクトルと後方向動きベクトルとが等しいか否かの判定処理は、動きベクトルの検出精度を考慮して幅をもたせてもよい。つまり、後方向動きベクトルの始点と、当該後方向動きベクトルの終点のブロックを始点とする前方向動きベクトルの終点との間隔が、所定の閾値よりも大きいか否か(予め定められた範囲内にあるか否か)を判定し、所定の閾値よりも大きい場合には「現れる領域」と判定する構成であってもよい。ここで、所定の閾値(予め定められた範囲)としては、動きベクトルの検出精度に応じたブロック数を設定可能な構成であってよく、特に限定はされない。
双方向ベクトル比較部7での比較処理の一例について、図12を用いて説明する。図12は、双方向ベクトル比較部7での処理を説明するための図である。原画像f(t)からf(t−1)への後方向動きベクトルの検出を行った結果、f(t)上のあるブロックにおいて後方向動きベクトル(Vxft1,Vyft1)が検出されたとする。図12において、ブロック12−1〜12−4は、原画像f(t−1)からf(t)に対して前方向検出を行う場合のf(t−1)上の固定ブロックである。ブロック12−5は、f(t)上のあるブロックにおける後方向検出のベクトル検出結果が(Vxft1,Vyft1)を示したときに、f(t−1)上に割り付けられたエリアとする。すなわち、ブロック12−5は、f(t)を始点とする後方向動きベクトル(Vxft1,Vyft1)の終点のブロックである。また、ブロック12−1〜12−4において求まった前方向ベクトルを(Vxbt1,Vybt1)〜(Vxbt4,Vybt4)とする。このとき、双方向ベクトル比較部7は、対向する前方向動きベクトルと後方向動きベクトルとの比較処理を行い、
|Vxft1+Vxbt1|<Vxth
|Vxft1+Vxbt2|<Vxth
|Vxft1+Vxbt3|<Vxth
|Vxft1+Vxbt4|<Vxth
のいずれかが成立し、かつ
|Vyft1+Vybt1|<Vyth
|Vyft1+Vybt2|<Vyth
|Vyft1+Vybt3|<Vyth
|Vyft1+Vybt4|<Vyth
のいずれかが成立する場合、対向する前方向動きベクトルと後方向動きベクトルとは等しい、すなわち、後方向動きベクトル(Vxft1,Vyft1)の終点のブロック12−5を始点とする前方向動きベクトルの終点が、当該後方向動きベクトルの始点と一致(あるいは所定の範囲内に存在)すると判定する。ここで、Vxth、Vythは、対向する前方向動きベクトルと後方向動きベクトルとが等しいか否かを判定する基準として予め定められた閾値であって、設定によって変更可能である。
つまり、検出された後方向動きベクトルと、当該後方向動きベクトルが指し示す終点周辺のブロックの前方向ベクトルとの差が一定値以下のとき(前方向と後方向ベクトルは向きが逆であるため、加算した結果がゼロとなるのが理想)、後方向動きベクトルの終点のブロックを始点とする前方向動きベクトルの終点が、当該後方向動きベクトルの始点と一致すると判断する。
ここでは、双方向ベクトル比較のブロックを2×2の領域としたが、演算精度によっては、3×3の領域や、1ブロック単体としてもよいものとする。
双方向ベクトル比較部7について、図7を用いて説明すれば、以下のとおりである。なお、以下では、説明を簡単にするため、比較ブロックを1ブロック単体として記す。双方向ベクトル比較部7は、図7に示す検出ブロック7−27〜7−39を始点とする後方向動きベクトルについて、各後方向動きベクトルの終点の検出ブロックを始点とする前方向動きベクトルと比較する。
例えば、原画像f(t)の検出ブロック7−33を始点とする後方向動きベクトル7−40の終点は、原画像f(t−1)の検出ブロック7−20であり、双方向ベクトル比較部7は、検出ブロック7−20を始点とする前方向動きベクトル7−41と後方向動きベクトル7−40とを比較する。この場合、双方向ベクトル比較部7は、後方向動きベクトル7−40および前方向動きベクトル7−41について、いずれも、ゼロベクトルであり、後方向動きベクトルの始点と、当該後方向動きベクトルの終点を始点とする前方向動きベクトルの終点とが等しいと判定する。
また、例えば、原画像f(t)の検出ブロック7−37を始点とする後方向動きベクトル7−42の終点は、原画像f(t−1)の検出ブロック7−20であり、双方向ベクトル比較部7は、検出ブロック7−20を始点とする前方向動きベクトル7−41と後方向動きベクトル7−42とを比較する。この場合、双方向ベクトル比較部7は、後方向動きベクトルの始点と、当該後方向動きベクトルの終点を始点とする前方向動きベクトルの終点とが異なっていると判定する。
双方向ベクトル比較部7は、原画像f(t)の全ての検出ブロックについて同様の判定処理を実行する。図7に示す例では、双方向ベクトル比較部7は、検出ブロック7−34〜7−37を始点とする後方向動きベクトルについて、後方向動きベクトルの始点と、当該後方向動きベクトルの終点を始点とする前方向動きベクトルの終点とが異なっていると判定する。
後方向動きベクトルの始点と、当該後方向動きベクトルの終点を始点とする前方向動きベクトルの終点とが同じである場合、後方向動きベクトルが指し示す原画像f(t−1)の検出ブロックと、前方向動きベクトルが指し示す原画像f(t)の検出ブロックとは、同一の物体の領域、あるいは、同一の背景領域ということになる。
反対に、後方向動きベクトルの始点と、当該後方向動きベクトルの終点を始点とする前方向動きベクトルの終点とが異なる場合、後方向動きベクトルの始点となる原画像f(t)の検出ブロックに表示されている物体や背景領域は、原画像f(t−1)には表示されていないことを意味する。
つまり、原画像f(t)における検出ブロックを始点とする後方向動きベクトルと、当該後方向動きベクトルの終点となる原画像f(t−1)における検出ブロックを始点とする前方向動きベクトルとを比較し、後方向動きベクトルと前方向動きベクトルとが反対向きで大きさが等しいか否かを判定することによって、時間的に前の時刻における原画像f(t−1)に表示されないが、時間的に後の時刻における原画像f(t)には表示される「現れる領域」を検出することができる。図7に示す例では、原画像f(t)における検出ブロック7−34〜7−37が「現れる領域」として特定される。
次に、「現れる領域」における動きベクトルの補正について説明する。図7では、「現れる領域」である原画像f(t)の検出ブロック7−34〜7−37において検出された後方向動きベクトルは、類似の領域を指し示す誤検出された動きベクトルである。したがって、後方向動きベクトルを内挿画像の作画に利用する場合には、「現れる領域」における誤検出された後方向動きベクトルを補正する必要がある。
本発明に係る画像補間装置1では、原画像f(t)の「現れる領域」における動きベクトルの補正を行う場合、動きベクトル補正部8は、原画像f(t−1)の動きベクトルの統計データと原画像f(t−1)の1つ前の時刻における原画像f(t−2)の動きベクトルの統計データとに基づいて補正する。
より具体的には、動きベクトル補正部8は、原画像f(t−1)において「現れる領域」に対応する検出ブロックを中心として予め定められた範囲内の検出ブロックにおける前方向動きベクトルのヒストグラムデータと、原画像f(t−2)において当該「現れる領域」に対応する検出ブロックを中心として予め定められた範囲内の検出ブロックにおける前方向動きベクトルのヒストグラムデータとを比較し、最も頻度の増加した前方向動きベクトルの逆方向のベクトルを、原画像f(t)の「現れる領域」における動きベクトルとして決定する。
つまり、「現れる領域」では、物体が遠ざかってゆくことになり、時間経過に伴って、背景領域が増加する。したがって、背景領域の前方向動きベクトルは増加することになる。そこで、「現れる領域」における動きベクトルを、前回検出した動きベクトルと今回検出した前方向動きベクトルのヒストグラムデータにおいて、最も頻度の増加した動きベクトルの逆ベクトルに補正する。
なお、本実施の形態では、動きベクトル補正部8は、原画像f(t−2)および原画像f(t−1)における動きベクトルのヒストグラムデータを状態記録部5から読み出して比較する。また、統計データ処理部6は、動きベクトル検出部3,4において検出された動きベクトルのデータと双方向ベクトル比較部7において判定された「現れる領域」を特定するデータとを受け取り、原画像f(t−1)において「現れる領域」に対応する検出ブロックを中心として予め定められた範囲内の検出ブロックにおける動きベクトルのヒストグラムデータと、原画像f(t−2)において原画像f(t−1)の「現れる領域」に対応する検出ブロックを中心として予め定められた範囲内の検出ブロックにおける動きベクトルのヒストグラムデータとを算出し、状態記録部5に格納する。このとき、ヒストグラムデータのうち、上位のデータのみを状態記録部5に記憶させる構成であってもよい。
図7に示す例では、動きベクトル補正部8は、例えば、原画像f(t−1)において原画像f(t)の「現れる領域」に対応する領域(検出ブロック7−21〜7−24)に含まれる各検出ブロックを中心に5ブロックの範囲内の動きベクトルのヒストグラムと、原画像f(t−2)において原画像f(t)の「現れる領域」に対応する領域(検出ブロック7−8〜7−11)に含まれる各検出ブロックを中心に5ブロックの範囲内の動きベクトルのヒストグラムと比較する。図7に示す例では、原画像f(t−2)と原画像f(t−1)との間で「現れる領域」に対応する検出ブロックを中心として5ブロックの範囲内において出現頻度が最も増加した動きベクトルはゼロベクトルであり、その逆方向のベクトルもまたゼロベクトルとなる。したがって、動きベクトル補正部8は、原画像f(t)の「現れる領域」(検出ブロック7−34〜7−37)における動きベクトルとしてゼロベクトルを設定する。
なお、上述の説明では、説明を簡単にするために、図4に示すような原画像をモデル化した図7に基づいて、「現れる領域」を中心に5ブロックの範囲内のヒストグラムデータを算出する構成として説明したが、ヒストグラムデータを算出する範囲は「現れる領域」を中心に5ブロックに限定されることはなく、原画像の種類等に応じてヒストグラムデータを算出するブロック数が設定される構成であってよく、特に限定はされない。
そして、動きベクトル補正部8は、補正後の動きベクトルをベクトル割付部9に供給する。このとき、動きベクトル補正部8は、「現れる領域」の動きベクトルについて、内挿画像への割付処理における優先順位を落とす指示子、すなわち、内挿ブロックにおいて競合が発生した場合には内挿ベクトルとして選択しないことを指示する優先度指示情報をベクトル割付部9に供給する。ベクトル割付部9は、動きベクトル補正部8からの優先度指示情報に基づいて内挿ブロックへの割付処理を行い、内挿画像に割り付けた動きベクトル、すなわち、内挿ベクトルを作画部10に供給する。
また、動きベクトル補正部8は、「現れる領域」の動きベクトルについて、未来画、すなわち、内挿時刻よりも後の時刻における原画像f(t)から作画することを指示する作画指示情報をベクトル割付部9に供給する。そして、ベクトル割付部9は、「現れる領域」の動きベクトルを内挿画像に割り付けた場合、内挿ベクトルと共に作画指示情報を作画部10に供給する。そして、作画部10は、ベクトル割付部9からの内挿ベクトルおよび作画指示情報を用いて内挿画像を作画する。
図8は、「現れる領域」の検出および動きベクトルの補正について説明するための図であって、補正後の動きベクトルを用いて内挿画像に動きベクトルを割り付ける様子を示す図である。図8の原画像f(t−1)における検出ブロック8−1〜8−6は、図7の原画像f(t−1)における検出ブロック7−20〜7−24に対応している。上述のとおり、原画像f(t−1)の「現れる領域」(検出ブロック7−34〜7−37、すなわち、検出ブロック8−11〜8−14)にはゼロベクトルが設定されている。
図8は、t−0.75、t−0.5、t−0.25の各時刻における内挿画像f(t−0.75)、f(t−0.5)、f(t−0.25)を内挿する場合の例を示している。図8に示すとおり、内挿画像f(t−0.75)の内挿ブロック8−9では、動きベクトルの競合は発生しておらず、ベクトル割付部9は、原画像f(t)の「現れる領域」である検出ブロック8−12における動きベクトルを内挿ベクトルとして割り付ける。また、内挿画像f(t−0.5)の内挿ブロック8−8においても、動きベクトルの競合が発生していないため、ベクトル割付部9は、原画像f(t)の「現れる領域」である検出ブロック8−12における動きベクトルを内挿ベクトルとして割り付ける。一方、内挿画像f(t−0.25)の内挿ブロック8−7では、動きベクトルの競合が発生している。
この場合、上述したとおり、ベクトル割付部9は、動きベクトル補正部8から、内挿ブロックにおいて競合が発生した場合には、「現れる領域」の動きベクトルを内挿ベクトルとして選択しないことを指示する優先度指示情報を受けている。そのため、内挿ブロック8−7においては、「現れる領域」である検出ブロック8−12における動きベクトルは内挿ベクトルとして選択されず、検出ブロック8−2において検出された動きベクトルを内挿ベクトルとして選択する。
なお、座標(x,y)からのベクトル(Vx,Vy)を、f(t)とf(t+1)との間の時間的に1/kの位置におけるフレームに割り付ける一般式は、(x+1/k×Vx,y+1/k×Vy)となるが、「現れる領域」の割り付けは、(x−(1−1/k)×Vx,y−(1−1/k)×Vy)として割り付ける。
また、上述したとおり、作画部10は、「現れる領域」の動きベクトルについて、未来画から作画する作画指示情報を受けている。そのため、作画部10は、例えば、「現れる領域」の動きベクトルが割り付けられた内挿画像f(t−0.5)の内挿ブロック8−8および内挿画像f(t−0.75)の内挿ブロック8−9について、原画像f(t)の検出ブロック8−12の画像を用いて作画する。
これにより、本発明に係る画像補間装置1では、「現れる領域」において誤検出された動きベクトルを、より信頼性の高い動きベクトルに補正することができる。したがって、原画において「現れる領域」が含まれている場合において、内挿画像の精度を向上させることが可能となる。
(変形例)
なお、本発明に係る画像補間装置1は、新たに動きベクトルを検出する場合、過去に検出した動きベクトルを、候補ベクトルとして、新たに検出する動きベクトルの推定に用いる構成であってもよい。例えば、原画像f(t−1)とf(t)との間の動きベクトルを検出する場合、前回の検出結果、すなわち、原画像f(t−2)とf(t−1)との間で検出された動きベクトルを候補ベクトルとして用いる。
つまり、原画像f(t−2)を始点として原画像f(t−1)を終点とする前方向動きベクトルを、原画像f(t−1)を始点として原画像f(t)を終点とする前方向動きベクトルの候補ベクトルとして用いることができ、原画像f(t−1)を始点として原画像f(t−2)を終点とする後方向動きベクトルを、原画像f(t)を始点として原画像f(t−1)を終点とする後方向動きベクトルの候補ベクトルとして用いることができる。
ここで、画像補間装置1では、過去画f(t−1)を基準として未来画f(t)への前方向動きベクトルを検出する場合、原画像f(t−2)からf(t−1)に対して検出した前方向動きベクトルのうち、「消える領域」に含まれる検出ブロックを始点とする動きベクトルについては、候補ベクトルとして参照することを禁止する。また、「現れる領域」に含まれる検出ブロックの動きベクトルについては、重み付けの変更や候補ベクトルの増加など、新規候補を積極的に探すようにしてベクトルの収束を早める。
また、画像補間装置1では、未来画f(t)を基準として過去画f(t−1)への後方向動きベクトルを検出する場合、原画像f(t−1)からf(t−2)に対して検出した後方向動きベクトルのうち、「現れる領域」に含まれる検出ブロックを始点とする動きベクトルについては、候補ベクトルとして参照することを禁止する。あるいは、前回検出(f(t−2)とf(t−1)との間の検出)と今回検出(f(t−1)とf(t)との間の検出)のヒストグラムデータにおいて最も頻度の増加した動きベクトルを候補ベクトルの代替とすることにより、収束性を改善し、誤検出を防止する構成であってもよい。
また、本発明に係る画像補間装置1は、例えば、テレビジョン受像装置に備えられて、受信した放送信号に含まれる映像信号に基づいて表示される画像を補間する構成であってもよい。あるいは、本発明に係る画像補間装置1は、DVD再生装置やビデオ再生装置などの映像再生装置に備えられて、記録媒体に記録されている映像データに基づいて再生される画像を補間する構成であってもよい。
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
最後に、画像補間装置1の各ブロックは、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
すなわち、画像補間装置1は、各機能を実現する制御プログラムの命令を実行するCPU(central processing unit)、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである画像補間装置1の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、画像補間装置1に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
また、画像補間装置1を通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。