JP2007034570A - 動きベクトル検出装置、動きベクトル検出方法、動きベクトル検出プログラム、及び記録媒体 - Google Patents
動きベクトル検出装置、動きベクトル検出方法、動きベクトル検出プログラム、及び記録媒体 Download PDFInfo
- Publication number
- JP2007034570A JP2007034570A JP2005215471A JP2005215471A JP2007034570A JP 2007034570 A JP2007034570 A JP 2007034570A JP 2005215471 A JP2005215471 A JP 2005215471A JP 2005215471 A JP2005215471 A JP 2005215471A JP 2007034570 A JP2007034570 A JP 2007034570A
- Authority
- JP
- Japan
- Prior art keywords
- pixels
- pixel
- motion vector
- correlation value
- maximum
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Image Analysis (AREA)
Abstract
【課題】 精度を落とさずに少ない計算量で動きベクトルを検出する。
【解決手段】 参照フレームを基準とする探索フレームの動きベクトルを算出する動きベクトル検出装置であって、参照フレーム内の参照代表点と、参照代表点に対応する探索フレーム内の探索代表点及び探索代表点を囲む密領域にある第1の複数の画素のうちの第2の複数の画素との間の相関関係を示す第1の複数の相関値を算出する第1の相関値算出部と、参照代表点と、密領域を囲む疎領域にある第3の複数の画素のうちの第4の複数の画素であって、第3の複数の画素の個数に対する第4の複数の画素の個数の比率が、第1の複数の画素の個数に対する第2の複数の画素の個数の比率より小さい第4の複数の画素との間の相関関係を示す第2の複数の相関値を算出する第2の相関値算出部と、第1の複数の相関値及び第2の複数の相関値で相関が最も強い画素から動きベクトルを決定する。
【選択図】 図4
【解決手段】 参照フレームを基準とする探索フレームの動きベクトルを算出する動きベクトル検出装置であって、参照フレーム内の参照代表点と、参照代表点に対応する探索フレーム内の探索代表点及び探索代表点を囲む密領域にある第1の複数の画素のうちの第2の複数の画素との間の相関関係を示す第1の複数の相関値を算出する第1の相関値算出部と、参照代表点と、密領域を囲む疎領域にある第3の複数の画素のうちの第4の複数の画素であって、第3の複数の画素の個数に対する第4の複数の画素の個数の比率が、第1の複数の画素の個数に対する第2の複数の画素の個数の比率より小さい第4の複数の画素との間の相関関係を示す第2の複数の相関値を算出する第2の相関値算出部と、第1の複数の相関値及び第2の複数の相関値で相関が最も強い画素から動きベクトルを決定する。
【選択図】 図4
Description
本発明は、動画像における時間的に連続する2つのフレーム画像間の画素の相関により、2つのフレーム画像内にある画像の時間的な動きを示す動きベクトルを検出する動きベクトル検出装置、動きベクトル検出方法、動きベクトル検出プログラム、及び記録媒体に関する。
動画像の圧縮、手ぶれ等の画像揺れの補正で重要な技術である動きベクトル検出を行う従来の動きベクトル検出装置(例えば、特許文献1参照)は、前記動画像を構成するフレームの一つである探索フレームの、当該探索フレームに先行又は後続する参照フレームを基準とする動きベクトルを、当該両フレーム間の画素の相関により求めている。より詳しくは、参照フレームにおけるブロック形状の画素データ群である参照ブロックと、探索フレームの任意の位置に取り得る参照ブロックと同一形状の画素データ群である探索ブロックとの間での相関により求めている。
まず最初に、参照ブロックの中の1つの画素である参照代表点と、参照代表点と同じ位置にある探索フレーム内の画素である探索代表点を中心として設定された探索ブロックを用意する。そして、参照代表点の画素と探索ブロック内の全ての画素との組合せについて、画素の相関、すなわち、2つの画素の輝度値の差などにより計算される画素データの差を計算する。この差は、参照フレームと同一形状の計数値テーブルに格納され、差の計算量は、参照ブロックの大きさがN×Mであるとすると、(N×M)個の画素となる。次に、参照代表点を参照ブロック内の別の画素に変えて、同じように画素データの差を計算し、計数値テーブルに加算していく。参照ブロック内の全ての画素について、これらの計算が終了したら、計数値テーブルの中で最も大きな値をとるデータを見つける。計数値テーブルの中心から、この最も大きな値を取るデータへ向かうベクトルが動きベクトルとして検出される。
動きベクトルを検出するためには、参照ブロック内の画素と、探索ブロック内の全ての画素との組合せについて画素データの差の計算をしなければならない。この計算量は、(参照ブロックの画素数)×(探索ブロックの画素数)=(N×M)2であり、膨大な計算量が必要になるという課題があった。
本発明は、このような従来の課題に着目してなされたもので、その目的は、精度を落とさずに少ない計算量で動きベクトルを検出することが可能となる動きベクトル検出装置、動きベクトル検出方法、動きベクトル検出プログラム、及び記録媒体を提供することにある。
上記課題を解決するために、本発明に係る動きベクトル検出装置では、第1の画像を表す参照フレーム及び当該参照フレームに時間的に先行又は後続する探索フレームであって第2の画像を表す当該探索フレームについて、前記第1の画像を基準とする前記第2の画像の動き量である動きベクトルを算出する動きベクトル検出装置であって、前記参照フレーム内の少なくとも1つ以上の任意な画素である参照代表点と、当該参照代表点に対応する前記探索フレーム内の画素である探索代表点及び当該探索代表点を囲む領域である密領域にある第1の複数の画素のうちの第2の複数の画素との間の相関関係を示す第1の複数の相関値を算出する第1の相関値算出部と、前記1つ以上の参照代表点と、前記密領域を囲む領域である疎領域にある第3の複数の画素のうちの第4の複数の画素であって、当該第3の複数の画素の個数に対する当該第4の複数の画素の個数の比率が、前記第1の複数の画素の個数に対する前記第2の複数の画素の個数の比率より小さい前記第4の複数の画素との間の相関関係を示す第2の複数の相関値を算出する第2の相関値算出部と、前記第1の複数の相関値及び前記第2の複数の相関値のうち、前記参照代表点との相関が最も強いことを示す相関値の画素である最大相関値画素の位置から前記動きベクトルを決定する動きベクトル決定部とを有することを要旨とする。
本発明に係る動きベクトル検出装置によれば、前記第2の相関値算出部で、当該第4の複数の画素の個数の、前記第3の複数の画素の個数に対する比率が、前記第1の相関値算出部で前記相関値を算出される前記第2の複数の画素の個数の、前記第1の複数の画素の個数に対する比率より小さいような前記第4の複数の画素について前記相関値を算出することから、前記第3の複数の画素のうち、前記後者の比率に相当する個数の画素について相関値を算出していた従来に対して、前記動きベクトルの決定を行うまでの相関の算出回数を減らすことが出来る。
上記発明に係る動きベクトル検出装置であって、前記疎領域は、前記第4の複数の画素のうちの一つ以上の画素と、前記第3の複数の画素のうち前記第4の複数の画素以外の第5の複数の画素のうちの一つ以上の画素との組み合わせが、任意の一の方向に沿って繰り返されていることが好ましい。
こうすれば、前記疎領域の中にある前記第4の複数の画素が、任意の一の方向で、一定のパターンで存在することになる。そのため、前記第4の複数の画素のアドレスの計算が簡略化できるので、前記第2の相関値算出部での相関値算出時間を短縮することができる。
上記発明に係る動きベクトル検出装置であって、前記動きベクトル決定部は、前記第4の複数の画素の中に前記最大相関値画素があるときは、前記第2の複数の画素又は前記第4の複数の画素のうち、前記最大相関値画素に隣接する1つ以上の画素である第1の1つ以上の隣接画素の位置及び相関値と、前記最大相関値画素の位置及び相関値とを用いて、前記最大相関値画素の位置、又は前記最大相関値画素と当該第1の1つ以上の隣接画素との間にある画素の位置から前記動きベクトルを決定することが好ましい。
こうすれば、前記最大相関値画素が前記第4の複数の画素の中にあるときでも、前記最大相関値画素と前記第1の1つ以上の隣接画素を用いて、前記最大相関値画素又は前記最大相関値画素と前記第1の1つ以上の隣接画素との間の画素から前記動きベクトルを決定する。従来の方法で、参照フレームと探索フレームの画素の相関を算出した場合、相関が最も強い画素から周辺の画素に行くに従って、相関は徐々に弱くなるケースがほとんどである。このことから、全ての画素の相関を算出しない前記疎領域に前記最大相関値画素がある場合に、実際に相関が最も強くなる画素は、前記最大相関値画素か、又は、前記最大相関値画素の周辺であって相関を算出していない前記第1の複数の画素又は前記第3の複数の画素になる可能性が高い。そのため、すべての画素の相関を計算しない前記疎領域であっても、精度の高い動きベクトルの検出ができる。
上記発明に係る動きベクトル検出装置であって、前記動きベクトル決定部は、前記第4の複数の画素の中に前記最大相関値画素があるときは、当該第1の1つ以上の隣接画素のうち、前記最大相関値画素からの距離が所定の距離にあり、相関値が最も強い画素である最大隣接画素の位置及び相関値と、前記第2の複数の画素又は前記第4の複数の画素のうち、前記最大相関値画素と当該最大隣接画素とに隣接する画素である第2の1つ以上の隣接画素の位置及び相関値と、前記最大相関値画素の位置及び相関値と、を用いて、前記最大相関値画素の位置、又は前記最大相関値画素と当該最大隣接画素との間の画素の位置から前記動きベクトルを決定することが好ましい。
画素の相関は、前記最大相関値画素から前記最大隣接画素にかけて、相関の強い個所ができ、そこから周辺に向かって相関が弱くなる。実際に相関が最も強くなるのは、前記最大相関値画素と前記最大隣接画素の間にある画素から、前記最大相関値画素のまでにある画素である場合がほとんどである。そのため、前記最大相関値画素、前記最大隣接画素、前記最大相関値画素と前記最大隣接画素に隣接する第2の1つ以上の隣接画素を用いて、前記最大相関値画素の位置、又は前記最大相関値画素と前記最大隣接画素との間の画素の位置から動きベクトルを決定することで、精度の高い動きベクトルの検出ができる。
上記発明に係る動きベクトル検出装置であって、動きベクトル決定部は、前記最大隣接画素と前記第2の1つ以上の隣接画素のうち、前記最大相関値画素との相関値の差の絶対値が所定の値より大きくなる画素が所定の数以上ある場合は、前記最大相関値画素と前記最大隣接画素の間にある画素の位置から前記動きベクトルを決定し、前記最大相関値画素との相関値の差の絶対値が当該所定の値より大きくなる画素が当該所定の数より小さい場合は、前記最大相関値画素の位置から前記動きベクトルを決定することが好ましい。
前記最大相関値と、前記最大隣接画素、前記第2の1つ以上の隣接画素の差の絶対値が前記所定の値より大きくなる画素が前記所定の数以上ある場合は、前記最大相関値画素と前記最大隣接画素の間に最も相関が強くなる画素がある可能性が高く、前記所定の数より小さい場合は、前記最大相関値画素の相関が最も強い可能性が高い。そのため、前記最大相関値画素との相関値の差の絶対値が所定の値より大きくなる画素が所定の数以上ある場合は、前記最大相関値画素と前記最大隣接画素の間にある画素の位置から前記動きベクトルを決定し、前記最大相関値画素との相関値の差の絶対値が当該所定の値より大きくなる画素が当該所定の数より小さい場合は、前記最大相関値画素の位置から前記動きベクトルを決定することで、精度の高い動きベクトルの検出ができる。
上記発明に係る動きベクトル検出装置であって、前記動きベクトル決定部は、前記最大隣接画素が2つ以上ある場合は、前記最大相関値画素の位置から前記動きベクトルを決定することが好ましい。
前記最大隣接画素が2以上ある場合は、2以上の前記最大隣接画素と前記最大相関値画素をつないだ線上に相関が強い部分があり、実際の相関値は、前記最大相関値画素の相関が最も強い可能性が高い。そのため、前記最大相関値画素が2以上あるときには、前記最大相関値画素の位置から前記動きベクトルを決定することで精度の高い動きベクトルの検出ができる。
また、上記課題を解決するために、本発明に係る動きベクトル検出装置では、第1の画像を表す参照フレーム及び当該参照フレームに時間的に先行又は後続する探索フレームであって第2の画像を表す当該探索フレームについて、前記第1の画像を基準とする前記第2の画像の動き量である動きベクトルを算出する動きベクトル検出装置であって、前記参照フレーム内の少なくとも1つ以上の任意な画素である参照代表点と、当該参照代表点に対応する前記探索フレーム内の画素である探索代表点及び当該探索代表点を囲む領域である疎領域にある第3の複数の画素のうちの当該第3の複数の画素の個数よりも少ない第4の複数の画素との間の相関関係を示す第2の複数の相関値を算出する第2の相関値算出部と、前記第2の複数の相関値のうち、前記参照代表点との相関が最も強いことを示す相関値の画素である最大相関値画素の位置から前記動きベクトルを決定する動きベクトル決定部とを有し、前記疎領域は、前記第4の複数の画素のうちの一つ以上の画素と、当該第3の複数の画素のうち前記第4の複数の画素以外の第5の複数の画素のうちの一つ以上の画素との組み合わせが、任意の一の方向に沿って繰り返され、前記動きベクトル決定部は、前記第4の複数の画素のうち、前記最大相関値画素に隣接する1つ以上の画素である第1の1つ以上の隣接画素であって、前記最大相関値画素からの距離が所定の距離にある当該第1の1つ以上の隣接画素のうち、相関値が最も強い画素である最大隣接画素の位置及び相関値と、前記第4の複数の画素のうち、前記最大相関値画素と当該最大隣接画素とに隣接する第2の1つ以上の隣接画素の位置及び相関値と、前記最大相関値画素の位置及び相関値と、を用いて、前記最大相関値画素の位置、又は前記最大相関値画素と当該最大隣接画素との間の画素の位置から前記動きベクトルを決定することを要旨とする。
こうすれば、相関を算出する画素の個数を減らすことができ、前記動きベクトル決定部を行うまでの相関の算出回数を減らすことが出来る。また、画素の相関は、前記最大相関値画素から前記最大隣接画素にかけて、相関の強い個所ができ、そこから周辺に向かって相関が弱くなる。実際に相関が最も強くなるのは、前記最大相関値画素と前記最大隣接画素の間にある画素から、前記最大相関値画素までにある画素である場合がほとんどである。そのため、前記最大相関値画素、前記最大隣接画素、前記最大相関値画素と前記最大隣接画素に隣接する第2の1つ以上の隣接画素を用いて、前記最大相関値画素、又は前記最大相関値画素と前記最大隣接画素との間の画素の位置から前記動きベクトルを決定することで、精度の高い動きベクトルの検出ができる。
また、本発明に係る動きベクトル検出方法、動きベクトル検出プログラム、記録媒体は、上記課題を解決すべく、基本的に、第1の画像を表す参照フレーム及び当該参照フレームに時間的に先行又は後続する探索フレームであって第2の画像を表す当該探索フレームについて、前記第1の画像を基準とする前記第2の画像の動き量である動きベクトルを算出する技術であって、前記参照フレーム内の少なくとも1つ以上の任意な画素である参照代表点と、当該参照代表点に対応する前記探索フレーム内の画素である探索代表点及び当該探索代表点を囲む領域である密領域にある第1の複数の画素のうちの第2の複数の画素との間の相関関係を示す第1の複数の相関値を算出し、次に、前記1つ以上の参照代表点と、前記密領域を囲む領域である疎領域にある第3の複数の画素のうちの第4の複数の画素であって、当該第3の複数の画素の個数に対する当該第4の複数の画素の個数の比率が、前記第1の複数の画素の個数に対する前記第2の複数の画素の個数の比率より小さい前記第4の複数の画素との間の相関関係を示す第2の複数の相関値を算出し、最後に、前記第1の複数の相関値及び前記第2の複数の相関値のうち、前記参照代表点との相関が最も強いことを示す相関値の画素である最大相関値画素の位置から前記動きベクトルを決定する。また、前記疎領域は、前記第4の複数の画素のうちの一つ以上の画素と、当該第3の複数の画素のうち前記第4の複数の画素以外の第5の複数の画素のうちの一つ以上の画素との組み合わせが、任意の一の方向に沿って繰り返されていることを要旨とする。
本発明に係る動きベクトル検出方法、動きベクトル検出プログラム、及び記録媒体によれば、前記第2の相関値算出部で、当該第4の複数の画素の個数の、前記第3の複数の画素の個数に対する比率が、前記第1の相関値算出部で前記相関値を算出される前記第2の複数の画素の個数の、前記第1の複数の画素の個数に対する比率より小さいような前記第4の複数の画素について前記相関値を算出することから、前記第3の複数の画素のうち、前記後者の比率に相当する個数の画素について相関値を算出していた従来に対して、画素の相関を算出する回数を減らすことが出来る。また、前記疎領域の中にある前記第4の複数の画素が、任意の一の方向で、一定のパターンで存在するので、前記第4の複数の画素のアドレスの計算が簡略化できる。そのため、前記第2の相関値算出部での相関値算出時間を短縮することができ、動きベクトルを検出する時間を短縮することができる。
上記発明に係るベクトル検出方法、動きベクトル検出プログラム、記録媒体は、上記課題を解決すべく、基本的に、前記動きベクトル決定工程は、前記第4の複数の画素の中に前記最大相関値画素があるときは、前記第2の複数の画素又は前記第4の複数の画素のうち、前記最大相関値画素に隣接する1つ以上の画素である第1の1つ以上の隣接画素であって、前記最大相関値画素からの距離が所定の距離にある当該第1の1つ以上の隣接画素のうち、相関値が最も強い画素である最大隣接画素の位置及び相関値と、前記第2の複数の画素又は前記第4の複数の画素のうち、前記最大相関値画素と当該最大隣接画素とに隣接する第2の1つ以上の隣接画素の位置及び相関値と、最大相関値画素の位置及び相関値と、を用いて、前記最大相関値画素の位置、又は前記最大相関値画素と当該最大隣接画素との間の画素の位置から前記動きベクトルを決定することが好ましい。
画素の相関は、前記最大相関値画素から前記最大隣接画素にかけて、相関の強い個所ができ、そこから周辺に向かって相関が弱くなる。実際に相関が最も強くなるのは、前記最大相関値画素と前記最大隣接画素の間にある画素から、前記最大相関値画素までにある画素である場合がほとんどである。そのため、前記最大相関値画素、前記最大隣接画素、前記最大相関値画素と前記最大隣接画素に隣接する第2の1つ以上の隣接画素を用いて、前記最大相関値画素、又は前記最大相関値画素と前記最大隣接画素との間の画素の位置から前記動きベクトルを決定することで、精度の高い動きベクトルの検出ができる。
以下、本発明に係る動きベクトル検出装置の実施例について図面に従って説明する。
図1は本発明の一実施形態としての動きベクトル検出装置の概略構成を示す説明図である。この動きベクトル検出装置は、汎用のコンピュータ100であり、CPU103、ROM104、RAM102、入力I/F101、出力I/F106とから構成され、それらはバス107を介して互いに接続されている。CPU103は、ROM104に格納されている動きベクトル検出プログラム500を実行する。RAM102は、動画像から取得したフレーム画像510を格納する。入力I/F101は、動画像からフレーム画像510を時系列順に順次、取得する。出力I/F106は、検出された動きベクトル520を出力する。
また、動きベクトル検出プログラム500は、例えばCD−ROMなどのコンピュータが読み取り可能な記録媒体によって外部から供給され、図示しないDVD−R/RWドライブを介してRAM102に記憶することによって格納されるものとしてもよい。もとより、インターネットなどのネットワーク手段を介して、アプリケーションプログラムを供給するサーバー等にアクセスし、データをダウンロードすることによってRAM102に格納されるものとしてもよい。
CPU103は、バス107を介してROM104に格納された動きベクトル検出プログラム500を読み出し、実行することによって、動きベクトル検出装置として機能させる。
図2は、実施例1の動きベクトル検出装置530の機能ブロック図を示す。図2に示したように、動きベクトル検出プログラム500が実行されることにより、CPU103は、相関値算出部534、代表点データ生成部538、動きベクトル決定部540として機能する。
図2の各部はそれぞれ以下の処理を司る。代表点データ生成部538は、フレームメモリ532に格納してある時系列順でフレーム画像510よりも前のフレーム画像から予め決められた位置にある1つ以上の画素(参照代表点600(図3))を抽出し、相関値算出部534に渡す。相関値算出部534は、参照代表点600と、フレーム画像510内にある参照代表点600の位置にある画素(探索代表点630(図3))を元に設定された探索ブロック620(図3)の画素との相関値を算出して累積加算テーブル536に格納していく。動きベクトル決定部540は、累積加算テーブル536から相関の最も強い画素(最大相関値画素640(図3))を検索し、最大相関値画素640とその周辺の画素の位置及び相関値から動きベクトル520を決定し、出力する。
ここで、動きベクトルの算出の概略について、図3の動きベクトルの算出の概略を説明するための説明図を用いて説明する。図3には、動画像から取得した時系列順に連続する2つのフレーム画像(参照フレーム、探索フレーム)と、画素の相関値を格納する累積加算テーブル536を示した。
まず、参照フレームに、予め決められた位置の画素を示す複数の参照代表点600を用意する。探索フレームに、参照代表点600と同じ位置にある画素である探索代表点630と、探索代表点630を中心とする一定の範囲を示す探索ブロック620を設定する。複数の参照代表点600と複数の探索ブロック620を使用するが、複数の探索ブロック620を統合した1つの探索ブロック620の画素の相関値を算出するので、累積加算テーブル536は一つだけ使用する。図3(A)、(B)、(C)では、例として、3つの参照代表点600、探索代表点630、及び探索ブロック620の位置を示している。
動きベクトル520の検出は、まず最初に、参照代表点600を一つ取り出し、この参照代表点600と、対応する探索ブロック620内の画素との輝度値の差の絶対値である相関値を算出し、この相関値を累積加算テーブル536に格納する(図3(A))。次に、別の参照代表点600を取り出し、同じように、参照代表点600と、対応する探索ブロック620内の画素との相関値を算出し、既に累積加算テーブル536に格納してある相関値と加算した値を新しい相関値として、累積加算テーブル536に格納していく(図3(B)〜(C))。このように探索ブロック620ごとに算出した相関値を合計して、全ての探索ブロック620を統合した1つの探索ブロック620の画素の相関値を算出する。
相関値の算出が終了したら、累積加算テーブル536に格納してある相関値から、参照代表点600との相関が最も強くなる画素(最大相関値画素)を見つける。探索代表点630から、最大相関値画素へ向かうベクトルを、動きベクトル520とみなす(図3(C))。このようにして検出した動きベクトル520は、参照フレームから探索フレームにかけて、時間軸上で画像がどのように動いたかを示す。図3の例では、参照フレーム内にある家の画像が、探索フレームでは右下のほうに動いており、動きベクトル520も同様に右下に向かうベクトルとなる。
図4は、探索ブロック620、累積加算テーブル536の形状を説明するための説明図である。図4左側の探索ブロック620は、探索フレーム内の13×13=169画素の範囲を示しており、このうち、密領域として探索代表点630を中心とする5×5=25画素の範囲が設定され、疎領域として密領域の外側の169−25=144画素の範囲が設定されている。図4では、探索ブロック620内の画素のうち実際に相関を計算する画素をグレーで示している、密領域では密領域内の全画素の25画素の相関を算出する(第1の相関値算出部)。疎領域では疎領域内の144画素中72画素の相関を算出する(第2の相関値算出部)。図4の右側の累積加算テーブル536には、グレーの部分に、探索ブロック620の画素ごとの相関値が格納される。また、実際の累積加算テーブル536はグレーの部分だけの相関値を格納する配列としてRAM102に領域を確保することになるが、図4では探索ブロック620の画素との対応関係がわかるように、グレー以外の部分も記載している。
このように疎領域で実際に相関を計算する画素を少なくすることで、相関の算出回数を大幅に減らすことができる。また、動画において、フレーム間の画像の動きは、大きくならないことが多いので、累積加算テーブルの中で最も相関が強くなる位置、すなわち動きベクトル520は、密領域の中にあることがほとんどである。実施例1では、密領域の全ての画素について相関を算出するので、動きベクトル520の発生頻度の高い密領域内で精度の高い動きベクトル520の検出ができる。
また、図4の例では、13×13の大きさの矩形の探索ブロックを使用したが、探索ブロック620の大きさ、形状はこれに限らず、他の大きさ、形状でも良い。また、密領域と疎領域の形状、大きさ、及び実際に相関を算出する画素数も、図4とは違うものを用いてもかまわない。探索ブロック620、密領域、疎領域は、動きベクトル520の使用目的により、適宜変更することが望ましい。例えば、動画の圧縮に動きベクトル520を使用する場合は、動画圧縮の単位になることが多い8×8画素ぐらいの探索ブロック620を使用すると良い。また、密領域、疎領域の大きさ、形状、及び相関を計算する画素数は、発生頻度の高い動きベクトル520の大きさや、要求される動きベクトル520の算出時間などを元にして決めると良い。
次に動きベクトル検出装置の各部が行う処理について、図5のフローチャートにより説明する。
ステップS200の処理を始める時点では、フレームメモリ532には時系列順で一つ前のフレーム画像、すなわち、参照フレームが格納されている。ステップS200では、代表点データ生成部538は、フレームメモリ532にある参照フレームから予め決められた位置にある画素である参照代表点600を全て取り出す。次に、ステップS202では、CPU103は、時系列順で参照フレームの次にくるフレーム画像510を探索フレームとして取得し、フレームメモリ532に格納する。ステップS204では、既に図3、図4を用いて説明したように、相関値算出部534が、参照フレームと探索フレームの相関を算出し、結果を累積加算テーブル536に格納する。
次に、ステップS206〜ステップS218にて、動きベクトル決定部540は、累積加算テーブル536を用いて動きベクトル520を決定する。
ステップS206にて、累積加算テーブル536の中で相関値が最も小さい値を持つ画素(i,j)max(最大相関値画素640)を求める。実施例1では、画素の相関は輝度値の差の絶対値を使用しているので、相関値が最も小さいときに、相関が最も強くなる。また、実施例1では、探索ブロック620内の画素を、(x、y)のように探索代表点630を原点とした横方向の画素数、縦方向の画素数で表す。例えば(0、−1)は、探索代表点630の一つ下の画素を意味する。
ステップS208にて、(i,j)maxが密領域の中にあるか、疎領域の中にあるかを調べる。密領域の幅をa、高さをbとすると、−a/2≦i≦a/2 かつ −b/2≦j≦b/2 の時に、(i,j)maxは密領域の中にあると判断できる。(i,j)maxが密領域の中にある場合は、ステップS218に進む。一方、疎領域にある場合は、ステップS210に進む。
ステップS218では、(i,j)maxが密領域の中にある場合の動きベクトル520の決定を行い、動きベクトル520は、探索代表点630から(i,j)maxへ向かうベクトルであると決定する。
ステップS210〜ステップS216にて、(i,j)maxが疎領域にある場合の動きベクトル520の決定を行う。まず、ステップS210にて、(i,j)maxに隣接する画素(第1の1つ以上の隣接画素)のうち、(i,j)maxから所定の距離にあり、相関値が最も小さい値を取る画素(i’,j’)(最大隣接画素)を求める。次に、ステップS212にて、(i,j)max、(i’,j’)、(i,j)maxと(i’,j’)の両方に接する画素(第2の1つ以上の隣接画素)を求める。
(i,j)max、(i’,j’)と(i,j)maxと(i’,j’)の両方に接する画素の位置関係は、疎領域で相関値を算出する画素と相関値を算出しない画素のパターンによって若干違う。図6は、探索ブロック620における最大相関値画素640と最大隣接画素の位置関係を説明するための説明図である。図6の(A)は、疎領域で相関値を算出する画素と相関値を算出しない画素が縦と横方向に交互に並んでいるパターンの場合の、疎領域の左上部分である。この場合は、最大相関値画素Aに隣接する画素(第1の1つ以上の隣接画素)は、P1,P2,P3,P4,Q1,Q2,Q3,Q4の8個ある。この中から所定の距離にある画素を求める。実施例1では、遠いほうの距離を所定の距離、すなわち、縦又は横方向に1画素分離れた距離を所定の距離とする。したがって、所定の距離にある画素は、P1,P2,P3,P4の4つになる。P1,P2,P3,P4のうち最も相関が強い画素をP1とすると、最大隣接画素はP1となる。そして、最大相関値画素Aと最大隣接画素P1の両方に接する画素は、Q1,Q4である。
図6の(B)は、疎領域で相関値を算出する画素と相関値を算出しない画素が縦と横と斜め方向に交互に並んでいるパターンの場合の、疎領域の左上部分である。この場合も、最大相関値画素Aに隣接する画素(第1の1つ以上の隣接画素)は、P1,P2,P3,P4,Q1,Q2,Q3,Q4の8個ある。このパターンでは、所定の距離は斜め方向に1画素分になるので、所定の距離にある画素は、P1,P2,P3,P4の4つになる。P1,P2,P3,P4のうち最も相関が強い画素をP1とすると、最大隣接画素はP1となる。そして、最大相関値画素Aと最大隣接画素P1の両方に接する画素は、Q1,Q4である。また、このように、疎領域において、縦又は横又は斜め方向に1画素おきに相関値を算出することで、疎領域内の画素のアドレス計算が非常に簡単になる。
以上のように、図6の(A)、(B)のパターンとも、(i,j)max=A,(i’,j’)=P1,(i,j)maxと(i’,j’)の両方に接する画素=Q1,Q4となる。ここで、(i,j)maxの相関値をCmax,(i’,j’)の相関値をC1,(i,j)maxと(i’,j’)の両方に接する画素の相関値をC2,C3とする。
次に、ステップS214にて、CmaxとC1,C2,C3との相関値の差の絶対値を調べる。相関値の差の絶対値がβ以下になるものが、2つ以上ある場合は、ステップS216に進む。一方、1つ以下しかない場合は、ステップS218に進む。
相関は、相関が最も強い画素を頂点として、その周辺の画素に向かって弱くなっていく傾向がある。例えば、CmaxとC1の相関値の差とCmaxとC2の相関値の差の両方ともβ以下である場合、3つの画素の相関値の値が近いので、実際に相関が最も強い画素は、Aではなく、P1,Q1,Q4の中間の画素、特に相関が強いAとP1の中間の画素A’である可能性が高い。そこで、ステップS216では、動きベクトル520を探索代表点630から最大相関値画素Aと最大隣接画素P1の間の画素((i+i’)/2,(j+j’)/2)へ向かうベクトルと決定する。
一方、Cmaxとの相関の差の絶対値がβ以下の画素が、1つ以下しかない場合は、Cmaxから隣接する画素への相関が弱くなる度合いが高いので、実際に相関が最も強い画素もAである可能性が高い。そのため、ステップS218で動きベクトル520を探索代表点630から最大相関値画素A(i、j)へ向かうベクトルと決定する。
以下、前記実施例1における動きベクトル検出装置に関する変形例を記載する。
(変形例1)図5のステップS210にて、最大隣接画素(i’,j’)が2つ以上ある場合は、ステップS218に進むようにする。最大隣接画素(i’,j’)が2つ以上ある場合は、2つの最大隣接画素(i’,j’)と最大相関値画素(i,j)を結び線上に相関の強い部分があると考えられる。そのため、実際に相関が強いのも、最大相関値画素(i,j)である可能性が最も高い。
(変形例1)図5のステップS210にて、最大隣接画素(i’,j’)が2つ以上ある場合は、ステップS218に進むようにする。最大隣接画素(i’,j’)が2つ以上ある場合は、2つの最大隣接画素(i’,j’)と最大相関値画素(i,j)を結び線上に相関の強い部分があると考えられる。そのため、実際に相関が強いのも、最大相関値画素(i,j)である可能性が最も高い。
(変形例2)密領域をなくし、探索ブロック内は、すべて疎領域とする。こうすれば、相関値の算出回数がより少なくなり、相関の算出時間も早くなる。
図7は、動画像から手ぶれなどの画像揺れを取り除いた補正フレーム画像を出力する画像処理装置の概略構成を示す説明図である。この画像処理装置は汎用のコンピュータ100であり、入力インターフェイス(I/F)101、CPU103、RAM102、ROM104、ハードディスク105、出力インターフェイス(I/F)106とから構成され、それらはバス107を介して互いに接続されている。入力I/F101には、動画像を入力する装置としてのデジタルビデオカメラ200およびDVDプレーヤ210が接続され、出力I/F106には動画像を出力する装置としてのビデオプロジェクタ300およびディスプレイ310が接続されている。その他、必要に応じて、動画像を記憶した記憶媒体からデータを読み出すことが可能な駆動装置や、動画像を出力することが可能な画像表示装置をそれぞれ接続することもできる。もとより、動画像には時系列に連続する静止画像も含まれる。
入力I/F101は、所定の画素数とRGB形式など所定の画素値を有する動画像からフレーム画像を取得し、コンピュータ100で処理できるフレーム画像データに変換する。実施例2では、フレーム画像を構成する所定枚数のフィールド画像から、フレーム画像データを取得するものとする。フレーム画像は、記録方式に応じて通常複数の所定枚数のフィールド画像によって構成されている。例えば、NTSC方式で記録された動画像の場合は、インターレース方式であり、毎秒60枚のフィールド画像によって毎秒30枚のフレーム画像が構成されている。従って、入力I/F101は、2つのフィールド画像の画素値を用いて1つのフレーム画像を取得する。もとより、1つのフィールド画像が1つのフレーム画像を構成しているプログレッシブ方式(ノンインターレース方式)のような場合は、1つのフィールド画像を用いて1つのフレーム画像を取得することになる。
変換されたフレーム画像データは、RAM102又はハードディスク105に格納される。CPU103は格納されたフレーム画像データに対して所定の画像処理を実行し、補正フレーム画像データとして再びRAM102又はハードディスク105に格納する。補正フレーム画像データを生成するまでに行われる所定の画像処理に際し、必要に応じてRAM102やハードディスク105が画像処理データのワーキングメモリとして用いられる。そして、格納した補正フレーム画像データを、出力I/F106を介して所定の画像データに変換し、ビデオプロジェクタ300などに送出する。
所定の画像処理を記録したアプリケーションプログラムは、予めハードディスク105やROM104に格納されていることとしてもよいし、例えばCD−ROMなどのコンピュータが読み取り可能な記録媒体によって外部から供給され、図示しないDVD−R/RWドライブを介してハードディスク105に記憶することによって格納されるものとしてもよい。もとより、インターネットなどのネットワーク手段を介して、アプリケーションプログラムを供給するサーバー等にアクセスし、データをダウンロードすることによってハードディスク105に格納されるものとしてもよい。
CPU103は、バス107を介してハードディスク105またはROM104に格納されたアプリケーションプログラムを読み出し、この読み出したアプリケーションプログラムを所定のオペレーティングシステムのもとで実行することによって、画像処理装置として機能する。特に図7に示したように、このアプリケーションプログラムが実行されることにより、フレーム画像取得部110、動きベクトル算出部120、補正位置算出部130、補正フレーム画像生成部140、補正動きベクトル算出部150、画像出力部160として機能する。
各部はそれぞれ以下の処理を司る。フレーム画像取得部110は、コンピュータ100に入力した動画像から時系列順にフレーム画像をキャプチャして取得する。動きベクトル算出部120は、実施例1の動きベクトル検出装置530(図2)であり、CPU103に実施例1の動きベクトル検出プログラム500(図1)を実行させることで、取得されたフレーム画像の動きベクトル520を算出し、補正位置算出部130に渡す。補正位置算出部130は、動きベクトル520などを用いて、フレーム画像から所定の画像を切り出すための画像位置を補正位置ベクトルとして算出する。補正フレーム画像生成部140は、算出された補正位置ベクトルに基づいて補正フレーム画像を生成する。補正動きベクトル算出部150は、生成された補正フレーム画像についての動きベクトルを補正動きベクトルとして算出し、補正位置算出部130に渡す。画像出力部160は、生成された補正フレーム画像を所定の画像データに変換して出力する。
次に、実施例2の画像処理装置について各部が行う処理を、図8の処理フローチャートにより説明する。図8に示した処理が開始されると、まずステップS10にて、入力される動画像から時系列順に、フレーム画像F(n)をコンピュータ100に取り込む処理を行う。なお、実施例2における以降の画像処理装置の説明において、(n)は時系列順でn番目であることを意味する。
実施例2では、動画像の入力をトリガーにして、自動的にフレーム画像を時系列順で順次取り込むこととする。もとより、取り込むフレーム画像を指定することとしてもよい。フレーム画像の指定方法は、動画像からフレーム画像をキャプチャしてコンピュータ100に取り込む際、通常付加されるフレーム画像の識別番号を指定するようにしてもよい。あるいは、ユーザーがビデオカメラに備えられたモニターなどのディスプレイ(図示せず)に表示されるフレーム画像を見ながら画像を直接指定することとしてもよい。
次に、ステップS20では、コンピュータ100に取り込むことによって取得したフレーム画像F(n)が存在するか否かを判定処理する。動画像からキャプチャしたフレーム画像F(n)が存在すれば(YES)次のステップに進み、存在しなければ(NO)画像処理装置における処理を終了する。
ステップS30では、取得したフレーム画像F(n)の動きベクトルV0(n)の算出処理を行う。ここで、実施例2における、フレーム画像F(n)の動きベクトルV0(n)について説明する。時系列順n−1番目のフレーム画像F(n−1)を基準とするフレーム画像F(n)の画像全体の動きを算出し、画像全体の動きをなくなるように、フレーム画像F(n−1)とフレーム画像F(n)を配置する。そして、フレーム画像F(n−1)の画面位置に対するフレーム画像F(n)の画面位置のずれ量を、X,Y方向のそれぞれの画素数として算出する。このX方向の画素数をX成分、Y方向の画素数をY成分とするベクトルによって表したものが、フレーム画像F(n)の動きベクトルV0(n)となる。算出した動きベクトルV0(n)のデータV0(n)は、CPU103によってRAM102などに格納される。
動きベクトルの定義は、動きベクトル検出装置の用途によって若干変わる。実施例1では、2つのフレーム画像間の画像の動きを動きベクトルとしていたが、実施例2では、2つのフレーム画像間の画像の動きを止めるように配置した時の2つのフレーム画像の相対位置を動きベクトルとする。この2つのベクトルは、向きが逆になるだけであるので、まったく同じ方法で動きベクトルを算出することができる。
動きベクトルV0(n)は、実施例1の動きベクトル検出プログラム500を使い、フレーム画像F(n−1)を参照フレーム、フレーム画像F(n)を探索フレームとして算出できる。図9は、実施例2で動きベクトル検出を行う時の参照代表点600の位置を説明するための説明図である。実施例2では、参照代表点600を図9の黒点で示したようにフレーム画像F(n−1)全体に一定間隔で配置する。こうすることで、手ぶれなどによって発生するフレーム画像全体に係る画像の動きを示す動きベクトルを検出することができる。そのため、画像揺れも精度良く取り除くことができるようになる。また、探索フレームになるフレーム画像F(n)内の探索ブロック620は、実施例1と同じように参照代表点600ごとに設定する。
ここで、次のステップS40における補正位置ベクトルS(n)の算出処理、及び以降のステップS60における補正動きベクトルV1(n)の算出処理について、処理内容の説明についての理解を容易にするため、フレーム画像F(n)の動きベクトルV0(n)と補正位置ベクトルS(n)、及び補正動きベクトルV1(n)の関係について、図10および図11を用いて前もって説明する。
図10は、最初に取得される時系列順1番目のフレーム画像F(1)と、2番目、3番目のフレーム画像F(2)、F(3)をそれぞれ示している。本発明は、補正量に基づいてフレーム画像から所定の画像を切り出す補正処理によって補正フレーム画像を生成する画像処理技術を提供するものであり、補正処理が行われない場合、または補正量が0の場合に切り出されるフレーム画像は、それぞれ図10破線で示したフレーム画像FK(1)、FK(2)、FK(3)となる。
ここで、フレーム画像FK(n)は、図10に示したように、フレーム画像F(n)に対して所定の補正限界値Smax分小さい画面サイズとなる。詳しくは、X方向では左右それぞれ所定の補正限界値Sxmaxだけ、Y方向では上下それぞれ所定の補正限界値Symaxだけ画面サイズが小さい画像である。つまり、切り出される画像は、X方向では2×Sxmax分、Y方向では2×Symax分小さい画面サイズとなる。
所定の補正限界値Smax(X成分はSxmax、Y成分はSymax)は、実施例2では、予めアプリケーションプログラムにデフォルトで所定の値が設定され、ハードディスク105などに格納されているものとする。もとより、ユーザーが、コンピュータ100に接続された入力手段(図示せず)を用いてデータ入力することによって設定し、格納するものとしてもよい。
同じく図10(下側)に、求められた相対位置に従って配置されたフレーム画像FK(1)、FK(2)、FK(3)を示した。図10より明らかなように、例えばフレーム画像F(2)の動きベクトルV0(2)は、フレーム画像FK(2)の動きベクトルと等しくなる。つまり、フレーム画像F(2)の動きベクトルV0(2)は、フレーム画像FK(1)に対するフレーム画像FK(2)の画面位置として求められる。フレーム画像FK(3)の動きベクトルV0(3)も同様にフレーム画像FK(2)に対するフレーム画像FK(3)の画面位置として求められる。動きベクトルV0(2)、V0(3)のX成分はX方向の画素数、Y成分はY方向の画素数で表される。
図10において、フレーム画像F(1)は、時系列順で一つ前のフレーム画像が存在しないため、実施例2ではフレーム画像F(1)は動いていないものとして扱い、フレーム画像FK(1)の動きベクトルV0(1)は0とする。
次に、図11を用いてフレーム画像F(n)の補正位置ベクトルS(n)と動きベクトルV0(n)、及びステップS60(図8)にて算出される補正動きベクトルV1(n)の関係を説明する。図11は、図10(下部)に示したフレーム画像FK(1)〜FK(3)の左上隅部分を拡大して示した説明図である。ここで、補正フレーム画像HFG(2)は、ステップS40(図8)で算出されるフレーム画像F(2)の補正位置ベクトルS(2)によってフレーム画像FK(2)が補正された状態を示している。
図11から明らかなように、フレーム画像FK(2)は、動きベクトルV0(2)のX成分とY成分の画素数に従ってフレーム画像FK(1)の画面位置を移動したものであり、補正フレーム画像HFG(2)は、補正位置ベクトルS(2)のX成分とY成分の画素数に従ってフレーム画像FK(2)の画面位置を移動したものである。また、同様に、フレーム画像FK(3)は、動きベクトルV0(3)のX成分とY成分の画素数に従ってフレーム画像FK(2)の画面位置を移動したものであり、補正フレーム画像HFG(3)は、補正位置ベクトルS(3)のX成分とY成分の画素数に従って、フレーム画像FK(3)の画面位置を移動したものである。
また、図11に示したように、補正動きベクトルV1(2)は、フレーム画像FK(1)に対する補正フレーム画像HFG(2)の相対的な画面位置を示すものであり、補正動きベクトルV1(3)は、補正フレーム画像HFG(2)に対する補正フレーム画像HFG(3)の相対的な画面位置を示すものである。なお、動きベクトルV0(1)は0であることより補正位置ベクトルS(1)も0となる(後述する)。従って、フレーム画像FK(1)は補正フレーム画像HFG(1)と同じものになる。
ここで、動きベクトルV0(n)および補正動きベクトルV1(n)は、X成分は図面右方向をプラス、Y成分は図面上方向をプラスとするが、補正ベクトルS(n)は、移動量を補正する意味から動きベクトルと反対に、X成分は図面左方向をプラス、Y成分は図面下方向をプラスとする。従って、フレーム画像FK(2)、FK(3)の補正位置ベクトルS(2)、S(3)は、図11に示したように動きベクトルV0(2)、V0(3)と反対方向がプラス方向になる。
実施例2は、図11にて説明したように、補正位置ベクトルS(n)を、補正位置ベクトルS(n−1)と、動きベクトルV0(n)と、補正動きベクトルV1(n−1)との3つのベクトルから求める画像処理技術を提供することによって補正遅れを抑制するとともに、補正量を補正限界値Smax以内に抑えることによって、不規則な画面移動を抑制できる補正フレーム画像の画面位置を算出する画像処理装置を提供するものである。
次に、ステップS40(図8)にて補正位置ベクトルS(n)の算出処理を行う。ここでの処理について、図12のフローチャートを用いて詳しく説明する。
ステップS40の処理が開始されると、まずステップS410にて注目するフレーム画像F(n)の動きベクトルV0(n)を入力する処理を行う。ここでは、1つ前の処理ステップS30にて求められ、RAM102などのメモリーに格納された動きベクトルV(n)を、CPU103が読み出すことによって入力処理を行う。
次に、ステップS420にて、注目するフレーム画像F(n)に対して時系列順で一つ前のフレーム画像の補正動きベクトルV1(n−1)を入力する処理を行う。ステップS60(図8)にて算出され、RAM102などのメモリーに格納された補正動きベクトルV1(n−1)を、CPU103が読み出すことによって入力処理を行う。
また、ステップS430にて、注目するフレーム画像F(n)に対して時系列順で一つ前のフレーム画像の補正位置ベクトルS(n−1)を入力する処理を行う。具体的には、ステップS40(図8)にて算出され、RAM102などのメモリーに格納された補正位置ベクトルS(n−1)を、CPU103が読み出すことによって入力処理を行う。
ステップS420及びステップS430において、「n=1」つまり時系列順1番目のフレーム画像の場合、前フレーム画像が存在しない。この場合は、前述したように実施例2ではフレーム画像F(n)は動いていないものとし、その結果、補正動きベクトルV1(1)は0、また補正位置ベクトルS(1)も0となる。
次に、ステップS440にてX、Y各成分別に減衰係数K、Dの値の決定処理を行う。減衰係数K、Dは、次の処理ステップS490で用いる所定の演算式において使用する係数であり、補正位置ベクトルの大きさ、つまり補正量を決める係数となる。減衰係数K、Dとも、それぞれ1以下の小数である。
まず、ステップS440(図12)にて行われる処理について、減衰係数K、Dの決定処理の詳細を、図13に示した処理フローチャートを用いて説明する。減衰係数K、Dの値の決定方法は、注目するフレーム画像の動きベクトルの大きさ及び向きと、時系列順一つ前の補正フレーム画像の大きさ及び向きとから補正量を算出し、動きベクトルの方向変化と大きさにあわせて注目するフレーム画像の補正量を算出しようとするものである。なお、ここでは、注目するフレーム画像のX成分についての処理を説明するが、処理ステップS440ではY成分についても図13に示したX成分の処理と同様の処理を行い、X成分、Y成分それぞれについて減衰係数K、Dの値を決定する。そして、後述する次の処理ステップS490(図12)において、補正位置ベクトルのX成分とY成分を所定の演算式にて算出する際、それぞれ決定した減衰係数K、Dの値を用いるのである。
ここでの処理が開始されると、まずステップS441にて注目するフレーム画像の動きベクトルV0(n)のX成分V0x(n)の抽出処理を行う。X成分V0x(n)はX方向の画素数で示され、図11に示したようにベクトルの向きが図面右方向であればプラス、左方向であればマイナスとなる。なお注目するフレーム画像の動きベクトルV0(n)のY成分V0y(n)については、図11に示したようにベクトルの向きが図面上方向であればプラス、下方向であればマイナスとなる。
次に、ステップS442にて、注目するフレーム画像に対して時系列順で一つ前のフレーム画像の補正動きベクトルV1(n−1)のX成分V1x(n−1)の抽出処理を行う。もとより、前述したように、注目するフレーム画像が時系列順1番目のフレーム画像である場合は、V1x(n−1)は0である。
次に、ステップS443にて、V0x(n)の絶対値と、V1x(n−1)の絶対値とを算出する。そして、次の処理ステップS444にてV0x(n)の絶対値がV1x(n−1)の絶対値以上か否かを判定する。ステップS444でNOの場合、つまり注目するフレーム画像の移動量が、前補正フレーム画像の移動量より小さい場合、ステップS445に進み、減衰係数K、Dの値をK1、D1に決定し、ステップS490(図12)に進む。
一方、ステップS444でYESの場合、つまり注目するフレーム画像の移動量が、前補正フレーム画像の移動量以上の場合、ステップS446に進み、V0x(n)とV1x(n−1)の積BSxを算出する。そして、次の処理ステップS447にて、BSxが0以上か否かを判定する。つまり、ここではベクトルV0x(n)とベクトルV1x(n−1)とが同じ向き(0以上)なのか逆向き(0より小さい)なのかを調べるのである。
ステップS447にてNOの場合(つまり逆向きの場合)、ステップS448に進み、減衰係数K、Dの値をK2、D2に決定し、ステップS490(図12)に進む。ここで、K2の値はK1の値より大きく、D2の値はD1の値よりも大きい値である。
一方、ステップS447にてYESの場合(つまり同じ向きの場合)、ステップS449に進み、減衰係数K、Dの値をK3、D3に決定し、ステップS490(図12)に進む。ここで、K3の値はK2の値より大きく、D3の値はD2の値よりも大きい値である。
減衰係数K、Dの値について、その一例を図14の減衰係数テーブルGKT1に示した。ここで、減衰係数Kの値は0.9≦K≦1の範囲で、K1<K2<K3を満たす値であることが望ましい。また、減衰係数Dの値は0.5≦D≦1の範囲で、D1<D2<D3を満たす値であることが望ましい。補正しようとするフレーム画像の移動量が、前補正フレーム画像の移動量より小さい場合、補正しようとするフレーム画像の移動量が前フレーム画像の移動量に対して減少しているということになる。従って、仮に、補正しようとするフレーム画像の補正量が、前フレーム画像と同じ補正量であったとすると、補正量が補正限界値に達する確率は高くなる。そこで、小さい値の減衰係数を用いて補正量を少なくし、補正限界値に達しにくくするのである。
また、補正しようとするフレーム画像の移動量が、前補正フレーム画像の移動量以上である場合、これら2つのフレーム画像の移動量が違う方向のときは、補正しようとするフレーム画像の画面位置が前補正フレーム画像の画面位置に近づく方向に反転移動していることになる。そこで、同じ方向のときにくらべて減衰係数の値を小さくして、補正しようとするフレーム画像の補正量を少なくするのである。なお、減衰係数K1〜K3、D1〜D3の値は、これに限らず、前述した条件を満たす値であれば何でもよい。
以上、説明したX成分についての処理を、Y成分についても同様に行い、X、Y各成分別に減衰係数K、Dの値を決定して処理ステップS490に進む。
減衰係数K、Dの値がX成分、Y成分について決定されると、ステップS490(図12)に戻り、所定の演算式を用いて注目するフレーム画像F(n)の補正位置ベクトルS(n)を算出する処理を行う。本実施形態では、所定の演算式として次の式(1)を用いる。
S(n)=K×S(n−1)+D×(V0(n)−V1(n−1)) …(1)
S(n)=K×S(n−1)+D×(V0(n)−V1(n−1)) …(1)
注目するフレーム画像F(n)の補正位置ベクトルS(n)は、具体的には式(1)を用いて、X成分およびY成分についての補正位置ベクトルSx(n)およびSy(n)をそれぞれ算出することによって求められる。
式(1)から明らかなように、注目するフレーム画像F(n)の動きベクトルV0(n)と、フレーム画像F(n−1)を補正した補正フレーム画像HFG(n−1)の補正動きベクトルV1(n−1)との差分を求め、この差分に減衰係数Dを乗じた値を補正位置ベクトルS(n)の算出に用いるため、補正後の注目するフレーム画像F(n)と前補正フレーム画像HFG(n−1)間について、画像の移動が滑らかになる確率が高くなる。
また、式(1)による補正位置ベクトルの算出方法によれば、補正しようとするフレーム画像が、パンやチルトなど一定の画面移動速度で撮影された画像の場合、V0(n)が変数ではなく定数になることから、算出されるS(n)は一定値になりやすい。つまり、パンやチルトなど一定方向に連続した動きを有するフレーム画像の補正については、撮影された元々の画像の動きに対する追随性がよいという効果も合わせて奏することになる。
なお、式(1)において、注目するフレーム画像が時系列順1番目(n=1)の場合、実施例2では前述したようにフレーム画像F(1)は動いていないとしたことから、S(1)=0である。ちなみに、
n=2の場合は、S(2)=K×0+D×(V0(2)−0)=D×V0(2)
n=3の場合は、S(3)=K×S(2)+D×(V0(3)−V1(2))
によって、補正位置ベクトルが算出される。
n=2の場合は、S(2)=K×0+D×(V0(2)−0)=D×V0(2)
n=3の場合は、S(3)=K×S(2)+D×(V0(3)−V1(2))
によって、補正位置ベクトルが算出される。
以上で、補正位置ベクトルの算出処理ルーチン(図8、ステップS40)を終了し、次にステップS50(図8)に進む。ステップS50では、補正フレーム画像HFG(n)の生成処理を行う。
図15に、n=3のときフレーム画像F(3)から所定の画像を切り出して生成される補正フレーム画像HFG(3)の例を示した。図15の上側に、補正がされない場合つまり補正量が0である場合において所定の画像となるフレーム画像FK(3)を破線で示した。そして、図15の下側に、ステップS40にて算出された補正位置ベクトルS(3)に従って、X方向にSx(3)、Y方向にSy(3)だけ画面位置を補正して切り出した補正フレーム画像HFG(3)を示した。このように、画面位置を補正することによって、フレーム画像について画像の移動量が抑えられることになる。
次に、ステップS60にて、生成された補正フレーム画像HFG(n)について補正動きベクトルV1(n)の算出処理を行う。前述したように、ここで算出した補正動きベクトルは時系列順で一つ後のフレーム画像の補正動きベクトルを算出するために用いられる。もとより、補正動きベクトルはX成分V1x(n)とY成分V1y(n)のベクトルとして算出する。
次に、ステップS70にて、補正フレーム画像HFG(n)の出力処理を行う。実施例2では、生成された補正フレーム画像HFG(n)を、出力I/F106(図7)によってビデオプロジェクタ300などの画像表示装置が必要とする画像信号に変換し、補正フレーム画像を生成する毎に直ちに出力するものとする。こうすれば、補正対象となるフレーム画像の取得後から補正フレーム画像の出力までの時間が短くなり、補正をリアルタイムでおこなえる可能性がある。もとより、補正フレーム画像HFG(n)の出力先をRAM102やハードディスク105などに設けられた所定の画像ファイルとし、生成した一連の複数の補正フレーム画像を格納することとしてもよい。
以上で、フレーム画像F(n)についての処理を終了し、ステップS80にてnを更新処理する。そして、ステップS10に戻り、時系列順で一つ後のフレーム画像を新たにフレーム画像F(n)として以降の処理を繰り返し、取得される全てのフレーム画像について補正フレーム画像を出力するのである。
上述した処理内容から明らかなように、実施例2による補正方法によれば、補正限界値内での補正ができるように減衰係数の値を決定するため、補正限界値を超える確率を抑えることが可能となる。また、注目するフレーム画像の補正量の算出に際して、算出する演算式に、注目するフレーム画像より時系列順一つ前のフレーム画像を補正した補正フレーム画像の動きベクトルつまり補正動きベクトルも用いることとしたため、補正フレーム画像について画像の移動が滑らかになり、不規則な画像の動きを抑制することが可能となる。
実施例2による補正結果を図16に示した。図16において、縦軸は各フレーム画像のX方向若しくはY方向の画面位置を示し、横軸は取得したフレーム画像の時系列順を表すフレーム画像数を示している。ちなみに横軸の左端はフレーム画像F(1)を示す。太い一点鎖線は補正前のフレーム画像の画面位置の軌跡を示し、太い実線は補正後の補正フレーム画像HFG(n)の画面位置の軌跡を示している。また、細い二点鎖線は補正できる範囲(補正限界値Smax)を示す。比較のために、従来例による補正フレーム画像の画面位置の軌跡を太い破線で例示した。
図16から明らかなように、矢印A(フレーム画像FK(n)の画面位置が増加から減少に変わる位置)で、例えば第1の実施例によれば、動きベクトルV0(n)の向きが反転することから、減衰係数が小さい値に決定され補正量が減少する。この結果、従来例より早くフレーム画像FK(n)の位置に近づけるように補正されることが分かる。また、矢印B付近では、従来例では補正が遅くなるためそのまま補正限界値に達してしまうが、例えば実施例2によれば、補正量と補正限界値の比率が小さくなることから、減衰係数の値を小さくして補正量が減少するようにしているため、補正限界値内で補正できることが分かる。
このように、実施例2による画像処理装置によれば、動きベクトルの検出において、画像の相関の算出を密領域と疎領域に分け、密領域ではすべての画素の相関を算出することで精度の高い動きベクトルの検出ができるようにし、疎領域では一部の画素の相関を算出することで相関の算出回数が少なくなるようにしている。手ぶれなどの画像揺れでは、密領域内に相関が最も強い画素がある小さな揺れの発生頻度が非常に高いので、この発生頻度が高い小さな揺れについて精度の良い動きベクトルの検出ができる。そのため、動きベクトルの精度がよくなり、画像揺れも精度良く取り除けることになる。
また、補正限界に達する確率を低くでき、また補正フレーム画像の画面位置の移動量が、注目するフレーム画像の補正量の算出に際して、注目するフレーム画像より時系列順で一つ前の補正フレーム画像の画像位置を考慮して算出する。従って、補正フレーム画像について、画面位置の移動が滑らかになる確率が高くなり、不規則な画像移動を抑えることができる。この結果、補正フレーム画像による動画像の鑑賞時、鑑賞者に例えば映像酔いなどの不快感を与えない画像補正を実現することができる。
100…コンピュータ、101…入力I/F、102…RAM、103…CPU、104…ROM、105…ハードディスク、106…出力I/F、107…バス、500…動きベクトル検出プログラム、510…フレーム画像、520…動きベクトル、532…フレームメモリ、534…相関値算出部、536…累積加算テーブル、538…代表点データ生成部、540…動きベクトル決定部、110…フレーム画像取得部、120…動きベクトル算出部、600…参照代表点、620…探索ブロック、630…探索代表点、130…補正位置算出部、140…補正フレーム画像生成部、150…補正動きベクトル算出部、160…画像出力部、200…ビデオカメラ、210…DVDプレーヤ、300…プロジェクタ、310…ディスプレイ、F(n)…フレーム画像、FK(n)…フレーム画像、HFG(1)…補正フレーム画像、Smax…補正限界値、Sxmax…補正限界値のX成分、Symax…補正限界値のY成分、V0(n)…動きベクトル、V1(n)…補正動きベクトル、S(n)…補正位置ベクトル、Sx(n)…補正位置ベクトルのX成分、Sy(n)…補正位置ベクトルのY成分、K…減衰係数、D…減衰係数、GKT1…減衰係数テーブル。
Claims (12)
- 第1の画像を表す参照フレーム及び当該参照フレームに時間的に先行又は後続する探索フレームであって第2の画像を表す当該探索フレームについて、前記第1の画像を基準とする前記第2の画像の動き量である動きベクトルを算出する動きベクトル検出装置であって、
前記参照フレーム内の少なくとも1つ以上の任意な画素である参照代表点と、当該参照代表点に対応する前記探索フレーム内の画素である探索代表点及び当該探索代表点を囲む領域である密領域にある第1の複数の画素のうちの第2の複数の画素との間の相関関係を示す第1の複数の相関値を算出する第1の相関値算出部と、
前記1つ以上の参照代表点と、前記密領域を囲む領域である疎領域にある第3の複数の画素のうちの第4の複数の画素であって、当該第3の複数の画素の個数に対する当該第4の複数の画素の個数の比率が、前記第1の複数の画素の個数に対する前記第2の複数の画素の個数の比率より小さい前記第4の複数の画素との間の相関関係を示す第2の複数の相関値を算出する第2の相関値算出部と、
前記第1の複数の相関値及び前記第2の複数の相関値のうち、前記参照代表点との相関が最も強いことを示す相関値の画素である最大相関値画素の位置から前記動きベクトルを決定する動きベクトル決定部とを有することを特徴とする動きベクトル検出装置。 - 請求項1に記載の動きベクトル検出装置であって、
前記疎領域は、前記第4の複数の画素のうちの一つ以上の画素と、前記第3の複数の画素のうち前記第4の複数の画素以外の第5の複数の画素のうちの一つ以上の画素との組み合わせが、任意の一の方向に沿って繰り返されていることを特徴とする動きベクトル検出装置。 - 請求項1に記載の動きベクトル検出装置であって、
前記動きベクトル決定部は、前記第4の複数の画素の中に前記最大相関値画素があるときは、前記第2の複数の画素又は前記第4の複数の画素のうち、前記最大相関値画素に隣接する1つ以上の画素である第1の1つ以上の隣接画素の位置及び相関値と、前記最大相関値画素の位置及び相関値とを用いて、前記最大相関値画素の位置、又は前記最大相関値画素と当該第1の1つ以上の隣接画素との間にある画素の位置から前記動きベクトルを決定することを特徴とする動きベクトル検出装置。 - 請求項3に記載の動きベクトル検出装置であって、
前記動きベクトル決定部は、前記第4の複数の画素の中に前記最大相関値画素があるときは、当該第1の1つ以上の隣接画素のうち、前記最大相関値画素からの距離が所定の距離にあり、相関値が最も強い画素である最大隣接画素の位置及び相関値と、前記第2の複数の画素又は前記第4の複数の画素のうち、前記最大相関値画素と当該最大隣接画素とに隣接する画素である第2の1つ以上の隣接画素の位置及び相関値と、前記最大相関値画素の位置及び相関値と、を用いて、前記最大相関値画素の位置、又は前記最大相関値画素と当該最大隣接画素との間の画素の位置から前記動きベクトルを決定することを特徴とする動きベクトル検出装置。 - 請求項4に記載の動きベクトル検出装置であって、
動きベクトル決定部は、前記最大隣接画素と前記第2の1つ以上の隣接画素のうち、前記最大相関値画素との相関値の差の絶対値が所定の値より大きくなる画素が所定の数以上ある場合は、前記最大相関値画素と前記最大隣接画素の間にある画素の位置から前記動きベクトルを決定し、
前記最大相関値画素との相関値の差の絶対値が当該所定の値より大きくなる画素が当該所定の数より小さい場合は、前記最大相関値画素の位置から前記動きベクトルを決定することを特徴とする動きベクトル検出装置。 - 請求項4に記載の動きベクトル検出装置であって、
前記動きベクトル決定部は、前記最大隣接画素が2つ以上ある場合に、前記最大相関値画素の位置から前記動きベクトルを決定することを特長とする動きベクトル検出装置。 - 第1の画像を表す参照フレーム及び当該参照フレームに時間的に先行又は後続する探索フレームであって第2の画像を表す当該探索フレームについて、前記第1の画像を基準とする前記第2の画像の動き量である動きベクトルを算出する動きベクトル検出装置であって、
前記参照フレーム内の少なくとも1つ以上の任意な画素である参照代表点と、当該参照代表点に対応する前記探索フレーム内の画素である探索代表点及び当該探索代表点を囲む領域である疎領域にある第3の複数の画素のうちの当該第3の複数の画素の個数よりも少ない第4の複数の画素との間の相関関係を示す第2の複数の相関値を算出する第2の相関値算出部と、
前記第2の複数の相関値のうち、前記参照代表点との相関が最も強いことを示す相関値の画素である最大相関値画素の位置から前記動きベクトルを決定する動きベクトル決定部とを有し、
前記疎領域は、前記第4の複数の画素のうちの一つ以上の画素と、当該第3の複数の画素のうち前記第4の複数の画素以外の第5の複数の画素のうちの一つ以上の画素との組み合わせが、任意の一の方向に沿って繰り返され、
前記動きベクトル決定部は、前記第4の複数の画素のうち、前記最大相関値画素に隣接する1つ以上の画素である第1の1つ以上の隣接画素であって、前記最大相関値画素からの距離が所定の距離にある当該第1の1つ以上の隣接画素のうち、相関値が最も強い画素である最大隣接画素の位置及び相関値と、前記第4の複数の画素のうち、前記最大相関値画素と当該最大隣接画素とに隣接する第2の1つ以上の隣接画素の位置及び相関値と、前記最大相関値画素の位置及び相関値と、を用いて、前記最大相関値画素の位置、又は前記最大相関値画素と当該最大隣接画素との間の画素の位置から前記動きベクトルを決定することを特徴とする動きベクトル検出装置。 - 第1の画像を表す参照フレーム及び当該参照フレームに時間的に先行又は後続する探索フレームであって第2の画像を表す当該探索フレームについて、前記第1の画像を基準とする前記第2の画像の動き量である動きベクトルを算出する動きベクトル検出方法であって、
前記参照フレーム内の少なくとも1つ以上の任意な画素である参照代表点と、当該参照代表点に対応する前記探索フレーム内の画素である探索代表点及び当該探索代表点を囲む領域である密領域にある第1の複数の画素のうちの第2の複数の画素との間の相関関係を示す第1の複数の相関値を算出する第1の相関値算出工程と、
前記1つ以上の参照代表点と、前記密領域を囲む領域である疎領域にある第3の複数の画素のうちの第4の複数の画素であって、当該第3の複数の画素の個数に対する当該第4の複数の画素の個数の比率が、前記第1の複数の画素の個数に対する前記第2の複数の画素の個数の比率より小さい前記第4の複数の画素との間の相関関係を示す第2の複数の相関値を算出する第2の相関値算出工程と、
前記第1の複数の相関値及び前記第2の複数の相関値のうち、前記参照代表点との相関が最も強いことを示す相関値の画素である最大相関値画素の位置から前記動きベクトルを決定する動きベクトル決定工程とを有し、
前記疎領域は、前記第4の複数の画素のうちの一つ以上の画素と、当該第3の複数の画素のうち前記第4の複数の画素以外の第5の複数の画素のうちの一つ以上の画素との組み合わせが、任意の一の方向に沿って繰り返されていることを特徴とする動きベクトル検出方法。 - 請求項8に記載の動きベクトル検出方法であって、
前記動きベクトル決定工程は、前記第4の複数の画素の中に前記最大相関値画素があるときは、前記第2の複数の画素又は前記第4の複数の画素のうち、前記最大相関値画素に隣接する1つ以上の画素である第1の1つ以上の隣接画素であって、前記最大相関値画素からの距離が所定の距離にある当該第1の1つ以上の隣接画素のうち、相関値が最も強い画素である最大隣接画素の位置及び相関値と、前記第2の複数の画素又は前記第4の複数の画素のうち、前記最大相関値画素と当該最大隣接画素とに隣接する第2の1つ以上の隣接画素の位置及び相関値と、最大相関値画素の位置及び相関値と、を用いて、前記最大相関値画素の位置、又は前記最大相関値画素と当該最大隣接画素との間の画素の位置から前記動きベクトルを決定することを特徴とする動きベクトル検出方法。 - コンピュータを構成する第1の相関値算出部、第2の相関値算出部、動きベクトル決定部に、第1の画像を表す参照フレーム及び当該参照フレームに時間的に前後する探索フレームであって第2の画像を表す当該探索フレームについて、前記第1の画像を基準とする前記第2の画像の動き量である動きベクトルの検出を実行させる動きベクトル検出プログラムであって、
前記第1の相関値算出部に、前記参照フレーム内の少なくとも1つ以上の任意な画素である参照代表点と、当該参照代表点に対応する前記探索フレーム内の画素である探索代表点及び当該探索代表点を囲む領域である密領域にある第1の複数の画素のうちの第2の複数の画素との間の相関関係を示す第1の複数の相関値を算出させる第1の相関値算出工程と、
前記第2の相関値算出部に、前記1つ以上の参照代表点と、前記密領域を囲む領域である疎領域にある第3の複数の画素のうちの第4の複数の画素であって、当該第3の複数の画素の個数に対する当該第4の複数の画素の個数の比率が、前記第1の複数の画素の個数に対する前記第2の複数の画素の個数の比率より小さい前記第4の複数の画素との間の相関関係を示す第2の複数の相関値を算出させる第2の相関値算出工程と、
前記動きベクトル決定部に、前記第1の複数の相関値及び前記第2の複数の相関値のうち、前記参照代表点との相関が最も強いことを示す相関値の画素である最大相関値画素の位置から前記動きベクトルを決定させる動きベクトル決定工程とを含み、
前記疎領域は、前記第4の複数の画素のうちの一つ以上の画素と、当該第3の複数の画素のうち前記第4の複数の画素以外の第5の複数の画素のうちの一つ以上の画素との組み合わせが、任意の一の方向に沿って繰り返されていることを特徴とする動きベクトル検出プログラム。 - 請求項10に記載の動きベクトル検出プログラムであって、
前記動きベクトル決定工程は、前記第4の複数の画素の中に前記最大相関値画素があるときは、前記第2の複数の画素又は前記第4の複数の画素のうち、前記最大相関値画素に隣接する1つ以上の画素である第1の1つ以上の隣接画素であって、前記最大相関値画素からの距離が所定の距離にある当該第1の1つ以上の隣接画素のうち、相関値が最も強い画素である最大隣接画素の位置及び相関値と、前記第2の複数の画素又は前記第4の複数の画素のうち、前記最大相関値画素と当該最大隣接画素とに隣接する第2の1つ以上の隣接画素の位置及び相関値と、最大相関値画素の位置及び相関値と、を用いて、前記最大相関値画素の位置、又は前記最大相関値画素と当該最大隣接画素との間の画素の位置から前記動きベクトルを決定することを特徴とする動きベクトル検出プログラム。 - 請求項10又は11に記載の動きベクトル検出プログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005215471A JP2007034570A (ja) | 2005-07-26 | 2005-07-26 | 動きベクトル検出装置、動きベクトル検出方法、動きベクトル検出プログラム、及び記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005215471A JP2007034570A (ja) | 2005-07-26 | 2005-07-26 | 動きベクトル検出装置、動きベクトル検出方法、動きベクトル検出プログラム、及び記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007034570A true JP2007034570A (ja) | 2007-02-08 |
Family
ID=37793776
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005215471A Withdrawn JP2007034570A (ja) | 2005-07-26 | 2005-07-26 | 動きベクトル検出装置、動きベクトル検出方法、動きベクトル検出プログラム、及び記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007034570A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015018506A (ja) * | 2013-07-12 | 2015-01-29 | 東芝テック株式会社 | 商品認識装置及び商品認識プログラム |
-
2005
- 2005-07-26 JP JP2005215471A patent/JP2007034570A/ja not_active Withdrawn
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015018506A (ja) * | 2013-07-12 | 2015-01-29 | 東芝テック株式会社 | 商品認識装置及び商品認識プログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4664432B2 (ja) | ショットサイズ識別装置及び方法、電子機器、並びにコンピュータプログラム | |
JP4489120B2 (ja) | デジタル映像のアーティファクト削減 | |
KR102141290B1 (ko) | 화상 처리 장치, 화상 처리 방법, 화상 처리 프로그램 및 기억 매체 | |
EP2330817A1 (en) | Video signal converting system | |
CN109543534B (zh) | 一种目标跟踪中目标丢失重检的方法及装置 | |
EP2330818A1 (en) | Frame rate converting apparatus and corresponding point estimating apparatus, corresponding point estimating method and corresponding point estimating program | |
JP2006276948A (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記憶した記録媒体 | |
JP5841345B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び、撮像装置 | |
JP4482933B2 (ja) | 動きベクトル検出装置、画像表示装置、画像撮像装置、動きベクトル検出方法、プログラムおよび記録媒体 | |
JP4580347B2 (ja) | フリッカ映像変換装置、そのプログラム及びその方法、並びに、映像表示装置 | |
JP2009042897A (ja) | 画像処理装置及び画像処理方法 | |
JP2009003598A (ja) | 画像生成装置および方法、学習装置および方法、並びにプログラム | |
US7522189B2 (en) | Automatic stabilization control apparatus, automatic stabilization control method, and computer readable recording medium having automatic stabilization control program recorded thereon | |
JP2005150903A (ja) | 画像処理装置、ノイズ除去方法及びノイズ除去プログラム | |
JP2007028251A (ja) | 画像処理装置、画像処理方法、プログラムおよび記録媒体 | |
JP2007034570A (ja) | 動きベクトル検出装置、動きベクトル検出方法、動きベクトル検出プログラム、及び記録媒体 | |
JP4525064B2 (ja) | 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム | |
JP2007158855A (ja) | 動きベクトル検出装置および動きベクトル検出方法 | |
JP5683153B2 (ja) | 画像処理装置および画像処理方法 | |
TWI511545B (zh) | 數位視訊的區塊雜訊偵測 | |
JP4743601B2 (ja) | 動画像処理装置 | |
JP2007279800A (ja) | 動きベクトル検出装置、動きベクトル検出方法、手ぶれ補正装置、手ぶれ補正方法、手ぶれ補正プログラム、及び手ぶれ補正装置を備えた動画像表示装置 | |
JP2015079329A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2006285655A (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP2004078432A (ja) | オブジェクト抽出装置、オブジェクト抽出方法および画像表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20070404 |
|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20081007 |