JP2008003674A - 動きベクトル検出装置 - Google Patents

動きベクトル検出装置 Download PDF

Info

Publication number
JP2008003674A
JP2008003674A JP2006169940A JP2006169940A JP2008003674A JP 2008003674 A JP2008003674 A JP 2008003674A JP 2006169940 A JP2006169940 A JP 2006169940A JP 2006169940 A JP2006169940 A JP 2006169940A JP 2008003674 A JP2008003674 A JP 2008003674A
Authority
JP
Japan
Prior art keywords
representative point
value
motion vector
block
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006169940A
Other languages
English (en)
Other versions
JP4804238B2 (ja
Inventor
Yoshihiro Nishida
好宏 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2006169940A priority Critical patent/JP4804238B2/ja
Publication of JP2008003674A publication Critical patent/JP2008003674A/ja
Application granted granted Critical
Publication of JP4804238B2 publication Critical patent/JP4804238B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)

Abstract

【課題】動きベクトルの検出が困難な、濃度勾配の小さい平坦な画像だけでなく、誤動作しやすい繰返しパターンにおいても、誤動作を減らし、正しい動きベクトルを検出することが可能な動きベクトル検出装置を実現する。
【解決手段】時間的に連続する複数のフレームで構成される動画像の映像信号から、動きベクトルを代表点マッチング法により検出する動きベクトル検出装置において、フレームの各ブロック内の各画素において濃度勾配値を演算する濃度勾配演算部12と、濃度勾配値が所定の条件(例えば濃度勾配値が最大との条件)を満たす一画素を各ブロック内における代表点と決定する代表点位置判定部13と、動きベクトル検出部とを設ける。そして、代表点位置判定部13により決定された代表点に基づいて、代表点マッチング法により複数のフレーム間の動きベクトルを動きベクトル検出部に検出させる。
【選択図】 図3

Description

この発明は、動画像の画面の動きを検出する動きベクトル検出装置に関する。
従来より、所定の大きさのブロックに画像を分割し、各ブロックについて、前フレーム画像と現フレーム画像との相関を算出することにより動きベクトルを検出する種々の方法が提案されている。動きベクトル検出の主な方法として、輝度値の空間的勾配および時間的勾配から動きベクトルを求める勾配法や、現在の画像の一部の輝度値と所定時間前の画像の一部の輝度値とのフレーム間差分の絶対値から動きベクトルを求めるマッチング法などがある。
このうち、比較的小さなハードウェア規模で実現可能で、広く実用化されているのが、代表点マッチング法である。代表点マッチング法は、MUSEエンコーダや画面ゆれ(手振れ)補正などに使用されている。また、評価対象を点ではなくブロックとしたブロックマッチング法もあり、ブロックマッチング法は画像の高能率符号化を目的とした動き補償等に使用されている。代表点マッチング法もブロックマッチング法も基本的な考え方は同様である。
しかし、従来の代表点マッチングによる動きベクトル検出法では、全体に暗い画像や濃度勾配の小さい平坦な画面ではノイズによって誤動作しやすいという問題がある。そのため、各代表点位置付近の輝度値の濃度勾配を求めて、濃度勾配値に応じて重みづけを行い、累積加算するものが提案されている(例えば下記特許文献1)。
特許第2860702号公報
しかしながら、上述した特許文献1の場合も、基本的には代表点の位置が固定で、その代表点付近の輝度値の濃度勾配情報が、動きベクトルを算出するのに信頼性を有しているか否かを判定するものである。よって、例えばすべての代表点について輝度値の濃度勾配情報の信頼性が低いとなれば、正確な動きベクトルは検出できない。すなわち、特許文献1の技術では、誤動作を減らすことに主眼が置かれており、積極的に正しい検出を可能にするものではない。
また、代表点マッチング法にとり動きベクトル検出が困難な画像として、いわゆる繰返しパターンが存在する。一般的に距離が離れるほど画素の濃度値の差は大きくなる、との画像の相関性質を代表点マッチング法が利用しているためであり、例えば繰返しパターンで全ての代表点位置から所定量シフトした画素の濃度データが代表点の濃度データと同じであったとすると、動いているのか静止しているのかの判定が困難であるという問題がある。
この発明は、上述の問題に鑑みてなされたもので、動きベクトルの検出が困難な、濃度勾配の小さい平坦な画像だけでなく、誤動作しやすい繰返しパターンにおいても、誤動作を減らし、正しい動きベクトルを検出することが可能な動きベクトル検出装置を実現することを目的とする。
請求項1に記載の発明は、時間的に連続する複数のフレームで構成される動画像の映像信号から、動きベクトルを代表点マッチング法により検出する動きベクトル検出装置であって、前記複数のフレームの各々の画面を所定の大きさのブロックに分割し、各前記ブロック内の各画素において、輝度の勾配値たる濃度勾配値を演算する濃度勾配演算部と、各前記ブロック内において各前記画素のうち前記濃度勾配値が所定の条件を満たす一画素を、各前記ブロック内における代表点と決定する代表点位置判定部と、動きベクトル検出部とを備え、前記動きベクトル検出部は、前記代表点位置判定部により決定された前記代表点に基づいて、代表点マッチング法により前記複数のフレーム間の動きベクトルを検出する動きベクトル検出装置である。
請求項6に記載の発明は、時間的に連続する複数のフレームで構成される動画像の映像信号から、動きベクトルを代表点マッチング法により検出する動きベクトル検出装置であって、前記複数のフレームの各々の画面を所定の大きさのブロックに分割し、各前記ブロック内の各画素における輝度値と、各画素から所定位置だけずらした画素における輝度値との差分絶対値たる、第1差分絶対値を演算する第1差分絶対値演算部と、各前記ブロック内において各前記画素のうち前記第1差分絶対値が最大となる一画素を、各前記ブロック内における代表点と決定する代表点位置判定部と、動きベクトル検出部と、画素シフト量決定部とを備え、前記動きベクトル検出部は、前記代表点位置判定部により決定された前記代表点に基づいて、代表点マッチング法により前記複数のフレーム間の動きベクトルを検出し、前記画素シフト量決定部は、前記ブロック毎に、前記代表点の輝度値に対して相関を有する輝度値の画素の位置と、前記代表点の位置との差を画素シフト量として検出し、前記画素シフト量を前記所定位置として更新し、前記所定位置の更新後は、前記第1差分絶対値演算部は、更新後の前記所定位置だけずらした画素における輝度値に基づいて前記第1差分演算値を、次の前記ブロック内の各前記画素において演算し、前記所定位置の更新後は、前記代表点位置判定部は、更新後の前記所定位置だけずらした画素における輝度値に基づいて演算された前記第1差分演算値に基づいて、次の前記ブロック内における前記代表点を決定する動きベクトル検出装置である。
請求項1に記載の発明によれば、ブロック内の各画素において濃度勾配値を演算する濃度勾配演算部と、濃度勾配値が所定の条件を満たす一画素を各ブロック内における代表点と決定する代表点位置判定部と、動きベクトル検出部とを備え、動きベクトル検出部は、代表点位置判定部により決定された代表点に基づいて、代表点マッチング法により複数のフレーム間の動きベクトルを検出する。よって、代表点の位置を各フレームの各ブロックごとに異ならしめることができ、動きベクトルの検出が困難な、濃度勾配の小さい平坦な画像や、誤動作しやすい繰返しパターンにおいても、誤動作を減らし、正しい動きベクトルを検出することが可能な動きベクトル検出装置を実現することができる。
請求項6に記載の発明によれば、ブロック内の各画素における輝度値と、各画素から所定位置だけずらした画素における輝度値との第1差分絶対値を演算する第1差分絶対値演算部と、ブロック内において各画素のうち第1差分絶対値が最大となる一画素を、各ブロック内における代表点と決定する代表点位置判定部と、動きベクトル検出部と、画素シフト量決定部とを備え、動きベクトル検出部は、代表点位置判定部により決定された代表点に基づいて、代表点マッチング法により複数のフレーム間の動きベクトルを検出する。よって、代表点の位置を各フレームの各ブロックごとに異ならしめることができ、動きベクトルの検出が困難な、濃度勾配の小さい平坦な画像や、誤動作しやすい繰返しパターンにおいても、誤動作を減らし、正しい動きベクトルを検出することが可能な動きベクトル検出装置を実現することができる。また、画素シフト量決定部は、ブロック毎に、一度決定された代表点の輝度値に対して相関を有する輝度値の画素の位置と、代表点の位置との差を画素シフト量として検出し、画素シフト量を所定位置として更新し、所定位置の更新後は、第1差分絶対値演算部は、更新後の所定位置だけずらした画素における輝度値に基づいて第1差分演算値を、次のブロック内の各画素において演算し、所定位置の更新後は、代表点位置判定部は、更新後の所定位置だけずらした画素における輝度値に基づいて演算された第1差分演算値に基づいて、次のブロック内における代表点を決定する。画像に線状の成分が含まれる場合等には、代表点を誤検出する可能性があるが、画素シフト量決定部が画素シフト量を所定位置として更新し、第1差分絶対値が最大となる一画素を代表点として決定することにより、より適切な代表点を決定することが可能となる。よって、正しい動きベクトルをより高い信頼性にて検出することが可能な動きベクトル検出装置が得られる。
<実施の形態1>
本実施の形態は、時間的に連続する複数のフレームで構成される動画像の映像信号から、動きベクトルを代表点マッチング法により検出する動きベクトル検出装置であって、ブロック内の各画素において濃度勾配値を演算する濃度勾配演算部と、濃度勾配値が所定の条件を満たす一画素を各ブロック内における代表点と決定する代表点位置判定部と、動きベクトル検出部とを備え、動きベクトル検出部が、代表点位置判定部により決定された代表点に基づいて、代表点マッチング法により複数のフレーム間の動きベクトルを検出する動きベクトル検出装置である。
まず、図1及び図2を用いて代表点マッチング法の原理を説明する。代表点マッチング法においては、複数のフレームの各々の画面を所定の大きさのブロックに分割し、そのブロック毎に動きベクトルを検出する場合が一般的である。しかし、ここでは簡単のためにブロック毎の動きベクトルではなく、画面全体で1つの動きベクトルを検出する場合について説明する。
図1に示すように、時間的に連続する複数のフレームF(t),F(t−1)の画面(tは時間)を、a×bの画素数で構成されるK×L個のブロックに分割する。各ブロックにはそれぞれ、一つの代表点Rが設定される。前フレームF(t−1)の第(k,l)ブロック(kおよびlは各フレーム内での水平および垂直ブロック番号)の代表点における輝度値と、同ブロック内の代表点の位置から(i,j)だけ変位(iおよびjは同ブロック内での水平および垂直画素数)した現フレームF(t)内の第(k,l)ブロックの各画素における輝度値との相関値p(k,l)(i,j)を各変位ごとに求め、相関値p(k,l)(i,j)を全ブロックに亘って変位毎に累積加算すれば、画面全体についての相関値P(i,j)が得られる。なお、このときの相関値P(i,j)は、1ブロック分の大きさの平面上における相関分布として表現される。
一般的に、画像の相関値P(i,j)は、図2に示すように逆円錐形状(すり鉢状)となる。相関値P(i,j)の最小点が1ブロック分の平面上に投影された位置までの、ブロック内の代表点RからのベクトルMVが、フレームF(t),F(t−1)間の動きベクトルとなる。フレームF(t),F(t−1)間で画像が静止している場合には、その最小点はフレームF(t−1)の代表点位置に相当する原点(0,0)となる。一方、フレームF(t),F(t−1)間で画像が動く場合には、このすり鉢状の相関分布の形状が平行移動するので、このP(i,j)が最小となる(i,j)が動きベクトルと検出できる。
次に、本実施の形態に係る動きベクトル検出装置の構成を説明する。図3は、本実施の形態に係る動きベクトル検出装置を示すブロック図である。この動きベクトル検出装置は、例えば携帯電話に附属のカメラの手振れ補正用として、携帯電話に搭載される。そして、動きベクトル検出装置には、携帯電話に附属のカメラ等からアナログ映像信号10が供給される。
当該動きベクトル検出装置は、アナログ映像信号10を、時間的に連続する複数のフレームで構成される動画像のデジタル映像信号に変換するA/D変換器11を有する。また、当該動きベクトル検出装置は、濃度勾配演算部12と、代表点位置判定部13と、動きベクトル検出部とを備える。
濃度勾配演算部12は、デジタル映像信号の複数のフレームの各々の画面を所定の大きさのブロック(図1のK×L個のブロック)に分割し、各ブロック内の各画素(図1のa×b個の画素)において、輝度の勾配値たる濃度勾配値を演算する。また、代表点位置判定部13は、各ブロック内において各画素のうち濃度勾配値が所定の条件を満たす一画素を、各ブロック内における代表点(a0,b0)と決定する。ここで、所定の条件とは、各ブロック内において濃度勾配値が最大であることを指す。
また、動きベクトル検出部は、代表点位置判定部13により決定された代表点(a0,b0)に基づいて、代表点マッチング法により複数のフレーム間の動きベクトルを検出する機能部であり、具体的には、代表点メモリ14と、差分絶対値演算部15と、相関値メモリ16と、相関値比較部17とで構成される。
次に、本実施の形態に係る動きベクトル検出装置の動作を説明する。まず、アナログ映像信号10はA/D変換器11によりデジタル映像信号に変換された後、濃度勾配演算部12と差分絶対値演算部15とに入力される。濃度勾配演算部12は、勾配値演算用の既知の各種オペレータを用いて、演算対象画素とその周囲の画素データとから濃度勾配値を演算する。このオペレータには、一次微分演算に相当する図4に示す水平方向ソーベルオペレータ(Sobel Operator)や図5に示す垂直方向ソーベルオペレータ、あるいは、二次微分演算に相当する図6に示すラプラシアンオペレータを用いればよい。その他にも、次式の数1で表現されるMoravecオペレータ等、コンピュータビジョン研究で特徴点抽出に用いられている各種オペレータを利用してもよい。
濃度勾配演算部12で演算された濃度勾配情報は、代表点位置判定部13に入力される。代表点位置判定部13は、各ブロックごとに、ブロック内で濃度勾配値が最大となる一画素を代表点と決定する。なお、従来の技術においては、代表点位置判定部13により代表点(a0,b0)を決定するとの本発明に係る処理は行ってはおらず、代表点は例えば各ブロックの中央点(a/2,b/2)として一律に固定していた。
各ブロックにおける代表点の位置(a0,b0)とその輝度値の情報は、代表点メモリ14にブロックごとに記憶される。すなわち、代表点メモリ14では、現在のフレームF(t)の代表点の値が書き込まれる。また、現在のフレームから一つ前のフレームF(t−1)の代表点の値が、差分絶対値演算部15により代表点メモリ14から読み出される。
そして、差分絶対値演算部15は、現在のフレームF(t)の各ブロック内における各画素の輝度値(これをdt (k,l)(a0+i,b0+j)と表す)と、一つ前のフレームF(t−1)の各ブロックにおける代表点メモリ14に記憶された代表点の輝度値(これをdt-1 (k,l)(a0,b0)と表す)との差分絶対値(これをp(k,l)(i,j)と表す)を演算する。
すなわち、差分絶対値演算部15では、前フレームF(t−1)の代表点と代表点から(i,j)だけ離れた現フレームの画素との相関を示す差分絶対値が算出される。画面をa×bの大きさのK×L個のブロックに分割して、各ブロックの中から濃度勾配の大きい画素(a0,b0)を代表点とし、前フレームF(t−1)の第(k,l)ブロックの代表点と現フレームF(t)の同ブロック内の各画素との相関値として、差分絶対値p(k,l)(i,j)が以下の数2のように算出される。
差分絶対値演算部15で算出された各ブロックの相関情報は、相関値メモリ16に入力される。相関値メモリ16は、K×L個のブロックのすべてに亘って、代表点メモリ14に記憶された前フレームF(t−1)の代表点の位置からの各画素の変位ごとに、差分絶対値p(k,l)(i,j)を累積して加算し、加算結果を変位ごとの相関値(これをP(i,j)と表す)として記憶する。すなわち、相関値メモリ16では、(i,j)の変位ごとに全ブロックに渡って差分絶対値p(k,l)(i,j)の値が累積加算され、最終的に、1ブロック分の大きさの平面上における相関分布として、画面全体の相関を示す相関値P(i,j)の情報が得られる。この画面全体の相関値P(i,j)を式で表現すると、
となる。
相関値比較部17は、相関値メモリ16に記憶されたa×bの2次元空間を持つ相関値P(i,j)の中から相関値が最小(すなわち相関が最大)となる変位(i,j)を動きベクトルとして検出する。
次に、従来技術のように代表点の位置を固定する場合と、濃度勾配値の情報に従って代表点の位置を変更する本実施の形態の場合との違いについて説明する。簡単のために、あるブロックが、図7に示すように1次元データとして静止しているとする。代表点の位置が中央の(O)の位置と決定された場合には、このブロックの代表点に基づいて得られる差分絶対値の出力は、図8のようになる。この図8では、代表点(O)の位置以外に、範囲O1に亘って差分絶対値「0」となる領域が広く存在する。
一方、図7のうち濃度勾配の最大値をとる位置(P)を代表点とすると、このブロックの代表点に基づいて得られる差分絶対値の出力は、図9のようになる。この図9では、代表点(P)の位置P1以外では差分絶対値「0」となる領域がなく、差分絶対値「0」となる領域が図8に比べてはるかに少なくなる。
最終的には、他のブロックのデータも累積加算して相関値の最小位置を検出するため、この1ブロックの影響は弱まるものの、最終的な動きベクトル検出に対しては、図8の場合よりも本発明に係る図9の場合の方が、明らかに信頼性の高いデータになる。すなわち、代表点マッチングが容易となる。
すなわち、本実施の形態に係る動きベクトル検出装置によれば、ブロック内の各画素において濃度勾配値を演算する濃度勾配演算部12と、濃度勾配値が所定の条件を満たす一画素を各ブロック内における代表点と決定する代表点位置判定部13と、動きベクトル検出部とを備え、動きベクトル検出部は、代表点位置判定部13により決定された代表点に基づいて、代表点マッチング法により複数のフレーム間の動きベクトルを検出する。よって、代表点の位置を各フレームの各ブロックごとに異ならしめることができ、動きベクトルの検出が困難な、濃度勾配の小さい平坦な画像や、誤動作しやすい繰返しパターンにおいても、誤動作を減らし、正しい動きベクトルを検出することが可能な動きベクトル検出装置を実現することができる。
また、本実施の形態に係る動きベクトル検出装置によれば、所定の条件とは、各ブロック内において濃度勾配値が最大であることを指す。濃度勾配値の最大となる画素を代表点と決定すると、上述のように代表点マッチングが容易となる。よって、動きベクトルを精度よく検出することが可能となる。
また、本実施の形態に係る動きベクトル検出装置によれば、動きベクトル検出部は、代表点メモリ14と、差分絶対値演算部15と、相関値メモリ16と、相関値比較部17とを含む。よって、簡単な装置構成で動きベクトル検出部を構成することができる。
<実施の形態2>
本実施の形態は、実施の形態1に係る動きベクトル検出装置の変形例であって、一度決定された代表点の輝度値に対して相関を有する輝度値の画素が並ぶ方向を検出する勾配方向修正部をさらに備え、方向検出後は、濃度勾配演算部に、濃度勾配値を各ブロック内の各画素において、検出方向の勾配に関して演算させ、代表点位置判定部に、検出方向の濃度勾配値に基づいて各ブロック内における代表点を決定させるようにしたものである。
図10は、本実施の形態に係る動きベクトル検出装置を示す図である。本実施の形態に係る動きベクトル検出装置は、実施の形態1におけるA/D変換器11、濃度勾配演算部12、代表点位置判定部13、代表点メモリ14、差分絶対値演算部15、相関値メモリ16及び相関値比較部17と、それぞれ同様の機能を有するA/D変換器41、濃度勾配演算部42、代表点位置判定部43、代表点メモリ44、差分絶対値演算部45、相関値メモリ46及び相関値比較部47を備える。
本実施の形態に係る動きベクトル検出装置はさらに、一度決定された代表点の輝度値に対して相関を有する輝度値の画素が並ぶ方向を検出する勾配方向修正部を備える。この勾配方向修正部は、具体的には差分絶対値演算部48と、相関値メモリ49と、相関値比較部50と、勾配方向決定部51とを含む。
次に、本実施の形態に係る動きベクトル検出装置の動作を説明する。まず、携帯電話に附属のカメラ等から供給されたアナログ映像信号40はA/D変換器41によりデジタル映像信号に変換された後、濃度勾配演算部42と差分絶対値演算部45,48とに入力される。
濃度勾配演算部42は、実施の形態1の場合と異なり、濃度勾配値を、各ブロック内の各画素において、複数の方向のうちの一方向たる第1方向の勾配に関して演算する。より具体的には、例えば図11〜図18に示すような8方向の微分に相当するオペレータの中からひとつを選択して勾配情報を演算する。なお、図11は左上方向微分の、図12は上方向微分の、図13は右上方向微分の、図14は右方向微分の、図15は右下方向微分の、図16は下方向微分の、図17は左下方向微分の、図18は左方向微分の、各オペレータを示している。ここでは3×3のオペレータとしたが、5×5等のオペレータを用いてもよい。
なお、8方向のオペレータのうちいずれを用いるかは、後述のように勾配方向決定部51からの情報に基づいて選択されるが、最初のオペレータの選択については、例えば右上方向微分のオペレータを用いると設定されておればよい。
濃度勾配演算部42で演算された濃度勾配情報は、代表点位置判定部43に入力される。代表点位置判定部43は、各ブロックごとに、ブロック内で、8方向のうちの一方向たる第1方向の濃度勾配値が最大となる一画素を代表点と決定する。
各ブロックにおける代表点の位置(a1,b1)とその輝度値の情報は、代表点メモリ44にブロックごとに記憶される。すなわち、代表点メモリ44では、現在のフレームF(t)の代表点の値が書き込まれる。また、現在のフレームから一つ前のフレームF(t−1)の代表点の値が、差分絶対値演算部45により代表点メモリ44から読み出される。
そして、差分絶対値演算部45は、現在のフレームF(t)の各ブロック内における各画素の輝度値(これをdt (k,l)(a1+i,b1+j)と表す)と、一つ前のフレームF(t−1)の各ブロックにおける代表点メモリ44に記憶された代表点の輝度値(これをdt-1 (k,l)(a1,b1)と表す)との差分絶対値(これをp(k,l)(i,j)と表す)を演算する。
すなわち、差分絶対値演算部45では、前フレームF(t−1)の代表点と代表点から(i,j)だけ離れた現フレームの画素との相関を示す差分絶対値が算出される。画面をa×bの大きさのK×L個のブロックに分割して、各ブロックの中から濃度勾配の大きい画素(a1,b1)を代表点とし、前フレームF(t−1)の第(k,l)ブロックの代表点と現フレームF(t)の同ブロック内の各画素との相関値として、差分絶対値p(k,l)(i,j)が以下の数4のように算出される。
差分絶対値演算部45で算出された各ブロックの相関情報は、相関値メモリ46に入力される。相関値メモリ46は、K×L個のブロックのすべてに亘って、代表点メモリ44に記憶された前フレームF(t−1)の代表点の位置からの各画素の変位ごとに、差分絶対値p(k,l)(i,j)を累積して加算し、加算結果を変位ごとの相関値(これをP(i,j)と表す)として記憶する。すなわち、相関値メモリ46では、(i,j)の変位ごとに全ブロックに渡って差分絶対値p(k,l)(i,j)の値が累積加算され、最終的に、1ブロック分の大きさの平面上における相関分布として、画面全体の相関を示す相関値P(i,j)の情報が得られる。この画面全体の相関値P(i,j)を式で表現すると、
となる。
相関値比較部47は、相関値メモリ46に記憶されたa×bの2次元空間を持つ相関値P(i,j)の中から相関値が最小(すなわち相関が最大)となる変位(i,j)を動きベクトルとして検出する。
次に、実施の形態1では現れなかった勾配方向修正部、すなわち差分絶対値演算部48、相関値メモリ49、相関値比較部50、勾配方向決定部51の動作について説明する。代表点位置判定部43により画面内のある途中のブロックまたは最後のブロックの代表点が決定されると、次のフレームF(t+1)の相関演算のために代表点メモリ44に書き込まれるとともに、差分絶対値演算部48にも入力される。
そして、差分絶対値演算部48は、現在のフレームF(t)の各ブロック内における各画素の輝度値(これをdt (k,l)(a1+i,b1+j)と表す)と、現在のフレームF(t)の各ブロックにおける代表点位置判定部43により決定された代表点の輝度値(これをdt (k,l)(a1,b1)と表す)との差分絶対値(これをq(k,l)(i,j)と表す)を演算する。
すなわち、差分絶対値演算部48では、前フレームF(t−1)の代表点ではなく、現フレームF(t)の代表点と、現フレームの代表点から(i,j)だけ離れた画素との相関を示す差分絶対値が算出される。画面をa×bの大きさのK×L個のブロックに分割して、各ブロックの中から濃度勾配の大きい画素(a1,b1)を代表点とし、現フレームF(t)の第(k,l)ブロックの代表点と現フレームF(t)の同ブロック内の各画素との相関値として、差分絶対値q(k,l)(i,j)が以下の数6のように算出される。
差分絶対値演算部48で算出された各ブロックの相関情報は、相関値メモリ49に入力される。相関値メモリ49は、K×L個のブロックのすべてまたは一部に亘って、代表点位置判定部43により決定された現フレームF(t)の代表点の位置からの各画素の変位ごとに、差分絶対値q(k,l)(i,j)を累積して加算し、加算結果を変位ごとの相関値(これをQ(i,j)と表す)として記憶する。
この相関値メモリ49に記憶された相関値Q(i,j)の情報は、濃度勾配演算部42における、隣接する次のブロックでの濃度勾配演算時に用いられる8方向オペレータの選択に利用される。この画面途中までの、または画面全部の画面内相関値Q(i,j)を式で表現すると、
となる。
相関値比較部50は、相関値メモリ49に記憶されたa×bの2次元空間を持つ相関値Q(i,j)の中から相関値が代表点の相関値(「0」)に次いで最小(すなわち相関が代表点に次いで最大)となる変位(i,j)を、画面途中までの、あるいは全画面の、画面内の相関の高い位置として検出する。
そして、勾配方向決定部51は、代表点の位置から相関値が代表点の相関値に次いで最小となる変位へと向かう方向を、ブロック毎に、代表点の輝度値に対して相関を有する輝度値の画素が並ぶ方向たる第2方向と決定する。
この第2方向の検出後は、濃度勾配演算部42は、濃度勾配値を、次のブロック内の各画素において、第2方向の勾配に関して演算する。なお、この第2方向の勾配演算の場合も、図11〜図18に示す8方向の微分に相当するオペレータのうちのひとつが選択して用いられる。そして、第2方向の検出後は、代表点位置判定部43は、第2方向の濃度勾配値に基づいて次のブロック内における代表点を決定する。
次に、実施の形態1のように単純に濃度勾配情報に従って代表点の位置を変更する場合と、本実施の形態のように画面内の相関の高い第2方向を検出して、その第2方向の濃度勾配に従って代表点の位置を変更する場合との違いについて説明する。
一般的に、映像の被写体となる壁、柱、机等の濃度変化は線状となって現れる。例えば図19に示すように、線上に(奥行き方向に連続して)大きな濃度勾配がある場合、方向を考慮せずに濃度勾配の強度だけに着目すると、線上の(P)の位置ばかりを検出してしまう。その結果、差分絶対値p(k,l)(i,j)を累積加算した相関値P(i,j)は、図20に示すように、線状に低い値になる。図19では(Q)の位置に輝度のピークがあるため、図20においては位置P2が代表点として望ましいが、図20における相関値P(i,j)では、いずこも線状に低い値となっているので、必ずしも位置P2が代表点として選択されるとは限らない。そのため、代表点を誤検出する可能性がある。
一方、本実施の形態のように、図19のうちの線状に濃度勾配が連続する方向(すなわち図19における奥行き方向であって、この方向が、一度決定された代表点の輝度値に対して相関を有する輝度値の画素が並ぶ方向たる第2方向に相当する)を勾配方向修正部が検出し、その方向の勾配に着目すると、(P)ではなく(Q)の位置を認識することが可能となる。その結果、差分絶対値p(k,l)(i,j)を累積加算した相関値P(i,j)は、図21に示すように、線状の低い値をP2aに示すように引き下げる効果が生じ、動きベクトル検出の精度が向上する。
すなわち、本実施の形態に係る動きベクトル検出装置によれば、勾配方向修正部をさらに備え、勾配方向修正部は、一度決定された代表点の輝度値に対して相関を有する輝度値の画素が並ぶ方向を、第2方向として検出し、第2方向の検出後は、濃度勾配演算部42は、濃度勾配値を、次のブロック内の各画素において、第2方向の勾配に関して演算し、第2方向の検出後は、代表点位置判定部43は、第2方向の濃度勾配値に基づいて次のブロック内における代表点を決定する。画像に線状の成分が含まれる場合、第1方向の濃度勾配値にのみ基づいて代表点を決定した場合には、代表点を誤検出する可能性があるが、勾配方向修正部が第2方向を検出し、第2方向に基づいて代表点を決定することにより、より適切な代表点を決定することが可能となる。よって、正しい動きベクトルをより高い信頼性にて検出することが可能な動きベクトル検出装置が得られる。
また、本実施の形態に係る動きベクトル検出装置によれば、勾配方向修正部は、差分絶対値演算部48と、相関値メモリ49と、相関値比較部50と、勾配方向決定部51とを含む。よって、簡単な装置構成で勾配方向修正部を構成することができる。
<実施の形態3>
本実施の形態は、実施の形態2に係る動きベクトル検出装置の変形例であって、濃度勾配演算部42に代わって差分絶対値演算部を採用し、勾配方向修正部に代わって画素シフト量決定部を採用したものである。
実施の形態2では代表点の輝度値と相関の高い位置を検出して、その方向の勾配情報を評価データとしてフィードバックし、次の代表点を選定する構成としていた。一方、本実施の形態では、代表点の輝度値と相関の高い輝度を有する画素の位置を検出してその位置までの代表点からの差分を直接のシフト量とし、濃度勾配演算部42に代わって採用された差分絶対値演算部にて、演算対象画素の輝度値と、シフト量だけずらした画素における輝度値との差分絶対値が最大となる輝度を有する画素を代表点と決定する。
図22は、本実施の形態に係る動きベクトル検出装置を示す図である。本実施の形態に係る動きベクトル検出装置は、実施の形態2におけるA/D変換器41、代表点メモリ44、差分絶対値演算部45,48、相関値メモリ46,49、相関値比較部47,50と、それぞれ同様の機能を有するA/D変換器71、代表点メモリ74、差分絶対値演算部75,78、相関値メモリ76,79及び相関値比較部77,80を備える。
本実施の形態に係る動きベクトル検出装置はさらに、差分絶対値演算部72と、代表点位置判定部73と、画素シフト部81とを含む。なお、代表点メモリ74、差分絶対値演算部75、相関値メモリ76及び相関値比較部77は、代表点位置判定部73により決定された代表点に基づいて、代表点マッチング法により複数のフレーム間の動きベクトルを検出する機能部たる動きベクトル検出部を構成する。そして、差分絶対値演算部78、相関値メモリ79、相関値比較部80及び画素シフト部81は、ブロック毎に代表点の輝度値に対して相関を有する輝度値の画素の位置と、代表点の位置との差を画素シフト量として検出し、画素シフト量を所定位置として更新する画素シフト量決定部を構成する。
次に、本実施の形態に係る動きベクトル検出装置の動作を説明する。まず、携帯電話に附属のカメラ等から供給されたアナログ映像信号70はA/D変換器71によりデジタル映像信号に変換された後、差分絶対値演算部72と差分絶対値演算部75,78と画素シフト部81とに入力される。
差分絶対値演算部72は、デジタル映像信号の複数のフレームの各々の画面を所定の大きさのブロック(図1のK×L個のブロック)に分割し、各ブロック内の各画素(図1のa×b個の画素)における輝度値と、各画素から所定位置だけずらした画素における輝度値との差分絶対値を演算する。なお、所定位置の情報は、後述のように画素シフト部81からの情報に基づいて更新されるが、最初の所定位置については、例えば(a/2,b/2)と設定されておればよい。
代表点位置判定部73は、各ブロック内において各画素のうち、差分絶対値演算部72にて演算された差分絶対値が最大となる一画素を、各ブロック内における代表点(a2,b2)と決定する。
すなわち、差分絶対値演算部72は、代表点位置を決定するための評価関数として、現フレームF(t)の対象画素と画素シフト部81によって現フレームF(t)の対象画素から所定位置(最初は例えば(a/2,b/2))だけシフトした画素との差分絶対値を演算し、代表点位置判定部73は、差分絶対値演算部72で演算された評価データが最大となる位置を、各ブロック単位で代表点と決定する。
各ブロックにおける代表点の位置(a2,b2)とその輝度値の情報は、代表点メモリ74にブロックごとに記憶される。すなわち、代表点メモリ74では、現在のフレームF(t)の代表点の値が書き込まれる。また、現在のフレームから一つ前のフレームF(t−1)の代表点の値が、差分絶対値演算部75により代表点メモリ74から読み出される。
そして、差分絶対値演算部75は、現在のフレームF(t)の各ブロック内における各画素の輝度値(これをdt (k,l)(a2+i,b2+j)と表す)と、一つ前のフレームF(t−1)の各ブロックにおける代表点メモリ74に記憶された代表点の輝度値(これをdt-1 (k,l)(a2,b2)と表す)との差分絶対値(これをp(k,l)(i,j)と表す)を演算する。
すなわち、差分絶対値演算部75では、前フレームF(t−1)の代表点と代表点から(i,j)だけ離れた現フレームの画素との相関を示す差分絶対値が算出される。画面をa×bの大きさのK×L個のブロックに分割して、各ブロックの中から差分絶対値演算部72にて演算された差分絶対値が最大となる画素(a2,b2)を代表点とし、前フレームF(t−1)の第(k,l)ブロックの代表点と現フレームF(t)の同ブロック内の各画素との相関値として、差分絶対値p(k,l)(i,j)が以下の数8のように算出される。
差分絶対値演算部75で算出された各ブロックの相関情報は、相関値メモリ76に入力される。相関値メモリ76は、K×L個のブロックのすべてに亘って、代表点メモリ74に記憶された前フレームF(t−1)の代表点の位置からの各画素の変位ごとに、差分絶対値p(k,l)(i,j)を累積して加算し、加算結果を変位ごとの相関値(これをP(i,j)と表す)として記憶する。すなわち、相関値メモリ76では、(i,j)の変位ごとに全ブロックに渡って差分絶対値p(k,l)(i,j)の値が累積加算され、最終的に、1ブロック分の大きさの平面上における相関分布として、画面全体の相関を示す相関値P(i,j)の情報が得られる。この画面全体の相関値P(i,j)を式で表現すると、
となる。
相関値比較部77は、相関値メモリ76に記憶されたa×bの2次元空間を持つ相関値P(i,j)の中から相関値が最小(すなわち相関が最大)となる変位(i,j)を動きベクトルとして検出する。
次に、実施の形態2の勾配方向修正部に代わって設けられた画素シフト量決定部、すなわち差分絶対値演算部78、相関値メモリ79、相関値比較部80及び画素シフト部81の動作について説明する。代表点位置判定部73により画面内のある途中のブロックまたは最後のブロックの代表点が決定されると、次のフレームF(t+1)の相関演算のために代表点メモリ74に書き込まれるとともに、差分絶対値演算部78にも入力される。
そして、差分絶対値演算部78は、現在のフレームF(t)の各ブロック内における各画素の輝度値(これをdt (k,l)(a2+i,b2+j)と表す)と、現在のフレームF(t)の各ブロックにおける代表点位置判定部73により決定された代表点の輝度値(これをdt (k,l)(a2,b2)と表す)との差分絶対値(これをq(k,l)(i,j)と表す)を演算する。
すなわち、差分絶対値演算部78では、前フレームF(t−1)の代表点ではなく、現フレームF(t)の代表点と、現フレームの代表点から(i,j)だけ離れた画素との相関を示す差分絶対値が算出される。画面をa×bの大きさのK×L個のブロックに分割して、各ブロックの中から差分絶対値演算部72にて演算された差分絶対値が最大となる画素(a2,b2)を代表点とし、現フレームF(t)の第(k,l)ブロックの代表点と現フレームF(t)の同ブロック内の各画素との相関値として、差分絶対値q(k,l)(i,j)が以下の数10のように算出される。
差分絶対値演算部78で算出された各ブロックの相関情報は、相関値メモリ79に入力される。相関値メモリ79は、K×L個のブロックのすべてまたは一部に亘って、代表点位置判定部73により決定された現フレームF(t)の代表点の位置からの各画素の変位ごとに、差分絶対値q(k,l)(i,j)を累積して加算し、加算結果を変位ごとの相関値(これをQ(i,j)と表す)として記憶する。
この相関値メモリ79に記憶された相関値Q(i,j)の情報は、差分絶対値演算部72における、隣接する次のブロックでの差分絶対値演算に用いられる所定位置の決定に利用される。この画面途中までの、または画面全部の画面内相関値Q(i,j)を式で表現すると、
となる。
相関値比較部80は、相関値メモリ79に記憶されたa×bの2次元空間を持つ相関値Q(i,j)の中から相関値が代表点の相関値(「0」)に次いで最小(すなわち相関が代表点に次いで最大)となる変位(i,j)を、画面途中までの、あるいは全画面の、画面内の相関の高い位置として検出する。
そして、画素シフト部81は、ブロック毎に、代表点の位置からの相関値が代表点に次いで最小となる変位を、画素シフト量として検出し、画素シフト量を、差分絶対値演算部72にて用いられる画素のずらし量たる所定位置として更新する。そして、更新後の所定位置の情報を差分絶対値演算部72に入力する。
この所定位置の更新後は、差分絶対値演算部72は、(a/2,b/2)だけずらした画素ではなく、更新後の所定位置だけずらした画素における輝度値に基づいて差分演算値を、次のブロック内の各画素において演算する。そして、代表点位置判定部73は、更新後の所定位置だけずらした画素における輝度値に基づいて演算された差分演算値に基づいて、次のブロック内における代表点を決定する。
実施の形態2では画面内の相関の高い位置を検出して、その方向の勾配情報を評価データとしてフィードバックして次の代表点を選定する構成としていたが、この実施の形態3では、画面内の相関の高い位置を検出してその位置そのものを直接のシフト量とした差分絶対値を評価データとしてフィードバックしている。そのため、相関値がより理想的となる代表点を選定することが可能になる。
次に、動きベクトルの検出が非常に困難な、単調かつ繰返しのパターンにおいて、代表点の位置を固定した従来の場合と、この実施の形態3の方法で行った場合のシミュレーション画像を図23〜図27に示す。
図23は、入力画像であって、水平320画素、垂直240画素の8ビットの白黒画像である。この入力画像に対して、それぞれ水平48画素、垂直36画素単位に5×5の合計25個のブロックを設定する。
図24は、各ブロックの中央の白丸の位置(a/2,b/2)に固定して代表点を設定する従来の場合を示す図である。図25は、各ブロックにおける評価データを上書きして、その中で差分絶対値が最大となる白丸の位置を代表点と決定する本実施の形態の場合を示す図である。
相関値の検出範囲を水平64画素、垂直48画素として、図24の固定代表点から得られた相関情報は図26のようになり、図25の代表点位置から得られた相関情報は図27のようになった。図26および図27は、相関情報を8ビットの白黒画像として表現したものであり、理想的には中央点が最小(黒)で中央から離れるほど値が大きく(白く)なるようなすり鉢状であればよい。図26の場合は中央以外にもかなり黒い位置が周期的に存在し、すり鉢状には程遠い形状になっているが、図27ではかなり改善されていることが確認できる。
以上のように、本発明では、従来の固定位置による代表点では動きベクトルを検出するのが困難であった単調な繰返しパターンなどでも動きを検出することが出来る。
すなわち、本実施の形態に係る動きベクトル検出装置によれば、ブロック内の各画素における輝度値と、各画素から所定位置だけずらした画素における輝度値との差分絶対値を演算する差分絶対値演算部72と、ブロック内において各画素のうち差分絶対値が最大となる一画素を、各ブロック内における代表点と決定する代表点位置判定部73と、動きベクトル検出部と、画素シフト量決定部とを備え、動きベクトル検出部は、代表点位置判定部73により決定された代表点に基づいて、代表点マッチング法により複数のフレーム間の動きベクトルを検出する。よって、代表点の位置を各フレームの各ブロックごとに異ならしめることができ、動きベクトルの検出が困難な、濃度勾配の小さい平坦な画像や、誤動作しやすい繰返しパターンにおいても、誤動作を減らし、正しい動きベクトルを検出することが可能な動きベクトル検出装置を実現することができる。また、画素シフト量決定部は、ブロック毎に、一度決定された代表点の輝度値に対して相関を有する輝度値の画素の位置と、代表点の位置との差を画素シフト量として検出し、画素シフト量を所定位置として更新し、所定位置の更新後は、差分絶対値演算部72は、更新後の所定位置だけずらした画素における輝度値に基づいて差分演算値を、次のブロック内の各画素において演算し、所定位置の更新後は、代表点位置判定部73は、更新後の所定位置だけずらした画素における輝度値に基づいて演算された差分演算値に基づいて、次のブロック内における代表点を決定する。画像に線状の成分が含まれる場合等には、代表点を誤検出する可能性があるが、画素シフト量決定部が画素シフト量を所定位置として更新し、差分絶対値が最大となる一画素を代表点として決定することにより、より適切な代表点を決定することが可能となる。よって、正しい動きベクトルをより高い信頼性にて検出することが可能な動きベクトル検出装置が得られる。
また、本実施の形態に係る動きベクトル検出装置によれば、動きベクトル検出部は、代表点メモリ74と、差分絶対値演算部75と、相関値メモリ76と、相関値比較部77とを含む。よって、簡単な装置構成で動きベクトル検出部を構成することができる。
また、本実施の形態に係る動きベクトル検出装置によれば、画素シフト量決定部は、差分絶対値演算部78と、相関値メモリ79と、相関値比較部80と、画素シフト部81とを含む。よって、簡単な装置構成で画素シフト量決定部を構成することができる。
本発明の活用例として、手振れ補正等の従来の用途以外にも、カメラからの映像信号を利用したモーションセンサなどにも適用でき、ゲームや文字入力などの入力インターフェース等にも使用可能になる。
代表点マッチング法の原理を説明する図である。 代表点マッチング法の原理を説明する図である。 実施の形態1に係る動きベクトル検出装置を示すブロック図である。 水平方向ソーベルオペレータを示す図である。 垂直方向ソーベルオペレータを示す図である。 ラプラシアンオペレータを示す図である。 実施の形態1に係る動きベクトル検出装置の効果を示す図である。 実施の形態1に係る動きベクトル検出装置の効果を示す図である。 実施の形態1に係る動きベクトル検出装置の効果を示す図である。 実施の形態2に係る動きベクトル検出装置を示すブロック図である。 左上方向微分のオペレータを示す図である。 上方向微分のオペレータを示す図である。 右上方向微分のオペレータを示す図である。 右方向微分のオペレータを示す図である。 右下方向微分のオペレータを示す図である。 下方向微分のオペレータを示す図である。 左下方向微分のオペレータを示す図である。 左方向微分のオペレータを示す図である。 実施の形態2に係る動きベクトル検出装置の効果を示す図である。 実施の形態2に係る動きベクトル検出装置の効果を示す図である。 実施の形態2に係る動きベクトル検出装置の効果を示す図である。 実施の形態3に係る動きベクトル検出装置を示すブロック図である。 実施の形態3に係る動きベクトル検出装置の効果を示す図である。 実施の形態3に係る動きベクトル検出装置の効果を示す図である。 実施の形態3に係る動きベクトル検出装置の効果を示す図である。 実施の形態3に係る動きベクトル検出装置の効果を示す図である。 実施の形態3に係る動きベクトル検出装置の効果を示す図である。
符号の説明
12,42 濃度勾配演算部、13,43,73 代表点位置判定部、14,44,74 代表点メモリ、15,45,48,72,75,78 差分絶対値演算部、16,46,49,76,79 相関値メモリ、17,47,50,77,80 相関値比較部、51 勾配方向決定部、81 画素シフト部。

Claims (8)

  1. 時間的に連続する複数のフレームで構成される動画像の映像信号から、動きベクトルを代表点マッチング法により検出する動きベクトル検出装置であって、
    前記複数のフレームの各々の画面を所定の大きさのブロックに分割し、各前記ブロック内の各画素において、輝度の勾配値たる濃度勾配値を演算する濃度勾配演算部と、
    各前記ブロック内において各前記画素のうち前記濃度勾配値が所定の条件を満たす一画素を、各前記ブロック内における代表点と決定する代表点位置判定部と、
    動きベクトル検出部と
    を備え、
    前記動きベクトル検出部は、前記代表点位置判定部により決定された前記代表点に基づいて、代表点マッチング法により前記複数のフレーム間の動きベクトルを検出する
    動きベクトル検出装置。
  2. 請求項1に記載の動きベクトル検出装置であって、
    前記所定の条件とは、各前記ブロック内において前記濃度勾配値が最大であることを指す
    動きベクトル検出装置。
  3. 請求項1に記載の動きベクトル検出装置であって、
    前記動きベクトル検出部は、
    代表点メモリと、
    差分絶対値演算部と、
    相関値メモリと、
    相関値比較部と
    を含み、
    前記代表点メモリは、前記代表点位置判定部により決定された前記代表点の位置とその輝度値とを各前記ブロックごとに記憶し、
    前記差分絶対値演算部は、前記複数のフレームのうちの現在のフレームの各前記ブロック内における各前記画素の輝度値と、前記現在のフレームから一つ前のフレームの各前記ブロックにおける前記代表点メモリに記憶された前記代表点の輝度値との差分絶対値を演算し、
    前記相関値メモリは、前記ブロックのすべてに亘って、前記代表点メモリに記憶された前記代表点の位置からの各前記画素の変位ごとに、前記差分絶対値を累積して加算し、加算結果を前記変位ごとの相関値として記憶し、
    前記相関値比較部は、前記相関値が最小となる変位を動きベクトルとして検出する
    動きベクトル検出装置。
  4. 請求項1に記載の動きベクトル検出装置であって、
    勾配方向修正部
    をさらに備え、
    前記濃度勾配演算部は、前記濃度勾配値を、前記ブロック内の各前記画素において、複数の方向のうちの一方向たる第1方向の勾配に関して演算し、
    前記代表点位置判定部は、前記第1方向の前記濃度勾配値に基づいて前記ブロック内における前記代表点を決定し、
    前記勾配方向修正部は、前記代表点の輝度値に対して相関を有する輝度値の画素が並ぶ方向を、第2方向として検出し、
    前記第2方向の検出後は、前記濃度勾配演算部は、前記濃度勾配値を、次の前記ブロック内の各前記画素において、前記第2方向の勾配に関して演算し、
    前記第2方向の検出後は、前記代表点位置判定部は、前記第2方向の前記濃度勾配値に基づいて次の前記ブロック内における前記代表点を決定する
    動きベクトル検出装置。
  5. 請求項4に記載の動きベクトル検出装置であって、
    前記勾配方向修正部は、
    差分絶対値演算部と、
    相関値メモリと、
    相関値比較部と、
    勾配方向決定部と
    を含み、
    前記差分絶対値演算部は、前記複数のフレームのうちの現在のフレームの各前記ブロック内における各前記画素の輝度値と、前記現在のフレームの各前記ブロックにおける前記代表点位置判定部により決定された前記代表点の輝度値との差分絶対値を演算し、
    前記相関値メモリは、前記ブロックのすべてまたは一部に亘って、前記代表点位置判定部により決定された前記代表点の位置からの各前記画素の変位ごとに、前記差分絶対値を累積して加算し、加算結果を前記変位ごとの相関値として記憶し、
    前記相関値比較部は、前記相関値が前記代表点の相関値に次いで最小となる変位を検出し、
    前記勾配方向決定部は、前記代表点の位置から前記相関値が前記代表点の相関値に次いで最小となる前記変位へと向かう方向を、前記ブロック毎に前記第2方向と決定する
    動きベクトル検出装置。
  6. 時間的に連続する複数のフレームで構成される動画像の映像信号から、動きベクトルを代表点マッチング法により検出する動きベクトル検出装置であって、
    前記複数のフレームの各々の画面を所定の大きさのブロックに分割し、各前記ブロック内の各画素における輝度値と、各画素から所定位置だけずらした画素における輝度値との差分絶対値たる、第1差分絶対値を演算する第1差分絶対値演算部と、
    各前記ブロック内において各前記画素のうち前記第1差分絶対値が最大となる一画素を、各前記ブロック内における代表点と決定する代表点位置判定部と、
    動きベクトル検出部と、
    画素シフト量決定部と
    を備え、
    前記動きベクトル検出部は、前記代表点位置判定部により決定された前記代表点に基づいて、代表点マッチング法により前記複数のフレーム間の動きベクトルを検出し、
    前記画素シフト量決定部は、前記ブロック毎に、前記代表点の輝度値に対して相関を有する輝度値の画素の位置と、前記代表点の位置との差を画素シフト量として検出し、前記画素シフト量を前記所定位置として更新し、
    前記所定位置の更新後は、前記第1差分絶対値演算部は、更新後の前記所定位置だけずらした画素における輝度値に基づいて前記第1差分演算値を、次の前記ブロック内の各前記画素において演算し、
    前記所定位置の更新後は、前記代表点位置判定部は、更新後の前記所定位置だけずらした画素における輝度値に基づいて演算された前記第1差分演算値に基づいて、次の前記ブロック内における前記代表点を決定する
    動きベクトル検出装置。
  7. 請求項6に記載の動きベクトル検出装置であって、
    前記動きベクトル検出部は、
    代表点メモリと、
    第2差分絶対値演算部と、
    第1相関値メモリと、
    第1相関値比較部と
    を含み、
    前記代表点メモリは、前記代表点位置判定部により決定された前記代表点の位置とその輝度値とを各前記ブロックごとに記憶し、
    前記第2差分絶対値演算部は、前記複数のフレームのうちの現在のフレームの各前記ブロック内における各前記画素の輝度値と、前記現在のフレームから一つ前のフレームの各前記ブロックにおける前記代表点メモリに記憶された前記代表点の輝度値との第2差分絶対値を演算し、
    前記第1相関値メモリは、前記ブロックのすべてに亘って、前記代表点メモリに記憶された前記代表点の位置からの各前記画素の変位ごとに、前記第2差分絶対値を累積して加算し、加算結果を前記変位ごとの第1相関値として記憶し、
    前記第1相関値比較部は、前記第1相関値が最小となる変位を動きベクトルとして検出する
    動きベクトル検出装置。
  8. 請求項6に記載の動きベクトル検出装置であって、
    前記画素シフト量決定部は、
    第3差分絶対値演算部と、
    第2相関値メモリと、
    第2相関値比較部と、
    画素シフト部と
    を含み、
    前記第3差分絶対値演算部は、前記複数のフレームのうちの現在のフレームの各前記ブロック内における各前記画素の輝度値と、前記現在のフレームの各前記ブロックにおける前記代表点位置判定部により決定された前記代表点の輝度値との第3差分絶対値を演算し、
    前記第2相関値メモリは、前記ブロックのすべてまたは一部に亘って、前記代表点位置判定部により決定された前記代表点の位置からの各前記画素の変位ごとに、前記第3差分絶対値を累積して加算し、加算結果を前記変位ごとの第2相関値として記憶し、
    前記第2相関値比較部は、前記第2相関値が前記代表点の相関値に次いで最小となる変位を検出し、
    前記画素シフト部は、前記ブロック毎に、前記代表点の位置からの前記相関値が前記代表点の相関値に次いで最小となる前記変位を、前記画素シフト量として検出し、前記画素シフト量を前記所定位置として更新する
    動きベクトル検出装置。
JP2006169940A 2006-06-20 2006-06-20 動きベクトル検出装置 Expired - Fee Related JP4804238B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006169940A JP4804238B2 (ja) 2006-06-20 2006-06-20 動きベクトル検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006169940A JP4804238B2 (ja) 2006-06-20 2006-06-20 動きベクトル検出装置

Publications (2)

Publication Number Publication Date
JP2008003674A true JP2008003674A (ja) 2008-01-10
JP4804238B2 JP4804238B2 (ja) 2011-11-02

Family

ID=39008021

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006169940A Expired - Fee Related JP4804238B2 (ja) 2006-06-20 2006-06-20 動きベクトル検出装置

Country Status (1)

Country Link
JP (1) JP4804238B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010093779A (ja) * 2008-07-09 2010-04-22 Marvell World Trade Ltd 動き補償において周期的構造に対処する方法および装置
WO2011006382A1 (zh) * 2009-07-17 2011-01-20 深圳泰山在线科技有限公司 一种基于标志点的动作识别方法及终端设备
JP2014173919A (ja) * 2013-03-07 2014-09-22 Seiko Epson Corp 分光測定装置
JP2015180040A (ja) * 2014-03-18 2015-10-08 パナソニックIpマネジメント株式会社 予測画像生成方法、画像符号化方法、画像復号方法及び予測画像生成装置
JP2020025297A (ja) * 2014-03-18 2020-02-13 パナソニックIpマネジメント株式会社 復号装置、符号化装置、復号方法及び符号化方法
JP2020161142A (ja) * 2019-03-27 2020-10-01 エルジー エレクトロニクス インコーポレイティド 移動ロボットの制御方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61201581A (ja) * 1985-03-04 1986-09-06 Toshiba Corp 動きベクトル検出装置
JPH04151982A (ja) * 1990-10-16 1992-05-25 Sharp Corp 動きベクトル検出装置
JPH0795469A (ja) * 1993-03-03 1995-04-07 Gold Star Co Ltd カムコーダの映像補正装置
JPH09200770A (ja) * 1996-01-17 1997-07-31 Nec Corp 適応動きベクトル補間による動き補償フレーム間予測方法
JPH1098644A (ja) * 1996-09-20 1998-04-14 Sharp Corp 動き検出装置
JP2004343483A (ja) * 2003-05-16 2004-12-02 Acutelogic Corp 手振れ補正装置および方法、手振れ検出装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61201581A (ja) * 1985-03-04 1986-09-06 Toshiba Corp 動きベクトル検出装置
JPH04151982A (ja) * 1990-10-16 1992-05-25 Sharp Corp 動きベクトル検出装置
JPH0795469A (ja) * 1993-03-03 1995-04-07 Gold Star Co Ltd カムコーダの映像補正装置
JPH09200770A (ja) * 1996-01-17 1997-07-31 Nec Corp 適応動きベクトル補間による動き補償フレーム間予測方法
JPH1098644A (ja) * 1996-09-20 1998-04-14 Sharp Corp 動き検出装置
JP2004343483A (ja) * 2003-05-16 2004-12-02 Acutelogic Corp 手振れ補正装置および方法、手振れ検出装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010093779A (ja) * 2008-07-09 2010-04-22 Marvell World Trade Ltd 動き補償において周期的構造に対処する方法および装置
WO2011006382A1 (zh) * 2009-07-17 2011-01-20 深圳泰山在线科技有限公司 一种基于标志点的动作识别方法及终端设备
JP2014173919A (ja) * 2013-03-07 2014-09-22 Seiko Epson Corp 分光測定装置
JP2015180040A (ja) * 2014-03-18 2015-10-08 パナソニックIpマネジメント株式会社 予測画像生成方法、画像符号化方法、画像復号方法及び予測画像生成装置
JP2020025297A (ja) * 2014-03-18 2020-02-13 パナソニックIpマネジメント株式会社 復号装置、符号化装置、復号方法及び符号化方法
JP2020161142A (ja) * 2019-03-27 2020-10-01 エルジー エレクトロニクス インコーポレイティド 移動ロボットの制御方法
US11348276B2 (en) 2019-03-27 2022-05-31 Lg Electronics Inc. Mobile robot control method

Also Published As

Publication number Publication date
JP4804238B2 (ja) 2011-11-02

Similar Documents

Publication Publication Date Title
JP3649242B2 (ja) 携帯電話装置および携帯電話装置の文字入力方法
JP4804238B2 (ja) 動きベクトル検出装置
JP2012230486A (ja) 画像合成装置、画像合成方法及び画像合成プログラム
KR20080033094A (ko) 모션이 보상된 이미지를 위한 보간 방법 및 이 방법의구현을 위한 디바이스
US20160283813A1 (en) Image processing apparatus, image processing method and storage medium to clip a subject region from a moving image
EP1039746A2 (en) Line interpolation method and apparatus
JP5116602B2 (ja) 映像信号処理装置及び方法、プログラム
KR102429337B1 (ko) 이미지를 안정화하는 이미지 처리 장치 및 이미지를 안정화하는 방법
JP4873765B2 (ja) 映像信号処理装置及び映像信号処理方法
JP2009042897A (ja) 画像処理装置及び画像処理方法
US9106926B1 (en) Using double confirmation of motion vectors to determine occluded regions in images
JP2006215655A (ja) 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体
JP5451364B2 (ja) 被写体追跡装置及びその制御方法
JPH04309078A (ja) ビデオデータの動き検出装置および方法
JP4463171B2 (ja) 自己相関値算出方法及び補間画素生成方法、それらの装置並びにそれらのプログラム
JP4250598B2 (ja) 動き補償型ip変換処理装置及び動き補償型ip変換処理方法
CN102007767A (zh) 成像位置确定方法和成像位置确定设备
JP2009266169A (ja) 情報処理装置及び方法、並びにプログラム
JP5409281B2 (ja) 画像処理装置及び画像処理方法
JP6708131B2 (ja) 映像処理装置、映像処理方法及びプログラム
JP2016129281A (ja) 画像処理装置
JP2005286643A (ja) 運動物体自動追尾方法及びその装置
CN115511919B (zh) 视频处理方法、图像检测方法以及装置
US11488291B2 (en) Image processing apparatus for generating a combined image from plural captured images having been subjected to position alignment, and image processing method
JP2008118340A (ja) 動きベクトル検出装置及びビデオ信号処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080718

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080718

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110201

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110809

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110809

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140819

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees