JP3758594B2 - 動きベクトル検出方法と動きベクトル検出装置及びコンピュータ読み取り可能な記録媒体と動きベクトル検出プログラム - Google Patents
動きベクトル検出方法と動きベクトル検出装置及びコンピュータ読み取り可能な記録媒体と動きベクトル検出プログラム Download PDFInfo
- Publication number
- JP3758594B2 JP3758594B2 JP2002095627A JP2002095627A JP3758594B2 JP 3758594 B2 JP3758594 B2 JP 3758594B2 JP 2002095627 A JP2002095627 A JP 2002095627A JP 2002095627 A JP2002095627 A JP 2002095627A JP 3758594 B2 JP3758594 B2 JP 3758594B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- correlation
- value
- motion vector
- candidate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
- Picture Signal Circuits (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
【発明の属する技術分野】
この発明は、動きベクトル検出方法と動きベクトル検出装置及びコンピュータ読み取り可能な記録媒体と動きベクトル検出プログラムに関する。詳しくは、連続する第1及び第2の画像間の動きベクトルを検出する際に、第1の画像内における所定ブロックサイズの基準画像と、第2の画像内に設けた動き探索範囲に含まれると共に位置の異なる複数の所定ブロックサイズの候補画像との相関値をそれぞれ算出して、近接する候補画像の相関値を用いて複数の評価値を算出し、複数の評価値から最も相関の高い評価値を判別して、この最も相関の高い評価値の算出に用いた相関値から最も相関の高い相関値をさらに判別して、この判別された相関値を算出する際に用いた候補画像と、基準画像に基づいて動きベクトルを決定するものである。
【0002】
【従来の技術】
連続した画像間の動きベクトルを求める方法として、例えばブロックマッチング法がある。このブロックマッチング法は、第1の画像を適当な大きさのブロック(例えば8画素×8ライン)に分割して基準画像とし、また、第1の画像と連続する第2の画像(例えば前フレームや前フィールドの画像)から、基準画像と等しい画像サイズの候補画像を取り出して、基準画像と候補画像の誤差を画素毎に検出して積算することにより差分絶対値和を算出する。さらに、候補画像の取り出し位置を動き探索範囲内で移動させて差分絶対値和を順次算出する。その後、算出された複数の差分絶対値和から最も値の小さい差分絶対値和を検出して、この差分絶対値和を算出したときに用いた候補画像の取り出し位置と基準画像との位置ずれが、その基準画像のブロックの動きベクトルを表すものとなる。
【0003】
図8は、従来の動きベクトル検出装置の構成を示している。なお、図8では、動き探索範囲ASを基準画像の位置から例えば水平方向に対して±10画素、垂直方向に対して±10ラインとした場合である。
【0004】
動きベクトル検出装置100のブロック相関値算出部12(-10,-10)は、画像GAを適当な大きさのブロックに分割して得た基準画像Grと、画像GBから取り出した候補画像Gsとの信号レベルの差分絶対値和をブロック相関値D(-10,-10)として算出する。
【0005】
基準画像Grの画像信号Srは、減算器122に供給される。また基準画像Grの位置を示す位置信号SPと画像GBの画像信号SBは、信号抽出器121に供給される。信号抽出器121は、位置信号SPで示された基準画像Grの位置と等しい画像GBの位置P(0,0)を基準として、水平方向に−10画素及び垂直方向に−10ライン分移動した位置P(-10,-10)を設定する。さらに、この位置P(-10,-10)に基づき基準画像Grと等しい画像サイズ分の画像信号を画像信号SBから抽出して、候補画像Gs(-10,-10)の画像信号Ss(-10,-10)として減算器122に供給する。
【0006】
減算器122は、画像信号Srから画像信号Ss(-10,-10)を減算して、対応する画素毎の誤差Eを算出する。絶対値回路123は、減算器122で算出された誤差Eの絶対値を算出して、加算器124に誤差絶対値EAとして供給する。
【0007】
加算器124は、後述する相関値保持回路125から供給された相関値FAと誤差絶対値EAを加算して、加算値EFを相関値保持回路125に供給する。相関値保持回路125は、供給された加算値EFを新たな相関値FAとして保持する。また保持した相関値FAを加算器124に供給する。
【0008】
このように、加算値EFを新たな相関値FAとして保持すると共に、保持した相関値FAを加算器124に供給して、次の画素の誤差絶対値EAと加算することで、相関値FAは、誤差絶対値EAの累積値を示すものとなる。また、誤差絶対値EAを基準画像Grの全画素分加算したときには、相関値保持回路125に保持している相関値FAが、ブロック相関値D(-10,-10)として、相関値格納メモリ14に供給される。
【0009】
ブロック相関値算出部12(-9,-10)〜12(10,10)においても、ブロック相関値算出部12(-10,-10)と同様に、ブロック相関値D(-9,-10)〜D(10,10)を算出して相関値格納メモリ14に供給する。なお、ブロック相関値算出部12(-9,-10)〜12(10,10)の信号抽出器121は、画像GB上の位置P(0,0)から水平方向及び垂直方向に互いに異なる画素数あるいはライン数移動した位置であって、基準画像Grと等しい画像サイズ分の画像信号を画像信号SBから抽出して、候補画像Gsの画像信号Ssを生成する。あるいは、画像GB上の位置P(0,0)から、基準画像Grと等しい画像サイズ分の画像信号を画像信号SBから抽出して候補画像Gsの画像信号Ssを生成する。
【0010】
相関値格納メモリ14は、供給されたブロック相関値D(-10,-10)〜D(10,10)を保持する。この相関値格納メモリ14には、最小位置検出部16が接続されており、最小位置検出部16は、相関値格納メモリ14に格納されているブロック相関値D(-10,-10)〜D(10,10)から最小値を検出して、最小値を算出したブロック相関値算出部12における候補画像の画像信号の取り出し位置と基準画像との位置ずれを、基準画像のブロックの動きベクトルとして出力する。
【0011】
図9は、図8に示す動きベクトル検出装置の動作を図示したものである。ブロック相関値算出部12では、画像GAを適当な大きさのブロックに分割して得た基準画像Grと、画像GBから取り出した候補画像Gsの差分絶対値和であるブロック相関値Dを算出して相関値格納メモリ14に供給する。このとき、画像GBからの候補画像Gsの取り出し位置を動き探索範囲AS内で順次移動させて、各位置のブロック相関値Dを算出する。ここで、動き探索範囲ASを位置P(0,0)から水平方向に±10画素、垂直方向に±10ライン分の範囲としたときには、相関値格納メモリ14に121個のブロック相関値Dが格納されることとなる。
【0012】
最小位置検出部16では、相関値格納メモリ14に記憶されているブロック相関値Dから最小値を検出して、最小値を算出したときの候補画像Gsの位置と基準画像Grの位置P(0,0)に基づいて、動きベクトルMVaを決定する。
【0013】
【発明が解決しようとする課題】
ところで、上述のような動き検出装置を用いる場合、画像の動きが画素単位の動きであるときには、ブロック間の誤差が最も少なくなるブロックを探索することで、動きベクトルを正しく検出できる。しかし、実際の画像の動きでは画素以下の動きも含まれる。このため、単にブロック相関値が最も少なくなる候補画像の取り出し位置を探索するだけでは、動きベクトルを正しく検出することができない場合が生じてしまう。例えば、図10に示す候補画像Gsの取り出し位置P(k)であるときに、候補画像Gsと基準画像Grが最も類似する場合、動きが画素以下であるため取り出し位置P(j)でブロック相関値Dが「L2」よりも小さい「L1」となってしまうと、基準画像の位置P(0)とブロック相関値が最小となる位置P(j)に基づいて動きベクトルが検出されてしまう。このため、正しい動きベクトルを正しく検出することができなくなってしまう。
【0014】
そこで、この発明では、画素以下の動きが画像に含まれていても正しく動きベクトルを検出できる、動きベクトル検出方法と動きベクトル検出装置及びコンピュータ読み取り可能な記録媒体と動きベクトル検出プログラムを提供するものである。
【0015】
【課題を解決するための手段】
この発明に係る動きベクトル検出方法は、連続する第1及び第2の画像間の動きベクトルを検出する動きベクトル検出方法において、第1の画像内における所定ブロックサイズの基準画像と、第2の画像内に設けた動き探索範囲に含まれると共に位置の異なる複数の所定ブロックサイズの候補画像とのブロック間の相関値をそれぞれ算出し、動き探索範囲において近接する複数の候補画像における評価値を、該複数の候補画像それぞれのブロック間の相関値を用いて算出し、複数の候補画像における評価値の中から最も相関の高い複数の候補画像における評価値を判別し、複数の前記候補画像における評価値のうち、最も相関の高い複数の候補画像における評価値の算出に用いたブロック間の相関値から最も相関の高いブロック間の相関値を判別して、該判別されたブロック間の相関値を算出する際に用いた候補画像と、基準画像に基づいて動きベクトルを決定するものである。
【0016】
また、動きベクトル検出装置は、連続する第1及び第2の画像間の動きベクトルを検出する動きベクトル検出装置において、第1の画像内における所定ブロックサイズの基準画像と、第2の画像内に設けた動き探索範囲に含まれると共に位置の異なる複数の所定ブロックサイズの候補画像とのブロック間の相関値をそれぞれ算出する相関値算出手段と、動き探索範囲において近接する複数の候補画像における評価値を、該複数の候補画像それぞれのブロック間の相関値を用いて算出する評価値算出手段と、複数の候補画像における評価値の中から最も相関の高い複数の候補画像における評価値を判別する評価値判別手段と、複数の候補画像における評価値のうち、最も相関の高い複数の候補画像における評価値の算出に用いたブロック間の相関値から最も相関の高いブロック間の相関値を判別して、該判別されたブロック間の相関値を算出する際に用いた候補画像と、基準画像に基づいて動きベクトルを決定する動きベクトル決定手段とを有するものである。
【0017】
また、コンピュータ読み取り可能な記録媒体は、コンピュータに、第1の画像内における所定ブロックサイズの基準画像と、第1の画像と連続する第2の画像内に設けた動き探索範囲に含まれると共に位置の異なる複数の所定ブロックサイズの候補画像とのブロック間の相関値をそれぞれ算出する手順と、動き探索範囲において近接する複数の候補画像における評価値を、該複数の候補画像それぞれのブロック間の相関値を用いて算出する手順と、複数の候補画像における評価値の中から最も相関の高い複数の候補画像における評価値を判別する手順と、複数の候補画像における評価値のうち、最も相関の高い複数の候補画像における評価値の算出に用いたブロック間の相関値から最も相関の高いブロック間の相関値を判別して、該判別されたブロック間の相関値を算出する際に用いた候補画像と、基準画像に基づいて動きベクトルを決定する手順とを実行させるプログラムを記録したものである。
【0018】
さらに、動きベクトル検出プログラムは、コンピュータに、第1の画像内における所定ブロックサイズの基準画像と、第1の画像と連続する第2の画像内に設けた動き探索範囲に含まれると共に位置の異なる複数の所定ブロックサイズの候補画像とのブロック間の相関値をそれぞれ算出する手順と、動き探索範囲において近接する複数の候補画像における評価値を、該複数の候補画像それぞれのブロック間の相関値を用いて算出する手順と、複数の候補画像における評価値の中から最も相関の高い複数の候補画像における評価値を判別する手順と、複数の候補画像における評価値のうち、最も相関の高い複数の候補画像における評価値の算出に用いたブロック間の相関値から最も相関の高いブロック間の相関値を判別して、該判別されたブロック間の相関値を算出する際に用いた候補画像と、基準画像に基づいて動きベクトルを決定する手順とを実行させるものである。
【0019】
この発明においては、連続する第1及び第2の画像間の動きベクトルを検出する際に、第1の画像内における所定ブロックサイズの基準画像と、第2の画像内に設けた動き探索範囲に含まれると共に位置の異なる複数の所定ブロックサイズの候補画像との例えば差分絶対値和が相関値としてそれぞれ算出される。近接する候補画像の相関値が加算されて複数の評価値が算出される。さらに、複数の評価値から最も値の小さい評価値が判別されて、最も値の小さい評価値の算出に用いた相関値から最も値の小さい相関値が判別される。この判別された相関値を算出する際に用いた候補画像の位置と、基準画像の位置に基づいて動きベクトルが決定される。
【0020】
【発明の実施の形態】
以下、図を参照しながら、この発明の実施の一形態について説明する。図1は動きベクトル検出装置10の構成を示している。この動きベクトル検出装置10は、連続する画像GAと画像GBとの画像間の動きベクトルを検出する際に、画像GA内における所定ブロックサイズの基準画像Grと、画像GB内に設けた動き探索範囲ASに含まれると共に位置の異なる複数の所定ブロックサイズの候補画像Gsとの相関値として、例えば絶対値和を用いる場合を示している。なお、図1は、動き探索範囲ASを基準画像の位置から例えば水平方向に対して±10画素、垂直方向に対して±10ラインとしていた場合を示している。また、図1において、図8に示した従来の動きベクトル検出装置と対応する部分については、同一符号を付している。
【0021】
ブロック相関値算出部12(-10,-10)〜12(10,10)は、基準画像Grと候補画像Gsの相関値として誤差絶対値和を算出する。このブロック相関値算出部12(-10,-10)の減算器122には、基準画像Grの画像信号Srが供給される。また信号抽出器121には、基準画像Grの位置を示す位置信号SPと画像GBの画像信号SBが供給される。
【0022】
信号抽出器121は、位置信号SPで示された基準画像Grの位置と等しい画像GB上の位置P(0,0)に対して、水平方向に−10画素及び垂直方向に−10ライン分移動した位置P(-10,-10)を設定する。また、この位置P(-10,-10)に基づき基準画像Grと等しい画像サイズ分の画像信号を画像信号SBから抽出して、候補画像Gsの画像信号Ssとして減算器122に供給する。
【0023】
減算器122は、画像信号Srから画像信号Ss(-10,-10)を減算して、対応する画素毎の誤差Eを算出する。また、絶対値回路123は、誤差Eの絶対値を算出して、加算器124に誤差絶対値EAとして供給する。
【0024】
加算器124は、相関値保持回路125から供給された相関値FAと誤差絶対値EAを加算して、加算値EFを相関値保持回路125に供給する。相関値保持回路125は、供給された加算値EFを新たな相関値FAとして保持すると共に、保持した相関値FAを加算器124に供給して、誤差絶対値EAの累積値を相関値FAとして保持する。さらに、誤差絶対値EAを基準画像Grの全画素分加算したときには、保持している相関値FA、すなわち誤差絶対値和をブロック相関値D(-10,-10)として、相関値格納メモリ14に供給する。
【0025】
ブロック相関値算出部12(-9,-10)〜12(10,10)においても、ブロック相関値算出部12(-10,-10)と同様に、ブロック相関値D(-9,-10)〜D(10,10)を算出して相関値格納メモリ14に供給する。なお、ブロック相関値算出部12(-9,-10)〜12(10,10)の信号抽出器121は、画像GBの画像信号から動き探索範囲内であると共に互いに異なる位置の画像信号を抽出して、候補画像Gsの画像信号Ssを生成する。
【0026】
相関値格納メモリ14は、供給されたブロック相関値D(-10,-10)〜D(10,10)を保持する。この相関値格納メモリ14には、評価値算出手段である相関値加算部18と、動きベクトル決定部22が接続されている。
【0027】
相関値加算部18は、近接する候補画像のブロック相関値Dを加算して評価値である加算値DMを算出する。図2は、相関値加算部18の構成を示している。ここで、近接する候補画像のブロック相関値、例えば水平方向に隣接するブロック相関値Dを加算して評価値である加算値DMを算出するものとした場合、相関値加算部18は、水平方向に隣接する例えば3つのブロック相関値Dを加算する加算器181を、水平方向のブロック相関値Dの数に応じて設けるものとする。ここで、動き探索範囲ASが水平方向に±10画素分とされている場合、垂直方向の移動量「yライン(yは垂直方向の探索範囲内の値)」に対してブロック相関値D(-10,y)〜D(10,y)が相関値格納メモリ14に格納される。このため、ブロック相関値D(-10,y),D(-9,y),D(-8,y)を加算する加算器181(-9)、ブロック相関値D(-9,y),D(-8,y),D(-7,y)を加算する加算器181(-8)、・・・、ブロック相関値D(8,y),D(9,y),D(10,y)を加算する加算器181(9)を設ける。
【0028】
加算器181(-9)で算出された加算値DM(-9,y)、加算器181(-8)で算出された加算値DM(-8,y)、・・・、加算器181(9)で算出された加算値DM(9,y)は評価値判別手段である最小加算値判別部20に供給される。また、相関値加算部18に対して、±10ラインの移動範囲のブロック相関値Dを順次供給することにより、ブロック相関値D(-10,-10)〜D(10,10)に基づいて算出した加算値DM(-9,-10)〜DM(9,10)を最小加算値判別部20に供給できる。
【0029】
最小加算値判別部20は、最も相関の高い評価値を判別する。ここで、評価値は、誤差絶対値和を示すブロック相関値Dを加算したものであることから、最も相関の高い評価値として、供給された加算値DM(-9,-10)〜DM(9,10)から最も値が小さい加算値を判別する。この最小加算値判別部20で、最も値の小さい加算値を判別したときには、この最も値の小さい加算値DMminを示す判別結果信号SDMを生成して動きベクトル決定部22に供給する。
【0030】
動きベクトル決定部22は、判別結果信号SDMに基づき、相関値格納メモリ14に格納されているブロック相関値D(-10,-10)〜D(10,10)から、加算値DMminを算出したときに用いたブロック相関値を選択する。また、選択したブロック相関値の中から最も相関の高いブロック相関値を判別する。この場合、上述のようにブロック相関値として誤差絶対値和を用いていることから、最も相関の高い相関値として、値が小さいブロック相関値を判別する。さらに、この判別したブロック相関値の算出に用いた候補画像Gsの取り出し位置と基準画像Grの位置P(0,0)に基づいて、動きベクトルMVを決定する。
【0031】
図3は動きベクトル検出装置10の動作を図示したものである。ブロック相関値算出部12では、画像GAを適当な大きさのブロックに分割して得た基準画像Grと、画像GBから取り出した候補画像Gsの差分絶対値和であるブロック相関値Dを算出する。このとき、画像GBから候補画像Gsを取り出す際の取り出し位置を動き探索範囲AS内で順次移動させて、各位置のブロック相関値Dを算出する。なお図3において、基準画像Grは、位置P(0,0)から例えば水平方向に5画素分であると共に垂直方向に4ライン分の画像として図示している。
【0032】
ここで、基準画像Grと等しい位置P(0,0)から水平方向に±10画素、垂直方向に±10ラインの範囲を動き探索範囲としたとき、相関値格納メモリ14には、ブロック相関値D(-10,-10)〜D(10,10)が格納される。
【0033】
相関値加算部18は、水平方向に隣接する例えば3つのブロック相関値Dを加算して1つの加算値DMをする。このため、相関値格納メモリ14に格納されているブロック相関値D(-10,-10)〜D(10,10)に基づき、加算値DM(-9,-10)〜DM(9,10)が生成される。
【0034】
最小加算値判別部20は、算出された加算値DMから最も値の小さい加算値DMminを探索する。ここで、例えば加算値DM(r,s)の値が最も小さいときには、この加算値DM(r,s)を示す判別結果信号SDMを動きベクトル決定部22に供給する。
【0035】
動きベクトル決定部22は、判別結果信号SDMによって示された加算値DM(r,s)を算出する際に用いたブロック相関値D(r-1,s),D(r,s),D(r+1,s)を選択する。また、選択したブロック相関値D(r-1,s),D(r,s),D(r+1,s)から、最も値の小さいブロック相関値、例えばブロック相関値D(r,s)を判別する。このブロック相関値D(r,s)を算出したときの候補画像Gsの取り出し位置P(r,s)が、画像GB上における基準画像Grの移動位置であり、基準画像Grの位置P(0,0)と候補画像Gsの位置P(r,s)から動きベクトルMVを決定できる。
【0036】
図4は、候補画像の取り出し位置に対するブロック相関値Dと加算値DMを示したものである。ここで、候補画像Gsの取り出し位置が位置P(k)で基準画像Grと最も類似する場合、取り出し位置が位置P(k-1)や位置P(k+1)とされても、基準画像Grに対する候補画像Gsの画像ずれは少ないことから、ブロック相関値Dの値も小さくなる。したがって、画像の動きが画素以下で候補画像Gsの取り出し位置P(j)におけるブロック相関値(=L1)が、図4Aに示すように位置P(k)におけるブロック相関値(=L2)よりも小さくなっても、例えば隣接する3つのブロック相関値を加算した加算値DMは、図4Bに示すように、基準画像Grと候補画像Gsが最も類似する部分で小さくなり、位置P(j)に対応する加算値DMjよりも位置P(k)に対応する加算値DMkが小さくなる。このため、最も小さい加算値を算出したときに用いたブロック相関値から、最も値が小さくなるブロック相関値を算出したときの画像取り出し位置が基準画像の移動位置となり、このときの候補画像取り出し位置と基準画像の位置に基づいて動きベクトルMVを正しく決定できる。
【0037】
ところで、上述の実施の形態では、水平方向に隣接する3つのブロック相関値を加算して加算値DMを求めるものとしたが、垂直方向に隣接する3つのブロック相関値を加算しても、同様に処理することで動きベクトルを正しく生成できる。さらに、水平方向あるいは垂直方向だけでなく、近接する周囲の候補画像に基づくブロック相関値も含めて加算値を算出して、この加算値を用いて同様な処理を行うことで動きベクトルを正しく決定できる。
【0038】
図5は、相関値加算部18において、近接する周囲の候補画像に基づくブロック相関値も含めて加算値を算出する場合の動作を説明するための図である。相関値加算部18は、近接する周囲の候補画像に基づくブロック相関値を含めた加算値DMを算出する。例えば1つのブロック相関値D(m,n)と周囲に位置する候補画像に基づくブロック相関値D(m-1,n-1),D(m-1,n),D(m-1,n+1),D(m,n-1),D(m,n+1),D(m+1,n-1),D(m+1,n),D(m+1,n+1)を加算して1つの加算値DMをする。このため、相関値格納メモリ14に格納されているブロック相関値D(-10,-10)〜D(10,10)に基づき、加算値DM(-9,-9)〜DM(9,9)が生成される。
【0039】
最小加算値判別部20は、算出された加算値DMから最も値の小さい加算値DMを探索する。ここで、例えば加算値DM(r,s)の値が最も小さいときには、この加算値DM(r,s)を示す判別結果信号SDMを動きベクトル決定部22に供給する。
【0040】
動きベクトル決定部22は、判別結果信号SDMによって示された加算値DM(r,s)を算出する際に用いたブロック相関値D(r-1,s-1),D(r-1,s),D(r-1,s+1),D(r,s-1),D(r,s),D(r,s+1),D(r+1,s-1),D(r+1,s),D(r+1,s+1)を選択する。また、選択したブロック相関値から、最も値の小さいブロック相関値を決定する。この最も値の小さいブロック相関値を算出したときの候補画像Gsの取り出し位置が基準画像Grを移動したときの位置であり、この位置と基準画像Grの位置P(0,0)に基づき動きベクトルを正しく決定できる。
【0041】
さらに、動きベクトルの検出は、図1に示す動きベクトル検出装置を用いる場合に限られるものではなく、画像信号Srや画像信号SBをコンピュータでソフトウェア処理することによっても動きベクトルを検出できる。この場合の構成を図6に示す。
【0042】
コンピュータは、図6に示すようにCPU(Central Processing Unit)51を内蔵しており、このCPU51にはバス60を介してROM52,RAM53,ハード・ディスク・ドライブ54,入出力インタフェース55が接続されている。さらに、入出力インタフェース55には入力部61や記録媒体ドライブ62,通信部63,信号入力部64,信号出力部65が接続されている。
【0043】
外部装置から命令が入力されたり、キーボードやマウス等の操作手段等を用いて構成された入力部61から命令が入力されると、この命令が入出力インタフェース55を介してCPU51に供給される。
【0044】
CPU51は、ROM52やRAM53あるいはハード・ディスク・ドライブ54に記憶されているプログラムを実行して、供給された命令に応じた処理を行う。さらに、ROM52やRAM53あるいはハード・ディスク・ドライブ54には、動きベクトルを検出するための処理をコンピュータで実行させるための動きベクトル検出プログラムを予め記憶させて、信号入力部64に入力された画像信号に基づいて動きベクトルを検出して、信号出力部65から出力する。また、記録媒体に動きベクトル検出プログラムを記録しておくものとし、記録媒体ドライブ62によって、動きベクトル検出プログラムを記録媒体に記録しあるいは記録媒体に記録されている動きベクトル検出プログラムを読み出してコンピュータで実行するものとしても良い。さらに、通信部63によって、動きベクトル検出プログラムを有線あるいは無線の伝送路を介して送信あるいは受信するものとし、受信した動きベクトル検出プログラムをコンピュータで実行するものとしても良い。
【0045】
図7は、動きベクトル検出プログラムの構成を示すフローチャートである。
【0046】
ステップST1では、動きベクトルの検出のために画像GAの画像信号SAと画像GBの画像信号SBを取得してステップST2に進む。ここで、画像信号SA,SBは、例えば記録媒体ドライブ62に装着された記録媒体を再生して得られた画像信号、通信部63を介して伝送されてきた画像信号、信号入力部64から入力された画像信号等を用いるものとする。
【0047】
ステップST2では、画像GAを適当な大きさのブロックに分割して、画像信号SAから基準画像Grの画像信号Srを取得してステップST3に進む。
【0048】
ステップST3では、画像信号SBから基準画像Grと等しい画像サイズである候補画像Gsの画像信号Ssを抽出してステップST4に進む。
【0049】
ステップST4では、画像信号Srと画像信号Ssを用いて基準画像Grと候補画像Gsとの差分絶対値和を算出することで、ブロック相関値Dを生成する。
【0050】
ステップST5では生成したブロック相関値Dを相関値格納メモリに格納する。この相関値格納メモリとしては、例えばRAM53やハード・ディスク・ドライブ54等を用いるものとする。
【0051】
ステップST6では、ブロック相関値Dを動き探索範囲分だけ格納できたか否かを判別する。ここで、相関値格納メモリに動き探索範囲分のブロック相関値を格納できていないときにはステップST7に進み、画像GBから候補画像Gsを取り出す際の取り出し位置を動き探索範囲内の新たな位置に移動して候補画像の切り替えを行い、ステップST3に戻る。
【0052】
このようにステップST3からステップST7までの処理を繰り返すことにより、候補画像Gsの取り出し位置を動き探索範囲内で順次移動させて、動き探索範囲分のブロック相関値Dを相関値格納メモリに格納させることができる。
【0053】
その後、相関値格納メモリに動き探索範囲分のブロック相関値を格納できたときにはステップST6からステップST8に進み、加算値の算出を行う。加算値の算出では、近接した候補画像のブロック相関値を加算することで複数の加算値を生成する。
【0054】
ステップST9では、ステップST8で算出した複数の加算値から値が最小となる最小加算値を判別してステップST10に進む。
【0055】
ステップST10では、判別された最小加算値を算出する際に用いたブロック相関値を選択してステップST11に進む。
【0056】
ステップST11では、選択したブロック相関値から最小のブロック相関値を判別して、この判別したブロック相関値の算出に用いた候補画像の取り出し位置と基準画像の位置に基づいて動きベクトルを決定して処理を終了する。
【0057】
このように、上述の実施の形態によれば、画像内に画素以下の動きが含まれても、基準画像Grと最も類似する候補画像Gsを正しく判別できるので、このときの候補画像の読み出し位置と基準画像の位置に基づき、正しく動きベクトルを検出できる。
【0058】
また、上述の実施の形態では、相関値として誤差絶対値和を算出するものとしたが、例えば基準画像Grと候補画像Gsの相関係数rを相関値として用いることもできる。この場合、基準画像Grと候補画像Gsが類似すると相関係数rは「1」に近づくこととなる。このため、相関係数rを加算して評価値とし、値が最も大きい評価値を算出したときに用いた相関係数rから、最も値の大きい相関係数rを算出したときの候補画像の位置を判別して、このときの候補画像の位置と基準画像の位置から正しく動きベクトルを検出できる。
【0059】
【発明の効果】
この発明によれば、第1の画像内における所定ブロックサイズの基準画像と、第2の画像内に設けた動き探索範囲に含まれると共に位置の異なる複数の所定ブロックサイズの候補画像との相関値をそれぞれ算出し、近接する候補画像の相関値を用いて複数の評価値を算出し、複数の評価値から最も相関の高い評価値を判別して、この最も相関の高い評価値の算出に用いた相関値から最も相関の高い相関値を判別して、判別された相関値を算出する際に用いた候補画像と基準画像に基づいて動きベクトルが決定される。このため、画像内に画素以下の動きが含まれても、動きベクトルを正しく検出できる。
【図面の簡単な説明】
【図1】動きベクトル検出装置の構成を示す図である。
【図2】相関値加算部の構成を示す図である。
【図3】動きベクトル検出装置の動作を示す図である。
【図4】候補画像の位置に対するブロック相関値と加算値を示す図である。
【図5】動きベクトル検出装置の他の動作を示す図である。
【図6】コンピュータを用いた場合の構成を示す図である。
【図7】動きベクトル検出方法を示すフローチャートである。
【図8】従来の動きベクトル検出装置の構成を示す図である。
【図9】従来の動きベクトル検出装置の動作を示す図である。
【図10】候補画像の位置に対するブロック相関値を示す図である。
【符号の説明】
10,100・・・動きベクトル検出部、12・・・ブロック相関値算出部、14・・・相関値格納メモリ、16・・・最小位置検出部、18・・・相関値加算部、20・・・最小加算値判別部、22・・・動きベクトル決定部、121・・・信号抽出器、122・・・減算器、123・・・絶対値回路、124,181・・・加算器、125・・・相関値保持回路
Claims (6)
- 連続する第1及び第2の画像間の動きベクトルを検出する動きベクトル検出方法において、
前記第1の画像内における所定ブロックサイズの基準画像と、前記第2の画像内に設けた動き探索範囲に含まれると共に位置の異なる複数の前記所定ブロックサイズの候補画像とのブロック間の相関値をそれぞれ算出し、
前記動き探索範囲において近接する複数の前記候補画像における評価値を、該複数の前記候補画像それぞれの前記ブロック間の相関値を用いて算出し、
前記複数の前記候補画像における評価値の中から最も相関の高い前記複数の前記候補画像における評価値を判別し、
前記複数の前記候補画像における評価値のうち、最も相関の高い前記複数の前記候補画像における評価値の算出に用いた前記ブロック間の相関値から最も相関の高い前記ブロック間の相関値を判別して、該判別された前記ブロック間の相関値を算出する際に用いた前記候補画像と、前記基準画像に基づいて動きベクトルを決定する
ことを特徴とする動きベクトル検出方法。 - 前記基準画像と前記候補画像との差分絶対値和を前記ブロック間の相関値とし、
前記複数の前記候補画像における評価値は該複数の前記候補画像それぞれの前記ブロック間の相関値を加算して算出するものとし、
前記複数の前記候補画像における評価値の中から最小の評価値を判別し、
前記最も相関の高い前記複数の前記候補画像における評価値として最小の評価値を判別すると共に、前記最も相関の高い前記ブロック間の相関値として前記最も相関の高い前記複数の前記候補画像における評価値の算出に用いた前記ブロック間の相関値の中から最小の評価値を判別する
ことを特徴とする請求項1記載の動きベクトル検出方法。 - 連続する第1及び第2の画像間の動きベクトルを検出する動きベクトル検出装置において、
前記第1の画像内における所定ブロックサイズの基準画像と、前記第2の画像内に設けた動き探索範囲に含まれると共に位置の異なる複数の前記所定ブロックサイズの候補画像とのブロック間の相関値をそれぞれ算出する相関値算出手段と、
前記動き探索範囲において近接する複数の前記候補画像における評価値を、該複数の前記候補画像それぞれの前記ブロック間の相関値を用いて算出する評価値算出手段と、
前記複数の前記候補画像における評価値の中から最も相関の高い前記複数の前記候補画像における評価値を判別する評価値判別手段と、
前記複数の前記候補画像における評価値のうち、最も相関の高い前記複数の前記候補画像における評価値の算出に用いた前記ブロック間の相関値から最も相関の高い前記ブロック間の相関値を判別して、該判別された前記ブロック間の相関値を算出する際に用いた前記候補画像と、前記基準画像に基づいて動きベクトルを決定する動きベクトル決定手段とを有する
ことを特徴とする動きベクトル検出装置。 - 前記相関値算出手段は、前記基準画像と前記候補画像との差分絶対値和を前記ブロック間の相関値として算出し、
前記評価値算出手段は、前記複数の前記候補画像それぞれの前記ブロック間の相関値を加算して前記複数の前記候補画像における評価値を算出するものとし、
前記評価値判別手段は、前記複数の前記候補画像における評価値の中から最小の評価値を判別し、
前記動きベクトル決定手段は、前記最も相関の高い前記複数の前記候補画像における評価値として最小の評価値を判別すると共に、前記最も相関の高い前記ブロック間の相関値として前記最も相関の高い前記複数の前記候補画像における評価値の算出に用いた前記ブロック間の相関値の中から最小の評価値を判別する
ことを特徴とする請求項3記載の動きベクトル検出装置。 - コンピュータに、
第1の画像内における所定ブロックサイズの基準画像と、前記第1の画像と連続する第2の画像内に設けた動き探索範囲に含まれると共に位置の異なる複数の前記所定ブロックサイズの候補画像とのブロック間の相関値をそれぞれ算出する手順と、
前記動き探索範囲において近接する複数の前記候補画像における評価値を、該複数の前記候補画像それぞれの前記ブロック間の相関値を用いて算出する手順と、
前記複数の前記候補画像における評価値の中から最も相関の高い前記複数の前記候補画像における評価値を判別する手順と、
前記複数の前記候補画像における評価値のうち、最も相関の高い前記複数の前記候補画像における評価値の算出に用いた前記ブロック間の相関値から最も相関の高い前記ブロック間の相関値を判別して、該判別された前記ブロック間の相関値を算出する際に用いた前記候補画像と、前記基準画像に基づいて動きベクトルを決定する手順とを実行させるプログラムを記録した
ことを特徴とするコンピュータ読み取り可能な記録媒体。 - コンピュータに、
第1の画像内における所定ブロックサイズの基準画像と、前記第1の画像と連続する第2の画像内に設けた動き探索範囲に含まれると共に位置の異なる複数の前記所定ブロックサイズの候補画像とのブロック間の相関値をそれぞれ算出する手順と、
前記動き探索範囲において近接する複数の前記候補画像における評価値を、該複数の前記候補画像それぞれの前記ブロック間の相関値を用いて算出する手順と、
前記複数の前記候補画像における評価値の中から最も相関の高い前記複数の前記候補画像における評価値を判別する手順と、
前記複数の前記候補画像における評価値のうち、最も相関の高い前記複数の前記候補画像における評価値の算出に用いた前記ブロック間の相関値から最も相関の高い前記ブロック間の相関値を判別して、該判別された前記ブロック間の相関値を算出する際に用いた前記候補画像と、前記基準画像に基づいて動きベクトルを決定する手順とを実行させる
ことを特徴とする動きベクトル検出プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002095627A JP3758594B2 (ja) | 2002-03-29 | 2002-03-29 | 動きベクトル検出方法と動きベクトル検出装置及びコンピュータ読み取り可能な記録媒体と動きベクトル検出プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002095627A JP3758594B2 (ja) | 2002-03-29 | 2002-03-29 | 動きベクトル検出方法と動きベクトル検出装置及びコンピュータ読み取り可能な記録媒体と動きベクトル検出プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003298876A JP2003298876A (ja) | 2003-10-17 |
JP3758594B2 true JP3758594B2 (ja) | 2006-03-22 |
Family
ID=29387267
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002095627A Expired - Fee Related JP3758594B2 (ja) | 2002-03-29 | 2002-03-29 | 動きベクトル検出方法と動きベクトル検出装置及びコンピュータ読み取り可能な記録媒体と動きベクトル検出プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3758594B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3474510B2 (ja) | 2000-02-29 | 2003-12-08 | 株式会社東芝 | ディジタル放送送信装置、その受信方法および受信装置 |
JP4882956B2 (ja) * | 2007-10-22 | 2012-02-22 | ソニー株式会社 | 画像処理装置および画像処理方法 |
-
2002
- 2002-03-29 JP JP2002095627A patent/JP3758594B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003298876A (ja) | 2003-10-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20230077355A1 (en) | Tracker assisted image capture | |
CN100366051C (zh) | 图像处理设备和方法 | |
EP2180695B1 (en) | Apparatus and method for improving frame rate using motion trajectory | |
JP5445467B2 (ja) | クレジット情報区間検出方法、クレジット情報区間検出装置及びクレジット情報区間検出プログラム | |
JP2008269471A (ja) | 類似画像判定装置と類似画像判定方法およびプログラムと記録媒体 | |
JP2011141824A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP3200784B2 (ja) | 動画像検索方法及び装置 | |
JP4496992B2 (ja) | 動物体アップフレーム検出方法及びプログラム及びプログラムを格納した記憶媒体及び動物体アップショット検出方法及び動物体アップフレームあるいはショット検出方法及びプログラム及びプログラムを格納した記憶媒体 | |
JP2005528708A (ja) | 現動きベクトルを推定するユニット及び方法 | |
JP4626158B2 (ja) | 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム | |
JP2005535028A (ja) | セグメント化のためのシステムおよびセグメント化方法 | |
JP4496595B2 (ja) | 画像処理装置および画像処理方法、並びに記録媒体 | |
JP3758594B2 (ja) | 動きベクトル検出方法と動きベクトル検出装置及びコンピュータ読み取り可能な記録媒体と動きベクトル検出プログラム | |
JP4525064B2 (ja) | 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム | |
US7522748B2 (en) | Method and apparatus for processing image data and semiconductor storage device | |
CN101640800A (zh) | 运动向量检测设备、运动向量检测方法和程序 | |
JP4622264B2 (ja) | 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム | |
JP3175914B2 (ja) | 画像符号化方法および画像符号化装置 | |
JP2006215655A (ja) | 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体 | |
JP4622265B2 (ja) | 動きベクトル検出装置、および動きベクトル検出方法、並びにプログラム | |
JP4133246B2 (ja) | 画像変形情報生成装置、画像変形情報生成方法及び画像変形情報生成プログラム | |
JP4207764B2 (ja) | 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム | |
WO2016142965A1 (ja) | 映像処理装置、映像処理方法及び映像処理プログラムを記憶する記録媒体 | |
JP5470529B2 (ja) | 動き検出装置、動き検出方法及び動き検出プログラム | |
JP2009267726A (ja) | 動画像符号化装置、録画装置、動画像符号化方法、動画像符号化プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050317 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050913 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051111 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20051213 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20051226 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100113 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100113 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110113 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120113 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130113 Year of fee payment: 7 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |