JPH1175192A - 動きベクトル探索方法および動きベクトル探索装置ならびに動きベクトル探索プログラムを記憶した記憶媒体 - Google Patents

動きベクトル探索方法および動きベクトル探索装置ならびに動きベクトル探索プログラムを記憶した記憶媒体

Info

Publication number
JPH1175192A
JPH1175192A JP15501598A JP15501598A JPH1175192A JP H1175192 A JPH1175192 A JP H1175192A JP 15501598 A JP15501598 A JP 15501598A JP 15501598 A JP15501598 A JP 15501598A JP H1175192 A JPH1175192 A JP H1175192A
Authority
JP
Japan
Prior art keywords
motion vector
search
template
pixel
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP15501598A
Other languages
English (en)
Other versions
JP3155509B2 (ja
Inventor
Toshihiro Minami
俊宏 南
Toshio Kondo
利夫 近藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP15501598A priority Critical patent/JP3155509B2/ja
Publication of JPH1175192A publication Critical patent/JPH1175192A/ja
Application granted granted Critical
Publication of JP3155509B2 publication Critical patent/JP3155509B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】 【課題】動画像中に動きの大きな領域と動きの小さな領
域が混在する場合であっても、動きの小さな領域につい
ては探索範囲を狭くして動きベクトルのばらつきを抑
え、動きの大きな領域においては探索範囲を広くするこ
とによって正確に動きベクトルを求める探索手段を提供
することを目的とする。 【解決手段】画素ブロックを1個以上含む大きさの第1
の領域を想定し、第1の領域を構成する画素の画素値と
テンプレートを構成する画素の画素値との間で、動きベ
クトル探索演算を行う第1のステップと、演算結果が所
定の条件を満足する場合には、演算結果から動きベクト
ルを求め、一方、演算結果が所定の条件を満足しない場
合には、第1の領域を完全に含む大きさの第2の領域を
想定し、第2の領域を構成する画素の画素値とテンプレ
ートを構成する画素の画素値との間で、動きベクトル探
索演算を行って動きベクトルを求める第2のステップと
を含んでいる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、国際標準規格であ
るMPEG1, MPEG2, H261,H263等
の画像符号化アルゴリズムで用いられ、ある動画像中の
画素ブロックが他の動画像中のどの位置から動いてきた
かをベクトルで表現する動きベクトルを探索するための
技術に関する。
【0002】
【従来の技術】以下、模式的説明図を参照して従来の各
種の動きベクトル探索方法について説明する。図1は、
動きベクトルを求める対象であるテンプレート1と、動
きベクトルの探索範囲である探索領域2を模式的に示し
たもので、テンプレート1は、ある画像中の画素ブロッ
ク、探索領域2は、テンプレート1より大きな、他の画
像中の画素ブロックである。また、図中、△3は、テン
プレート1を構成する画素、○4は、探索領域2を構成
する画素である。
【0003】図1では、探索領域2の上にテンプレー卜
1を重ねて示しているので、重なり部分の探索領域中の
画素○4は表示していない。なお、以下、水平方向の画
素数の単位を「画素」、垂直方向の画素数の単位をライ
ンと称する。したがって、図1に示すテンプレー卜1は
4画素×4ライン、探索領域2は、11画素×11ライ
ンである。
【0004】さて、テンプレート1に対する動きベクト
ルを探索するための従来の第1の手法である「全探索
法」について説明する。この手法では、探索領域2か
ら、テンプレート1と同じ大きさの4画素×4ラインの
領域を順次切り出し、この切り出した領域の各画素の画
素値と、テンプレート1の対応する画素の画素値との間
で、順次、差分絶対値や差分二乗値等を求めていって、
この求めた値の各画素についての総和を、切り出した領
域毎に求めていく。
【0005】すなわち、探索領域2において、左上から
右下に渡って、4画素×4ラインの領域を1画素または
1ラインずつづらしていくと、探索領域2は、11画素
×11ラインであるので、合計8×8=64個の領域
が、テンプレート1との間で演算(差分絶対値や差分二
乗値等を求める演算)を行う対象となる。そして、演算
結果が最小となる領域から、このテンプレート1が移動
してきたものとして動きベクトルを求める。
【0006】図1において、テンプレー卜1に対応する
位置の画素ブロックの動きベクトルを(0,0)とする
と、動きベクトルがとりうる値の範囲は、水平方向、垂
直方向ともに「−4〜+3」である。これは、図1を参
照すれば分かるように、テンプレー卜1が、水平方向及
び垂直方向の夫々において、一方側に3画素(または3
ライン)分、他方側に4画素(または4ライン)分、移
動しうることによる。
【0007】そして、例えば、領域5の演算値(差分絶
対値和、差分二乗値和等)が最小であった場合、図1を
参照すると、その動きベクトルは(2,2)となる。以
上が動きベクトルを求める原理説明であるが、図2の模
式図を参照して、この動きベクトル探索を一般化したも
のについて説明する。
【0008】ある画像中のテンプレート6の大きさをa
画素×bライン、他の画像中における探索領域7の大き
さをc画素×dライン(c≧a、d≧b)、テンプレー
ト6に対応した探索領域7の中心の画素ブロックの動き
ベクトルを「(0,0)」とすると、動きベクトルがと
りうる値の範囲は、「水平方向:−(c−a)/2〜
(c−a)/2+1、垂直方向:−(d−b)/2〜
(d−b)/2+1」であり、「(c−a+1)×(d
−b+1)個」の動きベクトルを評価する必要がある。
因みに、図2に示した左上角のブロック8の動きベクト
ルは((c−a)/2−1,(d−b)/2−1)、右
下角のブロック9の動きベクトルは(−(c−a)/
2,−(d−b)/2)である。なお、動きベクトルを
求めるための動きベクトル探索演算式として、以下では
差分絶対値和を用いる場合のみについて説明する。もち
ろん、他の演算式として、差分二乗値和等の評価式を用
いることも考えられる。
【0009】さて、このような全探索法を採用すると、
図1の探索領域2を探索するには、64×16=102
4回(16画素からなる1領域を64個切り出す)の差
分絶対値を計算する必要があり、膨大な演算量となるた
め、演算量を削減するために、第2の従来技術として、
まず、サブサンプリングによって得られた縮小画像上で
動きを評価し、次に、その結果得られた動きベクトルを
初期値として、狭い範囲のみでの探索を行う技術も提案
されていた。
【0010】これを図3の模式図を参照して説明する。
図3は、2画素×2ライン当たり1画素サブサンプリン
グするとき、このサブサンプリングで取り出される画素
を模式的に示した図面である。▲10、●11は夫々、
テンプレート1、探索領域2からサブサンプリングされ
る画素を示している。
【0011】まず、サブサンプリングで縮小画像を求
め、元の画像上で初期値周りの「−1〜+1」の範囲を
探索する場合、縮小画像上で16×4=64回(4画素
からなる1領域を16個切り出す)の差分絶対値計算が
必要であり、元の画像上で9×16=144回の差分絶
対値計算が必要である。したがって、演算量の合計は、
208回(64回+144回)となり、全探索法に比べ
ると大幅に演算量が削減される。
【0012】なお、このような縮小画像を用いた動きベ
クトル探索方法については、例えば、「N.Hayasi,T.Kit
ui,L Tamitani,H.Honma,Y.Ooi,T.Miyazaki, K.OobuchI;
“Abiderectional motion compensation LSI with a co
mpact motion estimator”IEICE Trans.Electron,E78-
C,12,pp. 1682-1690,Dec.1995」等の文献に記載されて
いる。
【0013】また、上記技術の拡張として、広大な探索
範囲を実現するために、4画素×2ライン当たり1画
素、または4画素×4ライン当たり1画素サブサンプリ
ングしてさらに解像度を下げた縮小画像上で探索を行う
ことも考えられる。
【0014】また、動画像は、時間的に連続した複数の
画像からなるが、時間的に離れた画像間で動きベクトル
を求める場合には、物体が動く範囲が広くなるため、広
い範囲を探索して動きベクトルを求めなければならない
が、このような場合に演算量を削減するため、第3の従
来技術として、テレスコピック探索法が提案されてい
る。
【0015】このテレスコピック探索法について図4の
模式図を参照して説明する。図4中の画像12、13、
14、15は時間的に連続した4枚の画像であり、画像
15が現在の画像であり、画像12、画像13、およ
び、画像14は夫々、3画面前、2画面前、1画面前の
画像である。矩形ブロック16は、画像12から画像1
3へ動きベクトルmv1で移動しており、同様に、画像
13から画像14、画像14から画像15へ夫々動きベ
クトルmv2、mv3で移動している。このとき、画像
12から画像15への矩形ブロック16の動きベクトル
は「mv1+mv2+mv3」となる。テレスコピック
探索法では、画像12から画像15への動きベクトルを
求めるために、画像15中の矩形ブロック16をテンプ
レートとして最初に画像14中の領域17を探索して動
きベクトルmv3を検出する。このとき、領域17の中
心の動きベクトルは(0,0)である。
【0016】次に、画像13中の領域18を探索して動
きベクトルmv2を検出する。矩形ブロック16の画像
14から画像15への動きベクトルを考量すると、領域
18の中心の動きベクトルはmv3である。最後に、画
像12中の領域19を探索して動きベクトルmv1を検
出する。矩形ブロック16の画像13から画像14への
動きベクトルも考量すると、領域19の中心の動きベク
トルは「mv3+mv2」である。
【0017】このように、この第3の従来技術では、隣
接した画像中の狭い領域で動きベクトルを求め、それを
初期値として次の隣接画像中の狭い領域で動きベクトル
を求めることを繰り返し、時間的に離れた画像間での動
きベクトルの探索を行っていた。なお、演算量を削減す
るために、上述したサブサンプリング法とテレスコピッ
ク探索法を組み合わせることも提案されていて、例え
ば、「K.Suguri,T.Minami,H.Matuda,R.Kusaba,T.Kondo,
R.Kasai,T.Watanabe,H.Sato,N.Shibata,Y.Tashiro,T.Iz
uoka,A.Shimiz,H.Kotera,“A real-time motion estima
tion and compensation LSI with wide search range f
or MPEG2 video encoding,”IEEE J.Solid-State Circu
its,vol. 31, no. 11, pp.1733-1741, Nov.1996」に記
載されている。
【0018】しかしながら、従来、探索精度の最も高い
全探索法を用いても動きベクトルを正確に求めることが
できなかった。そのため、動きの小さな画像と動きの大
きな画像が混在している場合に、動きの大きな画像の画
質を良くするために探索範囲を広くして探索を行うと、
動きの小さな画像では誤検出が生じて動きベクトルが正
確に求まらない確率が高くなっていた。
【0019】また、テンプレートとその周囲のブロック
が一定の方向に平行移動している画像であっても、ノイ
ズ等のため、動きベクトルの誤検出が生じ、探索処理の
結果、テンプレートとその周囲のブロックの動きベクト
ルが同一とはならない(適宜「動きベクトルがばらつ
く」と表現する)という問題があった。この動きベクト
ルのばらつきは符号化効率の低下を引き起こし、動画像
の画質の劣化を招いてしまう。
【0020】さらに、演算量を削減して探索範囲を広く
するために、サブサンプリング法やテレスコピック探索
法を用いると、前者では、画素間引きによる検出精度の
低下が必然的に生じ、また、後者によれば、一旦誤検出
が発生すると、誤検出した動きベクトルに基づいて次の
探索を行うため正確な動きベクトルが求まらず、両者と
も、動きベクトルのばらつきが発生する確率は、全探索
法よりもさらに大きかった。
【0021】
【発明が解決しようとする課題】本発明は、このような
従来の課題を解決するためになされたもので、その目的
は、正確に動きベクトルを探索する手段を提供する点に
あり、より具体的には、動画像中に動きの大きな領域と
動きの小さな領域が混在する場合であっても、動きの小
さな領域については探索範囲を狭くして動きベクトルの
ばらつきを抑え、動きの大きな領域においては探索範囲
を広くすることによって正確に動きベクトルを求める手
段を提供する点にある。
【0022】
【課題を解決するための手段】上記課題を解決するた
め、請求項1記載の動きベクトル探索方法は、注目する
テンプレートと同一の大きさの画素ブロック群の間で所
定の演算により動きを評価し、テンプレートについて動
画像内における動きベクトルを求める方法であって、前
記画素ブロックを1個以上含む大きさの第1の領域を想
定し、この第1の領域を構成する画素の画素値と前記テ
ンプレートを構成する画素の画素値との間で、動きベク
トル探索演算を行う第1のステップと、この演算結果が
所定の条件を満足する場合には、この演算結果から動き
ベクトルを求め、一方、この演算結果が前記所定の条件
を満足しない場合には、前記第1の領域を完全に含む大
きさの第2の領域を想定し、この第2の領域を構成する
画素の画素値と前記テンプレートを構成する画素の画素
値との間で、動きベクトル探索演算を行って動きベクト
ルを求める第2のステップとを含むことを特徴としてい
る。
【0023】請求項2記載の発明は、前記第2のステッ
プにおける探索を、サブサンプリングして作成した縮小
画像上で行うことを特徴としている。また、請求項3記
載の発明は、前記所定の条件を満足することが、前記演
算値として採用した差分絶対値和または差分二乗値和の
いずれかの値が所定値以下になることであることを特徴
としている。また、請求項4記載の発明は、前記所定の
条件を満足することが、前記演算値として採用した差分
絶対値和または差分二乗値和のいずれかの値が所定値以
下になること、および、前記動きベクトル探索演算によ
って動きベクトルが検出されたと想定したとき、この動
きベクトルで示される画素ブロックが前記第1の領域の
周辺部に存在しないことであることを特徴としている。
【0024】また、請求項5記載の発明は、さらに、あ
る動きベクトルを予測しておいて、この予測した動きベ
クトルを、前記第1のステップでの動きベクトル探索演
算の探索初期値とする第3のステップを含むことを特徴
としている。また、請求項6記載の発明は、請求項5に
おいて、さらに、動きベクトル探索演算の探索初期値と
した動きベクトルが検出されやすくなるように、該動き
ベクトルの演算値を予め定められている規則に従って変
換する第4のステップを含むことを特徴としている。
【0025】また、請求項7記載の発明は、請求項5ま
たは6において、前記第3のステップが、予測する動き
ベクトルとして、動きがないことを意味する動きベクト
ル=(0,0)を採用するステップであることを特徴と
している。また、請求項8記載の発明は、請求項5また
は6において、前記第3のステップが、予測する動きベ
クトルとして、前記注目するテンプレートに隣接する、
いずれかのテンプレートに対して求まっている動きベク
トルを採用するステップであることを特徴としている。
【0026】また、請求項9記載の発明は、請求項8に
おいて、前記注目するテンプレートに隣接するテンプレ
ートとして、注目するテンプレートの左隣のテンプレー
トを採用することを特徴としている。また、請求項10
記載の発明は、請求項9において、注目するテンプレー
トの左隣のテンプレートに対する動きベクトルの演算値
の大小に応じて、前記第1ステップの探索を終了するた
めのしきい値を予め定めた規則により変換するか、また
は前記第4のステップにおける変換規則を変更するか、
または、それらの双方を同時に行うことを特徴としてい
る。
【0027】また、請求項11記載の発明は、請求項5
または6において、前記第3のステップが、予測する動
きベクトルとして、前記注目するテンプレートを含む動
画像に対して時間的に過去に存在する他の動画像におい
て、前記注目するテンプレートと対応する位置に存在す
るテンプレートに対する動きベクトルを採用するステッ
プであることを特徴としている。
【0028】また、請求項12記載の動きベクトル探索
方法は、注目するテンプレートと同一の大きさの画素ブ
ロック群の間で所定の演算により動きを評価し、テンプ
レートについて動画像内における動きベクトルを求める
方法であって、動きベクトル=(0,0)を初期値とし
て 動きベクトル=(0,0)の画素ブロックを1個以
上含む大きさの第1の領域を想定し、この第1の領域を
構成する画素の画素値と前記テンプレートを構成する画
素の画素値との間で、動きベクトルの探索演算を行うと
ともに、前記注目するテンプレートに隣接するいずれか
のテンプレートに対して求まっている動きベクトルを初
期値とする第3の領域で前記動きベクトルの探索演算を
行って動きベクトルを探索する第1のステップと、両演
算結果を参照し、予め定められている規則にしたがっ
て、いずれかの演算結果を選択し、この選択した演算結
果が、所定の条件を満足する場合には、この演算結果か
ら動きベクトルを求め、一方、この演算結果が前記所定
の条件を満足しない場合には、前記第1の領域と第3の
領域を完全に含む大きさの第2の領域を想定し、この第
2の領域を構成する画素の画素値と前記テンプレートを
構成する画素の画素値との間で、動きベクトル探索演算
を行って動きベクトルを求める第2のステップとを含む
ことを特徴としている。
【0029】また、請求項13記載の動きベクトル探索
装置は、注目するテンプレートと同一の大きさの画素ブ
ロック群の間で所定の演算により動きを評価し、テンプ
レートについて動画像内における動きベクトルを求める
装置であって、動画像を記憶するための記憶手段と、該
記憶手段の記憶内容を参照して動きベクトル探索を行う
探索処理手段とを備え、この探索処理手段は、前記画素
ブロックを1個以上含む大きさの第1の領域を想定し、
この第1の領域を構成する画素の画素値と前記テンプレ
ートを構成する画素の画素値との間で、動きベクトル探
索演算を行う手段と、この演算結果が所定の条件を満足
する場合には、この演算結果から動きベクトルを求め、
一方、この演算結果が前記所定の条件を満足しない場合
には、前記第1の領域を完全に含む大きさの第2の領域
を想定し、この第2の領域を構成する画素の画素値と前
記テンプレートを構成する画素の画素値との間で、動き
ベクトル探索演算を行って動きベクトルを求める手段と
を含むことを特徴としている。
【0030】また、請求項14記載の動きベクトル探索
装置は、注目するテンプレートと同一の大きさの画素ブ
ロック群の間で所定の演算により動きを評価し、テンプ
レートについて動画像内における動きベクトルを求める
装置であって、動画像を記憶するための記憶手段と、該
記憶手段の記憶内容を参照して動きベクトル探索を行う
探索処理手段とを備え、この探索処理手段は、動きベク
トル=(0,0)を初期値として 動きベクトル=
(0,0)の画素ブロックを1個以上含む大きさの第1
の領域を想定し、この第1の領域を構成する画素の画素
値と前記テンプレートを構成する画素の画素値との間
で、動きベクトルの探索演算を行うとともに、前記注目
するテンプレートに隣接するいずれかのテンプレートに
対して求まっている動きベクトルを初期値する第3の領
域で前記動きベクトルの探索演算を行って動きベクトル
を探索する手段と、両演算結果を参照し、予め定められ
ている規則にしたがって、いずれかの演算結果を選択
し、この選択した演算結果が、所定の条件を満足する場
合には、この演算結果から動きベクトルを求め、一方、
この演算結果が前記所定の条件を満足しない場合には、
前記第1の領域と第3の領域を完全に含む大きさの第2
の領域を想定し、この第2の領域を構成する画素の画素
値と前記テンプレートを構成する画素の画素値との間
で、動きベクトル探索演算を行って動きベクトルを求め
る手段とを含むことを特徴としている。
【0031】また、請求項15記載の動きベクトル探索
装置は、注目するテンプレートと同一の大きさの画素ブ
ロック群の間で所定の演算により動きを評価し、テンプ
レートについて動画像内における動きベクトルを求める
装置であって、前記画素ブロックを1個以上含む大きさ
の第1の領域を想定し、この第1の領域を構成する画素
の画素値と前記テンプレートを構成する画素の画素値と
の間で、動きベクトル探索演算を行う第1の手段と、こ
の演算結果が所定の条件を満足する場合には、この演算
結果から動きベクトルを求め、一方、この演算結果が前
記所定の条件を満足しない場合には、前記第1の領域を
完全に含む大きさの第2の領域を想定し、この第2の領
域を構成する画素の画素値と前記テンプレートを構成す
る画素の画素値との間で、動きベクトル探索演算を行っ
て動きベクトルを求める第2の手段と、前記注目するテ
ンプレートの左隣のテンプレートに対して求まっている
動きベクトルを、前記第1のステップでの動きベクトル
探索演算の探索初期値とする第3の手段と、動きベクト
ル探索演算の探索初期値とした動きベクトルが検出され
やすくなるように、該動きベクトルの演算値を予め定め
られている規則に従って変換する第4の手段とを含むこ
とを特徴としている。
【0032】なお、動きベクトル探索演算としては、公
知のアルゴリズムである、差分絶対値和や差分二乗値和
を求める演算が挙げられる。
【0033】また、上記の動きベクトル探索方法は、例
えば、プログラムとして記憶媒体に記憶しておいて、コ
ンピュータがこのプログラムを読み取って実行するよう
にして実現可能である。
【0034】なお、コンピュータは、例えば、記憶媒体
に記憶されているプログラムにしたがった動作を行うC
PU(中央処理装置)やRAMを有して構成可能であ
り、記憶媒体としては、例えば、CDROM、DVDR
OM等の光記憶媒体、フレキシブルディスク等の磁気記
憶媒体、ICカード、ROM等の半導体記憶媒体、MO
等の光磁気記憶媒体が挙げられる。
【0035】また、上記の動きベクトル探索装置に制御
手段(制御部)を設けた構成にして、この制御手段が探
索処理手段の駆動制御、求めた動きベクトルの装置外部
への出力等を行うようにしてもよい。
【0036】
【発明の実施の形態】以下、本発明の実施形態を図面を
参照しつつ説明する。
【0037】図5は、動きベクトル探索装置100の一
構成例を示すブロック図であり、この動きベクトル探索
装置100は、動画像を記憶するための画像メモリ30
と、動きベクトルの探索を行う探索処理部25と、与え
られた指令に基づいて探索処理部25を駆動制御して、
求めた動きベクトルを装置外部に出力する制御部110
とを有している。
【0038】この動きベクトル探索装置100は、半導
体技術を用いてLSI化することによってハードウエア
のみによって実現することが可能であることはもちろん
のこと、各構成要素を、例えば、動作プログラムを内蔵
するROM等の記憶媒体、動作プログラムにしたがった
動作を行うCPU(中央処理装置)、ワークエリアや記
憶エリアを有するRAM等の電子デバイスで実現するこ
とも可能である。
【0039】すなわち、この動きベクトル探索装置10
0を、記憶媒体に記憶したプログラムにしたがって動作
を行う1台のコンピュータシステムで実現することも可
能である。
【0040】以下、この動きベクトル探索装置100を
使用して動きベクトル探索を行う実施の形態を説明す
る。
【0041】(第1の実施形態)図6は、第1の実施形
態にかかる処理を示すフローチャートであり、まず、こ
のフローチャートで動作概要を説明し、その後、模式的
説明図でこの実施形態にかかる処理を説明する。
【0042】まず、ステップS600において、指令を
与えられた制御部110に起動制御された探索処理部2
5は、画像メモリ30が記憶している動画像の情報を参
照して、テンプレートと同じ大きさの画素ブロックを1
個以上含む大きさを有する第1の領域内での動きベクト
ルの探索を行う。この探索は、テンプレートを構成する
画素と第1の領域を構成する画素との、対応する画素の
画素値に基づいて差分絶対値を求めることや、求めた動
きベクトルで示される画素ブロックが、前記第1の領域
の周辺部に存在しないことを調べる。
【0043】そして、ステップS605において、探索
処理部25は周辺部判定を行って、求めた動きベクトル
で示される画素ブロックが第1の領域の周辺部に存在し
ない場合(OK)には、ステップS610に進み、これ
以外の場合(NG)には、ステップS620に進む。
【0044】ステップS610では、探索処理部25
は、差分絶対値和が、予め定めたしきい値よりも小さい
ものがあると判定した場合(OK)には、この差分絶対
値和に対応する画素ブロックの位置を移動元とした動き
ベクトルを、制御部110を介して出力して処理を終了
し、これ以外の場合(NG)には、ステップS620に
進む。そして、ステップS620では、第1の領域を完
全に含む第2の領域において、探索処理部25は、画像
メモリ30が記憶している動画像の情報を参照して、動
きベクトルの探索を行う。探索処理部25によって探索
された動きベクトルは、制御部110を介して装置外部
に出力される。さらに、ステップS620で得られた動
きベクトルの差分絶対値和が予め定めた第2のしきい値
よりも大きいときは、動きベクトルが検出できなかった
という信号が制御部110を介して出力される。
【0045】なお、もちろん、周辺部判定(S605)
を行わず、ステップS600において、第1の領域で探
索を行った後、直ちにステップS610のしきい値判定
を行う形態も考えられる。この場合には、画質は多少劣
化するが、演算量が減少する。これは、以下で示す第
2、第3、そして、第4の実施形態でも同様である。
【0046】以上の処理を図7の模式図を参照して説明
する。領域21は動きベクトル=(0,0)の、テンプ
レートと同一の大きさ(a画素×bライン)のブロック
20を中心としたe画素×fライン(c≧e≧a、d≧
f≧b)の狭い領域(第1の領域)、領域22は動きベ
クトル=(0,0)のブロック20を中心とし、領域2
1を含むc画素×dラインの広い領域(第2の領域)で
ある。但し、c=e,d=fが同時に成立するときは、
両領域が一致するので除くものとする。
【0047】第1の実施形態では、まず、狭い領域21
内で動きベクトルの探索を行って、その結果、検出され
た動きベクトルで示される画素ブロックが、領域21の
周辺部(領域21の縁部を意味する。;本願における周
辺部の詳細な定義については後述する。)に存在せず、
かつ、該動きベクトルに対する探索演算結果が所定のし
きい値よりも小さい(類似度合い(尤度)が所定のしき
い値よりも高い)ときには、該動きベクトルを正しいと
して探索を終了する。なお、しきい値は探索開始前に設
定しておくことが多いが、探索途中でしきい値を変更す
ることも可能である。
【0048】次に、動きベクトルで示される画素ブロッ
クが領域21の周辺部に存在する場合、または、動きベ
クトルの演算結果が所定のしきい値よりも大きいときに
(尤度が所定のしきい値よりも低いときに)、始めて領
域22を探索する。なお、動きベクトルで示される画素
ブロックが領域21の周辺部に存在する場合に必ず領域
22を探索するのは、領域21の外に正しい動きベクト
ルが存在する可能性が高いためである。
【0049】ここで、動きベクトルで示される画素ブロ
ックが領域の周辺部に存在するとはいかなることかを、
図1、図8を参照して説明する。図1の場合、テンプレ
ートの大きさが4画素×4ラインであるため、11画素
×11ラインの探索範囲を64個の画素ブロックに分割
して、各面素ブロックとテンプレートとの間の画素値を
用いた差分絶対値演算により、8×8=64個の動きベ
クトル候補(図8の○と×で表現する)が動きベクトル
空間内で得られるわけである。この場合、この動きベク
トルのうち、動きベクトル空間の周辺部に存在する動き
ベクトル(図8の○で表現する)が検出されたとき、画
素のブロックが領域の周辺部に存在するという。このよ
うな動きベクトルは、領域外にもっと最適な動きベクト
ル、即ち、差分絶対値和がより小さいものが存在する可
能性が高いため、第1の領域の外も探索することとした
ものである。
【0050】この第1の実施形態によれば、動きが小さ
い画像の場合には、領域21の中で動きベクトルが検出
され、必要以上に広い範囲の探索を行うことによって動
きベクトルがばらつくことがない。また、領域21の中
で動きベクトルを検出できなかったときに始めて領域2
2を探索するため、大きな動きも検出できる。
【0051】さらに、領域21の中で動きベクトルが検
出された場合には、狭い範囲の探索のみですむため、演
算量を削減でき、動きベクトル探索装置100を省電力
機能を有した構成とすることも可能になる。
【0052】この第1の実施形態では、第1の領域での
探索に、全探索法またはサブサンプリング法を用い、第
2の領域での探索にサブサンプリング法またはテレスコ
ピック法、あるいは、その両者の組み合わせを用いるよ
うにすればよい。もちろん、いかなる探索アルゴリズム
を用いても良い。
【0053】なお、上記実施形態においては、第1の領
域での探索に対して特に全探索法を用い、第2の領域で
の探索にサブサンプリング法またはテレスコピック法を
用いるようにすることによって、次のような効果を得る
ことができる。すなわち、第1の領域での探索で狭い範
囲を単画素精度で全探索法により詳細に探索し、第2の
領域の探索で広い範囲をサブサンプリング法またはテレ
スコピック探索法により粗く探索することによって、動
きが小さい画像では第1の領域の探索における狭い範囲
の詳細な探索で正確な動きベクトルが検出でき、また、
動きが大きい画像では第2の領域の探索における広い範
囲の探索で動きベクトルを検出できるので大幅な画質の
低下を防ぐことができる。探索精度を粗くすれば、探索
のための演算量が減少するので、ハード量が少なくて済
む。探索精度を単純に粗くすると、画質が大幅に低下す
るが、本発明では動きベクトルが存在する可能性が高い
領域を詳細に探索するため、大幅な画質の低下を防ぐこ
とができる。
【0054】また、第1の実施形態ではテンプレートの
形状として長方形の例だけを示したが、テンプレートの
形状を楕円や菱型等を含む任意の形状としても本発明の
実施に関し何ら問題とならない。同様に、第1の領域と
第2の領域の形状を長方形に限らず任意の形状とするこ
とも可能であり、第1の領域については、第2の領域に
完全に含まれ、かつ、テンプレートが完全に含まれる大
きさにしてあればよい。
【0055】(第2の実施形態)この第2の実施形態
は、まず、動きベクトル予測を行いこれを初期値として
動きベクトル探索を行う点に特徴がある。
【0056】図11(a)は、第2の実施形態にかかる
処理を示すフローチャートであり、まず、このフローチ
ャートで動作概要を説明し、その後、模式的説明図でこ
の実施形態にかかる処理を説明する。
【0057】まず、ステップS1100において、指令
を受けた制御部110は、探索処理部25を駆動制御し
て動きベクトル予測を行う。以下、ステップS600、
605、610、620での処理は、図6での同一ステ
ップでの処理と変わる点がない。
【0058】さて、ステップS1100における処理の
具体例を、図9、図10の模式図で説明する。画像符号
化では画面をテンプレートの大きさに分割し、個々のテ
ンプレートについて動きベクトルを求めるが、図10
に、画面24が「8×6=48(個)」のテンプレート
に分割される場合を示す。また、画面24には物体23
−1が含まれており、物体23−1は、前述した狭い探
索範囲21の外で、かつ、広い探索範囲22の中の範囲
での動きを有して、図面、左上から右下方向へと水平移
動している場合を想定する。
【0059】この場合、物体23−1に完全に含まれて
いる6個のテンプレート43、44、45、51、5
2、53の動きベクトルは同一のはずであるが、第1の
実施形態によれば、これらの動きベクトルは広い探索範
囲22を探索しなければ求めることができない。
【0060】この実施の形態では、第1の領域の探索に
おいて、注目するテンプレートの左隣のテンプレートに
対する動きベクトルと同一の動きベクトルを探索の初期
値として(ステップS1100)、この動きベクトルに
対応するブロック73(a画素×bライン)を中心とす
る狭い探索範囲74(e画素×fライン)を探索する。
具体的には、テンプレート44での動きベクトルの探索
は、テンプレート43の動きベクトル(予測した動きベ
クトル)に対応するブロックを探索の初期値とするよう
に、以下、注目するテンプレートの動きベクトルを求め
る際には、左隣のテンプレートに対する動きベクトルを
探索の初期値としていって、以下、第1の実施形態と同
様な処理を行う。
【0061】その結果、検出された動きベクトルで示さ
れるブロックが領域74の周辺部に存在せず、かつ、動
きベクトルに対する探索演算結果が所定のしきい値より
も小さいときには、該動きベクトルを正しいとして探索
を終了する。なお、しきい値は探索開始前に設定してお
くことが多いが、探索途中でしきい値を変更することも
可能である。動きベクトルで示されるブロックが領域7
4の周辺部に存在する場合、または、動きベクトルの演
算結果が所定のしきい値よりも大きいときに、始めて領
域22を探索する。
【0062】この実施形態は、ステップS1100にお
いて、注目するテンプレートの左隣のテンプレートの動
きベクトルを初期値として、この動きベクトルに対応す
るブロックを中心とする探索範囲を探索する例である
が、注目するテンプレートの右上、下、左上、左下、右
上、および、右下のうちのいずれかの隣接するテンプレ
ートの動きベクトルを初期値として、この動きベクトル
に対応するブロックを中心とする探索範囲を探索しても
良い。ただし、動画像符号化においては動きベクトルの
可変長符号化の際に、注目するテンプレートの左隣のテ
ンプレートに対する動きベクトルとの差分値を符号化す
るため、注目するテンプレートの左隣のテンプレートの
動きベクトルに対するブロック73を中心とする狭い探
索範囲74を探索する場合に符号化効率は最も良くな
る。
【0063】上記実施形態では、動きベクトルが存在す
る可能性が高い領域を予測し、その領域から第1の領域
の探索が開始されている。動きベクトルが存在する可能
性が高い領域としては、動きベクトル=(0,0)の周
辺、左隣のテンプレートの動きベクトルを初期値とし
て、その周辺等が考えられる。特に、第1の領域の探索
を行う領域として左隣のテンプレートの動きベクトルの
周辺を選択すると、隣接テンプレート間における動きベ
クトルの差分が小さくなるため、MPEG1,MPEG
2, H261,H263等の画像符号化アルゴリズム
において可変長符号化された後のビット数が少なくな
り、他の部分に割り当てられるビット数が増加する。そ
の結果、画質が向上するという効果がある。
【0064】また、左隣のテンプレートの動きベクトル
の周辺領域で、当該テンプレートに対する第1の領域の
探索を行う場合、動物体の境界において動きベクトルの
変化が大きいために、第1の領域の探索に失敗したとし
ても、一旦第2の領域の探索により動きベクトルを検出
すれば、その次の隣接テンプレートの動き探索からは第
1の領域の探索で動きベクトルを検出できるようにな
る。このような例として、例えば、背景の中を自動車が
移動する映像が考えられる。このような映像では背景の
部分と自動車の部分の動きベクトルが大きく異なるの
で、第1の領域の探索のみでは、境界で動きベクトルが
大きく変化したとき、動きベクトルを検出できない。そ
こで、第2の領域の探索を行って動きベクトルを検出す
る。そして、その右隣のテンプレートの動きベクトルは
直前の探索で得られた動きベクトルを初期値とすること
により第1の領域の探索のみで検出できる。
【0065】なお、本実施形態においても、まず、狭い
範囲で動きベクトルの探索を行って、次に、広い範囲で
動きベクトルを探索する点では、第1の実施形態と変わ
るところがなく、また、探索法としていがなるものを採
用しても良い。
【0066】また、業務用ディジタルVTRと家庭用V
TRから出力される画像では、含まれているノイズの大
きさにかなり差がある。このように予め画像のノイズの
大小が分かっている場合には、ノイズの大きな画像では
大きなしきい値を設定し、ノイズの小さな画像では小さ
なしきい値を設定することにより符号化効率が向上す
る。あるいは、注目するテンプレートの左隣のテンプレ
ートに対する動きベクトルと同一の動きベクトルを第1
ステップの探索の初期値とした場合には、左隣のテンプ
レートに対する動きベクトルの差分絶対値等の演算値が
大きいときはしきい値を大きくし、該演算値が小さなと
きはしきい値を小さくすること等、画像の状態に合わせ
て、しきい値を変更することにより、符号化効率が向上
する。
【0067】因みに、第1の実施形態は、動きベクトル
を(0,0)と予測して、これを初期値とした動きベク
トル探索を行ったものと言える。
【0068】また、第2の実施形態においても、テンプ
レートの形状を楕円や菱型等を含む任意の形状としても
本発明の実施に関し、何ら問題とならない。同様に、第
1の領域と第2の領域の形状を長方形に限らず任意の形
状とすることも可能であり、第1の領域については、第
2の領域に完全に含まれ、かつ、テンプレートと同じ大
きさの画素ブロックが1個以上含まれる大きさにしてあ
ればよい。
【0069】第1の実施形態及び第2の実施形態のいず
れかにおいて、さらに、第1ステップの狭い範囲の探索
のとき、その中心の差分絶対値等の演算値を予め定めた
方法により変換し、中心が検出されやすくすることがで
きる。この予め定めた方法(規則)とは、例えば、その
中心の演算値から予め定めた値を減算する方法が考えら
れる。このようにすることにより、動きベクトル=
(0,0)を第1ステップの探索の初期値とする場合に
は、ノイズが乗った静止画が入力されても動きベクトル
=(0,0)が検出されやすくなるため、ノイズの影響
を受け難くなる。また、注目するテンプレートの左隣の
テンプレートに対する動きベクトルと同一の動きベクト
ルを第1ステップの探索の初期値とする場合には、左隣
のテンプレートの動きベクトルと同じ動きベクトルが検
出されやすくなる。従って、動きベクトル自体の符号化
効率が高まる。
【0070】さらに、第1ステップの探索を終了するた
めのしきい値を画像の状態に応じて変更したのと同様
に、予め画像のノイズの大小が分かっている場合には、
ノイズの大きな画像では大きな値を減算し、ノイズの小
さな画像では小さな値を減算すること、あるいは注目す
るテンプレートの左隣のテンプレートに対する動きベク
トルと同一の動きベクトルを第1ステップの探索の初期
値とした場合には、左隣のテンプレートに対する動きベ
クトルの演算値が大きいときは大きな値を減算し、該演
算値が小さなときは小さな値を減算すること等、画像の
状態に合わせて、適切な変換方法を採用することによ
り、いっそう、ノイズの影響を受け難くなったり、符号
化効率が向上する。
【0071】(第3の実施形態)この実施形態は、第2
の実施形態同様に、まず、動きベクトル予測を行いこれ
を初期値として動きベクトル探索を行うものであるが、
この実施形態では、時間的に前後するフレーム間の情報
を利用して、初期値を求める点に特徴がある。
【0072】この実施の形態にかかる処理は、図11
(b)で示すフローチャートで示され、第2の実施形態
とは、動きベクトルの予測のためのステップ(ステップ
S1100B;図11(a)のステップS1100に対
応するステップ)における処理の内容が異なり、その他
の処理は変わる点がない。
【0073】具体的には、ステップS1100Bにおい
て、探索処理部25は、注目するテンプレートを含む動
画像に対して時間的に過去に存在する他の動画像におい
て、注目するテンプレートと同じ位置に存在するテンプ
レートに対する動きベクトルを初期値とする。
【0074】これを図12の模式図を参照して説明す
る。図12は、図10において画面24に含まれていた
物体23−1が時間的に1つ前の画面と現画面の間、お
よび、現画面と時間的に1つ後の画面の間を動きベクト
ルmv4で移動しており、1画面前に物体23−0、1
画面後に物体23−2の位置に存在することを想定す
る。
【0075】すると、4個のテンプレート44、45、
52、53は、物体23−1と物体23−2の両方に含
まれるので、現画面における動きベクトルと1画面後に
おける動きベクトルはともにmv4となる。このとき、
mv4が、第1の実施形態における狭い探索範囲21の
外、かつ、広い探索範囲22の中の範囲の動きであると
想定すると、第1の実施形態では、4個のテンプレート
44、45、52、53の動きベクトルは1画面後の探
索の際に広い探索範囲22を探索しなければ検出するこ
とはできないが、この実施の形態では、第1の領域にお
ける探索において動きベクトルを探索しようとするテン
プレートが含まれる画像の、時間的に1つ前の画像にお
いて該テンプレートと対応する位置にあるテンプレート
の動きベクトルを中心とする狭い探索範囲を探索するよ
うにすればよい。
【0076】その結果、検出された動きベクトルで示さ
れるブロックが、狭い探索範囲の周辺部に存在せず、か
つ、動きベクトルに対する探索演算結果が所定のしきい
値よりも小さいときには、該動きベクトルを正しいとし
て探索を終了する。なお、しきい値は探索開始前に設定
しておくことが多いが、探索途中でしきい値を変更する
ことも可能である。動きベクトルで示されるブロックが
領域74の周辺部に存在する場合、または、動きベクト
ルの演算結果が所定のしきい値よりも大きいときに、始
めて領域22を探索する。
【0077】したがって、この第3の実施形態によれ
ば、4個のテンプレート44、45、52、53の1画
面後の動きベクトルのばらつきを抑えることができる効
果は無いが、狭い範囲の探索のみですむ場合には、演算
量を削減でき動きベクトル探索装置を省電力機能を有し
た構成にすることも可能になる。
【0078】また、第3の実施形態においても、テンプ
レートの形状を楕円や菱型等を含む任意の形状としても
本発明の実施に関し、何ら問題とならない。同様に、第
1の領域と第2の領域の形状を長方形に限らず任意の形
状とすることも可能であり、第1の領域については、第
2の領域に完全に含まれ、かつ、テンプレートが完全に
含まれるような大きさにしてあればよい。
【0079】(第4の実施形態)この実施の形態は、最
初に2種類の探索を並列に行って動きベクトルを探索す
る点に特徴がある。
【0080】図14は、第4の実施形態にかかる処理を
示すフローチャートであり、まず、このフローチャート
で動作概要を説明し、その後、模式的説明図でこの実施
形態にかかる処理を説明する。
【0081】なお、ステップS1400およびステップ
S1410と、ステップS1420およびステップS1
430とは、並列に実行される。指令を与えられた制御
部110に起動制御された探索処理部25は、ステップ
S1400において、画像メモリ30が記憶している動
画像の情報を参照して、第1の領域内での動きベクトル
の探索を行う。即ち、動きベクトルを(0,0)とし、
これを中心とする画素ブロック内での動きベクトル探索
演算を行い、その演算結果を予め定めた変換式で変換す
る(変換値a)。
【0082】一方、ステップS1420において、注目
するテンプレートに隣接したいずれか1つの画素ブロッ
クに対する動きベクトルを選択して、その動きベクトル
を初期値とする第3の領域で動きベクトルの探索を行
い、その演算結果を予め定めた変換式で変換する(変換
値b)。なお、両者の変換規則は、動きの大きな画像や
動きの小さな画像等の様々な画像に応じて適切に定めて
おいて、動きベクトルの検出特性を調整可能にしてお
く。
【0083】次に、ステップS1440において、探索
処理部25は、変換値aと変換値bの大小関係を比較し
て、小さな方の変換値(尤度の高い方の値)に対応する
動きベクトルを用いることにする。
【0084】さらに、ステップS605において、探索
処理部25は周辺部判定を行って、求めた動きベクトル
で示される画素ブロックが第1の領域の周辺部に存在し
ない場合(OK)には、ステップS610に進み、これ
以外の場合(NG)には、ステップS620に進む。
【0085】ステップS610において、探索処理部2
5は、差分絶対値和が予め定めたしきい値よりも小さい
ものがあると判定した場合(OK)には、この差分絶対
値和に対応する画素ブロックの位置を移動元とした動き
ベクトルを、制御部110を介して出力して処理を終了
し、これ以外の場合(NG)には、ステップS620に
進む。
【0086】そして、ステップS620では、第1の領
域と第3の領域を完全に含む第2の領域において、探索
処理部25は、画像メモリ30が記憶している動画像の
情報を参照して、動きベクトルの探索を行う。探索され
た動きベクトルは、制御部110を介して装置外部に出
力される。
【0087】図13は模式的説明図であって、領域21
は動きベクトル=(0,0)の、テンプレートと同一の
大きさのブロック20を中心としたe画素×fライン
(r≧e≧a、d≧f≧b)の狭い領域(第1の領
域)、領域74は注目するテンプレートの左隣のテンプ
レートに対する動きベクトルと同一の動きベクトルに対
応するブロック73(a画素×bライン)を中心とした
g画素×hライン(c≧g≧a、d≧h≧b)の狭い領
域(第3の領域)、領域22は動きベクトル=(0,
0)のブロック20を中心とし、領域21と領域74を
含むc画素×dラインの広い領域(第2の領域)であっ
て、まず、第1の領域での探索が行われる。但し、「c
=e,d=fが同時に成立するとき、またはc=g,d
=hが同時に成立するとき」は、第1の領域と第2の領
域、または第3の領域と第2の領域が一致するので除く
ものとする。
【0088】このように、最初に、並列して探索処理を
行うことによって、静止した背景の中を物体が移動して
いく動画像において背景に含まれる領域と物体に含まれ
る領域の両方で動きベクトルの誤検出を少なくすること
ができ探索精度の向上を図れるという効果が得られる。
【0089】なお、第4の実施形態においても、テンプ
レートの形状を楕円や菱型等を含む任意の形状としても
本発明の実施に関し、何ら問題とならない。同様に、第
1の領域と第2および第3の領域の形状を長方形に限ら
ず任意の形状とすることも可能であり、第1と第3の領
域については、第2の領域に完全に含まれ、かつ、テン
プレートと同じ大きさの画素ブロックが完全に含まれる
ような大きさにしてあればよい。
【0090】なお、以上説明してきた各動きベクトルの
探索方法は、探索手順をプログラムとして記憶媒体に記
憶しておき、コンピュータが、このプログラムを読み取
って実行するようにすることによって実現可能である。
もちろん、以上説明してきた処理を実行するゲートアレ
ーを製造して、ハードウエアのみで処理を行う半導体回
路としても実現することも可能である。
【0091】以上説明した各実施形態によれば、動画像
中に動きの大きな領域と動きの小さな領域が混在する場
合、動きの小さな領域については探索範囲を狭くして動
きベクトルのばらつきを抑え、動きの大きな領域におい
ては探索範を広くすることができるという効果が得られ
る。
【0092】また、注目するテンプレートに隣接したい
ずれか一個のテンプレートの動きベクトルを用いること
により、複数のブロックが一定の方向に平行移動してい
て、その動きが大きい場合であっても、求めた動きベク
トルのばらつきを抑えることができるという効果が得ら
れる。さらに、狭い範囲での探索で動きベクトルが得ら
れた場合には、狭い範囲での探索のみでよいため、演算
量を削減でき、動きベクトル探索装置100を省電力機
能を有した構成とすることが可能となる。
【0093】また、動きを検出しようとするテンプレー
トが含まれる画像の時間的に1つ前の画像において該テ
ンプレートと同じ位置にあるテンプレートの動きベクト
ルを用いて、動きベクトル探索をすることによっても、
演算量を削減でき、動きベクトル探索装置を省電力機能
を有した構成とすることが可能となる。本発明は、その
精神または主要な特徴から逸脱することなく、他のいろ
いろな形で実施することができる。そのため、前述の実
施形態は単なる例示にすぎず、限定的に解釈してはなら
ない。本発明の範囲は、特許請求の範囲によって示すも
のであって、明細書本文には、なんら拘束されない。さ
らに、特許請求の範囲の均等範囲に属する変形や変更
は、すべて本発明の範囲内のものとする。
【0094】
【発明の効果】以上説明したように、請求項1記載の発
明によれば、まず、第1の領域を構成する画素の画素値
とテンプレートを構成する画素の画素値との間で、動き
ベクトル探索演算を行い、次に、この演算結果が所定の
条件を満足する場合には、この演算結果から動きベクト
ルを求め、一方、この演算結果が所定の条件を満足しな
い場合には、第2の領域を構成する画素の画素値とテン
プレートを構成する画素の画素値との間で、動きベクト
ル探索演算を行って動きベクトルを求めるので、動きベ
クトルの探索を正確に行えるとともに、第1の領域での
探索のみですむ場合には、動きベクトル探索の演算量が
大幅に低減できるという効果が得られる。
【0095】また、請求項2記載の発明によれば、第1
の領域での探索で狭い範囲を単画素精度で全探索法によ
り詳細に探索し、第2の領域の探索で広い範囲をサブサ
ンプリング法により粗く探索することによって、動きが
小さい画像では第1の領域の探索における狭い範囲の詳
細な探索で正確な動きベクトルが検出でき、また、動き
が大きい画像では第2の領域の探索における広い範囲の
探索で動きベクトルを検出できるので大幅な画質の低下
を防ぐことができる。
【0096】また、請求項3〜4記載の発明によれば、
演算値として採用した差分絶対値和または差分二乗値和
のいずれかの値が所定値以下になること、および、それ
に加えて動きベクトル探索演算によって動きベクトルが
検出されたと想定したとき、この動きベクトルで示され
る画素ブロックが第1の領域の周辺部に存在しないこと
であることを所定の条件としたので、演算が簡素化され
かつより正確に動きベクトルを探索できるという効果が
得られる。
【0097】また、請求項5記載の発明によれば、ある
動きベクトルを予測しておいて、この予測した動きベク
トルを、第1のステップでの動きベクトル探索演算の探
索初期値とするので、探索演算量を削減しつつ探索精度
の向上を図れるという効果が得られる。
【0098】また、請求項6記載の発明によれば、例え
ば、動きベクトル=(0,0)を検出しやすくすること
で、さらに、ノイズが乗った静止画が入力されても動き
ベクトル=(0,0)が検出されやすくなるため、ノイ
ズの影響を受け難くなるという効果がある。
【0099】また、請求項7記載の発明によれば、予測
する動きベクトルとして、動きがないことを意味する動
きベクトル=(0,0)を採用するので、動きの小さな
画像において、一層、探索演算量を削減することが可能
となる。
【0100】また、請求項8記載の発明によれば、予測
する動きベクトルとして、注目するテンプレートに隣接
する、いずれかのテンプレートに対して求まっている動
きベクトルを採用するので、一層、探索演算量を削減し
つつ探索精度の向上を図れるという効果が得られる。
【0101】また、請求項9記載の発明によれば、特
に、左隣のテンプレートの動きベクトルを第1ステップ
の探索の初期値とする場合には、左隣のテンプレートの
動きベクトルと同じ動きベクトルが検出されやすくな
り、動きベクトル自体の符号化効率が高まる効果があ
る。
【0102】また、請求項10記載の発明によれば、さ
らに、画像の状態に合わせて、しきい値を変更すること
により、符号化効率の向上を図ることができる。
【0103】また、請求項11記載の発明によれば、予
測する動きベクトルとして、注目するテンプレートを含
む動画像に対して時間的に過去に存在する他の動画像に
おいて、注目するテンプレートと同じ位置に存在するテ
ンプレートに対する動きベクトルを採用するので、フレ
ーム間等での情報を用いて動きベクトル探索を行えると
いう効果が得られる。
【0104】また、請求項12記載の発明によれば、動
きベクトル=(0,0)を初期値として 動きベクトル
=(0,0)の画素ブロックを1個以上含む大きさの第
1の領域を想定し、この第1の領域を構成する画素の画
素値と前記テンプレートを構成する画素の画素値との間
で、動きベクトルの探索演算を行うとともに、前記注目
するテンプレートに隣接するいずれかのテンプレートに
対して求まっている動きベクトルを初期値とする第3の
領域で前記動きベクトルの探索演算を行って動きベクト
ルを探索し、さらに両演算結果を参照し、予め定められ
ている規則にしたがって、いずれかの演算結果を選択
し、この選択した演算結果が、所定の条件を満足する場
合には、この演算結果から動きベクトルを求めるように
したので、動きベクトルの探索の正確性と、演算量の削
減を同時に図ることができる。
【0105】また、本発明によれば、探索処理手段が、
記憶手段の記憶内容を参照して、第1の領域を構成する
画素の画素値とテンプレートを構成する画素の画素値と
の間で、動きベクトル探索演算を行い、この演算結果が
所定の条件を満足する場合には、この演算結果から動き
ベクトルを求め、一方、この演算結果が所定の条件を満
足しない場合には、第2の領域を構成する画素の画素値
とテンプレートを構成する画素の画素値との間で、動き
ベクトル探索演算を行って動きベクトルを求めるので、
動きベクトルの探索を正確に行えるとともに、第1の領
域での探索のみですむ場合には、動きベクトル探索の演
算量が大幅に低減できる装置を実現できるという効果が
得られる。
【図面の簡単な説明】
【図1】 本発明および従来技術を説明するための模式
的説明図である。
【図2】 従来技術を説明するための模式的説明図であ
る。
【図3】 従来技術を説明するための模式的説明図であ
る。
【図4】 従来技術を説明するための模式的説明図であ
る。
【図5】 本発明の実施形態を示す動きベクトル探索装
置の構成図である。
【図6】 第1の実施形態における処理を示すフローチ
ャートである。
【図7】 第1の実施形態にかかる模式的説明図であ
る。
【図8】 本発明にかかる実施形態を説明する説明図で
ある。
【図9】 本発明の第2の実施形態の模式的説明図であ
る。
【図10】 第2の実施形態の模式的説明図である。
【図11】 図11(a),(b)は、本発明の第2、
3の実施形態における処理を示すフローチャートであ
る。
【図12】 本発明の第3の実施形態の模式的説明図で
ある。
【図13】 本発明の第4の実施形態の模式的説明図で
ある。
【図14】 第4の実施形態における処理を示すフロー
チャートである。
【符号の説明】
1 テンプレート 2 探索領域 5 領域 6 テンプレート 7 探索領域 8 ブロック 9 ブロック 12 画像 13 画像 14 画像 15 画像 16 矩形ブロック 17 領域 18 領域 19 領域 20 ブロック 25 探索処理部 30 画像メモリ 110 制御部

Claims (21)

    【特許請求の範囲】
  1. 【請求項1】 注目するテンプレートと同一の大きさの
    画素ブロック群の間で所定の演算により動きを評価し、
    テンプレートについて動画像内における動きベクトルを
    求める方法であって、 前記画素ブロックを1個以上含む大きさの第1の領域を
    想定し、この第1の領域を構成する画素の画素値と前記
    テンプレートを構成する画素の画素値との間で、動きベ
    クトル探索演算を行う第1のステップと、 この演算結果が所定の条件を満足する場合には、この演
    算結果から動きベクトルを求め、一方、この演算結果が
    前記所定の条件を満足しない場合には、前記第1の領域
    を完全に含む大きさの第2の領域を想定し、この第2の
    領域を構成する画素の画素値と前記テンプレートを構成
    する画素の画素値との間で、動きベクトル探索演算を行
    って動きベクトルを求める第2のステップとを含むこと
    を特徴とする動きベクトル探索方法。
  2. 【請求項2】 請求項1において、 前記第2のステップにおける探索は、 サブサンプリングして作成した縮小画像上で行うことを
    特徴とする動きベクトル探索方法。
  3. 【請求項3】 請求項1または2において、 前記所定の条件を満足することは、 前記演算値として採用した差分絶対値和または差分二乗
    値和のいずれかの値が所定値以下になることであること
    を特徴とする動きベクトル探索方法。
  4. 【請求項4】 請求項1または2において前記所定の条
    件を満足することは、 前記演算値として採用した差分絶対値和または差分二乗
    値和のいずれかの値が所定値以下になること、および、
    前記動きベクトル探索演算によって動きベクトルが検出
    されたと想定したとき、この動きベクトルで示される画
    素ブロックが前記第1の領域の周辺部に存在しないこと
    であることを特徴とする動きベクトル探索方法。
  5. 【請求項5】 請求項1〜4のいずれか1項において、
    さらに、 ある動きベクトルを予測しておいて、この予測した動き
    ベクトルを、前記第1のステップでの動きベクトル探索
    演算の探索初期値とする第3のステップを含むことを特
    徴とする動きベクトル探索方法。
  6. 【請求項6】 請求項5において、さらに、 動きベクトル探索演算の探索初期値とした動きベクトル
    が検出されやすくなるように、該動きベクトルの演算値
    を予め定められている規則に従って変換する第4のステ
    ップを含むことを特徴とする動きベクトル探索方法。
  7. 【請求項7】 請求項5または6において、 前記第3のステップは、 予測する動きベクトルとして、動きがないことを意味す
    る動きベクトル=(0,0)を採用するステップである
    ことを特徴とする動きベクトル探索方法。
  8. 【請求項8】 請求項5または6において、 前記第3のステップは、 予測する動きベクトルとして、前記注目するテンプレー
    トに隣接する、いずれかのテンプレートに対して求まっ
    ている動きベクトルを採用するステップであることを特
    徴とする動きベクトル探索方法。
  9. 【請求項9】 請求項8において、 前記注目するテンプレートに隣接するテンプレートとし
    て、注目するテンプレートの左隣のテンプレートを採用
    することを特徴とする動きベクトル探索方法。
  10. 【請求項10】 請求項9において、 注目するテンプレートの左隣のテンプレートに対する動
    きベクトルの演算値の大小に応じて、前記第1ステップ
    の探索を終了するためのしきい値を予め定めた規則によ
    り変換するか、または前記第4のステップにおける変換
    規則を変更するか、または、それらの双方を同時に行う
    ことを特徴とする動きベクトル探索方法。
  11. 【請求項11】 請求項5または6において、 前記第3のステップは、 予測する動きベクトルとして、前記注目するテンプレー
    トを含む動画像に対して時間的に過去に存在する他の動
    画像において、前記注目するテンプレートと対応する位
    置に存在するテンプレートに対する動きベクトルを採用
    するステップであることを特徴とする動きベクトル探索
    方法。
  12. 【請求項12】 注目するテンプレートと同一の大きさ
    の画素ブロック群の間で所定の演算により動きを評価
    し、テンプレートについて動画像内における動きベクト
    ルを求める方法であって、 動きベクトル=(0,0)を初期値として 動きベクト
    ル=(0,0)の画素ブロックを1個以上含む大きさの
    第1の領域を想定し、この第1の領域を構成する画素の
    画素値と前記テンプレートを構成する画素の画素値との
    間で、動きベクトルの探索演算を行うとともに、前記注
    目するテンプレートに隣接するいずれかのテンプレート
    に対して求まっている動きベクトルを初期値とする第3
    の領域で前記動きベクトルの探索演算を行って動きベク
    トルを探索する第1のステップと、 両演算結果を参照し、予め定められている規則にしたが
    って、いずれかの演算結果を選択し、この選択した演算
    結果が、所定の条件を満足する場合には、この演算結果
    から動きベクトルを求め、一方、この演算結果が前記所
    定の条件を満足しない場合には、前記第1の領域と第3
    の領域を完全に含む大きさの第2の領域を想定し、この
    第2の領域を構成する画素の画素値と前記テンプレート
    を構成する画素の画素値との間で、動きベクトル探索演
    算を行って動きベクトルを求める第2のステップとを含
    むことを特徴とする動きベクトル探索方法。
  13. 【請求項13】 注目するテンプレートと同一の大きさ
    の画素ブロック群の間で所定の演算により動きを評価
    し、テンプレートについて動画像内における動きベクト
    ルを求める装置であって、 動画像を記憶するための記憶手段と、該記憶手段の記憶
    内容を参照して動きベクトル探索を行う探索処理手段と
    を備え、 この探索処理手段は、 前記画素ブロックを1個以上含む大きさの第1の領域を
    想定し、この第1の領域を構成する画素の画素値と前記
    テンプレートを構成する画素の画素値との間で、動きベ
    クトル探索演算を行う手段と、 この演算結果が所定の条件を満足する場合には、この演
    算結果から動きベクトルを求め、一方、この演算結果が
    前記所定の条件を満足しない場合には、前記第1の領域
    を完全に含む大きさの第2の領域を想定し、この第2の
    領域を構成する画素の画素値と前記テンプレートを構成
    する画素の画素値との間で、動きベクトル探索演算を行
    って動きベクトルを求める手段とを含むことを特徴とす
    る動きベクトル探索装置。
  14. 【請求項14】 注目するテンプレートと同一の大きさ
    の画素ブロック群の間で所定の演算により動きを評価
    し、テンプレートについて動画像内における動きベクト
    ルを求める装置であって、 動画像を記憶するための記憶手段と、該記憶手段の記憶
    内容を参照して動きベクトル探索を行う探索処理手段と
    を備え、 この探索処理手段は、 動きベクトル=(0,0)を初期値として 動きベクト
    ル=(0,0)の画素ブロックを1個以上含む大きさの
    第1の領域を想定し、この第1の領域を構成する画素の
    画素値と前記テンプレートを構成する画素の画素値との
    間で、動きベクトルの探索演算を行うとともに、前記注
    目するテンプレートに隣接するいずれかのテンプレート
    に対して求まっている動きベクトルを初期値する第3の
    領域で前記動きベクトルの探索演算を行って動きベクト
    ルを探索する手段と、 両演算結果を参照し、予め定められている規則にしたが
    って、いずれかの演算結果を選択し、この選択した演算
    結果が、所定の条件を満足する場合には、この演算結果
    から動きベクトルを求め、一方、この演算結果が前記所
    定の条件を満足しない場合には、前記第1の領域と第3
    の領域を完全に含む大きさの第2の領域を想定し、この
    第2の領域を構成する画素の画素値と前記テンプレート
    を構成する画素の画素値との間で、動きベクトル探索演
    算を行って動きベクトルを求める手段とを含むことを特
    徴とする動きベクトル探索装置。
  15. 【請求項15】 注目するテンプレートと同一の大きさ
    の画素ブロック群の間で所定の演算により動きを評価
    し、テンプレートについて動画像内における動きベクト
    ルを求める装置であって、 前記画素ブロックを1個以上含む大きさの第1の領域を
    想定し、この第1の領域を構成する画素の画素値と前記
    テンプレートを構成する画素の画素値との間で、動きベ
    クトル探索演算を行う第1の手段と、 この演算結果が所定の条件を満足する場合には、この演
    算結果から動きベクトルを求め、一方、この演算結果が
    前記所定の条件を満足しない場合には、前記第1の領域
    を完全に含む大きさの第2の領域を想定し、この第2の
    領域を構成する画素の画素値と前記テンプレートを構成
    する画素の画素値との間で、動きベクトル探索演算を行
    って動きベクトルを求める第2の手段と、 前記注目するテンプレートの左隣のテンプレートに対し
    て求まっている動きベクトルを、前記第1のステップで
    の動きベクトル探索演算の探索初期値とする第3の手段
    と、 動きベクトル探索演算の探索初期値とした動きベクトル
    が検出されやすくなるように、該動きベクトルの演算値
    を予め定められている規則に従って変換する第4の手段
    とを含むことを特徴とする動きベクトル探索装置。
  16. 【請求項16】 注目するテンプレートと同一の大きさ
    の画素ブロック群の間で所定の演算により動きを評価
    し、テンプレートについて動画像内における動きベクト
    ルを求める処理をコンピュータに実行させる動きベクト
    ル探索プログラムを記憶したコンピュータ読み取り可能
    な記憶媒体において、 前記画素ブロックを1個以上含む大きさの第1の領域を
    想定し、この第1の領域を構成する画素の画素値と前記
    テンプレートを構成する画素の画素値との間で、動きベ
    クトル探索演算を行う処理と、 この演算結果が所定の条件を満足する場合には、この演
    算結果から動きベクトルを求め、一方、この演算結果が
    前記所定の条件を満足しない場合には、前記第1の領域
    を完全に含む大きさの第2の領域を想定し、この第2の
    領域を構成する画素の画素値と前記テンプレートを構成
    する画素の画素値との間で、動きベクトル探索演算を行
    って動きベクトルを求める処理とをコンピュータに実行
    させる動きベクトル探索プログラムを記憶した記憶媒
    体。
  17. 【請求項17】 注目するテンプレートと同一の大きさ
    の画素ブロック群の間で所定の演算により動きを評価
    し、テンプレートについて動画像内における動きベクト
    ルを求める処理をコンピュータに実行させる動きベクト
    ル探索プログラムを記憶したコンピュータ読み取り可能
    な記憶媒体において、 動きベクトル=(0,0)を初期値として 動きベクト
    ル=(0,0)の画素ブロックを1個以上含む大きさの
    第1の領域を想定し、この第1の領域を構成する画素の
    画素値と前記テンプレートを構成する画素の画素値との
    間で、動きベクトルの探索演算を行うとともに、前記注
    目するテンプレートに隣接するいずれかのテンプレート
    に対して求まっている動きベクトルを初期値とする第3
    の領域で前記動きベクトルの探索演算を行って動きベク
    トルを探索する処理と、 両演算結果を参照し、予め定められている規則にしたが
    って、いずれかの演算結果を選択し、この選択した演算
    結果が、所定の条件を満足する場合には、この演算結果
    から動きベクトルを求め、一方、この演算結果が前記所
    定の条件を満足しない場合には、前記第1の領域と第3
    の領域を完全に含む大きさの第2の領域を想定し、この
    第2の領域を構成する画素の画素値と前記テンプレート
    を構成する画素の画素値との間で、動きベクトル探索演
    算を行って動きベクトルを求める処理とをコンピュータ
    に実行させる動きベクトル探索プログラムを記憶した記
    憶媒体。
  18. 【請求項18】 注目するテンプレートと同一の大きさ
    の画素ブロック群の間で所定の演算により動きを評価
    し、テンプレートについて動画像内における動きベクト
    ルを求める処理をコンピュータに実行させる動きベクト
    ル探索プログラムを記憶したコンピュータ読み取り可能
    な記憶媒体において、 前記画素ブロックを1個以上含む大きさの第1の領域を
    想定し、この第1の領域を構成する画素の画素値と前記
    テンプレートを構成する画素の画素値との間で、動きベ
    クトル探索演算を行う第1の処理と、 この演算結果が所定の条件を満足する場合には、この演
    算結果から動きベクトルを求め、一方、この演算結果が
    前記所定の条件を満足しない場合には、前記第1の領域
    を完全に含む大きさの第2の領域を想定し、この第2の
    領域を構成する画素の画素値と前記テンプレートを構成
    する画素の画素値との間で、動きベクトル探索演算を行
    って動きベクトルを求める第2の処理と前記注目するテ
    ンプレートの左隣のテンプレートに対して求まっている
    動きベクトルを、前記第1の処理での動きベクトル探索
    演算の探索初期値とする第3の処理と 動きベクトル探
    索演算の探索初期値とした動きベクトルが検出されやす
    くなるように、該動きベクトルの演算値を予め定められ
    ている規則に従って変換する第4の処理とをコンピュー
    タに実行させる動きベクトル探索プログラムを記憶した
    記憶媒体。
  19. 【請求項19】 請求項13に記載された動きベクトル
    探索装置と、 前記探索処理手段に制御指令を入力する
    ための入力手段と、 該探索処理手段から探索結果を出力するための出力手段
    とを含むことを特徴とする画像符号化装置。
  20. 【請求項20】 請求項14に記載された動きベクトル
    探索装置と、 前記探索処理手段に制御指令を入力する
    ための入力手段と、 該探索処理手段から探索結果を出力するための出力手段
    とを含むことを特徴とする画像符号化装置。
  21. 【請求項21】 請求項15に記載された動きベクトル
    探索装置と、 前記探索処理手段に制御指令を入力するための入力手段
    と、 該探索処理手段から探索結果を出力するための出力手段
    とを含むことを特徴とする画像符号化装置。
JP15501598A 1997-06-17 1998-06-03 動きベクトル探索方法および動きベクトル探索装置ならびに動きベクトル探索プログラムを記憶した記憶媒体 Expired - Fee Related JP3155509B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP15501598A JP3155509B2 (ja) 1997-06-17 1998-06-03 動きベクトル探索方法および動きベクトル探索装置ならびに動きベクトル探索プログラムを記憶した記憶媒体

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP9-159964 1997-06-17
JP15996497 1997-06-17
JP15501598A JP3155509B2 (ja) 1997-06-17 1998-06-03 動きベクトル探索方法および動きベクトル探索装置ならびに動きベクトル探索プログラムを記憶した記憶媒体

Publications (2)

Publication Number Publication Date
JPH1175192A true JPH1175192A (ja) 1999-03-16
JP3155509B2 JP3155509B2 (ja) 2001-04-09

Family

ID=26483130

Family Applications (1)

Application Number Title Priority Date Filing Date
JP15501598A Expired - Fee Related JP3155509B2 (ja) 1997-06-17 1998-06-03 動きベクトル探索方法および動きベクトル探索装置ならびに動きベクトル探索プログラムを記憶した記憶媒体

Country Status (1)

Country Link
JP (1) JP3155509B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000333184A (ja) * 1999-03-17 2000-11-30 Matsushita Electric Ind Co Ltd 動きベクトル検出方法,動きベクトル検出装置,及びデータ記録媒体
JP2002152760A (ja) * 2000-10-11 2002-05-24 Samsung Electronics Co Ltd ハイブリッド型高速動き推定方法及びその装置
US6671321B1 (en) 1999-08-31 2003-12-30 Mastsushita Electric Industrial Co., Ltd. Motion vector detection device and motion vector detection method
US6788741B1 (en) 1999-10-20 2004-09-07 Nec Corporation Device and method of retrieving high-speed motion
WO2018061522A1 (ja) * 2016-09-27 2018-04-05 シャープ株式会社 動きベクトル生成装置、予測画像生成装置、動画像復号装置、および動画像符号化装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE602004002455T2 (de) * 2004-04-30 2007-01-11 Matsushita Electric Industrial Co., Ltd., Kadoma Bewegungsvektorschätzung durch adaptive zeitliche Vorhersage

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000333184A (ja) * 1999-03-17 2000-11-30 Matsushita Electric Ind Co Ltd 動きベクトル検出方法,動きベクトル検出装置,及びデータ記録媒体
US6671321B1 (en) 1999-08-31 2003-12-30 Mastsushita Electric Industrial Co., Ltd. Motion vector detection device and motion vector detection method
US6788741B1 (en) 1999-10-20 2004-09-07 Nec Corporation Device and method of retrieving high-speed motion
JP2002152760A (ja) * 2000-10-11 2002-05-24 Samsung Electronics Co Ltd ハイブリッド型高速動き推定方法及びその装置
WO2018061522A1 (ja) * 2016-09-27 2018-04-05 シャープ株式会社 動きベクトル生成装置、予測画像生成装置、動画像復号装置、および動画像符号化装置

Also Published As

Publication number Publication date
JP3155509B2 (ja) 2001-04-09

Similar Documents

Publication Publication Date Title
KR100325253B1 (ko) 움직임벡터 검색방법 및 장치
JP4004653B2 (ja) 動きベクトル検出方法および装置、記録媒体
US5572258A (en) Motion compensation estimating device and method achieving improved motion compensation
JP3277418B2 (ja) 動きベクトル検出装置および方法
US6549576B1 (en) Motion vector detecting method and apparatus
US7953154B2 (en) Image coding device and image coding method
US8130835B2 (en) Method and apparatus for generating motion vector in hierarchical motion estimation
US20080080617A1 (en) Motion vector detection apparatus and method
JP4744276B2 (ja) 2次元画像の表現方法、2次元画像の比較方法、画像シーケンスを処理する方法、動き表現を導出する方法、画像の位置を求める方法、制御デバイス、装置、及びコンピュータ読み取り可能な記憶媒体
US20070041445A1 (en) Method and apparatus for calculating interatively for a picture or a picture sequence a set of global motion parameters from motion vectors assigned to blocks into which each picture is divided
JP2009147807A (ja) 画像処理装置
US20140010307A1 (en) Method of and apparatus for complexity scalable frame rate up-conversion
JP2005505841A (ja) 動き推定のための装置及び方法
JP3155509B2 (ja) 動きベクトル探索方法および動きベクトル探索装置ならびに動きベクトル探索プログラムを記憶した記憶媒体
US8350966B2 (en) Method and system for motion compensated noise level detection and measurement
US7881500B2 (en) Motion estimation with video mode detection
US20090167958A1 (en) System and method of motion vector estimation using content associativity
US7852939B2 (en) Motion vector detection method and device of the same
US20050141615A1 (en) Motion vector estimating method and motion vector estimating apparatus using block matching process
JP4622265B2 (ja) 動きベクトル検出装置、および動きベクトル検出方法、並びにプログラム
JP3277419B2 (ja) 動きベクトル検出装置および方法
KR0185940B1 (ko) 미세한 움직임 추정 방법 및 그 장치
US9471992B2 (en) Moving image processing apparatus, moving image processing method, and computer product
JPH08195956A (ja) 動き量検出方法及び動き量検出装置
KR102089433B1 (ko) 영상 부호화 장치의 다방향 계층적 움직임 추정방법

Legal Events

Date Code Title Description
FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080202

Year of fee payment: 7

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090202

Year of fee payment: 8

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090202

Year of fee payment: 8

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100202

Year of fee payment: 9

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110202

Year of fee payment: 10

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110202

Year of fee payment: 10

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120202

Year of fee payment: 11

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130202

Year of fee payment: 12

LAPS Cancellation because of no payment of annual fees