JP4299123B2 - 動き推定のための装置及び方法並びに斯かる動き推定装置が備えられた画像処理装置 - Google Patents

動き推定のための装置及び方法並びに斯かる動き推定装置が備えられた画像処理装置 Download PDF

Info

Publication number
JP4299123B2
JP4299123B2 JP2003513252A JP2003513252A JP4299123B2 JP 4299123 B2 JP4299123 B2 JP 4299123B2 JP 2003513252 A JP2003513252 A JP 2003513252A JP 2003513252 A JP2003513252 A JP 2003513252A JP 4299123 B2 JP4299123 B2 JP 4299123B2
Authority
JP
Japan
Prior art keywords
segment
pixel value
motion
motion vector
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003513252A
Other languages
English (en)
Other versions
JP2004537112A (ja
Inventor
ゲラルド エイ ルンテル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NXP BV
Original Assignee
NXP BV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=8180623&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP4299123(B2) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by NXP BV filed Critical NXP BV
Publication of JP2004537112A publication Critical patent/JP2004537112A/ja
Application granted granted Critical
Publication of JP4299123B2 publication Critical patent/JP4299123B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/521Processing of motion vectors for estimating the reliability of the determined motion vectors or motion vector field, e.g. for smoothing the motion vector field or for correcting motion vectors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Systems (AREA)

Description

本発明は、各々が第1の画像の各セグメントに対応する動きベクトルを発生する動き推定装置であって、前記セグメントの画素値と第2の画像の画素値との間の絶対差の加算によって前記セグメントの動きベクトルのマッチング誤差を計算するための第1の加算手段を有する動き推定装置に関する。
本発明は、更に、各々が第1の画像のセグメントに対応する動きベクトルを発生する方法であって、前記セグメントの画素値と第2の画像の画素値との間の絶対差の加算によって前記セグメントの動きベクトルのマッチング誤差を計算するための第1の加算ステップを有する方法に関する。
本発明は、更に、
-各々が第1の画像の各セグメントに対応する動きベクトルを発生し、前記セグメントの画素値と第2の画像の画素値との間の絶対差の加算によって前記セグメントの動きベクトルのマッチング誤差を計算するための第1の加算手段を有する動き推定装置、及び
-動き補償画像処理装置、を有する画像処理装置に関する。
冒頭に記載された種類の方法の実施例は、1993年10月、5番、第3巻の368−379ページのビデオ技術の回路及びシステムに関するIEEEの議事録の、de Haan等による「3D再帰探索ブロックマッチングを用いた正確な動き推定」から既知である。
ビデオ信号処理における多くのアプリケーションでは、オプティカルフローとして知られる、画像のシーケンスの見かけの速度場を知る必要がある。このオプティカルフローは、時間とともに変化するベクトル場、即ち、画像当たり1ベクトル場として与えられる。引用記事では、この動きベクトル場は、画像をブロックに分割することによって推定される。各ブロックの候補動きベクトルの集合に対して、このブロックの候補動きベクトルから最も適切な動きベクトルを見つけるために、集合マッチング誤差が計算され最小の手続きで使用される。マッチング誤差は、SAD、即ち、画像のブロックの中の画素と動きベクトルによってシフトする次の画像のブロックの画素との間の絶対輝度差の合計に対応する。
Figure 0004299123
ここで、(x,y)はブロックの位置、(dx,dy)は動きベクトル、nは画像の番号、N及びMはブロックの幅及び高さ、並びにY(x,y,n)は画像nの位置(x,y)における画像の輝度の値である。
推定動きベクトルは正確な動きベクトルからずれるかもしれない、即ち、動きベクトル誤差があるかもしれない。SADの値は相対的な量として比較時に使用することしかできない。計算されたSADは、動きベクトルの精度の信頼できる指標、即ち動きベクトル誤差を与えない。これは、先行技術による方法の欠点である。
本発明の第1の目的は、動きベクトル誤差を計算する、冒頭に記載された種類の動き推定装置を提供することにある。
本発明の第2の目的は、動きベクトル誤差が計算される、冒頭に記載された種類の方法を提供することにある。
本発明の第3の目的は、動きベクトル誤差を計算する、冒頭に記載された種類の画像処理装置を提供することにある。
本発明の第1の目的は、動き推定装置が、以下の手段を更に有することで達成される。
‐前記セグメントの画素値と前記第1の画像の画素値との間の絶対差の加算によって変化パラメータを計算するための第2の加算手段、及び
‐前記マッチング誤差を前記変化パラメータと比較することによって動きベクトル誤差を推定するための推定手段。
第2の加算手段によって、ブロック内の細部レベル(level of detail)の量である変化パラメータを計算することができる。ブロックはセグメントの形式である。不規則な形状のセグメント用の動き推定にもかなり共通している。本発明は不規則な形状のセグメントにも適用可能である。ブロック内がかなり細かい、即ち変化パラメータが相対的に高い値になる場合、マッチング誤差の値も相対的に高い値を有する。マッチング誤差の相対的に高い値と組み合わされる変化パラメータの相対的に低い値は、推定された動きベクトルが誤っているだろうということを示す。
本発明による動き推定装置の利点は、人が動きベクトルの値に関心を持つアプリケーションが存在するという理由により、動き推定装置が動きベクトル誤差を提供することである。例えば、動きベクトルが十分良好なものであれば、動きベクトルの改善を試みる時間を費やす必要がない。これによって、効率及びベクトル場の整合性(consistency)が改善される。予備のオプション又は発生するアーチファクト(artifact)がより少ない洗練されたアルゴリズムの使用時を決定するために、動きベクトル誤差は、動きベクトル場の包括的な質を推定するためにも有益である。オブジェクトのエッジの部分的な重なりを有するブロックを発見するために使用することもでき、そのブロックはより適切な方法で処理することができる。
関連するアイデアがEP0549681B2に提案されており、この公報には、動きベクトルを求めるために少なくとも4つの画像上で動作する動き推定装置が記載されている。その特許明細書には、次の画像の画素の値との差をいわゆる勾配で割ることによって計算される割り当て誤差の最小化によって動きベクトルを推定することが提案されている。この勾配は二次差分の平方根をとることによって計算される。本発明による動き推定装置とEP0549681B2に記載された動き推定装置との間の大きな差は、以下の通りである。
-本発明による動き推定装置の変化パラメータ及びマッチング誤差は、同等の量、即ち絶対差の和に基づく。EP0549681B2に記載された動き推定装置では、2つの異なる量、即ち、差及び二次差分の平方根が計算される。絶対差の和を2回使用する利点は、動きベクトル誤差が推定された動きベクトルの正確な動きベクトルからのずれについての定性的、更には定量的な情報を提供することができるということである。これを証明するための実験が行われた。これらの実験の結果は以下に図3乃至図7に関連させて記載される。絶対差の和を2回使用する別の利点は、計算が少なくなることである。
-変化パラメータは、本発明による動き推定装置において、全ての候補動きベクトルのマッチング誤差の規格化のために使用することができる。しかしながら、このことは、変化パラメータがセグメントの全ての候補動きベクトルに対して一定であるので、必要ではない。動きベクトル誤差は、推定された動きベクトルのみに対して(即ち候補動きベクトルの組のうちの1つのベクトルに対して)、その推定された動きベクトルが正確な動きの適切な値であるかどうかを決定するために計算されれば十分である。EP0549681B2に記載された動き推定装置では、全ての候補動きベクトルに対して規格化が行われる。
本発明による動き推定装置の実施例では、前記第2の加算手段が、
-前記セグメントの画素値と第1の方向に少なくとも1画素シフトし前記セグメントに対応した第2のセグメントの画素値との間の絶対差、及び
-前記セグメントの画素値と第2の方向に少なくとも1画素シフトし前記セグメントに対応した第3のセグメントの画素値との間の絶対差、
を加えることによって前記変化パラメータを計算するように設計され、前記第1の方向が前記第2の方向と交差する。
変化パラメータ変数の目的は、既知の動きベクトルのずれに起因する絶対差の和を予測することである。正確な動きベクトルが知られていないので、セグメントは、同じ画像内の僅かにずれた(即ちシフトした)セグメントと照合される。誤差の方向が知られていないので、2つの方向に渡る平均が用いられる。言い換えると、2つの量、即ちマッチング誤差と変化パラメータ(両方とも移動の量)を比較することによって、推定された動きベクトルと正確な動きベクトルとの間の差に関連する動きベクトル誤差を得ることが可能である。マッチング誤差は、次の画像との間でのブロックの移動に基づき、変化パラメータは1つの画像内のブロックの移動に基づく。変化パラメータを計算するためにブロックに適用されたシフト量は、統計学的に変化パラメータに関連している。変化パラメータを計算するためにブロックに適用されるシフトが増加する場合、変化パラメータも増加するという確率が相対的に大きい。変化パラメータの助けによって、マッチング誤差の値の分布を動きベクトル誤差の関数とみなすことができる。
本発明による動き推定装置の実施例の変形では、前記第2の加算手段が、前記セグメントの画素値と前記第1の方向に少なくとも1画素且つ前記第2の方向に少なくとも1画素シフトし前記セグメントに対応した第4のセグメントの画素値との間の絶対差も加えるように設計される。この実施例の利点は、動き推定装置の動作中に第1及び第2の方向に交差する方向も考慮されることである。
本発明による動き推定装置の実施例は、画素のブロックであるセグメントの動きベクトルを発生するよう設計される。画素のブロックに基づいた動き推定装置の利点は、その簡単な設計にある。本発明による動き推定装置の別の実施例は、不規則な形状のセグメントを取り扱うように設計される。
本発明による動き推定装置の実施例は、画素値として輝度値に基づいて前記セグメントの前記動きベクトルを発生するように設計される。輝度は動き推定に適した量である。本発明による動き推定装置の別の実施例はクロミナンス値で動作するように設計される。
本発明の第2の目的は、上記方法が更に以下のステップを有することによって達成される。
-前記セグメントの画素値と前記第1の画像の画素値との間の絶対差の加算によって変化パラメータを計算するための第2の加算ステップ、及び
-前記マッチング誤差を前記変化パラメータと比較することによって動きベクトル誤差を推定する推定ステップ。
本発明の第3の目的は、画像処理装置の動き推定装置が更に以下の手段を有することによって達成される。
-前記セグメントの画素値と前記第1の画像の画素値との間の絶対差の加算によって変化パラメータを計算するための第2の加算手段、及び
-前記マッチング誤差を前記変化パラメータと比較することによって動きベクトル誤差を推定するための推定手段。
画像処理装置の修正及びその変形は、その画像処理装置の記載される動き推定装置の修正及び変形に対応する。画像処理装置は付加的な要素、例えば、画像を表す信号を受け取るための受取手段、及び処理された画像を表示するための表示装置を有してもよい。動き補償画像処理装置は、以下の形式の画像処理の1つ以上をサポートすることができる。
−デインターレース:インターレースは、奇数又は偶数の番号の画像ラインに交互に伝送する共通のビデオ放送手続きである。デインターレースは、完全な垂直解像度を復元する、即ち各画像に対して奇数及び偶数のラインを同時に利用可能にしようとする。
-アップコンバージョン:元の一連の入力画像から、より大きな一連の出力画像が計算される。出力画像は、時間的に2つの元の入力画像の間に位置する。及び、
-時間的なノイズの低減、である。
本発明による動き推定装置、方法、及び画像処理装置のこれら及び他の態様は、以下に記載される実現例及び実施例並びに添付された図面を基準にして明らかになり、説明される。
対応する符号は全ての図において同じ意味を有する。
図1は動き推定装置100の実施例を概略的に示し、この装置は、
-第1の画像118のセグメント116の1組の候補動きベクトルを発生するための発生手段102、
-セグメント116の画素値と第2の画像120の画素値との間の絶対差の加算によって、セグメント116の候補動きベクトルのマッチング歪みを計算するための第1の加算手段106、
-セグメント116の画素値と第1の画像118の画素値との間の絶対差の加算によって変化パラメータを計算するための第2の加算手段108、
-特定のマッチング誤差を変化パラメータと比較することによって動きベクトル誤差130を推定するための推定手段110、及び
-マッチング誤差に基づいて候補動きベクトルの集合から特定の動きベクトル126を選択するための選択手段104、を有する。
動き推定装置100の入力は画像を有し、入力コネクタ112に与えられる。動き推定装置100の出力は、セグメント(例えば116)の動きベクトルを有する動きベクトル場(例えば124)である。動き推定装置100の出力は、出力コネクタ114に与えられる。動き推定装置100の動作は、次の通りである。先ず、発生手段102が、セグメント116(例えば画素のブロック)に対して、一組の候補動きベクトルを生成する。次に、第1の加算手段106は、それらの候補動きベクトルに対して、マッチング誤差を計算する。次に、選択手段104が、マッチング誤差に基づいて、1組の候補動きベクトルから特定の動きベクトル126を選択する。この特定の動きベクトル126は、そのマッチング誤差が最も小さい値であるので選択される。第2の加算手段108は、セグメント116の変化パラメータを計算する。候補の組のうちの特定の動きベクトル126及び任意にいくつかの他の動きベクトルに対して、動きベクトル誤差(例えば130)がマッチング誤差及び変化パラメータに基づいて計算される。動きベクトル誤差(例えば130)は、正確な動きベクトル128とマッチング誤差を計算する際に使われる動きベクトル126との間の差分ベクトルの長さに対応する。動きベクトル誤差(例えば130)は選択手段104の入力である。特定の動きベクトル126の動きベクトル誤差130の値が所定のしきい値より小さい場合、特定の動きベクトル126がセグメント116に割り当てられる。選択手段104は、特定の動きベクトル126の動きベクトル誤差130の値が所定のしきい値よりも大きい場合、候補動きベクトルの新たな組を発生するように発生手段102をトリガする。選択手段104は、推定手段110によって、動きベクトル誤差が計算された動きベクトルも他のセグメントに対して適切な候補であるかどうかが知らされる。
第1の加算手段106によって計算されたマッチング誤差はSAD、即ち、画像の特定のブロックの画素と、動きベクトルによってシフトするその特定のブロックに対応する次の画像のブロックの画素との間の絶対輝度差の合計に対応する。
Figure 0004299123
ここで、(x,y)はブロックの位置、(dx,dy)は動きベクトル、nは画像番号、N及びMはブロックの幅及び高さ、並びにY(x,y,n)は画像nの位置(x,y)における画素の輝度の値である。
第2の加算手段108によって計算される変化パラメータは、VAR、即ち画像の特定のブロック内の画素と、同じ画像内のブロックの画素であるが所定の画素量シフトした画素との間の絶対輝度差の和に対応する。変化パラメータを規定するために、関数DIFFが導入される。
Figure 0004299123
ここで、やはりN及びMはブロックの幅及び高さである。この関数について、即ち、式(2)の式(1)への代入により、SADは以下のようになる。
Figure 0004299123
変化パラメータVARは、次のように規定することができる。
Figure 0004299123
これは、1画素の動きベクトル誤差に対するマッチング誤差SADの期待値を与える。この場合、変化パラメータは、2つの異なる方向の平均に基づく。
変化パラメータを計算するもう一つの方法では、斜めの方向も考慮に入れる。
Figure 0004299123
変化パラメータを計算するもう一つの方法は、より大きいシフト(例えば2画素)を使うことである。
Figure 0004299123
シフトのサイズは、ブロックサイズに関係する。VAR4は、他に比べて二倍不経済である。VAR2は、VARよりノイズに強い。
図2は、画像処理装置200の構成要素を概略的に示す。この装置200は、ある処理が実行された後表示されるべき画像を表す信号を受け取るための受取手段201を有する。信号は、アンテナ又はケーブルを通じて受け取られる放送信号とすることができるが、VCR(ビデオカセットレコーダ)又はデジタルバーサタイルディスク(DVD)のような記憶装置からの信号でもよい。この信号は入力コネクタ206に与えられる。
この装置200は、図1に記載されているような動き推定装置100、動き補償画像処理装置202、及び処理された画像を表示する表示装置204を有する。
動き補償画像処理装置202は、以下の形式の画像処理の1つ以上を任意にサポートする。
−デインターレース:インターレースは、奇数又は偶数の番号の画像ラインに交互に伝送する共通のビデオ放送手続きである。デインターレースは、完全な垂直解像度を復元する、即ち各画像に対して奇数及び偶数のラインを同時に利用可能にしようとする。
-アップコンバージョン:元の一連の入力画像から、より大きな一連の出力画像が計算される。出力画像は、時間的に2つの元の入力画像の間に位置する。及び、
-時間的なノイズの低減、である。
動き補償画像処理装置202は、その入力として画像及び動きベクトルを必要とする。
変化パラメータVAR、マッチング誤差SAD、及び動きベクトル誤差VEの関係を調査するために実験が行われた。これらの実験に基づいて、これらの関係を考える仮説を採用する。第1に、VE及びVARを従属変数とし、SADを独立変数とした。第2に、SAD及びVARを従属変数とし、VEを独立変数とした。後者の関係は、最も妥当性がある。それは、動きベクトルを適切にし、動きベクトル誤差を或る程度定量化することさえも可能である。結果として、推定された動きベクトルを次のように分類することができる。
-推定された動きベクトルは正確な動きベクトルに実質的に等しい。即ち、SAD<a*VAR(aは所定の小さな数)である。
-推定された動きベクトルは、正確な動きベクトルからおよそe個の画素だけずれる。即ち、動きベクトル誤差のサイズはおよそe個の画素に等しい。これは、動きベクトル誤差の値の範囲が、例えば0≦e≦3の画素であることを示している。即ち、SAD>b,(3/5)SAD/VAR<e[画素](bはある所定の小さなしきい値)である。
-推定された動きベクトルは正確な動きベクトルに実質的に等しくない。即ち、SAD>b,(3/5)SAD>3*VARである。
-推定された動きベクトルと正確な動きベクトルとの間の差が未知である。即ち残りの場合である。
実験の準備は次の通りであった。連続するある数の単純な動き(即ち、オクルージョン(occlusion)が無い又はほとんど無い)の画像に対して、従来技術の3DRS動き推定装置は、高い精度(即ち、0.25個の画素)に収斂して使用された。サブ画素の精度を得るために、双線形補間法が使われた。推定された動きベクトルは、「正確な」動きベクトルに一致した。次に、「正確な」ベクトルを任意の方向に一定量だけ移動した。言い換えると、「正確な」動きベクトルは動きベクトル誤差に適合した。次に、結果として生じる動きベクトルに対応するSADの値を、対VARの値で2次元ヒストグラムに示した。実験的に、一定のVE及びVARに対して、SAD値の分布はガウス分布によって十分に近似することができることが判明した。このことは、任意のVAR、及び0乃至約3個の画素の範囲内のVEに対してあてはまるように思われる。N=M=8のブロックサイズの画素が使われた。図3は、1500の一定のVAR及び1画素のVEに対し、実験で使用されたテストシーケンスに対するSAD値のヒストグラムを、最良のガウシアンフィットと一緒に示す。実験の結果に基づいて、一定のVE及びVARに対して、SAD値の分布がガウス分布によって十分に近似される仮説が採用される。
Figure 0004299123
これは、以下に与えられる確率密度関数を伴なう。
Figure 0004299123
μ及びσのVAR及びVE依存性は、最小2乗法による2次元ヒストグラムの1次元スライスのガウシアン曲線への当てはめにより分析された。μ及びσのVARに対する線形依存性の比例定数は明らかにVEに依存する。これらの定数は、VE=0、0.5、1、1.5の、2及び3個の画素に対して推定された。0≦VE≦3の画素の範囲では、VARの関数としてのμの依存性は非常に正確な線形であり、一方、σのVAR依存性は、VEが大きくなるとき線形依存からずれ始める。線形依存性は、約VE=3画素までは妥当な近似のようである。VE=0に対して、結果として生じるVARの関数としての測定値が図4A及び図4Bにプロットされている。
図4Aは、テストシーケンスに対して、VE=0に対するVARの関数としてのμの依存性を示し、図4Bは、テストシーケンスに対して、VE=0に対するVARの関数としてのσの依存性を示す。このラインは、残留SADに対応して、VE=0に対しても原点を通らないことに注意されたい。これにはいくつかの理由がある。即ち、「正確な」動きフィールド内のベクトル誤差、0.25画素のベクトル精度、及びサブ画素の補間誤差の3つが挙げられる。図5Aは、テストシーケンスに対して、VE=1に対するVARの関数としてのμの依存性を示し、図5Bは、テストシーケンスに対して、VE=1に対するVARの関数としてのσの依存性を示す。
図6に、μ=αVARの比例定数αのVE依存性が示されている。VE依存性は、0≦VE≦3の画素の範囲ではほぼ線形である。最小自乗法による当てはめ(least
square fit)により以下の式が得られる。
μ=(0.7+1.5VE)VAR (9)
σ=(0.2+0.5VE)VAR (10)
これは、σ=μ/3に簡略化することができる。
従って、与えられたVE及びVARに対するSAD値の条件つき確率分布が得られた。与えられたVAR及びVEに対して、SADは以下の確率分布に従って分布する。
Figure 0004299123
ここで、
Figure 0004299123
上には、SADがどのようにして独立変数VE及びVARに依存するのかが記載されている。本発明による動き推定装置では、SAD及びVARを直接計算することができる。次に、SAD及びVARに基づいてVEをどのようにして推定することができるかについて記載されている。ベイズの規則を使って、与えられたSAD及びVARに対するVEの確率分布を計算することができる。
Figure 0004299123
従来はVE分布に関して何も知られていないので、均一な分布が選択される。関連する画素の範囲は0から3画素であり、0≦e≦3の場合P(VE=e| VAR=ν)=1/3であり、それ以外であれば0である。実験の結果は、期待されたSADがVARに対して直線的に比例することを示した。従来では何も知られていないので、0≦x≦cνの場合P(SAD=x| VAR=ν)=1/cνが選択され、それ以外では0が選択される。ここで、cは任意の相対的に大きいスケーリング係数である。これによって以下の式が得られる
Figure 0004299123
図7では、確率密度関数がいくつかのx/νの値に対してプロットされている。これらの分布に従うVEの期待値E(VE)及び標準偏差SD(VE)は、表1に示されている。
Figure 0004299123
これらの結果は、実用的な範囲では、以下の式で要約することができる。
Figure 0004299123
Figure 0004299123
式(14)を用いて、変化パラメータVAR及びマッチング誤差SADの値が既知の場合、動きベクトル歪みの期待値を推定することができる。式(14)は表1に示されている範囲に対して成り立つ。実際には、式(14)がノイズの影響を受けにくくするため、及びゼロの分割を避けるために、小さな数がVARに加算されることに注意されたい。上に概略が記された分析は、上記の大きさVAR4及びVAR2に対しても実行された。結果は、非常に類似していた。
上記の実施例は本発明を限定的に示しているのではなく、しかも当業者は添付された請求項の範囲から逸脱することなく別の実施例を設計することができることに注意されたい。「有する」という単語は、請求項に列挙されていない要素又はステップの存在を排除しない。要素が単数形で記載されていることは、斯かる要素の複数の存在を排除しない。本発明は、いくつかの別個の要素を有するハードウェア及び適切にプログラムされたコンピュータによって実現することができる。いくつかの手段が列挙されている装置の請求項では、これらの手段のいくつかは、同一のハードウェアの製品で実現することができる。
動き推定装置の実施例を概略的に示す。 画像処理装置の実施例を概略的に示す。 1500の一定のVAR及び1画素のVEの実験で使用されたテストシーケンスに対するSAD値のヒストグラムを、最良のガウシアンフィットと一緒に示す。 テストシーケンスに対して、VE=0に対するVARの関数としてのμの依存性を示す。 テストシーケンスに対して、VE=0に対するVARの関数としてのσの依存性を示す。 テストシーケンスに対して、VE=1に対するVARの関数としてのμの依存性を示す。 テストシーケンスに対して、VE=1に対するVARの関数としてのσの依存性を示す。 テストシーケンスに対して、以下の式
Figure 0004299123
の比例定数αのVE依存性を示す。
種々の値x/νに対するeの関数としてのP(VE=e|SAD=x,VAR=ν)のプロットを示す。

Claims (12)

  1. 各々が第1の画像の各セグメントに対応する動きベクトルを発生する動き推定装置であって、前記動き推定装置が、前記セグメントの画素値と第2の画像の画素値との間の絶対差の加算によって前記セグメントの動きベクトルのマッチング誤差を計算するための第1の加算手段を有し、
    前記動き推定装置が、更に、
    前記セグメントの画素値と前記第1の画像の少なくとも1つの更なるセグメントであって所定の画素量シフトした更なるセグメントの画素値との間の絶対差の加算によってパラメータを計算するための第2の加算手段、及び
    前記マッチング誤差を前記パラメータと比較することによって動きベクトル誤差を推定するための推定手段
    を有する動き推定装置。
  2. 前記第2の加算手段が、
    前記セグメントの画素値と第1の方向に少なくとも1画素シフトし前記セグメントに対応した第2のセグメントの画素値との間の絶対差、及び
    前記セグメントの画素値と第2の方向に少なくとも1画素シフトし前記セグメントに対応した第3のセグメントの画素値との間の絶対差、
    を加えることによって前記パラメータを計算するように設計され、前記第1の方向が前記第2の方向と交差する請求項1に記載の動き推定装置。
  3. 前記第2の加算手段が、前記セグメントの画素値と前記第1の方向に少なくとも1画素且つ前記第2の方向に少なくとも1画素シフトし前記セグメントに対応した第4のセグメントの画素値との間の絶対差も加えるように設計された請求項2に記載の動き推定装置。
  4. 前記セグメントの前記動きベクトルを発生するよう設計され、前記セグメントが画素のブロックである請求項1に記載の動き推定装置。
  5. 画素値として輝度値に基づいて前記セグメントの前記動きベクトルを発生するように設計されている請求項1に記載の動き推定装置。
  6. 請求項1〜5のいずれかに記載の動き推定装置と、
    動き補償画像処理装置と、
    を有する画像処理装置。
  7. 前記動き補償画像処理装置が第1の画像のノイズを低減するように設計された請求項に記載の画像処理装置。
  8. 前記動き補償画像処理装置が前記第1の画像をデインタレースするように設計された請求項に記載の画像処理装置。
  9. 前記動き補償画像処理装置がアップコンバージョンを実行するように設計された請求項に記載の画像処理装置。
  10. 各々が第1の画像のセグメントに対応する動きベクトルを発生する方法であって、前記セグメントの画素値と第2の画像の画素値との間の絶対差の加算によって前記セグメントの動きベクトルのマッチング誤差を計算するための第1の加算ステップを有し、前記方法が、更に、
    前記セグメントの画素値と前記第1の画像の少なくとも1つの更なるセグメントであって所定の画素量シフトした更なるセグメントの画素値との間の絶対差の加算によってパラメータを計算するための第2の加算ステップ、及び
    前記マッチング誤差を前記パラメータと比較することによって動きベクトル誤差を推定するための推定ステップ
    を有する方法。
  11. 前記第2の加算ステップにおいて、
    前記セグメントの画素値と第1の方向に少なくとも1画素シフトし前記セグメントに対応した第2のセグメントの画素値との間の絶対差、及び
    前記セグメントの画素値と第2の方向に少なくとも1画素シフトし前記セグメントに対応した第3のセグメントの画素値との間の絶対差、
    を加えることによって前記パラメータが計算され、前記第1の方向が前記第2の方向と交差する請求項10に記載の方法。
  12. 前記第2の加算ステップにおいて、前記セグメントの画素値と前記第1の方向に少なくとも1画素且つ前記第2の方向に少なくとも1画素シフトし前記セグメントに対応した第4のセグメントの画素値との間の絶対差も加えられる請求項11に記載の方法。
JP2003513252A 2001-07-10 2002-06-21 動き推定のための装置及び方法並びに斯かる動き推定装置が備えられた画像処理装置 Expired - Fee Related JP4299123B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP01202641 2001-07-10
PCT/IB2002/002461 WO2003007618A2 (en) 2001-07-10 2002-06-21 Unit for and method of motion estimation and image processing apparatus provided with such motion estimation unit

Publications (2)

Publication Number Publication Date
JP2004537112A JP2004537112A (ja) 2004-12-09
JP4299123B2 true JP4299123B2 (ja) 2009-07-22

Family

ID=8180623

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003513252A Expired - Fee Related JP4299123B2 (ja) 2001-07-10 2002-06-21 動き推定のための装置及び方法並びに斯かる動き推定装置が備えられた画像処理装置

Country Status (7)

Country Link
US (1) US8406302B2 (ja)
EP (1) EP1440581B1 (ja)
JP (1) JP4299123B2 (ja)
KR (1) KR100913846B1 (ja)
CN (1) CN100385953C (ja)
ES (1) ES2526340T3 (ja)
WO (1) WO2003007618A2 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100573696B1 (ko) 2003-07-31 2006-04-26 삼성전자주식회사 패턴 분석에 기반한 움직임 벡터 보정 장치 및 방법
US7346226B2 (en) 2003-12-16 2008-03-18 Genesis Microchip Inc. Method and apparatus for MPEG artifacts reduction
US7346109B2 (en) 2003-12-23 2008-03-18 Genesis Microchip Inc. Motion vector computation for video sequences
US7457438B2 (en) 2003-12-23 2008-11-25 Genesis Microchip Inc. Robust camera pan vector estimation using iterative center of mass
US7499494B2 (en) 2003-12-23 2009-03-03 Genesis Microchip Inc. Vector selection decision for pixel interpolation
CN101296377B (zh) * 2003-12-23 2012-01-04 塔米拉斯珀私人有限责任公司 时间运动矢量滤波
US7480334B2 (en) 2003-12-23 2009-01-20 Genesis Microchip Inc. Temporal motion vector filtering
JP4375080B2 (ja) * 2004-03-29 2009-12-02 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
TWI280798B (en) * 2004-09-22 2007-05-01 Via Tech Inc Apparatus and method of adaptive de-interlace of image
KR100692600B1 (ko) * 2005-02-22 2007-03-13 삼성전자주식회사 움직임 추정 장치 및 방법
US20080018788A1 (en) * 2006-07-20 2008-01-24 Samsung Electronics Co., Ltd. Methods and systems of deinterlacing using super resolution technology
GB2444991A (en) * 2006-12-21 2008-06-25 Tandberg Television Asa Method of selecting quantizer values in video compression systems
CN101534445B (zh) * 2009-04-15 2011-06-22 杭州华三通信技术有限公司 一种视频处理方法和系统以及解交织处理器
GB2469679B (en) 2009-04-23 2012-05-02 Imagination Tech Ltd Object tracking using momentum and acceleration vectors in a motion estimation system
US20110176000A1 (en) * 2010-01-21 2011-07-21 Utah State University System and Method for Counting People
KR101394468B1 (ko) * 2013-11-12 2014-05-14 주식회사 아나패스 블록의 불연속도 연산방법 및 이를 이용한 폴백 수행 방법

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE4028191A1 (de) * 1990-09-05 1992-03-12 Philips Patentverwaltung Schaltungsanordnung zum erkennen eines menschlichen gesichtes
CA2092076A1 (en) * 1990-09-20 1992-03-21 Graham Alexander Thomas Video image processing
WO1992021210A1 (en) 1991-05-23 1992-11-26 Nippon Hoso Kyokai Method for detecting moving vector and apparatus therefor, and system for processing image signal using the apparatus
ES2097211T3 (es) 1991-06-21 1997-04-01 Byung Hoon Han Nuevos conjugados acido salicilico-maltol.
EP0647919B1 (en) 1993-10-11 2000-02-02 THOMSON multimedia Method and apparatus for correcting motion vectors
SG50718A1 (en) 1993-10-11 1998-07-20 Thomson Multimedia Sa Method and apparatus for correcting motion vectors
US6091460A (en) * 1994-03-31 2000-07-18 Mitsubishi Denki Kabushiki Kaisha Video signal encoding method and system
US5768404A (en) * 1994-04-13 1998-06-16 Matsushita Electric Industrial Co., Ltd. Motion and disparity estimation method, image synthesis method, and apparatus for implementing same methods
EP0720384B1 (en) * 1994-12-30 1999-10-27 Daewoo Electronics Co., Ltd Block matching motion estimation apparatus employing a weight function
EP0735747B1 (en) * 1995-03-31 1999-11-03 THOMSON multimedia Method and apparatus for motion compensated frame rate upconversion
GB2311184A (en) 1996-03-13 1997-09-17 Innovision Plc Motion vector field error estimation
US5784115A (en) * 1996-12-31 1998-07-21 Xerox Corporation System and method for motion compensated de-interlacing of video frames
US6014181A (en) * 1997-10-13 2000-01-11 Sharp Laboratories Of America, Inc. Adaptive step-size motion estimation based on statistical sum of absolute differences
JP2001245303A (ja) * 2000-02-29 2001-09-07 Toshiba Corp 動画像符号化装置および動画像符号化方法
US6876703B2 (en) * 2000-05-11 2005-04-05 Ub Video Inc. Method and apparatus for video coding
US6847406B2 (en) * 2000-12-06 2005-01-25 Koninklijke Philips Electronics N.V. High quality, cost-effective film-to-video converter for high definition television
US20020196854A1 (en) * 2001-06-15 2002-12-26 Jongil Kim Fast video encoder using adaptive hierarchical video processing in a down-sampled domain
JP2005506626A (ja) * 2001-10-25 2005-03-03 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 動き推定ユニット及び方法並びにかような動き推定ユニットを備えた画像処理装置

Also Published As

Publication number Publication date
EP1440581A2 (en) 2004-07-28
CN100385953C (zh) 2008-04-30
WO2003007618A3 (en) 2004-05-27
US20040190623A1 (en) 2004-09-30
US8406302B2 (en) 2013-03-26
KR20030029966A (ko) 2003-04-16
EP1440581B1 (en) 2014-10-08
JP2004537112A (ja) 2004-12-09
WO2003007618A2 (en) 2003-01-23
CN1636406A (zh) 2005-07-06
KR100913846B1 (ko) 2009-08-26
ES2526340T3 (es) 2015-01-09

Similar Documents

Publication Publication Date Title
JP4299123B2 (ja) 動き推定のための装置及び方法並びに斯かる動き推定装置が備えられた画像処理装置
US6307888B1 (en) Method for estimating the noise level in a video sequence
US6141056A (en) System for conversion of interlaced video to progressive video using horizontal displacement
US7920627B2 (en) Motion estimation employing adaptive spatial update vectors
EP2227785B1 (en) Temporally smoothing a motion estimate
EP1592248B1 (en) Motion vector estimation employing adaptive temporal prediction
US7693218B2 (en) Motion vector estimation with improved motion vector selection
US20040252764A1 (en) Motion vector generation apparatus and method
JP2005287048A (ja) 画像境界における動きベクトル検出の改良
US20090115909A1 (en) Method and System for Motion Estimation Around a Fixed Reference Vector Using a Pivot-Pixel Approach
US20060045365A1 (en) Image processing unit with fall-back
US20030081682A1 (en) Unit for and method of motion estimation and image processing apparatus provided with such estimation unit
JP2011509617A (ja) 超解像ビデオ処理のためのスパースジオメトリー
KR20050012766A (ko) 현재 모션 벡터 추정을 위한 유닛 및 모션 벡터 추정 방법
US20140028911A1 (en) Interpolation of images
EP1472881B1 (en) Unit for and method of estimating a current motion vector
KR20050012768A (ko) 현재 모션 벡터를 추정하는 유닛 및 방법
US20060098886A1 (en) Efficient predictive image parameter estimation
US8565309B2 (en) System and method for motion vector collection for motion compensated interpolation of digital video
US7881500B2 (en) Motion estimation with video mode detection
US20080144716A1 (en) Method For Motion Vector Determination
US8451900B2 (en) System and method for global motion estimation using profile matching
JP5448983B2 (ja) 解像度変換装置及び方法、走査線補間装置及び方法、並びに映像表示装置及び方法
US6463164B1 (en) Motion vector estimation based on statistical features of an image frame
US20070036466A1 (en) Estimating an edge orientation

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050620

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20080312

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20080804

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080819

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20081114

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20081121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090331

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090416

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120424

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120424

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120424

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130424

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130424

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140424

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees