JP4711712B2 - 行ベクトルおよび列ベクトルを用いた動きベクトル検出 - Google Patents

行ベクトルおよび列ベクトルを用いた動きベクトル検出 Download PDF

Info

Publication number
JP4711712B2
JP4711712B2 JP2005096240A JP2005096240A JP4711712B2 JP 4711712 B2 JP4711712 B2 JP 4711712B2 JP 2005096240 A JP2005096240 A JP 2005096240A JP 2005096240 A JP2005096240 A JP 2005096240A JP 4711712 B2 JP4711712 B2 JP 4711712B2
Authority
JP
Japan
Prior art keywords
vector
motion
block
row
column
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005096240A
Other languages
English (en)
Other versions
JP2005287047A (ja
Inventor
フープリッヒ ラルフ
エックハードット ミヒャエル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Publication of JP2005287047A publication Critical patent/JP2005287047A/ja
Application granted granted Critical
Publication of JP4711712B2 publication Critical patent/JP4711712B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02DFOUNDATIONS; EXCAVATIONS; EMBANKMENTS; UNDERGROUND OR UNDERWATER STRUCTURES
    • E02D29/00Independent underground or underwater structures; Retaining walls
    • E02D29/12Manhole shafts; Other inspection or access chambers; Accessories therefor
    • E02D29/14Covers for manholes or the like; Frames for covers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mining & Mineral Resources (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Life Sciences & Earth Sciences (AREA)
  • Environmental & Geological Engineering (AREA)
  • Paleontology (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、動き検出の改良に関する。より具体的には、本発明は、映像シーケンスにおける画像ブロック間の動きベクトルを検出するための方法、および、それに相当する動き検出回路に関する。
動き検出の応用範囲は、特に、最新のテレビジョン受像機のデジタル信号処理において増加している。具体的には、最新のテレビジョン受像機は、特にアップコンバージョンまたは動き補償後のアップコンバージョンの形式で、再生画像の品質を向上させるためにフレームレートの変換を行う。例えば、フィールド周波数またはフレーム周波数が50Hzの映像シーケンスに対して動き補償後アップコンバージョンを行うと、60Hz、66.67Hz、75Hzまたは100Hz等のような、より高い周波数に変換される。50Hzの入力信号周波数は主として、PALまたはSECAMに基づくテレビジョン放送に用いられるが、NTSCの映像信号の入力信号周波数は60Hzである。60Hzの入力信号周波数は、72Hz、80Hz、90Hzまたは120Hz等、より高い周波数にアップコンバートされる場合がある。
アップコンバート時には、50Hzまたは60Hzの入力ビデオシーケンスでは表されない時間位置のビデオコンテンツを反映する中間画像が生成される。この目的のためには、移動オブジェクトの動きによって生じる後続の画像間の変化を適切に反映するために、そのオブジェクトの動きを考慮する必要がある。オブジェクトの動きは、ブロック単位で算出され、動き補償は、前後の画像間に新たに生成された画像の相対的時間位置に基づいて実行される。
動きベクトル決定のために、各画像は複数のブロックに分割される。前の画像とのオブジェクトの位置変化を検出するために、各ブロックに対して動き検出が行われる。所定の検索範囲内で前の画像内でベストマッチのブロックを検出するための時間を要する全検索アルゴリズムは、好ましくは、複数の所定の候補ベクトルを用いることによって回避される。これらの候補ベクトルの組は、所定の最も適切な動きベクトルを多数含む。
動きベクトルは、候補ベクトルの各々について計算された誤差値に基づいて候補ベクトルから選択される。この誤差は、現在のブロックと、個々の候補ベクトルに応じて選択された前の画像内の候補ブロックとの一致度を評価する。最小の誤差を有する、最も一致するベクトルが現在のブロックの動きベクトルとして選択される。現在のブロックと前のブロックとの類似度の尺度として、差分絶対和(Summed Absolute Differences:SAD)を用いても構わない。
所定の候補ベクトルの組は、現在の画像の隣接するブロックについてすでに決定された候補ベクトルとして、前の画像内において同様の位置等にあるブロックについて決定された動きベクトルを含んでいても構わない。
下記の非特許文献1には、グローバル動きベクトルを候補ベクトルとして算出することが記載されている。このグローバル動きベクトルは、画像の全てのブロックに共通した動きを反映する。
下記の特許文献1にはさらに、複数の候補ベクトルが記載されており、これら候補ベクトルは、今回の画像が有する周辺ブロックに基づいている。また、これらベクトルの長さおよび方向は、ランダムな大きさを有する最新のベクトルを加算することで修正される。今回のブロックの動きベクトルとしてのベクトル種別の選択は、各SADに対する所定のペナルティ値を加算することで制御される。ペナルティ値が加算されると、今回のブロックの動きベクトルとして選ばれる見込みがそれぞれ減ることになる。
画像補間に加え、動き検出は、時間的な冗長さを利用するために、映像の符号化中にも用いられる。この目的のため、複数の映像符号化規格が開発されており、H.26xまたはMPEG−xのような符号化規格が広く用いられている。
ジェラルド・デ・ハーン(Gerard de Haan)他 「エフィシエント トゥルー モーション エスティメータ ユージング キャンディデイト ベクトル フロム パラメトリック モーション モデル(An Efficient True−Motion Estimator Using Candidate Vectors from a Parametric Motion Model)」 アイトリプルイー トランザクション オン サーキッツ アンド システムズ フォー ビデオ テクノロジー(IEEE Transactions on Circuits and Systems for Video Technology), vol.8, No.1 1998年2月 欧州特許出願公開EP 0578290
本発明は、動き検出をさらに改良し、動きベクトルを決定するために改良された方法および動き検出回路を提供することを目的とする。
上記目的は、独立形式の請求項により達成される。
本発明の第1の局面によれば、映像画像のシーケンスにおける現在の画像を構成するブロックについて動きベクトルを決定する方法が提供される。各ビデオ画像は、複数のブロックに分割される。動きベクトルは、ビデオ画像のシーケンスにおいて先行する画像におけるブロックの行および列を構成するブロック全てについて決定される。ブロックの行および列は、現在の画像における現在のブロックに対応する位置に位置するブロックを含む。決定された行動きベクトルまたは列動きベクトルを、前記現在のブロックに割り当てられる。
本発明のさらなる局面によれば、ビデオ画像のシーケンスにおける現在の画像を構成するブロックについて、動きベクトルを決定する動き検出回路が提供される。各ビデオ画像は、複数のブロックに分割されている。計算ユニットは、ビデオ画像のシーケンスにおいて先行する画像におけるブロックの行および列を構成するブロック全てについて動きベクトルを決定する。ブロックの行および列は、現在の画像における現在のブロックに対応する位置に位置するブロックを含んでいる。セレクタは、決定された行動きベクトルまたは列動きベクトルを、前記現在のブロックに割り当てる。
本発明の具体的な局面では、ビデオ画像におけるブロックの行または列における顕著な動きを表す動き検出のための候補ベクトルが提供される。画像全体に適用できず、その結果、グローバル動きベクトルにより表現できない大きなオブジェクトの動きを、このような動きベクトルは検出することができる。先行する画像における行または列のブロック全てを用いることにより、行または列について顕著な動きは正確に検出され得る。
好ましくは、先行する画像から得られた動きベクトルだけが、所定の閾値を超える行動きベクトルまたは列動きベクトルの決定に考慮される。従って、やや小さい動きベクトルのランダム的な分布を実効的に排除され、行動きベクトルまたは列動きベクトルの決定に考慮されない。この目的のために用いられる好ましい閾値は、行方向または列方向への各ブロック長の1/3および2/3の間の動きベクトルの長さに対応し、最も好ましくは、各ブロック長の本質的に1/2の長さに対応する。
閾値は、2以上に設定されることが好ましく、さらに好ましくは、4画素であり、ブロックサイズに無関係である。好ましくは、閾値は、8画素を超える値に設定されない。従って、信頼できないベクトルは、行ベクトルまたは列ベクトルの算出から実効的に排除される。
好ましい実施形態によれば、行動きベクトルまたは列動きベクトルは、先行する画像における行または列それぞれのブロック動きベクトルの数が、所定の閾値を超える場合に決定されるだけである。これによって、行または列動きベクトルの検出の信頼性が上がる。特に、完全な行または完全な列を構成するブロックの割合は小さく、このような小さな割合に基づく動きベクトルの算出は実質的に避けられる。
好ましくは、行または列の動き検出に必要なブロックの最小数は、行または列について最大ブロック数の1/4および3/4の間の値に、最も好ましくは、本質的に、行または列について、最大ブロック数の1/2に相当する。PAL規格の画像であり、ブロック幅が8画素の場合、最低45の動きベクトルが、ブロックの列についての動きベクトルに考慮されなければならない。また、PAL規格の画像であり、ブロックの高さが8画素の場合、最低36の動きベクトルが、ブロックの列についてのベクトルに要求される。
好ましくは、所定の閾値は、行動きベクトルおよび列動きベクトルについて異なるように設定される。
また、好ましい実施形態によれば、動き検出は、現在のブロックについて最も一致度合いの高いベクトルを決定するために、前記行動きベクトルまたは前記列ベクトルを含む複数の候補ベクトルに基づいて実行される。それぞれが動き検出に用いられる動きベクトルについて限定された組に基づいて、動きベクトルの決定は、最小限のハードウェアの負担および最低限の計算を用いるだけで実行可能であり、信頼できる結果が得られる。
行方向または列方向に起こりうる動きを確実に検出するために、両方の動きベクトルが候補ベクトルにそれぞれ含まれる。
動きベクトルを決定するための全検索に対し、動き検出は好ましくは、現在のブロックと同一のブロック位置を指示するゼロ動きベクトル、現在のブロックに隣接するブロックについて決定され、更新ベクトルを加算することでベクトル長が変化するベクトル、および先行する画像のブロックについて決定される動きベクトルのうち、少なくとも1つを含む候補ベクトルに基づく。
好ましくは、現在の画像に隣接するブロックは、現在のブロックがある同列または同行に含まれるブロックである。
好ましくは、更新ベクトルは、算出された動きベクトルにオフセット値を加算する。ここで、オフセット値は、オフセット値の固定的な組である。代替的に、オフセット値は、ランダムなまたは擬似ランダムな値である。従って、現在のブロックに対する候補ベクトルの動きからの小さな動きの変化は実効的に考慮される。
好ましくは、行動きベクトルまたは列動きベクトルは、先行する画像から得られる2つの隣り合う2つの行または列の動きベクトルに基づいて算出される。この方法により、以下の2つの技術的効果の双方またはそれぞれを奏することができる。第1に、大きな範囲にわたる動きが確実に検出される。第2に、画像毎に算出されるべき動きベクトルの個数が減るのと同様に、行/列ベクトルの決定に必要なコンピュータの負担も大きく削減される。同様に、候補ベクトルとして用いられる単一の動きベクトルを算出するために、例えば3、4または5のように、2を超える行または列を組み合わせることができる。
本発明の好適な実施形態は、従属請求項に記載の発明に対応する。
本発明の上記および他の目的および特徴は、以下の説明、および添付の図面と共に与えられる好適な実施形態からより明らかとなる。
本発明は、デジタル信号処理に関し、具体的には、最近のテレビジョン受像機に関する。最新のテレビジョン受像機は、再生画像の品質向上のために、アップコンバージョンアルゴリズムを採用している。この目的のために、後の2画像から中間画像が生成されている。中間画像を生成するために、移動オブジェクトの動きは、補間画像により表される時点におけるオブジェクトを適切な位置に適合させるよう考慮されなければならない。
動き検出は、ブロック単位で実行される。この目的のために、受信画像のそれぞれは、例えば図4に図示されるように、複数のブロックに分割される。今回のブロックのそれぞれは、前の画像においてベストマッチのブロックを判定することによる動き検出に向けられる。
所定の範囲内で、時間のかかる全検索を避けるために、限られた候補ベクトルの組のみが動き検出器に与えられる。これらの候補ベクトルから、動き検出器は、所定のベクトルを選択する。所定のベクトルは、過去の画像の各ブロックから、今回のブロックを最低限の偏差で評価することができる。
図4は、所定の大きさを有する複数のブロックB(x,y)にビデオ画像が分割されることを示す。各ブロックは、幅Xおよび高さYを有する。ここで、XおよびYは、行方向および列方向の画素数を表す。行方向または列方向のブロックの数は、次式を用いることで算出できる。
max=行方向の画素数/X
max=列方向の画素数/Y
これらブロックのそれぞれについて、動きベクトルは、相違する複数の候補ベクトルからが算出される。従来の候補ベクトルの組は例えば、下記のような動きベクトルを含む。
Figure 0004711712
ここで、nは、現在のフィールドを示し、n−1は、前のフィールドを示す。また、uは、更新ベクトルを示す。
上記7個の式から理解できるように、候補ベクトルは、ゼロベクトルである動きベクトル(C1 )、空間予測に向けられた隣接ブロックの動きベクトル(C2 ,C3 )および/または時間予測に向けられた前の画像の動きベクトル(C6 ,C7 )を含んでいても構わない。
空間予測は、空間予測ベクトルC2 およびC3 に積算される更新ベクトルを使うことで改良されうる。選択された候補ベクトルに対する移動オブジェクトの小さな変化を考慮するために、更新ベクトルは、新たな候補ベクトルC4 およびC5 を生成するために動きベクトルに応用される。上記において、更新ベクトルuは、候補ベクトルC2 およびC3 にのみ応用されるとして説明したが、例えば候補ベクトルC6 およびC7 のような他の候補ベクトルに対し同様に応用されても構わない。
上述した時間予測ベクトルC6 およびC7 には、2ブロックのオフセットを有する候補ベクトルが利用されるとしたが、2ブロックのオフセットの代わりに、オフセットを用いなかったり、例えば1ブロックまたは3ブロックのような他のオフセットが用いられたりしても構わない。
時間予測ベクトルは現在の画像および前の画像に関し説明したが、画像は、インターレース方式の映像シーケンスが有するフィールドに関連していたり、プログレッシブ方式の映像シーケンスが有するフレームに関連していたりしても構わない。同様に、生成される中間画像が、映像シーケンスの種類に依存してフィールドまたはフレームである場合もある。
さらに、複数の候補ベクトルは、上述したもの全てにより完成するものでも無く、さらには、全てを含まなくても良い。他の候補ベクトルの組が、今回のブロックに最もマッチングがとれた動きベクトルを判定するために用いられても構わない。
また、候補ベクトルのそれぞれに対し予測誤差は、ベストマッチの動きベクトルを判定するために算出され評価される。予測誤差として、SAD(Sum of Absolute Differences)が測定される。その候補ベクトルは、最小のSADを有するブロックの動きを最も良く表すよう選ばれ考慮される。
動きベクトルの候補C1 からC7 のいくつかが他の候補ベクトルに対し優先される場合、プログラム可能なペナルティが、個々の候補向けに測定されたSADに加算されても構わない。この場合、特定の候補を選ぶことで、優先化される。好ましくは、ペナルティ値は、動きベクトルの候補C4 およびC5 向けの更新ベクトルuの長さに比例する。
上述した候補ベクトルに加え、グローバル動きベクトルがさらに考慮されても構わない。グローバル動きベクトルは、ビデオ画像の全ブロックに適用可能な動きを表す。このような動きベクトルは、カメラパンに適切に応用される。
上述の候補ベクトルC1 からC7 は、ブロック単位の動きベクトルを表すが、グローバル動きベクトルは、完全な画像に応用されるだけである。画像において複数のブロックに及ぶ大きなオブジェクトは、単一のブロック単位の動き検出または全体の動き検出により適切に表現されない。グローバル動き検出は、全ブロックが一定の動きにより変化する場合に応用されるのみであるが、個々のブロックの動きは、少数の画素に基づいて算出されるのみであり、従って、算出された動きベクトルは、単一のブロック向けに正確な動き検出の判定に悪影響を与える雑音が重畳されるとかなり相違する場合がある。
本発明は、大きな移動オブジェクトの動き検出の精度を上げることにより、信頼できる動きベクトルを判定するための良好なアプローチを提供する。このようなオブジェクトの例が図1、2および3に示されている。図1は、画像において複数の行ブロックに及ぶ移動オブジェクトを示す。図2は、画像コンテンツに合成され、かつ画像から独立して移動する、別々のテキストを例示する。図3は、縦方向に画像を通過する映画のクレジットを例示する。これら全ての例は、個々のブロックよりもはるかに大きい画像領域をカバーする動きに関連するが、画像を完全にカバーしない。
より大きな画像領域を含む全ブロックの均等な動きをより精度良く決定可能にするために、本発明は、完全な行ブロックおよび完全な列ブロックの動きを表す、付加的な候補ベクトルC8 およびC9 を提案する。行方向または列方向に顕著な数のブロックの動きを表す場合、行候補ベクトルまたは列候補ベクトルは、この行方向または列方向に最も大きなオブジェクトの動きに対応する。これらブロックについて動きをより正確に表現することにより、行候補ベクトルまたは列候補ベクトルは、それらの画像領域について最も適切な動き検出として選択される。個々のブロックのために、それら候補ベクトルは適用されず、個々のブロックには、適切な動きベクトルとして、他のいずれかが選ばれても構わない。
本発明により導入された候補ベクトルは、下記の式により表現されることもできる。
Figure 0004711712
図6および図7は、図1および図3に示す動画コンテンツ向けの行動きベクトルおよび列動きベクトルをそれぞれ示す。
行候補ベクトルC8 および列候補ベクトルC9 の計算について、以下詳説する。
現在の画像n(フィールドまたはフレーム)についての動きベクトルの決定が終了するとすぐに、個々の行および列ベクトルの算出が開始される。算出された行および列ベクトルは、次のフィールドまたはフレームの動き検出時に用いられる。
まず、長さが短い動きベクトルは考慮に入れない。この目的のため、各ブロックの動きベクトルvを所定の閾値vthrと比較する。その結果は、各ブロックに割り当てられた2進「vecthr」フラグに反映される。このフラグは、式(1)で示されるように算出される。
Figure 0004711712
好ましくは、画像nの全てのブロックについて決められた動きベクトルの組については、所定の閾値vthrを超えない動きベクトルが0(0;0)に設定されるように変更される。この変更は式(2)によって反映される。
Figure 0004711712
式(2)に従って、閾値弁別されたベクトルvthresholdedが算出される。この閾値弁別されたベクトルは、前に算出されたフラグ(式(1)参照)が0であれば、0に設定される。その他の場合には、決定されたベクトルvが、閾値弁別されたベクトルvthresholdedに割り当てられる。
行または列ベクトルの算出のために、好ましくは、残りの(閾値化された)0以外のベクトルの平均値が算出される。しかしながら、当業者は、複数の行動きベクトルおよび複数の列動きベクトルの個々に共通した動きベクトルを表す動きベクトルを決定するために、任意の他のアルゴリズムを適用し得る。
行および列ベクトルの算出には、個々のブロック長、および閾値vthrを超えるブロック数が、以下の式(3)〜式(6)に示されるように累算される。
Figure 0004711712
行および列ベクトルvline,vcolumnは、以下の式(7)および式(8)に従って算出される。動きベクトルは、行または列の所定の閾値vthrを超えるブロック数が他の所定の閾値nthrlineまたはnthrcolumnを超える場合にのみ算出される。
Figure 0004711712
これら算出された行ベクトルおよび列ベクトルは、動き検出の間、候補ベクトルC8 およびC9 として、以下のフィールド/フレームに用いられる。
上記閾値vthr、nthrline、nthrcolumnに関して、好ましくは、以下の値が用いられる。
Figure 0004711712
ここで、xmax およびymax は、フィールドまたはフレーム全体の幅/高さを表す。これらの値は、好ましくは、8×8ピクセルのブロックサイズに用いられる。
上記説明では、行ベクトルおよび列ベクトルが個々の行および列の各々について算出されるものとして仮定しているが、共通の動きベクトルがさらにまたは代わりに2つの行または2つの列の組み合わせについて算出されてもよい。2つの行または2つの列に対する動きベクトルは、2つの行または2つの列内の主要な動きを示すオブジェクトに対する動き精度をさらに向上し得る。
複数の行または複数のラインの組み合わせにより引き起こされる重なりを避ける場合において、ハードウェアは簡素化される場合がある。
同様に、各大きさのオブジェクトについて、より正確な動きベクトルを提供するために、3行または3列以上(例えば、3、4または5の場合)を組み合わせても構わない。
閾値ベクトルvthrは、行ベクトルおよび列ベクトルの計算のために均等に設定されるとして説明したが、行および列で異なる閾値が用いられても構わない。さらに、閾値ベクトルvthrは、動きベクトルの水平方向成分および鉛直方向成分向けの2個の閾値に分離されても構わない。
本発明は、中間画像の補間、特に、最新のテレビジョン受像機におけるフレームレート変換に当てはめて前述したが、本発明のような改良された動き検出は、映像データの圧縮において対応する手法に応用されても構わない。
映像データの圧縮は、一般的に、多くの工程を費やしている。個々の画像それぞれは、、ブロックレベルで各画像をデータ圧縮するために、複数の画素からなる複数のブロックに分割される。このようなブロック分割は、図4に示すような分割に対応していても構わない。画像における空間的な冗長さは、空間領域から周波数領域に各ブロックを構成する画素を変換するための変換処理により削減される。その結果得られる変換係数は量子化され、さらに、量子化された変換係数は、エントロピー符号化の対象となる。
さらに、後続の画像のブロック間の時間的従属性は、後続の画像間の差分を送信するためだけに使われる。これは、動き検出/補償技術を用いることにより実現される。時間的従属性は、統計型符号化と共に時間圧縮および空間圧縮技術を組み合わせたいわゆるハイブリッド符号化技術を実行する際に用いられる。
図5には、ハイブリッド映像符号化器が例示されている。参照符号「500」で一般的に示す映像符号化器は、減算器510をまず備える。減算器510は、今回のビデオ画像と、動き補償されかつ先行して符号化され画像に基づく今回の画像の予測信号との差分を決定する。変換/量子化ユニット520は、空間領域から周波数領域へと予測誤差を変換し、そうして得られた変換係数を量子化する。エントロピー符号化ユニット590は、量子化された変換係数をエントロピー符号化する。
符号化器500は、入力ビデオシーケンスの後続画像間の差分だけを送信する差分パルス符号変調(Differential Pulse Code Modulation:DPCM)を用いる。これら差分は、符号化されるべきビデオ画像と、減算されるべき予測信号とを受け取る減算器510により決定される。
予測信号は、デコーダ側で先行して符号化された画像の復号結果に基づく。画像の復号は、映像符号化器に組み込まれる復号ユニットにより実行される。復号ユニットは、符号化ステップと反対の処理を実行する。逆量子化/逆変換ユニット530は、量子化された係数を逆量子化し、逆量子化された係数を逆変換する。加算器535は、復号された差分と予測信号とを積算する。
予測信号は、現在および先行のフィールドまたはフレーム間の動きを検出した結果として得られる。動き検出は、現在の入力信号および内部で復号された画像とを受信する動き検出器570により実行される。動き検出は好ましくは、本発明に従って実行される。動き検出の結果に基づき、動き補償は、動き補償器560により実行される。
要約すると、本発明は、動き検出のための改良された方法を提供する。動き検出の間選択されるべき付加的な候補ベクトルとしては、ビデオ画像のブロックで構成される各行または各列について顕著な動きを表す行ベクトルまたは列ベクトルが算出される。このような行動きベクトルまたは列動きベクトルは、より大きな画像オブジェクトの動きをより正確に決定することを可能にし、それに対応して、テレビジョン受像機または映像符号化器における補間処理の改良を可能にする。
本発明に係る動きベクトル検出は、より正確な動きベクトルを決定することが要求されるテレビジョン受像機または映像符号化器等に有用である。
図1は、大きな移動オブジェクトを含むビデオ画像を例示する。 図2は、ビデオコンテンツに、水平方向に動く、かちかちいう物体が合成される領域を有するビデオ画像を例示する。 図3は、垂直方向に動くテキストを含むビデオ画像を例示する。 図4は、動き検出および動き補償のために、所定の大きさを有する複数のブロックにビデオ画像を分割することを示す。 図5は、動き検出を含む複合型ビデオエンコーダの構成例を示す。 図6は、図3のビデオ画像における中央縦列のブロックの顕著な動きを示す縦方向の動きベクトルを示す。 図7は、図1のビデオ画像における中央横列のブロックの顕著な動きを示す横方向の動きベクトルを示す。
510 減算器
520 変換/量子化ユニット
530 逆変換/逆量子化ユニット
535 加算器
560 動き補償器
570 動き検出器
590 エントロピー符号化ユニット

Claims (34)

  1. それぞれが複数のブロックに分割されているビデオ画像のシーケンスにおける現在の画像を構成する対象ブロックについて、動きベクトルを決定するための方法であって、
    記ビデオ画像のシーケンスにおける先行する画像において、前記対象ブロックと水平方向の位置が同じブロック全体から構成される行の各ブロックの動きベクトル、及び前記対象ブロックと垂直方向の位置が同じブロック全体から構成される列の各ブロックの動きベクトルが所定の閾値を超えるか否かを比較し、
    前記動きベクトルのうち、前記所定の閾値を超える動きベクトルの数をカウントし、
    前記所定の閾値を超える動きベクトル数を、所定の数と比較し、
    前記行毎または前記列毎にカウントされた数が前記所定の数以上の場合に限り、前記列の動きベクトルである列ベクトルまたは前記行の動きベクトルである行ベクトルを決定する決定ステップと、
    記決定された行ベクトルまたは列ベクトルを含む複数の候補ベクトルの中から、動きベクトルを選択することによって、記動きベクトルを前記対象ブロックに割り当てる割り当てステップと
    を含む、方法。
  2. 前記所定の閾値は、行ベクトルおよび列ベクトル毎に異なる、請求項に記載の方法。
  3. 前記所定の閾値は、ブロックの行方向の長さまたはブロックの列方向の長さの1/3および2/3の間の長さに対応する、請求項またはに記載の方法。
  4. 前記所定の閾値は、ブロックの行方向の長さまたはブロックの列方向の長さの1/2の長さに対応する、請求項1〜3のいずれかに記載の方法。
  5. 前記所定の閾値は2以上の画素である、請求項1〜4のいずれかに記載の方法。
  6. 前記所定の数は、行方向のブロックまたは列方向のブロックの総数に対し、1/4および3/4の間の値である、請求項に記載の方法。
  7. 前記所定の数は、行方向のブロックまたは列方向のブロックの総数に対し、1/2の値を有する、請求項またはに記載の方法。
  8. 個々の前記行の前記行ベクトルを決定するにあたり、前記所定の数は、PAL規格に従う画像の水平方向に8画素のブロック長の場合、45の値を有する、請求項1、6、7のいずれかに記載の方法。
  9. 個々の前記列の前記列ベクトルを決定するにあたり、前記所定の数は、PAL規格に従う画像の垂直方向に8画素のブロック長の場合、36の値を有する、請求項1、6〜8のいずれかに記載の方法。
  10. 前記候補ベクトルはさらに、
    前記現在のブロックと同一のブロック位置を指示するゼロ動きベクトル、
    前記現在のブロックに隣接するブロックについて決定される動きベクトル、
    前記現在のブロックに隣接するブロックについて決定され、更新ベクトルを加算することでベクトル長が変化するベクトル、および
    前記先行する画像のブロックについて決定される動きベクトルのうち、
    少なくとも1つの動きベクトルを含む、請求項に記載の方法。
  11. 現在の画像において前記隣接するブロックは、動きベクトルが既に決定されている同じ列にあるブロックまたは同じ行にあるブロックである、請求項10に記載の方法。
  12. 前記更新ベクトルは、ランダムなまたは擬似ランダムなオフセット値を、算出された動きベクトルに加算する、請求項11に記載の方法。
  13. 前記オフセット値は、予め格納された一連のオフセット値から順次与えられる、請求項12に記載の方法。
  14. 前記行または列ベクトルは、先行する画像において少なくとも2個の隣り合う前記行または前記列に基づいて算出される、請求項1〜13のいずれかに記載の方法。
  15. 前記割り当てステップは、
    候補動きベクトルそれぞれの予測誤差を算出する算出ステップと、
    最も小さい予測誤差が算出された候補動きベクトルから、動きベクトルを選択する選択ステップとを備える、請求項1〜14のいずれかに記載の方法。
  16. 請求項1〜15のいずれかに記載の動き検出方法を用いた動き補償を含むビデオ画像のシーケンスを符号化する方法。
  17. 請求項1〜16のいずれかに記載の動き検出方法を用いた動き補償を含むビデオ画像のシーケンスを補間する方法。
  18. それぞれが複数のブロックに分割されているビデオ画像のシーケンスにおける現在の画像を構成する対象ブロックについて、動きベクトルを決定するための動き検出回路であって、
    記ビデオ画像のシーケンスにおける先行する画像において、前記対象ブロックと水平方向の位置が同じブロック全体から構成される行の各ブロックの動きベクトル、及び前記対象ブロックと垂直方向の位置が同じブロック全体から構成される列の各ブロックの動きベクトルが所定の閾値を超えるか否かを比較し、
    前記動きベクトルのうち、前記所定の閾値を超える動きベクトルの数をカウントし、
    前記所定の閾値を超える動きベクトル数を、所定の数と比較し、
    水平方向毎または垂直方向毎にカウントされた数が前記所定の数以上の場合に限り水平方向の動きベクトルまたは垂直方向の動きベクトルを決定し、
    前記行毎または前記列毎にカウントされた数が前記所定の数以上の場合に限り、前記列の動きベクトルである列ベクトルまたは前記行の動きベクトルである行ベクトルを決定する計算ユニットを備え、
    記決定された行ベクトルまたは列ベクトルを含む複数の候補ベクトルの中から、動きベクトルを選択することによって、記動きベクトルを前記対象ブロックに割り当てるセレクタをさらに備える、回路
  19. 前記所定の閾値は、行ベクトルおよび列ベクトル毎に異なる、請求項18に記載の動き検出回路。
  20. 前記所定の閾値は、ブロックの行方向の長さまたはブロックの列方向の長さの1/3および2/3の間の長さに対応する、請求項18または19に記載の動き検出回路。
  21. 前記所定の閾値は、ブロックの行方向の長さまたはブロックの列方向の長さの1/2の長さに対応する、請求項18または20に記載の動き検出回路。
  22. 前記所定の閾値は2以上の画素である、請求項18〜21のいずれかに記載の動き検出回路。
  23. 前記所定の数は、行方向のブロックまたは列方向のブロックの総数に対し、1/4および3/4の間の値である、請求項18に記載の動き検出回路。
  24. 前記所定の数は、行方向のブロックまたは列方向のブロックの総数に対し、1/2の値を有する、請求項18または24に記載の動き検出回路。
  25. 個々の前記行の前記行ベクトルを決定するにあたり、前記所定の数は、PAL規格に従う画像の水平方向に8画素のブロック長の場合、45の値を有する、請求項18、23、24のいずれかに記載の動き検出回路。
  26. 個々の前記列の前記列ベクトルを決定するにあたり、前記所定の数は、PAL規格に従う画像の垂直方向に8画素のブロック長の場合、36の値を有する、請求項18、23〜25のいずれかに記載の動き検出回路。
  27. 前記候補ベクトルはさらに、
    前記現在のブロックと同一のブロック位置を指示するゼロ動きベクトル、
    前記現在のブロックに隣接するブロックについて決定される動きベクトル、
    前記現在のブロックに隣接するブロックについて決定され、更新ベクトルを加算することでベクトル長が変化するベクトル、および
    前記先行する画像のブロックについて決定される動きベクトルのうち、
    少なくとも1つの動きベクトルを含む、請求項18に記載の動き検出回路。
  28. 現在の画像において前記隣接するブロックは、動きベクトルが既に決定されている同じ列にあるブロックまたは同じ行にあるブロックである、請求項27に記載の動き検出回路。
  29. 前記更新ベクトルは、ランダムなまたは擬似ランダムなオフセット値を、算出された動きベクトルに加算する、請求項28に記載の動き検出回路。
  30. 一連のオフセット値を格納するメモリをさらに備える、請求項29に記載の動き検出回路。
  31. 前記計算ユニットは、前記行または列ベクトルを、先行する画像において少なくとも2個の隣り合う前記行または前記列に基づいて決定する、請求項18〜30のいずれかに記載の動き検出回路。
  32. 前記セレクタは、
    候補動きベクトルそれぞれの予測誤差を算出する処理ユニットと、
    算出された予測誤差を比較し、最も小さい予測誤差を選択する比較器と、
    最も小さい予測誤差を有する候補動きベクトルから、動きベクトルを選択する選択ユニットとを備える、請求項18〜31のいずれかに記載の動き検出回路。
  33. 請求項18〜32のいずれかに記載の動き検出回路を用いた動き補償を含むビデオ画像のシーケンスを符号化する符号化回路。
  34. 請求項18〜33のいずれかに記載の動き検出回路を用いた動き補償を含むビデオ画像のシーケンスを補間する補間回路。
JP2005096240A 2004-03-30 2005-03-29 行ベクトルおよび列ベクトルを用いた動きベクトル検出 Expired - Fee Related JP4711712B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP04007696.0 2004-03-30
EP04007696A EP1583367A1 (en) 2004-03-30 2004-03-30 Motion estimation employing line and column vectors

Publications (2)

Publication Number Publication Date
JP2005287047A JP2005287047A (ja) 2005-10-13
JP4711712B2 true JP4711712B2 (ja) 2011-06-29

Family

ID=34878205

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005096240A Expired - Fee Related JP4711712B2 (ja) 2004-03-30 2005-03-29 行ベクトルおよび列ベクトルを用いた動きベクトル検出

Country Status (5)

Country Link
US (1) US7852937B2 (ja)
EP (1) EP1583367A1 (ja)
JP (1) JP4711712B2 (ja)
KR (1) KR20060044942A (ja)
CN (1) CN100452832C (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9225994B2 (en) * 2005-03-14 2015-12-29 British Telecommunications Public Limited Company Global motion estimation using reduced frame lines
KR100676704B1 (ko) * 2005-07-07 2007-02-01 삼성전자주식회사 움직임 추정장치 및 그 추정방법
JP5082933B2 (ja) * 2008-03-05 2012-11-28 パナソニック株式会社 動きベクトル検出回路、動きベクトル検出装置、及び集積回路
US20090225227A1 (en) * 2008-03-05 2009-09-10 Panasonic Corporation Motion vector detecting device
US8098733B2 (en) * 2008-03-10 2012-01-17 Neomagic Corp. Multi-directional motion estimation using parallel processors and pre-computed search-strategy offset tables
GB2469679B (en) * 2009-04-23 2012-05-02 Imagination Tech Ltd Object tracking using momentum and acceleration vectors in a motion estimation system
EP2407803A1 (en) * 2010-07-15 2012-01-18 The European Atomic Energy Community (EURATOM), represented by the European Commission Method for safely identifying moving objects
US9532066B2 (en) * 2011-01-21 2016-12-27 Qualcomm Incorporated Motion vector prediction
EP3136727B1 (en) 2011-04-12 2018-06-13 Sun Patent Trust Motion-video coding method and motion-video coding apparatus
TR201819396T4 (tr) 2011-05-27 2019-01-21 Sun Patent Trust Görüntü Kod Çözme Metodu Ve Görüntü Kod Çözme Cihazı
US9485518B2 (en) 2011-05-27 2016-11-01 Sun Patent Trust Decoding method and apparatus with candidate motion vectors
MX2013012209A (es) 2011-05-31 2013-11-01 Panasonic Corp Metodo de codificacion de video, aparato de codificacion de video, metodo de decodificacion de video, aparato de decodificacion de video y aparato de codificacion/decodificacion de video.
SG194746A1 (en) 2011-05-31 2013-12-30 Kaba Gmbh Image encoding method, image encoding device, image decoding method, image decoding device, and image encoding/decoding device
JP5937594B2 (ja) * 2011-06-30 2016-06-22 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 画像復号方法及び画像復号装置
AU2012291454B2 (en) 2011-08-03 2016-11-17 Sun Patent Trust Video encoding method, video encoding apparatus, video decoding method, video decoding apparatus, and video encoding/decoding apparatus
WO2013057877A1 (ja) 2011-10-19 2013-04-25 パナソニック株式会社 画像符号化方法、画像符号化装置、画像復号方法、および、画像復号装置
US9338461B2 (en) * 2013-02-04 2016-05-10 Mitsubishi Electric Research Laboratories, Inc Method and system for encoding collections of images and videos
US9300906B2 (en) * 2013-03-29 2016-03-29 Google Inc. Pull frame interpolation
CN115278228A (zh) * 2015-11-11 2022-11-01 三星电子株式会社 对视频进行解码的方法和对视频进行编码的方法
CN113207003B (zh) * 2021-04-15 2023-01-24 上海顺久电子科技有限公司 一种视频图像的运动估计方法及电子设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0578290A1 (en) * 1992-05-06 1994-01-12 Koninklijke Philips Electronics N.V. Motion estimation
JPH0746597A (ja) * 1993-07-30 1995-02-14 Toshiba Corp 動き補償予測符号化装置及び復号化装置
JPH11122621A (ja) * 1997-08-14 1999-04-30 Koninkl Philips Electron Nv モーションベクトルの計算方法
JP2000059786A (ja) * 1998-08-06 2000-02-25 Sony Corp 動き検出装置及び方法
WO2000070879A1 (en) * 1999-05-13 2000-11-23 Stmicroelectronics Asia Pacific Pte Ltd. Adaptive motion estimator

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5712474A (en) * 1993-09-29 1998-01-27 Canon Kabushiki Kaisha Image processing apparatus for correcting blurring of an image photographed by a video camera
US5731832A (en) * 1996-11-05 1998-03-24 Prescient Systems Apparatus and method for detecting motion in a video signal
AU5875098A (en) * 1997-02-04 1998-08-25 British Telecommunications Public Limited Company Processor
JP2891253B1 (ja) * 1997-12-10 1999-05-17 日本電気株式会社 画像圧縮処理装置
US6285711B1 (en) * 1998-05-20 2001-09-04 Sharp Laboratories Of America, Inc. Block matching-based method for estimating motion fields and global affine motion parameters in digital video sequences
JP2001285874A (ja) * 2000-03-28 2001-10-12 Nec Corp 動きベクトル探索装置、方法及びプログラムを記録した記録媒体
US20030123738A1 (en) * 2001-11-30 2003-07-03 Per Frojdh Global motion compensation for video pictures
SG111093A1 (en) * 2002-11-18 2005-05-30 St Microelectronics Asia Motion vector selection based on a preferred point

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0578290A1 (en) * 1992-05-06 1994-01-12 Koninklijke Philips Electronics N.V. Motion estimation
JPH0746597A (ja) * 1993-07-30 1995-02-14 Toshiba Corp 動き補償予測符号化装置及び復号化装置
JPH11122621A (ja) * 1997-08-14 1999-04-30 Koninkl Philips Electron Nv モーションベクトルの計算方法
JP2000059786A (ja) * 1998-08-06 2000-02-25 Sony Corp 動き検出装置及び方法
WO2000070879A1 (en) * 1999-05-13 2000-11-23 Stmicroelectronics Asia Pacific Pte Ltd. Adaptive motion estimator

Also Published As

Publication number Publication date
US20050243928A1 (en) 2005-11-03
CN1678023A (zh) 2005-10-05
CN100452832C (zh) 2009-01-14
KR20060044942A (ko) 2006-05-16
EP1583367A1 (en) 2005-10-05
US7852937B2 (en) 2010-12-14
JP2005287047A (ja) 2005-10-13

Similar Documents

Publication Publication Date Title
JP4711712B2 (ja) 行ベクトルおよび列ベクトルを用いた動きベクトル検出
JP4528662B2 (ja) 適応空間最新ベクトルを用いた動き検出
JP4724459B2 (ja) 適応時間予測を用いた動きベクトル検出
US7693218B2 (en) Motion vector estimation with improved motion vector selection
KR100971601B1 (ko) 비디오 스트리밍에서의 적응적 화상 그룹 구조
US7983493B2 (en) Adaptive overlapped block matching for accurate motion compensation
JP4001400B2 (ja) 動きベクトル検出方法及び動きベクトル検出装置
US8588513B2 (en) Method and system for motion compensation
JPH08228356A (ja) 画像を表す信号を処理するシステム
WO2005027526A1 (en) Video encoding method and scene cut detection method
US7092443B2 (en) Process and device for video coding using the MPEG4 standard
US8000386B2 (en) Method and device for image interpolation systems based on motion estimation and compensation
US20090202163A1 (en) Determination of optimal frame types in video encoding
JP2009152895A (ja) 符号量制御方法および装置、符号量制御プログラム、カメラシステム
JPS6171786A (ja) 動画像信号の動静分離装置
JP5407974B2 (ja) 動画像符号化装置及び動きベクトル検出方法
CN112383774B (zh) 编码方法、编码器以及服务器
JPH10210480A (ja) 動画像符号化方式
KR0160901B1 (ko) 경계 매칭 움직임 추정장치
JPH0670308A (ja) 動き補償フレーム間予測符号化装置
Slowack et al. Compensating for motion estimation inaccuracies in DVC
JPH10257497A (ja) インターレース動画像信号の動き補償予測方法及び符号化装置
JPH08181996A (ja) 動画像符号化装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101217

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110215

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110304

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110322

LAPS Cancellation because of no payment of annual fees