JP2004096752A - 動きベクトルを近似する方法、該方法を実行するコンピュータプログラム、該プログラムを記憶するデータ記憶媒体、該方法を実行するように適合した装置、及び該装置を備える受信機 - Google Patents

動きベクトルを近似する方法、該方法を実行するコンピュータプログラム、該プログラムを記憶するデータ記憶媒体、該方法を実行するように適合した装置、及び該装置を備える受信機 Download PDF

Info

Publication number
JP2004096752A
JP2004096752A JP2003301666A JP2003301666A JP2004096752A JP 2004096752 A JP2004096752 A JP 2004096752A JP 2003301666 A JP2003301666 A JP 2003301666A JP 2003301666 A JP2003301666 A JP 2003301666A JP 2004096752 A JP2004096752 A JP 2004096752A
Authority
JP
Japan
Prior art keywords
motion vector
vectors
vector
motion
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2003301666A
Other languages
English (en)
Inventor
Soroush Ghanbari
ソロウシュ・ガンバリ
Leszek Cieplinski
レスゼク・シープリンスキー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Elecric Information Technology Centre Europe BV
Mitsubishi Electric Information Technology Corp
Mitsubishi Electric R&D Centre Europe BV Netherlands
Original Assignee
Mitsubishi Elecric Information Technology Centre Europe BV
Mitsubishi Electric Information Technology Corp
Mitsubishi Electric Information Technology Center Europe BV Nederlands
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Elecric Information Technology Centre Europe BV, Mitsubishi Electric Information Technology Corp, Mitsubishi Electric Information Technology Center Europe BV Nederlands filed Critical Mitsubishi Elecric Information Technology Centre Europe BV
Publication of JP2004096752A publication Critical patent/JP2004096752A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • H04N19/895Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

【課題】失われたまたは損傷を受けた動きベクトルを近似して、損傷した画像ブロックを前フレームの動き補償されたブロックで置換する。
【解決手段】動きベクトルを近似する方法は、同じフレーム内の近接するブロック、ならびに1つまたは複数の先行フレーム内および/または後続フレーム内の対応するブロックおよびその近接するブロックの動きベクトルから第1のベクトルの組を導出することと、同じフレーム内の近接するブロック、ならびに1つまたは複数の先行フレーム内および/または後続フレーム内の対応するブロックおよびその近接するブロックの動きベクトルのうちの1つまたは複数の動きベクトルから候補ベクトルの組を導出することと、上記第1のベクトルの組を分析することと、上記候補ベクトルの1つを、上記分析に基づいて選択することとを含む。
【選択図】図6

Description

 本発明は、画像データを処理する方法および装置に関する。特に、本発明は、画像データを処理して、例えば、送信または記録もしくは格納の結果として、発生するエラーを補償する方法に関する。また、本発明は、特に、動きベクトルのエラーに関係する。
 画像データ、特にビデオのビットストリームは、エラーの影響を非常に受けやすい。例えば、符号化されたビデオのビットストリームに1つのビットエラーがあるだけで、その結果、表示される画像の質に深刻な劣化が生じることがある。エラー訂正方式は、既知であり、広く使用されているが、それらの方式は、必ずしも功を奏するとは限らない。エラー、例えば送信中に発生するビットエラーが、エラー訂正方式によって十分に訂正できない場合には、エラーによって引き起こされた画像の破損を隠蔽するために、エラーの検出および隠蔽を使用することが知られている。
 既知のタイプのエラー隠蔽アルゴリズムは、一般に、空間隠蔽および時間隠蔽の2つのクラスに分類される。空間隠蔽では、欠損したデータが、近接する空間情報を用いて再構成されるのに対し、時間隠蔽では、欠損したデータが、前のフレーム内のデータを用いて再構成される。
 ビデオ信号に時間相関を利用することにより時間隠蔽を実行する1つの既知の方法は、米国特許第5910827号に開示されるように、損傷を受けたマクロブロック(MB)を、前のフレーム内の空間的に対応するMBによって置換することである。この方法は、コピーアルゴリズムと呼ばれる。この方法は、実施するのが容易であるが、動きが存在する領域では、隠蔽の質が悪化する可能性がある。損傷を受けたMBを、前のフレームからの動き補償されたブロックと置換することにより、大幅な改善を得ることができる。図1は、この技法を示している。しかしながら、これを成功させるには、動きベクトルが必要とされ、動きベクトルは、マクロブロックデータが破損している場合には、利用できないことがある。
 図2は、中央のMBを、その8つの近接するブロックと共に示している。動きベクトルが失われると、その動きベクトルは、近接するMBの動きベクトルから推定することができる。その理由は、ある画像内の近接するMBは、類似の動きをすることが多いので、通常、図2に示すような中央のMBに近接するMBの動きベクトルは、中央のMBとある程度相関しているからである。図3は、類似した方向を向いている、近接するMBの動きベクトルを示している。米国特許第5724369号および米国特許第5737022号は、損傷を受けた動きベクトルが、近接するブロックからの動きベクトルによって置換される方法に関する。米国特許第5912707号に開示されているように、近接するブロックの動きベクトルの平均(average)(すなわち、平均値(mean)または中央値(median))から、中央のMBの動きベクトルの推定値を導出することは既知である。図4に示すように、あるMBが損傷を受けると、その水平方向に隣接したMBも損傷を受ける確率が高い。したがって、それらの動きベクトルは、平均化を行う計算からは除外されることがある。
 一般的に言って、中央値(median)が、平均値(mean)よりも好まれるが、中央値は、大量の処理能力を必要とする。このような計算上高価なアプローチは、携帯電話のような所定の用途では、特に望ましくないことがある。
 本発明の目的は、最良の従来技術の技法と同様の結果を与えるが、少ない処理能力を用いて損傷を受けた動きベクトルを隠蔽する方法を提供することである。
 包括的に、本発明は、画像ブロックについて、失われたまたは損傷を受けた動きベクトルを近似する方法であって、同じフレーム内の近接するブロック、ならびに1つまたは複数の先行フレーム内および/または後続フレーム内の対応するブロックおよびその近接するブロックの動きベクトルから第1のベクトルの組を導出することと、同じフレーム内の近接するブロック、ならびに1つまたは複数の先行フレーム内および/または後続フレーム内の対応するブロックおよびその近接するブロックの動きベクトルのうちの1つまたは複数の動きベクトルから候補ベクトルの組を導出することと、上記第1のベクトルの組を分析することと、上記候補ベクトルの1つを、上記分析に基づいて選択することとを含む方法を提供する。
 換言すると、上記候補ベクトルが、対象となる画像ブロックに空間的および/または時間的に近接するブロックについての動きベクトルから抽出され、その候補ベクトルの1つが選択される。この選択は、対象となる画像ブロックに空間的および/または時間的に近接するブロックについての動きベクトルの分析に基づいて行われ、以下に議論するように、多くの方法で実行することができる。選択されたベクトルは、上述したように、上記候補ベクトルから抽出されるので、対象となる画像ブロックの真の動きベクトルと多少の相関を有する確率が高い。この選択は、通例、処理を比較的簡単にできるように、比較に基づいて行われる。以下に議論するように、上記選択が、時間的および/または空間的に近接するベクトルの分析を伴うので、その結果は、従来技術の技法、例えば、水平方向に隣接するブロックの動きベクトルまたは先行フレーム内の対応するブロックの動きベクトルを常に使用する等の技法よりも正確である。
 第1の好ましい態様によると、本発明は、画像ブロックについての動きベクトルを近似する方法であって、推定される動きベクトルを導出することと、候補ベクトルを、上記推定される動きベクトルと比較することと、上記推定されるベクトルに対する類似度に基づいて、上記候補ベクトルの1つを選択することとを含む方法を提供する。
 上記候補ベクトルは、例えば、上記同じフレーム内の上記画像ブロックに近接する画像ブロックのいくつかまたはすべてについての動きベクトル、上記先行フレーム内および/または上記後続フレーム内の対応する画像ブロックの動きベクトル、ならびにその近接するブロックの動きベクトルを含むことができる。同様に、上記推定される動きベクトルは、例えば、上記同じフレーム内の上記画像ブロックに近接する画像ブロックのいくつかまたはすべてについての動きベクトル、上記先行フレーム内および/または上記後続フレーム内の対応する画像ブロックの動きベクトル、ならびにその近接するブロックの動きベクトルから選択することもできるし、または導出することもできる。上記推定される動きベクトルを導出するために使用されるベクトルの組は、候補ベクトルとして使用される上記ベクトルの組と同じであってもよい。上記推定されるベクトルを導出するために使用されるベクトルの組は、例えば、上記先行フレーム内の対応するブロックの動きベクトルといった、1つの構成要素のみを有することができるが、上記候補ベクトルの組は、少なくとも2つの構成要素を有する。
 類似度に基づく動きベクトルの上記選択は、サイズおよび/または方向による類似度に基づくことができるが、距離に基づくことが好ましい。上記推定されるベクトルから最小の距離の候補ベクトルが、選択されることが好ましい。
 上記推定されるベクトルは、例えば、ベクトルの組の平均値、例えば、上記候補ベクトルのいくつかまたはすべての平均値であってもよい。上記候補ベクトルは、上記推定されるベクトルを導出するために使用されるベクトルの組のサブセットであってもよい。平均値は、加重平均値であってもよく、加重平均値とすることにより、正確さを向上させることができる。
 第2の好ましい態様によると、本発明は、画像ブロックについて、失われたまたは損傷を受けた動きベクトルを置換する方法であって、同じフレーム内の近接する画像ブロックの動きベクトルを、上記先行フレーム内または上記後続フレーム内の対応する動きベクトルと比較するか、または相関させることと、上記比較または相関の結果に従って、上記失われたベクトルの置換ベクトルを求めることとを含む方法を提供する。フレーム間に高い相関が存在する場合には、一般に、上記先行フレーム内の対応するブロックの動きベクトルが選択される。換言すると、上記候補の組は、上記先行フレーム内の対応するブロックの動きベクトルからなる。
 例えば、異なるフレーム内のブロック間に高い相関が存在する場合には、失われた、または損傷を受けた動きベクトルは、時間的に近接するフレーム内の空間的に対応する動きベクトルの動きベクトルによって確実に置換することができる確率が高い。
 置換用の動きベクトルを選択するための候補の組は、フレーム間の相関の度合いに従って変化し得る。例えば、相関が中程度である場合には、上記候補の組は、同じフレーム内の近接するブロックからの動きベクトルおよび先行フレーム内の対応するブロックの動きベクトルからなる。相関が低い場合には、先行フレームからの動きベクトルは除外され、上記候補の組は、同じフレーム内の近接するフレームに基づくものとなる。
 本発明の結果として、損傷を受けた動きベクトルの比較的正確な指標を、比較的低い処理コストで導出することができる。これは、特に、携帯電話のように、処理コストを削減することが有用な用途に有益である。
 本発明の実施の形態を、添付図面を参照して説明する。
 実施の形態1.
 本発明の実施の形態について、携帯テレビ電話との関連で説明する。この実施の形態では、第1の携帯電話のビデオカメラによって取り込まれた画像データが、第2の携帯電話に送信され、表示される。
 図5は、携帯テレビ電話1の関連部分を概略的に示している。電話1は、データを送受信するトランシーバ2、受信データを復号する復号器4、および受信画像を表示するディスプレイ6を含む。また、この電話は、ユーザの画像を取り込むカメラ8および取り込んだ画像を符号化する符号器10も含む。
 復号器4は、適切な符号化技法に従って受信データを復号するデータ復号器12、復号されたデータのエラーを検出するエラー検出器14、損傷を受けた動きベクトルを推定する動きベクトル推定器16、および動きベクトル推定器の出力に従ってエラーを隠蔽するエラー隠蔽器18を含む。
 以下に、本発明の実施の形態1によって、ディスプレイ6に受信画像データを表示するために、受信画像データを復号する方法を説明する。
 第1の携帯電話のカメラ8によって取り込まれた画像データは、送信のため、適切な既知の技法を用いて符号化される。この技法は、例えばMPEG−4技法のように、フレーム、マクロブロックおよび動き補償を使用する。その後、符号化されたデータは送信される。
 画像データは、第2の携帯電話によって受信され、データ復号器12によって復号される。従来技術のように、送信データに発生するエラーが、エラー検出器14によって検出され、可能な場合には、エラー訂正方式を用いて訂正される。動きベクトルのエラーを訂正できない場合には、図6のフローチャートを参照して以下に説明するように、推定方法が、動きベクトル推定器16において適用される。
 エラーが、マクロブロックMBにおいて、対応する動きベクトルに発生したと仮定する。同じフレーム内の6つの近接するMBの動きベクトル(MV)が、取り出される(ステップ100)。図7および図8に示すように、近接するMB、すなわちMB1からMB6は、対応するMV、V1からV6、を有し、これらのMV、V1からV6、は、候補MVの組を形成する。図7では、MBに水平方向に隣接するMBも、損傷を受けているとの仮定により、それらのMBは除外されている。
 しかしながら、水平方向に隣接する動きベクトルが、損傷を受けていない場合には、それら動きベクトルを推定に含めることができる。
 次のステップ(ステップ110)では、候補MVの平均(平均値)が計算され、損傷を受けたMVについての推定されたMVとして使用される。候補ベクトルV1からV6の平均は、図8に示すようなV0である。ステップ120では、候補MVの組における各MVが、推定されたMV(平均V0)と比較され、V0に最も近い候補MVが選択される。
 本実施の形態では、近接するMVの平均(V0)に最も近いベクトル(Vnearest)は、以下の式を用いて定義される。
Figure 2004096752
 候補ベクトルV1からV6について、平均値ベクトルV0に最も近いベクトルはV3である。
 次に、損傷を受けたMBが、選択された動きベクトルV3に対応する前のフレーム内のMBと置換される。最終的に、置換MBを含む全画像が、ディスプレイ6に表示される。
 上述した実施の形態は、計算としては、ベクトルの中央値の方法よりもシンプルである。これを示すために、n個のベクトルV1,V2,V3,・・・,Vnの場合について考える。ベクトルの中央値(Vmed)は、次のように計算される。
Figure 2004096752
 本実施の形態によると、近接するMVの平均(V0)に最も近いベクトル(Vnearest)は、次のように計算される。
Figure 2004096752
 6つの近接するベクトルMVによると、中央値のベクトルの技法は、30回の乗算および75回の加算を要する。本実施の形態によると、14回の乗算および28回の加算しか必要としない。乗算は、加算よりもコストがずっと高いので、提案する技法は、ベクトルの中央値よりも少なくとも2倍の速度を有する。これは、処理能力が制限されている場合には、大きな利点である。たとえ、受信機の処理能力が、ベクトルの中央値の要件に対処できる場合であっても、計算量を2分の1に削減することにより、ユーザは、処理速度の遅い(したがって安価な)プロセッサを使用することができるか、または同じプロセッサを遅い速度で動作させることができる。したがって、消費電力を控えることができる。
 実施の形態2.
 次に、本発明の実施の形態2について説明する。
 実施の形態2は、実施の形態1と類似している。しかしながら、実施の形態2では、加重平均値が用いられる。
 図9および図10に示すように、重みが、近接する各MBのMVに割り当てられる。加重平均は、以下の式を用いて、ステップ110で計算される。
Figure 2004096752
 次に、この加重平均に最も近い近接する動きベクトルが、実施の形態1におけるように、欠損した動きベクトルを表すために選択される。
 本実施の形態では、重み付けは、損傷を受けたブロックに対する、MBのフレーム内の位置に従って実行される。
 通常、エラーを有するブロック(MB)のすぐ上のブロック(MB2)およびすぐ下のブロック(MB5)からの動きベクトルは、残りのブロックよりも、破損したブロック(MB)に近い。したがって、これらのMBの動きベクトルに対してバイアスをかけることは、時に好ましい。図10に示すように、これら2つのブロック(MB2、MB5)には、回りのそれ以外のブロック(MB1、MB3、MB4、MB6)よりも大きな重みが与えられる。その結果、推定される欠損した動きベクトルは、MB2および/またはMB5の動きベクトルの方向に、より多く向くことが予想される。
 実施の形態3.
 次に、実施の形態3について説明する。
 実施の形態3は、実施の形態2と類似しているが、前のフレームからの情報を用いて、異なる重み付けを使用する。より具体的には、この重み付けは、損傷を受けたMBに対応する前のフレーム内のMB(MB’)の動きベクトルVprevに関する情報を用いる(図11参照)。
 より具体的には、前のフレーム内のブロックの動きベクトルVprevからの、候補ベクトル(現フレーム内の6つの近接するブロック)V1〜V6のそれぞれの距離が計算される。そして、ブロックMB1からMB6および対応するMV、V1からV6、が、ViとVprevとの距離に従って重み付けされる(図12および図13参照)。図13に示すように、Vprevからの距離による候補ベクトルの順序は、V2、V3、V4、V5、V6、そしてV1であり、動きベクトルは、それに従って重み付けされる。
 上記式(3)は、Vprevへの距離に従って異なる重み付けを有するそれぞれのベクトルを用いて、新たな加重平均値を計算するために使用される。次に、この加重平均に最も近い近接する動きベクトルが、欠損MVを表すために選択される。
 さらに、前のフレームのブロック(MB’)の動きベクトルも、例えば、より大きな重み(例えばw=7)で加重平均に含めることができる。換言すると、Vprevを、候補ベクトルの組に含めることができる。
 この方法は、前のフレームにおける既知の動きベクトルに対する、近接する動きベクトルの類似度が与えられるので、より正確な重み付けが与えられるという利点を有する。通常の重み付けと比較すると、計算量は削減されないが、重み付けの正確さは増大する。
 このアプローチの効率は、連続するフレームの動きベクトル間の相関に依存する。低いフレームレートにおいて、この相関が低い場合には、等しい重みを用いた方法を上回る優位な性能は期待されない。高いフレームレート(例えば12.5fps以上)では、この実施の形態3の加重平均値が使用され、それより低いフレームレートに対しては、実施の形態1または実施の形態2の平均値が使用される。
 実施の形態4.
 実施の形態4によると、MVの候補の組が、実施の形態1におけるように、近接するブロックのMV(V1からV6)から導出される。しかしながら、実施の形態4は、前のフレーム内の、空間的に位置が特定されたブロック(図11参照)からの動きベクトルを、推定されたMVとして使用する。前のフレーム内のブロックの動きベクトルに最も近い現フレーム内の動きベクトル、すなわち、候補の組の中で最も近いベクトルが、欠損したMVについての最良の候補として使用される(図14参照)。これは、前のフレーム内の動きベクトルから中央値を抽出することに似ている。この方法は、これまでに述べた既知の方法と比較すると、平均値を抽出する必要がないという利点を有する。したがって、計算量は、さらに削減される。
 図14を参照すると、現フレーム内の動きベクトルV4が、前のフレーム内の動きベクトルVprevに最も近いベクトルである。したがって、ベクトルV4が、損傷を受けたブロック(MB)のベクトルの置換として使用される。
 上述した実施の形態のそれぞれでは、最も近いMVのみが選択される。しかしながら、これは、推定されるベクトルに近い可能性のある他のMVを排除することになりかねない。上記実施の形態のそれぞれの変形では、失われたMVの置換のために、推定されるベクトルに近い他のベクトルも選択することができる。3つ以上のベクトルが、推定されるベクトルに近いという状況が存在し得る。図15に示すように、ベクトルV1、V2、V3、およびV4は、ベクトルV0に近い。したがって、これら4つのベクトルのいずれも、欠損したベクトルの置換のために選択することができる。
 推定されるベクトルに近い複数のベクトルを比較することは、処理のオーバヘッドを招く。計算時間が増加するのを回避するために、推定されるベクトルに1番近いベクトルおよび2番目に近いベクトルのみが、欠損したベクトルの可能性のある候補として考慮される。
 例えば図16では、ベクトルV3およびベクトルV5が、推定されるベクトルV0に近い。その結果、ベクトルV3またはベクトルV5を、欠損したベクトルと置換するために選択することができる。
 さらに別の変形では、動きの境界が、特定され、考慮される。
 例えば図17に示すような動きの境界のシナリオについて、動きの境界に近いベクトルが対象とされる。図17では、動きの境界に近いベクトルは、V6およびV2である。これら2つのベクトルは、推定されるベクトルV0に非常に近いので、これら2つのベクトルのいずれか一方を、欠損したベクトルの置換として選択することができる。
 実施の形態5.
 次に、本発明の実施の形態5について説明する。
 現フレーム内の近接するブロックが、それらの前のフレーム内の空間的に対応するブロックと同じタイプの動きを有するかどうかを判断するために、動きの分析測定を用いて、6つの相関測定値が生成される。その基準が満たされると、失われたMVは、前のフレーム内の空間的に対応するブロックのMVによって置換される。
 この分析に利用される動きベクトルは、図18に示すように、現フレーム内の周囲のベクトルおよび前のフレーム内の空間的に対応するMVである。
 ベクトルの相関測定値は、2つのベクトル間で計算され、例えば、以下の式のように、2つのベクトルの角度の差を計算することにより計算される。
Figure 2004096752
 ブロックのそれぞれの対(図18に示すように、MB1、MBp1;MB2、MBp2;など)が、検査された後、全体の相関測定値が、次のようにして生成される。
Figure 2004096752
 rが、連続するフレーム間の近接する動きの相関について高い相関度を示す閾値TH_high(例えばTH_high=0.8)より大きい場合には、欠損したMVの置換は、前のフレーム内の、空間的に位置が特定されたブロックの動きベクトルを用いることにより達成される。
 TH_medium<相関値<=TH_highの場合には、上述した実施の形態のうちの1つにおけるように、前のフレームからの動きベクトルと共に、空間的に隣接する動きベクトルも、置換MVの選択に使用される。
 相関値<=TH_mediumの場合には、空間的に隣接する動きベクトルのみが、置換ベクトルを導出および選択するために使用される。
 高いフレームレートでは、連続するフレームの動きの相関は高くなってくる。したがって、前のフレームからの情報は、現フレーム内の最良の動きベクトルを選択することを援助できる。
 換言すると、上記実施の形態は、空間的に隣接する動きベクトルが、エラー隠蔽用のよりよい候補を形成するのか、あるいは、前のフレームからの対応する動きベクトル(または複数の動きベクトル)が、エラー隠蔽用のよりよい候補を形成するのかを自動的に判断する。現フレーム内および前のフレーム内または複数の前のフレーム内の対応する動きベクトル間の相関が、選択プロセスをガイドする。
 本発明の用途の例は、テレビ電話、テレビ会議、ディジタルテレビ、ディジタル高品位テレビ、携帯マルチメディア、放送、ビジュアルデータベース、対話型ゲームを含む。本発明が使用可能な動画を含む他の用途は、移動ロボット工学、衛星画像、X線撮影のような生物医学技法、および監視を含む。本発明は、例えば移動の用途において、高品質な視覚結果を維持しつつ、処理を少なく抑えることが望ましい用途に特に有益である。
 本発明による技法は、従来技術の中央値のアプローチに類似したさまざまな画像フォーマットおよびさまざまなタイプの画像シーケンス、すなわち異なるタイプの動きの活動に対して、例えば、ピークの信号対雑音比によって、結果を生成することを示すことができる。しかし、本発明による技法は、水平方向に近接するMV、前のフレーム内の対応するMV、またはゼロベクトルといった既知のMVを単純に選択するような他の従来技術の技法よりも計算コストをかなり低くし、かつ優れている。本発明の実施の形態は、推定される別のMVに対するその類似度に基づくMVの選択を含む。この類似度は、説明したように距離に基づくものとすることができるし、かつ/あるいは、サイズおよび/または方向といった他の因子に基づくものとすることもできる。上記実施の形態は、前のフレームから抽出されたMVを参照する。同様にして、MVは、後続のフレームからのものを使用することができ、また、さらに時間の間隔をおいた別のフレームからのものを使用することもでき、中央値よりも少ない計算で足りる。ベクトルの中央値の計算は、30回の乗算+75回の加算を要するのに対し、実施の形態2は、14回の乗算+30回の加算を要し、実施の形態1は、14回の乗算+28回の加算を要し、この計算は、中央値に必要とされる計算数の半分である。
 前のフレームからのコピーまたは上からのコピーをゼロに設定するといった簡単な損失隠蔽技法は、特に、小さな画像解像度、例えばQCIFについては、近接する動きベクトル間にほとんど相関がないことを念頭に置くと、良好な結果を生み出さない。
隣接するフレーム内のマクロブロックの説明図である。 中央のブロックの空間的に近接するブロックの説明図である。 動きベクトルのグラフである。 近接するブロックの説明図である。 携帯電話の概略ブロック図である。 フローチャートである。 近接するブロックを示す図である。 動きベクトルを示す動きベクトルのグラフである。 近接するブロックの重み付けを示す図である。 ブロックの重み付けを示す図9に対応する図である。 2つの連続するフレーム内の対応するマクロブロックを示す図である。 ブロックの重み付けを示す図11に対応する図である。 距離に従った動きベクトルの重み付けを示す図である。 動きベクトルの図である。 動きベクトルの別の図である。 動きベクトルの別の図である。 動きベクトルの別の図である。 2つの連続するフレーム内の対応するマクロブロックの図である。

Claims (20)

  1.  画像ブロックについての動きベクトルを近似する方法であって、
     同じフレーム内の近接するブロック、ならびに1つまたは複数の先行フレーム内および/または後続フレーム内の対応するブロックおよびその近接するブロックの動きベクトルから第1のベクトルの組を導出することと、
     同じフレーム内の近接するブロック、ならびに1つまたは複数の先行フレーム内および/または後続フレーム内の対応するブロックおよびその近接するブロックの動きベクトルのうちの1つまたは複数の動きベクトルから候補ベクトルの組を導出することと、
     前記第1のベクトルの組を分析することと、
     前記候補ベクトルの1つを、前記分析に基づいて選択することと
     を含む方法。
  2.  候補ベクトルを、前記第1のベクトルの組から選択あるいは導出される、1つのベクトルまたは複数のベクトルと比較することを含む、請求項1に記載の方法。
  3.  前記第1のベクトルの組と前記候補ベクトルの組とは同じである、請求項1または請求項2に記載の方法。
  4.  推定される動きベクトルを前記第1のベクトルの組から導出することと、
     前記候補ベクトルを、前記推定される動きベクトルと比較することと、
     前記推定されるベクトルに対する類似度に基づいて、前記候補ベクトルの1つを選択することと
     を含む請求項1ないし3のいずれか1項に記載の方法。
  5.  前記推定されるベクトルに対する類似度は、距離および/またはサイズおよび/または方向によって定義される、請求項4に記載の方法。
  6.  前記推定されるベクトルに最も近いベクトルまたは2番目に近いベクトルが選択される、請求項4または請求項5に記載の方法。
  7.  前記推定される動きベクトルは、前記第1の組の要素の2つ以上またはすべての平均値である、請求項4ないし6のいずれか1項に記載の方法。
  8.  前記平均値は加重平均値である、請求項7に記載の方法。
  9.  近接するブロックの動きベクトルは、前記先行フレーム内もしくは前記後続フレーム内で、前記画像ブロックに対するそれらの位置、および/または前記画像ブロックに対応するブロックの動きベクトルに対するそれらの類似度、に従って重み付けされる、請求項8に記載の方法。
  10.  前記選択は動きの境界を考慮に入れる、請求項1ないし9のいずれか1項に記載の方法。
  11.  前記分析は、同じフレーム内で近接する画像ブロックの動きベクトルを、前記先行フレーム内または前記後続フレーム内の対応する動きベクトルと比較することと、
     前記比較の結果に従って動きベクトルの近似を求めることと
     を含む、請求項1ないし10のいずれか1項に記載の方法。
  12.  前記比較が、前記先行フレーム内または前記後続フレーム内で近接する動きベクトル間で高い相関を示す場合には、前記先行フレーム内または前記後続フレーム内で対応するブロックの動きベクトルを用いて、動きベクトルを近似することを含む、請求項11に記載の方法。
  13.  前記比較が、フレーム間で低い相関を示す場合には、前記同じフレーム内で近接するブロックについての動きベクトルを用いて、動きベクトルを近似することを含む、請求項11または請求項12に記載の方法。
  14.  前記同じフレーム内の近接するブロックからの動きベクトル、ならびに前記先行フレーム内または前記後続フレーム内の動きベクトルを用いて、動きベクトルを近似することを含む、請求項11ないし13のいずれか1項に記載の方法。
  15.  請求項1ないし14のいずれか1項に記載の方法を実行するコンピュータプログラム。
  16.  請求項15に記載のコンピュータプログラムを記憶するデータ記憶媒体。
  17.  請求項1ないし15のいずれか1項に記載の方法を実行するように適合した装置。
  18.  データ復号手段と、
     エラー検出手段と、
     動きベクトル推定器と、
     エラー隠蔽手段と
    を含む請求項17に記載の装置。
  19.  請求項17または請求項18に記載の装置を備える、通信システム用または格納データを検索するシステム用の受信機。
  20.  携帯テレビ電話である請求項19に記載の受信機。
JP2003301666A 2002-08-27 2003-08-26 動きベクトルを近似する方法、該方法を実行するコンピュータプログラム、該プログラムを記憶するデータ記憶媒体、該方法を実行するように適合した装置、及び該装置を備える受信機 Pending JP2004096752A (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
EP02255942A EP1395061A1 (en) 2002-08-27 2002-08-27 Method and apparatus for compensation of erroneous motion vectors in video data

Publications (1)

Publication Number Publication Date
JP2004096752A true JP2004096752A (ja) 2004-03-25

Family

ID=31197959

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003301666A Pending JP2004096752A (ja) 2002-08-27 2003-08-26 動きベクトルを近似する方法、該方法を実行するコンピュータプログラム、該プログラムを記憶するデータ記憶媒体、該方法を実行するように適合した装置、及び該装置を備える受信機

Country Status (3)

Country Link
US (1) US20050078751A1 (ja)
EP (1) EP1395061A1 (ja)
JP (1) JP2004096752A (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007325206A (ja) * 2006-06-05 2007-12-13 Mitsubishi Electric Corp 動画像復号装置及び動画像復号方法
JP2008526119A (ja) * 2004-12-22 2008-07-17 クゥアルコム・インコーポレイテッド ビデオ通信のための動作ベクトルの時間的推定
JP2008533845A (ja) * 2005-03-10 2008-08-21 クゥアルコム・インコーポレイテッド P−フレームのための時間的エラー隠蔽の方法および装置
WO2011062082A1 (ja) * 2009-11-17 2011-05-26 シャープ株式会社 動画像符号化装置および動画像復号装置
JP2012231532A (ja) * 2005-07-13 2012-11-22 Polycom Inc ビデオ誤り隠蔽法
JP2015119502A (ja) * 2007-01-03 2015-06-25 サムスン エレクトロニクス カンパニー リミテッド 複数の動きベクトル・プレディクタを使用して動きベクトルを推定する方法、装置、エンコーダ、デコーダ及びデコーディング方法
JP2020052940A (ja) * 2018-09-28 2020-04-02 三菱電機インフォメーションシステムズ株式会社 動きを予測する方法、装置およびプログラム

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4179548B2 (ja) * 2003-09-24 2008-11-12 Kddi株式会社 動きベクトル検出装置
KR100647948B1 (ko) * 2004-03-22 2006-11-17 엘지전자 주식회사 적응적 인트라 매크로 블록 리프레쉬 방법
DE102006009774B4 (de) * 2006-03-01 2007-10-18 Siemens Ag Bewegungsanalyse in digitalen Bildfolgen
US8238442B2 (en) * 2006-08-25 2012-08-07 Sony Computer Entertainment Inc. Methods and apparatus for concealing corrupted blocks of video data
GB2444529A (en) * 2006-12-06 2008-06-11 Sony Uk Ltd Motion adaptive image processing
US8063939B2 (en) * 2007-02-07 2011-11-22 Sony Corporation Image processing device, image picking-up device, image processing method, and program
AT520839B1 (de) * 2018-01-25 2019-08-15 Ait Austrian Inst Tech Gmbh Verfahren zur Erstellung einer Bildstapel-Datenstruktur

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5400076A (en) * 1991-11-30 1995-03-21 Sony Corporation Compressed motion picture signal expander with error concealment
JPH05244468A (ja) * 1992-02-28 1993-09-21 Mitsubishi Electric Corp 画像受信装置
US5737022A (en) * 1993-02-26 1998-04-07 Kabushiki Kaisha Toshiba Motion picture error concealment using simplified motion compensation
KR970002967B1 (ko) * 1993-04-09 1997-03-13 대우전자 주식회사 영역 분류패턴을 이용한 움직임벡터 검출장치
JP3428697B2 (ja) * 1993-09-07 2003-07-22 キヤノン株式会社 画像復号化方法
EP0722252B1 (en) * 1995-01-16 2004-12-29 Daewoo Electronics Corporation Boundary matching motion estimation apparatus
US5621467A (en) * 1995-02-16 1997-04-15 Thomson Multimedia S.A. Temporal-spatial error concealment apparatus and method for video signal processors
US5724369A (en) * 1995-10-26 1998-03-03 Motorola Inc. Method and device for concealment and containment of errors in a macroblock-based video codec
KR0181069B1 (ko) * 1995-11-08 1999-05-01 배순훈 움직임 추정장치
KR100197368B1 (ko) * 1995-12-23 1999-06-15 전주범 영상 에러 복구 장치
JP3297293B2 (ja) * 1996-03-07 2002-07-02 三菱電機株式会社 動画像復号方法および動画像復号装置
JP3299671B2 (ja) * 1996-03-18 2002-07-08 シャープ株式会社 画像の動き検出装置
US5910827A (en) * 1997-02-26 1999-06-08 Kwan; Katherine W. Video signal decoding arrangement and method for improved error concealment
KR19990005283A (ko) * 1997-06-30 1999-01-25 배순훈 웨이브렛 변환 영역에서의 계층적 움직임 추정 방법
KR100275694B1 (ko) * 1998-03-02 2000-12-15 윤덕용 실시간 동영상 부호화를 위한 초고속 움직임 벡터 추정방법
US6489995B1 (en) * 1998-10-22 2002-12-03 Sony Corporation Method and apparatus for motion vector concealment
US6735249B1 (en) * 1999-08-11 2004-05-11 Nokia Corporation Apparatus, and associated method, for forming a compressed motion vector field utilizing predictive motion coding
KR100677082B1 (ko) * 2000-01-27 2007-02-01 삼성전자주식회사 움직임 추정기
EP1189169A1 (en) * 2000-09-07 2002-03-20 STMicroelectronics S.r.l. A VLSI architecture, particularly for motion estimation applications
KR100727910B1 (ko) * 2000-10-11 2007-06-13 삼성전자주식회사 하이브리드형 고속 움직임 추정 방법 및 그 장치
US7133455B2 (en) * 2000-12-29 2006-11-07 Intel Corporation Providing error resilience and concealment for video data
US7042945B2 (en) * 2001-04-24 2006-05-09 Bellers Erwin B 3-D recursive vector estimation for video enhancement
US6700934B2 (en) * 2001-03-14 2004-03-02 Redrock Semiconductor, Ltd. Error detection using a maximum distance among four block-motion-vectors in a macroblock in a corrupted MPEG-4 bitstream
US6865227B2 (en) * 2001-07-10 2005-03-08 Sony Corporation Error concealment of video data using motion vector data recovery
KR100446083B1 (ko) * 2002-01-02 2004-08-30 삼성전자주식회사 움직임 추정 및 모드 결정 장치 및 방법
KR100441509B1 (ko) * 2002-02-25 2004-07-23 삼성전자주식회사 주사포맷변환장치 및 방법
US7027515B2 (en) * 2002-10-15 2006-04-11 Red Rock Semiconductor Ltd. Sum-of-absolute-difference checking of macroblock borders for error detection in a corrupted MPEG-4 bitstream

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008526119A (ja) * 2004-12-22 2008-07-17 クゥアルコム・インコーポレイテッド ビデオ通信のための動作ベクトルの時間的推定
US8817879B2 (en) 2004-12-22 2014-08-26 Qualcomm Incorporated Temporal error concealment for video communications
JP2008533845A (ja) * 2005-03-10 2008-08-21 クゥアルコム・インコーポレイテッド P−フレームのための時間的エラー隠蔽の方法および装置
US8693540B2 (en) 2005-03-10 2014-04-08 Qualcomm Incorporated Method and apparatus of temporal error concealment for P-frame
JP2012231532A (ja) * 2005-07-13 2012-11-22 Polycom Inc ビデオ誤り隠蔽法
US9661376B2 (en) 2005-07-13 2017-05-23 Polycom, Inc. Video error concealment method
JP2007325206A (ja) * 2006-06-05 2007-12-13 Mitsubishi Electric Corp 動画像復号装置及び動画像復号方法
JP4624308B2 (ja) * 2006-06-05 2011-02-02 三菱電機株式会社 動画像復号装置及び動画像復号方法
JP2015119502A (ja) * 2007-01-03 2015-06-25 サムスン エレクトロニクス カンパニー リミテッド 複数の動きベクトル・プレディクタを使用して動きベクトルを推定する方法、装置、エンコーダ、デコーダ及びデコーディング方法
US9369731B2 (en) 2007-01-03 2016-06-14 Samsung Electronics Co., Ltd. Method and apparatus for estimating motion vector using plurality of motion vector predictors, encoder, decoder, and decoding method
WO2011062082A1 (ja) * 2009-11-17 2011-05-26 シャープ株式会社 動画像符号化装置および動画像復号装置
JP2020052940A (ja) * 2018-09-28 2020-04-02 三菱電機インフォメーションシステムズ株式会社 動きを予測する方法、装置およびプログラム

Also Published As

Publication number Publication date
EP1395061A1 (en) 2004-03-03
US20050078751A1 (en) 2005-04-14

Similar Documents

Publication Publication Date Title
JP4001400B2 (ja) 動きベクトル検出方法及び動きベクトル検出装置
JP5594968B2 (ja) ビデオ画像間の運動を確定するための方法と装置
US20060262855A1 (en) Method and apparatus for compensating for motion vector errors in image data
US6809758B1 (en) Automated stabilization method for digital image sequences
US6628711B1 (en) Method and apparatus for compensating for jitter in a digital video image
US20060285596A1 (en) Motion-vector detecting device, motion-vector detecting method, and computer program
US20100201870A1 (en) System and method for frame interpolation for a compressed video bitstream
Yang et al. Quality enhancement of frame rate up-converted video by adaptive frame skip and reliable motion extraction
US20090220004A1 (en) Error Concealment for Scalable Video Coding
US20050175102A1 (en) Method for motion compensated interpolation using overlapped block motion estimation and frame-rate converter using the method
JP2004096752A (ja) 動きベクトルを近似する方法、該方法を実行するコンピュータプログラム、該プログラムを記憶するデータ記憶媒体、該方法を実行するように適合した装置、及び該装置を備える受信機
KR20020001331A (ko) 디지털 영상 안정화 장치
US20120263239A1 (en) Method and apparatus for estimating and compensating spatiotemporal motion image
US20080002774A1 (en) Motion vector search method and motion vector search apparatus
WO2007077243A2 (en) Systems and methods for visual signal extrapolation or interpolation
KR20000014401A (ko) 오류 은폐 방법
JP4104593B2 (ja) 画像処理システムの損失ブロック復旧装置及びその方法
US20040247028A1 (en) Method and apparatus for detecting improper area for motion compensation in video signal
US20060159177A1 (en) Motion estimation method, device, and system for image processing
Gangal et al. An improved motion-compensated restoration method for damaged color motion picture films
US7394855B2 (en) Error concealing decoding method of intra-frames of compressed videos
US7324698B2 (en) Error resilient encoding method for inter-frames of compressed videos
CA2200733A1 (en) Method and apparatus for detecting occlusion
KR100711204B1 (ko) 선택적 에러 은닉 장치 및 방법
KR101215128B1 (ko) 프레임 보간 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081216

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090316

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090319

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090401

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090728

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20091028

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20091102

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100209