JP5536174B2 - リファレンスビデオフレーム及びノンリファレンスビデオフレームの検出及び隠蔽の方法及び装置 - Google Patents

リファレンスビデオフレーム及びノンリファレンスビデオフレームの検出及び隠蔽の方法及び装置 Download PDF

Info

Publication number
JP5536174B2
JP5536174B2 JP2012235669A JP2012235669A JP5536174B2 JP 5536174 B2 JP5536174 B2 JP 5536174B2 JP 2012235669 A JP2012235669 A JP 2012235669A JP 2012235669 A JP2012235669 A JP 2012235669A JP 5536174 B2 JP5536174 B2 JP 5536174B2
Authority
JP
Japan
Prior art keywords
frame
block
reference frame
picture order
order count
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012235669A
Other languages
English (en)
Other versions
JP2013021729A (ja
Inventor
ウ,ジェンユ
ランデ,フレデリック
パンディット,パーヴィン,ビバス
ボイス,ジル,マクドナルド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2013021729A publication Critical patent/JP2013021729A/ja
Application granted granted Critical
Publication of JP5536174B2 publication Critical patent/JP5536174B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • H04N19/895Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment

Description

本発明は、ビデオ符号化及び復号化に関し、より詳細には、失われたノンリファレンスビデオフレームの検出及び失われたリファレンス及びノンリファレンスビデオフレームの隠蔽のための方法及び装置に関する。
本出願は、2005年7月25日に提出され、“VIDEO DECODER DETECTION AND CONCEALMENT OF REFERENCE AND NON−REFERENCE FRAMES”と題された米国特許仮出願60/702233の利益を請求するものである。
エラーの傾向がある通信チャネルを通して伝送されたビデオコンテンツは、送信の間に導入されるエラーを受けやすい。多数のアプリケーションインフラストラクチャ内で、伝送エラーは、アプリケーションにより受信されるべきデータの損失となる。3GPPネットワークといった低ビットレートのビデオ伝送アプリケーションについて、それぞれ失われたデータユニットは、通常、アプリケーションレイヤでの符号化されたフレームの損失に対応する。処理されないままである場合、ビデオデコーダに供給される破壊されたビットストリームは、デコーディングプロセスを脱線し、デコーディングプロセスを破壊することさえある。したがって、メカニズムは、かかる損失を検出するためにデコーダ内の適所にあるべきである。
ビデオフレームは、リファレンスフレーム及びノンリファレンスフレームといった、H.264ビットストリームにおける2つのタイプに分けられる。現在のH.264デコーダのJMソフトウェアは、それぞれのリファレンスフレームに割り当てられた“frame_num”と呼ばれる変数をチェックすることで失われたリファレンスフレームを検出することができる。“frame_num”は、次のリファレンスフレームのために1だけインクリメントされ、したがって、2つの連続する“frame_num”間のギャップが1よりも大きいとき、デコーダは、失われたリファレンスフレームが生じていることに気付く。このケースでは、現在のデコーダJMソフトウェアは、更なるデコーディングを停止する。
さらに、現在のH.264デコーダJMソフトウェアは、ノンリファレンスフレームの損失を検出することができない。デコーダは、ビットストリームにおける次の利用可能なフレームをシンプルにデコードし、失われたフレームをスキップする。したがって、出力ビデオ系列は、少ないフレームを有し、これにより、表示速度のジッタが引き起こされ、最終的な視聴の経験に影響を及ぼす。
従来技術のこれらの問題及び課題、並びに他の問題及び課題は、失われたノンリファレンスビデオフレームの検出、並びに失われたリファレンス及びノンリファレンスビデオフレームの隠蔽のための方法及び装置に向けられる本発明により対処される。
本発明の態様によれば、ビデオデコーダが提供される。ビデオデコーダは、エントロピーデコーダ、エラー検出手段及びエラー隠蔽手段を含む。エントロピーデコーダは、固定されたフレームレートを有することが意図されるビデオストリームを伸張し、伸張されたビデオストリームを分析して、伸張されたビデオストリームのフレームについてピクチャオーダカウントを発見する。エラー検出手段は、伸張されたビデオのビットストリームのうちの特定のフレームがピクチャオーダカウントに基づいて失われていることを判定する。エラー隠蔽手段は、特定のピクチャを隠蔽する。
本発明の別の態様によれば、固定されたフレームレートを有することが意図されるビデオストリームをデコードするための方法が提供される。本方法は、ビデオビットストリームを伸張すること、伸張されたビデオビットストリームを分析して、伸張されたビデオビットストリームの特定のフレームがピクチャオーダカウントに基づいて抜けていることを判定すること、特定のフレームを隠蔽することを含む。
本発明のこれらの態様、特徴及び利点、並びに他の態様、特徴及び利点は、添付図面と共に読まれる、例示的な実施の形態に関する以下の詳細な説明から明らかとなるであろう。本発明は、以下の例示的な図面に従って良好に理解される場合がある。
本発明が適用される例示的なノンスケーラブルビデオデコーダのブロック図である。 本発明の原理に従う、ビデオシーケンスをデコードする例示的な方法のフローチャートである。 本発明の原理に従う、ビデオシーケンスをデコードする例示的な方法のフローチャートである。
本発明は、失われたノンリファレンスビデオフレームの検出、並びに、失われたリファレンス及びノンリファレンスビデオフレームの隠蔽のための方法及び装置に向けられる。
したがって、本発明の原理によれば、デコーダ及び/又はデコーディング方法は、ノンリファレンスフレームの損失を検出するために実現され、対応する機能は、失われたノンリファレンスフレームを隠蔽するのを実施する。さらに、本発明によれば、デコーダ及び/又はデコーディング方法は、リファレンスフレームを隠蔽するために実現される。この失われたビデオフレームの検出及び/又は隠蔽は、より安定なビデオ品質及びビットレートを導き、良好な視聴者の満足を導くものである。
この記載は、本発明の原理を例示するものである。本明細書で明示的に記載又は図示されていないが、本発明の原理を実施し、本発明の精神及び範囲に含まれる様々なアレンジメントを考案することができる。
本明細書で引用される全ての例及び条件付き言語は、教育的な目的で、本発明の原理及び当該技術分野を促進するために本発明者により寄与されるコンセプトを理解することにおいて読者を支援することが意図され、かかる特に参照される例及び条件に限定されないこととして解釈されるべきである。
さらに、本発明の特定の例と同様に、本発明の原理、態様及び実施の形態を本明細書で参照する全ての説明は、本発明の構造的かつ機能的に等価なものを包含することが意図される。さらに、かかる等価なものは、現在知られている等価なものと同様に、将来的に開発されるもの、すなわち構造に関わらず同じ機能を実行する開発されたエレメントを含むことが意図される。
したがって、たとえば、本明細書で与えられるブロック図は本発明の原理を実施する例示的な回路の概念図を表すことを当業者により理解されるであろう。同様に、任意のフローチャート、フローダイアグラム、状態遷移図、擬似コード等は、コンピュータ又はプロセッサが明示的に示されるか否かで、コンピュータ読取り可能なメディアで実質的に表され、コンピュータ又はプロセッサにより実行される様々なプロセスを表すことが理解される。
図示される様々なエレメントの機能は、適切なソフトウェアと関連するソフトウェアを実行可能なハードウェアと同様に、専用のハードウェアの使用を通して提供される。プロセッサにより提供されたとき、機能は単一の専用のプロセッサによるか、単一の共有のプロセッサによるか、又はそのうちの幾つかが共有される複数の個々のプロセッサにより機能が提供される場合がある。
さらに、用語「プロセッサ」又は「コントローラ」の明示的な使用は、ソフトウェアを実行可能なハードウェアを排他的に示すために解釈されるべきではなく、限定することなしに、デジタルシグナルプロセッサ(DSP)ハードウェア、ソフトウェアを記憶するリードオンリメモリ(ROM)、ランダムアクセスメモリ(RAM)、及び不揮発性ストレージを暗黙的に含む場合がある。
コンベンショナル及び/又はカスタムの他のハードウェアも含まれる場合がある。同様に、図示される任意のスイッチは、概念的なものである。それらの機能は、プログラムロジックの動作を通して、専用ロジックを通して、プログラム制御及び専用ロジックのインタラクションを通して、又は手動により実行される場合があり、特定の技術は、コンテクストから更に詳細に理解されるように、製作者により選択可能である。
本発明の請求項では、特定の機能を実行する手段として表現されるエレメントは、たとえばa)その機能を実行する回路エレメントの組み合わせ、b)機能を実行するためにそのソフトウェアを実行する適切な回路と結合される、ファームウェア、マイクロコード等を含む任意の形式でのソフトウェア、を含む機能を実行する任意のやり方を包含することが意図される。係る請求項により定義される発明は、様々な参照される手段により提供される機能が結合され、請求項が求めるやり方で集められるという事実にある。したがって、それらの機能を提供することができる任意の手段は、本明細書に示される手段に等価であることが考えられる。
図1を参照して、参照符号100によりノンスケーラブルビデオデコーダが一般的に示される。ビデオデコーダ100は、ビデオ系列を受信するエントロピーデコーダ110を含む。エントロピーデコーダ110の第一の出力は、逆量子化器/変換器120の入力と信号通信で接続される。逆量子化器/変換器120の出力は、サミングジャンクション140の第一の入力と信号通信で接続される。サミングジャンクション140の出力は、デブロックフィルタ190と信号通信で接続される。デブロックフィルタ190の出力は、リファレンスピクチャストア150と信号通信で接続される。リファレンスピクチャストア150は、動き補償器160の第一の入力と信号通信で接続される。動き補償器160の出力は、サミングジャンクション140の第二の入力と信号通信で接続される。エントロピーデコーダ110の第二の出力は、動き補償器160の第二の入力と信号通信で接続される。エントロピーデコーダ110の第三の出力は、エラー検出器176の入力と信号通信で接続される。エラー検出器176の出力は、エラー隠蔽器186の入力信号通信で接続される。エラー隠蔽器186の出力は、動き補償器160の第三の入力として信号通信で接続される。デブロックフィルタ190の出力は、ビデオデコーダ100の出力として利用可能である。
上述されたように、失われたノンリファレンスビデオフレームの検出及び失われたリファレンス及びノンリファレンスビデオフレームの隠蔽のための方法及び装置が提供される。有利なことに、本発明の原理に従って失われたノンリファレンスビデオフレームを検出することで、デコーダが失われたフレームをシンプルにスキップし、ディスプレイスピードのジッタを引き起こし、最終的な視聴の経験に影響を与えるケースが回避される。さらに、失われたリファレンスビデオフレーム及び失われたノンリファレンスビデオフレームの何れかは、本明細書で記載される原理に従って隠される場合がある。
H.264ビットストリームの通常のデコーディングプロセスの間、デコーダは、リファレンス及びノンリファレンスピクチャの両者を含めて、それぞれ符号化されたピクチャについて可変のピクチャオーダカウント(POC)を維持する。POCは、時間ダイレクトモードで動きベクトルを導出するように、ソースデコーディングの目的でオリジナルに設計されるか、Bスライスでの重み付け予測のために設計される。しかし、本発明の原理によれば、符号化されたビデオビットストリームが固定されたフレームレートを使用する場合、POCは、失われたノンリファレンスフレームを検出するために使用される。
有効なH.264ビットストリームでは、グループオブピクチャ(GOP)の瞬間的なデコーディングリフレッシュ(IDR)フレームについて0から開始する、それぞれのフレームはそれ自身のPOC値を有する。以下のように、POC値のペア間のPOCギャップを定義する。
POC Gap=POCFrame1−POCFrame2
それぞれのGOP内で、POCギャップは、2つの時間的に連続するフレーム1及び2について典型的に同じままでの状態である。したがって、POCギャップが規定され、デコーダに知られている場合、デコーダは、フレームが抜けているかをチェックすることができる。デコーディングプロセスの後、Bピクチャのための可能性のある順序が狂った符号化のため、デコーダがファイル又はディスプレイにデコードされたフレームを出力する準備があるときは何時でもチェックが実行される。デコーダは、2つの時間的に隣接するデコードされたフレームの間でPOCギャップを計算する。値が特定されたPOCギャップに等しくない場合、デコーダは、2つのフレーム間で抜けたフレームが存在することに気付く。失われたリファレンスフレームは“frame_num”変数により検出されないので、POCギャップに基づくこの方法は、ノンリファレンスフレームについて排他的に使用される。
フレームが失われたとき、失われたフレームを隠すために“motion−copy”動作を呼び出すことができる。“motion−copy”により、特定されたリファレンスフレームの動きの場は、失われたフレームにコピーされる。たとえば、リファレンスフレームからのそれぞれのマクロブロック(MB)又はMBのパーティションの動きベクトルは、失われたフレームにおける同一の場所に配置される構造(co−located structure)にコピーされる。さらに、複数のリファレンスフレームはH.264で許可されるので、リファレンスフレームにおけるそれぞれの動きベクトルと関連されるリファレンスインデックスもコピーされる。上記ステップの後、デコーダにおける通常の動き補償手順は、失われたフレームを再構成するために必要とされる。
“motion−copy”により生じる1つの問題は、リファレンスフレームにおいて、幾つかのMB又はMBパーティションがイントラモードで符号化される場合があることである。これが生じたとき、これらの領域と関連付けされる動きベクトル又はリファレンスインデックスが存在しない。効果的に、これらの領域は、動きベクトルがコピーされることとなる動きの場に「ホール」を形成する。この問題を解決する1つの方法は、失われたフレームにおいて、これら失われた動きベクトルに(0,0)値を割り当てることである。しかし、場が多数の動きを含むとき、場は、エラーの伝播のために将来のフレームと同様に、隠されたフレームにおいて隠蔽のアーチファクトを生じる場合がある。これにより、デコードされたビデオ品質が低下される。
本発明の原理によれば、それら空間的に利用可能な近隣に基づいて、これらの領域の失われた動き情報を予測することができる。特に、かかる領域の動き情報は、SKIPモードと同じデコーディング手順に続いて得られる。言い換えれば、この領域の動きベクトルは、特定の空間的に隣接する領域の動きベクトルをメディアンフィルタでフィルタリングすることで予測される。同時に、失われたフレームにおける領域の動きベクトルのリファレンスインデックスは、SKIPモードのデコーディングと同じである直前のリファレンスフレームに割り当てられる。
“motion−copy”では、リファレンスフレームは、動き情報を保持するデコーダバッファで利用可能なフレームである。したがって、IDRフレームがビットストリームにおける最初のフレームではない限り、IDRフレームが失われた場合でさえ、おそらく前のGOPから、デコーダバッファで利用可能なリファレンスフレームを特定することで、“motion−copy”で隠すことができる。
図2を参照して、ビデオ系列をデコードするための方法は、参照符号200により一般的に示される。方法200は、ノンリファレンスフレームと同様にリファレンスフレームを検出すること、及び失われたフレームを隠すことが可能である。フレームが失われたとき、本方法は、変更された“motion−copy”動作を利用して、隠蔽を実行する。現在の出コーディングスキームに比較して、本発明で提案される2つの改善により被る余分の複雑度は、すなわちPOCギャップの計算及びリファレンスフレームにおけるイントラ符号化された領域の動き情報の予測は問題ではない。
本方法は、ループリミットブロック208に制御を移す開始ブロック204を含む。ループリミットブロック208は、ビデオ系列におけるそれぞれのフレームにわたりループを開始し、判定ブロック212に制御を移す。判定ブロック212は、新たなフレームのフレーム数から古い(直前の)フレームのフレーム数を引いた数が1に等しいか否かを判定する。1に等しい場合、制御は機能ブロック216に移る。さもなければ、制御はループリミットブロック236に移る。
機能ブロック216は、現在のフレームの通常の復号化を実行し、判定ブロック220に制御を移す。判定ブロック220は、現在のフレームがディスプレイのために出力される準備があるか否かを判定する。準備がある場合、制御は機能ブロック224に移る。さもなければ、制御はループリミットブロック232に移り、それぞれのフレームにわたりループを終了する。
機能ブロック224は、ピクチャオーダカウント(POC)ギャップを計算し、制御を判定ブロック228に移す。判定ブロック228は、POCギャップが正しいか否かを判定する。正しい場合、制御はループリミットブロック232に移る。さもなければ、制御はループリミットブロック236に移る。ループリミットブロック236は、失われたフレームにおけるそれぞれのマクロブロックにわたりループを開始し、制御を判定ブロック240に移す。判定ブロック240は、リファレンスフレームにおける同一の場所に配置される領域がイントラ符号化されたか否かを判定する。イントラ符号化された場合、制御は機能ブロック244に移る。さもなければ、制御は機能ブロック276に移る。
機能ブロック244は、スキップモードデコーディングに従って領域の動きベクトルを予測し、機能ブロック248に制御を移す。機能ブロック248は、その領域のリファレンスインデックスをリファレンスフレームの前の1つに設定し、制御をループリミットブロック252に移す。
判定ブロック240が機能ブロック276に制御を移す場合、MVはリファレンスフレームにおける同一の場所に配置される領域のそれに設定され、制御は機能ブロック280に通過される。機能ブロック280は、その領域のリファレンスインデックスをリファレンスフレームにおける同一の場所に配置される領域のそれに設定し、制御をループリミットブロック252に移す。
ループリミットブロック252は、失われたフレームにおけるマクロブロックのそれぞれにわたりループを終了し、制御を機能ブロック256に移す。機能ブロック256は、動き補償を実行して、失われたフレームを再構成し、制御を判定ブロック260に移す。判定ブロック260は、失われたフレームがリファレンスフレームであるか否かを判定する。リファレンスフレームである場合、制御は機能ブロック264に移る。さもなければ、制御は機能ブロック272に移る。制御が機能ブロック272に移されたとき、POCは、隠されたフレームのために更新され、制御はループリミットブロック232に移る。
機能ブロック264は、隠されたフレームについてframe_numを更新し、制御を機能ブロック268に移す。機能ブロック268は、隠されたフレームをデコードバッファに配置し、制御をループリミットブロック232に移す。
ループリミットブロック232は、制御を終了ブロック284に移す。
以下、そのうちの幾つかが先に説明された、本発明の多くの付随する利点/特徴の幾つかに関する説明が与えられる。たとえば、1つの利点/特徴は、エントロピーデコーダ、エラー検出器、及びエラー隠蔽器を含むビデオデコーダである。エントロピーデコーダは、固定されたフレームレートを有することが意図されるビデオビットストリームを伸張し、伸張されたビデオビットストリームを分析して、伸張されたビデオビットストリームのフレームのためのピクチャオーダカウントを発見する。エラー検出器は、伸張されたビデオビットストリームの特定のフレームがピクチャオーダカウントに基づいて失われていることを判定する。エラー隠蔽器は、特定のフレームを隠蔽する。別の利点/特徴は、上述されたビデオデコーダであり、エラー検出器は、伸張されたビデオビットストリームの時間的に隣接するフレーム間のピクチャオーダカウントにおけるギャップに基づいて特定のフレームが失われていることを判定する。更に別の利点/特徴は、上述されたビデオデコーダであって、エラー検出器は、時間的に隣接するフレーム間のピクチャオーダカウントギャップを決定し、ピクチャオーダカウントギャップが閾値よりも大きいときに、失われているとして特定のフレームを示すことで、特定のフレームが失われていることを判定する。
さらに、別の利点/特徴は、先に記載されたようなビデオデコーダであり、エラー隠蔽器は、フレーム繰り返し手順を使用して特定のフレームを隠蔽する。さらに、別の利点/特徴は、先に記載されたようなビデオデコーダであり、エラー隠蔽器は、前に符号化されたフレームにおける同一の場所に配置されるブロックから特定のフレームにおけるブロックについて動き情報を導出することで特定のフレームを隠す。また、別の利点/特徴は、先に記載されたような前に符号化されたフレームにおける同一の場所に配置されるブロックから特定のフレームにおけるブロックについて動き情報を導出するビデオデコーダであり、エラー隠蔽器は、前にデコードされたフレームにおける同一の場所に配置されるブロックのリファレンスインデックスから特定のフレームにおけるブロックの使用のためのリファレンスインデックスを導出する。さらに、別の利点/特徴は、先に記載されたように前に符号化されたフレームにおける同一の場所に配置されるブロックから特定のフレームにおけるブロックについて動き情報を導出するビデオデコーダであって、エラー隠蔽器は、前に符号化されたフレームにおける同一の場所に配置されるブロックがイントラ符号化されるとき、前に符号化されたフレームにおける同一の場所に配置されるブロックの空間的に利用可能な近隣の動きベクトルから特定のフレームにおけるブロックについて動き情報を導出することで、特定のフレームを隠す。さらに、別の利点/特徴は、前に符号化されたフレームにおける同一の場所に配置されるブロックが先に記載されるようにイントラ符号化されるとき、前に符号化されたフレームにおける同一の場所に配置されるブロックの空間的に利用可能な近隣の動きベクトルから特定のフレームにおけるブロックについて動き情報を導出するビデオデコーダであり、エラー隠蔽器は、前に符号化されたフレームにおける同一の場所に配置されるブロックの空間的に利用可能な近隣の動きベクトルにメディアンフィルタを適用することで、特定のフレームにおけるブロックについて動き情報を導出する。さらに、別の利点/特徴は、前に符号化されたフレームにおける同一の場所に配置されるブロックが先に記載されたようにイントラ符号化されたとき、前に符号化されたフレームにおける同一の場所に配置されるブロックの空間的に利用可能な近隣の動きベクトルから特定のフレームにおけるブロックについて動き情報を導出するビデオデコーダであり、特定のフレームにおけるブロックについての動き情報は、SKIPモードのデコーディングを使用して得られる。さらに、別の利点/特徴は、前に符号化されたフレームにおける同一の場所に配置されるブロックが先に記載されたようにイントラ符号化されたとき、SKIPモードのデコーディングを使用して、特定のフレームにおけるブロックについて動き情報を導出するビデオデコーダであり、SKIPモードのデコーディングは、ITU−T(International Telecommunication Union, Telecommunication Sector)H.264規格に従って実行される。また、別の利点/特徴は、先に記載されたようなビデオデコーダであり、エラー検出器は、特定のフレームのピクチャオーダカウントをアップデートする。1以上の上記列挙された利点/特徴は、本発明の様々な実施の形態と関連付けされる。
本発明のこれらの特徴及び利点、並びに他の特徴及び利点は、本明細書での教示に基づいて当業者により容易に確認される場合がある。なお、本発明の教示は、ハードウェア、ソフトウェア、ファームウェア、特定用途向けプロセッサ、又はその組み合わせの様々な形式で実現されることが理解される。
最も好ましくは、本発明の教示は、ハードウェアとソフトウェアの組み合わせとして実現される。さらに、ソフトウェアは、プログラムストレージユニットで有形に実施されるアプリケーションプログラムとして実現される。アプリケーションプログラムは、適切なアーキテクチャを有するマシンにアップロードされ、このマシンにより実行される。好ましくは、マシンは、1以上の中央処理ユニット(CPU)、ランダムアクセスメモリ(RAM)、及び入力/出力(I/O)インタフェースのようなハードウェアを有するコンピュータプラットフォームで実現される。コンピュータプラットフォームは、オペレーティングシステム及びマクロインストラクションコードを含む場合もある。本明細書で記載された様々な処理及び機能は、CPUにより実行される場合がある、マイクロインストラクションコードの一部であるか、アプリケーションプログラムの一部、若しくはその組み合わせの何れかである場合がある。さらに、様々な他の周辺ユニットは、更なるデータストレージユニット及びプリンティングユニットのようなコンピュータプラットフォームに接続される。
添付図面で示される構成要素となるシステムコンポーネント及び方法の幾つかは、ソフトウェアで実現されることが好ましいため、システムコンポーネント又はプロセス機能ブロック間の実際の接続は、本発明がプログラムされるやり方に依存して異なる場合があることを理解されたい。本明細書で所与の教示が与えられた場合、当業者は、本発明のこれら及び類似の実現又はコンフィギュレーションを考えることができる。
例示的な実施の形態は添付図面を参照して本明細書で記載されたが、本発明は、それら正確な実施の形態に限定されるものではなく、様々な変形及び変更は本発明の範囲又は精神から逸脱することなしに当業者により実施される場合があることを理解されたい。全ての係る変形及び変更は、特許請求の範囲で述べた本発明の範囲に含まれることが意図される。
100:ノンスケーラブルビデオデコーダ
110:エントロピーデコーダ
120:逆量子化器/変換器
140:サミングジャンクション
150:リファレンスピクチャストア
160:動き補償器
176:エラー検出器
186:エラー隠蔽器
190:デブロックフィルタ

Claims (16)

  1. ビデオのビットストリームを伸張し、伸張されたビデオのビットストリームを分析して、伸張されたビデオのビットストリームのフレームのピクチャオーダカウントを発見するエントロピーデコーダと、
    前記ピクチャオーダカウントの比較に基づいて、前記伸張されたビデオビットストリームの特定のノンリファレンスフレームが失われていることを判定するエラー検出手段と、
    前に符号化されたフレームにおける同一の場所に配置されるブロックから前記特定のノンリファレンスフレームにおけるブロックについて動き情報を導出することで、前記特定のノンリファレンスフレームを隠蔽するエラー隠蔽手段とを有し、
    前記エラー隠蔽手段は、前記前に符号化されたフレームにおける同一の場所に配置されるブロックがイントラ符号化されたとき、前記前に符号化されたフレームにおける前記同一の場所に配置されるブロックの空間的に隣接する利用可能なブロックの動きベクトルから、前記特定のノンリファレンスフレームにおけるブロックの動き情報を導出することで、前記特定のノンリファレンスフレームを隠蔽する、
    ビデオデコーダ。
  2. 前記エラー検出手段は、前記伸張されたビデオビットストリームの時間的に隣接するフレーム間のピクチャオーダカウントにおけるギャップに基づいて、前記特定のノンリファレンスフレームが失われていることを判定する、
    請求項1記載のビデオデコーダ。
  3. 前記エラー検出手段は、時間的に隣接するフレーム間のピクチャオーダカウントのギャップを判定し、前記ピクチャオーダカウントのギャップが閾値よりも大きいときに、前記特定のノンリファレンスフレームが失われているとして示すことで、前記特定のノンリファレンスフレームが失われていることを判定する、
    請求項1記載のビデオデコーダ。
  4. 前記エラー隠蔽手段は、前記前にデコードされたフレームにおける同一の場所に配置されるブロックのリファレンスインデックスから、前記特定のノンリファレンスフレームにおけるブロックの使用のためのリファレンスインデックスを導出する、
    請求項1記載のビデオデコーダ。
  5. 前記エラー隠蔽手段は、前記前に符号化されたフレームにおける同一の場所に配置されるブロックの空間的に隣接する利用可能なブロックの動きベクトルにメディアンフィルタを適用することで、前記特定のノンリファレンスフレームにおけるブロックについて動き情報を導出する、
    請求項1記載のビデオデコーダ。
  6. 前記特定のノンリファレンスフレームにおけるブロックの動き情報は、SKIPモードのデコーディングを使用して得られる、
    請求項1記載のビデオデコーダ。
  7. 前記SKIPモードのデコーディングは、ITU−T(International Telecommunication Union, Telecommunication Sector)H.264規格に従って実行される、
    請求項6記載のビデオデコーダ。
  8. 前記エラー検出手段は、前記特定のノンリファレンスフレームのピクチャオーダカウントをアップデートする、
    請求項1記載のビデオデコーダ。
  9. ビデオのビットストリームをデコードする方法であって、
    ビデオのビットストリームを伸張するステップと、
    伸張されたビデオのビットストリームを分析して、伸張されたビデオのビットストリームのフレームのピクチャオーダカウントを発見するステップと、
    前記ピクチャオーダカウントの比較に基づいて、前記伸張されたビデオビットストリームの特定のノンリファレンスフレームが失われていることを判定するステップと、
    前に符号化されたフレームにおける同一の場所に配置されるブロックから前記特定のノンリファレンスフレームにおけるブロックについて動き情報を導出することで、前記特定のフレームを隠蔽するステップとを含み、
    前記隠蔽するステップは、前記前に符号化されたフレームにおける同一の場所に配置されるブロックがイントラ符号化されたとき、前記前に符号化されたフレームにおける前記同一の場所に配置されるブロックの空間的に隣接する利用可能なブロックの動きベクトルから、前記特定のノンリファレンスフレームにおけるブロックの動き情報を導出することで、前記特定のノンリファレンスフレームを隠蔽する、
    方法。
  10. 前記判定するステップは、前記伸張されたビデオビットストリームの時間的に隣接するフレーム間のピクチャオーダカウントにおけるギャップに基づいて、前記特定のノンリファレンスフレームが失われていることを判定する、
    請求項9記載の方法。
  11. 前記判定するステップは、時間的に隣接するフレーム間のピクチャオーダカウントのギャップを判定し、前記ピクチャオーダカウントのギャップが閾値よりも大きいときに、前記特定のノンリファレンスフレームが失われているとして示すことで、前記特定のノンリファレンスフレームが失われていることを判定する、
    請求項9記載の方法。
  12. 前記隠蔽するステップは、前記前にデコードされたフレームにおける同一の場所に配置されるブロックのリファレンスインデックスから、前記特定のノンリファレンスフレームにおけるブロックの使用のためのリファレンスインデックスを導出する、
    請求項9記載の方法。
  13. 前記隠蔽するステップは、前記前に符号化されたフレームにおける同一の場所に配置されるブロックの空間的に隣接する利用可能なブロックの動きベクトルにメディアンフィルタを適用することで、前記特定のリファレンスフレームにおけるブロックについて動き情報を導出する、
    請求項9記載の方法。
  14. 前記特定のノンリファレンスフレームにおけるブロックの動き情報は、SKIPモードのデコーディングを使用して得られる、
    請求項9記載の方法。
  15. 前記SKIPモードのデコーディングは、ITU−T(International Telecommunication Union, Telecommunication Sector)H.264規格に従って実行される、
    請求項14記載の方法。
  16. 前記特定のノンリファレンスフレームのピクチャオーダカウントをアップデートするステップを更に含む、
    請求項9記載の方法。
JP2012235669A 2005-07-25 2012-10-25 リファレンスビデオフレーム及びノンリファレンスビデオフレームの検出及び隠蔽の方法及び装置 Active JP5536174B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US70223305P 2005-07-25 2005-07-25
US60/702,233 2005-07-25

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2008523879A Division JP2009504001A (ja) 2005-07-25 2006-06-06 リファレンスビデオフレーム及びノンリファレンスビデオフレームの検出及び隠蔽の方法及び装置

Publications (2)

Publication Number Publication Date
JP2013021729A JP2013021729A (ja) 2013-01-31
JP5536174B2 true JP5536174B2 (ja) 2014-07-02

Family

ID=37137156

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2008523879A Pending JP2009504001A (ja) 2005-07-25 2006-06-06 リファレンスビデオフレーム及びノンリファレンスビデオフレームの検出及び隠蔽の方法及び装置
JP2012235669A Active JP5536174B2 (ja) 2005-07-25 2012-10-25 リファレンスビデオフレーム及びノンリファレンスビデオフレームの検出及び隠蔽の方法及び装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2008523879A Pending JP2009504001A (ja) 2005-07-25 2006-06-06 リファレンスビデオフレーム及びノンリファレンスビデオフレームの検出及び隠蔽の方法及び装置

Country Status (10)

Country Link
US (1) US8428147B2 (ja)
EP (1) EP1908300B1 (ja)
JP (2) JP2009504001A (ja)
KR (1) KR101289603B1 (ja)
CN (1) CN101288315B (ja)
BR (1) BRPI0613522B1 (ja)
ES (1) ES2674908T3 (ja)
MX (1) MX2008001155A (ja)
TW (1) TW200723888A (ja)
WO (1) WO2007018709A2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090296826A1 (en) * 2007-01-04 2009-12-03 Thomson Licensing Methods and apparatus for video error correction in multi-view coded video
US8605779B2 (en) * 2007-06-20 2013-12-10 Microsoft Corporation Mechanisms to conceal real time video artifacts caused by frame loss
WO2009002310A1 (en) * 2007-06-27 2008-12-31 Thomson Licensing Method and apparatus for identification of lost coded video frames
JP4950133B2 (ja) * 2008-06-11 2012-06-13 日本放送協会 受信エラー補完型受信機及びプログラム
US20100158130A1 (en) * 2008-12-22 2010-06-24 Mediatek Inc. Video decoding method
CN102148985B (zh) * 2010-02-05 2013-06-12 宏碁股份有限公司 视讯译码装置
TWI442778B (zh) * 2010-02-05 2014-06-21 Acer Inc 視訊解碼裝置
WO2012097749A1 (en) * 2011-01-19 2012-07-26 Mediatek Inc. Method and apparatus for parsing error robustness of temporal motion vector prediction
US9807386B2 (en) * 2011-09-29 2017-10-31 Telefonaktiebolaget Lm Ericsson (Publ) Reference picture list handling
US9571847B2 (en) * 2013-01-07 2017-02-14 Qualcomm Incorporated Gradual decoding refresh with temporal scalability support in video coding
KR101645235B1 (ko) * 2014-04-04 2016-08-04 고려대학교 산학협력단 정보 은닉 기법을 이용한 재압축-재압축 해제 장치, 방법 및 이를 저장한 저장매체
CN104883372B (zh) * 2015-06-19 2018-11-16 中国电子科技集团公司第五十四研究所 一种基于无线自组织网的防欺骗和抗攻击的数据传输方法
MX2018010753A (es) * 2016-03-07 2019-01-14 Fraunhofer Ges Forschung Método de ocultamiento híbrido: combinación de ocultamiento de pérdida paquete de dominio de frecuencia y tiempo en códecs de audio.
CN107231563B (zh) * 2016-03-24 2020-06-23 腾讯科技(深圳)有限公司 视频处理方法和装置
US10304468B2 (en) * 2017-03-20 2019-05-28 Qualcomm Incorporated Target sample generation

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5724369A (en) * 1995-10-26 1998-03-03 Motorola Inc. Method and device for concealment and containment of errors in a macroblock-based video codec
KR100247978B1 (ko) * 1997-08-08 2000-03-15 윤종용 픽쳐 디코딩 동기화 회로 및 그 방법
JP3349964B2 (ja) * 1998-11-02 2002-11-25 沖電気工業株式会社 画像復号化装置
JP3411234B2 (ja) * 1999-04-26 2003-05-26 沖電気工業株式会社 符号化情報受信復号装置
GB2362531A (en) * 2000-05-15 2001-11-21 Nokia Mobile Phones Ltd Indicating the temporal order of reference frames in a video sequence
US20040001546A1 (en) * 2002-06-03 2004-01-01 Alexandros Tourapis Spatiotemporal prediction for bidirectionally predictive (B) pictures and motion vector prediction for multi-picture reference motion compensation
CN100568964C (zh) * 2003-02-18 2009-12-09 诺基亚有限公司 图像解码方法
US8194751B2 (en) * 2003-02-19 2012-06-05 Panasonic Corporation Moving picture coding method and moving picture decoding method
US7403660B2 (en) * 2003-04-30 2008-07-22 Nokia Corporation Encoding picture arrangement parameter in picture bitstream
US20050008240A1 (en) * 2003-05-02 2005-01-13 Ashish Banerji Stitching of video for continuous presence multipoint video conferencing
BR0318528A (pt) * 2003-10-09 2006-09-12 Thomson Licensing processo de derivação de modo direto para encobrimento de erros
US7567584B2 (en) * 2004-01-15 2009-07-28 Panasonic Corporation Multiplex scheme conversion apparatus
US7751324B2 (en) * 2004-11-19 2010-07-06 Nokia Corporation Packet stream arrangement in multimedia transmission
US20060271990A1 (en) 2005-05-18 2006-11-30 Rodriguez Arturo A Higher picture rate HD encoding and transmission with legacy HD backward compatibility

Also Published As

Publication number Publication date
KR20080030623A (ko) 2008-04-04
JP2013021729A (ja) 2013-01-31
MX2008001155A (es) 2008-03-13
CN101288315B (zh) 2012-05-30
BRPI0613522A2 (pt) 2011-01-18
KR101289603B1 (ko) 2013-07-24
TW200723888A (en) 2007-06-16
EP1908300A2 (en) 2008-04-09
EP1908300B1 (en) 2018-05-16
JP2009504001A (ja) 2009-01-29
BRPI0613522B1 (pt) 2019-09-17
US8428147B2 (en) 2013-04-23
WO2007018709A2 (en) 2007-02-15
CN101288315A (zh) 2008-10-15
ES2674908T3 (es) 2018-07-04
US20090175344A1 (en) 2009-07-09
WO2007018709A3 (en) 2007-08-16

Similar Documents

Publication Publication Date Title
JP5536174B2 (ja) リファレンスビデオフレーム及びノンリファレンスビデオフレームの検出及び隠蔽の方法及び装置
US10574863B2 (en) Video encoding and decoding
JP5593440B2 (ja) 動きベクトル予測方法
JP5555741B2 (ja) デジタル映像データを符号化するための方法およびデジタル映像符号化システム
JP2008017229A (ja) 動画像符号化装置
EP1867176A1 (en) Method for decoding video signal encoded using inter-layer prediction
JP5502798B2 (ja) チャネル交換フレーム
JPH08154247A (ja) 圧縮画像データ処理装置及び方法
JP5275810B2 (ja) 基準フレームの選択ルールを使用したビデオエラー隠蔽の方法及び装置
US20130272420A1 (en) Video encoding and decoding with improved error resilience
US20130230108A1 (en) Method and device for decoding a bitstream
US20150326874A1 (en) Apparatus and method for coding a video signal
JP3852594B2 (ja) ディジタル画像復号装置及びディジタル画像復号方法
JP3976975B2 (ja) 画像処理装置及びその方法と記憶媒体
KR20050089457A (ko) 동영상 복호화 시 에러 은닉 방법
JP2006325095A (ja) 動画像復号装置
KR20050089454A (ko) 동영상 복호화 시 에러 은닉 방법
KR20050099080A (ko) 동영상 복호화 시 영상 품질 향상 방법
KR20050099079A (ko) 동영상 복호화 시 에러 은닉 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140325

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140423

R150 Certificate of patent or registration of utility model

Ref document number: 5536174

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250