JP5275810B2 - 基準フレームの選択ルールを使用したビデオエラー隠蔽の方法及び装置 - Google Patents

基準フレームの選択ルールを使用したビデオエラー隠蔽の方法及び装置 Download PDF

Info

Publication number
JP5275810B2
JP5275810B2 JP2008544340A JP2008544340A JP5275810B2 JP 5275810 B2 JP5275810 B2 JP 5275810B2 JP 2008544340 A JP2008544340 A JP 2008544340A JP 2008544340 A JP2008544340 A JP 2008544340A JP 5275810 B2 JP5275810 B2 JP 5275810B2
Authority
JP
Japan
Prior art keywords
picture
frame
pictures
error concealment
lost
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008544340A
Other languages
English (en)
Other versions
JP2009518950A (ja
Inventor
バンディオパディヤイ,サウラヴ,クマール
ウ,ゼンユ
パンディット,パーヴィン,ビバス
ボイス,ジル,マクドナルド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2009518950A publication Critical patent/JP2009518950A/ja
Application granted granted Critical
Publication of JP5275810B2 publication Critical patent/JP5275810B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • H04N19/895Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Description

本発明は、ビデオデコーディングに関し、より詳細には、基準フレームの選択ルールを使用したビデオエラー隠蔽の方法及び装置に関する。
本出願は、2005年12月7日に提出され、“Method and apparatus for video error concealment using reference frame selection rules”と題された米国特許仮出願第60/748,250の利益を特許請求するものであり、この仮出願はその完全な形で引用により本明細書に盛り込まれる。
誤りの傾向のある伝送環境(たとえばインターネット、ワイヤレスネットワーク等)では、送信されたビデオストリームは、チャネル障害により生じた破損を受ける場合がある。ある実用的なシステムで遭遇する一般的な状況は、所定の圧縮されたビデオフレームがビットストリームからドロップされることである。これは、フレームがリアルタイムトランスポートプロトコル(RTP)パケットのようなトランスミットユニットに符号化されるように十分に小さい低ビットレートアプリケーションについて特に当てはまる。レシーバの端で、ロバストなビデオデコーダは、フレームのロスを扱うことができるべきである。
さらに、フレームが破損されたビットストリームで失われたとき、フレームに基づいたエラー隠蔽方法が使用されて、失われたフレームが隠蔽される。フレームに基づいたエラー隠蔽に対する1つの従来技術のアプローチでは、検出された失われたフレームの前に受信及び復号化された基準フレームが失われたフレームの基準となるフレームとして使用されることを必要とする。従来のアプローチによれば、前に受信及び復号化された基準フレームの存在が常に想定される。このプラクティスは、幾つかの特性のフレーム又はビットストリームパターンについて最良の隠蔽パフォーマンスを必ずしも生成せず、したがって、隠蔽品質の不必要な低下となる。
従来技術のこれらの問題点及び他の問題点は本発明により対処され、本発明は、基準フレームの選択ルールを使用したビデオエラー隠蔽のための方法及び装置に向けられる。
本発明の態様によれば、ブロックに基づいたエラー隠蔽の装置が提供される。本装置は、失われたピクチャがあるグループオブピクチャにおける最初のインターコーデッドピクチャ(inter−coded picture)であるとき、前のグループオブピクチャにおける最後の利用可能なインターコーデッドピクチャを使用することで、前記グループオブピクチャにおける失われたピクチャにおける現在のブロックを隠蔽するエラー隠蔽モジュールを含む。このグループオブピクチャは、イントラコーデッドピクチャ(intra−coded picture)及びこれに続くインターコーデッドピクチャの系列として特徴づけられるパターンを有する。
本発明の別の態様によれば、ブロックに基づいたエラー隠蔽の方法が提供され、本方法は、失われたピクチャがあるグループオブピクチャにおける最初のインターコーデッドピクチャであるとき、前のグループオブピクチャにおける最後の利用可能なインターコーデッドピクチャを使用することで、前記グループオブピクチャにおける失われたピクチャにおける現在のブロックを隠蔽するステップを含む。このグループオブピクチャは、イントラコーデッドピクチャ及びこれに続くインターコーデッドピクチャの系列として特徴づけられるパターンを有する。
本発明のさらに別の態様によれば、ブロックに基づいたエラー隠蔽の装置が提供される。本装置は、失われたピクチャがインターコーデッドリファレンスピクチャであるとき、ピクチャのタイプに関わらず、グループオブピクチャにおける時間的に最も近い先行するピクチャを使用することで、前記グループオブピクチャにおける失われたピクチャにおける現在のブロックを隠蔽するエラー隠蔽モジュールを含む。このグループオブピクチャは、イントラコーデッドピクチャ、並びにこれに続くインターコーデッドリファレンスピクチャ及びインターコーデッドノンリファレンスピクチャの系列として特徴づけられるパターンを有する。
本発明の更に別の態様によれば、ブロックに基づいたエラー隠蔽の方法が提供される。本方法は、失われたピクチャがインターコーデッドリファレンスピクチャであるとき、ピクチャのタイプに関わらず、グループオブピクチャにおける時間的に最も近い先行するピクチャを使用することで、前記グループオブピクチャにおける失われたピクチャにおける現在のブロックを隠蔽するステップを含む。このグループオブピクチャは、イントラコーデッドピクチャ、並びにこれに続くインターコーデッドリファレンスピクチャ及びインターコーデッドノンリファレンスピクチャの系列として特徴づけられるパターンを有する。
本発明のこれらの態様、特徴及び利点、並びに他の態様、特徴及び利点は、添付図面と共に読まれたときに、例示的な実施の形態の以下の詳細な説明から明らかになるであろう。本発明は、例示的な図面に従って良好に理解される。
本発明は、基準フレームの選択ルールを使用したビデオエラーの隠蔽の方法及び装置に関する。
本実施の形態の記載は、本発明の原理を例示するものである。本実施の形態で明示的に記載されないが、本発明の原理を実施し、本発明の範囲及び精神に含まれる様々なアレンジメントを当業者が考案するであろうことを、本実施の形態の記載を通して理解されるであろう。
本実施の形態で記載される全ての例及び条件言語は、読者が本発明の原理、及び当該技術分野を促進するために発明者により寄与される概念を理解することにおいて支援するための教育的な目的について意図されており、かかる特に引用される例及び条件への限定がないものとして解釈されるべきである。
さらに、本発明の原理、態様及び実施の形態をその特定の例と同様に引用する全てのステートメントは、本発明の構造的及び機能的に等価なものの両者を包含することが意図される。さらに、かかる等価なものは、現在知られている等価なものと同様に将来的に開発される等価なもの、すなわち構造に係らず同じ機能を実行する開発されたエレメントの両者を含む。
したがって、たとえば、本実施の形態で与えられるブロック図は本発明の原理を実施する例示的な回路の概念的なビューを表すことが当業者により理解されるであろう。同様に、任意のフローチャート、フローダイアグラム、状態遷移図、擬似コード等は、コンピュータ読取り可能な媒体で実質的に表現され、コンピュータ又はプロセッサが明示的に表されているか否かに関わらず、コンピュータ又はプロセッサにより実行される様々な処理を表すことが理解されるであろう。
図面に示される様々なエレメントの機能は、専用ハードウェアと同様に適切なソフトウェアとの関連でソフトウェアを実行可能なハードウェアの使用を通して提供される場合がある。プロセッサにより提供されたとき、1つの専用のプロセッサにより、1つの共有プロセッサにより、又はそのうちの幾つかが供給される場合がある複数の個々のプロセッサにより機能が提供される。さらに、用語「プロセッサ」又は「コントローラ」の明示的な使用は、ソフトウェアを実行可能なハードウェアを明示的に言及するものと解釈されるべきではなく、限定することなしに、デジタルシグナルプロセッサ(DSP)ハードウェア、ソフトウェアを記憶するリードオンリメモリ(ROM)、ランダムアクセスメモリ(RAM)、及び不揮発性ストレージを暗黙に含む場合がある。
条件付き及び/又はカスタムの他のハードウェアが含まれる場合もある。同様に、図面に示される任意のスイッチは、単に概念的なものである。それらの機能は、プログラムロジックの動作を通して、専用ロジックを通して、プログラム制御及び専用ロジックのインタラクションを通して、更には手動で実行され、特定の技術は、コンテクストからより詳細に理解される実現者により選択可能である。
請求項では、特定の機能を実行する手段として表現されるエレメントは、たとえばa)その機能を実行する回路エレメントの組み合わせ、又はb)その機能を実行するためにそのソフトウェアを実行する適切な回路と結合される、ファームウェア、マイクロコード等を含む任意の形式でのソフトウェアを含むその機能を実行する任意のやり方を包含することが意図される。かかる請求項により定義される発明は、請求項が求めるやり方で互いに結合される。したがって、それらの機能を提供する任意の手段は、本実施の形態で示される手段と等価であるとみなされる。
図1を参照して、本発明の原理が適用される例示的なデコーダは、参照符号100により一般的に示される。ビデオデコーダ100は、エントロピーデコーダ110を含む。エントロピーデコーダ110の第一の出力は、逆量子化/変換器120の入力と信号通信で接続される。逆量子化/変換器120の出力は、サミングジャンクション140の第一の入力と信号通信で接続される。
サミングジャンクション140の出力は、デブロックフィルタ190と信号通信で接続される。デブロックフィルタ190の出力は、リファレンスピクチャストア150と信号通信で接続される。リファレンスピクチャストア150は、動き補償器160の第一の入力との信号通信で接続される。動き補償器160の出力は、サミングジャンクション140の第二の入力と信号通信で接続される。
エントロピーデコーダ110の第二の出力は、動きベクトル(MV)ストア176の入力及び動き補償器160の第二の入力と信号通信で接続される。動きベクトルストア176の出力は、エラー隠蔽モジュール177の入力と信号通信で接続される。エラー隠蔽モジュール177の出力は、動き補償器160の第三の入力と信号通信で接続される。デブロックフィルタ190の出力は、ビデオデコーダ100の出力を提供する。
本発明の原理によれば、異なるタイプの失われたフレームについてエラー隠蔽の間に参照されるべき適切なフレームの選択について多数のルールが提案される。以下の例示的なケースが考慮される。(1)IPPP...ビットストリームパターンにおいて、Iフレーム後の最初のPフレームは失われている。(2)IpPpP...ビットストリームパターンにおいて、Pフレームが失われる。勿論、本発明の原理は先行するビットストリームパターンのみに限定されず、したがって他のビットストリームパターンが本発明の原理に従って利用される場合もあることが理解される。すなわち、本実施の形態で提供される本発明の原理の教示が与えられた場合、当業者であれば、本発明の原理の範囲を維持しつつ、本発明が有利の適用される場合があるこれらのビットストリーム及び様々な他のビットストリームパターンを考案するであろう。さらに、本発明の原理の例はフレームの観点で実施の形態で記載されるが、本発明の原理は、ピクチャ、フィールド等にも同様に適用可能であることが理解される。
上述された従来技術のアプローチでは、ISO/IEC(International Organization for Standardization/International Electrotechnical Commission)MPEG−4(Moving Picture Experts Group -4)Part10 AVC(Advanced Video Coding)規格/ITU−T(International telecommunication Union, Telecommunication Sector)H.264規格(以下、“MPEG4/H.264規格”と呼ぶ又は単に“H.264規格”)に対応するジョイントモデル(JM)デコーダソフトウェアには、ある失われたフレームを検出及び隠蔽する機能が設けられる。以下の2つのオプションがJMデコーダソフトウェアにおけるフレームロスのエラー隠蔽について利用可能である。(a)フレームコピー及び(b)動きコピー。しかし、両方のオプションは、特定の受信されたデコードされたフレームがエラー隠蔽の間に参照されることを要求する。上述された従来のアプローチでは、ある失われたフレームの前の前に利用可能な基準フレームが選択される。しかし、幾つかの特定のビットストリームパターン又はロスのケースについて、これは常に最良のプラクティスではない。
IPPP...ビットストリームをもつGOP(グループオブピクチャ)を考える。GOPにおける最初のPフレームが失われたとする。上述の参照された従来技術のアプローチによれば、「動きコピー」のエラー隠蔽がPフレームを隠蔽するために始動される場合、Iフレームは、その基準フレームとして選択される。Iフレームは動き情報を搬送しないので(動きベクトルは0に等しい)、「動きコピー」は、このケースでは「フレームリピート」に等価であり、これは、ハイモーション(high−motion)ビデオ系列について、著しい隠蔽の歪み及びエラー伝播を引き起こす。Iフレームはシーン変化で挿入されることがあり、このケースでは、先のプラクティスは、最良の可能な結果を生成する。しかし、Iフレームは、エラー回復及びランダムアクセスのような他の目的のために挿入されることもあり、この場合、Iフレームは、シーンにおける劇的な変化に必ずしも対応しない。後者のケースでは、隠蔽のための基準フレームとして前のGOPから最後の利用可能なPフレームを使用することが提案される。Pフレームは動き情報を搬送するので、「動きコピー」は、現在のGOPにおける失われたPフレームを隠蔽するために通常に始動される。基準フレームとしてIフレームを使用することに比較して、2つのPフレーム間の大きな時間的な距離にもかかわらず、動き情報を利用することでそれらハイモーションのビデオ系列について性能の改善が更に達成される。IpPpP...ビットストリームパターンをもつGOPを考え、ここで“p”はノンリファレンス、基準とならないPフレームを示し、“P”はリファレンス、基準となるPフレームを示す。あるPフレームが失われたとする。上述された従来技術のアプローチによれば、その前の利用可能なリファレンスフレームは、エラー隠蔽について使用される。対照的に、本発明の原理の実施の形態によれば、エラー隠蔽について、利用可能な場合、その直前のpフレームを使用することが提案される。上述された従来技術のアプローチにおける方法と比較して、提案されるルールは、失われたフレームに時間的に近いフレームを使用する。したがって、画素値と動き情報の両者について、新たな基準フレームは、失われたフレームに対してより多くの相関を一般に有する。したがって、「フレームリピート」と同様に「動きコピー」のエラー隠蔽方法は、提案されたルールから利益を受ける。pフレームはデコーダバッファに記憶されていないので、その動き情報は、デコーダバッファで利用可能ではない。したがって、「動きコピー」エラー隠蔽について、提案されるルールを実現するため、(P,p)ペアにおけるpフレームは、次のPフレームの可能な損失について記憶される必要がある。pフレームがデコードされるたびに、このpフレームのみが記憶される必要があり、メモリにおける既存のpフレームを置き換える。
特に、pフレームのデコードされた画素値とその動き情報(動きベクトル、リファレンスインデックス)は、その使用のために割り当てられたバッファに記憶される必要がある。この更なる機能性は、実現するのが容易であり、デコーダに多くの複雑さを追加しない。
図2に進み、ビデオデコーダにおけるフレームに基づいたエラー隠蔽の例示的な方法は、参照符号200により一般に示される。
ループリミットブロック204は、あるシーケンスにおいてそれぞれのフレームを通してループし、判定ブロック208に制御を移す。判定ブロック208は、frame_num(new) − frame_num(old)=1であるか否かを判定する。等号が成り立つ場合、制御は機能ブロック212に移る。さもなければ、制御は機能ブロック232に移る。
機能ブロック212は、あるフレームについて通常のデコーディングを実行し、制御を機能ブロック212に移す。機能ブロック216は、IpP...パターンについて、ちょうどデコードされたpフレームを記憶し、前にデコードされたpフレームを置き換え、制御を判定ブロック220に移す。判定ブロック220は、フレームが出力する用意があるか否かを判定する。出力する用意がある場合、制御は判定ブロック224に送出される。さもなければ、制御はループリミットブロック299に移る。
機能ブロック224は、ピクチャオーダカウント(POC)ギャップを計算し、制御を判定ブロック228に移す。判定ブロック228は、機能ブロック224により計算されるPOCギャップがコンフィギュレーションファイルで設定されたPOCギャップに等しいかを判定する。等しい場合、制御はループリミットブロック299に移る。さもなければ、制御は機能ブロック232に移る。
ループリミットブロック299は、系列におけるフレームを通してループを終了する。
機能ブロック232は、ある失われたフレームについて空の復号化のピクチャ構造を形成し、制御を判定ブロック236に移す。判定ブロック236は、フレームコピー又は動きコピーが使用されるべきか否かを判定する。動きコピーが使用されるべきである場合、制御は機能ブロック256に移る。さもなければ、フレームコピーが使用されるべきである場合、制御は判定ブロック240に移る。
機能ブロック256は、(失われたフレームの基準フレームについて調整が行われるように)失われたフレームがGOPにおける最初のPフレームであるかをチェックし、制御をループリミットブロック260に移す。ループリミットブロック260は、失われたフレームにおけるそれぞれのサブブロックを通してループし、制御を機能ブロック264に移す。機能ブロック264は、失われたフレームにおけるサブブロックにおける領域の動きベクトルを、基準フレームにおける同じ位置に位置される領域(co−located region)の動きベクトルに設定し、制御を機能ブロック268に移す。機能ブロック268は、その領域のリファレンスインデックスを、基準フレームにおける同じ位置に位置される領域のリファレンスインデックスに設定し、制御をループリミットブロック272に移す。ループリミットブロック272は、失われたフレームにおけるそれぞれのサブブロックを通したループを終了し、制御を機能ブロック276に移す。機能ブロック276は、フレームを再構成するために動き補償を実行し、制御を機能ブロック280に移す。機能ブロック280は、でブロッキングフィルタリングをフレームに行い、制御を判定ブロック284に移す。判定ブロック284は、隠蔽されたフレームが基準フレームであるか否かを判定する。隠蔽されたフレームが基準フレームである場合、制御は機能ブロック288に移る。さもなければ、制御は機能ブロック298に移る。
機能ブロック288は、隠蔽されたフレームについてframe_numを更新し、制御を判定ブロック292に移す。判定ブロック292は、現在のフレームが瞬間的なデコーディングリフレッシュ(IDR)フレームであるか否かを判定する。現在のフレームがIDRフレームである場合、制御は機能ブロック294に移る。さもなければ、制御は機能ブロック296に移る。
機能ブロック294は、隠蔽されたフレームをデコーダバッファに記憶し、制御を判定ブロック208に戻す。
機能ブロック296は、現在のデコーダバッファにおける内容をクリアし、制御を機能ブロック294に移す。
判定ブロック240は、リファレンスギャップPOCが4に等しいかを判定する。リファレンスギャップPOCが4に等しい場合、制御は判定ブロック244に通過される。さもなければ、制御は機能ブロック252に通過される。
判定ブロック244は、現在のフレームがIpP...パターンを含むか否かを判定する。現在のフレームがIpP...パターンを含む場合、制御は機能ブロック248に移る。さもなければ、制御は機能ブロック252に移る。
機能ブロック248は、基準フレームを前の使い捨てのPフレームに設定し、制御を機能ブロック252に移す。
機能ブロック252は、基準フレームから失われたフレームへの画素毎のコピーを行い、制御をループリミットブロック299に移す。
したがって、本発明の1つの例示的な実施の形態によれば、イントラコーデッドフレーム及びこれに続くインターコーデッドフレームの系列(たとえばIPPPP...系列)として特徴付けられるビットストリームパターンをもつGOPについて、最初のインターコーデッドフレームが失われ、イントラコーデッドフレームがシーン変化に対応しないとき、前のGOPからの最後の利用可能な予測フレームは、エラー隠蔽のために使用される。
さらに、本発明の原理の別の例示的な実施の形態によれば、イントラコーデッドフレーム及びこれに続くノンリファレンスタイプ(p)又はリファレンスタイプ(P)のいずれかであるインターコーデッドフレームの系列(たとえばIpPpP...系列)として特徴付けられるビットストリームパターンをもつGOPについて、(IPPPP...系列に関して記載された先のケースを除いて)リファレンスタイプのインターコーデッドフレームが失われたとき、(フレームタイプに関わらず)その時間的に最も近い先行するフレームは、エラー隠蔽のために使用される。
先に述べたように、本発明の原理がフレームに関して主に記載されたが、本発明の原理は、当業者によって容易に考えられるように、ピクチャ、フィールド等にも同様に適用可能であることが理解される。さらに、本発明の原理は先行するビットストリームパターンのみに限定されず、他のビットストリームパターンも本発明の原理に従って利用される場合もあることが理解される。すなわち、本実施の形態で提供される本発明の原理の教示が与えられると、当業者であれば、本発明の原理の範囲を維持しつつ、本発明の原理が有利に適用されるこれらのビットストリームパターン及び様々な他のビットストリームパターンを考案するであろう。
説明は、本発明の多くの付随する利点/特徴の幾つかに関して与えられ、そのうちの幾つかについて上述された。たとえば、1つの利点/特徴は、失われたピクチャがグループオブピクチャにおける最初のインターコーデッドピクチャであるとき、前のグループオブピクチャにおける最後の利用可能なインターコッデッドピクチャを使用することで、グループオブピクチャにおける失われたピクチャにおける現在のブロックを隠蔽するエラー隠蔽モジュールを含むブロックに基づいたエラー隠蔽の装置である。グループオブピクチャは、イントラコーデッドピクチャ及びこれに続くインターコーデッドピクチャの系列として特徴づけされるパターンを有する。
別の利点/特徴は、上述された装置であって、エラー隠蔽モジュールは、最後に利用可能な予測ピクチャにおける共に位置されるブロックから現在のブロックについて動き情報を導出することで現在のブロックを隠蔽する。
更に別の利点/特徴は、上述された共に位置されるブロックから現在のブロックについて動き情報を導出するエラー隠蔽モジュールを有する装置であり、エラー隠蔽モジュールは、共に位置されるブロックのリファレンスインデックスから現在のブロックの使用のためのリファレンスインデックスを導出する。
さらに、別の利点/特徴は、上述のような装置であり、グループオブピクチャにおけるイントラコーデッドピクチャは、シーン変化への対応をもたない。
さらに、別の利点/特徴は、上述のような装置であり、エラー隠蔽モジュールは、グループオブピクチャにおける失われたピクチャから前のグループオブピクチャにおける最後に利用可能な予測ピクチャへのピクチャオーダカウントギャップが閾値よりも大きいとき、最後に利用可能な予測ピクチャにおける共に位置される画素から失われたピクチャにおける現在の画素への画素毎のコピーを実行する。
また、別の利点/特徴は上述された装置であり、エラー隠蔽モジュールは、失われたピクチャのピクチャオーダカウントを更新する。
さらに、別の利点/特徴は、失われたピクチャがインターコーデッドリファレンスピクチャであるとき、ピクチャタイプに関わらず、グループオブピクチャにおける時間的に最も近い先行するピクチャを使用することで、グループオブピクチャにおける失われたピクチャにおいて現在のブロックを隠蔽するエラー隠蔽モジュールを含むブロックに基づいたエラー隠蔽の装置である。グループオブピクチャは、イントラコーデッドピクチャ及びこれに続くインターコーデッドリファレンスピクチャとインターコーデッドノンリファレンスピクチャからなる系列として特徴づけされるパターンを有する。
別の利点/特徴は、上述された時間的に最も近い先行するピクチャを使用して現在のブロックを隠蔽するエラー隠蔽モジュールを有する装置であり、エラー隠蔽モジュールは、時間的に最も近い先行するピクチャにおける共に位置されるブロックから現在のブロックについて動き情報を導出することで、現在のブロックを隠蔽する。
更に別の利点/特徴は、時間的に最も近い先行するピクチャを使用して現在のブロックを隠蔽し、上述された共に位置されるブロックから現在のブロックについて動き情報を導出するエラー隠蔽モジュールを有する装置であり、エラー隠蔽モジュールは、共に位置されるブロックのリファレンスインデックスから現在のブロックの使用のためにリファレンスインデックスを導出する。
さらに、別の利点/特徴は、上述された時間的に最も近い先行するピクチャを使用して現在のブロックを隠蔽するエラー隠蔽モジュールを有する装置であり、グループオブピクチャにおけるイントラコーデッドピクチャは、シーン変化に対する対応をもたない。
さらに、別の利点/特徴は、上述された時間的に最も近い先行するピクチャを使用して現在のブロックを隠蔽するエラー隠蔽モジュールを有する装置であり、エラー隠蔽モジュールは、失われたピクチャから時間的に最も近い先行するピクチャへのピクチャオーダのカウントのギャップが閾値よりも大きいときに、時間的に最も近い先行するピクチャにおける共に位置される画素から失われたピクチャにおける現在の画素への画素毎のコピーを実行する。
また、別の利点/特徴は、上述された時間的に最も近い先行するピクチャを使用して現在のブロックを隠蔽するエラー隠蔽モジュールを有する装置であり、エラー隠蔽モジュールは、失われたピクチャのピクチャ番号を更新する。
また、別の利点/特徴は、上述された時間的に最も近い先行するピクチャを使用して現在のブロックを隠蔽するエラー隠蔽モジュールを有する装置であり、本装置は、失われたピクチャが瞬間的なデコーディングリフレッシュピクチャであるとき、隠蔽に続く失われたピクチャを記憶するバッファをさらに含む。
さらに、別の利点/特徴は、上述のように時間的に最も近い先行するピクチャを私用して現在のブロックを隠蔽するエラー隠蔽モジュールを有する装置であり、失われたピクチャは、前に隠蔽された失われたピクチャを置き換えるために記憶される。
さらに、別の利点/特徴は、上述された時間的に最も近い先行するピクチャを使用して現在のブロックを隠蔽するエラー隠蔽モジュールを有する装置であり、本装置は、最後に利用可能なノンリファレンスインターコーデッドピクチャのデコーディングに続いて、失われたピクチャにおける現在のブロックの隠蔽で使用するための最後に利用可能なノンリファレンスインターコーデッドピクチャを記憶するバッファを更に含む。
さらに、別の利点/特徴は、上述された時間的に最も近い先行するピクチャを使用して現在のブロックを隠蔽するエラー隠蔽モジュールを有する装置であり、本装置は、最後に利用可能なノンリファレンスインターコーデッドピクチャのデコーディングに続いて、失われたピクチャにおける現在のブロックの隠蔽で使用するために最後に利用可能なノンリファレンスインターコーデッドピクチャについて動きベクトルを記憶するバッファをさらに含む。
本発明のこれらの利点及び特徴、並びに他の利点及び特徴は、本実施の形態での教示に基づいて当業者により容易に想定される場合がある。本発明の教示は、ハードウェア、ソフトウェア、特定用途向けプロセッサ又はそれらの組み合わせの様々な形式で実現されることを理解されたい。
最も好ましくは、本発明の教示は、ハードウェアとソフトウェアの組み合わせとして実現される。さらに、ソフトウェアは、プログラムストレージユニットで有形に実施されるアプリケーションプログラムとして実現される場合がある。アプリケーションプログラムは、適切なアーキテクチャを有するコンピュータにアップロードされ、該コンピュータにより実行される。好ましくは、コンピュータは、1以上の中央処理装置(CPU)、ランダムアクセスメモリ(RAM)、及び入力/出力(I/O)インタフェースのようなハードウェアを有するコンピュータプラットフォームで実現される。また、コンピュータプラットフォームは、オペレーティングシステム及びマイクロ命令を含む場合がある。本実施の形態で記載される様々な処理及び機能は、CPUにより実行される、マイクロ命令コードの一部又はアプリケーションプログラムの一部、若しくはその組み合わせの何れかである場合がある。さらに、様々な他の周辺装置は、更なるデータストレージユニット及びプリンティングユニットのようなコンピュータプラットフォームに接続される場合がある。
添付図面に記載されたシステムコンポーネント及び方法の幾つかはソフトウェアで実現されることが好ましいので、システムコンポーネント間又はプロセス機能ブロック間の実際の接続は、本発明がプログラムされるやり方に依存して異なる場合があることを更に理解されたい。本実施の形態での教示が与えられると、当業者は、本発明のこれらの実現又はコンフィギュレーション若しくは他の実現又はコンフィギュレーションを考案することが可能である。
例示的な実施の形態が添付図面を参照して実施の形態で記載されたが、本発明はそれら正確な実施の形態に限定されず、様々な変形及び変更は本発明の精神又は範囲から逸脱することなしに当業者により実施される場合があることを理解されたい。全ての係る変形及び変更は、特許請求の範囲で述べるように本発明の範囲に含まれることが意図される。
本発明が適用される例示的なスケーラブルビデオデコーダの図である。 本発明の原理の実施の形態に係るビデオデコーダにおけるフレームに基づいたエラー隠蔽の例示的な方法の図である。 本発明の原理の実施の形態に係るビデオデコーダにおけるフレームに基づいたエラー隠蔽の例示的な方法の図である。

Claims (4)

  1. ブロックに基づいたエラー隠蔽の装置であって、
    のグループオブピクチャにおける最後の利用可能なインターコーデッドピクチャのみを使用することで、前記グループオブピクチャにおける失われたピクチャにおいて現在のブロックを隠蔽するエラー隠蔽モジュールを含み、
    失われたピクチャがグループオブピクチャにおける最初のインターコーデッドピクチャであるとき、前記グループオブピクチャは、イントラコーデッドピクチャ及びこれに続くインターコーデッドピクチャの系列として特徴づけられるパターンを有し、前記イントラコーデッドピクチャはシーン変化に対応せず、
    前記エラー隠蔽モジュールは、前記最後の利用可能なインターコーデッドピクチャにおける同じ位置に位置されるブロックのリファレンスインデックスから前記現在のブロックの使用のためのリファレンスインデックスを導出する、
    ことを特徴とする装置。
  2. 前記エラー隠蔽モジュールは、前記最後に利用可能なインターコーデッドピクチャにおける同じ位置に位置されるブロックから前記現在のブロックについて動き情報を導出することで現在のブロックを隠蔽する、
    請求項1記載の装置。
  3. ブロックに基づいたエラー隠蔽の方法であって、
    のグループオブピクチャにおける最後の利用可能なインターコーデッドピクチャのみを使用することで、前記グループオブピクチャにおける失われたピクチャにおいて現在のブロックを隠蔽するステップを含み、
    失われたピクチャがグループオブピクチャにおける最初のインターコーデッドピクチャであるとき、前記グループオブピクチャは、イントラコーデッドピクチャ及びこれに続くインターコーデッドピクチャの系列として特徴づけられるパターンを有し、前記イントラコーデッドピクチャはシーン変化に対応せず
    前記隠蔽するステップは、前記最後の利用可能なインターコーデッドピクチャにおける同じ位置に位置されるブロックのリファレンスインデックスから前記現在のブロックの使用のためのリファレンスインデックスを導出するステップを含む、
    ことを特徴とする方法。
  4. 前記隠蔽するステップは、前記最後に利用可能なインターコーデッドピクチャにおける同じ位置に位置されるブロックから前記現在のブロックについて動き情報を導出するステップを含む、
    請求項記載の方法。
JP2008544340A 2005-12-07 2006-10-26 基準フレームの選択ルールを使用したビデオエラー隠蔽の方法及び装置 Active JP5275810B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US74825005P 2005-12-07 2005-12-07
US60/748,250 2005-12-07
PCT/US2006/041721 WO2007067271A2 (en) 2005-12-07 2006-10-26 Method and apparatus for video error concealment using reference frame selection rules

Publications (2)

Publication Number Publication Date
JP2009518950A JP2009518950A (ja) 2009-05-07
JP5275810B2 true JP5275810B2 (ja) 2013-08-28

Family

ID=37915533

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008544340A Active JP5275810B2 (ja) 2005-12-07 2006-10-26 基準フレームの選択ルールを使用したビデオエラー隠蔽の方法及び装置

Country Status (6)

Country Link
US (2) US9210447B2 (ja)
EP (1) EP1961236B1 (ja)
JP (1) JP5275810B2 (ja)
KR (2) KR20080076926A (ja)
CN (1) CN101326833B (ja)
WO (1) WO2007067271A2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101321284B (zh) * 2007-06-10 2012-01-04 华为技术有限公司 一种编解码方法、设备及系统
US9979958B2 (en) 2012-04-20 2018-05-22 Qualcomm Incorporated Decoded picture buffer processing for random access point pictures in video sequences
CN104396238B (zh) * 2012-07-17 2016-12-28 汤姆逊许可公司 比特流级别的视频质量评估
KR20160074601A (ko) * 2013-10-22 2016-06-28 브이아이디 스케일, 인크. 비디오 송신 시스템에 대한 에러 은닉 모드 시그널링
US20170264911A1 (en) * 2013-10-31 2017-09-14 Thomson Licensing Method and device for predictive coding/decoding of a group of pictures of a sequence of images with conversion of the dynamic of the values of the pixels
CN111556334B (zh) * 2020-03-27 2021-01-19 李惠芳 一种互联网视频平滑方法
CN116320471B (zh) * 2023-05-18 2023-08-22 中南大学 视频信息隐藏方法、系统、设备及视频隐藏信息提取方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100556450B1 (ko) * 1998-05-28 2006-05-25 엘지전자 주식회사 움직임 벡터 추정에 의한 오류 복원 방법
GB2343321B (en) * 1998-11-02 2003-03-26 Nokia Mobile Phones Ltd Error concealment in a video signal
JP2002077922A (ja) 2000-08-30 2002-03-15 Fujitsu Ltd 画像制御システム及び画像復号化装置
US20030012287A1 (en) 2001-03-05 2003-01-16 Ioannis Katsavounidis Systems and methods for decoding of systematic forward error correction (FEC) codes of selected data in a video bitstream
US7003035B2 (en) * 2002-01-25 2006-02-21 Microsoft Corporation Video coding methods and apparatuses
JP2003348594A (ja) * 2002-05-27 2003-12-05 Sony Corp 画像復号装置及び方法
US8107539B2 (en) * 2002-07-15 2012-01-31 Nokia Corporation Method for error concealment in video sequences
CN101668215A (zh) * 2003-02-18 2010-03-10 诺基亚有限公司 图像解码方法
US20050008240A1 (en) * 2003-05-02 2005-01-13 Ashish Banerji Stitching of video for continuous presence multipoint video conferencing
US7400588B2 (en) * 2003-08-01 2008-07-15 Thomson Licensing Dynamic rate adaptation using neural networks for transmitting video data
KR100531895B1 (ko) * 2004-02-26 2005-11-29 엘지전자 주식회사 이동통신 시스템에서의 영상 블럭 오류 은닉 장치 및 방법
EP1578131A1 (en) * 2004-03-18 2005-09-21 STMicroelectronics S.r.l. Encoding/decoding methods and systems, computer program products therefor
JP2005303487A (ja) 2004-04-08 2005-10-27 Victor Co Of Japan Ltd 動画像復号装置及び動画像復号プログラム
CN1722830A (zh) 2004-07-13 2006-01-18 皇家飞利浦电子股份有限公司 一种编码数据的解码方法和装置
US7751324B2 (en) * 2004-11-19 2010-07-06 Nokia Corporation Packet stream arrangement in multimedia transmission
TW200709580A (en) * 2005-05-11 2007-03-01 Qualcomm Inc A method and apparatus for unified error concealment framework
US20070058730A1 (en) * 2005-09-09 2007-03-15 Microsoft Corporation Media stream error correction

Also Published As

Publication number Publication date
CN101326833A (zh) 2008-12-17
KR20080076926A (ko) 2008-08-20
US9210447B2 (en) 2015-12-08
JP2009518950A (ja) 2009-05-07
WO2007067271A3 (en) 2007-08-16
EP1961236B1 (en) 2018-03-14
KR101493407B1 (ko) 2015-02-16
EP1961236A2 (en) 2008-08-27
WO2007067271A2 (en) 2007-06-14
KR20140043790A (ko) 2014-04-10
US20090238280A1 (en) 2009-09-24
CN101326833B (zh) 2012-11-14
US20160073135A1 (en) 2016-03-10

Similar Documents

Publication Publication Date Title
JP4908522B2 (ja) 誤り隠蔽に関連する歪み値に基づいてエンコード方法を決定する方法および装置
JP5536174B2 (ja) リファレンスビデオフレーム及びノンリファレンスビデオフレームの検出及び隠蔽の方法及び装置
JP5882984B2 (ja) ビデオ符号化およびビデオ復号化のための暗示的適応型動きベクトル予測子選択の方法および装置
JP5415081B2 (ja) フレキシブル・マクロブロック配列(fmo)ビデオ符号化のためにフレーム選択を最適化する方法及び装置
US8391363B2 (en) Method and apparatus for motion projection error concealment in block-based video
US9414086B2 (en) Partial frame utilization in video codecs
US9300956B2 (en) Method and apparatus for redundant video encoding
JP5275810B2 (ja) 基準フレームの選択ルールを使用したビデオエラー隠蔽の方法及び装置
US9584832B2 (en) High quality seamless playback for video decoder clients
AU2013212013A1 (en) Object detection informed encoding
US9565404B2 (en) Encoding techniques for banding reduction
US20130272420A1 (en) Video encoding and decoding with improved error resilience
JP4485409B2 (ja) 動画像復号装置
Carreira et al. Reference picture selection using checkerboard pattern for resilient video coding
KR20050089457A (ko) 동영상 복호화 시 에러 은닉 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091009

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111004

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111011

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120110

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120411

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120925

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20121221

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130416

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130516

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5275810

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250