JP2010516102A - マルチビュー符号化ビデオにおいてビデオ・エラー補正を行う方法および装置 - Google Patents

マルチビュー符号化ビデオにおいてビデオ・エラー補正を行う方法および装置 Download PDF

Info

Publication number
JP2010516102A
JP2010516102A JP2009544936A JP2009544936A JP2010516102A JP 2010516102 A JP2010516102 A JP 2010516102A JP 2009544936 A JP2009544936 A JP 2009544936A JP 2009544936 A JP2009544936 A JP 2009544936A JP 2010516102 A JP2010516102 A JP 2010516102A
Authority
JP
Japan
Prior art keywords
picture
international
level
view
pictures
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009544936A
Other languages
English (en)
Other versions
JP2010516102A5 (ja
Inventor
ビブハス パンデイツト,パービン
スー,イエピン
イン,ペン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2010516102A publication Critical patent/JP2010516102A/ja
Publication of JP2010516102A5 publication Critical patent/JP2010516102A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • H04N19/895Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/188Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a video data packet, e.g. a network abstraction layer [NAL] unit
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

マルチビュー符号化ビデオにおいてビデオ・エラー補正を行う方法および装置を提供する。装置は、ビットストリームからのマルチビュー・ビデオ・コンテンツに対応する少なくとも1つのビューのピクチャを復号するデコーダ(100)を備える。デコーダ(100)は、少なくとも1つのビューの特定の1つに対応するピクチャの何れかが失われているどうかを、既存のシンタックスエレメントを用いて判定する。既存のシンタックスエレメントは、ピクチャ損失判定以外の別の機能を実行するものである(315)。少なくとも1つのビューの特定の1つは、ビデオ符号化標準およびビデオ符号化勧告の少なくとも1つに準拠している。

Description

関連出願の相互参照
本願は、2007年1月4日出願の米国仮特許出願第60/883458号の利益を主張するものであり、その開示内容全体が本願に組み込まれている。
本発明は概ねビデオの復号に関し、より詳細には、マルチビュー符号化ビデオにおいてビデオ・エラー補正を行う方法および装置に関する。
破損したビットストリームにおいてピクチャが失われたとき、いくつかのピクチャ単位のエラー隠蔽方法を使用して、失われたピクチャを隠蔽することができる。隠蔽を実行するためには、ピクチャが失われたと判定し、当該ピクチャの位置を決定しなければならない。
シングル・ビューの場合には、ピクチャの損失を検出する方法はいくつかある。ISO/IEC MPEG−4 Part 10 Advanced Video Coding(AVC)標準/ITU−T H.264勧告(以下「MPEG−4 AVC標準」と呼ぶ)では、frame_numの概念が参照ピクチャの損失を検出する目的に適う。さらに、リカバリ・ポイントSEIメッセージ、サブシーケンスSEIメッセージ、リカバリ・ポイントSEIメッセージ、参照ピクチャ・マーキング反復SEIメッセージなどの付加拡張情報(Supplemental Enhancement Information)(SEI)メッセージ、ピクチャ・オーダ・カウント(POC)設計、およびマルチ・リファレンス・ピクチャ・バッファリング(multiple reference picture buffering)も、ピクチャ損失検出のために使用することができる。
ただし、これらの方法は、マルチビューの場合には拡張されていない。
本発明は、従来技術の上記その他の欠点および不利に対処するものであり、マルチビュー符号化ビデオにおいてビデオ・エラー検出を行う方法および装置に関するものである。
本発明の一態様によれば、装置が提供される。この装置は、ビットストリームからのマルチビュー・ビデオ・コンテンツに対応する少なくとも1つのビューのピクチャを復号するデコーダを備える。このデコーダは、少なくとも1つのビューの特定の1つに対応するピクチャの何れかが失われているどうかを既存のシンタックスエレメントを用いて判定する。既存のシンタックスエレメントは、ピクチャ損失判定以外の別の機能を実行するものである。少なくとも1つのビューの特定の1つは、ビデオ符号化標準およびビデオ符号化勧告の少なくとも1つに準拠している。
本発明の他の態様によれば、方法が提供される。この方法は、ビットストリームからのマルチビュー・ビデオ・コンテンツに対応する少なくとも1つのビューのピクチャを復号するステップを含む。この復号ステップは、少なくとも1つのビューの特定の1つに対応するピクチャの何れかが失われているどうかを既存のシンタックスエレメントを用いて判定するステップを含む。既存のシンタックスエレメントは、ピクチャ損失判定以外の別の機能を実行するものである。
本発明のさらに他の態様によれば、装置が提供される。この装置は、ビットストリームからのマルチビュー・ビデオ・コンテンツに対応する少なくとも1つのビューのピクチャを復号するデコーダを備える。ピクチャは、ビデオ・シーケンスの少なくとも一部分を表す。ピクチャの少なくともいくつかは、ビデオ・シーケンス内の異なる時刻に対応する。デコーダは、異なる時刻の特定の1つに対応する全てのピクチャが失われているかどうかを既存のシンタックスエレメントを用いて判定する。既存のシンタックスエレメントは、ピクチャ損失判定以外の別の機能を実行するものである。
本発明のさらに他の態様によれば、方法が提供される。この方法は、ビットストリームからのマルチビュー・ビデオ・コンテンツに対応する少なくとも1つのビューのピクチャを復号するステップを含む。これらのピクチャは、ビデオ・シーケンスの少なくとも一部分を表す。これらのピクチャの少なくともいくつかは、ビデオ・シーケンス内の異なる時刻に対応する。復号ステップは、異なる時刻の特定の1つに対応する全てのピクチャが失われているかどうかを既存のシンタックスエレメントを用いて判定するステップを含む。既存のシンタックスエレメントは、ピクチャ損失判定以外の別の機能を実行するものである。
本発明の上記その他の特徴、特色および利点は、以下の例示的な実施例の詳細な説明を添付の図面と関連付けて読めば明らかになるであろう。
本発明は、以下の例示的な図面によってより深く理解することができる。
本発明の一実施例による、本発明を適用することができる例示的なマルチビュー・ビデオ符号化(MVC)デコーダを示すブロック図である。 本発明の一実施例による、本発明を適用することができるビューの数が8個であるマルチビュー・ビデオ符号化システムのタイム・ファースト符号化構造を示す図である。 本発明の一実施例による、失われたピクチャに対するエラー隠蔽を用いてビデオ・シーケンスに対応するビデオ・データを復号する例示的な方法を示すフローチャートである。 本発明の一実施例による、失われたピクチャに対するエラー隠蔽を用いてビデオ・シーケンスに対応するビデオ・データを復号する別の例示的な方法を示すフローチャートである。 本発明の一実施例による、エラー隠蔽を用いてビデオ・シーケンスに対応するビデオ・データを復号するさらに別の例示的な方法を示すフローチャートである。 本発明の一実施例による、エラー隠蔽を用いてビデオ・シーケンスに対応するビデオ・データを復号するさらに別の例示的な方法を示すフローチャートである。
本発明は、マルチビュー符号化ビデオにおいてビデオ・エラー検出を行う方法および装置に関する。
本明細書では、本発明について説明する。従って、本明細書に明示的に記述または図示してはいないが本発明を実施し、本発明の趣旨および範囲内に含まれる様々な構成を、当業者なら考案することができることを理解されたい。
本明細書に記載する全ての例および条件に関する表現は、本発明と発明者が与える当技術分野をさらに進歩させるための概念とを読者が理解するのを助けるという教育的な目的を有するものであり、これらの具体的に列挙した例および条件に限定されないものと解釈されたい。
さらに、本発明の原理、特徴および実施例ならびに本発明の具体的な例について本明細書で述べる全ての記述は、その構造的均等物および機能的均等物の両方を含むものとする。さらに、これらの均等物には、現在既知の均等物と将来開発されるであろう均等物の両方が含まれる、すなわち、その構造にかかわらず同じ機能を実行する、将来開発される任意の要素が含まれるものとする。
従って、例えば、当業者なら、本明細書に示すブロック図が本発明を実施する例示的な回路の概念図を表していることを理解するであろう。同様に、任意のフローチャート、流れ図、状態遷移図、擬似コードなどが、コンピュータ可読媒体中に実質的に表現され、明示される場合もされない場合もあるコンピュータまたはプロセッサによって実行される様々なプロセスを表すことも理解されたい。
図面に示す様々な要素の機能は、専用のハードウェア、および適当なソフトウェアと連動してソフトウェアを実行することができるハードウェアを使用して実現することができる。プロセッサによって実現するときには、これらの機能は単一の専用プロセッサで実現することも、単一の共用プロセッサで実現することも、あるいはその一部を共用することもできる複数の個別プロセッサで実施することもできる。さらに、「プロセッサ」または「制御装置」という用語を明示的に用いていても、ソフトウェアを実行することができるハードウェアのみを指していると解釈すべきではなく、ディジタル信号プロセッサ(DSP)ハードウェア、ソフトウェアを記憶するための読取り専用メモリ(ROM)、ランダム・アクセス・メモリ(RAM)および不揮発性記憶装置(ただしこれらに限定されない)を暗に含むことがある。
従来の、且つ/または特注のその他ハードウェアも含まれることがある。同様に、図面に示す任意のスイッチも、概念的なものに過ぎない。スイッチの機能は、プログラム論理の動作によっても、専用論理によっても、プログラム制御と専用論理の相互作用によっても、あるいは手作業でも実施することができ、実施者が前後関係から具体的に判断して特定の技術を選択することができる。
本明細書の特許請求の範囲において、特定の機能を実行する手段として表現されている任意の要素は、例えば、(a)当該機能を実行する回路素子の組合せや、(b)ファームウェアやマイクロコードなども含めた任意の形態のソフトウェアを、当該ソフトウェアを実行して当該機能を実行する適当な回路と組み合わせたものなども含む、当該機能を実行する任意の態様を含むものとする。特許請求の範囲によって定義される本発明は、列挙する様々な手段が実施する機能を、特許請求の範囲が要求するかたちで組み合わせることにある。従って、これらの機能を実施することができる任意の手段を、本明細書に示す手段の均等物とみなすものとする。
本明細書において、本発明の「一実施例」または「実施例」と述べていれば、それは、当該実施例と関連づけて述べられる特定の特色、構造、特性などが、本発明の少なくとも1つの実施例には含まれているということを意味する。従って、本明細書では様々な箇所で「一実施例では」または「実施例では」という表現が出てくるが、それら全てが必ずしも同じ実施例のことを言っているとは限らない。
本明細書で用いる「高レベル・シンタックス」という用語は、階層的にマクロブロック・レイヤの上位に位置するビットストリームに存在するシンタックスを指す。例えば、本明細書で用いる「高レベル・シンタックス」という用語は、スライス・ヘッダ・レベル、シーケンス・パラメータ・セット(SPS)レベル、ピクチャ・パラメータ・セット(PPS)レベル、ビュー・パラメータ・セット(VPS)レベル、ネットワーク・アブストラクション・レイヤ(NAL)ユニット・ヘッダ・レベルのシンタックス、および付加拡張情報(SEI)メッセージのシンタックスを指すことができる。ただし、これらに限定されるわけではない。
説明のため、また簡潔にするために、本明細書では、以下の実施例を、シーケンス・パラメータ・セットを使用する場合に関連して説明する。ただし、本発明は、本明細書に開示する改良した信号方式に関するシーケンス・パラメータ・セットの使用のみに限定されるわけではなく、従って、この改良した信号方式は、本発明の趣旨を維持しながら、スライス・ヘッダ・レベル、シーケンス・パラメータ・セット(SPS)レベル、ピクチャ・パラメータ・セット(PPS)レベル、ビュー・パラメータ・セット(VPS)レベル、ネットワーク・アブストラクション・レイヤ(NAL)ユニット・ヘッダ・レベルのシンタックス、および付加拡張情報(SEI)メッセージのシンタックスなど(ただしこれらに限定されない)、少なくとも上述したタイプの高レベル・シンタックスに関して実施することができることを理解されたい。
さらに、本明細書では本発明の1つまたは複数の実施例をMPEG−4 AVC標準に関連して説明しているが、本発明はこの標準のみに限定されるわけではなく、従って、本発明の趣旨を維持しながら、MPEG―4 AVC標準の拡張など、その他のビデオ符号化標準、勧告およびそれらの拡張に関連して利用することもできることも理解されたい。
さらに、「および/または」という表現、例えば「Aおよび/またはB」という表現を使用するのは、記載した第1の選択肢(A)を選択する場合、記載した第2の選択肢(B)を選択する場合、または両選択肢(AおよびB)を選択する場合を含むものとすることを理解されたい。別の例として、「A、Bおよび/またはC」の場合には、この表現は、記載した第1の選択肢(A)を選択する場合、記載した第2の選択肢(B)を選択する場合、記載した第3の選択肢(C)を選択する場合、記載した第1および第2の選択肢(AおよびB)を選択する場合、記載した第1および第3の選択肢(AおよびC)を選択する場合、記載した第2および第3の選択肢(BおよびC)を選択する場合、または3つ全ての選択肢(AおよびBおよびC)を選択する場合を含むものとする。これは、当技術分野および関連技術分野の当業者には明らかなように、列挙した項目の数だけ拡張することができる。
図1を参照すると、例示的なマルチビュー・ビデオ符号化(MVC)デコーダの全体を、参照番号100で示してある。デコーダ100は、逆量子化器110の入力部に信号通信で接続された出力部を有するエントロピ・デコーダ105を備える。逆量子化器の出力部は、逆変換器115の入力部に信号通信で接続される。逆変換器115の出力部は、コンバイナ120の第1の非反転入力部に信号通信で接続される。コンバイナ120の出力部は、デブロッキング・フィルタ125の入力部およびイントラ予測器130の入力部に信号通信で接続される。デブロッキング・フィルタ125の出力部は、参照ピクチャ記憶装置140(ビューi用)の入力部に信号通信で接続される。参照ピクチャ記憶装置140の出力部は、動き補償器135の第1の入力部に信号通信で接続される。
参照ピクチャ記憶装置145(その他のビュー用)の出力部は、視差/照度補償器150の第1の入力部に信号通信で接続される。
エントロピ・コーダ105の入力部は、デコーダ100への入力部として利用して、残余ビットストリームを受信することができる。さらに、モード・モジュール160の入力部は、デコーダ100への入力部として利用して、どの入力をスイッチ155が選択するかを制御する制御シンタックスを受信することができる。さらに、動き補償器135の第2の入力部は、デコーダ100の入力部として利用して、動きベクトルを受信することができる。また、視差/照度補償器150の第2の入力部は、デコーダ100への入力部として利用して、視差ベクトルおよび照度補償シンタックスを受信することができる。
スイッチ155の出力部は、コンバイナ120の第2の非反転入力部に信号通信で接続される。スイッチ155の第1の入力部は、視差/照度補償器150の出力部に信号通信で接続される。スイッチ155の第2の入力部は、動き補償器135の出力部に信号通信で接続される。スイッチ155の第3の入力部は、イントラ予測器130の出力部に信号通信で接続される。モード・モジュール160の出力部は、スイッチ155に信号通信で接続されて、どの入力をスイッチ155が選択するかを制御する。デブロッキング・フィルタ125の出力部は、デコーダの出力部として利用することができる。
本発明によれば、マルチビュー符号化ビデオにおいてビデオ・エラー隠蔽を行う方法および装置が提供される。本発明は、少なくとも、マルチビュー符号化ビデオの場合のピクチャ損失の問題に対処するものである。本明細書では、特定の時刻に属する全てのピクチャがいつ失われたのかを検出する方法および装置を提供する。
インターネットや無線ネットワークなど、エラーの生じやすい伝送環境では、伝送されるビデオ・ビットストリームは、例えばチャネル障害などによって生じる破損を受ける恐れがある。一部の実用システムが共通して経験する状況は、特定の圧縮ビデオ・ピクチャがビットストリームから欠落することである。これは、特に、リアルタイム転送プロトコル(RTP)パケットなどの伝送単位にまで符号化できるほどピクチャが小さい、ビット・レートの低い用途に当てはまる。受信機側では、ロバストなビデオ・デコーダが、このような損失を検出して、隠蔽することができなければならない。
マルチビュー・ビデオ符号化(MVC)では、符号化ビデオ・シーケンス中にいくつかのビューが存在する。MPEG−4 AVC標準のこのMVC拡張の場合には、各ピクチャは、それが属しているビューを識別するためのビュー識別子と関連付けられている。表1は、スケーラブル・ビデオ符号化(SVC)/マルチビュー・ビデオ符号化(MVC)拡張シンタックスのネットワーク・アブストラクション・レイヤ(NAL)ユニット・ヘッダを示す。さらに(MPEG−4 AVC標準のシンタックスに加えて)、様々なビューのピクチャの復号に援用されるいくつかの高レベル・シンタックスがある。これらのシンタックスは、シーケンス・パラメータ・セット(SPS)拡張に存在する。表2は、MPEG−4 AVC標準のマルチビュー・ビデオ符号化(MVC)拡張のシーケンス・パラメータ・セット(SPS)を示す。
Figure 2010516102
Figure 2010516102
従って、MPEG−4 AVC標準に基づくマルチビュー・ビデオ符号化の今回の提案(以下「MPEG−4 AVCに関する今回のMVC提案」と呼ぶ)は、シーケンス・パラメータ・セット(SPS)に高レベル・シンタックスを含み、当該シーケンス中の符号化ビューの数を示す。さらに、MPEG−4 AVCに関する今回のMVC提案は、ビューについてビュー間参照情報を含む。MPEG−4 AVCに関する今回のMVC提案ではさらに、参照ビュー識別子を別個に送信することにより、アンカー・ピクチャと非アンカー・ピクチャを区別する。これを表2に示す。表2には、どのビューが特定のビューの参照として使用されているかという情報が示されている。発明者等は、マルチビュー符号化ビデオの場合に、この情報(符号化ビューの数)を使用してピクチャ損失を検出することができることを知り、これを提案する。
MPEG−4 AVC標準の今回のマルチビュー・ビデオ符号化(MVC)拡張では、複数のビューのセットにおける少なくとも1つのビューがMPEG−4 AVC標準に適合しているものとする。MPEG−4 AVC標準に適合したピクチャとマルチビュー・ビデオ符号化に適合したピクチャとは、表3に示すように異なるNALユニット・タイプを使用しているので、MPEG−4 AVC標準に適合したビューに属するピクチャは、そのネットワーク・アブストラクション・レイヤ(NAL)ユニット・タイプによって識別される。表3を参照すると、ネットワーク・アブストラクション・レイヤ(NAL)ユニット・タイプ・コードが示してある。
Figure 2010516102
MPEG−4 AVC標準に適合したビューに属する各スライスは、その後にサフィックスNALユニット(suffix NAL unit)と呼ばれる別のNALユニットが続くものとする。このNALユニットは、以下の意味を有する。
サフィックスNALユニット:復号順序において別のNALユニットの直後に続くNALユニットであり、関連NALユニットと呼ばれる直前のNALユニットの記述情報を含む。サフィックスNALユニットは、20または21に等しいnal_ref_idcを有するものとする。svc_mvc_flagが0に等しいときには、サフィックスNALユニットは、ともに0に等しいdependency_idおよびquality_levelを有するものとし、符号化スライスを含まないものとする。svc_mvc_flagが1に等しいときには、サフィックスNALユニットは、0に等しいview_levelを有するものとし、符号化スライスを含まないものとする。サフィックスNALユニットは、関連NALユニットと同じ符号化ピクチャに属する。
一実施例では、プレフィックスNALユニットが、MPEG−4 AVC標準に適合したピクチャの最初のスライスの前にあってもよい。プレフィックスNALユニットは、NALユニット・タイプ14によって識別される。MPEG−4 AVC標準に適合したピクチャの残りの全てのスライスの後には、サフィックスNALユニットがあることになる。
上記の定義から分かるように、サフィックスNALユニットは、MPEG−4 AVC標準に適合したNALユニット・タイプの後に必ず存在し、そのview_id情報を含むことになる。さらに、プレフィックスNALユニットは、MPEG−4 AVC標準に適合したNALユニットの最初のスライスに対してのみ存在することになる。
MPEG−4 AVC標準の今回のマルチビュー符号化拡張では、全てのビューについて、特定の時刻に属するピクチャが最初に符号化されるものとされている。図2を参照すると、ビューの数が8個であるマルチビュー・ビデオ符号化システムのタイム・ファースト符号化構造の全体を、参照番号200で示してある。図2の例では、異なるビューに含まれる同時刻の全てのピクチャが、連続的に符号化される。従って、時刻T0の全てのピクチャ(S0〜S7)が最初に符号化され、その後に時刻T8のピクチャ(S0〜S7)が符号化され、以下同様に続く。これをタイム・ファースト符号化(time−first coding)と呼ぶ。
また、MPEG−4 AVC標準の今回のマルチビュー符号化拡張では、その時刻でしかピクチャを用いてビュー間予測を行うことができないという制約がある。さらに、少なくとも1つのビューはMPEG−4 AVC標準に適合したシンタックスで符号化するという要件もある。本明細書では、このビューを、ベース・ビュー(base view)と呼ぶ。このビューは、独立して、すなわちいかなるビュー間参照予測も用いずに、復号することができる。また、このビューは、その他の全てのビューのビュー間参照の基礎となり、従って、ある時刻の第1のピクチャとして符号化される可能性が最も高い。従って、その他のビューの客観的品質のためには、このピクチャを適時隠蔽することが望ましい。図2のS0は、MPEG−4 AVC標準に適合したビューの一例である。
所与の時刻の全てのビューのピクチャが既に受信され、復号されているかどうかを判定するためには、タイム・ファースト符号化、ある時刻の最初に符号化されたピクチャが、MPEG−4 AVC標準に適合したピクチャであること、およびシーケンス中の符号化されたビューの数に基づくこと、が考慮される。
従って、所与の時刻の全てのビューのピクチャが既に受信され復号されている、MPEG−4 AVC標準に適合したピクチャを受信する、あるいはサフィックスNALユニットまたはプレフィックスNALユニットを受信する、の何れかが当てはまる場合に、異なる時刻の復号が行われると判定することができる。
従って、前述の情報を用いて、本明細書に記載する少なくとも2つの例示的な方法で、MPEG−4 AVC標準に適合したピクチャが失われたかどうかを判定することができる。もちろん、本明細書で提供する本発明の教示があれば、当技術分野および関連技術分野の当業者なら、本発明の趣旨を維持しながら、MPEG−4 AVC標準に適合したピクチャが失われたかどうかを判定するための、これらの方法およびその他の様々な方法を思いつくであろう。
以下、MPEG−4 AVC標準に適合したピクチャが失われたかどうかの判定に関する例示的な実施例について説明する。この実施例では、デコーダは、所与の時刻の全てのビューのピクチャを受信し、復号した後で、異なる時刻のピクチャの受信を予測する。デコーダが受信を予測する最初のピクチャは、MPEG−4 AVC標準に適合したピクチャである。次いで、デコーダは、このピクチャのNALユニット・タイプを調べることにより、このピクチャが実際にMPEG−4 AVC標準に適合したピクチャであるかどうかを確認することができる。NALユニット・タイプがMPEG−4 AVC標準に適合したNALユニットでない場合には、MPEG−4 AVC標準に適合したピクチャが受信されていないと結論づけることができる。そのピクチャが実際にMPEG−4 AVC標準に適合している場合には、適当な隠蔽アルゴリズム/プロセスを呼び出して、そのピクチャを隠蔽することができる。
別の例示的な実施例では、サフィックスNALユニットまたはプレフィックスNALユニットのみを受信した場合に、MPEG−4 AVC標準に適合したピクチャの損失を検出することができる。サフィックスNALユニットは、全てのMPEG−4 AVCに適合したNALユニットに関連付けられており、MPEG−4 AVC標準に適合したNALユニットの直後に存在する。プレフィックスNALユニットは、MPEG−4 AVC標準に適合したピクチャの最初のスライスに対してのみ存在する。サフィックスNALユニットまたはプレフィックスNALユニットのみを受信した場合には、MPEG−4 AVC標準に適合したNALユニットが失われたことが分かる。
損失が起きやすい環境では、特定の時刻の全てのピクチャが失われる可能性もある。適当な隠蔽を実行することができるように、このような損失を検出することが望ましい。
上述のように、図2は、マルチビュー符号化の一例を示す図である。図2では、階層Bピクチャを時間領域で使用している。階層Bピクチャの符号化に適用できる様々な符号化順序がある。1つは、符号化順序がT0,T8,T4,T2,T1,T3,T6,T5,T7となる、低遅延モードである。別の方法は、レイヤ・ファースト(layer first)符号化と呼ばれることもあり、時間レベルによってピクチャが符号化される。ピクチャの時間レベルは、表1に示すNALユニット・ヘッダに示されている。この場合では、符号化順序は、T0,T8,T4,T2,T6,T1,T3,T5,T7となる。何れの場合も、アンカー・ピクチャは時間レベル0を有することができる。
レイヤ・ファースト符号化を用いる用途では、所与の時刻の全てのピクチャが失われたかどうかを判定する。
図2の例では、4つの時間レイヤ0;1;2;3が存在する。これら4つのレイヤは、以下のようにピクチャと関係している。
ピクチャT0,T8 − 時間レベル0
ピクチャT4 − 時間レベル1
ピクチャT2,T6 − 時間レベル2
ピクチャT5,T5 − 時間レベル3
従って、レイヤ・ファースト符号化の時間的符号化順序は、0,1,2,3,0,1,2,3,と続いていく。これは、時間レイヤが最高の時間レベルまで上昇し、その後0(アンカー・ピクチャの時間レベル)に減少することを意味する。このことに鑑みて、特定の時刻の時間レベル0の全てのピクチャが失われた場合には、0,1,2,3,1,2,3,0,1,2,3,という時間レベル順序が得られることになる。
すなわち、最高の時間レベルの後で、時間レベルは低下するが0までは低下しない。この状態は、時間レベル0が欠落しており、従って、時間レベル0に関連するピクチャが失われたことを示している。
この方法は、時間レベル0のピクチャの損失の検出のみでなく、その他の任意の時間レベルの損失の検出にも使用することができる。レイヤ・ファースト符号化を想定しているので、全てのレイヤは上記の例で述べたように昇順に受信される。デコーダはこの順序を常に把握し、(受信した時間レベルと予想した時間レベルのずれを検出することによって)欠落している時間レベルを検出することができる。
例えば、0,1,2,3,0,1,2,3のように符号化された4つの時間レベルがあり、受信した時間レベルが0,1,2,3,0,1,2,3,0,1,3,0,2,3である場合には、内部カウンタを保持することにより、グループ・オブ・ピクチャ(group of pictures)(GOP)3では時間レベル2が失われ、GOP4では時間レベル1が失われていると判定することができる。次いで、適当なエラー隠蔽アルゴリズム/プロセスを呼び出して、失われたピクチャを隠蔽することができる。
図3を参照すると、失われたピクチャに対するエラー隠蔽を用いてビデオ・シーケンスに対応するビデオ・データを復号する例示的な方法の全体を、参照番号300で示してある。
方法300は、機能ブロック310に制御を渡す開始ブロック305を含む。機能ブロック310では、シーケンス・パラメータ・セット(SPS)、ピクチャ・パラメータ・セット(PPS)、ビュー・パラメータ・セット(VPS)、ネットワーク・アブストラクション・レイヤ(NAL)ユニット・ヘッダ、および/または付加拡張情報(SEI)メッセージを解析し、制御を機能ブロック315に渡す。機能ブロック315では、変数num_views_minus_1+1に等しい変数NumViewsを設定し、ゼロに等しい変数PrevPOCを設定し、ゼロに等しい変数RecvPicを設定し、制御を判定ブロック320に渡す。判定ブロック320では、ビデオ・シーケンスの末端に到達したかどうかを判定する。到達している場合には、制御は終了ブロック399に渡される。そうでない場合には、制御は機能ブロック325に渡される。
機能ブロック325では、次のピクチャのピクチャ・オーダ・カウント(POC)を読み取り、変数RecvPicを増分し、制御を判定ブロック330に渡す。判定ブロック330では、変数CurrPOCが変数PrevPOCに等しいかどうかを判定する。等しい場合には、制御は機能ブロック335に渡される。そうでない場合には、制御は判定ブロック340に渡される。
機能ブロック335では、現在のピクチャを復号し、制御を機能ブロック325に戻す。
判定ブロック340では、現在のピクチャがMPEG−4 AVC標準に適合しているかどうかを判定する。適合している場合には、制御は機能ブロック335に戻される。そうでない場合には、制御は機能ブロック345に渡される。
機能ブロック345では、MPEG−4 AVC標準に適合しているピクチャを隠蔽し、制御を機能ブロック335に戻す。
図4を参照すると、失われたピクチャに対するエラー隠蔽を用いてビデオ・シーケンスに対応するビデオ・データを復号する別の例示的な方法の全体を、参照番号400で示してある。
方法400は、機能ブロック410に制御を渡す開始ブロック405を含む。機能ブロック410では、シーケンス・パラメータ・セット(SPS)、ピクチャ・パラメータ・セット(PPS)、ビュー・パラメータ・セット(VPS)、ネットワーク・アブストラクション・レイヤ(NAL)ユニット・ヘッダ、および/または付加拡張情報(SEI)メッセージを解析し、制御を機能ブロック415に渡す。機能ブロック415では、変数num_views_minus_1+1に等しい変数NumViewsを設定し、ゼロに等しい変数PrevPOCを設定し、ゼロに等しい変数RecvPicを設定し、制御を判定ブロック420に渡す。判定ブロック420では、ビデオ・シーケンスの末端に到達したかどうかを判定する。到達している場合には、制御は終了ブロック499に渡される。そうでない場合には、制御は機能ブロック425に渡される。
機能ブロック425では、次のピクチャのピクチャ・オーダ・カウント(POC)を読み取り、変数RecvPicを増分し、制御を判定ブロック430に渡す。判定ブロック430では、受信したのがサフィックスNALユニットのみであるかどうかを判定する。受信したのがサフィックスNALユニットのみである場合には、制御は機能ブロック435に渡される。そうでない場合には、制御は機能ブロック440に渡される。
機能ブロック435では、MPEG−4 AVCに適合したピクチャを隠蔽し、制御を機能ブロック440に渡す。
機能ブロック440では、現在のピクチャを復号し、制御を機能ブロック435に戻す。
図5を参照すると、エラー隠蔽を用いてビデオ・シーケンスに対応するビデオ・データを復号するさらに別の例示的な方法の全体を、参照番号500で示してある。
方法500は、機能ブロック510に制御を渡す開始ブロック505を含む。機能ブロック510では、シーケンス・パラメータ・セット(SPS)、ピクチャ・パラメータ・セット(PPS)、ビュー・パラメータ・セット(VPS)、ネットワーク・アブストラクション・レイヤ(NAL)ユニット・ヘッダ、および/または付加拡張情報(SEI)メッセージを解析し、制御を機能ブロック515に渡す。機能ブロック515では、変数num_views_minus_1+1に等しい変数NumViewsを設定し、ゼロに等しい変数PrevPOCを設定し、ゼロに等しい変数RecvPicを設定し、制御を判定ブロック520に渡す。判定ブロック520では、ビデオ・シーケンスの末端に到達したかどうかを判定する。到達している場合には、制御は終了ブロック599に渡される。そうでない場合には、制御は機能ブロック525に渡される。
機能ブロック525では、次のピクチャのピクチャ・オーダ・カウント(POC)を読み取り、変数RecvPicを増分し、制御を判定ブロック530に渡す。判定ブロック530では、受信したのがプレフィックスNALユニットのみであるかどうかを判定する。受信したのがプレフィックスNALユニットのみである場合には、制御は機能ブロック535に渡される。そうでない場合には、制御は機能ブロック540に渡される。
機能ブロック535では、MPEG−4 AVCに適合したピクチャを隠蔽し、制御を機能ブロック540に渡す。
機能ブロック540では、現在のピクチャを復号し、制御を機能ブロック535に戻す。
図6を参照すると、エラー隠蔽を用いてビデオ・シーケンスに対応するビデオ・データを復号するさらに別の例示的な方法の全体を、参照番号600で示してある。
方法600は、機能ブロック610に制御を渡す開始ブロック605を含む。機能ブロック610では、シーケンス・パラメータ・セット(SPS)、ピクチャ・パラメータ・セット(PPS)、ビュー・パラメータ・セット(VPS)、ネットワーク・アブストラクション・レイヤ(NAL)ユニット・ヘッダ、および/または付加拡張情報(SEI)メッセージを解析し、制御を機能ブロック615に渡す。機能ブロック615では、変数num_views_minus_1+1に等しい変数NumViewsを設定し、ゼロに等しい変数PrevPOCを設定し、ゼロに等しい変数RecvPicを設定し、ゼロに等しい変数ViewCodingOrderを設定し、ゼロに等しい変数CurrTempLevelを設定し、ゼロに等しい変数ExpectedTempLevelを設定し、制御を判定ブロック620に渡す。判定ブロック620では、ビデオ・シーケンスの末端に到達したかどうかを判定する。到達している場合には、制御は終了ブロック699に渡される。そうでない場合には、制御は機能ブロック625に渡される。
機能ブロック625では、次のピクチャのピクチャ・オーダ・カウント(POC)を読み取り、変数RecvPicを増分し、現在の時間レベルを読み取り(すなわち変数CurrTempLevelを読み取ることによって)、制御を判定ブロック630に渡す。判定ブロック630では、変数CurrTempLevelが変数ExpectedTempLevelに等しいかどうかを判定する。ExpectedTempLevelに等しい場合には、制御は機能ブロック635に渡される。そうでない場合には、制御は機能ブロック640に渡される。
機能ブロック635では、現在のピクチャを復号し、変数ExpectedTempLevelを更新し、制御を判定ブロック620に戻す。
機能ブロック640では、全ての失われた時間レベルのピクチャを隠蔽し、制御を判定ブロック620に戻す。
次に、その一部については上記で既に説明した、本発明の多くの付随的な利点/特色の一部について説明する。例えば、1つの利点/特色は、ビットストリームからのマルチビュー・ビデオ・コンテンツに対応する少なくとも1つのビューのピクチャを復号するデコーダを備えた装置である。デコーダは、少なくとも1つのビューの特定の1つに対応するピクチャの何れかが失われているどうかを既存のシンタックスエレメントを用いて判定する。既存のシンタックスエレメントは、ピクチャ損失判定以外の別の機能を実行するものである。少なくとも1つのビューの特定の1つは、ビデオ符号化標準およびビデオ符号化勧告の少なくとも1つに準拠している。
別の利点/特色は、デコーダを備えた上述の装置であって、既存のシンタックスエレメントがマルチビュー・ビデオ符号化シンタックスエレメントである装置である。
さらに別の利点/特色は、既存のシンタックスエレメントがマルチビュー・ビデオ符号化シンタックスエレメントであるデコーダを備えた上述の装置であって、マルチビュー・ビデオ符号化シンタックスエレメントが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告の拡張に対応する装置である。
さらに別の利点/特色は、デコーダを備えた上述の装置であって、ビデオ符号化標準およびビデオ符号化勧告の前記少なくとも1つが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に対応する装置である。
さらに、別の利点/特色は、デコーダを備えた上述の装置であって、前記既存のシンタックスエレメントが高レベルに存在する装置である。
さらに、別の利点/特色は、デコーダを備えた上述の装置であって、高レベルが、スライス・ヘッダ・レベル、シーケンス・パラメータ・セット・レベル、ピクチャ・パラメータ・セット・レベル、ビュー・パラメータ・セット・レベル、ネットワーク抽象化レイヤ・ユニット・ヘッダ・レベル、および付加拡張情報メッセージに対応するレベルの少なくとも1つに対応する装置である。
また、別の利点/特色は、デコーダを備えた上述の装置であって、既存のシンタックスエレメントの別の機能が、少なくとも1つのビューも含んでいるビットストリーム中の符号化ビューの数を示すことである装置である。
さらに、別の利点/特色は、デコーダを備えた上述の装置であって、ピクチャの何れかが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合した特定のピクチャを少なくとも1つ含み、デコーダが、少なくとも1つの特定のピクチャが失われているかどうかをタイム・ファースト符号化情報に基づいて判定する装置である。
さらに、別の利点/特色は、デコーダを備えた上述の装置であって、ピクチャがビデオ・シーケンスの少なくとも一部分を表し、ピクチャの少なくともいくつかがビデオ・シーケンス内の異なる時刻に対応し、ピクチャの何れかが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合した特定のピクチャを少なくとも1つ含み、デコーダが、少なくとも1つの特定のピクチャが失われているかどうかを、異なる時刻の特定の1つの時刻に受信された、少なくとも1つのビューのうちの特定の1つに対応するピクチャの数と、異なる時刻の別の特定の1つの時刻に受信された、少なくとも1つのビューのうちの特定の1つに対応するピクチャのうちの最初のピクチャとに基づいて判定する装置である。
さらに、別の利点/特色は、少なくとも1つの特定のピクチャが失われているかどうかを、異なる時刻の特定の1つの時刻に受信された、少なくとも1つのビューのうちの特定の1つに対応するピクチャの数と、異なる時刻の別の特定の1つの時刻に受信された、少なくとも1つのビューのうちの特定の1つに対応するピクチャのうちの最初のピクチャとに基づいて判定するデコーダを備えた上述の装置であって、異なる時刻の別の特定の1つの時刻に受信されたピクチャのうちの最初のピクチャが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合していない装置である。
また、別の利点/特色は、デコーダを備えた上述の装置であって、デコーダが、少なくとも1つのビューのうちの特定の1つに対応するピクチャの少なくとも1つに対応するサフィックス・ネットワーク抽象化レイヤ・ユニットのみを受信したときに、ピクチャの少なくとも1つが失われていることを示し、ピクチャの少なくとも1つが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合している装置である。
さらに、別の利点/特色は、デコーダを備えた上述の装置であって、デコーダが、少なくとも1つのビューのうちの特定の1つに対応するピクチャの少なくとも1つに対応するプレフィックス・ネットワーク抽象化レイヤ・ユニットのみを受信したときに、ピクチャの少なくとも1つが失われていることを示し、ピクチャの少なくとも1つが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合している装置である。
さらに、別の利点/特色は、ビットストリームからのマルチビュー・ビデオ・コンテンツに対応する少なくとも1つのビューのピクチャを復号するデコーダを備えた装置である。ピクチャは、ビデオ・シーケンスの少なくとも一部分を表す。ピクチャの少なくともいくつかは、ビデオ・シーケンス内の異なる時刻に対応する。デコーダは、異なる時刻の特定の1つに対応する全てのピクチャが失われているかどうかを既存のシンタックスエレメントを用いて判定する。既存のシンタックスエレメントは、ピクチャ損失判定以外の別の機能を実行するものである。
別の利点/特色は、デコーダを備えた上述の装置であって、既存のシンタックスエレメントがマルチビュー・ビデオ符号化シンタックスエレメントである装置である。
さらに別の利点/特色は、既存のシンタックスエレメントがマルチビュー・ビデオ符号化シンタックスエレメントであるデコーダを備えた上述の装置であって、マルチビュー・ビデオ符号化シンタックスエレメントが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告の拡張に対応する装置である。
さらに別の利点/特色は、デコーダを備えた上述の装置であって、既存のシンタックスエレメントが高レベルに存在する装置である。
さらに、別の利点/特色は、デコーダを備えた上述の装置であって、高レベルが、スライス・ヘッダ・レベル、シーケンス・パラメータ・セット・レベル、ピクチャ・パラメータ・セット・レベル、ビュー・パラメータ・セット・レベル、ネットワーク抽象化レイヤ・ユニット・ヘッダ・レベル、および付加拡張情報メッセージに対応するレベルの少なくとも1つに対応する装置である。
さらに、別の利点/特色は、デコーダを備えた上述の装置であって、既存のシンタックスエレメントの別の機能が時間レベルを示すことである装置である。
また、別の利点/特色は、前記既存のシンタックスエレメントの別の機能が時間レベルを示すことであるデコーダを備えた上述の装置であって、異なる時刻の特定の1つの時刻に対応するピクチャがアンカー・ピクチャおよび非アンカー・ピクチャを含み、デコーダが、異なる時刻の特定の1つの時刻に対応する全てのアンカー・ピクチャが失われているかどうかを時間レベルを用いて確認し、用いられる時間レベルが第1の時間レベルである装置である。
さらに、別の利点/特色は、異なる時刻の前記特定の1つの時刻に対応する全てのアンカー・ピクチャが失われているかどうかを時間レベルを用いて確認するデコーダを備え、用いられる時間レベルが第1の時間レベルである上述の装置であって、デコーダが、ビットストリーム内の最高の時間レベルから非ゼロの時間レベルへの時間レベルの降下を利用して、異なる時刻の特定の1つに対応する、ゼロに等しい第1の時間レベルを有する全てのアンカー・ピクチャの損失を検出し、前記降下が少なくとも2以上の整数値である装置である。
さらに、別の利点/特色は、異なる時刻の特定の1つの時刻に対応する全てのアンカー・ピクチャが失われているかどうかを時間レベルを用いて確認するデコーダを備え、用いられる時間レベルが第1の時間レベルである上述の装置であって、デコーダが、欠落している時間レベルに属し、かつ、異なる時刻の特定の1つに対応する全ての非アンカー・ピクチャが失われているかどうかを、欠落している時間レベルが存在しないことに基づいて判定する装置である。
本発明の上記その他の特色および利点は、当業者なら本明細書の教示に基づいて容易に確認することができる。本発明の教示は、ハードウェア、ソフトウェア、ファームウェア、特殊目的プロセッサまたはそれらの組合せといった様々な形態で実施することができることを理解されたい。
本発明の教示は、ハードウェアとソフトウェアの組合せとして実施されることが最も好ましい。さらに、ソフトウェアは、プログラム記憶装置に物理的に実装されたアプリケーション・プログラムとして実施することができる。アプリケーション・プログラムは、任意の適当なアーキテクチャを備えるマシンにアップロードし、このマシンによって実行することができる。このマシンは、1つまたは複数の中央処理装置(CPU)、ランダム・アクセス・メモリ(RAM)および入出力(I/O)インタフェースなどのハードウェアを有するコンピュータ・プラットフォームに実装されることが好ましい。コンピュータ・プラットフォームは、オペレーティング・システムおよびマイクロ命令コードを含むこともできる。本明細書に記載の様々なプロセスおよび機能は、CPUによって実行することができる、マイクロ命令コードの一部またはアプリケーション・プログラムの一部あるいはそれらの任意の組合せとすることもできる。さらに、追加のデータ記憶装置や印刷装置など、その他の様々な周辺機器をコンピュータ・プラットフォームに接続することもできる。
さらに、添付の図面に示すシステム構成要素および方法の一部はソフトウェアで実施することが好ましいので、システム構成要素間またはプロセス機能ブロック間の実際の接続形態は、本発明を実施する態様によって変わることがあることを理解されたい。本明細書の教示があれば、当業者なら、上記の、またそれに類する本発明の実施態様または構成を思いつくことができるであろう。
本明細書では添付の図面を参照しながら例示的な実施例について説明したが、本発明はこれらの具体的な実施例に限定されるものではなく、当業者なら、本発明の趣旨または範囲を逸脱することなく様々な変更および修正を加えることができることを理解されたい。これらの変更および修正は全て、添付の特許請求の範囲に記載する本発明の範囲に含まれるものとする。

Claims (42)

  1. ビットストリームからのマルチビュー・ビデオ・コンテンツに対応する少なくとも1つのビューのピクチャを復号するデコーダ(100)を備えた装置であって、該デコーダは、前記少なくとも1つのビューの特定の1つに対応するピクチャの何れかが失われているどうかを既存のシンタックスエレメントを用いて判定し、該既存のシンタックスエレメントは、ピクチャ損失判定以外の別の機能を実行するものであり、前記少なくとも1つのビューの前記特定の1つは、ビデオ符号化標準およびビデオ符号化勧告の少なくとも1つに準拠している、前記装置。
  2. 前記既存のシンタックスエレメントは、マルチビュー・ビデオ符号化シンタックスエレメントである、請求項1に記載の装置。
  3. 前記マルチビュー・ビデオ符号化シンタックスエレメントは、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告の拡張に対応する、請求項2に記載の装置。
  4. ビデオ符号化標準およびビデオ符号化勧告の前記少なくとも1つは、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に対応する、請求項1に記載の装置。
  5. 前記既存のシンタックスエレメントが高レベルに存在する、請求項1に記載の装置。
  6. 前記高レベルは、スライス・ヘッダ・レベル、シーケンス・パラメータ・セット・レベル、ピクチャ・パラメータ・セット・レベル、ビュー・パラメータ・セット・レベル、ネットワーク抽象化レイヤ・ユニット・ヘッダ・レベル、および付加拡張情報メッセージに対応するレベルの少なくとも1つに対応する、請求項1に記載の装置。
  7. 前記既存のシンタックスエレメントの前記別の機能は、前記少なくとも1つのビューを含んでいる前記ビットストリーム中の符号化ビューの数を示すことである、請求項1に記載の装置。
  8. 前記ピクチャの前記何れかが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合した特定のピクチャを少なくとも1つ含み、前記デコーダ(100)は、前記少なくとも1つの特定のピクチャが失われているかどうかをタイム・ファースト符号化情報に基づいて判定する、請求項1に記載の装置。
  9. 前記ピクチャがビデオ・シーケンスの少なくとも一部分を表し、前記ピクチャの少なくともいくつかが前記ビデオ・シーケンス内の異なる時刻に対応し、前記ピクチャの前記何れかが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合した特定のピクチャを少なくとも1つ含み、前記デコーダ(100)は、前記少なくとも1つの特定のピクチャが失われているかどうかを、前記異なる時刻の特定の1つの時刻に受信された、前記少なくとも1つのビューのうちの前記特定の1つに対応するピクチャの数と、前記異なる時刻の別の特定の1つの時刻に受信された、前記少なくとも1つのビューのうちの前記特定の1つに対応するピクチャのうちの最初のピクチャとに基づいて判定する、請求項1に記載の装置。
  10. 前記異なる時刻の前記別の特定の1つの時刻に受信されたピクチャのうちの前記最初のピクチャは、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合していない、請求項9に記載の装置。
  11. 前記デコーダ(100)は、前記少なくとも1つのビューのうちの前記特定の1つに対応するピクチャの少なくとも1つに対応するサフィックス・ネットワーク抽象化レイヤ・ユニットのみを受信したときに、前記ピクチャの前記少なくとも1つが失われていることを示し、前記ピクチャの前記少なくとも1つが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合している、請求項1に記載の装置。
  12. 前記デコーダ(100)は、前記少なくとも1つのビューのうちの前記特定の1つに対応するピクチャの少なくとも1つに対応するプレフィックス・ネットワーク抽象化レイヤ・ユニットのみを受信したときに、前記ピクチャの前記少なくとも1つが失われていることを示し、前記ピクチャの前記少なくとも1つが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合している、請求項1に記載の装置。
  13. ビットストリームからのマルチビュー・ビデオ・コンテンツに対応する少なくとも1つのビューのピクチャを復号するステップを含む方法であって、該復号ステップは、前記少なくとも1つのビューの特定の1つに対応するピクチャの何れかが失われているどうかを既存のシンタックスエレメントを用いて判定するステップを含み、該既存のシンタックスエレメントは、ピクチャ損失判定以外の別の機能を実行するものである(315)、前記方法。
  14. 前記既存のシンタックスエレメントは、マルチビュー・ビデオ符号化シンタックスエレメントである(315)、請求項13に記載の方法。
  15. 前記マルチビュー・ビデオ符号化シンタックスエレメントは、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告の拡張に対応する(310)、請求項14に記載の方法。
  16. ビデオ符号化標準およびビデオ符号化勧告の前記少なくとも1つは、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に対応する(340)、請求項13に記載の方法。
  17. 前記既存のシンタックスエレメントが高レベルに存在する(310)、請求項13に記載の方法。
  18. 前記高レベルは、スライス・ヘッダ・レベル、シーケンス・パラメータ・セット・レベル、ピクチャ・パラメータ・セット・レベル、ビュー・パラメータ・セット・レベル、ネットワーク抽象化レイヤ・ユニット・ヘッダ・レベル、および付加拡張情報メッセージに対応するレベルの少なくとも1つに対応する(310)、請求項13に記載の方法。
  19. 前記既存のシンタックスエレメントの前記別の機能は、前記少なくとも1つのビューを含んでいる前記ビットストリーム中の符号化ビューの数を示すことである(315)、請求項13に記載の方法。
  20. 前記ピクチャの前記何れかが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合した特定のピクチャを少なくとも1つ含み、前記判定ステップは、前記少なくとも1つの特定のピクチャが失われているかどうかをタイム・ファースト符号化情報に基づいて判定するステップを含む、請求項13に記載の方法。
  21. 前記ピクチャがビデオ・シーケンスの少なくとも一部分を表し、前記ピクチャの少なくともいくつかが前記ビデオ・シーケンス内の異なる時刻に対応し、前記ピクチャの前記何れかが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合した特定のピクチャを少なくとも1つ含み、前記判定ステップは、前記少なくとも1つの特定のピクチャが失われているかどうかを、前記異なる時刻の特定の1つの時刻に受信された、前記少なくとも1つのビューのうちの前記特定の1つに対応するピクチャの数と、前記異なる時刻の別の特定の1つの時刻に受信された、前記少なくとも1つのビューのうちの前記特定の1つに対応するピクチャのうちの最初のピクチャとに基づいて判定するステップを含む(315,325,330,340)、請求項13に記載の方法。
  22. 前記異なる時刻の前記別の特定の1つの時刻に受信されたピクチャのうちの前記最初のピクチャは、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合していない(340)、請求項21に記載の方法。
  23. 前記復号ステップは、前記少なくとも1つのビューのうちの前記特定の1つに対応するピクチャの少なくとも1つに対応するサフィックス・ネットワーク抽象化レイヤ・ユニットのみを受信したときに、前記ピクチャの前記少なくとも1つが失われていることを示すステップを含み、前記ピクチャの前記少なくとも1つが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合している(430)、請求項13に記載の方法。
  24. 前記復号ステップは、前記少なくとも1つのビューのうちの前記特定の1つに対応するピクチャの少なくとも1つに対応するプレフィックス・ネットワーク抽象化レイヤ・ユニットのみを受信したときに、前記ピクチャの前記少なくとも1つが失われていることを示すステップを含み、前記ピクチャの前記少なくとも1つが、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告に適合している(530)、請求項13に記載の方法。
  25. ビットストリームからのマルチビュー・ビデオ・コンテンツに対応する少なくとも1つのビューのピクチャを復号するデコーダ(100)を備え、前記ピクチャはビデオ・シーケンスの少なくとも一部分を表し、前記ピクチャの少なくともいくつかが前記ビデオ・シーケンス内の異なる時刻に対応する装置であって、前記デコーダは、前記異なる時刻の特定の1つに対応するピクチャが失われているかどうかを既存のシンタックスエレメントを用いて判定し、前記既存のシンタックスエレメントは、ピクチャ損失判定以外の別の機能を実行するものである、前記装置。
  26. 前記既存のシンタックスエレメントは、マルチビュー・ビデオ符号化シンタックスエレメントである、請求項25に記載の装置。
  27. 前記マルチビュー・ビデオ符号化シンタックスエレメントは、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告の拡張に対応する、請求項26に記載の装置。
  28. 前記既存のシンタックスエレメントは高レベルに存在する、請求項25に記載の装置。
  29. 前記高レベルは、スライス・ヘッダ・レベル、シーケンス・パラメータ・セット・レベル、ピクチャ・パラメータ・セット・レベル、ビュー・パラメータ・セット・レベル、ネットワーク抽象化レイヤ・ユニット・ヘッダ・レベル、および付加拡張情報メッセージに対応するレベルの少なくとも1つに対応する、請求項25に記載の装置。
  30. 前記既存のシンタックスエレメントの前記別の機能は時間レベルを示すことである、請求項25に記載の装置。
  31. 前記異なる時刻の前記特定の1つの時刻に対応するピクチャがアンカー・ピクチャおよび非アンカー・ピクチャを含み、前記デコーダは、前記異なる時刻の前記特定の1つの時刻に対応するアンカー・ピクチャが失われているかどうかを前記時間レベルを用いて確認し、用いられる前記時間レベルが第1の時間レベルである、請求項30に記載の装置。
  32. 前記デコーダ(100)は、前記ビットストリーム内の最高の時間レベルから非ゼロの時間レベルへの時間レベルの降下を利用して、前記異なる時刻の前記特定の1つに対応する、ゼロに等しい前記第1の時間レベルを有するアンカー・ピクチャの損失を検出し、前記降下が少なくとも2以上の整数値である、請求項31に記載の装置。
  33. 前記デコーダ(100)は、欠落している時間レベルに属し、かつ、前記異なる時刻の前記特定の1つに対応する非アンカー・ピクチャが失われているかどうかを、前記欠落している時間レベルが存在しないことに基づいて判定する、請求項31に記載の装置。
  34. ビットストリームからのマルチビュー・ビデオ・コンテンツに対応する少なくとも1つのビューのピクチャを復号するステップを含み、前記ピクチャは、ビデオ・シーケンスの少なくとも一部分を表し、前記ピクチャの少なくともいくつかが前記ビデオ・シーケンス内の異なる時刻に対応する方法であって、前記復号ステップは、前記異なる時刻の特定の1つに対応するピクチャが失われているかどうかを既存のシンタックスエレメントを用いて判定するステップを含み、前記既存のシンタックスエレメントは、ピクチャ損失判定以外の別の機能を実行するものである(630)、前記方法。
  35. 前記既存のシンタックスエレメントは、マルチビュー・ビデオ符号化シンタックスエレメントである(625)、請求項34に記載の方法。
  36. 前記マルチビュー・ビデオ符号化シンタックスエレメントは、国際標準化機構/国際電気標準会議MPEG−4 Part10 AVC標準/国際電気通信連合電気通信標準化部門H.264勧告の拡張に対応する(625)、請求項35に記載の方法。
  37. 前記既存のシンタックスエレメントは高レベルに存在する(610)、請求項34に記載の方法。
  38. 前記高レベルは、スライス・ヘッダ・レベル、シーケンス・パラメータ・セット・レベル、ピクチャ・パラメータ・セット・レベル、ビュー・パラメータ・セット・レベル、ネットワーク抽象化レイヤ・ユニット・ヘッダ・レベル、および付加拡張情報メッセージに対応するレベルの少なくとも1つに対応する(610)、請求項34に記載の方法。
  39. 前記既存のシンタックスエレメントの前記別の機能は時間レベルを示すことである(625)、請求項34に記載の方法。
  40. 前記異なる時刻の前記特定の1つの時刻に対応するピクチャがアンカー・ピクチャおよび非アンカー・ピクチャを含み、前記判定ステップは、前記異なる時刻の前記特定の1つの時刻に対応するアンカー・ピクチャが失われているかどうかを時間レベルを用いて確認するステップを含み、用いられる前記時間レベルが第1の時間レベルである(630)、請求項39に記載の方法。
  41. 前記確認ステップは、前記ビットストリーム内の最高の時間レベルから非ゼロの時間レベルへの時間レベルの降下を利用して、前記異なる時刻の前記特定の1つに対応する、ゼロに等しい前記第1の時間レベルを有するアンカー・ピクチャの損失を検出するステップを含み、前記降下が少なくとも2以上の整数値である(630)、請求項40に記載の方法。
  42. 前記復号ステップは、欠落している時間レベルに属し、かつ、前記異なる時刻の前記特定の1つに対応する非アンカー・ピクチャが失われているかどうかを、前記欠落している時間レベルが存在しないことに基づいて判定する(630,640)、請求項31に記載の方法。
JP2009544936A 2007-01-04 2008-01-04 マルチビュー符号化ビデオにおいてビデオ・エラー補正を行う方法および装置 Pending JP2010516102A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US88345807P 2007-01-04 2007-01-04
PCT/US2008/000148 WO2008085909A2 (en) 2007-01-04 2008-01-04 Methods and apparatus for video error correction in multi-view coded video

Publications (2)

Publication Number Publication Date
JP2010516102A true JP2010516102A (ja) 2010-05-13
JP2010516102A5 JP2010516102A5 (ja) 2011-02-17

Family

ID=41361196

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009544936A Pending JP2010516102A (ja) 2007-01-04 2008-01-04 マルチビュー符号化ビデオにおいてビデオ・エラー補正を行う方法および装置

Country Status (6)

Country Link
US (1) US20090296826A1 (ja)
EP (1) EP2116059A2 (ja)
JP (1) JP2010516102A (ja)
KR (1) KR20090099547A (ja)
CN (1) CN101675667A (ja)
WO (1) WO2008085909A2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010525637A (ja) * 2007-04-17 2010-07-22 ▲ホア▼▲ウェイ▼技術有限公司 多視点符号化および復号の方法ならびに装置
JP2022545236A (ja) * 2019-08-19 2022-10-26 フラウンホッファー-ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ アクセスユニットデリミタおよび適応パラメータセットの使用

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2413606B1 (en) * 2009-03-26 2018-05-02 Sun Patent Trust Decoding method, decoding device
AU2012227355B8 (en) * 2009-04-28 2013-07-11 Panasonic Corporation Image decoding method, and image decoding apparatus
WO2010125812A1 (ja) * 2009-04-28 2010-11-04 パナソニック株式会社 画像復号方法、画像符号化方法、画像復号装置および画像符号化装置
AU2009243439A1 (en) * 2009-11-30 2011-06-16 Canon Kabushiki Kaisha Robust image alignment for distributed multi-view imaging systems
US9584804B2 (en) * 2012-07-10 2017-02-28 Qualcomm Incorporated Coding SEI NAL units for video coding
KR20140048802A (ko) * 2012-10-08 2014-04-24 삼성전자주식회사 멀티 레이어 비디오 부호화 방법 및 장치, 멀티 레이어 비디오 복호화 방법 및 장치
US9374581B2 (en) * 2013-01-07 2016-06-21 Qualcomm Incorporated Signaling of picture order count to timing information relations for video timing in video coding
CN104980763B (zh) * 2014-04-05 2020-01-17 浙江大学 一种视频码流、视频编解码方法及装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07322302A (ja) * 1994-05-23 1995-12-08 Sanyo Electric Co Ltd 立体動画像再生装置
JP2003319419A (ja) * 2002-04-25 2003-11-07 Sharp Corp データ復号装置
JP2004159015A (ja) * 2002-11-05 2004-06-03 Matsushita Electric Ind Co Ltd データ多重化方法、データ逆多重化方法
JP2005510187A (ja) * 2001-11-21 2005-04-14 エレクトロニクス アンド テレコミュニケーションズ リサーチ インスチチュート 両眼/多視点3次元動画像処理システム及びその方法
JP2006054500A (ja) * 2004-07-14 2006-02-23 Ntt Docomo Inc 動画像復号方法、動画像復号プログラム、動画像復号装置、動画像符号化方法、動画像符号化プログラム及び動画像符号化装置
JP2006295568A (ja) * 2005-04-11 2006-10-26 Toshiba Corp 動画像復号装置及びピクチャ境界判定方法
JP2008503973A (ja) * 2004-06-25 2008-02-07 エルジー エレクトロニクス インコーポレイティド 多視点シーケンス符号化/復号化方法及びそのディスプレイ方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5886736A (en) * 1996-10-24 1999-03-23 General Instrument Corporation Synchronization of a stereoscopic video sequence
US6754277B1 (en) * 1998-10-06 2004-06-22 Texas Instruments Incorporated Error protection for compressed video
JP3907860B2 (ja) * 1999-02-16 2007-04-18 三菱電機株式会社 動画像復号装置及び動画像復号方法
US20060251177A1 (en) * 2005-05-09 2006-11-09 Webb Jennifer L H Error concealment and scene change detection
US8228994B2 (en) * 2005-05-20 2012-07-24 Microsoft Corporation Multi-view video coding based on temporal and view decomposition
WO2007018709A2 (en) * 2005-07-25 2007-02-15 Thomson Licensing Method and apparatus for the concealment of missing video frames
KR101101965B1 (ko) * 2006-10-16 2012-01-02 노키아 코포레이션 멀티뷰 비디오 코딩에 대한 병렬 디코딩가능 슬라이스들을 이용하기 위한 시스템 및 방법

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07322302A (ja) * 1994-05-23 1995-12-08 Sanyo Electric Co Ltd 立体動画像再生装置
JP2005510187A (ja) * 2001-11-21 2005-04-14 エレクトロニクス アンド テレコミュニケーションズ リサーチ インスチチュート 両眼/多視点3次元動画像処理システム及びその方法
JP2003319419A (ja) * 2002-04-25 2003-11-07 Sharp Corp データ復号装置
JP2004159015A (ja) * 2002-11-05 2004-06-03 Matsushita Electric Ind Co Ltd データ多重化方法、データ逆多重化方法
JP2008503973A (ja) * 2004-06-25 2008-02-07 エルジー エレクトロニクス インコーポレイティド 多視点シーケンス符号化/復号化方法及びそのディスプレイ方法
JP2006054500A (ja) * 2004-07-14 2006-02-23 Ntt Docomo Inc 動画像復号方法、動画像復号プログラム、動画像復号装置、動画像符号化方法、動画像符号化プログラム及び動画像符号化装置
JP2006295568A (ja) * 2005-04-11 2006-10-26 Toshiba Corp 動画像復号装置及びピクチャ境界判定方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JPN5010001539; CHEN YING,JILL BOYCE,XIE KAI: 'Frame Loss Error Concealment for SVC' JVT-Q046.DOC , 20051012, p.1-p.17, Joint Video Team(JVT) of ISO/IEC MPEG & ITU-T VCEG *
JPN5010001541; LINJUAN PANG,MEI YU: 'An Approach to Error Concealment for Entire Right Frame Loss in Stereoscopic Video Transmission' 2006 INTERNATIONAL CONFERENCE ON COMPUTATIONAL INTELLIGENCE AND SECURITY , 20061101, P1665-1670, IEEE *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010525637A (ja) * 2007-04-17 2010-07-22 ▲ホア▼▲ウェイ▼技術有限公司 多視点符号化および復号の方法ならびに装置
JP2022545236A (ja) * 2019-08-19 2022-10-26 フラウンホッファー-ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ アクセスユニットデリミタおよび適応パラメータセットの使用
JP7377953B2 (ja) 2019-08-19 2023-11-10 フラウンホッファー-ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ アクセスユニットデリミタおよび適応パラメータセットの使用

Also Published As

Publication number Publication date
EP2116059A2 (en) 2009-11-11
WO2008085909A2 (en) 2008-07-17
US20090296826A1 (en) 2009-12-03
KR20090099547A (ko) 2009-09-22
WO2008085909A3 (en) 2008-10-16
CN101675667A (zh) 2010-03-17

Similar Documents

Publication Publication Date Title
JP6395667B2 (ja) 多視点映像符号化及び復号化用の、ハイレベルシンタックスを使用した改善されたシグナリングのための方法及び装置
JP6422849B2 (ja) マルチビュー・ビデオ符号化においてビューのスケーラビリティを信号伝達する方法および装置
JP2010516102A (ja) マルチビュー符号化ビデオにおいてビデオ・エラー補正を行う方法および装置
JP2010516098A (ja) マルチ・ビュー符号化ビデオにおいて高レベル・シンタックス参照ビューを用いてエラー隠蔽を行う方法および装置
US8982183B2 (en) Method and apparatus for processing a multiview video signal
JP2010507974A (ja) 多視点映像符号化のための画像の管理
EP2168383A2 (en) Single loop decoding of multi-view coded video
US20080212599A1 (en) Methods and systems for encoding data in a communication network
JP5273816B2 (ja) 高レベル・シンタックスを用いてマルチ・ビュー符号化ビデオにおいてビデオ・エラー隠蔽を行う方法および装置
US20150003536A1 (en) Method and apparatus for using an ultra-low delay mode of a hypothetical reference decoder

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101222

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120808

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120822

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130206