JP2010507339A - 映像動作中に瞬間復号化リフレッシュを信号で送るようにネットワーク抽象レイヤを用いる方法 - Google Patents

映像動作中に瞬間復号化リフレッシュを信号で送るようにネットワーク抽象レイヤを用いる方法 Download PDF

Info

Publication number
JP2010507339A
JP2010507339A JP2009533348A JP2009533348A JP2010507339A JP 2010507339 A JP2010507339 A JP 2010507339A JP 2009533348 A JP2009533348 A JP 2009533348A JP 2009533348 A JP2009533348 A JP 2009533348A JP 2010507339 A JP2010507339 A JP 2010507339A
Authority
JP
Japan
Prior art keywords
view
image
information
encoded
reference image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009533348A
Other languages
English (en)
Other versions
JP5342445B2 (ja
JP2010507339A5 (ja
Inventor
パンディット,パーヴィン,ビバス
スー,イェピン
イン,ペン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=39272136&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP2010507339(A) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2010507339A publication Critical patent/JP2010507339A/ja
Publication of JP2010507339A5 publication Critical patent/JP2010507339A5/ja
Application granted granted Critical
Publication of JP5342445B2 publication Critical patent/JP5342445B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

メモリ管理技術は、マルチビュー符号化映像画像システムに関連する参照画像を記憶するために用いるメモリのためのメモリ管理を規定される。瞬間リフレッシュ復号化画像(620)の符号化画像情報と共に受信される情報に基づいて、特定にビュー(625)に関連する参照画像を削除する判定が行われ、そのような画像はメモリ(630)から削除されるようになっている。

Description

本発明は、動画像の分野に関し、特に、動画像を符号化するために用いられる参照画像の記憶の問題に関する。
多くのフレーム間符号化システムは参照画像を使用し、その場合、参照画像の使用は符号化ビットストリームのサイズを減少させる。この種類の結果として、符号化効率は、フレーム間符号化技術自体を用いることに比べてより良好になる。多くの符号化基準は、それ故、動画像のシーケンスからビットストリームを符号化するように、フレーム内符号化技術及びフレーム間符号化技術の両方を組み込んでいる。当該技術分野で知られているように、異なる種類の参照画像が、画像自体(フレーム内)における要素を用いることのみにより符号化される“I”画像、画像自体からの要素及び/又は2つの先行して符号化された参照画像(フレーム間)からの要素を用いることにより符号化される“B”画像、並びに画像自体からの要素及び/又は1つの先行する参照画像(フレーム間)からの要素を用いることにより符号化される“P”画像のような参照を符号化するように用いられる。“B”画像及び“P”画像の両方は複数の参照画像を用いることが可能であるが、それらの種類の画像の両方の間の差は、“B”画像が、ブロック毎に多くても2つの動き補償予測信号を用いるインター予測の使用を可能にする一方、“P”画像は、予測ブロック毎に1つのみの予測の使用を可能にすることである。
“B”画像又は“P”画像が符号化される及び/又は復号化されるとき、それらの画像は、それ故、それらの画像が復号化動作中に適切に符号化又は構成されることが可能であるように、他の参照フレームに依存する。符号化/復号化システムは、参照画像が記憶されることが可能である一方、他の画像はそのような参照画像を考慮して符号化又は復号化されるように、ある種類のメモリ場所を備える必要がある。明らかに、しばらくして、将来の符号化動作の間に参照画像を用いる符号化されるべき更なる画像は存在しないために、符号化動作のために参照画像を用いることはできない。
記憶装置に永久に参照画像全てを記憶することが可能であるが、そのような解決方法は、メモリ資源を非効率的に使用するものである。それ故、当該技術分野で知られているように、先入れ先出し(FIFO)メモリ動作又は後入れ先出し(LIFO)メモリ動作のようなメモリ技術が、そのような参照画像を必要とする空間を減少させる(不必要な参照画像を捨てることにより)ように支援する参照画像を記憶することによりメモリ装置を動作させる場合に用いられる。そのようなメモリ動作は、しかしながら、符号化及び/又は復号化される画像が時間的関係及びビュー相互関係の両方を有するマルチビュー符号化システムの使用を考慮するとき、不所望の結果をもたらす可能性がある。即ち、マルチビュー符号化システムは、動画像の複数のビューを有する特徴を有し、各々のビューは、それぞれのオブジェクト/シーンの異なるビューを表す。ここで、参照画像は、2つの異なるビューに関連する画像の符号化又は復号化で用いられることが可能である。
例えば、図1は、マルチビュー符号化システムで用いられる参照画像構造の例示としての実施例を示している。特に、示されている構造については、文献“Joint Multivew Video Model(JMVM)1.0”,by A.Vetro,Y.Su,H.Kimata,A.Smolic,JVT−T208.doc,Klagenfurt,Austria,July,2006に記載されている。このマルチビュー符号化規格は、Advanced Video Coding(AVC)Standard(“Draft of Version 4 of H.264/AVC(ITU−T Recommendation H.264 and ISO/IEC 14496−10(MPEG−4 part 10) Advanced Video Coding)”,Palma de Mallorca,ES 18−22,October 2004)における符号化に基づいている。両方の規格間の大きい差は、AVCが符号化マルチビュー画像をアドレス指定することができない一方、MVCはそれができることである。
図1を再び参照するに、例えば、T1においてビューS1に関連する画像を符号化するとき、符号化される画像は同じビュー(T0におけるS1及びT2におけるS1)からの画像(参照画像)に関連し、符号化されるべき画像は異なるビュー(T1におけるS0及びT1におけるS2)からの画像に関連することが理解できる。それ故、S1、T1に関連する画像を符号化するとき、バッファ、レジスタ、RAM等のようなメモリ装置に参照画像(T0におけるS1、T2におけるS1、T1におけるS0及びT1におけるS2)を維持することは理解できることであり、その場合、そのような復号化画像は、復号化画像バッファ(DPB)と呼ばれる装置に記憶される。
DPBにおいて参照画像を管理する一方法は、外部で生成され、DPBの一部をクリアする命令に対して通信されることが可能である構文要素(コマンド)を用いるようになっている。AVC仕様においては、DPBにおいて記憶されている参照画像の全てが“参照のために用いられないもの”であることを示すように用いられる瞬時復号化リフレッシュ(IDR:Instaqntaneous Decoding Refresh)を示すようにコマンドがNALに挿入されるネットワーク抽象化レイヤ(NAL)を用いることが可能である。これは、IDRが受信された後にDPBにおける参照画像の全てが最終的に削除される必要があることを意味する。IDR画像は、フレーム間符号化(フレーム間符号化ではない)に依存する“I”画像(スライス)または“SI”画像(スライス)に関連するために、それを行うことが可能である。それ故、典型的には、符号化画像における第1画像のシーケンスはIDR画像である。
しかしながら、現在のIDRの実施は、複数のビューが符号化される必要があるMVC符号化状態の問題に対処するとき、効果的ではない。例えば、ビューS0はAVC対応ビューであることを前提にする。AVC対応ID画像がビューS0において時間T16に存在する場合、ビューS0における参照画像のみが“参照のために用いられないもの”としてマーキングされる必要があるかどうかは明らかでない。即ち、AVC及びMVCについてIDR画像に関連する現在の原理の下では、DPBにおける何れかのビューの全ての記憶されている参照画像が、“参照のために用いられないもの”としてマーキングされ、DPBから削除され、そのことは好ましい結果ではない。
"Joint Multivew Video Model(JMVM)1.0",by A.Vetro,Y.Su,H.Kimata,A.Smolic,JVT−T208.doc,Klagenfurt,Austria,July,2006 Advanced Video Coding(AVC)Standard("Draft of Version 4 of H.264/AVC(ITU−T Recommendation H.264 and ISO/IEC 14496−10(MPEG−4 part 10) Advanced Video Coding)",Palma de Mallorca,ES 18−22,October 2004)
上記の及び他の従来技術の短所及び不利点は、映像符号化についての動き推定予測値として有効な動き情報をもたらす方法及び装置を提供する。
本発明の特徴に従って、復号化画像バッファにおいてメモリ管理動作を実行するマルチビュー映像符号化環境で用いる符号が提供され、そのようなメモリ管理動作は、制御情報に基づいて特定のビューに関連する参照画像を除去する。
本発明の原理についての上記の及び他の特徴、側面及び有利点は、添付図に関連付けて読むようになっている例示としての実施形態についての以下の詳述から明らかになる。
本発明の原理は、以下の例示としての図により更に理解することが可能である。
異なる時間の映像画像ビューの例示としての実施形態のマルチビュー符号化であって、そのような映像画像は示している方式で参照画像を用いて符号化される、マルチビュー符号化を示す図である。 本発明の原理に従ったNALユニットを指定するために用いられる符号の実施形態を示す図である。 本発明の原理に従って用いられる構文要素ref_pic_list_reordering()についての擬似符号の実施形態を示す図である。 本発明の原理に従って用いられる構文要素Mmark_view_only()についての擬似符号の実施形態を示す図である。 本発明の原理に従って用いられる符号化システムの例示としての実施形態を示す図である。 本発明の原理に従ってIDR画像を用いる符号化の例示としての実施形態を示す図である。
本発明の原理は、フレーム内ベースの符号化規格及びフレーム間ベースの符号化規格に適用されることが可能である。本明細書を通して用いている用語“画像”は、当該技術分野において“フレーム”、“フィールド”及び“スライス”並びに用語“画像”自体として知られている映像画像情報の種々の形式を表現する総称として用いられる。用語“画像”は種々の要素の映像情報を表すように用いられているが、AVCとは、“参照画像”と同じ画像からのスライスを用いることが可能であるスライスの使用のことをいい、画像がどのように副分割されているかに拘わらず、本発明の原理を適用することが可能である。
本発明の原理については、典型的には、AVCにおいて規定されるネットワーク抽象レイヤとして知られている要素に関連して説明される。本発明の原理はまた、ヘッダ及びペイロード、データ及び制御パケットをインターリーブするビットストリーム等を有するデータパケットのようなデータを送信するように用いられる複数のフォーマットに適用されることが理解できる。
本発明の説明においては、参照画像は、画像を符号化するように用いられる符号化映像画像情報として定義されている。多くの映像符号化システムにおいては、参照画像は、DPBのようなメモリに記憶される。どの参照画像が維持されるべきか又は削除されるべきかを十分に管理するように、DPBは、メモリ管理コマンド動作(MMCO)として知られているコマンドを用い、そのMMCOは、記憶されている参照画像にメモリ状態(典型的には、符号化器により)を割り当てるように用いられる。例えば、AVC/MVC符号化器のために用いられるメモリ状態は、期間であって、短い期間の参照画像、長い期間の参照画像、又は参照画像として用いられないときにマーキングされない画像の期間を有する。(その場合、メモリがDPBから必要とされる場合に、参照画像は削除される。記憶されている参照画像の状態は、より多くの画像が符号化されるときに、変えられることが可能であり、例えば、一画像が符号画像であるとき、短い期間であるように指定される参照画像は、第2画像が符号化されるときに、長い期間の参照画像であるように指定されることが可能である。
また、本発明の説明においては、フォーマット化の種類のC言語を用いる種々のコマンド(構文要素)は、そのようなコマンドについて次の名称を用いる図において詳述されている。
u(n):nビットを用いる符号のない整数。nが構文テーブルにおいて“v”であるとき、ビット数は、他の構文要素の値に依存する方式で変化する。この記述子についての解析処理は、最初に書き込まれた最も重要なビットを有する符号のない整数の2進数表現として解釈される関数read−bits(n)の戻り値により特定される。
ue(v):最初に左ビットを有する符号のない整数Exp−Golomb符号化構文要素。
se(v):最初に左ビットを有する符号のある整数Exp−Golomb符号化構文要素。
C:構文要素を適用する、即ち、どのレベルに特定フィールドが適用される必要があるカテゴリを表す。
本明細書において、本発明の原理を示している。それ故、当業者は、ここでは明示的に記載及び図示していないが、本発明の原理を実施し、本発明の範囲及び主旨の範囲内に包含される種々の構成を案出することができることが可能であることを理解することができる。
ここで列挙する全ての実施例及び条件言語は、当該技術の促進に対して本発明者が寄与している本発明の原理及び概念を理解する上で読者を支援する教育的目的のために意図され、そのように具体的に列挙された実施例及び条件に対する制限の範囲内にあるとして解釈することができる。
更に、本明細書において本発明の原理、特徴及び実施形態並びに本発明の特定の実施例を挙げている全ての記載が、本発明と同等の構造及び機能の両方を包含するように意図されている。更に、そのような同等なものは、現在の同等なもの及び将来開発される同等なものを、即ち、構造に関係なく、同様の機能を実行するように開発される何れかの要素を包含するように意図されている。
図2は、AVCで用いられるNALのために用いられる構文を開示していて、ここでは、AVC対応ビットストリームは、示しているように、NALユニットの種類1又は5を用いる符号化画像を有する。MVC符号化画像は、符号化画像についてNALユニットの種類20及び21を用いる。両方のNALユニットの種類1及び20は、参照映像符号化規格について非IDR画像(スライス)を表す一方、NALユニットの種類5及び21はIDR画像を表す。符号化器がNALにおける5又は21のユニットの種類を受信する(例えば、ビットストリームにおいて)とき、符号化器は、“参照のために用いられないもの”に変化されたDBPに記憶される参照画像の状態を有する。
本発明の実施形態においては、サフィックスNALユニットと呼ばれるNALユニットをNALと共に用いることを提供している。サフィックスNALユニットは、復号化順序にある他のNALユニットに後続するNALユニットとして規定され、関連NALユニットと呼ばれる先行NALユニットについての記述情報を有する。好適には、サフィックスNALユニットの後続するものは、関連NALユニットにすぐに後続する。
更に規定されるように、サフィックスNALユニットは、20又は21に等しいnal_ref_idcを有する。svc_mvc_flagが0に等しいとき、サフィックスNALは0に等しいdependency_id及びquality_levelの両方を有するが、符号化スライスを有さない。svc_mvc_flagが1に等しいとき、サフィックスNALは0に等しいview_levelを有し、符号化画像情報(スライスを有さないが、制御情報を含むことが可能である。サフィックスNALユニットは、関連NALユニットと同じ符号化画像に属す。
サフィックスNALユニットについての構文は、図3に示すように、slice_layer_in_svc_mvc_extension_rbsp()functionの構造を規定する。このサフィックスNALユニットは、関連NALユニットに関する情報を得て、適切なアクションをとるように、NALユニットに存在する情報を抽出するようにMVC対応符号化器により用いられることが可能である。
それ故、サフィックスNALユニットにおいて、どのビューがIDRコールにより影響される必要があるかを示す情報が存在する新しい構文が提供される。即ち、その新しい構文は、関連ビューについてのものである記憶されている参照画像(DPBにおける)が“参照のために用いられないもの”としてマーキングされる一方、他のビューについて記憶されている参照画像はそれらのメモリ状態のまま保たれるようにする。
構文要素mark_view_onlyは本発明の実施形態において提案され、図4に示されていて、そのことは、IDR画像がDPBにおいて有する挙動を特定する。mark_view_onlyがサフィックスNALユニットにおいて1に等しいとき、同じサフィクスNALユニットにおいて存在するview_idに関連するビューに関連するDPBに存在する参照画像の全てが“参照のために用いられないもの”としてマーキングされる。mark_view_onlyが0に等しいとき、DPBに存在する参照画像の全てが“参照のために用いられないもの”としてマーキングされる。
本発明の任意の実施形態においては、IDR画像がMVC NALユニット(種類21)に存在するとき、このIDR画像は参照として用いられないものとしてそれ自体のビューにおける画像のみをマーキングする制限を改善することを提案している。
更なる任意の実施形態においては、プレフィックスNALユニットが作成されることが可能であり、ここでは、そのようなユニットは、関連NALユニットの前に送信される。更なる任意の実施形態においては、関連IDRに対して特定のビューを選択する上記のコマンドの種類は、本発明の原理に従ったコマンドを付けるように、ユーザデータが規定されることが可能であるNALユニットによりどこかでカプセル化されることが可能である。本発明の代替の実施形態において、制御パケットがそれ自体でビット内に配置され、そのようなパケットは、どの参照画像が“参照のための用いられないもの”としてマーキングされる必要があるかを示すように用いられることを提案していることをまた、理解することができる。特に、制御パケットは、Rremove_reference_viewのような構文(又は、この提案されたコマンドに類似するコマンド)を有し、そのコマンドに関連する値は、どの記憶されている参照画像が(関連ビューを介して)DPBから削除されるべきかを示す。
この構文は、同時に、どのビューがDPBから削除されるべきかを示す制御語を与えるようにされることが可能である。例えば、映像シーケンスがそれに関連する8つのビュー(ビュー0から始まる)を有する場合、ビュー1、4及び5(0から始まる)に関連する参照画像を削除するように用いられる値は、(11001101)のような8ビットの値に従って規定される。そのような値は、左側から始まり右側に進む場合に、即ち、ビュー0には値“1”が与えられ、ビュー0に関連する参照画像はそのまま保たれるようになっている場合に、もたらされる。ビュー1について右側に移動する場合、そのようなビューには値“0”が与えられる。それ故、本発明の実施形態においては、DPBは、ビュー1に関連するDPBにおける参照画像の全てを削除する。他のコマンド及び値は、本実施形態の原理に従って、当業者が実施することが可能であることが理解できる。
図5は、本発明の原理に従って用いられる符号化システムの例示としての実施形態を開示している。図5における簡略化されたバージョンのブロック図500においては、符号化器505、符号化バッファ510及び復号化画像バッファ515、並びにデータフォーマッタ520間の動作について示している。符号化動作(符号化か又は復号化のどちらか)中、符号化器505により現在符号化されている画像は符号化バッファ510に存在している一方、先行して符号化された参照画像は復号化画像バッファ515に記憶されている。上記のように、AVCは、復号化画像バッファ515における参照画像がどのように維持される必要があるかを符号化器が特定するようにするメモリ管理制御動作(MMCO)として知られているコマンドを用いることが開示されている。即ち、画像が符号化されているとき、MMCOは、その画像の前にくる参照画像により何が実行される必要があるかを特定するように、現在符号化されている画像のヘッダに入力されるこの動作は“マーキング”として知られている。それらのコマンドは、その場合、復号化画像バッファ515に存在する参照画像により何が行われる必要があるかを判定するように、将来、符号化器505により用いられることが可能である。用語“画像”は種々の要素の映像情報を表すように用いられているが、AVCは、そのような参照画像が“参照画像”と同じ画像からのスライスを用いることができるスライスの使用を参照し、画像がどのように副分割されるかに拘わらず、本発明の原理が適用されることに留意する必要がある。
一旦、画像が符号化されると、それらの画像はビットストリームの一部として送信されることが可能であり、そのようなデータは、データフォーマッタ520を用いてデータネットワークにおける送信のためのビットストリームにおいてフォーマットされる。好適には、データは、トランスポートストリーム(IPパケット、MPEG−2トランスポートストリーム等)において更に送信されるNALユニットの形式で送信され、データフォーマッタ520は、送信パケットにおいてNALユニットを送信する。データフォーマッタ520は、それ故、符号化画像情報及びNALユニットと上記されているコマンドの両方を送信することが可能であり、そのようなNALユニットは、プレフィックス及び/又はサフィックスNALユニットであることが可能である。更に、データフォーマッタ520は、NALユニットの何れかのユーザ定義可能部分にIDR情報コマンドを付加することが可能である。データフォーマッタ520はまた、データパケットのヘッダ、データパケットのペイロード又はトランスポートパケットのそれらの組み合わせにおいて上記のデータコマンドを入れることが可能である。
本発明の例示としての実施形態においては、データフォーマッタ520は、トランスポートパケットの符号化ビットストリームを受信する、及び(動画のシーケンスを構成するように)復号化映像画像データの形式に符号化器505により復号化されることができるNALユニットにその受信されたデータをフォーマットすることができる。即ち、データフォーマッタ520は、どの画像がIDR画像を表し、どの符号化器が“参照のために用いられないもの”として特定のビューに関連して参照画像をマーキングするようにNALデータを読み出すように用いられるユニットであるかを判定するように、NALユニットを読み出すことが可能である。符号化器505は、その場合、この任意の実施形態において動作し、符号化器505は受信されたビットストリームを復号化するように用いられ、符号化画像バッファ510及び復号化画像バッファ515は、AVC及びMVC映像符号化規格に関して規定される方式に従って用いられるようになっている。
図6は、IDR画像を用いる方法であるフローチャート600に開示されている本発明の例示としての実施形態である。ステップ605においては、符号化されるようになっている画像についての画像データが符号化器505により処理される。画像データが符号化されるとき、ステップ610における符号化器505は、符号化される画像が瞬間復号化リフレッシュ画像を表すかどうかを指定するコマンドを付加する。このコマンドの一部は、その画像が(IDRである場合に)記憶されている(又は、DPB515に記憶されるようになっている)参照画像の全てに影響するか又は、特定のビューに関連する記憶されている参照画像が“参照として用いられないもの”としてマーキングされるようになっているかを示す。
データフォーマッタ520は、ステップ610において符号化器により構築されたコマンドを用い、ステップ615のNALにおいてIDRコマンド(好適には、上記のようにサフィックスNALとして(本発明の原理に従って、他の送信フォーマットを用いることが可能であるが))を送信する。
ステップ620においては、類似するデータフォーマッタ520が符号化データストリームを受信し、そのデータフォーマッタは、どの受信されたNALがIDRを表すか、及びどの記憶されている参照画像がIDR動作により影響されるかを判定するように、NALを読み出す。ステップ625においては、符号化器505は、受信された関連NALから符号化画像情報を復号化する(好適な実施形態において)とき、サフィックスNALにおいて特定される“参照として用いられないもの”として記憶されている参照画像をマーキングするIDRコマンドを実行する。ステップ630においては、DPB515がそのようなコマンドを実施し、“参照として用いられないもの”としてIDRコマンドにおいて選択される記憶されている参照画像をマーキングし、DPB515は、最終的には、そのような参照画像を削除する。
それ故、例えば、ここで示しているブロック図が本発明の原理を実施する例示としての回路の概念的様子を表していることを当業者は理解することができる。同様に、何れのフローチャート、フロー図、状態遷移図、擬似コード等は、コンピュータ読み出し可能媒体において実質的に表されることが可能であり、それ故、種々の処理がコンピュータ又はプロセッサにより実行されることが可能であり、そのことは、コンピュータ又はプロセッサが明示的に示されているか否かには関係ない。
上記図に示している種々の要素の機能は、専用のハードウェア及び適切なソフトウェアと関連してソフトウェアを実行することができるハードウェアを用いることにより与えられることが可能である。プロセッサにより提供されるとき、それらの機能は、単独の専用プロセッサ、単独の共有プロセッサ、又は複数の別個のプロセッサであって、それらの一部は共有されることが可能である、別個のプロセッサにより提供されることが可能である。更に、用語“プロセッサ”又は“制御器”の明示的使用は、ソフトウェアを実行することができるハードウェアに対して明示的に表される必要はなく、ディジタル信号プロセッサ(DSP)ハードウェア、ソフトウェアを記憶する読み出し専用メモリ(ROM)、ランダムアクセスメモリ(RAM)及び不揮発性記憶装置を暗示的に含むことが可能であるが、それらに限定されるものではない。
従来の及び/又は特別の他のハードウェアも含むことが可能である。同様に、図に示す何れかのスイッチのみが概念化されることが可能である。それらの機能は、プログラム論理の実行、専用論理、プログラム制御及び専用論理の相互作用により、又は手動操作によってさえ、実行可能であり、それらの特定の技術は、前後の関連からより具体的に理解できるように、実施者によって選択可能である。
請求項においては、特定の機能を実行する手段として表現される要素は、例えば、a)その機能を実行する複数の回路要素の組み合わせ、又はb)その機能を実行するようにソフトウェアを実行する適切な回路と組み合わされたファームウェア、マイクロコード等を含む何れかの形式にあるソフトウェアを含むその機能を実行する何れかの方法を包含するとして意図されている。そのような請求項に記載している本発明の原理は、種々の記載している手段により提供される機能がそれらの請求項が請求する方式で組み合わされ、一緒にされるということにある。それ故、それらの機能を提供することができる何れかの手段はここに示されているものと同等であるとみなれる。
本明細書において本発明の原理の“一実施形態”又は“実施形態”を参照することは、その実施形態に関連して説明している特定の特徴、構造、特性等が本発明の原理の少なくとも一実施形態に含まれることを意味している。それ故、本明細書と通して種々の場所に記載されている“一実施形態においては”又は“実施形態においては”の表現の出現は、必ずしも全てが同様の実施形態を表していない。
本発明の原理の上記の及び他の特徴及び有利点は、本明細書の教示に基づいて当該適切な技術における熟達者により容易に確かめることが可能である。本発明の原理の教示は、ハードウェア、ソフトウェア、ファームウェア、特定用途プロセッサ、又はそれらの組み合わせの種々の方式で実行されることが可能である。
好適には、本発明の原理の教示は、ハードウェア及びソフトウェアの組み合わせとして実行される。更に、ソフトウェアは、プログラム記憶装置において具体的に実施されるアプリケーションプログラムとして実行されることが可能である。アプリケーションプログラムは、何れかの適切なアーキテクチャを有する機械に対して更新され、その機械により実行されることが可能である。好適には、その機械は、1つ又はそれ以上の中央演算処理装置(CPU)、ランダムアクセスメモリ(RAM)及び入力/出力(I/O)インタフェースのようなハードウェアを有するコンピュータプラットフォームにおいて実施される。そのコンピュータプラットフォームはまた、オペレーションシステム及びマイクロ命令コードを有することが可能である。本明細書で述べている種々の処理及び機能は、CPUで実行されることが可能であるマイクロ命令コードの一部、アプリケーションプログラムの一部、又は何れかのそれらの組み合わせであることが可能である。更に、種々の他の周辺装置が、付加的データ記憶装置及び印刷装置等のコンピュータプラットフォームに接続されることが可能である。
添付図に示している構成システムの構成要素及び方法の一部はソフトウェアにおいて好適に実行することができるため、システムの構成要素間又は処理機能ブロック間の実際の接続は、本発明の原理がプログラムされる方式に依存して異なる可能性がある。本明細書の教示において、当業者は、それらの教示及び本発明の原理の同様の実施又は構成について検討することができる。
例示としての実施形態については、添付図を参照しながら説明しているが、本発明の原理はそれらの的確な実施形態に限定されるものではなく、種々の変形及び秀才が、本発明の原理の範囲又は主旨から逸脱することなく、当業者により達成されることが可能である。全てのそれらの変形及び修正は、同時提出の特許請求の範囲に記載している本発明の原理の範囲内に包含されるように意図されている。

Claims (17)

  1. 動画のシーケンスに対応する映像データを符号化する方法であって:
    映像画像に対応する映像情報を符号化するステップであって、前記映像画像は少なくとも1つのビューに対応する、ステップ;及び
    第2ビューの少なくとも1つの記憶されている参照画像が削除されるようになっているかどうかを示す情報を生成するステップ;
    を有する方法。
  2. 請求項1に記載の方法であって:
    前記符号化された映像情報、及び記憶されている参照画像が削除される必要があることを示す前記情報を送信するステップ;
    を更に有する、方法。
  3. 請求項2に記載の方法であって、前記送信するステップは、第1ネットワーク抽象レイヤ(NAL)ユニットにおける前記符号化された映像情報及び第2NALとしてユニットにおける前記生成された情報を送信する、方法。
  4. 請求項3に記載の方法であって、前記第1NALユニットは関連NALユニットであり、前記第2NALユニットはサフィックスNALユニットである、方法。
  5. 請求項2に記載の方法であって、前記送信するステップはトランスポートパケットのペイロードにおける前記符号化された映像情報を送信し、第2ビューの少なくとも1つの記憶されている参照が示された前記情報は削除されるようになっている、方法。
  6. 請求項1乃至5の何れか一項に記載の方法であって、前記第1ビュー及び前記第2ビューは異なるビューである、方法。
  7. 請求項1乃至5の何れか一項に記載の方法であって、前記第1ビュー及び前記第2ビューは同じビューである、方法。
  8. 請求項1乃至7の何れか一項に記載の方法であって、前記情報は、削除されるようになっている第2ビューの記憶されている参照画像が“参照のために用いられないもの”である参照画像としてマーキングされるかどうかを示す、方法。
  9. 請求項1乃至8の何れか一項に記載の方法であって、前記第1ビュー及び前記第2ビューと異なる第3ビューの記憶されている参照画像が削除される必要があることを示す更なる情報が生成され、送信される、方法。
  10. 請求項1乃至9の何れか一項に記載の方法であって、前記符号化された画像は瞬間リフレッシュ復号化画像である、方法。
  11. 映像画像のマルチビューシーケンスを示す受信されたビットストリームを復号化する方法であって:
    第1ビューに関連する符号化された映像画像情報を復号化するように前記ビットストリームにおける情報を処理するステップ;及び
    前記情報が第2ビューに関連する少なくとも1つの記憶されている参照画像の削除を必要とする前記ビットストリームに存在するかどうかを判定するステップ;
    を有する方法。
  12. 請求項11に記載の方法であって:
    メモリからの第2ビューに関連する前記少なくとも1つの参照画像を削除するステップ;
    を更に有する、方法。
  13. 請求項12に記載の方法であって、前記削除するステップは、前記少なくとも1つの参照画像が“参照のために用いられないもの”であると示されたために実行される、方法。
  14. 請求項12に記載の方法であって:
    メモリからの第3ビューに関連する少なくとも1つの参照画像を前記メモリに維持するステップであって、前記第2ビュー及び前記第3ビューは異なるビューを示す、ステップ;
    を有する、方法。
  15. 請求項14に記載の方法であって、前記メモリは復号化画像バッファである、方法。
  16. 請求項11に記載の方法であって、前記情報は、前記符号化された画像が瞬間リフレッシュ符号化画像であることを表す、方法。
  17. 請求項11乃至16の何れか一項に記載の方法であって、前記第1ビュー及び前記第2ビューは同じビューである、方法。
JP2009533348A 2006-10-16 2007-10-16 映像動作中に瞬間復号化リフレッシュを信号で送るようにネットワーク抽象レイヤを用いる方法 Active JP5342445B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US85195306P 2006-10-16 2006-10-16
US60/851,953 2006-10-16
PCT/US2007/022082 WO2008048605A2 (en) 2006-10-16 2007-10-16 Method for using a network abstract layer unit to signal an instantaneous decoding refresh during a video operation

Publications (3)

Publication Number Publication Date
JP2010507339A true JP2010507339A (ja) 2010-03-04
JP2010507339A5 JP2010507339A5 (ja) 2010-12-02
JP5342445B2 JP5342445B2 (ja) 2013-11-13

Family

ID=39272136

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009533348A Active JP5342445B2 (ja) 2006-10-16 2007-10-16 映像動作中に瞬間復号化リフレッシュを信号で送るようにネットワーク抽象レイヤを用いる方法

Country Status (7)

Country Link
US (1) US20100002761A1 (ja)
EP (1) EP2077037A2 (ja)
JP (1) JP5342445B2 (ja)
KR (1) KR101385808B1 (ja)
CN (1) CN101523920B (ja)
BR (1) BRPI0719536A2 (ja)
WO (1) WO2008048605A2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008047258A2 (en) * 2006-10-20 2008-04-24 Nokia Corporation System and method for implementing low-complexity multi-view video coding
CN103957448B (zh) * 2009-04-09 2017-05-17 瑞典爱立信有限公司 生成媒体容器文件的方法、媒体内容服务器、以及媒体处理方法和媒体处理服务器
RU2550552C2 (ru) 2009-04-28 2015-05-10 Панасоник Корпорэйшн Способ декодирования изображений и устройство декодирования изображений
JP2011082683A (ja) * 2009-10-05 2011-04-21 Sony Corp 画像処理装置、画像処理方法、及び、プログラム
KR101578308B1 (ko) * 2011-06-30 2015-12-16 텔레폰악티에볼라겟엘엠에릭슨(펍) 레퍼러스 픽처 시그널링
US9674534B2 (en) * 2012-01-19 2017-06-06 Samsung Electronics Co., Ltd. Method and apparatus for encoding multi-view video prediction capable of view switching, and method and apparatus for decoding multi-view video prediction capable of view switching
KR20130116782A (ko) * 2012-04-16 2013-10-24 한국전자통신연구원 계층적 비디오 부호화에서의 계층정보 표현방식
KR20150035667A (ko) * 2012-09-28 2015-04-07 삼성전자주식회사 랜덤 액세스를 위한 비디오 부호화 방법 및 장치, 비디오 복호화 방법 및 장치
US9781413B2 (en) * 2012-10-02 2017-10-03 Qualcomm Incorporated Signaling of layer identifiers for operation points
US9854234B2 (en) 2012-10-25 2017-12-26 Qualcomm Incorporated Reference picture status for video coding
US9602822B2 (en) * 2013-04-17 2017-03-21 Qualcomm Incorporated Indication of cross-layer picture type alignment in multi-layer video coding
JP6361866B2 (ja) * 2013-05-09 2018-07-25 サン パテント トラスト 画像処理方法および画像処理装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004274694A (ja) * 2002-07-11 2004-09-30 Matsushita Electric Ind Co Ltd 画像符号化方法及び画像復号化方法
WO2006001653A1 (en) * 2004-06-25 2006-01-05 Lg Electronics Inc. Method of coding and decoding multiview sequence and method of displaying thereof

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4355156B2 (ja) * 2002-04-16 2009-10-28 パナソニック株式会社 画像復号化方法及び画像復号化装置
KR100491530B1 (ko) * 2002-05-03 2005-05-27 엘지전자 주식회사 모션 벡터 결정 방법
JP3513148B1 (ja) * 2002-10-11 2004-03-31 株式会社エヌ・ティ・ティ・ドコモ 動画像符号化方法、動画像復号方法、動画像符号化装置、動画像復号装置、動画像符号化プログラム、及び動画像復号プログラム
US7489342B2 (en) * 2004-12-17 2009-02-10 Mitsubishi Electric Research Laboratories, Inc. Method and system for managing reference pictures in multiview videos
EP1634460B1 (en) * 2003-06-19 2014-08-06 Thomson Licensing Method and apparatus for low-complexity spatial scalable encoding
KR101094323B1 (ko) * 2003-09-17 2011-12-19 톰슨 라이센싱 적응 기준 화상 생성
CN1271864C (zh) * 2004-08-05 2006-08-23 联合信源数字音视频技术(北京)有限公司 视频解码缓冲区控制装置及方法
US20060083298A1 (en) * 2004-10-14 2006-04-20 Nokia Corporation Reference picture management in video coding
EP1949701A1 (en) * 2005-10-11 2008-07-30 Nokia Corporation Efficient decoded picture buffer management for scalable video coding
US7903737B2 (en) 2005-11-30 2011-03-08 Mitsubishi Electric Research Laboratories, Inc. Method and system for randomly accessing multiview videos with known prediction dependency
WO2007081177A1 (en) * 2006-01-12 2007-07-19 Lg Electronics Inc. Processing multiview video
JP4793366B2 (ja) * 2006-10-13 2011-10-12 日本ビクター株式会社 多視点画像符号化装置、多視点画像符号化方法、多視点画像符号化プログラム、多視点画像復号装置、多視点画像復号方法、及び多視点画像復号プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004274694A (ja) * 2002-07-11 2004-09-30 Matsushita Electric Ind Co Ltd 画像符号化方法及び画像復号化方法
WO2006001653A1 (en) * 2004-06-25 2006-01-05 Lg Electronics Inc. Method of coding and decoding multiview sequence and method of displaying thereof

Also Published As

Publication number Publication date
BRPI0719536A2 (pt) 2014-01-14
WO2008048605A2 (en) 2008-04-24
WO2008048605A3 (en) 2008-06-12
CN101523920B (zh) 2013-12-04
US20100002761A1 (en) 2010-01-07
CN101523920A (zh) 2009-09-02
KR101385808B1 (ko) 2014-04-17
EP2077037A2 (en) 2009-07-08
JP5342445B2 (ja) 2013-11-13
WO2008048605B1 (en) 2008-09-04
KR20090077918A (ko) 2009-07-16

Similar Documents

Publication Publication Date Title
JP5342445B2 (ja) 映像動作中に瞬間復号化リフレッシュを信号で送るようにネットワーク抽象レイヤを用いる方法
US11553198B2 (en) Removal delay parameters for video coding
JP5116175B2 (ja) 多視点ビデオ符号化を含む参照ピクチャの管理方法
US11653011B2 (en) Decoded picture buffer removal
KR102474461B1 (ko) 코딩된 영역들의 완료를 나타내는 신택스 구조들
RU2581566C2 (ru) Сигнализация опорного изображения
JP5264920B2 (ja) マルチビュー・ビデオ(mvc)コーディング・システムにビデオ・ユーザビリティ情報(vui)を組み込むための方法と装置
KR101729425B1 (ko) 비디오 시퀀스의 픽처의 디코딩 및 인코딩
EP3709654B1 (en) Devices for identifying a leading picture
CN107770550B (zh) 用于发送消息和缓冲比特流的电子设备
US20090279612A1 (en) Methods and apparatus for multi-view video encoding and decoding
US20090207904A1 (en) Multi-View Video Coding Method and Device
US20150103924A1 (en) On operation of decoded picture buffer for interlayer pictures
US8731065B2 (en) Dynamic image stream processing method and device, and dynamic image reproduction device and dynamic image distribution device using the same

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101015

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101015

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120228

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120524

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120828

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121218

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130313

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130321

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130617

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130723

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130809

R150 Certificate of patent or registration of utility model

Ref document number: 5342445

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R157 Certificate of patent or utility model (correction)

Free format text: JAPANESE INTERMEDIATE CODE: R157

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250