JP2023519980A - Hrdパラメータをシグナリングする画像符号化/復号化方法及び装置、並びにビットストリームを保存したコンピュータ可読記録媒体 - Google Patents

Hrdパラメータをシグナリングする画像符号化/復号化方法及び装置、並びにビットストリームを保存したコンピュータ可読記録媒体 Download PDF

Info

Publication number
JP2023519980A
JP2023519980A JP2022559607A JP2022559607A JP2023519980A JP 2023519980 A JP2023519980 A JP 2023519980A JP 2022559607 A JP2022559607 A JP 2022559607A JP 2022559607 A JP2022559607 A JP 2022559607A JP 2023519980 A JP2023519980 A JP 2023519980A
Authority
JP
Japan
Prior art keywords
ols
vps
hrd
information
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022559607A
Other languages
English (en)
Inventor
ヘンドリー ヘンドリー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
LG Electronics Inc
Original Assignee
LG Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by LG Electronics Inc filed Critical LG Electronics Inc
Publication of JP2023519980A publication Critical patent/JP2023519980A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/467Embedding additional information in the video signal during the compression process characterised by the embedded information being invisible, e.g. watermarking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Abstract

HRDパラメータをシグナリングする画像符号化/復号化方法及び装置、並びにビットストリームを伝送する方法が提供される。本開示による画像復号化方法は、VPS(Video Parameter Set)内の一つ以上のHRD(hypothetical reference decoder)パラメータシンタックス構造の個数を示す第1情報を取得するステップと、前記第1情報に基づいて、前記VPSから前記一つ以上のHRDパラメータシンタックス構造を取得するステップと、前記第1情報に基づいて、前記VPSから一つ以上のマルチレイヤー(multi-layer)OLS(output layer set)と前記一つ以上のHRDパラメータシンタックス構造とのマッピングに関する第2情報を取得するステップと、前記第2情報に基づいて、現在OLSに適用されるHRDパラメータシンタックス構造を選択するステップと、前記選択されたHRDパラメータシンタックス構造に基づいて、前記現在OLSを処理するステップと、を含むことができる。【選択図】図16

Description

本開示は、画像符号化/復号化方法及び装置に関し、より詳細には、HRD(Hypothetical reference decoder)関連パラメータをシグナリングする画像符号化/復号化方法及び装置、並びに本開示の画像符号化方法/装置によって生成されたビットストリームを保存したコンピュータ可読記録媒体などに関する。
最近、高解像度、高品質の画像、例えばHD(High Definition)画像及びUHD(Ultra High Definition)画像への需要が多様な分野で増加している。画像データが高解像度、高品質になるほど、従来の画像データに比べて、伝送される情報量又はビット量が相対的に増加する。伝送される情報量又はビット量の増加は、伝送費用と保存費用の増加をもたらす。
これにより、高解像度、高品質画像の情報を効果的に伝送又は保存し、再生するための高効率の画像圧縮技術が求められる。
本開示は、符号化/復号化の効率が向上した画像符号化/復号化方法及び装置を提供することを目的とする。
また、本開示は、HRDパラメータを効率よくシグナリングすることにより、符号化/復号化の効率の向上を図る画像符号化/復号化方法及び装置を提供することを目的とする。
また、本開示は、本開示による画像符号化方法又は装置によって生成されたビットストリームを伝送する方法を提供することを目的とする。
また、本開示は、本開示による画像符号化方法又は装置によって生成されたビットストリームを保存した記録媒体を提供することを目的とする。
また、本開示は、本開示による画像復号化装置によって受信され、復号化されて画像の復元に利用されるビットストリームを保存した記録媒体を提供することを目的とする。
本開示で解決しようとする技術的課題は上述した技術的課題に制限されず、上述していない別の技術的課題は以降の記載から本開示の属する技術分野における通常の知識を有する者に明確に理解できるだろう。
本開示の一態様による画像復号化装置によって行われる画像復号化方法は、VPS(Video Parameter Set)内の1つ以上のHRD(hypothetical reference decoder)パラメータシンタックス構造の個数を示す第1情報を取得するステップと、前記第1情報に基づいて、前記VPSから前記1つ以上のHRDパラメータシンタックス構造を取得するステップと、前記第1情報に基づいて、前記VPSから1つ以上のマルチレイヤー(multi-layer)OLS(output layer set)と前記1つ以上のHRDパラメータシンタックス構造とのマッピングに関する第2情報を取得するステップと、前記第2情報に基づいて、現在OLSに適用されるHRDパラメータシンタックス構造を選択するステップと、前記選択されたHRDパラメータシンタックス構造に基づいて、前記現在OLSを処理するステップと、を含むことができる。
本開示の画像復号化方法において、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数は、前記1つ以上のマルチレイヤーOLSの個数より大きくなくてもよい。
本開示の画像復号化方法において、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造のそれぞれは、前記1つ以上のマルチレイヤーOLSのうちの少なくとも1つのマルチレイヤーOLSにマッピングされることができる。
本開示の画像復号化方法において、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が1より大きく、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が前記1つ以上のマルチレイヤーOLSの個数と等しくないことに基づいて、前記VPSから前記第2情報が取得されることができる。
本開示の画像復号化方法において、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が1であることに基づいて、前記第2情報は前記VPSから取得されず、前記第2情報は0の値と推論されることができる。
本開示の画像復号化方法において、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が1より大きく、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が前記1つ以上のマルチレイヤーOLSの個数と等しいことに基づいて、前記第2情報は前記VPSから取得されず、i番目のマルチレイヤーOLSに対する前記第2情報はiの値と推論されることができる。
本開示の画像復号化方法において、前記現在OLSが単一階層のみを含むことに基づいて、前記現在OLSに適用されるHRDパラメータシンタックス構造をSPS(Sequence Parameter Set)から取得することができる。
本開示の他の態様による画像復号化装置は、メモリ及び少なくとも1つのプロセッサを含み、前記少なくとも1つのプロセッサは、VPS(Video Parameter Set)内の1つ以上のHRD(hypothetical reference decoder)パラメータシンタックス構造の個数を示す第1情報を取得し、前記第1情報に基づいて、前記VPSから前記1つ以上のHRDパラメータシンタックス構造を取得し、前記第1情報に基づいて、前記VPSから1つ以上のマルチレイヤー(multi-layer)OLS(output layer set)と前記1つ以上のHRDパラメータシンタックス構造とのマッピングに関する第2情報を取得し、前記第2情報に基づいて、現在OLSに適用されるHRDパラメータシンタックス構造を選択し、前記選択されたHRDパラメータシンタックス構造に基づいて、前記現在OLSを処理することができる。
本開示の別の態様による画像符号化装置によって行われる画像符号化方法は、VPS(Video Parameter Set)内の1つ以上のHRD(hypothetical reference decoder)パラメータシンタックス構造の個数を示す第1情報を符号化するステップと、前記第1情報に基づいて、前記VPSに前記1つ以上のHRDパラメータシンタックス構造を符号化するステップと、前記第1情報に基づいて、前記VPSに1つ以上のマルチレイヤー(multi-layer)OLS(output laer set)と前記1つ以上のHRDパラメータシンタックス構造とのマッピングに関する第2情報を符号化するステップと、現在OLSに適用されるHRDパラメータシンタックス構造に基づいて、前記現在OLSを処理するステップと、を含むことができる。
本開示の画像符号化方法において、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数は、前記1つ以上のマルチレイヤーOLSの個数より大きくなくてもよい。
本開示の画像符号化方法において、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造のそれぞれは、前記1つ以上のマルチレイヤーOLSのうちの少なくとも1つのマルチレイヤーOLSにマッピングされることができる。
本開示の画像符号化方法において、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が1より大きく、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が前記1つ以上のマルチレイヤーOLSの個数と等しくないことに基づいて、前記VPSに前記第2情報が符号化されることができる。
本開示の画像符号化方法において、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が1であることに基づいて、前記第2情報は、前記VPSに符号化されず、前記第2情報は0の値と推論されることができる。
本開示の画像符号化方法において、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が1より大きく、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が前記1つ以上のマルチレイヤーOLSの個数と等しいことに基づいて、前記第2情報は前記VPSに符号化されず、i番目のマルチレイヤーOLSに対する前記第2情報はiの値と推論されることができる。
本開示の画像符号化方法において、前記現在OLSが単一階層のみを含むことに基づいて、前記現在OLSに適用されるHRDパラメータシンタックス構造は、SPS(Sequence Parameter Set)に符号化されることができる。
本開示の別の態様による伝送方法は、本開示の画像符号化装置又は画像符号化方法によって生成されたビットストリームを伝送することができる。
本開示の別の態様によるコンピュータ可読記録媒体は、本開示の画像符号化方法又は画像符号化装置によって生成されたビットストリームを保存することができる。
本開示について簡略に要約して上述した特徴は、後述する本開示の詳細な説明の例示的な態様に過ぎず、本開示の範囲を制限するものではない。
本開示によれば、符号化/復号化効率が向上した画像符号化/復号化方法及び装置が提供されることができる。
また、本開示は、HRDパラメータを効率よくシグナリングすることにより、符号化/復号化の効率の向上を図ることができる画像符号化/復号化方法及び装置が提供されることができる。
また、本開示によれば、本開示による画像符号化方法又は装置によって生成されたビットストリームを伝送する方法が提供されることができる。
また、本開示によれば、本開示による画像符号化方法又は装置によって生成されたビットストリームを保存した記録媒体が提供されることができる。
また、本開示は、本開示による画像復号化装置によって受信され、復号化されて画像の復元に利用されるビットストリームを保存した記録媒体が提供されることができる。
本開示で得られる効果は、上述した効果に限定されず、上述していない別の効果は、以降の記載から、本開示の属する技術分野における通常の知識を有する者に明確に理解できるだろう。
本開示による実施例が適用できるビデオコーディングシステムを概略的に示す図である。 本開示による実施例が適用できる画像符号化装置を概略的に示す図である。 本開示による実施例が適用できる画像復号化装置を概略的に示す図である。 本開示の実施例が適用できる概略的なピクチャ復号化手順の例を示す。 本開示の実施例が適用できる概略的なピクチャ符号化手順の例を示す。 コーディングされた画像/ビデオに対する階層構造の一例を示す図である。 本開示の一実施例によるVPSのシンタックス構造を例示的に示す図である。 本開示の一実施例によってHRDパラメータをシグナリングするためのSPSのシンタックス構造を示す図である。 本開示の一実施例によるgeneral_hrd_parameter()シンタックス構造を示す図である。 本開示の一実施例によるols_hrd_parameters()シンタックス構造を示す図である。 本開示の一実施例によるsublayer_hrd_parameters()シンタックス構造を示す図である。 本開示による実施例が適用できる画像符号化方法の一例を説明するための図である。 本開示による実施例が適用できる画像復号化方法の一例を説明するための図である。 本開示による実施例を適用できる画像復号化方法の他の例を説明するための図である。 本開示の別の実施例によってnum_ols_hrd_params_minus1に基づいてHRDパラメータを符号化する過程を説明するための図である。 本開示の別の実施例によってnum_ols_hrd_params_minus1に基づいてHRDパラメータを復号化する過程を説明するための図である。 本開示の実施例が適用できるコンテンツストリーミングシステムを例示する図である。
以下、添付図面を参照して、本開示の実施例について、本開示の属する技術分野における通常の知識を有する者が容易に実施し得るように詳細に説明する。しかし、本開示は、様々な異なる形態で実現でき、ここで説明する実施例に限定されない。
本開示の実施例を説明するにあたり、公知の構成又は機能についての具体的な説明が本開示の要旨を不明確にするおそれがあると判断される場合には、それについての詳細な説明は省略する。そして、図面において、本開示についての説明と関係ない部分は省略し、同様の部分には同様の図面符号を付した。
本開示において、ある構成要素が他の構成要素と「連結」、「結合」又は「接続」されているとするとき、これは、直接的な連結関係だけでなく、それらの間に別の構成要素が存在する間接的な連結関係も含むことができる。また、ある構成要素が他の構成要素を「含む」又は「有する」とするとき、これは、特に反対される記載がない限り、別の構成要素を排除するのではなく、別の構成要素をさらに含むことができることを意味する。
本開示において、「第1」、「第2」などの用語は、一つの構成要素を他の構成要素から区別する目的のみで使用され、特に言及されない限り、構成要素間の順序又は重要度などを限定しない。したがって、本開示の範囲内において、一実施例の第1構成要素を他の実施例で第2構成要素と呼んでもよく、これと同様に、一実施例の第2構成要素を他の実施例で第1構成要素と呼んでもよい。
本開示において、互いに区別される構成要素は、それぞれの特徴を明確に説明するためのものであり、構成要素が必ずしも分離されることを意味するものではない。つまり、複数の構成要素が統合されて一つのハードウェア又はソフトウェア単位で構成されてもよく、一つの構成要素が分散されて複数のハードウェア又はソフトウェア単位で構成されてもよい。よって、別に言及しなくても、このように統合された又は分散された実施例も本開示の範囲に含まれる。
本開示において、さまざまな実施例で説明する構成要素が必ず必要不可欠な構成要素を意味するものではなく、一部は選択的な構成要素であり得る。したがって、一実施例で説明する構成要素の部分集合で構成される実施例も本開示の範囲に含まれる。また、様々な実施例で説明する構成要素にさらに他の構成要素を含む実施例も、本開示の範囲に含まれる。
本開示は、画像の符号化及び復号化に関するものであって、本開示で使用される用語は、本開示で新たに定義されない限り、本開示の属する技術分野における通常の意味を持つことができる。
本開示において、「ピクチャ(picture)」は、一般的に、特定の時間帯のいずれか一つの画像を示す単位を意味し、スライス(slice)/タイル(tile)は、ピクチャの一部を構成する符号化単位であって、一つのピクチャは、一つ以上のスライス/タイルで構成できる。また、スライス/タイルは、一つ以上のCTU(coding tree unit)を含むことができる。
本開示において、「ピクセル(pixel)」又は「ペル(pel)」は、一つのピクチャ(又は画像)を構成する最小の単位を意味することができる。また、ピクセルに対応する用語として「サンプル(sample)」が使用できる。サンプルは、一般的に、ピクセル又はピクセルの値を示すことができ、ルマ(luma)成分のピクセル/ピクセル値のみを示すこともでき、クロマ(chroma)成分のピクセル/ピクセル値のみを示すこともできる。
本開示において、「ユニット(unit)」は、画像処理の基本単位を示すことができる。ユニットは、ピクチャの特定の領域及び当該領域に関連する情報のうちの少なくとも一つを含むことができる。ユニットは、場合に応じて、「サンプルアレイ」、「ブロック(block)」又は「領域(area)」などの用語と混用して使用できる。一般な場合、M×Nブロックは、M個の列とN個の行からなるサンプル(又はサンプルアレイ)又は変換係数(transform coefficient)のセット(又はアレイ)を含むことができる。
本開示において、「現在ブロック」は、「現在コーディングブロック」、「現在コーディングユニット」、「符号化対象ブロック」、「復号化対象ブロック」又は「処理対象ブロック」のうちのいずれか一つを意味することができる。予測が行われる場合、「現在ブロック」は、「現在予測ブロック」又は「予測対象ブロック」を意味することができる。変換(逆変換)/量子化(逆量子化)が行われる場合、「現在ブロック」は「現在変換ブロック」又は「変換対象ブロック」を意味することができる。フィルタリングが行われる場合、「現在ブロック」は「フィルタリング対象ブロック」を意味することができる。
また、本開示において、「現在ブロック」は、クロマブロックという明示的な記載がない限り、ルマ成分ブロックとクロマ成分ブロックを全て含むブロック又は「現在ブロックのルマブロック」を意味することができる。現在ブロックのルマ成分ブロックは、明示的に「ルマブロック」又は「現在ルマブロック」のようにルマ成分ブロックという明示的な記載を含んで表現できる。また、現在ブロックのクロマ成分ブロックは、明示的に「クロマブロック」又は「現在クロマブロック」のようにクロマ成分ブロックという明示的な記載を含んで表現できる。
本開示において、「A又はB(A or B)」は、「Aのみ」、「Bのみ」又は「A及びBの両方」を意味することができる。言い換えれば、本開示において、「A又はB(A or B)」は「A及び/又はB(A and/or B)」と解釈されることができる。例えば、本開示において、「A、B又はC(A, B or C)」は、「Aのみ」、「Bのみ」、「Cのみ」、又は「A、B及びCの任意のいずれの組み合わせ(any combination of A, B and C)」を意味することができる。
本開示で使用される「/」と「、(comma)」は「及び/又は(and/or)」を意味することができる。例えば、「A/B」は「A及び/又はB」を意味することができる。これにより、「A/B」は、「Aのみ」、「Bのみ」、又は「AとBの両方」を意味することができる。例えば、「A、B、C」は、「A、B又はC」を意味することができる。
本開示において、「少なくとも1つのA及びB(at least one of A and B)」は、「Aのみ」、「Bのみ」又は「AとBの両方」を意味することができる。また、本開示において、「少なくとも1つのA又はB(at least one of A or B)」や「少なくとも1つのA及び/又はB(at least one of A and/or B)」という表現は、「少なくとも1つのA及びB(at least one of A and B)」と同一に解釈されることができる。
また、本開示において、「少なくとも1つのA、B及びC(at least one of A, B and C)」は、「Aのみ」、「Bのみ」、「Cのみ」、又は「A、B及びCの任意のいずれの組み合わせ(any combination of A,B and C)」を意味することができる。また、「少なくとも1つのA、B又はC(at least one of A, B or C)」や「少なくとも1つのA、B及び/又はC(at least one of A,B and/or C)」は、「少なくとも1つのA、B及びC(at least one of A, B and C)」を意味することができる。
また、本開示で使用される括弧は、「例えば(for example)」を意味することができる。具体的に、「予測(イントラ予測)」と表示された場合、「予測」の一例として「イントラ予測」が提案されたものであり得る。言い換えれば、本開示の「予測」は、「イントラ予測」に限定(limit)されず、「イントラ予測」が「予測」の一例として提案されたものであり得る。また、「予測(すなわち、イントラ予測)」と表示された場合にも、「予測」の一例として「イントラ予測」が提案されたものであり得る。
本開示において、1つの図面内で個別に説明される技術的特徴は、個別に実現されてもよく、同時に実現されてもよい。
ビデオコーディングシステムの概要
図1は、本開示によるビデオコーディングシステムを示す。
一実施例によるビデオコーディングシステムは、符号化装置10及び復号化装置20を含むことができる。符号化装置10は、符号化されたビデオ(video)及び/又は画像(image)情報又はデータをファイル又はストリーミング形式でデジタル記憶媒体又はネットワークを介して復号化装置20へ伝達することができる。
一実施例による符号化装置10は、ビデオソース生成部11、符号化部12及び伝送部13を含むことができる。一実施例による復号化装置20は、受信部21、復号化部22及びレンダリング部23を含むことができる。前記符号化部12は、ビデオ/画像符号化部と呼ばれることができ、前記復号化部22は、ビデオ/画像復号化部と呼ばれることができる。伝送部13は、符号化部12に含まれることができる。受信部21は、復号化部22に含まれることができる。レンダリング部23は、ディスプレイ部を含むこともでき、ディスプレイ部は、別個のデバイス又は外部コンポーネントとして構成されることもできる。
ビデオソース生成部11は、ビデオ/画像のキャプチャ、合成又は生成過程などを介してビデオ/画像を取得することができる。ビデオソース生成部11は、ビデオ/画像キャプチャデバイス及び/又はビデオ/画像生成デバイスを含むことができる。ビデオ/画像キャプチャデバイスは、例えば、一つ以上のカメラ、以前にキャプチャされたビデオ/画像を含むビデオ/画像アーカイブなどを含むことができる。ビデオ/画像生成デバイスは、例えば、コンピュータ、タブレット及びスマートフォンなどを含むことができ、(電子的に)ビデオ/画像を生成することができる。例えば、コンピュータなどを介して仮想のビデオ/画像が生成されることができ、この場合、ビデオ/画像キャプチャ過程は、関連データが生成される過程に置き換えられることができる。
符号化部12は、入力ビデオ/画像を符号化することができる。符号化部12は、圧縮及び符号化効率のために、予測、変換、量子化などの一連の手順を行うことができる。符号化部12は、符号化されたデータ(符号化されたビデオ/画像情報)をビットストリーム(bitstream)形式で出力することができる。
伝送部13は、ビットストリーム形式で出力された、符号化されたビデオ/画像情報又はデータを、ファイル又はストリーミング形式でデジタル記憶媒体又はネットワークを介して復号化装置20の受信部21に伝達することができる。デジタル記憶媒体は、USB、SD、CD、DVD、Blu-ray(登録商標)、HDD、SSDなどのさまざまな記憶媒体を含むことができる。伝送部13は、予め決められたファイルフォーマットを介してメディアファイルを生成するためのエレメントを含むことができ、放送/通信ネットワークを介して伝送するためのエレメントを含むことができる。受信部21は、前記記憶媒体又はネットワークから前記ビットストリームを抽出/受信して復号化部22に伝達することができる。
復号化部22は、符号化部12の動作に対応する逆量子化、逆変換、予測などの一連の手順を行ってビデオ/画像を復号化することができる。
レンダリング部23は、復号化されたビデオ/画像をレンダリングすることができる。レンダリングされたビデオ/画像は、ディスプレイ部を介して表示されることができる。
画像符号化装置の概要
図2は、本開示による実施例が適用できる画像符号化装置を概略的に示す図である。
図2に示されているように、画像符号化装置100は、画像分割部110、減算部115、変換部120、量子化部130、逆量子化部140、逆変換部150、加算部155、フィルタリング部160、メモリ170、インター予測部180、イントラ予測部185及びエントロピー符号化部190を含むことができる。インター予測部180及びイントラ予測部185は、合わせて「予測部」と呼ばれることができる。変換部120、量子化部130、逆量子化部140及び逆変換部150は、レジデュアル(residual)処理部に含まれることができる。レジデュアル処理部は減算部115をさらに含むこともできる。
画像符号化装置100を構成する複数の構成部の全部又は少なくとも一部は、実施例によって一つのハードウェアコンポーネント(例えば、エンコーダ又はプロセッサ)で実現されることができる。また、メモリ170は、DPB(decoded picture buffer)を含むことができ、デジタル記憶媒体によって実現できる。
画像分割部110は、画像符号化装置100に入力された入力画像(又は、ピクチャ、フレーム)を一つ以上の処理ユニット(processing unit)に分割することができる。一例として、前記処理ユニットは、コーディングユニット(coding unit、CU)と呼ばれることができる。コーディングユニットは、コーディングツリーユニット(coding tree unit、CTU)又は最大コーディングユニット(largest coding unit、LCU)をQT/BT/TT(Quad-tree/binary-tree/ternary-tree)構造によって再帰的に(recursively)分割することにより取得されることができる。例えば、一つのコーディングニットは、四分木構造、二分木構造及び/又は三分木構造に基づいて、下位(deeper)デプスの複数のコーディングユニットに分割されることができる。コーディングユニットの分割のために、四分木構造が先に適用され、二分木構造及び/又は三分木構造が後で適用されることができる。それ以上分割されない最終コーディングユニットを基に、本開示によるコーディング手順が行われることができる。最大コーディングユニットが最終コーディングユニットとして使用されることができ、最大コーディングユニットを分割して取得した下位デプスのコーディングユニットが最終コーディングユニットとして使用されることもできる。ここで、コーディング手順とは、後述する予測、変換及び/又は復元などの手順を含むことができる。他の例として、前記コーディング手順の処理ユニットは、予測ユニット(PU:Prediction Unit)又は変換ユニット(TU:Transform Unit)であることができる。前記予測ユニット及び前記変換ユニットは、それぞれ前記最終コーディングユニットから分割又はパーティショニングされることができる。前記予測ユニットは、サンプル予測の単位であることができ、前記変換ユニットは、変換係数を誘導する単位、及び/又は変換係数からレジデュアル信号(residual signal)を誘導する単位であることができる。
予測部(インター予測部180又はイントラ予測部185)は、処理対象ブロック(現在ブロック)に対する予測を行い、前記現在ブロックに対する予測サンプルを含む予測されたブロック(predicted block)を生成することができる。予測部は、現在ブロック又はCU単位でイントラ予測が適用されるか、或いはインター予測が適用されるかを決定することができる。予測部は、現在ブロックの予測に関するさまざまな情報を生成してエントロピー符号化部190に伝達することができる。予測に関する情報は、エントロピー符号化部190で符号化されてビットストリーム形式で出力されることができる。
イントラ予測部185は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。参照される前記サンプルは、イントラ予測モード及び/又はイントラ予測技法に従って、前記現在ブロックの周辺(neighbor)に位置することもでき、或いは離れて位置することもできる。イントラ予測モードは、複数の非方向性モードと複数の方向性モードを含むことができる。非方向性モードは、例えば、DCモード及びプランナーモード(Planarモード)を含むことができる。方向性モードは、予測方向の細かい程度に応じて、例えば33個の方向性予測モード又は65個の方向性予測モードを含むことができる。ただし、これは例示に過ぎず、設定に基づいてそれ以上又はそれ以下の個数の方向性予測モードが使用できる。イントラ予測部185は、周辺ブロックに適用された予測モードを用いて、現在ブロックに適用される予測モードを決定することもできる。
インター予測部180は、参照ピクチャ上で動きベクトルによって特定される参照ブロック(参照サンプルアレイ)に基づいて、現在ブロックに対する予測されたブロックを誘導することができる。この時、インター予測モードで伝送される動き情報の量を減らすために、周辺ブロックと現在ブロックとの動き情報の相関性に基づいて動き情報をブロック、サブブロック又はサンプル単位で予測することができる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向(L0予測、L1予測、Bi予測など)情報をさらに含むことができる。インター予測の場合、周辺ブロックは、現在ピクチャ内に存在する空間周辺ブロック(spatial neighboring block)と、参照ピクチャに存在する時間周辺ブロック(temporal neighboring block)を含むことができる。前記参照ブロックを含む参照ピクチャと、前記時間周辺ブロックを含む参照ピクチャとは、同一でもよく、互いに異なってもよい。前記時間周辺ブロックは、コロケート参照ブロック(collocated reference block)、コロケートCU(colCU)などの名前で呼ばれることができる。前記時間周辺ブロックを含む参照ピクチャは、コロケートピクチャ(collocated picture、colPic)と呼ばれることができる。例えば、インター予測部180は、周辺ブロックに基づいて動き情報候補リストを構成し、前記現在ブロックの動きベクトル及び/又は参照ピクチャインデックスを導出するために、どの候補が使用されるかを指示する情報を生成することができる。様々な予測モードに基づいてインター予測が行われることができ、例えばスキップモードとマージモードの場合に、インター予測部180は、周辺ブロックの動き情報を現在ブロックの動き情報として用いることができる。スキップモードの場合、マージモードとは異なり、レジデュアル信号が伝送されないことができる。動き情報予測(motion vector prediction、MVP)モードの場合、周辺ブロックの動きベクトルを動きベクトル予測子(motion vector predictor)として用い、動きベクトル差分(motion vector difference)及び動きベクトル予測子に対するインジケータ(indicator)を符号化することにより、現在ブロックの動きベクトルをシグナリングすることができる。動きベクトル差分は、現在ブロックの動きベクトルと動きベクトル予測子との差を意味することができる。
予測部は、後述する様々な予測方法及び/又は予測技法に基づいて予測信号を生成することができる。例えば、予測部は、現在ブロックの予測のために、イントラ予測又はインター予測を適用することができるだけでなく、イントラ予測とインター予測を同時に適用することができる。現在ブロックの予測のためにイントラ予測とインター予測を同時に適用する予測方法は、CIIP(combined inter and intra prediction)と呼ばれることができる。また、予測部は、現在ブロックの予測のためにイントラブロックコピー(intra block copy、IBC)を行うこともできる。イントラブロックコピーは、例えば、SCC(screen content coding)などのようにゲームなどのコンテンツ画像/動画コーディングのために使用できる。IBCは、現在ブロックから所定の距離だけ離れた位置の現在ピクチャ内の既に復元された参照ブロックを用いて現在ブロックを予測する方法である。IBCが適用される場合、現在ピクチャ内の参照ブロックの位置は、前記所定の距離に該当するベクトル(ブロックベクトル)として符号化されることができる。IBCは、基本的に現在ピクチャ内で予測を行うが、現在ピクチャ内で参照ブロックを導出するという点で、インター予測と同様に行われることができる。すなわち、IBCは、本開示で説明されるインター予測技法のうちの少なくとも1つを用いることができる。
予測部によって生成された予測信号は、復元信号を生成するために用いられるか、或いはレジデュアル信号を生成するために用いられることができる。減算部115は、入力画像信号(原本ブロック、原本サンプルアレイ)から、予測部から出力された予測信号(予測されたブロック、予測サンプルアレイ)を減算して、レジデュアル信号(residual signal、残余ブロック、残余サンプルアレイ)を生成することができる。生成されたレジデュアル信号は、変換部120に伝送されることができる。
変換部120は、レジデュアル信号に変換技法を適用して変換係数(transform coefficients)を生成することができる。例えば、変換技法は、DCT(Discrete Cosine Transform)、DST(Discrete Sine Transform)、KLT(Karhunen-Loeve Transform)、GBT(Graph-Based Transform)、又はCNT(Conditionally Non-linear Transform)のうちの少なくとも一つを含むことができる。ここで、GBTは、ピクセル間の関係情報をグラフで表現するとするとき、このグラフから得られた変換を意味する。CNTは、以前に復元された全てのピクセル(all previously reconstructed pixel)を用いて予測信号を生成し、それに基づいて取得される変換を意味する。変換過程は、正方形の同じサイズを有するピクセルブロックに適用されることもでき、正方形ではない、可変サイズのブロックに適用されることもできる。
量子化部130は、変換係数を量子化してエントロピー符号化部190に伝送することができる。エントロピー符号化部190は、量子化された信号(量子化された変換係数に関する情報)を符号化してビットストリーム形式で出力することができる。前記量子化された変換係数に関する情報は、レジデュアル情報と呼ばれることができる。量子化部130は、係数スキャン順序(scan order)に基づいて、ブロック形式の量子化された変換係数を1次元ベクトル形式で再整列することができ、前記1次元ベクトル形式の量子化された変換係数に基づいて、前記量子化された変換係数に関する情報を生成することもできる。
エントロピー符号化部190は、例えば、指数ゴロム(exponential Golomb)、CAVLC(context-adaptive variable length coding)、CABAC(context-adaptive binary arithmetic coding)などの様々な符号化方法を行うことができる。エントロピー符号化部190は、量子化された変換係数の他に、ビデオ/画像復元に必要な情報(例えば、シンタックス要素(syntax elements)の値など)を一緒に又は別々に符号化することもできる。符号化された情報(例えば、符号化されたビデオ/画像情報)は、ビットストリーム形式でNAL(network abstraction layer)ユニット単位で伝送又は保存されることができる。前記ビデオ/画像情報は、適応パラメータセット(APS)、ピクチャパラメータセット(PPS)、シーケンスパラメータセット(SPS)又はビデオパラメータセット(VPS)などの様々なパラメータセットに関する情報をさらに含むことができる。また、前記ビデオ/画像情報は、一般制限情報(general constraint information)をさらに含むことができる。本開示で言及されたシグナリング情報、伝送される情報及び/又はシンタックス要素は、上述した符号化手順を介して符号化されて前記ビットストリームに含まれることができる。
前記ビットストリームは、ネットワークを介して伝送されることができ、又はデジタル記憶媒体に保存されることができる。ここで、ネットワークは、放送網及び/又は通信網などを含むことができ、デジタル記憶媒体は、USB、SD、CD、DVD、Blu-ray、HDD、SSDなどのさまざまな記憶媒体を含むことができる。エントロピー符号化部190から出力された信号を伝送する伝送部(図示せず)及び/又は保存する保存部(図示せず)が画像符号化装置100の内/外部要素として備えられることができ、又は伝送部はエントロピー符号化部190の構成要素として備えられることもできる。
量子化部130から出力された、量子化された変換係数は、レジデュアル信号を生成するために用いられることができる。例えば、量子化された変換係数に逆量子化部140及び逆変換部150を介して逆量子化及び逆変換を適用することにより、レジデュアル信号(レジデュアルブロック又はレジデュアルサンプル)を復元することができる。
加算部155は、復元されたレジデュアル信号をインター予測部180又はイントラ予測部185から出力された予測信号に加えることにより、復元(reconstructed)信号(復元ピクチャ、復元ブロック、復元サンプルアレイ)を生成することができる。スキップモードが適用された場合のように処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使用されることができる。加算部155は、復元部又は復元ブロック生成部と呼ばれることができる。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使用されることができ、後述するようにフィルタリングを経て次のピクチャのインター予測のために使用されることもできる。
フィルタリング部160は、復元信号にフィルタリングを適用して主観的/客観的画質を向上させることができる。例えば、フィルタリング部160は、復元ピクチャに様々なフィルタリング方法を適用して、修正された(modified)復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ170、具体的にはメモリ170のDPBに保存することができる。前記様々なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット(sample adaptive offset)、適応的ループフィルタ(adaptive loop filter)、双方向フィルタ(bilateral filter)などを含むことができる。フィルタリング部160は、各フィルタリング方法についての説明で後述するようにフィルタリングに関する様々な情報を生成してエントロピー符号化部190に伝達することができる。フィルタリングに関する情報は、エントロピー符号化部190で符号化されてビットストリーム形式で出力されることができる。
メモリ170に伝送された、修正された復元ピクチャは、インター予測部180で参照ピクチャとして使用されることができる。画像符号化装置100は、これを介してインター予測が適用される場合、画像符号化装置100と画像復号化装置での予測ミスマッチを回避することができ、符号化効率も向上させることができる。
メモリ170内のDPBは、インター予測部180での参照ピクチャとして使用するために、修正された復元ピクチャを保存することができる。メモリ170は、現在ピクチャ内の動き情報が導出された(又は符号化された)ブロックの動き情報及び/又は既に復元されたピクチャ内ブロックの動き情報を保存することができる。前記保存された動き情報は、空間周辺ブロックの動き情報又は時間周辺ブロックの動き情報として活用するために、インター予測部180に伝達されることができる。メモリ170は、現在ピクチャ内の復元されたブロックの復元サンプルを保存することができ、イントラ予測部185に伝達することができる。
画像復号化装置の概要
図3は、本開示による実施例が適用できる画像復号化装置を概略的に示す図である。
図3に示されているように、画像復号化装置200は、エントロピー復号化部210、逆量子化部220、逆変換部230、加算部235、フィルタリング部240、メモリ250、インター予測部260及びイントラ予測部265を含んで構成できる。インター予測部260及びイントラ予測部265を合わせて「予測部」と呼ばれることができる。逆量子化部220、逆変換部230はレジデュアル処理部に含まれることができる。
画像復号化装置200を構成する複数の構成部の全部又は少なくとも一部は、実施例によって一つのハードウェアコンポーネント(例えば、デコーダ又はプロセッサ)で実現されることができる。また、メモリ170は、DPBを含むことができ、デジタル記憶媒体によって実現できる。
ビデオ/画像情報を含むビットストリームを受信した画像復号化装置200は、図2の画像符号化装置100で行われたプロセスに対応するプロセスを実行して画像を復元することができる。例えば、画像復号化装置200は、画像符号化装置で適用された処理ユニットを用いて復号化を行うことができる。したがって、復号化の処理ユニットは、例えばコーディングユニットであることができる。コーディングユニットは、コーディングツリーユニット又は最大コーディングユニットを分割して取得できる。そして、画像復号化装置200を介して復号化及び出力された復元画像信号は、再生装置(図示せず)を介して再生できる。
画像復号化装置200は、図2の画像符号化装置から出力された信号をビットストリーム形式で受信することができる。受信された信号は、エントロピー復号化部210を介して復号化できる。例えば、エントロピー復号化部210は、前記ビットストリームをパーシングして画像復元(又はピクチャ復元)に必要な情報(例えば、ビデオ/画像情報)を導出することができる。前記ビデオ/画像情報は、適応パラメータセット(APS)、ピクチャパラメータセット(PPS)、シーケンスパラメータセット(SPS)又はビデオパラメータセット(VPS)などの様々なパラメータセットに関する情報をさらに含むことができる。また、前記ビデオ/画像情報は、一般制限情報(general constraint information)をさらに含むことができる。画像復号化装置は、画像を復号化するために、前記パラメータセットに関する情報及び/又は前記一般制限情報をさらに用いることができる。本開示で言及されたシグナリング情報、受信される情報及び/又はシンタックス要素は、前記復号化手順を介して復号化されることにより、前記ビットストリームから取得されることができる。例えば、エントロピー復号化部210は、指数ゴロム符号化、CAVLC又はCABACなどのコーディング方法に基づいてビットストリーム内の情報を復号化し、画像復元に必要なシンタックス要素の値、レジデュアルに関する変換係数の量子化された値を出力することができる。より詳細には、CABACエントロピー復号化方法は、ビットストリームから各シンタックス要素に該当するビン(bin)を受信し、復号化対象シンタックス要素情報と周辺ブロック及び復号化対象ブロックの復号化情報、或いは以前ステップで復号化されたシンボル/ビンの情報を用いてコンテキスト(context)モデルを決定し、決定されたコンテキストモデルに基づいてビン(bin)の発生確率を予測してビンの算術復号化(arithmetic decoding)を行うことにより、各シンタックス要素の値に該当するシンボルを生成することができる。この時、CABACエントロピー復号化方法は、コンテキストモデルの決定後、次のシンボル/ビンのコンテキストモデルのために、復号化されたシンボル/ビンの情報を用いてコンテキストモデルを更新することができる。エントロピー復号化部210で復号化された情報のうち、予測に関する情報は、予測部(インター予測部260及びイントラ予測部265)に提供され、エントロピー復号化部210でエントロピー復号化が行われたレジデュアル値、すなわち量子化された変換係数及び関連パラメータ情報は、逆量子化部220に入力されることができる。また、エントロピー復号化部210で復号化された情報のうち、フィルタリングに関する情報は、フィルタリング部240に提供されることができる。一方、画像符号化装置から出力された信号を受信する受信部(図示せず)が画像復号化装置200の内/外部要素としてさらに備えられることができ、又は受信部はエントロピー復号化部210の構成要素として備えられることもできる。
一方、本開示による画像復号化装置は、ビデオ/画像/ピクチャ復号化装置と呼ばれることができる。前記画像復号化装置は、情報デコーダ(ビデオ/画像/ピクチャ情報デコーダ)及び/又はサンプルデコーダ(ビデオ/画像/ピクチャサンプルデコーダ)を含むこともできる。前記情報デコーダは、エントロピー復号化部210を含むことができ、前記サンプルデコーダは、逆量子化部220、逆変換部230、加算部235、フィルタリング部240、メモリ250、インター予測部260及びイントラ予測部265のうちの少なくとも一つを含むことができる。
逆量子化部220では、量子化された変換係数を逆量子化して変換係数を出力することができる。逆量子化部220は、量子化された変換係数を2次元のブロック形式で再整列することができる。この場合、前記再整列は、画像符号化装置で行われた係数スキャン順序に基づいて行われることができる。逆量子化部220は、量子化パラメータ(例えば、量子化ステップサイズ情報)を用いて、量子化された変換係数に対する逆量子化を行い、変換係数(transform coefficient)を取得することができる。
逆変換部230では、変換係数を逆変換してレジデュアル信号(レジデュアルブロック、レジデュアルサンプルアレイ)を取得することができる。
予測部は、現在ブロックに対する予測を行い、前記現在ブロックに対する予測サンプルを含む予測されたブロック(predicted block)を生成することができる。予測部は、エントロピー復号化部210から出力された前記予測に関する情報に基づいて、前記現在ブロックにイントラ予測が適用されるか或いはインター予測が適用されるかを決定することができ、具体的なイントラ/インター予測モード(予測技法)を決定することができる。
予測部が後述の様々な予測方法(技法)に基づいて予測信号を生成することができるのは、画像符号化装置100の予測部についての説明で述べたのと同様である。
イントラ予測部265は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。イントラ予測部185についての説明は、イントラ予測部265に対しても同様に適用されることができる。
インター予測部260は、参照ピクチャ上で動きベクトルによって特定される参照ブロック(参照サンプルアレイ)に基づいて、現在ブロックに対する予測されたブロックを誘導することができる。この時、インター予測モードで伝送される動き情報の量を減らすために、周辺ブロックと現在ブロックとの動き情報の相関性に基づいて動き情報をブロック、サブブロック又はサンプル単位で予測することができる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向(L0予測、L1予測、Bi予測など)情報をさらに含むことができる。インター予測の場合に、周辺ブロックは、現在ピクチャ内に存在する空間周辺ブロック(spatial neighboring block)と参照ピクチャに存在する時間周辺ブロック(temporal neighboring block)を含むことができる。例えば、インター予測部260は、周辺ブロックに基づいて動き情報候補リストを構成し、受信した候補選択情報に基づいて前記現在ブロックの動きベクトル及び/又は参照ピクチャインデックスを導出することができる。様々な予測モード(技法)に基づいてインター予測が行われることができ、前記予測に関する情報は、前記現在ブロックに対するインター予測のモード(技法)を指示する情報を含むことができる。
加算部235は、取得されたレジデュアル信号を予測部(インター予測部260及び/又はイントラ予測部265を含む)から出力された予測信号(予測されたブロック、予測サンプルアレイ)に加えることにより、復元信号(復元ピクチャ、復元ブロック、復元サンプルアレイ)を生成することができる。スキップモードが適用された場合のように処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使用できる。加算部155についての説明は、加算部235に対しても同様に適用できる。加算部235は、復元部又は復元ブロック生成部と呼ばれることもある。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使用されることができ、後述するようにフィルタリングを介して次のピクチャのインター予測のために使用されることもできる。
フィルタリング部240は、復元信号にフィルタリングを適用して主観的/客観的画質を向上させることができる。例えば、フィルタリング部240は、復元ピクチャに様々なフィルタリング方法を適用して、修正された(modified)復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ250、具体的にはメモリ250のDPBに保存することができる。前記様々なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット(sample adaptive offset)、適応的ループフィルタ(adaptive loop filter)、双方向フィルタ(bilateral filter)などを含むことができる。
メモリ250のDPBに保存された(修正された)復元ピクチャは、インター予測部260で参照ピクチャとして使用されることができる。メモリ250は、現在ピクチャ内の動き情報が導出された(又は復号化された)ブロックの動き情報及び/又は既に復元されたピクチャ内のブロックの動き情報を保存することができる。前記保存された動き情報は、空間周辺ブロックの動き情報又は時間周辺ブロックの動き情報として活用するために、インター予測部260に伝達することができる。メモリ250は、現在ピクチャ内の復元されたブロックの復元サンプルを保存することができ、イントラ予測部265に伝達することができる。
本明細書において、画像符号化装置100のフィルタリング部160、インター予測部180及びイントラ予測部185で説明された実施例は、それぞれ画像復号化装置200のフィルタリング部240、インター予測部260及びイントラ予測部265にも、同様に又は対応するように適用されることができる。
一般な画像/ビデオコーディング手順
画像/ビデオコーディングにおいて、画像/ビデオを構成するピクチャは、一連の復号化順序(decoding order)に従って符号化/復号化できる。復号化されたピクチャの出力順序(output order)に該当するピクチャ順序(picture order)は、前記復号化順序とは異なるように設定できる。これに基づいて、インター予測の際に、順方向予測だけでなく、逆方向予測も行うことができる。
図4は、本開示の実施例が適用できる概略的なピクチャ復号化手順の例を示す。
図4に示されている各手順は、図3の画像符号化装置によって行われることができる。例えば、ステップS410は、エントロピー復号化部210によって行われることができ、ステップS420は、イントラ予測部265及びインター予測部260を含む予測部で行われることができ、ステップS430は、逆量子化部220及び逆変換部230を含むレジデュアル処理部で行われることができ、ステップS440は、加算部235で行われることができ、ステップS450は、フィルタリング部240で行われることができる。ステップS410は、本開示で説明された情報復号化手順を含むことができ、ステップS420は、本開示で説明されたインター/イントラ予測手順を含むことができ、ステップS430は、本開示で説明されたレジデュアル処理手順を含むことができ、ステップS440は、本開示で説明されたブロック/ピクチャ復元手順を含むことができ、ステップS450は、本開示で説明されたインループフィルタリング手順を含むことができる。
図4を参照すると、ピクチャ復号化手順は、図3についての説明で示されているように、概略的に、ビットストリームから(復号化による)画像/ビデオ情報取得手順(S410)、ピクチャ復元手順(S420~S440)、及び復元されたピクチャに対するインループフィルタリング手順(S450)を含むことができる。前記ピクチャ復元手順は、本開示で説明されたインター/イントラ予測(S420)及びレジデュアル処理(S430、量子化された変換係数に対する逆量子化、逆変換)過程を経て取得した予測サンプル及びレジデュアルサンプルに基づいて行われることができる。前記ピクチャ復元手順によって生成された復元ピクチャに対するインループフィルタリング手順を介して、修正(modified)された復元ピクチャが生成されることができ、前記修正された復元ピクチャが、復号化されたピクチャとして出力されることができ、また、復号化装置の復号ピクチャバッファ又はメモリ250に保存されて以後のピクチャの復号化時にインター予測手順で参照ピクチャとして使用されることができる。場合によっては、前記インループフィルタリング手順は省略可能であり、この場合、前記復元ピクチャが復号化されたピクチャとして出力されることができ、また、復号化装置の復号ピクチャバッファ又はメモリ250に保存されて以後のピクチャの復号化時にインター予測手順で参照ピクチャとして使用されることができる。前記インループフィルタリング手順(S450)は、上述したように、デブロッキングフィルタリング手順、SAO(sample adaptive offset)手順、ALF(adaptive loop filter)手順、及び/又はバイラテラルフィルタ(bi-lateral filter)手順などを含むことができ、その一部又は全部が省略可能である。また、前記デブロッキングフィルタリング手順、SAO(sample adaptive offset)手順、ALF(adaptive loop filter)手順、及びバイラテラルフィルタ(bi-lateral filter)手順のうちの一つ又は一部が順次適用されてもよく、全てが順次適用されてもよい。例えば、復元ピクチャに対してデブロッキングフィルタリング手順が適用された後、SAO手順が行われることができる。又は、例えば、復元ピクチャに対してデブロッキングフィルタリング手順が適用された後、ALF手順が行われることができる。これは、符号化装置においても同様に行われることができる。
図5は、本開示の実施例が適用できる概略的なピクチャ符号化手順の例を示す。
図5に示されている各手順は、図2の画像符号化装置によって行われることができる。例えば、ステップS510は、イントラ予測部185又はインター予測部180を含む予測部で行われることができ、ステップS520は、変換部120及び/又は量子化部130を含むレジデュアル処理部で行われることができ、ステップS530は、エントロピー符号化部190で行われることができる。ステップS510は、本開示で説明されたインター/イントラ予測手順を含むことができ、ステップS520は、本開示で説明されたレジデュアル処理手順を含むことができ、ステップS530は、本開示で説明された情報符号化手順を含むことができる。
図5を参照すると、ピクチャ符号化手順は、図2についての説明で示されているように、概略的にピクチャ復元のための情報(例えば、予測情報、レジデュアル情報、パーティショニング情報など)を符号化してビットストリーム形式で出力する手順だけでなく、現在ピクチャに対する復元ピクチャを生成する手順、及び復元ピクチャにインループフィルタリングを適用する手順(optional)を含むことができる。符号化装置は、逆量子化部140及び逆変換部150を介して、量子化された変換係数から(修正された)レジデュアルサンプルを導出することができ、ステップS510の出力である予測サンプルと前記(修正された)レジデュアルサンプルに基づいて復元ピクチャを生成することができる。このように生成された復元ピクチャは、上述した復号化装置で生成した復元ピクチャと同一であり得る。前記復元ピクチャに対するインループフィルタリング手順を介して、修正された復元ピクチャが生成されることができ、これは、復号ピクチャバッファ又はメモリ170に保存されることができ、復号化装置での場合と同様に、以後のピクチャの符号化時にインター予測手順で参照ピクチャとして使用されることができる。上述したように、場合によっては、前記インループフィルタリング手順の一部又は全部は省略可能である。前記インループフィルタリング手順が行われる場合、(インループ)フィルタリング関連情報(パラメータ)がエントロピー符号化部190で符号化されてビットストリーム形式で出力されることができ、復号化装置は、前記フィルタリング関連情報に基づいて符号化装置と同様の方法でインループフィルタリング手順を行うことができる。
このようなインループフィルタリング手順を介して、ブロッキングアーチファクト(artifact)及びリンギング(ringing)アーチファクトなど、画像/動画像コーディング時に発生するノイズを低減することができ、主観的/客観的ビジュアルクオリティを高めることができる。また、符号化装置と復号化装置の両方でインループフィルタリング手順を行うことにより、符号化装置と復号化装置は、同一の予測結果を導出することができ、ピクチャコーディングの信頼性を高め、ピクチャコーディングのために伝送されるべきデータ量を減らすことができる。
上述したように、復号化装置だけでなく、符号化装置においてもピクチャ復元手順が行われることができる。各ブロック単位でイントラ予測/インター予測に基づいて復元ブロックが生成されることができ、復元ブロックを含む復元ピクチャが生成されることができる。現在ピクチャ/スライス/タイルグループがIピクチャ/スライス/タイルグループである場合、前記現在ピクチャ/スライス/タイルグループに含まれるブロックは、イントラ予測のみに基づいて復元されることができる。一方、現在ピクチャ/スライス/タイルグループがP又はBピクチャ/スライス/タイルグループである場合、前記現在ピクチャ/スライス/タイルグループに含まれるブロックは、イントラ予測又はインター予測に基づいて復元されることができる。この場合、現在ピクチャ/スライス/タイルグループ内の一部のブロックに対してはインター予測が適用され、残りの一部のブロックに対してはイントラ予測が適用されることもできる。ピクチャのカラー成分は、ルマ成分及びクロマ成分を含むことができ、本開示で明示的に制限しなければ、本開示で提案される方法及び実施例は、ルマ成分及びクロマ成分に適用されるができる。
コーディング階層及び構造の例
本開示によるコーディングされたビデオ/画像は、例えば、後述するコーディング階層及び構造に従って処理できる。
図6は、コーディングされた画像/ビデオに対する階層構造の一例を示す図である。
コーディングされた画像/ビデオは、画像/ビデオの復号化処理及びそれ自体を扱うVCL(video coding layer、ビデオコーディング階層)、符号化された情報を伝送し保存する下位システム、そしてVCLと下位システムとの間に存在し、ネットワーク適応機能を担当するNAL(network abstraction layer、ネットワーク抽象階層)に区分されることができる。
VCLでは、圧縮された画像データ(スライスデータ)を含むVCLデータを生成するか、或いはピクチャパラメータセット(Picture Parameter Set:PPS)、シーケンスパラメータセット(Sequence Parameter Set:SPS)、ビデオパラメータセット(Video Parameter Set:VPS)などの情報を含むパラメータセット又は画像の復号化処理に付加的に必要なSEI(Supplemental Enhancement Information)メッセージを生成することができる。
NALでは、VCLで生成されたRBSP(Raw Byte Sequence Payload)にヘッダー情報(NALユニットヘッダー)を付加してNALユニットを生成することができる。このとき、RBSPは、VCLで生成されたスライスデータ、パラメータセット、SEIメッセージなどをいう。NALユニットヘッダーには、該当NALユニットに含まれるRBSPデータによって特定されるNALユニットタイプ情報を含むことができる。
図6に示されているように、NALユニットは、VCLで生成されたRBSPの類型によってVCL NALユニットとNon-VCL NALユニットに区分されることができる。VCL NALユニットは、画像に対する情報(スライスデータ)を含んでいるNALユニットを意味することができ、Non-VCL NALユニットは、画像を復号化するために必要な情報(パラメータセット又はSEIメッセージ)を含んでいるNALユニットを意味することができる。
上述したVCL NALユニット、Non-VCL NALユニットは、下位システムのデータ規格に応じてヘッダー情報を付けてネットワークを介して伝送されることができる。例えば、NALユニットは、H.266/VVCファイルフォーマット、RTP(Real-time Transport Protocol)、TS(Transport Stream)などの所定の規格のデータ形式に変形して様々なネットワークを介して伝送されることができる。
上述したように、NALユニットは、当該NALユニットに含まれるRBSPデータ構造(structure)に応じてNALユニットタイプが特定されることができ、このようなNALユニットタイプに対する情報は、NALユニットヘッダーに保存されてシグナリングされることができる。例えば、NALユニットが画像に対する情報(スライスデータ)を含むか否かによって、大きくVCL NALユニットタイプとNon-VCL NALユニットタイプに分類されることができる。VCL NALユニットタイプは、VCL NALユニットが含むピクチャの性質及び種類などによって分類されることができ、Non-VCL NALユニットタイプは、パラメータセットの種類などによって分類されることができる。
以下に、Non-VCL NALユニットタイプが含むパラメータセット/情報の種類などによって特定されたNALユニットタイプの一例を羅列する。
-DCI(Decoding capability information) NAL unit type(NUT):DCIを含むNALユニットに対するタイプ
-VPS(Video Parameter Set) NUT:VPSを含むNALユニットに対するタイプ
-SPS(Sequence Parameter Set) NUT:SPSを含むNALユニットに対するタイプ
-PPS(Picture Parameter Set) NUT:PPSを含むNALユニットに対するタイプ
-APS(Adaptation Parameter Set) NUT:APSを含むNALユニットに対するタイプ
-PH(Picture header) NUT:ピクチャヘッダーを含むNULユニットに対するタイプ
上述したNALユニットタイプは、NALユニットタイプのためのシンタックス情報を有し、前記シンタックス情報は、NALユニットヘッダーに保存されてシグナリングされることができる。例えば、前記シンタックス情報はnal_unit_typeであり、NALユニットタイプはnal_unit_typeの値を用いて特定できる。
一方、一つのピクチャは、複数のスライスを含むことができ、一つのスライスは、スライスヘッダー及びスライスデータを含むことができる。この場合、一つのピクチャ内の複数のスライス(スライスヘッダー及びスライスデータ集合)に対して一つのピクチャヘッダーがさらに付加されることができる。前記ピクチャヘッダー(ピクチャヘッダーシンタックス)は、前記ピクチャに共通に適用可能な情報/パラメータを含むことができる。前記スライスヘッダー(スライスヘッダーシンタックス)は、前記スライスに共通に適用可能な情報/パラメータを含むことができる。前記APS(APSシンタックス)又はPPS(PPSシンタックス)は、一つ以上のスライス又はピクチャに共通に適用可能な情報/パラメータを含むことができる。前記SPS(SPSシンタックス)は、一つ以上のシーケンスに共通に適用可能な情報/パラメータを含むことができる。前記VPS(VPSシンタックス)は、マルチレイヤーに共通に適用可能な情報/パラメータを含むことができる。前記DCIは、復号化能力(decoding capability)に関連する情報/パラメータを含むことができる。
本開示において、上位レベルシンタックス(High level syntax、HLS)は、前記APSシンタックス、PPSシンタックス、SPSシンタックス、VPSシンタックス、DCIシンタックス、ピクチャヘッダーシンタックス、及びスライスヘッダーシンタックスのうちの少なくとも一つを含むことができる。また、本開示において、下位レベルシンタックス(low level syntax、LLS)は、例えば、スライスデータシンタックス、CTUシンタックス、符号化単位シンタックス、変換単位シンタックスなどを含むことができる。
一方、本開示において、符号化装置から復号化装置へ符号化されてビットストリーム形式でシグナリングされる画像/ビデオ情報は、ピクチャ内のパーティショニング関連情報、イントラ/インター予測情報、レジデュアル情報、インループフィルタリング情報などを含むだけでなく、前記スライスヘッダーの情報、前記ピクチャヘッダーの情報、前記APSの情報、前記PPSの情報、SPSの情報、前記VPSの情報及び/又は前記DCIの情報を含むことができる。また、前記画像/ビデオ情報は、一般制限情報(general constraint information)及び/又はNALユニットヘッダーの情報をさらに含むことができる。
High level syntax signalling and semantics
上述したように、本開示による画像/ビデオ情報は、ハイレベルシンタックス(High Level Syntax、HLS)を含むことができる。画像符号化方法及び/又は画像復号化方法は、前記画像/ビデオ情報に基づいて行われることができる。
Video Parameter Set signalling
ビデオパラメータセット(Video parameter set、VPS)は、階層情報の伝送のために使用されるパラメータセットである。前記階層情報は、例えば、出力レイヤーセット(output layer set、OLS)に関する情報、プロファイルティアレベル(profile tier level)に関する情報、OLSと仮想参照デコーダ(hypothetical reference decoder)との関係に関する情報、OLSとDPBとの関係に関する情報などを含むことができる。VPSは、ビットストリームの復号化に必須ではないことができる。
VPS RBSP(raw byte sequence payload)は、参照される前に、TemporalIDが0である少なくとも1つのアクセスユニット(Access Unit、AU)に含まれるか、或いは外部手段を介して提供されることにより、復号化プロセスに利用可能でなければならない。
CVS(coded video sequence)内で特定の値のvps_video_parameter_set_idを持つ全てのVPS NALユニットは、同じコンテンツを持たなければならない。
図7は、本開示の一実施例によるVPSのシンタックス構造を例示的に示す図である。
図7に示されているVPSのシンタックス構造は、本開示に関連するシンタックス要素のみを含み、図7に示されていない他の多様なシンタックス要素がVPSに含まれることができる。
図7に示されている例において、vps_video_parameter_set_idは、VPSに対する識別子を提供する。他のシンタックス要素は、vps_video_parameter_set_idを用いてVPSを参照することができる。vps_video_parameter_set_idの値は0よりも大きくなければならない。
vps_max_layers_minus1に1を加えた値は、前記VPSを参照する各CVS内の許容可能な最大階層の数を示すことができる。
vps_max_sublayers_minus1に1を加えた値は、前記VPSを参照する各CVS内の階層に存在しうる時間的サブレイヤー(temporalsublayers)の最大個数を示すことができる。vps_max_sublayers_minus1は、0~6の値を有することができる。
vps_all_layers_same_num_sublayers_flagは、vps_max_layers_minus1が0よりも大きく、vps_max_sublayers_minus1が0よりも大きい場合にシグナリングされることができる。第1値(例えば、1)のvps_all_layers_same_num_sublayers_flagは、前記VPSを参照する各CVS内のすべての階層に対して時間的サブレイヤーの個数が同一であることを示すことができる。第2値(例えば、0)のvps_all_layers_same_num_sublayers_flagは、前記VPSを参照する各CVS内の階層が同じ個数の時間的サブレイヤーを有しないことができることを示すことができる。vps_all_layers_same_num_sublayers_flagが存在しないとき、その値は第1値(例えば、1)と推論されることができる。
vps_all_independent_layers_flagは、vps_max_layers_minus1が0より大きい場合にシグナリングされることができる。第1値(例えば、1)のvps_all_independent_layers_flagは、前記CVS内のすべての階層が階層間予測(inter-layer prediction)を使用せず、独立して符号化されることを示すことができる。第2値(例えば、0)のvps_all_independent_layers_flagは、前記CVS内の1つ以上の階層が階層間予測を用いることができることを示すことができる。vps_all_independent_layers_flagが存在しない場合、その値は第1値(例えば、1)と推論されることができる。
each_layer_is_an_ols_flagは、vps_max_layers_minus1が0より大きい場合にシグナリングされることができる。また、each_layer_is_an_ols_flagは、vps_all_independent_layers_flagが第1値である場合にシグナリングされることができる。第1値(例えば、1)のeach_layer_is_an_ols_flagは、各OLSが1つの階層のみを含むか否かを示すことができる。また、第1値(例えば、1)のeach_layer_is_an_ols_flagは、VPSを参照するCVS内の各階層自体がOLS(すなわち、OLSに含まれている1つの階層が唯一の出力レイヤーである)であることを示すことができる。また、第2値(例えば、0)のeach_layer_is_an_ols_flagは、少なくとも1つのOLSが1つよりも多い階層を含むことができることを示すことができる。vps_max_layers_minus1が0である場合、each_layer_is_an_ols_flagの値は1と推論されることができる。そうではなく、vps_all_independent_layers_flagが0である場合、each_layer_is_an_ols_flagの値は0と推論されることができる。
each_layer_is_an_ols_flagが第2値(例えば、0)であり、vps_all_independent_layers_flagが第2値(例えば、0)である場合、ols_mode_idcがシグナリングされることができる。
第1値(例えば、0)を有するols_mode_idcは、VPSによって特定されるOLSsの全体個数がvps_max_layers_minus1+1と等しいことを示すことができる。このとき、i番目のOLSは、階層インデックス(lyaer index)が0~iである階層を含むことができる。また、各OLSに対して、OLS内で最も高い階層インデックスを有する階層(最上位階層)のみが出力されることができる。
第2値(例えば、1)を有するols_mode_idcは、VPSによって特定されるOLSsの全体個数がvps_max_layers_minus1+1と等しいことを示すことができる。このとき、i番目のOLSは、階層インデックス(layer index)が0~iである階層を含むことができる。さらに、各OLSに対して、OLS内のすべての階層が出力されることができる。
第3値(例えば、2)を有するols_mode_idcは、VPSによって特定されるOLSsの全体個数が明示的にシグナリングされることを示すことができる。さらに、各OLSに対して、出力レイヤーが明示的にシグナリングされることを示すことができる。出力レイヤーではない他の階層は、OLSの出力レイヤーの直接参照階層又は間接参照階層であり得る。
vps_all_independent_layers_flagが1であり、each_layer_is_an_ols_flagが0である場合、ols_mode_idcの値は第3値(例えば、2)と推論されることができる。
ols_mode_idcが2である場合、num_output_layer_sets_minus1とols_output_layer_flag[i][j]が明示的にシグナリングされることができる。
num_output_layer_sets_minus1に1を加えた値は、VPSによって特定されるOLSsの全体個数を示すことができる。
ols_mode_idcが2である場合、ols_output_layer_flag[i][j]は、i番目のOLSのj番目の階層が出力レイヤーであるか否かを示すことができる。第1値(例えば、1)のols_output_layer_flag[i][j]は、vps_layer_id[j]と同じ階層識別子(nuh_layer_id)を有する階層がi番目のOLSの出力レイヤーであることを示すことができる。第2値(例えば、0)のols_output_layer_flag[i][j]は、vps_layer_id[j]と同じ階層識別子(nuh_layer_id)を有する階層がi番目のOLSの出力レイヤーではないことを示すことができる。
以下、VPSでシグナリングされるHRDパラメータについて説明する。
each_layer_is_an_ols_flagが第2値(例えば、0)である場合、vps_general_hrd_params_present_flagがシグナリングされることができる。第1値(例えば、1)のvps_general_hrd_params_present_flagは、general_hrd_parameters()シンタックス構造とは異なるHRDパラメータがVPS内に存在することを示すことができる。第2値(例えば、0)のvps_general_hrd_params_present_flagは、general_hrd_parameters()シンタックス構造とは異なるHRDパラメータがVPS内に存在しないことを示すことができる。vps_general_hrd_params_present_flagが存在しない場合、その値は第2値(例えば、0)と推論されることができる。
i番目のOLSが1つの階層を含む場合(NumLayersInOls[i] is equal to 1)、i番目のOLSに適用されるgeneral_hrd_parameters()シンタックス構造は、i番目のOLS内の階層によって参照されるSPS(Sequence Parameter Set)に存在する可能性がある。
vps_sublayer_cpb_params_present_flagは、vps_max_sublayers_minus1が0より大きい場合にシグナリングされることができる。第1値(例えば、1)のvps_sublayer_cpb_params_present_flagは、VPS内のi番目のols_hrd_parameters()シンタックス構造が、時間的階層識別子(TemporalId)が0乃至hrd_max_tid[i]であるサブレイヤーに対するHRDパラメータを含むことを示すことができる。第2値(例えば、0)のvps_sublayer_cpb_params_present_flagは、VPS内のi番目のols_hrd_parameters()シンタックス構造が、時間的階層識別子(TemporalId)がhrd_max_tid[i]だけであるサブレイヤーに対するHRDパラメータを含むことを示すことができる。vps_max_sublayers_minus1が0である場合、vps_sublayer_cpb_params_present_flagは第2値(例えば、0)と推論することができる。
vps_sublayer_cpb_params_present_flagが第2値(例えば、0)である場合、時間的階層識別子(TemporalId)が0乃至hrd_max_tid[i]-1であるサブレイヤーに対するHRDパラメータは、時間的階層識別子(TemporalId)がhrd_max_tid[i]であるサブレイヤーに対するHRDパラメータと同一であると推論することができる。
num_ols_hrd_params_minus1に1を加えた値は、VPS内のols_hrd_parameters()シンタックス構造の個数を示すことができる。num_ols_hrd_params_minus1は、0乃至TotalNumOlss-1の値を持つことができる。TotalNumOlssは、VPSによって特定されるOLSの全体個数を示すことができる。本開示において、HRDパラメータはols_hrd_parameters()を意味することができる。したがって、HRDパラメータシンタックス構造の個数は、ols_hrd_parameters()シンタックス構造の個数を意味することができる。
hrd_max_tid[i]は、vps_max_sublayers_minus1が0より大きく、vps_all_layers_same_num_sublayers_flagが第2値(例えば、0)である場合にシグナリングされることができる。hrd_max_tid[i]は、関連するHRDパラメータがi番目のols_hrd_parameters()シンタックス構造に含まれている最上位サブレイヤーの時間的階層識別子(TemporalId)を示すことができる。
hrd_max_tid[i]は、0乃至vps_max_sublayers_minus1の値を持つことができる。vps_max_sublayers_minus1が0である場合、hrd_max_tid[i]の値は0と推論されることができる。vps_max_sublayers_minus1が0より大きく、vps_all_layers_same_num_sublayers_flagが1である場合、hrd_max_tid[i]の値はvps_max_sublayers_minus1と等しいと推論されることができる。
図7に示されているように、vps_sublayer_cpb_params_present_flagに基づいて一番目のサブレイヤーの時間的階層識別子(TemporalId)を示す変数firstSubLayerが0又はhrd_max_tid[i]に誘導されることができる。具体的には、vps_sublayer_cpb_params_present_flagが1である場合、firstSubLayerは0に誘導され、そうでなければ、firstSubLayerはhrd_max_tid[i]に誘導されることができる。誘導されたfirstSubLayerとhrd_max_tid[i]に基づいて、ols_hrd_parameters()シンタックス構造がシグナリングされることができる。
num_ols_hrd_params_minus1に1を加えた値とTotalNumOlssが等しくなく、num_ols_hrd_params_minus1が0より大きい場合、ols_hrd_idx[i]がシグナリングされることができる。このとき、ols_hrd_idx[i]は、i番目のOLSに含まれている階層の個数(NumLayersInOls[i])が1より大きい場合、i番目のOLSに対してシグナリングされることができる。ols_hrd_idx[i]は、VPS内のols_hrd_parameters()のリストに対するインデックスであって、i番目のOLSに適用されるols_hrd_parameters()のインデックスであり得る。ols_hrd_idx[i]は、0乃至num_ols_hrd_params_minus1の値を持つことができる。i番目のOLSに含まれている階層の個数(NumLayersInOls[i])が1である場合、i番目のOLSに適用されるols_hrd_parameters()シンタックス構造は、i番目のOLS内の階層によって参照されるSPSに存在することができる。
本開示において、ols_hrd_idx[i]は、i番目のOLS又はi番目のマルチレイヤーOLSに適用されるols_hrd_parameters()のインデックスであって、(マルチレイヤー)OLSとHRDパラメータシンタックス構造(ols_hrd_parameters())とのマッピング情報(マッピングに関する情報)と呼ばれることができる。
num_ols_hrd_param_minus1に1を加えた値がTotalNumOlssと等しい場合、ols_hrd_idx[i]の値はiと等しいと推論されることができる。そうではなく、NumLayersInOls[i]が1より大きく、num_ols_hrd_params_minus1が0である場合、ols_hrd_idx[i]の値は0と推論されることができる。
HRD signalling in VPS and SPS
以下、本開示によるHRDパラメータのシグナリングについてより具体的に説明する。HRDパラメータは、各出力レイヤーセット(OLS)に対してシグナリングされることができる。仮想参照デコーダ(hypothetical reference decoder、HRD)は、符号化過程で生成できる標準規格による(conforming)NALユニットストリーム又は標準規格によるバイトストリームの変動性に対する制限事項を明示する仮想のデコーダモデルである。
HRDパラメータは、図7を参照して説明したように、VPSに含まれてシグナリングされることができる。或いは、HRDパラメータは、SPSに含まれてシグナリングされることもできる。
図8は、本開示の一実施例によってHRDパラメータをシグナリングするためのSPSのシンタックス構造を示す図である。
図8に示されている例で、第1値(例えば、1)のsps_ptl_dpb_hrd_params_present_flagは、profile_tier_level()シンタックス構造及びdpb_parameters()シンタックス構造がSPS内に存在することを示すことができる。profile_tier_level()は、プロファイルディアレベルに対するパラメータを伝送するためのシンタックス構造であり、dpb_parameters()は、DPB(decoded picture buffer)パラメータを伝送するためのシンタックス構造であり得る。また、第1値(例えば、1)のsps_ptl_dpb_hrd_params_present_flagは、general_hrd_parameters()シンタックス構造及びols_hrd_parameters()シンタックス構造がSPS内に存在し得ることを示すことができる。第2値(例えば、0)のsps_ptl_dpb_hrd_params_present_flagは、前記4つのシンタックス構造がSPS内に存在しないことを示すことができる。sps_ptl_dpb_hrd_params_present_flagの値は、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]の値と同じであり得る。すなわち、sps_ptl_dpb_hrd_params_present_flagの値は、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]の値として符号化されることができる。
上記において、vps_independent_layer_flag[i]は、VPSに含まれて伝送されるシンタックス要素であり得る。第1値(例えば、1)のvps_independent_layer_flag[i]は、インデックスがiである階層が階層間予測(inter-layer prediction)を使用しない独立階層であることを示すことができる。第2値(例えば、0)のvps_independent_layer_flag[i]は、インデックスがiである階層が階層間予測(inter-layer prediction)を使用することができることを示すことができる。vps_independent_layer_flag[i]が存在しない場合、その値は、第1値(例えば、1)と推論されることができる。
sps_ptl_dpb_hrd_params_present_flagが1である場合、sps_general_hrd_params_present_flagがシグナリングされることができる。
第1値(例えば、1)のsps_general_hrd_params_present_flagは、SPSがgeneral_hrd_parameters()シンタックス構造とols_hrd_parameters()シンタックス構造を含むことを示すことができる。第2値(例えば、0)のsps_general_hrd_params_present_flagは、SPSがgeneral_hrd_parameters()シンタックス構造又はols_hrd_parameters()シンタックス構造を含まないことを示すことができる。
図8に示されているところによれば、sps_max_sublayers_minus1が0より大きい場合、sps_sublayer_cpb_params_present_flagがシグナリングされることができる。このとき、sps_max_sublayers_minus1に1を加えた値は、前記SPSを参照する各CLVS(coded layer video sequence)に存在しうる時間的サブレイヤー(temporal sublayers)の最大個数を示すことができる。第1値(例えば、1)のsps_sublayer_cpb_params_present_flagは、SPS内のols_hrd_parameters()シンタックス構造が、時間的階層識別子(TemporalId)が0乃至sps_max_sublayers_minus1であるサブレイヤーに対するHRDパラメータを含むことを示すことができる。第2値(例えば、0)のsps_sublayer_cpb_params_present_flagは、SPS内のols_hrd_parameters()シンタックス構造が、時間的階層識別子(TemporalId)がsps_max_sublayers_minus1だけであるサブレイヤーに対するHRDパラメータを含むことを示すことができる。sps_max_sublayers_minus1が0である場合、sps_sublayer_cpb_params_present_flagの値は第2値(例えば、0)と推論されることができる。
sps_sublayer_cpb_params_present_flagが第2値(例えば、0)である場合、時間的階層識別子(TemporalId)が0乃至sps_max_sublayers_minus1-1であるサブレイヤーに対するHRDパラメータは、時間的階層識別子(TemporalId)がsps_max_sublay_minus1であるサブレイヤーに対するHRDパラメータと等しいと推論されることができる。
図9は、本開示の一実施例によるgeneral_hrd_parameters()シンタックス構造を示す図である。
図9に示されているように、general_hrd_parameters()シンタックス構造は、HRD動作に使用されるシーケンスレベルHRDパラメータの一部を含むことができる。ビットストリームの整合性に対する要求事項として、ビットストリーム内のVPS又はSPSに存在するgeneral_hrd_parameters()の内容は同じでなければならない。
general_hrd_parameters()シンタックス構造がVPSに含まれる場合、general_hrd_parameters()シンタックス構造は、前記VPSによって特定される全てのOLSsに適用できる。general_hrd_parameters()シンタックス構造がSPSに含まれる場合、general_hrd_parameters()シンタックス構造は、前記SPSを参照する階層のうち、最下位階層のみを含むOLSに適用されることができる。このとき、前記最下位階層は独立階層であってもよい。
図9に示されているように、general_hrd_parameters()シンタックス構造は、HRDパラメータとして、num_units_in_tick、time_scale、general_nal_hrd_params_present_flagなどのシンタックス要素を含むことができる。図9に示されているHRDパラメータは、従来のHRDパラメータと同じ意味を有することができる。したがって、本開示との関連性が少ないHRDパラメータについての具体的な説明は省略する。
図10は、本開示の一実施例によるols_hrd_parameters()シンタックス構造を示す図である。
ols_hrd_parameters()シンタックス構造がVPSに含まれる場合、ols_hrd_parameters()シンタックス構造が適用されるOLSsは、前記VPSによって特定されることができる。ols_hrd_parameters()シンタックス構造がSPSに含まれる場合、ols_hrd_parameters()シンタックス構造は、前記SPSを参照する階層のうち、最下位階層のみを含むOLSに適用されることができる。このとき、前記最下位階層は独立階層であってもよい。
図10に示されているように、ols_hrd_parameters()シンタックス構造は、HRDパラメータとして、fixed_pic_rate_general_flag、fixed_pic_rate_within_cvs_flag、elemental_duration_in_tc_minus1などのシンタックス要素を含むことができる。図10に示されているHRDパラメータは、従来のHRDパラメータと同じ意味を有することができる。したがって、本開示との関連性が少ないHRDパラメータについての具体的な説明は省略する。
図11は、本開示の一実施例によるsublayer_hrd_parameters()シンタックス構造を示す図である。
sublayer_hrd_parameters()シンタックス構造は、図10のols_hrd_parameters()シンタックス構造に含まれてシグナリングされることができる。
図11に示されているように、sublayer_hrd_parameters()シンタックス構造は、HRDパラメータとして、bit_rate_value_minus1、cpb_size_value_minus1、cpb_size_du_value_minus1などのシンタックス要素を含むことができる。図11に示されているHRDパラメータは、従来のHRDパラメータと同じ意味を有することができる。したがって、本開示との関連性が少ないHRDパラメータについての具体的な説明は省略する。
参考までに、出力時間(output time)は、DPBから復元されたピクチャが出力される時間を意味することができる。前記出力時間は、出力タイミングDPB動作(output timing DPB operation)に応じてHRDによって特定されることができる。
NAL HRDパラメータとVCL HRDパラメータの2セットのHRDパラメータが使用できる。HRDパラメータは、general_hrd_parameters()シンタックス構造とols_hrd_parameters()シンタックス構造を介してシグナリングされることができる。前記general_hrd_parameters()シンタックス構造とols_hrd_parameters()シンタックス構造は、VPSに含まれてシグナリングされてもよく、SPSに含まれてシグナリングされてもよい。
例えば、DPB管理(DPB maganement)は、HRDパラメータに基づいて行われることができる。例えば、現在ピクチャの復号化前にDPBからピクチャの削除及び/又は(復号化された)ピクチャの出力は、HRDパラメータに基づいて行われることができる。
図7~図11を参照して説明したHRDパラメータのシグナリング方法によれば、少なくとも以下の問題が発生する可能性がある。
-上述したように、num_ols_hrd_params_minus1は、0からTotalNumOlss-1の値を有するように制限されることができる。しかし、VPSでシグナリングされるそれぞれのHRDパラメータが少なくとも1つのOLSに関連付けられるべきであるという制限がない。したがって、VPSは、使用されないHRDパラメータを含むことができるので、シグナリングの効率性が低下するという問題がある。
-上述したように、num_ols_hrd_params_minus1は、0乃至TotalNumOlss-1の値を有するように制限されることができる。しかし、1つの階層のみを含むOLSが1つ以上存在することができるので、前記制限は、使用されないHRDパラメータ構造がVPSに含まれてシグナリングされることを許容する。1つの層のみを含むOLSは、VPSでシグナリングされるHRDパラメータ構造に関連付けられない。
OLSに関連するHRDパラメータのシグナリングは、上述した問題を含むことにより、本開示で言及されていない他の欠点を含むことができる。
前記問題点のうちの少なくとも1つを解決するための本開示による実施例は、以下の構成のうちの少なくとも1つを含むことができる。以下の構成は、個別に又は他の構成と組み合わせられて適用されることができる。
構成1:VPSでシグナリングされる各HRDパラメータ構造は、少なくとも1つのOLSに関連付けられるように制限され得る。
構成2:VPSでシグナリングされるHRDパラメータ構造の個数(すなわち、num_ols_hrd_params_minus1)は、1つよりも多い階層を含むOLSsの個数より大きくてはならない。すなわち、VPSでシグナリングされるHRDパラメータ構造の個数は、OLSsの全体個数から1つの階層のみを含むOLSsの個数を差し引いた数よりも大きくないように制限され得る。
図12は、本開示による実施例が適用できる画像符号化方法の一例を説明するための図である。
画像符号化装置は、HRDパラメータを誘導し(S1210)、画像/ビデオ情報を符号化することができる(S1220)。このとき、画像/ビデオ情報は、前記誘導されたHRDパラメータに関連する情報を含むことができる。
図12には示されていないが、画像符号化装置は、ステップS1210で誘導されたHRDパラメータに基づいて、DPB管理(DPB management)を行うことができる。
図13は、本開示による実施例が適用できる画像復号化方法の一例を説明するための図である。
画像復号化装置は、画像/ビデオ情報をビットストリームから取得することができる(S1310)。このとき、画像/ビデオ情報は、HRDパラメータに関連する情報を含むことができる。
画像復号化装置は、取得されたHRDパラメータに基づいてピクチャの復号化を行うことができる(S1320)。
図14は、本開示による実施例が適用できる画像復号化方法の他の例を説明するための図である。
画像復号化装置は、画像/ビデオ情報をビットストリームから取得することができる(S1410)。このとき、画像/ビデオ情報は、HRDパラメータに関連する情報を含むことができる。
画像復号化装置は、取得されたHRDパラメータに基づいて、DPB管理(DPB management)を行うことができる(S1420)。
画像復号化装置は、DPBに基づいてピクチャの復号化を行うことができる(S1430)。例えば、DPB内の既に復元されたピクチャを参照ピクチャとして使用するインター予測に基づいて、現在ピクチャ内のブロック/スライスが復号化されることができる。
図12~図14を参照して説明した例において、HRDパラメータに関連する情報は、本開示の実施例のうちの少なくとも1つの実施例に関連して説明された情報/シンタックス要素のうちの少なくとも1つを含むことができる。また、上述したように、DPB管理(DPB management)は、HRDパラメータに基づいて行われることができる。例えば、現在ピクチャの復号化前にDPBからピクチャの削除及び/又は(復号化された)ピクチャの出力は、HRDパラメータに基づいて行われることができる。
上述した問題点の少なくとも一部を解決するための本開示の一実施例によれば、VPSでシグナリングされる各HRDパラメータ構造は、少なくとも1つのOLSと関連付けられるように制限されることができる。
上述したように、i番目のOLSに適用されるols_hrd_parameters()は、ols_hrd_idx[i]によって特定されることができる。本実施例によれば、VPSでシグナリングされる全てのols_hrd_parameters()のそれぞれは、少なくとも1つのOLSに適用されるように制限されることができる。すなわち、VPS内のそれぞれのols_hrd_parameters()は、少なくとも1つのols_hrd_idx[i]によって特定されることができる。
本実施例によれば、VPS内のols_hrd_parameters()のそれぞれは少なくとも一度使用される。つまり、使用されないols_hrd_parameters()はシグナリングされない。したがって、本実施例によれば、ols_hrd_parameters()のシグナリングを効率よく行うことができるという効果がある。
上述した問題点の少なくとも一部を解決するための本開示の他の実施例によれば、VPSでシグナリングされるHRDパラメータ構造の個数(すなわち、num_ols_hrd_params_minus1)は、1つより多い階層を含むOLSsの個数よりも大きくないように制限されることができる。
図7を参照して説明した例によれば、num_ols_hrd_params_minus1に1を加えた値は、VPS内のols_hrd_parameters()シンタックス構造の個数を示し、num_ols_hrd_params_minus1は、0乃至TotalNumOlss-1の値を有することができる。
しかし、上述したように、1つの階層のみを含むOLSが存在することができ、1つの階層のみを含むOLSは、VPSでシグナリングされるHRDパラメータ構造と関連付けられない。図7の例におけるnum_ols_hrd_params_minus1の値の範囲は、不正確なシグナリングを引き起こす可能性がある。したがって、ols_hrd_parameters()シンタックス構造の個数の範囲は、OLSsの全体個数(TotalNumOlss)の代わりに複数の階層を含むOLSs(マルチレイヤーOLS)の個数(NumMultiLayerOlss)によって特定されれば正確なシグナリングが行われることができる。
本開示によれば、num_ols_hrd_params_minus1に1を加えた値は、VPS内のols_hrd_parameters()シンタックス構造の個数を示し、num_ols_hrd_params_minus1は、0乃至NumMultiLayerOlss-1の値を有することができる。このとき、複数の階層を含むOLSs(マルチレイヤーOLS)の個数(NumMultiLayerOlss)は、OLSsの全体個数(TotalNumOlss)から1つの階層のみを含むOLSの個数(NumSingleLayerOlss)を差し引いたのと同じであり得る。
上述したように、VPSでシグナリングされる各HRDパラメータ構造が、少なくとも1つのOLSに関連(マッピング)付けられるように制限されることができる。また、VPSでシグナリングされるHRDパラメータ構造の個数(すなわち、num_ols_hrd_params_minus1)は、複数の階層を含むOLSs(マルチレイヤーOLS)の個数よりも大きくないように制限されることができる。前記2つの実施例は、組み合わせられた形態で以下のように別の実施例を構成することができる。
図15は、本開示の別の実施例によってnum_ols_hrd_params_minus1に基づいてHRDパラメータを符号化する過程を説明するための図である。
画像符号化装置は、num_ols_hrd_params_minus1をVPSに符号化することができる(S1510)。num_ols_hrd_params_minus1に1を加えた値は、VPS内のols_hrd_parameters()シンタックス構造の個数を示し、num_ols_hrd_params_minus1は、0乃至NumMultiLayerOlss-1の値を持つことができる。
画像符号化装置は、num_ols_hrd_params_minus1+1個のols_hrd_parameters()シンタックス構造をVPSに符号化することができる(S1520)。
画像符号化装置は、以下の条件1を判断することができる(S1530)。
条件1:(num_ols_hrd_params_minus1+1!=NumMultiLayerOlss&&num_ols_hrd_params_minus1>0)?
前記条件1は、ビットストリームにols_hrd_idxを符号化するための条件であって、前記条件1を満たす場合(S1530-Yes)、画像符号化装置は、ols_hrd_idxをVPSに符号化することができる(S1540)。図15を参照して説明する実施例によれば、ols_hrd_idx[i]は、VPS内のols_hrd_parameters()のリストに対するインデックスであって、i番目の複数の階層を含むOLS(マルチレイヤーOLS)に適用されるols_hrd_parameters()のインデックスであり得る。すなわち、VPS内のols_hrd_idx[i]は、マルチレイヤーOLSsに対してシグナリングされ、0乃至num_ols_hrd_params_minus1の値を有することができる。
前記条件1を満たさない場合(S1530-No)、画像符号化装置は、ols_hrd_idxをVPSに符号化せず、その値は推論されることができる(S1550)。具体的には、num_ols_hrd_params_minus1が0である場合、ols_hrd_idx[i]の値は0と推論されることができる。そうではなく、num_ols_hrd_param_minus1に1を加えた値がNumMultiLayerOlssと等しい場合、ols_hrd_idx[i]の値はiと等しいと推論されることができる。
また、単一階層のみを含むOLSに適用されるols_hrd_parameters()シンタックス構造は、VPSに符号化されず、当該OLS内の前記階層によって参照されるSPSに符号化されることができる。
また、VPS内のそれぞれのols_hrd_parameters()は、少なくとも1つのols_hrd_idx[i](iは0乃至NumMultiLayerOlss-1の値を有する)によって参照されることができる。
画像符号化装置は、HRDパラメータに基づいてピクチャを符号化することができる(S1560)。このとき、HRDパラメータは、ステップS1540で取得されるか、或いはステップS1550で推論されたols_hrd_idx[i]によって参照されるVPS内のols_hrd_parameters()であり得る。または、単一階層のみを含むOLSの場合、HRDパラメータは、前記単一階層によって参照されるSPS内のols_hrd_parameters()であり得る。
図16は、本開示の別の実施例によってnum_ols_hrd_params_minus1に基づいてHRDパラメータを復号化する過程を説明するための図である。
画像復号化装置は、VPSからnum_ols_hrd_params_minus1を取得することができる(S1610)。num_ols_hrd_params_minus1に1を加えた値は、VPS内のols_hrd_parameters()シンタックス構造の個数を示し、num_ols_hrd_params_minus1は、0乃至NumMultiLayerOlss-1の値を有することができる。
画像復号化装置は、VPSからnum_ols_hrd_params_minus1+1個のols_hrd_parameters()シンタックス構造を取得することができる(S1620)。
画像復号化装置は、以下の条件2を判断することができる(S1630)。
条件2:(num_ols_hrd_params_minus1+1!=NumMultiLayerOlss&&num_ols_hrd_params_minus1>0)?
前記条件2は、ビットストリームからols_hrd_idxを取得するための条件であって、前記条件2を満たす場合(S1630-Yes)、画像復号化装置は、VPSからols_hrd_idxを取得することができる(S1640)。図16を参照して説明する実施例によれば、ols_hrd_idx[i]は、VPS内のols_hrd_parameters()のリストに対するインデックスであって、i番目の複数の階層を含むOLS(マルチレイヤーOLS)に適用されるols_hrd_parameters()のインデックスであり得る。
すなわち、VPS内のols_hrd_idx[i]は、マルチレイヤーOLSに対してシグナリングされ、0乃至num_ols_hrd_params_minus1の値を有することができる。
前記条件2を満たさない場合(S1630-No)、画像復号化装置は、VPSからols_hrd_idxを取得せず、その値を推論することができる(S1650)。具体的には、num_ols_hrd_params_minus1が0である場合、ols_hrd_idx[i]の値は0と推論されることができる。そうではなく、num_ols_hrd_param_minus1に1を加えた値がNumMultiLayerOlssと等しい場合、ols_hrd_idx[i]の値はiに等しいと推論されることができる。
また、単一階層のみを含むOLSに適用されるols_hrd_parameters()シンタックス構造は、VPSから取得されず、当該OLS内の前記階層によって参照されるSPSから取得されることができる。
また、VPS内のそれぞれのols_hrd_parameters()は、少なくとも1つのols_hrd_idx[i](iは0乃至NumMultiLayerOlss-1の値を有する)によって参照されることができる。
画像復号化装置は、HRDパラメータに基づいてピクチャを復号化することができる(S1660)。このとき、HRDパラメータは、ステップS1640で取得されるか、或いはステップS1650で推論されたols_hrd_idx[i]によって参照されるVPS内のols_hrd_parameters()であり得る。或いは、単一階層のみを含むOLSの場合、HRDパラメータは、単一階層によって参照されるSPS内のols_hrd_parameters()であり得る。
図15及び図16を参照して説明した実施例によれば、参照されないVPS内のols_hrd_parameters()シンタックス構造の不要なシグナリングを防止することができ、単一階層のみを含むOLSに対するols_hrd_parameters()シンタックス構造は、SPSを介してのみシグナリングすることにより、HRDパラメータのシグナリングをより正確かつ効率的に行うことができるという効果がある。
図15及び図16を参照して説明した方法において、一部のステップは省略されてもよく、他のステップと順序が変更されてもよい。また、図15及び図16に示されていないステップが任意の位置に付加されることができる。
本開示の例示的な方法は、説明の明確性のために動作のシリーズで表現されているが、これは、ステップが行われる順序を制限するためのものではなく、必要な場合には、それぞれのステップが同時に又は異なる順序で行われることもできる。本開示による方法を実現するために、例示するステップにさらに他のステップを含むか、一部のステップを除いて残りのステップを含むか、或いは一部のステップを除いて追加の他のステップを含むこともできる。
本開示において、所定の動作(ステップ)を行う画像符号化装置又は画像復号化装置は、当該動作(ステップ)の実行条件や状況を確認する動作(ステップ)を行うことができる。例えば、所定の条件が満足される場合、所定の動作を行うと記載された場合、画像符号化装置又は画像復号化装置は、前記所定の条件が満足されるか否かを確認する動作を行った後、前記所定の動作を行うことができる。
本開示の様々な実施例は、全ての可能な組み合わせを羅列したものではなく、本開示の代表的な態様を説明するためのものであり、様々な実施例で説明する事項は、独立して適用されてもよく、2つ以上の組み合わせで適用されてもよい。
また、本開示の様々な実施例は、ハードウェア、ファームウェア(firmware)、ソフトウェア、又はそれらの組み合わせなどによって実現できる。ハードウェアによる実現の場合、1つ又はそれ以上のASICs(Application Specific Integrated Circuits)、DSPs(Digital Signal Processors)、DSPDs(Digital Signal Processing Devices)、PLDs(Programmable Logic Devices)、FPGAs(Field Programmable Gate Arrays)、汎用プロセッサ(general processor)、コントローラ、マイクロコントローラ、マイクロプロセッサなどによって実現できる。
また、本開示の実施例が適用された画像復号化装置及び画像符号化装置は、マルチメディア放送送受信装置、モバイル通信端末、ホームシネマビデオ装置、デジタルシネマビデオ装置、監視用カメラ、ビデオ会話装置、ビデオ通信などのリアルタイム通信装置、モバイルストリーミング装置、記憶媒体、カムコーダ、注文型ビデオ(VoD)サービス提供装置、OTTビデオ(Over the top video)装置、インターネットストリーミングサービス提供装置、3次元(3D)ビデオ装置、画像電話ビデオ装置、及び医療用ビデオ装置などに含まれることができ、ビデオ信号又はデータ信号を処理するために使用できる。例えば、OTTビデオ(Over the top video)装置としては、ゲームコンソール、ブルーレイプレーヤー、インターネット接続TV、ホームシアターシステム、スマートフォン、タブレットPC、DVR(Digital Video Recoder)などを含むことができる。
図17は、本開示の実施例が適用できるコンテンツストリーミングシステムを例示する図である。
図17に示すように、本開示の実施例が適用されたコンテンツストリーミングシステムは、大きく、符号化サーバ、ストリーミングサーバ、Webサーバ、メディアストレージ、ユーザ装置及びマルチメディア入力装置を含むことができる。
前記符号化サーバは、スマートフォン、カメラ、カムコーダなどのマルチメディア入力装置から入力されたコンテンツをデジタルデータに圧縮してビットストリームを生成し、これを前記ストリーミングサーバに伝送する役割を果たす。他の例として、スマートフォン、カメラ、ビデオカメラなどのマルチメディア入力装置がビットストリームを直接生成する場合、前記符号化サーバは省略できる。
前記ビットストリームは、本開示の実施例が適用された画像符号化方法及び/又は画像符号化装置によって生成でき、前記ストリーミングサーバは、前記ビットストリームを伝送又は受信する過程で一時的に前記ビットストリームを保存することができる。
前記ストリーミングサーバは、Webサーバを介してユーザの要求に基づいてマルチメディアデータをユーザ装置に伝送し、前記Webサーバは、ユーザにどんなサービスがあるかを知らせる媒介体の役割を果たすことができる。ユーザが前記Webサーバに所望のサービスを要求すると、前記Webサーバは、これをストリーミングサーバに伝達し、前記ストリーミングサーバは、ユーザにマルチメディアデータを伝送することができる。この時、前記コンテンツストリーミングシステムは、別途の制御サーバを含むことができ、この場合、前記制御サーバは、前記コンテンツストリーミングシステム内の各装置間の命令/応答を制御する役割を果たすことができる。
前記ストリーミングサーバは、メディアストレージ及び/又は符号化サーバからコンテンツを受信することができる。例えば、前記符号化サーバからコンテンツを受信する場合、前記コンテンツをリアルタイムで受信することができる。この場合、円滑なストリーミングサービスを提供するために、前記ストリーミングサーバは、前記ビットストリームを一定時間の間保存することができる。
前記ユーザ装置の例としては、携帯電話、スマートフォン(smart phone)、ノートパソコン(laptop computer)、デジタル放送用端末、PDA(personal digital assistants)、PMP(portable multimedia player)、ナビゲーション、スレートPC(slate PC)、タブレットPC(tablet PC)、ウルトラブック(ultrabook)、ウェアラブルデバイス(wearable device)、例えば、スマートウォッチ(smartwatch)、スマートグラス(smart glass)、HMD(head mounted display)、デジタルTV、デスクトップコンピュータ、デジタルサイネージなどがあり得る。
前記コンテンツストリーミングシステム内の各サーバは、分散サーバとして運営されることができ、この場合、各サーバから受信するデータは、分散処理されることができる。
本開示の範囲は、様々な実施例の方法による動作が装置又はコンピュータ上で実行されるようにするソフトウェア又はマシン-実行可能なコマンド(例えば、オペレーティングシステム、アプリケーション、ファームウェア(firmware)、プログラムなど)、及びこのようなソフトウェア又はコマンドなどが保存されて装置又はコンピュータ上で実行できる非一時的なコンピュータ可読媒体(non-transitory computer-readable medium)を含む。
本開示による実施例は、画像を符号化/復号化することに利用可能である。

Claims (15)

  1. 画像復号化装置によって行われる画像復号化方法であって、前記画像復号化方法は、
    VPS(Video Parameter Set)内の一つ以上のHRD(hypothetical reference decoder)パラメータシンタックス構造の個数を示す第1情報を取得するステップと、
    前記第1情報に基づいて、前記VPSから前記一つ以上のHRDパラメータシンタックス構造を取得するステップと、
    前記第1情報に基づいて、前記VPSから一つ以上のマルチレイヤー(multi-layer)OLS(output layer set)と前記一つ以上のHRDパラメータシンタックス構造とのマッピングに関する第2情報を取得するステップと、
    前記第2情報に基づいて、現在OLSに適用されるHRDパラメータシンタックス構造を選択するステップと、
    前記選択されたHRDパラメータシンタックス構造に基づいて、前記現在OLSを処理するステップと、を含む、画像復号化方法。
  2. 前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数は、前記1つ以上のマルチレイヤーOLSの個数よりも大きくない、請求項1に記載の画像復号化方法。
  3. 前記VPS内の前記1つ以上のHRDパラメータシンタックス構造のそれぞれは、前記1つ以上のマルチレイヤーOLSのうちの少なくとも1つのマルチレイヤーOLSにマッピングされる、請求項1に記載の画像復号化方法。
  4. 前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が1よりも大きく、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が前記1つ以上のマルチレイヤーOLSの個数と等しくないことに基づいて、前記VPSから前記第2情報が取得される、請求項1に記載の画像復号化方法。
  5. 前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が1であることに基づいて、前記第2情報は前記VPSから取得されず、前記第2情報は0の値と推論される、請求項4に記載の画像復号化方法。
  6. 前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が1よりも大きく、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が前記1つ以上のマルチレイヤーOLSの個数と等しいことに基づいて、前記第2情報は前記VPSから取得されず、i番目のマルチレイヤーOLSに対する前記第2情報はiの値と推論される、請求項4に記載の画像復号化方法。
  7. 前記現在OLSが単一階層のみを含むことに基づいて、前記現在OLSに適用されるHRDパラメータシンタックス構造をSPS(Sequence Parameter Set)から取得する、請求項1に記載の画像復号化方法。
  8. 画像符号化装置によって行われる画像符号化方法であって、前記画像符号化方法は、
    VPS(Video Parameter Set)内の1つ以上のHRD(hypothetical reference decoder)パラメータシンタックス構造の個数を示す第1情報を符号化するステップと、
    前記第1情報に基づいて、前記VPSに前記1つ以上のHRDパラメータシンタックス構造を符号化するステップと、
    前記第1情報に基づいて、前記VPSに1つ以上のマルチレイヤー(multi-layer)OLS(output laer set)と前記1つ以上のHRDパラメータシンタックス構造とのマッピングに関する第2情報を符号化するステップと、
    現在OLSに適用されるHRDパラメータシンタックス構造に基づいて、前記現在OLSを処理するステップと、を含む、画像符号化方法。
  9. 前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数は、前記1つ以上のマルチレイヤーOLSの個数よりも大きくない、請求項8に記載の画像符号化方法。
  10. 前記VPS内の前記1つ以上のHRDパラメータシンタックス構造のそれぞれは、前記1つ以上のマルチレイヤーOLSのうちの少なくとも1つのマルチレイヤーOLSにマッピングされる、請求項8に記載の画像符号化方法。
  11. 前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が1より大きく、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が前記1つ以上のマルチレイヤーOLSの個数と等しくないことに基づいて、前記VPSに前記第2情報が符号化される、請求項8に記載の画像符号化方法。
  12. 前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が1であることに基づいて、前記第2情報は前記VPSに符号化されず、前記第2情報は0の値と推論される、請求項11に記載の画像符号化方法。
  13. 前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の数が1より大きく、前記VPS内の前記1つ以上のHRDパラメータシンタックス構造の個数が前記1つ以上のマルチレイヤーOLSの個数と等しいことに基づいて、前記第2情報は前記VPSに符号化されず、i番目のマルチレイヤーOLSに対する前記第2情報はiの値と推論される、請求項11に記載の画像符号化方法。
  14. 前記現在OLSが単一階層のみを含むことに基づいて、前記現在OLSに適用されるHRDパラメータシンタックス構造はSPS(Sequence Parameter Set)に符号化される、請求項8に記載の画像符号化方法。
  15. 請求項8に記載の画像符号化方法によって生成されたビットストリームを保存したコンピュータ可読記録媒体。
JP2022559607A 2020-03-30 2021-03-26 Hrdパラメータをシグナリングする画像符号化/復号化方法及び装置、並びにビットストリームを保存したコンピュータ可読記録媒体 Pending JP2023519980A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202063002342P 2020-03-30 2020-03-30
US63/002,342 2020-03-30
PCT/KR2021/003786 WO2021201514A1 (ko) 2020-03-30 2021-03-26 Hrd 파라미터를 시그널링하는 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 컴퓨터 판독 가능한 기록 매체

Publications (1)

Publication Number Publication Date
JP2023519980A true JP2023519980A (ja) 2023-05-15

Family

ID=77930247

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022559607A Pending JP2023519980A (ja) 2020-03-30 2021-03-26 Hrdパラメータをシグナリングする画像符号化/復号化方法及び装置、並びにビットストリームを保存したコンピュータ可読記録媒体

Country Status (6)

Country Link
US (1) US20230141607A1 (ja)
EP (1) EP4131964A4 (ja)
JP (1) JP2023519980A (ja)
KR (1) KR20220162741A (ja)
CN (1) CN115668950A (ja)
WO (1) WO2021201514A1 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10187662B2 (en) * 2013-10-13 2019-01-22 Sharp Kabushiki Kaisha Signaling parameters in video parameter set extension and decoder picture buffer operation
US9788007B2 (en) * 2014-06-20 2017-10-10 Qualcomm Incorporated Profile, tier, level for the 0-th output layer set in video coding
US10432951B2 (en) * 2014-06-24 2019-10-01 Qualcomm Incorporated Conformance and inoperability improvements in multi-layer video coding

Also Published As

Publication number Publication date
KR20220162741A (ko) 2022-12-08
WO2021201514A1 (ko) 2021-10-07
EP4131964A4 (en) 2024-04-17
EP4131964A1 (en) 2023-02-08
CN115668950A (zh) 2023-01-31
US20230141607A1 (en) 2023-05-11

Similar Documents

Publication Publication Date Title
KR102558495B1 (ko) Hls를 시그널링하는 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 컴퓨터 판독 가능한 기록 매체
JP7450747B2 (ja) 混成nalユニットタイプに基づく画像符号化/復号化方法及び装置、並びにビットストリームを伝送する方法
JP2024038212A (ja) 混成nalユニットタイプに基づく画像符号化/復号化方法及び装置、並びにビットストリームを伝送する方法
US20230188714A1 (en) Image encoding/decoding method and device for signaling aps identifier, and computer-readable recording medium in which bitstream is stored
JP2023521626A (ja) 出力レイヤセットに基づいてパラメータセットの参照如何を決定する画像符号化/復号化方法及び装置、並びにビットストリームを伝送する方法
JP7436703B2 (ja) Dpbパラメータをシグナリングする画像符号化/復号化方法及び装置、並びにビットストリームを保存したコンピュータ可読記録媒体
JP2023519980A (ja) Hrdパラメータをシグナリングする画像符号化/復号化方法及び装置、並びにビットストリームを保存したコンピュータ可読記録媒体
EP4131966A1 (en) Image encoding/decoding method and device for signaling dpb-related information and ptl-related information, and computer-readable recording medium in which bitstream is stored
US20230156230A1 (en) Image encoding/decoding method and device for signaling information relating to ptl, dpb, and hrd in sps, and computer-readable recording medium storing bitstream
US20230144793A1 (en) Image encoding/decoding method and apparatus for signaling information about number of dpb parameters, and computer-readable recording medium storing bitstream
US20230224483A1 (en) Image encoding/decoding method and apparatus for signaling picture output information, and computer-readable recording medium in which bitstream is stored
US20230254498A1 (en) Image encoding/decoding method and apparatus based on sublayer level information, and recording medium storing bitstream
US20230062754A1 (en) Image encoding/decoding method and apparatus for signaling ptl-related information, and computer-readable recording medium in which bitstream is stored
EP4329308A1 (en) Image encoding/decoding method and device based on sei message including layer identifier information, and method for transmitting bitstream
JP2023520534A (ja) Gdr又はirpaピクチャに対する利用可能スライスタイプ情報に基づく画像符号化/復号化方法及び装置、並びにビットストリームを保存する記録媒体
KR20230027180A (ko) 픽처 출력 타이밍 정보를 시그널링하는 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 컴퓨터 판독가능한 기록매체
JP2023520227A (ja) レイヤ間参照の如何に基づいてサブレイヤを決定する画像符号化/復号化方法及び装置、並びにビットストリームを伝送する方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221114

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231017

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240115

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240416