JP7427774B2 - サブビットストリーム抽出におけるspsエラー回避 - Google Patents

サブビットストリーム抽出におけるspsエラー回避 Download PDF

Info

Publication number
JP7427774B2
JP7427774B2 JP2022521009A JP2022521009A JP7427774B2 JP 7427774 B2 JP7427774 B2 JP 7427774B2 JP 2022521009 A JP2022521009 A JP 2022521009A JP 2022521009 A JP2022521009 A JP 2022521009A JP 7427774 B2 JP7427774 B2 JP 7427774B2
Authority
JP
Japan
Prior art keywords
layer
vps
sps
video
equal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022521009A
Other languages
English (en)
Other versions
JP2022551137A (ja
Inventor
イェ-クイ・ワン
Original Assignee
ホアウェイ・テクノロジーズ・カンパニー・リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ホアウェイ・テクノロジーズ・カンパニー・リミテッド filed Critical ホアウェイ・テクノロジーズ・カンパニー・リミテッド
Publication of JP2022551137A publication Critical patent/JP2022551137A/ja
Priority to JP2024008764A priority Critical patent/JP2024036399A/ja
Application granted granted Critical
Publication of JP7427774B2 publication Critical patent/JP7427774B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/188Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a video data packet, e.g. a network abstraction layer [NAL] unit
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/463Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • H04N19/52Processing of motion vectors by encoding by predictive encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/573Motion compensation with multiple frame prediction using two or more reference frames in a given prediction direction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

関連出願の相互参照
本特許出願は、参照により本明細書に組み込まれるYe-Kui Wangによって2019年10月7日に出願された「Scalability in Video Coding」なる名称の米国特許仮出願第62/911,808号に基づく優先権を主張する。
本開示は、概して、ビデオコーディングに関係し、具体的には、サブビットストリーム抽出がマルチレイヤビットストリーム上で実行される場合にエラーを防止するためのメカニズムに関係する。
比較的短いビデオであっても描画するために必要なビデオデータの量は実質的に大量になり得、その結果、データがストリーミングされるか、または帯域幅容量が限られている通信ネットワークを介した他の何らかの方法で伝達されるときに面倒なことが生じ得る。したがって、今日の電気通信ネットワークでは、ビデオデータは、伝達される前に圧縮されるのが一般的である。ビデオのサイズも、メモリリソースが限られていることもあり得るのでビデオがストレージデバイスに記憶されるとき、問題になる可能性がある。ビデオ圧縮デバイスは、伝送元でソフトウェアおよび/またはハードウェアを使用して伝送または記憶の前にビデオデータをコーディングし、それによってデジタルビデオイメージを表現するために必要なデータ量を削減することが多い。次いで、圧縮されたデータは、ビデオデータをデコードするビデオ伸張デバイスによって伝送先に受信される。ネットワークリソースに限度があり、求められる映像品質が高まる一方であることから、画質をほとんどまたはまったく犠牲にすることなく圧縮率を改善する圧縮および伸張技術の改善が望ましい。
一実施形態において、本開示は、デコーダによって実装される方法を含み、この方法はデコーダによって、レイヤに対するコーディング済みレイヤビデオシーケンス(CLVS)と、CLVSによって参照されるシーケンスパラメータセット(SPS)とを含むビットストリームを受信することであって、SPSは、レイヤがレイヤ間予測を使用しないときCLVSのnuh_layer_id値に等しいネットワーク抽象化レイヤ(NAL)ユニットヘッダレイヤ識別子(nuh_layer_id)値を有する、受信することと、デコーダによって、SPSに基づきCLVSからのコーディング済みピクチャをデコードして、デコード済みピクチャを生成することとを含む。
いくつかのビデオコーディングシステムは、ビデオシーケンスをピクチャのレイヤにコーディングする。異なるレイヤ内のピクチャは、異なる特性を有する。したがって、エンコーダは、デコーダ側の制約条件に応じて異なるレイヤをデコーダに伝送することができる。この機能を実行するために、エンコーダは、すべてのレイヤを単一のビットストリームにエンコードすることができる。要求に応じて、エンコーダは、ビットストリームから無関係な情報を除去するためにサブビットストリーム抽出プロセスを実行することができる。この結果は、デコーダによって要求されるレイヤ内のデータのみを含む抽出済みビットストリームである。レイヤがどのように関係付けられているかの記述は、ビデオパラメータセット(VPS)の中に含まれ得る。サイマルキャストレイヤは、他のレイヤを参照することなしに表示するように設定されたレイヤである。サイマルキャストレイヤがデコーダに伝送されるとき、サブビットストリーム抽出プロセスは、レイヤ関係がサイマルキャストレイヤをデコードするのに必要ないのでVPSを除去するものとしてよい。残念ながら、他のパラメータセット内のいくつかの変数は、VPSを参照し得る。それゆえに、サイマルキャストレイヤが伝送されるときVPSを除去することで、コーディング効率を高め得るが、その結果、エラーも引き起こし得る。さらに、SPSを正しく識別できなかった場合、結果として、SPSをVPSと一緒に誤って除去する可能性がある。これは、SPSが欠落している場合にデコーダにおいてレイヤが正しくデコードされ得ないので問題になることがある。本発明の例は、VPSがサブビットストリーム抽出中に除去されるときのエラーを回避するためのメカニズムを含む。具体的には、サブビットストリーム抽出プロセスは、nuh_layer_idsに基づきNALユニットを除去する。SPSは、CLVSがレイヤ間予測を使用しないレイヤに含まれるとき、SPSを参照するCLVSのnuh_layer_idに等しいnuh_layer_idを有するように制約される。レイヤ間予測を使用しないレイヤは、サイマルキャストレイヤである。それゆえに、SPSは、VPSが除去されたときのレイヤと同じnuh_layer_idを有する。この方法で、SPSは、サブビットストリーム抽出プロセスによって誤って除去され
ることがない。レイヤ間予測の使用は、VPS独立レイヤフラグ(vps_independent_layer_flag)によってシグナリングされる。しかしながら、vps_independent_layer_flagは、VPSが除去されると除去される。したがって、SPSがVPSを参照しないとき、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]として表される、現在のレイヤに対するvps_independent_layer_flagは1であると推論される。SPSは、SPS VPS識別子(sps_video_parameter_set_id)が0に設定されたとき、VPSを参照しない。さらに、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいとき(たとえば、VPSが存在しないとき)、デコーダおよび/または仮想参照デコーダ(HRD)は、現在のレイヤ/CLVSがレイヤ間予測を使用しないことを推論することができる。この一連の推論を採用することによって、SPSは、VPSおよび対応するパラメータがビットストリームから除去されたときであってもサブビットストリーム抽出プロセスによる抽出を回避するために適切なnuh_layer_idを含むように制約され得る。その結果、エンコーダおよびデコーダの機能性が向上する。さらに、コーディング効率は、サイマルキャストレイヤのみを含むビットストリームから不要なVPSを首尾よく除去することによって高められ、これにより、エンコーダとデコーダの両方においてプロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用量を低減する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、GeneralLayerIdx[nuh_layer_id]が現在のレイヤインデックスに等しい、ことを規定する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、vps_independent_layer_flagが対応するレイヤがレイヤ間予測を使用するかどうかを指定する、ことを規定する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいとき、レイヤがレイヤ間予測を使用しない、ことを規定する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、SPSが、SPSによって参照されるVPSに対する識別子(ID)の値を指定するsps_video_parameter_set_idを含み、sps_video_parameter_set_idが0に等しいとき、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]は1に等しいと推論される、ことを規定する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、sps_video_parameter_set_idが0に等しいとき、SPSはVPSを参照しない、ことを規定する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、CLVSが同じnuh_layer_id値を有するコーディング済みピクチャのシーケンスである、ことを規定する。
一実施形態において、本開示は、エンコーダによって実装される方法を含み、この方法はエンコーダによって、ビットストリーム内のレイヤに対するCLVSをエンコードすることと、エンコーダによって、ビットストリーム内に、CLVSによって参照されるSPSをエンコードすることであって、SPSは、レイヤがレイヤ間予測を使用しないときCLVSのnuh_layer_id値に等しいnuh_layer_id値を有するよう制約される、エンコードすることと、エンコーダによって、デコーダに向けた通信のためにビットストリームを記憶することとを含む。
いくつかのビデオコーディングシステムは、ビデオシーケンスをピクチャのレイヤにコーディングする。異なるレイヤ内のピクチャは、異なる特性を有する。したがって、エンコーダは、デコーダ側の制約条件に応じて異なるレイヤをデコーダに伝送することができる。この機能を実行するために、エンコーダは、すべてのレイヤを単一のビットストリームにエンコードすることができる。要求に応じて、エンコーダは、ビットストリームから無関係な情報を除去するためにサブビットストリーム抽出プロセスを実行することができる。この結果は、デコーダによって要求されるレイヤ内のデータのみを含む抽出済みビットストリームである。レイヤがどのように関係付けられているかの記述は、ビデオパラメータセット(VPS)の中に含まれ得る。サイマルキャストレイヤは、他のレイヤを参照することなしに表示するように設定されたレイヤである。サイマルキャストレイヤがデコーダに伝送されるとき、サブビットストリーム抽出プロセスは、レイヤ関係がサイマルキャストレイヤをデコードするのに必要ないのでVPSを除去するものとしてよい。残念ながら、他のパラメータセット内のいくつかの変数は、VPSを参照し得る。それゆえに、サイマルキャストレイヤが伝送されるときVPSを除去することで、コーディング効率を高め得るが、その結果、エラーも引き起こし得る。さらに、SPSを正しく識別できなかった場合、結果として、SPSをVPSと一緒に誤って除去する可能性がある。これは、SPSが欠落している場合にデコーダにおいてレイヤが正しくデコードされ得ないので問題になることがある。本発明の例は、VPSがサブビットストリーム抽出中に除去されるときのエラーを回避するためのメカニズムを含む。具体的には、サブビットストリーム抽出プロセスは、nuh_layer_idsに基づきNALユニットを除去する。SPSは、CLVSがレイヤ間予測を使用しないレイヤに含まれるとき、SPSを参照するCLVSのnuh_layer_idに等しいnuh_layer_idを有するように制約される。レイヤ間予測を使用しないレイヤは、サイマルキャストレイヤである。それゆえに、SPSは、VPSが除去されたときのレイヤと同じnuh_layer_idを有する。この方法で、SPSは、サブビットストリーム抽出プロセスによって誤って除去され
ることがない。レイヤ間予測の使用は、vps_independent_layer_flagによってシグナリングされる。しかしながら、vps_independent_layer_flagは、VPSが除去されると除去される。したがって、SPSがVPSを参照しないとき、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]として表される、現在のレイヤに対するvps_independent_layer_flagは1であると推論される。SPSは、sps_video_parameter_set_idが0に設定されたとき、VPSを参照しない。さらに、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいとき(たとえば、VPSが存在しないとき)、デコーダおよび/またはHRDは、現在のレイヤ/CLVSがレイヤ間予測を使用しないことを推論することができる。この一連の推論を採用することによって、SPSは、VPSおよび対応するパラメータがビットストリームから除去されたときであってもサブビットストリーム抽出プロセスによる抽出を回避するために適切なnuh_layer_idを含むように制約され得る。その結果、エンコーダおよびデコーダの機能性が向上する。さらに、コーディング効率は、サイマルキャストレイヤのみを含むビットストリームから不要なVPSを首尾よく除去することによって高められ、これにより、エンコーダとデコーダの両方においてプロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用量を低減する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、GeneralLayerIdx[nuh_layer_id]が現在のレイヤインデックスに等しい、ことを規定する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、vps_independent_layer_flagが対応するレイヤがレイヤ間予測を使用するかどうかを指定する、ことを規定する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいとき、レイヤがレイヤ間予測を使用しない、ことを規定する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、SPSが、SPSによって参照されるVPSに対するIDの値を指定するsps_video_parameter_set_idを含み、sps_video_parameter_set_idが0に等しいとき、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]は1に等しいと推論される、ことを規定する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、sps_video_parameter_set_idが0に等しいとき、SPSはVPSを参照しない、ことを規定する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、CLVSが同じnuh_layer_id値を有するコーディング済みピクチャのシーケンスである、ことを規定する。
一実施形態において、本開示は、ビデオコーディングデバイスを含み、これはプロセッサと、プロセッサに結合された受信器と、プロセッサに結合されたメモリと、プロセッサに結合された送信器とを備え、プロセッサ、受信器、メモリ、および送信器は、前述の態様のいずれかの方法を実行するように構成される。
一実施形態において、本開示は、ビデオコーディングデバイスによって使用するためのコンピュータプログラム製品を含む非一時的コンピュータ可読媒体を含み、コンピュータプログラム製品は、プロセッサによって実行されるとき、ビデオコーディングデバイスに前述の態様のいずれかの方法を実行させるように非一時的コンピュータ可読媒体に記憶されているコンピュータ実行可能命令を含む。
一実施形態において、本開示は、デコーダを含み、これはレイヤに対するCLVSおよびCLVSによって参照されるSPSを含むビットストリームを受信するための受信手段であって、SPSは、レイヤがレイヤ間予測を使用しないときCLVSのnuh_layer_id値に等しいnuh_layer_id値を有する、受信手段と、SPSに基づきCLVSからのコーディング済みピクチャをデコードして、デコード済みピクチャを生成するためのデコード手段と、デコード済みビデオシーケンスの一部として表示するためにデコード済みピクチャを転送するための転送手段とを備える。
いくつかのビデオコーディングシステムは、ビデオシーケンスをピクチャのレイヤにコーディングする。異なるレイヤ内のピクチャは、異なる特性を有する。したがって、エンコーダは、デコーダ側の制約条件に応じて異なるレイヤをデコーダに伝送することができる。この機能を実行するために、エンコーダは、すべてのレイヤを単一のビットストリームにエンコードすることができる。要求に応じて、エンコーダは、ビットストリームから無関係な情報を除去するためにサブビットストリーム抽出プロセスを実行することができる。この結果は、デコーダによって要求されるレイヤ内のデータのみを含む抽出済みビットストリームである。レイヤがどのように関係付けられているかの記述は、ビデオパラメータセット(VPS)の中に含まれ得る。サイマルキャストレイヤは、他のレイヤを参照することなしに表示するように設定されたレイヤである。サイマルキャストレイヤがデコーダに伝送されるとき、サブビットストリーム抽出プロセスは、レイヤ関係がサイマルキャストレイヤをデコードするのに必要ないのでVPSを除去するものとしてよい。残念ながら、他のパラメータセット内のいくつかの変数は、VPSを参照し得る。それゆえに、サイマルキャストレイヤが伝送されるときVPSを除去することで、コーディング効率を高め得るが、その結果、エラーも引き起こし得る。さらに、SPSを正しく識別できなかった場合、結果として、SPSをVPSと一緒に誤って除去する可能性がある。これは、SPSが欠落している場合にデコーダにおいてレイヤが正しくデコードされ得ないので問題になることがある。本発明の例は、VPSがサブビットストリーム抽出中に除去されるときのエラーを回避するためのメカニズムを含む。具体的には、サブビットストリーム抽出プロセスは、nuh_layer_idsに基づきNALユニットを除去する。SPSは、CLVSがレイヤ間予測を使用しないレイヤに含まれるとき、SPSを参照するCLVSのnuh_layer_idに等しいnuh_layer_idを有するように制約される。レイヤ間予測を使用しないレイヤは、サイマルキャストレイヤである。それゆえに、SPSは、VPSが除去されたときのレイヤと同じnuh_layer_idを有する。この方法で、SPSは、サブビットストリーム抽出プロセスによって誤って除去され
ることがない。レイヤ間予測の使用は、vps_independent_layer_flagによってシグナリングされる。しかしながら、vps_independent_layer_flagは、VPSが除去されると除去される。したがって、SPSがVPSを参照しないとき、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]として表される、現在のレイヤに対するvps_independent_layer_flagは1であると推論される。SPSは、sps_video_parameter_set_idが0に設定されたとき、VPSを参照しない。さらに、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいとき(たとえば、VPSが存在しないとき)、デコーダおよび/またはHRDは、現在のレイヤ/CLVSがレイヤ間予測を使用しないことを推論することができる。この一連の推論を採用することによって、SPSは、VPSおよび対応するパラメータがビットストリームから除去されたときであってもサブビットストリーム抽出プロセスによる抽出を回避するために適切なnuh_layer_idを含むように制約され得る。その結果、エンコーダおよびデコーダの機能性が向上する。さらに、コーディング効率は、サイマルキャストレイヤのみを含むビットストリームから不要なVPSを首尾よく除去することによって高められ、これにより、エンコーダとデコーダの両方においてプロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用量を低減する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、デコーダが前述の態様のいずれかの方法を実行するようにさらに構成される、ことを規定する。
一実施形態において、本開示は、エンコーダを含み、これはビットストリーム内のレイヤに対するCLVSをエンコードし、ビットストリーム内に、CLVSによって参照されるSPSをエンコードするためのエンコード手段であって、SPSは、レイヤがレイヤ間予測を使用しないときCLVSのnuh_layer_id値に等しいnuh_layer_id値を有するよう制約される、エンコード手段と、デコーダに向けた通信のためにビットストリームを記憶するための記憶手段とを備える。
いくつかのビデオコーディングシステムは、ビデオシーケンスをピクチャのレイヤにコーディングする。異なるレイヤ内のピクチャは、異なる特性を有する。したがって、エンコーダは、デコーダ側の制約条件に応じて異なるレイヤをデコーダに伝送することができる。この機能を実行するために、エンコーダは、すべてのレイヤを単一のビットストリームにエンコードすることができる。要求に応じて、エンコーダは、ビットストリームから無関係な情報を除去するためにサブビットストリーム抽出プロセスを実行することができる。この結果は、デコーダによって要求されるレイヤ内のデータのみを含む抽出済みビットストリームである。レイヤがどのように関係付けられているかの記述は、ビデオパラメータセット(VPS)の中に含まれ得る。サイマルキャストレイヤは、他のレイヤを参照することなしに表示するように設定されたレイヤである。サイマルキャストレイヤがデコーダに伝送されるとき、サブビットストリーム抽出プロセスは、レイヤ関係がサイマルキャストレイヤをデコードするのに必要ないのでVPSを除去するものとしてよい。残念ながら、他のパラメータセット内のいくつかの変数は、VPSを参照し得る。それゆえに、サイマルキャストレイヤが伝送されるときVPSを除去することで、コーディング効率を高め得るが、その結果、エラーも引き起こし得る。さらに、SPSを正しく識別できなかった場合、結果として、SPSをVPSと一緒に誤って除去する可能性がある。これは、SPSが欠落している場合にデコーダにおいてレイヤが正しくデコードされ得ないので問題になることがある。本発明の例は、VPSがサブビットストリーム抽出中に除去されるときのエラーを回避するためのメカニズムを含む。具体的には、サブビットストリーム抽出プロセスは、nuh_layer_idsに基づきNALユニットを除去する。SPSは、CLVSがレイヤ間予測を使用しないレイヤに含まれるとき、SPSを参照するCLVSのnuh_layer_idに等しいnuh_layer_idを有するように制約される。レイヤ間予測を使用しないレイヤは、サイマルキャストレイヤである。それゆえに、SPSは、VPSが除去されたときのレイヤと同じnuh_layer_idを有する。この方法で、SPSは、サブビットストリーム抽出プロセスによって誤って除去され
ることがない。レイヤ間予測の使用は、vps_independent_layer_flagによってシグナリングされる。しかしながら、vps_independent_layer_flagは、VPSが除去されると除去される。したがって、SPSがVPSを参照しないとき、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]として表される、現在のレイヤに対するvps_independent_layer_flagは1であると推論される。SPSは、sps_video_parameter_set_idが0に設定されたとき、VPSを参照しない。さらに、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいとき(たとえば、VPSが存在しないとき)、デコーダおよび/またはHRDは、現在のレイヤ/CLVSがレイヤ間予測を使用しないことを推論することができる。この一連の推論を採用することによって、SPSは、VPSおよび対応するパラメータがビットストリームから除去されたときであってもサブビットストリーム抽出プロセスによる抽出を回避するために適切なnuh_layer_idを含むように制約され得る。その結果、エンコーダおよびデコーダの機能性が向上する。さらに、コーディング効率は、サイマルキャストレイヤのみを含むビットストリームから不要なVPSを首尾よく除去することによって高められ、これにより、エンコーダとデコーダの両方においてプロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用量を低減する。
任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、エンコーダが前述の態様のいずれかの方法を実行するようにさらに構成される、ことを規定する。
わかりやすくするために、前述の実施形態のうちのいずれか1つが他の前述の実施形態のうちのいずれか1つまたは複数と組み合わされて、本開示の範囲内の新しい実施形態を形成するものとしてよい。
これらおよび他の特徴は、添付図面および請求項と併せて次の詳細な説明からより明確に理解されるであろう。
本開示をより完全に理解できるように、類似の番号は類似の部分を表す、添付図面および詳細な説明に関して以下の簡単な説明が参照される。
ビデオ信号をコーディングする例示的な一方法のフローチャートである。 ビデオコーディングのための例示的なコーディングおよびデコーディング(コーデック)システムの概略図である。 例示的なビデオエンコーダを例示する概略図である。 例示的なビデオデコーダを例示する概略図である。 例示的な仮想参照デコーダ(HRD)を例示する概略図である。 レイヤ間予測を行うように構成されている例示的なマルチレイヤビデオシーケンスを例示する概略図である。 例示的なビットストリームを例示する概略図である。 例示的なビデオコーディングデバイスの概略図である。 サイマルキャストレイヤに対するサブビットストリーム抽出時にシーケンスパラメータセット(SPS)を保持することをサポートするためにマルチレイヤビデオシーケンスをビットストリーム内にエンコードする例示的な方法のフローチャートである。 サブビットストリーム抽出時にSPSが保持されているマルチレイヤビットストリームから抽出されたサイマルキャストレイヤを含むビットストリームからビデオシーケンスをデコードする例示的な方法のフローチャートである。 サイマルキャストレイヤに対するサブビットストリーム抽出時にSPSを保持することをサポートするためにマルチレイヤビデオシーケンスをビットストリーム内にコーディングするための例示的なシステムの概略図である。
最初に、1つまたは複数の実施形態の例示的な実装が以下に提示されているが、開示されているシステムおよび/または方法は、現在知られているか、または存在している、いくつもの技術を使用することで実装され得ることは理解されるべきである。本開示は、本明細書において例示され、説明されている例示的な設計および実装を含む、以下に例示されている例示的な実装、図面、および技術に決して限定されるべきでないが、等価物の全範囲とともに付属の請求項の範囲内で修正され得る。
次の用語は、本明細書において反対の文脈で使用されていない限り次のように定義される。具体的には、次の定義は、本開示をさらに明確にすることを意図されている。しかしながら、用語は、異なる文脈において異なる形で説明され得る。したがって、次の定義は、補足として考慮されるべきであり、本明細書においてそのような用語に対して提供される説明のいかなる他の定義を制限するものとして考慮されるべきではない。
ビットストリームは、エンコーダとデコーダとの間の伝送のために圧縮されるビデオデータを含むビットのシーケンスである。エンコーダは、エンコーディングプロセスを使用してビデオデータをビットストリームに圧縮するように構成されるデバイスである。デコーダは、デコーディングプロセスを使用してビデオデータを表示のためにビットストリームに再構成するように構成されるデバイスである。ピクチャは、フレームまたはそのフィールドを作成するルーマサンプルの配列および/またはクロマサンプルの配列である。エンコードされているか、またはデコードされているピクチャは、説明を明確にするために現在のピクチャとして参照され得る。コーディング済みピクチャは、アクセスユニット(AU)内のNALユニットヘッダレイヤ識別子(nuh_layer_id)の特定の値を有するビデオコーディングレイヤ(VCL)ネットワーク抽象化レイヤ(NAL)ユニットを含み、ピクチャのすべてのコーディングツリーユニット(CTU)を含むピクチャのコーディング済み表現である。デコード済みピクチャは、コーディング済みピクチャにデコーディングプロセスを適用することによって生成されるピクチャである。NALユニットは、望ましい場合にエミュレーション防止バイトを散在させた、データの型の指示である、ローバイトシーケンスペイロード(RBSP)の形態のデータを含むシンタックス構造である。VCL NALユニットは、ピクチャのコーディング済みスライスなどの、ビデオデータを含むようにコーディングされたNALユニットである。非VCL NALユニットは、ビデオデータをデコードすること、適合性チェックの実行、または他の動作をサポートするシンタックスおよび/またはパラメータなどの非ビデオデータを含むNALユニットである。レイヤは、レイヤId(識別子)によって示されているような指定された特性(たとえば、共通の解像度、フレームレート、画像サイズなど)を共有するVCL NALユニットと、関連付けられている非VCL NALユニットとのセットである。NALユニットヘッダレイヤ識別子(nuh_layer_id)は、NALユニットを含むレイヤの識別子を指定するシンタックス要素である。
仮想参照デコーダ(HRD)は、エンコーディングプロセスによって生成されたビットストリームの変動性をチェックして、指定された制約条件への適合性を検証するエンコーダ上で動作するデコーダモデルである。ビットストリームの適合性テストは、エンコード済みビットストリームがバーサタイル・ビデオ・コーディング(VVC)などの規格に準拠しているかどうかを決定するためのテストである。ビデオパラメータセット(VPS)は、ビデオ全体に関係するパラメータを含むシンタックス構造である。シーケンスパラメータセット(SPS)は、0個またはそれ以上のコーディング済みレイヤビデオシーケンス(CLVS)全体に適用されるシンタックス要素を含むシンタックス構造である。CLVSは、同じnuh_layer_id値を有するコーディング済みピクチャのシーケンスである。SPSビデオパラメータセット識別子(sps_video_parameter_set_id)は、SPSによるVPS参照の識別子(ID)を指定するシンタックス要素である。一般レイヤインデックス(GeneralLayerIdx[i])は、対応するレイヤiのインデックスを指定する導出変数である。それゆえに、nuh_layer_idのレイヤIDを有する現在のレイヤは、GeneralLayerIdx[nuh_layer_id]によって指定されるインデックスを有する。現在のレイヤインデックスは、エンコードまたはデコードされているレイヤに対応するレイヤインデックスである。VPS独立レイヤフラグ(vps_independent_layer_flag[i])は、対応するレイヤiがレイヤ間予測を使用するかどうかを指定するシンタックス要素である。それゆえに、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]は、現在のレイヤがレイヤ間予測を使用するかどうかを指定する。レイヤ間予測は、異なるレイヤ(たとえば、同じアクセスユニット)からの参照ピクチャに基づき現在のレイヤの現在のピクチャのサンプル値のブロックをコーディングするメカニズムである。アクセスユニット(AU)は、同じ出力時間にすべて関連付けられている異なるレイヤ内のコーディング済みピクチャのセットである。VPSパラメータセット識別子(vps_video_parameter_set_id)は、他のシンタックス要素/構造による参照のためにVPSに対するIDを提供するシンタックス要素である。コーディング済みビデオシーケンスは、1つまたは複数のコーディング済みピクチャのセットである。デコード済みビデオシーケンスは、1つまたは複数のデコード済みピクチャのセットである。
本明細書において使用される頭字語は、アクセスユニット(AU)、コーディングツリーブロック(CTB)、コーディングツリーユニット(CTU)、コーディングユニット(CU)、コーディング済みレイヤビデオシーケンス(CLVS)、コーディング済みレイヤビデオシーケンス開始(CLVSS)、コーディング済みビデオシーケンス(CVS)、コーディング済みビデオシーケンス開始(CVSS)、ジョイントビデオエキスパートチーム(JVET)、仮想参照デコーダ(HRD)、動き制約タイルセット(MCTS)、最大転送ユニット(MTU)、ネットワーク抽象化レイヤ(NAL)、出力レイヤセット(OLS)、オペレーションポイント(OP)、ピクチャ順序カウント(POC)、ランダムアクセスポイント(RAP)、ローバイトシーケンスペイロード(RBSP)、シーケンスパラメータセット(SPS)、ビデオパラメータセット(VPS)、バーサタイル・ビデオ・コーディング(VVC)である。
多くのビデオ圧縮技術は、データの損失を最小限度に抑えてビデオファイルのサイズを縮小するために採用され得る。たとえば、ビデオ圧縮技術は、空間(たとえば、ピクチャ内)予測および/または時間(たとえば、ピクチャ間)予測を実行して、ビデオシーケンス内のデータ冗長性を低減するか、または除去することを含むことができる。ブロックベースのビデオコーディングのために、ビデオスライス(たとえば、ビデオピクチャ、またはビデオピクチャの一部)は、いくつかビデオブロックに区分化されてもよく、これは、ツリーブロック、コーディングツリーブロック(CTB)、コーディングツリーユニット(CTU)、コーディングユニット(CU)、および/またはコーディングノードと呼ばれることもある。ピクチャのイントラコーディング済み(I)スライス中のビデオブロックは、同じピクチャ中の近傍ブロック中の参照サンプルに対する空間予測を使用してコーディングされる。ピクチャのインターコーディング済み一方向予測(P)または双方向予測(B)スライス中のビデオブロックは、同じピクチャ中の近傍ブロック中の参照サンプルに関する空間予測、または他の参照ピクチャ中の参照サンプルに関する時間予測を採用することによってコーディングされ得る。ピクチャは、フレームおよび/または画像と称されてよく、参照ピクチャは、参照フレームおよび/または参照画像と称されてよい。空間予測または時間予測は、結果として、画像ブロックを表す予測ブロックをもたらす。残差データは、元の画像ブロックと予測ブロックとの間のピクセル差分を表す。したがって、インターコーディング済みブロックは、予測ブロックを形成する参照サンプルのブロックを指す動きベクトル、およびコーディング済みブロックと予測ブロックとの間の差分を示す残差データに従ってエンコードされる。イントラコーディング済みブロックは、イントラコーディングモードおよび残差データに従ってエンコードされる。さらに圧縮するために、残差データは、ピクセル領域から変換領域に変換され得る。これらの結果、残差変換係数が得られ、残差変換係数が量子化され得る。量子化済み変換係数は、最初に2次元配列に配列され得る。量子化済み変換係数は、変換係数の1次元ベクトルを生成するために走査され得る。エントロピーコーディングが、なおいっそうの圧縮を行うために適用され得る。そのようなビデオ圧縮技術は、以下でより詳しく説明される。
エンコード済みビデオが正確にデコードされ得ることを確実にするために、ビデオは、対応するビデオコーディング規格に従ってエンコードされ、デコードされる。ビデオコーディング規格は、国際電気通信連合(ITU)標準化部門(ITU-T)H.261、国際標準化機構/国際電気標準会議(ISO/IEC)モーションピクチャエキスパートグループ(MPEG)-1 Part 2、ITU-T H.262またはISO/IEC MPEG-2 Part 2、ITU-T H.263、ISO/IEC MPEG-4 Part 2、ITU-T H.264またはISO/IEC MPEG-4 Part 10としても知られている高度ビデオコーディング(AVC)、およびITU-T H.265またはMPEG-H Part 2としても知られている高効率ビデオコーディング(HEVC)を含む。AVCは、スケーラブルビデオコーディング(SVC)、マルチビュービデオコーディング(MVC)、マルチビュービデオコーディングプラス深さ(MVC+D)、および3次元(3D)AVC(3D-AVC)などの拡張機能を含む。HEVCは、スケーラブルHEVC(SHVC)、マルチビューHEVC(MV-HEVC)、および3D HEVC(3D-HEVC)などの拡張機能を含む。ITU-TおよびISO/IECのジョイントビデオエキスパートチーム(JVET)は、バーサタイル・ビデオ・コーディング(VVC)と称されるビデオコーディング規格の開発を開始している。VVCは、JVET-O2001-v14を含む、作業草案(WD)に含まれる。
いくつかのビデオコーディングシステムは、ビデオシーケンスをピクチャのレイヤにコーディングする。異なるレイヤ内のピクチャは、異なる特性を有する。したがって、エンコーダは、デコーダ側の制約条件に応じて異なるレイヤをデコーダに伝送することができる。この機能を実行するために、エンコーダは、すべてのレイヤを単一のビットストリームにエンコードすることができる。要求に応じて、エンコーダは、ビットストリームから無関係な情報を除去するためにサブビットストリーム抽出プロセスを実行することができる。この結果は、デコーダによって要求されるレイヤ内のデータのみを含む抽出済みビットストリームである。レイヤがどのように関係付けられているかの記述は、ビデオパラメータセット(VPS)の中に含まれ得る。サイマルキャストレイヤは、他のレイヤを参照することなしに表示するように設定されたレイヤである。サイマルキャストレイヤがデコーダに伝送されるとき、サブビットストリーム抽出プロセスは、レイヤ関係がサイマルキャストレイヤをデコードするのに必要ないのでVPSを除去するものとしてよい。残念ながら、他のパラメータセット内のいくつかの変数は、VPSを参照し得る。それゆえに、サイマルキャストレイヤが伝送されるときVPSを除去することで、コーディング効率を高め得るが、その結果、エラーも引き起こし得る。さらに、シーケンスパラメータセット(SPS)を正しく識別できなかった場合、結果として、SPSをVPSと一緒に誤って除去する可能性がある。これは、SPSが欠落している場合にデコーダにおいてレイヤが正しくデコードされ得ないので問題になることがある。
本明細書において開示されているのは、VPSがサブビットストリーム抽出中に除去されるときのエラーを回避するためのメカニズムである。具体的には、サブビットストリーム抽出プロセスは、NALユニットレイヤ識別子(nuh_layer_ids)に基づきネットワーク抽象化レイヤ(NAL)ユニットを除去する。SPSは、CLVSがレイヤ間予測を使用しないレイヤに含まれるとき、SPSを参照するコーディング済みレイヤビデオシーケンス(CLVS)のnuh_layer_idに等しいnuh_layer_idを有するように制約される。レイヤ間予測を使用しないレイヤは、サイマルキャストレイヤである。それゆえに、SPSは、VPSが除去されたときのレイヤと同じnuh_layer_idを有する。この方法で、SPSは、サブビットストリーム抽出プロセスによって誤って除去されることがない。レイヤ間予測の使用は、VPS独立レイヤフラグ(vps_independent_layer_flag)によってシグナリングされる。しかしながら、vps_independent_layer_flagは、VPSが除去されると除去される。したがって、SPSがVPSを参照しないとき、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]として表される、現在のレイヤに対するvps_independent_layer_flagは1であると推論される。SPSは、SPS VPS識別子(sps_video_parameter_set_id)が0に設定されたとき、VPSを参照しない。さらに、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいとき(たとえば、VPSが存在しないとき)、デコーダおよび/または仮想参照デコーダ(HRD)は、現在のレイヤ/CLVSがレイヤ間予測を使用しないことを推論することができる。この一連の推論を採用することによって、SPSは、VPSおよび対応するパラメータがビットストリームから除去されたときであってもサブビットストリーム抽出プロセスによる抽出を回避するために適切なnuh_layer_idを含むように制約され得る。その結果、エンコーダおよびデコーダの機能性が向上する。さらに、コーディング効率は、サイマルキャストレイヤのみを含むビットストリームから不要なVPSを首尾よく除去することによって高められ、これにより、エンコーダとデコーダの両方においてプロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用量を低減する。
図1は、ビデオ信号をコーディングする例示的な動作方法100のフローチャートである。具体的には、ビデオ信号は、エンコーダにおいてエンコードされる。エンコーディングプロセスは、様々なメカニズムを使用することによってビデオ信号を圧縮し、ビデオファイルサイズを縮小する。より小さいファイルサイズは、関連する帯域幅オーバーヘッドを低減しながら、圧縮済みビデオファイルがユーザへ伝送されることを可能にする。次に、エンドユーザに表示するために、デコーダは圧縮済みビデオファイルをデコードし、元のビデオ信号を再構成する。デコーディングプロセスは、一般的に、デコーダが一貫してビデオ信号を再構成することを可能にするようにエンコーディングプロセスをミラーリングする。
ステップ101で、ビデオ信号は、エンコーダに入力される。たとえば、ビデオ信号は、メモリに記憶されている非圧縮ビデオファイルであってもよい。別の例として、ビデオファイルは、ビデオカメラなどのビデオキャプチャデバイスによってキャプチャされ、ビデオのライブストリーミングをサポートするようにエンコードされ得る。ビデオファイルは、音声コンポーネントとビデオコンポーネントの両方を含み得る。ビデオコンポーネントは、順に視聴されたとき、動きの視覚的な印象を与える一連の画像フレームを含む。フレームは、本明細書においてルーマ成分(またはルーマサンプル)と称される光、およびクロマ成分(または色サンプル)と呼ばれる色に関して表現されるピクセルを含む。いくつかの例において、フレームは、3次元表示をサポートするために深度値も含み得る。
ステップ103で、ビデオはいくつかのブロックに区分化される。区分化することは、圧縮のために各フレーム内のピクセルを正方形および/または長方形のブロックに細分することを含む。たとえば、高効率ビデオコーディング(HEVC)(H.265およびMPEG-H Part 2としても知られている)において、フレームは、最初に、事前定義されたサイズ(たとえば、64ピクセル×64ピクセル)のブロックである、コーディングツリーユニット(CTU)に分割され得る。CTUは、ルーマサンプルとクロマサンプルの両方を含む。コーディングツリーは、CTUをいくつかのブロックに分割し、次いでさらなるエンコーディングをサポートする構成が達成されるまでブロックを再帰的に細分するために採用され得る。たとえば、フレームのルーマ成分は、個々のブロックが比較的均質な照明値を含むまで細分化され得る。さらに、フレームのクロマ成分は、個々のブロックが比較的均質な色値を含むまで細分化され得る。したがって、区分化メカニズムは、ビデオフレームのコンテンツによって異なる。
ステップ105で、各様々な圧縮メカニズムが採用され、ステップ103で区分化された画像ブロックを圧縮する。たとえば、インター予測および/またはイントラ予測が採用され得る。インター予測は、共通のシーン内のオブジェクトが連続するフレーム内に出現する傾向があるという事実を利用するように設計されている。したがって、参照フレーム内のオブジェクトを描写するブロックは、隣接するフレーム内に繰り返し記述される必要はない。具体的には、テーブルなどのオブジェクトは、複数のフレームにわたって一定の位置に留まり得る。したがって、テーブルは、一度記述されると、隣接するフレームが参照フレームを再度参照することができる。複数のフレームにまたがるオブジェクトのマッチングには、パターンマッチングメカニズムが採用され得る。さらに、オブジェクトの移動やカメラの移動などにより、複数のフレームにまたがって移動するオブジェクトが表現され得る。特定の例として、ビデオは、複数のフレームにわたって画面上を移動する自動車を示し得る。動きベクトルは、そのような移動を記述するために使用することができる。動きベクトルは、フレーム内のオブジェクトの座標から参照フレーム内のオブジェクトの座標へのオフセットを提供する2次元ベクトルである。それゆえに、インター予測は、現在のフレーム内の画像ブロックを、参照フレーム内の対応するブロックからのオフセットを示す動きベクトルのセットとしてエンコードすることができる。
イントラ予測は、共通フレーム内のブロックをエンコードする。イントラ予測は、ルーマ成分およびクロマ成分がフレーム内でクラスタ化する傾向があるという事実を利用する。たとえば、木の一部における緑色のパッチは、緑色の類似のパッチに隣接して位置決めされる傾向がある。イントラ予測では、複数の方向予測モード(たとえば、HEVCでは33種類)、平面モード、および直流(DC)モードを使用する。これらの方向モードは、現在のブロックが、対応する方向の近傍ブロックのサンプルと類似している/同じであることを示す。平面モードは、行/列(たとえば、平面)に沿った一連のブロックが、行の端にある近傍ブロックに基づき補間され得ることを示す。平面モードは、実際には、変化する値における比較的一定の勾配を使用することによって行/列にまたがる光/色の滑らかな遷移を示す。DCモードは、境界平滑化に使用され、ブロックが方向予測モードの角度方向に関連するすべての近傍ブロックのサンプルに関連付けられている平均値に類似する/同じであることを示す。したがって、イントラ予測ブロックは、実際の値ではなく様々な関係予測モード値として画像ブロックを表現することができる。さらに、インター予測ブロックは、実際の値ではなく動きベクトル値として画像ブロックを表現することができる。いずれの場合も、予測ブロックは、いくつかの場合において画像ブロックを正確に表さないことがある。任意の差分が、残差ブロック内に収められる。ファイルをさらに圧縮するために、変換が残差ブロックに適用され得る。
ステップ107で、様々なフィルタリング技術が適用され得る。HEVCでは、フィルタは、ループ内フィルタリングスキームに従って適用される。上で説明されているブロックベースの予測の結果、デコーダにおいてブロック状画像が作成され得る。さらに、ブロックベースの予測スキームは、ブロックをエンコードし、次いで、参照ブロックとして後で使用するためにエンコード済みブロックを再構成し得る。ループ内フィルタリングスキームは、ノイズ抑制フィルタ、デブロッキングフィルタ、適応ループフィルタ、およびサンプル適応オフセット(SAO)フィルタをブロック/フレームに反復適用する。これらのフィルタは、そのようなブロッキングアーチファクトを軽減し、それによりエンコード済みファイルが正確に再構成され得る。さらに、これらのフィルタは、再構成済み参照ブロック内のアーチファクトを軽減し、それにより、アーチファクトが再構成済み参照ブロックに基づきエンコードされる後続のブロック内にさらなるアーチファクトを生じさせる可能性が低くなる。
ビデオ信号が区分化され、圧縮され、フィルタリングされた後、結果として得られたデータは、ステップ109でビットストリームにエンコードされる。ビットストリームは、上で説明されているデータ、さらにはデコーダにおいて適切なビデオ信号再構成をサポートするために望ましい任意のシグナリングデータを含む。たとえば、そのようなデータは、区分データ、予測データ、残差ブロック、およびコーディング命令をデコーダに送る様々なフラグを含み得る。ビットストリームは、要求に応じてデコーダに向けて伝送するためにメモリに記憶され得る。ビットストリームは、また、複数のデコーダに向けてブロードキャストされ、および/またはマルチキャストされてもよい。ビットストリームの作成は、反復プロセスである。したがって、ステップ101、103、105、107、および109は、多数のフレームおよびブロックにわたって連続的に、および/または同時に実行され得る。図1に示されている順序は、説明を明確にし、容易にするために提示されており、ビデオコーディングプロセスを特定の順序に制限することを意図されていない。
デコーダは、ビットストリームを受信し、ステップ111でデコーディングプロセスを開始する。具体的には、デコーダは、エントロピーデコーディングスキームを使用して、ビットストリームを対応するシンタックスおよびビデオデータに変換する。デコーダは、ステップ111で、ビットストリームからのシンタックスデータを使用して、フレームに対する区分を決定する。区分化は、ステップ103におけるブロック区分化の結果と一致するべきである。次に、ステップ111で採用されているようなエントロピーエンコーディング/デコーディングについて説明する。エンコーダは、入力画像における値の空間的位置決めに基づきいくつかの可能な選択肢からブロック区分化スキームを選択するなど、圧縮プロセスにおいて多くの選択を行う。正確な選択肢をシグナリングすることでは、多数のビンが使用され得る。本明細書において使用されているように、ビンは、変数として扱われる2値(たとえば、文脈に応じて変化し得るビット値)である。エントロピーコーディングは、エンコーダが特定のケースに対して明らかに実行不可能である任意のオプションを破棄し、許容可能なオプションのセットを残すことを可能にする。次いで、各許容可能なオプションは、コードワードを割り当てられる。コードワードの長さは、許容可能なオプションの数に基づく(たとえば、2つのオプションには1つのビン、3から4つのオプションには2つのビンなど)。次いで、エンコーダは、選択されたオプションに対してコードワードをエンコードする。このスキームでは、コードワードは可能なすべてのオプションの潜在的に大きいセットからの選択を一意的に示すこととは反対に、許容可能なオプションの小さいサブセットからの選択を一意的に示すために望ましい大きさであるので、コードワードのサイズを縮小する。次いで、デコーダは、エンコーダと似た方式で、許容可能なオプションのセットを決定することによって選択をデコードする。許容可能なオプションのセットを決定することによって、デコーダは、コードワードを読み出し、エンコーダによって行われた選択を決定することができる。
ステップ113で、デコーダは、ブロックデコーディングを実行する。具体的には、デコーダは、逆変換を採用して、残差ブロックを生成する。次いで、デコーダは、区分化に従って画像ブロックを再構成するために残差ブロックおよび対応する予測ブロックを使用する。予測ブロックは、ステップ105においてエンコーダで生成されるようなイントラ予測ブロックとインター予測ブロックの両方を含み得る。次いで、再構成済み画像ブロックは、ステップ111で決定された区分化データに従って再構成済みビデオ信号のフレーム内に位置決めされる。ステップ113に対するシンタックスは、また、上で説明されているようにエントロピーコーディングを介してビットストリーム内でシグナリングされ得る。
ステップ115で、フィルタリングは、エンコーダでステップ107に類似する方式により再構成済みビデオ信号のフレーム上で実行される。たとえば、ノイズ抑制フィルタ、デブロッキングフィルタ、適応ループフィルタ、およびSAOフィルタが、ブロッキングアーチファクトを除去するためにフレームに適用され得る。フレームがフィルタリングされた後、ビデオ信号は、エンドユーザによる視聴のためにステップ117でディスプレイに出力され得る。
図2は、ビデオコーディングのための例示的なコーディングおよびデコーディング(コーデック)システム200の概略図である。具体的には、コーデックシステム200は、動作方法100の実装形態をサポートするための機能性を提供する。コーデックシステム200は、エンコーダとデコーダの両方において採用されるコンポーネントを描くように一般化されている。コーデックシステム200は、動作方法100のステップ101および103に関して説明されているようにビデオ信号を受信し、区分化し、その結果、区分化済みビデオ信号201が得られる。次いで、コーデックシステム200は、方法100におけるステップ105、107、および109に関して説明されているようにエンコーダとして動作するとき、区分化済みビデオ信号201をコーディング済みビットストリームに圧縮する。コーデックシステム200は、デコーダとして動作するとき、動作方法100のステップ111、113、115、および117に関して説明されているようにビットストリームから出力ビデオ信号を生成する。コーデックシステム200は、一般コーダ制御コンポーネント211、変換スケーリングおよび量子化コンポーネント213、ピクチャ内推定コンポーネント215、ピクチャ内予測コンポーネント217、動き補償コンポーネント219、動き推定コンポーネント221、スケーリングおよび逆変換コンポーネント229、フィルタ制御分析コンポーネント227、ループ内フィルタコンポーネント225、デコード済みピクチャバッファコンポーネント223、ならびにヘッダフォーマッティングおよびコンテキスト適応2値算術コーディング(CABAC)コンポーネント231を含む。そのようなコンポーネントは、図示されているように結合される。図2において、黒線はエンコード/デコードされるべきデータの動きを示し、破線は他のコンポーネントの動作を制御する制御データの動きを示している。コーデックシステム200のコンポーネントは、すべて、エンコーダ内に存在してもよい。デコーダは、コーデックシステム200のコンポーネントのサブセットを含み得る。たとえば、デコーダは、ピクチャ内予測コンポーネント217、動き補償コンポーネント219、スケーリングおよび逆変換コンポーネント229、ループ内フィルタコンポーネント225、およびデコード済みピクチャバッファコンポーネント223を含み得る。次に、これらのコンポーネントについて説明される。
区分化済みビデオ信号201は、コーディングツリーによってピクセルのいくつかのブロックに区分化されたキャプチャ済みビデオシーケンスである。コーディングツリーは、ピクセルのブロックをピクセルのより小さいブロックに細分するために様々な分割モードを採用する。次いで、これらのブロックは、より小さいブロックにさらに細分され得る。ブロックは、コーディングツリーのノードと称されてもよい。より大きい親ノードは、より小さい子ノードに分割される。ノードが細分される回数は、ノード/コーディングツリーの深さと称される。分割済みブロックは、いくつかの場合において、コーディングユニット(CU)に含まれ得る。たとえば、CUは、CUに対する対応するシンタックス命令とともに、ルーマブロック、赤色差クロマ(Cr)ブロック、および青色差クロマ(Cb)ブロックを含むCTUのサブ部分であってよい。分割モードは、ノードを採用された分割モードに応じて様々な形状の2つ、3つ、または4つの子ノードにそれぞれ区分化するために採用される二分木(BT)、三分木(TT)、および四分木(QT)を含み得る。区分化済みビデオ信号201は、圧縮のために一般コーダ制御コンポーネント211、変換スケーリングおよび量子化コンポーネント213、ピクチャ内推定コンポーネント215、フィルタ制御分析コンポーネント227、および動き推定コンポーネント221に転送される。
一般コーダ制御コンポーネント211は、アプリケーション制約に従って、ビットストリームへのビデオシーケンスの画像のコーディングに関係する決定を行うように構成される。たとえば、一般コーダ制御コンポーネント211は、再構成品質に対するビットレート/ビットストリームサイズの最適化を管理する。そのような決定は、ストレージスペース/帯域幅の利用可能性および画像解像度要求に基づき行われ得る。一般コーダ制御コンポーネント211は、また、バッファアンダーランおよびバッファオーバーランの問題を軽減するために伝送速度に照らしてバッファ利用を管理する。これらの問題を管理するために、一般コーダ制御コンポーネント211は、他のコンポーネントによる区分化、予測、およびフィルタリングを管理する。たとえば、一般コーダ制御コンポーネント211は、解像度を上げ、帯域幅使用量を増やすために圧縮複雑度を動的に上げるか、または解像度および帯域幅使用量を減らすために圧縮複雑度を下げるものとしてよい。したがって、一般コーダ制御コンポーネント211は、コーデックシステム200の他のコンポーネントを制御して、ビデオ信号再構成品質とビットレートの問題点とのバランスをとる。一般コーダ制御コンポーネント211は、他のコンポーネントの動作を制御する、制御データを作成する。制御データは、ヘッダフォーマッティングおよびCABACコンポーネント231にも転送され、ビットストリーム内にエンコードされ、デコーダでのデコーディングのためにパラメータをシグナリングする。
区分化済みビデオ信号201はまた、インター予測のために、動き推定コンポーネント221および動き補償コンポーネント219に送信される。区分化済みビデオ信号201のフレームまたはスライスは、複数のビデオブロックに分割され得る。動き推定コンポーネント221および動き補償コンポーネント219は、時間予測を行うため1つまたは複数の参照フレーム内の1つまたは複数のブロックに関して受信されたビデオブロックのインター予測コーディングを実行する。コーデックシステム200は、複数のコーディングパスを実行して、たとえば、ビデオデータの各ブロックに対する適切なコーディングモードを選択し得る。
動き推定コンポーネント221および動き補償コンポーネント219は、高度に統合されてもよいが、概念的な目的のために別々に例示されている。動き推定コンポーネント221によって実行される動き推定は、ビデオブロックに関する動きを推定する、動きベクトルを生成するプロセスである。動きベクトルは、たとえば、予測ブロックに関するコーディング済みオブジェクトの変位を示し得る。予測ブロックは、ピクセル差分に関して、コーディングされるべきブロックとよくマッチすることが判明しているブロックである。予測ブロックは、参照ブロックとも称され得る。そのようなピクセル差分は、差分絶対値和(SAD)、差分二乗和(SSD)、または他の差分メトリックによって決定され得る。HEVCは、CTU、コーディングツリーブロック(CTB)、およびCUを含むいくつかのコーディング済みオブジェクトを採用する。たとえば、CTUは、CTBに分割され、次いでこれはCUに含まれるようにCBに分割され得る。CUは、予測データを含む予測ユニット(PU)および/またはCUに対する変換済み残差データを含む変換ユニット(TU)としてエンコードされ得る。動き推定コンポーネント221は、レート歪み最適化プロセスの一部としてレート歪み分析を使用することによって、動きベクトル、PU、およびTUを生成する。たとえば、動き推定コンポーネント221は、現在のブロック/フレームに対して複数の参照ブロック、複数の動きベクトルなどを決定し、最良のレート歪み特性を有する参照ブロック、動きベクトルなどを選択し得る。最良のレート歪み特性は、ビデオ再構成の品質(たとえば、圧縮によるデータ損失の量)とコーディング効率(たとえば、最終的エンコーディングのサイズ)の両方のバランスをとる。
いくつかの例において、コーデックシステム200は、デコード済みピクチャバッファコンポーネント223内に記憶されている参照ピクチャのサブ整数ピクセル位置に対する値を計算し得る。たとえば、ビデオコーデックシステム200は、参照ピクチャの1/4ピクセル位置、1/8ピクセル位置、または他の分数ピクセル位置の値を補間し得る。したがって、動き推定コンポーネント221は、フルピクセル位置および分数ピクセル位置に対する動き探索を実行し、分数ピクセル精度で動きベクトルを出力してもよい。動き推定コンポーネント221は、PUの位置と参照ピクチャの予測ブロックの位置とを比較することによって、インターコーディング済みスライス内のビデオブロックのPUに対する動きベクトルを計算する。動き推定コンポーネント221は、動き補償コンポーネント219へのエンコーディングおよび動きに対するヘッダフォーマッティングおよびCABACコンポーネント231への動きデータとして計算済み動きベクトルとして出力する。
動き補償コンポーネント219によって実行される動き補償は、動き推定コンポーネント221によって決定された動きベクトルに基づき予測ブロックをフェッチするか、または生成することを伴い得る。ここでもまた、動き推定コンポーネント221および動き補償コンポーネント219は、いくつかの例において、機能的に一体化され得る。現在のビデオブロックのPUのための動きベクトルを受信すると、動き補償コンポーネント219は、動きベクトルが指す予測ブロックの位置を特定し得る。次いで、残差ビデオブロックは、コーディングされている現在のビデオブロックのピクセル値から予測ブロックのピクセル値を減算し、ピクセル差分値を形成することによって形成される。一般に、動き推定コンポーネント221は、ルーマ成分に関して動き推定を実行し、動き補償コンポーネント219は、クロマ成分とルーマ成分の両方に対してルーマ成分に基づき計算された動きベクトルを使用する。予測ブロックおよび残差ブロックは、変換スケーリングおよび量子化コンポーネント213に転送される。
区分化済みビデオ信号201は、また、ピクチャ内推定コンポーネント215およびピクチャ内予測コンポーネント217に送信される。動き推定コンポーネント221および動き補償コンポーネント219と同様に、ピクチャ内推定コンポーネント215およびピクチャ内予測コンポーネント217は、高度に統合され得るが、概念的な目的のために別々に例示されている。ピクチャ内推定コンポーネント215およびピクチャ内予測コンポーネント217は、上で説明されているように、フレーム間で、動き推定コンポーネント221および動き補償コンポーネント219によって実行されるインター予測の代替として、現在のフレーム内のブロックに関して現在のブロックをイントラ予測する。特に、ピクチャ内推定コンポーネント215は、現在のブロックをエンコードするために使用するイントラ予測モードを決定する。いくつかの例では、ピクチャ内推定コンポーネント215は、複数のテスト済みイントラ予測モードから現在のブロックをエンコードするために適切なイントラ予測モードを選択する。次いで、選択されたイントラ予測モードは、エンコードのためにヘッダフォーマッティングおよびCABACコンポーネント231に転送される。
たとえば、ピクチャ内推定コンポーネント215は、様々なテスト済みイントラ予測モードに対してレート歪み分析を使用してレート歪み値を計算し、テスト済みモードの中から最良のレート歪み特性を有するイントラ予測モードを選択する。レート歪み分析では、一般的に、エンコード済みブロックとエンコード済みブロックを生成するためにエンコードされた元の未エンコードブロックとの間の歪み(またはエラー)の量、さらにはエンコード済みブロックを生成するために使用されるビットレート(たとえば、ビットの数)を決定する。ピクチャ内推定コンポーネント215は、どのイントラ予測モードがブロックに対して最良のレート歪み値を示すのかを決定するために様々なエンコード済みブロックに対する歪みおよびレートから比率を計算する。それに加えて、ピクチャ内推定コンポーネント215は、レート歪み最適化(RDO)に基づき深度モデリングモード(DMM)を使用して深度マップの深度ブロックをコーディングするように構成され得る。
ピクチャ内予測コンポーネント217は、エンコーダで実装されたとき、ピクチャ内推定コンポーネント215によって決定された選択済みイントラ予測モードに基づき予測ブロックから残差ブロックを生成するか、またはデコーダで実装されたとき、ビットストリームから残差ブロックを読み出すものとしてよい。残差ブロックは、行列として表される、予測ブロックと元のブロックとの間の値の差分を含む。次いで、残差ブロックは、変換スケーリングおよび量子化コンポーネント213に転送される。ピクチャ内推定コンポーネント215およびピクチャ内予測コンポーネント217は、ルーマ成分とクロマ成分の両方で動作し得る。
変換スケーリングおよび量子化コンポーネント213は、残差ブロックをさらに圧縮するように構成される。変換スケーリングおよび量子化コンポーネント213は、離散コサイン変換(DCT)、離散サイン変換(DST)、または概念的に類似する変換などの、変換を残差ブロックに適用し、残差変換係数値を含むビデオブロックを生成する。ウエーブレット変換、整数変換、サブバンド変換、または他のタイプの変換が使用されことも可能であろう。この変換は、ピクセル値領域からの残差情報を周波数領域などの変換領域に変換し得る。変換スケーリングおよび量子化コンポーネント213は、たとえば周波数に基づき、変換済み残差情報をスケーリングするようにも構成される。そのようなスケーリングは、異なる周波数情報が異なる粒度で量子化されるように、残差情報にスケール係数を適用することを伴い、これは、再構成済みビデオの最終的な視覚的品質に影響を及ぼし得る。変換スケーリングおよび量子化コンポーネント213は、ビットレートをさらに低減するために変換係数を量子化するようにも構成される。量子化プロセスは、係数の一部または全部に関連付けられているビット深度を低減し得る。量子化の程度は、量子化パラメータを調整することによって変更され得る。いくつかの例では、変換スケーリングおよび量子化コンポーネント213は、次いで、量子化済み変換係数を含む行列の走査を実行し得る。量子化済み変換係数は、ヘッダフォーマッティングおよびCABACコンポーネント231に転送され、ビットストリーム内にエンコードされる。
スケーリングおよび逆変換コンポーネント229は、動き推定をサポートするように変換スケーリングおよび量子化コンポーネント213の逆演算を適用する。スケーリングおよび逆変換コンポーネント229は、たとえば、別の現在のブロックに対する予測ブロックになり得る参照ブロックとして後で使用するために、ピクセル領域内に残差ブロックを再構成するように逆スケーリング、変換、および/または量子化を適用する。動き推定コンポーネント221および/または動き補償コンポーネント219は、後のブロック/フレームの動き推定において使用するために対応する予測ブロックに残差ブロックを追加して戻すことによって、参照ブロックを計算し得る。フィルタが再構成済み参照ブロックに適用され、それによりスケーリング、量子化、および変換時に作成されたアーチファクトを軽減する。そのようなアーチファクトは、さもなければ、後続のブロックが予測されるとき、不正確な予測を引き起こす(そして、追加のアーチファクトを作成する)可能性もある。
フィルタ制御分析コンポーネント227およびループ内フィルタコンポーネント225は、残差ブロックおよび/または再構成済み画像ブロックにフィルタを適用する。たとえば、スケーリングおよび逆変換コンポーネント229からの変換済み残差ブロックは、ピクチャ内予測コンポーネント217および/または動き補償コンポーネント219からの対応する予測ブロックと組み合わされて、元の画像ブロックを再構成し得る。次いで、フィルタが、再構成済み画像ブロックに適用され得る。いくつかの例では、フィルタは、代わりに残差ブロックに適用されてもよい。図2の他のコンポーネントと同様に、フィルタ制御分析コンポーネント227およびループ内フィルタコンポーネント225は、高度に統合されており、一緒に実装され得るが、概念的な目的のために別々に描かれている。再構成済み参照ブロックに適用されるフィルタは、特定の空間領域に適用され、そのようなフィルタがどのように適用されるかを調整するための複数のパラメータを含む。フィルタ制御分析コンポーネント227は、再構成済み参照ブロックを解析して、そのようなフィルタが適用されるべき場所を決定し、対応するパラメータを設定する。そのようなデータは、エンコーディングのためのフィルタ制御データとしてヘッダフォーマッティングおよびCABACコンポーネント231に転送される。ループ内フィルタコンポーネント225は、フィルタ制御データに基づき、そのようなフィルタを適用する。フィルタは、デブロッキングフィルタ、ノイズ抑制フィルタ、SAOフィルタ、および適応ループフィルタを含んでもよい。そのようなフィルタは、例に応じて、空間/ピクセル領域(たとえば、再構成済みピクセルブロック上)または周波数領域内で適用され得る。
エンコーダとして動作するとき、フィルタリングされた再構成済み画像ブロック、残差ブロック、および/または予測ブロックは、上で説明されているように動き推定で後から使用するためにデコード済みピクチャバッファコンポーネント223に記憶される。デコーダとして動作するとき、デコード済みピクチャバッファコンポーネント223は、再構成済みおよびフィルタリング済みブロックを記憶し、出力ビデオ信号の一部としてディスプレイへ転送する。デコード済みピクチャバッファコンポーネント223は、予測ブロック、残留ブロック、および/または再構成済み画像ブロックを記憶することができる任意のメモリデバイスであってよい。
ヘッダフォーマッティングおよびCABACコンポーネント231は、コーデックシステム200の様々なコンポーネントからデータを受信し、そのようなデータを、デコーダに向けて伝送するためにコーディング済みビットストリーム内にエンコードする。具体的には、ヘッダフォーマッティングおよびCABACコンポーネント231は、一般制御データおよびフィルタ制御データなどの制御データをエンコードするために、様々なヘッダを生成する。さらに、イントラ予測データおよび動きデータを含む予測データ、さらには量子化済み変換係数データの形態の残差データは、すべてビットストリーム内にエンコードされる。最終的なビットストリームは、元の区分化済みビデオ信号201を再構成するためにデコーダに望ましいすべての情報を含む。そのような情報は、イントラ予測モードインデックステーブル(コードワードマッピングテーブルとも称される)、様々なブロックに対するエンコーディングコンテキストの定義、最もあり得そうなイントラ予測モードの指示、区分情報の指示なども含み得る。そのようなデータは、エントロピーコーディングを採用することによってエンコードされ得る。たとえば、情報は、コンテキスト適応可変長コーディング(CAVLC)、CABAC、シンタックスベースコンテキスト適応2値算術コーディング(SBAC)、確率区間区分化エントロピー(PIPE)コーディング、または別のエントロピーコーディング技術を採用することによってエンコードされ得る。エントロピーコーディングに従って、コーディング済みビットストリームは、別のデバイス(たとえば、ビデオデコーダ)に伝送されるか、または後から伝送するか、もしくは除去するためにアーカイブされ得る。
図3は、例示的なビデオエンコーダ300を例示するブロック図である。ビデオエンコーダ300は、コーデックシステム200のエンコーディング機能を実装し、および/または動作方法100のステップ101、103、105、107、および/または109を実装するために採用され得る。エンコーダ300は、入力ビデオ信号を区分化し、その結果、区分化済みビデオ信号301が得られ、これは区分化済みビデオ信号201に実質的に類似している。次いで、区分化済みビデオ信号301は、エンコーダ300のコンポーネントによってビットストリーム内に圧縮され、エンコードされる。
具体的には、区分化済みビデオ信号301は、イントラ予測のためにピクチャ内予測コンポーネント317に転送される。ピクチャ内予測コンポーネント317は、ピクチャ内推定コンポーネント215およびピクチャ内予測コンポーネント217と実質的に類似しているものとしてよい。区分化済みビデオ信号301は、また、デコード済みピクチャバッファコンポーネント323内の参照ブロックに基づくインター予測のために動き補償コンポーネント321に転送される。動き補償コンポーネント321は、動き推定コンポーネント221および動き補償コンポーネント219と実質的に類似しているものとしてよい。ピクチャ内予測コンポーネント317および動き補償コンポーネント321からの予測ブロックおよび残差ブロックは、残差ブロックの変換および量子化のために、変換および量子化コンポーネント313に転送される。変換および量子化コンポーネント313は、変換スケーリングおよび量子化コンポーネント213と実質的に類似しているものとしてよい。変換済みおよび量子化済み残差ブロックならびに対応する予測ブロックは(関連する制御データとともに)、ビットストリーム内にコーディングするためにエントロピーコーディングコンポーネント331に転送される。エントロピーコーディングコンポーネント331は、ヘッダフォーマッティングおよびCABACコンポーネント231と実質的に類似しているものとしてよい。
変換済みおよび量子化済み残差ブロックならびに/または対応する予測ブロックは、参照ブロックに再構成し動き補償コンポーネント321で使用するために、変換および量子化コンポーネント313から逆変換および量子化コンポーネント329に転送される。逆変換および量子化コンポーネント329は、スケーリングおよび逆変換コンポーネント229と実質的に類似しているものとしてよい。ループ内フィルタコンポーネント325内のループ内フィルタも、例に応じて、残差ブロックおよび/または再構成済み参照ブロックに適用される。ループ内フィルタコンポーネント325は、フィルタ制御分析コンポーネント227およびループ内フィルタコンポーネント225と実質的に類似しているものとしてよい。ループ内フィルタコンポーネント325は、ループ内フィルタコンポーネント225に関して説明されているように複数のフィルタを備え得る。次いで、フィルタリング済みブロックは、動き補償コンポーネント321により参照ブロックとして使用するためにデコード済みピクチャバッファコンポーネント323に記憶される。デコード済みピクチャバッファコンポーネント323は、デコード済みピクチャバッファコンポーネント223と実質的に類似しているものとしてよい。
図4は、例示的なビデオデコーダ400を例示するブロック図である。ビデオデコーダ400は、コーデックシステム200のデコーディング機能を実装し、および/または動作方法100のステップ111、113、115、および/または117を実装するために採用され得る。デコーダ400は、たとえばエンコーダ300からビットストリームを受信し、エンドユーザへの表示のためにビットストリームに基づき再構成済み出力ビデオ信号を生成する。
ビットストリームは、エントロピーデコーディングコンポーネント433によって受信される。エントロピーデコーディングコンポーネント433は、CAVLC、CABAC、SBAC、PIPEコーディング、または他のエントロピーコーディング技術などのエントロピーデコーディングスキームを実装するように構成される。たとえば、エントロピーデコーディングコンポーネント433は、ビットストリーム内のコードワードとしてエンコードされた追加のデータを解釈するためのコンテキストを提供するためにヘッダ情報を採用し得る。デコード済み情報は、一般制御データ、フィルタ制御データ、区分情報、動きデータ、予測データ、および残差ブロックからの量子化変換係数などの、ビデオ信号をデコードするための任意の望ましい情報を含む。量子化済み変換係数は、残差ブロック内への再構成のために逆変換および量子化コンポーネント429に転送される。逆変換および量子化コンポーネント429は、逆変換および量子化コンポーネント329と類似しているものとしてよい。
再構成済み残差ブロックおよび/または予測ブロックは、イントラ予測演算に基づき画像ブロックに再構成するためにピクチャ内予測コンポーネント417に転送される。ピクチャ内予測コンポーネント417は、ピクチャ内推定コンポーネント215およびピクチャ内予測コンポーネント217と類似しているものとしてよい。具体的には、ピクチャ内予測コンポーネント417は、フレーム内の参照ブロックの位置を特定するために予測モードを採用し、残差ブロックをその結果に適用してイントラ予測画像ブロックを再構成する。再構成済みイントラ予測画像ブロックおよび/または残差ブロックならびに対応するインター予測データは、それぞれデコード済みピクチャバッファコンポーネント223およびループ内フィルタコンポーネント225に実質的に類似しているものとしてよい、ループ内フィルタコンポーネント425を介してデコード済みピクチャバッファコンポーネント423に転送される。ループ内フィルタコンポーネント425は、再構成済み画像ブロック、残差ブロックおよび/または予測ブロックをフィルタリングし、そのような情報は、デコード済みピクチャバッファコンポーネント423に記憶される。デコード済みピクチャバッファコンポーネント423からの再構成済み画像ブロックは、インター予測のために動き補償コンポーネント421に転送される。動き補償コンポーネント421は、動き推定コンポーネント221および/または動き補償コンポーネント219と実質的に類似しているものとしてよい。具体的には、動き補償コンポーネント421は、予測ブロックを生成するために参照ブロックからの動きベクトルを採用し、残差ブロックをその結果に適用して、画像ブロックを再構成する。また、結果として得られる再構成済みブロックは、ループ内フィルタコンポーネント425を介してデコード済みピクチャバッファコンポーネント423に転送され得る。デコード済みピクチャバッファコンポーネント423は、区分情報を介してフレーム内に再構成され得る、追加の再構成済み画像ブロックを記憶することを続ける。そのようなフレームは、シーケンスの中に置かれてもよい。シーケンスは、再構成済み出力ビデオ信号としてディスプレイへ出力される。
図5は、例示的なHRD500を例示する概略図である。HRD500は、コーデックシステム200および/またはエンコーダ300などのエンコーダにおいて採用され得る。HRD500は、方法100のステップ109で作成されたビットストリームを、ビットストリームがデコーダ400などのデコーダに転送される前にチェックするものとしてよい。いくつかの例において、ビットストリームは、ビットストリームがエンコードされるとき、HRD500を通じて連続的に転送され得る。ビットストリームの一部が関連付けられている制約条件に適合することに失敗した場合、HRD500はそのような失敗をエンコーダに知らせて、エンコーダに異なるメカニズムによるビットストリームの対応するセクションの再エンコードを行わせることができる。
HRD500は、仮想ストリームスケジューラ(HSS)541を備える。HSS541は、仮想配信メカニズムを実行するように構成されているコンポーネントである。仮想配信メカニズムは、HRD500に入力されるビットストリーム551のタイミングおよびデータフローに関してビットストリームまたはデコーダの適合性をチェックするために使用される。たとえば、HSS541は、エンコーダから出力されたビットストリーム551を受信し、ビットストリーム551上の適合性テストプロセスを管理するものとしてよい。特定の例において、HSS541は、コーディング済みピクチャがHRD500を通って移動するレートを制御し、ビットストリーム551が非適合データを含まないことを検証することができる。
HSS541は、ビットストリーム551を事前定義されたレートでCPB543に転送することができる。HRD500は、デコーディングユニット(DU)553においてデータを管理し得る。DU553は、アクセスユニット(AU)またはAUのサブセット、および関連付けられている非ビデオコーディングレイヤ(VCL)ネットワーク抽象化レイヤ(NAL)ユニットである。具体的には、AUは、出力時間に関連付けられている1つまたは複数のピクチャを含む。たとえば、AUは、単一レイヤビットストリーム内に単一ピクチャを含み、マルチレイヤビットストリーム内に各レイヤに対するピクチャを含み得る。AUの各ピクチャは、各々対応するVCL NALユニットに含まれるスライスに分割され得る。したがって、DU553は、1つまたは複数のピクチャ、ピクチャの1つまたは複数のスライス、またはそれらの組合せを含み得る。また、AU/DU、ピクチャ、および/またはスライスをデコードするために使用されるパラメータは、非VCL NALユニットに含まれ得る。それゆえに、DU553は、DU553内でVCL NALユニットをデコードすることをサポートするために必要なデータを含む非VCL NALユニットを含む。CPB543は、HRD500内の先入れ先出しバッファである。CPB543は、デコーディング順序でビデオデータを含むDU553を収容する。CPB543は、ビットストリーム適合性検証時に使用するためのビデオデータを記憶する。
CPB543は、DU553をデコーディングプロセスコンポーネント545に転送する。デコーディングプロセスコンポーネント545は、VVC規格に適合するコンポーネントである。たとえば、デコーディングプロセスコンポーネント545は、エンドユーザによって採用されるデコーダ400をエミュレートし得る。デコーディングプロセスコンポーネント545は、例示的なエンドユーザのデコーダによって達成され得るレートでDU553をデコードする。デコーディングプロセスコンポーネント545が、CPB543のオーバーフローを防ぐ(またはバッファのアンダーランを防ぐ)ために十分に速くDU553をデコードできない場合、ビットストリーム551は規格に適合していないので、再エンコードされるべきである。
デコーディングプロセスコンポーネント545は、DU553をデコードし、デコード済みDU555を作成する。デコード済みDU555は、デコード済みピクチャを収容する。デコード済みDU555は、DPB547に転送される。DPB547は、デコード済みピクチャバッファコンポーネント223、323、および/または423と実質的に類似しているものとしてよい。インター予測をサポートするために、デコード済みDU555から得られる参照ピクチャ556としての使用のマークを付けられたピクチャは、さらなるデコードをサポートするためにデコーディングプロセスコンポーネント545に返される。DPB547は、デコード済みビデオシーケンスを一連のピクチャ557として出力する。ピクチャ557は、エンコーダによってビットストリーム551にエンコードされたピクチャを一般的にミラーリングする再構成済みピクチャである。
ピクチャ557は、出力クロッピングコンポーネント549に転送される。出力クロッピングコンポーネント549は、適合性クロッピングウィンドウをピクチャ557に適用するように構成される。この結果、出力クロッピング済みピクチャ559が得られる。出力クロッピング済みピクチャ559は、完全に再構成されたピクチャである。したがって、出力クロッピング済みピクチャ559は、ビットストリーム551をデコードした後にエンドユーザに見えるであろうものを模倣している。それゆえに、エンコーダ側では出力クロッピング済みピクチャ559をレビューしてエンコーディングが満足のいくものであることを確認することができる。
HRD500は、ビットストリーム551内のHRDパラメータに基づき初期化される。たとえば、HRD500は、VPS、SPS、および/またはSEIメッセージからHRDパラメータを読み取るものとしてよい。次いで、HRD500は、そのようなHRDパラメータ内の情報に基づいて、ビットストリーム551に対して適合性テスト動作を実行し得る。具体例として、HRD500は、HRDパラメータから1つまたは複数のCPB配信スケジュールを決定し得る。配信スケジュールは、CPBおよび/またはDPBなどのメモリロケーションへのおよび/またはメモリロケーションからのビデオデータの配信に対するタイミングを指定する。したがって、CPB配信スケジュールは、AU、DU553、および/またはピクチャの、CPB543への/からの配信に対するタイミングを指定する。HRD500は、CPB配信スケジュールに類似しているDPB547にDPB配信スケジュールを採用し得ることに留意されたい。
ビデオは、様々なレベルのハードウェア能力を有するデコーダによる使用のために、さらには様々なネットワーク条件に関して、異なるレイヤおよび/またはOLSにコーディングされ得る。CPB配信スケジュールは、これらの問題を反映するように選択される。したがって、上位レイヤサブビットストリームは、最適なハードウェアおよびネットワーク条件について指定され、したがって、上位レイヤは、CPB543内の大量のメモリおよびDPB547に向かうDU553の転送に対する短い遅延を採用する1または複数のCPB配信スケジュールを受信し得る。同様に、下位レイヤサブビットストリームは、限られたデコーダハードウェア能力および/または劣悪なネットワーク条件について指定される。したがって、下位レイヤは、CPB543内の少量のメモリおよびDPB547に向かうDU553の転送のためのより長い遅延を採用する1つまたは複数のCPB配信スケジュールを受信し得る。次いで、OLS、レイヤ、サブレイヤ、またはそれらの組合せは、対応する配信スケジュールに従ってテストされ、その結果得られるサブビットストリームが、サブビットストリームに対して期待される条件下で正しくデコードされ得ることを確実にすることができる。したがって、ビットストリーム551内のHRDパラメータは、CPB配信スケジュールを示し、さらにはHRD500がCPB配信スケジュールを決定し、CPB配信スケジュールを対応するOLS、レイヤ、および/またはサブレイヤに相関させることを可能にする十分なデータを含むことができる。
図6は、レイヤ間予測621を行うように構成されている例示的なマルチレイヤビデオシーケンス600を例示する概略図である。マルチレイヤビデオシーケンス600は、たとえば方法100に従って、コーデックシステム200および/またはエンコーダ300などのエンコーダによってエンコードされ、コーデックシステム200および/またはデコーダ400などのデコーダによってデコードされ得る。さらに、マルチレイヤビデオシーケンス600は、HRD500などのHRDによって規格適合性に関してチェックされ得る。マルチレイヤビデオシーケンス600は、コーディング済みビデオシーケンス内のレイヤに対する例示的なアプリケーションを示すために含まれている。マルチレイヤビデオシーケンス600は、レイヤN 631およびレイヤN+1 632などの、複数のレイヤを採用する任意のビデオシーケンスである。
一例において、マルチレイヤビデオシーケンス600は、レイヤ間予測621を採用し得る。レイヤ間予測621は、異なるレイヤ内のピクチャ611、612、613、および614とピクチャ615、616、617、および618との間に適用される。図示されている例では、ピクチャ611、612、613、および614は、レイヤN+1 632の一部であり、ピクチャ615、616、617、および618は、レイヤN 631の一部である。レイヤN 631および/またはレイヤN+1 632などのレイヤは、類似のサイズ、品質、解像度、信号対雑音比、能力などの特性の類似の値にすべて関連付けられるピクチャのグループである。レイヤは、VCL NALユニットおよび関連付けられている非VCL NALユニットのセットとして正式に定義され得る。VCL NALユニットは、ピクチャのコーディング済みスライスなどの、ビデオデータを含むようにコーディングされたNALユニットである。非VCL NALユニットは、ビデオデータをデコードすること、適合性チェックの実行、または他の動作をサポートするシンタックスおよび/またはパラメータなどの非ビデオデータを含むNALユニットである。
図示されている例では、レイヤN+1 632は、レイヤN 631よりも大きい画像サイズに関連付けられている。したがって、レイヤN+1 632内のピクチャ611、612、613、および614は、この例では、レイヤN 631内のピクチャ615、616、617、および618よりも大きいピクチャサイズ(たとえば、より大きい高さおよび幅、したがって、より多くのサンプル)を有している。しかしながら、そのようなピクチャは、他の特性によってレイヤN+1 632とレイヤN 631との間で分離され得る。レイヤN+1 632およびレイヤN 631の2つのレイヤのみが図示されているが、ピクチャのセットは、関連する特性に基づき任意の数のレイヤに分離され得る。レイヤN+1 632およびレイヤN 631は、レイヤIdによっても示され得る。レイヤIdは、ピクチャに関連付けられているデータの項目であり、ピクチャが示されているレイヤの一部であることを示す。したがって、各ピクチャ611~618は、対応するレイヤIdに関連付けられており、それによりどのレイヤN+1 632またはレイヤN 631が対応するピクチャを含むかを示し得る。たとえば、レイヤIdは、NALユニットヘッダレイヤ識別子(nuh_layer_id)を含んでもよく、これは、NALユニット(たとえば、レイヤ内のピクチャのスライスおよび/またはパラメータを含む)を含むレイヤの識別子を指定するシンタックス要素である。レイヤN 631などの、より低い品質/ビットストリームサイズに関連付けられているレイヤは、一般的に、より低いレイヤIdを割り当てられ、下位レイヤと称される。さらに、レイヤN+1 632などの、より高い品質/ビットストリームサイズに関連付けられているレイヤは、一般的に、より高いレイヤIdを割り当てられ、上位レイヤと称される。
異なるレイヤ631~632のピクチャ611~618は、代替的手段で表示されるように構成される。具体例として、デコーダは、より小さいピクチャが望ましい場合に現在の表示時間にピクチャ615をデコードして表示し得るか、またはデコーダは、より大きいピクチャが望ましい場合に現在の表示時間にピクチャ611をデコードして表示し得る。それゆえに、上位レイヤN+1 632におけるピクチャ611~614は、(ピクチャサイズの差にかかわらず)下位レイヤN 631における対応するピクチャ615~618と実質的に同じ画像データを含む。具体的には、ピクチャ611は、ピクチャ615と実質的に同じ画像データを含み、ピクチャ612はピクチャ616と実質的に同じ画像データを含む、などである。
ピクチャ611~618は、同じレイヤN 631またはN+1 632内の他のピクチャ611~618を参照してコーディングされ得る。同じレイヤ内の別のピクチャを参照してピクチャをコーディングすると、その結果、インター予測623が得られる。インター予測623は、実線の矢印で示されている。たとえば、ピクチャ613は、レイヤN+1 632内のピクチャ611、612、および/または614のうちの1つまたは2つを参照として使用してインター予測623を採用することによってコーディングされるものとしてよく、1つのピクチャは、一方向インター予測のために参照され、および/または2つのピクチャは、双方向インター予測のために参照される。たとえば、ピクチャ617は、レイヤN 631内のピクチャ615、616、および/または618のうちの1つまたは2つを参照として使用してインター予測623を採用することによってコーディングされるものとしてよく、1つのピクチャは、一方向インター予測のために参照され、および/または2つのピクチャは、双方向インター予測のために参照される。ピクチャが、インター予測623を実行するとき、同じレイヤ内の別のピクチャに対する参照として使用されるとき、ピクチャは、参照ピクチャと称され得る。たとえば、ピクチャ612は、インター予測623に従ってピクチャ613をコーディングするために使用される参照ピクチャであってよい。インター予測623は、マルチレイヤコンテキストにおけるレイヤ内予測とも称され得る。それゆえに、インター予測623は、参照ピクチャおよび現在のピクチャが同じレイヤ内にある場合の現在のピクチャとは異なる参照ピクチャ内の示されたサンプルを参照することによって現在のピクチャのサンプルをコーディングするメカニズムである。
ピクチャ611~618は、異なるレイヤ内の他のピクチャ611~618を参照することによってもコーディングされ得る。このプロセスは、レイヤ間予測621として知られており、破線の矢印によって示されている。レイヤ間予測621は、現在のピクチャと参照ピクチャとが異なるレイヤ内にあり、したがって異なるレイヤIDを有する参照ピクチャ内の示されているサンプルを参照することによって現在のピクチャのサンプルをコーディングするメカニズムである。たとえば、下位レイヤN 631内のピクチャは、上位レイヤN+1 632における対応するピクチャをコーディングするための参照ピクチャとして使用され得る。具体例として、ピクチャ611は、レイヤ間予測621に従ってピクチャ615を参照することによってコーディングされ得る。そのような場合に、ピクチャ615は、レイヤ間参照ピクチャとして使用される。レイヤ間参照ピクチャは、レイヤ間予測621に使用される参照ピクチャである。ほとんどの場合において、レイヤ間予測621は、ピクチャ611などの現在のピクチャが、同じAUに含まれ、ピクチャ615などの下位レイヤにあるレイヤ間参照ピクチャのみを使用できるように制約される。複数のレイヤ(たとえば、2つよりも多い)が利用可能であるとき、レイヤ間予測621は、現在のピクチャよりも低いレベルの複数のレイヤ間参照ピクチャに基づき現在のピクチャをエンコード/デコードすることができる。
ビデオエンコーダは、インター予測623およびレイヤ間予測621の多くの異なる組合せおよび/または順列を介してピクチャ611~618をエンコードするためにマルチレイヤビデオシーケンス600を採用することができる。たとえば、ピクチャ615は、イントラ予測に従ってコーディングされ得る。次いで、ピクチャ616~618は、ピクチャ615を参照ピクチャとして使用することによってインター予測623に従ってコーディングされ得る。さらに、ピクチャ611は、ピクチャ615をレイヤ間参照ピクチャとして使用することによってレイヤ間予測621に従ってコーディングされ得る。次いで、ピクチャ612~614は、ピクチャ611を参照ピクチャとして使用することによってインター予測623に従ってコーディングされ得る。それゆえに、参照ピクチャは、異なるコーディングメカニズムのための単一のレイヤ参照ピクチャとレイヤ間参照ピクチャの両方として働き得る。下位レイヤN 631ピクチャに基づき上位レイヤN+1 632ピクチャをコーディングすることによって、上位レイヤN+1 632は、インター予測623およびレイヤ間予測621よりもかなり低いコーディング効率を有する、イントラ予測を採用することを回避することができる。それゆえに、イントラ予測のコーディング効率の悪さは、最小/最低品質のピクチャに限定することができ、したがって、最小量のビデオデータをコーディングすることに限定することができる。参照ピクチャおよび/またはレイヤ間参照ピクチャとして使用されるピクチャは、参照ピクチャリスト構造に含まれる参照ピクチャリストのエントリにおいて示され得る。
レイヤN+1 632およびレイヤN 631などの、レイヤは、出力レイヤセット(OLS)に含まれ得ることに留意されたい。OLSは、少なくとも1つのレイヤが出力レイヤである、1つまたは複数のレイヤのセットである。たとえば、レイヤN 631は、第1のOLSに含まれ、レイヤN 631およびレイヤN-1 632は、両方とも、第2のOLSに含まれ得る。これは、デコーダ側の条件に応じて、異なるOLSが異なるデコーダに送信されることを可能にする。たとえば、サブビットストリーム抽出プロセスは、ターゲットOLSがデコーダに送信される前に、マルチレイヤビデオシーケンス600からターゲットOLSに無関係なデータを除去することができる。それゆえに、マルチレイヤビデオシーケンス600のエンコード済みコピーは、エンコーダ(または対応するコンテンツサーバ)に記憶され、様々なOLSが、要求があったときに抽出され異なるデコーダに送信され得る。
サイマルキャストレイヤは、レイヤ間予測621を採用しないレイヤである。たとえば、レイヤN+1 632は、レイヤ間予測621に基づきレイヤN 631を参照することによってコーディングされる。しかしながら、レイヤ631は、別のレイヤを参照することによってコーディングされることはない。それゆえに、レイヤ631は、サイマルキャストレイヤである。マルチレイヤビデオシーケンス600などの、スケーラブルビデオシーケンスは、一般的に、ベースレイヤと、ベースレイヤの何らかの特性を強化する1つまたは複数のエンハンスメントレイヤとを採用する。図6において、レイヤN 631はベースレイヤである。ベースレイヤは、一般的に、サイマルキャストレイヤとしてコーディングされる。図6は例示的であり、非限定的であるが、それは、複数のレイヤを有するビデオシーケンスは、依存関係の多くの異なる組合せ/順列を使用し得るからであることにも留意されたい。ビットストリームは、任意の数のレイヤを含み、任意の数のそのようなレイヤは、サイマルキャストレイヤであり得る。たとえば、レイヤ間予測621は、完全に省略することができ、その場合、すべてのレイヤはサイマルキャストレイヤである。別の例として、マルチビューアプリケーションは、2つまたはそれ以上の出力レイヤを表示する。それゆえに、マルチビューアプリケーションは、一般的に、サイマルキャストレイヤである2つまたはそれ以上のベースレイヤを含み、各ベースレイヤに対応するエンハンスメントレイヤを含み得る。
サイマルキャストレイヤは、レイヤ間予測621を使用するレイヤと異なる方式で処理され得る。たとえば、レイヤ間予測621を使用するレイヤをコーディングするとき、エンコーダは、デコードをサポートするために、レイヤの数さらにはレイヤ間の依存関係も示すべきである。しかしながら、サイマルキャストレイヤについては、そのような情報は省略できる。たとえば、レイヤN+1 632およびレイヤN 631の構成は、以下でより詳細に説明されるようにVPSにおいて示され得る。しかしながら、レイヤN 631は、そのような情報なしでデコードされ得る。それゆえに、VPSは、レイヤN 631のみがデコーダに伝送されるとき、対応するビットストリームから除去され得る。しかしながら、これは、ビットストリーム内に残っているパラメータがVPSを参照している場合には、エラーを生じさせる可能性がある。さらに、各レイヤは、SPSによって記述され得る。サイマルキャストレイヤに対するSPSは、SPSがVPSとともに誤って除去されないようにマルチレイヤビットストリーム内にエンコードされるべきである。これらおよび他の問題は、以下でより詳しく説明される。
図7は、例示的なビットストリーム700を例示する概略図である。たとえば、ビットストリーム700は、方法100に従ってコーデックシステム200および/またはデコーダ400によってデコードするために、コーデックシステム200および/またはエンコーダ300によって生成され得る。さらに、ビットストリーム700は、マルチレイヤビデオシーケンス600を含み得る。それに加えて、ビットストリーム700は、HRD500などの、HRDの動作を制御するための様々なパラメータを含み得る。このようなパラメータに基づき、HRD500は、デコードするためにデコーダに向けて伝送する前に、規格への適合性についてビットストリーム700をチェックすることができる。
ビットストリーム700は、VPS711、1つまたは複数のSPS713、複数のピクチャパラメータセット(PPS)715、複数のスライスヘッダ717、および画像データ720を含む。VPS711は、ビットストリーム700全体に関係するデータを含む。たとえば、VPS711は、ビットストリーム700で使用されるOLS、レイヤ、および/またはサブレイヤに関係するデータを含んでもよい。SPS713は、ビットストリーム700に含まれるコーディング済みビデオシーケンス内のすべてのピクチャに共通するシーケンスデータを含む。たとえば、各レイヤは、1つまたは複数のコーディング済みビデオシーケンスを含むものとしてよく、各コーディング済みビデオシーケンスは、対応するパラメータについてSPS713を参照し得る。SPS713におけるパラメータは、ピクチャのサイズ設定、ビット深度、コーディングツールパラメータ、ビットレート制限などを含むことができる。各シーケンスがSPS713を参照する一方で、いくつかの例では単一のSPS713は複数のシーケンスに対するデータを含むことができることに留意されたい。PPS715は、ピクチャ全体に適用されるパラメータを含む。したがって、ビデオシーケンス内の各ピクチャは、PPS715を参照し得る。各シーケンスがPPS715を参照する一方で、いくつかの例では単一のPPS715は複数のピクチャに対するデータを含むことができることに留意されたい。たとえば、複数の類似のピクチャは、類似のパラメータに従ってコーディングされ得る。そのような場合、単一のPPS715は、そのような類似のピクチャに対するデータを含み得る。PPS715は、対応するピクチャにおけるスライス、量子化パラメータ、オフセットなどに利用可能なコーディングツールを示すことができる。
スライスヘッダ717は、ピクチャ内の各スライスに特有のパラメータを含む。したがって、ビデオシーケンス内のスライス毎に1つのスライスヘッダ717があり得る。スライスヘッダ717は、スライスタイプ情報、ピクチャ順序カウント(POC)、参照ピクチャリスト、予測重み、タイルエントリポイント、またはデブロッキングパラメータなどを含み得る。いくつかの例では、ビットストリーム700は、ピクチャヘッダも含むものとしてよく、これは、単一のピクチャ内のすべてのスライスに適用されるパラメータを含むシンタックス構造であることに留意されたい。このような理由から、ピクチャヘッダおよびスライスヘッダ717は、いくつかの文脈において入れ換えて使用され得る。たとえば、いくつかのパラメータは、そのようなパラメータがピクチャ内のすべてのスライスに共通であるかどうかに応じてスライスヘッダ717とピクチャヘッダとの間で移動され得る。
画像データ720は、インター予測、レイヤ間予測、および/またはイントラ予測に従ってエンコードされたビデオデータ、さらには対応する変換済みおよび量子化済み残差データを含む。たとえば、画像データ720は、レイヤ723および724、ピクチャ725および726、および/またはスライス727および728を含み得る。レイヤ723および724は、nuh_layer_id 732などのレイヤIDによって示されているような指定された特性(たとえば、共通の解像度、フレームレート、画像サイズなど)を共有するVCL NALユニット741と、関連付けられている非VCL NALユニット742とのセットである。たとえば、レイヤ723は、同じnuh_layer_id 732を共有するピクチャのセット725を含んでもよい。同様に、レイヤ724は、同じnuh_layer_id 732を共有するピクチャのセット726を含んでもよい。レイヤ723および724は、実質的に類似しているものとしてよいが、異なるコンテンツを含んでいてもよい。たとえば、レイヤ723および724は、それぞれ、図6からのレイヤN 631およびレイヤN+1 632を含んでもよい。それゆえに、コーディング済みビットストリーム700は、複数のレイヤ723および724を含んでもよい。説明を明確にするために2つのレイヤ723および724のみが示されているが、任意の数のレイヤ723および724がビットストリーム700に含まれ得る。
nuh_layer_id 732は、少なくとも1つのNALユニットを含むレイヤ723および/または724の識別子を指定するシンタックス要素である。たとえば、ベースレイヤとして知られる最低品質のレイヤは、より高い品質のレイヤに対してnuh_layer_id 732の値を高くした最低値のnuh_layer_id 732を含み得る。したがって、下位レイヤは、nuh_layer_id 732のより小さい値を有するレイヤ723または724であり、上位レイヤは、nuh_layer_id 732のより大きい値を有するレイヤ723または724である。レイヤ723および724のデータは、nuh_layer_id 732に基づき相関する。たとえば、パラメータセットおよびビデオデータは、そのようなパラメータセット/ビデオデータを含む最下位レイヤ723または724に対応するnuh_layer_id 732の値に関連付けられ得る。それゆえに、VCL NALユニット741のセットは、VCL NALユニット741のセットがすべてnuh_layer_id 732の特定の値を有するとき、レイヤ723および/または724の一部である。
ピクチャ725および726のセットからのピクチャは、フレームまたはそのフィールドを作成するルーマサンプルの配列および/またはクロマサンプルの配列である。たとえば、ピクチャ725および726のセットからのピクチャは、表示のために出力され得るか、または出力する他のピクチャのコーディングをサポートするために使用されるコーディング済み画像である。ピクチャ725および726のセットからのピクチャは、実質的に類似しているが、ピクチャ725のセットはレイヤ723に含まれ、ピクチャ726のセットはレイヤ724に含まれる。ピクチャ725および726のセットからのピクチャは、それぞれ、1つまたは複数のスライス727および728を含む。スライス727/728は、VCL NALユニット741などの、単一のNALユニットに排他的に含まれるピクチャの整数個数の完全なタイルまたは(たとえば、タイル内の)整数個数の連続する完全なコーディングツリーユニット(CTU)行として定義され得る。スライス727とスライス728とは、スライス727がピクチャ725およびレイヤ723に含まれ、スライス728がピクチャ726およびレイヤ724に含まれることを除き、実質的に類似している。スライス727/728は、CTUおよび/またはコーディングツリーブロック(CTB)にさらに分割される。CTUは、コーディングツリーによって区分化され得る事前定義されたサイズのサンプルのグループである。CTBは、CTUのサブセットであり、CTUのルーマ成分またはクロマ成分を含む。CTU/CTBは、コーディングツリーに基づきコーディングブロックにさらに分割される。次いで、コーディングブロックは、予測メカニズムに従ってエンコード/デコードされ得る。
コーディング済みレイヤビデオシーケンス(CLVS)743およびCLVS744は、それぞれ、同じnuh_layer_id 732値を有する、コーディング済みピクチャ725およびピクチャ725のシーケンスである。たとえば、CLVS743および/または744は、それぞれ、単一のレイヤ723および/または724に含まれるピクチャ725および/または726のシーケンスであってよい。したがって、それぞれ、CLVS743はレイヤ723のピクチャ725のすべてを含み、CLVS744はレイヤ724のピクチャ726のすべてを含んでいる。CLVS743および744の各々は、対応するSPS713を参照している。例に応じて、CLVS743および744は同じSPS713を参照するか、またはCLVS743および744は各々異なるSPS713を参照し得る。
ビットストリーム700は、NALユニットのシーケンスとしてコーディングされうる。NALユニットは、ビデオデータおよび/またはサポートしているシンタックスのためのコンテナである。NALユニットは、VCL NALユニット741または非VCL NALユニット742とすることができる。VCL NALユニット741は、画像データ720および関連付けられているスライスヘッダ717などの、ビデオデータを含むようにコーディングされたNALユニットである。具体例として、各スライス727、728および関連付けられているスライスヘッダ717は、単一のVCL NALユニット741にエンコードされ得る。非VCL NALユニット742は、ビデオデータをデコードすること、適合性チェックの実行、または他の動作をサポートするシンタックスおよび/またはパラメータなどの非ビデオデータを含むNALユニットである。たとえば、非VCL NALユニット742は、VPS711、SPS713、PPS715、ピクチャヘッダ、または他のサポートしているシンタックスを含むことができる。それゆえに、ビットストリーム700は、一連のVCL NALユニット741および非VCL NALユニット742である。各NALユニットは、nuh_layer_id 732を含み、これは、エンコーダまたはデコーダが、どのレイヤ723または724が対応するNALユニットを含むかを決定することを可能にする。
複数のレイヤ723および724を含むビットストリーム700は、エンコードされ、デコーダによって要求されるまで記憶されうる。たとえば、デコーダは、レイヤ723、レイヤ724、ならびに/または複数のレイヤ723および724を含むOLSを要求することができる。特定の例では、レイヤ723はベースレイヤであり、レイヤ724はエンハンスメントレイヤである。追加のレイヤもまた、ビットストリーム700において採用され得る。エンコーダおよび/またはコンテンツサーバは、要求された出力レイヤをデコードするために必要なレイヤ723および/または724のみをデコーダに送信すべきである。たとえば、レイヤが異なるピクチャサイズに使用されるとき、最大のピクチャサイズを要求するデコーダは、レイヤ723と724の両方を有するビットストリーム700全体を受信し得る。最小のピクチャサイズを要求するデコーダは、レイヤ723のみを受信し得る。中間のピクチャサイズを要求するデコーダは、レイヤ723および他の中間レイヤを受信し得るが、最上位レイヤ724を受信せず、したがって、ビットストリーム全体を受信し得ない。同じアプローチは、フレームレート、ピクチャ解像度などの他のレイヤ特性にも使用され得る。
サブビットストリーム抽出プロセス729は、ビットストリーム700からサブビットストリーム701を抽出して、上で説明されている機能をサポートするために採用される。サブビットストリーム701は、ビットストリーム700からのNALユニット(たとえば、非VCL NALユニット742およびVCL NALユニット741)のサブセットである。具体的には、サブビットストリーム701は、1つまたは複数のレイヤに関係するデータを含み得るが、他のレイヤに関係するデータを含み得ない。図示されている例では、サブビットストリーム701は、レイヤ723に関係するデータを含むが、レイヤ724に関係するデータを含まない。したがって、サブビットストリーム701は、SPS713、PPS715、スライスヘッダ717、およびレイヤ723、CLVS743、ピクチャ725、およびスライス727を含む画像データ720を含む。サブビットストリーム抽出プロセス729は、nuh_layer_id 732に基づきNALユニットを除去する。たとえば、上位レイヤ724のみに関連付けられているVCL NALユニット741および非VCL NALユニット742は、より高いnuh_layer_id 732値を含み、したがって、より高いnuh_layer_id 732値を有するすべてのNALユニットを除去することで、下位レイヤ723および関連するパラメータを抽出する。各NALユニットは、サブビットストリーム抽出プロセス729をサポートするために、NALユニットを含む最下位レイヤのnuh_layer_id 732以下であるnuh_layer_id 732値を含む。ビットストリーム700およびサブビットストリーム701は各々、一般的にビットストリームと称され得ることに留意されたい。
図示されている例では、サブビットストリーム701は、サイマルキャストレイヤ(たとえば、ベースレイヤ)を含む。上で指摘されているように、サイマルキャストレイヤは、レイヤ間予測を使用しない任意のレイヤである。VPS711は、レイヤ723および724の構成を記述するデータを含む。しかしながら、このデータは、レイヤ723などの、サイマルキャストレイヤをデコードするためには必要ない。それゆえに、サブビットストリーム抽出プロセス729は、サイマルキャストレイヤを抽出するときに高められたコーディング効率をサポートするためにVPS711を除去する。これは、いくつかのビデオコーディングシステムに問題を引き起こし得る。具体的には、SPS713のいくつかのパラメータは、VPS711を参照し得る。VPS711が除去されたとき、デコーダおよび/またはHRDは、そのようなパラメータによって参照されるデータがもはや存在しないので、そのようなパラメータを解決することができない場合がある。この結果、HRDでサイマルキャストレイヤに対する適合性テストを実行するときにエラーが発生する可能性がある。代替的に、この結果、デコーダで表示するためにサイマルキャストレイヤが伝送されるときにデコーダにおいて予測不可能なエラーが生じ得る。さらに、各SPS713を正しく識別できない場合、結果として、サブビットストリーム抽出プロセス729によってサイマルキャストレイヤに対してVPS711が除去されるときにSPS713を不適切に除去することになり得る。
本開示では、これらのエラーに対処する。具体的には、SPS713は、CLVS743を含むレイヤ723がレイヤ間予測を使用しない(サイマルキャストレイヤである)ときにSPS713を参照するCLVS743と同じnuh_layer_id 732を含むように制約される。さらに、SPS713は、CLVS744を含むレイヤ724がレイヤ間予測を使用する(サイマルキャストレイヤではない)ときにCLVS744のnuh_layer_id 732以下であるnuh_layer_id 732を有し得る。この方法で、CLVS743および743の両方が、任意選択で、同じSPS713を参照し得る。さらに、SPS713は、SPS713がCLVS743/レイヤ723と同じnuh_layer_id 732を含むので、サイマルキャストレイヤ(たとえば、レイヤ723)に対してサブビットストリーム抽出プロセス729によって除去されない。
さらに、SPS713は、sps_video_parameter_set_id 731を含む。sps_video_parameter_set_id 731は、SPS713によって参照されるVPS711のIDを指定するシンタックス要素である。具体的には、VPS711は、vps_video_parameter_set_id 735を含み、これは、他のシンタックス要素/構造によって参照されるVPS711のIDを提供するシンタックス要素である。VPS711が存在するとき、sps_video_parameter_set_id 731は、vps_video_parameter_set_id 735の値に設定される。しかしながら、SPS713がサイマルキャストレイヤに使用されるとき、sps_video_parameter_set_id 731は、0に設定される。別の言い方をすれば、sps_video_parameter_set_id 731は、0より大きいとき、SPS713によって参照されるVPS711について、vps_video_parameter_set_id 735の値を指定する。sps_video_parameter_set_id 731が0に等しいとき、SPS713は、VPS711を参照せず、SPS713を参照する任意のコーディング済みレイヤビデオシーケンスをデコードするときにどのVPS711も参照されることはない。これは、異なるレイヤ(たとえば、サイマルキャストレイヤに対する1つのSPSおよび非サイマルキャストレイヤに対する別のSPS)に別のSPS713を使用するか、またはサブビットストリーム抽出プロセス729中、sps_video_parameter_set_id 731の値を変更することによって達成され得る。この方法で、sps_video_parameter_set_id 731は、サブビットストリーム抽出プロセス729中にVPS711が除去されるときに利用不可能であるIDを誤って参照することがない。
さらに、HRDおよび/またはデコーダによって導出される様々な変数も、VPS711のパラメータを参照する。したがって、そのような変数は、sps_video_parameter_set_id 731が0に設定されたときに既定値に設定される。これは、マルチレイヤビットストリームに対して正しく動作している間に、そのような変数が、VPS711がサイマルキャストレイヤに対して抽出されるときに使用可能値に適切に解決され得ることを確実にする。たとえば、デコーダおよび/またはHRDは、ビットストリーム700および/またはサブビットストリーム701に基づきGeneralLayerIdx[i]を導出することができる。GeneralLayerIdx[i]は、対応するレイヤiのインデックスを指定する導出変数である。それゆえに、GeneralLayerIdx[i]は、現在のレイヤのnuh_layer_id732をGeneralLayerIdx[i]におけるレイヤiとして含めることによって現在のレイヤのレイヤインデックスを決定するために採用され得る。これは、nuh_layer_idに対応する一般レイヤインデックス(GeneralLayerIdx[nuh_layer_id])として表され得る。したがって、GeneralLayerIdx[nuh_layer_id]は、対応するレイヤに対する現在のレイヤインデックスを示す。このプロセスは、レイヤ724などの、非サイマルキャストレイヤに対しては正しく動作するが、サイマルキャストレイヤ723に対してはエラーを引き起こす可能性がある。したがって、sps_video_parameter_set_id 731が0(サイマルキャストレイヤを示す)であるときにGeneralLayerIdx[nuh_layer_id]は0に設定され、および/または0であると推論される。
別の例として、VPS711は、VPS独立レイヤフラグ(vps_independent_layer_flag)733を含み得る。vps_independent_layer_flag733は、レイヤ723および/または724などの、対応するレイヤがレイヤ間予測を使用するかどうかを指定する。したがって、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]は、インデックスGeneralLayerIdx[nuh_layer_id]を有する現在のレイヤがレイヤ間予測を使用するかどうかを指定する。しかしながら、vps_independent_layer_flag733を含むVPS711は、デコーダに送信されるレイヤ723がサイマルキャストレイヤであるとき、デコーダに送信されない。それゆえに、参照はエラーを引き起こし得る。しかしながら、サイマルキャストレイヤは、レイヤ間予測を使用しない。それゆえに、サイマルキャストレイヤに対するvps_independent_layer_flag733は、1に等しいと推論することができ、これは、対応するレイヤ723に対してレイヤ間予測が使用されないことを示す。したがって、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]は、sps_video_parameter_set_idが0に設定されるときに現在のレイヤに対してレイヤ間予測が使用されないことを示すために1に設定され/1であると推論される。この方法で、エラーは、レイヤ723などの、サイマルキャストレイヤの伝送前にビットストリームからVPSが除去されるときに回避される。その結果、エンコーダおよびデコーダの機能性が向上する。さらに、コーディング効率は、サイマルキャストレイヤのみを含むビットストリームから不要なVPSを首尾よく除去することによって高められ、これにより、エンコーダとデコーダの両方においてプロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用量を低減する。
次に、前述の情報は、本明細書において以下でより詳細に説明される。レイヤード・ビデオ・コーディング(layered video coding)は、スケーラブルビデオコーディングまたはスケーラビリティを有するビデオコーディングとも称される。ビデオコーディングにおけるスケーラビリティは、マルチレイヤコーディング技術を使用することによってサポートされ得る。マルチレイヤビットストリームは、ベースレイヤ(BL)および1つまたは複数のエンハンスメントレイヤ(EL)を含む。スケーラビリティの例は、空間的スケーラビリティ、品質/信号対雑音比(SNR)スケーラビリティ、マルチビュースケーラビリティ、フレームレートスケーラビリティなどを含む。マルチレイヤコーディング技術が使用されるとき、ピクチャまたはその一部は、参照ピクチャを使用することなくコーディングされ(イントラ予測)、同じレイヤ内にある参照ピクチャを参照することによってコーディングされ(インター予測)、および/または他のレイヤ内にある参照ピクチャを参照することによってコーディングされ(レイヤ間予測)得る。現在のピクチャのレイヤ間予測に使用される参照ピクチャは、レイヤ間参照ピクチャ(ILRP)と称される。図6は、異なるレイヤ内のピクチャが異なる解像度を有する空間的スケーラビリティに対するマルチレイヤコーディングの一例を例示している。
いくつかのビデオコーディングファミリーは、単一レイヤコーディングのためのプロファイルから分離されたプロファイルにおいてスケーラビリティに対するサポートを提供する。スケーラブルビデオコーディング(SVC)は、空間的、時間的、および品質的なスケーラビリティに対するサポートを提供する高度ビデオコーディング(AVC)のスケーラブルな拡張である。SVCについては、フラグがELピクチャ内の各マクロブロック(MB)においてシグナリングされ、それによりEL MBが下位レイヤからの同一の場所のブロックを使用して予測されるかどうかを示す。同一の場所のブロックからの予測は、テクスチャ、動きベクトル、および/またはコーディングモードを含み得る。SVCの実装形態では、その設計において未修正のAVC実装形態を直接再利用し得ない。SVC ELマクロブロックシンタックスおよびデコーディングプロセスは、AVCシンタックスおよびデコーディングプロセスと異なる。
スケーラブルHEVC(SHVC)は、空間的および品質的スケーラビリティに対するサポートを提供するHEVCの拡張である。マルチビューHEVC(MV-HEVC)は、マルチビュースケーラビリティに対するサポートを提供するHEVCの拡張である。3D HEVC(3D-HEVC)は、MV-HEVCに比べて高度であり効率的である3Dビデオコーディングに対するサポートを提供するHEVCの拡張である。時間的スケーラビリティは、単一レイヤHEVCコーデックの不可欠な部分として含まれ得る。HEVCのマルチレイヤ拡張では、レイヤ間予測に使用されるデコード済みピクチャが、同じAUのみから来て、長期参照ピクチャ(LTRP)として扱われる。そのようなピクチャは、現在のレイヤ内の他の時間的参照ピクチャとともに参照ピクチャリスト内の参照インデックスを割り当てられる。レイヤ間予測(ILP)は、予測ユニット(PU)レベルにおいて、参照ピクチャリスト内のレイヤ間参照ピクチャを参照するように参照インデックスの値を設定することによって達成される。空間的スケーラビリティは、ILRPがエンコードされるかまたはデコードされている現在のピクチャと異なる空間解像度を有するときに参照ピクチャまたはその一部を再サンプルする。参照ピクチャ再サンプリングは、ピクチャレベルまたはコーディングブロックレベルのいずれかで実現され得る。
VVCは、レイヤード・ビデオ・コーディングもサポートし得る。VVCビットストリームは、複数のレイヤを含むことができる。レイヤは、すべて互いから独立しているものとしてよい。たとえば、各レイヤは、レイヤ間予測を使用せずにコーディングされ得る。この場合、レイヤは、サイマルキャストレイヤとも呼ばれる。いくつかの場合において、レイヤのいくつかはILPを用いてコーディングされる。VPS内のフラグは、レイヤがサイマルキャストレイヤであるかどうか、一部のレイヤがILPを使用しているかどうかを示すことができる。いくつかのレイヤがILPを使用するとき、レイヤ間のレイヤ依存関係もVPSでシグナリングされる。SHVCおよびMV-HEVCと異なり、VVCはOLSを指定し得ない。OLSは、レイヤの指定されたセットを含み、レイヤのセット内の1つまたは複数のレイヤは、出力レイヤとなるように指定される。出力レイヤは、出力されるOLSのレイヤである。VVCのいくつかの実装形態において、レイヤがサイマルキャストレイヤであるとき、ただ1つのレイヤが、デコードおよび出力について選択され得る。VVCのいくつかの実装形態において、任意のレイヤがILPを使用するときにすべてのレイヤを含むビットストリーム全体がデコードされるように指定される。さらに、レイヤのうちの特定のレイヤが出力レイヤとして指定される。出力レイヤは、最上位レイヤのみ、すべてのレイヤ、または最上位レイヤ+指示された下位レイヤのセットであると示されてよい。
前述の態様は、いくつかのスケーラビリティ関係問題を含んでいる。そのようなシステムにおけるスケーラビリティ設計は、レイヤ特有のプロファイル、ティア、およびレベル(PTL)、さらにはレイヤ特有のコーディング済みピクチャバッファ(CPB)動作を含む。PTLシグナリング効率は、改善されるべきである。サブレイヤに対するシーケンスレベルHRDパラメータのシグナリング効率は改善されるべきである。DPBパラメータシグナリングは改善されるべきである。いくつかの設計は、単一レイヤビットストリームがVPSを参照することを引き起こす。そのような設計におけるnum_ref_entries[][]の値範囲は、不正であり、デコーダに対して予期せぬエラーを引き起こす。このような設計におけるデコーディングプロセスは、サブビットストリーム抽出を伴い、これはデコーダ実装形態の負担を増す。そのような設計に対する一般デコーディングプロセスは、レイヤ間予測を有する複数のレイヤを含むスケーラブルビットストリームに対しては機能し得ない。そのような設計における変数NoOutputOfPriorPicsFlagの値の導出は、ピクチャベースであり、そのような設計ではAUベースではあり得ない。そのような設計におけるスケーラブルネスティングSEIメッセージは、nesting_ols_flagが1に等しいとき、OLSのレイヤではなく、OLSに直接的に適用するように簡素化されるべきである。非スケーラブルネストSEIメッセージは、payloadTypeが0(バッファリング期間)、1(ピクチャタイミング)、または130(デコーディングユニット情報)に等しいとき、0番目のOLSにのみ適用されるように指定され得る。
一般に、本開示は、ビデオコーディングにおけるスケーラビリティのための様々なアプローチについて説明する。技術の説明は、VVCに基づく。しかしながら、これらの技術は、他のビデオコーデック仕様に基づくレイヤード・ビデオ・コーディングにも適用される。上述の問題の1つまたは複数は、次のように解決され得る。具体的には、この開示は、ビデオコーディングにおける改善されたスケーラビリティサポートのための方法を含む。
次は、様々な定義例である。OPは、OLSインデックスおよびTemporalIdの最高値によって識別される、OLSの時間的サブセットであってよい。出力レイヤは、出力されるOLSのレイヤであり得る。OLSは、レイヤのセットであってよく、レイヤのセット内の1つまたは複数のレイヤは、出力レイヤとなるように指定される。OLSレイヤインデックスは、OLSにおけるレイヤのリストへの、OLS内のレイヤの、インデックスであってよい。サブビットストリーム抽出プロセスは、ターゲットOLSインデックスおよびターゲット最高TemporalIdによって決定される、ターゲットセットに属さないビットストリーム内のNALユニットをビットストリームから除去する指定されたプロセスであってよく、出力サブビットストリームは、ターゲットセットに属するビットストリーム内のNALユニットを含む。
例示的なビデオパラメータセットRBSPシンタックスは次のとおりである。
Figure 0007427774000001
Figure 0007427774000002
例示的なシーケンスパラメータセットRBSPシンタックスは次のとおりである。
Figure 0007427774000003
Figure 0007427774000004
例示的なDPBパラメータシンタックスは次のとおりである。
Figure 0007427774000005
例示的な一般HRDパラメータシンタックスは次のとおりである。
Figure 0007427774000006
例示的なOLD HRDパラメータシンタックスは次のとおりである。
Figure 0007427774000007
例示的なサブレイヤHRDパラメータシンタックスは次のとおりである。
Figure 0007427774000008
例示的なビデオパラメータセットRBSPセマンティクスは次のとおりである。vps_max_layers_minus1+1は、VPSを参照する各CVS内のレイヤの最大許容数を指定する。vps_max_sub_layers_minus1+1は、VPSを参照する各CVS内に存在している可能性のある時間的サブレイヤの最大数を指定する。vps_max_sub_layers_minus1の値は、0から6までの範囲内にあり得る。1に等しいvps_all_layers_same_num_sub_layers_flagは、時間的サブレイヤの数がVPSを参照する各CVS内のすべてのレイヤについて同じであることを指定する。0に等しいvps_all_layers_same_num_sub_layers_flagは、VPSを参照する各CVSにおけるレイヤが同じ数の時間的サブレイヤを有し得るか、または有し得ないことを指定する。存在していないとき、vps_all_layers_same_num_sub_layers_flagの値は、1に等しいと推論され得る。1に等しいvps_all_independent_layers_flagは、CVS内のすべてのレイヤは、レイヤ間予測を使用することなく独立してコーディングされることを指定する。0に等しいvps_all_independent_layers_flagは、CVS内のレイヤの1つまたは複数がレイヤ間予測を使用してよいことを指定する。存在していないとき、vps_all_independent_layers_flagの値は、1に等しいと推論され得る。vps_all_independent_layers_flagが1に等しいとき、vps_independent_layer_flag[i]の値は、1に等しいと推論される。vps_all_independent_layers_flagが0に等しいとき、vps_independent_layer_flag[0]の値は、1に等しいと推論される。
0に等しいvps_direct_dependency_flag[i][j]は、インデックスjを有するレイヤはインデックスiを有するレイヤに対する直接参照レイヤではないことを指定する。1に等しいvps_direct_dependency_flag[i][j]は、インデックスjを有するレイヤはインデックスiを有するレイヤに対する直接参照レイヤであることを指定する。vps_direct_dependency_flag[i][j]が0からvps_max_layers_minus1までの範囲内のiおよびjについて存在していないとき、フラグは0に等しいと推論される。i番目のレイヤのj番目の直接従属レイヤを指定する、変数DirectDependentLayerIdx[i][j]、およびレイヤインデックスjを有するレイヤが任意の他のレイヤによって参照レイヤとして使用されるかどうかを指定する変数LayerUsedAsRefLayerFlag[j]は、次のように導出され得る。
for(i=0; i<=vps_max_layers_minus1; i++)
LayerUsedAsRefLayerFlag[j]=0
for(i=1; i<vps_max_layers_minus1; i++)
if(!vps_independent_layer_flag[i])
for(j=i-1, k=0; j>=0; j--)
if(vps_direct_dependency_flag[i][j]) {
DirectDependentLayerIdx[i][k++]=j
LayerUsedAsRefLayerFlag[j]=1
}
nuh_layer_idがvps_layer_id[i]に等しいレイヤのレイヤインデックスを指定する、変数GeneralLayerIdx[i]は、次のように導出され得る。
for(i=0; i<=vps_max_layers_minus1; i++)
GeneralLayerIdx[vps_layer_id[i]]=i
1に等しいeach_layer_is_an_ols_flagは、各出力レイヤセットがただ1つのレイヤを含み、ビットストリーム内の各レイヤそれ自体は、単一の含まれるレイヤが唯一の出力レイヤである出力レイヤセットであることを指定する。0に等しいeach_layer_is_an_ols_flagは、出力レイヤセットが複数のレイヤを含み得ることを指定する。vps_max_layers_minus1が0に等しい場合、each_layer_is_an_ols_flagの値は、1に等しいと推論される。そうでない場合、vps_all_independent_layers_flagが0に等しいとき、each_layer_is_an_ols_flagの値は、0に等しいと推論される。
0に等しいols_mode_idcは、VPSによって指定されたOLSの総数がvps_max_layers_minus1+1に等しく、i番目のOLSは0からiまでのレイヤインデックスを有するレイヤを含み、各OLSについてOLS内の最上位レイヤのみが出力されることを指定する。1に等しいols_mode_idcは、VPSによって指定されたOLSの総数がvps_max_layers_minus1+1に等しく、i番目のOLSは0からiまでのレイヤインデックスを有するレイヤを含み、各OLSについてOLS内のすべてのレイヤが出力されることを指定する。2に等しいols_mode_idcは、VPSによって指定されたOLSの総数が明示的にシグナリングされ、各OLSについてOLS内の最上位レイヤおよび下位レイヤの明示的にシグナリングされたセットが出力されることを指定する。ols_mode_idcの値は、0から2までの範囲内にあり得る。vps_all_independent_layers_flagが1に等しく、each_layer_is_an_ols_flagが0に等しいとき、ols_mode_idcの値は、2に等しいと推論される。num_output_layer_sets_minus1+1は、ols_mode_idcが2に等しいときにVPSによって指定されたOLSの総数を指定する。
VPSによって指定されたOLSの総数を指定する、変数TotalNumOlssは、次のように導出され得る。
if(vps_max_layers_minus1==0)
TotalNumOlss=1
else if(each_layer_is_an_ols_flag || ols_mode_idc==0 || ols_mode_idc==1)
TotalNumOlss=vps_max_layers_minus1+1
else if(ols_mode_idc==2)
TotalNumOlss=num_output_layer_sets_minus1+1
layer_included_flag[i][j]は、j番目のレイヤ(たとえば、nuh_layer_idがvps_layer_id[j]に等しいレイヤ)が、ols_mode_idcが2に等しいときにi番目のOLS内に含まれることを指定する。1に等しいlayer_included_flag[i][j]は、j番目のレイヤがi番目のOLSに含まれることを指定する。0に等しいlayer_included_flag[i][j]は、j番目のレイヤがi番目のOLSに含まれないことを指定する。i番目のOLS内のレイヤの数を指定する、変数NumLayersInOls[i]およびi番目のOLS内のj番目のレイヤのnuh_layer_id値を指定する変数LayerIdInOls[i][j]は、次のように導出され得る。
NumLayersInOls[0]=1
LayerIdInOls[0][0]=vps_layer_id[0]
for(i=1, i<TotalNumOlss; i++) {
if(each_layer_is_an_ols_flag) {
NumLayersInOls[i]=1
LayerIdInOls[i][0]=vps_layer_id[i]
} else if(ols_mode_idc==0 | | ols_mode_idc==1) {
NumLayersInOls[i]=i+1
for(j=0; j<NumLayersInOls[i]; j++)
LayerIdInOls[i][j]=vps_layer_id[j]
} else if(ols_mode_idc==2) {
for(k=0, j=0; k<=vps_max_layers_minus1; k++)
if(layer_included_flag[i][k])
LayerIdInOls[i][j++]=vps_layer_id[k]
NumLayersInOls[i]=j
}
}
nuh_layer_idがLayerIdInOls[i][j]に等しいレイヤのOLSレイヤインデックスを指定する、変数OlsLayeIdx[i][j]は、次のように導出され得る。
for(i=0, i<TotalNumOlss; i++)
for j=0; j<NumLayersInOls[i]; j++)
OlsLayeIdx[i][LayerIdInOls[i][j]]=j
各OLS内の最下レイヤは、独立レイヤであるものとする。言い換えると、0からTotalNumOlss-1までの範囲内の各iについて、vps_independent_layer_flag[GeneralLayerIdx[LayerIdInOls[i][0]]]の値は1に等しいものとする。各レイヤは、VPSによって指定される少なくとも1つのOLS内に含まれるものとする。言い換えると、0からvps_max_layers_minus1の範囲内のkについてvps_layer_id[k]の1つに等しいnuh_layer_id nuhLayerIdの特定の値を有する各レイヤについて、iおよびjの値の少なくとも1つの対があるものとし、iは0からTotalNumOlss-1の範囲内にあり、jはNumLayersInOls[i]-1の範囲内にあり、LayerIdInOls[i][j]の値はnuhLayerIdに等しい。OLS内の任意のレイヤは、OLSの出力レイヤまたはOLSの出力レイヤの(直接的または間接的)参照レイヤであるものとする。
vps_output_layer_flag[i][j]は、ols_mode_idcが2に等しいときにi番目のOLS内のj番目のレイヤが出力されるかどうかを指定する。1に等しいvps_output_layer_flag[i]は、i番目のOLS内のj番目のレイヤが出力されることを指定する。0に等しいvps_output_layer_flag[i]は、i番目のOLS内のj番目のレイヤが出力されないことを指定する。vps_all_independent_layers_flagが1に等しく、each_layer_is_an_ols_flagが0に等しいとき、vps_output_layer_flag[i]の値は、1に等しいと推論される。値1がi番目のOLS内のj番目のレイヤが出力されることを指定し、値0がi番目のOLS内のj番目のレイヤが出力されないことを指定する変数OutputLayerFlag[i][j]は、次のように導出され得る。
for(i=0, i<TotalNumOlss; i++) {
OutputLayerFlag[i][NumLayersInOls[i]-1]=1
for(j=0; j<NumLayersInOls[i]-1; j++)
if(ols_mode_idc[i]==0)
OutputLayerFlag[i][j]=0
else if(ols_mode_idc[i]==1)
OutputLayerFlag[i][j]=1
else if(ols_mode_idc[i]==2)
OutputLayerFlag[i][j]=vps_output_layer_flag[i][j]
}
0番目のOLSは、最下位レイヤ(たとえば、nuh_layer_idがvps_layer_id[0]に等しいレイヤ)のみを含み、0番目のOLSについて、含まれているレイヤのみが出力されることに留意されたい。vps_num_ptlsは、VPSのprofile_tier_level()シンタックス構造の数を指定する。1に等しいpt_present_flag[i]は、プロファイル、ティア、および一般制約条件情報が、VPS内のi番目のprofile_tier_level()シンタックス構造内に存在することを指定する。0に等しいpt_present_flag[i]は、プロファイル、ティア、および一般制約条件情報が、VPS内のi番目のprofile_tier_level()シンタックス構造内に存在していないことを指定する。pt_present_flag[0]の値は、0に等しいと推論される。pt_present_flag[i]が0に等しいとき、VPS内のi番目のprofile_tier_level()シンタックス構造に対するプロファイル、ティア、および一般制約条件情報は、VPS内の(i-1)番目のprofile_tier_level()シンタックス構造のものと同一であると推論される。
ptl_max_temporal_id[i]は、レベル情報がVPS内のi番目のprofile_tier_level()シンタックス構造に存在する最上位サブレイヤ表現のTemporalIdを指定する。ptl_max_temporal_id[i]の値は、0からvps_max_sub_layers_minus1までの範囲内であるものとする。vps_max_sub_layers_minus1が0に等しいとき、ptl_max_temporal_id[i]の値は、0に等しいと推論される。vps_max_sub_layers_minus1が0より大きく、vps_all_layers_same_num_sub_layers_flagが1に等しいとき、ptl_max_temporal_id[i]の値は、vps_max_sub_layers_minus1に等しいと推論される。vps_ptl_byte_alignment_zero_bitは、0に等しいものとする。
ols_ptl_idx[i]は、i番目のOLSに適用されるprofile_tier_level()シンタックス構造のVPS内のprofile_tier_level()シンタックス構造のリストへのインデックスを指定する。存在するときには、ols_ptl_idx[i]の値は、0からvps_num_ptls-1までの範囲内にあるものとする。NumLayersInOls[i]が1に等しいとき、i番目のOLSに適用されるprofile_tier_level()シンタックス構造は、i番目のOLS内のレイヤによって参照されるSPS内に存在する。vps_num_dpb_paramsは、VPS内のdpb_parameters()シンタックス構造の数を指定する。vps_num_dpb_paramsの値は、0から16までの範囲内にあるものとする。存在していないとき、vps_num_dpb_paramsの値は、0に等しいと推論され得る。1に等しいsame_dpb_size_output_or_nonoutput_flagは、layer_nonoutput_dpb_params_idx[i]シンタックス要素がVPS内に存在しないことを指定する。0に等しいsame_dpb_size_output_or_nonoutput_flagは、layer_nonoutput_dpb_params_idx[i]シンタックス要素がVPS内に存在し得るか、または存在し得ないことを指定する。vps_sub_layer_dpb_params_present_flagは、VPS内のdpb_parameters()シンタックス構造におけるmax_dec_pic_buffering_minus1[ ]、max_num_reorder_pics[ ]、およびmax_latency_increase_plus1[ ]シンタックス要素の存在を制御するために使用される。存在しないときには、vps_sub_dpb_params_info_present_flagは、0に等しいと推論される。
1に等しいdpb_size_only_flag[i]は、max_num_reorder_pics[ ]およびmax_latency_increase_plus1[ ]シンタックス要素がi番目のdpb_parameters()シンタックス構造のそのVPSに存在していないことを指定する。1に等しいdpb_size_only_flag[i]は、max_num_reorder_pics[ ]およびmax_latency_increase_plus1[ ]シンタックス要素がi番目のdpb_parameters()シンタックス構造のそのVPSに存在し得ることを指定する。dpb_max_temporal_id[i]は、DPBパラメータがVPS内のi番目のdpb_parameters()シンタックス構造に存在し得る最上位サブレイヤ表現のTemporalIdを指定する。dpb_max_temporal_id[i]の値は、0からvps_max_sub_layers_minus1までの範囲内であるものとする。vps_max_sub_layers_minus1が0に等しいとき、dpb_max_temporal_id[i]の値は、0に等しいと推論され得る。vps_max_sub_layers_minus1が0より大きく、vps_all_layers_same_num_sub_layers_flagが1に等しいとき、dpb_max_temporal_id[i]の値は、vps_max_sub_layers_minus1に等しいと推論される。layer_output_dpb_params_idx[i]は、OLS内の出力レイヤであるときにi番目のレイヤに適用されるdpb_parameters()シンタックス構造の、VPS内のdpb_parameters()シンタックス構造のリストへのインデックスを指定する。存在するときには、layer_output_dpb_params_idx[i]の値は、0からvps_num_dpb_params-1までの範囲内にあるものとする。
vps_independent_layer_flag[i]が1に等しい場合、出力レイヤであるときにi番目のレイヤに適用されるdpb_parameters()シンタックス構造は、レイヤによって参照されるSPS内に存在するdpb_parameters()シンタックス構造である。そうでない場合(vps_independent_layer_flag[i]が1に等しい場合)、次が適用される。vps_num_dpb_paramsが1に等しいとき、layer_output_dpb_params_idx[i]の値は、0に等しいと推論される。ビットストリーム適合性の要件は、layer_output_dpb_params_idx[i]の値が、dpb_size_only_flag[layer_output_dpb_params_idx[i]]が0に等しくなるような値であるものとしてよい。
layer_nonoutput_dpb_params_idx[i]は、i番目のレイヤがOLS内の非出力レイヤであるときにi番目のレイヤに適用されるdpb_parameters()シンタックス構造の、VPS内のdpb_parameters()シンタックス構造のリストへのインデックスを指定する。存在するときには、layer_nonoutput_dpb_params_idx[i]の値は、0からvps_num_dpb_params-1までの範囲内にあるものとする。same_dpb_size_output_or_nonoutput_flagが1に等しい場合、次が適用される。vps_independent_layer_flag[i]が1に等しい場合、i番目のレイヤが非出力レイヤであるときにi番目のレイヤに適用されるdpb_parameters()シンタックス構造は、レイヤによって参照されるSPS内に存在するdpb_parameters()シンタックス構造である。そうでない場合(vps_independent_layer_flag[i]が1に等しい場合)、layer_nonoutput_dpb_params_idx[i]の値は、layer_output_dpb_params_idx[i]に等しいと推論される。そうでない場合(same_dpb_size_output_or_nonoutput_flagが0に等しい場合)、vps_num_dpb_paramsが1に等しいとき、layer_output_dpb_params_idx[i]の値は、0に等しいと推論される。
1に等しいgeneral_hrd_params_present_flagは、シンタックス要素num_units_in_tickおよびtime_scaleならびにシンタックス構造general_hrd_parameters()がSPS RBSPシンタックス構造内に存在することを指定する。0に等しいgeneral_hrd_params_present_flagは、シンタックス要素num_units_in_tickおよびtime_scaleならびにシンタックス構造general_hrd_parameters()がSPS RBSPシンタックス構造内に存在しないことを指定する。num_units_in_tickは、クロックティックカウンタの1増分(クロックティックと呼ばれる)に対応する周波数time_scalehertz(Hz)で動作するクロックの時間単位の数である。num_units_in_tickは、0より大きいものとする。クロックティックは、秒単位であり、num_units_in_tickをtime_scaleで除算した商に等しい。たとえば、ビデオ信号のピクチャレートが25Hzであるとき、time_scaleは27,000,000に等しいものとしてよく、num_units_in_tickは1,080,000に等しいものとしてよく、その結果、クロックティックは0.04秒に等しいものとしてよい。time_scaleは、1秒間に通過する時間単位の数である。たとえば、27MHzのクロックを使用して時間を計測する時間座標系は、27,000,000のtime_scaleを有する。time_scaleの値は、0より大きいものとする。
0に等しいvps_extension_flagは、VPS RBSPシンタックス構造にvps_extension_data_flagシンタックス要素が存在していないことを指定する。1に等しいvps_extension_flagは、VPS RBSPシンタックス構造に存在するvps_extension_data_flagシンタックス要素があることを指定する。vps_extension_data_flagは任意の値を有し得る。vps_extension_data_flagの存在および値は、プロファイルへのデコーダ適合性に影響を及ぼし得ない。適合するデコーダは、すべてのvps_extension_data_flagシンタックス要素を無視し得る。
例示的なシーケンスパラメータセットRBSPセマンティクスは次のとおりである。SPS RBSPは、TemporalIdが0に等しい少なくとも1つのアクセスユニットに含まれるか、または外部手段を通じて提供される、参照される前のデコーディングプロセスに利用可能であるものとし、SPS RBSPを含むSPS NALユニットは、SPS NALユニットを参照するPPS NALユニットの最低のnuh_layer_id値に等しいnuh_layer_idを有するものとする。CVS内のsps_seq_parameter_set_idの特定の値を有するすべてのSPS NALユニットは、同じ内容を有するものとする。sps_decoding_parameter_set_idは、0よりも大きいとき、SPSによって参照されるDPSに対するdps_decoding_parameter_set_idの値を指定する。sps_decoding_parameter_set_idが0に等しいとき、SPSは、DPSを参照せず、SPSを参照する各CLVSをデコードするときにDPSは参照されない。sps_decoding_parameter_set_idの値は、ビットストリーム内のコーディング済みピクチャによって参照されるすべてのSPSにおいて同じであるものとする。
sps_video_parameter_set_idは、0よりも大きいとき、SPSによって参照されるVPSに対するvps_video_parameter_set_idの値を指定する。sps_video_parameter_set_idが0に等しいとき、SPSは、VPSを参照し得ず、SPSを参照する各CLVSをデコードするときにVPSは参照されず、GeneralLayerIdx[nuh_layer_id]の値は、0に等しいと推論されるものとし、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]の値は、1に等しいと推論され得る。vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいとき、特定のnuh_layer_id値nuhLayerIdを有するCLVSによって参照されるSPSは、nuhLayerIdに等しいnuh_layer_idを有するものとする。
sps_max_sub_layers_minus1+1は、SPSを参照する各CLVS内に存在している可能性のある時間的サブレイヤの最大数を指定する。sps_max_sub_layers_minus1の値は、0からvps_max_sub_layers_minus1までの範囲内にあるものとする。sps_reserved_zero_4bitsは、適合するビットストリーム内で0に等しいものとする。sps_reserved_zero_4bitsに対する他の値は、予約され得る。
1に等しいsps_ptl_dpb_present_flagは、profile_tier_level()シンタックス構造およびdpb_parameters()シンタックス構造がSPS内に存在していることを指定する。0に等しいsps_ptl_dpb_present_flagは、profile_tier_level()シンタックス構造も、dpb_parameters()シンタックス構造も、SPS内に存在していないことを指定する。sps_ptl_dpb_present_flagの値は、vps_independent_layer_flag[nuh_layer_id]に等しいものとする。vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しい場合、変数MaxDecPicBuffMinus1は、SPS内のdpb_parameters()シンタックス構造においてmax_dec_pic_buffering_minus1[sps_max_sub_layers_minus1]に等しくなるように設定される。そうでない場合、MaxDecPicBuffMinus1は、VPS内のlayer_nonoutput_dpb_params_idx[GeneralLayerIdx[nuh_layer_id]]番目のdpb_parameters()シンタックス構造のmax_dec_pic_buffering_minus1[sps_max_sub_layers_minus1]に等しくなるように設定される。1に等しいgdr_enabled_flagは、SPSを参照するCLVSにGDRピクチャが存在し得ることを指定する。0に等しいgdr_enabled_flagは、SPSを参照するCLVSにGDRピクチャが存在しないことを指定する。
sps_sub_layer_dpb_params_flagは、SPS内のdpb_parameters()シンタックスにおけるmax_dec_pic_buffering_minus1[i]、max_num_reorder_pics[i]、およびmax_latency_increase_plus1[i]シンタックス要素の存在を制御するために使用される。存在しないときには、sps_sub_dpb_params_info_present_flagは、0に等しいと推論される。0に等しいlong_term_ref_pics_flagは、CLVS内の任意のコーディング済みピクチャのインター予測にLTRPが使用されないことを指定する。1に等しいlong_term_ref_pics_flagは、CLVS内の1つまたは複数のコーディング済みピクチャのインター予測にLTRPが使用され得ることを指定する。
例示的な一般的なプロファイル、ティア、およびレベルのセマンティクスは次のとおりである。profile_tier_level()シンタックス構造は、レベル情報、および任意選択で、プロファイル、ティア、サブプロファイル、および一般制約条件情報(PT情報として示される)を提供する。profile_tier_level()シンタックス構造がDPSに含まれるとき、OlsInScopeは、DPSを参照するビットストリーム全体におけるすべてのレイヤを含むOLSである。profile_tier_level()シンタックス構造が、VPSに含まれるとき、OlsInScopeは、VPSによって指定される1つまたは複数のOLSである。profile_tier_level()シンタックス構造が、SPSに含まれるとき、OlsInScopeは、独立レイヤであるものとする、SPSを参照するレイヤのうち最下位レイヤであるレイヤのみを含むOLSである。
general_profile_idcは、OlsInScopeが適合するプロファイルを示す。general_tier_flagは、general_level_idcの解釈に対するティアコンテキストを指定する。num_sub_profilesは、general_sub_profile_idc[i]シンタックス要素の数を指定する。general_sub_profile_idc[i]は、登録されているi番目の相互運用性メタデータを示している。general_level_idcは、OlsInScopeが適合するレベルを示す。general_level_idcは値が大きいほどレベルが高いことを示すことに留意されたい。OlsInScopeに対するDPSでシグナリングされる最大レベルは、OlsInScope内に含まれるCVSに対するSPSにおいてシグナリングされるレベルより高いものとしてよい。OlsInScopeが複数のプロファイルに適合するとき、general_profile_idcは、エンコーダによって決定されるように、好ましいデコード済み結果または好ましいビットストリーム識別を提供するプロファイルを示すべきであることにも留意されたい。profile_tier_level()シンタックス構造がDPSに含まれ、OlsInScopeのCVSが異なるプロファイルに適合するとき、general_profile_idcおよびlevel_idcはOlsInScopeをデコードすることができるデコーダに対するプロファイルおよびレベルを示すべきであることにも留意されたい。
1に等しいsub_layer_level_present_flag[i]は、レベル情報がiに等しいTemporalIdを有するサブレイヤ表現に対するprofile_tier_level()シンタックス構造内に存在することを指定する。0に等しいsub_layer_level_present_flag[i]は、レベル情報がiに等しいTemporalIdを有するサブレイヤ表現に対するprofile_tier_level()シンタックス構造内に存在しないことを指定する。ptl_alignment_zero_bitsは0に等しいものとする。シンタックス要素sub_layer_level_idc[i]のセマンティクスは、存在していない値の推論の指定とは別にして、シンタックス要素general_level_idcと同じであるが、iに等しいTemporalIdを有するサブレイヤ表現に適用される。
例示的なDPBパラメータセマンティクスは次のとおりである。dpb_parameters(maxSubLayersMinus1, subLayerInfoFlag)シンタックス構造は、DPBサイズ、最大ピクチャ順序変更数、およびCVSの各CLVSに対する最大待ち時間の情報を提供する。dpb_parameters()シンタックス構造が、VPSに含まれるとき、dpb_parameters()シンタックス構造が適用されるOLSは、VPSによって指定される。dpb_parameters()シンタックス構造が、SPSに含まれるとき、dpb_parameters()シンタックス構造は、独立レイヤであるものとする、SPSを参照するレイヤのうち最下位レイヤであるレイヤのみを含むOLSに適用される。
max_dec_pic_buffering_minus1[i]+1は、CVSの各CLVSについて、Htidがiに等しいときにピクチャストレージバッファのユニットでのデコード済みピクチャバッファの最大必要サイズを指定する。max_dec_pic_buffering_minus1[i]の値は、0からMaxDpbSize-1までの範囲内にあるものとする。iが0より大きいとき、max_dec_pic_buffering_minus1[i]は、max_dec_pic_buffering_minus1[i-1]以上であるものとする。subLayerInfoFlagが0に等しいことに起因して、max_dec_pic_buffering_minus1[i]が、0からmaxSubLayersMinus1-1までの範囲内のiについて存在していないとき、max_dec_pic_buffering_minus1[i]は、max_dec_pic_buffering_minus1[maxSubLayersMinus1]に等しいと推論される。
max_num_reorder_pics[i]は、CVSの各CLVSについて、Htidがiに等しいときにCLVSの任意のピクチャにデコード順序で先行し出力順序でそのピクチャが後に続くことができるCLVSのピクチャの最大許容数を指定する。max_num_reorder_pics[i]の値は、0からmax_dec_pic_buffering_minus1[i]までの範囲内にあるものとする。iが0より大きいとき、max_num_reorder_pics[i]は、max_num_reorder_pics[i-1]以上であるものとする。subLayerInfoFlagが0に等しいことに起因して、max_num_reorder_pics[i]が、0からmaxSubLayersMinus1-1までの範囲内のiについて存在していないとき、max_num_reorder_pics[i]は、max_num_reorder_pics[maxSubLayersMinus1]に等しいと推論される。
0に等しくないmax_latency_increase_plus1[i]は、MaxLatencyPictures[i]の値を計算するために使用され、これは、CVSの各CLVSについて、Htidがiに等しいときにCLVSの任意のピクチャに出力順序で先行しデコード順序でそのピクチャが後に続くことができるCLVS内のピクチャの最大数を指定する。max_latency_increase_plus1[i]が0に等しくないとき、MaxLatencyPictures[i]の値は、次のように指定され得る。
MaxLatencyPictures[i]=max_num_reorder_pics[i]+max_latency_increase_plus1[i]-1
max_latency_increase_plus1[i]が0に等しいとき、対応する限度は表現されない。
max_latency_increase_plus1[i]の値は、0から232-2までの範囲内であるべきである。subLayerInfoFlagが0に等しいことに起因して、max_latency_increase_plus1[i]が、0からmaxSubLayersMinus1-1までの範囲内のiについて存在していないとき、max_latency_increase_plus1[i]は、max_latency_increase_plus1[maxSubLayersMinus1]に等しいと推論される。
例示的な一般HDRパラメータセマンティクスは、次のとおりである。general_hrd_parameters()シンタックス構造は、HRD演算で使用されるHRDパラメータを規定する。num_ols_hrd_params_minus1+1は、general_hrd_parameters()シンタックス構造に存在するols_hrd_parameters()シンタックス構造の数を指定する。num_ols_hrd_params_minus1の値は、0から63までの範囲内にあるものとする。TotalNumOlssが1より大きいとき、num_ols_hrd_params_minus1の値は、0に等しいと推論される。hrd_cpb_cnt_minus1+1は、CVSのビットストリーム内の代替的CPB指定の数を指定する。hrd_cpb_cnt_minus1の値は、0から31までの範囲内にあるものとする。hrd_max_temporal_id[i]は、HRDパラメータがi番目のlayer_level_hrd_parameters()シンタックス構造に含まれる最上位サブレイヤ表現のTemporalIdを指定する。hrd_max_temporal_id[i]の値は、0からvps_max_sub_layers_minus1までの範囲内であるものとする。vps_max_sub_layers_minus1が0に等しいとき、hrd_max_temporal_id[i]の値は、0に等しいと推論される。ols_hrd_idx[i]は、i番目のOLSに適用されるols_hrd_parameters()シンタックス構造のインデックスを指定する。ols_hrd_idx[[i]の値は、0からnum_ols_hrd_params_minus1までの範囲内であるものとする。存在していないとき、ols_hrd_idx[[i]の値は、0に等しいと推論される。
例示的な参照ピクチャリスト構造セマンティクスは、次のとおりである。ref_pic_list_struct(listIdx, rplsIdx)シンタックス構造は、SPS内、またはスライスヘッダ内に存在しているものとしてよい。シンタックス構造がスライスヘッダまたはSPSに含まれるかどうかに応じて、次が適用される。スライスヘッダ内に存在する場合、ref_pic_list_struct(listIdx, rplsIdx)シンタックス構造は、現在のピクチャ(スライスを含むピクチャ)の参照ピクチャリストlistIdxを指定する。そうでない場合(SPSに存在する場合)、ref_pic_list_struct(listIdx, rplsIdx)シンタックス構造は、参照ピクチャリストlistIdxに対する候補を指定し、この節の残りの部分で指定されるセマンティクスにおける「現在のピクチャ」という用語は、SPSに含まれるref_pic_list_struct(listIdx, rplsIdx)シンタックス構造のリストへのインデックスに等しいref_pic_list_idx[listIdx]を含む1つまたは複数のスライスを有し、SPSを参照するCVS内にある各ピクチャを指す。num_ref_entries[listIdx][rplsIdx]は、ref_pic_list_struct(listIdx, rplsIdx)シンタックス構造内のエントリの数を指定する。num_ref_entries[listIdx][rplsIdx]の値は、0からMaxDecPicBuffMinus1+14までの範囲内であるものとする。
例示的な一般的なデコーディングプロセスは、次のとおりである。このプロセスへの入力は、ビットストリームBitstreamToDecodeである。このプロセスの出力は、デコード済みピクチャのリストである。デコーディングプロセスは、指定されたプロファイルおよびレベルに適合するすべてのデコーダが、そのプロファイルおよびレベルに適合するビットストリームに対してそのプロファイルに関連付けられているデコーディングプロセスを呼び出すときに数値的に同一のクロップされたデコード済み出力ピクチャを形成するように指定される。本明細書において説明されているプロセスによって形成されたものと同一のクロップされたデコード済み出力ピクチャを形成する任意のデコーディングプロセスは、(指定されているように、正しい出力順序または出力タイミングで)デコーディングプロセス要件に適合する。
ビットストリーム内の各IRAP AUについて、次が適用される。AUがビットストリーム内のデコード順で最初のAUであるか、各ピクチャが瞬時デコーディングリフレッシュ(IDR)ピクチャであるか、または各ピクチャがデコード順でシーケンスNALユニットの終端の後に続くレイヤの最初のピクチャである場合に、変数NoIncorrectPicOutputFlagは1に等しくなるように設定される。そうでなければ、変数HandleCraAsCvsStartFlagがAUに対する値に設定されている場合、HandleCraAsCvsStartFlagは外部メカニズムによって提供される値に等しくなるように設定され、NoIncorrectPicOutputFlagはHandleCraAsCvsStartFlagに等しくなるように設定される。そうでなければ、HandleCraAsCvsStartFlagおよびNoIncorrectPicOutputFlagは両方とも0に等しくなるように設定される。
ビットストリーム内の各漸進的デコーディングリフレッシュ(GDR)AUについて、次が適用される。AUがビットストリーム内のデコード順で最初のAUであるか、または各ピクチャがデコード順でシーケンスNALユニットの終端の後に続くレイヤの最初のピクチャである場合に、変数NoIncorrectPicOutputFlagは1に等しくなるように設定される。そうでなければ、何らかの外部メカニズムが、変数HandleGdrAsCvsStartFlagをAUに対する値に設定するために利用可能である場合、HandleGdrAsCvsStartFlagは、外部メカニズムによって提供される値に等しくなるように設定され、NoIncorrectPicOutputFlagは、HandleGdrAsCvsStartFlagに等しくなるように設定される。そうでなければ、HandleGdrAsCvsStartFlagおよびNoIncorrectPicOutputFlagは両方とも0に等しくなるように設定される。IRAPピクチャとGDRピクチャの両方について、上記の操作は、ビットストリーム中のCVSを識別するために使用される。デコーディングは、BitstreamToDecodeの各コーディング済みピクチャに対してデコード順に繰り返し呼び出される。
参照ピクチャリスト構築のための例示的なデコーディングプロセスは、次のとおりである。このプロセスは、非IDRピクチャの各スライスに対してデコーディングプロセスの始めに呼び出される。参照ピクチャは、参照インデックスを通じてアドレス指定される。参照インデックスは、参照ピクチャリストへのインデックスである。Iスライスをデコードするとき、参照ピクチャリストは、スライスデータをデコードする際に使用されない。Pスライスをデコードするとき、参照ピクチャリスト0のみ(たとえば、RefPicList[0])が、スライスデータをデコードする際に使用される。Bスライスをデコードするとき、参照ピクチャリスト0と参照ピクチャリスト1(たとえば、RefPicList[1])の両方が、スライスデータをデコードする際に使用される。
次の制約条件が、ビットストリーム適合性に対して適用される。0または1に等しい各iについて、num_ref_entries[i][RplsIdx[i]]は、NumRefIdxActive[i]より小さくないものとする。RefPicList[0]またはRefPicList[1]の各アクティブエントリによって参照されるピクチャは、DPB内に存在しているものとし、現在のピクチャのTemporalId以下のTemporalIdを有するものとする。RefPicList[0]またはRefPicList[1]の各エントリによって参照されるピクチャは、現在のピクチャではないものとし、0に等しいnon_reference_picture_flagを有するものとする。ピクチャのスライスのRefPicList[0]もしくはRefPicList[1]内の短期参照ピクチャ(STRP)エントリおよび同じスライスまたは同じピクチャの異なるスライスのRefPicList[0]もしくはRefPicList[1]の長期参照ピクチャ(LTRP)エントリは、同じピクチャを参照すべきではない。RefPicList[0]またはRefPicList[1]に、現在のピクチャのPicOrderCntValとそのエントリによって参照されるピクチャのPicOrderCntValとの差が224以上となるLTRPエントリはあるべきでない。
setOfRefPicsを、現在のピクチャと同じnuh_layer_idを有するRefPicList[0]内のすべてのエントリおよび現在のピクチャと同じnuh_layer_idを有するRefPicList[1]内のすべてのエントリによって参照される固有のピクチャのセットであるとする。setOfRefPicsのピクチャの数は、MaxDecPicBuffMinus1以下であるものとし、setOfRefPicsは、ピクチャのすべてのスライスについて同じであるものとする。現在のピクチャが段階的時間的サブレイヤアクセス(STSA)ピクチャであるとき、RefPicList[0]またはRefPicList[1]に、現在のピクチャのTemporalIdに等しいTemporalIdを有するアクティブエントリがないものとする。現在のピクチャが、デコード順で、現在のピクチャとのTemporalIdに等しいTemporalIdを有するSTSAピクチャの後に続くピクチャであるとき、デコード順でSTSAピクチャに先行するRefPicList[0]またはRefPicList[1]内のアクティブエントリとして含まれる現在ピクチャのTemporalIdに等しいTemporalIdを有するピクチャはないものとする。
現在のピクチャのスライスのRefPicList[0]またはRefPicList[1]内の各レイヤ間参照ピクチャ(ILRP)エントリによって参照されるピクチャは、現在のピクチャと同じアクセスユニットにあるものとする。現在のピクチャのスライスのRefPicList[0]またはRefPicList[1]内の各ILRPエントリによって参照されるピクチャは、DPB内に存在するものとし、現在のピクチャのnuh_layer_idより小さいnuh_layer_idを有するものとする。スライスのRefPicList[0]またはRefPicList[1]内の各ILRPエントリは、アクティブエントリであるべきである。
例示的なHRD指定は、次のとおりである。HRDは、ビットストリームおよびデコーダ適合性をチェックするために使用される。entireBitstreamと表記される、ビットストリーム全体と称される、ビットストリームの適合性をチェックするためにビットストリーム適合性テストのセットが使用される。ビットストリーム適合性テストのセットは、VPSによって指定された各OLSの各OPの適合性をテストするためのものである。
各テストについて、次の順序のステップがリストにされた順で適用され、その後、この節におけるこれらのステップの後に記述されるプロセスが続く。targetOpと表記される、テスト対象のオペレーションポイントが、OLSインデックスopOlsIdxおよび最高のTemporalId値opTidを有するターゲットOLSを選択することによって選択される。opOlsIdxの値は、0からTotalNumOlss-1までの範囲内にある。opTidの値は、0からvps_max_sub_layers_minus1までの範囲内にある。opOlsIdxおよびopTidの選択された値の各対は、entireBitstream、opOlsIdx、およびopTidを入力としてサブビットストリーム抽出プロセスを呼び出すことによって出力されるサブビットストリームが次の条件を満たすような対であるものとする。BitstreamToDecodeにおけるLayerIdInOls[opOlsIdx]のnuh_layer_idに等しいnuh_layer_id値を有するVCL NALユニットが少なくとも1つある。BitstreamToDecodeにおいてTemporalIdがopTidに等しいVCL NALユニットが少なくとも1つある。
targetOpにおけるレイヤが、entireBitstream内のすべてのレイヤを含み、opTidがentireBitstream内のすべてのNALユニットの中で最高のTemporalId値と等しい大きいである場合、BitstreamToDecodeはentireBitstreamと同一になるように設定される。そうでない場合、BitstreamToDecodeは、entireBitstream、opOlsIdx、およびopTidを入力としてサブビットストリーム抽出プロセスを呼び出すことによって出力されるように設定される。TargetOlsIdxおよびHtidの値は、それぞれtargetOpのopOlsIdxおよびopTidに等しくなるように設定される。ScIdxの値が選択される。選択されたScIdxは、0からhrd_cpb_cnt_minus1までの範囲内にあるものとする。TargetOlsIdxに適用可能なバッファリング期間SEIメッセージ(TargetLayerBitstream内に存在するか、または外部メカニズムを通じて利用可能)に関連付けられているBitstreamToDecodeにおけるアクセスユニットは、HRD初期化点として選択され、ターゲットOLSの各レイヤに対してアクセスユニット0と参照される。
その後のステップは、ターゲットOLS内のOLSレイヤインデックスTargetOlsLayerIdxを有する各レイヤに適用される。BitstreamToDecodeに適用可能なols_hrd_parameters()シンタックス構造およびsub_layer_hrd_parameters()シンタックス構造は次のように選択される。VPS内の(または外部メカニズムを通じて提供される)ols_hrd_idx[TargetOlsIdx]番目のols_hrd_parameters()シンタックス構造が選択される。選択されたols_hrd_parameters()シンタックス構造内で、BitstreamToDecodeがタイプIビットストリームである場合、条件「if(general_vcl_hrd_params_present_flag)」の直後に来るsub_layer_hrd_parameters(Htid)シンタックス構造が選択され、変数NalHrdModeFlagが0に等しくなるように設定される。そうでない場合(BitstreamToDecodeがタイプIIビットストリームである場合)、条件「if(general_vcl_hrd_params_present_flag)」(この場合、変数NalHrdModeFlagは0に等しくなるように設定される)または条件「if(general_nal_hrd_params_present_flag)」(この場合、変数NalHrdModeFlagは1に等しくなるように設定される)のいずれかの直後に来るsub_layer_hrd_parameters(Htid)シンタックス構造が選択される。BitstreamToDecodeがタイプIIビットストリームであり、NalHrdModeFlagが0に等しいとき、フィラーデータNALユニットを除くすべての非VCL NALユニット、ならびにNALユニットストリームからバイトストリームを形成するすべてのleading_zero_8bits、zero_byte、start_code_prefix_one_3bytes、およびtrailing_zero_8bitsシンタックス要素は、存在するとき、BitstreamToDecodeから破棄され、残りのビットストリームは、BitstreamToDecodeに割り当てられる。
decoding_unit_hrd_params_present_flagが1に等しいとき、CPBは、アクセスユニットレベル(この場合、変数DecodingUnitHrdFlagは0に等しくなるように設定される)またはデコーディングユニットレベル(この場合、変数DecodingUnitHrdFlagは1に等しくなるように設定される)のいずれかで動作するようにスケジュールされる。そうでない場合、DecodingUnitHrdFlagは0に等しくなるように設定され、CPBはアクセスユニットレベルで動作するようにスケジュールされる。
アクセスユニット0から始まるBitstreamToDecode内の各アクセスユニットについて、アクセスユニットに関連付けられ、TargetOlsIdxに適用されるバッファリング期間SEIメッセージ(BitstreamToDecode内に存在しているか、または外部メカニズムを通じて利用可能である)が選択され、アクセスユニットに関連付けられ、TargetOlsIdxに適用されるピクチャタイミング期間SEIメッセージ(BitstreamToDecode内に存在しているか、または外部メカニズムを通じて利用可能である)が選択され、DecodingUnitHrdFlagが1に等しく、decoding_unit_cpb_params_in_pic_timing_sei_flagが0に等しいとき、アクセスユニット内のデコーディングユニットに関連付けられ、TargetOlsIdxに適用されるデコーディングユニット情報SEIメッセージ(BitstreamToDecode内に存在しているか、または外部メカニズムを通じて利用可能である)が選択される。
各適合性テストは、上記ステップの各々における1つのオプションの組合せを含む。ステップに対して複数のオプションがあるとき、任意の特定の適合性テストに対して、1つのオプションのみが選択される。すべてのステップの可能なすべての組合せが、適合性テストのセット全体を成す。テスト対象の各オペレーションポイントについて、実行されるべきビットストリーム適合性テストの数は、n0*n1*n2*n3に等しく、n0、n1、n2、およびn3の値は、次のように指定される。n1はhrd_cpb_cnt_minus1+1に等しい。n1は、バッファリング期間SEIメッセージに関連付けられているBitstreamToDecodeにおけるアクセスユニットの数である。n2は、次のように導出される。BitstreamToDecodeがタイプIビットストリームである場合、n0は1に等しい。そうでない場合(BitstreamToDecodeがタイプIIビットストリームである場合)、n0は2に等しい。n3は、次のように導出される。decoding_unit_hrd_params_present_flagが0に等しい場合、n3は1に等しい。そうでない場合、n3は2に等しい。
HRDは、ビットストリーム抽出器(任意選択で存在する)、コーディング済みピクチャバッファ(CPB)、瞬時デコーディングプロセス、各レイヤに対するサブDPBを概念的に含むデコード済みピクチャバッファ(DPB)、および出力クロッピングを含んでいる。各ビットストリーム適合性テストについて、CPBサイズ(ビット数)は、CpbSize[Htid][ScIdx]であり、各レイヤに対するDPBパラメータmax_dec_pic_buffering_minus1[Htid]、max_num_reorder_pics[Htid]、およびMaxLatencyPictures[Htid]は、レイヤが独立レイヤであるかどうか、およびレイヤがターゲットOLSの出力レイヤであるかどうかに応じてそのレイヤに適用されるdpb_pameters()シンタックス構造内に見つかるか、またはそれから導出される。
HRDは次のように動作し得る。HDRは、デコーディングユニット0で初期化され、CPBおよびDPBの各サブDPBの両方は空に設定される(各サブDPBに対するサブDPBの充足量が0に等しくなるように設定されている)。初期化後、HRDは、その後のバッファリング期間SEIメッセージによって再び初期化されることはあり得ない。指定された到着スケジュールに従って各CPBに流入するデコーディングユニットに関連付けられているデータは、仮想ストリームスケジューラ(HSS)によって配信される。各デコーディングユニットに関連付けられているデータが除去され、デコーディングユニットのCPB除去時間に瞬時デコーディングプロセスによって瞬時にデコードされる。各デコード済みピクチャは、DPB内に置かれる。デコード済みピクチャは、デコード済みピクチャがインター予測参照にもはや必要なくなり、また出力にもはや必要なくなったときにDPBから除去される。
デコード済みピクチャバッファの例示的な動作は次のとおりである。これらの指定は、選択されたデコード済みピクチャバッファ(DPB)パラメータの各セットに独立して適用され得る。デコード済みピクチャバッファは、概念的にはサブDPBを含み、各サブDPBは、1つのレイヤのデコード済みピクチャを記憶するためのピクチャストレージバッファを含む。ピクチャストレージバッファの各々は、参照用使用とマークされるか、または後の出力のために保持されるデコード済みピクチャを含み得る。本明細書において説明されているプロセスは、順次適用され、OLS内のレイヤのnuh_layer_id値の増加順に、OLS内の最下位レイヤから始まって各レイヤについて独立して適用される。特定のレイヤに対してこれらのプロセスが適用されるとき、特定のレイヤに対するサブDPBのみが影響を受ける。これらのプロセスの説明では、DPBは、特定のレイヤに対するサブDPBを指し、その特定のレイヤは、現在のレイヤと称される。
出力タイミングDPBの動作において、同一アクセスユニット内のPicOutputFlagが1に等しいデコード済みピクチャは、デコード済みピクチャのnuh_layer_id値の昇順に連続的に出力される。ピクチャnおよび現在のピクチャを、nuh_layer_idの特定の値に対するアクセスユニットnのコーディング済みピクチャまたはデコード済みピクチャとし、nを非負の整数値とする。現在のピクチャのデコード前のDPBからのピクチャの除去は次のように生じる。現在のピクチャのデコード前のDPBからのピクチャの除去(ただし、現在のピクチャの最初のスライスのスライスヘッダの解析後)は、アクセスユニットnの最初のデコーディングユニットのCPB除去時間において実質的に瞬時に起こり(現在のピクチャを含む)、次のように進む。
参照ピクチャリスト構築に対するデコーディングプロセスが呼び出され、参照ピクチャマーキングに対するデコーディングプロセスが呼び出される。現在のAUが、AU0でないコーディング済みビデオシーケンス開始(CVSS)AUであるとき、次の順序付けられたステップが適用される。変数NoOutputOfPriorPicsFlagは、次のようにテスト対象のデコーダについて導出される。現在のAU内の任意のピクチャについて導出されたpic_width_max_in_luma_samples、pic_height_max_in_luma_samples、chroma_format_idc、separate_colour_plane_flag、bit_depth_luma_minus8、bit_depth_chroma_minus8またはmax_dec_pic_buffering_minus1[Htid]の値が、同じCLVS内の先行するピクチャについてそれぞれ導出されたpic_width_in_luma_samples、pic_height_in_luma_samples、chroma_format_idc、separate_colour_plane_flag、bit_depth_luma_minus8、bit_depth_chroma_minus8、またはmax_dec_pic_buffering_minus1[Htid]の値と異なる場合、NoOutputOfPriorPicsFlagは、no_output_of_prior_pics_flagの値に関係なく、テスト対象のデコーダによって1に設定されることがある。NoOutputOfPriorPicsFlagをno_output_of_prior_pics_flagに等しくなるように設定することはこれらの条件の下で好ましい場合があるが、テスト対象のデコーダは、この場合にNoOutputOfPriorPicsFlagを1に設定することを許される。そうでない場合、NoOutputOfPriorPicsFlagは、no_output_of_prior_pics_flagに等しくなるように設定される。
テスト対象のデコーダについて導出されたNoOutputOfPriorPicsFlagの値はHRDに対して適用され、その結果、NoOutputOfPriorPicsFlagの値が1に等しいとき、DPB内のすべてのピクチャストレージバッファは、それらが含むピクチャの出力なしで空にされ、DPB充足量は0に等しくなるように設定される。DPB内の任意のピクチャkについて次の条件の両方が真であるとき、DPB内のそのようなすべてのピクチャkはDPBから除去される。ピクチャkは、参照用未使用としてマークされ得るか、またはピクチャkは、0に等しいPictureOutputFlagを有することができるか、もしくはDPB出力時間は、現在のピクチャnの最初のデコーディングユニット(デコーディングユニットmと表す)のCPB除去時間以下であり、DpbOutputTime[k]はDuCpbRemovalTime[m]以下である。DPBから除去される各ピクチャについて、DPB充足量は、1だけ減分される。
出力順DPBの動作は次のとおりであるものとしてよい。これらのプロセスは、選択されたデコード済みピクチャバッファ(DPB)パラメータの各セットに独立して適用され得る。デコード済みピクチャバッファは、概念的にはサブDPBを含み、各サブDPBは、1つのレイヤのデコード済みピクチャを記憶するためのピクチャストレージバッファを含む。ピクチャストレージバッファの各々は、参照用使用とマークされるか、または将来の出力のために保持されるデコード済みピクチャを含む。現在のピクチャのデコード前にDPBからピクチャを出力し除去するためのプロセスが呼び出され、それに続いて現在のデコード済みピクチャのマーキングおよび記憶のためのプロセスが呼び出され、それに続いて最後に追加バンピングのプロセスが呼び出される。これらのプロセスは、OLS内の最下位レイヤから始まって、OLS内のレイヤのnuh_layer_id値の増加順に、各レイヤについて独立して適用される。特定のレイヤに対してこれらのプロセスが適用されるとき、特定のレイヤに対するサブDPBのみが影響を受ける。
出力順序DPBの動作において、出力タイミングDPBの動作と同じように、同じアクセスユニット内でPicOutputFlagが1に等しいデコード済みピクチャも、デコード済みピクチャのnuh_layer_id値の昇順に連続的に出力される。ピクチャnおよび現在のピクチャを、nuh_layer_idの特定の値に対するアクセスユニットnのコーディング済みピクチャまたはデコード済みピクチャとし、nを非負の整数値とする。DPBからのピクチャの出力および除去について次のように説明される。
現在のピクチャのデコード前(ただし、現在のピクチャの最初のスライスのスライスヘッダを解析した後)のDPBからのピクチャの出力および除去は、現在のピクチャを含むアクセスユニットの最初のデコーディングユニットがCPBから除去されたときに実質的に瞬時に生じ、次のように進む。参照ピクチャリスト構築に対するデコーディングプロセスが呼び出され、参照ピクチャマーキングに対するデコーディングプロセスが呼び出される。現在のAUが、AU0でないCVSS AUである場合に、次の順序付けられたステップが適用される。変数NoOutputOfPriorPicsFlagは、次のようにテスト対象のデコーダについて導出される。現在のAUの任意のピクチャについて導出されたpic_width_max_in_luma_samples、pic_height_max_in_luma_samples、chroma_format_idc、separate_colour_plane_flag、bit_depth_luma_minus8、bit_depth_chroma_minus8またはmax_dec_pic_buffering_minus1[Htid]の値が、同じCLVS内の先行するピクチャについてそれぞれ導出されたpic_width_in_luma_samples、pic_height_in_luma_samples、chroma_format_idc、separate_colour_plane_flag、bit_depth_luma_minus8、bit_depth_chroma_minus8、またはmax_dec_pic_buffering_minus1[Htid]の値と異なる場合、NoOutputOfPriorPicsFlagは、no_output_of_prior_pics_flagの値に関係なく、テスト対象のデコーダによって1に設定されることがある。
NoOutputOfPriorPicsFlagをno_output_of_prior_pics_flagに等しくなるように設定することはこれらの条件の下で好ましいことがあるが、テスト対象のデコーダは、この場合にNoOutputOfPriorPicsFlagを1に設定することを許される。そうでない場合、NoOutputOfPriorPicsFlagは、no_output_of_prior_pics_flagに等しくなるように設定される。テスト対象のデコーダについて導出される変数NoOutputOfPriorPicsFlagの値は、次のようにHRDについて適用される。NoOutputOfPriorPicsFlagが1に等しい場合、DPB内のすべてのピクチャストレージバッファは、それらが含むピクチャの出力なしに空にされ、DPB充足量は、0に等しくなるように設定される。そうでない場合(NoOutputOfPriorPicsFlagが0に等しい場合)、出力に必要なしおよび参照用未使用とマークされているピクチャを含むすべてのピクチャストレージバッファは(出力なしで)空にされ、DPB内の空でないすべてのピクチャストレージバッファは、バンピングを繰り返し呼び出すことによって空にされ、DPB充足量は、0に等しくなるように設定される。
そうでない場合(現在のピクチャがCLVSSピクチャではない場合)、出力に必要なしおよび参照用未使用とマークされているピクチャを含むすべてのピクチャストレージバッファが空にされる(出力なしで)。空にされた各ピクチャストレージバッファについて、DPB充足量が1だけ減分される。次の条件のうちの1つまたは複数が真であるとき、次の条件のどれも真でなくなるまで、空にされる各追加のピクチャストレージバッファについてDPB充足量をさらに1だけ減分しながらバンピングプロセスが繰り返し呼び出される。出力に必要とマークされているDPB内のピクチャの数は、max_num_reorder_pics[Htid]よりも大きい。max_latency_increase_plus1[Htid]は0に等しくなく、関連付けられている変数PicLatencyCountがMaxLatencyPictures[Htid]以上である出力に必要とマークされている少なくとも1つのピクチャがDPB内にある。DPB内のピクチャの数は、max_dec_pic_buffering_minus1[Htid]+1以上である。
一例において、追加のバンピングは、次のように生じ得る。指定されているプロセスは、現在のピクチャを含むアクセスユニットnの最後のデコーディングユニットがCPBから除去されたときに実質的に瞬時に生じ得る。現在のピクチャが1に等しいPictureOutputFlagを有するとき、出力に必要とマークされ、出力順序で現在のピクチャに続くDPB内の各ピクチャについて、関連付けられている変数PicLatencyCountは、PicLatencyCount+1に等しくなるように設定される。次も適用される。現在のデコード済みピクチャが1に等しいPictureOutputFlagを有する場合、現在のデコード済みピクチャは、出力に必要とマークされ、関連付けられている変数PicLatencyCountは、0に等しくなるように設定される。そうでない場合(現在のデコード済みピクチャは0に等しいPictureOutputFlagを有する場合)、現在のデコード済みピクチャは出力に必要なしとマークされる。
次の条件のうちの1つまたは複数が真であるとき、バンピングプロセスは、次の条件のうちのどれも真でなくなるまで繰り返し呼び出される。出力に必要とマークされているDPB内のピクチャの数は、max_num_reorder_pics[Htid]よりも大きい。max_latency_increase_plus1[Htid]は0に等しくなく、関連付けられている変数PicLatencyCountがMaxLatencyPictures[Htid]以上である出力に必要とマークされている少なくとも1つのピクチャがDPB内にある。
バンピングプロセスは、次の順序付けられたステップを含む。出力に関して最初である1つまたは複数のピクチャは、出力に必要とマークされたDPB内のすべてのピクチャのPicOrderCntValの最小値を有するものとして選択される。これらのピクチャの各々は、昇nuh_layer_id順で、ピクチャに対する適合性クロッピングウィンドウを使用して、クロップされ、クロップ済みピクチャが出力され、ピクチャは出力に必要なしとマークされる。参照用未使用とマークされたピクチャを含み、クロップされ出力されたピクチャのうちの1つであった各ピクチャストレージバッファは空にされ、関連付けられているサブDPBの充足量が1だけ減分される。同じCVSに属し、バンピングプロセスによって出力される任意の2つのピクチャpicAおよびpicBについて、picAがpicBより早く出力されるとき、picAのPicOrderCntValの値はpicBのPicOrderCntValの値より小さい。
例示的なサブビットストリーム抽出プロセスは次のとおりである。このプロセスへの入力は、ビットストリームinBitstream、ターゲットOLSインデックスtargetOlsIdx、およびターゲット最高TemporalId値tIdTargetである。このプロセスの出力は、サブビットストリームoutBitstreamである。ビットストリーム適合性の要件は、任意の入力ビットストリームについて、ビットストリーム、VPSによって指定されるOLSのリストへのインデックスに等しいtargetOlsIdx、および0から6までの範囲内の任意の値に等しいtIdTargetを入力とするこのプロセスからの出力であり、以下の条件を満たす出力サブビットストリームが適合するビットストリームであるものとすることであってよい。出力サブビットストリームは、LayerIdInOls[targetOlsIdx]のnuh_layer_id値の各々に等しいnuh_layer_idを有する少なくとも1つのVCL NALユニットを含む。出力サブビットストリームは、tIdTargetに等しいTemporalIdを有する少なくとも1つのVCL NALユニットを含む。適合するビットストリームは、0に等しいTemporalIdを有する1つまたは複数のコーディング済みスライスNALユニットを含むが、0に等しいnuh_layer_idを有するコーディング済みスライスNALユニットを有しなくてもよい。
出力サブビットストリームOutBitstreamは、次のように導出される。ビットストリームoutBitstreamは、ビットストリームinBitstreamと同一になるように設定される。tIdTargetより大きいTemporalIdを有するすべてのNALユニットはoutBitstreamから除去される。リストLayerIdInOls[targetOlsIdx]に含まれないnuh_layer_idを有するすべてのNALユニットはoutBitstreamから除去される。1に等しいnesting_ols_flagを有するスケーラブルネスティングSEIメッセージを含み、0からnesting_num_olss_minus1までの範囲内にiの値がなく、NestingOlsIdx[i]はtargetOlsIdxに等しい、すべてのSEI NALユニットはoutBitstreamから除去される。targetOlsIdxが0より大きいとき、0(バッファリング期間)、1(ピクチャタイミング)、または130(デコーディングユニット情報)に等しいpayloadTypeを有する非スケーラブルネストSEIメッセージを含むすべてのSEI NALユニットはoutBitstreamから除去される。
例示的なスケーラブルネスティングSEIメッセージシンタックスは次のとおりである。
Figure 0007427774000009
例示的な一般SEIペイロードセマンティクスは次のとおりである。非スケーラブルネストSEIメッセージの適用可能なレイヤまたはOLS上で、次が適用される。非スケーラブルネストSEIメッセージについて、payloadTypeが0(バッファリング期間)、1(ピクチャタイミング)、または130(デコーディングユニット情報)に等しいとき、非スケーラブルネストSEIメッセージは、0番目のOLSにのみ適用される。非スケーラブルネストSEIメッセージについて、payloadTypeがVclAssociatedSeiListのうちの任意の値に等しいとき、非スケーラブルネストSEIメッセージは、VCL NALユニットがSEIメッセージを含むようになるまでSEI NALユニットのthe nuh_layer_idに等しいnuh_layer_idを有するレイヤにのみ適用される。
ビットストリーム適合性の要件は、SEI NALユニットのnuh_layer_idの値に次の制限が適用されることであってよい。非スケーラブルネストSEIメッセージが、0(バッファリング期間)、1(ピクチャタイミング)、または130(デコーディングユニット情報)に等しいpayloadTypeを有するとき、非スケーラブルネストSEIメッセージを含むSEI NALユニットは、vps_layer_id[0]に等しいnuh_layer_idを有するものとする。非スケーラブルネストSEIメッセージが、VclAssociatedSeiListのうちの任意の値に等しいpayloadTypeを有するとき、非スケーラブルネストSEIメッセージを含むSEI NALユニットは、SEI NALユニットに関連付けられているVCL NALユニットのnuh_layer_idの値に等しいnuh_layer_idを有するものとする。スケーラブルネスティングSEIメッセージを含むSEI NALユニットは、スケーラブルネストSEIメッセージが適用されるすべてのレイヤのnuh_layer_idの最低値(スケーラブルネスティングSEIメッセージのnesting_ols_flagが0に等しいとき)またはスケーラブルネストSEIメッセージが適用されるOLS内のすべてのレイヤのnuh_layer_idの最低値(スケーラブルネスティングSEIメッセージのnesting_ols_flagが1に等しいとき)に等しいnuh_layer_idを有するべきである。
例示的なスケーラブルネスティングSEIメッセージセマンティクスは次のとおりである。スケーラブルネスティングSEIメッセージは、SEIメッセージを特定のOLSと、または特定のレイヤと関連付けるメカニズムを提供する。スケーラブルネスティングSEIメッセージは、1つまたは複数のSEIメッセージを含む。スケーラブルネスティングSEIメッセージに含まれるSEIメッセージは、スケーラブルネストSEIメッセージとも称される。ビットストリーム適合性の要件は、スケーラブルネスティングSEIメッセージ内にSEIメッセージを含めることに次の制限が適用されることであってよい。
132(デコード済みピクチャハッシュ)または133(スケーラブルネスティング)に等しいpayloadTypeを有するSEIメッセージは、スケーラブルネスティングSEIメッセージに含まれないものとしてよい。スケーラブルネスティングSEIメッセージがバッファリング期間、ピクチャタイミング、またはデコーディングユニット情報SEIメッセージを含むとき、スケーラブルネスティングSEIメッセージは、0(バッファリング期間)、1(ピクチャタイミング)、または130(デコーディングユニット情報)に等しくないpayloadTypeを有する任意の他のSEIメッセージも含まないものとする。
ビットストリーム適合性の要件は、スケーラブルネスティングSEIメッセージを含むSEI NALユニットのnal_unit_typeの値に次の制限が適用されることであるものとしてよい。スケーラブルネスティングSEIメッセージが、0(バッファリング期間)、1(ピクチャタイミング)、130(デコーディングユニット情報)、145(従属RAP指示)、または168(フレームフィールド情報)に等しいpayloadTypeを有するSEIメッセージを含むとき、スケーラブルネスティングSEIメッセージを含むSEI NALユニットは、PREFIX_SEI_NUTに等しいnal_unit_typeを有するべきである。
1に等しいnesting_ols_flagは、スケーラブルネストSEIメッセージが特定のOLSに適用されることを指定する。0に等しいnesting_ols_flagは、スケーラブルネストSEIメッセージが特定のレイヤに適用されることを指定する。ビットストリーム適合性の要件は、nesting_ols_flagの値に次の制限が適用されることであってよい。ケーラブルネスティングSEIメッセージが、0(バッファリング期間)、1(ピクチャタイミング)、または130(デコーディングユニット情報)に等しいpayloadTypeを有するSEIメッセージを含むとき、nesting_ols_flagの値は1に等しいものとする。スケーラブルネスティングSEIメッセージが、VclAssociatedSeiList内の値に等しいpayloadTypeを有するSEIメッセージを含むとき、nesting_ols_flagの値は0に等しいものとする。nesting_num_olss_minus1+1は、スケーラブルネストSEIメッセージが適用されるOLSの数を指定する。nesting_num_olss_minus1の値は、0からTotalNumOlss-1までの範囲内にあるものとする。
nesting_ols_idx_delta_minus1[i]は、nesting_ols_flagが1に等しいときにスケーラブルネストSEIメッセージが適用されるi番目のOLSのOLSインデックスを指定する変数NestingOlsIdx[i]を導出するために使用される。nesting_ols_idx_delta_minus1[i]の値は、0からTotalNumOlss-2までの範囲内にあるべきである。変数NestingOlsIdx[i]は、次のように導出され得る。
if(i==0)
NestingOlsIdx[i]=nesting_ols_idx_delta_minus1[i]
else
NestingOlsIdx[i]=NestingOlsIdx[i-1]+nesting_ols_idx_delta_minus1[i]+1
1に等しいnesting_all_layers_flagは、スケーラブルネストSEIメッセージが現在のSEI NALユニットのnuh_layer_id以上のnuh_layer_idを有するすべてのレイヤに適用されることを指定する。0に等しいnesting_all_layers_flagは、スケーラブルネストSEIメッセージが現在のSEI NALユニットのnuh_layer_id以上のnuh_layer_idを有するすべてのレイヤに適用され得るか、または適用され得ないことを指定する。nesting_num_layers_minus1+1は、スケーラブルネストSEIメッセージが適用されるレイヤの数を指定する。nesting_num_layers_minus1の値は、0からvps_max_layers_minus1-GeneralLayerIdx[nuh_layer_id]までの範囲内にあるものとし、nuh_layer_idは、現在のSEI NALユニットのnuh_layer_idである。nesting_layer_id[i]は、nesting_all_layers_flagが0に等しいときにスケーラブルネストSEIメッセージが適用されるi番目のレイヤのnuh_layer_id値を指定する。nesting_layer_id[i]の値は、nuh_layer_idより大きいものとし、nuh_layer_idは現在のSEI NALユニットのnuh_layer_idである。
nesting_ols_flagが0に等しいとき、スケーラブルネストSEIメッセージが適用されるレイヤの数を指定する変数NestingNumLayers、およびスケーラブルネストSEIメッセージが適用されるレイヤnuh_layer_id値のリストを指定する、0からNestingNumLayers-1の範囲内のiに対するリストNestingLayerId[i]は、次のように導出され得、nuh_layer_idは現在のSEI NALユニットのnuh_layer_idである。
if(nesting_all_layers_flag) {
NestingNumLayers=vps_max_layers_minus1+1-GeneralLayerIdx[nuh_layer_id]
for(i=0; i<NestingNumLayers; i++)
NestingLayerId[i]=vps_layer_id[GeneralLayerIdx[nuh_layer_id]+i]
} else {
NestingNumLayers=nesting_num_layers_minus1+1
for(i=0; i<NestingNumLayers; i++)
NestingLayerId[i]=(i==0) ? nuh_layer_id: nesting_layer_id[i]
}
nesting_num_seis_minus1+1は、スケーラブルネストSEIメッセージの数を指定する。nesting_num_seis_minus1の値は、0から63までの範囲内にあるものとする。nesting_zero_bitは、0に等しいものとする。
図8は、例示的なビデオコーディングデバイス800の概略図である。ビデオコーディングデバイス800は、本明細書において説明されているような開示された例/実施形態を実施するのに適している。ビデオコーディングデバイス800は、ネットワークの上流および/または下流でデータ通信を行うための送信器および/または受信器を含む、下流ポート820、上流ポート850、および/またはトランシーバユニット(Tx/Rx)810を備える。ビデオコーディングデバイス800は、データを処理するための論理ユニットおよび/または中央演算処理装置(CPU)を含むプロセッサ830と、データを記憶するためのメモリ832とを備える。ビデオコーディングデバイス800は、電気、光、またはワイヤレス通信ネットワークを介してデータ通信を行うために、上流ポート850および/または下流ポート820に結合されている電気、光-電気(OE)コンポーネント、電気-光(EO)コンポーネント、および/またはワイヤレス通信コンポーネントも備え得る。ビデオコーディングデバイス800は、ユーザにデータを伝達し、ユーザからデータを受け取るための入力および/または出力(I/O)デバイス860も含み得る。I/Oデバイス860は、ビデオデータを表示するためのディスプレイ、音声データを出力するためのスピーカなどの出力デバイスを含み得る。I/Oデバイス860は、キーボード、マウス、トラックボールなどの入力デバイス、および/またはそのような出力デバイスをインタラクティブに操作するための対応するインターフェースも含み得る。
プロセッサ830は、ハードウェアおよびソフトウェアによって実装される。プロセッサ830は、1つまたは複数のCPUチップ、コア(たとえば、マルチコアプロセッサとして)、フィールドプログラマブルゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)、およびデジタルシグナルプロセッサ(DSP)として実装されてもよい。プロセッサ830は、下流ポート820、Tx/Rx810、上流ポート850、およびメモリ832と通信する。プロセッサ830は、コーディングモジュール814を備える。コーディングモジュール814は、方法100、900、および1000などの、本明細書において説明されている開示された実施形態を実装するものであり、マルチレイヤビデオシーケンス600、ビットストリーム700、および/またはサブビットストリーム701を採用し得る。コーディングモジュール814は、本明細書において説明されている任意の他の方法/メカニズムも実装し得る。さらに、コーディングモジュール814は、コーデックシステム200、エンコーダ300、デコーダ400、および/またはHRD500を実装し得る。たとえば、コーディングモジュール814は、サイマルキャストレイヤおよびVPSなしを含むビットストリームをエンコードし、抽出し、および/またはデコードするために採用され得る。さらに、コーディングモジュール814は、サブビットストリーム抽出の一部として抽出されるVPSへの参照に基づきエラーを回避するために様々なシンタックス要素および/または変数を設定し、および/または推論するために採用され得る。それに加えて、コーディングモジュール814は、CLVSを含むレイヤがサイマルキャストレイヤであるときにnuh_layer_idがCLVSのnuh_layer_idと同じになるように制約するために採用され、それによりSPSの誤った抽出を防ぐことができる。したがって、コーディングモジュール814は、上で説明されている問題のうちの1つまたは複数に対処するためのメカニズムを遂行するように構成され得る。したがって、コーディングモジュール814は、ビデオデータをコーディングするときに追加の機能性および/またはコーディング効率を提供することをビデオコーディングデバイス800に行わせる。それゆえに、コーディングモジュール814は、ビデオコーディングデバイス800の機能性を改善し、さらにはビデオコーディング技術に特有の問題に対処する。さらに、コーディングモジュール814は、ビデオコーディングデバイス800の異なる状態への変換を行う。代替的に、コーディングモジュール814は、メモリ832に記憶され、プロセッサ830によって実行される命令として(たとえば、非一時的媒体に記憶されるコンピュータプログラム製品として)実装され得る。
メモリ832は、ディスク、テープドライブ、ソリッドステートドライブ、リードオンリーメモリ(ROM)、ランダムアクセスメモリ(RAM)、フラッシュメモリ、三値連想メモリ(TCAM)、スタティックランダムアクセスメモリ(SRAM)などの1つまたは複数のメモリタイプを含む。メモリ832はプログラムを、そのようなプログラムが実行のために選択されたとき、記憶し、プログラムの実行中に読み出される命令およびデータを記憶するために、オーバーフローデータ記憶装置デバイスとして使用され得る。
図9は、サイマルキャストレイヤに対するサブビットストリーム抽出プロセス729においてSPS713を保持することをサポートするために、ビットストリーム700などのビットストリームにマルチレイヤビデオシーケンスをエンコードする例示的な方法900のフローチャートである。方法900は、方法100を実行するとき、コーデックシステム200、エンコーダ300、および/またはビデオコーディングデバイス800などのエンコーダによって採用され得る。さらに、方法900は、HRD500上で動作してもよく、したがって、マルチレイヤビデオシーケンス600および/またはその抽出済みレイヤに対して適合性テストを実行してもよい。
方法900は、エンコーダがビデオシーケンスを受信し、たとえばユーザ入力に基づき、そのビデオシーケンスをマルチレイヤビットストリームにエンコードすることを決定するときに開始し得る。ステップ901で、エンコーダは、コーディング済みピクチャのCLVSをビットストリーム内のレイヤにエンコードする。コーディング済みピクチャは、VCL NALユニットのセット内に収容される。たとえば、エンコーダは、ビデオシーケンス内のピクチャを1つまたは複数のCLVSとして1つまたは複数のレイヤにエンコードし、レイヤ/CLVSをマルチレイヤビットストリームにエンコードすることができる。したがって、ビットストリームは、1つまたは複数のレイヤと1つまたは複数のCLVSとを含む。レイヤは、同じレイヤIdを有するVCL NALユニットおよび関連付けられている非VCL NALユニットのセットを含み得る。さらに、CLVSは、同じnuh_layer_id値を有するコーディング済みピクチャのシーケンスである。具体例として、VCL NALユニットは、nuh_layer_idによって識別されるレイヤに関連付けられ得る。具体的には、VCL NALユニットのセットは、VCL NALユニットのセットがすべてnuh_layer_idの特定の値を有するときにレイヤの一部である。レイヤは、エンコード済みピクチャのビデオデータさらにはそのようなピクチャをコーディングするために使用される任意のパラメータセットを収容するVCL NALユニットのセットを含み得る。そのようなパラメータは、VPS、SPS、PPS、ピクチャヘッダ、スライスヘッダ、または他のパラメータセットもしくはシンタックス構造に含まれ得る。レイヤの1つまたは複数は、出力レイヤであってもよく、したがって、レイヤに含まれるCLVSの1つまたは複数は、出力され得る。出力レイヤでないレイヤは参照レイヤと称され、出力レイヤを再構成することをサポートするようにエンコードされるが、そのようなサポートするレイヤ/CLVSは、デコーダでの出力を意図されていない。この方法で、エンコーダは、要求があったときにデコーダに伝送するためにレイヤ/CLVの様々な組合せをエンコードすることができる。レイヤ/CLVSは、ネットワーク条件、ハードウェア能力、および/またはユーザ設定に応じて、デコーダがビデオシーケンスの異なる表現を取得することを可能にする望み通りに伝送され得る。本発明の例では、レイヤの少なくとも1つは、レイヤ間予測を使用しないサイマルキャストレイヤである。したがって、少なくとも1つのCLVSは、サイマルキャストレイヤに含まれる。
ステップ903で、エンコーダは、SPSをビットストリームにエンコードすることができる。SPSは、1つまたは複数のCLVSによって参照される。具体的には、SPSは、CLVSを含むレイヤがレイヤ間予測を使用しないときCLVSのnuh_layer_id値に等しいnuh_layer_id値を有する。さらに、SPSは、CLVSを含むレイヤがレイヤ間予測を使用するときにCLVSのnuh_layer_id値以下であるnuh_layer_id値を有する。この方法で、SPSは、CLVSを参照する任意のサイマルキャストレイヤと同じnuh_layer_idを有する。さらに、SPSは、SPSを参照する任意の非サイマルキャストレイヤのnuh_layer_id以下であるnuh_layer_idを有する。この方法で、SPSは、複数のCLVS/レイヤから参照され得る。しかしながら、SPSは、サブビットストリーム抽出がサイマルキャストレイヤであるCLVS/レイヤに適用されるときにサブビットストリーム抽出によって除去されない。
SPSは、vps_independent_layer_flagなどの、SPSによって参照されるVPSに対するIDの値を指定するsps_video_parameter_set_idを含むようにエンコードされ得る。それゆえに、sps_video_parameter_set_idは、sps_video_parameter_set_idが0より大きいときにSPSによって参照されるVPSのvps_video_parameter_set_idの値を指定する。さらに、SPSはVPSを参照せず、sps_video_parameter_set_idが0に等しいときにSPSを参照する各コーディング済みレイヤビデオシーケンスをデコードする際にVPSはいっさい参照されない。したがって、sps_video_parameter_set_idは、sps_video_parameter_set_idがサイマルキャストレイヤに含まれるコーディング済みレイヤビデオシーケンスによって参照されるSPSから取得されるときに0に設定され、および/または0であると推論される。
HRDは、適合性テストを実行するために採用され、したがってVVCなどの、規格への適合性についてビットストリームをチェックするために採用され得る。HRDは、sps_video_parameter_set_idが0に等しいとき、GeneralLayerIdx[nuh_layer_id]を0に等しくなるように設定し、および/または0に等しいと推論することができる。GeneralLayerIdx[nuh_layer_id]は、対応するレイヤに対する現在のレイヤインデックスに等しく、したがって、現在のレイヤインデックスを示す。それゆえに、サイマルキャストレイヤに対する現在のレイヤインデックスは、0になるように設定され/0と推論される。さらに、HRDは、sps_video_parameter_set_idが0に等しいときにvps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]の値が1に等しいと推論し得る。具体的には、vps_independent_layer_flagは、対応するレイヤがレイヤ間予測を使用するかどうかを指定する。vps_independent_layer_flag[i]は、VPSに含まれ、i番目のレイヤがレイヤ間予測を使用することを示すように0に設定され、またはi番目のレイヤがレイヤ間予測を使用しないことを示すように1に設定され得る。それゆえに、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]は、インデックスGeneralLayerIdx[nuh_layer_id]を有する現在のレイヤがレイヤ間予測を使用するかどうかを指定する。それゆえに、レイヤは、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいときにレイヤ間予測を使用しない。現在のレイヤがサイマルレイヤであるときには、VPSは省略され、レイヤ間予測は採用されない。したがって、sps_video_parameter_set_idが0に等しいときの1の値の推論は、サイマルキャストレイヤが、サイマルキャストレイヤに対するビットストリーム抽出中に抽出される、VPSへの参照を回避しながら、HRDにおいて、またデコード中に、適切に動作することを確実にする。それゆえに、この推論は、VPSがサイマルキャストレイヤについて除去されたときにそうしなければ発生することになるであろうサブビットストリーム抽出エラーを回避する。次いで、HRDは、SPS、sps_video_parameter_set_id、GeneralLayerIdx[nuh_layer_id]、および/またはvps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]に基づきサイマルキャストレイヤ/CLVS内のVCL NALユニットからのコーディング済みピクチャをデコードしてデコード済みピクチャを生成し得る。それゆえに、HRDは、マルチレイヤビットストリームのサイマルキャストレイヤが、サイマルキャストレイヤに対するVPSの省略によって引き起こされる予期せぬエラーなしにビットストリームに適合しているかどうかを検証することができる。
ステップ905で、エンコーダは、要求があったとき、デコーダに向けた通信のためにビットストリームを記憶しておくことができる。エンコーダは、サブビットストリーム抽出を実行して、サイマルキャストレイヤを取得し、望ましいときにビットストリーム/サブビットストリームをエンコーダに向けて伝送することもできる。
図10は、ビットストリーム700などの、マルチレイヤビットストリームから抽出されたサイマルキャストレイヤを含む、サブビットストリーム701などの、ビットストリームからのビデオシーケンスをデコードする例示的な方法1000のフローチャートであり、SPS713は、サブビットストリーム抽出プロセス729中に保持されている。方法1000は、方法100を実行するとき、コーデックシステム200、デコーダ400、および/またはビデオコーディングデバイス800などのデコーダによって採用され得る。さらに、方法1000は、HRD500などの、HRDによって適合性についてチェックされた、マルチレイヤビデオシーケンス600、またはその抽出済みレイヤ上で採用され得る。
方法1000は、デコーダが、たとえば方法900の結果として、マルチレイヤビットストリームから抽出されたサイマルキャストレイヤのコーディング済みビデオシーケンスを含むビットストリームを受信し始めるときに開始し得る。ステップ1001で、デコーダは、レイヤ内のCLVSを含むビットストリームを受信する。レイヤは、エンコーダまたは他の中間コンテンツサーバによってマルチレイヤビットストリームから抽出されたサイマルキャストレイヤであってよい。サイマルキャストレイヤは、コーディング済みピクチャのセットを含むCLVSを含む。たとえば、ビットストリームは、各コーディング済みピクチャが、nuh_layer_idによって識別されるようなサイマルキャストレイヤに関連付けられている1つまたは複数のVCL NALユニットのセットに含まれるコーディング済みピクチャを含む。レイヤは、同じレイヤIdを有するVCL NALユニットおよび関連付けられている非VCL NALユニットのセットを含み得る。たとえば、レイヤは、エンコード済みピクチャのビデオデータさらにはそのようなピクチャをコーディングするために使用される任意のパラメータセットを収容するVCL NALユニットのセットを含み得る。それゆえに、VCL NALユニットのセットは、VCL NALユニットのセットがすべてnuh_layer_idの特定の値を有するときにレイヤの一部である。さらに、CLVSは、同じnuh_layer_id値を有するコーディング済みピクチャのシーケンスである。サイマルキャストレイヤは、出力レイヤでもあり、レイヤ間予測を採用しない。したがって、CLVSは、また、レイヤ間予測を採用しない。
ビットストリームは、CLVSによって参照されるSPSも含む。SPSは、CLVSを含むレイヤがレイヤ間予測を使用しないときCLVSのnuh_layer_id値に等しいnuh_layer_id値を有する。さらに、SPSは、CLVSを含むレイヤがレイヤ間予測を使用するときにCLVSのnuh_layer_id値以下であるnuh_layer_id値を有する。この方法で、SPSは、CLVSを参照する任意のサイマルキャストレイヤと同じnuh_layer_idを有する。さらに、SPSは、SPSを参照する任意の非サイマルキャストレイヤのnuh_layer_id以下であるnuh_layer_idを有する。この方法で、SPSは、複数のCLVS/レイヤから参照され得る。しかしながら、SPSは、サブビットストリーム抽出がサイマルキャストレイヤであるCLVS/レイヤに適用されるときにエンコーダ/コンテンツサーバにおいてサブビットストリーム抽出によって除去されない。
SPSは、vps_independent_layer_flagなどの、SPSによって参照されるVPSに対するIDの値を指定するsps_video_parameter_set_idを含む。それゆえに、sps_video_parameter_set_idは、sps_video_parameter_set_idが0より大きいときにSPSによって参照されるVPSのvps_video_parameter_set_idの値を指定する。さらに、SPSはVPSを参照せず、sps_video_parameter_set_idが0に等しいときにSPSを参照する各コーディング済みレイヤビデオシーケンスをデコードする際にVPSはいっさい参照されない。したがって、sps_video_parameter_set_idは、sps_video_parameter_set_idがサイマルキャストレイヤに含まれるコーディング済みレイヤビデオシーケンスによって参照されるSPSから取得されるときに0に設定され、および/または0であると推論される。さらに、ビットストリームは、ビットストリームがレイヤ間予測を採用しないCLVSを含むサイマルキャストレイヤのみを含むときにVPSを含まない。
ステップ1003で、デコーダは、SPSに基づきCLVSからのピクチャをデコードして、デコード済みピクチャを生成することができる。たとえば、デコーダは、sps_video_parameter_set_idが0に等しいとき、GeneralLayerIdx[nuh_layer_id]を0に等しくなるように設定し、および/または0に等しいと推論することができる。GeneralLayerIdx[nuh_layer_id]は、対応するレイヤに対する現在のレイヤインデックスに等しく、したがって、現在のレイヤインデックスを示す。それゆえに、サイマルキャストレイヤに対する現在のレイヤインデックスは、0になるように設定され/0と推論される。さらに、デコーダは、sps_video_parameter_set_idが0に等しいときにvps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]の値が1に等しいと推論し得る。具体的には、vps_independent_layer_flagは、対応するレイヤがレイヤ間予測を使用するかどうかを指定する。vps_independent_layer_flag[i]は、VPSに含まれ、i番目のレイヤがレイヤ間予測を使用することを示すように0に設定され、またはi番目のレイヤがレイヤ間予測を使用しないことを示すように1に設定され得る。それゆえに、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]は、インデックスGeneralLayerIdx[nuh_layer_id]を有する現在のレイヤがレイヤ間予測を使用するかどうかを指定する。それゆえに、レイヤは、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいときにレイヤ間予測を使用しない。現在のレイヤがサイマルレイヤであるとき、VPSは受信済みビットストリームに含まれず、レイヤ間予測は採用されない。したがって、sps_video_parameter_set_idが0に等しいときの1の値の推論は、サイマルキャストレイヤが、サイマルキャストレイヤに対するビットストリーム抽出中に抽出される、VPSへの参照を回避しながら、デコード中に、適切に動作することを確実にする。それゆえに、この推論は、VPSがサイマルキャストレイヤについて除去されたときにそうしなければ発生することになるであろうサブビットストリーム抽出エラーを回避する。次いで、デコーダは、SPS、sps_video_parameter_set_id、GeneralLayerIdx[nuh_layer_id]、および/またはvps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]に基づきサイマルキャストレイヤ/CLVS内のVCL NALユニットからのコーディング済みピクチャをデコードしてデコード済みピクチャを生成し得る。次いで、デコーダは、ステップ1005で、デコード済みビデオシーケンスの一部として表示するためにデコード済みピクチャを転送することができる。
図11は、サイマルキャストレイヤに対するサブビットストリーム抽出プロセス729においてSPS713を保持することをサポートするためにマルチレイヤビデオシーケンスをビットストリーム700内にコーディングするための例示的なシステム1100の概略図である。システム1100は、コーデックシステム200、エンコーダ300、デコーダ400、および/またはビデオコーディングデバイス800などのエンコーダおよびデコーダによって実装され得る。さらに、システム1100は、HRD500を採用して、マルチレイヤビデオシーケンス600、ビットストリーム700、および/またはサブビットストリーム701に対して適合性テストを実行するものとしてよい。それに加えて、システム1100は、方法100、900、および/または1000を実装するときに採用され得る。
システム1100は、ビデオエンコーダ1102を備える。ビデオエンコーダ1102は、CLVSをビットストリーム内のレイヤにエンコードするためのエンコーディングモジュール1105を含んでいる。エンコーディングモジュール1105は、さらにビットストリーム内にCLVSによって参照されるSPSをエンコードするためのものであって、SPSは、レイヤがレイヤ間予測を使用しないときCLVSのnuh_layer_id値に等しいnuh_layer_id値を有するよう制約される。ビデオエンコーダ1102は、デコーダに向けて通信するためにビットストリームを記憶する記憶モジュール1106をさらに備える。ビデオエンコーダ1102は、ビデオデコーダ1110に向けてビットストリームを伝送するための伝送モジュール1107をさらに備える。ビデオエンコーダ1102は、方法900のステップのいずれかを実行するようにさらに構成され得る。
システム1100は、ビデオデコーダ1110も備える。ビデオデコーダ1110は、レイヤ内のCLVSおよびCLVSによって参照されるSPSを含むビットストリームを受信するための受信モジュール1111を備え、SPSは、レイヤがレイヤ間予測を使用しないときCLVSのnuh_layer_id値に等しいnuh_layer_id値を有する。ビデオデコーダ1110は、SPSに基づきCLVSからのコーディング済みピクチャをデコードして、デコード済みピクチャを生成するためのデコーディングモジュール1113をさらに備える。ビデオデコーダ1110は、デコード済みビデオシーケンスの一部として表示するためにデコード済みピクチャを転送する転送モジュール1115をさらに備える。ビデオデコーダ1110は、方法1000のステップのいずれかを実行するようにさらに構成され得る。
第1のコンポーネントは、第1のコンポーネントと第2のコンポーネントとの間の線、トレース、または別の媒体を除き、介在するコンポーネントがないとき、第2のコンポーネントに直接的に結合されている。第1のコンポーネントは、第1のコンポーネントと第2のコンポーネントとの間の線、トレース、または別の媒体以外の介在するコンポーネントがあるとき、第2のコンポーネントに間接的に結合されている。「結合されている」という言い回しおよびその変形は、直接的に結合されることと間接的に結合されることの両方を含む。また、「約」という言い回しは、特に断らない限り、後続の数値の±10%を含む範囲を意味する。
本明細書において述べられている例示的な方法のステップは、必ずしも説明されている順序で実行される必要はないとも理解されるべきであり、そのような方法のステップの順序は、単に例示的であると理解されるべきである。同様に、本開示の様々な実施形態と一致する方法において、追加のステップがそのような方法に含まれてもよく、特定のステップが省略されるか、または組み合わされてもよい。
本開示においていくつかの実施形態が提供されているが、開示されているシステムおよび方法は、本開示の精神または範囲から逸脱することなく多くの他の特定の形態で具現化されることも可能であることは理解され得る。本例は、例示的であり、制限的でない、と考えられるべきであり、本発明は、明細書に示されている詳細に限定されるべきでない。たとえば、様々な要素またはコンポーネントは、別のシステム内に組み合わされ得るか、もしくは一体化され得るか、またはいくつかの特徴が省略され得るか、もしくは実施され得ない。
それに加えて、離散または分離していると様々な実施形態において説明され例示されている技術、システム、サブシステム、および方法は、本開示の範囲から逸脱することなく他のシステム、コンポーネント、技術、または方法と組み合わされるか、もしくは一体化され得る。変更、代用、および改変の他の例は、当業者によって確かめることができ、本明細書で開示されている精神および範囲から逸脱することなくなされ得る。
100 動作方法
200 コーディングおよびデコーディング(コーデック)システム
201 区分化済みビデオ信号
211 一般コーダ制御コンポーネント
213 変換スケーリングおよび量子化コンポーネント
215 ピクチャ内推定コンポーネント
217 ピクチャ内予測コンポーネント
219 動き補償コンポーネント
221 動き推定コンポーネント
223 デコード済みピクチャバッファコンポーネント
225 ループ内フィルタコンポーネント
227 フィルタ制御分析コンポーネント
229 スケーリングおよび逆変換コンポーネント
231 ヘッダフォーマッティングおよびコンテキスト適応2値算術コーディング(CABAC)コンポーネント
300 ビデオエンコーダ
301 区分化済みビデオ信号
313 変換および量子化コンポーネント
317 ピクチャ内予測コンポーネント
321 動き補償コンポーネント
323 デコード済みピクチャバッファコンポーネント
325 ループ内フィルタコンポーネント
329 逆変換および量子化コンポーネント
331 エントロピーコーディングコンポーネント
400 ビデオデコーダ
417 ピクチャ内予測コンポーネント
421 動き補償コンポーネント
423 デコード済みピクチャバッファコンポーネント
425 ループ内フィルタコンポーネント
429 逆変換および量子化コンポーネント
433 エントロピーデコーディングコンポーネント
500 HRD
541 仮想ストリームスケジューラ(HSS)
543 CPB
545 デコーディングプロセスコンポーネント
547 DPB
549 出力クロッピングコンポーネント
551 ビットストリーム
553 デコーディングユニット(DU)
555 デコード済みDU
556 参照ピクチャ
557 ピクチャ
559 出力クロッピング済みピクチャ
600 マルチレイヤビデオシーケンス
611、612、613、614 ピクチャ
615、616、617、618 ピクチャ
621 レイヤ間予測
623 インター予測
631 レイヤN
632 レイヤN+1
700 ビットストリーム
701 サブビットストリーム
711 VPS
713 SPS
715 ピクチャパラメータセット(PPS)
717 スライスヘッダ
720 画像データ
723、724 レイヤ
725、726 ピクチャ
726 ピクチャのセット
727、728 スライス
729 サブビットストリーム抽出プロセス
731 sps_video_parameter_set_id
732 nuh_layer_id
733 VPS独立レイヤフラグ(vps_independent_layer_flag)
735 vps_video_parameter_set_id
741 VCL NALユニット
742 非VCL NALユニット
743 コーディング済みレイヤビデオシーケンス(CLVS)
744 CLVS
800 ビデオコーディングデバイス
810 トランシーバユニット(Tx/Rx)
814 コーディングモジュール
820 下流ポート
830 プロセッサ
832 メモリ
850 上流ポート
860 入力および/または出力(I/O)デバイス
900 方法
1000 方法
1100 システム
1102 ビデオエンコーダ
1105 エンコーディングモジュール
1106 記憶モジュール
1107 伝送モジュール
1110 ビデオデコーダ
1111 受信モジュール
1113 デコーディングモジュール

Claims (10)

  1. デコーダによって実装される方法であって、
    前記デコーダによって、レイヤに対するコーディング済みレイヤビデオシーケンス(CLVS)と、前記CLVSによって参照されるシーケンスパラメータセット(SPS)とを含むビットストリームを受信するステップであって、前記SPSは、前記レイヤがレイヤ間予測を使用しないとき前記CLVSのnuh_layer_id値に等しいネットワーク抽象化レイヤ(NAL)ユニットヘッダレイヤ識別子(nuh_layer_id)値を有前記SPSが前記SPSによって参照されるビデオパラメータセット(VPS)に対する識別子(ID)の値を指定するSPS VPS識別子(sps_video_parameter_set_id)を含む、ステップと、
    前記デコーダによって、前記sps_video_parameter_set_idが0に等しいときに、nuh_layer_idに対応する一般レイヤインデックス(GeneralLayerIdx[nuh_layer_id])を0に等しく設定するステップと、
    前記デコーダによって、前記SPSに基づき前記CLVSからのコーディング済みピクチャをデコードして、デコード済みピクチャを生成するステップとを含む方法。
  2. GeneralLayerIdx[nuh_layer_id]は、現在のレイヤインデックスに等しい、請求項1に記載の方法。
  3. 前記SPSによって参照される前記VPSが、対応するレイヤがレイヤ間予測を使用するかどうかを指定するVPS独立レイヤフラグ(vps_independent_layer_flag)を有する、請求項1または2に記載の方法。
  4. 前記レイヤは、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいとき、レイヤ間予測を使用しない、請求項3に記載の方法。
  5. 前記sps_video_parameter_set_idが0に等しいとき、前記vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]は1に等しいと推論される、請求項4に記載の方法。
  6. 前記SPSは、前記sps_video_parameter_set_idが0に等しいとき、VPSを参照しない、請求項1から5のいずれか一項に記載の方法。
  7. 前記CLVSは、同じnuh_layer_id値を有するコーディング済みピクチャのシーケンスである、請求項1から6のいずれか一項に記載の方法。
  8. プロセッサと、前記プロセッサに結合された受信器と、前記プロセッサに結合されたメモリと、前記プロセッサに結合された送信器とを備え、前記プロセッサ、前記受信器、前記メモリ、および前記送信器は、請求項1から7のいずれか一項に記載の方法を実行するように構成される、ビデオコーディングデバイス。
  9. コンピュータプログラムが記憶されたコンピュータ可読記憶媒体であって、前記コンピュータプログラムは、プロセッサによって実行されたとき、ビデオコーディングデバイスに請求項1から7のいずれか一項に記載の方法を実行させるコンピュータ実行可能命令を含む、コンピュータ可読記憶媒体。
  10. レイヤに対するコーディング済みレイヤビデオシーケンス(CLVS)と、前記CLVSによって参照されるシーケンスパラメータセット(SPS)とを含むビットストリームを受信するための受信手段
    前記SPSに基づき前記CLVSからのコーディング済みピクチャをデコードして、デコード済みピクチャを生成するためのデコード手段と
    を備え、請求項1から7のいずれか一項に記載の方法を実行するように構成されるデコーダ。
JP2022521009A 2019-10-07 2020-10-06 サブビットストリーム抽出におけるspsエラー回避 Active JP7427774B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2024008764A JP2024036399A (ja) 2019-10-07 2024-01-24 サブビットストリーム抽出におけるspsエラー回避

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962911808P 2019-10-07 2019-10-07
US62/911,808 2019-10-07
PCT/US2020/054453 WO2021022272A2 (en) 2019-10-07 2020-10-06 Sps error avoidance in sub-bitstream extraction

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024008764A Division JP2024036399A (ja) 2019-10-07 2024-01-24 サブビットストリーム抽出におけるspsエラー回避

Publications (2)

Publication Number Publication Date
JP2022551137A JP2022551137A (ja) 2022-12-07
JP7427774B2 true JP7427774B2 (ja) 2024-02-05

Family

ID=74228311

Family Applications (14)

Application Number Title Priority Date Filing Date
JP2022521010A Active JP7451691B2 (ja) 2019-10-07 2020-10-06 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2022521011A Active JP7404522B2 (ja) 2019-10-07 2020-10-06 Dpbサイズベースの参照ピクチャエントリ制約条件
JP2022521178A Active JP7419513B2 (ja) 2019-10-07 2020-10-06 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2022521328A Active JP7413518B2 (ja) 2019-10-07 2020-10-06 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2022521012A Active JP7439249B2 (ja) 2019-10-07 2020-10-06 サブビットストリーム抽出におけるエラー回避
JP2022521009A Active JP7427774B2 (ja) 2019-10-07 2020-10-06 サブビットストリーム抽出におけるspsエラー回避
JP2022521394A Active JP7423764B2 (ja) 2019-10-07 2020-10-06 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2023210287A Pending JP2024019538A (ja) 2019-10-07 2023-12-13 Dpbサイズベースの参照ピクチャエントリ制約条件
JP2023219098A Pending JP2024038112A (ja) 2019-10-07 2023-12-26 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2024001380A Pending JP2024036348A (ja) 2019-10-07 2024-01-09 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2024005341A Pending JP2024040195A (ja) 2019-10-07 2024-01-17 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2024008764A Pending JP2024036399A (ja) 2019-10-07 2024-01-24 サブビットストリーム抽出におけるspsエラー回避
JP2024019656A Pending JP2024063033A (ja) 2019-10-07 2024-02-13 サブビットストリーム抽出におけるエラー回避
JP2024034318A Pending JP2024069331A (ja) 2019-10-07 2024-03-06 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避

Family Applications Before (5)

Application Number Title Priority Date Filing Date
JP2022521010A Active JP7451691B2 (ja) 2019-10-07 2020-10-06 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2022521011A Active JP7404522B2 (ja) 2019-10-07 2020-10-06 Dpbサイズベースの参照ピクチャエントリ制約条件
JP2022521178A Active JP7419513B2 (ja) 2019-10-07 2020-10-06 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2022521328A Active JP7413518B2 (ja) 2019-10-07 2020-10-06 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2022521012A Active JP7439249B2 (ja) 2019-10-07 2020-10-06 サブビットストリーム抽出におけるエラー回避

Family Applications After (8)

Application Number Title Priority Date Filing Date
JP2022521394A Active JP7423764B2 (ja) 2019-10-07 2020-10-06 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2023210287A Pending JP2024019538A (ja) 2019-10-07 2023-12-13 Dpbサイズベースの参照ピクチャエントリ制約条件
JP2023219098A Pending JP2024038112A (ja) 2019-10-07 2023-12-26 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2024001380A Pending JP2024036348A (ja) 2019-10-07 2024-01-09 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2024005341A Pending JP2024040195A (ja) 2019-10-07 2024-01-17 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避
JP2024008764A Pending JP2024036399A (ja) 2019-10-07 2024-01-24 サブビットストリーム抽出におけるspsエラー回避
JP2024019656A Pending JP2024063033A (ja) 2019-10-07 2024-02-13 サブビットストリーム抽出におけるエラー回避
JP2024034318A Pending JP2024069331A (ja) 2019-10-07 2024-03-06 マルチレイヤビデオビットストリーム内の冗長シグナリングの回避

Country Status (12)

Country Link
US (7) US20220239934A1 (ja)
EP (7) EP4026335A4 (ja)
JP (14) JP7451691B2 (ja)
KR (7) KR20220071275A (ja)
CN (15) CN117651135A (ja)
AU (7) AU2020319904A1 (ja)
BR (12) BR122022009663A2 (ja)
CA (4) CA3156988A1 (ja)
CL (4) CL2022000859A1 (ja)
IL (1) IL292060A (ja)
MX (4) MX2022004141A (ja)
WO (7) WO2021022271A2 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021061390A1 (en) * 2019-09-24 2021-04-01 Futurewei Technologies, Inc. Sei message for single layer ols
US20230007291A1 (en) * 2019-12-06 2023-01-05 Sharp Kabushiki Kaisha Systems and methods for signaling temporal sublayer information in video coding
KR20220115958A (ko) 2019-12-26 2022-08-19 바이트댄스 아이엔씨 코딩된 비트스트림들에서의 비디오 계층들의 시그널링에 대한 제약들
WO2021134018A1 (en) 2019-12-26 2021-07-01 Bytedance Inc. Signaling of decoded picture buffer parameters in layered video
JP2023508680A (ja) 2019-12-27 2023-03-03 バイトダンス インコーポレイテッド ビデオコーディングにおけるサブピクチャシグナリング
CN114830662B (zh) * 2019-12-27 2023-04-14 阿里巴巴(中国)有限公司 用于对图像执行逐步解码刷新处理的方法和系统
CN115244932A (zh) * 2019-12-30 2022-10-25 Lg电子株式会社 用于对dpb参数进行编码的图像解码方法及其装置
US20230016307A1 (en) * 2019-12-30 2023-01-19 Lg Electronics Inc. Method for decoding image on basis of image information including ols dpb parameter index, and apparatus therefor
WO2021137597A1 (ko) * 2019-12-30 2021-07-08 엘지전자 주식회사 Ols에 대한 dpb 파라미터를 사용하는 영상 디코딩 방법 및 그 장치
WO2021142369A1 (en) 2020-01-09 2021-07-15 Bytedance Inc. Signalling of the wavefront parallel processing
CN115868165A (zh) 2020-03-21 2023-03-28 抖音视界有限公司 参考图片重采样
US11509920B2 (en) * 2020-03-27 2022-11-22 Tencent America LLC Indication of max sublayer numbers in multilayered video stream
US11228776B1 (en) * 2020-03-27 2022-01-18 Tencent America LLC Method for output layer set mode in multilayered video stream
US11818398B2 (en) * 2020-05-06 2023-11-14 Sharp Kabushiki Kaisha Systems and methods for signaling video parameter information in video coding
US11477471B2 (en) * 2020-05-20 2022-10-18 Tencent America LLC Techniques for signaling combination of reference picture resampling and spatial scalability
CN115943627A (zh) 2020-06-08 2023-04-07 字节跳动有限公司 对编解码视频图片中条带计数的约束
US11503342B2 (en) * 2020-06-10 2022-11-15 Sharp Kabushiki Kaisha Systems and methods for signaling sequence parameter information in video coding
WO2021254379A1 (en) 2020-06-20 2021-12-23 Beijing Bytedance Network Technology Co., Ltd. Inter layer prediction with different coding block size
US20220109865A1 (en) * 2020-10-02 2022-04-07 Sharp Kabushiki Kaisha Systems and methods for signaling picture buffer information for intra random access point picture sub-bitstreams in video coding
US11765376B2 (en) * 2020-10-08 2023-09-19 Tencent America LLC Pruning methods and apparatuses for neural network based video coding

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016539545A (ja) 2013-10-15 2016-12-15 クゥアルコム・インコーポレイテッドQualcomm Incorporated ビデオ情報のスケーラブルコーディングのためのデバイスおよび方法

Family Cites Families (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008060126A1 (en) * 2006-11-17 2008-05-22 Lg Electronics Inc. Method and apparatus for decoding/encoding a video signal
WO2012122246A1 (en) * 2011-03-10 2012-09-13 Vidyo, Inc. Dependency parameter set for scalable video coding
US9420307B2 (en) * 2011-09-23 2016-08-16 Qualcomm Incorporated Coding reference pictures for a reference picture set
US10609394B2 (en) * 2012-04-24 2020-03-31 Telefonaktiebolaget Lm Ericsson (Publ) Encoding and deriving parameters for coded multi-layer video sequences
US9602827B2 (en) * 2012-07-02 2017-03-21 Qualcomm Incorporated Video parameter set including an offset syntax element
US9351005B2 (en) * 2012-09-24 2016-05-24 Qualcomm Incorporated Bitstream conformance test in video coding
US9161039B2 (en) * 2012-09-24 2015-10-13 Qualcomm Incorporated Bitstream properties in video coding
US9942545B2 (en) * 2013-01-03 2018-04-10 Texas Instruments Incorporated Methods and apparatus for indicating picture buffer size for coded scalable video
US20140218473A1 (en) * 2013-01-07 2014-08-07 Nokia Corporation Method and apparatus for video coding and decoding
US9998735B2 (en) 2013-04-01 2018-06-12 Qualcomm Incorporated Inter-layer reference picture restriction for high level syntax-only scalable video coding
KR102383006B1 (ko) 2013-04-07 2022-04-04 돌비 인터네셔널 에이비 출력 계층 세트들에서의 시그널링 변경
US9591321B2 (en) 2013-04-07 2017-03-07 Dolby International Ab Signaling change in output layer sets
US20140301477A1 (en) * 2013-04-07 2014-10-09 Sharp Laboratories Of America, Inc. Signaling dpb parameters in vps extension and dpb operation
US9467700B2 (en) * 2013-04-08 2016-10-11 Qualcomm Incorporated Non-entropy encoded representation format
EP3020202B1 (en) 2013-07-10 2019-09-04 Sharp Kabushiki Kaisha Scaling list signaling and parameter sets activation
EP3022921A4 (en) * 2013-07-14 2017-03-15 Sharp Kabushiki Kaisha Signaling indications and constraints
KR20150009424A (ko) 2013-07-15 2015-01-26 한국전자통신연구원 시간적 서브 레이어 정보에 기반한 계층간 예측을 이용한 영상 부, 복호화 방법 및 그 장치
US9794579B2 (en) * 2013-07-15 2017-10-17 Qualcomm Incorporated Decoded picture buffer operations for video coding
JPWO2015053330A1 (ja) 2013-10-10 2017-03-09 シャープ株式会社 画像復号装置
US9819941B2 (en) * 2013-10-10 2017-11-14 Qualcomm Incorporated Signaling for sub-decoded picture buffer (sub-DPB) based DPB operations in video coding
KR101869882B1 (ko) * 2013-10-11 2018-06-25 브이아이디 스케일, 인크. Hevc 확장을 위한 하이 레벨 구문
WO2015052942A1 (en) * 2013-10-11 2015-04-16 Sharp Kabushiki Kaisha Signaling information for coding
US10187662B2 (en) * 2013-10-13 2019-01-22 Sharp Kabushiki Kaisha Signaling parameters in video parameter set extension and decoder picture buffer operation
CN105874804A (zh) * 2014-01-02 2016-08-17 Vid拓展公司 针对hevc扩展的子比特流提取过程
US20170026655A1 (en) * 2014-01-02 2017-01-26 Sharp Kabushiki Kaisha Parameter set signaling
US10250895B2 (en) * 2014-03-14 2019-04-02 Sharp Kabushiki Kaisha DPB capacity limits
US20170019673A1 (en) * 2014-03-14 2017-01-19 Sharp Kabushiki Kaisha Image decoding device, image decoding method, recoding medium, image coding device, and image coding method
KR102073030B1 (ko) * 2014-03-14 2020-02-04 후아웨이 테크놀러지 컴퍼니 리미티드 이미지 디코딩 장치
US9866869B2 (en) * 2014-03-17 2018-01-09 Qualcomm Incorporated POC value design for multi-layer video coding
JP2015195543A (ja) 2014-03-26 2015-11-05 シャープ株式会社 画像復号装置、画像符号化装置
US9641851B2 (en) * 2014-04-18 2017-05-02 Qualcomm Incorporated Conformance window information in multi-layer coding
US9794626B2 (en) * 2014-05-01 2017-10-17 Qualcomm Incorporated Partitioning schemes in multi-layer video coding
US9699480B2 (en) * 2014-06-13 2017-07-04 Sharp Laboratories Of America, Inc. Level limits
JP2017522792A (ja) * 2014-06-18 2017-08-10 シャープ株式会社 スライス・タイプおよびデコーダ適合性
US20150373343A1 (en) * 2014-06-20 2015-12-24 Qualcomm Incorporated Representation format update in multi-layer codecs
US9918091B2 (en) * 2014-06-20 2018-03-13 Qualcomm Incorporated Systems and methods for assigning a minimum value to a syntax structure in a parameter set
US9756355B2 (en) * 2014-06-20 2017-09-05 Qualcomm Incorporated Value ranges for syntax elements in video coding
US10432951B2 (en) * 2014-06-24 2019-10-01 Qualcomm Incorporated Conformance and inoperability improvements in multi-layer video coding
US9538137B2 (en) * 2015-04-09 2017-01-03 Microsoft Technology Licensing, Llc Mitigating loss in inter-operability scenarios for digital video
EP3323243B1 (en) * 2015-07-16 2022-01-19 Dolby Laboratories Licensing Corporation Signal reshaping and decoding for hdr signals
US11979611B2 (en) * 2019-09-06 2024-05-07 Sharp Kabushiki Kaisha Systems and methods for signaling temporal sub-layer information in video coding
US11375223B2 (en) * 2019-09-20 2022-06-28 Tencent America LLC Method for signaling output layer set with sub-picture
US11159827B2 (en) * 2019-09-23 2021-10-26 Tencent America LLC Method for signaling output layer set with sub picture
BR112022005469A2 (pt) * 2019-09-24 2022-06-14 Huawei Tech Co Ltd Codificador, decodificador e métodos correspondentes
EP4140128A4 (en) * 2020-05-22 2023-08-02 ByteDance Inc. RESTRICTIONS ON IMAGE TYPES IN VIDEO BITSTREAM PROCESSING
US20220109865A1 (en) * 2020-10-02 2022-04-07 Sharp Kabushiki Kaisha Systems and methods for signaling picture buffer information for intra random access point picture sub-bitstreams in video coding

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016539545A (ja) 2013-10-15 2016-12-15 クゥアルコム・インコーポレイテッドQualcomm Incorporated ビデオ情報のスケーラブルコーディングのためのデバイスおよび方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Benjamin Bross et al.,Versatile Video Coding (Draft 6) [online],JVET-O2001-vE,インターネット <URL: https://jvet-experts.org/doc_end_user/documents/15_Gothenburg/wg11/JVET-O2001-v14.zip>,2019年07月31日,pp.4-6,85-87,(JVET-O2001-vE.docx)
Miska M. Hannuksela et al.,AHG8/AHG17: Removing dependencies on VPS from the decoding process of a nonscalable bitstream [online],JVET-P0097,インターネット <URL: https://jvet-experts.org/doc_end_user/documents/16_Geneva/wg11/JVET-P0097-v1.zip>,2019年09月24日
Virginie Drugeon et al.,AHG17: Presence of Video Parameter Set in bitstreams [online],JVET-P0205,インターネット <URL: https://jvet-experts.org/doc_end_user/documents/16_Geneva/wg11/JVET-P0205-v1.zip>,2019年09月23日

Also Published As

Publication number Publication date
BR122022009671A2 (pt) 2022-07-12
BR122022009673A2 (pt) 2022-07-12
AU2020319903A1 (en) 2022-05-19
JP2022551137A (ja) 2022-12-07
KR20220070039A (ko) 2022-05-27
CA3156988A1 (en) 2021-02-04
JP2024069331A (ja) 2024-05-21
MX2022004139A (es) 2022-04-26
CN114514749A (zh) 2022-05-17
KR20220069114A (ko) 2022-05-26
CN114514751B (zh) 2024-03-15
KR20220071275A (ko) 2022-05-31
KR20220071277A (ko) 2022-05-31
CN114556948A (zh) 2022-05-27
EP4032292A4 (en) 2022-12-21
BR122022009683A2 (pt) 2022-07-12
EP4032295A4 (en) 2022-11-30
CN114556947A (zh) 2022-05-27
JP2024019538A (ja) 2024-02-09
CN115361558B (zh) 2023-07-11
EP4032296A4 (en) 2022-11-09
KR20220070040A (ko) 2022-05-27
KR20220070325A (ko) 2022-05-30
BR112022006429A2 (pt) 2022-06-28
AU2020320296A1 (en) 2022-05-05
CN117979011A (zh) 2024-05-03
JP2022552656A (ja) 2022-12-19
EP4026335A4 (en) 2022-11-09
JP7419513B2 (ja) 2024-01-22
JP2022552821A (ja) 2022-12-20
KR20220070538A (ko) 2022-05-31
BR112022006422A2 (pt) 2022-06-28
WO2021022270A3 (en) 2021-03-04
WO2021022272A3 (en) 2021-03-11
CN117651135A (zh) 2024-03-05
JP7439249B2 (ja) 2024-02-27
CN114556946A (zh) 2022-05-27
CN114845118A (zh) 2022-08-02
US20220239934A1 (en) 2022-07-28
AU2020323624A1 (en) 2022-04-28
CN117395428A (zh) 2024-01-12
EP4032294A2 (en) 2022-07-27
CN114514749B (zh) 2023-10-20
WO2021022272A2 (en) 2021-02-04
JP2022551138A (ja) 2022-12-07
CN114514751A (zh) 2022-05-17
CA3156987A1 (en) 2021-02-04
CA3156990A1 (en) 2021-02-04
JP2024040195A (ja) 2024-03-25
AU2020322053A1 (en) 2022-05-05
BR112022006389A2 (pt) 2022-06-28
CN114556947B (zh) 2023-10-20
WO2021022273A1 (en) 2021-02-04
MX2022004141A (es) 2022-04-26
CL2022000858A1 (es) 2022-11-25
AU2020321174A1 (en) 2022-04-28
JP7451691B2 (ja) 2024-03-18
CL2022000859A1 (es) 2022-11-25
WO2021022269A3 (en) 2021-03-04
JP2022551485A (ja) 2022-12-09
US20220232239A1 (en) 2022-07-21
JP2022552295A (ja) 2022-12-15
CL2022000860A1 (es) 2022-11-25
CN115580730A (zh) 2023-01-06
EP4026334A2 (en) 2022-07-13
EP4032293A2 (en) 2022-07-27
EP4032294A4 (en) 2022-11-30
CN117528100A (zh) 2024-02-06
EP4032293A4 (en) 2022-11-30
IL292060A (en) 2022-06-01
AU2020321996A1 (en) 2022-04-28
JP2024036348A (ja) 2024-03-15
CN114845118B (zh) 2023-03-24
WO2021022271A2 (en) 2021-02-04
US20220232257A1 (en) 2022-07-21
BR112022006419A2 (pt) 2022-06-28
MX2022004138A (es) 2022-04-26
JP7404522B2 (ja) 2023-12-25
WO2021022269A2 (en) 2021-02-04
CN117478892A (zh) 2024-01-30
US20220232259A1 (en) 2022-07-21
MX2022004140A (es) 2022-04-26
AU2020319904A1 (en) 2022-04-28
WO2021022271A3 (en) 2021-03-04
WO2021022270A2 (en) 2021-02-04
BR112022006393A2 (pt) 2022-06-28
EP4026334A4 (en) 2022-12-28
EP4032295A2 (en) 2022-07-27
JP7423764B2 (ja) 2024-01-29
JP7413518B2 (ja) 2024-01-15
JP2024036399A (ja) 2024-03-15
CN114514750B (zh) 2023-10-20
BR122022009663A2 (pt) 2022-07-12
US20220232258A1 (en) 2022-07-21
JP2022552822A (ja) 2022-12-20
US20220239938A1 (en) 2022-07-28
JP2024063033A (ja) 2024-05-10
WO2021022267A2 (en) 2021-02-04
CN115580730B (zh) 2023-07-11
EP4032296A2 (en) 2022-07-27
CN114514750A (zh) 2022-05-17
WO2021022267A3 (en) 2021-03-11
WO2021022268A2 (en) 2021-02-04
BR122022009696A2 (pt) 2022-07-12
CL2022000857A1 (es) 2022-11-25
BR112022006392A2 (pt) 2022-06-28
JP2024038112A (ja) 2024-03-19
US20220232240A1 (en) 2022-07-21
BR112022006421A2 (pt) 2022-06-28
CA3156989A1 (en) 2021-02-04
WO2021022268A3 (en) 2021-03-04
CN115361558A (zh) 2022-11-18
EP4032292A2 (en) 2022-07-27
CN114586365A (zh) 2022-06-03
EP4026335A1 (en) 2022-07-13

Similar Documents

Publication Publication Date Title
JP7427774B2 (ja) サブビットストリーム抽出におけるspsエラー回避
JP7440197B2 (ja) レイヤベースの適合性試験のためのhrdパラメータ
KR20220062657A (ko) 계층 기반 파라미터 세트 nal 유닛 제약들
JP7419507B2 (ja) Olsのためのスケーラブルネスティングseiメッセージ

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220603

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220603

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230710

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231010

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231225

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240124

R150 Certificate of patent or registration of utility model

Ref document number: 7427774

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150