JP2023529823A - マルチレイヤ映像ビットストリームのサブビットストリーム抽出 - Google Patents

マルチレイヤ映像ビットストリームのサブビットストリーム抽出 Download PDF

Info

Publication number
JP2023529823A
JP2023529823A JP2022573732A JP2022573732A JP2023529823A JP 2023529823 A JP2023529823 A JP 2023529823A JP 2022573732 A JP2022573732 A JP 2022573732A JP 2022573732 A JP2022573732 A JP 2022573732A JP 2023529823 A JP2023529823 A JP 2023529823A
Authority
JP
Japan
Prior art keywords
video
bitstream
nal
sei
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022573732A
Other languages
English (en)
Other versions
JPWO2021252533A5 (ja
Inventor
イェクイ ワン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ByteDance Inc
Original Assignee
ByteDance Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ByteDance Inc filed Critical ByteDance Inc
Publication of JP2023529823A publication Critical patent/JP2023529823A/ja
Publication of JPWO2021252533A5 publication Critical patent/JPWO2021252533A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/12Systems in which the television signal is transmitted via one channel or a plurality of parallel channels, the bandwidth of each channel being less than the bandwidth of the television signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/188Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a video data packet, e.g. a network abstraction layer [NAL] unit
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/37Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability with arrangements for assigning different transmission priorities to video input data or to video coded data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

映像符号化方法および装置、並びに映像復号方法および装置の例について説明する。例示の映像処理方法は、規則に従って、映像とこの映像のビットストリームとの変換を行うことを含み、ビットストリームは、規則に従って、複数の映像レイヤに対するネットワーク抽象レイヤ(NAL)部を含み、規則は、出力レイヤセット(OLS)を含む出力ビットストリームを生成するためのサブビットストリーム抽出処理が、条件(1)OLSのNAL部ヘッダレイヤ識別子の値のリストが、ビットストリームのすべての映像コーディングレイヤ(VCL)NAL部のNAL部ヘッダレイヤ識別子のすべての値を含まない、および、条件(2)出力ビットストリームは、スケーラブルネスト化SEIメッセージを含む補足拡張情報(SEI)NAL部を含む、に応じて、選択的に行われる1つ以上の動作を含むことを定義する。【選択図】図3

Description

関連出願の相互参照
パリ条約に基づく適用可能な特許法および/または規則に基づいて、本願は、2020年6月9日出願の米国特許仮出願第63/036865号の優先権および利益を適時に主張することを目的とする。法に基づくすべての目的のために、上記出願の開示全体は、本明細書の開示の一部として参照により援用される。
この特許明細書は、画像および映像のコーディングおよび復号に関する。
デジタル映像は、インターネットおよび他のデジタル通信ネットワークにおいて最大の帯域幅の使用量を占めている。映像を受信および表示することが可能である接続されたユーザ機器の数が増加するにつれ、デジタル映像の使用に対する帯域幅需要は増大し続けることが予測される。
本明細書は、映像の符号化または復号を行うために、映像のエンコーダおよびデコーダによって使用され得る技術を開示する。
1つの例示的な態様において、映像処理方法が開示される。この方法は、映像とこの映像のビットストリームとの間の変換を行うことを含み、このビットストリームは、規則に従って、複数の映像レイヤに対するネットワーク抽象レイヤ(NAL)部を含み、この規則は、ビットストリームからNAL部を取り除き、出力ビットストリームを生成するサブビットストリーム抽出処理を定義し、この規則は、サブビットストリーム抽出処理に入力されるビットストリーム中のすべての映像コーディングレイヤ(VCL)NAL部のNAL部ヘッダレイヤ識別子のすべての値を含まないターゲットのOLSインデックスを有する出力レイヤセット(OLS)のNAL部ヘッダレイヤ識別子の値のリストに応じて、特定のペイロードタイプを有するスケーラブルネスト化されていないSEIメッセージを含むすべての補足拡張情報(SEI)NAL部を削除することを規定する。
別の例示的な態様において、別の映像処理方法が開示される。この方法は、映像とこの映像のビットストリームとの間の変換を行うことを含み、このビットストリームは、出力ビットストリームを生成するためのサブビットストリーム抽出処理を規定する規則に従って1つ以上のサブビットストリームに分離可能であり、この規則は、映像コーディングレイヤ(VCL)ネットワーク抽象レイヤ(NAL)部のタイプおよびVCL NAL部に関連付けられた映像コーディングレイヤの時間的識別子に基づいて、サブビットストリーム抽出処理中にVCL NAL部が削除されるピクチャまたはサブピクチャに適用されるSEIメッセージを含むすべての補足拡張情報(SEI)ネットワーク抽象レイヤ(NAL)部を削除するかどうか、または、どのように削除するかを規定する。
別の例示的な態様において、別の映像処理方法が開示される。この方法は、規則に従って映像とこの映像のビットストリームとの間の変換を行うことを含み、このビットストリームは、規則に従って複数の映像レイヤに対するネットワーク抽象レイヤ(NAL)部を含み、この規則は、出力レイヤセット(OLS)を含む出力ビットストリームを生成するためのサブビットストリーム抽出処理が、条件(1)前記OLSのNAL部ヘッダレイヤ識別子の値のリストが、前記ビットストリームのすべての映像コーディングレイヤ(VCL)NAL部のNAL部ヘッダレイヤ識別子のすべての値を含まない、および、条件(2)前記出力ビットストリームは、スケーラブルネスト化SEIメッセージを含む補足拡張情報(SEI)NAL部を含む、に応じて、選択的に行われる1つ以上の動作を含むことを定義する。
さらに別の例示的な態様において、映像エンコーダ装置が開示される。この映像エンコーダは、上述した方法を実装するように構成されたプロセッサを備える。
さらに別の例示的な態様において、映像デコーダ装置が開示される。この映像デコーダは、上述した方法を実装するように構成されたプロセッサを備える。
さらに別の例示的な態様では、コードが記憶されたコンピュータ可読媒体が開示される。このコードは、本明細書に記載の方法の1つをプロセッサが実行可能なコードの形式で実施する。
これらのおよび他の特徴は、本文書全体にわたって説明される。
開示される技術のいくつかの実施形態による映像コーディングシステムを示すブロック図である。 映像処理に使用されるハードウェアプラットフォームの例を示すブロック図である。 映像処理方法の一例を示すフローチャートである。 映像コーディングシステムの一例を示すブロック図である。 開示される技術のいくつかの実施形態によるエンコーダを示すブロック図である。 開示される技術のいくつかの実施形態によるデコーダを示すブロック図である。 開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。 開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。 開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。
本明細書では、理解を容易にするために章の見出しを使用しており、その技術および各章に記載された実施形態の適用可能性をその章のみに限定するものではない。さらに、H.266という用語は、ある説明において、理解を容易にするためだけに用いられ、開示される技術の範囲を限定するために用いられたものではない。このように、本明細書で説明される技術は、他の映像コーデックプロトコルおよび設計にも適用可能である。
1. 導入
本明細書は、映像コーディング技術に関する。具体的には、一般的なサブビットストリーム抽出処理、ピクチャレベルのHRDパラメータの信号通知、およびSEI NAL部にSEIメッセージを含めることについて、若干の改良がなされている。この考えは、個々にまたは様々な組み合わせで、マルチレイヤ映像コーディング、例えば、現在開発されているVVC(Versatile Video Coding)をサポートする任意の映像コーディング規格または非標準映像コーデックに適用されてもよい。
2. 略語
APS Adaptation Parameter Set(適応パラメータセット)
AU Access Unit(アクセス部)
AUD Access Unit Delimiter(アクセス部区切り文字)
AVC Advanced Video Coding(高度映像コーディング)
CLVS Coded Layer Video Sequence(コーディングされたレイヤ映像シーケンス)
CPB Coded Picture Buffer(コーディングされたピクチャバッファ)
CRA Clean Random Access(クリーンランダムアクセス)
CTU Coding Tree Unit(コーディングツリー部)
CVS Coded Video Sequence(コーディングされた映像シーケンス)
DCI Decoding Capability Information(復号能力情報)
DPB Decoded Picture Buffer(復号されたピクチャバッファ)
EOB End Of Bitstream(ビットストリーム終端)
EOS End Of Sequence(シーケンス終端)
GDR Gradual Decoding Refresh(漸次的復号更新)
HEVC High Efficiency Video Coding(高効率映像コーディング)
HRD Hypothetical Reference Decoder(仮想参照デコーダ)
IDR Instantaneous Decoding Refresh(瞬時復号更新)
ILP Inter-Layer Prediction(インタレイヤ予測)
ILRP Inter-Layer Reference Picture(インタレイヤ参照ピクチャ)
JEM Joint Exploration Model(共同探索モデル)
LTRP Long-Term Reference Picture(長期参照ピクチャ)
MCTS Motion-Constrained Tile Sets(動作制約タイルセット)
NAL Network Abstraction Layer(ネットワーク抽象レイヤ)
OLS Output Layer Set(出力レイヤセット)
PH Picture Header(ピクチャヘッダ)
PPS Picture Parameter Set(ピクチャパラメータセット)
PTL Profile, Tier and Level(プロファイル、層およびレベル)
PU Picture Unit(ピクチャ部)
RAP Random Access Point(ランダムアクセスポイント)
RBSP Raw Byte Sequence Payload(生バイトシーケンスペイロード)
SEI Supplemental Enhancement Information(補足拡張情報)
SPS Sequence Parameter Set(シーケンスパラメータセット)
STRP Short-Term Reference Picture(短期参照ピクチャ)
SVC Scalable Video Coding(スケーラブル映像コーディング)
VCL Video Coding Layer(映像コーディングレイヤ)
VPS Video Parameter Set(映像パラメータセット)
VTM VVC Test Model(VVC試験モデル)
VUI Video Usability Information(映像ユーザビリティ情報)
VVC Versatile Video Coding(汎用映像コーディング)
3. 初期の協議
映像コーディング規格は、主に周知のITU-TおよびISO/IEC規格の開発によって発展してきた。ITU-TはH.261とH.263を作り、ISO/IECはMPEG-1とMPEG-4Visualを作り、両団体はH.262/MPEG-2VideoとH.264/MPEG-4AVC(Advanced Video Coding)とH.265/HEVC規格を共同で作った。H.262以来、映像コーディング規格は、時間的予測と変換コーディングが利用されるハイブリッド映像コーディング構造に基づく。HEVCを超えた将来の映像コーディング技術を探索するため、2015年には、VCEGとMPEGが共同でJVET(Joint Video Exploration Team)を設立した。それ以来、多くの新しい方法がJVETによって採用され、JEM(Joint Exploration Model)と呼ばれる参照ソフトウェアに組み込まれてきた。JVETは四半期に1回開催され、新しいコーディング規格はHEVCに比べて50%のビットレート低減を目指している。2018年4月のJVET会議において、新しい映像コーディング規格を「VVC(Versatile Video Coding)」と正式に命名し、その時、第1版のVVCテストモデル(VTM)をリリースした。VVCの標準化に寄与する努力が続けられているので、すべてのJVET会議において、VVC標準に新しいコーディング技術が採用されている。毎回の会議の後、VVC作業草案およびテストモデルVTMを更新する。VVCプロジェクトは、現在、2020年7月の会合における技術完成(FDIS)を目指している。
3.1 シーケンス内のピクチャ解像度の変更
AVCおよびHEVCにおいて、ピクチャの空間的解像度は、新しいSPSを使用する新しいシーケンスがIRAPピクチャで始まらない限り、変更することができない。VVCは、常にイントラコーディングされるIRAPピクチャを符号化せずに、ある位置のシーケンス内でピクチャの解像度を変更することを可能にする。この特徴は、参照ピクチャがデコードされている現在のピクチャと異なる解像度を有する場合、インター予測に使用される参照ピクチャをリサンプリングすることが必要であるため、参照ピクチャリサンプリング(RPR)と称することがある。
スケーリング比は、1/2(参照ピクチャから現在のピクチャへのダウンサンプリングの2倍)以上8(8倍のアップサンプリング)以下に制限される。参照ピクチャと現在のピクチャとの間の様々なスケーリング比に対処するために、周波数カットオフが異なる3つのリサンプリングフィルタセットを規定する。3つの組のリサンプリングフィルタは、それぞれ、1/2~1/1.75、1/1.75~1/1.25、および1/1.25~8の範囲のスケーリング比に適用される。各組のリサンプリングフィルタは、動き補償補間フィルタの場合と同様に、輝度に対して16個のフェーズを有し、彩度に対して32個のフェーズを有する。実際には、通常のMC補間処理は、1/1.25~8の範囲のスケーリング比を有するリサンプリング処理の特殊な場合である。水平および垂直スケーリング比は、ピクチャの幅および高さ、並びに参照ピクチャおよび現在のピクチャに対して規定された左、右、上および下のスケーリングオフセットに基づいて導出される。
HEVCとは異なる、この特徴をサポートするためのVVC設計の他の態様は、i)SPSの代わりにPPSにおいてピクチャ解像度および対応する適合性ウィンドウを信号通知すること、SPSにおいて最大ピクチャ解像度を信号通知すること、ii)単レイヤビットストリームの場合、各ピクチャ記憶装置(1つの復号されたピクチャを記憶するためのDPBにおける1つのスロット)は、最大ピクチャ解像度を有する復号されたピクチャを記憶するために必要なバッファサイズを占めることを含む。
3.2. 全般およびVVCにおけるスケーラブル映像コーディング(SVC)
SVC(Scalable Video Coding、時には、映像コーディングにおけるスケーラビリティとも呼ばれる)は、BL(Base Layer:基本レイヤ)(時には、RL(Reference Layer:参照レイヤ)と呼ばれる)および1つ以上のスケーラブルEL(Enhancement Layer:拡張レイヤ)が使用される映像コーディングを参照する。SVCにおいて、ベースレイヤは、基本品質レベルを有する映像データを伝送することができる。1つ以上の拡張レイヤは、例えば、より高い空間的、時間的、および/または信号対雑音(SNR)レベルをサポートするように、追加の映像データを伝送することができる。拡張レイヤは、前の、符号化されたレイヤに対して定義されてもよい。例えば、下層がBLとして機能し、上層がELとして機能することができる。中間レイヤは、ELまたはRLのいずれか、またはその両方として機能することができる。例えば、中間レイヤ(例えば、最下レイヤでも最上レイヤでもないレイヤ)は、中間レイヤの下のレイヤ、例えば、ベースレイヤまたは任意の介在する拡張レイヤのためのELであってもよく、同時に、中間レイヤの上の1つ以上の拡張レイヤのためのRLとしての役割を果たす。同様に、HEVC規格のマルチビューまたは3D拡張では、複数のビューが存在してもよく、1つのビューの情報を利用して別のビューの情報をコーディング(例えば、符号化または復号)することができる(例えば、動き推定、動きベクトル予測および/または他の冗長性)。
SVCにおいて、エンコーダまたはデコーダで使用されるパラメータは、それらを利用することができるコーディングレベル(例えば、映像レベル、シーケンスレベル、ピクチャレベル、スライスレベル等)に基づいてパラメータセットにグループ分けされる。例えば、ビットストリームにおける異なるレイヤの1つ以上のコーディング映像シーケンスによって利用できるパラメータは、映像パラメータセット(VPS)に含まれてもよく、コーディングされた映像シーケンスにおける1つ以上のピクチャによって利用されるパラメータは、シーケンスパラメータセット(SPS)に含まれてもよい。同様に、1つのピクチャの1つ以上のスライスで利用されるパラメータは、ピクチャパラメータセット(PPS)に含まれてもよく、1つのスライスに固有の他のパラメータは、スライスヘッダに含まれてもよい。同様に、特定のレイヤが所与の時間にどのパラメータセットを使用しているかの指示は、様々なコーディングレベルで提供されてもよい。
VVCにおけるRPR(Reference Picture Resampling)のサポートのおかげで、空間的スケーラビリティサポートに必要なアップサンプリングはRPRアップサンプリングフィルタを使用するだけでよいので、追加の信号処理レベルのコーディングツールを必要とせずに、複数のレイヤ、例えば、VVCにおけるSDおよびHD解像度の2つのレイヤを含むビットストリームをサポートするように設計することができる。それにもかかわらず、スケーラビリティサポートのためには、高レベルの構文変更(スケーラビリティをサポートしない場合と比較して)が必要である。スケーラビリティサポートは、VVCバージョン1に規定されている。AVCおよびHEVCの拡張を含む、任意の以前の映像コーディング規格におけるスケーラビリティサポートとは異なり、VVCのスケーラビリティの設計は、単層デコーダの設計にできるだけ適したものにされてきた。多層ビットストリームの復号能力は、ビットストリームに1つのレイヤしかなかったかの如く規定される。例えば、DPBサイズのような復号能力は、復号されるビットストリームのレイヤの数に依存しないようで規定される。基本的に、単層ビットストリームのために設計されたデコーダは、多層ビットストリームを復号することができるようにするために、多くの変更を必要としない。AVCおよびHEVCの多層拡張の設計と比較して、HLSの態様は、ある程度の柔軟性を犠牲にして大幅に簡略化されてきた。例えば、IRAP AUは、CVSに存在するレイヤの各々にピクチャを含むことが必要である。
3.3 パラメータセット
AVC、HEVC、VVCはパラメータ集合を規定する。パラメータセットのタイプは、SPS、PPS、APS、VPS等である。SPS、PPSは、AVC、HEVC、VVCのすべてでサポートされている。VPSは、HEVCから導入されたものであり、HEVCおよびVVCの両方に含まれる。APSは、AVCまたはHEVCに含まれていなかったが、最近のVVC草案のテキストに含まれている。
SPSは、シーケンスレベルのヘッダ情報を伝送するように設計され、PPSは、頻繁に変化しないピクチャレベルのヘッダ情報を伝送するように設計された。SPSおよびPPSを用いると、シーケンスまたはピクチャごとに頻繁に変化する情報を繰り返す必要がないので、この情報の冗長な信号通知を回避することができる。さらに、SPSおよびPPSを使用することは、重要なヘッダ情報の帯域外伝送を有効化し、それにより、冗長な伝送の必要性を回避するだけでなく、誤り耐性を改善する。
VPSは、マルチレイヤのビットストリームのすべてのレイヤに共通であるシーケンスレベルのヘッダ情報を伝送するために導入された。
APSは、コーディングするためのかなりのビットを必要とし、複数のピクチャによって共有され、そして、シーケンスにおいて非常に多くの異なる変形例が存在し得る、そのようなピクチャレベルまたはスライスレベルの情報を伝送するために導入された。
3.4. 一般的なサブビットストリーム抽出処理
最新のVVCテキストのC.6項は、一般的なサブビットストリーム抽出処理を以下のように規定している。
C.6 サブビットストリーム抽出処理
この処理への入力は、ビットストリームinBitstream、ターゲットOLSインデックスtargetOlsIdx、およびターゲット最高TemporalId値tIdTargetである。
この処理の出力は、サブビットストリームoutBitstreamである。
入力ビットストリームに対するビットストリーム適合性の要件は、以下の条件のすべてを満たす任意の出力サブビットストリームが適合ビットストリームであるものとする。
- 出力サブビットストリームは、VPSで規定されたOLSのリストのインデックスと等しいtargetOlsIdx、および0から6の範囲内の任意の値であるtIdTargetを入力として、本項で規定した処理の出力である。
- 出力サブビットストリームは、LayerIdInOls[targetOlsIdx]における各々のnuh_layer_id値であるnuh_layer_idを有する少なくとも1つのVCL NAL部を含む。
- 出力サブビットストリームは、tIdTargetに等しいTemporalIdを有する少なくとも1つのVCL NAL部を含む。
注- 適合するビットストリームは、TemporalIdが0に等しい1つ以上のコーディングされたスライスNAL部を含むが、nuh_layer_idが0に等しいコーディングされたスライスNAL部を含む必要はない。
出力サブビットストリームOutBitstreamは、以下のように導出される。
1. ビットストリームoutBitstreamは、ビットストリームinBitstreamと同一になるように設定される。
2. tIdTargetよりも大きいTemporalIdを有するすべてのNAL部をoutBitstreamから削除する。
3. nal_unit_typeがVPS_NUT、DCI_NUT、およびEOB_NUTのいずれとも等しくなく、nuh_layer_idがリストLayerIdInOls[targetOlsIdx]に含まれないすべてのNAL部をoutBitstreamから削除する。
4. outBitstreamから、次のすべての条件が真であるすべてのVCL NAL部と、それらに関連付けられた、0、1、130のいずれにも等しくないPayloadTypeを有するPH_NUT、FD_NUT、SUFFIX_SEI_NUT、およびPREFIX_SEI_NUTに等しいnal_unit_typeを有する非VCL NAL部を削除する。
- nal_unit_typeはTRAIL_NUT、STSA_NUT、RADL_NUT、RASL_NUTに等しいか、またはnal_unit_typeはGDR_NUTに等しく、かつ関連するph_recovery_poc_cntは0に等しくない。
- nuh_layer_idは、0からNumLayersInOls[targetOlsIdx]-1の範囲内のjの値に対して、LayerIdInOls[targetOlsIdx][j]と等しい。
- TemporalIdは、NumSubLayersInLayerInOLS[targetOlsIdx][GeneralLayerIdx[nuh_layer_id]]以上である。
5. 1に等しいsn_ols_flagおよび、NestingOlsIdx[i]がtargetOlsIdxと等しいような、iの値が0からsn_num_olss_minus1の範囲内にないスケーラブルネスト化SEIメッセージを含むすべてのSEI NAL部をoutBitstreamから削除する。
6. LayerIdInOls[targetOlsIdx]がビットストリーム内のすべてのNAL部のnuh_layer_idのすべての値を含まない場合、以下が適用される。
a. payloadTypeが0(BP)または130(DUI)であるスケーラブルネスト化されていないSEIメッセージを含むすべてのSEI NAL 部をoutBitstreamから削除する。
b. general_same_pic_timing_in_all_ols_flagが0に等しいとき、payloadTypeが1(PT)に等しいスケーラブルネスト化されていないSEIメッセージを含むすべてのSEI NAL部をoutBitstreamから削除する。
c. outBitstreamが、sn_ols_flagが1に等しく、outBitstream(NestingOlsIdx[i]がtargetOlsIdxに等しい)に適用可能なスケーラブルネスト化SEIメッセージを含むSEI NAL部を含む場合、以下が適用される。
- general_same_pic_timing_in_all_ols_flagが0に等しい場合、スケーラブルネスト化SEIメッセージからpayloadTypeが0(BP)、1(PT)または130(DUI)に等しい適切なスケーラブルネスト化されていないSEIメッセージを抽出し、それらのSEIメッセージをoutBitstream内に含める。
- そうでない場合(general_same_pic_timing_in_all_ols_flagが1に等しい場合)、スケーラブルネスト化SEIメッセージからpayloadTypeが0(BP)または130(DUI)に等しい適切なスケーラブルネスト化されていないSEIメッセージを抽出し、それらのSEIメッセージをoutBitstream内に含める。
4. 開示される技術的解決策によって解決される技術課題
最新のVVCテキスト(JVET-R2001-vA/v10)における一般的なサブビットストリーム抽出処理および関連する他の部分の既存の設計には、以下のような問題がある。
1) 出力サブビットストリームが適合ビットストリームであることが必要とされる条件においては、tIdTargetの値が0~6の範囲内にあると言われている。しかし、多くのビットストリームにおいて、最も高いTemporalId値は6未満であり、この値は構文要素vps_max_sublayers_minus1によって規定される。
2) アクセス部区切り文字(AUD)NAL部は、存在する場合、任意のnuh_layer_id値を有することができる。しかしながら、サブビットストリーム抽出処理のステップ3は、nuh_layer_id値がリストLayerIdInOls[targetOlsIdx]に含まれないAUD NAL部を削除する。
3) いくつかのSEI NAL部は、0に等しいsn_ols_flagを有するスケーラブルネスト化SEIメッセージを含むが、スケーラブルネスト化SEIメッセージに示される適用可能なレイヤは、ターゲットのOLSにおけるいずれのレイヤを含まない、すなわち、適用可能なレイヤのnuh_layer_id値は、リストLayerIdInOls[targetOlsIdx]に含まれない。これらのSEI NAL部も削除されるべきである。
4) ステップ6の条件、すなわち、「LayerIdInOls[targetOlsIdx]が、ビットストリームにおけるすべてのNAL部のnuh_layer_idのすべての値を含まない場合」には、以下の2つの問題がある。
a. DCI、VPS、AUD、またはEOB NAL部が存在し、かつ、VCL NAL部のnuh_layer_id値のいずれにも等しくないnuh_layer_idを有する場合、この条件は機能しない。
b. 用語「ビットストリーム」は、コンテキストの中には2つのビットストリームinBitstreamおよびoutBitstreamがあるため、明瞭ではない。
5) ステップ6.cは、スケーラブルネスト化されていないSEIメッセージを生成するために、1に等しいsn_ols_flagを有し、かつ、1に等しいsn_subpic_flagを有するスケーラブルネスト化SEIメッセージからスケーラブルネスト化されたSEIメッセージを抽出するが、そのようなスケーラブルネスト化されたSEIメッセージは特定のサブピクチャにのみ適用され、抽出されるべきではない。
6) ステップ6.cにおいて、1つのSEI NAL部seiNalUnitAから複数のスケーラブルネスト化されたSEIメッセージを抽出し、スケーラブルネスト化されていないSEIメッセージとした場合、それらは1つのSEI NAL部seiNalUnitBに含まれるべきであり、SEI NAL部seiNalUnitBはSEI NAL部seiNalUnitAを含む同じPUに含まれているべきである。ただし、これは規定されていない。
7) ステップ6.cは、いくつかのSEIメッセージが抽出され、スケーラブルネスト化されていないSEIメッセージとして含まれたすべてのSEI NAL部をoutBitstreamから削除する。ただし、これは規定されていない。
8) SEI NAL部が、0、1、または130に等しいpayloadTypeを有するSEIメッセージを含む場合、SEI NAL部は、0(BP)、1(PT)、130(DUI)、133(スケーラブルネスト化)のいずれにも等しくないpayloadTypeを有するSEIメッセージを含まないとする制約がない。これにより、ステップ4におけるSEIメッセージの削除が、SEI NAL部の単なる削除よりも多く含むことになる。
9) フラグgeneral_same_pic_timing_in_all_ols_flagは、スケーラブルネスト化されていないPT SEIメッセージがすべてのOLSに適用されるかどうかを規定するのみである。しかしながら、DUI SEIメッセージに伝送される情報は、PT SEIメッセージと同様の目的のためである。
10) 出力ビットストリームから、a)nal_unit_typeがTRAIL_NUT、STSA_NUT、RADL_NUT、RASL_NUT、またはnal_unit_typeがGDR_NUTに等しく、かつ関連付けられたph_recovery_poc_cntが0より大きい、および、b)TemporalIdがNumSubLayersInLayerInOLS[targetOlsIdx][GeneralLayerIdx[nuh_layer_id]]以上であるという、2つの条件が共に真であるVCL NAL部を削除する場合、このステップは、BP、PT、またはDUI SEIメッセージ以外のSEIメッセージを含む、関連付けられたSEI NAL部も削除する。しかしながら、削除されたこれらのSEIメッセージの一部は、出力ビットストリームに残っているピクチャを含むOLSまたはレイヤに適用できる。
11) このサブピクチャレベル情報SEIメッセージは、存在する場合、他のHRD関連のSEIメッセージ、即ちBP、PT、DUI SEIメッセージと同様に、OLSにも適用される。しかしながら、LayerIdInOls[targetOlsIdx]がビットストリームのすべてのNAL部におけるnuh_layer_idのすべての値を含まない場合、203に等しいpayloadTypeを有するスケーラブルネスト化されていないSEIメッセージ(すなわち、サブピクチャレベル情報SEIメッセージ)を含むSEI NAL部は、抽出処理において対処されない。
12) スケーラブルネスト化されたSEIメッセージをスケーラブルネスト化されていないSEIメッセージにする最後のステップは、以下の問題を有する。
a. sn_ols_flagが0に等しく、sn_subpic_flagが0に等しい場合のSEIメッセージはカバーされない。
b. 結果として生じるスケーラブルネスト化されていないSEIメッセージを、出力ビットストリームにおいて配置すべき(SEI NAL部の場合、SEI NAL部が配置されるべき)場所は、規定されていない。
5. 技術的解決策および実施形態の一覧
上記課題を解決するために、以下に示す方法が開示されている。これらの項目は、一般的な概念を説明するための例であり、狭義に解釈されるべきではない。さらに、これらの項目は、個々に適用されてもよく、または任意の方法で組み合わされてもよい。
1) 問題1を解決するために、出力サブビットストリームが適合ビットストリームであることが必要とされる条件を、tIdTargetの値が0からvps_max_sublayers_minus1の範囲内にあるように規定する。
a. あるいは、出力サブビットストリームが適合ビットストリームであることが必要とされる条件は、入力ビットストリームに複数のレイヤがある場合にはtIdTargetの値は、0からvps_max_sublayers_minus1の範囲内にあるように規定され、入力ビットストリームに1つのみのレイヤがある場合には0からsps_max_sublayers_minus1の範囲内にあるように規定される。
2)問題2を解決するために、AUD NAL部を、VPS_NUT、DCI_NUTまたはEOB_NUTに等しいnal_unit_typeを有するNAL部と同様に扱うように、一般的なサブビットストリーム抽出処理を規定する。すなわち、nuh_layer_id値に従って、出力ビットストリームoutBitstreamからAUD NAL部を削除しない。
3)問題3を解決するために、一般的なサブビットストリーム抽出処理は、出力ビットストリームoutBitstreamから、0に等しいsn_ols_flagを有するスケーラブルネスト化SEIメッセージを含むSEI NAL部を削除する一方、スケーラブルネスト化SEIメッセージに示される適用可能なレイヤは、ターゲットのOLS内のいずれのレイヤも含まないように規定される。
a. 一例において、0に等しいsn_ols_flagを有し、かつ0からnestingNumLayers-1の範囲内にあるiに対するリストnestingLayerId[i]に、リストLayerIdInOls[targetOlsIdx]内に値がないスケーラブルネスト化SEIメッセージを含むすべてのSEI NAL部をoutBitstreamから削除することが規定されている。
4) 問題4を解決するために、「LayerIdInOls[targetOlsIdx]が、ビットストリーム中のすべてのNAL部のnuh_layer_idのすべての値を含まない」との条件は、「リストLayerIdInOls[targetOlsIdx]が、ビットストリームinBitstreamにおけるすべてのVCL NAL部のnuh_layer_idのすべての値を含まない」となるように変更される。
5) 問題5を解決するために、一般的なサブビットストリーム抽出処理は、スケーラブルネスト化されていないSEIメッセージを生成するために、1に等しいsn_ols_flag、および、0に等しいsn_subpic_flagを共に有するスケーラブルネスト化SEIメッセージから、スケーラブルネスト化されたSEIメッセージのみを抽出するように規定される。
6)問題6を解決するため、一般的なサブビットストリーム抽出処理は、複数のスケーラブルネスト化されたSEIメッセージが、1つのSEI NAL部seiNalUnitAから抽出されて、スケーラブルネスト化されていないSEIメッセージとなる場合、それらはまだ出力ビットストリームoutBitstream中の1つのSEI NAL部seiNalUnitBに含まれ、SEI NAL部seiNalUnitBは、SEI NAL部seiNalUnitAを含むPUに含まれることが規定される。
7)問題7を解決するため、一般的なサブビットストリーム抽出処理は、出力ビットストリームoutBitstreamから、いくつかのSEIメッセージが抽出され、スケーラブルネスト化されていないSEIメッセージとして含まれているすべてのSEI NAL部を削除するように規定される。
a. あるいは、このようなSEI NAL部におけるスケーラブルネスト化されたSEIメッセージがターゲットのOLS(すなわち、VPSによって規定されたtargetOlsIdx番目のOLS)のみに適用される場合、そのSEI NAL部をoutBitstreamから削除する。
b. あるいは、このようなSEI NAL部におけるスケーラブルネスト化されたSEIメッセージが適用されるOLS内のターゲットのOLS以外に、リストLayerIdInOls[targetOlsIdx]にすべて含まれるレイヤを含むOLSがない場合、そのSEI NAL部をoutBitstreamから削除する。
8)問題8を解決するために、SEI NAL部が、0、1、または130に等しいpayloadTypeを有するSEIメッセージを含む場合、SEI NAL部は、0(BP)、1(PT)、130(DUI)、133(スケーラブルネスト化)のいずれにも等しくないpayloadTypeを有するSEIメッセージを含んではならないような制約を加える。
9)問題9を解決するために、フラグgeneral_same_pic_timing_in_all_ols_flagは、スケーラブルネスト化されていないPTおよびDUI SEIメッセージがすべてのOLSに適用されるかどうかを規定する。
a. あるいは、フラグgeneral_same_pic_timing_in_all_ols_flagは、スケーラブルネスト化されていないBP、PT、およびDUI SEIメッセージがすべてのOLSに適用されるかどうかを規定する。
i. 一例において、フラグgeneral_same_pic_timing_in_all_ols_flagは、フラグgeneral_same_pic_level_hrd_info_in_all_ols_flagに改名され、スケーラブルネスト化されていないBP、PT、DUI SEIメッセージがすべてのOLSに適用されるかどうかを規定する。
b. あるいは、例えばgeneral_same_dui_in_all_ols_flagという新しいフラグが追加され、スケーラブルネスト化されていないDUI SEIメッセージがすべてのOLSに適用されるかどうかが規定される。
c. あるいは、例えばgeneral_same_bp_in_all_ols_flagという新しいフラグが追加され、スケーラブルネスト化されていないBP SEIメッセージがすべてのOLSに適用されるかどうかが規定される。
10) 問題10を解決するために、一例において、一般のサブビットストリーム抽出処理では、出力ビットストリームから、a)nal_unit_typeがTRAIL_NUT、STSA_NUT、RADL_NUT、RASL_NUT、またはnal_unit_typeがGDR_NUTに等しく、かつ関連付けられたph_recovery_poc_cntが0より大きい、および、b)TemporalIdがNumSubLayersInLayerInOLS[targetOlsIdx][GeneralLayerIdx[nuh_layer_id]]以上であるという、2つの条件が共に真であるVCL NAL部を削除する場合、BP、PT、またはDUI SEIメッセージ以外のSEIメッセージを含む、関連付けられたSEI NAL部を削除する代わりに、すべてのVCL NAL部が削除されている1つ以上のピクチャまたはサブピクチャのみを適用するSEIメッセージを含むすべてのSEI NAL部を削除する。
a. 一例において、代替的に、このようなVCL NAL部を削除するとき、関連付けられたSEI NAL部を出力ビットストリームに保持する。
11) 問題11を解決するために、一例において、一般のサブビットストリーム抽出処理では、LayerIdInOls[targetOlsIdx]がビットストリームのすべてのNAL部におけるnuh_layer_idのすべての値を含まない場合、203に等しいpayloadTypeを有するスケーラブルネスト化されていないSEIメッセージ(すなわち、サブピクチャレベル情報SEIメッセージ)を含むすべてのSEI NAL部を追加的に削除する。
12) 問題12を解決するために、一例において、一般的なサブビットストリーム抽出処理では、LayerIdInOls[targetOlsIdx]が、ビットストリームにおけるすべてのNAL部のnuh_layer_idの値をすべて含まない場合、そしてoutBitstreamが、outBitstreamと同じレイヤセットを有するOLS(sn_ols_flagが1に等しい場合)またはレイヤ(sn_ols_flagが0に等しい場合)に適用される、sn_subpic_flagが0に等しいスケーラブルネスト化SEIメッセージを含むSEI NAL部seiNalUnitAを含む場合、下記のうちの1つ以上を行う。
a. 新しいSEI NAL部seiNalUnitBを生成する。
b. seiNalUnitAを含むPUにseiNalUnitBを含める。
c. seiNalUnitAのすぐ後に、seiNalUnitAを含むPUにseiNalUnitBを含める。
d. スケーラブルネスト化SEIメッセージからスケーラブルネスト化されたSEIメッセージを抽出し、それらをseiNalUnitB(スケーラブルネスト化されていないSEIメッセージ)に直接含める。
e. outBitstreamからseiNalUnitAを削除する。
13) 一例において、一般的なサブビットストリーム抽出処理において、LayerIdInOls[targetOlsIdx]がビットストリームにおけるすべてのNAL部のnuh_layer_idのすべての値を含まない場合、outBitstreamは、スケーラブルネスト化SEIメッセージを含むSEI NAL部seiNalUnitAを含み、seiNalUnitAを出力ビットストリームに維持する。
6. 実施形態
Figure 2023529823000002
6.1. 第1の実施形態
本実施形態は、1、2、3、3.a、4、5、6、7.b、および8項に対するものである。
Figure 2023529823000003

この処理への入力は、ビットストリームinBitstream、ターゲットのOLSインデックスtargetOlsIdx、およびターゲットの最高TemporalId値tIdTargetである。
この処理の出力は、サブビットストリームoutBitstreamである。
入力ビットストリームに対するビットストリーム適合性の要件は、以下の条件のすべてを満たす任意の出力サブビットストリームが適合ビットストリームであるものとする。
Figure 2023529823000004

- 出力サブビットストリームは、LayerIdInOls[targetOlsIdx]における各々のnuh_layer_id値であるnuh_layer_idを有する少なくとも1つのVCL NAL部を含む。
- 出力サブビットストリームは、tIdTargetであるTemporalIdを有する少なくとも1つのVCL NAL部を含む。
注- 適合するビットストリームは、TemporalIdが0に等しい1つ以上のコーディングされたスライスNAL部を含むが、nuh_layer_idが0に等しいコーディングされたスライスNAL部を含む必要はない。
Figure 2023529823000005

1. ビットストリームoutBitstreamは、ビットストリームinBitstreamと同一になるように設定される。
2. tIdTargetよりも大きいTemporalIdを有するすべてのNAL部をoutBitstreamから削除する。
Figure 2023529823000006

Figure 2023529823000007

- nal_unit_typeはTRAIL_NUT、STSA_NUT、RADL_NUT、RASL_NUTに等しいか、またはnal_unit_typeはGDR_NUTに等しく、かつ関連するph_recovery_poc_cntは0に等しくない。
- [[nuh_layer_idは、0からNumLayersInOls[targetOlsIdx]-1の範囲内のjの値に対して、LayerIdInOls[targetOlsIdx][j]と等しい。]]
- TemporalIdは、NumSubLayersInLayerInOLS[targetOlsIdx][GeneralLayerIdx[nuh_layer_id]]以上である。
5. 1に等しいsn_ols_flagおよび、NestingOlsIdx[i]がtargetOlsIdxと等しいような、iの値が0からsn_num_olss_minus1の範囲内にないスケーラブルネスト化SEIメッセージを含むすべてのSEI NAL部をoutBitstreamから削除する。
Figure 2023529823000008

a. payloadTypeが0(BP)または130(DUI)であるスケーラブルネスト化されていないSEIメッセージを含むすべてのSEI NAL部をoutBitstreamから削除する。
b. general_same_pic_timing_in_all_ols_flagが0に等しいとき、payloadTypeが1(PT)に等しいスケーラブルネスト化されていないSEIメッセージを含むすべてのSEI NAL部をoutBitstreamから削除する。
Figure 2023529823000009
D.2.2 一般的なSEIペイロード意味論
...
SEI NAL部にSEIメッセージを含めることに以下の制限が適用されることが、ビットストリーム適合性の要件である。
- SEI NAL部が、スケーラブルネスト化されていないBP SEIメッセージ、スケーラブルネスト化されていないPT SEIメッセージ、またはスケーラブルネスト化されていないDUI SEIメッセージを含む場合、SEI NAL部は、0(BP)、1(PT)、130(DUI)のいずれにも等しくないpayloadTypeを有する他のSEIメッセージを含まないものとする。
- SEI NAL部が、スケーラブルネスト化されたBP SEIメッセージ、スケーラブルネスト化されたPT SEIメッセージ、またはスケーラブルネスト化されたDUI SEIメッセージを含む場合、SEI NAL部は、0(BP)、1(PT)、130(DUI)133(スケーラブルネスト化)のいずれにも等しくないpayloadTypeを有する他のSEIメッセージを含まないものとする。
Figure 2023529823000010
6.2. 第二の実施形態
本実施形態は、項目10~12について、上記実施形態1テキストに対する変更点をハイライトで表示したものである。
C.6 一般的なサブビットストリーム抽出処理
この処理への入力は、ビットストリームinBitstream、ターゲットのOLSインデックス targetOlsIdx、およびターゲットの最高TemporalId値tIdTargetである。
この処理の出力は、サブビットストリームoutBitstreamである。
Figure 2023529823000011

入力ビットストリームに対するビットストリーム適合性の要件は、以下の条件のすべてを満たす任意の出力サブビットストリームが適合ビットストリームであるものとする。
- 出力サブビットストリームは、VPSで規定されたOLSのリストのインデックスと等しいtargetOlsIdx、および0からvps_max_sublayers_minus1の範囲内の任意の値であるtIdTargetを入力として、本項で規定した処理の出力である。
- 出力サブビットストリームは、LayerIdInOls[targetOlsIdx]における各々のnuh_layer_id値であるnuh_layer_idを有する少なくとも1つのVCL NAL部を含む。
- 出力サブビットストリームは、tIdTargetに等しいTemporalIdを有する少なくとも1つのVCL NAL部を含む。
注- 適合するビットストリームは、TemporalIdが0に等しい1つ以上のコーディングされたスライスNAL部を含むが、nuh_layer_idが0に等しいコーディングされたスライスNAL部を含む必要はない。
出力サブビットストリームOutBitstreamは、以下の順序付けられたステップを適用して導出される。
1. ビットストリームoutBitstreamは、ビットストリームinBitstreamと同一になるように設定される。
2. tIdTargetよりも大きいTemporalIdを有するすべてのNAL部をoutBitstreamから削除する。
Figure 2023529823000012

- TemporalIdは、NumSubLayersInLayerInOLS[targetOlsIdx][GeneralLayerIdx[nuh_layer_id]]以上である。
Figure 2023529823000013

- 1に等しいsn_ols_flagおよび、NestingOlsIdx[i]がtargetOlsIdxと等しいような、iの値が0からsn_num_olss_minus1の範囲内にないスケーラブルネスト化SEIメッセージを含むすべてのSEI NAL部をoutBitstreamから削除する。
- 0に等しいsn_ols_flagを有し、かつ、リストLayerIdInOls[targetOlsIdx]内にある、0からnestingNumLayers-1の範囲内にあるiに対するリストnestingLayerId[i]に値がないスケーラブルネスト化SEIメッセージを含むすべてのSEI NAL部をoutBitstreamから削除する。
Figure 2023529823000014

Figure 2023529823000015

[[outBitstreamが、sn_ols_flagが1に等しく、targetOlsIdx番目のOLSに適用されるsn_subpic_flagが0に等しいスケーラブルネスト化SEIメッセージを含むSEI NAL部を含む場合、(すなわち、NestingOlsIdx[i]がtargetOlsIdxと等しくなるような、0からsn_num_olss_minus1の範囲内に少なくとも1つのiの値が存在する場合)、以下がリスト化された順序で適用される。
i. そのようなSEI NAL部seiNalUnitAのスケーラブルネスト化されたBPまたはDUI SEIメッセージごとに、同一のpayloadTypeとSEI payloadとを有するスケーラブルネスト化されていないSEIメッセージを生成して、それをoutBitstreamにおいてseiNalUnitAを含むPUのSEI NAL部に含める。
ii. general_same_pic_timing_in_all_ols_flagが0に等しい場合、そのようなSEI NAL部seiNalUnitAのスケーラブルネスト化されたPT SEIメッセージごとに、同一のSEI payloadを有するスケーラブルネスト化されていないSEIメッセージを生成して、それをoutBitstreamにおいてseiNalUnitAを含むPUのSEI NAL部に含める。
iii. 特定のこのようなSEI NAL部seiNalUnitAに含まれた複数のSEIメッセージをスケーラブルネスト化されていないSEIメッセージにした場合、これらのスケーラブルネスト化されていないSEIメッセージは1つのSEI NALメッセージに含まれる。
iv. そのようなSEI NAL部seiNalUnitAにおけるスケーラブルネスト化されたSEIメッセージが適用されるOLSにおいてターゲットのOLS以外に、リストLayerIdInOls[targetOlsIdx]にすべて含まれるレイヤを含んだOLSがない場合、そのSEI NAL部seiNalUnitAをoutBitstreamから削除する。
図1は、本明細書で開示される様々な技術が実装され得る例示的な映像処理システム1900を示すブロック図である。様々な実装形態は、システム1900のコンポーネントの一部または全部を含んでもよい。システム1900は、映像コンテンツを受信するための入力部1902を含んでもよい。映像コンテンツは、未加工または非圧縮フォーマット、例えば、8または10ビットのマルチコンポーネント画素値で受信されてもよく、または圧縮または符号化フォーマットで受信されてもよい。入力部1902は、ネットワークインターフェース、周辺バスインターフェース、またはストレージインターフェースを表してもよい。ネットワークインターフェースの例は、イーサネット(登録商標)、PON(Passive Optical Network)等の有線インターフェース、およびWi-Fi(登録商標)またはセルラーインターフェース等の無線インターフェースを含む。
システム1900は、本明細書に記載される様々なコーディングまたは符号化方法を実装することができるコーディングコンポーネント1904を含んでもよい。コーディングコンポーネント1904は、入力1902からの映像の平均ビットレートをコーディングコンポーネント1904の出力に低減し、映像のコーディングされた表現を生成してもよい。従って、このコーディング技術は、映像圧縮または映像コード変換技術と呼ばれることがある。コーディングコンポーネント1904の出力は、コンポーネント1906によって表されるように、記憶されてもよいし、接続された通信を介して送信されてもよい。入力1902において受信された、記憶されたまたは通信された映像のビットストリーム(またはコーディングされた)表現は、コンポーネント1908によって使用されて、表示インターフェース1910に送信される画素値または表示可能な映像を生成してもよい。ビットストリーム表現からユーザが見ることができる映像を生成する処理は、映像展開と呼ばれることがある。さらに、特定の映像処理動作を「コーディング」動作またはツールと呼ぶが、コーディングツールまたは動作は、エンコーダで使用され、コーディングの結果を逆にする対応する復号ツールまたは動作は、デコーダによって行われることが理解されよう。
周辺バスインターフェースまたは表示インターフェースの例は、ユニバーサルシリアルバス(USB)または高解像度マルチメディアインターフェース(HDMI(登録商標))またはディスプレイポート等を含んでもよい。ストレージインターフェースの例は、SATA(Serial Advanced Technology Attachment)、PCI、IDEインターフェース等を含む。本明細書に記載される技術は、携帯電話、ノートパソコン、スマートフォン、またはデジタルデータ処理および/または映像表示を実施可能な他のデバイス等の様々な電子デバイスにおいて実施されてもよい。
図2は、映像処理装置3600のブロック図である。装置3600は、本明細書に記載の方法の1つ以上を実装するために使用されてもよい。装置3600は、スマートフォン、タブレット、コンピュータ、モノのインターネット(IoT)受信機等に実施されてもよい。装置3600は、1つ以上のプロセッサ3602と、1つ以上のメモリ3604と、映像処理ハードウェア3606と、を含んでもよい。1つまたは複数のプロセッサ3602は、本明細書に記載される1つ以上の方法を実装するように構成されてもよい。メモリ(複数可)3604は、本明細書で説明される方法および技術を実装するために使用されるデータおよびコードを記憶するために使用してもよい。映像処理ハードウェア3606は、本明細書に記載される技術をハードウェア回路にて実装するために使用してもよい。
図4は、本開示の技術を利用し得る例示的な映像コーディングシステム100を示すブロック図である。
図4に示すように、映像コーディングシステム100は、送信元デバイス110と、送信先デバイス120と、を備えてもよい。送信元デバイス110は、映像符号化デバイスとも称され得る符号化された映像データを生成する。送信先デバイス120は、送信元装置110によって生成された、符号化された映像データを復号してよく、映像復号デバイスと呼ばれ得る。
送信元デバイス110は、映像ソース112と、映像エンコーダ114と、入出力(I/O)インターフェース116と、を備えてもよい。
映像ソース112は、映像キャプチャデバイス等のソース、映像コンテンツプロバイダからの映像データを受信するためのインターフェース、および/または映像データを生成するためのコンピュータグラフィックスシステム、またはこれらのソースの組み合わせを含んでもよい。映像データは、1つ以上のピクチャを含んでもよい。映像エンコーダ114は、映像ソース112からの映像データを符号化し、ビットストリームを生成する。ビットストリームは、映像データのコーディングされた表現を形成するビットのシーケンスを含んでもよい。ビットストリームは、コーディングされたピクチャおよび関連付けられたデータを含んでもよい。コーディングされたピクチャは、ピクチャのコーディングされた表現である。関連付けられたデータは、シーケンスパラメータセット、ピクチャパラメータセット、および他の構文構造を含んでもよい。I/Oインターフェース116は、変復調器(モデム)および/または送信機を含んでもよい。符号化された映像データは、ネットワーク130aを介して、I/Oインターフェース116を介して送信先デバイス120に直接送信されてよい。エンコードされた映像データは、送信先デバイス120がアクセスするために、記録媒体/サーバ130bに記憶してもよい。
送信先デバイス120は、I/Oインターフェース126、映像デコーダ124、および表示デバイス122を含んでもよい。
I/Oインターフェース126は、受信機および/またはモデムを含んでもよい。I/Oインターフェース126は、送信元デバイス110または記憶媒体/サーバ130bから符号化された映像データを取得してもよい。映像デコーダ124は、符号化された映像データを復号してもよい。表示デバイス122は、復号された映像データをユーザに表示してもよい。表示デバイス122は、送信先デバイス120と一体化されてもよく、または外部表示装置とインターフェースで接続するように構成される送信先デバイス120の外部にあってもよい。
映像エンコーダ114および映像デコーダ124は、高効率映像コーディング(HEVC)規格、汎用映像コーディング(VVC)規格、および他の現在のおよび/または更なる規格等の映像圧縮規格に従って動作してもよい。
図5は、映像エンコーダ200の一例を示すブロック図であり、図4に示されるシステム100における映像エンコーダ114であってもよい。
映像エンコーダ200は、本開示の技術のいずれかまたは全部を行うように構成されてもよい。図5の例において、映像エンコーダ200は、複数の機能コンポーネントを含む。本開示で説明される技術は、映像エンコーダ200の様々なコンポーネント間で共有されてもよい。いくつかの例では、プロセッサは、本開示で説明される技術のいずれかまたはすべてを行うように構成してもよい。
映像エンコーダ200の機能性コンポーネントは、分割部201、予測部202を含んでもよく、予測部202は、モード選択部203、動き推定部204、動き補償部205、およびイントラ予測部206、残差生成部207、変換部208、量子化部209、逆量子化部210、逆変換部211、再構成部212、バッファ213、およびエントロピー符号化部214を含んでもよい。
他の例において、映像エンコーダ200は、より多くの、より少ない、または異なる機能コンポーネントを含んでもよい。一例において、予測部202は、イントラブロックコピー(IBC)部を含んでもよい。IBC部は、少なくとも1つの参照ピクチャが現在の映像ブロックが位置するピクチャであるIBCモードにおいて予測を行うことができる。
さらに、動き推定部204および動き補償部205などのいくつかのコンポーネントは、高度に統合されてもよいが、説明のために、図5の例においては別個に表現されている。
分割部201は、ピクチャを1つ以上の映像ブロックに分割してもよい。映像エンコーダ200および映像デコーダ300は、様々な映像ブロックサイズをサポートしてもよい。
モード選択部203は、例えば、誤りの結果に基づいて、イントラまたはインターによるコーディングモードのうちの1つを選択し、得られたイントラまたはインターコーディングされたブロックを残差生成部207に供給し、残差ブロックデータを生成して再構成部212に供給し、符号化されたブロックを参照ピクチャとして使用するために再構成してもよい。いくつかの例において、モード選択部203は、インター予測信号およびイントラ予測信号に基づいて予測を行うCIIP(Combination of Intra and Inter Prediction)モードを選択してもよい。モード選択部203は、インター予測の場合、ブロックのために動きベクトルの解像度(例えば、サブピクセルまたは整数ピクセル精度)を選択してもよい。
現在の映像ブロックに対してインター予測を実行するために、動き推定部204は、バッファ213からの1つ以上の参照フレームと現在の映像ブロックとを比較することにより、現在の映像ブロックのために動き情報を生成してもよい。動き補償部205は、現在の映像ブロックに関連付けられたピクチャ以外のバッファ213からのピクチャの動き情報および復号されたサンプルに基づいて、現在の映像ブロックに対する予測映像ブロックを判定してもよい。
動き推定部204および動き補償部205は、現在の映像ブロックがIスライスであるか、Pスライスであるか、またはBスライスであるかによって、例えば、現在の映像ブロックに対して異なる動作を行ってもよい。
いくつかの例において、動き推定部204は、現在の映像ブロックに対して単一方向予測を行い、動き推定部204は、現在の映像ブロックに対して、参照映像ブロック用のリスト0またはリスト1の参照ピクチャを検索してもよい。そして、動き推定部204は、参照映像ブロックを含むリスト0またはリスト1における参照ピクチャを示す参照インデックスと、現在の映像ブロックと参照映像ブロックとの間の空間的変位を示す動きベクトルと、を生成する。動き推定部204は、参照インデックス、予測方向インジケータ、および動きベクトルを、現在の映像ブロックの動き情報として出力してもよい。動き補償部205は、現在の映像ブロックの動き情報が示す参照映像ブロックに基づいて、現在のブロックの予測映像ブロックを生成してもよい。
他の例において、動き推定部204は、現在の映像ブロックを双方向予測してもよく、動き推定部204は、リスト0における参照ピクチャの中から現在の映像ブロックを求めるための参照映像ブロックを検索してもよく、また、リスト1における参照ピクチャの中から現在の映像ブロックを求めるための別の参照映像ブロックを検索してもよい。そして、動き推定部204は、参照映像ブロックを含むリスト0およびリスト1における参照ピクチャを示す参照インデックスと、参照映像ブロックと現在の映像ブロックとの間の空間的変位を示す動きベクトルとを生成してもよい。動き推定部204は、現在の映像ブロックの参照インデックスおよび動きベクトルを、現在の映像ブロックの動き情報として出力してもよい。動き補償部205は、現在の映像ブロックの動き情報が示す参照映像ブロックに基づいて、現在の映像ブロックの予測映像ブロックを生成してもよい。
いくつかの例において、動き推定部204は、デコーダの復号処理のために、動き情報のフルセットを出力してもよい。
いくつかの例において、動き推定部204は、現在の映像に対する動き情報のフルセットを出力しなくてもよい。むしろ、動き推定部204は、別の映像ブロックの動き情報を参照して、現在の映像ブロックの動き情報を信号通知してもよい。例えば、動き推定部204は、現在の映像ブロックの動き情報が隣接する映像ブロックの動き情報に十分に類似していることを判定してもよい。
一例において、動き推定部204は、現在の映像ブロックに関連付けられた構文構造において、現在の映像ブロックが別の映像ブロックと同じ動き情報を有することを映像デコーダ300に示す値を示してもよい。
他の例において、動き推定部204は、現在の映像ブロックに関連付けられた構文構造において、別の映像ブロックと、動きベクトル差分(MVD:Motion Vector Difference)とを識別してもよい。動きベクトルの差分は、現在の映像ブロックの動きベクトルと、指定された映像ブロックの動きベクトルとの差分を示す。映像デコーダ300は、指定された映像ブロックの動きベクトルと動きベクトル差分とを使用して、現在の映像ブロックの動きベクトルを決定してもよい。
上述したように、映像エンコーダ200は、動きベクトルを予測的に信号通知してもよい。映像エンコーダ200によって実装され得る予測信号通知技法の2つの例は、AMVP(Advanced Motion Vector Prediction)およびマージモード信号通知を含む。
イントラ予測部206は、現在の映像ブロックに対してイントラ予測を行ってもよい。イントラ予測部206が現在の映像ブロックをイントラ予測する場合、イントラ予測部206は、同じピクチャにおける他の映像ブロックの復号されたサンプルに基づいて、現在の映像ブロックのための予測データを生成してもよい。現在の映像ブロックに対する予測データは、予測された映像ブロックおよび様々な構文要素を含んでもよい。
残差生成部207は、現在の映像ブロックから現在の映像ブロックの予測された映像ブロックを減算することによって(例えば、マイナス符号によって示されている)、現在の映像ブロックに対する残差データを生成してもよい。現在の映像ブロックの残差データは、現在の映像ブロックにおけるサンプルの異なるサンプル成分に対応する残差映像ブロックを含んでもよい。
他の例において、例えば、スキップモードにおいて、現在の映像ブロックに対する残差データがなくてもよく、残差生成部207は、減算動作を行わなくてもよい。
変換処理部208は、現在の映像ブロックに関連付けられた残差映像ブロックに1つ以上の変換を適用することによって、現在の映像ブロックに対する1つ以上の変換係数映像ブロックを生成してもよい。
変換処理部208が現在の映像ブロックに関連付けられた変換係数映像ブロックを生成した後、量子化部209は、現在の映像ブロックに関連付けられた1つ以上の量子化パラメータ(QP:Quantization Parameter)値に基づいて、現在の映像ブロックに関連付けられた変換係数映像ブロックを量子化してもよい。
逆量子化部210および逆変換部211は、変換係数映像ブロックに逆量子化および逆変換をそれぞれ適用し、変換係数映像ブロックから残差映像ブロックを再構成してもよい。再構成部212は、予測部202によって生成された1つ以上の予測映像ブロックから対応するサンプルに再構成された残差映像ブロックを追加して、バッファ213に格納するための現在のブロックに関連付けられた再構成された映像ブロックを生成してもよい。
再構成部212が映像ブロックを再構成した後、映像ブロックにおける映像ブロッキングアーチファクトを縮小するために、ループフィルタリング動作が行われてもよい。
エントロピー符号化部214は、映像エンコーダ200の他の機能コンポーネントからデータを受信してもよい。エントロピー符号化部214がデータを受信すると、エントロピー符号化部214は、1つ以上のエントロピー符号化動作を行い、エントロピー符号化されたデータを生成し、エントロピー符号化されたデータを含むビットストリームを出力してもよい。
図6は、映像デコーダ300の一例を示すブロック図であり、映像デコーダ300は、図4に示すシステム100における映像デコーダ114であってもよい。
映像デコーダ300は、本開示の技術のいずれかまたはすべてを行うように構成されてもよい。図5の実施例において、映像デコーダ300は、複数の機能コンポーネントを含む。本開示で説明される技法は、映像デコーダ300の様々なコンポーネント間で共有されてもよい。いくつかの例では、プロセッサは、本開示で説明される技術のいずれかまたはすべてを行うように構成してもよい。
図6の実施形態において、映像デコーダ300は、エントロピー復号部301、動き補償部302、イントラ予測部303、逆量子化部304、逆変換部305、および再構成部306、並びにバッファ307を含む。映像デコーダ300は、いくつかの例では、映像エンコーダ200(図5)に関して説明した符号化パスとほぼ逆の復号パスを行ってもよい。
エントロピー復号部301は、符号化されたビットストリームを取り出す。符号化されたビットストリームは、エントロピー符号化された映像データ(例えば、映像データの符号化されたブロック)を含んでもよい。エントロピー復号部301は、エントロピー符号化された映像データを復号し、エントロピー復号された映像データから、動き補償部302は、動きベクトル、動きベクトル精度、参照ピクチャリストインデックス、および他の動き情報を含む動き情報を決定してもよい。動き補償部302は、例えば、AMVPおよびマージモードを行うことで、このような情報を判定してもよい。
動き補償部302は、動き補償されたブロックを生成してもよく、場合によっては、補間フィルタに基づいて補間を行う。構文要素には、サブピクセルの精度で使用される補間フィルタに対する識別子が含まれてもよい。
動き補償部302は、映像ブロックの符号化中に映像エンコーダ20によって使用されるような補間フィルタを使用して、参照ブロックのサブ整数ピクセルのための補間値を計算してもよい。動き補償部302は、受信した構文情報に基づいて、映像エンコーダ200が使用する補間フィルタを決定し、補間フィルタを使用して予測ブロックを生成してもよい。
動き補償部302は、符号化された映像シーケンスのフレームおよび/またはスライスを符号化するために使用されるブロックのサイズを判定するための構文情報、符号化された映像シーケンスのピクチャの各マクロブロックがどのように分割されるかを記述する分割情報、各分割がどのように符号化されるかを示すモード、各インター符号化されたブロックに対する1つ以上の参照フレーム(および参照フレームリスト)、および符号化された映像シーケンスを復号するための他の情報のうちのいくつかを使用してもよい。
イントラ予測部303は、例えば、ビットストリームにおいて受信したイントラ予測モードを使用して、空間的に隣接するブロックから予測ブロックを形成してもよい。逆量子化部303は、ビットストリームに提供され、エントロピー復号部301によって復号された量子化された映像ブロック係数を逆量子化(すなわち、逆量子化)する。逆変換部303は、逆変換を適用する。
再構成部306は、残差ブロックと、動き補償部202またはイントラ予測部303によって生成された対応する予測ブロックとを合計し、復号されたブロックを形成してもよい。所望であれば、ブロックアーチファクトを除去するために、復号されたブロックをフィルタリングするためにデブロッキングフィルタを適用してもよい。復号された映像ブロックは、バッファ307に記憶され、バッファ307は、後続の動き補償/イントラ予測のために参照ブロックを提供し、表示デバイスに表示するためにデコードされた映像を生成する。
次に、いくつかの実施形態において好適な解決策を列挙する。
第1の解決策のセットを次に提供する。以下の解決策は、前章(例えば、項目1~9)で論じた技術の例示的な実施形態を示す。
1.映像処理方法(例えば、図3の方法600)であって、1つ以上の映像ピクチャを含む1つ以上の映像レイヤを含む映像と映像のコーディングされた表現との間で変換を行うこと(602)を含み、コーディングされた表現はコーディングされた表現からのサブビットストリームの抽出に関するフォーマット規則に準拠する。
2.フォーマット規則に従って、コーディングされた表現からサブビットストリームを抽出することをさらに含む、解決策1に記載の方法。
以下の解決策は、前章(例えば、項目1)で論じた技術の例示的な実施形態を示す。
3.サブビットストリームを抽出する間に、抽出することに使用されるターゲットのidは、0から、コーディングされた表現のための映像パラメータセットで示す構文フィールドの値の間の範囲となるように許可される、解決策1から2のいずれかに記載の方法。
以下の解決策は、前章(例えば、項目2)で論じた技術の例示的な実施形態を示す。
4.レイヤidに従って、出力ビットストリームからアクセス部区切り文字ネットワーク抽象レイヤ(AUD NAL)を削除せずに、サブビットストリームを抽出する、解決策1から3のいずれかに記載の方法。
以下の解決策は、前章(例えば、項目3)で論じた技術の例示的な実施形態を示す。
5.抽出される出力レイヤに適用できないスケーラブルネスト化補足拡張情報メッセージを含むネットワーク抽象レイヤ部を選択的に削除することによって、サブビットストリームを抽出する、解決策1から4のいずれかに記載の方法。
以下の解決策は、前章(例えば、項目5)で論じた技術の例示的な実施形態を示す。
6.設定されている出力レイヤセットのためのフラグ、および、無効にされているサブピクチャのためのフラグを使用して、スケーラブルネスト化SEIメッセージからスケーラブルネスト化されていない補足拡張情報(SEI)を生成するために抽出化することを制約することによって、サブビットストリームを抽出する、解決策1から5のいずれかに記載の方法。
以下の解決策は、前章(例えば、項目6)で論じた技術の例示的な実施形態を示す。
7.単一のSEIネットワーク抽象レイヤ部からの複数のスケーラブルネスト化された補足拡張情報メッセージの抽出を規定する規則に従って、サブビットストリームは抽出される、解決策1から6のいずれかに記載の方法。
以下の解決策は、前章(例えば、項目7)で論じた技術の例示的な実施形態を示す。
8.いくつかのSEIメッセージが抽出され、スケーラブルネスト化されていないSEIメッセージとして含まれるすべての補足拡張情報ネットワーク抽象レイヤSEI NAL部をコーディングされた表現から削除する規則に従って、サブビットストリームは抽出される、解決策1から7のいずれかに記載の方法。
以下の解決策は、前章(例えば、項目8~13)で論じた技術の例示的な実施形態を示す。
10.映像処理映像と該映像のコーディングされた表現との変換を行うことを含み、該コーディングされた表現は、1つ以上のサブビットストリームを含み、該変換は、サブビットストリーム抽出処理と該コーディングされた表現の1つ以上の構文要素との関係を規定する規則に従って行われる、映像処理方法。
11.前記規則は、(1)NAL部のタイプが特定のタイプであるか、または(2)映像のコーディングされたレイヤの時間的識別子が特定の条件を満たす、という2つの条件のうちの1つ以上が真である場合に、映像のコーディングされたレイヤが除去されるピクチャまたはサブピクチャに適用されるSEIメッセージを含むすべての補足拡張情報(SEI)ネットワーク抽象レイヤ部(NAL)を除去することを規定する、解決策10に記載の方法。
12.前記規則は、ターゲットの出力レイヤにおけるレイヤ識別子がコーディングされた表現におけるレイヤ識別子のすべての値を含まない場合、この処理は、payloadTypeが203に等しいスケーラブルネスト化されていないSEIメッセージを含むすべてのSEI NAL部をさらに削除することを規定する、解決策10~11のいずれかに記載の方法。
13.変換を実行することは、映像をコーディングされた表現に符号化することを含む、解決策1から12のいずれか1つに記載の方法。
14.変換を行うことは、コーディングされた表現を構文解析し、復号して映像を生成することを含む、解決策1~12のいずれかに記載の方法。
15.解決策1~14の1つ以上に記載の方法を実装するように構成された処理装置を備える、映像復号装置。
16.解決策1~14の1つ以上に記載の方法を実装するように構成された処理装置を備える、映像符号化装置。
17.コンピュータコードが記憶されたコンピュータプログラム製品であって、前記コードは、処理装置により実行されると、前記処理装置に、解決策1~14のいずれかに記載の方法を実装させるコンピュータプログラム製品。
18.本明細書に記載の方法、装置またはシステム。
第2の解決策のセットは、前章(例えば、項目10および11)で論じた技術の例示的な実施形態を示す。
1. 映像データの処理方法(例えば、図7Aに示す方法700)であって、この方法は、映像とこの映像のビットストリームとの間で変換を行うこと702を含み、このビットストリームは、規則に従って、複数の映像レイヤに対するネットワーク抽象レイヤ(NAL)部を含み、この規則は、ビットストリームからNAL部を取り除き、出力ビットストリームを生成するサブビットストリーム抽出処理を定義し、この規則は、サブビットストリーム抽出処理に入力されるビットストリーム中のすべての映像コーディングレイヤ(VCL)NAL部のNAL部ヘッダレイヤ識別子のすべての値を含まないターゲットのOLSインデックスを有する出力レイヤセット(OLS)のNAL部ヘッダレイヤ識別子のリストに応じて、特定のペイロードタイプによるスケーラブルネスト化されていないSEIメッセージを含むすべての補足拡張情報(SEI)NAL部を削除することを規定する、方法。
2.前記特定のペイロードタイプを有する前記スケーラブルネスト化されていないSEIメッセージは、サブピクチャレベル情報SEIメッセージに対応する、解決策1に記載の方法。
3.特定のペイロードタイプは203に等しい、解決策1に記載の方法。
4.前記特定のペイロードタイプを有する前記スケーラブルネスト化されていないSEIメッセージは、復号部情報メッセージに対応する、解決策1に記載の方法。
5.特定のペイロードタイプは130に等しい、解決策1に記載の方法。
6.映像データの処理方法(例えば、図7Bに示す方法710)であって、この方法は、映像とこの映像のビットストリームとの変換を行うことを含み、このビットストリームは、出力ビットストリームを生成するためのサブビットストリーム抽出処理を規定する規則に従って1つ以上のサブビットストリームに分離可能であり、この規則は、映像コーディングレイヤ(VCL)ネットワーク抽象レイヤ(NAL)部のタイプおよびVCL NAL部に関連付けられた映像コーディングレイヤの時間的識別子に基づいて、サブビットストリーム抽出処理中にVCL NAL部が削除されるピクチャまたはサブピクチャに適用されるSEIメッセージを含むすべての補足拡張情報(SEI)ネットワーク抽象レイヤ(NAL)部を削除するかどうか、または、どのように削除するかを規定する、方法。
7.前記規則は、(1)TRAIL_NUT、STSA_NUT、RADL_NUT、またはRASL_NUT、またはGDR_NUTに等しいVCL NAL部のタイプ、および(2)映像コーディングレイヤの時間的識別子が、出力レイヤセットの映像コーディングレイヤにおけるサブレイヤの数以上であることに応じて、すべてのSEI NAL部を削除することを規定する、解決策6に記載の方法。
8.前記VCL NAL部のタイプがGDR_NUTに等しい場合、出力順に復号ピクチャのリカバリポイントを示す構文フィールドの値が0よりも大きい、解決策7に記載の方法。
9.前記規則は、前記出力ビットストリーム内にSEI NAL部を保持することを規定する、解決策6に記載の方法。
10.変換は、映像をビットストリームにエンコーディングすることを含む、解決策1~9のいずれかに記載の方法。
11.変換は、ビットストリームから映像をデコーディングすることを含む、解決策1~9のいずれかに記載の方法。
12.変換は、映像からビットストリームを生成することを含み、方法は、ビットストリームを非一時的なコンピュータ可読記録媒体に記憶することをさらに含む、解決策1~9のいずれかに記載の方法。
13.解決策1~12のいずれか1つ以上に記載の方法を実装するように構成された処理装置を備える映像処理装置。
14.解決策1~12のいずれか1つに記載の方法と、ビットストリームを非一時的なコンピュータ可読記録媒体に記憶することをさらに含む、映像のビットストリームを記憶する方法。
15.実行されると、解決策1~12のいずれか1つ以上に記載の方法を処理装置に実装させるプログラムコードを記憶したコンピュータ可読媒体。
16.上述した方法のいずれかに従って生成されたコーディング表現またはビットストリームを記憶する、コンピュータ可読媒体。
17.解決策1~12のいずれか1つ以上に記載の方法を実装するように構成された、ビットストリームを記憶するための映像処理装置。
第3の解決策のセットは、前章(例えば、項目12および13)で論じた技術の例示的な実施形態を示す。
1.映像データの処理方法(例えば、図8に示す方法800)であって、この方法は、規則に従って、映像とこの映像のビットストリームとの変換を行うこと802を含み、前記ビットストリームは、規則に従って、複数の映像レイヤに対するネットワーク抽象レイヤ(NAL)部を含み、前記規則は、出力レイヤセット(OLS)を含む出力ビットストリームを生成するためのサブビットストリーム抽出処理が、条件(1)前記OLSのNAL部ヘッダレイヤ識別子の値のリストが、前記ビットストリームのすべての映像コーディングレイヤ(VCL)NAL部のNAL部ヘッダレイヤ識別子のすべての値を含まない、および、条件(2)前記出力ビットストリームは、スケーラブルネスト化SEIメッセージを含む補足拡張情報(SEI)NAL部を含む、に応じて、選択的に行われる1つ以上の動作を含むことを定義する。
2.前記スケーラブルネスト化SEIメッセージは、前記出力ビットストリームと同じレイヤセットを有する特定のOLSまたは特定のレイヤに適用される特定の値に等しい第1のフラグに関連付けられる、解決策1に記載の方法。
3.前記第1のフラグが0に等しいことは、特定のOLSまたは特定のレイヤに適用されるスケーラブルネスト化されたSEIメッセージが、特定のOLSまたは特定のレイヤのすべてのサブピクチャに適用されることを規定する、解決策2に記載の方法。
4.前記スケーラブルネスト化SEIメッセージは、前記スケーラブルネスト化SEIメッセージが特定のOLSまたは特定のレイヤに適用されるかどうかを示す第2のフラグに関連付けられる、解決策1に記載の方法。
5.前記1つ以上の動作は、追加のSEI NAL部を生成することを含む、解決策1~4のいずれかに記載の方法。
6.前記1つ以上の操作は、SEI NAL部を含むピクチャ部に追加のSEI NAL部を含めることを含む、解決策5に記載の方法。
7.追加のSEI NAL部はSEI NAL部の直後にある、解決策6に記載の方法。
8.前記1つ以上の動作は、前記スケーラブルネスト化SEIメッセージからスケーラブルネスト化されたSEIメッセージを抽出することと、前記スケーラブルネスト化されたSEIメッセージを前記追加のSEI NAL部に含めることと、をさらに含む、解決策6のいずれかに記載の方法。
9.前記1つ以上の動作は、前記出力ビットストリームから前記SEI NAL部を削除することを含む、解決策1に記載の方法。
10.前記1つ以上の動作は、前記出力ビットストリームに前記SEI NAL部を維持することを含む、解決策1に記載の方法。
11.変換は、映像をビットストリームにエンコーディングすることを含む、解決策1~10のいずれかに記載の方法。
12.変換は、ビットストリームから映像をデコーディングすることを含む、解決策1~10のいずれかに記載の方法。
13.変換は、映像からビットストリームを生成することを含み、方法は、ビットストリームを非一時的なコンピュータ可読記録媒体に記憶することをさらに含む、解決策1~10のいずれかに記載の方法。
14.解決策1~13のいずれか1つ以上に記載の方法を実装するように構成された処理装置を備える映像処理装置。
15.解決策1~13のいずれか1つに記載の方法と、ビットストリームを非一時的なコンピュータ可読記録媒体に記憶することをさらに含む、映像のビットストリームを記憶する方法。
16.実行されると、解決策1~13のいずれか1つ以上に記載の方法を処理装置に実装させるプログラムコードを記憶するコンピュータ可読媒体。
17.上述した方法のいずれかに従って生成されたビットストリームを記憶する、コンピュータ可読媒体。
18.解決策1~13のいずれか1つ以上に記載の方法を実装するように構成された、ビットストリームを記憶するための映像処理装置。
本明細書に記載された開示された、およびその他の解決策、実施例、実施形態、モジュール、および機能動作の実装形態は、本明細書に開示された構造およびその構造的等価物を含め、デジタル電子回路、またはコンピュータソフトウェア、ファームウェア、若しくはハードウェアで実施されてもよく、またはそれらの1つ以上の組み合わせで実施してもよい。開示された、およびその他の実施形態は、1または複数のコンピュータプログラム製品、すなわち、データ処理装置によって実装されるため、またはデータ処理装置の動作を制御するために、コンピュータ可読媒体上に符号化されたコンピュータプログラム命令の1または複数のモジュールとして実施することができる。このコンピュータ可読媒体は、機械可読記憶デバイス、機械可読記憶基板、メモリデバイス、機械可読伝播信号をもたらす物質の組成物、またはこれらの1または複数の組み合わせであってもよい。「データ処理装置」という用語は、例えば、プログラマブルプロセッサ、コンピュータ、または複数のプロセッサ、若しくはコンピュータを含む、データを処理するためのすべての装置、デバイス、および機械を含む。この装置は、ハードウェアの他に、当該コンピュータプログラムの実行環境を作るコード、例えば、プロセッサファームウェア、プロトコルスタック、データベース管理システム、オペレーティングシステム、またはこれらの1つ以上の組み合わせを構成するコードを含むことができる。伝播信号は、人工的に生成した信号、例えば、機械で生成した電気、光、または電磁信号であり、適切な受信装置に送信するための情報を符号化するために生成される。
コンピュータプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーション、スクリプト、またはコードとも呼ばれる)は、コンパイルされた言語または解釈された言語を含む任意の形式のプログラミング言語で記述することができ、また、それは、スタンドアロンプログラムとして、またはコンピューティング環境で使用するのに適したモジュール、成分、サブルーチン、または他の部として含む任意の形式で展開することができる。コンピュータプログラムは、必ずしもファイルシステムにおけるファイルに対応するとは限らない。プログラムは、他のプログラムまたはデータを保持するファイルの一部(例えば、マークアップ言語文書に格納された1または複数のスクリプト)に記録されていてもよいし、当該プログラム専用の単一のファイルに記憶されていてもよいし、複数の調整ファイル(例えば、1または複数のモジュール、サブプログラム、またはコードの一部を格納するファイル)に記憶されていてもよい。1つのコンピュータプログラムを、1つのサイトに位置する1つのコンピュータ、または複数のサイトに分散され通信ネットワークによって相互接続される複数のコンピュータで実行させるように展開することも可能である。
本明細書に記載された処理およびロジックフローは、入力データ上で動作し、出力を生成することによって機能を実行するための1つ以上のコンピュータプログラムを実行する1つ以上のプログラマブル処理装置によって行うことができる。処理およびロジックフローはまた、特定用途のロジック回路、例えば、FPGA(フィールドプログラマブルゲートアレイ)またはASIC(特定用途向け集積回路)によって行うことができ、装置はまた、特別目的のロジック回路として実装することができる。
コンピュータプログラムの実行に適した処理装置は、例えば、汎用および専用マイクロ処理装置の両方、並びに任意の種類のデジタルコンピュータの任意の1つ以上の処理装置を含む。一般的に、プロセッサは、リードオンリーメモリまたはランダムアクセスメモリまたはその両方から命令およびデータを受信する。コンピュータの本質的な要素は、命令を実行するためのプロセッサと、命令およびデータを記憶するための1つ以上の記憶装置とである。一般的に、コンピュータは、データを記憶するための1または複数の大容量記憶デバイス、例えば、磁気、光磁気ディスク、または光ディスクを含んでもよく、またはこれらの大容量記憶デバイスからデータを受信するか、またはこれらにデータを転送するように動作可能に結合されてもよい。しかしながら、コンピュータは、このようなデバイスを有する必要はない。コンピュータプログラム命令およびデータを記憶するのに適したコンピュータ可読媒体は、あらゆる形式の不揮発性メモリ、媒体、およびメモリデバイスを含み、例えば、EPROM、EEPROM、フラッシュ記憶装置、磁気ディスク、例えば内部ハードディスクまたはリムーバブルディスク、光磁気ディスク、およびCD-ROMおよびDVD-ROMディスク等の半導体記憶装置を含む。処理装置およびメモリは、特定用途のロジック回路によって補完されてもよく、または特定用途のロジック回路に組み込まれてもよい。
本特許明細書は多くの詳細を含むが、これらは、任意の主題の範囲または特許請求の範囲を限定するものと解釈されるべきではなく、むしろ、特定の技術の特定の実施形態に特有であり得る特徴の説明と解釈されるべきである。本特許文献において別個の実施形態のコンテキストで説明されている特定の特徴は、1つの例において組み合わせて実装してもよい。逆に、1つの例のコンテキストで説明された様々な特徴は、複数の実施形態において別個にまたは任意の適切なサブコンビネーションで実装してもよい。さらに、特徴は、特定の組み合わせで作用するものとして上記に記載され、最初にそのように主張されていてもよいが、主張された組み合わせからの1つ以上の特徴は、場合によっては、組み合わせから抜粋されることができ、主張された組み合わせは、サブコンビネーションまたはサブコンビネーションのバリエーションに向けられてもよい。
同様に、動作は図面において特定の順番で示されているが、これは、所望の結果を達成するために、このような動作が示された特定の順番でまたは連続した順番で行われること、または示されたすべての動作が行われることを必要とするものと理解されるべきではない。また、本特許明細書に記載されている例における様々なシステムの構成要素の分離は、すべての実施形態においてこのような分離を必要とするものと理解されるべきではない。
いくつかの実装形態および例のみが記載されており、この特許文献に記載され図示されているコンテンツに基づいて、他の実施形態、拡張および変形が可能である。
関連出願の相互参照
願は、2020年6月9日出願の米国特許仮出願第63/036865号の優先権および利益を主張する2021年6月8日出願の国際特許出願第PCT/US2021/036473号に基づく。上記出願の開示全体は、本明細書の開示として参照によりここに援用される。

Claims (18)

  1. 映像データの処理方法であって、
    規則に従って、映像と前記映像のビットストリームとの間で変換を行うこと、を含み、
    前記ビットストリームは、規則に従って、複数の映像レイヤに対するネットワーク抽象レイヤ(NAL)部を含み、
    前記規則は、出力レイヤセット(OLS)を含む出力ビットストリームを生成するためのサブビットストリーム抽出処理が、条件(1)前記OLSのNAL部ヘッダレイヤ識別子の値のリストが、前記ビットストリームのすべての映像コーディングレイヤ(VCL)NAL部のNAL部ヘッダレイヤ識別子のすべての値を含まない、および、条件(2)前記出力ビットストリームは、スケーラブルネスト化SEIメッセージを含む補足拡張情報(SEI)NAL部を含む、に応じて、選択的に行われる1つ以上の動作を含むことを定義する、
    映像データの処理方法。
  2. 前記スケーラブルネスト化SEIメッセージは、前記出力ビットストリームと同じレイヤのセットを有する特定のOLSまたは特定のレイヤに適用される特定の値に等しい第1のフラグに関連付けられる、
    請求項1に記載の方法。
  3. 前記第1のフラグが0に等しいことは、前記特定のOLSまたは前記特定のレイヤに適用されるスケーラブルネスト化されたSEIメッセージが、前記特定のOLSまたは前記特定のレイヤのすべてのサブピクチャに適用されることを規定する、
    請求項2に記載の方法。
  4. 前記スケーラブルネスト化SEIメッセージは、前記スケーラブルネスト化SEIメッセージが特定のOLSまたは特定のレイヤに適用されるかどうかを示す第2のフラグに関連付けられる、
    請求項1に記載の方法。
  5. 前記1つ以上の動作は、追加のSEI NAL部を生成することを含む、
    請求項1~4のうちいずれかに記載の方法。
  6. 前記1つ以上の動作は、前記SEI NAL部を含むピクチャ部に前記追加のSEI NAL部を含めることを含む、
    請求項5に記載の方法。
  7. 前記追加のSEI NAL部は、前記SEI NAL部の直後にある、
    請求項6に記載の方法。
  8. 前記1つ以上の動作は、前記スケーラブルネスト化SEIメッセージからスケーラブルネスト化されたSEIメッセージを抽出することと、前記スケーラブルネスト化されたSEIメッセージを前記追加のSEI NAL部に含めることと、をさらに含む、
    請求項6のいずれかに記載の方法。
  9. 前記1つ以上の動作は、前記出力ビットストリームから前記SEI NAL部を削除することを含む、請求項1に記載の方法。
  10. 前記1つ以上の動作は、前記出力ビットストリームに前記SEI NAL部を保持することを含む、請求項1に記載の方法。
  11. 前記変換は、前記映像を前記ビットストリームにエンコーディングすることを含む、請求項1から請求項10のいずれか1項に記載の方法。
  12. 前記変換は、前記ビットストリームから前記映像をデコーディングすることを含む、請求項1から請求項10のいずれか1項に記載の方法。
  13. 前記変換は、前記映像から前記ビットストリームを生成することを含み、前記方法は、前記ビットストリームを非一時的なコンピュータ可読記録媒体に記憶することをさらに含む、請求項1~10のいずれかに記載の方法。
  14. 請求項1~13のいずれか1項以上に記載の方法を実装するように構成された処理装置を備える映像処理装置。
  15. 請求項1~13のいずれか1項に記載の方法を含み、
    前記ビットストリームを非一時的なコンピュータ可読記録媒体に記憶することをさらに含む、
    映像のビットストリームを記憶する方法。
  16. 実行されると、請求項1~13のいずれか1つ以上に記載の方法を処理装置に実装させるプログラムコードを記憶するコンピュータ可読媒体。
  17. 上述した方法のいずれかに従って生成されたビットストリームを記憶する、コンピュータ可読媒体。
  18. 請求項1~13のいずれか1つ以上に記載の方法を実装するように構成された、ビットストリームを記憶するための映像処理装置。
JP2022573732A 2020-06-09 2021-06-08 マルチレイヤ映像ビットストリームのサブビットストリーム抽出 Pending JP2023529823A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202063036865P 2020-06-09 2020-06-09
US63/036,865 2020-06-09
PCT/US2021/036473 WO2021252533A1 (en) 2020-06-09 2021-06-08 Sub-bitstream extraction of multi-layer video bitstreams

Publications (2)

Publication Number Publication Date
JP2023529823A true JP2023529823A (ja) 2023-07-12
JPWO2021252533A5 JPWO2021252533A5 (ja) 2023-08-03

Family

ID=78845849

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022573732A Pending JP2023529823A (ja) 2020-06-09 2021-06-08 マルチレイヤ映像ビットストリームのサブビットストリーム抽出

Country Status (8)

Country Link
US (4) US20230104597A1 (ja)
EP (1) EP4150900A4 (ja)
JP (1) JP2023529823A (ja)
KR (1) KR20230020980A (ja)
CN (3) CN115769580A (ja)
BR (1) BR112022025149A2 (ja)
MX (1) MX2022015676A (ja)
WO (2) WO2021252533A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MX2022015676A (es) * 2020-06-09 2023-01-16 Bytedance Inc Extraccion de subflujo de bits de flujos de bits de video de multiples capas.

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020136298A1 (en) * 2001-01-18 2002-09-26 Chandrashekhara Anantharamu System and method for adaptive streaming of predictive coded video data
WO2007111450A1 (en) 2006-03-24 2007-10-04 Electronics And Telecommunications Research Institute Coding method of reducing interlayer redundancy using mition data of fgs layer and device thereof
US8594202B2 (en) * 2006-07-21 2013-11-26 Vidyo, Inc. Systems and methods for signaling and performing temporal level switching in scalable video coding
RU2010102823A (ru) * 2007-06-26 2011-08-10 Нокиа Корпорейшн (Fi) Система и способ индикации точек переключения временных уровней
US8542492B2 (en) * 2009-12-10 2013-09-24 Richard Anthony Dunn, JR. Scalable up and down nesting integrated electronic enclosures with form factors including asteroids and/or dumbbells and/or approximated tessellation(s)/tiling(s) or combinations thereof with thermal management, wiring, sliding fit, manual and/or automated full range vertical to horizontal positioning, access and structural systems for individual modules and intra-and inter-planar stacks, columns, rows, arrays and associated infrastructures
CN103119934B (zh) 2010-07-20 2017-02-22 诺基亚技术有限公司 一种流媒体传输装置
US9414085B2 (en) 2012-01-20 2016-08-09 Telefonaktiebolaget Lm Ericsson (Publ) Sub-bitstream extraction
RU2612577C2 (ru) 2012-07-02 2017-03-09 Нокиа Текнолоджиз Ой Способ и устройство для кодирования видеоинформации
KR102180470B1 (ko) 2012-07-06 2020-11-19 삼성전자주식회사 다계층 비디오 부호화 방법 및 장치, 다계층 비디오 복호화 방법 및 장치
US9967583B2 (en) * 2012-07-10 2018-05-08 Qualcomm Incorporated Coding timing information for video coding
US9654802B2 (en) * 2012-09-24 2017-05-16 Qualcomm Incorporated Sequence level flag for sub-picture level coded picture buffer parameters
US9154785B2 (en) 2012-10-08 2015-10-06 Qualcomm Incorporated Sub-bitstream applicability to nested SEI messages in video coding
US9521393B2 (en) * 2013-01-07 2016-12-13 Qualcomm Incorporated Non-nested SEI messages in video coding
US9591321B2 (en) * 2013-04-07 2017-03-07 Dolby International Ab Signaling change in output layer sets
MY178305A (en) * 2013-10-11 2020-10-07 Vid Scale Inc High level syntax for hevc extensions
EP3058735B1 (en) 2013-10-14 2019-05-08 Nokia Technologies Oy Multi-layer hypothetical reference decoder
WO2015056179A1 (en) 2013-10-15 2015-04-23 Nokia Technologies Oy Video encoding and decoding using syntax element
JP2017510117A (ja) * 2014-01-02 2017-04-06 ヴィド スケール インコーポレイテッド Hevc拡張のサブビットストリーム抽出プロセス
JP6465863B2 (ja) 2014-03-14 2019-02-06 シャープ株式会社 画像復号装置、画像復号方法及び記録媒体
US10178397B2 (en) * 2014-03-24 2019-01-08 Qualcomm Incorporated Generic use of HEVC SEI messages for multi-layer codecs
US9769492B2 (en) * 2014-06-06 2017-09-19 Qualcomm Incorporated Conformance parameters for bitstream partitions
US10432951B2 (en) 2014-06-24 2019-10-01 Qualcomm Incorporated Conformance and inoperability improvements in multi-layer video coding
US10764575B2 (en) 2017-03-03 2020-09-01 Qualcomm Incorporated Coding MCTS-nested SEI messages to exclude other SEI messages that are not MCTS-nested
CN113170116A (zh) * 2018-11-22 2021-07-23 北京字节跳动网络技术有限公司 为帧内模式视频处理使用参考行
JP7419507B2 (ja) * 2019-09-24 2024-01-22 ホアウェイ・テクノロジーズ・カンパニー・リミテッド Olsのためのスケーラブルネスティングseiメッセージ
JP2022548330A (ja) * 2019-09-24 2022-11-17 ホアウェイ・テクノロジーズ・カンパニー・リミテッド レイヤベースのパラメータセットnalユニット制約
WO2021022263A1 (en) * 2019-09-24 2021-02-04 Futurewei Technologies, Inc. Scalable nesting sei messages for all layers
US11356681B2 (en) * 2019-12-27 2022-06-07 Tencent America LLC Coded video sub-bitstream extraction
US11470357B2 (en) 2020-04-03 2022-10-11 Sharp Kabushiki Kaisha Systems and methods for signaling decoding capability information in video coding
JP2023522115A (ja) 2020-04-19 2023-05-26 北京字節跳動網絡技術有限公司 変換スキップ残差コーディング
CN115668931A (zh) * 2020-05-22 2023-01-31 字节跳动有限公司 生成一致性输出子比特流的技术
KR20230101942A (ko) * 2020-05-22 2023-07-06 지이 비디오 컴프레션, 엘엘씨 비디오 인코더, 비디오 디코더, 인코딩 및 디코딩을위한 방법 및 고급 비디오 코딩 개념을 실현하기 위한 비디오 데이터 스트림
WO2021252545A1 (en) * 2020-06-09 2021-12-16 Bytedance Inc. Signaling constraints in non-scalable nested video syntax elements
MX2022015676A (es) * 2020-06-09 2023-01-16 Bytedance Inc Extraccion de subflujo de bits de flujos de bits de video de multiples capas.
JP2023542213A (ja) * 2020-09-25 2023-10-05 北京字節跳動網絡技術有限公司 映像ビットストリームにおけるネスト化及び非ネスト化seiメッセージ

Also Published As

Publication number Publication date
BR112022025149A2 (pt) 2022-12-27
CN115769570A (zh) 2023-03-07
MX2022015676A (es) 2023-01-16
US20230106638A1 (en) 2023-04-06
WO2021252533A1 (en) 2021-12-16
US11856215B2 (en) 2023-12-26
CN117528004A (zh) 2024-02-06
WO2021252531A1 (en) 2021-12-16
KR20230020980A (ko) 2023-02-13
EP4150900A4 (en) 2023-11-08
EP4150900A1 (en) 2023-03-22
US20240107048A1 (en) 2024-03-28
US20240121417A1 (en) 2024-04-11
US20230104597A1 (en) 2023-04-06
CN115769580A (zh) 2023-03-07

Similar Documents

Publication Publication Date Title
JP2023526374A (ja) サブピクチャサブビットストリーム抽出の改良
JP2023518440A (ja) 参照ピクチャリサンプリング
US20240048736A1 (en) Techniques For Generation Of A Conformant Output Sub-Bitstream
JP2023529972A (ja) コーディングされた映像における量子化情報の信号通知
JP2023526372A (ja) 映像コーディングにおけるスケーリングウィンドウ
JP2023529451A (ja) 非スケーラブルネスト化ビデオシンタックス要素におけるシグナリング制約
US20230104597A1 (en) Handling different nal types in video sub-bitstream extraction
JP2023529430A (ja) 映像ビットストリームにおけるサブレイヤ信号通知
CN115699731A (zh) 参考图片重采样
JP2023526807A (ja) サブレイヤ数制限
JP2023529423A (ja) 映像コーディングにおけるサブピクチャレベル情報の信号通知
JP2023526657A (ja) コーディングされた映像におけるnalユニットの順序
JP2023519402A (ja) 変換スキップモードにおける係数コーディング

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230116

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230726

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240520