JP2022510325A - 符号化ビデオストリームを復号するための方法、システム、及びコンピュータプログラム - Google Patents

符号化ビデオストリームを復号するための方法、システム、及びコンピュータプログラム Download PDF

Info

Publication number
JP2022510325A
JP2022510325A JP2021531271A JP2021531271A JP2022510325A JP 2022510325 A JP2022510325 A JP 2022510325A JP 2021531271 A JP2021531271 A JP 2021531271A JP 2021531271 A JP2021531271 A JP 2021531271A JP 2022510325 A JP2022510325 A JP 2022510325A
Authority
JP
Japan
Prior art keywords
tile
tile group
video stream
picture
coded video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021531271A
Other languages
English (en)
Inventor
チョイ,ビョンドゥ
リィウ,シャン
Original Assignee
テンセント・アメリカ・エルエルシー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テンセント・アメリカ・エルエルシー filed Critical テンセント・アメリカ・エルエルシー
Publication of JP2022510325A publication Critical patent/JP2022510325A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

ビデオストリームを復号する方法及びシステムが提供され、当該方法は、複数のタイルグループへと分割されたピクチャを有する符号化ビデオストリームを受信するステップであり、前記複数のタイルグループの各々が、少なくとも1つのタイルを含み、前記符号化ビデオストリームは更に、前記複数のタイルグループのうちのあるタイルグループが矩形形状を持つかを指し示す第1のインジケータを含む、ステップと、前記第1のインジケータに基づいて、前記ピクチャの前記タイルグループが矩形形状を持つかを特定するステップと、前記タイルグループを再構築する、転送する、又は破棄するステップと、を有する。

Description

この出願は、2019年1月22日に出願された米国仮出願第62/795,526号、及び2020年1月17日に出願された米国出願第16/745,824号からの優先権を主張するものであり、それらの開示をそれらの全体にてここに援用する。
開示に係る事項は、映像の符号化及び復号に関し、より具体的には、符号化された映像のピクチャに関するタイル及びタイルグループ構造の信号伝達及び特定のための技術に関する。
動き補償を用いるインターピクチャ予測を使用した映像符号化及び復号が以前から使われている。圧縮されていないデジタル映像は一連のピクチャを含み、各ピクチャが、例えば、1920×1080の輝度(ルミナンス)サンプル及び関連する色(クロミナンス)サンプルの空間寸法を持つ。一連のピクチャは、固定又は可変のピクチャレート(非公式にはフレームレートとしても知られる)を持つことができ、例えば、毎秒60ピクチャ、すなわち、60Hzのピクチャレートを持ち得る。圧縮されていない映像は、かなりのビットレート要求を持つ。例えば、サンプル当たり8ビットの1080p60 4:2:0映像(60Hzのフレームレートで1920×1080のルミナンスサンプル解像度)は、1.5Gbit/sに近い帯域幅を必要とする。1時間のこのような映像は、600Gバイトを超えるストレージ空間を必要とする。
映像の符号化及び復号の1つの目的は、圧縮を通じての入力映像信号の冗長性の低減であるとし得る。圧縮は、前述の帯域幅要求又はストレージ空間要求を、場合によって2桁以上の大きさで、低減させる助けとなることができる。可逆圧縮及び不可逆圧縮の双方、並びにこれらの組み合わせを使用することができる。可逆圧縮は、原信号の正確な複製を圧縮された原信号から再構成することができる技術を指す。不可逆圧縮を使用する場合、再構成された信号は、原信号と同じにならないことがあるが、原信号と再構成信号との間の歪みは、再構成信号を意図した用途に有用にするのに十分な小ささとなり得る。映像の場合、不可逆圧縮が広く用いられる。許容される歪みの量は用途に依存し、例えば、特定の消費者ストリーミングアプリケーションのユーザは、テレビジョン寄与アプリケーションのユーザよりも高い歪みを許容し得る。達成可能な圧縮比はそれを反映し、より高い許容/我慢できる歪みは、より高い圧縮比をもたらすことができる。
ビデオエンコーダ及びデコーダは、例えば、動き補償、変換、量子化、及びエントロピー符号化を含む幾つかの広範なカテゴリからの技術を利用することができ、それらの一部を以下にて紹介する。
符号化ビデオビットストリームをパケットネットワーク上での輸送のための複数のパケットに分割するという概念は、以前から使用されている。早くには、映像符号化標準及び技術は、その大多数において、ビット指向の輸送及び境界が明確なビットストリームに合わせて最適化されていた。パケット化は、例えば、リアルタイムトランスポートプロトコル(RTP)ペイロードフォーマットで規定されるシステム層インタフェースで行われていた。インターネット上での映像の大量使用に適したインターネット接続の出現により、映像符号化標準は、映像符号化層(video coding layer;VCL)及びネットワーク抽象化層(network abstraction layer;NAL)の概念的な区別を通して、その優れた使用事例を反映してきた。NALユニットは、2003年にH.264で導入され、それ以来、僅かな修正のみで、ある特定の映像符号化標準及び技術で維持されてきた。
NALユニットは、多くの場合、符号化映像シーケンスの全ての先行NALユニットを必ずしも復号済みである必要なくデコーダが作用することができる最小エンティティとして見ることができる。NALユニットは、ある特定のエラー回復技術及びある特定のビットストリーム操作技術が、例えば選択的転送ユニット(Selective Forwarding Unit;SFU)又は多地点制御ユニット(Multipoint Control Unit;MCU)などのメディアアウェアネットワーク要素(Media Aware Network Element;MANE)により、ビットストリーム剪定を含むことを可能にする。
図5A-5Bは、どちらの場合もそれぞれの拡張なしでのH.264(501)及びH.265(502)に従ったNALユニットヘッダの構文の一部の構文図を示している。どちらの場合も、forbidden_zero_bitは、特定のシステム層環境で開始コードエミュレーション防止のために使用されるゼロビットである。nal_unit_type構文要素は、NALユニットが運ぶデータのタイプを指し、それは例えば、特定のスライスタイプ、パラメータセットタイプ、補足強化情報(Supplementary Enhancement Information;SEI)メッセージなどのうちの1つである。H.265のNALユニットヘッダは更に、nuh_layer_id及びnuh_temporal_id_plus1を含み、これらは、NALユニットが属する符号化ピクチャの空間/SNR及び時間層を指し示す。
気付き得ることには、NALユニットヘッダは、例えば他のNALユニットヘッダやパラメータセットなどの、ビットストリーム内の他のデータへの構文解析依存性を持たない、容易に構文解析可能な固定長のコードワードのみを含む。NALユニットヘッダはNALユニットの最初のオクテットであるので、MANEは容易にそれらを抽出し、それらを構文解析し、そして、それらに作用することができる。例えばスライス又はタイルヘッダといった、他のハイレベル構文要素は、対照的に、さほど容易にMANEにアクセス可能でない。何故なら、それらは、パラメータセットコンテキスト及び/又は可変長若しくは算術符号化コードポイントの処理を維持することを必要とし得るからである。
更に気付き得ることには、図5A-Bに示すNALユニットヘッダは、符号化ピクチャの空間領域を表すビットストリームの、例えばスライス、タイル、又は同様の部分などの、符号化ピクチャのセグメントにNALユニットを関連付けることができる情報を含んでいない。関連技術において、そのような情報は、マクロブロック又はCUアドレスの形態で特定のケースにおいて、スライスヘッダ内に存在する。そのアドレスは、一部のケースにおいて、ピクチャの左上から数えるときにスキャン順でn番目のマクロブロック/CUで、セグメント、スライス、タイルが始まることを示す整数nである。従って、nは、ピクチャサイズ及びマクロブロック/CUサイズの双方に依存することができ、そちらの場合にも16×16サンプルのマクロブロック/CUサイズを仮定すると、小さいピクチャサイズで小さくなることもあれば(バイナリコードで8ビットに収められる)、大きくなることもある(例えば、32400であり、バイナリコードで16ビットを要する)。
以前は、最大転送ユニット(Maximum Transfer Unit)サイズ制約に合致するビットストリーム分割、及び並列化を容易にするために、大抵は例えばタイル又はスライスなどのピクチャセグメントが使用されていた。どちらの場合も、メディアアウェアネットワーク要素(MANE)、選択的転送ユニット(SFU)又は類似の装置におけるタイル又はスライスの特定は、通常、必要なく、デコーダは、パラメータセットの復号から得られる状態と共に、比較的複雑なスライスヘッダ及び/又は類似の情報から関連情報を得ることができる。
しかしながら、より最近になって、例えば、数あるアプリケーションの中でもとりわけ、合成された360投影において特定のビューを表すCUを集めるなどの目的で、ピクチャセグメント及び特にタイル(及びスキャン順、碁盤目の順序、又は他の好適順序でのタイルの集合であるタイルグループ)が使用されている。これらのアプリケーションの一部において、MANE及びSFUは、アプリケーションに必要とされない場合に、符号化されたピクチャから特定のタイル又は他のセグメントを有利に除去することができる。例えば、立方体投影が使用されるとき、外側の視点からのシーンをレンダリングすることは、6つの立方体表面のうち最大で3つを必要とする。残りの最小3つの表面を表すCU及びセグメントをエンドポイントに伝送することは、リソースの無駄となり得る。しかしながら、送信者がMANEに完全な表現(立方体投影の6つ全ての表面を含む)を送信し、MANEが必要なサブセットのみを潜在的な複数の受信者に転送し得るシナリオであって、必要なサブセットが受信者間で異なり得るシナリオでは、MANEは、受信者ごとに、異なり得る立方体表面を含む異なり得るビットストリームを仕立てることになる。そうすることは、現時においては、MANEが、複合的な可変長の符号化スライスヘッダを処理するとともに、スライスヘッダを復号するために必要とされるように、パラメータセットなどの形式で状態を保持することを必要とする。
以上のことを考えると、従来の映像符号化構文は、タイルグループ又はハイレベル構文構造における他のピクチャセグメントを特定する容易に特定可能且つ構文解析可能な構文要素を欠いている。
本開示の一部の実施形態は、前述の問題及び他の問題に対処する。
一部の実施形態において、少なくとも1つのプロセッサによって実行される方法が提供される。当該方法は、複数のタイルグループへと分割されたピクチャを有する符号化ビデオストリームを受信するステップであり、前記複数のタイルグループの各々が、少なくとも1つのタイルを含み、前記符号化ビデオストリームは更に、前記複数のタイルグループのうちのあるタイルグループが矩形形状を持つかを指し示す第1のインジケータを含む、ステップと、前記第1のインジケータに基づいて、前記ピクチャの前記タイルグループが矩形形状を持つかを特定するステップと、前記タイルグループを再構築する、転送する、又は破棄するステップと、を有する。
一実施形態において、前記第1のインジケータはフラグである。一実施形態において、該フラグは、前記符号化ビデオストリームのパラメータセット内で提供される。一実施形態において、該パラメータセットはピクチャパラメータセット(“PPS”)である。
一実施形態において、受信される前記符号化ビデオストリームの前記第1のインジケータは、前記複数のタイルグループのうちの前記タイルグループが矩形形状を持つかを、前記ピクチャの前記複数のタイルグループのうちのいずれか他のタイルグループが矩形形状を持つかを指し示すことなく、指し示す。
一実施形態において、受信される前記符号化ビデオストリームの前記第1のインジケータは、前記タイルグループが矩形形状を持つことを指し示し、前記符号化ビデオストリームは更に、各々が前記タイルグループのそれぞれのコーナーを指し示す複数の構文要素を含み、当該方法は更に、前記複数の構文要素に基づいて前記タイルグループのサイズ又は位置を特定するステップを有する。一実施形態において、前記複数の構文要素は、前記符号化ビデオストリームのパラメータセット内で提供される。一実施形態において、該パラメータセットはピクチャパラメータセット(“PPS”)である。
一実施形態において、受信される前記符号化ビデオストリームは更に、複数の構文要素を含み、該複数の構文要素の各々が、前記複数のタイルグループのうちのそれぞれのタイルグループのタイルグループ識別子(ID)を指し示す。
一実施形態において、受信される前記符号化ビデオストリームは更に、パラメータセット又はタイルグループヘッダ内に、前記タイルグループに含まれるタイルの数を指し示す第2のインジケータを含み、当該方法は更に、ラスタースキャン順にタイルの数をカウントすることに基づいて、前記ピクチャ内での前記タイルグループのコーナーの位置を特定するステップを有する。
一実施形態において、受信される前記符号化ビデオストリームは更に、前記タイルグループが動き制約タイルセットであるか、又は前記タイルグループが複数の動き制約タイルを含むか、を指し示す第2のインジケータを含み、当該方法は更に、前記第2のインジケータに基づいて、前記符号化ビデオストリームの前記タイルグループが動き制約タイルセットであるか又は複数の動き制約タイルを含むかを特定するステップを有する。
一部の実施形態において、システムが提供される。当該システムは、複数のタイルグループへと分割されたピクチャを含む符号化ビデオストリームを復号するためのものであり、前記複数のタイルグループの各々が、少なくとも1つのタイルを含む。当該システムは、コンピュータプログラムコードを格納するように構成されたメモリと、前記符号化ビデオストリームを受信し、前記コンピュータプログラムコードにアクセスし、且つ前記コンピュータプログラムコードによって命令されるように動作するように構成される少なくとも1つのプロセッサと、を有し、前記コンピュータプログラムコードは、前記少なくとも1つのプロセッサに、前記複数のタイルグループのうちのあるタイルグループが矩形形状を持つかを、前記符号化ビデオストリームに含められた、前記複数のタイルグループのうちの前記タイルグループが矩形形状を持つかを指し示す第1のインジケータに基づいて、特定させるように構成された第1の特定コードと、前記少なくとも1つのプロセッサに前記タイルグループを再構築させ、転送させる、又は破棄させるように構成された実行コードと、を含む。
一実施形態において、前記第1のインジケータはフラグである。一実施形態において、該フラグは、前記符号化ビデオストリームのパラメータセット内で提供される。
一実施形態において、前記符号化ビデオストリームの前記第1のインジケータは、前記複数のタイルグループのうちの前記タイルグループが矩形形状を持つかを、前記ピクチャの前記複数のタイルグループのうちのいずれか他のタイルグループが矩形形状を持つかを指し示すことなく、指し示す。
一実施形態において、前記コンピュータプログラムコードは更に、前記少なくとも1つのプロセッサに、前記符号化ビデオストリームにて受信される複数の構文要素に基づいて、前記タイルグループのサイズ又は位置を特定させるように第2の特定コードを含み、前記複数の構文要素の各々が、前記タイルグループのそれぞれのコーナーを指し示す。
一実施形態において、前記コンピュータプログラムコードは更に、前記少なくとも1つのプロセッサに、前記符号化ビデオストリームに含められた、前記タイルグループのタイルグループ識別子(ID)を指し示す構文要素に基づいて、前記複数のタイルグループのうちの前記タイルグループを特定させるように構成された第2の特定コードを含む。
一実施形態において、前記コンピュータプログラムコードは更に、前記少なくとも1つのプロセッサに、前記符号化ビデオストリームに含められた、前記タイルグループに含まれるタイルの数を指し示す第2のインジケータに基づいて、且つ更に、ラスタースキャン順に前記タイルグループに含まれるタイルの数をカウントすることに基づいて、前記ピクチャ内での前記タイルグループのコーナーの位置を特定させるように構成された第2の特定コードを含む。
一実施形態において、前記コンピュータプログラムコードは更に、前記少なくとも1つのプロセッサに、前記符号化ビデオストリームに含められた、前記符号化ビデオストリームが動き制約タイルセットであるか又は複数の動き制約タイルを含むかを指し示す第2のインジケータに基づいて、前記符号化ビデオストリームの前記タイルグループが動き制約タイルセットであるか又は複数の動き制約タイルを含むかを特定させるように構成された第2の特定コードを含む。
一部の実施形態において、コンピュータ命令を格納した非一時的なコンピュータ読み取り可能媒体が提供される。前記コンピュータ命令は、少なくとも1つのプロセッサによって実行されるときに、該少なくとも1つのプロセッサに、各タイルグループが少なくとも1つのタイルを含んだ複数のタイルグループへと分割されたピクチャを含む符号化ビデオストリームを受信した後に、前記複数のタイルグループのうちのあるタイルグループが矩形形状を持つかを、前記符号化ビデオストリームに含められた、前記複数のタイルグループのうちの前記タイルグループが矩形形状を持つかを指し示す第1のインジケータに基づいて特定させ、且つ前記タイルグループを再構築させ、転送させる、又は破棄させる。
開示に係る事項の更なる特徴、性質、及び様々な利点が、以下の詳細な説明及び添付の図面から、よりいっそう明らかになる。
一実施形態に従った通信システムの簡略ブロック図を概略的に例示している。 一実施形態に従ったストリーミングシステムの簡略ブロック図を概略的に例示している。 一実施形態に従ったビデオデコーダ及びディスプレイの簡略ブロック図を概略的に例示している。 一実施形態に従ったビデオエンコーダ及びビデオソースの簡略ブロック図を概略的に例示している。 H.264に従ったNALユニットヘッダを概略的に例示している。 H.265に従ったNALユニットヘッダを概略的に例示している。 一実施形態のNALユニットを概略的に例示している。 一実施形態のNALユニットヘッダを概略的に例示している。 一実施形態のNALユニットヘッダを概略的に例示している。 一実施形態のNALユニットヘッダを概略的に例示している。 一実施形態に従ったタイルグループ及びタイルを含むピクチャの一例を示している。 一実施形態に従った復号のプロセスを例示している。 一実施形態のシステムを例示している。 処理のためのピクチャの一例を示している。 一実施形態に従った復号のプロセスを例示している。 実施形態を実装するのに適したコンピュータシステムの図である。
図1は、本開示の一実施形態に従った通信システム100の簡略ブロック図を例示している。システム100は、ネットワーク150を介して相互接続された少なくとも2つの端末110、120を含み得る。データの一方向伝送では、第1の端末110は、ネットワーク150を介した他方の端末120への伝送のために、ローカル位置で映像データを符号化し得る。第2の端末120は、他方の端末の符号化された映像データをネットワーク150から受信し、符号化されたデータを復号し、そして、復元された映像データを表示し得る。一方向データ伝送は、メディアサービス提供アプリケーション及びそれに類するものにおいて一般的であり得る。
図1は、例えばテレビ会議中に発生し得る符号化された映像の双方向伝送をサポートするように設けられた第2対の端末130、140を例示している。データの双方向伝送では、各端末130、140が、ローカル位置でキャプチャされた映像データを、ネットワーク150を介した他方の端末への伝送のために符号化し得る。各端末130、140はまた、他方の端末によって送信された符号化された映像データを受信することができ、符号化データを復号し、そして、復元された映像データをローカルのディスプレイ装置に表示し得る。
図1において、端末110-140は、例えば、サーバ、パーソナルコンピュータ、及びスマートフォン、及び/又は任意の他のタイプの端末とし得る。例えば、端末110-140は、ラップトップコンピュータ、タブレットコンピュータ、メディアプレーヤ、及び/又は専用のテレビ会議機器とし得る。ネットワーク150は、例えば、有線通信ネットワーク及び/又は無線通信ネットワークを含め、端末110-140間で符号化された映像データを伝達するあらゆる数のネットワークを表す。通信ネットワーク150は、回線交換チャネル及び/又はパケット交換チャネルにてデータを交換し得る。代表的なネットワークは、遠距離通信ネットワーク、ローカルエリアネットワーク、ワイドエリアネットワーク、及び/又はインターネットを含む。本説明の目的上、ネットワーク150のアーキテクチャ及びトポロジーは、以下にて説明しない限り、本開示の動作にとって重要ではないとし得る。
図2は、開示に係る事項に関するアプリケーションの一例として、ストリーミング環境におけるビデオエンコーダ及びデコーダの配置を例示している。開示に係る事項は、例えば、テレビ会議や、デジタルTVや、CD、DVD、メモリスティック及びこれらに類するものを含むデジタル媒体上での圧縮映像の格納などを含め、映像を使用可能な他の用途で使用されることもできる。
図2に例示するように、ストリーミングシステム200は、映像ソース201及びエンコーダ203を含むキャプチャサブシステム213を含み得る。ストリーミングシステム200は更に、少なくとも1つのストリーミングサーバ205及び/又は少なくとも1つのストリーミングクライアント206を含み得る。
映像ソース201は、例えば未圧縮の映像サンプルストリーム202を作り出すことができる。映像ソース201は、例えば、デジタルカメラとし得る。サンプルストリーム202は、符号化されたビデオビットストリームと比較して高いデータボリュームであることを強調するために太線として描かれており、カメラ201に結合されたエンコーダ203によって処理され得る。エンコーダ203は、更に詳細に後述される開示に係る事項の態様を使用可能にする又は実装するための、ハードウェア、ソフトウェア、又はこれらの組み合わせを含むことができる。エンコーダ203はまた、符号化されたビデオビットストリーム204を生成し得る。符号化されたビデオビットストリーム204は、未圧縮の映像サンプルストリーム202と比較して低いデータボリュームであることを強調するために細線として描かれており、後の使用のためにストリーミングサーバ205に格納されることができる。1つ以上のストリーミングクライアント206が、符号化されたビデオビットストリーム204のコピーとし得るビデオビットストリーム209を取り出すためにストリーミングサーバ205にアクセスすることができる。
実施形態において、ストリーミングサーバ205はまた、メディアアウェアネットワーク要素(MANE)として機能し得る。例えば、ストリーミングサーバ205は、複数のストリーミングクライアント206のうちの1つ以上に対して異なり得るビットストリームを仕立てるように、符号化ビデオビットストリーム204を剪定するように構成され得る。実施形態において、MANEは、ストリーミングシステム200内のストリーミングサーバ205とは別個に設けられてもよい。
ストリーミングクライアント206は、ビデオデコーダ210及びディスプレイ212を含むことができる。ビデオデコーダ210は、例えば、入ってくる符号化ビデオビットストリーム204のコピーであるビデオストリーム209を復号し、出ていく映像サンプルストリーム211を作り出すことができ、出ていく映像サンプルストリーム211が、ディスプレイ212又は他のレンダリング装置(図示せず)上でレンダリングされ得る。一部のストリーミングシステムにおいて、ビデオビットストリーム204、209は、特定の映像符号化/圧縮標準に従って符号化されることができる。そのような標準の例は、これに限られないが、ITU-T勧告H.265を含む。非公式にバーサタイルビデオコーディング(Versatile Video Coding;VVC)として知られる映像符号化標準が開発中である。本開示の実施形態は、VVCの文脈で使用されてもよい。
図3は、本開示の一実施形態に従った、ディスプレイ212に取り付けられたビデオデコーダ210の機能ブロック図の一例を示している。
ビデオデコーダ210は、チャネル312、受信器310、バッファメモリ315、エントロピーデコーダ/パーサ320、スケーラ/逆変換ユニット351、イントラ予測ユニット352、動き補償予測ユニット353、アグリゲータ355、ループフィルタユニット356、参照ピクチャメモリ357、及び現在ピクチャメモリ358を含み得る。少なくとも1つの実施形態において、ビデオデコーダ210は、集積回路、一連の集積回路、及び/又は他の電子回路を含み得る。ビデオデコーダ210はまた、部分的又は全体的に、関連するメモリを備えた1つ以上のCPU上で走るソフトウェアで具現化されてもよい。
この実施形態及び他の実施形態において、受信器310が、一度に1つの符号化映像シーケンスで、デコーダ210によって復号される1つ以上の符号化映像シーケンスを受信することができ、各符号化映像シーケンスの復号は、他の符号化映像シーケンスとは独立である。符号化映像シーケンスは、符号化された映像データを格納するストレージ装置へのハードウェア/ソフトウェアリンクとし得るものであるチャネル312から受信され得る。受信器310は、符号化映像データを、例えば符号化された音声データ及び/又は補助データストリームといった他のデータと共に受信してもよく、それらのデータは、それらそれぞれの使用エンティティ(図示せず)に転送され得る。受信器310は、符号化映像シーケンスを他のデータから分離し得る。ネットワークジッタに対抗するために、受信器310とエントロピーデコーダ/パーサ320(以下、“パーサ”)との間にバッファメモリ315が結合され得る。受信器310が、十分な帯域幅及び可制御性の格納/転送装置から又は等同期ネットワークからデータを受信しているとき、バッファ315は、使用されなくてもよく、又は小さくされることができる。例えばインターネットなどのベストエフォート型パケットネットワーク上での使用では、バッファ315が必要とされ得るとともに、比較的大きくされ、そして、適応可能なサイズのものにされ得る。
ビデオデコーダ210は、エントロピー符号化された映像シーケンスからシンボル321を再構成するためのパーサ320を含み得る。それらシンボルのカテゴリは、例えば、デコーダ210の動作を管理するために使用される情報を含むとともに、可能性として、図2に示したようにデコーダに結合され得る例えばディスプレイ212などのレンダリング装置を制御する情報を含み得る。(1つ以上の)レンダリング装置用の制御情報は、例えば、補足強化情報(Supplementary Enhancement Information;SEI)メッセージ又はビデオユーザビリティ情報(Video Usability Information;VUI)パラメータセットフラグメント(図示せず)の形態とし得る。パーサ320は、受け取った符号化映像シーケンスを構文解析/エントロピー復号し得る。符号化映像シーケンスの符号化は、映像符号化技術又は標準によることができ、可変長符号化、ハフマン符号化、文脈依存性を持つ又は持たない算術符号化などを含め、当業者に周知の原理に従うことができる。パーサ320は、符号化映像シーケンスから、グループに対応する少なくとも1つのパラメータに基づいて、ビデオデコーダにおけるピクセルのサブグループのうちの少なくとも1つに関する一組のサブグループパラメータを抽出することができる。サブグループは、グループ・オブ・ピクチャ(GOP)、ピクチャ、タイル、スライス、マクロブロック、符号化単位(CU)、ブロック、変換単位(TU)、予測単位(PU)などを含むことができる。パーサ320はまた、符号化映像シーケンス情報から、例えば変換係数、量子化パラメータ値、動きベクトルなどの情報を抽出し得る。
パーサ320は、シンボル321を生み出すよう、バッファ315から受け取った映像シーケンスにエントロピー復号/構文解析処理を実行し得る。
シンボル321の再構成には、符号化された映像ピクチャ又はその部分のタイプ及び他の要因(例えば、インターピクチャ及びイントラピクチャ、インターブロック及びイントラブロックなど)に応じて、複数の異なるユニットが関与し得る。どのユニットが関与するか、及びそれらがどのように関与するかは、パーサ320によって符号化映像シーケンスから構文解析されたサブグループ制御情報によって制御されることができる。パーサ320と後述する複数ユニットとの間でのこのようなサブグループ制御情報の流れは、明瞭さのために図示していない。
既述の機能ブロックを超えて、デコーダ210は概念的に、後述のような多数の機能ユニットに細分化されることができる。商業上の制約の下で稼働する実用的な実装において、これらのユニットのうちの多くが互いに密接にインタラクトし、少なくとも部分的に互いに統合され得る。しかしながら、開示に係る事項を説明するという目的のためには、以下の機能ユニットへの概念的な細分化が適切である。
1つのユニットは、スケーラ/逆変換ユニット351とし得る。スケーラ/逆変換ユニット351は、パーサ320からの(1つ以上の)シンボル321として、どの変換を使用すべきか、ブロックサイズ、量子化係数、量子化スケーリング行列などを含む制御情報とともに、量子化された変換係数を受け取り得る。スケーラ/逆変換ユニット351は、アグリゲータ355に入力されることが可能な、サンプル値を有するブロックを出力することができる。
場合により、スケーラ/逆変換351の出力サンプルは、イントラ符号化されたブロック、すなわち、先行して再構成されたピクチャからの予測情報を使用していないが、現在ピクチャのうち先行して再構成された部分からの予測情報を使用することができるブロック、に関係し得る。このような予測情報は、イントラピクチャ予測ユニット352によって提供されることができる。場合により、イントラピクチャ予測ユニット352は、現在ピクチャメモリ358からの現在の(部分的に再構成された)ピクチャからフェッチされた周囲の既に再構成された情報を用いて、再構成中のブロックと同じサイズ及び形状のブロックを生成する。アグリゲータ355は、場合により、サンプル毎に、イントラ予測ユニット352が生成した予測情報を、スケーラ/逆変換ユニット351によって提供される出力サンプル情報に付加する。
他の場合には、スケーラ/逆変換ユニット351の出力サンプルは、インター符号化された、動き補償された可能性のあるブロックに関係し得る。このような場合、動き補償予測ユニット353が、参照ピクチャメモリ357にアクセスして、予測に使用されるサンプルをフェッチすることができる。フェッチされたサンプルを、ブロックに関係するシンボル321に従って動き補償した後、これらのサンプルが、アグリゲータ355によって、スケーラ/逆変換ユニット351の出力(この場合、残差サンプル又は残差信号と呼ばれる)に付加されて、出力サンプル情報を生成することができる。そこから動き補償予測ユニット353が予測サンプルをフェッチする参照ピクチャメモリ357内のアドレスは、動きベクトルによって制御されることができる。動きベクトルは、例えばX、Y、及び参照ピクチャ成分を有し得るシンボル321の形態で動き補償ユニットに利用可能であるとし得る。動き補償はまた、サブサンプルの正確な動きベクトルが使用されるときに参照ピクチャメモリ357からフェッチされたサンプル値の補間や、動きベクトル予測メカニズムなどを含むことができる。
アグリゲータ355の出力サンプルは、ループフィルタユニット356にて様々なループフィルタリング技術に掛けられ得る。映像圧縮技術は、インループ(in-loop)フィルタ技術を含むことができ、これは、符号化ビデオビットストリームに含められてパーサ320からのシンボル321としてループフィルタユニット356に利用可能にされるパラメータによって制御されるが、符号化ピクチャ又は符号化映像シーケンスのうちの(復号順で)先行部分の復号中に得られたメタ情報にも応答することができるとともに、先行して再構成されてループフィルタリングされたサンプル値にも応答することができる。
ループフィルタユニット356の出力は、例えばディスプレイ212などのレンダリング装置に出力されることが可能なサンプルストリームとすることができ、これはまた、将来のインターピクチャ予測での使用のために参照ピクチャメモリ357に格納されることができる。
ある特定の符号化ピクチャは、完全に再構成されると、将来の予測のための参照ピクチャとして使用されることができる。ある符号化ピクチャが完全に再構成され、その符号化ピクチャが参照ピクチャとして(例えば、パーサ320によって)特定されると、現在ピクチャメモリ358に格納されている現在の参照ピクチャが参照ピクチャメモリ357の一部となり得るとともに、次の符号化ピクチャの再構成を開始する前に新しい現在ピクチャメモリが再割り当てされ得る。
ビデオデコーダ210は、例えばITU-T勧告H.265などの標準にて文書化され得る所定の映像圧縮技術に従って復号処理を実行し得る。符号化映像シーケンスは、映像圧縮技術文書又は標準、特にその中のプロファイル文書の中で規定されるように映像圧縮技術又は標準の構文を忠実に守るという意味で、使用される映像圧縮技術又は標準によって規定される構文に従い得る。また、一部の映像圧縮技術又は標準との準拠のために、符号化映像シーケンスの複雑さが、映像圧縮技術又は標準のレベルによって定められる限度内にされ得る。場合により、レベルは、最大ピクチャサイズ、最大フレームレート、最大再構成サンプルレート(例えば、毎秒メガサンプルで測定される)、最大参照ピクチャサイズなどを制約する。レベルによって設定される制限は、場合により、仮説的リファレンスデコーダ(Hypothetical Reference Decoder;HRD)仕様、及び符号化映像シーケンスにて信号伝達されるHRDバッファ管理用のメタデータを通して更に制約され得る。
一実施形態において、受信器310は、符号化された映像と共に追加(冗長)データを受信し得る。追加データは、(1つ以上の)符号化映像シーケンスの一部として含められ得る。追加データは、データを適切に復号するため、及び/又は元の映像データをいっそう正確に再構成するために、ビデオデコーダ210によって使用され得る。追加データは、例えば、時間的、空間的、又はSNRエンハンスメントレイヤ、冗長スライス、冗長ピクチャ、順方向誤り訂正符号などの形態とし得る。
図4は、本開示の一実施形態に従った、映像ソース201に結合されるビデオエンコーダ203の機能ブロック図の一例を示している。
ビデオエンコーダ203は、例えば、ソースコーダ430であるエンコーダ、符号化エンジン432、(ローカル)デコーダ433、参照ピクチャメモリ434、予測器435、送信器440、エントロピーエンコーダ445、コントローラ450、及びチャネル460を含み得る。
エンコーダ203は、エンコーダ203によって符号化される(1つ以上の)映像画像をキャプチャし得る映像ソース201(エンコーダの一部ではない)から映像サンプルを受信し得る。
映像ソース201は、エンコーダ203によって符号化されるソース映像シーケンスを、任意の好適なビット深さ(例えば、xビット、10ビット、12ビット、…)、任意の色空間(例えば、BT.601 Y CrCB、RGB、…)、及び任意の好適なサンプリング構造(例えば、Y CrCb 4:2:0、Y CrCb 4:4:4)のものとし得るデジタル映像サンプルストリームの形態で提供し得る。メディアサービス提供システムにおいて、映像ソース201は、事前に準備された映像を格納したストレージ装置とし得る。テレビ会議システムでは、映像ソース201は、ローカルな画像情報を映像シーケンスとしてキャプチャするカメラとし得る。映像データは、順に見たときに動きを伝える複数の個々のピクチャとして提供され得る。それらピクチャ自体は、ピクセルの空間アレイとして編成されることができ、各ピクセルが、使用されるサンプリング構造、色空間などに応じて、1つ以上のサンプルを有することができる。当業者は、ピクセルとサンプルとの関係を直ちに理解することができる。以下の説明は、サンプルに焦点を当てている。
一実施形態によれば、エンコーダ203は、ソース映像シーケンスのピクチャを、リアルタイムで、又はアプリケーションによって要求される他の時間制約下で、符号化映像シーケンス443へと符号化及び圧縮し得る。適切な符号化速度を強制することが、コントローラ450の1つの機能であるとし得る。コントローラ450はまた、後述するような他の機能ユニットを制御し得るとともに、それらのユニットに機能的に結合され得る。その結合は、明瞭さのために図示されていない。コントローラ450によって設定されるパラメータは、レート制御関連パラメータ(ピクチャスキップ、量子化器、レート歪み最適化技術のラムダ値、…)、ピクチャサイズ、グループ・オブ・ピクチャ(GOP)レイアウト、最大動きベクトル探索範囲などを含み得る。当業者は、特定のシステム設計に合わせて最適化されるビデオエンコーダ203に関連し得るものとして、コントローラ450の他の機能を直ちに特定することができる。
一部のビデオエンコーダは、当業者が“符号化ループ”として直ちに認識するものにて動作する。単純化した説明として、符号化ループは、ソースコーダ430(符号化される入力ピクチャ及び(1つ以上の)参照ピクチャに基づいてシンボルを作成することを担う)と、エンコーダ203に埋め込まれた(ローカル)デコーダ433とで構成されることができ、特定の映像圧縮技術においてシンボルと符号化ビデオビットストリームとの間の圧縮が可逆であるとき、(ローカル)デコーダ433は、シンボルを再構成して、(リモート)デコーダも作成し得るものであるサンプルデータを生成する。その再構成されたサンプルストリームが、参照ピクチャメモリ434に入力され得る。シンボルストリームの復号は、デコーダ位置(ローカル又はリモート)に依存しないビット正確な結果をもたらすので、参照ピクチャメモリのコンテンツもローカルエンコーダとリモートエンコーダとの間でビット正確である。換言すれば、エンコーダの予測部分は、デコーダが復号中に予測を使用するときに“見る”のとまったく同じサンプル値を参照ピクチャサンプルとして“見る”。この参照ピクチャ同期性の基本原理(及び、例えばチャネルエラーのために、同期性を維持することができない場合に結果として生じるドリフト)は、当業者に知られている。
“ローカル”デコーダ433の動作は、“リモート”デコーダ210のものと実質的に同じであるとすることができ、それは、図3に関連して既に詳細に上述されている。しかし、シンボルが利用可能であり、且つエントロピーコーダ445及びパーサ320によるシンボルの符号化映像シーケンスへの符号化/復号は可逆であるとし得るので、チャネル312、受信器310、バッファ315、及びパーサ320を含むデコーダ210のエントロピー復号部分は、ローカルデコーダ433に完全に実装されなくてよい。
この時点で気付くことができることには、デコーダ内に存在する構文解析/エントロピー復号を除く如何なるデコーダ技術も、対応するエンコーダ内で、実質的に同じ機能的形態で存在する必要がるとし得る。エンコーダ技術の説明は、徹底して説明したデコーダ技術の逆であるとし得るので、省略することができる。特定の分野においてのみ、より詳細な説明が必要とされ、以下に提供される。
その動作の一部として、ソースコーダ430は、入力フレームを、映像シーケンスからの、“参照フレーム”として指定された1つ以上の先に符号化されたフレームに対して予測的に符号化するものである動き補償予測符号化を実行し得る。斯くして、符号化エンジン432は、入力フレームのピクセルブロックと、入力フレームに対する(1つ以上の)予測基準として選択され得る(1つ以上の)参照フレームのピクセルブロックとの間の差分を符号化する。
ローカル映像デコーダ433は、参照フレームとして指定され得るフレームの符号化映像データを、ソースコーダ430によって作成されたシンボルに基づいて復号し得る。符号化エンジン432の動作は、有利には、不可逆プロセスとし得る。符号化映像データが映像デコーダ(図4には示されていない)で復号されるとき、再構成された映像シーケンスは典型的に、幾分の誤差を伴うソース映像シーケンスのレプリカであり得る。ローカル映像デコーダ433は、参照フレーム上で映像デコーダによって実行され得る復号プロセスを複製し、再構成された参照フレームを参照ピクチャメモリ434に格納させるようにし得る。斯くして、エンコーダ203は、ファーエンドの映像デコーダによって得られることになる再構成参照フレームと共通のコンテンツを持つ再構成参照フレームのコピーをローカルに格納し得る。
予測器435は、符号化エンジン432のために予測探索を実行し得る。すなわち、符号化すべき新たなフレームに関して、予測器435は、新たなピクチャ用の適切な予測基準としての役割を果たし得るサンプルデータ(候補参照ピクセルブロックとして)又は例えば参照ピクチャ動画ベクトルやブロック形状などの特定のメタデータについて、参照ピクチャメモリ434を検索し得る。予測器435は、適切な予測参照を見出すために、ピクセルブロック毎に動作し得る。場合により、予測器435によって得られた検索結果により決定されるように、入力ピクチャは、参照ピクチャメモリ434に格納された複数の参照ピクチャから引き出された予測基準を有し得る。
コントローラ450は、例えば、映像データを符号化するのに使用されるパラメータ及びサブグループパラメータの設定を含め、映像コーダ430の符号化処理を管理し得る。
前述の全ての機能ユニットの出力が、エントロピーコーダ445におけるエントロピー符号化に掛けられ得る。エントロピーコーダは、例えばハフマン符号化、可変長符号化、算術符号化などといった当業者に知られた技術に従ってシンボルを無損失圧縮することによって、様々な機能ユニットによって生成されたシンボルを符号化映像シーケンスへと変換する。
送信器440が、エントロピーコーダ445によって生成された符号化映像シーケンスをバッファリングし、それを、通信チャネル460を介した伝送のために準備し得る。通信チャネル460は、符号化された映像データを格納するストレージ装置へのハードウェア/ソフトウェアリンクとし得る。送信器440は、映像コーダ430からの符号化映像データを、例えば符号化オーディオデータ及び/又は補助データストリーム(ソースは図示していない)といった、送信される他のデータとマージし得る。
コントローラ450)は、エンコーダ203の動作を管理し得る。符号化において、コントローラ450は、各符号化ピクチャに、それぞれのピクチャに適用され得る符号化技術に影響を及ぼし得るものである特定の符号化ピクチャタイプを割り当て得る。例えば、ピクチャはしばしば、イントラピクチャ(Iピクチャ)、予測ピクチャ(Pピクチャ)、又は双方向予測ピクチャ(Bピクチャ)として割り当てられ得る。
イントラピクチャ(Iピクチャ)は、予測のソースとしてシーケンス内の他のフレームを使用することなく、符号化コード化及び復号され得るものとし得る。一部の映像コーデックは、例えば独立デコーダリフレッシュ(Independent Decoder Refresh;IDR)ピクチャを含め、異なるタイプのイントラピクチャを許している。当業者は、Iピクチャのそれら異形、並びにそれらそれぞれの用途及び特徴を知っている。
予測ピクチャ(Pピクチャ)は、各ブロックのサンプル値を予測するために、多くて1つの動きベクトルと参照インデックスとを使用して、イントラ予測又はインター予測を用いて符号化及び復号され得るものとし得る。
双方向予測ピクチャ(Bピクチャ)は、各ブロックのサンプル値を予測するために、多くて2つの動きベクトルと参照インデックスとを使用して、イントラ予測又はインター予測を用いて符号化及び復号され得るものとし得る。同様に、多重予測画像は、単一のブロックの再構成のために3つ以上の参照ピクチャと関連メタデータとを使用することができる。
ソースピクチャは、一般に、空間的に複数のサンプルブロック(例えば、各々4×4、8×8、4×8、又は16×16サンプルのブロック)に細分化され、ブロック毎に符号化され得る。ブロックは、それらブロックのそれぞれのピクチャに適用される符号化割り当てによって決定される他の(既に符号化された)ブロックを参照して予測的に符号化され得る。例えば、Iピクチャのブロックは非予測的に符号化されることができ、あるいは、それらは同じピクチャの既に符号化されたブロックを参照して予測的に符号化されることができる(空間予測又はイントラ予測)。Pピクチャのピクセルブロックは、非予測的に、あるいは、1つの先に符号化された参照ピクチャを参照して空間予測又は時間予測を介して、符号化されることができる。Bピクチャのブロックは、非予測的に、あるいは、1つ又は2つの先に符号化された参照ピクチャを参照して空間予測又は時間予測を介して、符号化されることができる。
ビデオエンコーダ203は、例えばITU-T勧告H.265などの所定の映像符号化技術又は標準に従って符号化処理を実行し得る。その動作において、ビデオエンコーダ203は、入力映像シーケンスにおける時間的及び空間的な冗長性を活用する予測的な符号化処理を含め、様々な圧縮処理を実行し得る。符号化された映像データは、それ故に、使用されている映像符号化技術又は標準によって規定される構文に従い得る。
一実施形態において、送信器440は、符号化された映像と共に追加データを送信し得る。映像コーダ430が、そのようなデータを、符号化映像シーケンスの一部として含め得る。追加データは、時間的/空間的/SNRエンハンスメントレイヤ、例えば冗長ピクチャ及びスライスなどの他の形態の冗長データ、補足強化情報(SEI)メッセージ、ビデオユーザビリティ情報(VUI)パラメータセットフラグメントなどを有し得る。
本開示の実施形態によれば、例えば、タイル、タイルグループ、スライス、グループ・オブ・ブロック(GOB)など(以下、“タイル”)などのピクチャセグメントを特定する情報が、例えば、NALユニットヘッダ、又はMANEによる容易な処理に合わせて設計された、固定長のコードワードを有する類似の構造などの、容易にアクセス可能なハイレベル構文構造(以下、“NUH”)内に配置され得る。
実施形態において、タイルを特定する情報は、複数の異なる形態をとることができる。この情報を設計する際に、幾つかの設計検討を念頭に置くことができる。それら設計検討の一部を以下に挙げる。
第1の設計検討に関して、所与のピクチャ内で可能なタイルの数を、例えばレガシー映像符号化技術又は標準において可能なスライスの数と比較して小さくすることができる。例えば、H.264では、(特定のピクチャサイズに対して)単一のマクロブロックをカバーするスライスを持つことが可能であり、存在するマクロブロックと同じ多さのスライスを可能にする。対照的に、タイル化したキューブマップを表現するとき、ピクチャの解像度に関係なく、6つのタイルで十分であり得る。多くの実際のケースで、64、128、又は256というタイルの最大数を安全に仮定することができる。
第2の設計検討に関して、タイルレイアウトを固定することができ、その一方で、映像符号化技術それ自体はピクチャごとのタイルレイアウトの柔軟性を可能にすることができ、システム標準又は技術は、その柔軟性を、タイルレイアウトがセッションを通して同じままである点に制限することができる。従って、本開示の一部の実施形態において、タイルレイアウトが、例えばセッションセットアップ中などに、非ビデオビットストリーム特有の手段を介してMANEに利用可能にされることを可能にすることができる。映像符号化におけるパラメータセットとMANE処理との間の望ましくないコンテキスト依存性を禁止することができる。
本開示の実施形態は、上述の第1及び第2の設計検討を実装し得る。第1及び第2の設計検討を実装する本開示の実施形態に関して、NALユニットによって運ばれるタイルを特定し、そうして、NALユニットがMANEによって除去されることを可能にするメカニズムが、例えばH.264及びH.265などの関連技術と比較して大幅に簡略化され得る。
例えば、H.264及びH.265では、MANEは、スライスヘッダ内のスライス/タイルアドレスコードワードの長さについて知るために、正しいシーケンスパラメータセットを特定しなければならない。そのような長さ情報はシーケンスパラメータセット内に可変長コードワードとして符号化され、従って、最低限、MANEは、パラメータセットの起動シーケンスを辿って現在アクティブなシーケンスパラメータセットを特定し、そして、(パラメータセットは構文解析に依存しないので、場合によりこの順序ではなく)可変長コードワードを復号して、スライスヘッダにて運ばれたバイナリ符号化スライス/タイルアドレスの長さを特定する必要がある。次いで、MANEは、開始マクロブロック/CUアドレスを得るために、スライスヘッダ内の(1つ以上の)可変長コードワードを復号する必要がある。その情報が、タイルを特定するために、パラメータセットから復号されたタイルレイアウトとマッチングされ得る。
本開示の一部の実施形態において、タイルに関する特定情報は、タイルの最初のマクロブロック/CUのアドレスとすることができる。事実上、このようなメカニズムは、開始アドレスをスライスヘッダからNUHに移動させることになる。そうすることは、コーデック設計に対する最小変更アプローチであり得るが、NUHをかなり大きいものにし得る。しかしながら、NUHのサイズの増加は、符号化効率の観点からさえ許容可能であることがある。何故なら、同量のビットがスライス/タイルヘッダから除去され得るからである。
上述のように、マクロブロック/CUアドレスは、小さいピクチャサイズ及び大きいマクロブロック/CUサイズでは合理的に小さくなることができ、小さいCUサイズ及び大きいピクチャサイズではかなり大きくなり得る。この理由から、H.265のSPSは、スライスヘッダ内で運ばれるマクロブロック/CUアドレスの長さを指し示すインジケーションを含んでいる。
本開示の実施形態では、NALユニットヘッダに対して、マクロブロック/CUアドレスの長さを指し示すメカニズムを保持することができる。しかしながら、そうすることは2つの欠点を有し得る。第一に、パラメータセット値を通してNALユニットヘッダ内の構文要素のサイズを決定することによって設立されるコンテキスト依存性は、MANEがパラメータセットのアクティブ化を追跡することを必要とし得るものであり、それは面倒であり得る。第二に、NALユニットヘッダは、少なくともこれまで、MANEにおける処理を簡単にするためにアライメントされるオクテットである。そのオクテットアライメントを維持することは、パラメータセットによって信号伝達されるマクロブロック/CUアドレスのサイズが、残りのNALユニットヘッダ構文要素と足し合わさって、8で割り切れるビット数にならない場合に、パディングを必要とし、それによりビットを浪費し得る。
本開示の実施形態(上述の実施形態を含む)においては、マクロブロック/CUアドレス又はNALユニットヘッダ内の他の構文要素のサイズを、NALユニットヘッダ内の他のフィールドによって割り出すことができる。このメカニズムは有利なことに、パラメータセットとNALユニットヘッダとの間のコンテキスト依存性を回避する。1つの潜在的な欠点は、NALユニットヘッダの他のフィールドにおけるビット又はコードポイントの使用である。
しかしながら、伝統的な意味でのスライスを考慮せず、タイル若しくはタイルグループ、又はビットストリームエンティティへのCUの類似の割り当てメカニズムのみを考慮するとき、更に後述するように、本開示の実施形態において、より進んだオプションを実装することができる。
それらの実施形態の一部を説明するために、用語“スライス”及び“タイル”を簡単に見直しておく。
スライスは、通常はスキャン順での、CU又はマクロブロックの集合であり、スライスヘッダ内で符号化され得るものである開始マクロブロック/CUアドレスと、新たなスライスの開始(代わって、これは、次のスライスヘッダの存在を通じて指し示され得る)によって特定され得るものであるスライスの終わりと、の2つのファクタによって特定され得る。ある特定のビデオ圧縮技術及び標準はスライスの数及びレイアウトに一定の比較的小さい制約を課すが、大抵の場合、スライスレイアウトは、符号化ピクチャごとに変わることができ、例えばレート制御及びMTUサイズマッチングなどのメカニズムによって決定されることが多い。
一方、タイルは、典型的にCUの矩形配置を指し、矩形(及び、一緒になってピクチャを構成する他の矩形)のサイズ及び形状がパラメータセット内に符号化される。換言すれば、タイルレイアウトは、1つのタイルレイアウトから別のタイルレイアウトへの変化が、異なるパラメータセットのアクティブ化を必要とし得るという点で、いくぶん静的であり得る。また、効率的なハードウェア実装を可能にするために、タイルの数は有利に制約されることができる。その結果、多くの映像圧縮技術及び標準において、例えば8ビットという、比較的短い固定長バイナリコードワードが、実用的に使用される全てのピクチャサイズに対してタイルの最大数をアドレス指定することを可能にする。従って、タイルIDのための固定長コードワードを使用して、NALユニットヘッダ内のタイルを特定することができ、それにより、タイル特定用のNALユニットヘッダコードワードとパラメータセットとの間の構文解析依存性及びコンテキスト依存性が回避される。あるいは、そう望まれる場合には、NALユニットヘッダ内のマクロブロック/CUアドレス用の可変長コードワードをサポートするメカニズムを、同様のアーキテクチャ上の欠点という犠牲の下で、タイルIDコードワードに等しく適用してもよい。
図6A-6Dを参照するに、本開示の実施形態のNALユニットヘッダ設計の例が示されている。
図6Aに示すように、符号化ビデオビットストリームの一部であるNALユニット601が提供され得る。符号化ビデオビットストリームは、複数のNALユニット601を含み得る。一部のケースで、NALユニット601は、オクテットアライメントされ、データネットワークの共通の最大転送ユニット(MTU)サイズ以下にされ得る。1つのそのような共通のMTUサイズは1500オクテットであり、これは初期のイーサネット(登録商標)技術の一定の限界に由来するものである。NALユニット601は、NALユニット601の先頭にNALユニットヘッダ602を含み得る。符号化ビデオビットストリームの中での、(1つ以上の)NALユニットを含むNALユニットのフレーム化は、開始コードを通じて、基礎となるパケット指向輸送ネットワークのパケット構造とのアライメントを通じて、などとすることができる。
図6Bを参照するに、本開示のNALユニット601についてのNALユニットヘッダ603の一例の構文図が示されており、これは、図5Bに示したH.265で使用されるNALユニットヘッダに対していくらかの類似点を共有している。本開示の実施形態は、それに代えて、あるいは加えて、例えばH.264又はVVCのNALユニットヘッダなどに対していくらかの類似点を共有する構造を持つNALユニットヘッダを実装してもよい。
NALユニットヘッダ603に、CUアドレス又はタイルIDの構文要素604を含めることができる。実施形態において、その構文要素604の長さは、固定とすることができるとともに、NALユニットヘッダ603がオクテットアライメントされ続けるように選択されることができる。実施形態において、構文要素604は、ビデオエンコーダ及びデコーダによってだけでなくMANEによっても容易に処理可能なフォーマットにすることができる。実施形態において、非限定的な一例として、CUアドレス又はタイルIDを含む構文要素604は、記述子u(6)によって表されるように、6ビットの符号なし整数によって表され得る。この非限定的な例において、CUアドレス又はタイルID用の構文要素604は、layer_id用にH.265で使用されるのと同じビットを占有する。
図6Cは、NALユニット601で実装され得る本開示のNALユニットヘッダ605を例示している。NALユニットヘッダ605は、NALユニットヘッダ603と類似点を共有するが、図6Cでは異なる提示形式で示されている。図6Cに示すように、NALユニットヘッダ605は、CUアドレス又はタイルID用の構文要素606を含み得る。
図6Dは、H.265NALユニットヘッダのフィールドを保存するものであるNALユニットヘッダ607を例示している。非限定的な実施形態例において、構文要素608は、例えば、NALユニットヘッダ607の末尾に追加され得る。非限定的な実施形態例において、構文要素608は代わりに、NALユニットヘッダ607の他の構文要素の中間のどこかに挿入されてもよい。構文要素608は、固定の又は可変のサイズのものとすることができ、可変サイズのものである場合、そのサイズは、上述のメカニズムのいずれか(例えば、パラメータセット構文要素を通じて又はNALユニットタイプを通じて)、又は任意の他の適切なメカニズムによって決定されることができる。
以下、図7を参照して、本開示の実施形態のタイル及びタイルグループ分割設計の非限定的な構造例を説明する。実施形態において、複数のピクチャ700を含む符号化ビデオストリームがエンコーダから本開示のデコーダ及びMANEに送られ得る。各ピクチャ700が、1つ以上のタイル730を含み得る。図7に示すように、非限定的な一例として、ピクチャ700は63個のタイル(Tile)を持つように示されている。タイル730の数、サイズ、及び形状は、図7によって限定されず、任意の数、サイズ、及び形状とし得る。例えば、タイル730は矩形であってもよいし矩形でなくてもよい。これらのタイル730は、1つ以上のタイルグループ710へと分割され得る。図7に示すように、非限定的な一例として、ピクチャ700は、各タイルグループ710が複数のタイル730を含む5つのタイルグループを持つように示されている。タイルグループ710の数、サイズ、及び形状は、図7によって限定されず、任意の数、サイズ、及び形状とすることができる。例えば、タイル730は矩形であってもよいし矩形でなくてもよい。
本開示の実施形態は、その中にタイルグループ710及びタイル730が画成されて分割されるビデオストリームを復号及び符号化し得る。
例えば、図8を参照するに、本開示のデコーダ及びMANEは、ビデオストリームを復号するプロセス800を実行し得る。
図8に示すように、デコーダ又はMANEは、1つ以上の識別子を受信し得る(801)。該1つ以上の識別子は、エンコーダによってデコーダ又はMANEに送られるビデオストリーム内で提供されることができ、あるいは、エンコーダ又は他の装置によってビデオストリーム外で代わりの手段によって提供されてもよい。該1つ以上の識別子は、タイルグループ710及びタイル730の特徴をデコーダ又はMANEに明示的に信号伝達することができ、それに代えて、あるいは加えて、タイルグループ710及びタイル730の特徴を暗示的に信号伝達してもよい。該1つ以上の識別子は、例えば、フラグ又は他の要素とし得る。
(1つ以上の)識別子を受信したことに続いて、デコーダ又はMANEは、識別子に基づいて、1つ以上のタイルグループ710及びタイル730の1つ以上の特徴を特定し得る(802)。タイルグループ710の特徴を特定した後、デコーダ又はMANEは、特定した特徴を用いて、適宜に、タイルグループ710を再構築し、タイルグループ710を転送し、又はタイルグループ710をビデオストリームから除去し得る。例えば、プロセス800がデコーダによって実行される場合、デコーダは適宜に、そのようなタイルグループ710及びそのタイル730を再構築し(例えば、そのタイル730を担持するNALユニットを再構築し)、又はそのタイルグループ710及びそのタイル730を廃棄し得る。プロセス800がMANEによって実行される場合、MANEは適宜に、そのタイルグループ710及びそのタイル730を転送し、又はそのタイルグループ710及びそのタイル730を廃棄し得る。
図9に示すように、本開示のシステム810は、コンピュータプログラムコードを格納するメモリ811と、符号化ビデオストリームを受信し、コンピュータプログラムコードにアクセスし、コンピュータプログラムコードによって命令されるように動作するように構成された少なくとも1つのプロセッサ812とを含み得る。コンピュータプログラムコードは、図8に示したステップ802を少なくとも1つのプロセッサ812に実行させるように構成された特定コード822を含み得るとともに、図8に示したステップ803を少なくとも1つのプロセッサ812に実行させるように構成された実行コード824を更に含み得る。
以下、本開示のデコーダ及びMANEによって受信され得る識別子の一部と、識別子に基づいて特定され得るタイルグループ710及びタイル730の態様との例を説明する。
一部の実施形態において、タイルグループ710が矩形のサブピクチャであるか否かをフラグが指し示し得る。実施形態において、エンコーダが、該フラグを、符号化ビデオストリーム内で、本開示のデコーダ又はMANEに送信し、該デコーダ又はMANEが、該フラグに基づいて、タイルグループ710が矩形サブピクチャであるか否かを割り出し得る。あるいは、該フラグは、符号化ビデオストリーム外で他の手段によって送られてもよい。
それに代えて、あるいは加えて、一部の実施形態において、本開示のデコーダ、MANE、及びエンコーダは、ピクチャ700が単一のタイルグループ710のみを含むのか、それとも複数のタイルグループ710を含むのか、を指し示すフラグを信号伝達することを含んだ、タイルグループ構造を信号伝達する方法を実行し得る。一例として、該フラグは、エンコーダによってデコーダ又はMANEに信号伝達され得る。あるいは、該フラグは、符号化ビデオストリーム外で他の手段によって送られてもよい。該フラグは、パラメータセット(例えば、ピクチャパラメータセット)内に存在し得る。ピクチャ700が単一のタイルグループ710のみを含む場合、タイルグループ710は矩形形状を持ち得る。ピクチャ700が複数のタイルグループ710を含む場合、各タイルグループ710は、矩形の形状又は非矩形の形状を持ち得る。
それに代えて、あるいは加えて、一部の実施形態において、本開示のデコーダ、MANE、及びエンコーダは、現在ピクチャ700に属する各タイルグループ710が矩形形状を持ち得るか否かを指し示すフラグを信号伝達することを含んだ、タイルグループ構造を信号伝達する方法を実行し得る。該フラグの値が1に等しい場合、現在ピクチャ700に属する全てのタイルグループ710が矩形形状を有つとし得る。一例として、該フラグは、エンコーダによってデコーダ又はMANEに信号伝達され得る。あるいは、該フラグは、符号化ビデオストリーム外で他の手段によって送られてもよい。該フラグは、パラメータセット(例えば、ピクチャパラメータセット)内に存在し得る。
それに代えて、あるいは加えて、一部の実施形態において、ピクチャが1つ以上の矩形タイルグループ710を含むとき、本開示のエンコーダは、デコーダ又はMANEに、ピクチャ700を分割するタイルグループ列の数を示す構文要素と、ピクチャ700を分割するタイルグループ行の数を示す構文要素とを提供し得る。この場合、各矩形タイルグループ710が一様な空間を持つことができ、該構文要素は、エンコーダによってデコーダ又はMANEに送信されるパラメータセット(例えば、ピクチャパラメータセット)内に存在し得る。あるいは、該構文要素は、符号化ビデオストリーム外で他の手段によってデコーダ又はMANEに送られてもよい。
それに代えて、あるいは加えて、実施形態において、ピクチャ700が1つ以上の矩形タイルグループ710を含むとき、本開示のエンコーダは、ピクチャ700内のタイルグループ710の数を示す構文要素をデコーダ又はMANEに提供し得る。エンコーダはまた、デコーダ又はMANEに、対応するタイルグループ710の左上隅を指し示すインデックスを示す構文要素と、対応するタイルグループ710の右下隅を指し示すインデックスを示す構文要素とを提供し得る。これらの構文要素は、エンコーダによってデコーダ又はMANEに送信されるパラメータセット(例えば、ピクチャパラメータセット)内に存在し得る。あるいは、これらの構文要素は、符号化ビデオストリーム外で他の手段によってデコーダ又はMANEに送られてもよい。
それに代えて、あるいは加えて、実施形態において、各タイルグループ710についてタイルグループIDが信号伝達され得る。タイルグループIDは、各タイルグループ710を識別するために使用され得る。タイルグループIDの明示的な信号伝達が存在するか否かを、フラグがパラメータセット(例えば、ピクチャパラメータセット)内で指し示し得る。パラメータセットは、エンコーダによってデコーダ又はMANEに送信され得る。タイルグループIDが明示的に信号伝達されることを該フラグが指し示す場合、タイルグループIDの長さも信号伝達され得る。各タイルグループ710に対して、特定のタイルグループIDが割り当てられ得る。同一ピクチャ700内で各タイルグループIDは同じ値を持たないとし得る。実施形態において、該フラグ、タイルグループID、及びタイルグループIDの長さは、エンコーダによって、本開示のデコーダ又はMANEに信号伝達され得る。
それに代えて、あるいは加えて、実施形態において、2つの異なるタイルグループ710がタイル730のうち1つ以上を共有してもよい。2つの異なるタイルグループ710が重なり合って同じタイル730を含み得るか否かを指し示すフラグがパラメータセット内に設けられ得る。重なり合いが許されることを該フラグが指し示す場合、タイルグループ710のうちの1つ以上に同一タイル730が存在し得る。実施形態において、該フラグを含むパラメータセットは、エンコーダによって本開示のデコーダ又はMANEに送信され得る。
それに代えて、あるいは加えて、実施形態において、ピクチャ700が複数の矩形又は非矩形のタイルグループ710を含む場合、各タイルグループ710についてのタイル730の数が、パラメータセット内又はタイルグループヘッダ内で信号伝達され得る。そして、ラスタースキャン順にタイルの数をカウントすることによって、各タイルグループ710の左上及び右下の位置が推定され得る。実施形態において、パラメータセット及びタイルグループヘッダ、並びにその中の信号は、エンコーダによって本開示のデコーダ又はMANEに送信されることができ、デコーダ又はMANEがこの推定を実行し得る。
それに代えて、あるいは加えて、実施形態において、各タイルグループ710は、動き制約タイルセットであることができ、あるいは、各タイルグループ710は、複数の動き制約タイルを含むことができる。タイルグループ710が動き制約タイルセット又は複数の動き制約タイルを有するかをフラグが指し示し得る。実施形態において、該フラグは、エンコーダによって本開示のデコーダ又はMANEに送信されることができ、デコーダ又はMANEは、該フラグに基づいて、タイルグループ710が動き制約タイルセット又は複数の動き制約タイルを有するかを割り出すことができる。あるいは、該フラグは、符号化ビデオストリーム外で他の手段によってデコーダ又はMANEに送られてもよい。
それに代えて、あるいは加えて、実施形態において、タイルグループ710に属するタイル730はラスタースキャン順とし得る。タイルグループ710のアドレスは、増加していく順序とし得る。従って、(n+1)番目のタイルグループ710の左上のインデックスは、n番目のタイルグループ710の左上のインデックスよりも大きいとし得る。実施形態において、タイルグループ710のアドレスは、エンコーダによって本開示のデコーダ又はMANEに送信され得る。あるいは、該アドレスは、符号化ビデオストリーム外で他の手段によってデコーダ又はMANEに送られてもよい。
それに代えて、あるいは加えて、実施形態において、タイルグループ710がデコーダによって復号されるときに、各タイル730が持つ左境界及び上境界の全体がピクチャ境界又は先行して復号されたタイル730からなるように、ピクチャ700内のタイルグループ710の形状が、エンコーダによって設定され、デコーダによって割り出され得る。
実施形態において、エンコーダは、既存のNALユニットヘッダ(又はタイルグループヘッダ)構文を書き込むのと同様にして、タイルグループIDをカバーする構文要素を含むようにNALユニットヘッダ(又はタイルグループヘッダ)を書き込むことができ、これは当業者によって理解されることである。
実施形態において、デコーダ又はMANEは、タイルグループID又は他の形態のタイル特定情報を運ぶ構文要素の有無にかかわらず、当業者によって理解されるようにして、符号化ビデオビットストリームから、NALユニットヘッダ(より正確には、NALユニットヘッダ(又はタイルグループヘッダ)を構成する構文要素)を構文解析し得る。しかしながら、留意すべきことには、構文要素は、上述の一部のケースにおいて、状態情報を必要とせずに、例えば固定長のバイナリコードといったアクセス可能なエントロピー符号化フォーマットで符号化される。
本開示の一部の実施形態によれば、それにもかかわらず、デコーダ又はMANEは、開示に係る事項が存在しない場合に必要とされる処理と比較して少ない労力で、符号化されたピクチャ700内のタイルグループ710を特定することができる。
以下、そのような利益の一例を、図10を参照して説明する。図10は、それぞれのタイルグループID 1乃至8を有する第1乃至第8のタイルグループ841乃至848を含んだ、村内の街路のピクチャ840を示している。このような例において、ピクチャ840は、監視カメラによってキャプチャされると仮定される。
場合により、デコーダ又はMANEは、外部の非映像符号化手段によって、ピクチャ840の特定のタイルグループが特定のアプリケーションのために再構成される必要がないことを通知され得る。例えば、図10に示すように、タイルグループ842は、ほとんど壁に広がっている。従って、監視システムの設定者は、その領域を監視にとって意味がないと考え得る。従って、監視カメラはタイルグループ841-848の全てを符号化し得るが、ID 2を有するタイルグループ842はアプリケーションに必要ないとされ得る。これに関し、監視カメラによって作成されたビットストリームが1つ以上のMANEを介してその最終的な宛先に送られるとした場合、タイルグループ842は、MANEのうちの1つ以上によって除去されることができる。
本開示の実施形態の開示に係る事項がないと、タイルグループ842の除去は、最低限、NALユニット(スライス又はタイル)のペイロードが、タイル内の最初のマクロブロックのマクロブロック/CUアドレスを抽出するために、必要な範囲まで構文解析されることを要することになる。使用される映像符号化技術又は標準に応じて、また、上述のように、これは、可変長コードワードの処理と、MANEにおけるパラメータセットコンテキストの保持との両方を必要とし得る。これらはどちらも、実装及び計算の複雑さの観点から望ましくないものである。
対照的に、本開示の実施形態において、MANEは、バイナリ符号化されたコードワードのNALユニットヘッダ処理を通じて、NALユニットによってどのタイルが運ばれているのかを特定するのに必要な全ての情報を得ることができる。従って、本開示の実施形態は、関連技術の問題を回避しながら、タイルグループ又はハイレベル構文構造における他のピクチャセグメントを特定する容易に特定可能且つ構文解析可能な構文要素を提供することもできる。
図11を参照するに、デコーダ又はMANEは、後述するプロセス850を実行することによって、本開示の実施形態を実施することができる。
デコーダ又はMANEは、ビデオビットストリームから、マクロブロック/CUアドレス又はタイルグループIDをカバーする構文要素を含むNALユニットヘッダを構文解析し得る(851)。その情報を用いて、デコーダ又はMANEはタイルグループIDを特定することができる(852)。タイルグループIDは、直接符号化されてもよいし、あるいは、デコーダ/MANEが、例えばパラメータセットを復号し且つ起動シーケンスを辿ることによって確立される、タイルレイアウトに関する先験的情報を、NALユニットヘッダ内に符号化されたマクロブロック/CUアドレスとマッチングしてもよい。デコーダ又はMANEは、タイルIDを、それぞれデコーダ又はMANEによる再構成又は転送を要するタイルのリストと比較することができる(853)。一致が存在する場合、タイルを運ぶNALユニットを、デコーダが再構築する又はMANEが転送することができる(854)。一方、一致が存在しない場合、デコーダ又はMANEはそのNALユニットを破棄することができる(855)。一実施形態において、デコーダ又はMANEは、そのNALユニットを黙って破棄する。
本開示の実施形態において、少なくとも1つのプロセッサが、本開示のタイルグループ及びタイル分割設計に従ってピクチャを符号化し、1つ以上の符号化されたタイルグループ及びタイルを含む符号化ビデオビットストリームを、本開示のタイルグループ及びタイル分割設計に従った復号のために1つ以上のデコーダ及びMANEに送信し得る。
上述のタイル及びタイルグループ特定を含む符号化及び復号のための技術は、1つ以上のコンピュータ読み取り可能媒体に物理的に格納された、コンピュータ読み取り可能命令を用いたコンピュータソフトウェアとして、実装されることができる。例えば、図12は、開示に係る事項の実施形態を実装するのに好適なコンピュータシステム900を示している。
上述の技術は、1つ以上のコンピュータ読み取り可能媒体に物理的に格納された、コンピュータ読み取り可能命令を用いたコンピュータソフトウェアとして、実装されることができる。例えば、図12は、開示の特定の実施形態を実装するのに好適なコンピュータシステム900を示している。
コンピュータソフトウェアは、アセンブリ、コンパイル、リンク、又は同様の機構に掛けられることで、直接的に又はインタープリット、マイクロコード実行及びこれらに類するものを介してコンピュータ中央演算処理ユニット(CPU)、グラフィックス処理ユニット(GPU)、及びこれらに類するものによって実行されることが可能な命令を有するコードを作り出し得るような、任意の好適な機械コード又はコンピュータ言語を用いてコード化され得る。
命令は、例えば、パーソナルコンピュータ、タブレットコンピュータ、サーバ、スマートフォン、ゲーム装置、モノのインターネット装置、及びこれらに類するものを含め、様々なタイプのコンピュータ又はそのコンポーネント上で実行され得る。
コンピュータシステム900に関して図12に示したコンポーネントは、本質的に例示的なものであり、本開示の実施形態を実装するコンピュータソフトウェアの使用又は機能性の範囲についての何らかの限定を示唆する意図はない。また、コンポーネントの構成も、コンピュータシステム900のこの非限定的な実施形態に示されたコンポーネントの任意の1つ又は組み合わせに関する何らかの従属性又は要件も持つものとして解釈されるべきでない。
コンピュータシステム900は、特定のヒューマンインタフェース入力装置を含んでもよい。そのようなヒューマンインタフェース入力装置は、例えば、触覚入力(例えば、キーストローク、スワイプ、データグローブを動かすことなど)、オーディオ入力(例えば、音声、拍手など)、視覚入力(例えば、ジェスチャなど)、嗅覚入力(図示せず)を介した、一人以上の人間ユーザによる入力に応答し得る。ヒューマンインタフェース装置はまた、例えばオーディオ(例えば、会話、音楽、周囲の音など)、画像(例えば、走査画像、静止画カメラから得られる写真画像など)、映像(例えば、2次元映像、立体視映像を含む3次元映像など)などの、人間による意識的な入力には必ずしも直接関係しない特定の媒体を捕捉するために使用されてもよい。
入力ヒューマンインタフェース装置は、キーボード901、マウス902、トラックパッド903、タッチスクリーン910、データグローブ、ジョイスティック905、マイクロフォン906、スキャナ907、カメラ908(各々1つのみ図示している)のうちの1つ以上を含み得る。
コンピュータシステム900はまた、特定のヒューマンインタフェース出力装置を含み得る。そのようなヒューマンインタフェース出力装置は、例えば、触覚出力、音、光、及び臭い/味を通して、一人以上の人間ユーザの感覚を刺激し得る。そのようなヒューマンインタフェース出力装置は、触覚出力装置(例えば、タッチスクリーン910、データグローブ、又はジョイスティック905による触覚フィードバックであるが、入力装置として機能しない触覚フィードバック装置もあってもよい)を含み得る。例えば、そのような装置は、オーディオ出力装置(例えば、スピーカー909、ヘッドフォン(図示せず)など)、視覚出力装置(例えば、CRTスクリーン、LCDスクリーン、プラズマスクリーン、OLEDスクリーンを含むスクリーン910(各々がタッチスクリーン入力機能を有する又は有さない。各々が触覚フィードバック機能を有する又は有さない。これらの一部は、二次元の視覚出力、又は例えば立体視出力などの手段を通じて四次元以上の出力を出力することができるとし得る。)、仮想現実グラス(図示せず)、ホログラフィックディスプレイ及びスモークタンク(図示せず)など)、及びプリンタ(図示せず)であってもよい。
コンピュータシステム900はまた、例えば、CD/DVD若しくは類似の媒体921を有するCD/DVD ROM/RW920を含む光媒体、サムドライブ922、取り外し可能なハードドライブ若しくは又はソリッドステートドライブ923、例えばテープ及びフロッピーディスク(登録商標、図示せず)などのレガシー磁気媒体、例えばセキュリティドングルなどの特殊化されたROM/ASIC/PLDベースの装置(図示せず)、及びこれらに類するものなどの、人間アクセス可能なストレージ装置及びそれらの関連媒体を含み得る。
当業者がこれまた理解するはずのことには、ここでの開示に係る事項に関連して使用される用語“コンピュータ読み取り可能媒体”は、伝送媒体、搬送波、又は他の一時的な信号を含まない。
コンピュータシステム900はまた、1つ以上の通信ネットワークへのインタフェースを含み得る。ネットワークは、例えば、無線、有線、光とし得る。ネットワークは更に、ローカル、広域、大都市、車両及び産業、リアルタイム、耐遅延などとし得る。ネットワークの例は、例えばイーサネット(登録商標)などのローカルエリアネットワークや、無線LANや、GSM、3G、4G、5G、LTE及びこれらに類するものを含むセルラネットワークや、ケーブルTV、衛星TV、及び地上波放送TVを含むTV有線又は無線広域デジタルネットワークや、CANBusを含む車両及び産業などを含む。特定のネットワークは一般に、特定の汎用データポート又はペリフェラルバス949(例えば、コンピュータシステム900のUSBポートなど)に取り付けられる外付けネットワークインタフェースアダプタを必要とし、他のものは一般に、後述のシステムバスへの取り付けによってコンピュータシステム900のコアに統合される(例えば、PCコンピュータシステムへのイーサネットインタフェース、又はスマートフォンコンピュータシステムへのセルラネットワークインタフェース)。これらのネットワークのいずれかを使用して、コンピュータシステム900は、他のエンティティと通信することができる。そのような通信は、単方向の受信のみ(例えば、放送TV)であってもよいし、単方向の送信のみ(例えば、特定のCANbus装置に対するCANbus)であってもよいし、あるいは、例えばローカル又は広域デジタルネットワークを用いた他のコンピュータシステムに対しての、双方向であってもよい。そのような通信は、クラウドコンピューティング環境955への通信を含むことができる。特定のプロトコル及びプロトコルスタックが、上述のようにネットワーク及びネットワークインタフェースの各々上で使用され得る。
前述のヒューマンインタフェース装置、人間アクセス可能なストレージ装置、及びネットワークインタフェース954は、コンピュータシステム900のコア940に取り付けられることができる。
コア940は、1つ以上の中央演算処理ユニット(CPU)941、グラフィックス処理ユニット(GPU)942、フィールドプログラマブルゲートアレイ(FPGA)943の形態の特殊なプログラム可能なプロセッシングユニット、特定のタスク用のハードウェアアクセラレータ944などを含み得る。これらのデバイスは、読み出し専用メモリ(ROM)945、ランダムアクセスメモリ946、例えば内部のユーザアクセス可能でないハードドライブ、SSDなどの内部大容量ストレージ947、及びこれらに類するもの947と共に、システムバス948を介して接続され得る。一部のコンピュータシステムにおいて、システムバス948は、追加のCPU、GPU、及びこれらに類するものによる拡張を可能にするために、1つ以上の物理プラグの形態でアクセス可能にされ得る。周辺装置は、コアのシステムバス948に直接的に、又はペリフェラルバス949を介して、のいずれで取り付けられてもよい。ペリフェラルバスのアーキテクチャは、PCI、USB、及びこれらに類するものを含む。グラフィックスアダプタ950がコア940に含められてもよい。
CPU941、GPU942、FPGA943、及びアクセラレータ944は、組み合わさって前述のコンピュータコードを構成することができる特定の命令を実行し得る。そのコンピュータコードは、ROM945又はRAM946に格納され得る。RAM946には過渡的なデータも格納されることができ、永久的なデータは、例えば内部大容量ストレージ947に格納されることができる。メモリデバイスのいずれかへの高速な記憶及び取り出しが、1つ以上のCPU941、GPU942、大容量ストレージ947、ROM945、RAM946、及びこれらに類するものの近くに付随し得るキャッシュメモリの使用によって可能にされ得る。
コンピュータ読み取り可能媒体はその上に、様々なコンピュータ実装処理を実行するためのコンピュータコードを有することができる。媒体及びコンピュータコードは、本開示の目的に合わせて特別に設計及び構築されたものであってもよいし、あるいは、それらは、コンピュータソフトウェア技術の当業者にとって周知且つ利用可能な種類のものであってもよい。
一例として、限定ではなく、アーキテクチャ900、特にコア940、を有するコンピュータシステムは、1つ以上の有形のコンピュータ読み取り可能媒体に具現化されたソフトウェアを(1つ以上の)プロセッサ(CPU、GPU、FPGA、アクセラレータ、及びこれらに類するものを含む)が実行することの結果として機能を提供することができる。そのようなコンピュータ読み取り可能媒体は、例えばコア内部の大容量ストレージ947又はROM945などの、非一時的性質のものであるコア940の特定のストレージ、及び上で紹介したようなユーザアクセス可能な大容量ストレージに関連する媒体とすることができる。本開示の様々な実施形態を実装するソフトウェアは、そのような装置に格納され、コア940によって実行されることができる。コンピュータ読み取り可能媒体は、具体的なニーズに従って、1つ以上のメモリデバイス又はチップを含み得る。ソフトウェアは、コア940及び特にその中のプロセッサ(CPU、GPU、FPGA、及びこれらに類するものを含む)に、RAM946に格納されるデータ構造を規定すること、及びそのようなデータ構造を、ソフトウェアによって規定されたプロセスに従って変更することを含めて、ここに記載された特定のプロセスを又は特定のプロセスの特定の部分を実行させることができる。加えて、又は代替として、コンピュータシステムは、ここに記載された特定のプロセスを又は特定のプロセスの特定の部分を実行するようにソフトウェアの代わりに又はソフトウェアと共に動作することができる回路(例えば、アクセラレータ944)にて配線された又はその他の方法で具体化されたロジックの結果として、機能を提供してもよい。ソフトウェアへの言及はロジックを含み、また、適当な場合にその逆もまた然りである。コンピュータ読み取り可能媒体への言及は、実行のためのソフトウェアを格納した回路(例えば、集積回路(IC)など)、実行のためのロジックを具体化した回路、又は適当な場合にこれら双方を含み得る。本開示は、ハードウェア及びソフトウェアの好適な組み合わせを含む。
この開示は幾つかの非限定的な実施形態を記述しているが、開示の範囲に入る変更、置換、及び様々な均等な代替が存在する。従って、理解されることには、当業者は、ここでは明示的に図示されたり説明されたりしていないものの、開示の原理を具体化し、それ故に、その精神及び範囲の中にあるような、数多くのシステム及び方法を考案することができるであろう。

Claims (20)

  1. 少なくとも1つのプロセッサが実行する方法であって、
    複数のタイルグループへと分割されたピクチャを有する符号化ビデオストリームを受信するステップであり、前記複数のタイルグループの各々が、少なくとも1つのタイルを含み、前記符号化ビデオストリームは更に、前記複数のタイルグループのうちのあるタイルグループが矩形形状を持つかを指し示す第1のインジケータを含む、ステップと、
    前記第1のインジケータに基づいて、前記ピクチャの前記タイルグループが矩形形状を持つかを特定するステップと、
    前記タイルグループを再構築する、転送する、又は破棄するステップと、
    を有する方法。
  2. 前記第1のインジケータはフラグである、請求項1に記載の方法。
  3. 前記フラグは、前記符号化ビデオストリームのパラメータセット内で提供される、請求項2に記載の方法。
  4. 前記パラメータセットはピクチャパラメータセット(“PPS”)である、請求項3に記載の方法。
  5. 受信される前記符号化ビデオストリームの前記第1のインジケータは、前記複数のタイルグループのうちの前記タイルグループが矩形形状を持つかを、前記ピクチャの前記複数のタイルグループのうちのいずれか他のタイルグループが矩形形状を持つかを指し示すことなく、指し示す、請求項1に記載の方法。
  6. 受信される前記符号化ビデオストリームの前記第1のインジケータは、前記タイルグループが矩形形状を持つことを指し示し、
    前記符号化ビデオストリームは更に、各々が前記タイルグループのそれぞれのコーナーを指し示す複数の構文要素を含み、
    当該方法は更に、前記複数の構文要素に基づいて前記タイルグループのサイズ又は位置を特定するステップを有する、
    請求項1に記載の方法。
  7. 前記複数の構文要素は、前記符号化ビデオストリームのパラメータセット内で提供される、請求項6に記載の方法。
  8. 前記パラメータセットはピクチャパラメータセット(“PPS”)である、請求項7に記載の方法。
  9. 受信される前記符号化ビデオストリームは更に、複数の構文要素を含み、該複数の構文要素の各々が、前記複数のタイルグループのうちのそれぞれのタイルグループのタイルグループ識別子(ID)を指し示す、請求項1に記載の方法。
  10. 受信される前記符号化ビデオストリームは更に、パラメータセット又はタイルグループヘッダ内に、前記タイルグループに含まれるタイルの数を指し示す第2のインジケータを含み、
    当該方法は更に、ラスタースキャン順にタイルの数をカウントすることに基づいて、前記ピクチャ内での前記タイルグループのコーナーの位置を特定するステップを有する、
    請求項1に記載の方法。
  11. 受信される前記符号化ビデオストリームは更に、前記タイルグループが動き制約タイルセットであるか、又は前記タイルグループが複数の動き制約タイルを含むか、を指し示す第2のインジケータを含み、
    当該方法は更に、前記第2のインジケータに基づいて、前記符号化ビデオストリームの前記タイルグループが動き制約タイルセットであるか又は複数の動き制約タイルを含むかを特定するステップを有する、
    請求項1に記載の方法。
  12. 複数のタイルグループへと分割されたピクチャを含む符号化ビデオストリームを復号するシステムであって、前記複数のタイルグループの各々が、少なくとも1つのタイルを含み、当該システムは、
    コンピュータプログラムコードを格納するように構成されたメモリと、
    前記符号化ビデオストリームを受信し、前記コンピュータプログラムコードにアクセスし、且つ前記コンピュータプログラムコードによって命令されるように動作するように構成される少なくとも1つのプロセッサと、
    を有し、
    前記コンピュータプログラムコードは、
    前記少なくとも1つのプロセッサに、前記複数のタイルグループのうちのあるタイルグループが矩形形状を持つかを、前記符号化ビデオストリームに含められた、前記複数のタイルグループのうちの前記タイルグループが矩形形状を持つかを指し示す第1のインジケータに基づいて、特定させるように構成された第1の特定コードと、
    前記少なくとも1つのプロセッサに前記タイルグループを再構築させ、転送させる、又は破棄させるように構成された実行コードと、
    を含む、
    システム。
  13. 前記第1のインジケータはフラグである、請求項12に記載のシステム。
  14. 前記フラグは、前記符号化ビデオストリームのパラメータセット内で提供される、請求項13に記載のシステム。
  15. 前記符号化ビデオストリームの前記第1のインジケータは、前記複数のタイルグループのうちの前記タイルグループが矩形形状を持つかを、前記ピクチャの前記複数のタイルグループのうちのいずれか他のタイルグループが矩形形状を持つかを指し示すことなく、指し示す、請求項12に記載のシステム。
  16. 前記コンピュータプログラムコードは更に、前記少なくとも1つのプロセッサに、前記符号化ビデオストリームにて受信される複数の構文要素に基づいて、前記タイルグループのサイズ又は位置を特定させるように第2の特定コードを含み、前記複数の構文要素の各々が、前記タイルグループのそれぞれのコーナーを指し示す、請求項12に記載のシステム。
  17. 前記コンピュータプログラムコードは更に、前記少なくとも1つのプロセッサに、前記符号化ビデオストリームに含められた、前記タイルグループのタイルグループ識別子(ID)を指し示す構文要素に基づいて、前記複数のタイルグループのうちの前記タイルグループを特定させるように構成された第2の特定コードを含む、請求項12に記載のシステム。
  18. 前記コンピュータプログラムコードは更に、前記少なくとも1つのプロセッサに、前記符号化ビデオストリームに含められた、前記タイルグループに含まれるタイルの数を指し示す第2のインジケータに基づいて、且つ更に、ラスタースキャン順に前記タイルグループに含まれるタイルの数をカウントすることに基づいて、前記ピクチャ内での前記タイルグループのコーナーの位置を特定させるように構成された第2の特定コードを含む、請求項12に記載のシステム。
  19. 前記コンピュータプログラムコードは更に、前記少なくとも1つのプロセッサに、前記符号化ビデオストリームに含められた、前記符号化ビデオストリームが動き制約タイルセットであるか又は複数の動き制約タイルを含むかを指し示す第2のインジケータに基づいて、前記符号化ビデオストリームの前記タイルグループが動き制約タイルセットであるか又は複数の動き制約タイルを含むかを特定させるように構成された第2の特定コードを含む、請求項12に記載のシステム。
  20. コンピュータ命令を含むコンピュータプログラムであって、前記コンピュータ命令は、少なくとも1つのプロセッサによって実行されるときに、該少なくとも1つのプロセッサに、請求項1乃至11のいずれか一項に記載の方法を実行させる、コンピュータプログラム。
JP2021531271A 2019-01-22 2020-01-21 符号化ビデオストリームを復号するための方法、システム、及びコンピュータプログラム Pending JP2022510325A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962795526P 2019-01-22 2019-01-22
US62/795,526 2019-01-22
US16/745,824 2020-01-17
US16/745,824 US20200236377A1 (en) 2019-01-22 2020-01-17 Method for tile group identification
PCT/US2020/014355 WO2020154257A1 (en) 2019-01-22 2020-01-21 Method for tile group identification

Publications (1)

Publication Number Publication Date
JP2022510325A true JP2022510325A (ja) 2022-01-26

Family

ID=71609293

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021531271A Pending JP2022510325A (ja) 2019-01-22 2020-01-21 符号化ビデオストリームを復号するための方法、システム、及びコンピュータプログラム

Country Status (6)

Country Link
US (1) US20200236377A1 (ja)
EP (1) EP3915255A4 (ja)
JP (1) JP2022510325A (ja)
KR (1) KR20210077754A (ja)
CN (2) CN117459726A (ja)
WO (1) WO2020154257A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102572140B1 (ko) * 2018-11-30 2023-08-30 샤프 가부시키가이샤 코딩된 비디오의 픽처들에 대한 타일 구조들을 시그널링하기 위한 시스템들 및 방법들
JP7305879B2 (ja) * 2019-08-23 2023-07-10 アップル インコーポレイテッド 映像信号の符号化/復号方法およびその装置
US12022126B2 (en) * 2019-11-22 2024-06-25 Sharp Kabushiki Kaisha Systems and methods for signaling tiles and slices in video coding
CN115104121A (zh) * 2020-02-19 2022-09-23 交互数字Vc控股公司 用于处理图像内容的方法和设备
JP2023524000A (ja) * 2020-05-19 2023-06-08 グーグル エルエルシー 品質正規化ビデオコード変換のための動的パラメータ選択

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101389021B (zh) * 2007-09-14 2010-12-22 华为技术有限公司 视频编解码方法及装置
US9584819B2 (en) * 2011-10-24 2017-02-28 Qualcomm Incorporated Grouping of tiles for video coding
US20140010277A1 (en) * 2012-07-09 2014-01-09 Qualcomm, Incorporated Supplemental enhancement information (sei) messages having a fixed-length coded video parameter set (vps) id
US9565452B2 (en) * 2012-09-28 2017-02-07 Qualcomm Incorporated Error resilient decoding unit association
US9749627B2 (en) * 2013-04-08 2017-08-29 Microsoft Technology Licensing, Llc Control data for motion-constrained tile set
JP2016019248A (ja) * 2014-07-10 2016-02-01 キヤノン株式会社 動画表示制御装置、動画表示制御方法及びプログラム
US10419768B2 (en) * 2016-03-30 2019-09-17 Qualcomm Incorporated Tile grouping in HEVC and L-HEVC file formats
US10469876B2 (en) * 2016-12-22 2019-11-05 Mediatek Inc. Non-local adaptive loop filter combining multiple denoising technologies and grouping image patches in parallel
SG11202106486XA (en) * 2018-12-17 2021-07-29 Huawei Tech Co Ltd Tile group assignment for raster scan and rectangular tile groups in video coding
CN113228110A (zh) * 2018-12-28 2021-08-06 松下电器(美国)知识产权公司 三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置
US11477445B2 (en) * 2018-12-28 2022-10-18 Hfi Innovation Inc. Methods and apparatuses of video data coding with tile grouping
WO2020141904A1 (ko) * 2019-01-02 2020-07-09 주식회사 엑스리스 영상 신호 부호화/복호화 방법 및 이를 위한 장치

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
BYEONGDOO CHOI ET AL., AHG12: ON TILE GROUP IDENTIFICATION FOR VVC, JPN6023001774, 3 January 2019 (2019-01-03), ISSN: 0005114091 *
LULIN CHEN ET AL., AHG17: FLEXIBLE TILE GROUPING FOR VVC, JPN6022025158, 6 January 2019 (2019-01-06), ISSN: 0004804859 *
SACHIN DESHPANDE ET AL., ON TILE GROUPING, JPN6022025155, 12 January 2019 (2019-01-12), ISSN: 0005114090 *
SACHIN DESHPANDE, ON TILE INFORMATION SIGNALLING, JPN6022025161, 4 January 2019 (2019-01-04), ISSN: 0005114092 *

Also Published As

Publication number Publication date
CN113348666B (zh) 2023-10-27
EP3915255A4 (en) 2022-10-26
EP3915255A1 (en) 2021-12-01
CN117459726A (zh) 2024-01-26
KR20210077754A (ko) 2021-06-25
CN113348666A (zh) 2021-09-03
WO2020154257A1 (en) 2020-07-30
US20200236377A1 (en) 2020-07-23

Similar Documents

Publication Publication Date Title
JP7516637B2 (ja) 無指向性媒体符号化のためのラップアラウンドパディングの方法
JP7234373B2 (ja) タイル及びサブ画像の分割
KR102648248B1 (ko) 랜덤 액세스 포인트 및 픽처 유형의 식별 방법
JP7016428B2 (ja) 帯域外エンドオブストリームnalユニットを復号化に使用する方法、装置、及びコンピュータプログラム
JP2022510325A (ja) 符号化ビデオストリームを復号するための方法、システム、及びコンピュータプログラム
JP7434499B2 (ja) ネットワーク抽象化ユニットヘッダからのタイルの識別化
JP2021517408A5 (ja)
JP2022526005A (ja) コード化ピクチャにおける混合nalユニット・タイプをサポートする方法、システム及びコンピュータ・プログラム
JP7254188B2 (ja) 点群符号化のためのパラメータセット設計の方法並びにその装置及びプログラム
JP7061202B2 (ja) フレキシブルなツリー構造における連結符号化単位
CN113491128B (zh) 已解码图片存储器管理的方法和相关装置
CN112995680A (zh) 重建已编码增强层图片的方法和设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220916

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230419

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230725

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231122

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20231205

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20240222