JP6449852B2 - 関心領域の符号化のための動き制限タイルセット - Google Patents

関心領域の符号化のための動き制限タイルセット Download PDF

Info

Publication number
JP6449852B2
JP6449852B2 JP2016507533A JP2016507533A JP6449852B2 JP 6449852 B2 JP6449852 B2 JP 6449852B2 JP 2016507533 A JP2016507533 A JP 2016507533A JP 2016507533 A JP2016507533 A JP 2016507533A JP 6449852 B2 JP6449852 B2 JP 6449852B2
Authority
JP
Japan
Prior art keywords
tile
tile set
picture
tiles
mcts
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016507533A
Other languages
English (en)
Other versions
JP2016519516A5 (ja
JP2016519516A (ja
Inventor
ウー,ヨンジュン
ジェイ. サリヴァン,ゲイリー
ジェイ. サリヴァン,ゲイリー
チャン,イーフー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2016519516A publication Critical patent/JP2016519516A/ja
Publication of JP2016519516A5 publication Critical patent/JP2016519516A5/ja
Application granted granted Critical
Publication of JP6449852B2 publication Critical patent/JP6449852B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167Position within a video image, e.g. region of interest [ROI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/55Motion estimation with spatial constraints, e.g. at image or region borders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/40Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/65Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

エンジニアは、(ソースコーディング又はソース符号化とも呼ばれる)圧縮を使用してデジタルビデオのビットレートを減少させる。圧縮は、ビデオ情報を低ビットレートの形式に変換することにより、ビデオ情報を記憶及び伝送するコストを低減する。(復号とも呼ばれる)圧縮解除は、圧縮された形式から元の情報のバージョンを再構築する。「コーデック」はエンコーダ/デコーダシステムである。
過去20年にわたって、様々なビデオコーデック規格が採用されており、このような規格には、ITU‐T H.261、H.262(MPEG−2又はISO/IEC 13818−2)、H.263及びH.264(AVC又はISO/IEC 14496−10)規格、MPEG−1(ISO/IEC 11172−2)及びMPEG−4 ビジュアル(ISO/IEC 14496−2)規格並びにSMPTE 421M規格が含まれる。より最近では、HEVC規格(ITU‐T H.265又はISO/IEC 23008−2)が承認された。ビデオコーデック規格は、典型的に、符号化ビデオストリームのシンタックスについてのオプションを定義し、これにより、特定の特徴が符号化及び復号に使用されるときのビットストリームのパラメータを詳述する。多くの場合において、ビデオコーデック規格は、デコーダが、復号において一致する結果を達成するために実行すべき復号操作に関する詳細も提供する。コーデック規格だけでなく、様々な独自仕様のコーデックフォーマットも、符号化ビデオビットストリームのシンタックスについての他のオプション及び対応する復号操作を定義する。
2013年1月のバージョンのHEVC規格では(Bross等著、「High Efficiency Video Coding(HEVC) Text Specification Draft 8」、JCTVC-L1003_v34、2013年1月を参照されたい)、ピクチャが、矩形領域の複数のタイルに分割される。シンタックス要素のtiles_enabled_flagが1に等しいとき、ピクチャはタイルから構成される。タイルは、ピクチャ内の水平及び垂直境界を定義し、ピクチャ内でタイル列とタイル行に従って編成される。タイルが使用されるとき、HEVCビットストリームのシンタックス及びHEVC復号処理は、同じピクチャ内のタイル境界に対するイントラピクチャ予測の依存性をなくし、かつ同じピクチャ内のタイル境界に対するエントロピー復号の依存性をなくすように構造化される。しかしながら、2013年1月のバージョンのHEVC規格によると、インターピクチャ予測の依存性はタイル境界に関しては制限されない。
要約すると、詳細な説明では、動き制限タイルセット(MCTS:motion-constrained tile set)のための制御データを伝達し、使用する際の革新を提示する。例えば本革新は、タイルの1つ以上の指定されたセット内のインターピクチャ予測処理が、他のピクチャ内のタイルの各々対応するセット内の領域のみを参照するよう制限されることを指示するよう、制御データの伝達及び使用をサポートする。これは関心領域の符号化、復号及び表示、符号化データを選択されたタイルセットに限定するようトランスコーディングすること、損失のロバスト性、そして符号化及び/又は復号における並行性を促進することができる。
本明細書で説明される革新の一態様によると、ビデオエンコーダ又は他のツールは、複数のピクチャを符号化して符号化データを生成し、この場合、複数のピクチャの各々が複数のタイルに分割される。例えばツールは、特定の境界を越えるインターピクチャ予測の依存性がタイルのセットについて制限されるべきかどうかを判断し、そうである場合、その特定の境界を越えるインターピクチャ予測の依存性がタイルのセットについて回避されるように、符号化中の動き推定を制限する。一部の実装では、特定の境界は、ピクチャごとに同じタイルセットの境界であるが、他の実装では、特定の境界を、インターピクチャ予測に使用される別のタイルセット又は他の1つ若しくは複数の領域の境界とすることができる。ツールは、符号化データを、特定の境界を越えるインターピクチャ予測の依存性が、複数のタイルのうちの1つ以上のタイルの所与のタイルセットについて制限されることを示す制御データとともに出力する。タイルの複数のセットについてインターピクチャ予測の依存性を制限することは、符号化における並行処理の使用を促進することができ、関心領域の復号機能又は漸進的デコーダリフレッシュ機能を提供することを助けることもできる。
本明細書で説明される革新の別の態様によると、ビデオデコーダ又は他のツールは、複数のピクチャについての符号化データを受け取り、この場合、複数のピクチャの各々が、複数のタイルに分割される。ツールは、特定の境界を越えるインターピクチャ予測の依存性が、複数のタイルのうちの1つ以上のタイルの所与のタイルセットについて制限されることを示す制御データも受け取る。ツールは次いで、符号化データを処理し、例えば所与のタイルセットの外部にあるピクチャの部分を符号化せずに、所与のタイルセットを複数のピクチャ内の関心領域として復号する。あるいは、符号化データの処理の一部として、ツールは、所与のタイルセットの外部にあるピクチャの部分についての符号化データを除去し、所与のタイルセットの符号化データを新たなビットストリームとして編成して、符号化データをトランスコードする。あるいは、符号化データの処理の一部として、所与のタイルセット以外の、符号化データの少なくとも一部の損失の検出があると、デコーダは、損失回復の一部として、所与のタイルセットをデコードする。また、タイルの複数のセットについてインターピクチャ予測の依存性を制限することは、復号における並行処理の使用を促進することができる。
例示の実装において、所与のタイルセットは、そのタイルセットの1つ以上のタイルを含む1つ以上のタイル矩形として、制御データ内でパラメータ化される。例えばタイルセット内の所与のタイル矩形について、制御データは、(タイル矩形の左上の角及びタイル矩形の右下の角といった)タイル矩形の2つの角を識別するシンタックス要素を含む。制御データは、タイルセットの識別子と、タイルセット内のタイル矩形の総数(count)を示すカウントパラメータと、タイルセット内の各タイル矩形について、タイル矩形の位置を示すシンタックス要素を含むこともできる。
例示の実装において、複数のピクチャは、同様に分割されて、各ピクチャ内にタイルを生成する。典型的に、所与のタイルセットは、複数のピクチャの各々に対して同一である。しかしながら、一部の場合には、所与のタイルセットは、複数のピクチャの少なくとも一部のピクチャの間で異なる可能性がある。あるいは、異なるピクチャを異なる方法でタイルに分割することができる。
例示の実装において、制御データは、タイルセット境界を越えるインターピクチャ予測の依存性がタイルセットについて制限されることを示す補足エンハンスメント情報(SEI:supplemental enhancement information)である。あるSEIメッセージは、単一のタイルセットのインターピクチャ予測の依存性に対処し、異なるSEIメッセージは異なるタイルセットに対処することができる。あるいは、単一のSEIメッセージが、複数のタイルセットの各々についてのインターピクチャ予測の依存性に対処する。あるいは、SEIメッセージの代わりに、制御データは、タイルセット境界を越えるインターピクチャ予測の依存性がタイルセットについて制限されることをその値により示す、フラグとすることもできる。あるいは、制御データは何らかの他の形式をとることもできる。
MCTS制御データの伝達及び使用を、方法の一部として、方法を実行するよう適合されたコンピューティングデバイスの一部として、あるいはコンピューティングデバイスに方法を実行させるためのコンピュータ実行可能命令を記憶する有形のコンピュータ読取可能媒体の一部として実装することができる。
本発明の上記及び他の目的、特徴及び利点は、以下の詳細な説明からより明らかになるであろう。以下の詳細な説明は添付の図面を参照して進められる。
記述した数例の実施形態を実装することができる例示のコンピューティングデバイスの図である。 記述した数例の実施形態を実装することができる例示のネットワーク環境の図である。 記述した数例の実施形態を実装することができる例示のネットワーク環境の図である。 例示のエンコーダシステムの図であり、このエンコーダシステムとともに記述した数例の実施形態を実装することができる。 例示のデコーダシステムの図であり、このデコーダシステムとともに記述した数例の実施形態を実装することができる。 例示のビデオエンコーダを示す図であり、このビデオエンコーダとともに記述した数例の実施形態を実装することができる。 例示のビデオエンコーダを示す図であり、このビデオエンコーダとともに記述した 例示のビデオデコーダを示す図であり、このビデオデコーダとともに記述した数例の実施形態を実装することができる。 タイルセットに編成され得る、タイルに分割されるフレームの例を示す図である。 タイルセットに編成され得る、タイルに分割されるフレームの例を示す図である。 タイルセットに編成され得る、タイルに分割されるフレームの例を示す図である。 タイルセットに編成され得る、タイルに分割されるフレームの例を示す図である。 タイルセットに編成され得る、タイルに分割されるフレームの例を示す図である。 タイルセットに編成され得る、タイルに分割されるフレームの例を示す図である。 タイルセットに編成され得る、タイルに分割されるフレームの例を示す図である。 タイルセット境界における動き制限を伴わない、タイルセットの予測ユニットについての動き推定及び動き補償予測を示す図である。 タイルセット境界における動き制限を伴う、タイルセットの予測ユニットについての動き推定及び動き補償予測を示す図である。 MCTSを有するピクチャの並行符号化及び並行復号の例を示す図である。 MCTSを有するピクチャの関心領域復号の例を示す図である。 MCTSを有するピクチャのトランスコーディングの例を示す図である。 MCTSを有するピクチャの漸進的デコーダリフレッシュ機能の例を示す図である。 例示の実装におけるMCTSのためのSEIメッセージのシンタックスを示すテーブルである。 例示の実装におけるMCTSのためのSEIメッセージのシンタックスを示すテーブルである。 例示の実装におけるMCTSのためのSEIメッセージのシンタックスを示すテーブルである。 MCTS制御データを伝達するための一般化した方法を示すフローチャートである。 MCTSの選択的使用を伴う符号化のための例示的な方法を示すフローチャートである。 MCTS制御データとともに伝達される符号化データを処理するための一般化した方法を示すフローチャートである。
詳細な説明は、動き制限タイルセット(MCTS)のための制御データの伝達及び/又は使用のためのアプローチを提示する。特に、詳細な説明は、タイルの1つ以上の指定されたセット内のインターピクチャ予測処理が他のピクチャ内のタイルの同じセット内の領域のみを参照するよう制限されることを指示する、制御データの伝達及び使用のための革新を提示する。様々な例において、MCTS制御データのための補足エンハンスメント情報(SEI)メッセージのシンタックス及びセマンティクスが提示される。MCTS制御データは、関心領域の復号及び表示の複雑なスケーラブル性、符号化データを選択されたタイルセットに限定するようトランスコーディングすること、損失のロバスト性、そして符号化及び/又は復号における並行性を促進することができる。
本明細書で説明される操作は、適切に、エンコーダ(例えばビデオエンコーダ)、デコーダ(例えばビデオデコーダ)又はトランスコードツール(例えばビデオトランスコーダ)によって実行されるように説明されるが、多くの場合、これらの操作を代替的に、別のタイプのメディア処理ツール(例えばアップサンプリング用のビデオプロセッサ、ダウンサンプリング用のビデオプロセッサ)によって実行することもできる。
本明細書で説明される革新の一部は、HEVC規格に特有のシンタックス要素及び操作に関連して例示される。例えばHEVC規格のドラフト版のJCTVC-L100(「High Efficiency Video Coding(HEVC) Text Specification Draft 8」、JCTVC-L1003_v34、2013年1月)への参照を行うが、その開示内容は参照により本明細書に組み込まれる。本明細書で説明される革新を、他の規格又はフォーマットについて実装することもできる。
より具体的には、本明細書で説明される実施例に対する様々な代替が可能である。例えば本明細書で説明される方法の一部を、説明される方法の動作の順序を変更することにより、一部の方法の動作を分割し、反復又は省略すること等により変更することができる。開示される技術の様々な態様を組み合わせて、あるいは別個に使用することができる。異なる実施形態は、説明される革新の1つ又は複数を用いる。本明細書で説明される革新の幾つかは、背景技術として示した問題の1つ又は複数に対処する。典型的には、所与の技術/ツールは、そのような問題の全ては解決しない。
<I.例示のコンピューティングシステム>
図1は、説明される幾つかの革新が実装され得る適切なコンピューティングシステム(100)の一般化された例を図示している。革新は多様な汎用又は専用のコンピューティングシステムにおいて実装され得るので、コンピューティングシステム(100)は、使用又は機能の範囲に関して如何なる限定も示唆するように意図されていない。
図1を参照すると、コンピューティングシステム(100)は、1つ以上の処理ユニット(110、115)及びメモリ(120、125)を含む。処理ユニット(110、115)は、コンピュータ実行可能命令を実行する。処理ユニットは、汎用の中央処理ユニット(CPU)、特定用途向け集積回路(ASIC)のプロセッサ又は任意の他のタイプのプロセッサとすることができる。マルチ処理システムでは、マルチ処理ユニットがコンピュータ実行可能命令を実行して処理能力を向上させる。例えば図1は、中央処理ユニット(110)だけでなく、グラフィクス処理ユニット又はコプロセッシングユニット(115)を示している。有形のメモリ(120、125)は、揮発性メモリ(例えばレジスタ、キャッシュ、RAM)、不揮発性メモリ(例えばROM、EEPROM、フラッシュメモリ等)又は処理ユニットによってアクセス可能なこれらの2つの何らかの組合せでとすることができる。メモリ(120、125)は、MCTS制御データの伝達及び/又は使用のための1つ以上の革新を実装するソフトウェア(180)を、処理ユニットによる実行に適したコンピュータ実行可能な命令の形で格納する。
コンピューティングシステムは、追加の特徴を有することがある。例えばコンピューティングシステム(100)は、ストレージ(140)、1つ以上の入力デバイス(150)、1つ以上の出力デバイス(160)及び1つ以上の通信接続(170)を含む。バス、コントローラ又はネットワークといった相互接続機構(図示せず)がコンピューティングシステム(100)のコンポーネントを相互接続する。典型的には、オペレーティングシステムソフトウェア(図示せず)が、コンピューティングシステム(100)上で実行する他のソフトウェアのためにオペレーティング環境を提供し、コンピューティングシステム(100)のコンポーネントの動作を調整する。
有形のストレージ(140)は、取外し可能であっても取外し不可能であってもよく、磁気ディスク、磁気テープ若しくはカセット、CD−ROM、DVD又は情報を記憶するのに使用することができ、かつコンピューティングシステム(100)内でアクセスすることができる任意の他の媒体を含む。ストレージ(140)は、MCTS制御データの伝達及び/又は使用のための1つ以上の革新を実装するソフトウェア(180)のために命令を格納する。
入力デバイス(159)は、キーボード、マウス、ペン若しくはトラックボールといったタッチ入力デバイス、音声入力デバイス、スキャニングデバイス又はコンピューティングシステム(100)へ入力を提供する別のデバイスとすることができる。ビデオについて、入力デバイス(150)は、カメラ、ビデオカード、TVチューナーカード、又はアナログ若しくはデジタル形式のビデオ入力、又はコンピューティングシステム(100)へのビデオサンプルを読み込むCD−ROM若しくはCD−RWを受け取る同様のデバイスであってよい。出力デバイス(160)は、ディスプレイ、プリンタ、スピーカ、CDライター又はコンピューティングシステム(100)からの出力を提供する別のデバイスとすることができる。
通信接続部(170)は、通信媒体を介した別のコンピューティングエンティティへの通信を可能にする。通信媒体は、コンピュータ実行可能命令、オーディオ若しくはビデオ入力若しくは出力又は他のデータといった情報を、変調されたデータ信号で伝達する。変調されたデータ信号は、信号内に情報を符号化するような方法で設定又は変更された特性のうちの1つ又は複数を有する信号である。限定ではなく例として、通信媒体は電子、光、RF又は他の担体を使用することができる。
本革新を、コンピュータ読取可能媒体の一般的なコンテキストで説明することができる。コンピュータ読取可能媒体は、コンピューティング環境内でアクセスすることができる任意の利用可能な媒体である。限定ではなく例として、コンピューティングシステム(100)により、コンピュータ読取可能媒体は、メモリ(120、125)、ストレージ(140)及び上記のいずれかの組合せを含む。
本革新を、プログラムモジュールに含まれるコンピュータ実行可能命令といった、対象となる実際のプロセッサ又は仮想プロセッサ上のコンピューティングシステム内で実行されるコンピュータ実行可能命令の一般的なコンテキストで説明することができる。一般に、プログラムモジュールは、特定のタスクを実行するか、特定の抽象データ型を実装する、ルーチン、プログラム、ライブラリ、オブジェクト、クラス、コンポーネント、データ構造等を含む。プログラムモジュールの機能は、様々な実施形態において望まれるように、プログラムモジュール間で組み合わせてもよく、分割されてもよい。プログラムモジュールのためのコンピュータ実行可能命令は、ローカル又は分散コンピューティングシステムにおいて実行され得る。
「システム」及び「デバイス」という用語は、本明細書では交換可能に使用される。文脈がそうでないことを明らかに示していない限り、いずれの用語もコンピューティングシステム又はコンピューティングデバイスのタイプに関する如何なる限定も示唆しない。一般に、コンピューティングシステム又はコンピューティングデバイスは、ローカルとすることも分散させることもでき、本明細書で説明される機能を実装するソフトウェアとともに、専用のハードウェア及び/又は汎用のハードウェアの任意の組合せを含むことができる。
開示される方法を、開示される方法のいずれかを実行するよう構成される専用のコンピューティングハードウェアを使用して実装することもできる。例えば開示される方法を、開示される方法のいずれかを実装するように特別に設計されるか構成される、集積回路(例えばASIC(ASIC、デジタル信号処理ユニット(DSP)、グラフィクス処理ユニット(GPU)又はフィールドプログラマブルゲートアレイ(FPGA)のようなプログラマブル論理デバイス(PLD)等)によって実装することができる。
説明の目的で、詳細な説明では「決定する」及び「使用する」等のような用語を使用して、コンピューティングシステムにおける演算操作を説明する。これらの用語は、コンピュータによって実行される操作の高レベルな抽象化であり、人間によって行われる動作と混同されるべきではない。これらの用語に対応する実際のコンピュータの操作は、実装に応じて変化する。
<II.例示のネットワーク環境>
図2a及び図2bは、ビデオエンコーダ(220)及びビデオデコーダ(270)を含む例示のネットワーク環境(201、202)を示す。エンコーダ(220)及びデコーダ(270)は、適切な通信プロトコルを使用してネットワーク(250)を介して接続される。ネットワーク(250)は、インターネット又は別のコンピュータネットワークを含むことができる。
図2aに示されるネットワーク環境(201)において、各リアルタイム通信(RTC)ツール(210)は、双方向通信のためにエンコーダ(220)とデコーダ(270)の双方を含む。所与のエンコーダ(220)は、HEVC規格、SMPTE 421M規格、ISO‐IEC 14496‐10規格(H.264又はAVCとしても知られる)、別の規格又は独自仕様のフォーマットに準拠した出力を生成することができ、対応するデコーダ(270)が、エンコーダ(220)からの符号化データを受け入れる。双方向通信は、ビデオ会議、ビデオ電話又は他の2者の通信シナリオの一部とすることができる。図2aのネットワーク環境(201)は、2つのリアルタイム通信ツール(210)を含むが、ネットワーク環境(201)は、代わりに、多者通信に参加する3つ又はそれ以上のリアルタイム通信ツール(210)を含むことができる。
リアルタイム通信ツール(210)は、エンコーダ(220)による符号化を管理する。図3は、リアルタイム通信ツール(210)に含まれ得る例示のエンコーダシステム(300)を示す。代替として、リアルタイム通信ツール(210)は別のデコーダシステムを使用する。リアルタイム通信ツール(210)は、デコーダ(270)による復号も管理する。図4は、リアルタイム通信ツール(210)に含まれ得る例示のデコーダシステム(400)を示す。代替として、リアルタイム通信ツール(210)は別のデコーダシステムを使用する。
図2bに示されるネットワーク環境(202)において、符号化ツール(212)は、デコーダ(270)を含む複数の再生ツール(214)への配信用に、ビデオを符号化するエンコーダ(220)を含む。一方向通信を、ビデオ監視システム、ウェブカメラモニタリングシステム、リモートデスクトップ会議プレゼンテーション又はビデオが符号化されて、ある場所から1つ以上の他の場所に送信される他のシナリオに提供することができる。図2bのネットワーク環境(202)は、2つの再生ツール(214)を含むが、ネットワーク環境(202)は、より多く又はより少ない再生ツール(214)を含むことができる。一般に、再生ツール(214)は、符号化ツール(212)と通信して、受け取るべき再生ツール(214)用のビデオのストリームを決定する。再生ツール(214)は、ストリームを受け取り、受け取った符号化データを適切な期間の間バッファリングして、復号及び再生を開始する。
図3は、符号化ツール(212)に含まれ得る例示のエンコーダシステム(300)を示す。代替として、符号化ツール(212)は別のエンコーダシステムを使用する。符号化ツール(212)は、1つ以上の再生ツール(214)との接続を管理するためにサーバ側コントローラロジックも含むことができる。図4は、再生ツール(214)に含まれ得る例示のデコーダシステム(400)を示す。代替として、再生ツール(214)は別のデコーダシステムを使用する。再生ツール(214)は、符号化ツール(212)との接続を管理するためにクライアント側コントローラロジックも含むことができる。
<III.例示のエンコーダシステム>
図3は、例示のエンコーダシステム(300)のブロック図であり、説明される幾つかの実施形態は、このエンコーダシステムとの関連で実装され得る。エンコーダシステム(300)は、リアルタイム通信用の低遅延符号化モード、トランスコードモード及びファイル若しくはストリームからのメディア再生のための通常の符号化モードといった、複数の符号化モードのうちのいずれかで動作する能力を有する汎用の符号化ツールとすることができ、あるいはそのような符号化モードの1つに対して適合される専用の符号化ツールとすることもできる。エンコーダシステム(300)を、オペレーティングシステムモジュールとして、アプリケーションライブラリの一部として、あるいはスタンドアロンのアプリケーションとして実装することができる。全体として、エンコーダシステム(300)は、ビデオソース(310)からソースビデオフレーム(311)のシーケンスを受け取り、チャネル(390)への出力として符号化データを生成する。チャネルへ出力される符号化データは、MCTS制御データ(例えばMCTSのためのSEIメッセージ)を含むことができる。
ビデオソース(310)は、カメラ、チューナーカード、記憶媒体又は他のデジタルビデオソースとすることができる。ビデオソース(310)は、例えば毎秒30フレームのフレームレートで、ビデオフレームのシーケンスを生成する。本明細書で使用されるとき、「フレーム」という用語は、一般に、ソースの符号化又は再構築された画像データを指す。プログレッシブビデオでは、フレームはプログレッシブビデオフレームである。インタレースビデオでは、例示の実施形態によると、インタレースビデオフレームは、符号化の前にデインタレースされる。あるいは、2つの相補インタレースビデオフィールドは、インタレースビデオフレーム又は別個のフィールドとして符号化される。プログレッシブビデオフレームを示すだけでなく、「フレーム」又は「ピクチャ」という用語は、単一の対になっていないビデオフィールド、相補的な対のビデオフィールド、所与の時間にビデオオブジェクトを表すビデオオブジェクト平面又はより大きな画像内の関心領域を示すことができる。ビデオオブジェクト平面又は領域は、あるシーンの複数のオブジェクト又は領域を含む、より大きな画像の一部とすることができる。
到着ソースフレーム(311)は、複数のフレームバッファ記憶エリア(321、322,...、32n)を含むソースフレームの一時メモリ記憶エリア(320)内に格納される。フレームバッファ(321、322等)は、ソースフレーム記憶エリア(320)内に1つのソースフレームを保持する。ソースフレーム(322)のうちの1つ以上がフレームバッファ(321、322等)内に格納された後、フレームセレクタ(330)は、個々のソースフレームをソースフレームの記憶エリア(320)から周期的に選択する。フレームがフレームセレクタ(330)によってエンコーダ(340)への入力用に選択される順序は、フレームがビデオソース(310)によって生成される順序と異なっていてよく、例えばフレームは時間的な後方予測を容易にするために、前方からの順序であってもよい。エンコーダ(340)の前に、エンコーダシステム(300)は、符号化の前に選択フレーム(331)の事前処理(例えばフィルタリング)を実行するプリプロセッサ(図示せず)を含むことができる。事前処理は、符号化のための主成分及び副成分への色空間変換を含むことができる。
エンコーダ(340)は、選択フレーム(331)を符号化して符号化フレーム(341)を生成し、また、メモリ管理制御動作(MMCO:memory management control operation)信号(342)又は参照ピクチャセット(RPS:reference picture set)情報も生成する。現在のフレームが、符号化された最初のフレームでない場合、その符号化プロセスを実行するとき、エンコーダ(340)は、復号フレームの一時メモリ記憶エリア(360)に格納されている1つ以上の先行して符号化/復号されたフレーム(369)を使用することができる。そのような格納済みの復号されたフレーム(369)は、現在のソースフレーム(331)のコンテンツのインターフレーム予測のための参照フレームとして使用される。一般に、エンコーダ(340)は、タイルへの分割、動き推定及び補償、周波数変換、量子化及びエントロピー符号化といった、符号化タスクを実行する複数の符号化モジュールを含む。エンコーダ(340)によって実行される正確な操作は、圧縮フォーマットに応じて変わり得る。出力の符号化データのフォーマットは、HEVCフォーマット、Windows(登録商標)メディアビデオフォーマット、VC−1フォーマット、MPEG−xフォーマット(例えばMPEG−1、MPEG−2又はMPEG−4)、H.26xフォーマット(例えばH.261、H.2562、H.263、H.264)又は別のフォーマットとすることができる。
エンコーダ(340)は、1つのフレームを、同じサイズ又は異なるサイズの複数のタイルに分割することができる。例えばエンコーダ(340)は、フレームを、フレーム境界によりフレーム内のタイルの水平境界と垂直境界を定義するタイル行及びタイル列に従って分割し、この場合、各タイルは矩形領域である。エンコーダ(340)は次いで、タイルを1つ以上のタイルセットにグループ化する。この場合、1つのタイルセットは、上記タイルのうちの1つ以上を含むグループである。タイルセット内のタイルは、フレーム内で隣接する可能性がある。あるいは、タイルセットは、フレーム内の隣接しないタイルを含む可能性がある。典型的に、あるフレームについて定義されるタイルセットは、一連のフレーム内の他のフレームについて(例えばフレームのグループについて、全体のシーケンスについて)定義されるものと同じタイルセットである。
エンコーダ(340)は、参照フレームからの予測に関して、インター符号化された予測フレームを表す。動き推定器は、1つ以上の参照フレーム(369)に対するソースフレーム(331)のサンプルのブロック又は他のセットの動きを推定する。複数の参照フレームが使用されるとき、複数の参照フレームは、異なる時間的方向又は同じ時間的方向からのものとすることができる。動き推定の一部として、エンコーダ(340)は、動き補償予測の参照領域が参照フレーム内の同じタイルセット内に収まるように、現在のフレームのタイルセット内のブロックの動きベクトルを制限することができる。動き補償予測の参照領域は、現在のフレームのサンプルの予測単位(prediction unit)(例えばブロック)について動き補償予測値を生成するのに使用される、参照フレーム内のサンプルの領域である。動き補償予測は、部分的位置補間(fractional-position interpolation)のように、予測単位のサイズと比べて幾らか大きい参照フレーム内の領域のサンプルにフィルタリングを適用する処理を伴うことがある。言い換えると、現在のフレームの予測単位について、動き補償予測値を計算するのに使用される動き補償予測の参照領域は、通常の予測単位のサイズの境界を超える拡張をサポートする補間フィルタの使用により、予測単位よりも大きなサイズを有することができる。そのようなMCTSを使用することは、タイルセットについての関心領域の復号、トランスコーディング及び並行復号のための機能を促進することができる。動き推定器は、エントロピー符号化される動きベクトル情報のような動き情報を出力する。動き補償器は、動きベクトルを参照フレーム(369)に適用して、動き補償予測値を決定する。
エンコーダは、ブロックの動き補償予測値と、対応する元の値との差を(存在する場合)決定する。これらの予測差分値(prediction residual value)は、周波数変換、量子化及びエントロピー符号化を使用して更に符号化される。例えばエンコーダ(340)は、ピクチャ、タイル、スライス及び/又はビデオの他の部分について量子化パラメータ(QP)の値を設定し、それに従って、変換係数を量子化する。同様に、イントラ予測では、エンコーダ(340)は、ブロックについてイントラ予測値を決定し、予測差分値を決定し、(周波数変換、量子化及びエントロピー符号化を用いて)予測差分値を符号化する。特に、エンコーダ(340)のエントロピーコーダは、量子化された変換係数値だけでなく、特定のサイド情報(例えば動きベクトル情報、QP値、モード決定、パラメータ選択)を圧縮する。典型的なエントロピー符号化技術は、Exp−Golomb符号化、算術符号化、差分符号化、ハフマン符号化、ランレングス符号化、V2V(variable-length-to-variable-length)符号化、V2F(variable-length-to-fixed-length)符号化、LZ符号化、辞書符号化、PIPE(probability interval partitioning entropy coding)符号化及び上記の組合せを含む。エントロピーコーダは、異なる種類の情報に異なる符号化技術を使用することができ、特定の符号化技術において複数の符号化テーブルから選択することができる。
符号化フレーム(341)及びMMCO/RPS情報(342)は、復号処理エミュレータ(350)によって処理される。復号処理エミュレータ(350)は、デコーダの機能の一部、例えばエンコーダ(340)によって動き推定及び補償で使用される参照フレームを再構築する復号タスクを実装する。復号処理エミュレータ(350)は、MMCO/RPS情報(342)を使用して、符号化すべき後続フレームのイントラフレーム予測において参照フレームとして使用するために、所与の符号化フレーム(341)を再構築して格納する必要があるかどうかを判断する。MMCO/RPS情報(342)が、符号化フレーム(342)を格納する必要があることを示す場合、復号処理エミュレータ(350)は、符号化フレーム(341)を受け取って対応する復号フレーム(351)を生成する、デコーダによって実施されるであろう、復号処理をモデル化する。そのようにする際に、エンコーダ(340)が、復号フレームの記憶エリア(360)内に格納されている復号フレーム(369)を使用しているとき、復号処理エミュレータ(350)も、記憶エリア(360)からの復号フレーム(369)を復号処理の一部として使用する。
復号フレームの一時メモリ記憶エリア(360)は、複数のフレームバッファ記憶エリア(361、362、...、36n)を含む。復号処理エミュレータ(350)は、エンコーダ(340)によって参照フレームとして使用するために必要とされなくなったフレームを有するいずれかのフレームバッファ(361、362等)を識別するために、MMO/RPS情報(342)を使用して記憶エリア(360)のコンテンツを管理する。復号処理をモデル化した後に、復号処理エミュレータ(350)は、新たに復号されたフレーム(351)を、この手法で識別されたフレームバッファ(361、362等)内に格納する。
符号化フレーム(341)及びMMCO/RPS情報(342)は、一時的な符号化データエリア(370)にバッファされる。符号化データエリア(370)に集約される符号化データは、基本的な符号化ビットストリームのシンタックスの一部として、1つ以上のピクチャの符号化データを含む。符号化データエリア(370)に集約される符号化データは、(例えば1つ以上のSEIメッセージ又はビデオユーサビリティ情報(VSI)メッセージ内の1つ以上のパラメータとして)符号化されたビデオデータに関連するメディアメタデータも含むことができる。そのようなメディアメタデータは、MCTS制御データ(例えばMCTS用のSEIメッセージ)を示すシンタックス要素を含むことができる。
一時的な符号化データエリア(370)からの集約データ(371)は、チャネルエンコーダ(380)によって処理される。チャネルエンコーダ(380)は、集約データを、(例えばISO/IEC 14496−12といったメディアコンテナフォーマットに従って)メディアストリームとしての伝送のためにパッケージ化することができ、この場合、チャネルエンコーダ(380)は、シンタックス要素を、メディア伝送ストリームのシンタックスの一部として追加することができる。そのようなシンタックスは、MCTS制御データを示すシンタックス要素を含むことができる。あるいは、チャネルエンコーダ(380)は、(例えばISO/IEC 14496−12といったメディアコンテナフォーマットに従って)ファイルとしての記憶のために集約データを編成することができ、この場合、チャネルエンコーダ(380)は、シンタックス要素を、メディアストレージファイルのシンタックスの一部として追加することができる。そのようなシンタックスは、MCTS制御データを示すシンタックス要素を含むことができる。あるいは、より一般的に、チャネルエンコーダ(380)は、1つ以上のメディアシステム多重化プロトコル又はトランスポートプロトコルを実装することができ、この場合、チャネルエンコーダ(380)は、シンタックス要素を、プロトコルのシンタックスの一部として追加することができる。やはり、そのようなシンタックスは、MCTS制御データを示すシンタックス要素を含むことができる。チャネルエンコーダ(380)は、ストレージ、通信接続部又は出力用の別のチャネルを表すチャネル(390)に出力を提供する。
<IV.例示のデコーダシステム>
図4は、例示のデコーダシステム(400)のブロック図であり、説明される幾つかの実施形態は、このデコーダシステムとの関連で実装され得る。デコーダシステム(400)は、リアルタイム通信用の低遅延復号モード及びファイル若しくはストリームからのメディア再生のための通常の復号モードといった、複数の復号モードのうちのいずれかで動作する能力を有する汎用の復号ツールとすることができ、あるいはそのような復号モードの1つに対して適合される専用の復号ツールとすることもできる。デコーダシステム(400)を、オペレーティングシステムモジュールとして、アプリケーションライブラリの一部として、あるいはスタンドアロンのアプリケーションとして実装することができる。全体として、デコーダシステム(400)は、チャネル(410)から符号化データを受け取り、再構築されたフレームを、出力先(490)への出力として生成する。符号化データは、MCTS制御データを示すシンタックス要素を含むことができる。
デコーダシステム(400)は、チャネル(410)を含む。チャネル(410)は、ストレージ、通信接続又は入力としての符号化データ用の別のチャネルを表すことができる。チャネル(410)は、チャネル符号化された、符号化データを生成することができる。チャネルデコーダ(420)は、符号化データを処理することができる。例えばチャネルデコーダ(420)は、(例えばISO/IEC 14496−12のようなメディアコンテナフォーマットに従って)伝送のためにメディアストリームとして集約されたデータを、パッケージ解除し、この場合、チャネルデコーダ(420)は、メディア伝送ストリームのシンタックスの一部として追加されたシンタックス要素を解析することができる。そのようなシンタックスは、MCTS制御データを示すシンタックス要素を含むことができる。あるいは、チャネルデコーダ(420)は、(例えばISO/IEC 14496−12のようなメディアコンテナフォーマットに従って)記憶のためにファイルとして集約された符号化ビデオデータを分割することができ、この場合、チャネルデコーダ(420)は、メディア記憶ファイルのシンタックスの一部として追加されたシンタックス要素を解析することができる。そのようなシンタックスは、MCTS制御データを示すシンタックス要素を含むことができる。あるいは、より一般的には、チャネルデコーダ(420)は、1つ以上のメディアシステム逆多重化プロトコル又はトランスポートプロトコルを実装することができ、この場合、チャネルデコーダ(420)は、プロトコルのシンタックスの一部として追加されたシンタックス要素を解析することができる。やはり、そのようなシンタックスは、MCTS制御データを示すシンタックス要素を含むことができる。
チャネルデコーダ(420)から出力される符号化データ(421)は、十分な量のデータが受け取られるまで、一時的な符号化データエリア(430)に格納される。符号化データ(421)は、符号化フレーム(431)及びMMCO/RPS情報(432)を含む。符号化データエリア(430)内の符号化データ(421)は、基本の符号化データビデオビットストリームのシンタックスの一部として、1つ以上のピクチャの符号化データを含む。符号化データエリア(430)内の符号化データ(421)は、(例えば1つ以上のSEIメッセージ又はVUIメッセージ内の1つ以上のパラメータとして)符号化ビデオデータに関連するメディアメタデータも含むことができる。そのようなメディアメタデータは、(例えばSEIメッセージの一部として)MCTS制御データを示すシンタックス要素を含むことができる。
一般に、符号化データエリア(430)は、符号化データ(421)がデコーダ(450)によって使用されるまで、符号化データ(421)を一時的に格納する。その時点で、符号化フレーム(431)及びMMCO/RPS情報(432)の符号化データは、符号化データエリア(430)からデコーダ(450)へ転送される。復号が続くと、新たな符号化データが、符号化データエリア(430)に追加されて、符号化データエリア(430)内に残っている最も古い符号化データが、デコーダ(450)に転送される。
デコーダ(450)は、符号化フレーム(431)を周期的に復号して、対応する復号フレーム(451)を生成する。必要に応じて、その復号処理を実行するとき、デコーダ(450)は、1つ以上の先行して復号されたフレーム(469)を、インターフレーム予測の参照フレームとして使用することができる。デコーダ(450)は、そのような先行して復号されたフレーム(469)を、復号フレームの一時メモリ記憶エリア(460)から読み出す。一般に、デコーダ(450)は、エントロピー復号、逆量子化、逆周波数変換、動き補償及びタイルのマージといった、復号タスクを実行する複数の復号モジュールを含む。デコーダ(450)によって実行される正確な操作は、圧縮フォーマットに応じて変わり得る。
例えばデコーダ(450)は、圧縮フレーム又はフレームのシーケンスの符号化データを受け取り、復号されたフレーム(451)を含む出力を生成する。デコーダ(450)では、バッファが、圧縮フレームの符号化データを受け取り、そして適切な時に、受け取った符号化データを、エントロピーデコーダに対して利用可能にする。エントロピーデコーダは、典型的には、エンコーダで実行されたエントロピー符号化の逆を適用して、エントロピー符号化された量子化データ及びエントロピー符号化されたサイド情報をエントロピー復号する。動き補償器は、動き情報を1つ以上の参照フレームに適用して、再構築されているフレームのサブブロック及び/又はブロック(一般的にはブロック)の動き補償予測を形成する。イントラ予測モジュールは、隣接する先行して再構築されたサンプル値から、現在のブロック値のサンプル値を空間的に予測することができる。デコーダ(450)は、予測残差も再構築する。逆量子化器は、エントロピー復号データを逆量子化する。例えばデコーダ(450)は、ビットストリーム内のシンタックス要素に基づいて、ピクチャ、タイル、スライス及び/又はビデオの他の部分についてQPの値を設定し、これに応じて変換係数を逆量子化する。逆周波数変換器は、量子化された周波数領域データを、空間領域情報に変換する。予測フレームについて、デコーダ(450)は、再構築された予測残差を動き補償予測と組み合わせて、再構築フレームを形成する。デコーダ(450)は、同様に、予測残差をイントラ予測からの空間予測値と組み合わせることができる。ビデオデコーダ(450)における動き補償のループは、適応的な非ブロック化フィルタを含み、復号フレーム(451)内のブロック境界の行及び/又は列にわたる不連続性を取り除く。
デコーダ(450)は、実装に応じて様々な方法でMCTS制御データを使用することができる。例えばデコーダ(450)は、異なるタイルのセットを並行に復号することを決定するときに、MCTS制御データを使用することができる。あるいは、デコーダ(450)は、関心領域としての表示用に選択されたタイルセットのみを復号し、タイルセットの外部にあるフレームの部分は復号しないことを決定するときに、MCTS制御データを使用することができる。
復号フレームの一時メモリ記憶エリア(460)は、複数のフレームバッファ記憶エリア(461、462、...、46n)を含む。復号フレームの記憶エリア(460)は、復号ピクチャのバッファの例である。デコーダ(450)は、MMCO/RPS情報(432)を使用して、復号フレーム(451)を格納することができるフレームバッファ(461、462等)を識別する。デコーダ(450)は、そのフレームバッファ内に復号フレーム(451)を格納する。
出力シーケンサ(480)は、MMCO/RPS情報(442)を使用して、出力順で生成されるべき次のフレームが、復号フレームの記憶エリア(460)内でいつ利用可能になるかを識別する。出力順で生成されるべき次のフレーム(481)が、復号フレームの記憶エリア(460)内で利用可能になると、これは、出力シーケンサ(480)によって読み出されて、出力先(490)(例えばディスプレイ)に出力される。一般に、フレームが、出力シーケンサ(480)によって復号フレームの記憶エリア(460)から出力される順序は、フレームがデコーダ(450)によって復号される順序とは異なっていてよい。
<V.例示のビデオエンコーダ>
図5a及び図5bは、一般的なビデオエンコーダ(500)のブロック図であり、記述した数例の実施形態は、このビデオエンコーダ(500)との関連で実装され得る。エンコーダ(500)は、入力ビデオ信号(505)として現在のピクチャを含むビデオピクチャのシーケンスを受け取り、出力として符号化データを符号化ビデオビットストリーム(595)内に生成する。
エンコーダ(500)は、ブロックベースであり、実装に応じたブロックフォーマットを使用する。ブロックは、異なる段階、例えば周波数変換やエントロピー符号化の段階で更にサブ分割され得る。例えばピクチャを、64×64ブロック、32×32ブロック又は16×16ブロックに分割することができ、これを今度は、符号化及び復号用のピクセル値のより小さなブロック及びサブブロックに分割することができる。
エンコーダ(500)は、イントラピクチャ符号化及び/又はインターピクチャ符号化を使用して、ピクチャを圧縮する。エンコーダ(500)のコンポーネントの多くが、イントラピクチャ符号化とインターピクチャ符号化の双方に使用される。これらのコンポーネントによって実行される正確な操作は、圧縮されている情報のタイプに応じて変わる可能性がある。
タイル化モジュール(510)は、任意選択で、1つのピクチャを同じサイズ又は異なるサイズの複数のタイルに分割する。例えばタイル化モジュール(510)は、ピクチャを、ピクチャ境界によりピクチャ内でタイルの水平及び垂直境界を定義する、タイル行とタイル列とに従って分割する。この場合、各タイルは矩形の領域である。タイル化モジュール(510)は、これらのタイルを1つ以上のタイルセットにグループ化することができ、この場合、1つのタイルセットは、これらのタイルのうちの1つ以上から成るグループである。タイルセット内のタイルは、ピクチャ内で隣接する可能性がある。あるいは、タイルセットは、ピクチャ内の隣接しないタイルを含む可能性がある。典型的には、ピクチャについて定義されるタイルセットは、ピクチャシーケンス内の他のピクチャについて(例えばピクチャのグループについて、全体のシーケンスについて)定義されるものと同じタイルセットである。
一般的な符号化制御部(520)は、入力ビデオ信号(505)についてのピクチャだけでなく、エンコーダ(500)の様々なモジュールからのフィードバック(図示せず)を受け取る。全体的に、一般的な符号化制御部(520)は、制御信号(図示せず)を、(タイル化モジュール(510)、変換器/スケーラ/量子化器(530)、スケーラ/逆変換器(535)、イントラピクチャ推定器(540)、動き推定器(550)及びイントラ/インタースイッチといった)他のモジュールに提供して、符号化中に符号化パラメータを設定及び変更する。一般的な符号化制御部(520)は、符号化中に、例えば速度ひずみ分析を実行して、中間結果を評価することもできる。一般的な符号化制御部(520)は、符号化中になされた決定を示す一般的な制御データを生成し、これにより、対応するデコーダは、一貫性のある決定を行うことができる。一般的な制御データ(522)は、ヘッダーフォーマット器/エントロピーコーダ(590)に提供される。一般的な符号化制御部(520)は、符号化中にMCTSを使用すべきかどうかを決定することができる。
現在のピクチャが、インターピクチャ予測を使用して予測される場合、動き推定器(550)は、1つ以上の参照ピクチャに対して、入力ビデオ信号(505)の現在のピクチャのピクセル値のブロック、サブブロック又は他のセットの動きを推定する。復号ピクチャバッファ(570)は、1つ以上の再構築された、先行して符号化されたピクチャを、参照ピクチャとして使用するためにバッファする。複数の参照ピクチャが使用されるとき、複数の参照ピクチャは、異なる時間的方向からのものとすることもでき、同じ時間的方向からのものとすることもできる。現在のピクチャのMCTSについて、動き推定の一部として、動き推定器(550)は、動き補償予測処理によって参照される領域が参照ピクチャ内の同じタイルセット内に収まるように、タイルセット内のブロックについて動きベクトルを制限することができる。
動き推定器(550)は、動きベクトルデータ及び参照ピクチャ選択データといった動きデータ(552)をサイド情報として生成する。動きデータ(552)は、ヘッダーフォーマット器/エントロピーコーダ(590)並びに動き補償器(555)に提供される。
動き補償器(555)は、動きベクトルを、復号ピクチャバッファ(570)からの再構築された参照フレームに適用する。動き補償器(555)は、現在のピクチャについて動き補償予測を生成する。
エンコーダ(500)内の別個の経路において、イントラピクチャ推定器(540)は、入力ビデオ信号(505)の現在のピクチャのピクセル値のブロック、サブブロック又は他のセットについてイントラピクチャ予測をどのように実行するかについて決定する。イントラピクチャ符号化を使用して、現在のピクチャを全体的に又は部分的に符号化することができる。現在のピクチャの再構築(538)の値を使用して、イントラピクチャ推定器(540)は、現在のピクチャの現在のブロック、サブブロック等のピクセル値を、現在のピクチャの隣接する先行して再構築されたピクセル値から、どのように空間的に予測するかについて決定する。イントラピクチャ推定器(540)は、予測モードデータといったイントラ予測データ(542)を、サイド情報として生成する。イントラ予測データ(542)は、ヘッダーフォーマット器/エントロピーコーダ(590)並びにイントラピクチャ予測器(545)に提供される。予測モードデータに従って、イントラピクチャ予測器(545)は、現在のピクチャの現在のブロック又はサブブロックのピクセル値を、現在のピクチャの隣接する先行して再構築されたピクセル値から空間的に予測する。
イントラ/インタースイッチは、ピクセル値の所与のブロック、サブブロック又は他のセットについての予測(558)として使用するために、動き補償予測又はイントラピクチャ予測の値を選択する。予測(558)のサブブロック、ブロック等と、入力ビデオ信号(505)の元の現在のピクチャの対応する部分との間の差(存在する場合)は、そのサブブロック、ブロック等についての残差(518)である。現在のピクチャの再構築の間に、再構築された残差値は、予測(558)と組み合わされて、ビデオ信号(505)からの元のコンテンツの再構築(538)を生成する。しかしながら、損失のある圧縮では、何らかの情報がビデオ信号(505)から失われたままである。
変換器/スケーラ/量子化器(530)では、周波数変換器が、空間領域のビデオ情報を周波数領域(すなわち、空間的変換)のデータへ変換する。ブロックベースのビデオ符号化について、周波数変換器は、離散コサイン変換、その整数近似又は別のタイプの前方ブロック変換を予測残差データのブロック又はサブブロック(あるいは予測値(558)がヌルである場合はピクセル値データ)に適用し、周波数変換係数のブロック/サブブロックを生成する。スケーラ/量子化器は、次いで変換係数をスケーリング及び量子化する。例えば量子化器は、フレームごとに、タイルごとに、スライスごとに、ブロックごとに又は他の基準で変わるステップサイズで、非均一のスカラー量子化を周波数領域データに適用する。量子化された変換係数データ(532)は、ヘッダーフォーマット器/エントロピーコーダ(590)に提供される。
スケーラ/逆変換器(535)では、スケーラ/逆量子化器は、量子化された変換係数に対して、逆スケーリング及び逆量子化を実行する。逆周波数変換器は、逆周波数変換を実行して、再構築された予測残差又はピクセル値のブロック/サブブロックを生成する。エンコーダ(500)は、再構築された残差を、予測(558)の値(例えば動き補償予測値、イントラピクチャ予測値)と組み合わせて、再構築(538)を形成する。
イントラピクチャ予測のために、再構築(538)の値を、イントラピクチャ推定器(540)及びイントラピクチャ予測器(545)にフィードバックすることができる。インターピクチャ予測のために、再構築(538)の値を更にフィルタリングすることができる。フィルタリング制御部(560)は、ビデオ信号(505)の所与のピクチャについて、再構築(538)の値に対して非ブロック化フィルタリング及びサンプル適応的オフセット(SAO)フィルタリングをどのように実行するかを決定する。フィルタリング制御部(560)は、フィルタ制御データ(562)を生成し、このフィルタ制御データ(562)は、ヘッダーフォーマット器/エントロピーコーダ(590)及びマージ/フィルタ部(565)に提供される。
マージ/フィルタ部(565)では、エンコーダ(500)は、異なるタイルからのコンテンツを、ピクチャの再構築されたバージョンへとマージする。エンコーダ(500)は、フレーム内の境界を越える不連続性を適応的に取り除くよう、非ブロック化フィルタリングとSAOフィルタリングをフィルタ制御データ(562)に応じて選択的に実行する。タイル境界は、エンコーダ(500)の設定に応じて、選択的にフィルタされる可能性があり、あるいは全くフィルタされないこともある。復号ピクチャバッファ(570)は、再構築された現在のピクチャを、後続の動き補償予測における使用のためにバッファする。
ヘッダーフォーマット器/エントロピーコーダ(590)は、一般的な制御データ(522)、量子化された変換係数データ(532)、イントラ予測データ(542)、動きデータ(552)及びフィルタ制御データ(562)をフォーマットし、かつ/又はエントロピー符号化する。例えばヘッダーフォーマット器/エントロピーコーダ(590)は、コンテキスト適応型のバイナリ算術符号化を、様々なシンタックス要素のエントロピー符号化のために使用する。ヘッダーフォーマット器/エントロピーコーダ(590)は、符号化ビデオビットストリーム(595)内に符号化データを提供する。符号化ビデオビットストリーム(595)のフォーマットは、HEVCフォーマット、Windows(登録商標)メディアビデオフォーマット、VC−1フォーマット、MPEG−xフォーマット(例えばMPEG−1、MPEG−2又はMPEG−4)、H.26xフォーマット(例えばH.261、H.262、H.263、H.264)又は別のフォーマットとすることができる。
所望の圧縮の実装及びタイプに応じて、エンコーダのモジュールを追加し、省略し、複数のモジュールに分割し、他のモジュールと組み合わせて、かつ/又は同様のモジュールと置換することができる。代替的な実施形態において、異なるモジュール及び/又はモジュールの他の構成を用いるエンコーダが、説明される技術の1つ以上を実装する。エンコーダの具体的な実施形態は、典型的に、エンコーダ(500)の変形又は補足されたバージョンを使用する。エンコーダ(500)内のモジュール間について図示されている関係はエンコーダ内の情報の一般的な流れを示しており、他の関係は簡潔性のために図示されていない。
<VI.例示のビデオデコーダ>
図6は、一般的なビデオデコーダ(600)のブロック図であり、記述した数例の実施形態は、このビデオデコーダ(600)との関連で実装され得る。デコーダ(600)は、符号化ビデオビットストリーム(605)内の符号化データを受け取り、再構築されるビデオ(695)用のピクチャを含む出力を生成する。符号化ビデオビットストリーム(605)のフォーマットは、HEVCフォーマット、Windows(登録商標)メディアビデオフォーマット、VC−1フォーマット、MPEG−xフォーマット(例えばMPEG−1、MPEG−2又はMPEG−4)、H.26xフォーマット(例えばH.261、H.262、H.263、H.264)又は別のフォーマットとすることができる。
デコーダ(600)は、ブロックベースであり、実装に応じたブロックフォーマットを使用する。例えばピクチャを、64×64ブロック、32×32ブロック又は16×16ブロックに分割することができ、これを今度は、復号用のピクセル値のより小さなブロック及びサブブロックに分割することができる。
デコーダ(600)は、イントラピクチャ復号及び/又はインターピクチャ復号を使用して、ピクチャを圧縮解除する。デコーダ(600)のコンポーネントの多くが、イントラピクチャ復号とインターピクチャ復号の双方に使用される。これらのコンポーネントによって実行される正確な操作は、圧縮解除されている情報のタイプに応じて変わる可能性がある。
バッファは、符号化ビデオビットストリーム(605)内の符号化データを受け取り、受け取った符号化データを、パーサ/エントロピーデコーダ(610)に利用可能にする。パーサ/エントロピーデコーダ(610)は、典型的にはエンコーダ(500)において実行されたエントロピー符号化の逆(例えばコンテキスト適応型のバイナリ算術復号)を適用することで、エントロピー符号化されたデータをエントロピー復号する。解析及びエントロピー復号の結果として、パーサ/エントロピーデコーダ(610)は、一般的な制御データ(622)、量子化された変換係数データ(632)、イントラ予測データ(642)、動きデータ(652)及びフィルタ制御データ(662)を生成する。
一般的な復号制御部(620)は、一般的な制御データ(622)を受け取り、制御信号(図示せず)を、(スケーラ/逆変換器(635)、イントラピクチャ予測器(645)、動き補償器(655)及びイントラ/インタースイッチといった)他のモジュールに提供して、復号中に復号パラメータを設定及び変更する。MCTS制御データに基づいて、一般的な復号制御部(620)は、復号中に、MCTSをどのように(例えば選択されたタイルセットの関心領域の復号のために、異なるタイルセットの並行復号のために)利用するかについて決定することができる。
現在のピクチャが、インターピクチャ予測を使用して予測される場合、動き補償器(655)は、動きベクトルデータ及び参照ピクチャ選択データといった、動きデータ(652)を受け取る。動き補償器(655)は、動きベクトルを、復号ピクチャバッファ(670)からの再構築された参照ピクチャに適用する。動き補償器(655)は、現在のピクチャのサブブロック及び/又はブロックについて、動き補償予測を生成する。復号ピクチャバッファ(670)は、1つ以上の先行して再構築されたピクチャを、参照ピクチャとしての使用のために格納する。
デコーダ(600)内の別個の経路において、イントラピクチャ予測器(645)は、予測モードデータといったイントラ予測データ(642)を受け取る。現在のピクチャの再構築(638)の値を使用して、予測モードデータに応じて、イントラピクチャ予測器(645)は、現在のピクチャの現在のブロック又はサブブロックのピクセル値を、現在のピクチャの隣接する先行して再構築されたピクセル値から空間的に予測する。
イントラ/インタースイッチは、ピクセル値の所与のブロック、サブブロック又は他のセットについての予測(658)として使用するために、動き補償予測又はイントラピクチャ予測の値を選択する。デコーダ(600)は、予測(658)を、再構築された残差値と組み合わせて、ビデオ信号(505)からの元のコンテンツの再構築(638)を生成する。
残差を再構築するために、スケーラ/逆変換器(635)は、量子化された変換係数データ(632)を受け取って処理する。スケーラ/逆変換器(635)において、スケーラ/逆量子化器は、量子化された変換係数に対して逆スケーリング及び逆量子化を実行する。逆周波数変換器は、逆周波数変換を実行し、再構築された予測残差又はピクセル値のブロック/サブブロックを生成する。例えば逆周波数変換器は、逆グロック変換を周波数変換係数に適用し、ピクセル値データ又は予測残差データを生成する。逆周波数変換は、逆離散コサイン変換、その整数近似又は別のタイプの逆周波数変換とすることができる。
イントラピクチャ予測のために、再構築(638)の値を、イントラピクチャ予測器(645)にフィードバックすることができる。インターピクチャ予測のために、再構築(638)の値を更にフィルタリングすることができる。マージ/フィルタ部(665)では、デコーダ(600)は、異なるタイルからのコンテンツを、ピクチャの再構築されたバージョンにマージする。デコーダ(600)は、フレーム内の境界を越える不連続性を適応的に取り除くよう、非ブロック化フィルタリングとSAOフィルタリングを、フィルタ制御データ(662)及びフィルタ適応のルールに従って選択的に実行する。デコーダ(600)の設定に応じて、タイル境界は選択的にフィルタされる可能性があり、あるいは全くフィルタされないこともある。復号ピクチャバッファ(670)は、再構築された現在のピクチャを、後続の動き補償予測における使用のためにバッファする。
デコーダ(600)は、事後処理の非ブロック化フィルタも含むことができる。事後処理の非ブロック化フィルタは、任意選択により、再構築されたピクチャ内の不連続性を取り除く。(非リング(de-ring)化フィルタリングのような)他のフィルタを、事後処理のフィルタリングの一部として適用することもできる。
所望の圧縮解除の実装及びタイプに応じて、デコーダのモジュールを追加し、省略し、複数のモジュールに分割し、他のモジュールと組み合わせて、かつ/又は同様のモジュールと置換することができる。代替的な実施形態において、異なるモジュール及び/又はモジュールの他の構成を用いるデコーダが、説明される技術の1つ以上を実装する。デコーダの具体的な実施形態は、典型的に、デコーダ(600)の変形又は補足されたバージョンを使用する。デコーダ(600)内のモジュール間について図示されている関係はデコーダ内の情報の一般的な流れを示しており、他の関係は簡潔性のために図示されていない。
<VII.動き制限タイルセットのための制御データの伝達と使用>
このセクションは、動き制限タイルセット(MCTS)のための制御データの伝達と使用についての様々な革新を提示する。一般に、MCTS制御データは、タイルの1つ以上の指定されたセット(MCTS)内におけるインターピクチャ予測の処理が、特定の領域(例えば他のピクチャ内のタイルの各々対応するセット内の領域)のみを参照するよう制限されることを指示する。本革新は、デコーダが、各ピクチャのコンテンツ全体を復号する必要なく、符号化ビデオシーケンスのピクチャ内の指定されたMCTSを正しく復号することを可能にすることができる。符号化ビデオ内のインターピクチャ予測の依存性が、特定の境界(例えばタイルセットの境界)にわたって制限されるときを示す明示的な指示を提供することにより、MCTS制御データは、関心領域の復号及び表示のための複雑なスケーラブル性を促進し、簡単なトランスコーディングを可能にし、改善された損失のロバスト性を提供し、そして向上したデコーダの並行性を可能にすることができる。
HEVC規格のバージョンに応じて、補足エンハンスメント情報(SEI)メッセージ内で信号伝達されるようなMCTS制御データについて、様々な例が提供される。そのようなMCTS制御データのSEIメッセージは、HEVCフォーマットに容易に組み込むことができる。
A.例示のタイル及びタイルセット
一般に、タイルは、ピクチャの矩形の領域である。タイルは、タイル列とタイル行に応じてピクチャ内で配置される。したがって、タイルは、ピクチャ内の水平及び垂直境界を定義する。ピクチャ内のタイルを、均一にサイズ調整することができ、あるいは、ピクチャ内のタイルはサイズが異なっていてもよい。
2013年1月のバージョンのHEVC規格では、例えばピクチャを複数のタイルに分割することができる。tiles_enabled_flagというシンタックス要素は、ピクチャパラメータセット(PPS)で伝達される。tiles_enabled_flagが1のとき、ピクチャはタイルに分けられ、タイル列の数、タイル行の数及びサイズの情報が伝達される。サイズ情報は、全てのタイルについて均一のサイズを指示することができ、あるいはタイルごとに指定のサイズを伝達することもできる。Bross等著の「High Efficiency Video Coding(HEVC) Text Specification Draft 8」、JCTVC-L1003_v34、2013年1月を参照されたい。
一般に、タイルは、一部の符号化処理について、他のタイルとは独立に符号化される。2013年1月のバージョンのHEVS規格によると、タイルが使用されるとき、HEVCビットストリームのシンタックス及びHEVC復号処理は、(1)同じピクチャ内のタイル境界を越えるイントラピクチャ予測の依存性と、(2)同じピクチャ内のタイル境界を越えるエントロピー符号化/復号とをなくすように構造化される。ループフィルタリングは、タイル境界にわたって選択的に無効にされるが、一部の場合には許可される。しかしながら、インターピクチャ予測の依存性は、タイル境界に対して制限されない。タイル内の予測単位は、参照ピクチャ内において、その参照ピクチャ内の配置されたタイルの空間的境界の外部にある領域を参照することができる。したがって、2013年1月のバージョンのHEVC規格のタイルでは、インターピクチャ予測用の参照として使用される他のピクチャ内の他のタイルとの関連では、タイルについて独立的な関係は必要とされない。
タイルセットは、ピクチャ内の1つ以上のタイルの配置である。タイルセットを、ピクチャ内のタイルの1つ以上の範囲として指定することができる。次のセクションで説明されるように、動き制限タイルセット(MCTS)は、インターピクチャ予測の依存性が、ピクチャごとにタイルセット内の領域に限定されるタイルセットである。簡単な場合では、シリーズ内のピクチャは、同じ構成のタイルセットを有し、このため、現在のピクチャ内のタイルセットは、その参照ピクチャ内の配置されたタイルセットを有する。
図7aは、16個の均一サイズのタイルに分割されたフレーム(701)を示している。タイルの総数は実装に依存し、何らかの他の値を有することができる(例えば9、20又は25個のタイル)。図7b〜図7gでは、タイルは、異なる方法でタイルセットにグループ化される。
タイルセットは複数のタイルを含むことができる。例えば図7bは、フレーム(702)を示しており、フレーム(702)の中央にある4つのタイルは、1つのタイルセット:タイルセットAとして編成されている。代替的に、タイルセットが単一のタイルを含む可能性がある。極端な場合では、ピクチャ内の各タイルが、それ自身タイルセット(例えば図7aのフレームの16個のタイルについてそれぞれ、16個のタイルセット)として定義される可能性がある。
タイルセット内のタイルの総数及びタイルセット内のタイルの構成は、利用可能なタイルから任意に指定されることが可能である。例えば図7cは、フレーム(703)を示しており、フレーム(703)の6つのフレームが1つのタイルセット:タイルセットAとして編成されている。残りのタイルは、いずれのタイルセットでもない。フレームの所与のタイルをタイルセットに割り当てることができ、タイルセット以外のままにすることもできる。
図7dは、16個のタイル全てがタイルセットに割り当てられているフレーム(704)を示している。タイルセットAは、フレーム(704)の中央にある4つのタイルを含み、タイルセットBは、フレーム(704)のタイルセットAのタイルを囲む残り12個のタイルを含んでいる。
図7b〜図7dでは、所与のタイルセットのタイルは隣接しているが、タイルセット内のタイルが隣接する必要性はない。例えば図7eは、8個のタイルがタイルセットAに割り当てられ、8個のタイルがタイルセットBに割り当てられているフレーム(705)を示している。タイルセットBの8個のタイルは、フレーム(705)内のタイルセットAの反対側の2つの領域に分けられている。
多くの場合、タイルセットは、図7b〜図7eに図示されるように、フレームの中央に1つ以上のタイルを含む。タイルのこの構成は、(例えば意図される焦点が中央にあるとき、あるいは識別される領域がビデオ会議の話し手の顔を含むとき)関心領域の復号に有益であり得る。図7b及び図7dに示される構成は、中央のタイルセット(タイルセットA)とフレームと間のアスペクト比が変わらないという更なる利点を提供する。
一方、図7fは、タイルが4つのタイルセットA、B、C及びDに割り当てられるフレーム(706)を示しており、4つのタイルセットA、B、C及びDがフレーム(706)の全てを覆っている。各タイルセットは4つのタイルを有する。タイルセットのこの構成は、並行の符号化及び復号を促進することができる。特に、MCTSでは、(符号化中の)動き推定と(符号化又は復号中の)動き補償を、タイルセットA、B、C及びDについて並行に実行することができる。
図7b〜図7fでは、1つのタイルは、最大でも1つのタイルセットの一部である。しかしながら、一部の実装では、1つのタイルを複数のタイルのセットの一部とすることができる。図7gは、フレーム(707)の3つの異なるビューを示しており、このフレーム(707)内では、タイルの幾つかが複数のタイルセットの一部であり、タイルセットの幾つかが単一のタイルセットの一部であり、タイルセットの幾つかはいずれのタイルセットの一部でもない。図7bに示されるフレーム(707)では、タイルの一番上の行のタイルは、タイルセットA、(タイルセットAと重複する)タイルセットB及び(タイルセットA及びタイルセットBと重複する)タイルセットCの一部である。2行目のタイルは、タイルセットBとタイルセットCの一部である。3行目のタイルはタイルセットCの一部であり、4行目のタイルは、いずれのタイルセットの一部でもない。このようなタイルの構成は、所与のピクチャの符号化及び復号に使用されるタイルセットがシーケンス内のピクチャごとに変化するとき、あるいはタイルセット用のリフレッシュ可能な領域のサイズ、形状及び/又は位置が、シーケンス内のピクチャごとに変化することを許容されるとき、漸進的デコーダリフレッシュのような機能を促進することができる。
B.動き制限タイルセット(概要)
動き制限タイルセット(MCTS)は、インターピクチャ予測の依存性が、特定の1つの領域又は複数の領域に限定されるタイルセットである。多くの場合、特定の領域は、ピクチャごとに同じタイルセット内である。しかしながら、他の場合には、特定の領域は、別のタイルセット内であるか、インターピクチャ予測に使用される参照ピクチャの何らかの他の1つ又は複数の領域である。一般に、MCTSの外部の他のタイルセット又は領域の復号とは独立に、所与のMCTSについて動き補償を実行することが可能である。これが可能であるのは、インターピクチャ予測が、参照ピクチャ内のMCTSの外部(すなわち、参照ピクチャ内の配置されたタイルセットの外部)の領域を参照しないように制限されるためである。
MCTSのための符号化は、動き推定中の動きベクトルを検索する際の制限を通して実装され得る。動きベクトルの検索範囲は、タイルセット境界によって限定される。
図8は、タイルセット境界における動き制限を“伴わない”、タイルセットの予測単位についての動き推定及び動き補償予測を示している。現在のフレーム(820)は、サンプルのブロック又はサブブロックである予測単位(824)を有するタイルセットA(822)を含む。予測単位(824)についての動きベクトル(826)は、予測単位(824)の動き補償予測値を生成するのに使用される参照フレーム(810)内の領域(814)に関連付けられる。領域(814)は、部分的に参照フレーム(810)内の配置されたタイルセットA(812)内に置かれ、部分的に参照フレーム(810)内のタイルセットA(812)の外部に置かれている。タイルセットAはMCTSではないので、タイルセットAの外部にあるサンプル値の位置を参照する、タイルセットAの予測単位のインターピクチャ予測処理に制限はない。その結果、現在のフレーム(820)の予測単位(824)の正しい復号は、参照フレーム(810)内のタイルセット(812)の外部の値の再構築に依存する。
対照的に、図9は、タイルセット境界における動き制限を“伴う”、タイルセットの予測単位についての動き推定及び動き補償予測を示している。現在のフレーム(920)は、サンプルのブロック又はサブブロックである予測単位(924)を有するタイルセットA(922)を含む。予測単位(924)についての動きベクトル(926)は、予測単位(924)の動き補償予測値を生成するのに使用される参照フレーム(910)内の領域(914)に関連付けられる。部分的又は全体的にタイルセットA(912)の外側にある領域が、予測単位(924)についてより良い予測を与え得る場合であっても、動き推定範囲に対する制限に起因して、エンコーダは、参照フレーム(910)内の配置されたタイルセット(912)内にその全体が含まれる領域を使用する。タイルセットAはMCTSであるので、タイルセットA内の予測単位についてのインターピクチャ予測処理は、タイルセットAの外側にあるサンプル値の位置を参照することはできない。その結果、現在のフレーム(920)の予測単位(924)の正しい復号は、参照フレーム(910)内のタイルセット(912)の外部の値の再構築に依存しない。
したがって、MCTSを伴うインターピクチャ予測の依存性は、タイルセット境界にわたって制限される。しかしながら、タイルセット内のタイル境界を越える動きは、依然として許容される。タイルについてイントラピクチャ予測の依存性及び算術符号化の依存性に対する制限は依然として適用される。(例えば非ブロック化フィルタリングのための)フィルタリング操作がタイル境界にまたがって行われるとき、タイルセットの境界の一部が影響を受けることがある。その結果、符号化中に使用される参照フレームのサンプル値が、復号中に使用される参照フレームのサンプル値に正確に一致しないことがある。特に、復号中にMCTSのみが復号される場合、MCTSのタイルセット境界のサンプル値は、そのようなタイルセット境界を越えるループフィルタリングが実行されないので、参照フレーム内で相違することがある。これは、完全なピクチャ復号と比べて、MCTSのみの復号の品質に若干の負の影響を有する可能性がある。
MCTSの復号は、核となる復号処理への変化は伴わない。しかしながら、デコーダは、MCTS制御データを使用して、ピクチャの異なる部分の別個のタイルセットについて復号をどのように並列化するかについて決定し、あるいは以下で説明されるようにROI復号を実行するよう決定してもよい。
C.MCTS及びMCTS制御データの例示の使用
このセクションは、並行符号化及び復号、関心領域の復号及び表示、簡単なトランスコーディング及び損失の回復を含め、MCTS及びMCTS制御データの様々な使用を説明する。MCTS制御データは、通常のビデオ符号化/復号のための有益な機能を可能にし、複雑なスケーラブル性のためのスケーラブルな拡張としても見ることができる。
1.並行符号化及び/又は並行復号
エンコーダは、多くの符号化操作のために、別個のMCTSを並行に符号化することができる。エンコーダは、その符号化処理を、タイルセットによって定義される領域について領域固有の方法で分割する。MCTS制御データを使用して、対応するデコーダは、多くの復号操作のために、別個のMCTSを並行に復号することができる。デコーダは、その復号処理を、タイルセットによって定義される領域について領域固有の方法で分割する。特に、所与のタイルセットの動き補償について、エンコーダ(又はデコーダ)は、その所与のタイルセットの外側の領域について、参照ピクチャのサンプル値にアクセスする必要がない。したがって、参照ピクチャの全体の再構築を待つ必要なく、異なるMCTSを並行に符号化又は復号することができる。
図10は、MCTSを有するピクチャについての並行符号化及び並行復号の例(1000)を示している。図10では、エンコーダ(1010)は、入力ビデオ信号(1005)を受け取り、これを(図7fのように)4つのタイルセットA、B、C及びDにタイル化し、それぞれのタイルセットを並行に符号化する。(エンコーダ(1010)の一部の符号化処理、例えばループフィルタリングは、異なるタイルセットについて並行に実行されない)。エンコーダ(1010)は、タイルセットA、B、C及びDの符号化データを有する符号化ビデオビットストリーム(1015)を生成する。符号化ビデオビットストリーム(1015)は、MCTS制御データも含む。
符号化ビデオビットストリーム(1015)は、ネットワーク(1020)を介してデコーダ(1030)に伝達される。MCTS制御データを使用して並行復号の機会を識別すると、デコーダ(1030)は、それぞれのタイルセットを並行に復号して、タイルセットの再構築されたコンテンツをマージし、再構築されたビデオ(1035)を生成する。(デコーダ(1030)の一部の復号処理、例えばループフィルタリングは、異なるタイルセットについて並行に実行されない)。
図10は、並行符号化と並行復号の双方を示しているが、代替として、並行符号化のみが実装され、あるいは並行復号のみが実装される。また、図10では、並行処理の例の数がタイルセットの数(すなわち4)に一致する符号化と復号を示しているが、代替的には、並行処理の例の数はタイルセットの数よりも少ない。
2.ROI復号
タイルセット境界に対するインターピクチャ予測が制限されるとき、関心領域(ROI)の復号及び表示とは独立に、タイルセットを復号して表示することができる。デコーダは、1つ以上の選択されたタイルセットのROI復号及び表示のためにMCTS制御データを使用することができる。この場合、ピクチャ全体の代わりに、タイルセットによって指定されたタイルのサブセットのみが復号されて表示される。例えばデコーダは、完全なピクチャの符号化データをデコードする代わりに、選択されたタイルセットの符号化データを含む符号化ビデオビットストリームのサブセットを復号する。
図11は、MCTSを有するピクチャについてのROI復号の例(1100)を示している。図11では、エンコーダ(1110)は、入力ビデオ信号(1105)を受け取って、(図7bのように)タイルセットAを含むようにタイル化し、このビデオを符号化する。エンコーダ(1110)は、タイルセットAをMCTSとして符号化する。エンコーダ(1110)は、MCTSとしてタイルセットAを含む、ピクチャ全体の符号化データを有する符号化ビデオビットストリーム(1115)を生成する。符号化ビデオビットストリーム(1115)は、MCTS制御データも含む。
符号化ビデオビットストリーム(1115)は、ネットワーク(1120)を介してデコーダ(1130)に伝達される。MCTS制御データを使用して並行復号の機会を識別すると、デコーダ(1130)は、タイルセットAの符号化データを復号して、タイルセットAの再構築されたビデオ(1135)を生成する。
ROI復号は、ROI復号のために選択されたタイルセットが単一の矩形領域であるときに、特に有益であり、そのような単一の矩形領域は、図7b又は図7dのように単一のタイル又は複数タイルの隣接する矩形のエリアであり得る。例えば単一の矩形のエリアを、小さなディスプレイデバイスにおける表示用に復号することができる。あるいは、単一の矩形のエリアを、ピクチャインピクチャの表示ウィンドウとしての表示用に復号することができる。あるいは、単一の矩形のエリアを、(例えば多者会議のために)他のビットストリームから生成される小さな領域を有する合成画像(composite)の一部としての表示用に復号することができる。
さらに、リアルタイム通信のような帯域幅が限定されるシナリオでは、MCTSの伝達及び使用は、異なる復号/表示解像度について異なるストリーミングビットレートを用いて、ROIのスケーラブル性の新たな次元を可能にする。これは、ビデオコンテンツが異種のチャネルを通して異なるデバイスに配信されるシナリオに有益である可能性がある。例えばビットストリームは、(a)中央のMCTSが最も低いビットレートとピクチャサイズを提供し、(b)中央のMCTSに加えて、最初の同心リング領域がより高いビットレートとピクチャサイズを提供し、(c)中央のMCTSに加えて、最初の2つの同心リング領域が更に高いビットレートとピクチャサイズを提供するように、中央のMCTSの周囲の1つ以上の同心「リング」領域として構成されるMCTSとして編成されることが可能である。あるいは、MCTSを、他の方法で組み合わせるために編成することができる。
ROI復号のための1つ以上の領域を指定するMCTS制御データを、パン走査(pan-scan)メタデータとの関連で使用することができる。例えばパン走査SEIメッセージは、ROI表示のための矩形の仕様を許容する。ROI復号を制御するMCTS SEIメッセージとともに、パン走査SEIメッセージは更にROI表示を可能にすることができる。
3.トランスコーディング
一部の場合において、トランスコーダは、簡単な低遅延トランスコーディング操作を実行して、より大きなピクチャサイズを有するビデオのための符号化ビデオビットストリームから、1つ以上の選択されたタイルセットの符号化データを抽出し、より小さいピクチャサイズを有するビデオのための新たな符号化ビデオビットストリームを生成する。例えばHEVCトランスコーディングでは、MCTSが矩形のエリアであるとき、トランスコーダは、高レベルのシンタックス要素のみを修正することにより、(符号化ツリーのユニットレベル及びそれ以下のデータのような)低レベルのデータを完全に符号化及び再復号する必要なく、MCTSのための新たな符号化ビデオストリームを生成することができる。
図12は、MCTSを有するピクチャについてのトランスコーディングの例(1200)を示している。図12では、エンコーダ(1210)は、入力ビデオ信号(1205)を受け取って、(図7bのように)タイルセットAを含むようにタイル化し、このビデオを符号化する。エンコーダ(1210)は、タイルセットAをMCTSとして符号化する。エンコーダ(1210)は、MCTSとしてのタイルセットAを含む、ピクチャ全体の符号化データを有する符号化ビデオビットストリーム(1215)を生成する。符号化ビデオビットストリーム(1215)は、MCTS制御データも含む。
符号化ビデオビットストリーム(1215)は、ネットワーク(1220)を介してトランスコーダ(1230)に伝達される。MCTS制御データを使用してトランスコードの機会を識別すると、トランスコーダ(1230)は、タイルセットAの外部のピクチャ領域についての符号化データを破棄し、タイルセットAのみの符号化データを有する、符号化ビデオビットストリーム(1235)を生成する。
HEVC実装では、MCTSが矩形でないとき、あるいは矩形であるがトランスコードされないときであっても、一部の場合において、MCTSを復号するのに必要なビットストリームのサブセットを、そのようなMCTSビットストリームのサブセットに対して動作することが可能なデコーダにデータを送信する前に抽出することができる。
4.損失のロバスト性及び回復
MCTS制御データの伝達及び使用は、データ損失に対するロバスト性及びデータ損失からの回復を改善することもできる。デコーダに、復号されるピクチャ内の領域ごとの依存関係の明示的な指示を提供することにより、デコーダは、幾つかの領域(タイルセット)の復号を、他の領域(タイルセット)についての符号化データが破損されるか他の方法で失われたときに完了することができる。
5.漸進的デコーダリフレッシュ
エンコーダは、一部の実装において、MCTS制御データを使用して漸進的デコーダリフレッシュ機能を実装することができる。例えばあるタイルが(図7gの例のように)複数のタイルセットの一部であり得るとき、タイルの1番上の行が1つのMCTSを定義するとともに、タイルの上2行が第2のMCTSを定義し、タイルの上3行が第3のMCTSを定義すること等ができる。エンコーダは、漸進的デコーダリフレッシュ機能のためにそのようなMCTSを使用することができる。
図13は、MCTSを伴う漸進的デコーダ機能の例(1300)を示す。シリーズ内の1つのピクチャ(1301)(図13のピクチャ30)について、エンコーダは、MCTS Aの領域をリフレッシュする。エンコーダは、(後のフレームでMCTS Aとして符号化されることになる)タイルの一番上の行を、イントラピクチャ符号化を使用して符号化する。ピクチャ(1301)のタイルの他の行の符号化は制限されない。
シリーズ内の次のピクチャ(1302)(図13のピクチャ31)について、エンコーダは、MCTS A内の領域に対する依存性を有するインターピクチャ予測及びイントラピクチャ符号化を使用して、MCTS Bの領域をリフレッシュする。エンコーダは、タイルの一番上の行をMCTSとして符号化する。このMCTS(MCTS Aとする)を、先行ピクチャ内の配置されたタイルセット(ピクチャ30内のタイルの一番上の行)に関連するインターピクチャ予測を使用して、符号化することができる。エンコーダは、ピクチャ(1302)内のタイルの2番目の行を、イントラピクチャ符号化を使用して符号化する。ピクチャ(1302)のタイルの他の行の符号化は制限されない。
シリーズ内の次のピクチャ(1303)(図13のピクチャ32)について、エンコーダは、MCTS B内の領域に対する依存性を有するインターピクチャ予測及びイントラピクチャ符号化を使用して、MCTS Cの領域をリフレッシュする。エンコーダは、タイルの上2行をMCTSとして符号化する。このMCTS(MCTS B)を、先行ピクチャ内の配置されたタイルセット(ピクチャ31内のタイルの上2行)に関連するインターピクチャ予測を使用して、符号化することができる。エンコーダは、ピクチャ(1303)内のタイルの3番目の行を、イントラピクチャ符号化を使用して符号化する。ピクチャ(1303)のタイルの他の行の符号化は制限されない。
シリーズ内の最後のピクチャ(1304)(図13のピクチャ33)について、エンコーダは、MCTS C内の領域に対する依存性を有するインターピクチャ予測及びイントラピクチャ符号化を使用して、ピクチャをリフレッシュする。エンコーダは、タイルの上3行をMCTSとして符号化する。このMCTS(MCTS C)を、先行ピクチャ内の配置されたタイルセット(ピクチャ32内のタイルの上3行)に関連するインターピクチャ予測を使用して、符号化することができる。エンコーダは、ピクチャ(1304)内のタイルの最後の行を、イントラピクチャ符号化を使用して符号化する。この時点で、ピクチャ内のタイルの行は、段階的にリフレッシュされている。
あるいは、エンコーダは、図13内においてグレーで影を付けられている領域(イントラピクチャ符号化領域)が、イントラピクチャ符号化を使用して、あるいはリフレッシュされた参照ピクチャ内の「下位(subordinate)」の非対応領域に関連するインターピクチャ符号化を使用して符号化されることを可能にすることにより、漸進的デコーダリフレッシュ機能を実装することができる。エンコーダは、イントラピクチャ符号化をすることと、そのようなインターピクチャ符号化することを、ブロックごとに決めることができる。例えば第3のピクチャ(1303)内の影付きの領域については、直前にリフレッシュされた第2のピクチャ(1302)の領域(タイルの上2行)に関連するイントラピクチャ符号化又はインターピクチャ符号化を使用して、ブロックを符号化することができる。この付加的な柔軟性は、圧縮性能を改善し得る。
図13は、(a)参照ピクチャ内で参照される1つ以上の領域と、(b)これらに依存する現在のピクチャの1つ以上の領域との間の関係が、ピクチャによって動的に変化するという、より一般的なシナリオの具体的な事例を示している。そのようなシナリオでは、タイルセットの参照可能な領域のサイズ、形状及び/又は位置は、シーケンス内のピクチャによって変化することを許容される。
そのような動的な変化を実装する1つの方法は、ピクチャごとにMCTS制御データを伝達することである。ピクチャのためのMCTS制御データは、そのピクチャの符号化及び復号のために(機能する)アクティブなMCTSを識別することができ、この場合、インターピクチャ予測の依存性は、識別されたMCTSのために使用される任意の参照ピクチャ内の配置されたタイルセット内に収まるように制限される。例えば現在のピクチャについてMCTS Bが識別される場合、インターピクチャ予測の依存性は、(MCTS Bがその参照ピクチャについて識別されなかった場合であっても)任意の参照ピクチャ内のMCTS Bの領域内に収まるよう制限される。
MCTS制御データがピクチャごとに伝達されるとき、あるアプローチでは、そのピクチャについて識別されたMCTS内のタイルを明示的に指定する。別のアプローチでは、符号化ビデオシーケンスの全てのピクチャ(又はピクチャのグループ)について、MCTSの共通のセットを使用し、次いで、MCTSの共通のセット内の識別子の値を使用して、ピクチャについてアクティブなMCTSを識別する。例えばMCTSの共通のセットが、4つ、5つ又は6つの(重複する可能性のある)MCTSを含み、所与のピクチャについてのMCTS制御データは、そのピクチャの符号化及び復号のためのアクティブなMCTSとしてMCTS 2を識別する。
そのような動的な変化を実装する別の方法は、ピクチャごとに、そのピクチャについてアクティブなMCTSを識別し、かつ参照ピクチャの1つ以上のタイルセット参照領域も識別する、MCTS制御データを伝達することである。例えばMCTS制御データは、所与の現在のピクチャについてMCTSを識別し、参照ピクチャ内のタイルセット参照領域を識別する。現在のピクチャについて、異なるタイルセット参照領域を異なる参照ピクチャ内で識別することができる。識別されたタイルセット参照領域を、(本明細書で説明される多くの例で想定されるように)現在のピクチャの識別されたMCTSとともに配置することができ、あるいは異なるサイズ、形状又は位置を有することができる。現在のピクチャについて、タイルセット参照領域を、(タイルの矩形として又は任意の領域として)明示的に伝達することができ、あるいは識別子の値によって、それぞれの参照ピクチャのために適用するMCTSの共通のセットから識別することができる。例えば参照ピクチャを、その参照ピクチャが符号化されたときに定義された1つ以上のMCTSに関連付けることができ、(符号化順において)後のピクチャが、参照ピクチャについて先行して定義された1つ以上のMCTSの識別子の値によって、参照ピクチャ内のタイルセット参照領域を指定することができる。
D.MCTS制御データの例示的な伝達
このセクションは、MCTS制御データのシンタックス及びセマンティクスの例を説明する。
1.MCTS SEIメッセージの第1の例のシンタックス及びセマンティクス
図14aは、ある例示の実装におけるMCTS SEIメッセージのシンタックス(1401)を示している。図14aでは、motion_constrained_tile_setのSEIメッセージは、左ビットの先頭(left bit first)((ue(v))を有する符号なし整数のゼロ次 Exp−Golomb符号化を使用して符号化される様々なシンタックス要素、並びにフラグとして伝達される幾つかのシンタックス要素を含む。MCTS SEIメッセージのシンタックス(1401)は、HEVC規格と互換性があり、このセクションは、HEVC規格で定義される様々なシンタックス要素への参照を含む。
図14aに示されるMCTS SEIメッセージでは、MCTS SEIメッセージの範囲は完全な符号化ビデオシーケンスである。MCTS SEIメッセージが符号化ビデオシーケンスの任意のアクセスユニット(access unit)内に存在するとき、これは、符号化ビデオシーケンスのうち、復号順で最初のアクセスユニットについて存在する。MCTS SEIメッセージは、符号化ビデオシーケンスの他のアクセスユニットについて存在することもある。
符号化ビデオシーケンス内のアクティブな任意のピクチャパラメータセット(PPS)についてtiles_enabled_flagが0である場合、MCTS SEIメッセージは、その符号化ビデオシーケンスについて存在しない。この場合(tiles_enabled_flagが0)、タイルは、少なくとも一部のピクチャについて有効にされない。タイルが符号化ビデオシーケンスのピクチャについて有効にされない場合であっても、符号化ビデオシーケンス内のピクチャは、同じようにタイルに分割されるべきである。すなわち、MCTS SEIメッセージは、符号化ビデオシーケンスについてアクティブな全てのPPSが、ピクチャがどのようにタイルに分割されるかを指定するシンタックス要素、num_tile_columns_minus1、num_tile_rows_minus1、uniform_spacing_flag、column_width_minus1[i]及びrow_height_minus1[i]について同じ値を有しない限り、符号化ビデオシーケンスについて存在しない。この制限は、tiles_fixed_structure_flagが1に等しいことに関連付けられる制限と同様である。(ビデオユーサビリティ情報内で伝達されるtiles_fixed_structure_flagが1である場合、符号化ビデオシーケンスに対してアクティブなPPSは全て、同じ数のタイル列、同じ数のタイル行及び同じ情報サイズを有し、上記の値が0である場合、これらは、異なるPPSにおいて異なる可能性がある)。
MCTS SEIメッセージは、タイルセット、すなわちMCTSを識別する。MCTS SEIメッセージの存在は、識別されたMCTSの外部にあるサンプル値と、識別されたMCTSの外部にある1つ以上のサンプル値を使用して導出される部分的なサンプル位置(fractional sample position)のサンプル値とが、識別されたMCTS内でのいずれのサンプルのインター予測にも使用されないように、インターピクチャ予測が制限されることを示す。MCTSを識別するシンタックス要素は、次の通りに定義される。
シンタックス要素num_tile_rects_in_set_minus1は、1の追加により、識別されたMCTS内のタイルの矩形領域(タイル矩形の例)の数を指定する。num_tile_rects_in_set_minus1の値は、0から(num_tile_columns_minus1+1)*(num_tile_rows_minus1+1)−1までの範囲である。
シンタックス要素left_tile_column[i]及びtop_tile_row[i]はそれぞれ、MCTSの矩形領域(タイル矩形の例)内の左上のタイルのタイル列とタイル行を識別する。シンタックス要素width_in_tile_columns_minus1[i]は、1の追加により、タイル列の単位でMCTSの矩形領域(タイル矩形の例)の幅を示す。width_in_tile_columns_minus1[i]の値は、0からnum_tile_columns_minus1−left_tile_column[i]までの範囲である。シンタックス要素height_in_tile_rows_minus1[i]は、1の追加により、タイル行の単位でMCTSの矩形領域(タイル矩形の例)の高さを示す。height_in_tile_rows_minus1[i]の値は、0からnum_tile_rows_minus1−top_tile_column[i]までの範囲である。
したがって、MCTSは、MCTS SEIメッセージ内で識別されるタイルの1つ以上の矩形領域(タイル矩形)の組合せである。
図14aでは、MCTS SEIメッセージは別のシンタックス要素を含み、この別のシンタックス要素は、MCTSのみの復号の際に品質に不利な影響を与え得るかどうかを評価するためにデコーダによって使用され得る。シンタックス要素exact_sample_value_match_flagが0に等しいとき、符号化ビデオシーケンス内において、(a)MCTSの外部にある符号化ツリーのブロックが復号されず、(b)MCTSの境界が、復号処理の目的のためにピクチャ境界として扱われるときは、識別されたMCTS内の各サンプルの値は、ピクチャの符号化ツリーのブロックが全て復号されるときの同じサンプルの値と正確に同じではない可能性がある。一方、シンタックス要素exact_sample_value_match_flagが1に等しいとき、符号化ビデオシーケンス内において、(a)MCTSに属さない符号化ツリーのブロックが復号されず、(b)MCTSの境界が、復号処理の目的のためにピクチャ境界として扱われるときは、MCTS内の各サンプルの値は、符号化ビデオシーケンス内の全てのピクチャの符号化ツリーのブロックが全て復号されるときに取得されるであろうサンプルの値と正確に同じである。exact_sample_value_match_flagを1に等しく設定することは、シンタックス要素loop_filter_across_tiles_enabled_flag、pps_loop_filter_across_slices_enabled_flag、pps_deblocking_filter_disabled_flag。slice_loop_filter_across_slices_enabled_flag、slice_deblocking_filter_disabled_flag、sample_adaptive_offset_enabled_flag、slice_sao_luma_flag及びslice_sao_chroma_flagの値の特定の組合せにより可能であり得る。
図14aでは、MCTS SEIメッセージは、ROI復号とともにROI表示に使用され得る他のシンタックス要素も含む。pan_scan_rect_flagが0のとき、mcts_psr_id要素はMCTS SEIメッセージ内に存在しない。pan_scan_rect_flagが1のとき、mcts_psr_idは存在する。シンタックス要素mcts_psr_idは、識別されたMCTSが、少なくとも、符号化ビデオシーケンス内で、mcts_psr_idに等しいpan_scan_rect_idを有するパン走査矩形を覆うことを示す。pan_scan_rect_flagが1のとき、mcts_psr_idに等しいpan_scan_rect_idを有する少なくとも1つのパン走査矩形が、符号化ビデオシーケンス内に存在する。
図14aに示されるMCTS SEIメッセージのシンタックス(1401)では、複数のMCTS SEIメッセージが、符号化ビデオシーケンスに関連付けられてよく、その各々がMCTSを識別する。結果として、1つより多くの個別のMCTSが符号化ビデオシーケンス内で機能し得る。
2.MCTS SEIメッセージの第2の例のシンタックス及びセマンティクス
図14bは、別の例示の実装のMCTS SEIメッセージのシンタックス(1402)を示している。図14aのように、motion_constrained_tile_group_setのSEIメッセージは、ue(v)符号化を使用して符号化される様々なシンタックス要素、並びにフラグとして伝達される幾つかのシンタックス要素を含む。MCTS SEIメッセージのシンタックス(1402)は、HEVS規格と互換性があり、このセクションは、HEVS規格で定義される様々なシンタックス要素への参照を含む。
図14bに図示される存在すべきMCTS SEIメッセージでは、(タイルを有するピクチャを示す)符号化ビデオシーケンス内の全てのアクティブPPSについて、tiles_enabled_flagが1に等しくセットされ、符号化ビデオシーケンスにおいてtiles_fixed_structure_flagが1に等しくセットされる。これは、符号化ビデオシーケンスについてアクティブなPPSのすべてが、符号化ビデオシーケンス内のピクチャについて同じ数のタイル列、同じ数のタイル行、同じサイズの情報を指定することを示す。
存在するとき、MCTS SEIメッセージは、符号化ビデオシーケンスの最初の一次ピクチャ(first primary picture)、リンク切れアクセス(BLA:broken link access)ピクチャ又は即時復号リフレッシュ(IDR:instantaneous decoding refresh)ピクチャに関連付けられる場合にのみ現れる。MCTS SEIメッセージのターゲットピクチャのセットは、関連付けられる最初の一次符号化(primary coded)ピクチャ(これを含む)で始まり、(a)後続の一次符号化BLA又はIDRピクチャ(これを含まない)で終了するか、又は(b)後続の一次符号化BLA又はIDRピクチャが存在しないとき、復号順で、符号化ビデオシーケンス内の最後の一次符号化ピクチャ(これを含む)で終了する、復号順序の全ての隣接する一次符号化ピクチャを含む。
MCTS SEIメッセージは、1つ以上のタイルの集合であるタイルセット、すなわちMCTSを識別する。MCTSの1つ以上のタイルのグループ(タイル矩形の例)は、top_left[i]及びbottom_right[i]というシンタックス要素によって識別される。separate_colour_plane_flagが1のとき、「一次符号化ピクチャ」という用語は、同じcolour_plane_idを有するNAL単位に対応する、対応一次符号化ピクチャの部分を表す。MCTS SEIメッセージは、ターゲットピクチャセット内の各ピクチャについて、インターピクチャ予測が次のように制限されることを示す。すなわち、MCTSの外部のサンプル値と、MCTSの外部の1つ以上のサンプル値を使用して導出される部分的なサンプル位置のサンプル値とのいずれも、MCTS内のいずれかのサンプルのインターピクチャ予測には使用されない。
MCTSは、MCTS SEIメッセージ内で識別されるタイルの1つ以上の矩形領域の組合せ(タイル矩形の例であるタイルグループ)である。要素num_tile_groups_in_set_minus1は、1の追加により、MCTS内のタイルグループ(タイル矩形の例)の数を指定する。num_tile_groups_in_set_minus1の許容される範囲は、0から(num_tile_columns_minus1+1)× (num_tile_rows_minus1+1)−1までである。
シンタックス要素top_left[i]及びbottom_right[i]はそれぞれ、符号化ツリーブロックの単位で、制限されるインターピクチャ予測を用いるタイルグループ(タイル矩形の例)の左上の角及び右下の角を指定する。top_left[i]及びbottom_right[i]の値は、ピクチャのラスター操作におけるタイルグループユニットの位置である。各矩形iについて、top_left[i]及びbottom_right[i]の値は、以下の制限に従う:
・top_left[i]は、bottom_right[i]以下である;
・bottom_right[i]は、PicSizeInCtbsY未満である;
・(top_left[i]%PicWidthInCtbsY)は、(top_left[i]%PicWidthInCtbsY )の値以下である;
・top_left[i]及びbottom_right[i]によって指定される矩形は、1つ以上の完全なタイルを含む。
図14bにおいて、MCTS SEIメッセージは、ROI復号とともにROI表示に使用することができる他のシンタックス要素を含む。シンタックス要素pan_scan_rect_flagが0のとき、pan_scan_rect_idは存在しない。pan_scan_rect_flagが1のとき、pan_scan_rect_idは存在する。シンタックス要素pan_scan_rect_idは、指定されたMCTSが、少なくとも、ターゲットピクチャセット内でpan_scan_rect_idによって識別されるパン走査矩形を覆うことを示す。
図14bに示されるMCTS SEIメッセージのシンタックス(1402)では、複数のMCTS SEIメッセージを、同じターゲットピクチャセットに関連付けることができる。したがって、1つより多くのMCTSがターゲットピクチャセット内でアクティブであり得る。
3.MCTS SEIメッセージの第3の例のシンタックス及びセマンティクス
図14cは、別の例示の実装におけるMCTS SEIメッセージのシンタックス(1403)を示す。MCTS SEIメッセージの存在は、それぞれの識別されたタイルセットの外部のサンプル値と、識別されたタイルセットの外部の1つ以上のサンプル値を使用して導出される部分的なサンプル位置にあるサンプル値とが、識別されたタイルセット内のいずれのサンプルのインター予測にも使用されないように、インター予測処理が制限されることを示す。このセクションで示されることを除いて、図14cに示されるMCTS SEIメッセージのシンタックス(1403)は、図14aに示されるMCTS SEIメッセージのシンタックス(1401)と同じである。
1つより多くのMCTS SEIメッセージが、符号化ビデオシーケンスのアクセスユニット内に存在するとき、これらは、同一のコンテンツを含むものとする。各アクセスユニット内のMCTS SEIメッセージの数は5を超えないものとする。
num_sets_in_message_minus1は、1の追加により、SEIメッセージ内で識別されるMCTSの数を指定する。num_sets_in_message_minus1の値は、0から255までの範囲である。
mcts_id[i]というシンタックス要素は、i番目の識別されるタイルセットの目的を識別するのに使用され得る識別番号を含む。例えばmcts_id[i]というシンタックス要素を使用して、特定の目的のために符号化ビデオシーケンスから抽出されべきエリアを識別することができる。mcts_id[i]の値は、0から232−2までの範囲とする。0から255まで及び512から231−1までのmcts_id[i]の値は、アプリケーション(application)によって決定される通りに使用され得る。256から511まで及び231から232−2までのmcts_id[i]の値は、将来の使用のために保存される。256から511までの範囲又は231から232−2までの範囲のmcts_id[i]の値に遭遇したデコーダは、これを無視する(これをビットストリームから除去して破棄する)。
残りのシンタックス要素num_tile_rects_in_set_minus1[i]、left_tile_column[i][j]、top_tile_row[i][j]、width_in_tile_columns_minus1[i][j]、height_in_tile_rows_minus1[i][j]、exact_sample_value_match_flag[i]、pan_scan_rect_flag[i]及びmcts_psr_id[i]は、一般に、図14aの例示のMCTS SEIメッセージのシンタックス(1401)に関連して説明した意味を有する。しかしながら、各シンタックス要素について、ループカウンタの変数iは、MCTS SEIメッセージ内で指定されるi番目のMCTSについてのシンタックス要素の値を示し、ループカウンタの変数jは、所与のMCTS内のj番目のタイル矩形についての値を示す。あるいは、left_tile_column[i][j]、top_tile_row[i][j]、width_in_tile_columns_minus1[i][j]height_in_tile_rows_minus1[i][j]を使用する代わりに、所与のタイル矩形についての2つのシンタックス要素はそれぞれ、タイルラスタ走査順に、タイル矩形内の左上のタイルのタイル位置と、タイル矩形内の右下のタイルのタイル位置を識別することができる。
4.MCTS制御データの代替的なシンタックス及びセマンティクス
2つの先行するセクションでは、1つのMCTS SEIメッセージが1つのMCTSを指定し、このMCTS内のタイル(1つ又は複数)を識別する。このアプローチでは、単一の符号化ビデオシーケンスについて複数のMCTSが存在するとき、MCTS制御データについて複数のSEIメッセージが存在する可能性があり、各MCTS SEIメッセージは、同じ符号化ビデオシーケンス内の異なるMCTSを指定する。
あるいは、単一のMCTS SEIメッセージは、複数のMCTSを指定することができる。例えばMCTS SEIメッセージのシンタックス内の外側のループは、それぞれのMCTSについて反復する。所与のMCTSについて、シンタックス及びセマンティクスは、2つの先行するセクションのうち1つの例に従って、MCTSについてのタイルの領域(タイル矩形)及び関連するパン走査の矩形等を識別することができる。
2つの先行するセクションでは、MCTS SEIメッセージは、識別されたタイルセットがMCTSであることを示唆する。あるいは、MCTS SEIメッセージは、ピクチャを複数のタイルセットへと分解することができ、MCTS SEIメッセージ内のタイルセットごとのフラグが、タイルセットがMCTSであるかMCTSでないかを示す。
2つの先行するセクションでは、MCTS SEIメッセージの範囲は、(図14aの例のような)符号化ビデオシーケンスであってよく、あるいは、潜在的には、あるBLA又はIDRピクチャ(これを含む)と、(図14bの例のような)別のBLA又はIDRピクチャとの間のピクチャグループであってもよい。あるいは、MCTS SEIメッセージは、ピクチャごとに伝達されるか、何らかの他の範囲を有する可能性がある。
先行する2つのセクションでは、MCTS SEIメッセージによって影響されるピクチャは、タイルセット及びタイルが、符号化ビデオシーケンス(又はピクチャのグループ)内のピクチャごとに変わらないように、同じ構成のタイルセットを有する。あるいは、MCTSの参照可能な領域のサイズ、形状及び/又は位置が、符号化ビデオシーケンス(又はピクチャのグループ)内のピクチャごとに変わる可能性もある。
先行する2つのセクションでは、MCTS制御データはSEIメッセージである。あるいは、MCTS制御データは、タイルセット境界を越えるインターピクチャ予測の依存性が、所与のタイルセットについて制限されることを示す、何らかの他の形式のメタデータ又は基本のビデオビットストリームのシンタックス要素とすることができる。
F.MCTS制御データを伝達及び使用するための方法
図15は、MCTS制御データを伝達するための一般化した方法(1500)を示している。図3又は図5に関連して上述したようなビデオエンコーダ又は他のツールが方法(1500)を実行する。
ツールは、複数のピクチャを符号化して符号化データを生成する(1510)。複数のピクチャの各々が、複数のタイルに分割される。例えば複数のピクチャはそれぞれ、そのピクチャについての複数のタイルを定義するタイル行及びタイル列に分割され、複数のタイルの各々が矩形の領域を有する。例示の実装では、複数のピクチャはそれぞれ、全く同じように分割されて、複数のピクチャの各々の中に複数のタイルを生成する。あるいは、異なるピクチャを、異なる方法でタイルに分割することもできる。
ツールは、符号化データを、特定の境界(例えばタイルセット境界)を越えるインターピクチャ予測の依存性が、上記の複数のタイルのうちの1つ以上のタイルの所与のタイルセット(MCTS)について制限されることを示す制御データとともに出力する(1520)。制御データは、複数のタイルのいずれが、所与のMCTS内にあるかを識別する1つ以上のシンタックス要素を含むことができる。
例示の実装において、所与のタイルセットは、そのタイルセットの1つ以上のタイルを含む1つ以上のタイル矩形として、制御データ内でパラメータ化される。例えばタイルセット内の所与のタイル矩形について、制御データは、(タイル矩形の左上の角及びタイル矩形の右下の角といった)タイル矩形の2つの角を識別するシンタックス要素を含む。制御データは、タイルセットの識別子と、タイルセット内のタイル矩形の総数を示すカウントパラメータと、タイルセット内の各タイル矩形について、タイル矩形の位置(例えばタイル矩形の場所、幅及び高さ)を示すシンタックス要素を含むこともできる。
より具体的には、シンタックス要素は、所与のMCTS内のタイル領域の総数を示すカウントパラメータを含むことができ、この場合において、タイル領域の各々は、複数のタイルのうちの1つ以上のタイルを覆う領域である。シンタックス要素は、所与のタイルセット内のタイル領域の各々について、タイル領域の位置(例えばタイル領域の場所、幅及び高さ)を示す1つ以上の位置パラメータを含むことができる。
制御データは、他のシンタックス要素を含むことができる。例えば制御データは、(a)所与のMCTSの外側にある複数のピクチャの部分が符号化されない場合に、所与のMCTSについて再構築されたサンプルが、(b)所与のMCTSの外側にある複数のピクチャの部分が符号化される場合に、所与のMCTSについて再構築されたサンプルに、正確に一致するかどうかを示すフラグを含む。あるいは、制御データは、所与のMCTSによって覆われるパン走査の矩形の識別子を含む。
例示の実装において、制御データは、単一のMCTSのためのSEIメッセージであり、タイルセット境界を越えるインターピクチャ予測の依存性が、その所与のMCTSについて制限されることを示す。この場合、制御データは、その所与のMCTS及び1つ以上の他のMCTSの各々について、異なるSEIメッセージを含むことができる。代替的に、制御データは、所与のMCTS及び1つ以上の他のMCTSを含む複数のMCTSのための単一のSEIメッセージである。あるいは、制御データは、タイルセット境界を越えるインターピクチャフレーム予測の依存性が、所与のタイルセットについて制限されるかどうかを値により示す、フラグとすることができる。あるいは、制御データは、何らかの他の形式をとることができる。
例示の実装において、所与のタイルセットは、複数のピクチャの各々に対して同一である。あるいは、所与のタイルセットは、複数のピクチャの少なくとも一部のピクチャの間で異なる。
制御データは、特定の境界を越えるインターピクチャ予測の依存性が、複数のタイルのうちの1つ以上の他のタイルセットの各々について制限されることを指示することもできる。これは、例えば符号化(1510)が、所与のMCTS及び1つ以上の他のMCTSの符号化の少なくとも一部の段階について、並行処理を使用しているときの事例であり得る。
ツールは、この方法(1500)を単位ごと(例えばシーケンスごと、グループごと)に繰り返すことができる。簡潔性のために、図15では、方法(1500)が、他の符号化処理との関連でどのように動作するかについては示していない。
図16は、MCTSの選択的使用を伴う符号化のための例示の方法(1600)を示している。図3又は図5に関連して上述したようなビデオエンコーダ又は他のツールが、方法(1600)を実行する。
ツールは、現在のピクチャを符号化のためにタイルに分割する(1610)。ツールは、これらのタイルのうちの1つ以上のタイルの所与のセットについて、動きを制限するかどうかを決定する(1620)。動きを制限する場合、ツールは、タイルセット境界における動き制限を伴ってMCTSのタイルを符号化し(1630)、タイルセット境界を越えるインターピクチャ予測の依存性が、MCTSについて回避されるように、符号化中の動き推定を制限する。ツールは、タイルセット境界を越えるインターピクチャ予測の依存性がそのタイルセットについて制限されることを示す制御データとともに、符号化データを出力する(1640)。そうでない場合(タイルについて動きが制限されない場合)、ツールは、タイルセット境界における動き制限なしにタイルを符号化し(1650)、符号化データを出力する(1660)。ツールは、ピクチャ内のいずれかの他のタイルについて符号化を継続すべきかどうかを確認し(1620)、継続する場合、1つ以上の残りのタイルをMCTSとして符号化すべきか否かを決定する。現在のピクチャを符号化した後、ツールは、シリーズ内の次のピクチャについて継続すべきかどうかを決定する(1680)。
図17は、MCTS制御データとともに伝達される符号化データを処理するための一般化した方法(1700)を示している。図4又は図6に関連して上述したようなビデオデコーダ又は他のツールが、方法(1700)を実行する。
ツールは、複数のピクチャについての符号化データを受け取る(1710)。複数のピクチャの各々が、複数のタイルに分割される。例えば複数のピクチャはそれぞれ、そのピクチャについての複数のタイルを定義するタイル行及びタイル列に分割され、複数のタイルの各々が矩形領域を有する。例示の実装では、複数のピクチャはそれぞれ、全く同じように分割されて、複数のピクチャの各々の中に複数のタイルを生成する。あるいは、異なるピクチャを、異なる方法でタイルに分割することもできる。
ツールは、特定の境界(例えばタイルセット境界)を越えるインターピクチャ予測の依存性が、上記の複数のタイルのうちの1つ以上のタイルの所与のタイルセット(MCTS)について制限されることを示す制御データを受け取る(1720)。制御データは、複数のタイルのいずれが所与のMCTS内にあるかを識別する1つ以上のシンタックス要素を含むことができる。
例示の実装において、所与のタイルセットは、そのタイルセットの1つ以上のタイルを含む1つ以上のタイル矩形として、制御データ内でパラメータ化される。例えばタイルセット内の所与のタイル矩形について、制御データは、(タイル矩形の左上の角及びタイル矩形の右下の角といった)タイル矩形の2つの角を識別するシンタックス要素を含む。制御データは、タイルセットの識別子と、タイルセット内のタイル矩形の総数を示すカウントパラメータと、タイルセット内の各タイル矩形について、タイル矩形の位置(例えばタイル矩形の場所、幅及び高さ)を示すシンタックス要素を含むこともできる。
より具体的には、シンタックス要素は、所与のMCTS内のタイル領域の総数を示すカウントパラメータを含むことができ、この場合において、タイル領域の各々は、複数のタイルのうちの1つ以上のタイルを覆う領域である。シンタックス要素は、所与のタイルセット内のタイル領域の各々について、タイル領域の位置(例えばタイル領域の場所、幅及び高さ)を示す1つ以上の位置パラメータを含むことができる。
制御データは、他のシンタックス要素を含むことができる。例えば制御データは、(a)所与のMCTSの外側にある複数のピクチャの部分が符号化されない場合に、所与のMCTSについて再構築されたサンプルが、(b)所与のMCTSの外側にある複数のピクチャの部分が符号化される場合に、所与のMCTSについて再構築されたサンプルに、正確に一致するかどうかを示すフラグを含む。あるいは、制御データは、所与のMCTSによって覆われるパン走査の矩形の識別子を含む。
例示の実装において、制御データは、単一のMCTSのためのSEIメッセージであり、タイルセット境界を越えるインターピクチャ予測の依存性が、その所与のMCTSについて制限されることを示す。この場合、制御データは、その所与のMCTS及び1つ以上の他のMCTSの各々について、異なるSEIメッセージを含むことができる。代替的に、制御データは、所与のMCTS及び1つ以上の他のMCTSを含む複数のMCTSのための単一のSEIメッセージである。あるいは、制御データは、タイルセット境界を越えるインターピクチャフレーム予測の依存性が、所与のタイルセットについて制限されるかどうかをその値により示す、フラグとすることができる。あるいは、制御データは、何らかの他の形式をとることができる。
例示の実装において、所与のタイルセットは、複数のピクチャの各々に対して同一である。あるいは、所与のタイルセットは、複数のピクチャの少なくとも一部のピクチャの間で異なる。
ツールは、符号化データを処理する(1730)。例えば符号化データの処理の一部として、ツールは、所与のMCTSを複数のピクチャ内の関心領域として復号し、この場合、所与のMCTSの外側にある複数のピクチャの部分を符号化する必要はない。あるいは、符号化データの処理の一部として、ツールは、所与のMCTSの外側にある複数のピクチャの部分についての符号化データを除外し、所与のMCTSの符号化データを新たなビットストリームとして編成することにより、符号化データをトランスコードする。制御データは、特定の境界を越えるインターピクチャ予測の依存性が、1つ以上の他のMCTSの各々について制限されることを示すこともできる。この場合、符号化データの処理は、所与のMCTS及び1つ以上の他のMCTSの復号の少なくとも一部の段階について並行処理を使用する復号を含むことができる。
ツールは、この方法(1700)を単位ごと(例えばシーケンスごと、グループごと)に繰り返すことができる。簡潔性のために、図17では、方法(1700)が、他の符号化処理との関連でどのように動作するかについては示していない。
開示される本発明の原理が適用され得る多くの可能性のある実施形態を考慮して、例示の実施形態は、単に本発明の好適な例示に過ぎず、本発明の範囲を限定するものとして解釈されるべきでないことを認識されたい。むしろ、本発明の範囲は、特許請求の範囲によって定義される。したがって、本発明に係る特許請求の範囲が、これらの特許請求の範囲内及び精神内にあるものを全て含むことを主張する。


Claims (12)

  1. コンピュータシステムにおいて、
    符号化データを生成するよう、複数のピクチャを符号化するステップであって、前記複数のピクチャの各々が複数のタイルに分割される、ステップと、
    特定の境界を越えるインターピクチャ予測の依存性が前記複数のタイルのうちの1つ以上のタイルの所与のタイルセットについて制限されることを示す制御データとともに、前記符号化データを出力するステップであって、前記所与のタイルセットは、前記複数のタイルのうちの前記1つ以上のタイルを覆う1つ以上のタイル領域として前記制御データ内でパラメータ化され、前記制御データは、タイルセット境界を越えるインターピクチャ予測の依存性が前記所与のタイルセットについて制限されることを示す、補足エンハンスメント情報(SEI)メッセージであり、前記SEIメッセージは、前記所与のタイルセットのみを復号するときに前記所与のタイルセットの品質が不利な影響を受け得るかどうかを評価するためにデコーダによって使用可能なシンタックス要素を含む、ステップと、
    を含み、
    前記シンタックス要素は、(a)前記所与のタイルセットの外側にある部分が復号されない場合に前記所与のタイルセットについて再構築されるサンプル値が、(b)前記所与のタイルセットの外側にある前記部分の全てが復号される場合に前記所与のタイルセットについて再構築されるサンプル値と正確に一致するよう制限されるかどうかを示すフラグであり、
    前記1つ以上のタイル領域は、1つ以上のタイル矩形であり、前記SEIメッセージは、前記所与のタイルセット内の前記1つ以上のタイル矩形のうちの所与のタイル矩形について、前記所与のタイル矩形の2つの角を特定するシンタックス要素を更に含む、方法。
  2. 特定の境界を越えるインターピクチャ予測の依存性が前記所与のタイルセットについて制限されるべきかどうかを決定するステップと、
    制限されるべき場合、特定の境界を越えるインターピクチャ予測の依存性が、前記所与のタイルセットについて回避されるように、前記の符号化における動き推定を制限するステップと、
    を更に含む、請求項1に記載の方法。
  3. 前記制御データは更に、特定の境界を越えるインターピクチャ予測の依存性が、前記複数のタイルのうちの1つ以上の他のタイルセットの各々について制限されることを示し、前記の符号化するステップは、(1)前記所与のタイルセット及び前記1つ以上の他のタイルセットの符号化の少なくとも一部の段階について、並行処理を使用するか、又は(2)漸進的デコーダリフレッシュ機能を提供するよう、前記所与のタイルセット及び1つ以上の他のタイルセットを構成する、
    請求項1に記載の方法。
  4. コンピュータシステムにおいて、
    複数のピクチャについての符号化データを受信するステップであって、前記複数のピクチャの各々が複数のタイルに分割されている、ステップと、
    特定の境界を越えるインターピクチャ予測の依存性が前記複数のタイルのうちの1つ以上のタイルの所与のタイルセットについて制限されることを示す、制御データを受け取るステップであって、前記所与のタイルセットは、前記複数のタイルのうちの前記1つ以上のタイルを覆う1つ以上のタイル領域として前記制御データ内でパラメータ化され、前記制御データは、タイルセット境界を越えるインターピクチャ予測の依存性が前記所与のタイルセットについて制限されることを示す、補足エンハンスメント情報(SEI)メッセージであり、前記SEIメッセージは、前記所与のタイルセットのみを復号するときに前記所与のタイルセットの品質が不利な影響を受け得るかどうかを評価するためにデコーダによって使用可能なシンタックス要素を含む、ステップと、
    前記符号化データを処理するステップと、
    を含み、
    前記シンタックス要素は、(a)前記所与のタイルセットの外側にある部分が復号されない場合に前記所与のタイルセットについて再構築されるサンプル値が、(b)前記所与のタイルセットの外側にある前記部分の全てが復号される場合に前記所与のタイルセットについて再構築されるサンプル値と正確に一致するよう制限されるかどうかを示すフラグであり、
    前記1つ以上のタイル領域は、1つ以上のタイル矩形であり、前記SEIメッセージは、前記所与のタイルセット内の前記1つ以上のタイル矩形のうちの所与のタイル矩形について、前記所与のタイル矩形の2つの角を特定するシンタックス要素を更に含む、方法。
  5. 前記の処理するステップは、
    前記所与のタイルセットの外側にある前記複数のピクチャの部分の復号を行うことなく、前記所与のタイルセットを前記複数のピクチャ内の関心領域として復号するステップと;
    前記符号化データをトランスコードするステップであって、該トランスコードが:
    前記所与のタイルセットの外側にある前記複数のピクチャの部分についての符号化データを除外することと、
    前記所与のタイルセットについての符号化データを新たなビットストリームとして編成することと、
    を含む、前記符号化データをトランスコードするステップと;
    前記所与のタイルセット及び前記複数のタイルのうちの1つ以上の他のタイルセットの復号の少なくとも一部の段階について、並行処理を使用する復号ステップであって、前記制御データは更に、特定の境界を越えるインターピクチャ予測の依存性が、前記複数のタイルのうちの前記1つ以上の他のタイルセットの各々について制限されることを示す、復号ステップと;
    のうちのいずれか1つを含む、請求項4に記載の方法。
  6. 前記所与のタイルセットの外側にある前記部分が復号されず、前記所与のタイルセットの前記境界が、復号する目的のためにピクチャ境界として扱われるとき、
    前記フラグが0に等しい場合、(a)前記所与のタイルセットについて再構築されるサンプル値は、(b)前記所与のタイルセットの外側にある前記部分の全てが復号される場合に前記所与のタイルセットについて再構築されるサンプル値と同じであるよう制限されず、
    前記フラグが1に等しい場合、(a)前記所与のタイルセットについて再構築されるサンプル値は、(b)前記所与のタイルセットの外側にある前記部分の全てが復号される場合に前記所与のタイルセットについて再構築されるサンプル値と同じであるよう制限される、
    請求項4に記載の方法。
  7. 前記制御データは更に、
    前記所与のタイルセットの識別子と、
    前記所与のタイルセット内のタイル矩形の数を示すカウントパラメータと、
    を含む、請求項1乃至5のいずれか一項に記載の方法。
  8. 前記2つの角は、前記所与のタイル矩形の左上の角と、前記所与のタイル矩形の右下の角である、
    請求項5に記載の方法。
  9. 前記制御データは更に、特定の境界を超えるインターピクチャ予測の依存性が、前記複数のタイルのうちの1つ以上の他のタイルセットの各々について制限されることを示し、前記制御データは更に、
    タイルセットの数を示すパラメータと、
    前記所与のタイルセット及び1つ以上の他のタイルセットの各々について、当該タイルセットの識別子と、
    を含む、
    請求項1乃至5のいずれか一項に記載の方法。
  10. 前記複数のタイルは、ピクチャ境界を用いて、前記複数のピクチャ内における前記複数のタイルの水平境界と垂直境界を定義する、タイル行及びタイル列に従って編成される、
    請求項1乃至5のいずれか一項に記載の方法。
  11. プログラムされるとき、コンピュータシステムに請求項1乃至10のいずれか一項に記載の方法を実行させる、コンピュータプログラム。
  12. 請求項1乃至10のいずれか一項に記載の方法を実行するよう適合されるコンピュータシステム。
JP2016507533A 2013-04-08 2013-09-20 関心領域の符号化のための動き制限タイルセット Active JP6449852B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201361809427P 2013-04-08 2013-04-08
US61/809,427 2013-04-08
US14/021,883 US9749627B2 (en) 2013-04-08 2013-09-09 Control data for motion-constrained tile set
US14/021,883 2013-09-09
PCT/US2013/061057 WO2014168650A1 (en) 2013-04-08 2013-09-20 Motion-constrained tile set for region of interest coding

Publications (3)

Publication Number Publication Date
JP2016519516A JP2016519516A (ja) 2016-06-30
JP2016519516A5 JP2016519516A5 (ja) 2016-10-13
JP6449852B2 true JP6449852B2 (ja) 2019-01-09

Family

ID=51654447

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016507533A Active JP6449852B2 (ja) 2013-04-08 2013-09-20 関心領域の符号化のための動き制限タイルセット

Country Status (11)

Country Link
US (2) US9749627B2 (ja)
EP (2) EP2984823B1 (ja)
JP (1) JP6449852B2 (ja)
KR (1) KR102178769B1 (ja)
CN (1) CN105432082B (ja)
AU (1) AU2013385808B2 (ja)
BR (2) BR122022001588B1 (ja)
CA (1) CA2908007C (ja)
MX (1) MX358071B (ja)
RU (1) RU2648592C2 (ja)
WO (1) WO2014168650A1 (ja)

Families Citing this family (82)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
PL2744202T3 (pl) * 2011-08-11 2020-12-28 Sun Patent Trust Sposób kodowania obrazów, sposób dekodowania obrazów, urządzenie do kodowania obrazów, urządzenie do dekodowania obrazów oraz urządzenie do kodowania/dekodowania obrazów
US9979960B2 (en) 2012-10-01 2018-05-22 Microsoft Technology Licensing, Llc Frame packing and unpacking between frames of chroma sampling formats with different chroma resolutions
RU2654051C1 (ru) 2013-01-18 2018-05-16 Кэнон Кабусики Кайся Способ, устройство и компьютерная программа для инкапсуляции сегментированных синхронизированных мультимедийных данных
US9749627B2 (en) 2013-04-08 2017-08-29 Microsoft Technology Licensing, Llc Control data for motion-constrained tile set
CN104125463A (zh) * 2013-04-26 2014-10-29 华为技术有限公司 一种图像预测编码方法及图像编码器
US9298778B2 (en) * 2013-05-14 2016-03-29 Google Inc. Presenting related content in a stream of content
US9367568B2 (en) * 2013-05-15 2016-06-14 Facebook, Inc. Aggregating tags in images
WO2015005367A1 (ja) * 2013-07-12 2015-01-15 ソニー株式会社 画像復号装置および方法
JP6202912B2 (ja) * 2013-07-12 2017-09-27 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
EP3562170A1 (en) 2013-07-29 2019-10-30 Koninklijke KPN N.V. Providing tile video streams to a client
US9179096B2 (en) * 2013-10-11 2015-11-03 Fuji Xerox Co., Ltd. Systems and methods for real-time efficient navigation of video streams
GB2542282B (en) * 2013-10-22 2018-08-01 Canon Kk Method, device, and computer program for encapsulating partitioned timed media data in a server
JP6692087B2 (ja) * 2013-12-27 2020-05-13 サン パテント トラスト 配信方法、およびシステム
US10070070B2 (en) * 2014-05-28 2018-09-04 Mediatek Inc. Video processing apparatus with transform unit size selection, mode information unit size selection and/or picture width/height decision, and related video processing method thereof
US10694192B2 (en) 2014-06-27 2020-06-23 Koninklijke Kpn N.V. HEVC-tiled video streaming
US9854201B2 (en) 2015-01-16 2017-12-26 Microsoft Technology Licensing, Llc Dynamically updating quality to higher chroma sampling rate
US9749646B2 (en) 2015-01-16 2017-08-29 Microsoft Technology Licensing, Llc Encoding/decoding of high chroma resolution details
GB2534420B (en) * 2015-01-26 2021-01-13 Advanced Risc Mach Ltd Data processing systems
US10609419B2 (en) * 2015-06-24 2020-03-31 Sony Corporation Encoding apparatus, decoding apparatus and transmission control method
WO2017029400A1 (en) * 2015-08-20 2017-02-23 Koninklijke Kpn N.V. Forming one or more tile streams on the basis of one or more video streams
US10674185B2 (en) 2015-10-08 2020-06-02 Koninklijke Kpn N.V. Enhancing a region of interest in video frames of a video stream
TWI762260B (zh) 2016-02-09 2022-04-21 弗勞恩霍夫爾協會 用於圖像/視訊資料串流而允許有效可縮減性或有效隨機存取之技術
FI20165114A (fi) * 2016-02-17 2017-08-18 Nokia Technologies Oy Laitteisto, menetelmä ja tietokoneohjelma videokoodausta ja videokoodauksen purkua varten
US10419768B2 (en) * 2016-03-30 2019-09-17 Qualcomm Incorporated Tile grouping in HEVC and L-HEVC file formats
EP3226561A1 (en) 2016-03-31 2017-10-04 Thomson Licensing Method and apparatus for coding a video into a bitstream carrying region-based post processing parameters into an sei nesting message
CN116546205A (zh) * 2016-04-08 2023-08-04 韩国电子通信研究院 用于导出运动预测信息的方法和装置
WO2018011042A1 (en) * 2016-07-14 2018-01-18 Koninklijke Kpn N.V. Video coding
US10334277B2 (en) * 2016-09-02 2019-06-25 Qualcomm Incorporated Signaling target display parameters of color remapping information supplemental enhancement information messages
US10368080B2 (en) 2016-10-21 2019-07-30 Microsoft Technology Licensing, Llc Selective upsampling or refresh of chroma sample values
US11140417B2 (en) 2016-11-01 2021-10-05 Nokia Technologies Oy Apparatus, a method and a computer program for video coding and decoding
WO2018107404A1 (en) 2016-12-14 2018-06-21 SZ DJI Technology Co., Ltd. System and method for supporting video bit stream switching
WO2018123608A1 (ja) * 2016-12-27 2018-07-05 ソニー株式会社 画像処理装置および方法
WO2018124818A1 (ko) * 2017-01-02 2018-07-05 주식회사 케이티 비디오 신호 처리 방법 및 장치
EP3349459A1 (en) * 2017-01-11 2018-07-18 Thomson Licensing A method and a device for image encoding and decoding
KR102424829B1 (ko) 2017-02-22 2022-07-25 에스케이텔레콤 주식회사 비디오 데이터가 부호화된 비트스트림을 처리하는 방법
WO2018155939A1 (ko) 2017-02-22 2018-08-30 에스케이텔레콤 주식회사 영상 복호화 방법 및 장치
US10897612B2 (en) 2017-03-03 2021-01-19 Qualcomm Incorporated Coding identifiers for motion constrained tile sets
CN115955560A (zh) * 2017-03-20 2023-04-11 Ge 视频压缩有限责任公司 生成视频数据流的装置以及生成视频数据流的方法
US10986351B2 (en) * 2017-07-03 2021-04-20 Iucf-Hyu (Industry-University Cooperation Foundation Hanyang University) Method and device for decoding image by using partition unit including additional region
WO2019009473A1 (ko) * 2017-07-04 2019-01-10 엘지전자 주식회사 360도 비디오의 영역 기반 처리 방법 및 장치
KR20190024212A (ko) * 2017-08-31 2019-03-08 세종대학교산학협력단 타일 구조의 구성 방법 및 이의 장치
WO2019103126A1 (en) * 2017-11-22 2019-05-31 Sharp Kabushiki Kaisha Systems and methods for signaling tile structures for pictures of coded video
CN118042156A (zh) * 2017-12-28 2024-05-14 韩国电子通信研究院 图像编码和解码的方法和装置以及存储比特流的记录介质
CN110035331B (zh) 2018-01-12 2021-02-09 华为技术有限公司 一种媒体信息的处理方法及装置
CN108600863A (zh) * 2018-03-28 2018-09-28 腾讯科技(深圳)有限公司 多媒体文件处理方法和装置、存储介质及电子装置
WO2019189890A1 (en) * 2018-03-30 2019-10-03 Sharp Kabushiki Kaisha Systems and methods for signaling tile structures for pictures of coded video
ES2971545T3 (es) * 2018-04-03 2024-06-05 Huawei Tech Co Ltd Señalización de formato de archivo de mitigación de errores en una codificación de vídeo dependiente del área de visualización basada en flujos de bits de subimágenes
GB2572770B (en) * 2018-04-09 2022-11-02 Canon Kk Method and apparatus for encoding or decoding video data with frame portions
US10567781B2 (en) * 2018-05-01 2020-02-18 Agora Lab, Inc. Progressive I-slice reference for packet loss resilient video coding
US10638147B2 (en) * 2018-06-01 2020-04-28 Apple Inc. Gradual decoder refresh techniques with management of reference pictures
WO2019243539A1 (en) * 2018-06-21 2019-12-26 Telefonaktiebolaget Lm Ericsson (Publ) Tile partitions with sub-tiles in video coding
JP7278719B2 (ja) * 2018-06-27 2023-05-22 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
KR102644707B1 (ko) * 2018-07-02 2024-03-06 노키아 테크놀로지스 오와이 비디오 코딩에서 타일 관련 어드레싱을 위한 방법 및 장치
US10841602B2 (en) * 2018-07-16 2020-11-17 Tencent America LLC Hierarchical tiles
TWI822863B (zh) 2018-09-27 2023-11-21 美商Vid衡器股份有限公司 360度視訊寫碼樣本導出
EP3861754A1 (en) * 2018-10-02 2021-08-11 Telefonaktiebolaget LM Ericsson (publ) Picture tile attributes signaled using loop(s) over tiles
KR102629907B1 (ko) * 2018-10-02 2024-01-30 텔레호낙티에볼라게트 엘엠 에릭슨(피유비엘) 타일 그룹 id에 기초한 화상들의 인코딩 및 디코딩
US20220014774A1 (en) * 2018-10-11 2022-01-13 Samsung Electronics Co., Ltd. Video encoding and decoding method using tiles and tile groups, and video encoding and decoding device using tiles and tile groups
BR112021010054A2 (pt) * 2018-11-26 2021-08-17 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. fluxo de dados, decodificador e codificador de vídeo baseado em bloco e seus respectivos métodos
CN113170201B (zh) * 2018-11-30 2024-04-12 夏普株式会社 用于对视频数据进行解码的方法和设备
KR20210106996A (ko) * 2018-12-04 2021-08-31 브이아이디 스케일, 인크. 타일 그룹 분할
WO2020124016A1 (en) * 2018-12-14 2020-06-18 Futurewei Technologies, Inc. Arbitrary and wrap-around tile grouping
AU2019405497B2 (en) * 2018-12-17 2023-06-01 Huawei Technologies Co., Ltd. Video coding method and apparatus
US11140403B2 (en) * 2018-12-20 2021-10-05 Tencent America LLC Identifying tile from network abstraction unit header
US11477445B2 (en) * 2018-12-28 2022-10-18 Hfi Innovation Inc. Methods and apparatuses of video data coding with tile grouping
KR20210103572A (ko) * 2018-12-31 2021-08-23 후아웨이 테크놀러지 컴퍼니 리미티드 타일 구성 시그널링을 위한 인코더, 디코더 및 대응 방법
BR112021013512A2 (pt) 2019-01-09 2021-09-14 Huawei Technologies Co., Ltd. Codificador de vídeo, decodificador de vídeo e métodos correspondentes
US20200236377A1 (en) * 2019-01-22 2020-07-23 Tencent America LLC Method for tile group identification
WO2020175904A1 (ko) * 2019-02-26 2020-09-03 엘지전자 주식회사 시그널링된 정보에 기반한 픽처 파티셔닝 방법 및 장치
WO2020175908A1 (ko) * 2019-02-26 2020-09-03 엘지전자 주식회사 시그널링된 정보에 기반한 픽처 파티셔닝 방법 및 장치
WO2020175905A1 (ko) * 2019-02-26 2020-09-03 엘지전자 주식회사 시그널링된 정보에 기반한 픽처 파티셔닝 방법 및 장치
WO2020185145A1 (en) * 2019-03-08 2020-09-17 Telefonaktiebolaget Lm Ericsson (Publ) Methods providing encoding/decoding of dependent/independent partitions and related devices
TWI826969B (zh) * 2019-03-11 2023-12-21 弗勞恩霍夫爾協會 具輪廓與位階相依寫碼選項之編碼器與解碼器、編碼方法及解碼方法
EP3939319B1 (en) * 2019-03-11 2023-07-05 Telefonaktiebolaget LM Ericsson (publ) Video coding comprising rectangular tile group signaling
GB2617790B (en) * 2019-03-20 2024-03-13 V Nova Int Ltd Low complexity enhancement video coding
US20220150487A1 (en) * 2019-03-21 2022-05-12 Kaonmedia Co., Ltd. Image encoding method, image decoding method, and device for processing picture partitions
US11523185B2 (en) 2019-06-19 2022-12-06 Koninklijke Kpn N.V. Rendering video stream in sub-area of visible display area
US20220279190A1 (en) * 2019-09-06 2022-09-01 Sony Interactive Entertainment Inc. Transmission apparatus, reception apparatus, transmission method,reception method, and program
US11218698B2 (en) 2019-09-27 2022-01-04 Nokia Technologies Oy Fractional/arbitrary tile grouping
EP4091321A4 (en) 2020-02-14 2023-04-12 Beijing Bytedance Network Technology Co., Ltd. INTERACTION BETWEEN LOOP FILTERING AND VIDEO TILES
US20230254489A1 (en) * 2022-02-07 2023-08-10 Tencent America LLC Adaptive context-based adaptive binary arithmetic coding (cabac) initial state selection from coded pictures
FR3139260A1 (fr) 2022-08-25 2024-03-01 S.A. Vitec Lissage hors boucle de codage d’une frontière entre deux zones d’image

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5638128A (en) 1994-11-08 1997-06-10 General Instrument Corporation Of Delaware Pixel interpolation filters for video decompression processor
US6404814B1 (en) 2000-04-28 2002-06-11 Hewlett-Packard Company Transcoding method and transcoder for transcoding a predictively-coded object-based picture signal to a predictively-coded block-based picture signal
JP2003204439A (ja) * 2002-01-08 2003-07-18 Canon Inc 画像符号化装置及び画像符号化方法
FI114679B (fi) 2002-04-29 2004-11-30 Nokia Corp Satunnaisaloituspisteet videokoodauksessa
CN101232616B (zh) * 2002-07-16 2015-07-22 诺基亚有限公司 用于在视频编码中随机存取和逐步更新图像的方法
US7724827B2 (en) * 2003-09-07 2010-05-25 Microsoft Corporation Multi-layer run level encoding and decoding
US8064520B2 (en) 2003-09-07 2011-11-22 Microsoft Corporation Advanced bi-directional predictive coding of interlaced video
EP2375749B1 (en) * 2005-10-11 2016-11-23 Nokia Technologies Oy System and method for efficient scalable stream adaptation
US8254455B2 (en) 2007-06-30 2012-08-28 Microsoft Corporation Computing collocated macroblock information for direct mode macroblocks
US20100232504A1 (en) * 2009-03-13 2010-09-16 The State of Oregon acting by and through the State Board of Higher Education on behalf of the Supporting region-of-interest cropping through constrained compression
CN102939750B (zh) 2010-04-13 2016-07-06 Ge视频压缩有限责任公司 跨平面预测
US9300976B2 (en) 2011-01-14 2016-03-29 Cisco Technology, Inc. Video encoder/decoder, method and computer program product that process tiles of video data
GB2488159B (en) * 2011-02-18 2017-08-16 Advanced Risc Mach Ltd Parallel video decoding
US20120243614A1 (en) 2011-03-22 2012-09-27 Danny Hong Alternative block coding order in video coding
US9338465B2 (en) * 2011-06-30 2016-05-10 Sharp Kabushiki Kaisha Context initialization based on decoder picture buffer
US9521418B2 (en) * 2011-07-22 2016-12-13 Qualcomm Incorporated Slice header three-dimensional video extension for slice header prediction
US9584819B2 (en) * 2011-10-24 2017-02-28 Qualcomm Incorporated Grouping of tiles for video coding
US9967563B2 (en) * 2012-02-03 2018-05-08 Hfi Innovation Inc. Method and apparatus for loop filtering cross tile or slice boundaries
US9681155B2 (en) * 2013-03-15 2017-06-13 Sony Interactive Entertainment America Llc Recovery from packet loss during transmission of compressed video streams
US9749627B2 (en) 2013-04-08 2017-08-29 Microsoft Technology Licensing, Llc Control data for motion-constrained tile set

Also Published As

Publication number Publication date
US20140301464A1 (en) 2014-10-09
RU2015142850A (ru) 2017-04-12
JP2016519516A (ja) 2016-06-30
CN105432082A (zh) 2016-03-23
US10523933B2 (en) 2019-12-31
BR112015025393B1 (pt) 2022-12-20
BR112015025393A2 (pt) 2017-08-29
RU2648592C2 (ru) 2018-03-26
EP2984823B1 (en) 2019-12-04
AU2013385808A1 (en) 2015-10-22
AU2013385808B2 (en) 2017-09-21
KR102178769B1 (ko) 2020-11-13
BR122022001588B1 (pt) 2022-12-20
EP3606068A1 (en) 2020-02-05
US20170318288A1 (en) 2017-11-02
CA2908007C (en) 2020-07-28
EP2984823A1 (en) 2016-02-17
US9749627B2 (en) 2017-08-29
CA2908007A1 (en) 2014-10-16
KR20150140360A (ko) 2015-12-15
MX2015014202A (es) 2016-05-05
WO2014168650A1 (en) 2014-10-16
MX358071B (es) 2018-08-03
CN105432082B (zh) 2019-10-18

Similar Documents

Publication Publication Date Title
JP6449852B2 (ja) 関心領域の符号化のための動き制限タイルセット
US11770553B2 (en) Conditional signalling of reference picture list modification information
CA2897039C (en) Syntax and semantics for buffering information to simplify video splicing

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160826

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160826

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170608

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170627

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180731

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181026

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181206

R150 Certificate of patent or registration of utility model

Ref document number: 6449852

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250