JP2019526996A - 部分的ビデオ・デコード方法、デバイス、およびシステム - Google Patents

部分的ビデオ・デコード方法、デバイス、およびシステム Download PDF

Info

Publication number
JP2019526996A
JP2019526996A JP2019513401A JP2019513401A JP2019526996A JP 2019526996 A JP2019526996 A JP 2019526996A JP 2019513401 A JP2019513401 A JP 2019513401A JP 2019513401 A JP2019513401 A JP 2019513401A JP 2019526996 A JP2019526996 A JP 2019526996A
Authority
JP
Japan
Prior art keywords
array
slice
sub
abstraction layer
network abstraction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019513401A
Other languages
English (en)
Other versions
JP6956781B2 (ja
Inventor
バングマ,メンノ
ヴァン・ブランデンブルク,レイ
フェーンハウゼン,アリエン
Original Assignee
コニンクリーケ・ケイピーエヌ・ナムローゼ・フェンノートシャップ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by コニンクリーケ・ケイピーエヌ・ナムローゼ・フェンノートシャップ filed Critical コニンクリーケ・ケイピーエヌ・ナムローゼ・フェンノートシャップ
Publication of JP2019526996A publication Critical patent/JP2019526996A/ja
Application granted granted Critical
Publication of JP6956781B2 publication Critical patent/JP6956781B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/188Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a video data packet, e.g. a network abstraction layer [NAL] unit
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/40Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167Position within a video image, e.g. region of interest [ROI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/88Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving rearrangement of data among different coding units, e.g. shuffling, interleaving, scrambling or permutation of pixel data or permutation of transform coefficient data among different blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

部分的ビデオ・イメージを表すエンコード・ビデオ・データは、HEVCビット・ストリームのような第1ビデオ・ストリームからデコードされる。第1ビデオ・ストリームが独立してデコード可能なスライスの空間アレイに分割される。第1ビデオ・ストリームが、ヘッダによって先行されるスライスの各1つについてのビデオ・コンテンツ・データを各々収容するネットワーク抽象化レイヤ・ユニットを含み、ヘッダが第1ビデオ・ストリームに対するスライスの各1つに関するパラメータを含む。ネットワーク抽象化レイヤ・ユニットのパラメータの位置に関し以前に用意されている情報、または異なる部分イメージ・サイズのネットワーク抽象化レイヤ・ユニットの複数の異なるバージョンが用いられる。メタ・データはスライスのサブ・アレイのネットワーク抽象化レイヤ・ユニットについて用いられ、ネットワーク抽象化レイヤ・ユニットはメタ・データに基づいて選択された位置で書き換えられ、ネットワーク抽象化レイヤ・ユニットをスライスのサブ・アレイ専用のエンコード・ビデオ・データの第2ビデオ・ストリームに整合させる。【選択図】図5

Description

本発明は、ビデオ情報送信方法およびシステム、ビデオ・デコーダおよびビデオ・エンコーダ、並びにビデオ・エンコードおよびデコードの方法に関する。
従来技術
WO201597818は、例えば、ヘッド・マウント・デバイス上での表示のために、大規模ビデオ・イメージ(例えば、パノラマ・ビデオ・イメージ)に対して、ユーザ選択可能な空間ビューポイントからビデオ・データをレンダリングするために、HEVCタイルを使用することを開示する。HEVC規格(高効率ビデオ・コーディング)は、デコーダ・システムにおいてマルチコア・プロセッサを使用して、ビデオ・データのデコードを容易にするためのタイルおよびスライスの使用を提供する。タイルは、ビデオ・イメージのそれぞれの空間領域に対応し、そのため、ビデオ・データは独立してエンコードされる。つまり、異なるデコーダ・ユニットは、異なるプロセッサ・コア上で実行され、異なるタイルをデコードするように割り当てられる(HEVC用語では、「デコーダ」と称される、タイルをデコードするユニットであるが、本明細書で用いる際は、「デコーダ」の用語はまた、異なるタイルのための複数のHEVCデコーダ、および2つ以上のタイルのデコードをカバーする。)。HEVCのコード化ビデオにおけるフレームは、タイルから構成される空間アレイに分割される。各タイルは少なくとも1つのスライスを収容する。
HEVCソース・デバイスは、ネットワークを介してHEVCビット・ストリーム・データを供給する。HEVCのソース・デバイスは、通常はファイル転送サーバより小さなものである。宛先の要求において、HEVCソース・デバイスは、マニフェスト・ファイルを供給する。マニフェスト・ファイルは、宛先が、格納されたHEVCエンコード・ビット・ストリームデータの一部を転送するために柔軟な要求を生成するのを可能にする。HEVCソース・デバイスは、HEVCに従った動作を何ら実行するのではなく、デコード可能ビデオ・ビット・ストリームを形成する要求部分を単に送信するに過ぎない。デコード可能ビデオ・ビット・ストリームは任意の規格準拠デコーダによってデコードすることができる。
WO2015197818は、タイルが、ビデオ・フレームにおける空間部分へのランダム・アクセスを許可できることを利用している。この文書では、空間マニフェスト・ファイル(SMF)を、HEVCタイルのサブセットに関するメタ・データと共に使用している。これは、ビューポートからタイルを選択的に抽出するために使用され、要求されたタイル化ビデオ・データを受信する前にデコーダ・システムを設定することができる。
HEVCビデオ・ビット・ストリーム・データのストレージおよびネットワーク送信には、ネットワーク抽象化レイヤ(NAL)を伴う。HEVCビデオ・ビット・ストリーム・データは、NALユニットと称されるパケット内に格納され、また送信される。ビデオ・ビット・ストリーム・データを有するNALユニットを送信することに先立ち、他のNALユニットは、ビデオ・ビット・ストリーム・データに適用するパラメータ・セットを送信するために使用される。パラメータ・セットには、ピクチャ・パラメータ・セット(PPS)、シーケンス・パラメータ・セット(SPS)、およびビデオ・パラメータ・セット(VPS)が含まれる。パラメータ・セットは、とりわけ、ピクチャ・サイズ、タイル・セットの次元、およびスライス・セグメント・アドレスを規定する。ビデオ・データを有する各NALユニットは、ヘッダ・データおよびペイロード・データを収容する。HEVC規格を規定することに関し、NALユニットのペイロード・データは、スライス・ヘッダによって先行されるビデオ・データを収容する。しかしながら、本明細書で用いる場合、スライス・ヘッダは、NALユニットのヘッダ・データとして参照することもある。つまり、ヘッダ・データはメタ・データであり、ビデオ・データではない。以上のように、ヘッダ・データは、NALユニット・ヘッダおよびスライス・ヘッダを含む。ヘッダ・データ、またはヘッダ・データ内のパラメータの少なくとも一部は、可変長コードによってエンコードされる。その結果、ヘッダ長は、スライス毎に、またフレーム毎に変更することができる。ビデオ・ビットストリーム・データを有するNALユニットのヘッダは、それらに適用するパラメータ・セットを直接的または間接的に示す。パラメータ・セットは、デコーダを初期化する(構成する)のに使用される。つまり、パラメータ・セットは、デコーダによって用いられるメタ・データである。パラメータ・セットは、(例えば、HEVCの場合には非VCLNALユニットの形態で)HEVCビット・ストリームの一部としてデコーダに供給される。代替として、1または複数のパラメータ・セットが、代替のビット・ストリームにおいて、SEIメッセージとして、またはデコーダの代替インタフェースを介して、供給されてもよい。パラメータ・セットがビデオ・データよりも前に供給される限り、それに対してパラメータ・セットが適用される。つまり、HEVC準拠のビット・ストリームは、ビデオ・データを搬送するNALユニットだけでなく、パラメータ・セットも収容する。次に、NALユニット内部の(ピクチャ・パラメータ・セットIDによる)スライス・ヘッダにおいて参照されるピクチャ・パラメータ・セット(PPS)が、シーケンス・パラメータ・セットを参照する(例えば、ピクチャ・パラメータ・セットは、シーケンス・パラメータ・セットIDを含む。)。そして今度は、NALユニットに適用するビデオ・パラメータ・セットを参照する。
更に大規模なHEVCデータにおいて制限された数のタイルのみからのビデオ・データを収容する、選択されたビューポートからの専用ビデオ・データがレンダリングされるとき、導出されたHEVCストリームは、必要とされるタイルのみを用いて、ネットワーク送信のために使用される。ネットワーク・ソースは、ビューポートが選択されているネットワークの宛先に対し、導出されたHEVCビット・ストリームを送信する。これは、オリジナルのフルHEVCビット・ストリーム・データを用いてストリームを送信するのよりもネットワーク帯域幅を必要としない。ビューポートに関連付けられるビデオ・データを、オリジナルのHEVCソース・ストリームの解像度でデコードする結果、そのビューポートに対応するピクセル領域を有するイメージとなる。しかし、イメージはまた、特定の値のピクセルによって作為的に完成された(デコーダ依存の)ピクセル領域を有する。何故ならば、デコーダは、それに関連付けられるエンコード・ビデオ・データを受信していないからである。したがって、オリジナルのイメージの一部のみが転送およびデコードされるにすぎないので、デコードされたビデオ・データについて(デコード後の)後処理が必要とされる。このことは、生のイメージ・フレームからビューポートのピクセル・データをトリミングして、トリミング・イメージとし、その後に、トリミング・イメージを所望のスクリーン解像度にリサイズすることを伴う。ネットワークの宛先のためのビューポート選択がレンダリングの間に変更するときは、導出されたHEVCビット・ストリームが変更される必要がある。ピクチャ・サイズは同一に維持するものの、オリジナルのHEVCビット・ストリーム・データとは異なるタイルが、第1ビューポートおよび第2ビューポートの間の差分に関連付けられて送信される必要がある。後処理は、トリミングに関して調整される必要がある。ここでは異なる領域をトリミングする必要があるからである。ビューポートの変更がユーザ入力の結果である場合、追加の1つ以上のタイルを抽出し、デコーディングし、そして異なる後処理のステップを行うことは、全て、ユーザが経験する総遅延として付け加えられる。特に、VRおよび/または360ビデオに関連の設定では(ここでは、例えば、レンダリングがヘッド・マウント型ディスプレイヘッド上で実行され、ユーザ入力は、例えば測定される頭部の動きである。)、タイルは、離れた位置から抽出され、このような総遅延は目立つものとなり、容易に受け入れられず、ユーザ・エクスペリエンスが低下し、潜在的な不快感を引き起こすことになる。
非常に高い解像度のソース・コンテンツであるときは、別の不利な点も生じる。先行技術に提示される技術は、ソース・コンテンツとデコード・コンテンツとが同一のピクセル解像度を有することが必要である。実際には、エンド・ユーザ・デバイスは、ビデオをデコードする性能の点で、そのスクリーン解像度とは無関係に特定のピクセル解像度に制限される。この制限は、1秒当たり特定のピクセル量をデコードする能力を有するハードウェア・ビデオ・デコーダに因る。他方、カメラおよびキャプチャ機器が、エンド・ユーザ・デバイスよりも高い解像度でコンテンツを作成できるということは一般的なことである。結果として、最高水準の技術では、ソース・コンテンツ全体の解像度よりも低い解像度に制限されたビデオ・デコーダによって、本来の解像度でビデオ・データをデコードするのを可能にする必要性が存在する。このように、エンド・ユーザは更に高いエクスペリエンスを提供する更に高いビデオ品質を知覚することができる。
とりわけ、ビューポートにおいて部分的ビデオ・イメージのデコードを容易にすることを目的とする。
とりわけ、表示されたビューポートが変更するときに、遅延のデコードおよびレンダリングを低減させることを目的とする。
請求項1による方法が提供される。
ここでは、以前に用意されている情報(例えば、メタ・データ)を使用して、スライスのサブ・アレイのために、ネットワーク抽象化レイヤ(NAL)ユニット内のヘッダ・データを部分的に書き換えることを制御し、スライスのサブ・アレイ専用のビデオ・データをコード化するビデオ・ストリームにNALユニットを整合させる。換言すれば、書き換えは、第2ビデオ・ストリーム、好ましくは第2のHEVCビット・ストリームを形成する書換ネットワーク抽象化レイヤ・ユニットを生成する。書換ネットワーク抽象化レイヤ・ユニットは、ビデオ・コーデックに基づいて部分的ビデオ・イメージにデコード可能である。
つまり、部分的ビデオ・イメージを表すエンコード・ビデオ・データは、標準的なデコーダを使用して部分的に書き換えられたビット・ストリームからデコードすることができる。メタ・データの使用に代えて、またはメタ・データの使用に加えて、以前に用意されている情報は、異なるサブ・アレイのサイズのために複数の格納済みのバージョンを含んでもよい。
実施形態では、書き換えられるヘッダ内の位置は、それぞれのネットワーク抽象化レイヤ・ユニットの1つ以上のスライスの空間位置の指示を含む。当該指示は、好ましくはスライス・ヘッダのアドレスである。スライスの空間位置は、デコード・プロセスの出力であるイメージ・フレーム内のそのポジション(即ち位置)を決定する。書き換えプロセスよりも以前に存在している指示は、ソース・ビット・ストリームのビデオ・イメージのイメージ領域(フレーム)内のスライスの位置に関係する。オリジナルの指示を新規の指示に変更することにより、スライスのサブ・アレイがデコードされることができる。これにより、各スライス(より正確には、スライスのビデオ・データによって表されるサブ領域)は、部分的イメージ内で意図された新規の位置に配置される。
実施形態では、当該デコードよりも以前に、空間アレイが第1ピクチャ・サイズに関連付けられており、デコーダが第2ピクチャ・サイズについて初期化されており、ここで、当該第2ピクチャ・サイズは第1ピクチャ・サイズよりも小さい。この実施形態では、空間位置の指示を、サブ・アレイにおけるものの空間位置に対応する指示に書き換えることが重要である。デコーダ用のピクチャ・サイズはオリジナル(最初)のビデオ・ビット・ストリームのピクチャ・サイズよりも更に小さく設定されるので、デコーダは、もはやオリジナルの指示をハンドルすることはできない。その場合、デコーダは、もはや、受信したNALユニット(のエンコード・ビデオ・データ)をデコードすることはできない。実施形態では、部分的イメージを使用して、ビューポートによって規定された位置においてフル・エンコード・ビデオ・イメージの一部に対応するビデオ・イメージのストリームを表示することによって、フル・ビデオ・データ上にビューポートを提供することができる。本実施形態では、スライスのサブ・アレイは、ビューポート内の全ての位置についてのビデオ・コンテンツ・データを収容するスライスを含む。
実施形態では、この書き換えは、NALユニットの先頭ポイントに対しヘッダ・データの部分の位置を変更することを伴う。例えば、スライスの空間位置の指示のようなパラメータ(例えば、スライス・アドレス)が変更されたヘッダのビット長によって書き換えられている位置の後ろにすることである。変更されるビット長は、スライスの空間位置についての変更指示(例えば、異なるスライス・アドレス)に因る。ヘッダのこの部分の末尾では、パディング・ビットが追加または除去されて、マルチ・ビット・ワード境界での後続のビデオ・データのアライメントを確実にする。ヘッダ・データのこの部分の位置を変更するために、また、パディング・ビットを追加または削除するために、ヘッダの長さを知らなければならない。ヘッダの長さは、HEVCエンコード・ビット・ストリームのような、データに依存した同一のストリームにおいては、異なるNALユニットごとに異なる。
オリジナルのNALユニットからヘッダの長さを決定することは、計算の追加という重大な苦労を伴うことになる。ヘッダの長さを示すメタ・データを使用することは、ビデオ・コンテンツ・データの先頭の位置またはパディング・ビットの先頭ポイントを直接的または間接的に示すことによって、部分的に書き換えるのに必要となる時間と複雑さを著しく低減させる。
例えば、実施形態では、スライスのサブ・アレイのためにNALユニット内のスライスの空間位置を示す値は、サブ・アレイ内のこれらスライスの位置を区別するそれぞれのスライスの空間位置を示す短縮された値の所定のセットを用いて、フル・ビデオ・イメージにおけるスライスの位置を示すことなく、置き換えられる。NALユニットのヘッダ・データ内のそれぞれの位置は、そこでそれぞれのスライスの空間位置のこれら指示を書き換えるために、個別にそれぞれのNALユニットの各々についてのメタ・データによって示される。しかしながら、書き換えに用いられるヘッダ・データ内の位置が、選択されたサブ・アレイに関連する全ての個別NALユニットについて同一である場合には、(単一の)所定の位置を用いてもよい。
実施形態では、各NALユニットについてのメタ・データは、1つ以上のキーと値のペアを含む。ここでは、値はNAL(ネットワーク抽象化レイヤ)ユニットの当該ヘッダ・データの先頭からのビット・オフセットを示す。また、キーは、ネットワーク抽象化レイヤ・ユニットのヘッダにおいてどのパラメータまたはパディングに対し、値が適用するかについて示す。次いで、示されたパラメータまたはパディングの書き換えが、示されたビット・オフセットにしたがって実行される。
実施形態では、スライスのそれぞれ1つごとに各NALユニットについてのメタ・データが、NALユニットと共に、例えば、スライスのそれぞれ1つについてのNALユニットと、それに適用するメタ・データとの両方を収容するファイル・ラッパの一部として送信される。
実施形態では、メタ・データは、1つ以上のSEIメッセージ、好ましくはHEVCCベースSEIメッセージの内部に含まれる。
実施形態では、ネットワーク抽象化レイヤ(NAL)ユニットにおけるスライスの空間位置の指示に関するメタ・データを含むSEIメッセージは、それぞれの当該NALユニットのヘッダを書き換えるよりも前に、デコーダ装置またはデコーダ・デバイスによって受信されている。好ましくは、当該SEIメッセージは、第2ビデオ・ビット・ストリームの一部である。
別の実施形態では、メタ・データ・ファイルは、帯域外で受信されている。例えば、バイナリ・エンコード・メタ・データ・ファイルは、スライスについて示された選択を収容する部分的HEVCストリームを開始するために、ネットワーク宛先システムからHTTPGET要求コマンドに応答して、ネットワーク宛先システムに向けてネットワーク・ソース・システムからHTTPヘッダで送信される。更なる別の実施形態では、メタ・データは、JSONデータ・フォーマットを用いてフォーマットすることができる。また、例えば、ネットワーク宛先システムとネットワーク・ソース・システムの間で前述のトランスポート・プロトコルの何れかを使用して送信することができる。
実施形態では、以前に用意されている情報は、異なるサブ・アレイのサイズについて格納された複数のバージョンを含み、デコードで使用するために取得されるバージョンは、スライスのサブ・アレイのサイズにしたがって選択される。実施形態では、そのように選択されたバージョンのパラメータは、選択されたサブ・アレイにしたがって書き換えられる。書き換えられるのが必要な1または複数のパラメータは、全てのNALユニットについて同一であるNALの位置に関する所定の情報に基づいて書き換えることができるように、このバージョンが設計される。その結果、個別のNALユニットについての何れのメタ・データも供給される必要がなくなる。更なる実施形態では、どのパラメータもデコード前に書き換える必要がないようにこのバージョンが設計されてもよい。
実施形態では、選択されたサブ・アレイを変更することができる。この方法は、スライスのサブ・アレイのために、NALユニットのスライスの空間位置の指示を書き換えるのに使用するために、選択されたサブ・アレイにおいてスライスの空間位置を示すターゲット値に対する、空間アレイにおけるスライスの空間位置を示す値のマップを規定するステップを含む。
実施形態では、後処理を使用して、デコードされた部分のビデオ・イメージを、空間イメージにおける空間シーケンスに対応する当該空間シーケンスにおいて新規のサブ・アレイのスライスに対応する再配置(re-position)イメージ・ブロックに後処理する。
サブ・アレイの選択が変更されたとき、新規のサブ・アレイおよび以前のサブ・アレイの間の重複部に所属するスライスのために、当該マップにおけるスライスの空間位置を示すターゲット値が維持される。その一方で、重複部には所属しない、新規に選択されたスライスのサブ・アレイについての空間位置を示すターゲット値に対し、マップが再規定される。このように、重複部におけるスライスのデコードは、サブ・アレイの変更によって中断される必要がない。
実施形態では、デコードは、ストリームのI−フレーム専用バージョンからのI−フレームを用いて、連続するフレームの重複部には所属しない新規のサブ・アレイのスライスをデコードすることを含む。このことは、変更の後のスライスを即座にデコードすることを可能にする。ストリームのフレーム間関係ベース・バージョンが新規のピクチャ・グループを収容すると、ストリームのフレーム間関係ベース・バージョンへの切り替えが行われる。
この方法は、特に、リモート・ネットワーク・ソース・システムからネットワーク抽象化レイヤ・ユニットの送信と共に使用するのに適している。ここでは、送信スライスの数は、サブ・アレイからのスライスに低減されることができる。
実施形態では、ネットワーク・ソース・システムは、サブ・アレイのスライスについてのネットワーク抽象化レイヤ・ユニットと同様、メタ・データを送信する。この場合、書き換えがネットワーク宛先システムによって実行される。別の実施形態では、書き換えの少なくとも一部は、メタ・データに基づいてネットワーク・ソース・システムで実行されてもよく、書き換えネットワーク抽象化レイヤ・ユニットが送信される。別の実施形態では、例えば、ネットワーク抽象化レイヤ・ユニットの代替バージョンの一部として、サブ・アレイの異なる次元ごとに、ネットワーク抽象化レイヤ・ユニットのヘッダについての代替の(部分的)書き換えバージョンがフル・ビデオ・データの全てのスライスについて格納される。この実施形態では、選択されたサブ・アレイの次元に基づいて選択されるヘッダのバージョンは、サブ・アレイ内のスライスのために送信される。
ソース・システムは、サブ・アレイの選択の第1指示を受信し、また、第1ビデオ・ストリームにおいて選択されたサブ・アレイについてのネットワーク抽象化レイヤ・ユニットを、前記ストレージ・システムから抽出すると共に、送信するように構成される。更なる実施形態では、コントローラは、空間アレイの新規のサブ・アレイの選択の指示を受信するように構成される。格納されたI−フレーム専門バージョンと、以前のサブ・アレイと新規のサブ・アレイの間の重複部の内外のそれぞれについての格納されたフレーム間関係ベース・バージョンとからのデータを含む新規のサブ・アレイのネットワーク抽象化レイヤ・ユニットへの変更の後。このことは、ピクチャの新規のグループがフレーム間関係ベース・バージョンにおいて開始するフレームまで行われる。その後に、フレーム間関係エンコード・バージョンが全てのスライスのために用いられる。
一態様によれば、コンピュータ可読媒体またはストレージ・システムが提供され、格納されたネットワーク抽象化ユニット・レイヤを備える。ビデオ・ストれーむ・デコーダによって処理されるときに、ビデオ・ビット・ストリーム・デコーダに、ビデオ・ストリームを発生させる。・ビデオ・ストリームは、独立してデコード可能なスライスの空間アレイに分割されたフル・ビデオ・イメージをエンコードする。ここでは、ネットワーク抽象化レイヤ・ユニットは、各々、第1ビデオ・ストリームに対するスライスのそれぞれ1つに関連するパラメータを含む。コンピュータ可読媒体は、パラメータのビット・オフセットおよび/または、ネットワーク抽象化レイヤ・ユニットのそれぞれ1つのヘッダ内のパディング・ビットを示すメタ・データを格納する。
実施形態のコンピュータ可読媒体またはストレージ・システムでは、各ネットワーク抽象化レイヤ・ユニットのそれぞれ1つの各々についてのメタ・データは、1つ以上のキーと値のペアを含む。ここでは、値はネットワーク抽象化レイヤ・ユニットの当該ヘッダ・データの先頭からのビット・オフセットを示す。また、キーは、ネットワーク抽象化レイヤ・ユニットのヘッダにおいてどのパラメータまたはパディングに対して適用するかについて示す。
実施形態のコンピュータ可読媒体またはストレージ・システムでは、ネットワーク抽象化レイヤ・ユニットのそれぞれ1つの各々は、ネットワーク抽象化レイヤ・ユニットの当該それぞれ1つのメタ・データと一緒にラップされて格納される。
実施形態のコンピュータ可読媒体またはストレージ・システムでは、ビデオ・ストリームの第1バージョンおよび第2バージョンのネットワーク抽象化レイヤ・ユニットを含み、第1バージョンがフレーム間関係ベース・イメージ・データを含み、第2バージョンがフレーム間関係とは独立してエンコードされる専用データを含む。
実施形態のコンピュータ可読媒体またはストレージ・システムでは、複数の異なるサブ・アレイ・サイズからのネットワーク抽象化レイヤ・ユニットの格納バージョンを含む。
これらの目的および他の目的並びに利点は、以降の図面を参照することにより、例示の実施形態の説明から逸脱することなく明らかになる。
図1は、ビデオ送信システムを示す。 図2は、デコーダ・システムを示す。 図3は、宛先システムにおけるプロセスのフロー・チャートを示す。 図4は、ソース・システムにおけるプロセスのフロー・チャートを示す。 図5は、サブ・アレイの重複部を示す。 図6は、ソース・システムにおけるプロセスのフロー・チャートを示す。 図7は、ネットワーク・ソース・システムの実施形態を示す。
本発明の目的のために、ビデオ・ストリームという用語は、エンコード・ビデオ・データを含む場合には、デコーダ装置が有する意図された入力であるビット・ストリームに関する。例えば、ビット・ストリームは、それに埋め込まれたエンコード・ビデオ・データをデコードする目的で解析されることが意図される。この解釈は、「ビット・ストリーム」という用語によるエンコードの技術分野において理解されているものと整合する。
図1は、ネットワーク10、ネットワーク・ソース・システム12、およびネットワーク宛先システム14を備える例示的なビデオ送信システムを示す。ネットワーク・ソース12は、ストレージ・システム120、コントローラ122、およびネットワーク・インタフェース124を備える。ストレージ・システム120は、コード化ビデオ・ストリームを表すデータを格納する。一例では、コード化ビデオ・ビット・ストリームは、HEVCコード化ビデオ・ビット・ストリームである。HEVCは、相互に独立してエンコードされるビデオ・ストリームの一部であるスライスを用いる。説明する実施形態では、スライスが用いられ、各スライスは、イメージ内の(部分領域の)それぞれの空間位置に関連付けられる。HEVCエンコード・ビデオ・ビット・ストリームは、スライス・ヘッダおよびビデオ・コンテンツ・データを含む。コントローラ122は、ストレージ・システム120からHEVCビット・ストリーム・データを抽出するために、ストレージ・システム120に結合される。また、コントローラ122は、ネットワーク・インタフェースを介してコマンドを受信すると共に、それ応答してネットワーク・インタフェース124にHEVCビット・ストリーム・データを供給するために、ネットワーク・インタフェース124に結合される。ネットワーク・インタフェース124は、ネットワーク10に結合されるネットワーク送信器である。
図2は、例示のネットワーク宛先システム14を示す。ネットワーク宛先システム14は、ネットワーク・インタフェース140、ストリーム前処理器142、デコーダ144、後処理器146、およびコントローラ148を備える。ネットワーク・インタフェース140は、ネットワーク10への入力と、ストリーム前処理器142の入力に結合される出力と、を有する。ストリーム前処理器142は、デコーダ144の入力に結合される出力を有する。デコーダ144は、後処理器146の入力に結合される出力を有する。後処理器146は、デコーダ144から受信したデコード・イメージにおけるピクセルのブロックの位置をシャッフル(再配置)するように構成される。後処理器146はビデオ出力を有し、ビデオ表示デバイス(例えば、LCDスクリーン)(不図示)に結合され、または、別のビデオ処理ユニット(不図示)にも結合される。コントローラ148は、ネットワーク・インタフェース140に結合される。また、コントローラ148は制御出力を有し、ストリーム前処理器142、デコーダ144、及び後処理器146の入力を制御する。
HEVCコード化ビット・ストリームは、エンコード・パラメータ・セット、スライス・ヘッダ、およびビデオ・コンテンツ・データを含む。パラメータ・セットは、SPSおよびPPSNALユニットに位置する。とりわけ、パラメータ・セットは、ピクチャ・サイズ、およびピクチャ内のタイルの行と列の番号(各タイルは少なくとも1つのスライスを収容する。)を規定する。スライスについてのビデオ・データを有する各NALユニットは、ヘッダおよびペイロード・データを収容する。HEVC規格に関し、ペイロード・データは、スライス・ヘッダによって先行されるエンコード・ビデオ・コンテンツ・データを収容する。つまり、スライスのデータは、スライス・ヘッダおよびスライス・ペイロードから構成される。しかし、本明細書では、スライス・ヘッダはまた、ヘッダ・データとも称され、更に簡単に「ヘッダ」とも称される。ヘッダ、すなわち、ヘッダ内のパラメータの少なくとも一部は、可変長コードによってエンコードされる。このことは、ヘッダの総ヘッダ長が、スライスごとに、およびフレームごとに変更してもよいことを意味する。
とりわけ、本発明の実施形態によれば、スライス・ヘッダは、NALユニットにおいてエンコードされたスライスの識別情報(これは、スライス(セグメント)アドレスと称され、またスライスの空間位置の指示の例示である。)と、スライスがピクチャにおける最初の(左上の)スライスであるかについて示すフラグと、スライスが所属するピクチャの時間的シーケンス番号と、スライス間のコード化に用いられる基準ピクチャ・セットと、基準ピクチャ・セットに関する量子化デルタと、を収容する。スライスの識別情報は、ピクチャのコード化ツリー・ブロック・ラスタ・スキャンにおける第1コード化ツリー・ブロックの番号によって表される。HEVC規格はタイルの概念を利用する。ビデオ・ストリームの各イメージは、これらのタイルのマトリクスに分割することができる。各タイルが丁度1つのスライスを収容するとき、各スライスは、イメージ内の(領域の)それぞれの空間位置に関連付けられる。また、この関連付けによって、スライスは、独立してデコード可能なスライスの空間アレイを形成する。各タイルが複数のスライスを収容するときも同様である。結果として、NALユニットにおけるスライスの識別情報は、スライスの空間位置の(間接的な)指示を形成する。各タイルが1つのスライスまたは2つ以上のスライスを収容するとき、フレームにおけるスライスの空間位置を、スライスの識別情報から導出することを可能にする(スライスの識別情報は、スライス・アドレスとすることができ、これは、HEVCによれば、スライスの第1CTB(コード化ツリー・ブロック)のアドレスとなる。)。なお、スライスの空間位置の指示が直接的または間接的な指示となることが強調される。直接指示の例は、位置(例えば、スライスにおいてエンコードされたビデオ・データを収容するイメージ内の矩形のコーナー)の座標のセットである。間接的な指示とは、このような直接的な指示を、必要であれば付加情報の補助を用いて導出できるような指示のことである。
例えば、本発明の実施形態では、ビデオ・イメージ(フレーム)がタイルに分割され、これにより、各タイルは1つのスライスを収容し、タイル・セット次元およびスライス・アドレスから、各スライスの空間位置(例えば、スライスのビデオ・データによって占有されるビデオ・イメージの領域(フレーム))を容易に決定することができる。ヘッダの末尾では、そしてビデオ・コンテンツ・データの前では、NALユニットは0個以上のパディング・ビット(スタッフィング・ビットとも称される。)を収容し、パディング・ビットの数が選択されて、ヘッダの可変長エンコードによって生成されるヘッダ・ビット長とは無関係に、ビデオ・コンテンツ・データの先頭におけるワード境界アライメント(例えば、バイト・アライメント)を確実にする。ヘッダのビット長Lhとパディング・ビットの数Nとの合計がワード長W(例えばW=8)の整数倍になるように、好ましくはN<Wで、パディング・ビットの数が選択される。
HEVCコード化ビット・ストリームに加えて、ストレージ・システム120はメタ・データを格納する。メタ・データは、スライス・ヘッダにおけるパディング・ビットの位置と、任意で、(例えば、NALユニットの先頭からのビットのオフセット)と、スライス・ヘッダにおける1つの以上のフィールドの長さと、を示す。示されたフィールドは、スライスの空間位置を表すためのフィールドと、スライスが最初のスライスであるかについて示すフラグと、スライスが所属するピクチャの時間的シーケンス番号と、スライス間のコード化のために使用される基準ピクチャ・セットおよび基準ピクチャ・セットに関する量子化デルタの指示と、のうち任意の1つを含む。メタ・データはまた、エンコード・パラメータ・セットにおいて特定のフィールドの位置および長さを示す。ストリームがエンコードされるとき、メタ・データは生成される。これは、同一のエンコード・ビデオ・データよりも前に、異なるヘッダを追加することにより、或いは、後に、NALユニットにおいて異なるパラメータの位置および/またはパディング・ビットの数を決定するためにエンコード・ストリームを解析することにより行われる。メタ・データは、事前にコンパイルされ、その後に、要求されたサブ・アレイの位置が知られる(すなわち、リアルタイムではない。)。
実施形態では、メタ・データは、好ましくは、メタ・データ・ファイルの形態であり、ヘッダ・データのパラメータにおける有するキーと値(または名前の値もしくは属性の値)のペアを含む。これらは、パラメータを示す1つ以上の属性と、ビデオ・データの先頭からのビットのオフセットによる位置を示す属性値とを含む。メタ・データ・ファイルは、バイナリにエンコードされる。実施形態では、メタ・データは、別個のメタ・データ・ファイルとして格納される。別個のメタ・データ・ファイルのそれぞれは1つ以上のNALユニットのメタ・データを収容する。実施形態では、各NALユニットは、ファイル・ラッパと共に格納される。ファイル・ラッパは、NALユニットのメタ・データを収容する。ラッパは、例えばGoogleProtobufを使用して、バイナリ・エンコード・メタ・データ・ファイルおよび対応のNALユニットの周囲に配置される。
好ましくは、ストレージ・システム120に格納されたビデオ・データはまた、ビデオ・データのフルI−フレーム・エンコード・バージョンと、フレーム間関係に基づくエンコード・バージョンとを収容する(すなわち、I−フレームと、ピクチャのグループに編成されたモーション予測フレームとの組み合わせを使用する。)。
動作時には、ネットワーク・ソース・システム12は、格納されたHEVCビット・ストリームのパラメータ・セットを収容する部分的HEVCビット・ストリームと、格納されたHEVCストリームの全てのスライスではなく、選択されたスライスのサブ・アレイを表すNALユニットと、を送信する。サブ・アレイ内のスライスの数は、HEVCビット・ストリームによってエンコードされたイメージにおけるスライスの数よりも小さい。スライスの数に関するその高さと幅は、共に、HEVCビット・ストリームによってエンコードされたイメージのスライスの数に関する高さと幅よりも小さい。
ネットワーク・ソース・システム12は、基本的には、ネットワーク宛先システムによって要求されたデータを単に送信するにすぎないファイル・サーバとして、或いは、例えばサブ・アレイのサイズと位置を規定する、ネットワーク宛先システムにより提供されるパラメータに基づいて送信されることになるデータをコンパイルするアクティブ・ビデオ・ストリーム・ソースとして、動作するように構成される。ファイル・サーバとして動作するには、HEVCビット・ストリームは、例えば、公知のMPEGDASH(以下、単にDASHと称する。)のセグメントの形態で格納される。その場合、MPEGDASHに関連付けする追加のメタ・データは、HEVCビット・ストリームに付加される(例えば、HEVCビット・ストリームは、その一部がMPEGDASHプロトコルを利用して抽出できるようにカプセル化される。)。更に、メディア・プレゼンテーション記述(MPD)と称されるマニフェスト・ファイルがネットワーク・ソース・システム12に格納される。このマニフェスト・ファイルはDASHセグメントのURLを含み、ネットワーク宛先システム14によって、選択されたDASHセグメントをネットワーク・ソース・システム12に要求するのを可能にするために使用される。
別の実施形態では、ファイル・サーバとしての動作をサポートし、HEVCビット・ストリームは、トランスポート・ストリーム・パケットまたはMP4ファイル・セグメント(例えば、後者についてはフラグメント化されたMP4ファイルの形態)として格納される。この場合、更なるフォーマットで格納することは、通常は、当該フォーマットに関連するメタ・データを追加することを含む。HLSセグメント(フラグメント)のURLを含むHTTPライブ・ストリーミング(HLS)プレイリスト・ファイルがネットワーク・ソース・システム12に格納される。HLSプレイリスト・ファイルそれ自体は公知である。HLSプレイリスト・ファイルはHLSセグメントのURLを含む。
図3および図4は、ネットワーク宛先システム14とネットワーク・ソース・システム12の動作のフロー・チャートを示す。宛先システムが、スライスのサブ・アレイのためにエンコード・ビデオ情報を取得するために、ファイル・サーバとしてネットワーク・ソース・システムを使用する実施形態について説明する。本明細書において、ネットワーク宛先システムは、例えば、コントローラを設けることによって情報を取得する。その結果、情報を特定する要求をネットワーク・ソース・システムに送信し、当該要求に応答して、特定された情報を前処理器において受信するように構成することができる。NALユニットは、例えば、マニフェスト・ファイルやプレイリスト等に基づいてそれらのURLを指示することによって特定される、例えばDASHセグメント、トランスポート・ストリーム・パケットまたはMP4ファイル・セグメントとして取得される。
図3のフロー・チャートは、スライスのサブ・アレイが選択されるプロセスの一部であり、例えば、ユーザ制御型ナビゲーション、またはサブ・アレイの位置および恐らくはそのサイズを選択する別の形態の外部制御に基づく。例えば、ヘッド・セットの方位を検出することを使用して、1つ以上の方位センサからの信号に基づいて位置を選択してもよい。図3のフロー・チャートの第1のステップ31では、ネットワーク宛先システムは、ネットワーク・ソース・システムからの所望のビデオ・ストリームについてのマニフェスト・ファイルまたはプレイリストを取得する。図3のフロー・チャートの第2のステップ32では、ネットワーク宛先システム(例えば、そのコントローラ)は、ネットワーク・ソース・システムからパラメータ・セットを取得し、全体イメージとしてサブ・アレイの使用にそれらを対応付けるように、それらを修正する。ネットワーク宛先システム14は、そのストリームを、選択されたサブ・アレイに対応したピクチャにおいて、ピクチャ・サイズとタイルの行および列の数とを設定するようにパラメータ・セットを変更することによって、イメージ全体のサブ・アレイの使用とHEVC互換性させる。第3のステップ33では、ネットワーク宛先システム(例えば、そのコントローラ)は、デコーダを開始する修正パラメータ・セットを用いて、ネットワーク宛先システム14のデコーダ144を開始する。
更に、コントローラは、第3のステップ33ではストリーム前処理器及び後処理器を構成する。ストリーム前処理器は、修正パラメータ・セットに対応したネットワーク・ソース・システムから受信したNALユニットを修正するように構成される。ストリーム前処理器は、オリジナルのフルサイズのHEVCイメージからのスライスの空間位置の受信指示を、サブ・アレイのサイズを有するイメージにおけるスライスの空間的位置の指示にマッピングするように構成可能である。実施形態では、ストリーム前処理器は、構成可能なマッピング・テーブルを含み、例えば、サブ・アレイ内のスライスごとに、テーブル・エントリのフル・イメージのスライスの空間的位置の指示を含む、スライスの空間位置の個別の指示に対してこのマッピングを規定する。後述する理由により、ストリーム前処理器および後処理器は、構成可能なタイル・マッピングを適用するように構成される。ストリーム前処理は、「空間順序外」(Out-of-spatial-order)の方法でスライスの空間位置の受信指示をマッピングするように構成される。後処理器は、「空間順序外」とは異なる方法でデコード・イメージからの異なるタイルを、出力イメージにおける位置にマッピングする。その結果、フル・イメージからそれらオリジナルの順序をリストアすることができる。後処理器は、この目的のために構成可能なマッピング・テーブルを備える。例えば、出力イメージ内のブロックについてのテーブル・エントリにおいてデコード・イメージのイメージ・ブロックのアドレスを収容し、または、デコード・イメージのブロックについてのテーブル・エントリにおける出力イメージのブロック・コーナー位置のアドレスを収容する。
デコーダ144からのデコード・イメージ、および後処理器146からの後処理された出力イメージは区別される。実施形態では、後処理器は、デコード・イメージから出力イメージを取得するように構成される。これは、スライスの空間位置の指示を再マッピングすることのみならず、再マッピングしたデコード・イメージについてトリミングされたサブ・イメージに対応する出力イメージを導出することによって行われる。コントローラは、トリミングするウィンドウの位置が後処理器146によって使用されるように構成する。任意には、ストリーム前処理器および後処理器は、スライスの空間位置の指示を再マッピングした後に、出力イメージが抽出される必要があるデコード・イメージの領域の間で構成可能な回転を適用するように構成してもよい。この場合、コントローラはまた、回転角度を設定するのがよい。
第4のステップ34では、ストリーム前処理器は、NALユニットと、ネットワークを介してネットワーク・ソース・システムからこれらNALユニットのヘッダのメタ・データとを取得する。第5のステップ35では、ストリーム前処理器は、NALユニットのスライス・ヘッダを書き換えて、それらを修正パラメータ・セットと互換性を持たせる。ストリーム前処理器は、所定のセットの短縮アドレスから、スライスの空間位置について短縮された指示によってスライスのアドレスを置き換える。本明細書では、所定のセットの短縮アドレスが(予め決められていても、そうでなくても)サブ・アレイの次元に従う。また、フル・ビデオ・イメージにおけるサブ・アレイの位置に従わないという意味では、所定のセットの短縮アドレスは、予め決められている。その結果、例えばマッピング・テーブルにおいて、コントローラによって構成されるサブ・アレイ内のスライスの空間位置の指示を作成することができる。ストリーム前処理器は、スライスが、送信されたスライスの1つの第1スライスであるかについて示すフラグを書き換える。
また、ストリーム前処理器は、NALユニットの先頭に対し、スライス・ヘッダの未修正部分の位置を変更する。その結果、サブ・アレイの使用に対応したフィールド長の修正を考慮することができる(サブ・アレイについて更にサイズを小さくすることは、スライスの空間位置の指示についてビットの使用を更に少なくすることを意味する。)。更に、ストリーム前処理器は、シフティングに因り必要とされる場合は、スライス・ヘッダの後ろのNALデータのバイト・アライメントを確実にするために、パディング・ビットを追加または削除する。
ストリーム前処理器142は、(例えば、メタ・データを通じてシグナリングされる)メタ・データからのパディング・ビットの位置を用いて、パディング・ビットが追加または削除されるNALユニットにおける位置を決定する。ストリーム前処理器142はまた、データが変更される位置、および/またはシフトが開始される位置を選択するために、メタ・データからの関連フィールドの位置の指示を使用する。代替として、ストリーム前処理器142は、位置を選択するために、フィールド位置および/またはサイズの1つ以上の所定の指示を用いる。これらの少なくとも幾らかは全スライス・ヘッダについて同一であるので、このことが可能となる。
第6のステップ36では、ストリーム前処理器は、書き換えられたフィールド、および追加または削除されたパディング・ビットを有するNALユニットをデコーダに転送する。第7のステップ37では、デコーダは、転送されたNALユニットをデコードし、その結果得られたデコード・イメージを後処理器に送信する。第8のステップ38では、後処理器は、デコード・イメージを後処理する。
一実施形態では、プロセスは、第8のステップ38の後に、第4のステップ34から繰り返す。しかしながら、図3は、プロセスが第9のステップ39を含む実施形態を示しいる。ここでは、ネットワーク宛先システム14は、動作中にサブ・アレイの位置を変更することができる。
ネットワーク・ソース・システムは、対応するNALユニットまたはNALユニットによる帯域内とは別個に、例えばラッパ・ファイルの一部としてメタ・データを送信する。実施形態では、メタ・データは、各NALユニットごとにHEVCSEIメッセージ内で送信される。別の実施形態では、メタ・データ・ファイルは帯域外で送信されてもよい。例えば、バイナリ・エンコード・メタ・データ・ファイルは、スライスについて指示される選択を収容する部分的HEVCストリームを開始するために、ネットワーク宛先システムからのHTTPGET要求命令に応答して、ネットワーク宛先システムに対し、ネットワーク・ソース・システムからHTTPヘッダ内で送信される。更に別の実施形態では、メタ・データは、JSON−データ・フォーマットを利用してフォーマットすることができる。また、例えば、ネットワーク宛先システムとネットワーク・ソース・システムの間の前述のトランスポート・プロトコルの任意のものを使用して送信することができる。
図4は、代替の実施形態におけるネットワーク・ソース・システムの動作を示し、ここでは、ネットワーク・ソース・システムは、アクティブなビデオ・ストリーム・ソースである。本実施形態では、ネットワーク宛先システムが情報を取得するステップは、ネットワーク・ソース・システムに送信された要求の全てを伴う必要はない。本実施形態では、図3のフロー・チャートの第1のステップ31は、部分的HEVCストリーム(の送信)を開始するコマンドを送信することを含み、例えば、HEVCコード化ストリームによってコード化されたイメージ内のスライスの2次元のサブ・アレイの位置に関して、スライスの選択を示す。好ましくは、コマンドはまた、スライスの数に関して、アレイの高さと幅を示す。代替として、所定の高さと幅、例えば3×3のスライスが使用されてもよい。更に、コマンドは、ストリームの識別情報と、任意で、ストリームにおける開始時間位置と、を含んでもよい。代替として、コマンドは、所定のストリームに適用する。または、ストリームの識別情報は別個のコマンドにおいて供給される。
図4のアクティブ・ストリーム動作についてのフロー・チャートの第1のステップ41では、ネットワーク・ソース・システムは、ネットワーク宛先システムからコマンドを受信しているかについて検査して、スライスについて指示された選択を収容する部分HEVCストリームを開始する。その場合は、ネットワーク・ソース・システムは第2のステップ42に進む。ここでは、HEVCコード化ストリームのパラメータ・セットを抽出し、抽出したパラメータ・セットをネットワーク宛先システムに送信する。
その後、ネットワーク・ソース・システムは第3のステップ43に進む。ここでは、スライスについて指示された選択のためのビデオ・コンテンツ・データを収容するNALユニットと、これらNALユニットのヘッダについてのメタ・データと、を抽出する。次いで、ネットワーク・ソース・システムは第4のステップ44に進む。ここでは、選択されたアレイの外部でフル・イメージのHEVCストリームからNALユニットを送信することなく、ネットワークを介してネットワーク宛先システムに、これら1つ以上のNALユニットのヘッダについてのメタ・データを、ネットワークを介してネットワーク宛先システムに送信する。第5のステップ45では、ネットワーク・ソース・システムは送信を続行すべきかについて検査を行う。その場合、ネットワーク・ソース・システムは、第3のステップ43からプロセスを繰り返す。
スライスの再マッピング
ネットワーク宛先システム14のコントローラは、HEVCのフル・イメージに対する出力イメージの位置を変更する必要性があるかについて、また、任意には、その回転が変更される必要があるかについて検査するように構成される。このことは、例えば、ユーザ・コマンドに応答して、または、イメージを表示するのに使用されるヘッド・セットの動きの検出に応じて必要とされるのがよい。
第9のステップ39では、コントローラは、位置および任意には回転の変更が、サブ・アレイの変更を必要とするかについて、即ち、変更がサブ・アレイ外部のイメージの任意の部分に移っているかについて決定する。その場合は、コントローラは、第4のステップ34でNALユニットを取得することになるスライスの選択を変更する。
図5は、ストリーム前処理器によって実行されるアドレス・マッピングの変更を更に伴う実施形態を示す。これは、可能な限りスライスのストリームの時間的継続性を確実にするために利用される。更に、サブ・アレイを変更した後に、I−フレーム専用ビデオ・ストリームからの追加の帯域幅の利用を回避または最小化するのに使用される。コントローラがスライス50の新規のサブ・アレイを選択するときは、新規のサブ・アレイは、交差陰影によって示されるスライスの数において以前のサブ・アレイと部分的に重複する。デコーダの動作の時間的継続性を確実にする(即ち、以前のスライス・データを参照することによってデコード・スライス・データを用いるのを可能とする)ために、重複している(交差陰影の)スライスにおけるスライスの空間位置について再マッピングされた指示は変更しないことが望ましい。また、(第1種別の単一陰影によって示される)スライス50の新規のサブ・アレイにおいて新規であるスライスは、(第2種別の単一陰影によって示される)新規のサブ・アレイ50においては使用されない以前のサブ・アレイからのスライスのアドレスに再マッピングされる。
したがって、例えば、以前のサブ・アレイ内のスライスの行が、2次元スライス座標(n,n),(n+1,n),(n+2,n)に対応するアドレスを有する場合は、これらは、デコーダに供給される書き換えストリームにおいて2次元スライス座標(0,0),(1,0),(2,0)に対応するスライスの空間位置の短縮指示にマッピングされるのがよい。新規のサブ・アレイは、以前のサブ・アレイから右に1つのスライスだけシフトされるとき(ここでは、スライスの行は、2次元スライス座標(n+1,n),(n+2,n),(n+3,n)に対応するフル・イメージのアドレスを有する。)、これらは、書き換えストリームにおける2次元スライス座標(1,0),(2,0),(0,0)に対応するスライスの空間位置の短縮指示にマッピングされる。その結果、2次元スライス座標(n+1,n),(n+2,n)に対応するスライスの空間位置のフル・ストリーム指示は、2次元スライス座標(1,0),(2,0)に対応する書き換えアドレスにマッピングされることを維持する。
しかしながら、アドレス・マッピングのこの形態は、スライスが、デコード・イメージの順序外で空間的に現れることになるという影響を伴う。このことは、後処理器によって訂正される。後処理器は、デコード・イメージからのスライスの構成可能なマッピングを提供し、スライスが、フル・イメージにしたがいそれらの順序で出力イメージに出現するのを確実にする。つまり、前述の例では、デコード・イメージの2次元スライス座標(0,0),(1,0),(2,0)に対応する短縮アドレスでのスライスの行は、後処理器の出力イメージにおける2次元スライス座標(2,0),(0,0),(1,0)に対応する短縮アドレスにマッピングされる。
このことを実装するために、第9のステップ39では、コントローラは、ストリーム前処理器および後処理器を再構成して、所望のマッピングを再構成する。再構成されたマッピングでは、新規のサブ・アレイおよび以前のサブ・アレイの間の重複部におけるスライスは、スライスの空間位置についてそれらマップされた指示を維持する。また、重複部の外部にある新規のサブ・アレイのスライスは、重複部の外部にある以前のサブ・アレイにおけるスライスのうちのスライスの空間位置の指示が割り当てられる。デコード・イメージからのタイルのマッピングが再構成され、スライスの空間位置のオリジナル(フル・イメージの)指示にしたがい空間的な順序をリストアするように再構成される。
また、後処理器は、マッピングの結果を別の位置シフトに施して、出力イメージを取得する。例えば、サブ・スライスの位置シフトを提供する。任意には、回転も同様に提供される。第9のステップ39では、コントローラは、後処理器を再構成して、このような位置シフトおよび/または回転にしたがい出力イメージ調整を実行することができる。これらは、再マッピングの形態として見い出され、フル・イメージに対する出力イメージの位置の変更によって引き起こされる。しかし、位置シフトおよび/または回転の全ての調整が、デコード・イメージにおいて選択されたサブ・アレイを変更して、したがってスライスの再マッピングする結果となる訳ではない。
実施形態では、ネットワーク・ソース・システムはアクティブ・ビデオ・ストリーム・ソースであり、第9のステップ39は、異なるセットのスライドとそれらに対応するメタ・データとを送信するために、スライスについて指示された選択を変更するコマンドをネットワーク・ソース・システム12に送信することを含む。本実施形態では、第5のステップ45は図4のフロー・チャートに追加されるのがよい。ここでは、ネットワーク・ソース・システムは、このようなコマンドを受信しているかについて検査し、その場合は、ネットワーク・ソース・システムはスライスについて指示された選択を修正する。その結果、スライスについて指示された選択におけるスライスは、第3のステップ43および第4のステップ44において抽出され、また送信されることになる。同期する目的のために、ネットワーク・ソース・システムは、メタ・データの指示を含み、スライスについて修正され示された選択が適用する第1イメージをマーキングする。
I−フレーム専用の置換
更なる実施形態では、Iーフレーム専用バージョンが、新規のサブ・アレイのスライスにおいて一時的に送信される。当該スライスは、以前のサブ・アレイの重複部の外部にある。それ自体は知られているように、ビデオ・ストリームを形成するイメージは、ストリームにおける任意の他のイメージに従属して、またはこれに独立してエンコードすることができる。ストリームにおける任意の他のイメージとは独立してエンコードされるイメージは、Iーフレームと称される。このようなイメージのスライスは、Iフレーム・エンコード・スライスと称される。I−フレーム専用でエンコードされるストリームの表現(バージョン)は、ストリームのI−フレーム専用バージョンと称される。1つ以上の他のイメージにしたがって、例えば、このような他のイメージに対する動きベクトルによってエンコードされるイメージは、フレーム間エンコード・イメージと称される。フレーム間エンコード・イメージを含むストリームの表現(バージョン)は、ストリームのフレーム間関係ベース表現またはバージョンと称される。このようなストリームのフレーム間関係ベース表現またはバージョンはまた、ストリームのフレーム間エンコード表現またはバージョンとも称される。それ自体は知られているように、ストリームの表現またはバージョンはまた、例えば、ピクチャ・グループ(GOP)の先頭に、I−フレームを含んでもよい。GOPのフレームは、他のGOPとは独立してデコードすることができる。
前述のように、ストレージ・システム120に格納されたビデオ・データは、好ましくは、ビデオ・データのI−フレーム・エンコード・バージョンを、フレーム間関係に基づくエンコード・バージョンと同様に収容する(すなわち、I−フレームと、動きベクトルのような時間的関係に関して、ピクチャ・グループに編成された動き予測フレームとの組み合わせを使用する。)。好ましくは、基準イメージの同一のセット(基準ピクチャ・セット)が両方のバージョンのために用いられる。実施形態では、格納されるストリームは、両方のバージョンの基準ピクチャ・セットを収容するスーパーセットである基準ピクチャ・セットを追加することによって、また、基準ピクチャ・セットへの参照をスーパーセットにおける参照に修正することによって、オリジナルのストリームから生成される。
第1の実施形態では、第4のステップ34において、ネットワーク宛先システムは、以前のサブ・アレイとの重複部の外側に位置する新規のサブ・アレイのスライスについてIーフレーム専用バージョンからフレームを取得する。これらスライスのI−フレーム専用バージョンは、フレーム間関係ベース・バージョンがI−フレームを収容するところにフレームが到達するまで取得される。その後に、後方からのフレームが送信される。ネットワーク宛先システムのコントローラは、送信されたピクチャ・グループ(GOP)内のフレームの位置の追跡を続けることによって、このことが発生したときを決定する。これに基づいて、フレーム番号を用いて、次のピクチャ・グループの第1フレームを決定することができる。これから、当該フレーム間関係ベース・バージョンからのフレームの送信が開始される。好ましくは、ネットワーク宛先システムは、以前のサブ・アレイとの重複部の内部に位置する新規のサブ・アレイのスライスのフレーム間エンコード・バージョンを取得する。代替として、I−フレーム専用バージョンは、全てのスライスについて取得される。しかし、このことは帯域幅の使用を増加させる。
ネットワーク・ソース・システムがアクティブ・ビデオ・ストリーム・ソースである実施形態では、ネットワーク・ソース・システムは、I−フレーム専用バージョンまたは選択されたスライスのフレーム間関係ベース・バージョンを送るかについて決定する。図6は、この実施形態におけるネットワーク・ソース・システムの動作のフロー・チャートを示す。図4と同じステップには同じラベルが示されている。図4の第3のステップ43は、修正される抽出ステップ63で置換されている。
第5のステップ65では、ネットワーク・ソース・システムは、スライスについて指示された選択を変更するコマンドを受信しているかについて検査する。その場合、コントローラは、第6のステップ66を実施する。ここでは、第6のステップ66でのスライスについて指示された選択を修正し、このスライスの送信ステータスを設定する。送信ステータスは、スライスのフレーム間関係ベース・バージョンまたはI−フレーム専用バージョンが送信される必要があるかについて指示するのに用いられる。最初に、各スライスの送信ステータスは、新規のサブ・アレイと以前のサブ・アレイの間でスライスが重複するか否かにしたがって、予測ベース・バージョンまたはI−フレーム専用バージョンを示すように設定される。
第6のステップ66の後に、或いは、スライスについて指示された選択が変更されていないときは第5のステップ65の後に、プロセスは、修正抽出ステップ63に戻る。修正抽出ステップ63では、ネットワーク・ソース・システムのコントローラは、現在のフレームについてのスライスのフレーム間関係ベース・バージョンを抽出する。送信ステータスがI−フレーム専用の送信に設定されるスライスのために、コントローラは、現在のフレームについてのスライスのフレーム間関係ベース・バージョンがI−フレームを収容するかについて検査する。このような場合のそれらのスライスのために、コントローラは、送信ステータスを予測ベース・バージョンの送信に設定する。送信ステータスがI−フレーム専用の送信に設定され、現在のフレームについてのフレーム間関係ベース・バーションがI−フレームを収容しないフレームのために、コントローラは、現在のフレームについてのI−フレーム専用バージョンを抽出する。続いて、ステップ44では、I−フレーム専用バージョンを有するNALユニットがそれらスライスのために送信される。そのために、I−フレーム専用バージョンが抽出されており、また、他のスライスのフレーム間関係ベース・バージョンが送信される。このことは、どちらが送信されたとしても、Iフレーム専用バージョンまたはフレーム間関係ベース・バージョンに適用可能なメタ・データを抽出し、また、送信することを含む。
ネットワーク・ソース・システムにおいて、スライスは、どのバージョンが送信されたかに従ってデコードされる。このことは、新規のサブ・アレイと以前のサブ・アレイの間の重複部の外部にあるスライスが、第1フレームからデコードされるのを可能にする(ここでは、スライスについて指示された選択が効率的となる。)。また、重複部のスライスについてフレーム間関係ベース・バージョンのデコードを継続するのを可能にする。
NALユニットのヘッダがネットワーク宛先システムにおいて書き換えされる実施形態について示してきたが、代替として、ネットワーク・ソース・システムが、適合されたNALLユニットを送信するように構成されてもよいことに留意すべきである。
実施形態では、ヘッダの代替バージョン、およびフル・エンコード・ビット・ストリームの全てのスライスのNALユニットのパディング・ビットの数は、ネットワーク・ソース・システム12のストレージ・システム120内のNALユニットごとに格納される。各代替バージョンは、スライスの空間位置の指示における異なる長さに対応する。すなわち、それはパディング・ビットの数を含み、関連する長さを有するスライスの空間位置の指示が用いられるときに、ビデオ・コンテンツ・データがワード境界で開始することになることを確実にする。このような代替バージョンは、オリジナルのビデオ・ビット・ストリームを、スライスの空間位置の指示の異なる長さについてのパディングによって何度も書き換えることによって、例えば、オリジナルのHEVCビット・ストリームに基づいて生成される。このような書き換えは、要求されたサブ・アレイの特定の位置が知られる前に、例えば、メタ・データに基づく要求パディングを決定することによって、またはビット・ストリームを解析することによって行われる。代替として、異なるバージョンは、ストリームが最初にエンコードされるときに、既に生成されていてもよい。
少なくとも、フル・ビデオ・イメージにおけるスライスの空間位置の指示のサイズについてのバージョン、および、サブ・アレイについてのスライスの空間位置の指示の1つの標準サイズについてのバージョンが格納される。しかし、これらに加えて、スライスの空間位置の指示の異なる長さについての更に多くのバージョンが、例えば8つの異なるサイズについて、格納されてもよい。ヘッダおよびパディング・ビットの代替バージョンは、同一のビデオ・コンテンツ・データを収容する代替NALユニットの一部としてよい。
実施形態では、ネットワーク宛先システムは、サブ・アレイの次元にしたがって、NALユニットについて選択されたバージョンを取得するように構成される。この実施形態では、ネットワーク宛先システムのストリーム前処理器は、NALユニットのスライスの空間位置の指示を置換し、その後に、それらはデコーダに通される。好ましくは、ネットワーク・ソース・システムに格納された代替バージョンは、フル・イメージ内のスライスを区別するために必要とされるスライスの空間位置のオリジナルの指示を収容する。すなわち、バージョンが意図するスライスの空間位置の指示の長さよりも、スライスの空間位置の指示が更に長く、また、そのバージョンに対応のパディング・ビットの数を有するアドレスである。すなわち、ネットワーク・ソース・システムから取得されたバージョンにおいて、ビデオ・データの先頭はワード境界になおもアライメントされる必要はないが、スライスの空間位置の短縮スライス指示による置換の後にアライメントされることになるように、パディング・ビットが選択される。したがって、スライス前処理器142は、NALユニットの取得バージョンからスライスの空間位置のオリジナルの指示を読み取り、スライスの空間位置のこのオリジナルの指示を短縮アドレスにマッピングし、NALユニットの取得バージョンで結果として生じた短縮アドレスを置換し、先頭ポイントに対するNALユニットの取得バージョンの後続の部分を移して、短縮アドレスの更に短い長さを補償することができるように構成される。取得バージョンのパディング・ビットの数は、この結果がビデオ・コンテンツ・データの先頭のアライメントとなるように選択される。
代替として、スライスの空間位置の指示の最下位部分(すなわち、任意のサブ・アレイ内でスライスを一意に区別する位置)は、NALユニットのバージョンにおいて格納されるが、更に離れているスライスについても、そのバージョンに関連付けられるスライスの空間位置の指示の長さに対応する長さを有しており、同一である。この場合、ネットワーク宛先システムの前処理器は、それらのフル・アドレスに基づいてネットワーク・ソース・システムからNALユニットを要求する。また、ストリーム前処理器142は、NALユニットからのスライスの空間位置のオリジナルの指示の最下位部分を、短縮アドレスにマッピングするように構成される。
図7は、ストレージ・システム120とネットワーク・インタフェース124との間の(ビット)ストリーム生成器70を用いたネットワーク・ソース・システムの実施形態を示す。ストリーム生成器70は、コントローラ122の一部でもよいが、ストリーム生成器70の図示の目的で別個に示されている。また、コントローラ122が全てのユニットに結合されるように示されている。動作コントローラ122は、ネットワーク宛先システム(不図示)からネットワーク・インタフェース124を介して、選択されたサブ・アレイの指示を受信する。それに応答して、コントローラ122は、ネットワーク・ソース・システムから、選択されたNALユニットを有するビデオ・ストリームの送信を発生させる。
第1の実施形態では、ストリーム生成器70は、ネットワーク宛先システムについて開示されたストリーム前処理器142に類似したストリーム前処理としてよい。ネットワーク・ソース・システム内の当該ストリーム生成器70は、メタ・データを用いて、ネットワーク宛先システムのストリーム前処理器について説明したような方法で、送信よりも前にNALユニットを書き換えるように構成される。この場合、メタ・データは、ネットワーク宛先システムに送信される必要はなく、また、ネットワーク宛先システムのストリーム前処理器は省略されてもよい。
代替の実施形態では、ネットワーク・ソース・システムのストリーム生成器70は、書き換えの一部のみを実行するように構成されてもよい。例えば、ネットワーク・ソース・システムのストリーム生成器70は、スライスの空間位置の指示用のフィールドの後にある、ヘッダの一部の位置を変更して、ヘッダの後にあるビデオ・データのワード境界アライメントを確実にすることができる。これは、スライスの空間位置の指示を書き換えることはなく、また、フル・イメージに関してスライスの空間位置の指示を、単に切り捨てる(truncate)だけである。これは、例えば、複数のスライスが同一のサブ・アレイの一部(この部分は最重要な部分として参照されることになる。)とはなり得ないくらい離れているような複数のスライスの間を区別する部分を省くことによって、行われる。ストリーム前処理器はこれらの指示を書き換えるように構成される。または、後処理器が、選択されたサブ・アレイに関する情報に基づいて、また、切り捨てた異なる指示に対応するサブ・アレイ内のスライスに基づいて、スライスを再マッピングするように構成される。例えば、ネットワーク宛先システムのストリーム前処理器は、スライスの空間位置の指示用のフィールドの後にあるヘッダの一部の位置を変更することなく、スライスの空間位置の指標を置換するように構成される。メタ・データの頻繁な送信は、ネットワーク宛先システムのストリーム前処理器が所定の位置でデータのみを書き換える場合には、省略されてもよい。説明したように、スライスの空間位置の指標における置換指示が用いられ、スライスの空間位置の指示の値の所定のセットを用いてスライスをアドレスする。ここでは、所定のセットは、サブ・アレイの次元に従うが、フル・イメージでのその位置には従わない。
実施形態では、ストレージ・システム1200は、ヘッダの代替バージョンと、フル・ビデオ・ストリームの全てのスライスのNALユニットのためのパディング・ビットの数とを格納する。ネットワーク・ソース・システムのコントローラ122またはストリーム生成器70は、ネットワーク宛先システムによって選択されたサブ・アレイの次元に依存する異なるバージョンの間で選択するように構成される。ストリーム生成器70は、ヘッダの代替バージョンと、選択されたスライス・アドレス長のパディング・ビットの数をストレージ・システム120から取得した後に、送信のためにネットワーク・インタフェース1244に向けて、選択されたスライスのためのネットワーク・レイヤ・アプリケーション・ユニットについて選択されたバージョンのみを通するように構成される。
本実施形態では、ネットワーク宛先システムのストリーム前処理器は、デコーダに通されるのよりも前に、NALユニットにおけるスライスの空間位置の指示を置換する。代替の実施形態では、これは、ストリーム生成器によって行われる。しかし、このことは、ソース側の計算負担を増加させることになる。何故ならば、ストリーム・ジェネレータは宛先に特有のアドレス・マッピングを適用する必要があるからである。この場合、ヘッダの代替バージョンおよびパディング・ビットの数は、完全な代替NALユニットの一部として格納される必要はない。ストリーム生成器70は、ネットワーク抽象化レイヤ(NAL)ユニットのためのビデオ・コンテンツ・データを取得する。これは、ストレージ・システム122からのスライスの空間的位置の指示の全ての長さが同一である、そして、ビデオ・コンテンツ・データを、送信に使用するために、選択されるスライス・アドレス長の抽出されたヘッダに付加する。
例示の目的で、HEVC規格に関して実施形態を説明してきた。しかしながら、本発明は、この規格に限定されないことが認められて然るべきである。HEVC規格は、単に、エンコード・ビデオ・ストリームの種別を例示するにすぎない。ここでは、ネットワーク抽象化レイヤを用いて、フル・ビデオ・イメージがエンコードされ、独立してデコード可能なスライスの空間アレイに分割される。ネットワーク抽象化レイヤは、ヘッダによって先行されるスライスのそれぞれ1つについてのビデオ・コンテンツ・データを各々収容する。ヘッダは、第1ビデオ・ストリームに関するスライスの各1つに関連するパラメータを含む。HEVC規格は、単に、エンコードの方法の例にすぎない。ここでは、それぞれ独立してデコード可能なスライスがイメージ内のスライスの位置について直接的または間接的な指示を用いて、イメージ内の(領域の)それぞれの空間位置に関連付けることができる。スライスの識別情報を用いることは、単に、スライスの位置についてのこのような指示の例にすぎない。座標、シーケンス番号等のような他の指示が用いられてもよい。
更に、本出願では、インターネットのようなネットワークを通じてネットワーク・ソースおよび宛先デバイスによるネットワーク抽象化レイヤ・ユニットの通信に関して説明してきた。しかしながら、代替のソースおよび宛先デバイスは、他のネットワークを通じて、またはネットワークではない通信チャネルを介して(例えば、有線若しくは無線のポイント・ツー・ポイントの通信チャネル、通信バス等を介して)通信するのに使用されることが認められて然るべきである。

Claims (17)

  1. 第1ビデオ・ストリームからエンコード・ビデオ・データをデコードする方法であって、前記第1ビデオ・ストリームがビデオ・コーデックに基づいて、好ましくは、HEVCコーデックに基づいてエンコードされたビデオ・イメージを含み、前記ビデオ・イメージがイメージ領域を有すると共に、独立してデコード可能なスライスの空間アレイに分割されており、好ましくは、前記空間アレイが第1ピクチャ・サイズに関連付けられており、前記第1ビデオ・ストリームが、ヘッダ、好ましくはスライス・ヘッダによって先行される前記スライスのそれぞれ1つについてのビデオ・コンテンツ・データを各々収容するネットワーク抽象化レイヤ・ユニットを含み、前記ヘッダが前記第1ビデオ・ストリームに対する前記スライスのそれぞれ1つに関連するパラメータを含み、
    当該方法が好ましくはデコーダ装置によって実行され、当該方法が、
    スライスのサブ・アレイのために、ネットワーク抽象化レイヤ・ユニットを、書換ネットワーク抽象化レイヤ・ユニットに部分的に書き換えるステップであって、
    前記ネットワーク抽象化ユニットが、各前記ネットワーク抽象化レイヤ・ユニットのそれぞれにおける位置で書き換えられており、前記位置が好ましくは前記ヘッダ内にあり、
    前記位置がメタ・データに基づいて選択され、前記位置が好ましくは1つ以上のスライスの空間位置の指示を含み、前記書き換えネットワーク抽象化レイヤ・ユニットが、前記スライスのサブ・アレイ専用のエンコード・ビデオ・データを含む第2ビデオ・ストリームを形成し、前記エンコード・ビデオ・データが前記イメージ領域のサブ領域を含む部分的ビデオ・イメージを表し、
    前記書き換えネットワーク抽象化レイヤ・ユニットが、前記ビデオ・コーデックに基づいて前記部分的ビデオ・イメージにデコード可能である、
    ステップと、加えて/或いは、
    異なるサブ・アレイ・サイズのための前記ネットワーク抽象化レイヤ・ユニットの複数の異なるバージョンから、前記スライスのサブ・アレイについての前記ネットワーク抽象化レイヤ・ユニットのバージョンを選択するステップと、
    前記書き換えネットワーク抽象化レイヤをデコードするステップであって、好ましくは前記サブ・アレイに関連付けられる第2ピクチャ・サイズに基づいて実行され、前記第2ピクチャ・サイズが前記第1ピクチャ・サイズよりも小さい、ステップと、
    を含む、方法。
  2. 請求項1記載の方法において、前記部分的に書き換えるステップが、
    −前記スライスのサブ・アレイにおける各スライスについてのネットワーク抽象化ユニットに位置するヘッダ、好ましくはスライス・ヘッダのパラメータを、変更されたビット長で書き換えるステップと、
    −前記ネットワーク抽象化レイヤ・ユニットの先頭ポイントに対する前記パラメータに後続する前記ヘッダのビット部分の位置を変更するステップと、
    −前記ネットワーク抽象化レイヤ・ユニットの前記ヘッダの後のデータの先頭がマルチ・ビット・ワード境界でアライメントされるように、前記ネットワーク抽象化レイヤ・ユニットのパディング・ビットを追加または除去するステップであって、前記ヘッダの部分の長さ、および追加または除去されるパディング・ビットの数が、メタ・データに基づいて決定される、ステップと、
    を含む、方法。
  3. 請求項1または2に記載の方法において、前記部分的に書き換えるステップが、
    前記スライスの空間位置について変更された指示の所定のセットを用いて、前記スライスのサブ・アレイのために、前記ネットワーク抽象化レイヤにおける前記スライスの前記空間位置の指示を書き換えるステップを含み、これにより、前記変更された指示が前記サブ・アレイ内の前記スライスの空間位置を区別し、前記メタ・データが、好ましくは、前記所定のセットを含む、方法。
  4. 請求項3記載の方法であって、
    前記スライスのサブ・アレイにおいて前記スライスの空間位置を示すターゲット値に対する、前記空間アレイにおける前記スライスの空間位置を示す値のマップを規定するステップと、
    前記サブ・アレイを新規のサブ・アレイに変更するステップであって、前記新規のサブ・アレイが、前記サブ・アレイのスライスとは異なる少なくとも1つのスライスを含む、ステップと、
    前記新規のサブ・アレイおよび前記サブ・アレイの間の重複部に所属するスライスのために、前記マップにおける前記スライスの空間位置を示すターゲット値を維持するステップと、
    前記重複部には所属しない前記少なくとも1つのスライスの空間位置を示すターゲット値を用いて、前記マップを再規定するステップと、
    前記デコードされた部分のビデオ・イメージを、前記フル・ビデオ・イメージにおける空間シーケンスに対応する当該空間シーケンスにおいて前記新規のサブ・アレイのスライスに対応する再配置(re-position)イメージ・ブロックに後処理するステップと、
    を含む、方法。
  5. 請求項4記載の方法において、前記デコードするステップが、フレーム間関係とは無関係にエンコードされたイメージ・データを含む第1ネットワーク抽象化レイヤ・ユニットのみを用いて、連続するフレームについて前記重複部には所属しない前記新規のサブ・アレイのスライスをデコードするステップと、フレームの後の複数のフレームについてのフレーム間関係を用いてエンコードされたイメージ・データを含む第2ネットワーク抽象化レイヤ・ユニットを使用したデコードに切り替えるステップであって、前記第2ネットワーク抽象化レイヤ・ユニットがフレーム間関係と独立してデコードされたイメージ・データを含むステップと、を含む、方法。
  6. 請求項1から5の何れか一項記載の方法において、ソース・デバイスに通信可能に結合される宛先デバイスによって実行され、当該方法が、
    前記ソース・デバイスから前記サブ・アレイのためにのみ前記ネットワーク抽象化レイヤ・ユニットを取得するステップと、
    前記宛先デバイスにおける前記ネットワーク抽象化レイヤ・ユニットを受信することと、前記宛先デバイスにおいて前記デコードのために使用することとの間で前記ネットワーク抽象化レイヤ・ユニットの前記部分的な書き換えを実行するステップと、
    を含む、方法。
  7. 請求項6記載の方法であって、
    前記ソース・デバイスから前記サブ・アレイのために前記ネットワーク抽象化レイヤ・ユニットを選択的に取得するステップと、
    前記第1ビデオ・ストリームの第1バージョンおよび第2バージョンからネットワーク抽象化レイヤ・ユニットを用いて、前記ソース・デバイスから新規のサブ・アレイのために前記前記ネットワーク抽象化レイヤ・ユニットを選択的に取得するステップであって、
    前記第1バージョンがフレーム間関係ベース・イメージ・データを含み、前記第2バージョンがフレーム間関係とは独立してエンコードされる専用データを含み、
    前記第1バージョンおよび前記第2バージョンからのネットワーク抽象化レイヤ・ユニットが、前記第1バージョンのネットワーク抽象化レイヤ・ユニットがフレーム間関係とは独立してエンコードされたフレームを含むフレームまで、前記サブ・アレイと前記新規のサブ・アレイの間の重複部の内外のそれぞれのスライスについて用いられ、
    ステップと、
    その後に、前記新規のサブ・アレイ内の全てのスライスについてのフレーム間関係に従ってエンコードされたイメージ・データを含むネットワーク抽象化レイヤを用いて、ネットワーク抽象化レイヤ・ユニットを取得するステップを含む、方法。
  8. デコード・デバイスであって、
    コントローラであって、ビデオ・コーデックに基づいて、好ましくは、HEVCビデオ・コーデックに基づいてエンコードされるビデオ・イメージを含む第1ビデオ・ストリームにおいて独立してデコード可能なスライスの空間アレイのサブ・アレイの選択を示すように構成され、前記ビデオ・イメージがイメージ領域を有し、また、前記空間アレイに分割されており、前記空間アレイが好ましくは第1ピクチャ・サイズに関連付けられ、前記第1ビデオ・ストリームが、ヘッダ、好ましくはスライス・ヘッダによって先行されるそれぞれのスライスについてのビデオ・データを各々収容するネットワーク抽象化レイヤを含み、前記ヘッダが前記第1ビデオ・ストリームに対する前記それぞれのスライスに関連するパラメータを含む、コントローラと、
    ストリーム前処理部であって、前記サブ・アレイにおける前記それぞれのスライスについての前記エンコード・ビデオ・データを含んだメタ・データおよびネットワーク抽象化レイヤを受信するように構成され、前記メタ・データが前記ネットワーク抽象化レイヤ・ユニットにおける1つ以上の位置を示し、前記位置が、好ましくは、1つ以上のスライスの前記空間位置の指示を含み、前記ストリーム前処理部が、前記それぞれのネットワーク抽象化レイヤ・ユニットにおいて、スライスの前記サブ・アレイのために前記ネットワーク抽象化レイヤ・ユニットを、書換ネットワーク抽象化レイヤ・ユニットに部分的に書き換えるように構成され、前記位置が、好ましくは前記ヘッダ内であり、前記位置が、前記メタ・データに基づいて選択され、前記位置が、好ましくは、1つ以上のスライスの前記空間位置の指示を含み、前記書換ネットワーク抽象化レイヤ・ユニットが、前記スライスのサブ・アレイ専用のエンコード・ビデオ・データを含み、前記エンコード・ビデオ・データが前記イメージ領域のサブ領域を含む部分的ビデオ・イメージを表し、前記書換ネットワーク抽象化レイヤ・ユニットが前記ビデオ・コーデックに基づいて前記部分的ビデオ・イメージにデコード可能である、ストリーム前処理部と、
    デコーダであって、前記ストリーム前処理部に結合される入力を有し、前記書き換えネットワーク抽象化レイヤ・ユニットをデコードするように構成され、前記デコーダが、前記サブ・アレイに関連付けられる第2ピクチャ・サイズについて初期化され、前記第2ピクチャ・サイズが前記第1ピクチャ・サイズよりも小さい、デコーダと、
    を備える、デコード・デバイス。
  9. 請求項8記載のデコード・デバイスにおいて、前記コントローラが、前記サブ・アレイの前記それぞれのスライスについての前記エンコード・ビデオ・データを選択的に含んだ前記メタ・データおよびネットワーク抽象化レイヤ・ユニットを、前記ソース・デバイスに対して前記ストリーム前処理部に向けて送信させるために、リモート・ソース・デバイスに前記選択の指示を送信するように構成され、
    前記ストリーム前処理部が、前記ソース・デバイスから前記メタ・データおよびネットワーク抽象化レイヤを受信するように構成される、デコード・デバイス。
  10. 請求項8または9記載のデコード・デバイスにおいて、前記ストリーム前処理部が、
    スライスの各サブ・アレイについての前記ネットワーク抽象化レイヤ・ユニットのヘッダのパラメータを、変更されたビット長で書き換えるように構成され、前記ネットワーク抽象化レイヤ・ユニットの先頭ポイントに対する前記パラメータに後続する前記ヘッダのビットの位置を変更し、
    前記ネットワーク抽象化レイヤ・ユニットの前記ヘッダの後のデータの先頭がマルチ・ビット・ワード境界でアライメントされるように、前記ネットワーク抽象化レイヤ・ユニットのパディング・ビットを追加および/または除去し、前記ヘッダの部分の長さ、および追加または除去されるパディング・ビットの数が、メタ・データに基づいて決定される、
    ように構成される、デコード・デバイス。
  11. 請求項8記載のデコード・デバイスにおいて、前記前処理部が、前記サブ・アレイ内の位置を区別するために前記スライスの空間位置の前記指示について変更された値の所定のセットを用いて、前記スライスのサブ・アレイのための前記ネットワーク抽象化レイヤにおける前記スライスの空間位置の前記スライスの値を書き換えるように構成される、デコード・デバイス。
  12. 請求項8記載のデコード・デバイスにいて、前記前処理部が、前記サブ・アレイのスライスのための前記アプリケーション・レイヤにおける前記スライスの空間位置の指示を、マップの制御下で書き換えるように構成され、前記マップが、前記サブ・アレイにおける前記スライスの空間位置を示すターゲット値に対する、前記空間アレイにおける前記スライスの空間位置を示す値を規定し、前記コントローラが前記マップを規定し、また、
    前記スライスのサブ・アレイからの前記サブ・アレイの選択を、以前のサブ・アレイの選択からの新規のサブ・アレイの選択に変更し、
    前記新規のサブ・アレイおよび前記以前のサブ・アレイの間の重複部に所属するスライスのために、前記マップにおける前記スライスの空間位置を示すターゲット値を維持し、
    前記重複部には所属しない前記スライスのサブ・アレイについての前記空間位置を示すターゲット値を用いて、前記マップを再規定する、
    ように構成され、
    前記デコード・イメージを、フル・ビデオ・イメージにおける空間シーケンスに対応する空間シーケンスにおいて前記新規のサブ・アレイのスライスに対応する再配置(re-position)イメージ・ブロックに後処理するように構成される、デコード・デバイス。
  13. ストレージ・システム、送信インタフェースおよびコントローラを備えるビデオ・ストリーム・ソース・システムにおいて、前記コントローラが、
    第1ビデオ・ストリームにおいて独立してデコード可能なスライスの空間アレイにおけるサブ・アレイの選択についての第1指示を受信し、前記第1ビデオ・ストリームが、前記空間アレイに分割されたフル・ビデオ・イメージをエンコードし、前記第1ビデオ・ストリームが、ヘッダによって先行されるそれぞれのスライスについてのビデオ・データを各々収容するネットワーク抽象化レイヤ・ユニットを含み、前記ヘッダが前記第1ビデオ・ストリームに対する前記それぞれのスライスに関連するパラメータを含み、
    前記第1ビデオ・ストリームにおいて選択されたサブ・アレイについてのネットワーク抽象化レイヤ・ユニットを、前記ストレージ・システムから抽出すると共に、前記送信インタフェースを介して送信する、
    ように構成される、ビデオ・ストリーム・ソース・システム。
  14. 請求項13記載のビデオ・ストリーム・ソース・システムにおいて、前記コントローラが、
    空間アレイにおける新規のサブ・アレイの選択についての第2指示を受信し、
    前記第1ビデオ・ストリームにおける前記選択された新規のサブ・アレイについてのネットワーク抽象化レイヤ・ユニットを、以前のサブ・アレイと前記新規のサブ・アレイの間の重複部の内外のそれぞれにおけるスライスについて、前記第1ビデオ・ストリームの第1バージョンおよび第2バージョンからのネットワーク抽象化レイヤ・ユニットを使用して、前記ストレージ・システムから抽出すると共に、前記送信インタフェースを介して送信し、前記第1バージョンがフレーム間関係とは独立してエンコードされたフレームを含むフレームまで、前記第1バージョンがフレーム間関係ベース・イメージ・データを含み、前記第2バージョンがフレーム間関係とは独立してエンコードされる専用データを含み、
    その後に、前記新規のサブ・アレイ内の全てのスライスについての第1バージョンからのイメージ・データを含むネットワーク抽象化レイヤ・ユニットを用いて、前記ストレージ・システムから抽出すると共に、前記送信インタフェースを介して送信する、ビデオ・ストリーム・ソース・システム。
  15. 第1ビデオ・ストリームからの部分的ビデオ・イメージをデコードするデコード・システムにおいて、前記第1ビデオ・ストリームが独立してデコード可能なスライスの空間アレイに分割されたフル・ビデオ・イメージをエンコードし、
    前記第1ビデオ・ストリームがヘッダによって先行される前記スライスのそれぞれ1つについてのビデオ・コンテンツ・データを各々収容するネットワーク抽象化レイヤ・ユニットを含み、前記ヘッダが前記第1ビデオ・ストリームに対する前記スライスのそれぞれ1つに関連するパラメータを含み、
    異なったサイズのイメージを有して導出されたストリームに対応するネットワーク抽象化レイヤ・ユニットの情報規定バージョンが提供され、当該デコード・システムが、
    −ストレージ・システムと、
    前記第1ビデオ・ストリームにおいて独立してデコード可能なスライスの空間アレイのサブ・アレイの選択を示すように構成されるコントローラと、
    ストリーム生成器であって、前記ストレージ・システムから前記ネットワーク抽象化レイヤ・ユニットの前記情報規定バージョンを抽出し、抽出した情報に基づいて、前記第1ビデオ・ストリームに対応するビデオ・コンテンツ・データを有する前記ネットワーク抽象化レイヤ・ユニットのバージョンと、前記選択されたサブ・アレイに対応するイメージ・サイズを有する第2ビデオ・ストリームのネットワーク抽象化レイヤ・ユニットについてのヘッダと、を取得する、ストリーム生成器と、
    ストリーム前処理器に結合された入力を有するデコーダであって、前記ネットワーク抽象化レイヤ・ユニットについて前記取得されたバージョンから、前記サブ・アレイからのビデオ・データのみを収容する部分的ビデオ・イメージをデコードするように構成される、デコーダと、
    を備える、デコード・システム。
  16. 請求項15記載のデコード・システムにおいて、前記ネットワーク抽象化レイヤ・ユニットの前記情報規定バージョンが、複数の異なるイメージ・サイズにおいて前記スライスの空間位置を示すフィールド・サイズを有するヘッダについて格納されたバージョンを含む、デコード・システム。
  17. 請求項15または16記載のデコード・システムであって、
    前記ストリーム生成器および前記デコーダに結合されるストリーム前処理器であって、前記ストリーム生成器から前記ネットワーク抽象化レイヤ・ユニットの前記取得したバージョンを受信し、前記フル・ビデオ・イメージ内の前記サブ・アレイの位置とは独立した前記スライスの前記空間位置を示す短縮された値の所定のセットからの、前記スライスの空間位置を示す値を用いて、前記ネットワーク抽象化レイヤ・ユニットにおける前記スライスの空間位置を示す値を置き換えることによって、前記ネットワーク抽象化レイヤ・ユニットの前記取得したバージョンを修正するように構成されるストリーム前処理器を備える、デコード・システム。
JP2019513401A 2016-09-08 2017-09-08 部分的ビデオ・デコード方法、デバイス、およびシステム Active JP6956781B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP16187861.6A EP3293981A1 (en) 2016-09-08 2016-09-08 Partial video decoding method, device and system
EP16187861.6 2016-09-08
PCT/EP2017/072665 WO2018046705A2 (en) 2016-09-08 2017-09-08 Partial video decoding method, device and system

Publications (2)

Publication Number Publication Date
JP2019526996A true JP2019526996A (ja) 2019-09-19
JP6956781B2 JP6956781B2 (ja) 2021-11-02

Family

ID=56926014

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019513401A Active JP6956781B2 (ja) 2016-09-08 2017-09-08 部分的ビデオ・デコード方法、デバイス、およびシステム

Country Status (6)

Country Link
US (2) US11153580B2 (ja)
EP (3) EP3293981A1 (ja)
JP (1) JP6956781B2 (ja)
CN (1) CN109891905B (ja)
PL (1) PL3510786T3 (ja)
WO (1) WO2018046705A2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021054439A1 (ja) * 2019-09-20 2021-03-25 株式会社Jvcケンウッド 画像変換装置及び画像復号装置

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3293981A1 (en) * 2016-09-08 2018-03-14 Koninklijke KPN N.V. Partial video decoding method, device and system
KR102424829B1 (ko) * 2017-02-22 2022-07-25 에스케이텔레콤 주식회사 비디오 데이터가 부호화된 비트스트림을 처리하는 방법
WO2018155939A1 (ko) * 2017-02-22 2018-08-30 에스케이텔레콤 주식회사 영상 복호화 방법 및 장치
US10565964B2 (en) * 2017-04-24 2020-02-18 Intel Corporation Display bandwidth reduction with multiple resolutions
US10735826B2 (en) * 2017-12-20 2020-08-04 Intel Corporation Free dimension format and codec
US10432970B1 (en) * 2018-06-14 2019-10-01 Telefonaktiebolaget Lm Ericsson (Publ) System and method for encoding 360° immersive video
EP4422175A2 (en) * 2018-09-14 2024-08-28 Huawei Technologies Co., Ltd. Slicing and tiling in video coding
JP7158497B2 (ja) * 2018-12-20 2022-10-21 テレフオンアクチーボラゲット エルエム エリクソン(パブル) ビデオエンコーディングおよびデコーディングにおける改善されたタイルアドレスシグナリング
WO2020142483A1 (en) * 2018-12-31 2020-07-09 Futurewei Technologies, Inc. Explicit address signaling in video coding
EP4000271A1 (en) 2019-07-17 2022-05-25 Koninklijke KPN N.V. Facilitating video streaming and processing by edge computing
EP4026345A1 (en) 2019-09-03 2022-07-13 Koninklijke KPN N.V. Combining video streams in composite video stream with metadata
US11477450B2 (en) * 2019-12-20 2022-10-18 Zte (Uk) Limited Indication of video slice height in video subpictures
CN111314606B (zh) * 2020-02-21 2021-06-18 Oppo广东移动通信有限公司 拍照方法、装置、电子设备及存储介质
WO2021177791A1 (ko) * 2020-03-05 2021-09-10 엘지전자 주식회사 혼성 nal 유닛 타입에 기반하는 영상 부호화/복호화 방법, 장치 및 비트스트림을 전송하는 방법
CN111988674A (zh) * 2020-08-18 2020-11-24 广州极飞科技有限公司 一种多媒体数据传输方法、装置、设备及存储介质
US11327677B1 (en) * 2020-09-14 2022-05-10 Xilinx, Inc. Data mover circuitry for N-dimensional data in an integrated circuit
CN112672046B (zh) * 2020-12-18 2022-05-03 闻泰通讯股份有限公司 连拍图像的存储方法、装置、电子设备和存储介质
WO2022205157A1 (zh) * 2021-03-31 2022-10-06 西门子(中国)有限公司 一种图像传输方法及装置
CN114816434B (zh) * 2022-06-28 2022-10-04 之江实验室 一种面向可编程交换的硬件解析器及解析器实现方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015011108A1 (en) * 2013-07-23 2015-01-29 Canon Kabushiki Kaisha Method, device, and computer program for encapsulating partitioned timed media data using sub-track feature
WO2016002496A1 (ja) * 2014-06-30 2016-01-07 ソニー株式会社 情報処理装置および方法

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6567086B1 (en) * 2000-07-25 2003-05-20 Enroute, Inc. Immersive video system using multiple video streams
WO2010069427A1 (en) * 2008-12-19 2010-06-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Method and encoder for providing a tune- in stream for an encoded video stream and method and decoder for tuning into an encoded video stream
KR20140014346A (ko) 2009-05-19 2014-02-06 파나소닉 주식회사 기록매체, 재생장치, 부호화장치, 집적회로 및 재생출력장치
US9584819B2 (en) * 2011-10-24 2017-02-28 Qualcomm Incorporated Grouping of tiles for video coding
EP2814243A4 (en) * 2012-06-25 2016-04-20 Sony Corp Image Decoding Device, Image Decoding Method, Image Coding Device, and Image Coding Method
KR102162119B1 (ko) * 2012-06-29 2020-10-06 지이 비디오 컴프레션, 엘엘씨 비디오 데이터 스트림 개념
JP6214235B2 (ja) * 2012-07-02 2017-10-18 キヤノン株式会社 ファイル生成方法、ファイル生成装置、及びプログラム
WO2014025319A1 (en) * 2012-08-08 2014-02-13 National University Of Singapore System and method for enabling user control of live video stream(s)
GB2513303B (en) * 2013-04-16 2017-06-07 Canon Kk Method and device for partitioning an image
WO2015053287A1 (ja) * 2013-10-08 2015-04-16 シャープ株式会社 画像復号装置、画像符号化装置、および、符号化データ変換装置
EP3058747B1 (en) * 2013-10-15 2019-11-20 Nokia Technologies Oy Scalable video encoding and decoding using syntax element
GB2524726B (en) * 2014-03-25 2018-05-23 Canon Kk Image data encapsulation with tile support
EP3162075B1 (en) 2014-06-27 2020-04-08 Koninklijke KPN N.V. Hevc-tiled video streaming
GB2564731B (en) * 2014-10-14 2019-05-29 Canon Kk Description of image composition with HEVC still image file format
JP6451233B2 (ja) * 2014-11-12 2019-01-16 富士通株式会社 電子機器
GB201502205D0 (en) * 2015-02-10 2015-03-25 Canon Kabushiki Kaisha And Telecom Paris Tech Image data encapsulation
US20160286226A1 (en) * 2015-03-24 2016-09-29 Nokia Technologies Oy Apparatus, a method and a computer program for video coding and decoding
GB2539461B (en) * 2015-06-16 2020-01-08 Canon Kk Image data encapsulation
GB2550604A (en) * 2016-05-24 2017-11-29 Canon Kk Method, device, and computer program for encapsulating and parsing timed media data
GB2550912B (en) * 2016-05-27 2019-09-04 Canon Kk Method, device and computer program for encapsulating and parsing timed media data
EP3293981A1 (en) * 2016-09-08 2018-03-14 Koninklijke KPN N.V. Partial video decoding method, device and system

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015011108A1 (en) * 2013-07-23 2015-01-29 Canon Kabushiki Kaisha Method, device, and computer program for encapsulating partitioned timed media data using sub-track feature
WO2016002496A1 (ja) * 2014-06-30 2016-01-07 ソニー株式会社 情報処理装置および方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021054439A1 (ja) * 2019-09-20 2021-03-25 株式会社Jvcケンウッド 画像変換装置及び画像復号装置

Also Published As

Publication number Publication date
EP3293981A1 (en) 2018-03-14
EP3783905A1 (en) 2021-02-24
EP3510786A2 (en) 2019-07-17
US20190200029A1 (en) 2019-06-27
WO2018046705A3 (en) 2018-05-24
EP3510786B1 (en) 2021-04-07
PL3510786T3 (pl) 2021-11-02
US20220007036A1 (en) 2022-01-06
CN109891905A (zh) 2019-06-14
US11153580B2 (en) 2021-10-19
JP6956781B2 (ja) 2021-11-02
CN109891905B (zh) 2022-02-08
WO2018046705A2 (en) 2018-03-15

Similar Documents

Publication Publication Date Title
JP6956781B2 (ja) 部分的ビデオ・デコード方法、デバイス、およびシステム
RU2681086C1 (ru) Способ, устройство и компьютерная программа для инкапсуляции масштабируемых разделенных данных мультимедиа с временной привязкой
TWI736895B (zh) 用於圖像/視訊資料串流而允許有效可縮減性或有效隨機存取之技術
KR102618049B1 (ko) 비디오 스트리밍의 관심 장면 섹션 및 영역 처리
CN113498606A (zh) 用于视频编码和解码的装置、方法和计算机程序
CN110035331B (zh) 一种媒体信息的处理方法及装置
US11363248B2 (en) Method and device for transmitting region information of 360-degree video
US11259049B2 (en) Area-based processing method and apparatus for 360-degree video
US20200092571A1 (en) Scalability of multi-directional video streaming
CN112602329B (zh) 用于360度视频解码的块置乱
US20240236328A1 (en) Video coding in relation to subpictures
EP3821606A1 (en) Video based point cloud codec bitstream specification

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190514

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190514

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200317

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200612

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201201

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210428

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210907

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211005

R150 Certificate of patent or registration of utility model

Ref document number: 6956781

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250