JP7421552B2 - スケーラブルビデオ符号化及び伝送のための方法、装置、コンピュータプログラム、及びコンピュータ可読媒体 - Google Patents

スケーラブルビデオ符号化及び伝送のための方法、装置、コンピュータプログラム、及びコンピュータ可読媒体 Download PDF

Info

Publication number
JP7421552B2
JP7421552B2 JP2021524323A JP2021524323A JP7421552B2 JP 7421552 B2 JP7421552 B2 JP 7421552B2 JP 2021524323 A JP2021524323 A JP 2021524323A JP 2021524323 A JP2021524323 A JP 2021524323A JP 7421552 B2 JP7421552 B2 JP 7421552B2
Authority
JP
Japan
Prior art keywords
data
payload
configuration
decoder
message
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021524323A
Other languages
English (en)
Other versions
JPWO2020089615A5 (ja
JP2022507027A (ja
Inventor
ジョンソン,ロバート
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
V Nova International Ltd
Original Assignee
V Nova International Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by V Nova International Ltd filed Critical V Nova International Ltd
Publication of JP2022507027A publication Critical patent/JP2022507027A/ja
Publication of JPWO2020089615A5 publication Critical patent/JPWO2020089615A5/ja
Application granted granted Critical
Publication of JP7421552B2 publication Critical patent/JP7421552B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/463Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、方法、装置、コンピュータプログラム、及びコンピュータ可読媒体に関する。特に、ただし排他的にではなく、本発明は、画像の表現を相対的に高レベルの品質で再構築するために使用可能な残留データに関する構成情報の処理に使用するための、方法、装置、コンピュータプログラム、及びコンピュータ可読媒体に関する。
信号の圧縮及び復元は、多くの既知のシステムにおける考慮事項である。多くの種類の信号、例えばビデオは、例えばデータ通信ネットワーク上の伝送のために圧縮及び符号化され得る。そのような信号が復号されるとき、信号の品質レベルが向上すること、及び/または元の信号に含まれる情報を可能な限り同程度に回復することが望ましい場合がある。
いくつかの既知のシステムは、スケーラブル符号化技術を活用している。スケーラブル符号化は、例えば復号器のケイパビリティ及び利用可能帯域幅に依存して、1つまたは複数の異なる品質レベルにおいて信号の再構築を可能にする情報と共に、信号を符号化することを伴う。
スケーラブル符号化システムにおける信号の再構築に関していくつかの考慮事項が存在する。そのような考慮事項の1つは、記憶され、使用され、及び/または伝送される情報の量である。情報の量は、例えば、再構築される信号の所望の品質レベル、再構築において使用される情報の性質、及び/またはそのような情報がどのように構成されるかに依存して変化し得る。別の考慮事項は、受信した情報を確実に処理するための復号器の能力である。復号器の信頼性に影響を及ぼし得る1つの要因は、エラーをハンドリングする、及び/または復号器によって予期しない、修正済みの、及び/または認識されない受信情報をハンドリングする復号器の能力である。
本発明の様々な態様が、添付の特許請求の範囲において提示されている。
さらなる特徴及び利点が、単なる実施例として与えられる以下の好適な実施形態の説明から明らかとなる。好適な実施形態の説明は、添付図面を参照して行われる。
本発明の実施形態による、信号処理システムの実施例の概略ブロック図を示す。 本発明の実施形態による、信号処理システムの別の実施例の概略ブロック図を示す。 本発明の実施形態による、信号処理システムの別の実施例の概略ブロック図を示す。 本発明の実施形態による、構成メッセージの実施例の概略図を示す。 本出願の実施形態による、方法の実施例を示すフロー図である。 本発明の実施形態による、構成メッセージの別の実施例の概略図を示す。 本発明の実施形態による、方法の別の実施例を示すフロー図である。 本発明の実施形態による、装置の実施例の概略ブロック図を示す。
図1を参照すると、信号処理システム100の実施例が示されている。信号処理システム100は、信号を処理するために使用される。信号の種類の実施例は、ビデオ信号、画像信号、音声信号、医療、科学、もしくはホログラフィー撮像において用いられるような体積信号、または他の多次元信号を含むが、これらに限定されない。
信号処理システム100は、第1の装置102及び第2の装置104を含む。第1の装置102及び第2の装置104は、クライアント-サーバ関係を有してもよく、第1の装置102がサーバデバイスの機能を実行してもよく、第2の装置104がクライアントデバイスの機能を実行してもよい。信号処理システム100は、少なくとも1つの追加装置(図示せず)を含み得る。第1の装置102及び/または第2の装置104は、1つまたは複数のコンポーネントを含み得る。1つまたは複数のコンポーネントは、ハードウェア及び/またはソフトウェアにおいて実施され得る。1つまたは複数のコンポーネントは、同一場所に設置されてもよく、または信号処理システム100において互いから遠隔に位置してもよい。装置の種類の実施例は、コンピュータ化デバイス、手持ちまたはラップトップコンピュータ、タブレット、モバイルデバイス、ゲームコンソール、スマートテレビ、セットトップボックス、拡張現実及び/または仮想現実ヘッドセットなどを含むが、これらに限定されない。
第1の装置102は、データ通信ネットワーク106を介して第2の装置104に通信可能に連結される。データ通信ネットワーク106の実施例は、インターネット、ローカルエリアネットワーク(LAN)、及びワイドエリアネットワーク(WAN)を含むが、これらに限定されない。第1の装置102及び/または第2の装置104は、データ通信ネットワーク106に対する有線接続及び/または無線接続を有し得る。
第1の装置102は、符号化器108を含む。符号化器108は、信号に含まれるデータを符号化するように構成される。信号に含まれるデータは、以下「信号データ」と呼ばれる。例えば、信号がビデオ信号である場合、符号化器108は、ビデオデータを符号化するように構成される。ビデオデータは、複数の画像またはフレームのシーケンスを含む。符号化器108は、信号データを符号化することに加えて、1つまたは複数のさらなる機能を実行し得る。符号化器108は、様々な異なるやり方で具現化され得る。例えば、符号化器108は、ハードウェア及び/またはソフトウェアで具現化されてもよい。
この実施例では、第1の装置102が符号化器108を含むが、他の実施例では、第1の装置102は、符号化器108とは別個である。そのような実施例では、第1の装置102は、符号化器108に通信可能に連結される。第1の装置102は、1つまたは複数のソフトウェア機能及び/またはハードウェアモジュールとして具現化されてもよい。
第2の装置104は、復号器110を含む。復号器110は、信号データを復号するように構成される。復号器110は、信号データを復号することに加えて、1つまたは複数のさらなる機能を実行し得る。復号器110は、様々な異なるやり方で具現化され得る。例えば、復号器110は、ハードウェア及び/またはソフトウェアで具現化されてもよい。
この実施例では、第2の装置104が復号器110を含むが、他の実施例では、第2の装置104は、復号器110とは別個である。そのような実施例では、第2の装置104は、復号器110に通信可能に連結される。第2の装置104は、1つまたは複数のソフトウェア機能及び/またはハードウェアモジュールとして具現化されてもよい。
符号化器108は、信号データを符号化し、符号化された信号データをデータ通信ネットワーク106により復号器110に送信する。復号器110は、受信した符号化信号データを復号し、復号信号データを生成する。復号器110は、復号信号データ、または復号信号データを用いて導出されるデータを出力し得る。例えば、復号器110は、第2の装置104に関連付けられた1つまたは複数のディスプレイデバイス上に表示するためにそのようなデータを出力してもよい。
本明細書で説明されるいくつかの実施例において、符号化器108は、所与のレベルの品質の信号の表現、及び1つまたは複数のより高レベルの品質で信号の表現を再構築するために復号器110が使用し得る情報を、復号器110に送信する。そのような情報は、「再構築データ」と呼ばれ得る。いくつかの実施例において、表現の「再構築」は、元の表現の正確な複製ではない表現を取得することを伴う。表現が元の表現と同一である程度は、量子化レベルを含むがこれに限定されない様々な要因に依存し得る。所与のレベルの品質の信号の表現は、所与のレベルの品質の信号に含まれるデータの演出、バージョン、または描写であると考えられ得る。いくつかの実施例では、再構築データは、符号化器108によって符号化され、復号器110に送信される信号データに含まれる。例えば、再構築データは、メタデータの形式であってもよい。いくつかの実施例では、再構築データは、信号データとは別個に符号化され、送信される。
1つまたは複数のより高レベルの品質で信号の表現を再構築するために復号器110が使用する情報は、以下でより詳細に説明される、残留データを含み得る。残留データは、再構築データの一例である。1つまたは複数のより高レベルの品質で信号の表現を再構築するために復号器110が使用する情報は、残留データの処理に関する構成データも含み得る。構成データは、残留データが符号化器108によってどのように処理されているか、及び/または残留データが復号器110によってどのように処理されるべきかを示し得る。構成データは、例えばメタデータの形式で、復号器110にシグナリングされ得る。
図2A及び図2Bを参照すると、信号処理システム200の実施例が概略的に示されている。信号処理システム200は、符号化器を含む第1の装置202及び復号器を含む第2の装置204を含む。第1の装置202及び第2の装置204のそれぞれにおいて、アイテムが、2つの論理レベル上に示されている。2つのレベルは、破線で分離されている。第1の最も高レベル上のアイテムは、相対的高レベルの品質のデータに関係する。第2の最も低いレベル上のアイテムは、相対的低レベルの品質のデータに関係する。相対的高レベル及び相対的低レベルの品質は、複数レベルの品質を有する段階的階層に関係する。いくつかの実施例では、段階的階層は、2つより多くのレベルの品質を含む。そのような実施例では、第1の装置202及び第2の装置204は、2つより多くの異なるレベルを含み得る。図2A及び図2Bに示されるものより上及び/または下の1つまたは複数の他のレベルが存在し得る。
まず図2Aを参照すると、第1の装置202は、相対的高レベルの品質の画像の第1の表現206を取得する。所与の画像の表現は、画像に含まれるデータの表現である。画像は、ビデオの所与のフレームであってもよい。相対的高レベルの品質の画像の第1の表現206は、この実施例では、第1の装置202内の符号化器に対する入力として提供されるデータであるため、以下「入力データ」と呼ばれる。第1の装置202は、入力データ206を受信し得る。例えば、第1の装置202は、入力データ206を少なくとも1つの他の装置から受信し得る。第1の装置202は、入力データ206の連続部分、例えば、ビデオの連続フレームを受信し、各連続フレームに対して本明細書で説明される動作を実行するように構成され得る。例えば、ビデオは、フレームF、F、...Fを含んでもよく、第1の装置202は、これらのそれぞれを順番に処理し得る。
第1の装置202は、入力データ206に基づいてデータ212を導出する。この実施例では、入力データ206に基づくデータ212は、相対的低レベルの品質の画像の表現212である。この実施例では、データ212は、入力データ206に対してダウンサンプリング動作を実行することによって導出され、したがって、以下「ダウンサンプリングデータ」と呼ばれる。他の実施例では、データ212は、入力データ206に対してダウンサンプリング動作以外の動作を実行することによって導出される。
この実施例では、ダウンサンプリングデータ212は、相対的低レベルの品質で処理済みデータ213を生成するように処理される。他の実施例では、ダウンサンプリングデータ212は、相対的低レベルの品質で処理されない。したがって、第1の装置202は、相対的低レベルの品質でデータを生成してもよく、その場合、相対的低レベルの品質のデータが、ダウンサンプリングデータ212または処理済みデータ213を含む。
いくつかの実施例では、処理済みデータ213を生成することは、ダウンサンプリングデータ212を符号化することを伴う。ダウンサンプリングデータ212を符号化することによって、相対的低レベルの品質の符号化画像が作成される。第1の装置202は、例えば第2の装置204へ送信するために、符号化画像を出力し得る。第2の装置204への送信用の出力として、例えば符号化ビデオを形成する一連の符号化画像は、「ベース」ストリームと呼ばれ得る。第1の装置202において作成される代わりに、符号化画像は、第1の装置202とは別個の符号化デバイスによって作成され得る。符号化画像は、H.264符号化ビデオの一部であってもよい。処理済みデータ213を生成することは、例えば、H.264ビデオ符号化器などの別個の符号化デバイスによる出力としてビデオの連続フレームを生成することを含み得る。処理済みデータ213の生成のためのデータの中間セットは、別個の符号化デバイスによって生成される任意の中間データとは対照的に、そのような符号化器の出力を含み得る。
相対的低レベルの品質の処理済みデータ213を生成することは、相対的低レベルの品質で符号化画像を復号することをさらに伴い得る。復号動作は、以下で明らかとなるように、第2の装置204における復号動作をエミュレートするために実行され得る。符号化画像を復号することによって、相対的低レベルの品質の復号画像が作成される。いくつかの実施例において、第1の装置202は、相対的低レベルの品質で符号化画像を復号して、相対的低レベルの品質の復号画像を作成する。他の実施例では、第1の装置202は、相対的低レベルの品質の復号画像を、例えば、第1の装置202とは別個の符号化デバイス及び/または復号デバイスから受信する。符号化画像は、H.264復号器を用いて復号され得る。別個の復号デバイスによって復号することは、リモート復号デバイスへの送信用に構成された符号化データストリームなどの符号化ビデオを、第1の装置202と共に実施される別個のブラックボックス復号器に入力して、ビデオの連続復号フレームを生成することを含み得る。処理済みデータ213は、したがって、複雑な非線形符号化及び復号プロセスによって生成されるビデオデータのフレームを含み得る。その場合、符号化及び復号プロセスは、H.264などの特定の符号化規格により、時空間補正をモデリングすることを伴い得る。しかしながら、任意の符号化器の出力が、対応する復号器に供給されるため、この複雑性は、第1の装置202から効果的に隠されている。
実施例では、相対的低レベルの品質で処理済みデータ213を生成することは、例えば、ダウンサンプリングデータ212と復号画像との差に基づいて、ダウンサンプリングデータ212と第1の装置202によって取得された復号画像との比較に基づく補正データを取得することをさらに伴う。補正データは、ダウンサンプリングデータ212を符号化及び復号する際にもたらされるエラーを補正するために使用され得る。いくつかの実施例では、第1の装置202は、例えば第2の装置204への送信用に、符号化信号と同様に、補正データを出力する。これによって、受信者が、ダウンサンプリングデータ212を符号化及び復号する際にもたらされるエラーを補正することが可能となる。この補正データは、「第1の拡張」ストリームとも呼ばれ得る。補正データが、ダウンサンプリングデータ212と復号画像との差に基づき得るとき、それは、(例えば、以下で後述される残留データの他のセットとは異なる)残留データの形式と見られ得る。
いくつかの実施例では、相対的低レベルの品質の処理済みデータ213を生成することは、補正データを用いて復号画像を補正することをさらに伴う。例えば、送信用の出力としての補正データは、復号画像との組み合わせに適した形式に入れられ、次いで、復号画像に追加され得る。これは、フレーム単位で実行され得る。他の実施例では、補正データを用いて復号画像を補正するのではなく、第1の装置202は、ダウンサンプリングデータ212を使用する。例えば、ある場合には、単に符号化され次いで復号されたデータが用いられてもよく、他の場合には、符号化及び復号することが他の処理で置換されてもよい。
いくつかの実施例では、処理済みデータ213を生成することは、符号化すること、復号すること、取得すること、及び上述した動作を補正すること以外の1つまたは複数の動作を実行することを伴う。
第1の装置202は、相対的低レベルの品質のデータに基づいてデータ214を取得する。上記で示されたように、相対的低レベルの品質のデータは、処理済みデータ213、またはダウンサンプリングデータ212がより低レベルで処理されない場合のダウンサンプリングデータ212を含み得る。上述の通り、ある場合に、処理済みデータ213は、補正データを用いて補正される、(例えば符号化-復号動作から)再構築されたビデオストリームを含み得る。図2A及び図2Bの実施例において、データ214は、相対的高レベルの品質の画像の第2の表現であり、相対的高レベルの品質の画像の第1の表現が、入力データ206である。相対的高レベルの品質の第2の表現が、相対的高レベルの品質の画像の予備的表現または予測される表現であると考えられ得る。この実施例では、第1の装置202は、相対的低レベルの品質のデータに対してアップサンプリング動作を実行することによって、データ214を導出する。データ214は、以下「アップサンプリングデータ」と呼ばれる。しかしながら、他の実施例では、例えば、入力データ206をダウンサンプリングすることによってデータ212が導出されない場合に、1つまたは複数の他の動作が、データ214を導出するために使用され得る。相対的高レベル及び相対的低レベルの品質に対する言及は、第2のレベルの品質が第1のレベルの品質より高い場合に、第1のレベル及び第2のレベルの品質に対する言及に対応し得ることに留意すべきである。本明細書で説明されるように、ある場合において、品質のレベルは、異なる空間解像度に対応し得る。
入力データ206及びアップサンプリングデータ214は、残留データ216を取得するために使用される。残留データ216は、画像に関連付けられている。残留データ216は、残留要素のセットの形式であってもよい。残留要素216のセット内の残留要素は、入力データ206内のそれぞれの画像要素に関連付けられてもよい。画像要素の一例は、画素である。
この実施例では、所与の残留要素は、アップサンプリングデータ214内の画像要素の値を入力データ206内の対応する画像要素の値から減算することによって取得される。このようにして、残留データ216は、入力データ206を再構築するためにアップサンプリングデータ214と組み合わせて使用可能である。残留データ216は、また、「再構築データ」または「拡張データ」とも呼ばれ得る。ある場合において、残留データ216は、「第2の拡張」ストリームの一部を形成し得る。
第1の装置202は、残留データ216の処理に関する構成データを取得する。構成データは、残留データ216が第1の装置202によってどのように処理されているか、及び/または生成されているか、及び/または残留データ216が第2の装置204によってどのように処理されるべきかを示す。構成データは、構成パラメータのセットを含み得る。構成データは、第2の装置204が、どのようにデータを処理し、及び/または残留データ216を用いて入力データ206を再構築するかを制御するために使用可能であってもよい。構成データは、残留データ216の1つまたは複数の特性に関連し得る。異なる構成データは、残留データ216に対して異なる処理が実行されること、及び/または残留データ216を使用することをもたらし得る。したがって、構成データは、残留データ216を用いて入力データ206を再構築するために使用可能である。
この実施例では、第1の装置202は、ダウンサンプリングデータ212に基づくデータ、残留データ216に基づくデータ、及び構成データを第2の装置204に送信して、第2の装置204が入力データ206を再構築することを可能にする。
ここで、図2Bを参照すると、第2の装置204が、ダウンサンプリングデータ212に基づく(例えば、ダウンサンプリングデータ212から導出される)データ220を受信する。第2の装置204もまた、残留データ216に基づくデータを受信する。例えば、第2の装置204は、「ベース」ストリーム(データ220)、「第1の拡張ストリーム」(任意の補正データ)、及び「第2の拡張ストリーム」(残留データ216)を受信し得る。第2の装置204もまた、残留データ216の処理に関する構成データを受信する。ダウンサンプリングデータ212に基づくデータ220は、ダウンサンプリングデータ212自体、処理済みデータ213、またはダウンサンプリングデータ212もしくは処理済みデータ213から導出されるデータであってもよい。残留データ216に基づくデータは、残留データ216自体、または残留データ216から導出されるデータであってもよい。
いくつかの実施例では、受信したデータ220は、処理済みデータ213を含み、処理済みデータ213は、相対的低レベルの品質の符号化画像及び/または補正データを含み得る。いくつかの実施例では、例えば、第1の装置202がダウンサンプリングデータ212を処理して処理済みデータ213を生成している場合に、第2の装置204は、受信したデータ220を処理して処理済みデータ222を生成する。第2の装置204によるそのような処理は、(例えば、「ベース」符号化ビデオストリームの一部を形成する)符号化画像を復号して、相対的低レベルの品質の復号画像を作成することを含み得る。いくつかの実施例では、第2の装置204による処理は、取得した補正データを用いて復号画像を補正することを含む。したがって、処理済みデータ222は、第1のレベルまたは相対的低レベルの品質の補正されたデータのフレームを含み得る。いくつかの実施例では、相対的低レベルの品質の符号化画像は、第2の装置204とは別個の復号デバイスによって復号される。相対的低レベルの品質の符号化画像は、H.264復号器を用いて復号され得る。
他の実施例では、受信したデータ220は、ダウンサンプリングデータ212を含み、処理済みデータ213を含まない。いくつかのそのような実施例では、第2の装置204は、処理済みデータ222を生成するために、受信したデータ220を処理しない。
第2の装置204は、相対的低レベルの品質のデータを用いて、アップサンプリングデータ214を導出する。上記で示されたように、相対的低レベルの品質のデータは、処理済みデータ222、または第2の装置204が受信したデータ220を相対的低レベルの品質で処理しない場合の受信データ220を含み得る。アップサンプリングデータ214は、相対的高レベルの品質の画像の予備的表現である。アップサンプリングデータ214は、相対的低レベルの品質のデータに対してアップサンプリング動作を実行することによって導出され得る。
第2の装置204は、残留データ216を取得する。残留データ216は、入力データ206を再構築するためにアップサンプリングデータ214とともに使用可能である。残留データ216は、入力データ206とアップサンプリングデータ214との間の比較を示す。
第2の装置204もまた、残留データ216の処理に関する構成データを取得する。構成データは、入力データ206を再構築するために第2の装置204によって使用可能である。例えば、構成データは、残留データ216がどのように使用されるべきか、及び/または処理されるべきか、または残留データ216が少しでも使用されるべきかどうかに影響を及ぼす、残留データ216に関する特性またはプロパティを示し得る。いくつかの実施例では、構成データは、残留データ216を含む。
そのような構成データの使用に関するいくつかの考慮事項が存在する。そのような考慮事項の1つは、生成され、記憶され、送信され、及び/または処理される情報の量である。使用される情報が多いほど、そのような情報をハンドリングすることに関与し得るリソースの量が多くなる。そのようなリソースの実施例は、伝送リソース、記憶リソース、及び処理リソースを含む。いくつかの既知の技術と比較して、本明細書で説明される実施例は、相対的に少ない量の情報が使用されることを可能にする。これによって、データ通信ネットワーク106を介して送信されるデータ量が減少され得る。節約は、データが高品質ビデオデータに関する場合に特に関係があり得る。この場合、既知のシステムにおいて送信される情報量が特に多いことがある。
そのような構成データの使用に関する別の考慮事項は、異なる種類の復号デバイスに適合される能力である。例えば、所与の符号化器は、処理及び/または記憶ケイパビリティなどの、異なる特性をそれぞれが有する複数の復号器に情報を送信し得る。画像再構築における構成データの使用は、再構築を実行するために使用される復号器デバイスの種類及び/またはケイパビリティに非依存であることが望ましい。いくつかの既知の技術と比較して、本明細書で説明される実施例は、異なる動作特性を有する異なる種類の復号器が構成データを確実に処理することを可能にする。
そのような構成データの使用に関するさらなる考慮事項は、構成データを処理するために復号器において関与する処理の量及び/または複雑性である。いくつかの既知の技術と比較して、本明細書で説明される実施例は、構成データを取得するため及び/または処理するために復号器によって実行される処理の量を減少させる。
エラーハンドリングもまた、考慮事項である。例えば、構成データの処理における潜在的エラーをハンドリングするための復号器の能力は、復号器の信頼性の要因であり得る。いくつかの既知の技術と比較して、本明細書で説明される実施例は、復号器が、潜在的エラーと同様に、予期しない、または認識されないデータの受信をハンドリングすることを可能にする。これによって、復号器の信頼性が効果的に向上し得る。
図3を参照すると、構成メッセージ300の実施例が概略的に示されている。装置、例えば符号化器108を含む第1の装置102は、構成メッセージ300を生成し、さらなる装置、例えば復号器110を含む第2の装置104による処理のために構成メッセージ300を出力する。
構成メッセージ300は、ヘッダ部310及びペイロード部320を含む。ペイロード部320は、構成データ350を含む。構成データ350は、残留データ、例えば上述のような残留データ216の処理に関する。いくつかの実施例では、構成メッセージ300は、整数バイト長である。
ヘッダ部310は、メッセージタイプパラメータ312を含む。メッセージタイプパラメータ312は、構成メッセージ300のメッセージタイプを指定する。メッセージタイプパラメータ312によって指定されるメッセージタイプは、構成メッセージ300がどのように処理されるべきかを示し得る。例としてのメッセージタイプは、画像セット構成メッセージである。画像セット構成メッセージは、画像のセット内の複数の画像に対応し得る。別の例としてのメッセージタイプは、画像構成メッセージである。画像構成メッセージは、画像のセット内の所与の画像のみに対応し得る。別の例としてのメッセージタイプは、符号化データメッセージである。符号化データメッセージは、所与の画像についての符号化残留データを含むように構成され得る。別の例としてのメッセージタイプは、符号化器メタデータメッセージである。符号化器メタデータメッセージは、1つまたは複数の符号化器特性に関するメタデータを含み得る。別の例としてのメッセージタイプは、復号器制御メッセージである。復号器制御メッセージは、復号器を制御するための命令を含み得る。
メッセージタイプパラメータ312は、所与のペイロードフォーマットを有するペイロード部320を示す。ペイロード部320のペイロードフォーマットは、構成メッセージ300のメッセージタイプに基づいて判断され得る。ペイロードフォーマットは、ペイロード部320に含まれる構成データ350の構成パラメータのセットを定義し得る。いくつかの実施例では、ペイロード部320のペイロードフォーマットは、ペイロード部320のコンテンツがどのように処理されるべきかを指定する特定の処理ロジックを定義する。ペイロード部320は、フォーマットサイズを有する。ペイロード部320のフォーマットサイズは、ペイロード部320のペイロードフォーマットに対応する。所与のペイロードフォーマットを有するペイロード部のフォーマットサイズは、ペイロード部のコンテンツから事前判断されるか、または判断され得る。例えば、フォーマットサイズは、ペイロードフォーマットによって定義される個々の構成パラメータの結合されたサイズに基づいて判断され得る。フォーマットサイズは、ペイロード部320の可能なサイズまたは提案されたサイズであるように考えられ得る。
ヘッダ部310はまた、ペイロードサイズパラメータ314を含む。ペイロードサイズパラメータ314は、ペイロード部320の実サイズを指定する。ペイロード部320の実サイズは、整数バイトであり得る。
いくつかの実施例では、ペイロードサイズパラメータ314の値は、固定長要素に記憶される。ペイロードサイズパラメータ314の値を記憶する固定長要素は、ヘッダ部310の所与のバイトに所定の数のビットを含み得る。例えば、ペイロードサイズパラメータ314の値は、1バイトのヘッダ部内の3ビットを含む固定長要素に記憶され得る。
いくつかの実施例では、ペイロードサイズパラメータ314は、ペイロード部320の実サイズの可能な値を記憶するペイロードサイズルックアップテーブルに対する参照を含む。例えば、ペイロードサイズパラメータ314は、ペイロードサイズルックアップテーブルからペイロード部320の実サイズを取得するために使用可能である値を含み得る。
いくつかの実施例では、ペイロードサイズパラメータ314の値は、可変長要素に記憶される。これは、例えば、ペイロード部310の実サイズが、ペイロードサイズルックアップテーブルに指定される値のうちの1つではない場合であってもよい。ペイロードサイズパラメータ314によって指定されるペイロード部310の実サイズは、可変ビット長を有し得る。可変長要素は、整数バイトを含む。いくつかの実施例では、可変長要素の少なくとも1バイトは、可変長要素が少なくとも1つの所与のバイトに対する1つまたは複数の追加バイトを含むか否かを示すように構成される、1つまたは複数の所定のビットを有する。例えば、所与のバイトの可変長要素は、ペイロードサイズパラメータ314を記憶するように構成される7ビットと、可変長要素内の所与のバイトに続くさらなるバイトがあるか否かを示すために使用される1ビットと、を含み得る。したがって、ペイロードサイズパラメータ314は、ペイロードサイズパラメータ314のビット長に関わらず、可変長要素を用いて表され得る。可変長要素は、ペイロードサイズパラメータ314の値を記憶するために使用可能な最小数のバイトを含む。
いくつかの実施例では、ペイロードサイズパラメータ314の値が可変長要素に記憶されることを示すデータが、固定長要素に記憶される。例えば、ペイロードサイズパラメータ314の値が、値の所定のセットのうちの1つであると判断される場合、値は、固定長要素に記憶されてもよく、及び/または固定長要素が、ペイロードサイズルックアップテーブルへの参照を含んでもよい。一方、ペイロードサイズパラメータ314の値が、値の所定のセットのうちの1つではないと判断される場合、可変長要素が、値を記憶するために使用されてもよく、固定長要素は、例えば、固定長要素に含まれるフラグを介して、可変長要素が値を記憶するために使用されていることを示すように構成され得る。
この実施例では、ヘッダ部310は、メッセージタイプパラメータ312及びペイロードサイズパラメータ314のみを含む。他の実施例では、ヘッダ部310は、1つまたは複数のさらなるパラメータを含む。いくつかの実施例では、ヘッダ部310は、1バイト長である。例えば、メッセージタイプパラメータ312は、5ビットで表されてもよく、ペイロードサイズパラメータ314は、1バイトのヘッダ部310の残りの3ビットによって表されてもよい。他の実施例では、例えば可変長要素がペイロード部320の実サイズを表すために使用される場合、ヘッダ部310は、1より多くのバイトを含む。
ペイロード部320の実サイズは、ペイロード部320のフォーマットサイズと同一であってもよく、または異なってもよい。実サイズとフォーマットサイズとが同一であるか否かに関わらず、実サイズを指定するペイロードサイズパラメータ314は、構成メッセージ300のヘッダ部310に含まれる。
ペイロード部320の可能なサイズ、いわゆるフォーマットサイズがメッセージタイプパラメータ312から推察され得るときに、ペイロード部320の実サイズを指定するペイロードサイズパラメータ314を含むことは、特にフォーマットサイズと実サイズとが同一であるときには、非効率的であること、及び/または情報の二重化であることが明らかであり得る。構成メッセージ300にペイロードサイズパラメータ314を含むことは、そのようなパラメータが含まれない場合と比較して、構成メッセージ300に使用されるデータの量がより大きいことを伴う。しかしながら、構成メッセージ300にペイロードサイズパラメータ314を含むことは、以下でより詳細に説明されるように、そのようなパラメータが使用されない場合と比較して、より効率的かつ信頼性の高い復号器110の処理、及び/または改善されたエラーハンドリングを容易にする。
図4を参照すると、構成データを処理する方法400の実施例が示されている。方法400は、上述の第2の装置104などの復号器を含む装置によって実行され得る。
いくつかの実施例では、残留データが受信される。この実施例では、受信した残留データは、上述の残留データ216である。残留データ216は、符号化器108などの符号化器から受信され得る。残留データ216は、段階的階層内の相対的高レベルの品質の画像の第1の表現206を、相対的高レベルの品質の画像の第2の表現214を用いて再構築するために使用可能である。第2の表現214は、段階的階層内の相対的低レベルの品質の画像の表現222に基づく。いくつかの実施例では、相対的低レベルの品質の表現222を導出するために使用可能なデータが、符号化器108から受信される。
アイテム410において、構成メッセージが受信される。この実施例では、受信した構成メッセージは、上述の構成メッセージ300である。構成メッセージ300は、符号化器108から受信され得る。
アイテム420において、受信した構成メッセージ300は、メッセージタイプパラメータ312及びペイロードサイズパラメータ314を用いて処理される。構成メッセージ300は、構成メッセージ300のペイロード部320に記憶された構成データ350を取得するために処理される。
いくつかの実施例では、構成メッセージ300を処理することは、構成メッセージ300のヘッダ部310を構文解析して、メッセージタイプパラメータ312及びペイロードサイズパラメータ312を取得することを含む。ペイロードサイズパラメータ314に基づいて、ペイロード部320の実サイズが判断される。メッセージタイプパラメータ312に基づいて、構成メッセージ300のメッセージタイプが判断される。構成メッセージ300は、判断されたメッセージタイプ及び判断されたペイロード部320の実サイズに従って処理され得る。
構成メッセージ300を処理することは、ペイロード部320を構文解析して構成データ350を取得することを含み得る。いくつかの実施例では、構成メッセージ300を処理することは、ペイロード部320が構文解析されるときに読まれている構成メッセージ300のバイト数を追跡することを含む。ペイロード部320を構文解析するときに読まれたバイト数と、ペイロードサイズパラメータ314によって指定されるペイロード部320の実サイズとの間で判断される不一致がある場合に、復号器110は、読み取り不足の発生を検出し得る。読み取り不足は、構成メッセージを処理する際の潜在的なエラー源であり得る。
いくつかの実施例では、ペイロードサイズパラメータ314は、次の構成メッセージの先頭を判断するために使用される。次の構成メッセージは、復号器110によって受信される構成メッセージのシーケンスにおける構成メッセージ300の次の連続する構成メッセージであってもよい。構成メッセージのシーケンスは、構成データの一部を形成し得る。構成メッセージ300及び次の構成メッセージは、同一画像または異なる画像に対応し得る。例えば、構成メッセージ300は、画像シーケンス内の第1の画像に対応してもよく、次の構成メッセージは、画像シーケンス内の異なる第2の画像に対応してもよい。
いくつかの実施例では、構成メッセージ300を処理することは、ペイロード部320のコンテンツの少なくとも一部を破棄することを含む。ペイロード部320のコンテンツの少なくとも一部が、ペイロードサイズパラメータ314を用いて破棄され得る。例えば、復号器110は、次の構成メッセージまでスキップしてもよく、ペイロード部320のコンテンツの少なくとも一部を処理することなく、次の構成メッセージの先頭がペイロードサイズパラメータ314を用いて判断されている。
したがって、ペイロードサイズパラメータ314を用いることによって、復号器110は、起こり得る読み取り不足を効率的な方式でハンドリングすることが可能となる。ペイロードサイズパラメータ314を用いて次のメッセージの先頭位置を特定することによって、復号器110は、複数の構成メッセージを含むバイトストリームとの正しいアライメントまたは同期を維持することも可能となる。例えば、所与の構成メッセージのコンテンツ及び/またはフォーマットが認識されず、予期されず、及び/または、復号器110の知識なしに更新されている場合であっても、復号器110は、依然として、次の構成メッセージの先頭位置を特定し、それによってバイトストリームとの同期を維持することが可能である。さらに、バイトストリームが異常になっている場合、復号器110は、読み取り過剰が発生しそうであるときを検出し、それに応じて応答することが可能である。例えば、復号器110は、現在の構成メッセージの処理を中断し、次の構成メッセージの判断された先頭位置にバイトストリームをリセットしてもよい。したがって、ペイロードサイズパラメータ314を用いて構成メッセージ300を処理することは、復号器110が、修正済みの、及び/または認識されていない及び/または予期しない構成メッセージをハンドリングすることが可能であるという点において、そのようなパラメータが使用されない場合と比較して復号器110の信頼性及び/または適合性を改善する。復号器110は、また、バイトストリームとの同期を失うことなく、潜在的な読み取り不足及び読み取り過剰をハンドリングすることができ、それによって、潜在エラーをハンドリングする復号器110の能力を改善する。
いくつかの実施例では、構成メッセージ300を処理することは、ペイロード部320の第1のコンテンツを構文解析することを含む。第1のコンテンツは、ペイロード部320のフォーマットサイズに対応する。第1のコンテンツは、構成データ350を含み得る。第1のコンテンツは、構成パラメータの第1のセットを含み得る。構成メッセージ300を処理することは、ペイロードサイズパラメータ314を用いてペイロード部320の残りのコンテンツを破棄することをさらに含み得る。ペイロード部320の残りのコンテンツは、第1のコンテンツに含まれないペイロード部320のコンテンツを含む。残りのコンテンツは、さらなる構成データを含む。残りのコンテンツは、構成パラメータのさらなるセットを含み得る。残りのコンテンツの存在は、ペイロード部320のフォーマットサイズと実サイズとの間の不一致を検出することによって判断され得る。言い換えると、実サイズがフォーマットサイズより大きいと判断される場合、フォーマットサイズに基づいて予期されるコンテンツの他に、追加コンテンツがペイロード部320内に存在すると判断される。
アイテム430において、第1の表現206は、取得した構成データ350を用いて再構築される。第1の表現206は、取得した構成データ350に従って残留データ216を用いることにより再構築され得る。
図5を参照すると、構成メッセージ500の実施例が概略的に示されている。装置、例えば符号化器108を含む第1の装置102は、構成メッセージ500を生成し、さらなる装置、例えば復号器110を含む第2の装置104による処理のために構成メッセージ500を出力し得る。図5に示されるいくつかのアイテムは、図3に示されるアイテムに類似である。したがって、200ずつ増分された対応する参照符号が、類似のアイテムに使用されている。
構成メッセージ500は、ヘッダ部510及びペイロード部520を含む。ヘッダ部510は、メッセージタイプパラメータ512を含む。メッセージタイプパラメータ512は、構成メッセージ500のメッセージタイプを指定する。メッセージタイプは、構成メッセージ500がどのように処理されるべきかを示す。ヘッダ部510は、また、ペイロードサイズパラメータ514を含む。ペイロードサイズパラメータ514は、ペイロード部520の実サイズを指定する。
この実施例では、ペイロード部520は、第1のペイロード部522を含む。第1のペイロード部522は、残留データ216の処理に関する第1の構成データ552を含む。ペイロード部520は、また、第2のペイロード部524を含む。この実施例では、第2のペイロード部524は、ペイロード部520において第1のペイロード部522の後に続いて配列されている。第1のペイロード部522の後に続いて第2のペイロード部524を配列することによって、第2のペイロード部524が受信され、処理され、及び/または構文解析される前に、第1のペイロード部522が、復号器110によって受信され、処理され、及び/または構文解析されることが可能となり得る。第2のペイロード部524は、残留データ216の処理に関する第2の構成データ554を含む。
第1のペイロード部522及び第2のペイロード部524は、共に構成メッセージ500のペイロード部520を形成する。したがって、ペイロードサイズパラメータ514は、第1のペイロード部522及び第2のペイロード部524の合計サイズを示す。
いくつかの実施例では、第1のペイロード部522は、第1の構成データ552の全てを含む。いくつかの実施例では、第2のペイロード部524は、第2の構成データ554の全てを含む。したがって、第1の構成データ552及び第2の構成データ554は、構成メッセージ500のペイロード部520の別個の部分に記憶され得る。第2の構成データ554に対してペイロード部520の別個の部分に第1の構成データ552を記憶することは、特に、第1の構成データ552及び第2の構成データ554のうちの1つを使用及び/または処理しないように構成される復号器について、復号器によるペイロード部520のコンテンツの効率的なハンドリングを容易にする。
いくつかの実施例では、ヘッダ部510は、第1のペイロード部552のサイズ及び/または第2のペイロード部524のサイズを指定しない。いくつかの実施例では、第1のペイロード部522のサイズは、メッセージタイプパラメータ512によって示されるフォーマットサイズに基づいて判断され得る。したがって、メッセージタイプパラメータ512によって示されるフォーマットサイズは、第2のペイロード部524のコンテンツを除く第1のペイロード部522のコンテンツを反映し得る。
第1の構成データ552及び第2の構成データ554のうちの1つまたは両方が、残留データ216を用いて入力データ206を再構築するために使用可能であってもよい。いくつかの実施例では、第2の構成データ554は、補助構成データを含む。補助構成データは、第1の構成データ552を補助するように構成される。
第1の構成データ552は、1つまたは複数の復号器の第1のセットに関する。1つまたは複数の復号器の第1のセットは、第1の動作特性を有する。動作特性の実施例は、処理ケイパビリティである。第2の構成データ554は、1つまたは複数の復号器の第2のセットに関する。1つまたは複数の復号器の第2のセットは、第2の動作特性を有する。構成メッセージ500が送信される復号器110は、第1のセットまたは第2のセットに含まれ得る。構成メッセージ500を生成する符号化器108は、復号器110がどの復号器のセットに含まれるかを認識していなくてもよい。符号化器108は、構成メッセージ500を復号器の両方のセットにわたる複数の復号器に送信し得る。
いくつかの実施例では、第1の動作特性が、1つまたは複数の復号器の第1のセットがそれに従って動作するように構成される第1のバージョンに対応し、第2の動作特性が、1つまたは複数の復号器の第2のセットがそれに従って動作するように構成される、異なる第2のバージョンに対応する。第2のバージョンは、第1のバージョンに対して後のバージョンであってもよい。第1のバージョン及び第2のバージョンは、構成メッセージがどのように処理されるべきかを定義し、及び/またはそのような構成メッセージのコンテンツを定義する、構文フレームワークの異なるバージョンであってもよい。したがって、構文が第1のバージョンから第2のバージョンへ更新されるとき、第2の構成データ554は、第1のバージョンから第1の構成データ552を含む構成メッセージに追加される。第2の構成データ554は、例えば、第1の構成データ552に付加され得る。
第2の構成データ554を収容する新たなメッセージタイプを生成する代わりに、第2の構成データ554を既存のメッセージタイプの構成メッセージに追加することによって、新たなメッセージタイプが生成される場合と比較して、記憶され、送信され、及び/または処理されるデータ量が減少される。新たなメッセージタイプを定義する代わりに、既存のメッセージタイプの構成を修正することによって、全ての関連する構成データを伝達するために使用される構成メッセージの合計数が減少され得る。各構成メッセージは、例えば、少なくとも1バイト長であり得る対応ヘッダを有する。したがって、構成メッセージの合計数を減少させることによって、記憶され、送信され、及び/または処理されるデータの量が、減少され得る。
いくつかの実施例では、復号器110は、第1のペイロード部522及び第2のペイロード部524の両方を処理することができない。ある場合において、符号化器108は、第2の構成データ554がそれに従って構成メッセージ500に含まれる更新を経ている場合があるが、復号器110は、そのような更新を経ていないことがある。言い換えると、符号化器108及び復号器110は、異なるバージョンの構文に従って動作することがある。そのような実施例では、符号化器108によって解釈されるペイロード部520のフォーマットサイズと、復号器110によって解釈されるペイロード部520のフォーマットサイズとに不一致が存在し得る。例えば、復号器110が、追加コンテンツ及び更新済みペイロードフォーマットを認識しておらず、前のバージョンに従って動作しているため、ペイロード部520の追加コンテンツ及びバージョン更新後の更新済みペイロードフォーマットを認識している符号化器108によるフォーマットサイズは、復号器110によるフォーマットサイズとは異なる。符号化器108については、フォーマットサイズは、更新済みペイロード部520の実サイズに等しいが、復号器110についてはそうではない。したがって、フォーマットサイズのみが、ペイロード部520の実サイズの信頼性のない標識であり得る。したがって、ペイロード部520の実サイズを指定するペイロードサイズパラメータ514を含むことは、以下でより詳細に説明されるように、復号器110のより信頼性の高い処理を容易にする。
図6を参照すると、構成データを処理する方法600の実施例が示されている。方法600は、上述の第2の装置104などの復号器を含む装置によって実行され得る。
アイテム610において、構成メッセージ500が受信される。
アイテム620において、構成メッセージ500は、第1の構成データ552及び第2の構成データ554のうちの1つまたは両方を取得するために処理される。
いくつかの実施例では、例えば復号器110が復号器の第1のセット内にある場合、第1のペイロード部522は、復号器110によって構文解析され、第2のペイロード部524は、復号器110によって構文解析されない。第2のペイロード部524を除く第1のペイロード部522を構文解析することによって、復号器110が、第2の構成データ554を除く第1の構成データ552を取得することが可能となる。いくつかの実施例では、例えば復号器110が復号器の第2のセット内にある場合、第2のペイロード部524は、復号器110によって構文解析され、第1のペイロード部522は、復号器110によって構文解析されない。第1のペイロード部522を除く第2のペイロード部524を構文解析することによって、復号器110が、第1の構成データ552を除く第2の構成データ554を取得することが可能となる。いくつかの実施例では、例えば復号器110が復号器の第2のセット内にある場合、第1のペイロード部522及び第2のペイロード部524の両方が、第1の構成データ552及び第2の構成データ554の両方を取得するために構文解析される。
ペイロードサイズパラメータ514は、次の構成メッセージの先頭を判断するために使用され得る。いくつかの実施例では、例えば復号器110が復号器の第1のセット内にある場合、第2のペイロード部524のコンテンツが破棄される。第2のペイロード部524のコンテンツは、第2の構成データ554を含む。第2のペイロード部524のコンテンツは、ペイロードサイズパラメータ514に指定されるペイロード部520の合計サイズを用いることによって破棄され得る。例えば、復号器110は、第1のペイロード部522のコンテンツを読み出し、次いで、次の構成メッセージまで前方へスキップし得る。次の構成メッセージの先頭は、第2のペイロード部524のコンテンツを読み出さなくても、ペイロードサイズパラメータ514を用いて位置特定されている。
ペイロードサイズパラメータ514を用いて次のメッセージの先頭位置を特定することによって、復号器110は、複数の構成メッセージを含むバイトストリームとの同期を維持することが可能となる。したがって、復号器110は、構成メッセージ500を処理し、復号器110が復号器の第1のセットまたは復号器の第2のセットのいずれにあるかに関わらず、次の構成メッセージの先頭位置を特定し得る。
アイテム630において、相対的高レベルの品質の画像の第1の表現206が、再構築される。第1の表現206は、アイテム620において取得される第1の構成データ552及び第2の構成データ554のうちの1つまたは両方を用いて再構築される。復号器110が第1の構成データ552及び第2の構成データ554の両方を取得する場合に、画像の第1の表現206が、第1の構成データ552及び第2の構成データ554の両方を用いて再構築される。復号器110が、第1のペイロード部522及び第2のペイロード部524のうちの1つを第1のペイロード部522及び第2のペイロード部524のうちのそれ以外を除いて処理する場合に、画像の第1の表現206は、第1の構成データ552及び第2の構成データ554のうちの取得した1つを用いて再構築され得る。したがって、第1の表現206を再構築するための構成メッセージ500の使用は、復号器の種類、及び/または復号器110がそれに従って動作するように構成されるバージョン数に非依存であり得る。
いくつかの実施例では、バイト単位処理が、構成メッセージ500に対して実行される。バイト単位処理では、データはバイト単位で処理される。構成データをバイト単位方式で処理することは、構成データをビット単位方式で処理することよりも効率的であり得る。ビット単位処理は、所与のバイト内のどのビットが、読み出し、または書き込み対象の次のビットであるかを追跡することを伴い得る。所与のパラメータを表すビットのグループがバイト境界をまたぐとき、ビットのグループを読み出し、所与のパラメータを取得するために、追加の処理が実行され得る。バイト単位処理が実行される場合、そのような処理は減少され得る。いくつかの実施例では、ビット単位方式と比較してバイト単位方式でデータを処理するときに、実行サイクル数が減少され得る。
いくつかの実施例では、構成データがメモリに書き込まれる。構成データがビット単位でハンドリングされる場合と比較して、構成データがバイト単位でハンドリングされる場合に、より少ない処理が、構成データをメモリに記憶すること、及び/または構成データをメモリから取り出すことに関与し得る。アドレス可能なメモリの最小単位は、1バイトを含み得る。したがって、情報は、バイト単位方式でメモリに記憶され得る。したがって、構成データがバイトのシーケンスにパッケージされる場合に、より少ないステップが、構成データをメモリに記憶すること、及び/または構成データをメモリから取り出すことに関与し得る。構成データをアドレス可能なメモリ単位にパッケージするために使用されるパディングの量もまた、構成データをバイト単位形式でメモリに提供することによって減少され得る。
さらに、インターネットなどのネットワークを介した構成データの送信が、構成データがバイトのシーケンス内に配列される場合に、より効率的に実行され得る。データは、伝送制御プロトコル(TCP)を介してインターネットを経て送信され得る。TCPは、プロトコルスタックのトランスポート層において動作する。TCPは、ストリームからデータを取得し、データをTCPセグメントにパッケージし、インターネットモジュール、例えばインターネットプロトコル(IP)を使用してインターネットを介して各TCPセグメントを受信者に送信する。データストリームは、メモリから取得され得る。TCPセグメントは、整数バイトを含み得る。したがって、TCPがTCPセグメントにパッケージされるべきデータをバイト単位ストリームから取得する場合、ビット単位ストリームからよりも少ない処理が関与し得る。データをTCPセグメントにパッケージするために用いられるパディングの量もまた、データをバイト単位形式でTCPに提供することによって減少され得る。
図7を参照すると、装置700の実施例の概略ブロック図が示されている。
実施例では、装置700は、符号化器を含む。別の実施例では、装置700は、復号器を含む。
装置700の実施例は、モバイルコンピュータ、パーソナルコンピュータシステム、無線デバイス、ベースステーション、電話デバイス、デスクトップコンピュータ、ラップトップ、ノートブック、ネットブックコンピュータ、メインフレームコンピュータシステム、手持ちコンピュータ、ワークステーション、ネットワークコンピュータ、アプリケーションサーバ、記憶デバイス、カメラ、カムコーダ、モバイルデバイス、ビデオゲームコンソール、手持ちビデオゲームデバイスなどの民生用電子デバイス、または概して任意の種類のコンピューティングデバイスもしくは電子デバイスを含むが、これらに限定されない。
この実施例では、装置700は、情報及び/または命令を処理するように構成される1つまたは複数のプロセッサ701を含む。1つまたは複数のプロセッサ701は、中央処理装置(CPU)を含み得る。1つまたは複数のプロセッサ701は、バス702に連結される。1つまたは複数のプロセッサ701によって実行される動作は、ハードウェア及び/またはソフトウェアによって実行され得る。1つまたは複数のプロセッサ701は、複数の同一場所のプロセッサまたは複数の異なる位置のプロセッサを含み得る。
この実施例では、装置700は、1つまたは複数のプロセッサ701のための情報及び/または命令を記憶するように構成されるコンピュータ使用可能揮発性メモリ703を含む。コンピュータ使用可能揮発性メモリ703は、バス702に連結される。コンピュータ使用可能揮発性メモリ703は、ランダムアクセスメモリ(RAM)を含み得る。
この実施例では、装置700は、1つまたは複数のプロセッサ701のための情報及び/または命令を記憶するように構成されるコンピュータ使用可能不揮発性メモリ704を含む。コンピュータ使用可能不揮発性メモリ704は、バス702に連結される。コンピュータ使用可能不揮発性メモリ704は、読み出し専用メモリ(ROM)を含み得る。
この実施例では、装置700は、情報及び/または命令を記憶するように構成される1つまたは複数のデータ記憶ユニット705を含む。1つまたは複数のデータ記憶ユニット705は、バス702に連結される。1つまたは複数のデータ記憶ユニット705は、例えば、磁気ディスクまたは光学ディスク、及びディスクドライブまたはソリッドステートドライブ(SSD)を含み得る。
この実施例では、装置700は、1つまたは複数のプロセッサ701へ、及び/または1つまたは複数のプロセッサ701から情報を通信するように構成される1つまたは複数の入力/出力(I/O)デバイス706を含む。1つまたは複数のI/Oデバイス706は、バス702に連結される。1つまたは複数のI/Oデバイス706は、少なくとも1つのネットワークインタフェースを含み得る。少なくとも1つのネットワークインタフェースは、装置700が1つまたは複数のデータ通信ネットワークを介して通信することを可能にし得る。データ通信ネットワークの実施例は、インターネット及びローカルエリアネットワーク(LAN)を含むが、これらに限定されない。1つまたは複数のI/Oデバイス706は、ユーザが1つまたは複数の入力デバイス(図示せず)を介して装置700に入力を提供することを可能にし得る。1つまたは複数の入力デバイスは、例えば、リモコン、1つまたは複数の物理ボタンなどを含み得る。1つまたは複数のI/Oデバイス706は、情報が1つまたは複数の出力デバイス(図示せず)を介してユーザに提供されることを可能にし得る。1つまたは複数の出力デバイスは、例えば、ディスプレイスクリーンを含み得る。
様々な他のエンティティが、装置700に対して示されている。例えば、存在するとき、オペレーティングシステム707、データ信号処理モジュール708、1つまたは複数のさらなるモジュール709、及びデータ710は、コンピュータ使用可能揮発性メモリ703、コンピュータ使用可能不揮発性メモリ704、及び1つまたは複数のデータ記憶ユニット705のうちの1つまたは組み合わせにおいて存在しているとして示されている。データ信号処理モジュール708は、コンピュータ使用可能不揮発性メモリ704内のメモリ位置、1つもしくは複数のデータ記憶ユニット705内のコンピュータ可読記憶媒体、及び/または他の有形コンピュータ可読記憶媒体に記憶されたコンピュータプログラムコードとして実施され得る。有形コンピュータ可読記憶媒体の実施例は、光学媒体(例えば、CD-ROM、DVD-ROM、またはBlu-ray(登録商標))、フラッシュメモリカード、フロッピーまたはハードディスク、あるいは少なくとも1つのROMもしくはRAMもしくはプログラマブルROM(PROM)チップ内の、または特定用途向け集積回路(ASIC)としてのファームウェアまたはマイクロコードなどの、コンピュータ可読命令を記憶可能な任意の他の媒体を含むが、これらに限定されない。
したがって、装置700は、1つまたは複数のプロセッサ701によって実行され得るデータ信号処理モジュール708を含み得る。データ信号処理モジュール708は、本明細書で説明される動作のうちの少なくともいくつかを実施するための命令を含むように構成され得る。動作中に、1つまたは複数のプロセッサ701は、起動し、稼働し、実行し、解釈し、または信号処理モジュール708内の命令を実行する。
図面を参照して本明細書で説明される実施例の少なくともいくつかの態様は、処理システムまたはプロセッサにおいて実行されるコンピュータプロセスを含むが、本明細書で説明される実施例は、また、実施例を実施するように適合されたコンピュータプログラム、例えば、搬送波上または搬送波内のコンピュータプログラムに拡大する。搬送波は、プログラムを実行可能な任意のエンティティまたはデバイスであってもよい。
装置700は、図7に示されるものより多くの、より少ない、及び/または異なるコンポーネントを含み得ると理解されたい。
装置700は、単一の場所に位置してもよく、または複数の場所に分散されてもよい。そのような場所は、ローカルまたはリモートであってもよい。
本明細書で説明される技術は、ソフトウェアもしくはハードウェアにおいて実施されてもよく、またはソフトウェア及びハードウェアの組み合わせを用いて実施されてもよい。それらは、本明細書で説明される技術のいずれかまたは全てを実行及び/またはサポートするための装置を構成することを含み得る。
任意の1つの実施形態に関連して説明される任意の特徴は、単独で、または説明された他の特徴と組み合わせて使用されてもよく、また、任意のそれ以外の実施形態の1つまたは複数の特徴もしくは任意のそれ以外の実施形態の任意の組み合わせと組み合わせて使用されてもよいと理解されたい。さらに、上述していない等価物及び修正物もまた、本発明の範囲から逸脱することなく利用されてもよく、本発明の範囲は、添付の特許請求の範囲において定義される。

Claims (10)

  1. 構成データを処理する方法であって、
    複数レベルの品質を有する段階的階層における第1のレベルの品質の画像の第1の表現、及び前記第1のレベルの品質の前記画像の第2の表現に基づいて残留データを取得することであって、前記第2の表現が、前記段階的階層においてより低い第2のレベルの品質の前記画像の表現に基づき、前記残留データが、前記第2の表現を用いて前記第1の表現を再構築するために復号器によって使用可能である、前記取得することと、
    前記残留データの処理に関する構成データを取得することであって、前記構成データが、前記画像の前記第1の表現を再構築するために前記復号器によって使用可能である、前記取得することと、
    ヘッダ部及びペイロード部を含む構成メッセージを生成することであって、前記ペイロード部が、前記構成データを含み、前記ヘッダ部が、
    前記構成メッセージのメッセージタイプを指定し、所与のペイロードフォーマットを有するペイロード部を示し、前記所与のペイロードフォーマットでは前記ペイロードフォーマットを有するペイロード部のフォーマットサイズが前記ペイロード部のコンテンツから事前判断されるかまたは判断され得る、メッセージタイプパラメータ、及び
    前記ペイロード部の実サイズを指定するペイロードサイズパラメータ、
    を含む、前記生成することと、
    前記復号器が前記構成データを用いて前記第1の表現を再構成することを可能にするために、前記復号器による処理のための前記構成メッセージを出力することと、
    を含み、
    前記ペイロードサイズパラメータの値は可変ビット長を有し、
    前記ペイロードサイズパラメータの前記値は、整数のバイト数を備える可変長要素に格納され、
    前記可変長要素は、当該可変長要素が一以上の追加のバイトを含むか否かを示すように構成された一以上の予め設定されたビットを有する少なくとも一つの所与のバイトを含み、前記一以上の追加のバイトは前記少なくとも一の所与のバイトに追加されている、前記方法。
  2. 前記フォーマットサイズは前記実サイズと同一である、請求項1に記載の方法。
  3. 前記フォーマットサイズは前記実サイズと異なる、請求項1に記載の方法。
  4. 前記メッセージタイプパラメータによって指定される前記メッセージタイプが、前記構成メッセージがどのように処理されるべきかを示す、請求項1~3のいずれかに記載の方法。
  5. 前記構成メッセージが、整数バイト長である、請求項1~4のいずれかに記載の方法。
  6. 前記ペイロード部の前記実サイズが、整数バイトである、請求項1~5のいずれかに記載の方法。
  7. 前記ヘッダ部が、前記メッセージタイプパラメータ及び前記ペイロードサイズパラメータのみを含む、請求項1~6のいずれかに記載の方法。
  8. 請求項1~7のいずれかに記載の方法を実行するように構成される、装置。
  9. 実行時に、装置に請求項1~7のいずれかに記載の方法を実行させる命令を含む、コンピュータプログラム。
  10. 請求項9に記載のコンピュータプログラムを備える、コンピュータ可読媒体。
JP2021524323A 2018-10-31 2019-10-30 スケーラブルビデオ符号化及び伝送のための方法、装置、コンピュータプログラム、及びコンピュータ可読媒体 Active JP7421552B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
GBGB1817781.6A GB201817781D0 (en) 2018-10-31 2018-10-31 Mehods, apparatuses, computer programs and computer-readable media
GB1817781.6 2018-10-31
PCT/GB2019/053067 WO2020089615A1 (en) 2018-10-31 2019-10-30 Methods, apparatuses, computer programs and computer-readable media for scalable video coding and transmission

Publications (3)

Publication Number Publication Date
JP2022507027A JP2022507027A (ja) 2022-01-18
JPWO2020089615A5 JPWO2020089615A5 (ja) 2022-11-09
JP7421552B2 true JP7421552B2 (ja) 2024-01-24

Family

ID=64655663

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021524323A Active JP7421552B2 (ja) 2018-10-31 2019-10-30 スケーラブルビデオ符号化及び伝送のための方法、装置、コンピュータプログラム、及びコンピュータ可読媒体

Country Status (12)

Country Link
US (2) US11496757B2 (ja)
EP (1) EP3874752A1 (ja)
JP (1) JP7421552B2 (ja)
KR (1) KR20210146879A (ja)
CN (1) CN113228662A (ja)
AU (1) AU2019370804B2 (ja)
BR (1) BR112021008173A2 (ja)
CA (1) CA3118185A1 (ja)
EA (1) EA202191197A1 (ja)
GB (1) GB201817781D0 (ja)
MX (1) MX2021005065A (ja)
WO (1) WO2020089615A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB202205928D0 (en) 2022-04-22 2022-06-08 V Nova Int Ltd Methods, bitstreams, apparatuses, computer programs and computer-readable media

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010014123A1 (en) 2008-07-26 2010-02-04 Thomson Licensing A real-time transport protocol (rtp) packetization method for fast channel change applications using scalable video coding (svc)
US20150264404A1 (en) 2014-03-17 2015-09-17 Nokia Technologies Oy Method and apparatus for video coding and decoding
US20150304665A1 (en) 2014-01-07 2015-10-22 Nokia Corporation Method and apparatus for video coding and decoding
EP3131296A1 (en) 2015-08-13 2017-02-15 Thomson Licensing Color remapping information payload size compression

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6873797B2 (en) * 2001-01-30 2005-03-29 The Regents Of The University Of California Optical layer multicasting
US8331313B2 (en) * 2006-06-14 2012-12-11 Interdigital Technology Corporation Efficient media independent handover protocol operation enhancements
CN101543018B (zh) * 2007-01-12 2012-12-26 庆熙大学校产学协力团 网络提取层单元的分组格式、使用该格式的视频编解码算法和装置以及使用该格式进行IPv6标签交换的QoS控制算法和装置
JP2012044625A (ja) * 2010-08-23 2012-03-01 Sony Corp 立体画像データ送信装置、立体画像データ送信方法、立体画像データ受信装置および立体画像データ受信方法
TWI606718B (zh) * 2012-01-03 2017-11-21 杜比實驗室特許公司 規定視覺動態範圍編碼操作及參數
KR101893833B1 (ko) * 2012-02-01 2018-09-03 삼성전자주식회사 방송 시스템에서 패킷 송수신 방법 및 장치
KR102162119B1 (ko) * 2012-06-29 2020-10-06 지이 비디오 컴프레션, 엘엘씨 비디오 데이터 스트림 개념
CN103780954B (zh) * 2012-10-22 2017-05-10 上海贝尔股份有限公司 一种组合使用流媒体裁剪技术和显性拥塞通知技术的方法
US9723091B1 (en) * 2012-11-09 2017-08-01 Noble Systems Corporation Variable length protocol using serialized payload with compression support
KR20230080500A (ko) * 2013-01-04 2023-06-07 지이 비디오 컴프레션, 엘엘씨 효율적인 확장가능한 코딩 개념
US20160065980A1 (en) * 2013-04-05 2016-03-03 Samsung Electronics Co., Ltd. Video stream encoding method according to a layer identifier expansion and an apparatus thereof, and a video stream decoding method according to a layer identifier expansion and an apparatus thereof
US9832353B2 (en) * 2014-01-31 2017-11-28 Digimarc Corporation Methods for encoding, decoding and interpreting auxiliary data in media signals
US10645404B2 (en) * 2014-03-24 2020-05-05 Qualcomm Incorporated Generic use of HEVC SEI messages for multi-layer codecs
WO2016204481A1 (ko) * 2015-06-16 2016-12-22 엘지전자 주식회사 미디어 데이터 전송 장치, 미디어 데이터 수신 장치, 미디어 데이터 전송 방법, 및 미디어 데이터 수신 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010014123A1 (en) 2008-07-26 2010-02-04 Thomson Licensing A real-time transport protocol (rtp) packetization method for fast channel change applications using scalable video coding (svc)
US20150304665A1 (en) 2014-01-07 2015-10-22 Nokia Corporation Method and apparatus for video coding and decoding
US20150264404A1 (en) 2014-03-17 2015-09-17 Nokia Technologies Oy Method and apparatus for video coding and decoding
EP3131296A1 (en) 2015-08-13 2017-02-15 Thomson Licensing Color remapping information payload size compression

Also Published As

Publication number Publication date
US20230232024A1 (en) 2023-07-20
BR112021008173A2 (pt) 2021-08-03
JP2022507027A (ja) 2022-01-18
AU2019370804B2 (en) 2023-08-03
WO2020089615A1 (en) 2020-05-07
US11496757B2 (en) 2022-11-08
EA202191197A1 (ru) 2021-07-26
KR20210146879A (ko) 2021-12-06
EP3874752A1 (en) 2021-09-08
MX2021005065A (es) 2021-07-02
GB201817781D0 (en) 2018-12-19
AU2019370804A1 (en) 2021-06-10
US11889093B2 (en) 2024-01-30
CA3118185A1 (en) 2020-05-07
CN113228662A (zh) 2021-08-06
US20210409735A1 (en) 2021-12-30

Similar Documents

Publication Publication Date Title
US12003742B2 (en) Methods, apparatuses, computer programs and computer-readable media for scalable image coding
KR20210080607A (ko) 생성된 콘텐츠를 포함하는 미디어 데이터를 인코딩하기 위한 방법 및 장치
US20240048738A1 (en) Methods, apparatuses, computer programs and computer-readable media for processing configuration data
US11889093B2 (en) Methods, apparatuses, computer programs and computer-readable media for scalable video coding and transmission
CN115398481A (zh) 对图像执行人工智能编码和人工智能解码的设备和方法
US11831886B2 (en) Methods, apparatuses, computer programs and computer-readable media for processing configuration data
EA045133B1 (ru) Способ, устройство и машиночитаемый носитель, содержащий компьютерную программу для формирования конфигурационного сообщения для обеспечения возможности декодеру восстанавливать первое представление изображения с первым уровнем качества с помощью данных конфигурации
WO2023203353A1 (en) Methods, bitstreams, apparatuses, computer programs and computer-readable media
EA047124B1 (ru) Способ, устройство и машиночитаемый носитель, содержащий команды обработки информации о конфигурации для обработки остаточных данных при обработке изображений
JP2023550940A (ja) クライアントデバイス上でビデオストリームを復号化すること
KR20220162691A (ko) 비디오 디코딩 에러를 식별하기 위한 방법 및 장치
JPWO2020089615A5 (ja)

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221031

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230912

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231206

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240112

R150 Certificate of patent or registration of utility model

Ref document number: 7421552

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150