JP7441798B2 - 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置 - Google Patents

三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置 Download PDF

Info

Publication number
JP7441798B2
JP7441798B2 JP2020562447A JP2020562447A JP7441798B2 JP 7441798 B2 JP7441798 B2 JP 7441798B2 JP 2020562447 A JP2020562447 A JP 2020562447A JP 2020562447 A JP2020562447 A JP 2020562447A JP 7441798 B2 JP7441798 B2 JP 7441798B2
Authority
JP
Japan
Prior art keywords
information
attribute
data
encoding
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020562447A
Other languages
English (en)
Other versions
JPWO2020138353A1 (ja
Inventor
賀敬 井口
敏康 杉尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Corp of America
Original Assignee
Panasonic Intellectual Property Corp of America
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Corp of America filed Critical Panasonic Intellectual Property Corp of America
Publication of JPWO2020138353A1 publication Critical patent/JPWO2020138353A1/ja
Priority to JP2024023111A priority Critical patent/JP2024050956A/ja
Application granted granted Critical
Publication of JP7441798B2 publication Critical patent/JP7441798B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/001Model-based coding, e.g. wire frame
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/40Tree coding, e.g. quadtree, octree
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Image Processing (AREA)

Description

本開示は、三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置に関する。
自動車或いはロボットが自律的に動作するためのコンピュータビジョン、マップ情報、監視、インフラ点検、又は、映像配信など、幅広い分野において、今後、三次元データを活用した装置又はサービスの普及が見込まれる。三次元データは、レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組み合わせなど様々な方法で取得される。
三次元データの表現方法の1つとして、三次元空間内の点群によって三次元構造の形状を表すポイントクラウドと呼ばれる表現方法がある。ポイントクラウドでは、点群の位置と色とが格納される。ポイントクラウドは三次元データの表現方法として主流になると予想されるが、点群はデータ量が非常に大きい。よって、三次元データの蓄積又は伝送においては二次元の動画像(一例として、MPEGで規格化されたMPEG-4 AVC又はHEVCなどがある)と同様に、符号化によるデータ量の圧縮が必須となる。
また、ポイントクラウドの圧縮については、ポイントクラウド関連の処理を行う公開のライブラリ(Point Cloud Library)などによって一部サポートされている。
また、三次元の地図データを用いて、車両周辺に位置する施設を検索し、表示する技術が知られている(例えば、特許文献1参照)。
国際公開第2014/020663号
三次元データの符号化処理及び復号処理では、三次元点の属性情報を正しく復号することができることが望まれている。
本開示は、三次元点の属性情報を正しく復号することができる三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、又は三次元データ復号装置を提供することを目的とする。
本開示の一態様に係る三次元データ符号化方法は、パラメータを用いて複数の三次元点のそれぞれが有する複数の属性情報を符号化し、符号化された前記複数の属性情報、制御情報、および、複数の第1属性制御情報を含むビットストリームを生成し、前記制御情報は、前記複数の属性情報に対応し、それぞれが互いに異なる属性情報の種類を示す複数の種類情報を含み、前記複数の第1属性制御情報は、前記複数の属性情報にそれぞれ対応し、前記複数の第1属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第1識別情報を含む。
本開示の一態様に係る三次元データ復号方法は、ビットストリームを取得することで符号化された複数の属性情報、および、パラメータを取得し、前記パラメータを用いて前記符号化された複数の属性情報を復号することで、複数の三次元点のそれぞれが有する複数の属性情報を復号し、前記ビットストリームは、制御情報および複数の第1属性制御情報を含み、前記制御情報は、前記複数の属性情報に対応し、それぞれが互いに異なる属性情報の種類を示す複数の種類情報を含み、前記複数の第1属性制御情報は、前記複数の属性情報にそれぞれ対応し、前記複数の第1属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第1識別情報を含む。
本開示は、三次元点の属性情報を正しく復号することができる三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、又は三次元データ復号装置を提供できる。
図1は、実施の形態1に係る三次元データ符号化復号システムの構成を示す図である。 図2は、実施の形態1に係る点群データの構成例を示す図である。 図3は、実施の形態1に係る点群データ情報が記述されたデータファイルの構成例を示す図である。 図4は、実施の形態1に係る点群データの種類を示す図である。 図5は、実施の形態1に係る第1の符号化部の構成を示す図である。 図6は、実施の形態1に係る第1の符号化部のブロック図である。 図7は、実施の形態1に係る第1の復号部の構成を示す図である。 図8は、実施の形態1に係る第1の復号部のブロック図である。 図9は、実施の形態1に係る第2の符号化部の構成を示す図である。 図10は、実施の形態1に係る第2の符号化部のブロック図である。 図11は、実施の形態1に係る第2の復号部の構成を示す図である。 図12は、実施の形態1に係る第2の復号部のブロック図である。 図13は、実施の形態1に係るPCC符号化データに関わるプロトコルスタックを示す図である。 図14は、実施の形態1に係る符号化部のブロック図である。 図15は、実施の形態1に係る復号部のブロック図である。 図16は、実施の形態1に係る符号化処理のフローチャートである。 図17は、実施の形態1に係る復号処理のフローチャートである。 図18は、実施の形態2に係るISOBMFFの基本構造を示す図である。 図19は、実施の形態2に係るプロトコルスタックを示す図である。 図20は、実施の形態2に係るNALユニットをコーデック1用のファイルに格納する例を示す図である。 図21は、実施の形態2に係るNALユニットをコーデック2用のファイルに格納する例を示す図である。 図22は、実施の形態2に係る第1の多重化部の構成を示す図である。 図23は、実施の形態2に係る第1の逆多重化部の構成を示す図である。 図24は、実施の形態2に係る第2の多重化部の構成を示す図である。 図25は、実施の形態2に係る第2の逆多重化部の構成を示す図である。 図26は、実施の形態2に係る第1の多重化部による処理のフローチャートである。 図27は、実施の形態2に係る第2の多重化部による処理のフローチャートである。 図28は、実施の形態2に係る第1の逆多重化部及び第1の復号部による処理のフローチャートである。 図29は、実施の形態2に係る第2の逆多重化部及び第2の復号部による処理のフローチャートである。 図30は、実施の形態3に係る符号化部及び第3の多重化部の構成を示す図である。 図31は、実施の形態3に係る第3の逆多重化部及び復号部の構成を示す図である。 図32は、実施の形態3に係る第3の多重化部による処理のフローチャートである。 図33は、実施の形態3に係る第3の逆多重化部及び復号部による処理のフローチャートである。 図34は、実施の形態3に係る三次元データ格納装置による処理のフローチャートである。 図35は、実施の形態3に係る三次元データ取得装置による処理のフローチャートである。 図36は、実施の形態4に係る符号化部及び多重化部の構成を示す図である。 図37は、実施の形態4に係る符号化データの構成例を示す図である。 図38は、実施の形態4に係る符号化データ及びNALユニットの構成例を示す図である。 図39は、実施の形態4に係るpcc_nal_unit_typeのセマンティクス例を示す図である。 図40は、実施の形態4に係るNALユニットの送出順序の例を示す図である。 図41は、実施の形態4に係る三次元データ符号化装置による処理のフローチャートである。 図42は、実施の形態4に係る三次元データ復号装置による処理のフローチャートである。 図43は、実施の形態4に係る多重化処理のフローチャートである。 図44は、実施の形態4に係る逆多重化処理のフローチャートである。 図45は、実施の形態4に係る三次元データ符号化装置による処理のフローチャートである。 図46は、実施の形態4に係る三次元データ復号装置による処理のフローチャートである。 図47は、実施の形態5に係る分割部のブロック図である。 図48は、実施の形態5に係るスライス及びタイルの分割例を示す図である。 図49は、実施の形態5に係るスライス及びタイルの分割パターンの例を示す図である。 図50は、実施の形態6に係る第1の符号化部のブロック図である。 図51は、実施の形態6に係る第1の復号部のブロック図である。 図52は、実施の形態6に係るタイルの形状の例を示す図である。 図53は、実施の形態6に係るタイル及びスライスの例を示す図である。 図54は、実施の形態6に係る分割部のブロック図である。 図55は、実施の形態6に係る点群データを上面視した地図の例を示す図である。 図56は、実施の形態6に係るタイル分割の例を示す図である。 図57は、実施の形態6に係るタイル分割の例を示す図である。 図58は、実施の形態6に係るタイル分割の例を示す図である。 図59は、実施の形態6に係るサーバに保存されるタイルのデータの例を示す図である。 図60は、実施の形態6に係るタイル分割に関するシステムを示す図である。 図61は、実施の形態6に係るスライス分割の例を示す図である。 図62は、実施の形態6に係る依存関係の例を示す図である。 図63は、実施の形態6に係るデータの復号順の例を示す図である。 図64は、実施の形態6に係るタイルの符号化データの例を示す図である。 図65は、実施の形態6に係る結合部のブロック図である。 図66は、実施の形態6に係る符号化データ及びNALユニットの構成例を示す図である。 図67は、実施の形態6に係る符号化処理のフローチャートである。 図68は、実施の形態6に係る復号処理のフローチャートである。 図69は、実施の形態6に係るタイル付加情報のシンタックス例を示す図である。 図70は、実施の形態6に係る符号化復号システムのブロック図である。 図71は、実施の形態6に係るスライス付加情報のシンタックス例を示す図である。 図72は、実施の形態6に係る符号化処理のフローチャートである。 図73は、実施の形態6に係る復号処理のフローチャートである。 図74は、実施の形態6に係る符号化処理のフローチャートである。 図75は、実施の形態6に係る復号処理のフローチャートである。 図76は、実施の形態7に係る符号化時または復号時において、CABAC初期化フラグに応じて、CABAC符号化/復号エンジンの再初期化の処理を示すフローチャートである。 図77は、実施の形態7に係る三次元データ符号化装置に含まれる第1の符号化部の構成を示すブロック図である。 図78は、実施の形態7に係る分割部の構成を示すブロック図である。 図79は、実施の形態7に係る位置情報符号化部および属性情報符号化部の構成を示すブロック図である。 図80は、実施の形態7に係る第1の復号部の構成を示すブロック図である。 図81は、実施の形態7に係る位置情報復号部および属性情報復号部の構成を示すブロック図である。 図82は、実施の形態7に係る位置情報の符号化あるいは属性情報の符号化におけるCABACの初期化に関する処理の一例を示すフローチャートである。 図83は、実施の形態7に係るビットストリームとした点群データにおいてCABAC初期化のタイミングの一例を示す図である。 図84は、実施の形態7に係る符号化データの構成及び符号化データのNALユニットへの格納方法を示す図である。 図85は、実施の形態7に係る位置情報の復号あるいは属性情報の復号におけるCABACの初期化に関する処理の一例を示すフローチャートである。 図86は、実施の形態7に係る点群データの符号化処理のフローチャートである。 図87は、実施の形態7に係る付加情報を更新する処理の一例を示すフローチャートである。 図88は、実施の形態7に係るCABAC初期化する処理の一例を示すフローチャートである。 図89は、実施の形態7に係る点群データの復号処理のフローチャートである。 図90は、実施の形態7に係るCABAC復号部を初期化する処理の一例を示すフローチャートである。 図91は、実施の形態7に係るタイルおよびスライスの例を示す図である。 図92は、実施の形態7に係るCABACの初期化およびコンテキスト初期値の決定方法の一例を示すフローチャートである。 図93は、実施の形態7に係るLiDARで得られた点群データを上面視した地図をタイルに分割した場合の例を示す図である。 図94は、実施の形態7に係るCABAC初期化およびコンテキスト初期値の決定方法の他の一例を示すフローチャートである。 図95は、実施の形態8に係る量子化部、および、逆量子化部の処理について説明するための図である。 図96は、実施の形態8に係る量子化値のデフォルト値と量子化デルタとを説明するための図である。 図97は、実施の形態8に係る三次元データ符号化装置に含まれる第1の符号化部の構成を示すブロック図である。 図98は、実施の形態8に係る分割部の構成を示すブロック図である。 図99は、実施の形態8に係る位置情報符号化部および属性情報符号化部の構成を示すブロック図である。 図100は、実施の形態8に係る第1の復号部の構成を示すブロック図である。 図101は、実施の形態8に係る位置情報復号部および属性情報復号部の構成を示すブロック図である。 図102は、実施の形態8に係る位置情報の符号化あるいは属性情報の符号化における量子化値の決定に関する処理の一例を示すフローチャートである。 図103は、実施の形態8に係る位置情報および属性情報の復号処理の一例を示すフローチャートである。 図104は、実施の形態8に係る量子化パラメータの伝送方法の第1の例について説明するための図である。 図105は、実施の形態8に係る量子化パラメータの伝送方法の第2の例について説明するための図である。 図106は、実施の形態8に係る量子化パラメータの伝送方法の第3の例について説明するための図である。 図107は、実施の形態8に係る点群データの符号化処理のフローチャートである。 図108は、実施の形態8に係るQP値を決定し、付加情報を更新する処理の一例を示すフローチャートである。 図109は、実施の形態8に係る決定されたQP値を符号化する処理の一例を示すフローチャートである。 図110は、実施の形態8に係る点群データの復号処理のフローチャートである。 図111は、実施の形態8に係るQP値を取得して、スライスまたはタイルのQP値を復号する処理の一例を示すフローチャートである。 図112は、実施の形態8に係るGPSのシンタックス例を示す図である。 図113は、実施の形態8に係るAPSのシンタックス例を示す図である。 図114は、実施の形態8に係る位置情報のヘッダのシンタックス例を示す図である。 図115は、実施の形態8に係る属性情報のヘッダのシンタックス例を示す図である。 図116は、実施の形態8に係る量子化パラメータの伝送方法の他の例について説明するための図である。 図117は、実施の形態8に係る量子化パラメータの伝送方法の他の例について説明するための図である。 図118は、実施の形態8に係る量子化パラメータの伝送方法の第9の例について説明するための図である。 図119は、実施の形態8に係るQP値の制御例を説明するための図である。 図120は、実施の形態8に係るオブジェクトの品質に基づくQP値の決定方法の一例を示すフローチャートである。 図121は、実施の形態8に係るレート制御に基づくQP値の決定方法の一例を示すフローチャートである。 図122は、実施の形態8に係る符号化処理のフローチャートである。 図123は、実施の形態8に係る復号処理のフローチャートである。 図124は、実施の形態9に係る量子化パラメータの伝送方法の一例について説明するための図である。 図125は、実施の形態9に係るAPSのシンタックス、および、属性情報のヘッダのシンタックスの第1の例を示す図である。 図126は、実施の形態9に係るAPSのシンタックスの第2の例を示す図である。 図127は、実施の形態9に係る属性情報のヘッダのシンタックスの第2の例を示す図である。 図128は、実施の形態9に係るSPS、APSおよび属性情報のヘッダの関係を示す図である。 図129は、実施の形態9に係る符号化処理のフローチャートである。 図130は、実施の形態9に係る復号処理のフローチャートである。
本開示の一態様に係る三次元データ符号化方法は、パラメータを用いて複数の三次元点のそれぞれが有する複数の属性情報を符号化し、符号化された前記複数の属性情報、制御情報、および、複数の第1属性制御情報を含むビットストリームを生成し、前記制御情報は、前記複数の属性情報に対応し、それぞれが互いに異なる属性情報の種類を示す複数の種類情報を含み、前記複数の第1属性制御情報は、前記複数の属性情報にそれぞれ対応し、前記複数の第1属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第1識別情報を含む。
これによれば、第1属性制御情報が対応している属性情報の種類を特定するための第1識別情報を含むビットストリームを生成するため、当該ビットストリームを受信した三次元データ復号装置は、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記複数の種類情報は、前記制御情報において、所定の順序で格納されており、前記第1識別情報は、当該第1識別情報を含む第1属性制御情報が前記所定の順序のうちの一つの順番の種類情報に対応付けられていることを示してもよい。
これによれば、種類情報を示す情報を付加しなくても種類情報が所定の順序で示されるため、ビットストリームのデータ量を削減することができ、ビットストリームの伝送量を削減することができる。
例えば、前記ビットストリームは、さらに、前記複数の属性情報に対応する複数の第2属性制御情報を含み、前記複数の第2属性制御情報のそれぞれは、対応する前記属性情報の符号化に用いられるパラメータの基準値を含んでもよい。
これによれば、複数の第2属性制御情報のそれぞれは、パラメータの基準値を含むため、基準値を用いて、当該第2属性制御情報が対応する属性情報を符号化することができる。
例えば、前記第1属性制御情報は、前記パラメータの前記基準値からの差分である差分情報を含んでもよい。
このため、符号化効率を向上できる。
例えば、前記ビットストリームは、さらに、前記複数の属性情報に対応する複数の第2属性制御情報を含み、前記複数の第2属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第2識別情報を有してもよい。
これによれば、第2属性制御情報が対応している属性情報の種類を特定するための第2識別情報を含むビットストリームを生成するため、三次元点の属性情報を正しくかつ効率よく復号することができるビットストリームを生成することができる。
例えば、前記複数の第1属性制御情報のそれぞれは、N個(Nは2以上)のパラメータが格納される前記N個のフィールドを有し、前記複数の第1属性制御情報のうちの特定の種類の属性に対応する特定の第1属性制御情報では、前記N個のフィールドの一つのフィールドは、無効であることを示す値を含んでもよい。
このため、ビットストリームを受信した三次元データ復号装置は、第1識別情報を用いて、第1属性情報の種類を特定し、特定の第1属性制御情報の場合に復号処理を省くことができるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記符号化では、前記パラメータとしての量子化パラメータを用いて前記複数の属性情報を量子化してもよい。
これによれば、パラメータを基準値からの差分を用いて表すため、量子化にかかる符号化効率を向上できる。
また、本開示の一態様に係る三次元データ復号方法は、ビットストリームを取得することで符号化された複数の属性情報、および、パラメータを取得し、前記パラメータを用いて前記符号化された複数の属性情報を復号することで、複数の三次元点のそれぞれが有する複数の属性情報を復号し、前記ビットストリームは、制御情報および複数の第1属性制御情報を含み、前記制御情報は、前記複数の属性情報に対応し、それぞれが互いに異なる属性情報の種類を示す複数の種類情報を含み、前記複数の第1属性制御情報は、前記複数の属性情報にそれぞれ対応し、前記複数の第1属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第1識別情報を含む。
これによれば、第1識別情報を用いて、第1属性制御情報が対応している属性情報の種類を特定することができるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記複数の種類情報は、前記制御情報において、所定の順序で格納されており、前記第1識別情報は、当該第1識別情報を含む第1属性制御情報が前記所定の順序のうちの一つの順番の種類情報に対応付けられていることを示してもよい。
これによれば、種類情報を示す情報を付加しなくても種類情報が所定の順序で示されるため、ビットストリームのデータ量を削減することができ、ビットストリームの伝送量を削減することができる。
例えば、前記ビットストリームは、さらに、前記複数の属性情報に対応する複数の第2属性制御情報を含み、前記複数の第2属性制御情報のそれぞれは、対応する前記属性情報の符号化に用いられるパラメータの基準値を含んでもよい。
これによれば、基準値を用いて、第2属性制御情報が対応する属性情報を復号することができるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記第1属性制御情報は、前記パラメータの前記基準値からの差分である差分情報を含んでもよい。
これによれば、基準値および差分情報を用いて属性情報を復号できるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記ビットストリームは、さらに、前記複数の属性情報に対応する複数の第2属性制御情報を含み、前記複数の第2属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第2識別情報を有してもよい。
これによれば、第2識別情報を用いて、第2属性制御情報が対応している属性情報の種類を特定することができるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記複数の第1属性制御情報のそれぞれは、複数のパラメータが格納される複数のフィールドを有し、前記復号では、前記複数の第1属性制御情報のうちの特定の種類の属性に対応する特定の第1属性制御情報の前記複数のフィールドのうちの特定のフィールドに格納されるパラメータを無視してもよい。
これによれば、第1識別情報を用いて、第1属性情報の種類を特定し、特定の第1属性制御情報の場合に復号処理を省くことができるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記復号では、前記パラメータとしての量子化パラメータを用いて前記符号化された複数の属性情報を逆量子化してもよい。
これによれば、三次元点の属性情報を正しく復号することができる。
また、本開示の一態様に係る三次元データ符号化装置は、プロセッサと、メモリとを備え、前記プロセッサは、前記メモリを用いて、パラメータを用いて複数の三次元点のそれぞれが有する複数の属性情報を符号化し、符号化された前記複数の属性情報、制御情報、および、複数の第1属性制御情報を含むビットストリームを生成し、前記制御情報は、前記複数の属性情報に対応し、それぞれが互いに異なる属性情報の種類を示す複数の種類情報を含み、前記複数の第1属性制御情報は、(i)前記複数の属性情報にそれぞれ対応し、(ii)前記複数の種類情報のいずれかに対応付けられていることを示す第1識別情報を含む。
これによれば、第1属性制御情報が対応している属性情報の種類を特定するための第1識別情報を含むビットストリームを生成するため、三次元点の属性情報を正しくかつ効率よく復号することができるビットストリームを生成することができる。
また、本開示の一態様に係る三次元データ復号装置は、プロセッサと、メモリとを備え、前記プロセッサは、前記メモリを用いて、ビットストリームを取得することで符号化された複数の属性情報、および、パラメータを取得し、前記パラメータを用いて前記符号化された複数の属性情報を復号することで、複数の三次元点のそれぞれが有する複数の属性情報を復号し、前記ビットストリームは、制御情報および複数の第1属性制御情報を含み、前記制御情報は、前記複数の属性情報に対応し、それぞれが互いに異なる属性情報の種類を示す複数の種類情報を含み、前記複数の第1属性制御情報は、(i)前記複数の属性情報にそれぞれ対応し、(ii)前記複数の種類情報のいずれかに対応付けられていることを示す第1識別情報を含む。
これによれば、第1識別情報を用いて、第1属性制御情報が対応している属性情報の種類を特定することができるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD-ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
(実施の形態1)
ポイントクラウドの符号化データを実際の装置又はサービスにおいて使用する際には、ネットワーク帯域を抑制するために用途に応じて必要な情報を送受信することが望ましい。しかしながら、これまで、三次元データの符号化構造にはそのような機能が存在せず、そのための符号化方法も存在しなかった。
本実施の形態では、三次元のポイントクラウドの符号化データにおいて用途に応じて必要な情報を送受信する機能を提供するための三次元データ符号化方法及び三次元データ符号化装置、並びに、当該符号化データを復号する三次元データ復号方法及び三次元データ復号装置、並びに、当該符号化データを多重化する三次元データ多重化方法、並びに、当該符号化データを伝送する三次元データ伝送方法について説明する。
特に、現在、点群データの符号化方法(符号化方式)として第1の符号化方法、及び第2の符号化方法が検討されているが、符号化データの構成、及び符号化データをシステムフォーマットへ格納する方法が定義されておらず、このままでは符号化部におけるMUX処理(多重化)、又は、伝送或いは蓄積ができないという課題がある。
また、PCC(Point Cloud Compression)のように、第1の符号化方法と第2の符号化方法の2つのコーデックが混在するフォーマットをサポートする方法はこれまで存在しない。
本実施の形態では、第1の符号化方法と第2の符号化方法の2つのコーデックが混在するPCC符号化データの構成、及び符号化データをシステムフォーマットへ格納する方法について説明する。
まず、本実施の形態に係る三次元データ(点群データ)符号化復号システムの構成を説明する。図1は、本実施の形態に係る三次元データ符号化復号システムの構成例を示す図である。図1に示すように、三次元データ符号化復号システムは、三次元データ符号化システム4601と、三次元データ復号システム4602と、センサ端末4603と、外部接続部4604とを含む。
三次元データ符号化システム4601は、三次元データである点群データを符号化することで符号化データ又は多重化データを生成する。なお、三次元データ符号化システム4601は、単一の装置により実現される三次元データ符号化装置であってもよいし、複数の装置により実現されるシステムであってもよい。また、三次元データ符号化装置は、三次元データ符号化システム4601に含まれる複数の処理部のうち一部を含んでもよい。
三次元データ符号化システム4601は、点群データ生成システム4611と、提示部4612と、符号化部4613と、多重化部4614と、入出力部4615と、制御部4616とを含む。点群データ生成システム4611は、センサ情報取得部4617と、点群データ生成部4618とを含む。
センサ情報取得部4617は、センサ端末4603からセンサ情報を取得し、センサ情報を点群データ生成部4618に出力する。点群データ生成部4618は、センサ情報から点群データを生成し、点群データを符号化部4613へ出力する。
提示部4612は、センサ情報又は点群データをユーザに提示する。例えば、提示部4612は、センサ情報又は点群データに基づく情報又は画像を表示する。
符号化部4613は、点群データを符号化(圧縮)し、得られた符号化データと、符号化過程において得られた制御情報と、その他の付加情報とを多重化部4614へ出力する。付加情報は、例えば、センサ情報を含む。
多重化部4614は、符号化部4613から入力された符号化データと、制御情報と、付加情報とを多重することで多重化データを生成する。多重化データのフォーマットは、例えば蓄積のためのファイルフォーマット、又は伝送のためのパケットフォーマットである。
入出力部4615(例えば、通信部又はインタフェース)は、多重化データを外部へ出力する。または、多重化データは、内部メモリ等の蓄積部に蓄積される。制御部4616(またはアプリ実行部)は、各処理部を制御する。つまり、制御部4616は、符号化及び多重化等の制御を行う。
なお、センサ情報が符号化部4613又は多重化部4614へ入力されてもよい。また、入出力部4615は、点群データ又は符号化データをそのまま外部へ出力してもよい。
三次元データ符号化システム4601から出力された伝送信号(多重化データ)は、外部接続部4604を介して、三次元データ復号システム4602に入力される。
三次元データ復号システム4602は、符号化データ又は多重化データを復号することで三次元データである点群データを生成する。なお、三次元データ復号システム4602は、単一の装置により実現される三次元データ復号装置であってもよいし、複数の装置により実現されるシステムであってもよい。また、三次元データ復号装置は、三次元データ復号システム4602に含まれる複数の処理部のうち一部を含んでもよい。
三次元データ復号システム4602は、センサ情報取得部4621と、入出力部4622と、逆多重化部4623と、復号部4624と、提示部4625と、ユーザインタフェース4626と、制御部4627とを含む。
センサ情報取得部4621は、センサ端末4603からセンサ情報を取得する。
入出力部4622は、伝送信号を取得し、伝送信号から多重化データ(ファイルフォーマット又はパケット)を復号し、多重化データを逆多重化部4623へ出力する。
逆多重化部4623は、多重化データから符号化データ、制御情報及び付加情報を取得し、符号化データ、制御情報及び付加情報を復号部4624へ出力する。
復号部4624は、符号化データを復号することで点群データを再構成する。
提示部4625は、点群データをユーザに提示する。例えば、提示部4625は、点群データに基づく情報又は画像を表示する。ユーザインタフェース4626は、ユーザの操作に基づく指示を取得する。制御部4627(またはアプリ実行部)は、各処理部を制御する。つまり、制御部4627は、逆多重化、復号及び提示等の制御を行う。
なお、入出力部4622は、点群データ又は符号化データをそのまま外部から取得してもよい。また、提示部4625は、センサ情報などの付加情報を取得し、付加情報に基づいた情報を提示してもよい。また、提示部4625は、ユーザインタフェース4626で取得されたユーザの指示に基づき、提示を行ってもよい。
センサ端末4603は、センサで得られた情報であるセンサ情報を生成する。センサ端末4603は、センサ又はカメラを搭載した端末であり、例えば、自動車などの移動体、飛行機などの飛行物体、携帯端末、又はカメラなどがある。
センサ端末4603で取得可能なセンサ情報は、例えば、(1)LIDAR、ミリ波レーダ、又は赤外線センサから得られる、センサ端末4603と対象物との距離、又は対象物の反射率、(2)複数の単眼カメラ画像又はステレオカメラ画像から得られるカメラと対象物との距離又は対象物の反射率等である。また、センサ情報は、センサの姿勢、向き、ジャイロ(角速度)、位置(GPS情報又は高度)、速度、又は加速度等を含んでもよい。また、センサ情報は、気温、気圧、湿度、又は磁気等を含んでもよい。
外部接続部4604は、集積回路(LSI又はIC)、外部蓄積部、インターネットを介したクラウドサーバとの通信、又は、放送等により実現される。
次に、点群データについて説明する。図2は、点群データの構成を示す図である。図3は、点群データの情報が記述されたデータファイルの構成例を示す図である。
点群データは、複数の点のデータを含む。各点のデータは、位置情報(三次元座標)、及びその位置情報に対する属性情報とを含む。この点が複数集まったものを点群と呼ぶ。例えば、点群は対象物(オブジェクト)の三次元形状を示す。
三次元座標等の位置情報(Position)をジオメトリ(geometry)と呼ぶこともある。また、各点のデータは、複数の属性種別の属性情報(attribute)を含んでもよい。属性種別は、例えば色又は反射率などである。
1つの位置情報に対して1つの属性情報が対応付けられてもよいし、1つの位置情報に対して複数の異なる属性種別を持つ属性情報が対応付けられてもよい。また、1つの位置情報に対して同じ属性種別の属性情報が複数対応付けられてもよい。
図3に示すデータファイルの構成例は、位置情報と属性情報とが1対1に対応する場合の例であり、点群データを構成するN個の点の位置情報と属性情報とを示している。
位置情報は、例えば、x、y、zの3軸の情報である。属性情報は、例えば、RGBの色情報である。代表的なデータファイルとしてplyファイルなどがある。
次に、点群データの種類について説明する。図4は、点群データの種類を示す図である。図4に示すように、点群データには、静的オブジェクトと、動的オブジェクトとがある。
静的オブジェクトは、任意の時間(ある時刻)の三次元点群データである。動的オブジェクトは、時間的に変化する三次元点群データである。以降、ある時刻の三次元点群データをPCCフレーム、又はフレームと呼ぶ。
オブジェクトは、通常の映像データのように、ある程度領域が制限されている点群であってもよいし、地図情報のように領域が制限されていない大規模点群であってもよい。
また、様々な密度の点群データがあり、疎な点群データと、密な点群データとが存在してもよい。
以下、各処理部の詳細について説明する。センサ情報は、LIDAR或いはレンジファインダなどの距離センサ、ステレオカメラ、又は、複数の単眼カメラの組合せなど様々な方法で取得される。点群データ生成部4618は、センサ情報取得部4617で得られたセンサ情報に基づき点群データを生成する。点群データ生成部4618は、点群データとして、位置情報を生成し、位置情報に、当該位置情報に対する属性情報を付加する。
点群データ生成部4618は、位置情報の生成又は属性情報の付加の際に、点群データを加工してもよい。例えば、点群データ生成部4618は、位置が重複する点群を削除することでデータ量を減らしてもよい。また、点群データ生成部4618は、位置情報を変換(位置シフト、回転又は正規化など)してもよいし、属性情報をレンダリングしてもよい。
なお、図1では、点群データ生成システム4611は、三次元データ符号化システム4601に含まれるが、三次元データ符号化システム4601の外部に独立して設けられてもよい。
符号化部4613は、点群データを予め規定された符号化方法に基づき符号化することで符号化データを生成する。符号化方法には大きく以下の2種類がある。一つ目は、位置情報を用いた符号化方法であり、この符号化方法を、以降、第1の符号化方法と記載する。二つ目は、ビデオコーデックを用いた符号化方法であり、この符号化方法を、以降、第2の符号化方法と記載する。
復号部4624は、符号化データを予め規定された符号化方法に基づき復号することで点群データを復号する。
多重化部4614は、符号化データを、既存の多重化方式を用いて多重化することで多重化データを生成する。生成された多重化データは、伝送又は蓄積される。多重化部4614は、PCC符号化データの他に、映像、音声、字幕、アプリケーション、ファイルなどの他のメディア、又は基準時刻情報を多重化する。また、多重化部4614は、さらに、センサ情報又は点群データに関連する属性情報を多重してもよい。
多重化方式又はファイルフォーマットとしては、ISOBMFF、ISOBMFFベースの伝送方式であるMPEG-DASH、MMT、MPEG-2 TS Systems、RMPなどがある。
逆多重化部4623は、多重化データからPCC符号化データ、その他のメディア、及び時刻情報などを抽出する。
入出力部4615は、多重化データを、放送又は通信など、伝送する媒体又は蓄積する媒体にあわせた方法を用いて伝送する。入出力部4615は、インターネット経由で他のデバイスと通信してもよいし、クラウドサーバなどの蓄積部と通信してもよい。
通信プロトコルとしては、http、ftp、TCP又はUDPなどが用いられる。PULL型の通信方式が用いられてもよいし、PUSH型の通信方式が用いられてもよい。
有線伝送及び無線伝送のいずれが用いられてもよい。有線伝送としては、Ethernet(登録商標)、USB、RS-232C、HDMI(登録商標)、又は同軸ケーブルなどが用いられる。無線伝送としては、無線LAN、Wi-Fi(登録商標)、Bluetooth(登録商標)又はミリ波などが用いられる。
また、放送方式としては、例えばDVB-T2、DVB-S2、DVB-C2、ATSC3.0、又はISDB-S3などが用いられる。
図5は、第1の符号化方法の符号化を行う符号化部4613の例である第1の符号化部4630の構成を示す図である。図6は、第1の符号化部4630のブロック図である。第1の符号化部4630は、点群データを第1の符号化方法で符号化することで符号化データ(符号化ストリーム)を生成する。この第1の符号化部4630は、位置情報符号化部4631と、属性情報符号化部4632と、付加情報符号化部4633と、多重化部4634とを含む。
第1の符号化部4630は、三次元構造を意識して符号化を行うという特徴を有する。また、第1の符号化部4630は、属性情報符号化部4632が、位置情報符号化部4631から得られる情報を用いて符号を行うという特徴を有する。第1の符号化方法は、GPCC(Geometry based PCC)とも呼ばれる。
点群データは、PLYファイルのようなPCC点群データ、又は、センサ情報から生成されたPCC点群データであり、位置情報(Position)、属性情報(Attribute)、及びその他の付加情報(MetaData)を含む。位置情報は位置情報符号化部4631に入力され、属性情報は属性情報符号化部4632に入力され、付加情報は付加情報符号化部4633に入力される。
位置情報符号化部4631は、位置情報を符号化することで符号化データである符号化位置情報(Compressed Geometry)を生成する。例えば、位置情報符号化部4631は、8分木等のN分木構造を用いて位置情報を符号化する。具体的には、8分木では、対象空間が8個のノード(サブ空間)に分割され、各ノードに点群が含まれるか否かを示す8ビットの情報(オキュパンシー符号)が生成される。また、点群が含まれるノードは、さらに、8個のノードに分割され、当該8個のノードの各々に点群が含まれるか否かを示す8ビットの情報が生成される。この処理が、予め定められた階層又はノードに含まれる点群の数の閾値以下になるまで繰り返される。
属性情報符号化部4632は、位置情報符号化部4631で生成された構成情報を用いて符号化することで符号化データである符号化属性情報(Compressed Attribute)を生成する。例えば、属性情報符号化部4632は、位置情報符号化部4631で生成された8分木構造に基づき、処理対象の対象点(対象ノード)の符号化において参照する参照点(参照ノード)を決定する。例えば、属性情報符号化部4632は、周辺ノード又は隣接ノードのうち、8分木における親ノードが対象ノードと同一のノードを参照する。なお、参照関係の決定方法はこれに限らない。
また、属性情報の符号化処理は、量子化処理、予測処理、及び算術符号化処理のうち少なくとも一つを含んでもよい。この場合、参照とは、属性情報の予測値の算出に参照ノードを用いること、又は、符号化のパラメータの決定に参照ノードの状態(例えば、参照ノードに点群が含まれる否かを示す占有情報)を用いること、である。例えば、符号化のパラメータとは、量子化処理における量子化パラメータ、又は算術符号化におけるコンテキスト等である。
付加情報符号化部4633は、付加情報のうち、圧縮可能なデータを符号化することで符号化データである符号化付加情報(Compressed MetaData)を生成する。
多重化部4634は、符号化位置情報、符号化属性情報、符号化付加情報及びその他の付加情報を多重化することで符号化データである符号化ストリーム(Compressed Stream)を生成する。生成された符号化ストリームは、図示しないシステムレイヤの処理部へ出力される。
次に、第1の符号化方法の復号を行う復号部4624の例である第1の復号部4640について説明する。図7は、第1の復号部4640の構成を示す図である。図8は、第1の復号部4640のブロック図である。第1の復号部4640は、第1の符号化方法で符号化された符号化データ(符号化ストリーム)を、第1の符号化方法で復号することで点群データを生成する。この第1の復号部4640は、逆多重化部4641と、位置情報復号部4642と、属性情報復号部4643と、付加情報復号部4644とを含む。
図示しないシステムレイヤの処理部から符号化データである符号化ストリーム(Compressed Stream)が第1の復号部4640に入力される。
逆多重化部4641は、符号化データから、符号化位置情報(Compressed Geometry)、符号化属性情報(Compressed Attribute)、符号化付加情報(Compressed MetaData)、及び、その他の付加情報を分離する。
位置情報復号部4642は、符号化位置情報を復号することで位置情報を生成する。例えば、位置情報復号部4642は、8分木等のN分木構造で表される符号化位置情報から三次元座標で表される点群の位置情報を復元する。
属性情報復号部4643は、位置情報復号部4642で生成された構成情報に基づき、符号化属性情報を復号する。例えば、属性情報復号部4643は、位置情報復号部4642で得られた8分木構造に基づき、処理対象の対象点(対象ノード)の復号において参照する参照点(参照ノード)を決定する。例えば、属性情報復号部4643は、周辺ノード又は隣接ノードのうち、8分木における親ノードが対象ノードと同一のノードを参照する。なお、参照関係の決定方法はこれに限らない。
また、属性情報の復号処理は、逆量子化処理、予測処理、及び算術復号処理のうち少なくとも一つを含んでもよい。この場合、参照とは、属性情報の予測値の算出に参照ノードを用いること、又は、復号のパラメータの決定に参照ノードの状態(例えば、参照ノードに点群が含まれる否かを示す占有情報)を用いること、である。例えば、復号のパラメータとは、逆量子化処理における量子化パラメータ、又は算術復号におけるコンテキスト等である。
付加情報復号部4644は、符号化付加情報を復号することで付加情報を生成する。また、第1の復号部4640は、位置情報及び属性情報の復号処理に必要な付加情報を復号時に使用し、アプリケーションに必要な付加情報を外部に出力する。
次に、第2の符号化方法の符号化を行う符号化部4613の例である第2の符号化部4650について説明する。図9は、第2の符号化部4650の構成を示す図である。図10は、第2の符号化部4650のブロック図である。
第2の符号化部4650は、点群データを第2の符号化方法で符号化することで符号化データ(符号化ストリーム)を生成する。この第2の符号化部4650は、付加情報生成部4651と、位置画像生成部4652と、属性画像生成部4653と、映像符号化部4654と、付加情報符号化部4655と、多重化部4656とを含む。
第2の符号化部4650は、三次元構造を二次元画像に投影することで位置画像及び属性画像を生成し、生成した位置画像及び属性画像を既存の映像符号化方式を用いて符号化するという特徴を有する。第2の符号化方法は、VPCC(Video based PCC)とも呼ばれる。
点群データは、PLYファイルのようなPCC点群データ、又は、センサ情報から生成されたPCC点群データであり、位置情報(Position)、属性情報(Attribute)、及びその他の付加情報MetaData)を含む。
付加情報生成部4651は、三次元構造を二次元画像に投影することで、複数の二次元画像のマップ情報を生成する。
位置画像生成部4652は、位置情報と、付加情報生成部4651で生成されたマップ情報とに基づき、位置画像(Geometry Image)を生成する。この位置画像は、例えば、画素値として距離(Depth)が示される距離画像である。なお、この距離画像は、一つの視点から複数の点群を見た画像(一つの二次元平面に複数の点群を投影した画像)であってもよいし、複数の視点から複数の点群を見た複数の画像であってもよいし、これらの複数の画像を統合した一つの画像であってもよい。
属性画像生成部4653は、属性情報と、付加情報生成部4651で生成されたマップ情報とに基づき、属性画像を生成する。この属性画像は、例えば、画素値として属性情報(例えば色(RGB))が示される画像である。なお、この画像は、一つの視点から複数の点群を見た画像(一つの二次元平面に複数の点群を投影した画像)であってもよいし、複数の視点から複数の点群を見た複数の画像であってもよいし、これらの複数の画像を統合した一つの画像であってもよい。
映像符号化部4654は、位置画像及び属性画像を、映像符号化方式を用いて符号化することで、符号化データである符号化位置画像(Compressed Geometry Image)及び符号化属性画像(Compressed Attribute Image)を生成する。なお、映像符号化方式として、公知の任意の符号化方法が用いられてよい。例えば、映像符号化方式は、AVC又はHEVC等である。
付加情報符号化部4655は、点群データに含まれる付加情報、及びマップ情報等を符号化することで符号化付加情報(Compressed MetaData)を生成する。
多重化部4656は、符号化位置画像、符号化属性画像、符号化付加情報、及び、その他の付加情報を多重化することで符号化データである符号化ストリーム(Compressed Stream)を生成する。生成された符号化ストリームは、図示しないシステムレイヤの処理部へ出力される。
次に、第2の符号化方法の復号を行う復号部4624の例である第2の復号部4660について説明する。図11は、第2の復号部4660の構成を示す図である。図12は、第2の復号部4660のブロック図である。第2の復号部4660は、第2の符号化方法で符号化された符号化データ(符号化ストリーム)を、第2の符号化方法で復号することで点群データを生成する。この第2の復号部4660は、逆多重化部4661と、映像復号部4662と、付加情報復号部4663と、位置情報生成部4664と、属性情報生成部4665とを含む。
図示しないシステムレイヤの処理部から符号化データである符号化ストリーム(Compressed Stream)が第2の復号部4660に入力される。
逆多重化部4661は、符号化データから、符号化位置画像(Compressed Geometry Image)、符号化属性画像(Compressed Attribute Image)、符号化付加情報(Compressed MetaData)、及び、その他の付加情報を分離する。
映像復号部4662は、符号化位置画像及び符号化属性画像を、映像符号化方式を用いて復号することで、位置画像及び属性画像を生成する。なお、映像符号化方式として、公知の任意の符号化方式が用いられてよい。例えば、映像符号化方式は、AVC又はHEVC等である。
付加情報復号部4663は、符号化付加情報を復号することで、マップ情報等を含む付加情報を生成する。
位置情報生成部4664は、位置画像とマップ情報とを用いて位置情報を生成する。属性情報生成部4665は、属性画像とマップ情報とを用いて属性情報を生成する。
第2の復号部4660は、復号に必要な付加情報を復号時に使用し、アプリケーションに必要な付加情報を外部に出力する。
以下、PCC符号化方式における課題を説明する。図13は、PCC符号化データに関わるプロトコルスタックを示す図である。図13には、PCC符号化データに、映像(例えばHEVC)又は音声などの他のメディアのデータを多重し、伝送又は蓄積する例を示す。
多重化方式及びファイルフォーマットは、様々な符号化データを多重し、伝送又は蓄積するための機能を有している。符号化データを伝送又は蓄積するためには、符号化データを多重化方式のフォーマットに変換しなければならない。例えば、HEVCでは、NALユニットと呼ばれるデータ構造に符号化データを格納し、NALユニットをISOBMFFに格納する技術が規定されている。
一方、現在、点群データの符号化方法として第1の符号化方法(Codec1)、及び第2の符号化方法(Codec2)が検討されているが、符号化データの構成、及び符号化データをシステムフォーマットへ格納する方法が定義されておらず、このままでは符号化部におけるMUX処理(多重化)、伝送及び蓄積ができないという課題がある。
なお、以降において、特定の符号化方法の記載がなければ、第1の符号化方法、及び第2の符号化方法のいずれかを示すものとする。
以下、本実施の形態に係るNALユニットの定義方法について説明する。例えば、HEVCなどの、これまでのコーデックでは、1つのコーデックに対して、1つのフォーマットのNALユニットが定義されている。しかし、PCCのように、第1の符号化方法と第2の符号化方法との2つのコーデック(以降、PCCコーデックと称する)が混在するフォーマットをサポートする方法はこれまで存在しない。
まず、上述した第1の符号化部4630及び第2の符号化部4650の両方の機能を持つ符号化部4670、並びに、第1の復号部4640及び第2の復号部4660の両方の機能を持つ復号部4680について説明する。
図14は、本実施の形態に係る符号化部4670のブロック図である。この符号化部4670は、上述した第1の符号化部4630及び第2の符号化部4650と、多重化部4671とを含む。多重化部4671は、第1の符号化部4630で生成された符号化データと第2の符号化部4650で生成された符号化データとを多重化し、得られた符号化データを出力する。
図15は、本実施の形態に係る復号部4680のブロック図である。この復号部4680は、上述した第1の復号部4640及び第2の復号部4660と、逆多重化部4681とを含む。逆多重化部4681は、入力された符号化データから、第1の符号化方法が用いられている符号化データと、第2の符号化方法が用いられている符号化データとを抽出する。逆多重化部4681は、第1の符号化方法が用いられている符号化データを第1の復号部4640に出力し、第2の符号化方法が用いられている符号化データを第2の復号部4660に出力する。
上記の構成により、符号化部4670は、第1の符号化方法及び第2の符号化方法を選択的に用いて点群データを符号化することができる。また、復号部4680は、第1の符号化方法を用いて符号化された符号化データ、第2の符号化方法を用いて符号化された符号化データ、及び、第1の符号化方法と第2の符号化方法との両方を用いて符号化された符号化データを復号できる。
例えば、符号化部4670は、点群データ単位、又はフレーム単位で符号化方法(第1の符号化方法及び第2の符号化方法)を切り替えてもよい。また、符号化部4670は、符号化可能な単位で符号化方法を切り替えてもよい。
符号化部4670は、例えば、PCCコーデックの識別情報を含む符号化データ(符号化ストリーム)を生成する。
復号部4680に含まれる逆多重化部4681は、例えば、PCCコーデックの識別情報を用いて、データを識別する。逆多重化部4681は、当該データが第1の符号化方法で符号化されたデータである場合には、第1の復号部4640に当該データを出力し、当該データが第2の符号化方法で符号化されたデータである場合には、当該データを第2の復号部4660に出力する。
なお、符号化部4670は、PCCコーデックの識別情報以外にも、両方の符号化方法を用いたか、いずれか一方の符号化方法を用いたかを示す情報を制御情報として送出してもよい。
次に、本実施の形態に係る符号化処理について説明する。図16は、本実施の形態に係る符号化処理のフローチャートである。PCCコーデックの識別情報を用いることにより、複数コーデックに対応した符号化処理が可能となる。
まず、符号化部4670は、PCCデータを第1の符号化方法、第2の符号化方法のいずれか一方又は両方のコーデックで符号化する(S4681)。
使用したコーデックが第2の符号化方法である場合(S4682で第2の符号化方法)、符号化部4670は、NALユニットヘッダに含まれるpcc_codec_typeをNALユニットのペイロードに含まれるデータが第2の符号化方法で符号化されたデータであることを示す値に設定する(S4683)。次に、符号化部4670は、NALユニットヘッダのpcc_nal_unit_typeに第2の符号化方法用のNALユニットの識別子を設定する(S4684)。そして、符号化部4670は、設定したNALユニットヘッダを有し、ペイロードに符号化データを含むNALユニットを生成する。そして、符号化部4670は、生成したNALユニットを送信する(S4685)。
一方、使用したコーデックが第1の符号化方法である場合(S4682で第1の符号化方法)、符号化部4670は、NALユニットヘッダに含まれるpcc_codec_typeをNALユニットのペイロードに含まれるデータが第1の符号化方法で符号化されたデータであることを示す値に設定する(S4686)。次に、符号化部4670は、NALユニットヘッダに含まれるpcc_nal_unit_typeに第1の符号化方法用のNALユニットの識別子を設定する(S4687)。次に、符号化部4670は、設定したNALユニットヘッダを有し、ペイロードに符号化データを含むNALユニットを生成する。そして、符号化部4670は、生成したNALユニットを送信する(S4685)。
次に、本実施の形態に係る復号処理について説明する。図17は、本実施の形態に係る復号処理のフローチャートである。PCCコーデックの識別情報を用いることにより、複数コーデックに対応した復号処理が可能となる。
まず、復号部4680は、NALユニットを受信する(S4691)。例えば、このNALユニットは、上述した符号化部4670における処理で生成されたものである。
次に、復号部4680は、NALユニットヘッダに含まれるpcc_codec_typeが第1の符号化方法を示すか、第2の符号化方法を示すかを判定する(S4692)。
pcc_codec_typeが第2の符号化方法を示す場合(S4692で第2の符号化方法)、復号部4680は、NALユニットのペイロードに含まれるデータが第2の符号化方法で符号化されたデータであると判断する(S4693)。そして、第2の復号部4660は、NALユニットヘッダに含まれるpcc_nal_unit_typeが、第2の符号化方法用のNALユニットの識別子であるとしてデータを識別する(S4694)。そして、復号部4680は、第2の符号化方法の復号処理を用いてPCCデータを復号する(S4695)。
一方、pcc_codec_typeが第1の符号化方法を示す場合(S4692で第1の符号化方法)、復号部4680は、NALユニットのペイロードに含まれるデータが第1の符号化方法で符号化されたデータであると判断する(S4696)。そして、復号部4680は、NALユニットヘッダに含まれるpcc_nal_unit_typeが、第1の符号化方法用のNALユニットの識別子であるとしてデータを識別する(S4697)。そして、復号部4680は、第1の符号化方法の復号処理を用いてPCCデータを復号する(S4698)。
以上のように、本開示の一態様に係る三次元データ符号化装置は、三次元データ(例えば点群データ)を符号化することで符号化ストリームを生成し、前記符号化ストリームの制御情報(例えば、パラメータセット)に、第1符号化方法と第2符号化方法のうち、前記符号化に用いた符号化方法を示す情報(例えば、コーデックの識別情報)を格納する。
これによれば、三次元データ復号装置は、当該三次元データ符号化装置で生成された符号化ストリームを復号する際に、制御情報に格納された情報を用いて符号化に用いられた符号化方法を判定できる。よって、三次元データ復号装置は、複数の符号化方法が用いられる場合においても正しく符号化ストリームを復号できる。
例えば、前記三次元データは、位置情報を含む。三次元データ符号化装置は、前記符号化では、前記位置情報を符号化する。三次元データ符号化装置は、前記格納では、前記位置情報の制御情報に、前記第1符号化方法と前記第2符号化方法のうち、前記位置情報の符号化に用いた符号化方法を示す情報を格納する。
例えば、前記三次元データは、位置情報と属性情報とを含む。三次元データ符号化装置は、前記符号化では、前記位置情報と前記属性情報とを符号化する。三次元データ符号化装置は、前記格納では、前記位置情報の制御情報に、前記第1符号化方法と前記第2符号化方法のうち、前記位置情報の符号化に用いた符号化方法を示す情報を格納し、前記属性情報の制御情報に、前記第1符号化方法と前記第2符号化方法のうち、前記属性情報の符号化に用いた符号化方法を示す情報を格納する。
これによれば、位置情報と属性情報とに異なる符号化方法を用いることができるので、符号化効率を向上できる。
例えば、前記三次元データ符号化方法は、さらに、前記符号化ストリームを1以上のユニット(例えば、NALユニット)に格納する。
例えば、前記ユニットは、前記第1符号化方法と前記第2符号化方法とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第1符号化方法と前記第2符号化方法とで独立した定義を有する情報(例えば、pcc_nal_unit_type)を含む。
例えば、前記ユニットは、前記第1符号化方法と前記第2符号化方法とで独立したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第1符号化方法と前記第2符号化方法とで独立した定義を有する情報(例えば、codec1_nal_unit_type又はcodec2_nal_unit_type)を含む。
例えば、前記ユニットは、前記第1符号化方法と前記第2符号化方法とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第1符号化方法と前記第2符号化方法とで共通した定義を有する情報(例えば、pcc_nal_unit_type)を含む。
例えば、三次元データ符号化装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
また、本実施の形態に係る三次元データ復号装置は、三次元データを符号化することで生成された符号化ストリームの制御情報(例えば、パラメータセット)に含まれる、第1符号化方法と第2符号化方法のうち、前記三次元データの符号化に用いられた符号化方法を示す情報(例えば、コーデックの識別情報)に基づき、符号化ストリームの符号化に用いられた符号化方法を判定し、判定した前記符号化方法を用いて前記符号化ストリームを復号する。
これによれば、三次元データ復号装置は、符号化ストリームを復号する際に、制御情報に格納された情報を用いて符号化に用いられた符号化方法を判定できる。よって、三次元データ復号装置は、複数の符号化方法が用いられる場合においても正しく符号化ストリームを復号できる。
例えば、前記三次元データは、位置情報を含み、前記符号化ストリームは、前記位置情報の符号化データを含む。三次元データ復号装置は、前記判定では、前記符号化ストリームに含まれる前記位置情報の制御情報に含まれる、前記第1符号化方法と前記第2符号化方法のうち、前記位置情報の符号化に用いられた符号化方法を示す情報に基づき、前記位置情報の符号化に用いられた符号化方法を判定する。三次元データ復号装置は、前記復号では、判定した前記位置情報の符号化に用いられた符号化方法を用いて前記位置情報の符号化データを復号する。
例えば、前記三次元データは、位置情報と属性情報とを含み、前記符号化ストリームは、前記位置情報の符号化データと前記属性情報の符号化データとを含む。三次元データ復号装置は、前記判定では、前記符号化ストリームに含まれる前記位置情報の制御情報に含まれる、前記第1符号化方法と前記第2符号化方法のうち、前記位置情報の符号化に用いられた符号化方法を示す情報に基づき、前記位置情報の符号化に用いられた符号化方法を判定し、前記符号化ストリームに含まれる前記属性情報の制御情報に含まれる、前記第1符号化方法と前記第2符号化方法のうち、前記属性情報の符号化に用いられた符号化方法を示す情報に基づき、前記属性情報の符号化に用いられた符号化方法を判定する。三次元データ復号装置は、前記復号では、判定した前記位置情報の符号化に用いられた符号化方法を用いて前記位置情報の符号化データを復号し、判定した前記属性情報の符号化に用いられた符号化方法を用いて前記属性情報の符号化データを復号する。
これによれば、位置情報と属性情報とに異なる符号化方法を用いることができるので、符号化効率を向上できる。
例えば、前記符号化ストリームは1以上のユニット(例えば、NALユニット)に格納されており、三次元データ復号装置は、さらに、前記1以上のユニットから前記符号化ストリームを取得する。
例えば、前記ユニットは、前記第1符号化方法と前記第2符号化方法とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第1符号化方法と前記第2符号化方法とで独立した定義を有する情報(例えば、pcc_nal_unit_type)を含む。
例えば、前記ユニットは、前記第1符号化方法と前記第2符号化方法とで独立したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第1符号化方法と前記第2符号化方法とで独立した定義を有する情報(例えば、codec1_nal_unit_type又はcodec2_nal_unit_type)を含む。
例えば、前記ユニットは、前記第1符号化方法と前記第2符号化方法とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第1符号化方法と前記第2符号化方法とで共通した定義を有する情報(例えば、pcc_nal_unit_type)を含む。
例えば、三次元データ復号装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
(実施の形態2)
本実施の形態では、NALユニットをISOBMFFのファイルに格納する方法について説明する。
ISOBMFF(ISO based media file format)は、ISO/IEC14496-12に規定されるファイルフォーマット規格である。ISOBMFFは、ビデオ、オーディオ、及びテキストなど様々なメディアを多重して格納できるフォーマットを規定しており、メディアに依存しない規格である。
ISOBMFFの基本構造(ファイル)について説明する。ISOBMFFにおける基本単位はボックスである。ボックスはtype、length、dataで構成され、様々なtypeのボックスを組み合わせた集合がファイルである。
図18は、ISOBMFFの基本構造(ファイル)を示す図である。ISOBMFFのファイルは、主に、ファイルのブランドを4CC(4文字コード)で示すftyp、制御情報などのメタデータを格納するmoov、及び、データを格納するmdatなどのボックスを含む。
ISOBMFFのファイルへのメディア毎の格納方法は別途規定されており、例えば、AVCビデオ及びHEVCビデオの格納方法は、ISO/IEC14496-15に規定される。ここで、PCC符号化データを蓄積又は伝送するために、ISOBMFFの機能を拡張して使用することが考えられるが、PCC符号化データをISOBMFFのファイルに格納する規定はまだない。そこで、本実施の形態では、PCC符号化データをISOBMFFのファイルに格納する方法について説明する。
図19は、PCCコーデック共通のNALユニットをISOBMFFのファイルに格納する場合のプロトコルスタックを示す図である。ここでは、PCCコーデック共通のNALユニットがISOBMFFのファイルに格納される。NALユニットはPCCコーデック共通であるが、NALユニットには複数のPCCコーデックが格納されるため、それぞれのコーデックに応じた格納方法(Carriage of Codec1、Carriage of Codec2)を規定することが望ましい。
次に、複数のPCCコーデックをサポートする共通のPCC NALユニットをISOBMFFのファイルへ格納する方法について説明する。図20は、共通のPCC NALユニットをコーデック1の格納方法(Carriage of Codec1)のISOBMFFのファイルに格納する例を示す図である。図21は、共通のPCC NALユニットをコーデック2の格納方法(Carriage of Codec2)のISOBMFFのファイルに格納する例を示す図である。
ここで、ftypは、ファイルフォーマットを識別するための重要な情報であり、ftyp用に、コーデック毎に異なる識別子が定義される。第1の符号化方法(符号化方式)で符号化されたPCC符号化データがファイルに格納される場合は、ftyp=pcc1に設定される。第2の符号化方法で符号化されたPCC符号化データがファイルに格納される場合は、ftyp=pcc2に設定される。
ここで、pcc1は、PCCのコーデック1(第1の符号化方法)が用いられることを示す。pcc2は、PCCのコーデック2(第2の符号化方法)が用いられることを示す。つまり、pcc1及びpcc2は、データがPCC(三次元データ(点群データ)の符号データ)であることを示し、かつ、PCCコーデック(第1の符号化方法及び第2の符号化方法)を示す。
以下、NALユニットをISOBMFFのファイルへ格納する方法について説明する。多重化部は、NALユニットヘッダを解析し、pcc_codec_type=Codec1である場合にはISOBMFFのftypにpcc1を記載する。
また、多重化部は、NALユニットヘッダを解析し、pcc_codec_type=Codec2である場合にはISOBMFFのftypにpcc2を記載する。
また、多重化部は、pcc_nal_unit_typeがメタデータである場合は、NALユニットを所定の方法で、例えばmoov又はmdatに格納する。多重化部は、pcc_nal_unit_typeがデータである場合は、NALユニットを所定の方法で、例えばmoov又はmdatに格納する。
例えば、多重化部は、HEVCと同様にNALユニットにNALユニットサイズを格納してもよい。
本格納方法により、逆多重化部(システムレイヤ)においてファイルに含まれるftypを解析することで、PCC符号化データが第1の符号化方法で符号化されたか、第2の符号化方法で符号化されたかを判定することが可能となる。さらに、上記の通り、PCC符号化データが第1の符号化方法で符号化されたか、第2の符号化方法で符号化されたかを判定することで、両方の符号化方法で符号化された符号化データが混在するデータからいずれか一方の符号化方法で符号化された符号化データを抽出することができる。これにより、符号化データを伝送する際に、伝送されるデータ量を抑制することができる。また、本格納方法により、第1の符号化方法と第2の符号化方法とで、異なるデータ(ファイル)フォーマットを設定することなく、共通のデータフォーマットを用いることができる。
なお、ISOBMFFにおけるftypなど、システムレイヤのメタデータにコーデックの識別情報が示される場合は、多重化部は、pcc_nal_unit_typeを削除したNALユニットをISOBMFFのファイルに格納してもよい。
次に、本実施の形態に係る三次元データ符号化システム(三次元データ符号化装置)が備える多重化部、及び、本実施の形態に係る三次元データ復号システム(三次元データ復号装置)が備える逆多重化部の構成及び動作について説明する。
図22は、第1の多重化部4710の構成を示す図である。第1の多重化部4710は、第1の符号化部4630で生成された符号化データ及び制御情報(NALユニット)をISOBMFFのファイルに格納することで多重化データ(ファイル)を生成するファイル変換部4711を備える。この第1の多重化部4710は、例えば、図1に示す多重化部4614に含まれる。
図23は、第1の逆多重化部4720の構成を示す図である。第1の逆多重化部4720は、多重化データ(ファイル)から符号化データ及び制御情報(NALユニット)を取得し、取得した符号化データ及び制御情報を第1の復号部4640に出力するファイル逆変換部4721を備える。この第1の逆多重化部4720は、例えば、図1に示す逆多重化部4623に含まれる。
図24は、第2の多重化部4730の構成を示す図である。第2の多重化部4730は、第2の符号化部4650で生成された符号化データ及び制御情報(NALユニット)をISOBMFFのファイルに格納することで多重化データ(ファイル)を生成するファイル変換部4731を備える。この第2の多重化部4730は、例えば、図1に示す多重化部4614に含まれる。
図25は、第2の逆多重化部4740の構成を示す図である。第2の逆多重化部4740は、多重化データ(ファイル)から符号化データ及び制御情報(NALユニット)を取得し、取得した符号化データ及び制御情報を第2の復号部4660に出力するファイル逆変換部4741を備える。この第2の逆多重化部4740は、例えば、図1に示す逆多重化部4623に含まれる。
図26は、第1の多重化部4710による多重化処理のフローチャートである。まず、第1の多重化部4710は、NALユニットヘッダに含まれるpcc_codec_typeを解析することで、使用されているコーデックが第1の符号化方法であるか、第2の符号化方法であるかを判定する(S4701)。
pcc_codec_typeが第2の符号化方法を示す場合(S4702で第2の符号化方法)、第1の多重化部4710は、当該NALユニットを処理しない(S4703)。
一方、pcc_codec_typeが第2の符号化方法を示す場合(S4702で第1の符号化方法)、第1の多重化部4710は、ftypにpcc1を記載する(S4704)。つまり、第1の多重化部4710は、第1の符号化方法で符号化されたデータがファイルに格納されていることを示す情報をftypに記載する。
次に、第1の多重化部4710は、NALユニットヘッダに含まれるpcc_nal_unit_typeを解析し、pcc_nal_unit_typeで示されるデータタイプに応じた所定の方法でデータをボックス(moov又はmdat等)に格納する(S4705)。そして、第1の多重化部4710は、上記ftyp及び上記ボックスを含むISOBMFFのファイルを作成する(S4706)。
図27は、第2の多重化部4730による多重化処理のフローチャートである。まず、第2の多重化部4730は、NALユニットヘッダに含まれるpcc_codec_typeを解析することで、使用されているコーデックが第1の符号化方法であるか、第2の符号化方法であるかを判定する(S4711)。
pcc_unit_typeが第2の符号化方法を示す場合(S4712で第2の符号化方法)、第2の多重化部4730は、ftypにpcc2を記載する(S4713)。つまり、第2の多重化部4730は、第2の符号化方法で符号化されたデータがファイルに格納されていることを示す情報をftypに記載する。
次に、第2の多重化部4730は、NALユニットヘッダに含まれるpcc_nal_unit_typeを解析し、pcc_nal_unit_typeで示されるデータタイプに応じた所定の方法でデータをボックス(moov又はmdat等)に格納する(S4714)。そして、第2の多重化部4730は、上記ftyp及び上記ボックスを含むISOBMFFのファイルを作成する(S4715)。
一方、pcc_unit_typeが第1の符号化方法を示す場合(S4712で第1の符号化方法)、第2の多重化部4730は、当該NALユニットを処理しない(S4716)。
なお、上記処理は、PCCデータを第1の符号化方法、及び第2の符号化方法のいずれか一方で符号化する例を示している。第1の多重化部4710及び第2の多重化部4730は、NALユニットのコーデックタイプを識別することにより、所望のNALユニットをファイルに格納する。なお、NALユニットヘッダ以外に、PCCコーデックの識別情報が含まれる場合には、第1の多重化部4710及び第2の多重化部4730は、ステップS4701及びS4711において、NALユニットヘッダ以外に含まれるPCCコーデックの識別情報を用いて、コーデックタイプ(第1の符号化方法又は第2の符号化方法)を識別してもよい。
また、第1の多重化部4710及び第2の多重化部4730は、ステップS4706及びS4714において、データをファイルに格納する際に、NALユニットヘッダからpcc_nal_unit_typeを削除したうえでファイルに格納してもよい。
図28は、第1の逆多重化部4720及び第1の復号部4640による処理を示すフローチャートである。まず、第1の逆多重化部4720は、ISOBMFFのファイルに含まれるftypを解析する(S4721)。ftypで示されるコーデックが第2の符号化方法(pcc2)である場合(S4722で第2の符号化方法)、第1の逆多重化部4720は、NALユニットのペイロードに含まれるデータが第2の符号化方法で符号化されたデータであると判断する(S4723)。また、第1の逆多重化部4720は、判断の結果を第1の復号部4640に伝達する。第1の復号部4640は、当該NALユニットを処理しない(S4724)。
一方、ftypで示されるコーデックが第1の符号化方法(pcc1)である場合(S4722で第1の符号化方法)、第1の逆多重化部4720は、NALユニットのペイロードに含まれるデータが第1の符号化方法で符号化されたデータであると判断する(S4725)。また、第1の逆多重化部4720は、判断の結果を第1の復号部4640に伝達する。
第1の復号部4640は、NALユニットヘッダに含まれるpcc_nal_unit_typeが、第1の符号化方法用のNALユニットの識別子であるとしてデータを識別する(S4726)。そして、第1の復号部4640は、第1の符号化方法の復号処理を用いてPCCデータを復号する(S4727)。
図29は、第2の逆多重化部4740及び第2の復号部4660による処理を示すフローチャートである。まず、第2の逆多重化部4740は、ISOBMFFのファイルに含まれるftypを解析する(S4731)。ftypで示されるコーデックが第2の符号化方法(pcc2)である場合(S4732で第2の符号化方法)、第2の逆多重化部4740は、NALユニットのペイロードに含まれるデータが第2の符号化方法で符号化されたデータであると判断する(S4733)。また、第2の逆多重化部4740は、判断の結果を第2の復号部4660に伝達する。
第2の復号部4660は、NALユニットヘッダに含まれるpcc_nal_unit_typeが、第2の符号化方法用のNALユニットの識別子であるとしてデータを識別する(S4734)。そして、第2の復号部4660は、第2の符号化方法の復号処理を用いてPCCデータを復号する(S4735)。
一方、ftypで示されるコーデックが第1の符号化方法(pcc1)である場合(S4732で第1の符号化方法)、第2の逆多重化部4740は、NALユニットのペイロードに含まれるデータが第1の符号化方法で符号化されたデータであると判断する(S4736)。また、第2の逆多重化部4740は、判断の結果を第2の復号部4660に伝達する。第2の復号部4660は、当該NALユニットを処理しない(S4737)。
このように、例えば、第1の逆多重化部4720又は第2の逆多重化部4740において、NALユニットのコーデックタイプを識別することにより、早い段階でコーデックタイプを識別できる。さらに、所望のNALユニットを第1の復号部4640又は第2の復号部4660に入力し、不要なNALユニットを取り除くことができる。この場合、第1の復号部4640又は第2の復号部4660において、コーデックの識別情報を解析する処理は不要になる可能性がある。なお、第1の復号部4640又は第2の復号部4660で再度NALユニットタイプを参照してコーデックの識別情報を解析する処理を実施してもよい。
また、第1の多重化部4710又は第2の多重化部4730においてNALユニットヘッダからpcc_nal_unit_typeを削除されている場合には、第1の逆多重化部4720又は第2の逆多重化部4740は、NALユニットにpcc_nal_unit_typeを付与したうえで第1の復号部4640又は第2の復号部4660へ出力してもよい。
(実施の形態3)
本実施の形態では、実施の形態1で説明した、複数のコーデックに対応した符号化部4670及び復号部4680に対応する、多重化部および逆多重化部について説明する。図30は、本実施の形態に係る符号化部4670及び第3の多重化部4750の構成を示す図である。
符号化部4670は、点群データを、第1の符号化方法、及び第2の符号化方法のいずれか一方又は両方の方式を用いて符号化する。符号化部4670は、点群データ単位、又はフレーム単位で符号化方法(第1の符号化方法及び第2の符号化方法)を切り替えてもよい。また、符号化部4670は、符号化可能な単位で符号化方法を切り替えてもよい。
符号化部4670は、PCCコーデックの識別情報を含む符号化データ(符号化ストリーム)を生成する。
第3の多重化部4750は、ファイル変換部4751を備える。ファイル変換部4751は、符号化部4670から出力されたNALユニットをPCCデータのファイルに変換する。ファイル変換部4751は、NALユニットヘッダに含まれるコーデック識別情報を解析し、PCC符号化データが、第1の符号化方法で符号化されたデータであるか、第2の符号化方法で符号化されたデータであるか、両方の方式で符号化されたデータであるかを判定する。ファイル変換部4751は、ftypにコーデックを識別可能なブランド名を記載する。例えば、両方の方式で符号化されたことを示す場合、ftypにpcc3が記載される。
なお、符号化部4670が、NALユニット以外にPCCコーデックの識別情報を記載している場合、ファイル変換部4751は、当該識別情報を用いて、PCCコーデック(符号化方法)を判定してもよい。
図31は、本実施の形態に係る第3の逆多重化部4760及び復号部4680の構成を示す図である。
第3の逆多重化部4760は、ファイル逆変換部4761を備える。ファイル逆変換部4761は、ファイルに含まれるftypを解析し、PCC符号化データが、第1の符号化方法で符号化されたデータであるか、第2の符号化方法で符号化されたデータであるか、両方の方式で符号化されたデータであるかを判定する。
PCC符号化データがいずれか一方の符号化方法で符号化されている場合、第1の復号部4640及び第2の復号部4660のうち、対応する復号部にデータが入力され、もう一方の復号部にはデータが入力されない。PCC符号化データが両方の符号化方法で符号化されている場合、両方式に対応する復号部4680にデータが入力される。
復号部4680は、PCC符号化データを、第1の符号化方法及び第2の符号化方法のいずれか一方又は両方の方式を用いて復号する。
図32は、本実施の形態に係る第3の多重化部4750による処理を示すフローチャートである。
まず、第3の多重化部4750は、NALユニットヘッダに含まれるpcc_codec_typeを解析することで、使用されているコーデックが第1の符号化方法であるか、第2の符号化方法であるか、第1の符号化方法及び第2の符号化方法の両方であるかを判定する(S4741)。
第2の符号化方法が使用されている場合(S4742でYes、かつ、S4743で第2の符号化方法)、第3の多重化部4750は、ftypにpcc2を記載する(S4744)。つまり、第3の多重化部4750は、第2の符号化方法で符号化されたデータがファイルに格納されていることを示す情報をftypに記載する。
次に、第3の多重化部4750は、NALユニットヘッダに含まれるpcc_nal_unit_typeを解析し、pcc_unit_typeで示されるデータタイプに応じた所定の方法でデータをボックス(moov又はmdat等)に格納する(S4745)。そして、第3の多重化部4750は、上記ftyp及び上記ボックスを含むISOBMFFのファイルを作成する(S4746)。
一方、第1の符号化方法が使用されている場合(S4742でYes、かつ、S4743で第1の符号化方法)、第3の多重化部4750は、ftypにpcc1を記載する(S4747)。つまり、第3の多重化部4750は、第1の符号化方法で符号化されたデータがファイルに格納されていることを示す情報をftypに記載する。
次に、第3の多重化部4750は、NALユニットヘッダに含まれるpcc_nal_unit_typeを解析し、pcc_unit_typeで示されるデータタイプに応じた所定の方法でデータをボックス(moov又はmdat等)に格納する(S4748)。そして、第3の多重化部4750は、上記ftyp及び上記ボックスを含むISOBMFFのファイルを作成する(S4746)。
一方、第1の符号化方法と第2の符号化方法との両方の符号化方法が使用されている場合(S4742でNo)、第3の多重化部4750は、ftypにpcc3を記載する(S4749)。つまり、第3の多重化部4750は、両方の符号化方法で符号化されたデータがファイルに格納されていることを示す情報をftypに記載する。
次に、第3の多重化部4750は、NALユニットヘッダに含まれるpcc_nal_unit_typeを解析し、pcc_unit_typeで示されるデータタイプに応じた所定の方法でデータをボックス(moov又はmdat等)に格納する(S4750)。そして、第3の多重化部4750は、上記ftyp及び上記ボックスを含むISOBMFFのファイルを作成する(S4746)。
図33は、第3の逆多重化部4760及び復号部4680による処理を示すフローチャートである。まず、第3の逆多重化部4760は、ISOBMFFのファイルに含まれるftypを解析する(S4761)。ftypで示されるコーデックが第2の符号化方法(pcc2)である場合(S4762でYes、かつS4763で第2の符号化方法)、第3の逆多重化部4760は、NALユニットのペイロードに含まれるデータが第2の符号化方法で符号化されたデータであると判断する(S4764)。また、第3の逆多重化部4760は、判断の結果を復号部4680に伝達する。
復号部4680は、NALユニットヘッダに含まれるpcc_nal_unit_typeが、第2の符号化方法用のNALユニットの識別子であるとしてデータを識別する(S4765)。そして、復号部4680は、第2の符号化方法の復号処理を用いてPCCデータを復号する(S4766)。
一方、ftypで示されるコーデックが第1の符号化方法(pcc1)である場合(S4762でYes、かつS4763で第1の符号化方法)、第3の逆多重化部4760は、NALユニットのペイロードに含まれるデータが第1の符号化方法で符号化されたデータであると判断する(S4767)。また、第3の逆多重化部4760は、判断の結果を復号部4680に伝達する。
復号部4680は、NALユニットヘッダに含まれるpcc_nal_unit_typeが、第1の符号化方法用のNALユニットの識別子であるとしてデータを識別する(S4768)。そして、復号部4680は、第1の符号化方法の復号処理を用いてPCCデータを復号する(S4769)。
一方、ftypで両方の符号化方法が用いられていること(pcc3)が示される場合(S4762でNo)、第3の逆多重化部4760は、NALユニットのペイロードに含まれるデータが、第1の符号化方法と第2符号化方法との両方の符号化方法で符号化されたデータであると判断する(S4770)。また、第3の逆多重化部4760は、判断の結果を復号部4680に伝達する。
復号部4680は、NALユニットヘッダに含まれるpcc_nal_unit_typeが、pcc_codec_typeに記載されるコーデック用のNALユニットの識別子であるとしてデータを識別する(S4771)。そして、復号部4680は、両方の符号化方法の復号処理を用いてPCCデータを復号する(S4772)。つまり、復号部4680は、第1の符号化方法で符号化されたデータを、第1の符号化方法の復号処理を用いて復号し、第2の符号化方法で符号化されたデータを、第2の符号化方法の復号処理を用いて復号する。
以下、本実施の形態の変形例を説明する。ftypに示されるブランドの種類として、以下の種類が識別情報で示されてもよい。また、以下に示す複数の種類の組み合わせが識別情報で示されてもよい。
識別情報は、PCC符号化前の元データのオブジェクトが、領域が制限されている点群であるか、地図情報のように領域が制限されていない大規模点群であるかを示してもよい。
識別情報は、PCC符号化前の元データが、静的オブジェクトであるか、動的オブジェクトであるかを示してもよい。
上述のように、識別情報は、PCC符号化データが、第1の符号化方法で符号化されたデータであるか、第2の符号化方法で符号化されたデータであるかを示してもよい。
識別情報は、PCC符号化において用いたアルゴリズムを示してもよい。ここで、アルゴリズムとは、例えば、第1の符号化方法又は第2の符号化方法において使用可能な符号化方法である。
識別情報は、PCC符号化データのISOBMFFのファイルへの格納方法の違いを示してもよい。例えば、識別情報は、使用された格納方法が、蓄積用の格納方法であるか、ダイナミックストリーミングのようなリアルタイム送出用の格納方法であるかを示してもよい。
また、実施の形態2及び実施の形態3では、ファイルフォーマットとしてISOBMFFが用いられる例に説明したが、その他の方式が用いられてもよい。例えば、MPEG-2 TS Systems、MPEG-DASH、MMT、又はRMPにPCC符号化データを格納する際にも本実施の形態と同様の方法を用いてもよい。
また、上記では、ftypに識別情報等のメタデータを格納する例を示したが、ftyp以外にこれらのメタデータが格納されてもよい。例えば、これらのメタデータがmoovに格納されてもよい。
以上のように、三次元データ格納装置(又は三次元データ多重化装置、又は三次元データ符号化装置)は、図34に示す処理を行う。
まず、三次元データ格納装置(例えば、第1の多重化部4710、第2の多重化部4730又は第3の多重化部4750を含む)は、点群データが符号化された符号化ストリームが格納された1以上のユニット(例えばNALユニット)を取得する(S4781)。次に、三次元データ格納装置は、1以上のユニットをファイル(例えばISOBMFFのファイル)に格納する(S4782)。また、三次元データ格納装置は、前記格納(S4782)では、ファイルに格納されているデータが、点群データが符号化されたデータであることを示す情報(例えばpcc1、pcc2又はpcc3)を、前記ファイルの制御情報(例えばftyp)に格納する。
これによれば、当該三次元データ格納装置で生成されたファイルを処理する装置では、ファイルの制御情報を参照して、当該ファイルに格納されているデータが点群データの符号化データであるか否かを早期に判定できる。よって、当該装置の処理量の低減又は処理の高速化を実現できる。
例えば、前記情報は、さらに、第1符号化方法と第2符号化方法のうち、前記点群データの符号化に用いられた符号化方法を示す。なお、ファイルに格納されているデータが、点群データが符号化されたデータであることと、第1符号化方法と第2符号化方法のうち、点群データの符号化に用いられた符号化方法とは、単一の情報で示されてもよいし、異なる情報で示されてもよい。
これによれば、当該三次元データ格納装置で生成されたファイルを処理する装置では、ファイルの制御情報を参照して、当該ファイルに格納されているデータに使用されたコーデックを早期に判定できる。よって、当該装置の処理量の低減又は処理の高速化を実現できる。
例えば、前記第1符号化方法は、点群データの位置をN(Nは2以上の整数)分木で表した位置情報を符号化し、前記位置情報を用いて属性情報を符号化する方式(GPCC)であり、前記第2符号化方法は、点群データから二次元画像を生成し、前記二次元画像を映像符号化方法を用いて符号化する方式(VPCC)である。
例えば、前記ファイルは、ISOBMFF(ISO based media file format)に準拠する。
例えば、三次元データ格納装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
また、以上のように、三次元データ取得装置(又は三次元データ逆多重化装置、又は三次元データ復号装置)は、図35に示す処理を行う。
三次元データ取得装置(例えば、第1の逆多重化部4720、第2の逆多重化部4740又は第3の逆多重化部4760を含む)は、点群データが符号化された符号化ストリームが格納された1以上のユニット(例えばNALユニット)が格納されたファイル(例えばISOBMFFのファイル)を取得する(S4791)。次に、三次元データ取得装置は、ファイルから、1以上のユニットを取得する(S4792)。また、ファイルの制御情報(例えばftyp)は、ファイルに格納されているデータが、点群データが符号化されたデータであることを示す情報(例えばpcc1、pcc2又はpcc3)を含む。
例えば、三次元データ取得装置は、前記情報を参照して、ファイルに格納されているデータが、点群データが符号化されたデータであるか否かを判定する。また、三次元データ取得装置は、ファイルに格納されているデータが、点群データが符号化されたデータであると判定した場合、1以上のユニットに含まれる点群データが符号化されたデータを復号することで点群データを生成する。または、三次元データ取得装置は、ファイルに格納されているデータが、点群データが符号化されたデータであると判定した場合、1以上のユニットに含まれるデータが、点群データが符号化されたデータであることを示す情報を、後段の処理部(例えば、第1の復号部4640、第2の復号部4660又は復号部4680)に出力(通知)する。
これによれば、当該三次元データ取得装置は、ファイルの制御情報を参照して、当該ファイルに格納されているデータが点群データの符号化データであるか否かを早期に判定できる。よって、当該三次元データ取得装置又は後段の装置の処理量の低減又は処理の高速化を実現できる。
例えば、前記情報は、さらに、第1符号化方法と第2符号化方法のうち、前記符号化に用いた符号化方法を示す。なお、ファイルに格納されているデータが、点群データが符号化されたデータであることと、第1符号化方法と第2符号化方法のうち、点群データの符号化に用いられた符号化方法とは、単一の情報で示されてもよいし、異なる情報で示されてもよい。
これによれば、当該三次元データ取得装置は、ファイルの制御情報を参照して、当該ファイルに格納されているデータに使用されたコーデックを早期に判定できる。よって、当該三次元データ取得装置又は後段の装置の処理量の低減又は処理の高速化を実現できる。
例えば、三次元データ取得装置は、前記情報に基づき、第1符号化方法で符号化されたデータと第2符号化方法で符号化されたデータとを含む符号化された点群データから、いずれか一方の符号化方法で符号化されたデータを取得する。
例えば、前記第1符号化方法は、点群データの位置をN(Nは2以上の整数)分木で表した位置情報を符号化し、前記位置情報を用いて属性情報を符号化する方式(GPCC)であり、前記第2符号化方法は、点群データから二次元画像を生成し、前記二次元画像を映像符号化方法を用いて符号化する方式(VPCC)である。
例えば、前記ファイルは、ISOBMFF(ISO based media file format)に準拠する。
例えば、三次元データ取得装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
(実施の形態4)
本実施の形態では、上述した第1の符号化部4630、又は第2の符号化部4650で生成される符号化データ(位置情報(Geometry)、属性情報(Attribute)、付加情報(Metadata))の種別、及び付加情報(メタデータ)の生成方法、及び多重化部における多重処理について説明する。なお、付加情報(メタデータ)は、パラメータセット、又は制御情報と表記することもある。
本実施の形態では、図4で説明した動的オブジェクト(時間的に変化する三次元点群データ)を例に説明するが、静的オブジェクト(任意の時刻の三次元点群データ)の場合でも同様の方法を用いてもよい。
図36は、本実施の形態に係る三次元データ符号化装置に含まれる符号化部4801及び多重化部4802の構成を示す図である。符号化部4801は、例えば、上述した第1の符号化部4630又は第2の符号化部4650に対応する。多重化部4802は、上述した多重化部4634又は46456に対応する。
符号化部4801は、複数のPCC(Point Cloud Compression)フレームの点群データを符号化し、複数の位置情報、属性情報及び付加情報の符号化データ(Multiple Compressed Data)を生成する。
多重化部4802は、複数のデータ種別(位置情報、属性情報及び付加情報)のデータをNALユニット化することで、データを復号装置におけるデータアクセスを考慮したデータ構成に変換する。
図37は、符号化部4801で生成される符号化データの構成例を示す図である。図中の矢印は符号化データの復号に係る依存関係を示しており、矢印の元は矢印の先のデータに依存している。つまり、復号装置は、矢印の先のデータを復号し、その復号したデータを用いて矢印の元のデータを復号する。言い換えると、依存するとは、依存元のデータの処理(符号化又は復号等)において依存先のデータが参照(使用)されることを意味する。
まず、位置情報の符号化データの生成処理について説明する。符号化部4801は、各フレームの位置情報を符号化することで、フレーム毎の符号化位置データ(Compressed Geometry Data)を生成する。また、符号化位置データをG(i)で表す。iはフレーム番号、又はフレームの時刻等を示す。
また、符号化部4801は、各フレームに対応する位置パラメータセット(GPS(i))を生成する。位置パラメータセットは、符号化位置データの復号に使用することが可能なパラメータを含む。また、フレーム毎の符号化位置データは、対応する位置パラメータセットに依存する。
また、複数フレームから成る符号化位置データを位置シーケンス(Geometry Sequence)と定義する。符号化部4801は、位置シーケンス内の複数のフレームに対する復号処理に共通に使用するパラメータを格納する位置シーケンスパラメータセット(Geometry Sequence PS:位置SPSとも記す)を生成する。位置シーケンスは、位置SPSに依存する。
次に、属性情報の符号化データの生成処理について説明する。符号化部4801は、各フレームの属性情報を符号化することで、フレーム毎の符号化属性データ(Compressed Attribute Data)を生成する。また、符号化属性データをA(i)で表す。また、図37では、属性Xと属性Yとが存在する例を示しており、属性Xの符号化属性データをAX(i)で表し、属性Yの符号化属性データをAY(i)で表す。
また、符号化部4801は、各フレームに対応する属性パラメータセット(APS(i))を生成する。また、属性Xの属性パラメータセットをAXPS(i)で表し、属性Yの属性パラメータセットをAYPS(i)で表す。属性パラメータセットは、符号化属性情報の復号に使用することが可能なパラメータを含む。符号化属性データは、対応する属性パラメータセットに依存する。
また、複数フレームから成る符号化属性データを属性シーケンス(Attribute Sequence)と定義する。符号化部4801は、属性シーケンス内の複数のフレームに対する復号処理に共通に使用するパラメータを格納する属性シーケンスパラメータセット(Attribute Sequence PS:属性SPSとも記す)を生成する。属性シーケンスは、属性SPSに依存する。
また、第1の符号化方法では、符号化属性データは符号化位置データに依存する。
また、図37では2種類の属性情報(属性Xと属性Y)が存在する場合の例を示している。2種類の属性情報がある場合は、例えば、2つの符号化部により、それぞれのデータ及びメタデータが生成される。また、例えば、属性情報の種類毎に属性シーケンスが定義され、属性情報の種類毎に属性SPSが生成される。
なお、図37では、位置情報が1種類、属性情報が2種類である例を示しているが、これに限らず、属性情報は1種類であってもよいし、3種類以上であってもよい。この場合も、同様の方法で符号化データを生成できる。また、属性情報を持たない点群データの場合は、属性情報はなくてもよい。その場合は、符号化部4801は、属性情報に関連するパラメータセットを生成しなくてもよい。
次に、付加情報(メタデータ)の生成処理について説明する。符号化部4801は、PCCストリーム全体のパラメータセットであるPCCストリームPS(PCC Stream PS:ストリームPSとも記す)を生成する。符号化部4801は、ストリームPSに、1又は複数の位置シーケンス及び1又は複数の属性シーケンスに対する復号処理に共通に使用することができるパラメータを格納する。例えば、ストリームPSには、点群データのコーデックを示す識別情報、及び符号化に使用されたアルゴリズムを示す情報等が含まれる。位置シーケンス及び属性シーケンスはストリームPSに依存する。
次に、アクセスユニット及びGOFについて説明する。本実施の形態では、新たにアクセスユニット(Access Unit:AU)、及びGOF(Group of Frame)の考え方を導入する。
アクセスユニットは、復号時にデータにアクセスするため基本単位であり、1つ以上のデータ及び1つ以上のメタデータで構成される。例えば、アクセスユニットは、同一時刻の位置情報と1又は複数の属性情報とで構成される。GOFは、ランダムアクセス単位であり、1つ以上のアクセスユニットで構成される。
符号化部4801は、アクセスユニットの先頭を示す識別情報として、アクセスユニットヘッダ(AU Header)を生成する。符号化部4801は、アクセスユニットヘッダに、アクセスユニットに係るパラメータを格納する。例えば、アクセスユニットヘッダは、アクセスユニットに含まれる符号化データの構成又は情報を含む。また、アクセスユニットヘッダは、アクセスユニットに含まれるデータに共通に用いられるパラメータ、例えば、符号化データの復号に係るパラメータなどを含む。
なお、符号化部4801は、アクセスユニットヘッダの代わりに、アクセスユニットに係るパラメータを含まないアクセスユニットデリミタを生成してもよい。このアクセスユニットデリミタは、アクセスユニットの先頭を示す識別情報として用いられる。復号装置は、アクセスユニットヘッダ又はアクセスユニットデリミタを検出することにより、アクセスユニットの先頭を識別する。
次に、GOF先頭の識別情報の生成について説明する。符号化部4801は、GOFの先頭を示す識別情報として、GOFヘッダ(GOF Header)を生成する。符号化部4801は、GOFヘッダに、GOFに係るパラメータを格納する。例えば、GOFヘッダは、GOFに含まれる符号化データの構成又は情報を含む。また、GOFヘッダは、GOFに含まれるデータに共通に用いられるパラメータ、例えば、符号化データの復号に係るパラメータなどを含む。
なお、符号化部4801は、GOFヘッダの代わりに、GOFに係るパラメータを含まないGOFデリミタを生成してもよい。このGOFデリミタは、GOFの先頭を示す識別情報として用いられる。復号装置は、GOFヘッダ又はGOFデリミタを検出することにより、GOFの先頭を識別する。
PCC符号化データにおいて、例えば、アクセスユニットはPCCフレーム単位であると定義される。復号装置は、アクセスユニット先頭の識別情報に基づき、PCCフレームにアクセスする。
また、例えば、GOFは1つのランダムアクセス単位であると定義される。復号装置は、GOF先頭の識別情報に基づき、ランダムアクセス単位にアクセスする。例えば、PCCフレームが互いに依存関係がなく、単独で復号可能であれば、PCCフレームをランダムアクセス単位と定義してもよい。
なお、1つのアクセスユニットに2つ以上のPCCフレームが割り当てられてもよいし、1つのGOFに複数のランダムアクセス単位が割り当てられてもよい。
また、符号化部4801は、上記以外のパラメータセット又はメタデータを定義し、生成してもよい。例えば、符号化部4801は、復号時に必ずしも用いない可能性のあるパラメータ(オプションのパラメータ)を格納するSEI(Supplemental Enhancement Information)を生成してもよい。
次に、符号化データの構成、及び符号化データのNALユニットへの格納方法を説明する。
例えば、符号化データの種類毎にデータフォーマットが規定される。図38は、符号化データ及びNALユニットの例を示す図である。
例えば、図38に示すように符号化データは、ヘッダとペイロードとを含む。なお、符号化データは、符号化データ、ヘッダ又はペイロードの長さ(データ量)を示す長さ情報を含んでもよい。また、符号化データは、ヘッダを含まなくてもよい。
ヘッダは、例えば、データを特定するための識別情報を含む。この識別情報は、例えば、データ種別又はフレーム番号を示す。
ヘッダは、例えば、参照関係を示す識別情報を含む。この識別情報は、例えば、データ間に依存関係がある場合にヘッダに格納され、参照元から参照先を参照するための情報である。例えば、参照先のヘッダには、当該データを特定するための識別情報が含まれる。参照元のヘッダには、参照先を示す識別情報が含まれる。
なお、他の情報から参照先又は参照元を識別可能又は導出可能である場合は、データを特定するための識別情報、又は参照関係を示す識別情報を省略してもよい。
多重化部4802は、符号化データを、NALユニットのペイロードに格納する。NALユニットヘッダには、符号化データの識別情報であるpcc_nal_unit_typeが含まれる。図39は、pcc_nal_unit_typeのセマンティクスの例を示す図である。
図39に示すように、pcc_codec_typeがコーデック1(Codec1:第1の符号化方法)である場合、pcc_nal_unit_typeの値0~10は、コーデック1における、符号化位置データ(Geometry)、符号化属性Xデータ(AttributeX)、符号化属性Yデータ(AttributeY)、位置PS(Geom.PS)、属性XPS(AttrX.PS)、属性YPS(AttrX.PS)、位置SPS(Geometry Sequence PS)、属性XSPS(AttributeX Sequence PS)、属性YSPS(AttributeY Sequence PS)、AUヘッダ(AU Header)、GOFヘッダ(GOF Header)に割り当てられる。また、値11以降は、コーデック1の予備に割り当てられる。
pcc_codec_typeがコーデック2(Codec2:第2の符号化方法)である場合、pcc_nal_unit_typeの値0~2は、コーデックのデータA(DataA)、メタデータA(MetaDataA)、メタデータB(MetaDataB)に割り当てられる。また、値3以降は、コーデック2の予備に割り当てられる。
次に、データの送出順序について説明する。以下、NALユニットの送出順序の制約について説明する。
多重化部4802は、NALユニットをGOF又はAU単位でまとめて送出する。多重化部4802は、GOFの先頭にGOFヘッダを配置し、AUの先頭にAUヘッダを配置する。
パケットロスなどでデータが失われた場合でも、復号装置が次のAUから復号できるように、多重化部4802は、シーケンスパラメータセット(SPS)を、AU毎に配置してもよい。
符号化データに復号に係る依存関係がある場合には、復号装置は、参照先のデータを復号した後に、参照元のデータを復号する。復号装置において、データを並び替ることなく、受信した順番に復号できるようにするために、多重化部4802は、参照先のデータを先に送出する。
図40は、NALユニットの送出順の例を示す図である。図40は、位置情報優先と、パラメータ優先と、データ統合との3つの例を示す。
位置情報優先の送出順序は、位置情報に関する情報と、属性情報に関する情報との各々をまとめて送出する例である。この送出順序の場合、位置情報に関する情報の送出が属性情報に関する情報の送出よりも早く完了する。
例えば、この送出順序を用いることで、属性情報を復号しない復号装置は、属性情報の復号を無視することで、処理しない時間を設けることができる可能性がある。また、例えば、位置情報を早く復号したい復号装置の場合、位置情報の符号化データを早く得ることにより、より早く位置情報を復号することができる可能性がある。
なお、図40では、属性XSPSと属性YSPSを統合し、属性SPSと記載しているが、属性XSPSと属性YSPSとを個別に配置してもよい。
パラメータセット優先の送出順序では、パラメータセットが先に送出され、データが後で送出される。
以上のようにNALユニット送出順序の制約に従えば、多重化部4802は、NALユニットをどのような順序で送出してもよい。例えば、順序識別情報が定義され、多重化部4802は、複数パターンの順序でNALユニットを送出する機能を有してもよい。例えばストリームPSにNALユニットの順序識別情報が格納される。
三次元データ復号装置は、順序識別情報に基づき復号を行ってもよい。三次元データ復号装置から三次元データ符号化装置に所望の送出順序が指示され、三次元データ符号化装置(多重化部4802)は、指示された送出順序に従って送出順序を制御してもよい。
なお、多重化部4802は、データ統合の送出順序のように、送出順序の制約に従う範囲であれば、複数の機能をマージした符号化データを生成してもよい。例えば、図40に示すように、GOFヘッダとAUヘッダとを統合してもよいし、AXPSとAYPSとを統合してもよい。この場合、pcc_nal_unit_typeには、複数の機能を有するデータであることを示す識別子が定義される。
以下、本実施の形態の変形例について説明する。フレームレベルのPS、シーケンスレベルのPS、PCCシーケンスレベルのPSのように、PSにはレベルがあり、PCCシーケンスレベルを上位のレベルとし、フレームレベルを下位のレベルとすると、パラメータの格納方法には下記の方法を用いてもよい。
デフォルトのPSの値をより上位のPSで示す。また、下位のPSの値が上位のPSの値と異なる場合には、下位のPSでPSの値が示される。または、上位ではPSの値を記載せず、下位のPSにPSの値を記載する。または、PSの値を、下位のPSで示すか、上位のPSで示すか、両方で示すかの情報を、下位のPSと上位のPSのいずれか一方又は両方に示す。または、下位のPSを上位のPSにマージしてもよい。または、下位のPSと上位のPSとが重複する場合には、多重化部4802は、いずれか一方の送出を省略してもよい。
なお、符号化部4801又は多重化部4802は、データをスライス又はタイルなどに分割し、分割したデータを送出してもよい。分割したデータには、分割したデータを識別するための情報が含まれ、分割データの復号に使用するパラメータがパラメータセットに含まれる。この場合、pcc_nal_unit_typeには、タイル又はスライスに係るデータ又はパラメータを格納するデータであることを示す識別子が定義される。
以下、順序識別情報に係る処理について説明する。図41は、NALユニットの送出順序に係る三次元データ符号化装置(符号化部4801及び多重化部4802)による処理のフローチャートである。
まず、三次元データ符号化装置は、NALユニットの送出順序(位置情報優先又はパラメータセット優先)を決定する(S4801)。例えば、三次元データ符号化装置は、ユーザ又は外部装置(例えば三次元データ復号装置)からの指定に基づき送出順序を決定する。
決定された送出順序が位置情報優先である場合(S4802で位置情報優先)、三次元データ符号化装置は、ストリームPSに含まれる順序識別情報を、位置情報優先に設定する(S4803)。つまり、この場合、順序識別情報は、位置情報優先の順序でNALユニットが送出されることを示す。そして、三次元データ符号化装置は、位置情報優先の順序でNALユニットを送出する(S4804)。
一方、決定された送出順序がパラメータセット優先である場合(S4802でパラメータセット優先)、三次元データ符号化装置は、ストリームPSに含まれる順序識別情報をパラメータセット優先に設定する(S4805)。つまり、この場合、順序識別情報は、パラメータセット優先の順序でNALユニットが送出されることを示す。そして、三次元データ符号化装置は、パラメータセットパラメータセット優先の順序でNALユニットを送出する(S4806)。
図42は、NALユニットの送出順序に係る三次元データ復号装置による処理のフローチャートである。まず、三次元データ復号装置は、ストリームPSに含まれる順序識別情報を解析する(S4811)。
順序識別情報で示される送出順序が位置情報優先である場合(S4812で位置情報優先)、三次元データ復号装置は、NALユニットの送出順序が位置情報優先であるものとして、NALユニットを復号する(S4813)。
一方、順序識別情報で示される送出順序がパラメータセット優先である場合(S4812でパラメータセット優先)、三次元データ復号装置は、NALユニットの送出順序がパラメータセット優先であるものとして、NALユニットを復号する(S4814)。
例えば、三次元データ復号装置は、属性情報を復号しない場合、ステップS4813において、全てのNALユニットを取得せずに、位置情報に関するNALユニットを取得し、取得したNALユニットから位置情報を復号してもよい。
次に、AU及びGOFの生成に係る処理について説明する。図43は、NALユニットの多重化におけるAU及びGOF生成に係る三次元データ符号化装置(多重化部4802)による処理のフローチャートである。
まず、三次元データ符号化装置は、符号化データの種類を判定する(S4821)。具体的には、三次元データ符号化装置は、処理対象の符号化データがAU先頭のデータであるか、GOF先頭のデータであるか、それ以外のデータであるかを判定する。
符号化データがGOF先頭のデータである場合(S4822でGOF先頭)、三次元データ符号化装置は、GOFヘッダ及びAUヘッダをGOFに属する符号化データの先頭に配置してNALユニットを生成する(S4823)。
符号化データがAU先頭のデータである場合(S4822でAU先頭)、三次元データ符号化装置は、AUヘッダをAUに属する符号化データの先頭に配置してNALユニットを生成する(S4824)。
符号化データがGOF先頭及びAU先頭のいずれでもない場合(S4822でGOF先頭、AU先頭以外)、三次元データ符号化装置は、符号化データが属するAUのAUヘッダの後に符号化データを配置してNALユニットを生成する(S4825)。
次に、AU及びGOFへのアクセスに係る処理について説明する。図44は、NALユニットの逆多重化におけるAU及びGOFのアクセスに係る三次元データ復号装置の処理のフローチャートである。
まず、三次元データ復号装置は、NALユニットに含まれるnal_unit_typeを解析することでNALユニットに含まれる符号化データの種類を判定する(S4831)。具体的には、三次元データ復号装置は、NALユニットに含まれる符号化データが、AU先頭のデータであるか、GOF先頭のデータであるか、それ以外のデータであるかを判定する。
NALユニットに含まれる符号化データがGOF先頭のデータである場合(S4832のGOF先頭)、三次元データ復号装置は、NALユニットがランダムアクセスの開始位置であると判断して、当該NALユニットにアクセスし、復号処理を開始する(S4833)。
一方、NALユニットに含まれる符号化データがAU先頭のデータである場合(S4832でAU先頭)、三次元データ復号装置は、NALユニットがAU先頭であると判断して、NALユニットに含まれるデータにアクセスし、当該AUを復号する(S4834)。
一方、NALユニットに含まれる符号化データが、GOF先頭及びAU先頭のいずれでもない場合(S4832でGOF先頭、AU先頭以外)、三次元データ復号装置は、当該NALユニットを処理しない。
以上のように、三次元データ符号化装置は、図45に示す処理を行う。三次元データ符号化装置は、時系列の三次元データ(例えば動的オブジェクトの点群データ)を符号化する。三次元データは、時刻毎の位置情報と属性情報とを含む。
まず、三次元データ符号化装置は、位置情報を符号化する(S4841)。次に、三次元データ符号化装置は、処理対象の属性情報を、当該処理対象の属性情報と同一時刻の位置情報を参照して符号化する(S4842)。ここで、図37に示すように、同一時刻の位置情報と属性情報とはアクセスユニット(AU)を構成する。つまり、三次元データ符号化装置は、処理対象の属性情報を、当該処理対象の属性情報と同じアクセスユニットに含まれる位置情報を参照して符号化する。
これによれば、三次元データ符号化装置は、アクセスユニットを用いて符号化における参照の制御を容易化できる。よって、三次元データ符号化装置は符号化処理の処理量を低減できる。
例えば、三次元データ符号化装置は、符号化された位置情報(符号化位置データ)と、符号化された属性情報(符号化属性データ)と、処理対象の属性情報の参照先の位置情報を示す情報とを含むビットストリームを生成する。
例えば、ビットストリームは、各時刻の位置情報の制御情報を含む位置パラメータセット(位置PS)と、各時刻の属性情報の制御情報を含む属性パラメータセット(属性PS)とを含む。
例えば、ビットストリームは、複数の時刻の位置情報に共通の制御情報を含む位置シーケンスパラメータセット(位置SPS)と、複数の時刻の属性情報に共通の制御情報を含む属性シーケンスパラメータセット(属性SPS)とを含む。
例えば、ビットストリームは、複数の時刻の位置情報及び複数の時刻の属性情報に共通の制御情報を含むストリームパラメータセット(ストリームPS)を含む。
例えば、ビットストリームは、アクセスユニット内で共通の制御情報を含むアクセスユニットヘッダ(AUヘッダ)を含む。
例えば、三次元データ符号化装置は、1以上のアクセスユニットで構成されるGOF(グループオブフレーム)を独立して復号可能なように符号化する。つまり、GOFはランダムアクセス単位である。
例えば、ビットストリームは、GOF内で共通の制御情報を含むGOFヘッダを含む。
例えば、三次元データ符号化装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
また、以上のように、三次元データ復号装置は、図46に示す処理を行う。三次元データ復号装置は、時系列の三次元データ(例えば動的オブジェクトの点群データ)を復号する。三次元データは、時刻毎の位置情報と属性情報とを含む。同一時刻の位置情報と属性情報とはアクセスユニット(AU)を構成する。
まず、三次元データ復号装置は、ビットストリームから位置情報を復号する(S4851)。つまり、三次元データ復号装置は、ビットストリームに含まれる符号化された位置情報(符号化位置データ)を復号することで位置情報を生成する。
次に、三次元データ復号装置は、ビットストリームから、処理対象の属性情報を、当該処理対象の属性情報と同一時刻の位置情報を参照して復号する(S4852)。つまり、三次元データ復号装置は、ビットストリームに含まれる符号化された属性情報(符号化属性データ)を復号することで属性情報を生成する。このとき、三次元データ復号装置は、属性情報と同じアクセスユニットに含まれる復号済みの位置情報を参照する。
これによれば、三次元データ復号装置は、アクセスユニットを用いて復号における参照の制御を容易化できる。よって、当該三次元データ復号方法は復号処理の処理量を低減できる。
例えば、三次元データ復号装置は、ビットストリームから、処理対象の属性情報の参照先の位置情報を示す情報を取得し、取得した情報で示される参照先の位置情報を参照して処理対象の属性情報を復号する。
例えば、ビットストリームは、各時刻の位置情報の制御情報を含む位置パラメータセット(位置PS)と、各時刻の属性情報の制御情報を含む属性パラメータセット(属性PS)とを含む。つまり、三次元データ復号装置は、処理対象時刻の位置パラメータセットに含まれる制御情報を用いて、処理対象時刻の位置情報を復号し、処理対象時刻の属性パラメータセットに含まれる制御情報を用いて、処理対象時刻の属性情報を復号する。
例えば、ビットストリームは、複数の時刻の位置情報に共通の制御情報を含む位置シーケンスパラメータセット(位置SPS)と、複数の時刻の属性情報に共通の制御情報を含む属性シーケンスパラメータセット(属性SPS)とを含む。つまり、三次元データ復号装置は、位置シーケンスパラメータセットに含まれる制御情報を用いて、複数の時刻の位置情報を復号し、属性シーケンスパラメータセットに含まれる制御情報を用いて、複数の時刻の属性情報を復号する。
例えば、ビットストリームは、複数の時刻の位置情報及び複数の時刻の属性情報に共通の制御情報を含むストリームパラメータセット(ストリームPS)を含む。つまり、三次元データ復号装置は、ストリームパラメータセットに含まれる制御情報を用いて、複数の時刻の位置情報及び複数時刻の属性情報を復号する。
例えば、ビットストリームは、アクセスユニット内で共通の制御情報を含むアクセスユニットヘッダ(AUヘッダ)を含む。つまり、三次元データ復号装置は、アクセスユニットヘッダに含まれる制御情報を用いて、アクセスユニットに含まれる位置情報及び属性情報を復号する。
例えば、三次元データ復号装置は、1以上のアクセスユニットで構成されるGOF(グループオブフレーム)を独立して復号する。つまり、GOFはランダムアクセス単位である。
例えば、ビットストリームは、GOF内で共通の制御情報を含むGOFヘッダを含む。つまり、三次元データ復号装置は、GOFヘッダに含まれる制御情報を用いて、GOFに含まれる位置情報及び属性情報を復号する。
例えば、三次元データ復号装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
(実施の形態5)
次に、分割部4911の構成を説明する。図47は、分割部4911のブロック図である。分割部4911は、スライス分割部4931(Slice Divider)と、位置情報タイル分割部4932(Geometry Tile Divider)と、属性情報タイル分割部4933(Attribute Tile Divider)とを含む。
スライス分割部4931は、位置情報(Position(Geometry))をスライスに分割することで複数のスライス位置情報を生成する。また、スライス分割部4931は、属性情報(Attribute)をスライスに分割することで複数のスライス属性情報を生成する。また、スライス分割部4931は、スライス分割に係る情報、及びスライス分割において生成された情報を含むスライス付加情報(SliceMetaData)を出力する。
位置情報タイル分割部4932は、複数のスライス位置情報をタイルに分割することで複数の分割位置情報(複数のタイル位置情報)を生成する。また、位置情報タイル分割部4932は、位置情報のタイル分割に係る情報、及び位置情報のタイル分割において生成された情報を含む位置タイル付加情報(Geometry Tile MetaData)を出力する。
属性情報タイル分割部4933は、複数のスライス属性情報をタイルに分割することで複数の分割属性情報(複数のタイル属性情報)を生成する。また、属性情報タイル分割部4933は、属性情報のタイル分割に係る情報、及び属性情報のタイル分割において生成された情報を含む属性タイル付加情報(Attribute Tile MetaData)を出力する。
なお、分割されるスライス又はタイルの数は1以上である。つまり、スライス又はタイルの分割を行わなくてもよい。
また、ここでは、スライス分割後にタイル分割が行われる例を示したが、タイル分割後にスライス分割が行われてもよい。また、スライス及びタイルに加え新たな分割種別を定義し、3つ以上の分割種別で分割が行われてもよい。
以下、点群データの分割方法について説明する。図48は、スライス及びタイル分割の例を示す図である。
まず、スライス分割の方法について説明する。分割部4911は、三次元点群データを、スライス単位で、任意の点群に分割する。分割部4911は、スライス分割において、点を構成する位置情報と属性情報とを分割せず、位置情報と属性情報とを一括で分割する。すなわち、分割部4911は、任意の点における位置情報と属性情報とが同じスライスに属するようにスライス分割を行う。なお、これらに従えば、分割数、及び分割方法はどのような方法でもよい。また、分割の最小単位は点である。例えば、位置情報と属性情報との分割数は同一である。例えば、スライス分割後の位置情報に対応する三次元点と、属性情報に対応する三次元点とは同一のスライスに含まれる。
また、分割部4911は、スライス分割時に分割数及び分割方法に係る付加情報であるスライス付加情報を生成する。スライス付加情報は、位置情報と属性情報とで同一である。例えば、スライス付加情報は、分割後のバウンディングボックスの基準座標位置、大きさ、又は辺の長さを示す情報を含む。また、スライス付加情報は、分割数、及び分割タイプなどを示す情報を含む。
次に、タイル分割の方法について説明する。分割部4911は、スライス分割されたデータを、スライス位置情報(Gスライス)とスライス属性情報(Aスライス)とに分割し、スライス位置情報とスライス属性情報をそれぞれタイル単位に分割する。
なお、図48では8分木構造で分割する例を示しているが、分割数及び分割方法はどのような方法でもよい。
また、分割部4911は、位置情報と属性情報とを異なる分割方法で分割してもよいし、同一の分割方法で分割してもよい。また、分割部4911は、複数のスライスを異なる分割方法でタイルに分割してもよいし、同一の分割方法でタイルに分割してもよい。
また、分割部4911は、タイル分割時に分割数及び分割方法に係るタイル付加情報を生成する。タイル付加情報(位置タイル付加情報及び属性タイル付加情報)は、位置情報と属性情報とで独立している。例えば、タイル付加情報は、分割後のバウンディングボックスの基準座標位置、大きさ、又は辺の長さを示す情報を含む。また、タイル付加情報は、分割数、及び分割タイプなど示す情報を含む。
次に、点群データをスライス又はタイルに分割する方法の例を説明する。分割部4911は、スライス又はタイル分割の方法として、予め定められた方法を用いてもよいし、点群データに応じて使用する方法を適応的に切り替えてもよい。
スライス分割時には、分割部4911は、位置情報と属性情報とに対して一括で三次元空間を分割する。例えば、分割部4911は、オブジェクトの形状を判定し、オブジェクトの形状に応じて三次元空間をスライスに分割する。例えば、分割部4911は、木又は建物などのオブジェクトを抽出し、オブジェクト単位で分割を行う。例えば、分割部4911は、1又は複数のオブジェクトの全体が1つのスライスに含まれるようにスライス分割を行う。または、分割部4911は、一つのオブジェクトを複数のスライスに分割する。
この場合、符号化装置は、例えば、スライス毎に符号化方法を変えてもよい。例えば、符号化装置は、特定のオブジェクト、又はオブジェクトの特定の一部に対して、高品質な圧縮方法を用いてもよい。この場合、符号化装置は、スライス毎の符号化方法を示す情報を付加情報(メタデータ)に格納してもよい。
また、分割部4911は、地図情報又は位置情報に基づき、各スライスが予め定められた座標空間に対応するようにスライス分割を行ってもよい。
タイル分割時には、分割部4911は、位置情報と属性情報とを独立に分割する。例えば、分割部4911は、データ量又は処理量に応じてスライスをタイルに分割する。例えば、分割部4911は、スライスのデータ量(例えばスライスに含まれる三次元点の数)が予め定められた閾値より多いかを判定する。分割部4911は、スライスのデータ量が閾値より多い場合にはスライスをタイルに分割する。分割部4911は、スライスのデータ量が閾値より少ないときにはスライスをタイルに分割しない。
例えば、分割部4911は、復号装置での処理量又は処理時間が一定の範囲(予め定められた値以下)となるよう、スライスをタイルに分割する。これにより、復号装置におけるタイル当たりの処理量が一定となり、復号装置における分散処理が容易となる。
また、分割部4911は、位置情報と属性情報とで処理量が異なる場合、例えば、位置情報の処理量が属性情報の処理量より多い場合、位置情報の分割数を、属性情報の分割数より多くする。
また、例えば、コンテンツによって、復号装置で、位置情報を早く復号して表示し、属性情報を後でゆっくり復号して表示してもよい場合に、分割部4911は、位置情報の分割数を、属性情報の分割数より多くしてもよい。これにより、復号装置は、位置情報の並列数を多くできるので、位置情報の処理を属性情報の処理より高速化できる。
なお、復号装置は、スライス化又はタイル化されているデータを必ずしも並列処理する必要はなく、復号処理部の数又は能力に応じて、これらを並列処理するかどうかを判定してもよい。
以上のような方法で分割することにより、コンテンツ又はオブジェクトに応じた、適応的な符号化を実現できる。また、復号処理における並列処理を実現できる。これにより、点群符号化システム又は点群復号システムの柔軟性が向上する。
図49は、スライス及びタイルの分割のパターンの例を示す図である。図中のDUはデータ単位(DataUnit)であり、タイル又はスライスのデータを示す。また、各DUは、スライスインデックス(SliceIndex)とタイルインデックス(TileIndex)を含む。図中のDUの右上の数値がスライスインデックスを示し、DUの左下の数値がタイルインデックスを示す。
パターン1では、スライス分割において、GスライスとAスライスとで分割数及び分割方法は同じである。タイル分割において、Gスライスに対する分割数及び分割方法とAスライスに対する分割数及び分割方法とは異なる。また、複数のGスライス間では同一の分割数及び分割方法が用いられる。複数のAスライス間では同一の分割数及び分割方法が用いられる。
パターン2では、スライス分割において、GスライスとAスライスとで分割数及び分割方法は同じである。タイル分割において、Gスライスに対する分割数及び分割方法とAスライスに対する分割数及び分割方法とは異なる。また、複数のGスライス間で分割数及び分割方法が異なる。複数のAスライス間で分割数及び分割方法が異なる。
(実施の形態6)
以下、タイル分割後にスライス分割を行う例について説明する。車両の自動運転等の自律型のアプリケーションでは、全ての領域の点群データではなく、車両の周辺の領域、又は車両の進行方向の地域の点群データが必要である。ここで、元の点群データを選択的に復号するためにタイル及びスライスを用いることができる。三次元点群データをタイルに分割し、さらにスライスを分割することで、符号化効率の向上、又は並列処理を実現できる。データを分割する際には、付加情報(メタデータ)が生成され、生成された付加情報は、多重化部に送られる。
図50は、本実施の形態に係る三次元データ符号化装置に含まれる第1の符号化部5010の構成を示すブロック図である。第1の符号化部5010は、点群データを第1の符号化方法(GPCC(Geometry based PCC))で符号化することで符号化データ(符号化ストリーム)を生成する。この第1の符号化部5010は、分割部5011と、複数の位置情報符号化部5012と、複数の属性情報符号化部5013と、付加情報符号化部5014と、多重化部5015とを含む。
分割部5011は、点群データを分割することで複数の分割データを生成する。具体的には、分割部5011は、点群データの空間を複数のサブ空間に分割することで複数の分割データを生成する。ここでサブ空間とは、タイル及びスライスの一方、又はタイル及びスライスの組み合わせである。より具体的には、点群データは、位置情報、属性情報、及び付加情報を含む。分割部5011は、位置情報を複数の分割位置情報に分割し、属性情報を複数の分割属性情報に分割する。また、分割部5011は、分割に関する付加情報を生成する。
例えば、分割部5011は、まず、点群をタイルに分割する。次に、分割部5011は、得られたタイルを、さらにスライスに分割する。
複数の位置情報符号化部5012は、複数の分割位置情報を符号化することで複数の符号化位置情報を生成する。例えば、複数の位置情報符号化部5012は、複数の分割位置情報を並列処理する。
複数の属性情報符号化部5013は、複数の分割属性情報を符号化することで複数の符号化属性情報を生成する。例えば、複数の属性情報符号化部5013は、複数の分割属性情報を並列処理する。
付加情報符号化部5014は、点群データに含まれる付加情報と、分割部5011で分割時に生成された、データ分割に関する付加情報とを符号化することで符号化付加情報を生成する。
多重化部5015は、複数の符号化位置情報、複数の符号化属性情報及び符号化付加情報を多重化することで符号化データ(符号化ストリーム)を生成し、生成した符号化データを送出する。また、符号化付加情報は復号時に使用される。
なお、図50では、位置情報符号化部5012及び属性情報符号化部5013の数がそれぞれ2つの例を示しているが、位置情報符号化部5012及び属性情報符号化部5013の数は、それぞれ1つであってもよいし、3つ以上であってもよい。また、複数の分割データは、CPU内の複数コアのように同一チップ内で並列処理されてもよいし、複数のチップのコアで並列処理されてもよいし、複数チップの複数コアで並列処理されてもよい。
次に、復号処理について説明する。図51は、第1の復号部5020の構成を示すブロック図である。第1の復号部5020は、点群データが第1の符号化方法(GPCC)で符号化されることで生成された符号化データ(符号化ストリーム)を復号することで点群データを復元する。この第1の復号部5020は、逆多重化部5021と、複数の位置情報復号部5022と、複数の属性情報復号部5023と、付加情報復号部5024と、結合部5025とを含む。
逆多重化部5021は、符号化データ(符号化ストリーム)を逆多重化することで複数の符号化位置情報、複数の符号化属性情報及び符号化付加情報を生成する。
複数の位置情報復号部5022は、複数の符号化位置情報を復号することで複数の分割位置情報を生成する。例えば、複数の位置情報復号部5022は、複数の符号化位置情報を並列処理する。
複数の属性情報復号部5023は、複数の符号化属性情報を復号することで複数の分割属性情報を生成する。例えば、複数の属性情報復号部5023は、複数の符号化属性情報を並列処理する。
複数の付加情報復号部5024は、符号化付加情報を復号することで付加情報を生成する。
結合部5025は、付加情報を用いて複数の分割位置情報を結合することで位置情報を生成する。結合部5025は、付加情報を用いて複数の分割属性情報を結合することで属性情報を生成する。例えば、結合部5025は、まず、スライス付加情報を用いて、スライスに対する復号された点群データを結合することでタイルに対応する点群データを生成する。次に、結合部5025は、タイル付加情報を用いて、タイルに対応する点群データを結合することで元の点群データを復元する。
なお、図50では、位置情報復号部5022及び属性情報復号部5023の数がそれぞれ2つの例を示しているが、位置情報復号部5022及び属性情報復号部5023の数は、それぞれ1つであってもよし、3つ以上であってもよい。また、複数の分割データは、CPU内の複数コアのように同一チップ内で並列処理されてもよいし、複数のチップのコアで並列処理されてもよい、複数チップの複数コアで並列処理されてもよい。
次に、点群データの分割方法について説明する。車両の自動運転等の自律型のアプリケーションでは、全ての領域の点群データではなく、車両の周辺の領域、又は車両の進行方向の地域の点群データが必要である。
図52は、タイルの形状の例を示す図である。図52に示すように、タイルの形状として、円、矩形又は楕円等の様々な形状が用いられてもよい。
図53は、タイル及びスライスの例を示す図である。スライスの構成はタイル間で異なってもよい。例えば、タイル又はスライスの構成は、データ量に基づき最適化されてもよい。または、タイル又はスライスの構成は、復号速度に基づき最適化されてもよい。
また、位置情報に基づきタイル分割が行われてもよい。この場合、属性情報は、対応する位置情報と同様に分割される。
また、タイル分割後のスライス分割において、位置情報と属性情報とは異なる方法によりスライスに分割されてもよい。例えば、各タイルにおけるスライス分割の方法は、アプリケーションからの要求に応じて選択されてもよい。アプリケーションからの要求に基づき、異なるスライス分割の方法、又は、タイル分割の方法が用いられてもよい。
例えば、分割部5011は、三次元点群データを上から見た二次元形状において、地図情報などの位置情報に基づき、点群データを1以上のタイルに分割する。その後、分割部5011は、それぞれのタイルを1以上のスライスに分割する。
なお、分割部5011は、位置情報(Geometry)と属性情報(Attribute)とを同じ方法でスライスに分割してもよい。
なお、位置情報及び属性情報はそれぞれ1種類であってもよいし、2種類以上であってもよい。また、属性情報を持たない点群データの場合は、属性情報がなくてもよい。
図54は、分割部5011のブロック図である。分割部5011は、タイル分割部5031(Tile Divider)と、位置情報スライス分割部5032(Geometry Slice Divider)と、属性情報スライス分割部5033(Attribute Slice Divider)とを含む。
タイル分割部5031は、位置情報(Position(Geometry))をタイルに分割することで複数のタイル位置情報を生成する。また、タイル分割部5031は、属性情報(Attribute)をタイルに分割することで複数のタイル属性情報を生成する。また、タイル分割部5031は、タイル分割に係る情報、及びタイル分割において生成された情報を含むタイル付加情報(TileMetaData)を出力する。
位置情報スライス分割部5032は、複数のタイル位置情報をスライスに分割することで複数の分割位置情報(複数のスライス位置情報)を生成する。また、位置情報スライス分割部5032は、位置情報のスライス分割に係る情報、及び位置情報のスライス分割において生成された情報を含む位置スライス付加情報(Geometry Slice MetaData)を出力する。
属性情報スライス分割部5033は、複数のタイル属性情報をスライスに分割することで複数の分割属性情報(複数のスライス属性情報)を生成する。また、属性情報スライス分割部5033は、属性情報のスライス分割に係る情報、及び属性情報のスライス分割において生成された情報を含む属性スライス付加情報(Attribute Slice MetaData)を出力する。
次に、タイルの形状の例について説明する。三次元地図(3Dマップ)の全体は、複数のタイルに分割される。複数のタイルのデータは、選択的に三次元データ復号装置に送信される。または、複数のタイルのデータのうち重要度の高いデータから順に三次元データ復号装置に送信される。状況に応じてタイルの形状は複数の形状から選択されてもよい。
図55は、LiDARで得られた点群データを上面視した地図の一例を示す図である。図55に示す例は、高速道路の点群データであり、立体交差部分(Flyover)を含む。
図56は、図55に示す点群データを正方形のタイルに分割した例を示す図である。このような正方形の分割は地図サーバにおいて容易に行うことができる。また、通常の道路に対しては、タイルの高さは低く設定される。立体交差部分では、タイルが立体交差部分を包含するように、タイルの高さは通常の道路よりも高く設定される。
図57は、図55に示す点群データを円形のタイルに分割した例を示す図である。この場合、隣接するタイルが平面視において重複する場合がある。三次元データ符号化装置は、車両が周辺領域の点群データを必要な場合、車両の周辺の円柱(上面視における円)の領域の点群データを車両に送信する。
また、図56の例と同様に、通常の道路に対しては、タイルの高さは低く設定される。立体交差部分では、タイルが立体交差部分を包含するように、タイルの高さは通常の道路よりも高く設定される。
三次元データ符号化装置は、タイルの高さを、例えば、道路又は建物の形状又は高さに応じて変えてもよい。また、三次元データ符号化装置は、位置情報又はエリア情報に応じてタイルの高さを変えてもよい。また、三次元データ符号化装置は、タイルの高さを、タイル毎に変えてもよい。または、三次元データ符号化装置は、複数のタイルを含む区間毎にタイルの高さを変えてもよい。つまり、三次元データ符号化装置は、区間内の複数のタイルの高さを同一にしてもよい。また、異なる高さのタイルが上面視において重複してもよい。
図58は、様々な形状、大きさ又は高さのタイルを用いた場合のタイル分割の例を示す図である。タイルの形状はどのような形状であってもよいし、どのような大きさであってもよいし、これらの組み合わせであってもよい。
例えば、上述したような重複することなく正方形のタイルで分割する例、及び重複した円形のタイルで分割する例だけでなく、三次元データ符号化装置は、重複した正方形のタイルで分割を行ってもよい。また、タイルの形状は、正方形及び円形でなくてもよく、3以上の頂点を持つ多角形が用いられてもよいし、頂点を持たない形状が用いられてもよい。
また、タイルの形状は、2種類以上であってもよいし、異なる形状のタイルが重複してもよい。また、タイルの形状の種類は1以上であり、分割する同一形状において、大きさの異なる形状を組み合わせてもよいし、それらが、重複してもよい。
例えば、道路などのオブジェクトがない領域には、オブジェクトが存在する領域よりも大きなタイルが用いられる。また、三次元データ符号化装置は、オブジェクトに応じてタイルの形状又は大きさを適応的に変えてもよい。
また、例えば、三次元データ符号化装置は、自動車(車両)の進行方向である、自動車の前方遠方のタイルの読み込みが必要となる可能性が高いため、進行方向のタイルを大きいサイズに設定し、自動車の側方に自動車が進む可能性が低いため、側方のタイルを進行方向のタイルよりも小さいサイズに設定してもよい。
図59は、サーバに保存されるタイルのデータの例を示す図である。例えば、予め点群データがタイル分割して符号化され、得られた符号化データがサーバに保存される。ユーザーは、必要なときに所望のタイルのデータをサーバから取得する。または、サーバ(三次元データ符号化装置)は、ユーザーの指示に応じてユーザーが所望するデータを含むようにタイル分割及び符号化を行ってもよい。
例えば、移動体(車両)の移動速度が速い場合は、より広範囲な点群データが必要になることが考えられる。よって、サーバは、予め推測される車の速度(例えば、道路の法定速度、道路の幅及び形状から推測できる車の速度、又は統計上の速度等)に基づき、タイルの形状及び大きさを決定し、タイル分割を行ってもよい。あるいは、図59に示すように、サーバは、予め複数の形状又は大きさのタイルを符号化し、得られたデータを保存しておいてもよい。移動体は、当該移動体の進行方向及び速度に応じて、適切な形状及び大きさのタイルのデータを取得してもよい。
図60は、タイル分割に関するシステムの例を示す図である。図60に示すように、タイルの形状及び領域は、点群データを伝送する通信手段であるアンテナ(基地局)の位置、又はアンテナのサポートする通信エリアに基づいて決定されてもよい。あるいは、点群データをカメラなどのセンサで生成する場合、タイルの形状及び領域は、センサの位置又はセンサの対象範囲(検知範囲)に基づいて決定されてもよい。
1つのアンテナ又はセンサに対して1つのタイルが割り当てられてもよいし、複数のアンテナ又はセンサに対して1つのタイルが割り当てられてもよい。1つのアンテナ又はセンサに対して複数のタイルが割り当てられてもよい。アンテナ又はセンサは固定されていてもよいし、移動可能であってもよい。
例えば、タイルに分割された符号化データは、タイルに割り当てたエリアに対するアンテナ又はセンサに接続されたサーバで管理されてもよい。サーバは、自エリアの符号化データと、隣接するエリアのタイル情報とを管理してもよい。それぞれのタイルに対応する複数のサーバを管理する集中管理サーバ(クラウド)において、複数のタイルの複数の符号化データが管理されてもよい。または、タイルに対応するサーバを設けず、アンテナ又はセンサが集中管理サーバに直接接続されてもよい。
なお、アンテナ又はセンサの対象範囲は、電波の電力、機器の違い、及び設置条件により異なる可能性があり、タイルの形状及び大きさも、これらに合わせて変化してもよい。アンテナ又はセンサの対象範囲に基づき、タイルではなく、スライスが割り当てられてもよいし、PCCフレームが割り当てられてもよい。
次に、タイルをスライスに分割する手法について説明する。類似するオブジェクトを同じスライスに割り当てることで符号化効率を向上できる。
例えば、三次元データ符号化装置は、点群データの特徴を用いてオブジェクト(道路、ビル、木など)を認識し、オブジェクト毎に点群をクラスタリングすることでスライス分割を行ってもよい。
あるいは、三次元データ符号化装置は、同じ属性を持つオブジェクトをグループ化し、各グループにスライスを割り当てることでスライス分割を行ってもよい。ここで属性とは、例えば、動きに関する情報であり、歩行者及び車などの動的情報と、事故及び渋滞などの準動的情報と、交通規制及び道路工事などの準静的情報と、路面及び構造物などの静的情報とにオブジェクトを分類することでグループ化を行う。
なお、複数のスライスにおいてデータが重複してもよい。例えば、複数のオブジェクトグループ毎にスライス分割する場合、任意のオブジェクトは1つのオブジェクトグループに属してもよいし、2以上の複数のオブジェクトグループに属してもよい。
図61は、このスライス分割の例を示す図である。例えば、図61に示す例では、タイルは直方体である。なお、タイルは円柱状であってもよいし、その他の形状であってもよい。
タイルに含まれる点群は、例えば、道、建物、木等のオブジェクトグループにグループ化される。そして、各オブジェクトグループが一つのスライスに含まれるようにスライス化が行われる。そして、各スライスは個別に符号化される。
次に、分割データの符号化方法について説明する。三次元データ符号化装置(第1の符号化部5010)は、分割されたデータを、それぞれ符号化する。三次元データ符号化装置は、属性情報を符号化する際に、どの構成情報(位置情報、付加情報又は他の属性情報)に基づき符号化を行ったかを示す依存関係情報を付加情報として生成する。つまり、依存関係情報は、例えば、参照先(依存先)の構成情報を示す。この場合、三次元データ符号化装置は、属性情報の分割形状に対応する構成情報に基づき依存関係情報を生成する。なお、三次元データ符号化装置は、複数の分割形状に対応する構成情報に基づき依存関係情報を生成してもよい。
依存関係情報は三次元データ符号化装置で生成され、生成された依存関係情報が三次元データ復号装置に送出されてもよい。または、三次元データ復号装置が依存関係情報を生成し、三次元データ符号化装置は依存関係情報を送出しなくてもよい。また、三次元データ符号化装置が使用する依存関係を、予め定めておき、三次元データ符号化装置は、依存関係情報を送出しなくてもよい。
図62は、各データの依存関係の一例を示す図である。図中の矢印の先は依存先を示し、矢印の元は依存元を示している。三次元データ復号装置は、依存先から依存元の順でデータを復号する。また、図中に実線で示すデータは実際に送出されるデータであり、点線で示すデータは送出されないデータである。
また、同図において、Gは位置情報を示し、Aは属性情報を示す。Gt1は、タイル番号1の位置情報を示し、Gt2は、タイル番号2の位置情報を示す。Gt1s1は、タイル番号1かつスライス番号1の位置情報を示し、Gt1s2は、タイル番号1かつスライス番号2の位置情報を示し、Gt2s1は、タイル番号2かつスライス番号1の位置情報を示し、Gt2s2は、タイル番号2かつスライス番号2の位置情報を示す。同様に、At1は、タイル番号1の属性情報を示し、At2は、タイル番号2の属性情報を示す。At1s1は、タイル番号1かつスライス番号1の属性情報を示し、At1s2は、タイル番号1かつスライス番号2の属性情報を示し、At2s1は、タイル番号2かつスライス番号1の属性情報を示し、At2s2は、タイル番号2かつスライス番号2の属性情報を示す。
Mtileは、タイル付加情報を示し、MGsliceは、位置スライス付加情報を示し、MAsliceは、属性スライス付加情報を示す。Dt1s1は属性情報At1s1の依存関係情報を示し、Dt2s1は属性情報At2s1の依存関係情報を示す。
なお、アプリケーション等に応じて、異なるタイル分割又はスライス分割の構造が用いられてもよい。
また、三次元データ符号化装置は、三次元データ復号装置においてデータを並び替える必要がないように、データを復号順に並び替えてもよい。なお、三次元データ復号装置においてデータを並び替えてもよいし、三次元データ符号化装置と三次元データ復号装置との両方でデータを並び替えてもよい。
図63は、データの復号順の例を示す図である。図63の例では、左のデータから順に復号が行われる。三次元データ復号装置は、依存関係にあるデータ間では、依存先のデータから先に復号する。例えば、三次元データ符号化装置は、この順序となるようにデータを予め並び替えて送出する。なお、依存先のデータが先になる順序であれば、どのような順序でもよい。また、三次元データ符号化装置は、付加情報及び依存関係情報をデータより先に送出してもよい。
また、三次元データ復号装置は、アプリケーションからの要求、及びNALユニットヘッダから得られた情報に基づき、選択的にタイルを復号してもよい。図64は、タイルの符号化データの例を示す図である。例えば、タイルの復号順は任意である。つまり、タイル間に依存関係がなくてもよい。
次に、第1の復号部5020に含まれる結合部5025の構成を説明する。図65は、結合部5025の構成を示すブロック図である。結合部5025は、位置情報スライス結合部5041(Geometry Slice Combiner)と、属性情報スライス結合部5042(Attribute Slice Combiner)と、タイル結合部(Tile Combiner)とを含む。
位置情報スライス結合部5041は、位置スライス付加情報を用いて複数の分割位置情報を結合することで複数のタイル位置情報を生成する。属性情報スライス結合部5042は、属性スライス付加情報を用いて複数の分割属性情報を結合することで複数のタイル属性情報を生成する。
タイル結合部5043は、タイル付加情報を用いて複数のタイル位置情報を結合することで位置情報を生成する。また、タイル結合部5043は、タイル付加情報を用いて複数のタイル属性情報を結合することで属性情報を生成する。
なお、分割されるスライス又はタイルの数は1以上である。つまり、スライス又はタイルの分割が行われていなくてもよい。
次に、スライス分割又はタイル分割された符号化データの構成、及び符号化データのNALユニットへの格納方法(多重化方法)を説明する。図66は、符号化データの構成及び符号化データのNALユニットへの格納方法を示す図である。
符号化データ(分割位置情報及び分割属性情報)は、NALユニットのペイロードに格納される。
符号化データは、ヘッダとペイロードとを含む。ヘッダは、ペイロードに含まれるデータを特定するための識別情報を含む。この識別情報は、例えば、スライス分割或いはタイル分割の種別(slice_type、tile_type)、スライス或いはタイルを特定するためのインデックス情報(slice_idx、tile_idx)、データ(スライス或いはタイル)の位置情報、又はデータのアドレス(address)などを含む。スライスを特定するためのインデックス情報は、スライスインデックス(SliceIndex)とも記す。タイルを特定するためのインデックス情報は、タイルインデックス(TileIndex)とも記す。また、分割の種別とは、例えば、上述したようなオブジェクト形状に基づく手法、地図情報或いは位置情報に基づく手法、又は、データ量或いは処理量に基づく手法等である。
また、符号化データのヘッダは、依存関係を示す識別情報を含む。つまり、当該ヘッダは、データ間に依存関係がある場合は、依存元から依存先を参照するための識別情報を含む。例えば、依存先のデータのヘッダには、当該データを特定するための識別情報が含まれる。依存元のデータのヘッダには、依存先を示す識別情報が含まれる。なお、データを特定するための識別情報、スライス分割又はタイル分割に係る付加情報、及び依存関係を示す識別情報を、他の情報から識別可能又は導出可能である場合は、これらの情報を省略してもよい。
次に、本実施の形態に係る点群データの符号化処理及び復号処理の流れについて説明する。図67は、本実施の形態に係る点群データの符号化処理のフローチャートである。
まず、三次元データ符号化装置は、使用する分割方法を決定する(S5011)。この分割方法は、タイル分割を行うか否か、スライス分割を行うか否かを含む。また、分割方法は、タイル分割又はスライス分割を行う場合の分割数、及び、分割の種別等を含んでもよい。分割の種別とは、上述したようなオブジェクト形状に基づく手法、地図情報或いは位置情報に基づく手法、又は、データ量或いは処理量に基づく手法等である。なお、分割方法は、予め定められていてもよい。
タイル分割が行われる場合(S5012でYes)、三次元データ符号化装置は、位置情報と属性情報とを一括で分割することで複数のタイル位置情報及び複数のタイル属性情報を生成する(S5013)。また、三次元データ符号化装置は、タイル分割に係るタイル付加情報を生成する。なお、三次元データ符号化装置は、位置情報と属性情報とを独立に分割してもよい。
スライス分割が行われる場合(S5014でYes)、三次元データ符号化装置は、複数のタイル位置情報及び複数のタイル属性情報(又は位置情報及び属性情報)を独立に分割することで複数の分割位置情報及び複数の分割属性情報を生成する(S5015)。また、三次元データ符号化装置は、スライス分割に係る位置スライス付加情報及び属性スライス付加情報を生成する。なお、三次元データ符号化装置は、タイル位置情報とタイル属性情報とを一括で分割してもよい。
次に、三次元データ符号化装置は、複数の分割位置情報及び複数の分割属性情報の各々を符号化することで、複数の符号化位置情報及び複数の符号化属性情報を生成する(S5016)。また、三次元データ符号化装置は、依存関係情報を生成する。
次に、三次元データ符号化装置は、複数の符号化位置情報、複数の符号化属性情報及び付加情報をNALユニット化(多重化)することで符号化データ(符号化ストリーム)を生成する(S5017)。また、三次元データ符号化装置は、生成した符号化データを送出する。
図68は、本実施の形態に係る点群データの復号処理のフローチャートである。まず、三次元データ復号装置は、符号化データ(符号化ストリーム)に含まれる、分割方法に係る付加情報(タイル付加情報、位置スライス付加情報及び属性スライス付加情報)を解析することで、分割方法を判定する(S5021)。この分割方法は、タイル分割を行うか否か、スライス分割を行うか否かを含む。また、分割方法は、タイル分割又はスライス分割を行う場合の分割数、及び、分割の種別等を含んでもよい。
次に、三次元データ復号装置は、符号化データに含まれる複数の符号化位置情報及び複数の符号化属性情報を、符号化データに含まれる依存関係情報を用いて復号することで分割位置情報及び分割属性情報を生成する(S5022)。
付加情報によりスライス分割が行われていることが示される場合(S5023でYes)、三次元データ復号装置は、位置スライス付加情報及び属性スライス付加情報に基づき、複数の分割位置情報と、複数の分割属性情報とを、それぞれの方法で結合することで、複数のタイル位置情報及び複数のタイル属性情報を生成する(S5024)。なお、三次元データ復号装置は、複数の分割位置情報と、複数の分割属性情報とを同一の方法で結合してもよい。
付加情報によりタイル分割が行われていることが示される場合(S5025でYes)、三次元データ復号装置は、タイル付加情報に基づき、複数のタイル位置情報及び複数のタイル属性情報(複数の分割位置情報及び複数の分割属性情報)を同一の方法で結合することで位置情報及び属性情報を生成する(S5026)。なお、三次元データ復号装置は、複数のタイル位置情報と複数のタイル属性情報とを、それぞれ異なる方法で結合してもよい。
次に、タイル付加情報について説明する。三次元データ符号化装置は、タイルの分割方法に関するメタデータであるタイル付加情報を生成し、生成したタイル付加情報を三次元データ復号装置に送信する。
図69は、タイル付加情報(TileMetaData)のシンタックス例を示す図である。図69に示すように、例えば、タイル付加情報は、分割方法情報(type_of_divide)と、形状情報(topview_shape)と、重複フラグ(tile_overlap_flag)と、重複情報(type_of_overlap)と、高さ情報(tile_height)と、タイル数(tile_number)と、タイル位置情報(global_position、relative_position)と、を含む。
分割方法情報(type_of_divide)は、タイルの分割方法を示す。例えば、分割方法情報は、タイルの分割方法が、地図の情報に基づいた分割であるか、つまり上面視に基づく分割(top_view)であるか、それ以外(other)であるかを示す。
形状情報(topview_shape)は、例えば、タイルの分割方法が上面視に基づく分割である場合に、タイル付加情報に含まれる。形状情報は、タイルを上面視した形状を示す。例えば、この形状は、正方形及び円を含む。なお、この形状は、楕円、矩形又は四角形以外の多角形を含んでもよいし、それ以外の形状を含んでもよい。なお、形状情報は、タイルを上面視した形状に限らず、タイルの三次元形状(例えば、立方体及び円柱等)を示してもよい。
重複フラグ(tile_overlap_flag)は、タイルが重複するか否かを示す。例えば、重複フラグは、タイルの分割方法が上面視に基づく分割である場合に、タイル付加情報に含まれる。この場合、重複フラグは、上面視において、タイルが重複するか否かを示す。なお、重複フラグは、三次元空間においてタイルが重複するか否かを示してもよい。
重複情報(type_of_overlap)は、例えば、タイルが重複する場合に、タイル付加情報に含まれる。重複情報は、タイルの重複のしかた等を示す。例えば、重複情報は、重複する領域の大きさ等を示す。
高さ情報(tile_height)は、タイルの高さを示す。なお、高さ情報は、タイルの形状を示す情報を含んでもよい。例えば、当該情報は、タイルの上面視における形状が矩形の場合には、当該の矩形の辺の長さ(縦の長さ及び横の長さ)を示してもよい。また、当該情報は、タイルの上面視における形状が円の場合には、当該円の直径又は半径を示してもよい。
また、高さ情報は、各タイルの高さを示してもよし、複数のタイルで共通の高さを示してもよい。また、予め道路及び立体交差部分等の複数の高さタイプが設定され、高さ情報により、各高さタイプの高さと、各タイルの高さタイプとが示されてもよい。または、各高さタイプの高さは予め定義されており、高さ情報により、各タイルの高さタイプが示されてもよい。つまり、各高さタイプの高さは、高さ情報で示されなくてもよい。
タイル数(tile_number)は、タイルの数を示す。なお、タイル付加情報は、タイルの間隔を示す情報を含んでもよい。
タイル位置情報(global_position、relative_position)は、各タイルの位置を特定するための情報である。例えば、タイル位置情報は、各タイルの絶対座標又は相対座標を示す。
なお、上記の情報の一部又は全ては、タイル毎に設けられてもよいし、複数のタイル毎(例えばフレーム毎又は複数フレーム毎)に設けられてもよい。
三次元データ符号化装置は、タイル付加情報を、SEI(Supplemental Enhancement Information)に含めて送出してもよい。または、三次元データ符号化装置は、タイル付加情報を、既存のパラメータセット(PPS、GPS、又はAPS等)に格納して送出してもよい。
例えば、タイル付加情報がフレーム毎に変化する場合は、フレーム毎のパラメータセット(GPS又はAPS等)にタイル付加情報が格納されてもよい。シーケンス内でタイル付加情報が変化しない場合は、シーケンス毎のパラメータセット(位置SPS又は属性SPS)にタイル付加情報が格納されてもよい。さらに、位置情報と属性情報とで同じタイル分割情報が用いられる場合は、PCCストリームのパラメータセット(ストリームPS)にタイル付加情報が格納されてもよい。
また、タイル付加情報は、上記のいずれかのパラメータセットに格納されてもよいし、複数のパラメータセットに格納されてもよい。また、タイル付加情報は、符号化データのヘッダに格納されてもよい。また、タイル付加情報は、NALユニットのヘッダに格納されてもよい。
また、タイル付加情報の全て又は一部は、分割位置情報のヘッダ及び分割属性情報のヘッダの一方に格納され、他方に格納されてなくてもよい。例えば、位置情報と属性情報とで同一のタイル付加情報が用いられる場合には、位置情報と属性情報の一方のヘッダにタイル付加情報が含まれてもよい。例えば、位置情報に属性情報が依存する場合には、位置情報が先に処理される。よって、位置情報のヘッダにこれらのタイル付加情報が含まれ、属性情報のヘッダにはタイル付加情報が含まれなくてもよい。この場合、三次元データ復号装置は、例えば、依存先の位置情報のタイルと同一のタイルに依存元の属性情報が属すると判断する。
三次元データ復号装置は、タイル付加情報に基づき、タイル分割された点群データを再構成する。三次元データ復号装置は、重複する点群データがある場合は、重複する複数の点群データを特定し、いずれかを選択、又は複数の点群データをマージする。
また、三次元データ復号装置は、タイル付加情報を用いて復号を行ってもよい。例えば、三次元データ復号装置は、複数のタイルが重複する場合は、タイル毎に復号を行い、復号された複数のデータを用いた処理(例えば平滑化、又はフィルタリング等)を行い、点群データを生成してもよい。これにより精度の高い復号が可能となる可能性がある。
図70は、三次元データ符号化装置及び三次元データ復号装置を含むシステムの構成例を示す図である。タイル分割部5051は、位置情報及び属性情報を含む点群データを第1タイルと第2タイルとに分割する。また、タイル分割部5051は、タイル分割に係るタイル付加情報を復号部5053及びタイル結合部5054に送る。
符号化部5052は、第1タイル及び第2タイルを符号化することで符号化データを生成する。
復号部5053は、符号化部5052で生成された符号化データを復号することで第1タイル及び第2タイルを復元する。タイル結合部5054は、タイル付加情報を用いて、第1タイル及び第2タイルを結合することで点群データ(位置情報及び属性情報)を復元する。
次に、スライス付加情報について説明する。三次元データ符号化装置は、スライスの分割方法に関するメタデータであるスライス付加情報を生成し、生成したスライス付加情報を三次元データ復号装置に送信する。
図71は、スライス付加情報(SliceMetaData)のシンタックス例を示す図である。図71に示すように、例えば、スライス付加情報は、分割方法情報(type_of_divide)と、重複フラグ(slice_overlap_flag)と、重複情報(type_of_overlap)と、スライス数(slice_number)と、スライス位置情報(global_position、relative_position)と、スライスサイズ情報(slice_bounding_box_size)とを含む。
分割方法情報(type_of_divide)は、スライスの分割方法を示す。例えば、分割方法情報は、スライスの分割方法が、図61で示すようなオブジェクトの情報に基づいた分割である(object)か否かを示す。なお、スライス付加情報は、オブジェクト分割の方法を示す情報を含んでもよい。例えば、この情報は、1つのオブジェクトを複数のスライスに分割するか、1つのスライスに割り当てるかを示す。また、この情報は、1つのオブジェクトを複数のスライスに分割する場合の分割数等を示してもよい。
重複フラグ(slice_overlap_flag)は、スライスが重複するか否かを示す。重複情報(type_of_overlap)は、例えば、スライスが重複する場合に、スライス付加情報に含まれる。重複情報は、スライスの重複のしかた等を示す。例えば、重複情報は、重複する領域の大きさ等を示す。
スライス数(slice_number)は、スライスの数を示す。
スライス位置情報(global_position、relative_position)、及びスライスサイズ情報(slice_bounding_box_size)は、スライスの領域に関する情報である。スライス位置情報は、各スライスの位置を特定するための情報である。例えば、スライス位置情報は、各スライスの絶対座標又は相対座標を示す。スライスサイズ情報(slice_bounding_box_size)は、各スライスのサイズを示す。例えば、スライスサイズ情報は、各スライスのバウンディングボックスのサイズを示す。
三次元データ符号化装置は、スライス付加情報をSEIに含めて送出してもよい。または、三次元データ符号化装置は、スライス付加情報を、既存のパラメータセット(PPS、GPS、又はAPS等)に格納して送出してもよい。
例えば、スライス付加情報がフレーム毎に変化する場合は、フレーム毎のパラメータセット(GPS又はAPS等)にスライス付加情報が格納されてもよい。シーケンス内でスライス付加情報が変化しない場合は、シーケンス毎のパラメータセット(位置SPS又は属性SPS)にスライス付加情報が格納されてもよい。さらに、位置情報と属性情報とで同じスライス分割情報が用いられる場合は、PCCストリームのパラメータセット(ストリームPS)にスライス付加情報が格納されてもよい。
また、スライス付加情報は、上記のいずれかのパラメータセットに格納されてもよいし、複数のパラメータセットに格納されてもよい。また、スライス付加情報は、符号化データのヘッダに格納されてもよい。また、スライス付加情報は、NALユニットのヘッダに格納されてもよい。
また、スライス付加情報の全て又は一部は、分割位置情報のヘッダ及び分割属性情報のヘッダの一方に格納され、他方に格納されてなくてもよい。例えば、位置情報と属性情報とで同一のスライス付加情報が用いられる場合には、位置情報と属性情報の一方のヘッダにスライス付加情報が含まれてもよい。例えば、位置情報に属性情報が依存する場合には、位置情報が先に処理される。よって、位置情報のヘッダにこれらのスライス付加情報が含まれ、属性情報のヘッダにはスライス付加情報が含まれなくてもよい。この場合、三次元データ復号装置は、例えば、依存先の位置情報のスライスと同一のスライスに依存元の属性情報が属すると判断する。
三次元データ復号装置は、スライス付加情報に基づき、スライス分割された点群データを再構成する。三次元データ復号装置は、重複する点群データがある場合は、重複する複数の点群データを特定し、いずれかを選択、又は複数の点群データをマージする。
また、三次元データ復号装置は、スライス付加情報を用いて復号を行ってもよい。例えば、三次元データ復号装置は、複数のスライスが重複する場合は、スライス毎に復号を行い、復号された複数のデータを用いた処理(例えば平滑化、又はフィルタリング)を行い、点群データを生成してもよい。これにより精度の高い復号が可能となる可能性がある。
図72は、本実施の形態に係る三次元データ符号化装置による、タイル付加情報の生成処理を含む三次元データ符号化処理のフローチャートである。
まず、三次元データ符号化装置は、タイルの分割方法を決定する(S5031)。具体的には、三次元データ符号化装置は、タイルの分割方法として、上面視に基づく分割方法(top_view)を用いるか、それ以外(other)を用いるかを決定する。また、三次元データ符号化装置は、上面視に基づく分割方法を用いる場合のタイルの形状を決定する。また、三次元データ符号化装置は、タイルが他のタイルと重複するか否かを決定する。
ステップS5031で決定したタイルの分割方法が上面視に基づく分割方法である場合(S5032でYes)、三次元データ符号化装置は、タイルの分割方法が上面視に基づく分割方法(top_view)であることをタイル付加情報に記載する(S5033)。
一方、ステップS5031で決定したタイルの分割方法が上面視に基づく分割方法以外である場合(S5032でNo)、三次元データ符号化装置は、タイルの分割方法が上面視に基づく分割方法(top_view)以外の方法であることをタイル付加情報に記載する(S5034)。
また、ステップS5031で決定した、タイルを上面視した形状が正方形である場合(S5035で正方形)、三次元データ符号化装置は、タイルを上面視した形状が正方形であることをタイル付加情報に記載する(S5036)。一方、ステップS5031で決定した、タイルを上面視した形状が円である場合(S5035で円)、三次元データ符号化装置は、タイルを上面視した形状が円であることをタイル付加情報に記載する(S5037)。
次に、三次元データ符号化装置は、タイルが他のタイルと重複するかを判定する(S5038)。タイルが他のタイルと重複している場合(S5038でYes)、三次元データ符号化装置は、タイルが重複していることをタイル付加情報に記載する(S5039)。一方、タイルが他のタイルと重複していない場合(S5038でNo)、三次元データ符号化装置は、タイルが重複していないことをタイル付加情報に記載する(S5040)。
次に、三次元データ符号化装置は、ステップS5031で決定したタイルの分割方法に基づきタイルを分割し、各タイルを符号化し、生成された符号化データ及びタイル付加情報を送出する(S5041)。
図73は、本実施の形態に係る三次元データ復号装置による、タイル付加情報を用いた三次元データ復号処理のフローチャートである。
まず、三次元データ復号装置は、ビットストリームに含まれるタイル付加情報を解析する(S5051)。
タイル付加情報によりタイルが他のタイルと重複していないことが示される場合(S5052でNo)、三次元データ復号装置は、各タイルを復号することで各タイルの点群データを生成する(S5053)。次に、三次元データ復号装置は、タイル付加情報で示されるタイルの分割方法及びタイルの形状に基づき、各タイルの点群データから点群データを再構成する(S5054)。
一方、タイル付加情報によりタイルが他のタイルと重複していることが示される場合(S5052でYes)、三次元データ復号装置は、各タイルを復号することで各タイルの点群データを生成する。また、三次元データ復号装置は、タイル付加情報に基づき、タイルの重複部分を特定する(S5055)。なお、三次元データ復号装置は、重複部分については重複する複数の情報を用いて復号処理を行ってもよい。次に、三次元データ復号装置は、タイル付加情報で示されるタイルの分割方法、タイルの形状、及び重複情報に基づき、各タイルの点群データから点群データを再構成する(S5056)。
以下、スライスに関する変形例等を説明する。三次元データ符号化装置は、オブジェクトの種類(道、建物、木等)又は属性(動的情報、静的情報等)を示す情報を付加情報として送信してもよい。または、オブジェクトに応じて符号化のパラメータが予め規定され、三次元データ符号化装置は、オブジェクトの種類又は属性を送出することにより符号化パラメータを三次元データ復号装置へ通知してもよい。
スライスデータの符号化順及び送出順について以下の方法を用いてもよい。例えば、三次元データ符号化装置は、オブジェクトの認識又はクラスタリングが容易なデータから順にスライスデータを符号化してもよい。または、三次元データ符号化装置は、早くクラスタリングが終わったスライスデータから順に符号化を行ってもよい。また、三次元データ符号化装置は、符号化されたスライスデータから順に送出してもよい。または、三次元データ符号化装置は、アプリケーションにおいて復号の優先度の高い順にスライスデータを送出してもよい。例えば、動的情報の復号の優先度が高い場合には、三次元データ符号化装置は、動的情報でグループ化されたスライスから順にスライスデータを送出してもよい。
また、三次元データ符号化装置は、符号化データの順番と、復号の優先度の順番とが異なる場合には、符号化データを並び替えた後に送出してもよい。また、三次元データ符号化装置は、符号化データを蓄積する際には、符号化データを並び替えた後に蓄積してもよい。
アプリケーション(三次元データ復号装置)は、所望のデータを含むスライスの送出をサーバ(三次元データ符号化装置)に要求する。サーバはアプリケーションが必要とするスライスデータを送出し、不要なスライスデータは送出しなくてもよい。
アプリケーションは、所望のデータを含むタイルの送出をサーバに要求する。サーバはアプリケーションが必要とするタイルデータを送出し、不要なタイルデータは送出しなくてもよい。
以上のように、本実施の形態に係る三次元データ符号化装置は、図74に示す処理を行う。まず、三次元データ符号化装置は、複数の三次元点が含まれる対象空間を分割した複数のサブ空間(例えばタイル)を符号化することで複数の符号化データを生成する(S5061)。三次元データ符号化装置は、前記複数の符号化データと、前記複数のサブ空間の形状を示す第1情報(例えばtopview_shape)とを含むビットストリームを生成する(S5062)。
これによれば、三次元データ符号化装置は、複数種類のサブ空間の形状から任意の形状を選択できるので符号化効率を向上できる。
例えば、前記形状は、前記複数のサブ空間の二次元における形状、又は三次元における形状である。例えば、前記形状は、前記複数のサブ空間を上面視した形状である。つまり、第1情報は、サブ空間を特定の方向(例えば上方向)から見た形状を示す。言い換えると、第1情報は、サブ空間を俯瞰した形状を示す。例えば、前記形状は、矩形又は円である。
例えば、前記ビットストリームは、前記複数のサブ区間が重複するか否かを示す第2情報(例えばtile_overlap_flag)を含む。
これによれば、三次元データ符号化装置は、サブ空間を重複させることができるので、サブ空間の形状を複雑にすることなくサブ空間を生成できる。
例えば、前記ビットストリームは、前記複数のサブ区間の分割方法が上面視を用いた分割方法であるかを示す第3情報(例えばtype_of_divide)を含む。
例えば、前記ビットストリームは、前記複数のサブ区間の高さ、幅、奥行き及び半径のうち少なくとも1つを示す第4情報(例えばtile_height)を含む。
例えば、前記ビットストリームは、前記複数のサブ区間の各々の位置を示す第5情報(例えばglobal_position又はrelative_position)を含む。
例えば、前記ビットストリームは、前記複数のサブ区間の数を示す第6情報(例えばtile_number)を含む。
例えば、前記ビットストリームは、前記複数のサブ区間の間隔を示す第7情報を含む。
例えば、三次元データ符号化装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
また、本実施の形態に係る三次元データ復号装置は、図75に示す処理を行う。まず、三次元データ復号装置は、ビットストリームに含まれる、複数の三次元点が含まれる対象空間を分割した複数のサブ空間(例えばタイル)が符号化されることで生成された複数の符号化データを復号することで前記複数のサブ空間を復元する(S5071)。三次元データ復号装置は、前記ビットストリームに含まれる、前記複数のサブ空間の形状を示す第1情報(例えばtopview_shape)を用いて前記複数のサブ空間を結合することで前記対象空間を復元する(S5072)。例えば、三次元データ復号装置は、第1情報を用いて、複数のサブ空間の形状を認識することで、各サブ空間の対象空間内の位置及び範囲を把握できる。三次元データ復号装置は、把握した複数のサブ空間の位置及び範囲に基づき複数のサブ空間を結合できる。これにより、三次元データ復号装置は、複数のサブ空間を正しく結合できる。
例えば、前記形状は、前記複数のサブ空間の二次元における形状、又は三次元における形状である。例えば、前記形状は、矩形又は円である。
例えば、前記ビットストリームは、前記複数のサブ区間が重複するか否かを示す第2情報(例えばtile_overlap_flag)を含む。三次元データ復号装置は、前記対象空間の復元では、前記第2情報をさらに用いて前記複数のサブ空間を結合する。例えば、三次元データ復号装置は、第2情報を用いて、サブ空間が重複している否かを判定する。三次元データ復号装置は、サブ空間が重複している場合には、重複領域を特定し、特定した重複領域に対しては、所定の対応を行う。
例えば、前記ビットストリームは、前記複数のサブ区間の分割方法が上面視を用いた分割方法であるかを示す第3情報(例えばtype_of_divide)を含む。三次元データ復号装置は、前記第3情報により、前記複数のサブ区間の分割方法が上面視を用いた分割方法であることが示される場合、前記第1情報を用いて前記複数のサブ空間を結合する。
例えば、前記ビットストリームは、前記複数のサブ区間の高さ、幅、奥行き及び半径のうち少なくとも1つを示す第4情報(例えばtile_height)を含む。三次元データ復号装置は、前記対象空間の復元では、前記第4情報をさらに用いて前記複数のサブ空間を結合する。例えば、三次元データ復号装置は、第4情報を用いて、複数のサブ空間の高さを認識することで、各サブ空間の対象空間内の位置及び範囲を把握できる。三次元データ復号装置は、把握した複数のサブ空間の位置及び範囲に基づき複数のサブ空間を結合できる。
例えば、前記ビットストリームは、前記複数のサブ区間の各々の位置を示す第5情報(例えばglobal_position又はrelative_position)を含む。三次元データ復号装置は、前記対象空間の復元では、前記第5情報をさらに用いて前記複数のサブ空間を結合する。例えば、三次元データ復号装置は、第5情報を用いて、複数のサブ空間の位置を認識することで、各サブ空間の対象空間内の位置を把握できる。三次元データ復号装置は、把握した複数のサブ空間の位置に基づき複数のサブ空間を結合できる。
例えば、前記ビットストリームは、前記複数のサブ区間の数を示す第6情報(例えばtile_number)を含む。三次元データ復号装置は、前記対象空間の復元では、前記第6情報をさらに用いて前記複数のサブ空間を結合する。
例えば、前記ビットストリームは、前記複数のサブ区間の間隔を示す第7情報を含む。三次元データ復号装置は、前記対象空間の復元では、前記第7情報をさらに用いて前記複数のサブ空間を結合する。例えば、三次元データ復号装置は、第7情報を用いて、複数のサブ空間の間隔を認識することで、各サブ空間の対象空間内の位置及び範囲を把握できる。三次元データ復号装置は、把握した複数のサブ空間の位置及び範囲に基づき複数のサブ空間を結合できる。
例えば、三次元データ復号装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
(実施の形態7)
点群データをタイルおよびスライスに分割し、分割データを効率的に符号化または復号するには、符号化側および復号側で適切に制御する必要がある。分割データの符号化および復号を分割データ間で依存関係がなく独立にすることで、マルチスレッドまたはマルチコアプロセッサを用いて、それぞれのスレッド/コアにおいて分割データを並行に処理でき、パフォーマンスが向上する。
点群データをタイルおよびスライスに分割する方法は様々な方法があり、例えば、路面などの点群データの対象物の属性や、点群データの緑などの色情報などの特性に基づき分割する方法がある。
CABACは、Context-Based Adaptive Binary Arithmetic Codingの略で、コンテキスト(入力される2値シンボルの生起確率を推定するモデル)を符号化済みの情報に基づき順次更新することで確率の精度を高め、高い圧縮率の算術符号化(エントロピ符号化)を実現する符号化方法である。
タイルまたはスライスのような分割データを並行処理するためには、それぞれの分割データを独立に符号化または復号できる必要がある。しかし、分割データ間でCABACを独立にするためには、符号化および復号において、分割データの先頭でCABACを初期化する必要があるが、その仕組みがない。
CABACABAC初期化フラグは、CABAC符号化および復号においてCABACを初期化するために用いられる。
図76は、符号化または復号において、CABAC初期化フラグに応じて、CABACCABACの初期化の処理を示すフローチャートである。
三次元データ符号化装置または三次元データ復号装置は、符号化または復号において、CABAC初期化フラグが1であるか否かを判定する(S5201)。
三次元データ符号化装置または三次元データ復号装置は、CABAC初期化フラグが1である場合(S5201でYes)、デフォルト状態にCABAC符号化部/復号部を初期化し(S5202)、符号化または復号を継続する。
三次元データ符号化装置または三次元データ復号装置は、CABAC初期化フラグが1でない場合(S5201でNo)、初期化せずに符号化または復号を継続する。
つまり、CABACを初期化する場合、CABAC_init_flag=1とし、CABACの符号化部、あるいはCABACの復号部を初期化あるいは再初期化する。なお、初期化する場合、CABAC処理に用いるコンテキストの初期値(デフォルト状態)を設定する。
符号化処理について説明する。図77は、本実施の形態に係る三次元データ符号化装置に含まれる第1の符号化部5200の構成を示すブロック図である。図78は、本実施の形態に係る分割部5201の構成を示すブロック図である。図79は、本実施の形態に係る位置情報符号化部5202および属性情報符号化部5203の構成を示すブロック図である。
第1の符号化部5200は、点群データを第1の符号化方法(GPCC((Geometry based PCC))で符号化することで符号化データ(符号化ストリーム)を生成する。この第1の符号化部5200は、分割部5201と、複数の位置情報符号化部5202と、複数の属性情報符号化部5203と、付加情報符号化部5204と、多重化部5205とを含む。
分割部5201は、点群データを分割することで複数の分割データを生成する。具体的には、分割部5201は、点群データの空間を複数のサブ空間に分割することで複数の分割データを生成する。ここでサブ空間とは、タイル及びスライスの一方、又はタイル及びスライスの組み合わせである。より具体的には、点群データは、位置情報、属性情報、及び付加情報を含む。分割部5201は、位置情報を複数の分割位置情報に分割し、属性情報を複数の分割属性情報に分割する。また、分割部5201は、分割に関する付加情報を生成する。
分割部5201は、図78に示すように、タイル分割部5211と、スライス分割部5212とを含む。例えば、タイル分割部5211は、点群をタイルに分割する。タイル分割部5211は、分割した各タイルに用いる量子化値をタイル付加情報として決定してもよい。
スライス分割部5212は、タイル分割部5211により得られたタイルを、さらにスライスに分割する。スライス分割部5212は、分割した各スライスに用いる量子化値をスライス付加情報として決定してもよい。
複数の位置情報符号化部5202は、複数の分割位置情報を符号化することで複数の符号化位置情報を生成する。例えば、複数の位置情報符号化部5202は、複数の分割位置情報を並列処理する。
位置情報符号化部5202は、図79に示すように、CABAC初期化部5221と、エントロピ符号化部5222とを含む。CABAC初期化部5221は、CABAC初期化フラグに応じてCABACを初期化または再初期化する。エントロピ符号化部5222は、分割位置情報をCABACにより符号化する。
複数の属性情報符号化部5203は、複数の分割属性情報を符号化することで複数の符号化属性情報を生成する。例えば、複数の属性情報符号化部5203は、複数の分割属性情報を並列処理する。
属性情報符号化部5203は、図79に示すように、CABAC初期化部5231と、エントロピ符号化部5232とを含む。CABAC初期化部5221は、CABAC初期化フラグに応じてCABACを初期化または再初期化する。エントロピ符号化部5232は、分割属性情報をCABACにより符号化する。
付加情報符号化部5204は、点群データに含まれる付加情報と、分割部5201で分割時に生成された、データ分割に関する付加情報とを符号化することで符号化付加情報を生成する。
多重化部5205は、複数の符号化位置情報、複数の符号化属性情報及び符号化付加情報を多重化することで符号化データ(符号化ストリーム)を生成し、生成した符号化データを送出する。また、符号化付加情報は復号時に使用される。
なお、図77では、位置情報符号化部5202及び属性情報符号化部5203の数がそれぞれ2つの例を示しているが、位置情報符号化部5202及び属性情報符号化部5203の数は、それぞれ1つであってもよいし、3つ以上であってもよい。また、複数の分割データは、CPU内の複数コアのように同一チップ内で並列処理されてもよいし、複数のチップのコアで並列処理されてもよいし、複数チップの複数コアで並列処理されてもよい。
次に、復号処理について説明する。図80は、第1の復号部5240の構成を示すブロック図である。図81は、位置情報復号部5242および属性情報復号部5243の構成を示すブロック図である。
第1の復号部5240は、点群データが第1の符号化方法(GPCC)で符号化されることで生成された符号化データ(符号化ストリーム)を復号することで点群データを復元する。この第1の復号部5240は、逆多重化部5241と、複数の位置情報復号部5242と、複数の属性情報復号部5243と、付加情報復号部5244と、結合部5245とを含む。
逆多重化部5241は、符号化データ(符号化ストリーム)を逆多重化することで複数の符号化位置情報、複数の符号化属性情報及び符号化付加情報を生成する。
複数の位置情報復号部5242は、複数の符号化位置情報を復号することで複数の量子化位置情報を生成する。例えば、複数の位置情報復号部5242は、複数の符号化位置情報を並列処理する。
位置情報復号部5242は、図81に示すように、CABAC初期化部5251と、エントロピ復号部5252を含む。CABAC初期化部5251は、CABAC初期化フラグに応じてCABACを初期化または再初期化する。エントロピ復号部5252は、位置情報をCABACにより復号する。
複数の属性情報復号部5243は、複数の符号化属性情報を復号することで複数の分割属性情報を生成する。例えば、複数の属性情報復号部5243は、複数の符号化属性情報を並列処理する。
属性情報復号部5243は、図81に示すように、CABAC初期化部5261と、エントロピ復号部5262とを含む。CABAC初期化部5261は、CABAC初期化フラグに応じてCABACを初期化または再初期化する。エントロピ復号部5262は、属性情報をCABACにより復号する。
複数の付加情報復号部5244は、符号化付加情報を復号することで付加情報を生成する。
結合部5245は、付加情報を用いて複数の分割位置情報を結合することで位置情報を生成する。結合部5245は、付加情報を用いて複数の分割属性情報を結合することで属性情報を生成する。例えば、結合部5245は、まず、スライス付加情報を用いて、スライスに対する復号された点群データを結合することでタイルに対応する点群データを生成する。次に、結合部5245は、タイル付加情報を用いて、タイルに対応する点群データを結合することで元の点群データを復元する。
なお、図80では、位置情報復号部5242及び属性情報復号部5243の数がそれぞれ2つの例を示しているが、位置情報復号部5242及び属性情報復号部5243の数は、それぞれ1つであってもよし、3つ以上であってもよい。また、複数の分割データは、CPU内の複数コアのように同一チップ内で並列処理されてもよいし、複数のチップのコアで並列処理されてもよい、複数チップの複数コアで並列処理されてもよい。
図82は、位置情報の符号化あるいは属性情報の符号化におけるCABACの初期化に関する処理の一例を示すフローチャートである。
まず、三次元データ符号化装置は、スライス毎に、所定の条件に基づき、当該スライスの位置情報の符号化でCABAC初期化をするか否かを判定する(S5201)。
三次元データ符号化装置は、CABAC初期化すると判断した場合(S5202でYes)、位置情報の符号化に用いるコンテキスト初期値を決定する(S5203)。コンテキスト初期値は、符号化特性を考慮した初期値に設定される。初期値は、あらかじめ定められた値としても良いし、スライス内のデータの特性に応じて適応的に決定されてもよい。
次に、三次元データ符号化装置は、位置情報のCABAC初期化フラグを1に設定し、コンテキスト初期値を設定する(S5204)。CABAC初期化する場合、位置情報の符号化において、コンテキスト初期値を用いて初期化処理が実行される。
一方で、三次元データ符号化装置は、CABAC初期化しないと判断した場合(S5202でNo)、位置情報のCABAC初期化フラグを0に設定する(S5205)。
次に、三次元データ符号化装置は、スライス毎に、所定の条件に基づき、当該スライスの属性情報の符号化でCABAC初期化をするか否かを判定する(S5206)。
三次元データ符号化装置は、CABAC初期化すると判断した場合(S5207でYes)、属性情報の符号化に用いるコンテキスト初期値を決定する(S5208)。コンテキスト初期値は、符号化特性を考慮した初期値に設定される。初期値は、あらかじめ定められた値としても良いし、スライス内のデータの特性に応じて適応的に決定されてもよい。
次に、三次元データ符号化装置は、属性情報のCABAC初期化フラグを1に設定し、コンテキスト初期値を設定する(S5209)。CABAC初期化する場合、属性情報の符号化において、コンテキスト初期値を用いて初期化処理が実行される。
一方で、三次元データ符号化装置は、CABAC初期化しないと判断した場合(S5207でNo)、属性情報のCABAC初期化フラグを0に設定する(S5210)。
なお、図82におけるフローチャートにおいて、位置情報に係る処理と属性情報に係る処理との処理順は反対でも良いし、並列でもよい。
なお、図82におけるフローチャートでは、スライス単位の処理を例にしているが、タイル単位や、その他のデータ単位での処理の場合もスライス単位と同様に処理することができる。つまり、図82のフローチャートのスライスは、タイルまたは他のデータ単位と読み替えることができる。
また、所定の条件は、位置情報と属性情報とで同一条件であってもよいし、異なる条件であってもよい。
図83は、ビットストリームとした点群データにおいてCABAC初期化のタイミングの一例を示す図である。
点群データは、位置情報と0以上の属性情報とを含む。すなわち、点群データは、属性情報を持たない場合もあれば、複数の属性情報を持つ場合もある。
例えば、1つの三次元点に対して、属性情報として、色情報を持つ場合、色情報と反射情報とを持つ場合、1以上の視点情報にそれぞれ紐づく1以上の色情報を持つ場合などがある。
いずれの構成の場合にも、本実施形態で説明する方法を適用可能である。
次に、CABACの初期化の判定条件について説明する。
以下の条件を満たす場合、位置情報あるいは属性情報の符号化におけるCABACを初期化するとしてもよい。
例えば、位置情報あるいは属性情報(複数あればそれぞれの属性情報)の先頭データでCABACを初期化してもよい。例えば、単独で復号可能なPCCフレームを構成するデータの先頭でCABACを初期化してもよい。つまり、図83の(a)に示すように、PCCフレームがフレーム単位で復号可能であれば、PCCフレームの先頭データでCABACを初期化してもよい。
また、例えば、図83の(b)に示すように、PCCフレーム間でインター予想を用いている場合などフレームで単独で復号できない場合は、ランダムアクセス単位(例えばGOF)の先頭データでCABACを初期化してもよい。
また、例えば、図83の(c)に示すように、1以上に分割されたスライスデータの先頭や、1以上に分割されたタイルデータの先頭、その他の分割データの先頭でCABACを初期化してもよい。
図83の(c)は、タイルを例に示すが、スライスの場合も同様である。タイルまたはスライスの先頭では、必ず初期化するとしてもよいし、必ずしも初期化しなくてもよい。
図84は、符号化データの構成及び符号化データのNALユニットへの格納方法を示す図である。
初期化情報は、符号化データのヘッダに格納されてもよいし、メタデータに格納されても良い。また、初期化情報は、ヘッダとメタデータとの両方に格納されてもよい。初期化情報は、例えば、caba_init_flag、CABAC初期値、または、初期値を特定できるテーブルのインデックスである。
本実施の形態でメタデータに格納すると説明している部分は符号化データのヘッダに格納すると読み替えても良いし、逆も同様である。
初期化情報は、符号化データのヘッダに格納される場合、例えば、符号化データにおける最初のNALユニットに格納されてもよい。位置情報には、位置情報の符号化の初期化情報を格納し、属性情報には、属性情報の符号化の初期化情報を格納する。
属性情報の符号化のcabac_init_flagと、位置情報の符号化のcabac_init_flagとは、同じ値にしてもよいし、異なる値にしてもよい。同じ値にする場合には、位置情報と属性情報とのcabac_init_flagを共通にしてもよい。また、異なる値にする場合は、位置情報と属性情報とのcabac_init_flagは、それぞれ異なる値を示す。
初期化情報は、位置情報と属性情報とで共通のメタデータに格納されてもよいし、位置情報の個別のメタデータ、および、属性情報の個別のメタデータの少なくとも一方に格納されてもよいし、共通のメタデータと個別のメタデータとの両方に格納されてもよい。また、位置情報の個別のメタデータ、属性情報の個別のメタデータ、および、共通のメタデータのいずれかに記載されているか否かを示すフラグを用いても良い。
図85は、位置情報の復号あるいは属性情報の復号におけるCABACの初期化に関する処理の一例を示すフローチャートである。
三次元データ復号装置は、符号化データを解析し、位置情報のCABAC初期化フラグと、属性情報のCABAC初期化フラグと、コンテキスト初期値とを取得する(S5211)。
次に、三次元データ復号装置は、位置情報のCABAC初期化フラグが1であるか否かを判定する(S5212)。
三次元データ復号装置は、位置情報のCABAC初期化フラグが1である場合(S5212でYes)、位置情報符号化のコンテキスト初期値を用いて、位置情報符号化のCABAC復号を初期化する(S5213)。
一方で、三次元データ復号装置は、位置情報のCABAC初期化フラグが0である場合(S5212でNo)、位置情報符号化においてCABAC復号を初期化しない(S5214)。
次に、三次元データ復号装置は、属性情報のCABAC初期化フラグが1であるか否かを判定する(S5215)。
三次元データ復号装置は、属性情報のCABAC初期化フラグが1である場合(S5215でYes)、属性情報符号化のコンテキスト初期値を用いて、属性情報符号化のCABAC復号を初期化する(S5216)。
一方で、三次元データ復号装置は、属性情報のCABAC初期化フラグが0である場合(S5215でNo)、属性情報符号化においてCABAC復号を初期化しない(S5217)。
なお、図85におけるフローチャートにおいて、位置情報係る処理と属性情報に係る処理との処理順は反対でも良いし、並列でもよい。
なお、図85におけるフローチャートは、スライス分割の場合、タイル分割の場合、いずれにも適用可能である。
次に、本実施の形態に係る点群データの符号化処理及び復号処理の流れについて説明する。図86は、本実施の形態に係る点群データの符号化処理のフローチャートである。
まず、三次元データ符号化装置は、使用する分割方法を決定する(S5221)。この分割方法は、タイル分割を行うか否か、スライス分割を行うか否かを含む。また、分割方法は、タイル分割又はスライス分割を行う場合の分割数、及び、分割の種別等を含んでもよい。分割の種別とは、上述したようなオブジェクト形状に基づく手法、地図情報或いは位置情報に基づく手法、又は、データ量或いは処理量に基づく手法等である。なお、分割方法は、予め定められていてもよい。
タイル分割が行われる場合(S5222でYes)、三次元データ符号化装置は、位置情報と属性情報とをタイル単位で分割することで複数のタイル位置情報及び複数のタイル属性情報を生成する(S5223)。また、三次元データ符号化装置は、タイル分割に係るタイル付加情報を生成する。
スライス分割が行われる場合(S5224でYes)、三次元データ符号化装置は、複数のタイル位置情報及び複数のタイル属性情報(又は位置情報及び属性情報)を分割することで複数の分割位置情報及び複数の分割属性情報を生成する(S5225)。また、三次元データ符号化装置は、スライス分割に係る位置スライス付加情報及び属性スライス付加情報を生成する。
次に、三次元データ符号化装置は、複数の分割位置情報及び複数の分割属性情報の各々を符号化することで、複数の符号化位置情報及び複数の符号化属性情報を生成する(S5226)。また、三次元データ符号化装置は、依存関係情報を生成する。
次に、三次元データ符号化装置は、複数の符号化位置情報、複数の符号化属性情報及び付加情報をNALユニット化(多重化)することで符号化データ(符号化ストリーム)を生成する(S5227)。また、三次元データ符号化装置は、生成した符号化データを送出する。
図87は、タイルの分割(S5222)またはスライスの分割(S5225)において、CABAC初期化フラグの値を決定し、付加情報を更新する処理の一例を示すフローチャートである。
ステップS5222、S5225では、タイルおよび/またはスライスの位置情報および属性情報は、それぞれの方法で独立して個別に分割してもよいし、共通して一括で分割してもよい。これにより、タイル毎および/またはスライス毎に分割された付加情報が生成される。
このとき、三次元データ符号化装置は、CABAC初期化フラグを1に設定するか0にするかを決定する(S5231)。
そして、三次元データ符号化装置は、決定したCABAC初期化フラグが含まれるように付加情報を更新する(S5232)。
図88は、符号化(S5226)の処理において、CABAC初期化する処理の一例を示すフローチャートである。
三次元データ符号化装置は、CABAC初期化フラグが1であるか否かを判定する(S5241)。
三次元データ符号化装置は、CABAC初期化フラグが1である場合(S5241でYes)、デフォルト状態にCABAC符号化部を再初期化する(S5242)。
そして、三次元データ符号化装置は、符号化処理の停止条件が満たされるまで、例えば、符号化対象のデータがなくなるまで、符号化処理を継続する(S5243)。
図89は、本実施の形態に係る点群データの復号処理のフローチャートである。まず、三次元データ復号装置は、符号化データ(符号化ストリーム)に含まれる、分割方法に係る付加情報(タイル付加情報、位置スライス付加情報及び属性スライス付加情報)を解析することで、分割方法を判定する(S5251)。この分割方法は、タイル分割を行うか否か、スライス分割を行うか否かを含む。また、分割方法は、タイル分割又はスライス分割を行う場合の分割数、及び、分割の種別等を含んでもよい。
次に、三次元データ復号装置は、符号化データに含まれる複数の符号化位置情報及び複数の符号化属性情報を、符号化データに含まれる依存関係情報を用いて復号することで分割位置情報及び分割属性情報を生成する(S5252)。
付加情報によりスライス分割が行われていることが示される場合(S5253でYes)、三次元データ復号装置は、位置スライス付加情報及び属性スライス付加情報に基づき、複数の分割位置情報と、複数の分割属性情報とを結合することで、複数のタイル位置情報及び複数のタイル属性情報を生成する(S5254)。
付加情報によりタイル分割が行われていることが示される場合(S5255でYes)、三次元データ復号装置は、タイル付加情報に基づき、複数のタイル位置情報及び複数のタイル属性情報(複数の分割位置情報及び複数の分割属性情報)を結合することで位置情報及び属性情報を生成する(S5256)。
図90は、スライス毎に分割された情報の結合(S5254)またはタイル毎に分割された情報の結合(S5256)において、CABAC復号部を初期化する処理の一例を示すフローチャートである。
スライスまたはタイルの位置情報および属性情報は、それぞれの方法を用いて結合してもよいし、同一の方法で結合してもよい。
三次元データ復号装置は、符号化ストリームの付加情報から、CABAC初期化フラグを復号する(S5261)。
次に、三次元データ復号装置は、CABAC初期化フラグが1であるか否かを判定する(S5262)。
三次元データ復号装置は、CABAC初期化フラグが1である場合(S5262でYes)、デフォルト状態にCABAC復号部を再初期化する(S5263)。
一方で、三次元データ復号装置は、CABAC初期化フラグが1でない場合(S5262でNo)、CABAC復号部を再初期化せずにステップS5264に進む。
そして、三次元データ復号装置は、復号処理の停止条件が満たされるまで、例えば、復号対象のデータがなくなるまで、復号処理を継続する(S5264)。
次に、CABAC初期化のその他の判定条件について説明する。
位置情報の符号化あるいは属性情報の符号化を初期化するか否かは、タイルあるいはスライスなどのデータ単位の符号化効率を考慮して判定してもよい。この場合、所定の条件を満たすタイルあるいはスライスの先頭データにおいてCABACを初期化してもよい。
次に、位置情報の符号化におけるCABAC初期化の判定条件について説明する。
三次元データ符号化装置は、例えば、スライス毎に、点群データの密度、つまり、スライスに属する単位領域あたりの点の数を判定し、他のスライスのデータ密度と当該スライスのデータ密度とを比較し、データ密度の変化が所定の条件を超えない場合には、CABAC初期化しないほうが符号化効率が良いと判断し、CABAC初期化しないと判断してもよい。一方、三次元データ符号化装置は、データ密度の変化が所定の条件を満たさない場合、初期化したほうが符号化効率が良いと判断し、CABAC初期化すると判断してもよい。
ここで、他のスライスとは、例えば、復号処理順で1つ前のスライスであってもよいし、空間的に隣接するスライスであってもよい。また、三次元データ符号化装置は、他のスライスのデータ密度と比較しなくても、当該スライスのデータ密度が所定のデータ密度であるか否かに応じて、CABAC初期化するか否かを判定してもよい。
三次元データ符号化装置は、CABAC初期化すると判定した場合には、位置情報の符号化に用いるコンテキスト初期値を決定する。コンテキスト初期値は、データ密度に応じた符号化特性のよい初期値に設定される。三次元データ符号化装置は、あらかじめデータ密度に対する初期値テーブルを保持し、テーブルの中から最適な初期値を選択してもよい。
なお、三次元データ符号化装置は、スライスの密度の例に限らず、点の数や、点の分布、点の偏り等に基づいて、CABAC初期化するか否かを判定してもよい。あるいは、三次元データ符号化装置は、点の情報から得られる特徴量や特徴点の数、あるいは認識されるオブジェクトに基づき、CABAC初期化するか否かを判定してもよい。その場合、判定基準は、予め、点の情報から得られる特徴量もしくは特徴点の数、または、点の情報に基づいて認識されるオブジェクトと対応付けられているテーブルとしてメモリに保持されていてもよい。
三次元データ符号化装置は、例えば、地図情報の位置情報におけるオブジェクトを判定し、位置情報に基づくオブジェクトに基づき、CABAC初期化するか否かを判定してもよいし、三次元データを二次元に投影した情報あるいは特徴量に基づきCABAC初期化するか否かを判定してもよい。
次に、属性情報の符号化におけるCABAC初期化の判定条件について説明する。
三次元データ符号化装置は、例えば、1つ前のスライスの色の特性と当該スライスの色の特性とを比較し、色の特性の変化が所定の条件を満たす場合は、CABAC初期化しないほうが符号化効率が良いと判断し、CABAC初期化しないと判断してもよい。一方、三次元データ符号化装置は、色の特性の変化が所定の条件を満たさない場合は、CABAC初期化したほうが符号化効率が良いと判断し初期化すると判断してもよい。色の特性とは、例えば、輝度、色度、彩度、これらのヒストグラム、色の連続性などである。
ここで、他のスライスとは、例えば、復号処理順で1つ前のスライスであってもよいし、空間的に隣接するスライスであってもよい。また、三次元データ符号化装置は、他のスライスのデータ密度と比較しなくても、当該スライスのデータ密度が所定のデータ密度であるか否かに応じて、CABAC初期化するか否かを判定してもよい。
三次元データ符号化装置は、CABAC初期化すると判定した場合には、属性情報の符号化に用いるコンテキスト初期値を決定する。コンテキスト初期値は、データ密度に応じた符号化特性のよい初期値に設定される。三次元データ符号化装置は、あらかじめデータ密度に対する初期値テーブルを保持し、テーブルの中から最適な初期値を選択してもよい。
三次元データ符号化装置は、属性情報が反射率の場合は、反射率に基づく情報に応じてCABAC初期化するか否かを判定してもよい。
三次元データ符号化装置は、三次元点に複数の属性情報がある場合、属性情報毎に独立に、それぞれの属性情報に基づく初期化情報を決定してもよいし、あるいは、いずれか一方の属性情報に基づき、複数の属性情報の初期化情報を決定してもよいし、複数の属性情報を用いて当該複数の属性情報の初期化情報を決定してもよい。
位置情報の初期化情報は位置情報に基づき決定し、属性情報の初期化情報は属性情報に基づき決定する例を説明したが、位置情報に基づき、位置情報および属性情報の初期化情報を決定してもよいし、属性情報に基づき、位置情報および属性情報の初期化情報を決定してもよいし、両方の情報に基づき、位置情報および属性情報の初期化情報を決定してもよい。
三次元データ符号化装置は、例えば、cabac_init_flagをonまたはoffに設定したり、初期値テーブルの中から1以上の初期値を用いたりすることにより、あらかじめ符号化効率をシミュレートした結果に基づき、初期化情報を決定してもよい。
三次元データ符号化装置は、スライスまたはタイルなどへのデータ分割方法を位置情報または属性情報に基づき決定した場合、分割方法の決定に基づく情報と同じ情報に基づいて初期化情報を決定してもよい。
図91は、タイルおよびスライスの例を示す図である。
例えば、PCCデータの一部を有する1つのタイルにおけるスライスは、凡例に示されているように識別される。CABAC初期化フラグは、連続するスライスにおいてコンテキストの再初期化が必要か否かの判定に用いることができる。例えば、図91において、一つのタイルの中に、オブジェクト(移動体、歩道、建物、木、その他のオブジェクト)毎に分割されたスライスデータが含まれる場合、移動体、歩道、木のスライスのCABAC初期化フラグは1に設定され、建物やその他のスライスのCABAC初期化フラグは0に設定される。これは、例えば、歩道と建物とが、両方とも密な永久構造であり同様の符号化効率を有する可能性がある場合、歩道と建物のスライス間でCABACを再初期化しないことで符号化効率を向上できる可能性がある。一方、建物と木とで、密度および符号化効率大きく異なる可能性がある場合、建物と木のスライス間でCABACを初期化することで符号化効率を向上できる可能性がある。
図92は、CABACの初期化およびコンテキスト初期値の決定方法の一例を示すフローチャートである。
まず、三次元データ符号化装置は、位置情報から判定したオブジェクトに基づいて、点群データをスライスに分割する(S5271)。
次に、三次元データ符号化装置は、スライス毎に、当該スライスのオブジェクトのデータ密度に基づき、位置情報の符号化と属性情報の符号化のCABAC初期化するか否かを判定する(S5272)。つまり、三次元データ符号化装置は、位置情報に基づき、位置情報の符号化と属性情報の符号化のCABAC初期化情報(CABAC初期化フラグ)を決定する。三次元データ符号化装置は、例えば、点群データ密度で、符号化効率のよい初期化を判定する。なお、CABAC初期化情報は、位置情報と属性情報とで共通のcabac_init_flagに示されても良い。
次に、三次元データ符号化装置は、CABAC初期化すると判定した場合(S5273でYes)、位置情報の符号化のコンテキスト初期値を決定する(S5274)。
次に、三次元データ符号化装置は、属性情報の符号化のコンテキスト初期値を決定する(S5275)。
次に、三次元データ符号化装置は、位置情報のCABAC初期化フラグを1に設定し、位置情報のコンテキスト初期値を設定するとともに、属性情報のCABAC初期化フラグを1に設定し、属性情報のコンテキスト初期値を設定する(S5276)。なお、CABAC初期化する場合、三次元データ符号化装置は、位置情報の符号化および属性情報の符号化のそれぞれにおいて、コンテキスト初期値を用いて初期化処理を実施する。
一方で、三次元データ符号化装置は、CABAC初期化しないと判定した場合(S5273でNo)、位置情報のCABAC初期化フラグを0に設定し、属性情報のCABAC初期化フラグを0に設定する(S5277)。
図93は、LiDARで得られた点群データを上面視した地図をタイルに分割した場合の例を示す図である。図94は、CABAC初期化およびコンテキスト初期値の決定方法の他の一例を示すフローチャートである。
三次元データ符号化装置は、大規模地図データにおいて、位置情報に基づき、上面視における二次元の分割方法で、点群データを1以上のタイルに分割する(S5281)。三次元データ符号化装置は、例えば、図93に示すような正方形の領域で分割してもよい。また、三次元データ符号化装置は、点群データを、様々な形状、大きさのタイルに分割してもよい。タイルの分割は、あらかじめ定められた1以上の方法で行われてもよいし、適応的に行われてもよい。
次に、三次元データ符号化装置は、タイル毎に、タイル内のオブジェクトを判定し、当該タイルの位置情報の符号化または属性情報の符号化で、CABAC初期化するか否かを判定する(S5282)。なお、三次元データ符号化装置は、スライス分割の場合は、オブジェクト(木、人、移動体、建物)を認識し、オブジェクトに応じてスライス分割および初期値の判定をする。
三次元データ符号化装置は、CABAC初期化すると判定した場合(S5283でYes)、位置情報の符号化のコンテキスト初期値を決定する(S5284)。
次に、三次元データ符号化装置は、属性情報の符号化のコンテキスト初期値を決定する(S5285)。
ステップS5284およびS5285では、初期値として、特定の符号化特性を持つタイルの初期値を記憶しておき、同一の符号化特性を持つタイルの初期値として用いても良い。
次に、三次元データ符号化装置は、位置情報のCABAC初期化フラグを1に設定し、位置情報のコンテキスト初期値を設定するとともに、属性情報のCABAC初期化フラグを1に設定し、属性情報のコンテキスト初期値を設定する(S5286)。なお、CABAC初期化する場合、三次元データ符号化装置は、位置情報の符号化および属性情報の符号化のそれぞれにおいて、コンテキスト初期値を用いて初期化処理を実施する。
一方で、三次元データ符号化装置は、CABAC初期化しないと判定した場合(S5283でNo)、位置情報のCABAC初期化フラグを0に設定し、属性情報のCABAC初期化フラグを0に設定する(S5287)。
(実施の形態8)
以下、量子化パラメータについて説明する。
点群データの特性および位置に基づき点群データを分割するために、スライスおよびタイルが用いられる。ここで、ハードウェアの制限、および、リアルタイム処理の要件により、それぞれの分割された点群データに求められる品質が異なる場合がある。例えば、オブジェクト毎にスライスに分割して符号化する場合、植物を含むスライスデータは、それほど重要でないため、量子化することにより解像度(品質)を落とすことができる。一方、重要なスライスデータは量子化の値を低い値に設定することで高い解像度(品質)とすることができる。このような量子化値のコントロールを可能とするために量子化パラメータが用いられる。
ここで、量子化の対象となるデータと、量子化に用いられるスケールと、量子化によって算出される結果である量子化データとは、以下の(式G1)と(式G2)で表される。
量子化データ=データ/スケール (式G1)
データ=量子化データ*スケール (式G2)
図95は、データを量子化する量子化部5323、および、量子化データを逆量子化する逆量子化部5333の処理について説明するための図である。
量子化部5323は、スケールを用いてデータを量子化する、つまり、式G1を用いる処理を行うことで、データが量子化された量子化データを算出する。
逆量子化部5333は、スケールを用いて量子化データを逆量子化する、つまり、式G2を用いる処理を行うことで、量子化データが逆量子化されたデータを算出する。
また、スケールと、量子化値(QP(Quantization Parameter)値)とは、以下の(式G3)で表される。
量子化値(QP値)=log(スケール) (式G3)
量子化値(QP値)=デフォルト値(基準値)+量子化デルタ(差分情報) (式G4)
また、これらのパラメータを総称して量子化パラメータ(Quantization Parameter)と呼ぶ。
例えば、図96に示されるように、量子化値は、デフォルト値を基準とした値であり、デフォルト値に量子化デルタを加算することで算出される。量子化値がデフォルト値よりも小さい値である場合には、量子化デルタは負の値となる。量子化値がデフォルト値よりも大きい値である場合には、量子化デルタは正の値となる。量子化値がデフォルト値と等しい場合には、量子化デルタは0となる。量子化デルタが0である場合、量子化デルタは、なくてもよい。
符号化処理について説明する。図97は、本実施の形態に係る三次元データ符号化装置に含まれる第1の符号化部5300の構成を示すブロック図である。図98は、本実施の形態に係る分割部5301の構成を示すブロック図である。図99は、本実施の形態に係る位置情報符号化部5302および属性情報符号化部5303の構成を示すブロック図である。
第1の符号化部5300は、点群データを第1の符号化方法(GPCC(Geometry based PCC))で符号化することで符号化データ(符号化ストリーム)を生成する。この第1の符号化部5300は、分割部5301と、複数の位置情報符号化部5302と、複数の属性情報符号化部5303と、付加情報符号化部5304と、多重化部5305とを含む。
分割部5301は、点群データを分割することで複数の分割データを生成する。具体的には、分割部5301は、点群データの空間を複数のサブ空間に分割することで複数の分割データを生成する。ここでサブ空間とは、タイル及びスライスの一方、又はタイル及びスライスの組み合わせである。より具体的には、点群データは、位置情報、属性情報、及び付加情報を含む。分割部5301は、位置情報を複数の分割位置情報に分割し、属性情報を複数の分割属性情報に分割する。また、分割部5301は、分割に関する付加情報を生成する。
分割部5301は、図98に示すように、タイル分割部5311と、スライス分割部5312とを含む。例えば、タイル分割部5311は、点群をタイルに分割する。タイル分割部5311は、分割した各タイルに用いる量子化値をタイル付加情報として決定してもよい。
スライス分割部5312は、タイル分割部5311により得られたタイルを、さらにスライスに分割する。スライス分割部5312は、分割した各スライスに用いる量子化値をスライス付加情報として決定してもよい。
複数の位置情報符号化部5302は、複数の分割位置情報を符号化することで複数の符号化位置情報を生成する。例えば、複数の位置情報符号化部5302は、複数の分割位置情報を並列処理する。
位置情報符号化部5302は、図99に示すように、量子化値算出部5321と、エントロピ符号化部5322とを含む。量子化値算出部5321は、符号化される分割位置情報の量子化値(量子化パラメータ)を取得する。エントロピ符号化部5322は、量子化値算出部5321により取得された量子化値(量子化パラメータ)を用いて、分割位置情報を量子化することで、量子化位置情報を算出する。
複数の属性情報符号化部5303は、複数の分割属性情報を符号化することで複数の符号化属性情報を生成する。例えば、複数の属性情報符号化部5303は、複数の分割属性情報を並列処理する。
属性情報符号化部5303は、図99に示すように、量子化値算出部5331と、エントロピ符号化部5332とを含む。量子化値算出部5331は、符号化される分割属性情報の量子化値(量子化パラメータ)を取得する。エントロピ符号化部5332は、量子化値算出部5331により取得された量子化値(量子化パラメータ)を用いて、分割属性情報を量子化することで、量子化属性情報を算出する。
付加情報符号化部5304は、点群データに含まれる付加情報と、分割部5301で分割時に生成された、データ分割に関する付加情報とを符号化することで符号化付加情報を生成する。
多重化部5305は、複数の符号化位置情報、複数の符号化属性情報及び符号化付加情報を多重化することで符号化データ(符号化ストリーム)を生成し、生成した符号化データを送出する。また、符号化付加情報は復号時に使用される。
なお、図97では、位置情報符号化部5302及び属性情報符号化部5303の数がそれぞれ2つの例を示しているが、位置情報符号化部5302及び属性情報符号化部5303の数は、それぞれ1つであってもよいし、3つ以上であってもよい。また、複数の分割データは、CPU内の複数コアのように同一チップ内で並列処理されてもよいし、複数のチップのコアで並列処理されてもよいし、複数チップの複数コアで並列処理されてもよい。
次に、復号処理について説明する。図100は、第1の復号部5340の構成を示すブロック図である。図101は、位置情報復号部5342および属性情報復号部5343の構成を示すブロック図である。
第1の復号部5340は、点群データが第1の符号化方法(GPCC)で符号化されることで生成された符号化データ(符号化ストリーム)を復号することで点群データを復元する。この第1の復号部5340は、逆多重化部5341と、複数の位置情報復号部5342と、複数の属性情報復号部5343と、付加情報復号部5344と、結合部5345とを含む。
逆多重化部5341は、符号化データ(符号化ストリーム)を逆多重化することで複数の符号化位置情報、複数の符号化属性情報及び符号化付加情報を生成する。
複数の位置情報復号部5342は、複数の符号化位置情報を復号することで複数の量子化位置情報を生成する。例えば、複数の位置情報復号部5342は、複数の符号化位置情報を並列処理する。
位置情報復号部5342は、図101に示すように、量子化値算出部5351と、エントロピ復号部5352とを含む。量子化値算出部5351は、量子化位置情報の量子化値を取得する。エントロピ復号部5352は、量子化値算出部5351により取得された量子化値を用いて、量子化位置情報を逆量子化することで、位置情報を算出する。
複数の属性情報復号部5343は、複数の符号化属性情報を復号することで複数の分割属性情報を生成する。例えば、複数の属性情報復号部5343は、複数の符号化属性情報を並列処理する。
属性情報復号部5343は、図101に示すように、量子化値算出部5361と、エントロピ復号部5362とを含む。量子化値算出部5361は、量子化属性情報の量子化値を取得する。エントロピ復号部5362は、量子化値算出部5361により取得された量子化値を用いて、量子化属性情報を逆量子化することで、属性情報を算出する。
複数の付加情報復号部5344は、符号化付加情報を復号することで付加情報を生成する。
結合部5345は、付加情報を用いて複数の分割位置情報を結合することで位置情報を生成する。結合部5345は、付加情報を用いて複数の分割属性情報を結合することで属性情報を生成する。例えば、結合部5345は、まず、スライス付加情報を用いて、スライスに対する復号された点群データを結合することでタイルに対応する点群データを生成する。次に、結合部5345は、タイル付加情報を用いて、タイルに対応する点群データを結合することで元の点群データを復元する。
なお、図100では、位置情報復号部5342及び属性情報復号部5343の数がそれぞれ2つの例を示しているが、位置情報復号部5342及び属性情報復号部5343の数は、それぞれ1つであってもよし、3つ以上であってもよい。また、複数の分割データは、CPU内の複数コアのように同一チップ内で並列処理されてもよいし、複数のチップのコアで並列処理されてもよい、複数チップの複数コアで並列処理されてもよい。
[量子化パラメータの決定方法]
図102は、位置情報(Geometry)の符号化あるいは属性情報(Attribute)の符号化における量子化値(Quantization Parameter値:QP値)の決定に関する処理の一例を示すフローチャートである。
QP値は、例えばPCCフレームを構成する位置情報のデータ単位毎、あるいは属性情報のデータ単位毎に符号化効率を考慮して決定される。データ単位が分割されたタイル単位、あるいは、分割されたスライス単位である場合には、QP値は、分割のデータ単位の符号化効率を考慮し、分割のデータ単位で決定される。また、QP値は、分割前のデータ単位で決定されてもよい。
図102に示すように、三次元データ符号化装置は、位置情報の符号化に使用するQP値を決定する(S5301)。三次元データ符号化装置は、QP値の決定を、分割された複数のスライス毎に、所定の方法に基づいて行ってもよい。具体的には、三次元データ符号化装置は、位置情報のデータの特徴または品質に基づいて、QP値を決定する。三次元データ符号化装置は、例えば、データ単位毎に、点群データの密度、つまり、スライスに属する単位領域あたりの点の数を判定し、点群データの密度に対応する値をQP値として決定してもよい。あるいは、三次元データ符号化装置は、点群データの点の数、点の分布、点の偏り、または、点の情報から得られる特徴量、特徴点の数、あるいは認識されるオブジェクトに基づき、対応する値をQP値として決定してもよい。また、三次元データ符号化装置は、地図の位置情報におけるオブジェクトを判定し、位置情報に基づくオブジェクトに基づきQP値を決定してもよいし、三次元点群を二次元に投影した情報あるいは特徴量に基づきQP値を決定してもよい。対応するQP値は、あらかじめ、点群データの密度、点の数、点の分布、または点の偏りと対応付けられているテーブルとしてメモリに保持されていてもよい。また、対応するQP値は、予め、点の情報から得られる特徴量もしくは特徴点の数、または、点の情報に基づいて認識されるオブジェクトと対応付けられているテーブルとしてメモリに保持されていてもよい。また、対応するQP値は、点群データの位置情報を符号化する際に、様々なQP値で符号化率などをシミュレーションした結果に基づき決定されてもよい。
次に、三次元データ符号化装置は、位置情報のQP値の基準値(デフォルト値)および差分情報(量子化デルタ)を決定する(S5302)。三次元データ符号化装置は、具体的には、決定したQP値および所定の方法を用いて、伝送する基準値および差分情報を決定し、決定した基準値および差分情報を、付加情報およびデータのヘッダの少なくとも一方に設定(追加)する。
次に、三次元データ符号化装置は、属性情報の符号化に使用するQP値を決定する(S5303)。三次元データ符号化装置は、QP値の決定を、分割された複数のスライス毎に、所定の方法に基づいて行ってもよい。具体的には、三次元データ符号化装置は、属性情報のデータの特徴または品質に基づいて、QP値を決定する。三次元データ符号化装置は、例えば、データ単位毎に、属性情報の特性に基づいて、QP値を決定してもよい。色の特性とは、例えば、輝度、色度、彩度、これらのヒストグラム、色の連続性などである。属性情報が反射率の場合は、反射率に基づく情報に応じて判定してもよい。三次元データ符号化装置は、例えば、点群データからオブジェクトとして顔を検出した場合、顔を検出したオブジェクトを構成する点群データに対して、品質のよいQP値を決定してもよい。このように、三次元データ符号化装置は、オブジェクトの種類に応じて、オブジェクトを構成する点群データに対するQP値を決定してもよい。
また、三次元データ符号化装置は、三次元点に複数の属性情報がある場合、属性情報毎に独立に、それぞれの属性情報に基づくQP値を決定してもよいし、あるいは、いずれか一方の属性情報に基づき、複数の属性情報のQP値を決定してもよいし、複数の属性情報を用いて当該複数の属性情報のQP値を決定してもよい。
次に、三次元データ符号化装置は、属性情報のQP値の基準値(デフォルト値)および差分情報(量子化デルタ)を決定する(S5304)。三次元データ符号化装置は、具体的には、決定したQP値および所定の方法を用いて、伝送する基準値および差分情報を決定し、決定した基準値および差分情報を、付加情報およびデータのヘッダの少なくとも一方に設定(追加)する。
そして、三次元データ符号化装置は、それぞれ、決定された位置情報および属性情報のQP値に基づき、位置情報および属性情報を量子化し、符号化する(S5305)。
なお、位置情報のQP値は、位置情報に基づいて決定され、属性情報のQP値は、属性情報に基づいて決定される例を説明したが、これに限らない。例えば、位置情報および属性情報のQP値は、位置情報に基づいて決定されてもよいし、属性情報に基づいて決定されてもよいし、位置情報および属性情報に基づいて決定されてもよい。
なお、位置情報および属性情報のQP値は、点群データにおける、位置情報の品質と属性情報の品質とのバランスを考慮して調整されてもよい。例えば、位置情報および属性情報のQP値は、位置情報の品質が高く設定され、かつ、属性情報の品質が位置情報の品質より低く設定されるように決定されてもよい。例えば、属性情報のQP値は、位置情報のQP値以上という制約された条件を満たすように決定されてもよい。
また、QP値は、符号化データがあらかじめ定められた所定のレートの範囲内に収まるように符号化されるように調整されてもよい。QP値は、例えば、ひとつ前のデータ単位の符号化で符号量が所定のレートを超えそうな場合、つまり、所定のレートまでの差が第一の差分未満である場合、データ単位の符号量が第一の差分未満となるよう符号化品質が低下するように調整されてもよい。一方で、QP値は、所定のレートまでの差が、第一の差分よりも大きい第二の差分より大きく、十分に大きな差がある場合、データ単位の符号化品質が向上するように調整されてもよい。データ単位の間の調整は、例えばPCCフレーム間であってもよいし、タイルの間やスライスの間であってもよい。属性情報のQP値の調整は、位置情報の符号化のレートに基づいて調整されてもよい。
なお、図102におけるフローチャートにおいて、位置情報に係る処理と属性情報に係る処理の処理順は、反対でも良いし、並列でもよい。
なお、図102におけるフローチャートでは、スライス単位の処理を例にしているが、タイル単位や、その他のデータ単位での処理の場合もスライス単位と同様に処理することができる。つまり、図102のフローチャートのスライスは、タイルまたは他のデータ単位と読み替えることができる。
図103は、位置情報および属性情報の復号処理の一例を示すフローチャートである。
図103に示すように、三次元データ復号装置は、位置情報のQP値を示す基準値および差分情報と、属性情報のQP値を示す基準値および差分情報とを取得する(S5311)。具体的には、三次元データ復号装置は、伝送されるメタデータ、符号化データのヘッダのいずれか一方または両方を解析し、QP値を導出するための基準値および差分情報を取得する。
次に、三次元データ復号装置は、取得した基準値および差分情報を用いて、所定の方法に基づいて、QP値を導出する(S5312)。
そして、三次元データ復号装置は、量子化位置情報を取得し、導出されたQP値を用いて量子化位置情報を逆量子化することで、位置情報を復号する(S5313)。
次に、三次元データ復号装置は、量子化属性情報を取得し、導出されたQP値を用いて量子化属性情報を逆量子化することで、属性情報を復号する(S5314)。
次に、量子化パラメータの伝送方法について説明する。
図104は、量子化パラメータの伝送方法の第1の例について説明するための図である。図104の(a)は、QP値の関係の一例を示す図である。
図104において、QおよびQは、それぞれ、位置情報の符号化に用いるQP値の絶対値、および、属性情報の符号化に用いるQP値の絶対値を示す。Qは、複数の三次元点のそれぞれの位置情報を量子化するために用いられる第1量子化パラメータの一例である。また、Δ(Q,Q)は、Qの導出に用いるQとの差分を示す差分情報を示す。つまり、Qは、QとΔ(Q,Q)とを用いて導出される。このように、QP値は、基準値(絶対値)と差分情報(相対値)とに分けて伝送される。また、復号では、伝送された基準値および差分情報から所望のQP値を導出する。
例えば、図104の(a)では、絶対値Qと差分情報Δ(Q,Q)とが伝送され、復号では、下記の(式G5)で示すように、Qは、QにΔ(Q,Q)を加算することで導出される。
=Q+Δ(Q,Q) (式G5)
図104の(b)および(c)を用いて位置情報および属性情報からなる点群データをスライス分割する場合のQP値の伝送方法を説明する。図104の(b)は、各QP値の基準値と差分情報との関係の第1の例を示す図である。図104の(c)は、QP値、位置情報、および、属性情報の伝送順の第1の例を示す図である。
QP値は、位置情報毎、および、属性情報毎に、大きく、PCCのフレーム単位のQP値(フレームQP)と、データ単位のQP値(データQP)に分かれている。データ単位のQP値は、図102のステップS5301で決定した、符号化に用いるQP値である。
ここでは、PCCフレーム単位の位置情報の符号化に用いるQP値であるQを基準値とし、データ単位のQP値をQからの差分を示す差分情報として生成し、送出する。
:PCCフレームにおける位置情報の符号化のQP値・・・GPSを用いて基準値「1.」として送出される
:PCCフレームにおける属性情報の符号化のQP値・・・APSを用いてQからの差分を示す差分情報「2.」として送出される
Gs1,QGs2:スライスデータにおける位置情報の符号化のQP値…位置情報の符号化データのヘッダを用いて、Qからの差分を示す差分情報「3.」および「5.」として送出される
As1,QAs2:スライスデータにおける属性情報の符号化のQP値…属性情報の符号化データのヘッダを用いて、Qからの差分を示す差分情報「4.」および「6.」として送出される
なお、フレームQPの導出に用いる情報は、フレームに係るメタデータ(GPS,APS)に記載され、データQPの導出に用いる情報は、データに係るメタデータ(符号化データのヘッダ)に記載される。
このように、データQPは、フレームQPからの差分を示す差分情報として生成され、送出される。よって、データQPのデータ量を削減することができる。
第1の復号部5340は、それぞれの符号化データにおいて、図104の(c)の矢印で示したメタデータを参照し、当該符号化データに対応する基準値および差分情報を取得する。そして、第1の復号部5340は、取得した基準値および差分情報に基づいて、復号対象の符号化データに対応するQP値を導出する。
第1の復号部5340は、例えば、図104の(c)において矢印で示した基準情報「1.」および差分情報「2.」、「6.」をメタデータあるいはヘッダから取得し、下記の(式G6)で示すように、基準情報「1.」に差分情報「2.」および「6.」を加算することで、As2のQP値を導出する。
AS2=Q+Δ(Q,Q)+Δ(QAs2,Q) (式G6)
点群データは、位置情報と0以上の属性情報とを含む。すなわち、点群データは、属性情報を持たない場合もあれば、複数の属性情報を持つ場合もある。
例えば、1つの三次元点に対して、属性情報として、色情報を持つ場合、色情報と反射情報とを持つ場合、1以上の視点情報にそれぞれ紐づく1以上の色情報を持つ場合などがある。
ここで、2つの色情報、および反射情報を持つ場合の例について、図105を用いて説明する。図105は、量子化パラメータの伝送方法の第2の例について説明するための図である。図105の(a)は、各QP値の基準値と差分情報との関係の第2の例を示す図である。図105の(b)は、QP値、位置情報、および、属性情報の伝送順の第2の例を示す図である。
は、図104と同様に、第1量子化パラメータの一例である。
2つの色情報のそれぞれは、輝度(ルマ)Yと色差(クロマ)Cb、Crとで示される。第1の色の輝度Y1の符号化に用いるQP値であるQY1は、基準値であるQと、その差分を示すΔ(QY1、Q)とを用いて導出される。輝度Y1は、第1輝度の一例であり、QY1は、第1輝度としての輝度Y1を量子化するために用いられる第2量子化パラメータの一例である。Δ(QY1、Q)は、差分情報「2.」である。
また、第1の色の色差Cb1、Cr1の符号化に用いるQP値であるQCb1、QCr1は、それぞれ、QY1と、その差分を示すΔ(QCb1,QY1)、Δ(QCr1,QY1)とを用いて導出される。色差Cb1、Cr1は、第1色差の一例であり、QCb1、QCr1は、第1色差としての色差Cb1、Cr1を量子化するために用いられる第3量子化パラメータの一例である。Δ(QCb1,QY1)は、差分情報「3.」であり、Δ(QCr1,QY1)は、差分情報「4.」である。Δ(QCb1,QY1)およびΔ(QCr1,QY1)は、それぞれ、第1差分の一例である。
なお、QCb1およびQCr1は、互いに同じ値が用いられてもよく、共通する値が用いられてもよい。共通する値が用いられる場合、QCb1およびQCr1の一方が用いられればよいため、他方はなくてもよい。
また、スライスデータにおける第1の色の輝度Y1Dの符号化に用いるQP値であるQY1Dは、QY1と、その差分を示すΔ(QY1D,QY1)とを用いて導出される。スライスデータにおける第1の色の輝度Y1Dは、サブ空間に含まれる1以上の三次元点の第1輝度の一例であり、QY1Dは、輝度Y1Dを量子化するために用いられる第5量子化パラメータの一例である。Δ(QY1D,QY1)は、差分情報「10.」であり、第2差分の一例である。
同様に、スライスデータにおける第1の色の色差Cb1D、Cr1Dの符号化に用いるQP値であるQCb1D、QCr1Dは、それぞれ、QCb1、QCr1と、その差分を示すΔ(QCb1D,QCb1)、Δ(QCr1D,QCr1)とを用いて導出される。スライスデータにおける第1の色の色差Cb1D、Cr1Dは、サブ空間に含まれる1以上の三次元点の第1色差の一例であり、QCb1D、QCr1Dは、色差Cb1D、Cr1Dを量子化するために用いられる第6量子化パラメータの一例である。Δ(QCb1D,QCb1)は、差分情報「11.」であり、Δ(QCr1D,QCr1)は、差分情報「12.」である。Δ(QCb1D,QCb1)およびΔ(QCr1D,QCr1)は、第3差分の一例である。
第1の色におけるQP値の関係は、第2の色にも同様のことが言えるため、説明を省略する。
反射率Rの符号化に用いるQP値であるQは、基準値であるQと、その差分を示すΔ(Q,Q)とを用いて導出される。Qは、反射率Rを量子化するために用いられる第4量子化パラメータの一例である。Δ(Q,Q)は、差分情報「8.」である。
また、スライスデータにおける反射率RDの符号化に用いるQP値であるQRDは、Qと、その差分を示すΔ(QRD,Q)とを用いて導出される。Δ(QRD,Q)は、差分情報「16.」である。
このように、差分情報「9.」~「16.」は、データQPとフレームQPとの差分情報を示す。
なお、例えば、データQPとフレームQPとの値が同一の値であるような場合は、差分情報を0としてもよいし、差分情報を送出しないことにより0とみなすとしてもよい。
第1の復号部5340は、例えば、第2の色の色差Cr2を復号する際、図105の(b)の矢印で示した基準情報「1.」および差分情報「5.」、「7.」および「15.」をメタデータあるいはヘッダから取得し、下記の(式G7)で示すように、基準情報「1.」に差分情報「5.」、「7.」および「15.」を加算することで、色差Cr2のQP値を導出する。
Cr2D=Q+Δ(QY2,Q)+Δ(QCr2,QY2)+Δ(QCr2D,QCr2) (式G7)
次に、位置情報および属性情報をタイルに2分割した後に、スライスに2分割する場合の例について図106を用いて説明する。図106は、量子化パラメータの伝送方法の第3の例について説明するための図である。図106の(a)は、各QP値の基準値と差分情報との関係の第3の例を示す図である。図106の(b)は、QP値、位置情報、および、属性情報の伝送順の第3の例を示す図である。図106の(c)は、第3の例における、差分情報の中間生成値について説明するための図である。
複数のタイルに分割した後に、さらに複数のスライスに分割する場合、図106の(c)に示すように、タイルに分割した後にタイル毎のQP値(QAt1)および差分情報Δ(QAt1,Q)が中間生成値として生成される。そして、スライスに分割した後にスライス毎のQP値(QAt1s1,QAt1s2)および差分情報(Δ(QAt1s1,QAt1),Δ(QAt1s2,QAt1))が生成される。
この場合、例えば、図106の(a)における、差分情報「4.」は、以下の(式G8)で導出される。
Δ(QAt1s1,Q)=Δ(QAt1,Q)+Δ(QAt1s1,QAt1) (式G8)
第1の復号部5340は、例えば、タイル2におけるスライス1の属性情報At2s1を復号する際、図106の(b)の矢印で示した基準情報「1.」および差分情報「2.」、「8.」をメタデータあるいはヘッダから取得し、下記の(式G9)で示すように、基準情報「1.」に差分情報「2.」、「8.」を加算することで、属性情報At2s1のQP値を導出する。
At2s1=Q+Δ(QAt2s1,Q)+Δ(Q,Q) (式G9)
次に、本実施の形態に係る点群データの符号化処理及び復号処理の流れについて説明する。図107は、本実施の形態に係る点群データの符号化処理のフローチャートである。
まず、三次元データ符号化装置は、使用する分割方法を決定する(S5321)。この分割方法は、タイル分割を行うか否か、スライス分割を行うか否かを含む。また、分割方法は、タイル分割又はスライス分割を行う場合の分割数、及び、分割の種別等を含んでもよい。分割の種別とは、上述したようなオブジェクト形状に基づく手法、地図情報或いは位置情報に基づく手法、又は、データ量或いは処理量に基づく手法等である。なお、分割方法は、予め定められていてもよい。
タイル分割が行われる場合(S5322でYes)、三次元データ符号化装置は、位置情報と属性情報とをタイル単位で分割することで複数のタイル位置情報及び複数のタイル属性情報を生成する(S5323)。また、三次元データ符号化装置は、タイル分割に係るタイル付加情報を生成する。
スライス分割が行われる場合(S5324でYes)、三次元データ符号化装置は、複数のタイル位置情報及び複数のタイル属性情報(又は位置情報及び属性情報)を分割することで複数の分割位置情報及び複数の分割属性情報を生成する(S5325)。また、三次元データ符号化装置は、スライス分割に係る位置スライス付加情報及び属性スライス付加情報を生成する。
次に、三次元データ符号化装置は、複数の分割位置情報及び複数の分割属性情報の各々を符号化することで、複数の符号化位置情報及び複数の符号化属性情報を生成する(S5326)。また、三次元データ符号化装置は、依存関係情報を生成する。
次に、三次元データ符号化装置は、複数の符号化位置情報、複数の符号化属性情報及び付加情報をNALユニット化(多重化)することで符号化データ(符号化ストリーム)を生成する(S5327)。また、三次元データ符号化装置は、生成した符号化データを送出する。
図108は、タイルの分割(S5323)またはスライスの分割(S5325)において、QP値を決定し、付加情報を更新する処理の一例を示すフローチャートである。
ステップS5323、S5325では、タイルおよび/またはスライスの位置情報および属性情報は、それぞれの方法で独立して個別に分割してもよいし、共通して一括で分割してもよい。これにより、タイル毎および/またはスライス毎に分割された付加情報が生成される。
このとき、三次元データ符号化装置は、分割されたタイル毎および/またはスライス毎に、QP値の基準値および差分情報を決定する(S5331)。具体的には、三次元データ符号化装置は、図104~図106で例示したような、基準値および差分情報を決定する。
そして、三次元データ符号化装置は、決定した基準値および差分情報が含まれるように付加情報を更新する(S5332)。
図109は、符号化(S5326)の処理において、決定されたQP値を符号化する処理の一例を示すフローチャートである。
三次元データ符号化装置は、ステップS5331で決定されたQP値を符号化する(S5341)。具体的には、三次元データ符号化装置は、更新された付加情報に含まれるQP値の基準値および差分情報を符号化する。
そして、三次元データ符号化装置は、符号化処理の停止条件が満たされるまで、例えば、符号化対象のデータがなくなるまで、符号化処理を継続する(S5342)。
図110は、本実施の形態に係る点群データの復号処理のフローチャートである。まず、三次元データ復号装置は、符号化データ(符号化ストリーム)に含まれる、分割方法に係る付加情報(タイル付加情報、位置スライス付加情報及び属性スライス付加情報)を解析することで、分割方法を判定する(S5351)。この分割方法は、タイル分割を行うか否か、スライス分割を行うか否かを含む。また、分割方法は、タイル分割又はスライス分割を行う場合の分割数、及び、分割の種別等を含んでもよい。
次に、三次元データ復号装置は、符号化データに含まれる複数の符号化位置情報及び複数の符号化属性情報を、符号化データに含まれる依存関係情報を用いて復号することで分割位置情報及び分割属性情報を生成する(S5352)。
付加情報によりスライス分割が行われていることが示される場合(S5353でYes)、三次元データ復号装置は、位置スライス付加情報及び属性スライス付加情報に基づき、複数の分割位置情報と、複数の分割属性情報とを結合することで、複数のタイル位置情報及び複数のタイル属性情報を生成する(S5354)。
付加情報によりタイル分割が行われていることが示される場合(S5355でYes)、三次元データ復号装置は、タイル付加情報に基づき、複数のタイル位置情報及び複数のタイル属性情報(複数の分割位置情報及び複数の分割属性情報)を結合することで位置情報及び属性情報を生成する(S5356)。
図111は、スライス毎に分割された情報の結合(S5354)またはタイル毎に分割された情報の結合(S5356)において、QP値を取得して、スライスまたはタイルのQP値を復号する処理の一例を示すフローチャートである。
スライスまたはタイルの位置情報および属性情報は、それぞれの方法を用いて結合してもよいし、同一の方法で結合してもよい。
三次元データ復号装置は、符号化ストリームの付加情報から、基準値および差分情報を復号する(S5361)。
次に、三次元データ復号装置は、復号された基準値および差分情報を用いて量子化値を算出し、逆量子化に用いるQP値を、算出されたQP値に更新する(S5362)。これにより、タイル毎またはスライス毎の量子化属性情報を逆量子化するためのQP値を導出することができる。
そして、三次元データ復号装置は、復号処理の停止条件が満たされるまで、例えば、復号対象のデータがなくなるまで、復号処理を継続する(S5363)。
図112は、GPSのシンタックス例を示す図である。図113は、APSのシンタックス例を示す図である。図114は、位置情報のヘッダのシンタックス例を示す図である。図115は、属性情報のヘッダのシンタックス例を示す図である。
図112に示すように、例えば、位置情報の付加情報であるGPSは、QP値の導出の基準となる絶対値を示すQP_valueを含む。QP valueは、例えば、図104~図106で例示したQに相当する。
また、図113に示すように、例えば、属性情報の付加情報であるAPSは、三次元点に複数視点の複数の色情報がある場合、デフォルトの視点を定義し、0番目は必ずデフォルト視点の情報を記載するとしてもよい。例えば、三次元データ符号化装置は、単一の色情報を復号または表示する場合、0番目の属性情報を復号または表示すればよい。
APSは、QP_delta_Attribute_to_Geometryを含む。QP_delta_Attribute_to_Geometryは、GPSに記載の基準値(QP_value)との差分情報を示す。この差分情報は、例えば、属性情報が色情報である場合、輝度との差分情報である。
また、GPSは、Geometry_header(位置情報のヘッダ)にQP値を算出するための差分情報があるか否かを示すフラグを含んでいてもよい。また、APSは、Attribute_header(属性情報のヘッダ)にQP値を算出するための差分情報があるか否かを示すフラグを含んでいてもよい。フラグは、属性情報において、データQPを算出するための、データQPの、フレームQPからの差分情報があるか否かを示していてもよい。
このように、符号化ストリームには、属性情報のうちの第1の色が第1輝度および第1色差で示される場合、第1輝度を量子化するための第2量子化パラメータを用いた量子化、および、第1色差を量子化するための第3量子化パラメータを用いた量子化において、第5量子化パラメータおよび第6量子化パラメータを用いて量子化した場合、第5量子化パラメータおよび第6量子化パラメータを用いて量子化したことを示す識別情報(フラグ)が含まれていてもよい。
また、図114に示すように、位置情報のヘッダは、GPSに記載の基準値(QP_value)との差分情報を示す、QP_delta_data_to_frameを含んでいてもよい。また、位置情報のヘッダは、タイル毎および/またはスライス毎の情報に分け、タイル毎および/またはスライス毎に、対応するQP値がそれぞれ示されても良い。
また、図115に示すように、属性情報のヘッダは、APSに記載のQP値との差分情報を示す、QP_delta_data_to_frameを含んでいてもよい。
図104~図106では、QP値の基準値をPCCフレームにおける位置情報のQP値であるとして説明したが、これに限らずに、その他の値を基準値として用いても良い。
図116は、量子化パラメータの伝送方法の他の例について説明するための図である。
図116の(a)および(b)は、PCCフレームにおける位置情報および属性情報のQP値で共通の基準値Qを設定する第4の例を示す。第4の例では、基準値QをGPSに格納し、基準値Qからの、位置情報のQP値(Q)の差分情報をGPSに格納し、属性情報のQP値(QおよびQ)の差分情報をAPSに格納する。なお、基準値Qは、SPSに格納されてもよい。
図116の(c)および(d)は、位置情報および属性情報毎に独立に基準値を設定する第5の例を示す。第5の例では、GPSおよびAPSに、位置情報および属性情報の基準のQP値(絶対値)をそれぞれ格納する。つまり、位置情報には、基準値Qが設定され、属性情報の色情報には、基準値Qが設定され、属性情報の反射率には、基準値Qがそれぞれ設定される。このように、位置情報および複数種類の属性情報のそれぞれについて、QP値の基準値が設定されてもよい。なお、第5の例は、他の例と組み合わせられてもよい。つまり、第1の例におけるQ、第2の例におけるQY1、QY2、Qは、QP値の基準値であってもよい。
図116の(e)および(f)は、PCCフレームが複数ある場合、複数のPCCフレームで共通の基準値Qを設定する第6の例を示す。第6の例では、基準値QをSPSあるいはGSPSに格納し、それぞれのPCCフレームの位置情報のQP値と基準値との差分情報をGPSに格納する。なお、例えば、GOFのように、ランダムアクセス単位の範囲内では、例えば、ランダムアクセス単位の先頭フレームを基準値として、PCCフレーム間の差分情報(例えば、Δ(QG(1),QG(0)))を送出してもよい。
なお、タイルまたはスライスがさらに分割される場合であっても、同様の方法でデータヘッダに分割単位のQP値との差分情報を格納して送出する。
図117は、量子化パラメータの伝送方法の他の例について説明するための図である。
図117(a)および(b)は、PCCフレームにおける位置情報および属性情報で共通の基準値Qを設定する第7の例を示す。第7の例では、基準値QをGPSに格納し、位置情報あるいは属性情報との差分情報をそれぞれのデータヘッダに格納する。基準値QはSPSに格納されてもよい。
また、図117の(c)および(d)は、属性情報のQP値を、同一のスライスおよびタイルに属する位置情報のQP値との差分情報で示す第8の例を示す。第8の例では、基準値Qは、SPSに格納されてもよい。
図118は、量子化パラメータの伝送方法の第9の例について説明するための図である。
図118の(a)および(b)は、属性情報で共通のQP値を解して、位置情報のQP値との差分情報、属性情報で共通のQP値との差分情報をそれぞれ示す第9の例である。
図119は、QP値の制御例を説明するための図である。
量子化パラメータの値が低いほど品質が向上するが、より多くのビットが必要になるため、符号化効率が低下する。
例えば、三次元点群データをタイルに分割して符号化する際、タイルに含まれる点群データが主要道路である場合は、予め定義された属性情報のQP値を用いて符号化される。一方、周囲のタイルは重要な情報でないため、QP値の差分情報を正の値に設定することによりデータの品質を低下させ、符号化効率を向上できる可能性がある。
さらに、タイルに分割された三次元点群データをスライスに分割して符号化する際、歩道、木および建物は、自動運転において位置推定(ローカライズおよびマッピング)するにために重要であるためQP値を負の値に設定し、移動体およびその他は、重要性が低いためQP値を正の値に設定する。
図119(b)は、タイルやスライスに含まれるオブジェクトに基づき、予め量子化デルタ値が設定されている場合の差分情報の導出する例を示している。例えば、分割データが「主要道路」であるタイルに含まれる「建物」のスライスデータである場合、「主要道路」であるタイルの量子化デルタ値0と「建物」であるスライスデータの量子化デルタ値-5を加算し、差分情報は-5と導出される。
図120は、オブジェクトの品質に基づくQP値の決定方法の一例を示すフローチャートである。
三次元データ符号化装置は、地図情報に基づいて、点群データを1以上のタイルに分割し、1以上のタイル毎に含まれるオブジェクトを判定する(S5371)。具体的には、三次元データ符号化装置は、例えば、機械学習で得られた学習モデルを用いて、オブジェクトが何であるかを認識する物体認識処理を行う。
次に、三次元データ符号化装置は、処理対象のタイルを高い品質で符号化するか否かを判定する(S5372)。高い品質での符号化とは、例えば、所定のレートよりも大きいビットレートで符号化することである。
次に、三次元データ符号化装置は、処理対象のタイルを高い品質で符号化する場合(S5372でYes)、符号化品質が高くなるようにタイルのQP値を設定する(S5373)。
一方で、三次元データ符号化装置は、処理対象のタイルを高い品質で符号化しない場合(S5372でNo)、符号化品質が低くなるようにタイルのQP値を設定する(S5374)。
ステップS5373またはステップS5374の後で、三次元データ符号化装置は、タイル内のオブジェクトを判定し、1以上のスライスに分割する(S5375)。
次に、三次元データ符号化装置は、処理対象のスライスを高い品質で符号化するか否かを判定する(S5376)。
次に、三次元データ符号化装置は、処理対象のスライスを高い品質で符号化する場合(S5376でYes)、符号化品質が高くなるようにスライスのQP値を設定する(S5377)。
一方で、三次元データ符号化装置は、処理対象のスライスを高い品質で符号化しない場合(S5376でNo)、符号化品質が低くなるようにスライスのQP値を設定する(S5378)。
次に、三次元データ符号化装置は、設定されたQP値に基づいて、所定の方法で伝送する基準値および差分情報を決定し、決定した基準値および差分情報を付加情報およびデータのヘッダの少なくとも一方に格納する(S5379)。
次に、三次元データ符号化装置は、決定したQP値に基づき、位置情報および属性情報を量子化し、符号化する(S5380)。
図121は、レート制御に基づくQP値の決定方法の一例を示すフローチャートである。
三次元データ符号化装置は、点群データを順番に符号化する(S5381)。
次に、三次元データ符号化装置は、符号化データの符号量および符号化バッファの占有量から、符号化処理に係るレート制御状況を判定し、次回の符号化の品質を決定する(S5382)。
次に、三次元データ符号化装置は、符号化品質を上げるか否かを判定する(S5383)。
次に、三次元データ符号化装置は、符号化品質を上げる場合(S5383でYes)、符号化品質が高くなるようにタイルのQP値を設定する(S5384)。
一方で、三次元データ符号化装置は、符号化品質を上げない場合(S5383でNo)、符号化品質が低くなるようにタイルのQP値を設定する(S5385)。
次に、三次元データ符号化装置は、設定されたQP値に基づいて、所定の方法で伝送する基準値および差分情報を決定し、決定した基準値および差分情報を付加情報およびデータのヘッダの少なくとも一方に格納する(S5386)。
次に、三次元データ符号化装置は、決定したQP値に基づき、位置情報および属性情報を量子化し、符号化する(S5387)。
以上のように、本実施の形態に係る三次元データ符号化装置は、図122に示す処理を行う。まず、三次元データ符号化装置は、第1量子化パラメータを用いて複数の三次元点それぞれの位置情報を量子化する(S5391)。三次元データ符号化装置は、前記複数の三次元点それぞれの属性情報のうちの第1の色を示す第1輝度および第1色差について、第2量子化パラメータを用いて前記第1輝度を量子化し、かつ、第3量子化パラメータを用いて前記第1色差を量子化する(S5392)。三次元データ符号化装置は、量子化された前記位置情報、量子化された前記第1輝度、量子化された前記第1色差、前記第1量子化パラメータ、前記第2量子化パラメータ、および、前記第2量子化パラメータと前記第3量子化パラメータとの第1差分を含むビットストリームを生成する(S5393)。
これによれば、ビットストリームにおいて、第3量子化パラメータを第2量子化パラメータからの第1差分で示すため、符号化効率を向上できる。
例えば、三次元データ符号化装置は、さらに、第4量子化パラメータを用いて前記複数の三次元点それぞれの前記属性情報のうちの反射率を量子化する。また、前記生成では、量子化された前記反射率、および、前記第4量子化パラメータをさらに含むビットストリームを生成する。
例えば、前記第2量子化パラメータを用いた量子化では、前記複数の三次元点が含まれる対象空間を分割した複数のサブ空間毎に当該サブ空間に含まれる1以上の三次元点の前記第1輝度を量子化する場合、第5量子化パラメータをさらに用いて前記サブ空間に含まれる1以上の三次元点の前記第1輝度を量子化する。前記第3量子化パラメータを用いた量子化では、前記1以上の三次元点の前記第1色差を量子化する場合、第6量子化パラメータをさらに用いて前記1以上の三次元点の前記第1色差を量子化する。前記生成では、前記第2量子化パラメータと前記第5量子化パラメータとの第2差分、および、前記第3量子化パラメータと前記第6量子化パラメータとの第3差分をさらに含むビットストリームを生成する。
これによれば、ビットストリームにおいて、第5量子化パラメータを第2量子化パラメータからの第2差分で示し、かつ、第6量子化パラメータを第3量子化パラメータからの第3差分で示すため、符号化効率を向上できる。
例えば、前記生成では、前記第2量子化パラメータを用いた量子化、および、前記第3量子化パラメータを用いた量子化において、前記第5量子化パラメータおよび前記第6量子化パラメータを用いて量子化した場合、前記第5量子化パラメータおよび前記第6量子化パラメータを用いて量子化したことを示す識別情報をさらに含むビットストリームを生成する。
これによれば、ビットストリームを取得した三次元データ復号装置は、識別情報を用いて第5量子化パラメータおよび第6量子化パラメータを用いて量子化したこと判定できるため、復号処理の処理負荷を低減することができる。
例えば、三次元データ符号化装置は、さらに、前記複数の三次元点それぞれの属性情報のうちの第2の色を示す第2輝度および第2色差について、第7量子化パラメータを用いて前記第2輝度を量子化し、かつ、第8量子化パラメータを用いて前記第2色差を量子化する。前記生成では、さらに、量子化された前記第2輝度、量子化された前記第2色差、前記第7量子化パラメータ、および、前記第7量子化パラメータと前記第8量子化パラメータとの第4差分をさらに含むビットストリームを生成する。
これによれば、ビットストリームにおいて、第8量子化パラメータを第7量子化パラメータからの第4差分で示すため、符号化効率を向上できる。また、三次元点の属性情報に2種類の色情報を含めることができる。
例えば、三次元データ符号化装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
また、本実施の形態に係る三次元データ復号装置は、図123に示す処理を行う。まず三次元データ復号装置は、ビットストリームを取得することで量子化された位置情報、量子化された第1輝度、量子化された第1色差、第1量子化パラメータ、第2量子化パラメータ、および、前記第2量子化パラメータと第3量子化パラメータとの第1差分を取得する(S5394)。三次元データ復号装置は、前記第1量子化パラメータを用いて前記量子化された位置情報を逆量子化することで、複数の三次元点の位置情報を算出する(S5395)。三次元データ復号装置は、前記第2量子化パラメータを用いて前記量子化された第1輝度を逆量子化することで、前記複数の三次元点の第1色を示す第1輝度および第1色差のうちの前記第1輝度を算出する(S5396)。三次元データ復号装置は、前記第2量子化パラメータおよび前記第1差分から得られる前記第3量子化パラメータを用いて前記量子化された第1色差を逆量子化することで、前記第1色差を算出する(S5397)。
このため、三次元データ復号装置は、三次元点の位置情報および属性情報を正しく復号できる。
例えば、前記取得では、前記ビットストリームを取得することでさらに量子化された反射率、および、第4量子化パラメータを取得する。三次元データ復号装置は、さらに、前記第4量子化パラメータを用いて前記量子化された反射率を逆量子化することで、前記複数の三次元点の反射率を算出する。
このため、三次元データ復号装置は、三次元点の反射率を正しく復号できる。
例えば、前記取得では、前記ビットストリームを取得することでさらに、前記第2量子化パラメータと第5量子化パラメータとの第2差分、および、前記第3量子化パラメータと第6量子化パラメータとの第3差分を取得する。前記第1輝度の算出では、前記量子化された第1輝度が、前記複数の三次元点が含まれる対象空間を分割した複数のサブ空間毎に当該サブ空間に含まれる1以上の三次元点の第1輝度が量子化された輝度である場合、前記第2量子化パラメータおよび前記第2差分から得られる前記第5量子化パラメータを用いて前記量子化された第1輝度を逆量子化することで、前記1以上の三次元点の前記第1輝度を算出する。前記第1色差の算出では、前記量子化された第1色差が、前記1以上の三次元点の第1色差が量子化された色差である場合、前記第3量子化パラメータおよび前記第3差分から得られる前記第6量子化パラメータを用いて前記量子化された第1色差を逆量子化することで、前記1以上の三次元点の前記第1色差を算出する。
例えば、前記取得では、前記ビットストリームを取得することでさらに、前記第5量子化パラメータおよび前記第6量子化パラメータを用いて量子化したことを示す識別情報を取得する。前記第1輝度の算出では、前記識別情報が前記第5量子化パラメータおよび前記第6量子化パラメータを用いて量子化したことを示す場合、前記量子化された第1輝度が、前記1以上の三次元点の前記第1輝度が量子化された輝度であると判定する。前記第1色差の算出では、前記識別情報が前記第5量子化パラメータおよび前記第6量子化パラメータを用いて量子化したことを示す場合、前記量子化された第1色差が、前記1以上の三次元点の前記第1色差が量子化された色差であると判定する。
これによれば、三次元データ復号装置は、識別情報を用いて第5量子化パラメータおよび第6量子化パラメータを用いて量子化したこと判定できるため、復号処理の処理負荷を低減することができる。
例えば、前記取得では、前記ビットストリームを取得することでさらに、量子化された第2輝度、量子化された第2色差、第7量子化パラメータ、および、前記第7量子化パラメータと第8量子化パラメータとの第4差分を取得する。三次元データ復号装置は、さらに、前記第7量子化パラメータを用いて前記量子化された第2輝度を逆量子化することで、前記複数の三次元点の第2色を示す第2輝度および第2色差のうちの前記第2輝度を算出する。また、三次元データ復号装置は、さらに、前記第7量子化パラメータおよび前記第4差分から得られる前記第8量子化パラメータを用いて前記量子化された第2色差を逆量子化することで、前記第2色差を算出する。
このため、三次元データ復号装置は、三次元点の第2の色を正しく復号できる。
例えば、三次元データ復号装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
(実施の形態9)
上記実施の形態8において説明した三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、および、三次元データ復号装置において、本実施の形態で説明する処理を行ってもよい。
図124は、実施の形態9に係る量子化パラメータの伝送方法の一例について説明するための図である。図124の(a)は、位置情報および属性情報のそれぞれにおいてQP値の基準値が設定されている例を示す。図124は、実施の形態8における図105と比較して、位置情報と同様に、属性情報にもQP値の基準値が設定されている点が主に異なる。つまり、第1の色、第2の色、および反射率を含む複数の属性情報のうちのいずれか1つの属性情報のQP値を基準値とし、その他の属性情報のQP値を共通の基準値からの差分情報として示す。
図124では、第1の色の輝度Y1の符号化に用いるQP値であるQY1は、第1の色、第2の色および反射率を含む複数の属性情報で共通の基準値として設定されている。また、第2の色の基準値であるQY2は、共通の基準値であるQY1と、QY1からの差分情報「5.」であるΔ(QY2,QY1)とを用いて導出される。反射率の基準値であるQは、共通の基準値であるQY1と、QY1からの差分情報「8.」であるΔ(Q,QY1)とを用いて導出される。この場合、共通の基準値であるQY1は、第1の色に対応するAPSであるAPS1に含まれる。
また、第4の属性は、共通の基準値であるQY1とは、独立した基準値が設定されていてもよい。また、第5の属性は、QP値を有していなくてもよい。このように、複数の属性情報の量子化に用いる複数のQP値を導出するための共通の基準値が量子化に用いられる属性情報と、共通の基準値とは独立した基準値が量子化に用いられる属性情報とが混在してもよい。また、さらに、QP値が符号化に用いられない属性情報が混在してもよい。
なお、図124の例では第1の色の属性情報の量子化に用いるQP値が、複数の属性情報の量子化に用いるQP値を導出するための共通の基準値である例を説明したが、共通の基準値は、以下の規則に従って決定されてもよい。例えば、SPSなどの制御情報に全ての属性情報が記載される場合、全ての属性情報のうちSPSにおいて最初に示される属性情報に含まれるQP値を、共通の基準値として設定してもよい。あるいは、SPSなどの制御情報において、共通の基準値として設定されるQP値が量子化に用いられる属性情報が示されていてもよい。反対に、SPSなどの制御情報において、共通の基準値として設定されるQP値が量子化に用いられる属性情報が複数の属性情報の最初に示されていてもよい。いずれの方法を用いても、複数の属性情報のそれぞれの量子化に用いられる各QP値を、基準値と差分情報との組み合わせの情報で示すことで、符号化データの削減が期待できる。
なお、属性情報ごとの基準値QY1,QY2,Qをそれぞれ独立にAPSで示し、第1の色に属するQP値はQY1を基準値とし、第2の色に属するQP値はQY2を基準値とし、反射率に属するQP値はQを基準値としてもよい。つまり、この場合、QY2およびQは、QY1と同様に絶対値で示される。
第1の例は、複数の属性情報のメターデータをまとめて1つのAPSに記載する場合の属性情報のQP値を示す方法である。
図125は、APSのシンタックス、および、属性情報のヘッダのシンタックスの第1の例を示す図である。
まず、APSのシンタックス例について説明する。
aps_idxは、APSのインデックス番号を示す。aps_idxは、APSと属性情報のヘッダとの間の対応関係を示す。
sps_idxは、APSが対応するSPSのインデックス番号を示す。
num_of_attributeは、属性情報の数を示す。なお、属性情報ごとにAPSが設定される場合、num_of_attributeのフィールドまたはループはAPSに含まれていなくてもよい。
attribute_typeは、属性情報のタイプ、つまり、属性情報の種類を示す。なお、属性情報のタイプが対応するSPSに記載されている場合、attribute_typeの代わりに、SPSに記載されている属性情報のタイプを参照するための情報がAPSに含まれていてもよい。
図125において破線6701で囲まれているif文では、attribute_typeに応じたQP値が示される。例えば、属性情報のタイプが色である場合、絶対値で示される輝度(ルマ)のQP値が基準値として示され、色差(クロマ:Cb,Cr)のQP値が輝度のQP値との差分情報として示される。
一方、属性情報のタイプが反射率である場合、絶対値で示される反射率のQP値が示される。また、属性情報のタイプがその他の例としてQP値を有していない場合、QP値が示さない。
また、属性情報が2以上ある場合、属性情報の基準値(ここではQP_value_LumaあるいはQP_value)は、他の属性情報の基準値からの差分で示されてもよい。例えば、num_of_attributeのループにおいてi=0の場合に共通の属性情報の基準値が示され、i=>1の場合に共通の属性情報からの差分値が示されてもよい。
data_QP_delata_present_flagは、Data(スライス)ごとのQP値が属性情報のヘッダに存在するか否かを示すフラグである。当該フラグが1の場合、属性情報のヘッダにData(スライス)ごとのQP値が示される。
次に、属性情報のヘッダのシンタックス例について説明する。
属性情報のヘッダにもaps_idxが含まれている。これにより、APS、および、属性情報のヘッダに含まれる、aps_idxでAPSと属性情報のヘッダとの間の対応関係が示される。つまり、共通するaps_idxを有していることが、APSおよび属性情報のヘッダが互いに対応関係にあることを示す。
attribute_typeは、属性情報のタイプ(属性情報の種類)を示す。なお、属性情報のタイプが対応するAPSあるいはSPSに記載されている場合、attribute_typeの代わりに、APSあるいはSPSに記載されている属性情報のタイプを参照するための情報が属性情報のヘッダに含まれていてもよい。
破線6702で囲まれているif文における各フィールド、つまり、QP_delata_data_to_frame、QP_delta1_to_frameおよびQP_delta2_to_frameのそれぞれのQP値は、attribute_typeに対応するデータのQP値を示す。各QP値は、APSに記載の値からの差分情報を示す。
第2の例は、1つの属性情報のメターデータを独立に1つのAPSに記載する場合の属性情報のQP値を示す方法である。第2の例では、様々なタイプ(種類)の属性情報で共通のヘッダ構造とすることで、属性情報に応じたシンタックス構造の変化を回避する効果がある。
図126は、APSのシンタックスの第2の例を示す図である。図127は、属性情報のヘッダのシンタックスの第2の例を示す図である。
APSには、フレームのQP値の基準値および差分値が含まれる。また、APSのdata_QP_delta_present_flagが1の場合、属性情報のヘッダには、APSの基準値からの差分情報が含まれる。
ここで、QP値にかかわるフィールドは、属性情報のタイプが色、反射率、フレーム番号などのいずれであっても常に存在するものとする。APSは、属性情報のタイプに関わらず、N個(Nは2以上)のQP値が格納される第1の数のフィールドを有する。ここで、Nは、例えば、3である。
例えば、属性情報のタイプが色である場合、APSにおけるQP_valueには、ルマのQP値を示す情報が格納され、QP_delta1およびQP_delta2にはクロマのQP値を示す情報が格納される。例えば、QP_valueは、基準値であり、QP_delta1およびQP_delta2は、QP_valueを基準とする差分情報である。つまり、ルマのQP値は、QP_valueで示され、クロマのQP値は、QP_valueにQP_delta1を加算した値、および、QP_valueにQP_delta2を加算した値で示される。このように、APSには、対応する属性情報を量子化するための量子化パラメータの基準値が含まれる。
また、同様に、属性情報のヘッダにおけるQP_delata_data_to_frameにはルマのQP値の、対応するAPSのQP_valueからの差分情報が格納される。また、QP_delta1_to_frameおよびQP_delta2_to_frameにはクロマのQP値の、対応するAPSのQP_delta1およびQP_delta2からの差分情報が格納されてもよい。
また、例えば、属性情報のタイプが反射率である場合は、APSにおけるQP_valueには反射率のQP値を示す情報が格納され、QP_delta1およびQP_delta2には常に0または無効であることを示す情報が格納されてもよい。また、、同様に、属性情報のヘッダにおけるQP_delata_data_to_frameには反射率のQP値を示す情報が格納され、QP_delta1_to_frameおよびQP_delta2_to_frameには常に0または無効であることを示す情報が格納されてもよい。この場合、三次元データ復号装置は、0または無効であることを示す情報が格納されている、QP_delta1およびQP_delta2、並びに、QP_delta1_to_frameおよびQP_delta2_to_frameに格納されている情報を、当該情報に関わらずに、復号に用いず無視してもよい。
また、例えば、属性情報のタイプがその他の例としてQP値を有していない場合、APSにおけるすべてのフィールドには、0または無効であることを示す情報が格納されてもよい。この場合、さらにdata_AP_delta_present_flagは、0とされてもよい。この場合、三次元データ復号装置は、0または無効であることを示す情報が格納されている、QP_delta1およびQP_delta2、並びに、QP_delta1_to_frameおよびQP_delta2_to_frameに格納されている情報を、当該情報に関わらずに、復号に用いず無視してもよい。このように、三次元データ復号装置は、複数の属性情報のヘッダのうちの特定の種類の属性に対応する特定の属性情報のヘッダにおける複数のフィールドのうちの特定のフィールドに格納されるパラメータを無視してもよい。
このような構成の場合、属性情報のタイプが異なる場合でも、共通するシンタックス構造で、QP値を基準値と差分情報との組み合わせで示すことができるため、符号化率の向上が期待できる。
なお、1つの位置情報に対応する属性情報が2以上の色情報を有する場合、共通のQP基準値とその差分情報で示し、反射率のQP基準値は独立にAPSで示すなど、属性情報のタイプに応じて示し方を変えてもよい。
実施の形態8および本実施の形態で説明した方法に限らず、さらに基準値を、基準値と差分情報とに分けてシグナリングしてもよいし、差分情報を独立に基準値としてシグナリングしてもよい。例えば、独立した復号を必要とする単位の場合には、少なくとも1つの基準値を送出し、独立した復号を必要としない単位の場合には差分情報を送出するなど、データの特性に応じて適応的に基準値および差分情報の組み合わせを変化させてもよい。これにより機能向上と符号量削減の両方の効果を期待できる。
あるいは、基準値と差分情報との組み合わせの情報量を計算し、計算結果に基づき、例えば計算結果が最小となるような基準値と差分情報との組み合わせを生成し、送出してもよい。適応的に切り替える場合には、基準値を示すフィールドと差分情報を示すフィールドとの意味(セマンティクス)を適応的に変化させてもよい。例えば上記のようなルールに従い各フィールドを無効にするか否かなどのように各フィールドの意味を変えてもよいし、各フィールドの意味を切り替えることを示すフラグを追加してもよい。また、基準値の参照先を適応的に変えてもよい。その場合は、参照先が変わったことを示すフラグや参照先を特定するためのIdなどが示されてもよい。
次に、SPSに記載される属性情報と、APS、および、Attribute_header(属性情報のヘッダ)の関係を、attribute_component_idを用いて示す方法について図128を用いて説明する。図128は、SPS、APSおよび属性情報のヘッダの関係を示す図である。なお、図128において矢印の先は、参照先を示す。
SPSには、複数の属性情報のタイプに関する情報が含まれる。このように、SPSは、複数の属性情報に対応し、それぞれが互いに異なる属性情報の種類を示す複数のattribute_typeを含んでいてもよい。また、SPSは、属性情報のタイプ毎に、属性情報のタイプを識別するための番号を示すattribute_component_idを含む。なお、SPSは、制御情報の一例である。attribute_typeは、種類情報の一例である。SPSに含まれるattribute_component_idは、複数の種類情報のいずれかに対応付けられていることを示す第1識別情報の一例である。
APSまたはAttribute_headerは、SPSに含まれるattribute_component_idに対応するattribute_component_idを含む。なお、APSは、第2属性制御情報の一例である。Attribute_headerは、第1属性制御情報の一例である。APSに含まれるattribute_component_idは、複数の種類情報のいずれかに対応付けられていることを示す第2識別情報の一例である。
三次元データ復号装置は、APSまたはAttribute_headerに含まれるsps_idxで示されるSPSを参照する。そして、三次元データ復号装置は、参照したSPSにおいて、当該APSまたは当該Attribute_headerに含まれるattribute_component_idに対応する属性情報のタイプを、当該APSまたは当該Attribute_headerに含まれる情報が対応する属性情報のタイプとして取得する。なお、1つのAPSは、属性情報のタイプの1つに対応する。また、1つの属性情報のヘッダは、属性情報のタイプの1つに対応する。複数のAPSのそれぞれは、1以上の属性情報のヘッダが対応している。つまり、1つのAPSには、他のAPSに対応している1以上の属性情報のヘッダとは異なる1以上の属性情報のヘッダが対応している。
例えば、attribute_component_id=0の場合、三次元データ復号装置は、SPSの中から同一の、つまり、値が0のattribute_component_idに対応する属性情報(attribute_typeなど)を取得することができる。
なお、SPSには、attribute_component_idの代わりに、SPSに記載される属性情報の順序が用いられてもよい。つまり、複数の属性情報の種類を示す種類情報は、SPSにおいて、所定の順序で格納(記述)されていてもよい。この場合、APSまたはAttribute_headerに含まれるattribute_component_idは、attribute_component_idを含むAPSまたはAttribute_headerが所定の順序のうちの一つの順番の種類情報に対応付けられていることを示す。
あるいは、APSまたは属性情報の送出順をSPSに記載される属性情報の順序と一致させることで、三次元データ復号装置は、APSまたは属性情報の到着順を導出し、到着順に対応する属性情報を参照するとしてもよい。また、点群データが、APSまたはAttribute_headerがフレーム毎にあったりなかったりする属性情報と、APSまたはAttribute_headerがフレーム毎に常に存在する属性情報とを含む場合、フレーム毎に常に存在する属性情報の順番を先にし、時々存在しない可能性のある属性情報の順番を後に送出してもよい。
なお、図124および図128では、1つのフレームにおいて、複数の属性情報にそれぞれが対応する複数のAPSが示されているが、複数のAPSの代わりに1つのAPSが用いられてもよい。つまり、この場合の1つのAPSは、複数の属性情報に対応する属性情報に関する情報を含む。
また、aps_idxは、フレーム番号に相当するシーケンス番号を含んでいてもよい。これにより、APSとAttribute_headerとの対応関係が示されてもよい。なお、aps_idxは、attirubte_component_idの機能を有してもよい。この方法により、1以上の種類のAPSまたは属性情報に関わる、シーケンス全体の情報をSPSに格納し、各APSまたは各Attribute_headerから参照することが可能となる。
なお、APSまたはAttribute_headerの属性情報の種類(attribute_type)を判定する方法として、APSまたはAttribute_headerに直接attribute_typeが含まれてよいし、NALユニットの種類としてNALユニットヘッダにattribute_typeが含まれてもよい。
いずれの方法を用いてもAPSまたはAttribute_hedaerの属性情報の取得や属性の種類を判定することが可能となる。
以上のように、本実施の形態に係る三次元データ符号化装置は、図129に示す処理を行う。まず、三次元データ符号化装置は、パラメータを用いて複数の三次元点のそれぞれが有する複数の属性情報を符号化する(S6701)。三次元データ符号化装置は、符号化された前記複数の属性情報、制御情報、および、複数の第1属性制御情報を含むビットストリームを生成する(S6702)。前記制御情報は、前記複数の属性情報に対応し、それぞれが互いに異なる属性情報の種類を示す複数の種類情報を含む。また、前記複数の第1属性制御情報は、前記複数の属性情報にそれぞれ対応する。前記複数の第1属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第1識別情報を含む。
これによれば、第1属性制御情報が対応している属性情報の種類を特定するための第1識別情報を含むビットストリームを生成するため、当該ビットストリームを受信した三次元データ復号装置は、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記複数の種類情報は、前記制御情報において、所定の順序で格納されている。前記第1識別情報は、当該第1識別情報を含む第1属性制御情報が前記所定の順序のうちの一つの順番の種類情報に対応付けられていることを示す。
これによれば、種類情報を示す情報を付加しなくても種類情報が所定の順序で示されるため、ビットストリームのデータ量を削減することができ、ビットストリームの伝送量を削減することができる。
例えば、前記ビットストリームは、さらに、前記複数の属性情報に対応する複数の第2属性制御情報を含む。前記複数の第2属性制御情報のそれぞれは、対応する第1属性情報の符号化に用いられるパラメータの基準値を含む。
これによれば、複数の第2属性制御情報のそれぞれは、パラメータの基準値を含むため、基準値を用いて、当該第2属性制御情報が対応する属性情報を符号化することができる。また、ビットストリームを受信した三次元データ復号装置は、第2識別情報を用いて、第2属性情報の種類を特定することができるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記第1属性制御情報は、前記パラメータの前記基準値からの差分である差分情報を含む。このため、符号化効率を向上できる。
例えば、前記ビットストリームは、さらに、前記複数の属性情報に対応する複数の第2属性制御情報を含む。前記複数の第2属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第2識別情報を有する。
これによれば、第2属性制御情報が対応している属性情報の種類を特定するための第2識別情報を含むビットストリームを生成するため、三次元点の属性情報を正しくかつ効率よく復号することができるビットストリームを生成することができる。
例えば、前記複数の第1属性制御情報のそれぞれは、N個(Nは2以上)のパラメータが格納される前記N個のフィールドを有する。前記複数の第1属性制御情報のうちの特定の種類の属性に対応する特定の第1属性制御情報では、前記第1の数のフィールドの一つのフィールドは、無効であることを示す値を含む。
このため、ビットストリームを受信した三次元データ復号装置は、第1識別情報を用いて、第1属性情報の種類を特定し、特定の第1属性制御情報の場合に復号処理を省くことができるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記符号化では、前記パラメータとしての量子化パラメータを用いて前記複数の属性情報を量子化する。
これによれば、パラメータを基準値からの差分を用いて表すため、量子化にかかる符号化効率を向上できる。
例えば、三次元データ符号化装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
また、本実施の形態に係る三次元データ復号装置は、図130に示す処理を行う。まず、三次元データ復号装置は、ビットストリームを取得することで符号化された複数の属性情報、および、パラメータを取得する(S6711)。三次元データ復号装置は、前記パラメータを用いて前記符号化された複数の属性情報を復号することで、複数の三次元点のそれぞれが有する複数の属性情報を復号する(S6712)。前記ビットストリームは、制御情報および複数の第1属性制御情報を含む。前記制御情報は、前記複数の属性情報に対応し、それぞれが互いに異なる属性情報の種類を示す複数の種類情報を含む。前記複数の第1属性制御情報は、前記複数の属性情報にそれぞれ対応する。前記複数の第1属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第1識別情報を含む。
これによれば、三次元データ復号装置は、第1識別情報を用いて、第1属性制御情報が対応している属性情報の種類を特定することができるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記複数の種類情報は、前記制御情報において、所定の順序で格納されている。前記第1識別情報は、当該第1識別情報を含む第1属性制御情報が前記所定の順序のうちの一つの順番の種類情報に対応付けられていることを示す。
これによれば、種類情報を示す情報を付加しなくても種類情報が所定の順序で示されるため、ビットストリームのデータ量を削減することができ、ビットストリームの伝送量を削減することができる。
例えば、前記ビットストリームは、さらに、前記複数の属性情報に対応する複数の第2属性制御情報を含む。前記複数の第2属性制御情報のそれぞれは、対応する属性情報の符号化に用いられるパラメータの基準値を含む。
これによれば、三次元データ復号装置は、第基準値を用いて第2属性制御情報が対応する属性情報を復号することができるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記第1属性制御情報は、前記パラメータの前記基準値からの差分である差分情報を含む。これによれば、基準値および差分情報を用いて属性情報を復号できるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記ビットストリームは、さらに、前記複数の属性情報に対応する複数の第2属性制御情報を含む。前記複数の第2属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第2識別情報を有する。これによれば、第2識別情報を用いて、第2属性制御情報が対応している属性情報の種類を特定することができるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記複数の第1属性制御情報のそれぞれは、複数のパラメータが格納される複数のフィールドを有する。前記復号では、前記複数の第1属性制御情報のうちの特定の種類の属性に対応する特定の第1属性制御情報の前記複数のフィールドのうちの特定のフィールドに格納されるパラメータを無視する。
これによれば、三次元データ復号装置は、第1識別情報を用いて、第1属性情報の種類を特定し、特定の第1属性制御情報の場合に復号処理を省くことができるため、三次元点の属性情報を正しくかつ効率よく復号することができる。
例えば、前記復号では、前記パラメータとしての量子化パラメータを用いて前記符号化された複数の属性情報を逆量子化する。
これによれば、三次元点の属性情報を正しく復号することができる。
例えば、三次元データ復号装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
以上、本開示の実施の形態に係る三次元データ符号化装置及び三次元データ復号装置等について説明したが、本開示は、この実施の形態に限定されるものではない。
また、上記実施の形態に係る三次元データ符号化装置及び三次元データ復号装置等に含まれる各処理部は典型的には集積回路であるLSIとして実現される。これらは個別に1チップ化されてもよいし、一部又は全てを含むように1チップ化されてもよい。
また、集積回路化はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)、又はLSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
また、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
また、本開示は、三次元データ符号化装置及び三次元データ復号装置等により実行される三次元データ符号化方法又は三次元データ復号方法等として実現されてもよい。
また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時(並列)に実行されてもよい。
以上、一つまたは複数の態様に係る三次元データ符号化装置及び三次元データ復号装置等について、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
本開示は、三次元データ符号化装置及び三次元データ復号装置に適用できる。
4601 三次元データ符号化システム
4602 三次元データ復号システム
4603 センサ端末
4604 外部接続部
4611 点群データ生成システム
4612 提示部
4613 符号化部
4614 多重化部
4615 入出力部
4616 制御部
4617 センサ情報取得部
4618 点群データ生成部
4621 センサ情報取得部
4622 入出力部
4623 逆多重化部
4624 復号部
4625 提示部
4626 ユーザインタフェース
4627 制御部
4630 第1の符号化部
4631 位置情報符号化部
4632 属性情報符号化部
4633 付加情報符号化部
4634 多重化部
4640 第1の復号部
4641 逆多重化部
4642 位置情報復号部
4643 属性情報復号部
4644 付加情報復号部
4650 第2の符号化部
4651 付加情報生成部
4652 位置画像生成部
4653 属性画像生成部
4654 映像符号化部
4655 付加情報符号化部
4656 多重化部
4660 第2の復号部
4661 逆多重化部
4662 映像復号部
4663 付加情報復号部
4664 位置情報生成部
4665 属性情報生成部
4670 符号化部
4671 多重化部
4680 復号部
4681 逆多重化部
4710 第1の多重化部
4711 ファイル変換部
4720 第1の逆多重化部
4721 ファイル逆変換部
4730 第2の多重化部
4731 ファイル変換部
4740 第2の逆多重化部
4741 ファイル逆変換部
4750 第3の多重化部
4751 ファイル変換部
4760 第3の逆多重化部
4761 ファイル逆変換部
4801 符号化部
4802 多重化部
4911 分割部
4931 スライス分割部
4932 位置情報タイル分割部
4933 属性情報タイル分割部
5010 第1の符号化部
5011 分割部
5012 位置情報符号化部
5013 属性情報符号化部
5014 付加情報符号化部
5015 多重化部
5020 第1の復号部
5021 逆多重化部
5022 位置情報復号部
5023 属性情報復号部
5024 付加情報復号部
5025 結合部
5031 タイル分割部
5032 位置情報スライス分割部
5033 属性情報スライス分割部
5041 位置情報スライス結合部
5042 属性情報スライス結合部
5043 タイル結合部
5051 タイル分割部
5052 符号化部
5053 復号部
5054 タイル結合部
5200 第1の符号化部
5201 分割部
5202 位置情報符号化部
5203 属性情報符号化部
5204 付加情報符号化部
5205 多重化部
5211 タイル分割部
5212 スライス分割部
5221、5231、5251、5261 CABAC初期化部
5222、5232 エントロピ符号化部
5240 第1の復号部
5241 逆多重化部
5242 位置情報復号部
5243 属性情報復号部
5244 付加情報復号部
5245 結合部
5252、5262 エントロピ復号部
5300 第1の符号化部
5301 分割部
5302 位置情報符号化部
5303 属性情報符号化部
5304 付加情報符号化部
5305 多重化部
5311 タイル分割部
5312 スライス分割部
5321、5331、5351、5361 量子化値算出部
5322、5332 エントロピ符号化部
5323 量子化部
5333 逆量子化部
5340 第1の復号部
5341 逆多重化部
5342 位置情報復号部
5343 属性情報復号部
5344 付加情報復号部
5345 結合部
5352、5362 エントロピ復号部

Claims (16)

  1. パラメータを用いて複数の三次元点のそれぞれが有する複数の属性情報を符号化し、
    符号化された前記複数の属性情報、制御情報、および、複数の第1属性制御情報を含むビットストリームを生成し、
    前記制御情報は、前記複数の属性情報に対応し、それぞれが互いに異なる属性情報の種類を示す複数の種類情報を含み、
    前記複数の第1属性制御情報は、前記複数の属性情報にそれぞれ対応し、
    前記複数の第1属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第1識別情報を含む
    三次元データ符号化方法。
  2. 前記複数の種類情報は、前記制御情報において、所定の順序で格納されており、
    前記第1識別情報は、当該第1識別情報を含む第1属性制御情報が前記所定の順序のうちの一つの順番の種類情報に対応付けられていることを示す
    請求項1に記載の三次元データ符号化方法。
  3. 前記ビットストリームは、さらに、前記複数の属性情報に対応する複数の第2属性制御情報を含み、
    前記複数の第2属性制御情報のそれぞれは、対応する前記属性情報の符号化に用いられるパラメータの基準値を含む
    請求項1または2に記載の三次元データ符号化方法。
  4. 前記第1属性制御情報は、前記パラメータの前記基準値からの差分である差分情報を含む
    請求項3に記載の三次元データ符号化方法。
  5. 前記ビットストリームは、さらに、前記複数の属性情報に対応する複数の第2属性制御情報を含み、
    前記複数の第2属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第2識別情報を有する
    請求項1または2に記載の三次元データ符号化方法。
  6. 前記複数の第1属性制御情報のそれぞれは、N個(Nは2以上)のパラメータが格納される前記N個のフィールドを有し、
    前記複数の第1属性制御情報のうちの特定の種類の属性に対応する特定の第1属性制御情報では、前記N個のフィールドの一つのフィールドは、無効であることを示す値を含む
    請求項1から5のいずれか1項に記載の三次元データ符号化方法。
  7. 前記符号化では、前記パラメータとしての量子化パラメータを用いて前記複数の属性情報を量子化する
    請求項1から6のいずれか1項に記載の三次元データ符号化方法。
  8. ビットストリームを取得することで符号化された複数の属性情報、および、パラメータを取得し、
    前記パラメータを用いて前記符号化された複数の属性情報を復号することで、複数の三次元点のそれぞれが有する複数の属性情報を復号し、
    前記ビットストリームは、制御情報および複数の第1属性制御情報を含み、
    前記制御情報は、前記複数の属性情報に対応し、それぞれが互いに異なる属性情報の種類を示す複数の種類情報を含み、
    前記複数の第1属性制御情報は、前記複数の属性情報にそれぞれ対応し、
    前記複数の第1属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第1識別情報を含む
    三次元データ復号方法。
  9. 前記複数の種類情報は、前記制御情報において、所定の順序で格納されており、
    前記第1識別情報は、当該第1識別情報を含む第1属性制御情報が前記所定の順序のうちの一つの順番の種類情報に対応付けられていることを示す
    請求項8に記載の三次元データ復号方法。
  10. 前記ビットストリームは、さらに、前記複数の属性情報に対応する複数の第2属性制御情報を含み、
    前記複数の第2属性制御情報のそれぞれは、対応する前記属性情報の符号化に用いられるパラメータの基準値を含む
    請求項8または9に記載の三次元データ復号方法。
  11. 前記第1属性制御情報は、前記パラメータの前記基準値からの差分である差分情報を含む
    請求項10に記載の三次元データ復号方法。
  12. 前記ビットストリームは、さらに、前記複数の属性情報に対応する複数の第2属性制御情報を含み、
    前記複数の第2属性制御情報のそれぞれは、前記複数の種類情報のいずれかに対応付けられていることを示す第2識別情報を有する
    請求項8または9に記載の三次元データ復号方法。
  13. 前記複数の第1属性制御情報のそれぞれは、複数のパラメータが格納される複数のフィールドを有し、
    前記復号では、前記複数の第1属性制御情報のうちの特定の種類の属性に対応する特定の第1属性制御情報の前記複数のフィールドのうちの特定のフィールドに格納されるパラメータを無視する
    請求項8から12のいずれか1項に記載の三次元データ復号方法。
  14. 前記復号では、前記パラメータとしての量子化パラメータを用いて前記符号化された複数の属性情報を逆量子化する
    請求項8から13のいずれか1項に記載の三次元データ復号方法。
  15. プロセッサと、
    メモリとを備え、
    前記プロセッサは、前記メモリを用いて、
    パラメータを用いて複数の三次元点のそれぞれが有する複数の属性情報を符号化し、
    符号化された前記複数の属性情報、制御情報、および、複数の第1属性制御情報を含むビットストリームを生成し、
    前記制御情報は、前記複数の属性情報に対応し、それぞれが互いに異なる属性情報の種類を示す複数の種類情報を含み、
    前記複数の第1属性制御情報は、(i)前記複数の属性情報にそれぞれ対応し、(ii)前記複数の種類情報のいずれかに対応付けられていることを示す第1識別情報を含む
    三次元データ符号化装置。
  16. プロセッサと、
    メモリとを備え、
    前記プロセッサは、前記メモリを用いて、
    ビットストリームを取得することで符号化された複数の属性情報、および、パラメータを取得し、
    前記パラメータを用いて前記符号化された複数の属性情報を復号することで、複数の三次元点のそれぞれが有する複数の属性情報を復号し、
    前記ビットストリームは、制御情報および複数の第1属性制御情報を含み、
    前記制御情報は、前記複数の属性情報に対応し、それぞれが互いに異なる属性情報の種類を示す複数の種類情報を含み、
    前記複数の第1属性制御情報は、(i)前記複数の属性情報にそれぞれ対応し、(ii)前記複数の種類情報のいずれかに対応付けられていることを示す第1識別情報を含む
    三次元データ復号装置。
JP2020562447A 2018-12-26 2019-12-26 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置 Active JP7441798B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2024023111A JP2024050956A (ja) 2018-12-26 2024-02-19 符号化方法、符号化装置、復号方法及び復号装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862784998P 2018-12-26 2018-12-26
US62/784,998 2018-12-26
PCT/JP2019/051277 WO2020138353A1 (ja) 2018-12-26 2019-12-26 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024023111A Division JP2024050956A (ja) 2018-12-26 2024-02-19 符号化方法、符号化装置、復号方法及び復号装置

Publications (2)

Publication Number Publication Date
JPWO2020138353A1 JPWO2020138353A1 (ja) 2021-11-18
JP7441798B2 true JP7441798B2 (ja) 2024-03-01

Family

ID=71127737

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020562447A Active JP7441798B2 (ja) 2018-12-26 2019-12-26 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
JP2024023111A Pending JP2024050956A (ja) 2018-12-26 2024-02-19 符号化方法、符号化装置、復号方法及び復号装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2024023111A Pending JP2024050956A (ja) 2018-12-26 2024-02-19 符号化方法、符号化装置、復号方法及び復号装置

Country Status (9)

Country Link
US (2) US11743497B2 (ja)
EP (1) EP3905201A4 (ja)
JP (2) JP7441798B2 (ja)
KR (1) KR20210110588A (ja)
CN (1) CN113228108A (ja)
BR (1) BR112021009974A2 (ja)
CA (1) CA3122787A1 (ja)
MX (2) MX2021006632A (ja)
WO (1) WO2020138353A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020218593A1 (ja) * 2019-04-25 2020-10-29 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
JP7314683B2 (ja) * 2019-07-23 2023-07-26 株式会社Jvcケンウッド 動画像符号化装置、動画像符号化方法、動画像改ざん判定方法、及び動画像改ざん判定プログラム
US11736748B2 (en) * 2020-12-16 2023-08-22 Tencent America LLC Reference of neural network model for adaptation of 2D video for streaming to heterogeneous client end-points
US20230296758A1 (en) * 2022-03-18 2023-09-21 Nvidia Corporation Sensor data point cloud generation for map creation and localization for autonomous systems and applications
WO2024059232A1 (en) * 2022-09-16 2024-03-21 Innopeak Technology, Inc. Point cloud decoding method, point cloud encoding method, decoder and encoder
WO2024082152A1 (zh) * 2022-10-18 2024-04-25 Oppo广东移动通信有限公司 编解码方法及装置、编解码器、码流、设备、存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170347120A1 (en) 2016-05-28 2017-11-30 Microsoft Technology Licensing, Llc Motion-compensated compression of dynamic voxelized point clouds
WO2018083999A1 (ja) 2016-11-01 2018-05-11 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 表示方法及び表示装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104246831B (zh) 2012-07-30 2016-12-28 三菱电机株式会社 地图显示装置
US10694210B2 (en) * 2016-05-28 2020-06-23 Microsoft Technology Licensing, Llc Scalable point cloud compression with transform, and corresponding decompression
US11514613B2 (en) * 2017-03-16 2022-11-29 Samsung Electronics Co., Ltd. Point cloud and mesh compression using image/video codecs
EP3862971A4 (en) * 2018-10-02 2022-08-17 Sony Group Corporation INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING METHOD AND PROGRAM

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170347120A1 (en) 2016-05-28 2017-11-30 Microsoft Technology Licensing, Llc Motion-compensated compression of dynamic voxelized point clouds
WO2018083999A1 (ja) 2016-11-01 2018-05-11 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 表示方法及び表示装置

Also Published As

Publication number Publication date
MX2021006632A (es) 2021-07-07
MX2024009494A (es) 2024-08-09
CA3122787A1 (en) 2020-07-02
BR112021009974A2 (pt) 2021-08-17
JPWO2020138353A1 (ja) 2021-11-18
EP3905201A1 (en) 2021-11-03
JP2024050956A (ja) 2024-04-10
CN113228108A (zh) 2021-08-06
KR20210110588A (ko) 2021-09-08
US20230353782A1 (en) 2023-11-02
EP3905201A4 (en) 2022-03-16
US11743497B2 (en) 2023-08-29
WO2020138353A1 (ja) 2020-07-02
US20210297699A1 (en) 2021-09-23

Similar Documents

Publication Publication Date Title
JP7448482B2 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
JP7441798B2 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
JP7509694B2 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
KR102711775B1 (ko) 3차원 데이터 부호화 방법, 3차원 데이터 복호 방법, 3차원 데이터 부호화 장치, 및 3차원 데이터 복호 장치
WO2021210548A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
JP2024083380A (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
JP2024055951A (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
JP2024096165A (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
RU2815741C2 (ru) Способ кодирования трехмерных данных, способ декодирования трехмерных данных, устройство кодирования трехмерных данных и устройство декодирования трехмерных данных
KR20240145069A (ko) 3차원 데이터 부호화 방법, 3차원 데이터 복호 방법, 3차원 데이터 부호화 장치, 및 3차원 데이터 복호 장치
KR20240145070A (ko) 3차원 데이터 부호화 방법, 3차원 데이터 복호 방법, 3차원 데이터 부호화 장치, 및 3차원 데이터 복호 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240219

R150 Certificate of patent or registration of utility model

Ref document number: 7441798

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150