JP7480775B2 - 情報処理装置および方法 - Google Patents

情報処理装置および方法 Download PDF

Info

Publication number
JP7480775B2
JP7480775B2 JP2021507183A JP2021507183A JP7480775B2 JP 7480775 B2 JP7480775 B2 JP 7480775B2 JP 2021507183 A JP2021507183 A JP 2021507183A JP 2021507183 A JP2021507183 A JP 2021507183A JP 7480775 B2 JP7480775 B2 JP 7480775B2
Authority
JP
Japan
Prior art keywords
attribute information
point
unit
information
hierarchical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021507183A
Other languages
English (en)
Other versions
JPWO2020189296A1 (ja
Inventor
毅 加藤
智 隈
央二 中神
弘幸 安田
幸司 矢野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2020189296A1 publication Critical patent/JPWO2020189296A1/ja
Application granted granted Critical
Publication of JP7480775B2 publication Critical patent/JP7480775B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/005Tree description, e.g. octree, quadtree
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/001Model-based coding, e.g. wire frame
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/004Predictors, e.g. intraframe, interframe coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/40Tree coding, e.g. quadtree, octree
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/1883Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit relating to sub-band structure, e.g. hierarchical level, directional tree, e.g. low-high [LH], high-low [HL], high-high [HH]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/56Particle system, point based geometry or rendering

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Processing Or Creating Images (AREA)
  • Image Generation (AREA)

Description

本開示は、情報処理装置および方法に関し、特に、属性情報のスケーラブルな復号をより容易に行うことができるようにした情報処理装置および方法に関する。
従来、例えばポイントクラウド(Point cloud)のような3次元構造を表す3Dデータの符号化方法が考えられた(例えば非特許文献1参照)。ポイントクラウドのデータは、各ポイントの位置情報および属性情報により構成される。したがってポイントクラウドの符号化は、その位置情報と属性情報とのそれぞれについて行われる。属性情報の符号化方法として例えば、Liftingという技術を用いて行うことが提案された(例えば非特許文献2参照)。
ところで、このようなポイントクラウドの符号化データをスケーラブルに復号することが考えられた。例えば、広大な3次元空間をポイントクラウドにより表現する場合、その符号化データのデータ量は非常に大きくなる。その全て復号するのは負荷が不要に増大してしまうので、必要なオブジェクトのデータを必要な解像度で得られるようにスケーラブルに復号することが求められた。
R. Mekuria, Student Member IEEE, K. Blom, P. Cesar., Member, IEEE, "Design, Implementation and Evaluation of a Point Cloud Codec for Tele-Immersive Video",tcsvt_paper_submitted_february.pdf Khaled Mammou, Alexis Tourapis, Jungsun Kim, Fabrice Robinet, Valery Valentin, Yeping Su, "Lifting Scheme for Lossy Attribute Encoding in TMC1", ISO/IEC JTC1/SC29/WG11 MPEG2018/m42640, April 2018, San Diego, US
しかしながら、従来の符号化方法の場合、属性情報の符号化データの復号には最高解像度の位置情報が必要であった。そのために位置情報を不要に高解像度で復号しなければならず、復号処理の負荷が増大するおそれがあった。
本開示は、このような状況に鑑みてなされたものであり、属性情報のスケーラブルな復号をより容易に行うことができるようにするものである。
本技術の一側面の情報処理装置は、3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、前記ポイントクラウドの各ポイントを前記属性情報と予測値との差分値を残すポイントである予測ポイントと前記予測値の導出の際に前記属性情報を参照されるポイントである参照ポイントとに分類する処理を前記参照ポイントに対して再帰的に繰り返すことにより前記属性情報の階層化を行う階層化部を備え、前記階層化部は、前記階層化の際に、カレント階層のポイントが存在するボクセルが属する1つ上位階層のボクセルにもポイントが存在するように前記予測ポイントを選択する情報処理装置である。
本技術の一側面の情報処理方法は、3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、前記ポイントクラウドの各ポイントを前記属性情報と予測値との差分値を残すポイントである予測ポイントと前記予測値の導出の際に前記属性情報を参照されるポイントである参照ポイントとに分類する処理を前記参照ポイントに対して再帰的に繰り返すことにより前記属性情報の階層化を行い、前記階層化の際に、カレント階層のポイントが存在するボクセルが属する1つ上位階層のボクセルにもポイントが存在するように前記予測ポイントを選択する情報処理方法である。
本技術の他の側面の情報処理装置は、3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、前記ポイントクラウドの各ポイントを前記属性情報と予測値との差分値を残すポイントである予測ポイントと前記予測値の導出の際に前記属性情報を参照されるポイントである参照ポイントとに分類する処理を前記参照ポイントに対して再帰的に繰り返すことにより階層化された前記属性情報の逆階層化を行う逆階層化部を備え、前記逆階層化部は、前記逆階層化の際に、各階層において、前記参照ポイントの前記属性情報と前記ポイントクラウドの最下層以外の階層の解像度の位置情報とを用いて前記予測ポイントの前記属性情報の予測値を導出し、前記予測値と前記差分値とを用いて前記予測ポイントの前記属性情報を導出する情報処理装置である。
本技術の他の側面の情報処理方法は、3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、前記ポイントクラウドの各ポイントを前記属性情報と予測値との差分値を残すポイントである予測ポイントと前記予測値の導出の際に前記属性情報を参照されるポイントである参照ポイントとに分類する処理を前記参照ポイントに対して再帰的に繰り返すことにより階層化された前記属性情報の逆階層化を行い、前記逆階層化の際に、各階層において、前記参照ポイントの前記属性情報と前記ポイントクラウドの最下層以外の階層の解像度の位置情報とを用いて前記予測ポイントの前記属性情報の予測値を導出し、前記予測値と前記差分値とを用いて前記予測ポイントの前記属性情報を導出する情報処理方法である。
本技術のさらに他の側面の情報処理装置は、3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造を示す情報を生成する生成部と、前記生成部により生成された前記情報に基づいて、前記位置情報の階層構造に対応するように、前記ポイントクラウドの属性情報の階層化を行う階層化部とを備える情報処理装置である。
本技術のさらに他の側面の情報処理装置は、3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造を示す情報を生成する生成部と、前記生成部により生成された前記情報に基づいて、前記ポイントクラウドの属性情報の階層構造が前記位置情報の階層構造に対応するものとして、前記属性情報の逆階層化を行う逆階層化部とを備える情報処理装置である。
本技術の一側面の情報処理装置および方法においては、3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、そのポイントクラウドの各ポイントを属性情報と予測値との差分値を残すポイントである予測ポイントとその予測値の導出の際に属性情報を参照されるポイントである参照ポイントとに分類する処理を参照ポイントに対して再帰的に繰り返すことにより属性情報の階層化が行われ、その階層化の際に、カレント階層のポイントが存在するボクセルが属する1つ上位階層のボクセルにもポイントが存在するように予測ポイントが選択される。
本技術の他の側面の情報処理装置および方法においては、3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、そのポイントクラウドの各ポイントを属性情報と予測値との差分値を残すポイントである予測ポイントとその予測値の導出の際に属性情報を参照されるポイントである参照ポイントとに分類する処理を参照ポイントに対して再帰的に繰り返すことにより階層化された属性情報の逆階層化が行われ、その逆階層化の際に、各階層において、参照ポイントの属性情報とポイントクラウドの最下層以外の階層の解像度の位置情報とを用いて予測ポイントの属性情報の予測値が導出され、その予測値と差分値とを用いて予測ポイントの属性情報が導出される。
本技術のさらに他の側面の情報処理装置においては、3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造を示す情報が生成され、その生成された情報に基づいて、位置情報の階層構造に対応するように、そのポイントクラウドの属性情報の階層化が行われる。
本技術のさらに他の側面の情報処理装置においては、3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造を示す情報が生成され、その生成された情報に基づいて、そのポイントクラウドの属性情報の階層構造がその位置情報の階層構造に対応するものとして、その属性情報の逆階層化が行われる。
位置情報の階層化の例を説明する図である。 Liftingの例を説明する図である。 Liftingの例を説明する図である。 Liftingの例を説明する図である。 量子化の例を説明する図である。 属性情報の階層化方法の例を説明する図である。 属性情報の階層化の例を説明する図である。 属性情報の逆階層化の例を説明する図である。 属性情報の階層化の例を説明する図である。 属性情報の階層化の例を説明する図である。 属性情報の逆階層化の例を説明する図である。 量子化方法の例を説明する図である。 量子化の例を説明する図である。 符号化装置の主な構成例を示すブロック図である。 属性情報符号化部の主な構成例を示すブロック図である。 階層化処理部の主な構成例を示すブロック図である。 符号化処理の流れの例を説明するフローチャートである。 属性情報符号化処理の流れの例を説明するフローチャートである。 階層化処理の流れの例を説明するフローチャートである。 量子化処理の流れの例を説明するフローチャートである。 階層化処理の流れの例を説明するフローチャートである。 量子化処理の流れの例を説明するフローチャートである。 復号装置の主な構成例を示すブロック図である。 属性情報復号部の主な構成例を示すブロック図である。 逆階層化処理部の主な構成例を示すブロック図である。 復号処理の流れの例を説明するフローチャートである。 属性情報復号処理の流れの例を説明するフローチャートである。 逆量子化処理の流れの例を説明するフローチャートである。 逆階層化処理の流れの例を説明するフローチャートである。 逆量子化処理の流れの例を説明するフローチャートである。 DCMが適用された位置情報のOctreeの例を示す図である。 属性情報の処理において参照されるOctreeの例を示す図である。 属性情報の符号化におけるOctreeの例を示す図である。 属性情報の復号におけるOctreeの例を示す図である。 属性情報の符号化におけるOctreeの例を示す図である。 属性情報の復号におけるOctreeの例を示す図である。 QuantizationWeightの導出例を示す図である。 位置情報の階層構造の例を示す図である。 ラベル付けの例を示す図である。 位置情報の階層構造の例を示す図である。 ラベル付けの例を示す図である。 ラベル付けの例を示す図である。 符号化装置の主な構成例を示すブロック図である。 符号化処理の流れの例を説明するフローチャートである。 階層化処理の流れの例を説明するフローチャートである。 復号処理の流れの例を説明するフローチャートである。 逆階層化処理の流れの例を説明するフローチャートである。 コンピュータの主な構成例を示すブロック図である。
以下、本開示を実施するための形態(以下実施の形態とする)について説明する。なお、説明は以下の順序で行う。
1.スケーラブル復号
2.第1の実施の形態(符号化装置)
3.第2の実施の形態(復号装置)
4.DCM
5.QuantizationWeight
6.LoDGeneration
7.付記
<1.スケーラブル復号>
<技術内容・技術用語をサポートする文献等>
本技術で開示される範囲は、実施の形態に記載されている内容だけではなく、出願当時において公知となっている以下の非特許文献に記載されている内容も含まれる。
非特許文献1:(上述)
非特許文献2:(上述)
非特許文献3:TELECOMMUNICATION STANDARDIZATION SECTOR OF ITU(International Telecommunication Union), "Advanced video coding for generic audiovisual services", H.264, 04/2017
非特許文献4:TELECOMMUNICATION STANDARDIZATION SECTOR OF ITU(International Telecommunication Union), "High efficiency video coding", H.265, 12/2016
非特許文献5:Jianle Chen, Elena Alshina, Gary J. Sullivan, Jens-Rainer, Jill Boyce, "Algorithm Description of Joint Exploration Test Model 4", JVET-G1001_v1, Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 7th Meeting: Torino, IT, 13-21 July 2017
非特許文献6:Sebastien Lasserre, David Flynn, "[PCC] Inference of a mode using point location direct coding in TMC3", ISO/IEC JTC1/SC29/WG11 MPEG2018/m42239, January 2018, Gwangju, Korea
つまり、上述の非特許文献に記載されている内容もサポート要件を判断する際の根拠となる。例えば、非特許文献4に記載されているQuad-Tree Block Structure、非特許文献4に記載されているQTBT(Quad Tree Plus Binary Tree) Block Structureが実施の形態において直接的な記載がない場合でも、本技術の開示範囲内であり、請求の範囲のサポート要件を満たすものとする。また、例えば、パース(Parsing)、シンタックス(Syntax)、セマンティクス(Semantics)等の技術用語についても同様に、実施の形態において直接的な記載がない場合でも、本技術の開示範囲内であり、請求の範囲のサポート要件を満たすものとする。
<ポイントクラウド>
従来、点の位置情報や属性情報等により3次元構造を表すポイントクラウド(Point cloud)や、頂点、エッジ、面で構成され、多角形表現を使用して3次元形状を定義するメッシュ(Mesh)等の3Dデータが存在した。
例えばポイントクラウドの場合、立体構造物(3次元形状のオブジェクト)を多数の点の集合として表現する。つまり、ポイントクラウドのデータ(ポイントクラウドデータとも称する)は、このポイントクラウドの各点の位置情報や属性情報により構成される。属性情報には、例えば、色情報、反射率情報、法線情報等が含まれる。したがってデータ構造が比較的単純であるとともに、十分に多くの点を用いることにより任意の立体構造物を十分な精度で表現することができる。
<Octree>
このようなポイントクラウドデータはそのデータ量が比較的大きいので、例えば非特許文献1に記載のように、符号化によるデータ量を圧縮することが考えられた。例えば、まず、ポイントクラウドの位置情報を符号化(復号)し、続いて属性情報を符号化(復号)する。位置情報は、符号化の際に、ボクセルを用いて量子化され、さらにOctree化により階層化される。
ボクセルは、3次元空間を分割する所定の大きさの小領域である。このボクセル毎にポイントが配置されるように位置情報が補正される。2次元として説明すると、例えば図1のAに示されるように、ある領域10が、四角形で示されるボクセル11-1により分割され、そのボクセル11-1毎に黒丸で示されるポイント12-1が配置されるように各ポイント12-1の位置情報が補正される。つまり、このボクセルの大きさによって位置情報が量子化される。なお、図1のAにおいては、1つのボクセル11-1にのみ符号を付しているが、図1のAの領域10内の全ての四角がボクセル11-1である。同様に、図1のAに示される全ての黒丸がポイント12-1である。
Octreeでは、1つのボクセルがx,y,zの各方向に2分割されて(すなわち8分割されて)1つ下位の階層(LoDとも称する)のボクセルが形成される。換言するに、x,y,zの各方向に並ぶ2つのボクセル(すなわち8個のボクセル)が統合されて、1つ上位の階層(LoD)のボクセルが形成される。そして、各階層において位置情報がボクセルによって量子化される。
例えば図1のAの場合、2次元なので、図1のBのように上下左右に並ぶ4つのボクセル11-1が統合されて、太線で示される1つ上位のボクセル11-2が形成される。そしてこのボクセル11-2を用いて位置情報が量子化される。つまり、ボクセル11-2内に、ポイント12-1(図1のA)が存在する場合、その位置情報を補正することにより、そのポイント12-1が、ボクセル11-2に対応するポイント12-2に変換される。なお、図1のBにおいては、1つのボクセル11-1にのみ符号を付しているが、図1のBの領域10内の点線で示される全ての四角がボクセル11-1である。また、図1のBにおいては、1つのボクセル11-2にのみ符号を付しているが、図1のBの領域10内の太線で示される全ての四角がボクセル11-2である。同様に、図1のBに示される全ての黒丸がポイント12-2である。
同様に、図1のCのように、上下左右に並ぶ4つのボクセル11-2が統合されて、太線で示される1つ上位のボクセル11-3が形成される。そしてこのボクセル11-3を用いて位置情報が量子化される。つまり、ボクセル11-3内に、ポイント12-2(図1のB)が存在する場合、その位置情報を補正することにより、そのポイント12-2が、ボクセル11-3に対応するポイント12-3に変換される。なお、図1のCにおいては、1つのボクセル11-2にのみ符号を付しているが、図1のCの領域10内の点線で示される全ての四角がボクセル11-2である。また、図1のCにおいては、1つのボクセル11-3にのみ符号を付しているが、図1のCの領域10内の太線で示される全ての四角がボクセル11-3である。同様に、図1のCに示される全ての黒丸がポイント12-3である。
同様に、図1のDのように、上下左右に並ぶ4つのボクセル11-3が統合されて、太線で示される1つ上位のボクセル11-4が形成される。そしてこのボクセル11-4を用いて位置情報が量子化される。つまり、ボクセル11-4内に、ポイント12-3(図1のC)が存在する場合、その位置情報を補正することにより、そのポイント12-3が、ボクセル11-4に対応するポイント12-4に変換される。なお、図1のDにおいては、1つのボクセル11-3にのみ符号を付しているが、図1のDの領域10内の点線で示される全ての四角がボクセル11-3である。
このようにすることにより、位置情報がボクセルの階層構造に対応して階層化される。
<Lifting>
これに対して属性情報を符号化する際は、符号化による劣化を含め位置情報を既知であるものとして、点間の位置関係を利用して符号化を行う。このような属性情報の符号化方法として、RAHT(Region Adaptive Hierarchical Transform)や、非特許文献2に記載のようなLiftingと称する変換を用いる方法が考えられた。これらの技術を適用することにより、位置情報のOctreeのように、属性情報を階層化することもできる。
例えばLiftingの場合、各ポイントの属性情報は、他のポイントの属性情報を用いて導出される予測値との差分値として符号化される。そして、その差分値の導出(つまり予測値の導出)を行うポイントが階層的に選択される。
例えば2次元として説明すると、図2のAに示される階層において、丸で示される各ポイント(P0乃至P9)の内、白丸で示されるポイントP7、P8、P9が、予測値が導出されるポイントである予測ポイントとして選択され、それ以外のポイントP0乃至P6は、その予測値導出の際に属性情報を参照されるポイントである参照ポイントとして選択される。そして、予測ポイントP7の予測値は、参照ポイントP0およびP1の属性情報を参照して導出される。予測ポイントP8の予測値は、参照ポイントP2およびP3の属性情報を参照して導出される。予測ポイントP9の予測値は、参照ポイントP4乃至P6の属性情報を参照して導出される。つまり、この階層においては、ポイントP7乃至P9のそれぞれの差分値が導出される。
その1つ上位の階層においては、図2のBに示されるように、図2のAの階層(1つ下位の階層)において参照ポイントに選択されたポイント(P0乃至P6)に対して、図2のAの階層の場合と同様の予測ポイントと参照ポイントとの分類(仕分け)が行われる。
例えば、図2のBにおいてグレーの丸で示されるポイントP1、P3、P6が予測ポイントとして選択され、黒丸で示されるポイントP0、P2、P4、P5が参照ポイントとして選択される。そして、予測ポイントP1の予測値は、参照ポイントP0およびP2の属性情報を参照して導出される。予測ポイントP3の予測値は、参照ポイントP2およびP4の属性情報を参照して導出される。予測ポイントP6の予測値は、参照ポイントP4およびP5の属性情報を参照して導出される。つまり、この階層においては、ポイントP1、P3、P6のそれぞれの差分値が導出される。
その1つ上位の階層においては、図2のCに示されるように、図2のBの階層(1つ下位の階層)において参照ポイントに選択されたポイント(P0、P2、P4、P5)の分類(仕分け)が行われる。
このような分類を、1つ下位の階層の参照ポイントに対して再帰的に繰り返すことにより、属性情報が階層化される。
<ポイントの分類>
このLiftingにおけるポイントの分類(仕分け)の手順をより具体的に説明する。Liftingにおいてポイントの分類は、上述のように下位層から上位層に向かう順に行われる。各階層においては、まず、各ポイントをモートンコード順に整列させる。次に、そのモートンコード順に並ぶポイントの列の先頭のポイントを参照ポイントに選択する。次に、その参照ポイントの近傍に位置するポイント(近傍点)を探索し、探索されたポイント(近傍点)を予測ポイント(インデックスポイントとも称する)に設定する。
例えば、図3に示されるように、処理対象の参照ポイント21を中心に半径Rの円22内においてポイントを探索する。この半径Rは階層毎に予め設定されている。図3の例の場合、ポイント23-1乃至ポイント23-4が検出され、予測ポイントに設定される。
次に、残りのポイントについて同様の分類を行う。つまり、現時点において参照ポイントにも予測ポイントにも選択されていないポイントの内、モートンコード順に先頭のポイントを参照ポイントに選択し、その参照ポイント近傍のポイントを探索し、予測ポイントに設定する。
全てのポイントを分類するまで上述の処理を繰り返したら、その階層の処理が終了し、処理対象が1つ上位の階層に移る。そして、その階層について、上述の手順が繰り返される。つまり、1つ下位の階層において参照ポイントに選択された各ポイントがモートンコード順に整列され、上述のように参照ポイントと予測ポイントに分類される。以上のような処理を繰り返すことにより、属性情報が階層化される。
<予測値の導出>
また上述したようにLiftingの場合、予測ポイントの属性情報の予測値は、その予測ポイント周辺の参照ポイントの属性情報を用いて導出される。例えば、図4に示されるように、予測ポイントQ(i,j)の予測値を、参照ポイントP1乃至P3の属性情報を参照して導出するとする。この場合、以下の式(1)のように、各参照ポイントの属性情報が、予測ポイントとその参照ポイントとの距離の逆数に応じた重み値(α(P,Q(i,j)))により重み付けされて統合されて導出される。ここでA(P)は、ポイントPの属性情報を示す。
Figure 0007480775000001
この予測ポイントとその参照ポイントとの距離の導出に、最高解像度(つまり最下位層)の位置情報が用いられていた。
<量子化>
また、属性情報は、上述のように階層化された後、量子化されて符号化される。その量子化の際に、各ポイントの属性情報(差分値)は、階層構造に応じて図5の例のように重み付けされる。この重み値(Quantization Weight)Wは、図5に示されるように、下位層の重み値を用いてポイント毎に導出される。なお、この重み値は、圧縮効率を向上させるために、Lifting(属性情報の階層化)においても利用され得る。
<階層構造の不一致>
上述したように属性情報の階層化の方法は、位置情報のOctreeの場合と異なるので、属性情報の階層構造が位置情報の階層構造と一致することが保証されない。そのため、中間解像度(最下位層よりも上位の階層)において、属性情報のポイントと位置情報のポイントが一致せず、その中間解像度の位置情報を用いても属性情報の予測を正しく行うことができない(つまり、属性情報の逆階層化が困難である)というケースが発生するおそれがあった。
換言するに、属性情報を正しく復号(逆階層化)するためには、その階層に関わらず、位置情報を最下位層まで復号する必要があり、復号処理の負荷が増大するおそれがあった。
<位置の不一致>
また上述したように位置情報はボクセルにより量子化されるので、階層によってポイントの位置情報が変化する可能性がある。そのため、中間解像度の位置情報では属性情報の予測を正しく行うことができない(つまり、属性情報の逆階層化が困難である)というケースが発生するおそれがあった。
換言するに、属性情報を正しく復号(逆階層化)するためには、その階層に関わらず、位置情報を最下位層まで復号する必要があり、復号処理の負荷が増大するおそれがあった。
<属性情報の階層化:方法1>
そこで、図6に示される表の一番上の行に記載のように、ポイントが存在するボクセルが属する1つ上位の階層(LoD)のボクセルに属性情報が残るように予測ポイントを選択する(方法1)。
つまり、3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、そのポイントクラウドの各ポイントを属性情報と予測値との差分値を残すポイントである予測ポイントと予測値の導出の際に属性情報を参照されるポイントである参照ポイントとに分類する処理を参照ポイントに対して再帰的に繰り返すことにより属性情報の階層化を行い、その階層化の際に、カレント階層のポイントが存在するボクセルが属する1つ上位階層のボクセルにもポイントが存在するように予測ポイントを選択するようにする。
例えば、情報処理装置において、3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、そのポイントクラウドの各ポイントを属性情報と予測値との差分値を残すポイントである予測ポイントと予測値の導出の際に属性情報を参照されるポイントである参照ポイントとに分類する処理を参照ポイントに対して再帰的に繰り返すことにより属性情報の階層化を行う階層化部を備え、その階層化部は、その階層化の際に、カレント階層のポイントが存在するボクセルが属する1つ上位階層のボクセルにもポイントが存在するように予測ポイントを選択するようにする。
2次元として説明すると、例えば符号化は図7のように行われる。例えば、図7のAに示されるように、所定の空間領域100において、ポイント102-1乃至ポイント102-9が所定の階層のボクセル101-1毎に配置されるように、位置情報が設定されているとする。なお、ボクセル101-1乃至ボクセル101-3を互いに区別して説明する必要が無い場合、ボクセル101と称する。また、ポイント102-1乃至ポイント102-9を互いに区別して説明する必要が無い場合、ポイント102と称する。
この階層において、図7のBに示されるように、ポイント102-1乃至ポイント102-9が存在するボクセル101-1の1つ上位階層のボクセル101-2にもポイントが存在するように、ポイント102-1乃至ポイント102-9を予測ポイントと参照ポイントに分類する。図7のBの例では、白丸で示されるポイント102-3、ポイント102-5、およびポイント102-8が予測ポイントに設定され、その他のポイントが参照ポイントに設定されている。
1つ上位の階層においても同様に、ポイント102-1、ポイント102-2、ポイント102-4、ポイント102-6、ポイント102-7、ポイント102-9が存在するボクセル101-2の1つ上位階層のボクセル101-3にもポイントが存在するように、これらのポイント102を予測ポイントと参照ポイントに分類する(図7のC)。図7のCの例では、グレーの丸で示されるポイント102-1、ポイント102-4、およびポイント102-7が予測ポイントに設定され、その他のポイントが参照ポイントに設定されている。
このようにすることにより、図7のDに示されるように、下位層においてポイント102が存在するボクセル101-3には、ポイント102が1つ存在するように階層化される。このような処理を各階層について行う。つまり、Octreeと同様の階層化を実現することができる。
復号は、例えば図8のように、図7の逆順で行われる。例えば、図8のAに示されるように、所定の空間領域100において、ポイント102-2、ポイント102-6、ポイント102-9が所定の階層のボクセル101-3毎に配置されるように、位置情報が設定されているとする(図7のDと同様の状態)。
この1つ下位の階層においては、図8のBに示されるように、ボクセル101-3毎のポイント102-2、ポイント102-6、ポイント102-9の属性情報を用いて、ポイント102-1、ポイント102-4、ポイント102-7の予測値を導出して差分値に加算し、ボクセル101-2毎のポイント102の属性情報を復元する(図7のCと同様の状態)。
さらに、1つ下位の階層においても同様に、図8のCに示されるように、ボクセル101-2毎のポイント102-1、ポイント102-2、ポイント102-4、ポイント102-6、ポイント102-7、ポイント102-9の属性情報を用いて、ポイント102-3、ポイント102-5、ポイント102-8の予測値を導出して差分値に加算し、属性情報を復元する(図7のBと同様の状態)。
このようにすることにより、図8のDに示されるように、ボクセル101-1毎のポイント102の属性情報が復元される(図7のAと同様の状態)。つまり、Octreeの場合と同様に、上位階層の属性情報を用いて各階層の属性情報を復元することができる。
このようにすることにより、属性情報の階層構造を位置情報の階層構造に対応付けることができる。したがって、中間解像度においても各属性情報に対応する位置情報が得られるので、その中間解像度で位置情報および属性情報を復号することにより、属性情報を正しく復号することができる。したがって、属性情報のスケーラブルな復号をより容易に行うことができる。
<属性情報の階層化:方法1-1>
上述の方法1を適用した場合の予測値導出の際に、図6に示される表の上から2番目の行に記載のように、符号化・復号の両方において、現在階層(LoD)の解像度の位置情報を用いて予測値を導出するようにしてもよい(方法1-1)。
例えば、3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、そのポイントクラウドの各ポイントを属性情報と予測値との差分値を残すポイントである予測ポイントとその予測値の導出の際に属性情報を参照されるポイントである参照ポイントとに分類する処理を参照ポイントに対して再帰的に繰り返すことにより階層化された属性情報の逆階層化を行い、その逆階層化の際に、各階層において、参照ポイントの属性情報とポイントクラウドの最下層以外の階層の解像度の位置情報とを用いて予測ポイントの属性情報の予測値を導出し、その予測値と差分値とを用いて予測ポイントの属性情報を導出するようにしてもよい。
また例えば、情報処理装置において、3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、そのポイントクラウドの各ポイントを属性情報と予測値との差分値を残すポイントである予測ポイントとその予測値の導出の際に属性情報を参照されるポイントである参照ポイントとに分類する処理を参照ポイントに対して再帰的に繰り返すことにより階層化された属性情報の逆階層化を行う逆階層化部を備え、その逆階層化部は、その逆階層化の際に、各階層において、参照ポイントの属性情報とポイントクラウドの最下層以外の階層の解像度の位置情報とを用いて予測ポイントの属性情報の予測値を導出し、その予測値と差分値とを用いて予測ポイントの属性情報を導出するようにしてもよい。
さらに例えば、逆階層化において、参照ポイントの属性情報と、参照ポイントおよび予測ポイントのカレント階層の解像度の位置情報とを用いて、予測値を導出するようにしてもよい。
図4を参照して説明したように、予測ポイントの予測値の導出は、予測ポイントと参照ポイントとの距離に応じて重み付けした参照ポイントの属性情報を用いて行われる。
この距離の導出を、符号化・復号のどちらの場合も、処理対象である現在階層(カレント階層)の解像度の位置情報を用いて行うようにしてもよい。つまり、階層化において、ポイントクラウドのカレント階層の解像度の位置情報に基づく距離に応じて重み付けした参照ポイントの属性情報を用いて予測ポイントの予測値を導出するようにしてもよい。
符号化の場合、図7のBにおいては、ボクセル101-1の解像度の位置情報を用いて予測ポイントと参照ポイントとの距離を導出し、図7のCにおいては、ボクセル101-2の解像度の位置情報を用いて予測ポイントと参照ポイントとの距離を導出する。復号の場合も同様に、図8のBにおいては、ボクセル101-2の解像度の位置情報を用いて予測ポイントと参照ポイントとの距離を導出し、図8のCにおいては、ボクセル101-1の解像度の位置情報を用いて予測ポイントと参照ポイントとの距離を導出する。
このようにすることにより、符号化と復号の両方において互いに同一の距離を導出することができる。つまり、互いに同一の予測値を導出することができる。したがって、属性情報を中間解像度で復号する場合も、距離算出の誤差による精度の低減(復号による誤差の増大)を抑制することができる。より具体的には、属性情報を中間解像度で復号する場合、後述する方法1-1’の場合よりも正確に復号することができる。また、後述する方法1-2の場合よりも符号化・復号の負荷の増大を抑制することができる。
なお、復号(逆階層化)の場合(図8)、中間解像度の各ポイントの位置情報と属性情報とからでは、互いの対応関係が不明である。例えば、図8のBにおいて、各ポイント102が、どのボクセル101-2に存在するのかが不明確である。そこで、階層化の場合と同様に位置情報を用いて属性情報の階層化(復号する中間解像度までの階層化)を行うことにより、各階層において各ポイントの属性情報と位置情報とを対応付けるようにしてもよい。このようにすることにより、より正確に逆階層化を行うことができる。
<属性情報の階層化:方法1-1’>
なお、上述の方法1を適用した場合の予測値導出の際に、図6に示される表の上から3番目の行に記載のように、復号において、現在階層(LoD)の解像度の位置情報を用いて予測値を導出するようにしてもよい(方法1-1’)。つまり、符号化においては、最大解像度(最下層の解像度)の位置情報は既知であるので、その最大解像度の位置情報を用いて予測値(より具体的には、予測値の導出に用いられる参照ポイントと予測ポイントの距離)を導出するようにしてもよい。
つまり、ポイントクラウドの最下層の解像度の位置情報に基づく距離に応じて重み付けした参照ポイントの属性情報を用いて予測ポイントの予測値を導出するようにしてもよい。
例えば、図9のAに示される階層(図7のAと同一の階層)を最下層であるとすると、ポイント102-3、ポイント102-5、ポイント102-8の予測値導出は、図9のBに示されるように、ボクセル101-1の解像度の位置情報を用いて行われる。これは図7のBの場合と同様である。
ただし、この場合、図9のCに示されるように、ポイント102-1、ポイント102-4、ポイント102-7の予測値導出も、図9のBの場合と同様に、ボクセル101-1の解像度の位置情報を用いて行われる。つまり、図9のDに示されるように、ボクセル101-3毎のポイント102-2、ポイント102-6、ポイント102-9の位置情報もボクセル101-1の解像度を有する。
このようにすることにより、方法1-1の場合に比べて予測精度を向上させることができるので、方法1-1の場合よりも符号化効率を向上させることができる。ただし、復号の際には、図9のDに示されるように、ボクセル101-3毎のポイント102-2、ポイント102-6、ポイント102-9の位置情報がボクセル101-1の解像度を有することができないので、復号は図8の場合(方法1-1)と同様に行われる。つまり、符号化と復号とで互いに異なる解像度の位置情報を用いて参照ポイントと予測ポイントの距離が導出される。
<属性情報の階層化:方法1-2>
また、上述の方法1を適用した場合の予測値導出の際に、図6に示される表の一番下の行に記載のように、仮想の参照ポイントを用いて予測値を導出するようにしてもよい(方法1-2)。つまり、階層化において、カレント階層のポイントを全て予測ポイントに分類し、1つ上位階層のボクセル内に参照ポイントを設定し、参照ポイントの属性情報を用いて各予測ポイントの予測値を導出するようにしてもよい。
また、例えば、逆階層化において、参照ポイントの属性情報と、参照ポイントのカレント階層の1つ上位階層の解像度の位置情報と、予測ポイントのカレント階層の解像度の位置情報とを用いて、各予測ポイントの予測値を導出するようにしてもよい。
2次元として説明すると、例えば符号化は図10のように行われる。図10のAは、図7と同一の階層を示しており、空間領域100には、ポイント102-1乃至ポイント102-9と同様のボクセル101-1毎のポイント111-1乃至ポイント111-9が存在している。なお、ポイント111-1乃至ポイント111-9を互いに区別して説明する必要が無い場合、ポイント111と称する。
この場合、図7の場合と異なり、ポイント111-1乃至ポイント111-9は全て予測ポイントに設定される。そして、図10のBに示されるように、ボクセル101-1の1つ上位の階層の、それらの予測ポイント(ポイント111)が存在するボクセル101-1が属するボクセル101-2に、参照ポイントとして、ボクセル101-2毎の仮想のポイント112-1乃至ポイント112-7が設定される。なお、ポイント112-1乃至ポイント112-7を互いに区別して説明する必要が無い場合、ポイント112と称する。
新たに設定した仮想のポイント112の属性情報は、リカラー処理することにより、近傍のポイント111の属性情報を用いて導出する。なお、ポイント112の位置は、ボクセル101-2内であれば任意であり、図10のBに示される中央以外であってもよい。
図10のBに示されるように、各予測ポイント(ポイント111)の予測値は、これらの参照ポイント(ポイント112)を用いて導出される。
そして、その1つ上の階層においては、図10のCに示されるように、図10のBにおいて設定したポイント112が予測ポイントに設定される。そして、図10のBの場合と同様に、ボクセル101-2の1つ上位の階層の、それらの予測ポイント(ポイント112)が存在するボクセル101-2が属するボクセル101-3に、参照ポイントとして、ボクセル101-3毎の仮想のポイント113-1乃至ポイント113-3が設定される。なお、ポイント113-1乃至ポイント113-3を互いに区別して説明する必要が無い場合、ポイント113と称する。
新たに設定した仮想のポイント113の属性情報は、ポイント112の場合と同様にリカラー処理により導出される。図10のCに示されるように、各予測ポイント(ポイント112)の予測値は、これらの参照ポイント(ポイント113)を用いて導出される。
このようにすることにより、図10のDに示されるように、下位層においてポイント111が存在するボクセル101-3には、ポイント113が1つ存在するように階層化される。このような処理を各階層について行う。つまり、Octreeと同様の階層化を実現することができる。
復号は、例えば図11のように、図10の逆順で行われる。例えば、図11のAに示されるように、所定の空間領域100において、ポイント113-1乃至ポイント113-3が所定の階層のボクセル101-3毎に配置されるように、位置情報が設定されているとする(図10のDと同様の状態)。
この1つ下位の階層においては、図11のBに示されるように、ボクセル101-3毎のポイント113-1乃至ポイント113-3の属性情報を用いて、ポイント112-1乃至ポイント112-7の予測値を導出して差分値に加算し、ボクセル101-2毎のポイント112の属性情報を復元する(図10のCと同様の状態)。
さらに、1つ下位の階層においても同様に、図11のCに示されるように、ボクセル101-2毎のポイント112-1乃至ポイント112-7の属性情報を用いて、ポイント111-1乃至ポイント111-9の予測値を導出して差分値に加算し、属性情報を復元する(図10のBと同様の状態)。
このようにすることにより、図11のDに示されるように、ボクセル101-1毎のポイント111の属性情報が復元される(図10のAと同様の状態)。つまり、Octreeの場合と同様に、上位階層の属性情報を用いて各階層の属性情報を復元することができる。
また、この場合、リカラー処理された仮想のポイントを用いて予測を行うので、方法1-1や方法1-1’の場合と比べて予測精度を向上させることができる。つまり、方法1-1や方法1-1’の場合よりも符号化効率を向上させることができる。また、この方法の場合、符号化と復号において互いに同一の解像度の位置情報を用いて参照ポイントと予測ポイントの距離を導出することができるので、方法1-1'の場合よりも正確に復号することができる。ただし、この場合、仮想のポイントを設定したり、リカラー処理を行ったりするので、その分、負荷は増大する。
<属性情報の階層化:組み合わせ>
なお、上述した各方法のいずれかを選択して適用することができるようにしてもよい。その場合、符号化側が方法を選択して適用し、そのいずれの方法を選択したかを示す情報を、符号化側から復号側に伝送し、復号側がその情報に基づいて符号化側と同一の方法を適用するようにすればよい。
<重み値の導出の際の下位層の参照>
ところで<量子化>において説明したように、属性情報(差分値)の量子化や、階層化に用いられる重み値(Quantization Weight)Wは、下位層の重み値を用いてポイント毎に導出される。したがって、復号の際には、中間解像度の属性情報を逆量子化するために、それより下位層の重み値が必要であった。つまり、スケーラブルな復号を行うことが困難であった。換言するに、所望の中間解像度の属性情報を復号するために、全ての階層を復号しなければならないので、復号処理の負荷が増大するおそれがあった。
<重み値:方法1>
そこで、図12に示される表の一番上の行に記載のように、上述のポイント毎の重み値の代わりに、階層(LoD)毎の重み値を用いて属性情報の量子化・逆量子化を行うようにしてもよい(方法1)。つまり、上述のように生成された各階層の各ポイントの差分値を、階層毎の重み値を用いて量子化・逆量子化するようにしてもよい。
例えば、図13に示されるように、ある階層LoD(N)に対して重み値(Quantization Weight)をC0に設定し、その階層LoD(N)の全てのポイントの属性情報(差分値)を、重み値C0を用いて量子化・逆量子化する。また、その1つ上位の階層LoD(N-1)に対する重み値をC1に設定し、その階層LoD(N-1)の全てのポイントの属性情報(差分値)を、重み値C1を用いて量子化・逆量子化する。さらに、その1つ上位の階層LoD(N-2)に対する重み値をC2に設定し、その階層LoD(N-2)の全てのポイントの属性情報(差分値)を、重み値C2を用いて量子化・逆量子化する。
なお、これらの重み値C0、C1、C2は、互いに独立に設定する。ポイント毎の重み値を用いる場合、同階層のポイント間での重み付けをどのように行うかを考慮する必要があるので、処理が複雑になるだけでなく、例えば下位層の情報が必要になる等、階層毎の重み値の独立化が困難になるおそれもある。これに対して階層毎の重み値は、より容易に、互いに独立に導出することができる。
このような階層間で独立な重み値を適用することにより、下位層に依存しない量子化・逆量子化が可能になる。つまり、上述のように下位層の情報の参照が不要であるので、より容易にスケーラブルな復号を実現することができる。
なお、上位の階層の重み値程、値が大きくなるようにしてもよい(図13の例の場合、C0≦C1≦C2)。一般的に、階層化された属性情報は、より上位の階層のもの程より多くのポイントの属性情報に影響を及ぼす(直接的または間接的に予測値の導出に用いられる)ので、より重要である。したがって、より上位の階層の属性情報(差分値)を、より大きな値の重み値を用いて量子化・逆量子化することにより、符号化・復号の精度の低減を抑制することができる。
<重み値:方法1-1>
また、方法1を適用する場合、図12に示される表の上から2番目の行に記載のように、符号化と復号において重み値を導出するための関数(重み値導出関数)を共有するようにしてもよい(方法1-1)。つまり、符号化と復号において、互いに同一の重み値導出関数を用いて、上述の階層毎の重み値を導出するようにしてもよい。このようにすることにより、符号化と復号において、互いに同一の重み値を導出することができるので、量子化・逆量子化による精度の低減を抑制することができる。
なお、この重み値導出関数はどのような関数であってもよい。つまり、この重み値導出関数により導出される各階層の重み値は任意である。例えば、階層が上位である程大きな重み値が得られるような関数(階層に応じて単調増加する関数)であってもよい。また、その重み値の階層毎の増加率は一定であってもよいし、一定でなくてもよい。さらに、この重み値導出関数により導出される重み値の範囲も任意である。
<重み値:方法1-1-1>
また、その場合、図12に示される表の上から3番目の行に記載のように、所定の関数を予め共有するようにしてもよい(方法1-1-1)。つまり、符号化と復号において、予め定められた互いに同一の重み値導出関数を用いて、上述の階層毎の重み値を導出するようにしてもよい。このようにすることにより、より容易に符号化と復号において重み値導出関数を共有することができる。
<重み値:方法1-1-2>
また、図12に示される表の上から4番目の行に記載のように、重み値導出関数を定義するパラメータ(例えば、関数を指定する情報や係数等)を共有するようにしてもよい(方法1-1-2)。つまり、符号化の際に重み値導出関数を定義し、その重み値導出関数を定義するパラメータを復号側に伝送する(ビットストリームに含める)ようにしてもよい。つまり、量子化された差分値と、階層毎の重み値を導出する際に用いられる関数を定義するパラメータとを符号化し、符号化データを生成するようにしてもよい。そして、その符号化データを復号し、量子化された差分値と、階層毎の重み値を導出する際に用いられる関数を定義するパラメータとを取得するようにしてもよい。このようにすることにより、ビットストリームに含まれるパラメータに基づいて符号化の際に用いられた重み値導出関数を容易に復元することができるので、復号においても容易に符号化の場合と同一の重み値導出関数を適用することができる。
<重み値:方法1-2>
また、方法1を適用する場合、図12に示される表の上から5番目の行に記載のように、符号化と復号において重み値を共有するようにしてもよい(方法1-2)。つまり、符号化と復号において、互いに同一の重み値を用いて量子化・逆量子化を行うようにしてもよい。このようにすることにより、量子化・逆量子化による精度の低減を抑制することができる。なお、各階層の重み値の大きさは任意である。
<重み値:方法1-2-1>
また、その場合、図12に示される表の上から6番目の行に記載のように、所定の重み値を予め共有するようにしてもよい(方法1-2-1)。つまり、符号化と復号において、予め定められた互いに同一の重み値を用いて量子化・逆量子化を行うようにしてもよい。このようにすることにより、より容易に符号化と復号において重み値を共有することができる。
<重み値:方法1-2-2>
また、図12に示される表の上から7番目の行に記載のように、符号化側から復号側に重み値を伝送するようにしてもよい(方法1-2-2)。つまり、符号化の際に重み値を設定し、その重み値を復号側に伝送する(ビットストリームに含める)ようにしてもよい。つまり、量子化された差分値と、階層毎の重み値とを符号化し、符号化データを生成するようにしてもよい。そして、その符号化データを復号し、量子化された差分値と、階層毎の重み値とを取得するようにしてもよい。このようにすることにより、復号の際の逆量子化には、そのビットストリームに含まれる重み値を適用することができる。したがって、より容易に、符号化の際の量子化に用いられた重み値を、復号の際の逆量子化に適用することができる。
<重み値:方法2>
なお、量子化・逆量子化においてポイント毎の重み値を適用するようにしてもよい。例えば、図12に示される表の上から8番目の行に記載のように、符号化(量子化)においてポイント毎の重み値を定義して適用し、そのポイント毎の重み値を復号側に伝送する(ビットストリームに含める)ようにしてもよい(方法2)。このようにすることにより、各ポイントの属性情報(差分値)により適した重み値を用いて量子化・逆量子化を行うことができるので、符号化効率の低減を抑制することができる。
<重み値:方法2-1>
この方法2を適用する場合、図12に示される表の上から9番目の行に記載のように、定義された全ポイントの重み値を伝送する(ビットストリームに含める)ようにしてもよい(方法2-1)。このようにすることにより、復号(逆量子化)の際には、ビットストリームに含まれる重み値をそのまま適用することができるので、より容易に逆量子化を行うことができる。
<重み値:方法2-2>
また方法2を適用する場合、図12に示される表の一番下の行に記載のように、定義された各ポイントの重み値と所定の値の差分値を伝送する(ビットストリームに含める)ようにしてもよい(方法2-2)。この所定の値は任意である。各重み値とは異なる値をこの所定の値としてもよいし、重み値同士の差分値を伝送してもよい。このようにすることにより、例えば方法2-1の場合と比べて、重み値に関する情報量の増大を抑制することができ、符号化効率の低減を抑制することができる。
<重み値:組み合わせ>
なお、上述した各方法のいずれかを選択して適用することができるようにしてもよい。その場合、符号化側が方法を選択して適用し、そのいずれの方法を選択したかを示す情報を、符号化側から復号側に伝送し、復号側がその情報に基づいて符号化側と同一の方法を適用するようにすればよい。
<階層化への重み値の適用>
この重み値を属性情報の階層化に利用するようにしてもよい。例えば、Liftingの場合、各階層において導出された差分値は、この重み値(Quantization Weight)を用いて更新(アップデート)され、そのアップデートされた差分値を用いて、参照ポイントに設定されたポイントの属性情報が更新される。このようにすることにより、圧縮効率の低減が抑制される。属性情報の階層化においてこのようなアップデート処理を行う場合、上述の階層毎の重み値を適用するようにしてもよい。
このようにすることにより、下位層の情報の参照が不要であるので、より容易にスケーラブルな復号を実現することができる。
<2.第1の実施の形態>
<符号化装置>
次に、<1.スケーラブル復号>において上述した本技術を適用する装置について説明する。図14は、本技術を適用した情報処理装置の一態様である符号化装置の構成の一例を示すブロック図である。図14に示される符号化装置200は、ポイントクラウド(3Dデータ)を符号化する装置である。符号化装置200は、<1.スケーラブル復号>において上述した本技術を適用してポイントクラウドを符号化する。
なお、図14においては、処理部やデータの流れ等の主なものを示しており、図14に示されるものが全てとは限らない。つまり、符号化装置200において、図14においてブロックとして示されていない処理部が存在したり、図14において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
図14に示されるように符号化装置200は、位置情報符号化部201、位置情報復号部202、ポイントクラウド生成部203、属性情報符号化部204、およびビットストリーム生成部205を有する。
位置情報符号化部201は、符号化装置200に入力されたポイントクラウド(3Dデータ)の位置情報を符号化する。この符号化方法は任意である。例えば、ノイズ抑制(デノイズ)のためのフィルタリングや量子化等の処理が行われるようにしてもよい。位置情報符号化部201は、生成した位置情報の符号化データを位置情報復号部202およびビットストリーム生成部205に供給する。
位置情報復号部202は、位置情報符号化部201から供給される位置情報の符号化データを取得し、その符号化データを復号する。この復号方法は、位置情報符号化部201による符号化に対応する方法であれば任意である。例えば、デノイズのためのフィルタリングや逆量子化等の処理が行われるようにしてもよい。位置情報復号部202は、生成した位置情報(復号結果)をポイントクラウド生成部203に供給する。
ポイントクラウド生成部203は、符号化装置200に入力されるポイントクラウドの属性情報と、位置情報復号部202から供給される位置情報(復号結果)を取得する。ポイントクラウド生成部203は、属性情報を位置情報(復号結果)に合わせる処理(リカラー処理)を行う。ポイントクラウド生成部203は、位置情報(復号結果)に対応させた属性情報を属性情報符号化部204に供給する。
属性情報符号化部204は、ポイントクラウド生成部203から供給される位置情報(復号結果)および属性情報を取得する。属性情報符号化部204は、その位置情報(復号結果)を用いて、<1.スケーラブル復号>において上述した本技術を適用した符号化方法により属性情報を符号化し、属性情報の符号化データを生成する。属性情報符号化部204は、生成した属性情報の符号化データをビットストリーム生成部205に供給する。
ビットストリーム生成部205は、位置情報符号化部201から供給される位置情報の符号化データを取得する。また、ビットストリーム生成部205は、属性情報符号化部204から供給される属性情報の符号化データを取得する。ビットストリーム生成部205は、これらの符号化データを含むビットストリームを生成する。ビットストリーム生成部205は、生成したビットストリームを符号化装置200の外部に出力する。
このような構成とすることにより、符号化装置200は、属性情報の階層構造を位置情報の階層構造に対応付けることができる。また、このようにすることにより、下位層に依存しない量子化・逆量子化が可能になる。つまり、符号化装置200は、属性情報のスケーラブルな復号をより容易化することができる。
なお、これらの処理部(位置情報符号化部201乃至ビットストリーム生成部205)は、任意の構成を有する。例えば、各処理部が、上述の処理を実現する論理回路により構成されるようにしてもよい。また、各処理部が、例えばCPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)等を有し、それらを用いてプログラムを実行することにより、上述の処理を実現するようにしてもよい。もちろん、各処理部が、その両方の構成を有し、上述の処理の一部を論理回路により実現し、他を、プログラムを実行することにより実現するようにしてもよい。各処理部の構成は互いに独立していてもよく、例えば、一部の処理部が上述の処理の一部を論理回路により実現し、他の一部の処理部がプログラムを実行することにより上述の処理を実現し、さらに他の処理部が論理回路とプログラムの実行の両方により上述の処理を実現するようにしてもよい。
<属性情報符号化部>
図15は、属性情報符号化部204(図14)の主な構成例を示すブロック図である。なお、図15においては、処理部やデータの流れ等の主なものを示しており、図15に示されるものが全てとは限らない。つまり、属性情報符号化部204において、図15においてブロックとして示されていない処理部が存在したり、図15において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
図15に示されるよう属性情報符号化部204は、階層化処理部211、量子化部212、および符号化部213を有する。
階層化処理部211は、属性情報の階層化に関する処理を行う。例えば、階層化処理部211は、属性情報符号化部204に供給される属性情報や位置情報(復号結果)を取得する。階層化処理部211は、その位置情報を用いて属性情報を階層化する。その際、階層化処理部211は、<1.スケーラブル復号>において上述した本技術を適用して階層化を行う。つまり、階層化処理部211は、位置情報と同様の階層構造の属性情報を生成する(属性情報の階層構造を位置情報の階層構造に対応付ける)。階層化処理部211は、階層化した属性情報(差分値)を量子化部212に供給する。
量子化部212は、階層化処理部211から供給される属性情報(差分値)を取得する。量子化部212は、その属性情報(差分値)を量子化する。その際、量子化部212は、<1.スケーラブル復号>において上述した本技術を適用して量子化を行う。つまり、量子化部212は、<1.スケーラブル復号>において説明したような階層毎の重み値を用いて属性情報(差分値)を量子化する。量子化部212は、その量子化された属性情報(差分値)を、符号化部213に供給する。なお、量子化部212は、必要に応じて、量子化に適用した重み値に関する情報も符号化部213に供給する。
符号化部213は、量子化部212から供給される、量子化された属性情報(差分値)を取得する。符号化部213は、その量子化された属性情報(差分値)を符号化し、属性情報の符号化データを生成する。この符号化方法は任意である。なお、量子化部212から重み値に関する情報が供給される場合、符号化部213は、その情報(例えば、重み値導出関数定義パラメータ、重み値等)も符号化データに含める。符号化部213は、生成した符号化データをビットストリーム生成部205に供給する。
以上のように階層化や量子化を行うことにより、属性情報符号化部204は、属性情報の階層構造を位置情報の階層構造に対応付けることができる。また、下位層に依存せずに量子化を行うことができる。付言するに、下位層に依存しない逆量子化が可能になる。つまり、属性情報符号化部204は、属性情報のスケーラブルな復号をより容易化することができる。
なお、これらの処理部(階層化処理部211乃至符号化部213)は、任意の構成を有する。例えば、各処理部が、上述の処理を実現する論理回路により構成されるようにしてもよい。また、各処理部が、例えばCPU、ROM、RAM等を有し、それらを用いてプログラムを実行することにより、上述の処理を実現するようにしてもよい。もちろん、各処理部が、その両方の構成を有し、上述の処理の一部を論理回路により実現し、他を、プログラムを実行することにより実現するようにしてもよい。各処理部の構成は互いに独立していてもよく、例えば、一部の処理部が上述の処理の一部を論理回路により実現し、他の一部の処理部がプログラムを実行することにより上述の処理を実現し、さらに他の処理部が論理回路とプログラムの実行の両方により上述の処理を実現するようにしてもよい。
<階層化処理部>
図16は、階層化処理部211(図15)の主な構成例を示すブロック図である。なお、図16においては、処理部やデータの流れ等の主なものを示しており、図16に示されるものが全てとは限らない。つまり、階層化処理部211において、図16においてブロックとして示されていない処理部が存在したり、図16において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
図16に示されるように階層化処理部211は、階層別処理部221-1、階層別処理部221-2、・・・を有する。階層別処理部221-1は、属性情報の最下位層(N)に対する処理を行う。階層別処理部221-2は、属性情報の最下位層の1つ上位の階層(N-1)に対する処理を行う。これらの階層別処理部221-1、階層別処理部221-2、・・・を互いに区別して説明する必要が無い場合、階層別処理部221と称する。つまり、階層化処理部211は、対応可能な属性情報の階層数の階層別処理部221を有する。
階層別処理部221は、処理対象であるカレント階層(現在LoD)の属性情報の階層化に関する処理を行う。例えば、階層別処理部221は、カレント階層の各ポイントをそのカレント階層の予測ポイントと参照ポイント(より上位の階層の予測ポイント)とに分類し、予測値や差分値を導出する。その際、階層別処理部221は、<1.スケーラブル復号>において上述した本技術を適用して処理を行う。
階層別処理部221は、ポイント分類部231、予測部232、演算部233、アップデート部234、および演算部235を有する。
ポイント分類部231は、カレント階層の各ポイントを予測ポイントと参照ポイントに分類する。その際、ポイント分類部231は、<1.スケーラブル復号>において上述したように、カレント階層のポイントが存在するボクセルが属する1つ上位階層のボクセルにもポイントが存在するように予測ポイント(換言するに、参照ポイント)を選択する。つまり、ポイント分類部231は、図6の表を参照して説明したいずれかの方法によりポイントの分類を行う。ポイント分類部231は、予測ポイントに選択したポイントの属性情報H(N)を演算部233に供給する。また、ポイント分類部231は、参照ポイントに選択したポイントの属性情報L(N)を予測部232および演算部235に供給する。
なお、ポイント分類部231、予測部232、およびアップデート部234は、各ポイントの位置情報を共有する。
予測部232は、ポイント分類部231から供給される、参照ポイントに選択されたポイントの属性情報L(N)や位置情報等を用いて、予測ポイントの属性情報の予測値P(N)を導出する。その際、予測部232は、<1.スケーラブル復号>において上述した本技術を適用した方法で予測値P(N)を導出する。予測部232は、導出した予測値P(N)を演算部233に供給する。
演算部233は、各予測ポイントについて、ポイント分類部231から供給される属性情報H(N)から、予測部232から供給される予測値P(N)を減算し、差分値D(N)を導出する。演算部233は、導出した各予測ポイントの差分値D(N)を、量子化部212(図15)に供給する。また、演算部233は、導出した各予測ポイントの差分値D(N)を、アップデート部234にも供給する。
アップデート部234は、演算部233から供給される予測ポイントの差分値D(N)を取得する。アップデート部234は、その差分値D(N)を、所定の演算を行って更新し、係数U(N)を導出する。この演算方法は任意であるが、例えば、量子化に用いられる重み値(Quantization Weight)Wを用いて、以下の式(2)のような演算が行われるようにしてもよい。
Figure 0007480775000002
その際、アップデート部234は、この演算に用いられる重み値wを、<1.スケーラブル復号>において上述したように、階層毎に独立して導出する。つまり、ポイント分類部231は、図12の表を参照して説明したいずれかの方法を適用して導出した重み値wを用いてこの演算を行う。アップデート部234は、導出した係数U(N)を演算部235に供給する。
演算部235は、ポイント分類部231から供給される参照ポイントの属性情報L(N)を取得する。また、演算部235は、アップデート部234から供給される係数U(N)を取得する。演算部235は、属性情報L(N)に係数U(N)を加算することにより、属性情報L(N)を更新する(更新された属性情報L'(N)を導出する)。このようにすることにより、圧縮効率の低減を抑制することができる。演算部235は、その更新された属性情報L'(N)を、1つ上位の階層(N-1)を処理対象とする階層別処理部221(のポイント分類部231)に供給する。例えば、図16の場合、階層別処理部221-1の演算部235は、階層別処理部221-2に、更新された属性情報L'(N)を供給する。更新された属性情報L'(N)を供給された階層別処理部221は、そのポイントを処理対象として(つまり1つ上位の階層をカレント階層として)同様の処理を行う。
以上のように階層化を行うことにより、階層化処理部211は、属性情報の階層構造を位置情報の階層構造に対応付けることができる。また、下位層に依存せずに導出した重み値を用いて階層化を行うことができる。つまり、階層化処理部211は、属性情報のスケーラブルな復号をより容易化することができる。
なお、これらの処理部(ポイント分類部231乃至演算部235)は、任意の構成を有する。例えば、各処理部が、上述の処理を実現する論理回路により構成されるようにしてもよい。また、各処理部が、例えばCPU、ROM、RAM等を有し、それらを用いてプログラムを実行することにより、上述の処理を実現するようにしてもよい。もちろん、各処理部が、その両方の構成を有し、上述の処理の一部を論理回路により実現し、他を、プログラムを実行することにより実現するようにしてもよい。各処理部の構成は互いに独立していてもよく、例えば、一部の処理部が上述の処理の一部を論理回路により実現し、他の一部の処理部がプログラムを実行することにより上述の処理を実現し、さらに他の処理部が論理回路とプログラムの実行の両方により上述の処理を実現するようにしてもよい。
<符号化処理の流れ>
次に、この符号化装置200により実行される処理について説明する。符号化装置200は、符号化処理を実行することによりポイントクラウドのデータを符号化する。この符号化処理の流れの例を、図17のフローチャートを参照して説明する。
符号化処理が開始されると、符号化装置200の位置情報符号化部201は、ステップS201において、入力されたポイントクラウドの位置情報を符号化し、位置情報の符号化データを生成する。
ステップS202において、位置情報復号部202は、ステップS201において生成された位置情報の符号化データを復号し、位置情報を生成する。
ステップS203において、ポイントクラウド生成部203は、入力されたポイントクラウドの属性情報と、ステップS202において生成された位置情報(復号結果)とを用いて、リカラー処理を行い、属性情報を位置情報に対応させる。
ステップS204において、属性情報符号化部204は、属性情報符号化処理を実行することにより、ステップS203においてリカラー処理された属性情報を符号化し、属性情報の符号化データを生成する。その際、属性情報符号化部204は、<1.スケーラブル復号>において上述した本技術を適用して処理を行う。属性情報符号化処理の詳細については後述する。
ステップS205において、ビットストリーム生成部205は、ステップS201において生成された位置情報の符号化データと、ステップS204において生成された属性情報の符号化データとを含むビットストリームを生成し、出力する。
ステップS205の処理が終了すると符号化処理が終了する。
このように各ステップの処理を行うことにより、符号化装置200は、属性情報の階層構造を位置情報の階層構造に対応付けることができる。また、このようにすることにより、下位層に依存しない量子化・逆量子化が可能になる。つまり、符号化装置200は、属性情報のスケーラブルな復号をより容易化することができる。
<属性情報符号化処理の流れ>
次に、図17のステップS204において実行される属性情報符号化処理の流れの例を、図18のフローチャートを参照して説明する。
属性情報符号化処理が開始されると、属性情報符号化部204の階層化処理部211は、ステップS221において、階層化処理を実行することにより属性情報を階層化し、各ポイントの属性情報の差分値を導出する。その際、階層化処理部211は、<1.スケーラブル復号>において上述した本技術を適用して階層化を行う。階層化処理の詳細については後述する。
ステップS222において、量子化部212は、量子化処理を実行することにより、ステップS221において導出された各差分値を量子化する。その際、量子化部212は、<1.スケーラブル復号>において上述した本技術を適用して量子化を行う。量子化処理の詳細については後述する。
ステップS223において、符号化部213は、ステップS222において量子化された差分値を符号化し、属性情報の符号化データを生成する。
ステップS223の処理が終了すると属性情報符号化処理が終了し、処理は図17に戻る。
このように各ステップの処理を行うことにより、属性情報符号化部204は、属性情報の階層構造を位置情報の階層構造に対応付けることができる。また、下位層に依存せずに量子化を行うことができる。付言するに、下位層に依存しない逆量子化が可能になる。つまり、属性情報符号化部204は、属性情報のスケーラブルな復号をより容易化することができる。
<階層化処理の流れ>
次に、図18のステップS221において実行される階層化処理の流れの例を、図19のフローチャートを参照して説明する。ここでは、図6の表の上から2番目に記載の方法1-1を適用する場合について説明する。
階層化処理が開始されると、階層化処理部211の階層別処理部221は、ステップS241において、処理対象であるカレント階層(現在LoD)を最下位の階層(LoD)とする。
ステップS242において、ポイント分類部231は、カレント階層のポイントが存在するボクセルが属する1つ上位階層のボクセルにもポイントが存在するように予測ポイントを選択する。換言するに、ポイント分類部231は、この処理により参照ポイントを選択する。
例えば、ポイント分類部231は、カレント階層のポイントが存在する各ボクセルが属する1つ上位階層のボクセルに対し、参照ポイントを1つずつ設定する。なお、候補となるポイントが複数存在する場合、ポイント分類部231は、いずれか1つを選択する。この選択方法は任意である。例えば、近傍に位置するポイントが最も多いポイントを参照ポイントとして選択するようにしてもよい。参照ポイントを設定するとポイント分類部231は、次に、その参照ポイント以外のポイントを予測ポイントに設定する。このようにして、カレント階層のポイントが存在するボクセルが属する1つ上位階層のボクセルにもポイントが存在するように予測ポイントが選択される。
ステップS243において、ポイント分類部231は、カレント階層の解像度の位置情報に基づいて、各予測ポイントに対応する参照ポイントを設定する。
例えば、ポイント分類部231は、参照ポイントから所定の範囲内に位置する予測ポイント(近傍の予測ポイント)を、カレント階層の解像度の位置情報を用いて探索する。ポイント分類部231は、探索した近傍の予測ポイントがその参照ポイントを参照するように、予測ポイントと参照ポイントとを対応付ける。ポイント分類部231が各参照ポイントについてこのような処理を行うことにより、全ての予測ポイントが参照ポイントに対応付けられる。つまり、各予測ポイントに対応する(各予測ポイントが参照する)参照ポイントが設定される。
ステップS244において、予測部232は、各予測ポイントの予測値を導出する。つまり、予測部232は、ステップS243の処理により設定された対応関係に基づいて、各予測ポイントに対応する参照ポイントの属性情報を用いて、その予測ポイントの属性情報の予測値を導出する。
例えば、予測部232は、図4を参照して説明したように、予測ポイントに対応する各参照ポイントの属性情報を、予測ポイントと参照ポイントとの距離の逆数に応じた重み値(α(P,Q(i,j)))により重み付けし、上述の式(1)のような演算を行って統合する。その際、予測部232は、カレント階層の解像度の位置情報を用いて、予測ポイントと参照ポイントとの距離を導出し、適用する。
ステップS245において、演算部233は、ステップS242において選択された予測ポイントの属性情報から、ステップS244において導出された予測値を減算することにより、各予測ポイントの差分値を導出する。
ステップS246において、アップデート部234は、アップデート処理に用いられる重み値を導出する。アップデート部234は、この重み値を、図12に示される表に記載のいずれかの方法を適用して導出する。つまり、アップデート部234は、重み値を階層毎に独立して導出する。
ステップS247において、アップデート部234は、ステップS246において導出した重み値を用いて、ステップS245において導出された差分値をアップデートする。例えば、アップデート部234は、上述の式(2)で示される演算を行うことにより、このアップデートを行う。
ステップS248において、演算部235は、ステップS247においてアップデートした差分値を用いて、ステップS243において、設定された参照ポイントの属性情報を更新する。
ステップS249において、階層別処理部221は、カレント階層(現在LoD)が最上位の階層であるか否かを判定する。なお、属性情報の階層構造における最上位の階層は、位置情報の階層とは独立に設定されるので、位置情報の階層構造における最上位の階層とは異なる場合もある。カレント階層が最上位の階層ではないと判定された場合、処理はステップS250に進む。
ステップS250において、階層別処理部221は、処理対象であるカレント階層(現在LoD)を1つ上の階層(LoD)とする。ステップS250の処理が終了すると処理はステップS242に戻る。つまり、各階層についてステップS242乃至ステップS250の各処理が実行される。
そして、ステップS249において、カレント階層が最上位の階層であると判定された場合、階層化処理が終了し、処理は図18に戻る。
このように各ステップの処理を行うことにより、階層化処理部211は、属性情報の階層構造を位置情報の階層構造に対応付けることができる。また、下位層に依存せずに導出した重み値を用いて階層化を行うことができる。つまり、階層化処理部211は、属性情報のスケーラブルな復号をより容易化することができる。
<量子化処理の流れ>
次に、図18のステップS222において実行される量子化処理の流れの例を、図20のフローチャートを参照して説明する。ここでは、図12の表の上から4番目に記載の方法1-1-2を適用する場合について説明する。
量子化処理が開始されると、量子化部212は、ステップS271において、重み値導出関数を定義する。
ステップS272において、量子化部212は、ステップS271において定義された重み値導出関数を用いて、階層(LoD)毎の重み値を導出する。
ステップS273において、量子化部212は、ステップS272において導出されたLoD毎の重み値を用いて、属性情報の差分値を量子化する。
ステップS274において、量子化部212は、重み値導出に用いた重み値導出関数を定義する重み値導出関数定義パラメータを、符号化部213に供給し、符号化させる。つまり、量子化部212は、重み値導出関数定義パラメータを復号側に伝送させる。
ステップS274の処理が終了すると量子化処理が終了し、処理は図18に戻る。
このように量子化処理を実行することにより、量子化部212は、下位層に依存せずに量子化を行うことができる。付言するに、下位層に依存しない逆量子化が可能になる。つまり、量子化部212は、属性情報のスケーラブルな復号をより容易化することができる。
<階層化処理の流れ>
なお、図6の表の上から3番目に記載の方法1-1’を適用する場合も、階層化処理は、図19のフローチャートと基本的に同様の流れで行われる。ただし、ステップS243の処理において、ポイント分類部231は、最下位層の解像度(つまり、最高解像度)の位置情報に基づいて、各予測ポイントに対応する参照ポイントを設定する。また、ステップS244の処理において、予測部232は、最下位層の解像度(つまり、最高解像度)の解像度の位置情報を用いて、予測ポイントと参照ポイントとの距離を導出し、その距離の逆数に応じた重み値を用いて予測値を導出する。
このようにすることにより、階層化処理部211は、ポイントクラウドの最下層の解像度の位置情報に基づく距離に応じて重み付けした参照ポイントの属性情報を用いて予測ポイントの予測値を導出することができる。
次に、図6の表の上から4番目に記載の方法1-2を適用する場合の階層化処理の流れの例を、図21のフローチャートを参照して説明する。
この場合、階層化処理部211は、ステップS301、ステップS303乃至ステップS310の各処理を、図19のステップS241、ステップS243乃至ステップS250の各処理と同様に実行する。
また、ステップS302において、ポイント分類部231は、カレント階層のポイントを全て予測ポイントに設定し、さらに、カレント階層のポイントが存在するボクセルが属する1つ上位階層のボクセルにもポイントが存在するように、仮想の参照ポイントを設定する。ポイント分類部231は、既存のポイント(予測ポイント)の属性情報を用いてリカラー処理を行い、設定した仮想の参照ポイントの属性情報を生成する。
ステップS303において、ポイント分類部231は、ステップS302において設定した仮想の参照ポイントの中から、カレント階層の解像度の位置情報に基づいて、各予測ポイントに対応する参照ポイントを設定する。
このように各ステップの処理を行うことにより、階層化処理部211は、属性情報の階層構造を位置情報の階層構造に対応付けることができる。また、下位層に依存せずに導出した重み値を用いて階層化を行うことができる。つまり、階層化処理部211は、属性情報のスケーラブルな復号をより容易化することができる。
<量子化処理の流れ>
次に、図12の表の上から7番目に記載の方法1-2-2を適用する場合の量子化処理の流れの例を、図22のフローチャートを参照して説明する。
量子化処理が開始されると、量子化部212は、ステップS321において、階層(LoD)毎の重み値を導出する。
ステップS322において、量子化部212は、ステップS321において導出されたLoD毎の重み値を用いて、属性情報の差分値を量子化する。
ステップS323において、量子化部212は、量子化に用いた重み値を、符号化部213に供給し、符号化させる。つまり、量子化部212は、この重み値を復号側に伝送させる。
ステップS323の処理が終了すると量子化処理が終了し、処理は図18に戻る。
このように量子化処理を実行することにより、量子化部212は、下位層に依存せずに量子化を行うことができる。付言するに、下位層に依存しない逆量子化が可能になる。つまり、量子化部212は、属性情報のスケーラブルな復号をより容易化することができる。
<3.第2の実施の形態>
<復号装置>
図23は、本技術を適用した情報処理装置の一態様である復号装置の構成の一例を示すブロック図である。図23に示される復号装置400は、ポイントクラウド(3Dデータ)の符号化データを復号する装置である。復号装置400は、<1.スケーラブル復号>において上述した本技術を適用してポイントクラウドの符号化データを復号する。
なお、図23においては、処理部やデータの流れ等の主なものを示しており、図23に示されるものが全てとは限らない。つまり、復号装置400において、図23においてブロックとして示されていない処理部が存在したり、図23において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
図23に示されるように復号装置400は、復号対象LoD深度設定部401、符号化データ抽出部402、位置情報復号部403、属性情報復号部404、およびポイントクラウド生成部405を有する。
復号対象LoD深度設定部401は、復号対象とする階層(LoD)の深度の設定に関する処理を行う。例えば、復号対象LoD深度設定部401は、符号化データ抽出部402に保持されているポイントクラウドの符号化データについて、どの階層まで復号するかを設定する。この復号対象とする階層深度設定の方法は任意である。
例えば、復号対象LoD深度設定部401が、ユーザやアプリケーション等の外部からの階層深度に関する指示に基づいて設定するようにしてもよい。また、復号対象LoD深度設定部401が、出力画像等、任意の情報に基づいて復号対象とする階層深度を求め、設定するようにしてもよい。
例えば、復号対象LoD深度設定部401が、ポイントクラウドから生成する2次元画像の視点位置、方向、画角、視点の動き(移動、パン、チルト、ズーム)等に基づいて、復号対象とする階層深度を設定するようにしてもよい。
なお、この復号対象とする階層深度設定のデータ単位は任意である。例えば、復号対象LoD深度設定部401は、ポイントクラウド全体について階層深度を設定することもできるし、オブジェクト毎に階層深度を設定することもできるし、オブジェクト内の部分領域毎に階層深度を設定することもできる。もちろん、これらの例以外のデータ単位で階層深度を設定することもできる。
符号化データ抽出部402は、復号装置400に入力されるビットストリームを取得し、保持する。符号化データ抽出部402は、最上位から復号対象LoD深度設定部401により指定された階層までの位置情報および属性情報の符号化データを、その保持しているビットストリームから抽出する。符号化データ抽出部402は、抽出した位置情報の符号化データを位置情報復号部403に供給する。符号化データ抽出部402は、抽出した属性情報の符号化データを属性情報復号部404に供給する。
位置情報復号部403は、符号化データ抽出部402から供給される位置情報の符号化データを取得する。位置情報復号部403は、その位置情報の符号化データを復号し、位置情報(復号結果)を生成する。この復号方法は、符号化装置200の位置情報復号部202の場合と同様の方法であれば任意である。位置情報復号部403は、生成した位置情報(復号結果)を、属性情報復号部404およびポイントクラウド生成部405に供給する。
属性情報復号部404は、符号化データ抽出部402から供給される属性情報の符号化データを取得する。属性情報復号部404は、位置情報復号部403から供給される位置情報(復号結果)を取得する。属性情報復号部404は、その位置情報(復号結果)を用いて、<1.スケーラブル復号>において上述した本技術を適用した方法により属性情報の符号化データを復号し、属性情報(復号結果)を生成する。属性情報復号部404は、生成した属性情報(復号結果)をポイントクラウド生成部405に供給する。
ポイントクラウド生成部405は、位置情報復号部403から供給される位置情報(復号結果)を取得する。ポイントクラウド生成部405は、属性情報復号部404から供給される属性情報(復号結果)を取得する。ポイントクラウド生成部405は、その位置情報(復号結果)および属性情報(復号結果)を用いて、ポイントクラウド(復号結果)を生成する。ポイントクラウド生成部405は、生成したポイントクラウド(復号結果)のデータを復号装置400の外部に出力する。
このような構成とすることにより、復号装置400は、属性情報の予測値を正しく導出することができ、位置情報の階層構造に対応付けられた属性情報の階層構造を正しく逆階層化することができる。また、このようにすることにより、下位層に依存せずに逆量子化を行うことができる。つまり、復号装置400は、属性情報のスケーラブルな復号をより容易に行うことができる。
なお、これらの処理部(復号対象LoD深度設定部401乃至ポイントクラウド生成部405)は、任意の構成を有する。例えば、各処理部が、上述の処理を実現する論理回路により構成されるようにしてもよい。また、各処理部が、例えばCPU、ROM、RAM等を有し、それらを用いてプログラムを実行することにより、上述の処理を実現するようにしてもよい。もちろん、各処理部が、その両方の構成を有し、上述の処理の一部を論理回路により実現し、他を、プログラムを実行することにより実現するようにしてもよい。各処理部の構成は互いに独立していてもよく、例えば、一部の処理部が上述の処理の一部を論理回路により実現し、他の一部の処理部がプログラムを実行することにより上述の処理を実現し、さらに他の処理部が論理回路とプログラムの実行の両方により上述の処理を実現するようにしてもよい。
<属性情報復号部>
図24は、属性情報復号部404(図23)の主な構成例を示すブロック図である。なお、図24においては、処理部やデータの流れ等の主なものを示しており、図24に示されるものが全てとは限らない。つまり、属性情報復号部404において、図24においてブロックとして示されていない処理部が存在したり、図24において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
図24に示されるよう属性情報復号部404は、復号部421、逆量子化部422、および逆階層化処理部423を有する。
復号部421は、属性情報復号部404に供給される属性情報の符号化データを取得する。復号部421は、その属性情報の符号化データを復号し、属性情報(復号結果)を生成する。この復号方法は、符号化装置200の符号化部213(図15)による符号化方法に対応する方法であれば任意である。また、生成した属性情報(復号結果)は、符号化前の属性情報に対応し、第1の実施の形態において説明したように、属性情報とその予測値との差分値であり、量子化されている。復号部421は、生成した属性情報(復号結果)を逆量子化部422に供給する。
なお、属性情報の符号化データに重み値に関する情報(例えば、重み値導出関数定義パラメータ、重み値等)が含まれている場合、復号部421は、その重み値に関する情報(復号結果)も生成する。復号部421は、生成した重み値に関する情報(復号結果)を逆量子化部422に供給する。また、復号部421は、生成した重み値に関する情報(復号結果)を、属性情報の符号化データの復号に利用することもできる。
逆量子化部422は、復号部421から供給される属性情報(復号結果)を取得する。逆量子化部422は、その属性情報(復号結果)を逆量子化する。その際、逆量子化部422は、<1.スケーラブル復号>において上述した本技術を適用して、符号化装置200の量子化部212(図15)による量子化の逆処理である逆量子化を行う。つまり、逆量子化部422は、<1.スケーラブル復号>において説明したような階層毎の重み値を用いて属性情報(復号結果)を逆量子化する。
なお、復号部421から重み値に関する情報(復号結果)が供給される場合、逆量子化部422は、その重み値に関する情報(復号結果)も取得する。その場合、逆量子化部422は、その重み値に関する情報(復号結果)により指定される重み値、または、その重み値に関する情報(復号結果)に基づいて導出される重み値を用いて属性情報(復号結果)を逆量子化する。
逆量子化部422は、逆量子化した属性情報(復号結果)を逆階層化処理部423に供給する。
逆階層化処理部423は、逆量子化部422から供給される、逆量子化された属性情報(復号結果)を取得する。上述したようにこの属性情報は差分値である。また、逆階層化処理部423は、位置情報復号部403から供給される位置情報(復号結果)を取得する。逆階層化処理部423は、その位置情報(復号結果)を用いて、取得した属性情報(差分値)に対して、符号化装置200の階層化処理部211(図15)による階層化の逆処理である逆階層化を行う。その際、逆階層化処理部423は、<1.スケーラブル復号>において上述した本技術を適用して逆階層化を行う。つまり、逆階層化処理部423は、位置情報を用いて予測値を導出し、その予測値を差分値に加算することにより属性情報を復元する。このように逆階層化処理部423は、位置情報を用いて、その位置情報と同様の階層構造の属性情報を逆階層化する。逆階層化処理部423は、逆階層化した属性情報を復号結果としてポイントクラウド生成部405(図23)に供給する。
以上のように逆量子化や逆階層化を行うことにより、属性情報復号部404は、属性情報の予測値を正しく導出することができ、位置情報の階層構造に対応付けられた属性情報の階層構造を正しく逆階層化することができる。また、下位層に依存せずに逆量子化を行うことができる。つまり、復号装置400は、属性情報のスケーラブルな復号をより容易に行うことができる。
なお、これらの処理部(復号部421乃至逆階層化処理部423)は、任意の構成を有する。例えば、各処理部が、上述の処理を実現する論理回路により構成されるようにしてもよい。また、各処理部が、例えばCPU、ROM、RAM等を有し、それらを用いてプログラムを実行することにより、上述の処理を実現するようにしてもよい。もちろん、各処理部が、その両方の構成を有し、上述の処理の一部を論理回路により実現し、他を、プログラムを実行することにより実現するようにしてもよい。各処理部の構成は互いに独立していてもよく、例えば、一部の処理部が上述の処理の一部を論理回路により実現し、他の一部の処理部がプログラムを実行することにより上述の処理を実現し、さらに他の処理部が論理回路とプログラムの実行の両方により上述の処理を実現するようにしてもよい。
<逆階層化処理部>
図25は、逆階層化処理部423(図24)の主な構成例を示すブロック図である。なお、図25においては、処理部やデータの流れ等の主なものを示しており、図24に示されるものが全てとは限らない。つまり、逆階層化処理部423において、図24においてブロックとして示されていない処理部が存在したり、図24において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
図24に示されるように逆階層化処理部423は、階層別処理部441-1、階層別処理部441-2、・・・を有する。階層別処理部441-1は、属性情報の最上位層(0)に対する処理を行う。階層別処理部441-2は、属性情報の最上位から1つ下位の階層(1)に対する処理を行う。これらの階層別処理部441-1、階層別処理部441-2、・・・を互いに区別して説明する必要が無い場合、階層別処理部441と称する。つまり、逆階層化処理部423は、対応可能な属性情報の階層数の階層別処理部441を有する。
階層別処理部441は、処理対象であるカレント階層(現在LoD)の属性情報(差分値)の逆階層化に関する処理を行う。例えば、階層別処理部441は、カレント階層の各ポイントの属性情報の予測値を導出し、その予測値と差分値とを加算することにより、カレント階層の各ポイントの属性情報を導出する。その際、階層別処理部441は、<1.スケーラブル復号>において上述した本技術を適用して処理を行う。
階層別処理部441は、予測部451、演算部452、およびマージ処理部453を有する。
予測部451は、逆量子化部422または前段の階層別処理部441から供給されるカレント階層の参照ポイントの属性情報L(N)を取得する。また、予測部451は、位置情報復号部403から供給される位置情報(復号結果)を取得する。予測部451は、その位置情報および属性情報を用いて、予測ポイントの属性情報の予測値P(N)を導出する。その際、予測部451は、<1.スケーラブル復号>において上述した本技術を適用した方法で予測値P(N)を導出する。予測部451は、導出した予測値P(N)を演算部452に供給する。
演算部452は、逆量子化部422から供給されるカレント階層の予測ポイントの属性情報の差分値D(N)を取得する。また、演算部452は、予測部451から供給されるカレント階層の予測ポイントの属性情報の予測値P(N)を取得する。演算部452は、差分値D(N)と予測値P(N)とを加算して予測ポイントの属性情報H(N)を生成(復元)する。演算部452は、生成した予測ポイントの属性情報H(N)をマージ処理部453に供給する。
マージ処理部453は、逆量子化部422または前段の階層別処理部441から供給されるカレント階層の参照ポイントの属性情報L(N)を取得する。また、マージ処理部453は、演算部452から供給されるカレント階層の予測ポイントの属性情報H(N)を取得する。マージ処理部453は、取得した参照ポイントの属性情報L(N)と予測ポイントの属性情報H(N)とをまとめる。これにより、最上位層からカレント階層までの全ポイントの属性情報が生成される。マージ処理部453は、生成した全ポイントの属性情報を、カレント階層の1つ下位の階層の参照ポイントの属性情報L(N+1)として、後段の階層別処理部441(の予測部451およびマージ処理部453)に供給する。
なお、復号対象の最下位層をカレント階層とする階層別処理部441の場合、マージ処理部453は、生成した全ポイントの属性情報を、復号結果としてポイントクラウド生成部405(図23)に供給する。
以上のように逆階層化を行うことにより、逆階層化処理部423は、属性情報の予測値を正しく導出することができ、位置情報の階層構造に対応付けられた属性情報の階層構造を正しく逆階層化することができる。つまり、復号装置400は、属性情報のスケーラブルな復号をより容易に行うことができる。
なお、これらの処理部(予測部451乃至マージ処理部453)は、任意の構成を有する。例えば、各処理部が、上述の処理を実現する論理回路により構成されるようにしてもよい。また、各処理部が、例えばCPU、ROM、RAM等を有し、それらを用いてプログラムを実行することにより、上述の処理を実現するようにしてもよい。もちろん、各処理部が、その両方の構成を有し、上述の処理の一部を論理回路により実現し、他を、プログラムを実行することにより実現するようにしてもよい。各処理部の構成は互いに独立していてもよく、例えば、一部の処理部が上述の処理の一部を論理回路により実現し、他の一部の処理部がプログラムを実行することにより上述の処理を実現し、さらに他の処理部が論理回路とプログラムの実行の両方により上述の処理を実現するようにしてもよい。
<復号処理の流れ>
次に、この復号装置400により実行される処理について説明する。復号装置400は、復号処理を実行することによりポイントクラウドの符号化データを復号する。この復号処理の流れの例を、図26のフローチャートを参照して説明する。
復号処理が開始されると、復号装置400の復号対象LoD深度設定部401は、ステップS401において、復号するLoD深度を設定する。
ステップS402において、符号化データ抽出部402は、ビットストリームを取得して保持し、ステップS401において設定されたLoD深度までの位置情報および属性情報の符号化データを抽出する。
ステップS403において、位置情報復号部403は、ステップS402において抽出された位置情報の符号化データを復号し、位置情報(復号結果)を生成する。
ステップS404において、属性情報復号部404は、ステップS402において抽出された属性情報の符号化データを復号し、属性情報(復号結果)を生成する。その際、属性情報復号部404は、<1.スケーラブル復号>において上述した本技術を適用して処理を行う。属性情報復号処理の詳細については後述する。
ステップS405において、ポイントクラウド生成部405は、ステップS403において生成された位置情報(復号結果)と、ステップS404において生成された属性情報(復号結果)とを用いてポイントクラウド(復号結果)を生成し、出力する。
ステップS405の処理が終了すると、復号処理が終了する。
このように各ステップの処理を行うことにより、復号装置400は、属性情報の予測値を正しく導出することができ、位置情報の階層構造に対応付けられた属性情報の階層構造を正しく逆階層化することができる。また、このようにすることにより、下位層に依存せずに逆量子化を行うことができる。つまり、復号装置400は、属性情報のスケーラブルな復号をより容易に行うことができる。
<属性情報復号処理の流れ>
次に、図26のステップS404において実行される属性情報復号処理の流れの例を、図27のフローチャートを参照して説明する。
属性情報復号処理が開始されると、属性情報復号部404の復号部421は、ステップS421において、属性情報の符号化データを復号し、属性情報(復号結果)を生成する。この属性情報(復号結果)は上述のように量子化されている。
ステップS422において、逆量子化部422は、逆量子化処理を実行することにより、ステップS421において生成された属性情報(復号結果)を逆量子化する。その際、逆量子化部422は、<1.スケーラブル復号>において上述した本技術を適用して逆量子化を行う。逆量子化処理の詳細については後述する。なお、この逆量子化された属性情報は、上述したように、属性情報とその予測値との差分値である。
ステップS423において、逆階層化処理部423は、逆階層化処理を実行することにより、ステップS422において逆量子化された属性情報(差分値)を逆階層化し、各ポイントの属性情報を導出する。その際、逆階層化処理部423は、<1.スケーラブル復号>において上述した本技術を適用して逆階層化を行う。逆階層化処理の詳細については後述する。
ステップS423の処理が終了すると属性情報復号処理が終了し、処理は図26に戻る。
このように各ステップの処理を行うことにより、属性情報復号部404は、属性情報の予測値を正しく導出することができ、位置情報の階層構造に対応付けられた属性情報の階層構造を正しく逆階層化することができる。また、このようにすることにより、下位層に依存せずに逆量子化を行うことができる。つまり、復号装置400は、属性情報のスケーラブルな復号をより容易に行うことができる。
<逆量子化処理の流れ>
次に、図27のステップS422において実行される逆量子化処理の流れの例を、図28のフローチャートを参照して説明する。ここでは、図12の表の上から4番目に記載の方法1-1-2を適用する場合について説明する。
逆量子化処理が開始されると、逆量子化部422は、ステップS441において、符号化データが復号されて生成された重み値導出関数定義パラメータを取得する。
ステップS442において、逆量子化部422は、ステップS441において取得した関数定義パラメータに基づいて重み導出関数を定義する。
ステップS443において、逆量子化部422は、ステップS442において定義した重み導出関数を用いて、階層(LoD)毎の重み値を導出する。
ステップS444において、逆量子化部422は、ステップS443において導出された重み値を用いて、属性情報(復号結果)を逆量子化する。
ステップS444の処理が終了すると逆量子化処理が終了し、処理は図27に戻る。
このように逆量子化処理を実行することにより、逆量子化部422は、下位層に依存せずに逆量子化を行うことができる。つまり、復号装置400は、属性情報のスケーラブルな復号をより容易に行うことができる。
<逆階層化処理の流れ>
次に、図27のステップS423において実行される逆階層化処理の流れの例を、図29のフローチャートを参照して説明する。ここでは、図6の表の上から2番目に記載の方法1-1を適用する場合について説明する。
逆階層化処理が開始されると、逆階層化処理部423は、ステップS461において、位置情報(復号結果)を用いて属性情報(復号結果)を階層化する。つまり、逆階層化処理部423は、第1の実施の形態において説明した階層化処理と同様の処理を行い、復号対象の階層について、属性情報の階層構造と位置情報の階層構造とを対応付ける。これにより、各ポイントの属性情報(復号結果)と位置情報(復号結果)とが対応付けられる。この対応関係に基づいて以下の処理が行われる。
ステップS462において、逆階層化処理部423の階層別処理部441は、処理対象であるカレント階層(現在LoD)を最上位の階層(LoD)とする。
ステップS463において、予測部451は、各予測ポイントの予測値を導出する。つまり、予測部451は、各予測ポイントに対応する参照ポイントの属性情報を用いて、その予測ポイントの属性情報の予測値を導出する。
例えば、予測部451は、図4を参照して説明したように、予測ポイントに対応する各参照ポイントの属性情報を、予測ポイントと参照ポイントとの距離の逆数に応じた重み値(α(P,Q(i,j)))により重み付けし、上述の式(1)のような演算を行って統合することにより、予測値を導出する。その際、予測部451は、カレント階層(現在LoD)の解像度の位置情報を用いて、予測ポイントと参照ポイントとの距離を導出し、適用する。
ステップS464において、演算部452は、ステップS463において導出された予測値を、その予測ポイントの差分値に加算することにより、その予測ポイントの属性情報を復元する。
ステップS465において、マージ処理部453は、導出した予測ポイントの属性情報と、参照ポイントの属性情報とをマージしてカレント階層の全ポイントの属性情報を生成する。
ステップS466において、階層別処理部441は、カレント階層(現在LoD)が最下位の階層であるか否かを判定する。カレント階層が最下位の階層ではないと判定された場合、処理はステップS467に進む。
ステップS467において、階層別処理部441は、処理対象であるカレント階層(現在LoD)を1つ下の階層(LoD)とする。ステップS467の処理が終了すると処理はステップS463に戻る。つまり、各階層についてステップS463乃至ステップS467の各処理が実行される。
そして、ステップS466において、カレント階層が最下位の階層であると判定された場合、逆階層化処理が終了し、処理は図27に戻る。
このように各ステップの処理を行うことにより、逆階層化処理部423は、属性情報の予測値を正しく導出することができ、位置情報の階層構造に対応付けられた属性情報の階層構造を正しく逆階層化することができる。つまり、復号装置400は、属性情報のスケーラブルな復号をより容易に行うことができる。
なお、図6の表の上から3番目に記載の方法1-1'を適用する場合も、図6の表の上から4番目に記載の方法1-2を適用する場合も、逆階層化処理は、図29のフローチャートと基本的に同様の流れで行われる。したがって、これらの説明は省略する。
<逆量子化処理の流れ>
次に、図12の表の上から7番目に記載の方法1-2-2を適用する場合の逆量子化処理の流れの例を、図30のフローチャートを参照して説明する。
逆量子化処理が開始されると、逆量子化部422は、ステップS481において、符号化データが復号されて生成された階層(LoD)毎の重み値を取得する。
ステップS482において、逆量子化部422は、ステップS481において取得した重み値を用いて、属性情報(復号結果)を逆量子化する。
ステップS482の処理が終了すると逆量子化処理が終了し、処理は図27に戻る。
このように逆量子化処理を実行することにより、逆量子化部422は、下位層に依存せずに逆量子化を行うことができる。つまり、復号装置400は、属性情報のスケーラブルな復号をより容易に行うことができる。
<4.DCM>
<位置情報のDCM>
上述のように、位置情報はOctree化される。近年、例えば非特許文献6に記載のように、Octreeにおいてリーフ(Octreeの最下位層のノード、すなわち、最高解像度のポイント)が特定の個数以下しか存在しないノードにおいて、そのノードから各リーフまでの相対距離を符号化するDCM(Direct Coding Mode)が提案された。
例えば、ボクセルデータのOctree化において、処理対象のノードが所定の条件を満たし、疎であると判定されると、このDCMが適用され、処理対象ノードからその処理対象ノードに直接的または間接的に属する各リーフまでの相対距離(xyzの各方向について)が求められ、符号化される。
なお、「直接的に属するノード」とは、木構造において相手のノードにぶら下がるノードのことを示す。例えば、処理対象ノードに直接的に属するノードは、処理対象ノードに属し、かつ、処理対象ノードよりも1階層下位のノード(所謂子ノード)のことを示す。また、「間接的に属するノード」とは、木構造において他のノードを介して相手のノードにぶら下がるノードのことを示す。例えば、処理対象ノードに間接的に属するノードは、処理対象ノードに他のノードを介して属し、かつ、処理対象ノードよりも2階層以上下位のノード(例えば孫ノード)のことを示す。
例えば、図31に示されるように、Octree化の際に、ノードn0(LoD=n)が疎であると判定されると、そのノードn0に属する(ぶら下がる)リーフp0が特定され、そのノードn2とリーフp2との(位置の)差分が導出される。つまり、中間解像度のノード(LoD=nとLoD=lとの間の階層(LoD)のノード)の位置情報の符号化は省略される。
同様に、ノードn2(LoD=m)が疎であると判定されると、そのノードn2に属する(ぶら下がる)リーフp2が特定され、そのノードn2とリーフp2との(位置の)差分が導出される。つまり、中間解像度のノード(LoD=mとLoD=lとの間の階層(LoD)のノード)の位置情報の符号化は省略される。
このようにDCMを適用することにより、疎なノードの生成を省略することができるので、Octree化の処理の負荷の増大を抑制することができる。
<DCMに対応する属性情報の階層化>
このようなDCMが適用される場合においても属性情報をスケーラブルに復号することができるように、位置情報のOctreeにおいても図32に示されるように中間解像度のノードが形成されているものとして、属性情報の階層化を行ってもよい。つまり、DCMが適用されていないものとして、属性情報に対して本技術を適用した符号化・復号を行ってもよい。
図32の例の場合、ノードn0からリーフp0までの間の白丸で示される中間解像度のノード(ノードn0'、ノードn0''、およびノードn0''')と、ノードn2からリーフp2までの間の白丸で示される中間解像度のノード(ノードn2')とが存在するものとして、属性情報の階層化が行われる。つまり、これらのノードに対応する属性情報が生成される。
このようにすることにより、DCMにより位置情報の符号化が省略されるノードについても属性情報は符号化されるので、任意の階層(解像度)の属性情報を、最高解像度まで復号せずに容易に復元することができる。つまり、DCMが適用される場合であっても、属性情報のより容易なスケーラブルな復号を実現することができる。
例えば符号化装置200の場合、属性情報符号化部204(図14)は、図31の例のような階層構造の位置情報に対し、属性情報を図32の例のような階層構造に階層化し、量子化し、符号化する。つまり、階層化処理部211(図15)が、図32の例のような階層構造の属性情報を生成する。
また、例えば復号装置400の場合、属性情報復号部404(図23)は、属性情報の符号化データを所望の解像度で(所望の階層まで)復号する。上述のように、符号化データにおいて属性情報は、図32の例のような階層構造を有する。したがって、属性情報復号部404(逆階層化処理部423(図24))は、最高解像度までの復号を必要とせずに、任意の階層の属性情報を逆階層化し、復元することができる。
<ノードの解像度設定1>
なお、このような属性情報に関する処理において位置情報を参照する場合に、DCMにより位置情報の符号化が省略される中間解像度のノードは、例えば、その階層の解像度で表現されるようにしてもよい。
<符号化の場合>
例えば、ポイントクラウドデータの符号化においてLoD=mの階層を処理対象とする場合について説明する。位置情報符号化部201は、疎なノードに対してDCMを適用し、図31の例のような階層構造の位置情報を生成し、符号化する。つまり、この位置情報の符号化データには、ノードn0に対応するLoD=mのノードn0''の位置情報は含まれない。
これに対して、属性情報符号化部204は、図33に示される例のように、DCMにより省略された、ノードn0に対応するLoD=mのノードn0''の属性情報を生成する。その際、属性情報符号化部204(階層化処理部211)は、そのノードn0''を、その階層(LoD=m)の解像度で表現する。つまり、属性情報符号化部204(階層化処理部211)は、その階層(LoD=m)の解像度のノードn0''に対応する属性情報を生成する。
その場合、階層(LoD=m)の解像度のノードn0''に対応する属性情報の生成方法は任意である。例えば、ノードn0やリーフp0に対応する属性情報が用いられて、ノードn0''に対応する属性情報が生成されるようにしてもよい。その場合、例えば、ノードn0やリーフp0の属性情報が、ノードn0やリーフp0とノードn0''との解像度の違いに応じて変換されることにより、ノードn0''に対応する属性情報が生成されるようにしてもよい。また、例えば、周辺に位置するノードの属性情報が用いられて、ノードn0''に対応する属性情報が生成されるようにしてもよい。
このようにすることにより、符号化装置200は、階層(LoD=m)の解像度のノードn0''に対応する属性情報を符号化することができる。
<復号の場合>
次に、ポイントクラウドデータの符号化データの復号においてLoD=mの階層を処理対象とする場合について説明する。上述のように符号化された属性情報の符号化データには、階層(LoD=m)の解像度のノードn0''に対応する属性情報が含まれている。したがって、属性情報復号部404は、属性情報の符号化データを階層(LoD=m)まで復号することにより、容易に、階層(LoD=m)の解像度のノードn0''に対応する属性情報を復元することができる。
つまり、復号装置400は、DCMが適用される場合であっても、より容易に、属性情報をスケーラブルに復号することができる。
なお、位置情報については、階層(LoD=m)のノードn0''に対応する位置情報が符号化されていない。したがって、位置情報復号部403は、図34に示される例のように、リーフp0に対応する位置情報を復元し、その解像度を最終解像度(最高解像度)から階層(LoD=m)の解像度に変換することにより、階層(LoD=m)の解像度のノードn0''に対応する位置情報を生成してもよい。
<ノードの解像度設定2>
また、DCMにより位置情報の符号化が省略される中間解像度のノードは、例えば、最高解像度(つまり、リーフ(LoD=l)の解像度)で表現されるようにしてもよい。
<符号化の場合>
例えば、ポイントクラウドデータの符号化においてLoD=mの階層を処理対象とする場合について説明する。この場合、属性情報符号化部204は、図35に示される例のように、DCMにより省略された、ノードn0に対応するLoD=mのノードn0''の属性情報を生成する。その際、属性情報符号化部204(階層化処理部211)は、そのノードn0''を、リーフ(LoD=l)の解像度で表現する。つまり、属性情報符号化部204(階層化処理部211)は、リーフ(LoD=l)の解像度のノードn0''に対応する属性情報(つまり、リーフp0に対応する属性情報と同一の属性情報)を生成する。
このようにすることにより、符号化装置200は、リーフ(LoD=l)の解像度のノードn0''に対応する属性情報を符号化することができる。
<復号の場合>
次に、ポイントクラウドデータの符号化データの復号においてLoD=mの階層を処理対象とする場合について説明する。上述のように符号化された属性情報の符号化データには、リーフ(LoD=l)の解像度のノードn0''に対応する属性情報が含まれている。したがって、属性情報復号部404は、属性情報の符号化データを階層(LoD=m)まで復号することにより、容易に、リーフ(LoD=l)の解像度のノードn0''に対応する属性情報を復元することができる。
つまり、復号装置400は、DCMが適用される場合であっても、より容易に、属性情報をスケーラブルに復号することができる。
なお、位置情報については、階層(LoD=m)のノードn0''が符号化されていない。したがって、位置情報復号部403は、図36に示される例のように、リーフp0に対応する位置情報を復元し、それを、リーフ(LoD=l)の解像度のノードn0''に対応する位置情報として利用してもよい。
<5.QuantizationWeight>
<重み値導出関数例その1>
<1.スケーラブル復号>において、図12等を参照して、重み値(Quantization Weight)の例について説明した。例えば、<重み値:方法1-1-1>において、所定の重み値導出関数を用いて重み値を導出する例について説明した。この重み値を導出するための重み値導出関数は、どのような関数であってもよいが、例えば、図37のAに示されるような式(11)および式(12)のような関数であってもよい。以下にその式(11)および式(12)を再掲する。
Figure 0007480775000003
Figure 0007480775000004
式(11)および式(12)において、LoDCountは、属性情報の階層構造の最下位層(最高解像度の階層)を示す。また、QuantizationWeight[i]は、この階層構造の階層i(最上位(最低解像度の階層)から(i-1)番目の階層)における重み値(この重み値は階層毎に設定される値である)を示す。pointCountは、この階層構造の全ノード(Node)数、すなわち、全ポイント数を示す。predictorCount[i]は、階層iの予測ポイントの数、つまり、階層iにおいて予測値が導出されるポイントの数を示す。階層0(最上位層)から階層LoDCount(最下位層)までの各階層の予測ポイントの数の積算値(式(11)の一番右の辺の分子)が、全ポイント数(pointCount)となる。
式(11)に示されるように、この場合の階層iの重み値(QuantizationWeight[i])には、全ポイント数と、その階層iの予測ポイントの数との比がセットされる。ただし、式(12)に示されるように、最下位層(i==LoDCount)の場合、重み値(QuantizationWeight[i])には、「1」がセットされる。
このような重み値導出関数を用いて重み値(QuantizationWeight[i])を導出することにより、符号化装置200および復号装置400は、下位層に依存せずに重み値を導出することができる。したがって、<重み値:方法1>において上述したように、下位層に依存しない量子化・逆量子化が可能になる。つまり、上述のように下位層の情報の参照が不要であるので、符号化装置200および復号装置400は、より容易にスケーラブルな復号を実現することができる。
また、この重み値導出関数(式(11)および式(12))を用いることにより、符号化装置200および復号装置400は、上位の階層程、値が大きくなるように重み値を導出することができる。したがって、符号化・復号の精度の低減を抑制することができる。
なお、<重み値:方法1-1-1>において上述したように、符号化装置200および復号装置400が、この重み値導出関数(式(11)および式(12))を予め共有するようにしてもよい。このようにすることにより、符号化装置200および復号装置400は、互いに同一の重み値を導出することができる。また、この重み値導出関数を共有するための情報の伝送が不要であるので、符号化効率の低減や符号化処理および復号処理の負荷の増大を抑制することができる。
また、<重み値:方法1-1-2>において上述したように、符号化装置200が、符号化の際にこの重み値導出関数(式(11)および式(12))を定義してもよい。その場合、符号化装置200が、その定義した重み値導出関数、または、復号装置400がその重み値導出関数を導出することができるパラメータ(重み値導出関数定義パラメータ)を、復号装置400に伝送してもよい。
例えば、符号化装置200は、このような重み値導出関数または重み値導出関数定義パラメータを、ポイントクラウドの符号化データを含むビットストリームに含めて復号装置400に伝送するようにしてもよい。
例えば、図20のフローチャートを参照して説明した量子化処理において、量子化部212は、重み値導出関数として、上述の式(11)および式(12)を定義する(ステップS271)。そして、量子化部212は、その重み値導出関数を用いて、階層(LoD)毎の重み値を導出する(ステップS272)。そして、量子化部212は、その導出したLoD毎の重み値を用いて、属性情報の差分値を量子化する(ステップS273)。そして、量子化部212は、その重み値導出関数または重み値導出関数定義パラメータを、符号化部213に供給し、符号化させる(ステップS274)。つまり、量子化部212は、重み値導出関数または重み値導出関数定義パラメータを復号側に伝送させる。
なお、符号化装置200が、この重み値導出関数または重み値導出関数定義パラメータを、ポイントクラウドの符号化データを含むビットストリームとは独立したデータまたはファイルとして復号装置400に伝送するようにしてもよい。
このように、このような重み値導出関数またはパラメータを符号化装置200から復号装置400に伝送することにより、符号化装置200および復号装置400は、重み値導出関数(式(11)および式(12))を共有することができる。したがって、符号化装置200および復号装置400は、互いに同一の重み値を導出することができる。
また、<重み値:方法1-2>において上述したように、符号化装置200および復号装置400が、この重み値導出関数(式(11)および式(12))を用いて導出した重み値(QuantizationWeight[i])を共有するようにしてもよい。例えば、<重み値:方法1-2-2>において上述したように、符号化装置200が、符号化の際にこの重み値導出関数を用いて重み値を導出し、その重み値を復号装置400に伝送するようにしてもよい。
例えば、符号化装置200は、このような重み値を、ポイントクラウドの符号化データを含むビットストリームに含めて復号装置400に伝送するようにしてもよい。
例えば、図22のフローチャートを参照して説明した量子化処理において、量子化部212は、上述の重み値導出関数(式(11)および式(12))を用いて、階層(LoD)毎の重み値を導出する(ステップS321)。そして、量子化部212は、その導出したLoD毎の重み値を用いて、属性情報の差分値を量子化する(ステップS322)。そして、量子化部212は、その量子化に用いた重み値を、符号化部213に供給し、符号化させる(ステップS323)。つまり、量子化部212は、この重み値を復号側に伝送させる。
なお、符号化装置200が、この重み値を、ポイントクラウドの符号化データを含むビットストリームとは独立したデータまたはファイルとして復号装置400に伝送するようにしてもよい。
このように重み値を符号化装置200から復号装置400に伝送することにより、符号化装置200および復号装置400は、重み値を共有することができる。したがって、符号化装置200および復号装置400は、下位層に依存せずに、容易に重み値を導出することができる。したがって、符号化装置200および復号装置400は、より容易にスケーラブルな復号を実現することができる。また、復号装置400は、重み値導出関数を用いて重み値を導出する必要がないので、復号処理の負荷の増大を抑制することができる。
<重み値導出関数例その2>
重み値導出関数は、例えば、例えば、図37のBに示されるような式(13)のような関数であってもよい。以下にその式(13)を再掲する。
Figure 0007480775000005
式(11)および式(12)の場合と同様に、式(13)において、LoDCountは、属性情報の階層構造の最下位層を示す。また、QuantizationWeight[i]は、この階層構造の階層iにおける重み値を示す。predictorCount[i]は、階層iの予測ポイントの数、つまり、階層iにおいて予測値が導出されるポイントの数を示す。階層i(処理対象の階層)から階層LoDCount(最下位層)までの各階層の予測ポイントの数の積算値(式(11)の一番右の辺の分子)は、階層i以下のポイント数となる。
式(13)に示されるように、この場合の階層iの重み値(QuantizationWeight[i])には、階層i以下のポイント数と、その階層iの予測ポイントの数との比がセットされる。
この式(13)の重み値導出関数を適用する場合も、式(11)および式(12)の重み値導出関数を適用する場合と同様に、符号化装置200および復号装置400は、下位層に依存せずに重み値を導出することができる。したがって、<重み値:方法1>において上述したように、下位層に依存しない量子化・逆量子化が可能になる。つまり、上述のように下位層の情報の参照が不要であるので、符号化装置200および復号装置400は、より容易にスケーラブルな復号を実現することができる。
また、この式(13)の重み値導出関数を適用する場合も、式(11)および式(12)の重み値導出関数を適用する場合と同様に、符号化装置200および復号装置400は、上位の階層程、値が大きくなるように重み値を導出することができる。したがって、符号化・復号の精度の低減を抑制することができる。
重み値(QuantizationWeight[i])は、図5に示されるように、他のポイントに参照される機会が多いポイント程重要である(主観的な画質への影響が大きい)という価値観に従って値がセットされる。そして、一般的に、より上位の階層の予測ポイント程、他のポイントに参照される機会が多いという傾向がある。そのため、より上位の階層の予測ポイント程、大きな重み値がセットされる。図12を参照して上述したように、階層(LoD)毎に重み値をセットする場合も、この価値観に従ってより上位の階層程大きな重み値がセットされる。
ポイントが十分に密な状態のポイントクラウドの場合、すなわち、基本的に各ポイントの近傍に他のポイントが存在する場合、一般的に、解像度を増大させる程、ポイント数が増大する。典型的には、そのポイント数増大の度合いも十分に大きく、予測ポイントの数(predictorCount[i])は、下位層に向かって単調増加する。したがって、式(11)および式(12)の重み値導出関数を適用しても、式(13)の重み値導出関数を適用しても、階層iの重み値(QuantizationWeight[i])は、上位層になる程大きくなりやすい。
これに対して、ポイントが疎な状態のポイントクラウドの場合、すなわち、各ポイントの近傍に他のポイントが存在する可能性が低い場合、一般的に、解像度を増大させてもポイント数はあまり増大しない。典型的には、多くの割合のポイントが階層構造の上位層において予測ポイントに割り当てられてしまい、予測ポイントの数が下位層に向かって低減する可能性もある。
式(11)および式(12)の重み値導出関数を適用する場合、階層iの重み値(QuantizationWeight[i])は、その階層の予測ポイントの数(predictorCount[i])が少ない程、大きな値になる。したがって、典型的には、多くの割合のポイントが予測ポイントに割り当てられる上位層の方が、下位層よりも重み値が小さくなってしまうことも考えられる。つまり、重み値と予測ポイントが参照される機会の数との対応関係が弱くなり、量子化による主観的な画質の劣化が増大する可能性がある。
これに対して、階層i以下のポイント数は、上位層に向かって単調増加する。そのため、式(13)の重み値導出関数を適用する場合、階層iの重み値(QuantizationWeight[i])は、上位層になる程、増大する可能性が高い。つまり、他のポイントに参照される機会が多い(より上位の階層の)予測ポイントに対して大きな重み値をセットするという傾向を維持しやすい。したがって、式(11)および式(12)の重み導出関数を適用する場合よりも、量子化による主観的な画質の劣化を抑制することができる。
なお、<重み値:方法1-1-1>において上述したように、符号化装置200および復号装置400が、この重み値導出関数(式(13))を予め共有するようにしてもよい。このようにすることにより、符号化装置200および復号装置400は、互いに同一の重み値を導出することができる。また、この重み値導出関数を共有するための情報の伝送が不要であるので、符号化効率の低減や符号化処理および復号処理の負荷の増大を抑制することができる。
また、<重み値:方法1-1-2>において上述したように、符号化装置200が、符号化の際にこの重み値導出関数(式(13))を定義してもよい。その場合、符号化装置200が、その定義した重み値導出関数、または、復号装置400がその重み値導出関数を導出することができるパラメータ(重み値導出関数定義パラメータ)を、復号装置400に伝送してもよい。
例えば、符号化装置200は、このような重み値導出関数または重み値導出関数定義パラメータを、ポイントクラウドの符号化データを含むビットストリームに含めて復号装置400に伝送するようにしてもよい。
例えば、図20のフローチャートを参照して説明した量子化処理において、量子化部212は、重み値導出関数として、上述の式(13)を定義する(ステップS271)。そして、量子化部212は、その重み値導出関数を用いて、階層(LoD)毎の重み値を導出する(ステップS272)。そして、量子化部212は、その導出したLoD毎の重み値を用いて、属性情報の差分値を量子化する(ステップS273)。そして、量子化部212は、その重み値導出関数または重み値導出関数定義パラメータを、符号化部213に供給し、符号化させる(ステップS274)。つまり、量子化部212は、重み値導出関数または重み値導出関数定義パラメータを復号側に伝送させる。
なお、符号化装置200が、この重み値導出関数または重み値導出関数定義パラメータを、ポイントクラウドの符号化データを含むビットストリームとは独立したデータまたはファイルとして復号装置400に伝送するようにしてもよい。
このように、このような重み値導出関数またはパラメータを符号化装置200から復号装置400に伝送することにより、符号化装置200および復号装置400は、重み値導出関数(式(13))を共有することができる。したがって、符号化装置200および復号装置400は、互いに同一の重み値を導出することができる。
また、<重み値:方法1-2>において上述したように、符号化装置200および復号装置400が、この重み値導出関数(式(13))を用いて導出した重み値(QuantizationWeight[i])を共有するようにしてもよい。例えば、<重み値:方法1-2-2>において上述したように、符号化装置200が、符号化の際にこの重み値導出関数を用いて重み値を導出し、その重み値を復号装置400に伝送するようにしてもよい。
例えば、符号化装置200は、このような重み値を、ポイントクラウドの符号化データを含むビットストリームに含めて復号装置400に伝送するようにしてもよい。
例えば、図22のフローチャートを参照して説明した量子化処理において、量子化部212は、上述の重み値導出関数(式(13))を用いて、階層(LoD)毎の重み値を導出する(ステップS321)。そして、量子化部212は、その導出したLoD毎の重み値を用いて、属性情報の差分値を量子化する(ステップS322)。そして、量子化部212は、その量子化に用いた重み値を、符号化部213に供給し、符号化させる(ステップS323)。つまり、量子化部212は、この重み値を復号側に伝送させる。
なお、符号化装置200が、この重み値を、ポイントクラウドの符号化データを含むビットストリームとは独立したデータまたはファイルとして復号装置400に伝送するようにしてもよい。
このように、このような重み値を符号化装置200から復号装置400に伝送することにより、符号化装置200および復号装置400は、重み値を共有することができる。したがって、符号化装置200および復号装置400は、下位層に依存せずに、容易に重み値を導出することができる。したがって、符号化装置200および復号装置400は、より容易にスケーラブルな復号を実現することができる。また、復号装置400は、重み値導出関数を用いて重み値を導出する必要がないので、復号処理の負荷の増大を抑制することができる。
<6.LoDGeneration>
<位置情報復号時のLoDGeneration>
<1.スケーラブル復号>において図6等を参照して上述したように、位置情報の階層構造と同様の構造となるように属性情報を階層化することにより、属性情報のスケーラブルな復号が可能になる。そして、属性情報は、各階層の予測ポイント(換言するに参照ポイント)を選択することにより、その階層構造が設定される。このような階層構造を設定する処理をLoDジェネレーション(LoDGeneration)処理、またはサブサンプリング(SubSampling)処理と称する。
<2.第1の実施の形態>や<3.第2の実施の形態>において上述したように、このLoDジェネレーション処理は、属性情報の符号化・復号の際に行われる。例えば、符号化装置200の場合、属性情報符号化部204のポイント分類部231がこのLoDジェネレーション処理を行う(ステップS242)。また、復号装置400の場合、属性情報復号部404の逆階層化処理部423がこのLoDジェネレーション処理を行う(ステップS461)。
このLoDジェネレーション処理は、この例以外にも、例えば、位置情報の符号化データの復号の際に行われるようにしてもよい。位置情報の符号化データを復号することにより、位置情報の階層構造(各ポイントがどの階層に属するか)が明らかになる。そこでLoDジェネレーション処理として、この位置情報の階層構造を示す情報を生成する。そして、その情報に基づいて、位置情報の階層構造に対応するように、属性情報の階層化・逆階層化が行われるようにする。このようにすることにより、位置情報の階層構造を属性情報に適用することができる。
そして、このような階層化・逆階層化を適用して属性情報の符号化・復号が行われるようにする。つまり、位置情報と属性情報の階層構造が対応した状態で符号化・復号が行われるようにする。このようにすることにより、属性情報のスケーラブルな復号が可能になる。また、冗長な処理を低減させ、属性情報の符号化処理・復号処理の負荷の増大を抑制することができる。
なお、符号化装置200の場合、このLoDジェネレーション処理は、位置情報の符号化の際に行われるようにしてもよい。
<LoDGeneration処理の例>
このようなLoDジェネレーション処理について説明する。位置情報の符号化データを復号すると、例えばOctree等の階層構造が復元される。図38は、復元された位置情報の階層構造の例を示す。この階層構造の丸で示されるノード611は、階層化されたポイントを示す。なお、図38においては、階層構造の一部(ノード611の一部)のみを示している。図38においては、ノード611-1乃至ノード611-12が示されているが、各ノードを互いに区別して説明する必要がない場合、ノード611と称する。
位置情報は、最上位の階層(LoDIdx = 0)から最下位の階層に向かって階層毎に復号される。図38に示される例の場合、最上位の階層(LoDIdx = 0)においてノード611-1が出現している。その1つ下位の階層(LoDIdx = 1)において、解像度が上がることによりノード611-1に対応するポイントが分割され、新たなノード611-2が出現している。その1つ下位の階層(LoDIdx = 2)においては、ノード611-1に対応するポイントが分割され、新たなノード611-3およびノード611-4が出現し、ノード611-2に対応するポイントが分割され、新たなノード611-5乃至ノード611-7が出現している。
その1つ下位の階層(LoDIdx = 3)においては、ノード611-1に対応するポイントが分割され、新たなノード611-7が出現している。その1つ下位の階層(LoDIdx = 4)においては、ノード611-1に対応するポイントが分割され、新たなノード611-8乃至ノード611-10が出現し、ノード611-7に対応するポイントが分割され、新たなノード611-11およびノード611-12が出現している。
このように順次出現する各ノード611に対して、例えばデータ構造のリスト(List)のようなものを用いて、階層(LodIdx)を示すラベル付けが行われる。図38の例に対するラベル付けの例を図39に示す。このラベル付けは、位置情報の階層構造の最上位層から最下位層に向かう順に階層毎に行われ、新たに出現する各ノードに対して、その階層を示す値のラベルが付けられる。
例えば、最上位の階層(LoDIdx = 0)が処理され、ノード611-1が出現すると、図39の上から1段目(「1」の段)に示されるように、リストにおいて、そのノード611-1に対して「0」のラベルが付けられる。
1つ下位の階層(LoDIdx = 1)が処理され、ノード611-2が新たに出現すると、図39の上から2段目(「2」の段)に示されるように、リストにおいて、そのノード611-2に対して「1」のラベルが付けられる。ノード611-1は既にラベル付けされているので、ここではラベルはつけられない。
さらに、1つ下位の階層(LoDIdx = 2)が処理され、ノード611-3乃至ノード611-6が新たに出現すると、図39の上から3段目(「3」の段)に示されるように、リストにおいて、そのノード611-3乃至ノード611-6のそれぞれに対して「2」のラベルが付けられる。ノード611-1およびノード611-2は既にラベル付けされているので、ここではラベルはつけられない。また、階層構造(Octree)においては各ノード(各ポイント)がモートンオーダー順に並ぶ。リストにおいても、同様に、各ノード611のラベルがモートンオーダー順に整列される。したがって、図39の例の場合、ラベルの並びは「0、2、2、1、2、2、・・・」のようになる。
さらに、1つ下位の階層(LoDIdx = 3)が処理され、ノード611-7が新たに出現すると、図39の上から4段目(「4」の段)に示されるように、リストにおいて、そのノード611-7に対して「3」のラベルが付けられる。ノード611-1は既にラベル付けされているので、ここではラベルはつけられない。モートンオーダー順においてノード611-7は、ノード611-1の次に出現するので、図39の例の場合、ラベルの並びは「0、3、・・・」のようになる。
さらに、1つ下位の階層(LoDIdx = 4)が処理され、ノード611-8乃至ノード611-12が新たに出現すると、図39の上から5段目(「5」の段)に示されるように、リストにおいて、これらのノード611-8乃至ノード611-12に対して「4」のラベルが付けられる。ノード611-1やノード611-7は既にラベル付けされているので、ここではラベルはつけられない。モートンオーダー順において、ノード611-8乃至ノード611-10は、ノード611-1の次に出現し、ノード611-11およびノード611-12は、ノード611-7の次に出現する。したがって、図39の例の場合、ラベルの並びは「0、4、4、4、3、4、4、・・・」のようになる。
以上のように生成したリストを参照して属性情報を階層化し、属性情報の符号化・復号を行うことにより、位置情報と同様の階層構造で属性情報を符号化・復号することができる。したがって、属性情報のスケーラブルな復号を実現することができる。また、冗長な処理を低減させ、属性情報の符号化処理・復号処理の負荷の増大を抑制することができる。
<DCMを含む場合その1>
位置情報の階層構造においてDCMが含まれる場合について説明する。その場合の位置情報の階層構造の例を図40に示す。図40に示される階層構造において、LoDIdx = 1の階層で出現するノード611-21のポイントはLoDIdx = 3の階層で分割される。つまり、LoDIdx = 3の階層において新たなノード611-22が出現している。また、このノード611-21には、DCMが適用されている。ノード611-22にもDCMが適用される。
このようなDCMが適用されるノードについては、DCMが適用されないノードとは異なるリストを用いてラベル付けを行うようにしてもよい。このような手法による図40の例に対するラベル付けの例を図41に示す。図41に示されるように、DCMが適用されないノードについては、リストA(ListA)を用いて図39の例の場合と同様にラベル付けが行われる。これに対して、DCMが適用されるノード611-21およびノード611-22については、リストAと異なるリストB(ListB)を用いてラベル付けが行われる。なお、リストAおよびリストBは、説明の便宜上、各リストに付した名称であり、実際の名称は任意である。
最上位の階層(LoDIdx = 0)が処理された後、その1つ下位の階層(LoDIdx = 1)が処理され、DCMが適用されたノード611-21が新たに出現すると、図41の点線より図中右側に示されるリストBにおいて、そのノード611-21に対して「1」のラベルが付けられる。ノード611-22もDCMが適用され、このLoDIdx = 1のノード611-21からの相対距離として符号化されるため、この階層においてノード611-22に対してラベルが付けられる。ただし、ノード611-22はLoDIdx = 3においてノード611-21と分かれるので、このノード611-22に対しては「3」のラベルが付けられる。
なお、ノード611-21に対するラベルとノード611-22に対するラベルは、最下位層(最高解像度)のモートンオーダー順における両ノードの位置に応じて並べられる。図40の例の場合、ノード611-21、ノード611-22の順に並ぶので、ラベルは「1、3」の順に並べられる。
他のDCMが適用されるノード611についても同様にリストBにラベルがセットされる。そして、属性情報の符号化・復号において、リストAおよびリストBのラベル列が利用される。その際、リストAのラベル列とリストBのラベル列がマージされ、モートンオーダー順に整列される。つまり、最下位層(最高解像度)においてモートンオーダー順に並ぶノードに対応するようにラベルが整列される。
さらに、リストBのラベル(DCMが適用されたノードのラベル)に対しては、重複点を除去する処理が行われる。DCMが適用されたノード611には、最初に出現した時点で、分離するノード611に対してもラベル付けが行われる。例えば、図41の場合、LoDIdx = 1の階層において、ノード611-21とノード611-22の両方に対するラベル付けが行われている。
しかしながら、復号対象の階層によっては、ノードが分離していない場合もあり得る。例えば、図40の例のLoDIdx = 2の階層(解像度)で復号する場合、ノード611-21とノード611-22は分離していない。つまり、LoDIdx = 2の階層においては、「1」のラベルに対応するポイント(ノード611-21)と「3」のラベルに対応するポイント(ノード611-22)とが重複している。したがって、ノード611-22に対するラベルは不要である。そこで、上述のように、対応する点が重複するラベルの除去が行われる。
つまりこの重複点を除去する処理は、リストBのラベル(DCMが適用されたノードのラベル)のみを対象として行われる(リストAのラベルは対象外となる)。
以上のように、DCMが適用されていないノードに対応するラベル列と、DCMが適用されたノードに対応するラベル列とがマージされ、各ラベルがモートンオーダー順に整列され、さらに、重複点が適宜除去された1つのラベル列が、LoDジェネレーション処理結果として、属性情報の符号化・復号に適用される。
以上のように生成したリストを参照して属性情報を階層化し、属性情報の符号化・復号を行うことにより、位置情報と同様の階層構造で属性情報を符号化・復号することができる。したがって、位置情報の階層構造においてDCMが含まれる場合も、属性情報のスケーラブルな復号を実現することができる。また、冗長な処理を低減させ、属性情報の符号化処理・復号処理の負荷の増大を抑制することができる。
<DCMを含む場合その2>
また、位置情報の階層構造においてDCMが含まれる場合も、DCMが適用されるノードとDCMが適用されないノードとを分けずに、すなわち、同一のリストを用いてラベル付けが行われるようにしてもよい。図42は、図41と同様に、図40に示される階層構造に対するラベル付けの例を示す。図42の例では、図39の例の場合と同様に、単一のリストを用いてラベル付けが行われている。
まず、最上位の階層(LoDIdx = 0)が処理され、ノード611-1が出現すると、図39の例の場合と同様に、リストにおいて、そのノード611-1に対して「0」のラベルが付けられる(図42の上から1段目(「1」の段))。
その1つ下位の階層(LoDIdx = 1)が処理され、DCMが適用されたノード611-21が新たに出現すると、リストにおいて、そのノード611-21に対して「1」のラベルが付けられる。ノード611-22もDCMが適用され、このLoDIdx = 1のノード611-21からの相対距離として符号化されるため、この階層においてノード611-22に対してラベルが付けられる。ただし、ノード611-22はLoDIdx = 3においてノード611-21と分かれるので、このノード611-22に対しては「3」のラベルが付けられる(図42の上から2段目(「2」の段))。
なお、図41の場合と同様に、ノード611-21に対するラベルとノード611-22に対するラベルは、最下位層(最高解像度)のモートンオーダー順における両ノードの位置に応じて並べられる。図40の例の場合、ノード611-21、ノード611-22の順に並ぶので、ラベルは「1、3」の順に並べられる。
ただし、この図42の例の場合、重複点の除去は、DCMが適用されたノードに対してラベル付けを行う都度、行われる。例えば、図40の例のLoDIdx = 2の階層(解像度)で復号する場合は、「1」のラベルに対応するポイント(ノード611-21)と「3」のラベルに対応するポイント(ノード611-22)とが重複するので、「3」のラベルが除去される。換言するに、図42の上から2段目(「2」の段)において、「1」のラベル付けのみが行われる。
これに対して、図40の例のLoDIdx = 4の階層(解像度)で復号する場合は、「1」のラベルに対応するポイント(ノード611-21)と「3」のラベルに対応するポイント(ノード611-22)とが重複しないので、ラベルの除去は行われない。換言するに、図42の上から2段目(「2」の段)において、「1」のラベル付けと「3」のラベル付けが行われる。
さらに、1つ下位の階層(LoDIdx = 2)が処理され、新たなノード611が出現すると、リストにおいて、それらのノードに対して「2」のラベルが付けられる(42の上から3段目(「3」の段))。同様に、さらに1つ下位の階層(LoDIdx = 3)が処理され、新たなノード611が出現すると、リストにおいて、それらのノードに対して「3」のラベルが付けられる(42の上から3段目(「4」の段))。同様に、さらに1つ下位の階層(LoDIdx = 4)が処理され、新たなノード611が出現すると、リストにおいて、それらのノードに対して「4」のラベルが付けられる(42の上から3段目(「5」の段))。これらのラベルは、ノード611と同様、モートンオーダー順に整列される。
以上のように生成された、DCMが適用されていないノードに対応するラベルと、DCMが適用されたノードに対応するラベルとを含む1つのラベル列が、LoDジェネレーション処理結果として、属性情報の符号化・復号に適用される。この方法の場合、生成されたラベル列は、各ラベルがモートンオーダー順に整列されている。したがって、このラベル列は、図41の例の場合のように、各ラベルをモートンオーダー順に整列してマージする必要なく、属性情報の符号化・復号に適用することができる。
以上のように生成したリストを参照して属性情報を階層化し、属性情報の符号化・復号を行うことにより、位置情報と同様の階層構造で属性情報を符号化・復号することができる。したがって、この方法の場合も、属性情報のスケーラブルな復号を実現することができる。また、冗長な処理を低減させ、属性情報の符号化処理・復号処理の負荷の増大を抑制することができる。
<符号化装置>
図43は、この場合の符号化装置200の構成の一例を示すブロック図である。つまり、図43に示される符号化装置200は、<6.LoDGeneration>において上述した本技術を適用してポイントクラウドを符号化する。
なお、図43においては、処理部やデータの流れ等の主なものを示しており、図43に示されるものが全てとは限らない。つまり、符号化装置200において、図43においてブロックとして示されていない処理部が存在したり、図43において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
図43に示される符号化装置200は、図14の場合と同様に、位置情報符号化部201乃至ビットストリーム生成部205を有する。ただし、位置情報復号部202は、位置情報の符号化データを復号する際に、図38乃至図42を参照して上述したようにリストを用いてLoDジェネレーション処理(サブサンプリング処理)を行う。
例えば、位置情報の階層構造にDCMが適用されたノードが含まれない場合、位置情報復号部202は、図39を参照して説明したような方法によりLoDジェネレーション処理を行う。また、例えば、位置情報の階層構造にDCMが適用されたノードが含まれる場合、位置情報復号部202は、図41または図42を参照して説明したような方法によりLoDジェネレーション処理を行う。
そして、位置情報復号部202は、生成したリスト(ラベル列)を属性情報符号化部204に供給する。属性情報符号化部204は、そのLoDジェネレーション処理結果(ラベル列)を用いて属性情報を符号化する。つまり、属性情報符号化部204は、そのラベル列(位置情報の階層構造)を属性情報の階層構造として適用し、符号化を行う。このようにすることにより、属性情報符号化部204は、LoDジェネレーション処理(サブサンプリング処理)を行わずに、各属性情報を位置情報と同様の階層構造に階層化することができる。
したがって、符号化装置200は、属性情報のスケーラブルな復号を実現することができる。また、符号化装置200は、冗長な処理を低減させ、属性情報の符号化処理の負荷の増大を抑制することができる。
<符号化処理の流れ>
この場合の符号化処理の流れの例を、図44のフローチャートを参照して説明する。符号化処理が開始されると、符号化装置200の位置情報符号化部201は、ステップS601において、入力されたポイントクラウドの位置情報を符号化し、位置情報の符号化データを生成する。
ステップS602において、位置情報復号部202は、ステップS601において生成された位置情報の符号化データを復号し、位置情報を生成する。その際、位置情報復号部202は、図38乃至図42を参照して上述したように、リストを用いてLoDジェネレーション処理を行い、各ノードのラベル付けを行う。
ステップS603において、ポイントクラウド生成部203は、入力されたポイントクラウドの属性情報と、ステップS202において生成された位置情報(復号結果)とを用いて、リカラー処理を行い、属性情報を位置情報に対応させる。
ステップS604において、属性情報符号化部204は、属性情報符号化処理を実行することにより、ステップS603においてリカラー処理された属性情報を符号化し、属性情報の符号化データを生成する。その際、属性情報符号化部604は、ステップS602において行われたLoDジェネレーション処理の結果(ラベル列)を用いて属性情報を符号化する。この場合も属性情報符号化処理は、図18のフローチャートと同様の流れで行われる。ただし、ステップS221において実行される階層化処理の詳細については後述する。
ステップS605において、ビットストリーム生成部205は、ステップS601において生成された位置情報の符号化データと、ステップS604において生成された属性情報の符号化データとを含むビットストリームを生成し、出力する。
ステップS605の処理が終了すると符号化処理が終了する。
このように各ステップの処理を行うことにより、符号化装置200は、属性情報の階層構造を位置情報の階層構造に対応付けることができる。つまり、符号化装置200は、属性情報のスケーラブルな復号をより容易化することができる。また、符号化装置200は、冗長な処理を低減させ、符号化処理の負荷の増大を抑制することができる。
<階層化処理の流れ>
この場合も、図44のステップS604において実行される属性情報符号化処理は、図18のフローチャートと同様の流れで実行される。ただし、その属性情報符号化処理のステップS221においては、階層化処理は、以下のような流れで実行される。この場合の階層化処理の流れの例を図45のフローチャートを参照して説明する。
階層化処理が開始されると、階層化処理部211の階層別処理部221は、ステップS621において、処理対象であるカレント階層(現在LoD)を最下位の階層(LoD)とする。つまり、最下位の階層(LoD)を処理対象とする。
ステップS622において、ポイント分類部231は、図44のステップS602のLoDジェネレーション処理でラベル付けが行われたリストに基づいて予測ポイントを選択する。つまり、ポイント分類部231は、位置情報と同様の階層構造を構築する。
ステップS623乃至ステップS630の各処理は、ステップS243乃至ステップS250(図19)の各処理と同様に実行される。
このように各ステップの処理を行うことにより、階層化処理部211は、属性情報の階層構造を位置情報の階層構造に対応付けることができる。つまり、階層化処理部211は、属性情報のスケーラブルな復号をより容易化することができる。また、階層化処理部211は、冗長な処理を低減させ、階層化処理の負荷の増大を抑制することができる。
<復号装置>
復号装置400の構成は、この場合も図23の例と同様である。つまり、図23の復号装置400は、<6.LoDGeneration>において上述した本技術を適用してポイントクラウドを符号化して生成されたビットストリームを復号することができる。ただし、この場合、位置情報復号部403は、位置情報の符号化データを復号する際に、図38乃至図42を参照して上述したように、リストを用いてLoDジェネレーション処理(サブサンプリング処理)を行う。つまり、位置情報復号部403は、位置情報復号部202と同様の方法により、LoDジェネレーション処理を行う。
そして、位置情報復号部403は、生成したリスト(ラベル列)を属性情報復号部404に供給する。属性情報復号部404は、そのLoDジェネレーション処理結果(ラベル列)を用いて属性情報の符号化データを復号する。つまり、属性情報復号部404は、そのラベル列(位置情報の階層構造)を属性情報の階層構造として適用し、復号を行う。このようにすることにより、属性情報復号部404は、LoDジェネレーション処理(サブサンプリング処理)を行わずに、各属性情報が位置情報と同様の階層構造であるものとして逆階層化処理を行うことができる。
したがって、復号装置400は、属性情報のスケーラブルな復号を実現することができる。また、復号装置400は、冗長な処理を低減させ、属性情報の符号化データの復号処理の負荷の増大を抑制することができる。
なお、この場合も、属性情報復号部404は、図24の例の場合と同様の構成を有する。また、逆階層化処理部423は、図25の例の場合と同様の構成を有する。
<復号処理の流れ>
この場合の復号処理の流れの例を、図46のフローチャートを参照して説明する。復号処理が開始されると、復号装置400の復号対象LoD深度設定部401は、ステップS651において、復号するLoD深度を設定する。
ステップS652において、符号化データ抽出部402は、ビットストリームを取得して保持し、最上位のLoDからステップS651において設定されたLoD深度までの位置情報および属性情報の符号化データを抽出する。
ステップS653において、位置情報復号部403は、ステップS652において抽出された位置情報の符号化データを復号し、位置情報(復号結果)を生成する。その際、位置情報復号部403は、図38乃至図42を参照して上述したように、リストを用いてLoDジェネレーション処理を行い、各ノードのラベル付けを行う。
ステップS654において、属性情報復号部404は、ステップS652において抽出された属性情報の符号化データを復号し、属性情報(復号結果)を生成する。その際、属性情報復号部404は、ステップS653において行われたLoDジェネレーション処理の結果(ラベル列)を用いて属性情報の符号化データを復号する。この場合も属性情報復号処理は、図27のフローチャートと同様の流れで行われる。ただし、ステップS423において実行される逆階層化処理の詳細については後述する。
ステップS655において、ポイントクラウド生成部405は、ステップS653において生成された位置情報(復号結果)と、ステップS654において生成された属性情報(復号結果)とを用いてポイントクラウド(復号結果)を生成し、出力する。
ステップS655の処理が終了すると、復号処理が終了する。
このように各ステップの処理を行うことにより、復号装置400は、属性情報の階層構造を位置情報の階層構造に対応付けることができる。つまり、復号装置400は、属性情報のスケーラブルな復号をより容易に行うことができる。また、復号装置400は、冗長な処理を低減させ、復号処理の負荷の増大を抑制することができる。
<逆階層化処理の流れ>
この場合も、図46のステップS654において実行される属性情報復号処理は、図27のフローチャートと同様の流れで実行される。ただし、その属性情報復号処理のステップS423において、逆階層化処理は、以下のような流れで実行される。この場合の逆階層化処理の流れの例を図47のフローチャートを参照して説明する。
逆階層化処理が開始されると、逆階層化処理部423の階層別処理部441は、ステップS661において、処理対象であるカレント階層(現在LoD)を最上位の階層(LoD)とする。つまり、最下位の階層(LoD)を処理対象とする。
ステップS662において、予測部451は、図46のステップS653のLoDジェネレーション処理でラベル付けが行われたリストと、現在LoDの解像度の位置情報とに基づいて、参照ポイントから予測ポイントの予測値を導出する。
例えば、予測部451は、リストに基づいて、すなわち、属性情報の階層構造を位置情報の階層構造と同様のものとみなして、現在LoDの参照ポイントを特定し、その参照ポイントと現在LoDの解像度の位置情報とに基づいて、現在LoDの予測ポイントの予測値を導出する。この予測値の導出方法は任意である。例えば、予測部451が、ステップS463の処理の場合と同様の方法により予測値を導出するようにしてもよい。
ステップS663乃至ステップS666の各処理は、ステップS464乃至ステップS467の各処理(図29)と同様に実行される。
このように各ステップの処理を行うことにより、逆階層化処理部423は、属性情報の階層構造を位置情報の階層構造に対応付けることができる。つまり、復号装置400は、属性情報のスケーラブルな復号をより容易に行うことができる。また、逆階層化処理部423は、冗長な処理を低減させ、逆階層化処理の負荷の増大を抑制することができる。
<7.付記>
<階層化・逆階層化方法>
以上においては、属性情報の階層化・逆階層化方法としてLiftingを例に説明したが、本技術は、属性情報を階層化する任意の技術に適用することができる。つまり、属性情報の階層化・逆階層化の方法は、Lifting以外であってもよい。
<制御情報>
以上の各実施の形態において説明した本技術に関する制御情報を符号化側から復号側に伝送するようにしてもよい。例えば、上述した本技術を適用することを許可(または禁止)するか否かを制御する制御情報(例えばenabled_flag)を伝送するようにしてもよい。また、例えば、上述した本技術を適用することを許可(または禁止)する範囲(例えばブロックサイズの上限若しくは下限、またはその両方、スライス、ピクチャ、シーケンス、コンポーネント、ビュー、レイヤ等)を指定する制御情報を伝送するようにしてもよい。
<周辺・近傍>
なお、本明細書において、「近傍」や「周辺」等の位置関係は、空間的な位置関係だけでなく、時間的な位置関係も含みうる。
<コンピュータ>
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここでコンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータ等が含まれる。
図48は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
図48に示されるコンピュータ900において、CPU(Central Processing Unit)901、ROM(Read Only Memory)902、RAM(Random Access Memory)903は、バス904を介して相互に接続されている。
バス904にはまた、入出力インタフェース910も接続されている。入出力インタフェース910には、入力部911、出力部912、記憶部913、通信部914、およびドライブ915が接続されている。
入力部911は、例えば、キーボード、マウス、マイクロホン、タッチパネル、入力端子などよりなる。出力部912は、例えば、ディスプレイ、スピーカ、出力端子などよりなる。記憶部913は、例えば、ハードディスク、RAMディスク、不揮発性のメモリなどよりなる。通信部914は、例えば、ネットワークインタフェースよりなる。ドライブ915は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブルメディア921を駆動する。
以上のように構成されるコンピュータでは、CPU901が、例えば、記憶部913に記憶されているプログラムを、入出力インタフェース910およびバス904を介して、RAM903にロードして実行することにより、上述した一連の処理が行われる。RAM903にはまた、CPU901が各種の処理を実行する上において必要なデータなども適宜記憶される。
コンピュータが実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア921に記録して適用することができる。その場合、プログラムは、リムーバブルメディア921をドライブ915に装着することにより、入出力インタフェース910を介して、記憶部913にインストールすることができる。
また、このプログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することもできる。その場合、プログラムは、通信部914で受信し、記憶部913にインストールすることができる。
その他、このプログラムは、ROM902や記憶部913に、あらかじめインストールしておくこともできる。
<本技術の適用対象>
以上においては、ポイントクラウドデータの符号化・復号に本技術を適用する場合について説明したが、本技術は、これらの例に限らず、任意の規格の3Dデータの符号化・復号に対して適用することができる。つまり、上述した本技術と矛盾しない限り、符号化・復号方式等の各種処理、並びに、3Dデータやメタデータ等の各種データの仕様は任意である。また、本技術と矛盾しない限り、上述した一部の処理や仕様を省略してもよい。
また、以上においては、本技術の適用例として符号化装置200および復号装置400について説明したが、本技術は、任意の構成に適用することができる。
例えば、本技術は、衛星放送、ケーブルTVなどの有線放送、インターネット上での配信、およびセルラー通信による端末への配信などにおける送信機や受信機(例えばテレビジョン受像機や携帯電話機)、または、光ディスク、磁気ディスクおよびフラッシュメモリなどの媒体に画像を記録したり、これら記憶媒体から画像を再生したりする装置(例えばハードディスクレコーダやカメラ)などの、様々な電子機器に適用され得る。
また、例えば、本技術は、システムLSI(Large Scale Integration)等としてのプロセッサ(例えばビデオプロセッサ)、複数のプロセッサ等を用いるモジュール(例えばビデオモジュール)、複数のモジュール等を用いるユニット(例えばビデオユニット)、または、ユニットにさらにその他の機能を付加したセット(例えばビデオセット)等、装置の一部の構成として実施することもできる。
また、例えば、本技術は、複数の装置により構成されるネットワークシステムにも適用することもできる。例えば、本技術を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングとして実施するようにしてもよい。例えば、コンピュータ、AV(Audio Visual)機器、携帯型情報処理端末、IoT(Internet of Things)デバイス等の任意の端末に対して、画像(動画像)に関するサービスを提供するクラウドサービスにおいて本技術を実施するようにしてもよい。
なお、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、全ての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、および、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
<本技術を適用可能な分野・用途>
本技術を適用したシステム、装置、処理部等は、例えば、交通、医療、防犯、農業、畜産業、鉱業、美容、工場、家電、気象、自然監視等、任意の分野に利用することができる。また、その用途も任意である。
<その他>
なお、本明細書において「フラグ」とは、複数の状態を識別するための情報であり、真(1)または偽(0)の2状態を識別する際に用いる情報だけでなく、3以上の状態を識別することが可能な情報も含まれる。したがって、この「フラグ」が取り得る値は、例えば1/0の2値であってもよいし、3値以上であってもよい。すなわち、この「フラグ」を構成するbit数は任意であり、1bitでも複数bitでもよい。また、識別情報(フラグも含む)は、その識別情報をビットストリームに含める形だけでなく、ある基準となる情報に対する識別情報の差分情報をビットストリームに含める形も想定されるため、本明細書においては、「フラグ」や「識別情報」は、その情報だけではなく、基準となる情報に対する差分情報も包含する。
また、符号化データ(ビットストリーム)に関する各種情報(メタデータ等)は、符号化データに関連づけられていれば、どのような形態で伝送または記録されるようにしてもよい。ここで、「関連付ける」という用語は、例えば、一方のデータを処理する際に他方のデータを利用し得る(リンクさせ得る)ようにすることを意味する。つまり、互いに関連付けられたデータは、1つのデータとしてまとめられてもよいし、それぞれ個別のデータとしてもよい。例えば、符号化データ(画像)に関連付けられた情報は、その符号化データ(画像)とは別の伝送路上で伝送されるようにしてもよい。また、例えば、符号化データ(画像)に関連付けられた情報は、その符号化データ(画像)とは別の記録媒体(または同一の記録媒体の別の記録エリア)に記録されるようにしてもよい。なお、この「関連付け」は、データ全体でなく、データの一部であってもよい。例えば、画像とその画像に対応する情報とが、複数フレーム、1フレーム、またはフレーム内の一部分などの任意の単位で互いに関連付けられるようにしてもよい。
なお、本明細書において、「合成する」、「多重化する」、「付加する」、「一体化する」、「含める」、「格納する」、「入れ込む」、「差し込む」、「挿入する」等の用語は、例えば符号化データとメタデータとを1つのデータにまとめるといった、複数の物を1つにまとめることを意味し、上述の「関連付ける」の1つの方法を意味する。
また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。
また、例えば、上述したプログラムは、任意の装置において実行されるようにしてもよい。その場合、その装置が、必要な機能(機能ブロック等)を有し、必要な情報を得ることができるようにすればよい。
また、例えば、1つのフローチャートの各ステップを、1つの装置が実行するようにしてもよいし、複数の装置が分担して実行するようにしてもよい。さらに、1つのステップに複数の処理が含まれる場合、その複数の処理を、1つの装置が実行するようにしてもよいし、複数の装置が分担して実行するようにしてもよい。換言するに、1つのステップに含まれる複数の処理を、複数のステップの処理として実行することもできる。逆に、複数のステップとして説明した処理を1つのステップとしてまとめて実行することもできる。
また、例えば、コンピュータが実行するプログラムは、プログラムを記述するステップの処理が、本明細書で説明する順序に沿って時系列に実行されるようにしても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで個別に実行されるようにしても良い。つまり、矛盾が生じない限り、各ステップの処理が上述した順序と異なる順序で実行されるようにしてもよい。さらに、このプログラムを記述するステップの処理が、他のプログラムの処理と並列に実行されるようにしても良いし、他のプログラムの処理と組み合わせて実行されるようにしても良い。
また、例えば、本技術に関する複数の技術は、矛盾が生じない限り、それぞれ独立に単体で実施することができる。もちろん、任意の複数の本技術を併用して実施することもできる。例えば、いずれかの実施の形態において説明した本技術の一部または全部を、他の実施の形態において説明した本技術の一部または全部と組み合わせて実施することもできる。また、上述した任意の本技術の一部または全部を、上述していない他の技術と併用して実施することもできる。
なお、本技術は以下のような構成も取ることができる。
(1) 3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、前記ポイントクラウドの各ポイントを前記属性情報と予測値との差分値を残すポイントである予測ポイントと前記予測値の導出の際に前記属性情報を参照されるポイントである参照ポイントとに分類する処理を前記参照ポイントに対して再帰的に繰り返すことにより前記属性情報の階層化を行う階層化部を備え、
前記階層化部は、前記階層化の際に、カレント階層のポイントが存在するボクセルが属する1つ上位階層のボクセルにもポイントが存在するように前記予測ポイントを選択する
情報処理装置。
(2) 前記階層化部は、
前記予測ポイントと前記参照ポイントとの距離に応じて重み付けした前記参照ポイントの前記属性情報を用いて前記予測ポイントの前記予測値を導出し、
導出した前記予測値を用いて前記差分値を導出する
(1)に記載の情報処理装置。
(3) 前記階層化部は、前記ポイントクラウドの最下層の解像度の位置情報に基づく前記距離に応じて重み付けした前記参照ポイントの前記属性情報を用いて前記予測ポイントの前記予測値を導出する
(2)に記載の情報処理装置。
(4) 前記階層化部は、前記ポイントクラウドのカレント階層の解像度の位置情報に基づく前記距離に応じて重み付けした前記参照ポイントの前記属性情報を用いて前記予測ポイントの前記予測値を導出する
(2)に記載の情報処理装置。
(5) 前記階層化部は、カレント階層のポイントを全て前記予測ポイントに分類し、前記1つ上位階層のボクセル内に参照ポイントを設定し、前記参照ポイントの前記属性情報を用いて前記予測ポイントの前記予測値を導出する
(2)に記載の情報処理装置。
(6) 前記階層化部により生成された各階層の各ポイントの前記差分値を、階層毎の重み値を用いて量子化する量子化部をさらに備える
(1)乃至(5)のいずれかに記載の情報処理装置。
(7) 前記量子化部は、上位階層程値が大きい前記階層毎の重み値を用いて前記差分値を量子化する
(6)に記載の情報処理装置。
(8) 前記量子化部により量子化された前記差分値と、前記階層毎の重み値を導出する際に用いられる関数を定義するパラメータとを符号化し、符号化データを生成する符号化部をさらに備える
(6)に記載の情報処理装置。
(9) 前記量子化部により量子化された前記差分値と、前記階層毎の重み値とを符号化し、符号化データを生成する符号化部をさらに備える
(6)に記載の情報処理装置。
(10) 3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、前記ポイントクラウドの各ポイントを前記属性情報と予測値との差分値を残すポイントである予測ポイントと前記予測値の導出の際に前記属性情報を参照されるポイントである参照ポイントとに分類する処理を前記参照ポイントに対して再帰的に繰り返すことにより前記属性情報の階層化を行い、
前記階層化の際に、カレント階層のポイントが存在するボクセルが属する1つ上位階層のボクセルにもポイントが存在するように前記予測ポイントを選択する
情報処理方法。
(11) 3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、前記ポイントクラウドの各ポイントを前記属性情報と予測値との差分値を残すポイントである予測ポイントと前記予測値の導出の際に前記属性情報を参照されるポイントである参照ポイントとに分類する処理を前記参照ポイントに対して再帰的に繰り返すことにより階層化された前記属性情報の逆階層化を行う逆階層化部を備え、
前記逆階層化部は、前記逆階層化の際に、各階層において、前記参照ポイントの前記属性情報と前記ポイントクラウドの最下層以外の階層の解像度の位置情報とを用いて前記予測ポイントの前記属性情報の予測値を導出し、前記予測値と前記差分値とを用いて前記予測ポイントの前記属性情報を導出する
情報処理装置。
(12) 前記逆階層化部は、前記参照ポイントの前記属性情報と、前記参照ポイントおよび前記予測ポイントのカレント階層の解像度の前記位置情報とを用いて、前記予測値を導出する
(11)に記載の情報処理装置。
(13) 前記逆階層化部は、前記参照ポイントの前記属性情報と、前記参照ポイントのカレント階層の1つ上位階層の解像度の前記位置情報と、前記予測ポイントの前記カレント階層の解像度の前記位置情報とを用いて、前記予測値を導出する
(11)に記載の情報処理装置。
(14) 前記逆階層化部は、前記予測ポイントと前記参照ポイントとの距離に応じて重み付けした前記参照ポイントの前記属性情報を用いて前記予測ポイントの前記予測値を導出する
(11)乃至(13)のいずれかに記載の情報処理装置。
(15) 前記逆階層化部は、前記位置情報を用いて前記属性情報を階層化し、各階層において各ポイントの前記位置情報と前記属性情報とを対応付ける
(11)乃至(14)のいずれかに記載の情報処理装置。
(16) 量子化された各階層の各ポイントの前記差分値を、階層毎の重み値を用いて逆量子化する逆量子化部をさらに備える
(11)乃至(15)のいずれかに記載の情報処理装置。
(17) 前記逆量子化部は、上位階層程値が大きい前記階層毎の重み値を用いて、量子化された前記差分値を逆量子化する
(16)に記載の情報処理装置。
(18) 符号化データを復号し、前記量子化された前記差分値と、前記階層毎の重み値を導出する際に用いられる関数を定義するパラメータとを取得する復号部をさらに備える
(16)に記載の情報処理装置。
(19) 符号化データを復号し、前記量子化された前記差分値と、前記階層毎の重み値とを取得する復号部をさらに備える
(16)に記載の情報処理装置。
(20) 3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、前記ポイントクラウドの各ポイントを前記属性情報と予測値との差分値を残すポイントである予測ポイントと前記予測値の導出の際に前記属性情報を参照されるポイントである参照ポイントとに分類する処理を前記参照ポイントに対して再帰的に繰り返すことにより階層化された前記属性情報の逆階層化を行い、
前記逆階層化の際に、各階層において、前記参照ポイントの前記属性情報と前記ポイントクラウドの最下層以外の階層の解像度の位置情報とを用いて前記予測ポイントの前記属性情報の予測値を導出し、前記予測値と前記差分値とを用いて前記予測ポイントの前記属性情報を導出する
情報処理方法。
(21) 3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造を示す情報を生成する生成部と、
前記生成部により生成された前記情報に基づいて、前記位置情報の階層構造に対応するように、前記ポイントクラウドの属性情報の階層化を行う階層化部と
を備える情報処理装置。
(22) 前記生成部は、前記位置情報の符号化データが復号されて得られた前記位置情報について、前記情報を生成する
(21)に記載の情報処理装置。
(23) 前記生成部は、リストを用いて、前記位置情報の階層構造の各ノードに対するラベル付けを行うことにより、前記情報を生成する
(21)または(22)に記載の情報処理装置。
(24) 前記生成部は、前記位置情報の階層構造の最上位層から最下位層に向かう順に階層毎に、新たに出現する各ノードに対して、前記階層を示す値のラベルを付ける
(23)に記載の情報処理装置。
(25) 前記生成部は、前記位置情報の階層構造の各階層において、新たに出現する各ノードに対するラベル付けをモートンオーダー順に行う
(24)に記載の情報処理装置。
(26) 前記生成部は、DCM(Direct Coding Mode)が適用されるノードが新たに出現した場合、前記ノードに対するラベル付けと、下位層において前記ノードから分割される他の前記DCMが適用されるノードに対するラベル付けとを行う
(24)または(25)に記載の情報処理装置。
(27) 前記生成部は、前記DCMが適用されるノードに対するラベル付けは、前記DCMが適用されないノードに対するラベル付けに用いるリストとは異なる他のリストを用いて行う
(26)に記載の情報処理装置。
(28) 前記生成部は、複数のラベルのそれぞれに対応するポイントが重複する場合、前記複数のラベルの内の1つを残してその他を削除する
(26)または(27)に記載の情報処理装置。
(29) 前記階層化部は、前記情報に基づいて、前記位置情報の階層構造に対応するように、前記属性情報の各階層の予測ポイントを選択する
(21)乃至(28)のいずれかに記載の情報処理装置。
(30) 3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造を示す情報を生成し、
生成された前記情報に基づいて、前記ポイントクラウドの位置情報の階層構造に対応するように、前記属性情報の階層化を行う
情報処理方法。
(31) 3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造を示す情報を生成する生成部と、
前記生成部により生成された前記情報に基づいて、前記ポイントクラウドの属性情報の階層構造が前記位置情報の階層構造に対応するものとして、前記属性情報の逆階層化を行う逆階層化部と
を備える情報処理装置。
(32) 前記生成部は、前記位置情報の符号化データが復号されて得られた前記位置情報について、前記情報を生成する
(31)に記載の情報処理装置。
(33) 前記生成部は、リストを用いて、前記位置情報の階層構造の各ノードに対するラベル付けを行うことにより、前記情報を生成する
(31)または(32)に記載の情報処理装置。
(34) 前記生成部は、前記位置情報の階層構造の最上位層から最下位層に向かう順に階層毎に、新たに出現する各ノードに対して、前記階層を示す値のラベルを付ける
(33)に記載の情報処理装置。
(35) 前記生成部は、前記位置情報の階層構造の各階層において、新たに出現する各ノードに対するラベル付けをモートンオーダー順に行う
(34)に記載の情報処理装置。
(36) 前記生成部は、DCM(Direct Coding Mode)が適用されるノードが新たに出現した場合、前記ノードに対するラベル付けと、下位層において前記ノードから分割される他の前記DCMが適用されるノードに対するラベル付けとを行う
(34)または(35)に記載の情報処理装置。
(37) 前記生成部は、前記DCMが適用されるノードに対するラベル付けは、前記DCMが適用されないノードに対するラベル付けに用いるリストとは異なる他のリストを用いて行う
(36)に記載の情報処理装置。
(38) 前記生成部は、複数のラベルのそれぞれに対応するポイントが重複する場合、前記複数のラベルの内の1つを残してその他を削除する
(36)または(37)に記載の情報処理装置。
(39) 前記逆階層化部は、前記情報に基づいて、前記位置情報の階層構造に対応するように、前記属性情報の各階層の予測ポイントを選択する
(31)乃至(38)のいずれかに記載の情報処理装置。
(40) 3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造を示す情報を生成し、
生成された前記情報に基づいて、前記ポイントクラウドの属性情報の階層構造が前記位置情報の階層構造に対応するものとして、前記属性情報の逆階層化を行う
情報処理方法。
(41) 3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造に対応するように、前記ポイントクラウドの属性情報を階層化する階層化部と、
前記階層化部により階層化された前記属性情報を階層毎の重み値を用いて量子化する量子化部と
を備える情報処理装置。
(42) 前記量子化部は、前記ポイントクラウドのポイント数と処理対象の階層のポイント数との比からなる前記重み値を用いて前記属性情報を量子化する
(41)に記載の情報処理装置。
(43) 前記量子化部は、値「1」の前記重み値を用いて最下位層の前記属性情報を量子化する
(42)に記載の情報処理装置。
(44) 前記量子化部は、処理対象の階層以下の階層のポイント数と前記処理対象の階層のポイント数との比からなる前記重み値を用いて前記属性情報を量子化する
(41)に記載の情報処理装置。
(45) 3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造に対応するように、前記ポイントクラウドの属性情報を階層化し、
階層化された前記属性情報を階層毎の重み値を用いて量子化する
情報処理方法。
(46) 3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造に対応するように階層化され、階層毎の重み値を用いて量子化された前記ポイントクラウドの属性情報を、前記重み値を用いて逆量子化する逆量子化部と、
前記逆量子化部により逆量子化された前記属性情報を逆階層化する逆階層化部と
を備える情報処理装置。
(47) 前記逆量子化部は、前記ポイントクラウドのポイント数と処理対象の階層のポイント数との比からなる前記重み値を用いて前記属性情報を逆量子化する
(46)に記載の情報処理装置。
(48) 前記逆量子化部は、値「1」の前記重み値を用いて最下位層の前記属性情報を逆量子化する
(47)に記載の情報処理装置。
(49) 前記逆量子化部は、処理対象の階層よりも下位層のポイント数と前記処理対象の階層のポイント数との比からなる前記重み値を用いて前記属性情報を逆量子化する
(46)に記載の情報処理装置。
(50) 前記逆量子化部は、前記属性情報の量子化に用いられた前記重み値を取得し、取得した前記重み値を用いて前記属性情報を逆量子化する
(46)乃至(49)のいずれかに記載の情報処理装置。
(51) 3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造に対応するように、前記ポイントクラウドの属性情報を階層化し、
階層化された前記属性情報を階層毎の重み値を用いて量子化する
情報処理方法。
100 空間領域, 101 ボクセル, 102 ポイント, 111 ポイント, 112 ポイント, 113 ポイント, 200 符号化装置, 201 位置情報符号化部, 202 位置情報復号部, 203 ポイントクラウド生成部, 204 属性情報符号化部, 205 ビットストリーム生成部, 211 階層化処理部, 212 量子化部, 213 符号化部, 221 階層別処理部, 231 ポイント分類部, 232 予測部, 233 演算部, 234 アップデート部, 235 演算部, 400 復号装置, 401 復号対象LOD深度設定部, 402 符号化データ抽出部, 403 位置情報復号部, 404 属性情報復号部, 405 ポイントクラウド生成部, 421 復号部, 422 逆量子化部, 423 逆階層化処理部, 441 階層別処理部, 451 予測部, 452 演算部, 453 マージ処理部

Claims (20)

  1. 3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、前記ポイントクラウドの各ポイントを前記属性情報と予測値との差分値を残すポイントである予測ポイントと前記予測値の導出の際に前記属性情報を参照されるポイントである参照ポイントとに分類する処理を前記参照ポイントに対して再帰的に繰り返すことにより前記属性情報の階層化を行う階層化部を備え、
    前記階層化部は、前記階層化の際に、カレント階層のポイントが存在するボクセルが属する1つ上位階層のボクセルにもポイントが存在するように前記予測ポイントを選択する
    情報処理装置。
  2. 前記階層化部は、
    前記予測ポイントと前記参照ポイントとの距離に応じて重み付けした前記参照ポイントの前記属性情報を用いて前記予測ポイントの前記予測値を導出し、
    導出した前記予測値を用いて前記差分値を導出する
    請求項1に記載の情報処理装置。
  3. 前記階層化部は、前記ポイントクラウドの最下層の解像度の位置情報に基づく前記距離に応じて重み付けした前記参照ポイントの前記属性情報を用いて前記予測ポイントの前記予測値を導出する
    請求項2に記載の情報処理装置。
  4. 前記階層化部は、前記ポイントクラウドのカレント階層の解像度の位置情報に基づく前記距離に応じて重み付けした前記参照ポイントの前記属性情報を用いて前記予測ポイントの前記予測値を導出する
    請求項2に記載の情報処理装置。
  5. 前記階層化部により生成された各階層の各ポイントの前記差分値を、階層毎の重み値を用いて量子化する量子化部をさらに備える
    請求項1に記載の情報処理装置。
  6. 前記量子化部は、上位階層程値が大きい前記階層毎の重み値を用いて前記差分値を量子化する
    請求項5に記載の情報処理装置。
  7. 前記量子化部により量子化された前記差分値と、前記階層毎の重み値を導出する際に用いられる関数を定義するパラメータとを符号化し、符号化データを生成する符号化部をさらに備える
    請求項5に記載の情報処理装置。
  8. 前記量子化部により量子化された前記差分値と、前記階層毎の重み値とを符号化し、符号化データを生成する符号化部をさらに備える
    請求項5に記載の情報処理装置。
  9. 3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、前記ポイントクラウドの各ポイントを前記属性情報と予測値との差分値を残すポイントである予測ポイントと前記予測値の導出の際に前記属性情報を参照されるポイントである参照ポイントとに分類する処理を前記参照ポイントに対して再帰的に繰り返すことにより前記属性情報の階層化を行い、
    前記階層化の際に、カレント階層のポイントが存在するボクセルが属する1つ上位階層のボクセルにもポイントが存在するように前記予測ポイントを選択する
    情報処理方法。
  10. 3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、前記ポイントクラウドの各ポイントを前記属性情報と予測値との差分値を残すポイントである予測ポイントと前記予測値の導出の際に前記属性情報を参照されるポイントである参照ポイントとに分類する処理を前記参照ポイントに対して再帰的に繰り返すことにより階層化された前記属性情報の逆階層化を行う逆階層化部を備え、
    前記逆階層化部は、前記逆階層化の際に、各階層において、前記参照ポイントの前記属性情報と前記ポイントクラウドの最下層以外の階層の解像度の位置情報とを用いて前記予測ポイントの前記属性情報の予測値を導出し、前記予測値と前記差分値とを用いて前記予測ポイントの前記属性情報を導出する
    情報処理装置。
  11. 前記逆階層化部は、前記参照ポイントの前記属性情報と、前記参照ポイントおよび前記予測ポイントのカレント階層の解像度の前記位置情報とを用いて、前記予測値を導出する
    請求項10に記載の情報処理装置。
  12. 前記逆階層化部は、前記予測ポイントと前記参照ポイントとの距離に応じて重み付けした前記参照ポイントの前記属性情報を用いて前記予測ポイントの前記予測値を導出する
    請求項10に記載の情報処理装置。
  13. 前記逆階層化部は、前記位置情報を用いて前記属性情報を階層化し、各階層において各ポイントの前記位置情報と前記属性情報とを対応付ける
    請求項10に記載の情報処理装置。
  14. 量子化された各階層の各ポイントの前記差分値を、階層毎の重み値を用いて逆量子化する逆量子化部をさらに備える
    請求項10に記載の情報処理装置。
  15. 前記逆量子化部は、上位階層程値が大きい前記階層毎の重み値を用いて、量子化された前記差分値を逆量子化する
    請求項14に記載の情報処理装置。
  16. 符号化データを復号し、前記量子化された前記差分値と、前記階層毎の重み値を導出する際に用いられる関数を定義するパラメータとを取得する復号部をさらに備える
    請求項14に記載の情報処理装置。
  17. 符号化データを復号し、前記量子化された前記差分値と、前記階層毎の重み値とを取得する復号部をさらに備える
    請求項14に記載の情報処理装置。
  18. 3次元形状のオブジェクトを表現するポイントクラウドの属性情報について、前記ポイントクラウドの各ポイントを前記属性情報と予測値との差分値を残すポイントである予測ポイントと前記予測値の導出の際に前記属性情報を参照されるポイントである参照ポイントとに分類する処理を前記参照ポイントに対して再帰的に繰り返すことにより階層化された前記属性情報の逆階層化を行い、前記逆階層化の際に、各階層において、前記参照ポイントの前記属性情報と前記ポイントクラウドの最下層以外の階層の解像度の位置情報とを用いて前記予測ポイントの前記属性情報の予測値を導出し、前記予測値と前記差分値とを用いて前記予測ポイントの前記属性情報を導出する
    情報処理方法。
  19. 3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造を示す情報を生成する生成部と、
    前記生成部により生成された前記情報に基づいて、前記位置情報の階層構造に対応するように、前記ポイントクラウドの属性情報の階層化を行う階層化部と
    を備える情報処理装置。
  20. 3次元形状のオブジェクトを表現するポイントクラウドの位置情報の階層構造を示す情報を生成する生成部と、
    前記生成部により生成された前記情報に基づいて、前記ポイントクラウドの属性情報の階層構造が前記位置情報の階層構造に対応するものとして、前記属性情報の逆階層化を行う逆階層化部と
    を備える情報処理装置。
JP2021507183A 2019-03-19 2020-03-05 情報処理装置および方法 Active JP7480775B2 (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
JP2019051291 2019-03-19
JP2019051291 2019-03-19
JP2019118635 2019-06-26
JP2019118635 2019-06-26
JP2019181399 2019-10-01
JP2019181399 2019-10-01
PCT/JP2020/009331 WO2020189296A1 (ja) 2019-03-19 2020-03-05 情報処理装置および方法

Publications (2)

Publication Number Publication Date
JPWO2020189296A1 JPWO2020189296A1 (ja) 2020-09-24
JP7480775B2 true JP7480775B2 (ja) 2024-05-10

Family

ID=72520839

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021507183A Active JP7480775B2 (ja) 2019-03-19 2020-03-05 情報処理装置および方法

Country Status (7)

Country Link
US (2) US11943457B2 (ja)
EP (1) EP3929881A4 (ja)
JP (1) JP7480775B2 (ja)
KR (1) KR20210141472A (ja)
CN (1) CN113557552A (ja)
TW (1) TWI844635B (ja)
WO (1) WO2020189296A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021141117A1 (ja) * 2020-01-09 2021-07-15 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2021215811A1 (ko) * 2020-04-24 2021-10-28 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
EP4171036A4 (en) * 2020-06-18 2024-07-10 Lg Electronics Inc POINT CLOUD DATA TRANSMISSION APPARATUS, POINT CLOUD DATA TRANSMISSION METHOD, POINT CLOUD DATA RECEIVING APPARATUS AND POINT CLOUD DATA RECEIVING METHOD
US20230377203A1 (en) * 2020-10-30 2023-11-23 Lg Electronics Inc. Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
WO2022119304A1 (ko) * 2020-12-01 2022-06-09 현대자동차주식회사 적응적 데드존 양자화를 이용하는 포인트 클라우드 코딩 장치 및 방법
TWI750973B (zh) * 2020-12-25 2021-12-21 扉睿科技股份有限公司 基於安全導向暨群組分享之物聯網系統
JPWO2022145214A1 (ja) * 2020-12-28 2022-07-07
CN115474049A (zh) * 2021-06-11 2022-12-13 维沃移动通信有限公司 点云编码处理方法、解码处理方法及装置
US11310235B1 (en) 2021-08-04 2022-04-19 Netfay Inc. Internet of things system based on security orientation and group sharing
JPWO2023170726A1 (ja) * 2022-03-07 2023-09-14
WO2023173238A1 (zh) * 2022-03-12 2023-09-21 Oppo广东移动通信有限公司 编解码方法、码流、编码器、解码器以及存储介质
CN115049750B (zh) * 2022-05-31 2023-06-16 九识智行(北京)科技有限公司 基于八叉树的体素地图生成方法、装置、存储介质及设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018101404A (ja) 2016-09-13 2018-06-28 ダッソー システムズDassault Systemes 物理的属性を表す信号の圧縮
US20190080483A1 (en) 2017-09-14 2019-03-14 Apple Inc. Point Cloud Compression

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10223810B2 (en) 2016-05-28 2019-03-05 Microsoft Technology Licensing, Llc Region-adaptive hierarchical transform and entropy coding for point cloud compression, and corresponding decompression
US10897269B2 (en) * 2017-09-14 2021-01-19 Apple Inc. Hierarchical point cloud compression
WO2020075862A1 (ja) * 2018-10-12 2020-04-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
CN118521655A (zh) * 2018-12-21 2024-08-20 松下电器(美国)知识产权公司 三维数据编码方法、三维数据解码方法、三维数据编码装置、以及三维数据解码装置
KR20210107686A (ko) * 2018-12-26 2021-09-01 파나소닉 인텔렉츄얼 프로퍼티 코포레이션 오브 아메리카 삼차원 데이터 부호화 방법, 삼차원 데이터 복호 방법, 삼차원 데이터 부호화 장치, 및 삼차원 데이터 복호 장치
CN113519011A (zh) * 2019-03-08 2021-10-19 松下电器(美国)知识产权公司 三维数据编码方法、三维数据解码方法、三维数据编码装置、以及三维数据解码装置
WO2020189943A1 (ko) * 2019-03-15 2020-09-24 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
WO2020189976A1 (ko) * 2019-03-16 2020-09-24 엘지전자 주식회사 포인트 클라우드 데이터 처리 장치 및 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018101404A (ja) 2016-09-13 2018-06-28 ダッソー システムズDassault Systemes 物理的属性を表す信号の圧縮
US20190080483A1 (en) 2017-09-14 2019-03-14 Apple Inc. Point Cloud Compression

Also Published As

Publication number Publication date
CN113557552A (zh) 2021-10-26
JPWO2020189296A1 (ja) 2020-09-24
EP3929881A1 (en) 2021-12-29
TWI844635B (zh) 2024-06-11
WO2020189296A1 (ja) 2020-09-24
TW202041034A (zh) 2020-11-01
KR20210141472A (ko) 2021-11-23
US11943457B2 (en) 2024-03-26
US20220191520A1 (en) 2022-06-16
EP3929881A4 (en) 2022-04-20
US20240205431A1 (en) 2024-06-20

Similar Documents

Publication Publication Date Title
JP7480775B2 (ja) 情報処理装置および方法
JP7197575B2 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
US20220353492A1 (en) Information processing device and method
WO2021010200A1 (ja) 情報処理装置および方法
US20230023219A1 (en) Information processing device and method
US20240242390A1 (en) Point cloud data transmission method, point cloud data transmission device, point cloud data reception method, and point cloud data reception device
WO2022145214A1 (ja) 情報処理装置および方法
WO2020145143A1 (ja) 情報処理装置および方法
CN114598883A (zh) 点云属性的预测方法、编码器、解码器及存储介质
WO2020071115A1 (ja) 画像処理装置および方法
JP7544049B2 (ja) 情報処理装置および方法
JP7544050B2 (ja) 情報処理装置および方法
US11790567B2 (en) Information processing apparatus and method
WO2021140928A1 (ja) 情報処理装置および方法
WO2020145140A1 (ja) 情報処理装置および方法
JP2024061785A (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240326

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240408

R150 Certificate of patent or registration of utility model

Ref document number: 7480775

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150