CN115702442A - 三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置 - Google Patents

三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置 Download PDF

Info

Publication number
CN115702442A
CN115702442A CN202180042345.1A CN202180042345A CN115702442A CN 115702442 A CN115702442 A CN 115702442A CN 202180042345 A CN202180042345 A CN 202180042345A CN 115702442 A CN115702442 A CN 115702442A
Authority
CN
China
Prior art keywords
dimensional
dimensional data
information
attribute information
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180042345.1A
Other languages
English (en)
Inventor
杉尾敏康
井口贺敬
大川真人
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Corp of America
Original Assignee
Panasonic Intellectual Property Corp of America
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Corp of America filed Critical Panasonic Intellectual Property Corp of America
Publication of CN115702442A publication Critical patent/CN115702442A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00—Image coding
    • G06T9/001—Model-based coding, e.g. wire frame
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00—Image coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

三维数据编码方法基于多个三维点的多个位置信息，将点群数据中包含的多个三维点分配给1个以上层级中的某个层级(S11611)，在1个以上层级的数量为1的情况下，许可同层参照，通过对多个三维点的多个属性信息进行编码来生成编码属性信息，所述同层参照参照与处理对象的三维点包含在同一层级中的其他三维点的属性信息来生成处理对象的三维点的属性信息的预测值(S11612)，生成包含编码属性信息的比特流(S11613)。

Description

三维数据编码方法、三维数据解码方法、三维数据编码装置及 三维数据解码装置
技术领域
本公开涉及三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置。
背景技术
在用于汽车或机器人自主地进行工作的计算机视觉、地图信息、监控、基础设施检查、或影像分发等较大的领域中，今后将会普及灵活运用了三维数据的装置或服务。三维数据通过测距仪等距离传感器、立体摄影机、或多个单眼相机的组合等各种方法来取得。
作为三维数据的表现方法之一，有被称作点云的表现方法，该方法通过三维空间内的点群来表现三维构造的形状。在点云中保存点群的位置和颜色。虽然预想点云作为三维数据的表现方法将成为主流，但是点群的数据量非常大。因此，在三维数据的积蓄或传输中，与二维的运动图像(作为一例，有以MPEG进行标准化后的MPEG－4AVC或HEVC等)同样，需要通过编码来进行数据量的压缩。
此外，关于点云的压缩，有一部分由进行点云关联的处理的公开的库(PointCloud Library：点云库)等支持。
此外，已知有利用三维的地图数据，检索位于车辆周边的施设并进行显示的技术(例如，参照专利文献1)。
现有技术文献
专利文献
专利文献1：国际公开第2014/020663号
发明内容
发明要解决的课题
在三维数据的编码处理以及三维数据的解码处理中，希望能够提高编码效率。
本公开的目的是提供一种能够提高编码效率的三维数据编码方法、三维数据解码方法、三维数据编码装置或三维数据解码装置。
用来解决课题的手段
本公开的一技术方案的三维数据编码方法，基于所述多个三维点的多个位置信息，将点群数据中包含的多个三维点分配给1个以上层级中的某个层级，在所述1个以上层级的数量为1的情况下，许可同层参照，通过对所述多个三维点的多个属性信息进行编码而生成编码属性信息，所述同层参照参照与处理对象的三维点包含在同一层级中的其他三维点的属性信息来生成所述处理对象的三维点的属性信息的预测值，生成包含所述编码属性信息的比特流。
本公开的一技术方案的三维数据解码方法，从比特流取得编码属性信息，所述编码属性信息是将点群数据中包含的多个三维点的多个属性信息编码后的信息，所述多个三维点基于所述多个三维点的多个位置信息而被分配到1个以上层级中的某个层级中，在所述1个以上层级的数量为1的情况下，许可同层参照，对所述编码属性信息进行解码，所述同层参照参照与处理对象的三维点包含在同一层级中的其他三维点的属性信息来生成所述处理对象的三维点的属性信息的预测值。
发明效果
本公开能够提供能够提高编码效率的三维数据编码方法、三维数据解码方法、三维数据编码装置或三维数据解码装置。
附图说明
图1是表示实施方式1的三维数据编解码系统的结构的图。
图2是表示实施方式1的点群数据的结构例的图。
图3是表示实施方式1的记述有点群数据信息的数据文件的结构例的图。
图4是表示实施方式1的点群数据的种类的图。
图5是表示实施方式1的第1编码部的结构的图。
图6是实施方式1的第1编码部的框图。
图7是表示实施方式1的第1解码部的结构的图。
图8是实施方式1的第1解码部的框图。
图9是实施方式1的三维数据编码装置的框图。
图10是表示实施方式1的位置信息的例子的图。
图11是表示实施方式1的位置信息的八叉树表现的例子的图。
图12是实施方式1的三维数据解码装置的框图。
图13是实施方式1的属性信息编码部的框图。
图14是实施方式1的属性信息解码部的框图。
图15是表示实施方式1的属性信息编码部的结构的框图。
图16是实施方式1的属性信息编码部的框图。
图17是表示实施方式1的属性信息解码部的结构的框图。
图18是实施方式1的属性信息解码部的框图。
图19是表示实施方式1的第2编码部的结构的图。
图20是实施方式1的第2编码部的框图。
图21是表示实施方式1的第2解码部的结构的图。
图22是实施方式1的第2解码部的框图。
图23是表示实施方式1的关于PCC编码数据的协议栈的图。
图24是表示实施方式2的编码部及复用部的结构的图。
图25是表示实施方式2的编码数据的结构例的图。
图26是表示实施方式2的编码数据及NAL单元的结构例的图。
图27是表示实施方式2的pcc_nal_unit_type的语义例的图。
图28是表示实施方式2的NAL单元的送出顺序的例子的图。
图29是实施方式2的由三维数据编码装置进行的理的流程图。
图30是实施方式2的由三维数据解码装置进行的处理的流程图。
图31是实施方式2的复用处理的流程图。
图32是实施方式2的逆复用处理的流程图。
图33是表示实施方式3的三维点的例子的图。
图34是表示实施方式3的LoD的设定例的图。
图35是表示实施方式3的LoD的设定中使用的阈值的例子的图。
图36是表示实施方式3的预测值中使用的属性信息的例子的图。
图37是表示实施方式3的指数哥伦布码的一例的图。
图38是表示实施方式3的针对指数哥伦布码的处理的图。
图39是表示实施方式3的属性头的句法例的图。
图40是表示实施方式3的属性数据的句法例的图。
图41是实施方式3的三维数据编码处理的流程图。
图42是实施方式3的属性信息编码处理的流程图。
图43是表示实施方式3的针对指数哥伦布码的处理的图。
图44是表示实施方式3的表示剩余码与其值的关系的反推表的例子的图。
图45是实施方式3的三维数据解码处理的流程图。
图46是实施方式3的属性信息解码处理的流程图。
图47是实施方式3的三维数据编码装置的框图。
图48是实施方式3的三维数据解码装置的框图。
图49是表示实施方式4的参照关系的例子的图。
图50是表示实施方式4的参照关系的例子的图。
图51是表示实施方式4的对每个LoD设定搜索次数的例子的图。
图52是表示实施方式4的参照关系的例子的图。
图53是表示实施方式4的参照关系的例子的图。
图54是表示实施方式4的参照关系的例子的图。
图55是表示实施方式4的属性信息头的句法例的图。
图56是表示实施方式4的属性信息头的句法例的图。
图57是实施方式4的三维数据编码处理的流程图。
图58是实施方式4的属性信息编码处理的流程图。
图59是实施方式4的三维数据解码处理的流程图。
图60是实施方式4的属性信息解码处理的流程图。
图61是实施方式4的周围点搜索处理的流程图。
图62是实施方式4的周围点搜索处理的流程图。
图63是实施方式4的周围点搜索处理的流程图。
图64是表示实施方式5的参照关系的图。
图65是表示实施方式5的参照关系的图。
图66是表示实施方式5的参照关系的图。
图67是表示实施方式5的属性信息头的句法例的图。
图68是表示实施方式5的属性信息头的句法例的图。
图69是实施方式5的三维数据编码处理的流程图。
图70是实施方式5的属性信息编码处理的流程图。
图71是实施方式5的三维数据解码处理的流程图。
图72是实施方式5的属性信息解码处理的流程图。
图73是实施方式5的周围点的搜索处理的流程图。
图74是表示实施方式6的参照关系的例子的图。
图75是表示实施方式6的参照关系的例子的图。
图76是表示实施方式6的属性信息头的句法例的图。
图77是表示实施方式6的属性信息头的句法例的图。
图78是表示实施方式6的参照关系的例子的图。
图79是实施方式6的周围点的搜索处理的流程图。
图80是实施方式6的三维数据编码处理的流程图。
图81是实施方式6的三维数据解码处理的流程图。
图82是实施方式7的三维数据制作装置的框图。
图83是实施方式7的三维数据制作方法的流程图。
图84是表示实施方式7的系统的结构的图。
图85是实施方式7的客户端装置的框图。
图86是实施方式7的服务器的框图。
图87是实施方式7的客户端装置的三维数据制作处理的流程图。
图88是实施方式7的客户端装置的传感器信息发送处理的流程图。
图89是实施方式7的服务器的三维数据制作处理的流程图。
图90是实施方式7的服务器的三维地图发送处理的流程图。
图91是表示实施方式7的系统的变形例的结构的图。
图92是表示实施方式7的服务器以及客户端装置的结构的图。
图93是表示实施方式7的服务器以及客户端装置的结构的图。
图94是实施方式7的客户端装置的处理的流程图。
图95是表示实施方式7的传感器信息收集系统的结构的图。
图96是表示实施方式7的系统的例子的图。
图97是表示实施方式7的系统的变形例的图。
图98是表示实施方式7的应用处理的例子的流程图。
图99是表示实施方式7的各种传感器的传感器范围的图。
图100是表示实施方式7的自动驾驶系统的结构例的图。
图101是表示实施方式7的比特流的结构例的图。
图102是实施方式7的点群选择处理的流程图。
图103是表示实施方式7的点群选择处理的画面例的图。
图104是表示实施方式7的点群选择处理的画面例的图。
图105是表示实施方式7的点群选择处理的画面例的图。
具体实施方式
本公开的一技术方案的三维数据编码方法，基于所述多个三维点的多个位置信息，将点群数据中包含的多个三维点分配给1个以上层级中的某个层级，在所述1个以上层级的数量为1的情况下，许可同层参照，通过对所述多个三维点的多个属性信息进行编码而生成编码属性信息，所述同层参照参照与处理对象的三维点包含在同一层级中的其他三维点的属性信息来生成所述处理对象的三维点的属性信息的预测值，生成包含所述编码属性信息的比特流。
由此，该三维数据编码方法在层级的数量为1的情况下，通过许可同层参照能够提高编码效率。
例如，也可以是，在所述1个以上层级的数量为2以上的情况下，决定2个以上层级中的许可所述同层参照的层级和禁止所述同层参照的层级，基于决定结果，许可或禁止所述同层参照并对所述多个属性信息进行编码，从而生成所述编码属性信息。
例如，也可以是，对所述2个以上层级中从最上位层到第N(N为自然数)层的层级许可所述同层参照，对比所述第N层靠下的层级禁止所述同层参照，对所述多个属性信息进行编码，从而生成所述编码属性信息。
例如，也可以是，所述比特流包含第1信息，所述第1信息表示许可所述同层参照的层级或禁止所述同层参照的层级。
例如，也可以是，所述比特流包含表示所述1个以上层级的数量的第2信息。
本公开的一技术方案的三维数据解码方法，从比特流取得编码属性信息，所述编码属性信息是将点群数据中包含的多个三维点的多个属性信息编码后的信息，所述多个三维点基于所述多个三维点的多个位置信息而被分配到1个以上层级中的某个层级中，在所述1个以上层级的数量为1的情况下，许可同层参照，对所述编码属性信息进行解码，所述同层参照参照与处理对象的三维点包含在同一层级中的其他三维点的属性信息来生成所述处理对象的三维点的属性信息的预测值。
由此，该三维数据解码方法在层级的数量为1的情况下，通过许可同层参照能够提高编码效率。
例如，也可以是，在所述1个以上层级的数量为2以上的情况下，决定2个以上层级中的许可所述同层参照的层级和禁止所述同层参照的层级，基于决定结果，许可或禁止所述同层参照并对所述多个属性信息进行解码。
例如，也可以是，对所述2个以上层级中从最上位层到第N(N为自然数)层的层级许可所述同层参照，对比所述第N层靠下的层级禁止所述同层参照，对所述编码属性信息进行解码。
例如，也可以是，从所述比特流取得第1信息，所述第1信息表示许可所述同层参照的层级或禁止所述同层参照的层级。
例如，也可以是，从所述比特流取得表示所述1个以上层级的数量的第2信息。
例如，也可以是，从所述比特流取得(1)表示许可所述同层参照的层级或禁止所述同层参照的层级的第1信息、以及(2)表示所述1个以上层级的数量的第2信息，在所述第2信息所示的所述1个以上层级的数量为1的情况下，在所述第1信息不表示在作为所述1个以上层级的1个层级中许可所述同层参照的情况下，判定为所述比特流不符合标准。
另外，本公开的一个技术方案的三维数据编码装置具备处理器和存储器，所述处理器使用所述存储器，基于所述多个三维点的多个位置信息，将点群数据中包含的多个三维点分配给1个以上层级中的某个层级，在所述1个以上层级的数量为1的情况下，许可同层参照，通过对所述多个三维点的多个属性信息进行编码而生成编码属性信息，所述同层参照参照与处理对象的三维点包含在同一层级中的其他三维点的属性信息来生成所述处理对象的三维点的属性信息的预测值，生成包含所述编码属性信息的比特流。
由此，该三维数据编码装置在层级的数量为1的情况下，通过许可同层参照能够提高编码效率。
另外，本公开的一个技术方案的三维数据解码装置具备处理器和存储器，所述处理器使用所述存储器，从比特流取得编码属性信息，所述编码属性信息是将点群数据中包含的多个三维点的多个属性信息编码后的信息，所述多个三维点基于所述多个三维点的多个位置信息而被分配到1个以上层级中的某个层级中，在所述1个以上层级的数量为1的情况下，许可同层参照，对所述编码属性信息进行解码，所述同层参照参照与处理对象的三维点包含在同一层级中的其他三维点的属性信息来生成所述处理对象的三维点的属性信息的预测值。
由此，该三维数据解码装置在层级的数量为1的情况下，通过许可同层参照能够提高编码效率。
另外，这些包含性或具体的技术方案也可以由系统、方法、集成电路、计算机程序或计算机可读取的CD－ROM等的记录介质实现，也可以由系统、方法、集成电路、计算机程序及记录介质的任意的组合来实现。
以下，参照附图对实施方式具体地进行说明。另外，以下说明的实施方式都表示本公开的一具体例。在以下的实施方式中表示的数值、形状、材料、构成要素、构成要素的配置位置及连接形态、步骤、步骤的顺序等是一例，不是限定本公开的意思。此外，关于以下的实施方式的构成要素中的、在表示最上位概念的独立权利要求中没有记载的构成要素，设为任意的构成要素进行说明。
(实施方式1)
在实际的装置或服务中使用点云的编码数据时，为了抑制网络带宽，希望按照用途对所需要的信息进行收发。然而，至今的三维数据的编码结构中不存在这样的功能，因此也没有与此相对的编码方法。
在本实施方式中说明提供在三维点云的编码数据中按照用途对所需要的信息进行收发的功能的三维数据编码方法以及三维数据编码装置、对该编码数据进行解码的三维数据解码方法以及三维数据解码装置、以及对该编码数据进行复用的三维数据复用方法、以及传输该编码数据的三维数据传输方法。
特别是，当前，作为点群数据的编码方法(编码方式)研究了第1编码方法和第2编码方法，但没有定义将编码数据的构成以及编码数据保存到系统格式的方法，在这种情况下，存在无法进行编码部中的MUX处理(复用)、或者传输或储存这样的课题。
此外，如PCC(Point Cloud Compression：点云压缩)那样，对第1编码方法和第2编码方法这2个编解码器混合存在的格式进行支持的方法至今不存在。
在本实施方式中，对将第1编码方法和第2编码方法这2个编解码器混合存在的PCC编码数据的构成以及将编码数据向系统格式保存的方法进行说明。
首先，说明本实施方式的三维数据(点群数据)编码解码系统的构成。图1是表示本实施方式的三维数据编码解码系统的结构例的图。如图1所示，三维数据编码解码系统包括三维数据编码系统4601、三维数据解码系统4602、传感器终端4603以及外部连接部4604。
三维数据编码系统4601通过对作为三维数据的点群数据进行编码来生成编码数据或复用数据。此外，三维数据编码系统4601可以是由单个装置实现的三维数据编码装置，也可以是由多个装置实现的系统。另外，三维数据编码装置也可以包含于三维数据编码系统4601中包含的多个处理部中的一部分。
三维数据编码系统4601包括点群数据生成系统4611、提示部4612、编码部4613、复用部4614、输入输出部4615、以及控制部4616。点群数据生成系统4611包括传感器信息取得部4617和点群数据生成部4618。
传感器信息取得部4617从传感器终端4603取得传感器信息，并将传感器信息输出到点群数据生成部4618。点群数据生成部4618根据传感器信息生成点群数据，并将点群数据输出到编码部4613。
提示部4612向用户提示传感器信息或点群数据。例如，提示部4612显示基于传感器信息或点群数据的信息或图像。
编码部4613对点群数据进行编码(压缩)，将得到的编码数据、在编码过程中得到的控制信息和其他附加信息输出到复用部4614。附加信息例如包含传感器信息。
复用部4614通过复用从编码部4613输入的编码数据、控制信息和附加信息来生成复用数据。复用数据的格式例如是用于积蓄的文件格式、或用于传输的包格式。
输入输出部4615(例如，通信部或接口)将复用数据向外部输出。或者，复用数据被积蓄于内部存储器等积蓄部。控制部4616(或应用执行部)控制各处理部。即，控制部4616进行编码及复用等控制。
此外，也可以将传感器信息向编码部4613或复用部4614输入。另外，输入输出部4615也可以将点群数据或编码数据直接向外部输出。
从三维数据编码系统4601输出的传输信号(复用数据)经由外部连接部4604输入到三维数据解码系统4602。
三维数据解码系统4602通过对编码数据或复用数据进行解码而生成作为三维数据的点群数据。此外，三维数据解码系统4602可以是由单一的装置实现的三维数据解码装置，也可以是由多个装置实现的系统。另外，三维数据解码装置也可以包含三维数据解码系统4602中包含的多个处理部中的一部分。
三维数据解码系统4602包括传感器信息取得部4621、输入输出部4622、逆复用部4623、解码部4624、提示部4625、用户接口4626、以及控制部4627。
传感器信息取得部4621从传感器终端4603取得传感器信息。
输入输出部4622取得传输信号，根据传输信号对复用数据(文件格式或者包)进行解码，并将复用数据输出到逆复用部4623。
逆复用部4623从复用数据中取得编码数据、控制信息以及附加信息，并将编码数据、控制信息以及附加信息输出到解码部4624。
解码部4624通过对编码数据进行解码而重构点群数据。
提示部4625将点群数据提示给用户。例如，提示部4625显示基于点群数据的信息或图像。用户接口4626取得基于用户的操作的指示。控制部4627(或应用执行部)控制各处理部。即，控制部4627进行逆复用、解码以及提示等的控制。
此外，输入输出部4622也可以从外部直接取得点群数据或编码数据。另外，提示部4625也可以取得传感器信息等附加信息，并提示基于附加信息的信息。另外，提示部4625也可以基于由用户接口4626取得的用户的指示来进行提示。
传感器终端4603生成由传感器取得的信息即传感器信息。传感器终端4603是搭载有传感器或相机的终端，例如有汽车等移动体、飞机等飞行物体、移动终端或相机等。
能够由传感器终端4603取得的传感器信息例如是(1)由LiDAR、毫米波雷达或者红外线传感器得到的传感器终端4603与对象物的距离、或者对象物的反射率、(2)从多个单眼相机图像或者立体相机图像得到的相机与对象物的距离或者对象物的反射率等。另外，传感器信息也可以包含传感器的姿势、朝向、回转(角速度)、位置(GPS信息或者高度)、速度或者加速度等。另外，传感器信息也可以包含气温、气压、湿度、或者磁性等。
外部连接部4604通过集成电路(LSI或IC)、外部积蓄部、经由因特网的与云服务器的通信、或者广播等来实现。
接着，对点群数据进行说明。图2是表示点群数据的结构的图。图3是表示记述了点群数据的信息的数据文件的结构例的图。
点群数据包含多个点的数据。各点的数据包含位置信息(三维坐标)以及与该位置信息相对的属性信息。将聚集了多个这样的点的群称为点群。例如，点群表示对象物(对象)的三维形状。
有时也将三维坐标等位置信息(Position)称为几何形状(geometry)。另外，各点的数据也可以包含多个属性类别的属性信息(attribute)。属性类别例如是颜色或反射率等。
既可以将1个属性信息针对1个位置信息建立对应，也可以将具有多个不同的属性类别的属性信息针对1个位置信息建立对应。另外，也可以将多个相同的属性类别的属性信息针对1个位置信息建立对应。
图3所示的数据文件的结构例是位置信息和属性信息1对1对应的情况的例子，表示构成点群数据的N个点的位置信息和属性信息。
位置信息例如是x、y、z这3轴的信息。属性信息例如是RGB的颜色信息。作为代表性的数据文件，有ply文件等。
接着，对点群数据的种类进行说明。图4是表示点群数据的种类的图。如图4所示，点群数据包含静态对象和动态对象。
静态对象是任意时间(某一个时刻)的三维点群数据。动态对象是随时间变化的三维点群数据。以下，将某时刻的三维点群数据称为PCC帧或者帧。
对象可以是如通常的影像数据那样区域被某种程度限制的点群，也可以是像地图信息那样区域未被限制的大规模点群。
另外，存在各种密度的点群数据，也可以存在稀疏的点群数据和密集的点群数据。
以下，对各处理部的详细情况进行说明。传感器信息通过LiDAR或者测距仪等距离传感器、立体相机或者多个单眼相机的组合等各种方法来取得。点群数据生成部4618基于由传感器信息取得部4617得到的传感器信息生成点群数据。点群数据生成部4618生成位置信息作为点群数据，对位置信息附加针对该位置信息的属性信息。
点群数据生成部4618也可以在生成位置信息或者附加属性信息时，对点群数据进行加工。例如，点群数据生成部4618也可以通过删除位置重复的点群来减少数据量。另外，点群数据生成部4618也可以对位置信息进行变换(位置转变、旋转或者标准化等)，也可以对属性信息进行渲染。
此外，在图1中，点群数据生成系统4611包含于三维数据编码系统4601，但也可以独立设置于三维数据编码系统4601的外部。
编码部4613基于预先规定的编码方法对点群数据进行编码，由此生成编码数据。编码方法大致存在以下2种。第1种是使用了位置信息的编码方法，以后将该编码方法记载为第1编码方法。第2种是使用了视频编解码器的编码方法，以后将该编码方法记载为第2编码方法。
解码部4624基于预先规定的编码方法对编码数据进行解码，由此对点群数据进行解码。
复用部4614通过使用现有的复用方式对编码数据进行复用，从而生成复用数据。所生成的复用数据被传输或积蓄。复用部4614除了PCC编码数据以外，还复用影像、声音、字幕、应用、文件等其他媒体、或者基准时刻信息。另外，复用部4614还可以对与传感器信息或者点群数据相关联的属性信息进行复用。
作为复用方式或文件格式，有ISOBMFF、作为ISOBMFF基础的传输方式的MPEG-DASH、MMT、MPEG-2TS Systems、RMP等。
逆复用部4623从复用数据中提取PCC编码数据、其他媒体以及时刻信息等。
输入输出部4615使用与广播或通信等传输介质或积蓄介质一致的方法传输复用数据。输入输出部4615可以经由因特网与其他设备进行通信，也可以与云服务器等积蓄部进行通信。
作为通信协议，使用http、ftp、TCP或UDP等。既可以使用PULL型的通信方式，也可以使用PUSH型的通信方式。
可以使用有线传输和无线传输中的任一种。作为有线传输，使用Ethernet(注册商标)、USB、RS-232C、HDMI(注册商标)或同轴电缆等。作为无线传输，使用无线LAN、Wi-Fi(注册商标)、Bluetooth(注册商标)或毫米波等。
此外，作为广播方式，例如使用DVB-T2、DVB-S2、DVB-C2、ATSC3.0或ISDB-S3等。
图5是表示进行第1编码方法的编码的编码部4613的例子即第1编码部4630的结构的图。图6是第1编码部4630的框图。第1编码部4630通过用第1编码方法对点群数据进行编码来生成编码数据(编码流)。该第1编码部4630包括位置信息编码部4631、属性信息编码部4632、附加信息编码部4633以及复用部4634。
第1编码部4630具有意识到三维结构来进行编码的特征。另外，第1编码部4630具有属性信息编码部4632使用从位置信息编码部4631得到的信息进行编码的特征。第1编码方法也被称为GPCC(Geometry based PCC)。
点群数据是PLY文件那样的PCC点群数据、或者根据传感器信息生成的PCC点群数据，包含位置信息(Position)、属性信息(Attribute)以及其他的附加信息(MetaData)。位置信息被输入到位置信息编码部4631，属性信息被输入到属性信息编码部4632，附加信息被输入到附加信息编码部4633。
位置信息编码部4631通过对位置信息进行编码，来生成作为编码数据的编码位置信息(Compressed Geometry)。例如，位置信息编码部4631使用八叉树等N叉树结构对位置信息进行编码。具体而言，在八叉树中，对象空间被分割为8个节点(子空间)，生成表示各节点中是否包含点群的8比特的信息(占用率代码)。另外，包含点群的节点进一步被分割为8个节点，生成表示在该8个节点的每一个中是否包含点群的8比特的信息。反复进行该处理，直到成为预先确定的层级或节点所包含的点群的数量的阈值以下为止。
属性信息编码部4632通过使用由位置信息编码部4631生成的构成信息进行编码，来生成作为编码数据的编码属性信息(Compressed Attribute)。例如，属性信息编码部4632基于由位置信息编码部4631生成的八叉树结构，决定在处理对象的对象点(对象节点)的编码中参照的参照点(参照节点)。例如，属性信息编码部4632参照周边节点或相邻节点中的八叉树中的父节点与对象节点的父节点相同的节点。另外，参照关系的决定方法不限于此。
另外，属性信息的编码处理可以包括量化处理、预测处理和算术编码处理中的至少一个。在该情况下，参照是指在属性信息的预测值的计算中使用参照节点，或者在编码的参数的决定中使用参照节点的状态(例如，表示在参照节点中是否包含点群的占有信息)。例如，编码的参数是量化处理中的量化参数、或者算术编码中的上下文等。
附加信息编码部4633通过对附加信息中的可压缩的数据进行编码，来生成作为编码数据的编码附加信息(Compressed MetaData)。
复用部4634通过对编码位置信息、编码属性信息、编码附加信息以及其他附加信息进行复用，来生成作为编码数据的编码流(Compressed Stream)。所生成的编码流被输出到未图示的系统层的处理部。
接着，对作为进行第1编码方法的解码的解码部4624的例子的第1解码部4640进行说明。图7是表示第1解码部4640的结构的图。图8是第1解码部4640的框图。第1解码部4640通过以第1编码方法对以第1编码方法进行了编码的编码数据(编码流)进行解码，来生成点群数据。该第1解码部4640包括逆复用部4641、位置信息解码部4642、属性信息解码部4643以及附加信息解码部4644。
从未图示的系统层的处理部将作为编码数据的编码流(Compressed Stream)输入到第1解码部4640。
逆复用部4641从编码数据中分离编码位置信息(Compressed Geometry)、编码属性信息(Compressed Attribute)、编码附加信息(Compressed MetaData)以及其他附加信息。
位置信息解码部4642通过对编码位置信息进行解码来生成位置信息。例如，位置信息解码部4642根据由八叉树等N叉树结构表示的编码位置信息，复原用三维坐标表示的点群的位置信息。
属性信息解码部4643基于由位置信息解码部4642生成的构成信息，对编码属性信息进行解码。例如，属性信息解码部4643基于由位置信息解码部4642得到的八叉树结构，决定在处理对象的对象点(对象节点)的解码中参照的参照点(参照节点)。例如，属性信息解码部4643参照周边节点或相邻节点中的八叉树中的父节点与对象节点的父节点相同的节点。另外，参照关系的决定方法不限于此。
另外，属性信息的解码处理也可以包括逆量化处理、预测处理以及算术解码处理中的至少一个。在该情况下，参照是指在属性信息的预测值的计算中使用参照节点、或者在解码的参数的决定中使用参照节点的状态(例如，表示在参照节点中是否包含点群的占有信息)。例如，解码的参数是逆量化处理中的量化参数、或者算术解码中的上下文等。
附加信息解码部4644通过对编码附加信息进行解码来生成附加信息。另外，第1解码部4640在解码时使用位置信息以及属性信息的解码处理所需的附加信息，向外部输出应用所需的附加信息。
接着，说明位置信息编码部的结构例。图9是本实施方式的位置信息编码部2700的框图。位置信息编码部2700具备八叉树生成部2701、几何信息计算部2702、编码表选择部2703、以及熵编码部2704。
八叉树生成部2701根据输入的位置信息生成例如八叉树，并且生成八叉树的各节点的占用率编码。几何信息计算部2702取得表示对象节点的相邻节点是否是占有节点的信息。例如，几何信息计算部2702根据对象节点所属的父节点的占用率编码计算相邻节点的占有信息(表示相邻节点是否是占有节点的信息)。此外，几何信息计算部2702可以预先将已编码的节点保存在列表中，并从该列表内搜索相邻节点。此外，几何信息计算部2702可以根据对象节点在父节点内的位置来切换相邻节点。
编码表选择部2703使用由几何信息计算部2702计算的相邻节点的占有信息，选择对象节点的熵编码中使用的编码表。例如，编码表选择部2703可以使用相邻节点的占有信息来生成比特串，并选择从该比特串生成的索引号的编码表。
熵编码部2704通过使用所选择的索引号的编码表对对象节点的占用率编码进行熵编码，生成编码位置信息和元数据。熵编码部2704也可以将表示所选择的编码表的信息附加在编码位置信息中。
以下，说明八叉树表现和位置信息的扫描顺序。位置信息(位置数据)被变换为八叉树结构(八叉树化)后被编码。八叉树结构由节点和叶构成。各节点具有8个节点或叶，各叶具有体素(VXL)信息。图10是表示包含多个体素的位置信息的结构例的图。图11是表示图10所示的位置信息被变换为八叉树结构的例子的图。这里，图11所示的叶中，叶1、2、3分别表示图10所示的体素VXL1、VXL2、VXL3，并表现有包含点群的VXL(以下，有效VXL)。
具体而言，节点1对应于包含图10的位置信息的整个空间。将对应于节点1的整个空间分割为8个节点，将8个节点中包含有效VXL的节点进一步分割为8个节点或叶，与树结构的层级量相应地重复该处理。这里，各节点对应于子空间，作为节点信息具有表示在分割后的哪个位置具有下一个节点或叶的信息(占用率编码)。此外，将最下层的块设定在叶中，保持包含在叶内的点群数等作为叶信息。
接着，说明位置信息解码部的结构例。图12是本实施方式的位置信息解码部2710的框图。位置信息解码部2710具备八叉树生成部2711、几何信息计算部2712、编码表选择部2713以及熵解码部2714。
八叉树生成部2711使用比特流的头信息或者元数据等来生成某空间(节点)的八叉树。例如，八叉树生成部2711使用附加在头信息中的某空间的x轴、y轴、z轴方向的大小来生成大空间(根节点)，通过将该空间在x轴、y轴、z轴方向上分别进行2分割而生成8个小空间A(节点A0～A7)，从而生成八叉树。另外，节点A0～A7被依次设定为对象节点。
几何信息计算部2712取得表示对象节点的相邻节点是否是占有节点的占有信息。例如，几何信息计算部2712根据对象节点所属的父节点的占用率编码来计算相邻节点的占有信息。此外，几何信息计算部2712可以预先将已解码的节点保存在列表中，并从该列表内搜索相邻节点。此外，几何信息计算部2712可以根据对象节点在父节点内的位置来切换相邻节点。
编码表选择部2713使用由几何信息计算部2712计算出的相邻节点的占有信息，选择在对象节点的熵解码中使用的编码表(解码表)。例如，编码表选择部2713可以使用相邻节点的占有信息生成比特串，并选择从该比特串生成的索引号的编码表。
熵解码部2714通过使用所选择的编码表对对象节点的占用率编码进行熵解码，生成位置信息。另外，熵解码部2714也可以从比特流中解码并取得所选择的编码表的信息，使用由该信息表示的编码表，对对象节点的占用率编码进行熵解码。
以下，说明属性信息编码部及属性信息解码部的结构。图13是表示属性信息编码部A100的结构例的框图。属性信息编码部可以包括执行不同的编码方法的多个编码部。例如，属性信息编码部可以根据使用情况来切换使用以下两种方法。
属性信息编码部A100包括LoD属性信息编码部A101和变换属性信息编码部A102。LoD属性信息编码部A101使用三维点的位置信息将各三维点分类到多个层级，预测属于各层级的三维点的属性信息，对该预测残差进行编码。在此，将分类后的各层级称为LoD(Level of Detail，多细节层次)。
变换属性信息编码部A102使用RAHT(Region Adaptive HierarchicalTransform，区域自适应分层变换)对属性信息进行编码。具体而言，变换属性信息编码部A102根据三维点的位置信息，对各属性信息应用RAHT或Haar变换，生成各层级的高频成分和低频成分，并利用量化和熵编码等对这些值进行编码。
图14是表示属性信息解码部A110的结构例的框图。属性信息解码部可以包括执行不同解码方法的多个解码部。例如，属性信息解码部也可以根据头或元数据中包含的信息来切换下述两种方式进行解码。
属性信息解码部A110包括LoD属性信息解码部A111和变换属性信息解码部A112。LoD属性信息解码部A111使用三维点的位置信息将各三维点分类到多个层级，一边预测属于各层级的三维点的属性信息一边解码属性值。
变换属性信息解码部A112使用RAHT(Region Adaptive HierarchicalTransform)对属性信息进行解码。具体而言，变换属性信息解码部A112根据三维点的位置信息，对各属性值的高频成分及低频成分应用inverse RAHT或inverse Haar变换，对属性值进行解码。
图15是表示作为LoD属性信息编码部A101的一例的属性信息编码部3140的结构的框图。
属性信息编码部3140包括LoD生成部3141、周围搜索部3142、预测部3143、预测残差计算部3144、量化部3145、算术编码部3146、逆量化部3147、解码值生成部3148和存储器3149。
LoD生成部3141使用三维点的位置信息生成LoD。
周围搜索部3142使用由LoD生成部3141进行的LoD的生成结果和表示各三维点间的距离的距离信息，搜索与各三维点相邻的邻近三维点。
预测部3143生成编码对象的对象三维点的属性信息的预测值。
预测残差计算部3144计算(生成)由预测部3143生成的属性信息的预测值的预测残差。
量化部3145对由预测残差计算部3144计算出的属性信息的预测残差进行量化。
算术编码部3146对由量化部3145量化后的预测残差进行算术编码。算术编码部3146将包含算术编码后的预测残差的比特流输出到例如三维数据解码装置。
此外，预测残差也可以在通过算术编码部3146进行算术编码之前，例如通过量化部3145进行二值化。
此外，例如，算术编码部3146可以在算术编码之前对用于算术编码的编码表进行初始化。算术编码部3146可以按每个层对用于算术编码的编码表进行初始化。另外，算术编码部3146也可以将表示对编码表进行了初始化的层的位置的信息包含在比特流中进行输出。
逆量化部3147对由量化部3145量化后的预测残差进行逆量化。
解码值生成部3148通过将由预测部3143生成的属性信息的预测值与由逆量化部3147逆量化后的预测残差相加来生成解码值。
存储器3149是存储由解码值生成部3148解码的各三维点的属性信息的解码值的存储器。例如，在生成尚未编码的三维点的预测值的情况下，预测部3143利用存储在存储器3149中的各三维点的属性信息的解码值来生成预测值。
图16是作为变换属性信息编码部A102的一例的属性信息编码部6600的框图。属性信息编码部6600具备排序部6601、Haar变换部6602、量化部6603、逆量化部6604、逆Haar变换部6605、存储器6606以及算术编码部6607。
排序部6601使用三维点的位置信息生成莫顿编码，按照莫顿编码顺序对多个三维点进行排序。Haar变换部6602通过对属性信息应用Haar变换来生成编码系数。量化部6603对属性信息的编码系数进行量化。
逆量化部6604对量化后的编码系数进行逆量化。逆Haar变换部6605对编码系数应用逆Haar变换。存储器6606存储已解码的多个三维点的属性信息的值。例如，存储器6606中存储的已解码的三维点的属性信息也可以利用于未被编码的三维点的预测等。
算术编码部6607根据量化后的编码系数计算ZeroCnt，对ZeroCnt进行算术编码。另外，算术编码部6607对量化后的非零的编码系数进行算术编码。算术编码部6607可以在算术编码前对编码系数进行二值化。另外，算术编码部6607也可以生成和编码各种头信息。
图17是表示作为LoD属性信息解码部A111的一例的属性信息解码部3150的结构的框图。
属性信息解码部3150包括LoD生成部3151、周围搜索部3152、预测部3153、算术解码部3154、逆量化部3155、解码值生成部3156以及存储器3157。
LoD生成部3151，使用由位置信息解码部(在图17中未图示)解码的三维点的位置信息来生成LoD。
周围搜索部3152使用LoD生成部3151的LoD的生成结果和表示各三维点间的距离的距离信息，搜索与各三维点相邻的邻近三维点。
预测部3153生成解码对象的对象三维点的属性信息的预测值。
算术解码部3154对从图15所示的属性信息编码部3140获得的比特流内的预测残差进行算术解码。此外，算术解码部3154可以对用于算术解码的解码表进行初始化。对图15所示的算术编码部3146进行了编码处理的层，算术解码部3154对用于算术解码的解码表进行初始化。算术解码部3154可以按每个层对用于算术解码的解码表进行初始化。此外，算术解码部3154可以基于包含在比特流中的、表示编码表初始化后的层的位置的信息，对解码表进行初始化。
逆量化部3155对算术解码部3154进行算术解码后的预测残差进行逆量化。
解码值生成部3156将由预测部3153生成的预测值和由逆量化部3155逆量化后的预测残差相加而生成解码值。解码值生成部3156将解码后的属性信息数据向其他装置输出。
存储器3157是存储由解码值生成部3156解码的各三维点的属性信息的解码值的存储器。例如，在生成尚未解码的三维点的预测值的情况下，预测部3153利用存储在存储器3157中的各三维点的属性信息的解码值来生成预测值。
图18是作为变换属性信息解码部A112的一例的属性信息解码部6610的框图。属性信息解码部6610具备算术解码部6611、逆量化部6612、逆Haar变换部6613以及存储器6614。
算术解码部6611对比特流所包含的ZeroCnt和编码系数进行算术解码。另外，算术解码部6611也可以对各种头信息进行解码。
逆量化部6612对算术解码出的编码系数进行逆量化。逆Haar变换部6613对逆量化后的编码系数应用逆Haar变换。存储器6614存储已解码的多个三维点的属性信息的值。例如，存储器6614中存储的已解码的三维点的属性信息也可以利用于未被解码的三维点的预测。
接着，对作为进行第2编码方法的编码的编码部4613的例子的第2编码部4650进行说明。图19是表示第2编码部4650的结构的图。图20是第2编码部4650的框图。
第2编码部4650通过以第2编码方法对点群数据进行编码来生成编码数据(编码流)。该第2编码部4650包括附加信息生成部4651、位置图像生成部4652、属性图像生成部4653、影像编码部4654、附加信息编码部4655以及复用部4656。
第2编码部4650具有如下特征：通过将三维结构投影于二维图像来生成位置图像以及属性图像，并使用现有的影像编码方式对所生成的位置图像以及属性图像进行编码。第2编码方法也被称为VPCC(video based PCC，基于视频的PCC)。
点群数据是PLY文件那样的PCC点群数据、或者根据传感器信息生成的PCC点群数据，包含位置信息(Position)、属性信息(Attribute)以及其他的附加信息(MetaData)。
附加信息生成部4651通过将三维结构投影到二维图像，来生成多个二维图像的映射信息。
位置图像生成部4652基于位置信息和由附加信息生成部4651生成的映射信息，生成位置图像(Geometry Image)。该位置图像例如是表示距离(Depth)作为像素值的距离图像。另外，该距离图像既可以是从1个视点观察多个点群的图像(在1个二维平面上投影了多个点群的图像)，也可以是从多个视点观察多个点群的多个图像，也可以是将这些多个图像合并而成的1个图像。
属性图像生成部4653基于属性信息和由附加信息生成部4651生成的映射信息，生成属性图像。该属性图像例如是表示属性信息(例如颜色(RGB))作为像素值的图像。另外，该图像可以是从1个视点观察多个点群的图像(在1个二维平面上投影了多个点群的图像)，也可以是从多个视点观察多个点群的多个图像，也可以是将这些多个图像合并而成的1个图像。
影像编码部4654通过使用影像编码方式对位置图像以及属性图像进行编码，从而生成作为编码数据的编码位置图像(Compressed Geometry Image)以及编码属性图像(Compressed Attribute Image)。此外，作为影像编码方式，可以使用公知的任意的编码方式。例如，影像编码方式是AVC或HEVC等。
附加信息编码部4655通过对点群数据中包含的附加信息以及映射信息等进行编码来生成编码附加信息(Compressed MetaData)。
复用部4656通过对编码位置图像、编码属性图像、编码附加信息以及其他附加信息进行复用，来生成作为编码数据的编码流(Compressed Stream)。所生成的编码流被输出到未图示的系统层的处理部。
接着，对作为进行第2编码方法的解码的解码部4624的例子的第2解码部4660进行说明。图21是表示第2解码部4660的结构的图。图22是第2解码部4660的框图。第2解码部4660通过以第2编码方法对以第2编码方法进行了编码的编码数据(编码流)进行解码，来生成点群数据。该第2解码部4660包括逆复用部4661、影像解码部4662、附加信息解码部4663、位置信息生成部4664以及属性信息生成部4665。
从未图示的系统层的处理部将作为编码数据的编码流(Compressed Stream)输入到第2解码部4660。
逆复用部4661从编码数据中分离编码位置图像(Compressed Geometry Image)、编码属性图像(Compressed Attribute Image)、编码附加信息(Compressed MetaData)以及其他附加信息。
影像解码部4662通过使用影像编码方式对编码位置图像以及编码属性图像进行解码，来生成位置图像以及属性图像。此外，作为影像编码方式，可以使用公知的任意的编码方式。例如，影像编码方式是AVC或HEVC等。
附加信息解码部4663通过对编码附加信息进行解码，来生成包含映射信息等的附加信息。
位置信息生成部4664使用位置图像和映射信息生成位置信息。属性信息生成部4665使用属性图像和映射信息生成属性信息。
第2解码部4660在解码时使用解码所需的附加信息，向外部输出应用所需的附加信息。
以下，说明PCC编码方式中的课题。图23是表示与PCC编码数据有关的协议栈的图。图23表示在PCC编码数据中复用、传输或积蓄影像(例如HEVC)或声音等其他媒体的数据的例子。
复用方式及文件格式具有用于复用、传输或积蓄各种编码数据的功能。为了传输或积蓄编码数据，必须将编码数据变换为复用方式的格式。例如，在HEVC中，规定了将编码数据保存在被称为NAL单元的数据结构中，将NAL单元保存到ISOBMFF中的技术。
另一方面，当前，作为点群数据的编码方式，正在研究第1编码方法(Codec1)以及第2编码方法(Codec2)，但没有定义编码数据的结构以及将编码数据保存到系统格式的方法，存在无法直接进行编码部中的MUX处理(复用)、传输以及积蓄这样的课题。
另外，以下，如果没有特定的编码方法的记载，则表示第1编码方法和第2编码方法中的任一个。
(实施方式2)
在本实施方式中，对由上述的第1编码部4630或第2编码部4650生成的编码数据(位置信息(Geometry)、属性信息(Attribute)、附加信息(Metadata))的种类及附加信息(元数据)的生成方法、以及复用部中的复用处理进行说明。另外，附加信息(元数据)也有表述为参数集或控制信息的情况。
在本实施方式中，以在图4中说明的动态对象(随时间而变化的三维点群数据)为例进行说明，但在静态对象(任意的时刻的三维点群数据)的情况下也可以使用同样的方法。
图24是表示在有关本实施方式的三维数据编码装置中包含的编码部4801及复用部4802的结构的图。编码部4801例如对应于上述的第1编码部4630或第2编码部4650。复用部4802对应于上述的复用部4634或4656。
编码部4801将多个PCC(Point Cloud Compression)帧的点群数据编码，生成多个位置信息、属性信息及附加信息的编码数据(Multiple Compressed Data)。
复用部4802通过对多个数据种类(位置信息、属性信息及附加信息)的数据进行NAL单元化，将数据变换为考虑了解码装置中的数据访问的数据结构。
图25是表示由编码部4801生成的编码数据的结构例的图。图中的箭头表示与编码数据的解码有关的依赖关系，箭头的根部依赖于箭头的尖部的数据。即，解码装置将箭头的尖部的数据解码，使用该解码的数据将箭头的根部的数据解码。换言之，依赖是指在依赖源的数据的处理(编码或解码等)中参照(使用)依赖目标的数据。
首先，对位置信息的编码数据的生成处理进行说明。编码部4801通过将各帧的位置信息编码，生成各帧的编码位置数据(Compressed Geometry Data)。此外，将编码位置数据用G(i)表示。i表示帧号或帧的时刻等。
此外，编码部4801生成与各帧对应的位置参数集(GPS(i))。位置参数集包含能够在编码位置数据的解码中使用的参数。此外，每个帧的编码位置数据依赖于对应的位置参数集。
此外，将由多个帧构成的编码位置数据定义为位置序列(Geometry Sequence)。编码部4801生成将在对于位置序列内的多个帧的解码处理中共同使用的参数进行保存的位置序列参数集(Geometry Sequence PS：也记作位置SPS)。位置序列依赖于位置SPS。
接着，对属性信息的编码数据的生成处理进行说明。编码部4801通过将各帧的属性信息编码，生成各帧的编码属性数据(Compressed Attribute Data)。此外，将编码属性数据用A(i)表示。此外，在图25中，示出了存在属性X和属性Y的例子，将属性X的编码属性数据用AX(i)表示，将属性Y的编码属性数据用AY(i)表示。
此外，编码部4801生成与各帧对应的属性参数集(APS(i))。此外，将属性X的属性参数集用AXPS(i)表示，将属性Y的属性参数集用AYPS(i)表示。属性参数集包含能够在编码属性信息的解码中使用的参数。编码属性数据依赖于对应的属性参数集。
此外，将由多个帧构成的编码属性数据定义为属性序列(Attribute Sequence)。编码部4801生成将在对于属性序列内的多个帧的解码处理中共同使用的参数进行保存的属性序列参数集(Attribute Sequence PS：也记作属性SPS)。属性序列依赖于属性SPS。
此外，在第1编码方法中，编码属性数据依赖于编码位置数据。
此外，在图25中，示出了存在两种属性信息(属性X和属性Y)的情况下的例子。在有两种属性信息的情况下，例如由两个编码部生成各自的数据及元数据。此外，例如按属性信息的每个种类来定义属性序列，按属性信息的每个种类来生成属性SPS。
另外，在图25中，示出了位置信息是1种、属性信息是两种的例子，但并不限于此，属性信息也可以是1种，也可以是3种以上。在此情况下，也能够用同样的方法生成编码数据。此外，在不具有属性信息的点群数据的情况下，也可以没有属性信息。在此情况下，编码部4801也可以不生成与属性信息关联的参数集。
接着，对附加信息(元数据)的生成处理进行说明。编码部4801生成PCC流整体的参数集即PCC流PS(PCC Stream PS：也记作流PS)。编码部4801在流PS中保存能够在对1个或多个位置序列及1个或多个属性序列的解码处理中共同使用的参数。例如，在流PS中，包含表示点群数据的编解码器的识别信息及表示在编码中使用的算法的信息等。位置序列及属性序列依赖于流PS。
接着，对访问单元及GOF进行说明。在本实施方式中，新导入访问单元(AccessUnit：AU)及GOF(Group of Frame：帧组)的考虑方式。
访问单元是在解码时用来访问数据的基本单位，由1个以上的数据及1个以上的元数据构成。例如，访问单元由相同时刻的位置信息和1个或多个属性信息构成。GOF是随机访问单位，由1个以上的访问单元构成。
编码部4801生成访问单元头(AU Header)作为表示访问单元的开头的识别信息。编码部4801在访问单元头中保存与访问单元有关的参数。例如，访问单元头包含：在访问单元中包含的编码数据的结构或信息。此外，访问单元头包含对在访问单元中包含的数据共同使用的参数，例如与编码数据的解码有关的参数等。
另外，编码部4801也可以代替访问单元头而生成不包含与访问单元有关的参数的访问单元定界符。该访问单元定界符被用作表示访问单元的开头的识别信息。解码装置通过检测访问单元头或访问单元定界符，识别访问单元的开头。
接着，对GOF开头的识别信息的生成进行说明。编码部4801生成GOF头(GOFHeader)作为表示GOF的开头的识别信息。编码部4801在GOF头中保存与GOF有关的参数。例如，GOF头包含：在GOF中包含的编码数据的结构或信息。此外，GOF头包含对在GOF中包含的数据共同使用的参数，例如与编码数据的解码有关的参数等。
另外，编码部4801也可以代替GOF头而生成不包含与GOF有关的参数的GOF定界符。该GOF定界符被用作表示GOF的开头的识别信息。解码装置通过检测GOF头或GOF定界符，识别GOF的开头。
在PCC编码数据中，例如定义为访问单元是PCC帧单位。解码装置基于访问单元开头的识别信息，对PCC帧进行访问。
此外，例如GOF被定义为1个随机访问单位。解码装置基于GOF开头的识别信息，对随机访问单位进行访问。例如，如果PCC帧相互没有依赖关系而能够单独解码，则也可以将PCC帧定义为随机访问单位。
另外，也可以对1个访问单元分配两个以上的PCC帧，也可以对1个GOF分配多个随机访问单位。
此外，编码部4801也可以定义并生成上述以外的参数集或元数据。例如，编码部4801也可以生成保存有可能在解码时不一定使用的参数(可选的参数)的SEI(Supplemental Enhancement Information：补充增强信息)。
接着，说明编码数据的结构及编码数据向NAL单元的保存方法。
例如，按编码数据的每个种类规定数据格式。图26是表示编码数据及NAL单元的例子的图。
例如，如图26所示，编码数据包括头和有效载荷。另外，编码数据也可以包含编码数据、头或表示有效载荷的长度(数据量)的长度信息。此外，编码数据也可以不包含头。
头例如包含用来确定数据的识别信息。该识别信息例如表示数据种类或帧号。
头例如包含表示参照关系的识别信息。该识别信息例如是在数据间有依赖关系的情况下被保存到头中，用来从参照源对参照目标进行参照的信息。例如，在参照目标的头中，包含用来确定该数据的识别信息。在参照源的头中，包含表示参照目标的识别信息。
另外，在能够从其他信息识别或导出参照目标或参照源的情况下，也可以省略用来确定数据的识别信息或表示参照关系的识别信息。
复用部4802将编码数据保存在NAL单元的有效载荷中。在NAL单元头中，包含作为编码数据的识别信息的pcc_nal_unit_type。图27是表示pcc_nal_unit_type的语义例的图。
如图27所示，在pcc_codec_type是编解码器1(Codec1：第1编码方法)的情况下，pcc_nal_unit_type的值0～10被分配给编解码器1中的编码位置数据(Geometry)、编码属性X数据(AttributeX)、编码属性Y数据(AttributeY)、位置PS(Geom.PS)、属性XPS(AttrX.PS)、属性YPS(AttrX.PS)、位置SPS(Geometry Sequence PS)、属性XSPS(AttributeX Sequence PS)、属性YSPS(AttributeY Sequence PS)、AU头(AU Header)、GOF头(GOF Header)。此外，值11以后被分配为编解码器1的备用。
在pcc_codec_type是编解码器2(Codec2：第2编码方法)的情况下，pcc_nal_unit_type的值0～2被分配给编解码器的数据A(DataA)、元数据A(MetaDataA)、元数据B(MetaDataB)。此外，值3以后被分配为编解码器2的备用。
接着，对数据的送出顺序进行说明。以下，对NAL单元的送出顺序的制约进行说明。
复用部4802将NAL单元以GOF或AU单位一起送出。复用部4802将GOF头配置在GOF的开头，将AU头配置在AU的开头。
复用部4802也可以按每个AU来配置序列参数集(SPS)，以使得在因丢包等而丢失了数据的情况下解码装置也能够从下个AU起进行解码。
在编码数据中有与解码有关的依赖关系的情况下，解码装置在将参照目标的数据解码后，将参照源的数据解码。在解码装置中，为了使得能够不将数据重新排列而以接收到的顺序进行解码，复用部4802先送出参照目标的数据。
图28是表示NAL单元的送出顺序的例子的图。图28表示位置信息优先、参数优先和数据合并这3个例子。
位置信息优先的送出顺序是将与位置信息有关的信息和与属性信息有关的信息的各信息一起送出的例子。在该送出顺序的情况下，与位置信息有关的信息的送出比与属性信息有关的信息的送出更早完成。
例如，通过使用该送出顺序，不解码属性信息的解码装置通过忽视属性信息的解码，有可能能够设置不进行处理的时间。此外，例如在想要早解码位置信息的解码装置的情况下，通过较早得到位置信息的编码数据，有可能能够更早地解码位置信息。
另外，在图28中，将属性XSPS与属性YSPS合并而记作属性SPS，但也可以单独地配置属性XSPS和属性YSPS。
在参数集优先的送出顺序中，先送出参数集，后送出数据。
如以上这样，只要遵循NAL单元送出顺序的制约，复用部4802将NAL单元以怎样的顺序送出都可以。例如，也可以定义顺序识别信息，复用部4802具有以多个样式的顺序送出NAL单元的功能。例如在流PS中保存NAL单元的顺序识别信息。
三维数据解码装置也可以基于顺序识别信息进行解码。也可以从三维数据解码装置向三维数据编码装置指示期望的送出顺序，三维数据编码装置(复用部4802)按照被指示的送出顺序对送出顺序进行控制。
另外，只要是如数据合并的送出顺序那样遵循送出顺序的制约的范围，复用部4802也可以生成将多个功能归并的编码数据。例如，如图28所示，也可以将GOF头与AU头合并，也可以将AXPS与AYPS合并。在此情况下，在pcc_nal_unit_type中，定义表示是具有多个功能的数据的标识符。
以下，对本实施方式的变形例进行说明。如帧级的PS、序列级的PS、PCC序列级的PS那样，PS有级别，如果将PCC序列级设为上位的级别，将帧级设为下位的级别，则参数的保存方法也可以使用下述的方法。
将默认的PS的值用较上位的PS表示。此外，在下位的PS的值与上位的PS的值不同的情况下，用下位的PS表示PS的值。或者，在上位不记载PS的值，在下位的PS中记载PS的值。或者，用下位的PS和上位的PS的某一方或双方来表示将PS的值用下位的PS表示、还是用上位的PS表示、还是用双方表示的信息。或者，也可以将下位的PS归并到上位的PS。或者，在下位的PS与上位的PS重复的情况下，复用部4802也可以将某一方的送出省略。
另外，编码部4801或复用部4802也可以将数据分割为切片或瓦片等，将分割后的数据送出。在分割后的数据中，包含用来识别所分割的数据的信息，在参数集中包含在分割数据的解码中使用的参数。在此情况下，在pcc_nal_unit_type中，定义表示是与瓦片或切片有关的数据或保存参数的数据的标识符。
以下，对有关顺序识别信息的处理进行说明。图29是有关NAL单元的送出顺序的由三维数据编码装置(编码部4801及复用部4802)进行的处理的流程图。
首先，三维数据编码装置决定NAL单元的送出顺序(位置信息优先或参数集优先)(S4801)。例如，三维数据编码装置基于来自用户或外部装置(例如三维数据解码装置)的指定，决定送出顺序。
在所决定的送出顺序是位置信息优先的情况下(在S4802中为位置信息优先)，三维数据编码装置将流PS中包含的顺序识别信息设定为位置信息优先(S4803)。即，在此情况下，顺序识别信息表示以位置信息优先的顺序送出NAL单元。并且，三维数据编码装置以位置信息优先的顺序送出NAL单元(S4804)。
另一方面，在所决定的送出顺序是参数集优先的情况下(在S4802中为参数集优先)，三维数据编码装置将流PS中包含的顺序识别信息设定为参数集优先(S4805)。即，在此情况下，顺序识别信息表示以参数集优先的顺序送出NAL单元。并且，三维数据编码装置以参数集优先的顺序送出NAL单元(S4806)。
图30是有关NAL单元的送出顺序的由三维数据解码装置进行的处理的流程图。首先，三维数据解码装置对流PS中包含的顺序识别信息进行解析(S4811)。
在由顺序识别信息表示的送出顺序是位置信息优先的情况下(在S4812中为位置信息优先)，三维数据解码装置认为NAL单元的送出顺序是位置信息优先，将NAL单元解码(S4813)。
另一方面，在由顺序识别信息表示的送出顺序是参数集优先的情况下(在S4812中为参数集优先)，三维数据解码装置认为NAL单元的送出顺序是参数集优先，将NAL单元解码(S4814)。
例如，三维数据解码装置在不将属性信息解码的情况下，也可以在步骤S4813中不取得全部的NAL单元，而取得关于位置信息的NAL单元，根据所取得的NAL单元将位置信息解码。
接着，对有关AU及GOF的生成的处理进行说明。图31是有关NAL单元的复用中的AU及GOF生成的由三维数据编码装置(复用部4802)进行的处理的流程图。
首先，三维数据编码装置判定编码数据的种类(S4821)。具体而言，三维数据编码装置判定处理对象的编码数据是AU开头的数据、GOF开头的数据、还是其以外的数据。
在编码数据为GOF开头的数据的情况下(在S4822中为GOF开头)，三维数据编码装置将GOF头及AU头配置到属于GOF的编码数据的开头而生成NAL单元(S4823)。
在编码数据是AU开头的数据的情况下(在S4822中为AU开头)，三维数据编码装置将AU头配置到属于AU的编码数据的开头而生成NAL单元(S4824)。
在编码数据既不是GOF开头也不是AU开头的情况下(在S4822中为GOF开头、AU开头以外)，三维数据编码装置将编码数据配置到编码数据所属的AU的AU头之后而生成NAL单元(S4825)。
接着，对有关向AU及GOF的访问的处理进行说明。图32是有关NAL单元的逆复用中的AU及GOF的访问的三维数据解码装置的处理的流程图。
首先，三维数据解码装置通过对NAL单元中包含的nal_unit_type进行解析，判定NAL单元中包含的编码数据的种类(S4831)。具体而言，三维数据解码装置判定NAL单元中包含的编码数据是AU开头的数据、GOF开头的数据、还是其以外的数据。
在NAL单元中包含的编码数据为GOF开头的数据的情况下(S4832的GOF开头)，三维数据解码装置判断为NAL单元是随机访问的开始位置，对该NAL单元访问，开始解码处理(S4833)。
另一方面，在NAL单元中包含的编码数据是AU开头的数据的情况下(在S4832中为AU开头)，三维数据解码装置判断为NAL单元是AU开头，对NAL单元中包含的数据进行访问，将该AU解码(S4834)。
另一方面，在NAL单元中包含的编码数据既不是GOF开头也不是AU开头的情况下(在S4832中为GOF开头、AU开头以外)，三维数据解码装置不处理该NAL单元。
(实施方式3)
三维点群的信息包含位置信息(geometry)和属性信息(attribute)。位置信息包含以某个点为基准的坐标(x坐标、y坐标、z坐标)。在对位置信息进行编码的情况下，代替直接对各三维点的坐标进行编码，而使用通过用八叉树表现来表现各三维点的位置并对八叉树的信息进行编码从而削减编码量的方法。
另一方面，属性信息包含表示各三维点的颜色信息(RGB、YUV等)、反射率以及法线向量等的信息。例如，三维数据编码装置能够使用与位置信息不同的编码方法对属性信息进行编码。
在本实施方式中，对属性信息的编码方法进行说明。另外，在本实施方式中，使用整数值来作为属性信息的值进行说明。例如在颜色信息RGB或YUV的各颜色成分为8bit精度的情况下，各颜色成分取0～255的整数值。在反射率的值为10bit精度的情况下，反射率的值取0～1023的整数值。此外，在属性信息的比特精度为小数精度的情况下，三维数据编码装置也可以对该值乘以缩放值之后舍入为整数值，以使属性信息的值成为整数值。另外，三维数据编码装置也可以将该缩放值附加于比特流的头等。
作为三维点的属性信息的编码方法，考虑计算三维点的属性信息的预测值，并对原来的属性信息的值与预测值的差分(预测残差)进行编码。例如，在三维点p的属性信息的值为Ap、预测值为Pp的情况下，三维数据编码装置对其差分绝对值Diffp＝|Ap-Pp|进行编码。在该情况下，如果能够高精度地生成预测值Pp，则差分绝对值Diffp的值变小。因此，例如通过使用值越小则产生比特数越小的编码表来对差分绝对值Diffp进行熵编码，能够削减编码量。
作为生成属性信息的预测值的方法，考虑使用位于编码对象的对象三维点的周围的其他三维点即参照三维点的属性信息。在此，参照三维点是指距对象三维点处于预先规定的距离范围内的三维点。例如，在存在对象三维点p＝(x1，y1，z1)和三维点q＝(x2，y2，z2)的情况下，三维数据编码装置计算(式A1)所示的三维点p与三维点q的欧氏距离d(p，q)。
[数式1]
Figure BDA0003995383900000321
三维数据编码装置在欧氏距离d(p，q)小于预定的阈值THd的情况下，判定为三维点q的位置接近对象三维点p的位置，判定为在对象三维点p的属性信息的预测值的生成中利用三维点q的属性信息的值。另外，距离计算方法也可以是其他方法，例如也可以使用马氏距离等。另外，三维数据编码装置也可以判定为不将距对象三维点预先规定的距离范围外的三维点用于预测处理。例如，在存在三维点r、且对象三维点p与三维点r的距离d(p，r)为阈值THd以上的情况下，三维数据编码装置也可以判定为不将三维点r用于预测。此外，三维数据编码装置也可以将表示阈值THd的信息附加于比特流的头等。
图33是表示三维点的例子的图。在该例中，对象三维点p与三维点q的距离d(p、q)小于阈值THd。因此，三维数据编码装置将三维点q判定为对象三维点p的参照三维点，判定为在对象三维点p的属性信息Ap的预测值Pp的生成中利用三维点q的属性信息Aq的值。
另一方面，对象三维点p与三维点r的距离d(p，r)为阈值THd以上。因此，三维数据编码装置判定为三维点r不是对象三维点p的参照三维点，判定为在对象三维点p的属性信息Ap的预测值Pp的生成中不利用三维点r的属性信息Ar的值。
此外，在使用预测值对对象三维点的属性信息进行编码的情况下，三维数据编码装置将已经对属性信息编码及解码完毕的三维点作为参照三维点利用。同样地，在使用预测值对解码对象的对象三维点的属性信息进行解码的情况下，三维数据解码装置将已经对属性信息已解码的三维点作为参照三维点利用。由此，能够在编码时和解码时生成相同的预测值，因此能够在解码侧正确地对通过编码生成的三维点的比特流进行解码。
另外，在对三维点的属性信息进行编码的情况下，考虑使用三维点的位置信息将各三维点分类为多个层级之后进行编码。在此，将分类后的各层级称为LoD(Level ofDetail)。使用图34对LoD的生成方法进行说明。
首先，三维数据编码装置选择初始点a0，并分配给LoD0。接着，三维数据编码装置提取距点a0的距离大于LoD0的阈值Thres_LoD[0]的点a1并分配给LoD0。接着，三维数据编码装置提取距点a1的距离大于LoD0的阈值Thres_LoD[0]的点a2并分配给LoD0。这样，三维数据编码装置以LoD0内的各点之间的距离大于阈值Thres_LoD[0]的方式构成LoD0。
接着，三维数据编码装置选择还未分配LoD的点b0，并分配给LoD1。接着，三维数据编码装置提取距点b0的距离大于LoD1的阈值Thres_LoD[1]、且未分配LoD的点b1并分配给LoD1。接着，三维数据编码装置提取距点b1的距离大于LoD1的阈值Thres_LoD[1]、且未分配LoD的点b2并分配给LoD1。这样，三维数据编码装置以LoD1内的各点之间的距离大于阈值Thres_LoD[1]的方式构成LoD1。
接着，三维数据编码装置选择还未分配LoD的点c0，并分配给LoD2。接着，三维数据编码装置提取距点c0的距离大于LoD2的阈值Thres_LoD[2]、且未分配LoD的点c1并分配给LoD2。接着，三维数据编码装置提取距点c1的距离大于LoD2的阈值Thres_LoD[2]、且未分配LoD的点c2并分配给LoD2。这样，三维数据编码装置以LoD2内的各点之间的距离大于阈值Thres_LoD[2]的方式构成LoD2。例如，如图35所示，设定各LoD的阈值Thres_LoD[0]、Thres_LoD[1]以及Thres_LoD[2]。
另外，三维数据编码装置也可以将表示各LoD的阈值的信息附加于比特流的头等。例如，在图35所示的例子的情况下，三维数据编码装置也可以将阈值Thres_LoD[0]、Thres_LoD[1]以及Thres_LoD[2]附加到头。
另外，三维数据编码装置也可以将未分配LoD的所有三维点分配给LoD的最下层。在该情况下，三维数据编码装置能够通过不将LoD的最下层的阈值附加到头来削减头的编码量。例如，在图35所示的例子的情况下，三维数据编码装置将阈值Thres_LoD[0]和Thres_LoD[1]附加到头，不将Thres_LoD[2]附加到头。在该情况下，三维数据解码装置也可以将Thres_LoD[2]的值估计为0。另外，三维数据编码装置也可以将LoD的层级数附加到头。由此，三维数据解码装置能够使用LoD的层级数来判定最下层的LoD。
另外，如图35所示，将LoD的各层的阈值的值设定为越靠上位层越大，从而越是上位层(越接近LoD0的层)则越是成为三维点间的距离远的疏点群(sparse)，越是下位层则越是成为三维点间的距离近的密点群(dense)。另外，在图35所示的例子中，LoD0是最上位层。
另外，设定各LoD时的初始三维点的选择方法也可以依赖于位置信息编码时的编码顺序。例如，三维数据编码装置选择在位置信息编码时最初被编码的三维点作为LoD0的初始点a0，以初始点a0为基点，选择点a1、点a2来构成LoD0。而且，三维数据编码装置也可以选择在不属于LoD0的三维点中最早位置信息被编码的三维点作为LoD1的初始点b0。即，三维数据编码装置也可以选择在不属于LoDn的上层(LoD0～LoDn-1)的三维点中，最早位置信息被编码的三维点作为LoDn的初始点n0。由此，三维数据解码装置通过在解码时使用同样的初始点选择方法，能够构成与编码时相同的LoD，因此能够适当地对比特流进行解码。具体而言，三维数据解码装置选择在不属于LoDn的上层的三维点中，最早位置信息被解码的三维点作为LoDn的初始点n0。
以下，对使用LoD的信息生成三维点的属性信息的预测值的手法进行说明。例如，在从LoD0所包含的三维点开始依次进行编码的情况下，三维数据编码装置使用LoD0及LoD1所包含的编码且已解码(以下，也简称为“已编码”)的属性信息，生成LoD1所包含的对象三维点。这样，三维数据编码装置使用LoDn’(n’＜＝n)所包含的已编码的属性信息，生成LoDn所包含的三维点的属性信息的预测值。即，三维数据编码装置在LoDn所包含的三维点的属性信息的预测值的计算中，不使用LoDn的下层所包含的三维点的属性信息。
例如，三维数据编码装置通过计算编码对象的对象三维点的周边的已编码的三维点中的N个以下的三维点的属性值的平均值来生成三维点的属性信息的预测值。此外，三维数据编码装置可以将N的值附加到比特流的头等。另外，三维数据编码装置也可以对每个三维点变更N的值，对每个三维点附加N的值。由此，能够对每个三维点选择适当的N，因此能够提高预测值的精度。因此，能够减小预测残差。另外，三维数据编码装置也可以将N的值附加到比特流的头，在比特流内固定N的值。由此，不需要对每个三维点对N的值进行编码或解码，因此能够削减处理量。另外，三维数据编码装置也可以对每个LoD分别对N的值进行编码。由此，通过对每个LoD选择适当的N，能够提高编码效率。
或者，三维数据编码装置也可以通过周围的已编码的N个三维点的属性信息的加权平均值来计算三维点的属性信息的预测值。例如，三维数据编码装置使用对象三维点和周围的N个三维点各自的距离信息来计算权重。
三维数据编码装置在对每个LoD分别对N的值进行编码的情况下，例如越是LoD的上位层则将N的值设定得越大，越是下位层则将N的值设定得越小。在LoD的上位层中，属于该层的三维点间的距离远，因此有可能通过将N的值设定得大并选择多个周围的三维点来进行平均化，从而能够提高预测精度。另外，由于在LoD的下位层中，属于该层的三维点间的距离近，因此有可能在将N的值设定得小来抑制平均化的处理量的同时进行高效的预测。
图36是表示预测值中使用的属性信息的例子的图。如上所述，使用LoDN’(N’＜＝N)所包含的已编码的周围点P’来生成LoDn所包含的点P的预测值。在此，周围点P’基于与点P的距离来选择。例如，使用点a0、a1、a2、b0、b1的属性信息来生成图36所示的点b2的属性信息的预测值。
根据上述N的值，所选择的周围点发生变化。例如在N＝5的情况下，作为点b2的周围点，选择a0、a1、a2、b0、b1。在N＝4的情况下，基于距离信息选择点a0、a1、a2、b1。
通过依赖于距离的加权平均来计算预测值。例如，在图36所示的例子中，点a2的预测值a2p如(式A2)以及(式A3)所示，通过点a0以及点a1的属性信息的加权平均来计算。另外，Ai是点ai的属性信息的值。
[数式2]
Figure BDA0003995383900000351
Figure BDA0003995383900000352
另外，点b2的预测值b2p如(式A4)～(式A6)所示，通过点a0、a1、a2、b0、b1的属性信息的加权平均来计算。另外，Bi是点bi的属性信息的值。
[数式3]
Figure BDA0003995383900000361
Figure BDA0003995383900000362
Figure BDA0003995383900000363
另外，三维数据编码装置也可以计算三维点的属性信息的值与从周围点生成的预测值的差分值(预测残差)，对计算出的预测残差进行量化。例如，三维数据编码装置通过将预测残差除以量化尺度(也称为量化步长)来进行量化。在这种情况下，量化尺度越小，由于量化而会产生的误差(量化误差)越小。相反，量化尺度越大，量化误差越大。
此外，三维数据编码装置也可以对每个LoD改变所使用的量化尺度。例如，三维数据编码装置越是上位层，越减小量化尺度，越是下位层，越增大量化尺度。属于上位层的三维点的属性信息的值有可能作为属于下位层的三维点的属性信息的预测值来使用，因此能够减小上位层的量化尺度而抑制在上位层会产生的量化误差，通过提高预测值的精度，能够提高编码效率。此外，三维数据编码装置也可以将对每个LoD使用的量化尺度附加到头等。由此，三维数据解码装置能够正确地对量化尺度进行解码，因此能够适当地对比特流进行解码。
此外，三维数据编码装置也可以将作为量化后的预测残差的带符号整数值(带符号量化值)变换为无符号整数值(无符号量化值)。由此，在对预测残差进行熵编码的情况下，不需要考虑负的整数的产生。此外，三维数据编码装置不一定需要将带符号整数值变换为无符号整数值，例如也可以对符号比特另外进行熵编码。
通过从原始值减去预测值来计算预测残差。例如，如(式A7)所示，点a2的预测残差a2r通过从点a2的属性信息的值A2减去点a2的预测值a2p来计算。如(式A8)所示，点b2的预测残差b2r通过从点b2的属性信息的值B2减去点b2的预测值b2p来计算。
a2r＝A2-a2p…(式A7)
b2r＝B2-b2p…(式A8)
另外，预测残差通过除以QS(量化步长(Quantization Step))而被量化。例如，点a2的量化值a2q通过(式A9)来计算。点b2的量化值b2q通过(式A10)来计算。在此，QS_LoD0是LoD0用的QS，QS_LoD1是LoD1用的QS。即，可以根据LoD变更QS。
a2q＝a2r/QS_LoD0…(式A9)
b2q＝b2r/QS_LoD1…(式A10)
此外，如以下所述，三维数据编码装置将作为上述量化值的带符号整数值变换为无符号整数值。在带符号整数值a2q小于0的情况下，三维数据编码装置将无符号整数值a2u设定为-1-(2×a2q)。在带符号整数值a2q为0以上的情况下，三维数据编码装置将无符号整数值a2u设定为2×a2q。
同样地，在带符号整数值b2q小于0的情况下，三维数据编码装置将无符号整数值b2u设定为-1-(2×b2q)。在带符号整数值b2q为0以上的情况下，三维数据编码装置将无符号整数值b2u设定为2×b2q。
此外，三维数据编码装置也可以通过熵编码对量化后的预测残差(无符号整数值)进行编码。例如，也可以在对无符号整数值进行二值化之后，应用二值的算术编码。
此外，在该情况下，三维数据编码装置也可以根据预测残差的值来切换二值化方法。例如，在预测残差pu小于阈值R_TH的情况下，三维数据编码装置为了表现阈值R_TH以所需的固定比特数对预测残差pu进行二值化。另外，在预测残差pu为阈值R_TH以上的情况下，三维数据编码装置使用指数哥伦布(Exponential-Golomb)等对阈值R_TH的二值化数据和(pu-R_TH)的值进行二值化。
例如，在阈值R_TH为63、预测残差pu小于63的情况下，三维数据编码装置将预测残差pu以6bit进行二值化。另外，在预测残差pu为63以上的情况下，三维数据编码装置使用指数哥伦布对阈值R_TH的二值数据(111111)和(pu-63)进行二值化，由此进行算术编码。
在更具体的例子中，三维数据编码装置在预测残差pu为32的情况下，生成6bit的二值数据(100000)，对该比特串进行算术编码。另外，在预测残差pu为66的情况下，三维数据编码装置生成用指数哥伦布表示阈值R_TH的二值数据(111111)和值3(66-63)的比特串(00100)，对该比特串(111111+00100)进行算术编码。
这样，三维数据编码装置根据预测残差的大小切换二值化的方法，从而能够在抑制预测残差变大的情况下的二值化比特数的急剧增加的同时进行编码。此外，三维数据编码装置也可以将阈值R_TH附加于比特流的头等。
例如，在以高比特率进行编码的情况下，即，在量化尺度小的情况下，量化误差变小，预测精度变高，结果预测残差可能不会变大。因此，在该情况下，三维数据编码装置将阈值R_TH设定得大。由此，对阈值R_TH的二值化数据进行编码的可能性变低，编码效率提高。相反，在以低比特率进行编码的情况下，即，在量化尺度大的情况下，量化误差变大，预测精度变差，结果有可能预测残差变大。因此，在该情况下，三维数据编码装置将阈值R_TH设定得小。由此，能够防止二值化数据的急剧的比特长度增加。
另外，三维数据编码装置也可以对每个LoD切换阈值R_TH，并将每个LoD的阈值R_TH附加到头等。即，三维数据编码装置也可以对每个LoD切换二值化的方法。例如，在上位层中，由于三维点间的距离远，预测精度变差，结果预测残差有可能变大。因此，三维数据编码装置通过对上位层将阈值R_TH设定得小，来防止二值化数据的急剧的比特长度增加。另外，在下位层中，由于三维点间的距离近，预测精度变高，结果有可能预测残差变小。因此，三维数据编码装置通过对层级将阈值R_TH设定得大来提高编码效率。
图37是表示指数哥伦布码的一例的图，是表示二值化前的值(多值)与二值化后的比特(编码)的关系的图。另外，也可以使图37所示的0和1反转。
另外，三维数据编码装置对预测残差的二值化数据应用算术编码。由此，能够提高编码效率。此外，在应用算术编码时，在二值化数据中，在以n比特进行了二值化的部分即n比特码(n-bit code)和使用指数哥伦布进行了二值化的部分即剩余码(remaining code)中，各比特的0和1的出现概率的倾向有可能不同。因此，三维数据编码装置也可以通过n比特码和剩余码来切换算术编码的应用方法。
例如，对于n比特码，三维数据编码装置对每个比特使用不同的编码表(概率表)进行算术编码。此时，三维数据编码装置也可以改变对每个比特使用的编码表的数量。例如，三维数据编码装置使用1个编码表来对n比特码的开头比特b0进行算术编码。另外，三维数据编码装置对下一个比特b1使用2个编码表。此外，三维数据编码装置根据b0的值(0或1)切换比特b1的算术编码中使用的编码表。同样地，三维数据编码装置还对下一个比特b2使用4个编码表。另外，三维数据编码装置根据b0以及b1的值(0～3)，切换比特b2的算术编码中使用的编码表。
这样，三维数据编码装置在对n比特码的各比特bn-1进行算术编码时，使用2n-1个编码表。另外，三维数据编码装置根据bn-1之前的比特的值(发生样式)，切换使用的编码表。由此，三维数据编码装置能够对每个比特使用适当的编码表，因此能够提高编码效率。
另外，三维数据编码装置也可以削减在各比特中使用的编码表的数量。例如，在对各比特bn-1进行算术编码时，三维数据编码装置也可以根据bn-1之前的m比特(m＜n-1)的值(发生样式)来切换2m个编码表。由此，能够抑制在各比特中使用的编码表的数量，并且提高编码效率。此外，三维数据编码装置也可以根据实际产生的二值化数据的值来更新各编码表中的0和1的发生概率。另外，三维数据编码装置也可以将一部分比特的编码表中的0和1的发生概率固定化。由此，能够抑制发生概率的更新次数，因此能够削减处理量。
例如，n比特码为b0b1b2…bn-1的情况下，b0用的编码表是1个(CTb0)。b1用的编码表是2个(CTb10、CTb11)。另外，根据b0的值(0～1)来切换使用的编码表。b2用的编码表是4个(CTb20、CTb21、CTb22、CTb23)。此外，根据b0以及b1的值(0～3)来切换使用的编码表。bn-1用的编码表是2n-1个(CTbn0，CTbn1，…，CTbn(2n-1-1))。另外，根据b0b1…bn-2的值(0～2n -1-1)来切换使用的编码表。
此外，三维数据编码装置也可以对n比特码不进行二值化而应用设定0～2n-1的值的m-ary的算术编码(m＝2n)。此外，在三维数据编码装置用m-ary对n比特码进行算术编码的情况下，三维数据解码装置也可以通过m-ary的算术解码来复原n比特码。
图38是用于说明例如剩余码是指数哥伦布码的情况下的处理的图。如图38所示，使用指数哥伦布进行了二值化的部分即剩余码包括prefix部和suffix部。例如，三维数据编码装置在prefix部和suffix部中切换编码表。即，三维数据编码装置使用prefix用的编码表来对prefix部所包含的各比特进行算术编码，使用suffix用的编码表来对suffix部所包含的各比特进行算术编码。
此外，三维数据编码装置也可以根据实际产生的二值化数据的值来更新各编码表中的0和1的发生概率。或者，三维数据编码装置也可以将某一个编码表中的0和1的发生概率固定化。由此，能够抑制发生概率的更新次数，因此能够削减处理量。例如，三维数据编码装置也可以对prefix部更新发生概率，对suffix部将发生概率固定化。
此外，三维数据编码装置通过逆量化以及重构来对量化后的预测残差进行解码，将解码出的预测残差即解码值利用于编码对象的三维点以后的预测。具体而言，三维数据编码装置通过对量化后的预测残差(量化值)乘以量化尺度来计算逆量化值，将逆量化值和预测值相加而得到解码值(重构值)。
例如，点a2的逆量化值a2iq使用点a2的量化值a2q通过(式A11)来计算。点b2的逆量化值b2iq使用点b2的量化值b2q通过(式A12)来计算。在此，QS_LoD0是LoD0用的QS，QS_LoD1是LoD1用的QS。即，可以根据LoD变更QS。
a2iq＝a2q×QS_LoD0…(式A11)
b2iq＝b2q×QS_LoD1…(式A12)
例如，如(式A13)所示，点a2的解码值a2rec通过对点a2的逆量化值a2iq加上点a2的预测值a2p来计算。如(式A14)所示，点b2的解码值b2rec通过对点b2的逆量化值b2iq加上点b2的预测值b2p来计算。
a2rec＝a2iq+a2p…(式A13)
b2rec＝b2iq+b2p…(式A14)
以下，对本实施方式的比特流的句法例进行说明。图39是表示本实施方式的属性头(attribute_header)的句法例的图。属性头是属性信息的头信息。如图39所示，属性头包括层级数信息(NumLoD)、三维点数信息(NumOfPoint[i])、层级阈值(Thres_Lod[i])、周围点数信息(NumNeighborPoint[i])、预测阈值(THd[i])、量化尺度(QS[i])、以及二值化阈值(R_TH[i])。
层级数信息(NumLoD)表示所使用的LoD的层级数。
三维点数信息(NumOfPoint[i])表示属于层级i的三维点的数量。此外，三维数据编码装置也可以将表示三维点的总数的三维点总数信息(AllNumOfPoint)附加于其他的头。在该情况下，三维数据编码装置也可以不将表示属于最下层的三维点的数量的NumOfPoint[NumLoD-1]附加到头。在该情况下，三维数据解码装置能够通过(式A15)计算NumOfPoint[NumLoD-1]。由此，能够削减头的编码量。
[数式4]
Figure BDA0003995383900000411
层级阈值(Thres_Lod[i])是用于设定层级i的阈值。三维数据编码装置以及三维数据解码装置以LoDi内的各点之间的距离大于阈值Thres_LoD[i]的方式构成LoDi。另外，三维数据编码装置也可以不将Thres_Lod[NumLoD-1](最下层)的值附加到头。在该情况下，三维数据解码装置将Thres_Lod[NumLoD-1]的值估计为0。由此，能够削减头的编码量。
周围点数信息(NumNeighborPoint[i])表示在属于层级i的三维点的预测值的生成中使用的周围的点数的上限值。在周围的点数M小于NumNeighborPoint[i]的情况下(M<NumNeighborPoint[i])，三维数据编码装置也可以使用M个周围的点数来计算预测值。另外，在不需要在各LoD中分开NumNeighborPoint[i]的值的情况下，三维数据编码装置也可以将在所有的LoD中使用的1个周围点数信息(NumNeighborPoint)附加到头。
预测阈值(THd[i])表示在层级i中编码或解码对象的对象三维点的预测中使用的周围的三维点与对象三维点的距离的上限值。三维数据编码装置以及三维数据解码装置不将距对象三维点的距离比THd[i]远的三维点用于预测。另外，在不需要在各LoD中分开THd[i]的值的情况下，三维数据编码装置也可以将在所有的LoD中使用的1个预测阈值(THd)附加到头。
量化尺度(QS[i])表示在层级i的量化和逆量化中使用的量化尺度。
二值化阈值(R_TH[i])是用于切换属于层级i的三维点的预测残差的二值化方法的阈值。例如，三维数据编码装置在预测残差小于阈值R_TH的情况下，以固定比特数对预测残差pu进行二值化，在预测残差为阈值R_TH以上的情况下，使用指数哥伦布对阈值R_TH的二值化数据和(pu-R_TH)的值进行二值化。另外，在不需要在各LoD中切换R_TH[i]的值的情况下，三维数据编码装置也可以将在所有的LoD中使用的1个二值化阈值(R_TH)附加到头。
此外，R_TH[i]也可以是以nbit表示的最大值。例如，在6bit中，R_TH为63，在8bit中，R_TH为255。另外，三维数据编码装置也可以代替对以nbit表示的最大值作为二值化阈值进行编码，而对比特数进行编码。例如，三维数据编码装置可以在R_TH[i]＝63的情况下将值6附加到头，在R_TH[i]＝255的情况下将值8附加到头。另外，三维数据编码装置也可以定义表示R_TH[i]的比特数的最小值(最小比特数)，将根据最小值的相对比特数附加到头。例如，三维数据编码装置可以在R_TH[i]＝63且最小比特数为6的情况下将值0附加到头，在R_TH[i]＝255且最小比特数为6的情况下将值2附加到头。
另外，三维数据编码装置也可以对NumLoD、Thres_Lod[i]、NumNeighborPoint[i]、THd[i]、QS[i]以及R_TH[i]中的至少一个进行熵编码并附加到头。例如，三维数据编码装置也可以对各值进行二值化而进行算术编码。另外，为了抑制处理量，三维数据编码装置也可以以固定长度对各值进行编码。
此外，三维数据编码装置可以不将NumLoD、Thres_Lod[i]、NumNeighborPoint[i]、THd[i]、QS[i]以及R_TH[i]中的至少一个附加到头。例如，它们中的至少一个的值也可以由标准等的档次(profile)或级别(level)等规定。由此，能够削减头的比特量。
图40是表示本实施方式的属性数据(attribute_data)的句法例的图。该属性数据包括多个三维点的属性信息的编码数据。如图40所示，属性数据包括n比特码(n-bit code)和剩余码(remaining code)。
n比特码(n-bit code)是属性信息的值的预测残差的编码数据或其一部分。n比特码的比特长度依赖于R_TH[i]的值。例如在R_TH[i]所示的值为63的情况下，n比特码为6bit，在R_TH[i]所示的值为255的情况下，n比特码为8bit。
剩余码(remaining code)是属性信息的值的预测残差的编码数据中的用指数哥伦布编码后的编码数据。在n比特码与R_TH[i]相同的情况下，对该剩余码进行编码或解码。另外，三维数据解码装置将n比特码的值和剩余码的值相加而对预测残差进行解码。此外，在n比特码不是与R_TH[i]相同的值的情况下，剩余码也可以不被编码或解码。
以下，说明三维数据编码装置中的处理的流程。图41是由三维数据编码装置进行的三维数据编码处理的流程图。
首先，三维数据编码装置对位置信息(geometry)进行编码(S3001)。例如，三维数据编码装置使用八叉树表现来进行编码。
三维数据编码装置在位置信息的编码后，在三维点的位置由于量化等而变化的情况下，对变化后的三维点重新分配原来的三维点的属性信息(S3002)。例如，三维数据编码装置通过根据位置的变化量对属性信息的值进行插值来进行重新分配。例如，三维数据编码装置检测N个接近变化后的三维位置的变化前的三维点，对N个三维点的属性信息的值进行加权平均。例如，三维数据编码装置在加权平均中，基于从变化后的三维位置到各N个三维点的距离来决定权重。然后，三维数据编码装置将通过加权平均得到的值决定为变化后的三维点的属性信息的值。另外，在由于量化等而2个以上的三维点变化到同一三维位置的情况下，三维数据编码装置也可以分配变化前的2个以上的三维点的属性信息的平均值作为该变化后的三维点的属性信息的值。
接着，三维数据编码装置对重新分配后的属性信息(Attribute)进行编码(S3003)。例如，在对多种属性信息进行编码的情况下，三维数据编码装置也可以依次对多种属性信息进行编码。例如，在作为属性信息对颜色和反射率进行编码的情况下，三维数据编码装置也可以生成在颜色的编码结果之后附加了反射率的编码结果的比特流。另外，附加到比特流的属性信息的多个编码结果的顺序不限于此顺序，可以是任何顺序。
另外，三维数据编码装置也可以将比特流内的各属性信息的表示编码数据开始部位的信息附加到头等。由此，三维数据解码装置能够选择性地对需要解码的属性信息进行解码，因此能够省略不需要解码的属性信息的解码处理。因此，能够削减三维数据解码装置的处理量。此外，三维数据编码装置也可以并行地对多种属性信息进行编码，并将编码结果合并为1个比特流。由此，三维数据编码装置能够高速地对多种属性信息进行编码。
图42是属性信息编码处理(S3003)的流程图。首先，三维数据编码装置设定LoD(S3011)。即，三维数据编码装置将各三维点分配给多个LoD中的任一个。
接着，三维数据编码装置开始LoD单位的循环(S3012)。即，三维数据编码装置对每个LoD反复进行步骤S3013～S3021的处理。
接着，三维数据编码装置开始三维点单位的循环(S3013)。即，三维数据编码装置对每个三维点反复进行步骤S3014～S3020的处理。
首先，三维数据编码装置搜索在处理对象的对象三维点的预测值的计算中使用的、存在于对象三维点的周围的三维点即多个周围点(S3014)。接着，三维数据编码装置计算多个周围点的属性信息的值的加权平均，并将得到的值设定为预测值P(S3015)。接着，三维数据编码装置计算对象三维点的属性信息与预测值的差分即预测残差(S3016)。接着，三维数据编码装置通过对预测残差进行量化来计算量化值(S3017)。接着，三维数据编码装置对量化值进行算术编码(S3018)。
此外，三维数据编码装置通过对量化值进行逆量化来计算逆量化值(S3019)。接着，三维数据编码装置通过对逆量化值加上预测值来生成解码值(S3020)。接着，三维数据编码装置结束三维点单位的循环(S3021)。另外，三维数据编码装置结束LoD单位的循环(S3022)。
以下，对由上述的三维数据编码装置生成的比特流进行解码的三维数据解码装置中的三维数据解码处理进行说明。
三维数据解码装置通过用与三维数据编码装置同样的方法对由三维数据编码装置生成的比特流内的属性信息的二值化数据进行算术解码，生成被解码的二值化数据。此外，在三维数据编码装置中，在用n比特进行了二值化的部分(n比特码)和用指数哥伦布进行了二值化的部分(剩余码)之间切换了算术编码的应用方法的情况下，三维数据解码装置在应用算术解码时，与其相应地进行解码。
例如，三维数据解码装置在n比特码的算术解码方法中，对每个比特使用不同的编码表(解码表)进行算术解码。此时，三维数据解码装置也可以改变对每个比特使用的编码表的数量。例如，对n比特码的开头比特b0使用1个编码表来进行算术解码。另外，三维数据解码装置对下一个比特b1使用2个编码表。此外，三维数据解码装置根据b0的值(0或1)切换比特b1的算术解码中使用的编码表。同样地，三维数据解码装置进一步对下一个比特b2使用4个编码表。另外，三维数据解码装置根据b0以及b1的值(0～3)，切换比特b2的算术解码中使用的编码表。
这样，三维数据解码装置在对n比特码的各比特bn-1进行算术解码时，使用2n-1个编码表。另外，三维数据解码装置根据bn-1之前的比特的值(发生样式)，切换使用的编码表。由此，三维数据解码装置能够对每个比特使用适当的编码表来适当地对提高了编码效率的比特流进行解码。
另外，三维数据解码装置也可以削减在各比特中使用的编码表的数量。例如，三维数据解码装置也可以在对各比特bn-1进行算术解码时，根据bn-1之前的m比特(m＜n-1)的值(发生样式)来切换2m个编码表。由此，三维数据解码装置能够在抑制在各比特中使用的编码表的数量的同时适当地对提高了编码效率的比特流进行解码。此外，三维数据解码装置也可以根据实际产生的二值化数据的值来更新各编码表中的0和1的发生概率。另外，三维数据解码装置也可以将一部分比特的编码表中的0和1的发生概率固定化。由此，能够抑制发生概率的更新次数，因此能够削减处理量。
例如，n比特码为b0b1b2…bn-1的情况下，b0用的编码表是1个(CTb0)。b1用的编码表是2个(CTb10、CTb11)。此外，根据b0的值(0～1)来切换编码表。b2用的编码表是4个(CTb20、CTb21、CTb22、CTb23)。此外，根据b0和b1的值(0～3)来切换编码表。bn-1用的编码表是2n-1个(CTbn0，CTbn1，…，CTbn(2n-1-1))。另外，根据b0b1…bn-2的值(0～2n-1-1)来切换编码表。
例如，图43是用于说明剩余码是指数哥伦布码的情况下的处理的图。如图43所示，三维数据编码装置使用指数哥伦布进行了二值化而编码的部分(剩余码)包括prefix部和suffix部。例如，三维数据解码装置在prefix部和suffix部中切换编码表。即，三维数据解码装置使用prefix用的编码表来对prefix部所包含的各比特进行算术解码，使用suffix用的编码表来对suffix部所包含的各比特进行算术解码。
此外，三维数据解码装置也可以根据在解码时产生的二值化数据的值来更新各编码表中的0和1的发生概率。或者，三维数据解码装置也可以将某一个编码表中的0和1的发生概率固定化。由此，能够抑制发生概率的更新次数，因此能够削减处理量。例如，三维数据解码装置也可以对prefix部更新发生概率，对suffix部将发生概率固定化。
另外，三维数据解码装置将算术解码出的预测残差的二值化数据与在三维数据编码装置中使用的编码方法相匹配地进行多值化，由此对量化后的预测残差(无符号整数值)进行解码。三维数据解码装置首先计算通过对n比特码的二值化数据进行算术解码而解码出的n比特码的值。接着，三维数据解码装置将n比特码的值与R_TH的值进行比较。
在n比特码的值与R_TH的值一致的情况下，三维数据解码装置判定为接下来存在用指数哥伦布进行了编码的比特，对用指数哥伦布进行了编码的二值化数据即剩余码进行算术解码。然后，三维数据解码装置根据解码出的剩余码，使用表示剩余码与该值之间的关系的反推表来计算剩余码的值。图44是表示表示剩余码与其值之间的关系的反推表的例子的图。接下来，三维数据解码装置通过将所得到的剩余码的值与R_TH相加而得到进行了多值化的量化后的预测残差。
另一方面，在n比特码的值与R_TH的值不一致(值小于R_TH)的情况下，三维数据解码装置将n比特码的值直接决定为进行了多值化的量化后的预测残差。由此，三维数据解码装置能够适当地对在三维数据编码装置中根据预测残差的值切换二值化方法而生成的比特流进行解码。
此外，在阈值R_TH附加到比特流的头等的情况下，三维数据解码装置也可以从头解码阈值R_TH的值，并使用解码出的阈值R_TH的值来切换解码方法。另外，三维数据解码装置在对每个LoD将阈值R_TH附加到头等的情况下，使用解码出的阈值R_TH对每个LoD切换解码方法。
例如，在阈值R_TH为63、解码出的n比特码的值为63的情况下，三维数据解码装置通过利用指数哥伦布对剩余码进行解码，从而得到剩余码的值。例如，在图44所示的例子中，剩余码为00100，作为剩余码的值而得到3。接着，三维数据解码装置通过将阈值R_TH的值63和剩余码的值3相加，得到预测残差的值66。
另外，在解码出的n比特码的值为32的情况下，三维数据解码装置将n比特码的值32设定为预测残差的值。
另外，三维数据解码装置通过例如与三维数据编码装置中的处理相反的处理，将解码出的量化后的预测残差从无符号整数值变换为带符号整数值。由此，三维数据解码装置在对预测残差进行熵编码的情况下，能够适当地对不考虑负的整数的产生而生成的比特流进行解码。另外，三维数据解码装置不一定需要将无符号整数值变换为带符号整数值，例如在对将符号比特另外进行熵编码而生成的比特流进行解码的情况下，也可以对符号比特进行解码。
三维数据解码装置通过逆量化及重构对变换为带符号整数值的量化后的预测残差进行解码，由此生成解码值。另外，三维数据解码装置将所生成的解码值利用于解码对象的三维点以后的预测。具体而言，三维数据解码装置通过对量化后的预测残差乘以解码出的量化尺度来计算逆量化值，将逆量化值和预测值相加来得到解码值。
被解码的无符号整数值(无符号量化值)通过以下的处理变换为带符号整数值。在被解码的无符号整数值a2u的LSB(least significant bit：最低有效位)为1的情况下，三维数据解码装置将带符号整数值a2q设定为-((a2u+1)＞＞1)。在无符号整数值a2u的LSB不是1的情况下，三维数据解码装置将带符号整数值a2q设定为(a2u＞＞1)。
同样地，在被解码的无符号整数值b2u的LSB为1的情况下，三维数据解码装置将带符号整数值b2q设定为-((b2u+1)＞＞1)。在无符号整数值n2u的LSB不是1的情况下，三维数据解码装置将带符号整数值b2q设定为(b2u＞＞1)。
另外，由三维数据解码装置进行的逆量化及重构处理的详细情况与三维数据编码装置中的逆量化及重构处理相同。
以下，说明三维数据解码装置中的处理的流程。图45是由三维数据解码装置进行的三维数据解码处理的流程图。首先，三维数据解码装置从比特流中解码位置信息(geometry)(S3031)。例如，三维数据解码装置使用八叉树表现进行解码。
接着，三维数据解码装置从比特流中解码属性信息(Attribute)(S3032)。例如，在对多种属性信息进行解码的情况下，三维数据解码装置也可以依次对多种属性信息进行解码。例如，在作为属性信息对颜色和反射率进行解码的情况下，三维数据解码装置按照附加到比特流的顺序，对颜色的编码结果和反射率的编码结果进行解码。例如，在比特流中，在颜色的编码结果之后附加有反射率的编码结果的情况下，三维数据解码装置对颜色的编码结果进行解码，然后对反射率的编码结果进行解码。另外，三维数据解码装置按照怎样的顺序对附加到比特流的属性信息的编码结果进行解码都可以。
另外，三维数据解码装置也可以通过对头等进行解码来获得比特流内的各属性信息的表示编码数据开始部位的信息。由此，三维数据解码装置能够选择性地对需要解码的属性信息进行解码，因此能够省略不需要解码的属性信息的解码处理。因此，能够削减三维数据解码装置的处理量。另外，三维数据解码装置也可以并行地对多种属性信息进行解码，将解码结果合并到1个三维点群。由此，三维数据解码装置能够高速地对多种属性信息进行解码。
图46是属性信息解码处理(S3032)的流程图。首先，三维数据解码装置设定LoD(S3041)。即，三维数据解码装置将具有被解码的位置信息的多个三维点分别分配给多个LoD中的任一个。例如，该分配方法是与在三维数据编码装置中使用的分配方法相同的方法。
接着，三维数据解码装置开始LoD单位的循环(S3042)。即，三维数据解码装置对每个LoD反复进行步骤S3043～S3049的处理。
接着，三维数据解码装置开始三维点单位的循环(S3043)。即，三维数据解码装置对每个三维点反复进行步骤S3044～S3048的处理。
首先，三维数据解码装置搜索在处理对象的对象三维点的预测值的计算中使用的、存在于对象三维点的周围的三维点即多个周围点(S3044)。接着，三维数据解码装置计算多个周围点的属性信息的值的加权平均，将得到的值设定为预测值P(S3045)。另外，这些处理与三维数据编码装置中的处理相同。
接着，三维数据解码装置从比特流中对量化值进行算术解码(S3046)。另外，三维数据解码装置通过对解码出的量化值进行逆量化来计算逆量化值(S3047)。接着，三维数据解码装置通过对逆量化值加上预测值来生成解码值(S3048)。接着，三维数据解码装置结束三维点单位的循环(S3049)。另外，三维数据解码装置结束LoD单位的循环(S3050)。
接着，对本实施方式的三维数据编码装置以及三维数据解码装置的结构进行说明。图47是表示本实施方式的三维数据编码装置3000的结构的框图。该三维数据编码装置3000具备位置信息编码部3001、属性信息重新分配部3002、以及属性信息编码部3003。
属性信息编码部3003对输入点群所包含的多个三维点的位置信息(geometry)进行编码。属性信息重新分配部3002使用位置信息的编码及解码结果，重新分配输入点群所包含的多个三维点的属性信息的值。属性信息编码部3003对重新分配的属性信息(attribute)进行编码。此外，三维数据编码装置3000生成包含被编码的位置信息和被编码的属性信息的比特流。
图48是表示本实施方式的三维数据解码装置3010的结构的框图。该三维数据解码装置3010包括位置信息解码部3011和属性信息解码部3012。
位置信息解码部3011从比特流中解码多个三维点的位置信息(geometry)。属性信息解码部3012从比特流中解码多个三维点的属性信息(attribute)。另外，三维数据解码装置3010通过将解码出的位置信息与解码出的属性信息结合来生成输出点群。
(实施方式4)
作为使用LoD的信息对三维点的属性信息进行编码的另一例，说明从LoD的上位层中包含的三维点起依次对多个三维点进行编码的方法。例如，三维数据编码装置在计算LoDn中包含的三维点的属性值(属性信息)的预测值的情况下，也可以使用标志等来切换可以参照哪个LoD中包含的三维点的属性值。例如，三维数据编码装置生成表示是否许可与编码对象的对象三维点相同的LoD内的其他三维点的参照的信息即EnableReferringSameLoD(同一层参照许可标志)。例如，在EnableReferringSameLoD为值1的情况下，许可同一LoD内的参照，在EnableReferringSameLoD为值0的情况下，禁止同一LoD内的参照。
例如，三维数据编码装置基于EnableReferringSameLoD来选择对象三维点的周围的三维点，计算所选择的周围的三维点中的预先规定的N个以下的三维点的属性值的平均，由此生成对象三维点的属性信息的预测值。此外，三维数据编码装置将N的值附加到比特流的头等。另外，三维数据编码装置也可以将N的值附加到生成预测值的每个三维点。由此，能够按生成预测值的每个三维点来选择适当的N，因此能够提高预测值的精度而减小预测残差。
或者，三维数据编码装置也可以将N的值附加到比特流的头，在比特流内固定N的值。由此，不需要按每个三维点对N的值进行编码或解码，能够削减处理量。
或者，三维数据编码装置也可以按每个LoD分别对表示N的值的信息进行编码。由此，通过按每个LoD来选择适当的N的值，能够提高编码效率。另外，三维数据编码装置也可以根据周围的N个三维点的属性信息的加权平均值来计算三维点的属性信息的预测值。例如，三维数据编码装置使用对象三维点与N个三维点各自的距离信息来计算权重。
这样，EnableReferringSameLoD是表示是否许可同一LoD内的三维点的参照的信息。例如，值1表示可参照，值0表示不可参照。另外，也可以是，在值1的情况下，可参照同一LoD内的三维点中的已经编码或解码完毕的三维点。
图49是表示EnableReferringSameLoD＝0的情况下的参照关系的例子的图。LoDN中包含的点P的预测值使用比LoDN上层的LoDN’(N’＜N)中包含的重构值P’来生成。在此，重构值P’是编码及解码完毕的属性值(属性信息)。例如，使用基于距离的相邻点的重构值P’。
另外，在图49所示的例子中，例如b2的预测值使用a0、a1、a2的属性值中的任一个来生成。即使在b0、b1编码及解码完毕的情况下，也禁止b0、b1的参照。
由此，三维点数据编码装置以及三维数据解码装置能够不等待b0、b1的编码或者解码处理完成而生成b2的预测值。即，三维点数据编码装置以及三维数据解码装置能够并行地计算针对同一LoD内的多个三维点的属性值的多个预测值，因此能够削减处理时间。
图50是表示EnableReferringSameLoD＝1的情况下的参照关系的例子的图。LoDN中包含的点P的预测值使用与LoDN同层或上层的LoDN’(N’≤N)中包含的重构值P’来生成。在此，重构值P’是编码及解码完毕的属性值(属性信息)。例如，使用基于距离的相邻点的重构值P’。
另外，在图50所示的例子中，例如b2的预测值使用a0、a1、a2、b0、b1的属性值中的任一个来生成。即，在b0、b1已经编码及解码完毕的情况下可参照。
由此，三维数据编码装置能够使用大量的相邻三维点的属性信息来生成b2的预测值。因此，预测精度提高，编码效率改善。
以下，对在选择用于生成三维点的属性信息的预测值的N个三维点时限制其搜索次数的方法进行说明。由此，能够削减处理量。
例如，定义SearchNumPoint(搜索点数信息)。SearchNumPoint表示从LoD内的三维点群中选择用于预测的N个三维点时的搜索次数。例如，三维数据编码装置也可以从LoD中包含的共计T个三维点中选择与由SearchNumPoint表示的数量相同个数的三维点，从选择出的三维点中选择用于预测的N个三维点。由此，三维数据编码装置不需要搜索LoD中包含的全部T个三维点，因此能够削减处理量。
另外，三维数据编码装置也可以根据参照的LoD的位置来切换SearchNumPoint的值的选择方法。以下表示例子。
例如，三维数据编码装置在作为参照的LoD的参照LoD是比对象三维点所属的LoD上位层级的情况下，搜索参照LoD中包含的三维点中的距离最接近对象三维点的三维点A。接着，三维数据编码装置选择在三维点A的前后相邻的由SearchNumPoint表示的数量的三维点。由此，三维数据编码装置能够高效地搜索与对象三维点距离近的上位层的三维点，因此能够提高预测效率。
例如，三维数据编码装置在参照LoD与对象三维点所属的LoD为同一层的情况下，选择比对象三维点先被编码以及解码的由SearchNumPoint表示的数量的三维点。例如，三维数据编码装置选择在对象三维点的紧前被编码以及解码的由SearchNumPoint表示的数量的三维点。
由此，三维数据编码装置能够以低处理量选择由SearchNumPoint表示的数量的三维点。另外，三维数据编码装置也可以从比对象三维点先被编码以及解码的三维点中选择距离对象三维点近的三维点B，选择在三维点B的前后相邻的由SearchNumPoint表示的数量的三维点。由此，三维数据编码装置能够高效地搜索与对象三维点距离近的同一层的三维点，因此能够提高预测效率。
此外，三维数据编码装置在从由SearchNumPoint表示的数量的三维点中选择利用于预测的N个三维点时，例如，也可以选择距离对象三维点近的上位N个三维点。由此，能够提高预测精度，因此能够改善编码效率。
另外，也可以对每个LoD准备SearchNumPoint，对每个LoD改变搜索次数。图51是表示对每个LoD设定搜索次数的例子的图。例如，如图51所示，定义LoD0用的SearchNumPoint[LoD0]＝3和LoD1用的SearchNumPoint[LoD1]＝2。这样，通过对每个LoD切换搜索次数，能够获得处理量与编码效率的平衡。
在图51所示的例子中，作为用于b2的预测的三维点，从LoD0选择a0、a1以及a2，从LoD1选择b0以及b1。从所选择的a0、a1、a2、b0以及b1中选择N个三维点，使用所选择的N个三维点来生成预测值。
另外，LoDN中包含的点P的预测值使用与LoDN同层或上层的LoDN’(N’≤N)中包含的重构值P’来生成。在此，重构值P’是编码及解码完毕的属性值(属性信息)。例如，使用基于距离的相邻点的重构值P’。
另外，SearchNumPoint也可以表示所有LoD的搜索次数的总数。例如，在SearchNumPoint＝5的情况下，在LoD0中进行了3次搜索的情况下，在LoD1中能够进行剩余的2次搜索。由此，能够保障搜索次数的最差次数，因此能够使处理时间稳定化。
三维数据编码装置也可以将SearchNumPoint附加到头等。由此，三维数据解码装置通过从头对SearchNumPoint进行解码，能够生成与三维数据编码装置相同的预测值，能够适当地对比特流进行解码。另外，SearchNumPoint不一定需要附加到头，例如，SearchNumPoint的值也可以由标准等的档次(profile)或级别(level)等规定。由此，能够削减头的比特量。
在计算LoDn中包含的三维点的属性值的预测值的情况下，也可以定义下述EnableReferenceLoD。由此，三维数据编码装置以及三维数据解码装置能够参照EnableReferenceLoD(参照许可层信息)，判定可以参照哪个LoD中包含的三维点的属性值。
EnableReferenceLoD是表示在对象三维点属于LoDn的情况下，是否许可参照对象三维点为LoD(n-EnableReferenceLoD)以上的层级的三维点的信息。例如，如果EnableReferenceLoD＝0，则许可LoDn以及比LoDn更上位层级中包含的三维点的参照。如果EnableReferenceLoD＝1，则许可LoDn-1以上的上位层级中包含的三维点的参照。此外，如果EnableReferenceLoD＝2，则许可LoDn-2以上的上位层级中包含的三维点的参照。这样，能够根据EnableReferenceLoD的设定值设定可参照的LoD的层级，因此通过控制可并行处理的层级，能够获得编码效率与处理时间的平衡。此外，也可以是，可参照各层中包含的已经编码或解码完毕的三维点。
图52是表示EnableReferenceLoD＝0的情况下的参照关系的图。如图52所示，例如使用a0、a1、a2、b0、b1、b2、c0、c1的属性值中的任一个来生成c2的预测值。也可以是，各三维点在已经编码或解码完毕的情况下可参照。由此，使用更大量的相邻三维点的属性信息来生成c2的预测值，因此能够提高预测精度，改善编码效率。
图53是表示EnableReferenceLoD＝1的情况下的参照关系的图。如图53所示，例如使用a0、a1、a2、b0、b1、b2的属性值中的任一个来生成c2的预测值。c0、c1即使编码或解码完毕也被禁止参照。由此，三维数据编码装置以及三维数据解码装置能够不等待c0、c1的编码或者解码处理完成而生成c2的预测值。即，三维数据编码装置以及三维数据解码装置能够并行地计算针对同一LoD内的三维点的属性值的预测值，因此能够削减处理时间。
图54是表示EnableReferenceLoD＝2的情况下的参照关系的图。如图54所示，例如使用a0、a1、a2的属性值中的任一个来生成c2的预测值。c0、c1、b0、b1、b2即使编码或解码完毕也被禁止参照。由此，三维数据编码装置以及三维数据解码装置能够不等待c0、c1、b0、b1、b2的编码或者解码处理完成而生成c2的预测值。即，三维数据编码装置以及三维数据解码装置能够并行地计算针对LoD1和LoD2的三维点的属性值的预测值，因此能够削减处理时间。
图55是表示本实施方式的属性信息头(attribute_header)的句法例的图。属性信息头是属性信息的头信息。如图55所示，属性信息头包含同一层参照许可标志(EnableReferringSameLoD)、层级数信息(NumLoD)、搜索点数信息(SearchNumPoint[i])、以及周围点数信息(NumNeighborPoint[i])。
EnableReferringSameLoD是表示是否许可参照与对象三维点相同的LoD内的三维点的信息。例如，值1表示可参照，值0表示不可参照(禁止参照)。另外，也可以是，在值1的情况下，可参照同一LoD内的三维点中的已经编码或解码完毕的三维点。NumLoD表示所使用的LoD的层级数。
SearchNumPoint[i]表示从第i个LoD内的三维点群中选择用于预测的N个三维点时的搜索次数。例如，三维数据编码装置也可以从LoD中包含的共计T个三维点中选择与由SearchNumPoint表示的数量相同个数的三维点，从选择出的三维点中选择用于预测的N个三维点。由此，三维数据编码装置不需要搜索LoD中包含的全部T个三维点，因此能够削减处理量。
NumNeighborPoint[i]表示在属于层级i的三维点的预测值的生成中使用的周围的点数的上限值N。三维数据编码装置在周围的三维点的数量M不足NumNeighborPoint[i]的情况下(M＜NumNeighborPoint[i])，也可以使用M个周围的三维点来计算预测值。此外，三维数据编码装置在不需要在各LoD中划分NumNeighborPoint[i]的值的情况下，也可以将在全部LoD中使用的1个NumNeighborPoint附加到头。
三维数据编码装置也可以对EnableReferringSameLoD以及SearchNumPoint进行熵编码并附加到头。例如，三维数据编码装置在对各值进行二值化之后进行算术编码。另外，三维数据编码装置也可以为了抑制处理量而以固定长度进行编码。
此外，EnableReferringSameLoD以及SearchNumPoint不一定需要附加到头，例如也可以通过标准等的档次或者级别等来规定它们的值。由此，能够削减头的比特量。
此外，三维数据编码装置为了以WLD、SPC或体积单位切换EnableReferringSameLoD、以及SearchNumPoint，也可以附加到WLD、SPC或体积的头。此外，三维数据编码装置也可以根据层级将表示是否许可同一层级的参照的信息附加到比特流，根据层级切换是否许可同一层级的参照。
也可以根据属性值的编码方式对EnableReferringSameLoD的设定值设置制约。例如，在使用编码方式L的情况下，同一层中包含的三维点的编码或解码处理未完成，因此在预测值的生成中不能参照，所述编码方式L为暂时全部计算LoD的下位层内包含的三维点的属性值的预测残差并将该预测残差反馈到上位层进行编码。在使用这样的编码方式L的情况下，也可以将EnableReferringSameLoD的值制约为0。此外，在使用了这样的编码方式L的情况下，如果EnableReferringSameLoD的值为1，则三维数据解码装置也可以判断为是标准的相似误差(conformance error)。
此外，三维数据编码装置也可以将表示是否以编码方式L进行了编码的信息附加到比特流，在未以编码方式L进行编码的情况下将EnableReferringSameLoD的值附加到比特流，在以编码方式L进行了编码的情况下不将EnableReferringSameLoD附加到比特流。由此，三维数据解码装置通过从头对表示是否以编码方式L进行了编码的信息进行解码，能够判断EnableReferringSameLoD是否附加到比特流，能够正确地对比特流进行解码。另外，在未以编码方式L进行编码的情况下，三维数据解码装置也可以对头的EnableReferringSameLoD进行解码，在以编码方式L进行了编码的情况下，将EnableReferringSameLoD的值估计为0。
另外，三维数据编码装置也可以不将EnableReferringSameLoD附加到头。在该情况下，三维数据解码装置也可以在处理对象的比特流是以编码方式L进行了编码的比特流的情况下将EnableReferringSameLoD的值估计为0，否则将EnableReferringSameLoD的值估计为1来进行解码处理。
图56是表示本实施方式的属性信息头(attribute_header)的另一句法例的图。图56所示的属性信息头相对于图55所示的属性信息头，代替同一层参照许可标志(EnableReferringSameLoD)而包含参照许可层信息(EnableReferenceLoD)。另外，其他信息的含义与图55相同。
EnableReferenceLoD是表示在对象三维点属于LoDn的情况下是否许可LoD(n-EnableReferenceLoD)以上的层级的三维点的参照的信息。例如，如果EnableReferenceLoD＝0，则许可LoDn以及比LoDn更上位的层级中包含的三维点的参照。如果EnableReferenceLoD＝1，则许可LoDn-1以上的上位层级中包含的三维点的参照。此外，如果EnableReferenceLoD＝2，则许可LoDn-2以上的上位层级中包含的三维点的参照。这样，能够根据EnableReferenceLoD的设定值设定可参照的LoD的层级，因此通过控制可并行处理的层级，能够获得编码效率与处理时间的平衡。此外，也可以是，可参照各层中包含的已经编码或解码完毕的三维点。
三维数据编码装置也可以将EnableReferenceLoD以及SearchNumPoint进行熵编码并附加到头。例如，三维数据编码装置在对各值进行二值化之后进行算术编码。另外，三维数据编码装置也可以为了抑制处理量而以固定长度进行编码。
此外，EnableReferenceLoD以及SearchNumPoint不一定需要附加在头中，例如也可以通过标准等的档次或者级别等来规定它们的值。由此，能够削减头的比特量。
此外，三维数据编码装置为了以WLD、SPC或体积单位切换EnableReferenceLoD以及SearchNumPoint，也可以将EnableReferenceLoD以及SearchNumPoint附加到WLD、SPC或体积的头。
也可以根据属性值的编码方式对EnableReferenceLoD的设定值设置制约。例如，在使用上述的编码方式L的情况下，EnableReferenceLoD的值也可以被制约为1以上。此外，在使用了编码方式L的情况下，如果EnableReferenceLoD的值为0，则三维数据解码装置也可以判断为是标准的相似误差。
图57是本实施方式的三维数据编码处理的流程图。首先，三维数据编码装置对位置信息(geometry)进行编码(S6901)。例如，三维数据编码装置使用八叉树表现进行编码。
接着，三维数据编码装置对属性信息进行变换(S6902)。例如三维数据编码装置在位置信息的编码后，在三维点的位置由于量化等而变化的情况下，对变化后的三维点重新分配原来的三维点的属性信息。此外，三维数据编码装置也可以根据位置的变化量对属性信息的值进行插值来进行重新分配。例如，三维数据编码装置检测N个接近变化后的三维位置的变化前的三维点，对N个三维点的属性信息的值基于从变化后的三维位置到各N个三维点的距离进行加权平均，将得到的值设定为变化后的三维点的属性信息的值。另外，在由于量化等而2个以上的三维点变化到同一三维位置的情况下，三维数据编码装置也可以分配变化前的2个以上的三维点的属性信息的平均值作为该变化后的三维点的属性信息的值。
接着，三维数据编码装置对属性信息进行编码(S6903)。例如，在对多种属性信息进行编码的情况下，三维数据编码装置也可以依次对多种属性信息进行编码。例如，在作为属性信息对颜色和反射率进行编码的情况下，三维数据编码装置也可以生成在颜色的编码结果之后附加了反射率的编码结果的比特流。另外，附加到比特流的属性信息的多个编码结果的顺序不限于此顺序，可以是任何顺序。
另外，三维数据编码装置也可以将比特流内的各属性信息的表示编码数据开始部位的信息附加到头等。由此，三维数据解码装置能够选择性地对需要解码的属性信息进行解码，因此能够省略不需要解码的属性信息的解码处理。因此，能够削减三维数据解码装置的处理量。此外，三维数据编码装置也可以并行地对多种属性信息进行编码，并将编码结果合并为1个比特流。由此，三维数据编码装置能够高速地对多种属性信息进行编码。
图58是属性信息编码处理(S6903)的流程图。首先，三维数据编码装置设定LoD(S6911)。即，三维数据编码装置将各三维点分配给多个LoD中的某一个。
接着，三维数据编码装置开始LoD单位的循环(S6912)。即，三维数据编码装置对每个LoD反复进行步骤S6913～S6921的处理。
接着，三维数据编码装置开始三维点单位的循环(S6913)。即，三维数据编码装置对每个三维点反复进行步骤S6914～S6920的处理。
首先，三维数据编码装置搜索在处理对象的对象三维点的预测值的计算中使用的、存在于对象三维点的周围的三维点即多个周围点(S6914)。接着，三维数据编码装置计算多个周围点的属性信息的值的加权平均，将得到的值设定为预测值P(S6915)。接着，三维数据编码装置计算对象三维点的属性信息与预测值的差分即预测残差(S6916)。接着，三维数据编码装置通过对预测残差进行量化来计算量化值(S6917)。接着，三维数据编码装置对量化值进行算术编码(S6918)。
此外，三维数据编码装置通过对量化值进行逆量化来计算逆量化值(S6919)。接着，三维数据编码装置通过对逆量化值加上预测值来生成解码值(S6920)。接着，三维数据编码装置结束三维点单位的循环(S6921)。另外，三维数据编码装置结束LoD单位的循环(S6922)。
图59是是本实施方式的三维数据解码处理的流程图。首先，三维数据解码装置从比特流中解码位置信息(geometry)(S6541)。例如，三维数据解码装置使用八叉树表现进行解码。
接着，三维数据解码装置从比特流中解码属性信息(S6932)。例如，在对多种属性信息进行解码的情况下，三维数据解码装置也可以依次对多种属性信息进行解码。例如，在作为属性信息对颜色和反射率进行解码的情况下，三维数据解码装置按照附加到比特流的顺序，对颜色的编码结果和反射率的编码结果进行解码。例如，在比特流中，在颜色的编码结果之后附加有反射率的编码结果的情况下，三维数据解码装置对颜色的编码结果进行解码，然后对反射率的编码结果进行解码。另外，三维数据解码装置按照怎样的顺序对附加到比特流的属性信息的编码结果进行解码都可以。
另外，三维数据解码装置也可以通过对头等来获得比特流内的各属性信息的表示编码数据的开始部位的信息。由此，三维数据解码装置能够选择性地对需要解码的属性信息进行解码，因此能够省略不需要解码的属性信息的解码处理。因此，能够削减三维数据解码装置的处理量。另外，三维数据解码装置也可以并行地对多种属性信息进行解码，将解码结果合并到1个三维点群。由此，三维数据解码装置能够高速地对多种属性信息进行解码。
图60是属性信息解码处理(S6932)的流程图。首先，三维数据解码装置设定LoD(S6941)。即，三维数据解码装置将具有解码后的位置信息的多个三维点分别分配给多个LoD中的某一个。例如，该分配方法是与在三维数据编码装置中使用的分配方法相同的方法。
接着，三维数据解码装置开始LoD单位的循环(S6942)。即，三维数据解码装置对每个LoD反复进行步骤S6943～S6949的处理。
接着，三维数据解码装置开始三维点单位的循环(S6943)。即，三维数据解码装置对每个三维点反复进行步骤S6944～S6948的处理。
首先，三维数据解码装置搜索在处理对象的对象三维点的预测值的计算中使用的、存在于对象三维点的周围的三维点即多个周围点(S6944)。接着，三维数据解码装置计算多个周围点的属性信息的值的加权平均，将得到的值设定为预测值P(S6945)。另外，这些处理与三维数据编码装置中的处理相同。
接着，三维数据解码装置从比特流中对量化值进行算术解码(S6946)。另外，三维数据解码装置通过对解码后的量化值进行逆量化来计算逆量化值(S6947)。接着，三维数据解码装置通过对逆量化值加上预测值来生成解码值(S6948)。接着，三维数据解码装置结束三维点单位的循环(S6949)。另外，三维数据解码装置结束LoD单位的循环(S6950)。
图61是周围点搜索处理(S6914)的流程图。首先，三维数据编码装置选择比对象三维点所属的层上位的LoD层中包含的SearchNumPoint[上位LoD]个三维点，根据选择出的三维点计算预测值生成用的N个三维点(S6961)。接着，三维数据编码装置判定EnableReferringSameLoD是否为1(S6962)。在EnableReferringSameLoD为1的情况下(S6962的“是”)，三维数据编码装置选择与对象三维点所属的层相同的LoD层中包含的SearchNumPoint[同一LoD]个三维点，更新预测值生成用的N个三维点(S6963)。例如，三维数据编码装置根据在步骤S6961中选择的SearchNumPoint[上位LoD]个三维点和在步骤S6963中选择出的SearchNumPoint[同一LoD]个三维点来计算N个三维点。
另一方面，在EnableReferringSameLoD为0的情况下(S6962的“否”)，直接使用在步骤S6961中选择出的N个三维点。
图62是表示周围点搜索处理(S6914)的另一例的流程图。首先，三维数据编码装置判定EnableReferringSameLoD是否为1(S6971)。在EnableReferringSameLoD为1的情况下(S6971的“是”)，三维数据编码装置选择与对象三维点所属的层相同的LoD层中包含的SearchNumPoint[同一LoD]个三维点，根据选择出的三维点计算预测值生成用的N个三维点(S6972)。接着，三维数据编码装置选择比对象三维点所属的层上位的LoD层中包含的SearchNumPoint[上位LoD]个三维点，更新预测值生成用的N个三维点(S6973)。例如，三维数据编码装置根据在步骤S6972中选择出的SearchNumPoint[同一LoD]个三维点和在步骤S6973中选择出的SearchNumPoint[上位LoD]个三维点来计算N个三维点。
另一方面，在EnableReferringSameLoD为0的情况下(S6971的“否”)，三维数据编码装置选择比对象三维点所属的层上位的LoD层中包含的SearchNumPoint[上位LoD]个三维点，根据选择出的三维点计算预测值生成用的N个三维点(S6973)。
图63是表示周围点搜索处理(S6914)的另一例的流程图。首先，三维数据编码装置选择LoD(n-EnableReferenceLoD)以上的层级中包含的SearchNumPoint个三维点，根据选择出的三维点计算预测值生成用的N个三维点(S6981)。
另外，三维数据解码装置中的周围点搜索处理(S6944)也与三维数据编码装置中的周围点搜索处理(S6914)相同。
(实施方式5)
在本实施方式中，说明使用LoD(Level of Detail)对三维点的属性信息进行编码的另一例。在本实施方式中，说明使用作为表示是否参照属于与编码对象的对象三维点同一LoD层级的三维点的信息的EnableReferringSameLoD(同一层参照许可标志)、和作为表示EnableReferringSameLoD是有效的LoD层级的信息的ReferringSameLoDminLayer(同一层参照许可下限层信息)的方法。另外，以下，也将参照与对象三维点属于同一LoD层级的其他三维点称为同层参照。
EnableReferringSameLoD是表示是否许可同一LoD内的三维点的参照的信息。值1表示可参照，值0表示不可参照。此外，也可以是，在值1的情况下，可参照同一LoD内的三维点中的已经进行了编码或已解码的三维点。
ReferringSameLoDminLayer表示使EnableReferringSameLoD的信息有效(即许可同层参照)的LoD层级的阈值(下限层)。例如，在LoD层级的最下层为LoD0，其上的层级为LoD1、LoD2的情况下，如果ReferringSameLoDminLayer＝0，则在LoD0层级以上EnableReferringSameLoD的信息有效，如果ReferringSameLoDminLayer＝1，则在LoD1层级以上EnableReferringSameLoD的信息有效，如果ReferringSameLoDminLayer＝2，则在LoD2层级以上EnableReferringSameLoD的信息有效。
即，如果ReferringSameLoDminLayer＝N，则在LoDN层级以上EnableReferringSameLoD的信息有效。由此，在EnableReferringSameLoD＝1的情况下，到LoD层级N-1为止EnableReferringSameLoD的信息无效(即禁止同层参照)，能够并行地计算属于LoD层级N-1以下的多个三维点的属性信息(也称为属性值)的预测值。另外，在LoD层级N以上，EnableReferringSameLoD的信息有效，能够使用包含LoD层级N的大量相邻三维点的属性信息来计算属于LoD层级N以上的三维点的属性信息的预测值。结果，能够获得处理时间的削减和编码效率的改善的平衡。
另外，在EnableReferringSameLoD＝0的情况下，三维数据编码装置也可以不将ReferringSameLoDminLayer附加到头。由此，能够削减头的编码量。
另外，在上述中，示出了如果ReferringSameLoDminLayer＝N，则在LoDN层级以上EnableReferringSameLoD的信息有效的例子，但并不一定限于此。例如，也可以是，如果ReferringSameLoDminLayer＝N，则在LoDN层级以下EnableReferringSameLoD的信息有效，在LoDN+1层级以上EnableReferringSameLoD的信息无效。由此，能够并行地计算属于LoD层级N+1以上的三维点的属性信息的预测值，另外，通过使用包含LoD层级N的大量相邻三维点的属性信息来计算属于LoD层级N以下的三维点的属性信息的预测值，能够改善编码效率。
另外，ReferringSameLoDminLayer的值的范围在LoD的最大层级数为maxLoD的情况下，可以为0以上且maxLoD-1以下。另外，也可以是，在ReferringSameLoDminLayer＝0的情况下，在所有的LoD层级中EnableReferringSameLoD的信息有效。另外，也可以是，在ReferringSameLoDminLayer＝maxLoD-1的情况下，在生成的LoD的最上层EnableReferringSameLoD的信息有效。
图64是表示EnableReferringSameLoD＝1、且ReferringSameLoDminLayer＝0的情况下的参照关系的图。在该情况下，在LoD0层级以上EnableReferringSameLoD＝1有效，对于所有的层级中包含的三维点的属性信息，许可同层参照。例如，使用属于上位层的b0、b1和b2以及属于同层的c0和c1中的任一个属性信息来生成c2的预测值。此外，也可以是，在c0和c1已经编码或解码完毕的情况下，可参照c0和c1。由此，使用更大量的相邻三维点的属性信息来生成c2的预测值，因此预测精度提高，能够改善编码效率。
图65是表示EnableReferringSameLoD＝1、且ReferringSameLoDminLayer＝1的情况下的参照关系的图。在该情况下，在LoD1层级以上EnableReferringSameLoD＝1有效，对于LoD1以及LoD2许可同层参照。例如，使用属于上位层的a0、a1和a2以及属于同层的b0和b1中的任一个属性信息来生成b2的预测值。另外，也可以是，在b0和b1已经编码或解码完毕的情况下，可参照b0和b1。由此，使用更大量的相邻三维点的属性信息来生成b2的预测值，因此预测精度提高，能够改善编码效率。
另一方面，对于LoD0禁止同层参照。例如，使用属于上位层的b0、b1以及b2中的任一个属性信息来生成c2的预测值。另外，即使c0、c1被编码或解码，也禁止参照。由此，三维数据编码装置或者三维数据解码装置能够不等待c0和c1的编码或者解码处理完成而生成c2的预测值。即，三维数据编码装置或三维数据解码装置能够并行地计算针对同一LoD内的多个三维点的属性信息的预测值，因此能够削减处理时间。
此外，三维数据编码装置或者三维数据解码装置在LoD的最上层中，无论ReferringSameLoDminLayer的值如何，都可以使EnableReferringSameLoD的信息有效。即，三维数据编码装置或三维数据解码装置在LoD的最上层中，在EnableReferringSameLoD＝1的情况下，也可以不限于ReferringSameLoDminLayer的值，而许可同层参照。例如，三维数据编码装置或三维数据解码装置也可以在属于LoDN层级的三维点的属性信息的预测值的计算中，用下述条件判定可否同层参照。
(1)在EnableReferringSameLoD＝＝1、且LoDN为最上层的情况下，或者(2)EnableReferringSameLoD＝＝1、且LoDN＞＝ReferringSameLoDminLayer的情况下，许可同层参照。在除此以外的情况下，禁止同层参照。
图66是表示EnableReferringSameLoD＝1、且ReferringSameLoDminLayer＝LoDmax-1的情况下的参照关系的图。
在LoD的最上层中，无论ReferringSameLoDminLayer的值如何，EnableReferringSameLoD的信息都有效。在图66所示的例子中，LoD最大层级数为LoDmax，生成LoD的结果是最上层不到达LoDmax-1，最上层为LoD2。在此，LoD最大层级数是可设定的LoD的最大值，最上层是实际生成的LoD层级的最上层。
在该情况下，在最上层的LoD2中EnableReferringSameLoD的信息有效，许可同层参照。由此，在EnableReferringSameLoD＝1的情况下，至少在1层级中EnableReferringSameLoD的信息变得有效，因此能够提高编码效率。
在图66的例子中，使用a0和a1的属性信息中的任一个来生成a2的预测值。也可以是，在a0和a1已经编码或解码完毕的情况下，可参照a0和a1。由此，能够使用更大量的相邻三维点的属性信息生成a2的预测值，因此预测精度提高，能够改善编码效率。特别是在最上层，不存在上位层的三维点，因此无法参照上位层的三维点。因此，通过许可同层参照，能够改善编码效率的可能性高。
另外，也可以根据属性信息的编码方式对EnableReferringSameLoD以及ReferringSameLoDminLayer的值设置制约。例如，三维数据编码装置计算LoD的下位层内包含的三维点的属性信息的预测残差，在使用将该预测残差反馈到上位层并进行编码的编码方式(例如Lifting方式)的情况下，由于同一层中包含的三维点未完成编码或解码处理，因此无法参照预测值的生成。在使用这样的编码方式的情况下，EnableReferringSameLoD的值也可以被制约为0。
另外，在使用Lifting方式的情况下，示出了被制约为EnableReferringSameLoD＝0的例子，但不限于此。例如，在Lifting方式的情况下，在LoD的最上层有时可参照同一层中包含的三维点，因此也可以对最上层有效地设定EnableReferringSameLoD的信息。例如，在使用Lifting方式且EnableReferringSameLoD＝1的情况下，如果LoDN为最上层，则也可以对LoDN许可同层参照。
另外，在使用Lifting方式的情况下，ReferringSameLoDminLayer的值也可以被制约为maxLoD-1。由此，在使用Lifting方式的情况下，在生成的LoD的最上层中EnableReferringSameLoD的信息变得有效。另外，在使用Lifting方式的情况下，通过将ReferringSameLoDminLayer的值制约为maxLoD-1，在最上层以外，EnableReferringSameLoD的信息无效。即，在使用Lifting方式且EnableReferringSameLoD＝1的情况下，对于最上层以外禁止同层参照，对于最上层许可同层参照。
即，下述条件也可以应用于Lifting方式及其他方式。(1)在EnableReferringSameLoD＝＝1、且LoDN为最上层的情况下，或者(2)在EnableReferringSameLoD＝＝1、且LoDN＞＝ReferringSameLoDminLayer的情况下，许可同层参照。在除此以外的情况下，禁止同层参照。由此，能够通过Lifting方式和其他方式使用上述那样的共同的条件，能够使多个方式中的条件分支等的处理共同化，因此能够削减处理量。
图67是表示属性信息头(Attribute header)的句法例的图。在此，属性信息头例如是帧、切片或瓦片单位的头，是属性信息的头。图67所示的属性信息头包含EnableReferringSameLoD、maxLoD(最大层级数信息)、以及ReferringSameLoDminLayer。
EnableReferringSameLoD是表示是否许可同一LoD内的三维点的参照的信息。值1表示可参照，值0表示不可参照。此外，也可以是，在值1的情况下，可参照同一LoD内的三维点中的已经编码或解码完毕的三维点。
maxLoD表示LoD的最大层级数。在编码或解码中，以LoD层级数成为maxLoD所示的最大层级数以下的方式生成LoD。例如，在生成LoD的结果是LoD层级数不到达maxLoD的情况下，也可以将作为生成的结果而得到的最上层LoDN(N＜maxLoD-1)设定为编码或解码时的LoD层级的最上层。
ReferringSameLoDminLayer表示使EnableReferringSameLoD的信息有效的LoD层级的阈值。如果EnableReferringSameLoD＝N，则在LoDN层级以上EnableReferringSameLoD的信息有效。由此，在EnableReferringSameLoD＝1的情况下，到LoD层级N-1为止EnableReferringSameLoD的信息无效，能够并行地计算属于LoD层级N-1以下的三维点的属性信息的预测值。另外，在LoD层级N以上，EnableReferringSameLoD的信息有效，能够使用包含LoD层级N的大量相邻三维点的属性信息来计算属于LoD层级N以上的三维点的属性信息的预测值。
图68是表示属性信息头(Attribute header)的另一句法例的图。图68所示的属性信息头除了图67所示的属性信息头之外，还包含CodingType(编码方式信息)。
该CodingType表示应用于属性信息的编码的编码方法(编码方式)。例如，该编码方法包含对包含在LoD的下位层内的三维点的属性信息的预测残差进行计算，并将该预测残差反馈到上位层并进行编码的编码方式(例如Lifting方式)。另外，该编码方法也可以包含不将预测残差反馈到上位层的编码方式(例如，Predicting方式)。
另外，在CodingType表示Lifting方式的情况下，ReferringSameLoDminLayer的值也可以被制约为maxLoD-1。另外，在CodingType表示Lifting方式的情况下，三维数据编码装置也可以不将ReferringSameLoDminLayer附加到头。另外，在CodingType表示Lifting方式的情况下，三维数据编码装置也可以不将ReferringSameLoDminLayer附加到头，而将ReferringSameLoDminLayer的值作为maxLoD-1进行编码。另外，三维数据解码装置也可以在ReferringSameLoDminLayer未附加到头的情况下，将ReferringSameLoDminLayer的值作为maxLoD-1进行解码。
三维数据编码装置也可以对上述EnableReferringSameLoD、maxLoD以及ReferringSameLoDminLayer进行熵编码并附加到头。例如，三维数据编码装置对各值进行二值化并进行算术编码。另外，为了抑制处理量，三维数据编码装置也可以以固定长度进行编码。
此外，三维数据编码装置也可以不将上述EnableReferringSameLoD、maxLoD以及ReferringSameLoDminLayer附加到头。例如，也可以通过标准等的档次(profile)或级别(level)等来规定各值。由此，能够削减头的比特量。
此外，三维数据编码装置也可以将上述EnableReferringSameLoD、maxLoD以及ReferringSameLoDminLayer以WLD、SPC或体积单位切换，附加到WLD、SPC或体积单位的头。
另外，为了在多个LoD层级中切换可否同层参照，三维数据编码装置也可以按每个LoD层级生成EnableReferringSameLoD。例如，三维数据编码装置在最大层级数为maxLoD的情况下，也可以将maxLoD个EnableReferringSameLoD附加到头。由此，能够按每个层级来切换可否同层参照，因此能够获得编码效率和低处理量化的平衡。另外，在CodingType表示Lifting方式的情况下，三维数据编码装置也可以将最上层用的EnableReferringSameLoD附加到头。
图69是本实施方式的三维数据编码处理的流程图。首先，三维数据编码装置对位置信息(geometry)进行编码(S8201)。例如，三维数据编码装置使用八叉树表现来进行编码。
接着，三维数据编码装置变换属性信息(S8202)。例如，三维数据编码装置在位置信息的编码后，在由于量化等而三维点的位置发生了变化的情况下，对变化后的三维点再次分配原来的三维点的属性信息。此外，三维数据编码装置也可以根据位置的变化量对属性信息的值进行插值来进行再分配。例如，三维数据编码装置检测N个接近变化后的三维位置的变化前的三维点，基于从变化后的三维位置到各N个三维点的距离对N个三维点的属性信息的值进行加权平均，将得到的值决定为变化后的三维点的属性信息的值。另外，在由于量化等而2个以上的三维点变化到同一三维位置的情况下，三维数据编码装置也可以分配变化前的2个以上的三维点中的属性信息的平均值作为该变化后的属性信息的值。
接着，三维数据编码装置对属性信息进行编码(S8203)。例如，在对多个属性信息进行编码的情况下，三维数据编码装置也可以依次对多个属性信息进行编码。例如，在作为属性信息对颜色和反射率进行编码的情况下，三维数据编码装置生成在颜色的编码结果之后附加了反射率的编码结果的比特流。另外，附加到比特流的属性信息的多个编码结果可以是任何顺序。
另外，三维数据编码装置也可以将比特流内的各属性信息的表示编码数据开始部位的信息附加到头等。由此，三维数据解码装置能够选择性地对需要解码的属性信息进行解码，因此能够省略解码不需要的属性信息的解码处理。因此，能够削减三维数据解码装置的处理量。另外，三维数据编码装置也可以并行地对多个属性信息进行编码，并将编码结果整合并为1个比特流。由此，三维数据编码装置能够高速地对多个属性信息进行编码。
图70是属性信息编码处理(S8203)的流程图。首先，三维数据编码装置设定LoD(S8211)。即，三维数据编码装置将各三维点分配给多个LoD中的任一个。
接着，三维数据编码装置开始LoD单位的循环(S8212)。即，三维数据编码装置对每个LoD反复进行步骤S8213～S8221的处理。
接着，三维数据编码装置开始三维点单位的循环(S8213)。即，三维数据编码装置对每个三维点反复进行步骤S8214～S8220的处理。
首先，三维数据编码装置搜索在处理对象的对象三维点的预测值的计算中使用的、存在于对象三维点的周围的三维点即多个周围点(S8214)。接着，三维数据编码装置计算多个周围点的属性信息的值的加权平均，并将得到的值设定为预测值P(S8215)。接着，三维数据编码装置计算对象三维点的属性信息与预测值的差分即预测残差(S8216)。接着，三维数据编码装置通过对预测残差进行量化来计算量化值(S8217)。接着，三维数据编码装置对量化值进行算术编码(S8218)。
此外，三维数据编码装置通过对量化值进行逆量化来计算逆量化值(S8219)。接着，三维数据编码装置通过对逆量化值加上预测值来生成解码值(S8220)。接着，三维数据编码装置结束三维点单位的循环(S8221)。另外，三维数据编码装置结束LoD单位的循环(S8222)。
图71是本实施方式的三维数据解码处理的流程图。首先，三维数据解码装置从比特流中解码位置信息(geometry)(S8231)。例如，三维数据解码装置使用八叉树表现进行解码。
接着，三维数据解码装置从比特流中解码属性信息(S8232)。例如，在对多个属性信息进行解码的情况下，三维数据解码装置也可以依次对多个属性信息进行解码。例如，在作为属性信息对颜色和反射率进行解码的情况下，三维数据解码装置按照附加到比特流的顺序，对颜色的编码结果和反射率的编码结果进行解码。例如，在比特流中，在颜色的编码结果之后附加有反射率的编码结果的情况下，三维数据解码装置对颜色的编码结果进行解码，然后对反射率的编码结果进行解码。另外，三维数据解码装置按照怎样的顺序对附加到比特流的属性信息的编码结果进行解码都可以。
另外，三维数据解码装置也可以通过对头等进行解码来获得比特流内的各属性信息的表示编码数据开始部位的信息。由此，三维数据解码装置能够选择性地对需要解码的属性信息进行解码，因此能够省略解码不需要解码的属性信息的解码处理。因此，能够削减三维数据解码装置的处理量。另外，三维数据解码装置也可以并行地对多个属性信息进行解码，将解码结果合并到1个三维点群。由此，三维数据解码装置能够高速地对多个属性信息进行解码。
图72是属性信息解码处理(S8232)的流程图。首先，三维数据解码装置设定LoD(S8241)。即，三维数据解码装置将具有被解码的位置信息的多个三维点分别分配给多个LoD中的任一个。例如，该分配方法是与图70所示的三维数据编码装置中使用的分配方法相同的方法。
接着，三维数据解码装置开始LoD单位的循环(S8242)。即，三维数据解码装置对每个LoD反复进行步骤S8243～S8249的处理。
接着，三维数据解码装置开始三维点单位的循环(S8243)。即，三维数据解码装置对每个三维点反复进行步骤S8244～S8248的处理。
首先，三维数据解码装置搜索在处理对象的对象三维点的预测值的计算中使用的、存在于对象三维点的周围的三维点即多个周围点(S8244)。接着，三维数据解码装置计算多个周围点的属性信息的值的加权平均，将得到的值设定为预测值P(S8245)。另外，这些处理与三维数据编码装置中的处理相同。
接着，三维数据解码装置从比特流中对量化值进行算术解码(S8246)。此外，三维数据解码装置通过对解码出的量化值进行逆量化来计算逆量化值(S8247)。接着，三维数据解码装置通过对逆量化值加上预测值来生成解码值(S8248)。接着，三维数据解码装置结束三维点单位的循环(S8249)。另外，三维数据解码装置结束LoD单位的循环(S8250)。
图73是搜索周围点的处理(S8214)的流程图。此外，S8244的处理也与S8214的处理相同。
首先，三维数据编码装置从对象三维点所属的层级的上位LoD层选择SearchNumPoint[上位LoD]个三维点，使用所选择的三维点来计算预测值生成用的N个三维点(S8261)。在此，SearchNumPoint表示从LoD内的三维点群中选择用于预测的N个三维点时的搜索次数。另外，SearchNumPoint[上位LoD]表示针对比对象三维点靠上位的层的搜索次数。
接着，三维数据编码装置判定是否满足(1)EnableReferringSameLoD＝＝1、且LoDN为最上层的情况，以及(2)EnableReferringSameLoD＝＝1、且LoDN＞＝ReferringSameLoDminLayer中的某一个(S8262)。
(1)在满足EnableReferringSameLoD＝＝1、且LoDN为最上层的情况以及(2)EnableReferringSameLoD＝＝1、且LoDN＞＝ReferringSameLoDminLayer中的某一个的情况下(S8262的“是”)，三维数据编码装置从同一LoD层选择SearchNumPoint[同一LoD]个三维点，使用所选择的三维点来更新预测值生成用的N个三维点(S8263)。在此，SearchNumPoint[同一LoD]表示针对对象三维点所属的层的搜索次数。
另一方面，在(1)EnableReferringSameLoD＝＝1、且LoDN为最上层的情况以及(2)EnableReferringSameLoD＝＝1、且LoDN＞＝ReferringSameLoDminLayer均不满足的情况下(S8262的“否”)，不进行更新，在S8261中计算出的N个三维点被决定为预测值生成用的三维点。
另外，在图73所示的例子中，三维数据编码装置在从上位LoD层计算出预测值生成用的N个三维点之后，从同一LoD中选择预测值生成用的三维点并进行更新，但也可以在从同一LoD层计算出预测值生成用的N个三维点之后，从上位LoD中选择预测值生成用的三维点来进行更新。
(实施方式6)
说明使用LoD(Level of Detail)的信息对三维点的属性信息(属性信息)进行编码的另一例。具体而言，说明使用了信息ReferringSameLoDNumLayer的方法，所述ReferringSameLoDNumLayer是表示许可同层参照的层级的范围的信息，该同层参照是指参照与编码对象的三维点即对象三维点属于同一LoD层级的三维点。
ReferringSameLoDNumLayer是表示能够参照同一LoD内的三维点的LoD层级的范围的信息。即，ReferringSameLoDNumLayer表示许可同层参照的LoD层级的范围。例如，在从LoD的最上位层到ReferringSameLoDNumLayer的值的个数为止的层级中，能够参照同一LoD内的三维点(能够进行同层参照)，在除此以外的层级中，不能参照同一LoD内的三维点(不能进行同层参照)。另外，能够进行同层参照意味着同层参照是被许可的。不能进行同层参照意味着同层参照是被禁止的(不被许可)。
例如，在最大LoD层级数＝3的情况的最下层是LoD0、LoD0之上的层级是LoD1、LoD1之上的最上位层是LoD2的情况下，如果ReferringSameLoDNumLayer＝1，则LoD2层(最上位层)能够进行同层参照。另外，如果ReferringSameLoDNumLayer＝2，则在LoD2和LoD1层级中能够进行同层参照。另外，如果ReferringSameLoDNumLayer＝3(最大LoD层级数)，则在所有层级(LoD0、LoD1、LoD2)中能够进行同层参照。
即，如果ReferringSameLoDNumLayer＝N，则在从最上位层起的N个层级中能够进行同层参照，而比它们靠下的层级中不能进行同层参照。这样，通过在比从最上位层起的N个层级靠下的层级中设为不能进行同层参照，能够并行地计算属于这些层级的三维点的属性信息的预测值。并且，在从最上位层起的N个层级中能够进行同层参照，由此，能够使用属于从最上位层起的N个层级的大量邻接三维点的属性信息，计算属于从最上位层起的N个层级的三维点的属性信息的预测值。其结果，能够在处理时间的削减和编码效率的改善之间取得平衡。
另外，以上示出了如果ReferringSameLoDNumLayer＝N，则在从最上位层起的N个层级中能够进行同层参照的例子，但并不一定限于此。例如，也可以是，如果ReferringSameLoDNumLayer＝N，则在从最下层起的N个层级中，能够参照同一LoD内的三维点(可以进行同层参照)，在其以上的层级中不能参照同一LoD内的三维点。这样，能够在从最下层起的N个层级中通过能够进行同层参照从而改善编码效率，在其以上的层级中并行地计算属于该层级的三维点的属性信息的预测值。
另外，ReferringSameLoDNumLayer可以表示能够进行同层参照的层级的范围，也可以表示不能进行同层参照的层级的范围。例如，也可以是，如果ReferringSameLoDNumLayer＝N，则在从最下位层起的N个层级中不能进行同层参照，在其以上的层级中能够进行同层参照。或者，例如，也可以是，如果ReferringSameLoDNumLayer＝N，则在从最上位层起的N个层级中不能进行同层参照，在比它们靠下的层级中能够进行同层参照。
此外，ReferringSameLoDNumLayer的值的范围在LoD的最大层级数为maxLoD的情况下，也可以限制为1以上且maxLoD以下。即，也可以是，通过将ReferringSameLoDNumLayer的最小值限制为1，在最上位层中一定能够进行同层参照。由此，对于属于不参照其他层级的最上位层的三维点，能够参照同一LoD内的三维点，所以能够抑制编码效率的降低。另外，在ReferringSameLoDNumLayer＝maxLoD的情况下，也可以在所有LoD层级中能够进行同层参照。由此，能够提高属于所有LoD层级的三维点的编码效率。
图74是表示ReferringSameLoDNumLayer＝1(最小值)的情况的参照关系的例子的图。在该情况下，在LoD2层级中能够进行同层参照。即，在属于LoD2的三维点的属性信息的预测值的生成中，同一层级中包含的三维点是可参照的。例如，a2的预测值是使用a0和a1的属性信息中的某个而生成的。在a0和a1已经编码或解码完毕的情况下，a0和a1可以是可参照的。由此，由于a2的预测值是使用同一LoD内的更多的邻接三维点的属性信息而生成的，因此预测精度提高，能够改善编码效率。
另一方面，在属于LoD0的三维点的属性信息的预测值的生成中，禁止同一层级的三维点的参照。例如，c2的预测值是使用b0、b1和b2的属性信息中的某一个而生成的。即使c0和c1已经被编码或解码完毕，也禁止c0和c1的参照。由此，不等待c0和c1的编码或解码处理完成就能够生成c2的预测值。即，三维数据编码装置或三维数据解码装置能够并行地计算对同一LoD内的三维点的属性信息的预测值，所以能够削减处理时间。
图75是表示ReferringSameLoDNumLayer＝maxLoD(最大值)的情况下的参照关系的例子的图。在该情况下，在所有层级(LoD0、LoD1以及LoD2)中能够进行同层参照。即，在所有三维点的属性信息的预测值的生成中，能够参照同一层级中包含的三维点。例如，c2的预测值是使用b0、b1、b2、c0和c1的属性信息中的某一个而生成的。在c0和c1已经编码或解码完毕的情况下，c0和c1可以是可参照的。由此，由于c2的预测值是使用更多的邻接三维点的属性信息而生成的，因此预测精度提高，能够改善编码效率。
图76是表示属性信息头(Attribute header)的句法例的图。这里，属性信息头例如是帧、切片或瓦片单位的头，是属性信息的头。图76所示的属性信息头包含maxLoD(最大层级数信息)和ReferringSameLoDNumLayer_minus1。
maxLoD表示LoD的最大层级数。在编码或解码中，生成LoD，以使LoD层级数在由maxLoD表示的最大层级数以下。例如，在生成LoD的结果是LoD层级数不达到maxLoD的情况下，也可以将作为生成的结果而得到的最上位层LoDN(N＜maxLoD-1)设定为编码或解码时的LoD层级的最上位层。此外，在比特流中可以附加maxLoD_minus1(＝maxLoD-1)来代替maxLoD。由此，能够削减头量。
ReferringSameLoDNumLayer_minus1是表示能够参照同一LoD内的三维点的LoD层级的范围的信息。即，ReferringSameLoDNumLayer_minus1表示许可(或不许可)同层参照的LoD层级的范围。另外，ReferringSameLoDNumLayer_minus1表示从上述的ReferringSameLoDNumLayer减去1所得的值。在三维数据解码装置中，根据ReferringSameLoDNumLayer＝ReferringSameLoDNumLayer_minus1+1来计算ReferringSameLoDNumLayer。
ReferringSameLoDNumLayer的值可以表示：在从maxLoD所示的LoD的最上位层起的ReferringSameLoDNumLayer个层级中能够(许可)进行同层参照，在除此之外的层级中不能(禁止)进行同层参照。例如，在ReferringSameLoDNumLayer＝1(最小值)的情况下，在从maxLoD所示的LoD的最上位层起的1个层级即在最上位层中，能够进行同层参照，在除此之外的层级即最上位层以外的层级中，不能进行同层参照。
另外，例如在ReferringSameLoDNumLayer＝2的情况下，在从maxLoD所示的LoD的最上位层起的2个层级即最上位层和其之下的层级中，能够进行同层参照，在除此之外的层级即最上位层和其之下的层级以外的层级中，不能进行同层参照。
另外，例如在ReferringSameLoDNumLayer＝N的情况下，在从maxLoD所示的LoD的最上位层起的N个层级即包含最上位层的N个层级中，能够进行同层参照，在除此之外的层级即包含最上位层的N个层级以外的层级中，不能进行同层参照。
另外，例如在ReferringSameLoDNumLayer＝maxLoD(最大值)的情况下，在从maxLoD所示的LoD的最上位层起的maxLoD个层级即所有层级中，能够进行同层参照。
另外，ReferringSameLoDNumLayer_minus1的最小值是0，最大值是maxLoD-1。即，ReferringSameLoDNumLayer的最小值是1，最大值是maxLoD。由此，在不能参照其他层级的LoD的最上位层中，始终能够进行同层参照。由此，能够抑制编码效率的降低。
此外，也可以是，在同层参照中，能够参照同一LoD内的三维点中的已经编码或解码完毕的三维点，不能参照未进行编码或解码的三维点。
另外，三维数据编码装置在maxLoD＝1即LoD层级数＝1的情况下，也可以设定ReferringSameLoDNumLayer_minus1＝0即ReferringSameLoDNumLayer＝1，设定为能够进行同层参照而进行编码。另外，如图76所示，三维数据编码装置在maxLoD＝1的情况下，也可以不将ReferringSameLoDNumLayer_minus1附加到比特流。由此，在层级数为1个的情况下，能够使用同层参照来提高编码效率，并且削减头量。
另外，在maxLoD＝1的情况下，三维数据解码装置也可以将ReferringSameLoDNumLayer_minus1的值估计为0，即，将ReferringSameLoDNumLayer的值估计为1。由此，三维数据解码装置在maxLoD＝1的情况下，判断为ReferringSameLoDNumLayer_minus1＝0即ReferringSameLoDNumLayer＝1，能够使用同层参照而对编码后的比特流适当地进行解码。
图77是表示属性信息头的另一句法例的图。如图77所示，即使在maxLoD为1的情况下，ReferringSameLoDNumLayer_minus1也可被附加到比特流。在该情况下，在maxLoD＝1的情况下，可以通过标准等的profile或level等规定为ReferringSameLoDNumLayer_minus1＝0。
此外，三维数据解码装置在maxLoD＝1的情况下，如果不是ReferringSameLoDNumLayer_minus1＝0，则可以判定为比特流不符合标准(不符合预定的标准，或者违反标准)。
这样，在层级数为1的情况下，通过对该1个层级设为能够进行同层参照，能够提高编码效率，并且削减头量。
另外，三维数据编码装置也可以将maxLoD或ReferringSameLoDNumLayer_minus1在进行熵编码后附加到头。例如，三维数据编码装置将各值二值化并进行算术编码。此外，三维数据编码装置为了抑制处理量，也可以用固定长度进行编码。
另外，三维数据编码装置不一定需要在头中附加maxLoD或ReferringSameLoDNumLayer_minus1。例如也可以用标准等的profile或level等来规定各值。由此，能够削减头的比特量。
另外，三维数据编码装置也可以将maxLoD或ReferringSameLoDNumLayer_minus1以WLD、SPC或体积单位切换，并附加在WLD、SPC或体积单位的头中。
此外，ReferringSameLoDNumLayer_minus1的值也可以被属性信息的编码方式制约。例如，在使用计算LoD的下位层中包含的三维点的属性信息的预测残差并将该预测残差反馈到上位层来进行编码的编码方式(Lifting方式)的情况下，有时将最上位的LoD设定为能够进行同层参照，因此ReferringSameLoDNumLayer_minus1的值可以被制约为0(始终设定为0)。由此，能够提高Lifting方式的情况的编码效率。
另外，在作为生成LoD的结果而成为最上位层的层级中，可以无论ReferringSameLoDNumLayer的值是多少，都能够进行同层参照。例如，在属于LoDN层级的三维点的属性信息的预测值的计算中，也可以通过下述条件式来判定可否参照同一LoD的三维点。
“If(作为生成了LoDN＝＝LoD的结果而成为最上位层的层级or(N＞＝maxLoD-ReferringSameLoDNumLayer))then能够参照同一LoD的三维点
Otherwise禁止同一LoD的三维点的参照”
即，在处理对象(判定对象)的LoDN(N是0～maxLoD-1的整数)是最上位层的情况下，许可同层参照。另外，在LoDN是ReferringSameLoDNumLayer所示的能够进行同层参照的层级的情况下，许可同层参照。在LoDN不是最上位层并且不是ReferringSameLoDNumLayer所示的能够进行同层参照的层级的情况下，禁止同层参照。
图78是表示在应用上述内容的情况下，ReferringSameLoDNumLayer＝1的情况下的参照关系的例子的图。
例如，在图78所示的例子中，LoD最大层级数是maxLoD，生成LoD的结果是最上位层不到达maxLoD-1，最上位层是LoD2。这里，由于ReferringSameLoDNumLayer＝1，所以由ReferringSameLoDNumLayer规定的能够进行同层参照的层级是maxLoD-1。在这种情况下，尽管LoD2没有被包含在由ReferringSameLoDNumLayer规定的能够进行同层参照的范围内，但是许可作为最上位层的LoD2进行同层参照。即，作为生成LoD的结果而成为最上位层的层级，无论ReferringSameLoDNumLayer的值是多少，都被许可进行同层参照。由此，由于能够在至少1个层级中能够进行同层参照，所以能够提高编码效率。
在上述的情况下，在属于成为最上位层的LoD2的三维点的属性信息的预测值的生成中，许可参照同一层级中包含的三维点。例如，a2的预测值是使用a0和a1的属性信息中的某一个而生成的。另外，在a0和a1已经编码或解码完毕的情况下，a0和a1也可以是可参照的。由此，由于a2的预测值是使用更多的邻接三维点的属性信息而生成的，因此预测精度提高，能够改善编码效率。
此外，LoDN是否是最上位层例如也可以基于分配给比LoDN上位的层级的三维点是否残留在缓冲器等中来判定。即，也可以是，在分配给比LoDN上位的层级的三维点没有残留在缓冲器等中的情况下，LoDN被判定为最上位层，在除此以外的情况下，LoDN被判定为不是最上位层。由此，三维数据编码装置能够判定LoDN是否是最上位层，能够根据其结果，切换是否能够进行同层参照。
另外，ReferringSameLoDNumLayer的值也可以由属性信息的编码方式来制约。例如，在使用计算LoD的下位层中包含的三维点的属性信息的预测残差、并将该预测残差反馈给上位层来进行编码的编码方式(Lifting方式)的情况下，由于同一层级中包含的三维点未完成编码或解码处理，所以在预测值的生成中不能参照。在使用这样的编码方式的情况下，也可以无论ReferringSameLoDNumLayer的值是多少，都设定为不能进行同层参照。另外，三维数据编码装置在Lifting方式的情况下，也可以不将ReferringSameLoDNumLayer附加到头。由此，能够削减头量。
另外，导入下述条件式，在编码方式为Lifting的情况下，也可以设定为不能进行同层参照。
“If(编码方式不是Lifting方式and(作为生成LoDN＝＝LoD的结果而成为最上位层的层级or(N＞＝maxLoD-ReferringSameLoDNumLayer)))then能够参照同一LoD的三维点
Otherwise禁止同一LoD的三维点的参照”
另外，这里示出了在使用Lifting方式的情况下设定为不能进行同层参照的例子，但不一定限于此。例如，在使用Lifting方式的情况下，存在最上位的LoD能够参照同一层级中包含的三维点的情况，因此也可以设定为在最上位的LoD中能够进行同层参照。例如，在使用Lifting方式的情况下，在LoDN是最上位层的情况下，LoDN可以设定为能够进行同层参照。
另外，在使用Lifting方式的情况下，ReferringSameLoDNumLayer的值也可以被制约为1。由此，在Lifting方式的情况下，能够在所生成的LoD的最上位层能够进行同层参照，在最上位层以外禁止同层参照。即，也可以将下述条件式应用于Lifting方式以及其他方式。
“If(作为生成LoDN＝＝LoD的结果而成为最上位层的层级or(N＞＝maxLoD-ReferringSameLoDNumLayer))then能够参照同一LoD的三维点
Otherwise禁止同一LoD的三维点的参照
由此，由于在Lifting方式和其他方式中能够使用如上述那样的共同的式子，所以能够削减基于多个方式的条件分支等处理。
图79是周围点搜索处理的流程图，该周围点搜索处理搜索在处理对象的对象三维点的预测值的计算中使用的、存在于对象三维点的周围的三维点即多个周围点。
首先，三维数据编码装置从对象三维点所属的层级的上位LoD层中选择SearchNumPoint[上位LoD]个三维点，使用所选择的三维点计算预测值生成用的N个三维点(S11601)。在此，SearchNumPoint表示从LoD内的三维点群中选择用于预测的N个三维点时的搜索次数。SearchNumPoint[上位LoD]表示对对象三维点的上位层的搜索次数。
接着，三维数据编码装置在满足(1)处理对象的LoDN是最上位层(作为生成LoD的结果而成为最上位层的层级)的情况下以及(2)N＞＝maxLoD-ReferringSameLoDNumLayer的至少一方的情况下(S11602的“是”)，三维数据编码装置从同一LoD层中选择SearchNumPoint[同一LoD]个三维点，使用所选择的三维点更新预测值生成用的N个三维点(S11603)。在此，SearchNumPoint[同一LoD]表示对对象三维点所属的层的搜索次数。
另一方面，在(1)处理对象的LoDN是最上位层的情况下以及(2)N＞＝maxLoD-ReferringSameLoDNumLayer都不满足的情况下(S11602的“否”)，不进行更新，将在S11601中计算出的N个三维点决定为预测值生成用的三维点。
此外，在图79所示的例子中，三维数据编码装置在根据上位LoD层计算出预测值生成用的N个三维点之后，从同一LoD选择并更新预测值生成用的三维点，但也可以在根据同一LoD层计算出预测值生成用的N个三维点之后，从上位LoD选择并更新预测值生成用的三维点。
此外，三维数据编码装置例如计算通过上述的处理得到的N个三维点(周围点)的属性信息的值的加权平均，并将得到的值设定为预测值P。接着，三维数据编码装置计算对象三维点的属性信息与预测值的差分即预测残差。接着，三维数据编码装置通过对预测残差进行量化来计算量化值。接下来，三维数据编码装置对量化值进行算术编码。
另外，在此，在三维数据解码装置中也进行同样的周围点搜索处理。在此情况下，三维数据解码装置计算得到的N个三维点(周围点)的属性信息的值的加权平均，将得到的值设定为预测值P。接着，三维数据解码装置从比特流将量化值算术解码。此外，三维数据解码装置将解码后的量化值通过逆量化来计算逆量化值。接下来，三维数据解码装置通过将预测值加到逆量化值来生成解码值(属性信息)。
如上所述，本实施方式的三维数据编码装置进行图80所示的处理。三维数据编码装置基于多个三维点的多个位置信息，将点群数据中包含的多个三维点分配到1个以上层级(例如LoD)中的某一个(S11611)。三维数据编码装置在1个以上层级的数量为1的情况下，许可同层参照，并通过对多个三维点的多个属性信息进行编码来生成编码属性信息，所述同层参照参照与处理对象的三维点包含在同一层级中的其他三维点的属性信息来生成处理对象的三维点的属性信息的预测值(S11612)。例如，三维数据编码装置在1个以上层级的数量为1的情况下，始终许可同层参照。接着，三维数据编码装置生成包含编码属性信息的比特流(S11613)。
由此，三维数据编码装置在层级的数量为1的情况下，通过许可同层参照能够提高编码效率。
例如，三维数据编码装置在1个以上层级的数量为2以上的情况下，决定2个以上层级中的许可同层参照的层级和禁止同层参照的层级，基于决定结果，许可或禁止同层参照并对多个属性信息进行编码，从而生成编码属性信息。
由此，三维数据编码装置在层级的数量为2以上的情况下，能够选择是许可还是禁止同层参照。因此，能够适当地设定并行处理和编码效率的平衡。
例如，三维数据编码装置对2个以上层级中从最上位层到第N层(N为自然数)的层级许可同层参照，对比第N层靠下的层级禁止同层参照，对多个属性信息进行编码，从而生成编码属性信息。
由此，三维数据编码装置通过从上位层许可同层参照，能够高效地提高编码效率。
例如，比特流包含第1信息(例如ReferringSameLoDNumLayer_minus1)，该第1信息表示许可同层参照的层级或禁止同层参照的层级。即，三维数据编码装置将第1信息附加到比特流中。
例如，比特流包含表示1个以上层级的数量的第2信息(例如maxLoD)。即，三维数据编码装置将第2信息附加到比特流中。
例如，三维数据编码装置具备处理器和存储器，处理器使用存储器进行上述的处理。
此外，本实施方式的三维数据解码装置进行图81所示的处理。三维数据解码装置从比特流取得编码属性信息，所述编码属性信息是将点群数据中包含的多个三维点的多个属性信息编码后的信息，所述多个三维点基于多个三维点的多个位置信息而被分配到1个以上层级(例如LoD)中的某个层级(S11621)。三维数据解码装置在1个以上层级的数量为1的情况下，许可同层参照对编码属性信息进行解码，所述同层参照参照与处理对象的三维点包含在同一层级中的其他三维点的属性信息来生成处理对象的三维点的属性信息的预测值(S11622)。例如，三维数据解码装置在1个以上层级的数量为1的情况下，始终许可同层参照。
由此，三维数据解码装置在层级的数量为1的情况下，通过许可同层参照能够提高编码效率。
例如，三维数据解码装置在1个以上层级的数量为2以上的情况下，决定2个以上层级中的许可同层参照的层级和禁止同层参照的层级，通过基于决定结果许可或禁止同层参照，从而对编码属性信息进行解码。
例如，三维数据解码装置对2个以上的层级中的从最上位层到第N层(N为自然数)的层级许可同层参照，对比第N层靠下的层级禁止同层参照，从而对编码属性信息进行解码。
例如，三维数据解码装置从比特流取得第1信息(例如ReferringSameLoDNumLayer_minus1)，所述第1信息表示许可同层参照的层级或禁止同层参照的层级。例如，三维数据解码装置基于第1信息，决定许可同层参照的层级和禁止同层参照的层级，基于判定结果，基于决定结果，许可或禁止同层参照，从而对编码属性信息进行解码。
例如，三维数据解码装置从比特流取得表示1个以上层级的数量的第2信息(例如maxLoD)。例如，三维数据解码装置基于第2信息判定1个以上层级的数量是否为1。
例如，三维数据解码装置从比特流取得(1)表示许可同层参照的层级或禁止同层参照的层级的第1信息、和(2)表示1个以上层级的数量的第2信息，在第2信息所示的1个以上层级的数量为1的情况下，在第1信息不表示在作为1个以上层级的1个层级许可同层参照的情况下，判定为比特流不符合标准。
例如，三维数据解码装置具备处理器和存储器，处理器使用存储器进行上述的处理。
(实施方式7)
接着，对本实施方式的三维数据制作装置810的构成进行说明。图82是表示本实施方式的三维数据制作装置810的结构例的框图。该三维数据制作装置810例如搭载于车辆。三维数据制作装置810与外部的交通监控云、前方车辆或后方车辆进行三维数据的收发，并且制作并积蓄三维数据。
三维数据制作装置810具备：数据接收部811、通信部812、接收控制部813、格式转换部814、多个传感器815、三维数据制作部816、三维数据合成部817、三维数据积蓄部818、通信部819、发送控制部820、格式转换部821、以及数据发送部822。
数据接收部811从交通监控云或前方车辆接收三维数据831。三维数据831例如包含包括本车辆的传感器815不能检测的区域的、点云、可见光影像、进深信息、传感器位置信息、或速度信息等的信息。
通信部812与交通监控云或前方车辆进行通信，将数据发送请求等发送给交通监控云或前方车辆。
接收控制部813经由通信部812，与通信方交换对应格式等信息，确立与通信方的通信。
格式转换部814通过对由数据接收部811接收的三维数据831进行格式转换等来生成三维数据832。并且，格式转换部814在三维数据831被压缩或编码了的情况下，进行解压缩或解码处理。
多个传感器815是LiDAR、可见光相机或红外线相机等的取得车辆的外部的信息的传感器群，生成传感器信息833。例如，在传感器815为LiDAR等激光传感器的情况下，传感器信息833是点云(点群数据)等三维数据。另外，传感器815也可以不是多个。
三维数据制作部816根据传感器信息833生成三维数据834。三维数据834例如包括点云、可见光影像、进深信息、传感器位置信息、或速度信息等的信息。
三维数据合成部817将交通监控云或前方车辆等制作的三维数据832与根据本车辆的传感器信息833而制作的三维数据834进行合成，从而能够构建将本车辆的传感器815不能检测的前方车辆的前方的空间也包括在内的三维数据835。
三维数据积蓄部818积蓄所生成的三维数据835等。
通信部819与交通监控云或后方车辆进行通信，将数据发送请求等发送给交通监控云或后方车辆。
发送控制部820经由通信部819，与通信方交换对应格式等信息，与通信方确立通信。并且，发送控制部820根据由三维数据合成部817生成的三维数据832的三维数据构建信息、以及来自通信方的数据发送请求，来决定作为发送对象的三维数据的空间的发送区域。
具体而言，发送控制部820按照来自交通监控云或后方车辆的数据发送请求，决定发送区域，该发送区域包括后方车辆的传感器不能检测的本车辆的前方的空间。并且，发送控制部820根据三维数据构建信息判断能够发送的空间或已发送空间的更新有无等，从而决定发送区域。例如，发送控制部820将由数据发送请求指定且存在对应的三维数据835的区域决定为发送区域。并且，发送控制部820将通信方所对应的格式、以及发送区域通知给格式转换部821。
格式转换部821通过将三维数据积蓄部818中积蓄的三维数据835中的发送区域的三维数据836转换为接收侧所对应的格式，来生成三维数据837。另外，格式转换部821也可以通过对三维数据837进行压缩或编码，来削减数据量。
数据发送部822将三维数据837发送到交通监控云或后方车辆。该三维数据837例如包含：包括成为后方车辆的死角的区域的、本车辆的前方的点云、可见光影像、进深信息、或传感器位置信息等的信息。
另外，在此以由格式转换部814以及821进行格式转换等为例进行了说明，但是也可以不进行格式转换。
通过此构成，三维数据制作装置810从外部取得通过本车辆的传感器815不能检测的区域的三维数据831，并通过对三维数据831与基于由本车辆的传感器815检测到的传感器信息833的三维数据834进行合成而生成三维数据835。由此，三维数据制作装置810能够生成通过本车辆的传感器815不能检测的范围的三维数据。
并且，三维数据制作装置810能够按照来自交通监控云或后方车辆的数据发送请求，将包括通过后方车辆的传感器不能检测的本车辆的前方的空间的三维数据发送给交通监控云或后方车辆等。
接着，对三维数据制作装置810中的对后方车辆发送三维数据的发送顺序进行说明。图83是表示由三维数据制作装置810向交通监控云或后方车辆发送三维数据的顺序的一个例子的流程图。
首先，三维数据制作装置810生成并更新包括本车辆的前方道路上的空间的空间的三维数据835(S801)。具体而言，三维数据制作装置810通过将交通监控云或前方车辆等制作的三维数据831与基于本车辆的传感器信息833制作的三维数据834进行合成等，构建将通过本车辆的传感器815不能检测的前方车辆的前方的空间也包括在内的三维数据835。
接着，三维数据制作装置810判断已发送的空间中包含的三维数据835是否发生了变化(S802)。
在由于车辆或人从外部进入到已发送的空间等而该空间中包含的三维数据835发生了变化的情况下(S802的“是”)，三维数据制作装置810将包含发生了变化的空间的三维数据835的三维数据发送给交通监控云或后方车辆(S803)。
另外，三维数据制作装置810可以匹配于以规定的间隔发送三维数据的发送定时来发送发生了变化的空间的三维数据，但也可以在检测到变化后立即进行发送。即，三维数据制作装置810可以将发生了变化的空间的三维数据比以规定的间隔发送的三维数据优先发送。
并且，三维数据制作装置810也可以将发生了变化的空间的三维数据的全部作为发生了变化的空间的三维数据来发送，也可以仅发送三维数据的差分(例如出现或消失的三维点的信息、或三维点的位移信息等)。
并且，也可以是，三维数据制作装置810在发送发生了变化的空间的三维数据之前，先将紧急刹车警报等与本车辆的危险回避动作有关的元数据发送给后方车辆。由此，后方车辆能够提早确认到前方车辆的紧急刹车等，能够尽快地开始减速等危险回避动作。
在已发送的空间中包含的三维数据835没有发生变化的情况下(S802的“否”)或步骤S803之后，三维数据制作装置810将位于本车辆的前方距离L上的规定的形状的空间中包含的三维数据发送给交通监控云或后方车辆(S804)。
并且，例如步骤S801～S804的处理以规定的时间间隔反复执行。
并且，三维数据制作装置810在当前的发送对象的空间的三维数据835与三维地图之间没有差异的情况下，也可以不发送空间的三维数据837。
在本实施方式中，客户端装置向服务器或其他客户端装置发送由传感器得到的传感器信息。
首先，对本实施方式的系统的构成进行说明。图84是表示本实施方式的三维地图以及传感器信息的收发系统的结构的图。该系统包括服务器901、客户端装置902A以及902B。另外，在不对客户端装置902A以及902B进行特殊区分的情况下，也记作客户端装置902。
客户端装置902例如是被搭载在车辆等移动体的车载设备。服务器901例如是交通监控云等，能够与多个客户端装置902进行通信。
服务器901向客户端装置902发送由点云构成的三维地图。另外，三维地图的构成并非受点云所限，也可以通过网格结构等其他的三维数据来表现。
客户端装置902向服务器901发送由客户端装置902获得的传感器信息。传感器信息例如至少包括LiDAR获得信息、可见光图像、红外图像、深度图像、传感器位置信息以及速度信息之中的一个。
关于在服务器901与客户端装置902之间收发的数据，在想要减少数据的情况下可以被压缩，在想要维持数据的精确度的情况下可以不进行压缩。在对数据进行压缩的情况下，在点云中例如能够采用基于八叉树的三维压缩方式。并且，在可见光图像、红外图像、以及深度图像中可以采用二维的图像压缩方式。二维的图像压缩方式例如是以MPEG标准化的MPEG-4AVC或HEVC等。
并且，服务器901按照来自客户端装置902的三维地图的发送请求，将在服务器901进行管理的三维地图发送到客户端装置902。另外，服务器901也可以不等待来自客户端装置902的三维地图的发送请求，就对三维地图进行发送。例如，服务器901也可以将三维地图广播到预先规定的空间中的一个以上的客户端装置902。并且，服务器901也可以向接受过一次发送请求的客户端装置902，每隔一定的时间发送适于客户端装置902的位置的三维地图。并且，服务器901也可以在每当服务器901所管理的三维地图被更新时，向客户端装置902发送三维地图。
客户端装置902向服务器901发出三维地图的发送请求。例如，在客户端装置902在行驶时想要进行自身位置估计的情况下，客户端装置902将三维地图的发送请求发送到服务器901。
另外，在以下的情况下，客户端装置902也可以向服务器901发出三维地图的发送请求。在客户端装置902所持有的三维地图比较旧的情况下，客户端装置902也可以向服务器901发出三维地图的发送请求。例如，在客户端装置902获得三维地图并经过了一定期间的情况下，客户端装置902也可以向服务器901发出三维地图的发送请求。
也可以是，在客户端装置902将要从客户端装置902所保持的三维地图所示的空间出来的一定时刻之前，客户端装置902向服务器901发出三维地图的发送请求。例如也可以是，在客户端装置902存在于从客户端装置902所保持的三维地图所示的空间的边界预先规定的距离以内的情况下，客户端装置902向服务器901发出三维地图的发送请求。并且，在掌握到客户端装置902的移动路径以及移动速度的情况下，可以根据掌握到的移动路径和移动速度，来预测客户端装置902从客户端装置902所保持的三维地图示出的空间出来的时刻。
在客户端装置902根据传感器信息制作的三维数据与三维地图的位置对照时的误差在一定范围以上时，客户端装置902可以向服务器901发出三维地图的发送请求。
客户端装置902按照从服务器901发送来的传感器信息的发送请求，将传感器信息发送到服务器901。另外，客户端装置902也可以不等待来自服务器901的传感器信息的发送请求，就将传感器信息发送到服务器901。例如，客户端装置902在从服务器901得到过一次传感器信息的发送请求的情况下，可以在一定的期间之中，定期地将传感器信息发送到服务器901。并且也可以是，在客户端装置902根据传感器信息制作的三维数据、与从服务器901得到的三维地图的位置对照时的误差为一定范围以上的情况下，客户端装置902判断在客户端装置902的周边的三维地图有发生变化的可能性，并将这一判断结果和传感器信息一起发送到服务器901。
服务器901向客户端装置902发出传感器信息的发送请求。例如，服务器901从客户端装置902接收GPS等客户端装置902的位置信息。服务器901根据客户端装置902的位置信息，在判断为客户端装置902接近到服务器901所管理的三维地图中信息少的空间的情况下，为了重新生成三维地图，而将传感器信息的发送请求发出到客户端装置902。并且也可以是，服务器901在想要更新三维地图的情况、在想要确认积雪时或灾害时等道路状况的情况、在想要确认堵塞状况或事件事故状况等情况下，也可以发出传感器信息的发送请求。
并且也可以是，客户端装置902按照从服务器901接受的传感器信息的发送请求的接收时的通信状态或频带，来设定发送到服务器901的传感器信息的数据量。对发送到服务器901的传感器信息的数据量进行设定例如是指，对该数据本身进行增减、或者选择适宜的压缩方式。
图85是表示客户端装置902的结构例的框图。客户端装置902从服务器901接收以点云等构成的三维地图，根据基于客户端装置902的传感器信息而制作的三维数据，来估计客户端装置902的自身位置。并且，客户端装置902将获得的传感器信息发送到服务器901。
客户端装置902具备：数据接收部1011、通信部1012、接收控制部1013、格式转换部1014、多个传感器1015、三维数据制作部1016、三维图像处理部1017、三维数据积蓄部1018、格式转换部1019、通信部1020、发送控制部1021、以及数据发送部1022。
数据接收部1011从服务器901接收三维地图1031。三维地图1031是包括WLD或SWLD等点云的数据。三维地图1031也可以包括压缩数据、以及非压缩数据的任一方。
通信部1012与服务器901进行通信，将数据发送请求(例如，三维地图的发送请求)等发送到服务器901。
接收控制部1013经由通信部1012，与通信对方交换对应格式等信息，确立与通信对方的通信。
格式转换部1014通过对数据接收部1011所接收的三维地图1031进行格式转换等，来生成三维地图1032。并且，格式转换部1014在三维地图1031被压缩或编码的情况下，进行解压缩或解码处理。另外，格式转换部1014在三维地图1031为非压缩数据的情况下，不进行解压缩或解码处理。
多个传感器1015是LiDAR、可见光相机、红外线相机、或深度传感器等客户端装置902所搭载的用于获得车辆的外部的信息的传感器群，生成传感器信息1033。例如，在传感器1015为LiDAR等激光传感器的情况下，传感器信息1033是点云(点群数据)等三维数据。另外，传感器1015也可以不是多个。
三维数据制作部1016根据传感器信息1033，制作本车辆的周边的三维数据1034。例如，三维数据制作部1016利用由LiDAR获得的信息、以及由可见光相机得到的可见光影像，来制作本车辆的周边的具有颜色信息的点云数据。
三维图像处理部1017利用接收的点云等三维地图1032、以及根据传感器信息1033生成的本车辆的周边的三维数据1034，来进行本车辆的自身位置估计处理等。另外，也可以是，三维图像处理部1017对三维地图1032与三维数据1034进行合成，来制作本车辆的周边的三维数据1035，利用制作的三维数据1035，来进行自身位置估计处理。
三维数据积蓄部1018对三维地图1032、三维数据1034以及三维数据1035等进行积蓄。
格式转换部1019通过将传感器信息1033转换为接收侧所对应的格式，来生成传感器信息1037。另外，格式转换部1019可以通过对传感器信息1037进行压缩或编码来减少数据量。并且，在不需要格式转换的情况下，格式转换部1019可以省略处理。并且，格式转换部1019可以对按照发送范围的指定来发送的数据量进行控制。
通信部1020与服务器901进行通信，从服务器901接收数据发送请求(传感器信息的发送请求)等。
发送控制部1021经由通信部1020，与通信对方交换对应格式等信息，从而确立通信。
数据发送部1022将传感器信息1037发送到服务器901。传感器信息1037例如包括通过LiDAR获得的信息、通过可见光相机获得的亮度图像(可见光图像)、通过红外线相机获得的红外图像、通过深度传感器获得的深度图像、传感器位置信息、以及速度信息等由多个传感器1015获得的信息。
接着，对服务器901的结构进行说明。图86是示出服务器901的结构例的框图。服务器901接收从客户端装置902发送来的传感器信息，根据接收的传感器信息，来制作三维数据。服务器901利用制作的三维数据，对服务器901管理的三维地图进行更新。并且，服务器901按照来自客户端装置902的三维地图的发送请求，将更新的三维地图发送到客户端装置902。
服务器901具备：数据接收部1111、通信部1112、接收控制部1113、格式转换部1114、三维数据制作部1116、三维数据合成部1117、三维数据积蓄部1118、格式转换部1119、通信部1120、发送控制部1121、以及数据发送部1122。
数据接收部1111从客户端装置902接收传感器信息1037。传感器信息1037例如包括通过LiDAR获得的信息、通过可见光相机获得的亮度图像(可见光图像)、通过红外线相机获得的红外图像、通过深度传感器获得的深度图像、传感器位置信息、以及速度信息等。
通信部1112与客户端装置902进行通信，将数据发送请求(例如，传感器信息的发送请求)等发送到客户端装置902。
接收控制部1113经由通信部1112，与通信对方交换对应格式等信息，从而确立通信。
格式转换部1114在接收的传感器信息1037被压缩或编码的情况下，通过进行解压缩或解码处理，来生成传感器信息1132。另外，在传感器信息1037是非压缩数据的情况下，格式转换部1114不进行解压缩或解码处理。
三维数据制作部1116根据传感器信息1132，制作客户端装置902的周边的三维数据1134。例如，三维数据制作部1116利用通过LiDAR获得的信息、以及通过可见光相机得到的可见光影像，来制作客户端装置902的周边具有颜色信息的点云数据。
三维数据合成部1117将基于传感器信息1132而制作的三维数据1134，与服务器901管理的三维地图1135进行合成，据此来更新三维地图1135。
三维数据积蓄部1118对三维地图1135等进行积蓄。
格式转换部1119通过将三维地图1135转换为接收侧对应的格式，来生成三维地图1031。另外，格式转换部1119也可以通过对三维地图1135进行压缩或编码，来减少数据量。并且，在不需要格式转换的情况下，格式转换部1119也可以省略处理。并且，格式转换部1119可以对按照发送范围的指定来发送的数据量进行控制。
通信部1120与客户端装置902进行通信，从客户端装置902接收数据发送请求(三维地图的发送请求)等。
发送控制部1121经由通信部1120，与通信对方交换对应格式等信息，从而确立通信。
数据发送部1122将三维地图1031发送到客户端装置902。三维地图1031是包括WLD或SWLD等点云的数据。在三维地图1031中也可以包括压缩数据以及非压缩数据的任一方。
接着，对客户端装置902的工作流程进行说明。图87是示出客户端装置902进行的三维地图获得时的工作的流程图。
首先，客户端装置902向服务器901请求三维地图(点云等)的发送(S1001)。此时，客户端装置902也将通过GPS等得到的客户端装置902的位置信息一起发送，据此，可以向服务器901请求与该位置信息相关的三维地图的发送。
接着，客户端装置902从服务器901接收三维地图(S1002)。若接收的三维地图是压缩数据，客户端装置902对接收的三维地图进行解码，生成非压缩的三维地图(S1003)。
接着，客户端装置902根据从多个传感器1015得到的传感器信息1033，来制作客户端装置902的周边的三维数据1034(S1004)。接着，客户端装置902利用从服务器901接收的三维地图1032、以及根据传感器信息1033制作的三维数据1034，来估计客户端装置902的自身位置(S1005)。
图88是示出客户端装置902进行的传感器信息的发送时的工作的流程图。首先，客户端装置902从服务器901接收传感器信息的发送请求(S1011)。接收了发送请求的客户端装置902将传感器信息1037发送到服务器901(S1012)。另外，在传感器信息1033包括通过多个传感器1015得到的多个信息的情况下，客户端装置902针对各信息，以适于各信息的压缩方式来进行压缩，从而生成传感器信息1037。
接着，对服务器901的工作流程进行说明。图89是示出服务器901进行传感器信息的获得时的工作的流程图。首先，服务器901向客户端装置902请求传感器信息的发送(S1021)。接着，服务器901接收按照该请求而从客户端装置902发送的传感器信息1037(S1022)。接着，服务器901利用接收的传感器信息1037，来制作三维数据1134(S1023)。接着，服务器901将制作的三维数据1134反映到三维地图1135(S1024)。
图90是示出服务器901进行的三维地图的发送时的工作的流程图。首先，服务器901从客户端装置902接收三维地图的发送请求(S1031)。接收了三维地图的发送请求的服务器901向客户端装置902发送三维地图1031(S1032)。此时，服务器901可以与客户端装置902的位置信息相对应地提取其附近的三维地图，并发送提取的三维地图。并且可以是，服务器901针对由点云构成的三维地图，例如利用通过八叉树的压缩方式等来进行压缩，并发送压缩后的三维地图。
以下，对本实施方式的变形例进行说明。
服务器901利用从客户端装置902接收的传感器信息1037，来制作客户端装置902的位置附近的三维数据1134。接着，服务器901对制作的三维数据1134、与服务器901所管理的相同区域的三维地图1135进行匹配，算出三维数据1134与三维地图1135的差分。服务器901在差分为预先决定的阈值以上的情况下，判断在客户端装置902的周边发生了某种异常。例如，在因地震等自然灾害而发生了地表下沉等时，可以考虑到在服务器901所管理的三维地图1135、与基于传感器信息1037而制作的三维数据1134之间会产生较大的差。
传感器信息1037也可以包括传感器的种类、传感器的性能、以及传感器的型号之中的至少一个。并且也可以是，传感器信息1037中被附加与传感器的性能相对应的类别ID等。例如，在传感器信息1037是由LiDAR获得的信息的情况下，可以考虑到针对传感器的性能来分配标识符，例如，针对能够以几mm单位的精确度来获得信息的传感器分配类别1、针对能够以几cm单位的精确度来获得信息的传感器分配类别2、针对能够以几m单位的精确度来获得信息的传感器分配类别3。并且，服务器901也可以从客户端装置902的型号来估计传感器的性能信息等。例如，在客户端装置902搭载于车辆的情况下，服务器901可以根据该车辆的车型来判断传感器的标准信息。在这种情况下，服务器901可以事前获得车辆的车型的信息，也可以使该信息包括在传感器信息中。并且也可以是，服务器901利用获得的传感器信息1037，来切换针对利用传感器信息1037而制作的三维数据1134的校正的程度。例如，在传感器性能为高精确度(类别1)的情况下，服务器901不进行针对三维数据1134的校正。在传感器性能为低精确度(类别3)的情况下，服务器901将适于传感器的精确度的校正适用到三维数据1134。例如，服务器901在传感器的精确度越低的情况下就越增强校正的程度(强度)。
服务器901也可以向存在于某个空间的多个客户端装置902同时发出传感器信息的发送请求。服务器901在从多个客户端装置902接收到多个传感器信息的情况下，没有必要将所有的传感器信息都利用到三维数据1134的制作，例如可以按照传感器的性能，来选择将要利用的传感器信息。例如，服务器901在对三维地图1135进行更新的情况下，可以从接收的多个传感器信息中选择高精确度的传感器信息(类别1)，利用选择的传感器信息来制作三维数据1134。
服务器901并非受交通监控云等服务器所限，也可以是其他的客户端装置(车载)。图91示出了这种情况下的系统结构。
例如，客户端装置902C向附近存在的客户端装置902A发出传感器信息的发送请求，并从客户端装置902A获得传感器信息。于是，客户端装置902C利用获得的客户端装置902A的传感器信息，来制作三维数据，并更新对客户端装置902C的三维地图进行更新。这样，客户端装置902C能够活用客户端装置902C的性能，来生成能够从客户端装置902A获得的空间的三维地图。例如，在客户端装置902C的性能高的情况下，可以考虑发生这种情况。
并且，在这种情况下，提供了传感器信息的客户端装置902A被给予获得由客户端装置902C生成的高精确度的三维地图的权利。客户端装置902A按照该权利，从客户端装置902C接收高精确度的三维地图。
并且也可以是，客户端装置902C向附近存在的多个客户端装置902(客户端装置902A以及客户端装置902B)发出传感器信息的发送请求。在客户端装置902A或客户端装置902B的传感器为高性能的情况下，客户端装置902C能够利用通过该高性能的传感器得到的传感器信息来制作三维数据。
图92是示出服务器901以及客户端装置902的功能构成的框图。服务器901例如具备：对三维地图进行压缩以及解码的三维地图压缩/解码处理部1201、对传感器信息进行压缩以及解码的传感器信息压缩/解码处理部1202。
客户端装置902具备：三维地图解码处理部1211、以及传感器信息压缩处理部1212。三维地图解码处理部1211接收压缩后的三维地图的编码数据，对编码数据进行解码并获得三维地图。传感器信息压缩处理部1212不对通过获得的传感器信息而制作的三维数据进行压缩，而是对传感器信息本身进行压缩，将压缩后的传感器信息的编码数据发送到服务器901。根据此构成，客户端装置902可以将用于对三维地图(点云等)进行解码处理的处理部(装置或LSI)保持在内部，而不必将用于对三维地图(点云等)的三维数据进行压缩处理的处理部保持在内部。这样，能够抑制客户端装置902的成本以及耗电量等。
如以上所述，本实施方式所涉及的客户端装置902被搭载在移动体，根据通过被搭载在移动体的传感器1015得到的、示出移动体的周边状况的传感器信息1033，来制作移动体的周边的三维数据1034。客户端装置902利用制作的三维数据1034，来估计移动体的自身位置。客户端装置902将获得的传感器信息1033发送到服务器901或者其他的客户端装置902。
据此，客户端装置902将传感器信息1033发送到服务器901等。这样，与发送三维数据的情况相比，将会有能够减少发送数据的数据量的可能性。并且，由于没有必要在客户端装置902执行三维数据的压缩或编码等处理，因此能够减少客户端装置902的处理的量。因此，客户端装置902能够实现传输的数据量的减少或装置的结构的简略化。
并且，客户端装置902进一步向服务器901发送三维地图的发送请求，从服务器901接收三维地图1031。客户端装置902在自身位置的估计中，利用三维数据1034和三维地图1032，来对自身位置进行估计。
并且，传感器信息1033至少包括通过激光传感器得到的信息、亮度图像(可见光图像)、红外图像、深度图像、传感器的位置信息、以及传感器的速度信息之中的一个。
并且，传感器信息1033包括示出传感器的性能的信息。
并且，客户端装置902对传感器信息1033进行编码或压缩，在传感器信息的发送中，将编码或压缩后的传感器信息1037发送到服务器901或者其他的客户端装置902。据此，客户端装置902能够减少传输的数据量。
例如，客户端装置902具备处理器以及存储器，处理器利用存储器进行上述的处理。
并且，本实施方式所涉及的服务器901能够与搭载在移动体的客户端装置902进行通信，从客户端装置902接收通过被搭载在移动体的传感器1015得到的、示出移动体的周边状况的传感器信息1037。服务器901根据接收的传感器信息1037，来制作移动体的周边的三维数据1134。
据此，服务器901利用从客户端装置902发送来的传感器信息1037，来制作三维数据1134。这样，与客户端装置902发送三维数据的情况相比，将会有能够减少发送数据的数据量的可能性。并且，由于可以不必在客户端装置902进行三维数据的压缩或编码等处理，因此能够减少客户端装置902的处理量。这样，服务器901能够实现传输的数据量的减少、或装置的结构的简略化。
并且，服务器901进一步向客户端装置902发送传感器信息的发送请求。
并且，服务器901进一步利用制作的三维数据1134，来更新三维地图1135，按照来自客户端装置902的三维地图1135的发送请求，将三维地图1135发送到客户端装置902。
并且，传感器信息1037至少包括通过激光传感器得到的信息、亮度图像(可见光图像)、红外图像、深度图像、传感器的位置信息、以及传感器的速度信息之中的一个。
并且，传感器信息1037包括示出传感器的性能的信息。
并且，服务器901进一步按照传感器的性能，对三维数据进行校正。据此，该三维数据制作方法能够提高三维数据的品质。
并且，服务器901在传感器信息的接收中，从多个客户端装置902接收多个传感器信息1037，根据多个传感器信息1037中包括的示出传感器的性能的多个信息，来选择三维数据1134的制作中使用的传感器信息1037。据此，服务器901能够提高三维数据1134的品质。
并且，服务器901对接收的传感器信息1037进行解码或解压缩，根据解码或解压缩后的传感器信息1132，制作三维数据1134。据此，服务器901能够减少传输的数据量。
例如，服务器901具备处理器和存储器，处理器利用存储器进行上述的处理。
以下，对变形例进行说明。图93是表示本实施方式的系统的结构的图。图93所示的系统包括服务器2001、客户端装置2002A和客户端装置2002B。
客户端装置2002A及客户端装置2002B被搭载于车辆等移动体，将传感器信息向服务器2001发送。服务器2001将三维地图(点云)向客户端装置2002A及客户端装置2002B发送。
客户端装置2002A具备传感器信息获得部2011、存储部2012和数据发送可否判定部2013。另外，客户端装置2002B的结构也是同样的。此外，以下在将客户端装置2002A和客户端装置2002B不特别区分的情况下，也记作客户端装置2002。
图94是表示本实施方式所涉及的客户端装置2002的动作的流程图。
传感器信息获得部2011利用搭载于移动体的传感器(传感器群)获得各种传感器信息。即，传感器信息获得部2011获得由搭载于移动体的传感器(传感器群)得到的、表示移动体的周边状况的传感器信息。此外，传感器信息获得部2011将所获得的传感器信息向存储部2012存储。该传感器信息包括LiDAR获得信息、可视光图像、红外图像及深度图像中的至少一个。此外，传感器信息也可以包括传感器位置信息、速度信息、获得时刻信息及获得场所信息中的至少一个。传感器位置信息表示获得了传感器信息的传感器的位置。速度信息表示传感器获得了传感器信息时的移动体的速度。获得时刻信息表示传感器信息被传感器获得的时刻。获得场所信息表示传感器信息被传感器获得时的移动体或传感器的位置。
接着，数据发送可否判定部2013判定移动体(客户端装置2002)是否存在于能够向服务器2001发送传感器信息的环境中(S2002)。例如，数据发送可否判定部2013也可以使用GPS等信息，确定客户端装置2002所处的场所及时刻，判定是否能够发送数据。此外，数据发送可否判定部2013也可以通过是否能够连接到特定的接入点，来判定是否能够发送数据。
客户端装置2002在判定为移动体存在于能够向服务器2001发送传感器信息的环境中的情况下(S2002中“是”)，将传感器信息向服务器2001发送(S2003)。即，在客户端装置2002成为能够将传感器信息向服务器2001发送那样的状况的时间点，客户端装置2002将所保持的传感器信息向服务器2001发送。例如，在交叉口等设置能够进行高速通信的毫米波的接入点。客户端装置2002在进入到交叉口内的时间点，利用毫米波通信将客户端装置2002所保持的传感器信息高速地发送给服务器2001。
接着，客户端装置2002将已发送给服务器2001的传感器信息从存储部2012删除(S2004)。另外，客户端装置2002也可以在没有向服务器2001发送的传感器信息满足规定的条件的情况下将该传感器信息删除。例如，客户端装置2002也可以在所保持的传感器信息的获得时刻比从当前时刻起一定时刻前更早的时间点，将该传感器信息从存储部2012删除。即，客户端装置2002也可以在传感器信息被传感器获得的时刻与当前时刻的差超过了预先设定的时间的情况下，将传感器信息从存储部2012删除。此外，客户端装置2002也可以在所保持的传感器信息的获得场所距当前地点的距离比一定距离远的时间点，将该传感器信息从存储部2012删除。即，客户端装置2002也可以在传感器信息被传感器获得时的移动体或传感器的位置与移动体或传感器的当前位置的差超过了预先设定的距离的情况下，将传感器信息从存储部2012删除。由此，能够抑制客户端装置2002的存储部2012的容量。
在由客户端装置2002进行的传感器信息的获得没有结束的情况下(S2005中“否”)，客户端装置2002再次进行步骤S2001以后的处理。此外，在由客户端装置2002进行的传感器信息的获得结束的情况下(S2005中“是”)，客户端装置2002结束处理。
此外，客户端装置2002也可以匹配于通信状况来选择向服务器2001发送的传感器信息。例如，客户端装置2002在能够高速通信的情况下，将向存储部2012保持的尺寸大的传感器信息(例如LiDAR获得信息等)优先发送。此外，客户端装置2002在难以高速通信的情况下，发送向存储部2012保持的尺寸小且优先级高的传感器信息(例如可视光图像)。由此，客户端装置2002能够将保持在存储部2012中的传感器信息根据网络的状况有效地发送给服务器2001。
此外，客户端装置2002也可以从服务器2001获得表示上述当前时刻的时刻信息及表示当前地点的场所信息。此外，客户端装置2002也可以基于所获得的时刻信息及场所信息，决定传感器信息的获得时刻及获得场所。即，客户端装置2002也可以从服务器2001获得时刻信息，使用所获得的时刻信息，生成获得时刻信息。此外，客户端装置2002也可以从服务器2001获得场所信息，使用所获得的场所信息，生成获得场所信息。
例如关于时刻信息，服务器2001和客户端装置2002利用NTP(Network TimeProtocol：网络时间协议)或PTP(Precision Time Protocol：高精度时间同步协议)等的机制进行时刻同步。由此，客户端装置2002能够获得正确的时刻信息。此外，由于能够在服务器2001与多个客户端装置之间使时刻同步，所以能够使不同客户端装置2002获得的传感器信息内的时刻同步。因此，服务器2001能够处置表示被同步后的时刻的传感器信息。另外，时刻同步的机制也可以是NTP或PTP以外的任何方法。此外，作为上述时刻信息及场所信息，也可以使用GPS的信息。
服务器2001也可以指定时刻或场所来从多个客户端装置2002获得传感器信息。例如在发生了某种事故的情况下，为了寻找处于其附近的客户端，服务器2001指定事故发生时刻和场所，向多个客户端装置2002广播发送传感器信息发送请求。并且，具有相应的时刻和场所的传感器信息的客户端装置2002向服务器2001发送传感器信息。即，客户端装置2002从服务器2001接收包含指定场所及时刻的指定信息的传感器信息发送请求。客户端装置2002在存储部2012中存储有在由指定信息表示的场所及时刻得到的传感器信息、并且判定为移动体存在于能够向服务器2001发送传感器信息的环境中的情况下，将在由指定信息表示的场所及时刻得到的传感器信息向服务器2001发送。由此，服务器2001能够从多个客户端装置2002获得与事故的发生关联的传感器信息，用于事故解析等。
另外，客户端装置2002在接收到来自服务器2001的传感器信息发送请求的情况下，也可以拒绝传感器信息的发送。此外，也可以事前由客户端装置2002设定在多个传感器信息之中能够发送哪个传感器信息。或者，服务器2001也可以每次向客户端装置2002询问能否发送传感器信息。
此外，对于向服务器2001发送了传感器信息的客户端装置2002，也可以赋予得分。该得分例如可以用于汽油购买费、EV(Electric Vehicle，电动汽车)的充电费、高速道路的通行费或租车费用等的支付。此外，服务器2001也可以在获得传感器信息之后，将用来确定传感器信息的发送源的客户端装置2002的信息删除。例如，该信息是客户端装置2002的网络地址等信息。由此，能够使传感器信息匿名化，所以客户端装置2002的用户能够安心地将传感器信息从客户端装置2002向服务器2001发送。此外，服务器2001也可以由多个服务器构成。例如通过由多个服务器共用传感器信息，即使某个服务器故障，其他的服务器也能够与客户端装置2002通信。由此，能够避免因服务器故障造成的服务的停止。
此外，由传感器信息发送请求指定的指定场所表示事故的发生位置等，有时与由传感器信息发送请求指定的指定时刻的客户端装置2002的位置不同。因此，服务器2001例如能够通过作为指定场所而指定周边XXm以内等的范围，来对存在于该范围内的客户端装置2002请求信息获得。关于指定时刻也同样，服务器2001也可以指定从某时刻起前后N秒以内等范围。由此，服务器2001能够从“在时刻：t－N至t+N”存在于“场所：距绝对位置S在XXm以内”的客户端装置2002获得传感器信息。客户端装置2002也可以在发送LiDAR等的三维数据时，发送在时刻t的紧接着之后生成的数据。
此外，服务器2001也可以将表示作为传感器信息获得对象的客户端装置2002的场所的信息、和想得到传感器信息的场所分别分开指定为指定场所。例如，服务器2001指定从存在于距绝对位置S在XXm以内的客户端装置2002获得至少包括距绝对位置S为YYm的范围的传感器信息。客户端装置2002在选择要发送的三维数据时，以至少包含被指定的范围的传感器信息的方式选择1个以上的可随机访问的单位的三维数据。此外，客户端装置2002在发送可视光图像时，也可以发送至少包含时刻t的紧接着之前或紧接着之后的帧的、在时间上连续的多个图像数据。
在客户端装置2002在传感器信息的发送中能够利用5G或WiFi、或5G的多个模式等多个物理网络的情况下，客户端装置2002也可以按照从服务器2001通知的优先顺序来选择要利用的网络。或者，也可以是客户端装置2002自身基于发送数据的尺寸来选择能够确保适当的带宽的网络。或者，客户端装置2002也可以基于在数据发送中花费的费用等来选择要利用的网络。此外，在来自服务器2001的发送请求中，也可以包含客户端装置2002在时刻T之前能够开始发送的情况下进行发送等表示发送期限的信息。服务器2001如果在期限内不能获得足够的传感器信息，则也可以再次发布发送请求。
传感器信息也可以与压缩或非压缩的传感器数据一起包含表示传感器数据的特性的头信息。客户端装置2002也可以将头信息经由与传感器数据不同的物理网络或通信协议发送给服务器2001。例如，客户端装置2002也可以在传感器数据的发送之前将头信息发送给服务器2001。服务器2001基于头信息的解析结果，判断是否获得客户端装置2002的传感器数据。例如，头信息也可以包含表示LiDAR的点群获得密度、仰角、或帧速率，或者可视光图像的分辨率、SN比或帧速率等的信息。由此，服务器2001能够从具有所决定的品质的传感器数据的客户端装置2002获得传感器信息。
如以上这样，客户端装置2002被搭载于移动体，获得由搭载于移动体的传感器得到的、表示移动体的周边状况的传感器信息，并将传感器信息存储到存储部2012中。客户端装置2002判定移动体是否存在于能够向服务器2001发送传感器信息的环境中，在判定为移动体存在于能够向服务器发送传感器信息的环境中的情况下，将传感器信息发送给服务器2001。
此外，客户端装置2002进一步，根据传感器信息制作移动体的周边的三维数据，使用制作出的三维数据估计移动体的自身位置。
此外，客户端装置2002进一步，向服务器2001发送三维地图的发送请求，从服务器2001接收三维地图。客户端装置2002在自身位置的估计中，利用三维数据和三维地图来估计自身位置。
另外，由上述客户端装置2002进行的处理也可以作为客户端装置2002中的信息发送方法实现。
此外，客户端装置2002也可以具备处理器和存储器，处理器使用存储器进行上述的处理。
接着，对本实施方式所涉及的传感器信息收集系统进行说明。图95是表示本实施方式所涉及的传感器信息收集系统的结构的图。如图95所示，本实施方式所涉及的传感器信息收集系统包括终端2021A、终端2021B、通信装置2022A、通信装置2022B、网络2023、数据收集服务器2024、地图服务器2025和客户端装置2026。另外，在将终端2021A及终端2021B不特别区分的情况下，也记作终端2021。在将通信装置2022A及通信装置2022B不特别区分的情况下，也记作通信装置2022。
数据收集服务器2024将由终端2021所具备的传感器得到的传感器数据等数据作为与三维空间中的位置建立了对应的位置关联数据而收集。
传感器数据例如指的是使用终端2021具备的传感器获得了终端2021的周围的状态或终端2021的内部的状态等的数据。终端2021将从处于能够与终端2021直接通信、或者通过相同的通信方式将一个或多个中继装置进行中继而能够通信的位置的一个或多个传感器设备收集到的传感器数据发送给数据收集服务器2024。
位置关联数据中包含的数据例如也可以包含表示终端自身或终端所具备的设备的动作状态、动作日志、服务的利用状况等的信息。此外，位置关联数据中包含的数据也可以包含将终端2021的标识符与终端2021的位置或移动路径等建立了对应的信息等。
位置关联数据中包含的表示位置的信息与例如三维地图数据等三维数据中的表示位置的信息建立了对应。关于表示位置的信息的详细情况在后面叙述。
位置关联数据除了作为表示位置的信息的位置信息以外，也可以还包含所述的时刻信息、和表示位置关联数据中包含的数据的属性或生成该数据的传感器的种类(例如型号等)的信息中的至少一个。位置信息及时刻信息也可以被保存在位置关联数据的头区域或保存位置关联数据的帧的头区域中。此外，位置信息及时刻信息也可以作为与位置关联数据建立了对应的元数据而与位置关联数据分开地发送及/或保存。
地图服务器2025例如连接于网络2023，根据来自终端2021等其他装置的请求而发送三维地图数据等三维数据。此外，如在所述的各实施方式中说明那样，地图服务器2025也可以具备利用从终端2021发送的传感器信息将三维数据更新的功能等。
数据收集服务器2024例如连接于网络2023，从终端2021等其他装置收集位置关联数据，将收集到的位置关联数据保存到内部或其他服务器内的存储装置中。此外，数据收集服务器2024将收集到的位置关联数据或基于位置关联数据而生成的三维地图数据的元数据等，按照来自终端2021的请求而对终端2021发送。
网络2023是例如因特网等的通信网络。终端2021经由通信装置2022连接于网络2023。通信装置2022通过一个通信方式或一边切换多个通信方式一边与终端2021进行通信。通信装置2022例如是(1)LTE(Long Term Evolution，长期演进)等的基站，(2)WiFi或毫米波通信等的接入点(AP)，(3)SIGFOX、LoRaWAN或Wi－SUN等的LPWA(Low Power Wide Area低功耗广域)网的网关，或(4)使用DVB－S2等的卫星通信方式进行通信的通信卫星。
另外，基站既可以通过被分类为NB－IoT(Narrow Band－IoT：窄带物联网)或LTE－M等的LPWA的方式进行与终端2021的通信，也可以一边切换这些方式一边进行与终端2021的通信。
这里，举出了终端2021具备与使用两种通信方式的通信装置2022进行通信的功能，使用这些通信方式中的某一个、或一边切换这些多个通信方式及作为直接的通信对方的通信装置2022一边与地图服务器2025或数据收集服务器2024进行通信的情况为例，但传感器信息收集系统及终端2021的结构并不限于此。例如，终端2021也可以不具有多个通信方式下的通信功能，而具备以某一个通信方式进行通信的功能。此外，终端2021也可以对应于3个以上的通信方式。此外，也可以按每个终端2021，对应的通信方式不同。
终端2021例如具备图85所示的客户端装置902的结构。终端2021使用接收到的三维数据进行自身位置等的位置估计。此外，终端2021将从传感器获得的传感器数据与由位置估计的处理得到的位置信息建立对应，生成位置关联数据。
对位置关联数据附加的位置信息例如表示在三维数据中使用的坐标系中的位置。例如，位置信息是用纬度及经度的值表示的坐标值。此时，终端2021也可以与坐标值一起，将作为该坐标值的基准的坐标系及表示在位置估计中使用的三维数据的信息包含在位置信息中。此外，坐标值也可以包含高度的信息。
此外，位置信息也可以与能够在所述的三维数据的编码中使用的数据的单位或空间的单位建立对应。该单位，例如是WLD、GOS、SPC、VLM或VXL等。此时，位置信息例如通过用来确定与位置关联数据对应的SPC等的数据单位的标识符来表现。另外，位置信息除了用来确定SPC等的数据单位的标识符以外，也可以还包含表示对包括该SPC等的数据单位的三维空间进行编码而得到的三维数据的信息、或表示该SPC内的详细的位置的信息等。表示三维数据的信息，例如是该三维数据的文件名。
这样，该系统通过生成与基于使用三维数据进行的位置估计的位置信息建立了对应的位置关联数据，与对传感器信息附加基于使用GPS获得的客户端装置(终端2021)的自身位置的位置信息的情况相比，能够对传感器信息赋予精度更高的位置信息。结果，在其他装置在其他服务中利用位置关联数据的情况下，也能够通过基于相同的三维数据进行位置估计，在真实空间中更正确地确定与位置关联数据对应的位置。
另外，在本实施方式中，举从终端2021发送的数据是位置关联数据的情况为例进行了说明，但从终端2021发送的数据也可以是没有与位置信息建立关联的数据。即，也可以经由在本实施方式中说明的网络2023进行在其他实施方式中说明的三维数据或传感器数据的收发。
接着，对表示三维或二维的真实空间或地图空间中的位置的位置信息不同的例子进行说明。对位置关联数据附加的位置信息也可以是表示相对于三维数据中的特征点的相对位置的信息。这里，作为位置信息的基准的特征点，例如是被编码为SWLD、作为三维数据被通知给终端2021的特征点。
表示相对于特征点的相对位置的信息，例如也可以通过从特征点到位置信息所表示的点的矢量来表示，是表示从特征点到位置信息所表示的点的方向和距离的信息。或者，表示相对于特征点的相对位置的信息也可以是表示从特征点到位置信息表示的点的X轴、Y轴、Z轴各自的变位量的信息。此外，表示相对于特征点的相对位置的信息也可以是表示从3个以上的特征点各自到位置信息所表示的点的距离的信息。另外，相对位置也可以不是以各特征点为基准而表现的位置信息所表示的点的相对位置，而是以位置信息所表示的点为基准而表现的各特征点的相对位置。基于相对于特征点的相对位置的位置信息的一例包括用来确定作为基准的特征点的信息、和表示位置信息所表示的点相对于该特征点的相对位置的信息。此外，在将表示相对于特征点的相对位置的信息与三维数据分开提供的情况下，表示相对于特征点的相对位置的信息也可以包含表示在相对位置的导出中使用的坐标轴、表示三维数据的种类的信息、或/及表示相对位置的信息的值的每单位量的大小(比例尺等)的信息等。
此外，位置信息也可以包含针对多个特征点表示相对于各特征点的相对位置的信息。在将位置信息用相对于多个特征点的相对位置表示的情况下，在真实空间中要确定该位置信息所表示的位置的终端2021也可以根据按每个特征点基于传感器数据估计出的该特征点的位置，计算位置信息所表示的位置的候选点，将对计算出的多个候选点进行平均而求出的点判定为位置信息所表示的点。根据该结构，能够减轻根据传感器数据估计特征点的位置时的误差的影响，所以能够提高真实空间中的位置信息所表示的点的估计精度。此外，在位置信息包含表示相对于多个特征点的相对位置的信息的情况下，即使在存在因终端2021所具备的传感器的种类或性能等的制约而不能检测的特征点的情况下，只要能够检测到多个特征点中的某一个，就能够估计位置信息所表示的点的值。
作为特征点，可以使用能够根据传感器数据来确定的点。能够根据传感器数据来确定的点，例如是满足所述的三维特征量或可视光数据的特征量为阈值以上等特征点检测用的规定的条件的点或区域内的点。
此外，也可以使用设置在真实空间中的标记等作为特征点。在此情况下，标记只要能够根据使用LiDER或相机等的传感器获得的数据进行检测及位置的确定就可以。例如，通过颜色或亮度值(反射率)的变化、或三维形状(凹凸等)来表现标记。此外，也可以使用表示该标记的位置的坐标值或根据该标记的标识符生成的二维码或条码等。
此外，也可以使用发送光信号的光源作为标记。在使用光信号的光源作为标记的情况下，不仅发送坐标值或标识符等的用来获得位置的信息，也可以将其他的数据利用光信号来发送。例如，光信号也可以包含与该标记的位置对应的服务的内容、用来获得内容的url等的地址、或用来接受服务的提供的无线通信装置的标识符、表示用来与该无线通信装置连接的无线通信方式等的信息。通过使用光通信装置(光源)作为标记，表示位置的信息以外的数据的发送变得容易，并且能够动态地切换该数据。
终端2021例如使用在数据间共同使用的标识符、或者表示数据间的特征点的对应关系的信息或表来掌握相互不同的数据间的特征点的对应关系。此外，在没有表示特征点间的对应关系的信息的情况下，终端2021也可以将在将一方的三维数据中的特征点的坐标变换为另一方的三维数据空间上的位置的情况下处于最近的距离的特征点判定为对应的特征点。
在使用以上说明的基于相对位置的位置信息的情况下，即使在使用相互不同的三维数据的终端2021或服务之间，也能够以各三维数据中包含的或与各三维数据建立了对应的共同的特征点为基准，确定或估计位置信息所表示的位置。结果，能够在使用相互不同的三维数据的终端2021或服务间以更高的精度确定或估计相同的位置。
此外，即使在使用利用相互不同的坐标系表现的地图数据或三维数据的情况下，也能够降低伴随于坐标系的变换的误差的影响，所以能够实现基于更高精度的位置信息的服务的协同。
以下，对由数据收集服务器2024提供的功能的例子进行说明。数据收集服务器2024也可以将接收到的位置关联数据传送给其他的数据服务器。在有多个数据服务器的情况下，数据收集服务器2024判定将接收到的位置关联数据传送给哪个数据服务器，并向被判定为传送目的地的数据服务器传送位置关联数据。
数据收集服务器2024例如基于在数据收集服务器2024中事前设定的传送目的地服务器的判定规则来进行传送目的地的判定。传送目的地服务器的判定规则，例如用将对应于各终端2021的标识符与传送目的地的数据服务器建立了对应的传送目的地表等来设定。
终端2021对所发送的位置关联数据附加与该终端2021建立了对应的标识符，并向数据收集服务器2024发送。数据收集服务器2024基于使用传送目的地表等的传送目的地服务器的判定规则，确定与附加在位置关联数据中的标识符对应的传送目的地的数据服务器，将该位置关联数据向被确定的数据服务器发送。此外，传送目的地服务器的判定规则也可以由使用位置关联数据被获得的时间或场所等的判定条件来指定。这里，与上述的发送源的终端2021建立了对应的标识符，例如是各终端2021所固有的标识符、或表示终端2021所属的组的标识符等。
此外，传送目的地表也可以不是将对应于发送源的终端的标识符与传送目的地的数据服务器直接建立对应的。例如，数据收集服务器2024保持管理表和传送目的地表，管理表保存有按照终端2021所固有的标识符而赋予的标签信息，传送目的地表将该标签信息与传送目的地的数据服务器建立了对应。数据收集服务器2024也可以使用管理表和传送目的地表判定基于标签信息的传送目的地的数据服务器。这里，标签信息例如是与该标识符对应的终端2021的种类、型号、所有者、所属的组或其他的对标识符赋予的管理用的控制信息或服务提供用的控制信息。此外，在传送目的地表中，也可以代替与发送源的终端2021建立对应的标识符而使用每个传感器所固有的标识符。此外，传送目的地服务器的判定规则也可以能够从客户端装置2026设定。
数据收集服务器2024也可以将多个数据服务器判定为传送目的地，将接收到的位置关联数据传送给该多个数据服务器。根据该结构，例如在将位置关联数据自动地备份的情况下、或者在为了在不同的服务中共同地利用位置关联数据而需要对用来提供各服务的数据服务器发送位置关联数据的情况下，通过变更对数据收集服务器2024的设定，能够实现所意图的数据的传送。结果，与对单独的终端2021设定位置关联数据的发送目的地的情况相比，能够削减系统的构建及变更所需要的工作量。
数据收集服务器2024也可以根据从数据服务器接收到的传送请求信号，将由传送请求信号指定的数据服务器登记为新的传送目的地，将以后接收到的位置关联数据传送给该数据服务器。
数据收集服务器2024也可以将从终端2021接收到的位置关联数据保存到记录装置中，根据从终端2021或数据服务器接收到的发送请求信号，将由发送请求信号指定的位置关联数据发送给请求源的终端2021或数据服务器。
数据收集服务器2024也可以判断能否对请求源的数据服务器或终端2021提供位置关联数据，在判断为能够提供的情况下向请求源的数据服务器或终端2021传送或发送位置关联数据。
在从客户端装置2026受理了当前的位置关联数据的请求的情况下，即使不是终端2021的位置关联数据的发送定时，也可以由数据收集服务器2024对终端2021进行位置关联数据的发送请求，终端2021根据该发送请求发送位置关联数据。
在上述的说明中，假设终端2021对数据收集服务器2024发送位置信息数据，但数据收集服务器2024例如也可以具备对终端2021进行管理的功能等为了从终端2021收集位置关联数据而需要的功能、或从终端2021收集位置关联数据时使用的功能等。
数据收集服务器2024也可以具备对终端2021发送数据请求信号并收集位置关联数据的功能，数据请求信号是请求位置信息数据的发送的信号。
在数据收集服务器2024中，事前登记有用来与作为数据收集对象的终端2021进行通信的地址或终端2021固有的标识符等的管理信息。数据收集服务器2024基于所登记的管理信息，从终端2021收集位置关联数据。管理信息也可以包含终端2021所具备的传感器的种类、终端2021所具备的传感器的数量、以及终端2021所对应的通信方式等的信息。
数据收集服务器2024也可以从终端2021收集终端2021的工作状态或当前位置等的信息。
管理信息的登记既可以从客户端装置2026进行，也可以通过由终端2021向数据收集服务器2024发送登记请求，来开始用于登记的处理。数据收集服务器2024也可以具备控制与终端2021之间的通信的功能。
将数据收集服务器2024与终端2021连结的通信也可以是MNO(Mobile NetworkOperator：移动网络运营商)或MVNO(Mobile Virtual Network Operator：移动虚拟网络运营商)等服务业者提供的专用线路，或者由VPN(Virtual Private Network：虚拟专用网络)构成的虚拟的专用线路等。根据该结构，能够安全地进行终端2021与数据收集服务器2024之间的通信。
数据收集服务器2024也可以具备对终端2021进行认证的功能、或将与终端2021之间收发的数据进行加密的功能。这里，终端2021的认证处理或数据的加密处理，使用在数据收集服务器2024与终端2021之间事前共用的、终端2021所固有的标识符或包括多个终端2021的终端组所固有的标识符等来进行。该标识符例如是作为保存在SIM(SubscriberIdentity Module：用户识别模块)卡中的固有号码的IMSI(International MobileSubscriber Identity：国际移动用户识别码)等。在认证处理中使用的标识符和在数据的加密处理中使用的标识符既可以相同也可以不同。
数据收集服务器2024与终端2021之间的认证或数据加密的处理，只要数据收集服务器2024和终端2021双方具备实施该处理的功能就能够提供，不依赖于进行中继的通信装置2022使用的通信方式。因此，能够不考虑终端2021使用哪种通信方式而使用共同的认证或加密的处理，所以用户的系统构建的方便性提高。但是，不依赖于进行中继的通信装置2022所使用的通信方式，是指根据通信方式变更并不是必须的。即，也可以以传输效率的提高或安全性的确保的目的，根据中继装置所使用的通信方式来切换数据收集服务器2024与终端2021之间的认证或数据加密的处理。
数据收集服务器2024也可以向客户端装置2026提供对从终端2021收集的位置关联数据的种类及数据收集的调度等的数据收集规则进行管理的UI。由此，用户能够使用客户端装置2026指定收集数据的终端2021、以及数据的收集时间及频率等。此外，数据收集服务器2024也可以指定想要收集数据的地图上的区域等，从包含在该区域中的终端2021收集位置关联数据。
在以终端2021单位对数据收集规则进行管理的情况下，客户端装置2026例如在画面中提示作为管理对象的终端2021或传感器的列表。用户按列表的每个项目来设定数据的收集与否或收集调度等。
在指定想要收集数据的地图上的区域等的情况下，客户端装置2026例如在画面中提示作为管理对象的地域的二维或三维的地图。用户在所显示的地图上选择收集数据的区域。在地图上选择的区域，既可以是以在地图上指定的点为中心的圆形或矩形的区域，也可以是能够通过拖拽动作确定的圆形或矩形的区域。此外，客户端装置2026也可以以城市、城市内的区域、街区或主要的道路等预先设定的单位来选择区域。此外，也可以不是使用地图指定区域，而是输入纬度及经度的数值来设定区域，也可以从基于被输入的文本信息导出的候选区域的列表中选择区域。文本信息例如是地域、城市或地标的名称等。
此外，也可以通过由用户指定一个或多个终端2021，设定该终端2021的周围100米的范围内等的条件，从而一边动态地变更指定区域一边进行数据的收集。
此外，在客户端装置2026具备相机等的传感器的情况下，也可以基于根据传感器数据得到的客户端装置2026在真实空间中的位置来指定地图上的区域。例如，客户端装置2026也可以使用传感器数据估计自身位置，将距与估计出的位置对应的地图上的点为预先设定的距离或用户指定的距离的范围内的区域指定为收集数据的区域。此外，客户端装置2026也可以将传感器的感测区域、即与所获得的传感器数据对应的区域指定为收集数据的区域。或者，客户端装置2026也可以将基于与用户指定的传感器数据对应的位置的区域指定为收集数据的区域。与传感器数据对应的地图上的区域或位置的估计既可以由客户端装置2026进行，也可以由数据收集服务器2024进行。
在地图上的区域中进行指定的情况下，数据收集服务器2024也可以通过收集各终端2021的当前位置信息，来确定被指定的区域内的终端2021，对所确定的终端2021请求位置关联数据的发送。此外，也可以不是数据收集服务器2024确定区域内的终端2021，而是数据收集服务器2024将表示被指定的区域的信息向终端2021发送，终端2021判定自身是否处于被指定的区域内，在判断为处于被指定的区域内的情况下发送位置关联数据。
数据收集服务器2024将用来在客户端装置2026所执行的应用中提供上述UI(UserInterface)的列表或地图等的数据向客户端装置2026发送。数据收集服务器2024不仅发送列表或地图等的数据，也可以将应用的程序发送给客户端装置2026。此外，上述的UI也可以作为通过能够用浏览器显示的HTML等制作的内容来提供。另外，地图数据等一部分数据也可以从地图服务器2025等的数据收集服务器2024以外的服务器提供。
客户端装置2026如果由用户进行设定按钮的按下等通知输入完成的输入，则将被输入的信息作为设定信息向数据收集服务器2024发送。数据收集服务器2024基于从客户端装置2026接收到的设定信息，对各终端2021发送位置关联数据的请求或通知位置关联数据的收集规则的信号，进行位置关联数据的收集。
接着，说明基于附加在三维或二维地图数据中的附加信息对终端2021的动作进行控制的例子。
在本结构中，将表示埋设在道路或停车场中的无线供电的供电天线或供电线圈等供电部的位置的对象信息包含在三维数据中，或与三维数据建立对应，向作为车或无人机等的终端2021提供。
为了进行充电而获得了该对象信息的车辆或无人机通过自动驾驶使车辆自身的位置移动以使车辆具备的充电天线或充电线圈等充电部的位置成为与该对象信息所示的区域对置的位置，并开始充电。另外，在不具备自动驾驶功能的车辆或无人机的情况下，利用显示在画面上的图像或声音等，对驾驶员或操纵者提示应移动的方向或应进行的操作。并且，如果判断为基于估计出的自身位置计算出的充电部的位置进入到由对象信息所示的区域或距该区域为规定的距离的范围内，则将提示的图像或声音切换为使驾驶或操纵中止的内容，并开始充电。
此外，对象信息也可以不是表示供电部的位置的信息，而是表示如果将充电部配置到该区域内则能得到规定的阈值以上的充电效率的区域的信息。关于对象信息的位置，既可以用对象信息所示的区域的中心的点表示，也可以用二维平面内的区域或线、或者三维空间内的区域、线或平面等表示。
根据该结构，由于能够掌握通过LiDER的感测数据或由相机拍摄的影像不能掌握的供电天线的位置，所以能够更高精度地进行车等的终端2021所具备的无线充电用的天线与埋设在道路等中的无线供电天线的对位。结果，能够使无线充电时的充电速度变短，或使充电效率提高。
对象信息也可以是供电天线以外的对象物。例如，三维数据也可以包含毫米波无线通信的AP的位置等作为对象信息。由此，终端2021能够事前掌握AP的位置，所以能够将波束的指向性朝向该对象信息的方向来开始通信。结果，能够实现传输速度的提高、到通信开始为止的时间的缩短、以及延长可通信的期间等的通信品质的提高。
对象信息也可以包含表示与该对象信息对应的对象物的类型的信息。此外，对象信息也可以包含表示在终端2021包含于与该对象信息的三维数据上的位置对应的真实空间上的区域内、或距区域为规定的距离的范围内的情况下终端2021应实施的处理的信息。
对象信息也可以从与提供三维数据的服务器不同的服务器提供。在将对象信息与三维数据分开提供的情况下，也可以将保存有在相同的服务中使用的对象信息的对象组根据对象服务或对象设备的种类而分别作为不同的数据提供。
与对象信息组合使用的三维数据可以是WLD的点群数据，也可以是SWLD的特征点数据。
在三维数据编码装置中，在使用LoD(Level of Detail，多细节层次)对作为编码对象的三维点的对象三维点的属性信息进行了分层级编码的情况下，三维数据解码装置可以用该三维数据解码装置将属性信息解码到所需的LoD的层级，不对不需要的层级的属性信息进行解码。例如，在三维数据编码装置编码的比特流内的属性信息的LoD的总数为N个的情况下，三维数据解码装置也可以对从最上位层的LoD0到LoD(M-1)的M个(M＜N)LoD进行解码，不对到剩余的LoD(N-1)为止的LoD进行解码。由此，三维数据解码装置能够抑制处理负荷，并且能够对三维数据解码装置所需的从LoD0至LoD(M-1)的属性信息进行解码。
图96是表示上述的使用情况的图。在图96的例子中，服务器保持通过对三维位置信息和属性信息进行编码而得到的三维地图。服务器(三维数据编码装置)对服务器管理的区域的客户端装置(三维数据解码装置：例如车辆或者无人机等)广播发送三维地图，客户端装置进行使用从服务器接收到的三维地图来确定客户端装置的自身位置的处理、或者对操作客户端装置的用户等显示地图信息的处理。
以下，对该例子中的动作例进行说明。首先，服务器使用八叉树结构等对三维地图的位置信息进行编码。然后，服务器使用以位置信息为基础而构建的N个LoD对三维地图的属性信息进行分层级编码。服务器保存通过分层级编码得到的三维地图的比特流。
接着，服务器根据从服务器管理的区域的客户端装置发送的地图信息的发送请求，将编码后的三维地图的比特流发送到客户端装置。
客户端装置接收从服务器发送的三维地图的比特流，根据客户端装置的用途对三维地图的位置信息和属性信息进行解码。例如，在客户端装置使用位置信息和N个LoD的属性信息进行高精度的自身位置估计的情况下，客户端装置判断为需要到稠密的三维点为止的解码结果作为属性信息，对比特流内的所有信息进行解码。
另外，在客户端装置将三维地图的信息显示给用户等的情况下，客户端装置判断为需要到稀疏的三维点为止的解码结果作为属性信息，对位置信息与从LoD的上位层即LoD0至M个(M＜N)为止的LoD的属性信息进行解码。
这样，通过根据客户端装置的用途切换解码的属性信息的LoD，能够削减客户端装置的处理负荷。
在图96所示的例子中，例如，三维点地图包含位置信息和属性信息。位置信息用八叉树进行编码。属性信息用N个LoD进行编码。
客户端装置A进行高精度的自身位置估计。在该情况下，客户端装置A判断为需要全部的位置信息和属性信息，将比特流内的位置信息和由N个LoD构成的属性信息全部解码。
客户端装置B向用户显示三维地图。在该情况下，客户端装置B判断为需要位置信息和M个(M＜N)LoD的属性信息，对比特流内的位置信息和由M个LoD构成的属性信息进行解码。
另外，服务器可以向客户端装置广播发送三维地图，也可以组播发送或者单播发送。
以下，对本实施方式的系统的变形例进行说明。在三维数据编码装置中，在使用LoD对作为编码对象的三维点的对象三维点的属性信息进行分层级编码的情况下，三维数据编码装置也可以对该三维数据解码装置所需的LoD的层级为止的属性信息进行编码，不对不需要的层级的属性信息进行编码。例如，在LoD的总数为N个的情况下，三维数据编码装置也可以对从最上位层LoD0到LoD(M-1)的M个(M＜N)LoD进行编码，不对到剩余LoD(N-1)为止的LoD进行编码，由此生成比特流。由此，三维数据编码装置能够根据来自三维数据解码装置的需求，提供对三维数据解码装置所需的从LoD0到LoD(M-1)的属性信息进行编码而得到的比特流。
图97是表示上述使用情况的图。在图97所示的例子中，服务器保持通过对三维位置信息和属性信息进行编码而得到的三维地图。服务器(三维数据编码装置)对服务器管理的区域的客户端装置(三维数据解码装置：例如车辆或者无人机等)，根据客户端装置的需求单播发送三维地图，客户端装置使用从服务器接收到的三维地图来进行确定客户端装置的自身位置的处理、或者将地图信息显示给操作客户端装置的用户等的处理。
以下，对该例子中的动作例进行说明。首先，服务器使用八叉树结构等对三维地图的位置信息进行编码。然后，服务器使用以位置信息为基础构建的N个LoD对三维地图的属性信息进行分层级编码，由此生成三维地图A的比特流，并将生成的比特流保存在该服务器中。另外，服务器使用以位置信息为基础构建的M个(M＜N)LoD对三维地图的属性信息进行分层级编码，由此生成三维地图B的比特流，并将生成的比特流保存在该服务器中。
接着，客户端装置根据客户端装置的用途向服务器请求三维地图的发送。例如，客户端装置在使用位置信息和N个LoD的属性信息进行高精度的自身位置估计的情况下，判断为需要到稠密的三维点为止的解码结果作为属性信息，向服务器请求三维地图A的比特流的发送。另外，客户端装置在将三维地图的信息显示给用户等的情况下，判断为需要到稀疏的三维点为止的解码结果作为属性信息，向服务器请求包含位置信息和从LoD的上位层LoD0到M个(M＜N)LoD的属性信息的三维地图B的比特流的发送。然后，服务器根据来自客户端装置的地图信息的发送请求，将编码后的三维地图A或者三维地图B的比特流发送到客户端装置。
客户端装置接收根据客户端装置的用途从服务器发送的三维地图A或三维地图B的比特流，对该比特流进行解码。这样，服务器根据客户端装置的用途切换要发送的比特流。由此，能够削减客户端装置的处理负荷。
在图97所示的例子中，服务器保持三维地图A以及三维地图B。服务器例如用八叉树对三维地图的位置信息进行编码，用N个LoD对三维地图的属性信息进行编码，由此生成三维地图A。即，三维地图A的比特流中包含的NumLoD表示N。
另外，服务器例如用八叉树对三维地图的位置信息进行编码，用M个LoD对三维地图的属性信息进行编码，由此生成三维地图B。即，三维地图B的比特流中包含的NumLoD表示M。
客户端装置A进行高精度的自身位置估计。在该情况下，客户端装置A判断为需要全部的位置信息和属性信息，向服务器发送包含全部的位置信息和由N个LoD构成的属性信息的三维地图A的发送请求。客户端装置A接收三维地图A，对全部的位置信息和由N个LoD构成的属性信息进行解码。
客户端装置B向用户显示三维地图。在该情况下，客户端装置B判断为需要位置信息和M个(M＜N)LoD的属性信息，将包含全部的位置信息和由M个LoD构成的属性信息的三维地图B的发送请求发送到服务器。客户端装置B接收三维地图B，对全部的位置信息和由M个LoD构成的属性信息进行解码。
另外，服务器(三维数据编码装置)除了三维地图B以外，也可以事先对将剩余的N-M个LoD的属性信息进行编码而得到的三维地图C进行编码，根据客户端装置B的要求将三维地图C发送到客户端装置B。另外，客户端装置B也可以使用三维地图B和三维地图C的比特流，得到N个LoD的解码结果。
以下，对应用处理的例子进行说明。图98是表示应用处理的例子的流程图。当开始应用操作时，三维数据逆复用装置取得包含点群数据以及多个编码数据的ISOBMFF文件(S7301)。例如，三维数据逆复用装置既可以通过通信取得ISOBMFF文件，也可以从积蓄的数据中读入ISOBMFF文件。
接着，三维数据逆复用装置解析ISOBMFF文件中的整体结构信息，特定应用中使用的数据(S7302)。例如，三维数据逆复用装置取得处理中使用的数据，不取得处理中不使用的数据。
接着，三维数据逆复用装置提取应用中使用的1个以上的数据，解析该数据的结构信息(S7303)。
在数据的类型是编码数据的情况下(步骤S7304中的编码数据)，三维数据逆复用装置将ISOBMFF变换成编码流，并且提取时间戳(步骤S7305)。另外，三维数据逆复用装置例如也可以参照表示数据间是否同步的标志来判定数据间是否同步，如果不同步，则进行同步处理。
接着，三维数据逆复用装置按照时间戳及其他指示，按照规定的方法对数据进行解码，对解码后的数据进行处理(S7306)。
另一方面，在数据的类别是编码数据的情况下(S7304中RAW数据)，三维数据逆复用装置提取数据和时间戳(S7307)。另外，三维数据逆复用装置例如也可以参照表示数据间是否同步的标志来判定数据间是否同步，如果不同步，则进行同步处理。接着，三维数据逆复用装置按照时间戳及其他指示，对数据进行处理(S7308)。
例如，说明光束LiDAR、泛光式LiDAR、以及由相机取得的传感器信号分别以不同的编码方式进行编码以及复用的情况的例子。图99是表示光束LiDAR、泛光式LiDAR以及相机的传感器范围的例子的图。例如，光束LiDAR检测车辆(传感器)的周围的全部方向，泛光式LiDAR及相机检测车辆的一个方向(例如前方)的范围。
在将LiDAR点群合并处理的应用的情况下，三维数据逆复用装置参照整体结构信息，提取光束LiDAR和泛光式LiDAR的编码数据进行解码。另外，三维数据逆复用装置不提取相机影像。
三维数据逆复用装置按照LiDAR和泛光式LiDAR的时间戳，同时处理同一时间戳的时刻各自的编码数据。
例如，三维数据逆复用装置也可以通过提示装置提示处理后的数据，或者合成光束LiDAR和泛光式LiDAR的点群数据，或者进行渲染等处理。
另外，在数据间进行校准的应用的情况下，三维数据逆复用装置也可以提取传感器位置信息并在应用中使用。
例如，三维数据逆复用装置可以在应用中选择使用光束LiDAR信息还是使用泛光式LiDAR，并根据选择结果来切换处理。
这样，能够根据应用的处理而自适应地改变数据的取得以及编码处理，因此能够削减处理量以及消耗电力。
以下，对自动驾驶中的使用情况进行说明。图100是表示自动驾驶系统的结构例的图。该自动驾驶系统包括云服务器7350和车载装置或移动装置等的边缘7360。云服务器7350具备逆复用部7351、解码部7352A、7352B以及7355、点群数据合成部7353、大规模数据积蓄部7354、比较部7356以及编码部7357。边缘7360具备传感器7361A及7361B、点群数据生成部7362A及7362B、同步部7363、编码部7364A及7364B、复用部7365、更新数据积蓄部7366、逆复用部7367、解码部7368、滤波器7369、自身位置估计部7370、以及驾驶控制部7371。
在该系统中，边缘7360下载云服务器7350中积蓄的大规模点群地图数据即大规模数据。边缘7360通过将大规模数据和在边缘7360得到的传感器信息进行匹配，进行边缘7360(车辆或终端)的自身位置估计处理。另外，边缘7360将取得的传感器信息上载到云服务器7350，将大规模数据更新为最新的地图数据。
另外，在处理系统内的点群数据的各种应用中，处理编码方法不同的点群数据。
云服务器7350对大规模数据进行编码及复用。具体而言，编码部7357使用适于对大规模点群进行编码的第3编码方法进行编码。此外，编码部7357对编码数据进行复用。大规模数据积蓄部7354积蓄由编码部7357进行编码及复用后的数据。
边缘7360进行感测。具体而言，点群数据生成部7362A使用由传感器7361A取得的感测信息，生成第1点群数据(位置信息(几何)以及属性信息)。点群数据生成部7362B使用由传感器7361B取得的感测信息，生成第2点群数据(位置信息以及属性信息)。生成的第1点群数据以及第2点群数据用于自动驾驶的自身位置估计或者车辆控制或者地图更新。在各个处理中，也可以使用第1点群数据以及第2点群数据中的一部分信息。
边缘7360进行自身位置估计。具体而言，边缘7360从云服务器7350下载大规模数据。逆复用部7367通过对文件格式的大规模数据进行逆复用而取得编码数据。解码部7368通过对所取得的编码数据进行解码而取得作为大规模点群地图数据的大规模数据。
自身位置估计部7370通过将取得的大规模数据与由点群数据生成部7362A和7362B生成的第1点群数据以及第2点群数据进行匹配，来估计车辆的地图中的自身位置。另外，驾驶控制部7371将该匹配结果或自身位置估计结果用于驾驶控制。
另外，自身位置估计部7370以及驾驶控制部7371也可以提取大规模数据中的位置信息等特定的信息，并使用提取出的信息进行处理。另外，滤波器7369对第1点群数据以及第2点群数据进行修正或间隔剔除等处理。自身位置估计部7370以及驾驶控制部7371也可以使用进行了该处理后的第1点群数据以及第2点群数据。另外，自身位置估计部7370及驾驶控制部7371也可以使用由传感器7361A及7361B得到的传感器信号。
同步部7363进行多个传感器信号或多个点群数据的数据间的时间同步及位置修正。另外，同步部7363也可以基于通过自身位置估计处理而生成的、大规模数据与传感器数据的位置修正信息，以使传感器信号或者点群数据的位置信息与大规模数据一致的方式进行修正。
另外，同步和位置修正也可以不是边缘7360而是由云服务器7350进行。在该情况下，边缘7360也可以将同步信息以及位置信息复用并发送到云服务器7350。
边缘7360对传感器信号或点群数据进行编码及复用。具体而言，传感器信号或点群数据使用适于对各自的信号进行编码的第1编码方法或第2编码方法进行编码。例如，编码部7364A通过使用第1编码方法对第1点群数据进行编码来生成第1编码数据。编码部7364B使用第2编码方法对第2点群数据进行编码，由此生成第2编码数据。
复用部7365通过对第1编码数据、第2编码数据、以及同步信息等进行复用而生成复用信号。更新数据积蓄部7366积蓄所生成的复用信号。此外，更新数据积蓄部7366将复用信号上载到云服务器7350。
云服务器7350对点群数据进行合成。具体而言，逆复用部7351通过对在云服务器7350上载的复用信号进行逆复用而取得第1编码数据和第2编码数据。解码部7352A通过对第1编码数据进行解码而取得第1点群数据(或传感器信号)。解码部7352B通过对第2编码数据进行解码而取得第2点群数据(或传感器信号)。
点群数据合成部7353通过规定的方法合成第1点群数据以及第2点群数据。在复用信号中对同步信息以及位置修正信息进行复用的情况下，点群数据合成部7353也可以使用这些信息进行合成。
解码部7355对积蓄在大规模数据积蓄部7354中的大规模数据进行逆复用和解码。比较部7356将基于由边缘7360得到的传感器信号而生成的点群数据与云服务器7350所具有的大规模数据进行比较，判断需要更新的点群数据。比较部7356将大规模数据中判断为需要更新的点群数据更新为从边缘7360得到的点群数据。
编码部7357对更新后的大规模数据进行编码及复用，将得到的数据积蓄在大规模数据积蓄部7354中。
如上所述，根据所使用的用途或应用，存在处理信号不同、复用的信号或编码方法不同的情况。即使在这样的情况下，通过使用本实施方式对各种编码方式的数据进行复用，也能够进行灵活的解码以及应用处理。另外，即使在信号的编码方式不同的情况下，也能够通过逆复用、解码、数据变换、编码、复用的处理而变换适合的编码方式，由此构建各种各样的应用、系统，提供灵活的服务。
以下，说明分割数据的解码和应用的例子。首先，说明分割数据的信息。图101是表示比特流的结构例的图。分割数据的整体信息按每个分割数据表示该分割数据的传感器ID(sensor_id)和数据ID(data_id)。另外，数据ID也表示在各编码数据的头中。
此外，与图41同样，图101所示的分割数据的整体信息除了传感器ID之外，还可以包含传感器信息(Sensor)、传感器的版本(Version)、传感器的制造商名(Maker)、传感器的设置信息(Mount Info.)和传感器的位置坐标(World Coordinate)中的至少一个。由此，三维数据解码装置能够从结构信息中取得各种传感器的信息。
分割数据的整体信息可以保存在作为元数据的SPS、GPS或APS中，也可以保存在作为对于编码不是必需的元数据的SEI中。此外，三维数据编码装置在复用时将该SEI保存在ISOBMFF的文件中。三维数据解码装置能够基于该元数据取得希望的分割数据。
在图101中，SPS是编码数据整体的元数据，GPS是位置信息的元数据，APS是每个属性信息的元数据，G是每个分割数据的位置信息的编码数据，A1等是每个分割数据的属性信息的编码数据。
接下来，说明分割数据的应用例。说明从点群数据中选择任意点群并提示所选择的点群的应用的例子。图102是由该应用执行的点群选择处理的流程图。图103～图105是表示点群选择处理的画面例的图。
如图103所示，执行应用的三维数据解码装置例如具有显示用于选择任意点群的输入UI(用户界面)8661的UI部。输入UI8661具有提示所选择的点群的提示部8662和受理用户的操作的操作部(按钮8663和8664)。三维数据解码装置在由UI8661选择了点群后，从积蓄部8665取得期望的数据。
首先，基于针对用户的输入UI8661的操作，选择用户想要显示的点群信息(S8631)。具体而言，通过选择按钮8663，选择基于传感器1的点群。通过选择按钮8664，选择基于传感器2的点群。或者，通过选择按钮8663及按钮8664这两者来选择基于传感器1的点群和基于传感器2的点群这两者。另外，点群的选择方法是一例，并不限于此。
接着，三维数据解码装置对复用信号(比特流)或编码数据中包含的分割数据的整体信息进行解析，从所选择的传感器的传感器ID(sensor_id)中特定构成所选择的点群的分割数据的数据ID(data_id)(S8632)。接着，三维数据解码装置从复用信号中提取包含所特定的希望的数据ID的编码数据，通过对所提取的编码数据进行解码，对基于所选择的传感器的点群进行解码(S8633)。另外，三维数据解码装置不对其他编码数据进行解码。
最后，三维数据解码装置提示(例如显示)解码后的点群(S8634)。图104表示按下传感器1的按钮8663的情况的例子，提示传感器1的点群。图105表示按下传感器1的按钮8663和传感器2的按钮8664这两者的情况的例子，提示传感器1和传感器2的点群。
以上，对有关本公开的实施方式的三维数据编码装置及三维数据解码装置等进行了说明，但本公开并不限定于该实施方式。
此外，有关上述实施方式的三维数据编码装置及三维数据解码装置等中包含的各处理部典型的是作为集成电路即LSI实现。它们既可以单独地形成1个芯片，也可以包含一部分或全部而形成1个芯片。
此外，集成电路化并不限于LSI，也可以由专用电路或通用处理器实现。也可以利用在LSI制造后能够编程的FPGA(Field Programmable Gate Array现场可编程门阵列)、或能够重构LSI内部的电路单元的连接或设定的可重构处理器。
此外，在上述各实施方式中，各构成要素也可以由专用的硬件构成，或通过执行适合于各构成要素的软件程序来实现。各构成要素也可以通过由CPU或处理器等程序执行部读出被记录在硬盘或半导体存储器等记录介质中的软件程序并执行来实现。
此外，本公开也可以作为由三维数据编码装置及三维数据解码装置等执行的三维数据编码方法或三维数据解码方法等实现。
此外，框图中的功能块的分割是一例，也可以将多个功能块作为一个功能块实现，或将一个功能块分割为多个，或将一部分功能转移到其他的功能块。此外，也可以是单一的硬件或软件将具有类似的功能的多个功能块的功能并行或分时地处理。
此外，流程图中的各步骤的执行顺序是为了具体地说明本公开而例示的，也可以是上述以外的顺序。此外，也可以将上述步骤的一部分与其他步骤同时(并行)执行。
以上，基于实施方式对有关一个或多个技术方案的三维数据编码装置及三维数据解码装置等进行了说明，但本公开并不限定于该实施方式。只要不脱离本公开的主旨，对本实施方式施以本领域技术人员想到的各种变形的形态、或将不同实施方式的构成要素组合而构建的形态也可以包含在一个或多个技术方案的范围内。
工业实用性
本公开能够应用于三维数据编码装置及三维数据解码装置。
附图标记说明
810 三维数据制作装置
811 数据接收部
812、819 通信部
813 接收控制部
814、821 格式转换部
815 传感器
816 三维数据制作部
817 三维数据合成部
818 三维数据积蓄部
820 发送控制部
822 数据发送部
831、832、834、835、836、837 三维数据
833 传感器信息
901 服务器
902、902A、902B、902C 客户端装置
1011、1111 数据接收部
1012、1020、1112、1120 通信部
1013、1113 接收控制部
1014、1019、1114、1119 格式转换部
1015 传感器
1016、1116 三维数据制作部
1017 三维图像处理部
1018、1118 三维数据积蓄部
1021、1121 发送控制部
1022、1122 数据发送部
1031、1032、1135 三维地图
1033、1037、1132 传感器信息
1034、1035、1134 三维数据
1117 三维数据合成部
1201 三维地图压缩/解码处理部
1202 传感器信息压缩/解码处理部
1211 三维地图解码处理部
1212 传感器信息压缩处理部
2001 服务器
2002、2002A、2002B 客户端装置
2011 传感器信息取得部
2012 存储部
2013 数据发送可否判定部
2021、2021A、2021B 终端
2022、2022A、2022B 通信装置
2023 网络
2024 数据收集服务器
2025 地图服务器
2026 客户端装置
2700 位置信息编码部
2701、2711 八叉树生成部
2702、2712 几何信息计算部
2703、2713 编码表选择部
2704 熵编码部
2710 位置信息解码部
2714 熵解码部
3000 三维数据编码装置
3001 位置信息编码部
3002 属性信息再分配部
3003 属性信息编码部
3010 三维数据解码装置
3011 位置信息解码部
3012 属性信息解码部
3140 属性信息编码部
3141、3151LoD 生成部
3142、3152 周围搜索部
3143、3153 预测部
3144 预测残差计算部
3145 量化部
3146 算术编码部
3147、3155 逆量化部
3148、3156 解码值生成部
3149、3157 存储器
3150 属性信息解码部
3154 算术解码部
4601 三维数据编码系统
4602 三维数据解码系统
4603 传感器终端
4604 外部连接部
4611 点群数据生成系统
4612 提示部
4613 编码部
4614 复用部
4615 输入输出部
4616 控制部
4617 传感器信息取得部
4618 点群数据生成部
4621 传感器信息取得部
4622 输入输出部
4623 逆复用部
4624 解码部
4625 提示部
4626 用户接口
4627 控制部
4630 第1编码部
4631 位置信息编码部
4632 属性信息编码部
4633 附加信息编码部
4634 复用部
4640 第1解码部
4641 逆复用部
4642 位置信息解码部
4643 属性信息解码部
4644 附加信息解码部
4650 第2编码部
4651 附加信息生成部
4652 位置图像生成部
4653 属性图像生成部
4654 影像编码部
4655 附加信息编码部
4656 复用部
4660 第2解码部
4661 逆复用部
4662 影像解码部
4663 附加信息解码部
4664 位置信息生成部
4665 属性信息生成部
4801 编码部
4802 复用部
6600 属性信息编码部
6601 排序部
6602 Haar变换部
6603 量化部
6604、6612 逆量化部
6605、6613 逆Haar变换部
6606、6614 存储器
6607 算术编码部
6610 属性信息解码部
6611 算术解码部
7350 云服务器
7351 逆复用部
7352A、7352B 解码部
7353 点群数据合成部
7354 大规模数据积蓄部
7355 解码部
7356 比较部
7357 编码部
7360 边缘
7361A、7361B 传感器
7362A、7362B 点群数据生成部
7363 同步部
7364A、7364B 编码部
7365 复用部
7366 更新数据积蓄部
7367 逆复用部
7368 解码部
7369 滤波器
7370 自身位置估计部
7371 运转控制部
8661 输入UI
8662 提示部
8663、8664 按钮
8665 积蓄部
A100 属性信息编码部
A101 LoD属性信息编码部
A102 变换属性信息编码部
A110 属性信息解码部
A111 LoD属性信息解码部
A112 变换属性信息解码部

Claims (13)

1.一种三维数据编码方法，其中，
基于所述多个三维点的多个位置信息，将点群数据中包含的多个三维点分配到1个以上层级中的某个层级，
在所述1个以上层级的数量为1的情况下，许可同层参照，并通过对所述多个三维点的多个属性信息进行编码而生成编码属性信息，所述同层参照中参照与处理对象的三维点包含在同一层级中的其他三维点的属性信息来生成所述处理对象的三维点的属性信息的预测值，
生成包含所述编码属性信息的比特流。
2.根据权利要求1所述的三维数据编码方法，其中，
在所述1个以上层级的数量为2以上的情况下，决定2个以上层级中的许可所述同层参照的层级和禁止所述同层参照的层级，基于决定结果，许可或禁止所述同层参照并对所述多个属性信息进行编码，从而生成所述编码属性信息。
3.根据权利要求2所述的三维数据编码方法，其中，
对所述2个以上层级中的从最上位层到第N层的层级许可所述同层参照，对比所述第N层靠下的层级禁止所述同层参照，由此对所述多个属性信息进行编码从而生成所述编码属性信息，其中，N为自然数。
4.根据权利要求1～3中任一项所述的三维数据编码方法，其中，
所述比特流包含第1信息，所述第1信息表示许可所述同层参照的层级或禁止所述同层参照的层级。
5.根据权利要求1～4中任一项所述的三维数据编码方法，其中，
所述比特流包含表示所述1个以上层级的数量的第2信息。
6.一种三维数据解码方法，其中，
从比特流取得编码属性信息，所述编码属性信息是将点群数据中包含的多个三维点的多个属性信息编码后的信息，所述多个三维点基于所述多个三维点的多个位置信息而被分配到1个以上层级中的某个层级，
在所述1个以上层级的数量为1的情况下，许可同层参照，并对所述编码属性信息进行解码，所述同层参照参照与处理对象的三维点包含在同一层级中的其他三维点的属性信息来生成所述处理对象的三维点的属性信息的预测值。
7.根据权利要求6所述的三维数据解码方法，其中，
在所述1个以上层级的数量为2以上的情况下，决定2个以上层级中的许可所述同层参照的层级和禁止所述同层参照的层级，基于决定结果，许可或禁止所述同层参照并对所述多个属性信息进行解码。
8.根据权利要求7所述的三维数据解码方法，其中，
对所述2个以上层级中的从最上位层到第N层的层级许可所述同层参照，对比所述第N层靠下的层级禁止所述同层参照，由此对所述编码属性信息进行解码，其中，N为自然数。
9.根据权利要求6～8中任一项所述的三维数据解码方法，其中，
从所述比特流取得第1信息，所述第1信息表示许可所述同层参照的层级或禁止所述同层参照的层级。
10.根据权利要求6～9中任一项所述的三维数据解码方法，其中，
从所述比特流取得表示所述1个以上层级的数量的第2信息。
11.根据权利要求6～8中任一项所述的三维数据解码方法，其中，
从所述比特流取得(1)表示许可所述同层参照的层级或禁止所述同层参照的层级的第1信息、以及(2)表示所述1个以上层级的数量的第2信息，
在所述第2信息所示的所述1个以上层级的数量为1的情况下，在所述第1信息不表示在作为所述1个以上层级的1个层级中许可所述同层参照的情况下，判定为所述比特流不符合标准。
12.一种三维数据编码装置，其中，具备：
处理器；以及
存储器，
所述处理器使用所述存储器，
基于所述多个三维点的多个位置信息，将点群数据中包含的多个三维点分配给1个以上层级中的某个层级，
在所述1个以上层级的数量为1的情况下，许可同层参照，通过对所述多个三维点的多个属性信息进行编码而生成编码属性信息，所述同层参照参照与处理对象的三维点包含在同一层级中的其他三维点的属性信息来生成所述处理对象的三维点的属性信息的预测值，
生成包含所述编码属性信息的比特流。
13.一种三维数据解码装置，其中，具备：
处理器；以及
存储器，
所述处理器使用所述存储器，
从比特流取得编码属性信息，所述编码属性信息是将点群数据中包含的多个三维点的多个属性信息编码后的信息，所述多个三维点基于所述多个三维点的多个位置信息而被分配到1个以上层级中的某个层级，
在所述1个以上层级的数量为1的情况下，许可同层参照，对所述编码属性信息进行解码，所述同层参照参照与处理对象的三维点包含在同一层级中的其他三维点的属性信息来生成所述处理对象的三维点的属性信息的预测值。
CN202180042345.1A 2020-06-19 2021-06-18 三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置 Pending CN115702442A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202063041389P 2020-06-19 2020-06-19
US63/041,389 2020-06-19
PCT/JP2021/023208 WO2021256559A1 (ja) 2020-06-19 2021-06-18 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置

Publications (1)

Publication Number Publication Date
CN115702442A true CN115702442A (zh) 2023-02-14

Family

ID=79268024

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180042345.1A Pending CN115702442A (zh) 2020-06-19 2021-06-18 三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置

Country Status (3)

Country Link
US (1) US20230100085A1 (zh)
CN (1) CN115702442A (zh)
WO (1) WO2021256559A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020196765A1 (ja) * 2019-03-26 2020-10-01 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210019438A (ko) * 2018-06-14 2021-02-22 파나소닉 인텔렉츄얼 프로퍼티 코포레이션 오브 아메리카 삼차원 데이터 부호화 방법, 삼차원 데이터 복호 방법, 삼차원 데이터 부호화 장치, 및 삼차원 데이터 복호 장치
CN112424833A (zh) * 2018-07-13 2021-02-26 松下电器（美国）知识产权公司 三维数据编码方法、三维数据解码方法、三维数据编码装置、以及三维数据解码装置

Also Published As

Publication number Publication date
US20230100085A1 (en) 2023-03-30
WO2021256559A1 (ja) 2021-12-23

Similar Documents

Publication Publication Date Title
WO2021070952A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2021141117A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
CN113853635A (zh) 三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置
CN113728648A (zh) 三维数据编码方法、三维数据解码方法、三维数据编码装置、以及三维数据解码装置
CN113940083A (zh) 三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置
CN114009025A (zh) 三维数据编码方法、三维数据解码方法、三维数据编码装置、以及三维数据解码装置
WO2022075428A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
CN115485730A (zh) 三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置
US20230100085A1 (en) Three-dimensional data encoding method, three-dimensional data decoding method, three-dimensional data encoding device, and three-dimensional data decoding device
US20230230286A1 (en) Three-dimensional data encoding method, three-dimensional data decoding method, three-dimensional data encoding device, and three-dimensional data decoding device
WO2021187565A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2022080283A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2022004682A1 (ja) 三次元データ符号化方法及び三次元データ符号化装置
WO2022025278A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
CN115335868A (zh) 三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置
EP4060622A1 (en) Three-dimensional data encoding method, three-dimensional data decoding method, three-dimensional data encoding device, and three-dimensional data decoding device
CN115443486A (zh) 三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置
WO2022004681A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2021002443A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
US11995874B2 (en) Three-dimensional data encoding method, three-dimensional data decoding method, three-dimensional data encoding device, and three-dimensional data decoding device
WO2022071505A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2022071506A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2022075234A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2022149589A1 (ja) 三次元データ復号方法、三次元データ符号化方法、三次元データ復号装置、及び三次元データ符号化装置
WO2022059697A1 (ja) 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination