CN113892235A - 用于点云译码的方法和设备 - Google Patents

用于点云译码的方法和设备 Download PDF

Info

Publication number
CN113892235A
CN113892235A CN202180003429.4A CN202180003429A CN113892235A CN 113892235 A CN113892235 A CN 113892235A CN 202180003429 A CN202180003429 A CN 202180003429A CN 113892235 A CN113892235 A CN 113892235A
Authority
CN
China
Prior art keywords
signaling information
segmentation
point cloud
value
space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180003429.4A
Other languages
English (en)
Inventor
芮世薰
高文
张翔
刘杉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent America LLC
Original Assignee
Tencent America LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent America LLC filed Critical Tencent America LLC
Publication of CN113892235A publication Critical patent/CN113892235A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/005—Tree description, e.g. octree, quadtree
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00—Image coding
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00—Image coding
    • G06T9/001—Model-based coding, e.g. wire frame
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00—Image coding
    • G06T9/40—Tree coding, e.g. quadtree, octree
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167—Position within a video image, e.g. region of interest [ROI]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46—Embedding additional information in the video signal during the compression process
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96—Tree coding, e.g. quad-tree coding
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10028—Range image; Depth image; 3D point clouds
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00—Indexing scheme for image generation or computer graphics
    • G06T2210/56—Particle system, point based geometry or rendering

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Generation (AREA)

Abstract

提供了一种在点云解码器中进行点云几何解码的方法。在该方法中，从包括三维(3D)空间中的一组点的点云的编码比特流接收第一信令信息。第一信令信息指示点云的分割信息。基于第一信令信息指示第一值来确定第二信令信息。第二信令信息指示3D空间中的所述一组点的分割模式。此外，基于第二信令信息确定3D空间中的所述一组点的分割模式。随后基于分割模式重建点云。

Description

用于点云译码的方法和设备
引用并入
本申请要求于2021年3月16日提交的美国专利申请第17/203,155号“METHOD ANDAPPARATUS FOR POINT CLOUD CODING”的优先权的权益，该美国专利申请第17/203,155号要求于2020年4月2日提交的美国临时申请第63/004,304号“METHOD AND APPARATUS FORFLEXIBLE QUAD-TREE AND BINARY-TREE PARTITIONING FOR GEOMETRY CODING”的优先权的权益。在先申请的全部公开内容在此通过引用整体并入本文。
技术领域
本公开内容描述了总体上涉及点云译码的实施方式。
背景技术
本文中提供的背景技术描述的目的在于从总体上呈现本公开内容的背景。目前署名的发明人的工作，某种程度上而言在该背景技术部分中描述的该工作、以及可能无法以其他方式视为提交日前的现有技术的描述的各方面既不被明确地也不被隐含地承认为是针对本公开内容的现有技术。
开发了各种技术以捕获并且在3维(3-dimensional，3D)空间中表示世界，例如世界中的对象、世界中的环境等。世界的3D表示可以实现更加身临其境的互动和沟通形式。点云可以用作世界的3D表示。点云是3D空间中的一组点，每个点具有相关联的属性，例如颜色、材料特性、纹理信息、强度属性、反射率属性、运动相关属性、形态属性和/或各种其他属性。这样的点云可能包括大量数据，并且存储和传输可能既昂贵又费时。
发明内容
本公开内容的各方面提供了用于点云压缩和解压缩的方法和设备。根据本公开内容的一个方面，提供了在点云解码器中进行点云几何解码的方法。在该方法中，可以从包括三维(three-dimensional，3D)空间中的一组点的点云的编码比特流接收第一信令信息。第一信令信息可以指示点云的分割信息。可以基于第一信令信息指示第一值来确定第二信令信息。第二信令信息可以指示3D空间中的所述一组点的分割模式。此外，可以基于第二信令信息来确定3D空间中的所述一组点的分割模式。随后可以基于分割模式重建点云。
在一些实施方式中，可以基于第二信令信息指示第二值来将分割模式确定为预定义的四叉树和二叉树(Quad-tree and Binary-tree，QtBt)分割。
在该方法中，可以接收指示3D空间是非对称的长方体的第三信令信息。可以基于第三信令信息指示第一值来确定3D空间的沿x、y和z方向的用信号表示的尺寸。
在一些实施方式中，可以基于第二信令信息指示第一值来针对分割模式中的多个分割级别中的每个分割级别确定3比特信令信息。针对多个分割级别中的每个分割级别的3比特信令信息可以指示分割模式中相应分割级别的沿x、y和z方向的分割方向。
在一些实施方式中，可以基于3D空间的尺寸来确定3比特信令信息。
在该方法中，可以基于第一信令信息指示第二值来确定分割模式，其中，该分割模式可以在分割模式中的多个分割级别中的每个分割级别中包括相应的八叉树分割。
根据本公开内容的一个方面，提供了在点云解码器中进行点云几何解码的方法。在该方法中，可以从包括三维(three-dimensional，3D)空间中的一组点的点云的编码比特流接收第一信令信息。第一信令信息可以指示点云的分割信息。可以基于第一信令信息来确定3D空间中的所述一组点的分割模式，其中，该分割模式可以包括多个分割级别。随后可以基于分割模式重建点云。
在一些实施方式中，可以基于第一信令信息指示第一值来确定针对分割模式中的多个分割级别中的每个分割级别的3比特信令信息，其中，针对多个分割级别中的每个分割级别的3比特信令信息可以指示分割模式中相应分割级别的沿x、y和z方向的分割方向。
在一些实施方式中，可以基于3D空间的尺寸来确定3比特信令信息。
在一些实施方式中，可以基于第一信令信息指示第二值将分割模式确定为在分割模式中的多个分割级别中的每个分割级别中包括相应的八叉树分割。
在该方法中，还可以从点云的编码比特流接收第二信令信息。当第二信令信息为第一值时，第二信令信息可以指示3D空间为非对称的长方体，并且当第二信令信息为第二值时，第二信令信息可以指示3D空间为对称的长方体。
在一些实施方式中，基于第一信号信息指示第二值并且第二信号信息指示第一值，可以将分割模式确定为在分割模式的多个分割级别中的第一分割级别中的每一个中包括相应的八叉树分割。分割模式的多个分割级别中的最后一个分割级别的分割类型和分割方向可以根据如下条件确定：
Figure BDA0003362471600000031
，其中dx、dy和dz分别是3D空间在x、y和z方向上的log2大小。
在该方法中，可以基于第一信令信息指示第一值来确定第二信令信息。当第二信令信息指示第一值时，第二信令信息可以指示3D空间为非对称的长方体，并且当第二信令信息指示第二值时，第二信令信息可以指示3D空间为对称的长方体。此外，可以基于第二信令信息指示第一值来确定3D空间的沿x、y和z方向的用信号表示的尺寸。
在一些示例中，用于处理点云数据的设备包括接收电路和处理电路，所述接收电路和处理电路被配置成执行上面所描述的方法中的一种或更多种方法。
附图说明
根据以下详细描述和附图，所公开的主题的其他特征、性质和各种优点将变得更加明显，在附图中：
图1是根据实施方式的通信系统的简化框图的示意图；
图2是根据实施方式的流传输系统的简化框图的示意图；
图3示出了根据一些实施方式的用于对点云帧进行编码的编码器的框图；
图4示出了根据一些实施方式的用于对与点云帧相对应的压缩比特流进行解码的解码器的框图；
图5是根据实施方式的视频解码器的简化框图的示意图；
图6是根据实施方式的视频编码器的简化框图的示意图；
图7示出了根据一些实施方式的用于对与点云帧相对应的压缩比特流进行解码的解码器的框图；
图8示出了根据一些实施方式的用于对点云帧进行编码的编码器的框图；
图9示出了根据本公开内容的一些实施方式的示出基于八叉树分割技术对立方体进行分割的图；
图10示出了根据本公开内容的一些实施方式的八叉树分割和与该八叉树分割相对应的八叉树结构的示例；
图11示出了根据本公开内容的一些实施方式的在z方向上具有较短包围盒(bounding box)的点云；
图12示出了根据本公开内容的一些实施方式的示出基于八叉树分割技术沿x-y、x-z和y-z轴对立方体进行分割的图；
图13示出了根据本公开内容的一些实施方式的示出基于二叉树分割技术沿x、y和z轴对立方体进行分割的图；
图14示出了根据一些实施方式的概述第一处理示例的第一流程图。
图15示出了根据一些实施方式的概述第二处理示例的第二流程图。
图16是根据实施方式的计算机系统的示意图。
具体实施方式
世界的高级3D表示能够实现更加身临其境的互动和沟通形式，并且还使得机器能够理解、解释和导航我们的世界。3D点云已经成为这样的信息的有效表示。已经确定了许多与点云数据相关联的应用案例，并且已经制定了针对点云表示和压缩的相应要求。例如，3D点云可以用于在自主驾驶中进行对象检测和定位。3D点云还可以用于在地理信息系统(geographic information system，GIS)中进行地图构建，以及用于在文化遗产中对文化遗产对象和收藏品进行可视化和归档。
点云通常可以指3D空间中的一组点，每个点具有关联的属性。所述属性可以包括颜色、材料特性、纹理信息、强度属性、反射率属性、运动相关属性、形态属性和/或各种其他属性。点云可以用于将对象或场景重建为这样的点的组合。这些点可以使用各种设置的多个摄像机、深度传感器和/或激光雷达来捕获，并且可以由数千个至数十亿个点组成以真实地表示重建的场景。
压缩技术可以减少表示点云所需的数据量以用于更快的传输或减少存储。因此，需要对点云进行有损压缩以用于实时通信和六自由度(six Degrees of Freedom，6DoF)虚拟现实的技术。另外，寻求用于在针对自主驾驶和文化遗产应用等进行动态映射的背景下进行无损点云压缩的技术。因此，ISO/IEC MPEG(JTC 1/SC 29/WG 11)已经开始致力于用于解决几何形状(geometry)和属性例如颜色和反射率的压缩的标准、可伸缩/渐进编码、随时间推移捕获的点云序列的编码以及对点云的子集的随机访问。
图1示出了根据本公开内容的实施方式的通信系统(100)的简化框图。通信系统(100)包括多个终端装置，所述终端装置可以经由例如网络(150)彼此通信。例如，通信系统(100)包括经由网络(150)互连的一对终端装置(110)和(120)。在图1的示例中，第一对终端装置(110)和(120)可以执行点云数据的单向传输。例如，终端装置(110)可以对由与终端装置(110)连接的传感器(105)捕获的点云(例如，表示结构的点)进行压缩。经压缩的点云可以例如以比特流的形式经由网络(150)被传输至另一个终端装置(120)。终端装置(120)可以从网络(150)接收经压缩的点云、对比特流进行解压缩以重建点云以及适当地显示经重建的点云。单向数据传输在媒体服务应用等中可能是常见的。
在图1的示例中，终端装置(110)和(120)可以被示出为服务器和个人计算机，但是本公开内容的原理可以不限于此。本公开内容的实施方式适用于膝上型计算机、平板计算机、智能电话、游戏终端、媒体播放器和/或专用三维(three-dimensional，3D)装备。网络(150)表示在终端装置(110)与(120)之间传输经压缩的点云的任何数量的网络。网络(150)可以包括例如线缆(有线)和/或无线通信网络。网络(150)可以在电路交换信道和/或分组交换信道中交换数据。代表性网络包括电信网络、局域网、广域网和/或因特网。出于本讨论的目的，除非在下文中进行解释，否则网络(150)的架构和拓扑对于本公开内容的操作来说可能是不重要的。
图2示出了根据实施方式的流传输系统(200)的简化框图。图2的示例是所公开的主题针对点云的应用。所公开的主题可以等同地适用于其他支持点云的应用，例如3D远程呈现应用、虚拟现实应用等。
流传输系统(200)可以包括捕获子系统(213)。捕获子系统(213)可以包括点云源(201)，例如光检测和测距(light detection and ranging，LIDAR)系统、3D摄像机、3D扫描仪、以软件方式生成未压缩的点云的图形生成部件以及生成例如未压缩的点云(202)的类似图形生成部件。在示例中，点云(202)包括由3D摄像机捕获的点。点云(202)被描绘为粗线以强调与经压缩的点云(204)(经压缩的点云的比特流)相比时的高数据量。经压缩的点云(204)可以由电子装置(220)生成，该电子装置(220)包括耦接至点云源(201)的编码器(203)。编码器(203)可以包括硬件、软件或其组合以实现或实施如下文更详细地描述的所公开的主题的各方面。被描绘为细线以强调与点云(202)的流相比时的较低数据量的经压缩的点云(204)(或经压缩的点云(204)的比特流)可以存储在流传输服务器(205)上以供将来使用。一个或更多个流传输客户端子系统，例如图2中的客户端子系统(206)和(208)，可以访问流传输服务器(205)以检索经压缩的点云(204)的副本(207)和(209)。客户端子系统(206)可以例如在电子装置(230)中包括解码器(210)。解码器(210)对经压缩的点云的输入副本(207)进行解码，并且创建可以在渲染装置(212)上渲染的重建点云(211)的输出流。
注意，电子装置(220)和电子装置(230)可以包括其它部件(未示出)。例如，电子装置(220)可以包括解码器(未示出)，并且电子装置(230)也可以包括编码器(未示出)。
在一些流传输系统中，可以根据某些标准对经压缩的点云(204)、(207)和(209)(例如，经压缩的点云的比特流)进行压缩。在一些示例中，在点云的压缩中使用视频编码标准。这些标准的示例包括高效视频编码(High Efficiency Video Coding，HEVC)、通用视频编码(Versatile Video Coding，VVC)等。
图3示出了根据一些实施方式的用于对点云帧进行编码的V-PCC编码器(300)的框图。在一些实施方式中，V-PCC编码器(300)可以用于通信系统(100)和流传输系统(200)中。例如，可以以与V-PCC编码器(300)类似的方式来配置和操作编码器(203)。
V-PCC编码器(300)接收点云帧作为未压缩的输入，并且生成与经压缩的点云帧相对应的比特流。在一些实施方式中，V-PCC编码器(300)可以从诸如点云源(201)等的点云源接收点云帧。
在图3的示例中，V-PCC编码器(300)包括块生成模块(306)、块封装模块(308)、几何图像生成模块(310)、纹理图像生成模块(312)、块信息模块(304)、占用图模块(314)、平滑模块(336)、图像填充模块(316)和(318)、组扩展模块(320)、视频压缩模块(322)、(323)和(332)、辅助块信息压缩模块(338)、熵压缩模块(334)和复用器(324)。
根据本公开内容的一个方面，V-PCC编码器(300)将3D点云帧转换为基于图像的表示以及一些元数据(例如，占用图和块信息)，这些元数据用于将经压缩的点云转换回经解压缩的点云。在一些示例中，V-PCC编码器(300)可以将3D点云帧转换为几何图像、纹理图像和占用图，并且然后使用视频编码技术将几何图像、纹理图像和占用图编码为比特流。通常，几何图像是具有以下像素的2D图像，所述像素填充有与投影至像素的点相关联的几何值，并且填充有几何值的像素可以被称为几何样本。纹理图像是具有以下像素的2D图像，所述像素填充有与投影至像素的点相关联的纹理值，并且填充有纹理值的像素可以被称为纹理样本。占用图是具有以下像素的2D图像，所述像素填充有指示已被块占用或未被块占用的值。
块通常可以指由点云描述的表面的连续子集。在一个示例中，块包括具有彼此偏离小于阈值量的表面法线向量的点。块生成模块(306)将点云划分为可以交叠或不交叠的一组块，使得每个块可以由相对于2D空间中的平面的深度场来描述。在一些实施方式中，块生成模块(306)旨在将点云分解为最小数量的具有平滑边界的块，同时还使重建误差最小化。
块信息模块(304)可以收集指示块的大小和形状的块信息。在一些示例中，块信息可以被封装到图像帧中，并且然后由辅助块信息压缩模块(338)编码以生成经压缩的辅助块信息。
块封装模块(308)被配置成将所提取的块映射至二维(2dimensional，2D)网格，同时使未使用的空间最小化并确保网格的每个M×M(例如，16x16)区块与唯一块相关联。有效的块封装可以通过使未使用的空间最小化或确保时间一致性来直接影响压缩效率。
几何图像生成模块(310)可以生成与给定的块位置处的点云的几何形状相关联的2D几何图像。纹理图像生成模块(312)可以生成与给定的块位置处的点云的纹理相关联的2D纹理图像。几何图像生成模块(310)和纹理图像生成模块(312)利用在封装处理期间计算的3D至2D映射来将点云的几何形状和纹理存储为图像。为了更好地处理将多个点投影至同一样本的情况，将每个块投影至被称为层的两个图像。在示例中，几何图像由YUV420-8位格式的WxH的单色帧表示。为了生成纹理图像，纹理生成过程利用重建/平滑的几何形状以计算要与重新采样的点相关联的颜色。
占用图模块(314)可以生成描述每个单元处的填充信息的占用图。例如，占用图包括二进制图，该二进制图针对网格的每个单元指示该单元是属于空白空间还是属于点云。在示例中，占用图使用针对每个像素描述该像素是否被填充的二进制信息。在另一示例中，占用图使用针对每个像素区块描述该像素区块是否被填充的二进制信息。
可以使用无损编码或有损编码来压缩由占用图模块(314)生成的占用图。当使用无损编码时，使用熵压缩模块(334)压缩占用图。当使用有损编码时，使用视频压缩模块(332)压缩占用图。
注意，块封装模块(308)可以在图像帧中封装的2D块之间留一些空白空间。图像填充模块(316)和图像填充模块(318)可以填充空白空间(称为填充)，以生成可以适于2D视频和图像编解码器的图像帧。图像填充也称为背景填充，其可以用冗余信息填充未使用的空间。在一些示例中，良好的背景填充最小程度地增加比特率，并且不会在块边界周围引入明显的编码失真。
视频压缩模块(322)、(323)和(332)可以基于合适的视频编码标准例如HEVC、VVC等对2D图像例如经填充的几何图像、经填充的纹理图像以及占用图进行编码。在示例中，视频压缩模块(322)、(323)和(332)是分开操作的单独的部件。注意，在另一示例中，视频压缩模块(322)、(323)和(332)可以被实现为单个部件。
在一些示例中，平滑模块(336)被配置成生成重建的几何图像的平滑图像。平滑图像可以被提供至纹理图像生成器(312)。然后，纹理图像生成器(312)可以基于重建的几何图像来调整纹理图像的生成。例如，在块形状(例如，几何形状)在编码和解码期间略微失真的情况下，在生成纹理图像时可以考虑失真以对块形状的失真进行校正。
在一些实施方式中，组扩展(320)被配置成用冗余的低频内容填充对象边界周围的像素，以提高重建的点云的编码增益以及视觉质量。
复用器(324)可以将经压缩的几何图像、经压缩的纹理图像、经压缩的占用图和/或经压缩的辅助块信息复用为经压缩的比特流。
图4示出了根据一些实施方式的用于对与点云帧相对应的经压缩的比特流进行解码的V-PCC解码器(400)的框图。在一些实施方式中，V-PCC解码器(400)可以用于通信系统(100)和流传输系统(200)中。例如，解码器(210)可以被配置成以与V-PCC解码器(400)类似的方式操作。V-PCC解码器(400)接收经压缩的比特流，并且基于经压缩的比特流生成重建的点云。
在图4的示例中，V-PCC解码器(400)包括解复用器(432)、视频解压缩模块(434)和(436)、占用图解压缩模块(438)、辅助块信息解压缩模块(442)、几何形状重建模块(444)、平滑模块(446)、纹理重建模块(448)和颜色平滑模块(452)。
解复用器(432)可以接收经压缩的比特流，并且将其分离成经压缩的纹理图像、经压缩的几何图像、经压缩的占用图和经压缩的辅助块信息。
视频解压缩模块(434)和(436)可以根据合适的标准(例如，HEVC、VVC等)对经压缩的图像进行解码，并且输出经解压缩的图像。例如，视频解压缩模块(434)对经压缩的纹理图像进行解码并输出经解压缩的纹理图像；并且视频解压缩模块(436)对经压缩的几何图像进行解码并输出经解压缩的几何图像。
占用图解压缩模块(438)可以根据合适的标准(例如，HEVC、VVC等)对经压缩的占用图进行解码，并且输出经解压缩的占用图。
辅助块信息解压缩模块(442)可以根据合适的标准(例如，HEVC、VVC等)对经压缩的辅助块信息进行解码，并且输出经解压缩的辅助块信息。
几何形状重建模块(444)可以接收解经压缩的几何图像，并且基于经解压缩的占用图和经解压缩的辅助块信息来生成重建的点云几何形状。
平滑模块(446)可以对块的边缘处的不一致进行平滑。平滑过程旨在减轻由于压缩伪像而可能在块边界处出现的潜在不连续性。在一些实施方式中，可以将平滑滤波器应用于位于块边界上的像素，以减轻可能由压缩/解压缩导致的失真。
纹理重建模块(448)可以基于经解压缩的纹理图像和平滑几何形状来确定点云中的点的纹理信息。
颜色平滑模块(452)可以对着色的不一致进行平滑。3D空间中的非相邻的块在2D视频中通常被彼此相邻地封装。在一些示例中，来自非相邻块的像素值可能通过基于区块的视频编解码器被混合。颜色平滑的目的是减少出现在块边界处的可见伪像。
图5示出了根据本公开内容的实施方式的视频解码器(510)的框图。视频解码器(510)可以在V-PCC解码器(400)中使用。例如，视频解压缩模块(434)和(436)、占用图解压缩模块(438)可以类似地被配置为视频解码器(510)。
视频解码器(510)可以包括解析器(520)，以根据诸如编码视频序列的压缩图像来重建符号(521)。这些符号的类别包括用于管理视频解码器(510)的操作的信息。解析器(520)可以对接收到的编码视频序列进行解析/熵解码。编码视频序列的编码可以根据视频编码技术或标准进行，并且可以遵循各种原理，包括可变长度编码、霍夫曼编码(Huffmancoding)、具有或不具有上下文灵敏度的算术编码等。解析器(520)可以基于与群组对应的至少一个参数，从编码视频序列中提取用于视频解码器中的像素的子群中的至少一个子群的子群参数集。子群可以包括图片群组(Group of Pictures，GOP)、图片、图块、切片、宏块、编码单元(Coding Unit，CU)、区块、变换单元(Transform Unit，TU)、预测单元(PredictionUnit，PU)等。解析器(520)还可以从编码视频序列中提取信息，例如变换系数、量化器参数值、运动矢量等。
解析器(520)可以对从缓冲存储器接收的视频序列执行熵解码/解析操作以创建符号(521)。
取决于编码视频图片或一部分编码视频图片(例如，帧间图片和帧内图片、帧间区块和帧内区块)的类型以及其它因素，符号(521)的重建可以涉及多个不同单元。涉及哪些单元以及涉及方式可以通过由解析器(520)从编码视频序列解析的子群控制信息来控制。为了简洁起见，未描述解析器(520)与下文的多个单元之间的这样的子群控制信息的流动。
除已经提及的功能块以外，视频解码器(510)可以在概念上被细分成如下文所描述的多个功能单元。在商业约束下运行的实际实现方式中，这些单元中的许多单元彼此紧密交互并且可以至少部分地彼此集成。然而，出于描述所公开的主题的目的，在概念上细分成以下功能单元是适当的。
第一单元是缩放器/逆变换单元(551)。缩放器/逆变换单元(551)从解析器(520)接收作为符号(521)的经量化的变换系数以及控制信息，包括使用哪种变换、区块大小、量化因子、量化缩放矩阵等。缩放器/逆变换单元(551)可以输出包括可以被输入到聚合器(555)中的样本值的区块。
在一些情况下，缩放器/逆变换(551)的输出样本可以属于经帧内编码的区块；即：不使用来自先前重建的图片的预测性信息但可以使用来自当前图片的先前重建部分的预测性信息的区块。这样的预测性信息可以由帧内图片预测单元(552)提供。在一些情况下，帧内图片预测单元(552)使用从当前图片缓冲器(558)提取的周围的已重建信息来生成与正在重建的区块具有相同的大小和形状的区块。例如，当前图片缓冲器(558)对部分重建的当前图片和/或完全重建的当前图片进行缓冲。在一些情况下，聚合器(555)基于每个样本，将帧内预测单元(552)已经生成的预测信息添加至如由缩放器/逆变换单元(551)提供的输出样本信息中。
在其它情况下，缩放器/逆变换单元(551)的输出样本可以属于经帧间编码和潜在运动补偿的区块。在这样的情况下，运动补偿预测单元(553)可以访问参考图片存储器(557)以提取用于预测的样本。在根据属于该区块的符号(521)对所提取的样本进行运动补偿之后，可以通过聚合器(555)将这些样本与缩放器/逆变换单元(551)的输出(在这种情况下被称作残差样本或残差信号)相加以生成输出样本信息。运动补偿预测单元(553)从其提取预测样本的参考图片存储器(557)内的地址可以通过运动矢量控制，并且可供运动补偿预测单元(553)以符号(521)的形式使用，符号(521)可以具有例如X、Y和参考图片分量。运动补偿还可以包括如在使用子样本精确运动矢量时从参考图片存储器(557)提取的样本值的插值、运动矢量预测机制等。
聚合器(555)的输出样本可以在环路滤波器单元(556)中经受各种环路滤波技术。视频压缩技术可以包括环路内滤波器技术，所述环路内滤波器技术受控于包括在编码视频序列(也称为编码视频比特流)中的参数，且所述参数作为来自解析器(520)的符号(521)可用于环路滤波器单元(556)，但是视频压缩技术还可以响应于在对编码图片或编码视频序列的先前(按解码次序)部分进行解码期间获得的元信息，以及响应于先前重建且经过环路滤波的样本值。
环路滤波器单元(556)的输出可以是样本流，所述样本流可以被输出至渲染装置并被存储在参考图片存储器(557)中以用于将来的帧间图片预测。
一旦被完全重建，某些编码图片就可以用作参考图片以用于将来预测。例如，一旦对应于当前图片的编码图片被完全重建并且该编码图片(通过例如解析器(520))已经被识别为参考图片，则当前图片缓冲器(558)可以变成参考图片存储器(557)的一部分，并且可以在开始重建后续的编码图片之前重新分配新的当前图片缓冲器。
视频解码器(510)可以根据诸如ITU-T H.265建议书的标准中的预定视频压缩技术执行解码操作。在编码视频序列遵循视频压缩技术或标准的语法以及视频压缩技术或标准中记录的配置文件的意义上，编码视频序列可以符合由所使用的视频压缩技术或标准指定的语法。具体地，配置文件可以从视频压缩技术或标准中可用的所有工具中选择某些工具作为在所述配置文件下可供使用的仅有工具。对于合规性，还要求编码视频序列的复杂度处于如由视频压缩技术或标准的层级所限定的范围内。在一些情况下，层级限制最大图片大小、最大帧率、最大重建采样率(以例如每秒兆(mega)个样本为单位进行测量)、最大参考图片大小等。在一些情况下，由层级设置的限制可以通过假想参考解码器(HypotheticalReference Decoder，HRD)规范和在编码视频序列中用信号发送的HRD缓冲器管理的元数据来进一步限定。
图6示出了根据本公开内容的实施方式的视频编码器(603)的框图。视频编码器(603)可以用于压缩点云的V-PCC编码器(300)中。在示例中，视频压缩模块(322)和(323)以及视频压缩模块(332)与编码器(603)类似地配置。
视频编码器(603)可以接收诸如经填充的几何图像、经填充的纹理图像等的图像，并且可以生成经压缩的图像。
根据实施方式，视频编码器(603)可以实时地或在由应用所要求的任何其它时间约束下，将源视频序列的图片(图像)编码且压缩成编码视频序列(经压缩的图像)。施行适当的编码速度是控制器(650)的一个功能。在一些实施方式中，控制器(650)控制如下文所描述的其它功能单元并且在功能上耦接至其它功能单元。为了简洁起见，未描绘这样的耦接。由控制器(650)设置的参数可以包括速率控制相关参数(图片跳过、量化器、速率失真优化技术的λ值、……)、图片大小、图片群组(group of picture，GOP)布局、最大运动矢量搜索范围等。控制器(650)可以被配置成具有其它合适的涉及针对特定系统设计而优化的视频编码器(603)的功能。
在一些实施方式中，视频编码器(603)被配置成在编码环路中进行操作。作为简单的描述，在示例中，编码环路可以包括源编码器(630)(例如，负责基于待编码的输入图片和参考图片来创建符号，例如符号流)和嵌入在视频编码器(603)中的(本地)解码器(633)。解码器(633)以类似于(远程)解码器也将创建样本数据的方式重建符号以创建样本数据(因为在所公开的主题中所考虑的视频压缩或技术中，符号与编码视频比特流之间的任何压缩是无损的)。将重建的样本流(样本数据)输入至参考图片存储器(634)。由于符号流的解码产生与解码器位置(本地或远程)无关的位精确结果，因此参考图片存储器(634)中的内容在本地编码器与远程编码器之间也是按比特位精确对应的。也就是说，编码器的预测部分“看到”的参考图片样本与解码器将在解码期间使用预测时所“看到”的样本值完全相同。这种参考图片同步性基本原理(以及在例如因信道误差而无法维持同步性的情况下产生的漂移)也用于一些相关技术。
“本地”解码器(633)的操作可以与例如已在上文结合图5详细描述的视频解码器(510)的“远程”解码器相同。然而，另外简要参考图5，当符号可用并且熵编码器(645)和解析器(520)能够无损地将符号编码/解码为编码视频序列时，包括和解析器(520)在内的视频解码器(510)的熵解码部分可能无法完全在本地解码器(633)中实现。
此时可以观察到，除存在于解码器中的解析/熵解码之外的任何解码器技术，也必定以基本上相同的功能形式存在于对应的编码器中。出于此原因，所公开的主题侧重于解码器操作。可以简化对编码器技术的描述，因为编码器技术与全面地描述的解码器技术互逆。仅在某些区域中需要更详细的描述，并且在下文提供。
在操作期间，在一些示例中，源编码器(630)可以执行运动补偿预测编码，所述运动补偿预测编码参考来自视频序列的被指定为“参考图片”的一个或更多个先前编码的图片对输入图片进行预测性编码。以此方式，编码引擎(632)对输入图片的像素区块与参考图片的像素区块之间的差进行编码，所述参考图片可以被选作所述输入图片的预测参考。
本地视频解码器(633)可以基于由源编码器(630)创建的符号，对可以被指定为参考图片的图片的编码视频数据进行解码。编码引擎(632)的操作可以有利地为有损处理。当编码视频数据可以在视频解码器(图6中未示出)处被解码时，重建的视频序列通常可以是具有一些误差的源视频序列的副本。本地视频解码器(633)针对参考图片重复可以由视频解码器执行的解码处理，并且可以使重建的参考图片存储在参考图片高速缓存(634)中。以此方式，视频编码器(603)可以在本地存储重建的参考图片的副本，所述副本与将由远端视频解码器获得的重建参考图片具有共同内容(不存在传输误差)。
预测器(635)可以针对编码引擎(632)执行预测搜索。即，对于要编码的新图片，预测器(635)可以在参考图片存储器(634)中搜索可以作为所述新图片的适当预测参考的样本数据(作为候选参考像素区块)或某些元数据，例如参考图片运动矢量、区块形状等。预测器(635)可以基于样本区块逐像素区块操作，以找到合适的预测参考。在一些情况下，如由预测器(635)获得的搜索结果所确定的，输入图片可以具有从参考图片存储器(634)中存储的多个参考图片取得的预测参考。
控制器(650)可以管理源编码器(630)的编码操作，包括例如设置用于对视频数据进行编码的参数和子群参数。
可以在熵编码器(645)中对所有上述功能单元的输出进行熵编码。熵编码器(645)根据例如霍夫曼编码、可变长度编码、算术编码等技术通过对由各种功能单元生成的符号进行无损压缩以生成经压缩的图像643，从而将所述符号转换成编码视频序列。
控制器(650)可以管理视频编码器(603)的操作。在编码期间，控制器(650)可以为每个编码图片指定特定的编码图片类型，这可能影响可以应用于相应的图片的编码技术。例如，通常可以将图片指定为以下图片类型之一：
帧内图片(I图片)，其可以是可以在不将序列中的任何其他图片用作预测源的情况下进行编码和解码的图片。一些视频编解码器允许不同类型的帧内图片，包括例如独立解码器刷新(Independent Decoder Refresh，“IDR”)图片。本领域技术人员了解I图片的这些变型及其相应的应用和特征。
预测性图片(P图片)，其可以是可以使用帧内预测或帧间预测进行编码和解码的图片，所述帧内预测或帧间预测使用至多一个运动矢量和参考索引来预测每个区块的样本值。
双向预测性图片(B图片)，其可以是可以使用帧内预测或帧间预测进行编码和解码的图片，所述帧内预测或帧间预测使用至多两个运动矢量和参考索引来预测每个区块的样本值。类似地，多个预测性图片可以使用多于两个参考图片和相关联元数据以用于重建单个区块。
通常可以在空间上将源图片细分成多个样本区块(例如，分别为4×4、8×8、4×8或16×16个样本的区块)，并且在逐区块的基础上进行编码。可以参考如由应用于区块的相应图片的编码分配所确定的其它(已编码的)区块对区块进行预测性编码。例如，可以对I图片的区块进行非预测性编码，或者可以参考同一图片的已编码区块对I图片的区块进行预测性编码(空间预测或帧内预测)。可以参考一个先前编码的参考图片经由空间预测或经由时间预测对P图片的像素区块进行预测性编码。可以参考一个或两个先前编码的参考图片经由空间预测或经由时间预测对B图片的区块进行预测性编码。
视频编码器(603)可以根据例如ITU-T H.265建议书的预定视频编码技术或标准执行编码操作。在其操作中，视频编码器(603)可以执行各种压缩操作，包括利用输入视频序列中的时间和空间冗余的预测性编码操作。因此，编码视频数据可以符合由所使用的视频编码技术或标准指定的语法。
视频可以是时间序列中的多个源图片(图像)的形式。帧内图片预测(通常简写为帧内预测)利用给定图片中的空间相关性，而帧间图片预测利用图片之间的(时间或其它)相关性。在示例中，将正在编码/解码的特定图片分割成区块，正在编码/解码的特定图片被称作当前图片。在当前图片中的区块类似于视频中先前已编码且仍被缓冲的参考图片中的参考区块的情况下，可以通过被称作运动矢量的矢量对当前图片中的区块进行编码。运动矢量指向参考图片中的参考区块，并且在使用多个参考图片的情况下，运动矢量可以具有识别参考图片的第三维度。
在一些实施方式中，双向预测技术可以用于帧间图片预测中。根据双向预测技术，使用两个参考图片，例如按解码次序都在视频中的当前图片之前(但按显示次序可能分别是过去和将来)的第一参考图片和第二参考图片。可以通过指向第一参考图片中的第一参考区块的第一运动矢量和指向第二参考图片中的第二参考区块的第二运动矢量对当前图片中的区块进行编码。可以通过第一参考区块和第二参考区块的组合来预测所述区块。
此外，合并模式技术可以用于帧间图片预测中以改善编码效率。
根据本公开内容的一些实施方式，诸如帧间图片预测和帧内图片预测的预测以区块为单位执行。例如，根据HEVC标准，将视频图片序列中的图片分割成编码树单元(codingtree unit，CTU)以用于压缩，图片中的CTU具有相同大小，例如64×64像素、32×32像素或16×16像素。一般来说，CTU包括三个编码树区块(coding tree block，CTB)，所述三个编码树区块是一个亮度CTB和两个色度CTB。还可以将每个CTU以四叉树递归地拆分为一个或多个编码单元(coding unit，CU)。例如，可以将64×64像素的CTU拆分为一个64×64像素的CU，或4个32×32像素的CU，或16个16×16像素的CU。在示例中，分析每个CU以确定用于CU的预测类型，例如帧间预测类型或帧内预测类型。取决于时间和/或空间可预测性，将CU拆分为一个或更多个预测单元(prediction unit，PU)。通常，每个PU包括亮度预测区块(prediction block，PB)和两个色度PB。在实施方式中，译码(编码/解码)中的预测操作以预测区块为单位来执行。使用亮度预测区块作为预测区块的示例，预测区块包括像素值(例如，亮度值)的矩阵，例如8×8像素、16×16像素、8×16像素、16×8像素等。
G-PCC模型可以分别压缩几何信息和相关联的属性，例如颜色或反射率。作为点云的3D坐标的几何信息可以通过其占用信息的八叉树分解来编码。另一方面，可以使用预测和提升技术基于重建的几何形状来压缩属性。例如在图7至图13中讨论八叉树分割处理。
图7示出了根据实施方式的在G-PCC分解处理期间应用的G-PCC解码器(800)的框图。解码器(800)可以被配置成接收经压缩的比特流并且执行点云数据解压缩来解压缩该比特流以生成经解码的点云数据。在实施方式中，解码器(800)可以包括算术解码模块(810)、逆量化模块(820)、八叉树解码模块(830)、LOD生成模块(840)、逆量化模块(850)以及基于逆插值的预测模块(860)。
如图所示，可以在算术解码模块(810)处接收经压缩的比特流(801)。算术解码模块(810)被配置成对经压缩的比特流(801)进行解码，以获得点云的经量化的预测残差(如果生成的话)和占用码(或符号)。八叉树解码模块(830)被配置成根据占用码生成点云中的点的经量化的位置。逆量化模块(850)被配置成基于由八叉树解码模块(830)提供的经量化的位置来生成点云中的点的重建位置。
LOD生成模块(840)被配置成基于重建的位置将点重新组织成不同的LOD，并确定基于LOD的次序。逆量化模块(820)被配置成基于从算术解码模块(810)接收的经量化的预测残差来生成重建的预测残差。基于逆插值的预测模块(860)被配置成执行属性预测处理，以基于从逆量化模块(820)接收的重建的预测残差和从LOD生成模块(840)接收的基于LOD的次序来生成点云中的点的重建属性。
此外，在一个示例中，从基于逆插值的预测模块(860)生成的重建属性连同从逆量化模块(850)生成的重建位置与从解码器(800)输出的经解码的点云(或重建的点云)(802)相对应。
图8示出了根据实施方式的G-PPC编码器(700)的框图。编码器(700)可以被配置成接收点云数据并且压缩该点云数据以生成携载经压缩的点云数据的比特流。在实施方式中，编码器(700)可以包括位置量化模块(710)、重复点去除模块(712)、八叉树编码模块(730)、属性转换模块(720)、细节层次(LOD)生成模块(740)、基于插值的预测模块(750)、残差量化模块(760)和算术编码模块(770)。
如图所示，可以在编码器(700)处接收输入点云(701)。将点云(701)的位置(例如，3D坐标)提供至量化模块(710)。量化模块(710)被配置成对坐标进行量化以生成经量化的位置。重复点去除模块(712)被配置成接收经量化的位置并且执行滤波处理以识别和去除重复点。八叉树编码模块(730)被配置成从重复点去除模块(712)接收经滤波的位置，并且执行基于八叉树的编码处理以生成描述体素的3D网格的占用码(或符号)的序列。占用码被提供至算术编码模块(770)。
属性转换模块(720)被配置成接收输入点云的属性，以及在多个属性值与相应体素相关联时执行属性转换处理以确定每个体素的属性值。可以对从八叉树编码模块(730)输出的经重新排序的点执行属性转换处理。将转换操作之后的属性提供至基于插值的预测模块(750)。LOD生成模块(740)被配置成对从八叉树编码模块(730)输出的经重新排序的点进行操作，并且将这些点重新组织成不同的LOD。LOD信息被提供至基于插值的预测模块(750)。
基于插值的预测模块(750)根据由来自LOD生成模块(740)的LOD信息指示的基于LOD的次序和从属性转换模块(720)接收的经转换的属性来处理点并生成预测残差。残差量化模块(760)被配置成从基于插值的预测模块(750)接收预测残差并且执行量化以生成经量化的预测残差。经量化的预测残差被提供至算术编码模块(770)。算术编码模块(770)被配置成接收来自八叉树编码模块(730)的占用码、候选索引(如果使用的话)、来自基于插值的预测模块(750)的经量化的预测残差以及其他信息并且执行熵编码以进一步压缩所接收的值或信息。作为结果，可以生成携载经压缩信息的压缩比特流(702)。比特流(702)可以被传输或以其他方式提供至对经压缩的比特流进行解码的解码器，或者可以被存储在存储装置中。
注意，被配置成实现本文所公开的属性预测技术的基于插值的预测模块(750)和基于逆插值的预测模块(860)可以被包括在其他解码器或编码器中，所述其他解码器或编码器可以具有与图7和图8中所示的结构类似或不同的结构。另外，在各种示例中，编码器(700)和解码器(800)可以被包括在同一装置或单独的装置中。
在各种实施方式中，编码器(300)、解码器(400)、编码器(700)和/或解码器(800)可以用硬件、软件或其组合来实现。例如，编码器(300)、解码器(400)、编码器(700)和/或解码器(800)可以用诸如在有软件或没有软件的情况下操作的一个或更多个集成电路(integrated circuit，IC)的处理电路来实现，例如专用集成电路(application specificintegrated circuit，ASIC)、现场可编程门阵列(field programmable gate array，FPGA)等。在另一示例中，编码器(300)、解码器(400)、编码器(700)和/或解码器(800)可以被实现为包括存储在非易失性(或非暂态)计算机可读存储介质中的指令的软件或固件。在由诸如一个或更多个处理器的处理电路执行时，所述指令使处理电路执行编码器(300)、解码器(400)、编码器(700)和/或解码器(800)的功能。
沿所有轴(例如，x、y和z轴)以对称方式对由3D立方体限定的点云进行分割可以产生八个子立方体，这在点云压缩(point cloud compression，PCC)中被称为八叉树(octree，OT)分割。OT分割类似于一维空间中的二叉树(binary-tree，BT)分割和二维空间中的四叉树(quadtree，QT)分割。OT分割的思想可以在图9中示出，其中，以实线表示的3D立方体(900)可以被分割成以虚线表示的八个较小的相等尺寸的立方体。如图9中所示，八叉树分割技术可以将3D立方体(900)分割成八个较小的相等尺寸的立方体0至7。
在八叉树分割技术中(例如，在TMC13中)，如果使用八叉树几何编解码器，则几何编码如下进行。首先，可以通过两个极值点(0,0,0)和(2d,2d,2d)来限定立方体轴对准的包围盒B，其中2d限定包围盒B的大小并且d可以被编码为比特流。因此，可以对所限定的包围盒B内的所有点进行压缩。
然后可以通过递归地细分包围盒B来构建八叉树结构。在每一级别处，可以将立方体细分为8个子立方体。迭代地细分k(k≤d)次之后的子立方体的大小可以是(2d-k,2d-k,2d -k)。然后可以通过将1比特值与每个子立方体相关联来生成8比特码例如占用码，以指示对应的子立方体是包含点(即，满的且具有值1)还是不包含点(即，空的且具有值0)。仅大小大于1的满的子立方体(即，非体素)才可以被进一步细分。然后可以通过算术编码器对每个立方体的占用码进行压缩。
解码处理可以通过从比特流读取包围盒B的尺寸开始。然后可以通过根据已解码的占用码对包围盒B进行细分来构建相同的八叉树结构。两级OT分割和对应占用码的示例可以在图10中示出，其中用阴影表示的立方体和节点指示所述立方体和节点被点占用。
图10示出了根据本公开内容的一些实施方式的八叉树分割(1010)和与八叉树分割(1010)相对应的八叉树结构(1020)的示例。图10示出了八叉树分割(1010)中的两级分割。八叉树结构(1020)包括与用于八叉树分割(1010)的立方体盒相对应的节点(N0)。在第一级别处，根据图9中所示的编号技术将立方体盒分割成8个编号为0至7的子立方体盒。用于节点N0的分割的占用码为二进制形式的“10000001”，其指示由节点N0-0表示的第一子立方体盒和由节点N0-7表示的第八子立方体盒包括点云中的点，而其他子立方体盒为空。
然后，在分割的第二级别处，将第一子立方体盒(由节点N0-0表示)和第八子立方体盒(由节点N0-7表示)分别进一步细分成八个八分体。例如，根据图9中所示的编号技术将第一子立方体盒(由节点N0-0表示)分割成8个编号为0至7的较小子立方体盒。用于节点N0-0的分割的占用码为二进制形式的“00011000”，其指示第四较小子立方体盒(由节点N0-0-3表示)和第五较小子立方体盒(由节点N0-0-4表示)包括点云中的点，而其他较小子立方体盒为空。在第二级别处，类似地将第七子立方体盒(由节点N0-7表示)分割成8个较小子立方体盒，如图10中所示。
在图10的示例中，对应于非空立方体空间(例如，立方体盒、子立方体盒、较小子立方体盒等)的节点用灰色阴影表示，并且被称为阴影节点。
在原始的TMC13设计中，例如如上面所描述的，可以将包围盒B限制为针对所有维度都具有相同大小的立方体，并且因此可以在每个节点处针对所有子立方体执行OT分割，在所述每个节点处，针对所有维度子立方体的大小被减半。可以递归地执行OT分割，直至子立方体的大小达到1。然而，以这种方式进行的分割可能并非对所有情况都有效，尤其是在点在3D场景(或3D空间)中非均匀分布的情况下。
一种极端情况可以是3D空间中的2D平面，其中所有点可以位于3D空间中的x-y平面上并且z轴上的变化可以是零。在这种情况下，对作为起始点的立方体B执行OT分割可能会浪费大量比特来表示z方向上的占用信息，这是冗余且无用的。在实际应用中，最坏的情况可能不会经常发生。然而，点云通常在一个方向上具有比其他方向小的变化。如图11中所示，TMC13中名为“ford_01_vox1mm”的点云序列可以在x方向和y方向上具有主分量。实际上，由激光雷达系统生成的许多点云数据可以具有相同的特性。
在四叉树和二叉树(anquad-tree and binary-tree，QtBt)分割中，包围盒B可以不限于立方体，而是包围盒B可以是任意大小的矩形长方体，以更好地适合于3D场景或对象的形状。在实现中，包围盒B的大小可以被表示为2的幂，例如
Figure BDA0003362471600000201
由于包围盒B可能不是完美的立方体，因此，在一些情况下，节点可能不会(或不能)沿着所有方向被分割。如果在所有三个方向上执行分割，则该分割是典型的OT分割。如果在三个方向中的两个方向上执行分割，则该分割因此是3D中的QT分割。如果仅在一个方向上执行分割，则该分割是3D中的BT分割。在图12和图13中分别示出了3D中的QT和BT的示例。
如图12中所示，可以沿x-y轴将3D立方体1201分割成4个子立方体0、2、4和6。可以沿x-z轴将3D立方体1202分割成4个子立方体0、1、4和5。可以沿y-z轴将3D立方体1203分割成4个子立方体0、1、2和3。在图13中，可以沿x轴将3D立方体1301分割成2个子立方体0和4。可以将3D立方体1302分割成2个子立方体0和2。可以将3D立方体1303分割成2个子立方体0和1。
为了限定TMC13中的隐式QT和BT分割的条件，可以应用两个参数(即，K和M)。第一参数K(0≤K≤max(dx,dy,dz)-min(dx,dy,dz))可以限定可以在OT分割之前执行的隐式QT和BT分割的最大次数。第二参数M(0≤M≤min(dx,dy,dz))可以限定隐式QT和BT分割的最小大小，这指示仅在所有尺寸都大于M的情况下才允许隐式QT和BT分割。
更具体地，前K次分割可以遵循表I中的规则，并且在前K次分割之后的分割可以遵循表II中的规则。如果表中列出的条件都不满足，则可以执行OT分割。
表I：针对前K次分割执行隐式QT或BT分割的条件。
沿x-y轴QT 沿x-z轴QT 沿y-z轴QT
条件 d<sub>z</sub>＜d<sub>x</sub>＝d<sub>y</sub> d<sub>y</sub>＜d<sub>x</sub>＝d<sub>z</sub> d<sub>x</sub>＜d<sub>y</sub>＝d<sub>z</sub>
沿x轴BT 沿y轴BT 沿z轴BT
条件 d<sub>y</sub>＜d<sub>x</sub>且d<sub>z</sub>＜d<sub>x</sub> d<sub>x</sub>＜d<sub>y</sub>且d<sub>z</sub>＜d<sub>y</sub> d<sub>x</sub>＜d<sub>z</sub>且d<sub>y</sub>＜d<sub>z</sub>
表II：在前K次分割之后执行隐式QT或BT分割的条件。
Figure BDA0003362471600000211
在实施方式中，包围盒B可以具有
Figure BDA0003362471600000212
的大小。不失一般性，可以将条件0＜dx≤dy≤dz应用于包围盒B。基于这些条件，在前K(K≤dz-dx)个深度处，根据表I，可以沿z轴执行隐式BT分割，并且然后可以沿y-z轴执行隐式QT分割。子节点的大小然后可以变为
Figure BDA0003362471600000213
其中δy和δz的值(δz≥δy≥0)可以取决于K的值。此外，可以将OT分割执行dx-M次，使得剩余的子节点可以具有
Figure BDA0003362471600000214
的大小。接下来，根据表II，可以沿z轴执行隐式BT分割δz-δy次，并且然后可以沿y-z轴执行隐式QT分割δy次。其余的节点因此可以具有2(M，M，M)的大小。因此，OT分割可以被执行M次以达到最小单元。
在QtBt分割中，提供了关于如何通过在节点分解的每个级别处在八叉树、四叉树和二叉树之间进行切换来应用给定长方体的分割的隐式规则。在根据规则(例如，表I)经由QtBt分割进行K个级别的初始分解之后，可以根据另一规则(例如，表II)执行另一轮QtBt分割。如果在上述处理中不满足规则中的任何条件，则可以应用八叉树分解(或八叉树分割)。
隐式规则可以如下影响QtBt的有效性：(1)对于具有沿x、y和z维度几乎对称的长方体包围盒的点云数据，QtBt分割没有显示出相对于在所有级别处执行Ot(八叉树)分解的相关方法(例如，隐式QtBt分割)的编码增益；以及(2)对于具有沿x、y和z维度高度非对称的长方体包围盒的点云数据，QtBt分割已经通过在分解期间跳过发送不必要的占用信息而显示出编码增益。
在当前QtBt分割中，可以如下设置某些限制。第一，QtBt分割可以总是强制使用非对称的包围盒，在点云具有几乎对称的包围盒的情况下，这可能没有用或者甚至适得其反。第二，通过实施Qt/Bt分割而不是Ot分割，表I连同参数K可以根据规则使较大的尺寸减小。然而，在包围盒对称的情况下，表I连同参数K可能不允许在开始时进行Qt或Bt分割。第三，在子盒的最小尺寸达到M的情况下，可以在上述K次拆分和生效(kick in)之后应用表II。因此，表II可以根据规则使较大的尺寸减小，直至所有尺寸变得等于M。第四，当前隐式规则(或隐式QtBt分割)可以总是在前(至多)K个级别之后强制执行八叉树分解，直至当前QtBt分割达到级别M。也就是说，当前QtBt分割可以不允许在这两个级别的点之间任意选择Qt/Bt/Ot分割。
在本公开内容中，提供了多种方法。这些方法例如基于上述讨论针对典型用例提供了对TMC 13中的QtBt设计(例如，隐式QtBt分割)的简化。这些方法还允许更灵活的分割方式，例如通过明确地用信号表示每个级别处的节点分解类型。
在一个实施方式中，可以提供第一分割方法(或简化的QtBt分割)。第一分割方法可以是隐式QtBt分割的特殊情况，可以通过设置K＝0&M＝0将该分割方法应用于具有高度非对称的包围盒的数据集。第一分割方法可以简化QtBt设计(例如，QtBt分割)，并且仍然为上述典型情况带来编码益处。
与TMC 13中的QtBt分割相比，第一分割方法可以包括以下特征：(1)可以去除TMC13中的QtBt分割中的隐式启用标志(例如，implicit_qtbt_enabled_flag)。(2)可以引入非对称包围盒标志(例如，asymmetric_bbox_enabled_flag)以使得能够使用非对称的包围盒。在示例中，在针对对称或几乎对称的包围盒数据将非对称包围盒标志设置为诸如0的值(也称为第二值)并且针对高度非对称的包围盒数据将非对称包围盒标志设置为诸如1的值(也称为第一值)的情况下。(3)如果非对称包围盒标志为第一值，则在节点分解级别达到0(或最后一个级别)时，可以应用其中K＝0&M＝0的隐式QtBt规则(例如，表I和表II)。否则，如果非对称包围盒标志为第二值，则第一分割方法可以执行八叉树分解(或八叉树分割)。
根据第一分割方法，可以利用M＝0来应用表II中所示的隐式QtBt规则，以跳过发送不必要的沿着某些维度的占用信息，例如表III中所示。
表三：在级别0处执行隐式QtBt分割的条件
Figure BDA0003362471600000231
在一个实施方式中，可以提供第二分割方法(或显式QtBt分割)来发送拆分决定的显式信令。与在当前QtBt分割中使用固定的隐式规则相反，可以提供显式信令。
第二分割方法可以包括以下特征：(1)可以引入显式QtBt启用标志(例如，explicit_qtbt_enabled_flag)以启用/禁用显式分割决定信令，同时仍然可以引入来自第一分割方法的非对称包围盒标志。(2)在显式QtBt启用标志被设置为诸如0的值(或第二值)的情况下，第二分割方法回退至(或可以等同于)上面所描述的第一分割方法。因此，如果非对称包围盒标志(例如，asymmetric_bbox_enabled_flag)为诸如1的值(或第一值)，则在节点分解级别达到0(或最后一个级别)时，可以应用其中K＝0&M＝0的隐式QtBt规则(例如，表I和表II)。如果非对称包围盒标志为第二值，则第二分割方法可以执行八叉树分解(或八叉树分割)。在一个实施方式中，在不使用非对称包围盒标志并且显式QtBt启用标志被设置为第二值(例如，0)的情况下，第二分割方法可以针对所有级别应用八叉树分解(或八叉树分割)。(4)代替如在第一分割方法中提到的一直执行八叉树拆分直至级别达到0(或最后一个级别)，在显式QtBt启用标志被设置为第一值(例如，1)的情况下，可以在八叉树级别中的每个八叉树级别中发送3比特信号以指示是否沿x、y和z轴中的每个轴进行拆分。因此，该3比特信号可以指示是否可以在八叉树级别中的各级别中应用Bt分割、Qt分割或Ot分割。在一些实施方式中，可以应用TMC 13中的隐式QtBt规则(例如，表I和表II)来确定八叉树级别中的每个八叉树级别的3比特信号。
应当注意，由于在第二分割方法中在显式QtBt启用标志被设置为第一值的情况下允许沿途以任意方式进行Ot/Qt/Bt分割，因此最大可能的拆分总数可以是最大节点深度和最小节点深度的差的三倍。
在本公开内容的实施方式中，可以提供第三分割方法(或显式QtBt 2型分割)来发送拆分决定的显式信令。与在当前QtBt分割中使用固定的隐式规则(例如，表I和表II)相反，可以提供显式信令。与当前QtBt分割相比，第三分割方法可以包括以下特征：(1)显式QtBt启用标志(例如，explicit_qtbt_enabled_flag)可以代替TMC 13中的QtBt分割中的隐式QtBt启用标志(例如，implicit_qtbt_enabled_flag)以启用/禁用显式拆分决定信令。(2)仅在显式QtBt启用标识为诸如1的值(或第一值)时才可以另外用信号表示非对称包围盒标志(例如，asymmetric_bbox_enabled_flag)，以启用/禁用非对称包围盒的使用。在非对称包围盒标志为第一值的情况下，还可以用信号表示非对称包围盒沿x、y和z的尺寸(即，大小)，而不是三者中的最大值。因此，可以针对对称或几乎对称的包围盒数据将非对称包围盒标志设置为诸如0的值(例如，第二值)，并且可以针对高度非对称的包围盒数据将非对称包围盒标志设置为第一值(例如，1)。(3)在显式QtBt启用标志被设置为第一值的情况下，可以在八叉树级别(或八叉树分割级别)中的每个八叉树级别中发送3比特信号，以指示是否沿x、y和z轴中的每个轴进行拆分。在一个实施方式中，可以应用TMC 13中的隐式QtBt规则(例如，表I和表II)来确定针对八叉树级别中的每个八叉树级别的3比特信号。在另一实施方式中，可以应用其他拆分规则来确定针对八叉树级别中的每个八叉树级别的3比特信号。所述其他拆分规则可以有利于八叉树占用信息的编码，并且还可以考虑数据(例如，八叉树占用信息)的特性或日期的获取机制。(4)在显式QtBt启用标志被设置为第二值(例如，0)的情况下，第三分割方法可以针对所有级别应用八叉树分解(八叉树分割)。
应当注意，由于在第三分割方法中在显式QtBt启用标志被设置为第一值的情况下允许沿途以任意方式进行Ot/Qt/Bt分割，因此最大可能的拆分总数可以是最大节点深度和最小节点深度的差的三倍。
在本公开内容的实施方式中，可以提供第四分割方法(或灵活QtBt分割)，以通过将QtBt分割的类型作为显式或隐式的附加信令来在QtBt分割的使用中提供更大的灵活性。与在当前QtBt分割中使用固定的隐式规则(例如，表I和表II)相反，可以提供附加信令。
第四分割方法可以包括：(1)可以应用QtBt启用标志(例如，qtbt_enabled_flag)来代替TMC 13中的QtBt分割中的隐式QtBt启用标志，以更灵活性地指示QtBt分割的使用。(2)在QtBt启用标志被设置为诸如1的值的情况下，可以另外用信号表示QtBt类型标志(例如，qtbt_type_flag)。(3)如果QtBt类型标志被设置为诸如0的值，则可以应用当前隐式QtBt方案(例如，表I和表II)。另外，可以另外用信号表示非对称包围盒标志(例如，asymmetric_bbox_enabled_flag)，以选择性地启用/禁用非对称包围盒的使用。在一个实施方式中，在非对称包围盒标志被设置为诸如1的值的情况下，可以用信号表示非对称包围盒沿x、y和z的尺寸(即，大小)，而不是三者中的最大值。在另一实施方式中，在没有用信号表示非对称包围盒标志的情况下，可以一直使用非对称包围盒。
第四分割方法还可以包括：(4)如果QtBt类型标志为诸如1的值，则可以向八叉树级别中的每个八叉树级别发送3比特信号，以指示是否沿x、y和z轴中的每个轴进行拆分。在一个实施方式中，可以应用TMC 13中的隐式QtBt规则(例如，表I和表II)来确定针对八叉树级别中的每个八叉树级别的3比特信号。在另一实施方式中，可以应用其他拆分规则来确定针对八叉树级别中的每个八叉树级别的3比特信号。所述其他拆分规则可以有利于八叉树占用信息的编码，并且还可以考虑数据(例如，八叉树占用信息)的特性或日期的获取机制。在一个实施方式中，可以另外用信号表示非对称包围盒标志，以选择性地启用/禁用非对称包围盒的使用。在非对称包围盒标志为诸如1的值的情况下，可以用信号表示非对称包围盒沿x、y和z的尺寸(即，大小)，而不是三者中的最大值。在另一实施方式中，可以不用信号表示非对称包围盒标志而是可以一直使用非对称包围盒。(5)在QtBt启用标志被设置为诸如0的值的情况下，第四分割方法可以针对所有级别应用八叉树分解(或八叉树分割)。
应该注意，由于在第四分割方法中在显式QtBt启用标志被设置为诸如1的值的情况下允许沿途以任意方式进行Ot/Qt/Bt分割，因此最大可能的拆分总数可以是最大节点深度和最小节点深度的差的三倍。
上述技术可以在适用于点云压缩/解压缩的视频编码器或解码器中实现。编码器/解码器可以以硬件、软件或其任何组合实现，并且软件(如果有的话)可以存储在一个或更多个非暂态计算机可读介质中。例如，方法(或实施方式)、编码器和解码器中的每一个可以通过处理电路(例如，一个或更多个处理器或者一个或更多个集成电路)来实现。在一个示例中，一个或更多个处理器执行存储在非暂态计算机可读介质中的程序。
图14和图15示出了概述根据本公开内容的实施方式的处理(1400)和处理(1500)的流程图。可以在点云的解码处理期间使用处理(1400)和处理(1500)。在各种实施方式中，处理(1400)和处理(1500)可以由处理电路(例如，终端装置(110)中的处理电路，执行编码器(203)和/或解码器(201)的功能的处理电路，执行编码器(300)、解码器(400)、编码器(700)和/或解码器(800)的功能的处理电路等)来执行。在一些实施方式中，处理(1400)和处理(1500)可以以软件指令实现，因此，在处理电路执行软件指令时，处理电路分别执行处理(1400)和处理(1500)。
如图14中所示，处理(1400)在(S1401)处开始并且进行至(S1410)。
在(S1410)处，可以从包括三维(three-dimensional，3D)空间中的一组点的点云的编码比特流接收第一信令信息。第一信令信息可以指示点云的分割信息。
在(S1420)处，可以基于第一信令信息指示第一值来确定第二信令信息。第二信令信息可以指示3D空间中的所述一组点的分割模式。
在(S1430)处，可以基于第二信令信息来确定3D空间中的所述一组点的分割模式。处理(1400)然后可以进行至(S1440)，在(S1440)处，随后可以基于分割模式来重建点云。
在一些实施方式中，可以基于第二信令信息为第二值来将分割模式确定为预定义的四叉树和二叉树(Quad-tree and Binary-tree，QtBt)分割。
在处理(1400)中，可以接收指示3D空间是非对称长方体的第三信令信息。可以基于第三信令信息为第一值来确定3D空间的沿x、y和z方向的用信号表示的尺寸。
在一些实施方式中，可以基于第二信令信息为第一值来针对分割模式中的多个分割级别中的每个分割级别确定3比特信令信息。针对多个分割级别中的每个分割级别的3比特信令信息可以指示针对分割模式中相应分割级别的沿x、y和z方向的分割方向。
在一些实施方式中，可以基于3D空间的尺寸来确定3比特信令信息。
在处理(1400)中，可以基于第一信令信息为第二值来确定分割模式，其中，该分割模式可以在分割模式中的多个分割级别中的每个分割级别中包括相应的八叉树分割。
如图15中所示，处理(1500)在(S1501)处开始并且进行至(S1510)。
在(S1510)处，可以从包括三维(three-dimensional，3D)空间中的一组点的点云的编码比特流接收第一信令信息。第一信令信息可以指示点云的分割信息。
在(S1520)处，可以基于第一信令信息确定3D空间中的所述一组点的分割模式，其中分割模式可以包括多个分割级别。
在(S1530)处，随后可以基于分割模式来重建点云。
在一些实施方式中，可以基于第一信令信息为第一值来确定针对分割模式中的多个分割级别中的每个分割级别的3比特信令信息，其中，针对多个分割级别中的每个分割级别的3比特信令信息可以指示针对分割模式中相应分割级别的沿x、y和z方向的分割方向。
在一些实施方式中，可以基于3D空间的尺寸来确定3比特信令信息。
在一些实施方式中，可以基于第一信令信息为第二值来将分割模式确定为在分割模式中的多个分割级别中的每个分割级别中包括相应的八叉树分割。
在处理(1500)中，还可以从点云的编码比特流接收第二信令信息。当第二信令信息为第一值时，第二信令信息可以指示3D空间为非对称的长方体，并且当第二信令信息为第二值时，第二信令信息可以指示该3D空间为对称的长方体。
在一些实施方式中，可以基于第一信令信息指示第二值并且第二信令信息指示第一值，将分割模式确定为在分割模式的多个分割级别中的第一分割级别中的每一个中包括相应的八叉树分割。分割模式的多个分割级别中的最后一个分割级别的分割类型和分割方向可以根据下表确定：
Figure BDA0003362471600000281
，其中dx、dy和dz分别是3D空间在x、y和z方向上的log2大小。
在处理(1500)中，可以基于第一信令信息指示第一值来确定第二信令信息。当第二信令信息指示第一值时，第二信令信息可以指示3D空间为非对称的长方体，并且当第二信令信息指示第二值时，第二信令信息可以指示该3D空间为对称的长方体。此外，可以基于第二信令信息指示第一值来确定3D空间的沿x、y和z方向的用信号表示的尺寸。
如上所述，上面所描述的技术可以使用计算机可读指令实现为计算机软件，并且物理地存储在一个或更多个计算机可读介质中。例如，图16示出了适于实现所公开的主题的某些实施方式的计算机系统(1800)。
计算机软件可以使用任何合适的机器代码或计算机语言来编码，机器代码或计算机语言可以经受汇编、编译、链接等机制以创建包括指令的代码，所述指令可以由一个或更多个计算机中央处理单元(central processing unit，CPU)、图形处理单元(GraphicsProcessing Unit，GPU)等直接执行或者通过解译、微代码执行等来执行。
指令可以在各种类型的计算机或其部件上执行，包括例如个人计算机、平板计算机、服务器、智能电话、游戏装置、物联网装置等。
图16中示出的用于计算机系统(1800)的部件本质上是示例性的，并且不旨在对实现本公开内容的实施方式的计算机软件的使用范围或功能提出任何限制。部件的配置也不应当被解释为具有与计算机系统(1800)的示例性实施方式中示出的部件中的任何一个部件或部件的组合有关的任何依赖性或要求。
计算机系统(1800)可以包括某些人机接口输入装置。这样的人机接口输入装置可以对由一个或更多个人类用户通过例如触觉输入(例如：击键、滑动、数据手套移动)、音频输入(例如：语音、拍打)、视觉输入(例如：姿势)、嗅觉输入(未示出)进行的输入作出响应。人机接口装置还可以用于捕获不一定与人的意识输入直接有关的某些媒体，例如，音频(例如：语音、音乐、环境声音)、图像(例如：扫描图像、从静态图像摄像机获得的摄影图像)、视频(例如二维视频、包括立体视频的三维视频)。
输入人机接口装置可以包括以下中的一个或更多个(描述的每个中的仅一个)：键盘(1801)、鼠标(1802)、触控板(1803)、触摸屏(1810)、数据手套(未示出)、操纵杆(1805)、麦克风(1806)、扫描仪(1807)、摄像机(1808)。
计算机系统(1800)还可以包括某些人机接口输出装置。这样的人机接口输出装置可以通过例如触觉输出、声音、光和气味/味道来刺激一个或更多个人类用户的感觉。这样的人机接口输出装置可以包括触觉输出装置(例如，通过触摸屏(1810)、数据手套(未示出)或操纵杆(1805)的触觉反馈，但是也可以存在不用作输入装置的触觉反馈装置)、音频输出装置(例如：扬声器(1809)、头戴式耳机(未示出))、视觉输出装置(例如，屏幕(1810)，包括CRT屏幕、LCD屏幕、等离子屏幕、OLED屏幕，每个均具有或不具有触摸屏输入能力，每个均具有或不具有触觉反馈能力——其中的一些可能能够通过诸如立体图像输出、虚拟现实眼镜(未示出)、全息显示器和发烟器(未示出)的方式输出二维视觉输出或多于三维输出)和打印机(未示出)。
计算机系统(1800)还可以包括人类可访问存储装置及其相关联的介质，例如包括具有CD/DVD等介质(1821)的CD/DVD ROM/RW(1820)的光学介质、拇指驱动器(1822)、可移除硬盘驱动器或固态驱动器(1823)、传统磁性介质(例如磁带和软盘(未示出))、基于专用ROM/ASIC/PLD的装置(例如安全加密狗(未示出))等。
本领域技术人员还应当理解，结合当前公开的主题使用的术语“计算机可读介质”不包含传输介质、载波或其他瞬态信号。
计算机系统(1800)还可以包括至一个或更多个通信网络的接口。网络可以例如是无线网络、有线网络、光网络。网络还可以是局域网、广域网、城域网、车载和工业网络、实时网络、延迟容忍网络等。网络的示例包括：局域网(例如以太网、无线LAN)，包括GSM、3G、4G、5G、LTE等的蜂窝网络，包括有线电视、卫星电视和地面广播电视的电视有线连接或无线广域数字网络，包括CAN总线的车辆和工业网络等。某些网络通常需要附接至某些通用数据端口或外围总线(1849)(例如，计算机系统(1800)的USB端口)的外部网络接口适配器；其他的网络通常通过如下所述附接至系统总线(例如，至PC计算机系统的以太网接口或至智能电话计算机系统的蜂窝网络接口)而集成到计算机系统(1800)的核中。计算机系统(1800)可以通过使用这些网络中的任何网络与其他实体进行通信。这样的通信可以是仅单向接收的(例如，广播电视)、仅单向发送的(例如，至某些CAN总线装置的CAN总线)、或双向的(例如，使用局域数字网络或广域数字网络至其他计算机系统)。可以在如上面所描述的这些网络和网络接口中的每一个上使用某些协议和协议栈。
以上提及的人机接口装置、人类可访问存储装置和网络接口可以附接至计算机系统(1800)的核(1840)。
核(1840)可以包括一个或更多个中央处理单元(Central Processing Unit，CPU)(1841)、图形处理单元(Graphics Processing Unit，GPU)(1842)、现场可编程门区(FieldProgrammable Gate Area，FPGA)(1843)形式的专用可编程处理单元、用于某些任务的硬件加速器(1844)等。这些装置连同只读存储器(Read-only memory，ROM)(1845)、随机存取存储器(1846)、内部大容量存储装置(例如，内部非用户可访问硬盘驱动器、SSD等)(1847)可以通过系统总线(1848)连接。在一些计算机系统中，可以以一个或更多个物理插头的形式访问系统总线(1848)，以使得能够通过附加的CPU、GPU等进行扩展。外围装置可以直接地或通过外围总线(1849)附接至核的系统总线(1848)。外围总线的架构包括PCI、USB等。
CPU(1841)、GPU(1842)、FPGA(1843)和加速器(1844)可以执行某些指令，这些指令组合起来可以构成以上提及的计算机代码。该计算机代码可以存储在ROM(1845)或RAM(1846)中。过渡数据也可以存储在RAM(1846)中，而永久数据可以存储在例如内部大容量存储装置(1847)中。可以通过使用高速缓存存储器来实现对存储装置中的任何存储装置的快速存储和检索，该高速缓存存储器可以与一个或更多个CPU(1841)、GPU(1842)、大容量存储装置(1847)、ROM(1845)、RAM(1846)等紧密相关联。
计算机可读介质上可以具有用于执行各种计算机实现的操作的计算机代码。介质和计算机代码可以是出于本公开内容的目的而专门设计和构造的介质和计算机代码，或者介质和计算机代码可以具有对于计算机软件领域的技术人员公知且可用的类型。
作为示例而非限制，具有架构的计算机系统(1800)并且特别是核(1840)可以提供作为处理器(包括CPU、GPU、FPGA、加速器等)执行体现在一个或更多个有形计算机可读介质中的软件的结果的功能。这样的计算机可读介质可以是与如上面所介绍的用户可访问的大容量存储装置相关联的介质，以及核(1840)的具有非暂态性质的某些存储装置，例如，核内部的大容量存储装置(1847)或ROM(1845)。可以将实现本公开内容的各种实施方式的软件存储在这样的装置中并通过核(1840)执行。根据特定需要，计算机可读介质可以包括一个或更多个存储装置或芯片。软件可以使核(1840)并且特别是其中的处理器(包括CPU、GPU、FPGA等)执行本文中描述的特定处理或特定处理的特定部分，包括限定存储在RAM(1846)中的数据结构以及根据由软件限定的处理修改这样的数据结构。另外地或可替选地，计算机系统可以提供由于逻辑硬连线而提供或以其他方式体现在电路(例如：加速器(1844))中的功能，所述电路可以代替软件或与软件一起操作以执行本文中描述的特定处理或特定处理的特定部分。在适当的情况下，提及软件可以包含逻辑，并且反之亦然。在适当的情况下，提及计算机可读介质可以包含存储用于执行的软件的电路(例如，集成电路(integratedcircuit，IC))、体现用于执行的逻辑的电路或上述两者。本公开内容包含硬件和软件的任何合适的组合。
虽然本公开内容已经描述了若干示例性实施方式，但是存在落入本公开内容的范围内的改变、置换和各种替换等同物。因此将认识到，虽然本文中未明确示出或描述，但是本领域技术人员将能够设想体现本公开内容的原理并且因此在本公开内容的精神和范围内的许多系统和方法。

Claims (20)

1.一种在点云解码器中进行点云几何解码的方法，包括：
处理电路从包括三维(3D)空间中的一组点的点云的编码比特流接收第一信令信息，所述第一信令信息指示所述点云的分割信息；
所述处理电路基于所述第一信令信息指示第一值来从所述点云的编码比特流确定第二信令信息，所述第二信令信息指示所述3D空间中的所述一组点的分割模式；
所述处理电路基于所述第二信令信息来确定所述3D空间中的所述一组点的分割模式；以及
所述处理电路基于所述分割模式重建所述点云。
2.根据权利要求1所述的方法，其中，确定所述分割模式还包括：
基于所述第二信令信息指示第二值来确定所述分割模式为预定义的四叉树和二叉树(QtBt)分割。
3.根据权利要求1所述的方法，还包括：
接收第三信令信息，所述第三信令信息指示所述3D空间为非对称的长方体；以及
基于所述第三信令信息指示所述第一值来确定所述3D空间的沿x、y和z方向的用信号表示的尺寸。
4.根据权利要求1所述的方法，其中，确定所述分割模式还包括：
基于所述第二信令信息指示所述第一值，接收针对所述分割模式中的多个分割级别中的每个分割级别的3比特信令信息，针对所述多个分割级别中的每个分割级别的3比特信令信息指示针对所述分割模式中相应分割级别的沿x、y和z方向的分割方向。
5.根据权利要求4所述的方法，其中，所述3比特信令信息是基于所述3D空间的尺寸确定的。
6.根据权利要求1所述的方法，还包括：
基于所述第一信令信息指示第二值来确定所述分割模式，所述分割模式在所述分割模式中的多个分割级别中的每个分割级别中包括相应的八叉树分割。
7.一种在点云解码器中进行点云几何解码的方法，包括：
处理电路从包括三维(3D)空间中的一组点的点云的编码比特流接收第一信令信息，所述第一信令信息指示所述点云的分割信息；以及
所述处理电路基于所述第一信令信息来确定所述3D空间中的所述一组点的分割模式，所述分割模式包括多个分割级别；以及
所述处理电路基于所述分割模式来重建所述点云。
8.根据权利要求7所述的方法，其中，确定所述分割模式还包括：
基于所述第一信令信息指示第一值，接收针对所述分割模式中的多个分割级别中的每个分割级别的3比特信令信息，针对所述多个分割级别中的每个分割级别的3比特信令信息指示针对所述分割模式中相应分割级别的沿x、y和z方向的分割方向。
9.根据权利要求8所述的方法，其中，所述3比特信令信息是基于所述3D空间的尺寸确定的。
10.根据权利要求7所述的方法，其中，确定所述分割模式还包括：
基于所述第一信令信息指示第二值来确定所述分割模式，所述分割模式在所述分割模式中的多个分割级别中的每个分割级别中包括相应的八叉树分割。
11.根据权利要求7所述的方法，还包括：
从所述点云的编码比特流接收第二信令信息，当所述第二信令信息为第一值时，所述第二信令信息指示所述3D空间为非对称的长方体，并且当所述第二信令信息为第二值时，所述第二信令信息指示所述3D空间为对称的长方体。
12.根据权利要求11所述的方法，其中，确定所述分割模式还包括：
基于所述第一信令信息指示所述第二值并且所述第二信令信息指示所述第一值，确定所述分割模式在所述分割模式的多个分割级别中的第一分割级别中的每一个中包括相应的八叉树分割；以及
根据以下条件确定所述分割模式的多个分割级别中的最后一个分割级别中的分割类型和分割方向：
Figure FDA0003362471590000031
其中所述dx、dy和dz分别是所述3D空间在x、y和z方向上的log2大小。
13.根据权利要求7所述的方法，还包括：
基于所述第一信令信息指示第一值来确定第二信令信息，当所述第二信令信息指示所述第一值时，所述第二信令信息指示所述3D空间为非对称的长方体，并且当所述第二信令信息指示第二值时，所述第二信令信息指示所述3D空间为对称的长方体；以及
基于所述第二信令信息指示所述第一值来确定所述3D空间的沿x、y和z方向的用信号表示的尺寸。
14.一种处理点云数据的设备，包括：
处理电路，所述处理电路被配置成：
从包括三维(3D)空间中的一组点的点云的编码比特流接收第一信令信息，所述第一信令信息指示所述点云的分割信息；以及
基于所述第一信令信息来确定所述3D空间中的所述一组点的分割模式，所述分割模式包括多个分割级别；以及
基于所述分割模式重建所述点云。
15.根据权利要求14所述的设备，其中，所述处理电路还被配置成：
基于所述第一信令信息指示第一值，接收针对所述分割模式中的多个分割级别中的每个分割级别的3比特信令信息，针对所述多个分割级别中的每个分割级别的3比特信令信息指示针对所述分割模式中相应分割级别的沿x、y和z方向的分割方向。
16.根据权利要求15所述的设备，其中，相应的3比特信令信息是基于所述3D空间的尺寸确定的。
17.根据权利要求14所述的设备，其中，所述处理电路还被配置成：
基于所述第一信令信息指示第二值来确定所述分割模式，所述分割模式在所述分割模式的多个分割级别中的每个分割级别中包括相应的八叉树分割。
18.根据权利要求14所述的设备，其中，所述处理电路还被配置成：
从所述点云的编码比特流接收第二信令信息，当所述第二信令信息为第一值时，所述第二信令信息指示所述3D空间为非对称的长方体，并且当所述第二信令信息为第二值时，所述第二信令信息指示所述3D空间为对称的长方体。
19.根据权利要求18所述的设备，其中，所述处理电路还被配置成：
基于所述第一信令信息指示所述第二值并且所述第二信令信息指示所述第一值，确定所述分割模式在所述分割模式的多个分割级别中的第一分割级别中的每一个中包括相应的八叉树分割；以及
根据以下条件确定所述分割模式的多个分割级别中的最后一个分割级别中的分割类型和分割方向：
Figure FDA0003362471590000041
其中所述dx、dy和dz分别是所述3D空间在x、y和z方向上的log2大小。
20.根据权利要求14所述的设备，其中，所述处理电路还被配置成：
基于所述第一信令信息指示第一值来确定第二信令信息，当所述第二信令信息指示所述第一值时，所述第二信令信息指示所述3D空间为非对称的长方体，并且当所述第二信令信息指示第二值时，所述第二信令信息指示所述3D空间为对称的长方体；以及
基于所述第二信令信息指示所述第一值来确定所述3D空间的沿x、y和z方向的用信号表示的尺寸。
CN202180003429.4A 2020-04-02 2021-03-25 用于点云译码的方法和设备 Pending CN113892235A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US202063004304P 2020-04-02 2020-04-02
US63/004,304 2020-04-02
US17/203,155 2021-03-16
US17/203,155 US11514612B2 (en) 2020-04-02 2021-03-16 Method and apparatus for point cloud coding
PCT/US2021/024044 WO2021202220A1 (en) 2020-04-02 2021-03-25 Method and apparatus for point cloud coding

Publications (1)

Publication Number Publication Date
CN113892235A true CN113892235A (zh) 2022-01-04

Family

ID=77921934

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180003429.4A Pending CN113892235A (zh) 2020-04-02 2021-03-25 用于点云译码的方法和设备

Country Status (9)

Country Link
US (2) US11514612B2 (zh)
EP (1) EP3991302A4 (zh)
JP (1) JP7325534B2 (zh)
KR (1) KR20210152530A (zh)
CN (1) CN113892235A (zh)
AU (1) AU2021248462B2 (zh)
CA (1) CA3138068C (zh)
SG (1) SG11202111723VA (zh)
WO (1) WO2021202220A1 (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4161073A4 (en) * 2020-05-29 2024-06-05 Lg Electronics Inc POINT CLOUD DATA TRANSMISSION DEVICE, POINT CLOUD DATA TRANSMISSION METHOD, POINT CLOUD DATA RECEIVING DEVICE, AND POINT CLOUD DATA RECEIVING METHOD
US20230156222A1 (en) * 2021-11-15 2023-05-18 Tencent America LLC Grid-based patch generation for video-based point cloud coding
CN115118998A (zh) * 2022-06-22 2022-09-27 福州大学 一种增强投影相关性帧间编码方法、解码方法及装置
KR20240020851A (ko) * 2022-08-09 2024-02-16 한국전자기술연구원 포인트 클라우드 기반 콘텐츠 스트리밍을 위한 영상 스트리밍 방법 및 장치

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10694210B2 (en) 2016-05-28 2020-06-23 Microsoft Technology Licensing, Llc Scalable point cloud compression with transform, and corresponding decompression
EP3429212A1 (en) 2017-07-13 2019-01-16 Thomson Licensing A method and apparatus for encoding/decoding the geometry of a point cloud representing a 3d object
US10805646B2 (en) 2018-06-22 2020-10-13 Apple Inc. Point cloud geometry compression using octrees and binary arithmetic encoding with adaptive look-up tables
EP3846133A4 (en) 2018-08-30 2021-10-20 Panasonic Intellectual Property Corporation of America THREE-DIMENSIONAL DATA ENCODING PROCESS, THREE-DIMENSIONAL DATA DECODING PROCESS, THREE-DIMENSIONAL DATA ENCODING DEVICE, AND TRIDIMENSIONAL DATA DECODING DEVICE
CN112740668B (zh) 2018-09-18 2022-05-24 华为技术有限公司 译码方法、设备、系统
US11252439B2 (en) 2020-02-10 2022-02-15 Tencent America LLC Flexible tree partition and representation for point cloud coding

Also Published As

Publication number Publication date
JP2022531110A (ja) 2022-07-06
EP3991302A4 (en) 2022-09-07
WO2021202220A1 (en) 2021-10-07
KR20210152530A (ko) 2021-12-15
AU2021248462B2 (en) 2023-02-02
AU2021248462A1 (en) 2021-11-25
US20210312667A1 (en) 2021-10-07
US11741635B2 (en) 2023-08-29
US11514612B2 (en) 2022-11-29
CA3138068A1 (en) 2021-10-07
EP3991302A1 (en) 2022-05-04
US20230015039A1 (en) 2023-01-19
JP7325534B2 (ja) 2023-08-14
CA3138068C (en) 2024-02-13
SG11202111723VA (en) 2021-11-29

Similar Documents

Publication Publication Date Title
JP7252372B2 (ja) 点群コーディングのための方法及び装置
CN113994383A (zh) 点云编解码方法和装置
CN113519163B (zh) 点云压缩的方法、装置和存储介质
JP7325534B2 (ja) 点群符号化のための方法および装置
CN111641834B (zh) 点云编码的方法和装置、计算机设备和存储介质
CN113615201B (zh) 点云压缩和解压缩的方法和装置
RU2792020C1 (ru) Способ и устройство для кодирования облака точек
US11611775B2 (en) Method and apparatus for point cloud coding
US11948336B2 (en) Method and apparatus for point cloud coding
RU2799041C1 (ru) Способ и устройство для кодирования облака точек
CN116368523A (zh) Uv坐标编码
CN116635904A (zh) 用于动态网格压缩的方法和装置
CN117461054A (zh) 具有推导的纹理坐标的网格压缩
KR20230127319A (ko) 포인트 클라우드에 기반한 동적 메시 압축
CN116368526A (zh) 在用于网格压缩的顶点重新排序方法中编码连接性
CN116746156A (zh) 3d网格压缩中的2d图谱自适应采样
CN117242777A (zh) 具有受限几何动态范围的网格压缩

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40065781

Country of ref document: HK