CN111095929B - 一种压缩针对点云的属性信息的系统、方法及计算机可读介质 - Google Patents

一种压缩针对点云的属性信息的系统、方法及计算机可读介质 Download PDF

Info

Publication number
CN111095929B
CN111095929B CN201880058855.6A CN201880058855A CN111095929B CN 111095929 B CN111095929 B CN 111095929B CN 201880058855 A CN201880058855 A CN 201880058855A CN 111095929 B CN111095929 B CN 111095929B
Authority
CN
China
Prior art keywords
attribute
points
point
point cloud
encoder
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201880058855.6A
Other languages
English (en)
Other versions
CN111095929A (zh
Inventor
K·马莫
F·A·罗比内特
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
Apple Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Apple Inc filed Critical Apple Inc
Priority to CN202310864623.2A priority Critical patent/CN117319682A/zh
Publication of CN111095929A publication Critical patent/CN111095929A/zh
Application granted granted Critical
Publication of CN111095929B publication Critical patent/CN111095929B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/40Tree coding, e.g. quadtree, octree
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/005Tree description, e.g. octree, quadtree
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H04N19/45Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder performing compensation of the inverse transform mismatch, e.g. Inverse Discrete Cosine Transform [IDCT] mismatch

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Discrete Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种系统,所述系统包括被配置为对针对点云的属性信息进行压缩的编码器和/或被配置为对针对所述点云的压缩属性信息进行解压缩的解码器。针对至少一个起始点的属性值包括在压缩属性信息文件中,并且用于校正预测属性值的属性校正值包括在所述压缩属性信息文件中。至少部分地基于相邻点的属性值和正在预测属性值所针对的特定点与所述相邻点之间的距离来预测属性值。将所述预测属性值与压缩前的点云的属性值进行比较以确定属性校正值。解码器遵循与编码器类似的预测过程,并且使用包括在压缩属性信息文件中的属性校正值来校正预测值。

Description

一种压缩针对点云的属性信息的系统、方法及计算机可读 介质
技术领域
本公开整体涉及点云的压缩和解压缩,这些点云包括多个点,每个点具有相关联的属性信息。
背景技术
各种类型的传感器诸如光检测和测距(LIDAR)系统、3D相机、3D扫描仪等可以捕获指示点在三维空间中的位置(例如在X、Y和Z平面中的位置)的数据。另外,此类系统除了针对相应点的空间信息之外还可捕获属性信息,诸如颜色信息(例如,RGB值)、强度属性、反射率属性、运动相关属性、模态属性或各种其他属性。在一些情况下,可将附加属性分配给相应点,诸如捕获该点时的时间戳。由此类传感器捕获的点可构成“点云”,该“点云”包括各自具有相关联空间信息的一组点和一个或多个相关联的属性。在一些情况下,点云可包括数千个点、数十万个点、数百万个点或甚至更多的点。另外,在一些情况下,与由一个或多个传感器捕获的点云不同,可以例如在软件中生成点云。在任一种情况下,此类点云可包括大量数据,并且存储和传输这些点云可能成本高且耗时。
发明内容
在一些实施方案中,系统包括被配置为捕获共同构成点云的点的一个或多个传感器,其中这些点中的每个点包括识别相应点的空间位置的空间信息和限定与相应点相关联的一个或多个属性的属性信息。系统还包括被配置为压缩针对这些点的属性信息的编码器。为了压缩属性信息,编码器被配置为基于包括在捕获点云中的属性信息将属性值分配给点云的至少一个点。另外,编码器被配置为:针对点云的点中的相应其他一些中的每个点,识别一组相邻点;至少部分地基于针对这些相邻点的预测或分配属性值来确定针对该相应点的预测属性值;并且至少部分地基于将针对该相应点的预测属性值与包括在捕获点云中的针对该点的属性信息进行比较来确定针对该点的属性校正值。编码器被进一步配置为对针对点云的压缩属性信息进行编码,其中压缩属性信息包括针对所述至少一个点的分配属性值以及针对点中的相应其他一些来指示相应的确定属性校正值的数据。
在一些实施方案中,一种用于压缩针对点云的属性信息的方法包括至少部分地基于包括在点云中的针对至少一个点的属性信息来将属性值分配给点云的所述至少一个点,其中点云包括针对多个点的空间信息和为所述多个点中的相应一些指定一个或多个属性的属性信息。该方法还包括针对点云的点中的相应其他一些中的每个点识别一组相邻点以及至少部分地基于针对这些相邻点的预测或分配属性值来确定针对该点的预测属性值。该方法还包括针对点云的点中的相应其他一些中的每个点至少部分地基于将针对该点的预测属性值与针对该点的属性信息进行比较来确定针对该点的属性校正值。该方法也包括对针对点云的压缩属性信息进行编码,该压缩属性信息包括针对所述至少一个点的分配属性值以及针对点中的相应其他一些来指示确定属性校正值的数据。
在一些实施方案中,一个或多个非暂态计算机可读介质存储程序指令,当这些程序指令由一个或多个处理器执行时使所述一个或多个处理器实现解码器,该解码器被配置为:接收针对点云的压缩属性信息,该压缩属性信息包括针对点云的至少一个点的至少一个分配属性值以及针对点云的其他点来指示针对这些其他点的相应属性的相应属性校正值的数据。当被执行时,这些程序指令还使解码器:针对点云的点中除所述至少一个点之外的相应其他一些中的每个点,识别距正被评估的点的一组相邻点、至少部分地基于针对这些相邻点的预测或分配属性值来确定针对正被评估的点的预测属性值、并且至少部分地基于包括在压缩属性信息中的针对该点的属性校正值来调整针对正被评估的点的预测属性值。当被执行时,这些程序指令还使解码器提供针对解压缩点云的属性信息,该属性信息包括针对所述至少一个点的所述至少一个分配属性值和针对点中的这些其他点的经调整预测属性值。
在一些实施方案中,为了压缩属性信息,编码器被配置为构建分级细节级别(LOD)结构。例如,编码器可被配置为确定针对点云的属性信息的第一细节级别,并且确定针对点云的属性信息的一个或多个附加细节级别。为了确定第一细节级别或所述一个或多个附加细节级别,编码器被配置为基于包括在捕获点云中的针对至少一个点的属性信息将属性值分配给点云的该点,并且针对点云的点中未包括在先前确定的细节级别中的相应一些的子集:识别距离该点大于第一距离的一组相邻点,基于针对这些相邻点的预测或分配属性值来确定针对相应点的预测属性值,并且基于将针对相应点的预测属性值与包括在捕获点云中的针对该点的属性信息进行比较来确定针对该点的属性校正值。编码器被进一步配置为针对第一细节级别和所述一个或多个附加细节级别对分配属性值和确定属性校正值进行编码。
在一些实施方案中,编码器被进一步配置为在针对第一细节级别和所述一个或多个附加细节级别对分配属性校正值和确定属性校正值进行编码之前执行更新操作。在一些实施方案中,更新操作可以确定这些确定属性校正值中的特定一个在分级细节级别结构的较高细节级别中的其他点上的相对重要性。例如,在一些情况下,一个或多个基础细节级别中的一些点的属性校正值中的细微错误可能会对针对较高细节级别中的点的属性的预测属性值产生更大的影响。在此类情况下,与分配给针对其他点的预测属性值影响较小的针对其他点的确定属性校正值相比,可以将更多的位分配给(例如,将更少的量化应用到)针对其他点的预测属性值影响较大的针对点的确定属性校正值。另外,在一些实施方案中,可以在执行更新操作之前将转换应用于属性值,并且当确定确定属性校正值对较高细节级别的预测属性值的相对影响时,可以考虑转换操作的效果。
在一些实施方案中,编码器可被进一步配置为基于针对正被评估的点的邻域中的点的属性的可变性来自适应地改变预测策略或在预测策略中使用的最近相邻点的数量。
在一些实施方案中,解码器被配置为接收针对点云的压缩属性信息,该压缩属性信息包括针对点云的至少一个点的至少一个分配属性值以及指示针对点云的其他点的属性的属性校正值的数据。在一些实施方案中,可以针对点云的点的多个子集以多个细节级别对属性校正值进行排序。例如,解码器可以接收如上所述由编码器压缩的压缩点云。解码器可被进一步配置为提供针对具有第一细节级别的解压缩点云的属性信息,并且更新解压缩点云以包括针对多个细节级别中的一个或多个其他一些处的点的附加子集的属性信息。
在一些实施方案中,其中在编码器处执行更新操作,解码器还可在接收到压缩的确定属性校正值时“撤消”更新操作。例如,在将确定属性校正值应用于预测属性值之前,解码器可以考虑对确定属性校正值执行的更新操作。
在一些实施方案中,解码器可被进一步配置为基于针对正被评估的点的邻域中的点的属性的可变性来自适应地改变预测策略或在预测策略中使用的最近相邻点的数量。
在一些实施方案中,一种方法包括接收针对点云的压缩属性信息,该压缩属性信息包括针对点云的至少一个点的至少一个分配属性值以及指示针对点云的其他点的属性的属性校正值的数据。在一些实施方案中,可以针对点云的其他点的多个子集以多个细节级别对属性校正值进行排序。该方法还可包括提供针对具有第一细节级别的解压缩点云的属性信息,并且更新解压缩点云以包括针对多个细节级别中的一个或多个其他一些的点的附加子集的属性信息。在一些实施方案中,该方法还可包括:在将属性校正值应用于解压缩点云之前,考虑针对较低的细节级别对属性校正值执行的更新操作。
在一些实施方案中,一个或多个非暂态计算机可读介质存储程序指令,当这些程序指令由一个或多个处理器执行时使所述一个或多个处理器生成如本文所述的分级细节级别(LOD)结构以压缩点云的属性信息。在一些实施方案中,非暂态计算机可读介质还存储程序指令,当这些程序指令由一个或多个处理器执行时还使所述一个或多个处理器在对属性校正值进行编码之前将更新操作应用于属性校正值,其中如本文所述执行更新操作。
在一些实施方案中,一个或多个非暂态计算机可读介质存储程序指令,当这些程序指令由一个或多个处理器执行时使所述一个或多个处理器解码如本文所述的分级LOD结构以解压缩点云的属性信息。在一些实施方案中,非暂态计算机可读介质还存储程序指令,当这些程序指令由一个或多个处理器执行时还使所述一个或多个处理器在将解压缩属性校正值应用于重构点云之前考虑在编码器处应用于属性校正值的更新操作,其中如本文所述执行考虑更新操作。
在一些实施方案中,系统包括几何编码器,该几何编码器被配置为对包括在点云中的点执行量化、移除重复点并且执行八叉树编码。为了执行八叉树编码,该几何编码器被配置为使用二进制算术编码器对多达256个占用符号进行编码。占用符号表示多维数据集的8个子多维数据集中的每个是被点占用还是未被占用。由于存在8个子多维数据集和两种可能性(已占用或未占用),因此可能的占用符号数为2^8或256。几何编码器还可被配置为利用相邻的多维数据集或子多维数据集以及使用前瞻表的前瞻过程来预测用于对占用符号进行编码的上下文。例如,如果相邻的多维数据集为空,则正被编码的多维数据集更有可能包括空的子多维数据集,反之亦然。
另外,可以通过将单独的上下文分配给最可能的邻域配置以及将不太可能的邻域配置分配给相同的上下文来减少编码上下文的可能数量,使得不太可能的邻域配置中的一些共享相同的上下文。系统还包括被配置为压缩针对这些点的属性信息的属性编码器。为了压缩属性信息,属性编码器被配置为构建分级细节级别(LOD)结构。例如,属性编码器可被配置为确定针对点云的属性信息的第一细节级别,并且确定针对点云的属性信息的一个或多个附加细节级别。为了确定第一细节级别或所述一个或多个附加细节级别,属性编码器被配置为基于包括在捕获点云中的针对至少一个点的属性信息将属性值分配给点云的该点,并且针对点云的点中未包括在先前确定的细节级别中的相应一些的子集:识别距离该点大于第一距离的一组相邻点,基于针对这些相邻点的预测或分配属性值来确定针对相应点的预测属性值,并且基于将针对相应点的预测属性值与包括在捕获点云中的针对该点的属性信息进行比较来确定针对该点的属性校正值。属性编码器被进一步配置为针对第一细节级别和所述一个或多个附加细节级别对分配属性值和确定属性校正值进行编码。在一些实施方案中,属性编码器可被进一步配置为基于针对正被评估的点的邻域中的点的属性的可变性来自适应地改变预测策略或在预测策略中使用的最近相邻点的数量。
在一些实施方案中,解码器被配置为接收针对点云的编码几何信息、应用算术解码器以生成占用符号(其中解码器也使用二进制算术解码器和前瞻表对如上所述由编码器编码的几何信息进行解码)。然后,占用符号由八叉树解码元素用来重建正被解压缩的点云的点云几何结构。解码器还被配置为接收针对点云的压缩属性信息,该压缩属性信息包括针对该点云的至少一个点的至少一个分配属性值以及指示针对该点云的其他点的属性的属性校正值的数据,其中针对该点云的这些其他点的多个子集以多个细节级别对属性校正值进行排序。例如,解码器可以接收如上所述由编码器压缩的压缩点云。解码器可被进一步配置为提供针对具有第一细节级别的解压缩点云的属性信息,并且更新解压缩点云以包括针对所述多个细节级别中的一个或多个其他一些处的点的附加子集的属性信息。
在一些实施方案中,解码器可被进一步配置为基于针对正被评估的点的邻域中的点的属性的可变性来自适应地改变预测策略或在预测策略中使用的最近相邻点的数量。
在一些实施方案中,一种方法包括接收针对点云的编码几何信息、应用算术解码器以生成占用符号(其中解码器也使用二进制算术解码器和前瞻表对如上所述由编码器编码的几何信息进行解码)。然后,占用符号由八叉树解码元素用来重建正被解压缩的点云的点云几何结构。在一些实施方案中,该方法还包括接收针对点云的压缩属性信息,该压缩属性信息包括针对该点云的至少一个点的至少一个分配属性值以及指示针对该点云的其他点的属性的属性校正值的数据,其中针对该点云的这些其他点的多个子集以多个细节级别对属性校正值进行排序。该方法还包括提供针对具有第一细节级别的解压缩点云的属性信息,并且更新解压缩点云以包括针对所述多个细节级别中的一个或多个其他一些的点的附加子集的属性信息。在一些实施方案中,该方法还包括基于针对正被评估的点的邻域中的点的属性的可变性来自适应地改变预测策略或在预测策略中使用的最近相邻点的数量。
在一些实施方案中,一个或多个非暂态计算机可读介质存储程序指令,当这些程序指令由一个或多个处理器执行时使所述一个或多个处理器使用八叉树和二进制算术编码器以及前瞻表如本文所述生成压缩几何信息。在一些实施方案中,计算机可读介质存储程序指令,当这些程序指令由一个或多个处理器执行时使所述一个或多个处理器接收如本文所述的分级细节级别(LOD)结构以压缩点云的属性信息。
在一些实施方案中,一个或多个非暂态计算机可读介质存储程序指令,当这些程序指令由一个或多个处理器执行时使所述一个或多个处理器解码针对点云的几何编码信息并且解压缩如本文所述的分级LOD结构以提供针对解压缩点云的属性信息。
附图说明
图1A示出了根据一些实施方案的包括捕获针对点云的点的信息的传感器和压缩点云的属性信息和/或空间信息的编码器的系统,其中该压缩点云信息被发送至解码器。
图1B示出了根据一些实施方案的用于对点云的属性信息进行编码的过程。
图1C示出了根据一些实施方案的点云信息在编码过程的不同阶段处的代表性视图。
图2A示出了根据一些实施方案的编码器的部件。
图2B示出了根据一些实施方案的解码器的部件。
图3示出了根据一些实施方案的示例压缩属性文件。
图4示出了根据一些实施方案的用于对点云的属性信息进行压缩的过程。
图5示出了根据一些实施方案的用于对属性校正值进行编码的过程。
图6A-图6B示出了根据一些实施方案的用于对点云的空间信息进行压缩的示例过程。
图7示出了根据一些实施方案的用于对点云的空间信息进行压缩的另一个示例过程。
图8示出了根据一些实施方案的用于对点云的压缩属性信息进行解压缩的示例过程。
图9示出了根据一些实施方案的生成分级细节级别(LOD)结构的示例编码器的部件。
图10示出了根据一些实施方案的用于确定待包括在细节级别(LOD)结构的不同细化层处的点的示例过程。
图11A示出了根据一些实施方案的示例细节级别(LOD)结构。
图11B示出了根据一些实施方案的包括针对点云的细节级别(LOD)的示例压缩点云文件。
图12A示出了根据一些实施方案的用于对点云的属性信息进行编码的方法。
图12B示出了根据一些实施方案的用于对点云的属性信息进行解码的方法。
图12C示出了根据一些实施方案的八叉树的多维数据集的示例邻域配置。
图12D示出了根据一些实施方案的示例前瞻多维数据集。
图12E示出了根据一些实施方案的可用于使用二进制算术编码器来自适应地编码符号S的索引值的31个上下文的示例。
图12F示出了根据一些实施方案的使用二进制算术编码器、高速缓存和前瞻表的示例八叉树压缩技术。
图13A示出了根据一些实施方案的可在编码器处应用以对点云的属性信息进行编码的直接转换。
图13B示出了根据一些实施方案的可在解码器处应用以对点云的属性信息进行解码的逆转换。
图14示出了根据一些实施方案的在3D远程显示应用中正在使用的压缩点云信息。
图15示出了根据一些实施方案的在虚拟现实应用中正在使用的压缩点云信息。
图16示出了根据一些实施方案的可实现编码器或解码器的示例计算机系统。
本说明书包括参考“一个实施方案”或“实施方案”。出现短语“在一个实施方案中”或“在实施方案中”并不一定是指同一个实施方案。特定特征、结构或特性可以与本公开一致的任何合适的方式被组合。
“包括”。该术语是开放式的。如在所附权利要求书中所使用的,该术语不排除附加结构或步骤。考虑以下引用的权利要求:“一种包括一个或多个处理器单元…的装置”此类权利要求不排除该装置包括附加部件(例如,网络接口单元、图形电路等)。
“被配置为”。各种单元、电路或其他部件可被描述为或叙述为“被配置为”执行一项或多项任务。在此类上下文中,“被配置为”用于通过指示单元/电路/部件包括在操作期间执行这一项或多项任务的结构(例如,电路)来暗指该结构。如此,单元/电路/部件据称可被配置为即使在指定的单元/电路/部件当前不可操作(例如,未接通)时也执行该任务。与“被配置为”语言一起使用的单元/电路/部件包括硬件——例如电路、存储可执行以实现操作的程序指令的存储器等。引用单元/电路/部件“被配置为”执行一项或多项任务明确地旨在针对该单元/电路/部件不援引35U.S.C.§112(f)。此外,“被配置为”可包括由软件和/或固件(例如,FPGA或执行软件的通用处理器)操纵的通用结构(例如,通用电路)以能够执行待解决的一项或多项任务的方式操作。“被配置为”还可包括调整制造过程(例如,半导体制作设施),以制造适用于实现或执行一项或多项任务的设备(例如,集成电路)。
“第一”“第二”等。如本文所用,这些术语充当它们所在之前的名词的标签,并且不暗指任何类型的排序(例如,空间的、时间的、逻辑的等)。例如,缓冲电路在本文中可被描述为执行“第一”值和“第二”值的写入操作。术语“第一”和“第二”未必暗指第一值必须在第二值之前被写入。
“基于”。如本文所用,该术语用于描述影响确定的一个或多个因素。该术语不排除影响确定的附加因素。即,确定可仅基于这些因素或至少部分地基于这些因素。考虑短语“基于B来确定A”。在这种情况下,B为影响A的确定的因素,此类短语不排除A的确定也可基于C。在其他实例中,可仅基于B来确定A。
具体实施方式
随着数据采集和显示技术变得更加先进,增强了(诸如通过LIDAR系统)捕获包括2D或3D空间中成千上万个点的点云的能力。另外,先进显示技术诸如虚拟现实或增强现实系统的发展增加了点云的潜在用途。然而,点云文件通常非常大,并且存储和传输这些点云文件可能成本高且耗时。例如,点云通过私有网络或公共网络(诸如互联网)的通信可能需要相当大量的时间和/或网络资源,使得点云数据的一些使用(诸如实时使用)可能受到限制。另外,点云文件的存储需求可能消耗存储点云文件的设备的显著量的存储容量,这也可能限制潜在应用使用点云数据。
在一些实施方案中,编码器可用于生成压缩点云以降低与存储和传输大的点云文件相关联的成本和时间。在一些实施方案中,系统可包括压缩点云文件的属性信息和/或空间信息(在本文中也称为几何信息)的编码器,使得点云文件可比非压缩点云更快地被存储和传输,并且以点云文件可比非压缩点云占据更少的存储空间的方式被存储和传输。在一些实施方案中,点云中的点的空间信息和/或属性的压缩可使点云能够实时地或几乎实时地通过网络传送。例如,系统可包括传感器,该传感器捕获关于该传感器所在环境中的点的空间信息和/或属性信息,其中所捕获的点和对应的属性构成点云。该系统还可包括压缩该捕获点云属性信息的编码器。该点云的压缩属性信息可以通过网络实时地或几乎实时地发送至对该点云的压缩属性信息进行解压缩的解码器。该解压缩点云可被进一步处理,例如以基于传感器位置处的周围环境做出控制决策。然后可将控制决策传送回传感器位置处或其附近的设备,其中接收控制决策的设备实时地或几乎实时地实现控制决策。在一些实施方案中,解码器可以与增强现实系统相关联,并且解压缩属性信息可以由增强现实系统显示或以其他方式使用。在一些实施方案中,可以将针对点云的压缩属性信息与针对该点云的点的压缩空间信息一起发送。在其他实施方案中,空间信息和属性信息可以被分别编码和/或分别传输到解码器。
在一些实施方案中,系统可包括解码器,该解码器经由网络从远程服务器或存储一个或多个点云文件的其他存储设备处接收包括压缩属性信息的一个或多个点云文件。例如,可以实时地或几乎实时地操纵3D显示器、全息显示器或头戴式显示器,以显示由点云表示的虚拟世界的不同部分。为了更新3D显示器、全息显示器或头戴式显示器,与解码器相关联的系统可以基于显示器的用户操纵从远程服务器请求点云文件,并且这些点云文件可以从远程服务器传输到解码器并由解码器实时地或几乎实时地进行解码。然后可用响应于用户操纵的更新点云数据(诸如更新的点属性)来更新显示器。
在一些实施方案中,系统可包括一个或多个LIDAR系统、3D相机、3D扫描仪等,并且此类传感器设备可捕获空间信息,诸如传感器设备的视图中的点的X、Y和Z坐标。在一些实施方案中,空间信息可相对于局部坐标系或可相对于全局坐标系(例如,笛卡尔坐标系可具有固定参考点诸如地球上的定点,或者可具有不固定的局部参考点诸如传感器位置)。
在一些实施方案中,此类传感器还可捕获针对一个或多个点的属性信息,诸如颜色属性、反射率属性、速度属性、加速度属性、时间属性、模态和/或各种其他属性。在一些实施方案中,除了LIDAR系统、3D相机、3D扫描仪等之外,其他传感器可以捕获待包括在点云中的属性信息。例如,在一些实施方案中,陀螺仪或加速度计可以捕获待包括在点云中的运动信息作为与该点云的一个或多个点相关联的属性。例如,配备有LIDAR系统、3D相机或3D扫描仪的车辆可能会在由LIDAR系统、3D相机或3D扫描仪捕获的点云中包括车辆的方向和速度。例如,当捕获到车辆视野中的点时,这些点可以被包括在点云中,其中该点云包括捕获到的点以及与捕获到点时车辆的状态对应的相关联的运动信息。
在一些实施方案中,属性信息可包括字符串值,诸如不同的模态。例如,属性信息可包括指示模态诸如“步行”、“跑步”、“驾驶”等的字符串值。在一些实施方案中,编码器可包括“字符串值”到整数索引,其中某些字符串与某些对应的整数值相关联。在一些实施方案中,点云可以通过包括与该字符串值相关联的整数作为该点的属性来指示针对该点的字符串值。编码器和解码器都可以将公共字符串值存储为整数索引,使得解码器可以基于在与解码器的字符串值到整数索引匹配或类似的解码器的字符串值到整数索引中查找该点的字符串属性的整数值来确定针对点的字符串值。
在一些实施方案中,除了压缩针对点云的点的属性的属性信息之外,编码器还对点云的空间信息进行压缩和编码以压缩空间信息。例如,为了压缩空间信息,可以生成K-D树,其中,对包括在K-D树的小区的每个小区中的相应数量的点进行编码。编码点计数的该序列可以对针对点云的点的空间信息进行编码。另外,在一些实施方案中,子采样和预测方法可以用于对针对点云的空间信息进行压缩和编码。在一些实施方案中,空间信息可以在被压缩和编码之前被量化。另外,在一些实施方案中,空间信息的压缩可以是无损的。因此,解码器可能够确定与编码器相同的空间信息视图。另外,一旦解码了压缩空间信息,编码器就可能够确定解码器将遇到的空间信息视图。因为编码器和解码器两者都可能具有或能够重建针对点云的相同空间信息,所以空间关系可以用于压缩针对该点云的属性信息。
例如,在许多点云中,相邻点或彼此之间定位距离相对较短的点之间的属性信息在属性之间可能具有高的相关级别,并且因此,点属性值的差异相对较小。例如,当相对于点云中分隔更远的点考虑时,点云中的临近点在颜色上可能具有相对较小的差异。
在一些实施方案中,编码器可包括预测器,该预测器基于针对点云中相邻点的相似属性的属性值并且基于正被评估的点与相邻点之间的相应距离来确定针对点云中的点的属性的预测属性值。在一些实施方案中,与更远离正被评估的点的相邻点的属性的属性值相比,可以给与更接近正被评估的点的相邻点的属性的属性值更高的权重。另外,编码器可以将预测属性值与在压缩之前的原始点云中的针对该点的属性的属性值进行比较。可以基于该比较来确定残余差,在本文中也称为“属性校正值”。可以对属性校正值进行编码并且将其包括在针对点云的压缩属性信息中,其中解码器使用编码属性校正值来校正针对该点的预测属性值,其中在解码器处使用与在编码器处使用的预测方法相同或类似的相同或类似预测方法来预测属性值。
在一些实施方案中,为了编码属性值,编码器可以基于针对点云的点的空间信息来生成针对点云的点的最小生成树。编码器可以选择第一点作为起始点,并且可以基于从起始点到最近相邻点的最小距离以及从该相邻点到下一个最近相邻点的后续最小距离等来确定针对点云的点中的其他一些的评估次序。这样,可以确定用于确定点云的点的预测属性值的评估次序。因为解码器可以接收或重建与编码器使用的空间信息相同的空间信息,所以解码器可以生成针对点云的相同最小生成树,并且可以确定针对点云的点的相同评估次序。
在一些实施方案中,编码器可以为点云的起始点分配属性值以用于生成最小生成树。编码器可基于起始点的属性值和起始点与下一个最近点之间的距离来预测针对距起始点的下一个最近点的属性值。然后,编码器可以确定针对该下一个最近点的预测属性值与包括在非压缩原始点云中的针对该下一个最近点的实际属性值之间的差值。该差值可以被编码在压缩属性信息文件中,作为针对下一个最近点的属性校正值。然后,编码器可以针对评估次序中的每个点重复类似的过程。为了预测针对评估次序中的后续点的属性值,编码器可以将K个最近相邻点识别为正被评估的特定点,其中所识别的K个最近相邻点已分配或预测属性值。在一些实施方案中,“K”可以是从编码器传送到解码器的可配置参数。
编码器可以确定在正被评估的点与每个识别的相邻点之间的X、Y和Z空间中的距离。例如,编码器可以确定从正被评估的点到相邻点中的每个点的相应欧几里得距离。然后编码器可以基于相邻点的属性值来预测针对正被评估的点的属性的属性值,其中根据从正被评估的点到相邻点中的相应一些的距离的倒数对相邻点的属性值进行加权。与更远离正被评估的点的相邻点的属性值相比,可以给与更接近正被评估的点的相邻点的属性值更大的权重。
以与针对第一相邻点所述的类似方式,编码器可以将针对点云的其他点中的每个点的预测值与原始非压缩点云(例如,捕获点云)中的实际属性值进行比较。该差值可以被编码为针对这些其他点中正被评估的一个点的属性的属性校正值。在一些实施方案中,可以根据基于最小生成树确定的评估次序,按次序将属性校正值编码在压缩属性信息文件中。因为编码器和解码器可以基于针对点云的空间信息来确定相同的评估次序,所以解码器可以基于在压缩属性信息文件中编码属性校正值的次序来确定哪个属性校正值对应于哪个点的哪个属性。另外,起始点和起始点的一个或多个属性值可以显式编码在压缩属性信息文件中,使得解码器可以确定从与在编码器处开始评估次序所用的相同点开始的评估次序。另外,起始点的所述一个或多个属性值可以提供相邻点的值,解码器使用该相邻点的值来确定针对正被评估的点的预测属性值,该正被评估的点是该起始点的相邻点。
在一些实施方案中,编码器可以基于时间考虑来确定针对点的属性的预测值。例如,除了或代替基于相同“帧”(例如,与正被评估的点相同的时间点)中的相邻点确定预测值之外,编码器可以考虑相邻和后续时间帧中的点的属性值。
图1A示出了根据一些实施方案的包括捕获针对点云的点的信息的传感器和压缩点云的属性信息的编码器的系统,其中该压缩属性信息被发送至解码器。
系统100包括传感器102和编码器104。传感器102捕获点云110,该点云包括表示传感器102的视图108中的结构106的点。例如,在一些实施方案中,结构106可以是山脉、建筑、标牌、街道周围的环境或任何其他类型的结构。在一些实施方案中,捕获点云(诸如捕获点云110)可包括针对包括在该点云中的点的空间和属性信息。例如,捕获点云110的点A包括X、Y、Z坐标以及属性1、2和3。在一些实施方案中,点的属性可包括属性诸如R,G,B颜色值、该点处的速度、该点处的加速度、结构在该点处的反射率、指示何时捕获该点的时间戳、指示捕获该点时的模态的字符串值例如“步行”或其他属性。捕获点云110可提供给编码器104,其中编码器104生成该点云的压缩版本(压缩属性信息112),该压缩版本经由网络114传输到解码器116。在一些实施方案中,点云的压缩版本(诸如压缩属性信息112)可以包括在公共压缩点云中,该公共压缩点云还包括针对该点云的点的压缩空间信息,或者在一些实施方案中,压缩空间信息和压缩属性信息可以作为单独的文件进行传送。
在一些实施方案中,编码器104可与传感器102成一体。例如,编码器104可在包括在传感器设备(诸如传感器102)中的硬件或软件中实现。在其他实施方案中,编码器104可在邻近传感器102的独立计算设备上实现。
图1B示出了根据一些实施方案的用于对点云的压缩属性信息进行编码的过程。另外,图1C示出了根据一些实施方案的点云信息在编码过程的不同阶段处的代表性视图。
在152处,编码器诸如编码器104接收捕获的点云或生成的点云。例如,在一些实施方案中,可以经由一个或多个传感器(诸如传感器102)捕获点云,或者可以在软件中(诸如在虚拟现实或增强现实系统中)生成点云。例如,164示出了示例捕获或生成的点云。164中所示的点云中的每个点可以具有与该点相关联的一个或多个属性。需注意,为了便于说明,以2D示出了点云164,但是该点云可包括3D空间中的点。
在154处,基于由编码器在152处接收到的点云的空间信息来确定最小生成树。为了确定最小生成树,编码器的最小生成树生成器可以选择用于最小生成树的起始点。然后最小生成树生成器可以识别与该起始点相邻的点。然后可以基于相应所识别的相邻点与起始点之间的相应距离来对相邻点进行排序。距起始点距离最短的相邻点可被选择为待访问的下一个点。可以为起始点与被选择为下一个待访问的相邻点之间的边缘确定“边缘”的“权重”,例如,点云中点之间的距离,其中与较短的距离相比,给较长的距离更大的权重。在最接近起始点的相邻点被添加到最小生成树之后,然后可以评估该相邻点,并且可以识别与当前正被评估的点(例如,先前被选择为下一个待访问的点)相邻的点。可以基于当前正被评估的点与所识别的相邻点之间的相应距离来对所识别的相邻点进行排序。距当前正被评估的点最短距离的相邻点(例如“边缘”)可以被选择为待包括在最小生成树中的下一个点。可以确定当前正被评估的点与下一个选择的相邻点之间的边缘的权重,并且将其添加到最小生成树中。可以针对点云的其他点中的每个点重复类似的过程,以生成该点云的最小生成树。
例如,166示出了最小生成树的图示。在166所示的最小生成树中,每个顶点都可以表示点云中的点,并且顶点之间的边缘权重(例如,1、2、3、4、7、8等)可以表示点云中点之间的距离。例如,顶点172与顶点174之间的距离可以具有7的权重,而顶点172与176之间的距离可以具有8的权重。这可以指示在对应于顶点172的点与对应于顶点176的点之间在点云中的距离大于对应于顶点172的点与对应于顶点174的点之间在点云中的距离。在一些实施方案中,最小生成树中所示的权重可以基于3D空间中的矢量距离,诸如欧几里得距离。
在156处,可以将针对起始点(诸如用于生成最小生成树的起始点)的一个或多个属性的属性值分配为待编码并且包括在针对该点云的压缩属性信息中。如上所讨论的,可以基于相邻点的属性值来确定针对点云的点的预测属性值。然而,将针对至少一个点的初始属性值提供给解码器,使得解码器可以使用至少该初始属性值和用于校正基于初始属性值预测的预测属性值的属性校正值来确定其他点的属性值。因此,针对至少一个起始点的一个或多个属性值被显式编码在压缩属性信息文件中。另外,可以显式编码针对起始点的空间信息,使得解码器的最小生成树生成器可以确定将点云的点中的哪个点用作生成最小生成树的起始点。在一些实施方案中,可以用除了显式编码针对起始点的空间信息之外的其他方式来指示起始点,诸如标记起始点或其他点识别方法。
因为解码器将接收到起始点的指示,并且会遇到与编码器相同或类似的针对点云空间的点的空间信息,所以解码器可以从与编码器确定的相同的起始点确定相同的最小生成树。另外,解码器可以基于由解码器确定的相同最小生成树来确定与编码器相同的处理次序。
在158处,对于正被评估的当前点,编码器的预测/校正评估器确定针对当前正被评估的点的属性的预测属性值。在一些实施方案中,当前正被评估的点可以具有多于一个的属性。因此,编码器的预测/校正评估器可以预测针对该点的多于一个的属性值。对于正被评估的每个点,预测/校正评估器可以识别已分配或预测属性值的一组最近相邻点。在一些实施方案中,所识别的相邻点的数量“K”可以是编码器的可配置参数,并且编码器可以在压缩的属性信息文件中包括指示参数“K”的配置信息,使得在执行属性预测时,解码器可以识别相同数量的相邻点。然后预测/校正评估器可以使用来自最小生成树的权重,或者可以其他方式确定正被评估的点与所识别的相邻点中的相应一些之间的距离。预测/校正评估器可以使用逆距离插值方法来预测针对正被评估的点的每个属性的属性值。然后预测/校正评估器可以基于所识别的相邻点的逆距离加权属性值的平均值来预测正被评估的点的属性值。
例如,168示出了正被评估的点(X,Y,Z),其中基于八个所识别的相邻点的逆距离加权属性值来确定属性A1。
在160处,确定针对每个点的属性校正值。基于将针对点的每个属性的预测属性值与原始非压缩点云(诸如捕获点云)中的点的对应属性值进行比较来确定属性校正值。例如,170示出了用于确定属性校正值的公式,其中从预测值减去捕获值以确定属性校正值。需注意,尽管图1B示出了在158处预测的属性值和在160处确定的属性校正值,但是在一些实施方案中,可以在预测针对该点的属性值之后确定针对该点的属性校正值。然后可以评估下一个点,其中确定针对该点的预测属性值,并且确定针对该点的属性校正值。因此,可以针对每个正被评估的点重复158和160。在其他实施方案中,可以确定针对多个点的预测值,并且然后可以确定属性校正值。在一些实施方案中,针对正被评估的后续点的预测可以基于预测属性值或者可以基于校正属性值或基于这两者。在一些实施方案中,编码器和解码器两者都可以遵循关于是否基于预测或校正属性值来确定后续点的预测值的相同规则。
在162处,对针对点云的点的确定属性校正值、针对起始点的一个或多个分配属性值、起始点的空间信息或其他标记以及待包括在压缩属性信息文件中的任何配置信息进行编码。如在图5中更详细地讨论的,各种编码方法诸如算术编码和/或Golomb编码可以用于对属性校正值、分配属性值和配置信息进行编码。
图2A示出了根据一些实施方案的编码器的部件。
编码器202可以是与图1A中示出的编码器104类似的编码器。编码器202包括空间编码器204、最小生成树生成器210、预测/校正评估器206、输入数据接口214和输出数据接口208。编码器202还包括上下文存储器216和配置存储器218。
在一些实施方案中,空间编码器(诸如空间编码器204)可以压缩与点云的点相关联的空间信息,使得可以压缩格式来存储或传输空间信息。在一些实施方案中,如关于图7更详细讨论的,空间编码器可以利用K-D树来压缩针对点云的点的空间信息。另外,在一些实施方案中,空间编码器(诸如空间编码器204)可以利用如关于图6A-图6B更详细讨论的子采样和预测技术。在一些实施方案中,如关于图11D更详细讨论的,空间编码器(诸如空间编码器204)可以利用八叉树来压缩针对点云的点的空间信息。
在一些实施方案中,压缩空间信息可以与压缩属性信息一起存储或传输,或者可以分开存储或传输。在任一种情况下,接收针对点云的点的压缩属性信息的解码器也可以接收针对该点云的这些点的压缩空间信息,或者可以获得针对该点云的这些点的空间信息。
最小生成树生成器(诸如最小生成树生成器210)可以利用针对点云的点的空间信息来生成表示该点云的点之间的最小距离的最小生成树。因为提供了解码器或者以其他方式获得了与编码器处可用的针对点云的点相同的空间信息,因此由编码器的最小生成树生成器(诸如,编码器202的最小生成树生成器210)确定的最小生成树可以与由解码器的最小生成树生成器(诸如解码器220的最小生成树生成器228)生成的最小生成树相同或类似。
预测/校正评估器(诸如编码器202的预测/校正评估器206)可以基于逆距离插值方法使用正在预测属性值所针对的点的K个最近相邻点的属性值来确定针对点云的点的预测属性值。预测/校正评估器还可将正被评估的点的预测属性值与非压缩点云中的该点的原始属性值进行比较以确定属性校正值。
传出数据编码器(诸如编码器202的传出数据编码器208)可以对包括在针对点云的压缩属性信息文件中的属性校正值和分配属性值进行编码。在一些实施方案中,传出数据编码器(诸如传出数据编码器208)可以基于包括在值中的符号的数量来选择用于对值进行编码的编码上下文,诸如分配属性值或属性校正值。在一些实施方案中,可以使用包括Golomb指数编码的编码上下文来编码具有更多符号的值,而可以使用算术编码来编码具有更少符号的值。在一些实施方案中,编码上下文可包括多于一个的编码技术。例如,可以使用算术编码来编码值的一部分,而可以使用Golomb指数编码来编码值的另一部分。在一些实施方案中,编码器(诸如编码器202)可包括上下文存储器诸如上下文存储器216,该上下文存储器存储由传出数据编码器诸如传出数据编码器208所使用的编码上下文,以对属性校正值和分配属性值进行编码。
在一些实施方案中,编码器诸如编码器202还可包括传入数据接口诸如传入数据接口214。在一些实施方案中,编码器可以从一个或多个传感器处接收传入数据,所述一个或多个传感器捕获点云的点或捕获与点云的点相关联的属性信息。例如,在一些实施方案中,编码器可以从LIDAR系统、3D相机、3D扫描仪等处接收数据,并且还可以从其他传感器诸如陀螺仪、加速度计等处接收数据。另外,编码器可以从系统时钟等处接收其他数据,诸如当前时间。在一些实施方案中,此类不同类型的数据可以由编码器经由传入数据接口诸如编码器202的传入数据接口214接收。
在一些实施方案中,编码器(诸如编码器202)还可包括配置接口(诸如配置接口212),其中编码器用来压缩点云的一个或多个参数可经由配置接口进行调整。在一些实施方案中,配置接口(诸如配置接口212)可为程序化接口,诸如API。编码器(诸如编码器202)所使用的配置可存储在配置存储器(诸如配置存储器218)中。
在一些实施方案中,编码器(诸如编码器202)可包括比图2A所示更多或更少的部件。
图2B示出了根据一些实施方案的解码器的部件。
解码器220可以是与图1A中示出的解码器116类似的解码器。解码器220包括编码数据接口226、空间解码器222、最小生成树生成器228、预测评估器224、上下文存储器232、配置存储器234和解码数据接口220。
解码器(诸如解码器220)可以接收针对点云的点的编码压缩点云和/或编码压缩属性信息文件。例如,解码器(诸如解码器220)可以接收压缩属性信息文件,诸如图1A所示的压缩属性信息112或图3所示的压缩属性信息文件300。解码器可以经由编码数据接口(诸如编码数据接口226)来接收压缩属性信息文件。解码器可以使用编码压缩点云来确定针对该点云的点的空间信息。例如,包括在压缩点云中的点云的点的空间信息可以由空间信息生成器(诸如空间信息生成器222)生成。在一些实施方案中,可经由编码数据接口(诸如编码数据接口226)从存储设备或其他中间源接收压缩点云,其中该压缩点云先前由编码器(诸如编码器104)进行编码。在一些实施方案中,编码数据接口(诸如编码数据接口226)可以解码空间信息。例如,空间信息可能已使用各种编码技术(诸如算术编码、Golomb编码等)进行编码。空间信息生成器(诸如空间信息生成器222)可以从编码数据接口(诸如编码数据接口226)处接收解码空间信息,并且可以使用解码空间信息来生成正被解压缩的点云的几何结构的表示。例如,可以将解码空间信息格式化为残差值,以在子采样的预测方法中使用这些残差值以重建待解压缩的点云的几何结构。在此类情况下,空间信息生成器222可以使用来自编码数据接口226的解码空间信息来重建正被解压缩的点云的几何结构,并且最小生成树生成器228可以基于由空间信息生成器222生成的用于正被解压缩的点云的重建几何结构来确定针对正被解压缩的点云的最小生成树。
一旦确定了针对点云的空间信息,最小生成树生成器(诸如最小生成树生成器228)就可以基于针对该点云的空间信息生成最小生成树。最小生成树可以由解码器的预测评估器(诸如解码器220的预测评估器224)用来确定用于确定针对点云的点的属性值的评估次序。另外,最小生成树可以由预测评估器(诸如预测评估器224)用来识别距正被评估的点最近的相邻点。
解码器的预测评估器(诸如预测评估器224)可以基于包括在压缩属性信息文件中的分配起始点来选择最小生成树的起始点。在一些实施方案中,压缩属性信息文件可包括针对起始点的一个或多个对应属性的一个或多个分配值。在一些实施方案中,预测评估器(诸如预测评估器224)可以基于包括在压缩属性信息文件中的针对起始点的分配值将值分配给正被解压缩的点云的解压缩模型中的起始点的一个或多个属性。预测评估器(诸如预测评估器224)还可以利用起始点的属性的分配值来确定相邻点的属性值。例如,预测评估器可以选择距起始点最近的相邻点作为待评估的下一个点,其中基于在最小生成树中从起始点到相邻点的最短距离来选择下一个最近相邻点。需注意,因为最小生成树是基于与在编码器上生成最小生成树所使用的相同或类似的空间信息在解码器上生成的,所以解码器可以通过识别最小生成树中的下一个最近相邻点来确定与评估在编码器处确定的用于正被解压缩点云的点相同的评估次序。
一旦预测评估器已经识别出距正被评估的点的“K”个最近相邻点,预测评估器就可以基于这“K”个最近相邻点的对应属性的属性值来预测针对正被评估的点的一个或多个属性的一个或多个属性值。在一些实施方案中,逆距离插值技术可以用于基于相邻点的属性值来预测正被评估的点的属性值,其中距正被评估的点较近距离的相邻点的属性值比距正被评估的点较远距离的相邻点的属性值更大地加权。
预测评估器(诸如预测评估器224)可以将属性校正值应用于预测属性值,以确定针对解压缩点云中的点要包括的属性值。在一些实施方案中,针对点的属性的属性校正值可以包括在压缩属性信息文件中。在一些实施方案中,可以使用多个支持的编码上下文中的一个来编码属性校正值,其中基于包括在属性校正值中的符号的数量来选择不同的编码上下文以对不同的属性校正值进行编码。在一些实施方案中,解码器(诸如解码器220)可包括上下文存储器(诸如上下文存储器232),其中上下文存储器存储多个编码上下文,所述多个编码上下文可用于对分配属性值或属性校正值进行解码,这些属性值或属性校正值已经在编码器处使用对应的编码上下文进行了编码。
解码器(诸如解码器220)可以经由解码数据接口(诸如解码数据接口230)将基于接收到的压缩点云和/或接收到的压缩属性信息文件生成的解压缩点云提供给接收设备或应用程序。解压缩点云可包括点云的点和针对该点云的点的属性的属性值。在一些实施方案中,解码器可以解码针对点云的属性的一些属性值,而无需解码针对点云的其他属性的其他属性值。例如,点云可包括针对点云的点的颜色属性,并且还可包括针对该点云的点的其他属性,诸如速度。在此类情况下,解码器可以对点云的点的一个或多个属性(诸如速度属性)进行解码,而无需对点云的点的其他属性(诸如颜色属性)进行解码。
在一些实施方案中,解压缩点云和/或解压缩属性信息文件可以用于生成视觉显示器,诸如用于头戴式显示器。另外,在一些实施方案中,可将解压缩点云和/或解压缩属性信息文件提供给决策引擎,该决策引擎使用解压缩点云和/或解压缩属性信息文件来做出一个或多个控制决策。在一些实施方案中,解压缩点云和/或解压缩属性信息文件可用于各种其他应用或用于各种其他目的。
图3示出了根据一些实施方案的示例压缩属性信息文件。属性信息文件300包括配置信息302、点云数据304和点属性校正值306。在一些实施方案中,点云文件300可经由多个数据包分批地传送。在一些实施方案中,并非属性信息文件300中所示的所有部分都可被包括在传输压缩属性信息的每个数据包中。在一些实施方案中,属性信息文件(诸如属性信息文件300)可以被存储在存储设备(诸如实现编码器或解码器的服务器)或其他计算设备中。
图4示出了根据一些实施方案的用于对点云的属性信息进行压缩的过程。
在402处,编码器接收点云,该点云包括针对点云的点中的至少一些的属性信息。可以从捕获点云的一个或多个传感器处接收点云,或者可以在软件中生成点云。例如,虚拟现实或增强现实系统可能已经生成了点云。
在404处,可以量化点云的空间信息,例如,点云的点的X、Y和Z坐标。在一些实施方案中,坐标可以四舍五入到最接近的测量单位,诸如米、厘米、毫米等。
在406处,压缩量化的空间信息。在一些实施方案中,可以使用关于图6A-图6B更详细讨论的子采样和细分预测技术来压缩空间信息。另外,在一些实施方案中,可以使用关于图7更详细讨论的K-D树压缩技术来压缩空间信息,或者可以使用关于图11C-图11D更详细讨论的八叉树压缩技术来压缩空间信息。在一些实施方案中,可以使用其他合适的压缩技术来压缩点云的空间信息。
在408处,将针对点云的压缩空间信息编码为压缩点云文件或压缩点云文件的一部分。在一些实施方案中,压缩空间信息和压缩属性信息可包括在公共压缩点云文件中,或者可以被传送或存储为单独文件。
在412处,所接收的点云的空间信息用于生成最小生成树。在一些实施方案中,可以在生成最小生成树之前量化点云的空间信息。另外,在其中使用有损压缩技术来压缩点云的空间信息的一些实施方案中,可以在生成最小生成树之前对空间信息进行有损编码和有损解码。在将有损压缩用于空间信息的实施方案中,在编码器处对空间信息进行编码和解码可确保在编码器处生成的最小生成树将与将使用先前有损编码的解码空间信息在解码器处生成的最小生成树匹配。
另外,在一些实施方案中,在410处,可量化针对点云的点的属性信息。例如,属性值可以四舍五入为整数或特定的测量增量。在其中属性值是整数的一些实施方案中,诸如当整数用于传送字符串值诸如“步行”、“跑步”,“驾驶”等时,可以省略在410处的量化。
在414处,分配针对起始点的属性值。针对起始点的分配属性值连同属性校正值一起编码在压缩属性信息文件中。因为解码器基于到相邻点的距离和相邻点的属性值来预测属性值,所以针对至少一个点的至少一个属性值被显式编码在压缩属性文件中。在一些实施方案中,点云的点可包括多个属性,并且在此类实施方案中,可以针对点云的至少一个点编码针对属性的每种类型的至少一个属性值。在一些实施方案中,起始点可以是在412处确定最小生成树时评估的第一点。在一些实施方案中,编码器可以编码指示针对起始点的空间信息和/或点云的哪个点是一个或多个起始点的其他标记的数据。另外,编码器可以对针对起始点的一个或多个属性的属性值进行编码。
在416处,编码器确定用于预测针对点云中除起始点之外的其他点的属性值的评估次序,所述预测和确定属性校正值在本文中可被称为“评估”点的属性。可以基于从起始点到邻近的相邻点的最短距离来确定评估次序,其中选择最近相邻点作为评估次序中的下一个点。在一些实施方案中,可确定仅针对下一个待评估的点的评估次序。在其他实施方案中,可以在416处确定针对点云的点中的所有点或多个点的评估次序。在一些实施方案中,可以动态地确定评估次序,例如,在评估点时一次确定一个点。
在418处,选择正被评估的起始点或后续点的相邻点。在一些实施方案中,与上次评估的点的其他相邻点相比,可以基于与最近评估的点距离最短的相邻点来选择下一个待评估的相邻点。在一些实施方案中,可以基于在416处确定的评估次序来选择在418处选择的点。在一些实施方案中,可以动态地确定评估次序,例如,在评估点时一次确定一个点。例如,每次在418处选择待评估的下一个点时,可以确定评估次序中的下一个点。在此类实施方案中,可省略416。因为按次序评估点,其中每个待评估的下一个点与上次评估的点之间的距离最短,所以可以使正被评估的点的属性值之间的熵最小化。这是因为彼此邻近的点最有可能具有类似的属性。尽管在一些情况下,邻近点的属性之间的相似度可能有所不同。
在420处,确定距当前正被评估的点的“K”个最近相邻点。参数“K”可以是由编码器选择的可配置参数,或者可以作为用户可配置参数提供给编码器。为了选择“K”个最近相邻点,编码器可以根据在412处确定的最小生成树来识别到正被评估的点的第一“K”个最接近点。在一些实施方案中,仅具有分配属性值的点或已经为其确定了预测属性值的点可以包括在这“K”个最近相邻点中。在一些实施方案中,可以识别各种数量的点。例如,在一些实施方案中,“K”可以是5个点、10个点、16个点等。因为点云包括3D空间中的点,所以特定点可能在多个平面中具有多个相邻点。在一些实施方案中,编码器和解码器可以被配置为将点识别为“K”个最近相邻点,而不管是否已经针对该点预测了值。另外,在一些实施方案中,在预测中使用的针对点的属性值可以是先前的预测属性值或基于应用属性校正值已经校正的校正预测属性值。在任一种情况下,编码器和解码器可以被配置为在识别“K”个最近相邻点时以及基于“K”个最近相邻点的属性值来预测点的属性值时应用相同的规则。
在422处,针对当前正被评估的点的每个属性确定一个或多个属性值。可以基于逆距离插值来确定属性值。逆距离插值可以基于“K”个最近相邻点的属性值来内插预测属性值。可以基于“K”个最近相邻点中的相应一些与正被评估的点之间的相应距离来加权“K”个最近相邻点的属性值。距当前正被评估的点较近距离的相邻点的属性值可以比距当前正被评估的点较远距离的相邻点的属性值更大地加权。
在424处,确定针对当前正被评估的点的一个或多个预测属性值的属性校正值。可以基于将预测属性值与在属性信息压缩之前针对点云中相同点(或类似点)的对应属性值进行比较来确定属性校正值。在一些实施方案中,量化的属性信息(诸如在410处生成的量化的属性信息)可以用于确定属性校正值。在一些实施方案中,属性校正值也可以被称为“残余误差”,其中残余误差指示预测属性值与实际属性值之间的差值。
在426处,确定在点云中是否存在待为其确定属性校正值的附加点。如果还存在待评估的附加点,则过程返回到418,并且选择评估次序中的下一个待评估的点。如上所讨论的,在一些实施方案中,可以动态地确定评估次序,例如,在评估点时一次确定一个点。因此,在此类实施方案中,可以咨询最小生成树以基于下一个点与上次评估的点之间的最短距离来选择下一个待评估的点。该过程可以重复步骤418至426,直到点云的所有点中的所有或一部分已经被评估以确定预测属性值和针对预测属性值的属性校正值为止。
在428处,对确定属性校正值、分配属性值以及用于对压缩属性信息文件进行解码的任何配置信息(诸如参数“K”)进行编码。
可以使用各种编码技术来对属性校正值、分配属性值和任何配置信息进行编码。
例如,图5示出了根据一些实施方案的用于对属性校正值进行编码的过程。在502处,将针对其值(例如,属性校正值)正被编码的点的属性校正值转换为无符号值。例如,在一些实施方案中,可以为负值的属性校正值分配奇数,并且可以为正值的属性校正值分配偶数。因此,可以基于属性校正值的值是偶数还是奇数来暗示属性校正值是正还是负。在一些实施方案中,分配属性值也可以被转换成无符号值。在一些实施方案中,属性值都可以是正值,例如在被分配为表示字符串值的整数的情况下,诸如“步行”、“跑步”、“驾驶”等。在此类情况下,可以省略502。
在504处,选择编码上下文以针对点的第一值进行编码。例如,该值可以是分配属性值,或者可以是属性校正值。可从多个支持的编码上下文中选择编码上下文。例如,如图2A所示的编码器(诸如编码器202)的上下文存储器(诸如上下文存储器216)可以存储用于编码针对点云的点的属性值或属性校正值的多个支持的编码上下文。在一些实施方案中,可以基于待编码的值的特征来选择编码上下文。例如,一些编码上下文可以被优化用于对具有某些特征的值进行编码,而其他编码上下文可以被优化用于对具有其他特征的值进行编码。
在一些实施方案中,可以基于包括在待编码的值中的符号的数量或种类来选择编码上下文。例如,可以使用算术编码技术来编码具有更少或更少分集符号的值,而可以使用指数Golomb编码技术来编码具有更多符号或更多分集符号的值。在一些实施方案中,编码上下文可使用多于一个的编码技术来编码值的一部分。例如,在一些实施方案中,编码上下文可以指示待使用算术编码技术来编码值的一部分,而待使用Golomb编码技术来编码值的另一部分。在一些实施方案中,编码上下文可以指示待使用第一编码技术(诸如算术编码)来编码低于阈值的值的一部分,而待使用另一种编码技术(诸如指数Golomb编码)来编码超过阈值的值的另一部分。在一些实施方案中,上下文存储器可以存储多个编码上下文,其中每个编码上下文适合于具有特定特征的值。
在506处,可以使用在504处选择的编码上下文来编码针对该点的第一值(或附加值)。在508处,确定是否存在待编码的针对该点的附加值。如果存在待编码的针对该点的附加值,则在506处,可以使用在504处选择的相同选择的编码技术对附加值进行编码。例如,点可能具有“红色”、“绿色”和“蓝色”颜色属性。因为R、G、B颜色空间中相邻点之间的差值可能类似,因此,针对红色属性、绿色属性和蓝色属性的属性校正值可能类似。因此,在一些实施方案中,编码器可以选择用于对针对颜色属性中的第一个(例如红色属性)的属性校正值进行编码的编码上下文,并且可以使用相同的编码上下文对针对其他颜色属性(诸如绿色属性和蓝色属性)的属性校正值进行编码。
在510处,编码值(诸如编码的分配属性值和编码的属性校正值)可以包括在压缩属性信息文件中。在一些实施方案中,可以根据基于最小生成树针对点云确定的评估次序,将编码值包括在压缩属性信息文件中。因此,解码器可能够基于在压缩属性信息文件中包括编码值的次序来确定哪个编码值与哪个点的哪个属性一起。另外,在一些实施方案中,数据可以包括在压缩属性信息文件中,该压缩属性信息文件指示选择来对针对点的值中的相应一些进行编码的编码上下文中的相应一些。
图6A-图6B示出了根据一些实施方案的用于对点云的空间信息进行压缩的示例过程。
在602处,编码器接收点云。该点云可以是来自一个或多个传感器的捕获点云,或者可以是生成的点云(诸如由图形应用程序生成的点云)。例如,604示出了未压缩点云的点。
在606处,编码器对接收到的点云进行子采样以生成子采样点云。该子采样点云可比该接收到的点云包括更少的点。例如,接收到的点云可包括数百个点、数千个点或数百万个点,并且子采样点云可包括数十个点、数百个点或数千个点。例如,608示出了在602处接收到的点云的子采样点,例如,对604中的点云的点进行子采样。
在一些实施方案中,编码器可对子采样点云进行编码和解码,以生成解码器在对压缩点云进行解码时将遇到的代表性子采样点云。在一些实施方案中,编码器和解码器可执行有损压缩/解压缩算法以生成代表性子采样点云。在一些实施方案中,可将针对子采样点云的点的空间信息量化,作为生成代表性子采样点云的一部分。在一些实施方案中,编码器可以利用无损压缩技术,并且可以省略对子采样点云的编码和解码。例如,当使用无损压缩技术时,原始子采样点云可代表解码器将遇到的子采样点云,因为在无损压缩中,数据可能不会在压缩和解压缩期间丢失。
在610处,编码器根据为压缩点云选择的配置参数或根据固定的配置参数来识别子采样点云的点之间的细分位置。由编码器使用的非固定的配置参数的配置参数通过在压缩点云中包括这些配置参数的值来传送至编码器。因此,解码器可基于包括在压缩点云中的细分配置参数来确定与编码器评估的相同的细分位置。例如,612示出了在子采样点云的相邻点之间的所识别的细分位置。
在614处,编码器针对细分位置中的相应一些确定是要在解压缩点云中的细分位置处包括点还是不包括点。指示此确定的数据编码在压缩点云中。在一些实施方案中,指示该确定的数据可以是单个位,如果“真”,则该单个位意味着将要包括点,如果“假”,则该单个位意味着将不包括点。另外,编码器可确定要包括在解压缩点云中的点将相对于解压缩点云中的细分位置重新定位。例如616示出了要相对于细分位置重新定位的一些点。针对此类点,编码器还可对指示如何相对于细分位置重新定位点的数据进行编码。在一些实施方案中,位置校正信息可以被量化并进行熵编码。在一些实施方案中,位置校正信息可包括ΔX、ΔY和/或ΔZ值,这些值指示如何相对于细分位置重新定位该点。在其他实施方案中,位置校正信息可包括单个标量值,该单个标量值对应于位置校正信息的法向分量,其计算如下:
ΔN=([XA,YA,ZA]-[X,Y,Z])■[法向量]
在以上公式中,ΔN是指示位置校正信息的标量值,该标量值是相对于细分位置重新定位或调整的点位置(例如[XA,YA,ZA])与原始细分位置(例如[X,Y,Z])之间的差值。该向量差与细分位置处的法向量的向量积产生标量值ΔN。因为解码器可确定细分位置处的法向量,并且可确定细分位置的坐标(例如[X,Y,Z]),通过针对经调整位置解出上述公式,该解码器还能确定经调整位置的坐标(例如[XA,YA,ZA]),该坐标表示点相对于细分位置的经重新定位位置。在一些实施方案中,位置校正信息可进一步分解为垂直分量和一个或多个附加切向分量。在此类实施方案中,可对垂直分量(例如,ΔN)和所述一个或多个切向分量进行量化和编码以包括在压缩点云中。
在一些实施方案中,编码器可确定是否要将一个或多个附加点(除了包括在细分位置处的点或在相对于细分位置重新定位的位置处包括的点之外)包括在解压缩点云中。例如,如果原始点云具有不规则的表面或形状,使得子采样点云中的点之间的细分位置未充分表示该不规则的表面或形状,则编码器可确定除了确定要包括在细分位置处的点或相对于解压缩点云中的细分位置重新定位的点之外还包括一个或多个附加点。另外,编码器可基于系统约束诸如目标比特率、目标压缩率、质量目标度量等来确定是否要将一个或多个附加点包括在解压缩点云中。在一些实施方案中,位预算可由于条件诸如网络条件、处理器负载等的变化而改变。在一些实施方案中,编码器可基于变化的位预算来调整要被编码以包括在解压缩点云中的一定量的附加点。在一些实施方案中,编码器可包括附加点,使得在不超出位预算的情况下消耗位预算。例如,当位预算较高时,编码器可包括更多的附加点以消耗位预算(并提高质量),并且当位预算较小时,编码器可包括更少的附加点,使得在不超出位预算的情况下消耗位预算。
在一些实施方案中,编码器还可确定是否要执行附加的细分迭代。如果要,则考虑到确定要包括、重新定位或附加地包括在解压缩点云中的点,并且该过程返回到610,以识别更新的子采样点云的新细分位置,该更新的子采样点云包括确定要包括、重新定位或附加地包括在解压缩点云中的点。在一些实施方案中,待执行的细分迭代次数(N)可以是编码器的固定或可配置参数。在一些实施方案中,可将不同的细分迭代值分配给点云的不同部分。例如,编码器可考虑正从其查看点云的点视图,并且可对该点云在从该点视图查看的该点云的前景中的点执行更多的细分迭代,并且可对在从该点视图查看的点云的后景中的点执行更少的细分迭代。
在618处,对针对点云的子采样点的空间信息进行编码。另外,对细分位置包括和重新定位数据进行编码。另外,对由编码器选择或从用户提供给编码器的任何可配置参数进行编码。然后,可将压缩点云作为一个压缩点云文件、多个压缩点云文件发送至接收实体,或者可将压缩点云打包并经由多个数据包传送至接收实体,诸如解码器或存储设备。在一些实施方案中,压缩点云可包括压缩空间信息和压缩属性信息两者。在其他实施方案中,压缩空间信息和压缩属性信息可包括在单独的压缩点云文件中。
图7示出了根据一些实施方案的用于对点云的空间信息进行压缩的另一个示例过程。
在一些实施方案中,可以使用除了图6A-图6B中所述的子采样和预测空间信息技术之外的其他空间信息压缩技术。例如,空间编码器(诸如空间编码器204)或空间解码器(诸如空间解码器222)可以利用其他空间信息压缩技术(诸如K-D树空间信息压缩技术)。例如,在图4的406处的压缩空间信息可以使用类似于在图6A-图6B中所述的子采样和预测技术来执行、可以使用类似于图7中所述的K-D树空间信息压缩技术来执行、或者可以使用另一种合适的空间信息压缩技术来执行。
在K-D树空间信息压缩技术中,可以在702处接收包括空间信息的点云。在一些实施方案中,空间信息可以已经被预先量化或者可在被接收之后被进一步量化。例如,718示出了可以在702处接收的捕获点云。为简单起见,718以二维方式示出了点云。然而,在一些实施方案中,接收到的点云可包括3D空间中的点。
在704处,使用接收到的点云的空间信息来构建K维树或K-D树。在一些实施方案中,可以通过以预先确定的次序将空间诸如点云的1D、2D或3D空间划分为两半来构建K-D树。例如,包括点云的点的3D空间可以最初经由与三个轴中的一个(诸如X轴)相交的平面划分为两半。然后,后续的划分可以沿三个轴中的另一个(诸如Y轴)划分所得到的空间。然后,另一个划分可以沿轴中的另一个(诸如Z轴)划分所得到的空间。每次执行划分时,可以记录包括在由划分创建的子小区中的点的数量。在一些实施方案中,可以记录由于划分而导致的两个子小区中的仅一个子小区中的点的数量。这是因为可以通过从划分之前的父小区中的点的总数量中减去所记录的子小区中的点的数量来确定包括在其他子小区中的点的数量。
K-D树可包括由包括点云的点的空间的顺序划分产生的、包括在小区中的点的数量的序列。在一些实施方案中,构建K-D树可包括继续细分空间,直到仅单个点包括在每个最低级别的子小区中。可以将K-D树作为由顺序划分产生的顺序小区中的点的数量的序列进行传送。解码器可以配置有指示由编码器遵循的细分序列的信息。例如,编码器可以遵循预定义的划分序列,直到在每个最低级别的子小区中仅剩下单个点为止。因为解码器可能知道构建K-D树所遵循的划分顺序以及每个细分所产生的点的数量(作为压缩空间信息传送给解码器),所以解码器可能够重构点云。
例如,720示出了二维空间中的K-D压缩的简化示例。初始空间包括七个点。这可以被认为是第一父小区,并且可以用点的数量“7”作为K-D树的第一数量来编码K-D树,这指示在K-D树中总共存在七个点。下一步可以是沿X轴划分空间,从而得到两个子小区,左子小区具有三个点,右子小区具有四个点。K-D树可包括左子小区中的点的数量,例如包括“3”作为K-D树的下一个数量。请记住,可以基于从父小区中的点的数量减去左子小区中的点的数量来确定右子小区中的点的数量。进一步可以是沿Y轴将空间划分附加的时间,使得左子小区和右子小区中的每一者被划分为两半,成为更低级别的子小区。同样,包括在左更低级别子小区中的点的数量可包括在K-D树中,例如“0”和“1”。然后,下一步可以是沿X轴划分非零的更低级别子小区,并且在K-D树中记录更低级别的左子小区中的每一者的点的数量。该过程可以继续直到最低级别的子小区中仅剩下单个点。解码器可以基于接收到K-D树的每个左子小区的点总数的序列来利用逆过程来重建点云。
在706处,选择用于对针对K-D树的第一小区(例如,包括七个点的父小区)的点的数量进行编码的编码上下文。在一些实施方案中,上下文存储器可以存储数百或数千个编码上下文。在一些实施方案中,可以使用最高数量点编码上下文来对包括比最高数量的点编码上下文更多的点的小区进行编码。在一些实施方案中,编码上下文可包括算术编码、Golomb指数编码或两者的组合。在一些实施方案中,可使用其他编码技术。在一些实施方案中,算术编码上下文可包括针对特定符号的概率,其中不同的算术编码上下文包括不同的符号概率。
在708处,根据所选择的编码上下文来编码针对第一小区的点的数量。
在710处,基于包括在父小区中的点的数量来选择用于对子小区进行编码的编码上下文。可以与在706处针对父小区类似的方式来选择针对子小区的编码上下文。
在712处,根据在710处选择的所选择的编码上下文,对包括在子小区中的点的数量进行编码。在714处,确定在K-D树中是否存在待编码的附加更低级别子小区。如果存在,则该过程返回到710。如果不存在,则在716处,将父小区和子小区中的编码点的数量包括在压缩空间信息文件(诸如压缩点云)中。在压缩空间信息文件中对编码的值进行排序,使得解码器可以基于每个父小区和子小区的点的数量以及包括在压缩空间信息文件中的相应小区的点的数量的次序来重构点云。
在一些实施方案中,可以确定每个小区中的点的数量,并且随后在716处将其编码为组。或者,在一些实施方案中,可以在确定之后对小区中的点的数量进行编码,而无需等待确定所有子小区的点总数。
图8示出了根据一些实施方案的用于对点云的压缩属性信息进行解压缩的示例过程。
在802处,解码器接收针对点云的压缩属性信息,并且在804处,解码器接收针对点云的压缩空间信息。在一些实施方案中,压缩属性信息和压缩空间信息可包括在一个或多个公共文件或单独文件中。
在806处,解码器对压缩空间信息进行解压缩。压缩空间信息可能已经根据子采样和预测技术进行压缩,并且解码器可以执行与在编码器处执行的类似的子采样、预测和预测校正动作并且将校正值进一步应用于预测点位置以根据压缩空间信息生成非压缩点云。在一些实施方案中,可以K-D树格式来压缩压缩空间信息,并且解码器可以基于包括在接收到的空间信息中的编码K-D树来生成解压缩点云。在一些实施方案中,压缩空间信息可能已经使用八叉树技术进行压缩,并且八叉树解码技术可以用于生成针对该点云的解压缩空间信息。在一些实施方案中,可能已经使用其他空间信息压缩技术,并且可以经由解码器对这些技术进行解压缩。
在808处,解码器可以基于解压缩空间信息来生成最小生成树。例如,可以经由解码器的编码数据接口(诸如图2B中所示的解码器220的编码数据接口226)来接收压缩空间信息和/或压缩属性信息。空间解码器(诸如空间解码器222)可以对压缩空间信息进行解压缩,并且最小生成树生成器(诸如最小生成树生成器228)可以基于解压缩空间信息生成最小生成树。
在810处,解码器的预测评估器(诸如解码器220的预测评估器224)可以基于包括在压缩属性信息中的分配属性值将属性值分配给起始点。在一些实施方案中,压缩属性信息可以根据基于最小生成树的评估次序将点识别为待用于生成最小生成树并且用于预测点的属性值的起始点。针对起始点的所述一个或多个分配属性值可包括在针对解压缩点云的解压缩属性信息中。
在812处,解码器的预测评估器或另一个解码器部件确定针对起始点之后待评估的至少下一个点的评估次序。在一些实施方案中,可以确定针对点中的所有点或多个点的评估次序,或者在其他实施方案中,可以在确定针对点的属性值时逐点地确认评估次序。可以基于正被评估的连续点之间的最小距离来按次序评估点。例如,与其他相邻点相比,距起始点距离最短的相邻点可以被选择为在起始点之后待评估的下一个点。以类似的方式,然后可以基于距最近已评估的点的最短距离来选择待评估的其他点。在814处,选择待评估的下一个点。在一些实施方案中,812和814可一起执行。
在816处,解码器的预测评估器确定距正被评估的点的“K”个最近相邻点。在一些实施方案中,只有当相邻点已分配或预测属性值时,它们才可包括在“K”个最近相邻点中。在其他实施方案中,相邻点可包括在“K”个最近相邻点中,而与它们是否已分配或已经预测属性值无关。在此类实施方案中,编码器可以遵循与解码器类似的规则,即在识别“K”个最近相邻点时是否包括没有预测值的点作为相邻点。
在818处,基于“K”个最近相邻点的属性值以及正被评估的点与“K”个最近相邻点中的相应一些之间的距离,为正被评估的点的一个或多个属性确定预测属性值。在一些实施方案中,逆距离插值技术可以用于预测属性值,其中更接近正被评估的点的点的属性值比更远离正被评估的点的点的属性值更大地加权。由解码器使用的属性预测技术可以与压缩属性信息的编码器使用的属性预测技术相同。
在820处,解码器的预测评估器可以将属性校正值应用于点的预测属性值以校正该属性值。属性校正值可以使属性值与压缩之前的原始点云的属性值匹配或几乎匹配。在点具有多于一个属性的一些实施方案中,可以针对该点的每个属性重复818和820。在一些实施方案中,可对一些属性信息进行解压缩而不对针对点云或点的所有属性信息进行解压缩。例如,点可包括速度属性信息和颜色属性信息。可以在不解码颜色属性信息的情况下解码速度属性信息,反之亦然。在一些实施方案中,利用压缩属性信息的应用可以指示针对点云待解压缩哪些属性。
在822处,确定是否存在待评估的附加点。如果存在,则该过程返回到814,并且选择待评估的下一个点。如果不存在待评估的附加点,则在824处,提供解压缩属性信息,例如作为解压缩点云,其中每个点包括空间信息和一个或多个属性。
细节级别属性压缩
在一些情况下,对针对点云的属性信息进行编码所需的位的数量可能构成针对该点云的位流的显著部分。例如,属性信息可以构成比用于传输针对点云的压缩空间信息所使用的位流更大的部分。
在一些实施方案中,空间信息可用于构建分级细节级别(LOD)结构。LOD结构可用于压缩与点云相关联的属性。LOD结构还可以启用高级功能,诸如与渐进式/视图相关的流和可伸缩渲染。例如,在一些实施方案中,可以仅针对点云的一部分(例如,细节级别)发送(或解码)压缩属性信息,而不针对整个点云发送(或解码)所有属性信息。
图9示出了根据一些实施方案的生成分级LOD结构的示例编码过程。例如,在一些实施方案中,编码器(诸如编码器202)可以使用如图9所示的类似过程以LOD结构来生成压缩属性信息。
在一些实施方案中,几何信息(在本文中也称为“空间信息”)可用于有效地预测属性信息。例如,在图9中示出了颜色信息的压缩。然而,LOD结构可以应用于与点云的点相关联的任何类型的属性(例如,反射率、纹理、模态等)的压缩。需注意,可以根据待压缩的属性来执行应用颜色空间转换或更新数据以使数据更适合于压缩的预编码步骤。
在一些实施方案中,如下所述进行根据LOD过程的属性信息压缩。
例如,假设几何(G)={点-P(0),P(1),…P(N-1)}为由包括在编码器中的空间解码器(几何解码器GD 902)在对由还包括在编码器(几何编码器GE914)(诸如空间编码器204)中的几何编码器产生的压缩几何位流进行解码之后生成的重构点云位置。例如,在一些实施方案中,编码器(诸如编码器202)可包括几何编码器(诸如几何编码器914)和几何解码器(诸如几何解码器914)两者。在一些实施方案中,几何编码器可以是空间编码器214的一部分,并且几何解码器可以是预测/校正评估器206的一部分。在一些实施方案中,可以省略最小生成树生成器,诸如最小生成树生成器210。
在一些实施方案中,解压缩空间信息可以描述3D空间中的点的位置,诸如组成马克杯900的点的X、Y和Z坐标。需注意,空间信息可能对编码器(诸如编码器202)和解码器(诸如解码器220)两者均可用。例如,各种技术(诸如K-D树压缩、八叉树压缩、最近相邻点预测等)可以用于压缩和/或编码针对马克杯900的空间信息,并且空间信息可以与针对构成马克杯900的点云的点的属性的压缩属性信息一起或另外地发送到解码器。
在一些实施方案中,确定性重新排序过程可以应用于编码器侧(诸如在编码器202处)和解码器侧(诸如在解码器220处)两者,以便在一组细节级别(LOD)中组织点云的点(诸如表示马克杯900的点)。例如,细节级别可以由细节级别生成器904生成,其可以包括在编码器的预测/校正评估器诸如编码器202的预测/校正评估器206中。在一些实施方案中,细节级别生成器904可以是编码器(诸如编码器202)的单独部件。例如,细节级别生成器904可以是编码器202的单独部件。需注意,除了LOD生成算法的参数之外,不需要在位流中包括附加信息来生成此类LOD结构,例如,可以包括在为流中作为LOD生成器算法的参数的参数可包括:
i.以“N”表示的待生成的最大LOD数量(例如,N=6),
ii.初始采样距离“D0”(例如,D0=64),以及
iii.采样距离更新因子“f”(例如,1/2)。
在一些实施方案中,参数N、D0和f可以由用户(诸如配置压缩过程的工程师)提供。在一些实施方案中,可使用例如优化程序由编码器和/或解码器自动确定参数N、D0和f。这些参数可以是固定的或自适应的。
在一些实施方案中,LOD生成可以如下进行:
a.几何G的点(例如,根据空间信息组织的点云的点)(诸如马克杯900的点)被标记为未访问,并且一组访问点V被设置为空。
b.然后,LOD生成过程可以迭代进行。在每次迭代j时,可以如下生成针对该细化级别的细节级别,例如LOD(j):
1.当前LOD的采样距离表示为D(j),可以设置如下:
a.如果j=0,则D(j)=D0。
b.如果j>0且j<N,则D(j)=D(j-1)*f。
c.如果j=N,则D(j)=0。
2.LOD生成过程迭代了G的所有点。
a.在点评估迭代i中,评估点P(i),
i.如果已经访问了点P(i),则将其忽略并且将算法跳转到下一个迭代(i+1),例如评估下一个点P(i+1)。
ii.否则,计算距离D(i,V),该距离定义为在V的所有点上距P(i)的最小距离。需注意,V是已访问的点的列表。如果V为空,则距离D(i,V)设置为0,这意味着从点P(i)到访问点的距离为零,因为集合V中不存在任何访问点。如果从点P(i)到任何已访问点的最短距离D(i,V)严格大于参数D0,则忽略该点,LoD生成跳转到迭代(i+1)并且评估下一个点P(i+1)。否则,将P(i)标记为访问点,并且将点P(i)添加到访问点集合V中。
b.可以重复该过程,直到遍历几何G的所有点。
3.在迭代j期间添加到V的点集描述了细化级别R(j)。
4.LOD(j)可以通过取所有细化级别R(0),R(1),…,R(j)的并集而获得。
在一些实施方案中,可以重复上述过程,直到生成所有LOD或访问了所有顶点为止。
在一些实施方案中,如上所述的编码器还可包括量化模块(未示出),该量化模块对包括在正被提供给几何编码器914的“位置(x,y,z)”中的几何信息进行量化。此外,在一些实施方案中,如上所述的编码器可以附加包括在量化之后并且在几何编码器914之前移除重复点的模块。
在一些实施方案中,量化还可应用于压缩属性信息,诸如属性校正值和/或一个或多个属性值起始点。例如,在910处执行量化到由基于插值的预测模块908确定的属性校正值。量化技术可包括均匀量化、具有死区的均匀量化、非均匀/非线性量化、栅格量化或其他合适的量化技术。
图10示出了根据一些实施方案的用于确定待包括在细节级别(LOD)结构的不同细化层处的点的示例过程。
在1002处,编码器(或解码器)接收或确定细节级别参数,以用于确定针对点云的细节级别分级。在接收细节级别参数的同时或之前或之后,在1004处,编码器(或解码器)可以接收针对点云的压缩空间信息,并且在1006处,编码器(或解码器)可以确定针对点云的点的解压缩空间信息。在利用有损压缩技术用于压缩空间信息的实施方案中,在1006处,压缩空间信息可以在编码器处被压缩,并且还可以在编码器处被解压缩,以生成将在解码器处遇到的几何信息的代表性样本。在利用空间信息的无损压缩的一些实施方案中,在编码器侧可以省略1004和1106。
在1008处,细节级别结构生成器(可以在编码器侧或解码器侧)将点云的所有点标记为“未访问的点”。
在1010处,细节级别结构生成器还将访问点“V”的目录设置为空。
在1012处,针对正被评估的当前细化级别R(j)确定采样距离D(j)。如果细化级别是最粗略的细化级别,其中j=0,则采样距离D(j)被设置为等于D0,例如初始采样距离,其在1002处被接收或确定。如果j大于0但小于N,则D(j)等于D(j-1)*f。需注意,“N”是待确定的细节级别的总数。还需注意,“f”是采样更新距离因子,其被设置为小于一(例如1/2)。另外,需注意,D(j-1)是在前面的细化级别中使用的采样距离。例如,当f为1/2时,采样距离D(j-1)被切成两半以用于随后的细化级别,使得D(j)是D(j-1)的长度的一半。另外,需注意,细节级别(LOD(j))是当前细化级别和所有较低细化级别的并集。因此,第一细节级别(LOD(0))可包括包括在细化级别R(0)中的所有点。后续细节级别(LOD(1))可包括包括在先前细节级别中的所有点,并且另外所有点包括在后续细化级别R(1)中。以这种方式,可以将点添加到每个后续细节级别的先前细节级别,直到达到包括点云的所有点的细节级别“N”。
为了确定待包括在当前正被确定的细节级别中的点云的点,在1014处选择待评估的点P(i),其中“i”是正被评估的点云的当前点之一。例如,如果点云包括一百万个点,则“i”的范围可以从0到1,000,000。
在1016处,确定当前正被评估的点P(i)是否已经被标记为访问点。如果将P(i)标记为已访问,则在1018处将忽略P(i),并且然后继续进行处理以评估下一个点P(i+1),然后该点成为当前正被评估的点P(i)。然后,该过程返回到1014。
如果在1016处确定尚未将点P(i)标记为访问点,则在1020处针对点P(i)计算距离D(i),其中D(i)是点P(i)与包括在目录V中的任何已访问点之间的最短距离。如果目录V中不存在任何点,例如目录V为空,则将D(i)设置为零。
在1022处,确定针对点P(i)的距离D(i)是否大于初始采样距离D0。如果是,则在1018处忽略点P(i),并且过程继续到下一个点P(i+1)并返回到1014。
如果尚未将点P(i)标记为已访问,并且距离D(i)(即点P(i)与包括在V中的一组点之间的最小距离)小于初始采样距离D0,则在1024点将P(i)标记为已访问,并且将其添加到当前细化级别R(j)的一组访问点V中。
在1026处,确定是否存在确定点云的附加细化级别。例如,如果j<N,则存在确定的附加细化级别,其中N是可以在编码器与解码器之间传送的LOD参数。如果不存在其他确定的细化级别,则该过程在1028处停止。如果存在确定的附加细化级别,则该过程在1030处继续进行到下一个细化级别,并且然后在1012处继续评估针对下一个细化级别的点云。
一旦确定了细化级别,就可以使用细化级别来生成LOD结构,其中每个后续的LOD级别包括先前LOD级别的所有点加上确定为包括在附加细化级别中的任何点。因为确定LOD结构的过程是编码器和解码器已知的,所以给定与在编码器处使用的LOD参数相同的解码器可以在解码器处重建与在编码器处生成的LOD结构相同的LOD结构。
示例细节级别分级
图11A示出了根据一些实施方案的示例LOD。需注意,LOD生成过程可能会生成原始点云的统一采样近似值(或细节级别),随着包括越来越多的点而变得越来越细化。此类特征使其特别适合于渐进式/视图相关的传输和可伸缩渲染。例如,1104可包括比1102更多的细节,而1106可包括比1104更多的细节。另外,1108可包括比1102、1104和1106更多的细节。
分级LOD结构可用于构建属性预测策略。例如,在一些实施方案中,可以按照与点在LOD生成阶段期间被访问的次序相同的次序来编码点。可以通过使用先前已经编码的K个最近相邻来预测每个点的属性。在一些实施方案中,“K”是可以由用户定义或者可以通过使用优化策略来确定的参数。“K”可以是静态的或自适应的。在“K”是自适应的后一种情况下,描述该参数的额外信息可包括在位流中。
在一些实施方案中,可以使用不同的预测策略。例如,可以使用以下插值策略中的一种,以及以下插值策略的组合,或者编码器/解码器可以自适应地在不同插值策略之间切换。不同的插值策略可包括插值策略,诸如:逆距离插值、重心插值、自然相邻插值、移动最小二乘插值或其他合适的插值技术。例如,可以在包括在编码器的预测/校正值评估器(诸如,编码器202的预测/校正值评估器206)中的基于插值的预测模块908处执行基于插值的预测。另外,可以在包括在解码器的预测评估器(诸如,解码器220的预测评估器224)中的基于插值的预测模块908处执行基于插值的预测。在一些实施方案中,在执行基于插值的预测之前,还可以在颜色空间转换模块906处转换颜色空间。在一些实施方案中,颜色空间转换模块906可包括在编码器(诸如编码器202)中。在一些实施方案中,解码器还可包括将转换后的颜色空间转换回原始颜色空间的模块。
在一些实施方案中,量化还可应用于属性信息。例如,量化可在量化模块910处执行。在一些实施方案中,编码器(诸如编码器202)还可包括量化模块910。由量化模块910采用的量化技术可包括均匀量化、具有死区的均匀量化、非均匀/非线性量化、栅格量化或其他合适的量化技术。
在一些实施方案中,LOD属性压缩可用于压缩动态点云,如下所示:
a.假设FC是当前点云帧,并且让RF成为参考点云。
b.假设M是使RF变形为FC形状的运动场。
i.M可以在解码器侧计算,并且在这种情况下,信息可以不被编码在位流中。
ii.M可由编码器计算并且在位流中显式编码。
1.可以通过将本文所述的分级压缩技术应用于与RF的每个点相关联的运动矢量来对M进行编码(例如,RF的运动可以被认为是额外的属性)。
2.M可以被编码为具有相关联的局部和全局转换的基于骨架/皮肤的模型。
3.M可以被编码为基于八叉树结构定义的运动场,其被自适应地改进以适应运动场的复杂性。
4.M可以通过使用任何合适的动画技术来描述,诸如基于关键帧的动画、变形技术、自由形式的变形、基于关键点的变形等。
iii.假设RF’是将运动场M应用于RF后获得的点云。然后,不仅考虑FC的“K”个最近相邻点,而且考虑RF’的“K”个最近相邻点,也可以将RF’的点用于属性预测策略。
此外,可以基于将在基于插值的预测模块908处确定的基于插值的预测值与原始未压缩属性值进行比较来确定属性校正值。可以在量化模块910处进一步量化属性校正值,并且可以在算术编码模块912处对量化的属性校正值、编码的空间信息(从几何编码器902输出)和在预测中使用的任何配置参数进行编码。在一些实施方案中,算术编码模块可以使用上下文自适应算术编码技术。然后可以将压缩点云提供给解码器(诸如解码器220),并且解码器可以确定类似的细节级别,并且基于量化的属性校正值、编码的空间信息(从几何编码器902输出)和在编码器预测中使用的配置参数来执行基于插值的预测以重建原始点云。
图11B示出了根据一些实施方案的包括LOD的示例压缩点云文件。细节级别属性信息文件1150包括配置信息1152、点云数据1154和细节级别点属性校正值1156。在一些实施方案中,细节级别属性信息文件1150可经由多个数据包分批地传送。在一些实施方案中,并非细节级别属性信息文件1150中所示的部分都可包括在传输压缩属性信息的每个数据包中。在一些实施方案中,属性信息文件(诸如属性信息文件1150的细节级别)的细节级别可以被存储在存储设备(诸如实现编码器或解码器的服务器)或其他计算设备中。
图12A示出了根据一些实施方案的用于对点云的属性信息进行编码的方法。
在1202处,点云由编码器接收。点云可以例如由一个或多个传感器捕获,或者可以例如在软件中生成。
在1204处,点云的空间或几何信息如本文所述进行编码。例如,空间信息可使用K-D树、八叉树、相邻预测策略或用于对空间信息进行编码的其他合适技术进行编码。
在1206处,生成一个或多个细节级别,如本文所述。例如,可以使用如图10所示的类似过程来生成细节级别。需注意,在一些实施方案中,在1204处编码或压缩的空间信息可以被解码或解压缩以生成解码器将遇到的代表性解压缩的点云几何结构。然后,可以将这种代表性的解压缩点云几何结构用于生成LOD结构,如图10进一步描述的。
在1208处,执行基于插值的预测以预测针对点云的点的属性的属性值。在1210处,基于将预测属性值与原始属性值进行比较来确定属性校正值。例如,在一些实施方案中,可以针对每个细节级别执行基于插值的预测,以确定包括在相应细节级别中的点的预测属性值。然后可以在压缩之前将这些预测属性值与原始点云的属性值进行比较,以确定针对相应细节级别的点的属性校正值。例如,如图1B、图4至图5和图8中所述的基于插值的预测过程可以用于确定针对相应细节级别的预测属性值。在一些实施方案中,可以针对LOD结构的多个细节级别确定属性校正值。例如,可以为包括在第一细节级别中的点确定第一组属性校正值,并且可以为包括在其他细节级别中的点确定其他组的属性校正值。
在1212处,可以任选地应用影响在1210处确定的属性校正值的更新操作。下面在图12C中更详细讨论了更新操作的性能。
在1214处,如本文所述,对属性校正值、LOD参数、编码的空间信息(从几何编码器输出)以及在预测中使用的任何配置参数进行编码。
在一些实施方案中,在1214处编码的属性信息可包括针对点云的多个或所有细节级别的属性信息,或者可包括针对点云的单个细节级别或少于所有细节级别的属性信息。在一些实施方案中,细节级别属性信息可以由编码器顺序地编码。例如,编码器可以在对一个或多个附加细节级别的属性信息进行编码之前使第一细节级别可用。
在一些实施方案中,编码器还可对待发送到解码器的一个或多个配置参数进行编码,诸如压缩属性信息文件1150的配置信息1152中所示的任何配置参数。例如,在一些实施方案中,编码器可以编码针对点云待编码的细节级别的数量。编码器还可以对采样距离更新因子进行编码,其中采样距离用于确定哪些点将被包括在给定的细节级别中。
图12B示出了根据一些实施方案的用于对点云的属性信息进行解码的方法。
在1252处,在解码器处接收针对点云的压缩属性信息。另外,在1254处,在解码器处接收针对点云的空间信息。在一些实施方案中,可以使用各种技术诸如K-D树、八叉树、相邻预测等来压缩或编码空间信息,并且在1254处,解码器可以对接收到的空间信息进行解压缩和/或解码。
在1256处,解码器确定待解压缩/解码的细节级别的数量中的哪个细节级别。可以基于点云的查看模式来确定待解压缩/解码的所选择的细节级别。例如,与在全视图模式下查看的点云相比,在预览模式下查看的点云可能需要确定较低的细节级别。另外,点云在正被渲染的视图中的位置可以用于确定待解压缩/解码的细节级别。例如,点云可以表示诸如图9A所示的咖啡杯的对象。如果咖啡杯处于正被渲染的视图的前景中,则可以为咖啡杯确定更高的细节级别。然而,如果咖啡杯处于正被渲染的视图的背景中,则可以为咖啡杯确定更低的细节级别。在一些实施方案中,可以基于针对点云分配的数据预算来确定针对点云的细节级别。
在1258处,可以如本文所述确定包括在正被确定的第一细节级别(或下一个细节级别)中的点。对于正被评估的细节级别的点,可以基于与正被评估的每个点的k个最近相邻基于逆距离加权插值来预测点的属性值,其中k可以是固定或可调参数。
在1260处,在一些实施方案中,如图12F中更详细描述的,可以对预测属性值执行更新操作。
在1262处,可以针对正被评估的当前细节级别来解码包括在针对点云的压缩属性信息中的属性校正值,并且可以在1258处将其应用于校正预测属性值或在1260处确定的更新预测属性值。
在1264处,可以将在1262处确定的校正属性值作为属性分配给第一细节级别(或当前正被评估的细节级别)的点。在一些实施方案中,为随后的细节级别确定的属性值可以被分配给包括在后续细节级别中的点,而已经为先前的细节级别确定的属性值被先前的一个或多个细节级别的相应点保留。在一些实施方案中,可以为顺序的细节级别确定新的属性值。
在一些实施方案中,在1254处接收的空间信息可包括针对点云的多个或所有细节级别的空间信息,或者可包括针对点云的单个细节级别或少于所有细节级别的空间信息。在一些实施方案中,细节级别属性信息可以由解码器顺序地接收。例如,解码器可以接收第一细节级别,并且在接收针对一个或多个附加细节级别的属性信息之前,生成第一细节级别的点的属性值。
在1266处,确定是否存在待解码的附加细节级别。如果存在,则该过程返回到1258,并且重复进行下一个细节级别的解码。如果不存在,则在1267处停止该过程,但是可以响应于影响待确定的细节级别的数量的输入在1256处恢复(诸如更改点云的视图或将缩放操作应用于正被查看的点云),作为影响待确定的细节级别的输入的一些示例。
在一些实施方案中,可以经由几何编码器和算术编码器(诸如以上关于图2描述的几何编码器202和算术编码器212)来对上述空间信息进行编码和解码。在一些实施方案中,几何编码器(诸如几何编码器202)可以利用八叉树压缩技术,并且算术编码器212可以是二进制算术编码器,如下面更详细描述的。
与具有256个符号的字母的多符号编解码器相比(例如,每个多维数据集8个子多维数据集,并且每个子多维数据集已占用或未占用2^8=256),如下所述的二进制算术编码器的使用降低了编码八叉树占用符号的计算复杂性。另外,与搜索所有可能的相邻配置相比,基于最可能的相邻配置的上下文选择的使用可以减少对相邻配置的搜索。例如,与所有可能的邻域配置相反,编码器可以跟踪对应于图12C中所示的10个邻域配置1268、1270、1272、12712、1276、1278、1280、1282、1284和1286的10个编码上下文。
在一些实施方案中,算术编码器(诸如算术编码器212)可以使用二进制算术编解码器来对256个值的占用符号进行编码。与多符号算术编解码器相比,就实施方式而言,这可能不太复杂并且对硬件更友好。另外,算术编码器212和/或几何编码器202可以利用前瞻程序来计算用于算术上下文选择的6个相邻,这可能不如线性搜索复杂并且可能涉及恒定数量的操作(与可能涉及不同数量操作的线性搜索相比)。另外,算术编码器212和/或几何编码器202可以利用上下文选择程序,这减少了编码上下文的数量。在一些实施方案中,可以一起或独立地实现二进制算术编解码器、前瞻程序和上下文选择程序。
二进制算术编码
在一些实施方案中,为了编码空间信息,每个多维数据集的占用信息被编码为可以具有0-255之间的值的8位值。为了对此类非二进制值执行有效的编码/解码,通常将使用多符号算术编码器/解码器,当与二进制算术编码器/解码器相比时,其计算复杂并且实现起来对硬件的友好性较低。然而,另一方面,在此类值上直接使用常规二进制算术编码器/解码器(例如独立地编码每个位)可能没有那么有效。然而,为了用二进制算术编码器有效地编码非二进制占用值,自适应查找表(A-LUT)(跟踪N个(例如,32个)最频繁的占用符号)可以与高速缓存一起使用,该高速缓存跟踪最近观察到的M个(例如,16个)占用符号。
待跟踪的最后观察到的不同占用符号M的数量的值和待跟踪的最频繁占用符号N的数量可以由用户定义,诸如工程师为特定应用定制编码技术,或可以基于对编码会话进行的离线统计分析来选择。M和N值的选择可以基于以下两者之间的折衷:
●编码效率,
●计算复杂性,以及
●存储器需求。
在一些实施方案中,算法如下进行:
●自适应查找表(A-LUT)由用户(例如工程师)提供的N个符号初始化,或者基于类似类点云的统计信息离线计算。
●高速缓存由用户(例如工程师)提供的M个符号初始化,或者基于类似类点云的统计信息离线计算。
●每次对占用符号S进行编码时,将应用以下步骤
1.对指示S是否在A-LUT中的二进制信息进行编码。
2.如果S在A-LUT中,则使用二进制算术编码器对A-LUT中S的索引进行编码
●假设(b1,b2,b3,b4,b5)是A-LUT中S索引的二进制表示的五个位。假设b1是最低有效位,而b5是最高有效位。
●可以使用如下所述的三种方法来编码S的索引,例如通过使用31、9或5个自适应二进制算术上下文,如下所示
○31个上下文
首先用第一上下文(称为上下文0)对S的索引b5进行编码,在对最高有效位(待编码的第一位)进行编码时,不存在任何其他位的编码可使用的信息,这就是为什么将上下文称为上下文零。然后,在对b4(待编码的第二位)进行编码时,可以使用两个附加的上下文,将它们称为上下文1(如果b5=0)和上下文2(如果b5=1)。当将此方法一直应用到b1时,存在31个结果上下文,如下图所示,上下文0-30。该方法穷举地使用每个被编码的位来选择用于编码下一个位的自适应上下文。例如,参见图12E。
○9个上下文
请记住,基于符号S出现的频率来分配自适应查找表ALUT的索引值。因此,ALUT中最频繁使用的符号S的索引值将为0,这意味着最频繁使用的符号S的索引值的所有位均为零。例如,二进制值越小,符号出现的频率越高。要对九个上下文(最高位b4和b5)进行编码,如果它们为1s,则索引值必须相对较大。例如,如果b5=1,则索引值至少为16或更高;或者如果b4=1,则索引值至少为8或更高。因此,在对9个上下文进行编码时,重点放在前7个索引条目上,例如1至7。对于这7个索引条目,使用自适应编码上下文。然而,对于值大于7的索引条目,使用相同的上下文,例如静态二进制编码器。因此,如果b5=1或b4=1,则使用相同的上下文对索引值进行编码。如果不是,则使用自适应上下文1-7中的一个。因为b5存在一个上下文0,因此有7个自适应上下文,而一个严格大于8的条目具有一个公共上下文,因此共有九个上下文。与如上所述使用所有31个上下文相比,这简化了编码并且减少了待传送的上下文的数量。
○5个上下文
要使用5个上下文对索引值进行编码,请确定是否b5=1。如果b5=1,则使用静态二进制上下文对索引值从b4至b1的所有位进行编码。如果b5不等于1,则对索引值的b4进行编码,并且查看b4是否等于1或0。如果b4=1,这意味着索引值大于8,则再次使用静态二进制上下文对位b3至b1进行编码。然后重复该推理,以便如果b3=1,则将静态二进制上下文用于对位b2至b1进行编码,并且如果b2=1,则将静态二进制上下文用于对位1进行编码。然而,如果位b5、b4和b3等于零,则选择自适应二进制上下文以对索引值的位2和位1进行编码。
3.如果S不在A-LUT中,则
●对指示S是否在高速缓存中的二进制信息进行编码。
●如果S在高速缓存中,则使用二进制算术编码器对其索引的二进制表示进行编码
○在一些实施方案中,通过使用单个静态二进制上下文来逐位编码每个位以对索引的二进制表示进行编码。然后,将这些位的值上移一个,其中最低有效位变为下一个较高有效位。
●否则,如果S不在高速缓存中,则使用二进制算术编码器对S的二进制表示进行编码
○在一些实施方案中,通过使用单个自适应二进制上下文来编码S的二进制表示。已知索引的值在0至255之间,这意味着它以8位编码。移位这些位,以便最低有效位成为下一个较高有效位,并且使用相同的自适应上下文对所有剩余位进行编码。
●将符号S添加到高速缓存中,并且将高速缓存中最早的符号逐出。
4.A-LUT中符号S的出现次数递增一。
5.定期重新计算A-LUT中N个最频繁的符号的列表
●方法1:如果到目前为止已编码的符号数目达到用户定义的阈值(例如,64或128),则重新计算A-LUT中的N个最频繁的符号的列表。
●方法2:使更新周期适应已编码符号的数量。这个想法是在开始时快速更新概率,并且随着符号数量的增加以指数方式增加更新周期:
○更新周期_updateCycle被初始化为低数N0(例如16)。
○每次符号数量达到更新周期
■重新计算A-LUT中N个最频繁的符号的列表
■更新周期更新如下:
_updateCycle=最小值(_alpha*_updateCycle,_maxUpdateCycle)
■_alpha(例如,5/4)和maxUpdateCycle(例如,1024)是两个用户定义的参数,可以控制指数增长的速度和最大更新周期值。
6.在八叉树细分的每个级别的开始,所有符号的出现都重置为零。将N个最频繁的符号的出现次数设置为1。
7.当符号的出现次数达到用户定义的最大数量(例如,_maxOccurence=1024)时,所有符号的出现次数都将除以2,以将出现的次数保持在用户定义的范围内。
在一些实施方案中,环形缓冲区用于跟踪高速缓存中的元素。待从高速缓存中逐出的元素对应于位置索引0=(_last++)%CacheSize,其中_last是初始化为0的计数器,并且每次将符号添加到高速缓存时都会递增。在一些实施方案中,高速缓存还可以用排序列表来实现,这将保证每次最早的符号被逐出。
2.前瞻以确定相邻
在一些实施方案中,在八叉树的每个细分级别处,对相同大小的多维数据集进行细分,并且对每个的占用代码进行编码。
●对于细分级别0,可能仅存在单个多维数据集(2C,2C,2C),而不存在任何相邻。
●对于细分级别1,每个中最多可以存在8个每个维度的多维数据集(2C-1,2C-1,2C -1)。
●…
●对于细分级别L,每个中最多可以存在8L个每个维度的多维数据集(2C-L,2C-L,2C -L)。
在一些实施方案中,在每个级别L处,可以定义一组每个维度的非重叠前瞻多维数据集(2H-C+L,2H-C+L,2H-C+L),如图12D所示。需注意,前瞻多维数据集可以容纳大小是23xH的多维数据集(2C-L,2C-L,2C-L)。
●在每个级别L处,每个前瞻多维数据集中包含的多维数据集都进行了编码,而无需引用其他前瞻多维数据集中的多维数据集。
○在前瞻阶段中,从FIFO中提取当前前瞻多维数据集中的维度的多维数据集(2C -L,2C-L,2C-L),并且将填充描绘了当前前瞻多维数据集的每个(2C-L,2C-L,2C-L)区域是否已占用或为空的查找表。
○一旦填充了查找表,提取的多维数据集的编码阶段就会开始。此处,通过直接从查找表中获取信息来获得6个相邻的占用信息。
○对于前瞻多维数据集边界上的多维数据集,假定位于外部的相邻为空。
■另一种另选形式可以包括基于外推法填充外部相邻的值。
○有效的实施方式可以通过以下实现
■将每组8个相邻(2C-L,2C-L,2C-L)区域的占用信息存储在一个字节上
■以Z次序存储占用字节以最大化存储器高速缓存点击
3.上下文选择
在一些实施方案中,为了将编码上下文(NC)的数量减少至较少数量的上下文(例如,从10减少至6),将单独的上下文分配给(NC-1)最可能的邻域配置中的每个,并且使对应于最不可能的邻域配置的上下文共享相同的一个或多个上下文。这样做的方式如下所示:
○在开始编码过程之前,初始化10个邻域配置(例如,图12C中所示的10个配置)的出现次数:
●将所有10次出现次数设置为0
●基于离线/在线统计信息或基于用户提供的信息来设置发生次数。
○在八叉树的每个细分级别的开始:
●基于在先前细分级别的编码期间收集的统计信息来确定(NC-1)最可能的邻域配置。
●计算查找表NLUT,该表将(NC-1)最可能的邻域配置的索引映射到数字0、1、…、(NC-2),并且将剩余配置的索引映射到NC-1。
●将10个邻域配置的出现次数初始化为0。
○在编码期间:
●每次遇到邻域配置时,将此类配置递增一。
●使用查找表NLUT[]确定用于基于邻域配置索引对当前占用值进行编码的上下文。
图12F示出了根据一些实施方案的使用二进制算术编码器、高速缓存和前瞻表的示例八叉树压缩技术。例如,图12F示出了如上所述的过程的示例。在1288处,确定针对点云的八叉树的级别的占用符号。在1290处,初始化具有“N”个符号的自适应前瞻表。在1292处,初始化具有“M”个符号的高速缓存。在1294处,使用如上所述的技术对当前八叉树级别的符号进行编码。在1296处,确定是否对其他八叉树级别进行编码。如果是,则该过程在1288处继续进行下一个八叉树级别。如果不是,则该过程在1298处结束,并且使点云的编码空间信息可用,诸如正被发送给接收者或被存储。
用于细节级别压缩和解压缩的提升方案
在一些实施方案中,提升方案可以应用于点云。例如,如下所述,可以将提升方案应用于不规则点。这与可应用于平面中具有规则点的图像的其他类型的提升方案相反。在提升方案中,针对当前细节级别中的点,可以找到较低细节级别中的最近点。较低细节级别中的这些最近点用于预测较高细节级别中的点的属性值。从概念上讲,可以制作一张图表,显示较低细节级别的点如何用于确定较高细节级别的点的属性值。在此类概念视图中,可以在细节级别之间为图表分配边缘,其中在较高细节级别的点与较低细节级别的每个点之间存在边缘,该边缘为预测较高细节级别的点的属性奠定了基础。如下文更详细描述的,可以将权重分配给这些边缘中的每个,从而指示相对影响。权重可以表示较低细节级别中的点的属性值对较高细节级别中的点的属性值的影响。另外,多个边缘可以构成穿过细节级别的路径,并且可以将权重分配给这些路径。在一些实施方案中,路径的影响可以由路径的边缘的权重的总和来定义。例如,下文的公式1表示路径的此类加权。
在提升方案中,低影响点可以被高度量化,而高影响点可以被较少量化。在一些实施方案中,可以在重构点云的质量与效率之间达到平衡,其中更多的量化增加了压缩效率,而更少的量化增加了质量。在一些实施方案中,可不评估所有路径。例如,有些影响很小的路径可能无法评估。另外,更新运算符可以平滑残余差值,例如属性校正值,以便在平滑残余差值时考虑点的相对影响或重要性的同时提高压缩效率。
图13A示出了根据一些实施方案的可在编码器处应用以对点云的属性信息进行编码的直接转换。
在一些实施方案中,编码器可以利用如图13A所示的直接转换,以便确定被编码为压缩点云的一部分的属性校正值。例如,在一些实施方案中,可以利用直接转换来确定属性值,如在图12A中在1208处描述的,并且可以应用更新操作,如在图12A中在1212处描述的。
在一些实施方案中,直接转换可以接收用于与待压缩的点云的点相关联的属性的属性信号。例如,属性可包括颜色值(诸如RGB颜色)或点云中待压缩的点的其他属性值。还可以通过接收属性信号的直接转换来知道待压缩的点云的点的几何结构。在1302处,直接转换可包括将属性信号1310分割为第一(或下一个)细节级别的分割运算符。例如,对于包含X个点的数量的特定细节级别(诸如LOD(N)),点的属性的子样本例如,包含Y个点的样本)可包含比X少的点的数量的属性值。换句话说,分割运算符可以将与特定细节级别相关联的属性作为输入,并且生成低分辨率样本1304和高分辨率样本1306。应当指出的是,LOD结构可以被划分为细化级别,其中细化的后续级别包括比基础细化级别更多的点的属性。通过取所有较低细节级别的并集可以获得如下所述的特定细节级别。例如,细节等级j通过取所有细化级别R(0),R(1),…,R(j)的并集而获得。还应当指出的是,如上所述,压缩点云可以具有总数为N的细节级别,其中R(0)是最小细化细节级别,而R(N)是针对压缩点云的最高细化细节级别。
在1308处,基于包括在低分辨率样本中的点来预测不包括在低分辨率样本1304中的点的属性值的预测。例如,基于逆距离插值预测技术或上述任何其他预测技术。在1312处,将针对低分辨率样本1304所遗留的点的预测属性值之间的差值与低分辨率样本1304所遗留的点的实际属性值进行比较。该比较确定了针对相应点的预测属性值与实际属性值之间的差值。然后将这些差值(D(N))编码为针对包括在特定细节级别中的点的属性的属性校正值,这些细节级别未在低分辨率样本中进行编码。例如,针对最高细节级别N,可以对属性校正值D(N)进行编码,使得可以使用属性校正值D(N)预测和校正未包括在LOD(N)中的低分辨率样本的属性值。因为在最高的细节级别处,属性校正值不用于确定其他甚至更高的细节级别的属性值(因为针对最高的细节级别N,因此不存在任何更高的细节级别),因此可能不执行考虑这些属性校正值的相对重要性的更新操作。这样,差值D(N)可以用于编码针对LOD(N)的属性校正值。
另外,直接转换可以应用于后续的较低细节级别,诸如LOD(N-1)。然而,在将直接转换应用于后续的细节级别之前,可以执行更新操作以便确定针对较低细节级别的点的属性值对于一个或多个较高细节级别的属性值的相对重要性。例如,更新操作1314可以确定包括在较高细节级别上的较低细节级别中的点的属性的属性值的相对重要性,诸如针对包括在L(N)中的点属性。考虑到相应属性值的相对重要性,更新运算符还可平滑属性值,以改善属性校正值对后续细节级别的压缩效率,其中执行平滑操作,使得对后续细节级别影响较大的属性值的修改小于对后续细节级别影响较小的点的修改。下文更详细地描述用于执行更新操作的若干方法。然后将更新后的细节级别L’(N)的较低分辨率样本输入到另一个分割运算符,并且针对后续细节级别LOD(N-1)重复该过程。需注意,也可以在第二(或后续)分割运算符处接收较低细节级别LOD(N-1)的属性信号。
图13B示出了根据一些实施方案的可在解码器处应用以对点云的属性信息进行解码的逆转换。
在一些实施方案中,解码器可以利用如图13B所示的逆转换过程来从压缩点云重构点云。例如,在一些实施方案中,可以根据如图13B中所述的逆转换过程来执行:执行图12B中1258处所述的预测,应用如图12B中1260处所述的更新运算符,应用如图12B中1262处所述的属性校正值并且如图12B中1264处所述将属性分配给点的细节级别。
在一些实施方案中,逆转换过程可以接收针对LOD结构的最低细节级别的更新的低级别分辨率样本L’(0)。逆转换过程还可接收针对未包括在更新的低分辨率样本L’(0)中的点的属性校正值。例如,针对特定的LOD,L’(0)可包括包括在LOD中的点的子采样,并且可以使用预测技术来确定LOD的其他点,诸如将包括在LOD的高分辨率样本中。如在1306处所示,可以接收属性校正值,例如D(0)。在1318处,可执行更新操作以考虑在编码器处执行的属性校正值的平滑。例如,更新操作1318可以“撤消”在1314处执行的更新操作,其中在1314处执行的更新操作被执行以通过考虑属性值的相对重要性来平滑属性值来改善压缩效率。可以将更新操作应用于更新的低分辨率样本L’(0),以生成“未平滑的”或未更新的低分辨率样本L(0)。低分辨率样本L(0)可以在1320处被预测技术用来确定未包括在低分辨率样本中的点的属性值。可以使用属性校正值D(0)来校正预测属性值,以确定LOD(0)的高分辨率样本的点的属性值。可以在合并运算符1322处组合低分辨率样本和高分辨率样本,并且可以确定用于下一个细节级别L’(1)的新的更新的低分辨率样本。如针对LOD(0)所述的下一个细节级别LOD(1)可以重复类似的过程。在一些实施方案中,如图13A所示的编码器和如图13B所示的解码器可以针对点云的N个细节级别重复它们相应的过程。
下文描述了LOD的更详细的示例定义以及确定更新操作的方法。
在一些实施方案中,LOD的定义如下:
●LOD(0)=R(0)
●LOD(1)=LOD(0)U R(1)
●…
●LOD(j)=LOD(j-1)U R(j)
●…
●LOD(N+1)=LOD(N)U R(N)=整个点云
在一些实施方案中,假设A是与点云相关联的一组属性。更准确地,假设A(P)是与点云的点P相关联的标量/矢量属性。属性的示例是由RGB值描述的颜色。
假设L(j)是与LOD(j)相关联的属性集,并且H(j)是与R(j)相关联的属性集。基于细节级别的定义LOD(j)、L(j)和H(j)验证以下属性:
●L(N+1)=A且H(N+1)={}
●L(j)=L(j-1)U H(j)
●L(j)且H(j)是不相交的。
在一些实施方案中,分割运算符(诸如分割运算符1302)将L(j+1)作为输入并且生成两个输出:(1)低分辨率样本L(j)和(2)高分辨率样本H(j)。
在一些实施方案中,合并运算符(诸如合并运算符1322)将L(j)和H(j)作为输入并且产生L(j+1)。
如以上更详细描述的,可以在LOD结构的顶部上定义预测运算符。假设(P(i,j))_i是属于R(j)的LOD(j)和(Q(i,j))_i的设定点,并且假设(A(P(i,j)))_i和(A(Q(i,j)))_i分别是与LOD(j)和R(j)相关联的属性值。
在一些实施方案中,预测运算符通过使用属性值在LOD(j-1)中的k个最近相邻的表示为A(Q(i,j))的属性值来预测属性值/>
其中α(P,Q(i,j))是插值权重。例如,可以利用逆距离权重插值策略来计算插值权重。
预测残差,例如属性校正值D(Q(i,j))定义如下:
D(Q(i,j))=A(Q(i,j))-Pred(Q(i,j))
需注意,可以通过如下定义的取向图G描述预测分级:
●点云中的每个点Q对应于图G的顶点V(Q)。
●如果存在i和j,则图G的两个顶点V(P)和V(P)通过边缘E(P,Q)
连接,使得
○Q=Q(i,j)以及
●边缘E(Q,P)具有权重α(P,Q(i,j))。
在如上所述的此类预测策略中,细节级别较低的点更具影响力,因为它们更常用于预测。
假设w(P)是与点P相关联的影响权重。W(P)可以通过多种方式定义。
●方法1
○如果存在G的两个顶点V(P)和V(Q)连接它们的边缘的路径x=(E(1),E(2),…,E(s)),则称它们已连接。路径x的权重w(x)定义如下:
○假设X(P)是以P为目的地的路径集。W(P)的定义如下:
○先前的定义可以解释如下。假设将属性A(P)修改了∈的量,那么与连接到P的点相关联的所有属性都会受到扰动。与此类扰动相关联的平方误差总和表示为SSE(P,∈),由下式给出:
SSE(P,∈)=w(P)∈2
●方法2
○如前所述,计算影响权重可能在计算上很复杂,因为需要评估所有路径。然而,由于权重α(E(s))通常被归一化为0至1之间,因此路径x的权重w(x)随着其边缘的数量而迅速衰减。因此,在不显著影响待计算的最终影响权重的情况下,可以忽略长路径。
○基于先前的属性,可以将[公式1]中的定义修改为仅考虑长度受限的路径,或者丢弃已知权重低于用户定义的阈值的路径。该阈值可以是固定的并且在编码器和解码器两者处都是已知的,或者可以在编码过程的不同阶段明确发出信号或为此预先定义,例如,针对每个帧、LOD一次,或者甚至在一定数量的信号点之后。
●方法3
○w(P)可以通过以下递归程序来近似:
●为所有点设置w(P)=1
●根据LOD结构定义的次序的倒数遍历点
●对于每个点Q(i,j),如下更新其相邻的权重
w(P)←w(P)+w(Q(i,j),j){α(P,Q(i,j))}γ
其中γ是通常设置为1或2的参数。
●方法4
○w(P)可以通过以下递归程序来近似:
●为所有点设置w(P)=1
●根据LOD结构定义的次序的倒数遍历点
●对于每个点Q(i,j),如下更新其相邻的权重
w(P)←w(P)+w(Q(i,j),j)f{α(P,Q(i,j))}
其中f(x)是一些函数,结果值在[0,1]的范围内。
在一些实施方案中,更新运算符(诸如更新运算符1314或1318)使用预测残差D(Q(i,j))来更新LOD(j)的属性值。可以用不同的方式定义更新运算符,诸如:
●方法1
1.假设Δ(P)是点Q(i,j)的集合,使得
2.P的更新操作定义如下:
其中γ是通常设置为1或2的参数。
●方法2
1.假设Δ(P)是点Q(i,j)的集合,使得
2.P的更新操作定义如下:
其中g(x)是一些函数,结果值在[0,1]的范围内。
●方法3
○迭代地计算更新(P),如下所示:
1.初始化设置更新(P)=0
2.根据LOD结构定义的次序的倒数遍历点
3.针对每个点Q(i,j),计算与其相邻相关联的局部更新(u(1),u(2),…,u(k))作为以下最小化问题的解决方案:
(u(1),u(2),..,u(k))=argmin{h(u(1),..,u(k),D(Q(i,j)))}
4.更新更新(P(r)):
更新(P(r))←更新(P(r))+u(r)
●方法4
○迭代地计算更新(P),如下所示:
1.初始化设置更新(P)=0
2.根据LOD结构定义的次序的倒数遍历点
3.针对每个点Q(i,j),计算与其相邻相关联的局部更新(u(1),u(2),…,u(k))作为以下最小化问题的解决方案:
(u(1),u(2),..,u(k))=argmin{h(u(1),..,u(k),D(Q(i,j)))}
其中h可以是任何函数。
4.更新更新(P(r)):
更新(P(r))←更新(P(r))+u(r)
在一些实施方案中,当利用如上所述的提升方案时,可以将量化步骤应用于所计算的小波系数。此类过程可能会引入噪声,并且重构点云的质量可能取决于所选的量化步骤。此外,如上所述,与对较高LOD中的点的属性进行扰动相比,对较低LOD中的点的属性进行扰动可能对重构点云的质量具有更大的影响。
在一些实施方案中,可以在转换过程期间进一步利用如上所述计算的影响权重,以便指导量化过程。例如,与点P相关联的系数可以乘以{w(P)}β的因子,其中β是通常设置为β=0.5的参数。在解码器侧进行逆量化之后,应用相同因子的逆缩放处理。
在一些实施方案中,β参数的值可以针对整个点云是固定的并且在编码器和解码器两者处都是已知的,或者可以在编码过程的不同阶段明确发出信号或为此预先定义,例如,针对每个点云帧、LOD一次,或者甚至在一定数量的信号点之后。
在一些实施方案中,上述提升方案的硬件友好实施方式可以利用权重和查找表的定点表示来进行非线性操作。
在一些实施方案中,本文所述的提升方案除了压缩之外还可以用于其他应用,诸如去噪/滤波、加水印、分段/检测以及各种其他应用。
在一些实施方案中,解码器可以采用如上所述的互补过程来解码使用如上所述的八叉树压缩技术和二进制算术编码器压缩的压缩点云。
在一些实施方案中,如上所述的提升方案可以进一步实施自下而上的方法以建立细节级别(LOD)。例如,代替确定针对点的预测值并且然后将这些点分配给不同的细节级别,可以在确定哪些点待包括在哪个细节级别中的同时确定预测值。另外,在一些实施方案中,可以通过将预测值与原始点云的实际值进行比较来确定残差值。这也可以在确定哪些点待包括在哪些细节级别中时执行。另外,在一些实施方案中,可以使用近似最近相邻搜索来代替精确最近相邻搜索以加速细节级别创建和预测计算。在一些实施方案中,可以使用二进制/算术编码器/解码器来压缩/解压缩量化的计算小波系数。
如上所述,自下而上的方法可以构建细节级别(LOD)并同时计算预测的属性值。在一些实施方案中,此类方法可如下进行:
●假设(Pi)i=1…N是与点云点相关联的位置集合,并且假设(Mi)i=1…N是与(Pi)i=1…N相关联的莫顿码。假设D0和ρ是两个用户定义的参数,从而分别指定初始采样距离和LOD之间的距离比。莫顿码可用于表示一维的多维数据,其中将“Z阶函数”应用于多维数据以产生一维表示。需注意ρ>1
●首先,将点根据其相关联的莫顿码按升序排序。假设I是根据该过程排序的点索引阵列。
●该算法迭代地进行。在每次迭代k时,提取属于LOD k的点,并且从k=0开始构建其预测器,直到将所有点分配给LOD。
●采样距离D初始化为D=D0
●对于每个迭代k,其中k=0…LOD的数量
○假设L(k)是属于第k个LOD的点的索引集,而O(k)是属于高于k的LOD的点集。L(k)和O(k)如下计算。
○首先,初始化O(k)和L(k)
■如果k=0,L(k)←{}。则,L(k)←L(k-1)
■O(k)←{}
○存储在阵列I中的点索引按次序遍历。每次选择索引i并且计算其到最近添加到O(k)的SR1点的距离(例如,欧几里得距离或其他距离)。SR1是用户定义的参数,用于控制最近相邻搜索的准确性。例如,SR1可以选择为8或16或64等。SR1的值越小,计算复杂性和最近相邻搜索的准确性就越低。参数SR1包括在位流中。如果任何SR1距离小于D,则将i附加到阵列L(k)。否则,将i附加到阵列O(k)。
■可以基于LOD或/和遍历的点的数量自适应地更改参数SR1。
■在一些实施方案中,代替计算近似最近相邻,可以应用精确最近相邻搜索技术。
■在一些实施方案中,可以组合精确和近似相邻搜索方法。具体地,取决于LOD和/或I中的点的数量,该方法可以在精确与近似搜索方法之间切换。其他标准可包括点云密度、当前点与上一个点之间的距离或与点云分布有关的任何其他标准。
○迭代该过程,直到遍历I中的所有索引为止。
○在该阶段,将计算L(k)和O(k),并且将其用于下一步骤以构建与L(k)的点相关联的预测器。
○更准确地,假设R(k)=L(k)\L(k-1)(其中\是差分运算符)是需要添加到LOD(k-1)以获得LOD(k)的点集。针对R(k)中的每个点i,我们想在O(k)中找到i的h个最近相邻(h是用户定义的参数,用于控制用于预测的最大邻居数),并且计算与i相关联的预测权重(αj(i))j=1…h。算法如下进行。
○初始化计数器j=0
○针对R(k)中的每个点i
■假设M_i是与i相关联的莫顿码,并且假设Mj是与阵列O(k)的第j个元素相关联的莫顿码
■当(Mi≥Mj且j<SizeOf(O(k))),将计数器j递增一(j←j+1)
■计算Mi到与O(k)的索引相关联的点的距离,该索引在阵列的[j-SR2,j+SR2]范围内,并且跟踪h个最近相邻(n1,n2,…,nh)及其相关联的平方距离SR2是用户定义的参数,用于控制最近相邻搜索的准确性。SR2的可能值为8、16、32和64。SR2的值越小,计算复杂性和最近相邻搜索的准确性就越低。参数SR2包括在位流中。用于属性预测的预测权重的计算可以与上述相同。
○可以基于LOD或/和遍历的点的数量自适应地更改参数SR2。
○在一些实施方案中,代替计算近似最近相邻,可以使用精确最近相邻搜索技术。
○在一些实施方案中,可以组合精确和近似相邻搜索方法。具体地,取决于LOD和/或I中的点的数量,该方法可以在精确与近似搜索方法之间切换。其他标准可包括点云密度、当前点与上一个点之间的距离或与点云分布有关的任何其他标准。
○如果当前点与最后处理的点之间的距离小于阈值,则使用最后的点的相邻作为初始猜测并且在其附近进行搜索。可以基于与上述那些类似的标准来自适应地选择阈值。该阈值可以在位流中发信号通知,或者对于编码器和解码器两者都是已知的。
○先前的想法可以推广为n=1,2,3,4…最后的点
○排除距离大于用户定义的阈值的点。可以基于与上述那些类似的标准来自适应地选择阈值。该阈值可以在位流中发信号通知,或者对于编码器和解码器两者都是已知的。
○I←O(k)
○D←D×ρ
○上述方法可以与任何度量(例如,L2、L1、Lp)或这些度量的任何近似一起使用。例如,在一些实施方案中,距离比较可以使用欧几里得距离比较近似,诸如出租车/曼哈顿/L1近似或八边形近似。
在一些实施方案中,可以在不确定级别的分级的情况下应用提升方案。在此类实施方案中,该技术可以如下进行:
●根据与其坐标相关联的莫顿码对输入点进行排序
●根据莫顿次序对点属性进行编码/解码
●对于每个点i,寻找已经处理过的h个最近相邻(n1,n2,…,nh)(nj<i)
●如上所述计算预测权重。
●应用上述自适应方案以便调整预测策略。
●预测属性并且对其进行熵编码,如下所述。
量化提升系数的二进制算术编码
在一些实施方案中,提升方案系数可以是非二进制值。在一些实施方案中,上文已经描述为图2B所示的编码202的部件的算术编码器(诸如算术编码器212),并且使用二进制算术编解码器对256个值的占用符号进行编码也可以用于对提升方案系数进行编码。或者,在一些实施方案中,可以使用类似的算术编码器。例如,该技术可以如下进行:
●一维属性
○假设C是待编码的量化系数。首先使用将正数映射为偶数并且将负数映射为奇数的函数将C映射为正数。
○假设M(C)是映射值。
○然后对二进制值进行编码以指示C是否为0
○如果C不是零,则区分两种情况
■如果M(C)高于或等于alphabetSize(例如,以上关于图12C-12F描述的二进制算术编码技术所支持的符号的数量),则通过使用上述方法对值alphabetSize进行编码。M(C)与AlphabetSize之间的差值通过使用指数Golomb编码进行编码
■否则,使用以上针对N关于图12C-12F描述的方法对M(C)的值进行编码。
●三维信号
○假设C1、C2、C3是待编码的量化系数。假设K1和K2是用于编码量化系数C1、C2和C3的上下文的两个索引。
○首先如上文关于图12C-图12F描述,将C1、C2和C3映射为正数。假设M(C1)、M(C2)和M(C3)是C1、C2和C3的映射值。
○对M(C1)进行编码。
○基于C1是否为零的条件,在选择不同的上下文(即,以上关于图12C-图12F定义的二进制算术上下文和二进制化上下文)时对M(C2)进行编码。
○在基于条件C1为零和C2为零的情况下选择不同的上下文时,对M(C3)进行编码。如果C1为零,则知道该值至少为16。如果条件C1为零,则使用二进制上下文K1,如果该值不为零,则将该值递减1(已知该值至少为一个或多个),然后检查该值是否小于字母大小,如果是,则直接对该值进行编码。否则,对字母大小的最大可能值进行编码。字母大小的最
大可能值与M(C3)值之间的差值将使用指数Golomb编码进行编码。
●多维信号
○可以将上述相同的方法推广到d维信号。此处,对第k个系数进行编码的上下文取决于前一个系数的值(例如,最后0、1、2、3、…、k-1个系数)。
○可以取决于上一节中描述的用于选择SR1和SR2的任何标准来自适应地选择待考虑的先前系数的数量。
下文是有关如何利用点云传输算法来最小化原始点云与重构点云之间的失真的更详细讨论。
属性传输问题可以定义如下:
a.假设PC1=(P1(i))i∈{1,…,N1}是由其几何结构(即,3D位置)(X1(i))i∈{1,…,N1}和属性集(例如RGB颜色或反射率)(A(i))i∈{1,…,N1}定义的点云。
b.假设PC2(P2(j))j∈{1,…,N2}是PC1的重新采样版本,并且假设(X2(j))j∈{1,…,N2}是其几何结构。
c.然后计算与PC2的点相关联的(A2(j))j∈{1,…,N2}属性集,使得使纹理失真最小化。
为了使用属性传输算法解决纹理失真最小化问题:
●假设P2→1(j)∈PC1是PC1中P2(j)∈PC2的最近相邻,并且A2→1(j)是其属性值。
●假设P1→2(i)∈PC2是PC2中P1(i)∈PC1的最近相邻,并且A1→2(i)是其属性值。
●假设是PC2的点集,其共享点P1(i)∈PC1作为其最近相邻,并且(α(j,h))h∈{1,…,H(j)}是其属性值。
●假设E2→1是从PC2到PC1计算的非对称误差:
●假设E1→2是从PC1到PC2计算的非对称误差:
●假设E是对称误差,其测量PC2与PC1之间的属性失真:
■E=最大值(E2→1,E1→2)
然后确定属性集(A2(j))j∈{1,…,N2},如下所示:
a.初始化E1←0和E2←0
b.遍历PC2的所有点
1)针对每个点P2(j)计算P2→1(j)∈PC1和
2)如果(E1>E2或者
●A2(j)=A2→1(j)
3)否则
4)结束条件
5)E1←E1+‖A2(j)-A2→1(j)‖2
6)
自适应预测属性
在一些实施方案中,如上所述的编码器还可基于相邻点的属性值来自适应地改变预测策略和/或在给定预测策略中使用的点的数量。另外,解码器可基于相邻点的重构属性值来类似地自适应地改变预测策略和/或在给定预测策略中使用的点的数量。
例如,点云可包括代表道路的点,其中道路是黑色的,道路上有白色条纹。可以自适应地改变默认的最近相邻预测策略,以考虑到代表白线和黑道路的点的属性值的可变性。因为这些点的属性值差值很大,所以默认的最近相邻预测策略可能会导致白线模糊和/或导致压缩效率降低的高残差值。然而,更新的预测策略可以通过选择更适合的预测策略和/或通过在K最近相邻预测中使用较少的点来解决该可变性。例如,对于黑道路,在K最近相邻预测中不使用白线点。
在一些实施方案中,在预测点P的属性值之前,编码器或解码器可以计算点P的邻域中的点的属性值的可变性,例如,K个最近相邻点。在一些实施方案中,可以基于方差、与点P相邻的点的任意两个属性值(或重构的属性值)之间的最大差值来计算可变性。在一些实施方案中,可以基于相邻点的加权平均值来计算可变性,其中该加权平均值考虑了相邻点到点P的距离。在一些实施方案中,可以基于相邻点的属性的加权平均值并且考虑到相邻点的距离来计算一组相邻点的可变性。例如,
可变性=E[(X-加权平均值(X))2]
在上式中,E是距离X的平均值,加权平均值(X)是在P点的邻域中的点的属性的加权平均值,其中考虑了相邻点到点P的距离X。在一些实施方案中,与属性的平均值E(X)、属性的加权平均值、加权平均值(X)或属性的中位数(中位数(X))相比,变异性可以计算为最大差异。在一些实施方案中,可以使用与x百分比(例如x=10)对应的值的平均值来计算可变性,与属性的平均值E(X)、属性的加权平均值、加权平均值(X)或属性的中位数(中位数(X))相比,该平均值差值最大。
在一些实施方案中,如果计算出的点P的邻域中的点的属性的可变性大于阈值,则可以应用速率失真优化。例如,速率失真优化可以减少在预测中使用的相邻点的数量,或者切换到不同的预测技术。在一些实施方案中,阈值可以被显式地写入位流中。另外,在一些实施方案中,可以针对每个点云或点云的子块或针对待编码的点的数量来自适应地调整阈值。例如,阈值可包括在压缩属性信息文件1150中作为配置信息1152,如以下关于图11B所描述的。
在一些实施方案中,可以在速率失真优化程序中使用不同的失真度量,诸如平方误差和、加权平方误差和、绝对差之和或加权绝对差之和。
在一些实施方案中,可以针对每个属性或者对应于同一样本的多个属性独立地计算失真,并且可以考虑并且适当地加权。例如,可以计算针对R、G、B或Y、U、V的失真值,并且然后线性或非线性地组合在一起以生成总失真值。
在一些实施方案中,也可以考虑用于速率失真量化的高级技术,诸如基于网格的量化,其中代替孤立地考虑单个点,对多个点进行联合编码。例如,编码过程可以选择使用导致最小化形式J=D+λ*速率的成本函数的方法对所有这些多个点进行编码,其中D是所有这些点的总体失真,并且速率是编码这些点的总体速率成本。
在一些实施方案中,编码器(诸如编码器202)可以针对点云、点云的细节级别或针对点云的细节级别内的一组点显式编码所选预测策略的索引值,其中解码器可以访问索引的实例,并且可以基于接收到的索引值确定所选的预测策略。解码器可以将所选的预测策略应用于正在对其应用速率失真优化过程的点集。在一些实施方案中,如果在编码的位流中没有指定速率失真优化程序,则可以存在默认的预测策略,并且解码器可以应用默认的预测策略。
点云属性传输算法
在一些实施方案中,可以使用点云传输算法来最小化原始点云与原始点云的重构版本之间的失真。传输算法可用于评估由于原始点云和重构点云的点位置略有不同而导致的失真。例如,重构点云可以具有与原始点云类似的形状,但是可以具有a.)不同数量的总点和/或b.)与原始点云中的对应点相比略有偏移的点。在一些实施方案中,点云传输算法可以允许待选择用于重构点云的属性值,使得原始点云与原始点云的重构版本之间的失真最小化。例如,对于原始点云,点的位置和点的属性值两者都是已知的。然而,对于重构的点云,位置值可能是已知的(例如,基于如上所述的子采样过程、K-D树过程或补片图像过程)。然而,仍然可能需要待确定重构点云的属性值。因此,可以通过选择用于重构点云的使失真最小的属性值,来使用点云传输算法来最小化失真。
可以针对所选择的属性值确定从原始点云到重构点云的失真。同样,可以针对所选择的重构点云的属性值确定从重构点云到原始点云的失真。在许多情况下,这些失真是不对称的。点云传输算法使用两个误差(E21)和(E12)初始化,其中E21是从第二或重构点云到原始或第一点云的误差,并且E12是从第一或原始点云到第二或重构点云的误差。针对第二点云中的每个点,确定是应当为该点分配原始点云中对应点的属性值,还是原始点云中对应点的最近相邻的平均属性值。属性值是基于最小误差进行选择的。
用于点云压缩和解压缩的示例应用
图14示出了根据一些实施方案的在3D远程显示应用中正在使用的压缩点云。
在一些实施方案中,传感器(诸如传感器102)、编码器(诸如编码器104或编码器202)和解码器(诸如解码器116或解码器220)可用于在3D远程显示应用中传送点云。例如,在1402处,传感器(诸如传感器102)可捕获3D图像,并且在1404处,传感器或与传感器相关联的处理器可基于感测到的数据执行3D重建以生成点云。
在1406处,编码器(诸如编码器104或202)可对点云进行压缩,并且在1408处,编码器或后处理器可打包压缩点云并经由网络1410传输压缩点云。在1412处,可在包括解码器(诸如解码器116或解码器220)的目标位置处接收数据包。在1414处,解码器可对点云进行解压缩,并且在1416处,可渲染解压缩点云。在一些实施方案中,3D远程显示应用可实时地传输点云数据,使得1416处的显示可表示正在1402处观察到的图像。例如,在1416处,峡谷中的相机可允许远程用户体验穿行虚拟峡谷。
图15示出了根据一些实施方案的在虚拟现实(VR)或增强现实(AR)应用中正在使用的压缩点云。
在一些实施方案中,点云可在软件中生成(例如,与正由传感器捕获相反)。例如,在1502处,产生虚拟现实或增强现实内容。虚拟现实或增强现实内容可包括点云数据和非点云数据。例如,作为一个示例,非点云字符可横穿由点云表示的地形。在1504处,可以压缩点云数据,并且在1506处,可以打包压缩点云数据和非点云数据并经由网络1508传输这些数据。例如,在1502处产生的虚拟现实或增强现实内容可在远程服务器处产生并经由网络1508传送至VR或AR内容消费者。在1510处,数据包可在VR或AR消费者的设备处被接收并同步。在1512处,在VR或AR消费者的设备处运作的解码器可对压缩点云进行解压缩,并且点云和非点云数据可例如在VR或AR消费者的设备的头戴式显示器中被实时渲染。在一些实施方案中,可响应于VR或AR消费者操纵头戴式显示器以看向不同的方向来生成、压缩、解压缩和渲染点云数据。
在一些实施方案中,如本文所述的点云压缩可用于各种其他应用诸如地理信息系统、体育赛事直播、博物馆展示、自主导航等中。
示例性计算机系统
图16示出了根据一些实施方案的示例计算机系统1600,该示例计算机系统可实现编码器或解码器或本文所述的部件中的任何其他部件(例如,上文参考图1至图15描述的部件中的任何部件)。计算机系统1600可被配置为执行上文所述的任意或全部实施方案。在不同的实施方案中,计算机系统1600可为各种类型的设备中的任一者,包括但不限于:个人计算机系统、台式计算机、膝上型电脑、笔记本电脑、平板电脑、一体电脑、平板计算机或上网本计算机、大型计算机系统、手持式计算机、工作站、网络计算机、相机、机顶盒、移动设备、消费者设备、视频游戏控制器、手持式视频游戏设备、应用服务器、存储设备、电视、视频记录设备、外围设备(诸如交换机、调制解调器、路由器)、或一般性的任何类型的计算或电子设备。
本文所述的点云编码器或解码器的各种实施方案可在一个或多个计算机系统1600上执行,该计算机系统可与各种其他设备交互。需注意,根据各种实施方案,上文相对于图1至图15描述的任何部件、动作或功能性可以实现于被配置为图16的计算机系统1600的一个或多个计算机上。在例示的实施方案中,计算机系统1600包括经由输入/输出(I/O)接口1630耦接到系统存储器1620的一个或多个处理器1610。计算机系统1600还包括耦接到I/O接口1630的网络接口1640,以及一个或多个输入/输出设备1650,诸如光标控制设备1660、键盘1670和一个或多个显示器1680。在一些情况下,可以想到实施方案可以利用计算机系统1600的单个实例来实现,而在其他实施方案中,多个此类系统或者构成计算机系统1600的多个节点可被配置为托管实施方案的不同部分或实例。例如,在一个实施方案中,一些元素可以经由计算机系统1600的与实现其他元素的那些节点不同的一个或多个节点来实现。
在各种实施方案中,计算机系统1600可以是包括一个处理器1610的单处理器系统、或者包括若干个处理器1610(例如两个、四个、八个或另一合适数量)的多处理器系统。处理器1610可以是能够执行指令的任何合适的处理器。例如,在各种实施方案中,处理器1610可为实现多种指令集架构(ISA)(诸如x86、PowerPC、SPARC或MIPS ISA或任何其他合适的ISA)中的任一种的通用或嵌入式处理器。在多处理器系统中,处理器1610中的每一个处理器通常可以但并非必须实现相同的ISA。
系统存储器1620可被配置为存储点云压缩或点云解压缩程序指令1622和/或可由处理器1610访问的传感器数据。在各种实施方案中,系统存储器1620可使用任何合适的存储器技术来实现,诸如静态随机存取存储器(SRAM)、同步动态RAM(SDRAM)、非易失性/闪存型存储器或任何其他类型的存储器。在例示的实施方案中,程序指令1622可被配置为实现结合上述功能性中的任一种的图像传感器控制应用程序。在一些实施方案中,程序指令和/或数据可被接收、发送或存储在与系统存储器1620或计算机系统1600分开的不同类型的计算机可访问介质上或类似介质上。尽管将计算机系统1600描述为实施前面各图的功能框的功能性,但可以经由此类计算机系统实施本文描述的任何功能性。
在一个实施方案中,I/O接口1630可被配置为协调设备中的处理器1610、系统存储器1620和任何外围设备(包括网络接口1640或其他外围设备接口,诸如输入/输出设备1650)之间的I/O通信。在一些实施方案中,I/O接口1630可执行任何必要的协议、定时或其他数据转换以将来自一个部件(例如系统存储器1620)的数据信号转换为适于由另一部件(例如处理器1610)使用的格式。在一些实施方案中,I/O接口1630可包括对例如通过各种类型的外围设备总线(诸如,外围部件互连(PCI)总线标准或通用串行总线(USB)标准的变型)附接的设备的支持。在一些实施方案中,I/O接口1630的功能例如可被划分到两个或更多个单独部件中,诸如北桥接件和南桥接件。此外,在一些实施方案中,I/O接口1630(诸如到系统存储器1620的接口)的一些或所有功能可以被直接并入到处理器1610中。
网络接口1640可被配置为允许在计算机系统1600与附接到网络1685的其他设备(例如,承载器或代理设备)之间或者在计算机系统1600的节点之间交换数据。在各种实施方案中,网络1685可包括一种或多种网络,包括但不限于局域网(LAN)(例如,以太网或企业网)、广域网(WAN)(例如,互联网)、无线数据网、某种其他电子数据网络或它们的某种组合。在各种实施方案中,网络接口1640可支持经由有线或无线通用数据网络(诸如任何合适类型的以太网网络)的通信,例如;经由电信/电话网络(诸如模拟语音网络或数字光纤通信网络)的通信;经由存储区域网络(诸如光纤通道SANs)、或经由任何其他合适类型的网络和/或协议的通信。
在一些实施方案中,输入/输出设备1650可包括一个或多个显示终端、键盘、键区、触控板、扫描设备、语音或光学识别设备、或适于由一个或多个计算机系统1600输入或访问数据的任何其他设备。多个输入/输出设备1650可存在于计算机系统1600中,或者可分布在计算机系统1600的各个节点上。在一些实施方案中,类似的输入/输出设备可以与计算机系统1600分开,并且可通过有线或无线连接(诸如通过网络接口1640)与计算机系统1600的一个或多个节点进行交互。
如图16所示,存储器1620可包含程序指令1622,该程序指令可能可由处理器执行,以实现上文所述的任何元素或动作。在一个实施方案中,程序指令可执行上文所述的方法。在其他实施方案中,可包括不同的元件和数据。需注意,数据可包括上文所述的任何数据或信息。
本领域的技术人员应当理解,计算机系统1600仅仅是例示性的,而并非旨在限制实施方案的范围。具体地,计算机系统和设备可包括可执行所指出的功能的硬件或软件的任何组合,包括计算机、网络设备、互联网设备、个人数字助理、无线电话、寻呼机等等。计算机系统1600还可连接到未示出的其他设备,或者反之可作为独立的系统进行操作。此外,由所示出的部件所提供的功能在一些实施方案中可被组合在更少的部件中或者被分布在附加部件中。类似地,在一些实施方案中,所示出的部件中的一些部件的功能可不被提供,和/或其他附加功能可能是可用的。
本领域的技术人员还将认识到,虽然各种项目被示出为在被使用期间被存储在存储器中或存储装置上,但是为了存储器管理和数据完整性的目的,这些项目或其部分可在存储器和其他存储设备之间进行传输。另选地,在其他实施方案中,这些软件元件中的一些或全部软件可在另一设备上的存储器中执行,并且经由计算机间通信来与所示出的计算机系统进行通信。系统部件或数据结构中的一些或全部也可(例如作为指令或结构化数据)被存储在计算机可访问介质或便携式制品上以由合适的驱动器读取,其多种示例在上文中被描述。在一些实施方案中,存储在与计算机系统1600分开的计算机可访问介质上的指令可经由传输介质或信号(诸如经由通信介质诸如网络和/或无线链路而传送的电信号、电磁信号或数字信号)传输到计算机系统1600。各种实施方案还可包括在计算机可访问介质上接收、发送或存储根据以上描述所实现的指令和/或数据。一般来讲,计算机可访问介质可包括非暂态计算机可读存储介质或存储器介质,诸如磁介质或光学介质,例如盘或DVD/CD-ROM、易失性或非易失性介质,诸如RAM(例如SDRAM、DDR、RDRAM、SRAM等)、ROM等。在一些实施方案中,计算机可访问介质可包括传输介质或信号,诸如经由通信介质诸如网络和/或无线链路而传送的电气信号、电磁信号、或数字信号。
在不同的实施方案中,本文所述的方法可以在软件、硬件或它们的组合中实现。此外,可改变方法的框的次序,并且可对各种要素进行添加、重新排序、组合、省略、修改等。对于受益于本公开的本领域的技术人员,显然可做出各种修改和改变。本文所述的各种实施方案旨在为例示的而非限制性的。许多变型、修改、添加和改进是可能的。因此,可为在本文中被描述为单个示例的部件提供多个示例。各种部件、操作和数据存储库之间的界限在一定程度上是任意性的,并且在具体的示例性配置的上下文中示出了特定操作。预期了功能的其他分配,它们可落在所附权利要求的范围内。最后,被呈现为示例性配置中的分立部件的结构和功能可被实现为组合的结构或部件。这些和其他变型、修改、添加和改进可落入如以下权利要求书中所限定的实施方案的范围内。
可以根据以下条款描述各种实施方案:
1.一种系统,包括:
一个或多个传感器,所述一个或多个传感器被配置为捕获构成点云的多个点,其中点中的相应一些包括针对该点的空间信息和针对该点的属性信息;以及
编码器,该编码器被配置为:
确定针对该点云的属性信息的第一细节级别;以及
确定针对该点云的属性信息的一个或多个附加细节级别,
其中为了确定第一细节级别或所述一个或多个附加细节级别,该编码器被配置为:
基于包括在捕获点云中的针对至少一个点的属性信息,将属性值分配给该点云的该点;以及
针对未包括在先前确定的细节级别中的点云的点中的相应一些的子集:
识别距离该点大于第一距离的一组相邻点;
基于针对这些相邻点的预测或分配属性值来确定针对该相应点的预测属性值;以及
基于将针对该相应点的预测属性值与包括在捕获点云中的针对该点的属性信息进行比较来确定针对该点的属性校正值;以及
针对第一细节级别和所述一个或多个附加细节级别对分配属性值和确定属性校正值进行编码。
2.根据条款1所述的系统,其中该编码器被配置为:
顺序地向接收方设备提供第一细节级别和所述一个或多个附加细节级别。
3.根据条款2所述的系统,其中该编码器还将针对点云的空间信息编码为K-D树。
4.根据条款2所述的系统,其中该编码器被配置为在对应于点的相应子集的相应细节级别中包括针对该点的相应子集的空间信息。
5.根据条款1所述的系统,其中该编码器还被设计为编码:
指示针对该点云编码的细节级别的数量的信息。
6.根据条款1所述的系统,其中该编码器被进一步配置为编码:
用于识别包括在第一细节级别中的点的初始采样距离;以及
用于确定针对所述一个或多个附加细节级别的附加采样距离的采样距离更新因子,其中附加采样距离用于识别包括在所述一个或多个附加细节级别中的点,
其中除了针对第一细节级别和所述一个或多个附加细节级别的编码的分配属性值和编码的确定属性校正值之外,还将初始采样距离和采样距离更新因子提供给解码器。
7.根据条款1所述的系统,其中为了基于针对这些相邻点的预测或分配属性值来确定针对该相应点的预测属性值,该编码器被配置为:
确定该点与一组相邻点的相邻点中的相应一些之间的相应距离,
其中针对该点的属性值基于逆距离插值方法来确定,其中更靠近该点的相邻点的属性值比更远离该点的相邻点的属性值更大地加权。
8.一种解码器,该解码器被配置为:
接收针对点云的压缩属性信息,该压缩属性信息包括针对该点云的至少一个点的至少一个分配属性值以及指示针对该点云的其他点的属性的属性校正值的数据,其中针对该点云的这些其他点的多个子集以多个细节级别对属性校正值进行排序;以及
提供针对具有第一细节级别的解压缩点云的属性信息;以及
更新解压缩点云,以在所述多个细节级别中的一个或多个其他一些处包括针对点的附加子集的属性信息。
9.根据条款8所述的解码器,其中为了更新解压缩点云,解码器被配置为将属性信息分配给点的附加子集,其中分配属性信息是先前为包括在细节级别中的其他一些中的点的子集分配的属性信息的补充。
10.根据条款8所述的解码器,其中为了确定包括在第一细节级别中的针对点的子集的属性信息或包括在细节级别中的一个或多个其他一些中的针对点的附加子集的属性信息,解码器被配置为:
针对与给定细节级别对应的点的给定子集的点中的每个点:
识别距正被评估的点的一组相邻点;
基于针对这些相邻点的预测或分配属性值来确定针对正被评估的点的预测属性值;以及
基于包括在压缩属性信息中的针对该点的属性校正值来调整针对正被评估的点的预测属性值。
11.根据条款8所述的解码器,其中基于正被评估的点与相邻点之间的逆距离关系来确定预测属性值。
12.根据条款8所述的解码器,其中该解码器被配置为至少部分地基于针对解压缩点云分配的数据预算来确定待解码的细节级别的数量。
13.根据条款8所述的解码器,其中该解码器被配置为至少部分地基于用于查看解压缩点云的查看模式来确定待解码的细节级别的数量。
14.一种方法,所述方法包括:
接收针对点云的压缩属性信息,该压缩属性信息包括针对该点云的至少一个点的至少一个分配属性值以及指示该点云的其他点的属性的属性校正值的数据,其中针对该点云的这些其他点的多个子集以多个细节级别对属性校正值进行排序;以及
提供针对具有第一细节级别的解压缩点云的属性信息;以及
更新解压缩点云,以在所述多个细节级别中的一个或多个其他一些处包括针对点的附加子集的属性信息。
15.根据条款14所述的方法,其中提供针对第一细节级别的属性信息并且更新解压缩点云以包括针对所述多个细节级别中的一个或多个其他一些的点的附加子集的属性信息分别包括:
针对与给定细节级别对应的点的给定子集的点中的每个点:
识别距正被评估的点的一组相邻点;
基于针对这些相邻点的预测或分配属性值来确定针对正被评估的点的预测属性值;以及
基于包括在压缩属性信息中的针对该点的属性校正值来调整针对正被评估的点的预测属性值。
16.根据条款15所述的方法,还包括:
接收针对第一细节级别的点的空间信息;以及
单独地接收针对第二细节级别的点的空间信息。
17.根据条款15所述的方法,还包括:
接收针对点云的多于一个的细节级别的点的编码空间信息;
以及
在所述提供针对第一细节级别的属性信息之前对编码空间信息进行解码。
18.根据条款15所述的方法,其中所述更新解压缩点云包括:
将属性信息分配给点的附加子集,其中分配属性信息是先前为包括在细节级别中的其他一些中的点的子集分配的属性信息的补充。
19.根据条款15所述的方法,还包括:
至少部分地基于针对解压缩点云分配的数据预算来确定待解码的细节级别的数量。
20.根据条款15所述的方法,还包括:
至少部分地基于用于查看解压缩点云的查看模式来确定待解码的细节级别的数量。
21.一种系统,包括:
一个或多个传感器,所述一个或多个传感器被配置为捕获构成点云的多个点,其中点中的相应一些包括针对该点的空间信息和针对该点的属性信息;以及
编码器,该编码器被配置为:
基于包括在捕获点云中的针对至少一个点的属性信息,将属性值分配给该点云的该点;以及
针对未包括在先前确定的细节级别中的点云的点中的相应一些的子集:
基于针对相邻点的预测或分配属性值来确定针对该相应点的预测属性值;以及
基于将针对该相应点的预测属性值与包括在捕获点云中的针对该点的属性信息进行比较来确定针对该点的属性校正值;
应用更新操作以平滑确定属性校正值,其中更新操作考虑了相应点的属性对其他细节级别的相对影响;以及
针对第一细节级别和所述一个或多个附加细节级别对分配属性值和更新属性校正值进行编码。
22.一种解码器,该解码器被配置为:
接收针对点云的压缩属性信息,该压缩属性信息包括针对点云的至少一个点的至少一个分配属性值以及指示针对点云的其他点的属性的属性校正值的数据;以及
提供针对具有第一细节级别的解压缩点云的属性信息,其中所述提供属性信息包括执行更新操作以移除应用于编码器的属性值平滑;以及
更新解压缩点云,以在所述多个细节级别中的一个或多个其他一些处包括针对点的附加子集的属性信息。
23.一种方法,所述方法包括:
接收针对点云的压缩属性信息,该压缩属性信息包括针对点云的至少一个点的至少一个分配属性值以及指示针对点云的其他点的属性的属性校正值的数据;以及
提供针对具有第一细节级别的解压缩点云的属性信息,其中所述提供属性信息包括执行更新操作以移除应用于编码器的属性值平滑;以及
更新解压缩点云,以在所述多个细节级别中的一个或多个其他一些处包括针对点的附加子集的属性信息。
24.一种存储程序指令的非暂态计算机可读介质,当这些程序指令由一个或多个处理器执行时使所述一个或多个处理器执行:
接收针对点云的压缩属性信息,该压缩属性信息包括针对点云的至少一个点的至少一个分配属性值以及指示针对点云的其他点的属性的属性校正值的数据;以及
提供针对具有第一细节级别的解压缩点云的属性信息,其中所述提供属性信息包括执行更新操作以移除应用于编码器的属性值平滑;以及
更新解压缩点云,以在所述多个细节级别中的一个或多个其他一些处包括针对点的附加子集的属性信息。
25.一种方法,所述方法包括:
基于包括在捕获点云中的针对至少一个点的属性信息,将属性值分配给该点云的该点;以及
针对未包括在先前确定的细节级别中的点云的相应点的子集中的多个点:
基于针对相邻点的预测或分配属性值来确定针对点的子集的相应点的预测属性值;
基于将针对相应点的预测属性值与包括在捕获点云中的针对点的属性信息进行比较来确定针对多个点的相应属性校正值;
应用更新操作以平滑确定属性校正值,其中更新操作考虑了相应点的属性对其他细节级别的相对影响;以及
针对第一细节级别和所述一个或多个附加细节级别对分配属性值和更新属性校正值进行编码。
26.一种存储程序指令的非暂态计算机可读介质,当这些程序指令由一个或多个处理器执行时使所述一个或多个处理器执行:
基于包括在捕获点云中的针对至少一个点的属性信息,将属性值分配给该点云的该点;以及
针对未包括在先前确定的细节级别中的点云的相应点的子集中的多个点:
基于针对相邻点的预测或分配属性值来确定针对点的子集的相应点的预测属性值;
基于将针对相应点的预测属性值与包括在捕获点云中的针对点的属性信息进行比较来确定针对多个点的相应属性校正值;
应用更新操作以平滑确定属性校正值,其中更新操作考虑了相应点的属性对其他细节级别的相对影响;以及
针对第一细节级别和所述一个或多个附加细节级别对分配属性值和更新属性校正值进行编码。
27.一种系统,包括:
一个或多个传感器,所述一个或多个传感器被配置为捕获构成点云的多个点,其中点中的相应一些包括针对该点的空间信息和针对该点的属性信息;以及
编码器,该编码器被配置为:
基于针对相邻点的预测或分配属性值来确定针对点中的相应一些的预测属性值,其中在正在确定针对相应点和相邻点的细节级别分配之前或同时确定所确定的预测属性值;以及
基于将针对相应点的预测属性值与包括在捕获点云中的针对相应点的属性信息进行比较来确定针对相应点的相应属性校正值。
28.一种系统,包括:
一个或多个传感器,所述一个或多个传感器被配置为捕获构成点云的多个点,其中点中的相应一些包括针对该点的空间信息和针对该点的属性信息;以及
编码器,该编码器被配置为:
针对点云的点中的相应一些的子集:
识别距离该点大于第一距离的一组相邻点;
确定相邻点的可变性是否超过可变性阈值;
如果相邻点的可变性小于阈值,则根据第一预测程序确定针对相应点的子集的一个或多个点的相应预测属性值,并且如果相邻点的可变性超过阈值,则根据另一预测程序确定针对所述一个或多个点的相应预测属性值;以及
基于将针对所述一个或多个点中的相应一些的相应预测属性值与包括在捕获点云中的针对对应的相应点的属性信息进行比较来确定针对所述一个或多个点的相应属性校正值;以及
对分配属性值和确定属性校正值进行编码。
29.一种解码器,该解码器被配置为:
接收针对点云的压缩属性信息,该压缩属性信息包括指示针对点云的点的属性的属性校正值的数据以及待应用于解压缩该压缩属性信息的所选择的预测策略的指示,其中所选择的预测策略是由解码器支持的多个预测策略中的一个;
基于所选择的预测策略来预测针对点云的点的属性值;
将一个或多个属性校正值应用于预测属性值以确定针对解压缩点云的属性信息。
30.一种方法,所述方法包括:
接收针对点云的压缩属性信息,该压缩属性信息包括指示针对点云的点的属性的属性校正值的数据以及待应用于解压缩该压缩属性信息的所选择的预测策略的指示,其中所选择的预测策略是由解码器支持的多个预测策略中的一个;
基于所选择的预测策略来预测针对点云的点的属性值;
将一个或多个属性校正值应用于预测属性值以确定针对解压缩点云的属性信息。
31.一种方法,所述方法包括:
识别距离点云的点大于第一距离的一组相邻点;
确定相邻点的可变性是否超过可变性阈值;
如果相邻点的可变性小于阈值,则根据第一预测程序确定针对相应点的子集的一个或多个点的相应预测属性值,并且如果相邻点的可变性超过阈值,则根据另一预测程序确定针对一个或多个点的相应预测属性值;
基于将针对所述一个或多个点中的相应一些的相应预测属性值与包括在捕获点云中的针对对应的相应点的属性信息进行比较来确定针对所述一个或多个点的相应属性校正值;以及
对分配属性值和确定属性校正值进行编码。
32.一种存储程序指令的非暂态计算机可读介质,当这些程序指令由一个或多个处理器执行时使所述一个或多个处理器执行:
识别距离点云的点大于第一距离的一组相邻点;
确定相邻点的可变性是否超过可变性阈值;
如果相邻点的可变性小于阈值,则根据第一预测程序确定针对相应点的子集的一个或多个点的相应预测属性值,并且如果相邻点的可变性超过阈值,则根据另一预测程序确定针对一个或多个点的相应预测属性值;
基于将针对所述一个或多个点中的相应一些的相应预测属性值与包括在捕获点云中的针对对应的相应点的属性信息进行比较来确定针对所述一个或多个点的相应属性校正值;以及
对分配属性值和确定属性校正值进行编码。
33.一种存储程序指令的非暂态计算机可读介质,当这些程序指令由一个或多个处理器执行时使所述一个或多个处理器执行:
接收针对点云的压缩属性信息,该压缩属性信息包括指示针对点云的点的属性的属性校正值的数据以及待应用于解压缩该压缩属性信息的所选择的预测策略的指示,其中所选择的预测策略是由解码器支持的多个预测策略中的一个;
基于所选择的预测策略来预测针对点云的点的属性值;
将一个或多个属性校正值应用于预测属性值以确定针对解压缩点云的属性信息。
34.一种系统,包括:
解码器,所述解码器被配置为:
接收针对点云的压缩属性信息,该压缩属性信息包括针对点云的至少一个点的至少一个分配属性值以及针对点云的其他点指示针对这些其他点的相应属性的相应属性校正值的数据;以及
针对点云的点中除所述至少一个点之外的相应其他一些中的每个点:
识别距正被评估的点的一组相邻点;
至少部分地基于针对相邻点的预测或分配属性值来确定正被评估的点的预测属性值;以及
至少部分地基于包括在压缩属性信息中的针对该点的属性校正值来调整针对正被评估的点的预测属性值;以及
提供针对解压缩点云的属性信息,该属性信息包括针对所述至少一个点的所述至少一个分配属性值和针对点中的这些其他点的经调整预测属性值。
35.根据条款34所述的系统,其中该解码器被进一步配置为:
至少部分地基于针对点云的点的空间信息来确定针对点云的最小生成树;以及
至少部分地基于最小生成树来确定用于评估点中的相应其他一些的处理次序,其中至少部分地基于正被评估的连续点之间的最小距离来确定处理次序。
36.根据条款35所述的系统,其中为了识别所述一组相邻点,该解码器被配置为根据最小生成树来识别一组最近相邻点。
37.根据条款36所述的系统,其中该解码器被配置为至少部分地基于正被评估的点与相邻点之间的逆距离关系来确定属性预测。
38.根据条款37所述的系统,其中针对包括多于一个属性的点,该解码器被配置为当对针对给定点的一个或多个其他属性的压缩属性校正值进行解压缩时应用与对针对给定点的第一预测属性值的压缩属性校正值进行解压缩所使用的相同上下文。
39.一种解压缩针对点云的属性信息的方法,包括:
接收针对点云的压缩属性信息,该压缩属性信息包括针对点云的至少一个点的至少一个分配属性值以及针对点云的其他点指示针对这些其他点的相应属性的相应属性校正值的数据;以及
针对点云的点中除所述至少一个点之外的相应其他一些中的每个点:
识别距正被评估的点的一组相邻点;
至少部分地基于针对相邻点的预测或分配属性值来确定正被评估的点的预测属性值;以及
至少部分地基于包括在压缩属性信息中的针对该点的属性校正值来调整针对正被评估的点的预测属性值;以及
提供针对解压缩点云的属性信息,该属性信息包括针对所述至少一个点的所述至少一个分配属性值和针对点中的这些其他点的经调整预测属性值。
40.根据条款39所述的方法,还包括:
至少部分地基于针对点云的点的空间信息来确定针对点云的最小生成树;以及
至少部分地基于最小生成树来确定用于评估点中的相应其他一些的处理次序,其中至少部分地基于正被评估的连续点之间的最小距离来确定处理次序。
41.根据条款40所述的方法,还包括:
根据最小生长树来识别一组最近相邻点。
42.根据条款41所述的方法,其中至少部分地基于正被评估的点与相邻点之间的逆距离关系来确定属性预测。
43.根据条款42所述的方法,其中针对包括多于一个属性的点,当对针对给定点的一个或多个其他属性的压缩属性校正值进行解压缩时使用与对针对给定点的第一预测属性值的压缩属性校正值进行解压缩所使用的相同上下文。
44.一种非暂态计算机可读介质,所述非暂态计算机可读介质存储程序指令,所述程序指令当由一个或多个处理器执行时使所述一个或多个处理器实现解码器,所述解码器被配置为:
接收针对点云的压缩属性信息,该压缩属性信息包括针对点云的至少一个点的至少一个分配属性值以及针对点云的其他点指示针对这些其他点的相应属性的相应属性校正值的数据;以及
针对点云的点中除所述至少一个点之外的相应其他一些中的每个点:
识别距正被评估的点的一组相邻点;
至少部分地基于针对相邻点的预测或分配属性值来确定正被评估的点的预测属性值;以及
至少部分地基于包括在压缩属性信息中的针对该点的属性校正值来调整针对正被评估的点的预测属性值;以及
提供针对解压缩点云的属性信息,该属性信息包括针对所述至少一个点的所述至少一个分配属性值和针对点中的这些其他点的经调整预测属性值。
45.根据条款44所述的非暂态计算机可读介质,其中该解码器被进一步配置为:
至少部分地基于针对点云的点的空间信息来确定针对点云的最小生成树;以及
至少部分地基于最小生成树来确定用于评估点中的相应其他一些的处理次序,其中至少部分地基于正被评估的连续点之间的最小距离来确定处理次序。
46.根据条款45所述的非暂态计算机可读介质,其中为了识别所述一组相邻点,该解码器被配置为根据最小生成树来识别一组最近相邻点。
47.根据条款46所述的非暂态计算机可读介质,其中至少部分地基于正被评估的点与相邻点之间的逆距离关系来确定属性预测。
48.根据条款47所述的非暂态计算机可读介质,其中针对包括多于一个属性的点,该解码器被配置为当对针对给定点的一个或多个其他属性的压缩属性校正值进行解压缩时应用与对针对给定点的第一预测属性值的压缩属性校正值进行解压缩所使用的相同上下文。

Claims (20)

1.一种压缩针对点云的属性信息的系统,包括:
一个或多个传感器,所述一个或多个传感器被配置为捕获构成点云的多个点,其中所述点中的相应一些包括针对所述点的空间信息和针对所述点的属性信息;以及
编码器,所述编码器被配置为压缩针对所述点的所述属性信息,其中为了压缩所述属性信息,所述编码器被配置为:
至少部分地基于包括在针对至少一个点的所述捕获点云中的所述属性信息,将属性值分配给所述点云的所述点;以及
针对所述点云的所述点中的相应其他一些中的每个相应点:
识别一组相邻点;
至少部分地基于针对所述相邻点的预测或分配属性值以及所述相应点与所述相邻点中的相应一些之间的相应距离来确定针对所述相应点的预测属性值;以及
至少部分地基于将针对所述相应点的所述预测属性值与包括在所述捕获点云中的针对所述点的所述属性信息进行比较来确定针对所述点的属性校正值;以及
对压缩的所述属性信息进行编码,其中压缩的所述属性信息包括:
针对所述至少一个点的所述分配属性值;以及
针对所述点中的所述相应其他一些来指示所述确定的属性校正值的数据。
2.根据权利要求1所述的系统,其中为了针对所述点中的所述相应其他一些中的每个点来确定所述预测属性值,所述编码器被进一步配置为:
对更靠近所述相应点的相邻点的属性值比更远离所述相应点的相邻点的属性值更大地加权。
3.根据权利要求2所述的系统,其中所述编码器被进一步配置为:
确定针对所述点云的所述点的最小生成树,
其中为了识别所述一组相邻点,所述编码器被配置为根据所述最小生成树来识别一组最近相邻点。
4.根据权利要求3所述的系统,其中所述编码器被配置为:
根据至少部分地基于所述最小生成树确定的次序来评估所述点云的所述点中的所述相应其他一些;以及
根据所述次序对针对所述点中的所述相应其他一些的所述确定的属性校正值进行编码。
5.根据权利要求1所述的系统,其中所述编码器被配置为根据算术压缩算法对针对所述点中的所述相应其他一些指示所述属性校正值的所述数据进行编码。
6.根据权利要求1所述的系统,其中所述编码器被配置为根据Golomb压缩算法对针对所述点中的所述相应其他一些指示所述属性校正值的所述数据进行编码。
7.根据权利要求1所述的系统,其中所述编码器存储多个属性校正值编码上下文,其中至少部分地基于包括在所述属性校正值中的符号的数量来选择所述属性校正值编码上下文中的不同一些以用于对属性校正值进行编码。
8.一种压缩针对点云的属性信息的方法,包括:
至少部分地基于包括在所述点云中的针对至少一个点的属性信息来将属性值分配给所述点云的所述至少一个点,其中所述点云包括针对多个点的空间信息和为所述多个点中的相应一些指定一个或多个属性的属性信息;以及
针对所述点云的所述点中的相应其他一些中的每个点:
识别一组相邻点;
至少部分地基于针对所述相邻点的预测或分配属性值以及所述点与所述相邻点中的相应一些之间的相应距离来确定针对所述点的预测属性值;以及
至少部分地基于将针对所述点的所述预测属性值与针对所述点的所述属性信息进行比较来确定针对所述点的属性校正值;以及
对针对所述点云的压缩属性信息进行编码,所述压缩属性信息包括:
针对所述至少一个点的所述分配属性值;以及
针对所述点中的所述相应其他一些来指示所述确定的属性校正值的数据。
9.根据权利要求8所述的方法,其中针对一组最近相邻点所识别的相邻点的数量是可配置参数,并且
其中所述对针对所述点云的所述压缩属性信息进行编码还包括对指示待包括在一组所识别的最近相邻点中的最近相邻点的所述数量的配置信息进行编码。
10.根据权利要求9所述的方法,其中所述确定针对所述点的所述预测属性值包括:
确定所述点与所述一组最近相邻点的所述相邻点中的相应一些之间的相应距离,
其中针对所述点的所述属性值至少部分地基于逆距离插值方法来确定,其中更靠近所述点的相邻点的属性值比更远离所述点的相邻点的属性值更大地加权。
11.根据权利要求10所述的方法,还包括:
确定针对所述点云的所述点的最小生成树,
其中所述识别所述一组相邻点包括根据所述最小生成树来识别一组最近相邻点。
12.根据权利要求11所述的方法,其中对于所述点云的所述点中的所述相应其他一些,根据至少部分地基于所述最小生成树确定的处理次序来评估所述点中的所述相应其他一些,其中根据正被评估的连续点之间的最小距离来遍历所述最小生成树。
13.根据权利要求11所述的方法,还包括:
对K-D树进行编码以压缩所述点云的空间信息。
14.根据权利要求13所述的方法,其中所述点云的所述点中的至少一些包括指定多于一个属性的属性信息,其中对所述压缩属性信息进行编码还包括:
根据至少部分地基于包括在针对第一属性的所述属性校正值中的符号的数量选择的编码上下文,对指示针对所述点的所述第一属性的属性校正值的数据进行编码;以及
根据所述所选择的编码上下文对指示所述点的一个或多个附加属性的数据进行编码。
15.根据权利要求8所述的方法,其中所述对压缩属性信息进行编码包括:
将正值编码为偶数或奇数;以及
将负值编码为偶数或奇数,
其中,正值和负值不同时被编码为偶数或奇数。
16.一种非暂态计算机可读介质,所述非暂态计算机可读介质存储程序指令,所述程序指令当由一个或多个处理器执行时使所述一个或多个处理器实现编码器,所述编码器被配置为:
至少部分地基于包括在所述点云中的针对至少一个点的属性信息来将属性值分配给所述点云的所述至少一个点,其中所述点云包括针对多个点的空间信息和为所述多个点中的相应一些指定一个或多个属性的属性信息;以及
针对所述点云的所述点中的相应其他一些中的每个点:
识别一组相邻点;
至少部分地基于针对所述相邻点的预测或分配属性值以及所述点与所述相邻点中的相应一些之间的相应距离来确定针对所述点的预测属性值;以及
至少部分地基于将针对所述点的所述预测属性值与针对所述点的所述属性信息进行比较来确定针对所述点的属性校正值;以及
对针对所述点云的压缩属性信息进行编码,所述压缩属性信息包括:
针对所述至少一个点的所述分配属性值;以及
针对所述点中的所述相应其他一些来指示所述确定的属性校正值的数据。
17.根据权利要求16所述的非暂态计算机可读介质,其中针对一组最近相邻点所识别的相邻点的数量是可配置参数,并且
其中所述对针对所述点云的所述压缩属性信息进行编码还包括对指示待包括在所述一组所识别的最近相邻点中的最近相邻点的所述数量的配置信息进行编码。
18.根据权利要求17所述的非暂态计算机可读介质,其中所述确定针对所述点的所述预测属性值包括:
确定所述点与所述一组最近相邻点的所述相邻点中的相应一些之间的相应距离,
其中针对所述点的所述属性值至少部分地基于逆距离插值方法来确定,其中更靠近所述点的相邻点的属性值比更远离所述点的相邻点的属性值更大地加权。
19.根据权利要求18所述的非暂态计算机可读介质,其中所述编码器被进一步配置为:
确定针对所述点云的所述点的最小生成树,
其中所述识别所述一组相邻点包括根据所述最小生成树来识别一组最近相邻点。
20.根据权利要求19所述的非暂态计算机可读介质,其中对于所述点云的所述点中的所述相应其他一些,根据至少部分地基于所述最小生成树确定的处理次序来评估所述点中的所述相应其他一些,其中根据正被评估的连续点之间的最小距离来遍历所述最小生成树。
CN201880058855.6A 2017-09-14 2018-09-14 一种压缩针对点云的属性信息的系统、方法及计算机可读介质 Active CN111095929B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310864623.2A CN117319682A (zh) 2017-09-14 2018-09-14 一种压缩针对点云的属性信息的系统、方法及计算机可读介质

Applications Claiming Priority (17)

Application Number Priority Date Filing Date Title
US201762558795P 2017-09-14 2017-09-14
US62/558,795 2017-09-14
US201762560164P 2017-09-18 2017-09-18
US62/560,164 2017-09-18
US201762569602P 2017-10-08 2017-10-08
US62/569,602 2017-10-08
US201862655759P 2018-04-10 2018-04-10
US201862655764P 2018-04-10 2018-04-10
US201862655768P 2018-04-10 2018-04-10
US62/655,768 2018-04-10
US62/655,759 2018-04-10
US62/655,764 2018-04-10
US201862696295P 2018-07-10 2018-07-10
US62/696,295 2018-07-10
US16/130,949 US10861196B2 (en) 2017-09-14 2018-09-13 Point cloud compression
US16/130,949 2018-09-13
PCT/US2018/051062 WO2019055772A1 (en) 2017-09-14 2018-09-14 COMPRESSION OF CLOUD OF POINTS

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202310864623.2A Division CN117319682A (zh) 2017-09-14 2018-09-14 一种压缩针对点云的属性信息的系统、方法及计算机可读介质

Publications (2)

Publication Number Publication Date
CN111095929A CN111095929A (zh) 2020-05-01
CN111095929B true CN111095929B (zh) 2023-07-21

Family

ID=65631280

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201880058855.6A Active CN111095929B (zh) 2017-09-14 2018-09-14 一种压缩针对点云的属性信息的系统、方法及计算机可读介质
CN202310864623.2A Pending CN117319682A (zh) 2017-09-14 2018-09-14 一种压缩针对点云的属性信息的系统、方法及计算机可读介质

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN202310864623.2A Pending CN117319682A (zh) 2017-09-14 2018-09-14 一种压缩针对点云的属性信息的系统、方法及计算机可读介质

Country Status (5)

Country Link
US (3) US10861196B2 (zh)
KR (1) KR102317576B1 (zh)
CN (2) CN111095929B (zh)
DE (1) DE112018005149T5 (zh)
WO (1) WO2019055772A1 (zh)

Families Citing this family (179)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11818401B2 (en) 2017-09-14 2023-11-14 Apple Inc. Point cloud geometry compression using octrees and binary arithmetic encoding with adaptive look-up tables
US10897269B2 (en) 2017-09-14 2021-01-19 Apple Inc. Hierarchical point cloud compression
US10861196B2 (en) 2017-09-14 2020-12-08 Apple Inc. Point cloud compression
US10909725B2 (en) 2017-09-18 2021-02-02 Apple Inc. Point cloud compression
US11113845B2 (en) 2017-09-18 2021-09-07 Apple Inc. Point cloud compression using non-cubic projections and masks
EP3474233A1 (en) * 2017-10-19 2019-04-24 Thomson Licensing A method and apparatus for encoding/decoding the geometry of a point cloud representing a 3d object
US10607373B2 (en) 2017-11-22 2020-03-31 Apple Inc. Point cloud compression with closed-loop color conversion
FI3514968T3 (fi) 2018-01-18 2023-05-25 Blackberry Ltd Menetelmiä ja laitteita pistepilvien entropiakoodausta varten
EP3742403A4 (en) * 2018-01-19 2021-03-17 Panasonic Intellectual Property Corporation of America METHOD FOR CODING THREE-DIMENSIONAL DATA, METHOD FOR DECODING THREE-DIMENSIONAL DATA, DEVICE FOR CODING THREE-DIMENSIONAL DATA AND DEVICE FOR DECODING THREE-DIMENSIONAL DATA
WO2019146691A1 (ja) * 2018-01-26 2019-08-01 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2019182102A1 (ja) * 2018-03-23 2019-09-26 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
EP3553745B1 (en) * 2018-04-09 2021-09-01 BlackBerry Limited Methods and devices for binary entropy coding of point clouds
US10909727B2 (en) 2018-04-10 2021-02-02 Apple Inc. Hierarchical point cloud compression with smoothing
US10939129B2 (en) 2018-04-10 2021-03-02 Apple Inc. Point cloud compression
US10909726B2 (en) 2018-04-10 2021-02-02 Apple Inc. Point cloud compression
CN108833927B (zh) * 2018-05-03 2019-08-16 北京大学深圳研究生院 一种基于删除量化矩阵中0元素的点云属性压缩方法
EP3579194A1 (en) * 2018-06-08 2019-12-11 My Virtual Reality Software AS Indexation of massive point cloud data for efficient visualization
KR20210018278A (ko) * 2018-06-13 2021-02-17 파나소닉 인텔렉츄얼 프로퍼티 코포레이션 오브 아메리카 삼차원 데이터 부호화 방법, 삼차원 데이터 복호 방법, 삼차원 데이터 부호화 장치, 및 삼차원 데이터 복호 장치
US11017566B1 (en) 2018-07-02 2021-05-25 Apple Inc. Point cloud compression with adaptive filtering
US11202098B2 (en) 2018-07-05 2021-12-14 Apple Inc. Point cloud compression with multi-resolution video encoding
US11012713B2 (en) 2018-07-12 2021-05-18 Apple Inc. Bit stream structure for compressed point cloud data
US11940978B2 (en) * 2018-09-19 2024-03-26 International Business Machines Corporation Distributed platform for computation and trusted validation
US11032063B2 (en) 2018-09-19 2021-06-08 International Business Machines Corporation Distributed platform for computation and trusted validation
CN112740277A (zh) * 2018-09-28 2021-04-30 索尼公司 图像处理装置和图像处理方法
WO2020071111A1 (ja) * 2018-10-02 2020-04-09 ソニー株式会社 情報処理装置および情報処理方法、並びにプログラム
US11367224B2 (en) 2018-10-02 2022-06-21 Apple Inc. Occupancy map block-to-patch information compression
WO2020071416A1 (ja) * 2018-10-02 2020-04-09 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020075862A1 (ja) * 2018-10-12 2020-04-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
US11676005B2 (en) * 2018-11-14 2023-06-13 Huawei Technologies Co., Ltd. Method and system for deep neural networks using dynamically selected feature-relevant points from a point cloud
CA3122248A1 (en) * 2018-12-21 2020-06-25 Panasonic Intellectual Property Corporation Of America Three-dimensional data encoding method, three-dimensional data decoding method, three-dimensional data encoding device, and three-dimensional data decoding device
JPWO2020138352A1 (ja) * 2018-12-26 2021-11-18 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
EP3905696A4 (en) 2019-01-07 2022-06-08 Sony Group Corporation IMAGE PROCESSING DEVICE AND METHOD
JP7448517B2 (ja) * 2019-02-28 2024-03-12 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データの符号化方法、三次元データの復号方法、三次元データの符号化装置、及び三次元データの復号装置
WO2020189982A1 (ko) * 2019-03-15 2020-09-24 엘지전자 주식회사 포인트 클라우드 데이터 처리 장치 및 방법
WO2020189943A1 (ko) * 2019-03-15 2020-09-24 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
WO2020189976A1 (ko) * 2019-03-16 2020-09-24 엘지전자 주식회사 포인트 클라우드 데이터 처리 장치 및 방법
US10964068B2 (en) * 2019-03-18 2021-03-30 Blackberry Limited Methods and devices for predictive point cloud attribute coding
EP3713235B1 (en) * 2019-03-19 2023-08-02 Axis AB Methods and devices for encoding a video stream using a first and a second encoder
KR20210141472A (ko) * 2019-03-19 2021-11-23 소니그룹주식회사 정보 처리 장치 및 방법
US11403784B2 (en) * 2019-03-19 2022-08-02 Tencent America LLC Method and apparatus for tree-based point cloud compression (PCC) media stream using moving picture experts group (MPEG)-dynamic adaptive streaming over HTTP (DASH)
US20220286713A1 (en) * 2019-03-20 2022-09-08 Lg Electronics Inc. Point cloud data transmission device, point cloud data transmission method, point cloud data reception device and point cloud data reception method
WO2020190075A1 (ko) * 2019-03-20 2020-09-24 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
US11503367B2 (en) * 2019-03-20 2022-11-15 Tencent America LLC Techniques and apparatus for weighted-median prediction for point-cloud attribute coding
WO2020190093A1 (ko) * 2019-03-20 2020-09-24 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
US11729406B2 (en) * 2019-03-21 2023-08-15 Qualcomm Incorporated Video compression using deep generative models
WO2020186535A1 (zh) * 2019-03-21 2020-09-24 深圳市大疆创新科技有限公司 点云属性编码方法和装置以及点云属性解码方法和装置
WO2020196677A1 (ja) * 2019-03-25 2020-10-01 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
US11475604B2 (en) * 2019-03-26 2022-10-18 Tencent America LLC Method and apparatus for adaptive point cloud attribute coding
US11057564B2 (en) 2019-03-28 2021-07-06 Apple Inc. Multiple layer flexure for supporting a moving image sensor
CN110211040B (zh) * 2019-04-30 2022-10-21 国网河南省电力公司电力科学研究院 一种基于权值的点云压缩方法和装置
WO2020242244A1 (ko) * 2019-05-30 2020-12-03 엘지전자 주식회사 포인트 클라우드 데이터 처리 방법 및 장치
CN112019845B (zh) * 2019-05-30 2024-04-26 腾讯美国有限责任公司 对点云进行编码的方法、装置以及存储介质
WO2020242077A1 (ko) * 2019-05-30 2020-12-03 엘지전자 주식회사 포인트 클라우드 데이터 처리 장치 및 방법
CN111684808A (zh) * 2019-05-31 2020-09-18 深圳市大疆创新科技有限公司 点云数据的编码方法、编码装置、解码方法与解码装置
WO2020246689A1 (ko) * 2019-06-05 2020-12-10 엘지전자 주식회사 포인트 클라우드 데이터 전송 장치, 포인트 클라우드 데이터 전송 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
CN112384950A (zh) * 2019-06-12 2021-02-19 浙江大学 点云的编解码方法及装置
EP3979205A4 (en) * 2019-06-21 2022-08-03 LG Electronics Inc. POINT CLOUD DATA PROCESSING DEVICE AND METHOD
US11991348B2 (en) * 2019-06-25 2024-05-21 Sony Group Corporation Information processing device and method
WO2020262824A1 (ko) * 2019-06-26 2020-12-30 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
EP3992910A4 (en) * 2019-06-28 2022-09-07 LG Electronics Inc. APPARATUS AND METHOD FOR PROCESSING POINT CLOUD DATA
WO2021002665A1 (ko) * 2019-07-01 2021-01-07 엘지전자 주식회사 포인트 클라우드 데이터 처리 장치 및 방법
US20220245863A1 (en) * 2019-07-02 2022-08-04 Sony Group Corporation Information processing device and method
US11711544B2 (en) 2019-07-02 2023-07-25 Apple Inc. Point cloud compression with supplemental information messages
US20220366610A1 (en) * 2019-07-02 2022-11-17 Lg Electronics Inc. Point cloud data processing method and apparatus
US20220368751A1 (en) * 2019-07-03 2022-11-17 Lg Electronics Inc. Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
US11122102B2 (en) * 2019-07-03 2021-09-14 Lg Electronics Inc. Point cloud data transmission apparatus, point cloud data transmission method, point cloud data reception apparatus and point cloud data reception method
US11451836B2 (en) * 2019-07-03 2022-09-20 Tencent America LLC Techniques and apparatus for PCM patch creation using Morton codes
CN112188199B (zh) * 2019-07-03 2024-05-10 腾讯美国有限责任公司 自适应点云属性编码的方法、装置、电子设备和存储介质
WO2021002594A1 (ko) * 2019-07-04 2021-01-07 엘지전자 주식회사 포인트 클라우드 데이터 처리 장치 및 방법
WO2021002562A1 (ko) * 2019-07-04 2021-01-07 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
KR102292195B1 (ko) * 2019-07-04 2021-08-24 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
CN114097247A (zh) * 2019-07-04 2022-02-25 Lg 电子株式会社 点云数据发送设备、点云数据发送方法、点云数据接收设备、以及点云数据接收方法
JP7392304B2 (ja) * 2019-07-05 2023-12-06 富士通株式会社 予測プログラム、予測方法および予測装置
US11593969B2 (en) * 2019-07-12 2023-02-28 Tencent America LLC Method and apparatus for geometry merge mode for point cloud coding
EP3989176A4 (en) * 2019-07-17 2022-08-17 Sony Group Corporation INFORMATION PROCESSING DEVICE AND METHOD
WO2021023206A1 (zh) * 2019-08-05 2021-02-11 北京大学深圳研究生院 基于邻居权重优化的点云属性预测、编码和解码方法及设备
CN110418135B (zh) * 2019-08-05 2022-05-27 北京大学深圳研究生院 一种基于邻居的权重优化的点云帧内预测方法及设备
WO2021025546A1 (ko) * 2019-08-08 2021-02-11 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
US20220321912A1 (en) * 2019-08-09 2022-10-06 Lg Electronics Inc. Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
US11790602B2 (en) 2019-08-13 2023-10-17 Sony Group Corporation Information processing device and method
WO2021029575A1 (ko) * 2019-08-14 2021-02-18 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
WO2021045536A1 (en) * 2019-09-04 2021-03-11 Wilus Institute Of Standards And Technology Inc. Video encoding and decoding acceleration utilizing imu sensor data for cloud virtual reality
WO2021045601A1 (ko) * 2019-09-05 2021-03-11 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
WO2021045603A1 (ko) * 2019-09-06 2021-03-11 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
US20220343548A1 (en) * 2019-09-11 2022-10-27 Lg Electronics Inc. Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
WO2021046817A1 (zh) * 2019-09-12 2021-03-18 深圳市大疆创新科技有限公司 点云数据的编解码方法、系统和存储介质
WO2021060850A1 (ko) * 2019-09-24 2021-04-01 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
US11562507B2 (en) 2019-09-27 2023-01-24 Apple Inc. Point cloud compression using video encoding with time consistent patches
US11627314B2 (en) 2019-09-27 2023-04-11 Apple Inc. Video-based point cloud compression with non-normative smoothing
EP4040393A4 (en) * 2019-09-30 2023-06-14 Guangdong Oppo Mobile Telecommunications Corp., Ltd. DIVISION PROCESS, ENCODER, DECODER AND COMPUTER STORAGE MEDIA
CN112352431B (zh) * 2019-09-30 2023-01-10 浙江大学 一种数据编码、解码方法、设备及存储介质
EP4040790A4 (en) 2019-09-30 2022-10-19 Guangdong Oppo Mobile Telecommunications Corp., Ltd. PREDICTION METHOD, ENCODER, DECODER AND COMPUTER STORAGE MEDIUM
US11409998B2 (en) 2019-10-02 2022-08-09 Apple Inc. Trimming search space for nearest neighbor determinations in point cloud compression
US11595670B2 (en) * 2019-10-02 2023-02-28 Nokia Technologies Oy Method and apparatus for storage and signaling of sub-sample entry descriptions
US11538196B2 (en) 2019-10-02 2022-12-27 Apple Inc. Predictive coding for point cloud compression
CN112616058A (zh) * 2019-10-03 2021-04-06 腾讯美国有限责任公司 视频编码或解码方法、装置、计算机设备和存储介质
US11158107B2 (en) * 2019-10-03 2021-10-26 Lg Electronics Inc. Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
WO2021066312A1 (ko) * 2019-10-03 2021-04-08 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
EP4018669A4 (en) * 2019-10-03 2022-11-02 LG Electronics Inc. POINT CLOUD DATA TRANSMITTING DEVICE, POINT CLOUD DATA TRANSMITTING METHOD, POINT CLOUD DATA RECEIVING DEVICE AND POINT CLOUD DATA RECEIVING METHOD
US11895307B2 (en) 2019-10-04 2024-02-06 Apple Inc. Block-based predictive coding for point cloud compression
CN114467119A (zh) * 2019-10-09 2022-05-10 松下电器(美国)知识产权公司 三维数据编码方法、三维数据解码方法、三维数据编码装置及三维数据解码装置
WO2021075681A1 (ko) * 2019-10-17 2021-04-22 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
US20240064332A1 (en) * 2019-10-24 2024-02-22 Lg Electronics Inc. Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
CN111179394A (zh) * 2019-11-25 2020-05-19 苏州智加科技有限公司 点云场景渲染方法、装置和设备
EP3828704B1 (en) * 2019-11-29 2023-06-28 My Virtual Reality Software AS Real-time data acquisition and visualization for point-cloud recording
EP4072135A4 (en) * 2019-12-02 2023-06-21 Guangdong Oppo Mobile Telecommunications Corp., Ltd. METHOD FOR PREDICTING ATTRIBUTE INFORMATION, ENCODER, DECODER AND STORAGE MEDIA
KR20220123655A (ko) * 2020-01-06 2022-09-08 광동 오포 모바일 텔레커뮤니케이션즈 코포레이션 리미티드 분할 방법, 인코더, 디코더 및 컴퓨터 저장 매체
CN114902285A (zh) * 2020-01-06 2022-08-12 Oppo广东移动通信有限公司 一种最近邻搜索方法及装置、设备、存储介质
CN114902284A (zh) * 2020-01-07 2022-08-12 索尼集团公司 信息处理装置和方法
KR102381163B1 (ko) 2020-01-07 2022-04-01 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
WO2021141221A1 (ko) * 2020-01-07 2021-07-15 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
CN114930853A (zh) * 2020-01-07 2022-08-19 Lg电子株式会社 点云数据发送装置、发送方法、处理装置和处理方法
US11798196B2 (en) 2020-01-08 2023-10-24 Apple Inc. Video-based point cloud compression with predicted patches
CN114868153A (zh) * 2020-01-08 2022-08-05 Oppo广东移动通信有限公司 莫顿码的构建方法、编码器、解码器、及存储介质
US11373276B2 (en) * 2020-01-09 2022-06-28 Tencent America LLC Techniques and apparatus for alphabet-partition coding of transform coefficients for point cloud compression
CN113115019B (zh) * 2020-01-09 2022-08-12 腾讯美国有限责任公司 视频编解码方法、装置、计算机设备及存储介质
US11475605B2 (en) 2020-01-09 2022-10-18 Apple Inc. Geometry encoding of duplicate points
US11551334B2 (en) * 2020-01-09 2023-01-10 Tencent America LLC Techniques and apparatus for coarse granularity scalable lifting for point-cloud attribute coding
US20230059625A1 (en) * 2020-01-16 2023-02-23 Lg Electronics Inc. Transform-based image coding method and apparatus therefor
US20230051704A1 (en) * 2020-01-31 2023-02-16 Hewlett-Packard Development Company, L.P. Object deformations
US20230171431A1 (en) * 2020-03-11 2023-06-01 Lg Electronics Inc. Device for transmitting point cloud data, method for transmitting point cloud data, device for receiving point cloud data, and method for receiving point cloud data
WO2021187737A1 (ko) * 2020-03-18 2021-09-23 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
WO2021194065A1 (ko) * 2020-03-23 2021-09-30 엘지전자 주식회사 포인트 클라우드 데이터 처리 장치 및 방법
CN113473127B (zh) * 2020-03-30 2022-09-23 鹏城实验室 一种点云几何编码方法、解码方法、编码设备及解码设备
WO2021201390A1 (ko) * 2020-04-03 2021-10-07 엘지전자 주식회사 포인트 클라우드 데이터 처리 장치 및 방법
CN115380536A (zh) * 2020-04-07 2022-11-22 苹果公司 用于点云压缩的改进的预测编码
EP4092625A4 (en) * 2020-04-08 2023-04-19 LG Electronics, Inc. POINT CLOUD DATA TRANSMISSION DEVICE, TRANSMISSION METHOD, PROCESSING DEVICE AND PROCESSING METHOD
CN118042097A (zh) * 2020-04-11 2024-05-14 Lg电子株式会社 对点云数据进行编解码的方法以及机器可读存储介质
EP4131961A4 (en) * 2020-04-13 2023-09-13 LG Electronics, Inc. DEVICE FOR TRANSMITTING POINT CLOUD DATA, METHOD FOR TRANSMITTING POINT CLOUD DATA, DEVICE FOR RECEIVING POINT CLOUD DATA AND METHOD FOR RECEIVING POINT CLOUD DATA
CN115428467B (zh) * 2020-04-14 2024-03-08 Lg电子株式会社 点云数据发送设备和方法、点云数据接收设备和方法
WO2021215811A1 (ko) * 2020-04-24 2021-10-28 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
CN111614749B (zh) * 2020-05-19 2021-11-02 深圳华锐金融技术股份有限公司 数据发送方法、装置、计算机设备和存储介质
CN115668919A (zh) * 2020-05-29 2023-01-31 Lg电子株式会社 点云数据发送装置、点云数据发送方法、点云数据接收装置和点云数据接收方法
US11615556B2 (en) * 2020-06-03 2023-03-28 Tencent America LLC Context modeling of occupancy coding for point cloud coding
CA3136030C (en) * 2020-06-03 2024-02-20 Tencent America LLC Context modeling of occupancy coding for point cloud coding
US20230232042A1 (en) * 2020-06-05 2023-07-20 Lg Electronics Inc. Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
WO2021246839A1 (ko) * 2020-06-05 2021-12-09 엘지전자 주식회사 포인트 클라우드 데이터 처리 디바이스 및 처리 방법
WO2021256885A1 (ko) * 2020-06-18 2021-12-23 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
WO2021256887A1 (ko) * 2020-06-18 2021-12-23 엘지전자 주식회사 포인트 클라우드 데이터 전송 장치, 포인트 클라우드 데이터 전송 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
US11615557B2 (en) 2020-06-24 2023-03-28 Apple Inc. Point cloud compression using octrees with slicing
US11620768B2 (en) 2020-06-24 2023-04-04 Apple Inc. Point cloud geometry compression using octrees with multiple scan orders
CN111866518B (zh) * 2020-07-29 2022-05-27 西安邮电大学 基于特征提取的自适应三维点云压缩方法
US20230316584A1 (en) * 2020-08-12 2023-10-05 Lg Electronics Inc. Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
US11941856B2 (en) * 2020-08-18 2024-03-26 Tencent America LLC Predictive tree-based geometry coding for a point cloud
WO2022050688A1 (ko) * 2020-09-01 2022-03-10 엘지전자 주식회사 3d 데이터 송신 장치, 3d 데이터 송신 방법, 3d 데이터 수신 장치 및 3d 데이터 수신 방법
WO2022050612A1 (ko) * 2020-09-07 2022-03-10 엘지전자 주식회사 포인트 클라우드 데이터 전송장치, 포인트 클라우드 데이터 전송방법, 포인트 클라우드 데이터 수신장치 및 포인트 클라우드 데이터 수신방법
WO2022059697A1 (ja) * 2020-09-18 2022-03-24 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
CN116324865A (zh) * 2020-09-25 2023-06-23 Oppo广东移动通信有限公司 点云编码方法及相关装置
WO2022067782A1 (zh) * 2020-09-30 2022-04-07 Oppo广东移动通信有限公司 一种点云数据的层次划分方法、编码器及存储介质
WO2022067776A1 (zh) * 2020-09-30 2022-04-07 Oppo广东移动通信有限公司 点云的解码、编码方法、解码器、编码器和编解码系统
US20230334703A1 (en) * 2020-10-06 2023-10-19 Lg Electronics Inc. Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
US20220108488A1 (en) * 2020-10-07 2022-04-07 Qualcomm Incorporated Angular mode and in-tree quantization in geometry point cloud compression
WO2022119303A1 (ko) * 2020-12-01 2022-06-09 현대자동차주식회사 매핑 함수를 이용하는 포인트 클라우드 코딩 장치 및 방법
WO2022119304A1 (ko) * 2020-12-01 2022-06-09 현대자동차주식회사 적응적 데드존 양자화를 이용하는 포인트 클라우드 코딩 장치 및 방법
WO2022116118A1 (zh) * 2020-12-03 2022-06-09 Oppo广东移动通信有限公司 预测方法、编码器、解码器以及存储介质
CN117793372A (zh) * 2020-12-03 2024-03-29 Oppo广东移动通信有限公司 预测方法、编码器、解码器以及计算机存储介质
WO2022116122A1 (zh) * 2020-12-03 2022-06-09 Oppo广东移动通信有限公司 帧内预测方法及装置、编解码器、设备、存储介质
CN112581552B (zh) * 2020-12-14 2023-04-07 深圳大学 自适应分块的基于体素的点云压缩方法及装置
WO2022133755A1 (zh) * 2020-12-22 2022-06-30 Oppo广东移动通信有限公司 点云的解码方法、编码方法、解码器以及编码器
CN116636214A (zh) * 2020-12-22 2023-08-22 Oppo广东移动通信有限公司 点云编解码方法与系统、及点云编码器与点云解码器
US20230050535A1 (en) * 2021-01-11 2023-02-16 Tetavi Ltd. Volumetric video from an image source
CN116830579A (zh) * 2021-02-09 2023-09-29 Oppo广东移动通信有限公司 几何重构方法、解码器以及计算机存储介质
CN115086660B (zh) * 2021-03-12 2023-07-25 腾讯科技(深圳)有限公司 基于点云属性预测的解码、编码方法、解码器及编码器
CN115086658B (zh) * 2021-03-12 2023-07-25 腾讯科技(深圳)有限公司 点云数据的处理方法、装置、存储介质及编解码设备
US11948338B1 (en) 2021-03-29 2024-04-02 Apple Inc. 3D volumetric content encoding using 2D videos and simplified 3D meshes
CN117157973A (zh) * 2021-04-16 2023-12-01 Oppo广东移动通信有限公司 编解码方法及相关设备、存储介质
CA3220000A1 (en) * 2021-05-25 2022-12-01 Yoom.Com Ltd Volumetric video in web browser
US11762811B2 (en) * 2021-06-03 2023-09-19 Avalara, Inc. Computation module configured to estimate resource for target point from known resources of dots near the target point
US11915373B1 (en) * 2021-06-04 2024-02-27 Apple Inc. Attribute value compression for a three-dimensional mesh using geometry information to guide prediction
WO2022259944A1 (ja) * 2021-06-08 2022-12-15 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
CN115470259A (zh) * 2021-06-11 2022-12-13 鹏城实验室 一种点云属性预测方法、装置、终端及存储介质
WO2022257150A1 (zh) * 2021-06-11 2022-12-15 Oppo广东移动通信有限公司 点云编解码方法、装置、点云编解码器及存储介质
CN115474041B (zh) * 2021-06-11 2023-05-26 腾讯科技(深圳)有限公司 点云属性的预测方法、装置及相关设备
US11544419B1 (en) 2021-07-26 2023-01-03 Pointlab, Inc. Subsampling method for converting 3D scan data of an object for marine, civil, and architectural works into smaller densities for processing without CAD processing
CN113840150B (zh) * 2021-09-17 2023-09-26 中山大学 一种点云反射率属性熵编解码方法
CN114549752A (zh) * 2022-02-21 2022-05-27 北京百度网讯科技有限公司 三维图形数据处理方法、装置、设备、存储介质及产品
WO2024085936A1 (en) * 2022-10-21 2024-04-25 Innopeak Technology, Inc. System and method for geometry point cloud coding
WO2024103304A1 (zh) * 2022-11-16 2024-05-23 Oppo广东移动通信有限公司 点云编解码方法、编码器、解码器、码流及存储介质
US11710258B1 (en) 2023-01-25 2023-07-25 Illuscio, Inc. Systems and methods for compressing three-dimensional image data

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103366006A (zh) * 2013-07-19 2013-10-23 武汉睿数信息技术有限公司 一种基于三维激光点云建立地理空间索引的方法

Family Cites Families (337)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5793371A (en) 1995-08-04 1998-08-11 Sun Microsystems, Inc. Method and apparatus for geometric compression of three-dimensional graphics data
US6018353A (en) 1995-08-04 2000-01-25 Sun Microsystems, Inc. Three-dimensional graphics accelerator with an improved vertex buffer for more efficient vertex processing
US5842004A (en) 1995-08-04 1998-11-24 Sun Microsystems, Inc. Method and apparatus for decompression of compressed geometric three-dimensional graphics data
US6747644B1 (en) 1995-08-04 2004-06-08 Sun Microsystems, Inc. Decompression of surface normals in three-dimensional graphics data
US6215500B1 (en) 1995-08-04 2001-04-10 Sun Microsystems, Inc. Compression of three-dimensional geometry data representing a regularly tiled surface portion of a graphical object
US6256041B1 (en) 1995-08-04 2001-07-03 Sun Microsystems, Inc. Decompression of three-dimensional geometry data representing a regularly tiled surface portion of a graphical object
US6525722B1 (en) 1995-08-04 2003-02-25 Sun Microsystems, Inc. Geometry compression for regular and irregular mesh structures
EP1120970B1 (en) 1996-05-17 2003-01-29 Matsushita Electric Industrial Co., Ltd. Image decoding apparatus with object area decoding means and shape decoding means
US7098435B2 (en) 1996-10-25 2006-08-29 Frederick E. Mueller Method and apparatus for scanning three-dimensional objects
US6858826B2 (en) 1996-10-25 2005-02-22 Waveworx Inc. Method and apparatus for scanning three-dimensional objects
WO1998029269A1 (fr) 1996-12-27 1998-07-09 Bridgestone Corporation Procedes de conception de pneumatiques
AU1941797A (en) 1997-03-17 1998-10-12 Mitsubishi Denki Kabushiki Kaisha Image encoder, image decoder, image encoding method, image decoding method and image encoding/decoding system
US6459428B1 (en) 1998-02-17 2002-10-01 Sun Microsystems, Inc. Programmable sample filtering for image rendering
US6563499B1 (en) 1998-07-20 2003-05-13 Geometrix, Inc. Method and apparatus for generating a 3D region from a surrounding imagery
US6429867B1 (en) 1999-03-15 2002-08-06 Sun Microsystems, Inc. System and method for generating and playback of three-dimensional movies
US6459429B1 (en) 1999-06-14 2002-10-01 Sun Microsystems, Inc. Segmenting compressed graphics data for parallel decompression and rendering
US6628277B1 (en) 1999-06-14 2003-09-30 Sun Microsystems, Inc. Decompression of three-dimensional graphics data using mesh buffer references to reduce redundancy of processing
US6476803B1 (en) 2000-01-06 2002-11-05 Microsoft Corporation Object modeling system and process employing noise elimination and robust surface extraction techniques
US6525725B1 (en) 2000-03-15 2003-02-25 Sun Microsystems, Inc. Morphing decompression in a graphics system
DE60126387D1 (de) 2000-10-27 2007-03-22 Canon Kk Bilderzeugungsverfahren und Bilderzeugungsgerät
US6959120B1 (en) 2000-10-27 2005-10-25 Microsoft Corporation Rebinning methods and arrangements for use in compressing image-based rendering (IBR) data
JP3790126B2 (ja) 2001-05-30 2006-06-28 株式会社東芝 時空間領域情報処理方法及び時空間領域情報処理システム
KR100446635B1 (ko) 2001-11-27 2004-09-04 삼성전자주식회사 깊이 이미지 기반 3차원 객체 표현 장치 및 방법
US20040217956A1 (en) 2002-02-28 2004-11-04 Paul Besl Method and system for processing, compressing, streaming, and interactive rendering of 3D color image data
AU2003254099A1 (en) 2002-07-29 2004-02-16 Monsanto Technology, Llc Corn event pv-zmir13 (mon863) plants and compositions and methods for detection thereof
US9314691B2 (en) 2002-12-10 2016-04-19 Sony Computer Entertainment America Llc System and method for compressing video frames or portions thereof based on feedback information from a client device
US9077991B2 (en) 2002-12-10 2015-07-07 Sony Computer Entertainment America Llc System and method for utilizing forward error correction with video compression
US7215810B2 (en) 2003-07-23 2007-05-08 Orametrix, Inc. Method for creating single 3D surface model from a point cloud
US8468772B2 (en) 2003-08-11 2013-06-25 Interface, Inc. Carpet tiles and carpet tile installations
US20050080849A1 (en) 2003-10-09 2005-04-14 Wee Susie J. Management system for rich media environments
US7961934B2 (en) 2003-12-11 2011-06-14 Strider Labs, Inc. Probable reconstruction of surfaces in occluded regions by computed symmetry
CA2556896A1 (en) 2004-02-18 2005-09-01 Laurence Marzell Adaptive 3d image modelling system and apparatus and method therefor
US7373473B2 (en) 2004-03-10 2008-05-13 Leica Geosystems Hds Llc System and method for efficient storage and manipulation of extremely large amounts of scan data
JP4613313B2 (ja) 2005-04-01 2011-01-19 国立大学法人 東京大学 画像処理システムおよび画像処理プログラム
CN102271249B (zh) 2005-09-26 2014-04-09 韩国电子通信研究院 用于可伸缩视频的感兴趣区域信息设置方法和解析方法
KR100723505B1 (ko) 2005-10-06 2007-05-30 삼성전자주식회사 하이브리드 방식의 영상 데이터 처리 시스템 및 영상데이터 처리 방법
JP4643453B2 (ja) 2006-01-10 2011-03-02 株式会社東芝 情報処理装置及び情報処理装置の動画像復号方法
WO2007116551A1 (ja) 2006-03-30 2007-10-18 Kabushiki Kaisha Toshiba 画像符号化装置及び画像符号化方法並びに画像復号化装置及び画像復号化方法
US7881544B2 (en) 2006-08-24 2011-02-01 Dell Products L.P. Methods and apparatus for reducing storage size
US7885988B2 (en) 2006-08-24 2011-02-08 Dell Products L.P. Methods and apparatus for reducing storage size
US7737985B2 (en) 2006-11-09 2010-06-15 Qualcomm Incorporated Pixel cache for 3D graphics circuitry
US20100104158A1 (en) 2006-12-21 2010-04-29 Eli Shechtman Method and apparatus for matching local self-similarities
DE102006061325B4 (de) 2006-12-22 2008-11-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren zur computergestützten Identifikation der von einem Richtstrahl durchschnittenen Kinderoktanten eines Elternoktants in einer Octree-Datenstruktur mittels Look-up-Tabellen
US8055070B2 (en) 2007-01-05 2011-11-08 Geo Semiconductor Inc. Color and geometry distortion correction system and method
US8502815B2 (en) 2007-04-18 2013-08-06 Gottfried Wilhelm Leibniz Universitat Hannover Scalable compression of time-consistent 3D mesh sequences
EP1993072A1 (en) 2007-05-18 2008-11-19 Siemens Aktiengesellschaft Method for comparison of 3D computer model and as-built situation of an industrial plant
US8040355B2 (en) 2007-07-23 2011-10-18 Disney Enterprises, Inc. Three-dimensional location-based texture transfers
US7987212B2 (en) 2008-04-01 2011-07-26 Trimble Navigation Limited Merging data from survey devices
JP4506875B2 (ja) 2008-05-19 2010-07-21 ソニー株式会社 画像処理装置および画像処理方法
TW201005673A (en) 2008-07-18 2010-02-01 Ind Tech Res Inst Example-based two-dimensional to three-dimensional image conversion method, computer readable medium therefor, and system
US8706910B2 (en) 2008-10-28 2014-04-22 Panzura, Inc. Dynamically adaptive network-based data processing system and method
US8131046B2 (en) 2008-10-29 2012-03-06 Allegheny-Singer Research Institute Magnetic resonance imager using cylindrical offset region of excitation, and method
US8566736B1 (en) 2009-01-19 2013-10-22 Pixar Visualization of value resolution for multidimensional parameterized data
EP2216750A1 (en) 2009-02-06 2010-08-11 Thomson Licensing Method and apparatus for encoding 3D mesh models, and method and apparatus for decoding encoded 3D mesh models
EP2222086A1 (de) 2009-02-18 2010-08-25 EcoDisc Technology AG Verfahren und Vorrichtung zur Vermeidung von Rundungsfehlern nach Durchführung einer inversen diskreten orthogonalen Transformation
JP2010245938A (ja) 2009-04-08 2010-10-28 Sony Corp 信号処理装置、信号処理方法、プログラム
US20100296579A1 (en) 2009-05-22 2010-11-25 Qualcomm Incorporated Adaptive picture type decision for video coding
US9753124B2 (en) 2009-07-13 2017-09-05 Celartem, Inc. LIDAR point cloud compression
KR101669873B1 (ko) 2009-10-16 2016-10-27 삼성전자주식회사 삼차원 메쉬 압축장치 및 방법
US9317965B2 (en) 2009-11-16 2016-04-19 Autodesk, Inc. Uniform point cloud decimation
TW201121332A (en) 2009-12-11 2011-06-16 Acer Inc Device for decoding audio and video data
US8345930B2 (en) 2010-01-22 2013-01-01 Sri International Method for computing food volume in a method for analyzing food
CN102725775B (zh) 2010-01-25 2015-05-13 汤姆森特许公司 编码3d网格模型法线的方法、解码3d网格模型法线的方法、编码器和解码器
JP5297403B2 (ja) 2010-02-26 2013-09-25 キヤノン株式会社 位置姿勢計測装置、位置姿勢計測方法、プログラムおよび記憶媒体
US9237366B2 (en) 2010-04-16 2016-01-12 Google Technology Holdings LLC Method and apparatus for distribution of 3D television program materials
US20130202197A1 (en) * 2010-06-11 2013-08-08 Edmund Cochrane Reeler System and Method for Manipulating Data Having Spatial Co-ordinates
FR2961930B1 (fr) 2010-06-29 2013-01-04 Fittingbox Procede de compression / decompression de maillage tridimensionnel
KR101654777B1 (ko) 2010-07-19 2016-09-06 삼성전자주식회사 3차원 메쉬 가변 부호화 장치 및 방법, 그리고 3차원 메쉬 가변 복호화 장치 및 방법
US8520740B2 (en) 2010-09-02 2013-08-27 International Business Machines Corporation Arithmetic decoding acceleration
WO2012034236A1 (en) 2010-09-16 2012-03-22 Ambercore Software Inc. System and method for detailed automated feature extraction from data having spatial coordinates
US9300321B2 (en) 2010-11-05 2016-03-29 University of Maribor Light detection and ranging (LiDAR)data compression and decompression methods and apparatus
WO2012095914A1 (ja) 2011-01-13 2012-07-19 パナソニック株式会社 立体画像処理装置、立体画像処理方法およびプログラム
KR101494562B1 (ko) 2011-01-18 2015-02-17 후지쯔 가부시끼가이샤 동화상 부호화 장치, 동화상 부호화 방법 및 동화상 부호화용 컴퓨터 프로그램이 기록된 컴퓨터 판독가능한 기록 매체
US8908013B2 (en) 2011-01-20 2014-12-09 Canon Kabushiki Kaisha Systems and methods for collaborative image capturing
JPWO2012140904A1 (ja) 2011-04-15 2014-07-28 パナソニック株式会社 画像圧縮装置、画像圧縮方法、集積回路、プログラムおよび映像表示装置
CN103503459A (zh) 2011-04-28 2014-01-08 索尼公司 图像处理装置和图像处理方法
US10123053B2 (en) 2011-05-23 2018-11-06 Texas Instruments Incorporated Acceleration of bypass binary symbol processing in video coding
US8780112B2 (en) 2011-06-08 2014-07-15 Pacific Data Images Llc Coherent out-of-core point-based global illumination
US9521434B2 (en) 2011-06-09 2016-12-13 Qualcomm Incorporated Internal bit depth increase in video coding
KR101862438B1 (ko) 2011-07-18 2018-05-29 톰슨 라이센싱 트리 구조들의 적응적 엔트로피 코딩을 위한 방법
US9014496B2 (en) 2011-08-04 2015-04-21 Arm Limited Methods of and apparatus for encoding and decoding data in data processing systems
US20130034150A1 (en) 2011-08-05 2013-02-07 Texas Instruments Incorporated Systems and methods for multimedia data encoding and decoding
US9288505B2 (en) 2011-08-11 2016-03-15 Qualcomm Incorporated Three-dimensional video with asymmetric spatial resolution
WO2013055148A2 (ko) 2011-10-12 2013-04-18 엘지전자 주식회사 영상 인코딩 방법 및 디코딩 방법
US8643515B2 (en) 2011-10-28 2014-02-04 International Business Machines Corporation Compressing data using an encoding table
JP5961985B2 (ja) 2011-11-30 2016-08-03 株式会社リコー 撮像装置、測色装置および画像形成装置
US9819949B2 (en) 2011-12-16 2017-11-14 Microsoft Technology Licensing, Llc Hardware-accelerated decoding of scalable video bitstreams
CN102592136B (zh) 2011-12-21 2013-10-16 东南大学 基于几何图像中中频信息的三维人脸识别方法
US9191670B2 (en) 2012-01-17 2015-11-17 Qualcomm Incorporated Throughput improvement for CABAC coefficient level coding
SG10201606621XA (en) 2012-01-20 2016-09-29 Ge Video Compression Llc Coding Concept Allowing Parallel Processing, Transport Demultiplexer and Video Bitstream
JP2015512072A (ja) 2012-01-21 2015-04-23 トムソン ライセンシングThomson Licensing 3次元(3d)モデルのテクスチャ情報を圧縮する方法及び装置
US11282287B2 (en) * 2012-02-24 2022-03-22 Matterport, Inc. Employing three-dimensional (3D) data predicted from two-dimensional (2D) images using neural networks for 3D modeling applications and other applications
US10089312B2 (en) 2012-03-01 2018-10-02 Trimble Ab Methods and apparatus for point cloud data management
CN102630011A (zh) 2012-03-31 2012-08-08 浙江师范大学 一种视频传感器网络中的压缩感知编解码方法及系统
US9846960B2 (en) * 2012-05-31 2017-12-19 Microsoft Technology Licensing, Llc Automated camera array calibration
KR101957873B1 (ko) 2012-06-04 2019-03-13 삼성전자주식회사 3차원 영상을 위한 영상 처리 장치 및 방법
US9269178B2 (en) 2012-06-05 2016-02-23 Apple Inc. Virtual camera for 3D maps
US9219916B2 (en) 2012-06-12 2015-12-22 Dolby Laboratories Licensing Corporation Joint base layer and enhancement layer quantizer adaptation in EDR video coding
US9836483B1 (en) 2012-08-29 2017-12-05 Google Llc Using a mobile device for coarse shape matching against cloud-based 3D model database
US8996228B1 (en) 2012-09-05 2015-03-31 Google Inc. Construction zone object detection using light detection and ranging
US9234618B1 (en) * 2012-09-27 2016-01-12 Google Inc. Characterizing optically reflective features via hyper-spectral sensor
US9210432B2 (en) 2012-10-08 2015-12-08 Google Inc. Lossless inter-frame video coding
US9864184B2 (en) 2012-10-30 2018-01-09 California Institute Of Technology Embedded pupil function recovery for fourier ptychographic imaging devices
US9299152B2 (en) 2012-12-20 2016-03-29 Hong Kong Applied Science And Technology Research Institute Co., Ltd. Systems and methods for image depth map generation
US20140198097A1 (en) 2013-01-16 2014-07-17 Microsoft Corporation Continuous and dynamic level of detail for efficient point cloud object rendering
US20140204088A1 (en) 2013-01-18 2014-07-24 Microsoft Corporation Surface codec using reprojection onto depth maps
US9530225B1 (en) 2013-03-11 2016-12-27 Exelis, Inc. Point cloud data processing for scalable compression
US8874454B2 (en) 2013-03-15 2014-10-28 State Farm Mutual Automobile Insurance Company Systems and methods for assessing a roof
GB2513110A (en) 2013-04-08 2014-10-22 Sony Corp Data encoding and decoding
US9098773B2 (en) * 2013-06-27 2015-08-04 Chevron U.S.A. Inc. System and method of detecting objects in scene point cloud
US10154271B2 (en) 2013-07-12 2018-12-11 Samsung Electronics Co., Ltd. Method and apparatus for inter-layer decoding video using depth-based disparity vector, and method and apparatus for inter-layer encoding video using depth-based disparity vector
EP3386179A1 (en) 2013-09-20 2018-10-10 VID SCALE, Inc. Systems and methods for providing 3d look-up table coding for color gamut scalability
US9351003B2 (en) 2013-09-27 2016-05-24 Apple Inc. Context re-mapping in CABAC encoder
US9223765B1 (en) 2013-10-09 2015-12-29 Google Inc. Encoding and decoding data using context model grouping
US9424672B2 (en) 2013-11-07 2016-08-23 Here Global B.V. Method and apparatus for processing and aligning data point clouds
US9445115B2 (en) 2013-11-21 2016-09-13 Bae Systems Information And Electronic Systems Integration Inc. Coded image system and method thereof
US9412040B2 (en) 2013-12-04 2016-08-09 Mitsubishi Electric Research Laboratories, Inc. Method for extracting planes from 3D point cloud sensor data
US9386303B2 (en) 2013-12-31 2016-07-05 Personify, Inc. Transmitting video and sharing content via a network using multiple encoding techniques
US9613388B2 (en) * 2014-01-24 2017-04-04 Here Global B.V. Methods, apparatuses and computer program products for three dimensional segmentation and textured modeling of photogrammetry surface meshes
GB2523348B (en) 2014-02-20 2016-03-30 Gurulogic Microsystems Oy Encoder, decoder and method
US9476730B2 (en) 2014-03-18 2016-10-25 Sri International Real-time system for multi-modal 3D geospatial mapping, object recognition, scene annotation and analytics
CN103944580B (zh) 2014-04-14 2017-07-04 天津普仁万合信息技术有限公司 一种生理体征传感器持续采集信号的无损压缩方法
US9098754B1 (en) 2014-04-25 2015-08-04 Google Inc. Methods and systems for object detection using laser point clouds
US9996976B2 (en) 2014-05-05 2018-06-12 Avigilon Fortress Corporation System and method for real-time overlay of map features onto a video feed
GB2527607B (en) 2014-06-27 2016-10-05 Gurulogic Microsystems Oy Encoder, decoder and method
KR101663668B1 (ko) 2014-06-27 2016-10-07 삼성전자주식회사 영상 패딩영역의 비디오 복호화 및 부호화 장치 및 방법
CN104156972B (zh) 2014-08-25 2017-01-25 西北工业大学 基于激光扫描测距仪与多相机融合的透视成像方法
US9292961B1 (en) 2014-08-26 2016-03-22 The Boeing Company System and method for detecting a structural opening in a three dimensional point cloud
US10235338B2 (en) 2014-09-04 2019-03-19 Nvidia Corporation Short stack traversal of tree data structures
US9734595B2 (en) * 2014-09-24 2017-08-15 University of Maribor Method and apparatus for near-lossless compression and decompression of 3D meshes and point clouds
JP6590925B2 (ja) 2014-11-05 2019-10-16 コリン,ジャン−クロード 動画像を作成するための方法
US10104361B2 (en) 2014-11-14 2018-10-16 Samsung Electronics Co., Ltd. Coding of 360 degree videos using region adaptive smoothing
CN104408689B (zh) 2014-12-10 2017-10-24 武汉大学 基于全景影像的街景面片优化方法
US9616569B2 (en) 2015-01-22 2017-04-11 GM Global Technology Operations LLC Method for calibrating an articulated end effector employing a remote digital camera
CN104715496B (zh) * 2015-03-23 2017-11-07 中国科学技术大学 云环境下基于三维点云模型的图像预测方法、系统及装置
US10257344B2 (en) 2016-04-20 2019-04-09 Stephen Rhyne System, device, and method for tracking and monitoring mobile phone usage while operating a vehicle in order to deter and prevent such usage
US11373272B2 (en) 2015-06-05 2022-06-28 MindAptiv, LLC Digital gradient signal processing system and method for signals comprising at least three dimensions
US10277248B2 (en) 2015-07-07 2019-04-30 Tidal Systems, Inc. Compression engine with consistent throughput
CN105261060A (zh) 2015-07-23 2016-01-20 东华大学 基于点云压缩和惯性导航的移动场景实时三维重构方法
WO2017037103A1 (en) 2015-09-01 2017-03-09 Dream It Get It Limited Pmedia unit retrieval and related processes
US10887430B2 (en) 2015-10-21 2021-01-05 Dragonwave-X, Llc Compression in communications
EP3163536B1 (en) 2015-10-30 2021-12-08 Dassault Systèmes Compression of a three-dimensional modeled object
JP6300119B2 (ja) 2015-11-05 2018-03-28 コニカミノルタ株式会社 測色値取得方法及び画像形成装置並びに測色値取得制御プログラム
US20170214943A1 (en) * 2016-01-22 2017-07-27 Mitsubishi Electric Research Laboratories, Inc. Point Cloud Compression using Prediction and Shape-Adaptive Transforms
US10416667B2 (en) 2016-02-03 2019-09-17 Sony Corporation System and method for utilization of multiple-camera network to capture static and/or motion scenes
RU2766561C2 (ru) 2016-02-11 2022-03-15 Томсон Лайсенсинг Способ и устройство для кодирования/декодирования элемента изображения, содержащего данные изображения, представленные каналом составляющей яркости и, по меньшей мере, одним каналом составляющей цветности
US10319101B2 (en) 2016-02-24 2019-06-11 Quantum Spatial, Inc. Systems and methods for deriving spatial attributes for imaged objects utilizing three-dimensional information
US10040578B2 (en) 2016-02-26 2018-08-07 Skycatch, Inc. Battery arm sensor assembly
US10482196B2 (en) 2016-02-26 2019-11-19 Nvidia Corporation Modeling point cloud data using hierarchies of Gaussian mixture models
KR102520957B1 (ko) 2016-04-15 2023-04-12 삼성전자주식회사 인코딩 장치, 디코딩 장치 및 이의 제어 방법
TWI629892B (zh) 2016-05-09 2018-07-11 國立成功大學 景深包裝及解包裝之rgb格式與yuv格式的轉換與反轉換的方法及電路
US11297346B2 (en) * 2016-05-28 2022-04-05 Microsoft Technology Licensing, Llc Motion-compensated compression of dynamic voxelized point clouds
US10223810B2 (en) 2016-05-28 2019-03-05 Microsoft Technology Licensing, Llc Region-adaptive hierarchical transform and entropy coding for point cloud compression, and corresponding decompression
US10694210B2 (en) 2016-05-28 2020-06-23 Microsoft Technology Licensing, Llc Scalable point cloud compression with transform, and corresponding decompression
US9959604B2 (en) 2016-06-13 2018-05-01 Gopro, Inc. Dynamic global tone mapping with integrated 3D color look-up table
US10259164B2 (en) 2016-06-22 2019-04-16 Massachusetts Institute Of Technology Methods and apparatus for 3D printing of point cloud data
KR102529120B1 (ko) 2016-07-15 2023-05-08 삼성전자주식회사 영상을 획득하는 방법, 디바이스 및 기록매체
CN113411576B (zh) 2016-07-22 2024-01-12 夏普株式会社 使用自适应分量缩放对视频数据进行编码的系统和方法
US20180053324A1 (en) 2016-08-19 2018-02-22 Mitsubishi Electric Research Laboratories, Inc. Method for Predictive Coding of Point Cloud Geometries
CN108541322B (zh) 2016-08-29 2021-09-14 北京清影机器视觉技术有限公司 三维视觉测量数据的处理方法和装置
US10271069B2 (en) 2016-08-31 2019-04-23 Microsoft Technology Licensing, Llc Selective use of start code emulation prevention
KR102352933B1 (ko) 2016-09-09 2022-01-20 삼성전자주식회사 3차원 이미지를 프로세싱하기 위한 방법 및 장치
EP3293702B1 (en) 2016-09-13 2020-04-29 Dassault Systèmes Compressing a signal that represents a physical attribute
US10372728B2 (en) 2016-09-16 2019-08-06 Oracle International Corporation System and method providing a scalable and efficient space filling curve approach to point cloud feature generation
WO2018051746A1 (ja) 2016-09-16 2018-03-22 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ作成方法及び三次元データ作成装置
CN109792528A (zh) 2016-09-19 2019-05-21 交互数字Vc控股公司 使用光场数据重构表示场景的点云的方法和设备
CN106651942B (zh) 2016-09-29 2019-09-17 苏州中科广视文化科技有限公司 基于特征点的三维旋转运动检测与旋转轴定位方法
US9787321B1 (en) 2016-11-17 2017-10-10 Google Inc. Point cloud data compression using a space-filling curve
US10715618B2 (en) 2016-12-12 2020-07-14 Hughes Network Systems, Llc Compressibility estimation for lossless data compression
US10785279B2 (en) 2016-12-29 2020-09-22 Facebook, Inc. Video encoding using starve mode
GB2558314B (en) 2017-01-02 2020-07-29 Canon Kk Improved attribute mapping to encode and decode 3D models
CN106846425B (zh) 2017-01-11 2020-05-19 东南大学 一种基于八叉树的散乱点云压缩方法
EP3349182A1 (en) 2017-01-13 2018-07-18 Thomson Licensing Method, apparatus and stream for immersive video format
GB2560319B (en) 2017-03-06 2020-09-02 Canon Kk Improved encoding and decoding of texture mapping data in textured 3D mesh models
US11514613B2 (en) 2017-03-16 2022-11-29 Samsung Electronics Co., Ltd. Point cloud and mesh compression using image/video codecs
US10242458B2 (en) 2017-04-21 2019-03-26 Qualcomm Incorporated Registration of range images using virtual gimbal information
US20190340306A1 (en) 2017-04-27 2019-11-07 Ecosense Lighting Inc. Methods and systems for an automated design, fulfillment, deployment and operation platform for lighting installations
US10359513B2 (en) 2017-05-03 2019-07-23 Elwha Llc Dynamic-metamaterial coded-aperture imaging
US10615395B2 (en) 2017-05-10 2020-04-07 Apple Inc. Battery cap with cut-out sections
US10467756B2 (en) 2017-05-14 2019-11-05 International Business Machines Corporation Systems and methods for determining a camera pose of an image
US10511696B2 (en) 2017-05-17 2019-12-17 CodeShop, B.V. System and method for aggregation, archiving and compression of internet of things wireless sensor data
GB2563019B (en) 2017-05-29 2021-07-28 Canon Kk Improved valence-based encoding and decoding of connectivity data in a 3D model
US10325409B2 (en) 2017-06-16 2019-06-18 Microsoft Technology Licensing, Llc Object holographic augmentation
WO2019002662A1 (en) 2017-06-26 2019-01-03 Nokia Technologies Oy APPARATUS, METHOD AND COMPUTER PROGRAM FOR OMNIDIRECTIONAL VIDEO
WO2019008221A1 (en) 2017-07-03 2019-01-10 Nokia Technologies Oy APPARATUS, METHOD, AND COMPUTER PROGRAM FOR OMNIDIRECTIONAL VIDEO
WO2019013430A1 (en) 2017-07-10 2019-01-17 Samsung Electronics Co., Ltd. COMPRESSION OF MAILLAGES AND POINT CLOUDS USING IMAGE / VIDEO CODECS
US10474524B2 (en) 2017-07-12 2019-11-12 Topcon Positioning Systems, Inc. Point cloud filter method and apparatus
EP3429210A1 (en) 2017-07-13 2019-01-16 Thomson Licensing Methods, devices and stream for encoding and decoding volumetric video
EP3429212A1 (en) 2017-07-13 2019-01-16 Thomson Licensing A method and apparatus for encoding/decoding the geometry of a point cloud representing a 3d object
US10587883B2 (en) 2017-07-14 2020-03-10 Qualcomm Incorporated Region-wise packing, content coverage, and signaling frame packing for media content
EP3432581A1 (en) 2017-07-21 2019-01-23 Thomson Licensing Methods, devices and stream for encoding and decoding volumetric video
US20190041481A1 (en) 2017-08-04 2019-02-07 Muralidhara Subbarao Massively parallel magnetic resonance imaging wherein numerous off-surface coils are used to acquire partially under-sampled magnetic resonance signal data
US10395419B1 (en) 2017-08-04 2019-08-27 Bentley Systems, Incorporated Non-destructive multi-resolution surface clipping
US11024078B2 (en) 2017-08-07 2021-06-01 Verizon Patent And Licensing Inc. Systems and methods compression, transfer, and reconstruction of three-dimensional (3D) data meshes
WO2019034807A1 (en) 2017-08-15 2019-02-21 Nokia Technologies Oy SEQUENTIAL CODING AND DECODING OF VOLUMETRIC VIDEO
US11109066B2 (en) 2017-08-15 2021-08-31 Nokia Technologies Oy Encoding and decoding of volumetric video
US10462485B2 (en) 2017-09-06 2019-10-29 Apple Inc. Point cloud geometry compression
US10861196B2 (en) 2017-09-14 2020-12-08 Apple Inc. Point cloud compression
US11818401B2 (en) 2017-09-14 2023-11-14 Apple Inc. Point cloud geometry compression using octrees and binary arithmetic encoding with adaptive look-up tables
US10805646B2 (en) 2018-06-22 2020-10-13 Apple Inc. Point cloud geometry compression using octrees and binary arithmetic encoding with adaptive look-up tables
US10897269B2 (en) 2017-09-14 2021-01-19 Apple Inc. Hierarchical point cloud compression
KR102119300B1 (ko) 2017-09-15 2020-06-04 서울과학기술대학교 산학협력단 360도 영상 부호화 장치 및 방법, 이를 수행하기 위한 기록 매체
US10909725B2 (en) 2017-09-18 2021-02-02 Apple Inc. Point cloud compression
US11113845B2 (en) 2017-09-18 2021-09-07 Apple Inc. Point cloud compression using non-cubic projections and masks
EP3462415A1 (en) 2017-09-29 2019-04-03 Thomson Licensing Method and device for modifying attributes of points of a 3d scene
WO2019065587A1 (en) 2017-09-29 2019-04-04 Sharp Kabushiki Kaisha SYSTEMS AND METHODS FOR SIGNALING INFORMATION ASSOCIATED WITH A CONSTITUTIVE IMAGE
KR20200058398A (ko) 2017-09-29 2020-05-27 소니 주식회사 정보 처리 장치 및 방법
CN111183588B (zh) 2017-10-05 2023-09-26 索尼公司 信息处理装置和方法
EP3468182A1 (en) 2017-10-06 2019-04-10 InterDigital VC Holdings, Inc. A method and apparatus for encoding a point cloud representing three-dimensional objects
EP3695597A4 (en) 2017-10-11 2021-06-30 Nokia Technologies Oy APPARATUS, PROCESS AND COMPUTER PROGRAM FOR VOLUMETRIC VIDEO
US10499054B2 (en) 2017-10-12 2019-12-03 Mitsubishi Electric Research Laboratories, Inc. System and method for inter-frame predictive compression for point clouds
US11270470B2 (en) 2017-10-12 2022-03-08 Sony Group Corporation Color leaking suppression in anchor point cloud compression
US10726299B2 (en) 2017-10-12 2020-07-28 Sony Corporation Sorted geometry with color clustering (SGCC) for point cloud compression
US10559126B2 (en) 2017-10-13 2020-02-11 Samsung Electronics Co., Ltd. 6DoF media consumption architecture using 2D video decoder
GB201717012D0 (en) 2017-10-17 2017-11-29 Nokia Technologies Oy An apparatus a method and a computer program for coding volumetric video
EP3474233A1 (en) 2017-10-19 2019-04-24 Thomson Licensing A method and apparatus for encoding/decoding the geometry of a point cloud representing a 3d object
US10424083B2 (en) 2017-10-21 2019-09-24 Samsung Electronics Co., Ltd. Point cloud compression using hybrid transforms
US10535161B2 (en) 2017-11-09 2020-01-14 Samsung Electronics Co., Ltd. Point cloud compression using non-orthogonal projection
WO2019093834A1 (en) 2017-11-09 2019-05-16 Samsung Electronics Co., Ltd. Point cloud compression using non-orthogonal projection
US10699444B2 (en) 2017-11-22 2020-06-30 Apple Inc Point cloud occupancy map compression
US10607373B2 (en) 2017-11-22 2020-03-31 Apple Inc. Point cloud compression with closed-loop color conversion
US10789733B2 (en) 2017-11-22 2020-09-29 Apple Inc. Point cloud compression with multi-layer projection
EP3489900A1 (en) 2017-11-23 2019-05-29 Thomson Licensing Method, apparatus and stream for encoding/decoding volumetric video
EP3496388A1 (en) 2017-12-05 2019-06-12 Thomson Licensing A method and apparatus for encoding a point cloud representing three-dimensional objects
US10510148B2 (en) 2017-12-18 2019-12-17 Hong Kong Applied Science And Technology Research Institute Co., Ltd. Systems and methods for block based edgel detection with false edge elimination
US10783668B2 (en) 2017-12-22 2020-09-22 Samsung Electronics Co., Ltd. Handling duplicate points in point cloud compression
WO2019129923A1 (en) 2017-12-29 2019-07-04 Nokia Technologies Oy An apparatus, a method and a computer program for volumetric video
WO2019135024A1 (en) 2018-01-02 2019-07-11 Nokia Technologies Oy An apparatus, a method and a computer program for volumetric video
WO2019142667A1 (ja) 2018-01-17 2019-07-25 ソニー株式会社 画像処理装置および方法
EP3514969B1 (en) 2018-01-18 2021-08-04 BlackBerry Limited Methods and devices using direct coding in point cloud compression
MX2020007663A (es) 2018-01-19 2020-09-14 Interdigital Vc Holdings Inc Procesamiento de una nube de puntos.
EP3515068A1 (en) 2018-01-19 2019-07-24 Thomson Licensing A method and apparatus for encoding and decoding three-dimensional scenes in and from a data stream
EP3751520A4 (en) * 2018-02-08 2021-03-31 Panasonic Intellectual Property Corporation of America THREE-DIMENSIONAL DATA ENCODING PROCESS, THREE-DIMENSIONAL DATA DECODING PROCESS, THREE-DIMENSIONAL DATA ENCODING DEVICE, AND TRIDIMENSIONAL DATA DECODING DEVICE
US11044495B1 (en) 2018-02-13 2021-06-22 Cyborg Inc. Systems and methods for variable length codeword based data encoding and decoding using dynamic memory allocation
GB2571306A (en) 2018-02-23 2019-08-28 Sony Interactive Entertainment Europe Ltd Video recording and playback systems and methods
US10916041B2 (en) 2018-03-30 2021-02-09 Samsung Electronics Co., Ltd. Method for depth image di coding
KR20190117287A (ko) 2018-04-06 2019-10-16 삼성전자주식회사 중복 포인트 처리 방법 및 장치
EP3777185A4 (en) 2018-04-09 2022-01-05 Nokia Technologies Oy APPARATUS, METHOD AND COMPUTER PROGRAM FOR VOLUMETRIC VIDEO
CN111434112B (zh) 2018-04-09 2022-08-09 华为技术有限公司 全局匹配patch的获取方法及装置
EP3553746B1 (en) 2018-04-09 2021-08-25 BlackBerry Limited Methods and devices for predictive coding of point clouds
US11010928B2 (en) 2018-04-10 2021-05-18 Apple Inc. Adaptive distance based point cloud compression
US10909726B2 (en) 2018-04-10 2021-02-02 Apple Inc. Point cloud compression
US10909727B2 (en) 2018-04-10 2021-02-02 Apple Inc. Hierarchical point cloud compression with smoothing
US10867414B2 (en) 2018-04-10 2020-12-15 Apple Inc. Point cloud attribute transfer algorithm
US10939129B2 (en) 2018-04-10 2021-03-02 Apple Inc. Point cloud compression
EP3779886A4 (en) 2018-04-10 2021-06-16 Panasonic Intellectual Property Corporation of America TRIMDIMENSIONAL DATA CODING AND DECODING PROCESS AND TRIDMENSIONAL DATA ENCODING AND DECODING DEVICE
CN111937402A (zh) 2018-04-11 2020-11-13 索尼公司 图像处理装置和方法
EP3780626A1 (en) 2018-04-11 2021-02-17 Samsung Electronics Co., Ltd. Device and method for processing data in multimedia system
US10984541B2 (en) 2018-04-12 2021-04-20 Samsung Electronics Co., Ltd. 3D point cloud compression systems for delivery and access of a subset of a compressed 3D point cloud
US10657689B2 (en) 2018-04-13 2020-05-19 Sony Corporation Method and apparatus for point cloud color processing
WO2019199415A1 (en) 2018-04-13 2019-10-17 Futurewei Technologies, Inc. Differential coding method for patch side information
AU2019256021B2 (en) 2018-04-19 2024-05-16 Panasonic Intellectual Property Corporation Of America Three-dimensional data encoding method, three-dimensional data decoding method, three-dimensional data encoding device, and three-dimensional data decoding device
US11146284B2 (en) 2018-05-03 2021-10-12 Sap Se Space-filling curve dictionary-based compression
CN108833927B (zh) 2018-05-03 2019-08-16 北京大学深圳研究生院 一种基于删除量化矩阵中0元素的点云属性压缩方法
CN108632607B (zh) 2018-05-09 2019-06-21 北京大学深圳研究生院 一种基于多角度自适应帧内预测的点云属性压缩方法
EP3579194A1 (en) 2018-06-08 2019-12-11 My Virtual Reality Software AS Indexation of massive point cloud data for efficient visualization
US11501507B2 (en) 2018-06-26 2022-11-15 Sony Group Corporation Motion compensation of geometry information
EP3804320A4 (en) 2018-06-26 2021-06-30 Huawei Technologies Co., Ltd. HIGH LEVEL SYNTAX VERSIONS FOR POINT CLOUD CODING
US11010955B2 (en) 2018-06-27 2021-05-18 Sony Group Corporation Point cloud mapping
US11044478B2 (en) 2018-07-02 2021-06-22 Apple Inc. Compression with multi-level encoding
US11017566B1 (en) 2018-07-02 2021-05-25 Apple Inc. Point cloud compression with adaptive filtering
JP2020017946A (ja) 2018-07-03 2020-01-30 財團法人工業技術研究院Industrial Technology Research Institute ポイントクラウドパッチ処理方法および装置
US11202098B2 (en) 2018-07-05 2021-12-14 Apple Inc. Point cloud compression with multi-resolution video encoding
US10911787B2 (en) 2018-07-10 2021-02-02 Apple Inc. Hierarchical point cloud compression
US11348283B2 (en) 2018-07-10 2022-05-31 Samsung Electronics Co., Ltd. Point cloud compression via color smoothing of point cloud prior to texture video generation
EP3595181B1 (en) 2018-07-11 2023-09-06 BlackBerry Limited Predictor-copy coding mode for coding of point clouds
US11138762B2 (en) 2018-07-11 2021-10-05 Samsung Electronics Co., Ltd. Visual quality of video based point cloud compression using one or more additional patches
EP3821608A4 (en) 2018-07-11 2022-04-13 Nokia Technologies Oy METHOD AND DEVICE FOR STORAGE AND SIGNALING OF COMPRESSED POINT CLOUDS
KR20210028606A (ko) 2018-07-11 2021-03-12 소니 주식회사 화상 처리 장치 및 방법
US11012713B2 (en) 2018-07-12 2021-05-18 Apple Inc. Bit stream structure for compressed point cloud data
US10783698B2 (en) 2018-07-31 2020-09-22 Intel Corporation Point cloud operations
US20200045344A1 (en) 2018-07-31 2020-02-06 Intel Corporation Video processing mechanism
EP3614674A1 (en) 2018-08-23 2020-02-26 Nokia Technologies Oy An apparatus, a method and a computer program for volumetric video
EP3850579A4 (en) 2018-09-13 2022-08-03 Nokia Technologies Oy METHOD, DEVICE AND COMPUTER PROGRAM PRODUCT FOR VOLUMETRIC VIDEO
CN112690002B (zh) 2018-09-14 2023-06-02 华为技术有限公司 点云译码中属性层和指示的改进
CN112740277A (zh) 2018-09-28 2021-04-30 索尼公司 图像处理装置和图像处理方法
US11132818B2 (en) 2018-09-28 2021-09-28 Apple Inc. Predicting attributes for point cloud compression according to a space filling curve
US11386524B2 (en) 2018-09-28 2022-07-12 Apple Inc. Point cloud compression image padding
CN112771867A (zh) 2018-09-28 2021-05-07 夏普株式会社 3d数据生成装置、3d数据再现装置、控制程序以及记录介质
US20200153885A1 (en) 2018-10-01 2020-05-14 Lg Electronics Inc. Apparatus for transmitting point cloud data, a method for transmitting point cloud data, an apparatus for receiving point cloud data and/or a method for receiving point cloud data
US11166048B2 (en) 2018-10-02 2021-11-02 Tencent America LLC Method and apparatus for video coding
US11367224B2 (en) 2018-10-02 2022-06-21 Apple Inc. Occupancy map block-to-patch information compression
WO2020071416A1 (ja) 2018-10-02 2020-04-09 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
US10853973B2 (en) 2018-10-03 2020-12-01 Apple Inc. Point cloud compression using fixed-point numbers
CN112806016A (zh) 2018-10-05 2021-05-14 交互数字Vc控股公司 一种用于编码/重构点云的点的属性的方法和设备
US11430155B2 (en) 2018-10-05 2022-08-30 Apple Inc. Quantized depths for projection point cloud compression
WO2020075780A1 (ja) 2018-10-09 2020-04-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
BR112021007095A2 (pt) 2018-11-16 2021-07-27 Panasonic Intellectual Property Corporation Of America método de codificação de dados tridimensionais, método de decodificação de dados tridimensionais, dispositivo de codificação de dados tridimensionais, e dispositivo de decodificação de dados tridimensionais
US10867430B2 (en) 2018-11-19 2020-12-15 Intel Corporation Method and system of 3D reconstruction with volume-based filtering for image processing
US11010907B1 (en) 2018-11-27 2021-05-18 Zoox, Inc. Bounding box selection
US10762667B2 (en) 2018-11-30 2020-09-01 Point Cloud Compression, B.V. Method and apparatus for compression of point cloud data
JPWO2020116563A1 (ja) 2018-12-06 2021-10-28 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
WO2020123252A1 (en) 2018-12-11 2020-06-18 Google Llc Compression of data representing triangular mesh attributes using machine learning
US10812818B2 (en) 2018-12-14 2020-10-20 Tencent America LLC Network abstraction unit layer type classes in network abstraction layer unit header
US11095900B2 (en) 2018-12-19 2021-08-17 Sony Group Corporation Point cloud coding structure
US11288843B2 (en) 2019-01-04 2022-03-29 Samsung Electronics Co., Ltd. Lossy compression of point cloud occupancy maps
US11348284B2 (en) 2019-01-08 2022-05-31 Apple Inc. Auxiliary information signaling and reference management for projection-based point cloud compression
US11454710B2 (en) 2019-01-08 2022-09-27 Apple Inc. Point cloud compression using a space filling curve for level of detail generation
US11284091B2 (en) 2019-03-25 2022-03-22 Apple Inc. Video based point cloud compression-patch alignment and size determination in bounding box
US11373338B2 (en) 2019-01-09 2022-06-28 Samsung Electronics Co., Ltd. Image padding in video-based point-cloud compression CODEC
US11393132B2 (en) 2019-03-07 2022-07-19 Samsung Electronics Co., Ltd. Mesh compression
US11823421B2 (en) 2019-03-14 2023-11-21 Nokia Technologies Oy Signalling of metadata for volumetric video
US10964068B2 (en) 2019-03-18 2021-03-30 Blackberry Limited Methods and devices for predictive point cloud attribute coding
CN110097639B (zh) 2019-03-18 2023-04-18 北京工业大学 一种三维人体姿态估计方法
US10587286B1 (en) 2019-03-18 2020-03-10 Blackberry Limited Methods and devices for handling equiprobable symbols in entropy coding
US11334969B2 (en) 2019-03-19 2022-05-17 Sony Group Corporation Point cloud geometry padding
WO2020190075A1 (ko) 2019-03-20 2020-09-24 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
US11503367B2 (en) 2019-03-20 2022-11-15 Tencent America LLC Techniques and apparatus for weighted-median prediction for point-cloud attribute coding
EP3751857A1 (en) 2019-06-14 2020-12-16 Nokia Technologies Oy A method, an apparatus and a computer program product for volumetric video encoding and decoding
JP7141543B2 (ja) 2019-06-26 2022-09-22 テンセント・アメリカ・エルエルシー ポイントクラウドのジオメトリ復号及び符号化のための暗示的な四分木又は二分木ジオメトリ分割
WO2021002657A1 (ko) 2019-07-04 2021-01-07 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
US11368717B2 (en) 2019-09-16 2022-06-21 Tencent America LLC Method and apparatus for point cloud compression
US11450030B2 (en) 2019-09-24 2022-09-20 Apple Inc. Three-dimensional mesh compression using a video encoder
US11627314B2 (en) 2019-09-27 2023-04-11 Apple Inc. Video-based point cloud compression with non-normative smoothing
US11202078B2 (en) 2019-09-27 2021-12-14 Apple Inc. Dynamic point cloud compression using inter-prediction
US11409998B2 (en) 2019-10-02 2022-08-09 Apple Inc. Trimming search space for nearest neighbor determinations in point cloud compression
US11538196B2 (en) 2019-10-02 2022-12-27 Apple Inc. Predictive coding for point cloud compression
US11398833B2 (en) 2019-10-02 2022-07-26 Apple Inc. Low-latency encoding using a bypass sub-stream and an entropy encoded sub-stream
WO2021066312A1 (ko) 2019-10-03 2021-04-08 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
US11568571B2 (en) 2019-10-03 2023-01-31 Tencent America LLC Techniques and apparatus for lossless lifting for attribute coding
EP4018669A4 (en) 2019-10-03 2022-11-02 LG Electronics Inc. POINT CLOUD DATA TRANSMITTING DEVICE, POINT CLOUD DATA TRANSMITTING METHOD, POINT CLOUD DATA RECEIVING DEVICE AND POINT CLOUD DATA RECEIVING METHOD
US11895307B2 (en) 2019-10-04 2024-02-06 Apple Inc. Block-based predictive coding for point cloud compression
US11676310B2 (en) 2019-11-16 2023-06-13 Uatc, Llc System and methods for encoding octree structured point cloud data using an entropy model
US11223836B2 (en) 2019-12-02 2022-01-11 Tencent America LLC Method and apparatus for point cloud coding
US11417029B2 (en) 2019-12-02 2022-08-16 Tencent America LLC Method and apparatus for point cloud coding
US11798196B2 (en) 2020-01-08 2023-10-24 Apple Inc. Video-based point cloud compression with predicted patches
US11477483B2 (en) 2020-01-08 2022-10-18 Apple Inc. Video-based point cloud compression with variable patch scaling
US11475605B2 (en) 2020-01-09 2022-10-18 Apple Inc. Geometry encoding of duplicate points
US11710259B2 (en) 2020-02-10 2023-07-25 Tencent America LLC Predictive tree coding for point cloud coding
US11741637B2 (en) 2020-02-10 2023-08-29 Tencent America LLC Node-based geometry and attribute coding for a point cloud
US11450031B2 (en) 2020-04-14 2022-09-20 Apple Inc. Significant coefficient flag encoding for point cloud attribute compression
US11375208B2 (en) 2020-06-23 2022-06-28 Sony Group Corporation Trisoup node size per slice
US11615557B2 (en) 2020-06-24 2023-03-28 Apple Inc. Point cloud compression using octrees with slicing
US11620768B2 (en) 2020-06-24 2023-04-04 Apple Inc. Point cloud geometry compression using octrees with multiple scan orders
US20220101555A1 (en) 2020-09-29 2022-03-31 Samsung Electronics Co., Ltd. Method, apparatus, electronic device and storage medium for estimating object pose
GB202100316D0 (en) 2021-01-11 2021-02-24 Samsung Electronics Co Ltd Hybrid image retargeting
US20230169658A1 (en) * 2021-11-29 2023-06-01 Adobe Inc. Instant masks with polarized light

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103366006A (zh) * 2013-07-19 2013-10-23 武汉睿数信息技术有限公司 一种基于三维激光点云建立地理空间索引的方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
3维点云的拓扑结构表征与计算技术;张义宽;张晓鹏;查红彬;张讲社;;中国图象图形学报(第08期);全文 *

Also Published As

Publication number Publication date
DE112018005149T5 (de) 2020-09-10
KR20200039757A (ko) 2020-04-16
CN117319682A (zh) 2023-12-29
US11935272B2 (en) 2024-03-19
US10861196B2 (en) 2020-12-08
US20210118190A1 (en) 2021-04-22
WO2019055772A1 (en) 2019-03-21
CN111095929A (zh) 2020-05-01
KR102317576B1 (ko) 2021-10-25
US11461935B2 (en) 2022-10-04
US20230099049A1 (en) 2023-03-30
US20190080483A1 (en) 2019-03-14

Similar Documents

Publication Publication Date Title
CN111095929B (zh) 一种压缩针对点云的属性信息的系统、方法及计算机可读介质
US11552651B2 (en) Hierarchical point cloud compression
US11727603B2 (en) Adaptive distance based point cloud compression
US11409998B2 (en) Trimming search space for nearest neighbor determinations in point cloud compression
US11508095B2 (en) Hierarchical point cloud compression with smoothing
US11252441B2 (en) Hierarchical point cloud compression
US11276203B2 (en) Point cloud compression using fixed-point numbers
US11450031B2 (en) Significant coefficient flag encoding for point cloud attribute compression
US11754685B2 (en) Point cloud compression using a space filling curve for level of detail generation
US11202078B2 (en) Dynamic point cloud compression using inter-prediction
US11132818B2 (en) Predicting attributes for point cloud compression according to a space filling curve

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant