CN114257816A - 一种点云媒体的数据处理方法、装置、设备及存储介质 - Google Patents
一种点云媒体的数据处理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN114257816A CN114257816A CN202011030289.3A CN202011030289A CN114257816A CN 114257816 A CN114257816 A CN 114257816A CN 202011030289 A CN202011030289 A CN 202011030289A CN 114257816 A CN114257816 A CN 114257816A
- Authority
- CN
- China
- Prior art keywords
- point cloud
- sample group
- ith sample
- media
- indication information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/187—Segmentation; Edge detection involving region growing; involving region merging; involving connected component labelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L12/00—Data switching networks
- H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
- H04L12/46—Interconnection of networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L12/00—Data switching networks
- H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
- H04L12/46—Interconnection of networks
- H04L12/4633—Interconnection of networks using encapsulation techniques, e.g. tunneling
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/194—Transmission of image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/13—Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Computer Networks & Wireless Communication (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本申请实施例公开了一种点云媒体的数据处理方法、装置、设备及存储介质,该点云媒体的数据处理方法包括:获取点云媒体的第i样本组的点云对象指示信息,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个;第i样本组中包括点云对象,第i样本组的点云对象指示信息用于指示第i样本组中包含的点云对象的属性,N、i均为正整数且i∈[1,N];按照第i样本组的点云对象指示信息解析点云媒体。采用本申请实施例,通过对点云媒体中包含的点云对象进行指示,能够在一定程度上提升点云媒体的解析处理效率。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及点云媒体技术领域,具体涉及一种点云媒体的数据处理方法、一种点云媒体的数据处理装置、一种点云媒体的数据处理设备以及一种计算机可读存储介质。
背景技术
随着科学技术的不断发展,目前已经能够以较低的成本、在较短的时间周期内获得大量高精度的点云数据,点云数据往往以点云媒体的形式在内容制作设备与内容消费设备之间进行传输。
点云媒体的传输过程具体如下:内容制作设备对点云媒体进行编码后,对编码后的点云媒体进行封装,得到点云媒体的封装文件,内容制作设备将点云媒体的封装文件传输给内容消费设备;内容消费设备对内容制作设备传输的点云媒体的封装文件进行解封装,然后再进行解码,最后内容消费设备呈现该媒体文件。由于点云媒体中包含的点云数据的数量较大,怎样提升点云媒体的解析处理效率,从而为点云媒体的消费带来较佳体验,是业界一直在持续解决的问题。
发明内容
本申请实施例提供了一种点云媒体的数据处理方法、装置、设备及存储介质,通过对点云媒体中包含的点云对象进行指示,能够在一定程度上提升点云媒体的解析处理效率。
一方面,本申请实施例提供一种点云媒体的数据处理方法,该点云媒体的数据处理方法包括:
获取点云媒体的第i样本组的点云对象指示信息,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个;第i样本组中包括点云对象,第i样本组的点云对象指示信息用于指示第i样本组中包含的点云对象的属性,N、i均为正整数且i∈[1,N];
按照第i样本组的点云对象指示信息解析点云媒体。
另一方面,本申请实施例提供一种点云媒体的数据处理方法,该点云媒体的数据处理方法包括:
生成点云媒体的第i样本组的点云对象指示信息,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个;第i样本组中包括点云对象,第i样本组的点云对象指示信息用于指示第i样本组中包含的点云对象的属性,N、i均为正整数且i∈[1,N];
向内容消费设备传输第i样本组的点云对象指示信息,以使内容消费设备按照第i样本组的点云对象指示信息解析点云媒体。
另一方面,本申请实施例提供一种点云媒体的数据处理装置,该点云媒体的数据处理装置包括:
获取单元,用于获取点云媒体的第i样本组的点云对象指示信息,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个;第i样本组中包括点云对象,第i样本组的点云对象指示信息用于指示第i样本组中包含的点云对象的属性,N、i均为正整数且i∈[1,N];
处理单元,用于按照第i样本组的点云对象指示信息解析点云媒体。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象优先级字段,对象优先级字段用于指示第i样本组的优先级;对象优先级字段的取值越小,则第i样本组的优先级越高,第i样本组在传输过程中被丢弃的可能性越小;
第i样本组的点云指示信息中还包含对象数量字段,对象数量字段用于指示第i样本组内包含的点云对象的数量;对象数量字段的取值为M,M为正整数;当M取值为1时,第i样本组内包含一个点云对象,且第i样本组内的点云对象对应一个优先级,第i样本组的优先级等于第i样本组中包含的点云对象的优先级;当M取值大于1时,第i样本组内包含M个点云对象,M个点云对象中的每个点云对象分别对应一个优先级,第i样本组的优先级等于M个优先级中的最高优先级。
在一种实现方式中,第j样本组是N个样本组中除第i样本组外的任一个,j为正整数且j∈[1,N];第i样本组的优先级高于第j样本组的优先级;处理单元,具体用于:
优先按照第i样本组的点云对象指示信息解析第i样本组,再按照第j样本组的点云对象指示信息解析第j样本组;
其中,第i样本组的优先级高于第j样本组的优先级,包括:若第j样本组中不包括点云对象,则第i样本组的优先级高于第j样本组的优先级;或者,若第j样本组中包括点云对象,但第j样本组的点云对象指示信息中包含的对象优先级字段的取值大于第i样本组的点云对象指示信息中包含的对象优先级字段的取值,则第i样本组的优先级高于第j样本组的优先级。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象场景字段,对象场景字段用于指示第i样本组中包含的点云对象所属的应用场景;不同应用场景下,对象场景字段的取值不同;处理单元,具体用于:
读取第i样本组的点云对象指示信息中的对象场景字段,并根据对象场景字段的取值确定第i样本组内的点云对象所属的应用场景;
其中,应用场景包括以下至少一种:高精地图场景、实时巡检场景及抢险救灾场景。
在一种实现方式中,第i样本组内包含M个点云对象,M为正整数;第i样本组的点云对象指示信息中包含M个对象类型字段,M个对象类型字段用于分别指示M个点云对象的类型;不同类型的点云对象对应的对象类型字段的取值不同;设第m点云对象是M个点云对象中的任一个,第m对象类型字段是M个对象类型字段中的任一个,第m对象类型字段用于指示第m点云对象的类型;m为正整数且m∈[1,M];处理单元,具体用于:
读取第i样本组的点云对象指示信息中的第m对象类型字段,并根据第m对象类型字段的取值确定第i样本组内的第m点云对象的类型;
其中,类型包括以下任一种:场景异常情况、场景指示对象及目标对象。
在一种实现方式中,第i样本组的点云对象指示信息中还包含M个对象描述字段,M个对象描述字段用于分别指示M个点云对象的描述信息;第m对象描述字段是M个对象描述字段中的任一个,第m对象描述字段的取值是以空字符结尾的8位元字符串,用于指示第m点云对象的描述信息;处理单元,具体用于:
读取第i样本组的点云对象指示信息中的第m对象描述字段,并根据第m对象描述字段的取值确定第i样本组内的第m点云对象的描述信息,并响应描述信息;
其中,描述信息包括以下至少一种:告警信息、突出显示信息及求救信息。
在一种实现方式中,点云媒体包括多个媒体帧,多个媒体帧被封装至N个样本组中,每个样本组中包括至少一个媒体帧;第i样本组内的点云对象存在于第i样本组内的媒体帧中;第i样本组内的所有媒体帧构成一个能够被独立编解码的集合;获取单元,具体用于:
获取内容制作设备下发的描述信令文件,描述信令文件中包括点云媒体的至少一个封装文件描述信息;
若描述信令文件中的目标封装文件描述信息被选择,则向内容制作设备发送获取请求,获取请求中携带目标封装文件描述信息,以使内容制作设备根据获取请求返回目标封装文件,目标封装文件中包括第i样本组的点云对象指示信息;
从目标封装文件中获取第i样本组的点云对象指示信息;
处理单元,具体用于:
按照第i样本组的点云对象指示信息对第i样本组进行独立解码,得到第i样本组内的至少一个媒体帧。
另一方面,本申请实施例提供一种点云媒体的数据处理装置,该点云媒体的数据处理装置包括:
处理单元,用于生成点云媒体的第i样本组的点云对象指示信息,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个;第i样本组中包括点云对象,第i样本组的点云对象指示信息用于指示第i样本组中包含的点云对象的属性,N、i均为正整数且i∈[1,N];
传输单元,用于向内容消费设备传输第i样本组的点云对象指示信息,以使内容消费设备按照第i样本组的点云对象指示信息解析点云媒体。
在一种实现方式中,点云媒体包括多个媒体帧,多个媒体帧被封装至N个样本组中;处理单元,还用于:
对点云媒体的各个媒体帧进行对象识别;
若识别出点云媒体的至少一个媒体帧中包含点云对象,则将识别得到的至少一个媒体帧封装至第i样本组中;第i样本组内的所有媒体帧构成一个能够被独立编解码的集合;以及,
将点云媒体中的未识别出包含点云对象的其他媒体帧分别封装至N个样本组中除第i样本组之外的其他样本组中。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象优先级字段,对象优先级字段用于指示第i样本组的优先级;对象优先级字段的取值越小,则第i样本组的优先级越高,第i样本组在传输过程中被丢弃的可能性越小;第i样本组的点云指示信息中还包含对象数量字段,对象数量字段用于指示第i样本组内包含的点云对象的数量;处理单元,具体用于:
识别第i样本组内的点云对象的数量,并根据第i样本组内的点云对象的数量配置第i样本组的点云指示信息中的对象数量字段的取值为M,M为正整数;M个点云对象中每个点云对象分别对应一个优先级;
根据M个点云对象对应的优先级配置第i样本组的点云对象指示信息中的对象优先级字段;
其中,当M取值为1时,第i样本组内包含一个点云对象,且第i样本组内的点云对象对应一个优先级,第i样本组的优先级等于第i样本组中包含的点云对象的优先级;当M取值大于1时,第i样本组内包含M个点云对象,M个点云对象中的每个点云对象分别对应一个优先级,第i样本组的优先级等于M个优先级中的最高优先级。
在一种实现方式中,处理单元,还用于:若检测到网络拥塞,则根据点云媒体包含的各个样本组的对象指示信息中的对象优先级字段所指示的优先级,按照各个样本组的优先级由低至高的顺序丢弃点云媒体中的相应样本组,并对点云媒体进行重新封装后发送至内容消费设备。
在一种实现方式中,第i样本组内包含M个点云对象,M为正整数;第i样本组的点云对象指示信息中包含M个对象类型字段和M个对象描述字段,M个对象类型字段用于分别指示M个点云对象的类型,M个对象描述字段用于分别指示M个点云对象的描述信息;不同类型的点云对象对应的对象类型字段的取值不同;设第m点云对象是M个点云对象中的任一个,第m对象类型字段是M个对象类型字段中的任一个,第m对象类型字段用于指示第m点云对象的类型;设第m对象描述字段是M个对象描述字段中的任一个,第m对象描述字段的值是以空字符结尾的8位元字符串,用于指示第m点云对象的描述信息;m为正整数且m∈[1,M];处理单元,具体用于:
识别第i样本组内的第m点云对象的类型,并根据第m点云对象的类型配置第i样本组的点云对象指示信息中的第m对象类型字段;以及,
获取第i样本组内的第m点云对象的描述信息,并根据第m点云对象的描述信息配置第i样本组的点云对象指示信息中的第m对象描述字段。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象场景字段,对象场景字段用于指示第i样本组内包含的点云对象所属的应用场景;处理单元,具体用于:
获取第i样本组内的点云对象的所属的应用场景,并根据第i样本组内的点云对象的所属的应用场景配置第i样本组的点云对象指示信息中的对象场景字段。
在一种实现方式中,处理单元,还用于:
生成描述信令文件,描述信令文件中包括点云媒体的至少一个封装文件描述信息;
向内容消费设备下发所述描述信令文件,并接收内容消费设备发送的获取请求,获取请求中携带被选择的描述信令文件中的目标封装文件描述信息;
根据获取请求向内容消费设备返回目标封装文件;目标封装文件中包括第i样本组的点云对象指示信息。
另一方面,本申请实施例提供一种点云媒体的数据处理设备,该点云媒体的数据处理设备包括:
处理器,适于实现计算机指令;以及,
计算机可读存储介质,计算机可读存储介质存储有计算机指令,计算机指令适于由处理器加载并执行上述的点云媒体的数据处理方法。
另一方面,本申请实施例提供一种计算机可读存储介质,该计算机可读存储介质存储有计算机指令,该计算机指令被计算机设备的处理器读取并执行时,使得计算机设备执行上述的点云媒体的数据处理方法。
另一方面,本申请实施例提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述的点云媒体的数据处理方法。
本申请实施例中,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个,第i样本组中包含点云对象,第i样本组的点云对象指示信息用于指示第i样本组包含的点云对象的属性(例如优先级、所属的应用场景、类型等等);在点云媒体的消费过程中,可以依据点云媒体的第i样本组的点云对象指示信息解析点云媒体;通过样本组的点云对象指示信息来指示点云媒体中的各种点云对象及点云对象的属性,这使得点云技术标准能够支持更丰富的应用场景;并且依据样本组的点云对象指示信息所指示的属性,能够灵活确定点云媒体的传输策略,有效提升点云媒体在某些网络条件下的传输效率,并且还可有效提高内容消费设备对点云媒体的解析处理效率,从而为点云媒体的消费带来较佳体验。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了本申请一个示例性实施例提供的一种点云媒体的数据处理系统的架构示意图;
图2a示出了本申请一个示例性实施例提供的一种点云媒体的数据处理架构的架构示意图;
图2b示出了本申请一个示例性实施例提供的一种样本的结构示意图;
图2c示出了本申请一个示例性实施例提供的一种包含多个文件轨道的容器的结构示意图;
图2d示出了本申请另一个示例性实施例提供的一种样本的结构示意图;
图3示出了本申请一个示例性实施例提供的一种点云媒体的数据处理方法的流程示意图;
图4示出了本申请另一个示例性实施例提供的一种点云媒体的数据处理方法的流程示意图;
图5示出了本申请一个示例性实施例提供的一种点云媒体的数据处理装置的结构示意图;
图6示出了本申请另一个示例性实施例提供的一种点云媒体的数据处理装置的结构示意图;
图7示出了本申请一个示例性实施例提供的一种点云媒体的数据处理设备的结构示意图。
具体实施
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请实施例提供一种点云媒体的数据处理方案。所谓点云(Point Cloud)是指空间中一组无规则分布的、表达三维物体或三维场景的空间结构及表面属性的离散点集。点云数据(Point Cloud Data)是点云的具体记录形式,点云中每个点的点云数据可以包括几何信息(即三维位置信息)和属性信息,其中,点云中每个点的几何信息是指该点的笛卡尔三维坐标数据,点云中每个点的属性信息可以包括但不限于以下至少一种:色彩信息、材质信息、激光反射强度信息。通常,点云中的每个点都具有相同数量的属性信息;例如,点云中的每个点都具有色彩信息和激光反射强度两种属性信息;或者点云中的每个点都具有色彩信息、材质信息和激光反射强度信息三种属性信息。
随着科学技术的进步与发展,目前已经能够以较低的成本、在较短的时间周期内获得大量高精确度的点云数据,点云数据的获取途径可以包括但不限于以下至少一种:①计算机设备生成。计算机设备可以根据虚拟三维物体及虚拟三维场景的生成点云数据。②3D(3-Dimension,三维)激光扫描获取。通过3D激光扫描可以获取静态现实世界三维物体或三维场景的点云数据,每秒可以获取百万级点云数据;③3D摄影测量获取。通过3D摄影设备(即一组摄像机或具有多个镜头和传感器的摄像机设备)对现实世界的视觉场景进行采集以获取现实世界的视觉场景的点云数据,通过3D摄影可以获得动态现实世界三维物体或三维场景的点云数据。④通过医学设备获取生物组织器官的点云数据。在医学领域可以通过磁共振成像(Magnetic Resonance Imaging,MRI)、电子计算机断层扫描(ComputedTomography,CT)、电磁定位信息等医学设备获取生物组织器官的点云数据。
所谓点云媒体是指由点云数据形成的点云媒体文件,点云媒体中包括多个媒体帧,点云媒体中的每个媒体帧由点云数据组成。点云媒体可以灵活方便地表达三维物体或三维场景的空间结构及表面属性,因此被广泛应用。点云媒体的主要应用场景可以归为两大类别:第一类是机器感知点云,例如自主导航系统(Autonomous Navigation System,ANS)、实时巡检系统、地理信息系统(Geography Information System,GIS)、视觉分拣机器人、抢险救灾机器人等;第二类是人眼感知点云,例如数字文化遗产、自由视点广播、计算机辅助设计(Computer Aided Design,CAD)、三维沉浸通信、三维沉浸交互、生物组织器官三维重建等。
另外,本申请实施例提供的点云媒体的数据处理方案可以对点云媒体中包含的点云对象进行指示。点云对象是指存在于点云媒体的媒体帧中的对象,也就是从点云媒体的媒体帧中识别到的、关于某些应用场景下的特殊对象,点云对象的类型可以包括以下任一种:场景异常情况(例如实时巡检场景中检查到的异常的高压电线节点、异常的路灯等)、场景指示对象(例如高精地图场景中识别到的交通信号灯、摄像头等)、目标对象(例如抢险救灾场景中识别到的等待救援的生物体(例如人、狗)等)。本申请实施例提供的点云媒体的数据处理方案在点云媒体的制作过程中对点云媒体中包含点云对象的第i样本组进行指示,生成第i样本组的点云对象指示信息;点云媒体中包括多个媒体帧,点云媒体包括N个样本组,N为正整数;点云媒体包含的多个媒体帧被封装至N个样本组中,每个样本组中包括至少一个媒体帧,第i样本组是N个样本组中的任一个,i为正整数且i∈[1,N];第i样本组的点云对象指示信息用于指示第i样本组中包含的点云对象的属性,属性包括以下至少一种:点云对象的数量、点云对象的类型、点云对象的描述信息、点云对象所属的应用场景以及点云对象的优先级;在点云媒体的消费过程中,可以依据点云媒体的第i样本组的点云对象指示信息解析点云媒体;通过样本组的点云对象指示信息来指示点云媒体中的各种点云对象及点云对象的属性,这使得点云技术标准能够支持更丰富的应用场景;并且依据样本组的点云对象指示信息所指示的属性,能够灵活确定点云媒体的传输策略,有效提升点云媒体在某些网络条件下的传输效率,并且还可有效提高内容消费设备对点云媒体的解析处理效率,从而为点云媒体的消费带来较佳体验。
基于上述描述,请参见图1,图1示出了本申请一个示例性实施例提供的一种点云媒体的数据处理系统的架构示意图,该点云媒体的数据处理系统10包括内容消费设备101和内容制作设备102。其中,内容制作设备102是指点云媒体的提供者(例如点云媒体的内容制作者)所使用的计算机设备,该计算机设备可以是终端(例如PC(Personal Computer,个人计算机)、智能移动设备(例如智能手机)等)、服务器、可移动平台(例如无人机(UnmannedAerial Vehicle,UAV)、机器人等)等具备点云媒体编码、封装能力的设备;内容消费设备101是指点云媒体的使用者(例如用户)所使用的计算机设备,该计算机设备可以是终端(例如PC(Personal Computer,个人计算机)、智能移动设备(例如智能手机)、VR(VirtualReality,虚拟现实)设备(例如VR头盔、VR眼镜)等)等具备点云媒体解封装、解码能力的设备。内容制作设备102和内容消费设备101可以通过有线通信或者无线通信的方式进行直接或间接地连接,本申请实施例在此不做限制。
图2a示出了本申请一个示例性实施例提供的一种点云媒体的数据处理架构的架构示意图,下面将结合图1所示的点云媒体的数据处理系统以及图2a所示的点云媒体的数据处理架构,对本申请实施例提供的点云媒体的数据处理方案进行介绍,点云媒体的数据处理过程包括内容制作设备侧的数据处理过程以及内容消费设备侧的数据处理过程,具体处理过程如下:
一、内容制作设备侧的数据处理过程:
(1)点云数据的获取过程。
在一种实现方式中,从点云数据的获取方式看,点云数据的获取方式可以分为通过捕获设备采集真实世界的视觉场景以获取以及通过计算机设备生成两种方式。在一种实现方式中,捕获设备可以是设置于内容制作设备中的硬件组件,例如捕获设备是终端的摄像头、传感器等。捕获设备也可以是与内容制作设备相连接的硬件装置,例如与服务器相连接的摄像头等。捕获设备用于为内容制作设备提供点云数据的获取服务,捕获设备可以包括但不限于以下任一种:摄像设备、传感设备、扫描设备;其中,摄像设备可以包括普通摄像头、立体摄像头、光场摄像头等;传感设备可以包括激光设备、雷达设备等;扫描设备可以包括3D激光扫描设备等。捕获设备的数量可以为多个,这些捕获设备被部署在现实空间中的一些特定位置以同时捕获该空间内不同角度的点云数据,捕获到的点云数据在时间上和空间上均保持同步。在另一种实现方式中,计算机设备可以根据虚拟三维物体及虚拟三维场景的生成点云数据。由于点云数据的获取方式不同,通过不同方式获取到的点云数据对应的压缩编码方式也可能有所区别。
(2)点云数据的编码及封装过程。
在一种实现方式中,内容制作设备可以采用基于几何的点云压缩(Geometr y-Based Point Cloud Compression,GPCC)编码方式或者基于传统视频编码的点云压缩(Video-BasedPointCloudCompression,VPCC)编码方式对获取到的点云数据进行编码处理,得到点云数据的GPCC比特流或者VPCC比特流。
在一种实现方式中,以GPCC编码方式为例,内容制作设备采用文件轨道对编码后的点云数据的GPCC比特流进行封装;所谓文件轨道是指编码后的点云数据的GPCC比特流的封装容器;GPCC比特流可以封装在单个文件轨道中,GPCC比特流也可以封装到多个文件轨道中,GPCC比特流封装在单个文件轨道中和GPCC比特流封装在多个文件轨道中的具体情况如下:
①GPCC比特流封装在单个文件轨道中。当GPCC比特流在单个文件轨道中传输时,要求GPCC比特流根据单个文件轨道的传输规则进行声明并表示。封装在单个文件轨道中的GPCC比特流无需进行进一步处理,可以通过ISOBMFF(International Organization forStandardization Base Media File Format,国际标准化组织基本媒体文件格式)进行封装。具体地,封装在单个文件轨道中的每个样本(Sample)都包含一个或多个GPCC组件,所谓样本是指一个或多个点云的封装结构集合,是点云媒体封装过程中的封装单位,点云媒体包含多个样本,一个样本通常为点云媒体的一个媒体帧,每个样本由一个或多个类型-长度-值字节流格式(Type-Length-Value ByteStream Format,TLV)封装结构组成。图2b示出了本申请一个示例性实施例提供的一种样本的结构示意图,如图2b所示,在进行单个文件轨道传输时,该文件轨道中的样本由GPCC参数集TLV、几何比特流TLV和属性比特流TLV组成,该样本被封装到单个文件轨道中。
②GPCC比特流封装在多个文件轨道中。当编码的GPCC几何比特流和编码的GPCC属性比特流在不同的文件轨道中进行传输时,文件轨道中的每个样本都包含至少一个TLV封装结构,该TLV封装结构中携带单个GPCC组件数据,并且TLV封装结构中不同时包含编码的GPCC几何比特流和编码的GPCC属性比特流。图2c示出了本申请一个示例性实施例提供的一种包含多个文件轨道的容器的结构示意图,如图2c所示,在文件轨道1中传输的封装包1包含编码的GPCC几何比特流,不包含编码的GPCC属性比特流;在文件轨道2中传输的封装包2包含编码的GPCC属性比特流,不包含编码的GPCC几何比特流。由于内容消费设备在解码时首先应对编码的GPCC几何比特流进行解码,而编码的GPCC属性比特流的解码取决于解码后的几何信息,因此将不同的GPCC分量比特流封装在单独的文件轨道中,使得内容消费设备可以在编码的GPCC属性比特流之前访问承载编码的GPCC几何比特流的文件轨道。图2d示出了本申请另一个示例性实施例提供的一种样本的结构示意图,如图2d所示,在进行多个文件轨道传输时,编码的GPCC几何比特流和编码的GPCC属性比特流在不同的文件轨道中进行传输,该文件轨道中的样本由GPCC参数集TLV、几何比特流TLV组成,样本中不包含属性比特流TLV,该样本被封装在多个文件轨道中的任一个文件轨道中。
在一种实现方式中,获取到的点云数据经内容制作设备编码、封装后形成点云媒体的封装文件,该点云媒体的封装文件可以是整个媒体文件,也可以是媒体文件中的媒体片段;并且内容制作设备按照点云媒体的文件格式要求采用媒体呈现描述信息(即描述信令文件)(Media Presentation Description,MPD)记录该点云媒体的封装文件的元数据,此处的元数据是对与点云媒体的呈现有关的信息的总称,该元数据可以包括对媒体内容的描述信息、对视窗的描述信息以及对媒体内容呈现相关的信令信息等等。内容制作设备将MPD下发至内容消费设备,以使内容消费设备根据该MDP中的相关描述信息请求获取点云媒体的封装文件。具体地,点云媒体的封装文件和MDP通过传输机制(例如DASH(DynamicAdaptive Streaming over HTTP,动态自适应流媒体传输)、SMT(Smart Media Transport,智能媒体传输))由内容制作设备下发至内容消费设备。
二、内容消费设备侧的数据处理过程:
(1)点云数据的解封装及解码过程。
在一种实现方式中,内容消费设备可以通过内容制作设备下发的MDP获取点云媒体的封装文件。内容消费设备端的文件解封装的过程与内容制作设备端的文件封装过程是相逆的,内容消费设备按照点云媒体的文件格式要求对点云媒体的封装文件进行解封装,得到编码比特流(即GPCC比特流或VPCC比特流)。内容消费设备端的解码过程与内容制作设备端的编码过程是相逆的,内容消费设备对编码比特流进行解码,还原出点云数据。
(2)点云数据的渲染过程。
在一种实现方式中,内容消费设备根据MDP中与渲染、视窗相关的元数据对GPCC比特流解码得到的点云数据进行渲染,渲染完成即实现了对点云数据对应的视觉场景的呈现。
本申请实施例中,对于内容制作设备端,首先通过采集设备对真实世界的视觉场景进行采样,得到与真实世界的视觉场景对应的点云数据;然后通过GPCC编码方式或VPCC编码方式对获取的点云数据进行编码处理,得到GPCC比特流或VPCC比特流(GPCC比特流或VPCC比特流中均包括编码后的几何比特流和编码后的属性比特流);接着对GPCC比特流或者VPCC比特流进行封装得到点云媒体的封装文件(包括媒体文件或媒体片段);内容制作设备还可以将元数据封装到媒体文件或媒体片段中,并通过传输机制(例如动态自适应流媒体传输机制)将点云媒体的封装文件下发至内容消费设备。对于内容消费设备端,首先接收内容制作设备发送的点云媒体的封装文件;然后对点云媒体的封装文件进行解封装处理,得到编码的GPCC比特流(或者VPCC比特流)以及元数据;接着解析编码的GPCC比特流或VPCC比特流中的元数据(即对编码的GPCC比特流或VPCC比特流进行解码处理,得到点云数据);最后基于当前用户的观看(视窗)方向,对解码后的点云数据进行渲染,并显示在内容消费设备中。需要说明的是,当前用户的观看(视窗)方向由头部跟踪以及视觉跟踪功能确定。除了通过渲染器用来渲染当前用户的观看(视窗)方向的点云数据外,还可以通过音频解码器来对当前用户的观看(视窗)方向的音频进行解码优化。通过内容制作设备对采集到的点云数据进行编码、封装,实现了点云数据的存储和传输;内容制作设备将封装得到的点云媒体的封装文件下发至内容消费设备,实现了点云数据的发布和共享;内容消费设备对点云媒体的封装文件进行解封装、解码消费,使得真实世界的视觉场景在内容消费设备中得以呈现。
可以理解的是,本申请实施例描述的点云媒体的数据处理系统是为了更加清楚的说明本申请实施例的技术方案,并不构成对于本申请实施例提供的技术方案的限定,本领域普通技术人员可知,随着系统架构的演变和新业务场景的出现,本申请实施例提供的技术方案对于类似的技术问题,同样适用。
由上述点云媒体的数据处理过程可知,内容制作设备需要对点云媒体进行编码、封装成点云媒体的封装文件后才能下发至内容消费设备,相应地,内容消费设备需要对点云媒体的封装文件进行解封装、解码后才能渲染呈现该点云媒体。本申请实施例提供的点云媒体的数据处理系统支持数据盒(Box),例如ISOBMFF数据盒,数据盒是指包括元数据的数据块或包括元数据的对象,即数据盒中包含了点云媒体的元数据;点云媒体可以关联多个数据盒,例如,点云媒体包括N个样本组,点云媒体关联N个数据盒,第i样本组对应第i数据盒。本申请实施例对点云媒体的数据处理系统支持的数据盒进行扩展,将包含点云对象的第i样本组的点云对象指示信息封装在数据盒中;第i样本组的点云对象指示信息即数据盒中的点云对象指示组入口(PointCloudObjectIndicationGroupEntry)类,第i样本组的点云对象指示信息中包含以下至少一种字段:对象场景字段(object_sceiario)、对象优先级字段(object_priority)、对象数量字段(object_count)、对象类型字段(object_type)以及对象描述字段(object_description);对象场景字段用于指示第i样本组内包含的点云对象所属的应用场景,对象优先级字段用于指示第i样本组的优先级,对象数量字段用于指示第i样本组内包含的点云对象的数量,对象类型字段用于指示第i样本组内包含的点云对象的类型,对象描述字段用于指示第i样本组内包含的点云对象的描述信息;数据盒中关于点云对象指示组入口类的语法可参见表1:
表1
上述表1所示的语法的语义如下①-⑤:
①对象场景字段object_scenario指示第i样本组中包含的点云对象所属的应用场景;不同应用场景下,对象场景字段的取值不同,对象场景字段的取值与应用场景之间的对应关系如表2所示,当对象场景字段的取值为0时,指示第i样本组中包含的点云对象所属的应用场景为高精地图场景,当对象场景字段的取值为1时,指示第i样本组中包含的点云对象所属的应用场景为实时巡检场景,当对象场景字段的取值为2时,指示第i样本组中包含的点云对象所属的应用场景为抢险救灾场景;需要说明的是,对象场景字段还存在其他扩展取值,也就是说,当点云对象存在于除上述三种应用场景(即高精地图场景、实时巡检场景、抢险救灾场景)外的其他应用场景时,只需对对象场景字段的取值进行扩展,即可对其他应用场景进行指示。
表2
对象场景字段的取值 | 含义 |
0 | 高精地图场景 |
1 | 实时巡检场景 |
2 | 抢险救灾场景 |
其他 | 保留 |
②对象优先级字段object_priority指示第i样本组的优先级;对象优先级字段的取值越小,则第i样本组的优先级越高,第i样本组在传输过程中被丢弃的可能性越小,第i样本组在解析时的解析顺序越靠前;对象优先级字段的取值越大,则第i样本组的优先级越低,第i样本组在传输过程中被丢弃的可能性越大,第i样本组在解析时的解析顺序越靠后;设第i样本组中包含M个点云对象,M为正整数,当M取值为1时,第i样本组内包含一个点云对象,且第i样本组内的点云对象对应一个优先级,第i样本组的优先级等于第i样本组中包含的点云对象的优先级;当M取值大于1时,第i样本组内包含M个点云对象,M个点云对象中的每个点云对象分别对应一个优先级,第i样本组的优先级等于M个优先级中的最高优先级。
③对象数量字段object_count指示第i样本组内包含的点云对象的数量;设第i样本组中包含M个点云对象,则对象数量字段的取值为M,例如第i样本组内包含的1个点云对象,对象数量字段的取值为1,第i样本组内包含的10个点云对象,对象数量字段的取值为10。
④对象类型字段object_type指示第i样本组内包含的点云对象的类型;设第i样本组内包含M个点云对象,则第i样本组的点云对象指示信息中包含M个对象类型字段,M个对象类型字段用于分别指示M个点云对象的类型;设第m点云对象是M个点云对象中的任一个,第m对象类型字段是M个对象类型字段中的任一个,第m对象类型字段用于指示第m点云对象的类型;不同类型的点云对象对应的对象类型字段的取值不同,对象类型字段的取值与点云对象的类型之间的对应关系如表3所示,当对象类型字段的取值为0时,指示点云对象的类型为场景异常情况,当对象类型字段的取值为1时,指示点云对象的类型为场景指示对象,当对象类型字段的取值为2时,指示点云对象的类型为目标对象;需要说明的是,对象类型字段还存在其他扩展取值,也就是说,当点云对象的类型为除上述三种类型(即场景异常情况、场景指示对象、目标对象)外的其他类型时,只需对对象类型字段的取值进行扩展,即可对其他类型进行指示。
表3
对象场景字段的取值 | 含义 |
0 | 场景异常情况 |
1 | 场景指示对象 |
2 | 目标对象 |
其他 | 保留 |
⑤对象描述字段object_description指示第i样本组内包含的点云对象的描述信息;设第i样本组内包含M个点云对象,则第i样本组的点云对象指示信息中包含M个对象描述字段,M个对象描述字段用于分别指示M个点云对象的描述信息;设第m点云对象是M个点云对象中的任一个,第m对象描述字段是M个对象描述字段中的任一个,所述第m对象描述字段的取值是以空字符结尾的8位元(Unicode Transformation Format-8,UTF-8)字符串,用于指示所述第m点云对象的描述信息。
结合表2可知,内容制作设备对点云媒体中包含点云对象的第i样本组进行指示后,生成第i样本组的点云对象指示信息,第i样本组的点云对象指示信息用于指示第i样本组包含的点云对象的属性(例如优先级、所属的应用场景、类型等等);内容消费设备可以依据点云媒体的第i样本组的点云对象指示信息解析点云媒体,通过样本组的点云对象指示信息来指示点云媒体中的各种点云对象及点云对象的属性,这使得点云技术标准能够支持更丰富的应用场景;并且依据样本组的点云对象指示信息所指示的属性,能够灵活确定点云媒体的传输策略,有效提升点云媒体在某些网络条件下的传输效率,并且还可有效提高内容消费设备对点云媒体的解析处理效率;另外,点云媒体传输至内容消费设备的过程中,若检测到的传输网络拥塞,可以根据点云媒体包含的各个样本组的对象指示信息中的对象优先级字段所指示的优先级,按照各个样本组的优先级由低至高的顺序丢弃点云媒体中的相应样本组,并对点云媒体进行重新封装后发送至内容消费设备,从而节省传输带宽,进一步提升点云媒体的传输效率;此外,点云对象指示信息中的对象场景字段和对象类型字段还存在其他扩展取值,进一步丰富了点云技术标准支持的应用场景以及点云对象的类型,从而为点云媒体的消费带来较佳体验。
基于上述描述,请参见图3,图3示出了本申请一个示例性实施例提供的一种点云媒体的数据处理方法的流程示意图,该方法可以由图1所示实施例中的内容消费设备101执行,该点云媒体的数据处理方法包括以下步骤S301至步骤S302:
步骤S301,获取点云媒体的第i样本组的点云对象指示信息,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个,第i样本组中包括点云对象,N、i均为正整数且i∈[1,N]。
步骤S302,按照第i样本组的点云对象指示信息解析点云媒体。
在一种实现方式中,第i样本组的点云对象指示信息(PointCloudObjectIndicationGroupEntry)用于指示第i样本组中包含的点云对象的属性,其中,属性可以包括以下至少一种:点云对象的数量、点云对象的类型、点云对象的描述信息、点云对象所属的应用场景以及点云对象的优先级。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象优先级字段(object_priority),对象优先级字段用于指示第i样本组的优先级;第i样本组的优先级是根据第i样本组包含的点云对象的优先级确定得到的,具体地,设第i样本组中包含M个点云对象,M为正整数,当M取值为1时,第i样本组内包含一个点云对象,且第i样本组内的点云对象对应一个优先级,第i样本组的优先级等于第i样本组中包含的点云对象的优先级;当M取值大于1时,第i样本组内包含M个点云对象,M个点云对象中的每个点云对象分别对应一个优先级,第i样本组的优先级等于M个优先级中的最高优先级。
在一种实现方式中,第i样本组的点云对象指示信息中的对象优先级字段的取值越小,则第i样本组的优先级越高;第i样本组的点云对象指示信息中的对象优先级字段的取值越大,则第i样本组的优先级越低。若存在内容消费设备的存储空间有限或内容消费设备的处理能力有限等情况,内容消费设备可以优先解析点云媒体中优先级高的样本组,即第i样本组的优先级越高,则第i样本组在解析时的解析顺序越靠前;第i样本组的优先级越低,则第i样本组在解析时的解析顺序越靠后。在此实现方式下,在点云媒体的解析过程中,可以优先对点云媒体中优先级较高的样本组进行解析,再对点云媒体中优先级较低的样本组进行解析。例如,第j样本组是N个样本组中除第i样本组外的任一个,j为正整数且j∈[1,N],第j样本组中包括点云对象,并且第j样本组的点云对象指示信息中包含的对象优先级字段的取值大于第i样本组的点云对象指示信息中包含的对象优先级字段的取值,则第i样本组的优先级高于第j样本组的优先级,在点云媒体的解析过程中,优先按照第i样本组的点云对象指示信息解析第i样本组,再按照第j样本组的点云对象指示信息解析第j样本组。
在一种实现方式中,点云媒体中包含点云对象的样本组的优先级高于点云媒体中不包含点云对象的样本组的优先级;在此实现方式下,在点云媒体的解析过程中,优先对点云媒体中包含点云对象的样本组进行解析,再对点云媒体中不包含点云对象的样本组进行解析。例如,第j样本组是N个样本组中除第i样本组外的任一个,j为正整数且j∈[1,N],并且第j样本组中不包含点云对象,第i样本组中包含点云对象,则第i样本组的优先级高于第j样本组的优先级,在点云媒体的解析过程中,优先按照第i样本组的点云对象指示信息解析第i样本组,再按照第j样本组的点云对象指示信息解析第j样本组。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象数量字段(object_count),对象数量字段用于指示第i样本组内包含的点云对象的数量;设第i样本组中包含M个点云对象,则对象数量字段的取值为M。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象场景字段(object_sceiario),对象场景字段用于指示第i样本组中包含的点云对象所属的应用场景,不同应用场景下,对象场景字段的取值不同;在此实现方式下,在点云媒体的解析过程中,读取第i样本组的点云对象指示信息中的对象场景字段,并根据对象场景字段的取值确定第i样本组内的点云对象所属的应用场景。其中,应用场景可以包括以下至少一种:高精地图场景、实时巡检场景及抢险救灾场景。例如,根据第i样本组的点云对象指示信息中的对象场景字段的取值0,确定第i样本组内的点云对象所属的应用场景为高精地图场景。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象类型字段(object_type),对象类型字段用于指示第i样本组中包含的点云对象的类型。具体地,第i样本组内包含M个点云对象,M为正整数;第i样本组的点云对象指示信息中包含M个对象类型字段,M个对象类型字段用于分别指示M个点云对象的类型,不同类型的点云对象对应的对象类型字段的取值不同;设第m点云对象是M个点云对象中的任一个,第m对象类型字段是M个对象类型字段中的任一个,第m对象类型字段用于指示第m点云对象的类型,m为正整数且m∈[1,M];在此实现方式下,在点云媒体的解析过程中,读取第i样本组的点云对象指示信息中的第m对象类型字段,并根据第m对象类型字段的取值确定第i样本组内的第m点云对象的类型;其中,类型可以包括以下任一种:场景异常情况、场景指示对象及目标对象。例如,根据第i样本组的点云对象指示信息中的第m对象类型字段的取值0,确定第i样本组内的第m点云对象的类型为场景异常情况。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象描述字段(object_description),对象描述字段用于指示第i样本组中包含的点云对象的描述信息。具体地,第i样本组内包含M个点云对象,M为正整数;第i样本组的点云对象指示信息中包含M个对象描述字段,M个对象描述字段用于分别指示M个点云对象的描述信息;设第m点云对象是M个点云对象中的任一个,第m对象描述字段是M个对象描述字段中的任一个,第m对象描述字段的取值是以空字符结尾的8位元字符串,用于指示第m点云对象的描述信息,m为正整数且m∈[1,M];在此实现方式下,在点云媒体的解析过程中,读取第i样本组的点云对象指示信息中的第m对象描述字段,并根据第m对象描述字段的取值确定第i样本组内的第m点云对象的描述信息,并响应描述信息;其中,描述信息可以包括以下至少一种:告警信息、突出显示信息及求救信息。例如,根据第m对象描述字段的取值alarm(报警),确定第i样本组内的第m点云对象的描述信息为告警信息,并响应该告警信息,触发本地告警系统;又如,根据第m对象描述字段的取值traffic light(交通信号灯),确定第i样本组内的第m点云对象的描述信息为突出显示信息,并响应该突出显示信息,在点云媒体中突出显示该交通信号灯;还如,根据第m对象描述字段的取值SOS(求救信号),确定第i样本组内的第m点云对象的描述信息为求救信息,并响应该求救信息,自动拨通救援电话。
在一种实现方式中,点云媒体包括多个媒体帧,多个媒体帧被封装至N个样本组中,每个样本组中包括至少一个媒体帧,第i样本组内的点云对象存在于第i样本组内的媒体帧中,第i样本组内的所有媒体帧构成一个能够被独立编解码的集合;内容消费设备获取内容制作设备下发的描述信令文件(MDP),描述信令文件中包括点云媒体的至少一个封装文件描述信息;若描述信令文件中的目标封装文件描述信息被选择,则向内容制作设备发送获取请求,获取请求中携带目标封装文件描述信息,以使内容制作设备根据获取请求返回目标封装文件;目标封装文件描述信息可以包括对目标封装文件中包含的媒体内容的描述信息、对视窗的描述信息以及与目标封装文件中包含的媒体内容呈现相关的信令信息等,目标封装文件中包括第i样本组以及第i样本组的点云对象指示信息;内容消费设备从目标封装文件中获取第i样本组的点云对象指示信息;内容消费设备按照第i样本组的点云对象指示信息对第i样本组进行独立解码,得到第i样本组内的至少一个媒体帧。
本申请实施例中,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个,第i样本组中包含点云对象,第i样本组的点云对象指示信息中的对象优先级字段用于第i样本组的优先级进行指示,第i样本组的点云对象指示信息中的对象数量级字段用于第i样本组内包含的点云对象的数量进行指示,第i样本组的点云对象指示信息中的对象类型字段用于第i样本组内包含的点云对象的类型进行指示,第i样本组的点云对象指示信息中的对象场景字段用于第i样本组内包含的点云对象的所属的应用场景进行指示,第i样本组的点云对象指示信息中的对象描述字段用于第i样本组内包含的点云对象的描述信息进行指示;在点云媒体的消费过程中,可以依据点云媒体的第i样本组的点云对象指示信息解析点云媒体;通过样本组的点云对象指示信息来指示点云媒体中的各种点云对象及点云对象的属性,这使得点云技术标准能够支持更丰富的应用场景;并且依据样本组的点云对象指示信息所指示的属性,能够灵活确定点云媒体的传输策略,有效提升点云媒体在某些网络条件下的传输效率,并且还可有效提高内容消费设备对点云媒体的解析处理效率,从而为点云媒体的消费带来较佳体验。
请参见图4,图4示出了本申请另一个示例性实施例提供的一种点云媒体的数据处理方法的流程示意图,该方法可以由图1所示实施例中的内容制作设备102执行,该点云媒体的数据处理方法包括以下步骤S401至步骤S402:
步骤S401,生成点云媒体的第i样本组的点云对象指示信息,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个,第i样本组中包括点云对象,N、i均为正整数且i∈[1,N]。
在一种实现方式中,点云媒体包括多个媒体帧,多个媒体帧被封装至N个样本组中;具体地,内容制作设备采用对象识别算法(例如目标识别算法、图像识别算法、图像处理算法等)对点云媒体的各个媒体帧进行对象识别;若识别出点云媒体的至少一个媒体帧中包含点云对象,则将识别得到的至少一个媒体帧封装至第i样本组中,第i样本组内的所有媒体帧构成一个能够被独立编解码的集合;以及,内容制作设备将点云媒体中的未识别出包含点云对象的其他媒体帧分别封装至N个样本组中除第i样本组之外的其他样本组中;也就是说,内容制作设备可以将点云媒体中包含点云对象的媒体帧封装至第i样本组中,将点云媒体中未包含点云对象的媒体帧分别封装至N个样本组中除第i样本组外的其他样本组中。在另一种实现方式中,内容制作设备还可以将点云媒体中包含点云对象的媒体帧分别封装至P个样本组中,将点云媒体中未包含点云对象的媒体帧分别封装至N个样本组中除P个样本组外的N-P个样本组中,P为大于1的正整数,且P≤N。
在一种实现方式中,第i样本组的点云指示信息中包含对象数量字段,对象数量字段用于指示第i样本组内包含的点云对象的数量;内容制作设备识别第i样本组内的点云对象的数量,并根据第i样本组内的点云对象的数量配置第i样本组的点云指示信息中的对象数量字段。例如,内容制作设备识别到第i样本组内包括M个点云对象,则根据识别到的第i样本组内的点云对象的数量将第i样本组的点云指示信息中的对象数量字段的取值配置为M。
在一种实现方式中,第i样本组内包含M个点云对象,M个点云对象中每个点云对象分别对应一个优先级,M个点云对象对应的M个优先级,M为正整数;第i样本组的点云对象指示信息中包含对象优先级字段,对象优先级字段用于指示第i样本组的优先级;内容制作设备确定M个优先级中的最高优先级,并根据最高优先级配置第i样本组的点云对象指示信息中的对象优先级字段;对象优先级字段的取值越小,则第i样本组的优先级越高,第i样本组在传输过程中被丢弃的可能性越小;对象优先级字段的取值越大,则第i样本组的优先级低,第i样本组在传输过程中被丢弃的可能性越大。例如,第i样本组内包含3个点云对象,分别是第一点云对象、第二点云对象和第三点云对象,第一点云对象的优先级高于第二点云对象的优先级,第二点云对象的优先级高于第三点云对象的优先级;点云对象对应的优先级越高,点云对象的优先级数值越小,第一点云对象对应优先级数值0,第二点云对象对应优先级数值1,第三点云对象对应优先级数值2;3个点云对象对应的3个优先级中的最高优先级为第一点云对象的优先级,则第i样本组的优先级为第一点云对象的优先级,内容制作设备根据第一点云对象对应的优先级数值将第i样本组的点云对象指示信息中的对象优先级字段的取值配置为0。
在一种实现方式中,第i样本组内包含M个点云对象,M为正整数;第i样本组的点云对象指示信息中包含M个对象类型字段,M个对象类型字段用于分别指示M个点云对象的类型,不同类型的点云对象对应的对象类型字段的取值不同;设第m点云对象是M个点云对象中的任一个,第m对象类型字段是M个对象类型字段中的任一个,第m对象类型字段用于指示第m点云对象的类型,m为正整数且m∈[1,M];内容制作设备识别第i样本组内的第m点云对象的类型,并根据第m点云对象的类型配置第i样本组的点云对象指示信息中的第m对象类型字段。例如,内容制作设备识别到第i样本组内的第m点云对象的类型为场景异常情况,则根据第m点云对象的类型将第i样本组的点云对象指示信息中的第m对象类型字段的取值配置为0。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象场景字段,对象场景字段用于指示第i样本组内包含的点云对象所属的应用场景;内容制作设备获取第i样本组内的点云对象的所属的应用场景,并根据第i样本组内的点云对象的所属的应用场景配置第i样本组的点云对象指示信息中的对象场景字段。例如,内容制作设备获取到第i样本组内的点云对象的所属的应用场景为高精地图场景,则根据第i样本组内的点云对象的所属的应用场景将第i样本组的点云对象指示信息中的对象场景字段的取值配置为0。
在一种实现方式中,第i样本组内包含M个点云对象,M为正整数;第i样本组的点云对象指示信息中包含M个对象描述字段,M个对象类型字段用于分别指示M个点云对象的描述信息;设第m点云对象是M个点云对象中的任一个,第m对象描述字段是M个对象描述字段中的任一个,第m对象描述字段用于指示第m点云对象的描述信息,m为正整数且m∈[1,M];内容制作设备获取第i样本组内的第m点云对象的描述信息,并根据第m点云对象的描述信息配置第i样本组的点云对象指示信息中的第m对象描述字段。例如,内容制作设备获取到的第i样本组内的第m点云对象的描述信息为告警信息,则根据获取到的第m点云对象的描述信息将第i样本组的点云对象指示信息中的第m对象描述字段的取值配置为alarm。
步骤S402,向内容消费设备传输第i样本组的点云对象指示信息,以使内容消费设备按照第i样本组的点云对象指示信息解析点云媒体。
在一种实现方式中,内容制作设备生成描述信令文件,描述信令文件中包括点云媒体的至少一个封装文件描述信息;内容制作设备向内容消费设备下发描述信令文件,并接收内容消费设备发送的获取请求,获取请求中携带被选择的描述信令文件中的目标封装文件描述信息;内容制作设备根据获取请求向内容消费设备返回目标封装文件,目标封装文件中包括第i样本组以及第i样本组的点云对象指示信息,以使内容消费设备按照第i样本组的点云对象指示信息对第i样本组进行解析。
在一种实现方式中,内容制作设备将点云媒体传输至内容消费设备的过程中,若内容制作设备检测到传输网络拥塞、内容消费设备的存储空间有限或内容消费设备的处理能力有限,内容制作设备根据点云媒体包含的各个样本组的对象指示信息中的对象优先级字段所指示的优先级,按照各个样本组的优先级由低至高的顺序丢弃点云媒体中的相应样本组,并对点云媒体进行重新封装后发送至内容消费设备。在另一种实现方式中,内容制作设备将点云媒体传输至内容消费设备的传输网络中包括多个中间节点,若第一中间节点(传输网络中的任一个中间节点)检测到网络拥塞,第一中间节点按照各个样本组的优先级由低至高的顺序丢弃点云媒体中的相应样本组,并对点云媒体进行重新封装后发送至第二中间节点(传输网络中除第一中间节点之外的任一个中间节点)。其中,内容制作设备将点云媒体传输至内容消费设备的传输网络可以为CDN(Content Delivery Network,内容分发网络)。
本申请实施例中,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个,第i样本组中包含点云对象,在点云媒体的制作过程中,内容制作设备对点云媒体中的第i样本组的点云对象指示信息中包含的对象场景字段、对象优先级字段、对象数量字段、对象类型字段以及对象描述字段进行配置,生成第i样本组的点云对象指示信息,第i样本组的点云对象指示信息用于指示第i样本组中包含的点云对象的属性;在点云媒体的消费过程中,可以依据点云媒体的第i样本组的点云对象指示信息解析点云媒体;通过样本组的点云对象指示信息来指示点云媒体中的各种点云对象及点云对象的属性,这使得点云技术标准能够支持更丰富的应用场景;并且依据样本组的点云对象指示信息所指示的属性,能够灵活确定点云媒体的传输策略,有效提升点云媒体在某些网络条件下的传输效率,并且还可有效提高内容消费设备对点云媒体的解析处理效率,从而为点云媒体的消费带来较佳体验。另外,点云媒体传输至内容消费设备的过程中,若内容制作设备或传输网络中的中间节点检测到的传输网络拥塞,可以根据点云媒体包含的各个样本组的对象指示信息中的对象优先级字段所指示的优先级,按照各个样本组的优先级由低至高的顺序丢弃点云媒体中的相应样本组,并对点云媒体进行重新封装后发送至内容消费设备,从而节省传输带宽,进一步提升点云媒体的传输效率。
下面结合图3实施例和图4实施例所描述的内容,针对具体的应用场景,对本申请实施例提供的点云媒体的数据处理方案举例描述。
例如,内容制作设备为无人机,应用场景为实时巡检场景,无人机在检修高压电线节点时拍摄得到点云媒体,点云媒体中包含多个媒体帧。无人机对点云媒体包含的各个媒体帧进行对象识别,识别到点云媒体包含的所有媒体帧中包含1个点云对象,该点云对象为异常的高压电线节点,该点云对象的类型为场景异常情况,该点云对象对应的优先级数值为0。无人机在点云媒体的制作过程中,将点云媒体包含的所有媒体帧封装至一个样本组(即目标样本组)中,目标样本组内的所有媒体帧构成一个能够被独立编解码的集合。无人机还生成目标样本组的点云对象指示信息,具体地,无人机根据目标样本组内的点云对象的所属的应用场景将目标样本组的点云对象指示信息中的对象场景字段的取值配置为1;根据目标样本组内的点云对象对应的优先级数值将目标样本组的点云对象指示信息中的对象优先级字段的取值配置为0;根据识别到的目标样本组内的点云对象的数量将目标样本组的点云指示信息中的对象数量字段的取值配置为1;根据目标样本组内的点云对象的类型将目标样本组的点云对象指示信息中的对象类型字段的取值配置为0;根据获取到的目标样本组内的点云对象的描述信息将目标样本组的点云对象指示信息中的对象描述字段的取值配置为alarm,目标样本组的点云对象指示信息中包含的各个字段与各个字段的取值之间的对应关系如表4所示。
表4
字段 | 取值 |
对象场景字段object_sceiario | 1 |
对象优先级字段object_priority | 0 |
对象数量字段object_count | 1 |
对象类型字段object_type | 0 |
对象描述字段object_description | alarm |
无人机将目标样本组的点云对象指示信息封装至点云媒体的封装文件中,并将点云媒体的封装文件传输至终端(例如维修人员使用的终端)。终端从点云媒体的封装文件中获取目标样本组以及目标样本组的点云对象指示信息,并按照目标样本组的点云对象指示信息对目标样本组进行解析,得到目标样本组包含的所有媒体帧。终端根据解析得到的各个媒体帧以及目标样本组的点云对象指示信息中包含的对象描述字段的取值alarm,确定目标样本组的点云对象的描述信息为告警信息。终端响应该告警信息,并触发终端的系统告警,提示维修人员前往对应地点对异常的高压电线节点进行检修。
又如,内容制作设备为无人机,应用场景为高精地图场景,无人机在采集高精地图素材时拍摄得到点云媒体,点云媒体中包含60个媒体帧。无人机对点云媒体包含的各个媒体帧进行对象识别,识别到点云媒体包含的30个媒体帧中包含2个点云对象,另外30个媒体帧中不包含点云对象;2个点云对象分别为第一点云对象和第二点云对象;第一点云对象为交通信号灯,第一点云对象的类型为场景指示对象,第一点云对象对应的优先级数值为0;第二点云对象为车辆,第二点云对象的类型为保留,第二点云对象对应的优先级数值为2,第一点云对象的优先级高于第二点云对象的优先级。无人机在点云媒体的制作过程中,将点云媒体中包含点云对象的30个媒体帧封装至第一样本组中,将点云媒体中不包含点云对象的另外30个媒体帧封装至第二样本组中,第一样本组内的所有媒体帧构成一个能够被独立编解码的集合,第二样本组内的所有媒体帧同样构成一个能够被独立编解码的集合。无人机还生成第一样本组的点云对象指示信息,具体地,无人机根据第一样本组内的点云对象的所属的应用场景将第一样本组的点云对象指示信息中的对象场景字段的取值配置为0;根据第一样本组内的第一点云对象对应的优先级数值将第一样本组的点云对象指示信息中的对象优先级字段的取值配置为0;根据识别到的第一样本组内的点云对象的数量将第一样本组的点云指示信息中的对象数量字段的取值配置为2;根据第一样本组内的第一点云对象的类型将第一样本组的点云对象指示信息中的第一对象类型字段的取值配置为1,根据第一样本组内的第二点云对象的类型将第一样本组的点云对象指示信息中的第二对象类型字段的取值配置为其他;根据获取到的第一样本组内的第一点云对象的描述信息将第一样本组的第一点云对象指示信息中的对象描述字段的取值配置为traffic light,根据获取到的第一样本组内的第二点云对象的描述信息将第一样本组的第二点云对象指示信息中的对象描述字段的取值配置为其他,第一样本组的点云对象指示信息中包含的各个字段与各个字段的取值之间的对应关系如表5所示。
表5
字段 | 取值 |
对象场景字段object_sceiario | 0 |
对象优先级字段object_priority | 0 |
对象数量字段object_count | 2 |
第一对象类型字段object_type | 1 |
第一对象描述字段object_description | traffic light |
第二对象类型字段object_type | 其他 |
第二对象描述字段object_description | 其他 |
无人机将第一样本组的点云对象指示信息封装至点云媒体的封装文件中,并将点云媒体的封装文件(包含第一样本组、第二样本组以及第一样本组的点云对象指示信息)传输至终端。无人机将点云媒体的封装文件传输至终端的传输网络中包括一个中间节点(即目标中间节点)。若目标中间节点检测到传输网络拥塞,目标中间节点按照第一样本组与第二样本组的优先级由低至高的顺序丢弃第二样本组,并对点云媒体进行重新封装后发送至终端。终端从点云媒体的封装文件中获取第一样本组以及第一样本组的点云对象指示信息,并按照第一样本组的点云对象指示信息对第一样本组进行解析,得到第一样本组包含的30个媒体帧。终端根据解析得到的30个媒体帧以及第一样本组的点云对象指示信息中包含的第一对象描述字段的取值traffic light,确定第一样本组的第一点云对象的描述信息为突出显示信息。终端响应该突出显示信息,并在点云媒体中突出显示交通信号灯。
请参见图5,图5示出了本申请一个示例性实施例提供的一种点云媒体的数据处理装置的结构示意图,该点云媒体的数据处理装置50可以用于执行图3所示的点云媒体的数据处理方法中的相应步骤,该点云媒体的数据处理装置50包括如下单元:
获取单元501,用于获取点云媒体的第i样本组的点云对象指示信息,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个;第i样本组中包括点云对象,第i样本组的点云对象指示信息用于指示第i样本组中包含的点云对象的属性,N、i均为正整数且i∈[1,N];
处理单元502,用于按照第i样本组的点云对象指示信息解析点云媒体。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象优先级字段,对象优先级字段用于指示第i样本组的优先级;对象优先级字段的取值越小,则第i样本组的优先级越高,第i样本组在传输过程中被丢弃的可能性越小;
第i样本组的点云指示信息中还包含对象数量字段,对象数量字段用于指示第i样本组内包含的点云对象的数量;对象数量字段的取值为M,M为正整数;当M取值为1时,第i样本组内包含一个点云对象,且第i样本组内的点云对象对应一个优先级,第i样本组的优先级等于第i样本组中包含的点云对象的优先级;当M取值大于1时,第i样本组内包含M个点云对象,M个点云对象中的每个点云对象分别对应一个优先级,第i样本组的优先级等于M个优先级中的最高优先级。
在一种实现方式中,第j样本组是N个样本组中除第i样本组外的任一个,j为正整数且j∈[1,N];第i样本组的优先级高于第j样本组的优先级;处理单元502,具体用于:
优先按照第i样本组的点云对象指示信息解析第i样本组,再按照第j样本组的点云对象指示信息解析第j样本组;
其中,第i样本组的优先级高于第j样本组的优先级,包括:若第j样本组中不包括点云对象,则第i样本组的优先级高于第j样本组的优先级;或者,若第j样本组中包括点云对象,但第j样本组的点云对象指示信息中包含的对象优先级字段的取值大于第i样本组的点云对象指示信息中包含的对象优先级字段的取值,则第i样本组的优先级高于第j样本组的优先级。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象场景字段,对象场景字段用于指示第i样本组中包含的点云对象所属的应用场景;不同应用场景下,对象场景字段的取值不同;处理单元502,具体用于:
读取第i样本组的点云对象指示信息中的对象场景字段,并根据对象场景字段的取值确定第i样本组内的点云对象所属的应用场景;
其中,应用场景包括以下至少一种:高精地图场景、实时巡检场景及抢险救灾场景。
在一种实现方式中,第i样本组内包含M个点云对象,M为正整数;第i样本组的点云对象指示信息中包含M个对象类型字段,M个对象类型字段用于分别指示M个点云对象的类型;不同类型的点云对象对应的对象类型字段的取值不同;设第m点云对象是M个点云对象中的任一个,第m对象类型字段是M个对象类型字段中的任一个,第m对象类型字段用于指示第m点云对象的类型;m为正整数且m∈[1,M];处理单元502,具体用于:
读取第i样本组的点云对象指示信息中的第m对象类型字段,并根据第m对象类型字段的取值确定第i样本组内的第m点云对象的类型;
其中,类型包括以下任一种:场景异常情况、场景指示对象及目标对象。
在一种实现方式中,第i样本组的点云对象指示信息中还包含M个对象描述字段,M个对象描述字段用于分别指示M个点云对象的描述信息;第m对象描述字段是M个对象描述字段中的任一个,第m对象描述字段的取值是以空字符结尾的8位元字符串,用于指示第m点云对象的描述信息;处理单元502,具体用于:
读取第i样本组的点云对象指示信息中的第m对象描述字段,并根据第m对象描述字段的取值确定第i样本组内的第m点云对象的描述信息,并响应描述信息;
其中,描述信息包括以下至少一种:告警信息、突出显示信息及求救信息。
在一种实现方式中,点云媒体包括多个媒体帧,多个媒体帧被封装至N个样本组中,每个样本组中包括至少一个媒体帧;第i样本组内的点云对象存在于第i样本组内的媒体帧中;第i样本组内的所有媒体帧构成一个能够被独立编解码的集合;获取单元501,具体用于:
获取内容制作设备下发的描述信令文件,描述信令文件中包括点云媒体的至少一个封装文件描述信息;
若描述信令文件中的目标封装文件描述信息被选择,则向内容制作设备发送获取请求,获取请求中携带目标封装文件描述信息,以使内容制作设备根据获取请求返回目标封装文件,目标封装文件中包括第i样本组的点云对象指示信息;
从目标封装文件中获取第i样本组的点云对象指示信息;
处理单元502,具体用于:
按照第i样本组的点云对象指示信息对第i样本组进行独立解码,得到第i样本组内的至少一个媒体帧。
根据本申请的一个实施例,图5所示的点云媒体的数据处理装置50中的各个单元可以分别或全部合并为一个或若干个另外的单元来构成,或者其中的某个(些)单元还可以再拆分为功能上更小的多个单元来构成,这可以实现同样的操作,而不影响本申请的实施例的技术效果的实现。上述单元是基于逻辑功能划分的,在实际应用中,一个单元的功能也可以由多个单元来实现,或者多个单元的功能由一个单元实现。在本申请的其它实施例中,该点云媒体的数据处理装置50也可以包括其它单元,在实际应用中,这些功能也可以由其它单元协助实现,并且可以由多个单元协作实现。根据本申请的另一个实施例,可以通过在包括例如中央处理单元(CPU)、随机存取存储介质(RAM)、只读存储介质(ROM)等处理元件和存储元件的通用计算机的通用计算设备上运行能够执行如图3中所示的相应方法所涉及的各步骤的计算机程序(包括程序代码),来构造如图5中所示的点云媒体的数据处理装置50,以及来实现本申请实施例的点云媒体的数据处理方法。计算机程序可以记载于例如计算机可读存储介质上,并通过计算机可读存储介质装载于图1所示点云媒体的数据处理系统的内容消费设备101中,并在其中运行。
本申请实施例中,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个,第i样本组中包含点云对象,第i样本组的点云对象指示信息中的对象优先级字段用于第i样本组的优先级进行指示,第i样本组的点云对象指示信息中的对象数量级字段用于第i样本组内包含的点云对象的数量进行指示,第i样本组的点云对象指示信息中的对象类型字段用于第i样本组内包含的点云对象的类型进行指示,第i样本组的点云对象指示信息中的对象场景字段用于第i样本组内包含的点云对象的所属的应用场景进行指示,第i样本组的点云对象指示信息中的对象描述字段用于第i样本组内包含的点云对象的描述信息进行指示;在点云媒体的消费过程中,可以依据点云媒体的第i样本组的点云对象指示信息解析点云媒体;通过样本组的点云对象指示信息来指示点云媒体中的各种点云对象及点云对象的属性,这使得点云技术标准能够支持更丰富的应用场景;并且依据样本组的点云对象指示信息所指示的属性,能够灵活确定点云媒体的传输策略,有效提升点云媒体在某些网络条件下的传输效率,并且还可有效提高内容消费设备对点云媒体的解析处理效率,从而为点云媒体的消费带来较佳体验。
请参见图6,图6示出了本申请另一个示例性实施例提供的一种点云媒体的数据处理装置的结构示意图,该点云媒体的数据处理装置60可以用于执行图4所示的点云媒体的数据处理方法中的相应步骤,该点云媒体的数据处理装置60包括如下单元:
处理单元601,用于生成点云媒体的第i样本组的点云对象指示信息,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个;第i样本组中包括点云对象,第i样本组的点云对象指示信息用于指示第i样本组中包含的点云对象的属性,N、i均为正整数且i∈[1,N];
传输单元602,用于向内容消费设备传输第i样本组的点云对象指示信息,以使内容消费设备按照第i样本组的点云对象指示信息解析点云媒体。
在一种实现方式中,点云媒体包括多个媒体帧,多个媒体帧被封装至N个样本组中;处理单元601,还用于:
对点云媒体的各个媒体帧进行对象识别;
若识别出点云媒体的至少一个媒体帧中包含点云对象,则将识别得到的至少一个媒体帧封装至第i样本组中;第i样本组内的所有媒体帧构成一个能够被独立编解码的集合;以及,
将点云媒体中的未识别出包含点云对象的其他媒体帧分别封装至N个样本组中除第i样本组之外的其他样本组中。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象优先级字段,对象优先级字段用于指示第i样本组的优先级;对象优先级字段的取值越小,则第i样本组的优先级越高,第i样本组在传输过程中被丢弃的可能性越小;第i样本组的点云指示信息中还包含对象数量字段,对象数量字段用于指示第i样本组内包含的点云对象的数量;处理单元601,具体用于:
识别第i样本组内的点云对象的数量,并根据第i样本组内的点云对象的数量配置第i样本组的点云指示信息中的对象数量的取值为M,M为正整数;M个点云对象中每个点云对象分别对应一个优先级;
根据M个点云对象对应的优先级配置第i样本组的点云对象指示信息中的对象优先级字段;
其中,当M取值为1时,第i样本组内包含一个点云对象,且第i样本组内的点云对象对应一个优先级,第i样本组的优先级等于第i样本组中包含的点云对象的优先级;当M取值大于1时,第i样本组内包含M个点云对象,M个点云对象中的每个点云对象分别对应一个优先级,第i样本组的优先级等于M个优先级中的最高优先级。
在一种实现方式中,处理单元601,还用于:若检测到网络拥塞,则根据点云媒体包含的各个样本组的对象指示信息中的对象优先级字段所指示的优先级,按照各个样本组的优先级由低至高的顺序丢弃点云媒体中的相应样本组,并对点云媒体进行重新封装后发送至内容消费设备。
在一种实现方式中,第i样本组内包含M个点云对象,M为正整数;第i样本组的点云对象指示信息中包含M个对象类型字段和M个对象描述字段,M个对象类型字段用于分别指示M个点云对象的类型,M个对象描述字段用于分别指示M个点云对象的描述信息;不同类型的点云对象对应的对象类型字段的取值不同;设第m点云对象是M个点云对象中的任一个,第m对象类型字段是M个对象类型字段中的任一个,第m对象类型字段用于指示第m点云对象的类型;设第m对象描述字段是M个对象描述字段中的任一个,第m对象描述字段的值是以空字符结尾的8位元字符串,用于指示第m点云对象的描述信息;m为正整数且m∈[1,M];处理单元601,具体用于:
识别第i样本组内的第m点云对象的类型,并根据第m点云对象的类型配置第i样本组的点云对象指示信息中的第m对象类型字段;以及,
获取第i样本组内的第m点云对象的描述信息,并根据第m点云对象的描述信息配置第i样本组的点云对象指示信息中的第m对象描述字段。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象场景字段,对象场景字段用于指示第i样本组内包含的点云对象所属的应用场景;处理单元601,具体用于:
获取第i样本组内的点云对象的所属的应用场景,并根据第i样本组内的点云对象的所属的应用场景配置第i样本组的点云对象指示信息中的对象场景字段。
在一种实现方式中,处理单元601,还用于:
生成描述信令文件,描述信令文件中包括点云媒体的至少一个封装文件描述信息;
向内容消费设备下发所述描述信令文件,并接收内容消费设备发送的获取请求,获取请求中携带被选择的描述信令文件中的目标封装文件描述信息;
根据获取请求向内容消费设备返回目标封装文件;目标封装文件中包括第i样本组的点云对象指示信息。
根据本申请的一个实施例,图6所示的点云媒体的数据处理装置60中的各个单元可以分别或全部合并为一个或若干个另外的单元来构成,或者其中的某个(些)单元还可以再拆分为功能上更小的多个单元来构成,这可以实现同样的操作,而不影响本申请的实施例的技术效果的实现。上述单元是基于逻辑功能划分的,在实际应用中,一个单元的功能也可以由多个单元来实现,或者多个单元的功能由一个单元实现。在本申请的其它实施例中,该点云媒体的数据处理装置60也可以包括其它单元,在实际应用中,这些功能也可以由其它单元协助实现,并且可以由多个单元协作实现。根据本申请的另一个实施例,可以通过在包括例如中央处理单元(CPU)、随机存取存储介质(RAM)、只读存储介质(ROM)等处理元件和存储元件的通用计算机的通用计算设备上运行能够执行如图4中所示的相应方法所涉及的各步骤的计算机程序(包括程序代码),来构造如图6中所示的点云媒体的数据处理装置60,以及来实现本申请实施例的点云媒体的数据处理方法。计算机程序可以记载于例如计算机可读存储介质上,并通过计算机可读存储介质装载于图1所示点云媒体的数据处理系统的内容制作设备102中,并在其中运行。
本申请实施例中,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个,第i样本组中包含点云对象,在点云媒体的制作过程中,内容制作设备对点云媒体中的第i样本组的点云对象指示信息中包含的对象场景字段、对象优先级字段、对象数量字段、对象类型字段以及对象描述字段进行配置,生成第i样本组的点云对象指示信息,第i样本组的点云对象指示信息用于指示第i样本组中包含的点云对象的属性;在点云媒体的消费过程中,可以依据点云媒体的第i样本组的点云对象指示信息解析点云媒体;通过样本组的点云对象指示信息来指示点云媒体中的各种点云对象及点云对象的属性,这使得点云技术标准能够支持更丰富的应用场景;并且依据样本组的点云对象指示信息所指示的属性,能够灵活确定点云媒体的传输策略,有效提升点云媒体在某些网络条件下的传输效率,并且还可有效提高内容消费设备对点云媒体的解析处理效率,从而为点云媒体的消费带来较佳体验。另外,点云媒体传输至内容消费设备的过程中,若内容制作设备或传输网络中的中间节点检测到的传输网络拥塞,可以根据点云媒体包含的各个样本组的对象指示信息中的对象优先级字段所指示的优先级,按照各个样本组的优先级由低至高的顺序丢弃点云媒体中的相应样本组,并对点云媒体进行重新封装后发送至内容消费设备,从而节省传输带宽,进一步提升点云媒体的传输效率。
请参见图7,图7示出了本申请一个示例性实施例提供的一种点云媒体的数据处理设备的结构示意图,该点云媒体的数据处理设备70至少包括处理器701以及计算机可读存储介质702。其中,处理器701以及计算机可读存储介质702可通过总线或者其它方式连接。计算机可读存储介质702可以存储在存储器中,计算机可读存储介质702用于存储计算机程序,计算机程序包括计算机指令,处理器701用于执行计算机可读存储介质702存储的计算机指令。处理器701(或称CPU(Central Processing Unit,中央处理器))是点云媒体的数据处理设备70的计算核心以及控制核心,其适于实现一条或多条计算机指令,具体适于加载并执行一条或多条计算机指令从而实现相应方法流程或相应功能。
本申请实施例还提供了一种计算机可读存储介质(Memory),计算机可读存储介质是点云媒体的数据处理设备70中的记忆设备,用于存放程序和数据。可以理解的是,此处的计算机可读存储介质702既可以包括点云媒体的数据处理设备70中的内置存储介质,当然也可以包括点云媒体的数据处理设备70所支持的扩展存储介质。计算机可读存储介质提供存储空间,该存储空间存储了点云媒体的数据处理设备70的操作系统。并且,在该存储空间中还存放了适于被处理器701加载并执行的一条或多条的计算机指令,这些计算机指令可以是一个或多个的计算机程序(包括程序代码)。需要说明的是,此处的计算机可读存储介质702可以是高速RAM存储器,也可以是非不稳定的存储器(Non-Volatile Memory),例如至少一个磁盘存储器;可选的还可以是至少一个位于远离前述处理器701的计算机可读存储介质。
在一种实现方式中,该点云媒体的数据处理设备70可以是图1所示的点云媒体的数据处理系统中的内容消费设备101;该计算机可读存储介质702中存储有第一计算机指令;由处理器701加载并执行计算机可读存储介质702中存放的第一计算机指令,以实现图3所示方法实施例中的相应步骤;具体实现中,计算机可读存储介质702中的第一计算机指令由处理器701加载并执行如下步骤:
获取点云媒体的第i样本组的点云对象指示信息,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个;第i样本组中包括点云对象,第i样本组的点云对象指示信息用于指示第i样本组中包含的点云对象的属性,N、i均为正整数且i∈[1,N];
按照第i样本组的点云对象指示信息解析点云媒体。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象优先级字段,对象优先级字段用于指示第i样本组的优先级;对象优先级字段的取值越小,则第i样本组的优先级越高,第i样本组在传输过程中被丢弃的可能性越小;
第i样本组的点云指示信息中还包含对象数量字段,对象数量字段用于指示第i样本组内包含的点云对象的数量;对象数量字段的取值为M,M为正整数;当M取值为1时,第i样本组内包含一个点云对象,且第i样本组内的点云对象对应一个优先级,第i样本组的优先级等于第i样本组中包含的点云对象的优先级;当M取值大于1时,第i样本组内包含M个点云对象,M个点云对象中的每个点云对象分别对应一个优先级,第i样本组的优先级等于M个优先级中的最高优先级。
在一种实现方式中,第j样本组是N个样本组中除第i样本组外的任一个,j为正整数且j∈[1,N];第i样本组的优先级高于第j样本组的优先级;计算机可读存储介质702中的第一计算机指令由处理器701加载具体执行如下步骤:
优先按照第i样本组的点云对象指示信息解析第i样本组,再按照第j样本组的点云对象指示信息解析第j样本组;
其中,第i样本组的优先级高于第j样本组的优先级,包括:若第j样本组中不包括点云对象,则第i样本组的优先级高于第j样本组的优先级;或者,若第j样本组中包括点云对象,但第j样本组的点云对象指示信息中包含的对象优先级字段的取值大于第i样本组的点云对象指示信息中包含的对象优先级字段的取值,则第i样本组的优先级高于第j样本组的优先级。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象场景字段,对象场景字段用于指示第i样本组中包含的点云对象所属的应用场景;不同应用场景下,对象场景字段的取值不同;计算机可读存储介质702中的第一计算机指令由处理器701加载具体执行如下步骤:
读取第i样本组的点云对象指示信息中的对象场景字段,并根据对象场景字段的取值确定第i样本组内的点云对象所属的应用场景;
其中,应用场景包括以下至少一种:高精地图场景、实时巡检场景及抢险救灾场景。
在一种实现方式中,第i样本组内包含M个点云对象,M为正整数;第i样本组的点云对象指示信息中包含M个对象类型字段,M个对象类型字段用于分别指示M个点云对象的类型;不同类型的点云对象对应的对象类型字段的取值不同;设第m点云对象是M个点云对象中的任一个,第m对象类型字段是M个对象类型字段中的任一个,第m对象类型字段用于指示第m点云对象的类型;m为正整数且m∈[1,M];计算机可读存储介质702中的第一计算机指令由处理器701加载具体执行如下步骤:
读取第i样本组的点云对象指示信息中的第m对象类型字段,并根据第m对象类型字段的取值确定第i样本组内的第m点云对象的类型;
其中,类型包括以下任一种:场景异常情况、场景指示对象及目标对象。
在一种实现方式中,第i样本组的点云对象指示信息中还包含M个对象描述字段,M个对象描述字段用于分别指示M个点云对象的描述信息;第m对象描述字段是M个对象描述字段中的任一个,第m对象描述字段的取值是以空字符结尾的8位元字符串,用于指示第m点云对象的描述信息;计算机可读存储介质702中的第一计算机指令由处理器701加载具体执行如下步骤:
读取第i样本组的点云对象指示信息中的第m对象描述字段,并根据第m对象描述字段的取值确定第i样本组内的第m点云对象的描述信息,并响应描述信息;
其中,描述信息包括以下至少一种:告警信息、突出显示信息及求救信息。
若第i样本组的点云对象指示信息指示第i样本组内包含的点云对象所属的应用场景为抢险救灾场景,且第m点云对象的类型为目标对象,则第m点云对象的优先级高于其他点云对象的优先级。
在一种实现方式中,点云媒体包括多个媒体帧,多个媒体帧被封装至N个样本组中,每个样本组中包括至少一个媒体帧;第i样本组内的点云对象存在于第i样本组内的媒体帧中;第i样本组内的所有媒体帧构成一个能够被独立编解码的集合;计算机可读存储介质702中的第一计算机指令由处理器701加载具体执行如下步骤:
获取内容制作设备下发的描述信令文件,描述信令文件中包括点云媒体的至少一个封装文件描述信息;
若描述信令文件中的目标封装文件描述信息被选择,则向内容制作设备发送获取请求,获取请求中携带目标封装文件描述信息,以使内容制作设备根据获取请求返回目标封装文件,目标封装文件中包括第i样本组的点云对象指示信息;
从目标封装文件中获取第i样本组的点云对象指示信息;
计算机可读存储介质702中的第一计算机指令由处理器701加载具体执行如下步骤:
按照第i样本组的点云对象指示信息对第i样本组进行独立解码,得到第i样本组内的至少一个媒体帧。
在一种实现方式中,该点云媒体的数据处理设备70可以是图1所示的点云媒体的数据处理系统中的内容制作设备102;该计算机可读存储介质702中存储有第二计算机指令;由处理器701加载并执行计算机可读存储介质702中存放的第二计算机指令,以实现图4所示方法实施例中的相应步骤;具体实现中,计算机可读存储介质702中的第二计算机指令由处理器701加载并执行如下步骤:
生成点云媒体的第i样本组的点云对象指示信息,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个;第i样本组中包括点云对象,第i样本组的点云对象指示信息用于指示第i样本组中包含的点云对象的属性,N、i均为正整数且i∈[1,N];
向内容消费设备传输第i样本组的点云对象指示信息,以使内容消费设备按照第i样本组的点云对象指示信息解析点云媒体。
在一种实现方式中,点云媒体包括多个媒体帧,多个媒体帧被封装至N个样本组中;计算机可读存储介质702中的第二计算机指令由处理器701加载还执行如下步骤:
对点云媒体的各个媒体帧进行对象识别;
若识别出点云媒体的至少一个媒体帧中包含点云对象,则将识别得到的至少一个媒体帧封装至第i样本组中;第i样本组内的所有媒体帧构成一个能够被独立编解码的集合;以及,
将点云媒体中的未识别出包含点云对象的其他媒体帧分别封装至N个样本组中除第i样本组之外的其他样本组中。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象优先级字段,对象优先级字段用于指示第i样本组的优先级;对象优先级字段的取值越小,则第i样本组的优先级越高,第i样本组在传输过程中被丢弃的可能性越小;第i样本组的点云指示信息中还包含对象数量字段,对象数量字段用于指示第i样本组内包含的点云对象的数量;计算机可读存储介质702中的第二计算机指令由处理器701加载具体执行如下步骤:
识别第i样本组内的点云对象的数量,并根据第i样本组内的点云对象的数量配置第i样本组的点云指示信息中的对象数量字段的取值为M,M为正整数;M个点云对象中每个点云对象分别对应一个优先级;
根据M个点云对象对应的优先级配置第i样本组的点云对象指示信息中的对象优先级字段;
其中,当M取值为1时,第i样本组内包含一个点云对象,且第i样本组内的点云对象对应一个优先级,第i样本组的优先级等于第i样本组中包含的点云对象的优先级;当M取值大于1时,第i样本组内包含M个点云对象,M个点云对象中的每个点云对象分别对应一个优先级,第i样本组的优先级等于M个优先级中的最高优先级。
在一种实现方式中,计算机可读存储介质702中的第二计算机指令由处理器701加载还执行如下步骤:若检测到网络拥塞,则根据点云媒体包含的各个样本组的对象指示信息中的对象优先级字段所指示的优先级,按照各个样本组的优先级由低至高的顺序丢弃点云媒体中的相应样本组,并对点云媒体进行重新封装后发送至内容消费设备。
在一种实现方式中,第i样本组内包含M个点云对象,M为正整数;第i样本组的点云对象指示信息中包含M个对象类型字段和M个对象描述字段,M个对象类型字段用于分别指示M个点云对象的类型,M个对象描述字段用于分别指示M个点云对象的描述信息;不同类型的点云对象对应的对象类型字段的取值不同;设第m点云对象是M个点云对象中的任一个,第m对象类型字段是M个对象类型字段中的任一个,第m对象类型字段用于指示第m点云对象的类型;设第m对象描述字段是M个对象描述字段中的任一个,第m对象描述字段的值是以空字符结尾的8位元字符串,用于指示第m点云对象的描述信息;m为正整数且m∈[1,M];计算机可读存储介质702中的第二计算机指令由处理器701加载具体执行如下步骤:
识别第i样本组内的第m点云对象的类型,并根据第m点云对象的类型配置第i样本组的点云对象指示信息中的第m对象类型字段;以及,
获取第i样本组内的第m点云对象的描述信息,并根据第m点云对象的描述信息配置第i样本组的点云对象指示信息中的第m对象描述字段。
在一种实现方式中,第i样本组的点云对象指示信息中包含对象场景字段,对象场景字段用于指示第i样本组内包含的点云对象所属的应用场景;计算机可读存储介质702中的第二计算机指令由处理器701加载具体执行如下步骤:
获取第i样本组内的点云对象的所属的应用场景,并根据第i样本组内的点云对象的所属的应用场景配置第i样本组的点云对象指示信息中的对象场景字段。
在一种实现方式中,第i样本组内包含M个点云对象,M为正整数;第i样本组的点云对象指示信息中包含M个对象描述字段,M个对象描述字段用于分别指示M个点云对象的描述信息;设第m点云对象是M个点云对象中的任一个,第m对象描述字段是M个对象描述字段中的任一个,第m对象描述字段的值是以空字符结尾的8位元字符串,用于指示第m点云对象的描述信息;计算机可读存储介质702中的第二计算机指令由处理器701加载具体执行如下步骤:
获取第i样本组内的第m点云对象的描述信息,并根据第m点云对象的描述信息配置第i样本组的点云对象指示信息中的第m对象描述字段。
在一种实现方式中,计算机可读存储介质702中的第二计算机指令由处理器701加载还执行如下步骤:
生成描述信令文件,描述信令文件中包括点云媒体的至少一个封装文件描述信息;
向内容消费设备下发所述描述信令文件,并接收内容消费设备发送的获取请求,获取请求中携带被选择的描述信令文件中的目标封装文件描述信息;
根据获取请求向内容消费设备返回目标封装文件;目标封装文件中包括第i样本组的点云对象指示信息。
本申请实施例中,点云媒体包括N个样本组,第i样本组为N个样本组中的任一个,第i样本组中包含点云对象,第i样本组的点云对象指示信息用于指示第i样本组包含的点云对象的属性(例如优先级、所属的应用场景、类型等等);在点云媒体的消费过程中,可以依据点云媒体的第i样本组的点云对象指示信息解析点云媒体;通过样本组的点云对象指示信息来指示点云媒体中的各种点云对象及点云对象的属性,这使得点云技术标准能够支持更丰富的应用场景;并且依据样本组的点云对象指示信息所指示的属性,能够灵活确定点云媒体的传输策略,有效提升点云媒体在某些网络条件下的传输效率,并且还可有效提高内容消费设备对点云媒体的解析处理效率,从而为点云媒体的消费带来较佳体验。
根据本申请的一个方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各种可选方式中提供的点云媒体的数据处理方法。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (17)
1.一种点云媒体的数据处理方法,其特征在于,所述方法包括:
获取点云媒体的第i样本组的点云对象指示信息,所述点云媒体包括N个样本组,所述第i样本组为所述N个样本组中的任一个;所述第i样本组中包括点云对象,所述第i样本组的点云对象指示信息用于指示所述第i样本组中包含的点云对象的属性,N、i均为正整数且i∈[1,N];
按照所述第i样本组的点云对象指示信息解析所述点云媒体。
2.如权利要求1所述的方法,其特征在于,所述第i样本组的点云对象指示信息中包含对象优先级字段,所述对象优先级字段用于指示所述第i样本组的优先级;所述对象优先级字段的取值越小,则所述第i样本组的优先级越高,所述第i样本组在传输过程中被丢弃的可能性越小;
所述第i样本组的点云指示信息中还包含对象数量字段,所述对象数量字段用于指示所述第i样本组内包含的点云对象的数量;所述对象数量字段的取值为M,M为正整数;当M取值为1时,所述第i样本组内包含一个点云对象,且所述第i样本组内的点云对象对应一个优先级,所述第i样本组的优先级等于所述第i样本组中包含的点云对象的优先级;当M取值大于1时,所述第i样本组内包含M个点云对象,所述M个点云对象中的每个点云对象分别对应一个优先级,所述第i样本组的优先级等于M个优先级中的最高优先级。
3.如权利要求2所述的方法,其特征在于,第j样本组是所述N个样本组中除所述第i样本组外的任一个,j为正整数且j∈[1,N];所述第i样本组的优先级高于所述第j样本组的优先级;
所述按照所述第i样本组的点云对象指示信息解析所述点云媒体,包括:
按照所述第i样本组的点云对象指示信息优先解析所述第i样本组,再按照所述第j样本组的点云对象指示信息解析所述第j样本组;
其中,所述第i样本组的优先级高于所述第j样本组的优先级,包括:若所述第j样本组中不包括点云对象,则所述第i样本组的优先级高于所述第j样本组的优先级;或者,若所述第j样本组中包括点云对象,但所述第j样本组的点云对象指示信息中包含的对象优先级字段的取值大于所述第i样本组的点云对象指示信息中包含的对象优先级字段的取值,则所述第i样本组的优先级高于所述第j样本组的优先级。
4.如权利要求1所述的方法,其特征在于,所述第i样本组的点云对象指示信息中包含对象场景字段,所述对象场景字段用于指示所述第i样本组中包含的点云对象所属的应用场景;不同应用场景下,所述对象场景字段的取值不同;
所述按照所述第i样本组的点云对象指示信息解析所述点云媒体,包括:
读取所述第i样本组的点云对象指示信息中的对象场景字段,并根据所述对象场景字段的取值确定所述第i样本组内的点云对象所属的应用场景;
其中,所述应用场景包括以下至少一种:高精地图场景、实时巡检场景及抢险救灾场景。
5.如权利要求1所述的方法,其特征在于,所述第i样本组内包含M个点云对象,M为正整数;所述第i样本组的点云对象指示信息中包含M个对象类型字段,所述M个对象类型字段用于分别指示所述M个点云对象的类型;不同类型的点云对象对应的对象类型字段的取值不同;设第m点云对象是所述M个点云对象中的任一个,第m对象类型字段是所述M个对象类型字段中的任一个,所述第m对象类型字段用于指示所述第m点云对象的类型;m为正整数且m∈[1,M];
所述按照所述第i样本组的点云对象指示信息解析所述点云媒体,包括:
读取所述第i样本组的点云对象指示信息中的第m对象类型字段,并根据所述第m对象类型字段的取值确定所述第i样本组内的第m点云对象的类型;
其中,所述点云对象的类型包括以下任一种:场景异常情况、场景指示对象及目标对象。
6.如权利要求5所述的方法,其特征在于,所述第i样本组的点云对象指示信息中还包含M个对象描述字段,所述M个对象描述字段用于分别指示所述M个点云对象的描述信息;第m对象描述字段是所述M个对象描述字段中的任一个,所述第m对象描述字段的取值是以空字符结尾的8位元字符串,用于指示所述第m点云对象的描述信息;
所述按照所述第i样本组的点云对象指示信息解析所述点云媒体,还包括:
读取所述第i样本组的点云对象指示信息中的第m对象描述字段,并根据所述第m对象描述字段的取值确定所述第i样本组内的第m点云对象的描述信息,并响应所述描述信息;
其中,所述描述信息包括以下至少一种:告警信息、突出显示信息及求救信息。
7.如权利要求1所述的方法,其特征在于,所述点云媒体包括多个媒体帧,所述多个媒体帧被封装至所述N个样本组中,每个样本组中包括至少一个媒体帧;所述第i样本组内的点云对象存在于所述第i样本组内的媒体帧中;所述第i样本组内的所有媒体帧构成一个能够被独立编解码的集合;
所述获取点云媒体的第i样本组的点云对象指示信息,包括:
获取内容制作设备下发的描述信令文件,所述描述信令文件中包括所述点云媒体的至少一个封装文件描述信息;
若所述描述信令文件中的目标封装文件描述信息被选择,则向所述内容制作设备发送获取请求,所述获取请求中携带所述目标封装文件描述信息,以使所述内容制作设备根据所述获取请求返回目标封装文件,所述目标封装文件中包括所述第i样本组的点云对象指示信息;
从所述目标封装文件中获取所述第i样本组的点云对象指示信息;
所述按照所述第i样本组的点云对象指示信息解析所述点云媒体,包括:
按照所述第i样本组的点云对象指示信息对所述第i样本组进行独立解码,得到所述第i样本组内的至少一个媒体帧。
8.一种点云媒体的数据处理方法,其特征在于,所述方法包括:
生成点云媒体的第i样本组的点云对象指示信息,所述点云媒体包括N个样本组,所述第i样本组为所述N个样本组中的任一个;所述第i样本组中包括点云对象,所述第i样本组的点云对象指示信息用于指示所述第i样本组中包含的点云对象的属性,N、i均为正整数且i∈[1,N];
向内容消费设备传输所述第i样本组的点云对象指示信息,以使所述内容消费设备按照所述第i样本组的点云对象指示信息解析所述点云媒体。
9.如权利要求8所述的方法,其特征在于,所述点云媒体包括多个媒体帧,所述多个媒体帧被封装至所述N个样本组中;所述方法还包括:
对所述点云媒体的各个媒体帧进行对象识别;
若识别出所述点云媒体的至少一个媒体帧中包含点云对象,则将识别得到的所述至少一个媒体帧封装至所述第i样本组中;所述第i样本组内的所有媒体帧构成一个能够被独立编解码的集合;以及,
将所述点云媒体中的未识别出包含点云对象的其他媒体帧分别封装至所述N个样本组中除所述第i样本组之外的其他样本组中。
10.如权利要求8所述的方法,其特征在于,所述第i样本组的点云对象指示信息中包含对象优先级字段,所述对象优先级字段用于指示所述第i样本组的优先级;所述对象优先级字段的取值越小,则所述第i样本组的优先级越高,所述第i样本组在传输过程中被丢弃的可能性越小;所述第i样本组的点云指示信息中还包含对象数量字段,所述对象数量字段用于指示所述第i样本组内包含的点云对象的数量;
所述生成点云媒体的第i样本组的点云对象指示信息,包括:
识别所述第i样本组内的点云对象的数量,并根据所述第i样本组内的点云对象的数量配置所述第i样本组的点云指示信息中的对象数量字段的取值为M,M为正整数;M个点云对象中每个点云对象分别对应一个优先级;
根据所述M个点云对象对应的优先级配置所述第i样本组的点云对象指示信息中的对象优先级字段;
其中,当M取值为1时,所述第i样本组内包含一个点云对象,且所述第i样本组内的点云对象对应一个优先级,所述第i样本组的优先级等于所述第i样本组中包含的点云对象的优先级;当M取值大于1时,所述第i样本组内包含M个点云对象,所述M个点云对象中的每个点云对象分别对应一个优先级,所述第i样本组的优先级等于M个优先级中的最高优先级。
11.如权利要求10所述的方法,其特征在于,所述方法还包括:
若检测到网络拥塞,则根据所述点云媒体包含的各个样本组的对象指示信息中的对象优先级字段所指示的优先级,按照所述各个样本组的优先级由低至高的顺序丢弃所述点云媒体中的相应样本组,并对所述点云媒体进行重新封装后发送至所述内容消费设备。
12.如权利要求8所述的方法,其特征在于,所述第i样本组内包含M个点云对象,M为正整数;所述第i样本组的点云对象指示信息中包含M个对象类型字段和M个对象描述字段,所述M个对象类型字段用于分别指示所述M个点云对象的类型,所述M个对象描述字段用于分别指示所述M个点云对象的描述信息;不同类型的点云对象对应的对象类型字段的取值不同;设第m点云对象是所述M个点云对象中的任一个,第m对象类型字段是所述M个对象类型字段中的任一个,所述第m对象类型字段用于指示所述第m点云对象的类型;设第m对象描述字段是所述M个对象描述字段中的任一个,所述第m对象描述字段的值是以空字符结尾的8位元字符串,用于指示所述第m点云对象的描述信息;m为正整数且m∈[1,M];
所述生成点云媒体的第i样本组的点云对象指示信息,包括:
识别所述第i样本组内的第m点云对象的类型,并根据所述第m点云对象的类型配置所述第i样本组的点云对象指示信息中的第m对象类型字段;以及,
获取所述第i样本组内的第m点云对象的描述信息,并根据所述第m点云对象的描述信息配置所述第i样本组的点云对象指示信息中的第m对象描述字段。
13.如权利要求8所述的方法,其特征在于,所述第i样本组的点云对象指示信息中包含对象场景字段,所述对象场景字段用于指示所述第i样本组内包含的点云对象所属的应用场景;
所述生成点云媒体的第i样本组的点云对象指示信息,包括:
获取所述第i样本组内的点云对象的所属的应用场景,并根据所述第i样本组内的点云对象的所属的应用场景配置所述第i样本组的点云对象指示信息中的对象场景字段。
14.一种点云媒体的数据处理装置,其特征在于,所述点云媒体的数据处理装置包括:
获取单元,用于获取点云媒体的第i样本组的点云对象指示信息,所述点云媒体包括N个样本组,所述第i样本组为所述N个样本组中的任一个;所述第i样本组中包括点云对象,所述第i样本组的点云对象指示信息用于指示所述第i样本组中包含的所述点云对象的属性,N、i均为正整数且i∈[1,N];
处理单元,用于按照所述第i样本组的点云对象指示信息解析所述点云媒体。
15.一种点云媒体的数据处理装置,其特征在于,所述点云媒体的数据处理装置包括:
处理单元,用于生成点云媒体的第i样本组的点云对象指示信息,所述点云媒体包括N个样本组,所述第i样本组为所述N个样本组中的任一个;所述第i样本组中包括点云对象,所述第i样本组的点云对象指示信息用于指示所述第i样本组中包含的所述点云对象的属性,N、i均为正整数且i∈[1,N];
传输单元,用于向内容消费设备传输所述第i样本组的点云对象指示信息,以使所述内容消费设备按照所述第i样本组的点云对象指示信息解析所述点云媒体。
16.一种点云媒体的数据处理设备,其特征在于,所述点云媒体的数据处理设备包括:
处理器,适于实现计算机指令;以及,
计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令适于由所述处理器加载并执行如权利要求1至13任一项所述的点云媒体的数据处理方法。
17.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括计算机指令,所述计算机指令适于由所述处理器加载并执行如权利要求1至13任一项所述的点云媒体的数据处理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011030289.3A CN114257816A (zh) | 2020-09-25 | 2020-09-25 | 一种点云媒体的数据处理方法、装置、设备及存储介质 |
PCT/CN2021/115689 WO2022062860A1 (zh) | 2020-09-25 | 2021-08-31 | 一种点云媒体的数据处理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011030289.3A CN114257816A (zh) | 2020-09-25 | 2020-09-25 | 一种点云媒体的数据处理方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114257816A true CN114257816A (zh) | 2022-03-29 |
Family
ID=80790773
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011030289.3A Pending CN114257816A (zh) | 2020-09-25 | 2020-09-25 | 一种点云媒体的数据处理方法、装置、设备及存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN114257816A (zh) |
WO (1) | WO2022062860A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115379189A (zh) * | 2022-08-19 | 2022-11-22 | 腾讯科技(深圳)有限公司 | 一种点云媒体的数据处理方法及相关设备 |
WO2024041239A1 (zh) * | 2022-08-22 | 2024-02-29 | 腾讯科技(深圳)有限公司 | 一种沉浸媒体的数据处理方法、装置、设备、存储介质及程序产品 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115396645B (zh) * | 2022-08-18 | 2024-04-19 | 腾讯科技(深圳)有限公司 | 一种沉浸媒体的数据处理方法、装置、设备及存储介质 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10909725B2 (en) * | 2017-09-18 | 2021-02-02 | Apple Inc. | Point cloud compression |
US11010931B2 (en) * | 2018-10-02 | 2021-05-18 | Tencent America LLC | Method and apparatus for video coding |
US11423582B2 (en) * | 2019-03-01 | 2022-08-23 | Tencent America LLC | Method and apparatus for point cloud compression |
US11245926B2 (en) * | 2019-03-19 | 2022-02-08 | Mediatek Singapore Pte. Ltd. | Methods and apparatus for track derivation for immersive media data tracks |
EP3926959A4 (en) * | 2019-03-21 | 2022-03-23 | LG Electronics Inc. | POINT CLOUD DATA TRANSMITTER DEVICE, POINT CLOUD DATA TRANSMITTER METHOD, POINT CLOUD DATA RECEIVE DEVICE, AND POINT CLOUD DATA RECEIVE METHOD |
-
2020
- 2020-09-25 CN CN202011030289.3A patent/CN114257816A/zh active Pending
-
2021
- 2021-08-31 WO PCT/CN2021/115689 patent/WO2022062860A1/zh active Application Filing
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115379189A (zh) * | 2022-08-19 | 2022-11-22 | 腾讯科技(深圳)有限公司 | 一种点云媒体的数据处理方法及相关设备 |
CN115379189B (zh) * | 2022-08-19 | 2023-12-12 | 腾讯科技(深圳)有限公司 | 一种点云媒体的数据处理方法及相关设备 |
WO2024041239A1 (zh) * | 2022-08-22 | 2024-02-29 | 腾讯科技(深圳)有限公司 | 一种沉浸媒体的数据处理方法、装置、设备、存储介质及程序产品 |
Also Published As
Publication number | Publication date |
---|---|
WO2022062860A1 (zh) | 2022-03-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114257816A (zh) | 一种点云媒体的数据处理方法、装置、设备及存储介质 | |
CN114079781B (zh) | 一种点云媒体的数据处理方法、装置、设备及存储介质 | |
US20240054682A1 (en) | Three-Dimensional Point Cloud Data Processing Method and Apparatus, Storage Medium and Electronic Apparatus | |
CN115379189B (zh) | 一种点云媒体的数据处理方法及相关设备 | |
CN111695541A (zh) | 基于机器视觉的无人机森林防火系统及方法 | |
US20230169719A1 (en) | Method and Apparatus for Processing Immersive Media Data, Storage Medium and Electronic Apparatus | |
CN115396646B (zh) | 一种点云媒体的数据处理方法及相关设备 | |
WO2023226504A1 (zh) | 一种媒体数据处理方法、装置、设备以及可读存储介质 | |
CN115396647B (zh) | 一种沉浸媒体的数据处理方法、装置、设备及存储介质 | |
CN114554243B (zh) | 点云媒体的数据处理方法、装置、设备及存储介质 | |
CN114581631A (zh) | 沉浸式媒体的数据处理方法、装置和计算机可读存储介质 | |
WO2022174745A1 (zh) | 非时序点云媒体的数据处理方法、装置以及设备 | |
CN115834857B (zh) | 点云数据处理方法、装置、设备及存储介质 | |
CN115086635B (zh) | 多视角视频的处理方法、装置、设备及存储介质 | |
CN115379188B (zh) | 点云数据处理方法、装置、设备及存储介质 | |
JPWO2020032004A1 (ja) | 三次元データ格納方法、三次元データ取得方法、三次元データ格納装置、及び三次元データ取得装置 | |
CN115102932B (zh) | 点云媒体的数据处理方法、装置、设备、存储介质及产品 | |
US20230034937A1 (en) | Media file encapsulating method, media file decapsulating method, and related devices | |
CN116939290A (zh) | 媒体数据处理方法、装置、设备及存储介质 | |
CN113129393B (zh) | 一种点云数据处理方法及系统 | |
CN114842414B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN115426502A (zh) | 点云媒体的数据处理方法、装置、设备及存储介质 | |
CN117082262A (zh) | 点云文件封装与解封装方法、装置、设备及存储介质 | |
CN115061984A (zh) | 点云媒体的数据处理方法、装置、设备、存储介质 | |
CN115730206A (zh) | 一种信息处理设备、方法及计算机存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40064957 Country of ref document: HK |