CN112017202A - 点云标注方法、装置及系统 - Google Patents
点云标注方法、装置及系统 Download PDFInfo
- Publication number
- CN112017202A CN112017202A CN201910453502.2A CN201910453502A CN112017202A CN 112017202 A CN112017202 A CN 112017202A CN 201910453502 A CN201910453502 A CN 201910453502A CN 112017202 A CN112017202 A CN 112017202A
- Authority
- CN
- China
- Prior art keywords
- point cloud
- frame
- current frame
- target object
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000002372 labelling Methods 0.000 title claims abstract description 66
- 238000000034 method Methods 0.000 claims abstract description 55
- 230000003068 static effect Effects 0.000 claims abstract description 42
- 238000012545 processing Methods 0.000 claims abstract description 38
- 230000033001 locomotion Effects 0.000 claims abstract description 31
- 238000000280 densification Methods 0.000 claims description 77
- 230000008569 process Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 230000015654 memory Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 3
- 238000013519 translation Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/5866—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Library & Information Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Processing Or Creating Images (AREA)
Abstract
本申请公开了一种点云标注方法、装置及系统,属于数据处理领域。所述方法包括:根据当前帧点云的采集信息获取N帧点云,根据当前帧点云和获取的N帧点云,确定当前待标注的目标对象处于静止状态还是运动状态。如果目标对象处于静止状态,则根据当前帧点云和获取的N帧点云对目标对象进行标注;如果目标对象处于运动状态,则根据当前帧点云对目标对象进行标注。由于处于静止状态的目标对象在当前帧点云中的轮廓不够清晰,而处于运动状态的目标对象在当前帧点云中的轮廓比较清晰,因此,根据目标对象的不同状态,对目标对象进行标注,使得对当前帧点云中目标对象的标注更加高效,且准确度更高。
Description
技术领域
本申请涉及数据处理领域,特别涉及一种点云标注方法、装置及系统。
背景技术
随着机器人和自动驾驶汽车等可移动设备的不断发展,为了使可移动设备能够在移动过程中自动对周围的物体和行人等对象进行识别,通常需要预先获取这些对象的数据样本使可移动设备进行机器训练学习。而在获取这些对象的数据样本时,通常需要先获取包含这些对象的点云,并对点云中的对象的类型和尺寸等信息进行标注,以得到点云中每个对象的标签。
目前,相关技术中提供了一种点云标注方法,包括:构建三维场景并在该三维场景中建立三维坐标系,将当前帧点云中每个三维点的坐标转换到该三维坐标系中。之后从该三维场景中确定当前待标注的目标对象的轮廓,根据目标对象的轮廓确定目标对象的类型,然后根据该类型对应的标注方式对目标对象进行标注。
然而,由于通常情况下,一帧点云中的三维点较为稀疏,所以当目标对象包含的三维点较为稀疏或者目标对象的尺寸较小时,确定目标对象的轮廓较为困难,从而根据目标对象的轮廓确定目标对象的类型的准确度较低,进而使得对目标对象的标注结果的准确度较低。
发明内容
本申请提供了一种点云标注方法、装置及系统,可以解决相关技术的当目标对象包含的三维点较为稀疏或者目标对象的尺寸较小时,确定目标对象的轮廓较为困难,从而导致对目标对象的标注结果的准确度较低的问题。所述技术方案如下:
第一方面,提供了一种点云标注方法,所述方法包括:
根据当前帧点云的采集信息获取N帧点云,所述N为大于或等于1的整数;
根据所述当前帧点云和所述N帧点云,确定当前待标注的目标对象处于静止状态还是运动状态;
如果所述目标对象处于静止状态,则根据所述当前帧点云和所述N帧点云对所述目标对象进行标注;
如果所述目标对象处于运动状态,则根据所述当前帧点云对所述目标对象进行标注。
可选地,所述根据所述当前帧点云和所述N帧点云,确定当前待标注的目标对象处于静止状态还是运动状态,包括:
根据所述N帧点云中的点云数据,对所述当前帧点云进行稠密化处理;
根据稠密化处理后的当前帧点云,确定所述目标对象处于静止状态还是运动状态;
所述根据所述当前帧点云和所述N帧点云对所述目标对象进行标注,包括:
根据稠密化处理后的当前帧点云对所述目标对象进行标注。
可选地,所述根据所述N帧点云中的点云数据,对所述当前帧点云进行稠密化处理,包括:
将所述N帧点云中的所有点云数据或者部分点云数据投影到所述当前帧点云中,以对所述当前帧点云进行稠密化处理。
可选地,所述根据当前帧点云的采集信息获取N帧点云,包括:
获取当前已采集到的多帧点云中每帧点云的采集时间以及所述当前帧点云的采集时间;
根据所述多帧点云中每帧点云的采集时间以及所述当前帧点云的采集时间,确定所述多帧点云中每帧点云与所述当前帧点云之间的采集时间间隔;
根据确定的采集时间间隔从所述多帧点云中选择N帧点云,所述当前帧点云和所述N帧点云中每相邻两帧点云之间的采集时间间隔为参考时间间隔。
可选地,所述根据当前帧点云的采集信息获取N帧点云,包括:
获取当前已采集到的多帧点云中每帧点云的位姿信息以及所述当前帧点云的位姿信息;
根据所述多帧点云中每帧点云的位姿信息以及所述当前帧点云的位姿信息,确定所述多帧点云中每帧点云与所述当前帧点云之间的空间距离;
按照确定的空间距离从所述多帧点云中选择N帧点云,所述当前帧点云和所述N帧点云中每相邻两帧点云之间的空间距离为参考距离。
可选地,所述将所述N帧点云中的所有点云数据点云数据投影到所述当前帧点云中,包括:
对于所述N帧点云中的第一点云,确定所述第一点云与所述当前帧点云之间的相对位姿信息,所述第一点云为所述N帧点云中的任一帧点云;
根据所述第一点云与所述当前帧点云之间的相对位姿信息,以及所述第一点云中的所有点云数据,确定所述第一点云中的所有点云数据在所述当前帧点云中的投影数据;
将所述第一点云中的所有点云数据在所述当前帧点云中的投影数据,添加至所述当前帧点云中。
可选地,所述根据稠密化处理后的当前帧点云对所述目标对象进行标注,包括:
确定所述目标对象的类别;
根据所述目标对象的类别,在包含有稠密化处理后的当前帧点云的三维坐标系中生成一个三维框;
对所述三维框的位置和尺寸进行调整,以使调整后的三维框能够包围稠密化处理后的当前帧点云中的所述目标对象;
通过调整后的三维框,对所述目标对象进行标注。
可选地,所述三维框为三维矩形框;
所述对所述三维框的位置和尺寸进行调整,包括:
当检测到第一调整操作时,按照所述三维坐标系的俯视平面的方向显示所述三维框,调整所述三维框的水平位置、长度和宽度中的至少一个;和/或
当检测到第二调整操作时,按照所述三维坐标系的正视平面的方向显示所述三维框,调整所述三维框的垂向位置和高度中的至少一个。
可选地,所述调整所述三维框的垂向位置和高度中的至少一个之前,还包括:
将位于所述俯视平面内且位于所述三维框之外的点云数据隐藏。
第二方面,提供了一种点云标注装置,所述装置包括:
获取模块,用于根据当前帧点云的采集信息获取N帧点云,所述N为大于或等于1的整数;
确定模块,用于根据所述当前帧点云和所述N帧点云,确定当前待标注的目标对象处于静止状态还是运动状态;
第一标注模块,用于如果所述目标对象处于静止状态,则根据所述当前帧点云和所述N帧点云对所述目标对象进行标注;
第二标注模块,用于如果所述目标对象处于运动状态,则根据所述当前帧点云对所述目标对象进行标注。
可选地,所述确定模块包括:
稠密化处理子模块,用于根据所述N帧点云中的点云数据,对所述当前帧点云进行稠密化处理;
第一确定子模块,用于根据稠密化处理后的当前帧点云,确定所述目标对象处于静止状态还是运动状态;
所述第一标注模块包括:
标注子模块,用于根据稠密化处理后的当前帧点云对所述目标对象进行标注。
可选地,所述稠密化处理子模块包括:
投影单元,用于将所述N帧点云中的所有点云数据或者部分点云数据投影到所述当前帧点云中,以对所述当前帧点云进行稠密化处理。
可选地,所述获取模块包括:
第一获取子模块,用于获取当前已采集到的多帧点云中每帧点云的采集时间以及所述当前帧点云的采集时间;
第二确定子模块,用于根据所述多帧点云中每帧点云的采集时间以及所述当前帧点云的采集时间,确定所述多帧点云中每帧点云与所述当前帧点云之间的采集时间间隔;
第一选择子模块,用于根据确定的采集时间间隔从所述多帧点云中选择N帧点云,所述当前帧点云和所述N帧点云中每相邻两帧点云之间的采集时间间隔为参考时间间隔。
可选地,所述获取模块包括:
第二获取子模块,用于获取当前已采集到的多帧点云中每帧点云的位姿信息以及所述当前帧点云的位姿信息;
第三确定子模块,用于根据所述多帧点云中每帧点云的位姿信息以及所述当前帧点云的位姿信息,确定所述多帧点云中每帧点云与所述当前帧点云之间的空间距离;
第二选择子模块,用于按照确定的空间距离从所述多帧点云中选择N帧点云,所述当前帧点云和所述N帧点云中每相邻两帧点云之间的空间距离为参考距离。
可选地,所述投影单元主要用于:
对于所述N帧点云中的第一点云,确定所述第一点云与所述当前帧点云之间的相对位姿信息,所述第一点云为所述N帧点云中的任一帧点云;
根据所述第一点云与所述当前帧点云之间的相对位姿信息,以及所述第一点云中的所有点云数据,确定所述第一点云中的所有点云数据在所述当前帧点云中的投影数据;
将所述第一点云中的所有点云数据在所述当前帧点云中的投影数据,添加至所述当前帧点云中。
可选地,所述标注子模块包括:
确定单元,用于确定所述目标对象的类别;
生成单元,用于根据所述目标对象的类别,在包含有稠密化处理后的当前帧点云的三维坐标系中生成一个三维框;
调整单元,用于对所述三维框的位置和尺寸进行调整,以使调整后的三维框能够包围稠密化处理后的当前帧点云中的所述目标对象;
标注单元,用于通过调整后的三维框,对所述目标对象进行标注。
可选地,所述三维框为三维矩形框;
所述调整单元主要用于:
当检测到第一调整操作时,按照所述三维坐标系的俯视平面的方向显示所述三维框,调整所述三维框的水平位置、长度和宽度中的至少一个;和/或
当检测到第二调整操作时,按照所述三维坐标系的正视平面的方向显示所述三维框,调整所述三维框的垂向位置和高度中的至少一个。
可选地,所述调整单元还用于:
将位于所述俯视平面内且位于所述三维框之外的点云数据隐藏。
第三方面,提供了一种点云标注系统,所述系统包括点云采集器和点云标注设备,所述点云标注设备用于执行上述第一方面所述的点云标注方法的步骤。
第四方面,提供了一种点云标注设备,所述点云标注设备包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行上述第一方面所述的任一项方法的步骤。
第五方面,提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有指令,所述指令被处理器执行时实现上述第一方面所述的任一项方法的步骤。
第六方面,提供了一种包括指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述第一方面任一项所述方法的步骤。
本申请提供的技术方案至少可以带来以下有益效果:
对于当前帧点云而言,处于静止状态的目标对象在当前帧点云中的轮廓不够清晰,而处于运动状态的目标对象在当前帧点云中的轮廓比较清晰,因此,当目标对象处于静止状态时,可以根据当前帧点云和获取的N帧点云对目标对象进行标注。当目标对象处于运动状态时,可以根据当前帧点云对目标对象进行标注。这样,可以根据目标对象的不同状态,对目标对象进行标注,使得对当前帧点云中目标对象的标注更加高效,且准确度更高。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种实施环境的示意图。
图2是本申请实施例提供的一种点云的采集场景的示意图。
图3是本申请实施例提供的一种点云的示意图。
图4是本申请实施例提供的第一种点云标注方法的流程图。
图5是本申请实施例提供的第二种点云标注方法的流程图。
图6是本申请实施例提供的一种当前帧点云的示意图。
图7是本申请实施例提供的一种稠密化处理后的当前帧点云的示意图。
图8是本申请实施例提供的一种点云标注装置框图。
图9是本申请实施例提供的一种点云标注设备的结构示意图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与本申请的一些方面相一致的装置和方法的例子。
在对本申请实施例进行详细地解释说明之前,先对本申请实施例的应用场景予以说明:
图1是本申请实施例提供的一种实施环境的示意图,参见图1,该实施环境包括可移动设备100和点云标注设备200。可移动设备100和点云标注设备200之间通过网络连接。可移动设备100上安装有点云采集器110。点云采集器110可以在可移动设备100的移动过程中采集点云。点云是由多个三维点组成的集合,点云中的点云数据即是点云包括的每个三维点的三维坐标和法向坐标轴等信息。点云采集器110可以将采集到的点云发送给点云标注设备200。其中,点云中包括的三维点可以为采集场景包括的车、人或建筑物等对象上的点。
示例性地,可移动设备100可以为汽车或机器人等,点云采集器110可以为激光雷达传感器、双目相机、飞行时间(Time of Flight,TOF)相机或结构光相机等。点云采集器110可以按照一定的采集周期来采集点云,并将采集到的点云发送给点云标注设备200。其中,采集周期可以根据使用需求预先进行设置,本申请实施例对此不做限定。例如,采集周期可以为0.1秒等,也即是点云采集器110可以每间隔0.1秒采集一帧点云。
在一种可能的实现方式中,点云采集器110为激光雷达传感器,激光雷达传感器可以向采集场景中发射激光,当发射的激光与采集场景中的对象的表面接触时,会被反射回激光雷达传感器中。激光雷达传感器可以根据激光发射和返回所用的时间以及激光传输的速度,确定出该对象与激光雷达传感器之间的距离。激光雷达传感器发射的激光可以为4线、8线、16线等。激光雷达传感器发射的激光线数越少,采集到的点云越稀疏;激光雷达传感器发射的激光线数越多,采集到的点云越稠密。且对于同一帧点云而言,该帧点云对应的采集场景中,距离激光雷达传感器越远的对象在该帧点云中包括的三维点越稀疏,距离激光雷达传感器越近的对象在该帧点云中包括的三维点越稠密。为了便于描述,后续本申请实施例涉及到的点云可以均是由激光雷达传感器采集的。当然,本申请实施例中涉及到的点云还可以是其他类型的点云采集器110采集的,本申请实施例对此不做限定。
另外,在一些示例中,点云采集器110为机械旋转式激光雷达传感器,机械旋转式激光雷达传感器可以绕自身垂直于地面的轴旋转360度,且每旋转一个小角度,可以获得一个点云数据包,旋转360度即可以获得若干个点云数据包,将这若干个点云数据包中的点云进行拼接可以得到一帧完整的点云。换句话说,机械旋转式激光雷达传感器需要在一个采集周期内绕自身垂直于地面的轴旋转一周,才能获取到360度的采集场景的点云。然而在一个采集周期内,机械旋转式激光雷达传感器旋转的过程中,可移动设备100可能存在较大的位姿变化,也即可移动设备100的位置或姿态会发生较大的改变,从而造成在该采集周期内采集到的这若干个点云数据包中的点云在进行拼接时容易造成量测偏差。为了消除该量测偏差,可以先获取可移动设备100在该采集周期内的相对位姿信息,然后根据该相对位姿信息,以及该采集周期内采集到的这若干个点云数据包中的点云之间的相对位姿信息,将这若干个点云数据包中的点云投影到同一个三维坐标系中,然后进行拼接得到一帧点云,这样的过程即为运动补偿。其中,上述三维坐标系可以为任一点云数据包中的点云对应的三维坐标系等,本申请实施例对此不做限定。
当然,点云采集器110在其他情况中采集到的点云也可能需要进行运动补偿,此处仅示例性地说明一种可能的情况。但是,当点云采集器110采集到的点云不存在偏差或者偏差较小可以忽略不计时,也可以不进行运动补偿。也即是运动补偿不是对点云采集器110采集的点云进行的必要步骤。
再者,在一种可能的实现方式中,可移动设备100可以直接获取当前帧点云的位姿信息,并发送给点云标注设备200;或者,当点云采集器110为激光雷达传感器时,可移动设备100可以通过激光里程计(Lidar Odometry)算法,获取当前帧点云相对于当前已采集到的多帧点云中的第一帧点云的相对位姿信息,从而可以确定当前帧点云的位姿信息,并将确定的当前帧点云的位姿信息发送给点云标注设备200。其中,当前帧点云为点云采集器110当前已采集到的点云中的任一帧点云。
点云标注设备200是为可移动设备100提供后台服务的设备。点云标注设备200包括用户数据存储区。点云标注设备200可以接收可移动设备100上安装的点云采集器110发送的点云,并可以确定接收到的每帧点云的采集时间,以及每帧点云的位姿信息。
为了更加直观地了解本申请实施例提供的点云的采集场景以及点云采集器110采集到的点云。参见图2和图3,图2为一种点云的采集场景的示意图,图3为点云采集器110采集到的点云的示意图。
接下来对本申请实施例提供的点云标注方法进行详细地解释说明。
图4是本申请实施例提供的一种点云标注方法的流程图,该方法的执行主体可以为图1所示的点云标注设备200。参见图4,该方法包括:
步骤401:根据当前帧点云的采集信息获取N帧点云,N为大于或等于1的整数。
步骤402:根据当前帧点云和获取的N帧点云,确定当前待标注的目标对象处于静止状态还是运动状态。
步骤403:如果目标对象处于静止状态,则根据当前帧点云和获取的N帧点云对目标对象进行标注。
步骤404:如果目标对象处于运动状态,则根据当前帧点云对目标对象进行标注。
可选地,根据当前帧点云和获取的N帧点云,确定当前待标注的目标对象处于静止状态还是运动状态,包括:
根据获取的N帧点云中的点云数据,对当前帧点云进行稠密化处理;
根据稠密化处理后的当前帧点云,确定目标对象处于静止状态还是运动状态;
根据当前帧点云和获取的N帧点云对目标对象进行标注,包括:
根据稠密化处理后的当前帧点云对目标对象进行标注。
可选地,根据获取的N帧点云中的点云数据,对当前帧点云进行稠密化处理,包括:
将获取的N帧点云中的所有点云数据或者部分点云数据投影到当前帧点云中,以对当前帧点云进行稠密化处理。
可选地,根据当前帧点云的采集信息获取N帧点云,包括:
获取当前已采集到的多帧点云中每帧点云的采集时间以及当前帧点云的采集时间;
根据该多帧点云中每帧点云的采集时间以及当前帧点云的采集时间,确定该多帧点云中每帧点云与当前帧点云之间的采集时间间隔;
根据确定的采集时间间隔从该多帧点云中选择N帧点云,当前帧点云和N帧点云中每相邻两帧点云之间的采集时间间隔为参考时间间隔。
可选地,根据当前帧点云的采集信息获取N帧点云,包括:
获取当前已采集到的多帧点云中每帧点云的位姿信息以及当前帧点云的位姿信息;
根据该多帧点云中每帧点云的位姿信息以及当前帧点云的位姿信息,确定该多帧点云中每帧点云与当前帧点云之间的空间距离;
按照确定的空间距离从该多帧点云中选择N帧点云,当前帧点云和N帧点云中每相邻两帧点云之间的空间距离为参考距离。
可选地,将N帧点云中的所有点云数据投影到当前帧点云中,包括:
对于N帧点云中的第一点云,确定第一点云与当前帧点云之间的相对位姿信息,第一点云为N帧点云中的任一帧点云;
根据第一点云与当前帧点云之间的相对位姿信息,以及第一点云中的所有点云数据,确定第一点云中的所有点云数据在当前帧点云中的投影数据;
将第一点云中的所有点云数据在当前帧点云中的投影数据,添加至当前帧点云中。
可选地,根据稠密化处理后的当前帧点云对目标对象进行标注,包括:
确定目标对象的类别;
根据目标对象的类别,在包含有稠密化处理后的当前帧点云的三维坐标系中生成一个三维框;
对三维框的位置和尺寸进行调整,以使调整后的三维框能够包围稠密化处理后的当前帧点云中的目标对象;
通过调整后的三维框,对目标对象进行标注。
可选地,该三维框为三维矩形框;
对三维框的位置和尺寸进行调整,包括:
当检测到第一调整操作时,按照三维坐标系的俯视平面的方向显示三维框,调整该三维框的水平位置、长度和宽度中的至少一个;和/或
当检测到第二调整操作时,按照该三维坐标系的正视平面的方向显示该三维框,调整三维框的垂向位置和高度中的至少一个。
可选地,调整该三维框的垂向位置和高度中的至少一个之前,还包括:
将位于俯视平面内且位于该三维框之外的点云数据隐藏。
上述所有可选技术方案,均可按照任意结合形成本申请的可选实施例,本申请实施例对此不再一一赘述。
接下来对图4所示的实施例进行展开说明。图5是本申请实施例提供的一种点云标注方法的流程图,该方法的执行主体可以为图1所示的点云标注设备200。参见图5,该方法包括:
步骤501:根据当前帧点云的采集信息获取N帧点云,N为大于或等于1的整数。
需要说明的是,当前帧点云可以是当前已采集到的点云中的任一帧点云。当前帧点云的采集信息可以包括当前帧点云的采集时间,以及当前帧点云的位姿信息等信息,本申请实施例对此不做限定。
接下来对步骤501的两种可能的实现方式进行说明。实际应用中,不限于如下两种可能的实现方式。
第一种可能的实现方式,步骤501可以通过如下步骤(1)-步骤(3)来实现。
(1):获取当前已采集到的多帧点云中每帧点云的采集时间以及当前帧点云的采集时间。
需要说明的是,当前已采集到的多帧点云指当前已采集到的点云中,除过当前帧点云之外的多帧点云。后续出现的当前已采集到的多帧点云也代表相同的含义。其中,多帧点云可以是在当前帧点云之前采集到的;或者,可以是在当前帧点云之后采集到的;或者,可以是在当前帧点云之前以及当前帧点云之后采集到的,本申请实施例对此不做限定。也即是,多帧点云的采集时间可以均位于当前帧点云的采集时间之前;或者,多帧点云的采集时间可以均位于当前帧点云的采集时间之后;或者,当前帧点云的采集时间可以位于多帧点云的采集时间之间。总而言之,多帧点云中的任一帧点云的采集时间可以位于当前帧点云的采集时间之前或者之后。
(2):根据多帧点云中每帧点云的采集时间以及当前帧点云的采集时间,确定多帧点云中每帧点云与当前帧点云之间的采集时间间隔。
由步骤(1)可知,多帧点云中的任一帧点云的采集时间可以位于当前帧点云的采集时间之前或者之后。所以,在一种可能的实现方式中,确定多帧点云中每帧点云与当前帧点云之间的采集时间间隔之前,可以先确定多帧点云中每帧点云的采集时间位于当前帧点云的采集时间之前还是之后。如果多帧点云中的任一帧点云的采集时间位于当前帧点云的采集时间之前,则可以将当前帧点云的采集时间减去该任一帧点云的采集时间,得到该任一帧点云与当前帧点云之间的采集时间间隔。如果多帧点云中的任一帧点云的采集时间位于当前帧点云的采集时间之后,则可以将该任一帧点云的采集时间减去当前帧点云的采集时间,得到该任一帧点云与当前帧点云之间的采集时间间隔。
(3):根据确定的采集时间间隔从多帧点云中选择N帧点云,当前帧点云和N帧点云中每相邻两帧点云之间的采集时间间隔为参考时间间隔。
需要说明的是,参考时间间隔可以根据使用需求预先进行设置,本申请实施例对此不做具体限定。由于在一种可能的情况中,当前已采集到的多帧点云可能是与当前帧点云在时间上连续的多帧点云,且多帧点云和当前帧点云中每相邻两帧点云之间的采集时间间隔为一个采集周期,由于通常采集周期较短,例如,采集周期为0.1秒等,使得这相邻两帧点云之间的变化较小。如果将多帧点云都执行后续步骤502,会使得对当前帧点云的标注较为复杂且效率较低。因此,可以从该多帧点云中选择N帧点云,使当前帧点云和N帧点云中每相邻两帧点云之间的采集时间间隔为参考时间间隔。参考时间间隔可以为数个采集周期的时长,如此,可以简化对当前帧点云的标注过程,提高对当前帧点云的标注效率。
第二种可能的实现方式,步骤501可以通过如下步骤A-步骤C来实现。
步骤A:获取当前已采集到的多帧点云中每帧点云的位姿信息以及当前帧点云的位姿信息。
由上述图1所示的本申请实施例提供的实施环境可知,在一种可能的实现方式中,可移动设备100可以直接获取当前帧点云的位姿信息,或者,当点云采集器110为激光雷达传感器时,可移动设备100可以通过激光里程计算法,获取当前帧点云相对于当前已采集到的多帧点云中的第一帧点云的相对位姿信息,从而可以确定当前帧点云的位姿信息。类似地,对于已采集到的多帧点云中每帧点云的位姿信息也可以在上述两种情况中获取。
步骤B:根据多帧点云中每帧点云的位姿信息以及当前帧点云的位姿信息,确定多帧点云中每帧点云与当前帧点云之间的空间距离。
在一种可能的实现方式中,可以根据多帧点云中每帧点云的位姿信息以及当前帧点云的位姿信息,确定多帧点云中每帧点云与当前帧点云之间的相对位姿信息,从而根据多帧点云中每帧点云与当前帧点云之间的相对位姿信息,确定多帧点云中每帧点云与当前帧点云之间的空间距离。其中,多帧点云中每帧点云与当前帧点云之间的相对位姿信息可以包括旋转分量和平移分量。在一种可能的实现方式中,可以将多帧点云中每帧点云与当前帧点云之间的相对位姿信息的平移分量,确定为多帧点云中每帧点云与当前帧点云之间的空间距离。
步骤C:按照确定的空间距离从多帧点云中选择N帧点云,当前帧点云和N帧点云中每相邻两帧点云之间的空间距离为参考距离。
需要说明的是,参考距离可以根据使用需求预先进行设置,本申请实施例对此不做具体限定。例如,参考距离可以为10米等。由于在一种可能的情况中,当前已采集到的多帧点云可能是与当前帧点云在时间上连续的多帧点云,且多帧点云和当前帧点云中每相邻两帧点云之间的采集时间间隔为一个采集周期,由于通常采集周期较短,例如,采集周期为0.1秒等,使得这相邻两帧点云之间的空间距离较短,变化较小。如果将多帧点云都执行后续步骤502,会使得对当前帧点云的标注较为复杂且效率较低。因此,可以从该多帧点云中选择N帧点云,使当前帧点云和N帧点云中每相邻两帧点云之间的空间距离为参考距离。参考距离可以为可移动设备移动数个采集周期的相对位姿信息的平移分量,如此,可以简化对当前帧点云的标注过程,提高对当前帧点云的标注效率。
步骤502:根据获取的N帧点云中的点云数据,对当前帧点云进行稠密化处理。
在一些实施例中,可以将N帧点云中的所有点云数据投影到当前帧点云中,以对当前帧点云进行稠密化处理。在另一些实施例中,可以将N帧点云中的部分点云数据投影到当前帧点云中,以对当前帧点云进行稠密化处理。也即是,将N帧点云中每帧点云中的部分点云数据投影到当前帧点云中。其中,N帧点云中所有点云数据的投影方法与部分点云数据的投影方法类似,因此,接下来以N帧点云中的所有点云数据为例,对点云数据的投影方法进行说明,部分点云数据的投影方法可以参考所有点云数据的投影方法。
需要说明的是,N帧点云中的任一帧点云都有对应的三维坐标系,该三维坐标系可以是采集该任一帧点云时可移动设备的本体坐标系。N帧点云中的任一帧点云中的点云数据,可以是该任一帧点云包括的每个三维点的三维坐标和法向坐标轴等数据,其中,每个三维点的三维坐标是在该任一帧点云对应的三维坐标系中的三维坐标。这样的条件下,将N帧点云中的所有点云数据投影到当前帧点云中,也即可以理解为通过将N帧点云中每帧点云包括的三维点在对应的三维坐标系中的三维坐标,转换到当前帧点云对应的三维坐标系中,从而实现将N帧点云中的所有点云数据投影到当前帧点云中。
其中,步骤502可以通过如下步骤(1)-步骤(3)来实现。
(1):对于N帧点云中的第一点云,确定第一点云与当前帧点云之间的相对位姿信息。
需要说明的是,第一点云为N帧点云中的任一帧点云。
在一些实施例中,可移动设备可以获取到第一点云的位姿信息和当前帧点云的位姿信息,这样,点云标注设备可以从可移动设备中获取第一点云的位姿信息和当前帧点云的位姿信息。之后,点云标识设备可以根据第一点云的位姿信息和当前帧点云的位姿信息,确定第一点云与当前帧点云之间的相对位姿信息。或者,在另一些实施例中,当可移动设备上安装的点云采集器为激光点云传感器时,可移动设备可以通过激光里程计算法,获取第一点云相对于当前已采集到的点云中的第一帧点云的相对位姿信息,以及当前帧点云相对于当前已采集到的点云中的第一帧点云的相对位姿信息。这样,点云标识设备可以从可移动设备中获取第一点云相对于当前已采集到的点云中的第一帧点云的相对位姿信息,以及当前帧点云相对于当前已采集到的点云中的第一帧点云的相对位姿信息,从而可以确定第一点云与当前帧点云之间的相对位姿信息。当然,还可以通过其他方式确定第一点云与当前帧点云之间的相对位姿信息,本申请实施例对此不做限定。
(2):根据第一点云与当前帧点云之间的相对位姿信息,以及第一点云中的所有点云数据,确定第一点云中的所有点云数据在当前帧点云中的投影数据。
需要说明的是,第一点云中的点云数据可以是第一点云包括的每个三维点的三维坐标和法向坐标轴等数据,其中,每个三维点的三维坐标是在第一点云对应的三维坐标系中的三维坐标。为了便于描述,后续统一将点云对应的三维坐标系简称为点云的三维坐标系。这样的条件下,第一点云中的点云数据在当前帧点云中的投影数据,即可以是通过将第一点云包括的每个三维点在第一点云的三维坐标系中的三维坐标,转换到当前帧点云的三维坐标系中,从而实现将第一点云包括的每个三维点投影到当前帧点云中,第一点云中除过每个三维点的三维坐标之外的其他点云数据也即投影到当前帧点云中,最终得到第一点云中的所有点云数据在当前帧点云中的投影数据。
(3):将第一点云中的所有点云数据在当前帧点云中的投影数据,添加至当前帧点云中。
应当理解的是,将第一点云中的所有点云数据在当前帧点云中的投影数据,添加至当前帧点云中,也即实现了第一点云与当前帧点云的叠加。或者,可以理解为,将第一点云中的所有点云数据在当前帧点云中的投影数据,添加至当前帧点云中,也即是实现了对当前帧点云的稠密化。
由于第一点云为N帧点云中的任一帧点云,因此,通过上述步骤(1)-步骤(3)可以将N帧点云中每帧点云中的点云数据在当前帧点云中的投影数据,添加至当前点云中。也即实现了将N帧点云中的所有点云数据投影到当前帧点云中。
值得说明的是,由于在一种可能的情况中,当前帧点云包括的三维点较为稀疏。当根据当前帧点云的采集信息获取N帧点云后,将N帧点云中的所有点云数据或者部分点云数据投影到当前帧点云中,可以实现对当前帧点云的稠密化。
步骤503:根据稠密化处理后的当前帧点云,确定当前待标注的目标对象处于静止状态还是运动状态。
如果目标对象处于静止状态,在稠密化处理后的当前帧点云中,目标对象中的实物点在N帧点云中对应的三维点的三维坐标,与在当前帧点云中对应的三维点的三维坐标相同或者差值位于参考阈值范围内。如果目标对象处于运动状态,在稠密化处理后的当前帧点云中,目标对象中的实物点在N帧点云中对应的三维点的三维坐标,与在当前帧点云中对应的三维点的三维坐标的差值大于参考阈值范围。其中,参考阈值范围可以根据使用需求预先进行设置,本申请实施例对此不做限定。这样的条件下,可以在稠密化处理后的当前帧点云中,根据目标对象的实物点在N帧点云中对应的三维点的三维坐标,与在当前帧点云中对应的三维点的三维坐标的差值是否大于参考阈值范围,确定当前待标注的目标对象处于静止状态还是运动状态。也即是,如果上述差值大于参考阈值范围则确定当前待标注的目标对象处于运动状态,否则确定当前待标注的目标对象处于静止状态。
另外,基于上述描述,当目标对象处于运动状态时,在稠密化处理后的当前帧点云中,目标对象中的实物点在N帧点云中对应的三维点的三维坐标,与在当前帧点云中对应的三维点的三维坐标的差值大于参考阈值范围。这样的情况下,目标对象在稠密化处理后的当前帧点云中会存在较为明显的轨迹。相对地,当目标对象处于静止状态时,目标对象在稠密化处理后的当前帧点云中不会存在较为明显的轨迹。基于此,还可以通过在稠密化处理后的当前帧点云中,根据目标对象的轨迹来确定目标对象处于静止状态还是运动状态。
示例性地,当目标对象在稠密化处理后的当前帧点云中的轨迹长度大于长度阈值,则可以确定目标对象为运动状态,否则,确定目标对象处于静止状态。其中,长度阈值可以预先进行设置,本申请实施例对此不做限定。当然,也可以通过其他方式确定目标对象处于静止状态还是运动状态,本申请实施例对此不做限定。
步骤504:如果目标对象处于静止状态,则根据稠密化处理后的当前帧点云对目标对象进行标注。
由于当目标对象处于静止状态时,将N帧点云中的所有点云数据或者部分点云数据投影到当前帧点云中,可以实现对当前帧点云的稠密化,也即是对当前帧点云中已采集到的部分三维点进行了叠加,对当前帧点云中没有采集到的部分三维点进行了填充。所以稠密化处理后的当前帧点云中的目标对象包括的三维点较为稠密,目标对象的轮廓较为清晰。因此,如果目标对象处于静止状态,在稠密化处理后的当前帧点云中目标对象的轮廓更加清晰,从而在稠密化处理后的当前帧点云中对目标对象进行标注的结果更加准确。
示例性地,参见图6和图7,图6为当前帧点云的示意图,图7为稠密化处理后的当前帧点云的示意图。图6和图7中的目标对象A处于静止状态,从图6和图7可以看出,目标对象A在稠密化处理后的当前帧点云中包括的三维点,与当前帧点云中目标对象A包括的三维点相比较为稠密,且轮廓也较为清晰。
其中,步骤504可以通过如下步骤A-步骤D来实现。
步骤A:确定目标对象的类别。
需要说明的是,目标对象的类别可以是车、人或建筑物等,本申请实施例对此不做限定。
步骤B:根据目标对象的类别,在包含有稠密化处理后的当前帧点云的三维坐标系中生成一个三维框。
需要说明的是,三维框是用于包围目标对象的几何框,由于对于不同类别的目标对象,需要标注的信息可能不相同,所以可以根据目标对象的类别,在包含有稠密化处理后的当前帧点云的三维坐标系中生成三维框。
步骤C:对该三维框的位置和尺寸进行调整,以使调整后的三维框能够包围目标对象。
其中,三维框可以为三维矩形框,由于三维矩形框在包含有稠密化处理后的当前帧点云的三维坐标系中可以有水平位置和垂直位置,三维矩形框可以包括长度、宽度和高度,所以步骤C还可以包括:当检测到第一调整操作时,按照包含有稠密化处理后的当前帧点云的三维坐标系的俯视平面的方向显示三维框,调整三维框的水平位置、长度和宽度中的至少一个;和/或,当检测到第二调整操作时,按照包含有稠密化处理后的当前帧点云的三维坐标系的正视平面的方向显示三维框,调整三维框的垂向位置和高度中的至少一个。也即是,可以对三维框的水平位置、长度和宽度中的至少一个进行调整,还可以对三维框的垂向位置和高度中的至少一个进行调整,当然,还可以对三维框的水平位置、长度和宽度中的至少一个,以及对三维框的垂向位置和高度中的至少一个同时进行调整。
其中,第一调整操作可以是单击、双击或拖拽等操作,这些操作均可以由用户与点云标注设备之间的交互来实现,该点云标注设备可以为图1所示的实施环境中的点云标注设备200。另外,第二调整操作可以与第一调整操作相同,当然,第二调整操作也可以与第一调整操作不同,本申请实施例对此不做限定。
需要说明的是,包含有稠密化处理后的当前帧点云的三维坐标系的俯视平面的方向可以是如图6所示的方向,即俯视地面的方向,观察目标对象的视线可以与地面垂直。包含有稠密化处理后的当前帧点云的三维坐标系的正视平面的方向可以是图2所示的方向,观察目标对象的视线可以与地面平行。三维框的水平位置即是平行于地面的方向上的位置。三维框的垂向位置即是垂直于地面的方向上的位置。
可选地,当检测到第二调整操作,调整三维框的垂向位置和高度中的至少一个之前,还可以将位于俯视平面内且位于三维框之外的点云数据隐藏。
由于在正视平面的方向,观察目标对象的视线是与地面平行的,而地面上与目标对象处于同一水平方向上可能存在其他对象。因此,为了在正视平面的方向更加高效地调整三维框的垂向位置和高度中的至少一个,可以先将位于俯视平面内且位于三维框之外的点云数据隐藏。这样,在正视平面的方向,调整三维框的垂向位置和高度中的至少一个时,不会被其他对象所遮挡,从而提高了对目标对象的标注效率。
步骤D:通过调整后的三维框,对目标对象进行标注。
调整后的三维框可以将目标对象包围在其中,此时,可以根据三维框的长度、宽度和高度等信息,确定目标对象的长度、宽度和高度等信息,并作为目标对象的标注数据。并且,在一种可能的实现方式中,根据当前帧点云的位姿信息可以确定可移动设备在世界坐标系中的三维坐标,从而可以根据可移动设备在世界坐标系中的三维坐标,以及目标对象在包含有稠密化处理后的当前帧点云的三维坐标系中的三维坐标,确定目标对象在世界坐标系中的三维坐标。并可以将目标对象在世界坐标系中的三维坐标作为目标对象的标注数据。其中,世界坐标系是一个绝对坐标系,世界坐标系可以根据使用需求预先进行设置,本申请实施例对此不做限定。另外,步骤A中确定的目标对象的类型也可以作为目标对象的标注数据。当然,对目标对象的标注还可以包括其他数据,本申请实施例对此不做限定。
步骤505:如果目标对象处于运动状态,则根据当前帧点云对目标对象进行标注。
当目标对象处于运动状态时,在稠密化处理后的当前帧点云中,目标对象中的实物点在N帧点云中对应的三维点的三维坐标,与在当前帧点云中对应的三维点的三维坐标的差值大于参考阈值范围。这样的条件下,根据稠密化处理后的当前帧点云确定目标对象的轮廓较为困难。因此,如果目标对象处于运动状态,在当前帧点云中确定目标对象的轮廓,与在稠密化处理后的当前帧点云中确定目标对象的轮廓相比更加简便,也即可以理解为,当前帧点云中目标对象的轮廓比稠密化处理后的当前帧点云中目标对象的轮廓清晰,所以可以根据当前帧点云对目标对象进行标注,从而使得对目标对象进行标注的结果更加准确。
其中,步骤505可以通过如下步骤(1)-步骤(4)来实现。
(1):确定目标对象的类别。
(2):根据目标对象的类别,在包含有当前帧点云的三维坐标系中生成一个三维框。
(3):对该三维框的位置和尺寸进行调整,以使调整后的三维框能够包围目标对象。
(4):通过调整后的三维框,对目标对象进行标注。
需要说明的是,步骤(1)-步骤(4)的内容可以参考上述步骤A-步骤D的内容,此处不再赘述。
在本申请实施例中,先根据当前帧点云的采集信息获取N帧点云,然后将N帧点云中的所有点云数据或者部分点云数据投影到当前帧点云中。由于当目标对象处于静止状态时,在经投影过的当前帧点云中,目标对象中的实物点在N帧点云中对应的三维点的三维坐标,与在当前帧点云中对应的三维点的三维坐标相同或者差值位于参考阈值范围内。而当目标对象处于运动状态时,在经投影过的当前帧点云中,目标对象中的实物点在N帧点云中对应的三维点的三维坐标,与在当前帧点云中对应的三维点的三维坐标的差值大于参考阈值范围。因此,可以根据经投影过的当前帧点云,确定当前待标注的目标对象处于静止状态还是运动状态。由于目标对象处于静止状态时,目标对象在经投影过的当前帧点云中的轮廓比在当前帧点云中的轮廓清晰,因此,可以根据经投影过的当前帧点云对目标对象进行标注。目标对象处于运动状态时,目标对象在当前帧点云中的轮廓比在经投影过的当前帧点云中的轮廓清晰,因此,可以根据当前帧点云对目标对象进行标注。本申请实施例提供的点云标注方法,可以根据经投影过的当前帧点云确定目标对象所处的状态,然后根据目标对象的不同状态,对目标对象进行标注,使得对当前帧点云中目标对象的标注更加高效,且准确度更高。
图8是本申请实施例提供的一种点云标注装置框图,该装置可以应用于点云标注设备中,参见图8,该装置包括获取模块801、确定模块802、第一标注模块803和第二标注模块804。
获取模块801,用于根据当前帧点云的采集信息获取N帧点云,N为大于或等于1的整数;
确定模块802,用于根据当前帧点云和获取的N帧点云,确定当前待标注的目标对象处于静止状态还是运动状态;
第一标注模块803,用于如果目标对象处于静止状态,则根据当前帧点云和获取的N帧点云对目标对象进行标注;
第二标注模块804,用于如果目标对象处于运动状态,则根据当前帧点云对目标对象进行标注。
可选地,确定模块802包括:
稠密化处理子模块,用于根据获取的N帧点云中的点云数据,对当前帧点云进行稠密化处理;
第一确定子模块,用于根据稠密化处理后的当前帧点云,确定目标对象处于静止状态还是运动状态;
第一标注模块803包括:
标注子模块,用于根据稠密化处理后的当前帧点云对目标对象进行标注。
可选地,稠密化处理子模块包括:
投影单元,用于将获取的N帧点云中的所有点云数据或者部分点云数据投影到当前帧点云中,以对当前帧点云进行稠密化处理。
可选地,获取模块801包括:
第一获取子模块,用于获取当前已采集到的多帧点云中每帧点云的采集时间以及当前帧点云的采集时间;
第二确定子模块,用于根据该多帧点云中每帧点云的采集时间以及当前帧点云的采集时间,确定该多帧点云中每帧点云与当前帧点云之间的采集时间间隔;
第一选择子模块,用于根据确定的采集时间间隔从该多帧点云中选择N帧点云,当前帧点云和N帧点云中每相邻两帧点云之间的采集时间间隔为参考时间间隔。
可选地,获取模块801包括:
第二获取子模块,用于获取当前已采集到的多帧点云中每帧点云的位姿信息以及当前帧点云的位姿信息;
第三确定子模块,用于根据该多帧点云中每帧点云的位姿信息以及当前帧点云的位姿信息,确定该多帧点云中每帧点云与当前帧点云之间的空间距离;
第二选择子模块,用于按照确定的空间距离从该多帧点云中选择N帧点云,当前帧点云和N帧点云中每相邻两帧点云之间的空间距离为参考距离。
可选地,投影单元主要用于:
对于N帧点云中的第一点云,确定第一点云与当前帧点云之间的相对位姿信息,第一点云为N帧点云中的任一帧点云;
根据第一点云与当前帧点云之间的相对位姿信息,以及第一点云中的所有点云数据,确定第一点云中的所有点云数据在当前帧点云中的投影数据;
将第一点云中的所有点云数据在当前帧点云中的投影数据,添加至当前帧点云中。
可选地,标注子模块主要用于:
确定单元,用于确定目标对象的类别;
生成单元,用于根据目标对象的类别,在包含有稠密化处理后的当前帧点云的三维坐标系中生成一个三维框;
调整单元,用于对该三维框的位置和尺寸进行调整,以使调整后的三维框能够包围稠密化处理后的当前帧点云中的目标对象;
标注单元,用于通过调整后的三维框,对目标对象进行标注。
可选地,该三维框为三维矩形框;
调整单元主要用于:
当检测到第一调整操作时,按照该三维坐标系的俯视平面的方向显示该三维框,调整该三维框的水平位置、长度和宽度中的至少一个;和/或
当检测到第二调整操作时,按照该三维坐标系的正视平面的方向显示该三维框,调整该三维框的垂向位置和高度中的至少一个。
可选地,调整单元还用于:
将位于该俯视平面内且位于该三维框之外的点云数据隐藏。
在本申请实施例中,先根据当前帧点云的采集信息获取N帧点云,然后将N帧点云中的所有点云数据或者部分点云数据投影到当前帧点云中。由于当目标对象处于静止状态时,在经投影过的当前帧点云中,目标对象中的实物点在N帧点云中对应的三维点的三维坐标,与在当前帧点云中对应的三维点的三维坐标相同或者差值位于参考阈值范围内。而当目标对象处于运动状态时,在经投影过的当前帧点云中,目标对象中的实物点在N帧点云中对应的三维点的三维坐标,与在当前帧点云中对应的三维点的三维坐标的差值大于参考阈值范围。因此,可以根据经投影过的当前帧点云,确定当前待标注的目标对象处于静止状态还是运动状态。由于目标对象处于静止状态时,目标对象在经投影过的当前帧点云中的轮廓比在当前帧点云中的轮廓清晰,因此,可以根据经投影过的当前帧点云对目标对象进行标注。目标对象处于运动状态时,目标对象在当前帧点云中的轮廓比在经投影过的当前帧点云中的轮廓清晰,因此,可以根据当前帧点云对目标对象进行标注。本申请实施例提供的点云标注方法,可以根据经投影过的当前帧点云确定目标对象所处的状态,然后根据目标对象的不同状态,对目标对象进行标注,使得对当前帧点云中目标对象的标注更加高效,且准确度更高。
需要说明的是:上述实施例提供的点云标注装置在进行点云标注时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的点云标注装置与点云标注方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
图9是本申请实施例提供的一种点云标注设备的结构示意图,该点云标注设备900可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上处理器(centralprocessing units,CPU)901和一个或一个以上的存储器902,其中,所述存储器902中存储有至少一条指令,所述至少一条指令由该处理器901加载并执行。当然,该点云标注设备900还可以具有有线或无线网络接口、键盘以及输入输出接口等部件,以便进行输入输出,该点云标注设备900还可以包括其他用于实现设备功能的部件,在此不做赘述。
在示例性实施例中,还提供了一种计算机可读存储介质,例如包括指令的存储器,上述指令可由点云标注设备中的处理器执行以完成上述实施例中点云标注方法。例如,所述计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
在示例性实施例中,还提供了一种点云标注系统,该系统包括点云采集器和点云标注设备,点云标注设备用于执行上述所述的点云标注方法的步骤。
在示例性实施例中,还提供了一种包括指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述所述的点云标注方法的步骤。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本申请的较佳实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (19)
1.一种点云标注方法,其特征在于,所述方法包括:
根据当前帧点云的采集信息获取N帧点云,所述N为大于或等于1的整数;
根据所述当前帧点云和所述N帧点云,确定当前待标注的目标对象处于静止状态还是运动状态;
如果所述目标对象处于静止状态,则根据所述当前帧点云和所述N帧点云对所述目标对象进行标注;
如果所述目标对象处于运动状态,则根据所述当前帧点云对所述目标对象进行标注。
2.如权利要求1所述的方法,其特征在于,所述根据所述当前帧点云和所述N帧点云,确定当前待标注的目标对象处于静止状态还是运动状态,包括:
根据所述N帧点云中的点云数据,对所述当前帧点云进行稠密化处理;
根据稠密化处理后的当前帧点云,确定所述目标对象处于静止状态还是运动状态;
所述根据所述当前帧点云和所述N帧点云对所述目标对象进行标注,包括:
根据稠密化处理后的当前帧点云对所述目标对象进行标注。
3.如权利要求2所述的方法,其特征在于,所述根据所述N帧点云中的点云数据,对所述当前帧点云进行稠密化处理,包括:
将所述N帧点云中的所有点云数据或者部分点云数据投影到所述当前帧点云中,以对所述当前帧点云进行稠密化处理。
4.如权利要求1所述的方法,其特征在于,所述根据当前帧点云的采集信息获取N帧点云,包括:
获取当前已采集到的多帧点云中每帧点云的采集时间以及所述当前帧点云的采集时间;
根据所述多帧点云中每帧点云的采集时间以及所述当前帧点云的采集时间,确定所述多帧点云中每帧点云与所述当前帧点云之间的采集时间间隔;
根据确定的采集时间间隔从所述多帧点云中选择N帧点云,所述当前帧点云和所述N帧点云中每相邻两帧点云之间的采集时间间隔为参考时间间隔。
5.如权利要求1所述的方法,其特征在于,所述根据当前帧点云的采集信息获取N帧点云,包括:
获取当前已采集到的多帧点云中每帧点云的位姿信息以及所述当前帧点云的位姿信息;
根据所述多帧点云中每帧点云的位姿信息以及所述当前帧点云的位姿信息,确定所述多帧点云中每帧点云与所述当前帧点云之间的空间距离;
按照确定的空间距离从所述多帧点云中选择N帧点云,所述当前帧点云和所述N帧点云中每相邻两帧点云之间的空间距离为参考距离。
6.如权利要求3所述的方法,其特征在于,所述将所述N帧点云中的所有点云数据投影到所述当前帧点云中,包括:
对于所述N帧点云中的第一点云,确定所述第一点云与所述当前帧点云之间的相对位姿信息,所述第一点云为所述N帧点云中的任一帧点云;
根据所述第一点云与所述当前帧点云之间的相对位姿信息,以及所述第一点云中的所有点云数据,确定所述第一点云中的所有点云数据在所述当前帧点云中的投影数据;
将所述第一点云中的所有点云数据在所述当前帧点云中的投影数据,添加至所述当前帧点云中。
7.如权利要求2所述的方法,其特征在于,所述根据稠密化处理后的当前帧点云对所述目标对象进行标注,包括:
确定所述目标对象的类别;
根据所述目标对象的类别,在包含有稠密化处理后的当前帧点云的三维坐标系中生成一个三维框;
对所述三维框的位置和尺寸进行调整,以使调整后的三维框能够包围稠密化处理后的当前帧点云中的所述目标对象;
通过调整后的三维框,对所述目标对象进行标注。
8.如权利要求7所述的方法,其特征在于,所述三维框为三维矩形框;
所述对所述三维框的位置和尺寸进行调整,包括:
当检测到第一调整操作时,按照所述三维坐标系的俯视平面的方向显示所述三维框,调整所述三维框的水平位置、长度和宽度中的至少一个;和/或
当检测到第二调整操作时,按照所述三维坐标系的正视平面的方向显示所述三维框,调整所述三维框的垂向位置和高度中的至少一个。
9.如权利要求8所述的方法,其特征在于,所述调整所述三维框的垂向位置和高度中的至少一个之前,还包括:
将位于所述俯视平面内且位于所述三维框之外的点云数据隐藏。
10.一种点云标注装置,其特征在于,所述装置包括:
获取模块,用于根据当前帧点云的采集信息获取N帧点云,所述N为大于或等于1的整数;
确定模块,用于根据所述当前帧点云和所述N帧点云,确定当前待标注的目标对象处于静止状态还是运动状态;
第一标注模块,用于如果所述目标对象处于静止状态,则根据所述当前帧点云和所述N帧点云对所述目标对象进行标注;
第二标注模块,用于如果所述目标对象处于运动状态,则根据所述当前帧点云对所述目标对象进行标注。
11.如权利要求10所述的装置,其特征在于,所述确定模块包括:
稠密化处理子模块,用于根据所述N帧点云中的点云数据,对所述当前帧点云进行稠密化处理;
第一确定子模块,用于根据稠密化处理后的当前帧点云,确定所述目标对象处于静止状态还是运动状态;
所述第一标注模块包括:
标注子模块,用于根据稠密化处理后的当前帧点云对所述目标对象进行标注。
12.如权利要求11所述的装置,其特征在于,所述稠密化处理子模块包括:
投影单元,用于将所述N帧点云中的所有点云数据或者部分点云数据投影到所述当前帧点云中,以对所述当前帧点云进行稠密化处理。
13.如权利要求10所述的装置,其特征在于,所述获取模块包括:
第一获取子模块,用于获取当前已采集到的多帧点云中每帧点云的采集时间以及所述当前帧点云的采集时间;
第二确定子模块,用于根据所述多帧点云中每帧点云的采集时间以及所述当前帧点云的采集时间,确定所述多帧点云中每帧点云与所述当前帧点云之间的采集时间间隔;
第一选择子模块,用于根据确定的采集时间间隔从所述多帧点云中选择N帧点云,所述当前帧点云和所述N帧点云中每相邻两帧点云之间的采集时间间隔为参考时间间隔。
14.如权利要求10所述的装置,其特征在于,所述获取模块包括:
第二获取子模块,用于获取当前已采集到的多帧点云中每帧点云的位姿信息以及所述当前帧点云的位姿信息;
第三确定子模块,用于根据所述多帧点云中每帧点云的位姿信息以及所述当前帧点云的位姿信息,确定所述多帧点云中每帧点云与所述当前帧点云之间的空间距离;
第二选择子模块,用于按照确定的空间距离从所述多帧点云中选择N帧点云,所述当前帧点云和所述N帧点云中每相邻两帧点云之间的空间距离为参考距离。
15.如权利要求12所述的装置,其特征在于,所述投影单元主要用于:
对于所述N帧点云中的第一点云,确定所述第一点云与所述当前帧点云之间的相对位姿信息,所述第一点云为所述N帧点云中的任一帧点云;
根据所述第一点云与所述当前帧点云之间的相对位姿信息,以及所述第一点云中的所有点云数据,确定所述第一点云中的所有点云数据在所述当前帧点云中的投影数据;
将所述第一点云中的所有点云数据在所述当前帧点云中的投影数据,添加至所述当前帧点云中。
16.如权利要求11所述的装置,其特征在于,所述标注子模块包括:
确定单元,用于确定所述目标对象的类别;
生成单元,用于根据所述目标对象的类别,在包含有稠密化处理后的当前帧点云的三维坐标系中生成一个三维框;
调整单元,用于对所述三维框的位置和尺寸进行调整,以使调整后的三维框能够包围稠密化处理后的当前帧点云中的所述目标对象;
标注单元,用于通过调整后的三维框,对所述目标对象进行标注。
17.如权利要求16所述的装置,其特征在于,所述三维框为三维矩形框;
所述调整单元主要用于:
当检测到第一调整操作时,按照所述三维坐标系的俯视平面的方向显示所述三维框,调整所述三维框的水平位置、长度和宽度中的至少一个;和/或
当检测到第二调整操作时,按照所述三维坐标系的正视平面的方向显示所述三维框,调整所述三维框的垂向位置和高度中的至少一个。
18.如权利要求17所述的装置,其特征在于,所述调整单元还用于:
将位于所述俯视平面内且位于所述三维框之外的点云数据隐藏。
19.一种点云标注系统,其特征在于,所述系统包括点云采集器和点云标注设备,所述点云标注设备用于执行上述权利要求1-9任一所述的点云标注方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910453502.2A CN112017202B (zh) | 2019-05-28 | 2019-05-28 | 点云标注方法、装置及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910453502.2A CN112017202B (zh) | 2019-05-28 | 2019-05-28 | 点云标注方法、装置及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112017202A true CN112017202A (zh) | 2020-12-01 |
CN112017202B CN112017202B (zh) | 2024-06-14 |
Family
ID=73501773
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910453502.2A Active CN112017202B (zh) | 2019-05-28 | 2019-05-28 | 点云标注方法、装置及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112017202B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112346074A (zh) * | 2021-01-07 | 2021-02-09 | 北京海天瑞声科技股份有限公司 | 点云数据标注方法、点云数据标注装置及存储介质 |
CN112950622A (zh) * | 2021-03-29 | 2021-06-11 | 上海商汤临港智能科技有限公司 | 一种目标检测方法、装置、计算机设备和存储介质 |
Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201349169A (zh) * | 2012-05-22 | 2013-12-01 | Hon Hai Prec Ind Co Ltd | 點雲拼接方法 |
US20150199802A1 (en) * | 2014-01-15 | 2015-07-16 | The Boeing Company | System and methods of inspecting an object |
CN105793730A (zh) * | 2013-06-14 | 2016-07-20 | 优步技术公司 | 对象运动的基于激光雷达的分类 |
US20160321820A1 (en) * | 2015-05-01 | 2016-11-03 | Raytheon Company | Systems and methods for 3d point cloud processing |
US20170123066A1 (en) * | 2011-12-21 | 2017-05-04 | Robotic paradigm Systems LLC | Apparatus, Systems and Methods for Point Cloud Generation and Constantly Tracking Position |
US20170302905A1 (en) * | 2016-04-13 | 2017-10-19 | Sick Inc. | Method and system for measuring dimensions of a target object |
CN107818293A (zh) * | 2016-09-14 | 2018-03-20 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN108090961A (zh) * | 2018-01-10 | 2018-05-29 | 北京航空航天大学 | 一种三维激光点云成像中的快速平差方法 |
CN108152831A (zh) * | 2017-12-06 | 2018-06-12 | 中国农业大学 | 一种激光雷达障碍物识别方法及系统 |
CN108460791A (zh) * | 2017-12-29 | 2018-08-28 | 百度在线网络技术(北京)有限公司 | 用于处理点云数据的方法和装置 |
CN108664841A (zh) * | 2017-03-27 | 2018-10-16 | 郑州宇通客车股份有限公司 | 一种基于激光点云的动静态目标物识别方法及装置 |
CN108764012A (zh) * | 2018-03-27 | 2018-11-06 | 国网辽宁省电力有限公司电力科学研究院 | 基于多帧联合的车载激光雷达数据的城市道路杆状物识别算法 |
US20190018680A1 (en) * | 2017-07-12 | 2019-01-17 | Topcon Positioning Systems, Inc. | Point cloud data method and apparatus |
CN109459439A (zh) * | 2018-12-06 | 2019-03-12 | 东南大学 | 一种基于移动式三维激光扫描技术的隧道衬砌裂缝检测方法 |
CN109509260A (zh) * | 2017-09-14 | 2019-03-22 | 百度在线网络技术(北京)有限公司 | 动态障碍物点云的标注方法、设备及可读介质 |
CN109727312A (zh) * | 2018-12-10 | 2019-05-07 | 广州景骐科技有限公司 | 点云标注方法、装置、计算机设备和存储介质 |
-
2019
- 2019-05-28 CN CN201910453502.2A patent/CN112017202B/zh active Active
Patent Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170123066A1 (en) * | 2011-12-21 | 2017-05-04 | Robotic paradigm Systems LLC | Apparatus, Systems and Methods for Point Cloud Generation and Constantly Tracking Position |
TW201349169A (zh) * | 2012-05-22 | 2013-12-01 | Hon Hai Prec Ind Co Ltd | 點雲拼接方法 |
CN105793730A (zh) * | 2013-06-14 | 2016-07-20 | 优步技术公司 | 对象运动的基于激光雷达的分类 |
US20150199802A1 (en) * | 2014-01-15 | 2015-07-16 | The Boeing Company | System and methods of inspecting an object |
US20160321820A1 (en) * | 2015-05-01 | 2016-11-03 | Raytheon Company | Systems and methods for 3d point cloud processing |
US20170302905A1 (en) * | 2016-04-13 | 2017-10-19 | Sick Inc. | Method and system for measuring dimensions of a target object |
CN107818293A (zh) * | 2016-09-14 | 2018-03-20 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN108664841A (zh) * | 2017-03-27 | 2018-10-16 | 郑州宇通客车股份有限公司 | 一种基于激光点云的动静态目标物识别方法及装置 |
US20190018680A1 (en) * | 2017-07-12 | 2019-01-17 | Topcon Positioning Systems, Inc. | Point cloud data method and apparatus |
CN109509260A (zh) * | 2017-09-14 | 2019-03-22 | 百度在线网络技术(北京)有限公司 | 动态障碍物点云的标注方法、设备及可读介质 |
CN108152831A (zh) * | 2017-12-06 | 2018-06-12 | 中国农业大学 | 一种激光雷达障碍物识别方法及系统 |
CN108460791A (zh) * | 2017-12-29 | 2018-08-28 | 百度在线网络技术(北京)有限公司 | 用于处理点云数据的方法和装置 |
CN108090961A (zh) * | 2018-01-10 | 2018-05-29 | 北京航空航天大学 | 一种三维激光点云成像中的快速平差方法 |
CN108764012A (zh) * | 2018-03-27 | 2018-11-06 | 国网辽宁省电力有限公司电力科学研究院 | 基于多帧联合的车载激光雷达数据的城市道路杆状物识别算法 |
CN109459439A (zh) * | 2018-12-06 | 2019-03-12 | 东南大学 | 一种基于移动式三维激光扫描技术的隧道衬砌裂缝检测方法 |
CN109727312A (zh) * | 2018-12-10 | 2019-05-07 | 广州景骐科技有限公司 | 点云标注方法、装置、计算机设备和存储介质 |
Non-Patent Citations (2)
Title |
---|
OLE SCHUMAN 等: "Semantic Segmentation on Radar Point Clouds", 《2018 21ST INTERNATIONAL CONFERENCE ON INFORMATION FUSION (FUSION)》 * |
程健 等: "城市复杂环境下基于三维激光雷达实时车辆检测", 《浙江大学学报(工学版)》 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112346074A (zh) * | 2021-01-07 | 2021-02-09 | 北京海天瑞声科技股份有限公司 | 点云数据标注方法、点云数据标注装置及存储介质 |
CN112346074B (zh) * | 2021-01-07 | 2021-04-20 | 北京海天瑞声科技股份有限公司 | 点云数据标注方法、点云数据标注装置及存储介质 |
CN112950622A (zh) * | 2021-03-29 | 2021-06-11 | 上海商汤临港智能科技有限公司 | 一种目标检测方法、装置、计算机设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112017202B (zh) | 2024-06-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108198145B (zh) | 用于点云数据修复的方法和装置 | |
CN109084746B (zh) | 用于具有辅助传感器的自主平台引导系统的单目模式 | |
CN112950785B (zh) | 点云标注方法、装置及系统 | |
CN111325796B (zh) | 用于确定视觉设备的位姿的方法和装置 | |
CN109298629B (zh) | 在未绘制地图区域中引导移动平台的系统及方法 | |
CN111461245A (zh) | 一种融合点云和图像的轮式机器人语义建图方法及系统 | |
CN109752003B (zh) | 一种机器人视觉惯性点线特征定位方法及装置 | |
US11227395B2 (en) | Method and apparatus for determining motion vector field, device, storage medium and vehicle | |
US20190164445A1 (en) | Method and system for simulating a radar image | |
CN109116374A (zh) | 确定障碍物距离的方法、装置、设备及存储介质 | |
CN108629231A (zh) | 障碍物检测方法、装置、设备及存储介质 | |
CN109993793A (zh) | 视觉定位方法及装置 | |
CN111986472B (zh) | 车辆速度确定方法及车辆 | |
CN113160327A (zh) | 一种点云补全的实现方法和系统 | |
CN111666876A (zh) | 用于检测障碍物的方法、装置、电子设备和路侧设备 | |
CN111161398A (zh) | 一种图像生成方法、装置、设备及存储介质 | |
CN112184914A (zh) | 目标对象三维位置的确定方法、装置和路侧设备 | |
US10753736B2 (en) | Three-dimensional computer vision based on projected pattern of laser dots and geometric pattern matching | |
CN112017202B (zh) | 点云标注方法、装置及系统 | |
CN113378605B (zh) | 多源信息融合方法及装置、电子设备和存储介质 | |
CN113240813A (zh) | 三维点云信息确定方法及装置 | |
CN112580428A (zh) | 一种配电网设计方法及装置 | |
CN113689508B (zh) | 点云标注方法、装置、存储介质及电子设备 | |
CN113838193A (zh) | 数据处理方法、装置、计算机设备及存储介质 | |
CN112015938B (zh) | 点云标签传递方法、装置及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |