CN113591888B - 用于激光雷达的点云数据标注网络系统及标注方法 - Google Patents
用于激光雷达的点云数据标注网络系统及标注方法 Download PDFInfo
- Publication number
- CN113591888B CN113591888B CN202010366820.8A CN202010366820A CN113591888B CN 113591888 B CN113591888 B CN 113591888B CN 202010366820 A CN202010366820 A CN 202010366820A CN 113591888 B CN113591888 B CN 113591888B
- Authority
- CN
- China
- Prior art keywords
- point cloud
- cloud data
- data
- labeling
- storage platform
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000002372 labelling Methods 0.000 title claims abstract description 204
- 238000011156 evaluation Methods 0.000 claims abstract description 46
- 238000000034 method Methods 0.000 claims abstract description 32
- 238000012545 processing Methods 0.000 claims description 8
- 238000005315 distribution function Methods 0.000 claims description 4
- 238000004891 communication Methods 0.000 claims 2
- 238000012549 training Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 11
- 238000013135 deep learning Methods 0.000 description 7
- 238000001514 detection method Methods 0.000 description 6
- 238000009826 distribution Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000002592 echocardiography Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000002747 voluntary effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 238000009827 uniform distribution Methods 0.000 description 1
- 210000000857 visual cortex Anatomy 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/40—Software arrangements specially adapted for pattern recognition, e.g. user interfaces or toolboxes therefor
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Human Computer Interaction (AREA)
- Radar, Positioning & Navigation (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Remote Sensing (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Traffic Control Systems (AREA)
Abstract
本发明提供了一种用于激光雷达的点云数据标注网络系统,包括:云储存平台,配置成可存储激光雷达的原始点云数据、标注后的点云数据和对于标注的评价结果;多个标注模块,所述多个标注模块通过网络与所述云储存平台通信,并可从所述云储存平台获取原始点云数据,并在所述云储存平台上实时更新标注后的点云数据;和管理模块,所述管理模块通过网络与所述云储存平台通信,所述管理模块配置成可将所述原始点云数据上传至所述云储存平台,并从所述云储存平台获取所述标注后的点云数据,对标注后的点云数据评价并生成评价结果,并将所述评价结果上传至所述云储存平台。本发明还提供一种使用点云数据标注网络系统进行标注的方法。
Description
技术领域
本发明大致涉及激光探测技术领域,尤其涉及一种用于激光雷达的点云数据标注网络系统,以及一种使用其进行点云数据标注的方法。
背景技术
激光雷达是激光主动探测传感器设备的一种统称,其工作原理大致如下:激光雷达的发射器发射出激光光束,激光光束遇到物体后,经过漫反射,返回至激光接收器,激光雷达中的处理模块根据发送和接收激光光束的时间间隔乘以光速,再除以2,即可计算出发射器与物体的距离,也即激光雷达与物体的距离。根据激光线束的多少,通常有例如单线激光雷达、4线激光雷达、8/16/32/64线激光雷达等。一个或多个激光束在竖直方向沿着不同的角度发射,经水平方向扫描,实现对目标区域三维轮廓的探测。多个测量通道(线)相当于多个倾角的扫描平面,因此垂直视场内激光线束越多越密,其竖直方向的角分辨率就越高,激光点云的密度就越大。现有激光雷达每秒扫描的帧数可达10帧,20帧,甚至30帧。
基于激光雷达产生的点云,后续还可以通过机器学习、人工智能、图像识别等方法来进行点云中具体物体对象的识别,例如可以从点云中识别出汽车、行人、自行车、以及其他类型的障碍物。在机器学习中,需要进行建模、标注、训练、测试、评估和修正。这个过程是通过模拟人类大脑视觉皮层的运作方式:单个神经元通过受过的训练,就能够获取识别物体的能力,不需要人工找出物体的规律。
人工智能是以深度学习为核心的算法演进,在大数据的支持下,通过训练深度学习的算法实现,而从大数据中进行深度学习就需要对大量数据进行标注。目前,现有的技术方案多是直接将数据储存在本地进行标注,在训练数据的储存、标注和使用过程中,存在以下缺陷:首先,深度学习的数据量大,势必占用较大的本地存储空间,而且一个本地机的处理速度有限;其次,在标注过程中内容分发存在难度,整个数据包标注时工作量存在分配不均的问题,对于标注管理的规范化也存在难度;第三,本地存储数据的数据安全也存在问题。因此,本地存储只适合小规模数据量使用,不适用于激光雷达的点云数据,特别是多个激光雷达需要长期利用相同的发射通道进行扫描。
背景技术部分的内容仅仅是公开人所知晓的技术,并不当然代表本领域的现有技术。
发明内容
有鉴于现有技术的至少一个缺陷,本发明提供一种用于激光雷达的点云数据标注网络系统,包括:
云储存平台,配置成可存储激光雷达的原始点云数据、标注后的点云数据和对于标注的评价结果;
多个标注模块,所述多个标注模块通过网络与所述云储存平台通信,并可从所述云储存平台获取原始点云数据,并在所述云储存平台上实时更新标注后的点云数据;和
管理模块,所述管理模块通过网络与所述云储存平台通信,所述管理模块配置成可将所述原始点云数据上传至所述云储存平台,并从所述云储存平台获取所述标注后的点云数据,对标注后的点云数据评价并生成评价结果,并将所述评价结果上传至所述云储存平台。
根据本发明的一个方面,所述的点云数据标注网络系统,还包括输出模块,所述输出模块通过网络与所述云储存平台通信,所述输出模块配置成可从所述云储存平台获取所述标注后的点云数据和所述评价结果。
根据本发明的一个方面,所述标注模块从所述云储存平台获取的所述原始点云数据来自一个或多个数据包,所述标注模块配置成不能对所获取的原始点云数据进行非暂态存储。
根据本发明的一个方面,所述标注模块配置成具有远程分发功能和/或众包标注功能,可将所述原始点云数据分发给多个第三方进行标注。
根据本发明的一个方面,所述管理模块配置成可将激光雷达的一个或多个数据包拆分,并将拆分后的数据包作为所述原始点云数据上传至所述云储存平台,其中所述数据包包括多帧点云数据,从而拆分后可将一个数据包中的多帧点云数据分配给至少两个标注模块进行标注。
根据本发明的一个方面,将所述多个数据包中属于不同数据包的多帧点云数据分配给至少一个标注模块进行标注。
根据本发明的一个方面,所述管理模块对于标注的评价包括:
通过所述管理模块将原始点云数据上传至云储存平台;
评价标注的数量,包括对识别目标的类别进行统计;
通过连续播放标注后的点云数据中各个帧的点云数据来评价标注模块所标注的所述原始点云数据的质量。
根据本发明的一个方面,所述输出模块配置成通过脚本方式获取所述标注后的点云数据和所述评价结果,所述输出模块可以连续播放标注后的点云标注信息,并且在播放下一帧标注后的点云标注信息时,上一帧标注后的点云标注信息自动删除。
根据本发明的一个方面,所述输出模块配置成获取所述标注后的点云数据和所述评价结果并进行数据处理后,删除本地存储的所述标注后的点云数据和所述评价结果。
本发明还提供一种使用如上所述的点云数据标注网络系统进行点云数据标注的方法,包括:
通过所述管理模块将原始点云数据上传至云储存平台;
通过云储存平台接收并存储原始点云数据;
将所述原始点云数据分发至所述标注模块;
通过云储存平台接收完成标注后的点云数据;
从所述云储存平台将所述标注后的点云数据发送至管理模块,用于对标注情况进行评价;和
通过所述云储存平台接收对于标注的评价结果。
根据本发明的一个方面,所述点云数据标注网络系统还包括输出模块,所述输出模块通过网络与所述云储存平台通信,所述点云数据标注方法还包括:通过所述输出模块输出所述标注后的点云数据以及所述评价结果。
根据本发明的一个方面,所述点云数据标注方法还包括:通过所述标注模块将所述原始点云数据分发给多个第三方进行标注。
根据本发明的一个方面,所述点云数据标注方法还包括:通过所述管理模块将激光雷达的一个或多个数据包拆分,并将拆分后的数据包作为所述原始点云数据上传至所述云储存平台,其中所述数据包包括多帧点云数据,从而拆分后可将一个数据包中的多帧点云数据分配给至少两个标注模块进行标注。
根据本发明的一个方面,所述点云数据标注方法还包括:将所述多个数据包中属于不同数据包的多帧点云数据分配给至少一个标注模块进行标注。
根据本发明的一个方面,所述通过输出模块输出标注后的点云数据以及所述评价结果的步骤包括:通过脚本方式获取所述标注后的点云数据和所述评价结果,所述输出模块可以连续播放标注后的点云标注信息,并且在播放下一帧标注后的点云标注信息时,上一帧标注后的点云标注信息自动删除。
根据本发明的一个方面,所述点云数据标注方法还包括:所述输出模块获取所述标注后的点云数据和所述评价结果并进行数据处理后,删除本地存储的所述标注后的点云数据和所述评价结果。
本发明的优选实施例提供了一种点云数据标注网络系统,将数据储存在云储存平台,可以对海量点云数据进行标注;管理模块能够将数据包进行拆分以及合理分发,实时地关注标注情况,并且数据管理者通过管理模块能够对标注者的标注情况实时反馈评价信息;标注者通过标注模块标注数据时操作更简便和灵活,无需占用本地存储空间,数据更加安全;数据使用者通过输出模块能实时获取标注数据。本发明的优选实施例还提供一种使用点云数据标注网络系统进行标注的方法。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。在附图中:
图1示意性地示出了激光雷达;
图2示意性地示出了根据本发明的一个优选实施例的点云数据标注网络系统;
图3示意性地示出了根据本发明的一个优选实施例的点云数据标注网络系统;
图4示出了根据本发明的一个优选实施例的点云数据标注方法流程图;
图5A示出了根据本发明的一个优选实施例的点云信息库;
图5B示出了根据本发明的一个优选实施例的点云信息库;
图6A示出了根据本发明的一个优选实施例的一帧点云数据标注结果;
图6B示出了根据本发明的一个优选实施例的一帧点云数据标注结果;
图6C示出了根据本发明的一个优选实施例的一帧点云数据标注结果。
具体实施方式
在下文中,仅简单地描述了某些示例性实施例。正如本领域技术人员可认识到的那样,在不脱离本发明的精神或范围的情况下,可通过各种不同方式修改所描述的实施例。因此,附图和描述被认为本质上是示例性的而非限制性的。
在本发明的描述中,需要理解的是,术语"中心"、"纵向"、"横向"、"长度"、"宽度"、"厚度"、"上"、"下"、"前"、"后"、"左"、"右"、"坚直"、"水平"、"顶"、"底"、"内"、"外"、"顺时针"、"逆时针"等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语"第一"、"第二"仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有"第一"、"第二"的特征可以明示或者隐含地包括一个或者更多个所述特征。在本发明的描述中,"多个"的含义是两个或两个以上,除非另有明确具体的限定。
在本发明的描述中,需要说明的是,除非另有明确的规定和限定,术语"安装"、"相连"、"连接"应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接:可以是机械连接,也可以是电连接或可以相互通讯;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
在本发明中,除非另有明确的规定和限定,第一特征在第二特征之"上"或之"下"可以包括第一和第二特征直接接触,也可以包括第一和第二特征不是直接接触而是通过它们之间的另外的特征接触。而且,第一特征在第二特征"之上"、"上方"和"上面"包括第一特征在第二特征正上方和斜上方,或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征"之下"、"下方"和"下面"包括第一特征在第二特征正上方和斜上方,或仅仅表示第一特征水平高度小于第二特征。
下文的公开提供了许多不同的实施方式或例子用来实现本发明的不同结构。为了简化本发明的公开,下文中对特定例子的部件和设置进行描述。当然,它们仅仅为示例,并且目的不在于限制本发明。此外,本发明可以在不同例子中重复参考数字和/或参考字母,这种重复是为了简化和清楚的目的,其本身不指示所讨论各种实施方式和/或设置之间的关系。此外,本发明提供了的各种特定的工艺和材料的例子,但是本领域普通技术人员可以意识到其他工艺的应用和/或其他材料的使用。
以下结合附图对本发明的实施例进行说明,应当理解,此处所描述的实施例仅用于说明和解释本发明,并不用于限定本发明。
本发明中的点云数据标注网络系统基于激光雷达的点云数据搭建,点云数据的标注、管理和使用通过云储存平台实现,能够高效实时地同步数据,并且数据更加安全,其中将数据储存在云储存平台,可以对海量点云数据进行标注;通过管理模块能够实时地关注标注情况,并且对点云数据的标注情况进行实时反馈;通过标注模块标注数据时操作更加简便和灵活,无需占用本地存储空间。
图1示出了激光雷达100的一个实例。该激光雷达例如为16线激光雷达,即沿着图1中的竖直方向可发射L1、L2、…、L15、L16共16线激光束(每一线激光束即对应激光雷达的一个通道,共16个通道),用于对周围环境进行探测。在探测过程中,该激光雷达100可沿着其竖直轴线旋转,在旋转过程中,激光雷达的各个通道根据一定的时间间隔(例如1微秒)依次发射激光束并进行探测,从而完成一次垂直视场上的线扫描,之后在水平视场方向上间隔一定角度(例如0.1度或0.2度)进行下一次垂直视场的线扫描。激光雷达的接收器接收到各个通道发射的激光束从障碍物反射回来的回波,通过计算其飞行时间,就能够探测出障碍物(或障碍物上的点)的距离和方位,从而形成点云数据。在旋转过程中进行多次探测形成点云,即可感知周围环境的状况。例如16个通道旋转360度进行扫描检测,可形成激光雷达的一帧点云数据。激光雷达连续地进行旋转扫描检测,就形成了多帧的点云数据。需要说明的是,图1中的激光雷达只是作为一个示例,并不代表16线激光束在竖直方向上均匀分布。
在具体实施中,激光雷达的点云图是二维或者三维显示的,同时在标注过程中,可以采用同样是二维或三维的标注框来标注物体对象,即采用平面或立体的标注框选出点云中所呈现出的物体对象,故可以多角度和多维度地观看被标注框所标注的物体对象的点云数据,因而能够观察的更清楚。标注的具体内容包括但不限于:点云场景、障碍物对象的类别、障碍物的大小、位置、角度、障碍物对象的运动状态(运动或者静止)中的一个或多个。其中,点云场景例如可以是城市道路、乡村道路、强光天气、雨雪雾天气下所探测的点云等,点云标注后有助于后续的数据处理。
海量点云数据用于深度学习,若储存在本地,势必占用较大的本地储存空间,且在标注过程中内容分发也存在难度,对于标注管理的规范化也存在难度,此外,在训练数据储存和使用的过程中,标注若存储在本地,数据安全也存在问题。
本发明针对上述问题,搭建了点云数据标注网络系统,能够及时与网络数据库同步数据,云储存平台集合了大量的硬件资源,并采用虚拟化技术将硬件设备的硬件资源进行抽象,能够实现网络计算资源的统一的分配、调度和管理,高效地实现了激光雷达点云数据的标注。下面结合附图进行说明。
如图2所示,本发明的优选实施例提供一种用于激光雷达的点云数据标注网络系统200,包括云储存平台201、标注模块202以及管理模块203。其中云储存平台201配置成可存储激光雷达的原始点云数据、标注后的点云数据和对于标注的评价结果。标注模块202的数量可以为多个,其中多个标注模块202可以采用并行处理的方式对点云数据进行标注,通过网络205与云储存平台201通信,并可从云储存平台201获取原始点云数据。标注人员可以在标注模块202上进行点云标注操作或者标注模块自动标注,标注完成后,向云储存平台201上传标注结果,在云储存平台201上实时更新标注后的点云数据。本领域技术人员容易理解,为了支持标注操作,标注模块202上配置有相应的接口和工具,支持对于点云数据的显示、框选、以及信息输入等操作,此处不再赘述。管理模块203通过网络205与云储存平台201通信,管理模块203配置成可将原始点云数据上传至云储存平台201,并从云储存平台201获取标注后的点云数据,并将对于标注的评价结果上传至云储存平台201。管理模块203可供激光雷达点云数据的管理人员使用,通过管理模块203,可以将点云数据包上传到云储存平台201上,并且可以从云储存平台201调取标注后的点云数据,并给出相应的评价和反馈。
现有的本地存储标注方法中,通常一个数据包交给一个标注者来处理,标注者可以离线地进行标注操作。一个数据包例如包括了一台激光雷达在一段时间内扫描得到的所有点云数据。在实际情况中,不同的数据包之间所需的标注工作量的差异可能会非常大。例如在一些车流或人员较为密集的场景中,激光雷达生成的点云数据的数据包中,每一帧点云数据中都有大量的信息需要标注,因此标注工作量巨大。而在一些较为空旷的场景中,激光雷达生成的点云数据的数据包中,每一帧点云数据中待标注的信息相对较少,因此标注工作量较小。因此如果按照数据包来进行分配的话,容易出现标注工作量分配不均的情况。
本发明提供的优选实施例中通过管理模块将存储在云储存平台上的多个数据包拆分并进行合理分发。如图2所示,管理模块203可将激光雷达的一个或多个数据包拆分,并将拆分后的数据包作为原始点云数据上传至云储存平台201,该数据包包括多帧点云,从而拆分后可将一个数据包中的多帧点云分配给多个标注模块202进行标注,也可以将来自多个数据包的多帧点云分配给一个标注模块202进行标注。图6A、6B和6C示出了三帧完成标注的激光雷达的点云,例如来自于一个数据包。为避免整个数据包标注时工作量存在分配不均的问题,在标注之前,可以首先由管理模块203将该数据包进行拆分,例如拆分为三帧点云,并上传到云储存平台201。云储存平台201然后将这三帧点云分别分配给不同的标注模块202进行标注,标注之后,标注模块202将标注结果上传到云储存平台201。由于这三帧点云相间隔的时间很短,因此其上的待标注目标物的数量比较接近,标注工作量也很接近,管理模块203通过将数据包拆分成多帧点云数据能够提高标注的速度,同时能够对工作量进行更合理的分配,优选地可以根据当前可利用的标注模块202均分已拆分的多帧点云数据,更优选地,可以根据激光雷达的型号设置查询表,该查询表能动态查询每个标注模块以往针对各激光雷达型号的标注量,优先筛选对当前多帧点云数据所属的激光雷达型号标注量最多的一个或多个标注模块进行标注;同样地,由于每个数据包包括几千帧点云数据,通常需要多个标注模块进行多次标注才能完成单个数据包的标注,因此也可以根据不同的数据包设置查询表,该查询表能动态查询以往针对每个数据包的标注量,优先筛选对当前多帧点云数据所属的数据包标注量最多的一个或多个标注模块进行标注,这样能够更高效、快速地完成标注。本领域技术人员容易理解,管理模块203对数据包拆分可以根据实际需求来设定,根据数据包中包括的点云的帧数、以及可利用的标注模块202的数目等来进行选择,这些都在本发明的保护范围内。
通过上述拆分的方式,标注模块202从云储存平台201获取的原始点云数据来自一个或多个数据包。另外,根据本发明的一个优选实施例,标注模块202在云储存平台201上实时同步标注情况,其中同步标注可以是一个标注模块202将分配给其自身的点云数据标注后,将标注后的点云数据或者标注结果及时地同步到云存储平台201上;也可以是同一数据包拆分后多标注模块202对该数据包的多帧点云数据同时标注。根据本发明的实施例,标注模块202不能通过云储存平台201将原始点云数据存储到本地,即不可对所获取的原始点云数据进行非暂态存储,这样既节省了本地存储空间,又保证了数据安全。例如,当标注模块202完成当前帧的标注操作并成功地在云储存平台201上实时同步标注结果之后,可以触发标注模块202将本地缓存的点云数据立即删除。删除之后,该标注模块202才可继续从云储存平台201接收下一帧待标注的点云数据。
另外,根据本发明的一个优选实施例,标注模块202除了自身可具有标注的接口或功能之外,还可以配置成具有远程分发功能,将原始点云数据分发给多个第三方进行标注;也可以提供众包标注,以自愿形式将原始点云数据外包给大众志愿者进行标注。在此情况下,标注模块202在接收到完整的标注结果之后,再将标注结果在云储存平台201上进行实时同步。这样能有效解决点云数据标注数量大、点云数据标注成本高的问题,同时提高了点云数据标注速度。
管理模块203能够对各标注模块的标注状况进行准确地统计,从而动态调整分配给各标注模块的标注数量,实现管理规范化;同时能够对标注后的点云数据进行准确地统计来选择深度学习训练所需的点云数据。
根据本发明的一个实施例,管理模块203能够对标注的状况进行准确地统计:比如统计每个标注模块每小时、每天、每周和每个月的标注数量,以及统计激光雷达识别目标的各种类别,比如人、车、连续物体,非连续物体等,这样能够实时掌握各标注模块的工作量,从而动态调整分配给各标注模块的标注数量,实现管理规范化。
管理模块203还能够对标注后的点云数据进行准确地统计,比如标注后的点云数据中目标物体对应的各发射线束分布情况,各发射线束分布位置;以及对标注后的点云数据统计无人车行驶过程中遇到的路况,比如车辆转弯时转角,车辆遇到转弯情况的数量,停车场中并排车辆的数量,各类环境场景(例如闹市、乡村、高速公路等),管理模块203根据上述目标物和路况的标注情况来选择用于深度学习训练所需的标注后的点云数据。
管理模块203可以对点云标注系统进行调度,具体地,管理模块203将原始点云数据拆分成多帧点云数据,并将该多帧点云数据上传到云储存平台,其中对于同一帧点云数据,管理模块203可以选择多个标注模块进行标注,并对所选的多个标注模块标注后的点云数据进行比较和判断,比如选择5个标注模块对一帧点云数据进行标注,其中对于同一个标注目标物,管理模块203选择最多的标注结果判定为最终的标注结果,例如对于同一个标注目标物,5个标注模块中4个标注模块标注为小车,1个标注模块标注为大车,则管理模块203选择最多的标注结果并判定为最终的标注结果,即该标注目标物判定为小车;
管理模块203接收标注后的点云数据,对标注情况进行评价并生成评价标注的结果。具体地,管理模块203能够实时评价标注的结果,该评价标注的结果主要包括标注的准确性以及置信度。管理模块203例如能够通过连续播放标注后的点云数据中各个帧的点云数据来评价标注模块202的标注质量。例如,如果同一个目标在前一帧点云、下一帧点云中均被标注出,但是在当前帧点云中未被标注,那么说明,当前帧点云非常可能被漏标。除了漏标之外,还存在错标等情况,比如目标物体类别错标(小车错标为大车、移动目标被错标为固定目标等情况),目标物体的位置信息和尺寸错标,目标物体所对应的点云数量错标,车辆转弯时转向角度错标等,这些情况下,优选地,可以发出报警或提示,提醒用户进行关注,或者指示云储存平台201将发生漏标的点云以及相应的报警或提示发送给之前的标注模块,进行补充标注操作。为此,优选地可以对已标注帧点云进行连续播放,当遇到可能漏标或错标的位置时,向用户提出报警或提示。另外,管理模块203还可以利用感知算法进行目标物体识别,识别之后提供评价结果的置信度,该置信度用于管理人员判断该评价结果提供参考。通过实时评价标注的结果,能够实时管控标注的质量,并反馈各标注模块的标注质量等级,来提升标注的质量。
根据本发明的另一个优选实施例,如图3所示,点云数据标注网络系统300还包括输出模块204,输出模块204通过网络205与云储存平台201通信,并可从云储存平台201获取标注后的点云数据和对于标注的评价结果。
根据本发明的一个实施例,输出模块204从网页上定制使用需求后,通过数据请求脚本(文字指令)从云储存平台201获取标注后的点云数据和对于标注的评价结果。输出模块204可以连续播放一个数据包中标注后的点云标注信息,其中点云标注信息通常是目标框等标识,相比于逐帧查看标注后的点云标注信息,连续播放更方便使用者查看,管理也更加方便,同时下一帧点云继承了上一帧点云标注后的点云标注信息,从而获取上一帧点云中已经标注的连续物体的目标框。并且在播放下一帧点云标注后的点云标注信息时,上一帧点云标注后的点云标注信息自动删除,只存储和显示一帧点云数据,确保数据安全。或者可替换的,为了便于标注数据使用者操作,可以允许输出模块上缓存多帧点云数据及其标注信息。
输出模块204实时获取需要的训练数据之后可利用该训练数据进行神经网络的训练,并在训练结束后删除数据,能够节约本地储存空间并且不需要考虑本地储存空间是否能够容纳完整的训练数据,硬件要求更低。输出模块204支持多种激光雷达的数据接口模式。
上述实施例中,管理模块203将数据包拆分,并将拆分后的多帧点云数据作为原始点云数据上传至云储存平台201,本发明不限于此。管理模块203可以将包含原始点云数据的数据包直接上传到云储存平台201,当云储存平台201需要向多个标注模块202分发待标注的多帧点云数据时,由云储存平台201对数据包进行拆分。这些都在本发明的保护范围内。
上面描述了根据本发明实施例的用于激光雷达的点云数据标注网络系统200和300。其中点云数据被存储在云储存平台,可以对海量点云数据进行标注;管理模块能够将数据包进行拆分以及合理分发,并且实时地关注标注情况,并且数据管理者通过管理模块能够对标注者的标注情况实时反馈评价信息;标注者通过标注模块标注数据时操作更简便和灵活,无需占用本地存储空间,数据更加安全,并且能够平衡多个标注模块之间的标注工作量;另外,数据使用者通过输出模块能实时获取标注数据。
本发明还提供一种利用上述点云数据标注网络系统进行点云数据标注的方法400,方法流程图如图4所示:
在步骤S401中,通过管理模块将原始点云数据上传至云储存平台。
在步骤S402中,通过云储存平台接收并存储原始点云数据。原始点云数据存储在云储存平台,生成点云库。原始点云数据例如以数据包(或文件)为单位,一个数据包例如包括了一台激光雷达在一段时间内扫描得到的所有点云数据。每个数据包包括多帧点云数据。以机械式激光雷达为例,通常每次转动扫描360度,生成一帧点云数据。如图5A所示,每一帧点云数据可具有唯一的点云ID作为其标识符,图5中示出了数据包sensetime-hardblock.pcap具有四帧点云,其中不同名称的pcap代表不同的数据包,LIDAR表示采集点云数据的激光雷达型号。
在步骤S403中,将原始点云数据分发至标注模块。标注模块可以自由获取点云数据标注任务,原始点云数据存储在云储存平台,标注模块实时更新标注结果。标注模块获取的多帧点云数据来自一个或多个数据包。如图5A所示,数据包sensetime-hardblock.pcap所包括的四帧点云数据可以进行拆分,拆分后使每帧点云数据具备点云ID,其作为每帧点云数据的标识符,图中的顺序表示点云数据包中不同帧点云数据的数据采集排序,标注表示该帧点云数据分配的标注模块的数量,并分配给多个标注模块来进行标注操作;另外如图5B所示,对于同一个标注模块,可以分配来自不同数据包的点云数据,通过图5B中所示的下拉列表,可以选择不同的数据包,并将其中包括的点云数据分配给不同的标注模块。
在步骤S404中,通过云储存平台接收完成标注后的点云数据。如图6A、图6B和图6C所示,图中采用长方体形状的标注框对物体对象进行标注,标注模块将标注完成的点云数据实时同步到云储存平台上,无需存储在本地空间,这样既节省了本地空间资源,又保证了数据安全。
本领域技术人员能够理解,在存储完成标注的点云数据时,标注数据可以与点云数据一起存储,例如将标注数据(诸如点云场景、障碍物对象的类别、障碍物的大小、位置、角度等)直接添加到该帧的点云数据中。或者可替换的,标注数据也可以与点云数据分开存储。例如,点云数据通常具有帧编号ID,因此对某一帧点云数据进行标注时,可以将标注数据存储为单独的标注数据文件,其中同时存储有对应的帧编号ID,这样,通过帧编号ID,可以将原始点云数据与其对应的标注数据文件关联起来。这样的优势在于,使用更加灵活,点云数据文件较小,仅在需要标注数据时,才调取标注数据文件。如图6A、图6B、图6C所示的标注完成的点云数据,分别对应不同的点云ID。
在步骤S405中,将标注后的点云数据发送至管理模块,用于对标注情况进行评价。管理模块能够对标注的状况进行准确地统计:比如统计每小时、每天、每周和每个月的标注数量,以及统计激光雷达识别目标的各种类别,比如人、车、连续物体,非连续物体等,这样能够实时掌握各标注模块的工作量,从而动态调整分配给各标注模块的标注数量,实现管理规范化。管理模块203能够实时评价标注的结果,管理模块也能够通过连续播放标注后的点云数据中各个帧的点云数据来评价标注模块的标注质量。通过实时评价标注的结果,能够实时管控标注的质量,并反馈各标注模块的标注质量等级,来提升标注的质量。
在步骤S406中,通过云储存平台接收对于标注的评价结果。
根据本发明的一个优选实施例,上述点云数据标注方法还包括:
在步骤S407中,通过输出模块输出标注后的点云数据以及对于标注的评价结果。输出模块从网页上定制使用需求后,通过数据请求脚本(文字指令)从云储存平台获取标注后的点云数据和对于标注的评价结果。输出模块可以连续播放一个数据包中标注后的点云标注信息,其中点云标注信息通常是目标框等标识,相比于逐帧查看标注后的点云标注信息,连续播放更方便使用者查看,管理也更加方便,同时下一帧点云继承了上一帧点云标注后的点云标注信息,从而获取上一帧点云中已经标注的连续物体的目标框。并且在播放下一帧点云标注后的点云标注信息时,上一帧点云标注后的点云标注信息自动删除,只存储和显示一帧点云数据,确保数据安全。或者可替换的,为了便于标注数据使用者操作,可以允许输出模块上缓存多帧点云数据及其标注信息。
根据本发明的一个优选实施例,上述点云数据标注方法还包括:
通过标注模块将原始点云数据分发给多个第三方进行标注。标注模块具有远程分发功能,可以将原始点云数据分发给多个第三方进行标注;也可以提供众包标注,以自愿形式将原始点云数据外包给大众志愿者进行标注。在此情况下,标注模块在接收到完整的标注结果之后,再将标注结果在云储存平台上进行实时同步。这样能有效解决点云数据标注数量大、点云数据标注成本高的问题,同时提高了点云数据标注速度。
根据本发明的一个优选实施例,上述点云数据标注方法还包括:
通过管理模块将激光雷达的一个或多个数据包拆分,并将拆分后的数据包作为原始点云数据上传至云储存平台,该数据包包括多帧点云,从而拆分后可将一个数据包中的多帧点云分配给多个标注模块进行标注,也可以将多个数据包的多帧点云分配给一个标注模块进行标注。解决了本地存储标注中存在的任务分配不合理的问题。
根据本发明的一个优选实施例,上述点云数据标注方法还包括:
输出模块通过脚本方式获取标注后的点云数据和对于标注的评价结果,输出模块可连续播放标注后的点云标注信息,其中点云标注信息通常是目标框等标识,并且在播放下一帧标注后的点云标注信息时,上一帧标注后的点云标注信息自动删除。相比于逐帧查看标注后的点云标注信息,连续播放更方便使用者查看,管理也更加方便,同时下一帧点云继承了上一帧点云标注后的点云标注信息,从而获取上一帧点云中已经标注的连续物体的目标框。
根据本发明的一个优选实施例,上述的点云数据标注方法还包括:
输出模块获取标注后的点云数据和对于标注的评价结果并进行数据处理后,删除本地存储的标注后的点云数据和该评价结果。这种方法能够节约本地储存空间并且不需要考虑本地储存空间是否能够容纳完整的训练数据,硬件要求更低。
通过本发明优选实施例的点云数据标注网络系统和使用点云数据标注网络系统进行标注的方法,将数据储存在云储存平台,可以对海量点云数据进行标注;管理模块能够将数据包进行拆分以及合理分发,实时地关注标注情况,并且数据管理者通过管理模块能够对标注者的标注情况实时反馈评价信息;标注者通过标注模块标注数据时操作更简便和灵活,无需占用本地存储空间,数据更加安全;数据使用者通过输出模块能实时获取标注数据。
最后应说明的是:以上所述仅为本发明的优选实施例而已,并不用于限制本发明,尽管参照前述实施例对本发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (16)
1.一种用于激光雷达的点云数据标注网络系统,包括:
云储存平台,配置成可存储激光雷达的原始点云数据、标注后的点云数据和对于标注的评价结果;
多个标注模块,所述多个标注模块通过网络与所述云储存平台通信,并可从所述云储存平台获取原始点云数据,并在所述云储存平台上实时更新标注后的点云数据;和
管理模块,所述管理模块通过网络与所述云储存平台通信,所述管理模块配置成可将所述原始点云数据上传至所述云储存平台,并从所述云储存平台获取所述标注后的点云数据,对标注后的点云数据评价并生成评价结果,并将所述评价结果上传至所述云储存平台。
2.如权利要求1所述的点云数据标注网络系统,还包括输出模块,所述输出模块通过网络与所述云储存平台通信,所述输出模块配置成可从所述云储存平台获取所述标注后的点云数据和所述评价结果。
3.如权利要求1或2所述的点云数据标注网络系统,其中所述标注模块从所述云储存平台获取的所述原始点云数据来自一个或多个数据包,所述标注模块配置成不能对所获取的原始点云数据进行非暂态存储。
4.如权利要求1或2所述的点云数据标注网络系统,其中所述标注模块配置成具有远程分发功能和/或众包标注功能,可将所述原始点云数据分发给多个第三方进行标注。
5.如权利要求1或2所述的点云数据标注网络系统,其中所述管理模块配置成可将激光雷达的一个或多个数据包拆分,并将拆分后的数据包作为所述原始点云数据上传至所述云储存平台,其中所述数据包包括多帧点云数据,从而拆分后可将一个数据包中的多帧点云数据分配给至少两个标注模块进行标注。
6.如权利要求5所述的点云数据标注网络系统,其中将所述多个数据包中属于不同数据包的多帧点云数据分配给至少一个标注模块进行标注。
7.如权利要求1或2所述的点云数据标注网络系统,其中所述管理模块对于标注的评价包括:
评价标注的数量,包括对识别目标的类别进行统计;
通过连续播放标注后的点云数据中各个帧的点云数据来评价标注模块所标注的所述原始点云数据的质量。
8.如权利要求2所述的点云数据标注网络系统,其中所述输出模块配置成通过脚本方式获取所述标注后的点云数据和所述评价结果,所述输出模块可以连续播放标注后的点云标注信息,并且在播放下一帧标注后的点云标注信息时,上一帧标注后的点云标注信息自动删除。
9.如权利要求2所述的点云数据标注网络系统,其中所述输出模块配置成获取所述标注后的点云数据和所述评价结果并进行数据处理后,删除本地存储的所述标注后的点云数据和所述评价结果。
10.一种使用权利要求1所述的点云数据标注网络系统进行点云数据标注的方法,包括:
通过所述管理模块将原始点云数据上传至云储存平台;
通过云储存平台接收并存储所述原始点云数据;
将所述原始点云数据分发至所述标注模块;
通过云储存平台接收完成标注后的点云数据;
从所述云储存平台将所述标注后的点云数据发送至管理模块,对标注情况进行评价;和
通过所述云储存平台接收对于标注的评价结果。
11.如权利要求10所述的点云数据标注方法,其中所述点云数据标注网络系统还包括输出模块,所述输出模块通过网络与所述云储存平台通信,所述点云数据标注方法还包括:通过所述输出模块输出所述标注后的点云数据以及所述评价结果。
12.如权利要求10或11所述的点云数据标注方法,还包括:
通过所述标注模块将所述原始点云数据分发给多个第三方进行标注。
13.如权利要求10或11所述的点云数据标注方法,还包括:
通过所述管理模块将激光雷达的一个或多个数据包拆分,并将拆分后的数据包作为所述原始点云数据上传至所述云储存平台,其中所述数据包包括多帧点云数据,从而拆分后可将一个数据包中的多帧点云数据分配给至少两个标注模块进行标注。
14.如权利要求13所述的点云数据标注方法,还包括:
将所述多个数据包中属于不同数据包的多帧点云数据分配给至少一个标注模块进行标注。
15.如权利要求11所述的点云数据标注方法,其中所述通过输出模块输出标注后的点云数据以及所述评价结果的步骤包括:
通过脚本方式获取所述标注后的点云数据和所述评价结果,所述输出模块可以连续播放标注后的点云标注信息,并且在播放下一帧标注后的点云标注信息时,上一帧标注后的点云标注信息自动删除。
16.如权利要求11所述的点云数据标注方法,还包括:
所述输出模块获取所述标注后的点云数据和所述评价结果并进行数据处理后,删除本地存储的所述标注后的点云数据和所述评价结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010366820.8A CN113591888B (zh) | 2020-04-30 | 2020-04-30 | 用于激光雷达的点云数据标注网络系统及标注方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010366820.8A CN113591888B (zh) | 2020-04-30 | 2020-04-30 | 用于激光雷达的点云数据标注网络系统及标注方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113591888A CN113591888A (zh) | 2021-11-02 |
CN113591888B true CN113591888B (zh) | 2024-09-06 |
Family
ID=78237564
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010366820.8A Active CN113591888B (zh) | 2020-04-30 | 2020-04-30 | 用于激光雷达的点云数据标注网络系统及标注方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113591888B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114168554B (zh) * | 2022-02-14 | 2022-05-20 | 山东信通电子股份有限公司 | 一种基于输电线路的点云标注文件同步方法及设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101968806A (zh) * | 2010-10-22 | 2011-02-09 | 天津南大通用数据技术有限公司 | 数据存储方法、查询方法及装置 |
CN109948684A (zh) * | 2019-03-12 | 2019-06-28 | 百度在线网络技术(北京)有限公司 | 点云数据标注质量的质检方法、装置及其相关设备 |
CN111062255A (zh) * | 2019-11-18 | 2020-04-24 | 苏州智加科技有限公司 | 三维点云的标注方法、装置、设备及存储介质 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107817502B (zh) * | 2016-09-14 | 2020-08-07 | 北京百度网讯科技有限公司 | 激光点云数据处理方法和装置 |
CN108345822B (zh) * | 2017-01-22 | 2022-02-01 | 腾讯科技(深圳)有限公司 | 一种点云数据处理方法及装置 |
WO2019051645A1 (zh) * | 2017-09-12 | 2019-03-21 | 深圳前海达闼云端智能科技有限公司 | 一种机器人动态学习方法、系统、机器人以及云端服务器 |
CN109840448A (zh) * | 2017-11-24 | 2019-06-04 | 百度在线网络技术(北京)有限公司 | 用于无人驾驶车辆的信息输出方法和装置 |
CN110443899A (zh) * | 2018-05-02 | 2019-11-12 | 北京京东尚科信息技术有限公司 | 用于处理数据的方法和装置 |
KR102144707B1 (ko) * | 2018-10-16 | 2020-08-14 | 주식회사 키센스 | 인공지능 학습을 위한 모바일 기기의 터치 기반 어노테이션과 이미지 생성 방법 및 그 장치 |
CN110069408A (zh) * | 2019-04-11 | 2019-07-30 | 杭州飞步科技有限公司 | 自动驾驶车辆感知系统测试方法及装置 |
CN110135289A (zh) * | 2019-04-28 | 2019-08-16 | 北京天地玛珂电液控制系统有限公司 | 一种基于深度学习的煤矿井下智能应用云服务平台 |
CN110750694A (zh) * | 2019-09-29 | 2020-02-04 | 支付宝(杭州)信息技术有限公司 | 数据标注实现方法及装置、电子设备、存储介质 |
CN110751090B (zh) * | 2019-10-18 | 2022-09-20 | 宁波博登智能科技有限公司 | 一种三维点云标注方法、装置及电子设备 |
CN110737678B (zh) * | 2019-10-23 | 2023-08-04 | 北京锐安科技有限公司 | 一种数据查找方法、装置、设备和存储介质 |
CN110826101B (zh) * | 2019-11-05 | 2021-01-05 | 安徽数据堂科技有限公司 | 用于企业的私有化部署数据处理方法 |
-
2020
- 2020-04-30 CN CN202010366820.8A patent/CN113591888B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101968806A (zh) * | 2010-10-22 | 2011-02-09 | 天津南大通用数据技术有限公司 | 数据存储方法、查询方法及装置 |
CN109948684A (zh) * | 2019-03-12 | 2019-06-28 | 百度在线网络技术(北京)有限公司 | 点云数据标注质量的质检方法、装置及其相关设备 |
CN111062255A (zh) * | 2019-11-18 | 2020-04-24 | 苏州智加科技有限公司 | 三维点云的标注方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113591888A (zh) | 2021-11-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109285220B (zh) | 一种三维场景地图的生成方法、装置、设备及存储介质 | |
US10565458B2 (en) | Simulation system, simulation program and simulation method | |
CN108779984A (zh) | 信号处理设备和信号处理方法 | |
CN115187742B (zh) | 自动驾驶仿真测试场景生成方法、系统及相关装置 | |
CN109783593A (zh) | 一种可用于自动驾驶的地图更新系统与方法 | |
CN107533630A (zh) | 用于远程感测和车辆控制的实时机器视觉和点云分析 | |
CN110084895A (zh) | 对点云数据进行标注的方法和设备 | |
US7158797B1 (en) | Mobile information acquisition system | |
CN113127590B (zh) | 地图更新方法及设备 | |
CN107851125A (zh) | 通过车辆和服务器数据库进行两步对象数据处理以生成、更新和传送精确道路特性数据库的系统和方法 | |
US11222543B2 (en) | Method for determining traffic information | |
GB2560255A (en) | Advanced V2X event dissemination | |
CN110470311A (zh) | 一种地图生成方法、装置及计算机存储介质 | |
CN105336017B (zh) | 一种基于Storm技术的行车记录信息处理方法及系统 | |
CN113591888B (zh) | 用于激光雷达的点云数据标注网络系统及标注方法 | |
CN211792049U (zh) | 车路协同辅助系统及车辆 | |
CN108932863A (zh) | 基于车联网的天气预告方法及车联网系统 | |
CN108924253A (zh) | 基于车联网的天气预告方法及车联网系统 | |
CN109583312A (zh) | 车道线识别方法、装置、设备及存储介质 | |
CN116185054A (zh) | 基于微型激光雷达的无人机输电线路巡检方法及系统 | |
CN109579793B (zh) | 地形测绘方法、装置、飞行平台、计算机设备和存储介质 | |
CN112986908B (zh) | 定位标定方法、系统及存储介质 | |
DE60306863T2 (de) | Informations-Steuereinheit für Navigationssystem | |
CN106998476A (zh) | 一种基于地理信息系统的视频查看方法和装置 | |
CN207008056U (zh) | 基于Hu矩的差值云团外推降雨预测装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |