CN113362444B - 点云数据的生成方法、装置、电子设备及存储介质 - Google Patents

点云数据的生成方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN113362444B
CN113362444B CN202110556351.0A CN202110556351A CN113362444B CN 113362444 B CN113362444 B CN 113362444B CN 202110556351 A CN202110556351 A CN 202110556351A CN 113362444 B CN113362444 B CN 113362444B
Authority
CN
China
Prior art keywords
point cloud
cloud set
pseudo
real
coordinate information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110556351.0A
Other languages
English (en)
Other versions
CN113362444A (zh
Inventor
鞠波
叶晓青
谭啸
孙昊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202110556351.0A priority Critical patent/CN113362444B/zh
Publication of CN113362444A publication Critical patent/CN113362444A/zh
Priority to PCT/CN2022/088312 priority patent/WO2022242416A1/zh
Priority to KR1020237008339A priority patent/KR20230042383A/ko
Priority to JP2022561443A priority patent/JP2023529527A/ja
Application granted granted Critical
Publication of CN113362444B publication Critical patent/CN113362444B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/08Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20Indexing scheme for editing of 3D models
    • G06T2219/2016Rotation, translation, scaling

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Architecture (AREA)
  • Geometry (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Vision & Pattern Recognition (AREA)

Abstract

本公开公开了一种点云数据的生成方法、装置、电子设备及存储介质,涉及人工智能领域,具体涉及计算机视觉和深度学习技术,可应用于自动驾驶和智能交通场景下。具体实现方案为:基于激光雷达采集目标对象的真实点云集合;对目标对象进行图像采集,并基于采集的图像,生成伪点云集合;对真实点云集合和伪点云集合进行融合,生成用于模型训练的目标点云集合。本申请能够使得用于模型训练的目标点云集合中远近的点云较为均衡,可以更好地满足训练要求,以便于提供模型的训练精度,有利于远近目标的监测。

Description

点云数据的生成方法、装置、电子设备及存储介质
技术领域
本公开涉及人工智能领域,具体涉及计算机视觉和深度学习技术,可应用于自动驾驶和智能交通场景下。
背景技术
相关技术中,在运用雷达点云完成目标检测任务时,若单纯使用激光雷达数据进行目标检测,会出现远处点云稀疏的问题,从而造成结果准确度不够;若单纯使用伪激光雷达数据进行目标检测,则整体计算量大大增加。此两种方法都忽略了地面点云带来的噪点降低了算法的鲁棒性。
发明内容
本公开提供了一种点云数据的生成方法、装置、电子设备及存储介质。
根据本公开的一方面,提供了一种点云数据的生成方法。在基于激光雷达采集目标对象的真实点云集合;对目标对象进行图像采集,并基于采集的图像,生成伪点云集合;对真实点云集合和伪点云集合进行融合,生成用于模型训练的目标点云集合。本申请能够使得用于模型训练的目标点云集合中远近的点云较为均衡,可以更好地满足训练要求,以便于提供模型的训练精度,有利于远近目标的监测。
根据本公开的另一方面,提供了一种点云数据的生成装置。
根据本公开的另一方面,提供了一种电子设备。
根据本公开的另一方面,提供了一种非瞬时计算机可读存储介质。
根据本公开的另一方面,提供了一种计算机程序产品。
为达上述目的,本公开第一方面实施例提出了一种点云数据的生成方法,包括:基于激光雷达采集目标对象的真实点云集合;对所述目标对象进行图像采集,并基于采集的图像,生成伪点云集合;对所述真实点云集合和所述伪点云集合进行融合,生成用于模型训练的目标点云集合。
为达上述目的,本公开第二方面实施例提出了一种点云数据的生成装置,包括:真实点云集合获取模块,用于基于激光雷达采集目标对象的真实点云集合;伪点云集合获取模块,用于对所述目标对象进行图像采集,并基于采集的图像,生成伪点云集合;点云集合融合模块,用于对所述真实点云集合和所述伪点云集合进行融合,生成用于模型训练的目标点云集合。
为达上述目的,本公开第三方面实施例提出了一种电子设备,包括存储器、处理器。所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以实现如本公开第一方面实施例所述的点云数据的生成方法。
为达上述目的,本公开第四方面实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于实现如本公开第一方面实施例所述的点云数据的生成方法。
为达上述目的,本公开第五方面实施例提出了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时以实现如本公开第一方面实施例所述的点云数据的生成方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开一实施例的点云数据的生成方法的示意图;
图2是根据本公开另一实施例的点云数据的生成方法的示意图;
图3是根据本公开另一实施例的点云数据的生成方法的示意图;
图4是根据本公开另一实施例的点云数据的生成方法的示意图;
图5是根据本公开另一实施例的点云数据的生成方法的示意图;
图6是根据本公开另一实施例的点云数据的生成方法的示意图;
图7是根据本公开另一实施例的点云数据的生成方法的示意图;
图8是根据本公开另一实施例的点云数据的生成方法的示意图;
图9是根据本公开另一实施例的点云数据的生成方法的示意图;
图10是根据本公开另一实施例的点云数据的生成方法的示意图;
图11是根据本公开一实施例的点云数据的生成装置的示意图;
图12是根据本公开一实施例的电子设备的示意图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图像处理(Image Processing),用计算机对图像进行分析,以达到所需结果的技术。又称影像处理。图像处理一般指数字图像处理。数字图像是指用工业相机、摄像机、扫描仪等设备经过拍摄得到的一个大的二维数组,该数组的元素称为像素,其值称为灰度值。图像处理技术一般包括图像压缩,增强和复原,匹配、描述和识别3个部分。
深度学习(Deep Learning,简称DL),是机器学习(Machine Learning,简称ML)领域中一个新的研究方向,它被引入机器学习使其更接近于最初的目标——人工智能。深度学习是学习样本数据的内在律和表示层次,这些学习过程中获得的信息对诸如文字,图像和声音等数据的解释有很大的帮助。它的最终目标是让机器能够像人一样具有分析学习能力,能够识别文字、图像和声音等数据。深度学习是一个复杂的机器学习算法,在语音和图像识别方面取得的效果,远远超过先前相关技术。
计算机视觉(Computer Vision),是一门研究如何使机器“看”的科学,更进一步的说,就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,计算机视觉研究相关的理论和技术,试图建立能够从图像或者多维数据中获取‘信息’的人工智能系统。这里所指的信息指Shannon定义的,可以用来帮助做一个“决定”的信息。因为感知可以看作是从感官信号中提取信息,所以计算机视觉也可以看作是研究如何使人工系统从图像或多维数据中“感知”的科学。
人工智能(Artificial Intelligence,简称AI),是研究使计算机来模拟人生的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术,也有软件层面的技术。人工智能硬件技术一般包括计算机视觉技术、语音识别技术、自然语言处理技术以及及其学习/深度学习、大数据处理技术、知识图谱技术等几大方面。
图1是根据本公开一个实施例的点云数据的生成方法的流程图,如图1所示,该点云数据的生成方法包括以下步骤:
S101,基于激光雷达采集目标对象的真实点云集合。
激光探测及测距系统(Light Detection and Ranging,LiDAR),也称为激光雷达,由发射系统、接收系统、信息处理等部分组成。LIDAR每秒钟能产生十万、百万甚至千万数量级别的点,称之为点云(point cloud)。点云简单来说就是空间中散布的多个点,每个点包含三维坐标(XYZ)、激光反射强度(Intensity)或者颜色信息(Red Green Blue,RGB),是激光雷达向物体或者地面发射激光信号,然后收集物体或者地面反射的激光信号而来的,通过联合解算、偏差校正,便可以计算出这些点的准确空间信息。其中,激光雷达所获得的点云数据可用于制作数字高程模型、三维建模、农林普查、土方计算、监测地质灾害或者自动驾驶等系统中。
可选地,以激光雷达运用在自动驾驶系统上为例,安装在自动驾驶汽车上的激光雷达,可采集自动驾驶汽车视野前方物体及地面的点云集合,作为真实点云集合。其中,前方物体可作为目标对象,比如车辆、行人或者树木等。作为示例,图2是自动驾驶系统前视相机返回的RGB图,图3是该RGB图对应的激光雷达稀疏点云数据。可选地,前视相机可包括前视单目RGB相机或者前视双目RGB相机。
S102,对目标对象进行图像采集,并基于采集的图像,生成伪点云集合。
本申请实施例中可以获取稠密的伪点云数据来辅助激光雷达对目标对象进行点云数据的采集。
可选地,可以从深度图像采集装置采集的深度图像,基于深度图像获取到伪点云数据,可选地,将采集到的深度图像的像素深度反投影为3D点云,得到伪点云数据。
可选地,可以基于双目视觉对目标对象进行图像采集,基于视差原理并利用成像设备从不同的位置获取被测物体的两幅图像,通过计算图像对应点间的位置偏差,得到伪点云数据。
可选地,可以基于单目视觉对目标对象进行图像采集,计算得到采集图像之间旋转和平移之间的关系,通过基于匹配点的三角化的计算,得到伪点云数据。
可选地,以运用在自动驾驶系统上为例,可运用前视单目RGB相机或者前视双目RGB相机,采集自动驾驶汽车视野前方物体及地面的点云,作为伪点云集合。作为示例,图4是自动驾驶系统前视相机返回的RGB图,图5是该RGB图对应的伪激光雷达稠密点云数据。可选地,前视相机可包括前视单目RGB相机或者前视双目RGB相机。
S103,对真实点云集合和伪点云集合进行融合,生成用于模型训练的目标点云集合。
由于激光雷达获取到的点云数据中,离激光雷达越近的点云越稠密,离激光雷达越远的点云越稀疏,导致近处的检测效果会比较好,离激光雷达越远检测效果会有极大的衰减。为了避免此问题,将获取到的真实点云集合和伪点云集合进行融合,得到目标点云集合,由于伪点云集合的数据量较大,可以通过稠密的伪点云集合对真实点云集合进行点云补充,使得用于模型训练的目标点云集合中远近的点云较为均衡,可以更好地满足训练要求,以便于提供模型的训练精度,有利于远近目标的监测。
本申请实施例提供了一种点云数据的生成方法,通过基于激光雷达采集目标对象的真实点云集合;对目标对象进行图像采集,并基于采集的图像,生成伪点云集合;对真实点云集合和伪点云集合进行融合,生成用于模型训练的目标点云集合。本申请能够使得用于模型训练的目标点云集合中远近的点云较为均衡,可以更好地满足训练要求,以便于提供模型的训练精度,有利于远近目标的监测。
在上述实施例的基础之上,由于伪点云数据数量稠密,较多的伪点云数据进行融合,会导致模型训练的运算量较大,而且影响模型的准确性,因此,在对真实点云集合和伪点云集合进行融合之前,还需要对伪点云集合中的第一点云进行过滤。图6是根据本公开一个实施例的点云数据的生成方法的流程图,如图6所示,对真实点云集合和伪点云集合进行融合,生成用于模型训练的目标点云集合之前,包括以下步骤:
S601,基于伪点云集合中每个第一点云的坐标信息,获取第一点云与地面方程的地面距离。
根据伪点云集合中的所有点云数据,计算得到地面方程。可选地,获取地面方程的方法可以为奇异值分解(Singular Value Decomposition,SVD)方法。在得到地面方程之后,将伪点云集合中的每个点云作为第一点云,根据每个第一点云的坐标信息,获取每个第一点云与地面方程的地面距离。
S602,从伪点云集合中剔除地面距离小于设定距离阈值的第一点云。
其中,在伪点云集合中,存在大量地面点云数据以及距离地面较近的点云数据,这些数据对于目标检测系统的训练检测是无效的,反而会增加系统的计算量。因此,设定一个距离阈值,当伪点云集合中存在第一点云与地面方程的地面距离小于设定距离阈值时,将该第一点云从伪点云集合中剔除。以距离阈值为10为例,将伪点云集合中第一点云与地面方程的地面距离小于10的第一点云从伪点云集合中剔除。
本申请实施例将地面点云从伪点云集合中剔除,减少了大量无效的点云数据,从而降低了目标检测模型的计算量,增加了目标检测模型的鲁棒性和准确性。
图7是根据本公开一个实施例的点云数据的生成方法的流程图。在上述实施例基础之上,如图7所示,对真实点云集合和伪点云集合进行融合,生成用于模型训练的目标点云集合,还包括以下步骤:
S701,将真实点云集合和伪点云集合进行拼接,生成候选点云集合。
为了得到更精准的目标检测模型,需要将真实点云集合和伪点云集合进行拼接,将拼接后的点云集合作为候选点云集合。其中,点云的拼接可以理解为:通过计算得到完美的坐标变换,将处于不同视角下的点云数据经过旋转平移等刚性变换统一整合到指定坐标系之下的过程。
作为一种可实现的方式,将真实点云集合和伪点云集合进行拼接可采用基于局部特征描述的方法:通过提取真实点云集合和伪点云集合中每个点云的邻域几何特征,通过几何特征快速确定二者之间的点对的对应关系,再计算此关系进而获得变换矩阵。其中,点云的几何特征包括了很多种,比较常见的为快速点特征直方图(Fast Point FeatureHistgrams,FPFH)。
作为另一种可实现的方式,将真实点云集合和伪点云集合进行拼接可采用精确配准法:精确配准是利用已知的初始变换矩阵,通过迭代最近点算法(Iterative ClosestPoint,ICP)等计算得到较为精确的解。ICP算法通过计算真实点云集合和伪点云集合中的对应点距离,构造旋转平移矩阵,通过旋转平移矩阵对真实点云集合进行变换,计算变换之后点云集合的均方差。若均方差满足阈值条件,则算法结束。否则继续重复迭代直至误差满足阈值条件或者迭代次数终止。
S702,基于伪点云集合中每个第一点云的坐标信息和真实点云集合中每个第二点云的坐标信息,获取第一点云到真实点云集合的欧式距离。
将激光雷达采集的真实点云集合中的每个点云作为第二点云,根据所有第二点云的坐标信息,可确定出真实点云集合的中心点坐标。将伪点云集合中每个第一点云的坐标信息与所确定的真实点云集合的中心点坐标进行欧氏距离计算,得到每个第一点云到真实点云集合的中心点坐标的欧式距离。
S703,基于第一点云的欧式距离,从候选点云集合中选取点云,以生成目标点云集合。
由于真实点云集合和伪点云集合进行拼接生成候选点云集合中,点云数据较多,会造成计算量较大,为了减小计算量,可以根据每个第一点云到真实点云集合的中心点坐标的欧式距离,对候选点云集合中的点云数据进行一部分去除,将进行一部分点云数据去除后的点云集合作为目标点云集合。可选地,对候选点云集合中的点云数据进行一部分去除可采用降采样方法。
本申请实施例将真实点云集合和伪点云集合进行拼接,增加了目标检测模型的精确性,从候选点云集合中选取点云作为目标点云集合,而非采用所有的点云数据,降低了计算量。
作为一种可能的实现方式,基于第一点云的欧式距离,从候选点云集合中选取点云,以生成目标点云集合,如图8所示,还包括以下步骤:
S801,基于第一点云的欧式距离,生成第一点云的保留概率。
以自动驾驶为例,为了降低计算量,可根据第一点云到真实点云集合的欧式距离,对伪点云集合中的每个第一点云都配置一个保留概率。在对每个第一点云配置保留概率时,考虑到在自动驾驶的前方目标检测中,对检测结果影响比较明显的是场景中远处的物体,为了提升远处物体的检测效果,对距离真实点云集合的欧式距离越大的第一点云配置的保留概率越大,对距离真实点云集合的欧式距离越小的第一点云配置的保留概率越小。比如说,对距离真实点云集合的欧式距离最大的第一点云配置的保留概率可为0.98,对距离真实点云集合的欧式距离最小的第一点云配置的保留概率可为0.22。
S802,获取第二点云预先配置的保留概率。
为了降低计算量,可对激光雷达采集的真实点云集合中的每个第二点云预先配置保留概率。
可选地,由于真实点云集合中的第二点云相较伪点云集合种的第一点云更稀疏,可统一对真实点云集合中的第二点云预先配置接近于1或者等于1的保留概率。比如说,可统一对真实点云集合中的第二点云预先配置0.95的保留概率。
S803,对候选点云集合进行随机降采样,得到目标点云集合,其中,随机降采样使用的概率为保留概率。
由于真实点云集合和伪点云集合进行拼接生成候选点云集合中,点云数据较多,会造成计算量较大,为了减小计算量,可以根据每个第一点云和第二点云的保留概率,对候选点云集合中的点云数据进行一部分去除,将进行一部分点云数据去除后的点云集合作为目标点云集合。
可选地,对真实点云集合和伪点云集合拼接生成的候选点云集合中的点云数据进行一部分去除可采用随机降采样方法,其中,随机降采样使用的概率为保留概率。通过保留概率对候选点云集合进行随机降采样,可以使得能代表目标对象的有效点云保留下来,可以最大程度剔除同一处聚集过多代表同样意义的点云,使得目标点云集合中的点云的近处和远处的点云数据量都适中且能有效代表目标对象。
本申请实施例通过根据每个第一点云和第二点云的保留概率对候选点云集合进行随机降采样,减小了计算量,同时使得用于模型训练的目标点云集合中远近的点云较为均衡,可以更好地满足训练要求。
在上述实施例的基础之上,图9是根据本公开一个实施例的点云数据的生成方法的流程图,如图9所示,基于伪点云集合中每个第一点云的坐标信息和真实点云集合中每个第二点云的坐标信息,获取第一点云到真实点云集合的欧式距离,包括以下步骤:
S901,获取第二点云的坐标信息,获取真实点云集合的中心点坐标信息。
获取真实点云集合中每个第二点云的坐标信息,并根据所有第二点云的坐标信息,确定真实点云集合的中心点坐标信息。
可选地,在获取真实点云集合的中心点坐标时,可将所有第二点云的坐标信息进行平均运算,获得一个平均坐标信息,将此平均坐标信息作为真实点云集合的中心点坐标信息。
可选地,在获取真实点云集合的中心点坐标时,可计算出真实点云集合的质点坐标信息,将此质点坐标信息作为真实点云集合的中心点坐标信息。
S902,基于第一点云的坐标信息和中心点坐标信息,确定欧式距离。
根据上述所确定的真实点云集合的中心点坐标信息,计算伪点云集合中的每个第一点云到该中心点坐标的欧式距离。
本申请实施例中,基于第一点云的坐标信息和中心点坐标信息,确定第一点云到该中心点坐标的欧式距离,为对第一点云进行保留概率配置打下了基础,方便运算并减小了计算量。
图10是根据本公开一个实施例的点云数据的生成方法的流程图,如图10所示,该点云数据的生成方法包括以下步骤:
S1001,基于激光雷达采集目标对象的真实点云集合;
S1002,对目标对象进行图像采集,并基于采集的图像,生成伪点云集合;
关于步骤S1001~S1002,上述实施例已做具体介绍,在此不再进行赘述。
S1003,基于伪点云集合中每个第一点云的坐标信息,获取第一点云与地面方程的地面距离;
S1004,从伪点云集合中剔除地面距离小于设定距离阈值的第一点云。
关于步骤S1003~S1004,上述实施例已做具体介绍,在此不再进行赘述。
S1005,将真实点云集合和伪点云集合进行拼接,生成候选点云集合;
S1006,获取第二点云的坐标信息,获取真实点云集合的中心点坐标信息;
S1007,基于第一点云的坐标信息和中心点坐标信息,确定欧式距离。
S1008,基于第一点云的欧式距离,生成第一点云的保留概率;
S1009,获取第二点云预先配置的保留概率;
S1010,对候选点云集合进行随机降采样,得到目标点云集合,其中,随机降采样使用的概率为保留概率。
关于步骤S1005~S1010,上述实施例已做具体介绍,在此不再进行赘述。
S1011,利用目标点云集合,训练构建的3D目标检测模型,以生成训练好的3D目标检测模型。
本申请实施例提供了一种点云数据的生成装置,通过基于激光雷达采集目标对象的真实点云集合;采集图像采集装置对目标对象进行图像采集,并基于采集的图像,生成伪点云集合;对真实点云集合和伪点云集合进行融合,生成用于模型训练的目标点云集合。本申请能够使得用于模型训练的目标点云集合中远近的点云较为均衡,可以更好地满足训练要求,以便于提供模型的训练精度,有利于远近目标的监测。
图11是根据本公开一个实施例的点云数据的生成装置1100的结构图。如图11所示,点云数据的生成装置1100包括:
真实点云集合获取模块1101,用于基于激光雷达采集目标对象的真实点云集合;
伪点云集合获取模块1102,用于对目标对象进行图像采集,并基于采集的图像,生成伪点云集合;
点云集合融合模块1103,用于对真实点云集合和伪点云集合进行融合,生成用于模型训练的目标点云集合。
需要说明的是,前述对点云数据的生成方法实施例的解释说明也适用于本申请的点云数据的生成装置,此处不再赘述。
本申请实施例提供了一种点云数据的生成装置,通过基于激光雷达采集目标对象的真实点云集合;采集图像采集装置对目标对象进行图像采集,并基于采集的图像,生成伪点云集合;对真实点云集合和伪点云集合进行融合,生成用于模型训练的目标点云集合。本申请能够使得用于模型训练的目标点云集合中远近的点云较为均衡,可以更好地满足训练要求,以便于提供模型的训练精度,有利于远近目标的监测。
进一步地,在本公开实施例一种可能的实现方式中,点云集合融合模块1103,具体用于:基于伪点云集合中每个第一点云的坐标信息,获取第一点云与地面方程的地面距离;从伪点云集合中剔除地面距离小于设定距离阈值的第一点云。
进一步地,在本公开实施例一种可能的实现方式中,点云集合融合模块1103,还用于:将真实点云集合和伪点云集合进行拼接,生成候选点云集合;基于伪点云集合中每个第一点云的坐标信息和真实点云集合中每个第二点云的坐标信息,获取第一点云到真实点云集合的欧式距离;基于第一点云的欧式距离,从候选点云集合中选取点云,以生成目标点云集合。
进一步地,在本公开实施例一种可能的实现方式中,点云集合融合模块1103,还用于:基于第一点云的欧式距离,生成第一点云的保留概率;获取第二点云预先配置的保留概率;对候选点云集合进行随机降采样,得到目标点云集合,其中,随机降采样使用的概率为保留概率。
进一步地,在本公开实施例一种可能的实现方式中,点云集合融合模块1103,还用于:获取第二点云的坐标信息,获取真实点云集合的中心点坐标信息;基于第一点云的坐标信息和中心点坐标信息,确定欧式距离。
进一步地,在本公开实施例一种可能的实现方式中,点云数据的生成装置1100,还包括:模型训练模块1104,用于利用目标点云集合,训练构建的3D目标检测模型,以生成训练好的3D目标检测模型。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图12示出了可以用来实施本公开的实施例的示例电子设备1200的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图12所示,设备1200包括计算单元1201,其可以根据存储在只读存储器(ROM)1202中的计算机程序或者从存储单元1208加载到随机访问存储器(RAM)1203中的计算机程序,来执行各种适当的动作和处理。在RAM 1203中,还可存储设备1200操作所需的各种程序和数据。计算单元1201、ROM 1202以及RAM 1203通过总线1204彼此相连。输入/输出(I/O)接口1205也连接至总线1204。
设备1200中的多个部件连接至I/O接口1205,包括:输入单元1206,例如键盘、鼠标等;输出单元1207,例如各种类型的显示器、扬声器等;存储单元1208,例如磁盘、光盘等;以及通信单元1209,例如网卡、调制解调器、无线通信收发机等。通信单元1209允许设备1200通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1201可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1201的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1201执行上文所描述的各个方法和处理,例如点云数据的生成方法。例如,在一些实施例中,点云数据的生成方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1208。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1202和/或通信单元1209而被载入和/或安装到设备1200上。当计算机程序加载到RAM 1203并由计算单元1201执行时,可以执行上文描述的点云数据的生成方法的一个或多个步骤。备选地,在其他实施例中,计算单元1201可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行点云数据的生成方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、互联网和区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务端可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务(“Virtual Private Server”,或简称“VPS”)中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

Claims (12)

1.一种点云数据的生成方法,包括:
基于激光雷达采集目标对象的真实点云集合;
对所述目标对象进行图像采集,并基于采集的图像,生成伪点云集合;
将所述真实点云集合和所述伪点云集合进行拼接,生成候选点云集合;
基于所述伪点云集合中每个第一点云的坐标信息和所述真实点云集合中每个第二点云的坐标信息,获取所述第一点云到所述真实点云集合的欧式距离;
基于所述第一点云的欧式距离,从所述候选点云集合中选取点云,以生成目标点云集合。
2.根据权利要求1所述的方法,其中,所述将所述真实点云集合和所述伪点云集合进行拼接,生成候选点云集合之前,还包括:
基于所述伪点云集合中每个第一点云的坐标信息,获取所述第一点云与地面方程的地面距离;
从所述伪点云集合中剔除所述地面距离小于设定距离阈值的第一点云。
3.根据权利要求2所述的方法,其中,所述基于所述第一点云的欧式距离,从所述候选点云集合中选取点云,以生成目标点云集合,包括:
基于所述第一点云的欧式距离,生成所述第一点云的保留概率;
获取所述第二点云预先配置的保留概率;
对所述候选点云集合进行随机降采样,得到所述目标点云集合,其中,所述随机降采样使用的概率为所述保留概率。
4.根据权利要求3所述的方法,其中,所述基于所述伪点云集合中每个第一点云的坐标信息和所述真实点云集合中每个第二点云的坐标信息,获取所述第一点云到所述真实点云集合的欧式距离,包括:
获取所述第二点云的坐标信息,获取所述真实点云集合的中心点坐标信息;
基于所述第一点云的坐标信息和所述中心点坐标信息,确定所述欧式距离。
5.根据权利要求1所述的方法,其中,所述生成目标点云集合之后,还包括:
利用所述目标点云集合,训练构建的3D目标检测模型,以生成训练好的3D目标检测模型。
6.一种点云数据的生成装置,包括:
真实点云集合获取模块,用于基于激光雷达采集目标对象的真实点云集合;
伪点云集合获取模块,用于对所述目标对象进行图像采集,并基于采集的图像,生成伪点云集合;
点云集合融合模块,用于将所述真实点云集合和所述伪点云集合进行拼接,生成候选点云集合;基于所述伪点云集合中每个第一点云的坐标信息和所述真实点云集合中每个第二点云的坐标信息,获取所述第一点云到所述真实点云集合的欧式距离;基于所述第一点云的欧式距离,从所述候选点云集合中选取点云,以生成目标点云集合。
7.根据权利要求6所述的装置,其中,所述点云集合融合模块,用于:
基于所述伪点云集合中每个第一点云的坐标信息,获取所述第一点云与地面方程的地面距离;
从所述伪点云集合中剔除所述地面距离小于设定距离阈值的第一点云。
8.根据权利要求7所述的装置,其中,所述点云集合融合模块,还用于:
基于所述第一点云的欧式距离,生成所述第一点云的保留概率;
获取所述第二点云预先配置的保留概率;
对所述候选点云集合进行随机降采样,得到所述目标点云集合,其中,所述随机降采样使用的概率为所述保留概率。
9.根据权利要求8所述的装置,其中,所述点云集合融合模块,还用于:
获取所述第二点云的坐标信息,获取所述真实点云集合的中心点坐标信息;
基于所述第一点云的坐标信息和所述中心点坐标信息,确定所述欧式距离。
10.根据权利要求6所述的装置,其中,所述装置还包括:
模型训练模块,用于利用所述目标点云集合,训练构建的3D目标检测模型,以生成训练好的3D目标检测模型。
11.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-5中任一项所述的方法。
CN202110556351.0A 2021-05-21 2021-05-21 点云数据的生成方法、装置、电子设备及存储介质 Active CN113362444B (zh)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN202110556351.0A CN113362444B (zh) 2021-05-21 2021-05-21 点云数据的生成方法、装置、电子设备及存储介质
PCT/CN2022/088312 WO2022242416A1 (zh) 2021-05-21 2022-04-21 点云数据的生成方法和装置
KR1020237008339A KR20230042383A (ko) 2021-05-21 2022-04-21 포인트 클라우드 데이터 생성 방법 및 장치
JP2022561443A JP2023529527A (ja) 2021-05-21 2022-04-21 点群データの生成方法及び装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110556351.0A CN113362444B (zh) 2021-05-21 2021-05-21 点云数据的生成方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN113362444A CN113362444A (zh) 2021-09-07
CN113362444B true CN113362444B (zh) 2023-06-16

Family

ID=77526597

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110556351.0A Active CN113362444B (zh) 2021-05-21 2021-05-21 点云数据的生成方法、装置、电子设备及存储介质

Country Status (4)

Country Link
JP (1) JP2023529527A (zh)
KR (1) KR20230042383A (zh)
CN (1) CN113362444B (zh)
WO (1) WO2022242416A1 (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113362444B (zh) * 2021-05-21 2023-06-16 北京百度网讯科技有限公司 点云数据的生成方法、装置、电子设备及存储介质
CN115235482A (zh) * 2021-09-28 2022-10-25 上海仙途智能科技有限公司 地图更新方法、装置、计算机设备及介质
CN116168366B (zh) * 2023-01-19 2023-12-05 北京百度网讯科技有限公司 点云数据生成方法、模型训练方法、目标检测方法和装置
CN115830262B (zh) * 2023-02-14 2023-05-26 济南市勘察测绘研究院 一种基于对象分割的实景三维模型建立方法及装置
KR102573935B1 (ko) * 2023-04-27 2023-09-04 주식회사 루트릭스 수목 데이터 처리 방법 및 장치
CN116222577B (zh) * 2023-04-27 2023-07-21 苏州浪潮智能科技有限公司 闭环检测方法、训练方法、系统、电子设备及存储介质
CN116758006B (zh) * 2023-05-18 2024-02-06 广州广检建设工程检测中心有限公司 脚手架质量检测方法及装置
CN116577350A (zh) * 2023-07-13 2023-08-11 北京航空航天大学杭州创新研究院 物料表面毛球点云采集装置和物料表面毛球数据采集方法
CN117058464B (zh) * 2023-08-31 2024-06-11 强联智创(北京)科技有限公司 对生成健康血管表面的生成模型进行训练的方法及设备
CN117115225B (zh) * 2023-09-01 2024-04-30 安徽羽亿信息科技有限公司 一种自然资源智慧综合信息化管理平台

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111161202A (zh) * 2019-12-30 2020-05-15 上海眼控科技股份有限公司 车辆行为信息获取方法、装置、计算机设备和存储介质
CN111292369A (zh) * 2020-03-10 2020-06-16 中车青岛四方车辆研究所有限公司 激光雷达的伪点云数据生成方法
CN111739005A (zh) * 2020-06-22 2020-10-02 北京百度网讯科技有限公司 图像检测方法、装置、电子设备及存储介质
CN111784659A (zh) * 2020-06-29 2020-10-16 北京百度网讯科技有限公司 图像检测的方法、装置、电子设备以及存储介质
CN111915746A (zh) * 2020-07-16 2020-11-10 北京理工大学 一种基于弱标注的三维点云目标检测方法及标注工具
CN112419494A (zh) * 2020-10-09 2021-02-26 腾讯科技(深圳)有限公司 用于自动驾驶的障碍物检测、标记方法、设备及存储介质

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180136332A1 (en) * 2016-11-15 2018-05-17 Wheego Electric Cars, Inc. Method and system to annotate objects and determine distances to objects in an image
CN108230379B (zh) * 2017-12-29 2020-12-04 百度在线网络技术(北京)有限公司 用于融合点云数据的方法和装置
US11378718B2 (en) * 2018-10-02 2022-07-05 Robert S. Phelan Unmanned aerial vehicle system and methods
US11494930B2 (en) * 2019-06-17 2022-11-08 SafeAI, Inc. Techniques for volumetric estimation
US11602974B2 (en) * 2019-08-29 2023-03-14 Here Global B.V. System and method for generating map data associated with road objects
CN111340797B (zh) * 2020-03-10 2023-04-28 山东大学 一种激光雷达与双目相机数据融合检测方法及系统
CN111652855B (zh) * 2020-05-19 2022-05-06 西安交通大学 一种基于存活概率的点云精简方法
CN111649752B (zh) * 2020-05-29 2021-09-21 北京四维图新科技股份有限公司 拥堵路段的地图数据处理方法、装置以及设备
CN112001958B (zh) * 2020-10-28 2021-02-02 浙江浙能技术研究院有限公司 基于有监督单目深度估计的虚拟点云三维目标检测方法
CN113362444B (zh) * 2021-05-21 2023-06-16 北京百度网讯科技有限公司 点云数据的生成方法、装置、电子设备及存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111161202A (zh) * 2019-12-30 2020-05-15 上海眼控科技股份有限公司 车辆行为信息获取方法、装置、计算机设备和存储介质
CN111292369A (zh) * 2020-03-10 2020-06-16 中车青岛四方车辆研究所有限公司 激光雷达的伪点云数据生成方法
CN111739005A (zh) * 2020-06-22 2020-10-02 北京百度网讯科技有限公司 图像检测方法、装置、电子设备及存储介质
CN111784659A (zh) * 2020-06-29 2020-10-16 北京百度网讯科技有限公司 图像检测的方法、装置、电子设备以及存储介质
CN111915746A (zh) * 2020-07-16 2020-11-10 北京理工大学 一种基于弱标注的三维点云目标检测方法及标注工具
CN112419494A (zh) * 2020-10-09 2021-02-26 腾讯科技(深圳)有限公司 用于自动驾驶的障碍物检测、标记方法、设备及存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于激光雷达点云与图像融合的车辆目标检测方法;胡远志;刘俊生;何佳;肖航;宋佳;;汽车安全与节能学报(第04期);全文 *
基于点云中心的激光雷达与相机联合标定方法研究;康国华;张琪;张晗;徐伟证;张文豪;;仪器仪表学报(第12期);全文 *

Also Published As

Publication number Publication date
WO2022242416A1 (zh) 2022-11-24
CN113362444A (zh) 2021-09-07
KR20230042383A (ko) 2023-03-28
JP2023529527A (ja) 2023-07-11

Similar Documents

Publication Publication Date Title
CN113362444B (zh) 点云数据的生成方法、装置、电子设备及存储介质
JP7106665B2 (ja) 単眼深度推定方法およびその装置、機器ならびに記憶媒体
JP6745328B2 (ja) 点群データを復旧するための方法及び装置
JP2015079505A (ja) 視差深度画像のノイズ識別方法及びノイズ識別装置
CN110632608B (zh) 一种基于激光点云的目标检测方法和装置
JP2020518918A (ja) 情報処理方法、装置、クラウド処理デバイス及びコンピュータプログラム製品
CN115330940B (zh) 一种三维重建方法、装置、设备和介质
CN111721281B (zh) 位置识别方法、装置和电子设备
CN115861601B (zh) 一种多传感器融合感知方法及装置
CN113129352A (zh) 一种稀疏光场重建方法及装置
US11741671B2 (en) Three-dimensional scene recreation using depth fusion
CN116188893A (zh) 基于bev的图像检测模型训练及目标检测方法和装置
CN116246119A (zh) 3d目标检测方法、电子设备及存储介质
CN112258568B (zh) 一种高精度地图要素的提取方法及装置
CN113902932A (zh) 特征提取方法、视觉定位方法及装置、介质和电子设备
CN114419564B (zh) 车辆位姿检测方法、装置、设备、介质及自动驾驶车辆
CN115391310A (zh) 数据迁移方法、装置、设备以及存储介质
CN112991451A (zh) 图像识别方法、相关装置及计算机程序产品
CN113781653A (zh) 对象模型生成方法、装置、电子设备及存储介质
CN111784659A (zh) 图像检测的方法、装置、电子设备以及存储介质
CN114495042B (zh) 目标检测方法和装置
CN115049822B (zh) 三维成像方法及装置
CN115829898B (zh) 数据处理方法、装置、电子设备、介质以及自动驾驶车辆
CN115049895B (zh) 一种图像属性识别方法、属性识别模型训练方法及装置
CN116129069A (zh) 平面区域面积的计算方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant