CN112036462A - 一种模型训练以及目标检测的方法及装置 - Google Patents
一种模型训练以及目标检测的方法及装置 Download PDFInfo
- Publication number
- CN112036462A CN112036462A CN202010863705.1A CN202010863705A CN112036462A CN 112036462 A CN112036462 A CN 112036462A CN 202010863705 A CN202010863705 A CN 202010863705A CN 112036462 A CN112036462 A CN 112036462A
- Authority
- CN
- China
- Prior art keywords
- prediction
- boundary
- model
- target
- box
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Abstract
本说明书公开了一种模型训练以及目标检测的方法及装置,通过获取包含标注信息的点云,作为训练样本,然后,将训练样本输入待训练的第一模型,得到每个第一预测边界框中是否包含预设目标的预测结果以及若干个第一预测边界框的信,之后,在各第一预测边界框中,选择若干个第一预测边界框,分别将位于各第一预测边界框中的点云输入待训练的第二模型,得到目标检测结果,最后,根据目标检测结果以及标注信息,对待训练的第一模型以及待训练的第二模型进行训练。通过上述方法使得通过本说明书中的第一模型以及第二模型得到的目标检测结果,更加的准确。
Description
技术领域
本说明书涉及目标检测技术领域,尤其涉及一种模型训练以及目标检测的方法及装置。
背景技术
目前,在目标检测领域中,常用的是对图像数据或者点云数据进行目标检测。
通常,在对点云数据进行目标检测时,一般是由激光雷达采集点云数据,然后,将点云数据输入检测模型,检测模型可输出点云数据的目标检测结果,其中,目标检测结果一般包括目标的边界框的信息以及目标类型信息等。
然而,使用上述方法时,经常出现目标的边界框的信息不准确或者目标类型信息不准确等问题。
发明内容
本说明书实施例提供一种模型训练以及目标检测的方法及装置,以部分解决现有技术存在的上述问题。
本说明书实施例采用下述技术方案:
本说明书提供的一种模型训练的方法,所述方法包括:
获取包含标注信息的点云,作为训练样本,所述标注信息包括预设目标的实际边界框的信息以及实际目标类型;
将所述训练样本输入待训练的第一模型,得到所述待训练的第一模型输出的每个第一预测边界框中是否包含预设目标的预测结果以及若干个第一预测边界框的信息;
根据所述预测结果,在各第一预测边界框中,选择若干个第一预测边界框;
根据所述训练样本中各点云点的信息,针对选择出的每个第一预测边界框,将位于该第一预测边界框中的点云输入待训练的第二模型,得到所述待训练的第二模型输出的目标检测结果,所述目标检测结果中包含若干个第二预测边界框的信息以及每个第二预测边界框中包含的预设目标的预测目标类型;
根据所述目标检测结果以及所述标注信息,对所述待训练的第一模型以及所述待训练的第二模型进行训练。
可选地,边界框的信息包括边界框尺寸;
根据所述预测结果,在各第一预测边界框中,选择若干个第一预测边界框,具体包括:
针对各第一预测边界框,若根据所述预测结果,确定该第一预测边界框中未包含预设目标,则根据预设的边界框尺寸补偿值,对该第一预测边界框的边界框尺寸进行补偿,并将补偿后得到的边界框重新作为第一预测边界框;
在各第一预测边界框中,选择若干个第一预测边界框。
可选地,在各第一预测边界框中,选择若干个第一预测边界框,具体包括:
针对各第一预测边界框,根据所述训练样本中各点云点的信息以及该第一预测边界框的信息,确定该第一预测边界框中包含的点云点的数量;
根据各第一预测边界框中包含的点云点的数量以及预设的数量阈值,在各第一预测边界框中,选择若干个第一预测边界框。
可选地,边界框的信息包括边界框位置;
在各第一预测边界框中,选择若干个第一预测边界框,具体包括:
针对各第一预测边界框,根据所述实际边界框的边界框位置与该第一预测边界框的边界框位置,确定所述实际边界框与该第一预测边界框的交并比(Intersection-over-Union,IOU),作为该第一预测边界框对应的IOU;
根据各第一预测边界框对应的IOU以及预设的IOU阈值,在各第一预测边界框中,选择若干个第一预测边界框。
可选地,根据所述目标检测结果以及所述标注信息,对所述待训练的第一模型以及所述待训练的第二模型进行训练,具体包括:
根据各第二预测边界框的信息以及每个预测目标类型,对所述目标检测结果进行处理;
根据所述标注信息以及处理后的目标检测结果,对所述待训练的第一模型以及所述待训练的第二模型进行训练。
可选地,根据各第二预测边界框的信息以及每个预测目标类型,对所述目标检测结果进行处理,具体包括:
获取预设的目标类型与点云点数量区间的第一对应关系;
针对各第二预测边界框,根据所述训练样本中各点云点的信息以及该第二预测边界框的信息,确定该第二预测边界框中包含的点云点的数量;
根据所述第一对应关系以及各第二预测边界框中包含的点云点的数量,对所述目标检测结果进行处理。
可选地,边界框的信息包括边界框尺寸;
根据各第二预测边界框的信息以及每个预测目标类型,对所述目标检测结果进行处理,具体包括:
获取预设的目标类型与边界框尺寸区间的第二对应关系;
根据所述第二对应关系以及各第二预测边界框的边界框尺寸,对所述目标检测结果进行处理。
可选地,对所述目标检测结果进行处理,具体包括:
确定所述待训练的第二模型输出的每个第二预测边界框中包含的预设目标的预测目标类型的置信度;
针对各第二预测边界框,若该第二预测边界框中包含的预设目标的预测目标类型的置信度小于预设的置信度阈值,则根据所述第一对应关系以及该第二预测边界框中包含的点云点的数量,或者,根据所述第二对应关系以及该第二预测边界框的边界框尺寸,重新确定该第二预测边界框中包含的预设目标的预测目标类型;
若该第二预测边界框中包含的预设目标的预测目标类型的置信度不小于所述置信度阈值,当该第二预测边界框中包含的点云点的数量对应的目标类型或者该第二预测边界框的边界框尺寸对应的目标类型,与所述待训练的第二模型输出的该第二预测边界框中包含所述预设目标的预测目标类型不同时,删除该第二预测边界框以及该第二预测边界框中包含的预设目标的预测目标类型。
本说明书提供一种目标检测的方法,所述方法包括:
获取待检测的点云;
将所述待检测的点云输入预先训练的第一模型,得到所述第一模型输出的每个第一边界框中是否包含目标的识别结果以及若干个第一边界框的信息;
根据所述识别结果,在各第一边界框中,选择若干个第一边界框;
根据所述待检测的点云中各点云点的信息,针对选择出的每个第一边界框,将位于该第一边界框中的点云输入预先训练的第二模型,得到所述第二模型输出的所述待检测的点云的目标检测结果,所述待检测的点云的目标检测结果中包含若干个第二边界框的信息以及每个第二边界框中包含的目标的目标类型。
本说明书提供一种模型训练的装置,所述装置包括:
获取样本模块,用于获取包含标注信息的点云,作为训练样本,所述标注信息包括预设目标的实际边界框的信息以及实际目标类型;
第一预测模块,用于将所述训练样本输入待训练的第一模型,得到所述待训练的第一模型输出的每个第一预测边界框中是否包含预设目标的预测结果以及若干个第一预测边界框的信息;
第一选择模块,用于根据所述预测结果,在各第一预测边界框中,选择若干个第一预测边界框;
第二预测模块,用于根据所述训练样本中各点云点的信息,针对选择出的每个第一预测边界框,将位于该第一预测边界框中的点云输入待训练的第二模型,得到所述待训练的第二模型输出的目标检测结果,所述目标检测结果中包含若干个第二预测边界框的信息以及每个第二预测边界框中包含的预设目标的预测目标类型;
训练模块,用于根据所述目标检测结果以及所述标注信息,对所述待训练的第一模型以及所述待训练的第二模型进行训练。
本说明书提供一种模型训练的装置,所述装置包括:
获取点云模块,用于获取待检测的点云;
第一输入模块,用于将所述待检测的点云输入预先训练的第一模型,得到所述第一模型输出的每个第一边界框中是否包含目标的识别结果以及若干个第一边界框的信息;
第二选择模块,用于根据所述识别结果,在各第一边界框中,选择若干个第一边界框;
第二输入模块,用于根据所述待检测的点云中各点云点的信息,针对选择出的每个第一边界框,将位于该第一边界框中的点云输入预先训练的第二模型,得到所述第二模型输出的所述待检测的点云的目标检测结果,所述待检测的点云的目标检测结果中包含若干个第二边界框的信息以及每个第二边界框中包含的目标的目标类型。
本说明书提供的一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述模型训练以及目标检测的方法。
本说明书提供的一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述模型训练以及目标检测的方法。
本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果:
本说明可获取包含标注信息的点云,作为训练样本,标注信息包括预设目标的实际边界框的信息以及实际目标类型,然后,将训练样本输入待训练的第一模型,得到待训练的第一模型输出的每个第一预测边界框中是否包含预设目标的预测结果以及若干个第一预测边界框的信,之后,在各第一预测边界框中,选择若干个第一预测边界框,根据训练样本中各点云点的信息,针对选择出的每个第一预测边界框,将位于该第一预测边界框中的点云输入待训练的第二模型,得到待训练的第二模型输出的目标检测结果,目标检测结果中包含若干个第二预测边界框的信息以及每个第二预测边界框中包含的预设目标的预测目标类型,最后,根据目标检测结果以及标注信息,对待训练的第一模型以及待训练的第二模型进行训练。上述方法中,使得到的第一模型尽可能地输出包含目标的边界框,使得到的第二模型在第一模型的基础上,尽可能地输出准确的边界框以及准确的目标类型,从而使得通过本说明书中的第一模型以及第二模型得到的目标检测结果,更加的准确。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解,构成本说明书的一部分,本说明书的示意性实施例及其说明用于解释本说明书,并不构成对本说明书的不当限定。在附图中:
图1为本说明书实施例提供的一种模型训练的方法流程图;
图2为本说明书实施例提供的一种目标检测的方法流程图;
图3为本说明书实施例提供的一种模型训练的结构示意图;
图4为本说明书实施例提供的一种目标检测的结构示意图;
图5为本说明书实施例提供的电子设备示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本说明书保护的范围。
以下结合附图,详细说明本说明书各实施例提供的技术方案。
图1为本说明书实施例提供的一种模型训练的方法流程图,具体可包括以下步骤:
S100:获取包含标注信息的点云,作为训练样本,所述标注信息包括预设目标的实际边界框的信息以及实际目标类型。
在本说明书中,通过激光雷达等传感器可采集点云数据。其中,激光雷达可以为机械激光雷达,也可以为固态激光雷达,激光雷达可安装在车辆上或者道路交叉口处等需要进行目标检测的载体上。故,本说明书提供的模型训练以及目标检测的方法可应用于多种场景,例如,无人驾驶场景、道路管控系统等。
在得到激光雷达采集的点云数据后,可使用现有的技术方案对点云数据进行目标检测,并将目标检测的结果进行人工处理以使目标检测的结果更加准确,从而可将人工处理后的点云数据作为训练样本,可将人工处理后的目标检测的结果作为标注信息,其中,点云数据中的目标可作为预设目标,标注信息可包括预设目标的实际边界框的信息以及实际目标类型等。
需要说明的是,本说明书得到的训练样本为包含标注信息的点云,并且,标注信息可作为训练样本中目标的实际信息(也即,正确的目标检测结果)。在本说明书中,可直接获取训练样本,而关于如何对点云进行标注得到训练样本的过程,不作出限制。
S102:将所述训练样本输入待训练的第一模型,得到所述待训练的第一模型输出的每个第一预测边界框中是否包含预设目标的预测结果以及若干个第一预测边界框的信息。
在得到训练样本之后,可通过待训练的第一模型,得到每个第一预测边界框中是否包含预设目标的预测结果以及若干个第一预测边界框的信息。
具体的,将训练样本输入待训练的第一模型,可通过第一模型对训练样本进行点云特征提取,以使待训练的第一模型根据提取的点云特征输出每个第一预测边界框中是否包含预设目标的预测结果以及若干个第一预测边界框的信息。
待训练的第一模型输出的结果包含的第一预测边界框并不是最终的预测边界框,也即,待训练的第一模型输出的结果并不是最终的目标检测结果。这是由于现有的目标检测的方法中,通常将点云输入一个检测模型中,直接得到点云的目标检测结果,从而使得现有的方法得到的目标检测结果可能存在某些预测边界框中不包含目标的问题。因此,为了解决现有的目标检测结果不准确的问题,本说明书中待训练的第一模型输出的是每个第一预测边界框中是否包含预设目标的预测结果以及若干个第一预测边界框。
因此,由上述内容可知,待训练的第一模型的训练目标至少包括得到每个预测边界框中包含预设目标。然后,在得到待训练的第一模型输出的结果之后,在各第一预测边界框中选择若干个第一预测边界框,从而将选择的第一预测边界框中的点云输入待训练的第二模型,对待训练的第二模型输出的结果进行处理,以对待训练的第一模型以及待训练的第二模型进行训练。
在本说明书中,需要通过第一模型以及第二模型得到点云的目标检测结果,其中,第一模型与第二模型均为机器学习模型,例如,VoxelNet模型、PointNet模型、PointNet++模型等。在针对点云进行目标检测的模型中,基于体素(volumetric)的机器学习模型可包括VoxelNet模型等,特点为基于体素提取点云特征,从而得到点云特征的速度比较快,从而模型处理速度比较快,基于点的机器学习模型可包括PointNet模型、PointNet++模型等,特点为基于点云点提取点云特征,从而模型确定的结果比较准确。
因此,为了确保得到的目标检测结果的速度更快,并且目标检测结果的准确度更高,第一模型可为基于体素的机器学习模型,以使第一模型更快地得到包含目标的第一预测边界框,第二模型可为基于点的机器学习模型,以使第二模型更准确地得到目标检测结果。
S104:根据所述预测结果,在各第一预测边界框中,选择若干个第一预测边界框。
在得到待训练的第一模型输出的预测结果以及若干个第一预测边界框之后,可在各第一预测边界框中,选择若干个第一预测边界框。
具体的,针对各第一预测边界框,预测结果可以为该第一预测边界框中包括预设目标,也可以为该第一预测边界框中不包括预设目标。其中,边界框的信息可包括边界框位置以及边界框尺寸等信息。
若根据预测结果,确定该第一预测边界框中未包含预设目标,则根据预设的边界框尺寸补偿值,对该第一预测边界框的边界框尺寸进行补偿,并将补偿后得到的边界框重新作为第一预测边界框。
具体的,对该第一预测边界框的边界框尺寸进行补偿可包括确定所述边界框尺寸补偿值与该第一预测边界框的边界框尺寸的乘积,或者,确定所述边界框尺寸补偿值与该第一预测边界框的边界框尺寸的和值。其中,补偿后得到的边界框的边界框尺寸与所述边界框尺寸补偿值正相关、补偿后得到的边界框的边界框尺寸与所述待训练的第一模型输出的该第一预测边界框的边界框尺寸正相关。也即,当对该第一预测边界框进行补偿时,若确定待训练的第一模型输出的该第一预测边界框的边界框尺寸以及边界框尺寸阈值,便可根据上述两种正相关关系,确定补偿后得到的边界框的尺寸。并且,可将补偿后得到的边界框重新作为第一预测边界框。也就是说,当预测结果为待训练的第一模型输出的第一预测边界框中未包含预设目标,则对待训练的第一模型输出的第一预测边界框进行补偿,并将补偿后得到的边界框重新作为第一预测边界框。
当然,还可设置标准预测边界框尺寸,当对该第一预测边界框进行补偿时,可直接将该第一预测边界框的边界框尺寸补偿为标准预测边界框尺寸,并将补偿后的边界框重新作为第一预测边界框。
在各第一预测边界框中,选择若干个第一预测边界框时,可在待训练的第一模型输出的预测结果为包含预设目标的第一预测边界框中选择若干个第一预测边界框,即,不在待训练的第一模型输出的不包含预设目标的第一预测边界框中选择第一预测边界框,也可在待训练的第一模型输出的预测结果为包含预设目标的第一预测边界框中以及对预测结果为不包含预设目标的第一预测边界框补偿后的第一预测边界框中选择若干个第一预测边界框。
针对各第一预测边界框,根据训练样本中各点云点的信息以及该第一预测边界框的信息,确定该第一预测边界框中包含的点云点的数量,根据各第一预测边界框中包含的点云点的数量以及预设的数量阈值,在各第一预测边界框中,选择若干个第一预测边界框。
具体的,点云点的信息可包括空间位置信息,因此,针对各第一预测边界框,可根据训练样本中各点云点的空间位置信息以及该第一预测边界框的边界框位置,确定位于该第一预测边界框中的各点云点,统计位于该第一预测边界框中的点云点的数量(也即,该第一预测边界框中包含的点云点的数量)。若该第一预测边界框中包含的点云点的数量大于数量阈值,则选择该第一预测边界框,若该第一预测边界框中包含的点云点的数量不大于数量阈值,则判断该第一预测边界框是否为待训练的第一模型输出的第一预测边界框,若判断结果为是,则对该第一预测边界框进行边界框尺寸补偿,确定补偿后的边界框中包含的点云点的数量,若补偿后的边界框中包含的点云点的数量大于数量阈值,选择补偿后的第一预测边界框,若补偿后的边界框中包含的点云点的数量不大于数量阈值或者判断结果为否,则根据该第一预测边界框对应的交并比(Intersection-over-Union,IOU)与IOU阈值,判断是否选择该第一预测边界框,或者确定不选择该第一预测边界框或者补偿后的边界框。其中,对待训练的第一模型输出的包含预设目标的该第一预测边界框进行边界框尺寸补偿的过程可参考上述对待训练的第一模型输出的不包含预设目标的第一预测边界框进行边界框尺寸补偿的内容。
或者,针对各第一预测边界框,根据实际边界框的边界框位置与该第一预测边界框的边界框位置,确定实际边界框与该第一预测边界框的交并比IOU,作为该第一预测边界框对应的IOU,根据各第一预测边界框对应的IOU以及预设的IOU阈值,在各第一预测边界框中,选择若干个第一预测边界框。
具体的,针对各第一预测边界框,判断实际边界框与该第一预测边界框对应的IOU是否大于IOU阈值,则若判断结果为大于,则选择该第一预测边界框,若判断结果为不大于,则不选择该第一预测边界框。
由上述内容可知,在各第一预测边界中选择第一预测边界框的条件包括两个:一个是第一预测边界框包含的点云点的数量大于数量阈值,另一个是第一预测边界框对应的IOU大于IOU阈值。在本说明书提供的一个实施例中,选择出的第一预测边界框满足上述两个条件中的至少一个即可。在本说明书提供的另一个实施例中,选择出的第一预测边界框需要同时满足上述两个条件。
S106:根据所述训练样本中各点云点的信息,针对选择出的每个第一预测边界框,将位于该第一预测边界框中的点云输入待训练的第二模型,得到所述待训练的第二模型输出的目标检测结果,所述目标检测结果中包含若干个第二预测边界框的信息以及每个第二预测边界框中包含的预设目标的预测目标类型。
S108:根据所述目标检测结果以及所述标注信息,对所述待训练的第一模型以及所述待训练的第二模型进行训练。
在选择出若干个第一预测边界框之后,可针对选择出的每个第一预测边界框,根据训练样本中各点云点的空间位置信息,确定位于该第一预测边界框中的点云点,将位于该第一预测边界框中的点云输入待训练的第二模型,通过待训练的第二模型对位于该第一预测边界框中的点云进行点云特征提取,以使待训练的第二模型根据提取的点云特征输出若干个第二预测边界框的信息以及每个第二预测边界框中包含的预测目标的预测目标类型。
在得到待训练的第二模型输出的目标检测结果后,可根据各第二预测边界框的信息以及每个预测目标类型,对目标检测结果进行处理。
在本说明书中,可预先确定目标类型与点云点数量区间的第一对应关系、以及目标类型与目标类型与边界框尺寸区间的第二对应关系。
其中,目标类型可包括行人类型、车辆类型、其他类型等,各目标类型还可包括若干个子类型,例如,车辆类型可包括大型车辆子类型、小型车辆子类型等。由于目标类型可依据实际情况设置,因此,本说明书中并不对目标类型所包含的种类作出限制。
不同的目标类型在实际中所占用的空间大小不同,例如,大型车辆子类型所占用的空间大于小型车辆子类型所占用的空间。从而,在点云数据中,不同的目标类型在点云数据空间中所占用的空间大小也不同,因此,可根据目标类型在实际中所占用的空间的大小,设置目标类型对应的边界框尺寸区间,以及设置目标类型对应的点云点数量区间。
因此,在对目标检测的结果进行处理时,可获取预设的目标类型与点云点数量区间的第一对应关系,针对各第二预测边界框,根据训练样本中各点云点的信息以及该第二预测边界框的信息,确定该第二预测边界框中包含的点云点的数量,根据第一对应关系以及各第二预测边界框中包含的点云点的数量,对目标检测结果进行处理。
具体的,针对各第二预测边界框,若该第二预测边界框中包含的点云点的数量不属于任一目标类型对应的点云点数量区间,则删除该第二预测边界框以及该第二预测边界框中包含预设目标的预测目标类型。
也即,可根据该第二预测边界框中包含的点云点的数量以及各点云点数量区间,确定该第二预测边界框中包含的点云点的数量所在的点云点数量区间作为指定点云点数量区间,并将指定点云点数量区间对应的目标类型作为第二预测边界框中包含的预设目标的预测目标类型。当该第二预测边界框中包含的点云点的数量不属于任一点云点数量区间时,则说明该第二预测边界框中可能不包含预设目标,因此,可将该第二预测边界框删除,同时,可将该第二预测边界框中包含预设目标的预测目标类型删除。
另外,还可获取预设的目标类型与边界框尺寸区间的第二对应关系,根据所述第二对应关系以及各第二预测边界框的边界框尺寸,对所述目标检测结果进行处理。
具体的,针对各第二预测边界框,若该第二预测边界框的边界框尺寸不属于任一目标类型对应的边界框尺寸区间,则删除该第二预测边界框以及该第二预测边界框中包含所述预设目标的预测目标类型。
参考上述关于根据第一对应关系对目标检测结果的处理的描述,可根据该第二预测边界框的边界框尺寸以及各边界框尺寸区间,确定该第二预测边界框的边界框尺寸所在的边界框尺寸区间作为指定边界框尺寸区间,并将指定边界框尺寸区间对应的目标类型作为第二预测边界框中包含的预设目标的预测目标类型。当该第二预测边界框的边界框尺寸不属于任一边界框尺寸区间时,则说明该第二预测边界框中可能不包含预设目标,因此,可将该第二预测边界框删除,同时,可将该第二预测边界框中包含预设目标的预测目标类型删除。
在本说明书中,可单独基于第一对应关系对目标检测结果进行处理,也可单独基于第二对应关系对目标检测结果进行处理,另外,还可同时基于第一对应关系以及第二对应关系对目标检测结果处理。
另外,在本说明书中,待训练的第二模型的输出结果中还包括每个第二预测边界框中包含的预设目标的预测目标类型的置信度,作为预测目标类型的置信度,因此,还可根据各预测目标类型的置信度,对目标检测结果进行处理。
具体的,确定待训练的第二模型输出的每个第二预测边界框中包含的预设目标的预测目标类型的置信度,针对各第二预测边界框,若该第二预测边界框中包含的预设目标的预测目标类型的置信度小于预设的置信度阈值,则根据第一对应关系以及该第二预测边界框中包含的点云点的数量,或者,根据第二对应关系以及该第二预测边界框的边界框尺寸,重新确定该第二预测边界框中包含的预设目标的预测目标类型,若该第二预测边界框中包含的预设目标的预测目标类型的置信度不小于置信度阈值,当该第二预测边界框中包含的点云点的数量对应的目标类型或者该第二预测边界框的边界框尺寸对应的目标类型,与待训练的第二模型输出的该第二预测边界框中包含预设目标的预测目标类型不同时,删除该第二预测边界框以及该第二预测边界框中包含的预设目标的预测目标类型。
也就是说,当预测目标类型的置信度较高时,确定预测目标类型对应的点云点数量区间以及边界框尺寸区间,判断第二预测边界框中包含的点云点数量是否位于点云点数量区间,或者,判断第二预测边界框的边界框尺寸是否位于边界框尺寸区间,当判断结果为不位于时,说明第二预测边界框可能不准确,可删除该第二预测边界框。而当预测目标类型的置信度较低时,确定第二预测边界框中包含的点云点数量所在的点云点数量区间以及边界框尺寸所在的边界框尺寸区间,将点云点数量所在的点云点数量区间对应的目标类型作为第二预测边界框包含的预设目标的预测目标类型,或者将边界框尺寸所在的边界框尺寸区间作为第二预测边界框包含的预设目标的预测目标类型。
由于点云数据具有稀疏性的特点,并且,具体表现为距离激光雷达越近,点云点越密集,距离激光雷达越远,点云点越稀疏。因此,为了进一步保障目标检测结果的准确性,可预先设置距离区间,根据训练样本中各点云点的位置信息,确定每个点云点与激光雷达之间的距离,选择与激光雷达之间的距离位于预设的距离区间内的点云点,将选择的点云点输入待训练的第一模型。也就是说,可将点云数据所在的空间划分若干个子空间,按照子空间在点云数据所在空间的位置,可将子空间分为两类,将位于点云数据所在空间的边缘位置的子空间作为边缘子空间,将位于点云数据所在的空间的核心位置的子空间作为核心子空间。可将位于核心子空间中的点云输入待训练的第一模型,或者在待训练的第二模型输出的目标检测结果中,保留位于核心子空间中的第二预测边界框。
在本说明书中,边界框的信息还可包括边界框的角度信息,可包括三个方向的角度。针对每个第一预测边界框或者每个第二预测边界框,可根据位于该预测边界框中的点云点的信息,对该预测边界框的角度进行调整。其中,对预测边界框的角度进行调整的过程,可参考现有的技术方案。
然后,根据标注信息以及处理后的目标检测结果,对待训练的第一模型以及待训练的第二模型进行训练。
具体的,由于标注信息包含预设目标的实际边界框的信息以及实际目标类型,处理后的目标检测结果中包含预设目标的第二预测边界框的信息以及预测目标类型,因此,可根据标注信息以及处理后的目标检测结果,确定损失,以损失最小化为优化目标,对待训练的第一模型以及待训练的第二模型同时进行训练。
其中,在确定损失时,可确定标注信息以及处理后的目标检测结果的交叉熵损失或者焦点损失(focal loss),或者,可确定标注信息与处理后的目标检测结果的差值,根据差值,确定损失,其中,差值与损失正相关,差值可包括边界框位置差值、边界框尺寸差值、边界框角度差值等其中的一种或多种。
上述内容中,待训练的第一模型以及待训练的第二模型可同时进行训练,也即,对待训练的第一模型以及待训练的第二模型进行整体训练。当然,在本说明书中,待训练的第一模型以及待训练的第二模型也可以单独进行训练。
在单独对待训练的第一模型进行训练时,可根据实际标注信息以及待训练的第一模型输出的每个第一预测边界框是否包含预设目标的预测结果、若干个第一预测边界框的信息,确定待训练的第一模型的损失,待训练的第一模型的损失可包括实际边界框的信息与第一预测边界框的信息的差值,参考上述整体训练的内容,这里的差值与待训练的第一模型的损失正相关。
在单独对待训练的第二模型进行训练时,可无需考虑第一模型是否已经训练完成,可直接在第一模型输出的结果中进行筛选,根据选择出的预测框,对待训练的第二模型进行训练,第二模型的训练过程可参考上述单独训练待训练的第一模型的过程,待训练的第二模型的损失可参考上述整体训练的损失。
在本说明书中,在训练完成第一模型以及第二模型之后,还可将第一模型以及第二模型应用于待检测的点云的目标检测中。图2为本说明书实施例提供的一种目标检测的方法流程图,具体可包括以下步骤:
S200:获取待检测的点云。
S202:将所述待检测的点云输入预先训练的第一模型,得到所述第一模型输出的每个第一边界框中是否包含目标的识别结果以及若干个第一边界框的信息。
S204:根据所述识别结果,在各第一边界框中,选择若干个第一边界框。
S206:根据所述待检测的点云中各点云点的信息,针对选择出的每个第一边界框,将位于该第一边界框中的点云输入预先训练的第二模型,得到所述第二模型输出的所述待检测的点云的目标检测结果,所述待检测的点云的目标检测结果中包含若干个第二边界框的信息以及每个第二边界框中包含的目标的目标类型。
在应用第一模型以及第二模型时,待检测的点云可以是激光雷达预先采集的点云,也可以是实时采集的点云。其中步骤S200-步骤S206可参考上述步骤S100-步骤S108中的内容。这里不再赘述。
本说明书提供的上述模型训练以及目标检测的方法,可应用于无人驾驶领域,具体可应用于使用无人设备进行配送的领域,例如,使用无人设备进行快递、外卖等配送的场景。具体的,在上述的场景中,可使用多个无人设备所构成的无人驾驶车队进行配送。通过上述方法得到的目标检测结果可作为无人设备规划自身的轨迹等过程中的周围环境的参考信息。其中,无人设备主要包括无人车、无人机等智能无人驾驶设备,主要用于代替人工配送物品,例如在大型货物仓储中心运输分拣后的货物,或将货物从某一地点运输到另一地点。
本说明书提供的模型训练以及目标检测的方法,还可应用在安装有激光雷达的普通车辆上,通过上述方法得到的目标检测的结果可作为普通车辆在诸如泊车等过程中的周围环境的参考信息。
基于图1所示的模型训练的方法,本说明书实施例还对应提供一种模型训练的装置的结构示意图,如图3所示。
图3为本说明书实施例提供的一种模型训练的结构示意图,所述装置包括:
获取样本模块301,用于获取包含标注信息的点云,作为训练样本,所述标注信息包括预设目标的实际边界框的信息以及实际目标类型;
第一预测模块302,用于将所述训练样本输入待训练的第一模型,得到所述待训练的第一模型输出的每个第一预测边界框中是否包含预设目标的预测结果以及若干个第一预测边界框的信息;
第一选择模块303,用于根据所述预测结果,在各第一预测边界框中,选择若干个第一预测边界框;
第二预测模块304,用于根据所述训练样本中各点云点的信息,针对选择出的每个第一预测边界框,将位于该第一预测边界框中的点云输入待训练的第二模型,得到所述待训练的第二模型输出的目标检测结果,所述目标检测结果中包含若干个第二预测边界框的信息以及每个第二预测边界框中包含的预设目标的预测目标类型;
训练模块305,用于根据所述目标检测结果以及所述标注信息,对所述待训练的第一模型以及所述待训练的第二模型进行训练。
可选地,边界框的信息包括边界框尺寸;
所述第一选择模块303具体用于,针对各第一预测边界框,若根据所述预测结果,确定该第一预测边界框中未包含预设目标,则根据预设的边界框尺寸补偿值,对该第一预测边界框的边界框尺寸进行补偿,并将补偿后得到的边界框重新作为第一预测边界框;在各第一预测边界框中,选择若干个第一预测边界框。
可选地,所述第一选择模块303具体用于,针对各第一预测边界框,根据所述训练样本中各点云点的信息以及该第一预测边界框的信息,确定该第一预测边界框中包含的点云点的数量;根据各第一预测边界框中包含的点云点的数量以及预设的数量阈值,在各第一预测边界框中,选择若干个第一预测边界框。
可选地,边界框的信息包括边界框位置;
所述第一选择模块303具体用于,针对各第一预测边界框,根据所述实际边界框的边界框位置与该第一预测边界框的边界框位置,确定所述实际边界框与该第一预测边界框的交并比IOU,作为该第一预测边界框对应的IOU;根据各第一预测边界框对应的IOU以及预设的IOU阈值,在各第一预测边界框中,选择若干个第一预测边界框。
可选地,所述训练模块305具体用于,根据各第二预测边界框的信息以及每个预测目标类型,对所述目标检测结果进行处理;根据所述标注信息以及处理后的目标检测结果,对所述待训练的第一模型以及所述待训练的第二模型进行训练。
可选地,所述训练模块305具体用于,获取预设的目标类型与点云点数量区间的第一对应关系;针对各第二预测边界框,根据所述训练样本中各点云点的信息以及该第二预测边界框的信息,确定该第二预测边界框中包含的点云点的数量;根据所述第一对应关系以及各第二预测边界框中包含的点云点的数量,对所述目标检测结果进行处理。
可选地,边界框的信息包括边界框尺寸;
所述训练模块305具体用于,获取预设的目标类型与边界框尺寸区间的第二对应关系;根据所述第二对应关系以及各第二预测边界框的边界框尺寸,对所述目标检测结果进行处理。
可选地,所述训练模块305具体用于,确定所述待训练的第二模型输出的每个第二预测边界框中包含的预设目标的预测目标类型的置信度;针对各第二预测边界框,若该第二预测边界框中包含的预设目标的预测目标类型的置信度小于预设的置信度阈值,则根据所述第一对应关系以及该第二预测边界框中包含的点云点的数量,或者,根据所述第二对应关系以及该第二预测边界框的边界框尺寸,重新确定该第二预测边界框中包含的预设目标的预测目标类型;若该第二预测边界框中包含的预设目标的预测目标类型的置信度不小于所述置信度阈值,当该第二预测边界框中包含的点云点的数量对应的目标类型或者该第二预测边界框的边界框尺寸对应的目标类型,与所述待训练的第二模型输出的该第二预测边界框中包含所述预设目标的预测目标类型不同时,删除该第二预测边界框以及该第二预测边界框中包含的预设目标的预测目标类型。
基于图2所示的目标检测的方法,本说明书实施例还对应提供一种目标检测的装置的结构示意图,如图4所示。
图4为本说明书实施例提供的一种目标检测的结构示意图,所述装置包括:
获取点云模块401,用于获取待检测的点云;
第一输入模块402,用于将所述待检测的点云输入预先训练的第一模型,得到所述第一模型输出的每个第一边界框中是否包含目标的识别结果以及若干个第一边界框的信息;
第二选择模块403,用于根据所述识别结果,在各第一边界框中,选择若干个第一边界框;
第二输入模块404,用于根据所述待检测的点云中各点云点的信息,针对选择出的每个第一边界框,将位于该第一边界框中的点云输入预先训练的第二模型,得到所述第二模型输出的所述待检测的点云的目标检测结果,所述待检测的点云的目标检测结果中包含若干个第二边界框的信息以及每个第二边界框中包含的目标的目标类型。
本说明书实施例还提供了一种计算机可读存储介质,该存储介质存储有计算机程序,计算机程序可用于执行上述内容所述的模型训练以及目标检测的方法。
基于上述内容所述的模型训练以及目标检测的方法,本说明书实施例还提出了图5所示的电子设备的示意结构图。如图5,在硬件层面,该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器,当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,以实现上述内容所述的模型训练以及目标检测的方法。
当然,除了软件实现方式之外,本说明书并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本说明书的实施例可提供为方法、系统、或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
Claims (13)
1.一种模型训练的方法,其特征在于,所述方法包括:
获取包含标注信息的点云,作为训练样本,所述标注信息包括预设目标的实际边界框的信息以及实际目标类型;
将所述训练样本输入待训练的第一模型,得到所述待训练的第一模型输出的每个第一预测边界框中是否包含预设目标的预测结果以及若干个第一预测边界框的信息;
根据所述预测结果,在各第一预测边界框中,选择若干个第一预测边界框;
根据所述训练样本中各点云点的信息,针对选择出的每个第一预测边界框,将位于该第一预测边界框中的点云输入待训练的第二模型,得到所述待训练的第二模型输出的目标检测结果,所述目标检测结果中包含若干个第二预测边界框的信息以及每个第二预测边界框中包含的预设目标的预测目标类型;
根据所述目标检测结果以及所述标注信息,对所述待训练的第一模型以及所述待训练的第二模型进行训练。
2.如权利要求1所述的方法,其特征在于,边界框的信息包括边界框尺寸;
根据所述预测结果,在各第一预测边界框中,选择若干个第一预测边界框,具体包括:
针对各第一预测边界框,若根据所述预测结果,确定该第一预测边界框中未包含预设目标,则根据预设的边界框尺寸补偿值,对该第一预测边界框的边界框尺寸进行补偿,并将补偿后得到的边界框重新作为第一预测边界框;
在各第一预测边界框中,选择若干个第一预测边界框。
3.如权利要求1所述的方法,其特征在于,在各第一预测边界框中,选择若干个第一预测边界框,具体包括:
针对各第一预测边界框,根据所述训练样本中各点云点的信息以及该第一预测边界框的信息,确定该第一预测边界框中包含的点云点的数量;
根据各第一预测边界框中包含的点云点的数量以及预设的数量阈值,在各第一预测边界框中,选择若干个第一预测边界框。
4.如权利要求1所述的方法,其特征在于,边界框的信息包括边界框位置;
在各第一预测边界框中,选择若干个第一预测边界框,具体包括:
针对各第一预测边界框,根据所述实际边界框的边界框位置与该第一预测边界框的边界框位置,确定所述实际边界框与该第一预测边界框的交并比IOU,作为该第一预测边界框对应的IOU;
根据各第一预测边界框对应的IOU以及预设的IOU阈值,在各第一预测边界框中,选择若干个第一预测边界框。
5.如权利要求1所述的方法,其特征在于,根据所述目标检测结果以及所述标注信息,对所述待训练的第一模型以及所述待训练的第二模型进行训练,具体包括:
根据各第二预测边界框的信息以及每个预测目标类型,对所述目标检测结果进行处理;
根据所述标注信息以及处理后的目标检测结果,对所述待训练的第一模型以及所述待训练的第二模型进行训练。
6.如权利要求5所述的方法,其特征在于,根据各第二预测边界框的信息以及每个预测目标类型,对所述目标检测结果进行处理,具体包括:
获取预设的目标类型与点云点数量区间的第一对应关系;
针对各第二预测边界框,根据所述训练样本中各点云点的信息以及该第二预测边界框的信息,确定该第二预测边界框中包含的点云点的数量;
根据所述第一对应关系以及各第二预测边界框中包含的点云点的数量,对所述目标检测结果进行处理。
7.如权利要求5所述的方法,其特征在于,边界框的信息包括边界框尺寸;
根据各第二预测边界框的信息以及每个预测目标类型,对所述目标检测结果进行处理,具体包括:
获取预设的目标类型与边界框尺寸区间的第二对应关系;
根据所述第二对应关系以及各第二预测边界框的边界框尺寸,对所述目标检测结果进行处理。
8.如权利要求6或7任一所述的方法,其特征在于,对所述目标检测结果进行处理,具体包括:
确定所述待训练的第二模型输出的每个第二预测边界框中包含的预设目标的预测目标类型的置信度;
针对各第二预测边界框,若该第二预测边界框中包含的预设目标的预测目标类型的置信度小于预设的置信度阈值,则根据所述第一对应关系以及该第二预测边界框中包含的点云点的数量,或者,根据所述第二对应关系以及该第二预测边界框的边界框尺寸,重新确定该第二预测边界框中包含的预设目标的预测目标类型;
若该第二预测边界框中包含的预设目标的预测目标类型的置信度不小于所述置信度阈值,当该第二预测边界框中包含的点云点的数量对应的目标类型或者该第二预测边界框的边界框尺寸对应的目标类型,与所述待训练的第二模型输出的该第二预测边界框中包含所述预设目标的预测目标类型不同时,删除该第二预测边界框以及该第二预测边界框中包含的预设目标的预测目标类型。
9.一种目标检测的方法,其特征在于,所述方法包括:
获取待检测的点云;
将所述待检测的点云输入预先训练的第一模型,得到所述第一模型输出的每个第一边界框中是否包含目标的识别结果以及若干个第一边界框的信息;
根据所述识别结果,在各第一边界框中,选择若干个第一边界框;
根据所述待检测的点云中各点云点的信息,针对选择出的每个第一边界框,将位于该第一边界框中的点云输入预先训练的第二模型,得到所述第二模型输出的所述待检测的点云的目标检测结果,所述待检测的点云的目标检测结果中包含若干个第二边界框的信息以及每个第二边界框中包含的目标的目标类型。
10.一种模型训练的装置,其特征在于,所述装置包括:
获取样本模块,用于获取包含标注信息的点云,作为训练样本,所述标注信息包括预设目标的实际边界框的信息以及实际目标类型;
第一预测模块,用于将所述训练样本输入待训练的第一模型,得到所述待训练的第一模型输出的每个第一预测边界框中是否包含预设目标的预测结果以及若干个第一预测边界框的信息;
第一选择模块,用于根据所述预测结果,在各第一预测边界框中,选择若干个第一预测边界框;
第二预测模块,用于根据所述训练样本中各点云点的信息,针对选择出的每个第一预测边界框,将位于该第一预测边界框中的点云输入待训练的第二模型,得到所述待训练的第二模型输出的目标检测结果,所述目标检测结果中包含若干个第二预测边界框的信息以及每个第二预测边界框中包含的预设目标的预测目标类型;
训练模块,用于根据所述目标检测结果以及所述标注信息,对所述待训练的第一模型以及所述待训练的第二模型进行训练。
11.一种目标检测的装置,其特征在于,所述装置包括:
获取点云模块,用于获取待检测的点云;
第一输入模块,用于将所述待检测的点云输入预先训练的第一模型,得到所述第一模型输出的每个第一边界框中是否包含目标的识别结果以及若干个第一边界框的信息;
第二选择模块,用于根据所述识别结果,在各第一边界框中,选择若干个第一边界框;
第二输入模块,用于根据所述待检测的点云中各点云点的信息,针对选择出的每个第一边界框,将位于该第一边界框中的点云输入预先训练的第二模型,得到所述第二模型输出的所述待检测的点云的目标检测结果,所述待检测的点云的目标检测结果中包含若干个第二边界框的信息以及每个第二边界框中包含的目标的目标类型。
12.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1-9或10任一所述的方法。
13.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现上述权利要求1-9或10任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010863705.1A CN112036462A (zh) | 2020-08-25 | 2020-08-25 | 一种模型训练以及目标检测的方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010863705.1A CN112036462A (zh) | 2020-08-25 | 2020-08-25 | 一种模型训练以及目标检测的方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112036462A true CN112036462A (zh) | 2020-12-04 |
Family
ID=73581276
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010863705.1A Pending CN112036462A (zh) | 2020-08-25 | 2020-08-25 | 一种模型训练以及目标检测的方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112036462A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112990293A (zh) * | 2021-03-10 | 2021-06-18 | 深圳一清创新科技有限公司 | 一种点云标注方法、装置和电子设备 |
CN113256622A (zh) * | 2021-06-28 | 2021-08-13 | 北京小白世纪网络科技有限公司 | 基于三维图像的目标检测方法、装置及电子设备 |
CN113267761A (zh) * | 2021-05-28 | 2021-08-17 | 中国航天科工集团第二研究院 | 激光雷达目标检测识别方法、系统及计算机可读存储介质 |
CN113408631A (zh) * | 2021-06-23 | 2021-09-17 | 佛山缔乐视觉科技有限公司 | 一种陶瓷洁具的款式识别方法、装置及存储介质 |
CN113887608A (zh) * | 2021-09-28 | 2022-01-04 | 北京三快在线科技有限公司 | 一种模型训练的方法、图像检测的方法及装置 |
-
2020
- 2020-08-25 CN CN202010863705.1A patent/CN112036462A/zh active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112990293A (zh) * | 2021-03-10 | 2021-06-18 | 深圳一清创新科技有限公司 | 一种点云标注方法、装置和电子设备 |
CN112990293B (zh) * | 2021-03-10 | 2024-03-29 | 深圳一清创新科技有限公司 | 一种点云标注方法、装置和电子设备 |
CN113267761A (zh) * | 2021-05-28 | 2021-08-17 | 中国航天科工集团第二研究院 | 激光雷达目标检测识别方法、系统及计算机可读存储介质 |
CN113408631A (zh) * | 2021-06-23 | 2021-09-17 | 佛山缔乐视觉科技有限公司 | 一种陶瓷洁具的款式识别方法、装置及存储介质 |
CN113256622A (zh) * | 2021-06-28 | 2021-08-13 | 北京小白世纪网络科技有限公司 | 基于三维图像的目标检测方法、装置及电子设备 |
CN113887608A (zh) * | 2021-09-28 | 2022-01-04 | 北京三快在线科技有限公司 | 一种模型训练的方法、图像检测的方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112036462A (zh) | 一种模型训练以及目标检测的方法及装置 | |
CN111311709B (zh) | 一种生成高精地图的方法及装置 | |
CN112801229B (zh) | 一种识别模型的训练方法及装置 | |
CN111639682A (zh) | 基于点云数据的地面分割方法及装置 | |
CN111508258B (zh) | 一种定位方法及装置 | |
CN112766241B (zh) | 一种目标物识别方法以及装置 | |
CN113642620B (zh) | 一种障碍物检测模型训练以及障碍物检测方法及装置 | |
CN111797711A (zh) | 一种模型训练的方法及装置 | |
CN112327864A (zh) | 一种无人驾驶设备的控制方法及控制装置 | |
CN111353417A (zh) | 一种目标检测的方法及装置 | |
CN113887608B (zh) | 一种模型训练的方法、图像检测的方法及装置 | |
CN111127551A (zh) | 一种目标检测的方法及装置 | |
CN112883871B (zh) | 一种模型训练以及确定无人车运动策略方法及装置 | |
CN112990099B (zh) | 一种车道线检测的方法以及装置 | |
CN112818968A (zh) | 一种目标物分类方法及装置 | |
CN112861831A (zh) | 一种目标物的识别方法、装置、存储介质及电子设备 | |
CN112365513A (zh) | 一种模型训练的方法及装置 | |
CN112902987A (zh) | 一种位姿修正的方法及装置 | |
CN114187355A (zh) | 一种图像标定方法及装置 | |
CN114332189A (zh) | 一种高精地图构建方法、装置、存储介质及电子设备 | |
CN114997264A (zh) | 训练数据生成、模型训练及检测方法、装置及电子设备 | |
CN113887351A (zh) | 一种用于无人驾驶的障碍物检测方法及障碍物检测装置 | |
CN114440903A (zh) | 一种高精地图构建方法、装置、存储介质及电子设备 | |
CN112163478A (zh) | 一种目标检测的方法及装置 | |
CN113205144B (zh) | 一种模型训练的方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |