CN112818756A - 目标检测方法、系统、设备及存储介质 - Google Patents

目标检测方法、系统、设备及存储介质 Download PDF

Info

Publication number
CN112818756A
CN112818756A CN202110044928.XA CN202110044928A CN112818756A CN 112818756 A CN112818756 A CN 112818756A CN 202110044928 A CN202110044928 A CN 202110044928A CN 112818756 A CN112818756 A CN 112818756A
Authority
CN
China
Prior art keywords
detection
point cloud
grids
empty
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110044928.XA
Other languages
English (en)
Inventor
章嵘
孙臻
龚霁程
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Westwell Information Technology Co Ltd
Original Assignee
Shanghai Westwell Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Westwell Information Technology Co Ltd filed Critical Shanghai Westwell Information Technology Co Ltd
Priority to CN202110044928.XA priority Critical patent/CN112818756A/zh
Publication of CN112818756A publication Critical patent/CN112818756A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/647Three-dimensional objects by matching two-dimensional images to three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G06V20/54Surveillance or monitoring of activities, e.g. for recognising suspicious objects of traffic, e.g. cars on the road, trains or boats
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection

Abstract

本发明提供了一种目标检测方法、系统、设备及存储介质,该方法包括:获取点云检测数据,确定x‑y平面内的二维点云图像;将二维点云图像划分为多个网格;获取多个网格中非空网格的张量,非空网格的张量包括网格中各个点的位置信息和反射率以及网格中点云的数量;基于非空网格的张量确定二维点云图像的张量;将二维点云图像的张量输入特征提取网络,得到特征提取网络输出的特征图;将特征图输入目标检测网络,得到目标检测网络输出的目标类别和检测框位置。本发明基于三维点云数据提取张量,转换为特征数据进行目标分类检测,实现了三维目标检测,充分利用三维点云数据中的三维数据信息,检测结果准确,检测速度快。

Description

目标检测方法、系统、设备及存储介质
技术领域
本发明涉及数据处理技术领域,尤其涉及一种目标检测方法、系统、设备及存储介质。
背景技术
目前,基于二维图像的目标检测方法已经有了比较广泛的应用。例如,在应用于对道路的检测时,可以实现对道路上的行人、车辆、障碍物等目标物检测。然而,在实际应用场景中,仅仅依靠二维图像来进行目标检测会丢失一些重要信息,无法满足实际场景的需求。现有技术中尚没有一种基于三维信息的、高精度的目标检测方法。
发明内容
针对现有技术中的问题,本发明的目的在于提供一种目标检测方法、系统、设备及存储介质,基于三维点云数据实现目标检测,检测精度高,检测速度快。
本发明实施例提供一种目标检测方法,包括如下步骤:
获取点云检测数据,确定x-y平面内的二维点云图像;
将所述二维点云图像划分为多个网格;
获取所述多个网格中非空网格的张量,所述非空网格的张量包括所述网格中各个点的位置信息和反射率以及所述网格中点云的数量;
基于所述非空网格的张量确定所述二维点云图像的张量;
将所述二维点云图像的张量输入特征提取网络,得到所述特征提取网络输出的特征图;
将所述特征图输入目标检测网络,得到所述目标检测网络输出的目标类别和检测框位置。
在一些实施例中,获取所述多个网格中非空网格的张量,包括如下步骤:
计算所述非空网格中所有点的算术平均中心以及所有点到所述算术平均中心的偏移量;
获取所述多个网格中的非空网格的张量,所述非空网格的张量包括所述非空网格中算数中心的坐标值、各个点的三维坐标值、反射率、各个点到所述算数中心的偏移量以及所述网格中的点云数量。
在一些实施例中,基于所述非空网格的张量确定所述二维点云图像的张量,包括如下步骤:
基于所述非空网格的张量得到所述非空网格中各个点的点位特征值;
基于所述非空网格中各个点的点位特征值确定所对应的非空网格的网格特征值;
基于所述非空网格在所述二维点云图像中的位置,将所述非空网格的网格特征值填入到所述二维点云图像的对应位置,得到所述二维点云图像的张量。
在一些实施例中,基于所述非空网格的张量得到所述非空网格中各个点的点位特征值,包括如下步骤:
将所述非空网格的张量输入信息提取网络,得到所述非空网格中各个点的点位特征值。
在一些实施例中,基于所述非空网格中各个点的点位特征值确定所对应的非空网格的网格特征值,包括如下步骤:
对于各个所述非空网格,选择其中所有点的点位特征值的最大值,作为该非空网格的网格特征值。
在一些实施例中,所述二维点云图像的张量中,对应于空网格的位置填充为预设填充值。
在一些实施例中,所述特征提取网络包括第一子网络和第二子网络,将所述二维点云图像的张量输入特征提取网络,得到所述特征提取网络输出的特征图,包括如下步骤:
将所述二维点云图像的张量输入特征提取网络;
所述第一子网络对所述二维点云图像的张量进行卷积和下采样,得到多种尺寸的第一特征图;
所述第二子网络用于对所述多种尺寸的第一特征图进行反卷积和上采样,得到多个第二特征图;
将所述第二特征图进行合并,得到所述二维点云图像的特征图。
在一些实施例中,所述目标检测网络基于总损失函数训练得到,所述总损失函数包括检测框位置损失函数、检测框分类损失函数和检测框朝向分类损失函数。
在一些实施例中,所述目标检测网络包括多个检测分支,所述多个检测分支分别用于预测各个目标类别的检测框位置尺寸和检测框朝向。
在一些实施例中,各个所述检测分支的损失函数包括该类别的检测框位置损失函数、检测框分类损失函数和检测框朝向分类损失函数。
在一些实施例中,得到所述目标检测网络输出的目标类别和检测框位置,包括如下步骤:
获取所述目标检测网络输出的目标类别、检测框位置和各个检测框的置信度;
对于同一目标类别的检测框,基于所述置信度采用非极大抑制方法去除冗余检测框。
在一些实施例中,所述采用非极大抑制方法去除冗余检测框,包括如下步骤:
将每个目标类别的检测框投影到x-y平面,并按照置信度对每个目标类别的检测框从高到低排序;
对于一目标类别,选择置信度最高的检测框,计算剩余检测框与置信度最高的检测框的面积交并比,去除交并比大于预设阈值的检测框,并重复执行当前步骤,至所有检测框已处理完成。
本发明实施例还提供一种目标检测系统,用于实现所述的目标检测方法,所述系统包括:
数据采集模块,用于获取点云检测数据,确定x-y平面内的二维点云图像;
张量获取模块,用于将所述二维点云图像划分为多个网格,获取所述多个网格中非空网格的张量,所述非空网格的张量包括所述网格中各个点的位置信息和反射率以及所述网格中点云的数量,以及基于所述非空网格的张量确定所述二维点云图像的张量;
特征提取模块,用于将所述二维点云图像的张量输入特征提取网络,得到所述特征提取网络输出的特征图;
目标检测模块,用于将所述特征图输入目标检测网络,得到所述目标检测网络输出的目标类别和检测框位置。
本发明实施例还提供一种目标检测设备,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行所述的目标检测方法的步骤。
本发明实施例还提供一种计算机可读存储介质,用于存储程序,所述程序被处理器执行时实现所述的目标检测方法的步骤。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
本发明的目标检测方法、系统、设备及存储介质具有如下有益效果:
本发明基于三维点云数据提取张量,转换为特征数据进行目标分类检测,实现了三维目标检测,充分利用三维点云数据中的三维数据信息,检测结果准确,检测速度快。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显。
图1是本发明一实施例的目标检测方法的流程图;
图2是本发明一实施例的特征提取网络的示意图;
图3是本发明一实施例的目标检测网络的示意图;
图4是本发明一实施例的目标检测系统的结构示意图;
图5是本发明一实施例的目标检测设备的结构示意图;
图6是本发明一实施例的计算机可读存储介质的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的步骤。例如,有的步骤还可以分解,而有的步骤可以合并或部分合并,因此,实际执行的顺序有可能根据实际情况改变。
如图1所示,本发明实施例提供一种目标检测方法,包括如下步骤:
S100:获取点云检测数据,确定x-y平面内的二维点云图像;
S200:将所述二维点云图像划分为多个网格;
S300:获取所述多个网格中非空网格的张量,所述非空网格的张量包括所述网格中各个点的位置信息和反射率以及所述网格中点云的数量;
S400:基于所述非空网格的张量确定所述二维点云图像的张量;
S500:将所述二维点云图像的张量输入特征提取网络,得到所述特征提取网络输出的特征图;
S600:将所述特征图输入目标检测网络,得到所述目标检测网络输出的目标类别和检测框位置。
本发明的目标检测方法中,首先通过步骤S100采集三维点云数据,并通过步骤S200~S400基于三维点云数据提取张量,然后通过步骤S500将张量通过特征提取网络转换为特征数据后,通过步骤S600输入到目标检测网络中进行目标分类检测,实现了三维目标检测,充分利用三维点云数据中的三维数据信息,检测结果准确,检测速度快。
在将本发明的目标检测方法应用于道路检测时,所述目标检测方法可以部署于用于道路监测的服务器中,在对行人、车辆、障碍物等目标进行检测后,可以进一步对目标的位置、行为进行分析,用于后续的导航、道路规划、道路告警、违章分析等。
在所述步骤S100中,所述点云检测数据可以是激光雷达获得的点云检测数据,在该实施例中,以将该目标检测方法应用于道路检测为例来进行说明,所述点云检测数据即为通过设置于道路上的激光雷达检测得到的点云数据,但本发明不限于此,在其他的实施方式中,本发明的目标检测方法也可以应用于其他的场景中,例如室内场所的目标检测等,均属于本发明的保护范围之内。
所述步骤S100中,确定x-y平面内的二维点云图像,二维点云图像包括的信息有二维点云图像的宽度、高度、以及每个位置点的点云数量和点云信息。例如基于所述点云检测数据确定道路的平面点云图像。所述步骤S200:将所述二维点云图像划分为多个网格,即为将所述二维点云图像按照一定的大小均匀划分为多个网格。
在该实施例中,所述步骤S300:获取所述多个网格中非空网格的张量,包括如下步骤:
确定所述多个网格中非空网格的位置和数量P;此处非空网格指的即为该网格中具有至少一个点云位置点;
计算所述非空网格中所有点的算术平均中心以及所有点到所述算术平均中心的偏移量,此处算术平均中心即为一个非空网格中所有点的中心位置,此处所述非空网格中的各个点指的是根据所述点云检测数据得到的所述非空网格中的各个点云位置点;
获取所述多个网格中的非空网格的张量D×P×N,所述非空网格的张量中,D包括所述非空网格中算数中心的坐标值xc,yc,zc、各个点的三维坐标值x,y,z、各个点的反射率r、以及各个点到所述算数中心的偏移量xp,yp,N表示所述网格中的点云位置点的数量,P表示所述二维点云图像中非空网格的数量。
在该实施例中,所述步骤S400:基于所述非空网格的张量确定所述二维点云图像的张量,包括如下步骤:
基于所述非空网格的张量D×P×N得到所述非空网格中各个点的点位特征值;
基于所述非空网格中各个点的点位特征值确定所对应的非空网格的网格特征值;
基于所述非空网格在所述二维点云图像中的位置,将所述非空网格的网格特征值填入到所述二维点云图像的对应位置,得到所述二维点云图像的张量。
具体地,所述步骤S400:基于所述非空网格的张量确定所述二维点云图像的张量,可以采用如下步骤实现:
将所述非空网格的张量D×P×N输入信息提取网络,得到张量C1×P×N,其中,C1表示各个点云位置点的点位特征值;此处信息提取网络可以由一神经网络实现,例如采用一用于特征提取的卷积神经网络,预先基于样本数据训练好,用于提取各个点的点位特征值;
对于各个所述非空网格,选择其中所有点的点位特征值C1的最大值C2,作为该非空网格的网格特征值,得到张量C2×P;
然后,基于所述非空网格在所述二维点云图像中的位置,将所述非空网格的网格特征值填入到所述二维点云图像的对应位置,得到所述二维点云图像的张量C×H×W,其中,C表示所述二维点云图像中各个网格的网格特征值,H表示二维点云图像的高度,W表示二维点云图像的宽度。在所述二维点云图像的张量中,对应于非空网格位置填充值C=C2,对应于空网格的位置填充值C为预设填充值,例如采用0来填充。
如图2所示,在该实施例中,所述特征提取网络包括第一子网络和第二子网络。所述第一子网络自上而下减小特征图空间尺寸并增加通道数,网络每层进行卷积操作并进行下采样,得到不同尺寸的特征图,第二子网络分别对第一子网络输出的每个特征图进行反卷积上采样。
具体地,所述步骤S500:将所述二维点云图像的张量输入特征提取网络,得到所述特征提取网络输出的特征图,包括如下步骤:
将所述二维点云图像的张量输入特征提取网络;
所述第一子网络对所述二维点云图像的张量进行卷积和下采样,得到多种尺寸的第一特征图;
所述第二子网络用于对所述多种尺寸的第一特征图进行反卷积和上采样,得到多个第二特征图,多个第二特征图彼此之间的尺寸相同;
将尺寸相同的所述第二特征图进行合并,得到所述特征提取网络输出的所述二维点云图像的特征图,作为后续的目标检测网络的输入特征图。
在该实施例中,将所述二维点云图像的张量C×H×W输入特征提取网络的第一子网络,第一子网络共进行三次下采样,得到的特征图张量分别为C×H/2×W/2、2C×H/4×W/4、4C×H/8×W/8。第二子网络分别对每个特征图进行反卷积上采样,得到三个2C×H/2×W/2的特征图,并且将各层特征图按通道维度合并得到特征图Fs ∈6C×H/2×W/2,作为后续的目标检测网络的输入特征图。
通过如图2所示的特征提取网络的设计,本发明可以实现对二维点云图像的张量的特征更准确和快速地提取,有利于提高后续目标检测的准确度。
在该实施例中,为了提升检测效果,可以将所述目标检测网络包括多个检测分支,所述多个检测分支分别用于预测各个目标类别的检测框位置尺寸和检测框朝向。每个检测分支可以分别采用卷积神经网络来实现,例如通过卷积层来提取特征图,然后利用全连接层或其他的分类层实现分类。由此,本发明可以进一步实现多分类目标检测,采用一套检测体系,同时实现多种分类的目标检测,可以符合更多种检测需求,并且检测效率更高。
如图3所示,例如,在应用于道路检测时,先将检测目标按照尺寸聚合成三类,其中人、隔离路锥等小目标为一类,小汽车等中目标为一类,卡车、吊车等大目标为一类。所述目标检测网络分别包括三个目标检测分支:小目标检测分支、中目标检测分支和大目标检测分支,每个检测分支可以分别采用卷积层来获取一特征图,用来预测该检测分支的检测框位置尺寸和检测框朝向。具体地,将所述张量输入到所述目标检测网络后,可以得到三个用于目标分类的特征图
Figure BDA0002896811430000081
用于预测目标类别、检测框位置尺寸以及检测框朝向(na为每个位置锚点anchor框个数,7为预测值x,y,z,w,l,h,θ)。i表示第i个类别,i∈(1,M),M为检测分支的数量。
在该实施例中,各个所述检测分支的损失函数包括该类别的检测框位置损失函数、检测框分类损失函数和检测框朝向分类损失函数。即在所述目标检测网络进行训练时,对应于每个类别的检测分支,基于一总损失函数来迭代训练该检测分支。每个类别的检测分支的总损失函数包括该类别的检测框位置损失函数、检测框分类损失函数和检测框朝向分类损失函数。
具体地,每个检测分支的损失函数计算如下:
(1)标记的真实框与锚点框的定义形式为(x,y,z,w,l,h,θ),其中,(x,y,z)表示三维坐标值,(w,l,h)表示框的宽度、高度和高度,θ表示框相对于基准位置的旋转角度。
位置回归的残差值定义如下:
Figure BDA0002896811430000091
Figure BDA0002896811430000092
Δθ=sin(θgta)
其中xgt,xa分别是真实框和锚点框a的x坐标值,ygt,ya分别是真实框和锚点框a的y坐标值,zgt,za分别是真实框和锚点框a的z坐标值,wgt,wa分别是真实框和锚点框a的宽度,lgt,la分别是真实框和锚点框a的长度,hgt,ha分别是真实框和锚点框a的高度,θgt,θa分别是真实框和锚点框a的旋转角度,
Figure BDA0002896811430000093
检测框位置损失函数为:
Lloc=SmoothL1(Δx+Δy+Δz+Δw+Δl+Δh+Δθ)
其中,SmoothL1()为光滑函数。
(2)检测框朝向分类损失函数定义为:
Ldir=CrossEntropy(d,dgt)
其中,d为锚点框a的朝向,dgt为真实框的朝向,框的朝向定义为目标物面朝方向是否为y轴正方向,如果为正方向则定义为1,反之为0。CrossEntropy()为交叉熵函数。
(3)检测框分类损失函数定义如下:
Lcls=-αa(1-pa)γlogpa
其中pa为锚点框a属于该类别的概率,αa和γ均为预设系数,例如,αa=0.25、γ=2,但本发明不限于此。
(4)总损失如下:
Figure BDA0002896811430000101
其中Npos是正样本的个数,βloc,βcls,βdir分别为预设系数,例如,βloc=2,βcls=1,βdir=0.2。
在该实施例中,所述步骤S600:得到所述目标检测网络输出的目标类别和检测框位置,包括根据所述目标检测网络输出的目标类别和检测框位置确定检测到的目标的类别和目标位置。
进一步地,考虑到检测框之间会有重合,还可以对所述目标检测网络的输出进行非极大值抑制处理。具体地,所述步骤S600:得到所述目标检测网络输出的目标类别和检测框位置,包括如下步骤:
获取所述目标检测网络输出的目标类别、检测框位置和各个检测框的置信度;
对于同一目标类别的检测框,基于所述置信度采用非极大抑制方法去除冗余检测框。
在该实施例中,所述采用非极大抑制方法去除冗余检测框,包括如下步骤:
将每个目标类别的检测框投影到x-y平面,并按照置信度对每个目标类别的检测框从高到低排序;
对于一目标类别,选择置信度最高的检测框,计算剩余检测框与置信度最高的检测框的面积交并比,去除交并比大于预设阈值的检测框,并重复执行当前步骤,即对于剩下未处理的检测框,选择置信度最高的检测框,再判断剩余检测框是否要与该置信度最高的检测框合并,至所有检测框已处理完成。
如图4所示,本发明实施例还提供一种目标检测系统,用于实现所述的目标检测方法,所述系统包括:
数据采集模块M100,用于获取点云检测数据,确定x-y平面内的二维点云图像,所述二维点云图像包括的信息有二维点云图像的宽度、高度、以及每个位置点的点云数量和点云信息;
张量获取模块M200,用于将所述二维点云图像划分为多个网格,获取所述多个网格中非空网格的张量,所述非空网格的张量包括所述网格中各个点的位置信息和反射率以及所述网格中点云的数量,以及基于所述非空网格的张量确定所述二维点云图像的张量;
特征提取模块M300,用于将所述二维点云图像的张量输入特征提取网络,得到所述特征提取网络输出的特征图;
目标检测模块M400,用于将所述特征图输入目标检测网络,得到所述目标检测网络输出的目标类别和检测框位置。
本发明的目标检测方法中,首先通过数据采集模块M100采集三维点云数据,通过张量获取模块M200基于三维点云数据提取张量,然后通过特征提取模块M300将张量通过特征提取网络转换为特征数据后,通过目标检测模块M400输入到目标检测网络中进行目标分类检测,实现了三维目标检测,充分利用三维点云数据中的三维数据信息,检测结果准确,检测速度快。
数据采集模块M100获取所述点云检测数据,可以是所述数据采集模块M100从激光雷达获得点云检测数据。在该实施例中,以将该目标检测方法应用于道路检测为例来进行说明,所述数据采集模块M100即为通过设置于道路上的激光雷达检测得到的点云检测数据,但本发明不限于此,在其他的实施方式中,本发明的目标检测系统也可以应用于其他的场景中,例如室内场所的目标检测等,均属于本发明的保护范围之内。
在将本发明的目标检测系统应用于道路检测时,所述目标检测系统可以部署于用于道路监测的服务器中,在对行人、车辆、障碍物等目标进行检测后,可以进一步对目标的位置、行为进行分析,用于后续的导航、道路规划、道路告警、违章分析等。所述目标检测系统可以与道路中的激光雷达进行通信,采集点云检测数据,也可以进一步与执行后续流程的服务器进行通信,将目标检测结果输出给下游服务器。
所述张量获取模块M200将所述二维点云图像划分为多个网格,为基于所述二维点云图像的宽度和高度将所述二维点云图像均匀划分为多个网格。
在该实施例中,所述张量获取模块M200采用如下步骤获取所述多个网格中非空网格的张量:
确定所述多个网格中非空网格的位置和数量P;此处非空网格指的即为该网格中具有至少一个点云位置点;
计算所述非空网格中所有点的算术平均中心以及所有点到所述算术平均中心的偏移量,此处算术平均中心即为一个非空网格中所有点的中心位置,此处所述非空网格中的各个点指的是根据所述点云检测数据得到的所述非空网格中的各个点云位置点;
获取所述多个网格中的非空网格的张量D×P×N,所述非空网格的张量中,D包括所述非空网格中算数中心的坐标值xc,yc,zc、各个点的三维坐标值x,y,z、各个点的反射率r、以及各个点到所述算数中心的偏移量xp,yp,N表示所述网格中的点云位置点的数量,P表示所述二维点云图像中非空网格的数量。
在该实施例中,所述张量获取模块M200采用如下步骤基于所述非空网格的张量确定所述二维点云图像的张量:
将所述非空网格的张量D×P×N输入信息提取网络,得到张量C1×P×N,其中,C1表示各个点云位置点的点位特征值;此处信息提取网络可以由一神经网络实现,例如采用一用于特征提取的卷积神经网络,预先基于样本数据训练好,用于提取各个点的点位特征值;
对于各个所述非空网格,选择其中所有点的点位特征值C1的最大值C2,作为该非空网格的网格特征值,得到张量C2×P;
然后,基于所述非空网格在所述二维点云图像中的位置,将所述非空网格的网格特征值填入到所述二维点云图像的对应位置,得到所述二维点云图像的张量C×H×W,其中,C表示所述二维点云图像中各个网格的网格特征值,H表示二维点云图像的高度,W表示二维点云图像的宽度。在所述二维点云图像的张量中,对应于非空网格位置填充值C=C2,对应于空网格的位置填充值C为预设填充值,例如采用0来填充。
在该实施例中,所述特征提取网络包括第一子网络和第二子网络。所述特征提取模块M300采用如下步骤将所述二维点云图像的张量输入特征提取网络,得到所述特征提取网络输出的特征图:
将所述二维点云图像的张量输入特征提取网络;
所述第一子网络对所述二维点云图像的张量进行卷积和下采样,得到多种尺寸的第一特征图;
所述第二子网络用于对所述多种尺寸的第一特征图进行反卷积和上采样,得到多个第二特征图,多个第二特征图彼此之间的尺寸相同;
将尺寸相同的所述第二特征图进行合并,得到所述特征提取网络输出的所述二维点云图像的特征图,作为后续的目标检测网络的输入特征图。
在该实施例中,所述目标检测网络包括多个检测分支,所述多个检测分支分别用于预测各个目标类别的检测框位置尺寸和检测框朝向。每个检测分支可以分别采用卷积神经网络来实现,例如通过卷积层来提取特征图,然后利用全连接层或其他的分类层实现分类。例如,在应用于道路检测时,先将检测目标按照尺寸聚合成三类,其中人、隔离路锥等小目标为一类,小汽车等中目标为一类,卡车、吊车等大目标为一类。所述目标检测网络分别包括三个目标检测分支:小目标检测分支、中目标检测分支和大目标检测分支,每个检测分支可以分别采用卷积层来获取一特征图,用来预测该检测分支的检测框位置尺寸和检测框朝向。由此,本发明可以进一步实现多分类目标检测,采用一套检测体系,同时实现多种分类的目标检测,可以符合更多种检测需求,并且检测效率更高。
在该实施例中,所述目标检测系统还包括模型训练模块,用于基于损失函数训练所述目标检测网络。在所述目标检测网络进行训练时,对应于每个类别的检测分支,基于一总损失函数来迭代训练该检测分支。每个类别的检测分支的总损失函数包括该类别的检测框位置损失函数、检测框分类损失函数和检测框朝向分类损失函数。各个分支的总损失函数可以采用上述目标检测方法中损失函数的计算方式,在此不予赘述。
在该实施例中,所述目标检测模块M400采用如下步骤得到所述目标检测网络输出的目标类别和检测框位置:
获取所述目标检测网络输出的目标类别、检测框位置和各个检测框的置信度;
将每个目标类别的检测框投影到x-y平面,并按照置信度对每个目标类别的检测框从高到低排序;
对于一目标类别,选择置信度最高的检测框,计算剩余检测框与置信度最高的检测框的面积交并比,去除交并比大于预设阈值的检测框,并重复执行当前步骤,即对于剩下未处理的检测框,选择置信度最高的检测框,再判断剩余检测框是否要与该置信度最高的检测框合并,至所有检测框已处理完成。
本发明实施例还提供一种目标检测设备,包括处理器;存储器,其中存储有所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来执行所述的目标检测方法的步骤。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“平台”。
下面参照图5来描述根据本发明的这种实施方式的电子设备600。图5显示的电子设备600仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于:至少一个处理单元610、至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元610执行,使得所述处理单元610执行本说明书上述目标检测方法部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元610可以执行如图1中所示的步骤。
所述存储单元620可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202,还可以进一步包括只读存储单元(ROM)6203。
所述存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204,这样的程序模块6205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备600交互的设备通信,和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且,电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备600使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
所述目标检测设备中,所述存储器中的程序被处理器执行时实现所述的目标检测方法的步骤,因此,所述计算机存储介质也可以获得上述目标检测方法的技术效果。
本发明实施例还提供一种计算机可读存储介质,用于存储程序,所述程序被处理器执行时实现所述的目标检测方法的步骤。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上执行时,所述程序代码用于使所述终端设备执行本说明书上述目标检测方法部分中描述的根据本发明各种示例性实施方式的步骤。
参考图6所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品800,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上执行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
所述计算机存储介质中的程序被处理器执行时实现所述的目标检测方法的步骤,因此,所述计算机存储介质也可以获得上述目标检测方法的技术效果。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。

Claims (15)

1.一种目标检测方法,其特征在于,包括如下步骤:
获取点云检测数据,确定x-y平面内的二维点云图像;
将所述二维点云图像划分为多个网格;
获取所述多个网格中非空网格的张量,所述非空网格的张量包括所述网格中各个点的位置信息和反射率以及所述网格中点云的数量;
基于所述非空网格的张量确定所述二维点云图像的张量;
将所述二维点云图像的张量输入特征提取网络,得到所述特征提取网络输出的特征图;
将所述特征图输入目标检测网络,得到所述目标检测网络输出的目标类别和检测框位置。
2.根据权利要求1所述的目标检测方法,其特征在于,获取所述多个网格中非空网格的张量,包括如下步骤:
计算所述非空网格中所有点的算术平均中心以及所有点到所述算术平均中心的偏移量;
获取所述多个网格中的非空网格的张量,所述非空网格的张量包括所述非空网格中算数中心的坐标值、各个点的三维坐标值、反射率、各个点到所述算数中心的偏移量以及所述网格中的点云数量。
3.根据权利要求2所述的目标检测方法,其特征在于,基于所述非空网格的张量确定所述二维点云图像的张量,包括如下步骤:
基于所述非空网格的张量得到所述非空网格中各个点的点位特征值;
基于所述非空网格中各个点的点位特征值确定所对应的非空网格的网格特征值;
基于所述非空网格在所述二维点云图像中的位置,将所述非空网格的网格特征值填入到所述二维点云图像的对应位置,得到所述二维点云图像的张量。
4.根据权利要求3所述的目标检测方法,其特征在于,基于所述非空网格的张量得到所述非空网格中各个点的点位特征值,包括如下步骤:
将所述非空网格的张量输入信息提取网络,得到所述非空网格中各个点的点位特征值。
5.根据权利要求3所述的目标检测方法,其特征在于,基于所述非空网格中各个点的点位特征值确定所对应的非空网格的网格特征值,包括如下步骤:
对于各个所述非空网格,选择其中所有点的点位特征值的最大值,作为该非空网格的网格特征值。
6.根据权利要求3所述的目标检测方法,其特征在于,所述二维点云图像的张量中,对应于空网格的位置填充为预设填充值。
7.根据权利要求1所述的目标检测方法,其特征在于,所述特征提取网络包括第一子网络和第二子网络,将所述二维点云图像的张量输入特征提取网络,得到所述特征提取网络输出的特征图,包括如下步骤:
将所述二维点云图像的张量输入特征提取网络;
所述第一子网络对所述二维点云图像的张量进行卷积和下采样,得到多种尺寸的第一特征图;
所述第二子网络用于对所述多种尺寸的第一特征图进行反卷积和上采样,得到多个第二特征图;
将所述第二特征图进行合并,得到所述二维点云图像的特征图。
8.根据权利要求1所述的目标检测方法,其特征在于,所述目标检测网络基于总损失函数训练得到,所述总损失函数包括检测框位置损失函数、检测框分类损失函数和检测框朝向分类损失函数。
9.根据权利要求1所述的目标检测方法,其特征在于,所述目标检测网络包括多个检测分支,所述多个检测分支分别用于预测各个目标类别的检测框位置尺寸和检测框朝向。
10.根据权利要求9所述的目标检测方法,其特征在于,各个所述检测分支的损失函数包括该类别的检测框位置损失函数、检测框分类损失函数和检测框朝向分类损失函数。
11.根据权利要求1所述的目标检测方法,其特征在于,得到所述目标检测网络输出的目标类别和检测框位置,包括如下步骤:
获取所述目标检测网络输出的目标类别、检测框位置和各个检测框的置信度;
对于同一目标类别的检测框,基于所述置信度采用非极大抑制方法去除冗余检测框。
12.根据权利要求11所述的目标检测方法,其特征在于,所述采用非极大抑制方法去除冗余检测框,包括如下步骤:
将每个目标类别的检测框投影到x-y平面,并按照置信度对每个目标类别的检测框从高到低排序;
对于一目标类别,选择置信度最高的检测框,计算剩余检测框与置信度最高的检测框的面积交并比,去除交并比大于预设阈值的检测框,并重复执行当前步骤,至所有检测框已处理完成。
13.一种目标检测系统,用于实现权利要求1至12中任一项所述的目标检测方法,其特征在于,所述系统包括:
数据采集模块,用于获取点云检测数据,确定x-y平面内的二维点云图像;
张量获取模块,用于将所述二维点云图像划分为多个网格,获取所述多个网格中非空网格的张量,所述非空网格的张量包括所述网格中各个点的位置信息和反射率以及所述网格中点云的数量,以及基于所述非空网格的张量确定所述二维点云图像的张量;
特征提取模块,用于将所述二维点云图像的张量输入特征提取网络,得到所述特征提取网络输出的特征图;
目标检测模块,用于将所述特征图输入目标检测网络,得到所述目标检测网络输出的目标类别和检测框位置。
14.一种目标检测设备,其特征在于,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1至12中任一项所述的目标检测方法的步骤。
15.一种计算机可读存储介质,用于存储程序,其特征在于,所述程序被处理器执行时实现权利要求1至12中任一项所述的目标检测方法的步骤。
CN202110044928.XA 2021-01-13 2021-01-13 目标检测方法、系统、设备及存储介质 Pending CN112818756A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110044928.XA CN112818756A (zh) 2021-01-13 2021-01-13 目标检测方法、系统、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110044928.XA CN112818756A (zh) 2021-01-13 2021-01-13 目标检测方法、系统、设备及存储介质

Publications (1)

Publication Number Publication Date
CN112818756A true CN112818756A (zh) 2021-05-18

Family

ID=75869274

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110044928.XA Pending CN112818756A (zh) 2021-01-13 2021-01-13 目标检测方法、系统、设备及存储介质

Country Status (1)

Country Link
CN (1) CN112818756A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113449799A (zh) * 2021-06-30 2021-09-28 上海西井信息科技有限公司 目标检测与分类方法、系统、设备及存储介质
CN113537602A (zh) * 2021-07-20 2021-10-22 中国第一汽车股份有限公司 车辆行为预测方法、装置、设备及介质
CN114966658A (zh) * 2022-05-19 2022-08-30 安徽蔚来智驾科技有限公司 目标检测方法、计算机设备、计算机可读存储介质及车辆

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106951847A (zh) * 2017-03-13 2017-07-14 百度在线网络技术(北京)有限公司 障碍物检测方法、装置、设备及存储介质
CN107622244A (zh) * 2017-09-25 2018-01-23 华中科技大学 一种基于深度图的室内场景精细化解析方法
CN108345831A (zh) * 2017-12-28 2018-07-31 新智数字科技有限公司 基于点云数据的道路图像分割的方法、装置以及电子设备
CN110705563A (zh) * 2019-09-07 2020-01-17 创新奇智(重庆)科技有限公司 一种基于深度学习的工业零件关键点检测方法
CN111209825A (zh) * 2019-12-31 2020-05-29 武汉中海庭数据技术有限公司 一种用于动态目标3d检测的方法和装置
CN111444814A (zh) * 2020-03-23 2020-07-24 北京迈格威科技有限公司 目标检测方法、装置、电子设备及可读存储介质
CN111583337A (zh) * 2020-04-25 2020-08-25 华南理工大学 一种基于多传感器融合的全方位障碍物检测方法
CN111862101A (zh) * 2020-07-15 2020-10-30 西安交通大学 一种鸟瞰图编码视角下的3d点云语义分割方法
CN111862222A (zh) * 2020-08-03 2020-10-30 湖北亿咖通科技有限公司 一种目标检测方法及电子设备
CN112184867A (zh) * 2020-09-23 2021-01-05 中国第一汽车股份有限公司 点云特征提取方法、装置、设备及存储介质
CN112200129A (zh) * 2020-10-28 2021-01-08 中国人民解放军陆军航空兵学院陆军航空兵研究所 一种基于深度学习的三维目标检测方法、装置及终端设备

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106951847A (zh) * 2017-03-13 2017-07-14 百度在线网络技术(北京)有限公司 障碍物检测方法、装置、设备及存储介质
CN107622244A (zh) * 2017-09-25 2018-01-23 华中科技大学 一种基于深度图的室内场景精细化解析方法
CN108345831A (zh) * 2017-12-28 2018-07-31 新智数字科技有限公司 基于点云数据的道路图像分割的方法、装置以及电子设备
CN110705563A (zh) * 2019-09-07 2020-01-17 创新奇智(重庆)科技有限公司 一种基于深度学习的工业零件关键点检测方法
CN111209825A (zh) * 2019-12-31 2020-05-29 武汉中海庭数据技术有限公司 一种用于动态目标3d检测的方法和装置
CN111444814A (zh) * 2020-03-23 2020-07-24 北京迈格威科技有限公司 目标检测方法、装置、电子设备及可读存储介质
CN111583337A (zh) * 2020-04-25 2020-08-25 华南理工大学 一种基于多传感器融合的全方位障碍物检测方法
CN111862101A (zh) * 2020-07-15 2020-10-30 西安交通大学 一种鸟瞰图编码视角下的3d点云语义分割方法
CN111862222A (zh) * 2020-08-03 2020-10-30 湖北亿咖通科技有限公司 一种目标检测方法及电子设备
CN112184867A (zh) * 2020-09-23 2021-01-05 中国第一汽车股份有限公司 点云特征提取方法、装置、设备及存储介质
CN112200129A (zh) * 2020-10-28 2021-01-08 中国人民解放军陆军航空兵学院陆军航空兵研究所 一种基于深度学习的三维目标检测方法、装置及终端设备

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113449799A (zh) * 2021-06-30 2021-09-28 上海西井信息科技有限公司 目标检测与分类方法、系统、设备及存储介质
CN113449799B (zh) * 2021-06-30 2023-11-24 上海西井科技股份有限公司 目标检测与分类方法、系统、设备及存储介质
CN113537602A (zh) * 2021-07-20 2021-10-22 中国第一汽车股份有限公司 车辆行为预测方法、装置、设备及介质
CN113537602B (zh) * 2021-07-20 2022-12-02 中国第一汽车股份有限公司 车辆行为预测方法、装置、设备及介质
CN114966658A (zh) * 2022-05-19 2022-08-30 安徽蔚来智驾科技有限公司 目标检测方法、计算机设备、计算机可读存储介质及车辆

Similar Documents

Publication Publication Date Title
JP7254823B2 (ja) 物体の検出および特徴付けのためのニューラルネットワーク
JP6831414B2 (ja) 測位のための方法、測位のための装置、デバイス及びコンピュータ読み取り可能な記憶媒体
CN112818756A (zh) 目标检测方法、系统、设备及存储介质
WO2017215622A1 (zh) 物体分割方法及装置、计算设备
CN108629231B (zh) 障碍物检测方法、装置、设备及存储介质
CN110866449A (zh) 识别道路中目标对象的方法和装置
CN109190573B (zh) 应用于无人驾驶车辆的地面检测方法、电子设备、车辆
CN108509820B (zh) 障碍物分割方法及装置、计算机设备及可读介质
EP3881226A1 (en) Object classification using extra-regional context
JP6857697B2 (ja) 車両位置決め方法、車両位置決め装置、電子機器及びコンピュータ読み取り可能な記憶媒体
CN112258519B (zh) 一种高精度地图制作中道路的让行线自动化提取方法及装置
CN113761999A (zh) 一种目标检测方法、装置、电子设备和存储介质
CN113920538B (zh) 目标检测方法、装置、设备、存储介质及计算机程序产品
CN110889399A (zh) 基于深度学习的高分辨率遥感影像弱小目标检测方法
CN114882316A (zh) 目标检测模型训练方法、目标检测方法及装置
CN115147798A (zh) 可行驶区域预测方法、模型、装置及车辆
CN114325759A (zh) 激光雷达定位中的动态障碍物剔除方法及相关方法、装置
CN114092660A (zh) 高精地图生成方法、装置及用于生成地图的车辆
CN113192057A (zh) 目标检测方法、系统、设备及存储介质
CN110555352A (zh) 一种兴趣点识别方法、装置、服务器和存储介质
CN113449799B (zh) 目标检测与分类方法、系统、设备及存储介质
CN110766793A (zh) 一种基于语义点云的地图构建方法及装置
CN116520302A (zh) 应用于自动驾驶系统的定位方法和构建三维地图的方法
US20220261713A1 (en) Computer Vision Systems and Methods for Detecting Power Line Hazards from Imagery
CN115527187A (zh) 一种障碍物的分类方法以及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: Room 503-3, 398 Jiangsu Road, Changning District, Shanghai 200050

Applicant after: Shanghai Xijing Technology Co.,Ltd.

Address before: Room 503-3, 398 Jiangsu Road, Changning District, Shanghai 200050

Applicant before: SHANGHAI WESTWELL INFORMATION AND TECHNOLOGY Co.,Ltd.

RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20210518