CN112686136B - 一种对象检测方法、装置及系统 - Google Patents
一种对象检测方法、装置及系统 Download PDFInfo
- Publication number
- CN112686136B CN112686136B CN202011589252.4A CN202011589252A CN112686136B CN 112686136 B CN112686136 B CN 112686136B CN 202011589252 A CN202011589252 A CN 202011589252A CN 112686136 B CN112686136 B CN 112686136B
- Authority
- CN
- China
- Prior art keywords
- image
- target object
- passing area
- motor vehicle
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Abstract
本申请实施例提供了一种对象检测方法、装置及系统,涉及图像检测技术领域,包括:获得图像采集设备采集的图像,其中,所述图像用于反映机动车辆行驶前方的环境;识别所述图像中目标对象的位置及行进方向,并识别所述图像中的通行区域和所述通行区域的方位;获得所述机动车辆的车辆行驶方向,并根据所述车辆行驶方向和所述通行区域的方位,从识别出的通行区域中确定处于所述机动车辆行驶路线上的目标通行区域;在检测到所述目标对象的位置处于所述目标通行区域上、且所述目标对象的行进方向为靠近所述机动车辆的方向的情况下,确定所述目标对象为需要礼让的对象。应用本申请实施例提供的方案可以提高对象检测的准确度。
Description
技术领域
本申请涉及图像检测技术领域,特别是涉及一种对象检测方法、装置及系统。
背景技术
在交通监控场景中,为了保证机动车辆规范行驶,通常需要检测机动车辆需要礼让的目标对象,上述目标对象可以是行人或非机动机动车辆。具体的,若目标对象处于斑马线上,则认为上述目标对象为需要礼让的对象,这种情况下,机动车辆应该减速停车,礼让目标对象优先通过斑马线。
现有技术中,通常由图像采集设备采集交通监控场景的图像,预先设定图像中的预设区域为斑马线区域,检测上述图像中斑马线区域是否存在目标对象,若存在,则认为上述目标对象为需要礼让的对象。
应用现有技术虽然可以实现对需要礼让的对象的检测,但是在进行对象检测时,仅考虑到了预设的图像中的斑马线区域的位置,考虑的信息片面,从而导致对象检测的准确度较低。
发明内容
本申请实施例的目的在于提供一种对象检测方法、装置及系统,以提高对象检测的准确度。具体技术方案如下:
第一方面,本申请实施例提供了一种对象检测方法,所述方法包括:
获得图像采集设备采集的图像,其中,所述图像用于反映机动车辆行驶前方的环境;
识别所述图像中目标对象的位置及行进方向,并识别所述图像中的通行区域和所述通行区域的方位,其中,所述目标对象包括行人和/或非机动车辆,所述通行区域为:用于所述目标对象通行的区域,所述方位表征所述通行区域相对所述机动车辆的位置;
获得所述机动车辆的车辆行驶方向,并根据所述车辆行驶方向和所述通行区域的方位,从识别出的通行区域中确定处于所述机动车辆行驶路线上的目标通行区域;
在检测到所述目标对象的位置处于所述目标通行区域上、且所述目标对象的行进方向为靠近所述机动车辆的方向的情况下,确定所述目标对象为需要礼让的对象。
本申请的一个实施例中,所述识别所述图像中的通行区域和所述通行区域的方位,包括:
提取所述图像的第一特征,得到所述图像的第一特征图;
根据所述第一特征图,获得所述图像中各个像素点的语义信息和聚类特征向量,其中,所述语义信息用于表征像素点所属的类别,所述类别包括区域像素点、非区域像素点,所述聚类特征向量用于表征像素点所属的通行区域;
根据各个像素点的聚类特征向量,对所述区域像素点进行聚类,根据聚类结果确定所述图像中的通行区域;
针对每一通行区域,根据所述第一特征图中该通行区域的像素点的第一特征,确定该通行区域的方位。
本申请的一个实施例中,所述提取所述图像的第一特征,得到所述图像的第一特征图,包括:
将所述图像输入预设的通行区域识别模型中的第一全卷积层,通过所述第一全卷积层按照对所述图像进行降采样的方式对所述图像进行卷积变换处理,得到反映所述图像第一特征的第一特征图,其中,所述通行区域识别模型用于识别图像中的通行区域并获得所识别的通行区域的方位,所述通行区域识别模型还包括:语义分支卷积层、特征分支卷积层、聚类层、第二全卷积层;
所述根据所述第一特征图,获得所述图像中各个像素点的语义信息,包括:
将所述第一特征图输入所述语义分支反卷积层,通过所述语义分支反卷积层对所述第一特征图像进行反卷积变换,得到所述图像中各个像素点的语义信息,根据各个像素点的语义信息确定区域像素点;
所述根据所述第一特征图,获得所述图像中各个像素点的聚类特征向量,包括:
将所述第一特征图输入所述特征分支反卷积层,通过所述特征分支反卷积层对所述第一特征图像进行反卷积变换,得到所述图像中各个像素点的聚类特征向量;
所述根据各个像素点的聚类特征向量,对所述区域像素点进行聚类,根据聚类结果确定所述图像中的通行区域,包括:
根据各个像素点的聚类特征向量,利用所述聚类层对所述区域像素点进行聚类,根据聚类结果确定所述图像中的通行区域;
所述针对每一通行区域,根据所述第一特征图中该通行区域的像素点的第一特征,确定该通行区域的方位,包括:
针对每一通行区域,提取所述第一特征图中该通行区域对应的特征区域,将所提取的特征区域输入所述第二全卷积层,获得所述第二全卷积层输出的该通行区域的方位。
本申请的一个实施例中,所述识别所述图像中目标对象的位置及行进方向,包括:
提取所述图像的第二特征,得到所述图像的第二特征图;
识别所述第二特征图中的目标对象,获得所识别的目标对象的位置;
提取所述第二特征图中所述目标对象所在的对象区域;
基于所提取的对象区域确定所述目标对象的行进方向。
本申请的一个实施例中,所述提取所述图像的第二特征,得到所述图像的第二特征图,包括:
将所述图像输入预设的对象识别模型中的第三全卷积层,通过所述第三全卷积层对所述图像进行卷积变换处理,得到反映所述图像第二特征的第二特征图,其中,所述对象识别模型用于:识别图像中目标对象的位置及行进方向,所述对象识别模型还包括:对象识别层、区域提取层、行进方向识别层;
所述识别所述第二特征图中的目标对象,获得所识别的目标对象的位置,包括:
利用所述对象识别层识别所述第二特征图中的目标对象,获得所识别的目标对象的位置;
所述提取所述第二特征图中所述目标对象所在的对象区域,包括:
根据所述目标对象的位置,利用所述区域提取层提取所述第二特征图中所述目标对象所处的对象区域;
所述基于所提取的对象区域确定所述目标对象的行进方向,包括:
将所提取的对象区域输入所述行进方向识别层,得到所述目标对象的行进方向。
本申请的一个实施例中,所述图像采集设备部署于所述机动车辆上。
本申请的一个实施例中,所述图像采集设备包括长焦图像采集设备和广角图像采集设备;
所述方法还包括:
在当前处于工作状态的图像采集设备为所述长焦图像采集设备的情况下,若检测到当前获得的图像中存在通行区域,切换所述广角图像采集设备处于工作状态;
在当前处于工作状态的图像采集设备为所述广角图像采集设备的情况下,若检测到当前获得的图像中不存在通行区域,切换所述长焦图像采集设备处于工作状态;
所述获得图像采集设备采集的图像,包括:
获得当前处于工作状态的图像采集设备采集的图像。
本申请的一个实施例中,所述方法还包括:
判断所述机动车辆是否驶过所述目标通行区域,若为是,确定所述机动车辆未礼让所述目标对象;和/或
在确定所述机动车辆未礼让所述目标对象的情况下,将所述机动车辆驶过所述目标通行区域过程中获得的图像以及所述机动车辆的车辆信息发送至信息平台。
第二方面,本申请实施例提供了一种对象检测装置,所述装置包括:
图像获得模块,用于获得图像采集设备采集的图像,其中,所述图像用于反映机动车辆行驶前方的环境;
对象识别模块,用于识别所述图像中目标对象的位置及行进方向,其中,所述目标对象包括行人和/或非机动车辆;
通行区域识别模块,用于识别所述图像中的通行区域和所述通行区域的方位,其中,所述通行区域为:用于所述目标对象通行的区域,所述方位表征所述通行区域相对所述机动车辆的位置;
目标区域确定模块,用于获得所述机动车辆的车辆行驶方向,并根据所述车辆行驶方向和所述通行区域的方位,从识别出的通行区域中确定处于所述机动车辆行驶路线上的目标通行区域;
对象检测模块,用于在检测到所述目标对象的位置处于所述目标通行区域上、且所述目标对象的行进方向为靠近所述机动车辆的方向的情况下,确定所述目标对象为需要礼让的对象。
本申请的一个实施例中,所述通行区域识别模块,包括:
第一特征提取单元,用于提取所述图像的第一特征,得到所述图像的第一特征图;
信息提取单元,用于根据所述第一特征图,获得所述图像中各个像素点的语义信息和聚类特征向量,其中,所述语义信息用于表征像素点所属的类别,所述类别包括区域像素点、非区域像素点,所述聚类特征向量用于表征像素点所属的通行区域;
像素点聚类单元,用于根据各个像素点的聚类特征向量,对所述区域像素点进行聚类,根据聚类结果确定所述图像中的通行区域;
方位确定单元,用于针对每一通行区域,根据所述第一特征图中该通行区域的像素点的第一特征,确定该通行区域的方位。
本申请的一个实施例中,所述第一特征提取单元,具体用于:
将所述图像输入预设的通行区域识别模型中的第一全卷积层,通过所述第一全卷积层按照对所述图像进行降采样的方式对所述图像进行卷积变换处理,得到反映所述图像第一特征的第一特征图,其中,所述通行区域识别模型用于识别图像中的通行区域并获得所识别的通行区域的方位,所述通行区域识别模型还包括:语义分支卷积层、特征分支卷积层、聚类层、第二全卷积层;
所述信息提取单元,具体用于:
将所述第一特征图输入所述语义分支反卷积层,通过所述语义分支反卷积层对所述第一特征图像进行反卷积变换,得到所述图像中各个像素点的语义信息,根据各个像素点的语义信息确定区域像素点;
将所述第一特征图输入所述特征分支反卷积层,通过所述特征分支反卷积层对所述第一特征图像进行反卷积变换,得到所述图像中各个像素点的聚类特征向量;
所述像素点聚类单元,具体用于:
根据各个像素点的聚类特征向量,利用所述聚类层对所述区域像素点进行聚类,根据聚类结果确定所述图像中的通行区域;
所述方位确定单元,具体用于:
针对每一通行区域,提取所述第一特征图中该通行区域对应的特征区域,将所提取的特征区域输入所述第二全卷积层,获得所述第二全卷积层输出的该通行区域的方位。
本申请的一个实施例中,所述对象识别模块,包括:
第二特征提取单元,用于提取所述图像的第二特征,得到所述图像的第二特征图;
对象识别单元,用于识别所述第二特征图中的目标对象,获得所识别的目标对象的位置;
区域提取单元,用于提取所述第二特征图中所述目标对象所在的对象区域;
行进方向确定单元,用于基于所提取的对象区域确定所述目标对象的行进方向。
本申请的一个实施例中,所述第二特征提取单元,具体用于:
将所述图像输入预设的对象识别模型中的第三全卷积层,通过所述第三全卷积层对所述图像进行卷积变换处理,得到反映所述图像第二特征的第二特征图,其中,所述对象识别模型用于:识别图像中目标对象的位置及行进方向,所述对象识别模型还包括:对象识别层、区域提取层、行进方向识别层;
所述对象识别单元,具体用于:
利用所述对象识别层识别所述第二特征图中的目标对象,获得所识别的目标对象的位置;
所述区域提取单元,具体用于:
根据所述目标对象的位置,利用所述区域提取层提取所述第二特征图中所述目标对象所处的对象区域;
所述行进方向确定单元,具体用于:
将所提取的对象区域输入所述行进方向识别层,得到所述目标对象的行进方向。
本申请的一个实施例中,所述图像采集设备部署于所述机动车辆上。
本申请的一个实施例中,所述图像采集设备包括长焦图像采集设备和广角图像采集设备;
所述装置还包括设备切换模块,用于:
在当前处于工作状态的图像采集设备为所述长焦图像采集设备的情况下,若检测到当前获得的图像中存在通行区域,切换所述广角图像采集设备处于工作状态;
在当前处于工作状态的图像采集设备为所述广角图像采集设备的情况下,若检测到当前获得的图像中不存在通行区域,切换所述长焦图像采集设备处于工作状态;
所述图像获得模块,具体用于:
获得当前处于工作状态的图像采集设备采集的图像。
本申请的一个实施例中,所述装置还包括:行为检测模块,用于在确定所述目标对象为需要礼让的对象之后,判断所述机动车辆是否驶过所述目标通行区域,若为是,确定所述机动车辆未礼让所述目标对象。
本申请的一个实施例中,所述装置还包括信息发送模块,用于:
在确定所述机动车辆未礼让所述目标对象的情况下,将所述机动车辆驶过所述目标通行区域过程中获得的图像以及所述机动车辆的车辆信息发送至信息平台。
第三方面,本申请实施例提供了一种对象检测系统,所述系统包括车载图像采集设备、信息平台,所述车载图像采集设备部署于机动车辆上,其中:
所述车载图像采集设备用于:采集反映所述机动车辆行驶前方的环境的图像;识别所述图像中目标对象的位置及行进方向,并识别所述图像中的通行区域和所述通行区域的方位,其中,所述目标对象包括行人和/或非机动车辆,所述通行区域为:用于所述目标对象通行的区域,所述方位表征所述通行区域相对所述机动车辆的位置;获得所述机动车辆的车辆行驶方向,并根据所述车辆行驶方向和所述通行区域的方位,从识别出的通行区域中确定处于所述机动车辆行驶路线上的目标通行区域;在检测到所述目标对象的位置处于所述目标通行区域上、且所述目标对象的行进方向为靠近所述机动车辆的方向的情况下,确定所述目标对象为需要礼让的对象;判断所述机动车辆是否驶过所述目标通行区域,若为是,确定所述机动车辆未礼让所述目标对象;在确定所述机动车辆未礼让所述目标对象的情况下,将所述机动车辆驶过所述目标通行区域过程中获得的图像以及所述机动车辆的车辆信息发送至所述信息平台;
所述信息平台用于:接收所述车载图像采集设备发送的图像和车辆信息。
第四方面,本申请实施例提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现第一方面任一所述的方法。
第五方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现第一方面任一所述的方法。
本申请实施例还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行第一方面任一所述的对象检测方法。
本申请实施例有益效果:
本申请实施例提供的对象检测方案中,获得图像采集设备采集的图像,其中,图像用于反映机动车辆行驶前方的环境;识别图像中目标对象的位置及行进方向,并识别图像中的通行区域和通行区域的方位,其中,目标对象包括行人和/或非机动车辆,通行区域为:用于目标对象通行的区域,方位表征通行区域相对机动车辆的位置;获得机动车辆的车辆行驶方向,并根据车辆行驶方向和通行区域的方位,从识别出的通行区域中确定处于机动车辆行驶路线上的目标通行区域;由于目标通行区域为机动车辆行驶过程中会经过的通行区域,因此若检测到目标对象的位置处于目标通行区域上,则可以认为车辆行驶过程中会经过上述目标对象。进而,若检测到目标对象的行进方向为靠近机动车辆的方向,则可以认为车辆在驶过上述目标通行区域时将会对上述目标对象造成阻碍,因此可以确定目标对象为需要礼让的对象。由此可见,应用本申请实施例提供的对象检测方案,不仅考虑了通行区域的方位,还考虑了车辆行驶方向、目标对象的行进方向,考虑的信息更加全面,从而可以提高对象检测的准确度。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的实施例。
图1为本申请实施例提供的一种对象检测方法的流程示意图;
图2为本申请实施例提供的一种通行区域识别方法的流程示意图;
图3a为本申请实施例提供的一种通行区域识别模型的结构示意图;
图3b为本申请实施例提供的一种通行区域识别模型的推理过程示意图;
图4为本申请实施例提供的一种目标对象识别方法的流程示意图;
图5a为本申请实施例提供的一种对象识别模型的结构示意图;
图5b为本申请实施例提供的一种对象识别模型的推理过程示意图;
图6a为本申请实施例提供的一种长焦图像采集设备采集的示意图像;
图6b为本申请实施例提供的一种广角图像采集设备采集的示意图像;
图7为本申请实施例提供的一种广角图像采集设备的安装示意图;
图8为本申请实施例提供的一种长焦图像采集设备和广角图像采集设备交替过程的示意图;
图9为本申请实施例提供的一种对象检测系统的结构示意图;
图10a为本申请实施例提供的一种车载图像采集设备的结构示意图;
图10b为本申请实施例提供的一种信息平台的结构示意图;
图11为本申请实施例提供的一种对象检测装置的结构示意图;
图12为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
为了提高对象检测的准确度,本申请实施例提供了一种对象检测方法、装置及系统,下面分别进行详细介绍。
参见图1,图1为本申请实施例提供的一种对象检测方法的流程示意图。该方法可以应用于电子计算机、图像采集设备、NVR(Network Video Recorder,网络视频录像机)等,对象检测方法包括如下步骤101至步骤104。
步骤101,获得图像采集设备采集的图像。
其中,图像用于反映机动车辆行驶前方的环境。具体的,图像采集设备可以采集机动车辆行驶前方的环境的图像。
本申请的一个实施例中,图像采集设备可以部署于机动车辆上。例如,图像采集设备可以部署在机动车辆的车顶、车辆头部、车辆侧方等,图像采集设备可以朝向车辆行驶前方。从而便于图像采集设备采集车辆行驶前方环境的图像。
这样通过部署在机动车辆上的图像采集设备进行图像采集,所采集到的图像的清晰度更高,进而根据所采集的图像进行对象检测,所得到的检测结果的准确度也更高。
本申请的一个实施例中,图像采集设备还可以架设在交通路口,用于采集驶入交通路口的机动车辆行驶前方的环境的图像。
本申请的又一实施例中,图像采集设备还可以部署在其他机动车辆上,如巡逻车、执勤车、或一般的机动车辆上。这样后续可以利用其他机动车辆对交通监控场景中需要礼让的目标对象进行检测,进而还可以对场景中未礼让目标对象的机动车辆进行检测。这种情况下,图像采集设备可以安装在其他机动车辆的车顶、车辆头部、车辆尾部等。
步骤102,识别图像中目标对象的位置及行进方向,并识别图像中的通行区域和通行区域的方位。
其中,目标对象包括行人和/或非机动车辆,上述非机动车辆可以是自行车、电动车、畜力车等。上述行进方向可以是靠近机动车辆的方向、远离机动车辆的方向等。
通行区域为:用于目标对象通行的区域,例如,上述通行区域可以是斑马线、非机动车道等。方位表征通行区域相对机动车辆的位置,例如,上述方位可以是:左侧、右侧、前方、左前方、右前方等。
具体的,由于上述图像可以反映机动车辆行驶前方的环境,因此通过对图像进行识别,可以获得机动车辆行驶前方的目标对象的位置和行进方向,并识别机动车辆行驶前方的通行区域,以及通行区域相对机动车辆的方位。
本申请的一个实施例中,在识别目标对象的位置时,可以利用第一边缘检测算法检测图像中的目标对象,进而获得所识别的目标对象的位置,上述第一边缘检测算法可以是Sobel(索贝尔)算法、Canny(坎尼)算法、Laplacian(拉普拉斯)算法等。
在识别目标对象的行进方向时,可以识别目标对象的朝向,例如,在目标对象为行人的情况下,可以识别行人面部所对的方向;在目标对象为自行车的情况下,可以识别自行车车头所对的方向。进而将目标对象的朝向作为行进方向。
还可以获得多张图像,对多张图像中的目标对象进行目标追踪,得到目标对象的行进路径,根据上述行进路径确定目标对象的行进方向。
本申请的一个实施例中,在识别图像中通行区域及方位时,也可以采用第二边缘检测算法检测图像中的通行区域。除此之外,还可以检测图像中的图像内容,对所检测到的图像内容进行分类,从而获得所属类别为通行区域的图像内容,实现对图像中通行区域的检测。具体的,可以将图像输入预先训练完成的内容分类模型,上述内容分类模型输出图像所包含的图像内容以及每一图像内容所属的类别,确定所属类别为斑马线、非机动车道等类别的图像内容,作为通行区域。
本申请的一个实施例中,在获得通行区域的方位时,可以根据检测到的通行区域在图像中的位置,确定所检测到的通行区域的方位。
例如,在图像采集设备部署于机动车辆上的情况下,若检测到的通行区域处于图像的左侧,则可以确定上述通行区域处于机动车辆的左侧;若检测到通行区域处于图像的中部,则可以确定上述通行区域处于机动车辆的前方。
在图像采集设备架设在交通路口的情况下,可以检测图像中机动车辆的位置和朝向,进而根据图像中通行区域相对机动车辆的位置及机动车辆在图像中的朝向,确定通行区域的方位。假设检测到图像中通行区域处于右上方,机动车辆处于左下方,机动车辆在图像中的朝向为:朝向正上方,因此可以确定通行区域相对机动车辆的方位为:右前方。
步骤103,获得机动车辆的车辆行驶方向,并根据车辆行驶方向和通行区域的方位,从识别出的通行区域中确定处于机动车辆行驶路线上的目标通行区域。
其中,上述车辆行驶方向可以是向前行驶、向右行驶、向左行驶等。上述车辆行驶方向可以表征机动车辆的行驶路线。上述目标通行区域为处于车辆行驶路线上的通行区域,可以理解为车辆行驶过程中需要经过的通行区域。
具体的,可以首先获得机动车辆的车辆行驶方向,然后根据上述车辆行驶方向和通行区域的方位,确定处于机动车辆行驶路线上的通行区域,作为目标通行区域。
例如,假设上述步骤102中识别到的通行区域包含第一通行区域TX1、第二通行区域TX2、第三通行区域TX3,其中TX1的方位为处于机动车辆左侧、TX2的方位为处于机动车辆前方、TX3的方位为处于机动车辆右侧。若所获得的机动车辆的车辆行驶方向为向右行驶,则可以推测机动车辆行驶路线为先向前行驶再向右转弯,因此处于车辆行驶路线上的通行区域为TX2和TX3,进而可以将上述TX2和TX3作为目标通行区域。
本申请的一个实施例中,在获得机动车辆的车辆行驶方向时,若图像采集设备架设在交通路口,则图像采集设备所采集的图像中包含机动车辆自身,这种情况下可以检测图像中机动车辆的转向灯状态,若机动车辆的左转向灯亮,则可以确定机动车辆的车辆行驶方向为向左行驶,若机动车辆的右转向灯亮,则可以确定机动车辆的车辆行驶方向为向右行驶,若机动车辆的左、右转向灯均不亮,则可以确定机动车辆的车辆行驶方向为向前行驶。
若图像采集设备部署于机动车辆上,则图像采集设备所采集的图像中难以包含机动车辆自身,这种情况下电子设备可以获得机动车辆的方向控制指令,根据上述方向控制指令确定机动车辆的车辆行驶方向。上述方向控制指令可以是导航控制指令、方向盘控制指令、转向灯控制指令等。
步骤104,在检测到目标对象的位置处于目标通行区域上、且目标对象的行进方向为靠近机动车辆的方向的情况下,确定目标对象为需要礼让的对象。
具体的,由于目标通行区域为机动车辆行驶过程中会经过的通行区域,因此若检测到目标对象的位置处于目标通行区域上,则可以认为车辆行驶过程中会经过上述目标对象。进而,若目标对象的行进方向为靠近机动车辆的方向,则可以认为车辆在驶过上述目标通行区域时将会对上述目标对象造成阻碍。因此,可以将上述目标对象确定为需要礼让的对象。
本申请的一个实施例中,在步骤104确定目标对象为需要礼让的对象步骤之后,还可以判断机动车辆是否驶过目标通行区域,若为是,确定机动车辆未礼让目标对象;若为否,则确定机动车辆礼让目标对象。
具体的,若检测到目标通行区域中存在需要礼让的目标对象,而机动车辆直接驶过该目标通行区域,则可以认为该机动车辆未礼让上述目标对象,若为否,则可以认为机动车辆减速慢行或停车,因此认为机动车辆礼让目标对象。
本申请的一个实施例中,若图像采集设备部署于机动车辆上,则可以通过判断上述目标通行区域是否在图像采集设备所采集的图像中消失,来判断机动车辆是否驶过目标通行区域。具体的,由于图像采集设备可以采集机动车辆行驶前方的环境的图像,若机动车辆未驶过目标通行区域,则图像采集设备所采集的图像中可以包含上述目标通行区域;若机动车辆驶过上述目标通行区域,则上述图像中则不再包含目标通行区域。
本申请的一个实施例中,在步骤104确定目标对象为需要礼让的对象步骤之后,还可以生成礼让目标对象的预警提示。其中,上述预警提示可以提示用户减速慢行,礼让目标对象。
上述实施例提供的对象检测方案中,获得图像采集设备采集的图像,其中,图像用于反映机动车辆行驶前方的环境;识别图像中目标对象的位置及行进方向,并识别图像中的通行区域和通行区域的方位,其中,目标对象包括行人和/或非机动车辆,通行区域为:用于目标对象通行的区域,方位表征通行区域相对机动车辆的位置;获得机动车辆的车辆行驶方向,并根据车辆行驶方向和通行区域的方位,从识别出的通行区域中确定处于机动车辆行驶路线上的目标通行区域;由于目标通行区域为机动车辆行驶过程中会经过的通行区域,因此若检测到目标对象的位置处于目标通行区域上,则可以认为车辆行驶过程中会经过上述目标对象。进而,若检测到目标对象的行进方向为靠近机动车辆的方向,则可以认为车辆在驶过上述目标通行区域时将会对上述目标对象造成阻碍,因此可以确定目标对象为需要礼让的对象。由此可见,应用上述实施例提供的对象检测方案,不仅考虑了通行区域的方位,还考虑了车辆行驶方向、目标对象的行进方向,考虑的信息更加全面,从而可以提高对象检测的准确度。
参见图2,图2为本申请实施例提供的一种通行区域识别方法的流程示意图。对于上述步骤102,在识别图像中的通行区域和通行区域的方位时,可以包括如下步骤201至步骤204。
步骤201,提取图像的第一特征,得到图像的第一特征图。
其中,上述第一特征中可以包含图像中各个像素点的语义特征、位置特征、纹理特征等。可以提取图像中的第一特征,根据第一特征生成对应的第一特征图,便于后续根据第一特征图得到图像中各个像素点的语义信息和聚类特征向量。
本申请的一个实施例中,可以利用降采样的方式抓取图像的第一特征,从而得到图像的第一特征图。也可以利用预先训练完成的第一特征提取算法,提取图像的第一特征,得到第一特征图。其中,在进行降采样处理时,可以利用卷积网络对图像进行卷积变换,从而实现降采样处理。
步骤202,根据第一特征图,获得图像中各个像素点的语义信息和聚类特征向量。
其中,语义信息用于表征像素点所属的类别,类别包括区域像素点、非区域像素点,上述区域像素点为:表示通行区域的像素点,非区域像素点为:不表示通行区域的像素点。
上述聚类特征向量用于表征像素点所属的通行区域。图像中可能包含多个通行区域,不同的通行区域由不同的区域像素点组成,根据区域像素点的聚类特征向量,可以区分用于组成不同的通行区域的像素点。
本申请的一个实施例中,上述聚类特征向量可以用于表征像素点所反映的环境位置相对机动车辆的方向。每一像素点所反映的环境位置为:图像中该像素点所对应的实际环境的位置。上述特征向量可以是八维的向量,分别用于表征上、下、左、右、左上、右上、左下、右下八个方向。上述特征向量也可以是四维的向量,分别用于表征上、下、左、右四个方向。
本申请的一个实施例中,可以将第一特征图输入预先训练完成的语义信息提取模型,得到各个像素点的语义信息。
本申请的一个实施例中,在获得各个像素点的语义信息和聚类特征向量之前,还可以首先对第一特征图进行反卷积变换,这样首先对图像进行卷积变换,再对图像进行反卷积变换,可以筛除图像中的干扰特征,提高后续进行通行区域识别的准确度。
本申请的一个实施例中,基于各个像素点的语义信息可以获得图像中表示通行区域的区域像素点,对上述区域像素点进行标记,可以得到通行区域掩模图,其中通行区域掩模图中的掩膜区域即为图像中的通行区域。
步骤203,根据各个像素点的聚类特征向量,对区域像素点进行聚类,根据聚类结果确定图像中的通行区域。
具体的,上述步骤202中可以得到图像中属于通行区域的各个区域像素点,由于图像中可能存在多个通行区域,因此需要对上述区域像素点进行划分,将属于同一通行区域的像素点划分为一类,从而确定用于组成不同通行区域的区域像素点。
本申请的一个实施例中,还可以计算各个像素点的聚类特征向量之间的相似度,将相似度大于等于预设的相似度阈值的像素点聚为一类,将聚为一类的像素点所组成的图像区域作为一个通行区域。其中,可以利用余弦相似度算法、欧式距离算法等计算聚类特征向量之间的相似度。
本申请的一个实施例中,可以利用预设的聚类算法对各个区域像素点进行聚类,从而得到聚类结果。其中,上述聚类算法可以是Mean-shift算法、DBSCAN(Density-BasedSpatial Clustering of Applications with Noise,基于密度的聚类算法)等。
本申请的一个实施例中,在得到各个不同的通行区域后,可以为不同的通行区域设置标记框,便于后续根据通行区域的位置确定目标通行区域以及进行对象检测。上述标记框可以是矩形标记框、椭圆形标记框等。
步骤204,针对每一通行区域,根据所述第一特征图中该通行区域的像素点的第一特征,确定该通行区域的方位。
具体的,在上述步骤203中得到不同的通行区域后,可以分别根据第一特征图中各个通行区域的像素点的第一特征,确定各个通行区域相对机动车辆的方位。
本申请的一个实施例中,针对每一通行区域,可以提取第一特征图中该通行区域对应的图像区域,作为特征区域,该特征区域中包含通行区域的各个像素点,从而基于所提取的特征区域的像素点的特征可以确定该通行区域的方位。
本申请的一个实施例中,对于上述图2所示实施例,可以利用预设的通行区域识别模型实现通行区域及方位的识别。其中,上述通行区域识别模型用于识别图像中的通行区域并获得所识别的通行区域的方位。参见图3a,图3a为本申请实施例提供的一种通行区域识别模型的结构示意图。如图所示,通行区域识别模型可以包括:第一全卷积层、语义分支卷积层、特征分支卷积层、聚类层、第二全卷积层。上述通行区域识别模型对图像的处理步骤可以包括如下步骤A-步骤E:
步骤A,将图像输入预设的通行区域识别模型中的第一全卷积层,通过第一全卷积层按照对图像进行降采样的方式对图像进行卷积变换处理,得到反映图像第一特征的第一特征图。
具体的,上述第一全卷积层可以对图像进行卷积变换处理,实现对图像降采样,提取图像中的第一特征,进而得到第一特征图。
本申请的一个实施例中,通行区域识别模型中还可以包含共享编码层,可以将第一全卷积层输出的第一特征图共享至后续的语义分支反卷积层和特征分支反卷积层。
步骤B,将第一特征图输入语义分支反卷积层,通过语义分支反卷积层对第一特征图像进行反卷积变换,得到图像中各个像素点的语义信息,根据各个像素点的语义信息确定区域像素点。
具体的,可以将第一特征图输入上述语义分支反卷积层,语义分支反卷积层可以首先对第一特征图进行反卷积变换,再对反卷积变换后的第一特征图中各个像素点进行语义信息提取。由于语义信息可以表征各个像素点所属的类别,因此可以根据各个像素点的语义信息确定区域像素点。
除此之外,还可以对各个区域像素点进行标记,从而得到通行区域掩模图。
步骤C,将第一特征图输入特征分支反卷积层,通过特征分支反卷积层对第一特征图像进行反卷积变换,得到图像中各个像素点的聚类特征向量。
具体的,可以将第一特征图输入上述特征分支反卷积层,特征分支反卷积层可以首先对第一特征图进行反卷积变换,再对反卷积变换后的第一特征图中各个像素点进行聚类特征向量提取。每一像素点的聚类特征向量可以表征该像素点的方向。
步骤D,根据各个像素点的特征向量,利用聚类层对区域像素点进行聚类,根据聚类结果确定图像中的通行区域。
具体的,可以将各个像素点的语义信息和聚类特征向量输入聚类层,聚类层可以对各个区域像素点进行高维特征聚类,将属于同一通行区域的区域像素点聚为一类,进而将属于一类的区域像素点组成的图像区域作为一通行区域。
步骤E,针对每一通行区域,提取第一特征图中该通行区域对应的特征区域,将所提取的特征区域输入第二全卷积层,获得第二全卷积层输出的该通行区域的方位。
具体的,可以提取第一特征图中该通行区域对应的特征区域,将所提取的特征区域输入第二全卷积层,第二全卷积层中预设了固定类别的方位分类算法,这样第二全卷积层可以根据特征区域中各个像素点的第一特征对各个通行区域的方位进行分类,从而得到各个通行区域的方位。
参见图3b,图3b为本申请实施例提供的一种通行区域识别模型的推理过程示意图。如图所示,可以将图像输入上述通行区域识别模型,通行区域识别模型的第一全卷积层对图像进行第一特征提取,得到第一特征图,并通过共享编码层将第一特征图分享至特征分支反卷积层和语义分支反卷积层,特征分支反卷积层对第一特征图进行反卷积变换,获得第一特征图中像素点的聚类特征向量,语义分支反卷积层对第一特征图进行反卷积变换,获得第一特征图中像素点的语义信息,聚类层基于上述语义信息和聚类特征向量对各个区域像素点进行聚类,从而得到不同的通行区域,第二卷积层进一步得到各个通行区域相对机动车辆的方位。
参见图4,图4为本申请实施例提供的一种目标对象识别方法的流程示意图。对于上述步骤102,在识别图像中目标对象的位置及行进方向时,可以包括如下步骤401至步骤404。
步骤401,提取图像的第二特征,得到图像的第二特征图。
其中,上述第二特征中可以包含图像中各个像素点的语义特征、位置特征、纹理特征等。可以提取图像中的第二特征,根据第二特征生成对应的第二特征图,便于后续根据第二特征图进行对象识别。
本申请的一个实施例中,可以对图像进行卷积变换处理,实现对图像第二特征的提取,从而得到第二特征图。
步骤402,识别第二特征图中的目标对象,获得所识别的目标对象的位置。
本申请的一个实施例中,可以利用目标检测算法检测第二特征图中的对象,并对所检测的对象进行分类,将属于行人和/或非机动车辆的对象确定为目标对象,并获得所识别的目标对象的位置。
本申请的一个实施例中,在识别出目标对象后,还可以为各个目标对象设置标记框,以实现对目标对象的位置的标记,也可以便于提取对象区域及识别目标对象的行进方向。上述标记框可以是矩形标记框、椭圆形标记框等。
步骤403,提取第二特征图中目标对象所在的对象区域。
其中,上述对象区域为目标对象所处的区域,可以用于后续对目标对象行进方向的检测,因此可以将上述对象区域称为ROI(region of interest,感兴趣区域)。
具体的,在获得第二特征图中目标对象的位置后,可以提取第二特征图中目标对象所在的图像区域,作为对象区域。
步骤404,基于所提取的对象区域确定目标对象的行进方向。
具体的,可以根据所提取的对象区域,对目标对象的行进方向进行分类,得到目标对象的行进方向。
本申请的一个实施例中,在确定目标对象的行进方向之前,还可以对上述步骤403中所提取的对象区域进行尺寸变换处理,以实现将对象区域的尺寸调整为预设尺寸,从而便于对对象区域进行检测。上述预设尺寸可以是32*32、16*16、48*48等。
本申请的一个实施例中,对于上述图4所示实施例,可以利用预设的对象识别模型实现目标对象位置及行进方向的识别。其中,对象识别模型用于:识别图像中目标对象的位置及行进方向,对象识别模型可以包括:第三全卷积层、对象识别层、区域提取层、行进方向识别层。上述对象识别模型可以是基于YOLO框架构建得到的网络模型。参见图5a,图5a为本申请实施例提供的一种对象识别模型的结构示意图。如图所示,对象识别模型可以包括:第三全卷积层、对象识别层、区域提取层、行进方向识别层。上述对象识别模型对图像的处理步骤可以包括如下步骤F至步骤I:
步骤F,将图像输入预设的对象识别模型中的第三全卷积层,通过第三全卷积层对图像进行卷积变换处理,得到反映图像第二特征的第二特征图。
其中,上述第三卷积层可以对图像进行卷积变换处理,从而可以提取图像中的第二特征,得到第二特征图。
本申请的一个实施例中,对象识别模型中还可以包含共享编码层,可以将第三全卷积层输出的第二特征图共享至后续的区域提取层和对象识别层。
步骤G,利用对象识别层识别第二特征图中的目标对象,获得所识别的目标对象的位置。
其中,上述对象识别层可以是卷积层或者全连接层。
具体的,对象识别层可以识别第二特征图中的对象,并对所检测的对象进行分类,将属于行人和/或非机动车辆的对象确定为目标对象,并获得所识别的目标对象的位置。
除此之外,在识别出目标对象后,还可以为各个目标对象设置标记框,以实现对目标对象的位置的标记。
步骤H,根据目标对象的位置,利用区域提取层提取第二特征图中目标对象所处的对象区域。
具体的,可以将上述目标对象的标记框和第二特征图输入上述区域提取层,由于上述标记框用于标记目标对象所在的位置,因此区域提取层可以对第二特征图中标记框对应的区域进行提取,从而得到对象区域。
步骤I,将所提取的对象区域输入行进方向识别层,得到目标对象的行进方向。
其中,上述行进方向识别层可以是全卷积层或者全连接层。方向识别层的层数可以是3层、4层、5层等。
具体的,可以将对象区域输入上述方向识别层,方向识别层可以对目标对象的行进方向进行分类,进而获得目标对象的行进方向。
本申请的一个实施例中,在行进方向识别层之前,还可以设置池化层,用于对对象区域进行尺寸变换处理,以实现将对象区域的尺寸调整为预设尺寸,从而便于对对象区域进行检测。
参见图5b,图5b为本申请实施例提供的一种对象识别模型的推理过程示意图。如图所示,可以将图像输入上述对象识别模型,对象识别模型的第三全卷积层对图像进行第二特征提取,得到第二特征图,并通过共享编码层将第二特征图分享至对象识别层和区域提取层,对象识别层对第二特征图进行卷积或全连接处理,识别图像中的目标对象,并设置目标对象的标记框,区域提取层对第二特征图中标记框所示的区域进行区域提取,得到对象区域,池化层对上述对象区域进行尺寸变换,并将尺寸变换后预设尺寸的对象区域输入行进方向识别层,行进方向识别层根据上述对象区域识别目标对象的行进方向。
本申请的一个实施例中,图像采集设备可以包括长焦图像采集设备和广角图像采集设备。
其中,长焦图像采集设备可以用于采集机动车辆前方较远范围的环境的图像,参见图6a,图6a为本申请实施例提供的一种长焦图像采集设备采集的示意图像,该图像可以反映机动车辆较远范围的环境。
广角图像采集设备可以用于采集机动车辆近距离处较宽范围的环境的图像,参见图6b,图6b为本申请实施例提供的一种广角图像采集设备采集的示意图像,该图像可以反映机动车辆近距离处较宽视场角范围的环境。
参见图7,图7为本申请实施例提供的一种广角图像采集设备的安装示意图。如图所示,广角图像采集设备可以安装于机动车辆的车头部位,广角图像采集设备可以采集更宽视场角范围内环境的图像。
本申请的一个实施例中,长焦图像采集设备和广角图像采集设备可以交替处于工作状态,在获得图像采集设备采集的图像时,可以获得当前处于工作状态的图像采集设备采集的图像。
长焦图像采集设备和广角图像采集设备交替过程中,在当前处于工作状态的图像采集设备为长焦图像采集设备的情况下,若检测到当前获得的图像中存在通行区域,切换广角图像采集设备处于工作状态;
在当前处于工作状态的图像采集设备为广角图像采集设备的情况下,若检测到当前获得的图像中不存在通行区域,切换长焦图像采集设备处于工作状态。
具体的,在当前获得的图像中存在通行区域时,说明机动车辆行驶前方存在通行区域,为便于对是否存在需要礼让的目标对象进行检测,需要获得较宽范围的环境的图像,因此可以切换广角图像采集设备处于工作状态;
而在当前获得的图像中不存在通行区域时,说明暂不需要对是否存在需要礼让的目标对象进行检测,这种情况下,为了及时检测到机动车辆行驶前方是否存在通行区域,需要获得前方较远范围的环境的图像,因此可以切换长焦图像采集设备处于工作状态。
参见图8,图8为本申请实施例提供的一种长焦图像采集设备和广角图像采集设备交替过程的示意图。如图所示,若检测到当前获得的图像中不存在通行区域,则在长焦图像采集设备处于工作状态的情况下,则继续保持,而在广角图像采集设备处于工作状态的情况下,则切换长焦图像采集设备处于工作状态;若检测到当前获得的图像中存在通行区域,则在当前处于工作状态的图像采集设备为广角图像采集设备的情况下,继续保持,而在长焦图像采集设备处于工作状态的情况下,则切换广角图像采集设备处于工作状态。
这样通过设置不同的图像采集设备处于工作状态,可以灵活地获得不同的图像采集设备采集的图像,保证及时检测到机动车辆行驶前方的通行区域,也可以尽可能地检测到较宽范围的目标对象,可以提高对象检测的准确度。
本申请的一个实施例中,在确定机动车辆未礼让目标对象的情况下,还可以将机动车辆驶过目标通行区域过程中获得的图像以及机动车辆的车辆信息发送至信息平台。
其中,上述车辆信息可以是车牌号、行驶速度、位置信息、驶过目标通行区域的时间信息等。
具体的,在检测到机动车辆未礼让目标对象的情况下,可以获得机动车辆驶过上述目标通行区域过程期间图像采集设备采集的图像,将上述图像及车辆信息发送至信息平台。这样便于用户通过信息平台查看机动车辆未礼让目标对象的事件。
参见图9,图9为本申请实施例提供的一种对象检测系统的结构示意图,该系统包括车载图像采集设备901、信息平台902,所述车载图像采集设备部署于机动车辆上,其中:
所述车载图像采集设备901用于:采集反映所述机动车辆行驶前方的环境的图像;识别所述图像中目标对象的位置及行进方向,并识别所述图像中的通行区域和所述通行区域的方位,其中,所述目标对象包括行人和/或非机动车辆,所述通行区域为:用于所述目标对象通行的区域,所述方位表征所述通行区域相对所述机动车辆的位置;获得所述机动车辆的车辆行驶方向,并根据所述车辆行驶方向和所述通行区域的方位,从识别出的通行区域中确定处于所述机动车辆行驶路线上的目标通行区域;在检测到所述目标对象的位置处于所述目标通行区域上、且所述目标对象的行进方向为靠近所述机动车辆的方向的情况下,确定所述目标对象为需要礼让的对象;判断所述机动车辆是否驶过所述目标通行区域,若为是,确定所述机动车辆未礼让所述目标对象;在确定所述机动车辆未礼让所述目标对象的情况下,将所述机动车辆驶过所述目标通行区域过程中获得的图像以及所述机动车辆的车辆信息发送至所述信息平台902;
所述信息平台902用于:接收所述车载图像采集设备901发送的图像和车辆信息。
参见图10a,图10a为本申请实施例提供的一种车载图像采集设备的结构示意图,车载图像采集设备可以包括:图像采集设备、检测设备、通信设备、显示设备、报警设备等。其中,
上述图像采集设备用于采集图像;
检测设备用于根据上述图像检测是否存在需要礼让的目标对象,以及机动车辆是否礼让目标对象;
通信设备用于在检测到机动车辆未礼让目标对象的情况下,将机动车辆驶过目标通行区域过程中获得的图像以及机动车辆的车辆信息发送至信息平台;
报警设备用于在检测到存在需要礼让的目标对象的情况下,向用户发车预警提示;
显示设备用于显示所采集的图像。
参见图10b,图10b为本申请实施例提供的一种信息平台的结构示意图,本申请的一个实施例中,上述信息平台可以包含云存储器、信息展示网站、信息展示应用软件等。其中,
云存储器用于存储电子设备发送的图像及车辆信息;
信息展示网站和信息展示应用软件可以用于对上述云存储器存储的图像及车辆信息进行查看。
进一步的,由于云存储器中的图像及车辆信息为未礼让目标对象的机动车辆相关的信息,因此信息平台还可以基于上述图像及车辆信息,生成报警信息、报警信息统计等。
本申请的一个实施例中,上述信息平台还可以用于:基于电子设备上传的图像及车辆信息,确定机动车辆的运行轨迹、运行里程、运行时长,以及查看电子设备的运行状态,并实现电子设备的系统维护和升级等。
本申请的一个实施例中,上述网站界面的左侧可以提供可查看的车辆选择项和查询时间选择项。界面中间区域显示机动车辆未礼让目标对象相关的详细信息,如机动车辆的车牌号、事件发生时间、平均车速、附件个数等,上述附件个数可以为相关的图像的数量。右侧可以显示了机动车辆未礼让目标对象事件发生的地图信息,还有相关的图像和/或视频,以及机动车辆的车辆信息。
这样便于用户通过信息平台查看机动车辆未礼让目标对象的事件,并且便于工作人员对未礼让目标对象的机动车辆进行管理。
参见图11,图11为本申请实施例提供的一种对象检测装置的结构示意图,所述装置包括:
图像获得模块1101,用于获得图像采集设备采集的图像,其中,所述图像用于反映机动车辆行驶前方的环境;
对象识别模块1102,用于识别所述图像中目标对象的位置及行进方向,其中,所述目标对象包括行人和/或非机动车辆;
通行区域识别模块1103,用于识别所述图像中的通行区域和所述通行区域的方位,其中,所述通行区域为:用于所述目标对象通行的区域,所述方位表征所述通行区域相对所述机动车辆的位置;
目标区域确定模块1104,用于获得所述机动车辆的车辆行驶方向,并根据所述车辆行驶方向和所述通行区域的方位,从识别出的通行区域中确定处于所述机动车辆行驶路线上的目标通行区域;
对象检测模块1105,用于在检测到所述目标对象的位置处于所述目标通行区域上、且所述目标对象的行进方向为靠近所述机动车辆的方向的情况下,确定所述目标对象为需要礼让的对象。
本申请的一个实施例中,所述通行区域识别模块1103,包括:
第一特征提取单元,用于提取所述图像的第一特征,得到所述图像的第一特征图;
信息提取单元,用于根据所述第一特征图,获得所述图像中各个像素点的语义信息和聚类特征向量,其中,所述语义信息用于表征像素点所属的类别,所述类别包括区域像素点、非区域像素点,所述聚类特征向量用于表征像素点所属的通行区域;
像素点聚类单元,用于根据各个像素点的聚类特征向量,对所述区域像素点进行聚类,根据聚类结果确定所述图像中的通行区域;
方位确定单元,用于针对每一通行区域,根据所述第一特征图中该通行区域的像素点的第一特征,确定该通行区域的方位。
本申请的一个实施例中,所述第一特征提取单元,具体用于:
将所述图像输入预设的通行区域识别模型中的第一全卷积层,通过所述第一全卷积层按照对所述图像进行降采样的方式对所述图像进行卷积变换处理,得到反映所述图像第一特征的第一特征图,其中,所述通行区域识别模型用于识别图像中的通行区域并获得所识别的通行区域的方位,所述通行区域识别模型还包括:语义分支卷积层、特征分支卷积层、聚类层、第二全卷积层;
所述信息提取单元,具体用于:
将所述第一特征图输入所述语义分支反卷积层,通过所述语义分支反卷积层对所述第一特征图像进行反卷积变换,得到所述图像中各个像素点的语义信息,根据各个像素点的语义信息确定区域像素点;
将所述第一特征图输入所述特征分支反卷积层,通过所述特征分支反卷积层对所述第一特征图像进行反卷积变换,得到所述图像中各个像素点的聚类特征向量;
所述像素点聚类单元,具体用于:
根据各个像素点的聚类特征向量,利用所述聚类层对所述区域像素点进行聚类,根据聚类结果确定所述图像中的通行区域;
所述方位确定单元,具体用于:
针对每一通行区域,提取所述第一特征图中该通行区域对应的特征区域,将所提取的特征区域输入所述第二全卷积层,获得所述第二全卷积层输出的该通行区域的方位。
本申请的一个实施例中,所述对象识别模块1102,包括:
第二特征提取单元,用于提取所述图像的第二特征,得到所述图像的第二特征图;
对象识别单元,用于识别所述第二特征图中的目标对象,获得所识别的目标对象的位置;
区域提取单元,用于提取所述第二特征图中所述目标对象所在的对象区域;
行进方向确定单元,用于基于所提取的对象区域确定所述目标对象的行进方向。
本申请的一个实施例中,所述第二特征提取单元,具体用于:
将所述图像输入预设的对象识别模型中的第三全卷积层,通过所述第三全卷积层对所述图像进行卷积变换处理,得到反映所述图像第二特征的第二特征图,其中,所述对象识别模型用于:识别图像中目标对象的位置及行进方向,所述对象识别模型还包括:对象识别层、区域提取层、行进方向识别层;
所述对象识别单元,具体用于:
利用所述对象识别层识别所述第二特征图中的目标对象,获得所识别的目标对象的位置;
所述区域提取单元,具体用于:
根据所述目标对象的位置,利用所述区域提取层提取所述第二特征图中所述目标对象所处的对象区域;
所述行进方向确定单元,具体用于:
将所提取的对象区域输入所述行进方向识别层,得到所述目标对象的行进方向。
本申请的一个实施例中,所述图像采集设备部署于所述机动车辆上。
本申请的一个实施例中,所述图像采集设备包括长焦图像采集设备和广角图像采集设备;
所述装置还包括设备切换模块,用于:
在当前处于工作状态的图像采集设备为所述长焦图像采集设备的情况下,若检测到当前获得的图像中存在通行区域,切换所述广角图像采集设备处于工作状态;
在当前处于工作状态的图像采集设备为所述广角图像采集设备的情况下,若检测到当前获得的图像中不存在通行区域,切换所述长焦图像采集设备处于工作状态;
所述图像获得模块1101,具体用于:
获得当前处于工作状态的图像采集设备采集的图像。
本申请的一个实施例中,所述装置还包括:
行为检测模块,用于在确定所述目标对象为需要礼让的对象之后,判断所述机动车辆是否驶过所述目标通行区域,若为是,确定所述机动车辆未礼让所述目标对象;和/或
提示生成模块,用于在所述确定所述目标对象为需要礼让的对象步骤之后,生成礼让目标对象的预警提示。
本申请的一个实施例中,所述装置还包括信息发送模块,用于:
在确定所述机动车辆未礼让所述目标对象的情况下,将所述机动车辆驶过所述目标通行区域过程中获得的图像以及所述机动车辆的车辆信息发送至信息平台。
本申请实施例还提供了一种电子设备,如图12所示,包括处理器1201、通信接口1202、存储器1203和通信总线1204,其中,处理器1201,通信接口1202,存储器1203通过通信总线1204完成相互间的通信,
存储器1203,用于存放计算机程序;
处理器1201,用于执行存储器1203上所存放的程序时,实现上述对象检测方法。
上述电子设备提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect,PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture,EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory,RAM),也可以包括非易失性存储器(Non-Volatile Memory,NVM),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、层处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本申请提供的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述任一对象检测方法的步骤。
在本申请提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述实施例中任一对象检测方法。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例、装置实施例、电子设备实施例、计算机可读存储介质实施例、计算机程序产品实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的较佳实施例,并非用于限定本申请的保护范围。凡在本申请的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本申请的保护范围内。
Claims (9)
1.一种对象检测方法,其特征在于,所述方法包括:
获得图像采集设备采集的图像,其中,所述图像用于反映机动车辆行驶前方的环境;
识别所述图像中目标对象的位置及行进方向,并识别所述图像中的通行区域和所述通行区域的方位,其中,所述目标对象包括行人和/或非机动车辆,所述通行区域为:用于所述目标对象通行的区域,所述方位表征所述通行区域相对所述机动车辆的位置;
获得所述机动车辆的车辆行驶方向,并根据所述车辆行驶方向和所述通行区域的方位,从识别出的通行区域中确定处于所述机动车辆行驶路线上的目标通行区域;
在检测到所述目标对象的位置处于所述目标通行区域上、且所述目标对象的行进方向为靠近所述机动车辆的方向的情况下,确定所述目标对象为需要礼让的对象;
其中,所述识别所述图像中的通行区域和所述通行区域的方位,包括:
提取所述图像的第一特征,得到所述图像的第一特征图;
根据所述第一特征图,获得所述图像中各个像素点的语义信息和聚类特征向量,其中,所述语义信息用于表征像素点所属的类别,所述类别包括区域像素点、非区域像素点,所述聚类特征向量用于表征像素点所属的通行区域;
根据各个像素点的聚类特征向量,对所述区域像素点进行聚类,根据聚类结果确定所述图像中的通行区域;
针对每一通行区域,根据所述第一特征图中该通行区域的像素点的第一特征,确定该通行区域的方位。
2.根据权利要求1所述的方法,其特征在于,
所述提取所述图像的第一特征,得到所述图像的第一特征图,包括:
将所述图像输入预设的通行区域识别模型中的第一全卷积层,通过所述第一全卷积层按照对所述图像进行降采样的方式对所述图像进行卷积变换处理,得到反映所述图像第一特征的第一特征图,其中,所述通行区域识别模型用于识别图像中的通行区域并获得所识别的通行区域的方位,所述通行区域识别模型还包括:语义分支卷积层、特征分支卷积层、聚类层、第二全卷积层;
所述根据所述第一特征图,获得所述图像中各个像素点的语义信息,包括:
将所述第一特征图输入所述语义分支反卷积层,通过所述语义分支反卷积层对所述第一特征图像进行反卷积变换,得到所述图像中各个像素点的语义信息,根据各个像素点的语义信息确定区域像素点;
所述根据所述第一特征图,获得所述图像中各个像素点的聚类特征向量,包括:
将所述第一特征图输入所述特征分支反卷积层,通过所述特征分支反卷积层对所述第一特征图像进行反卷积变换,得到所述图像中各个像素点的聚类特征向量;
所述根据各个像素点的聚类特征向量,对所述区域像素点进行聚类,根据聚类结果确定所述图像中的通行区域,包括:
根据各个像素点的聚类特征向量,利用所述聚类层对所述区域像素点进行聚类,根据聚类结果确定所述图像中的通行区域;
所述针对每一通行区域,根据所述第一特征图中该通行区域的像素点的第一特征,确定该通行区域的方位,包括:
针对每一通行区域,提取所述第一特征图中该通行区域对应的特征区域,将所提取的特征区域输入所述第二全卷积层,获得所述第二全卷积层输出的该通行区域的方位。
3.根据权利要求1所述的方法,其特征在于,所述识别所述图像中目标对象的位置及行进方向,包括:
提取所述图像的第二特征,得到所述图像的第二特征图;
识别所述第二特征图中的目标对象,获得所识别的目标对象的位置;
提取所述第二特征图中所述目标对象所在的对象区域;
基于所提取的对象区域确定所述目标对象的行进方向。
4.根据权利要求3所述的方法,其特征在于,
所述提取所述图像的第二特征,得到所述图像的第二特征图,包括:
将所述图像输入预设的对象识别模型中的第三全卷积层,通过所述第三全卷积层对所述图像进行卷积变换处理,得到反映所述图像第二特征的第二特征图,其中,所述对象识别模型用于:识别图像中目标对象的位置及行进方向,所述对象识别模型还包括:对象识别层、区域提取层、行进方向识别层;
所述识别所述第二特征图中的目标对象,获得所识别的目标对象的位置,包括:
利用所述对象识别层识别所述第二特征图中的目标对象,获得所识别的目标对象的位置;
所述提取所述第二特征图中所述目标对象所在的对象区域,包括:
根据所述目标对象的位置,利用所述区域提取层提取所述第二特征图中所述目标对象所处的对象区域;
所述基于所提取的对象区域确定所述目标对象的行进方向,包括:
将所提取的对象区域输入所述行进方向识别层,得到所述目标对象的行进方向。
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述图像采集设备部署于所述机动车辆上。
6.根据权利要求1-4中任一项所述的方法,其特征在于,所述图像采集设备包括长焦图像采集设备和广角图像采集设备;
所述方法还包括:
在当前处于工作状态的图像采集设备为所述长焦图像采集设备的情况下,若检测到当前获得的图像中存在通行区域,切换所述广角图像采集设备处于工作状态;
在当前处于工作状态的图像采集设备为所述广角图像采集设备的情况下,若检测到当前获得的图像中不存在通行区域,切换所述长焦图像采集设备处于工作状态;
所述获得图像采集设备采集的图像,包括:
获得当前处于工作状态的图像采集设备采集的图像。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
判断所述机动车辆是否驶过所述目标通行区域,若为是,确定所述机动车辆未礼让所述目标对象;和/或
在确定所述机动车辆未礼让所述目标对象的情况下,将所述机动车辆驶过所述目标通行区域过程中获得的图像以及所述机动车辆的车辆信息发送至信息平台。
8.一种对象检测装置,其特征在于,所述装置包括:
图像获得模块,用于获得图像采集设备采集的图像,其中,所述图像用于反映机动车辆行驶前方的环境;
对象识别模块,用于识别所述图像中目标对象的位置及行进方向,其中,所述目标对象包括行人和/或非机动车辆;
通行区域识别模块,用于识别所述图像中的通行区域和所述通行区域的方位,其中,所述通行区域为:用于所述目标对象通行的区域,所述方位表征所述通行区域相对所述机动车辆的位置;
目标区域确定模块,用于获得所述机动车辆的车辆行驶方向,并根据所述车辆行驶方向和所述通行区域的方位,从识别出的通行区域中确定处于所述机动车辆行驶路线上的目标通行区域;
对象检测模块,用于在检测到所述目标对象的位置处于所述目标通行区域上、且所述目标对象的行进方向为靠近所述机动车辆的方向的情况下,确定所述目标对象为需要礼让的对象;
其中,所述通行区域识别模块,包括:
第一特征提取单元,用于提取所述图像的第一特征,得到所述图像的第一特征图;
信息提取单元,用于根据所述第一特征图,获得所述图像中各个像素点的语义信息和聚类特征向量,其中,所述语义信息用于表征像素点所属的类别,所述类别包括区域像素点、非区域像素点,所述聚类特征向量用于表征像素点所属的通行区域;
像素点聚类单元,用于根据各个像素点的聚类特征向量,对所述区域像素点进行聚类,根据聚类结果确定所述图像中的通行区域;
方位确定单元,用于针对每一通行区域,根据所述第一特征图中该通行区域的像素点的第一特征,确定该通行区域的方位。
9.一种对象检测系统,其特征在于,所述系统包括车载图像采集设备、信息平台,所述车载图像采集设备部署于机动车辆上,其中:
所述车载图像采集设备用于:采集反映所述机动车辆行驶前方的环境的图像;识别所述图像中目标对象的位置及行进方向,并识别所述图像中的通行区域和所述通行区域的方位,其中,所述目标对象包括行人和/或非机动车辆,所述通行区域为:用于所述目标对象通行的区域,所述方位表征所述通行区域相对所述机动车辆的位置;获得所述机动车辆的车辆行驶方向,并根据所述车辆行驶方向和所述通行区域的方位,从识别出的通行区域中确定处于所述机动车辆行驶路线上的目标通行区域;在检测到所述目标对象的位置处于所述目标通行区域上、且所述目标对象的行进方向为靠近所述机动车辆的方向的情况下,确定所述目标对象为需要礼让的对象;判断所述机动车辆是否驶过所述目标通行区域,若为是,确定所述机动车辆未礼让所述目标对象;在确定所述机动车辆未礼让所述目标对象的情况下,将所述机动车辆驶过所述目标通行区域过程中获得的图像以及所述机动车辆的车辆信息发送至所述信息平台;
所述信息平台用于:接收所述车载图像采集设备发送的图像和车辆信息;
其中,所述识别所述图像中的通行区域和所述通行区域的方位,包括:
提取所述图像的第一特征,得到所述图像的第一特征图;
根据所述第一特征图,获得所述图像中各个像素点的语义信息和聚类特征向量,其中,所述语义信息用于表征像素点所属的类别,所述类别包括区域像素点、非区域像素点,所述聚类特征向量用于表征像素点所属的通行区域;
根据各个像素点的聚类特征向量,对所述区域像素点进行聚类,根据聚类结果确定所述图像中的通行区域;
针对每一通行区域,根据所述第一特征图中该通行区域的像素点的第一特征,确定该通行区域的方位。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011589252.4A CN112686136B (zh) | 2020-12-29 | 2020-12-29 | 一种对象检测方法、装置及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011589252.4A CN112686136B (zh) | 2020-12-29 | 2020-12-29 | 一种对象检测方法、装置及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112686136A CN112686136A (zh) | 2021-04-20 |
CN112686136B true CN112686136B (zh) | 2023-04-18 |
Family
ID=75454881
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011589252.4A Active CN112686136B (zh) | 2020-12-29 | 2020-12-29 | 一种对象检测方法、装置及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112686136B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114913202B (zh) * | 2022-04-07 | 2022-11-29 | 北京拙河科技有限公司 | 一种微透镜阵列的目标追踪方法及系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109493609A (zh) * | 2018-12-11 | 2019-03-19 | 杭州炬视科技有限公司 | 一种便携式未礼让行人自动识别抓拍的装置和方法 |
CN109961057A (zh) * | 2019-04-03 | 2019-07-02 | 罗克佳华科技集团股份有限公司 | 一种车辆位置获得方法及装置 |
CN111008554A (zh) * | 2019-10-16 | 2020-04-14 | 合肥湛达智能科技有限公司 | 一种基于深度学习的动态交通斑马线内不礼让行人识别方法 |
CN111695483A (zh) * | 2020-06-05 | 2020-09-22 | 腾讯科技(深圳)有限公司 | 一种车辆违章检测方法、装置、设备及计算机存储介质 |
-
2020
- 2020-12-29 CN CN202011589252.4A patent/CN112686136B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109493609A (zh) * | 2018-12-11 | 2019-03-19 | 杭州炬视科技有限公司 | 一种便携式未礼让行人自动识别抓拍的装置和方法 |
CN109961057A (zh) * | 2019-04-03 | 2019-07-02 | 罗克佳华科技集团股份有限公司 | 一种车辆位置获得方法及装置 |
CN111008554A (zh) * | 2019-10-16 | 2020-04-14 | 合肥湛达智能科技有限公司 | 一种基于深度学习的动态交通斑马线内不礼让行人识别方法 |
CN111695483A (zh) * | 2020-06-05 | 2020-09-22 | 腾讯科技(深圳)有限公司 | 一种车辆违章检测方法、装置、设备及计算机存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112686136A (zh) | 2021-04-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Ghanem et al. | Lane detection under artificial colored light in tunnels and on highways: an IoT-based framework for smart city infrastructure | |
Rezaei et al. | Robust vehicle detection and distance estimation under challenging lighting conditions | |
Buch et al. | A review of computer vision techniques for the analysis of urban traffic | |
del Postigo et al. | Vacant parking area estimation through background subtraction and transience map analysis | |
CN108335489A (zh) | 高速公路车辆行为语义分析及异常行为监控系统及方法 | |
CN110738857B (zh) | 一种车辆违章取证方法、装置及设备 | |
Màrmol et al. | QuickSpot: a video analytics solution for on-street vacant parking spot detection | |
Lee et al. | Available parking slot recognition based on slot context analysis | |
KR102122850B1 (ko) | 딥 러닝 기반의 교통분석 및 차량번호 인식 솔루션 | |
Varghese et al. | An efficient algorithm for detection of vacant spaces in delimited and non-delimited parking lots | |
CN111967396A (zh) | 障碍物检测的处理方法、装置、设备及存储介质 | |
Ghahremannezhad et al. | Robust road region extraction in video under various illumination and weather conditions | |
Parvin et al. | Vehicle number plate detection and recognition techniques: a review | |
Azimjonov et al. | Vision-based vehicle tracking on highway traffic using bounding-box features to extract statistical information | |
CN112686136B (zh) | 一种对象检测方法、装置及系统 | |
FAN et al. | Robust lane detection and tracking based on machine vision | |
Munajat et al. | Vehicle detection and tracking based on corner and lines adjacent detection features | |
Liu et al. | Automatic detection of parking violation and capture of license plate | |
CN105206060B (zh) | 一种基于sift特征的车型识别装置及其方法 | |
EP4113377A1 (en) | Use of dbscan for lane detection | |
Jain | Visual traffic surveillance: a concise survey | |
CN111753593A (zh) | 车载环视系统骑行车实时检测方法、系统及装置 | |
Kamijo et al. | Incident detection in heavy traffics in tunnels by the interlayer feedback algorithm | |
Sadik et al. | Vehicles Detection and Tracking in Advanced & Automated Driving Systems: Limitations and Challenges | |
Deshpande et al. | Pedestrian detection |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |