CN111339808B - 车辆碰撞概率预测方法、装置、电子设备及存储介质 - Google Patents
车辆碰撞概率预测方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111339808B CN111339808B CN201811560878.5A CN201811560878A CN111339808B CN 111339808 B CN111339808 B CN 111339808B CN 201811560878 A CN201811560878 A CN 201811560878A CN 111339808 B CN111339808 B CN 111339808B
- Authority
- CN
- China
- Prior art keywords
- image
- target object
- features
- predicted
- layer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 65
- 230000008859 change Effects 0.000 claims description 37
- 238000000605 extraction Methods 0.000 claims description 20
- 230000015654 memory Effects 0.000 claims description 5
- 238000004590 computer program Methods 0.000 claims description 4
- 238000003384 imaging method Methods 0.000 claims 1
- 230000008569 process Effects 0.000 description 17
- 238000010586 diagram Methods 0.000 description 16
- 230000011218 segmentation Effects 0.000 description 15
- 230000004927 fusion Effects 0.000 description 11
- 230000000694 effects Effects 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000007613 environmental effect Effects 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
Abstract
本申请实施例提供一种车辆碰撞概率预测方法、装置、电子设备及存储介质,属于智能交通技术领域。该方法通过采集K帧图像,然后识别出每帧图像中的目标物体,再获取目标物体在每帧图像中的像素点数量,基于目标物体的K个像素点数量来预测目标物体与待预测车辆的碰撞概率,该方式可以通过获得目标物体的K个像素点数量来判断目标物体与待预测车辆之间的状态,以此可有效预测目标物体与待预测车辆之间的碰撞概率,从而有效防止目标物体与待预测车辆之间碰撞的情况发生。
Description
技术领域
本申请涉及智能交通技术领域,具体而言,涉及一种车辆碰撞概率预测方法、装置、电子设备及存储介质。
背景技术
随着汽车数量的大量增加,汽车安全驾驶技术也越来越重要。目前,一般是靠司机对周围行人、车辆等进行肉眼观察来减少碰撞事故的发生,但是实际过程中,由于路况复杂司机可能无法在兼顾开车的同时也注意到周围的物体与车辆的相对状态,所以,无法有效地预防车辆与周围物体碰撞的情况发生。
发明内容
有鉴于此,本申请实施例的目的在于提供一种车辆碰撞概率预测方法、装置、电子设备及存储介质,以有效预防车辆与周围物体的碰撞情况发生。
第一方面,本申请实施例提供了一种车辆碰撞概率预测方法,所述方法包括:获取待预测车辆在当前时刻已采集的K帧图像,K为大于等于2的整数;对每帧图像进行特征提取,获取每帧图像对应的M层图像特征,所述M层图像特征用于表示每帧图像中各物体的属性信息,M为大于等于2的整数;基于每帧图像对应的M层图像特征对所述K帧图像进行识别,获得所述K帧图像中的目标物体;获取所述目标物体在每帧图像中对应的像素点数量,共获得K个像素点数量;根据所述K个像素点数量,预测所述目标物体与所述待预测车辆的碰撞概率。
在上述实现过程中,通过采集K帧图像,然后识别出每帧图像中的目标物体,再获取目标物体在每帧图像中的像素点数量,基于目标物体的K个像素点数量来预测目标物体与待预测车辆的碰撞概率,该方式可以通过获得目标物体的K个像素点数量来判断目标物体与待预测车辆之间的状态,以此可有效预测目标物体与待预测车辆之间的碰撞概率,从而有效防止目标物体与待预测车辆之间碰撞的情况发生。
可选地,所述K帧图像中的第i帧图像的拍摄时间早于第i+1帧图像,i为1到K-1的整数;根据所述K个像素点数量,预测所述目标物体与所述待预测车辆的碰撞概率,包括:基于所述K个像素点数量,获得所述目标物体随拍摄时间在所述K帧图像中的像素点数量变化趋势;在所述像素点数量变化趋势为增加时,预测所述目标物体与所述待预测车辆的碰撞概率为第一概率;在所述像素点数量变化趋势为减少时,预测所述目标物体与所述待预测车辆的碰撞概率为第二概率;其中,所述第二概率小于所述第一概率。
在上述实现过程中,通过获取目标物体的像素点数量变化趋势,可以获取目标物体与待预测车辆之间的状态,如在像素点数量变化趋势为增加时,可判定目标物体与待预测车辆之间的距离可能是逐渐缩小的,则预测目标物体与待预测车辆之间的碰撞概率较大,如在像素点数量变化趋势为减少时,可判定目标物体与待预测车辆之间的距离可能是逐渐增大的,则预测目标物体与待预测车辆之间的碰撞概率较小,以此方式,可以有效预测目标物体与待预测车辆之间的碰撞概率,从而有效防止目标物体与待预测车辆之间碰撞的情况发生。
可选地,在所述像素点数量变化趋势为增加时,预测所述目标物体与所述待预测车辆的碰撞概率为第一概率,包括:在所述像素点数量变化趋势为增加时,获取所述目标物体与所述待预测车辆之间的当前距离;在所述当前距离小于预设距离时,则预测所述目标物体与所述待预测车辆的碰撞概率为第一概率。
在上述实现过程中,在目标物体的像素点数量变化趋势为增加时,再结合目标物体与待预测车辆之间的当前距离来进一步提高预测目标物体与待预测车辆的碰撞概率的准确性。
可选地,在所述像素点数量变化趋势为增加时,获取所述目标物体与所述待预测车辆之间的当前距离之后,所述方法还包括:在所述当前距离大于等于所述预设距离时,则预测所述目标物体与所述待预测车辆的碰撞概率为第三概率,所述第三概率小于所述第一概率且大于等于所述第二概率。
在上述实现过程中,在目标物体的像素点数量变化趋势为增加时,再结合目标物体与待预测车辆之间的当前距离来进一步提高预测目标物体与待预测车辆的碰撞概率的准确性。
可选地,在所述像素点数量变化趋势为增加时,预测所述目标物体与所述待预测车辆的碰撞概率为第一概率,包括:在所述像素点数量变化趋势为增加时,基于每帧图像对应的M层图像特征预测所述目标物体在所述当前时刻的下一时刻对应的预测图像特征;根据所述目标物体的预测图像特征获取所述目标物体在所述下一时刻的像素点数量;判断所述所述下一时刻的像素点数量是否大于第K个像素点数量;若是,则预测所述目标物体与所述待预测车辆的碰撞概率为第一概率。
在上述实现过程中,通过获取目标物体在下一时刻的像素点数量,以此进一步判断目标物体的像素点数量变化趋势是否为增加,从而进一步提高预测目标物体与待预测车辆的碰撞概率的准确性。
可选地,对每帧图像进行特征提取,获取每帧图像对应的M层图像特征,包括:对每帧图像进行特征提取,获得M个不同层级特征;将所述M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,以及将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征;将所述M层第一中间特征及所述M层第二中间特征进行处理,获得每帧图像对应的M层图像特征。
在上述实现过程中,通过对每帧提取的M个不同层级特征进行两次处理后,获得M层第一中间特征和M层第二中间特征,然后再将这M层第一中间特征和M层第二中间特征进行处理,获得的M层图像特征,通过该方式获得的每层图像特征中可以包含信息较为均衡的M个不同层级特征,即每层图像特征中包括信息比较均衡的高层信息和低层信息,由于低层信息对于某些细节信息比较敏感,能够提供对定位和分割较为有益的信息,通过上述对特征的多次处理,让高层网络更容易、更全面地获取低层信息,从而可以使得高层信息与低层信息更为均衡,实现对大小物体均衡的分割效果,进而可有效对每帧图像中的各个物体进行识别。
可选地,对每帧图像进行特征提取,获取每帧图像对应的M层图像特征,包括:对每帧图像进行特征提取,获得M个不同层级特征;将所述M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,以及将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征;将所述M层第一中间特征按照所述第二层级方向进行处理,获得每帧图像对应的M层第一图像特征,以及将所述M层第二中间特征按照所述第一层级方向进行处理,获得每帧图像对应的M层第二图像特征,每帧图像对应的M层图像特征包括所述M层第一图像特征和所述M层第二图像特征。
在上述实现过程中,通过对每帧图像提取的M个不同层级特征进行两次处理后,获得M层第一中间特征和M层第二中间特征,然后分别对M层第一中间特征进行处理获得M层第一图像特征,对M层第二中间特征进行处理获得M层第二图像特征,通过该方式最后获得的M层图像特征中包含的高层特征和低层特征所占的权重比较均衡,从而可以让高层网络更容易、更全面地获取低层信息,对大小物体均有较好的分割效果,进而可有效对每帧图像中的各个物体进行识别。
第二方面,本申请实施例提供了一种车辆碰撞概率预测装置,所述装置包括:
图像获取模块,用于获取待预测车辆在当前时刻已采集的K帧图像,K为大于等于2的整数;
图像特征提取模块,用于对每帧图像进行特征提取,获取每帧图像对应的M层图像特征,所述M层图像特征用于表示每帧图像中各物体的属性信息,M为大于等于2的整数;
图像识别模块,用于基于每帧图像对应的M层图像特征对所述K帧图像进行识别,获得所述K帧图像中的目标物体;
像素点数量获取模块,用于获取所述目标物体在每帧图像中对应的像素点数量,共获得K个像素点数量;
碰撞概率预测模块,用于根据所述K个像素点数量,预测所述目标物体与所述待预测车辆的碰撞概率。
可选地,所述K帧图像中的第i帧图像的拍摄时间早于第i+1帧图像,i为1到K-1的整数;所述碰撞概率预测模块,具体用于基于所述K个像素点数量,获得所述目标物体随拍摄时间在所述K帧图像中的像素点数量变化趋势;在所述像素点数量变化趋势为增加时,预测所述目标物体与所述待预测车辆的碰撞概率为第一概率;在所述像素点数量变化趋势为减少时,预测所述目标物体与所述待预测车辆的碰撞概率为第二概率;其中,所述第二概率小于所述第一概率。
可选地,所述碰撞概率预测模块,还用于在所述像素点数量变化趋势为增加时,获取所述目标物体与所述待预测车辆之间的当前距离;在所述当前距离小于预设距离时,则预测所述目标物体与所述待预测车辆的碰撞概率为第一概率。
可选地,所述碰撞概率预测模块,还用于在所述当前距离大于等于所述预设距离时,则预测所述目标物体与所述待预测车辆的碰撞概率为第三概率,所述第三概率小于所述第一概率且大于等于所述第二概率。
可选地,所述碰撞概率预测模块,还用于:
在所述像素点数量变化趋势为增加时,基于每帧图像对应的M层图像特征预测所述目标物体在所述当前时刻的下一时刻对应的预测图像特征;
根据所述目标物体的预测图像特征获取所述目标物体在所述下一时刻的像素点数量;
判断所述所述下一时刻的像素点数量是否大于第K个像素点数量;
若是,则预测所述目标物体与所述待预测车辆的碰撞概率为第一概率。
可选地,所述图像特征提取模块,具体用于:
对每帧图像进行特征提取,获得M个不同层级特征;
将所述M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,以及将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征;
将所述M层第一中间特征及所述M层第二中间特征进行处理,获得每帧图像对应的M层图像特征。
可选地,所述图像特征提取模块,具体用于:
对每帧图像进行特征提取,获得M个不同层级特征;
将所述M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,以及将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征;
将所述M层第一中间特征按照所述第二层级方向进行处理,获得每帧图像对应的M层第一图像特征,以及将所述M层第二中间特征按照所述第一层级方向进行处理,获得每帧图像对应的M层第二图像特征,每帧图像对应的M层图像特征包括所述M层第一图像特征和所述M层第二图像特征。
第三方面,本申请实施例提供一种电子设备,包括处理器以及存储器,所述存储器存储有计算机可读取指令,当所述计算机可读取指令由所述处理器执行时,运行如上述第一方面提供的所述方法中的步骤。
第四方面,本申请实施例提供一种可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时运行如上述第一方面提供的所述方法中的步骤。
本申请的其他特征和优点将在随后的说明书阐述,并且,部分地从说明书中变得显而易见,或者通过实施本申请实施例了解。本申请的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的一种电子设备的示例性硬件和软件组件的示意图;
图2为本申请实施例提供的一种车辆碰撞概率预测方法的流程图;
图3为本申请实施例提供的一种目标物体在每帧图像中的像素点数量变化趋势的示意图;
图4为本申请实施例提供的一种获得目标物体的预测图像特征的示意图;
图5为本申请实施例提供的一种对特征处理的应用示意图;
图6为本申请实施例提供的另一种对特征处理的应用示意图;
图7为本申请实施例中进行双路掩膜预测的一个网络结果示意图;
图8为本申请实施例提供的一种车辆碰撞概率预测装置的结构框图。
具体实施方式
下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本申请的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
图1为本申请实施例提供的一种电子设备100的示例性硬件和软件组件的示意图。例如,处理器可以用于电子设备100上,并且用于执行本申请中的功能。
电子设备100可以是通用计算机或特殊用途的计算机,两者都可以用于实现本申请的图像处理方法。本申请尽管仅示出了一个计算机,但是为了方便起见,可以在多个类似平台上以分布式方式实现本申请描述的功能,以均衡处理负载。
例如,电子设备100可以包括连接到网络的网络端口110、用于执行程序指令的一个或多个处理器120、通信总线130、和不同形式的存储介质140,例如,磁盘、ROM、或RAM,或其任意组合。示例性地,计算机平台还可以包括存储在ROM、RAM、或其他类型的非暂时性存储介质、或其任意组合中的程序指令。根据这些程序指令可以实现本申请的方法。电子设备100还包括计算机与其他输入输出设备(例如键盘、显示屏)之间的输入/输出(Input/Output,I/O)接口150。
为了便于说明,在电子设备100中仅描述了一个处理器。然而,应当注意,本申请中的电子设备100还可以包括多个处理器,因此本申请中描述的一个处理器执行的步骤也可以由多个处理器联合执行或单独执行。例如,若电子设备100的处理器执行步骤A和步骤B,则应该理解,步骤A和步骤B也可以由两个不同的处理器共同执行或者在一个处理器中单独执行。例如,第一处理器执行步骤A,第二处理器执行步骤B,或者第一处理器和第二处理器共同执行步骤A和B。
请参照图2,图2为本申请实施例提供的一种车辆碰撞概率预测方法的流程图,所述方法包括如下步骤:
步骤S110:获取待预测车辆在当前时刻已采集的K帧图像。
本实施例中的车辆碰撞概率预测方法可应用于一电子设备,该电子设备可以为车载终端或者服务器,即通过待预测车辆上安装的摄像头拍取K帧图像,摄像头将获取的K帧图像传输至上述的电子设备,其中,K为大于等于2的整数。
待预测车辆上一般安装有摄像头,其可用于拍摄待预测车辆周围的环境信息,从而可以根据拍摄的图像信息获得待预测车辆所处的当前环境状况。
其中,获取的K帧图像为在连续的多个时刻拍摄的,如在第1s时拍摄第1帧图像,在第2s时拍摄第2帧图像,在第3s时拍摄第3帧图像,以此方式,可获取在当前时刻已采集的K帧图像,其中,第K帧图像可以是当前时刻采集的,也可以是在当前时刻前采集的。
当然,K帧图像也可以是摄像头在当前时刻已采集的视频中的K帧图像。
步骤S120:对每帧图像进行特征提取,获取每帧图像对应的M层图像特征。
本申请各实施例中的特征的表现形式例如可以包括但不限于:特征图、特征向量或者特征矩阵等等。
其中,M层图像特征可用于表示每帧图像中各物体的属性信息,例如各物体的边缘轮廓特征、纹理特征、颜色特征等,M为大于等于2的整数。
作为一种实施方式,可通过神经网络对每帧图像进行特征提取,获取每帧图像对应的M层图像特征,M层图像特征可以是指位于神经网络不同深度的多个网络层,该神经网络的多个网络层可对每帧图像进行特征提取,每帧图像经过多个网络层后可获得M层图像特征。
获取的M层图像特征中每层图像特征包括高层级特征和低层级特征,由于低层级特征对于某些细节信息比较敏感,即低层级特征对小物体的识别效果较好,高层级特征对大物体的识别效果较好,所以,获得的M层图像特征中高层网络可以更容易、更全面地获取低层信息,使得后续对每帧图像中的各物体进行识别时,可对每帧图像中的大小物体进行识别,从而可识别出每帧图像中的物体,进而可识别出待预测车辆周围的多个物体。
步骤S130:基于每帧图像对应的M层图像特征对所述K帧图像进行识别,获得所述K帧图像中的目标物体。
对K帧图像进行识别实际上是对K帧图像进行语义分割或实例分割,进行语义分割的结果可以包括每帧图像中各像素所属的类别,实例分割的结果可以包括每帧像素中属于某实例的像素以及该实例所属的类别,如该图像中属于某男孩的像素以及该男孩所属的类别为人,其中,实例分割可采用掩膜区域卷积神经网络(Mask Region-ConvolutionalNeural Network,Mask R-CNN)算法。
实例,例如可以包括但不限于某一个具体对象,如某一具体的人、某一具体的物等等。
可以理解地,对每帧图像进行进行语义分割或实例分割,从而可将图像中属于同一个物体的像素进行识别,以分割出不同的物体。其中,目标物体可以是指图像中的任一物体,例如对一帧图像进行识别获得其中的目标物体为一个男孩,第二帧图像中也识别出该男孩,也就是说该男孩出现在了K帧图像中,即K帧图像中的目标物体。
步骤S140:根据所述目标物体在每帧图像中对应的像素点数量,共获得K个像素点数量。
在识别出每帧图像中的目标物体后,可提取目标物体在每帧图像中的像素点,然后可统计目标物体在每帧图像中对应的像素点数量。
其中,获得每帧图像中目标物体对应的M层图像特征,对于一个像素点,其在每层图像特征中均对应一个特征点,所以可基于获得的目标物体的M层图像特征获得目标物体在每帧图像中的像素点数量。
所以,按照上述方式,可获得K个像素点数量。
步骤S150:根据所述K个像素点数量,预测所述目标物体与所述待预测车辆的碰撞概率。
由于根据目标物体在图像中的显示大小不同而导致其在图像中的像素点数量不同,所以,可以基于目标物体在图像中的像素点数量知晓目标物体的大小,例如随着时间的增加,目标物体在K帧图像中的像素点数量越来越多,表明目标物体在图像中占据的面积越来越大,所以可以判断出目标物体与待预测车辆之间的相对距离越来越小,此时可预测目标物体与待预测车辆的碰撞概率较大。
所以,本实施例中,通过采集K帧图像,然后识别出每帧图像中的目标物体,再获取目标物体在每帧图像中的像素点数量,基于目标物体的K个像素点数量来预测目标物体与待预测车辆的碰撞概率,该方式可以通过获得目标物体的K个像素点数量来判断目标物体的当前状态,从而可判断目标物体与待预测车辆之间的状态,以此可有效预测目标物体与待预测车辆之间的碰撞概率,从而有效防止目标物体与待预测车辆之间碰撞的情况发生。
另外,所述K帧图像中的第i帧图像的拍摄时间早于第i+1帧图像的拍摄时间,i为1到K-1的整数,如K帧图像中的第2帧图像的拍摄时间早于第3帧图像的拍摄时间,在根据K个像素点数量,预测目标物体与待预测车辆的碰撞概率的方式可以包括:基于所述K个像素点数量,获得所述目标物体随拍摄时间在所述K帧图像中的像素点数量变化趋势;在所述像素点数量变化趋势为增加时,预测所述目标物体与所述待预测车辆的碰撞概率为第一概率;在所述像素点数量变化趋势为减少时,预测所述目标物体与所述待预测车辆的碰撞概率为第二概率;其中,所述第二概率小于所述第一概率。
可以理解地,如图3所示,其示出了K=3时,在3帧图像中目标物体的像素点变化趋势,目标物体在图像中的面积大小可表明目标物体的像素点数量多少,如面积越大,像素点数量越多。在第1帧图像中目标物体的面积占据较小,在第2帧图像中目标物体的面积占据比在第1帧图像中的面积占据大,在第3帧图像中目标物体的面积占据继续增大,由此其像素点数量变化趋势成增加趋势,可判断目标物体距离待预测车辆越来越近,则可预测目标物体与待预测车辆之间的碰撞概率较大,如为第一概率,其中,第一概率的值可预先进行设定,如在判断目标物体与待预测车辆的碰撞概率较大时,其第一概率可设置为80%。
相反地,若第1帧图像中目标物体的像素点数量大于第2帧图像中目标物体的像素点数量,第2帧图像中目标物体的像素点数量大于第3帧图像中目标物体的像素点数量,所以,可以看出目标物体与待预测车辆之间的相对距离逐渐增大,说明目标物体与待预测车辆之间的碰撞可能性较小,即目标物体与待预测车辆之间的碰撞概率为第二概率,第二概率也可根据实际需要进行设定,如判断目标物体与待预测车辆的碰撞概率较小时,其第二概率可设置为40%。
需要说明的是,在图3中,相邻两帧图像中目标物体的像素点数量随着时间的增长是递增的,但是若待预测车辆与目标物体之间的相对距离在一段时间内一直处于不变,或者在中间时间段内处于不变的情况下,目标物体的像素点数量可能在某个时间段内是没有发生改变的,但是目标物体的像素点数量在K帧图像中整体是发生了改变的,也可获得像素点数量变化趋势为增加或减少,如若最后一帧图像中目标物体的像素点数量大于第1帧图像中目标物体的像素点数量即可判断像素点数量变化趋势为增加,若第1帧图像中目标物体的像素点数量大于最后一帧图像中目标物体的像素点的数量即可判断像素点变化趋势为减少。
在上述实现过程中,通过获取目标物体的像素点数量变化趋势,可以获取目标物体与待预测车辆之间的状态,如在像素点数量变化趋势为增加时,可判定目标物体与待预测车辆之间的距离可能是逐渐缩小的,则预测目标物体与待预测车辆之间的碰撞概率较大,如在像素点数量变化趋势为减少时,可判定目标物体与待预测车辆之间的距离可能是逐渐增大的,则预测目标物体与待预测车辆之间的碰撞概率较小,以此方式,可以有效预测目标物体与待预测车辆之间的碰撞概率,从而有效防止目标物体与待预测车辆之间碰撞的情况发生。
另外,若目标物体只是进行稍微移动,则目标物体在K帧图像中的像素点数量变化并不是很多,例如,在第1帧图像中目标物体的像素点数量为100个,在第2帧图像中目标物体的像素点数量为110个,在第3帧图像中目标物体的像素点数量为120个,可见其像素点数量变化并不是很明显,表明目标物体与待预测车辆之间的相对距离并没有发生太大的变化,所以,很可能此时目标物体与待预测车辆之间的碰撞概率较小,所以,还可以在像素点数量变化趋势为增加时,判断第K帧图像中目标物体的像素点数量与第1帧图像中目标物体的像素点数量之差是否大于预设值,若是,则预测所述目标物体与所述待预测车辆的碰撞概率为第一概率。
另外,作为一种可能的实施方式,若目标物体的像素点数量变化趋势为增加时,此时可能目标物体与待预测车辆之间的当前距离还相差比较远,则此时目标物体与待预测车辆的碰撞概率可能较小,所以,还可以获取目标物体与待预测车辆之间的当前距离,在当前距离小于预设距离时,预测目标物体与待预测车辆的碰撞概率为第一概率。
具体地,可以通过待预测车辆上安装的距离传感器获取待预测车辆与目标物体之间的距离,预设距离可根据实际情况进行设置,如可设置为1米,当目标物体与待预测车辆之间的当前距离小于1米时,则预测目标物体与待预测车辆的碰撞概率为第一概率。
在所述当前距离大于等于所述预设距离时,则确定所述目标物体与所述待预测车辆的碰撞概率为第三概率,所述第三概率小于所述第一概率且大于等于所述第二概率。
如目标物体与待预测车辆之间的当前距离大于等于1米时,其可以预测目标物体与待预测车辆的碰撞概率为第三概率,如第三概率为60%。
在上述实现过程中,在目标物体的像素点数量变化趋势为增加时,再结合目标物体与待预测车辆之间的当前距离来进一步提高预测目标物体与待预测车辆的碰撞概率的准确性。
另外,还可以目标物体的像素点数量变化趋势为增加时,基于每帧图像对应的M层图像特征预测所述目标物体在当前时刻的下一时刻对应的预测图像特征,然后根据所述目标物体的预测图像特征获取所述目标物体在所述下一时刻的像素点数量,再所述所述下一时刻的像素点数量是否大于所述第K个像素点数量,若是,则预测所述目标物体与所述待预测车辆的碰撞概率为第一概率。
如图4所示,可以采用长短期记忆网络(Long Short-Term Memory,LSTM)模型来预测下一时刻对应的预测图像特征,在预测时,由于通过上述过程获得每帧图像对应的M层图像特征,则可对M层图像特征对应层级特征进行预测,如将K帧图像对应的K个第1层图像特征输入LSTM模型中,输出对第1层图像特征对应的第1层预测图像特征,将K帧图像对应的K个第2层图像特征输入LSTM模型中,输出第2层图像特征对应的第2层预测图像特征,如图4中的,F1代表层级为1的预测图像特征,也就是说,每帧图像对应的第1层图像特征M1输入LSTM模型中,输出第F1层预测图像特征;F2代表层级为2的预测图像特征,即第2层图像特征M2对应的预测图像特征;F3代表层级为3的预测图像特征,即第3层图像特征M3对应的预测图像特征;F4代表层级为4的预测图像特征,即第4层图像特征M4对应的预测图像特征。其中,阴影区域代表目标物体对应的不同层级的预测图像特征,若将该M层预测图像特征进行融合,获得目标物体对应的预测图像特征图,从而可基于预测图像特征图获取目标物体在下一时刻的像素点数量。若目标物体在下一时刻的像素点数量大于第K个像素点数量,则表明目标物体在下一时刻与待预测车辆之间的距离可能继续缩小,则预测目标物体与待预测车辆的碰撞概率为第一概率。
在上述实现过程中,通过获取目标物体在下一时刻的像素点数量,以此进一步判断目标物体的像素点数量变化趋势是否为增加,从而进一步提高预测目标物体与待预测车辆的碰撞概率的准确性。
另外,由于LSTM模型是一种时间序列预测模型,其是利用过去一段时间内某事件时间的特征来预测未来一段时间内该事件的特征,所以,通过上述的LSTM模型来对目标物体在下一时刻的图像特征进行预测,可以更为准确的根据目标物体在当前时刻以前的图像特征获得在下一时刻的预测图像特征。
作为一种实施方式,为了对待预测车辆的驾驶人员进行危险提示,避免待预测车辆与目标物体相撞,所以,还可以在预测目标物体与待预测车辆的碰撞概率为第一概率之后,还可以生成并输出预警信息,预警信息可以输出至驾驶人员的终端,也可以输出至车载终端,从而驾驶人员可以基于预警信息知晓待预测车辆与目标物体的碰撞概率,在碰撞概率较大时,驾驶人员可提前采取措施避免与目标物体相撞。
另外,在上述任一实施例的基础上,为了对K帧图像中的各个物体进行识别,获得M层图像特征的方式可以如下:对每帧图像进行特征提取,获得M个不同层级特征;将所述M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,以及将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征;将所述M层第一中间特征及所述M层第二中间特征进行处理,获得每帧图像对应的M层图像特征。
具体地,不同的层级方向可以包括:从高层级特征到低层级特征的方向、和从低层级特征到高层级特征的方向,如第一层级方向为从高层级特征到低层级特征的方向,第二层级方向为从低层级特征到高层级特征的方向,或者第一层级方向为从低层级到高层级的方向,第二层级方向为从高层级到低层级的方向。
在将M层第一中间特征和M层第二中间特征进行处理时,可以按照从低层级到高层级的方向进行M,获得M层图像特征,从而获得的每层图像特征中包含均衡的M个不同层级特征,即每层图像特征中包括比较均衡的高层信息和低层信息,从而可以利用上下文信息提升每帧图像分割结果的准确性,且可以使得高层信息与低层信息更为均衡,可以实现对大小物体均衡的分割效果。
在上述实施例中将M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,包括:将所述M个不同层级特征按照从高层级特征到低层级特征的方向进行处理,获得M层第一中间特征;将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征,包括:将所述M个不同层级特征按照从低层级特征到高层级特征的方向进行处理,获得M层第二中间特征。
或者,将M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,包括:将所述M个不同层级特征按照从低层级特征到高层级特征的方向进行处理,获得M层第一中间特征;将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征,包括:将所述M个不同层级特征按照从高层级特征到低层级特征的方向进行处理,获得M层第二中间特征。
为了便于对本申请实施例的描述,本申请实施例以第一层级方向为从高层级特征到低层级特征的方向,第二层级方向为从低层级特征到高层级特征的方向为例进行描述。
其中,所述M个不同层级特征中第i个层级特征的级别高于第i-1层级特征的级别,i为小于等于M且大于等于2的整数,将所述M个不同层级特征按照从高层级特征到低层级特征的方向进行处理,获得M层第一中间特征,包括:将所述第M层级特征确定为所述M层第一中间特征中的第M层第一中间特征;依次取i为M-1至1,将所述第M层级特征到第i层级特征之间的M-i+1个层级特征进行融合,获得第i层第一中间特征,在i为1时,共获得M-1层第一中间特征。
例如,若M为4时,将第4层级特征确定为4层第一中间特征中的第4层第一中间特征,然后依次取i为3到1,将第4层级特征到第i层级特征进行融合,获得第i层第一中间特征,在i为1时,共获得3层第一中间特征,如i为3时,将第4层级特征到第3层级特征进行融合,获得第3层第一中间特征,如i为2时,将第4层级特征到第2层级特征进行融合,获得第2层第一中间特征,如i为1时,将第4层级特征到第1层级特征进行融合,获得第1层第一中间特征,所以按此方式,共可获得4层第一中间特征。
类似地,所述M个不同层级特征中第i个层级特征的级别小于第i+1层级特征的级别,i为小于等于M且大于等于1的整数,将所述M个不同层级特征按照从低层级特征到高层级特征的方向进行处理,获得M层第二中间特征,包括:将所述第1层级特征确定为所述M层第二中间特征中的第1层第二中间特征;依次取i为2至M,将所述第1层级特征到第i层级特征之间的i个层级特征进行融合,获得第i层第二中间特征,在i为M时,共获得M-1层第二中间特征。
例如,若M为4时,将第1层级特征确定为4层第二中间特征中的第1层第二中间特征,然后依次取i为2到4,将第1层级特征到第i层级特征进行融合,获得第i层第二中间特征,在i为4时,共获得3层第二中间特征,如i为2时,将第1层级特征到第2层级特征进行融合,获得第2层第二中间特征,如i为3时,将第1层级特征到第3层级特征进行融合,获得第3层第二中间特征,如i为4时,将第1层级特征到第4层级特征进行融合,获得第4层第二中间特征,所以按此方式,共可获得4层第二中间特征。
其中,所述M个不同层级特征中第i个层级特征的级别小于第i+1层级特征的级别,将所述M层第一中间特征及所述M层第二中间特征进行处理,获得M层图像特征,包括:将所述第1层第一中间特征确定为所述M层图像特征中的第1层图像特征;依次取i为2至M,将所述第i层第一中间特征与第i-1层第二中间特征进行融合,获得第i层图像特征,在i为M时,共获得M-1层图像特征。
例如,若M为4,将第1层第一中间特征确定为M层图像特征中的第1层图像特征,若i为2时,将第2层第一中间特征到第1层第二中间特征进行融合,获得第2层图像特征,若i为3时,将第3层第一中间特征到第2层第二中间特征进行融合,获得第3层图像特征,若i为4时,将第4层第一中间特征到第3层第二中间特征进行融合,获得第4层图像特征,以此方式,可以获得4层图像特征。
为了便于对本实施例中图像特征的获取方式的理解,下面可参照图5所示,图5为本申请实施例提供的一种对特征处理的应用示意图。本申请实施例是Mask R-CNN的特征金字塔网络FPN结构,在残差网络结构(residualnetwork,ResNet)另一侧加入了和FPN成镜像操作的金字塔结构,并将得到的各层级特征(N1,N2,N3,N4)(即M层第二中间特征)与FPN相应层级特征(P1,P2,P3,P4)(即M层第一中间特征)进行处理,最终得到信息均衡的各层级特征(O1,O2,O3,O4)(即M层图像特征)。
具体地,(C1,C2,C3,C4)特征为通过神经网络对每帧图像进行特征提取获得的M个不同层级特征,该实施例中,M为4,即获得4个不同层级特征,将该(C1,C2,C3,C4)特征按照从高层级特征从低层级特征的方向进行处理,获得4层第一中间特征,即第一中间特征为特征(P1,P2,P3,P4),其融合的方式可以简单表示如下:P4=C4,P3=C3+C4,P2=C2+C3+C4,P1=C1+C2+C3+C4。将该(C1,C2,C3,C4)特征按照从低层级特征从高层级特征的方向进行进行,获得4层第二中间特征,即第二中间特征为特征(N1,N2,N3,N4),其融合的方式可以简单表示如下:N1=C1,N2=N1+C2=C1+C2,N3=N2+C3=C1+C2+C3,N4=N3+C4=C1+C2+C3+C4。然后再将特征(P1,P2,P3,P4)与特征(M1,M2,M3,M4)按照从低层级特征到高层级特征的方向进行处理,获得4层图像特征,即特征(O1,O2,O3,O4),其融合的方式可以简单表示如下:O1=P1=C1+C2+C3+C4,O2=N1+P2=C1+C2+C3+C4,O3=N2+P3=C1+C2+C3+C4,O4=N3+P4=C1+C2+C3+C4,可见获得的O层特征中每层特征包括比重相同的C层特征,即每层图像特征中的高层级特征信息与低层级特征信息所占比重相同,所以在后续对物体进行实例分割时,由于高层级特征信息对大物体比较敏感,低层级特征信息对小物体比较敏感,所以获得的O层特征信息对大小物体都具有较好的实例分割效果。
另外,对K帧图像中的各个物体进行识别,获得M层图像特征的方式还可以为:对每帧图像进行特征提取,获得M个不同层级特征;将所述M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,以及将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征;将所述M层第一中间特征按照所述第二层级方向进行处理,获得每帧图像对应的M层第一图像特征,以及将所述M层第二中间特征按照所述第一层级方向进行处理,获得每帧图像对应的M层第二图像特征,每帧图像对应的M层图像特征包括所述M层第一图像特征和所述M层第二图像特征。
其中,获得M层第一中间特征与M层第二中间特征的方式与上述方式中获得M层第一中间特征与M层第二中间特征的方式相同,在此不再过多赘述。
作为一种实施方式,所述M个不同层级特征中第i个层级特征的级别小于第i+1层级特征的级别,将所述M层第一中间特征按照第二层级方向进行处理,获得M层第一图像特征,包括:将第1层第一中间特征确定为所述M层第一图像特征中的第1层第一图像特征;依次取i为2至M,将所述第1层第一中间特征与第i层第一中间特征之间的i层第一中间特征进行融合,获得第i层第一图像特征,在i为M时,共获得M-1层第一图像特征。
例如,在M=3时,将第1层第一中间特征确定为第1层第一图像特征,依次取i为2到3,将第1层第一中间特征与第i层第一中间特征之间的i层第一中间特征进行融合,获得第i层第一图像特征,如i为2时,将第1层第一中间特征与第2层第一中间特征之间的2层第一中间特征进行融合,获得第2层第一图像特征,在i为3时,将第1层第一中间特征与第3层第一中间特征之间的3层第一中间特征进行融合,获得第3层第一图像特征,所以,按照此方式,可获得3层第一图像特征。
将所述M层第二中间特征按照第一层级方向进行处理,获得M层第二图像特征,包括:将第M层第二中间特征确定为所述M层第二图像特征中的第M层第二图像特征;依次取i为M-1至1,将所述第M层第二中间特征到第i层第二中间特征之间的M-i+1层第二中间特征进行融合,获得第i层第二图像特征,在i为1时,共获得M-1层第二图像特征。
例如,在M=3时,将第3层第二中间特征确定为第3层第二图像特征,依次取i为2到1,第M层第二中间特征到第i层第二中间特征之间的M-i+1层第二中间特征进行融合,获得第i层第二图像特征,如i为2时,将第3层第二中间特征与第2层第二中间特征之间的2层第二中间特征进行融合,获得第2层第二图像特征,在i为1时,将第3层第二中间特征与第1层第二中间特征之间的3层第二中间特征进行融合,获得第3层第二图像特征,所以,按照此方式,可获得3层第二图像特征。
下面以一个具体的例子对上述实施例的具体过程进行说明,请参照图6,图6为本申请实施例提供的另一种对特征处理的应用示意图。具体地,(C1,C2,C3,C4)特征为通过神经网络对每帧图像进行特征提取获得的M个不同层级特征,该实施例中,M为4,即获得4个不同层级特征,将该(C1,C2,C3,C4)特征按照从高层级特征从低层级特征的方向进行处理,获得4层第一中间特征,即第一中间特征为特征(P1,P2,P3,P4),其融合的方式可以简单表示如下:P4=C4,P3=C3+C4,P2=C2+C3+C4,P1=C1+C2+C3+C4。
将该(C1,C2,C3,C4)特征按照从低层级特征从高层级特征的方向进行进行,获得4层第二中间特征,即第二中间特征为特征(N1,N2,N3,N4),其融合的方式可以简单表示如下:N1=C1,N2=N1+C2=C1+C2,N3=N2+C3=C1+C2+C3,N4=N3+C4=C1+C2+C3+C4。
然后再将第一特征(P1,P2,P3,P4)按照从低层级特征到高层级特征的方向进行处理,获得4层第一图像特征,即特征(O1,O2,O3,O4),其融合的方式可以简单表示如下:O1=P1=C1+C2+C3+C4,O2=P1+P2=C1+2(C2+C3+C4),O3=P1+P2+P3=C1+2C2+3(C3+C4),O4=P1+P2+P3+P4=C1+2C2+3C3+4C4。
将第二中间特征(N1,N2,N3,N4)按照从低层级特征到高层级特征的方向进行处理,获得4层第二图像特征,即特征(Q1,Q2,Q3,Q4),其融合的方式可以简单表示如下:Q4=N4=C1+C2+C3+C4,Q3=N4+N3=2(C1+C2+C3)+C4,Q2=N4+N3+N2=3(C1+C2)+2C3+C4,Q1=N4+N3+N2+N1=4C1+3C2+2C3+C4。
可见获得的O层第一图像特征中每层第一图像特征包括的高层级特征信息较多,低层级特征信息较少,获得的Q层第二图像特征中每层第二图像特征包括的低层级特征信息较多,高层级特征信息较少,所以,最后获得的M层图像特征中包含的高层级特征信息和低层级特征信息占据的权重均较大,且较为均衡,所以在后续对物体进行实例分割时,由于高层级特征信息对大物体比较敏感,低层级特征信息对小物体比较敏感,所以利用获得的M层图像特征对大小物体都具有较好的实例分割效果。
在获得上述每帧图像对应的M层图像特征后,还可以基于该M层图像特征对每帧图像中的各个物体进行分割,以识别出每帧图像中的各个物体,其中,上述在基于M层图像特征进行实例分割时,获得实例分割结果时,由于同时基于该M层图像特征进行像素级别的实例类别预测和前背景预测,该部分方案可以称为双路掩膜预测,如图7所示,图7为本申请实施例中进行双路掩膜预测的一个网络结果示意图。
图7中,图像感兴趣区域(region of interest,ROI)的融合特征(即目标物体的融合特征),分别经过两个分支进行实例类别预测和前背景预测。其中,第一个分支包括:由四个卷积层组成的滤波器生成网络,滤波器生成网络可以根据其融合特征生成该点特有的1x1滤波器,提高掩膜的准确性。滤波器生成网络根据输入的融合特征动态生成特定样本的滤波器参数,具体地,滤波器生成网络不仅可生成和融合特征相匹配的滤波器,而且该滤波器使每个像素上的响应不同,响应的权值受融合的特征控制的,即生成的滤波器的不同响应的权值比较适合滤波器产生的感兴趣区域的特征。
第二个分支是由三个卷积层组成的,第一个分支用于对每个潜在的实例类别都会进行像素级别的掩膜预测,而第二个分支可进行与实例类别无关的掩膜预测,即进行像素级别的前背景预测,最终这两个分支的掩膜预测相加得到最终的实例分割结果。
所以,采用上述方式,可以对每帧图像中的各个大小的物体进行有效分割,从而可以识别出每帧图像中的各个物体。
请参照图8,图8为本申请实施例提供的一种车辆碰撞概率预测装置200的结构框图,所述装置包括:
图像获取模块210,用于获取待预测车辆在当前时刻已采集的K帧图像,K为大于等于2的整数;
图像特征提取模块220,用于对每帧图像进行特征提取,获取每帧图像对应的M层图像特征,所述M层图像特征用于表示每帧图像中各物体的属性信息,M为大于等于2的整数;
图像识别模块230,用于基于每帧图像对应的M层图像特征对所述K帧图像进行识别,获得所述K帧图像中的目标物体;
像素点数量获取模块240,用于获取所述目标物体在每帧图像中对应的像素点数量,共获得K个像素点数量;
碰撞概率预测模块250,用于根据所述K个像素点数量,预测所述目标物体与所述待预测车辆的碰撞概率。
可选地,所述K帧图像中的第i帧图像的拍摄时间早于第i+1帧图像,i为1到K-1的整数;所述碰撞概率预测模块250,具体用于基于所述K个像素点数量,获得所述目标物体随拍摄时间在所述K帧图像中的像素点数量变化趋势;在所述像素点数量变化趋势为增加时,预测所述目标物体与所述待预测车辆的碰撞概率为第一概率;在所述像素点数量变化趋势为减少时,预测所述目标物体与所述待预测车辆的碰撞概率为第二概率;其中,所述第二概率小于所述第一概率。
可选地,所述碰撞概率预测模块250,还用于在所述像素点数量变化趋势为增加时,获取所述目标物体与所述待预测车辆之间的当前距离;在所述当前距离小于预设距离时,则预测所述目标物体与所述待预测车辆的碰撞概率为第一概率。
可选地,所述碰撞概率预测模块250,还用于在所述当前距离大于等于所述预设距离时,则预测所述目标物体与所述待预测车辆的碰撞概率为第三概率,所述第三概率小于所述第一概率且大于等于所述第二概率。
可选地,所述碰撞概率预测模块250,还用于:
在所述像素点数量变化趋势为增加时,基于每帧图像对应的M层图像特征预测所述目标物体在所述当前时刻的下一时刻对应的预测图像特征;
根据所述目标物体的预测图像特征获取所述目标物体在所述下一时刻的像素点数量;
判断所述所述下一时刻的像素点数量是否大于第K个像素点数量;
若是,则预测所述目标物体与所述待预测车辆的碰撞概率为第一概率。
可选地,所述图像特征提取模块220,具体用于:
对每帧图像进行特征提取,获得M个不同层级特征;
将所述M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,以及将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征;
将所述M层第一中间特征及所述M层第二中间特征进行处理,获得每帧图像对应的M层图像特征。
可选地,所述图像特征提取模块220,具体用于:
对每帧图像进行特征提取,获得M个不同层级特征;
将所述M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,以及将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征;
将所述M层第一中间特征按照所述第二层级方向进行处理,获得每帧图像对应的M层第一图像特征,以及将所述M层第二中间特征按照所述第一层级方向进行处理,获得每帧图像对应的M层第二图像特征,每帧图像对应的M层图像特征包括所述M层第一图像特征和所述M层第二图像特征。
本申请实施例提供一种可读存储介质,所述计算机程序被处理器执行时,执行如图2所示方法实施例中电子设备所执行的方法过程。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的装置的具体工作过程,可以参考前述方法中的对应过程,在此不再过多赘述。
综上所述,本申请实施例提供一种车辆碰撞概率预测方法、装置、电子设备及存储介质,该方法通过采集K帧图像,然后识别出每帧图像中的目标物体,再获取目标物体在每帧图像中的像素点数量,基于目标物体的K个像素点数量来预测目标物体与待预测车辆的碰撞概率,该方式可以通过获得目标物体的K个像素点数量来判断目标物体与待预测车辆之间的状态,以此可有效预测目标物体与待预测车辆之间的碰撞概率,从而有效防止目标物体与待预测车辆之间碰撞的情况发生。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OKly Memory)、随机存取存储器(RAM,RaKdom Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本申请的优选实施例而已,并不用于限制本申请,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应所述以权利要求的保护范围为准。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
Claims (16)
1.一种车辆碰撞概率预测方法,其特征在于,所述方法包括:
获取待预测车辆在当前时刻已采集的K帧图像,K为大于等于2的整数;
对每帧图像进行特征提取,获取每帧图像对应的M层图像特征,所述M层图像特征用于表示每帧图像中各物体的属性信息,M为大于等于2的整数;
基于每帧图像对应的M层图像特征对所述K帧图像进行识别,获得所述K帧图像中的目标物体;
获取所述目标物体在每帧图像中对应的像素点数量,共获得K个像素点数量;
根据所述K个像素点数量,预测所述目标物体与所述待预测车辆的碰撞概率;
其中,所述根据所述K个像素点数量,预测所述目标物体与所述待预测车辆的碰撞概率,包括:
根据所述K个像素点数量的变化趋势,预测所述目标物体与所述待预测车辆的碰撞概率;
其中,在所述K个像素点数量的变化趋势为增加时,所述预测所述目标物体与所述待预测车辆的碰撞概率,包括:
获取所述目标物体与所述待预测车辆之间的当前距离以及获取所述目标物体在所述当前时刻的下一时刻的像素点数量;
基于所述当前距离以及所述下一时刻的像素点数量,确定所述目标物体与所述待预测车辆的碰撞概率;
其中,获取所述目标物体在所述当前时刻的下一时刻的像素点数量,包括:
依次取i为1到M,将所述K帧图像对应的K个第i层图像特征输入长短期记忆网络LSTM模型中,通过所述LSTM模型输出对第i层图像特征对应的第i层预测图像特征,直至获得第M层图像特征对应的第M层预测图像特征;
将M层预测图像特征进行融合,获得所述目标物体在所述当前时刻的下一时刻对应的预测图像特征;
根据所述目标物体的预测图像特征获取所述目标物体在所述下一时刻的像素点数量。
2.根据权利要求1所述的方法,其特征在于,所述K帧图像中的第i帧图像的拍摄时间早于第i+1帧图像,i为1到K-1的整数;根据所述K个像素点数量,预测所述目标物体与所述待预测车辆的碰撞概率,包括:
基于所述K个像素点数量,获得所述目标物体随拍摄时间在所述K帧图像中的像素点数量变化趋势;
在所述像素点数量变化趋势为增加时,预测所述目标物体与所述待预测车辆的碰撞概率为第一概率;在所述像素点数量变化趋势为减少时,预测所述目标物体与所述待预测车辆的碰撞概率为第二概率;其中,所述第二概率小于所述第一概率。
3.根据权利要求2所述的方法,其特征在于,在所述像素点数量变化趋势为增加时,预测所述目标物体与所述待预测车辆的碰撞概率为第一概率,包括:
在所述像素点数量变化趋势为增加时,获取所述目标物体与所述待预测车辆之间的当前距离;
在所述当前距离小于预设距离时,则预测所述目标物体与所述待预测车辆的碰撞概率为第一概率。
4.根据权利要求3所述的方法,其特征在于,在所述像素点数量变化趋势为增加时,获取所述目标物体与所述待预测车辆之间的当前距离之后,所述方法还包括:
在所述当前距离大于等于所述预设距离时,则预测所述目标物体与所述待预测车辆的碰撞概率为第三概率,所述第三概率小于所述第一概率且大于等于所述第二概率。
5.根据权利要求2所述的方法,其特征在于,在所述像素点数量变化趋势为增加时,预测所述目标物体与所述待预测车辆的碰撞概率为第一概率,包括:
判断所述下一时刻的像素点数量是否大于第K个像素点数量;
若是,则预测所述目标物体与所述待预测车辆的碰撞概率为第一概率。
6.根据权利要求1-5中任一权项所述的方法,其特征在于,对每帧图像进行特征提取,获取每帧图像对应的M层图像特征,包括:
对每帧图像进行特征提取,获得M个不同层级特征;
将所述M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,以及将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征;
将所述M层第一中间特征及所述M层第二中间特征进行处理,获得每帧图像对应的M层图像特征。
7.根据权利要求1-5任一权项所述的方法,其特征在于,对每帧图像进行特征提取,获取每帧图像对应的M层图像特征,包括:
对每帧图像进行特征提取,获得M个不同层级特征;
将所述M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,以及将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征;
将所述M层第一中间特征按照所述第二层级方向进行处理,获得每帧图像对应的M层第一图像特征,以及将所述M层第二中间特征按照所述第一层级方向进行处理,获得每帧图像对应的M层第二图像特征,每帧图像对应的M层图像特征包括所述M层第一图像特征和所述M层第二图像特征。
8.一种车辆碰撞概率预测装置,其特征在于,所述装置包括:
图像获取模块,用于获取待预测车辆在当前时刻已采集的K帧图像,K为大于等于2的整数;
图像特征提取模块,用于对每帧图像进行特征提取,获取每帧图像对应的M层图像特征,所述M层图像特征用于表示每帧图像中各物体的属性信息,M为大于等于2的整数;
图像识别模块,用于基于每帧图像对应的M层图像特征对所述K帧图像进行识别,获得所述K帧图像中的目标物体;
像素点数量获取模块,用于获取所述目标物体在每帧图像中对应的像素点数量,共获得K个像素点数量;
碰撞概率预测模块,用于根据所述K个像素点数量,预测所述目标物体与所述待预测车辆的碰撞概率;
所述碰撞概率预测模块,具体用于根据所述K个像素点数量的变化趋势,预测所述目标物体与所述待预测车辆的碰撞概率;
其中,在所述K个像素点数量的变化趋势为增加时,所述碰撞概率预测模块,还用于获取所述目标物体与所述待预测车辆之间的当前距离以及获取所述目标物体在所述当前时刻的下一时刻的像素点数量;基于所述当前距离以及所述下一时刻的像素点数量,确定所述目标物体与所述待预测车辆的碰撞概率;
其中,所述碰撞概率预测模块,还用于:
依次取i为1到M,将所述K帧图像对应的K个第i层图像特征输入长短期记忆网络LSTM模型中,通过所述LSTM模型输出对第i层图像特征对应的第i层预测图像特征,直至获得第M层图像特征对应的第M层预测图像特征;
将M层预测图像特征进行融合,获得所述目标物体在所述当前时刻的下一时刻对应的预测图像特征;
根据所述目标物体的预测图像特征获取所述目标物体在所述下一时刻的像素点数量。
9.根据权利要求8所述的装置,其特征在于,所述K帧图像中的第i帧图像的拍摄时间早于第i+1帧图像,i为1到K-1的整数;所述碰撞概率预测模块,具体用于基于所述K个像素点数量,获得所述目标物体随拍摄时间在所述K帧图像中的像素点数量变化趋势;在所述像素点数量变化趋势为增加时,预测所述目标物体与所述待预测车辆的碰撞概率为第一概率;在所述像素点数量变化趋势为减少时,预测所述目标物体与所述待预测车辆的碰撞概率为第二概率;其中,所述第二概率小于所述第一概率。
10.根据权利要求9所述的装置,其特征在于,所述碰撞概率预测模块,还用于在所述像素点数量变化趋势为增加时,获取所述目标物体与所述待预测车辆之间的当前距离;在所述当前距离小于预设距离时,则预测所述目标物体与所述待预测车辆的碰撞概率为第一概率。
11.根据权利要求10所述的装置,其特征在于,所述碰撞概率预测模块,还用于在所述当前距离大于等于所述预设距离时,则预测所述目标物体与所述待预测车辆的碰撞概率为第三概率,所述第三概率小于所述第一概率且大于等于所述第二概率。
12.根据权利要求9所述的装置,其特征在于,所述碰撞概率预测模块,还用于:
判断所述下一时刻的像素点数量是否大于第K个像素点数量;
若是,则预测所述目标物体与所述待预测车辆的碰撞概率为第一概率。
13.根据权利要求8-12任一权项所述的装置,其特征在于,所述图像特征提取模块,具体用于:
对每帧图像进行特征提取,获得M个不同层级特征;
将所述M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,以及将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征;
将所述M层第一中间特征及所述M层第二中间特征进行处理,获得每帧图像对应的M层图像特征。
14.根据权利要求8-12任一权项所述的装置,其特征在于,所述图像特征提取模块,具体用于:
对每帧图像进行特征提取,获得M个不同层级特征;
将所述M个不同层级特征按照第一层级方向进行处理,获得M层第一中间特征,以及将所述M个不同层级特征按照与所述第一层级方向相反的第二层级方向进行处理,获得M层第二中间特征;
将所述M层第一中间特征按照所述第二层级方向进行处理,获得每帧图像对应的M层第一图像特征,以及将所述M层第二中间特征按照所述第一层级方向进行处理,获得每帧图像对应的M层第二图像特征,每帧图像对应的M层图像特征包括所述M层第一图像特征和所述M层第二图像特征。
15.一种电子设备,其特征在于,包括处理器以及存储器,所述存储器存储有计算机可读取指令,当所述计算机可读取指令由所述处理器执行时,运行如权利要求1-7任一所述方法中的步骤。
16.一种可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时运行如权利要求1-7任一所述方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811560878.5A CN111339808B (zh) | 2018-12-19 | 2018-12-19 | 车辆碰撞概率预测方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811560878.5A CN111339808B (zh) | 2018-12-19 | 2018-12-19 | 车辆碰撞概率预测方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111339808A CN111339808A (zh) | 2020-06-26 |
CN111339808B true CN111339808B (zh) | 2024-04-23 |
Family
ID=71185397
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811560878.5A Active CN111339808B (zh) | 2018-12-19 | 2018-12-19 | 车辆碰撞概率预测方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111339808B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112255628A (zh) * | 2020-10-09 | 2021-01-22 | 新石器慧义知行智驰(北京)科技有限公司 | 障碍物轨迹预测方法、装置、设备和介质 |
CN112744174B (zh) * | 2021-01-18 | 2022-05-24 | 深圳广联赛讯股份有限公司 | 车辆碰撞监测方法、装置、设备及计算机可读存储介质 |
CN114764911B (zh) * | 2022-06-15 | 2022-09-23 | 小米汽车科技有限公司 | 障碍物信息检测方法、装置、电子设备及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102010005290A1 (de) * | 2009-01-26 | 2010-08-19 | GM Global Technology Operations, Inc., Detroit | Vereinigungsmodul für mehrere Objekte für ein Kollisionsvorbereitungssystem |
CN105091847A (zh) * | 2014-04-16 | 2015-11-25 | 联想(北京)有限公司 | 一种测量距离的方法及电子设备 |
CN106326866A (zh) * | 2016-08-25 | 2017-01-11 | 北京奇虎科技有限公司 | 车辆碰撞的预警方法及装置 |
CN107871405A (zh) * | 2016-09-27 | 2018-04-03 | 罗克韦尔柯林斯公司 | 利用视觉信息进行空中碰撞威胁的检测与评估 |
CN108335305A (zh) * | 2018-02-09 | 2018-07-27 | 北京市商汤科技开发有限公司 | 图像分割方法和装置、电子设备、程序和介质 |
CN108417089A (zh) * | 2018-03-14 | 2018-08-17 | 杭州分数科技有限公司 | 行车安全预警方法、装置及系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10529083B2 (en) * | 2016-12-08 | 2020-01-07 | Lighmetrics Technologies Pvt. Ltd. | Methods and systems for estimating distance of an object from a moving vehicle |
-
2018
- 2018-12-19 CN CN201811560878.5A patent/CN111339808B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102010005290A1 (de) * | 2009-01-26 | 2010-08-19 | GM Global Technology Operations, Inc., Detroit | Vereinigungsmodul für mehrere Objekte für ein Kollisionsvorbereitungssystem |
CN105091847A (zh) * | 2014-04-16 | 2015-11-25 | 联想(北京)有限公司 | 一种测量距离的方法及电子设备 |
CN106326866A (zh) * | 2016-08-25 | 2017-01-11 | 北京奇虎科技有限公司 | 车辆碰撞的预警方法及装置 |
CN107871405A (zh) * | 2016-09-27 | 2018-04-03 | 罗克韦尔柯林斯公司 | 利用视觉信息进行空中碰撞威胁的检测与评估 |
CN108335305A (zh) * | 2018-02-09 | 2018-07-27 | 北京市商汤科技开发有限公司 | 图像分割方法和装置、电子设备、程序和介质 |
CN108417089A (zh) * | 2018-03-14 | 2018-08-17 | 杭州分数科技有限公司 | 行车安全预警方法、装置及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN111339808A (zh) | 2020-06-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108960266B (zh) | 图像目标检测方法及装置 | |
CN109086668B (zh) | 基于多尺度生成对抗网络的无人机遥感影像道路信息提取方法 | |
US9443142B2 (en) | Vision-based system for dynamic weather detection | |
CN111339808B (zh) | 车辆碰撞概率预测方法、装置、电子设备及存储介质 | |
CN112668480B (zh) | 头部姿态角检测方法、装置、电子设备及存储介质 | |
CN110033481A (zh) | 用于进行图像处理的方法和设备 | |
CN109800682B (zh) | 驾驶员属性识别方法及相关产品 | |
CN110543838A (zh) | 车辆信息检测的方法及装置 | |
CN113191318B (zh) | 目标检测方法、装置、电子设备及存储介质 | |
CN112464930A (zh) | 目标检测网络构建方法、目标检测方法、装置和存储介质 | |
CN114820644A (zh) | 对图像的像素进行分类的方法和设备 | |
CN110913209B (zh) | 摄像头遮挡检测方法、装置、电子设备及监控系统 | |
Lakmal et al. | Pothole detection with image segmentation for advanced driver assisted systems | |
CN111340044A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
US11403498B2 (en) | Method for classifying a capture taken by a sensor | |
CN116310598A (zh) | 一种用于恶劣天气下的障碍物检测方法及装置 | |
CN111144361A (zh) | 一种基于二值化cgan网络的公路车道检测方法 | |
CN112837404A (zh) | 一种平面对象的三维信息的构建方法及装置 | |
CN115439692A (zh) | 一种图像处理方法、装置、电子设备及介质 | |
US20220270351A1 (en) | Image recognition evaluation program, image recognition evaluation method, evaluation apparatus, and evaluation system | |
CN112818743B (zh) | 图像识别的方法、装置、电子设备及计算机存储介质 | |
JP4818430B2 (ja) | 移動物体認識方法及び装置 | |
JP7523312B2 (ja) | 物体認識装置、物体認識システム、物体認識装置の学習方法、物体認識装置の物体認識方法、物体認識装置の学習プログラム及び物体認識装置の物体認識プログラム | |
Pandya et al. | A novel approach for vehicle detection and classification | |
CN111008544B (zh) | 交通监控和无人驾驶辅助系统以及目标检测方法及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |