CN109591698A - 盲区检测系统、盲区检测方法和车辆 - Google Patents
盲区检测系统、盲区检测方法和车辆 Download PDFInfo
- Publication number
- CN109591698A CN109591698A CN201710923024.8A CN201710923024A CN109591698A CN 109591698 A CN109591698 A CN 109591698A CN 201710923024 A CN201710923024 A CN 201710923024A CN 109591698 A CN109591698 A CN 109591698A
- Authority
- CN
- China
- Prior art keywords
- target
- vehicle
- module
- image
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
- B60Q9/00—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
- B60Q9/008—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for anti-collision purposes
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
- B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/301—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/304—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/802—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
Landscapes
- Engineering & Computer Science (AREA)
- Mechanical Engineering (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Traffic Control Systems (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
本发明公开了一种盲区检测系统。盲区检测系统包括多个相机、目标检测模块、目标跟踪模块和目标报警模块。多个相机用于采集车辆外多个预定区域的多个图像;目标检测模块用于提取多个图像的特征点并根据特征点获得目标;目标跟踪模块用于对目标进行跟踪并根据目标和车辆的传感器信息判断目标是否对车辆形成危险;和目标报警模块用于在目标对车辆形成危险时发出警示信息。此外,本发明还公开了一种盲区检测方法和一种车辆。本发明的盲区检测系统、盲区检测方法和车辆利用多个相机采集车辆外多个预定区域的多个图像,根据多个图像可以获取车辆外预定区域内的目标,从而在目标对车辆形成危险时发出警示信息,使驾驶员能够察觉到危险。
Description
技术领域
本发明涉及车辆领域,特别涉及一种盲区检测系统、盲区检测方法和车辆。
背景技术
在相关技术中,车辆上的盲区检测系统一般只能检测车辆外盲区的某个区域,例如车辆后方区域的盲区,其检测范围较小,导致目标容易在其他区域的盲区与车辆发生碰撞,例如驾驶员难以察觉左方区域的盲区的目标,因此存在安全隐患。
发明内容
本发明的实施方式提供了一种盲区检测系统、盲区检测方法和车辆。
本发明实施方式的一种盲区检测系统,用于车辆,所述盲区检测系统包括:多个相机、目标检测模块、目标跟踪模块和目标报警模块,
所述多个相机用于采集所述车辆外多个预定区域的多个图像,所述多个预定区域至少包括所述车辆的左方区域、右方区域和后方区域;
所述目标检测模块用于提取所述多个图像的特征点并根据所述特征点获得目标;
所述目标跟踪模块用于对所述目标进行跟踪并根据所述目标和所述车辆的传感器信息判断所述目标是否对所述车辆形成危险;
所述目标报警模块用于在所述目标对所述车辆形成危险时发出警示信息。
本发明的盲区检测系统利用多个相机采集车辆外多个预定区域的多个图像,根据多个图像可以获取车辆外预定区域内的目标,从而在目标对车辆形成危险时发出警示信息,使驾驶员能够察觉到危险,进而减少事故的发生,提高了车辆行驶的安全性。
在某些实施方式中,所述目标检测模块用于提取同一相机采集的多帧图像中的所述特征点并根据所述特征点判断所述图像中是否存在所述目标。如此,可以通过同一相机的多帧图像判断图像中是否存在目标。
在某些实施方式中,所述目标跟踪模块用于对同一相机采集的多帧图像中的所述目标进行跟踪以确定所述目标在所述图像中的位置。如此,可以通过同一相机采集的多帧图像准确地获取目标的位置。
在某些实施方式中,所述盲区检测系统包括相机标定模块,所述相机标定模块用于对所述多个相机进行标定以获得相机参数,所述目标检测模块用于根据所述相机参数确定所述多个图像中的规定报警区域,并提取所述规定报警区域的特征点,根据所述特征点获得所述目标。如此,通过对多个相机进行标定可以获得相机参数,根据相机参数可以确定规定报警区域在图像中位置,从而可以在规定报警区域提取图像的特征点,减少特征点提取的计算量。
在某些实施方式中,所述目标检测模块用于判断每个所述图像中是否存在所述目标;在只有一个所述图像存在所述目标时,所述目标跟踪模块用于根据所述相机参数将所述目标投影到世界坐标系中,并对所述目标在所述世界坐标系中的位置进行跟踪并根据所述目标和所述车辆的传感器信息判断所述目标是否对所述车辆形成危险。如此,可以在只有一个图像存在目标时,只将该图像对应的目标投影到世界坐标系中以减少投影所需的计算量。
在某些实施方式中,所述目标检测模块用于判断每个所述图像中是否存在所述目标;在两个或以上的所述图像存在所述目标时,所述目标跟踪模块用于根据所述相机参数将两个或以上的所述图像的所述目标投影到世界坐标系中,并判断两个或以上的所述图像的所述目标是否为同一目标;所述目标跟踪模块用于,在两个或以上的所述图像的所述目标不是同一目标时,对每个所述图像的所述目标在所述世界坐标系中的位置进行跟踪并根据所述目标和所述车辆的传感器信息判断所述目标是否对所述车辆形成危险。如此,可以在两个或以上的图像存在目标并且目标不是同一目标时,通过对目标进行跟踪以判断该目标是否对车辆形成危险。
在某些实施方式中,所述目标检测模块用于判断每个所述图像中是否存在所述目标;在两个或以上的所述图像存在所述目标时,所述目标跟踪模块用于根据所述相机参数将两个或以上的所述图像的所述目标投影到世界坐标系中,并判断两个或以上的所述图像的所述目标是否为同一目标;所述目标跟踪模块用于,在两个或以上的所述图像的所述目标为同一目标时,对两个或以上的所述图像的所述目标在所述世界坐标系中的位置进行融合,对位置进行融合后的所述目标进行跟踪并根据位置进行融合后的所述目标和所述车辆的传感器信息判断所述目标是否对所述车辆形成危险。如此,可以在两个或以上的图像存在同一目标时,对目标在世界坐标系中的位置进行融合以准确地确定目标的位置,避免出现同一目标判断为不同的两个目标而造成系统误操作。
在某些实施方式中,所述目标跟踪模块用于在所述目标出现在所述车辆的规定报警区域内时,判断所述目标对所述车辆形成危险,或所述目标跟踪模块用于在所述目标以大于预设速度靠近所述车辆时,判断所述目标对所述车辆形成危险。如此,可以在目标距离车辆太近时或在目标可能撞上车辆时判断目标对车辆形成危险,从而发出警示信息以提示驾驶员。
本发明实施方式的一种盲区检测方法,用于车辆,所述盲区检测方法包括:
采集所述车辆外多个预定区域的多个图像,所述多个预定区域至少包括所述车辆的左方区域、右方区域和后方区域;
提取所述多个图像的特征点并根据所述特征点获得目标;
对所述目标进行跟踪并根据所述目标和所述车辆的传感器信息判断所述目标是否对所述车辆形成危险;
在所述目标对所述车辆形成危险时发出警示信息。
上述盲区检测方法利用多个相机采集车辆外多个预定区域的多个图像,根据多个图像可以获取车辆外预定区域内的目标,从而在目标对车辆形成危险时发出警示信息,使驾驶员能够察觉到危险,进而减少事故的发生,提高了车辆行驶的安全性。
本发明实施方式的一种车辆包括上述任一实施方式的盲区检测系统。
上述车辆利用多个相机采集车辆外多个预定区域的多个图像,根据多个图像可以获取车辆外预定区域内的目标,从而在目标对车辆形成危险时发出警示信息,使驾驶员能够察觉到危险,进而减少事故的发生,提高了车辆行驶的安全性。
本发明的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明的上述和/或附加的方面和优点从结合下面附图对实施方式的描述中将变得明显和容易理解,其中:
图1是本发明实施方式的盲区检测系统的模块示意图;
图2是本发明实施方式的盲区检测方法的流程示意图;
图3是本发明实施方式的盲区检测系统所采集到的图像的示意图;
图4是本发明实施方式的盲区检测方法的另一个流程示意图;
图5是本发明实施方式的盲区检测方法的再一个流程示意图;
图6是本发明实施方式的盲区检测方法的又一个流程示意图;
图7是本发明实施方式的盲区检测系统的另一个模块示意图;
图8是本发明实施方式的盲区检测方法的又一个流程示意图;
图9是本发明实施方式的盲区检测方法的又一个流程示意图;
图10是本发明实施方式的盲区检测方法的又一个流程示意图;
图11是本发明实施方式的盲区检测方法的又一个流程示意图;
图12是本发明实施方式的盲区检测方法的又一个流程示意图;
图13是本发明实施方式的盲区检测方法的又一个流程示意图。
主要元件符号说明:
盲区检测系统100、相机110、目标检测模块120、目标跟踪模块130、目标报警模块140、相机标定模块150。
具体实施方式
下面详细描述本发明的实施方式,所述实施方式的实施方式在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施方式是示例性的,仅用于解释本发明,而不能理解为对本发明的限制。
请参阅图1,本发明实施方式的一种盲区检测系统100可以用于车辆。盲区检测系统100包括:多个相机110、目标检测模块120、目标跟踪模块130和目标报警模块140。多个相机110用于采集车辆外多个预定区域的多个图像,多个预定区域至少包括车辆的左方区域、右方区域和后方区域。目标检测模块120用于提取多个图像的特征点并根据特征点获得目标。目标跟踪模块130用于对目标进行跟踪并根据目标和车辆的传感器信息判断目标是否对车辆形成危险。目标报警模块140用于在目标对车辆形成危险时发出警示信息。
请参阅图2,本发明实施方式的一种盲区检测方法可以用于车辆。盲区检测方法包括:
步骤S110:采集车辆外多个预定区域的多个图像,多个预定区域至少包括车辆的左方区域、右方区域和后方区域;
步骤S120:提取多个图像的特征点并根据特征点获得目标;
步骤S130:对目标进行跟踪并根据目标和车辆的传感器信息判断目标是否对车辆形成危险;
步骤S140:在目标对车辆形成危险时发出警示信息。
也即是说,本发明实施方式的盲区检测方法可以由本发明实施方式的盲区检测系统100实现,其中,步骤S110可以由相机110实现,步骤S120可以由目标检测模块120实现,步骤S130可以由目标跟踪模块130实现,步骤S140可以由目标报警模块140实现。
本发明的盲区检测系统100和盲区检测方法利用多个相机110采集车辆外多个预定区域的多个图像,根据多个图像可以获取车辆外预定区域内的目标,从而在目标对车辆形成危险时发出警示信息,使驾驶员能够察觉到危险,进而减少事故的发生,提高了车辆行驶的安全性。
在某些实施方式中,盲区检测系统100是指可以用于检测车辆外盲区区域的系统。车辆外的盲区区域通常包括车辆的左方区域、右方区域和后方区域,对应地,本发明实施方式的车辆外的预定区域至少包括车辆的左方区域、右方区域和后方区域。在其他实施方式中,车辆外的预定区域也可以包括车辆的前方区域、左方区域、右方区域和后方区域。
在某些实施方式中,多个相机110包括左视相机、右视相机和后视相机。如此通过多个相机110可以采集车辆的左方区域、右方区域和后方区域的多个图像。具体地,后视相机可指用于采集车辆后方区域的图像的相机,一般设置在车辆的后方;左视相机可指用于采集车辆左方区域的图像的相机,一般设置在车辆左后视镜;右视相机可指用于采集车辆右方区域的图像的相机,一般设置在车辆的右后视镜。通过左视相机、右视相机和后视相机采集预定区域的图像,能够获取车辆外盲区的视野,从而侦测车辆外盲区的状况。例如,图3中左图为后视相机采集到的图像,右图为右视相机采集到的图像。盲区检测系统100可将相机110采集到的图像显示在车载显示屏上,盲区检测系统100可将多个图像进行切换显示,或根据驾驶员选择显示驾驶员感兴趣的图像。盲区检测系统100也可将多个图像合成为车辆环视图(全景图)并显示以供驾驶员参考。
在某些实施方式中,目标检测模块120能够检测图像中的特征点,特征点可以是指全局特征点,比如梯度信息、颜色特征、纹理特征、主要物体的形状和轮廓等。特征点的检测算法包括但不限于:Sift(尺度不变特征变化)算法,Surf(加速健壮特征)算法等具有旋转不变性的特征算法。Sift算法是一种用来侦测图像中的局部特征的算法,通过在空间尺度中寻找图像的极值点,并提取出其位置、尺度、旋转不变量。Surf算法是一种高鲁棒性的局部特征点检测算法,由Sift算法改进而来,可以应用于计算机视觉的物体识别。根据机器学习方法如SVM(支持向量机)、深度学习等训练模型参数处理特征点可以获取目标。需要说明的是,本发明实施方式的目标包括但不限于:汽车、电动车、摩托车、自行车、行人等。在一个实施例中,可以通过提取图像的HOG(方向梯度直方图)特征、Haar-like(哈尔)特征并利用Adaboost分类器和SVM分类器处理特征点以检测获得目标。
在某些实施方式中,目标跟踪模块130可以采用kalman filter(卡尔曼滤波器)对目标进行跟踪,从而可以获取图像中目标的位置。车辆可以包括多种传感器,根据车辆的传感器信息可以获得车辆运动模型,车辆运动模型包括车辆各方面的工作状态。例如,传感器可以包括进气压力传感器、发动机温度传感器、油门踏板位置传感器、发动机转速传感器、车轮转速传感器、方向盘传感器等传感器,通过传感器信息可以判断车辆的工作状态,比如通过车轮转速传感器可以判断出车辆的行驶速度。目标跟踪模块130可以根据目标和传感器信息判断目标是否对车辆形成危险,例如对目标进行跟踪,发现目标向车辆靠近,而通过传感器信息发现车辆没有采取安全行驶措施,例如减速或者转向远离目标时,因此可以确定目标可能对车辆形成危险。
在某些实施方式中,在目标对车辆形成危险时,目标报警模块140可以通过视觉、听觉、触觉中的其中一种或任意组合的信息来提示驾驶员。具体地,警示信息包括视觉、听觉、触觉中的其中一种或任意组合的信息是指,警示信息包括视觉信息,或警示信息包括听觉信息,或警示信息包括触觉信息,或警示信息包括视觉信息和听觉信息,或警示信息包括视觉信息和触觉信息,或警示信息包括听觉信息和触觉信息,或警示信息包括视觉信息、听觉信息和触觉信息。可以理解,目标报警模块140可以包括显示屏,显示屏用于提供视觉信息;目标报警模块140可以包括喇叭、耳机,喇叭、耳机用于提供听觉信息;目标报警模块140可以包括振动电机,振动电机用于提供触觉信息。
请再次参阅图1,在某些实施方式中,相机110包括鱼眼相机,目标检测模块120用于处理鱼眼相机采集的图像以矫正图像的畸变,并提取矫正畸变后的图像的特征点并根据特征点获得目标。
请参阅图4,在某些实施方式中,相机110包括鱼眼相机,步骤S120包括:
步骤S122:处理鱼眼相机采集的图像以矫正图像的畸变,并提取矫正畸变后的图像的特征点并根据特征点获得目标。
也即是说,步骤S122可以由目标检测模块120实现。
如此,可以利用鱼眼相机的大视场角的特性来获得更宽的视野。
具体地,鱼眼相机可以是指带有鱼眼镜头的相机,鱼眼镜头可以是指视场角大于预设角度的镜头,例如视场角大于180度的镜头。由于鱼眼相机为了追求较大的视场角,鱼眼相机拍摄的图像容易存在畸变,因此在利用鱼眼相机获取图像时,一般需要处理图像以矫正图像的畸变,进而可以提取矫正畸变后的图像的特征点并根据特征点获得目标。
在某些实施方式中,在相机110采用鱼眼相机时,可以采用一个左视鱼眼相机、一个右视鱼眼相机和一个后视鱼眼相机采集预定区域的多个图像。在其他实施方式中,可以采用多个左视相机、多个右视相机和多个后视相机采集预定区域的多个图像。
请再次参阅图1,在某些实施方式中,目标检测模块120用于提取同一相机110采集的多帧图像中的特征点并根据特征点判断图像中是否存在目标。
请参阅图5,在某些实施方式中,步骤S120包括:
步骤S124:提取同一相机110采集的多帧图像中的特征点并根据特征点判断图像中是否存在目标。
也即是说,步骤S124可以由目标检测模块120实现。
如此,可以通过同一相机110的多帧图像判断图像中是否存在目标。
具体地,由于可能存在误差(如SVM、深度学习等目标检测算法的不完善等),使得根据特征点获得目标时,可能存在误判断,假设目标检测算法用于检测行人(即行人作为目标),那么目标检测算法会预存人的特征点以进行特征点匹配,在图像中存在一棵树时,树的特征点与预存的人的特征点相互之间可能会因误差而匹配,即目标检测算法误将树判断为行人。因此,可以通过提取同一相机110采集的多帧图像的特征点,并根据多帧图像的特征点判断图像中是否存在目标,例如判断连续出现目标的帧数是否超过预定帧数或判断出现目标的帧数与总帧数的比值是否大于预定比值,在帧数超过预定帧数或比值大于预定比值时,判断所述目标存在,从而减少或避免目标检测算法的误判断。在一个实施例中,目标的特征点在连续的十帧图像中都被检测到,因此可以判断目标存在。在另一个实施例中,在总共20帧的图像中,19帧图像检测到了目标,因此可以判断目标存在。
请再次参阅图1,在某些实施方式中,目标跟踪模块130用于对同一相机110采集的多帧图像中的目标进行跟踪以确定目标在图像中的位置。
请参阅图6,在某些实施方式中,步骤S130包括:
步骤S131:对同一相机110采集的多帧图像中的目标进行跟踪以确定目标在图像中的位置。
也即是说,步骤S131可以由目标跟踪模块130实现。
如此,可以通过同一相机110采集的多帧图像准确地获取目标的位置。
具体地,为了实时检测目标的存在,同一相机110采集的连续两帧图像的时间间隔一般很短,例如时间间隔小于40ms,因此,目标在连续两帧图像的位置一般不会产生较大的变化。在对目标进行跟踪时,可以对同一相机110采集的多帧图像中的目标进行跟踪,从而可以根据前一帧图像的目标在前一帧图像中的位置来初步确定当前帧图像的目标在当前帧图像中的位置,从而加快目标在图像中的位置的获取。
在某些实施方式中,可以通过meanshift(均值漂移)、optical flow(光流)等方法对同一相机110采集的多帧图像中的目标进行跟踪。
请参阅图7,在某些实施方式中,盲区检测系统100包括相机标定模块150,相机标定模块150用于对多个相机110进行标定以获得相机参数,目标检测模块120用于根据相机参数确定多个图像中的规定报警区域,并提取规定报警区域的特征点,根据特征点获得目标。
请参阅图8,在某些实施方式中,车辆包括用于采集多个图像的多个相机110,盲区检测方法包括:
步骤S150:对多个相机110进行标定以获得相机参数;
步骤S120包括:
步骤S126:根据相机参数确定多个图像中的规定报警区域,并提取规定报警区域的特征点,根据特征点获得目标。
也即是说,步骤S150可以由相机标定模块150实现,步骤S126可以由目标检测模块120实现。
如此,通过对多个相机110进行标定可以获得相机参数,根据相机参数可以确定规定报警区域在图像中位置,从而可以在规定报警区域提取图像的特征点,减少特征点提取的计算量。
具体地,规定报警区域可以是指车辆外事故易发区域,即在目标出现在规定报警区域内时容易发生目标与车辆的事故。在某些实施方式中,规定报警区域可以是驾驶员预先设置的一个区域,例如将离车辆左车门向左3米内、右车门向右3米内,车尾灯向后10米内设置为规定报警区域。为了确定规定报警区域在图像中的位置,可以对相机110进行标定,从而确定相机110采集的图像与车辆外规定报警区域的对应关系。另外,在提取图像的特征点以获得目标时,可以只对规定报警区域内的特征点进行提取以判断规定报警区域内是否存在目标,从而减少特征点提取和目标判断的计算量。
在某些实施方式中,相机参数包括相机内部参数和相机外部参数,相机内部参数包括相机110的视场角、相机110的焦距等相机110本身的参数,相机外部参数包括相机110的位置、角度等与车辆的位置关系。由于相机内部参数和相机外部参数均会对相机110采集图像的范围造成影响,例如相机110的视场角影响所采集的图像的场景范围,相机110的位置影响所采集的图像的场景方向等,因此可以通过标定相机110的相机内部参数和相机外部参数以作为相机参数,从而可以根据相机参数确定图像中的规定报警区域。
在某些实施方式中,多个相机110采集的多个图像可能存在重叠部分,即多个相机110中的两个或两个以上的相机110采集的预定区域的图像可能存在至少部分重叠,例如右视相机采集车辆右边的图像,后视相机采集车辆后边的图像,右视相机和后视相机可以同时采集车辆后方靠右的区域的图像。
请再次参阅图7,在某些实施方式中,目标检测模块120用于判断每个图像中是否存在目标;在只有一个图像存在目标时,目标跟踪模块130用于根据相机参数将目标投影到世界坐标系中,并对目标在世界坐标系中的位置进行跟踪并根据目标和车辆的传感器信息判断目标是否对车辆形成危险。
请参阅图9,在某些实施方式中,步骤S120包括:
步骤S128:判断每个图像中是否存在目标;
步骤S130包括:
步骤S132:在只有一个图像存在目标时,根据相机参数将目标投影到世界坐标系中,并对目标在世界坐标系中的位置进行跟踪并根据目标和车辆的传感器信息判断目标是否对车辆形成危险。
也即是说,步骤S128可以由目标检测模块120实现,步骤S132可以由目标跟踪模块130实现。
如此,可以在只有一个图像存在目标时,只将该图像对应的目标投影到世界坐标系中以减少投影所需的计算量。
具体地,为了准确地判断目标和实际场景的位置关系,可以将图像投影到世界坐标系中,从而可以根据世界坐标系与实际场景的关联确定目标在实际场景中的位置。另外,在将图像投影到世界坐标系中时,可以根据相机参数确定各个相机110与世界坐标系的对应关系,从而准确地将图像投影到世界坐标系中。在只有一个图像存在目标时,可以将该图像对应的目标投影到世界坐标系中,而不需要对其他图像进行投影,从而减少投影所需的计算量。需要说明的是,在没有图像存在目标时,可以不对图像进行处理,也可以将图像投影到世界坐标系中以供驾驶员观看,当然,在没有图像存在目标时,还可以返回步骤S110,在此不做具体限定。
请再次参阅图7,在某些实施方式中,目标检测模块120用于判断每个图像中是否存在目标;在两个或以上的图像存在目标时,目标跟踪模块130用于根据相机参数将两个或以上的图像的目标投影到世界坐标系中,并判断两个或以上的图像的目标是否为同一目标;目标跟踪模块130用于,在两个或以上的图像的目标不是同一目标时,对每个图像的目标在世界坐标系中的位置进行跟踪并根据目标和车辆的传感器信息判断目标是否对车辆形成危险。
请参阅图10,在某些实施方式中,步骤S120包括:
步骤S128:判断每个图像中是否存在目标;
步骤S130包括:
步骤S133:在两个或以上的图像存在目标时,根据相机参数将两个或以上的图像的目标投影到世界坐标系中,并判断两个或以上的图像的目标是否为同一目标;
步骤S134:在两个或以上的图像的目标不是同一目标时,对每个图像的目标在世界坐标系中的位置进行跟踪并根据目标和车辆的传感器信息判断目标是否对车辆形成危险。
也即是说,步骤S128可以由目标检测模块120实现,步骤S133和S134可以由目标跟踪模块130实现。
如此,可以在两个或以上的图像存在目标并且目标不是同一目标时,通过对目标进行跟踪以判断该目标是否对车辆形成危险。
具体地,为了准确地判断目标和实际场景的位置关系,可以将图像投影到世界坐标系中,从而可以根据世界坐标系与实际场景的关联确定目标在实际场景中的位置。另外,在将图像投影到世界坐标系中时,可以根据相机参数确定各个相机110与世界坐标系的对应关系,从而准确地将图像投影到世界坐标系中。在两个或以上的图像存在目标时,需要判断两个或以上的图像的目标是否为同一目标,若否,可以对每个图像的目标进行跟踪并根据目标和车辆的传感器信息判断目标是否对车辆形成危险。
请再次参阅图7,在某些实施方式中,目标检测模块120用于判断每个图像中是否存在目标;在两个或以上的图像存在目标时,目标跟踪模块130用于根据相机参数将两个或以上的图像的目标投影到世界坐标系中,并判断两个或以上的图像的目标是否为同一目标;目标跟踪模块130用于,在两个或以上的图像的目标为同一目标时,对两个或以上的图像的目标在世界坐标系中的位置进行融合,对位置进行融合后的目标进行跟踪并根据位置进行融合后的目标和车辆的传感器信息判断目标是否对车辆形成危险。
请参阅图11,在某些实施方式中,步骤S120包括:
步骤S128:判断每个图像中是否存在目标;
步骤S130包括:
步骤S135:在两个或以上的图像存在目标时,根据相机参数将两个或以上的图像的目标投影到世界坐标系中,并判断两个或以上的图像的目标是否为同一目标;
步骤S136:在两个或以上的图像的目标为同一目标时,对两个或以上的图像的目标在世界坐标系中的位置进行融合,对位置进行融合后的目标进行跟踪并根据位置进行融合后的目标和车辆的传感器信息判断目标是否对车辆形成危险。
也即是说,步骤S128可以由目标检测模块120实现,步骤S135和S136可以由目标跟踪模块130实现。
如此,可以在两个或以上的图像存在同一目标时,对目标在世界坐标系中的位置进行融合以准确地确定目标的位置,避免出现同一目标判断为不同的两个目标而造成系统误操作。
具体地,为了准确地判断目标和实际场景的位置关系,可以将图像投影到世界坐标系中,从而可以根据世界坐标系与实际场景的关联确定目标在实际场景中的位置。另外,在将图像投影到世界坐标系中时,可以根据相机参数确定各个相机110与世界坐标系的对应关系,从而准确地将图像投影到世界坐标系中。在两个或以上的图像存在目标时,需要判断两个或以上的图像的目标是否为同一目标以确保一个目标有一个位置信息。若是,由于同一目标在不同图像中的差异,可能导致不同图像的同一目标投影到世界坐标系后位置存在偏差,因此可以对目标在世界坐标系中的多个位置进行融合以消除偏差,从而得到目标的位置更加准确,误差更小。在某些实施方式中,可以利用高斯模型对同一目标在世界坐标系中的多个位置进行融合。
请再次参阅图1,在某些实施方式中,目标跟踪模块130用于在目标出现在车辆的规定报警区域内时,判断目标对车辆形成危险。
请参阅图12,在某些实施方式中,步骤S130包括:
步骤S137:在目标出现在车辆的规定报警区域内时,判断目标对车辆形成危险。
如此,可以在目标距离车辆太近时判断目标对车辆形成危险,从而发出警示信息以提示驾驶员。
具体地,当目标出现在规定报警区域时,说明在车辆或者目标的运动过程中,车辆和目标容易撞到一起,因此可以判断目标对车辆形成危险,可以发出警示信息以提示驾驶员。
请再次参阅图1,在某些实施方式中,目标跟踪模块130用于在目标以大于预设速度靠近车辆时,判断目标对车辆形成危险。
请参阅图13,在某些实施方式中,步骤S130包括:
步骤S138:在目标以大于预设速度靠近车辆时,判断目标对车辆形成危险。
如此,可以在目标可能撞上车辆时判断目标对车辆形成危险,从而发出警示信息以提示驾驶员。
具体地,预设速度可以根据驾驶员需求确定,例如,在车辆低速行驶时,预设速度可以为30km/h,在车辆倒车时,预设速度可以为20km/h。当目标以大于预设速度靠近车辆时,说明目标难以在短时间内停止向车辆靠近,即车辆和目标容易发生碰撞,因此可以判断目标对车辆形成危险,可以发出警示信息以提示驾驶员。目标靠近车辆的速度可以通过目标在世界坐标系中的位置变化确定,例如,同一相机110先后两帧图像的目标根据世界坐标系中的坐标变化,可以确定目标实际发生了0.1m的位移,而两帧图像的采集间隔时间为40ms,则可以判断目标的速度2.5m/s,即目标的速度为9km/h。需要说明的是,根据目标在世界坐标系中的位置变化计算获得的是目标与车辆的相对速度,在某些实施方式中,可以根据目标与车辆的相对速度和车辆的速度确定目标的速度,车辆的速度可以根据车辆的传感器信息确定。
可以理解,本发明实施方式的车辆包括上述任一实施方式的盲区检测系统100。
在本发明的实施方式的描述中,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。在本发明的实施方式的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在本发明的实施方式的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接或可以相互通讯;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明的实施方式中的具体含义。
在本说明书的描述中,参考术语“一个实施方式”、“一些实施方式”、“示意性实施方式”、“示例”、“具体示例”或“一些示例”等的描述意指结合所述实施方式或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施方式或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施方式或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施方式或示例中以合适的方式结合。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本发明的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本发明的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理模块的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本发明的实施方式的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如,如果用硬件来实现,和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本发明的各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施方式进行变化、修改、替换和变型。
Claims (10)
1.一种盲区检测系统,用于车辆,其特征在于,所述盲区检测系统包括:多个相机、目标检测模块、目标跟踪模块和目标报警模块,
所述多个相机用于采集所述车辆外多个预定区域的多个图像,所述多个预定区域至少包括所述车辆的左方区域、右方区域和后方区域;
所述目标检测模块用于提取所述多个图像的特征点并根据所述特征点获得目标;
所述目标跟踪模块用于对所述目标进行跟踪并根据所述目标和所述车辆的传感器信息判断所述目标是否对所述车辆形成危险;
所述目标报警模块用于在所述目标对所述车辆形成危险时发出警示信息。
2.如权利要求1所述的盲区检测系统,其特征在于,所述目标检测模块用于提取同一相机采集的多帧图像中的所述特征点并根据所述特征点判断所述图像中是否存在所述目标。
3.如权利要求1所述的盲区检测系统,其特征在于,所述目标跟踪模块用于对同一相机采集的多帧图像中的所述目标进行跟踪以确定所述目标在所述图像中的位置。
4.如权利要求1所述的盲区检测系统,其特征在于,所述盲区检测系统包括相机标定模块,所述相机标定模块用于对所述多个相机进行标定以获得相机参数,所述目标检测模块用于根据所述相机参数确定所述多个图像中的规定报警区域,并提取所述规定报警区域的特征点,根据所述特征点获得所述目标。
5.如权利要求4所述的盲区检测系统,其特征在于,所述目标检测模块用于判断每个所述图像中是否存在所述目标;
在只有一个所述图像存在所述目标时,所述目标跟踪模块用于根据所述相机参数将所述目标投影到世界坐标系中,并对所述目标在所述世界坐标系中的位置进行跟踪并根据所述目标和所述车辆的传感器信息判断所述目标是否对所述车辆形成危险。
6.如权利要求4所述的盲区检测系统,其特征在于,所述目标检测模块用于判断每个所述图像中是否存在所述目标;
在两个或以上的所述图像存在所述目标时,所述目标跟踪模块用于根据所述相机参数将两个或以上的所述图像的所述目标投影到世界坐标系中,并判断两个或以上的所述图像的所述目标是否为同一目标;
所述目标跟踪模块用于,在两个或以上的所述图像的所述目标不是同一目标时,对每个所述图像的所述目标在所述世界坐标系中的位置进行跟踪并根据所述目标和所述车辆的传感器信息判断所述目标是否对所述车辆形成危险。
7.如权利要求4所述的盲区检测系统,其特征在于,所述目标检测模块用于判断每个所述图像中是否存在所述目标;
在两个或以上的所述图像存在所述目标时,所述目标跟踪模块用于根据所述相机参数将两个或以上的所述图像的所述目标投影到世界坐标系中,并判断两个或以上的所述图像的所述目标是否为同一目标;
所述目标跟踪模块用于,在两个或以上的所述图像的所述目标为同一目标时,对两个或以上的所述图像的所述目标在所述世界坐标系中的位置进行融合,对位置进行融合后的所述目标进行跟踪并根据位置进行融合后的所述目标和所述车辆的传感器信息判断所述目标是否对所述车辆形成危险。
8.如权利要求1所述的盲区检测系统,其特征在于,所述目标跟踪模块用于在所述目标出现在所述车辆的规定报警区域内时,判断所述目标对所述车辆形成危险,或所述目标跟踪模块用于在所述目标以大于预设速度靠近所述车辆时,判断所述目标对所述车辆形成危险。
9.一种盲区检测方法,用于车辆,其特征在于,所述盲区检测方法包括:
采集所述车辆外多个预定区域的多个图像,所述多个预定区域至少包括所述车辆的左方区域、右方区域和后方区域;
提取所述多个图像的特征点并根据所述特征点获得目标;
对所述目标进行跟踪并根据所述目标和所述车辆的传感器信息判断所述目标是否对所述车辆形成危险;
在所述目标对所述车辆形成危险时发出警示信息。
10.一种车辆,其特征在于,包括权利要求1-8任意一项所述的盲区检测系统。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710923024.8A CN109591698A (zh) | 2017-09-30 | 2017-09-30 | 盲区检测系统、盲区检测方法和车辆 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710923024.8A CN109591698A (zh) | 2017-09-30 | 2017-09-30 | 盲区检测系统、盲区检测方法和车辆 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109591698A true CN109591698A (zh) | 2019-04-09 |
Family
ID=65956304
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710923024.8A Pending CN109591698A (zh) | 2017-09-30 | 2017-09-30 | 盲区检测系统、盲区检测方法和车辆 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109591698A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110766720A (zh) * | 2019-09-23 | 2020-02-07 | 盐城吉大智能终端产业研究院有限公司 | 一种基于深度学习的多摄像头车辆跟踪系统 |
CN111845557A (zh) * | 2020-07-23 | 2020-10-30 | 深圳市健创电子有限公司 | 车辆驾驶的安全预警方法、系统及相关装置 |
CN112001208A (zh) * | 2019-05-27 | 2020-11-27 | 虹软科技股份有限公司 | 用于车辆盲区的目标检测方法、装置和电子设备 |
CN113611143A (zh) * | 2021-07-29 | 2021-11-05 | 同致电子科技(厦门)有限公司 | 一种新型记忆泊车系统及其建图系统 |
WO2022016731A1 (zh) * | 2020-07-23 | 2022-01-27 | 深圳市健创电子有限公司 | 车辆盲区的图像处理方法、系统及相关装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007282284A (ja) * | 2007-06-15 | 2007-10-25 | Kiyotaka Nakao | 自動車停止線見通し支援装置 |
CN102632839A (zh) * | 2011-02-15 | 2012-08-15 | 汽车零部件研究及发展中心有限公司 | 一种基于后视图像认知的车载盲区预警系统及方法 |
CN103522970A (zh) * | 2013-05-31 | 2014-01-22 | Tcl集团股份有限公司 | 基于机器视觉的车辆行驶安全检测方法和系统 |
CN104299244A (zh) * | 2014-09-26 | 2015-01-21 | 东软集团股份有限公司 | 基于单目相机的障碍物检测方法及装置 |
CN106251701A (zh) * | 2016-09-14 | 2016-12-21 | 郑州轻工业学院 | 基于旋转变焦多摄像头的车辆后视监测报警系统及方法 |
-
2017
- 2017-09-30 CN CN201710923024.8A patent/CN109591698A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007282284A (ja) * | 2007-06-15 | 2007-10-25 | Kiyotaka Nakao | 自動車停止線見通し支援装置 |
CN102632839A (zh) * | 2011-02-15 | 2012-08-15 | 汽车零部件研究及发展中心有限公司 | 一种基于后视图像认知的车载盲区预警系统及方法 |
CN103522970A (zh) * | 2013-05-31 | 2014-01-22 | Tcl集团股份有限公司 | 基于机器视觉的车辆行驶安全检测方法和系统 |
CN104299244A (zh) * | 2014-09-26 | 2015-01-21 | 东软集团股份有限公司 | 基于单目相机的障碍物检测方法及装置 |
CN106251701A (zh) * | 2016-09-14 | 2016-12-21 | 郑州轻工业学院 | 基于旋转变焦多摄像头的车辆后视监测报警系统及方法 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112001208A (zh) * | 2019-05-27 | 2020-11-27 | 虹软科技股份有限公司 | 用于车辆盲区的目标检测方法、装置和电子设备 |
CN110766720A (zh) * | 2019-09-23 | 2020-02-07 | 盐城吉大智能终端产业研究院有限公司 | 一种基于深度学习的多摄像头车辆跟踪系统 |
CN111845557A (zh) * | 2020-07-23 | 2020-10-30 | 深圳市健创电子有限公司 | 车辆驾驶的安全预警方法、系统及相关装置 |
WO2022016730A1 (zh) * | 2020-07-23 | 2022-01-27 | 深圳市健创电子有限公司 | 车辆驾驶的安全预警方法、系统及相关装置 |
WO2022016731A1 (zh) * | 2020-07-23 | 2022-01-27 | 深圳市健创电子有限公司 | 车辆盲区的图像处理方法、系统及相关装置 |
CN113611143A (zh) * | 2021-07-29 | 2021-11-05 | 同致电子科技(厦门)有限公司 | 一种新型记忆泊车系统及其建图系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109591698A (zh) | 盲区检测系统、盲区检测方法和车辆 | |
EP3807128B1 (en) | A rider assistance system and method | |
CN102792314B (zh) | 交叉通行碰撞警报系统 | |
KR101891460B1 (ko) | 차도 위의 반사체를 인식하고 평가하기 위한 방법 및 장치 | |
JP7485612B2 (ja) | 衝突前アラートを提供するためのマルチスペクトルシステム | |
Dooley et al. | A blind-zone detection method using a rear-mounted fisheye camera with combination of vehicle detection methods | |
WO2010067770A1 (ja) | 立体物出現検知装置 | |
CN101910781A (zh) | 移动状态推测装置 | |
CN104859538A (zh) | 车辆图像显示系统中基于视觉的物体感测和突出显示 | |
WO2005036371A2 (en) | Moving object detection using low illumination depth capable computer vision | |
US20110228981A1 (en) | Method and system for processing image data | |
US20170280063A1 (en) | Stereo image generating method using mono cameras in vehicle and providing method for omnidirectional image including distance information in vehicle | |
JP6337811B2 (ja) | 画像処理装置及び画像処理方法 | |
CN107273788A (zh) | 在车辆中执行车道检测的成像系统与车辆成像系统 | |
US11620522B2 (en) | Vehicular system for testing performance of headlamp detection systems | |
US11745749B2 (en) | Vehicular system for testing performance of object detection algorithms | |
CN105793909B (zh) | 用于借助车辆周围环境的通过摄像机采集的两个图像产生警告的方法和设备 | |
CN106476695A (zh) | 用于可视性增强的系统和方法 | |
CN108602467A (zh) | 用于减少车辆盲点的系统 | |
KR20180047149A (ko) | 충돌 위험 경고 장치 및 방법 | |
CN109598747A (zh) | 运动目标检测系统、运动目标检测方法和车辆 | |
CN107757472A (zh) | 开车门报警方法、开车门报警装置和车辆系统 | |
Yun et al. | Video-based detection and analysis of driver distraction and inattention | |
JP2012168578A (ja) | 移動者警報装置 | |
JP3949628B2 (ja) | 車両の周辺監視装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190409 |