CN113569701B - 多传感器融合的障碍物感知智能车检测算法 - Google Patents
多传感器融合的障碍物感知智能车检测算法 Download PDFInfo
- Publication number
- CN113569701B CN113569701B CN202110834741.XA CN202110834741A CN113569701B CN 113569701 B CN113569701 B CN 113569701B CN 202110834741 A CN202110834741 A CN 202110834741A CN 113569701 B CN113569701 B CN 113569701B
- Authority
- CN
- China
- Prior art keywords
- image
- intelligent vehicle
- roadblock
- static
- moving
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 43
- 230000008447 perception Effects 0.000 title claims abstract description 9
- 230000003068 static effect Effects 0.000 claims abstract description 36
- 230000033001 locomotion Effects 0.000 claims abstract description 20
- 238000000034 method Methods 0.000 claims abstract description 16
- 230000004888 barrier function Effects 0.000 claims abstract description 13
- 238000007781 pre-processing Methods 0.000 claims abstract description 9
- 230000002093 peripheral effect Effects 0.000 claims abstract description 7
- 230000004927 fusion Effects 0.000 claims abstract description 5
- 238000011161 development Methods 0.000 claims abstract description 4
- 230000002159 abnormal effect Effects 0.000 claims description 15
- 230000008859 change Effects 0.000 claims description 11
- 230000008569 process Effects 0.000 claims description 11
- 230000006870 function Effects 0.000 claims description 7
- 238000004891 communication Methods 0.000 claims description 4
- 238000013500 data storage Methods 0.000 claims description 3
- 238000003708 edge detection Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 4
- 206010039203 Road traffic accident Diseases 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000009194 climbing Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/269—Analysis of motion using gradient-based methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
多传感器融合的障碍物感知智能车检测算法,1)智能车通过多个CCD图像传感器采智能车周边的物体图像;2)对采集的图像数据进行预处理;3)设计智能车周边运动路障检测模型;4)设计智能车周边静止路障检测模型;5)将运动路障和静止路障检测结果输入到路径规划算法中,并对运动路障的趋势进行判定,从而提出合理的路径规划方法;6)为方便用户使用和二次开发,可在障碍物图层中更新智能车的电子围栏,路径规划算法根据更新后的电子围栏,重新规划智能车的运动路径。本发明可选取合适的阈值来提取图像的边缘,通过运动路障检测算法和静止路障检测算法,能够检测图像中的运动路障和静止路障,可针对性的对智能车路径进行规划。
Description
技术领域
本发明涉及机器人视觉领域,特别是涉及多传感器融合的障碍物感知智能车检测算法。
背景技术
我国汽车工业飞速发展,汽车年产量已经超过了美欧日总和,近年来各类造车企业更是层出不穷,而随之而来频发的道路交通事故对生命、财产安全的威胁也呈逐年攀升趋势。根据世卫组织的最新统计,道路交通事故已成为全球八大死因之一。交通环境复杂多变,依靠视觉图像来获取当前行驶区域的道路信息是自动驾驶系统成型的必要条件。在这里道路信息主要是指当前交通道路的各类静态信息和动态信息。
本发明旨在通过车载传感器感知周边的障碍物数据,并通过通信模块与服务器相连的方式实现多传感器融合的障碍物感知,实现信息处理分析,对于传感器所采集的图像数据,首先进行二值化和边缘提取等预处理,针对运动路障和静止路障,分别建立运动路障检测算法和静止路障检测算法,规划智能车路径;针对虚拟电子围栏,实现实时避障以及路径规划功能。
发明内容
为解决上述问题,本发明提出了多传感器融合的障碍物感知智能车检测算法,具体步骤如下,其特征在于:
步骤1,智能车通过多个CCD图像传感器采智能车周边的物体图像,通过WIFI和蓝牙通信模块与服务器相连,将数据上传至服务器的数据存储区中;
步骤2,对采集的图像数据进行预处理,根据图像灰度变化程度检测出图像亮度最突出的部分,从而对图像进行边缘检测,提取图像的边缘信息;
步骤3,设计智能车周边运动路障检测模型,根据相邻的多帧图像,分别计算其像素值差的绝对值,检测图像中是否存在运动物体;
步骤4,设计智能车周边静止路障检测模型,当检测图像中不存在运动物体时,对图像数据进行静止路障检测,将当前帧图像数据和背景图像数据做差,进行静止图像差分检测;
步骤5,将运动路障和静止路障检测结果输入到路径规划算法中,并对运动路障的趋势进行判定,从而提出合理的路径规划方法;
步骤6,为方便用户使用和二次开发,可在障碍物图层中更新智能车的电子围栏,路径规划算法根据更新后的电子围栏,重新规划智能车的运动路径。
进一步,步骤2对采集的图像数据进行预处理的过程可以表示如下:
设步骤1中CCD传感器检测到图像数据在图像坐标点(x,y)处的像素点值为f(x,y),在该像素点处x和y方向上的梯度可分别计算为:
fx(x,y)=f(x,y)-f(x+1,y+1) (1)
fy(x,y)=f(x+1,y)-f(x,y+1) (2)
通过式1和式2计算图像的梯度值,同时通过卷积模板对梯度二值化处理后获得预处理后的边缘图,根据图像灰度变化程度检测出图像亮度最突出的部分,从而对图像进行边缘检测,提取图像的边缘信息数据Yxy。
进一步,步骤3中设计智能车周边运动路障检测模型的过程可以表示如下:
当相邻图像中出现移动物体时,相邻帧的灰度值将会有所改变,因此可通过求取步骤2中边缘图像数据的灰度差变化量来提取图像中的运动路障:
步骤3.1,计算步骤2中相邻帧边缘图像的灰度差值,同时累计灰度差超过阈值的异常像素点数,灰度差的计算公式如下:
步骤3.2,当灰度差超过阈值的异常像素点的数量超过一定阈值时,则判定该图像中存在运动障碍物,同时计算该运动障碍物的中心坐标(xmid,ymid):
式中,xmax,xmin分别是步骤3.1中检测到异常像素点在图像x方向中的最大值和最小值,ymax,ymin分别是步骤3.1中检测到异常像素点在图像y方向中的最大值和最小值;
步骤3.3,根据异常像素点坐标和中心坐标计算智能车与运动图像的距离d。
进一步,步骤4中设计智能车周边静止路障检测模型的过程可以表示如下:
步骤4.1,根据步骤3判断图像中是否存在运动图像,如果存在运动图像,则需要将图像中运动图像的像素点剔除后,再检测静止路障;
步骤4.2,将当前图形的和预先存储的背景图像做差,来检测与存储背景不同的静止路障;
步骤4.3,计算所检测到的路障面积大小,判断静止路障的大小:
Ss是静止路障的实际面积,St是图像的像素面积,Lw是静止路障和相机的物距,Lx是相距。
进一步,步骤6中更新智能车的电子围栏的过程可以表示如下:
步骤6.1,启动电子围栏功能,启动和客户端的接口;
步骤6.2,读取配置文件;
步骤6.3,判断客户端是否请求最新的电子围栏数据,如是,发送电子围栏数据;
步骤6.4,判断客户端是否发送了经用户修改后的电子围栏,如是,校验后保存数据至配置文件,返回步骤6.2;
步骤6.5,在障碍物图层中添加电子围栏,供路径规划功能调用,返回步骤6.3。
本发明多传感器融合的障碍物感知智能车检测算法,有益效果:本发明的技术效果在于:
1.本发明通过对图像数据进行预处理,减少图像边缘的噪声,可选取合适的阈值来提取图像的边缘;
2.本发明设计了运动路障检测算法,计算量小,不需要考虑背景缓变的影响,对背景的变化不敏感;
3.本发明设计了静止路障检测算法,能够检测图像中的静止路障,可减少外部环境对检测结果的影响
4.本发明为智能车障碍物检测提供了一种重要技术手段。
附图说明
图1为本发明的系统结构图;
图2为本发明的更新电子围栏后路径规划图。
具体实施方式
下面结合附图与具体实施方式对本发明作进一步详细描述:
本发明提出了多传感器融合的障碍物感知智能车检测算法,图1为本发明的系统结构图。下面结控制结构图对本发明的步骤作详细介绍。
步骤1,智能车通过多个CCD图像传感器采智能车周边的物体图像,通过WIFI和蓝牙通信模块与服务器相连,将数据上传至服务器的数据存储区中;
步骤2,对采集的图像数据进行预处理,根据图像灰度变化程度检测出图像亮度最突出的部分,从而对图像进行边缘检测,提取图像的边缘信息;
步骤2对采集的图像数据进行预处理的过程可以表示如下:
设步骤1中CCD传感器检测到图像数据在图像坐标点(x,y)处的像素点值为f(x,y),在该像素点处x和y方向上的梯度可分别计算为:
fx(x,y)=f(x,y)-f(x+1,y+1) (1)
fy(x,y)=f(x+1,y)-f(x,y+1) (2)
通过式1和式2计算图像的梯度值,同时通过卷积模板对梯度二值化处理后获得预处理后的边缘图,根据图像灰度变化程度检测出图像亮度最突出的部分,从而对图像进行边缘检测,提取图像的边缘信息数据Yxy。
步骤3,设计智能车周边运动路障检测模型,根据相邻的多帧图像,分别计算其像素值差的绝对值,检测图像中是否存在运动物体;
步骤3中设计智能车周边运动路障检测模型的过程可以表示如下:
当相邻图像中出现移动物体时,相邻帧的灰度值将会有所改变,因此可通过求取步骤2中边缘图像数据的灰度差变化量来提取图像中的运动路障:
步骤3.1,计算步骤2中相邻帧边缘图像的灰度差值,同时累计灰度差超过阈值的异常像素点数,灰度差的计算公式如下:
步骤3.2,当灰度差超过阈值的异常像素点的数量超过一定阈值时,则判定该图像中存在运动障碍物,同时计算该运动障碍物的中心坐标(xmid,ymid):
式中,xmax,xmin分别是步骤3.1中检测到异常像素点在图像x方向中的最大值和最小值,ymax,ymin分别是步骤3.1中检测到异常像素点在图像y方向中的最大值和最小值;
步骤3.3,根据异常像素点坐标和中心坐标计算智能车与运动图像的距离d。
步骤4,设计智能车周边静止路障检测模型,当检测图像中不存在运动物体时,对图像数据进行静止路障检测,将当前帧图像数据和背景图像数据做差,进行静止图像差分检测;
步骤4中设计智能车周边静止路障检测模型的过程可以表示如下:
步骤4.1,根据步骤3判断图像中是否存在运动图像,如果存在运动图像,则需要将图像中运动图像的像素点剔除后,再检测静止路障;
步骤4.2,将当前图形的和预先存储的背景图像做差,来检测与存储背景不同的静止路障;
步骤4.3,计算所检测到的路障面积大小,判断静止路障的大小:
Ss是静止路障的实际面积,St是图像的像素面积,Lw是静止路障和相机的物距,Lx是相距。
步骤5,将运动路障和静止路障检测结果输入到路径规划算法中,并对运动路障的趋势进行判定,从而提出合理的路径规划方法;
步骤6,为方便用户使用和二次开发,可在障碍物图层中更新智能车的电子围栏,路径规划算法根据更新后的电子围栏,重新规划智能车的运动路径,更新电子围栏后路径规划图如图2所示;
步骤6中更新智能车的电子围栏的过程可以表示如下:
步骤6.1,启动电子围栏功能,启动和客户端的接口;
步骤6.2,读取配置文件;
步骤6.3,判断客户端是否请求最新的电子围栏数据,如是,发送电子围栏数据;
步骤6.4,判断客户端是否发送了经用户修改后的电子围栏,如是,校验后保存数据至配置文件,返回步骤6.2;
步骤6.5,在障碍物图层中添加电子围栏,供路径规划功能调用,返回步骤6.3。
以上所述,仅是本发明的较佳实施例而已,并非是对本发明作任何其他形式的限制,而依据本发明的技术实质所作的任何修改或等同变化,仍属于本发明所要求保护的范围。
Claims (5)
1.多传感器融合的障碍物感知智能车检测算法,具体步骤如下,其特征在于:
步骤1,智能车通过多个CCD图像传感器采智能车周边的物体图像,通过WIFI和蓝牙通信模块与服务器相连,将数据上传至服务器的数据存储区中;
步骤2,对采集的图像数据进行预处理,根据图像灰度变化程度检测出图像亮度最突出的部分,从而对图像进行边缘检测,提取图像的边缘信息;
步骤3,设计智能车周边运动路障检测模型,根据相邻的多帧图像,分别计算其像素值差的绝对值,检测图像中是否存在运动物体;
步骤4,设计智能车周边静止目标检测模型,当检测图像中不存在运动物体时,对图像数据进行静止路障检测,将当前帧图像数据和背景图像数据做差,进行静止图像差分检测;
步骤5,将运动路障和静止路障检测结果输入到路径规划算法中,并对运动路障的趋势进行判定,从而提出合理的路径规划方法;
步骤6,为方便用户使用和二次开发,可在障碍物图层中更新智能车的电子围栏,路径规划算法根据更新后的电子围栏,重新规划智能车的运动路径。
2.根据权利要求1所述的多传感器融合的障碍物感知智能车检测算法,其特征在于,步骤2对采集的图像数据进行预处理的过程可以表示如下:
设步骤1中CCD传感器检测到图像数据在图像坐标点(x,y)处的像素点值为f(x,y),在该像素点处x和y方向上的梯度可分别计算为:
fx(x,y)=f(x,y)-f(x+1,y+1) (1)
fy(x,y)=f(x+1,y)-f(x,y+1) (2)
通过式1和式2计算图像的梯度值,同时通过卷积模板对梯度二值化处理后获得预处理后的边缘图,根据图像灰度变化程度检测出图像亮度最突出的部分,从而对图像进行边缘检测,提取图像的边缘信息数据Yxy。
3.根据权利要求1所述的多传感器融合的障碍物感知智能车检测算法,其特征在于,步骤3中设计智能车周边运动路障检测模型的过程可以表示如下:
当相邻图像中出现移动物体时,相邻帧的灰度值将会有所改变,因此可通过求取步骤2中边缘图像数据的灰度差变化量来提取图像中的运动路障:
步骤3.1,计算步骤2中相邻帧边缘图像的灰度差值,同时累计灰度差超过阈值的异常像素点数,灰度差的计算公式如下:
步骤3.2,当灰度差超过阈值的异常像素点的数量超过一定阈值时,则判定该图像中存在运动障碍物,同时计算该运动障碍物的中心坐标(xmid,ymid):
式中,xmax,xmin分别是步骤3.1中检测到异常像素点在图像x方向中的最大值和最小值,ymax,ymin分别是步骤3.1中检测到异常像素点在图像y方向中的最大值和最小值;
步骤3.3,根据异常像素点坐标和中心坐标计算智能车与运动图像的距离d。
4.根据权利要求1所述的多传感器融合的障碍物感知智能车检测算法,其特征在于,步骤4中设计智能车周边静止路障检测模型的过程可以表示如下:
步骤4.1,根据步骤3判断图像中是否存在运动图像,如果存在运动图像,则需要将图像中运动图像的像素点剔除后,再检测静止路障;
步骤4.2,将当前图形的和预先存储的背景图像做差,来检测与存储背景不同的静止路障;
步骤4.3,计算所检测到的路障面积大小,判断静止路障的大小:
Ss是静止路障的实际面积,St是图像的像素面积,Lw是静止路障和相机的物距,Lx是相距。
5.根据权利要求1所述的多传感器融合的障碍物感知智能车检测算法,其特征在于,步骤6中更新智能车的电子围栏的过程可以表示如下:
步骤6.1,启动电子围栏功能,启动和客户端的接口;
步骤6.2,读取配置文件;
步骤6.3,判断客户端是否请求最新的电子围栏数据,如是,发送电子围栏数据;
步骤6.4,判断客户端是否发送了经用户修改后的电子围栏,如是,校验后保存数据至配置文件,返回步骤6.2;
步骤6.5,在障碍物图层中添加电子围栏,供路径规划功能调用,返回步骤6.3。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110834741.XA CN113569701B (zh) | 2021-07-23 | 2021-07-23 | 多传感器融合的障碍物感知智能车检测算法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110834741.XA CN113569701B (zh) | 2021-07-23 | 2021-07-23 | 多传感器融合的障碍物感知智能车检测算法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113569701A CN113569701A (zh) | 2021-10-29 |
CN113569701B true CN113569701B (zh) | 2024-03-15 |
Family
ID=78166600
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110834741.XA Active CN113569701B (zh) | 2021-07-23 | 2021-07-23 | 多传感器融合的障碍物感知智能车检测算法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113569701B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105468033A (zh) * | 2015-12-29 | 2016-04-06 | 上海大学 | 一种基于多摄像头机器视觉的医疗吊臂自动避障控制方法 |
WO2020220604A1 (zh) * | 2019-04-30 | 2020-11-05 | 南京航空航天大学 | 一种多agv系统动态障碍物实时避障方法及避障系统 |
-
2021
- 2021-07-23 CN CN202110834741.XA patent/CN113569701B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105468033A (zh) * | 2015-12-29 | 2016-04-06 | 上海大学 | 一种基于多摄像头机器视觉的医疗吊臂自动避障控制方法 |
WO2020220604A1 (zh) * | 2019-04-30 | 2020-11-05 | 南京航空航天大学 | 一种多agv系统动态障碍物实时避障方法及避障系统 |
Non-Patent Citations (2)
Title |
---|
基于改进平滑A~*算法的移动机器人路径规划;付丽霞;任玉洁;张勇;毛剑琳;;计算机仿真;20200815(第08期);全文 * |
无人水面艇仿真系统设计与实现;胡辛明;张鑫;钟雨轩;彭艳青;杨毅;姚骏峰;;上海大学学报(自然科学版);20170228(第01期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113569701A (zh) | 2021-10-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106919915B (zh) | 基于adas系统的地图道路标记及道路质量采集装置及方法 | |
CN106951879B (zh) | 基于摄像头与毫米波雷达的多特征融合车辆检测方法 | |
CN110443225B (zh) | 一种基于特征像素统计的虚实车道线识别方法及其装置 | |
CN108629292B (zh) | 弯曲车道线检测方法、装置及终端 | |
CN107590470B (zh) | 一种车道线检测方法及装置 | |
CN107738612A (zh) | 基于全景视觉辅助系统的自动泊车停车位检测与识别系统 | |
KR20210078530A (ko) | 차선 속성 검출방법, 장치, 전자장치 및 가독 저장 매체 | |
CN106097755A (zh) | 用于识别泊车场地和/或空出场地的方法 | |
CN107578012B (zh) | 一种基于聚类算法选择敏感区域的驾驶辅助系统 | |
CN112836633A (zh) | 停车位检测方法以及停车位检测系统 | |
CN110083099B (zh) | 一种符合汽车功能安全标准自动驾驶架构系统和工作方法 | |
US20210350705A1 (en) | Deep-learning-based driving assistance system and method thereof | |
CN110659548A (zh) | 车辆及其目标检测方法、装置 | |
CN111967396A (zh) | 障碍物检测的处理方法、装置、设备及存储介质 | |
CN111881832A (zh) | 车道目标检测方法、装置、设备及计算机可读存储介质 | |
CN111222441A (zh) | 基于车路协同的点云目标检测和盲区目标检测方法及系统 | |
CN111488808A (zh) | 基于交通违法图像数据的车道线检测方法 | |
CN111179220B (zh) | 车道标识线质量检测方法、系统及存储介质 | |
CN115457358A (zh) | 一种图像与点云的融合的处理方法、装置和无人车 | |
CN112017213B (zh) | 一种目标对象的位置更新方法及系统 | |
CN112529011A (zh) | 目标检测方法及相关装置 | |
CN113569701B (zh) | 多传感器融合的障碍物感知智能车检测算法 | |
CN115311522A (zh) | 用于自动驾驶的目标检测方法及装置、电子设备及介质 | |
CN114463717A (zh) | 一种障碍物位置判断方法、系统、电子设备及存储介质 | |
CN114742955A (zh) | 洪灾预警方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |