CN106846394B - 积雪覆盖行进路径表面状况检测 - Google Patents
积雪覆盖行进路径表面状况检测 Download PDFInfo
- Publication number
- CN106846394B CN106846394B CN201611036707.3A CN201611036707A CN106846394B CN 106846394 B CN106846394 B CN 106846394B CN 201611036707 A CN201611036707 A CN 201611036707A CN 106846394 B CN106846394 B CN 106846394B
- Authority
- CN
- China
- Prior art keywords
- snow
- image
- travel path
- vehicle
- covered
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title description 13
- 238000000034 method Methods 0.000 claims abstract description 41
- 230000004044 response Effects 0.000 claims abstract description 25
- 238000006243 chemical reaction Methods 0.000 claims description 9
- 238000001914 filtration Methods 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 7
- 238000004458 analytical method Methods 0.000 description 11
- 238000005286 illumination Methods 0.000 description 9
- 238000000149 argon plasma sintering Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 239000013078 crystal Substances 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000001556 precipitation Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 150000003839 salts Chemical class 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000010276 construction Methods 0.000 description 3
- 230000000977 initiatory effect Effects 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000005260 corrosion Methods 0.000 description 2
- 230000007797 corrosion Effects 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 230000002349 favourable effect Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000002844 melting Methods 0.000 description 1
- 230000008018 melting Effects 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 230000008450 motivation Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/47—Scattering, i.e. diffuse reflection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
- B60Q9/00—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
- B60R11/04—Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/60—Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/8053—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for bad weather conditions or night vision
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/47—Scattering, i.e. diffuse reflection
- G01N2021/4733—Discriminating different types of scatterers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mechanical Engineering (AREA)
- Signal Processing (AREA)
- Software Systems (AREA)
- Human Computer Interaction (AREA)
- Analytical Chemistry (AREA)
- Health & Medical Sciences (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Chemical & Material Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
Abstract
一种用于确定行进路径的积雪覆盖表面状况的方法。由发光源向行进路径表面发射光束。由图像采集装置采集行进路径表面的图像。图像采集装置安装在车辆上并且以向下的方向采集图像。已采集的图像采集了发射到行进路径表面上的光束。由处理器分析产生在行进路径表面上的光的次表面散射。确定行进路径上是否存在积雪。响应于所述行进路径上积雪的识别,产生积雪覆盖行进路径表面的信号。
Description
技术领域
实施例总体涉及使用光的次表面散射对积雪覆盖行进路径表面的检测。
背景技术
行进路面的降水会对行走在行进路径的车辆或者行人造成几种不同的问题。例如,道路上的积雪降低了车辆轮胎与道路表面之间的摩擦系数进而产生车辆稳定性问题。对行进路径上积雪的检测通常由宿主车辆确定,宿主车辆利用一些感测操作感测道路的积雪,这些感测操作在积雪已经对车辆操作产生影响时进行,例如检测车轮打滑。因此,车辆必须要监测其自身相对于在干燥路况下行驶时的状态(例如车轮打滑),以确定是否存在积雪。因此,该系统可等待该状态出现或者对车辆引入激励以确定该状态是否存在(例如,如果降水存在,就会产生从动轮的突然加速以至于车轮打滑)。
另一优点是,由于使用的主动照明光源,本文描述的技术可以减弱周围光照环境的影响,而且与此同时,可以排除白色干燥地面的错误检测,例如冬天被盐腐蚀的干燥地面。
发明内容
实施例的优点是使用配对有集中照明光源的基于视觉的成像装置检测行进路径上的积雪,集中照明光源例如激光器LED,其基于光的次表面散射识别积雪,与无积雪覆盖的行进路径(例如干燥道路、潮湿道路)产生相对较小光斑相反,光的次表面散射在积雪覆盖的路径产生漫射照明的广义模糊。本文描述的技术在启动确定是否存在降水时不需要车辆或驾驶员的激励。相反,响应对行进路径上积雪表面光散射分析而确定积雪。所述技术采集图像,图像包括散射在表面的光束。将RGB图像转换为Lab空间图像。在Lab空间图像中应用高斯拉普拉斯(LOG)过滤或者二进制转换以帮助采集积雪覆盖表面的漫射照明的广义模糊图案。如果广义模糊存在,较之于无积雪覆盖的行进路径表面(例如干燥路面、潮湿路面)的较为平滑的滤波响应,高斯拉普拉斯滤波器响应会在广义模糊区域处产生一个大峰值。可选地,二进制图像的均值-方差分析也可识别积雪,积雪覆盖的行进路径表面的光散射区域与全部区域之间的均值比和方差比大于1,相比之下,无积雪覆盖的行进路径表面(例如干燥路面、潮湿路面)的光散射区域与全部区域之间的均值比和方差比接近1。受训分类器在车辆中形成并且可以在线执行。车辆中使用相似过程来采集和处理光束。可通过车辆内执行的在线分类器的函数确定行进路径表面是否存在积雪,该在线分类器基于行进路径表面的主动监测而实时检测行进路径上的积雪。
实施例设想一种确定行进路径积雪覆盖表面状况的方法。发光源向该行进路径表面发射一束光线。图像采集装置采集行进路径表面的图像。该图像采集装置安装在车辆上并且以向下的方向采集图像。所采集图像采集了向行进路径表面上发射的光束。处理器分析在行进路径表面产生的光次表面散射。确定行进路径是否存在积雪。响应于行进路径积雪的识别,产生积雪覆盖行进路径表面信号。
附图说明
图1是行驶在积雪覆盖表面的车辆的示例性立体图。
图2为示出积雪覆盖行进路径表面检测系统的方块图。
图3是具有周围视角范围的车辆周围示例性立体图。
图4是包括图像采集装置和发光装置的车辆的示例性立体图。
图5为示出用于检测积雪覆盖表面的方法的流程图。
图6为示出由图像采集装置采集的示例性图像。
图7a为示出干燥表面关注区域的RGB图像。
图7b为示出积雪覆盖表面关注区域的RGB图像。
图8a为示出干燥表面的示例性滤波器响应。
图8b为示出积雪覆盖表面的示例性滤波器响应。
图9为示出分类器结构中标志积雪覆盖表面和无积雪覆盖表面的示例性特征空间。
图10示出了用于检测积雪覆盖行进路径表面的第二技术流程图。
图11a为示出干燥表面关注区域的RGB图像。
图11b为示出积雪覆盖表面关注区域的示例性RGB图像。
图12a为示出Lab色彩空间中的干燥道路表面的示例性响应。
图12b为示出Lab色彩空间中的积雪覆盖道路表面的示例性响应。
图13a为示出干燥表面的示例性二进制转化图像。
图13b为示出积雪覆盖表面的示例性二进制转化图像。
图14示出了由4个光斑组成正方形图案的类似于正方形的示例性图案。
图15示出了由线性斑点延长形成类椭圆图案的示例性线条图案
图16示出了由线性斑点彼此之间线性排列形成的线条图案。
图17示出了无积雪覆盖表面的示例性实时跟踪序列图。
图18示出了积雪覆盖表面的示例性实时跟踪序列图。
具体实施方式
图1所示,沿着车辆行进路径12(例如公路)行进的车辆10。应理解的是,术语“行进路径”可包括任何由机动车辆、自行车或者行人行进的表面。用于说明目的,术语“道路”将作为“行进路径”进行使用。但是,应当理解的是,术语“行进路径”不限于车辆行进的道路,而且本文描述的系统和技术可以在移动实体或者固定实体上实施。当轮胎转动经过车辆道路12的积雪覆盖表面时,置于车辆道路12上的积雪14会导致打滑状况。事先知道车辆何时将沿着积雪覆盖的车辆道路12行驶通常是有利的,积雪会导致例如牵引力损失的问题。
置于车辆道路12上的积雪14降低了车辆轮胎和车辆道路12两者之间的摩擦系数。因此,车辆轮胎和车辆道路12之间的牵引力下降。牵引力的损失可以通过各种缓解技术得以减轻,所述缓解技术包括但不限于:警告驾驶员让其将车速减小到有利于周围环境状况的速度;使用较低制动力以致动车辆制动的自动应用程序,从而最小化制动部件的制动表面上形成的水;在检测到降水的时候,停止或者限制巡航控制功能的激活;或者通知驾驶员与前方车辆保持更大的停车距离。应当理解的是,本文所描述的实施例可应用到除了汽车以外的其他类型需要检测积雪覆盖道路表面状况的系统。除了汽车以外,其他可使用该系统的交通工具包括但不限于:铁路系统、飞机、越野车、电动汽车、摩托车、自行车、农用设备和施工设备。
图2示出了积雪覆盖道路表面检测系统的方块图。多个基于车辆的图像采集装置20和包括但不限于LED激光器的发光装置安装在车辆上用于采集车辆周围有助于检测积雪的图像。光的次表面散射可以发生在各类照明光源中(例如闪光,激光LED)。为了将积雪与其他类型的道路状况区分开,优选地集中光源,集中光源优选为激光LED,其能够在积雪上产生次表面散射,同时也可以在其他类型道路上(例如干燥或者潮湿道路)保持一个集中光斑。该多个基于车辆的图像采集装置20和发光装置21可安装在车辆的前侧、后侧和旁侧。图3为示出用于检测车辆周围物体的示例性360度全方位视角图。各基于车辆的图像采集装置相互协同运作,以检测和识别车辆每一侧的物体。基于车辆的图像采集装置20包括但不限于,安装在车辆前侧的前视照相机22,该前视照相机用于采集车辆前面的图像和部分车辆旁侧的图像。驾驶员旁侧摄像机24采集车辆驾驶员侧的图像。乘客旁侧摄像机26采集车辆乘客侧的图像。后视照相机28采集车辆朝后和旁侧的图像。
图4为示出行驶在积雪覆盖表面的车辆10的立体图。发光装置21向道路表面12发射光束。相应的基于车辆的图像采集装置采集向道路表面发出的光束。分析该被图像采集装置采集的光束以确定道路表面是否存在积雪14。本文所述的技术使用光的次表面散射分析以确定积雪是否存在。次表面散射是一种光穿透半透明物体(例如雪)的表面并且借助与物体材料的相互作用散射的过程。光线在不同的点离开积雪。通常而言,光会穿过积雪表面,然后在积雪内部以不同的角度反射数次后以一个角度返回穿出积雪,这个角度不同于光线直接反射离开表面时产生的相应角度。积雪由相对松散的堆积冰晶组成。该松散堆积冰晶仅占据积雪区域空间体积的5%。该积雪中的冰晶产生光的次表面散射。产生在干燥表面(例如激光笔照射到干燥道路)的光基本没有光束的散射,并且较之于积雪覆盖道路显现出较为均匀的相对较小光斑。由于冰晶通过雪散射光束,所以积雪覆盖表面会产生漫射照明的广义模糊。表面上光的分析使用向Lab色彩空间进行的图像转换。这涉及到将RGB图像(例如红-绿-蓝图像)转换成Lab色彩空间图像,以便在光信号在整个积雪表面散射时更好地检测光线中色彩变化的广义模糊图案。Lab色彩空间包括各分量,这些分量具有维度L表示亮度,A和B表示颜色对立维度。Lab色彩空间包括所有可感知的颜色,这意味着其色彩范围比RGB色彩模型的色彩范围要大。Lab模型的重要属性是独立于设备,在这样的情况下,颜色的定义独立于颜色产生的本质。当用于打印的图像不得不从RGB中进行转换时,使用Lab色彩空间。虽然空间自身是能够包含无限个可能的色彩描述的三维真实数字空间,但是当在实际应用时,为了与设备无关的数字表示,该空间通常映射到三维整数空间。本文描述的实施例中,色彩空间通道表示如下:L轴表示亮度分量,A轴表示绿色到红色分量,B轴表示黄色到蓝色分量。
再次参考图2,处理器30处理由图像采集设备20采集的图像。处理器30分析图像和数据以确定在车辆相邻区域道路表面是否存在积雪。一旦采集到图像,处理器30就会识别关注区域以根据关注区域的光散射确定是否存在积雪。关注区域可包括:正方形、圆形或者其他形状,形状取决于光源和形成原因。处理器30可以是现有系统的一部分,例如牵引力控制系统或者其他系统,或者可以是专门用于分析图像采集装置20的数据的独立处理器。
处理器30可以耦合至一个或者多个输出设备,例如用于在关注区域发现积雪时启动或者致动控制动作的控制器32。可以使用一个或者多个对策减轻积雪对车辆操作的影响。
控制器32可以是车辆子系统的一部分或者用于使车辆系统能够应对积雪造成的影响。例如,响应于道路被积雪覆盖的确定,控制器32可以使电子或电液压制动系统34或者类似系统能够在发生牵引力损失的情况下准备好制动策略。除了准备制动策略之外,制动系统可以在驾驶员没有意识到的情况下自动采用轻制动力,以在车辆行进到积雪中时将积雪从车辆制动器中移除。堆积在车轮或者制动器的雪由于融化而被移除,这样在驾驶员进行手工制动的时候,就可以维持车辆制动器和车轮制动表面之间的预期摩擦系数。
控制器32可以控制牵引力控制系统36,牵引力控制系统36给每个相应的车轮单独分配动力以在检测到道路表面存在积雪时减少相应车轮的车轮打滑。
控制器32可以控制巡航控制系统38,该巡航控制系统38可以在检测到道路表面存在积雪的时候停用巡航控制或者限制巡航控制的制动。
控制器32可以控制驾驶员信息系统40,以向车辆驾驶员提供注意在车辆道路检测到积雪的警告。控制器32提供的警告可以提醒驾驶员正在接近道路表面积雪并且可以建议驾驶员把车速降低到利于现有环境状况的速度,或者控制器32可以启动与前方车辆保持安全行驶距离的警告。应当要理解的是,本文所描述的控制器32,可以包括控制单个功能或者可以控制功能组合的一个或者多个控制器。
控制器32可以进一步控制挡风板42自动开启和关闭的致动,以防止车辆引擎吸入积雪。在此情况下,控制器32在车辆前方道路表面检测到积雪存在时自动致动挡风板42关闭,可在确定道路表面不再存在积雪时重新打开挡风板。
控制器32可进一步控制无线通信装置44的致动,以使用车辆到车辆通信系统或者车辆到地面通信系统自主向另外的车辆传达积雪覆盖路面状况。
控制器可进一步向车辆的驾驶员提供积雪覆盖道路表面信号警报,警告不要使用自动功能,包括:自适应巡航控制系统,遵守航线,航线改变,回避/辅助转向操作和自动应急制动。
本文所描述技术的优点是启动对于是否存在积雪的确定不需要车辆或驾驶员的激励。也就是说,现有技术中,用于检测表面积雪的方式,不管是制动操作、加速、转向操作都需要由车辆发出的相当大的激励。基于响应(例如车轮打滑,偏航),这种技术确定车辆是否行进在积雪上。相反,本文所描述的这种技术不需要驾驶员激励来确定道路上的雪。此外,本文所描述的技术可以由于所使用的主动光源而减弱周围光照环境的影响,而与此同时,也可以排除白色干燥地面(例如冬天被盐腐蚀的干燥地面)的错误检测。基于照相机的解决方案的共同缺点都是对环境光线很敏感。现在有很多基于照相机的积雪检测方法可用,但是这样的方式完全依赖于照相机图像分析,并且在没有主动光源时对环境照明变化很敏感,而且也可能会对干燥道路的白光产生错误判决。本文所描述的使用激光器照明光源的次表面散射技术能够排除错误地将相对白的道路表面识别为积雪覆盖表面的可能性。
图5为示出用于检测积雪覆盖道路表面的第一个技术的流程图。步骤50-55是道路表面图案数据库构建的训练阶段,而步骤55-64描述的是在车辆中使用在线分类器确定道路表面是否存在积雪。
步骤50,获取车辆相应一侧并行区域的图像。分析该图像以获取场景信息,可分析场景信息中场景的光散射特征以确定图像中是否存在积雪。图6示出了安装在车辆旁侧的图像采集装置采集到的图像。对图像进行处理从而采集到俯视图(例如向下看行车道路)。每个相应的图像采集装置使用的透镜可为鱼眼透镜,其能采集较宽的视角范围(例如180度)。图像处理也可应用于改变照相机姿势使得出现在图像中的姿势直接向下。例如,如果利用相应一侧照相机采集的图像,那么图像中的相应位置虽然不是照相机姿势的焦点,但可用于产生虚拟姿势,该虚拟姿势使得场景好像是照相机在该虚拟姿势下直接向下采集行进道路12和积雪14。为了改变姿势,可同时使用虚拟照相机模型和采集到的图像,使得虚拟姿势用于重新调整图像,从而就好像是照相机被重新调整并且面向不同方向(例如直接面向下方)而产生虚拟图像。重新调整图像以产生虚拟图像包括:识别虚拟姿势并将虚拟图像上的每一个虚拟点映射到真实图像相对应的点。本文所描述的术语“姿势”是指照相机位置的照相机取景角度(无论是真实照相机还是虚拟照相机),照相机位置由照相机坐标和照相机z-轴定位定义。本文所描述的术语“虚拟照相机”是指除了具有模拟照相机姿势外还具有模拟照相机模型参数和模拟成像表面的模拟照相机。本文所描述的处理器执行的照相机建模是指获取虚拟图像,该虚拟图像是使用虚拟照相机建模的场景合成图像。
再次参考图5,步骤51中,从真实图像或者虚拟图像中识别关注区域。该技术定位关注区域,关注区域识别相关区域,在该相关区域中激光束发射到与车辆相对的道路表面,因此如果在此区域检测到积雪存在,那么可以假设车辆在积雪上行驶。如图6所示,由49识别到的示例性区域代表图像的关注区域,元素51代表由发光装置发射到道路12的积雪14上面的光。
再次参考图5,在步骤52中,利用Lab色彩模型执行图像转换。从RGB转换到Lab色彩空间的图像,通过隔离如照明和盐蚀表面等环境噪音的影响而便于获取用于分析的图像中光束的色彩信息,这样可以增强检测的可靠性。
步骤53,使用相应的滤波技术对转换好的图像(例如Lab图像)进行特征抽取。优选地,该特征抽取使用高斯拉普拉斯(LOG)滤波技术。高斯拉普拉斯算子计算图像的二阶空间导数。滤波器增强快速强度突变区域,因此可以用于边缘检测。具有不同尺度(例如)的各种滤波器可分别用于每一帧的A通道图像和B通道图像。例如,如果每个图像中使用6个高斯拉普拉斯滤波器,则认为关注区域的最大响应是特征,因此在特征集中产生12个特征。应当理解的是,本文所描述的技术“滤波”可以是除了高斯拉普拉斯滤波之外的滤波技术。
图7a为示出干燥表面关注区域的RGB图像。如图7a所示,可通过具有基本一致颜色的基本定义点采集光的各光束。相反,图7b为示出积雪覆盖表面关注区域的RGB图像。发射到积雪覆盖表面的各光束被散射。光的各光束包括在雪中从光的中心向沿着径向向外散射的光束变化的颜色过渡。
图8a和图8b为示出在高斯拉普拉斯滤波器应用到“A”通道关注区域的Lab图像之后的示例性滤波器响应。也就是,各颜色可以聚焦,从而使得当光信号散射遍及雪表面时,可以检测到颜色随着光线变化,因此可以识别指示雪中光散射的那些颜色分量变化。在该示例情况下,从绿到红的彩色图像是Lab色彩空间分析的重点。将高斯拉普拉斯滤波器应用到具有A通道像素值的Lab图像。图8a和图8b是三维图,其中z轴代表滤波器响应(R),x轴代表图像高度,y轴代表图像宽度。如图8a所示,干燥表面的滤波器响应大约为0。相反,图像8b示出了基于较大的光图像形状中的强度变化而在滤波器图像中探测到的雪。因此,如图8b所示,积雪覆盖表面图像的滤波器响应基本上大于0。
再次参考图5,步骤54中,基于步骤53的结果构建分类器。将代表样本分布的相应特征在特征空间中进行绘制。图9表示标识着用于构建分类器的积雪覆盖表面和无积雪覆盖表面的示例性特征空间。x轴代表第一特征而y轴代表第二特征。第一特征是具有尺度σ=4的高斯拉普拉斯滤波器应用到具有“A”通道的像素值的Lab图像之后的最大滤波器响应。第二特征是具有尺度σ=12的高斯拉普拉斯滤波器应用到具有“A”通道的像素值的Lab图像之后的最大滤波器响应。符号“o”代表图像中存在积雪,而符号“x”代表干燥表面。受训分类器用于识别能够用来区分积雪和理想干燥表面的分离面。如果积雪存在,那么在图像中就可以检测到大的峰值(例如基本大于0)。
步骤55,使用步骤53中抽取的特征集对分类器进行训练以构建道路表面图案数据库,该图案数据库包含与代表各种道路表面状况典型图案的特征集相关联的预存数据。一旦道路表面图案数据库构建完成,该道路表面图案数据库可于生产中在车辆上在线实现。
步骤56-59涉及在车辆中分析图像时实时处理采集到的图像。这些各个步骤与上述步骤50-53相同,除了与训练分类器相反的设计分析实时图像的处理。
步骤59,步骤53中抽取的特征集可按照基于相应目标特征、Lab空间通道和所应用尺度的高斯拉普拉斯滤波函数进行计算。
步骤60,将步骤59中计算好的特征集提供给在线分类器以通过对比计算好的特征值和与道路表面图案数据库中相同特征集相关联的预存数据来确定该兴趣区域是否存在积雪。
步骤61中,如果已确认道路表面存在积雪的确定,然后例行程序进行到步骤62;否则,例行程序进行到步骤63。
步骤62中,响应于道路表面存在积雪的确定,将积雪覆盖表面指示器标志设置为指示关注区域存在积雪。信号传送到控制器,如前面所述,该控制器可以致动各类型的车辆操作,包括但不限于:制动控制,牵引力控制,速度控制,转向控制,驾驶员警告,挡风板控制以及车辆到车辆之间的通信。
如果步骤61中关注区域不存在积雪的确定得到确认,那么随后例行程序进入到步骤63,步骤63中将使用其他的技术核实积雪存在与否。
图10为示出用于检测积雪覆盖道路表面的第二个技术的流程图。步骤50-55代表道路表面图案数据库构建的训练阶段,其中步骤55-63代表在车辆中在线确定道路表面的积雪。
步骤70中,获取车辆相应一侧并行区域的图像。分析图像以获取场景信息,其中可以分析场景中采集到的光束以确定图像中是否存在积雪。前面所描述的图像采集和图像处理可以在此使用。
步骤71中,在输入图像中应用去噪声和/或去扭曲技术。
步骤72中,从真实图像或者虚拟图像中识别关注区域。该技术定位关注区域,关注区域识别相关区域,在该相关区域中光束发射到与车辆相对的道路表面,因此如果在此区域检测到积雪存在,那么可以假设车辆在积雪上行驶。
步骤73中,利用Lab色彩模型实现图像转换。从RGB转换到Lab色彩空间的图像,通过隔离环境噪音(例如照明和盐蚀表面)的影响而获取用于分析的光图像的相关色彩信息,这样可以增强检测的可靠性。
步骤74中,将二进制转换应用到Lab转换的图像。当积雪存在的时候,二进制转换产生图像中积雪分析的图案化结构,而无积雪存在时,Lab转换的图像中在无积雪表面没有图案。二进制转换好的图像中光散射区域与全部关注区域之间的均值比和方差比包括大于1的值,相反,在无积雪覆盖行进路径表面时,均值比和方差比的数值接近1。
步骤75中,对转换好的二进制图像应用特征抽取。特征抽取包括使用相应的统计分析用以分析和识别与地表表面散射光相关联的特征。图11a是干燥表面关注区域的RGB图像。如图11a所示,可捕获光的各光束作为具有基本一致颜色的基本定义点。相反,图11b是积雪覆盖表面关注区域的RGB图像。发射到积雪覆盖表面的各光束被散射。光的各光束被表示为在雪中从光束的中心向光束沿着径向向外散射变化的颜色过渡。图12a和图12b分别表示在RGB图像转换为Lab色彩空间后,干燥道路表面的响应和积雪覆盖道路的响应。
图13a和13b表示从Lab图像转换而来的二进制图像。图13a表示干燥表面示例而图13b表示积雪覆盖表面示例。正如从二进制图像中看到的一样,基于关注区域和全部区域的均值方差分析可以便利地抽取特征集。光区域和全部区域之间的强度均值比可以确定。比值大于1时表明是积雪覆盖表面,而比值接近1时表明干燥表面。
步骤76,基于步骤75的结果构建分类器。将代表样本分布的相应特征在特征空间中绘制。分类器的实例可包括支持向量机。但是,也可以使用不偏离本发明范围内的其他技术。使用特征抽取训练分类器以构建步骤77中的道路表面图案数据库。特征抽取包括从不同类型图像中提取特征以生成图案数据库。一旦道路表面图案数据构建完成,该道路表面图案数据库可以于生产中在车辆上在线运行。
步骤78-82涉及在车辆中分析图像时实时处理采集到的图像。这些相应步骤与上述步骤70-74相同,除了与训练分类器相反的涉及分析实时图像的处理。
步骤83,实时执行基于新图像输入而计算已知特征的特征计算。
步骤84,向在线分类器提供基于二进制转换图像的抽取特征以分析关注区域积雪的存在。
步骤85,确定道路表面是否检测到积雪。如果确定道路表面存在积雪,那么随后例行程序进行到步骤86。否则,随后例行程序进行到步骤87。
步骤86,响应于道路表面存在积雪的确定,将积雪覆盖表面指示器标志设置为指示关注区域存在积雪。信号传送到控制器,如前面所述,该控制器可以致动各种车辆操作,包括但不限于:制动控制,牵引力控制,速度控制,转向控制,驾驶员警告,挡风板控制以及车辆到车辆之间的通信。
如果步骤85中关注区域不存在积雪的确定得到确认,那么随后例行程序进行到步骤87,步骤87将使用其他的技术核实积雪存在与否。
图14-16示出了由发光装置发射的增强型结构光图案。光源可形成所需结构光图案而不是单个光斑以覆盖更多表面区域和加强监测的可靠性和稳定性。图14示出了由4个光斑组成正方形图案的类似于正方形的图案。图15示出了由线性斑点延长形成类椭圆图案的线性图案。图16示出了由线性斑点彼此之间线性排列形成的线性图案。
此外,增强分析可以与对图像实时连续跟踪的图像跟踪分析一起进行。道路表面状态状况的确定基于移动时间窗口帧内图像序列的分析,而不是单个时间的单个图像。移动窗口可以有不同尺寸并且可以在不同的时间点情况下重新设置。移动窗口减少噪音并且提供了校正表面识别的更高置信水平。图17表示示出无积雪表面的示例性序列而图18表示积雪覆盖表面的图像序列。各相应时间点的每一个特征可以用作确定道路表面是否存在积雪的样本。
尽管已经详细介绍了本发明的特定实施例,但是熟悉本发明领域的技术人员将了解用于实现权利要求书所限定本发明的各种可选设计、滤波处理和实施例。
Claims (5)
1.一种用于确定行进路径的积雪覆盖表面状况的方法,所述方法包括以下步骤:
由发光源向行进路径表面发射光束;
由图像采集装置采集行进道路表面的图像,所述图像采集装置安装在车辆上并且以相对于所述车辆向下的方向采集图像,采集图像的采集内容为所发射光束;
在所述采集图像中识别关注区域,所述关注区域包括采集到的所发射光束;
由处理器分析所述关注区域中在所述行进路径表面上的所发射光束的次表面散射,包括:将图像分量转换到Lab色彩空间,以分离采集到的所发射光束的色彩分量和亮度分量,对所述Lab色彩空间中的至少一个色彩分量进行特征抽取,应用滤波技术以检测所述关注区域的边缘;
通过对所述Lab色彩空间应用二进制转换,识别所述关注区域中的所述积雪覆盖表面状况;以及
响应于识别到所述积雪覆盖表面状况,产生积雪覆盖行进路径表面信号。
2.根据权利要求1所述的方法,其中,所述滤波技术包括高斯拉普拉斯滤波。
3.根据权利要求2所述的方法,其中,当滤波器响应显示与无积雪覆盖行进路径的滤波器响应数据相比明显较大的峰值时,确定表示积雪覆盖表面状况的散射光的广义模糊图案。
4.根据权利要求1所述的方法,其中,在所述行进路径表面处的所述所发射光束包括正方形图案光束。
5.根据权利要求1所述的方法,其中,实时连续追踪在所述行进路径表面处的所发射光束,其中,追踪移动时间帧内的图像序列,以识别每一相应帧中的所述光束,其中移动窗口用于对比多个所发射光束以识别所述行进路径上的积雪。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US14/957968 | 2015-12-03 | ||
US14/957,968 US10013617B2 (en) | 2015-12-03 | 2015-12-03 | Snow covered path of travel surface condition detection |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106846394A CN106846394A (zh) | 2017-06-13 |
CN106846394B true CN106846394B (zh) | 2021-01-05 |
Family
ID=58722462
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201611036707.3A Active CN106846394B (zh) | 2015-12-03 | 2016-11-23 | 积雪覆盖行进路径表面状况检测 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10013617B2 (zh) |
CN (1) | CN106846394B (zh) |
DE (1) | DE102016122481A1 (zh) |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10419723B2 (en) | 2015-06-25 | 2019-09-17 | Magna Electronics Inc. | Vehicle communication system with forward viewing camera and integrated antenna |
US10521677B2 (en) * | 2016-07-14 | 2019-12-31 | Ford Global Technologies, Llc | Virtual sensor-data-generation system and method supporting development of vision-based rain-detection algorithms |
GB201612528D0 (en) | 2016-07-19 | 2016-08-31 | Machines With Vision Ltd | Vehicle localisation using the ground or road surface |
US20190057272A1 (en) * | 2017-08-18 | 2019-02-21 | GM Global Technology Operations LLC | Method of detecting a snow covered road surface |
CN108701365B (zh) * | 2017-08-29 | 2022-05-31 | 广东虚拟现实科技有限公司 | 光点识别方法、装置以及系统 |
US10589742B2 (en) | 2017-11-30 | 2020-03-17 | Ford Global Technologies, Llc | Vehicle snow level response |
CN109263559B (zh) * | 2018-08-27 | 2020-08-07 | 温州雪榕机械科技有限公司 | 一种环保汽车 |
JP7103201B2 (ja) * | 2018-12-20 | 2022-07-20 | トヨタ自動車株式会社 | 情報処理システム、プログラム、及び情報処理方法 |
US11001231B1 (en) * | 2019-02-28 | 2021-05-11 | Ambarella International Lp | Using camera data to manage a vehicle parked outside in cold climates |
DE102019205903A1 (de) * | 2019-04-25 | 2020-10-29 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Ermitteln einer festen Zustandsform von Wasser auf einer Fahrbahnoberfläche |
CN110309704B (zh) * | 2019-04-30 | 2022-01-25 | 泸州市气象局 | 一种极端天气实时检测方法、系统及终端 |
US11577726B2 (en) | 2020-05-26 | 2023-02-14 | Ford Global Technologies, Llc | Vehicle assist feature control |
CN111897985B (zh) * | 2020-06-23 | 2021-10-01 | 西安交通大学医学院第一附属医院 | 图像多标签分类方法、系统、设备及可读存储介质 |
US20220388507A1 (en) * | 2021-06-04 | 2022-12-08 | Telenav, Inc. | Vehicle system with mechanism for determining clear path and method of operation thereof |
JP2023030904A (ja) * | 2021-08-24 | 2023-03-08 | 株式会社Subaru | 路面状態検出装置及び路面状態報知装置 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104484896A (zh) * | 2014-10-30 | 2015-04-01 | 无锡梵天信息技术股份有限公司 | 一种基于环境贴图来模拟人物皮肤次表面散射的物理方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8618921B2 (en) * | 2009-11-10 | 2013-12-31 | GM Global Technology Operations LLC | Method and system for identifying wet pavement using tire noise |
DE102010025719A1 (de) * | 2010-06-30 | 2012-05-16 | Wabco Gmbh | Vorrichtung und Verfahren zur Ausgabe eines Signals bei gefährlichem Untergrund unter einem Fahrzeug |
US9082235B2 (en) * | 2011-07-12 | 2015-07-14 | Microsoft Technology Licensing, Llc | Using facial data for device authentication or subject identification |
BR112016010089B1 (pt) * | 2013-11-13 | 2021-06-08 | Nissan Motor Co. Ltd. | dispositivo de estimação de posição de corpo em movimento e método de estimação de posição de corpo em movimento |
US10356337B2 (en) * | 2014-10-07 | 2019-07-16 | Magna Electronics Inc. | Vehicle vision system with gray level transition sensitive pixels |
US20170096144A1 (en) * | 2015-10-05 | 2017-04-06 | Ford Global Technologies, Llc | System and Method for Inspecting Road Surfaces |
-
2015
- 2015-12-03 US US14/957,968 patent/US10013617B2/en active Active
-
2016
- 2016-11-22 DE DE102016122481.2A patent/DE102016122481A1/de active Pending
- 2016-11-23 CN CN201611036707.3A patent/CN106846394B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104484896A (zh) * | 2014-10-30 | 2015-04-01 | 无锡梵天信息技术股份有限公司 | 一种基于环境贴图来模拟人物皮肤次表面散射的物理方法 |
Also Published As
Publication number | Publication date |
---|---|
US10013617B2 (en) | 2018-07-03 |
DE102016122481A1 (de) | 2017-06-08 |
CN106846394A (zh) | 2017-06-13 |
US20170161571A1 (en) | 2017-06-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106846394B (zh) | 积雪覆盖行进路径表面状况检测 | |
US9836660B2 (en) | Vision-based wet road surface condition detection using tire tracks | |
CN106841195B (zh) | 湿路面状况检测 | |
US20200406897A1 (en) | Method and Device for Recognizing and Evaluating Roadway Conditions and Weather-Related Environmental Influences | |
CN107093180B (zh) | 使用轮胎向后飞溅的基于视觉的潮湿路面状况检测 | |
CN106845332B (zh) | 利用轮胎旁溅的基于视觉的潮湿路面状况检测 | |
US10558868B2 (en) | Method and apparatus for evaluating a vehicle travel surface | |
CN106537180B (zh) | 用于用针对行人的主动制动的摄影机输入缓解雷达传感器限制的方法 | |
JP2017503715A (ja) | 車載カメラ・システムを用いた路面状態を割り出すための方法および装置 | |
US11087144B2 (en) | System and method for determining vehicle data set familiarity | |
CN107273785B (zh) | 多尺度融合的道路表面状况检测 | |
JP6129167B2 (ja) | カメラを用いた走行レーン認識の方法 | |
US9349070B2 (en) | Vehicle external environment recognition device | |
US9269006B2 (en) | Imaging apparatus, vehicle system, and image-processing method for image magnification and expansion | |
US9594964B2 (en) | Vision-based wet road surface detection using texture analysis | |
US10593029B2 (en) | Bloom removal for vehicle sensors | |
US10839263B2 (en) | System and method for evaluating a trained vehicle data set familiarity of a driver assitance system | |
WO2018068919A1 (en) | Method for detecting objects in an environmental region of a motor vehicle considering sensor data in the infrared wavelength range, object detection apparatus, driver assistance system as well as motor vehicle | |
EP3480726B1 (en) | A vision system and method for autonomous driving and/or driver assistance in a motor vehicle | |
Roy et al. | Road Lane Detection and Tracking |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |