CN105678787A - 一种基于双目鱼眼摄像头的载重货车行驶障碍物检测及跟踪方法 - Google Patents

一种基于双目鱼眼摄像头的载重货车行驶障碍物检测及跟踪方法 Download PDF

Info

Publication number
CN105678787A
CN105678787A CN201610076586.9A CN201610076586A CN105678787A CN 105678787 A CN105678787 A CN 105678787A CN 201610076586 A CN201610076586 A CN 201610076586A CN 105678787 A CN105678787 A CN 105678787A
Authority
CN
China
Prior art keywords
barrier
image
binocular
tracking
algorithm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201610076586.9A
Other languages
English (en)
Inventor
张祖涛
王富斌
李晏君
刘昱岗
张效良
胡广地
朱鑫
王媛
许永生
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Southwest Jiaotong University
Original Assignee
Southwest Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Southwest Jiaotong University filed Critical Southwest Jiaotong University
Priority to CN201610076586.9A priority Critical patent/CN105678787A/zh
Publication of CN105678787A publication Critical patent/CN105678787A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/10Image enhancement or restoration using non-spatial domain filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)

Abstract

本发明公开了一种基于双目鱼眼摄像头的载重货车行驶障碍物检测及跟踪方法,属于交通车辆主动安全技术领域。其主要步骤:当检测到载重货车倒车时,启动安装于车尾两端的两个已经完成标定和校正的红外鱼眼摄像头同步采集倒车环境图像信息,输出经过拼接处理后的倒车图像,在驾驶室内的显示屏幕上显示。通过双目鱼眼视觉系统获取要追踪的障碍物目标的初始位置和距离,然后利用与低秩矩阵理论相结合的基于粒子滤波的视频目标跟踪算法,实现对障碍物的追踪,在追踪过程中,对图像模板进行实时更新,检查是否有新的障碍物。当检测到车辆拐弯时,启动超声波雷达检测货车旁边一米范围内有障碍物,则显示障碍物位置并发出预警。主要用于大型货车。

Description

一种基于双目鱼眼摄像头的载重货车行驶障碍物检测及跟踪方法
技术领域
本发明涉及一种基于双目鱼眼摄像头的载重货车行驶障碍物检测及跟踪的方法
技术背景
随着中国物流行业的快速发展,载重货车的需求也越来越多,货车的车身也越来越长,载货量也越来越多,由载重货车引起的交通事故也在不断增加,后果一般非常严重,尤其是由于倒车和拐弯的不当操作产生的碰撞事故在其中占了相当的比例。相当于直行驾驶而言,载重货车倒车和拐弯的难度非常大,由于车身过长,货厢体积又太大,倒车和拐弯时的盲区面积非常大,一般看不清车尾后和车侧旁的物体和行人状况,从而导致碰撞事故越来越多。货车运行在大风雪或气候恶劣的环境居多,夜晚倒车更是成为一个盲点,货车司机在开车的过程中完全看不到车后的情况。此外,由于车身过长,货车拐弯时不容易发现旁边的行人或行驶的车辆,容易造成事故,这是一个很大的安全隐患。
目前针对货车倒车安全的方法有以下两个:一、在倒车时,一个人在车后拿对讲机指挥倒车,要是晚上的话,还会用到手电筒,边用手电筒画圈边用对讲机指挥,可是还是避免不了灾难的降临;二、为了减少车辆的盲区,车辆需要安装一些辅助的设备来帮助驾驶员倒车,倒车影像系统能使驾驶员能够更轻松的掌握到车后面的环境及情况,可以提高安全系数,减少事故发生。
当货车拐弯时,由于车厢很长,司机一边要观察车辆前行的情况,又要注意避让车侧的车辆或行人,保持安全距离,同时还要时刻观察他们的行驶状态,做好预防措施,但是司机很难全面的观察到这些情况,而且会分散司机的注意力,有一定的安全隐患。
倒车影像系统以声音和图像的形式告知驾驶员汽车周围的障碍物情况,解除了驾驶员在泊车或倒车时前后左右探视所引起的困扰,并帮助驾驶员扫除了视野死角和实现模糊的缺陷,独立完成倒车操作,提高驾驶的安全性。
专利CN201210430928.4(公开号CN102923000A)提出一种基于普通双目摄像头的倒车障碍物检测方法,虽然这种方法能利用哈尔特征分类法判断出车后的行人和车辆,但是没有进一步提出对障碍物进行跟踪的方法,而本发明可以做到障碍物的实时检测追踪,此外,鱼眼摄像头的使用可以提供足够广阔的视野,保证了覆盖车后所有障碍物。
专利CN2015102994001(公开号CN104835118A)提出一种通过两路鱼眼摄像头采集全景图像的方法,但是没有提到对全景图像的进一步应用,而本发明除了对两幅图像进行拼接外还实现了对障碍物的监测和追踪。
专利CN2010101972159(公开号CN101859376A)公开了一种基于鱼眼摄像头的人体检测的自动监控系统,利用分类器检测鱼眼图像中的人体,而本发明用两个双目鱼眼摄像头视觉系统检测障碍物,并进行障碍物跟踪。
专利CN201110193257X(公开号CN102874196A)提出一种基于机器视觉的汽车防撞方法,这种方法不仅通过立体视觉信息得出障碍物与汽车的距离,而且还能计算出安全范围,但是并没有对摄像头进行标定和图像拼接等预处理与处理阶段进行说明,而且只解决了汽车前行的避障问题,而本发明提供了详细的预处理算法,并且解决了大货车转弯或变道时侧面障碍物的检测和预警。
所以,有必要发明视野更宽、检测范围更广、跟踪效果跟稳定的的载重货车行驶障碍物检测及跟踪的方法,提高障碍物检测的准确率和鲁棒性,无论是在货车倒车还是拐弯时都能检测障碍物,辅助驾驶员安全驾驶,提高载重货车的安全性。
发明内容
本发明的目的是提供一种基于双目鱼眼的载重货车行驶障碍物检测及跟踪的方法,在倒车时,能够使驾驶员观察到一个大视场的车后环境,检测并追踪到障碍物的同时发出提醒,辅助载重货车驾驶员直观、动态、清晰的实施倒车操作,降低倒车难度,有效避免由于倒车而发生的交通事故。当货车拐弯时,启动车侧的超声波雷达,实时检测有无障碍物并发出提醒,避免发生事故。
该发明方法包括以下步骤:
A倒车障碍物信息采集
汽车的电子控制中心检测到汽车挡位置于倒挡上时,启动安装在货车车尾两端呈俯视角的两个采样频率相同的全天候红外鱼眼摄像头,获取倒车实时视频。
B双目鱼眼摄像头标定
首先进行单目标定,获取摄像机内参数(焦距、摄像机中心主点、畸变向量)和外参数(旋转矩阵和平移向量)。
由于鱼眼摄像头具有成像视野广和高畸变特性,本发明提出一种利用特定的椭圆标定板提供精确的点线特征来完成摄像头标定的算法,根据特征椭圆检测和参数拟合技术对检测到的特征点进行可靠性分析,得到鱼眼摄像头的内外参数。
标定板特征提取的流程主要包括以下方面:
B1、平滑滤波
用5×5模板对图像进行Gauss滤波,消除噪声影响;
B2、边缘检测
利用Canny算子进行边缘检测;
B3、轮廓线搜索
在Canny边沿检测得到的图像中,对每一行搜索最左边和最右边的两个边缘点(xleft,yleft)和(xright,yright),并依据成像区域的左右对称性对每行两个边缘点的有效性进行验证:
L=|xright+xleft-W|
其中,W为图像宽度。如果L大于某个阈值T,则认为两个边缘点偏离实际成像边界较远,予以抛弃;否则将其保留,视为该椭圆是一个有效特征椭圆。实际实现过程中,阈值T=20.
B4、椭圆参数拟合
利用基于最小二乘法的特征参数拟合算法对每个轮廓的像素点进行椭圆拟合,得到能够表征鱼眼视觉成像区域边界的椭圆参数。将拟合得到的椭圆圆心(x0,y0)作为特征点,以便于后期标定过程中的初始参数确定和图像的去畸变处理。
B5、摄像头内外参数确定
根据摄像机坐标矩阵投影模型和旋转、平移变换和单应性原理:
式中s为一常系数,选取P所在平面为世界坐标平面,故可以设距离Z=0。
考虑到镜头畸变的影响,P0所对应的坐标必须要经过校正,所以引入3个径向畸变参数k1k2k3和2个切向畸变向量p1p2。用r=0位置泰勒级数展开,可以列出下式:
式中第一项为消除镜头的径向畸变,第二项为消除镜头的切向畸变。模型确立后,联系这两个式子,再通过椭圆标定板引入多个已知参数,通过最小二乘法,可以求得内参数(焦距fx、fy、摄像机中心主点cx、cy、畸变向量k1k2k3、p1p2)和外参数(旋转矩阵r1r2r3和平移向量t)。
利用两个单目摄像机的外参数,由下式得两个摄像机之间的相对位置关系,即两个摄像机之间的旋转矩阵Rs和平移向量Ts:
C双目鱼眼摄像头畸变校正
由于鱼眼摄像头存在非常严重的畸变,本发明利用基于球面透镜投影约束的鱼眼校正方法进行矫正处理,并用双线性插值法对校正后的图像进行填充,为鱼眼镜头障碍物识别的实现做准备工作,调整摄像机间的角度和距离,使双目图像处于共面且严格行对齐状态,输出行对准的校正图像。
D双目鱼眼图像区域拼接
完成图像的校正和无畸变处理后,先对双目鱼眼采集的两幅图像进行匹配,使用SIFT算法来提取和匹配图像的特征点,利用RANSCA算法和L-M算法对投影变换矩阵进行迭代精炼,利用引导互匹配方法消除错误匹配;然后对图像进行融合,采用加权平滑算法完成图像融合与拼接,最终显示180°宽视角的倒车图像。
E判断障碍物初始位置以及距离
利用无畸变,已经校正好的鱼眼双目视觉系统和已知的特征对应点以及基于极线约束的双目视差获取方法获取视差值之后,深度信息Z可以通过相似三角形计算出来:
即:
倒车时图像信息处理模块利用三角测距法计算出每一帧图像中距离车尾最近的障碍物位置和距离,同时在视差图中找到连续帧图像中面积最大的障碍物,将满足以上两点的障碍物作为追踪的初始位置。
F基于低秩矩阵的障碍物跟踪
根据E中得到的障碍物的初始位置,本发明用一种改进的低秩矩阵跟踪方法,将低秩矩阵的理论引入到基于粒子滤波的视频目标跟踪算法中,实现对障碍物的跟踪,同时,对载重货车驾驶员发出提示音。在追踪障碍物的过程中,对图像模板进行实时更新,检查是否有新的障碍物。
G超声波雷达监测障碍物
在货车车厢两侧各安装6个等距的超声波雷达,设定波速发散角为60°。当检测到方向盘转动,货车转弯时,启动超声波雷达开始检测货车两侧的障碍物,若检测到有车辆或行人时,显示障碍物位置并发出提醒。
重复以上A-F步的操作。
与现有技术相比,本发明的有益效果是:
一、倒车时,启动双目鱼眼摄像头视觉系统,输出拼接后的图像,驾驶员可以无死角的观察到倒车环境,保证了双目鱼眼摄像头视觉系统可以检测到车后所有的障碍物,提到载重货车倒车安全。此外,不需要雷达测距就能获取障碍物距离信息,提高视觉系统的多用性。
二、在确定障碍物的初始位置时,图像信息处理模块对每一帧图像进行障碍物距离与位置计算,获得距离车尾最近的障碍物信息,同时在视差图中找到连续帧图像中面积最大的障碍物目标,只有满足以上两个条件,才能完成障碍物的准确检测和初始位置的确定,这种判断方法有效提高了障碍物的检测率和追踪的效果。
三、将低秩矩阵的理论引入到基于粒子滤波的视频目标跟踪算法中,实现对障碍物的实时高效跟踪,提高障碍物的跟踪率,算法的计算量少,提高了计算速率。此外,与双目鱼眼视觉测量相结合,应用于载重货车倒车环境感知中,提高了系统的鲁棒性。
本发明方法提出的目标追踪算法与X.Mei(X.MeiandH.B.Ling,“RobustVisualTrackingandVehicleClassificationviaSparseRepresentation,”IEEETrans.PatternAnal.Mach.Intell.,vol.33,no.11,pp.2259-2272,Nov.2011.)提出的目标追踪算法对数据的处理速度对比结果见表1
可以看到,本发明提出的算法每秒处理的帧数可以达到140帧左右,是X.Mei提出的算法的7倍左右,说明将低秩理论引入到基于粒子滤波的视频目标追踪算法中,可以有效提高算法的处理速率。
四、当载重货车拐弯或变道时,由于货车车身很长,针对可能会碰撞到车侧障碍物的问题,本发明将超声波雷达测距技术应用于货车前行拐弯环境感知中,通过检测并判断拐弯时安全范围内是否存在障碍物,来辅助驾驶员安全驾驶。
总之,本发明的倒车辅助驾驶方法可以提供无死角视野,并且检测范围广;本发明提出的结合低秩理论的视频目标追踪算法能够准确的追踪到障碍物,具有较好的鲁棒性、实时性,并且计算速率较快。
附图说明
图1为本发明的倒车安全技术实现流程图。
图2为本发明的拐弯安全技术实现流程图。
图3为本发明的倒车安全技术算法流程图
具体实施方法
实施例
本发明的具体实施方式是,一种基于双目鱼眼的载重货车行驶障碍物检测及跟踪的方法,包括以下步骤:
A倒车障碍物信息采集
汽车的电子控制中心检测到汽车挡位置于倒挡上时,启动安装在货车车尾两端呈俯视角的两个采样频率相同的全天候红外鱼眼摄像头,获取倒车实时视频。
B双目鱼眼摄像头标定
首先进行单目标定,获取摄像机内参数(焦距、摄像机中心主点、畸变向量)和外参数(旋转矩阵和平移向量)。
由于鱼眼摄像头具有成像视野广和高畸变特性,本发明提出一种利用特定的椭圆标定板提供精确的点线特征来完成摄像头标定的算法,根据特征椭圆检测和参数拟合技术对检测到的特征点进行可靠性分析,得到鱼眼摄像头的内外参数。
标定板特征提取的流程主要包括以下方面:
B1、平滑滤波
用5×5模板对图像进行Gauss滤波,消除噪声影响;
B2、边缘检测
利用Canny算子进行边缘检测;
B3、轮廓线搜索
在Canny边沿检测得到的图像中,对每一行搜索最左边和最右边的两个边缘点(xleft,yleft)和(xright,yright),并依据成像区域的左右对称性对每行两个边缘点的有效性进行验证:
L=|xright+xleft-W|
其中,W为图像宽度。如果L大于某个阈值T,则认为两个边缘点偏离实际成像边界较远,予以抛弃;否则将其保留,视为该椭圆是一个有效特征椭圆。实际实现过程中,阈值T=20.
B4、椭圆参数拟合
利用基于最小二乘法的特征参数拟合算法对每个轮廓的像素点进行椭圆拟合,得到能够表征鱼眼视觉成像区域边界的椭圆参数。将拟合得到的椭圆圆心(x0,y0)作为特征点,以便于后期标定过程中的初始参数确定和图像的去畸变处理。
B5、摄像头内外参数确定
根据摄像机坐标矩阵投影模型和旋转、平移变换和单应性原理:
式中s为一常系数,选取P所在平面为世界坐标平面,故可以设距离Z=0。
考虑到镜头畸变的影响,P0所对应的坐标必须要经过校正,所以引入3个径向畸变参数k1k2k3和2个切向畸变向量p1p2。用r=0位置泰勒级数展开,可以列出下式:
式中第一项为消除镜头的径向畸变,第二项为消除镜头的切向畸变。模型确立后,联系这两个式子,再通过椭圆标定板引入多个已知参数,通过最小二乘法,可以求得内参数(焦距fx、fy、摄像机中心主点cx、cy、畸变向量k1k2k3、p1p2)和外参数(旋转矩阵r1r2r3和平移向量t)。
利用两个单目摄像机的外参数,由下式得两个摄像机之间的相对位置关系,即两个摄像机之间的旋转矩阵Rs和平移向量Ts:
C双目鱼眼摄像头畸变校正
由于鱼眼摄像头存在非常严重的畸变,本发明利用基于球面透镜投影约束的鱼眼校正方法进行矫正处理,并用双线性插值法对校正后的图像进行填充,为鱼眼镜头障碍物识别的实现做准备工作,调整摄像机间的角度和距离,使双目图像处于共面且严格行对齐状态,输出行对准的校正图像。
D双目鱼眼图像区域拼接
完成图像的校正和无畸变处理后,先对双目鱼眼采集的两幅图像进行匹配,使用SIFT算法来提取和匹配图像的特征点,利用RANSCA算法和L-M算法对投影变换矩阵进行迭代精炼,利用引导互匹配方法消除错误匹配;然后对图像进行融合,采用加权平滑算法完成图像融合与拼接,最终显示180°宽视角的倒车图像。
E判断障碍物初始位置以及距离
利用无畸变,已经校正好的鱼眼双目视觉系统和已知的特征对应点以及基于极线约束的双目视差获取方法获取视差值之后,深度信息Z可以通过相似三角形计算出来:
即:
倒车时图像信息处理模块利用三角测距法计算出每一帧图像中距离车尾最近的障碍物位置和距离,同时在视差图中找到连续帧图像中面积最大的障碍物,将满足以上两点的障碍物作为追踪的初始位置。
F基于低秩矩阵的障碍物跟踪
根据E中得到的障碍物的初始位置,本发明用一种改进的低秩矩阵跟踪方法,将低秩矩阵的理论引入到基于粒子滤波的视频目标跟踪算法中,实现对障碍物的跟踪,同时,对载重货车驾驶员发出提示音。在追踪障碍物的过程中,对图像模板进行实时更新,检查是否有新的障碍物。
G超声波雷达监测障碍物
在货车车厢两侧各安装6个等距的超声波雷达,设定波速发散角为60°。当检测到方向盘转动,货车转弯时,启动超声波雷达开始检测货车两侧的障碍物,若检测到有车辆或行人时,显示障碍物位置并发出提醒。
重复以上A-F步的操作。

Claims (5)

1.一种基于双目鱼眼摄像头的载重货车行驶障碍物检测及跟踪方法,包括以下步骤:
步骤一、对双目鱼眼摄像头进行标定
首先进行单目标定,获取摄像机内参数和外参数,标定板特征提取的流程为:
1)、平滑滤波,用5×5模板对图像进行Gauss滤波,消除噪声影响;
2)、边缘检测,利用Canny算子进行边缘检测;
3)、轮廓线搜索,Canny边沿检测得到的图像中,对每一行搜索最左边和最右边的两个边缘点(xleft,yleft)和(xright,yright),并依据成像区域的左右对称性对每行两个边缘点的有效性进行验证:
L=|xright+xleft-W|
其中,W为图像宽度,如果L小于某个阈值T,视为该椭圆是一个有效特征椭圆,否则予以抛弃;
4)、椭圆参数拟合,利用基于最小二乘法的特征参数拟合算法对每个轮廓的像素点进行椭圆拟合,得到能够表征鱼眼视觉成像区域边界的椭圆参数,将拟合得到的椭圆圆心(x0,y0)作为特征点;
5)、鱼眼摄像头内外参数确定,根据摄像机坐标矩阵投影模型和旋转、平移变换和单应性原理以及畸变校正公式,可以求得摄像机的内参数和外参数;根据两个摄像机之间的相对位置关系,利用两个单目摄像机的外参数,可求得两个摄像机之间的旋转矩阵和平移向量;
步骤二、双目鱼眼摄像头畸变校正
利用基于球面透镜投影约束的鱼眼校正方法进行矫正处理,并用双线性插值法对校正后的图像进行填充,为鱼眼摄像头障碍物识别的实现做准备工作,调整摄像机间的角度和距离,使双目图像处于共面且严格行对齐状态,输出行对准的校正图像;
步骤三、双目鱼眼图像区域拼接
完成图像的校正和无畸变处理后,先对双目鱼眼视觉系统采集的两幅图像进行匹配,使用SIFT算法来提取和匹配图像的特征点,利用RANSCA算法和L-M算法对投影变换矩阵进行迭代精炼,引导互匹配方法消除错误匹配;然后对图像进行融合,采用加权平滑算法完成图像融合与拼接,最终显示180°宽视角的倒车图像;其特征在于:
步骤四、判断障碍物初始位置以及距离
利用无畸变,已经校正好的双目鱼眼视觉系统和已知的特征点以及基于极线约束的双目视差获取方法获取视差值之后,就可以通过相似三角形计算出距离信息Z:
即:
其中xl和xr分别为障碍物在左右摄像机成像仪上的水平位置,T为两台摄像机之间的距离,f为焦距;
倒车时图像信息处理模块利用三角测距法计算出每一帧图像中距离车尾最近的障碍物位置和距离信息Z,同时在视差图中找到连续帧图像中面积最大的障碍物,将满足以上两点的障碍物作为追踪的初始位置;
步骤五、基于低秩矩阵的障碍物跟踪
根据步骤四中得到的障碍物的初始位置需要对每一帧图像进行计算,将低秩矩阵的计算方法引入到基于粒子滤波的视频目标跟踪算法中,可减小算法的计算量,提高计算速率,实现对障碍物的及时跟踪,同时,对载重货车驾驶员发出提示音,在追踪障碍物的过程中,对图像模板进行实时更新,检查是否有新的障碍物;
步骤六、超声波雷达监测障碍物
在货车车厢两侧各安装六个等距的超声波雷达,设定波速发散角为60°;当检测到方向盘转动,货车转弯时,启动超声波雷达开始检测货车两侧的障碍物,若检测到有车辆或行人时,显示障碍物位置并发出提醒。
2.根据权利要求1所述的一种基于双目鱼眼的载重货车行驶障碍物检测及跟踪方法,其特征在于:步骤一中所述的标定板带有椭圆孔,在进行椭圆轮廓线搜索时,设定的阈值为20。
3.根据权利要求1所述的一种基于双目鱼眼的载重货车行驶障碍物检测及跟踪方法,其特征在于:步骤四中所述的判断障碍物初始位置需要同时满足两个条件:一、通过三角测距法确定最近障碍物的位置和距离;二、在视差图中找出连续帧面积最大的障碍物。
4.根据权利要求1所述的一种基于双目鱼眼的载重货车行驶障碍物检测及跟踪方法,其特征在于:步骤四中所述的确定障碍物位置是对每一帧图像而言。
5.根据权利要求1所述的一种基于双目鱼眼的载重货车行驶障碍物检测及跟踪方法,其特征在于:步骤四中所述的在视差图中找出面积最大的障碍物是对连续帧图像而言。
CN201610076586.9A 2016-02-03 2016-02-03 一种基于双目鱼眼摄像头的载重货车行驶障碍物检测及跟踪方法 Pending CN105678787A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610076586.9A CN105678787A (zh) 2016-02-03 2016-02-03 一种基于双目鱼眼摄像头的载重货车行驶障碍物检测及跟踪方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610076586.9A CN105678787A (zh) 2016-02-03 2016-02-03 一种基于双目鱼眼摄像头的载重货车行驶障碍物检测及跟踪方法

Publications (1)

Publication Number Publication Date
CN105678787A true CN105678787A (zh) 2016-06-15

Family

ID=56304035

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610076586.9A Pending CN105678787A (zh) 2016-02-03 2016-02-03 一种基于双目鱼眼摄像头的载重货车行驶障碍物检测及跟踪方法

Country Status (1)

Country Link
CN (1) CN105678787A (zh)

Cited By (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106096559A (zh) * 2016-06-16 2016-11-09 深圳零度智能机器人科技有限公司 障碍物检测方法及系统以及运动物体
CN106382918A (zh) * 2016-08-31 2017-02-08 胡钊政 一种三维视觉传感器
CN106651808A (zh) * 2016-12-29 2017-05-10 北京爱奇艺科技有限公司 一种鱼眼图转换方法及装置
CN106650708A (zh) * 2017-01-19 2017-05-10 南京航空航天大学 一种自动驾驶障碍物视觉检测方法与系统
CN106646407A (zh) * 2016-12-15 2017-05-10 广州汽车集团股份有限公司 雷达标定设备校验方法、装置和系统
CN106878687A (zh) * 2017-04-12 2017-06-20 吉林大学 一种基于多传感器的车载环境识别系统及全方位视觉模块
CN106952219A (zh) * 2017-03-14 2017-07-14 成都通甲优博科技有限责任公司 一种基于外参数修正鱼眼像机的图像生成方法
CN106991415A (zh) * 2017-06-05 2017-07-28 北京汽车集团有限公司 用于车载鱼眼相机的图像处理方法和装置
CN107030690A (zh) * 2016-12-22 2017-08-11 中国科学院沈阳自动化研究所 一种基于视觉的机械臂避障方法
CN107122770A (zh) * 2017-06-13 2017-09-01 驭势(上海)汽车科技有限公司 多目相机系统、智能驾驶系统、汽车、方法和存储介质
CN107480646A (zh) * 2017-08-22 2017-12-15 北京工业大学 一种基于双目视觉的车载视频异常运动检测方法
CN107886544A (zh) * 2016-09-30 2018-04-06 法乐第(北京)网络科技有限公司 用于车辆标定的图像采集控制方法和装置
CN107909012A (zh) * 2017-10-30 2018-04-13 北京中科慧眼科技有限公司 一种基于视差图的实时车辆跟踪检测方法与装置
CN107985200A (zh) * 2017-11-13 2018-05-04 西南交通大学 一种载重货车右转弯安全预警系统及方法
CN108053582A (zh) * 2017-11-28 2018-05-18 特斯联(北京)科技有限公司 一种应用于智慧商圈的人工智能购物设备及其系统
CN108407720A (zh) * 2018-03-26 2018-08-17 宁夏大学 用于大型货车的安全距离报警及防护装置
CN108765496A (zh) * 2018-05-24 2018-11-06 河海大学常州校区 一种多视点汽车环视辅助驾驶系统及方法
CN108845327A (zh) * 2018-08-13 2018-11-20 河南城建学院 一种大货车视野盲区障碍物的智能检测及提醒系统
CN108898055A (zh) * 2018-05-24 2018-11-27 长安大学 一种检测信息融合的移动机器人障碍物检测方法
CN108924405A (zh) * 2018-06-11 2018-11-30 北京航空航天大学 基于距离的拍照聚焦修正和图像处理方法、设备
CN109269478A (zh) * 2018-10-24 2019-01-25 南京大学 一种基于双目视觉的集装箱码头场桥障碍物检测方法
CN109455177A (zh) * 2018-10-25 2019-03-12 广州小鹏汽车科技有限公司 一种自动泊车的安全距离警示方法及车载终端
CN109522847A (zh) * 2018-11-20 2019-03-26 中车株洲电力机车有限公司 一种基于深度图的轨道和道路障碍物检测方法
CN109870167A (zh) * 2018-12-25 2019-06-11 四川嘉垭汽车科技有限公司 基于视觉的无人驾驶汽车的同时定位与地图创建方法
CN110351494A (zh) * 2018-04-02 2019-10-18 杭州海康威视数字技术股份有限公司 一种全景视频合成方法、装置及电子设备
CN110503001A (zh) * 2019-07-25 2019-11-26 青岛小鸟看看科技有限公司 一种虚拟现实vr设备及其避障方法、装置
CN110799982A (zh) * 2017-06-06 2020-02-14 智加科技公司 用于自动驾驶车辆中的以物体为中心的立体视觉的方法和系统
CN110837775A (zh) * 2019-09-30 2020-02-25 合肥合工安驰智能科技有限公司 一种基于二值化网络的井下机车行人及距离检测方法
CN110874854A (zh) * 2020-01-19 2020-03-10 立得空间信息技术股份有限公司 一种基于小基线条件下的大畸变广角相机双目摄影测量方法
CN111152237A (zh) * 2020-01-22 2020-05-15 深圳国信泰富科技有限公司 一种两侧设置激光雷达的机器人头部及其环境采样方法
CN111284490A (zh) * 2018-12-06 2020-06-16 海信集团有限公司 车载双目相机检测前车溜车的方法及车载双目相机
CN111429336A (zh) * 2019-12-27 2020-07-17 上海庄生晓梦信息科技有限公司 鱼眼视频数据的处理方法和处理装置
CN111815726A (zh) * 2020-07-09 2020-10-23 深圳企业云科技股份有限公司 一种基于计算机视觉识别系统的椭圆角度编码解码方法
CN111867932A (zh) * 2018-02-07 2020-10-30 杭州零零科技有限公司 包含全向深度感测和避障空中系统的无人飞行器及其操作方法
CN112034423A (zh) * 2020-09-08 2020-12-04 湖南大学 基于led可见光通信的高精度移动车辆定位方法
CN112069980A (zh) * 2020-09-03 2020-12-11 三一专用汽车有限责任公司 障碍物识别方法、障碍物识别系统和存储介质
CN112179210A (zh) * 2020-08-31 2021-01-05 河北汉光重工有限责任公司 一种舰炮弹丸命中偏差的修正方法
CN112198675A (zh) * 2020-10-21 2021-01-08 福建利利普光电科技有限公司 一种动态点对点防眩光液晶眼镜及其防眩方法
CN112224132A (zh) * 2020-10-28 2021-01-15 武汉极目智能技术有限公司 一种车用全景环视障碍物预警方法
CN112270311A (zh) * 2020-11-25 2021-01-26 武汉理工大学 一种基于车载环视逆投影的近目标快速检测方法及系统
CN112285713A (zh) * 2019-07-25 2021-01-29 浙江吉利汽车研究院有限公司 一种行人识别方法、系统及汽车
CN112329552A (zh) * 2020-10-16 2021-02-05 爱驰汽车(上海)有限公司 基于汽车的障碍物检测方法及装置
CN112418040A (zh) * 2020-11-16 2021-02-26 南京邮电大学 一种基于双目视觉的障碍物占用消防通道的检测与识别方法
CN113111905A (zh) * 2021-02-25 2021-07-13 上海水齐机器人有限公司 一种融合多线激光雷达与超声波数据的障碍物检测方法
CN114445335A (zh) * 2021-12-22 2022-05-06 武汉易思达科技有限公司 基于双目机器视觉的车辆行驶状态监测方法及系统
CN117011964A (zh) * 2023-08-02 2023-11-07 广州市图威信息技术服务有限公司 门禁系统及门禁监控方法
US12039445B2 (en) 2017-06-06 2024-07-16 Plusai, Inc. Method and system for on-the-fly object labeling via cross modality validation in autonomous driving vehicles

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004072901A1 (en) * 2003-02-05 2004-08-26 Siemens Corporate Research Inc. Real-time obstacle detection with a calibrated camera and known ego-motion
CN101425181A (zh) * 2008-12-15 2009-05-06 浙江大学 一种全景视觉辅助泊车系统的标定方法
CN102298771A (zh) * 2011-08-16 2011-12-28 淮安盈科伟力科技有限公司 全景泊车辅助系统的鱼眼图像快速校正方法
CN102567989A (zh) * 2011-11-30 2012-07-11 重庆大学 基于双目立体视觉的空间定位方法
EP2704096A1 (de) * 2012-08-29 2014-03-05 Delphi Technologies, Inc. Verfahren zum kalibrieren einer Bilderfassungseinrichtung
CN104851076A (zh) * 2015-05-27 2015-08-19 武汉理工大学 用于商用车的全景环视泊车辅助系统及摄像头安装方法
CN104899567A (zh) * 2015-06-05 2015-09-09 重庆大学 基于稀疏表示的小弱运动目标跟踪方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004072901A1 (en) * 2003-02-05 2004-08-26 Siemens Corporate Research Inc. Real-time obstacle detection with a calibrated camera and known ego-motion
CN101425181A (zh) * 2008-12-15 2009-05-06 浙江大学 一种全景视觉辅助泊车系统的标定方法
CN102298771A (zh) * 2011-08-16 2011-12-28 淮安盈科伟力科技有限公司 全景泊车辅助系统的鱼眼图像快速校正方法
CN102567989A (zh) * 2011-11-30 2012-07-11 重庆大学 基于双目立体视觉的空间定位方法
EP2704096A1 (de) * 2012-08-29 2014-03-05 Delphi Technologies, Inc. Verfahren zum kalibrieren einer Bilderfassungseinrichtung
CN104851076A (zh) * 2015-05-27 2015-08-19 武汉理工大学 用于商用车的全景环视泊车辅助系统及摄像头安装方法
CN104899567A (zh) * 2015-06-05 2015-09-09 重庆大学 基于稀疏表示的小弱运动目标跟踪方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
孙炬辉: ""基于鱼眼相机的实时视频拼接技术研究"", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *
张春燕 等: "一种鱼眼镜头标定板的设计、检测与排序方法", 《计算机工程与应用》 *
徐宏: "基于双目视觉和稀疏表示的智能倒车控制研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *
杨国栋 等: "《汽车电子控制技术》", 31 January 2015, 成都:西南交通大学出版社 *
贾亮: ""基于矩阵稀疏的视频目标跟踪"", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *

Cited By (72)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106096559A (zh) * 2016-06-16 2016-11-09 深圳零度智能机器人科技有限公司 障碍物检测方法及系统以及运动物体
CN106382918A (zh) * 2016-08-31 2017-02-08 胡钊政 一种三维视觉传感器
CN107886544A (zh) * 2016-09-30 2018-04-06 法乐第(北京)网络科技有限公司 用于车辆标定的图像采集控制方法和装置
CN106646407A (zh) * 2016-12-15 2017-05-10 广州汽车集团股份有限公司 雷达标定设备校验方法、装置和系统
CN106646407B (zh) * 2016-12-15 2019-04-02 广州汽车集团股份有限公司 雷达标定设备校验方法、装置和系统
CN107030690A (zh) * 2016-12-22 2017-08-11 中国科学院沈阳自动化研究所 一种基于视觉的机械臂避障方法
CN106651808A (zh) * 2016-12-29 2017-05-10 北京爱奇艺科技有限公司 一种鱼眼图转换方法及装置
CN106651808B (zh) * 2016-12-29 2020-05-08 北京爱奇艺科技有限公司 一种鱼眼图转换方法及装置
CN106650708A (zh) * 2017-01-19 2017-05-10 南京航空航天大学 一种自动驾驶障碍物视觉检测方法与系统
CN106650708B (zh) * 2017-01-19 2023-08-11 南京航空航天大学 一种自动驾驶障碍物视觉检测方法与系统
CN106952219B (zh) * 2017-03-14 2020-11-06 成都通甲优博科技有限责任公司 一种基于外参数修正鱼眼像机的图像生成方法
CN106952219A (zh) * 2017-03-14 2017-07-14 成都通甲优博科技有限责任公司 一种基于外参数修正鱼眼像机的图像生成方法
CN106878687A (zh) * 2017-04-12 2017-06-20 吉林大学 一种基于多传感器的车载环境识别系统及全方位视觉模块
CN106991415A (zh) * 2017-06-05 2017-07-28 北京汽车集团有限公司 用于车载鱼眼相机的图像处理方法和装置
US11790551B2 (en) 2017-06-06 2023-10-17 Plusai, Inc. Method and system for object centric stereo in autonomous driving vehicles
US12039445B2 (en) 2017-06-06 2024-07-16 Plusai, Inc. Method and system for on-the-fly object labeling via cross modality validation in autonomous driving vehicles
US12093821B2 (en) 2017-06-06 2024-09-17 Plusai, Inc. Method and system for closed loop perception in autonomous driving vehicles
CN110799982A (zh) * 2017-06-06 2020-02-14 智加科技公司 用于自动驾驶车辆中的以物体为中心的立体视觉的方法和系统
CN107122770A (zh) * 2017-06-13 2017-09-01 驭势(上海)汽车科技有限公司 多目相机系统、智能驾驶系统、汽车、方法和存储介质
CN107122770B (zh) * 2017-06-13 2023-06-27 驭势(上海)汽车科技有限公司 多目相机系统、智能驾驶系统、汽车、方法和存储介质
CN107480646B (zh) * 2017-08-22 2020-09-25 北京工业大学 一种基于双目视觉的车载视频异常运动检测方法
CN107480646A (zh) * 2017-08-22 2017-12-15 北京工业大学 一种基于双目视觉的车载视频异常运动检测方法
CN107909012A (zh) * 2017-10-30 2018-04-13 北京中科慧眼科技有限公司 一种基于视差图的实时车辆跟踪检测方法与装置
CN107909012B (zh) * 2017-10-30 2022-03-18 北京中科慧眼科技有限公司 一种基于视差图的实时车辆跟踪检测方法与装置
CN107985200B (zh) * 2017-11-13 2020-11-13 西南交通大学 一种载重货车右转弯安全预警方法
CN107985200A (zh) * 2017-11-13 2018-05-04 西南交通大学 一种载重货车右转弯安全预警系统及方法
CN108053582B (zh) * 2017-11-28 2018-11-27 特斯联(北京)科技有限公司 一种应用于智慧商圈的人工智能购物设备及其系统
CN108053582A (zh) * 2017-11-28 2018-05-18 特斯联(北京)科技有限公司 一种应用于智慧商圈的人工智能购物设备及其系统
CN111867932A (zh) * 2018-02-07 2020-10-30 杭州零零科技有限公司 包含全向深度感测和避障空中系统的无人飞行器及其操作方法
CN108407720A (zh) * 2018-03-26 2018-08-17 宁夏大学 用于大型货车的安全距离报警及防护装置
CN110351494A (zh) * 2018-04-02 2019-10-18 杭州海康威视数字技术股份有限公司 一种全景视频合成方法、装置及电子设备
CN110351494B (zh) * 2018-04-02 2020-06-26 杭州海康威视数字技术股份有限公司 一种全景视频合成方法、装置及电子设备
CN108898055A (zh) * 2018-05-24 2018-11-27 长安大学 一种检测信息融合的移动机器人障碍物检测方法
CN108765496A (zh) * 2018-05-24 2018-11-06 河海大学常州校区 一种多视点汽车环视辅助驾驶系统及方法
CN108924405A (zh) * 2018-06-11 2018-11-30 北京航空航天大学 基于距离的拍照聚焦修正和图像处理方法、设备
CN108845327A (zh) * 2018-08-13 2018-11-20 河南城建学院 一种大货车视野盲区障碍物的智能检测及提醒系统
CN109269478A (zh) * 2018-10-24 2019-01-25 南京大学 一种基于双目视觉的集装箱码头场桥障碍物检测方法
CN109455177A (zh) * 2018-10-25 2019-03-12 广州小鹏汽车科技有限公司 一种自动泊车的安全距离警示方法及车载终端
CN109522847A (zh) * 2018-11-20 2019-03-26 中车株洲电力机车有限公司 一种基于深度图的轨道和道路障碍物检测方法
CN111284490A (zh) * 2018-12-06 2020-06-16 海信集团有限公司 车载双目相机检测前车溜车的方法及车载双目相机
CN111284490B (zh) * 2018-12-06 2021-06-04 海信集团有限公司 车载双目相机检测前车溜车的方法及车载双目相机
CN109870167A (zh) * 2018-12-25 2019-06-11 四川嘉垭汽车科技有限公司 基于视觉的无人驾驶汽车的同时定位与地图创建方法
CN110503001A (zh) * 2019-07-25 2019-11-26 青岛小鸟看看科技有限公司 一种虚拟现实vr设备及其避障方法、装置
CN112285713A (zh) * 2019-07-25 2021-01-29 浙江吉利汽车研究院有限公司 一种行人识别方法、系统及汽车
CN110837775A (zh) * 2019-09-30 2020-02-25 合肥合工安驰智能科技有限公司 一种基于二值化网络的井下机车行人及距离检测方法
CN111429336A (zh) * 2019-12-27 2020-07-17 上海庄生晓梦信息科技有限公司 鱼眼视频数据的处理方法和处理装置
CN111429336B (zh) * 2019-12-27 2023-09-08 上海庄生晓梦信息科技有限公司 鱼眼视频数据的处理方法和处理装置
CN110874854A (zh) * 2020-01-19 2020-03-10 立得空间信息技术股份有限公司 一种基于小基线条件下的大畸变广角相机双目摄影测量方法
CN111152237A (zh) * 2020-01-22 2020-05-15 深圳国信泰富科技有限公司 一种两侧设置激光雷达的机器人头部及其环境采样方法
CN111152237B (zh) * 2020-01-22 2023-12-22 深圳国信泰富科技有限公司 一种两侧设置激光雷达的机器人头部及其环境采样方法
CN111815726A (zh) * 2020-07-09 2020-10-23 深圳企业云科技股份有限公司 一种基于计算机视觉识别系统的椭圆角度编码解码方法
CN111815726B (zh) * 2020-07-09 2021-08-10 深圳企业云科技股份有限公司 一种基于计算机视觉识别系统的椭圆角度编码解码方法
CN112179210A (zh) * 2020-08-31 2021-01-05 河北汉光重工有限责任公司 一种舰炮弹丸命中偏差的修正方法
CN112179210B (zh) * 2020-08-31 2022-09-02 河北汉光重工有限责任公司 一种舰炮弹丸命中偏差的修正方法
CN112069980A (zh) * 2020-09-03 2020-12-11 三一专用汽车有限责任公司 障碍物识别方法、障碍物识别系统和存储介质
CN112034423A (zh) * 2020-09-08 2020-12-04 湖南大学 基于led可见光通信的高精度移动车辆定位方法
CN112034423B (zh) * 2020-09-08 2023-12-26 湖南大学 基于led可见光通信的高精度移动车辆定位方法
CN112329552B (zh) * 2020-10-16 2023-07-14 爱驰汽车(上海)有限公司 基于汽车的障碍物检测方法及装置
CN112329552A (zh) * 2020-10-16 2021-02-05 爱驰汽车(上海)有限公司 基于汽车的障碍物检测方法及装置
CN112198675A (zh) * 2020-10-21 2021-01-08 福建利利普光电科技有限公司 一种动态点对点防眩光液晶眼镜及其防眩方法
CN112224132B (zh) * 2020-10-28 2022-04-19 武汉极目智能技术有限公司 一种车用全景环视障碍物预警方法
CN112224132A (zh) * 2020-10-28 2021-01-15 武汉极目智能技术有限公司 一种车用全景环视障碍物预警方法
CN112418040B (zh) * 2020-11-16 2022-08-26 南京邮电大学 一种基于双目视觉的障碍物占用消防通道的检测与识别方法
CN112418040A (zh) * 2020-11-16 2021-02-26 南京邮电大学 一种基于双目视觉的障碍物占用消防通道的检测与识别方法
CN112270311A (zh) * 2020-11-25 2021-01-26 武汉理工大学 一种基于车载环视逆投影的近目标快速检测方法及系统
CN112270311B (zh) * 2020-11-25 2023-12-19 武汉理工大学 一种基于车载环视逆投影的近目标快速检测方法及系统
CN113111905B (zh) * 2021-02-25 2022-12-16 上海水齐机器人有限公司 一种融合多线激光雷达与超声波数据的障碍物检测方法
CN113111905A (zh) * 2021-02-25 2021-07-13 上海水齐机器人有限公司 一种融合多线激光雷达与超声波数据的障碍物检测方法
CN114445335B (zh) * 2021-12-22 2024-04-12 武汉易思达科技有限公司 基于双目机器视觉的车辆行驶状态监测方法
CN114445335A (zh) * 2021-12-22 2022-05-06 武汉易思达科技有限公司 基于双目机器视觉的车辆行驶状态监测方法及系统
CN117011964A (zh) * 2023-08-02 2023-11-07 广州市图威信息技术服务有限公司 门禁系统及门禁监控方法
CN117011964B (zh) * 2023-08-02 2024-02-13 广州市图威信息技术服务有限公司 门禁系统及门禁监控方法

Similar Documents

Publication Publication Date Title
CN105678787A (zh) 一种基于双目鱼眼摄像头的载重货车行驶障碍物检测及跟踪方法
JP7124114B2 (ja) トレーラ牽引カプラの中心を求める装置および方法
US20210365750A1 (en) Systems and methods for estimating future paths
CN107738612B (zh) 基于全景视觉辅助系统的自动泊车停车位检测与识别系统
CN103600707B (zh) 一种智能泊车系统的泊车位检测装置及方法
CN108638999B (zh) 一种基于360度环视输入的防碰撞预警系统及方法
US11315348B2 (en) Vehicular vision system with object detection
US11620837B2 (en) Systems and methods for augmenting upright object detection
CN103237685B (zh) 盲区显示装置及方法
CN103630122B (zh) 一种单目视觉车道线检测方法及其测距方法
US20110169957A1 (en) Vehicle Image Processing Method
CN108944668B (zh) 一种基于车载360度环视输入的辅助驾驶预警方法
JP2002197470A (ja) 車線検出装置
US10108866B2 (en) Method and system for robust curb and bump detection from front or rear monocular cameras
US11403767B2 (en) Method and apparatus for detecting a trailer, tow-ball, and coupler for trailer hitch assistance and jackknife prevention
CN104057882A (zh) 基于双摄像机的前方路缘观察系统
CN107284455B (zh) 一种基于图像处理的adas系统
Shunsuke et al. GNSS/INS/on-board camera integration for vehicle self-localization in urban canyon
EP3364336B1 (en) A method and apparatus for estimating a range of a moving object
CN103204104B (zh) 一种车辆全视角驾驶监控系统及方法
Bao et al. Vehicle distance detection based on monocular vision
CN110780287A (zh) 基于单目相机的测距方法及测距系统
CN114495066A (zh) 一种辅助倒车的方法
Ho et al. Localization on freeways using the horizon line signature
CN113655486B (zh) 基于单后视相机及多雷达的自动泊车方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20160615

WD01 Invention patent application deemed withdrawn after publication