CN103731652A - 移动面分界线认知装置和方法、以及移动体设备控制系统 - Google Patents

移动面分界线认知装置和方法、以及移动体设备控制系统 Download PDF

Info

Publication number
CN103731652A
CN103731652A CN201310482453.8A CN201310482453A CN103731652A CN 103731652 A CN103731652 A CN 103731652A CN 201310482453 A CN201310482453 A CN 201310482453A CN 103731652 A CN103731652 A CN 103731652A
Authority
CN
China
Prior art keywords
line
image
demarcation
road surface
cognitive
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201310482453.8A
Other languages
English (en)
Other versions
CN103731652B (zh
Inventor
关海克
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of CN103731652A publication Critical patent/CN103731652A/zh
Application granted granted Critical
Publication of CN103731652B publication Critical patent/CN103731652B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/457Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by analysing connectivity, e.g. edge linking, connected component analysis or slices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Navigation (AREA)
  • Studio Devices (AREA)

Abstract

本发明涉及移动面分界线认知装置和方法以及移动体设备控制系统,其目的在于减小认知分界线图像部分与实际分界线图像部分之间的差异,改善认知精度。本发明用区域分割线设定部(206)设定图像画面上相当于离车辆位置一定距离的水平假想线为区域分割线,将立体摄像装置拍摄的辉度图像划分为离车辆较近的第一路面白线候补区域和离车辆较远的第二路面白线候补区域,用路面白线直线部分认知部(207)对第一路面白线候补区域中的辉度图像上的辉度边缘作直线近似,认知路面白线图像部分中的直线部分,并用路面白线曲线部分认知部(208)对第二路面白线候补区域中的路面白线图像部分作曲线近似,认知路面白线图像部分中的曲线部分。

Description

移动面分界线认知装置和方法、以及移动体设备控制系统
技术领域
本发明涉及移动面分界线认知装置和使用该认知装置的移动体设备控制系统以及移动面分界线认知方法,该移动面分界线认知装置基于摄像装置拍摄的移动体前方的摄像图像,认知移动体的移动表面上的分界线。
背景技术
现有的对像物认知装置根据车辆(移动体)搭载的摄像装置拍摄的该车辆前方的图像来认知图像中的对象物,目前常用的对像物认知装置如用于减轻驾驶员驾驶负担的ACC(Adaptive Cruise Control,自适应巡航控制系统)等驾驶助理系统等。该驾驶助理系统具有帮助车辆避开与障碍物等发生冲突或减轻冲突时产生的冲击力的自动刹车功能或报警功能。此外,该系统还具有其它功能,如保持与前方车辆之间距离的自我车速调节功能、以及认知道路上规划车道的车道分界线(白线)以防止越过车道分界线而脱离正在行驶的车道等功能。
专利文献1(JP特许第3352655号公报)公开了一种认知车道分界线的车道分界线认知装置。该车道分界线认知装置用立体摄像装置拍摄搭载该立体摄像装置的车辆前方的景色(以下将“搭载(立体摄像装置的车辆”简称为“车辆”,而将除此之外的其他车辆简称为“其他车辆”),而后将相当于所拍摄的一幅画面的图像分割成多个区域(图像区域)。用图像画面上的水平假想线分割各区域,该水平假想线相当于区域分割线,区域分割线与车辆位置相距一定距离,根据立体图像计算所得到的距离信息来设定。而后,根据各区域内的辉度图像,抽出相当于白色车道分界线端部的辉度边缘,并对抽出的辉度边缘进行直线近似,从而认知车道分界线图像部分(白线图像部分)。
然而,上述专利文献1的车道分界线认知装置需要从拍摄路面白线得到的图像中的各区域内抽取辉度边缘,并对辉度边缘进行直线近似,才能认知路面上的白线图像部。为此,在认知曲线形状的路面白线时,需要按顺序连接认知到的各区域内经过直线近似的近似值线,其结果,只能认知到呈折线形状的路面白线图像部分。而该折线形路面白线图像部分与实际的曲线形路面白线图像部分之间存在很大差别,因而造成车道分界线认知精度下降,难以被驾驶助理系统采用。
发明内容
本发明是鉴于上述问题而提出的技术方案,其目的在于提供一种能够减小认知分界线图像部分与实际分界线图像部分之间的差异且改善移动表面上分界线认知精度的移动面分界线认知装置、使用该认知装置的移动体设备控制系统、以及移动面分界线认知方法。
为了达到上述目的,本发明提供一种移动面分界线认知装置,该移动面分界线认知装置用于根据在移动表面上移动的移动体前方的图像,认知该移动表面上的分界线,所述移动体前方的图像由该移动体搭载的摄像装置拍摄,该移动面分界线认知装置的特征在于,具备以下各部:区域分割线设定部,用于设定区域分割线,该区域分割线将所述移动体前方的图像划分为第一图像区域和第二图像区域,该第一图像区域为该图像中与所述移动体相距较近的所述移动表面部分的图像区域,该第二图像区域为该图像中与所述移动体相距较远的所述移动表面部分的图像区域;分界线直线部分认知部,用于对所述第一图像区域中的分界线图像部分进行直线近似,用以认知该分界线图像部分中的直线部分;以及,分界线曲线部分认知部,用于对第二图像区域中的所述分界线图像部分进行曲线近似,用以认知分界线图像部分中的曲线部分。
本发明效果在于,减小认知的分界线图像部分与实际的分界线图像部分之间的差异,改善移动表面上的分界线认知精度。
附图说明
图1是车载设备控制系统的结构模块图。
图2是构成上述车载设备控制系统的摄像单元和图像解析单元的结构模块图。
图3是在垂直于光透射方向的方向上所观察到的上述摄像单元的摄像部中的图像传感器的模式性示意图。
图4是实施例1的路面白线认知装置的结构模块图。
图5是实施例1的路面白线直线部分候补区域表的示意图。
图6是实施例1的路面白线认知装置的动作流程图。
图7是立体照相机拍摄的车辆前方的立体图像,其中图7A是位于左侧的摄像透镜和图像传感器拍摄的立体图像,图7B是位于右侧的摄像透镜和图像传感器拍摄的立体图像。
图8是用于说明测据运算原理的示意图。
图9A和图9B是用于说明辉度图像上的直线近似以及曲线近似的示意图。
图10是用于说明依次实行曲线近似的示意图。
图11是认知结果的示意图。
图12是路面白线直线部分候补区域表的制作流程图。
图13是边缘抽取处理结果的示意图。
图14是一例辉度图像上的路面白线直线部分的示意图。
图15是实施例2的路面白线认知装置的结构模块图。
图16A~图16D是实施例2中路面白线直线部分候补区域表的示意图。
图17是实施例2的路面白线设置装置的动作流程图。
图18是一例道路类型信息输出装置的模块图。
图19是立体照相机的硬件结构模块图。
具体实施方式
以下说明本发明的实施方式涉及的移动面分界线认知装置,该移动面分界线认知装置作为路面白线认知装置,被用于作为移动体设备控制系统的车载设备控制系统中。但是,本发明的移动面分界线认知装置不仅适用于移动体设备控制系统,而且还适用于如搭载基于摄像图像检测物体的物体检测装置等其他系统。
图1是车载设备控制系统的结构模块图。图1所示的车辆100搭载的车载设备控制系统中设有摄像单元101,该摄像单元101用于拍摄正在行驶的车辆100的行进方向上的前方区域。该摄像单元101可以设置在如车辆100前窗103的后视镜(未图示)附近。摄像单元101拍摄的摄像图像的数据等各种数据被输入作为图像处理装置的图像解析单元102。图像解析单元102对摄像单元发送的数据进行解析,计算车辆100前方存在的其他车辆的位置、角度、距离,检测位于摄像区域内的路面上的白线等车道分界线等。对于其他车辆的检测,根据视差图像将路面上的对象物作为车辆来检测。
图像解析单元102的计算结果还被送往作为移动体设备控制装置的车辆行驶控制单元104。车辆行驶控制单元104根据图像解析单元103检测到的步行者或行走车辆等认知对象的检测结果实行驾驶辅助控制,如在遇到车辆100有可能与障碍物发生冲突时向该车辆100的驾驶员发出警告,或控制该车辆的方向盘或刹车等。
图2是摄像单元101和图像解析单元102的结构模块图。摄像单元101为立体照相机,其中具备第一摄像部110A和第二摄像部110B,第一摄像部110A和第二摄像部110B结构相同,分别具备:第一摄像透镜111A和第二摄像透镜111B;第一图像传感器112A和第二图像传感器112B,其中的摄像元件均呈二维设置;第一传感器基板113A和第二传感器基板113B,其上分别安装第一图像传感器112A和第二图像传感器112B;以及,第一信号处理部114A和第二信号处理部114B,分别将第一传感器基板113A和第二传感器基板113B输出的模拟电信号(第一图像传感器112A和第二图像传感器112B上的受光元件的受光量)转换为数字电信号以生成并输出摄像图像数据。辉度图像数据由摄像单元101输出。
摄像单元101具备以FPGA(Field-Programmable Gate Array,现场可编程逻辑门阵列)等构成的处理硬件部120。该处理硬件部120具有视差运算部121,该视差运算部121计算第一摄像部110A和第二摄像部110B各自拍摄的摄像图像之间互相对应的图像部分的视差值,根据第一摄像部110A和第二摄像部110B输出的辉度图像数据得到视差图像。在此,视差值是指以第一摄像部110A和第二摄像部110B各自拍摄的摄像图像双方中的一方为基准图像,并以另一方为比较图像,针对摄像区域内的同一地点,计算对应该地点的比较图像上的图像部分和基准图像上的图像部分之间的差值。利用三角测量原理,可以根据该视差值来计算摄像元件101与该图像部分所对应的摄像区域内同一地点之间的距离。
另一方面,图像解析单元102具备存储器130和微处理单元(MicroProcessing Unit,MPU)140,该存储器130用于保存摄像单元101输出的辉度图像数据和视差图像数据,该MPU140内藏用于实行认知对象的认知处理或视差计算控制等的软件。MPU140用保存在存储器130中的辉度图像数据和视差图像数据,实行本实施方式涉及的路面白线的认知处理。
图3是在与光透射方向相垂直的方向上观察到的第一图像传感器112A和第二图像传感器112B的放大模式图。第一图像传感器112A和第二图像传感器112B采用CCD(Charge Couple Device,电荷耦合器件)或CMOS(ComplementaryMetal Oxide Semiconductor,互补金属氧化物半导体)等的图像传感器,其中的摄像元件(受光元件)使用光电二极管112a。光电二极管112a按照每个像素呈二元阵列布置,而且,为了提高光电二极管112a的聚光效率,在各光电二极管112a的入射一方设有微型透镜112b。用丝焊将第一图像传感器112A和第二图像传感器112B焊在印刷电路板(Printed Wiring Board,PWB)上形成第一传感器基板113A和第二传感器基板113B。
其次说明本发明的特征部分,即以路面白线认知装置为移动面分界线认知装置,针对该白线认知装置进行说明。
《实施例1》
以下说明一例上述实施方式的路面白线认知装置。图4是实施例1的路面白线认知装置的结构模块图。图4所示的实施例1的路面白线认知装置的功能通过图2所示的处理硬件部120和图像解析单元102得以实现。如图所示,实施例1的路面白线认知装置200具备立体图像输入部201、辉度图像输入部202、视差图像计算部203、认知候补区域设定部204、路面白线直线部候补区域存储部205、区域分割线设定部206、路面白线直线部分认知部207、路面白线曲线部认知部208、路面白线合成处理部209、以及路面白线认知结果输出部210。立体照相机(未图示)具备设有图2所示的摄像透镜和图像传感器的第一摄像部110A和第二摄像部110B,该立体照相机将立体图像输入立体图像输入部201。立体图像输入部201将根据立体图像的左图像或右图像得到的辉度图像输入辉度图像输入部202。该辉度图像或立体图像被保存到立体照相机的存储器中。视差图像计算部203作为视差计算部,相当于图2所示的处理硬件部120中的视差运算部121,该视差图像计算部203用输入到立体图像输入部201中的立体图像,计算被摄体在左右图像中的成像位置之差即视差值。
如上所述,认知候补区域设定部204在具有用上述视差图像计算部203计算的视差值的图像数据制作的视差图像上,用规定的视差阀值,在画面上设定相当于与车辆位置相距规定距离的水平假想线,该水平假想线被作为区域分割线,将图像分割成两个认知候补区域。路面白线直线部分候补区域存储部205作为存储部,如图5所示地将上述规定的视差阀值ΔTH、用于决定辉度画面上左侧路面白线的路面白线直线部候补区域的点A、点B、点C、点D的顶点坐标、以及用于决定辉度画面上右侧路面白线的路面白线直线部候补区域的点E、点F、点G、点H的顶点坐标记录到存储表中。区域分割线设定部206用保存在路面白线直线部分候补区域存储部205中的视差阀值ΔTH,在视差图像上设定上述区域分割线。路面白线直线部分认知部207在认知候补区域设定部204设定的与车辆相距较近的认知候补区域内的辉度图像上,对路面白线图像部分中的直线部分进行认知。路面白线曲线部认知部208作为路面白线曲线部分的认知部,在与车辆相距较远的认知候补区域内的辉度图像上,对路面白线图像部分中的曲线部分进行认知。路面白线合成处理部209将路面白线图像部中,由路面白线直线部分认知部207认知的直线部分和由路面白线曲线部分认知部208认知的曲线部分连接起来进行合成处理,制作路面白线认知结果。路面白线认知结果输出部210用于输出路面白线认知结果。
以下针对实施例1的路面白线认知装置,用图6所示的流程图说明该装置的动作。图7是图2所示的立体照相机拍摄的车辆前方的立体图像,其中图7A是图2中第一摄像部110A拍摄的左方图像,图7B是图2的第二摄像部110B拍摄的右方图像。首先,将拍摄的车辆前方的立体图像输入图4的立体图像输入部201(S101)。具体例如通过车辆搭载的立体照相机输入图7A和图7B所示的立体图像。而后,通过图4所示的辉度图像输入部202输入立体图像中从图7A的左方图像和图7B的右方图像中的任意一方拍摄图像取得的辉度图像(步骤S102)。立体照相机的存储器中保存被输入的立体图像或辉度图像。视差图像计算部203用立体图像输入部201中的立体图像,计算计算对象的图像的左方图像与右方图像之间的成像位置之差即视差(S103)。具体针对位于左右双方的摄像透镜成像的立体图像中的相同部分,用模块配对法求出将视差值作为像素值的视差图像。所谓模块配对法是指将左右双方的图像分割成块,在左方图像和右方图像的块类似度达到最大时,根据块的模块配对部分来求出视差值。例如,用大小为5×5的块分割像素1280×960的图像,并求出分割后每块的视差值。可以通过实验来获得最佳分割大小。关于视差值的计算方法,如图8所示,利用三角测量原理,求出被摄体上某一点0点的左右图像中的成像位置与成像中心的距离Δ1、Δ2,根据Δ=Δ1+Δ2,计算视差值Δ。据此,算出每个像素的视差值,将该视差值作为像素,便能够制作视差图像。
而后,区域分割线设定部206从路面白线直线部分候补区域存储部205读取视差阀值ΔTH,并检测视差图像上视差值为视差阀值ΔTH以上的像素。进而,连接视差值在视差阀值ΔTH以上的像素中位于视差图像上端部的多个像素,形成假想水平线,设该水平假想线为区域分割线。认知候补区域设定部204以上述区域分割线为界线,将图9所示的辉度图像上整个图像区域一分为二,辉度图像中区域分割线以下的部分为第一路面白线候补区域401,区域分割线以上的部分为第二路面白线候补区域402,进而,根据保存于路面白线直线部分候补区域存储部205中用于决定辉度图像上的左侧路面白线的直线部分候补区域的点A及点B的顶点坐标、用于决定辉度图像上右侧路面白线的直线部分候补区域的点E及点F的顶点坐标、以及上述设定的区域分割线,求出辉度图像上的点A和点B以及点E和点F的坐标。同样,根据保存在路面白线直线部分候补区域存储部205中用于决定辉度图像上的左侧路面白线的直线部候补区域的点C及点D的顶点坐标、以及用于决定辉度图像上右侧路面白线的直线部候补区域的点G及点H的顶点坐标,求出辉度图像上的点C和点D以及点G和点H的坐标。如图9A所示,设定用求出的点A、点B、点C、点D围绕的图像区域为第一路面白线直线部分候补区域403,点E、点F、点G、点H围绕的图像区域为第二路面白线直线部候补区域404(S104)。而后进行第一路面白线直线部分候补区域403和第二路面白线直线部分候补区域404的图像的二值化处理,求出辉度边缘。对辉度边缘实行Hough转换处理的直线近似,从而认知左侧路面白线的第一路面白线直线部分405和右侧路面白线的第二路面白线直线部分406(S105)。
而后,如图9A所示,图4的路面白线曲线认知部208在辉度图像上位于以路面白线直线部分认知部207认知的第一路面白线直线部分405的延长线即第一延长线407、以及第二路面白线直线部分406的延长线即第二延长线408的附近,实行辉度边缘的抽取处理。并对抽取的辉度边缘,用多项式近似来实行曲线近似处理(S106)。该多显示近似能够随着曲线数据的变动而增加多项式的次方数,是一种是用于复杂曲线的近似方法。在此利用图9B详细说明针对路面白线曲线部分的认知。如图9B所示,设定连接第一路面白线直线部分405的延长线与区域分割线的交点为点H1,从该点H1延伸规定距离得到的探索点为点H2,连接点H1和点H2得到假想的第一延长线407。同时设定第二路面白线直线部分406的延长线与区域分割线的交点为点H3,从该点H3延伸规定距离得到的探索点为点H4,连接点H3和点H4得到假想的第二延长线408。进而,设定探索角度θ0以点H1为顶点、假想的第一延长线407旋转一规定角度,探索角度θ0以点H3为顶点、假想的第二延长线408旋转一规定角度。图9中以点线包围的部分表示根据这些规定的探索点和规定的探索角度所设定的、以点H1为起点的第一探索范围409和以点H3为起点的第二探索范围410。在第一探索范围409和第二探索范围410中,探索以多项式近似的曲线的候补像素,连接各候补像素,便能够认知第一路面白线曲线部分411和第二路面白线曲线部分412。
在下一个路面白线曲线部分的认知中,寻找第一路面白线曲线部411和第二路面白线曲线部412分别与第一探索范围409的边界线和第二探索范围410的范围界线的交点即点H5和点H6。如图10所示,设定从点H5和H6出发并以规定的探索角度θ1构成的第三探索范围413和第四探索范围414。用多项式近似对该探索范围内的辉度边缘进行曲线近似,寻找路面白线曲线部的候补像素。而后,将找到的各候补像素连接起来,便可以认知各自的路面白线曲线部。如此,将与经过认知的路面白线曲线部的探索范围相交的交点为起点,并设定探索角度,依次设定探索范围,进而在该探索范围以内进行曲线近似,从而认知图9所示的第二路面白线候补区域402中的路面白线曲线部分。曲线近似采用以直线部或曲线部的终点为起点的探索角度来设定探索范围并在该探索范围内进行边缘抽取的方法。除此之外的曲线近似方法还有,以直线部或曲线部的终点为起点,在至少包含该终点的矩形探索范围内进行边缘抽取,进而反复以该矩形的各个顶点为起点进行上述曲线探索。而后,图4的路面白线合成处理部209将经过认知的路面白线直线部和路面白线曲线部连接起来合成路面白线(S107)。而后,图4的路面白线认知结果输出部210输出图11所示的第一路面白线501和第二路面白线502的认知结果(S108)。
在认知路面白线曲线部时,如果探索范围中存在杂音点或多条曲线,会有损于路面白线曲线部的抽取精度。如果使用孤立杂音点,则多项式近似中近似式的误差将会有所增加。为此,需要找到孤立点并删除该孤立点。
在此,用图9说明平均视差值以及第一路面白线直线部分候补区域403以及第二路面白线部候补区域404的学习方法。根据事先输入的包含路面白线的辉度图像中的白线直线部分,求出第一路面白线直线部405的端点即点H1和第二路面白线直线部406的端点即点H3之间的视差值的平均。将该视差值的平均作为视差阀值,保存到图5所示的路面白线直线部分候补区域表中。第一路面白线直线部分候补区域403以及第二路面白线部分候补区域404也从事先输入的包含白线直线的图像输入白线直线部分,在图5所示的路面白线直线部分候补区域表中保存被输入的直线坐标的平均值在第一路面白线直线部分候补区域403和第二路面白线直线部分候补区域404中的顶点坐标。在此,如果ΔTH的位置高度与连接点A和点B的直线位置以及连接点E和点F的直线位置高低不同,则采用位置较低的视差值作为视差阀值。
以下用显示路面白线直线部分候补区域表制作过程的图12,来说明图5所示的路面白线直线候补区域表的制作方法。
首先,输入拍到的学习用路面白线图像的立体图像(S301)。而后,从左右任意一方的图像中的辉度图像中抽取辉度边缘(S302)。对抽取的辉度边缘进行直线近似(S303)。而后求出近似直线上端的平均的视差值(S304)。将该平均的视差值作为视差阀值。而后设定左侧路面白线的路面白线直线部分候补区域以及右侧路面白线的路面白线直线部分候补区域(S305、S306)。用下述路面白线直线部分候补区域的设定方法,来设定辉度图像上用于决定左侧路面白线的路面白线直线部分候补区域的点A、点B、点C、点D的顶点坐标、以及用于决定右侧路面白线的路面白线直线部分候补区域的点E、点F、点G、点H的顶点坐标,从而制作用于保存这些顶点坐标以及视差阀值的路面白线直线部分候补区域表(S307)。
以下说明路面白线直线部分候补区域的设定方法。在此用检测轮廓的索贝尔(Sobel)过滤处理作为边缘抽取过滤处理。图13是边缘抽取处理结果的示意图。图13中的实线表示左侧路面白线的直线候补线,虚线表示左侧路面白线的近似直线。在样品图像的辉度图像上,根据抽取的辉度边缘,对左侧路面白线的直线部分进行直线近似。在此采用Hough转换作为一种直线近似方法,进行直线近似。沿着水平方向,对抽取的用虚线表示的左侧路面白线的直线部、与连接候补点用实线表示的直线候补线之间的距离实行均方根误差(Root Mean Square Error,RMSE)计算。而后,如果计算结果为任意设定的阀值TH以下,则设以虚线表示的直线部分为该学习样品的路面左侧的路线白线的直线部分。
用下式(1)进行RMSE计算。
RMSE = 1 n Σ i = 1 n ( xi - xli ) 2 - - - ( 1 )
Xi为用实线表示的直线候补上高度y的x坐标值,xli为近似直线上高度y的x坐标值。改变高度y,并改变以实线表示的直线候补线AC的长度,用上述式(1)进行计算。而后,如果满足下式(2),则设直线CB为近似直线。
RMSE≤TH   (2)
将直线CB作为该学习样品的左侧路面白线的直线部。用同样方法抽取右侧路面白线的直线部。阀值TH为设定的参数,例如设定为七个像素大小。通过调整阀值可以调整直线部的长度。如果阀值TH设定得较小,则直线长度变短。而如果阀值TH设定得较大,则直线长度变长。图14是用多个学习样品中的路面白线图像样品计算得到的左侧直线部分的结果的示意图。根据的各学习样品的直线与直线候补的RMSE满足上述式(2)条件抽取的直线部分。如图13所示,决定抽取的直线部两端的点A和点C的坐标。设定视差图像上与点A对应的视差值为Δi。对路面白线的n个图像样品(n为整数)进行上述处理,从右侧的路面白线候补中分别抽取直线部,而后用下式(3)求出抽取得到的左右双方的学习样品中路面白线图像样品的白线直线部各条直线中较高的顶点坐标、视差值Δi的平均的视差值Δ。
Δ = 1 n Σ i = 1 n Δi - - - ( 3 )
而后在平均的视差值Δ的部位上拉引水平假想线。该水平假想线与用各学习样品中的路面白线图像计算得到的直线部候补中位于最左方的直线相交,得到交点即点A(xhmin,yh),并获得最右方的直线的较高顶点即点B(Xhmax,yh)。并以各条直线下方顶点即与画面框线相交的交点为点C和点D。如此求出的点A、点B、点C、点D的坐标值作为决定左侧路面白线的路面白线直线部分候补区域的点A、点B、点C、点D的顶点坐标,保存到图5所示的路面白线直线部分候补表中。同样,将求出的点E、点F、点G、点H的坐标值作为决定右侧路面白线的路面白线直线部分候补区域的点E、点F、点G、点H的顶点坐标,保存到图5所示的路面白线直线部分候补表中。
<实施例2>
以下将另一例路面白线认知装置作为实施形态的实施例2,对该实施例2进行说明。图15是路面白线认知装置的结构模块图。该图所示的实施例2的路面白线认知装置200与图4所示的实施例1的路面白线认知装置之间,在结构上的不同之处为,前者具备道路类型信息输入部211,并具有与后者的路面白线直线部分候补区域存储部205不同的路面白线直线部分候补区域存储部212。实施例2的路面白线认知装置200能够根据道路类型,如高速公路、城镇街道、山路、急转弯道路等,来实行适宜的近似处理,正确认知移动表面上的路面白线。用户可以通过手动操作输入或通过基于外部信息的道路类型输出装置将道路类型信息输入道路类型信息输入部211。路面白线直线部分候补区域存储部212如图16A~图16D所示,其中为每一种类型的道路保存了路面白线直线部分候补区域表,该表中包括用于决定左侧路面白线的路面白线直线部分候补区域的点A、点B、点C、点D的顶点坐标、用于决定辉度图像上右侧路面白线的路面白线直线部分候补区域的点E、点F、点G、点H的顶点坐标、以及用于具定区域分割线位置的视差阀值。
以下用图17说明实施例2的路面白线设置装置的动作流程。
图15的立体图像输入部201中输入由车载照相机拍摄的车辆前方的立体图像(S301)。该立体图像是同一被摄体在照相机中位于左右的上述图像传感器中不同成像位置上成像的图像。辉度图像输入部202用于输入从左右双方中任意一方的摄像图像中取得的辉度图像(S302)。输入的立体图像或辉度图像被保存在立体照相机的存储器中。而后,视差图像计算部203用立体图像输入部201输入的立体图像,计算计算对象的左右双方图像之间成像位置的差即视差(S303)。而后,取得道路类型信息输入部211输入的的道路类型信息(S304)。根据取得的道路类型,选择路面白线直线部分候补区域存储部205中保存的图16A~图16D所示的各种路面白线认知候补区域表。读取选定的路面白线认知候补区域表中存放的数据,即用于决定左侧路面白线的路面白线直线部分候补区域的点A、点B、点C、点D的顶点坐标、用于决定右侧路面白线的路面白线直线部分候补区域的点E、点F、点G、点H的顶点坐标、以及决定分界线位置的视差阀值。
而后,分界线设定部206检测视差图像上视差值在视差阀值ΔTH以上的像素。用假想水平线连接视差值在视差阀值ΔTH以上的像素中位于视差图像上端部的多个像素,设定该假想水平线为分界线。而后,认知候补区域设定部204用该分界线将上述辉度图像的整个图像区域一分为二,如图9所示,设定辉度图像中分界线以下的部分为第一路面白线候补区域401,分界线以上的部分为第二路面白线候补区域402(S305)。进而,根据保存于路面白线直线部分候补区域存储部205中用于决定辉度图像上的左侧路面白线的直线部候补区域的点A及点B的顶点坐标、用于决定辉度图像上右侧路面白线的直线部候补区域的点E及点F的顶点坐标、以及上述设定的区域分割线,求出辉度图像上的点A和点B以及点E和点F的坐标。同样,根据保存于路面白线直线部分候补区域存储部205中用于决定辉度图像上的左侧路面白线的直线部候补区域的点C及点D的顶点坐标、以及用于决定辉度图像上右侧路面白线的直线部候补区域的点G及点H的顶点坐标,求出辉度图像上的点C和点D以及点G和点H的坐标。如图9A所示,设定用求出的点A、点B、点C、点D围绕的图像区域为第一路面白线直线部分候补区域403,点E、点F、点G、点H围绕的图像区域为第二路面白线直线部分候补区域404(S305)。而后进行第一路面白线直线部分候补区域403和第二路面白线直线候补区域404的图像的二值化处理,求出辉度边缘。对辉度边缘实行Hough转换处理的直线近似,从而认知左侧路面白线的第一路面白线直线部分405和右侧路面白线的第二路面白线直线部分406(S306)。而后,如图9A所示,路面白线曲线部分认知部208在辉度图像上位于以路面白线直线部分认知部207认知的路面白线直线部分的延长线即第一延长线407以及第二延长线408的附近,实行辉度边缘的抽取处理。并对抽取结果,以多项式近似实行曲线近似处理(S307)。而后,路面白线认知结果输出部210输出图11所示的第一路面白线501和第二路面白线502的认知结果(S309)。如上所述,实施例2能够根据行驶的道路实行适合于该道路的近似处理,有助于移动面上白线图像部分的正确认知。
关于图16A~图16D所示的高速公路、城镇街道、山道、急转弯等不同类型道路的的路面白线直线部分候补区域表的制作,其制作过程与图12所示相同。拍摄各种道路的学习用路面白线图像,用各样品图像制作各种道路的路面白线直线部分候补区域表。此外,即便同样是高速公路,也有直线部分较多的高速公路和曲线部分角度的高速公路。为此,用于高速公路的路面白线直线部分候补区域表可以有多种类型。
图18是一例道路类型信息输出装置的模块图。如图所示,道路类型信息输出装置600具备导航数据输入部601、GPS数据输入部602、道路类型识别部603、以及道路类型信息输出部604。其中,导航数据输入部601将导航仪输出的车辆位置数据送往道路类型识别部603,该导航仪具备存储媒体、加速度传感器、陀螺传感器、车速检测装置、驾驶盘角度检测传感器、以及主控制器,其中的DC-ROM或HDD等存储媒体中存放地图数据,加速度传感器检测转弯行驶之际的弯曲曲率半径。陀螺传感器用于检测车辆的上下移动,车速检测装置用于检测车速,该车速基于车轮转动信号,方向盘角度检测传感器用于检测转弯的曲率半径。导航数据输入部601根据曲率半径、上下移动、车速等数据来检测车辆位置,并将检测到的车辆数据与地图数据相对照,从而向道路类型识别部603输出地图上的车辆位置数据。GPS(Global Position System,全球测位系统)数据输入部602用于取得位置数据。利用GPS位置数据能够进一步改善从加速传感器、陀螺仪、伴随车轮转动的车速信号等信息取得的车辆位置信息的精度。该车辆的位置数据被输入到道路类型识别部603。道路类型识别部603根据输入的地图上的车辆位置数据,识别车辆在地图上行驶的道路的类型。而后根据识别结果,通过道路类型信息输出部604将高速公路信息604-1、城镇街道信息604-2、山道信息604-3、以及急转弯信息604-4送往图15所示的道路种类信息输入部211。而后,根据该道路类型识别部603识别的道路类型信息,从与该导路类型信息对应的路面白线直线部分候补区域表读取直线视差值以及左右侧的白线直线部分候补区域的顶点坐标,用直线近似实行直线部抽取处理。
以下说明一例用于认知上述路面白线的车载立体照相机摄像装置即立体照相机的硬件结构。图19是立体照相机的硬件结构模块图。如图19所示,被摄体光通过相当于图2所示的第一摄像透镜111A和第二摄像透镜111B的立体照相机中左右第一摄像透镜701和第二摄像透镜702,入射分别相当于图2的第一图像传感器112A和第二图象传感器112B的第一CMOS703和第二CMOS704。第一CMOS703和第二CMOS704将在摄像面上成像的光像转换成电信号,并将该电信号作为模拟图像数据输出。而后,图2的第一信号处理部114A和第二信号处理部114B分别具备第一CDS(Corre lated Double Sampling,相关双采样)电路705、第二CDS电路706、第一A/D转换器707、第二A/D转换器708、第一图像处理电路709、第二图像处理电路710。图2中的处理硬键部120以及MPU140包含CPU711、SDRAM(Synchronous DRAM,同步动态随机存储器)712、缩放电路713、ROM(Rea Only Memary,只读存储器)716、RAM(Random Access Memory,随机访问存储器)717、以及定时信号发生器718。第一CMOS703和第二CMOS704输出的模拟图像数据分别经过第一CDS电路705和第二CDS电路706去除其中的杂质成分后,通过第一A/D转换器707和第二A/D转换器708转换成数字信息,被输出到第一图像处理电路709和第二图像处理电路710中。第一图像处理电路709和第二图像处理电路710用暂时性存放图像数据的SDRAM712实行YCrCb转换处理、以及白平衡控制处理、对比度补偿处理、边缘强调处理、色转换处理等各种图像处理。在此,白平衡控制处理用于调整图像的色浓度,对比度补偿处理用于调整图像信息的对比度。边缘强调处理用于调整图像信息的清晰度,色转换处理用于调整图像信息的配色。
图像信息经过信号处理和图像处理后,经由缩放电路713保存到存储卡714中。缩放电路713用于将第一图像处理电路709和第二图相处利电路710输出的图像信息压缩后送往存储卡714,或者将从存储卡714读取的图像信息放大后输出到第一图像处理电路709和第二图像处理电路710中。CPU711通过定时信号发生器718对第一CMOS703和第二CMOS704、第一CDS电路705和第二CDS电路706、以及第一A/D转换器707和第二A/D转换器708进行定时控制。
进而,第一图像处理电路709和第二图像处理电路710、缩放电路713、存储卡714也同样受到CPU711控制。在摄像装置中,CPU711执行路面白线认知程序,实行各种运算处理。摄像装置内藏用于存放图像处理程序等的读取专用存储器即ROM716、以及被用于作为各种处理过程的工作区域且具有各种数据保存区域等的可读写存储器即RAM717等,这些存储器通过主线19互相连接。车载立体照相机的模块结构包含通过实行视差计算并用辉度图像设定认知候补区域来认知路面白线直线部分和路面白线曲线部分,进而连接路面白线直线部分和路面白线曲线部分进行合成处理,实现路面白线认知的处理功能。而CPU作为实际的硬件,从ROM716读取图像处理程序,并执行该程序的指令,将上述各功能部上载到主存储装置上,输出路面白线认知结果。
以上是说明本发明的一个例子,而本发明以下各种形态具有其各自特有的效果。
《形态1》
一种移动面分界线认知装置,用于根据在移动表面上移动的移动体即车辆100前方的图像,认知该移动表面上作为分界线的路面白线,上述车辆100前方的图像由车辆100搭载的摄像装置拍摄,该移动面分界线认知装置具备以下各部:区域分割线设定部206,用于设定区域分割线,该区域分割线将车辆100前方的图像划分为作为第一图像区域的第一路面白线候补区域401和作为第二图像区域的第二路面白线候补区域402,该第一图像区域为相距车辆100较近的路面部分的图像区域,该第二图像区域为相距车辆100较远的路面部分的图像区域;作为分界线直线部分认知部的路面白线直线部分认知部207,用于对第一路面白线候补区域401中的分界线图像部分即路面白线图像部分进行直线近似,用以认知该路面白线图像部分中的直线部分;以及,作为分界线曲线部分认知部的路面白线曲线部分认知部208,用于对第二路面白线候补区域402中的路面白线图像部分进行曲线近似,用以认知该路面白线图像部分中的曲线部分。
据此,如上述实施方式的说明,当车辆100沿着路面上的路面白线行驶时,车载摄像装置拍摄的图像中的路面白线所呈状态为,在相距该车辆100较近的路面部分的图像区域中,该部分路面白线无论是直线还是曲线,在图像中均呈直线形状。而在相距该车辆100较远的路面部分的图像区域中,当该部分的路面白线为曲线时,在图像中呈曲线形状。区域分割线设定部204设定相距车辆100较近的路面部分的图像区域即第一路面白线候补区域401、与相距车辆1O0较远的路面部分的图像区域即第二路面白线候补区域402之间的区域分割线。路面白线直线部分认知部207通过实行直线近似,来认知第一路面白线候补区域401中路面上的路面白线中的直线部分或曲线部分所对应的路面白线图像部分。路面白线曲线部分认知部208通过曲线近似,认知第二路面白线候补区域402中路面上的路面白线中的曲线部分所对应的路面白线图像部分,从而减小路面白线图像与作为认知结果的路面白线图像部分之间的差别,提高路面上的路面白线的认知精度。
《形态2》
在形态1的移动面分界线认知装置中,上述摄像装置为立体摄像装置的摄像单元101,其中具有两个摄像部,还具备作为视差图像取得部的视差图像计算部203,用于将摄像单元101拍摄的立体图像作为车辆100前方的图像,根据该立体图像计算车辆100前方的视差值,获得该车辆100前方的视差图像,上述区域分割线设定部206根据视差图像计算部203计算的视差值所获得的视差图像,将图像上与车辆100相距规定距离的水平假想线设定为区域分割线。据此,如针对上述实施方式的实施例1所作的说明,本发明能够根据设定的区域分割线来划分第一路面白线候补区域401和第二路面白线候补区域402,用以通过直线近似,认知第一路面白线候补区域401中路面上的路面白线直线部,并通过曲线近似,认知第二路面白线候补区域402中路面上的路面白线曲线部。
《形态3》
在形态1或形态2的移动面分界线认知装置中,还具备作为移动面类型信息输入部的道路类型信息输入部211,用于输入关于道路类型的道路类型信息,上述区域分割线设定部206根据道路类型信息输入部211输入的道路类型信息设定区域分割线。据此,如上述实施方式中的实施例1的说明,本发明能够根据车辆形式的道路类型来设定区域分割线,从而有助于采用适合于正在行驶的道路的近似处理,正确认知路面上的白线图像图部分。
《形态4》
在形态2的移动面分界线认知装置中,还具备用以作为辉度图像取得部的辉度图像输入部202,用于从立体摄像设备拍摄的立体图像中的任意一方的摄像图像中取得辉度图像,所述区域分割线设定部206根据从该辉度图像中抽取路面白线的边缘部分、与为抽取路面白线而进行的近似处理所得到的直线的路面白线图像部分之间的差值,来设定区域分割线。据此,如上述实施方式中的实施例1的说明,本发明通过根据从辉度图像抽取的路面白线的边缘部分、与为抽取路面白线而进行的近似处理所得到的直线的路面白线图像部分之间的差值来设定区域分割线,按照该区域分割线来划分第一路面白线候补区域401和第二路面白线候补区域402,从而能够通过直线近似,以良好的精度认知第一路面白线候补区域401中路面上的路面白线直线部,并通过曲线近似,以良好的精度认知第二路面白线候补区域402中路面上的路面白线曲线部。
《形态5》
在形态1至4中任意一种形态的移动面分界线认知装置中,还具备以下各部:作为分界线合成部的路面白线合成处理部209,用于将作为分界线直线部分认知部的路面白线直线部分认知部207认知的路面白线图像部分中的直线部分和作为分界线曲线部分认知部的路面白线曲线部分认知部208认知的路面白线图像部分中的曲线部分连接起来,合成线部分;以及,作为分界线图像部分输出部的路面白线认知结果输出部210,用于将合成的整个线部分作为路面白线图像部分输出。据此,如上述实施方式中的实施例1的说明,本发明通过连接路面白线的直线部分和曲线部分,形成与路面白线图像相似的路面白线图像部分的认知结果,有助于对认知结果的理解。
《形态6》
在形态1至5中任意一种形态的移动面分界线认知装置中,作为分界线直线部分认知部的路面白线直线部分认知部207对从作为第一图像区域的第一路面白线候补区域401内抽取的辉度图像的辉度边缘进行直线近似。据此,如上述实施方式中的实施例1的说明,本发明能够以良好的精度认知与车辆100相距较近的路面部分所对应的第一认知候补区域401中呈直线形的图像部分。《形态7》
在形态1至5中任意一种形态的移动面分界线认知装置中,作为分界线曲线部分认知部的路面白线曲线部分认知部208以路面白线直线部分认知部207认知的路面白线图像部分中的直线部分之后的假想延长线为基准,设定探索范围,该探索范围是用来在第二路面白线候补区域402中寻找路面白线图像部分中的曲线部分的候补的范围。据此,如上述实施方式中的实施例1的说明,本发明便于在第二路面白线候补区域402中寻找路面白线图像部的曲线部分,有助于路面白线曲线部认知精度的提高。
《形态8》
在形态7的移动面分界线认知装置中,作为分界线曲线部分认知部的路面白线曲线部分认知部208对作为第二图像区域的第二路面白线候补区域402内抽取的辉度图像的辉度边缘进行曲线近似。据此,如上述实施方式中的实施例1的说明,本发明能够以良好的精度认知距离车辆100较远的路面部分所对应的第二认知后部区域402中呈曲线形的图像部分。
《形态9》
在形态2的移动面分界线认知装置中,还具备作为存储部的路面白线直线部分候补区域存储部205,用于保存阀值,该阀值基于由作为立体摄像装置的摄像单元101取得的立体图像中的任意一方的摄像图像中抽取的路面白线的边缘部分、与为抽取路面白线而进行的近似处理所得到的路面白线的直线部分之间的差值,认知候补区域设定部204根据路面白线直线部分候补区域存储部205中保存的阀值,来设定第一路面白线候补区域401和第二路面白线候补区域402。据此,如上述实施方式中的说明,本发明能够正确地设定第一路面白线候补区域401和第二路面白线候补区域402,从而以良好的精度来认知路面白线的直线部分和曲线部分。
《形态10》
在形态9的移动面分界线认知装置中,作为存储部的路面白线直线部分候补区域存储部205中还保存表示第一认知候补区域中包含的路面白线后补区域的信息,该第一认知候补区域基于为了从由作为立体摄像装置的摄像单元101取得的立体图像中任意一方的多张图像相中分别抽取路面白线而进行的近似处理所得到的多个直线部分,作为分界线直线部分认知部的路面白线直线部分认知部207根据路面白线直线部分候补区域存储部205中保存的信息,对路面白线候补区域内的直线部分实行近似处理,用以进行路面白线的认知。据此,如上述实施方式的说明,本发明通过第一路面白线候补区域401和第二路面白线候补区域402的设定,能够以良好的精度认知路面白线中的直线部分和曲线部分。
《形态11》
在形态10的移动面分界线认知装置中,路面白线直线部分候补区域存储部212作为存储部,其中还预存多个针对各种道路类型的存储表,各存储表中保存从各种类型的道路的样品图像中取得的、用于在图像上设定区域分割线位置的区域分割点的坐标。据此,如上述实施方式中的实施例2的说明,本发明可以根据车辆100正在行驶的道路的类型,来读取存储表,并根据该存储表中保存的图像上的区域分割点坐标,来确定区域分割线位置,从而有助于实行适合于正在行驶的道路的近似处理,正确认知路面上的路面白线图像部分。
《形态12》
在形态3的移动面分界线认知装置中,在作为移动面类型信息输入部的道路类型信息输入部211中输入根据车载导航仪取得的车辆100的位置信息和地图数据识别的道路的类型。据此,如上述实施方式中的实施例2的说明,本发明可以将车载导航数据输入部601输入的车辆100的位置与地图数据相对照,向道路类型识别部603输出该车辆在地图上的位置数据。而道路类型识别部603根据输入的车辆100在地图上的位置数据,识别正在行驶的道路的类型,从而有助于实行适合于正在行驶的道路的近似处理,正确认知路面上的路面白线图像部分。
《形态13》
在形态3的移动面分界线认知装置中,通过GPS取得车辆100的位置信息,在作为移动面类型信息输入部的道路类型信息输入部211中输入根据GPS取得的车辆的位置信息、车载导航仪取得的车辆的位置信息以及地图数据识别的道路的类型。据此,如上述实施方式中的实施例2的说明,本发明可以将检测到的车辆位置与地图数据相对照,向道路类型识别部603输出该车辆在地图上的位置数据。GPS数据输入部602用于取得GPS的位置数据,基于该位置数据,可以提高自立航法中车辆本身的位置数据精度,而后输入到道路类型识别部603。而道路类型识别部603根据输入的车辆100在地图上的位置数据,来识别正在行驶的道路的类型,从而进一步以良好的精度自动识别车辆行驶的道路类型。
《形态14》
一种移动体设备控制系统,其中包括以下各部:移动表面分界线认知部,用于根据在移动表面上移动的移动体前方的图像,认知该移动表面上的分界线,上述移动体前方的图像由该移动体搭载的摄像装置拍摄;以及,移动体设备控制部,用于控制该移动体上搭载的规定的设备,在该移动体设备控制系统中,用上述形态1至13中任意一种形态的移动面分界线认知装置作为移动面分界线认知部。据此,如上述实施方式的说明,本发明能够对移动体搭载的规定的设备进行高精度控制。
《形态15》
一种移动面分界线认知方法,其中包括以下步骤:区域分割线设定步骤,设定区域分割线,该区域分割线将移动体前方的图像划分为第一图像区域的第一路面白线候补区域401和作为第二图像区域的第二路面白线候补区域402;分界线直线部分认知步骤,对第一路面白线候补区域401进行直线近似,认知分界线图像部中的直线部分;以及,分界线曲线部分认知步骤,对第二路面白线候补区域402进行曲线近似,认知分界线图像部中的曲线部分。据此,如上述实施方式的说明,本发明可以减小路面白线图像与作为认知结果的路面白线图像部分之间的差别,有助于路面上的路面白线任制精度的提高。

Claims (15)

1.一种移动面分界线认知装置,用于根据在移动表面上移动的移动体前方的图像,认知该移动表面上的分界线,所述移动体前方的图像由该移动体搭载的摄像装置拍摄,该移动面分界线认知装置的特征在于,具备以下各部:
区域分割线设定部,用于设定区域分割线,该区域分割线将所述移动体前方的图像划分为第一图像区域和第二图像区域,该第一图像区域为该图像中相距所述移动体较近的所述移动表面部分的图像区域,该第二图像区域为该图像中相距所述移动体较远的所述移动表面部分的图像区域;
分界线直线部分认知部,用于对所述第一图像区域中的分界线图像部分进行直线近似,用以认知该分界线图像部分中的直线部分;以及,
分界线曲线部分认知部,用于对第二图像区域中的所述分界线图像部分进行曲线近似,用以认知分界线图像部分中的曲线部分。
2.根据权利要求1所述的移动面分界线认知装置,其特征在于,
所述摄像装置为具有两个摄像部的立体摄像装置,
还具备视差图像取得部,该视差图像取得部用于将所述立体摄像装置拍摄的立体图像作为所述移动体前方的图像,根据该立体图像计算所述移动体前方的视差值,获得该移动体前方的视差图像,
所述区域分割线设定部根据该视差图像,将图像上与所述移动体位置相距规定距离的水平假想线设定为所述区域分割线。
3.根据权利要求1或2所述的移动面分界线认知装置,其特征在于,
进一步具备移动面类型信息输入部,该移动面类型信息输入部用于输入关于道路类型的道路类型信息,
所述区域分割线设定部根据该移动面类型信息输入部中输入的道路类型信息设定所述区域分割线。
4.根据权利要求2所述的移动面分界线认知装置,其特征在于,
进一步具备辉度图像取得部,该辉度图像取得部用于从所述立体摄像装置拍摄的立体图像中的任意一方的摄像图像中取得辉度图像,
所述区域分割线设定部根据从该辉度图像中抽取的所述分界线的边缘部分、与为抽取该分界线而进行的近似处理所得到的直线的分界线图像部分之间的差值,来设定所述区域分割线。
5.根据权利要求1至4中任意一项所述的移动面分界线认知装置,其特征在于,进一步具备以下各部:
分界线合成部,用于将所述分界线直线部分认知部认知的所述分界线图像部分中的直线部分和所述分界线曲线部分认知部认知的分界线图像部分中的曲线部分连接起来,合成线部分;以及,
分界线图像部分输出部,用于将整个合成的线部分作为所述分界线图像部分输出。
6.根据权利要求1至5中任意一项所述的移动面分界线认知装置,其特征在于,所述分界线直线部分认知部对从所述第一图像区域内抽取的辉度图像的辉度边缘进行直线近似。
7.根据权利要求1至5中任意一项所述的移动面分界线认知装置,其特征在于,所述分界线曲线部分认知部以所述分界线直线部分认知部认知的分界线图像部分中的直线部分之后的假想延长线为基准,设定探索范围,该探索范围是用来在第二图像区域中寻找所述分界线图像部分中的曲线部分的候补的范围。
8.根据权利要求7所述的移动面分界线认知装置,其特征在于,所述分界线曲线部分认知部对从所述第二图像区域内抽取的辉度图像的辉度边缘进行曲线近似。
9.根据权利要求2所述的移动面分界线认知装置,其特征在于,进一步具备用于保存视差阀值的存储部,该视差阀值基于由所述立体摄像装置取得的立体图像中的任意一方的摄像图像中抽取的所述分界线的边缘部分、与为抽取所述分界线而进行的近似处理所得到的所述分界线图像部分中的直线部分之间的差值,所述认知候补区域设定部根据存储部中保存的视差阀值,设定所述区域分割线。
10.根据权利要求9所述的移动面分界线认知装置,其特征在于,所述存储部中还保存表示所述第一图像区域中包含的移动面分界线候补区域的信息,该第一图像区域基于为了从由所述立体摄像装置取得的立体图像中任意一方的多张图像中分别抽取所述分界线而进行的近似处理所得到的多条直线的所述分界线图像部分,所述分界线直线部分认知部利用所述存储部中保存的信息,对该信息表示的所述移动面分界线候补区域中的分界线图像部分实行近似处理。
11.根据权利要求10所述的移动面分界线认知装置,其特征在于,所述存储部中还预存多个用于各种移动面类型的存储表,各存储表中保存从各种类型的所述移动表面的样品图像中取得的视差阀值、以及用于在图像上设定区域分割线位置的区域分割点的坐标。
12.根据权利要求3所述的移动面分界线认知装置,其特征在于,在移动面类型信息输入部中输入根据车载导航仪取得的所述移动体的位置信息和地图数据,识别的所述移动表面的类型。
13.根据权利要求3所述的移动面分界线认知装置,其特征在于,进一步利用GPS取得所述移动体的位置信息,所述移动面类型信息输入部中输入根据GPS取得的所述移动体的位置信息、所述车载导航仪取得的所述移动体的位置信息以及地图数据识别的道路的类型。
14.一种移动体设备控制系统,其中包括以下各部:
移动表面分界线认知部,用于根据在移动表面上移动的移动体前方的图像,认知该移动表面上的分界线,上述移动体前方的图像由该移动体搭载的摄像装置拍摄;以及,
移动体设备控制部,用于控制该移动体上搭载的规定的设备,
该移动体设备控制系统的特征在于,用权利要求1至13中任意一项所述的移动面分界线认知装置作为所述移动面分界线认知部。
15.一种移动面分界线认知方法,其根据在移动表面上移动的移动体前方的图像,认知该移动表面上的分界线,所述移动体前方的图像由该移动体搭载的摄像装置拍摄,该方法的特征在于,包括以下步骤:
区域分割线设定步骤,设定区域分割线,该区域分割线将所述移动体前方的图像划分为第一图像区域和第二图像区域,该第一图像区域为该图像中相距所述移动体较近的所述移动表面部分的区域,该第二图像区域为该图像中相距所述移动体较远的所述移动表面部分的图像区域;
分界线直线部分认知步骤,对所述第一图像区域中的分界线图像部分进行直线近似,认知该分界线图像部分中的直线部分;以及,
分界线曲线部分认知步骤,对第二图像区域中的所述分界线图像部分进行曲线近似,认知分界线图像部分中的曲线部分。
CN201310482453.8A 2012-10-10 2013-10-09 移动面分界线认知装置和方法、以及移动体设备控制系统 Active CN103731652B (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012224734 2012-10-10
JP2012-224734 2012-10-10
JP2013-169682 2013-08-19
JP2013169682A JP6270102B2 (ja) 2012-10-10 2013-08-19 移動面境界線認識装置、これを用いた移動体機器制御システム、移動面境界線認識方法及び移動面境界線認識用プログラム

Publications (2)

Publication Number Publication Date
CN103731652A true CN103731652A (zh) 2014-04-16
CN103731652B CN103731652B (zh) 2015-12-09

Family

ID=49304845

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310482453.8A Active CN103731652B (zh) 2012-10-10 2013-10-09 移动面分界线认知装置和方法、以及移动体设备控制系统

Country Status (4)

Country Link
US (1) US9286523B2 (zh)
EP (1) EP2720173A3 (zh)
JP (1) JP6270102B2 (zh)
CN (1) CN103731652B (zh)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5747482B2 (ja) * 2010-03-26 2015-07-15 日産自動車株式会社 車両用環境認識装置
JP2014115978A (ja) 2012-11-19 2014-06-26 Ricoh Co Ltd 移動物体認識装置及びこれを用いた報知装置及びその移動物体認識装置に用いる移動物体認識用プログラム及び移動物体認識装置を備えた移動体
KR101565007B1 (ko) * 2014-05-30 2015-11-02 엘지전자 주식회사 차량 운전 보조 장치 및 이를 구비한 차량
JP6140658B2 (ja) * 2014-08-20 2017-05-31 株式会社Soken 走行区画線認識装置、走行区画線認識プログラム
JP6449627B2 (ja) * 2014-11-25 2019-01-09 株式会社Soken 走行区画線認識装置
JP6459443B2 (ja) 2014-11-28 2019-01-30 株式会社リコー 検知装置、検知システム、検知方法及びプログラム
JP2016140030A (ja) 2015-01-29 2016-08-04 株式会社リコー 画像処理装置、撮像装置、及び画像処理プログラム
JP6728634B2 (ja) 2015-11-04 2020-07-22 株式会社リコー 検知装置、検知方法及びプログラム
US10552966B2 (en) * 2016-03-07 2020-02-04 Intel Corporation Quantification of parallax motion
US10319765B2 (en) * 2016-07-01 2019-06-11 Canon Kabushiki Kaisha Imaging device having an effective pixel region, an optical black region and a dummy region each with pixels including a photoelectric converter
CN106407893B (zh) * 2016-08-29 2019-11-22 东软集团股份有限公司 一种检测车道线的方法、装置和设备
CN106364403A (zh) * 2016-10-14 2017-02-01 深圳市元征科技股份有限公司 一种车道识别方法及移动终端
JP2018092596A (ja) * 2016-11-30 2018-06-14 株式会社リコー 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、およびプログラム
KR102453782B1 (ko) * 2016-12-15 2022-10-11 현대자동차주식회사 자율주행을 위한 차선검출 방법.
JP6450413B2 (ja) * 2017-03-31 2019-01-09 本田技研工業株式会社 車両制御装置
KR20190012370A (ko) * 2017-07-27 2019-02-11 삼성에스디에스 주식회사 차선 변경 지원 방법 및 장치
JP7172247B2 (ja) * 2018-07-26 2022-11-16 トヨタ自動車株式会社 表示制御装置、車両用表示装置、表示制御方法及びプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102132335A (zh) * 2008-09-19 2011-07-20 株式会社日立制作所 行驶环境识别装置
CN102685516A (zh) * 2011-03-07 2012-09-19 李慧盈 立体视觉主动安全辅助驾驶方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0935198A (ja) * 1995-07-14 1997-02-07 Mitsubishi Electric Corp 車両用走行路検出装置
JP3352655B2 (ja) 1999-09-22 2002-12-03 富士重工業株式会社 車線認識装置
JP3603836B2 (ja) 2001-11-20 2004-12-22 日産自動車株式会社 道路白線認識装置
JP3922194B2 (ja) 2003-03-11 2007-05-30 日産自動車株式会社 車線逸脱警報装置
JP4659631B2 (ja) 2005-04-26 2011-03-30 富士重工業株式会社 車線認識装置
JP4956099B2 (ja) * 2006-08-31 2012-06-20 富士重工業株式会社 壁検出装置
JP5141599B2 (ja) * 2009-03-06 2013-02-13 日産自動車株式会社 車線認識装置及び方法
JP5188452B2 (ja) * 2009-05-22 2013-04-24 富士重工業株式会社 道路形状認識装置
JP5747482B2 (ja) * 2010-03-26 2015-07-15 日産自動車株式会社 車両用環境認識装置
JP5895448B2 (ja) 2011-10-27 2016-03-30 株式会社リコー 車両認識装置、車両認識方法、プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102132335A (zh) * 2008-09-19 2011-07-20 株式会社日立制作所 行驶环境识别装置
CN102685516A (zh) * 2011-03-07 2012-09-19 李慧盈 立体视觉主动安全辅助驾驶方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CLA´UDIO ROSITO JUNG,CHRISTIAN ROBERTO KELBER: "Lane following and lane departure using a linear-parabolic model", 《IMAGE AND VISION COMPUTING》, vol. 23, no. 13, 29 November 2005 (2005-11-29) *
R. DANESCU, S. NEDEVSCHI, M.M. MEINECKE, T.B. TO: "Lane Geometry Estimation in Urban Environments Using a Stereovision System", 《INTELLIGENT TRANSPORTATION SYSTEMS CONFERENCE》, 1 September 2007 (2007-09-01), XP031151431 *

Also Published As

Publication number Publication date
US9286523B2 (en) 2016-03-15
US20140098196A1 (en) 2014-04-10
EP2720173A3 (en) 2015-01-07
JP6270102B2 (ja) 2018-01-31
CN103731652B (zh) 2015-12-09
JP2014096135A (ja) 2014-05-22
EP2720173A2 (en) 2014-04-16

Similar Documents

Publication Publication Date Title
CN103731652B (zh) 移动面分界线认知装置和方法、以及移动体设备控制系统
CN108345822B (zh) 一种点云数据处理方法及装置
US10384679B2 (en) Travel control method and travel control apparatus
CN102646343B (zh) 车辆检测装置
US8305431B2 (en) Device intended to support the driving of a motor vehicle comprising a system capable of capturing stereoscopic images
CN104520894A (zh) 路旁物检测装置
JP5561064B2 (ja) 車両用対象物認識装置
CN105313782A (zh) 车辆行驶辅助系统及其方法
KR101977652B1 (ko) 모바일 맵핑 시스템을 이용한 도로 면형 자동 취득 방법
KR20170104287A (ko) 주행 가능 영역 인식 장치 및 그것의 주행 가능 영역 인식 방법
CN212220188U (zh) 地下停车场融合定位系统
CN106250816A (zh) 一种基于双摄像头的车道线识别方法及系统
CN104508708A (zh) 道路环境识别装置
CN103810720A (zh) 对象地点到达检知装置和方法以及移动设备控制系统
CN106446785A (zh) 基于双目视觉的可行道路检测方法
WO2017115732A1 (ja) 画像処理装置、物体認識装置、機器制御システム、画像処理方法及び画像処理プログラム
JP2020187474A (ja) 走行車線認識装置、走行車線認識方法およびプログラム
CN116734828A (zh) 道路拓扑信息的确定、电子地图数据处理方法、电子设备
CN115424263A (zh) 交通灯的标注方法、车载设备和存储介质
JP4956099B2 (ja) 壁検出装置
CN107220632B (zh) 一种基于法向特征的路面图像分割方法
CN115144858A (zh) 电子设备和控制方法
JP6683245B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、物体認識装置及び機器制御システム
JP7052265B2 (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム
CN202600727U (zh) 侧壁检测装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant