CN111931547B - 行车车线识别装置、行车车线识别方法以及计算机存储介质 - Google Patents
行车车线识别装置、行车车线识别方法以及计算机存储介质 Download PDFInfo
- Publication number
- CN111931547B CN111931547B CN202010377535.6A CN202010377535A CN111931547B CN 111931547 B CN111931547 B CN 111931547B CN 202010377535 A CN202010377535 A CN 202010377535A CN 111931547 B CN111931547 B CN 111931547B
- Authority
- CN
- China
- Prior art keywords
- lane
- line
- vehicle
- boundary
- detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 68
- 238000001514 detection method Methods 0.000 claims abstract description 278
- 239000000284 extract Substances 0.000 claims abstract description 7
- 238000003384 imaging method Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 2
- 239000003550 marker Substances 0.000 description 34
- 238000000605 extraction Methods 0.000 description 16
- 238000006243 chemical reaction Methods 0.000 description 11
- 239000007787 solid Substances 0.000 description 9
- 230000006870 function Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 4
- 230000000694 effects Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
- B60W30/10—Path keeping
- B60W30/12—Lane keeping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/147—Details of sensors, e.g. sensor lenses
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Mechanical Engineering (AREA)
- Automation & Control Theory (AREA)
- Transportation (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Vascular Medicine (AREA)
- Computing Systems (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明通过相机拍摄的车道的图像高精度地识别有车辆行驶的车线。行车车线识别装置(11)具备:相机(12),其拍摄车辆的后方区域;分界标线检测部(15),其利用相机得到的图像检测车道的分界标线;行车车线识别部(16),其根据检出的分界标线识别行驶有车辆的车线。分界标线检测部从连续拍摄的多张图像中分别抽出检测对象图像,在各检测对象图像中识别存在线状标志的线状标志位置,按照图像拍摄时间顺序重复进行从线状标志位置检测白线或空白的处理,由此判断车道的分界标线是实线还是虚线,行车车线识别部根据实线分界标线与车辆的位置关系或虚线分界标线与车辆的位置关系识别行驶有车辆的车线。
Description
技术领域
本发明涉及对车道的多个车线中的、车辆正在行驶的车线进行识别的行车车线识别装置、行车车线识别方法以及程序。
背景技术
在自动驾驶车辆中,为了与行驶中的车道中的车线的增减、或交流道(日文:インターチェンジ)、交叉口(日文:ジャンクション)等处的车线的分支或汇合相对应地来控制车辆的行驶,需要从车道中的多个车线之中识别车辆正在行驶的车线。
作为车辆的行车车线识别技术,已知如下一种技术:通过利用搭载于车辆的高精度的GPS(全球定位系统)来推断该车辆的位置,使该车辆的位置对应于高精度的地图,从而识别该车辆正在行驶的车线。另外,已知一种使用搭载于车辆的LIDAR(Light Detectionand Ranging:激光探测及测距系统)装置或激光雷达来识别该车辆正在行驶的车线的技术。
另一方面,在下述专利文献1中,未记载有车辆的行车车线识别技术,但记载有对于用车载相机拍摄道路而得到的图像进行图像处理来识别道路区域的形状的车辆用行驶路径检测装置。
现有技术文献
专利文献
专利文献1:日本特开平10-320559号公报
发明内容
发明要解决的问题
在上述的车辆的行车车线识别技术中使用高精度的GPS、LIDAR装置或激光雷达。然而,高精度的GPS、LIDAR装置以及激光雷达均很昂贵。期望利用更廉价的部件来实现车辆的行车车线识别。
另外,能够想到,利用搭载于车辆的相机来拍摄车道,检测在由此得到的图像中包含的分界标线(日文:区画線)的位置和种类等,根据该检测结果来识别车辆正在行驶的车线。然而,在该情况下,并不容易高精度地检测在图像中包含的分界标线的位置和种类等。例如,在养护不充分的老旧的车道上,有时分界标线的一部分消失,因此,存在对分界标线的位置或种类发生误检测的风险。另外,存在无法对在车道显示的分界标线以外的路面标志和分界标线准确地进行识别的风险。
另外,在上述专利文献1中,启示了利用相机来判断车道的车线位置。然而,该判断只不过是作为道路区域的形状识别的一个方式来进行的判断。关于对车辆正在行驶的车线进行识别这点,上述专利文献1中没有记载,也没有启示。
本发明是鉴于例如上述那样的问题而做出的,本发明的课题在于提供能够根据由相机拍摄成的车道的图像来高精度地识别车辆正在行驶的车线的行车车线识别装置、行车车线识别方法以及程序。
用于解决问题的方案
为了解决上述课题,本发明提供一种行车车线识别装置,该行车车线识别装置具备:相机,其连续拍摄行驶在车道上的车辆的前方区域、后方区域、或左右方区域;分界标线检测部,其通过所述相机连续拍摄得到的多张且连续的拍摄图像检测所述车道的分界标线;以及行车车线识别部,其根据所述分界标线检测部检出的所述分界标线识别所述车道的多个车线中行驶有所述车辆的车线,所述行车车线识别装置的特征在于,所述分界标线检测部在多张所述拍摄图像中分别抽出预定的同一范围的图像作为检测对象图像,所述分界标线检测部在各所述检测对象图像中识别存在线状标志的线状标志位置,所述分界标线检测部按照多张所述拍摄图像的时间顺序重复进行图像检测处理,所述图像检测处理为,从与多张所述拍摄图像对应的多个所述检测对象图像中的所述线状标志位置检出白线或空白,当所述图像检测处理的结果是从多个所述检测对象图像中的所述线状标志位置连续检出白线的次数为第1基准次数k(k是2以上的自然数)以上的情况下,所述分界标线检测部判断在所述线状标志位置存在的所述线状标志是实线分界标线,当所述图像检测处理的结果是从多个所述检测对象图像中的所述线状标志位置连续检出白线的次数为第2基准次数m(m是自然数)以上且小于所述第1基准次数k、以及连续检出空白的次数为第3基准次数n(n是自然数)以上、并且该白线的检出和该空白的检出交替重复多次的情况下,所述分界标线检测部判断在所述线状标志位置存在的所述线状标志是虚线分界标线,所述行车车线识别部根据所述分界标线检测部检出的所述实线分界标线与所述车辆之间的位置关系、或所述分界标线检测部检出的所述虚线分界标线与所述车辆之间的位置关系,识别所述车道的多个车线中行驶有所述车辆的车线。
为了解决上述课题,本发明提供一种行车车线识别方法,其特征在于,该行车车线识别方法具备:分界标线检测工序,在该工序中,通过连续多张拍摄图像检测所述车道的分界标线,该连续多张拍摄图像是通过相机连续拍摄的行驶在所述车道的车辆的前方区域、后方区域、或左右方区域的图像;以及行车车线识别工序,在该工序中,根据在所述分界标线检测工序中检出的所述分界标线,识别所述车道的多个车线中行驶有所述车辆的车线,在所述分界标线检测工序中,在多张所述拍摄图像中分别抽出预定的同一范围的图像作为检测对象图像,在各所述检测对象图像中识别存在线状标志的线状标志位置,按照多张所述拍摄图像的拍摄时间顺序重复白线或空白的图像检测处理,所述白线或所述空白是从对应于多张所述拍摄图像的多个所述检测对象图像中的所述线状标志位置检出的,当所述图像检测处理的结果是从多个所述检测对象图像中的所述线状标志位置连续检出白线的次数为第1基准次数k(k是2以上的自然数)以上的情况下,判断在所述线状标志位置存在的所述线状标志是实线分界标线,当所述图像检测处理的结果是从多个所述检测对象图像中的所述线状标志位置连续检出白线的次数为第2基准次数m(m是自然数)以上且小于所述第1基准次数k以及从所述线状标志位置连续检出空白的次数为第3基准次数n(n是自然数)以上,并且该白线的检出和该空白的检出交替重复多次的情况下,判断在所述线状标志位置存在的所述线状标志是虚线分界标线,在所述行车车线识别工序中,根据在所述分界标线检测工序中检出的所述实线分界标线与所述车辆之间的位置关系、或在所述分界标线检测工序中检出的所述虚线分界标线与所述车辆之间的位置关系,识别所述车道的多个车线中行驶有所述车辆的车线。
为了解决上述课题,本发明的提供一种程序,其中,该程序使计算机执行上述本发明的行车车线识别方法。
发明的效果
根据本发明,根据由相机拍摄成的车道的图像,能够高精度地识别车辆正在行驶的车线。
附图说明
图1是表示本发明的实施例的行车车线识别装置的结构的框图。
图2是表示车辆在单向四车线的车道行驶的情形的说明图。
图3是表示本发明的实施例的行车车线识别装置中的分界标线检测处理的流程图。
图4是表示本发明的实施例的行车车线识别装置中的拍摄俯视图像的说明图。
图5是表示本发明的实施例的行车车线识别装置中的另一拍摄俯视图像的说明图。
图6是表示本发明的实施例的行车车线识别装置中的检测对象图像的说明图。
图7是表示本发明的实施例的行车车线识别装置中的另一检测对象图像的说明图。
图8是表示本发明的实施例的行车车线识别装置中的行车车线识别处理的流程图。
图9是表示车辆在4个车线中分别行驶的情形的说明图。
附图标记说明
1、车道;2、车道中线;3、车道外侧线;4、车道分界线;4A、白线部分;4B、空白部分;9、车辆;11、行车车线识别装置;12、相机;15、分界标线检测部;16、行车车线识别部;21、拍摄俯视图像(拍摄图像);22、检测对象图像。
具体实施方式
本发明的实施方式的行车车线识别装置具备相机、分界标线检测部以及行车车线识别部。
相机对在车道行驶的车辆的前方区域、后方区域、或左右方区域进行连续拍摄。通过相机的连续拍摄,能够得到随着行驶的车辆的移动而变化的、连续的多张拍摄图像。例如,在使用相机以24fps~60fps(frame per second:每秒帧数)的帧频拍摄了3秒钟~5秒钟左右的情况下,能够得到随着行驶的车辆的移动而变化的、连续的72张~300张左右的拍摄图像。另外,优选的是,在通过相机的拍摄而得到的各拍摄图像中,例如,包含车辆正在行驶的车线、车辆正在行驶的车线的右侧的车线、车辆正在行驶的车线的左侧的车线、车辆正在行驶的车线与其右侧的车线之间的分界标线、以及车辆正在行驶的车线与其左侧的车线之间的分界标线等。为了得到这样的拍摄图像,优选使用视角较大的相机。
另外,分界标线检测部使用通过相机的连续拍摄而得到的、连续的多张拍摄图像来检测车道的分界标线。具体而言,分界标线检测部(1)在各拍摄图像中抽出预定的同一范围的图像作为检测对象图像,(2)在各检测对象图像中识别存在线状标志的线状标志位置。接着,分界标线检测部(3)按照多张拍摄图像的拍摄时刻顺序来重复进行图像检测处理,在该图像检测处理中,自与多张拍摄图像相对应的多个检测对象图像中的线状标志位置来检测白线或空白。(4-1)在该图像检测处理的结果是自多个检测对象图像中的线状标志位置连续第1基准次数k(k是2以上的自然数)以上地检测出白线的情况下,分界标线检测部判断为在线状标志位置存在的线状标志是实线的分界标线。另一方面,(4-2)在上述图像检测处理的结果是自多个检测对象图像中的线状标志位置连续第2基准次数m(m是自然数)以上且小于第1基准次数k地检测出白线、和自线状标志位置连续第3基准次数n(n是自然数)以上地检测出空白交替重复了多次的情况下,分界标线检测部判断为在线状标志位置存在的线状标志是虚线的分界标线。在此,“空白”是指,在路面上未进行任何显示的部分、即呈现出原本的路面的部分。
例如,相机的帧频为30fps,车辆的行驶速度为时速100km,检测对象图像的前后方向的长度为5m,在车道显示的车道分界线的白线部分的前后方向的长度为8m,在车道显示的车道分界线的空白部分的前后方向的长度为12m。在假设在该条件下在车辆的行驶中利用相机拍摄了理想的车道分界线的情况下,对于连续地得到不包含理想的车道分界线中的空白部分的检测对象图像的次数,由于车道分界线的白线部分的前后方向的长度与检测对象图像的前后方向的长度之差为3m,车辆以时速100km移动3m所需的时间为0.108秒,相机的帧频为30fps,因此,该次数为3次。另外,在假设在上述条件下在车辆的行驶中利用相机拍摄了理想的车道分界线的情况下,对于连续地得到不包含理想的车道分界线中的白线部分的检测对象图像的次数,由于车道分界线的空白部分的前后方向的长度与检测对象图像的前后方向的长度之差为7m,车辆以时速100km移动7m所需的时间为0.252秒,相机的帧频为30fps,因此,该次数为7次。
在该情况下,通过将第1基准次数k、第2基准次数m以及第3基准次数n设定为如下的(A)、(B)以及(C)中的任一者,能够判断在线状标志位置存在的线状标志是实线的分界标线,还是虚线的分界标线,或不是实线的分界标线和虚线的分界标线中的任一者。
(A)将第1基准次数k设定为比3次多的次数,将第2基准次数m设定为3次,将第3基准次数n设定为7次。
(B)将第1基准次数k设定为比3次多的次数,将第2基准次数m设定为3次,将第3基准次数n设定为1次以上的任意的次数。
(C)将第1基准次数k设定为比3次多的次数,将第2基准次数m设定为1次以上且小于第1基准次数k的任意的次数,将第3基准次数n设定为7次。
此外,理想的车道分界线是指,在车道分界线的白线部分不存在消失的部分且在车道分界线的空白部分不存在会被误检测为白线的部分的、整齐的车道分界线。
在上述(A)、(B)以及(C)中,分别将第1基准次数k设定为比3次多的次数,由此,在车辆以时速100km行驶的期间内,能够判断在线状标志位置是否存在比8m长的白线。在线状标志位置存在比8m长的白线的情况下,能够明确地推断出在该线状标志位置存在的线状标志是实线的分界标线、即车道外侧线或车道中线。
另外,在上述(A)中,将第2基准次数m设定为3次,将第3基准次数n设定为7次,由此,在车辆以时速100km行驶的期间内,能够判断在线状标志位置是否交替地存在8m的白线和12m的空白。在线状标志位置交替地存在8m的白线和12m的空白的情况下,能够明确地推断出在该线状标志位置存在的线状标志是虚线的分界标线、即车道分界线。
另外,在上述(B)中,将第2基准次数m设定为3次,将第3基准次数n设定为1次以上的任意的次数,由此,在车辆以时速100km行驶的期间内,能够判断在线状标志位置是否交替地存在8m的白线和长度未确定的空白。在线状标志位置交替地存在8m的白线和长度未确定的空白的情况下,能够明确地推断出在该线状标志位置存在的线状标志是虚线的分界标线、即车道分界线。
在上述(C)中,将第2基准次数m设定为1次以上且小于第1基准次数k的任意的次数,将第3基准次数n设定为7次,由此,在车辆以时速100km行驶的期间内,能够判断在线状标志位置是否交替地存在长度未确定的白线和12m的空白。在线状标志位置交替地存在长度未确定的白线和12m的空白的情况下,能够明确地推断出在该线状标志位置存在的线状标志是虚线的分界标线、即车道分界线。
根据本实施方式的行车车线识别装置的分界标线检测部,能够判断在线状标志位置存在的线状标志例如是否具有交替地存在8m的白线和12m的空白这样的车道分界线的构造特征,或者是否具有交替地存在8m的白线和长度未确定的空白这样的车道分界线的构造特征,或者是否具有交替地存在长度未确定的白线和12m的空白这样的车道分界线的构造特征,根据该判断,能够识别车道上的标志是否是车道分界线。因而,能够抑制尽管车道上的标志不是车道分界线、但被误识别为车道分界线的情况。具体而言,即使在车道外侧线或车道中线的一部分消失而成为虚线状的情况下,也能够抑制将那样的车道外侧线或车道中线误检测为车道分界线。另外,能够抑制将分界标线以外的路面标志误检测为车道分界线。
另外,行车车线识别部根据由分界标线检测部检测出的分界标线来识别车道的多个车线中的、车辆正在行驶的车线。具体而言,行车车线识别部根据实线的分界标线与车辆之间的位置关系、或虚线的分界标线与车辆之间的位置关系来识别车道中的多个车线中的、车辆正在行驶的车线。
例如,在从车辆朝向该车辆的左侧算起的第t(t是自然数)条分界标线是实线的分界标线的情况下,能够识别出车道的多个车线中的、车辆正在行驶的车线是从车道中的单侧的左端起的第t个车线。另外,在从车辆朝向该车辆的右侧算起的第t(t是自然数)条分界标线是实线的分界标线的情况下,能够识别出车道的多个车线中的、车辆正在行驶的车线是从车道中的单侧的右端起的第t个车线。
根据本实施方式的行车车线识别装置,能够根据基于分界标线检测部的高精度的车道分界线的检测结果来高精度地识别车辆正在行驶的车线。
另外,本发明的实施方式的行车车线识别方法具备以下工序:分界标线检测工序,使用连续的多张拍摄图像来检测所述车道的分界标线,该连续的多张拍摄图像是通过利用相机连续拍摄在车道行驶的车辆的前方区域、后方区域、或左右方区域而得到的;以及行车车线识别工序,根据在分界标线检测工序中检测出的分界标线来识别车道的多个车线中的、车辆正在行驶的车线。并且,在分界标线检测工序中,(1)在多张拍摄图像中分别抽出预定的同一范围的图像作为检测对象图像,(2)在各检测对象图像中识别存在线状标志的线状标志位置,(3)按照多张拍摄图像的拍摄时刻顺序来重复进行图像检测处理,在该图像检测处理中,自与多张拍摄图像相对应的多个检测对象图像中的线状标志位置来检测白线或空白,(4-1)在图像检测处理的结果是自多个检测对象图像中的线状标志位置连续第1基准次数k(k是2以上的自然数)以上地检测出白线的情况下,判断为在线状标志位置存在的线状标志是实线的分界标线,(4-2)在图像检测处理的结果是自多个检测对象图像中的线状标志位置连续第2基准次数m(m是自然数)以上且小于第1基准次数k地检测出白线、和自线状标志位置连续第3基准次数n(n是自然数)以上地检测出空白交替重复了多次的情况下,判断为在线状标志位置存在的线状标志是虚线的分界标线。另外,在行车车线识别工序中,根据在分界标线检测工序中检测出的实线的分界标线与车辆之间的位置关系、或在分界标线检测工序中检测出的虚线的分界标线与车辆之间的位置关系来识别车道的多个车线中的、车辆正在行驶的车线。
根据本发明的实施方式的行车车线识别方法,在分界标线检测工序中,根据在线状标志位置存在的线状标志是否具有车道分界线的构造特征,能够识别车道上的标志是否是车道分界线。因而,能够抑制尽管车道上的标志不是车道分界线、但被误识别为车道分界线的情况。另外,在行车车线识别工序中,能够根据分界标线检测工序中的高精度的车道分界线的检测结果来高精度地识别车辆正在行驶的车线。
另外,通过用于使计算机执行上述本发明的实施方式的行车车线识别方法的程序,也能够获得与上述本发明的实施方式的行车车线识别方法相同的作用效果。
【实施例】
使用附图来说明本发明的行车车线识别装置和行车车线识别方法的实施例。此外,在图2和图9中的左下部分,描绘出表示前(F)、后(B)、左(L)以及右(R)的方向的箭头。在涉及实施例地说明方向时,基于所述箭头。
(行车车线识别装置)
图1示出本发明的实施例的行车车线识别装置11的结构。图2示出车辆9在车道1行驶的情形。图1所示的行车车线识别装置11具有如下功能:使用通过相机12的拍摄而得到的图像来检测车道1的分界标线,根据被检测出的分界标线来识别车辆9正在行驶的车线。行车车线识别装置11搭载于图2所示的车辆9。车辆9例如是四轮的自动驾驶车辆。车辆9例如在单向四车线的车道1行驶。
通常,在车道的路面上,标出有车道中线、车道外侧线、车道分界线等分界标线。例如,如图2所示,在车道1是具有车线L1~车线L4的单向四车线的车道的情况下,在车道1的宽度方向中央部分(在图2中为右端部分)标出有车道中线2,在车道1的左端部分标出有车道外侧线3,在彼此相邻的两个车线之间标出有车道分界线4。此外,图2中的附图标记5是中央分隔带。
车道中线2和车道外侧线3分别由白线的实线构成。另一方面,车道分界线4由白线的虚线构成。具体而言,车道分界线4是通过白线部分4A和空白部分4B在前后方向上交替地配置而构成的。在此,“空白”是指,在路面上未进行任何显示的部分、即呈现出原本的路面的部分。车道分界线4的“空白部分”是指,在车道分界线4中成为空白的部分。此外,在图2、图4、图5以及图6中,为了方便说明,用点线示出车道分界线4的空白部分4B的外形。
在车道分界线4中,各白线部分4A的前后方向的长度D1和各空白部分4B的前后方向的长度D2分别为恒定。例如,在车道1为汽车专用道路的情况下,在车道分界线4中,各白线部分4A的长度D1的标准值是8m,各空白部分4B的长度D2的标准值是12m。另外,在车道1中,多个车线中的各车线的宽度D3、即彼此相邻的两条分界标线的间隔为恒定,例如为3.5m。
如图1所示,行车车线识别装置11具备相机12、拍摄控制部13、图像变换部14、分界标线检测部15、行车车线识别部16以及存储装置17。
相机12例如是单眼数码相机。相机12具有运动图像或视频的拍摄功能,例如具有以30fps的帧频进行连续拍摄的能力。另外,相机12具有水平方向的视角为例如180度左右的广角透镜。在本实施例中,例如,如图2所示,相机12安装于车辆9的后部的左右方向中央,能够拍摄车辆9的后方区域。采用相机12,能够大范围地拍摄车辆9的后方中央、左后方以及右后方这几者的地面。
另外,在图1中,拍摄控制部13具有控制相机12的拍摄动作的功能。图像变换部14具有对通过相机12的拍摄而得到的图像进行鸟瞰变换的功能。分界标线检测部15具有使用通过相机12的连续拍摄而得到的、连续的多张图像来检测车道1的分界标线的功能。行车车线识别部16具有基于由分界标线检测部15检测出的分界标线来识别车道1的多个车线中的、车辆9正在行驶的车线的功能。存储装置17例如是具有闪速存储器等半导体存储元件的半导体存储装置。此外,作为存储装置17,还能够使用硬盘驱动器等磁存储装置。
拍摄控制部13、图像变换部14、分界标线检测部15以及行车车线识别部16作为控制器18的功能来实现。即,在车辆9搭载有具有CPU(中央运算处理装置)等的控制器18,控制器18通过读入并执行在存储装置17存储的计算机程序,从而作为拍摄控制部13、图像变换部14、分界标线检测部15以及行车车线识别部16发挥功能。另外,相机12和存储装置17分别电连接于控制器18。另外,车速传感器电连接于控制器18,自车速传感器输出的车速信号输入控制器18。车速信号是表示车辆9的行驶速度的信号。
(分界标线检测处理)
行车车线识别装置11进行分界标线检测处理和行车车线识别处理,该分界标线检测处理根据通过相机12的拍摄而得到的图像来检测车道1的分界标线,该行车车线识别处理根据通过分界标线检测处理检测出的分界标线来识别车辆9正在行驶的车线。这些处理在车辆9在车道1行驶的期间内例如周期性地进行。在这些处理之中,首先说明分界标线检测处理。图3表示分界标线检测处理的内容。
在车辆9在车道1行驶的期间内,相机12按照拍摄控制部13的控制,例如以30fps的帧频对车辆9的后方区域连续拍摄数秒钟。通过该拍摄,能够得到连续拍摄车辆9的后方区域而得到的多张图像。这些图像都是立体地映有车辆9的后方区域的图像。这些图像通过图像变换部14进行鸟瞰变换,被分别变换成从车道1的路面的正上方观察车道1的路面的俯视的图像。以下,将对由相机12拍摄成的图像进行鸟瞰变换后的图像称作“拍摄俯视图像”。通过利用图像变换部14对由相机12连续拍摄成的多张图像进行鸟瞰变换,从而得到多个拍摄俯视图像。所述多个拍摄俯视图像存储于存储装置17的作业区域。此外,拍摄俯视图像是技术方案的记载中的“拍摄图像”的具体例。
图2中的附图标记F示出拍摄俯视图像21的范围的一个例子。另外,图4和图5分别示出拍摄俯视图像的一个例子。图4和图5中的各拍摄俯视图像21是通过对两张图像分别进行鸟瞰变换而得到的,该两张图像是在车辆9在车道1的车线L2行驶的期间内,利用相机12在不同的时刻对车辆9的后方区域进行拍摄而得到的。
分界标线检测部15使用存储于存储装置17的作业区域的多个拍摄俯视图像21来进行分界标线检测处理。即,在图3中,分界标线检测部15首先从各拍摄俯视图像21中抽出各拍摄俯视图像21中的同一范围的图像作为检测对象图像(步骤S1)。
在图4或图5中,附图标记G表示自各拍摄俯视图像21抽出检测对象图像的范围。以下,将该范围称作“抽出范围”。抽出范围G的前后方向的长度E1比车道分界线4的白线部分4A的长度D1短且比车道分界线4的空白部分4B的长度D2短。在本实施例中,将白线部分4A的长度D1为8m且空白部分4B的长度D2为12m作为前提,长度E1在实际的车道上设定为例如5m。另外,抽出范围G的左右方向的长度E2为1个车线的宽度D3的3倍以上。在本实施例中,将车线的宽度D3为3.5m作为前提,长度E2在实际的车道上设定为例如14m。另外,各拍摄俯视图像21中的抽出范围G的前后方向的位置例如是自各拍摄俯视图像21的上端离开预定距离E3的位置。在本实施例中,距离E3在实际的车道上设定为例如0.5m。另外,各拍摄俯视图像21中的抽出范围G的左右方向中央位置例如与各拍摄俯视图像21的左右方向中央位置一致。
在此,在本实施例中,相机12配置于车辆9的后部的左右方向中央,因此,如图4或图5所示,各拍摄俯视图像21的左右方向中央位置C与车辆9的左右方向中央位置相对应。因而,抽出范围G的左右方向中央位置C与车辆9的左右方向中央位置相对应,检测对象图像的左右方向中央位置也与车辆9的左右方向中央位置相对应。
在图3中的步骤S1中,从存储于存储装置17的作业区域的多个拍摄俯视图像中的各拍摄俯视图像中抽出检测对象图像。抽出的多个检测对象图像存储于存储装置17的作业区域。图6和图7分别示出检测对象图像的一个例子。图6中的检测对象图像22是从图4中的拍摄俯视图像21抽出的。图7中的检测对象图像22是从图5中的拍摄俯视图像21抽出的。各检测对象图像22的前后方向的长度和左右方向的长度与抽出范围G的前后方向的长度E1和左右方向的长度E2分别相等。
接着,分界标线检测部15选择左近区域Za、右近区域Zb、左远区域Zc以及右远区域Zd中的1个区域(步骤S2)。在本实施例中,如图6或图7所示,对于各检测对象图像22,设定有左近区域Za、右近区域Zb、左远区域Zc以及右远区域Zd。左近区域Za是推测从车辆9朝向其左侧去存在第1条分界标线的区域。具体而言,左近区域Za是检测对象图像22的左右方向中央位置C与自该中央位置C向左侧离开距离F的位置之间的区域。距离F例如在实际的车道上设定为与车线的宽度D3相等的值。右近区域Zb是推测从车辆9朝向其右侧去存在第1条分界标线的区域。具体而言,右近区域Zb是检测对象图像22的左右方向中央位置C与从该中央位置C向右侧离开距离F的位置之间的区域。左远区域Zc是推测从车辆9朝向其左侧去存在第2条分界标线的区域。具体而言,左远区域Zc是从检测对象图像22的左右方向中央位置C向左侧离开距离F的位置与从该位置向左侧离开距离F的位置之间的区域。右远区域Zd是推测从车辆9朝向其右侧去存在第2条分界标线的区域。具体而言,右远区域Zd是从检测对象图像22的左右方向中央位置C向右侧离开距离F的位置与从该位置向右侧离开距离F的位置之间的区域。在本实施例中的分界标线检测处理中,对于左近区域Za、右近区域Zb、左远区域Zc以及右远区域Zd分别依次进行分界标线的检测处理。对于所述4个区域进行分界标线的检测处理的顺序是任意的。在本实施例中,以左近区域Za、右近区域Zb、左远区域Zc、右远区域Zd的顺序来进行分界标线的检测处理。因而,在步骤S2中,分界标线检测部15首先选择左近区域Za。
接着,分界标线检测部15对通过步骤S2选择出的左近区域Za中的线状标志位置Pa进行识别(步骤S3)。“线状标志”是指,在路面上标出的线状的标志。“线状标志位置”是指,检测对象图像22中的线状标志的左右方向上的位置。具体而言,分界标线检测部15使用存储于存储装置17的各检测对象图像22,首先对在各检测对象图像22的左近区域Za内存在的线状标志进行识别,接下来,对识别出的线状标志的线状标志位置Pa(参照图6或图7)进行识别。
线状标志的识别能够根据线状标志与路面之间的亮度差来进行。另外,在线状标志的识别中可以使用霍夫变换。
线状标志位置Pa的识别能够例如如下那样进行。即,如图2所示,在从车辆9朝向其左侧算起的第1条分界标线是虚线的分界标线、即车道分界线4的情况下,在经步骤S1存储于存储装置17的作业区域的多个检测对象图像22中,包含如图6所示那样在左近区域Za内不存在线状标志的图像和如图7所示那样在左近区域Za内存在线状标志的图像。另一方面,在从车辆9朝向其左侧算起的第1条分界标线是实线的分界标线、即车道外侧线3的情况下,有时在经步骤S1存储于存储装置17的作业区域的全部的检测对象图像22的左近区域Za内均存在线状标志,对此未图示。在所述任一者的情况下,分界标线检测部15均从经步骤S1存储于存储装置17的作业区域的多个检测对象图像22中选择在左近区域Za内存在线状标志的全部检测对象图像22或几个检测对象图像22,例如,根据在所述选择出的检测对象图像的左近区域Za内分别存在的线状标志的位置坐标的平均值或众数值等来识别线状标志位置Pa。
接着,分界标线检测部15对于经步骤S1存储于存储装置17的作业区域的多个检测对象图像22按照各检测对象图像22的拍摄时刻顺序,来重复进行自各检测对象图像22中的线状标志位置Pa检测白线或空白的图像检测处理(步骤S4)。在此,检测对象图像22的拍摄时刻是指,通过相机12的拍摄而得到与检测对象图像22相对应的拍摄俯视图像21的鸟瞰变换前的图像的时刻。另外,白线或空白的检测能够通过与上述线状标志的识别方法相同的方法来进行。
例如,在存储于存储装置17的作业区域的多个检测对象图像22中的1张检测对象图像22是图6所示那样的检测对象图像22的情况下,自该检测对象图像22中的线状标志位置Pa检测出空白。另一方面,在存储于存储装置17的作业区域的多个检测对象图像22中的1张检测对象图像22是图7所示那样的检测对象图像22的情况下,自该检测对象图像22中的线状标志位置Pa检测出白线。
在上述图像检测处理结束之后,分界标线检测部15根据上述图像检测处理的结果来判断在线状标志位置Pa存在的线状标志属于实线的分界标线,还是属于虚线的分界标线,亦或是不属于实线的分界标线和虚线的分界标线中的任一者。
即,在通过上述图像检测处理自经步骤S1存储于存储装置17的作业区域的多个检测对象图像中的线状标志位置Pa连续第1基准次数k以上地检测出白线的情况下(步骤S5:“是”),分界标线检测部15判断为在线状标志位置Pa存在的线状标志属于实线的分界标线(步骤S6)。然后,分界标线检测部15将表示在左近区域Za中的线状标志位置Pa存在实线的分界标线的信息存储于存储装置17。此外,该信息会在后述的行车车线识别处理中使用。
第1基准次数k是2以上的自然数,是至少根据车辆9的行驶速度而变化的值。分界标线检测部15如下那样设定第1基准次数k。即,对于在假设在车辆9的行驶中利用相机12拍摄了理想的车道分界线的情况下连续地得到不包含理想的车道分界线中的空白部分的检测对象图像22的次数,分界标线检测部15根据理想的车道分界线的白线部分的前后方向的长度、检测对象图像22的前后方向的长度(抽出范围G的前后方向的长度E1)、车辆9的行驶速度、以及相机12的帧频来计算出该次数,并将比该次数多的次数设定为第1基准次数k。此外,理想的车道分界线是指,在车道分界线的白线部分不存在消失的部分且在车道分界线的空白部分不存在会被误检测为白线的部分的、整齐的车道分界线。
在本实施例中,车道分界线4的白线部分4A的长度D1为8m,检测对象图像22的前后方向的长度例如为5m,相机12的帧频例如为30fps。另外,根据自车速传感器输出的车速信号,识别出车辆9的行驶速度是时速100km。在假设在这样的条件下在车辆9的行驶中利用相机12拍摄了理想的车道分界线的情况下,对于连续地得到不包含理想的车道分界线中的空白部分的检测对象图像22的次数,由于车道分界线4的白线部分4A的前后方向的长度与检测对象图像22的前后方向的长度之差为3m,车辆9以时速100km移动3m所需的时间为0.108秒,相机12的帧频为30fps,因此,该次数为3次。在该条件下,在线状标志位置Pa存在的线状标志是理想的车道外侧线或理想的车道中线的情况下,上述图像检测处理的结果是自多个检测对象图像22中的线状标志位置Pa连续比3次多的次数地检测出白线。因而,在上述条件下,分界标线检测部15将比3次多的次数、例如4次设定为第1基准次数k。因此,分界标线检测部15在通过上述图像检测处理自经步骤S1存储于存储装置17的作业区域的多个检测对象图像22中的线状标志位置Pa连续4次以上地检测出白线的情况下,判断为在线状标志位置Pa存在的线状标志属于实线的分界标线。此外,理想的车道外侧线是指,在白线部分不存在消失的部分的、整齐的车道外侧线,理想的车道中线是指,在白线部分不存在消失的部分的、整齐的车道中线。
另外,在上述条件之中,在根据车速信号识别出车辆9的行驶速度是时速80km时,车辆9移动3m所需的时间是0.135秒,因此,在假设在车辆9的行驶中利用相机12拍摄了理想的车道分界线的情况下,连续地得到不包含理想的车道分界线中的空白部分的检测对象图像22的次数是4次。在该情况下,分界标线检测部15将比4次多的次数、例如5次设定为第1基准次数k。并且,分界标线检测部15在通过上述图像检测处理自经步骤S1存储于存储装置17的作业区域的多个检测对象图像22中的线状标志位置Pa连续5次以上地检测出白线的情况下,判断为在线状标志位置Pa存在的线状标志属于实线的分界标线。
另一方面,在通过上述图像检测处理自经步骤S1存储于存储装置17的作业区域的多个检测对象图像中的线状标志位置Pa连续第2基准次数m以上且小于第1基准次数k地检测出白线、和连续第3基准次数n以上地检测出空白交替重复了第4基准次数r以上的情况下(步骤S7:“是”),分界标线检测部15判断为在线状标志位置Pa存在的线状标志属于虚线的分界标线(步骤S8)。然后,分界标线检测部15将表示在左近区域Za中的线状标志位置Pa存在虚线的分界标线的信息存储于存储装置17。此外,该信息会在后述的行车车线识别处理中使用。
第2基准次数m是自然数,在本实施例中是预先设定的固定值。第2基准次数m是1次以上且小于第1基准次数k的次数,例如设定为1次。
另外,第3基准次数n是自然数,是至少根据车辆9的行驶速度而变化的值。分界标线检测部15如下那样设定第3基准次数n。即,对于在假设在车辆9的行驶中利用相机12拍摄了理想的车道分界线的情况下连续地得到不包含理想的车道分界线中的白线部分的检测对象图像22的次数,分界标线检测部15根据理想的车道分界线的空白部分的前后方向的长度、检测对象图像22的前后方向的长度(抽出范围G的前后方向的长度E1)、车辆9的行驶速度、以及相机12的帧频来计算出该次数,并将该次数设定为第3基准次数n。
在本实施例中,车道分界线4的空白部分4B的长度D2为12m,检测对象图像22的前后方向的长度例如为5m,相机12的帧频例如为30fps。另外,根据自车速传感器输出的车速信号,识别出车辆9的行驶速度为时速100km。在假设在这样的条件下在车辆9的行驶中利用相机12拍摄了理想的车道分界线的情况下,对于连续地得到不包含理想的车道分界线中的白线部分的检测对象图像22的次数,由于车道分界线的空白部分的前后方向的长度与检测对象图像22的前后方向的长度之差为7m,车辆9以时速100km移动7m所需的时间为0.252秒,相机12的帧频为30fps,因此,该次数为7次。因而,分界标线检测部15将7次设定为第3基准次数n。
另外,分界标线检测部15将第4基准次数r设定为例如3次。即,当将在车道分界线4中1个白线部分4A和与该白线部分4A相连的1个空白部分4B的组合称作“车道分界线单元”时,1个车道分界线单元的前后方向的长度为20m。因而,在车辆9例如移动100m的期间内,车辆9至少通过4个车道分界线单元的旁边。通过将第4基准次数r设定为例如3次,能够在开始分界标线的检测之后在车辆9移动完100m之前使分界标线的检测结束。因此,在通过上述图像检测处理自经步骤S1存储于存储装置17的作业区域的多个检测对象图像中的线状标志位置Pa连续1次以上且小于4次地检测出白线、和连续7次以上地检测出空白交替重复了3次以上的情况下,分界标线检测部15判断为在线状标志位置Pa存在的线状标志属于虚线的分界标线。
另外,在上述条件之中,在根据车速信号识别出车辆9的行驶速度为时速80km的情况下,由于车辆9移动7m所需的时间为0.315秒,因此,在假设在车辆9的行驶中利用相机12拍摄了理想的车道分界线的情况下,连续地得到不包含理想的车道分界线中的白线部分的检测对象图像22的次数为9次。在该情况下,分界标线检测部15将9次设定为第3基准次数n。另外,如上述那样,在识别出车辆9的行驶速度为时速80km的情况下,分界标线检测部15例如将5次设定为第1基准次数k。因此,在识别出车辆9的行驶速度为时速80km的情况下,在通过上述图像检测处理自经步骤S1存储于存储装置17的作业区域的多个检测对象图像中的线状标志位置Pa连续1次以上且小于5次地检测出白线、和连续9次以上地检测出空白交替重复了3次以上时,分界标线检测部15判断为在线状标志位置Pa存在的线状标志属于虚线的分界标线。
另一方面,在通过上述图像检测处理自经步骤S1存储于存储装置17的作业区域的多张检测对象图像中的线状标志位置Pa未连续第1基准次数k以上地检测出白线、并且连续第2基准次数m以上且小于第1基准次数k地检测出白线和连续第3基准次数n以上地检测出空白的结果未交替重复第4基准次数r以上的情况下(步骤S5:“否”和步骤S7:“否”),分界标线检测部15判断为在线状标志位置Pa存在的线状标志不属于实线的分界标线和虚线的分界标线中的任一者(步骤S9)。在该情况下,例如,分界标线检测部15重新利用相机12进行拍摄并再次执行分界标线检测处理、或输出错误信号。错误信号例如向控制车辆9的自动驾驶的自动驾驶控制装置输入。与此相对应地,利用自动驾驶控制装置来执行错误处理等。
接着,分界标线检测部15判断对于左近区域Za、右近区域Zb、左远区域Zc以及右远区域Zd的全部的区域是否完成了分界标线的检测处理、即自步骤S3到步骤S9的处理(步骤S10)。在对于所述全部的区域未完成分界标线的检测处理的情况下(步骤S10:“否”),分界标线检测部15使处理返回步骤S2,在步骤S2中,选择接下来进行分界标线的检测处理的区域。另一方面,在对于左近区域Za、右近区域Zb、左远区域Zc以及右远区域Zd的全部的区域完成了分界标线的检测处理的情况下,分界标线检测处理结束。
(行车车线识别处理)
接下来,说明行车车线识别处理。图8示出行车车线识别处理的内容。图9示出车辆9在车线L1、L2、L3、L4上分别行驶的情形。在图8所示的行车车线识别处理中,行车车线识别部16根据上述分界标线检测处理的结果来判断是否为从车辆9朝向其左侧算起的第1条分界标线是实线且从车辆9朝向其右侧算起的第1条分界标线是虚线(步骤S21)。具体而言,行车车线识别部16判断是否为在左近区域Za中的线状标志位置Pa存在实线的分界标线且在右近区域Zb中的线状标志位置Pb存在虚线的分界标线。如上述那样,左近区域Za是推测从车辆9朝向其左侧去存在第1条分界标线的区域。在左近区域Za中的线状标志位置Pa存在实线的分界标线能够视为从车辆9朝向其左侧算起的第1条分界标线是实线。同样地,右近区域Zb是推测从车辆9朝向其右侧去存在第1条分界标线的区域。在右近区域Zb中的线状标志位置Pb存在虚线的分界标线能够视为从车辆9朝向其右侧算起的第1条分界标线是虚线。
在左近区域Za中的线状标志位置Pa存在实线的分界标线且在右近区域Zb中的线状标志位置Pb存在虚线的分界标线的情况下、即从车辆9朝向其左侧算起第1条分界标线是实线且从车辆9朝向其右侧算起的第1条分界标线是虚线的情况下(步骤S21:“是”),行车车线识别部16判断为如图9的(A)所示车辆9正在行驶的车线是车线L1(步骤S22)。
另一方面,在左近区域Za中的线状标志位置Pa不存在实线的分界标线或者在右近区域Zb中的线状标志位置Pb不存在虚线的分界标线的情况下、即从车辆9朝向其左侧算起的第1条分界标线不是实线或从车辆9朝向其右侧算起的第1条分界标线不是虚线的情况下(步骤S21:“否”),接着,行车车线识别部16根据上述分界标线检测处理的结果来判断是否为从车辆9朝向其左侧算起的第1条分界标线是虚线且从车辆9朝向其右侧算起的第1条分界标线是实线(步骤S23)。具体而言,行车车线识别部16判断是否为在左近区域Za中的线状标志位置Pa存在虚线的分界标线且在右近区域Zb中的线状标志位置Pb存在实线的分界标线。
在左近区域Za中的线状标志位置Pa存在虚线的分界标线且在右近区域Zb中的线状标志位置Pb存在实线的分界标线的情况下、即从车辆9朝向其左侧算起的第1条分界标线是虚线且从车辆9朝向其右侧算起的第1条分界标线是实线的情况下(步骤S23:“是”),行车车线识别部16判断为如图9的(D)所示车辆9正在行驶的车线是车线L4(步骤S24)。
另一方面,在左近区域Za中的线状标志位置Pa不存在虚线的分界标线或者在右近区域Zb中的线状标志位置Pb不存在实线的分界标线的情况下、即从车辆9朝向其左侧算起的第1条分界标线不是虚线或从车辆9朝向其右侧算起的第1条分界标线不是实线的情况下(步骤S23:“否”),接着,行车车线识别部16根据上述分界标线检测处理的结果来判断是否为从车辆9朝向其左侧算起的第1条分界标线是虚线且从车辆9朝向其右侧算起的第1条分界标线是虚线(步骤S25)。具体而言,行车车线识别部16判断是否为在左近区域Za中的线状标志位置Pa存在虚线的分界标线且在右近区域Zb中的线状标志位置Pb存在虚线的分界标线。
在左近区域Za中的线状标志位置Pa存在虚线的分界标线且在右近区域Zb中的线状标志位置Pb存在虚线的分界标线的情况下、即从车辆9朝向其左侧算起的第1条分界标线是虚线且从车辆9朝向其右侧算起的第1条分界标线是虚线的情况下(步骤S25:“是”),接着,行车车线识别部16根据上述分界标线检测处理的结果来判断从车辆9朝向其左侧算起的第2条分界标线是否是实线(步骤S26)。具体而言,行车车线识别部16判断在左远区域Zc中的线状标志位置Pc是否存在实线的分界标线。如上述那样,左远区域Zc是推测从车辆9朝向其左侧去存在第2条分界标线的区域。在左远区域Zc中的线状标志位置Pc存在实线的分界标线能够视为从车辆9朝向其左侧算起的第2条分界标线是实线。
在左远区域Zc中的线状标志位置Pc存在实线的分界标线的情况下、即从车辆9朝向其左侧算起的第2条分界标线是实线的情况下(步骤S26:“是”),行车车线识别部16判断为如图9的(B)所示车辆9正在行驶的车线是车线L2(步骤S27)。
另一方面,在左远区域Zc中的线状标志位置Pc不存在实线的分界标线的情况下、即从车辆9朝向其左侧算起的第2条分界标线不是实线的情况下(步骤S26:“否”),行车车线识别部16根据上述分界标线检测处理的结果来判断从车辆9朝向其右侧算起的第2条分界标线是否是实线(步骤S28)。具体而言,行车车线识别部16判断在右远区域Zd中的线状标志位置Pd是否存在实线的分界标线。如上述那样,右远区域Zd是推测从车辆9朝向其右侧去存在第2条分界标线的区域。在右远区域Zd中的线状标志位置Pd存在实线的分界标线能够视为从车辆9朝向其右侧算起的第2条分界标线是实线。
在右远区域Zd中的线状标志位置Pd存在实线的分界标线的情况下、即从车辆9朝向其右侧算起的第2条分界标线是实线的情况下(步骤S28:“是”),行车车线识别部16判断为如图9的(C)所示车辆9正在行驶的车线是车线L3(步骤S29)。
另一方面,在右远区域Zd中的线状标志位置Pd不存在实线的分界标线的情况下、即从车辆9朝向其右侧算起的第2条分界标线不是实线的情况下(步骤S28:“否”),行车车线识别部16判断为车辆9正在行驶的车线不是所述任一车线。另外,在左近区域Za中的线状标志位置Pa不存在虚线的分界标线且在右近区域Zb中的线状标志位置Pb也不存在虚线的分界标线的情况下、即从车辆9朝向其左侧算起的第1条分界标线不是虚线且从车辆9朝向其右侧算起的第1条分界标线不是虚线的情况下(步骤S25:“否”),行车车线识别部16也判断为车辆9正在行驶的车线不是所述任一车线。在该情况下,行车车线识别部16识别出车道是单向单车线或输出错误信号。
如以上说明那样,本发明的实施例的行车车线识别装置11在分界标线检测处理中,在自多个检测对象图像22中的线状标志位置连续1次以上且小于第1基准次数k地检测出白线、和连续第3基准次数n以上地检测出空白交替重复了多次的情况下,判断为在线状标志位置存在的线状标志是虚线的分界标线。根据该判断方法,能够判断在多个检测对象图像22中的线状标志位置存在的线状标志是否具有例如长度未确定的白线和12m的空白交替地存在这样的构造特征,根据该判断,能够识别车道上的标志是否是车道分界线4。因而,能够抑制尽管车道上的标志不是车道分界线4、但被误识别为车道分界线4的情况。具体而言,即使在车道中线2的一部分或车道外侧线3的一部分消失而成为虚线状的情况下,也能够抑制将那样的车道中线2或车道外侧线3误检测为车道分界线4。另外,能够抑制将分界标线以外的路面标志误检测为车道分界线4。并且,根据这样的高精度的车道分界线4的检测结果,能够高精度地识别车辆9正在行驶的车线。
另外,本实施例的行车车线识别装置11在分界标线检测处理中将自拍摄俯视图像21抽出检测对象图像22的抽出范围G的前后方向的长度E1设定为比车道分界线4的空白部分4B的前后方向的长度D2短。并且,对于在假设在车辆9的行驶中利用相机12拍摄了理想的车道分界线的情况下连续地得到不包含理想的车道分界线中的白线部分的检测对象图像22的次数,根据理想的车道分界线的空白部分的前后方向的长度、检测对象图像22的前后方向的长度(抽出范围G的前后方向的长度E1)、车辆9的行驶速度以及相机12的帧频来计算出该次数,并将该次数设定为第3基准次数n。通过进行这样的设定,能够高精度地判断在多个检测对象图像22中的线状标志位置存在的线状标志是否具有例如长度未确定的白线和12m的空白交替地存在这样的构造特征,能够高精度地识别车道上的标志是否是车道分界线4。
另外,本实施例的行车车线识别装置11在分界标线检测处理中将自拍摄俯视图像21抽出检测对象图像22的抽出范围G的前后方向的长度E1设定为比车道分界线4的白线部分4A的前后方向的长度D1短。并且,对于在假设在车辆9的行驶中利用相机12拍摄了理想的车道分界线的情况下连续地得到不包含理想的车道分界线中的空白部分的检测对象图像22的次数,根据理想的车道分界线的白线部分的前后方向的长度、检测对象图像22的前后方向的长度(抽出范围G的前后方向的长度E1)、车辆9的行驶速度以及相机12的帧频来计算出该次数,并将比该次数多的次数设定为第1基准次数k。通过进行这样的设定,能够判断在多个检测对象图像22中的线状标志位置存在的线状标志是否比车道分界线4的白线部分4A长,能够高精度地识别该线状标志是否是实线的分界标线(车道中线2或车道外侧线3)。
另外,本实施例的行车车线识别装置11在行车车线识别处理中,在自车辆9朝向左侧算起的第1条分界标线是实线的情况下判断为车辆9正在行驶的车线是车线L1,在自车辆9朝向左侧算起的第2条分界标线是实线的情况下判断为车辆9正在行驶的车线是车线L2。即,从车辆9朝向其左侧算起的第t(t是自然数)条分界标线是实线的分界标线的情况下,行车车线识别装置11判断为车辆9正在行驶的车线是从车道1的单侧的左端(在日本的车道中为车道的左端)算起的第t个车线。另外,本实施例的行车车线识别装置11在行车车线识别处理中,在自车辆朝向右侧算起的第1条分界标线是实线的情况下判断为车辆9正在行驶的车线是车线L4,在自车辆朝向右侧算起的第2条分界标线是实线的情况下判断为车辆9正在行驶的车线是车线L3。即,在从车辆9朝向其右侧算起的第t条分界标线是实线的分界标线的情况下,行车车线识别装置11判断为车辆9正在行驶的车线是从车道1的单侧的右端(在日本的车道是道路中心线或中央分隔带)算起的第t个车线。根据该判断方法,即使在车辆9在单向车线数较多的车道行驶的情况下,也能够识别出车辆9正在行驶的车线。
另外,本实施例的行车车线识别装置11在行车车线识别处理中,在自车辆9朝向左侧算起的第1条分界标线是实线且自车辆9朝向右侧算起的第1条分界标线是虚线的情况下,判断为车辆9正在行驶的车线是车线L1。另外,在自车辆9朝向右侧算起的第1条分界标线是实线且自车辆9朝向左侧算起的第1条分界标线是虚线的情况下,行车车线识别装置11判断为车辆9正在行驶的车线是车线L4。另外,在自车辆9朝向左侧算起的第1条分界标线是虚线、自车辆9朝向右侧算起的第1条分界标线是虚线、以及自车辆9朝向左侧算起的第2条分界标线是实线的情况下,行车车线识别装置11判断为车辆9正在行驶的车线是车线L2。另外,在自车辆9朝向左侧算起的第1条分界标线是虚线、自车辆9朝向右侧算起的第1条分界标线是虚线、以及自车辆9朝向右侧算起的第2条分界标线是实线的情况下,行车车线识别装置11判断为车辆9正在行驶的车线是车线L3。根据这样的判断方法,能够准确地识别车辆9正在行驶的车线。
另外,根据本实施例的行车车线识别装置11,通过采用这样的行车车线的判断方法,且将自拍摄俯视图像21抽出检测对象图像22的抽出范围G的左右方向的长度E2设定为车线的宽度D3的3倍以上,由此,在车辆9在单向四车线以上的车道1行驶的情况下,能够识别出车辆9正在行驶的车线。
另外,根据本实施例的行车车线识别装置11,能够利用相机来进行车道的分界标线的检测和车辆正在行驶的车线的识别,而不必使用高精度的GPS或LIDAR装置、激光雷达。因而,能够廉价地实现车道的分界标线的检测和车辆正在行驶的车线的识别。
此外,在上述实施例中,举出将相机12设于车辆9的后部且对车辆9的后方区域进行拍摄的情况的例子,但也可以是,将相机设于车辆9的前部,对车辆9的前方区域进行拍摄。另外,还可以是,将相机分别设于车辆9的左部和右部,对车辆9的左方区域和右方区域这两个区域进行拍摄。
另外,在上述实施例中,将自拍摄俯视图像21抽出检测对象图像22的抽出范围G的左右方向的长度E2设定为例如14m。根据该设定,如图4所示,在检测对象图像22内,映入有从车辆9朝向其左侧算起的第1条分界标线和第2条分界标线、以及从车辆9朝向其右侧算起的第1条分界标线和第2条分界标线。在该情况下,通过上述行车车线识别处理,能够识别车辆9的行车车线的车道的单向车线数是四车线。通过使抽出范围G的左右方向的长度E2大于14m,使检测对象图像22内映入从车辆9朝向其左侧算起的第3条以上的分界标线和从车辆9朝向其右侧算起的第3条以上的分界标线,能够增加可识别车辆9的行车车线的车道的单向车线数。
另外,在上述实施例中,设想车辆9所行驶的车道1是汽车专用道路,因而举出了车道分界线4的白线部分的前后方向的长度是8m且空白部分4B的前后方向的长度是12m的情况的例子,但在车辆9所行驶的车道1是一般道路,且车道分界线4的白线部分的前后方向的长度是6m(或5m),空白部分4B的前后方向的长度是9m(或5m)的情况下,也能够应用本发明。在该情况下,根据车道分界线的白线部分的前后方向的长度和空白部分的前后方向的长度来变更第1基准值k和第3基准值n等。
另外,在上述实施例中,举出将行车车线识别装置11应用于四轮汽车的情况的例子,但应用本发明的行车车线识别装置的车辆的种类不受限定。
另外,在上述实施例中,以日本那样车辆在道路的左侧通行的规则的情况为前提进行了说明,但本发明也能够应用于例如美国那样车辆在道路的右侧通行的规则的情况。
另外,在上述实施例中,如图3所示的分界标线检测处理是技术方案的记载的“分界标线检测工序”的具体例,图8所示的行车车线识别处理是技术方案的记载的“行车车线识别工序”的具体例。
另外,本发明能够在不违反能够从权利要求书和说明书整体读取的发明的主旨或思想的范围内进行适当变更,伴随那样的变更的行车车线识别装置、行车车线识别方法以及程序也包含在本发明的技术思想中。
Claims (10)
1.一种行车车线识别装置,
该行车车线识别装置具备:
相机,其连续拍摄行驶在车道上的车辆的前方区域、后方区域、或左右方区域;
分界标线检测部,其通过所述相机连续拍摄得到的多张且连续的拍摄图像检测所述车道的分界标线;以及
行车车线识别部,其根据所述分界标线检测部检出的所述分界标线识别所述车道的多个车线中行驶有所述车辆的车线,所述车线是供车辆行驶的行车线,所述行车车线识别装置的特征在于,
所述分界标线检测部在多张所述拍摄图像中分别抽出预定的同一范围的图像作为检测对象图像,
所述分界标线检测部在各所述检测对象图像中识别存在线状标志的线状标志位置,
所述分界标线检测部按照多张所述拍摄图像的时间顺序重复进行图像检测处理,所述图像检测处理为,从与多张所述拍摄图像对应的多个所述检测对象图像中的所述线状标志位置检出白线或空白,
当所述图像检测处理的结果是从多个所述检测对象图像中的所述线状标志位置连续检出白线的次数为第1基准次数k以上的情况下,所述分界标线检测部判断在所述线状标志位置存在的所述线状标志是实线分界标线,其中,k是2以上的自然数,
当所述图像检测处理的结果是从多个所述检测对象图像中的所述线状标志位置连续检出白线的次数为第2基准次数m以上且小于所述第1基准次数k、以及连续检出空白的次数为第3基准次数n以上、并且该白线的检出和该空白的检出交替重复多次的情况下,所述分界标线检测部判断在所述线状标志位置存在的所述线状标志是虚线分界标线,其中,m是自然数,n是自然数,
所述行车车线识别部根据所述分界标线检测部检出的所述实线分界标线与所述车辆之间的位置关系、或所述分界标线检测部检出的所述虚线分界标线与所述车辆之间的位置关系,识别所述车道的多个车线中行驶有所述车辆的车线。
2.根据权利要求1所述的行车车线识别装置,其特征在于,
所述分界标线检测部在各所述拍摄图像中,抽出前后方向的长度比在所述车道上标出的车道分界线的空白部分的前后方向的长度短、且左右方向的长度为所述车道的1个车线的宽度的3倍以上范围的图像,作为所述检测对象图像。
3.根据权利要求2所述的行车车线识别装置,其特征在于,
假设所述相机拍摄的行驶有所述车辆的车道分界线为理想车道分界线的情况下,所述分界标线检测部根据所述理想车道分界线的空白部分的前后方向的长度、所述检测对象图像的前后方向的长度、所述车辆的行驶速度以及所述相机的拍摄速度算出所述理想车道分界线中不包括白线部分的所述检测对象图像连续获得的次数,并将该次数设定为第3基准次数n。
4.根据权利要求1所述的行车车线识别装置,其特征在于,
所述分界标线检测部在各所述拍摄图像中,抽出前后方向的长度比在所述车道上标出的车道分界线的白线部分的前后方向的长度短、且左右方向的长度为所述车道的1个车线的宽度的3倍以上范围的图像,作为所述检测对象图像。
5.根据权利要求4所述的行车车线识别装置,其特征在于,
假设所述相机拍摄的行驶有所述车辆的车道分界线为理想车道分界线的情况下,所述分界标线检测部根据所述理想车道分界线的白线部分的前后方向的长度、所述检测对象图像的前后方向的长度、所述车辆的行驶速度以及所述相机的拍摄速度算出连续得到不包含所述理想车道分界线中的空白部分的所述检测对象图像次数,并将该次数设定为第2基准次数m。
6.根据权利要求4所述的行车车线识别装置,其特征在于,
假设所述相机拍摄的所述车辆的行驶中的车道分界线为理想车道分界线的情况下,所述分界标线检测部根据所述理想车道分界线的白线部分的前后方向的长度、所述检测对象图像的前后方向的长度、所述车辆的行驶速度以及所述相机的拍摄速度算出连续得到不包含所述理想车道分界线中的空白部分的所述检测对象图像的次数,并将多于该次数的次数设定为第1基准次数k。
7.根据权利要求1至6中任一项所述的行车车线识别装置,其特征在于,
在从所述车辆左侧算起的第t条的所述分界标线是所述实线分界标线的情况下,所述行车车线识别部识别出所述车道的多个车线中行驶有所述车辆的车线是从所述车道的左端算起的第t个车线,其中,t是自然数。
8.根据权利要求1至6中任一项所述的行车车线识别装置,其特征在于,
在从所述车辆右侧算起的第t条的所述分界标线是所述实线分界标线的情况下,所述行车车线识别部识别出所述车道的多个车线中行驶有所述车辆的车线是从所述车道的右端算起的第t个车线,其中,t是自然数。
9.一种行车车线识别方法,其特征在于,
该行车车线识别方法具备:
分界标线检测工序,在该工序中,通过连续多张拍摄图像检测车道的分界标线,该连续多张拍摄图像是通过相机连续拍摄的行驶在所述车道的车辆的前方区域、后方区域、或左右方区域的图像;以及
行车车线识别工序,在该工序中,根据在所述分界标线检测工序中检出的所述分界标线,识别所述车道的多个车线中行驶有所述车辆的车线,所述车线是供车辆行驶的行车线,
在所述分界标线检测工序中,
在多张所述拍摄图像中分别抽出预定的同一范围的图像作为检测对象图像,
在各所述检测对象图像中识别存在线状标志的线状标志位置,
按照多张所述拍摄图像的拍摄时间顺序重复进行白线或空白的图像检测处理,所述白线或所述空白是从对应于多张所述拍摄图像的多个所述检测对象图像中的所述线状标志位置检出的,
当所述图像检测处理的结果是从多个所述检测对象图像中的所述线状标志位置连续检出白线的次数为第1基准次数k以上的情况下,判断在所述线状标志位置存在的所述线状标志是实线分界标线,其中,k是2以上的自然数,
当所述图像检测处理的结果是从多个所述检测对象图像中的所述线状标志位置连续检出白线的次数为第2基准次数m以上且小于所述第1基准次数k以及从所述线状标志位置连续检出空白的次数为第3基准次数n以上,并且该白线的检出和该空白的检出交替重复多次的情况下,判断在所述线状标志位置存在的所述线状标志是虚线分界标线,其中,m是自然数,n是自然数,
在所述行车车线识别工序中,根据在所述分界标线检测工序中检出的所述实线分界标线与所述车辆之间的位置关系、或在所述分界标线检测工序中检出的所述虚线分界标线与所述车辆之间的位置关系,识别所述车道的多个车线中行驶有所述车辆的车线。
10.一种计算机存储介质,其特征在于,
该计算机存储介质存储有计算机程序,该计算机程序被计算机执行时,执行权利要求9所述的行车车线识别方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019-090561 | 2019-05-13 | ||
JP2019090561A JP7255345B2 (ja) | 2019-05-13 | 2019-05-13 | 走行車線認識装置、走行車線認識方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111931547A CN111931547A (zh) | 2020-11-13 |
CN111931547B true CN111931547B (zh) | 2024-03-08 |
Family
ID=73221775
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010377535.6A Active CN111931547B (zh) | 2019-05-13 | 2020-05-07 | 行车车线识别装置、行车车线识别方法以及计算机存储介质 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11468691B2 (zh) |
JP (1) | JP7255345B2 (zh) |
CN (1) | CN111931547B (zh) |
FR (1) | FR3096130B1 (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112537302B (zh) * | 2020-11-30 | 2022-06-17 | 南通路远科技信息有限公司 | 一种无人驾驶交通载具车道保持方法、装置及交通载具 |
CN113705517A (zh) * | 2021-09-03 | 2021-11-26 | 杨宏伟 | 识别带有视觉标识的第二车辆的方法、车辆自动驾驶方法 |
CN113619606B (zh) * | 2021-09-17 | 2024-06-14 | 中国第一汽车股份有限公司 | 障碍物确定方法、装置、设备以及存储介质 |
CN114030473B (zh) * | 2021-11-30 | 2023-01-31 | 广州文远知行科技有限公司 | 车辆自动驾驶行为评估方法、装置、设备及存储介质 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004326214A (ja) * | 2003-04-22 | 2004-11-18 | Nissan Motor Co Ltd | 車線検出装置 |
CN1954350A (zh) * | 2004-05-19 | 2007-04-25 | 本田技研工业株式会社 | 车辆用行驶划分线识别装置 |
CN101447019A (zh) * | 2007-11-29 | 2009-06-03 | 爱信艾达株式会社 | 图像识别装置以及图像识别程序 |
JP2010271929A (ja) * | 2009-05-21 | 2010-12-02 | Denso Corp | 車線境界線種別推定装置及び車線境界線種別推定方法 |
JP2013003634A (ja) * | 2011-06-13 | 2013-01-07 | Toyota Motor Corp | 区画線認識装置、区画線認識方法、プログラム及び媒体 |
JP2014093018A (ja) * | 2012-11-06 | 2014-05-19 | Honda Elesys Co Ltd | 車線認識装置、運転支援装置、車線認識方法、および、車線認識プログラム |
CN104603841A (zh) * | 2012-08-30 | 2015-05-06 | 本田技研工业株式会社 | 行车线标识识别装置 |
JP2017156795A (ja) * | 2016-02-29 | 2017-09-07 | クラリオン株式会社 | 区画線認識装置 |
CN108154711A (zh) * | 2016-12-02 | 2018-06-12 | 铃木株式会社 | 驾驶辅助装置 |
CN108694374A (zh) * | 2017-03-31 | 2018-10-23 | 本田技研工业株式会社 | 车辆控制装置 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10320559A (ja) | 1997-05-20 | 1998-12-04 | Nissan Motor Co Ltd | 車両用走行路検出装置 |
US9098751B2 (en) | 2011-07-27 | 2015-08-04 | Gentex Corporation | System and method for periodic lane marker identification and tracking |
US9946940B2 (en) | 2014-12-18 | 2018-04-17 | Magna Electronics Inc. | Vehicle vision system with adaptive lane marker detection |
JP2017161501A (ja) * | 2016-03-07 | 2017-09-14 | 株式会社デンソー | 走行位置検出装置、走行位置検出方法 |
JP6729358B2 (ja) * | 2016-12-27 | 2020-07-22 | 株式会社デンソー | 認識装置 |
JP6547767B2 (ja) * | 2017-01-17 | 2019-07-24 | トヨタ自動車株式会社 | 車線内走行支援装置 |
KR20190012370A (ko) * | 2017-07-27 | 2019-02-11 | 삼성에스디에스 주식회사 | 차선 변경 지원 방법 및 장치 |
US10628671B2 (en) * | 2017-11-01 | 2020-04-21 | Here Global B.V. | Road modeling from overhead imagery |
EP3576008B1 (en) * | 2018-05-30 | 2023-12-27 | Aptiv Technologies Limited | Image based lane marking classification |
-
2019
- 2019-05-13 JP JP2019090561A patent/JP7255345B2/ja active Active
-
2020
- 2020-05-01 US US16/865,298 patent/US11468691B2/en active Active
- 2020-05-06 FR FR2004488A patent/FR3096130B1/fr active Active
- 2020-05-07 CN CN202010377535.6A patent/CN111931547B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004326214A (ja) * | 2003-04-22 | 2004-11-18 | Nissan Motor Co Ltd | 車線検出装置 |
CN1954350A (zh) * | 2004-05-19 | 2007-04-25 | 本田技研工业株式会社 | 车辆用行驶划分线识别装置 |
CN101447019A (zh) * | 2007-11-29 | 2009-06-03 | 爱信艾达株式会社 | 图像识别装置以及图像识别程序 |
JP2010271929A (ja) * | 2009-05-21 | 2010-12-02 | Denso Corp | 車線境界線種別推定装置及び車線境界線種別推定方法 |
JP2013003634A (ja) * | 2011-06-13 | 2013-01-07 | Toyota Motor Corp | 区画線認識装置、区画線認識方法、プログラム及び媒体 |
CN104603841A (zh) * | 2012-08-30 | 2015-05-06 | 本田技研工业株式会社 | 行车线标识识别装置 |
JP2014093018A (ja) * | 2012-11-06 | 2014-05-19 | Honda Elesys Co Ltd | 車線認識装置、運転支援装置、車線認識方法、および、車線認識プログラム |
JP2017156795A (ja) * | 2016-02-29 | 2017-09-07 | クラリオン株式会社 | 区画線認識装置 |
CN108154711A (zh) * | 2016-12-02 | 2018-06-12 | 铃木株式会社 | 驾驶辅助装置 |
CN108694374A (zh) * | 2017-03-31 | 2018-10-23 | 本田技研工业株式会社 | 车辆控制装置 |
Non-Patent Citations (1)
Title |
---|
基于机器视觉的智能车路径识别与控制系统研究;朱志超;《中国优秀硕士学位论文全文数据库》(第07期);I138-1180 * |
Also Published As
Publication number | Publication date |
---|---|
CN111931547A (zh) | 2020-11-13 |
US20200364470A1 (en) | 2020-11-19 |
JP2020187474A (ja) | 2020-11-19 |
JP7255345B2 (ja) | 2023-04-11 |
FR3096130A1 (fr) | 2020-11-20 |
US11468691B2 (en) | 2022-10-11 |
FR3096130B1 (fr) | 2022-06-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111931547B (zh) | 行车车线识别装置、行车车线识别方法以及计算机存储介质 | |
CN107851387B (zh) | 信号机识别装置及信号机识别方法 | |
EP2927054B1 (en) | On-vehicle control device | |
US20100110193A1 (en) | Lane recognition device, vehicle, lane recognition method, and lane recognition program | |
EP2963634B1 (en) | Stereo camera device | |
CN104871523B (zh) | 车载用控制装置 | |
CN110991214B (zh) | 车道线识别装置 | |
CN106394406A (zh) | 用于车辆的摄像机装置 | |
US9077907B2 (en) | Image processing apparatus | |
JP5561064B2 (ja) | 車両用対象物認識装置 | |
JP2020067698A (ja) | 区画線検出装置及び区画線検出方法 | |
JP4901275B2 (ja) | 走行誘導障害物検出装置および車両用制御装置 | |
JP6911312B2 (ja) | 物体識別装置 | |
CN110088801B (zh) | 可行驶区域检测装置以及行驶辅助系统 | |
CN114084153A (zh) | 物体检测装置、物体检测方法以及物体检测用计算机程序 | |
KR20160088986A (ko) | 소실점 기반의 양안시차를 이용한 차선 검출 방법 | |
JP7095559B2 (ja) | 区画線検出装置及び区画線検出方法 | |
KR102158169B1 (ko) | 차선 인식장치 | |
JP2020109560A (ja) | 信号機認識方法及び信号機認識装置 | |
CN114746915A (zh) | 信号机识别方法及信号机识别装置 | |
KR101461316B1 (ko) | 듀얼 카메라를 포함하는 무인차의 컬러 마커 기반 무인 운전 시스템 및 그 방법 | |
JP7484783B2 (ja) | 車線境界検出装置、車線境界検出方法及び車線境界検出用コンピュータプログラム | |
JP7463997B2 (ja) | 車両制御装置、車両制御方法及び車両制御用コンピュータプログラム | |
JP2000099896A (ja) | 走行路検出装置、車両走行制御装置および記録媒体 | |
WO2014050285A1 (ja) | ステレオカメラ装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |