JP2020004171A - 車両用ライン検出装置および該方法 - Google Patents

車両用ライン検出装置および該方法 Download PDF

Info

Publication number
JP2020004171A
JP2020004171A JP2018124156A JP2018124156A JP2020004171A JP 2020004171 A JP2020004171 A JP 2020004171A JP 2018124156 A JP2018124156 A JP 2018124156A JP 2018124156 A JP2018124156 A JP 2018124156A JP 2020004171 A JP2020004171 A JP 2020004171A
Authority
JP
Japan
Prior art keywords
line
lines
road
pair
processing unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018124156A
Other languages
English (en)
Other versions
JP7131131B2 (ja
Inventor
順基 田丸
Junki Tamaru
順基 田丸
貴行 森谷
Takayuki Moriya
貴行 森谷
浩之 宇江田
Hiroyuki Ueda
浩之 宇江田
英明 玉積
Hideaki Tamazumi
英明 玉積
祥寛 山本
Yoshihiro Yamamoto
祥寛 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mazda Motor Corp
Original Assignee
Mazda Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mazda Motor Corp filed Critical Mazda Motor Corp
Priority to JP2018124156A priority Critical patent/JP7131131B2/ja
Priority to CN201910543693.1A priority patent/CN110659553A/zh
Priority to EP19181568.7A priority patent/EP3588374A1/en
Priority to US16/448,009 priority patent/US11100340B2/en
Publication of JP2020004171A publication Critical patent/JP2020004171A/ja
Application granted granted Critical
Publication of JP7131131B2 publication Critical patent/JP7131131B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • G01C11/08Interpretation of pictures by comparison of two or more pictures of the same area the pictures not being supported in the same relative position as when they were taken
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/254Fusion techniques of classification results, e.g. of results related to same input data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/809Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of classification results, e.g. where the classifiers operate on the same input data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/147Details of sensors, e.g. sensor lenses

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】本発明は、道路上のラインをより精度良く検出できる車両用ライン検出装置および該方法を提供する。【解決手段】本発明の車両用ライン検出装置LDは、車両に搭載され、路面を含むように前記車両の前方、右側および左側それぞれを撮像することで前方画像、右側方画像および左側方画像それぞれを生成する前方撮像部1、右側方撮像部2および左側方撮像部3と、前方画像から道路上のラインを第1ラインとして求め、右側方画像から道路上のラインを第2ラインとして求め、左側方画像から道路上のラインを第3ラインとして求めるライン抽出処理部42とを備え、前記第1ないし第3ラインに基づいて、前記道路上のラインを決定する互いに異なる複数のアルゴリズムの中から1つのアルゴリズムを選択し、前記選択したアルゴリズムで前記第1ないし第3ラインに基づいて前記道路上のラインを最終的に求める。【選択図】図1

Description

本発明は、道路上のラインを検出する車両用ライン検出装置および車両用ライン検出方法に関する。
近年、例えば運転支援や自動運転等の車両制御を実施するために、例えば車道中央線(センターライン)や車線境界線(レーンマーカ)等の、道路上のラインを検出する技術が研究、開発されており、例えば、特許文献1に開示されている。
前記特許文献1に開示された車両用ライン検出装置は、車両前方の道路を撮影する第1撮影手段と、車両側方直下の道路を撮影する第2撮影手段と、前記第1撮影手段あるいは前記第2撮影手段のいずれか一方で得られた画像から道路上のラインを検出する第1検出手段と、検出されたライン位置に基づいて他方の撮影手段で得られた画像内の道路上のラインを検出する第2検出手段と、を有する。より具体的には、例えば、第1撮影手段で得られた前方画像から、道路の冠水により太陽光が鏡面反射する場合等で道路の白線を明瞭に取得できない場合に、前記特許文献1に開示された車両用ライン検出装置は、第2撮影手段で得られた側方直下画像から白線を検出し、この検出結果に基づいて前方画像内における白線位置を推定し、この推定結果に基づいて前方画像から例えばパターンマッチングで白線を検出する(例えば、前記特許文献1の[0018]段落、[0020]段落および[0023]段落参照)。
特開平11−167636号公報
ところで、低コスト化や取扱いの容易化等を図るために、車両の前方を撮像するカメラ(前方のカメラ)および前記車両の側方を撮像するカメラ(側方のカメラ)それぞれに、同一製品のカメラが利用される場合がある。このような場合、前方のカメラは、水平方向に広く、かつ、走行方向の近くから遠くまでの相対的に広い範囲を撮像する一方、側方のカメラは、車両に近在の相対的に狭い範囲を撮像する。したがって、1画素当たりに含まれる被写体の範囲は、側方のカメラで撮像された画像(側方画像)に較べて前方のカメラで撮像された画像(前方画像)の方が広くなる。このため、側方画像から道路上のラインの位置が比較的精度良く検出できる一方、側方画像に較べて前方画像は、不明瞭となってしまい、前方画像から、道路上のラインを検出する検出精度が低くなってしまう場合がある。前記特許文献1に開示された車両用ライン検出装置でも、推定位置でラインを検出しようとしても、画像自体が不明瞭であれば、同様に、道路上のラインに対する検出精度が低くなってしまう。
また、側方のカメラは、相対的に狭い範囲を撮像するので、側方画像から検出されたラインが、真に単一ラインであるか、二重ラインのうちの一方のラインであるかを判定し難い場合がある。すなわち、側方のカメラ(側方画像)では、単一ラインおよび二重ラインそれぞれを検出する検出精度が低くなってしまう。
本発明は、上述の事情に鑑みて為された発明であり、その目的は、道路上のラインをより精度良く検出できる車両用ライン検出装置および車両用ライン検出方法を提供することである。
本発明者は、種々検討した結果、上記目的は、以下の本発明により達成されることを見出した。すなわち、本発明の一態様にかかる車両用ライン検出装置は、車両に搭載され、路面を含むように前記車両の前方を撮像することで前方画像を生成する第1撮像部と、前記車両に搭載され、路面を含むように前記車両の一方側を撮像することで一方側画像を生成する第2撮像部と、前記第1撮像部で生成された前方画像から道路上のラインを第1ラインとして求める第1ライン抽出処理部と、前記第2撮像部で生成された一方側画像から道路上のラインを第2ラインとして求める第2ライン抽出処理部と、前記第1および第2ライン抽出処理部それぞれで求めた第1および第2ラインに基づいて、前記道路上のラインを決定する互いに異なる複数のアルゴリズムの中から1つのアルゴリズムを選択し、前記選択したアルゴリズムで前記第1および第2ラインに基づいて前記道路上のラインを最終的に求めるライン決定処理部とを備える。
このような車両用ライン検出装置は、前記道路上のラインを決定する互いに異なる複数のアルゴリズムの中から1つのアルゴリズムを選択し、前記選択したアルゴリズムで前記第1および第2ラインに基づいて前記道路上のラインを最終的に求めるので、複数のアルゴリズムの中から、前記道路上のラインを最終的に求めるために適したアルゴリズムを選択でき、この適したアルゴリズムを用いるから、前記道路上のラインをより精度良く検出できる。
他の一態様では、上述の車両用ライン検出装置において、前記道路上のラインは、主ラインと、前記主ラインを除く他の副ラインとを含み、前記複数のアルゴリズムは、前記第2ライン抽出処理部で求められた第2ラインを前記副ラインとみなし、前記第1ライン抽出処理部で求めた第1ラインを前記道路上の主ラインとすることで前記道路上の主ラインを最終的に求める第1アルゴリズムを含む。
このような車両用ライン検出装置は、前記副ラインとみなした、前記第2ライン抽出処理部で求められた第2ラインを用いることなく、前記第1ライン抽出処理部で求めた第1ラインを前記道路上の主ラインとするので、前記道路上のラインをより精度良く検出できる。
他の一態様では、これら上述の車両用ライン検出装置において、前記道路上のラインは、主ラインと、前記主ラインを除く他の副ラインとを含み、前記複数のアルゴリズムは、前記第2ライン抽出処理部で求められた第2ラインを前記主ラインとみなし、前記第1ライン抽出処理部で求めた第1ラインおよび前記第2ライン抽出処理部で求めた第2ラインに基づいて前記道路上の主ラインを最終的に求める第2アルゴリズムを含む。
このような車両用ライン検出装置は、前記第1ライン抽出処理部で求めた第1ラインだけでなく、前記主ラインとみなした、前記第2ライン抽出処理部で求められた第2ラインも用いるので、前記道路上のラインをより精度良く検出できる。
他の一態様では、これら上述の車両用ライン検出装置において、前記道路上のラインは、主ラインと、前記主ラインを除く他の副ラインとを含み、前記副ラインは、前記主ラインから所定の間隔を空けて前記主ラインに平行な補助ラインを含み、前記複数のアルゴリズムは、前記第2ライン抽出処理部で求められた第2ラインを前記補助ラインとみなし、前記第2ライン抽出処理部で求められた第2ラインおよび前記所定の間隔に基づいて前記主ラインを推定ラインとして推定し、前記第1ライン抽出処理部で求められた第1ラインおよび前記推定した第1推定ラインに基づいて前記道路上の主ラインを最終的に求める第3アルゴリズムを含む。
このような車両用ライン検出装置は、前記補助ラインとみなした、前記第2ライン抽出処理部で求められた第2ラインに基づいて前記主ラインを推定ラインとして推定し、前記第1ライン抽出処理部で求めた第1ラインだけでなく、前記推定した推定ラインも用いるので、前記道路上のラインをより精度良く検出できる。
他の一態様では、上述の車両用ライン検出装置において、前記車両に搭載され、路面を含むように前記車両の他方側を撮像することで他方側画像を生成する第3撮像部と、前記第3撮像部で生成された他方側画像から道路上のラインを第3ラインとして求める第3ライン抽出処理部とをさらに備え、前記ライン決定処理部は、前記第1ないし第3ライン抽出処理部それぞれで求めた第1ないし第3ラインに基づいて、前記複数のアルゴリズムの中から1つのアルゴリズムを選択し、前記選択したアルゴリズムで前記第1ないし第3ラインに基づいて前記道路上のラインを最終的に求める。
このような車両用ライン検出装置は、前記道路上のラインを決定する互いに異なる複数のアルゴリズムの中から1つのアルゴリズムを選択し、前記選択したアルゴリズムで前記第1ないし第3ラインに基づいて前記道路上のラインを最終的に求めるので、複数のアルゴリズムの中から、前記道路上のラインを最終的に求めるために適したアルゴリズムを選択でき、この適したアルゴリズムを用いるから、前記道路上のラインをより精度良く検出できる。
他の一態様では、上述の車両用ライン検出装置において、前記道路上のラインは、車線の境界を表す左右1対の主ラインと、前記左右1対の主ラインを除く他の副ラインとを含み、前記第1ライン抽出処理部は、前記第1撮像部で撮像された前方画像から前記道路上の左右1対の主ラインを左右1対の第1ラインとして求め、前記ライン決定処理部は、前記第1ないし第3ライン抽出処理部それぞれで求めた左右1対の第1ライン、第2ラインおよび第3ラインに基づいて、前記複数のアルゴリズムの中から1つのアルゴリズムを選択し、前記選択したアルゴリズムで前記左右1対の第1ライン、第2ラインおよび第3ラインに基づいて、前記道路上の左右1対の主ラインを最終的に求める。
このような車両用ライン検出装置は、車線の境界を表す左右1対の主ラインをより精度良く検出できる。
他の一態様では、上述の車両用ライン検出装置において、前記複数のアルゴリズムは、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインを前記副ライン(前記副ラインに含まれる第1および第2副ライン)とみなし、前記第1ライン抽出処理部で求めた左右1対の第1ラインを前記道路上の左右1対の主ラインとすることで前記道路上の左右1対の主ラインを最終的に求める第1アルゴリズムを含む。
このような車両用ライン検出装置は、前記副ラインとみなした、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインを用いることなく、前記第1ライン抽出処理部で求めた左右1対の第1ラインを前記道路上の左右1対の主ラインとするので、車線の境界を表す、前記道路上の左右1対の主ラインをより精度良く検出できる。
他の一態様では、上述の車両用ライン検出装置において、前記副ラインは、横断歩道を表す、所定の規約に基づいて形成された複数のラインから成る横断歩道ラインを含み、前記第1アルゴリズムは、前記第1ライン抽出処理部で求められた左右1対の第1ラインに基づいて前記車線の第1車線幅を求め、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインに基づいて前記車線の第2車線幅を求め、前記求めた第1車線幅と第2車線幅との差が前記規約に基づく所定の第1範囲以内である場合、または、前記第1ライン抽出処理部で求められた左右1対の第1ラインのうちの一方の第1ラインより前記第2ライン抽出処理部で求められた第2ラインが前記規約に基づく所定の閾値以上内側である場合および前記第1ライン抽出処理部で求められた左右1対の第1ラインのうちの他方の第1ラインより前記第3ライン抽出処理部で求められた第3ラインが前記閾値以上内側である場合のうちの少なくとも一方である場合に、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインを前記横断歩道ラインとみなし、前記第1ライン抽出処理部で求めた左右1対の第1ラインを前記道路上の左右1対の主ラインとすることで前記道路上の左右1対の主ラインを最終的に求める。好ましくは、前記規約は、道路法に基づく道路標識、区画線および道路標識に関する命令であり、前記第1範囲は、0.65m〜1mであり、前記閾値は、0.35mである。
このような車両用ライン検出装置は、路面に横断歩道ラインが形成されている場合でも、前記第1ライン抽出処理部で求めた左右1対の第1ラインを前記道路上の左右1対の主ラインとするので、車線の境界を表す、前記道路上の左右1対のラインをより精度良く検出できる。
他の一態様では、上述の車両用ライン検出装置において、前記道路上の左右1対の主ラインは、所定の規約に基づいて形成された、車道中央線および車線境界線、または、1対の車線境界線であり、前記複数のアルゴリズムは、前記第1ライン抽出処理部で求められた左右1対の第1ラインに基づいて前記車線の第1車線幅を求め、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインに基づいて前記車線の第2車線幅を求め、前記求めた第1車線幅と第2車線幅との差が前記規約に基づく所定の第2範囲以内ではない場合に、前記第1ライン抽出処理部で求められた左右1対の第1ラインならびに前記第2および第3ライン抽出処理部それぞれで求めた第2および第3ラインに基づいて前記道路上の左右1対の主ラインを最終的に求める第2アルゴリズムを含む。好ましくは、前記規約は、上述の前記命令であり、前記第2範囲は、0.1m〜0.65mである。
このような車両用ライン検出装置は、前記第1ライン抽出処理部で求めた左右1対の第1ラインだけでなく、前記左右1対の主ラインとみなした、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインも用いるので、車線の境界を表す、前記道路上の左右1対のラインをより精度良く検出できる。
他の一態様では、これら上述の車両用ライン検出装置において、前記道路上の左右1対の主ラインは、所定の規約に基づいて形成された、車道中央線および車線境界線、または、1対の車線境界線であり、前記副ラインは、前記主ラインから所定の間隔を空けて前記主ラインに平行な補助ラインを含み、前記複数のアルゴリズムは、前記第1ライン抽出処理部で求められた左右1対の第1ラインに基づいて前記車線の第1車線幅を求め、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインに基づいて前記車線の第2車線幅を求め、前記求めた第1車線幅と第2車線幅との差が前記規約に基づく所定の第2範囲以内である場合に、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインのうちの少なくとも一方を前記補助ラインとみなし、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方および前記所定の間隔に基づいて、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方に対する主ラインを推定ラインとして推定し、前記第1ライン抽出処理部で求められた左右1対の第1ライン、および、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方の、前記推定した推定ラインに基づいて、前記道路上の左右1対の主ラインを最終的に求める第3アルゴリズムを含む。好ましくは、前記規約は、上述の前記命令であり、前記第2範囲は、0.1m〜0.65mであり、前記第4範囲は、0.1m〜0.35mである。
このような車両用ライン検出装置は、前記補助ラインとみなした、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインのうちの少なくとも一方に基づいて前記主ラインを推定ラインとして推定し、前記第1ライン抽出処理部で求めた左右1対の第1ラインだけでなく、前記推定した推定ラインも用いるので、車線の境界を表す、前記道路上の左右1対のラインをより精度良く検出できる。
他の一態様では、上述の車両用ライン検出装置において、前記道路上のラインは、車線の境界を表す左右1対の主ラインと、前記左右1対の主ラインを除く他の副ラインとを含み、前記副ラインは、前記主ラインから所定の間隔を空けて前記主ラインに平行な補助ラインを含み、前記第1ライン抽出処理部は、前記第1撮像部で撮像された前方画像から前記道路上の左右1対の主ラインのうちの一方を第1ラインとして求め、前記複数のアルゴリズムは、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインのうち、前記道路上の左右1対の主ラインのうちの前記一方に対応するラインを第4ラインとし、前記第4ラインが、所定の時間以上、前記第1ラインより、所定の規約に基づく所定の第3範囲だけ内側である場合であって、かつ、前記第4ラインが前記第1ラインより前記規約に基づく所定の第4範囲だけ内側である場合、前記第4ラインを前記補助ラインとみなし、前記第4ラインおよび前記所定の間隔に基づいて前記一方の主ラインを推定ラインとして推定し、前記一方の第1ラインおよび前記推定した推定ラインに基づいて、前記道路上の左右1対の主ラインのうちの一方を最終的に求める第4アルゴリズムを含む。好ましくは、前記規約は、上述の前記命令であり、前記第3範囲は、0.1m〜1mであり、前記第4範囲は、0.1m〜0.35mである。
このような車両用ライン検出装置は、前記第1ないし第3ライン抽出処理部において、車線の境界を表す左右1対の主ラインのうちの一方が求められている場合に、前記一方において、前記補助ラインとみなした、前記第4ラインに基づいて前記主ラインを推定ラインとして推定し、前記第1ライン抽出処理部で求めた一方の第1ラインだけでなく、前記推定した推定ラインも用いるので、車線の境界を表す、前記道路上の左右1対の主ラインをより精度良く検出できる。
他の一態様では、上述の車両用ライン検出装置において、前記副ラインは、横断歩道を表す、所定の規約に基づいて形成された複数のラインから成る横断歩道ラインであり、前記第4アルゴリズムは、さらに、前記第4ラインが、所定の時間以上、前記第1ラインより、所定の規約に基づく所定の第3範囲だけ内側である場合、および、前記第4ラインが前記第1ラインより前記規約に基づく所定の第4範囲だけ内側である場合、のうちの少なくとも一方を満たさない場合であって、前記第4ラインが前記第1ラインより前記第4範囲だけ内側である場合に、前記第4ラインを前記横断歩道ラインとみなし、前記一方の第1ライン自体で前記道路上の左右1対の主ラインのうちの一方を最終的に求める。
このような車両用ライン検出装置は、前記一方において、路面に横断歩道ラインが形成されている場合でも、前記一方の第1ライン自体で前記道路上の左右1対の主ラインのうちの一方を最終的に求めるので、車線の境界を表す、前記道路上の左右1対のラインをより精度良く検出できる。
他の一態様では、上述の車両用ライン検出装置において、前記第4アルゴリズムは、さらに、前記第4ラインが所定の時間以上前記第1ラインより、所定の規約に基づく所定の第3範囲だけ内側である場合、および、前記第4ラインが前記第1ラインより前記規約に基づく所定の第4範囲だけ内側である場合、のうちの少なくとも一方を満たさない場合であって、前記第4ラインが前記第1ラインより前記第4範囲だけ内側である場合を満たさない場合に、前記第4ラインおよび前記一方の第1ラインに基づいて前記道路上の左右1対の主ラインのうちの一方を最終的に求める。
このような車両用ライン検出装置は、前記一方において、前記一方の第1ラインだけでなく、前記主ラインとみなした前記第4ラインも用いるので、車線の境界を表す、前記道路上の左右1対の主ラインをより精度良く検出できる。
本発明の他の一態様にかかる車両用ライン検出方法は、路面を含むように車両の前方を撮像することで前方画像を生成する第1撮像工程と、路面を含むように前記車両の一方側を撮像することで一方側画像を生成する第2撮像工程と、前記第1撮像工程で生成された前方画像から道路上のラインを第1ラインとして求める第1ライン抽出処理工程と、前記第2撮像工程で生成された一方側画像から道路上のラインを第2ラインとして求める第2ライン抽出処理工程と、前記第1および第2ライン抽出処理工程それぞれで求めた第1および第2ラインに基づいて、前記道路上のラインを決定する互いに異なる複数のアルゴリズムの中から1つのアルゴリズムを選択し、前記選択したアルゴリズムで前記第1および第2ラインに基づいて前記道路上のラインを最終的に求めるライン決定処理工程とを備える。
車両用ライン検出方法は、前記道路上のラインを決定する互いに異なる複数のアルゴリズムの中から1つのアルゴリズムを選択し、前記選択したアルゴリズムで前記第1および第2ラインに基づいて前記道路上のラインを最終的に求めるので、複数のアルゴリズムの中から、前記道路上のラインを最終的に求めるために適したアルゴリズムを選択でき、この適したアルゴリズムを用いるから、前記道路上のラインをより精度良く検出できる。
本発明にかかる車両用ライン検出装置および車両用ライン検出方法は、道路上のラインをより精度良く検出できる。
実施形態における車両用ライン検出装置の構成を示すブロック図である。 前記車両用ライン検出装置におけるライン検出に関する全体動作を示すフローチャートである。 前記全体動作における第1ライン処理の動作を示すフローチャートである。 前記全体動作における第2ライン処理の動作を示すフローチャートである。 前記全体動作における第3ライン処理の動作を示すフローチャートである。 前記全体動作におけるライン検出に関する動作を説明するための図である。
以下、本発明にかかる実施の一形態を図面に基づいて説明する。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、適宜、その説明を省略する。本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。
図1は、実施形態における車両用ライン検出装置の構成を示すブロック図である。本実施形態における車両用ライン検出装置は、例えば乗用車、トラック、フォークリフトおよび工場用部品等搬送車等の車両に搭載され、路面上に形成されたラインを検出する装置である。例えば、図1に示すように、実施形態における車両用ライン検出装置LDは、前方撮像部1と、右側方撮像部2と、左側方撮像部3と、制御処理部4と、記憶部7とを備える。そして、本実施形態では、その検出結果を利用するために、実施形態における車両用ライン検出装置LDは、出力部5と、操舵部6とをさらに備える。
前方撮像部1、右側方撮像部2および左側方撮像部3は、それぞれ、制御処理部4に接続され、制御処理部4の制御に従って画像を生成する装置であり、例えば、被写体の光学像を所定の結像面上に結像する結像光学系、前記結像面に受光面を一致させて配置され、前記被写体の光学像を電気的な信号に変換するエリアイメージセンサ、および、エリアイメージセンサの出力を画像処理することで前記被写体の画像を表すデータである画像データを生成する画像処理部等を備えるデジタルカメラである。これら前方撮像部1、右側方撮像部2および左側方撮像部3は、1つの購入先から多数を購入することで、あるいは、多数を生産することで、低コスト化を図り、一種類とすることで取扱いの容易化を図るために、同種の製品であることが好ましい。
前方撮像部1は、路面を含むように、車両の前方を撮像するように、前記車両に搭載される。例えば、前方撮像部1は、前記車両内において、フロントガラス近傍の天井面(ルーフ内側面)に、路面を含むように、車両の前方を撮像するように、その撮影方向(光軸方向)を斜め下方に向けて配設される。これによって、前方撮像部1は、路面を含むように前記車両の前方を撮像することで前方画像を生成する。
右側方撮像部2は、路面を含むように、前記車両の一方側(ここでは右側)を撮像するように、前記車両に搭載される。例えば、右側方撮像部2は、その対物レンズが保護ガラスを介して外部に臨むように前記車両の右ドアミラに内蔵され、路面を含むように、車両の右側を撮像するように、その撮影方向(光軸方向)を、前記車両側面から離れる外方にかつ斜め下方に向けて、前記右ドアミラ内に配設される。これによって、前方撮像部1は、路面を含むように前記車両の右側を撮像することで右側方画像を生成する。
左側方撮像部3は、路面を含むように、前記車両の他方側(ここでは左側)を撮像するように、前記車両に搭載される。例えば、左側方撮像部3は、その対物レンズが保護ガラスを介して外部に臨むように前記車両の左ドアミラに内蔵され、路面を含むように、車両の左側を撮像するように、その撮影方向(光軸方向)を、前記車両側面から離れる外方にかつ斜め下方に向けて、前記左ドアミラ内に配設される。これによって、前方撮像部1は、路面を含むように前記車両の左側を撮像することで左側方画像を生成する。
なお、本実施形態では、前方撮像部1は、第1撮像部の一例に相当する。右側方撮像部2は、第2撮像部の一例に相当し、前記右側方画像は、一方側画像の一例に相当する。左側方撮像部3は、第3撮像部の一例に相当し、前記左側方画像は、他方側画像の一例に相当する。
出力部5は、制御処理部4に接続され、制御処理部4の制御に従って所定の情報を出力する装置である。前記所定の情報は、任意の種々の情報であって良いが、例えば、本実施形態では、車線の逸脱の警告を表す情報や後述のように検出したライン(検出結果)を表す情報等である。出力部5は、例えば、制御処理部4の制御に従って、音を表す電気信号に応じた音を生成して出力するブザーやスピーカ等であり、車線の逸脱を警告するための警告音や警告メッセージ等を出力する。あるいは、例えば、出力部5は、制御処理部4の制御に従って所定の情報を表示する、例えば液晶表示装置や有機EL表示装置等の表示装置であり、前記検出結果や前記警告メッセージ等を表示して出力する。
操舵部6は、制御処理部4に接続され、制御処理部4の制御に従って前記車両の操舵を行う、あるいは、前記車両の操舵を支援する装置である。操舵部6は、例えば、制御処理部4の制御に従って前記車両が車線を維持するように操舵を制御する。
記憶部7は、制御処理部4に接続され、制御処理部4の制御に従って各種の所定のプログラムおよび各種の所定のデータを記憶する回路である。前記各種の所定のプログラムには、例えば、車両用ライン検出装置LDの各部1〜3、5〜7を当該各部の機能に応じてそれぞれ制御する制御プログラムや、前方画像、右側方画像および左側方画像の各画像から道路上のラインを求めるライン抽出処理プログラムや、道路上のラインを決定する互いに異なる複数のアルゴリズムを用いることによって、前記ライン抽出処理プログラムで求められたラインに基づいて車線を検出する車線検出処理プログラムや、前記車線検出処理プログラムで検出した車線に基づいて、出力部5で、前記車線の逸脱を警告する警告処理プログラムや、前記車線検出処理プログラムで検出した車線に基づいて、操舵部6で、前記車両(自車両)が前記車線を維持するように操舵を制御する操舵制御プログラム等の制御処理プログラムが含まれる。前記各種の所定のデータには、後述の第1ないし第4範囲や、後述の閾値や、警告音(または警告メッセージ)のデータ等の、各プログラムを実行する上で必要なデータ等が含まれる。記憶部7は、例えば不揮発性の記憶素子であるROM(Read Only Memory)や書き換え可能な不揮発性の記憶素子であるEEPROM(Electrically Erasable Programmable Read Only Memory)等を備える。そして、記憶部7は、前記所定のプログラムの実行中に生じるデータ等を記憶するいわゆる制御処理部4のワーキングメモリとなるRAM(Random Access Memory)等を含む。
制御処理部4は、車両用ライン検出装置LDの各部1〜3、5〜7を当該各部の機能に応じてそれぞれ制御し、道路上のラインを求めるための回路である。制御処理部4は、例えば、CPU(Central Processing Unit)およびその周辺回路を備えて構成される。制御処理部4は、前記制御処理プログラムが実行されることによって、制御部41、ライン抽出処理部42、車線検出処理部43、警告処理部44および操舵処理部45を機能的に備える。車線検出処理部43は、第1ライン処理部431、第2ライン処理部432、第3ライン処理部433、第4ライン処理部434および車線処理部435を機能的に備える。
制御部41は、車両用ライン検出装置LDの各部1〜3、5〜7を当該各部の機能に応じてそれぞれ制御し、車両用ライン検出装置LDの全体制御を司るものである。
ライン抽出処理部42は、前方撮像部1で生成された前方画像から道路上のラインを第1ラインとして求め、右側方撮像部2で生成された右側方画像から道路上のラインを第2ラインとして求め、そして、左側方撮像部3で生成された左側方画像から道路上のラインを第3ラインとして求めるものである。画像からラインを抽出するライン抽出処理は、公知の処理手法が用いられる。例えば、前記特許文献1に開示されているように、予め白線を示すテンプレート画像を用意し、前記テンプレート画像とカメラで得られた画像とのマッチングを行って白線位置を検出するテンプレートマッチング法を用いて白線が求められる。あるいは、例えば、特開平7−85249号公報に開示されているように、白線探索エリア内で横方向に明度変化が探索され、明度変化の極めて少ない部分が道路部分であると判断され、明度変化の極めて少ない道路部分に隣接して該明度変化が大きい部分が白線であると判断される。あるいは、例えば、特開2007−220013号公報に開示されているように、走行路上の画像からエッジ検出により白線の候補となる構造物が検出され、前記白線の候補となる構造物の位置に対して所定の複数の相対位置にそれぞれ所定の構造物が存在するか否かが判定され、この判定結果に基づいて前記白線の候補となる構造物が白線であるか否かが判定される。ここで、前記所定の複数の相対位置および前記所定の構造物は、路上の複数の構造物が有する特有の相対位置関係を基に定められている。
なお、ライン抽出処理部42は、第1ライン抽出処理部の一例であり、第2ライン抽出処理部の一例であり、そして、第3ライン抽出処理部の一例である。
車線検出処理部43は、ライン抽出処理部42で求めた第1ないし第3ラインに基づいて、記憶部7に予め記憶されている、道路上のラインを決定する互いに異なる複数のアルゴリズムの中から1つのアルゴリズムを選択し、この選択したアルゴリズムで第1ないし第3ラインに基づいて道路上のラインを最終的に求め、この求めた道路上のラインに基づいて車線を検出するものである。前記道路上のラインは、路面に形成された、道路標示や区画線等に関するラインであり、本実施形態では、例えば、主ライン(本実施形態では左右1対の主ライン)と、前記主ラインを除く他の副ラインとを含む。このため、ライン抽出処理部42は、前方撮像部1で撮像された前方画像から前記道路上の左右1対の主ラインを左右1対の第1ラインとして求める。好ましくは、前記左右1対の主ラインは、所定の規約に基づいて形成された車道中央線および車線境界線、または、1対の車線境界線である。好ましくは、前記副ラインは、前記主ラインから、車線の幅方向に所定の間隔を空けて、前記主ラインに平行な補助ライン、および、横断歩道を表す、所定の規約に基づいて形成された複数のラインから成る横断歩道ラインを含む。前記所定の規約は、任意であって良いが、例えば、日本での、道路法に基づく道路標識、区画線および道路標識に関する命令である。例えば、車線幅(車線幅員)D1は、3.0m〜3.5mであり、車道中央線、車線境界線および補助ラインにおける各幅d1は、それぞれ、0.1m〜0.15mであり、車線境界線と補助ラインとの間隔d2は、車線境界線および補助ラインにおける各幅d1と同一あり(d1=d2)、横断歩道ラインの各ラインは、それぞれ、幅D2が0.45m〜0.5mであって各間隔D3が0.45m〜0.5mである。
より具体的には、車線検出処理部43は、ライン抽出処理部42で求めた第1および第2ラインに基づいて、前記複数のアルゴリズムの中から1つのアルゴリズムを選択し、この選択したアルゴリズムで第1および第2ラインに基づいて道路上の一方側のライン、本実施形態では左右1対の主ラインのうちの右の主ラインを最終的に求め、ライン抽出処理部42で求めた第1および第3ラインに基づいて、前記複数のアルゴリズムの中から1つのアルゴリズムを選択し、この選択したアルゴリズムで第1および第3ラインに基づいて道路上の他方側のライン、本実施形態では左右1対の主ラインのうちの左の主ラインを最終的に求め、これら求めた道路上の左右1対の主ラインに基づいて車線を検出する。好ましくは、前記複数のアルゴリズムは、例えば、第1ないし第4アルゴリズムを含む。
第1アルゴリズムは、第2ラインを副ラインとみなし、第1ラインを道路上の主ラインとすることで前記道路上の主ラインを最終的に求めるアルゴリズム、本実施形態では、第2および第3ラインを副ラインとみなし、左右1対の第1ラインを前記道路上の左右1対の主ラインとすることで前記道路上の左右1対の主ラインを最終的に求めるアルゴリズムである。より具体的には、本実施形態では、第1アルゴリズムは、ライン抽出処理部42で求められた左右1対の第1ラインに基づいて車線の第1車線幅を求め、ライン抽出処理部42で求められた第2および第3ラインに基づいて前記車線の第2車線幅を求め、これら求めた第1車線幅と第2車線幅との差(例えば第1車線幅から第2車線幅を減算した減算結果)が前記規約に基づく所定の第1範囲以内である場合に、または、ライン抽出処理部42で求められた左右1対の第1ラインのうちの一方の第1ラインよりライン抽出処理部42で求められた第2ラインが前記規約に基づく所定の閾値以上内側である場合およびライン抽出処理部42で求められた左右1対の第1ラインのうちの他方の第1ラインよりライン抽出処理部42で求められた第3ラインが前記閾値以上内側である場合のうちの少なくとも一方である場合に、ライン抽出処理部42で求められた第2および第3ラインを横断歩道ラインとみなし、ライン抽出処理部42で求めた左右1対の第1ラインを前記道路上の左右1対の主ラインとすることで前記道路上の左右1対の主ラインを最終的に求める。例えば、前記所定の規約が上述の前記命令である場合に、各ラインが上述のように規定されているため、前記規約に基づく所定の第1範囲は、0.65m〜1mであり、前記規約に基づく所定の閾値は、0.35mである。なお、後述の第2ないし第4範囲も上記規定を同様に考慮して設定される。
第2アルゴリズムは、第2ラインを主ラインとみなし、第1ラインおよび第2ラインに基づいて前記道路上の主ラインを最終的に求めるアルゴリズム、本実施形態では、第2および第3ラインを左右1対の主ラインとみなし、左右1対の第1ラインならびに第2および第3ラインに基づいて前記道路上の左右1対の主ラインを最終的に求めるアルゴリズムである。より具体的には、本実施形態では、第2アルゴリズムは、ライン抽出処理部42で求められた左右1対の第1ラインに基づいて車線の第1車線幅を求め、ライン抽出処理部42で求められた第2および第3ラインに基づいて前記車線の第2車線幅を求め、これら求めた第1車線幅と第2車線幅との差(例えば第1車線幅から第2車線幅を減算した減算結果)が前記規約に基づく所定の第2範囲以内ではない場合に、前記左右1対の第1ラインならびに前記第2および第3ラインに基づいて前記道路上の左右1対の主ラインを最終的に求める。前記規約に基づく所定の第2範囲は、例えば、前記規約が上述の前記命令である場合に、0.1m〜0.65mである。
第3アルゴリズムは、第2ラインを補助ラインとみなし、第2ラインおよび前記所定の間隔に基づいて主ラインを推定ラインとして推定し、第1ラインおよび推定ラインに基づいて前記道路上の主ラインを最終的に求めるアルゴリズム、本実施形態では、第2および第3ラインのうちの少なくとも一方を補助ラインとみなし、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方および前記所定の間隔に基づいて、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方に対する主ラインを推定ラインとして推定し、左右1対の第1ライン、および、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方の、前記推定した推定ラインに基づいて、前記道路上の左右1対の主ラインを最終的に求めるアルゴリズムである。より具体的には、本実施形態では、第3アルゴリズムは、ライン抽出処理部42で求められた左右1対の第1ラインに基づいて車線の第1車線幅を求め、ライン抽出処理部42で求められた第2および第3ラインに基づいて前記車線の第2車線幅を求め、これら求めた第1車線幅と第2車線幅との差(例えば第1車線幅から第2車線幅を減算した減算結果)が前記規約に基づく所定の第2範囲以内である場合に、ライン抽出処理部42で求められた第2および第3ラインのうちの少なくとも一方を補助ラインとみなし、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方および前記所定の間隔に基づいて、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方に対する主ラインを推定ラインとして推定し、ライン抽出処理部42で求められた左右1対の第1ライン、および、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方の、前記推定した推定ラインに基づいて、前記道路上の左右1対の主ラインを最終的に求める。
第4アルゴリズムは、ライン抽出処理部42が前方画像から道路上の左右1対の主ラインのうちの一方を第1ラインとして求めている場合に、ライン抽出処理部42で求められた第2および第3ラインのうち、道路上の左右1対の主ラインのうちの前記一方に対応するラインを第4ラインとし、前記第4ラインが所定の時間以上前記第1ラインより、所定の規約に基づく所定の第3範囲だけ内側である場合であって、かつ、前記第4ラインが前記第1ラインより前記規約に基づく所定の第4範囲だけ内側である場合に、前記第4ラインを補助ラインとみなし、前記第4ラインおよび前記所定の間隔に基づいて前記一方の主ラインを推定ラインとして推定し、前記一方の第1ラインおよび前記推定した推定ラインに基づいて、前記道路上の左右1対の主ラインのうちの一方を最終的に求めるアルゴリズムである。前記所定の時間は、ライン抽出処理部42で抽出されたラインが誤検出でもノイズでもなく、ラインであると認定するために必要な時間であり、例えば、複数のサンプルに基づいて適宜に設定される。この第4アルゴリズムは、さらに、前記第4ラインが所定の時間以上前記第1ラインより、前記第3範囲だけ内側である場合、および、前記第4ラインが前記第1ラインより前記第4範囲だけ内側である場合、のうちの少なくとも一方を満たさない場合であって、前記第4ラインが前記第1ラインより前記第4範囲だけ内側である場合、前記第4ラインを前記横断歩道ラインとみなし、前記一方の第1ライン自体で前記道路上の左右1対の主ラインのうちの一方を最終的に求める。この第4アルゴリズムは、さらに、前記第4ラインが所定の時間以上前記第1ラインより、前記第3範囲だけ内側である場合、および、前記第4ラインが前記第1ラインより前記第4範囲だけ内側である場合、のうちの少なくとも一方を満たさない場合であって、前記第4ラインが前記第1ラインより前記第4範囲だけ内側である場合を満たさない場合に、前記第4ラインおよび前記一方の第1ラインに基づいて前記道路上の左右1対の主ラインのうちの一方を最終的に求める。例えば、前記規約が上述の前記命令である場合に、前記規約に基づく所定の第3範囲は、0.1m〜1mであり、前記規約に基づく所定の第4範囲は、0.1m〜0.35mである。
第1ライン処理部431は、ライン抽出処理部42によって前方画像、右側方画像および左側方画像それぞれから、左右1対の第1ライン、第2ラインおよび第3ラインを抽出した場合に、第1ないし第3アルゴリズムを用いて、これら左右1対の第1ライン、第2ラインおよび第3ラインに基づいて前記道路上の左右1対の主ラインを最終的に求めるものである。
第2ライン処理部432は、ライン抽出処理部42によって前方画像、右側方画像および左側方画像それぞれから、左右1対の第1ラインのうちの左の第1ラインおよび第3ラインのみを抽出した場合(右の第1ラインおよび第2ラインのうちの少なくとも一方が抽出できない場合)に、第4アルゴリズムを用いて、これら左の第1ラインおよび第3ラインに基づいて前記道路上の左右1対の主ラインを最終的に求めるものである。
第3ライン処理部433は、ライン抽出処理部42によって前方画像、右側方画像および左側方画像それぞれから、左右1対の第1ラインのうちの右の第1ラインおよび第2ラインのみを抽出した場合(左の第1ラインおよび第3ラインのうちの少なくとも一方が抽出できない場合)に、第4アルゴリズムを用いて、これら右の第1ラインおよび第2ラインに基づいて前記道路上の左右1対の主ラインを最終的に求めるものである。
第4ライン処理部434は、ライン抽出処理部42によって前方画像、右側方画像および左側方画像それぞれから、左右1対の第1ラインのみを抽出した場合(第2および第3ラインが抽出できない場合)に、この抽出した左右1対の第1ラインを前記道路上の左右1対の主ラインとすることで前記道路上の左右1対の主ラインを最終的に求めるものである。
車線処理部435は、第1ないし第4ライン処理部432〜435で抽出した前記道路上の左右1対の主ラインに基づいて、自車両が走行する車線を求めるものである。
なお、車線検出処理部43は、ライン決定処理部の一例に相当する。
警告処理部44は、ライン決定処理部の一例としての車線検出処理部43で求められた最終的な道路上の左右1対の主ラインに基づいて、出力部5で、車線の逸脱を警告するものである。
操舵処理部45は、ライン決定処理部の一例としての車線検出処理部43で求められた最終的な道路上の左右1対の主ラインに基づいて、操舵部6で、自車両が車線を維持するように操舵を制御するものである。
次に、本実施形態における車両用ライン検出装置の動作について説明する。図2は、前記車両用ライン検出装置におけるライン検出に関する全体動作を示すフローチャートである。図3は、前記全体動作における第1ライン処理の動作を示すフローチャートである。図4は、前記全体動作における第2ライン処理の動作を示すフローチャートである。図5は、前記全体動作における第3ライン処理の動作を示すフローチャートである。図6は、前記全体動作におけるライン検出に関する動作を説明するための図である。図6Aは、道路上の左右1対の主ラインLR、LLが前方撮像部1の前方視野FV、右側方撮像部2の右側方視野RVおよび左側方撮像部3の左側方視野LVに捉えられている場合を示し、図6Bは、道路上の左右1対の主ラインLR、LLが前方撮像部1の前方視野FV、右側方撮像部2の右側方視野RVおよび左側方撮像部3の左側方視野LVそれぞれに捉えられ、さらに、横断歩道ラインWLが右側方撮像部2の右側方視野RVおよび左側方撮像部3の左側方視野LVそれぞれに捉えられている場合を示し、図6Cは、道路上の左右1対の主ラインLR、LLおよびそれぞれに平行な各補助ラインLCR、LCLが前方撮像部1の前方視野FV、右側方撮像部2の右側方視野RVおよび左側方撮像部3の左側方視野LVそれぞれに捉えられている場合を示す。
このような車両用ライン検出装置LDは、その電源が投入されると、必要な各部の初期化を実行し、その稼働を始める。その制御処理プログラムの実行によって、制御処理部4には、制御部41、ライン抽出処理部42、車線検出処理部43、警告処理部44および操舵処理部45が機能的に構成される。車線検出処理部43には、第1ライン処理部431、第2ライン処理部432、第3ライン処理部433、第4ライン処理部434および車線処理部435が機能的に構成される。前方撮像部1、右側方撮像部2および左側方撮像部3は、それぞれ、制御処理部4の制御に従って互いに略同期して、所定のフレームレートであるいは所定のサンプリング間隔で、前方画像、右側方画像および左側方画像を生成し、これら生成した前方画像、右側方画像および左側方画像を制御処理部4へ出力する。そして、制御処理部4は、各フレームごとに、あるいは、数フレームおきに、あるいは、サンプリング間隔おきに、次のように動作することで、道路上の左右1対の主ラインを検出し、自車両の走行する車線を検出している。
図2において、まず、車両用ライン検出装置LDは、制御処理部4の制御部41によって、前方撮像部1、右側方撮像部2および左側方撮像部3それぞれから、略同期した前方画像、右側方画像および左側方画像を取得する(S1)。
次に、車両用ライン検出装置LDは、制御処理部4のライン抽出処理部42によって、前方撮像部1、右側方撮像部2および左側方撮像部3それぞれから、ラインを抽出する抽出処理を実行する(S2)。
次に、車両用ライン検出装置LDは、制御処理部4の車線検出処理部43によって、前方画像、右側方画像および左側方画像それぞれから、左右1対の第1ライン、第2ラインおよび第3ラインを抽出しているか否かを判定する(S3)。この判定の結果、左右1対の第1ライン、第2ラインおよび第3ラインが抽出されている場合(Yes)には、車線検出処理部43は、第1ライン処理S6を実行した後に、処理S10を実行する。この第1ライン処理S6は、第1ないし第3アルゴリズムを選択し、第1ライン処理部431によって、これら選択した第1ないし第3アルゴリズムを用いてこれら左右1対の第1ライン、第2ラインおよび第3ラインに基づいて前記道路上の左右1対の主ラインを最終的に求める処理であり、図3を用いて後に詳述する。一方、前記判定の結果、左右1対の第1ライン、第2ラインおよび第3ラインが抽出されている場合ではない場合(No)には、車線検出処理部43は、次に、処理S4を実行する。
この処理S4では、車両用ライン検出装置LDは、制御処理部4の車線検出処理部43によって、前方画像、右側方画像および左側方画像それぞれから、左右1対の第1ラインのうちの左の第1ラインおよび第3ラインを抽出しているか否かを判定する。この判定の結果、左の第1ラインおよび第3ラインが抽出されている場合(Yes)には、車線検出処理部43は、第2ライン処理S7を実行した後に、処理S10を実行する。この第2ライン処理S7は、第4アルゴリズムを選択し、第2ライン処理部432によって、この選択した第4アルゴリズムを用いてこれら左の第1ラインおよび第3ラインに基づいて前記道路上の左右1対の主ラインを最終的に求める処理であり、図4を用いて後に詳述する。一方、前記判定の結果、左の第1ラインおよび第3ラインが抽出されている場合ではない場合(No)には、車線検出処理部43は、次に、処理S5を実行する。
この処理S5では、車両用ライン検出装置LDは、制御処理部4の車線検出処理部43によって、前方画像、右側方画像および左側方画像それぞれから、左右1対の第1ラインのうちの右の第1ラインおよび第2ラインを抽出しているか否かを判定する。この判定の結果、右の第1ラインおよび第2ラインが抽出されている場合(Yes)には、車線検出処理部43は、第3ライン処理S8を実行した後に、処理S10を実行する。この第3ライン処理S8は、第4アルゴリズムを選択し、第3ライン処理部433によって、この選択した第4アルゴリズムを用いてこれら右の第1ラインおよび第2ラインに基づいて前記道路上の左右1対の主ラインを最終的に求める処理であり、図5を用いて後に詳述する。一方、前記判定の結果、右の第1ラインおよび第2ラインが抽出されている場合ではない場合(No)には、車線検出処理部43は、次に、処理S9を実行する。
この処理S9では、車両用ライン検出装置LDは、制御処理部4における車線検出処理部43の第4ライン処理部434によって、処理S2で抽出した左右1対の第1ラインを前記道路上の左右1対の主ラインとすることで前記道路上の左右1対の主ラインを最終的に求める第4ライン処理を実行し、その後、処理S10を実行する。
この処理S10では、車両用ライン検出装置LDは、制御処理部4における車線検出処理部43の車線処理部435によって、第1ないし第4ライン処理部432〜435で抽出した前記道路上の左右1対の主ラインに基づいて、自車両が走行する車線を求める。すなわち、車線処理部435は、第1ないし第4ライン処理部431〜434で抽出した前記道路上の左右1対の主ライン間を、自車両が走行する車線とする。この車線を求めた結果、車両用ライン検出装置LDは、車線を逸脱している場合には、制御処理部4の警告処理部44によって、出力部5で、車線の逸脱を警告する一方、車線を逸脱していない場合には、警告しない。そして、車両用ライン検出装置LDは、制御処理部4の操舵処理部45によって、操舵部6で、自車両が車線を維持するように操舵を制御する。
これによって、今回のタイミングでの、道路上の左右1対の主ラインを検出し、自車両の走行する車線を検出する処理が終了され、次回のタイミングで、上述と同様な、道路上の左右1対の主ラインを検出し、自車両の走行する車線を検出する処理が、開始される。
次に、第1ライン処理S6について説明する。この第1ライン処理S6は、前方画像から左右1対の第1ラインが抽出され、右側方画像から第2ラインが抽出され、左側方画像から第3ラインが抽出されている場合に、車道中央線(センターライン)、車線境界線(レーンマーカ)および補助線が所定の規約、本実施形態では日本での道路法に基づく道路標識、区画線および道路標識に関する命令に従って路面上に形成されていることを利用することによって、第2および第3ラインが、それぞれ、主ライン(車道中央線または車線境界線)であるか否か、補助ライン(補助線)であるか否か、および、横断歩道ラインであるか否かを判定し、この判定結果を用いて左右1対の第1ライン、第2ラインおよび第3ラインに基づいて道路上の左右1対の主ラインを最終的に求める処理である。
より具体的には、図3において、まず、車両用ライン検出装置LDは、右側方撮像部2および左側方撮像部3によって横断歩道ラインを検出しているか否かを判定する(S601)。より詳しくは、左右1対の第1ライン、第2ラインおよび第3ラインが検出されていることから、まず、横断歩道の検出の有無を調べるために第1アルゴリズムが選択され、第1ライン処理部431は、この選択された第1アルゴリズムを実行する。すなわち、例えば自車両VCが図6Aに示す第1状況、図6Bに示す第2状況および図6Cに示す第3状況のうちのいずれかであることから、第1ライン処理部431は、まず、左右1対の第1ラインに基づいて車線の第1車線幅を求め、第2および第3ラインに基づいて前記車線の第2車線幅を求め、第1ライン処理部431は、これら求めた第1車線幅と第2車線幅との差(例えば第1車線幅から第2車線幅を減算した減算結果)が前記第1範囲以内であるか否か、左右1対の第1ラインのうちの一方の第1ライン(本実施形態では右の第1ライン)より第2ラインが前記閾値以上内側であるか否か、左右1対の第1ラインのうちの他方の第1ライン(本実施形態では左の第1ライン)より第3ラインが前記閾値以上内側であるか否かを判定する。次に、この判定の結果、前記減算結果が前記第1範囲以内である場合に、または、前記一方の第1ライン(ここでは右の第1ライン)より第2ラインが前記閾値以上内側である場合および前記他方の第1ライン(ここでは左の第1ライン)より第3ラインが前記閾値以上内側である場合のうちの少なくとも一方である場合(Yes、すなわち、自車両CVが図6Bに示す第2状況であって横断歩道WLの検出である場合)には、第1ライン処理部431は、次に、処理S602を実行した後に、本第1ライン処理S6を終了する。一方、前記判定の結果、前記減算結果が前記第1範囲以内ではない場合、または、前記一方の第1ラインより第2ラインが前記閾値以上内側である場合および前記他方の第1ラインより第3ラインが前記閾値以上内側である場合を共に満たさない場合(No、すなわち、例えば自車両CVが図6Aに示す第1状況および図6Cに示す第3状況のうちのいずれかであって少なくとも横断歩道WLの検出ではない場合)には、第1ライン処理部431は、第1アルゴリズムの処理を終了し、次に、処理S603を実行する。
この処理S602では、第1ライン処理部431は、第2および第3ラインを横断歩道ラインとみなし、左右1対の第1ラインを前記道路上の左右1対の主ラインとすることで前記道路上の左右1対の主ラインを最終的に求め、第1アルゴリズムの処理を終了する。
前記処理S603では、車両用ライン検出装置LDは、右側方撮像部2および左側方撮像部3によって補助ラインを検出しているか否かを判定する(S601)。より詳しくは、左右1対の第1ライン、第2ラインおよび第3ラインが検出され、処理S601で横断歩道の検出ではないことから、次に補助ラインの検出の有無を調べるために第2アルゴリズムが選択され、第1ライン処理部431は、この選択された第2アルゴリズムを実行する。すなわち、第1ライン処理部431は、まず、上述と同様に、第1および第2車線幅それぞれを求める。次に、第1ライン処理部431は、これら求めた第1車線幅と第2車線幅との差(例えば前記減算結果)が前記第2範囲以内であるか否かを判定する。次に、この判定の結果、前記減算結果が前記第2範囲以内ではない場合(No、すなわち、例えば自車両CVが図6Aに示す第1状況であって少なくとも補助ラインLCL、LCRの検出ではない場合)には、第1ライン処理部431は、次に、処理S615を実行した後に、本第1ライン処理S6を終了する。一方、前記判定の結果、前記減算結果が前記第2範囲以内である場合(Yes、すなわち、例えば自車両CVが図6Cに示す第3状況であって少なくともいずれかの補助ラインLCL、LCRの検出である場合)には、第1ライン処理部431は、次に、処理S604を実行する。
この処理S615では、第1ライン処理部431は、第2および第3ラインを左右1対の主ラインとみなし、前記左右1対の第1ラインならびに前記第2および第3ラインに基づいて前記道路上の左右1対の主ラインを最終的に求め、第2アルゴリズムの処理を終了する。例えば、第1ライン処理部431は、左右1対の第1ラインの各第1位置を求め、第2および第3ラインの第2および第3位置を求め、これら求めた各第1位置と第2および第3位置との各平均位置(右の第1ラインの第1位置と第2位置との平均位置、および、左の第1ラインの第1位置と第3位置との平均位置)を道路上の左右1対の主ラインにおける各位置として求めることで、前記道路上の左右1対の主ラインを最終的に求める。なお、前方撮像部1、右側方撮像部2および左側方撮像部3の製品バラツキ等によるライン抽出精度に応じた重みで重み付け平均位置が求められても良い。
上述の処理S603の判定によって補助ラインの存在が判定され、処理S603ないし処理S614では、第3アルゴリズムが選択され、第3アルゴリズムによって、補助ラインから主ラインが推定ラインとして推定され、この推定された推定ラインに基づいて最終的に主ラインが求められる。すなわち、これら処理S603ないし処理S614では、第1ライン処理部431は、第2および第3ラインのうちの少なくとも一方を補助ラインとみなし、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方および前記所定の間隔に基づいて、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方に対する主ラインを推定ラインとして推定し、左右1対の第1ライン、および、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方の、前記推定した推定ラインに基づいて、前記道路上の左右1対の主ラインを最終的に求める。
より具体的には、上述のように処理S603の判定によって補助ラインの存在が判定されたが、左右1対の主ラインそれぞれに対し各補助ラインが存在するか否か、あるいは、左右1対の主ラインのうちのいずれか一方に対し補助ラインが存在するか否かが不明であることから、まず、処理S604では、車両用ライン検出装置LDは、第1段階の判定として、左右1対の主ラインそれぞれに対し各補助ラインが存在するか否かを判定する。より詳しくは、第1ライン処理部431は、左右1対の第1ラインのうちの右の第1ラインより第2ラインが前記規約に基づく所定の第4範囲だけ内側であるか否か、および、左右1対の第1ラインのうちの左の第1ラインより第3ラインが前記第4範囲だけ内側であるか否か、を判定する。この判定の結果、前記右の第1ラインより第2ラインが前記第4範囲だけ内側である場合であって、かつ、前記左の第1ラインより第3ラインが前記第4範囲だけ内側である場合(Yes)には、第1ライン処理部431は、次に、処理S605および処理S606の各処理を順次に実行し、第3アルゴリズムの処理を終了する。一方、前記判定の結果、前記右の第1ラインより第2ラインが前記第4範囲だけ内側ではない場合、および、前記左の第1ラインより第3ラインが前記第4範囲だけ内側ではない場合のうちの少なくとも一方である場合(No)には、第1ライン処理部431は、次に、処理S607を実行する。
この処理S605では、第1ライン処理部431は、第2および第3ラインそれぞれを補助ラインとみなし、第2ラインおよび前記所定の間隔に基づいて右の主ラインを右の推定ラインとして推定し、第3ラインおよび前記所定の間隔に基づいて左の主ラインを左の推定ラインとして推定する。
この処理S605に続く処理S606では、第1ライン処理部431は、前記左右1対の第1ラインおよび処理S605で求めた左右の各推定ラインに基づいて前記道路上の左右1対の主ラインを最終的に求め、第3アルゴリズムの処理を終了する。例えば、第1ライン処理部431は、左右1対の第1ラインの各第1位置を求め、処理S605で求めた左右の各推定ラインの各位置を求め、これら求めた左右1対の第1ラインの各第1位置と処理S605で求めた左右の各推定ラインの各位置との各平均位置(右の第1ラインの第1位置と右の推定ラインの位置との平均位置、および、左の第1ラインの第1位置と左の推定ラインの位置との平均位置)を道路上の左右1対の主ラインにおける各位置として求めることで、前記道路上の左右1対の主ラインを最終的に求める。
一方、前記処理S607では、車両用ライン検出装置LDは、第2段階の判定として、左の主ラインに対し補助ラインが存在するか否かを判定する。より詳しくは、第1ライン処理部431は、左右1対の第1ラインのうちの左の第1ラインより第3ラインが前記第4範囲だけ内側であるか否かを判定する。この判定の結果、前記左の第1ラインより第3ラインが前記第4範囲だけ内側である場合には、左の補助ラインが存在すると判定し(Yes)、第1ライン処理部431は、次に、処理S608および処理S609の各処理を順次に実行した後に、処理S611を実行する。一方、前記判定の結果、前記左の第1ラインより第3ラインが前記第4範囲だけ内側ではない場合には、左の補助ラインが存在しないと判定し(No)、第3ライン処理部433は。次に、処理S610を実行した後に、処理S611を実行する。
この処理S608では、第1ライン処理部431は、第3ラインを補助ラインとみなし、第3ラインおよび前記所定の間隔に基づいて左の主ラインを左の推定ラインとして推定する。
この処理S608に続く処理S609では、第1ライン処理部431は、前記左右1対の第1ラインのうちの左の第1ラインおよび処理S608で求めた左の推定ラインに基づいて前記道路上の左右1対の主ラインのうちの左の主ラインを最終的に求め、第3アルゴリズムの処理を終了する。
前記処理S610では、第1ライン処理部431は、第3ラインを左の主ラインとみなし、前記左右1対の第1ラインのうちの左の第1ラインおよびこの左の主ラインとみなした第3ラインに基づいて前記道路上の左右1対の主ラインのうちの左の主ラインを最終的に求め、第3アルゴリズムの処理を終了する。
このように処理S607ないし処理S610の各処理によって、左の第1ラインおよび第3ラインに基づいて左の主ラインが最終的に求められたが、処理S611ないし処理S614によって、右の第1ラインおよび第2ラインに基づいて右の主ラインが最終的に求められる。このため、処理S611ないし処理S614の各処理は、それぞれ、“左”を“右”に読み替え、“第3”を”第2“に読み替えることで、処理S607ないし処理S610の各処理と同様に説明できるので、その説明を省略する。
このような各処理によって第1ライン処理S6が実行される。
次に、第2ライン処理S7について説明する。この第2ライン処理S7は、前方画像から左の第1ラインが抽出され、左側方画像から第3ラインが抽出されている場合に、車道中央線、車線境界線および補助線が所定の規約に従って路面上に形成されていることを利用することによって、第3ラインが、主ライン(車道中央線または車線境界線)であるか否か、補助ライン(補助線)であるか否か、および、横断歩道ラインであるか否かを判定し、この判定結果を用いて左の第1ラインおよび第3ラインに基づいて道路上の左右1対のうちの左の主ラインを最終的に求める処理である。
より具体的には、図4において、まず、車両用ライン検出装置LDは、右の主ラインを処理しないので、前回で求めた右の主ラインを最終的な右の主ラインとする(S701)。
次に、車両用ライン検出装置LDは、左側方撮像部3によって左の補助ラインを検出しているか否かを判定する(S702)。より詳しくは、左の第1ラインおよび第3ラインが抽出されていることから、左の主ラインを最終的に求めるために、第4アルゴリズムが選択され、第2ライン処理部432は、この選択された第4アルゴリズムを実行する。すなわち、第2ライン処理部432は、まず、第3ラインが、所定の時間以上、前記左の第1ラインより前記第3範囲だけ内側であるか否か、および、前記第3ラインが前記左の第1ラインより前記第4範囲だけ内側であるか否かを判定する。この判定の結果、第3ラインが、所定の時間以上、前記左の第1ラインより前記第3範囲だけ内側である場合であって、かつ、前記第3ラインが前記左の第1ラインより前記第4範囲だけ内側である場合、左の補助ラインが存在すると判定し(Yes)、第2ライン処理部432は、次に、処理S703および処理S704の各処理を順次に実行し、第4アルゴリズムの処理を終了する。一方、前記判定の結果、第3ラインが所定の時間以上前記左の第1ラインより前記第3範囲だけ内側である場合、および、前記第3ラインが前記左の第1ラインより前記第4範囲だけ内側である場合のうちの少なくとも一方を満たさない場合、左の補助ラインが存在しないと判定し(No)、第2ライン処理部432は、次に、処理S705を実行する。
この処理S703では、第2ライン処理部432は、第3ラインを補助ラインとみなし、第3ラインおよび前記所定の間隔に基づいて左の主ラインを左の推定ラインとして推定する。
この処理S703に続く処理S704では、第2ライン処理部432は、前記左右1対の第1ラインのうちの左の第1ラインおよび処理S703で求めた左の推定ラインに基づいて前記道路上の左右1対の主ラインのうちの左の主ラインを最終的に求め、第4アルゴリズムの処理を終了する。
一方、前記処理S705では、車両用ライン検出装置LDは、左側方撮像部3によって横断歩道ラインを検出しているか否かを判定する。より詳しくは、第2ライン処理部432は、前記左の第1ラインより前記第3範囲だけ内側であるか否かを判定する。この判定の結果、前記左の第1ラインより前記第3範囲だけ内側である場合(Yes、すなわち、横断歩道の検出の場合)には、第2ライン処理部432は、次に、処理S706を実行し、第4アルゴリズムの処理を終了する。一方、前記判定の結果、前記左の第1ラインより前記第3範囲だけ内側ではない場合(No)には、第2ライン処理部432は、次に、処理S707を実行し、第4アルゴリズムの処理を終了する。
この処理S706では、第2ライン処理部432は、第3ラインを横断歩道ラインとみなし、前記左の第1ライン自体を前記道路上の左右1対の主ラインのうちの左の主ラインとして前記左の主ラインを最終的に求める。
この処理S707では、第2ライン処理部432は、第3ラインを左の主ラインとみなし、前記左右1対の第1ラインのうちの左の第1ラインおよびこの左の主ラインとみなした第3ラインに基づいて前記道路上の左右1対の主ラインのうちの左の主ラインを最終的に求める。
このような各処理によって第2ライン処理S7が実行される。
上述のように、左の第1ラインおよび第3ラインに基づいて最終的に左の主ラインを求めるために、処理S701ないし処理S707の各処理によって第2ライン処理S7が実行されたが、右の第1ラインおよび第2ラインに基づいて最終的に右の主ラインを求めるために、図5に示す処理S801ないし処理S807によって第3ライン処理S8が実行される。このため、処理S801ないし処理S807の各処理は、それぞれ、“第2ライン処理部432”を“第3ライン処理部433”に読み替え、“左”を“右”に読み替え、“第3”を”第2“に読み替えることで、処理S701ないし処理S707の各処理と同様に説明できるので、その説明を省略する。
以上説明したように、本実施形態における車両用ライン検出装置LDおよびこれに実装された車両用ライン検出方法は、道路上のラインを決定する互いに異なる複数のアルゴリズムの中から1つのアルゴリズムを選択し、この選択したアルゴリズムで第1ないし第3ラインに基づいて前記道路上のライン(本実施形態では左右1対の主ライン)を最終的に求めるので、複数のアルゴリズムの中から、前記道路上のラインを最終的に求めるために適したアルゴリズムを選択でき、この適したアルゴリズムを用いるから、前記道路上のラインをより精度良く検出できる。
上記車両用ライン検出装置LDおよび該方法は、第1アルゴリズムを用いる場合、副ラインとみなした第2および第3ラインを用いることなく(例えば路面に横断歩道ラインが形成されている場合でも横断歩道ラインとみなした第2および第3ラインを用いることなく)、左右1対の第1ラインを道路上の左右1対の主ラインとするので、車線の境界を表す、前記道路上の左右1対の主ラインをより精度良く検出できる。
上記車両用ライン検出装置LDおよび該方法は、第2アルゴリズムを用いる場合、左右1対の第1ラインだけでなく、前記左右1対の主ラインとみなした第2および第3ラインも用いるので、前記道路上の左右1対のラインをより精度良く検出できる。
上記車両用ライン検出装置LDおよび該方法は、第3アルゴリズムを用いる場合、補助ラインとみなした第2および第3ラインのうちの少なくとも一方に基づいて主ラインを推定ラインとして推定し、左右1対の第1ラインだけでなく、この推定した推定ラインも用いるので、前記道路上の左右1対のラインをより精度良く検出できる。
上記車両用ライン検出装置LDおよび該方法は、第4アルゴリズムを用いる場合、左右1対の主ラインのうちの一方が求められている場合に、前記一方において、補助ラインとみなした前記第4ラインに基づいて主ラインを推定ラインとして推定し、前記一方の第1ラインだけでなく、この推定した推定ラインも用いるので、前記道路上の左右1対の主ラインをより精度良く検出できる。前記一方において、路面に横断歩道ラインが形成されている場合でも、前記一方の第1ライン自体で前記道路上の左右1対の主ラインのうちの一方を最終的に求めるので、上記車両用ライン検出装置LDおよび該方法は、前記道路上の左右1対のラインをより精度良く検出できる。前記一方において、前記一方の第1ラインだけでなく、主ラインとみなした前記第4ラインも用いるので、前記道路上の左右1対の主ラインをより精度良く検出できる。
なお、上述の実施形態では、車両用ライン検出装置LDは、今回のタイミングで抽出した第1ないし第3ラインに基づいて、今回のタイミングでの前記道路上の左右1対の主ラインを最終的に求めたが、今回のタイミングで抽出した第1ないし第3ラインだけでなく前回のタイミングで最終的に求めた前記道路上の左右1対の主ラインに基づいて、今回のタイミングでの前記道路上の左右1対の主ラインを最終的に求めても良い。これによれば各タイミング間で主ラインが比較的大きくシフトすることを好適に低減でき、各タイミング間で比較的滑らかに主ラインが検出できる。例えば、今回のタイミングで抽出した第1ないし第3ラインに基づいて最終的に求めた、今回のタイミングでの前記道路上の左右1対の主ライン(左右1対の主ラインの各位置)と、前回のタイミングで最終的に求めた前記道路上の左右1対の主ライン(左右1対の主ラインの各位置)との各差(一方(例えば右)における主ライン間の差と他方(例えば左)における主ライン間の差)が求められ、各差それぞれに予め設定された所定の定数(制御ゲイン)が乗算され、前回のタイミングで最終的に求めた前記道路上の左右1対の主ラインそれぞれに各乗算結果(各補正値)が加算されることで、今回のタイミングでの前記道路上の左右1対の主ラインが最終的に求められても良い。
本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更および/または改良することは容易に為し得ることであると認識すべきである。したがって、当業者が実施する変更形態または改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態または当該改良形態は、当該請求項の権利範囲に包括されると解釈される。
LR 右の主ライン、LL 左の主ライン、LCR 右の補助ライン、LCL 左の補助ライン、FV 前方視野、RV 右側方視野、LV 左側方視野、LD 車両用ライン検出装置、1 前方撮像部、2 右側方撮像部、3 左側方撮像部、4 制御処理部、5 出力部、6 操舵部、7 記憶部、41 制御部、42 ライン抽出処理部、43 車線検出処理部、44 警告処理部、45 操舵処理部、431〜434 第1ないし第4ライン処理部、435 車線処理部

Claims (14)

  1. 車両に搭載され、路面を含むように前記車両の前方を撮像することで前方画像を生成する第1撮像部と、
    前記車両に搭載され、路面を含むように前記車両の一方側を撮像することで一方側画像を生成する第2撮像部と、
    前記第1撮像部で生成された前方画像から道路上のラインを第1ラインとして求める第1ライン抽出処理部と、
    前記第2撮像部で生成された一方側画像から道路上のラインを第2ラインとして求める第2ライン抽出処理部と、
    前記第1および第2ライン抽出処理部それぞれで求めた第1および第2ラインに基づいて、前記道路上のラインを決定する互いに異なる複数のアルゴリズムの中から1つのアルゴリズムを選択し、前記選択したアルゴリズムで前記第1および第2ラインに基づいて前記道路上のラインを最終的に求めるライン決定処理部とを備える、
    車両用ライン検出装置。
  2. 前記道路上のラインは、主ラインと、前記主ラインを除く他の副ラインとを含み、
    前記複数のアルゴリズムは、前記第2ライン抽出処理部で求められた第2ラインを前記副ラインとみなし、前記第1ライン抽出処理部で求めた第1ラインを前記道路上の主ラインとすることで前記道路上の主ラインを最終的に求める第1アルゴリズムを含む、
    請求項1に記載の車両用ライン検出装置。
  3. 前記道路上のラインは、主ラインと、前記主ラインを除く他の副ラインとを含み、
    前記複数のアルゴリズムは、前記第2ライン抽出処理部で求められた第2ラインを前記主ラインとみなし、前記第1ライン抽出処理部で求めた第1ラインおよび前記第2ライン抽出処理部で求めた第2ラインに基づいて前記道路上の主ラインを最終的に求める第2アルゴリズムを含む、
    請求項1または請求項2に記載の車両用ライン検出装置。
  4. 前記道路上のラインは、主ラインと、前記主ラインを除く他の副ラインとを含み、
    前記副ラインは、前記主ラインから所定の間隔を空けて前記主ラインに平行な補助ラインを含み、
    前記複数のアルゴリズムは、前記第2ライン抽出処理部で求められた第2ラインを前記補助ラインとみなし、前記第2ライン抽出処理部で求められた第2ラインおよび前記所定の間隔に基づいて前記主ラインを推定ラインとして推定し、前記第1ライン抽出処理部で求められた第1ラインおよび前記推定した推定ラインに基づいて前記道路上の主ラインを最終的に求める第3アルゴリズムを含む、
    請求項1ないし請求項3のいずれか1項に記載の車両用ライン検出装置。
  5. 前記車両に搭載され、路面を含むように前記車両の他方側を撮像することで他方側画像を生成する第3撮像部と、
    前記第3撮像部で生成された他方側画像から道路上のラインを第3ラインとして求める第3ライン抽出処理部とをさらに備え、
    前記ライン決定処理部は、前記第1ないし第3ライン抽出処理部それぞれで求めた第1ないし第3ラインに基づいて、前記複数のアルゴリズムの中から1つのアルゴリズムを選択し、前記選択したアルゴリズムで前記第1ないし第3ラインに基づいて前記道路上のラインを最終的に求める、
    請求項1に記載の車両用ライン検出装置。
  6. 前記道路上のラインは、車線の境界を表す左右1対の主ラインと、前記左右1対の主ラインを除く他の副ラインとを含み、
    前記第1ライン抽出処理部は、前記第1撮像部で撮像された前方画像から前記道路上の左右1対の主ラインを左右1対の第1ラインとして求め、
    前記ライン決定処理部は、前記第1ないし第3ライン抽出処理部それぞれで求めた左右1対の第1ライン、第2ラインおよび第3ラインに基づいて、前記複数のアルゴリズムの中から1つのアルゴリズムを選択し、前記選択したアルゴリズムで前記左右1対の第1ライン、第2ラインおよび第3ラインに基づいて、前記道路上の左右1対の主ラインを最終的に求める、
    請求項5に記載の車両用ライン検出装置。
  7. 前記複数のアルゴリズムは、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインを前記副ラインとみなし、前記第1ライン抽出処理部で求めた左右1対の第1ラインを前記道路上の左右1対の主ラインとすることで前記道路上の左右1対の主ラインを最終的に求める第1アルゴリズムを含む、
    請求項6に記載の車両用ライン検出装置。
  8. 前記副ラインは、横断歩道を表す、所定の規約に基づいて形成された複数のラインから成る横断歩道ラインを含み、
    前記第1アルゴリズムは、前記第1ライン抽出処理部で求められた左右1対の第1ラインに基づいて前記車線の第1車線幅を求め、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインに基づいて前記車線の第2車線幅を求め、前記求めた第1車線幅と第2車線幅との差が前記規約に基づく所定の第1範囲以内である場合、または、前記第1ライン抽出処理部で求められた左右1対の第1ラインのうちの一方の第1ラインより前記第2ライン抽出処理部で求められた第2ラインが前記規約に基づく所定の閾値以上内側である場合および前記第1ライン抽出処理部で求められた左右1対の第1ラインのうちの他方の第1ラインより前記第3ライン抽出処理部で求められた第3ラインが前記閾値以上内側である場合のうちの少なくとも一方である場合に、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインを前記横断歩道ラインとみなし、前記第1ライン抽出処理部で求めた左右1対の第1ラインを前記道路上の左右1対の主ラインとすることで前記道路上の左右1対の主ラインを最終的に求める、
    請求項7に記載の車両用ライン検出装置。
  9. 前記道路上の左右1対の主ラインは、所定の規約に基づいて形成された、車道中央線および車線境界線、または、1対の車線境界線であり、
    前記複数のアルゴリズムは、前記第1ライン抽出処理部で求められた左右1対の第1ラインに基づいて前記車線の第1車線幅を求め、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインに基づいて前記車線の第2車線幅を求め、前記求めた第1車線幅と第2車線幅との差が前記規約に基づく所定の第2範囲以内ではない場合に、前記第1ライン抽出処理部で求められた左右1対の第1ラインならびに前記第2および第3ライン抽出処理部それぞれで求めた第2および第3ラインに基づいて前記道路上の左右1対の主ラインを最終的に求める第2アルゴリズムを含む、
    請求項6ないし請求項8のいずれか1項に記載の車両用ライン検出装置。
  10. 前記道路上の左右1対の主ラインは、所定の規約に基づいて形成された、車道中央線および車線境界線、または、1対の車線境界線であり、
    前記副ラインは、前記主ラインから所定の間隔を空けて前記主ラインに平行な補助ラインを含み、
    前記複数のアルゴリズムは、前記第1ライン抽出処理部で求められた左右1対の第1ラインに基づいて前記車線の第1車線幅を求め、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインに基づいて前記車線の第2車線幅を求め、前記求めた第1車線幅と第2車線幅との差が前記規約に基づく所定の第2範囲以内である場合に、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインのうちの少なくとも一方を前記補助ラインとみなし、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方および前記所定の間隔に基づいて、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方に対する主ラインを推定ラインとして推定し、前記第1ライン抽出処理部で求められた左右1対の第1ライン、および、前記補助ラインとみなした第2および第3ラインのうちの少なくとも一方の、前記推定した推定ラインに基づいて、前記道路上の左右1対の主ラインを最終的に求める第3アルゴリズムを含む、
    請求項6ないし請求項8のいずれか1項に記載の車両用ライン検出装置。
  11. 前記道路上のラインは、車線の境界を表す左右1対の主ラインと、前記左右1対の主ラインを除く他の副ラインとを含み、
    前記副ラインは、前記主ラインから所定の間隔を空けて前記主ラインに平行な補助ラインを含み、
    前記第1ライン抽出処理部は、前記第1撮像部で撮像された前方画像から前記道路上の左右1対の主ラインのうちの一方を第1ラインとして求め、
    前記複数のアルゴリズムは、前記第2および第3ライン抽出処理部それぞれで求められた第2および第3ラインのうち、前記道路上の左右1対の主ラインのうちの前記一方に対応するラインを第4ラインとし、前記第4ラインが、所定の時間以上、前記第1ラインより、所定の規約に基づく所定の第3範囲だけ内側である場合であって、かつ、前記第4ラインが前記第1ラインより前記規約に基づく所定の第4範囲だけ内側である場合、前記第4ラインを前記補助ラインとみなし、前記第4ラインおよび前記所定の間隔に基づいて前記一方の主ラインを推定ラインとして推定し、前記一方の第1ラインおよび前記推定した推定ラインに基づいて、前記道路上の左右1対の主ラインのうちの一方を最終的に求める第4アルゴリズムを含む、
    請求項5に記載の車両用ライン検出装置。
  12. 前記副ラインは、横断歩道を表す、所定の規約に基づいて形成された複数のラインから成る横断歩道ラインであり、
    前記第4アルゴリズムは、さらに、前記第4ラインが、所定の時間以上、前記第1ラインより、所定の規約に基づく所定の第3範囲だけ内側である場合、および、前記第4ラインが前記第1ラインより前記規約に基づく所定の第4範囲だけ内側である場合、のうちの少なくとも一方を満たさない場合であって、前記第4ラインが前記第1ラインより前記第4範囲だけ内側である場合に、前記第4ラインを前記横断歩道ラインとみなし、前記一方の第1ライン自体で前記道路上の左右1対の主ラインのうちの一方を最終的に求める、
    請求項11に記載の車両用ライン検出装置。
  13. 前記第4アルゴリズムは、さらに、前記第4ラインが、所定の時間以上、前記第1ラインより、所定の規約に基づく所定の第3範囲だけ内側である場合、および、前記第4ラインが前記第1ラインより前記規約に基づく所定の第4範囲だけ内側である場合、のうちの少なくとも一方を満たさない場合であって、前記第4ラインが前記第1ラインより前記第4範囲だけ内側である場合を満たさない場合に、前記第4ラインおよび前記一方の第1ラインに基づいて前記道路上の左右1対の主ラインのうちの一方を最終的に求める、
    請求項12に記載の車両用ライン検出装置。
  14. 路面を含むように車両の前方を撮像することで前方画像を生成する第1撮像工程と、
    路面を含むように前記車両の一方側を撮像することで一方側画像を生成する第2撮像工程と、
    前記第1撮像工程で生成された前方画像から道路上のラインを第1ラインとして求める第1ライン抽出処理工程と、
    前記第2撮像工程で生成された一方側画像から道路上のラインを第2ラインとして求める第2ライン抽出処理工程と、
    前記第1および第2ライン抽出処理工程それぞれで求めた第1および第2ラインに基づいて、前記道路上のラインを決定する互いに異なる複数のアルゴリズムの中から1つのアルゴリズムを選択し、前記選択したアルゴリズムで前記第1および第2ラインに基づいて前記道路上のラインを最終的に求めるライン決定処理工程とを備える、
    車両用ライン検出方法。
JP2018124156A 2018-06-29 2018-06-29 車両用ライン検出装置および該方法 Active JP7131131B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018124156A JP7131131B2 (ja) 2018-06-29 2018-06-29 車両用ライン検出装置および該方法
CN201910543693.1A CN110659553A (zh) 2018-06-29 2019-06-21 车辆用标线检测装置
EP19181568.7A EP3588374A1 (en) 2018-06-29 2019-06-21 Line detector for vehicle, method of detecting line for vehicle, and computer program product
US16/448,009 US11100340B2 (en) 2018-06-29 2019-06-21 Line detector for vehicle and method for detecting line for vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018124156A JP7131131B2 (ja) 2018-06-29 2018-06-29 車両用ライン検出装置および該方法

Publications (2)

Publication Number Publication Date
JP2020004171A true JP2020004171A (ja) 2020-01-09
JP7131131B2 JP7131131B2 (ja) 2022-09-06

Family

ID=67001574

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018124156A Active JP7131131B2 (ja) 2018-06-29 2018-06-29 車両用ライン検出装置および該方法

Country Status (4)

Country Link
US (1) US11100340B2 (ja)
EP (1) EP3588374A1 (ja)
JP (1) JP7131131B2 (ja)
CN (1) CN110659553A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7392428B2 (ja) * 2019-11-29 2023-12-06 セイコーエプソン株式会社 ロボットシステムの制御方法
US11811398B2 (en) 2020-04-05 2023-11-07 Sensortek Technology Corp Capacitance sensing device operation method

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11167636A (ja) * 1997-12-03 1999-06-22 Toyota Motor Corp 車両用ライン検出装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0785249A (ja) 1993-09-16 1995-03-31 Mitsubishi Motors Corp 道路白線認識方法
JP4390631B2 (ja) * 2004-06-02 2009-12-24 トヨタ自動車株式会社 境界線検出装置
JP2007220013A (ja) 2006-02-20 2007-08-30 Mazda Motor Corp 車両用白線検出装置
US10301783B2 (en) * 2012-01-17 2019-05-28 LimnTech LLC Roadway maintenance striping control system
JP6035064B2 (ja) * 2012-07-03 2016-11-30 クラリオン株式会社 車線逸脱判定装置,車線逸脱警報装置及びそれらを使った車両制御システム
JP6328369B2 (ja) * 2012-11-27 2018-05-23 クラリオン株式会社 車載用制御装置
JP2014106704A (ja) * 2012-11-27 2014-06-09 Clarion Co Ltd 車載画像処理装置
JP5981322B2 (ja) * 2012-11-27 2016-08-31 クラリオン株式会社 車載画像処理装置
EP2927060B1 (en) * 2012-11-27 2019-05-08 Clarion Co., Ltd. On-vehicle image processing device
JP6222785B2 (ja) * 2015-08-10 2017-11-01 株式会社Subaru 操舵支援装置
JP6568437B2 (ja) * 2015-09-17 2019-08-28 クラリオン株式会社 区画線認識装置
CN107305372B (zh) * 2016-04-25 2020-06-19 岳秀兰 云计算网络架构的远程监控的电动汽车能源监控和补给网
JP6817804B2 (ja) * 2016-12-16 2021-01-20 クラリオン株式会社 区画線認識装置
JP6669059B2 (ja) * 2016-12-27 2020-03-18 トヨタ自動車株式会社 位置算出装置
JP6867184B2 (ja) * 2017-02-13 2021-04-28 トヨタ自動車株式会社 運転支援装置
US10614320B2 (en) * 2018-04-03 2020-04-07 Honda Motor Co., Ltd. System and method for advanced highway lane detection

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11167636A (ja) * 1997-12-03 1999-06-22 Toyota Motor Corp 車両用ライン検出装置

Also Published As

Publication number Publication date
US20200005053A1 (en) 2020-01-02
CN110659553A (zh) 2020-01-07
US11100340B2 (en) 2021-08-24
EP3588374A1 (en) 2020-01-01
JP7131131B2 (ja) 2022-09-06

Similar Documents

Publication Publication Date Title
US9902426B2 (en) Apparatus and method for driver assistance
EP3065087B1 (en) Information processing apparatus, image capturing apparatus, control system applicable to moveable apparatus, information processing method, and carrier medium of program of method
JP6538547B2 (ja) 道路曲率計測装置
WO2013186903A1 (ja) 車線区分標示検出装置、運転支援システム
KR20170124299A (ko) 가상 주차선 생성에 의한 주차 지원 장치 및 그 방법
CN107105154B (zh) 驾驶辅助装置和驾驶辅助方法
JP6552448B2 (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム
JP5937832B2 (ja) 車載カメラ用露出制御装置
CN103189905B (zh) 车辆周围监测装置
JP2008310440A (ja) 歩行者検出装置
JP2006318059A (ja) 画像処理装置、画像処理方法、および画像処理用プログラム
JP2006318062A (ja) 画像処理装置、画像処理方法、および画像処理用プログラム
JP2020004171A (ja) 車両用ライン検出装置および該方法
JP2016143364A (ja) 位置同定装置、位置同定方法、及びプログラム
JP2018073275A (ja) 画像認識装置
JP3999088B2 (ja) 障害物検出装置
JP2009276906A (ja) 走行情報提供装置
JP7141940B2 (ja) 画像処理装置および画像処理方法
JP6132807B2 (ja) レーンマーク認識装置
US11749002B2 (en) Lane line recognition apparatus
WO2014050285A1 (ja) ステレオカメラ装置
JP2008225953A (ja) 白線認識装置及び方法
JP7359541B2 (ja) 画像処理装置および画像処理方法
JP2017072450A (ja) 自車位置認識装置
JP4538630B2 (ja) 移動物体を検出するシステムとその方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210525

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220617

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220726

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220808

R150 Certificate of patent or registration of utility model

Ref document number: 7131131

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150