JP2020077293A - 区画線検出装置及び区画線検出方法 - Google Patents

区画線検出装置及び区画線検出方法 Download PDF

Info

Publication number
JP2020077293A
JP2020077293A JP2018211260A JP2018211260A JP2020077293A JP 2020077293 A JP2020077293 A JP 2020077293A JP 2018211260 A JP2018211260 A JP 2018211260A JP 2018211260 A JP2018211260 A JP 2018211260A JP 2020077293 A JP2020077293 A JP 2020077293A
Authority
JP
Japan
Prior art keywords
reliability
line
lane marking
lane
marking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018211260A
Other languages
English (en)
Other versions
JP7095559B2 (ja
Inventor
佳 孫
Ka Son
佳 孫
将尭 横田
Masataka Yokota
将尭 横田
尚宏 曽田
Naohiro Soda
尚宏 曽田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Toyota Motor Corp
Original Assignee
Denso Corp
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp, Toyota Motor Corp filed Critical Denso Corp
Priority to JP2018211260A priority Critical patent/JP7095559B2/ja
Priority to US16/655,978 priority patent/US11069049B2/en
Publication of JP2020077293A publication Critical patent/JP2020077293A/ja
Application granted granted Critical
Publication of JP7095559B2 publication Critical patent/JP7095559B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Abstract

【課題】道路上に表示された車線区画線の検出精度を向上できる区画線検出装置を提供する。【解決手段】区画線検出装置においてプロセッサ23は、車両に搭載された撮像部により得られた画像から区画線候補画素を検出し、検出された区画線候補画素のうち、車線区画線が写っている確からしさを表す値が所定の閾値以上である区画線候補画素に対して第1の信頼度を設定し、その値が所定の閾値未満である区画線候補画素に対して第1の信頼度よりも低い第2の信頼度を設定する区画線候補画素検出部31と、画像の消失点を一端とする第1の走査線上に第1の所定数以上の区画線候補画素が位置する場合、第1の走査線上の第2の信頼度が設定された区画線候補画素の信頼度を第1の信頼度に修正する信頼度修正部33と、第1の信頼度が設定された区画線候補画素が第2の所定数以上位置する直線を車線区画線として検出する区画線検出部34とを有する。【選択図】図3

Description

本発明は、道路上に表示された車線の区画線を検出する区画線検出装置及び区画線検出方法に関する。
車両の運転支援あるいは自動運転制御において、車両が走行中の車線を特定できるように、道路上に表示された車線区画線を、車両に搭載されたカメラが撮影することで得られた画像から検出する技術が提案されている(例えば、特許文献1及び2を参照)。
例えば、特許文献1に記載された白線認識装置は、車両前方の路面画像を路面画像の縦方向の各位置で横方向に走査して、明度が上昇するアップエッジと明度が下降するダウンエッジとよりなるペアエッジを検出して白線による明部を抽出する。そしてこの白線認識装置は、得られたペアエッジが複数配列するものであるときには、白線位置候補点を、その配列に基づいてこの複数のペアエッジに対して相対位置をとる点とすることで、白線が複数配列する道路部分でも、その道路部分が白線が単一の道路部分であったとしたら得られたであろう白線位置候補点が得られるようにする。
また、特許文献2に記載された道路白線認識装置は、負エッジ点列からなる白線候補線を検出し、これと水平線との交点を求めることにより白線候補線の仮想消失点の位置座標を検出する。この道路白線認識装置は、仮想消失点を始点とする走査線を、白線候補線の車線内側及び車線外側の所定範囲で走査させ、各走査線位置における、走査線と対向する画素の輝度合計値を算出し、走査線位置の変化に伴う輝度合計値の変化状況を検出する。そしてこの道路白線認識装置は、車線内側から車線外側方向へ走査線位置が変化した場合に、輝度合計値が路面しきい値よりも低い状態、白線しきい値よりも高い状態、路面しきい値よりも低い状態の順で変化するとき、この白線候補線は、道路白線に相当する道路白線候補であると判断する。
特開2003−308534号公報 特開2004−246641号公報
しかしながら、車線区画線が表された画像上の位置によっては、車線区画線が小さく写るため、車線区画線を横切る方向の輝度変化あるいはエッジを検出することが困難となる。特に、車両周囲の広い範囲が撮影されるように、車両に広角カメラが搭載される場合には、画像の周辺に位置する道路区画線は非常に小さく写ることとなる。その結果として、車線区画線の検出に失敗するおそれがある。
そこで、本発明は、道路上に表示された車線区画線の検出精度を向上できる区画線検出装置を提供することを目的とする。
一つの実施形態によれば、区画線検出装置が提供される。この区画線検出装置は、車両に搭載された撮像部により得られた画像から、車線区画線が写っている可能性がある区画線候補画素を検出し、検出された区画線候補画素のうち、車線区画線が写っている確からしさを表す値が所定の閾値以上である区画線候補画素に対して第1の信頼度を設定し、その値が所定の閾値未満である区画線候補画素に対して第1の信頼度よりも低い第2の信頼度を設定する区画線候補画素検出部と、画像の消失点を一端とする第1の走査線上に第1の所定数以上の区画線候補画素が位置する場合、その第1の走査線上の第2の信頼度が設定された区画線候補画素の信頼度を第1の信頼度に修正する信頼度修正部と、第1の信頼度が設定された区画線候補画素が第2の所定数以上位置する直線を車線区画線として検出する区画線検出部とを有する。
この区画線検出装置において、区画線候補画素検出部は、画像上の車線区画線と交差すると想定される方向に沿って設定される複数の第2の走査線のそれぞれについて、その第2の走査線に沿って連続する区画線候補画素の数を、その連続する区画線候補画素の集合についての車線区画線が写っている確からしさを表す値として算出することが好ましい。
また、この区画線検出装置は、区画線候補画素検出部により検出された第1の信頼度が設定された区画線候補画素が第3の所定数以上位置する直線を複数検出し、検出された複数の直線の交点を消失点とする消失点特定部をさらに有することが好ましい。
この場合において、消失点特定部は、区画線候補画素検出部により検出された第1の信頼度が設定された区画線候補画素が第3の所定数以上位置する複数の線分を検出し、検出された複数の線分の交点と、その画像よりも前に撮像部により得られた他の画像について検出された消失点の平均をその画像についての消失点とすることが好ましい。
本発明の他の形態によれば、区画線検出方法が提供される。この区画線検出方法は、車両に搭載された撮像部により得られた画像から、車線区画線が写っている可能性がある区画線候補画素を検出し、検出された区画線候補画素のうち、車線区画線が写っている確からしさを表す値が所定の閾値以上である区画線候補画素に対して第1の信頼度を設定し、その値が所定の閾値未満である区画線候補画素に対して第1の信頼度よりも低い第2の信頼度を設定し、画像の消失点を一端とする第1の走査線上に第1の所定数以上の区画線候補画素が位置する場合、第1の走査線上の第2の信頼度が設定された区画線候補画素の信頼度を第1の信頼度に修正し、第1の信頼度が設定された区画線候補画素が第2の所定数以上位置する直線を車線区画線として検出する、ことを含む。
本発明に係る区画線検出装置は、道路上に表示された車線区画線の検出精度を向上できるという効果を奏する。
区画線検出装置が実装される車両制御システムの概略構成図である。 区画線検出装置の一つの実施形態である電子制御装置のハードウェア構成図である。 区画線検出処理を含む車両制御処理に関する、電子制御装置のプロセッサの機能ブロック図である。 (a)〜(c)は、区画線検出処理の概要の説明図である。 区画線検出処理を含む、車両制御処理の動作フローチャートである。
以下、図を参照しつつ、区画線検出装置について説明する。この区画線検出装置は、車両に搭載されたカメラにより得られた、車両の周囲が表された画像から道路上に表示された車線区画線を検出する。その際、この区画線検出装置は、画像を識別器に入力することで、車線区画線が写っている可能性がある画素(以下、区画線候補画素と呼ぶ)を検出し、画像上で車線区画線と交差すると想定される所定方向(例えば、水平方向)の走査線に沿って走査したときに区画線候補画素が所定数以上連続する区間に対して、車線区画線である確からしさを表す信頼度を相対的に高い第1の信頼度に設定し、一方、区画線候補画素が連続する数が所定数未満となる区間に対して、信頼度を相対的に低い第2の信頼度に設定する。この区画線検出装置は、第1の信頼度が設定された区画線候補画素が第3の所定数以上位置する直線を複数検出し、それら直線の交点を画像上の消失点とする。そしてこの区画線検出装置は、消失点を一端とし、消失点から放射状に設定される複数の走査線のそれぞれについて、その走査線上に第1の所定数以上の区画線候補画素が位置する場合、その走査線上に位置する第2の信頼度が設定された区画線候補画素について、その信頼度を第1の信頼度に修正する。そしてこの区画線検出装置は、第1の信頼度が設定された区画線候補画素が第2の所定数以上位置する直線を車線区画線として検出する。
以下では、区画線検出装置を、車両制御システムに適用した例について説明する。この例では、区画線検出装置は、車両に搭載されたカメラにより得られた画像に対して区画線検出処理を実行することで、車両区画線を検出し、検出された車線区画線を車両の運転制御に利用する。
図1は、区画線検出装置が実装される車両制御システムの概略構成図である。また図2は、区画線検出装置の一つの実施形態である電子制御装置のハードウェア構成図である。本実施形態では、車両10に搭載され、かつ、車両10を制御する車両制御システム1は、車両10の周囲を撮影するためのカメラ2と、測位情報受信機3と、区画線検出装置の一例である電子制御装置(ECU)4とを有する。カメラ2と、測位情報受信機3と、ECU4とは、コントローラエリアネットワークといった規格に準拠した車内ネットワーク5を介して通信可能に接続される。
カメラ2は、撮像部の一例であり、CCDあるいはC-MOSなど、可視光に感度を有する光電変換素子のアレイで構成された2次元検出器と、その2次元検出器上に撮影対象となる領域の像を結像する結像光学系を有する。そしてカメラ2は、車両10の前方を向くように、例えば、車両10の車室内に取り付けられる。そしてカメラ2は、所定の撮影周期(例えば1/30秒〜1/10秒)ごとに車両10の前方領域を撮影し、その前方領域が写った画像を生成する。カメラ2により得られた画像は、カラー画像であってもよく、あるいは、グレー画像であってもよい。
カメラ2は、画像を生成する度に、その生成した画像を、車内ネットワーク5を介してECU4へ出力する。
測位情報受信機3は、測位部の一例であり、車両10の現在位置を表す測位情報を取得する。例えば、測位情報受信機3は、GPS受信機とすることができる。そして測位情報受信機3は、測位情報を取得する度に、取得した測位情報を、車内ネットワーク5を介してECU4へ出力する。
ECU4は、車両10を制御する。本実施形態では、ECU4は、カメラ2により得られた画像から検出された車線区画線に基づいて車両10を自動運転するよう、車両10を制御する。そのために、ECU4は、通信インターフェース21と、メモリ22と、プロセッサ23とを有する。
通信インターフェース21は、通信部の一例であり、ECU4を車内ネットワーク5に接続するためのインターフェース回路を有する。すなわち、通信インターフェース21は、車内ネットワーク5を介して、カメラ2及び測位情報受信機3と接続される。そして通信インターフェース21は、カメラ2から画像を受信する度に、受信した画像をプロセッサ23へわたす。また通信インターフェース21は、測位情報受信機3から測位情報を受信する度に、受信した測位情報をプロセッサ23へわたす。
メモリ22は、記憶部の一例であり、例えば、揮発性の半導体メモリ及び不揮発性の半導体メモリを有する。そしてメモリ22は、ECU4のプロセッサ23により実行される区画線検出処理において使用される各種のデータ、例えば、カメラ2から受信した画像、及び、区画線検出処理で利用される識別器を特定するための各種パラメータなどを記憶する。さらに、メモリ22は、地図情報を記憶してもよい。この地図情報は、道路上に設定された車線の数を表す情報を含む。
プロセッサ23は、制御部の一例であり、1個または複数個のCPU(Central Processing Unit)及びその周辺回路を有する。プロセッサ23は、論理演算ユニット、数値演算ユニットあるいはグラフィック処理ユニットといった他の演算回路をさらに有していてもよい。そしてプロセッサ23は、車両10が走行している間、カメラ2から画像を受信する度に、受信した画像に対して区画線検出処理を実行する。さらに、プロセッサ23は、受信した画像から検出された車線区画線に基づいて、車両10を自動運転するよう、車両10を制御する。
図3は、区画線検出処理を含む車両制御処理に関する、ECU4のプロセッサ23の機能ブロック図である。プロセッサ23は、区画線候補画素検出部31と、消失点特定部32と、信頼度修正部33と、区画線検出部34と、運転計画部35と、車両制御部36とを有する。プロセッサ23が有するこれらの各部は、例えば、プロセッサ23上で動作するコンピュータプログラムにより実現される機能モジュールである。あるいは、プロセッサ23が有するこれらの各部は、プロセッサ23に設けられる、専用の演算回路であってもよい。また、プロセッサ23が有するこれらの各部のうち、区画線候補画素検出部31、消失点特定部32、信頼度修正部33及び区画線検出部34が、区画線検出処理を実行する。また、プロセッサ23は、カメラ2から画像が得られる度に、その画像に対して区画線検出処理を実行する。そのため、以下では、区画線候補画素検出部31、消失点特定部32、信頼度修正部33及び区画線検出部34について、一つの画像に対する処理を説明する。
区画線候補画素検出部31は、カメラ2により生成された画像から、区画線候補画素を検出する。そして区画線候補画素検出部31は、検出した区画線候補画素ごとに区画線が表されている確からしさを表す信頼度を設定する。
例えば、区画線候補画素検出部31は、画像を識別器に入力することで、画像に表された区画線候補画素を検出する。区画線候補画素検出部31は、識別器として、例えば、入力された画像から、その画像の各画素について、その画素に表される可能性の有る物体の種類ごとに、その物体がその画素に表されている確からしさを表す確信度を出力し、その確信度が最大となる物体が表されていると識別するように予め学習されたセグメンテーション用の識別器を用いることができる。なお、区画線候補画素についての確信度は、車線区画線が写っている確からしさを表す値の一例である。区画線候補画素検出部31は、そのような識別器として、例えば、Fully Convolutional Network(FCN)といった、セグメンテーション用のコンボリューショナルニューラルネットワーク(CNN)アーキテクチャを有するディープニューラルネットワーク(DNN)を用いることができる。あるいは、区画線候補画素検出部31は、ランダムフォレストあるいは条件付確率場といったマルコフ確率場を利用した他の機械学習手法に従ったセグメンテーション用の識別器を利用してもよい。
区画線候補画素が検出されると、区画線候補画素検出部31は、画像に対して、車線区画線と交差すると推定される方向に沿った走査線(第2の走査線)を複数設定する。例えば、区画線候補画素検出部31は、画像上の水平方向に沿って走査線を複数設定する。その際、区画線候補画素検出部31は、画像の垂直方向における画素位置ごとに走査線を設定してもよく、あるいは、隣接する走査線間に所定画素数(例えば、1〜5画素)の間隔を設けてもよい。また、区画線候補画素検出部31は、画像の中心、すなわち、カメラ2の光軸に相当する画像上の位置を中心とした同心円状に複数の走査線を設定してもよい。あるいはまた、区画線候補画素検出部31は、画像の上端の中点を中心とする同心円状に複数の走査線を設定してもよい。これらの場合も、区画線候補画素検出部31は、隣接する走査線間に所定画素数の間隔を設けてもよい。
区画線候補画素検出部31は、各走査線に沿って、区画線候補画素が連続する区間を検出する。なお、区画線候補画素検出部31は、走査線上に区画線候補画素が一つだけ存在する場合も、その区画線候補画素を一つの区間として検出してもよい。区画線候補画素検出部31は、区画線候補画素が連続する区間の走査線に沿った長さ(以下、単に区間の長さと呼ぶ)を、その区間についての車線区画線が写っている確からしさを表す値の他の一例として求める。そして区画線候補画素検出部31は、区間の長さが所定数(例えば、3〜10画素)以上となる区間に含まれる何れかの区画線候補画素、例えば、その区間の中点に位置する区画線候補画素の信頼度を、相対的に高い信頼度である第1の信頼度に設定する。一方、区画線候補画素検出部31は、区間の長さが所定数未満となる区間に含まれる何れかの区画線候補画素、例えば、その区間の中点に位置する区画線候補画素の信頼度を、相対的に低い信頼度である第2の信頼度に設定する。
変形例によれば、区画線候補画素検出部31は、走査線に沿った、区画線候補画素が連続する区間の両端におけるエッジ強度の絶対値の平均値を、その区間についての車線区画線が写っている確からしさを表す値の他の一例として算出してもよい。そして区画線候補画素検出部31は、エッジ強度の絶対値の平均値が所定のエッジ強度閾値以上である場合に、その区間に含まれる区画線候補画素の信頼度を第1の信頼度に設定し、一方、エッジ強度の絶対値の平均値が所定のエッジ強度閾値未満である場合に、その区間に含まれる区画線候補画素の信頼度を第2の信頼度に設定してもよい。この場合、区画線候補画素検出部31は、エッジ強度を、sobelフィルタあるいはprewittフィルタといったエッジ検出フィルタを適用することで算出すればよい。
他の変形例によれば、区画線候補画素検出部31は、画像の各画素が区画線候補画素か否かを識別する識別器により出力される、区画線候補画素の確信度が所定の確信度閾値以上である場合に、その区画線候補画素の信頼度を第1の信頼度に設定し、一方、その区画線候補画素の確信度が所定の確信度閾値未満である場合に、その区画線候補画素の信頼度を第2の信頼度に設定してもよい。
さらに、区画線候補画素検出部31は、画像から、区画線候補画素以外の、車両10の走行に影響を与え得る他の物体(例えば、車両あるいは人など)も、区画線候補画素の検出と同様に、画像を識別器に入力することで検出してもよい。その際、区画線候補画素検出部31は、区画線候補画素の検出に用いる識別器とは別個に、入力された画像から、その画像に表された物体を検出するように予め学習された識別器を用いてもよい。区画線候補画素検出部31は、そのような識別器として、例えば、Single Shot MultiBox Detector(SSD)、または、Faster R-CNNといった、コンボリューショナルニューラルネットワーク型のアーキテクチャを持つDNNを用いることができる。
区画線候補画素検出部31は、検出された各区画線候補画素の位置及び信頼度を、消失点特定部32、信頼度修正部33及び区画線検出部34へ出力する。また区画線候補画素検出部31は、画像から車両10の周囲の物体を検出した場合、検出した物体の種類及びその物体が表された領域を表す情報を、運転計画部35へ出力する。
消失点特定部32は、第1の信頼度が設定された区画線候補画素に基づいて画像上の消失点を特定する。一般に、車両は何れかの車線に沿って走行するので、車両の左側と右側のそれぞれに車線区画線が存在する可能性が高い。そこで、消失点特定部32は、画像の左半分と右半分のそれぞれについて、第1の信頼度が設定された区画線候補画素が第3の所定数(例えば、10〜20)以上位置する直線を検出する。例えば、消失点特定部32は、画像の左半分と右半分のそれぞれについて、第1の信頼度が設定された区画線候補画素の集合に対してハフ変換を実行することで、そのような直線を検出すればよい。その際、消失点特定部32は、着目する直線について、その直線からの距離が所定距離(例えば、1〜3画素)以下となる区画線候補画素を、その直線上に位置する区画線候補画素とすればよい。
画像の右半分から検出された直線は、車両10の右側に存在する車線区画線を表している可能性が高い。同様に、画像の左半分から検出された直線は、車両10の左側に存在する車線区画線を表している可能性が高い。したがって、それら検出された各直線は、実空間において互いに平行な直線である可能性が高い。そこで消失点特定部32は、画像の右半分から検出された直線と画像の左半分から検出された直線との交点を画像上の消失点として特定する。
なお、3本以上の直線が検出されている場合、消失点特定部32は、画像の中心からの距離が近い方から順に2本の直線を選択し、選択した2本の直線の交点を画像上の消失点としてもよい。これは、画像の中心からの距離が近い直線ほど、車両10が走行中の車線の区画を表す車線区画線である可能性が高いためである。
あるいは、消失点特定部32は、第1の信頼度が設定された区画線候補画素が位置する数が多い方から順に2本の直線を選択し、選択した2本の直線の交点を画像上の消失点としてもよい。
また、一般的に、画像上での消失点の位置は、時系列に連続して取得される画像間であまり変化しない。そこで、消失点特定部32は、カメラ2による撮影周期よりも長い一定周期ごとに、上記の何れかの手法にしたがって画像上の消失点を特定してもよい。この場合、消失点が求められなかった画像については、消失点特定部32は、直前に特定された他の画像上の消失点の位置を、その画像上の消失点の位置としてもよい。あるいは、消失点特定部32は、直近の所定期間に得られた複数の画像のそれぞれについて、上記の手法にしたがって消失点を特定し、各画像について特定された消失点の位置の平均値を、最新の画像における消失点の位置としてもよい。
消失点特定部32は、画像上の消失点の位置を信頼度修正部33へ通知する。
信頼度修正部33は、画像上の消失点から放射状に、消失点を一端とする走査線(第1の走査線)を複数設定し、走査線ごとに、その走査線上に位置する区画線候補画素の数をカウントする。その際、信頼度修正部33は、走査線から所定距離(例えば、1〜3画素)以下となる区画線候補画素を、その走査線上に位置する区画線候補画素とすればよい。そして信頼度修正部33は、区画線候補画素の数が第1の所定数(例えば、5〜20)以上である走査線について、その走査線上に位置する、第2の信頼度が設定された区画線候補画素の信頼度を、第2の信頼度から第1の信頼度に修正する。
車線区画線は、画像上において、消失点を一端とするように表される可能性が高い。そこで上記のように、消失点を一端とする走査線上に区画線候補画素が多数存在する場合、の走査線は車線区画線である可能性が高い。そこで上記のように、信頼度修正部33は、区画線候補画素の数が所定数以上位置する走査線について、その走査線上に位置する区画線候補画素の信頼度を第1の信頼度に修正することで、区画線候補画素の信頼度を適切に評価できる。
信頼度修正部33は、信頼度を修正した区画線候補画素の位置を区画線検出部34へ通知する。
区画線検出部34は、第1の信頼度が設定された区画線候補画素の集合に基づいて、画像上に表された車線区画線を検出する。例えば、区画線検出部34は、第1の信頼度が設定された区画線候補画素の集合に対してハフ変換を実行することで、第1の信頼度が設定された区画線候補画素が第2の所定数(例えば、5〜20)以上位置する直線を検出し、検出された直線を車線区画線とする。なお、区画線検出部34は、着目する直線から所定距離(例えば、1〜3画素)以下となる区画線候補画素を、その着目する直線上に位置する区画線候補画素とすればよい。その際、区画線検出部34は、第1の信頼度が設定された区画線候補画素が所定数以上位置する直線のうち、一端が画像上の消失点から所定距離(例えば、5〜10画素)以内に位置する直線のみを車線区画線として検出してもよい。あるいは、区画線検出部34は、消失点から放射状に設定された複数の走査線のうち、第1の信頼度が設定された区画線候補画素が所定数以上位置する走査線を車線区画線として検出してもよい。
図4(a)〜図4(c)は、区画線検出処理の概要の説明図である。図4(a)に示される画像400において、ハッチングで示される個々のブロック401は、区画線候補画素の集合を表す。そして画像400において、水平方向に複数の走査線402が設定されており、各走査線とブロックとが交差する区間について、その区間の長さに応じて信頼度が設定される。すなわち、各ブロック401のうち、走査線402に沿った区間の長さが所定長以上となるブロックについて、その区間の中点となる画素403に第1の信頼度が設定される。一方、走査線402に沿った区間の長さが所定長未満となるブロックについて、その区間の中点となる画素404に第2の信頼度が設定される。
図4(b)に示されるように、一旦信頼度が設定された後、画像400上に消失点410を一端とする複数の走査線411が設定される。そして走査線411のうち、走査線上の区画線候補画素の数が第1の所定数以上となる走査線について、その走査線上に位置する画素404の信頼度が、第2の信頼度から第1の信頼度に修正される。
そして図4(c)に示されるように、画像400において、第1の信頼度が設定された区画線候補画素が第2の所定数以上位置する直線421〜423のそれぞれが、車線区画線として検出される。
区画線検出部34は、検出した車線区画線を表す情報を運転計画部35へ通知する。
運転計画部35は、画像から検出された、車両10の周囲に存在する他の物体と車両10とが衝突しないように車両10の走行予定経路を1以上生成する。走行予定経路は、例えば、現時刻から所定時間先までの各時刻における、車両10の目標位置の集合として表される。例えば、運転計画部35は、車両10を挟むように位置する互いに隣接する二つの車線区画線で特定される車線を車両10が走行していると判定する。また、運転計画部35は、画像から検出された他の物体の水平方向の中心位置を挟むように位置する互いに隣接する二つの車線区画線で特定される車線を他の物体が走行していると判定する。そして運転計画部35は、車両10が走行中の車線と他の物体が走行中の車線とが同一か否かを判定すればよい。
また、運転計画部35は、カメラ2から画像を受信する度に、カメラ2についての車両10への取り付け位置などの情報を用いて視点変換処理を実行することで、受信した画像を鳥瞰画像に変換する。そして運転計画部35は、一連の鳥瞰画像に対してKalman Filterなどを用いたトラッキング処理を実行することで、各画像について検出された物体を追跡し、その追跡結果により得られた軌跡から、物体のそれぞれの所定時間先までの予測軌跡を推定する。
運転計画部35は、検出された他の物体が走行中の車線及び予測軌跡に基づいて、他の物体と車両10とが異なる車線を走行するか、あるいは、車両10から他の物体までの相対距離が所定距離以上となるように、車両10の走行予定経路を生成する。その際、運転計画部35は、例えば、測位情報受信機3から得た、車両10の現在位置情報と、メモリ22に記憶されている地図情報とを参照して、車両10が走行可能な車線の数を確認してもよい。そして運転計画部35は、車両10が走行可能な車線が複数存在する場合には、車両10が走行する車線を変更するように走行予定経路を生成してもよい。
なお、運転計画部35は、複数の走行予定経路を生成してもよい。この場合、運転計画部35は、複数の走行予定経路のうち、車両10の加速度の絶対値の総和が最小となる経路を選択してもよい。
運転計画部35は、生成した走行予定経路を車両制御部36へ通知する。
車両制御部36は、車両10が通知された走行予定経路に沿って走行するように車両10の各部を制御する。例えば、車両制御部36は、通知された走行予定経路、及び、車速センサ(図示せず)により測定された車両10の現在の車速に従って、車両10の加速度を求め、その加速度となるようにアクセル開度またはブレーキ量を設定する。そして車両制御部36は、設定されたアクセル開度に従って燃料噴射量を求め、その燃料噴射量に応じた制御信号を車両10のエンジンの燃料噴射装置へ出力する。あるいは、車両制御部36は、設定されたブレーキ量に応じた制御信号を車両10のブレーキへ出力する。
さらに、車両制御部36は、車両10が走行予定経路に沿って走行するために車両10の進路を変更する場合には、その走行予定経路に従って車両10の操舵角を求め、その操舵角に応じた制御信号を、車両10の操舵輪を制御するアクチュエータ(図示せず)へ出力する。
図5は、プロセッサ23により実行される、区画線検出処理を含む、車両制御処理の動作フローチャートである。プロセッサ23は、カメラ2から画像を受信する度に、図5に示される動作フローチャートに従って車両制御処理を実行する。なお、以下に示される動作フローチャートにおいて、ステップS101〜S105の処理が区画線検出処理に対応する。
プロセッサ23の区画線候補画素検出部31は、カメラ2から得られた画像から区画線候補画素を検出する(ステップS101)。さらに、区画線候補画素検出部31は、車線区画線と交差すると推定される方向に沿って設定された複数の走査線のそれぞれについて、その走査線上で区画線候補画素が所定数以上連続する区間の何れかの画素に第1の信頼度を設定し、所定数未満の区画線候補画素が連続する区間の何れかの画素に第2の信頼度を設定する(ステップS102)。
プロセッサ23の消失点特定部32は、第1の信頼度が設定された区画線候補画素が第3の所定数以上位置する直線を2本以上検出し、検出した直線の交点を画像上の消失点として特定する(ステップS103)。
プロセッサ23の信頼度修正部33は、消失点を一端とする走査線を消失点から放射状に複数設定する。そして信頼度修正部33は、各走査線のうち、その走査線上に位置する区画線候補画素の数が第1の所定数以上となる走査線上に位置する、第2の信頼度が設定された区画線候補画素の信頼度を、第2の信頼度から第1の信頼度に修正する(ステップS104)。
プロセッサ23の区画線検出部34は、第1の信頼度が設定された区画線候補画素が第2の所定数以上位置する直線を車線区画線として検出する(ステップS105)。
プロセッサ23の運転計画部35は、画像から検出された車線区画線に応じて車両10が走行中の車線を特定し、特定した車線に基づいて車両10の走行予定経路を生成する(ステップS106)。そしてプロセッサ23の車両制御部36は、走行予定経路に沿って車両10が走行するように車両10を制御する(ステップS107)。そしてプロセッサ23は、車両制御処理を終了する。
以上に説明してきたように、この区画線検出装置は、車両に搭載されたカメラにより生成された画像から検出された、相対的に低い第2の信頼度が設定された区画線候補画素のうち、画像上の消失点を一端とする走査線上に位置する区画線候補画素については、その走査線上に所定数以上の区画線候補画素が位置する場合に、その信頼度を相対的に高い第1の信頼度に修正する。その上で、この区画線検出装置は、第1の信頼度の区画線候補画素が所定数以上並んだ直線を車線区画線として検出する。このように、画像上で車線区画線が小さく写っているために、実際に車線区画線が写っているにもかかわらず、信頼度が低く設定されている区画線候補画素についても、信頼度が高く修正されるので、この区画線検出装置は、画像上で小さく写っている車線区画線も検出できる。したがって、この区画線検出装置は、道路上に表示された車線区画線の検出精度を向上できる。
また、上記の実施形態または変形例による、区画線検出装置のプロセッサ23の各部の機能を実現するコンピュータプログラムは、半導体メモリ、磁気記録媒体または光記録媒体といった、コンピュータ読取可能な可搬性の記録媒体に記録された形で提供されてもよい。
以上のように、当業者は、本発明の範囲内で、実施される形態に合わせて様々な変更を行うことができる。
1 車両制御システム
2 カメラ
3 測位情報受信機
4 電子制御装置(区画線検出装置)
5 車内ネットワーク
21 通信インターフェース
22 メモリ
23 プロセッサ
31 区画線候補画素検出部
32 消失点特定部
33 信頼度修正部
34 区画線検出部
35 運転計画部
36 車両制御部

Claims (5)

  1. 車両に搭載された撮像部により得られた画像から、車線区画線が写っている可能性がある区画線候補画素を検出し、検出された区画線候補画素のうち、車線区画線が写っている確からしさを表す値が所定の閾値以上である区画線候補画素に対して第1の信頼度を設定し、前記値が前記所定の閾値未満である区画線候補画素に対して前記第1の信頼度よりも低い第2の信頼度を設定する区画線候補画素検出部と、
    前記画像の消失点を一端とする第1の走査線上に第1の所定数以上の前記区画線候補画素が位置する場合、当該第1の走査線上の前記第2の信頼度が設定された前記区画線候補画素の信頼度を前記第1の信頼度に修正する信頼度修正部と、
    前記第1の信頼度が設定された前記区画線候補画素が第2の所定数以上位置する直線を車線区画線として検出する区画線検出部と、
    を有する区画線検出装置。
  2. 前記区画線候補画素検出部は、前記画像上の前記車線区画線と交差すると想定される方向に沿って設定される複数の第2の走査線のそれぞれについて、当該第2の走査線に沿って前記区画線候補画素が連続する数を、当該連続する区画線候補画素の集合についての前記確からしさを表す値として算出する、請求項1に記載の区画線検出装置。
  3. 前記区画線候補画素検出部により検出された前記第1の信頼度が設定された前記区画線候補画素が第3の所定数以上位置する直線を複数検出し、当該複数の直線の交点を前記消失点とする消失点特定部をさらに有する、請求項1または2に記載の区画線検出装置。
  4. 前記消失点特定部は、前記区画線候補画素検出部により検出された前記第1の信頼度が設定された前記区画線候補画素が前記第3の所定数以上位置する複数の直線を検出し、当該複数の直線の交点と、前記画像よりも前に前記撮像部により得られた画像について検出された消失点の平均を前記消失点とする、請求項3に記載の区画線検出装置。
  5. 車両に搭載された撮像部により得られた画像から、車線区画線が写っている可能性がある区画線候補画素を検出し、
    検出された区画線候補画素のうち、車線区画線が写っている確からしさを表す値が所定の閾値以上である区画線候補画素に対して第1の信頼度を設定し、前記値が前記所定の閾値未満である区画線候補画素に対して前記第1の信頼度よりも低い第2の信頼度を設定し、
    前記画像の消失点を一端とする第1の走査線上に第1の所定数以上の前記区画線候補画素が位置する場合、当該第1の走査線上の前記第2の信頼度が設定された前記区画線候補画素の信頼度を前記第1の信頼度に修正し、
    前記第1の信頼度が設定された前記区画線候補画素が第2の所定数以上位置する直線を車線区画線として検出する、
    区画線検出方法。
JP2018211260A 2018-11-09 2018-11-09 区画線検出装置及び区画線検出方法 Active JP7095559B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018211260A JP7095559B2 (ja) 2018-11-09 2018-11-09 区画線検出装置及び区画線検出方法
US16/655,978 US11069049B2 (en) 2018-11-09 2019-10-17 Division line detection device and division line detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018211260A JP7095559B2 (ja) 2018-11-09 2018-11-09 区画線検出装置及び区画線検出方法

Publications (2)

Publication Number Publication Date
JP2020077293A true JP2020077293A (ja) 2020-05-21
JP7095559B2 JP7095559B2 (ja) 2022-07-05

Family

ID=70550701

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018211260A Active JP7095559B2 (ja) 2018-11-09 2018-11-09 区画線検出装置及び区画線検出方法

Country Status (2)

Country Link
US (1) US11069049B2 (ja)
JP (1) JP7095559B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7484783B2 (ja) 2021-03-24 2024-05-16 トヨタ自動車株式会社 車線境界検出装置、車線境界検出方法及び車線境界検出用コンピュータプログラム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11551459B1 (en) * 2022-06-27 2023-01-10 Plusai, Inc. Ambiguous lane detection event miner

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005148784A (ja) * 2003-11-11 2005-06-09 Aisin Seiki Co Ltd 路面走行レーン検出装置
US20080027627A1 (en) * 2004-05-19 2008-01-31 Honda Motor Co., Ltd. Traffic Lane Marking Line Recognition System for Vehicle
US7646890B2 (en) * 2005-04-15 2010-01-12 Denso Corporation Image processor for automotive vehicle
US9081385B1 (en) * 2012-12-21 2015-07-14 Google Inc. Lane boundary detection using images
JP2016018540A (ja) * 2014-07-11 2016-02-01 株式会社日本自動車部品総合研究所 走行区画線認識装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3930366B2 (ja) 2002-04-18 2007-06-13 株式会社デンソー 白線認識装置
JP2004246641A (ja) 2003-02-14 2004-09-02 Nissan Motor Co Ltd 道路白線認識装置
JP4659631B2 (ja) * 2005-04-26 2011-03-30 富士重工業株式会社 車線認識装置
GB201410612D0 (en) * 2014-06-13 2014-07-30 Tomtom Int Bv Methods and systems for generating route data
JP6272204B2 (ja) * 2014-10-02 2018-01-31 株式会社Soken 道路区画線情報取得装置
US10628671B2 (en) * 2017-11-01 2020-04-21 Here Global B.V. Road modeling from overhead imagery
CN108256446B (zh) * 2017-12-29 2020-12-11 百度在线网络技术(北京)有限公司 用于确定道路中的车道线的方法、装置和设备

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005148784A (ja) * 2003-11-11 2005-06-09 Aisin Seiki Co Ltd 路面走行レーン検出装置
US20080027627A1 (en) * 2004-05-19 2008-01-31 Honda Motor Co., Ltd. Traffic Lane Marking Line Recognition System for Vehicle
US7646890B2 (en) * 2005-04-15 2010-01-12 Denso Corporation Image processor for automotive vehicle
US9081385B1 (en) * 2012-12-21 2015-07-14 Google Inc. Lane boundary detection using images
JP2016018540A (ja) * 2014-07-11 2016-02-01 株式会社日本自動車部品総合研究所 走行区画線認識装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7484783B2 (ja) 2021-03-24 2024-05-16 トヨタ自動車株式会社 車線境界検出装置、車線境界検出方法及び車線境界検出用コンピュータプログラム

Also Published As

Publication number Publication date
US20200151865A1 (en) 2020-05-14
US11069049B2 (en) 2021-07-20
JP7095559B2 (ja) 2022-07-05

Similar Documents

Publication Publication Date Title
CN112292711B (zh) 关联lidar数据和图像数据
JP7077910B2 (ja) 区画線検出装置及び区画線検出方法
US11308717B2 (en) Object detection device and object detection method
JP6457278B2 (ja) 物体検出装置及び物体検出方法
JP2005310140A (ja) オブジェクトの認識及び/又は追跡方法
JP6337961B2 (ja) 信号機認識装置及び信号機認識方法
US10748014B2 (en) Processing device, object recognition apparatus, device control system, processing method, and computer-readable recording medium
JP6911312B2 (ja) 物体識別装置
US11468691B2 (en) Traveling lane recognition apparatus and traveling lane recognition method
CN111213153A (zh) 目标物体运动状态检测方法、设备及存储介质
CN111386530A (zh) 车辆检测方法和设备
JP2020067896A (ja) 進行可能方向検出装置及び進行可能方向検出方法
JP2021128705A (ja) 物体状態識別装置
JP5888275B2 (ja) 道路端検出システム、方法およびプログラム
JP2007018451A (ja) 道路区画線検出装置
JP7003972B2 (ja) 距離推定装置、距離推定方法及び距離推定用コンピュータプログラム
JP7095559B2 (ja) 区画線検出装置及び区画線検出方法
KR102003387B1 (ko) 조감도 이미지를 이용한 교통 장애물의 검출 및 거리 측정 방법, 교통 장애물을 검출하고 거리를 측정하는 프로그램을 저장한 컴퓨터 판독가능 기록매체
JP6611334B2 (ja) 区画線認識装置
CN115131767A (zh) 车道边界检测装置、车道边界检测方法及车道边界检测用计算机程序
JP2007233487A (ja) 歩行者検出方法、装置、およびプログラム
JP2020076714A (ja) 位置姿勢推定装置
JP7484783B2 (ja) 車線境界検出装置、車線境界検出方法及び車線境界検出用コンピュータプログラム
US20240017748A1 (en) Device, method, and computer program for lane determination
US11010625B2 (en) Vehicle exterior environment recognition apparatus and method of recognizing exterior environment outside vehicle

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20210521

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20210521

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220518

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220524

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220606

R151 Written notification of patent or utility model registration

Ref document number: 7095559

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151