JP7077910B2 - 区画線検出装置及び区画線検出方法 - Google Patents

区画線検出装置及び区画線検出方法 Download PDF

Info

Publication number
JP7077910B2
JP7077910B2 JP2018198391A JP2018198391A JP7077910B2 JP 7077910 B2 JP7077910 B2 JP 7077910B2 JP 2018198391 A JP2018198391 A JP 2018198391A JP 2018198391 A JP2018198391 A JP 2018198391A JP 7077910 B2 JP7077910 B2 JP 7077910B2
Authority
JP
Japan
Prior art keywords
certainty
lane marking
vehicle
lane
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018198391A
Other languages
English (en)
Other versions
JP2020067698A (ja
Inventor
佳 孫
将尭 横田
尚宏 曽田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2018198391A priority Critical patent/JP7077910B2/ja
Priority to US16/658,753 priority patent/US11157753B2/en
Publication of JP2020067698A publication Critical patent/JP2020067698A/ja
Application granted granted Critical
Publication of JP7077910B2 publication Critical patent/JP7077910B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/025Active steering aids, e.g. helping the driver by actively influencing the steering system after environment evaluation
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Electromagnetism (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、道路上に表示された車線の区画線を検出する区画線検出装置及び区画線検出方法に関する。
車両の運転支援あるいは自動運転制御において、車両が走行中の車線を特定できることが好ましい。そこで、車両に搭載されたカメラが撮影することで得られた画像を、画素ごとにその画素に表された物体の種類を出力するセグメンテーション用の識別器に入力することで、道路上に表示された車線区画線を検出する技術が提案されている(例えば、非特許文献1を参照)。
Jiam Kim他、「End-to-End Ego Lane Estimation based on Sequential Transfer Learning for Self-Driving Cars」、2017 IEEE Conference on Computer Vision and Pattern Recognition Workshops、2017年
道路上には、車線区画線以外にも、横断歩道または制限速度といった道路標示が表されている。そのため、識別器が、その他の道路標示を車線区画線として誤認識することがある。
そこで、本発明は、道路上に表示された車線区画線の検出精度を向上できる区画線検出装置を提供することを目的とする。
一つの実施形態によれば、区画線検出装置が提供される。この区画線検出装置は、車両に搭載された撮像部により得られた画像を、画素ごとにその画素に写っている可能性のある物体ごとの確からしさを表す確信度を算出する識別器に入力することで、画像の画素ごとに、その画素に写っている物体が車線区画線である確信度及び他の物体である確信度を算出する確信度算出部と、車両が車線変更するときに、画像のうちの車線区画線が含まれると想定される範囲に補正領域を設定する補正領域設定部と、補正領域に含まれる各画素について、車線区画線である確信度または他の物体である確信度を、車線区画線である確信度が他の物体である確信度に対して相対的に高くなるよう補正する補正部と、画像の各画素のうち、車線区画線である確信度が他の物体である確信度よりも高い画素を検出し、検出した画素が並ぶ直線を車線区画線として検出する区画線検出部とを有する。
この区画線検出装置において、補正領域設定部は、車両が車線変更するときに車両が横切る車線区画線と車両との位置関係に応じて画像上での補正領域の位置及び範囲を設定することが好ましい。
本発明の他の形態によれば、区画線検出方法が提供される。この区画線検出方法は、車両に搭載された撮像部により得られた画像を、画素ごとにその画素に写っている可能性のある物体ごとの確からしさを表す確信度を算出する識別器に入力することで、画像の画素ごとに、その画素に写っている物体が車線区画線である確信度及び他の物体である確信度を算出し、車両が車線変更するときに、画像のうちの車線区画線が含まれると想定される範囲に補正領域を設定し、補正領域に含まれる各画素について、車線区画線である確信度または他の物体である確信度を、車線区画線である確信度が他の物体である確信度に対して相対的に高くなるよう補正し、画像の各画素のうち、車線区画線である確信度が他の物体である確信度よりも高い画素を検出し、検出した画素が並ぶ直線を車線区画線として検出する、ことを含む。
本発明に係る区画線検出装置は、道路上に表示された車線区画線の検出精度を向上できるという効果を奏する。
区画線検出装置が実装される車両制御システムの概略構成図である。 区画線検出装置の一つの実施形態である電子制御装置のハードウェア構成図である。 区画線検出処理を含む車両制御処理に関する、電子制御装置のプロセッサの機能ブロック図である。 変形例による、補正領域の設定の概要説明図である。 区画線検出処理の概要の説明図である。 区画線検出処理を含む、車両制御処理の動作フローチャートである。
以下、図を参照しつつ、区画線検出装置について説明する。この区画線検出装置は、車両に搭載されたカメラにより得られた、車両の周囲が表された画像をセグメンテーション用の識別器に入力することで、その画像において道路上に表示された車線区画線を検出する。この区画線検出装置が利用するセグメンテーション用の識別器は、入力された画像の各画素について、識別対象の物体の種類ごとにその物体が表されている確からしさを表す確信度を出力するよう、予め学習される。そして区画線検出装置は、各画素について、確信度が最大となる物体がその画素に表されていると判定する。
車線区画線が車線の両端に位置するのに対して、その他の道路標示など、車線の中央付近に存在する物体もある。したがって、カメラが車両の前方を向くように取り付けられている場合、車線を走行中の車両に搭載されたカメラにより得られる画像では、一般的に、車線区画線よりも他の道路標示など他の物体の方が画像の中心の近くに表される。そのため、車線区画線よりも他の物体の方が中心の近くに表された多数の教師画像が、識別器を学習する際に用いられる。そのような多数の教師画像が識別器の学習に用いられた結果、識別器は、画像の中心付近に表された物体を、車線区画線以外の他の物体と識別する可能性が高くなる。一方、車両が車線変更を行っている間にカメラにより得られた画像では、車線区画線が画像の中心付近に表されていることがある。このような場合、識別器は、車線区画線を他の物体と誤認識することがある。
そこで、この区画線検出装置は、車両が車線変更中である場合には、画像上で車線区画線が位置すると想定される領域に含まれる各画素について、識別器が出力する車線区画線についての確信度を他の物体についての確信度に対して相対的に高くするように、車線区画線についての確信度または他の物体についての確信度を補正する。これにより、この区画線検出装置は、画像の中心付近に車線区画線が表されている場合でも、車線区画線を他の物体と誤認識することを抑制して、車線区画線の検出精度を向上する。
以下では、区画線検出装置を、車両制御システムに適用した例について説明する。この例では、区画線検出装置は、車両に搭載されたカメラにより得られた画像に対して区画線検出処理を実行することで、車両区画線を検出し、検出された車線区画線を車両の運転制御に利用する。
図1は、区画線検出装置が実装される車両制御システムの概略構成図である。また図2は、区画線検出装置の一つの実施形態である電子制御装置のハードウェア構成図である。本実施形態では、車両10に搭載され、かつ、車両10を制御する車両制御システム1は、車両10の周囲を撮影するためのカメラ2と、測位情報受信機3と、区画線検出装置の一例である電子制御装置(ECU)4とを有する。カメラ2と、測位情報受信機3と、ECU4とは、コントローラエリアネットワークといった規格に準拠した車内ネットワーク5を介して通信可能に接続される。
カメラ2は、撮像部の一例であり、CCDあるいはC-MOSなど、可視光に感度を有する光電変換素子のアレイで構成された2次元検出器と、その2次元検出器上に撮影対象となる領域の像を結像する結像光学系を有する。そしてカメラ2は、車両10の前方を向くように、例えば、車両10の車室内に取り付けられる。そしてカメラ2は、所定の撮影周期(例えば1/30秒~1/10秒)ごとに車両10の前方領域を撮影し、その前方領域が写った画像を生成する。カメラ2により得られた画像は、カラー画像であってもよく、あるいは、グレー画像であってもよい。
カメラ2は、画像を生成する度に、その生成した画像を、車内ネットワーク5を介してECU4へ出力する。
測位情報受信機3は、測位部の一例であり、車両10の現在位置を表す測位情報を取得する。例えば、測位情報受信機3は、GPS受信機とすることができる。そして測位情報受信機3は、測位情報を取得する度に、取得した測位情報を、車内ネットワーク5を介してECU4へ出力する。
ECU4は、車両10を制御する。本実施形態では、ECU4は、カメラ2により得られた画像から検出された車線区画線に基づいて車両10を自動運転するよう、車両10を制御する。そのために、ECU4は、通信インターフェース21と、メモリ22と、プロセッサ23とを有する。
通信インターフェース21は、通信部の一例であり、ECU4を車内ネットワーク5に接続するためのインターフェース回路を有する。すなわち、通信インターフェース21は、車内ネットワーク5を介して、カメラ2及び測位情報受信機3と接続される。そして通信インターフェース21は、カメラ2から画像を受信する度に、受信した画像をプロセッサ23へわたす。また通信インターフェース21は、測位情報受信機3から測位情報を受信する度に、受信した測位情報をプロセッサ23へわたす。
メモリ22は、記憶部の一例であり、例えば、揮発性の半導体メモリ及び不揮発性の半導体メモリを有する。そしてメモリ22は、ECU4のプロセッサ23により実行される区画線検出処理において使用される各種のデータ、例えば、カメラ2から受信した画像、及び、区画線検出処理で利用される識別器を特定するための各種パラメータ、及び、確信度に乗じる物体の種類ごとの補正係数などを記憶する。さらに、メモリ22は、地図情報を記憶してもよい。この地図情報は、道路上に設定された車線の数を表す情報を含む。
プロセッサ23は、制御部の一例であり、1個または複数個のCPU(Central Processing Unit)及びその周辺回路を有する。プロセッサ23は、論理演算ユニット、数値演算ユニットあるいはグラフィック処理ユニットといった他の演算回路をさらに有していてもよい。そしてプロセッサ23は、車両10が走行している間、カメラ2から画像を受信する度に、受信した画像に対して区画線検出処理を実行する。さらに、プロセッサ23は、受信した画像から検出された車線区画線に基づいて、車両10を自動運転するよう、車両10を制御する。
図3は、区画線検出処理を含む車両制御処理に関する、ECU4のプロセッサ23の機能ブロック図である。プロセッサ23は、確信度算出部31と、補正領域設定部32と、補正部33と、区画線検出部34と、運転計画部35と、車両制御部36とを有する。プロセッサ23が有するこれらの各部は、例えば、プロセッサ23上で動作するコンピュータプログラムにより実現される機能モジュールである。あるいは、プロセッサ23が有するこれらの各部は、プロセッサ23に設けられる、専用の演算回路であってもよい。また、プロセッサ23が有するこれらの各部のうち、確信度算出部31、補正領域設定部32、補正部33及び区画線検出部34が、区画線検出処理を実行する。また、プロセッサ23は、カメラ2から画像が得られる度に、その画像に対して区画線検出処理を実行する。そのため、以下では、確信度算出部31、補正領域設定部32、補正部33及び区画線検出部34について、一つの画像に対する処理を説明する。
確信度算出部31は、カメラ2により生成された画像を識別器に入力することで、その画像の各画素について、識別対象の物体の種類ごとにその物体が表されている確からしさを表す確信度を出力する。
例えば、確信度算出部31は、識別器として、例えば、Fully Convolutional Network(FCN)といった、セグメンテーション用のコンボリューションニューラルネットワーク(CNN)アーキテクチャを有するディープニューラルネットワーク(DNN)を用いることができる。あるいは、確信度算出部31は、識別器として、ランダムフォレストあるいは条件付確率場といったマルコフ確率場を利用した他の機械学習手法に従ったセグメンテーション用の識別器を利用してもよい。
さらに、確信度算出部31は、画像から、区画線候補画素以外の、車両10の走行に影響を与え得る他の物体(例えば、車両あるいは人など)も、区画線候補画素の検出と同様に、画像を識別器に入力することで検出してもよい。その際、確信度算出部31は、区画線候補画素の検出に用いる識別器とは別個に、入力された画像から、その画像に表された物体を検出するように予め学習された識別器を用いてもよい。確信度算出部31は、そのような識別器として、例えば、Single Shot MultiBox Detector(SSD)、または、Faster R-CNNといった、コンボリューションニューラルネットワーク型のアーキテクチャを持つDNNを用いることができる。
確信度算出部31は、画像の各画素について、識別対象の物体ごとの確信度を補正部33及び区画線検出部34へ出力する。
補正領域設定部32は、車両10が車線変更することを検知すると、その検知から所定期間の間に取得される各画像について、車線区画線についての確信度を他の物体についての確信度よりも相対的に高くする補正領域を設定する。本実施形態では、補正領域設定部32は、画像上で車線区画線が含まれると想定される範囲に補正領域を設定する。
補正領域設定部32は、運転計画部35が設定した車両10の走行予定経路を参照して、車両10の走行予定経路が直近の所定期間内に車線変更を伴うものであるか否か判定する。そして補正領域設定部32は、操舵角センサ(図示せず)からプロセッサ23が受信した操舵角の絶対値が、所定の閾値よりも大きくなると、車両10が車線変更すると判定する。あるいは、補正領域設定部32は、測位情報受信機3により受信した車両10の現在位置情報とメモリ22に記憶されている地図情報とを参照して、車両10の現在位置における道路が直線であるか否か判定してもよい。そして補正領域設定部32は、車両10の現在位置における道路が直線である場合において、操舵角センサ(図示せず)からプロセッサ23が受信した操舵角の絶対値が、所定の閾値よりも大きくなると、車両10が車線変更すると判定してもよい。なお、所定期間は、例えば、車両10の走行予定経路における、車線変更中の区間を車両10が走行するのに要する期間とすることができる。あるいは、操舵角により示される車両10の回転方向が、車線を変更する方向と逆向きとなると、補正領域設定部32は、その所定期間が終了したと判定してもよい。
車両10が車線変更を実施している間、車両10がその車線変更の際に横切る車線区画線は、車両10の正面に位置することがある。そこで、補正領域設定部32は、本実施形態のように、カメラ2が車両10の前方を向くように取り付けられている場合、画像の下半分、すなわち、路面が写っている可能性が高い範囲において、画像の左右端の中心付近を含むように補正領域を設定する。例えば、補正領域設定部32は、直前の画像にて複数の車線区画線が検出されている場合、それら車線区画線で囲まれた領域を補正領域とする。あるいは、補正領域の位置及び範囲は予め設定されていてもよい。この場合には、補正領域は、例えば、画像の中心を頂点とし、画像の下端を底辺とする二等辺三角形の領域として設定される。補正領域設定部32は、画像上でその予め設定された位置及び範囲に補正領域を設定すればよい。
あるいは、補正領域設定部32は、車線変更中の車両10と、車両10が横切る車線区画線との位置関係に応じて、画像上での補正領域が設定される位置及び範囲を設定してもよい。このように補正領域を設定することで、補正領域設定部32は、画像上で補正領域を適切に設定できるので、車線区画線が他の物体として誤検出されることを抑制できるとともに、他の物体が車線各線として誤検出されることを抑制できる。
図4は、この変形例による、補正領域の設定の概要説明図である。図4に示される例では、車両10は、現在走行中の車線から右隣りの車線へ車線変更する。したがって、車両10は、車両10の右側に位置している車線区画線401を、車線変更中に横切る。そして車線変更には三つのフェーズ、例えば、車両10が車線変更を開始してから車両10の前面右端と車線区画線401とが交差するまでの第1フェーズと、第1フェーズが終了してから、車両10の前面左端と車線区画線401とが交差するまでの第2フェーズと、第2フェーズが終了してから、車両10の車線変更が終了するまでの第3フェーズが設定される。
この場合、画像410において、消失点411を頂点とし、画像410の下端を底辺とする三角形を、消失点411と底辺を通る線で三分割した領域412~414が、それぞれ、第1~第3フェーズに応じた補正領域として設定される。なお、車線の左右に描画される二つの車線区画線は平行であるので、補正領域設定部32は、例えば、直近の所定期間に得られた何れかの画像において複数の車線区画線が検出されている場合、それら車線区画線の交点の位置を消失点411とすることができる。また、カメラ2の光軸が路面と平行となるように、カメラ2が車両10に取り付けられている場合、補正領域設定部32は、カメラ2の光軸に相当する、画像の中心を消失点411としてもよい。
第1フェーズでは、車両10が横切る車線区画線401は、車両10よりも右側に位置すると想定されるので、画像410において、車線区画線401は、画像410の下端の中心よりも右側に位置すると想定される。そこで、補正領域設定部32は、右側の領域412を補正領域とすればよい。また、第2フェーズでは、車線区画線401は、車両10の前面と交差していると想定されるので、画像410において、車線区画線401は、画像410の下端の中心付近に位置すると想定される。そこで、補正領域設定部32は、中央の領域413を補正領域とすればよい。そして第3フェーズでは、車線区画線401は、車両10よりも左側に位置すると想定されるので、画像410において、車線区画線401は、画像410の下端の中心よりも左側に位置すると想定される。そこで、補正領域設定部32は、左側の領域414を補正領域とすればよい。
なお、車両10の前面右端と車線区画線が交差するときの画像上での車線区画線の位置は、カメラ2の取り付け位置及び画角などに基づいて既知であるため、領域412と領域413との境界線は、車両10の前面右端と車線区画線が交差するときの画像上での車線区画線の位置に設定されればよい。同様に、車両10の前面左端と車線区画線が交差するときの画像上での車線区画線の位置は、カメラ2の取り付け位置及び画角などに基づいて既知であるため、領域414と領域413との境界線は、車両10の前面左端と車線区画線が交差するときの画像上での車線区画線の位置に設定されればよい。
補正領域設定部32は、車線変更におけるフェーズの移行に関して、例えば、画像上での車線区画線401の下端の位置が、領域412と領域413の境界線の下端の位置から所定距離以内になると、第1フェーズから第2フェーズへ移行したと判定する。同様に、補正領域設定部32は、画像上での車線区画線401の下端の位置が、領域413と領域414の境界線の下端の位置から所定距離以内になると、第2フェーズから第3フェーズへ移行したと判定する。あるいは、補正領域設定部32は、車両10の走行予定経路に基づいて、車両10の車線変更開始から車線変更終了までの区間を3等分し、測位情報で表される車両10の現在位置がその最初の区間に含まれる場合、第1フェーズであると判定してもよい。同様に、補正領域設定部32は、測位情報で表される車両10の現在位置が2番目の区間に含まれる場合、第2フェーズであると判定し、一方、測位情報で表される車両10の現在位置が3番目の区間に含まれる場合、第3フェーズであると判定してもよい。あるいはまた、補正領域設定部32は、車線変更が開始され、操舵角が右側への回転を示してから操舵角の絶対値が所定値以上となっている間、第1フェーズであると判定し、操舵角の絶対値が所定値未満になると第2フェーズへ移行したと判定してもよい。そして補正領域設定部32は、操舵角が左側への回転を示すと第3フェーズへ移行したと判定してもよい。
また、車両10が現在走行中の車線から左隣の車線へ車線変更する場合には、補正領域設定部32は、上記とは逆に、車線変更のフェーズの移行とともに、領域414→領域413→領域412の順に補正領域を設定すればよい。
なお、領域412と領域413は互いに部分的に重なるように設定されてもよい。同様に、領域413と領域414は互いに部分的に重なるように設定されてもよい。
補正領域設定部32は、設定した補正領域を補正部33へ通知する。
補正部33は、補正領域に含まれる各画素について、確信度算出部31により算出された、車線区画線についての確信度が他の物体についての確信度よりも相対的に高くなるように、車線区画線についての確信度または他の物体についての確信度を補正する。本実施形態では、補正部33は、補正領域に含まれる各画素について、識別対象の物体の種類ごとの確信度に、物体の種類ごとに設定された補正係数を乗じることで、識別対象の物体の種類ごとの確信度を補正する。すなわち、車線区画線についての確信度に乗じられる補正係数が、他の物体についての確信度に乗じられる補正係数よりも高く設定される。例えば、車線区画線についての確信度に乗じられる補正係数が1よりも大きい値に設定され、他の物体についての確信度に乗じられる補正係数が1に設定される。あるいは、車線区画線についての確信度に乗じられる補正係数が1に設定され、他の物体についての確信度に乗じられる補正係数が1よりも小さい値に設定されてもよい。さらに、他の物体のうち、車線区画線と誤認識され易い物体(例えば、車線区画線以外の道路標示)についての確信度が相対的により低下するように、その誤認識され易い物体についての確信度に乗じられる補正係数は、他の物体についての確信度に乗じられる補正係数よりもさらに低く設定されてもよい。
なお、補正部33は、補正領域の中心に近いほど、車線区画線についての確信度に乗じられる補正係数がより高くなるように、あるいは、他の物体についての確信度に乗じられる補正係数がより低くなるように、補正係数を設定してもよい。あるいは、補正部33は、車線変更中の車両10と車線区画線の位置関係に応じて、車線区画線が存在する想定される画像上の位置に近いほど、車線区画線についての確信度に乗じられる補正係数がより高くなるように、あるいは、他の物体についての確信度に乗じられる補正係数がより低くなるように、補正係数を設定してもよい。例えば、車両10が車線変更している間、図4に示される、補正領域412~414のそれぞれが補正領域として設定される。そして車線変更のフェーズが第1フェーズである場合、補正部33は、車線区画線についての確信度に乗じられる補正係数を、補正領域412について最も高くし、補正領域414について最も低くしてもよい。また、車線変更のフェーズが第3フェーズである場合、補正部33は、車線区画線についての確信度に乗じられる補正係数を、補正領域414について最も高くし、補正領域412について最も低くしてもよい。
補正部33は、補正領域の各画素について、補正後の各物体の確信度を区画線検出部34へ出力する。
区画線検出部34は、画像の各画素について、その画素について算出された物体の種類ごとの確信度のうち、最も高い確信度となる物体がその画素に写っていると判定する。したがって、区画線検出部34は、車線区画線について算出された確信度が、他の物体について算出された確信度よりも高い画素に、車線区画線が写っていると判定する。
図5は、区画線検出処理の概要の説明図である。車両10が車線変更を開始すると、カメラ2により得られた画像500において、補正領域設定部32により、車線区画線501が表されていると想定される範囲に補正領域510が設定される。また、補正領域510内の4個の画素511~514のそれぞれについて、道路と車線区画線とその他の物体のそれぞれの確信度が、確信度算出部31により算出されている。この例では、画素511~513には車線区画線501が写っており、例えば、画素514には道路そのものが写っている。画素512では、車線区画線についての確信度が最も高くなっているものの、画素511では、その他の物体についての確信度(0.5)が車線区画線についての確信度(0.3)よりも高くなっている。同様に、画素513についても、その他の物体についての確信度が車線区画線についての確信度よりも高くなっている。
しかし、補正部33により、画素511~514のそれぞれについて、各物体の確信度に補正係数が乗じられる。この例では、車線区画線及び道路についての補正係数が1.0であり、その他の物体についての補正係数が0.5となっている。すなわち、車線区画線についての補正係数が、その他の物体についての補正係数よりも高く設定されている。そのため、確信度が補正された結果、画素512だけでなく、画素511及び画素513についても、車線区画線についての確信度が道路についての確信度及びその他の物体についての確信度よりも高くなる。そのため、画素511~513には、車線区画線が写っていると正確に判定される。
区画線検出部34は、画像から車線区画線が写っている画素(以下、区画線画素と呼ぶ)を検出すると、区画線画素が並ぶ直線を車線区画線として検出する。そのために、区画線検出部34は、例えば、区画線画素の集合に対してハフ変換を実行することで、区画線画素が所定数(例えば、5~20)以上位置する直線を、区画線画素が並ぶ直線として検出し、検出された直線を車線区画線とする。なお、区画線検出部34は、着目する直線から所定距離(例えば、1~3画素)以下となる区画線画素を、その着目する直線上に位置する区画線画素とすればよい。
区画線検出部34は、検出した車線区画線を表す情報を運転計画部35へ通知する。
運転計画部35は、画像から検出された、車両10の周囲に存在する他の物体と車両10とが衝突しないように車両10の走行予定経路を1以上生成する。走行予定経路は、例えば、現時刻から所定時間先までの各時刻における、車両10の目標位置の集合として表される。例えば、運転計画部35は、車両10を挟むように位置する互いに隣接する二つの車線区画線で特定される車線を車両10が走行していると判定する。また、運転計画部35は、画像から検出された他の物体の水平方向の中心位置を挟むように位置する互いに隣接する二つの車線区画線で特定される車線を他の物体が走行していると判定する。そして運転計画部35は、車両10が走行中の車線と他の物体が走行中の車線とが同一か否かを判定すればよい。
また、運転計画部35は、カメラ2から画像を受信する度に、カメラ2についての車両10への取り付け位置などの情報を用いて視点変換処理を実行することで、受信した画像を鳥瞰画像に変換する。そして運転計画部35は、一連の鳥瞰画像に対してKalman Filterなどを用いたトラッキング処理を実行することで、各画像について検出された物体を追跡し、その追跡結果により得られた軌跡から、物体のそれぞれの所定時間先までの予測軌跡を推定する。
運転計画部35は、検出された他の物体が走行中の車線及び予測軌跡に基づいて、他の物体と車両10とが異なる車線を走行するか、あるいは、車両10から他の物体までの相対距離が所定距離以上となるように、車両10の走行予定経路を生成する。その際、運転計画部35は、例えば、測位情報受信機3から得た、車両10の現在位置情報と、メモリ22に記憶されている地図情報とを参照して、車両10が走行可能な車線の数を確認してもよい。そして運転計画部35は、車両10が走行可能な車線が複数存在する場合には、車両10が走行する車線を変更するように走行予定経路を生成してもよい。
なお、運転計画部35は、複数の走行予定経路を生成してもよい。この場合、運転計画部35は、複数の走行予定経路のうち、車両10の加速度の絶対値の総和が最小となる経路を選択してもよい。
運転計画部35は、生成した走行予定経路を車両制御部36へ通知する。
車両制御部36は、車両10が通知された走行予定経路に沿って走行するように車両10の各部を制御する。例えば、車両制御部36は、通知された走行予定経路、及び、車速センサ(図示せず)により測定された車両10の現在の車速に従って、車両10の加速度を求め、その加速度となるようにアクセル開度またはブレーキ量を設定する。そして車両制御部36は、設定されたアクセル開度に従って燃料噴射量を求め、その燃料噴射量に応じた制御信号を車両10のエンジンの燃料噴射装置へ出力する。あるいは、車両制御部36は、設定されたブレーキ量に応じた制御信号を車両10のブレーキへ出力する。
さらに、車両制御部36は、車両10が走行予定経路に沿って走行するために車両10の進路を変更する場合には、その走行予定経路に従って車両10の操舵角を求め、その操舵角に応じた制御信号を、車両10の操舵輪を制御するアクチュエータ(図示せず)へ出力する。
図6は、プロセッサ23により実行される、区画線検出処理を含む、車両制御処理の動作フローチャートである。プロセッサ23は、カメラ2から画像を受信する度に、図6に示される動作フローチャートに従って車両制御処理を実行する。なお、以下に示される動作フローチャートにおいて、ステップS101~S106の処理が区画線検出処理に対応する。
プロセッサ23の確信度算出部31は、カメラ2から得られた画像を識別器に入力することで、各画素についての物体の種類ごとの確信度を算出する(ステップS101)。
プロセッサ23の補正領域設定部32は、車両10が車線変更中か否か判定する(ステップS102)。車両10が車線変更中である場合(ステップS102-Yes)、補正領域設定部32は、画像上の車線区画線が表されていると想定される範囲に補正領域を設定する(ステップS103)。
プロセッサ23の補正部33は、補正領域に含まれる各画素について、車線区画線についての確信度が他の物体についての確信度よりも相対的に高くなるように、車線区画線についての確信度または他の物体についての確信度を補正する(ステップS104)。
ステップS104の後、あるいは、ステップS102にて、車両10が車線変更中でない場合(ステップS102-No)、プロセッサ23の区画線検出部34は、画像の各画素について、確信度が最大となる物体がその画素に写っていると判定する。すなわち、区画線検出部34は、車線区画線についての確信度が他の物体についての確信度よりも高い画素を、車線区画線が写っている区画線画素として検出する(ステップS105)。そして区画線検出部34は、区画線画素が並ぶ直線、すなわち、区画線画素が所定数以上位置する直線を車線区画線として検出する(ステップS106)。
プロセッサ23の運転計画部35は、画像から検出された車線区画線に応じて車両10が走行中の車線を特定し、特定した車線に基づいて車両10の走行予定経路を生成する(ステップS107)。そしてプロセッサ23の車両制御部36は、走行予定経路に沿って車両10が走行するように車両10を制御する(ステップS108)。そしてプロセッサ23は、車両制御処理を終了する。
以上に説明してきたように、この区画線検出装置は、車両が車線変更中である場合、車両に搭載されたカメラにより生成された画像のうち、車線区画線が表されていると想定される領域を補正領域として設定し、補正領域内の各画素について、セグメンテーション用の識別器に画像を入力することで求められた、物体の種類ごとの確信度を、車線区画線についての確信度が相対的に高くなるように補正する。その上で、この区画線検出装置は、車線区画線についての確信度が他の物体についての確信度よりも高い画素を、車線区画線が写っている画素として検出する。そのため、この区画線検出装置は、車両が車線走行中に得られた画像上では車線区画線が存在しないような領域に車線区画線が写っている場合でも、車線区画線の検出に失敗することを抑制できる。その結果として、この区画線検出装置は、道路上に表示された車線区画線の検出精度を向上できる。
また、上記の実施形態または変形例による、区画線検出装置のプロセッサ23の各部の機能を実現するコンピュータプログラムは、半導体メモリ、磁気記録媒体または光記録媒体といった、コンピュータ読取可能な可搬性の記録媒体に記録された形で提供されてもよい。
以上のように、当業者は、本発明の範囲内で、実施される形態に合わせて様々な変更を行うことができる。
1 車両制御システム
2 カメラ
3 測位情報受信機
4 電子制御装置(区画線検出装置)
5 車内ネットワーク
21 通信インターフェース
22 メモリ
23 プロセッサ
31 確信度算出部
32 補正領域設定部
33 補正部
34 区画線検出部
35 運転計画部
36 車両制御部

Claims (3)

  1. 車両に搭載された撮像部により得られた画像を、画素ごとに当該画素に写っている可能性のある物体ごとの確からしさを表す確信度を算出する識別器に入力することで、前記画像の画素ごとに、当該画素に写っている物体が車線区画線である確信度及び他の物体である確信度を算出する確信度算出部と、
    前記車両が車線変更するときに、前記画像のうちの車線区画線が含まれると想定される範囲に補正領域を設定する補正領域設定部と、
    前記補正領域に含まれる各画素について、前記車線区画線である確信度または前記他の物体である確信度を、前記車線区画線である確信度が前記他の物体である確信度に対して相対的に高くなるよう補正する補正部と、
    前記画像の各画素のうち、車線区画線である確信度が前記他の物体である確信度よりも高い画素を検出し、検出した画素が並ぶ直線を車線区画線として検出する区画線検出部と、
    を有する区画線検出装置。
  2. 前記補正領域設定部は、前記車両が車線変更するときに前記車両が横切る車線区画線と前記車両との位置関係に応じて前記画像上での前記補正領域の位置及び範囲を設定する、請求項1に記載の区画線検出装置。
  3. 車両に搭載された撮像部により得られた画像を、画素ごとに当該画素に写っている可能性のある物体ごとの確からしさを表す確信度を算出する識別器に入力することで、前記画像の画素ごとに、当該画素に写っている物体が車線区画線である確信度及び他の物体である確信度を算出し、
    前記車両が車線変更するときに、前記画像のうちの車線区画線が含まれると想定される範囲に補正領域を設定し、
    前記補正領域に含まれる各画素について、前記車線区画線である確信度または前記他の物体である確信度を、前記車線区画線である確信度が前記他の物体である確信度に対して相対的に高くなるよう補正し、
    前記画像の各画素のうち、車線区画線である確信度が前記他の物体である確信度よりも高い画素を検出し、検出した画素が並ぶ直線を車線区画線として検出する、
    区画線検出方法。
JP2018198391A 2018-10-22 2018-10-22 区画線検出装置及び区画線検出方法 Active JP7077910B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018198391A JP7077910B2 (ja) 2018-10-22 2018-10-22 区画線検出装置及び区画線検出方法
US16/658,753 US11157753B2 (en) 2018-10-22 2019-10-21 Road line detection device and road line detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018198391A JP7077910B2 (ja) 2018-10-22 2018-10-22 区画線検出装置及び区画線検出方法

Publications (2)

Publication Number Publication Date
JP2020067698A JP2020067698A (ja) 2020-04-30
JP7077910B2 true JP7077910B2 (ja) 2022-05-31

Family

ID=70279666

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018198391A Active JP7077910B2 (ja) 2018-10-22 2018-10-22 区画線検出装置及び区画線検出方法

Country Status (2)

Country Link
US (1) US11157753B2 (ja)
JP (1) JP7077910B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102633140B1 (ko) * 2018-10-23 2024-02-05 삼성전자주식회사 주행 정보를 결정하는 방법 및 장치
US10853671B2 (en) * 2019-03-06 2020-12-01 Dura Operating, Llc Convolutional neural network system for object detection and lane detection in a motor vehicle
CN111815997B (zh) * 2020-06-20 2022-05-31 宁波工程学院 一种停车诱导方法、系统、智能终端及存储介质
TWI793477B (zh) * 2020-12-04 2023-02-21 財團法人船舶暨海洋產業研發中心 船舶輔助校正系統及其運作方法
CN112528829B (zh) * 2020-12-07 2023-10-24 中国科学院深圳先进技术研究院 一种基于视觉的非结构化道路的居中行驶方法
CN114037977B (zh) * 2022-01-07 2022-04-26 深圳佑驾创新科技有限公司 道路灭点的检测方法、装置、设备及存储介质
JP7340667B1 (ja) 2022-08-25 2023-09-07 株式会社デンソーテン 情報処理装置、情報処理方法およびプログラム

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016099719A (ja) 2014-11-19 2016-05-30 株式会社日本自動車部品総合研究所 走行区画線認識装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003093857A2 (en) * 2002-05-03 2003-11-13 Donnelly Corporation Object detection system for vehicle
JP5088669B2 (ja) * 2007-03-23 2012-12-05 株式会社デンソー 車両周辺監視装置
US9081385B1 (en) * 2012-12-21 2015-07-14 Google Inc. Lane boundary detection using images
JP6458384B2 (ja) * 2014-07-24 2019-01-30 株式会社デンソー 車線検出装置および車線検出方法
KR101621370B1 (ko) * 2014-08-13 2016-05-17 고려대학교 산학협력단 도로에서의 차선 검출 방법 및 장치
JP6140658B2 (ja) * 2014-08-20 2017-05-31 株式会社Soken 走行区画線認識装置、走行区画線認識プログラム
JP6165120B2 (ja) * 2014-10-20 2017-07-19 株式会社Soken 走行区画線認識装置
JP6462494B2 (ja) * 2015-05-29 2019-01-30 株式会社デンソー 運転支援装置及び運転支援方法
EP3567518B1 (en) * 2018-05-08 2022-05-18 Aptiv Technologies Limited Lane marker recognition
EP4339905A3 (en) * 2018-07-17 2024-06-26 NVIDIA Corporation Regression-based line detection for autonomous driving machines

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016099719A (ja) 2014-11-19 2016-05-30 株式会社日本自動車部品総合研究所 走行区画線認識装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
柳川 博彦 外2名,対象物間の関係を利用した自動車走行環境の理解,電子情報通信学会技術研究報告,日本,電子情報通信学会,1992年01月24日,Vol. 91, No. 438, PRU91-120,pp. 57-64

Also Published As

Publication number Publication date
JP2020067698A (ja) 2020-04-30
US20200125861A1 (en) 2020-04-23
US11157753B2 (en) 2021-10-26

Similar Documents

Publication Publication Date Title
JP7077910B2 (ja) 区画線検出装置及び区画線検出方法
US10984261B2 (en) Systems and methods for curb detection and pedestrian hazard assessment
US11669102B2 (en) Navigating a vehicle based on a detected barrier
US10753758B2 (en) Top-down refinement in lane marking navigation
CN106796648B (zh) 用于检测对象的系统和方法
JP5966747B2 (ja) 車両走行制御装置及びその方法
JP6911312B2 (ja) 物体識別装置
US11468691B2 (en) Traveling lane recognition apparatus and traveling lane recognition method
JP7095559B2 (ja) 区画線検出装置及び区画線検出方法
JP2017181476A (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム
JP2021128705A (ja) 物体状態識別装置
KR102003387B1 (ko) 조감도 이미지를 이용한 교통 장애물의 검출 및 거리 측정 방법, 교통 장애물을 검출하고 거리를 측정하는 프로그램을 저장한 컴퓨터 판독가능 기록매체
JP2020201746A (ja) 距離推定装置、距離推定方法及び距離推定用コンピュータプログラム
JP6174884B2 (ja) 車外環境認識装置および車外環境認識方法
JP5557036B2 (ja) 退出判定装置、退出判定プログラム及び退出判定方法
JP2020076714A (ja) 位置姿勢推定装置
JP7348874B2 (ja) 傾斜角検出装置及び制御装置
JP7511992B2 (ja) 車両支援装置
JP2024011893A (ja) 車線判定装置、車線判定方向及び車線判定用コンピュータプログラム
JP2022146384A (ja) 物体検出装置
JP2020077297A (ja) 位置姿勢推定装置
JP2023092183A (ja) 追跡装置、追跡方法及び追跡用コンピュータプログラム
JP2024030951A (ja) 車両制御装置、車両制御方法及び車両制御用コンピュータプログラム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20210224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20210224

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210420

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220419

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220502

R151 Written notification of patent or utility model registration

Ref document number: 7077910

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151