JP2008250904A - 車線区分線情報検出装置、走行車線維持装置、車線区分線認識方法 - Google Patents

車線区分線情報検出装置、走行車線維持装置、車線区分線認識方法 Download PDF

Info

Publication number
JP2008250904A
JP2008250904A JP2007094612A JP2007094612A JP2008250904A JP 2008250904 A JP2008250904 A JP 2008250904A JP 2007094612 A JP2007094612 A JP 2007094612A JP 2007094612 A JP2007094612 A JP 2007094612A JP 2008250904 A JP2008250904 A JP 2008250904A
Authority
JP
Japan
Prior art keywords
white line
line information
wiper
lane marking
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007094612A
Other languages
English (en)
Inventor
Yasushi Kita
靖 喜多
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2007094612A priority Critical patent/JP2008250904A/ja
Publication of JP2008250904A publication Critical patent/JP2008250904A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Steering Control In Accordance With Driving Conditions (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】前方を撮影する車載カメラでは白線の認識精度が十分でない場合には、側方を撮影する車載カメラにより撮影した画像を利用して白線認識の精度を向上させる車線区分線情報検出装置、走行車線維持装置、車線区分線認識方法を提供すること。
【解決手段】車両が走行する走行レーンを区切る車線区分線(例えば、白線)を認識して車線区分線情報(例えば、白線情報)を出力する車線区分線情報検出装置10において、車両の前方の前方画像を撮影する前方カメラ11と、車両の側方かつ下方の側方画像を撮影する側方カメラ20と、ワイパーの作動状態を検出するワイパー作動状態検出手段18と、ワイパー作動状態検出手段が検出したワイパーの作動状態に応じて、前方画像と側方画像の重み付けを変更して車線区分線情報を検出する車線区分線情報加重手段25と、を有することを特徴とする。
【選択図】図1

Description

本発明は、車両が走行する走行レーンを区切る車線区分線を認識する車線区分線情報検出装置等に関し、特に、車両の側方にカメラを備えた車線区分線情報検出装置、走行車線維持装置及び車線区分線認識方法に関する。
車両前方下向きの所定範囲を車載カメラで撮影し、撮影された画像を画像処理して走行レーンを区切る白線を検出する技術が提案されている(例えば、特許文献1参照。)。白線を認識することで、車線を維持するよう操舵トルクを付加する車線維持支援や、車線の逸脱を予測して警告する走行支援等の運転支援が可能となる。
しかしながら、車両前方を撮影する車載カメラの光軸は路面とのなす角が小さいため、降雨により路面が濡れると水の層により光が全反射してしまい、路面からの光が車載カメラに入射できず白線認識が困難になり、また、わだちなどの窪みに滞留した雨を白線と誤認識する場合がある。また、白線は画像のエッジ情報から検出するが、路面が濡れた状態では白線と路面とのコントラストが低下するためエッジ情報が不明確となることがあり、白線の認識精度が低下する。
そこで、車両の側方下向きを撮影する車載カメラにより白線を含む画像を撮影する技術が提案されている(例えば、特許文献2)。特許文献2記載の周囲認識装置は、左右のドアミラーに魚眼レンズを備えた車載カメラを搭載し、前輪、後輪及び白線を含むように撮影した画像の、前輪、後輪及び白線の相対位置から白線に対する車両のヨー角、幅員中央からの乖離量を算出している。
特開平7−85249号 特開2001−283390号公報
しかしながら、特許文献2に記載された白線の認識方法では、画像処理に時間がかかり、魚眼レンズの性質上、車両のヨー角が大きくなるとヨー角及び乖離量の誤差が大きくなるという問題がある。また、魚眼レンズは比較的高価であるためコスト増をもたらす。
本発明は、上記課題に鑑み、前方を撮影する車載カメラでは白線の認識精度が十分でない場合には、側方を撮影する車載カメラにより撮影した画像を利用して白線認識の精度を向上させる車線区分線情報検出装置、走行車線維持装置、車線区分線認識方法を提供することを目的とする。
上記課題に鑑み、本発明は、車両が走行する走行レーンを区切る車線区分線(例えば、白線)を認識して車線区分線情報(例えば、白線情報)を出力する車線区分線情報検出装置(例えば、白線認識装置10)において、車両の前方の前方画像を撮影する前方カメラと、車両の側方かつ下方の側方画像を撮影する側方カメラと、ワイパーの作動状態を検出するワイパー作動状態検出手段(例えば、ワイパースイッチ18)と、ワイパー作動状態検出手段が検出したワイパーの作動状態に応じて、前方画像と側方画像の重み付けを変更して車線区分線情報を検出する車線区分線情報加重手段(例えば、白線情報加重手段25)と、を有することを特徴とする。
本発明によれば、ワイパーの作動状態から雨量を推定し、雨量が多い場合には側方画像の重み付けを大きくすることができるので、雨天であっても白線を精度よく認識してLKA(Lane Keeping Assist)などの運転支援を行うことができる。したがって、天候に対しロバスト性の向上を図ることができる。
前方を撮影する車載カメラでは白線の認識精度が十分でない場合には、側方を撮影する車載カメラにより撮影した画像を利用して白線認識の精度を向上させる車線区分線情報検出装置、走行車線維持装置、車線区分線認識方法を提供することができる。
以下、本発明を実施するための最良の形態について、図面を参照しながら実施例を挙げて説明する。図1は、前方カメラ11、側方カメラR12(以下、単に側方カメラRという)及び側方カメラL13(以下、単に側方カメラLという)が搭載された車両の斜視図を示す。(以下、側方カメラR及び側方カメラLを側方カメラ20という。)
前方カメラ11は、車両前方へ向けて水平下向きに光軸を向けて、例えば室内ルームミラーに搭載される。側方カメラRは右のドアミラー30Rに、側方カメラLは左のドアミラー30Lに、車両下方からやや外側に光軸を向けてそれぞれ搭載される。本実施形態の白線認識装置10は、降雨により路面が濡れている場合に、前方カメラ11と側方カメラ20とを切り替え又は重み付けを変更して白線を認識する。これにより、降雨時に低下しうる白線の認識精度を向上させることができる。
図2は、白線認識装置10の概略構成図を示す。前方カメラ11は、車両前方の水平下向きに所定角範囲で広がる領域を撮影し、所定の輝度階調(例えば、256階調)のデジタル画像(以下、前方画像という)を出力する。図3(a)は前方画像の一例を示す。
側方カメラ20は、後述する車両下方からやや外側の所定角範囲で拡がる領域を撮影し、所定の輝度階調(例えば、256階調)のデジタル画像(以下、側方画像という)を出力する。図3(b)は側方カメラRと側方カメラLにより撮影された側方画像の一例を示す。
図4は、側方カメラLの配置の一例を示す。なお、側方カメラRは車両に対し側方カメラLと対称となるように配置される。ドアミラー30Lには、ドアミラー30Lの外形の湾曲に沿って、路面に対向する面よりもやや外側を向いた開口部が設けられており、車両下方からやや外側に光軸を向けた側方カメラLが配設されている。開口部と側方カメラLとの当接部はオーリングなどで密閉されるので、雨や埃から保護されている。なお、側方カメラLには空からの反射光を取り除くために偏光フィルタを備える。
白線100の法線と光軸のなす角θsは、白線から1m程度の距離を車両が走行している場合に、30度<θ<60度の範囲に入るように設定されている。60度未満とすることで、降雨時であっても白線100に入射した光が全反射することなく、側方カメラLに入射可能となる。
具体的には、ドアミラー30の路面からの高さHを1mとすると、側方カメラLの視野角θdは、真下より外側にθ1=約50度、車両ボディ側にθ2=約10度、の計60度程度となるように設置する。
なお、より好ましくは、側方カメラ20の撮影範囲を照射する赤外線照射ライトをドアミラー30に設ける。赤外線照射ライトが照射する赤外線は、白線で路面よりも強く反射するので白線と路面の境のコントラストを向上させ、より確実に白線を撮影することができる。また、本実施形態ではドアミラー30に側方カメラ20を配置したが、側方カメラ20はフロントフェンダー又はリアフェンダー、バンパに配置してもよい。
図2に戻り、画像処理ECU14は、プログラムを実行するCPU、プログラム実行の作業領域となりまた一時的にデータを記憶するRAM、イグニションオフしてもデータを保持するフラッシュメモリ、データのインターフェイスとなる入出力インターフェイス、他のECUと通信する通信コントローラ、及び、プログラムを記憶するROM等がバスにより接続されたマイコンにより構成される。
CPUがプログラムを実行することで、前方白線認識手段22、側方白線認識手段23、白線選定手段24、白線情報加重手段25及び確度検出手段26、が実現される。これらについては後述するが、前方白線認識手段22は前方画像から白線を認識し白線情報(以下、前方白線情報という)を算出し、側方白線認識手段23は側方画像から白線を認識して白線情報(以下、側方白線情報という)を出力する。また、白線選定手段24は、雨天か否かに応じて前方白線情報と側方白線情報を切り替えて出力し、白線情報加重手段25は、雨天の場合にはどのくらいの雨量か等に応じて、前方白線情報と側方白線情報との重み付けを変更して白線情報を算出する。また、確度検出手段26は、前方白線情報と側方白線情報の確度をそれぞれ検出し、白線情報加重手段25は、確度に応じて前方白線情報と側方白線情報との重み付けを変更して白線情報を算出する。
ワイパースイッチ18は、ステアリングコラムに取り付けられ、取り付け部を中心に揺動して操作されるレバー型のスイッチである。「OFF」位置から運転者がワイパースイッチ18を上方向に揺動して「INT」位置に設定すると所定の時間間隔で、フロントワイパーが間欠動作する。なお、間欠動作時の動作間隔も調整できる。また、ワイパースイッチ18を下方向に揺動して「Auto」位置に設定すると、レインセンサ19が検出した雨滴量に応じた速度又は時間間隔で自動的に作動又は停止する。さらに、下方向にワイパースイッチ18を揺動して「Lo」位置に設定すると低速で、「HI」位置に設定すると高速でフロントワイパーが連続して作動する。なお、「Auto」位置又は「OFF」位置の場合に、ワイパースイッチ18を運転者側に(手前に)引くと、ウォッシャ液を噴射すると共にフロントワイパーが連動して作動する。
また、ワイパースイッチ18の端部には回動型のロータリースイッチが設けられており、ロータリースイッチを回転させて「Rear」を「Lo」位置に設定すると低速で、「Hi」位置に設定すると高速で、リアワイパーが連続作動する。
レインセンサ19は、例えば、フロントガラスに向けて赤外線を出射する出射部とフロントガラスにより反射された赤外線を受光する受光部とを有し、検出領域に雨滴が付着した場合に受光部が受ける赤外線の受光量が変化(減少)することで雨滴量を検出する。したがって、受光量の減少量が大きいほど雨量が多い状態であることが検出される。なお、レインセンサ19は、水滴の付着による静電容量の変化や温度低下を検出し、雨滴量に応じた電圧を出力するセンサ等、どのように構成してもよい。
メータECU17は、各種センサの信号やスイッチ類の信号に応じて、車両の状態をランプの点灯や警報音を吹鳴することで運転者に報知する。本実施形態では、例えば、前方カメラ11と側方カメラ20のどちらの画像に基づき白線を認識しているかを、対応するランプの点灯やメッセージを表示させて報知し、また、車線からの逸脱が予測される場合に警報音を吹鳴する。
電動パワステECU16は、後述する白線情報に応じて電動パワーステアリングアクチュエータ(以下、電動パワステACTという)15を制御する。電動パワステACT15は、減速ギアを介してステアリングシャフトを回転駆動するアクチュエータである。例えば、車線から逸脱するおそれがある場合、電動パワステECU16は、車線の中央付近を走行するため、車線中央からの乖離量に応じた操舵トルクを電動パワステACT15に送出する。すなわち、白線認識装置10、電動パワステECU16及び電動パワステACT15は、走行車線維持装置9を構成する。
また、走行車線維持装置9は、ステアリングシャフトのトルクセンサが検出する運転者の操舵トルク及び操舵方向に基づき、運転者の操舵トルクをアシストする方向に電動パワステACT15を駆動して、運転者の負荷を低減する。
〔前方画像の白線認識〕
前方画像の白線認識について説明する。前方白線認識手段22は、図3(a)のような前方画像の輝度値を水平方向に微分処理して、明るさが急激に変化する点をエッジ点として抽出し、前方画像の上下方向に検出される複数のエッジ点に基づきエッジ線を抽出する。そして、前方白線認識手段22は、抽出した複数のエッジ線が一対となる複数組の白線候補線を抽出し、複数組の白線候補線のなかから、エッジ閾値や白線幅等の条件を満たす白線らしい1本又は複数の白線を選定する。
晴天など好ましい撮影条件下では、左右の白線100、200はそれぞれ1本ずつに定まり、その白線100、200をそれぞれモデル式に表現することで、2本の白線100、200の消失点(交点)の座標が算出できる。前方カメラ11の路面からの高さ、及び、路面に対する光軸のなす角、は既知であるので、これらと消失点の座標から前方白線情報(道路曲率、ヨー角Yaw、幅員W、目標走行線Oからのオフセット量D)を演算することができる。図5(a)は、車線100、200と白線情報の関係の一例を示す。
〔側方画像の白線認識〕
側方白線認識手段23は、図3(b)に示したような側方画像を所定の画素値(例えば、100)を基準に2値化して、側方画像の上下方向に撮影される白線を強調する。車高やピッチング角が変わっても、撮影される白線の太さは所定の範囲内に入ると考えてよいため、所定の幅であって、車両のヨー角に対応するためのいくつかの標準パターンを用い、パターンマッチングにより白線100、200を検出する。路面上には若干の異物はあっても、側方カメラ20には白線以外のものが撮影される可能性は少ないので、検出対象を絞ることで、処理負担を軽減して白線を認識することができる。
図5(b)は、車両と白線100、200を後方視した背面図を示す。白線100は車両からLoの位置に存在し、白線200は車両からRoの位置に存在する。また、図3(b)において、車両側から白線100までの距離Lpx、車両側から白線200までの距離Rpxは、側方画像のピクセル単位で示された距離である。
ここで、路面から側方カメラ20までの高さH、側方画像の1ピクセル当たりの撮像角度θpxは予め既知であるので、ドアミラー30Lから白線100までの距離Lo、ドアミラー30Rから白線200までの距離Roは、それぞれ次の式で表すことができる。
L0=H・tan(θpx・Lpx)
Ro=H・tan(θpx・Rpx)
車両が左右の白線100、200のいずれに対してもヨー角ゼロで走行している場合、LoとRoは時間的な変化がゼロとなる。したがって、LoとRoに時間的な変化があれば、その変化量からヨー角Yawを求めることができる。例えば、所定のサイクル時間毎にLo、Roを算出し、サイクル時間に走行した距離を車速センサから算出すれば、これらから車両のヨー角Yawを算出することができる。
Yaw = arctan〔{Lo(t+1)−Lo(t)}/走行距離〕
= arctan〔{Ro(t+1)−Ro(t)}/走行距離〕
なお、t、t+1はサイクル時間の経過を、走行距離はサイクル時間に走行した距離である。Yawはこのように、車線100と200に対しそれぞれ算出されるので、側方白線認識手段23は2つの平均をヨー角Yawとする。
また、車幅Wcは既知であるので、幅員Wは次のように表すことができる。
W= Lo+Wc+Ro
目標走行線Oを幅員の中央とすれば、目標走行線Oの位置は車線100又は200から、(1/2)・(Lo+Wc+Ro)となる。したがって、目標走行線Oからのオフセット量Dは、次のように表すことができる。
D = (1/2)・(Lo+Wc+Ro) − (Lo+Wc/2)
= −{(1/2)・(Lo+Wc+Ro) − (Ro+Wc/2) }
下式の符号は目標走行線に対するオフセット量の正負をそろえるための符号である。ここでは目標走行線Oに対し左側にオフセットした場合にプラスとなるようにした。側方白線認識手段23は左右の白線100、200から求められる2つの平均をオフセット量Dとする。以上のようにして、側方白線認識手段23は、側方白線情報(ヨー角Yaw、幅員W、目標走行線Oからのオフセット量D)を算出する。
本実施例では、雨量が所定以上の場合に、前方白線情報と側方白線情報とを切り替えて出力する白線認識装置10について説明する。
図6は、白線認識装置10が雨量に応じて前方白線情報と側方白線情報とを切り替えて出力する処理手順のフローチャート図を示す。図6のフローチャート図は、例えば、白線認識装置10がオンにされた場合にスタートする。なお、スタート時点では、白線認識装置10は、前方画像から検出される前方白線情報を出力する。
まず、白線認識装置10は、所定以上の雨量が検出されるか否かを判定する(S100)。雨量は、レインセンサ19により検出してもよいし、ワイパースイッチ18の操作結果により検出してもよい。所定以上の雨量とは、路面が濡れて前方カメラ11による白線認識の信頼性が低下する程度の雨量であるが、これは降り始めてからの時間にも依存するため適宜設定できる。例えば、レインセンサ19ではフロントガラスの30%程度が濡れた状態、ワイパースイッチ18では「Lo」位置に設定された場合に、所定以上の雨量であると判定する。
所定以上の雨量が検出されない場合(S100のNo)、白線認識装置10は引き続き、前方画像から検出される前方白線情報を出力する。
所定以上の雨量が検出される場合(S100のYes)、白線選定手段24は、側方白線認識手段23が検出した側方白線情報を白線情報として出力する(S200)。なお、前方白線情報から側方白線情報に切り替える場合、前方白線認識手段22は前方画像の処理を中止してもよい。中止することで画像処理ECU14の負担を軽減できる。なお、図6のフローチャート図は所定時間毎に繰り返し実行され、前方白線情報から側方白線情報に切り替えた後に雨滴が検出されなくなるか又は雨滴が検出されなくなってから所定時間が経過すると、白線選定手段24は前方白線情報に切り替えて出力する。
本実施例によれば、晴天時には前方白線情報を出力し、所定以上の雨量の場合には路面が濡れて前方画像では白線の認識精度が低下すると推定して、側方カメラ20が撮影した側方画像から側方白線情報を検出するので、雨天であっても白線を精度よく認識してLKAなどの運転支援を行うことができる。したがって、天候に対しロバスト性の向上を図ることができる。
本実施例では、雨量に応じて前方白線情報と側方白線情報との重み付けを変更して算出された白線情報を出力する白線認識装置10について説明する。
図7は、白線認識装置10が雨量に応じて前方白線情報と側方白線情報との重み付けを変更して算出された白線情報を出力する処理手順のフローチャート図を示す。図7のフローチャート図は、例えば、白線認識装置10がオンにされた場合にスタートする。なお、スタート時点では、白線認識装置10は、前方画像から検出される前方白線情報を白線情報として出力する。
白線情報加重手段25は、ワイパースイッチ18がオンか否かを判定する(S110)。ワイパースイッチ18がオンとなることで雨天であることが検出される。なお、ここでワイパースイッチ18がオンとは「Auto」位置に設定された場合を含む。また、リアワイパーがオンとされる場合はその前にフロントワイパーもオンとなっていると考えられるので、ここではフロントワイパーのワイパースイッチ18を対象とする。
ワイパースイッチ18がオンでない場合(S110のNo)、白線認識装置10は引き続き、前方画像から検出される前方白線情報を出力する。
ワイパースイッチ18がオンである場合(S110のYes)、白線情報加重手段25は、ワイパーの作動速度が速いほど側方白線情報に大きく重み付けして白線情報を算出する(S210)。ワイパーの作動速度は、「INT」<「Lo」<「Hi」の順に速くなるので、白線情報加重手段25は例えば次のように前方白線情報と側方白線情報の重み付けを変更する。なお、数値は重み付けのパーセンテージを示す。
「OFF」 前方白線情報:100% 側方白線情報:0%
「INT」 前方白線情報:80% 側方白線情報:20%
「Low」 前方白線情報:60% 側方白線情報:40%
「Hi」 前方白線情報:40% 側方白線情報:60%
「AUTO」の場合は、実際の作動速度に基づき重み付けの数値を決定してもよいし、「INT」〜「Hi」のうち最も近い作動速度に対応する数値により重み付けする。実施例1と同様に、レインセンサ19が検出する雨量に応じて前方白線情報と側方白線情報を重み付けを変更してもよい。
白線情報加重手段25は、例えば、「INT」の場合、前方白線情報に0.8を乗じ(ヨー角Yaw×0.8、幅員W×0.8、オフセット量D×0.8)、側方白線情報に0.2を乗じ(ヨー角Yaw×0.2、幅員W×0.2、オフセット量D×0.2)、両者を加えた値を白線情報とする。
ワイパースイッチ18は雨量に応じて作動速度が速くなるように設定されると考えられるので、ワイパーの作動速度が速いほど側方白線情報に大きく重み付けすることで、雨量に応じて側方白線情報を白線情報に反映しやすくすることができ、雨天であっても白線を精度よく認識してLKAなどの運転支援を行うことができる。
実施例2では、ワイパーの作動速度が速いほど側方白線情報に大きく重み付けして白線情報を算出したが、フロントワイパーとリアワイパーの作動状態に応じて雨量を推定してもよい。車両は前方向に進行することが多いため、雨天の場合にはまずフロントワイパーを作動させ、その後、雨量が多くなるとリアワイパーも作動させることが多い。したがって、リアワイパーがオンとなった場合は雨量が多い状況であると推定できる。本実施例では、フロントワイパーとリアワイパーの作動状態に基づき、前方白線情報と側方白線情報との重み付けを変更して算出された白線情報を出力する白線認識装置10について説明する。
図8は、フロントワイパーとリアワイパーの作動状態に基づき、白線認識装置10が前方白線情報と側方白線情報との重み付けを変更して算出された白線情報を出力する処理手順のフローチャート図を示す。図8のフローチャート図は、ステップS210まで図7と同様であるので、ステップS220から説明する。
白線情報加重手段25は、ワイパーの作動速度が速いほど又はレインセンサ19が検出する雨量が多いほど、側方白線情報に大きく重み付けして白線情報を算出し(S210)、ついで、白線情報加重手段25は、リアワイパーがオンか否かを判定する(S220)。これにより、雨量が比較的多く前方画像から前方白線情報を検出することが困難であることを推定する。
リアワイパーがオンでない場合(S220のNo)、白線認識装置10は、ワイパーの作動速度又はレインセンサ19の検出する雨量に応じて重み付けされた白線情報を出力する。
リアワイパーがオンの場合(S220のYes)、白線情報加重手段25は、ワイパーの作動速度に加え、さらにリアワイパーがオンである分の重み付けを側方白線情報に加える(S230)。例えば、ワイパーの作動速度「INT」 〜「Hi」に関わらず一律に重み付けしてもよいし、ワイパーの作動速度「INT」 〜「Hi」が速い場合ほど、側方白線情報に大きく重み付けしてもよい。
一律に重み付けする場合、例えば、次のように重み付けする。なお、括弧内の数字はワイパーの作動速度に応じた重み付けを示す。ここでは、一律に10%、前方白線情報の重み付けを大きくした。
「OFF」 前方白線情報:100(100)% 側方白線情報:0%
「INT」 前方白線情報:70(80) % 側方白線情報:30(20)%
「Low」 前方白線情報:50(60) % 側方白線情報:50(40)%
「Hi」 前方白線情報:30(40) % 側方白線情報:70(60)%
また、ワイパーの作動速度「INT」 〜「Hi」が速い場合ほど、側方白線情報に大きく重み付けする場合、次のように重み付けする。
「OFF」 前方白線情報:100(100)% 側方白線情報:0%
「INT」 前方白線情報:70(80) % 側方白線情報:30(20)%
「Low」 前方白線情報:40(60) % 側方白線情報:60(40)%
「Hi」 前方白線情報:10(40) % 側方白線情報:90(60)%
さらに、リアワイパーの作動速度に応じて、前方白線情報と側方白線情報の重み付けを変更してもよい。
白線情報加重手段25は、フロントワイパーの作動速度に応じて側方白線情報に大きく重み付けすると共に、リアワイパーがオンであればさらに側方白線情報の重み付けを大きくするので、雨量が多いと推定できる状況ほど、側方白線情報を白線情報に反映しやすくすることができ、雨天であっても白線を精度よく認識してLKAなどの運転支援を行うことができる。
ところで、フロントワイパーとリアワイパーのより直接的な操作状態の組み合わせに基づき、前方白線情報と側方白線情報の重み付けを変更してもよい。
図9は、白線認識装置10が、フロントワイパーとリアワイパーの操作状態の組み合わせに基づき、前方白線情報と側方白線情報の重み付けを変更して算出された白線情報を出力する手順のフローチャート図を示す。
白線情報加重手段25は、ワイパースイッチ18がオンか否かを判定する(S110)。この判定は、フロントワイパー又はリアワイパーのいずれかのスイッチがオンであればYesとなる。
ワイパースイッチ18がオンでない場合(S110のNo)、白線認識装置10は、引き続き、前方画像から検出される前方白線情報を出力する。
ワイパースイッチ18がオンである場合(S110のYes)、白線情報加重手段25は、フロントワイパーとリアワイパーの操作状態の組み合わせに基づき、前方白線情報と側方白線情報に重み付けを変更する(S240)。白線情報加重手段25は、フロントワイパーとリアワイパーの操作状態の組み合わせから雨量を推定し、例えば、次のように前方白線情報と側方白線情報を重み付けする。
・フロントワイパー OFF かつ リアワイパー ON
前方白線情報:90% 側方白線情報:10%
・フロントワイパー ON かつ リアワイパー OFF
前方白線情報:70% 側方白線情報:30%
・フロントワイパー ON かつ リアワイパー ON
前方白線情報:40% 側方白線情報:60%
白線情報加重手段25は、フロントワイパーとリアワイパーの操作状態の組み合わせに基づき、雨量が多いと推定できるほど側方白線情報に大きく重み付けするので、雨量に応じて側方白線情報を白線情報に反映しやすくすることができ、雨天であっても白線を精度よく認識してLKAなどの運転支援を行うことができる。
実施例2、3では、ワイパースイッチ18の操作状態から雨量を推定して、雨量が多いほど側方白線情報に大きく重み付けしたが、雨量を推定しなくても降雨が白線認識に及ぼす影響をより直接的に検出することができる。例えば、雨天であれば主に前方画像に基づく白線の認識精度が低下すると考えられるため、前方白線情報の確度から降雨が白線認識に影響を与える程度を検出することができる。
降雨時には、わだちに水がたまり、白線に並行して白線候補が検出されたり、白線と路面の境のコントラスト低下等により、正しい白線を認識できないことがあるため、前方白線情報及び側方白線情報が不安定になることがある。
そこで、確度検出手段26は、前方白線情報と側方白線情報とからそれぞれ確度を検出し、白線情報加重手段25は、確度に応じて前方白線情報と側方白線情報の重み付けを決定する。
確度検出手段26は、過去の数個(10〜30)の前方白線情報の、ヨー角Yaw、幅員W及び目標走行線Oからのオフセット量Dの、分散をそれぞれ算出する。分散が大きい場合は、ヨー角Yaw、幅員W及びオフセット量Dが安定しないことを意味するので、白線候補が複数ある等の理由により白線の認識精度が低下していると考えられる。例えば、晴天下など良好な条件下で白線認識した場合の初期分散値は既知となるので、ヨー角Yaw、幅員W及びオフセット量Dの初期分散値により、算出したそれぞれの分散を除すれば、その値が1より大きい場合に確度が低下していることが分かる(以下、分散/初期分散値を正規化分散値という。)。ここでは、10〜30個の前方画像が検出される度に、ヨー角Yaw、幅員W及びオフセット量Dの正規化分散値の和を求め、その値に応じて前方白線情報と側方白線情報との重み付けを決定する。なお、確度を他の統計的手法(標準偏差、中央値からのズレ量など)から算出してもよい。
図10は、白線認識装置10が、前方白線情報と側方白線情報の確度に応じて前方白線情報と側方白線情報との重み付けを変更して算出された白線情報を出力する処理手順のフローチャート図を示す。図10のフローチャート図は、例えば、白線認識装置10がオンにされた場合にスタートし、所定のサイクル時間毎に繰り返して実行される。なお、スタート時点では、白線認識装置10は、前方画像から検出される前方白線情報を出力する。
確度検出手段26は、所定数の前方白線情報と側方白線情報が算出されるまで待機し、メモリに記憶しておく(S140)。そして、所定数の前方白線情報と側方白線情報が算出されると(S140のYes)、メモリに記憶した前方白線情報と側方白線情報とからそれぞれ正規化分散値を算出する(S150)。
ついで、白線情報加重手段25は、前方白線情報の正規化分散値が基準値P以上か否かを判定する(S160)。基準値Pは所定のマージンを含んだ3(Yaw、幅員W、オフセット量Dの3つ)より大きい値である。
前方白線情報の正規化分散値が基準値P以上でない場合(S160のNo)、白線認識装置10は引き続き、前方画像から検出される前方白線情報を出力する。
前方白線情報の正規化分散値が基準値P以上の場合(S160のYes)、白線情報加重手段25は、側方白線情報の正規化分散値が基準値Q以上か否かを判定する(S170)。基準値Qは基準値Pよりも大きい値であり、側方白線情報に要請される必要な確度を満たさない値となる。
側方白線情報の正規化分散値が基準値Q以上の場合(S170のYes)、前方白線情報と側方白線情報のいずれも運転支援に使用するには適切でないので画像処理ECU14は白線情報の出力を中止する(S190)。
側方白線情報の正規化分散値が基準値Q以上でない場合(S170のNo)、白線情報加重手段25は、前方白線情報の正規化分散値に基づき前方白線情報と側方白線情報との重み付けを変更する(S180)。白線情報加重手段25は、例えば、次のように重み付けを変更する。
・3 < 前方白線情報の正規化分散値 < P1
前方白線情報:90% 側方白線情報:10%
・P1 ≦ 前方白線情報の正規化分散値 < P2
前方白線情報:70% 側方白線情報:30%
・P2 ≦ 前方白線情報の正規化分散値 < P3
前方白線情報:50% 側方白線情報:50%
・P3 ≦ 前方白線情報の正規化分散値 < Q
前方白線情報:30% 側方白線情報:70%
したがって、白線認識装置10は、雨量を推定することなくより直接的に降雨が白線認識に影響を与える程度を検出して、前方白線情報と側方白線情報との重み付けを変更することができる。確度に応じて側方白線情報を白線情報に反映しやすくすることができ、例えば降雨のため前方白線情報の確度が低下しても白線を精度よく認識してLKAなどの運転支援を行うことができる。
以上説明したように、本実施形態の白線認識装置10は、晴天時は前方カメラ11により前方白線情報を検出するので白線の認識精度が低下することがなく、降雨時には側方カメラ20により側方白線情報を検出して白線情報を出力するので、降雨時の白線認識精度を向上させると共に、天候に対するロバスト性を向上させることができる。
前方カメラ、側方カメラR及び側方カメラLが搭載された車両の斜視図である。 白線認識装置の概略構成図である。 前方画像、側方画像の一例を示す図である。 側方カメラLの配置図を一例を示す図である。 白線情報の一例を示す図である。 白線認識装置が雨量に応じて前方白線情報と側方白線情報とを切り替えて出力する処理手順のフローチャート図である。 白線認識装置が雨量に応じて前方白線情報と側方白線情報との重み付けを変更して算出された白線情報を出力する処理手順のフローチャート図である。 フロントワイパーとリアワイパーの作動状態に基づき、白線認識装置が前方白線情報と側方白線情報との重み付けを変更して白線情報を出力する処理手順のフローチャート図である。 フロントワイパーとリアワイパーの操作状態の組み合わせに基づき、白線認識装置が、前方白線情報と側方白線情報の重み付けを変更して算出された白線情報を出力する手順のフローチャート図を示す。 白線認識装置が前方白線情報と側方白線情報の確度に応じて前方白線情報と側方白線情報との重み付けを変更して算出された白線情報を出力する処理手順のフローチャート図である。
符号の説明
9 走行車線維持装置
10 白線認識装置
11 前方カメラ
12 側方カメラL
13 側方カメラR
14 画像処理ECU
15 電動パワステACT
16 電動パワステECU
17 メータECU
18 ワイパースイッチ
19 レインセンサ
20 側方カメラ
22 前方白線認識手段
23 側方白線認識手段
24 白線選定手段
25 白線情報加重手段
26 確度検出手段
30 ドアミラー

Claims (6)

  1. 車両が走行する走行レーンを区切る車線区分線を認識して車線区分線情報を出力する車線区分線情報検出装置において、
    車両の前方の前方画像を撮影する前方カメラと、車両の側方かつ下方の側方画像を撮影する側方カメラと、
    ワイパーの作動状態を検出するワイパー作動状態検出手段と、
    前記ワイパー作動状態検出手段が検出したワイパーの作動状態に応じて、前記前方画像と前記側方画像の重み付けを変更して前記車線区分線情報を検出する車線区分線情報加重手段と、
    を有することを特徴とする車線区分線情報検出装置。
  2. 前記車線区分線情報加重手段は、ワイパーの作動速度が所定以上の場合、前記前方画像よりも前記側方画像の重み付けを大きくして前記車線区分線情報を検出する、
    ことを特徴とする請求項1記載の車線区分線情報検出装置。
  3. 前記ワイパー作動状態検出手段がフロント及びリアのワイパーの作動を検出した場合、前記車線区分線情報加重手段は、前記前方画像よりも前記側方画像の重み付けを大きくして前記車線区分線情報を検出する、
    ことを特徴とする請求項1記載の車線区分線情報検出装置。
  4. 前記前方画像から検出された前方車線区分線情報の確度を検出する確度検出手段を有し、
    前記確度検出手段により検出された前記前方車線区分線情報の確度が所定以下の場合、前記車線区分線情報加重手段は、当該確度が低いほど、前記前方画像よりも前記側方画像の重み付けを大きくして前記車線区分線情を検出する、
    ことを特徴とする請求項1記載の車線区分線情報検出装置。
  5. ステアリングシャフトを回転駆動するステアリングアクチュエータと、
    前記ステアリングアクチュエータの駆動トルクを制御するステアリング制御部と、を有し、
    前記ステアリング制御部は、請求項1〜4いずれか記載の車線区分線情報検出装置が出力した車線区分線情報に基づき前記駆動トルクを決定する、
    ことを特徴とする走行車線維持装置。
  6. 車両が走行する走行レーンを区切る車線区分線を認識して車線区分線情報を出力する車線区分線情報検出装置の車線区分線認識方法において、
    前方カメラが、車両の前方の前方画像を撮影するステップと、
    側方カメラが、車両の側方かつ下方の側方画像を撮影するステップと、
    ワイパー作動状態検出手段が、ワイパーの作動状態を検出するステップと、
    車線区分線情報加重手段が、前記ワイパー作動状態検出手段が検出したワイパーの作動状態に応じて、前記前方画像と前記側方画像の重み付けを変更して前記車線区分線情報を検出するステップと、
    を有することを特徴とする車線区分線情報検出装置の車線区分線認識方法。




JP2007094612A 2007-03-30 2007-03-30 車線区分線情報検出装置、走行車線維持装置、車線区分線認識方法 Pending JP2008250904A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007094612A JP2008250904A (ja) 2007-03-30 2007-03-30 車線区分線情報検出装置、走行車線維持装置、車線区分線認識方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007094612A JP2008250904A (ja) 2007-03-30 2007-03-30 車線区分線情報検出装置、走行車線維持装置、車線区分線認識方法

Publications (1)

Publication Number Publication Date
JP2008250904A true JP2008250904A (ja) 2008-10-16

Family

ID=39975728

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007094612A Pending JP2008250904A (ja) 2007-03-30 2007-03-30 車線区分線情報検出装置、走行車線維持装置、車線区分線認識方法

Country Status (1)

Country Link
JP (1) JP2008250904A (ja)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010165142A (ja) * 2009-01-15 2010-07-29 Nissan Motor Co Ltd 車両用道路標示認識装置および車両用道路標示認識方法
WO2010092621A1 (ja) * 2009-02-13 2010-08-19 パイオニア株式会社 車線逸脱警告装置、車線逸脱警告装置の制御方法およびそのプログラム
JP2010244254A (ja) * 2009-04-03 2010-10-28 Honda Motor Co Ltd 車線認識装置
JP2011095846A (ja) * 2009-10-27 2011-05-12 Fujitsu Ltd 車両位置検出装置、車両位置検出方法、及び車両位置検出プログラム
WO2011118110A1 (ja) 2010-03-24 2011-09-29 株式会社 東芝 車両運転支援用処理装置、車両運転支援装置および車両装置
WO2013056955A1 (de) * 2011-10-18 2013-04-25 Robert Bosch Gmbh Aufbau einer fahrspurkarte in multikamerasystemen
WO2013069099A1 (ja) * 2011-11-08 2013-05-16 トヨタ自動車株式会社 車両の走行軌跡制御装置
WO2014007052A1 (ja) * 2012-07-03 2014-01-09 クラリオン株式会社 車線逸脱判定装置,車線逸脱警報装置及びそれらを使った車両制御システム
JP2015210764A (ja) * 2014-04-30 2015-11-24 日産自動車株式会社 走行車線認識装置、走行車線認識方法
JP2015219569A (ja) * 2014-05-14 2015-12-07 株式会社デンソー 境界線認識装置および境界線認識プログラム
JP2015217863A (ja) * 2014-05-20 2015-12-07 国立大学法人電気通信大学 操舵制御システム
JP2015222536A (ja) * 2014-05-23 2015-12-10 日産自動車株式会社 標示線検出装置、標示線検出方法
WO2016017136A1 (ja) * 2014-07-30 2016-02-04 株式会社デンソー 制御情報検出装置および制御情報検出方法
WO2016178335A1 (ja) * 2015-05-07 2016-11-10 株式会社日立製作所 レーン検出装置およびレーン検出方法
JP2016194815A (ja) * 2015-03-31 2016-11-17 アイシン・エィ・ダブリュ株式会社 地物画像認識システム、地物画像認識方法及びコンピュータプログラム
JP2017518587A (ja) * 2014-03-06 2017-07-06 センシティ システムズ インコーポレイテッド センサネットワークにおける確率的意味感知のためのシステムおよび方法
JP2018081471A (ja) * 2016-11-16 2018-05-24 三菱電機株式会社 路上区画線認識装置、路上区画線認識方法、路上区画線認識装置を備えた運転支援装置、および路上区画線認識方法を備えた運転支援方法
JP2018152102A (ja) * 2018-05-01 2018-09-27 三菱電機株式会社 路上区画線認識装置、路上区画線認識方法、路上区画線認識装置を備えた運転支援装置、および路上区画線認識方法を備えた運転支援方法

Cited By (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010165142A (ja) * 2009-01-15 2010-07-29 Nissan Motor Co Ltd 車両用道路標示認識装置および車両用道路標示認識方法
WO2010092621A1 (ja) * 2009-02-13 2010-08-19 パイオニア株式会社 車線逸脱警告装置、車線逸脱警告装置の制御方法およびそのプログラム
JP2010244254A (ja) * 2009-04-03 2010-10-28 Honda Motor Co Ltd 車線認識装置
JP4679648B2 (ja) * 2009-04-03 2011-04-27 本田技研工業株式会社 車線認識装置
JP2011095846A (ja) * 2009-10-27 2011-05-12 Fujitsu Ltd 車両位置検出装置、車両位置検出方法、及び車両位置検出プログラム
WO2011118110A1 (ja) 2010-03-24 2011-09-29 株式会社 東芝 車両運転支援用処理装置、車両運転支援装置および車両装置
WO2013056955A1 (de) * 2011-10-18 2013-04-25 Robert Bosch Gmbh Aufbau einer fahrspurkarte in multikamerasystemen
WO2013069099A1 (ja) * 2011-11-08 2013-05-16 トヨタ自動車株式会社 車両の走行軌跡制御装置
CN103917432A (zh) * 2011-11-08 2014-07-09 丰田自动车株式会社 车辆的行驶轨迹控制装置
JPWO2013069099A1 (ja) * 2011-11-08 2015-04-02 トヨタ自動車株式会社 車両の走行軌跡制御装置
US9168953B2 (en) 2011-11-08 2015-10-27 Toyota Jidosha Kabushiki Kaisha Vehicle travel track control device
DE112011105821B4 (de) 2011-11-08 2018-12-13 Toyota Jidosha Kabushiki Kaisha Fahrzeugfahrspursteuervorrichtung
CN103917432B (zh) * 2011-11-08 2016-06-15 丰田自动车株式会社 车辆的行驶轨迹控制装置
WO2014007052A1 (ja) * 2012-07-03 2014-01-09 クラリオン株式会社 車線逸脱判定装置,車線逸脱警報装置及びそれらを使った車両制御システム
US10625675B2 (en) 2012-07-03 2020-04-21 Clarion Co., Ltd. Lane departure judgment apparatus, lane departure warning apparatus and vehicle control system using the same
JP2017518587A (ja) * 2014-03-06 2017-07-06 センシティ システムズ インコーポレイテッド センサネットワークにおける確率的意味感知のためのシステムおよび方法
JP2015210764A (ja) * 2014-04-30 2015-11-24 日産自動車株式会社 走行車線認識装置、走行車線認識方法
JP2015219569A (ja) * 2014-05-14 2015-12-07 株式会社デンソー 境界線認識装置および境界線認識プログラム
JP2015217863A (ja) * 2014-05-20 2015-12-07 国立大学法人電気通信大学 操舵制御システム
JP2015222536A (ja) * 2014-05-23 2015-12-10 日産自動車株式会社 標示線検出装置、標示線検出方法
JP2016031701A (ja) * 2014-07-30 2016-03-07 株式会社デンソー 制御情報検出装置および制御情報検出方法
WO2016017136A1 (ja) * 2014-07-30 2016-02-04 株式会社デンソー 制御情報検出装置および制御情報検出方法
JP2016194815A (ja) * 2015-03-31 2016-11-17 アイシン・エィ・ダブリュ株式会社 地物画像認識システム、地物画像認識方法及びコンピュータプログラム
JPWO2016178335A1 (ja) * 2015-05-07 2018-03-29 株式会社日立製作所 レーン検出装置およびレーン検出方法
US20180150700A1 (en) * 2015-05-07 2018-05-31 Hitachi, Ltd. Lane Detection Device and Lane Detection Method
WO2016178335A1 (ja) * 2015-05-07 2016-11-10 株式会社日立製作所 レーン検出装置およびレーン検出方法
US10650252B2 (en) 2015-05-07 2020-05-12 Hitachi, Ltd. Lane detection device and lane detection method
JP2018081471A (ja) * 2016-11-16 2018-05-24 三菱電機株式会社 路上区画線認識装置、路上区画線認識方法、路上区画線認識装置を備えた運転支援装置、および路上区画線認識方法を備えた運転支援方法
US10414396B2 (en) 2016-11-16 2019-09-17 Mitsubishi Electric Corporation Lane division line recognition apparatus, lane division line recognition method, driving assist apparatus including lane division line recognition apparatus, and driving assist method including lane division line recognition method
US10821975B2 (en) 2016-11-16 2020-11-03 Mitsubishi Electric Corporation Lane division line recognition apparatus, lane division line recognition method, driving assist apparatus including lane division line recognition apparatus, and driving assist method including lane division line recognition method
JP2018152102A (ja) * 2018-05-01 2018-09-27 三菱電機株式会社 路上区画線認識装置、路上区画線認識方法、路上区画線認識装置を備えた運転支援装置、および路上区画線認識方法を備えた運転支援方法

Similar Documents

Publication Publication Date Title
JP2008250904A (ja) 車線区分線情報検出装置、走行車線維持装置、車線区分線認識方法
JP5022609B2 (ja) 撮像環境認識装置
JP6163207B2 (ja) 車載装置
JP4937199B2 (ja) オートライト装置
US7196305B2 (en) Vehicle imaging processing system and method having obstructed image detection
US9014904B2 (en) Driver assistance system for vehicle
JP5680573B2 (ja) 車両の走行環境認識装置
US9045112B2 (en) Adjustable rain sensor setting based on proximity vehicle detection
EP2681078B1 (en) Image providing device
US20150120160A1 (en) Method and device for detecting a braking situation
WO2015118806A1 (ja) 画像解析装置、および画像解析方法
EP2830926A1 (en) Vehicular imaging system and method for determining roadway width
EP3036131B1 (en) Imaging system and method with ego motion detection
JP2008068701A (ja) ヘッドランプモジュール
CN110775028A (zh) 一种汽车挡风玻璃遮挡物检测及辅助驾驶系统和方法
JP5077128B2 (ja) 覚醒度判定装置
JP6058307B2 (ja) ワイパ制御装置
JP5040895B2 (ja) 視界状況判定装置、視界状況判定装置用プログラム及び視界状況判定方法
JP5543938B2 (ja) 車外監視装置
JP2009116394A (ja) 車両の警報装置
US20200128165A1 (en) Method for Predictable Exposure Control of at Least One First Vehicle Camera
JP7375678B2 (ja) 車両制御方法、車両制御プログラム、及び車両制御システム
JP3639008B2 (ja) ワイパ制御装置
JP2000016181A (ja) カメラ付ドアミラー及び車両周辺認識システム
JP7125893B2 (ja) 走行制御装置、制御方法およびプログラム