JP6350374B2 - 路面検出装置 - Google Patents

路面検出装置 Download PDF

Info

Publication number
JP6350374B2
JP6350374B2 JP2015084916A JP2015084916A JP6350374B2 JP 6350374 B2 JP6350374 B2 JP 6350374B2 JP 2015084916 A JP2015084916 A JP 2015084916A JP 2015084916 A JP2015084916 A JP 2015084916A JP 6350374 B2 JP6350374 B2 JP 6350374B2
Authority
JP
Japan
Prior art keywords
road surface
weighting
vehicle
parallax
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015084916A
Other languages
English (en)
Other versions
JP2016206776A (ja
Inventor
西嶋 征和
征和 西嶋
文男 菅谷
文男 菅谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2015084916A priority Critical patent/JP6350374B2/ja
Priority to US15/096,594 priority patent/US9912933B2/en
Priority to DE102016206117.8A priority patent/DE102016206117B4/de
Priority to CN201610232529.5A priority patent/CN106056571B/zh
Publication of JP2016206776A publication Critical patent/JP2016206776A/ja
Application granted granted Critical
Publication of JP6350374B2 publication Critical patent/JP6350374B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C7/00Tracing profiles
    • G01C7/02Tracing profiles of land surfaces
    • G01C7/04Tracing profiles of land surfaces involving a vehicle which moves along the profile to be traced
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Description

本発明の種々の側面は、車両が走行する路面領域を検出する路面検出装置に関する。
従来、ステレオカメラで撮像した車両の周囲の撮像画像の視差情報から、車両が走行する路面領域を検出する路面検出装置がある。このような路面検出装置として、例えば、下記の特許文献1が知られている。特許文献1には、撮像画像における視差情報(距離情報)を利用して路面領域を検出する装置が記載されている。
また、路面領域の検出精度を高めるため、例えば、撮像画像中の白線の内側の画像領域に存在する視差情報に基づいて、路面領域を検出する技術が知られている。
米国特許出願公開第2014/0071240号明細書
しかしながら、道路の白線を検出できない場合、或いは白線が無い場合には、上述した路面領域の検出精度を高める方法は使用できない。このため、本技術分野においては、白線の検出結果に基づくことなく、路面領域の検出精度を高めることが求められている。
そこで、本発明の種々の側面は、路面領域の検出精度を高めることができる路面検出装置を提供することを目的とする。
本発明の一側面は、車載カメラの撮像した車両の周囲の撮像画像から得られた視差情報に基づいて、路面領域を検出する路面検出装置であって、車両の運動情報に基づいて、車両が進行する進行軌跡を推定する軌跡推定部と、視差情報に重み付けを行い、重み付けされた視差情報に基づいて撮像画像中の路面領域を検出する検出部と、を備え、検出部は、視差情報に重み付けを行う際に、撮像画像中において進行軌跡に近い側に位置する視差情報の重み付けの重みの大きさよりも、進行軌跡から離れた側に位置する視差情報の重み付けの重みの大きさを小さくする。
この路面検出装置では、進行軌跡に近い側に位置する視差情報の重み付けの重みは、進行軌跡から離れた側に位置する視差情報の重み付けの重みよりも大きくなる。ここで、車両が進行する進行軌跡の周囲の領域は道路であると考えられる。また、進行軌跡から離れた領域は、道路ではない可能性が高いと考えられる。このため、路面検出装置は、進行軌跡に近い側に位置する視差情報の重み付けの重みを大きくすることにより、進行軌跡から離れた側に位置する視差情報が路面領域の検出に与える影響を抑制できる。従って、路面検出装置は、路面領域の検出精度を高めることができる。
軌跡推定部は、進行軌跡を推定すると共に、進行軌跡に基づいて車両の走行車線の曲率を推定し、検出部は、軌跡推定部で推定された曲率の単位時間当たりの変化量が予め設定された基準変化量より大きい場合、撮像画像中において進行軌跡に近い側に位置する視差情報の重み付けの重みの大きさよりも、進行軌跡から離れた側に位置する視差情報の重み付けの重みの大きさを小さくする処理を行わなくてもよい。例えば、推定した走行車線の曲率の単位時間当たりの変化量が基準変化量より大きい場合、道路の形状が大きく変動しているため、推定された進行軌跡に沿った道路形状と実際の道路形状とが一致しない傾向がある。このため、推定した走行車線の曲率の単位時間当たりの変化量が基準変化量より大きい場合には、進行軌跡からの距離に基づいた視差情報の重み付けを行わないことにより、路面領域ではない領域に対応する視差情報の重みが大きくなることを抑制できる。
本発明の他の一側面は、車載カメラの撮像した車両の周囲の撮像画像から得られた視差情報に基づいて、路面領域を検出する路面検出装置であって、車両の運動情報に基づいて、車両が進行する進行軌跡を推定する軌跡推定部と、視差情報に重み付けを行い、重み付けされた視差情報に基づいて撮像画像中の路面領域を検出する検出部と、を備え、検出部は、視差情報に重み付けを行う際に、撮像画像中において進行軌跡から予め定められた範囲の内側に位置する視差情報の重み付けの重みの大きさよりも、予め定められた範囲の外側に位置する視差情報の重み付けの重みの大きさを小さくする。
この路面検出装置では、進行軌跡から予め定められた範囲の内側に位置する視差情報の重み付けの重みは、予め定められた範囲の外側に位置する視差情報の重み付けの重みよりも大きくなる。ここで、車両が進行する進行軌跡の周囲の領域は道路であると考えられる。また、進行軌跡から離れた領域は、道路ではない可能性が高いと考えられる。このため、路面検出装置は、進行軌跡から予め定められた範囲の内側に位置する視差情報の重み付けの重みを大きくすることにより、進行軌跡から予め定められた範囲の外側に位置する視差情報が路面領域の検出に与える影響を抑制できる。従って、路面検出装置は、路面領域の検出精度を高めることができる。
軌跡推定部は、進行軌跡を推定すると共に、進行軌跡に基づいて車両の走行車線の曲率を推定し、検出部は、軌跡推定部で推定された曲率の単位時間当たりの変化量が予め設定された基準変化量より大きい場合、撮像画像中において進行軌跡から予め定められた範囲内に位置する視差情報の重み付けの重みの大きさよりも、予め定められた範囲外に位置する視差情報の重み付けの重みの大きさを小さくする処理を行わなくてもよい。例えば、推定した走行車線の曲率の単位時間当たりの変化量が基準変化量より大きい場合、道路の形状が大きく変動しているため、推定された進行軌跡に沿った道路形状と実際の道路の形状とが一致しない傾向がある。このため、推定した走行車線の曲率の単位時間当たりの変化量が基準変化量より大きい場合には、進行軌跡から予め定められた範囲の外側であるか範囲の内側であるかに基づいた視差情報の重み付けを行わないことにより、路面領域ではない領域に対応する視差情報の重みが大きくなることを抑制できる。
本発明の種々の側面によれば、路面領域の検出精度を高めることができる。
第一実施形態に係る路面検出装置の概略構成を示す図である。 視差画像中の横方向位置を横軸とし、視差を縦軸とした視差投票マップを示す図である。 撮像画像上における進行軌跡を示す図である。 V-disparity画像に表れた路面領域の一例を示す図である。 路面検出装置における路面領域の検出処理の流れを示すフローチャートである。 第二実施形態に係る路面検出装置の概略構成を示す図である。 撮像画像上における走行エリアを示す図である。 路面検出装置における路面領域の検出処理の流れを示すフローチャートである。
以下、本発明の実施形態について図面を参照しながら説明する。なお、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。
(第一実施形態)
まず、第一実施形態について説明する。図1に示すように、本実施形態に係る路面検出装置1は、例えば、乗用車等の車両Vに搭載され、車両Vの周囲を撮像した撮像画像から得られた視差情報(車載カメラからの距離情報)に基づいて、路面領域を検出する。路面領域とは、例えば、車両Vの走行可能な道路の路面である。なお、路面領域には、車両Vの走行する道路の路面の他、駐車場の通路及び駐車スペースの路面が含まれてもよい。
路面検出装置1は、車両Vの周囲を撮像する車載カメラにより撮像画像を取得し、撮像画像から生成した視差画像の視差情報(視差)に基づいて路面領域を検出する。視差画像とは、視差情報を含む画像である。
図1に示すように、路面検出装置1は、路面領域を検出するためのECU[Electronic Control Unit]2、ステレオカメラ(車載カメラ)3、及び内部センサ4を備えている。ECU2は、CPU[Central Processing Unit]、ROM[Read Only Memory]、RAM[Random Access Memory]等を有する電子制御ユニットである。ECU2では、ROMに記憶されているプログラムをRAMにロードし、CPUで実行することで、各種の処理を実行する。ECU2は、複数の電子制御ユニットから構成されていてもよい。
ステレオカメラ3は、車両Vの周囲を撮像して撮像画像を取得する画像取得機器である。ステレオカメラ3は、両眼視差を再現するように配置された第1カメラ3A及び第2カメラ3Bを有している。第1カメラ3A及び第2カメラ3Bは、例えば、車両Vのフロントガラスの裏側に設けられ、車両Vの前方を撮像する。
なお、路面検出装置1は、ステレオカメラ3に代えて、単眼カメラを備えていてもよい。単眼カメラにおいても、周知の手法(例えば撮像の時間差を利用した手法)を用いることにより、撮像画像から視差画像を得ることができる。
内部センサ4は、車両Vの走行状態を検出する検出機器である。内部センサ4は、例えば、車速センサ、及びヨーレートセンサを含む。車速センサは、車両Vの速度を検出する検出器である。車速センサとしては、例えば、車両Vの車輪又は車輪と一体に回転するドライブシャフト等に対して設けられ、車両Vの回転速度を検出する車輪速センサが用いられる。車速センサは、検出した車速情報(車両の運動情報)をECUに送信する。ヨーレートセンサは、車両Vの重心の鉛直軸周りのヨーレートを検出する検出器である。ヨーレートセンサとしては、例えばジャイロセンサを用いることができる。ヨーレートセンサは、検出した車両Vのヨーレート情報(車両の運動情報)をECU2へ送信する。
次に、ECU2の機能的構成について説明する。図1に示すように、ECU2は、画像取得部21、軌跡推定部22、検出部23、及び路面情報出力部24を有している。
画像取得部21は、ステレオカメラ3の撮像した撮像画像を取得する。画像取得部21は、例えば、ステレオカメラ3における第1カメラ3Aの撮像画像及び第2カメラ3Bの撮像画像に基づいて、周知の手法により視差情報を含む視差画像を生成する。例えば、視差画像を構成する各画素に視差情報が含まれている。以下、視差情報を含む視差画像中の画素を視差点という。
軌跡推定部22は、内部センサ4の車速センサ及びヨーレートセンサの検出結果(運動情報)に基づいて、車両Vが進行する進行軌跡を推定する。例えば、軌跡推定部22は、車速センサ及びヨーレートセンサによって検出された現在の速度及びヨーレートの状態が継続すると仮定して、進行軌跡を推定してもよい。軌跡推定部22は、車速センサ及びヨーレートセンサの検出結果以外の情報(例えば、舵角センサによって検出される舵角(車両の運動情報)等)を用いて進行軌跡を推定してもよい。
検出部23は、視差情報に基づいて、撮像画像中の路面領域を検出する。検出部23は、路面領域を検出する際に、撮像画像上において車両Vの進行軌跡に近い側に位置する視差情報よりも車両Vの進行軌跡から離れた側に位置する視差情報の利用を抑制しながら路面領域を検出する。視差情報の利用を抑制することとは、視差情報が路面領域の検出に与える影響を弱くすることである。具体的には、検出部23は、視差画像に含まれる視差情報に重み付けを行い、重み付けされた視差情報に基づいて撮像画像中の路面領域を検出する。より詳細には、検出部23は、路面候補点推定部23A、重み付け部23B、及び路面検出部23Cを有している。
路面候補点推定部23Aは、視差画像に含まれる複数の視差点のうち、路面に対応する視差点を路面候補点として推定する。路面候補点推定部23Aは、既知の方法により、視差点が路面に対応する視差点であるか、又は、路面以外の立体物等に対応する視差点であるかを推定する。
一例として、路面候補点推定部23Aは、次のようにして路面候補点を推定してもよい。路面候補点推定部23Aは、図2に示すような視差投票マップを設定する。図2の視差投票マップは、横方向の辺が視差画像の横方向(水平方向)の位置に対応し且つ縦方向の辺が視差の大きさに対応するように定められた複数の矩形状のブロックを配列させて構成されている。路面候補点推定部23Aは、視差画像中の視差点の位置、及び視差点の視差の大きさに基づいて、視差投票マップを構成する複数のブロックのうち対応するブロックに視差点を分類(投票)する。このようにして、路面候補点推定部23Aは、視差投票マップのブロックと、各視差点とを対応させる。
次に、路面候補点推定部23Aは、視差投票マップのブロックのそれぞれについて、視差の平均値、視差の偏差、視差点における視差画像の縦方向の座標の平均値、視差点における視差画像の縦方向の座標の偏差を算出する。路面候補点推定部23Aは、視差投票マップのブロックのそれぞれに対し、視差点の縦方向の分布が小さく、且つ、視差方向の分布が大きいブロックに路面の属性を設定する。具体的には、路面候補点推定部23Aは、例えば、視差点の縦方向の分布(視差点における視差画像の縦方向の座標の偏差)が、予め設定された第一閾値未満か否かを判定する。また、路面候補点推定部23Aは、例えば、視差方向の分布(視差点における視差画像の縦方向の座標の偏差/視差の偏差)が、第二閾値未満か否かを判定する。路面候補点推定部23Aは、視差点の縦方向の分布が予め設定された第一閾値未満、且つ視差方向の分布が第二閾値未満の場合に、当該ブロックに路面の属性を設定する。路面候補点推定部23Aは、上記条件を満たさないブロックについては、路面以外(例えば、立体物)の属性を設定する。
路面候補点推定部23Aは、路面の属性が設定されたブロックに分類された視差点を、路面候補点として推定する。ここで、視差画像の精度誤差等によって、路面に対応した視差点以外の視差点についても路面候補点として推定されることがある。このため、検出部23は、精度誤差等を排除して精度良く路面領域を検出するため、以下で説明するように、推定した路面候補点について重み付けを行う。
重み付け部23Bは、路面候補点推定部23Aによって推定された路面候補点に重み付けを行う。重み付け部23Bは、撮像画像中において軌跡推定部22によって推定された進行軌跡に近い側に位置する路面候補点の重み付けの重みの大きさよりも、進行軌跡から離れた側に位置する路面候補点の重み付けの重みの大きさを小さくする。
具体的には、重み付け部23Bは、軌跡推定部22で推定された進行軌跡を、ステレオカメラ3によって撮像された撮像画像に投影する。重み付け部23Bが重み付けの際に用いる撮像画像として、第1カメラ3A又は第2カメラ3Bによって撮像されたいずれかの撮像画像を用いることができる。重み付け部23Bは、例えば、図3に示すステレオカメラ3の撮像画像Pのように、水平方向(横方向)において、投影した進行軌跡Kに近い路面候補点ほど重み付けの重みを大きくする。例えば、路面候補点Aについては重みを「1」、路面候補点Aよりも進行軌跡Kに近い路面候補点Bの重みを「2」とすることができる。このように、重み付け部23Bは、路面として推定された路面候補点のそれぞれについて、進行軌跡Sからの距離に基づいて重み付けの重みを設定する。ここで、路面候補点に設定される重みは、重みの値が大きいほど当該路面候補点の位置が路面領域であると検出され易くなることを示している。
ここで、図3は、車両Vの前方を撮像した撮像画像である。図3には、車両の走行車線を形成する白線(車線境界線)L,L1、白線Lと共に隣接車線を形成する白線L2が示されている。R1は車両Vの走行車線を示している。R2は対向車線(隣接車線)を示している。
路面検出部23Cは、重み付けされた路面候補点に基づいて、撮像画像中の路面領域を検出する。路面検出部23Cは、重みが小さい路面候補点よりも重みが大きい路面候補点を、路面領域の検出に強く作用させる。具体的には、路面検出部23Cは、重みが小さい路面候補点よりも重みが大きい路面候補点の位置を、路面領域として検出され易くする。
例えば、路面検出部23Cは、路面候補点の視差に基づいた路面領域の検出を、例えば、公知のV-disparity画像を用いて行うことができる。図4に示すように、V-disparity画像は、横軸に視差(視差が示す距離)をとり、縦軸に視差画像での垂直方向の座標をとり、視差画像に対して水平方向のヒストグラムを求めたグラフである。視差画像において、路面領域は、例えば、視差画像の垂直方向の座標が変化するのに伴って、視差が滑らかに変化する。そのため、図4に示すように、V-disparity画像においては、路面領域は斜め方向に伸びる線分Wとして射影される。
路面検出部23Cは、重みの大きい路面候補点ほど路面領域の検出に強く作用するように、各路面候補点をV-disparity画像に反映させる。路面候補点推定部23Aは、各路面候補点をV-disparity画像に反映させる際に、例えば、重みの値に応じた個数の路面候補点が存在するとして、重みの値に応じた個数の路面候補点をV-disparity画像に反映させる。例えば、路面候補点Xに対して重み「2」が設定されている場合、路面候補点Xが2個存在するとして、2個の路面候補点XをV-disparity画像に反映させる。これにより、重みの大きい路面候補点ほど、路面領域の検出に強く作用する。
路面検出部23Cは、路面候補点を用いて路面領域を検出したが、路面領域として路面の勾配を検出してもよい。
路面情報出力部24は、検出部23によって検出された路面領域の情報を外部に出力する。路面情報出力部24は、例えば、車両Vの自動運転を行うECU又は車両Vの運転支援を行うECUに対して、路面情報を出力してもよい。
次に、路面検出装置1で行われる路面領域の検出処理の流れについて、図5のフローチャートを用いて説明する。図5に示すフローチャートは、例えば、車両Vがエンジン駆動中である間、予め設定された時間毎に実行される。画像取得部21は、ステレオカメラ3の撮像した撮像画像を取得する(S101)。画像取得部21は、取得した撮像画像に基づいて視差画像を生成する(S102)。
路面候補点推定部23Aは、生成された視差画像に基づいて、路面候補点を推定する(S103)。軌跡推定部22は、内部センサ4の検出結果に基づいて車両Vの進行軌跡を推定する(S104)。重み付け部23Bは、進行軌跡からの距離に応じて、路面候補点推定部23Aによって推定された路面候補点に重み付けを行う(S105)。路面検出部23Cは、例えば、公知のV-disparity画像等を用いて、路面候補点の視差に基づいて路面領域を検出する(S106)。路面情報出力部24は、検出部23によって検出された路面領域の情報を外部に出力する(S107)。
本実施形態は以上のように構成され、この路面検出装置1において、進行軌跡Kに近い側に位置する路面候補点の重み付けの重みは、進行軌跡Kから離れた側に位置する路面候補点の重み付けの重みよりも大きくなる。ここで、車両Vが進行する進行軌跡Kの周囲の領域は道路であると考えられる。また、進行軌跡Kから離れた領域は、道路ではない可能性が高いと考えられる。このため、路面検出装置1は、進行軌跡Kに近い側に位置する路面候補点の重み付けの重みを大きくすることにより、進行軌跡Kから離れた側に位置する路面候補点が路面領域の検出に与える影響を抑制できる。従って、路面検出装置1は、路面領域の検出精度を高めることができる。
(第一実施形態の変形例)
次に、第一実施形態の変形例について説明する。本変形例において、図1に示す重み付け部23Bは、車両Vの進行する走行車線の曲率の単位時間当たりの変化量が大きい場合、上述した路面候補点に対する重み付けを行わなくてもよい。具体的には、軌跡推定部22は、進行軌跡を推定すると共に、進行軌跡に基づいて車両Vの走行車線の曲率を推定する。例えば、軌跡推定部22は、推定した進行軌跡の曲率を走行車線の曲率として推定してもよい。
重み付け部23Bは、軌跡推定部22で推定された走行車線の曲率の単位時間当たりの変化量が、予め設定された基準変化量より大きいか否かを判定する。曲率の単位時間当たりの変化量が基準変化量よりも大きい場合、撮像画像中において軌跡推定部22によって推定された進行軌跡に近い側に位置する路面候補点の重み付けの重みの大きさよりも、進行軌跡から離れた側に位置する路面候補点の重み付けの重みの大きさを小さくする処理を行わない。
例えば、推定した走行車線の曲率の単位時間当たりの変化量が基準変化量より大きい場合、道路の形状が大きく変動しているため、推定された進行軌跡に沿った道路形状と実際の道路形状とが一致しない傾向がある。例えば、走行車線の曲率の変化量が大きい場面として、道路形状が直線からカーブに切り替わる場面、或いはカーブから直線に切り替わる場面などがある。このため、推定した走行車線の曲率の単位時間当たりの変化量が基準変化量より大きい場合には、進行軌跡からの距離に基づいた路面候補点の重み付けを行わないことにより、路面領域ではない領域に対応する路面候補点の重みが大きくなることを抑制できる。
(第二実施形態)
次に、第二実施形態について説明する。図6に、本実施形態に係る路面検出装置の概略構成を示す。図6に示すように、本実施形態に係る路面検出装置1Aは、第一実施形態に係る路面検出装置1の重み付け部23Bに代えて、重み付け部123Bを有している。路面検出装置1Aにおいて、重み付け部123B以外の構成要素については、第一実施形態に係る路面検出装置1の構成要素と同様であり、同一符号を付して詳細な説明を省略する。
検出部23は、路面候補点推定部23A、重み付け部123B、及び路面検出部23Cを有している。重み付け部123Bは、路面候補点推定部23Aによって推定された路面候補点に重み付けを行う。重み付け部123Bは、撮像画像中において軌跡推定部22によって推定された進行軌跡から予め定められた範囲の内側に位置する路面候補点の重み付けの重みの大きさよりも、予め定められた範囲の外側に位置する路面候補点の重み付けの重みの大きさを小さくする。
ここで、重み付け部123Bは、予め定められた範囲として、車両Vが走行する道路の範囲である走行エリアを用いる。重み付け部123Bは、軌跡推定部22によって推定された進行軌跡に基づいて、走行エリアを設定する。例えば、日本においては、重み付け部123Bは、片側1車線の道路(車両Vが走行する車線(走行車線R)と、対向車が走行する車線(対向車線R2)とが1車線ずつ設けられている道路)を想定して走行エリアを設定する。具体的には、図7に示すように、例えば、重み付け部123Bは、車両Vから見て進行軌跡Kに対して左側に2.5m離れた位置に境界線T1を設定する。重み付け部123Bは、進行軌跡Kに対して右側に4.5m離れた位置に境界線T2を設定する。なお、進行軌跡Kに対して左側に2.5m離れた位置とは、実際の進行軌跡Kに対して水平方向に左側に2.5m離れた位置である。進行軌跡Kに対して右側に4.5m離れた位置とは、実際の進行軌跡Kに対して水平方向に右側に4.5m離れた位置である。重み付け部123Bは、実際の進行軌跡Kから所定距離離れた位置に設定した境界線T1及びT2を、ステレオカメラ3の撮像画像に投影する。重み付け部123Bは、撮像画像上に投影された境界線T1と境界線T2との間の領域を、走行エリアTとして設定することができる。なお、走行エリアTは、進行軌跡Kに対して水平方向にオフセットしていることに限定されない。走行エリアTは、片側1車線の道路を想定して設定されることに限定されない。
重み付け部123Bは、撮像画像中において、走行エリアTの内側に位置する路面候補点の重み付けの重みの大きさよりも、走行エリアTの外側に位置する路面候補点の重み付けの重みの大きさを小さくする。例えば、図7に示す例において、重み付け部123Bは、走行エリアTの外側に位置する路面候補点Aについては重みを「1」、走行エリアTの内側に位置する路面候補点Bの重みを「2」とすることができる。このように、重み付け部123Bは、路面として推定された路面候補点のそれぞれについて、路面候補点が走行エリアTの内側に位置するか或いは外側に位置するかに基づいて、重み付けの重みを設定する。路面検出部23Cは、第一実施形態と同様に、重み付け部123Bによって重み付けされた路面候補点に基づいて、撮像画像中の路面領域を検出する。
次に、路面検出装置1Aで行われる路面領域の検出処理の流れについて、図8のフローチャートを用いて説明する。図8に示すフローチャートは、例えば、車両Vがエンジン駆動中である間、予め設定された時間毎に実行される。画像取得部21は、ステレオカメラ3の撮像した撮像画像を取得する(S201)。画像取得部21は、取得した撮像画像に基づいて視差画像を生成する(S202)。路面候補点推定部23Aは、生成された視差画像に基づいて、路面候補点を推定する(S203)。
軌跡推定部22は、内部センサ4の検出結果に基づいて車両Vの進行軌跡を推定する(S204)。重み付け部123Bは、進行軌跡に基づいて、走行エリアを設定する(S205)。重み付け部23Bは、路面候補点が走行エリアTの内側に位置するか或いは外側に位置するかに基づいて、路面候補点に重み付けを行う(S206)。路面検出部23Cは、例えば、公知のV-disparity画像等を用いて、路面候補点の視差に基づいて路面領域を検出する(S207)。路面情報出力部24は、検出部23によって検出された路面領域の情報を外部に出力する(S208)。
本実施形態は以上のように構成され、この路面検出装置1Aにおいて、走行エリアTの内側に位置する路面候補点の重み付けの重みは、走行エリアTの外側に位置する路面候補点の重み付けの重みよりも大きくなる。ここで、車両Vが進行する進行軌跡Kの周囲の領域は道路であると考えられる。また、進行軌跡Kから離れた領域は、道路ではない可能性が高いと考えられる。このため、路面検出装置1Aは、進行軌跡Kに基づいて設定した走行エリアTの内側に位置する路面候補点の重み付けの重みを大きくすることにより、走行エリアTの外側に位置する路面候補点が路面領域の検出に与える影響を抑制できる。従って、路面検出装置1Aは、路面領域の検出精度を高めることができる。
(第二実施形態の変形例)
次に、第二実施形態の変形例について説明する。本変形例において、図6に示す重み付け部123Bは、車両Vの進行する走行車線の曲率の単位時間当たりの変化量が大きい場合、上述した路面候補点に対する重み付けを行わなくてもよい。具体的には、軌跡推定部22は、進行軌跡を推定すると共に、進行軌跡に基づいて車両Vの走行車線の曲率を推定する。例えば、軌跡推定部22は、推定した進行軌跡の曲率を走行車線の曲率として推定してもよい。
重み付け部123Bは、軌跡推定部22で推定された走行車線の曲率の単位時間当たりの変化量が、予め設定された基準変化量より大きいか否かを判定する。曲率の単位時間当たりの変化量が基準変化量よりも大きい場合、撮像画像中において走行エリアTの内側に位置する路面候補点の重み付けの重みの大きさよりも、走行エリアTの外側に位置する路面候補点の重み付けの重みの大きさを小さくする処理を行わない。
例えば、推定した走行車線の曲率の単位時間当たりの変化量が基準変化量より大きい場合、道路の形状が大きく変動しているため、推定された進行軌跡に沿った道路形状と実際の道路形状とが一致しない傾向がある。このため、推定した走行車線の曲率の単位時間当たりの変化量が基準変化量より大きい場合には、路面候補点が走行エリアTの内側に位置するか或いは外側に位置するかに基づいた路面候補点の重み付けを行わないことにより、路面領域ではない領域に対応する路面候補点の重みが大きくなることを抑制できる。
以上、本発明の各実施形態及び各変形例について説明したが、本発明は、上記各実施形態及び各変形例に限定されるものではない。例えば、各実施形態及び各変形例において軌跡推定部22は、ステレオカメラ3の撮像画像に基づいて、車両Vが進行する進行軌跡を推定してもよい。例えば、軌跡推定部22は、ステレオカメラ3の撮像画像(車両の運動情報)から撮像画像内の物体のオプティカルフローを算出する。そして、軌跡推定部22は、算出したオプティカルフローに基づいて、車両Vの進行方向を推定する。軌跡推定部22は、推定した進行方向に基づいて、車両Vの進行軌跡を推定してもよい。
1,1A…路面検出装置、3…ステレオカメラ(車載カメラ)、22…軌跡推定部、23…検出部、K…進行軌跡、P…撮像画像、V…車両。

Claims (4)

  1. 車載カメラの撮像した車両の周囲の撮像画像から得られた視差情報に基づいて、路面領域を検出する路面検出装置であって、
    前記車両の運動情報に基づいて、前記車両が進行する進行軌跡を推定する軌跡推定部と、
    前記視差情報に重み付けを行い、重み付けされた前記視差情報に基づいて前記撮像画像中の路面領域を検出する検出部と、を備え、
    前記検出部は、前記視差情報に重み付けを行う際に、前記撮像画像中において前記進行軌跡に近い側に位置する前記視差情報の重み付けの重みの大きさよりも、前記進行軌跡から離れた側に位置する前記視差情報の重み付けの重みの大きさを小さくする、路面検出装置。
  2. 前記軌跡推定部は、前記進行軌跡を推定すると共に、前記進行軌跡に基づいて前記車両の走行車線の曲率を推定し、
    前記検出部は、前記軌跡推定部で推定された前記曲率の単位時間当たりの変化量が予め設定された基準変化量より大きい場合、前記撮像画像中において前記進行軌跡に近い側に位置する前記視差情報の重み付けの重みの大きさよりも、前記進行軌跡から離れた側に位置する前記視差情報の重み付けの重みの大きさを小さくする処理を行わない、請求項1に記載の路面検出装置。
  3. 車載カメラの撮像した車両の周囲の撮像画像から得られた視差情報に基づいて、路面領域を検出する路面検出装置であって、
    前記車両の運動情報に基づいて、前記車両が進行する進行軌跡を推定する軌跡推定部と、
    前記視差情報に重み付けを行い、重み付けされた前記視差情報に基づいて前記撮像画像中の路面領域を検出する検出部と、を備え、
    前記検出部は、前記視差情報に重み付けを行う際に、前記撮像画像中において前記進行軌跡から予め定められた範囲の内側に位置する前記視差情報の重み付けの重みの大きさよりも、前記予め定められた範囲の外側に位置する前記視差情報の重み付けの重みの大きさを小さくする、路面検出装置。
  4. 前記軌跡推定部は、前記進行軌跡を推定すると共に、前記進行軌跡に基づいて前記車両の走行車線の曲率を推定し、
    前記検出部は、前記軌跡推定部で推定された前記曲率の単位時間当たりの変化量が予め設定された基準変化量より大きい場合、前記撮像画像中において前記進行軌跡から予め定められた範囲内に位置する前記視差情報の重み付けの重みの大きさよりも、前記予め定められた範囲外に位置する前記視差情報の重み付けの重みの大きさを小さくする処理を行わない、請求項3に記載の路面検出装置。
JP2015084916A 2015-04-17 2015-04-17 路面検出装置 Active JP6350374B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2015084916A JP6350374B2 (ja) 2015-04-17 2015-04-17 路面検出装置
US15/096,594 US9912933B2 (en) 2015-04-17 2016-04-12 Road surface detection device and road surface detection system
DE102016206117.8A DE102016206117B4 (de) 2015-04-17 2016-04-13 Strassenoberflächenerfassungsvorrichtung und strassenoberflächenerfassungssystem
CN201610232529.5A CN106056571B (zh) 2015-04-17 2016-04-14 路面检测装置和路面检测系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015084916A JP6350374B2 (ja) 2015-04-17 2015-04-17 路面検出装置

Publications (2)

Publication Number Publication Date
JP2016206776A JP2016206776A (ja) 2016-12-08
JP6350374B2 true JP6350374B2 (ja) 2018-07-04

Family

ID=57043536

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015084916A Active JP6350374B2 (ja) 2015-04-17 2015-04-17 路面検出装置

Country Status (4)

Country Link
US (1) US9912933B2 (ja)
JP (1) JP6350374B2 (ja)
CN (1) CN106056571B (ja)
DE (1) DE102016206117B4 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105740802A (zh) * 2016-01-28 2016-07-06 北京中科慧眼科技有限公司 基于视差图的障碍物检测方法和装置及汽车驾驶辅助系统
JP6678605B2 (ja) * 2017-01-11 2020-04-08 株式会社東芝 情報処理装置、情報処理方法、および情報処理プログラム
US10467804B2 (en) 2017-06-29 2019-11-05 Open Space Labs, Inc. Automated spatial indexing of images based on floorplan features
JP6985089B2 (ja) 2017-09-29 2021-12-22 トヨタ自動車株式会社 立体物接地判定装置
JP6849569B2 (ja) 2017-09-29 2021-03-24 トヨタ自動車株式会社 路面検出装置
JP6936098B2 (ja) 2017-09-29 2021-09-15 トヨタ自動車株式会社 対象物推定装置
EP3722172A4 (en) * 2017-12-07 2020-12-02 Nissan Motor Co., Ltd. ROAD STATE DETERMINATION PROCESS AND ROAD STATE DETERMINATION DEVICE
JP6741646B2 (ja) * 2017-12-25 2020-08-19 株式会社Subaru 車外環境認識装置
US10944959B2 (en) 2018-11-12 2021-03-09 Open Space Labs, Inc. Automated spatial indexing of images to video
CN110930731A (zh) * 2019-10-08 2020-03-27 南京理工大学 智能交通卡及基于该智能交通卡的路面检测系统
US11436812B2 (en) 2020-05-29 2022-09-06 Open Space Labs, Inc. Machine learning based object identification using scaled diagram and three-dimensional model
EP3923241B1 (en) * 2020-06-09 2022-04-06 Axis AB Aligning digital images
CN112082628B (zh) * 2020-09-11 2021-12-14 锐马(福建)电气制造有限公司 一种家畜养殖物联网数据采集系统
EP4357813A1 (en) * 2022-10-21 2024-04-24 Magna Electronics Sweden AB A vehicle radar system arranged to provide an estimated road lane

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6822563B2 (en) * 1997-09-22 2004-11-23 Donnelly Corporation Vehicle imaging system with accessory control
US5877897A (en) * 1993-02-26 1999-03-02 Donnelly Corporation Automatic rearview mirror, vehicle lighting control and vehicle interior monitoring system using a photosensor array
US7629899B2 (en) * 1997-10-22 2009-12-08 Intelligent Technologies International, Inc. Vehicular communication arrangement and method
US6801244B2 (en) * 2000-02-29 2004-10-05 Kabushiki Kaisha Toshiba Obstacle detection apparatus and method
US7167796B2 (en) * 2000-03-09 2007-01-23 Donnelly Corporation Vehicle navigation system for use with a telematics system
JP2001250199A (ja) * 2000-03-07 2001-09-14 Toyota Central Res & Dev Lab Inc 走行コース推定装置
JP4624594B2 (ja) 2000-06-28 2011-02-02 パナソニック株式会社 物体認識方法および物体認識装置
DE10201523A1 (de) * 2002-01-17 2003-07-31 Bosch Gmbh Robert Verfahren und Vorrichtung zur Verdeckungsdetektion bei Bildsensorsystemen
DE10218924A1 (de) 2002-04-27 2003-11-06 Bosch Gmbh Robert Verfahren und Vorrichtung zur Kursprädiktion bei Kraftfahrzeugen
ES2391556T3 (es) * 2002-05-03 2012-11-27 Donnelly Corporation Sistema de detección de objetos para vehículo
JP3904988B2 (ja) * 2002-06-27 2007-04-11 株式会社東芝 画像処理装置およびその方法
US7526103B2 (en) * 2004-04-15 2009-04-28 Donnelly Corporation Imaging system for vehicle
WO2006014974A2 (en) * 2004-07-26 2006-02-09 Automotive Systems Laboratory, Inc. Vulnerable road user protection system
US7430473B2 (en) * 2004-10-01 2008-09-30 Bose Corporation Vehicle navigation display
JP2006273000A (ja) * 2005-03-28 2006-10-12 Advics:Kk 車両用走行支援装置
WO2007124502A2 (en) 2006-04-21 2007-11-01 Sarnoff Corporation Apparatus and method for object detection and tracking and roadway awareness using stereo cameras
WO2008024639A2 (en) * 2006-08-11 2008-02-28 Donnelly Corporation Automatic headlamp control system
JP4695566B2 (ja) * 2006-08-31 2011-06-08 富士重工業株式会社 車線逸脱判定装置および車線逸脱回避システム
JP4876080B2 (ja) * 2008-01-25 2012-02-15 富士重工業株式会社 環境認識装置
CN103185571B (zh) * 2011-12-30 2015-04-01 财团法人车辆研究测试中心 可行驶空间的检测系统及其检测方法
US9319637B2 (en) * 2012-03-27 2016-04-19 Magna Electronics Inc. Vehicle vision system with lens pollution detection
EP2669845A3 (en) * 2012-06-01 2014-11-19 Ricoh Company, Ltd. Target recognition system, target recognition method executed by the target recognition system, target recognition program executed on the target recognition system, and recording medium storing the target recognition program
JP6045589B2 (ja) 2012-07-27 2016-12-21 日産自動車株式会社 カメラ装置、立体物検出装置及びレンズ洗浄方法
US20140071240A1 (en) * 2012-09-11 2014-03-13 Automotive Research & Testing Center Free space detection system and method for a vehicle using stereo vision
US9445057B2 (en) * 2013-02-20 2016-09-13 Magna Electronics Inc. Vehicle vision system with dirt detection
EP2778007B1 (en) * 2013-03-12 2022-09-07 INRIA - Institut National de Recherche en Informatique et en Automatique Method and system to assess abnormal driving behaviour of vehicles travelling on road
US9488483B2 (en) * 2013-05-17 2016-11-08 Honda Motor Co., Ltd. Localization using road markings
KR101526385B1 (ko) * 2013-09-26 2015-06-11 현대자동차 주식회사 단기 운전 성향 판정 방법 및 이를 이용한 변속 제어 장치
KR101534958B1 (ko) * 2013-12-09 2015-07-07 현대자동차주식회사 차량의 자동 조향 제어 장치 및 방법
US10099724B2 (en) * 2014-01-21 2018-10-16 Continental Automotive Systems, Inc. Road departure protection system

Also Published As

Publication number Publication date
CN106056571A (zh) 2016-10-26
DE102016206117B4 (de) 2024-02-22
US20160305785A1 (en) 2016-10-20
US9912933B2 (en) 2018-03-06
CN106056571B (zh) 2018-09-07
DE102016206117A1 (de) 2016-10-20
JP2016206776A (ja) 2016-12-08

Similar Documents

Publication Publication Date Title
JP6350374B2 (ja) 路面検出装置
JP6785620B2 (ja) ステレオカメラセンサを用いた車両用の予測的サスペンション制御
US9235767B2 (en) Detection region modification for driving assistance apparatus and driving assistance method
CN106796648B (zh) 用于检测对象的系统和方法
JP5966747B2 (ja) 車両走行制御装置及びその方法
KR102086270B1 (ko) 주행 제어 장치의 제어 방법 및 주행 제어 장치
JP7077910B2 (ja) 区画線検出装置及び区画線検出方法
CN109074653B (zh) 用于检测机动车辆的道路旁边的物体的方法、计算设备、驾驶员辅助系统以及机动车辆
CN112204614B (zh) 来自非固定相机的视频中的运动分割
JP6936098B2 (ja) 対象物推定装置
JP2011065219A (ja) 道路曲率推定装置
JP6171849B2 (ja) 移動体位置姿勢角推定装置及び移動体位置姿勢角推定方法
JP6044084B2 (ja) 移動物体位置姿勢推定装置及び方法
CN111989541B (zh) 立体摄像机装置
JP5832850B2 (ja) 車線監視システム及び車線監視方法
KR102003387B1 (ko) 조감도 이미지를 이용한 교통 장애물의 검출 및 거리 측정 방법, 교통 장애물을 검출하고 거리를 측정하는 프로그램을 저장한 컴퓨터 판독가능 기록매체
US10536646B2 (en) Imaging control device and imaging control method
JP2013213792A (ja) 路面状態推定装置
US11628836B2 (en) Vehicle exterior environment recognition apparatus
CN115346191A (zh) 用于校准的方法和设备
JP6023030B2 (ja) 舵角補正方法、舵角補正装置、撮像装置、および舵角補正システム
JP7058128B2 (ja) 情報処理装置およびプログラム
JP2010018223A (ja) 車両用走行路面検出装置
JP4847303B2 (ja) 障害物検出方法、障害物検出プログラムおよび障害物検出装置
JP2018152692A (ja) 位置推定プログラム及び移動体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180508

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180521

R151 Written notification of patent or utility model registration

Ref document number: 6350374

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151