JP7113935B1 - 路面検出装置および路面検出方法 - Google Patents
路面検出装置および路面検出方法 Download PDFInfo
- Publication number
- JP7113935B1 JP7113935B1 JP2021063872A JP2021063872A JP7113935B1 JP 7113935 B1 JP7113935 B1 JP 7113935B1 JP 2021063872 A JP2021063872 A JP 2021063872A JP 2021063872 A JP2021063872 A JP 2021063872A JP 7113935 B1 JP7113935 B1 JP 7113935B1
- Authority
- JP
- Japan
- Prior art keywords
- road surface
- obstacle
- unit
- histogram
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】路面検出のためのヒストグラム生成領域に侵入した車両などの障害物を路面として誤検知しないようにすることが課題となる。
【解決手段】車両の周囲の路面画像から路面領域を検出する路面検出装置であって、前記路面画像を撮像する撮像部と、前記路面領域を記録する路面領域記録部と、前記路面領域記録部に記録されている過去の前記路面領域から障害物の座標を推定する障害物座標推定部と、前記障害物座標推定部により推定される前記障害物の座標に応じてヒストグラム生成領域を抽出するヒストグラム生成領域抽出部と、前記撮像部で撮像された前記路面画像のうちの前記ヒストグラム生成領域から計算されたヒストグラムにより前記路面領域を検出すると共に、検出された前記路面領域を前記路面領域記録部に記録させる路面領域検出部と、を備えた。
【選択図】 図3
【解決手段】車両の周囲の路面画像から路面領域を検出する路面検出装置であって、前記路面画像を撮像する撮像部と、前記路面領域を記録する路面領域記録部と、前記路面領域記録部に記録されている過去の前記路面領域から障害物の座標を推定する障害物座標推定部と、前記障害物座標推定部により推定される前記障害物の座標に応じてヒストグラム生成領域を抽出するヒストグラム生成領域抽出部と、前記撮像部で撮像された前記路面画像のうちの前記ヒストグラム生成領域から計算されたヒストグラムにより前記路面領域を検出すると共に、検出された前記路面領域を前記路面領域記録部に記録させる路面領域検出部と、を備えた。
【選択図】 図3
Description
本願は、路面検出装置および路面検出方法に関するものである。
近年、撮像装置を用いて車両周囲の障害物を検知し、車両の衝突防止、自動駐車、車間距離制御などを行う自動車の予防安全システムが提案されている。このようなシステムに係わる路面検出装置では、路面の模様、または路面に映る影などが障害物として誤検出されるという問題がある。
この誤検出の問題を解決するために、従来の路面検出装置として特許文献1に開示されたものがある。
この誤検出の問題を解決するために、従来の路面検出装置として特許文献1に開示されたものがある。
特許文献1に開示された路面検出装置では、ヒストグラム生成領域から作成された輝度値ヒストグラムによって、路面の輝度値が推定される。このため、ヒストグラム生成領域に車両などの障害物が含まれる場合、ヒストグラム生成領域に侵入した車両などの障害物を路面として誤検知する可能性がある。したがって、特許文献1に開示された路面検出装置では、ヒストグラム生成領域に侵入した車両などの障害物を路面として誤検知しないようにすることが課題となる。
本願はこのような課題を解決するためになされたものであり、路面検出装置において、車両周辺の障害物による路面の誤検知を防ぎ、路面検出の精度を従来のものと比べて更に向上させることを目的とする。
本願はこのような課題を解決するためになされたものであり、路面検出装置において、車両周辺の障害物による路面の誤検知を防ぎ、路面検出の精度を従来のものと比べて更に向上させることを目的とする。
本願に係わる路面検出装置は、車両の周囲の路面画像から路面領域を検出する路面検出装置であって、前記路面画像を撮像する撮像部と、前記路面領域を記録する路面領域記録部と、前記路面領域記録部に記録されている過去の前記路面領域から障害物の座標を推定する障害物座標推定部と、前記障害物座標推定部により推定される前記障害物の座標に応じてヒストグラム生成領域を抽出するヒストグラム生成領域抽出部と、前記撮像部で撮像された前記路面画像のうちの前記ヒストグラム生成領域から計算されたヒストグラムにより前記路面領域を検出すると共に、検出された前記路面領域を前記路面領域記録部に記録させる路面領域検出部と、を備えたものである。
本願によれば、路面領域記録部に記録されている過去の前記路面領域から障害物の座標を推定し、推定される障害物の座標に応じてヒストグラム生成領域を抽出するので、障害物の侵入を判定することができ、従来の路面検出装置と比べて、前記路面の検出の精度を更に向上させることができる。
実施の形態1.
実施の形態1の路面検出装置について、図1を用いて説明する。図1は係わる路面検出装置の構成図である。図1において車両1は、カメラ2及び路面検出装置8を有している。カメラ2は車両1の前後及び左右に複数設置されカメラ配線4を介して周辺監視カメラコントローラ5に接続されている。また取付け位置について、図1では左右のカメラについては現在一般的なドアミラー下部、前後についてはそれぞれバンパー中央に設置するよう図示しているが、必ずしも図1のように設置する必要はなく、本特許の目的を満たすことが可能であれば設置位置は限定しない。路面検出装置8には、周辺監視カメラコントローラ5以外に、車速などの車両状態を検出するその他のセンサ6、演算装置7、が含まれており、これらはそれぞれ通信線3、例えばCAN(Control Area Network)等、を用いて接続されている。
実施の形態1の路面検出装置について、図1を用いて説明する。図1は係わる路面検出装置の構成図である。図1において車両1は、カメラ2及び路面検出装置8を有している。カメラ2は車両1の前後及び左右に複数設置されカメラ配線4を介して周辺監視カメラコントローラ5に接続されている。また取付け位置について、図1では左右のカメラについては現在一般的なドアミラー下部、前後についてはそれぞれバンパー中央に設置するよう図示しているが、必ずしも図1のように設置する必要はなく、本特許の目的を満たすことが可能であれば設置位置は限定しない。路面検出装置8には、周辺監視カメラコントローラ5以外に、車速などの車両状態を検出するその他のセンサ6、演算装置7、が含まれており、これらはそれぞれ通信線3、例えばCAN(Control Area Network)等、を用いて接続されている。
演算装置7は、図2に示すように、プロセッサ301と記憶装置302から構成され、図示していないが、記憶装置はランダムアクセスメモリ等の揮発性記憶装置と、フラッシュメモリ等の不揮発性の補助記憶装置とを具備する。また、フラッシュメモリの代わりにハードディスクの補助記憶装置を具備してもよい。プロセッサ301は、記憶装置302から入力されたプログラムを実行し、図3で説明する機能ブロックに関する構成および図3で説明するフローチャートの動作の一部又は全部を遂行する。この場合、補助記憶装置から揮発性記憶装置を介してプロセッサ301にプログラムが入力される。また、プロセッサ301は、入出力される信号、演算の中間値、および演算結果等のデータを記憶装置302の揮発性記憶装置に出力してもよいし、揮発性記憶装置を介して補助記憶装置にデータを保存してもよい。また、プロセッサ301及び記憶装置302に加え、ロジック回路、アナログ回路を併用してもよい。また、演算装置7は、後述する実施の形態2及び実施の形態3で説明する機能ブロック及びフローチャートの動作の一部又は全部を遂行する。
次に、本実施の形態1の路面検出装置8の機能構成について図3の機能ブロック図を、さらに、機能構成の動作について図4のフローチャートを用いて説明する。図3において、路面検出装置8は、撮像部201、障害物座標推定部202、ヒストグラム生成領域抽出部203、ヒストグラム演算部204、ヒストグラム記録部205、路面領域検出部206、路面領域記録部207、により構成される。
撮像部201は、1つ以上のカメラ2と周辺監視カメラコントローラ5及びそれらをつなぐカメラ配線4によって構成される。図3に示す機能ブロック図の内、障害物座標推定部202、ヒストグラム生成領域抽出部203、ヒストグラム演算部204、ヒストグラム記録部205、路面領域検出部206、路面領域記録部207は、図2に示す路面検出装置8の演算装置7が有している。これらの演算装置7による機能ブロックの動作について、図4に示すフローチャートを用いて説明する。
撮像部201は、1つ以上のカメラ2と周辺監視カメラコントローラ5及びそれらをつなぐカメラ配線4によって構成される。図3に示す機能ブロック図の内、障害物座標推定部202、ヒストグラム生成領域抽出部203、ヒストグラム演算部204、ヒストグラム記録部205、路面領域検出部206、路面領域記録部207は、図2に示す路面検出装置8の演算装置7が有している。これらの演算装置7による機能ブロックの動作について、図4に示すフローチャートを用いて説明する。
図4において、ステップS101にて、撮像部201は車両1周辺の路面を撮像して路面画像を取得する。本実施の形態1では車両1の後方に取り付けられたカメラ2によって撮像された図5に示す路面画像を例に処理の流れを説明する。図5には車両1の後方を走行する後方車両9と後方に設置されたパイロン10が映っている。路面画像は、時間ごとに取得されたフレームという静止画の集まりである。また、各処理はフレームの単位時間ごとに繰り返されるものであり、現在の路面画像を本フレーム、過去に記録された1つ前のデータを前フレーム、2つ前のデータを前々フレームと表現するものとする。また、路面画像以外のデータもこれらのフレームごとに処理されるものとする。
次に、ステップS102にて、障害物座標推定部202は、路面領域記録部207に記録されている過去の路面領域の検知結果を基に、本フレームにおける路面画像上の障害物座標を推定する。過去の路面領域の検知結果とは後述するステップS111にて、路面領域記録部207に記録された路面検出装置8の出力結果である。路面画像の内、路面検出装置8によって路面と判定された画素を輝度値255、路面でないと判定された領域を輝度値0とした路面検出画像と、路面検出画像における路面と非路面領域の境界線の座標である路面領域の境界線を本実施の形態1では路面領域の検知結果とする。なお、路面検知結果の形式は、例えば路面検出画像と境界線座標のどちらかとしても良い。また、本願の目的を満たすことが可能であれば出力形式は限定しない。
次に障害物座標の推定方法について説明する。図5に示す路面画像が前フレームに取得されていた場合を例に示す。まず、過去の路面領域の境界線から過去の障害物座標を算出する。路面領域の境界線11は路面画像から路面検出装置8が出力する検知結果である。境界線の内、他と比較して凹形状になっている領域を障害物領域とし、障害物領域の内、車両1に最も接近した座標を障害物座標とする。図5では後方車両9とパイロン10が映っており、後方車両9の座標14、パイロン10の座標17が障害物座標として算出される。なお、車両に最も接近している座標は路面境界線の凹領域の各画素座標をカメラパラメータによって図6示すような、車両1の後方車軸中央19を原点Oとした平面座標系に変換して求める。以後、座標と記載した場合の座標系は、原点Oから車両1前方に向かう軸をX軸、原点から車両1左方に向かう軸をY軸とする座標系で表すこととする。
同様に過去の路面領域の境界線から障害物座標を算出する。例えば図5における前々フレームの路面領域の境界線12から障害物座標として、前フレームの後方車両9の座標13と前フレームのパイロン10の座標16が算出される。
過去の障害物座標の変化から本フレームにおける障害物座標を推定する。前フレームの路面領域の境界線11と前々フレームの路面領域の境界線12によって得られた各障害物座標の移動平均から後方車両9の座標15と、パイロン10の座標18が本フレームにおける障害物座標として推定される。
ステップS103からステップS107にて、ヒストグラム生成領域抽出部203は、ステップS102にて障害物座標推定部202が推定した障害物座標に基づいて、現在の本フレームの路面画像からヒストグラム生成領域画像を抽出する。実施の形態1におけるヒストグラム生成領域と車両1との位置関係を図7から図9に示す。図7から図9は車両1の後方を後方車両9が走行しており、各図で後方車両9の座標が異なる。
過去の障害物座標の変化から本フレームにおける障害物座標を推定する。前フレームの路面領域の境界線11と前々フレームの路面領域の境界線12によって得られた各障害物座標の移動平均から後方車両9の座標15と、パイロン10の座標18が本フレームにおける障害物座標として推定される。
ステップS103からステップS107にて、ヒストグラム生成領域抽出部203は、ステップS102にて障害物座標推定部202が推定した障害物座標に基づいて、現在の本フレームの路面画像からヒストグラム生成領域画像を抽出する。実施の形態1におけるヒストグラム生成領域と車両1との位置関係を図7から図9に示す。図7から図9は車両1の後方を後方車両9が走行しており、各図で後方車両9の座標が異なる。
図7のように、後方車両9が車両1から十分に離れており、後方車両9の障害物座標が既定のヒストグラム生成領域20に含まれないとステップS103で判定された場合、ステップS105にて、ヒストグラム生成領域抽出部203は路面画像の内、既定のヒストグラム生成領域20に該当する領域をヒストグラム生成領域画像として抽出する。なお、既定のヒストグラム生成領域20は路面検出の精度が十分に担保できる領域を設定しており、路面画像の画像サイズ及びカメラの取り付け角度などによって最適な領域をあらかじめ設定しておくものとする。なお、車両1の速度が取得できる場合、既定のヒストグラム生成領域20を動的に変更しても良い。
図8のように後方車両9が車両1に接近しており、後方車両9の障害物座標が既定のヒストグラム生成領域20に含まれるとステップS103で判定され、かつ最小ヒストグラム生成領域20aに含まれないとステップS104にて判定された場合、ステップS106にて、ヒストグラム生成領域抽出部203は後方車両9の障害物座標に応じて、後方車両9を含まないヒストグラム生成領域20bに減少させてヒストグラム生成領域を抽出する。なお、最小ヒストグラム生成領域20aとは抽出された領域からヒストグラムを演算した場合に、路面検出の精度を担保できる最低限の画素数を持つ領域とする。
図9のように後方車両9が車両1に接近しており、後方車両9の障害物座標が、最小ヒストグラム生成領域20aに含まれるとステップS103とステップS104から判定された場合、ステップS107にて、ヒストグラム生成領域抽出部203はヒストグラム生成領域画像を抽出しない。
図9のように後方車両9が車両1に接近しており、後方車両9の障害物座標が、最小ヒストグラム生成領域20aに含まれるとステップS103とステップS104から判定された場合、ステップS107にて、ヒストグラム生成領域抽出部203はヒストグラム生成領域画像を抽出しない。
ステップS108にて、ヒストグラム演算部204はステップS105とステップS106にてヒストグラム生成領域抽出部203が抽出したヒストグラム生成領域画像からヒストグラムを演算する。なお、実施の形態1ではヒストグラムはRGB各16階調の3次元ヒストグラムを利用するものであるが、グレースケール画像から算出する1次元ヒストグラムでもよく、特許の目的を満たすことが可能であればヒストグラムの形式は限定しない。
ステップS109にて、ヒストグラム演算部204は後述するステップS111にて、ヒストグラム記録部205が記録した過去のヒストグラムを取得して演算結果として出力する。
ステップS110にて、路面領域検出部206は、ヒストグラム演算部204が出力したヒストグラムを利用して路面領域を抽出する。ヒストグラムに基づいて路面領域を抽出する方法として、例えばヒストグラムの逆投影法、またはヒストグラムの値域に含まれる画素値を持つ全ての画素を抽出する方法などが使用される。
ステップS110にて、路面領域検出部206は、ヒストグラム演算部204が出力したヒストグラムを利用して路面領域を抽出する。ヒストグラムに基づいて路面領域を抽出する方法として、例えばヒストグラムの逆投影法、またはヒストグラムの値域に含まれる画素値を持つ全ての画素を抽出する方法などが使用される。
実施の形態1では、ヒストグラムの逆投影法を用いて抽出する例を示す。ヒストグラムの逆投影法はヒストグラムの各画素値の出現割合に基づいて対象の画素がヒストグラムに含まれるかどうかを判定する手法である。ヒストグラムの逆投影法の処理方法について詳細に説明する。まず、各画素のRGB画素値を取得する。次に、RGBの各ヒストグラムを参照して、取得した画素値の画素数を取得し、各画素数を合計した値である画素数合計値を算出する。画素数合計値があらかじめ定めた値以上ある場合は輝度値255、あらかじめ定めた値未満である場合は輝度値0の値を出力する。この処理を路面画像の画素すべてに対して行うことで、路面画像の二値化画像を出力する。二値化画像のうち、輝度値255の領域がヒストグラムに基づき路面と判定された領域とする。
図5のような路面画像の場合、後方車両9及びパイロン10は路面でないと判定されるため、路面領域の境界線11より下の画素が路面と判定され輝度値255、路面領域の境界線11より上の画素が路面でないと判定され、輝度値0となる二値化画像を出力する。
ステップS111にて、ヒストグラム記録部205はヒストグラム演算部204が演算したヒストグラムを記録する。また、路面領域記録部207は路面領域検出部206が出力した路面領域と路面領域の内、路面と路面でない領域の境界線である路面領域の境界線11の座標を過去数フレーム分記録する。
ステップS111にて、ヒストグラム記録部205はヒストグラム演算部204が演算したヒストグラムを記録する。また、路面領域記録部207は路面領域検出部206が出力した路面領域と路面領域の内、路面と路面でない領域の境界線である路面領域の境界線11の座標を過去数フレーム分記録する。
路面検出装置8は、撮像部201から画像がフレームとして入力されるたびに上記ステップS101からステップS111の処理を繰り返し実行する。
本実施の形態1では、路面検出装置8は、路面領域検出部206によって出力された路面領域と、路面と路面でない領域の境界線である路面領域の境界線11の座標とを過去数フレーム分記録し、障害物座標推定部202は過去数フレーム分の路面領域の境界線11から現在の障害物座標を推定し、ヒストグラム生成領域抽出部203は推定された現在の障害物座標に応じて、ヒストグラム生成領域を抽出する領域を増減する。そうすることによって障害物が含まれない領域をヒストグラム生成領域とすることができ、障害物がヒストグラム生成領域に含まれて障害物を路面として誤検知されることを防ぐことができる。
本実施の形態1では、路面検出装置8は、路面領域検出部206によって出力された路面領域と、路面と路面でない領域の境界線である路面領域の境界線11の座標とを過去数フレーム分記録し、障害物座標推定部202は過去数フレーム分の路面領域の境界線11から現在の障害物座標を推定し、ヒストグラム生成領域抽出部203は推定された現在の障害物座標に応じて、ヒストグラム生成領域を抽出する領域を増減する。そうすることによって障害物が含まれない領域をヒストグラム生成領域とすることができ、障害物がヒストグラム生成領域に含まれて障害物を路面として誤検知されることを防ぐことができる。
また、ステップS104にて、障害物が接近し、路面領域としてヒストグラムを生成するのに十分な領域をヒストグラム生成領域として抽出できない場合には、ステップS111にて、ヒストグラム記録部205が記録した過去のヒストグラムを利用して路面検出を行うことで、障害物が車両直近におり、路面のみの色情報を取得できない場合でも障害物を路面として誤検知することを防ぐことが可能である。
実施の形態2.
実施の形態2における路面検出装置8は、実施の形態1において過去の路面から推定した障害物領域の内、オプティカルフローが車両1の後方に向いている障害物領域の障害物座標を計算から除外するものである。
図10は実施の形態2に係わる路面検出装置置の機能構成を機能ブロック図にて示したもので、実施の形態1の機能ブロック図に、オプティカルフロー演算部208、車両情報取得部209を加えた構成である。
実施の形態2における路面検出装置8は、実施の形態1において過去の路面から推定した障害物領域の内、オプティカルフローが車両1の後方に向いている障害物領域の障害物座標を計算から除外するものである。
図10は実施の形態2に係わる路面検出装置置の機能構成を機能ブロック図にて示したもので、実施の形態1の機能ブロック図に、オプティカルフロー演算部208、車両情報取得部209を加えた構成である。
実施の形態2の路面検出装置の動作において、実施の形態1と異なる部分について、図11に示すフローチャートを用いて説明する。なお、図11のフローチャートにおいて、ステップS201からステップS203までが実施の形態2による動作部分であり、他のステップは図4に示した実施の形態1の同一符号のステップと同じであり説明を省略する。
はじめにステップS101にて路面画像を取得した後、ステップS201にて、図1のその他のセンサ6となる車両情報取得部209は、車両1の車両状態を検出する。実施の形態2の車両情報取得部209が検出する車両情報としては、車速、ハンドル角、シフト情報、ブレーキ情報、ヨーレート等がある。
次に、ステップS202にて、オプティカルフロー演算部208は撮像部201から取得した路面画像と、過去に撮像部201が出力した過去の画像からオプティカルフローを演算する。路面画像からオプティカルフローを算出した例を図12にて説明する。
次に、ステップS202にて、オプティカルフロー演算部208は撮像部201から取得した路面画像と、過去に撮像部201が出力した過去の画像からオプティカルフローを演算する。路面画像からオプティカルフローを算出した例を図12にて説明する。
図12は走行している車両1の後方に向けた撮像部201が撮像した路面画像で、後方に後方車両9が走行しており、接近してきている。また、パイロン10が車両1の左後方にある状態である。このとき、後方車両9のオプティカルフロー21は、後方車両9が接近しているため、車両1に接近する画像下部を向いたフローが算出される。また、パイロン10のオプティカルフロー22は車両1が前進しているため、静止しているパイロン10は相対的に後退して見え、画像上部に向いたフローが算出される。なお、車両1が移動・旋回している場合には、車両1の動きに合わせて、背景の静止物からオプティカルフローが算出されるため、ステップS201で取得した車両情報のうち、車速及びヨーレートなどを用いて、算出したオプティカルフローから車両1の移動による影響を除去してもよい。
次にステップS203にて、障害物座標推定部202はステップS202で算出されたオプティカルフローとステップS111で記録された過去の路面領域の境界線11に基づいて障害物座標を推定する。
実施の形態2では路面領域の境界線11の凹部分を障害物領域としたのち、障害物領域に含まれるオプティカルフローのベクトルの平均を求めて障害物領域のオプティカルフローとする。このとき、障害物のオプティカルフローが後退を表す画像上部を向いている障害物領域に対して障害物座標の推定を行わない。このように、障害物座標の推定を必要としない障害物を除くことにより、障害物座標を推定する対象物を限定することができ、計算量が削減できる。
実施の形態2では路面領域の境界線11の凹部分を障害物領域としたのち、障害物領域に含まれるオプティカルフローのベクトルの平均を求めて障害物領域のオプティカルフローとする。このとき、障害物のオプティカルフローが後退を表す画像上部を向いている障害物領域に対して障害物座標の推定を行わない。このように、障害物座標の推定を必要としない障害物を除くことにより、障害物座標を推定する対象物を限定することができ、計算量が削減できる。
なお、画像上部に向いたオプティカルフローを含む障害物領域の障害物座標を推定しないのではなく、画像下部を向いたオプティカルフローを含む障害物領域のみから障害物座標を推定するとしてもよい。また、車速が第一の閾値以上の場合にのみ、障害物座標の推定にオプティカルフローを使用するようにしてもよい。車両1が極低速または停車時は障害物と車両の相対的な座標が変化せず、フローが検知できないため、車速が第一の閾値未満では使用しないことで計算量の削減が可能である。
実施の形態2では、実施の形態1において過去の路面から推定した障害物領域の内、オプティカルフローが車両1後方に向いている障害物領域を障害物座標の推定から除外するものである。これにより、障害物がヒストグラム生成領域に侵入してないにも関わらず、路面検出装置8の検知結果が誤検知して、路面領域の境界線11が車両に接近しているように見えるような状況でも障害物座標がヒストグラム生成領域に侵入していると推定されることを防ぐことが可能である。
実施の形態3.
実施の形態3における路面検出装置8は、車両1の車速が第二の閾値以下の場合に、障害物との距離を測定するセンサを用いて障害物座標を検出することで、路面画像に変化が少ない状況においても障害物がヒストグラム生成領域に侵入することを検知し、障害物を路面と誤検知することを防ぐことが可能になる。
実施の形態3における路面検出装置8は、車両1の車速が第二の閾値以下の場合に、障害物との距離を測定するセンサを用いて障害物座標を検出することで、路面画像に変化が少ない状況においても障害物がヒストグラム生成領域に侵入することを検知し、障害物を路面と誤検知することを防ぐことが可能になる。
図13は実施の形態3における路面検出装置8の構成図であり、実施の形態1における路面検出装置の構成図にソナーセンサ23、ソナーセンサ配線24、ソナーコントローラ25を追加した構成である。ソナーセンサ23は車両前方、側方及び後方に複数設置され、それらはソナーセンサ配線24を介してソナーコントローラ25に接続されている。なお、図13では前後4つずつ、側方に2つずつソナーセンサ23を配しているが、ソナーセンサ23のセンサ群により必要な計測領域が満たされるのであれば、車両1のサイズによっては、前後のソナーセンサ23は2~3個であっても良い。
路面検出装置8には、ソナーコントローラ25、周辺監視カメラコントローラ5以外に、その他のセンサ6、路面検出装置8の演算装置7、通信線3が含まれており、これらは実施の形態1で説明したものと同じである。
路面検出装置8には、ソナーコントローラ25、周辺監視カメラコントローラ5以外に、その他のセンサ6、路面検出装置8の演算装置7、通信線3が含まれており、これらは実施の形態1で説明したものと同じである。
図14は実施の形態3に係わる路面検出装置8の機能構成を機能ブロック図にて示したもので、実施の形態2の機能ブロック構成に、障害物距離検出部210を加えた構成である。
障害物距離検出部210は、車両1周辺に存在する障害物を検知し、障害物距離検出部210と障害物との距離である障害物距離を検出する。障害物距離を検出する装置として例えば、ソナーセンサ、赤外線デプスセンサ、ミリ波レーダ、LiDAR技術などがあり、実施の形態3の障害物距離検出部210では、複数のソナーセンサ23とソナーコントローラ25及びそれらをつなぐソナーセンサ配線24によって構成される。
障害物距離検出部210は、車両1周辺に存在する障害物を検知し、障害物距離検出部210と障害物との距離である障害物距離を検出する。障害物距離を検出する装置として例えば、ソナーセンサ、赤外線デプスセンサ、ミリ波レーダ、LiDAR技術などがあり、実施の形態3の障害物距離検出部210では、複数のソナーセンサ23とソナーコントローラ25及びそれらをつなぐソナーセンサ配線24によって構成される。
実施の形態3に係わる路面検出装置の動作において、実施の形態1又は2と異なる部分について、図15Aおよび図15Bに示すフローチャートを用いて説明する。なお、図15Aおよび図15Bに示すフローチャートにおいて、ステップS301からステップS303が実施の形態3による動作部分であり、他のステップは図4に示した実施の形態1、および図11に示した実施の形態2の同一符号のステップと同じであり説明を省略する。
はじめにステップS101とステップS201にて、路面画像と車両情報を取得し、ステップS202でオプティカルフローを演算する。次にステップS301にて、車両1に設置された障害物距離検出部210で障害物距離を検出する。例えば実施の形態1では、前方と後方のカメラ2の撮像範囲には、ソナーセンサ23が4台、左方と右方のカメラ2の撮像範囲には2台のソナーセンサ23が設置されており、撮像範囲内の障害物を検知し、ソナーセンサ23からソナーセンサ23に最も接近している障害物までの距離である障害物距離を検出する。撮像範囲内に複数の障害物が存在する場合、複数の障害物距離が検出されるためすべてを記録する。
ステップS302にて、障害物座標推定部202は、車速が第二の閾値以下か判定を行い、第二の閾値以下の場合は、ステップS303に進み、第二の閾値を超える場合はステップS203へ移行する。
ステップS303では、障害物座標推定部202が、検出された障害物距離から障害物座標を算出する。障害物座標推定部202による障害物座標の算出方法を図16にて説明する。障害物距離検出部210が障害物を検知し、障害物距離を取得した場合、図16のようにセンサを中心とした円弧26上に障害物が存在することになる。よって障害物距離を取得した場合にはこの円弧26の内、車両座標系のX座標が車両1に最も近い座標を障害物座標とする。なお、円弧26の角度についてはセンサの指向性に依存する。図16のソナーセンサ23の場合は、角度θの指向性を持ち、θが45度とすると検知可能距離に対し約0.7倍した距離Cにあたるため、車両から距離C離れた座標を障害物座標と算出する。また、複数の障害物距離検出部210が障害物距離を取得して、複数の円弧の交点が存在する場合には開口合成によりその交点を障害物座標としてもよい。
なお、本実施の形態3では障害物距離検出部210としてソナーセンサ23を用いて説明したが、より指向性の高いセンサを用いるのであれば、算出された障害物距離により1に近い倍率をかけた値を車両1と障害物との距離Cとすればよい。
ステップS303では、障害物座標推定部202が、検出された障害物距離から障害物座標を算出する。障害物座標推定部202による障害物座標の算出方法を図16にて説明する。障害物距離検出部210が障害物を検知し、障害物距離を取得した場合、図16のようにセンサを中心とした円弧26上に障害物が存在することになる。よって障害物距離を取得した場合にはこの円弧26の内、車両座標系のX座標が車両1に最も近い座標を障害物座標とする。なお、円弧26の角度についてはセンサの指向性に依存する。図16のソナーセンサ23の場合は、角度θの指向性を持ち、θが45度とすると検知可能距離に対し約0.7倍した距離Cにあたるため、車両から距離C離れた座標を障害物座標と算出する。また、複数の障害物距離検出部210が障害物距離を取得して、複数の円弧の交点が存在する場合には開口合成によりその交点を障害物座標としてもよい。
なお、本実施の形態3では障害物距離検出部210としてソナーセンサ23を用いて説明したが、より指向性の高いセンサを用いるのであれば、算出された障害物距離により1に近い倍率をかけた値を車両1と障害物との距離Cとすればよい。
次にステップS103からステップS107において、ヒストグラム生成領域抽出部203で、ヒストグラム生成領域が抽出される。ただし、ステップS302にて、車速が第二の閾値以下であった場合は、ステップS303よって障害物座標推定部202が障害物距離検出部210によって検出された障害物距離から推定した障害物座標に基づいて、現在の本フレームの路面画像のヒストグラム生成領域画像が抽出されることになる。こうして、障害物距離から算出した障害物座標に基づき、ヒストグラム生成領域に障害物が侵入しない領域をヒストグラム生成領域とする。なお、障害物がおらず、障害物距離から障害物座標が算出できない場合には、既定のヒストグラム生成領域20からヒストグラム生成領域画像を抽出する。
以上のように、実施の形態3における路面検出装置8は、実施の形態1又は2における障害物座標の推定において、車両1の車速が第二の閾値以下の場合に、障害物との距離を測定するセンサを用いて障害物座標を算出することで、路面画像に変化が少ない状況においても障害物がヒストグラム生成領域に侵入することを検知し、障害物を路面と誤検知することを防ぐことが可能になる。
例えば車両1のエンジン停止中にヒストグラム生成領域に後方車両9が侵入した場合、初めからヒストグラム生成領域に障害物が侵入しており、移動がないため路面領域の境界線11の変化から障害物がヒストグラム生成領域に侵入することを検知できない。このような状況でもソナーセンサ23によってヒストグラム生成領域に障害物が存在することを検知できるため、障害物の座標に応じてヒストグラム生成領域の設定することができる。また、過去のヒストグラムを使用することによりヒストグラム生成領域に侵入している障害物を誤検知することを防ぐことが可能になる。
例えば車両1のエンジン停止中にヒストグラム生成領域に後方車両9が侵入した場合、初めからヒストグラム生成領域に障害物が侵入しており、移動がないため路面領域の境界線11の変化から障害物がヒストグラム生成領域に侵入することを検知できない。このような状況でもソナーセンサ23によってヒストグラム生成領域に障害物が存在することを検知できるため、障害物の座標に応じてヒストグラム生成領域の設定することができる。また、過去のヒストグラムを使用することによりヒストグラム生成領域に侵入している障害物を誤検知することを防ぐことが可能になる。
なお、上記の実施の形態1から3においては、車両1の後方の路面画像を例に説明を行ったが、車両1の前方及び側方の路面画像についても、同様の処理を適用することができ、同様の効果を得ることが可能である。
本願は、様々な例示的な実施の形態および実施例が記載されているが、1つ、または複数の実施の形態に記載された様々な特徴、態様、および機能は特定の実施の形態の適用に限られるのではなく、単独で、または様々な組み合わせで実施の形態に適用可能である。従って、例示されていない無数の変形例が、本願明細書に開示される技術の範囲内において想定される。例えば、少なくとも1つの構成要素を変形する場合、追加する場合または省略する場合、さらには、少なくとも1つの構成要素を抽出し、他の実施の形態の構成要素と組み合わせる場合が含まれるものとする。
1 車両、2 カメラ、3 通信線、4 カメラ配線、5 周辺監視カメラコントローラ、6 その他のセンサ、7 演算装置、8 路面検出装置、9 後方車両、10 パイロン、11,12 境界線、13,14,15,16,17,18 座標、19 後方車軸中央、20 既定のヒストグラム生成領域、20a 最小ヒストグラム生成領域、20b ヒストグラム生成領域、21,22 オプティカルフロー、23 ソナーセンサ、24 ソナーセンサ配線、25 ソナーコントローラ、26 円弧、201 撮像部、202 障害物座標推定部、203 ヒストグラム生成領域抽出部、204 ヒストグラム演算部、205 ヒストグラム記録部、206 路面領域検出部、207 路面領域記録部、208 オプティカルフロー演算部、209 車両情報取得部、210 障害物距離検出部、301 プロセッサ、302 記憶装置。
Claims (9)
- 車両の周囲の路面画像から路面領域を検出する路面検出装置であって、
前記路面画像を撮像する撮像部と、
前記路面領域を記録する路面領域記録部と、
前記路面領域記録部に記録されている過去の前記路面領域から障害物の座標を推定する障害物座標推定部と、
前記障害物座標推定部により推定される前記障害物の座標に応じてヒストグラム生成領域を抽出するヒストグラム生成領域抽出部と、
前記撮像部で撮像された前記路面画像のうちの前記ヒストグラム生成領域から計算されたヒストグラムにより前記路面領域を検出すると共に、
検出された前記路面領域を前記路面領域記録部に記録させる路面領域検出部と、
を備えたことを特徴とする路面検出装置。 - 前記ヒストグラム生成領域抽出部は、前記障害物座標推定部により推定された前記障害物の座標に応じて、前記ヒストグラム生成領域を増減することを特徴とする請求項1に記載の路面検出装置。
- 前記ヒストグラムを計算するヒストグラム演算部をさらに備え、
前記ヒストグラム演算部は、計算されたヒストグラムを記録するヒストグラム記録部を有し、
前記障害物座標推定部により推定された前記障害物の座標が、路面領域を抽出することが可能な最小のヒストグラム生成領域の領域内にある場合に、前記ヒストグラム記録部に記録されていた過去のヒストグラムを計算結果として出力することを特徴とする請求項1または請求項2に記載の路面検出装置。 - 前記ヒストグラム生成領域抽出部は、前記障害物座標推定部により推定された前記障害物の座標が既定のヒストグラム生成領域の領域内にある場合に、障害物の侵入ありと判定することを特徴とする請求項1から請求項3の何れか1項に記載の路面検出装置。
- 前記路面画像の変化からオプティカルフローを算出するオプティカルフロー演算部をさらに備え、
前記障害物座標推定部は、前記オプティカルフロー演算部により算出されたオプティカルフローが車両から離れる方向である前記障害物は障害物の対象から外すことを特徴とする請求項1から請求項4のいずれか1項に記載の路面検出装置。 - 前記車両の速度を検出する車両情報取得部をさらに備え、
前記障害物座標推定部は、前記車両情報取得部から検出された車両の前記速度が第一の閾値以上の場合に、前記オプティカルフローによる処理を有効とすることを特徴とする請求項5記載の路面検出装置。 - 前記車両の周辺の障害物の距離を検出する障害物距離検出部をさらに備え、
前記障害物座標推定部は、前記障害物距離検出部が障害物を検出した場合に、検出された前記障害物との距離から前記障害物の座標を推定することを特徴とする請求項1から請求項6のいずれか1項に記載の路面検出装置。 - 前記車両の速度を検出する車両情報取得部をさらに備え、
前記障害物座標推定部は、前記車両情報取得部から検出された前記車両の速度が第二の閾値以下の場合に、前記障害物距離検出部によって検出された前記障害物との距離から前記障害物の座標を推定することを特徴とする請求項7に記載の路面検出装置。 - 車両周囲の路面画像から路面領域を検出する路面検出方法であって、
路面領域記録部に記録された過去の前記路面領域から障害物の座標を推定するステップと、
推定された前記障害物の現在の座標に応じてヒストグラム生成領域を抽出するステップと、
前記路面画像のうちの前記ヒストグラム生成領域から計算されたヒストグラムにより前記路面領域を抽出するステップと、
抽出された前記路面領域を前記路面領域記録部に記録するステップと、
を含むことを特徴とする路面検出方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021063872A JP7113935B1 (ja) | 2021-04-05 | 2021-04-05 | 路面検出装置および路面検出方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021063872A JP7113935B1 (ja) | 2021-04-05 | 2021-04-05 | 路面検出装置および路面検出方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP7113935B1 true JP7113935B1 (ja) | 2022-08-05 |
JP2022159594A JP2022159594A (ja) | 2022-10-18 |
Family
ID=82740450
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021063872A Active JP7113935B1 (ja) | 2021-04-05 | 2021-04-05 | 路面検出装置および路面検出方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7113935B1 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005332120A (ja) * | 2004-05-19 | 2005-12-02 | Daihatsu Motor Co Ltd | 障害物認識方法及び障害物認識装置 |
WO2019202627A1 (ja) * | 2018-04-16 | 2019-10-24 | 三菱電機株式会社 | 障害物検出装置、障害物検出装置を利用した自動ブレーキ装置、障害物検出方法、および障害物検出方法を利用した自動ブレーキ方法 |
WO2019202628A1 (ja) * | 2018-04-16 | 2019-10-24 | 三菱電機株式会社 | 路面検出装置、路面検出装置を利用した画像表示装置、路面検出装置を利用した障害物検知装置、路面検出方法、路面検出方法を利用した画像表示方法、および路面検出方法を利用した障害物検知方法 |
-
2021
- 2021-04-05 JP JP2021063872A patent/JP7113935B1/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005332120A (ja) * | 2004-05-19 | 2005-12-02 | Daihatsu Motor Co Ltd | 障害物認識方法及び障害物認識装置 |
WO2019202627A1 (ja) * | 2018-04-16 | 2019-10-24 | 三菱電機株式会社 | 障害物検出装置、障害物検出装置を利用した自動ブレーキ装置、障害物検出方法、および障害物検出方法を利用した自動ブレーキ方法 |
WO2019202628A1 (ja) * | 2018-04-16 | 2019-10-24 | 三菱電機株式会社 | 路面検出装置、路面検出装置を利用した画像表示装置、路面検出装置を利用した障害物検知装置、路面検出方法、路面検出方法を利用した画像表示方法、および路面検出方法を利用した障害物検知方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2022159594A (ja) | 2022-10-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6795027B2 (ja) | 情報処理装置、物体認識装置、機器制御システム、移動体、画像処理方法およびプログラム | |
JP6983309B2 (ja) | 障害物検出装置、障害物検出装置を利用した自動ブレーキ装置、障害物検出方法、および障害物検出方法を利用した自動ブレーキ方法 | |
JP5689907B2 (ja) | 車両において通行物体位置検出を向上する方法 | |
US6690011B2 (en) | Infrared image-processing apparatus | |
JP7072641B2 (ja) | 路面検出装置、路面検出装置を利用した画像表示装置、路面検出装置を利用した障害物検知装置、路面検出方法、路面検出方法を利用した画像表示方法、および路面検出方法を利用した障害物検知方法 | |
JP6453490B2 (ja) | 路面反射を認識し評価するための方法及び装置 | |
US10776946B2 (en) | Image processing device, object recognizing device, device control system, moving object, image processing method, and computer-readable medium | |
Aytekin et al. | Increasing driving safety with a multiple vehicle detection and tracking system using ongoing vehicle shadow information | |
US9747524B2 (en) | Disparity value deriving device, equipment control system, movable apparatus, and robot | |
US8594378B2 (en) | 3D object detecting apparatus and 3D object detecting method | |
JP5600332B2 (ja) | 運転支援装置 | |
JP7206583B2 (ja) | 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法およびプログラム | |
JP2018516799A5 (ja) | ||
EP3115966B1 (en) | Object detection device, object detection method, and computer program | |
JP2000030197A (ja) | 温体検出装置 | |
EP2913998B1 (en) | Disparity value deriving device, equipment control system, movable apparatus, robot, disparity value deriving method, and computer-readable storage medium | |
JP6992356B2 (ja) | 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法およびプログラム | |
US11373327B2 (en) | Image processing device and method that determine a stop position in a parking frame using images from two cameras | |
JP7113935B1 (ja) | 路面検出装置および路面検出方法 | |
CN112542060B (zh) | 车用后侧方警报装置 | |
JP3532896B2 (ja) | スミア検出方法及びこのスミア検出方法を用いた画像処理装置 | |
EP2919191B1 (en) | Disparity value deriving device, equipment control system, movable apparatus, robot, and disparity value producing method | |
JP4316710B2 (ja) | 車外監視装置 | |
WO2018097269A1 (en) | Information processing device, imaging device, equipment control system, mobile object, information processing method, and computer-readable recording medium | |
CN111971682B (zh) | 路面检测装置、图像显示装置、障碍物检测装置、路面检测方法、图像显示方法以及障碍物检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210405 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220628 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220726 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7113935 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |