JP2010164521A - 路面状況判別装置 - Google Patents
路面状況判別装置 Download PDFInfo
- Publication number
- JP2010164521A JP2010164521A JP2009008917A JP2009008917A JP2010164521A JP 2010164521 A JP2010164521 A JP 2010164521A JP 2009008917 A JP2009008917 A JP 2009008917A JP 2009008917 A JP2009008917 A JP 2009008917A JP 2010164521 A JP2010164521 A JP 2010164521A
- Authority
- JP
- Japan
- Prior art keywords
- road surface
- light
- vehicle
- image data
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Traffic Control Systems (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
Abstract
【課題】路面状況の判別を低コストな構成で実現し、多くの自動車に搭載させることを現実的とすることができる路面状況判別装置を提供する。
【解決手段】複数の撮像素子が車両の進行方向に略直交し、路面に略平行な方向に配列されたラインセンサを用いた撮像部10が、車両のバンパー下から前方路面を撮像するように設置される。撮像部10では、車両が進行中に複数回撮像することにより、路面を走査でき、2次元画像を構築することも可能である。判別部12は、撮像部10から得られる画像データに基づいて路面状況を判別する処理を行なう。
【選択図】図1
【解決手段】複数の撮像素子が車両の進行方向に略直交し、路面に略平行な方向に配列されたラインセンサを用いた撮像部10が、車両のバンパー下から前方路面を撮像するように設置される。撮像部10では、車両が進行中に複数回撮像することにより、路面を走査でき、2次元画像を構築することも可能である。判別部12は、撮像部10から得られる画像データに基づいて路面状況を判別する処理を行なう。
【選択図】図1
Description
本発明は、車両の走行を安定させる運転支援システムに関し、道路状況に応じた制動を可能とするために、低コストな構成で路面状況を精度よく判別することができる路面状況判別装置に関する。
近年の自動車では、車輪速センサ、操舵角センサ、ブレーキ圧センサ、ヨーレイトセンサ及び加速度センサなどの各種センサ、及び各センサと接続されて各種アクチュエータを制御するECU(Electronic Control Unit)が備えられており、各ECUが各センサから得られる情報を用いて安定的な走行を実現するように各アクチュエータを制御している。
安定的な走行を維持するための機能の例としては、タイヤの横滑りを防止するシステム(ESC(登録商標):Electronically Stability Control)などが提案され、あるいは実装されている。また、横滑り制御、ABS(Anti-locked Braking System)などの制御を各々対応するECUで独立して行なうのではなく、統合して制御するシステムも車両に実装されている。
上述のような各種制御は、各種センサにより得られる車輪速、操舵角などの車両状態に基づいて制御される。一方で、センサとしてミリ波レーダ、赤外線カメラ、可視光カメラを用いて、車両の周囲の状況に応じて自動的に制動処理を実行するなどの安全面の高度な機能の実現も図られている。例えば、前方に存在する車両、又は歩行者をカメラ又はミリ波レーダなどで検知して制動処理を行なうプリクラッシュセーフティ機能、前方を走行する車両との車間距離を維持する機能、カメラで得られる画像に基づき車線を検知して車線内の走行を維持するレーンキーピングアシスト(Lane Keeping Assist)などがある。
車両の周囲の状況の1つとして、路面が乾燥しているか、水浸しであるか、又は凍結しているかなどの路面状況を判別することは、自動車の制動距離及び制動時間に大きく影響するために非常に重要である。路面が水浸しの状況又は凍結している状況では、でき得る限り早く制動を開始しなければならない。また、人間の目では路面状況を判別することが困難であり、運転者への警告及び自動での制動補助が必要な場合がある。例えば、黒っぽい路面上の凍結部分を水溜りと見紛うことがあり、積雪であっても切削された部分は凍結しているにも拘わらずやはり積雪部分と見紛うなど判別は困難である。
これに関し、水分が近赤外線波長帯域で比較的大きな吸収度を有するという分光特性と、近赤外線波長帯域の光の反射が路面の状況によって異なることとを用い、赤外線カメラで撮像した画像を用いて判別する方法が提案されている(特許文献1乃至4など参照)。
また、積雪している場合には、雪によって紫外線が散乱されることを利用して紫外線画像を用い、更にサーモグラフィにより温度分布画像を生成して紫外線画像及び赤外線画像と共に路面状況を精度よく検出する方法も提案されている(特許文献5を参照)。
非特許文献1には、路面が乾いているか(dry)、濡れているか(covered with water)か、凍っているか(covered with ice)、降雪状態か(covered with snow)などに応じて反射光強度の波長特性が異なることに基づき、レーザーダイオードとフォトダイオードとを用いたセンサを実際に車両に搭載し、判別が可能であることが開示されている。
J.Casselgren, M.Sjodahl, S.Woxneryd, M.Sanfridsson、Classification of Road Conditions - to Improve Safety(安全性向上のための路面状況の分類)、Advanced Microsystems for Automotive Applications 2007(自動車用先端マイクロシステム技術2007)、Springer、2007、p.47-59
特許文献1乃至5に開示されている方法により、路面の状況を乾燥しているか、水浸しか、又は凍っているか判別することはできる。しかしながら、いずれの方法でも、2次元に配列された撮像素子を用いて撮像した2次元画像を用いている。多数の撮像素子を用いる構成ではコスト高となり、路側に設置するのではなく車両1台ずつに搭載することは現実的でない。
一方で、非特許文献1に開示されている方法ではフォトダイオードが用いられており、路面上の特定の場所(水平方向の検知角は2〜3°)からの反射光を測定する。非特許文献1における構成では、車両の進行方向に沿った特定の線上でのみの測定となる。この場合、実際に前輪及び後輪が通過する路面の状況を精度よく判別することは難しい。例えば、轍の部分のみに水が溜まり易く、また氷結し易いなど、路面の状況は均等ではないから、特定の一点のみの測定では精度が不足する可能性がある。
でき得る限り、2次元的に測定することが望まれる。2次元的に測定することにより、路面上の一部で氷が張っている場合に当該場所を特定して氷結していると判別することができ、当該箇所を回避するなどの運転補助機能が実現できる可能性もある。
本発明は斯かる事情に鑑みてなされたものであり、路面状況の判別を低コストな構成で実現し、多くの自動車に搭載させることを現実的とすることができる路面状況判別装置を提供することを目的とする。
第1発明に係る路面状況判別装置は、車両に搭載され、複数の撮像素子を用いて路面を撮像し路面状況を判別する路面状況判別装置において、前記複数の撮像素子は、前記車両の進行方向に略直交し且つ路面に略平行な方向のライン状に配列されてあることを特徴とする。
第1発明では、ラインセンサを構成して用いるから、複数の撮像素子をアレイ状に配列した構成よりも、撮像素子の数を縦方向分だけ、即ち垂直方向の解像度分の1程度に少なくすることができる。判別処理で参照する出力値の数もアレイ状の撮像素子を用いる構成よりも少なく、判別処理に要する時間も少なくなり、処理負荷も軽減される。また、ほぼ1点の場所からの光を受光するフォトダイオードを用いるよりも精度が高い。
第2発明に係る路面状況判別装置は、前記複数の撮像素子からの出力値に基づき、1ライン分の画像データを作成する作成手段と、前記車両の進行中に、異なるタイミングで路面を撮像した前記複数の撮像素子からの出力値に基づき前記作成手段が作成した複数ライン分の画像データを、前記車両の速度又は進行方向に基づき並べ、2次元画像データを構築する構築手段とを備え、前記構築手段が構築した2次元画像データに基づき路面状況を判別するようにしてあることを特徴とする。
第2発明では、アレイ状に配列した複数の撮像素子により撮像される2次元画像と同等の2次元画像データを、縦方向の撮像素子を省いたラインセンサを用いる構成で得られる。判別処理に要する時間も少なくでき、処理負荷も軽減され、アレイ状に配列した複数の撮像素子を用いる構成よりも低コストな構成で、精度よく路面状況を判別することが可能となる。
第3発明に係る路面状況判別装置は、前記複数の撮像素子が近赤外線波長帯域の内の特定の波長帯域の光を受光するように、夫々に対応するバンドパスフィルタを備えることを特徴とする。
第3発明では、第1又は第2発明において、各撮像素子が受光する光は特定の波長帯域の光となるようにバンドパスフィルタが用いられる。特に、近赤外線波長帯域における特定の波長帯域で乾燥、水、氷又は雪による光の吸収度が異なるために光の反射強度の違いが顕著となることが利用される。図15は、近赤外線波長帯域の光に対する水及び氷による吸光度分布を示すスペクトル図である(資料元:浜松ホトニクス社)。図15の実線は水の吸光度の吸光度分布を示し、破線は氷の吸光度の吸光度分布を示す。図15に示すように、例えば1.5μmの光に対しては水よりも氷の方が吸光度が高い。したがって、1.5μmの光を受光した撮像素子からの出力値が低い場合は、路面が凍結していて氷によって吸光されているためであると、路面状況を判別することが可能である。特に、各撮像素子からの出力値を道路を横切るライン状に取得し、これに基づいて路面状況を判別することができる。
第4発明に係る路面状況判別装置は、前記バンドパスフィルタは、異なる複数の特定の波長帯域の光に対応するように備えられ、前記複数の特定の波長帯域の光夫々に対して前記複数の撮像素子から得られる出力値の比を算出する算出手段を備え、該手段が算出した比が、乾燥、湿潤、水膜、凍結又は積雪夫々に対応する比率範囲のいずれに含まれるかによって路面状況を判別するようにしてあることを特徴とする。
第4発明では、第3発明において、複数の特定の波長帯域の光が受光されるように構成され、異なる波長帯域の光夫々に対する反射強度に対応する出力値の比を算出し、算出した比が、乾燥、湿潤、水膜、凍結又は積雪夫々に対応する比率範囲のいずれに含まれるかによって路面状況が判別される。なお同じ水でも、溜まった状態でない湿潤と、厚みのある水膜とでは表面の反射又は厚みの影響などによって反射強度が異なることは既知である。路面状況のみならず、前記特定の波長帯域の光の入射強度、又は路面の材料によって光の反射強度は異なる。反射強度に対応する出力値自体で判断することが困難な状況下でも、比を用いることによって判別が可能となる。例えば図15中にて、1.45μm付近では吸光度の値自体は水と氷とでは同程度であるから、反射強度に対応する出力値は同程度である可能性が高い。しかしながら、1μm近傍における吸光度と1.45μm近傍における吸光度とを比較した場合、氷よりも水の方が大きく変化している。したがって、例えば1μm近傍及び1.45μm近傍における波長の光夫々に対する反射強度に対応する出力値の比により、水か氷かを判別することが可能である。なお前記特定の波長帯域の光の光源としては、特定の光源を用いてもよいし、昼間であれば太陽光を利用すればよい。
第5発明に係る路面状況判別装置は、前記算出手段は、前記複数の撮像素子の内の特定の一部、又は全部からの各出力値の比の平均値、中央値又は最頻値を算出するようにしてあることを特徴とする。
第5発明では、ラインセンサを構成する撮像素子の内の全部、又はタイヤが通る路面の一部を撮像する特定の撮像素子からの、複数の特定の波長帯域の光夫々に対する反射強度に対応する出力値の比を算出する。そして、それらの平均値、中央値又は最頻値を求めて判別してもよい。
第6発明に係る路面状況判別装置は、前記複数の撮像素子は、車両に搭載されているヘッドライトからの光の内の前記複数の特定の波長帯帯域の光を受光するようにしてあることを特徴とする。
第6発明では、乾燥、湿潤、水膜、凍結又は積雪に対応して、水、氷又は雪による光の吸収度が顕著に異なる特定の波長帯域の光の光源として、車両に搭載されているヘッドライトを用いる。ヘッドライトは自身が搭載される車両のヘッドライトでも、対向車のヘッドライトでもよい。ヘッドライトにハロゲンランプを用いている場合など、近赤外線波長帯域の光を含むので有効に利用することが可能である。
第7発明に係る路面状況判別装置は、前記複数の特定の波長帯域を含む光を投光する投光手段を備え、前記複数の撮像素子は、前記投光手段からの光の内の前記複数の特定の波長帯域の光を受光するようにしてあることを特徴とする。
第7発明では、乾燥、水、氷又は雪による光の吸収度が顕著に異なる特定の波長帯域の光の光源として、専用の投光手段を搭載させる。夜間で太陽光が無い状況、且つヘッドライトからの光が近赤外線波長帯域の光を含まない場合でも、判別が可能となる。
第8発明に係る路面状況判別装置は、前記複数の撮像素子は複数列に配列されてあり、前記複数の撮像素子は列毎に、前記複数の特定の波長帯の光の内、異なる波長帯の光を受光するようにしてあることを特徴とする。
第8発明では、ラインセンサは複数ラインとなるように構成されて、且つ夫々異なる波長帯域の光を受光するように構成され、夫々にて同時的に出力される出力値を用いて比を算出することが可能となり、高速に判別が可能である。
第9発明に係る路面状況判別装置は、可視光波長帯域にて路面を撮像した撮像画像を取得する手段を備え、前記複数の撮像素子からの出力値及び前記撮像手段が撮像した画像に基づいて路面状況を判別するようにしてあることを特徴とする。
第10発明に係る路面状況判別装置は、車外温度を測定する温度センサから前記車外温度を取得する手段を備え、前記複数の撮像素子からの出力値及び前記車外温度に基づき、路面状況を判別するようにしてあることを特徴とする。
第9発明及び第10発明では、既に車両に搭載されている可視光カメラ又は温度センサなど、既存のセンサからの情報をも加味して判別される。これにより、低コストな構成でもより精度よく判別することが可能となる。
第11発明に係る路面状況判別装置は、前記温度センサは、遠赤外線波長帯域にて撮像する複数の遠赤外線撮像素子を備え、該複数の遠赤外線撮像素子は、前記車両の進行方向に略直交し且つ路面に略平行な方向のライン状に配列されてあり、前記遠赤外線撮像素子からの出力値に基づき、1ライン分の遠赤外線画像データを作成する手段と、前記車両の進行中に、異なるタイミングで路面を撮像した前記遠赤外線撮像素子からの出力値に基づき作成した複数ライン分の遠赤外線画像データを、前記車両の速度又は進行方向に基づき並べ、2次元遠赤外線画像データを構築する手段とを備え、前記温度センサは、路面の温度分布を測定するようにしてあることを特徴とする。
第11発明では、第10発明における温度センサとして、遠赤外線撮像素子を用い、且つ遠赤外線撮像素子をライン状に配列させて用い、車両の進行に応じて複数回撮像させ、夫々のタイミングで撮像された1ラインの遠赤外線画像データを車両の速度又は進行方向に応じて並べることによって2次元の遠赤外線画像データとし、2次元的な路面の温度分布が得られる。これにより、遠赤外線撮像素子の数を節約して低コストな構成としつつ、路面の温度分布を加味して路面状況の判別の精度を向上させることが可能となる。
第12発明に係る路面状況判別装置は、路面とタイヤとの間の滑り易さを示す物理量を測定するスリップセンサから前記物理量を取得する手段を備え、前記複数の撮像素子からの出力値及び前記スリップセンサが測定した物理量に基づき、路面状況を判別するようにしてあることを特徴とする。
第12発明では、タイヤが路面に対しスリップしたか否か、またスリップした場合の滑り易さを示す量を、スリップセンサを用いて測定し、タイヤがスリップしたか否かを路面状況の判別に加味する。スリップセンサは、ABS機能のために車両に既に搭載されており、加速度計を用いるもの、タイヤの回転数と車両速度との差異を求めるもの、路面摩擦係数を直接的に測定するものなどが考えられる。このような既存のセンサを用いつつも、他の要素を加味することによって更に精度よく路面の状況を判別することが可能となる。
本発明による場合、複数の撮像素子をアレイ状に配列して2次元画像データに基づいて路面状況を判別することと同等の機能を、撮像素子の数を節約したラインセンサを用いることでより低コストな構成で実現することができる。また、ラインセンサを用いるので判別処理に要する時間を減少させ、処理負荷も軽減されることができ、装置全体として低コストな構成にて実現が可能であり、多くの自動車に搭載させることを現実的とすることができる。且つ、一点ではなく路面を横切るライン状に撮像して用いるので、判別の精度が向上する。
以下、本発明をその実施の形態を示す図面に基づいて具体的に説明する。
(実施の形態1)
図1は、実施の形態1における路面状況判別装置を含む運転支援システムの構成を示す構成図である。図1中の1は、路面状況判別装置であり、撮像部10、画像処理部11及び判別部12を含んで構成される。また、運転支援システムは、路面状況判別装置1のほか、運転制御装置2、ディスプレイ30、スピーカ31、可視カメラ4、温度センサ5及びμセンサ6を含んで構成される。
図1は、実施の形態1における路面状況判別装置を含む運転支援システムの構成を示す構成図である。図1中の1は、路面状況判別装置であり、撮像部10、画像処理部11及び判別部12を含んで構成される。また、運転支援システムは、路面状況判別装置1のほか、運転制御装置2、ディスプレイ30、スピーカ31、可視カメラ4、温度センサ5及びμセンサ6を含んで構成される。
路面状況判別装置1の撮像部10は、車両前部のバンパー下から前方路面を撮像するように設置されている。撮像部10は、InGaAs素子を用い、約1.0μmから3.0μmの近赤外波長帯域に感度を有する複数の撮像素子がライン状に配列されてラインセンサを構成している。
図2は、撮像部10の構成を概略的に示す略示斜視図及び略示断面図である。図2中の右側に断面図を示している。複数の撮像素子が配列される方向、即ちラインセンサ13の方向は、図2中の矢印に示す車両の進行方向に略直交し、路面に略平行である。つまり、車両が進行することによって路面をスキャンするように設置されている。
なお、撮像部10にはバンドパスフィルタ14が設けられ、1.0μm及び1.45μmの波長の光を夫々受光するように構成されている。図2の略示斜視図では一方の波長用のバンドパスフィルタ14とラインセンサ13が示されている。実施の形態1では、異なる波長の近赤外線波長帯域の光を受光するために、撮像部10はラインセンサ13を2つ有し、夫々に1.0μm及び1.45μmの波長の光を受光させるべくバンドパスフィルタ14を2つ有する構成とする。そして、ラインセンサ13の一方から1.0μmの波長の光に対応する出力信号、他方から1.45μmの波長の光に対応する出力信号を得る。なお、ラインセンサ13は1つとし、バンドパスフィルタ14を可動式として、受光する波長を切り替えることが可能な構成でもよい。
図1に戻り説明を続ける。
画像処理部11は、画像処理用のチップを用いて撮像部10から得られる各撮像素子からの出力信号を、例えば256階調のデジタルの出力値に変換し、各撮像素子からの出力値を夫々1つの画素の輝度値とする1ライン分のデジタル画像データとして判別部12へ出力する。
画像処理部11は、画像処理用のチップを用いて撮像部10から得られる各撮像素子からの出力信号を、例えば256階調のデジタルの出力値に変換し、各撮像素子からの出力値を夫々1つの画素の輝度値とする1ライン分のデジタル画像データとして判別部12へ出力する。
判別部12は、マイクロコンピュータを用い、画像処理部11から出力されるデジタル画像データに基づいて、路面状況を判別する処理を行なう。判別部12は、画像データの各画素の輝度値である各撮像素子からの出力値に基づき、路面の状況が乾燥か、湿潤か、水膜か、凍結か又は積雪かを判別する。判別部12は、路面状況の判別結果を運転制御装置2へ通知する。判別部12の処理は後述にて詳細を説明する。
運転制御装置2は、図示しないエンジン制御装置、ブレーキ制御装置などの制御系の装置と通信が可能である。運転制御装置2は、運転者による運転動作に応じた制御を実現すると共に、前方の車両との車間距離が短い場合には自動的に制動処理を実行して速度を低下させるプリクラッシュセーフティなどの運転補助機能を実現する。運転制御装置2は、路面状況判別装置1から路面状況の判別結果の通知を受けた場合、判別結果に応じて制動処理などを調整する。例えば、運転制御装置2は、路面状況が湿潤、水膜、凍結など、路面摩擦係数が低い状況であることが推測される場合、プリクラッシュセーフティの機能を発揮するに際し、自動的に制動処理を開始する時間を早めにするなどの調整を行なう。また、運転制御装置2は同様に、路面状況が湿潤、水膜、凍結など、路面摩擦係数が低い状況であることが推測される場合、車両がカーブに差し掛かると判断されたときには、タイヤが横滑りすることを加味して走行速度を自動的に抑制制御するなどの調整を行なうことも可能である。
路面状況判別装置1の判別部12には、ディスプレイ30及びスピーカ31が接続されている。判別部12からの判別結果が通知されることによって、ディスプレイ30及びスピーカ31により、路面状況を運転者へ警告する機能が実現される。例えば、路面状況判別装置1は、路面状況が凍結、又は積雪である場合、判別部12によりディスプレイ30にて警告画面を表示させ、スピーカ31から警告音を出力させる。
更に、路面状況判別装置1の判別部12には、可視カメラ4、温度センサ5及びμセンサ6が接続されている。判別部12は、画像処理部11を介して撮像部10から得られる各撮像素子からの出力値に加えて、可視カメラ4、温度センサ5又はμセンサ6から得られる情報をも加味して路面状況を判別する。
可視カメラ4は、可視光波長帯域に感度を持つアレイ状に配列された複数の撮像素子を有して、各撮像素子から得られる出力値に基づき画像データを構築して出力する。可視カメラ4は、レーンキーピングアシストのために白線を認識する機能など、他の用途にも利用される。路面状況判別装置1の判別部12は、可視カメラ4から出力される画像データを取得し、輝度分布を路面状況の判別処理に加味する。例えば、可視カメラ4から得られる画像データを構成する各画素の輝度が全体的に所定値よりも高い場合は、光が多く散乱していることになるから、太陽光又は他の車両のライトが路面から反射している状況、即ち路面が水膜、凍結又は積雪の状況である可能性が高い。
温度センサ5は、サーミスタを用いて、エアーコンディショナー(以下、エアコンという)などの外気取入口に取り付けられており、外気温を測定して出力する。温度センサ5は、エアコンの温度調整など他の用途にも利用される。路面状況判別装置1の判別部12は、温度センサ5から出力される外気温を取得し、外気温の高低を路面状況の判別処理に加味する。例えば、外気温が5℃以上である場合は、路面が凍結している可能性は低い。
μセンサ6は、加速度計、タイヤの周速と車両の進行速度との差を測定するもの、直接的に路面摩擦係数を測定するものなどタイヤの滑り易さを示す量を測定するものを用い、路面摩擦係数μにて表わしてこれを出力する。μセンサ6は、4つのタイヤ夫々に対応して設置されている。μセンサ6は、ABS機能など他の用途にも利用される。路面状況判別装置1の判別部12は、μセンサ6から出力される路面摩擦係数μを取得し、路面状況の判別処理に加味する。例えば、路面摩擦係数μの値が低くタイヤが滑り易いと判断される場合、路面が乾燥している可能性は低い。
このように、可視カメラ4、温度センサ5又はμセンサ6など、路面状況判別処理以外の用途にも利用される各センサから得られる情報を、後述する路面状況の判別処理に加味することにより、判別精度をより高めることができる。
上述のように構成される運転制御システムにおいて、路面状況判別装置1における路面状況判別処理の詳細を説明する。
図3及び図4は、実施の形態1における路面状況判別装置1にて実行される路面状況判別処理の一例を示すフローチャートである。路面状況判別装置1は、判別部12の処理により、例えば車両が1m進行する都度、100ミリ秒が経過する都度などのタイミングで以下の処理を行なう。
判別部12は、撮像部10の各撮像素子からの出力値を画像処理部11から1ライン分の画像データとして取得し(ステップS101)、取得した画像データに基づき、各画素の輝度値の平均値、即ち各撮像素子からの出力値の平均値を算出する(ステップS102)。
判別部12は、複数の異なる特定の波長帯域の全波長帯域について処理を行なったか否かを判断する(ステップS103)。本実施の形態1において具体的には、判別部12は1.0μm及び1.45μmの光を夫々受光した場合の画像データをいずれも取得し、夫々の各画素の輝度値の平均値を算出した場合、全波長帯域について処理を行なったと判断する。
判別部12は、ステップS103にて全波長帯域について処理を行なっていないと判断した場合(S103:NO)、処理をステップS101へ戻して他の波長帯域の光に対応する画像データの取得及び出力値の平均値の算出処理を行なう(S101、S102)。
判別部12は、ステップS103にて全波長帯域について処理を行なったと判断した場合(S103:YES)、異なる波長帯域の光に対する輝度値(平均値)の比を算出する(ステップS104)。具体的には、判別部12は、1.0μmの光を受光した場合の画像データについて算出した輝度値の平均値に対する、1.45μmの光を受光した場合の画像データについて算出した輝度値に平均値の比を算出する。これにより、撮像部10のラインセンサ13,13を構成する各撮像素子からの1.0μmと1.45μmの波長の光に対する出力値の平均値の比、即ち1.0μmの波長の光の反射強度に対する1.45μmの波長の光の反射強度の比が算出される。
また判別部12は、可視カメラ4から出力される画像データを取得し(ステップS105)、温度センサ5から出力される外気温を取得し(ステップS106)、μセンサ6から出力される路面摩擦係数μを取得する(ステップS107)。
次に判別部12は、ステップS104にて算出した比が、乾燥の比率範囲に含まれるか否かを判断する(ステップS108)。路面が乾燥している場合は波長の変化に対して反射率が大きく変化することはほぼない。したがって、乾燥の比率範囲を例えば0.9以上とする。
判別部12は、ステップS108にて乾燥の比率範囲に含まれると判断した場合(S108:YES)、路面状況を乾燥と判別し(ステップS109)、処理を終了する。
判別部12は、ステップS108にて乾燥の比率範囲に含まれないと判断した場合(S108:NO)、算出した比が湿潤の比率範囲に含まれるか否かを判断する(ステップS110)。路面状況が湿潤の場合は、水分の吸光度に影響される。図15に示した吸光度分布を参照すると、1.0μmではほとんど吸収されないが1.45μmでは20%程度吸光されるように、出力値はある程度大きく変化するはずである。路面における水分による吸光度は、深さ(水膜の厚み)など他の要素もあるが、例えば湿潤の比率範囲は例えば0.6〜0.9とする。
判別部12は、ステップS110にて湿潤の比率範囲に含まれると判断した場合(S110:YES)、ステップS105にて取得した画像データに基づき、可視カメラ4で撮像した画像は全体として高輝度であるか否かを判断する(ステップS111)。判別部12は、ステップS111にて高輝度であると判断した場合(S111:YES)、路面状況を湿潤と判別し(ステップS112)、処理を終了する。
判別部12は、ステップS110にて湿潤の比率範囲に含まれないと判断した場合(S110:NO)、算出した比が水膜の比率範囲に含まれるか否かを判断する(ステップS113)。路面状況が水膜の場合、近赤外線波長帯域の光の反射強度に対応する出力値(輝度値)は水分の吸光度に影響される。1.0μmと1.45μmの波長の光を用いる場合、出力値はある程度大きく変化するはずである(図15参照)。水膜における比率範囲は厚みに大きく影響されるが例えば、0.1〜0.6などとする。
なお判別部12は、ステップS111にて、可視カメラ4で撮像した画像は低輝度であると判断した場合も(S111:NO)、処理をステップS113へ進める。
判別部12は、ステップS113にて水膜の比率範囲に含まれると判断した場合(S113:YES)、ステップS106にて取得した外気温に基づき、凍結の可能性が高いか否かを判断する(ステップS114)。水膜の場合と、凍結の場合とでは水膜の厚み、又は凍結の場合の表面状態などによって近赤外線波長帯域の光の反射の特性が類似しており、判別が困難なときがあるので、外気温によって補助的に判断する。このとき例えば外気温として、5℃よりも低いか否かで凍結の可能性の高低を判断する。
判別部12は、ステップS114にて凍結の可能性が低いと判断した場合(S114:NO)、路面状況を水膜と判別し(ステップS115)、処理を終了する。
判別部12は、ステップS113にて水膜の比率範囲に含まれないと判断した場合(S113:NO)、算出した比が凍結の比率範囲にあるか否かを判断する(ステップS116)。路面状況が凍結の場合、近赤外線波長帯域の光の反射強度に対応する出力値(輝度値)は氷の吸光度に影響される。ここで、1.45μmの波長の光を用いる場合、図15に示した吸光度分布を参照すると、1.0μmと1.45μmとでは吸光度はあまり変わらないので、凍結の場合の比率範囲は例えば、0.7〜0.9などとする。
判別部12は、ステップS114にて凍結の可能性が高いと判断した場合も(S114:YES)、処理をステップS116へ進める。
判別部12は、ステップS116にて凍結の比率範囲に含まれると判断した場合(S116:YES)、ステップS107で取得した路面摩擦係数μに基づき、タイヤは滑り易いか否かを判断する(ステップS117)。凍結の場合も表面の状態などにより判別が難しいので、μセンサ6からの情報を補助的に利用する。判別部12は、ステップS117にてタイヤは滑り易いと判断した場合(S117:YES)、路面状況を凍結と判別し(ステップS118)、処理を終了する。
判別部12は、ステップS116にて凍結の比率範囲に含まれないと判断した場合(S116:NO)、算出した比が積雪の比率範囲にあるか否かを判断する(ステップS119)。路面状況が積雪の場合、表面が圧雪状態であるのか、新雪状態であるのかなどによっても大きく影響されるが、比率範囲は例えば0.3〜0.8などとする。
判別部12は、ステップS117にてタイヤは滑りにくいと判断した場合も(S117:NO)、処理をステップS119へ進める。
判別部12は、ステップS119にて積雪の比率範囲に含まれると判断した場合(S119:YES)、ステップS106で取得した外気温に基づき、積雪の可能性が高いか否かを判断する(ステップS120)。判別部12は、ステップS120にて積雪の可能性が高いと判断した場合(S120:YES)、ステップS105で取得した画像データに基づき、可視カメラ4で撮像した画像は全体として高輝度であるか否かを判断する(ステップS121)。積雪の場合、表面状態によって乾燥、凍結などとの判別が難しいので、可視カメラ4又は温度センサ5からの情報を補助的に利用する。判別部12は、ステップS121にて高輝度であると判断した場合(S121:YES)、路面状況を積雪と判別し(ステップS122)、処理を終了する。
判別部12は、ステップS119にて積雪の比率範囲にも含まれないと判断した場合(S119:NO)、路面状況を不明と判別し(ステップS123)、処理を終了する。なお、ステップS120にて積雪の可能性が低いと判断した場合(S120:NO)、及びステップS121にて画像は低輝度であると判断した場合も(S121:NO)、路面状況を不明と判別し(S123)、処理を終了する。
なお、上述の各処理手順の順序は適宜前後させる。ステップS104にて算出した比が、乾燥の比率範囲に含まれるか否かの判断(S108)などでは、用いる波長によっては乾燥の比率範囲と凍結の場合の比率範囲とが重複する場合がある。したがって、受光する光の波長に応じて適宜順序を換え、且つ温度、画像情報、路面摩擦係数μなどに基づく判断を加え、比率に応じて路面状況を判別する。
次に、図3及び図4に示した処理を具体例を挙げて説明する。図5は、撮像部10によって得られる画像の具体例を模式的に示す説明図である。図5には、可視カメラ4によって撮像される画像に写る路面Rを示している。そして、斜線にて路面R上の轍部分が凍結している様子を示している。斜線以外は乾燥しているとする。図5中のDの範囲は、撮像部10から得られる1ライン分の画像データの撮像範囲を示す。なお、可視カメラ4の撮像範囲の水平方向の距離と、撮像部10の撮像範囲の水平方向の距離は、図5に示すようにほぼ同じとは限らない。
図5中のDの範囲からの1.0μmの波長の光及び1.45μmの波長の光を夫々受光することによって撮像した画像データが撮像部10及び画像処理部11から得られた場合、判別部12は夫々の波長の光に対し、各画素の輝度値の平均値を算出し(S102)、平均値の比を算出する(S104)。そして判別部12は、算出した比がいずれの路面状況の比率範囲に含まれるかを判断し(S108、S110、S113、S116、S119)、路面状況を判別する。
図5に示すような状況では、図中のA及びBの部分において1.45μmの波長の光が氷及び水に吸光される。したがって、ステップS104にて算出された比は凍結の比率範囲に含まれると判断されて、路面状況を凍結していると判別することが可能である。
このように、撮像部10がラインセンサを用いることによって、図5中のDの範囲のように、道路を横切る範囲で近赤外線波長帯域の光の反射強度に対応する各撮像素子からの出力値を得ることができる。更に、縦方向分だけ撮像素子の数を節約することができ、低コストな構成で路面状況を判別することができる。1点からの反射強度のみを測定する構成でもなく、路面を漏れなく走査できるから、部分的に水が溜まっている、凍結しているなどの場合にも対応ができ、路面状況の判別の精度が向上する。
なお、図5中のA及びBの部分、即ち車両のタイヤが通る部分に相当する画素の輝度値のみ、即ち特定の撮像素子からの出力値のみを抽出してステップS102にて平均値を算出し、比を算出する構成としてもよい。車両の制動処理に影響する範囲を撮像した撮像素子のみからの情報を用いることにより、更に路面状況の判別の精度を向上させることも可能である。
実施の形態1では、撮像部10は1.0μm及び1.45μmの波長の光を夫々受光するように構成するとした。しかしながら本発明はこれに限らない。図15の吸光度のスペクトルを観察すると、1.9μm及び2.4μm近傍でも水と氷とで吸光度に大きく差が生じているから、これらの波長の光を用いることも考えられる。更に、1.45μm及び2.4μmの波長の光に対しては氷の方が吸光度が高いが、1.9μmの波長の光に対しては水の方が吸光度が高い。この吸光度の逆転を利用して、夫々の光を受光した場合の出力値自体を比較するか、又は出力値の比を算出するなどすることによって更に精度良く判別することも可能である。路面状況の内、湿潤といっても水膜が張っている状況と、凍結とを判別することは、1.0μmの光と1.45μmの光とを受光した場合の出力値の比を算出した場合でも困難な可能性があるが、上述のような1.9μmにおける吸光度の逆転を利用して判別の精度を向上させることができ得る。
なお、1.0μm及び1.45μmの波長の光は、水と氷とを区別するには適切であるが、積雪の状況をより精度良く判別するために、例えば1.7μmの波長の光をも含め3つの特定の波長の光を受光させ、1μmの光に対する出力値に対する1.45μm及び1.7μmの光夫々に対する出力値の比に基づいて判別する構成としてもよい。
(実施の形態2)
実施の形態1では、1ライン分の画像データ毎に路面状況を判別する処理を行なう構成とした。実施の形態2では、ラインセンサを用いた撮像部10から得られる画像データを複数ライン分並べて近赤外線の2次元画像を構築し、近赤外線波長帯域の光に対する反射強度分布に基づいて、路面の状況を部分毎に判別する。
実施の形態1では、1ライン分の画像データ毎に路面状況を判別する処理を行なう構成とした。実施の形態2では、ラインセンサを用いた撮像部10から得られる画像データを複数ライン分並べて近赤外線の2次元画像を構築し、近赤外線波長帯域の光に対する反射強度分布に基づいて、路面の状況を部分毎に判別する。
実施の形態2における運転支援システムの構成は、路面状況判別装置1における路面状況判別処理の詳細内容以外は、実施の形態1における構成と同様である。したがって以下、実施の形態1の構成と共通する構成については同一の符号を付して詳細な説明を省略し、路面状況判別処理の詳細について説明する。
図6及び図7は、実施の形態2における路面状況判別装置1にて実行される路面状況判別処理の一例を示すフローチャートである。以下に示す処理手順のうち、実施の形態1の図3及び図4のフローチャートに示した処理手順と共通する処理手順には、同一のステップ番号を付して詳細な説明を省略する。また、以下の処理が実行されるタイミングは、実施の形態1と同様とする。
判別部12は、撮像部10の各撮像素子からの出力値を画像処理部11から1ライン分の画像データとして取得し(ステップS201)、図示しない内蔵メモリに蓄積してある直近の複数時点で取得した複数ライン分の画像データと、車両の速度及び進行方向とに基づいて2次元画像データを構築する(ステップS202)。2次元画像データは、画像処理部11にて構築されてもよい。判別部12又は画像処理部11は、車両の速度から複数ライン分の画像データ間の間隔を決め、進行方向に基づいて画像データ間の水平方向のずれを調整して2次元画像を構築する。
判別部12は、複数の異なる特定の波長帯域の全波長帯域について処理を行なったか否かを判断する(ステップS203)。具体的には、判別部12は1.0μm及び1.45μmの光夫々を受光するように構成されるラインセンサ13から出力される信号に基づく画像データから、いずれの波長帯域についても2次元画像データを構築した場合、全波長帯域について処理を行なったと判断する。
判別部12は、ステップS203にて全波長帯域について処理を行なっていないと判断した場合(S203:NO)、処理をステップS201へ戻して他の波長帯域の光に対応する画像データの取得及び2次元画像データの構築処理を行なう(S201、S202)。
判別部12は、ステップS203にて全波長帯域について処理を行なったと判断した場合(S203:YES)、可視カメラ4から画像データを取得し(S105)、温度センサ5から外気温を取得し(S106)、μセンサ6から路面摩擦係数μを取得する(S107)。
次に判別部12は、ステップS201にて構築した夫々の波長帯域の2次元画像データに基づき、画像中の各部分毎に、輝度値(出力値)の平均値を算出する(ステップS204)。各部分の区分けは例えば水平方向と垂直方向とを夫々4分割3分割した各部分でもよいし、予め決められた任意の区分にて分けられる構成でもよい。
判別部12は、ステップS204で算出した部分毎に、異なる波長帯域の光に対する輝度値(出力値)の比を算出する(ステップS205)。つまり、判別部12は、1.0μmの光を受光した場合の画像データについて算出した輝度値の平均値に対する、1.45μmの光を受光した場合の画像データについて算出した輝度値に平均値の比を、部分毎に算出する。これにより、2次元画像における各部分毎に、1.0μmの波長の光の反射強度に対する1.45μmの波長の光の反射強度の比が算出される。
判別部12は、部分毎に算出した比について、乾燥、湿潤、水膜、凍結又は積雪のいずれかの比率範囲に含まれるか否かの判断を行ない(S108、S110、S113、S116、S119)、ステップS105、S106及びS107にて取得した画像データ、外気温、又は路面摩擦係数μをも加味して、部分毎に路面状況を判別する(S108〜S123)。
そして判別部12は、各部分について路面状況を乾燥と判別したか(S109)、湿潤と判別したか(S112)、水膜と判別したか(S115)、凍結と判別したか(S118)、積雪と判別したか(S122)、又は不明と判別した場合(S123)、全ての部分について判別処理を実行したか否かを判断する(ステップS206)。判別部12は、判別処理を実行していない部分があると判断した場合(S206:NO)、処理をステップS108へ戻し、他の部分について判別処理(S108〜S123)を実行する。判別部12は、全ての部分について判別処理を実行したと判断した場合(S206:YES)、処理を終了する。
上述に示した処理手順は、複数ライン分のデータを構築した後に、路面状況を判別する構成であるから、100ミリ秒毎に1ライン分のデータを取得し、複数ライン分のデータ、例えば5ライン分のデータを取得した後、即ち500ミリ秒が経過する都度に、ステップS202以降の処理を行なう構成としてもよい。
このように、2次元画像データを構築した後に、画像中の各領域について路面上の各部分毎に状況を判別することにより、精度良く判別が可能である。このとき、処理対象の画素数はやはり少なくて済むので、処理負荷も軽減することができ、より低コストな構成で実現することが可能となる。
図8は、実施の形態2にて画像処理部11又は判別部12により構築された2次元画像データの具体例を示す説明図である。図8中のD1,D2,D3,D4,D5の領域が、各時点で取得された1ライン分の画像データを示す。またD1,D2,D3,D4,D5の領域夫々は、実施の形態1において図5の説明図に示した領域Dの範囲を、車両の進行中に複数の時点で撮像した場合に相当する。D1,D2,D3,D4,D5の順に、夫々100ミリ秒後との取得した画像データを示す。なお、いずれにおいても斜線にて、凍結部分からの光の反射強度に対応する輝度値(比較的低輝度)である画素の領域を示している。
図8のD1,D2,D3,D4,D5に示すように、複数ライン分の画像データが得られた場合、判別部12は、図8のように並べて2次元画像データを構築し、画像中の各部分毎に夫々の波長の光に対する輝度値(出力値)の平均値を算出し(S204)、更に比を算出する(S205)。そして判別部12は、2次元画像の各部分について、算出した比がいずれの路面状況の比率範囲に含まれるかを判断し(S108、S110、S113、S116、S119)、路面状況を判別する。
図8に示すような2次元画像からは、手前側の路面上のタイヤが通る部分で1.45μmの波長の光が氷及び水に吸光されて、ステップS204にて算出される比が凍結の比率範囲に含まれると判断されて、手前側の路面状況を凍結していると判別することが可能である。
このように、ラインセンサを用いて画像の縦方向分だけ撮像素子の数を節約したとしても、ラインセンサを車両の進行方向に略直交した方向に設置し、道路を走査するように複数時点で撮像した複数ライン分の画像データを2次元画像データに構築することにより、図8に示したように、車両が通過しようとする路面の状況を2次元的に判別することができる。これにより、低コストな構成で精度良く路面状況を判別することができる。路面を漏れなく走査できるから、部分的に水が溜まっている、凍結しているなどの場合にも対応ができ、安全面において運転制御を精度良く実現することができる。
(実施の形態3)
実施の形態3においては、路面の温度分布を遠赤外線イメージセンサを用いて測定し、近赤外線波長帯域の光の反射強度に対応する撮像素子からの出力値に基づく判別処理に路面温度分布を加味する。また、実施の形態1及び2では、1.0μm及び1.45μmの光の光源は太陽光、又は自身若しくは対向車のヘッドライトなどであったが、実施の形態3では専用の投光手段としてライトを備える。
実施の形態3においては、路面の温度分布を遠赤外線イメージセンサを用いて測定し、近赤外線波長帯域の光の反射強度に対応する撮像素子からの出力値に基づく判別処理に路面温度分布を加味する。また、実施の形態1及び2では、1.0μm及び1.45μmの光の光源は太陽光、又は自身若しくは対向車のヘッドライトなどであったが、実施の形態3では専用の投光手段としてライトを備える。
図9は、実施の形態3における路面状況判別装置1を含む運転支援システムの構成を示す構成図である。なお、実施の形態3における運転支援システムの構成は、可視カメラ4及び温度センサ5の代わりに遠赤外線イメージセンサ7が含まれていること、近赤外線波長帯域の光を投光する専用のライト15が備えられていること、及び、路面状況判別装置1における路面状況判別処理の詳細内容以外は、実施の形態1又は2における構成と同様である。したがって実施の形態1、2の構成と共通する構成については同一の符号を付して詳細な説明を省略する。
実施の形態3における運転支援システムは、路面状況判別装置1、運転制御装置2、ディスプレイ30、スピーカ31、μセンサ6及び遠赤外線イメージセンサ7を含んで構成される。
実施の形態3における路面状況判別装置1の判別部12には、μセンサ6及び遠赤外線イメージセンサ7が接続されている。判別部12は、画像処理部11を介して撮像部10から得られる各撮像素子からの出力値に加えて、μセンサ6又は遠赤外線イメージセンサ7から得られる情報をも加味して路面状況を判別する。
また路面状況判別装置1には、撮像部10、画像処理部11及び判別部12の他、バンパー下に、前方下へ向けて1.0μmから3.0μmの波長帯域の光を投光するライト15が備えられている。
遠赤外線イメージセンサ7は、遠赤外線波長帯域に感度を持つ複数の撮像素子を有して、各撮像素子から得られる出力値に基づき遠赤外線画像データを構築して出力する。遠赤外線イメージセンサ7の撮像素子は、ライン状に配列される。アレイ型でも構わないが、実施の形態3ではライン状として、撮像素子の数を節約してより低コストな構成で実現する。遠赤外線イメージセンサ7は、車両の前方を撮像するように設置されており、夜間における前方障害物のモニタ機能など、他の用途にも利用される。遠赤外線イメージセンサ7によって得られる遠赤外線画像データの各画素の輝度値は温度差を表わし、相対温度が高いほど値が大きく、相対温度が低いほど値が小さい。路面状況判別装置1は、遠赤外線イメージセンサ7から得られる遠赤外線画像データに基づき、路面の相対的な温度分布を加味して路面状況を判別する。
図10及び図11は、実施の形態3における路面状況判別装置1にて実行される路面判別処理の一例を示すフローチャートである。以下に示す処理手順のうち、実施の形態1の図3及び図4のフローチャート、並びに、実施の形態2の図6及び図7に示した2次元画像データを構築する処理手順と共通する処理手順には、同一のステップ番号を付して詳細な説明を省略する。また、以下の処理が実行されるタイミングは、実施の形態1と同様とする。
判別部12は、画像処理部11から1ライン分の画像データを取得し(S201)、判別部12又は画像処理部11により、蓄積してある過去の複数ライン分の画像データと、車両の速度及び進行方向とに基づいて2次元画像データを構築する(S202)。そして判別部12は、1.0μm及び1.45μメートルの波長の光いずれについても2次元画像データを構築するなど処理を行なったか否かを判断し(S203)、処理を行なっていない場合は(S203:NO)、処理をステップS201へ戻す。
判別部12は、ステップS203にて、処理を行なったと判断した場合(S203:YES)、μセンサ6から路面摩擦係数μを取得し(ステップS301)、遠赤外線イメージセンサ7から遠赤外線画像データを取得する(ステップS302)。判別部12は、遠赤外線イメージセンサ7から取得した遠赤外線画像データを、過去に取得して図示しない内蔵メモリに記憶しておいた直近の遠赤外線画像データと共に並べて2次元の遠赤外線画像データを構築する(ステップS303)。
そして判別部12は、ステップS202にて構築した夫々の波長帯域の2次元画像データに基づき、画像中の各部分毎に、輝度値(出力値)の平均値を算出し(ステップS304)、部分毎に、異なる波長帯域の光に対する輝度値(出力値)の比を算出する(ステップS305)。つまり、2次元画像における各部分毎に、1.0μmの波長の光の反射強度に対応する出力値(平均)に対する1.45μmの波長の光の反射強度に対応する出力値(平均)の比が算出される。
判別部12は、部分毎に算出した比について、乾燥、湿潤、水膜、凍結又は積雪のいずれかの比率範囲に含まれるか否かの判断を行なう(S108、S110、S113、S116、S119)。このとき、以下のように路面摩擦係数μ及び遠赤外線画像データに基づく路面の温度分布をも加味して、部分毎に路面状況を判別する。
判別部12は、算出した比が乾燥の比率範囲でなく、湿潤の比率範囲に含まれると判断した場合(S108:NO、S110:YES)、路面状況を湿潤と判別し(S112)、処理をステップS206へ進め、全ての部分について判別処理を実行したか否かを判断する(S206)。判別部12は、判別処理を実行していない部分があると判断した場合(S206:NO)、処理をステップS108へ戻し、全ての部分について判別処理を実行したと判断した場合(S206:YES)、処理を終了する。
そして判別部12は、算出した比が水膜の比率範囲に含まれると判断した場合(S113:YES)、ステップS303にて構築した2次元の遠赤外線画像データに基づき、判別対象となっている部分が遠赤外線画像データにおける低輝度領域、即ち低温領域と一致するか否かを判断する(ステップS306)。
判別部12は、ステップS306で低温領域と一致しないと判断した場合(S306:NO)、判別対象の部分の路面状況を水膜と判別し(S115)、処理をステップS206へ進める。判別部12は、ステップS306で低温領域と一致すると判断した場合(S306:YES)、処理をステップS116へ進める。低温領域として例えば5℃程度よりも低い領域を他の領域と区別しておくことで、凍結の可能性のある領域を除外して水膜と判別できる。
判別部12は、算出した比が凍結の比率範囲に含まれると判断した場合(S116:YES)、ステップS301で取得した路面摩擦係数μに基づいて路面に対してタイヤが滑り易いか否かを判断し(S117)、滑り易いと判断した場合(S117:YES)、ステップS303にて構築した2次元の遠赤外線画像データに基づき、判別対象となっている部分が低温領域と一致するか否かを判断する(ステップS307)。
判別部12は、ステップS307にて低温領域と一致すると判断した場合(S307:YES)、判別対象の部分の路面状況を凍結と判別し(S118)、処理をステップS206へ進める。判別部12は、ステップS307にて低温領域と一致しないと判断した場合(S307:NO)、処理をステップS119へ進める。
判別部12は、算出した比が積雪の比率範囲に含まれると判断した場合(S119:YES)、ステップS303にて構築した2次元の遠赤外線画像データに基づき、判別対象となっている部分が低温領域と一致するか否かを判断する(ステップS308)。
判別部12は、ステップS308にて低温領域と一致すると判断した場合(S308:YES)、判別対象の部分の路面状況を積雪と判別し(S122)、処理をステップS206へ進める。判別部12は、ステップS308にて低温領域と一致しないと判断した場合(S308:NO)、判別対象の部分の路面状況を不明と判別し(S123)、処理をステップS206へ進める。
図12は、遠赤外線イメージセンサ7から得られた遠赤外線画像データに基づき構築される2次元遠赤外線画像データの具体例を示す説明図である。なお、実施の形態3でも画像処理部10からの1ライン分の画像データに基づいて、1.0μm及び1.45μmの波長の光を受光した場合の2次元画像データが構築される(図8参照)。
図12中のF1,F2,F3,F4,F5の領域は、車両が進行中に各時点で遠赤外線イメージセンサ7から取得される1ライン分の遠赤外線画像データを示す。F1,F2,F3,F4,F5の順に、夫々100ミリ秒後との取得した画像データを示す。図12に示す2次元遠赤外線画像データは、図8の2次元画像データに対応し、図8中のD1と図12中のF1、D2とF2、…とが対応する。
図12では斜線にて、輝度の高低を示している。ピッチの狭い斜線ほど輝度が低く、低温領域に相当する。
図12のF1,F2,F3,F4,F5に示すように、複数ライン分の遠赤外線画像データが得られた場合、判別部12は、図12のように並べて2次元遠赤外線画像データを構築して路面温度分布とする。そして、同様に構築する図8に示す2次元画像データに基づく部分毎の路面状況判別処理に、路面温度分布を加味する。
判別部12は、図8に示すような2次元画像において、路面上のタイヤが通る部分が凍結している場合に、ステップS305にて算出される比が、水膜の比率範囲に含まれると判断したとする。水膜と凍結とでは、判別は難しいからである。しかしながらこの場合、判別部12はステップS306において、図12に示すように遠赤外線画像データに基づき、路面温度が凍結するほどの低温領域と一致すると判断することにより(S306:YES)、水膜と判別することを回避できる。
このように、複数ライン分の画像データを2次元画像データに構築して、図8に示したように、車両が通過しようとする路面の状況を2次元的に判別するに際し、他の用途に利用されるべく既に搭載されている遠赤外線イメージセンサ7から得られる画像情報を参照することにより、低コストな構成でより精度良く路面状況を判別することができる。
実施の形態1乃至3では、近赤外線波長帯域の内の特定の波長帯域、つまり1.0μm及び1.45μmの波長を受光した場合の画像データに基づき、出力値の比、即ち反射強度の比を算出して比率範囲と比較して判別した。しかしながら本発明はこれに限らず、比をとらずに、出力値自体が乾燥、湿潤、水膜などに対応する値とほぼ一致するか否かによって判別してもよい。ただし、実施の形態1乃至3における路面状況判別装置1では、車両に搭載されるから、外乱又は路面材料の影響を強く受ける。したがって比を算出して判別することが好ましい。
(実施の形態4)
実施の形態1乃至3における路面状況判別装置1は、近赤外線波長帯域の光(1.0μm、1.45μm、1.7μm、1.9μm、2.4μmなど)に感度を有する撮像部10の各撮像素子から得られる出力値から判別する構成とした。しかしながら本発明では、近赤外線波長帯域に限らず、可視光波長帯域に感度を持つ撮像素子をライン状に配列させて用いてもよい。実施の形態4では、可視光波長帯域の光に感度を有する撮像素子を用いる構成とする。
実施の形態1乃至3における路面状況判別装置1は、近赤外線波長帯域の光(1.0μm、1.45μm、1.7μm、1.9μm、2.4μmなど)に感度を有する撮像部10の各撮像素子から得られる出力値から判別する構成とした。しかしながら本発明では、近赤外線波長帯域に限らず、可視光波長帯域に感度を持つ撮像素子をライン状に配列させて用いてもよい。実施の形態4では、可視光波長帯域の光に感度を有する撮像素子を用いる構成とする。
図13は、実施の形態4における路面状況判別装置を含む運転支援システムの構成を示す構成図である。実施の形態4における運転支援システムの構成は、路面状況判別装置8に接続されている運転制御装置2、ディスプレイ30、スピーカ31、温度センサ5及びμセンサ6については実施の形態1における構成と同様である。したがって、上述の実施の形態1における構成と共通する構成については同一の符号を付して詳細な説明を省略する。
路面状況判別装置8は、撮像部80、画像処理部81及び判別部82を含んで構成される。路面状況判別装置8の撮像部80は、車両前部のバンパー下から前方路面を撮像するように設置されている。撮像部80は、CCD、CMOSなどを用いて可視光波長帯域に感度を有する複数の撮像素子がライン状に配列されてラインセンサを構成している。
画像処理部81は、画像処理用のチップを用いて撮像部80から得られる撮像素子からの出力信号を、各色成分毎に例えば256階調のデジタルの出力値に変換して1ライン分のデジタルカラー画像データとして判別部82へ出力する。
判別部82は、マイクロコンピュータを用い、画像処理部81から出力されるデジタルカラー画像データに基づいて、各画素の輝度値から路面状況を判別する処理を行なう。なお、複数ライン分並べて2次元カラー画像を構築してから処理を行なう。判別部82は、輝度値の大小、即ち撮像部80にて撮像される画像の明暗に基づいて路面の状況が乾燥か、湿潤か、水膜か、凍結か又は積雪かを判別する。例えば、積雪の場合には最も光の乱反射が多いはずである。判別部82は、輝度むらによって判別するなど2次元カラー画像を用いて判別する公知技術を用いてもよい。判別部82は、路面状況の判別結果を運転制御装置2へ通知する。
路面状況判別装置8における路面状況判別処理の詳細を説明する。図14は、実施の形態4における路面状況判別装置8にて実行される路面状況判別処理の一例を示すフローチャートである。路面状況判別装置8は、判別部82の処理により、例えば車両が1m進行する都度、100ミリ秒が経過する都度などのタイミングで以下の処理を行なう。
判別部82は、撮像部80の各撮像素子からの出力値を画像処理部81を介して1ライン分のカラー画像データを取得し(ステップS401)、図示しない内蔵メモリに蓄積してある直近の複数時点で取得した複数ライン分のカラー画像データと、車両の速度及び進行方向とに基づいて2次元カラー画像データを構築する(ステップS402)。判別部82は、ステップS402で構築したカラー画像データに基づいて、各撮像素子からの出力値に対応する輝度値の平均値を算出する(ステップS403)。
判別部82は、温度センサ5から出力される外気温を取得し(ステップS404)、μセンサ6から出力される路面摩擦係数μを取得する(ステップS405)。
判別部82は、ステップS403にて算出した輝度値の平均値が、乾燥の場合に対応する第1所定値以下であるか否かを判断する(ステップS406)。乾燥の場合は路面は濃いグレーであることが多いから最も反射が少なく、画像は比較的暗いはずである。判別部82は、ステップS406にて輝度値(平均値)は第1所定値以下であると判断した場合(S406:YES)、路面状況を乾燥と判別し(ステップS407)、処理を終了する。
判別部82は、ステップS406にて輝度値(平均値)は第1所定値よりも大きいと判断した場合(S406:NO)、第1所定値よりも大きい値である第2所定値以下であるか否かを判断する(ステップS408)。判別部82は、輝度値(平均値)は第2所定値以下であると判断した場合(S408:YES)、路面状況を湿潤と判別し(ステップS409)、処理を終了する。路面状況が湿潤の場合、乾燥の場合よりも路面への光は水分によって反射するから、画像は比較的明るいはずである。
判別部82は、ステップS408にて第2所定値よりも大きいと判断した場合(S408:NO)、輝度値(平均値)が第2所定値よりも更に大きい値である第3所定値以下であるか否かを判断する(ステップS410)。判別部82は、第3所定値以下であると判断した場合(S410:YES)、ステップS405で取得した路面摩擦係数μに基づいて、タイヤは滑り易いか否かを判断する(ステップS411)。判別部82は、タイヤは滑り易いと判断した場合(S411:YES)、路面状況を凍結と判別し(ステップS412)、処理を終了する。路面状況が凍結の場合、湿潤の場合よりも路面への光は水及び氷によって反射し、画像は比較的更に明るいはずである。
判別部82は、ステップS410にて輝度値は第3所定値よりも大きいと判断した場合(S410:NO)、ステップS404にて温度センサ5から取得した外気温に基づき、積雪している可能性が高いか否かを判断する(ステップ413)。
判別部82は、ステップS411にてタイヤは滑りにくいと判断した場合も(S411:NO)、処理をステップS413に進め、積雪している可能性が高いか否かを判断する(S413)。積雪の場合でも新雪の場合などは凍結よりも滑りにくい。
判別部82は、ステップS413にて積雪している可能性が高いと判断した場合(S413:YES)、路面状況を積雪と判別し(ステップS414)、処理を終了する。
判別部82は、ステップS413にて積雪している可能性が低いと判断した場合(S413:NO)、路面状況を不明と判別し(ステップS415)、処理を終了する。
このように、可視光にて撮像した画像に基づいて路面状況を判別するとしても、可視光波長帯域に感度を有する撮像素子の数を節約することができ、低コストな構成にて路面状況を判別することが可能である。
実施の形態4では、可視光波長帯域に感度を有する撮像素子を用いる構成としたが、実施の形態1における近赤外線波長帯域の撮像素子からの出力値とを合わせて、判別する構成としてもよい。
なお、開示された実施の形態は、全ての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上述の説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内での全ての変更が含まれることが意図される。
1 路面状況判別装置
10 撮像部
12 判別部
13 ラインセンサ(複数の撮像素子)
14 バンドパスフィルタ
15 ライト(投光手段)
4 可視カメラ(撮像手段)
5 温度センサ
6 μセンサ(スリップセンサ)
7 遠赤外線イメージセンサ(遠赤外線撮像素子)
10 撮像部
12 判別部
13 ラインセンサ(複数の撮像素子)
14 バンドパスフィルタ
15 ライト(投光手段)
4 可視カメラ(撮像手段)
5 温度センサ
6 μセンサ(スリップセンサ)
7 遠赤外線イメージセンサ(遠赤外線撮像素子)
Claims (12)
- 車両に搭載され、複数の撮像素子を用いて路面を撮像し路面状況を判別する路面状況判別装置において、
前記複数の撮像素子は、前記車両の進行方向に略直交し且つ路面に略平行な方向のライン状に配列されてあること
を特徴とする路面状況判別装置。 - 前記複数の撮像素子からの出力値に基づき、1ライン分の画像データを作成する作成手段と、
前記車両の進行中に、異なるタイミングで路面を撮像した前記複数の撮像素子からの出力値に基づき前記作成手段が作成した複数ライン分の画像データを、前記車両の速度又は進行方向に基づき並べ、2次元画像データを構築する構築手段と
を備え、
前記構築手段が構築した2次元画像データに基づき路面状況を判別するようにしてあること
を特徴とする請求項1に記載の路面状況判別装置。 - 前記複数の撮像素子が近赤外線波長帯域の内の特定の波長帯域の光を受光するように、夫々に対応するバンドパスフィルタを備えること
を特徴とする請求項1又は2に記載の路面状況判別装置。 - 前記バンドパスフィルタは、異なる複数の特定の波長帯域の光に対応するように備えられ、
前記複数の特定の波長帯域の光夫々に対して前記複数の撮像素子から得られる出力値の比を算出する算出手段を備え、
該手段が算出した比が、乾燥、湿潤、水膜、凍結又は積雪夫々に対応する比率範囲のいずれに含まれるかによって路面状況を判別するようにしてあること
を特徴とする請求項3に記載の路面状況判別装置。 - 前記算出手段は、前記複数の撮像素子の内の特定の一部、又は全部からの各出力値の比の平均値、中央値又は最頻値を算出するようにしてあること
を特徴とする請求項4に記載の路面状況判別装置。 - 前記複数の撮像素子は、車両に搭載されているヘッドライトからの光の内の前記複数の特定の波長帯帯域の光を受光するようにしてあること
を特徴とする請求項3に記載の路面状況判別装置。 - 前記複数の特定の波長帯域を含む光を投光する投光手段を備え、
前記複数の撮像素子は、前記投光手段からの光の内の前記複数の特定の波長帯域の光を受光するようにしてあること
を特徴とする請求項3に記載の路面状況判別装置。 - 前記複数の撮像素子は複数列に配列されてあり、
前記複数の撮像素子は列毎に、前記複数の特定の波長帯の光の内、異なる波長帯の光を受光するようにしてあること
を特徴とする請求項1乃至5のいずれか1つに記載の路面状況判別装置。 - 可視光波長帯域にて路面を撮像した撮像画像を取得する手段を備え、
前記複数の撮像素子からの出力値及び前記撮像手段が撮像した画像に基づいて路面状況を判別するようにしてあること
を特徴とする請求項1乃至8のいずれか1つに記載の路面状況判別装置。 - 車外温度を測定する温度センサから前記車外温度を取得する手段を備え、
前記複数の撮像素子からの出力値及び前記車外温度に基づき、路面状況を判別するようにしてあること
を特徴とする請求項1乃至9のいずれか1つに記載の路面状況判別装置。 - 前記温度センサは、遠赤外線波長帯域にて撮像する複数の遠赤外線撮像素子を備え、
該複数の遠赤外線撮像素子は、前記車両の進行方向に略直交し且つ路面に略平行な方向のライン状に配列されてあり、
前記遠赤外線撮像素子からの出力値に基づき、1ライン分の遠赤外線画像データを作成する手段と、
前記車両の進行中に、異なるタイミングで路面を撮像した前記遠赤外線撮像素子からの出力値に基づき作成した複数ライン分の遠赤外線画像データを、前記車両の速度又は進行方向に基づき並べ、2次元遠赤外線画像データを構築する手段と
を備え、
前記温度センサは、路面の温度分布を測定するようにしてあること
を特徴とする請求項10に記載の路面状況判別装置。 - 路面とタイヤとの間の滑り易さを示す物理量を測定するスリップセンサから前記物理量を取得する手段を備え、
前記複数の撮像素子からの出力値及び前記スリップセンサが測定した物理量に基づき、路面状況を判別するようにしてあること
を特徴とする請求項1乃至11のいずれか1つに記載の路面状況判別装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009008917A JP2010164521A (ja) | 2009-01-19 | 2009-01-19 | 路面状況判別装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009008917A JP2010164521A (ja) | 2009-01-19 | 2009-01-19 | 路面状況判別装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010164521A true JP2010164521A (ja) | 2010-07-29 |
Family
ID=42580798
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009008917A Pending JP2010164521A (ja) | 2009-01-19 | 2009-01-19 | 路面状況判別装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010164521A (ja) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103134777A (zh) * | 2011-12-01 | 2013-06-05 | 现代自动车株式会社 | 用于检测路面特性的装置和方法 |
JP2013137225A (ja) * | 2011-12-28 | 2013-07-11 | Sumitomo Electric Ind Ltd | 対象検出装置および対象検出方法 |
WO2013180273A1 (ja) * | 2012-06-01 | 2013-12-05 | 株式会社日本自動車部品総合研究所 | 車線の境界線を検出する装置及びその方法 |
KR101622622B1 (ko) * | 2014-10-13 | 2016-05-31 | 엘지전자 주식회사 | 차량 하부 이미지 제공 장치 및 이를 구비한 차량 |
JP2018153375A (ja) * | 2017-03-17 | 2018-10-04 | 日立アプライアンス株式会社 | 電気機器、電気機器としての自律走行型掃除機、及び、電気機器とベースとを有するシステム |
WO2019049710A1 (ja) * | 2017-09-11 | 2019-03-14 | ソニー株式会社 | 信号処理装置、および信号処理方法、プログラム、並びに移動体 |
JP2019190838A (ja) * | 2018-04-18 | 2019-10-31 | コニカミノルタ株式会社 | 路面状態検出システムおよび路面状態検出方法 |
KR102081513B1 (ko) * | 2018-10-12 | 2020-02-25 | 한양대학교 산학협력단 | 차량을 이용하는 노면 상태 측정 방법 및 장치 |
JP2020148601A (ja) * | 2019-03-13 | 2020-09-17 | 本田技研工業株式会社 | 認識装置、車両制御装置、認識方法、およびプログラム |
KR102317633B1 (ko) * | 2020-05-19 | 2021-10-27 | 재단법인대구경북과학기술원 | 복수의 도로 영상을 기반으로 하는 도로의 실시간 블랙아이스 검출 시스템 및 그 방법 |
KR102388804B1 (ko) * | 2020-10-20 | 2022-04-21 | 한국건설기술연구원 | 분광 데이터와 노면온도센서 데이터를 이용한 노면상태 분류 시스템 및 그 방법 |
KR20220129137A (ko) * | 2021-03-15 | 2022-09-23 | 주식회사 이너트론 | 차량용 블랙아이스 감지시스템 |
KR20220147758A (ko) * | 2021-04-27 | 2022-11-04 | 연세대학교 산학협력단 | 블랙아이스 검출 시스템 및 방법 |
DE102022121307A1 (de) | 2021-09-08 | 2023-03-09 | Subaru Corporation | Strassenoberflächenzustands-bestimmungsvorrichtung |
-
2009
- 2009-01-19 JP JP2009008917A patent/JP2010164521A/ja active Pending
Cited By (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8941739B2 (en) | 2011-12-01 | 2015-01-27 | Hyundai Motor Company | Apparatus and method for detecting road surface properties |
JP2013117528A (ja) * | 2011-12-01 | 2013-06-13 | Hyundai Motor Co Ltd | 路面の性質感知装置及びその方法 |
KR101326991B1 (ko) * | 2011-12-01 | 2013-11-13 | 현대자동차주식회사 | 노면의 성질 감지 장치 및 그 방법 |
CN103134777A (zh) * | 2011-12-01 | 2013-06-05 | 现代自动车株式会社 | 用于检测路面特性的装置和方法 |
JP2013137225A (ja) * | 2011-12-28 | 2013-07-11 | Sumitomo Electric Ind Ltd | 対象検出装置および対象検出方法 |
US9626572B2 (en) | 2012-06-01 | 2017-04-18 | Denso Corporation | Apparatus for detecting boundary line of vehicle lane and method thereof |
JP2013250874A (ja) * | 2012-06-01 | 2013-12-12 | Nippon Soken Inc | 車線境界線検出装置およびプログラム |
WO2013180273A1 (ja) * | 2012-06-01 | 2013-12-05 | 株式会社日本自動車部品総合研究所 | 車線の境界線を検出する装置及びその方法 |
KR101622622B1 (ko) * | 2014-10-13 | 2016-05-31 | 엘지전자 주식회사 | 차량 하부 이미지 제공 장치 및 이를 구비한 차량 |
US10202076B2 (en) | 2014-10-13 | 2019-02-12 | Lg Electronics Inc. | Under vehicle image provision apparatus and vehicle including the same |
JP2018153375A (ja) * | 2017-03-17 | 2018-10-04 | 日立アプライアンス株式会社 | 電気機器、電気機器としての自律走行型掃除機、及び、電気機器とベースとを有するシステム |
JPWO2019049710A1 (ja) * | 2017-09-11 | 2020-12-03 | ソニー株式会社 | 信号処理装置、および信号処理方法、プログラム、並びに移動体 |
WO2019049710A1 (ja) * | 2017-09-11 | 2019-03-14 | ソニー株式会社 | 信号処理装置、および信号処理方法、プログラム、並びに移動体 |
JP7371496B2 (ja) | 2017-09-11 | 2023-10-31 | ソニーグループ株式会社 | 信号処理装置、および信号処理方法、プログラム、並びに移動体 |
US11386565B2 (en) | 2017-09-11 | 2022-07-12 | Sony Corporation | Signal processing apparatus and signal processing method, program, and moving body |
JP7091803B2 (ja) | 2018-04-18 | 2022-06-28 | コニカミノルタ株式会社 | 路面状態検出システムおよび路面状態検出方法 |
JP2019190838A (ja) * | 2018-04-18 | 2019-10-31 | コニカミノルタ株式会社 | 路面状態検出システムおよび路面状態検出方法 |
WO2020076137A1 (ko) * | 2018-10-12 | 2020-04-16 | 한양대학교 산학협력단 | 차량을 이용하는 노면 상태 측정 방법 및 장치 |
KR102081513B1 (ko) * | 2018-10-12 | 2020-02-25 | 한양대학교 산학협력단 | 차량을 이용하는 노면 상태 측정 방법 및 장치 |
JP2020148601A (ja) * | 2019-03-13 | 2020-09-17 | 本田技研工業株式会社 | 認識装置、車両制御装置、認識方法、およびプログラム |
CN111766601A (zh) * | 2019-03-13 | 2020-10-13 | 本田技研工业株式会社 | 识别装置、车辆控制装置、识别方法及存储介质 |
JP7083768B2 (ja) | 2019-03-13 | 2022-06-13 | 本田技研工業株式会社 | 認識装置、車両制御装置、認識方法、およびプログラム |
CN111766601B (zh) * | 2019-03-13 | 2023-11-28 | 本田技研工业株式会社 | 识别装置、车辆控制装置、识别方法及存储介质 |
KR102317633B1 (ko) * | 2020-05-19 | 2021-10-27 | 재단법인대구경북과학기술원 | 복수의 도로 영상을 기반으로 하는 도로의 실시간 블랙아이스 검출 시스템 및 그 방법 |
KR102388804B1 (ko) * | 2020-10-20 | 2022-04-21 | 한국건설기술연구원 | 분광 데이터와 노면온도센서 데이터를 이용한 노면상태 분류 시스템 및 그 방법 |
KR102479392B1 (ko) * | 2021-03-15 | 2022-12-21 | 주식회사 이너트론 | 차량용 블랙아이스 감지시스템 |
KR20220129137A (ko) * | 2021-03-15 | 2022-09-23 | 주식회사 이너트론 | 차량용 블랙아이스 감지시스템 |
KR102473347B1 (ko) * | 2021-04-27 | 2022-12-02 | 연세대학교 산학협력단 | 블랙아이스 검출 시스템 및 방법 |
KR20220147758A (ko) * | 2021-04-27 | 2022-11-04 | 연세대학교 산학협력단 | 블랙아이스 검출 시스템 및 방법 |
DE102022121307A1 (de) | 2021-09-08 | 2023-03-09 | Subaru Corporation | Strassenoberflächenzustands-bestimmungsvorrichtung |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2010164521A (ja) | 路面状況判別装置 | |
US8477192B2 (en) | Optical detection system for motor-vehicles having multiple functions, including detection of the condition of the road surface | |
US9344691B2 (en) | Imaging device, object detecting apparatus, optical filter, and manufacturing method of optical filter | |
EP3367084B1 (en) | Road surface state determination device and method | |
US10406994B2 (en) | In-vehicle camera and vehicle control system | |
JP2010163131A (ja) | 路面状況判別装置 | |
US9690997B2 (en) | Recognition object detecting apparatus | |
US9555812B2 (en) | Method for detecting a roadway and corresponding detection systems | |
JP7120109B2 (ja) | 車両における路面状態判定装置、運転支援システムおよび路面状態判定方法 | |
US20140347448A1 (en) | Determining the Characteristics of a Road Surface by Means of a 3D Camera | |
WO2013180273A1 (ja) | 車線の境界線を検出する装置及びその方法 | |
US11657620B2 (en) | Vehicle vision system with object detection failsafe | |
JP2010014494A (ja) | 異物検出装置、異物検出プログラム、異物除去装置、および車載通信装置 | |
US10933798B2 (en) | Vehicle lighting control system with fog detection | |
JP5853719B2 (ja) | 画像処理システム及びそれを備えた車両 | |
JP7433265B2 (ja) | 表面における水を検出するための装置、および表面における水を検出するための方法 | |
JP2011123613A (ja) | 停止線認識装置 | |
JP2004104646A (ja) | 車載用画像処理装置 | |
US20210372919A1 (en) | Black-ice and standing-water detection system | |
KR100660561B1 (ko) | 비전기반 지능형 스마트 와이퍼 시스템 및 그 제어방법 | |
KR101684782B1 (ko) | 우적 감응형 와이퍼 장치 | |
US20240140441A1 (en) | Method and arrangement for determining a condition of a road surface | |
JP2011107952A (ja) | 車両周辺監視装置 | |
US20210253109A1 (en) | Method for determining the road temperature from inside a motor vehicle |