JP2007256090A - 車両用環境認識装置及び車両用環境認識方法 - Google Patents

車両用環境認識装置及び車両用環境認識方法 Download PDF

Info

Publication number
JP2007256090A
JP2007256090A JP2006081137A JP2006081137A JP2007256090A JP 2007256090 A JP2007256090 A JP 2007256090A JP 2006081137 A JP2006081137 A JP 2006081137A JP 2006081137 A JP2006081137 A JP 2006081137A JP 2007256090 A JP2007256090 A JP 2007256090A
Authority
JP
Japan
Prior art keywords
vehicle
light
irradiation
road surface
environment recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006081137A
Other languages
English (en)
Other versions
JP5151050B2 (ja
Inventor
Hidekazu Nishiuchi
秀和 西内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2006081137A priority Critical patent/JP5151050B2/ja
Publication of JP2007256090A publication Critical patent/JP2007256090A/ja
Application granted granted Critical
Publication of JP5151050B2 publication Critical patent/JP5151050B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

【課題】ピッチング等の車両挙動が発生した場合でもその影響を受けず安定した障害物検出を行う車両用環境認識装置を提供する。
【解決手段】スリット光発光装置5からスリット光を、自車体の下方から車体の前方に向かって一定の角速度でスキャンし、撮像画面14におけるスリット光の移動変化の有無を、物体検出プログラムP9によって監視することで走路や物体の抽出を行う。また、スリット光とは別に前方に向かって照準光を照射し、撮像画面14における照準光の位置変動に基づいて、車体の上下動に伴うスリット光の位置変動の補正を行う。
【選択図】図2

Description

本発明は、路面上の凹凸や物体の存在を認識する車両用環境認識装置及び車両用環境認識方法に関する。
従来から、車両において自車両近傍の障害物を検出する障害物検出技術が知られている。特許文献1に記載のものはステレオカメラを用いた障害物検出技術であり、ステレオカメラで撮影した2方向からの画像情報の差分に基づいて、自車両近傍の障害物や道路環境等、自車両の周囲環境を認識するものである。
特開2005−45338号公報
しかしながら、ステレオカメラの視軸を基準として距離情報が算出されるため、ピッチング等の車両の挙動によりカメラの視軸の方向が変化すると、観測対象が実空間において上下に移動したものとして計測されるため、自車両近傍の障害物や道路環境等の周囲環境を精度高く検出できなくなるという問題があった。
上記課題を解決するために、請求項1の車両用環境認識装置は、車幅方向に広がる照射光を、路面上において自車両の近傍から遠方に向けて照射する照射光照射手段と、前記照射光を撮像する撮像手段と、前記撮像手段が撮像した撮像画像中における前記路面上の凹凸若しくは前記路面上の物体等の路面変化部位により前記照射光の形状が変化したことを検出する照射光形状変化検出手段と、前記照射光形状変化検出手段により検出された前記照射光の形状変化に基づいて、前記自車両から前記路面変化部位までの距離を演算する距離演算手段と、自車両前方の所定の位置に照準光を照射する照準光照射手段と、前記撮像手段が前記照射光を撮像する際に合わせて撮像する前記照準光の位置変化に基づいて、自車両の車両挙動を検出する車両挙動監視手段と、該車両挙動監視手段により検出された車両挙動量によって、前記照射光の照射方向を補正する姿勢補正手段と、を有することを特徴とする。
本発明の車両用環境認識装置によれば、ピッチング等の車両の挙動によりカメラの視軸の方向が変化しても、自車両近傍の障害物や道路環境等の周囲環境を精度高く検出できる。
以下、本発明を実施するための最良の形態を図面を用いて説明する。
図1は実施の形態にかかる車両用環境認識装置のシステムブロック図を示している。この車両用環境認識装置1は、路面を撮像する撮像手段としてのCCDカメラ2と、CCDカメラ2の路面撮像画像を記憶する画像メモリ3と、マイクロプロセッサ4と、照射光として水平方向に延びるスリット光を照射するスリット光発光装置5(照射光照射手段)と、ピッチングによるスリット光の照射範囲の変動を補正するスリット光発光装置の制御装置6と、自車両のピッチングを検出するための照準光を照射するピッチング照準光発光装置7(照準光照射手段)と、ピッチングによる照準光の照射方向の変動を補正するピッチング照準光発光装置の制御装置8と、撮像画面を表示するモニター10と、物体等の検出を知らせる音声発生装置11と、スピーカ12を備えている。モニター10はマイクロプロセッサ4から出力された周囲環境情報を含む路面画像を運転者に表示する。上記のスリット光は車幅方向に延びる1以上の線状部を有する照射光である。
マイクロプロセッサ4には、所定時間に所定枚数の画像(例えば1秒間に30フレーム)を撮像したり、撮像を停止したりするようにCCDカメラ2を制御する路面撮像プログラムP1と、画像メモリ3に記憶された撮像画像データを所定時間毎に所定フォーマットによりモニター10に出力する画像処理プログラムP2と、ピッチング照準光発光装置7から照準光を照射するピッチング照準光制御プログラムP3と、当該照準光の変動量から自動車Amの車体のピッチングの挙動量を演算するピッチング監視プログラムP4(車両挙動監視手段)と、ピッチング監視プログラムP4の検出した自車両のピッチングによる挙動量によってピッチング監視用の照準光の照射方向及び後述するスリット光の照射方向を補正するピッチング補正プログラムP5と、スリット光発光装置5から路面にスリット光を照射するスリット光制御プログラムP6と、撮像画面上のスリット光から移動速度を演算するスリット光速度演算プログラムP7と、スリット光速度演算プログラムP7により得られたスリット光の移動速度の変動の程度から走路領域を検出する走路検出プログラムP8(路面検出手段)と、画像メモリ3にロードされた路面の画像データとスリット光速度演算プログラムP7により得られたスリット光の移動速度の変化に基づいて路面上の物体等の存在を検出する物体検出プログラムP9(路面変化部位の検出手段)と、物体検出プログラムP9と走路検出プログラムP8の走路領域データとに基づいて自車両から物体までの距離を演算した後、モニターの画面14に物体までの距離及び物体の高さを表示する物体距離演算プログラムP10(路面の変化部位の距離演算手段)と、を有する。
CCDカメラ2は、車室内に設置されたルームミラー(図示省略)部に自車両前方を撮影するように取り付けられている。このCCDカメラ2は、マイクロプロセッサ4の路面撮像プログラムP1の命令により例えば図3に示す自動車Amの進行方向前方の路面13を撮像する。CCDカメラ2が所定時間毎(一例として1秒間に30フレーム)に撮像した路面画像は、画像メモリ3に一時的に記憶されたのちマイクロプロセッサ4に次々に出力される。マイクロプロセッサ4の画像処理プログラムP2は、図2に示すように、画像メモリ3から所定時間毎に次々に送られてくる路面画像フレームを撮像画面14として処理し、モニター10に出力する。
図4はスリット光発光装置5の平面的な構成の概略図を示し、図5はスリット光発光装置5の側面的な構成の概略図を示す。スリット光発光装置5の筐体16の内部には、路面状態を観察する照射光を発するランプ17と、ランプ17の照射光を路面に平行なスリット光に変えるスリット板18と、スリット光を車体の下側から車体の前方方向に走査するガルバノミラー19と、ランプ17を点灯させる図示しない電源回路部が配備される。
ランプ17は、人の眼には見えないように例えば赤外光を発行する赤外線ランプで構成され、歩行者や他の車の乗員等への煩わしさを防止できるようになっている。ランプ17は縞模様が形成されるように赤外線レーザー光等を照射するレーザー発光素子で構成されるものであっても良い。
スリット板18には路面に対して平行な水平方向に延びる細長いスリット穴20が開口されている。スリット板18のスリット穴20は1個形成されていても良いが、縦方向に2以上形成されていても良い。スリット板18の照射方向前方には、ガルバノミラー19が配置されている。
ガルバノミラー19は、前進の場合、スリット板18を通過した車幅方向に延びるスリット光を上下方向に走査する。ガルバノミラー19は、筐体16の側壁に設けられたモーター22の回転軸によってスリット光を車体の下側から上方向にスキャンするように回転する。なお、ガルバノミラー19の代わりにポリゴンミラーのような多角柱状のミラーを用いて走査速度を速くしても良い。筐体16の前側の開口部21には透明カバー23が取り付けられている。
スリット光発光装置の制御装置6は、スリット光発光装置5の姿勢を補正する姿勢補正手段を構成する。スリット光発光装置の制御装置6は、図7に示すように、筐体16の傾斜角度を決めるモーター30を有する。照射光であるスリット光の照射範囲は、ガルバノミラー19の制御範囲及び筐体16の上下方向の傾きによって決められる。スリット光発光装置5は、架台30に搭載されており、架台30は、車体のフロントグリル15内側のフレーム31に取り付けられた取付軸32に支持されている。取付軸32は車幅方向に水平に延びるように設置されている。架台30は、この取付軸32に対して照射光であるスリット光の照射角度を調整できるように取り付けられていると共に、モーター33の回転軸に取り付けられるリンク34に連結されている。リンク34は架台30に固定されたレバー35に連結されており、モーター33が所定の角度回動すると、リンク34の動きによってレバー35が架台30の向きを所定の角度に変えることが出来るようになっている。
マイクロプロセッサ4には、平坦な路面13に対するスリット光の照射初期角度のデータと、スリット光をスキャンする際のスキャンの角速度のデータとが予め記憶され、スリット光制御プログラムP6はこのデータに基づいて、スリット光発光装置の制御装置6とスリット光発光装置5とを制御する。
ピッチング照準光発光装置7は、スリット光発光装置5と共にフロントグリル15内側に配備される。ピッチング照準光発光装置7は、筐体7Bの内部にランプ7Aが配備され、筐体7Bの前方部の開口部にレンズ7Cが設けられている。ピッチング照準光発光装置7は、架台80の上に設置されており、架台80は車体のフロントグリル15内側のフレーム31に取付軸82によって回動可能に支持されている。架台80には、ピッチング照準光発光装置の制御装置8が設けられている。このピッチング照準光発光装置の制御装置8は、モーター83、リンク84、レバー85を備えており、モーター83はフレーム31に固定されている。リンク84の一端はモーター83の回転軸に固定されており、リンク84の他端はレバー85の一端に連結されている。レバー85の他端は架台80に固定されている。モーター83の電源回路は自動車のバッテリーに接続され、ピッチング補正プログラムP5の命令により指示された角度にピッチング照準光発光装置7を向ける。
ピッチング照準光制御プログラムP3はピッチング照準光発光装置7からピッチング検出用の照準光T2を照射する。
ピッチング監視プログラムP4は、ピッチング照準光発光装置7から照射される照準光T2を監視する。また、ピッチング監視プログラムP4は、監視の前に、モニター10の撮像画面14中に撮像された部位の内、変動の最も少ない部位(後述)を照射基準位置T1として設定し、ピッチング照準光制御プログラムP3で照射基準位置T1に照準光T2を先ず照射した後に、撮像画面14上の照準光T2を監視する。
ピッチング監視プログラムP4は、この照準光T2が照射基準位置T1から離れた量が許容量以上に変動したときに、ピッチング発生と判断する。更に、ピッチング監視プログラムP4はこのピッチング検出と共に、ピッチング量並びにピッチング角速度を算出し、ピッチング量並びにピッチング角速度を、スリット光制御プログラムP6、ピッチング照準光制御プログラムP3、ピッチング補正プログラムP5に渡す。ピッチング監視プログラムP4は、車両挙動監視手段であり、CCDカメラ2の撮像画像における照準光の照射方向の変化を観測することで、補正が正しく行われたか否かを判断する補正の信頼性を判定する機能を有する。
ピッチング補正プログラムP5は、ピッチングにより変動した照準光T2の照射方向を補正する制御信号を制御装置8に出力する。つまり、ピッチング補正プログラムP5は、ピッチング監視プログラムP4が検出した自動車Amのピッチングの挙動量並びにピッチング角速度のデータに基づいて、ピッチング検出用のピッチング照準光発光装置7の照射角度を補正するように、ピッチング照準光発光装置の制御装置8を制御する。
制御装置8は、ピッチング補正プログラムP5の補正命令に基づいて、撮像画面の中の照射基準位置T1の位置に照準光T2が位置するように、架台80のモーター83の制御を行い、ピッチング照準光発光装置7の照射角度を補正する。
更に、ピッチング補正プログラムP5は、この補正の後に、再度照準光T2と照射基準光T1の比較を行い、ピッチング補正が正しく行われているかの検証を行う。
スリット光制御プログラムP6は、マイクロプロセッサ4に記憶された照射初期方向のデータ、照射光をスキャンする際のスキャンの範囲及びスキャンの角速度のデータに基づいて、自車の前方を一定速度の照射光であるスリット光をスキャンする制御信号を、スリット光発光装置の制御装置6に出力する。
また、スリット光制御プログラムP6は、ガルバノミラー19で反射するスリット光が指定した角速度で路面13をスキャンできるように、モーター22の回転速度を決める。また、スリット光制御プログラムP6は、スキャンするスリット光の点灯・消灯等の指示命令をランプ17の電源回路に出力し、ランプ17の発光を制御する。このランプ17の電源回路部の制御は必要によりランプ17の点滅或いは照度の制御であっても良い。
さらに、ピッチング補正プログラムP5は、照準光T2の照射方向と共にスリット光の照射範囲を補正するように、スリット光制御プログラムP6に出力する。
ピッチング補正プログラムP5は、ピッチングにより変動したスリット光の照射方向を補正する制御信号をスリット光発光装置の制御装置6に出力する。つまり、ピッチング補正プログラムP5は、ピッチング監視プログラムP4が検出した自動車Amのピッチングの挙動量並びにピッチング角速度のデータに基づいて、スリット光発光装置5の照射角度及びスキャン終了角度を補正するように、スリット光発光装置の制御装置6を制御する。
なお、スリット光制御プログラムP6は、走行モードや停止モードにおいて、路面状態を検出するという路面撮像プログラムP1と画像処理プログラムP2が立ち上がった後に、自動車の速度やスリット光発光装置5の高さに応じて、ガルバノメーター19を回転させる角速度を制御したり、ランプ17の点灯や消灯或いは点滅等の制御を行う。
スリット光速度演算プログラムP7は、スリット光が路面上を移動する速度を演算する。
走路検出プログラムP8は、スリット光速度演算プログラムP7が演算したスリット光の移動速度の変動量が所定範囲内にある領域を走路として検出する。
物体検出プログラムP9は、撮像画面14上においてスリット光が路面13上の物体に当たって速度が変化したことを検出する。即ち、図2及び図8に示すように、物体にスリット光が当たったときに当該スリット光の移動速度は路面上を走査されるスリット光に比べて遅れる。このとき、CCDカメラ2はこの状態を撮像しているので、図2に示すように、モニター10の撮像画面14の物体に当たったスリット光は画面下方に突出するように変形する。
物体距離演算プログラムP10は、物体検出プログラムP9の検出物体と走路検出プログラムP8の検出路面のデータに基づいて、自車両から物体までの距離を演算してモニター10の監視画面14B(図2参照)に出力する。
物体距離演算プログラムP10は、上述のスリット光の突出部分が何番目のフレームに表れたかを検出して、路面13上に物体或いは突起部があると判断する。また、物体距離演算プログラムP10は、変形したスリット光の変形部分の高さから、物体の高さを演算し、監視画面14Bには例えば「前方○○mに高さ○○cmの物体があります。」等の表示を行うと共に、音声発生装置11の例えば音声IC等によりスピーカ12から「前方○○mに高さ○○cmの物体があります。」等の音声を発生する。
路面が凹んでいるときには路面画像上では同一スリット光において凹みに当たったスリット光が先に進んだようになるので、その進んだ部位が所定速度以上であると、路面の陥没部に当たったと判断できる。
次に、スリット光をスキャンしたときの路面画像上におけるスリット光の移動速度の変化から同一平面及び物体を抽出する原理を説明する。
図9、図10には、車両の進行方向にスリット光をスキャンし、撮像画面14上における照射光の移動速度の変化を観測して路面13及び物体1を抽出する原理が表示されている。
ここで、車両前後方向を座標軸のX軸に、車幅方向をY軸に設定する。
図9は時刻T1における照射光および撮像画面14を示し、図10は時刻T1からδtだけ過ぎた時刻T2における照射光および撮像画像を示す。また、図9、図10の撮像画面14はX軸上をスキャンするスリット光のY座標およびY方向の移動速度の関係を示す。
時刻T1においてはスリット光はすべて同一平面である路面13を照射しているため、同一時刻に照射されたスリット光は同じY座標上に位置する。しかし、時刻T2時においてスリット光が物体1に照射されると、走路面に照射されるスリット光のY座標と物体1に照射されるスリット光のY座標は異なる。
図11は路面をスキャンした時のスリット光の移動速度変化を示す。図11に示すように、路面13上に物体1が存在している場合、あるX座標Xobsについて、撮像フレーム(ある時刻におけるフレーム)と照射光のY座標位置の関係および撮像フレーム(他の時刻におけるフレーム)とY座標移動速度の関係をプロットすると、図11における第26フレームにおいてY座標位置が変わり、撮像画面14上での移動速度が不連続に変化していることがわかる。
このようにスリット光を一定の角速度でスキャンし、撮像画面14上における照射光のY座標方向の移動速度の変化を観測することにより、平面と平面が異なる角度で重なる接点、すなわち段差のある点が検出でき、段差を境界として撮像された画像を平面ごとに分割、抽出することができる。即ち、第26フレームにおいて物体を検出していることが検出され、スキャン開始から第26フレームの経過時間(t)及びスリット光の移動速度(v)並びにカメラ2の設置高さ(h)から物体の位置及び高さを演算できる。
図12はピッチングが発生する前の撮像状態および路面画像、図13はピッチングが発生した後の撮像状態および路面画像を示す。原理上、ピッチング照準光発光装置7は、撮像画面14内に存在する補正基準物(例えば先行車)のある一点にピッチング補正用の照射光を照射する。ピッチング監視プログラムP4は、この照射光が当たる部分を照射基準点T1と決めると、ピッチングが発生した場合、図12に示すように、ピッチング発生前の照射基準点T1に対して照射点T2がずれる。ピッチング監視プログラムP4は、このずれをモニター10上の撮像画像14から算出し、ずれがなくなるようにピッチング補正用照準光と物体検出用のスリット光の照射角度を補正する(ピッチング補正制御)。
ここで、ピッチング監視プログラムP4は、撮像画像14上でピッチング補正用照準光を確認できるため、撮像画像14からピッチング補正制御が正しく行われたかどうかを判定することができる。ピッチング補正制御が正しく行われた場合に、物体検出用スリット光による物体検出の動作が行われる。
図14には、以上述べた基本原理に従って車両用環境認識装置を実施する処理フローが示されている。システム全体の大きな流れとして、この車両用環境認識装置は、フロー開始後にピッチング補正の必要性を判断し、必要があれば、ピッチング補正を行い(ステップS100)、不要であれば物体抽出を行い(ステップS101)、1回のピッチング補正と物体検出動作を終了する。従って、走行時の所定時間を単位としてピッチング補正(ステップS100)と、物体抽出(ステップS101)とを繰り返す。
図15に上記のピッチング補正処理の流れを示す。ステップS201は、画像メモリ3に記録された画像データをマイクロプロセッサ4に読み込む。次に、ステップS202は、画像メモリ3から読み込んだ画像データに対してオプティカルフロー処理により、各画素に投影された物体の画像上の速度(画像速度)を算出する。ステップS203は、S202で算出された画像速度について、各フレームのライン毎に統計処理により分散値を算出する。ステップS204は、S203で算出された各ラインの分散値を比較し、最小となる分散値を示すラインを抽出する。ステップS205は、S204で算出されたライン上の任意の領域(点)を補正基準点T1として設定する。
この補正基準点T1は車両挙動によりその位置がずれにくい位置に設定されるのが望ましい。このため、ステップS202〜S205の処理を行い、画像上でもっとも動きの変化がない部分(速度分散値が最小となる部分)を補正基準点T1に設定する。補正基準点T1は分散値が最小となるライン上の任意の点で構わず、例えばガードレール、先行車等の位置に設定する。
ステップS206は、ピッチング照準光発光装置7からのピッチング補正用の照準光の照射を停止する。
ステップS207は、ピッチング補正用の照準光が照射されていない状態の画像データを画像メモリ3からマイクロプロセッサ4へ読み込む。
ステップS208は、S205で設定された補正基準点T1の撮像画面14上の座標を算出する。
ステップS209は、後述するS216で算出されるピッチング補正角に基づき、ピッチング照準光発光装置の制御装置8でピッチング照準光発光装置7の姿勢を補正して照準光を補正基準点T1に照射する。
ステップS210は、ピッチング補正用の照準光を補正基準点T1に照射している状態において、路面の撮像画像データを画像メモリ3からマイクロプロセッサ4へ読み込む。
ステップS211は、S207とS210により読み込まれた2つの画像の差分演算を行なう。
ステップS212は、S211により算出された差分画像をある所定の閾値で二値化してピッチング補正用照準光2を抽出し、ピッチング補正用照準光の画像上の座標T2を算出する。
ステップS213は、S208とS212で算出された補正基準点T1の座標とピッチング補正用照準光の画像上の座標T2のずれを算出する。
ステップS214において、S213で算出された座標ずれがある所定の画素数以下である場合はステップS215に進み、座標ずれがある所定の画素数より大きい場合はステップS216に進む判断を行う。
ステップS215は、補正が正しく行なわれた場合にONとし、正しく行われていない場合にOFFとする補正フラグをONに設定する。
ステップS216は、S213で算出された座標ずれを幾何学的に計算し、ステップS217は、ピッチング補正を行うためのピッチング補正角を算出する。ステップS218は補正フラグをOFFに設定する。
次に、路面上の物体の検出処理の流れを説明する。図16は物体の検出処理の流れを示す。ステップS301は、マイクロプロセッサ4のスリット光制御プログラムP6から出力される照射初期位置、照射終了位置、照射角速度の制御信号に基づき、スリット光発光装置5から物体検出用照射光であるスリット光を車両前方手前から車両前方遠方に向けて一定の角速度でスキャンさせる。
ステップS302は、CCDカメラ2で撮像した画像データを画像メモリ3からマイクロプロセッサ4へ読み込む。ステップS303は、S302でマイクロプロセッサ4に読み込まれた画像データと1フレーム前に読み込まれた画像データの差分処理を行なう。ステップS304は、S303で算出された差分画像を二値化してエッジ検出処理を行ない、該エッジの画面上の速度(画面速度)を算出する。
ステップS305は、前述のS215またはS218で設定された補正フラグをチェックし、補正フラグがONの場合(補正が正しく行われている場合)はS306へ移行し、OFFの場合(補正が正しく行われていない場合)はS301へ移行する。ステップS306は、S305で算出された画面速度を各x座標で観測し、速度変化が発生するy座標を抽出する。速度変化が発生するy座標が抽出された場合はS307を実施する。
ステップS307は、S306で抽出された速度変化が発生するy座標にはさまれた領域を物体検出クラスタとして設定する。ステップS308は、S307で設定抽出された各クラスタにおいて、自車両最近傍のクラスタを走路とする。また、物体を示すクラスタと路面13との接点のy座標とカメラ設置高に基づいて、自車両から物体までの距離、高さを算出する。
ステップS309は、S301においてマイクロプロセッサ4で指定された照射終了位置まで物体検出用照射光であるスリット光がスキャンしたか否かのチェックを行い、スキャン照射終了位置に到達した場合は照射位置方向をスキャン照射初期位置に変更し、スキャン照射終了位置に満たない場合は続けてスキャンするようにし、S301を実施する。
以上説明したように、本発明の実施の形態にかかる車両用環境認識装置によれば、スリット光発光装置5からスリット光を自車両の走行方向前方に照射し、スリット光を車体の下方から車体の前方に向かって一定の角速度でスキャンし、撮像画面14におけるスリット光の移動変化の有無を、物体検出プログラムP9によって監視することで走路や物体の抽出を行うことができる。
このため、平坦な路面のように認識対象に模様がないような場合でも、路面を認識することができる。また、撮像された路面の撮像画面14の照準光T2の位置座標と照射基準点T1の位置座標との比較から車両挙動を算出し、ピッチング等による車両上下挙動が発生した場合であっても、ピッチング挙動等の補正処理を行って撮像画面14における路面の上下変動を補正するため、ピッチングの影響を受けない安定した路面環境情報を提供できる。
また、撮像画面14から算出したピッチング挙動情報を用いて、補正した方向に照射した照準光T2の位置座標について、ピッチング前の照射方向と同一であるかどうかの検証処理を撮像画面14上の照射基準光T1との比較で行うことができるので、スリット光の照射制御における過渡状態を把握し且つ排除でき、車両挙動が発生した場合でも安定して周囲環境情報を提供できる。
更に、自車両の最近傍領域を走路とし、その領域から照射光を一定の角速度でスキャンしながら走路面と異なる角度を持つ位置を検出するので、走路との段差が検出され、それまでスキャンした領域を走路面として抽出することができる。
また、照射したスリット光を走路面から一定の速度でスキャンし、走路面と異なる角度の面をもつ物を物体として抽出しているため、走路と物体の接点が判別できるのみならず、走路面及びカメラの設置高さから三角測量によって自車両から物体までの距離を容易に算出できる。
さらに、不可視光を照射しその光を撮像しているので、側道を歩行する歩行者などへの影響がない。更に、照射光をある特定のパタン(例えばスリット光)で照射するため、近傍に同様の装置があっても、自分の照射した照射光を他の車両の照射光と区別できる。また、スリット光とカメラの水平方向の軸32を一致させると、近傍から遠方まで視差を補正することなく車両挙動の検出が精度よくできる。
なお、上記の実施の形態では、ピッチング照準光発生装置7の制御装置8とスリット光発光装置5の制御装置6とを別々に設けたが、一つの架台30に並列的に搭載してピッチング補正を行っても良い。
なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
例えば、本車両用環境認識装置を、自動車の後方を向くように設けて後退時に自動車の後方の路面状況を撮像し、車体後方の状況を画面14に表示して監視通報するようにしても良く、自動車以外の車両に適用しても良い。
また、CCDカメラ2はCMOS等他の撮像素子を用いたカメラでも良い。
本発明の実施の形態にかかる車両用環境認識装置のシステムブロック図である。 モニター上の撮像画面と、撮像画面を出力する画像処理プログラムと、撮像画像上のスリット光から車両挙動を検出する車両挙動監視プログラムと、物体検出プログラムと、照射光速度演算プログラム等の関係図を示す説明図である。 本発明の実施の形態により路面を監視する状況を示す説明図である。 本発明の実施の形態にかかるスリット光発光装置の平面的構成を示す図である。 本発明の実施の形態にかかるスリット光発光装置の側面的構成を示す図である。 本発明の実施の形態にかかるピッチング照準光発光装置の側面的構成を示す図である。 本発明の実施の形態にかかるスリット光発光装置とピッチング照準光発光装置との平面的な配備状態を示す図である。 照射光であるスリット光を一定角度で照射して物体を検出するときのスリットの形状変化を示す図である。 スリット光のスキャン走査により路面を検出しているときの撮像画像を示す図である。 スリット光のスキャン走査により路面の物体を検出したときの撮像画像を示す図である。 路面における照射光スキャン時の移動速度変化を示す図である。 ピッチング補正をするための補正前の状態を示す図である。 ピッチングの発生によって補正を必要とする状態を示す図である。 図1の車両用環境認識装置のシステムの全体フロー図である。 図1の車両用環境認識装置のシステムにおけるピッチング補正時のフロー図である。 図1の車両用環境認識装置のシステムにおける物体検出時のフロー図である。
符号の説明
1 車両用環境認識装置
2 CCDカメラ
3 画像メモリ
4 マイクロプロセッサ
5 スリット光発光装置
6 スリット光発光装置の制御装置(姿勢補正手段)
7 ピッチング照準光発光装置
8 ピッチング照準光発光装置の制御装置
P1 路面撮像プログラム
P2 画像処理プログラム
P3 ピッチング照準光制御プログラム
P4 ピッチング監視プログラム(車両挙動監視手段)
P5 ピッチング補正プログラム
P6 スリット光制御プログラム
P7 スリット光速度演算プログラム
P8 走路検出プログラム(路面変化の検出手段)
P9 物体検出プログラム(路面変化の検出手段)
P10 物体距離演算プログラム(路面変化部位の距離演算手段)

Claims (13)

  1. 車幅方向に広がる照射光を、路面上において自車両の近傍から遠方に向けて照射する照射光照射手段と、
    前記照射光を撮像する撮像手段と、
    前記撮像手段が撮像した撮像画像中における前記路面上の凹凸若しくは前記路面上の物体等の路面変化部位による前記照射光の形状変化を検出する照射光形状変化検出手段と、
    前記照射光形状変化検出手段により検出された前記照射光の形状変化に基づいて、前記自車両から前記路面変化部位までの距離を演算する距離演算手段と、
    自車両前方の所定の位置に照準光を照射する照準光照射手段と、
    前記撮像手段が前記照射光を撮像する際に合わせて撮像する前記照準光の位置変化に基づいて、自車両の車両挙動を検出する車両挙動監視手段と、
    該車両挙動監視手段により検出された車両挙動量によって、前記照射光の照射方向を補正する姿勢補正手段と、
    を有することを特徴とする車両用環境認識装置。
  2. 請求項1の車両用環境認識装置において、
    前記車両挙動監視手段は、前記撮像手段が撮像した撮像画像中における補正前後の前記照準光の位置変化に基づいて、前記照射光の照射方向についての補正の信頼性を判定する機能を有することを特徴とする車両用環境認識装置。
  3. 請求項1または請求項2の何れかの車両用環境認識装置において、
    前記照射光の形状変化量が所定時間内において所定値以下である領域を路面として抽出する路面検出手段を
    有することを特徴とする車両用環境認識装置。
  4. 請求項1乃至請求項3の何れかの車両用環境認識装置において、
    前記照射光照射手段は、前記照射光として車幅方向に延びる線状の光を用い、該線状の光を自車両近傍から遠方に走査することを特徴とする車両用環境認識装置。
  5. 請求項4の車両用環境認識装置において、
    前記距離演算手段は、前記照射光が前記路面を走査する照射速度及び走査開始位置から路面変化部位に至るまでの経過時間並びに前記照射光照射手段の路面からの高さに基づいて、前記自車両から前記路面変化部位までの距離を演算する機能を有することを特徴とする車両用環境認識装置。
  6. 請求項1乃至請求項5の何れかの車両用環境認識装置において、
    前記照射光照射手段は、前記照射光として非可視光を用いる
    ことを特徴とする車両用環境認識装置。
  7. 請求項1乃至請求項6の何れかの車両用環境認識装置において、
    前記照射光照射手段は、前記照射光として所定のパターンの光を投光する
    ことを特徴とする車両用環境認識装置。
  8. 請求項1乃至請求項7の何れかの車両用環境認識装置において、
    前記照射光照射手段は、前記照射光を点滅して投光する
    ことを特徴とする車両用環境認識装置。
  9. 請求項1乃至請求項8の何れかの車両用環境認識装置において、
    前記照射光照射手段と前記撮像手段とを同軸に設置した
    ことを特徴とする車両用環境認識装置。
  10. 車幅方向に広がる照射光を、路面上において自車両の近傍から遠方に向かって照射し、
    前記照射光を撮像し、
    前記照射光の撮像画像中における前記路面上の凹凸若しくは前記路面上の物体等の路面変化部位による前記照射光の形状変化を検出し、
    前記照射光の形状変化に基づき、前記自車両から前記路面変化部位までの距離を演算することを特徴とする車両用環境認識方法。
  11. 請求項10の車両用環境認識方法において、
    自車両前方の所定の位置に照準光を照射し、
    前記撮像手段が前記照射光を撮像する際に合わせて撮像する前記照準光の位置変化に基づいて、自車両の車両挙動を検出し、
    検出された自車両の車両挙動量に基づいて前記照射光の照射方向を補正することを特徴とする車両用環境認識方法。
  12. 請求項11の車両用環境認識方法において、
    前記撮像画像における前記照準光の照射方向の位置変化に基づいて、前記補正の信頼性を判定することを特徴とする車両用環境認識方法。
  13. 請求項10乃至請求項12の何れかの車両用環境認識方法において、
    前記照射光の形状変化量が所定時間内において所定値以下である領域を路面として抽出することを特徴とする車両用環境認識方法。
JP2006081137A 2006-03-23 2006-03-23 車両用環境認識装置及び車両用環境認識方法 Expired - Fee Related JP5151050B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006081137A JP5151050B2 (ja) 2006-03-23 2006-03-23 車両用環境認識装置及び車両用環境認識方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006081137A JP5151050B2 (ja) 2006-03-23 2006-03-23 車両用環境認識装置及び車両用環境認識方法

Publications (2)

Publication Number Publication Date
JP2007256090A true JP2007256090A (ja) 2007-10-04
JP5151050B2 JP5151050B2 (ja) 2013-02-27

Family

ID=38630491

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006081137A Expired - Fee Related JP5151050B2 (ja) 2006-03-23 2006-03-23 車両用環境認識装置及び車両用環境認識方法

Country Status (1)

Country Link
JP (1) JP5151050B2 (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009276195A (ja) * 2008-05-14 2009-11-26 Nissan Motor Co Ltd 障害物検出装置
JP2010101683A (ja) * 2008-10-22 2010-05-06 Nissan Motor Co Ltd 距離計測装置および距離計測方法
JP2012154898A (ja) * 2011-01-28 2012-08-16 Nissan Motor Co Ltd 移動体の距離測定装置
WO2014080937A1 (ja) * 2012-11-21 2014-05-30 三菱電機株式会社 画像生成装置
WO2015125298A1 (ja) * 2014-02-24 2015-08-27 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
WO2015125296A1 (ja) * 2014-02-24 2015-08-27 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
WO2015125299A1 (ja) * 2014-02-24 2015-08-27 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
WO2015125297A1 (ja) * 2014-02-24 2015-08-27 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
WO2015125301A1 (ja) * 2014-02-24 2015-08-27 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
WO2015125300A1 (ja) * 2014-02-24 2015-08-27 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
WO2016020970A1 (ja) * 2014-08-04 2016-02-11 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
JPWO2014020744A1 (ja) * 2012-08-02 2016-07-11 トヨタ自動車株式会社 路面状態取得装置およびサスペンションシステム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0587548A (ja) * 1991-05-01 1993-04-06 Hitachi Electron Eng Co Ltd 姿勢角検出装置
JPH05341842A (ja) * 1992-05-07 1993-12-24 Nec Corp 走行車の障害検知装置
JPH10300439A (ja) * 1997-05-01 1998-11-13 Nissan Motor Co Ltd レーザー断面計測装置
JP2004037440A (ja) * 2002-06-29 2004-02-05 Samsung Electronics Co Ltd レーザーを用いる位置測定装置及び方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0587548A (ja) * 1991-05-01 1993-04-06 Hitachi Electron Eng Co Ltd 姿勢角検出装置
JPH05341842A (ja) * 1992-05-07 1993-12-24 Nec Corp 走行車の障害検知装置
JPH10300439A (ja) * 1997-05-01 1998-11-13 Nissan Motor Co Ltd レーザー断面計測装置
JP2004037440A (ja) * 2002-06-29 2004-02-05 Samsung Electronics Co Ltd レーザーを用いる位置測定装置及び方法

Cited By (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009276195A (ja) * 2008-05-14 2009-11-26 Nissan Motor Co Ltd 障害物検出装置
JP2010101683A (ja) * 2008-10-22 2010-05-06 Nissan Motor Co Ltd 距離計測装置および距離計測方法
JP2012154898A (ja) * 2011-01-28 2012-08-16 Nissan Motor Co Ltd 移動体の距離測定装置
JPWO2014020744A1 (ja) * 2012-08-02 2016-07-11 トヨタ自動車株式会社 路面状態取得装置およびサスペンションシステム
WO2014080937A1 (ja) * 2012-11-21 2014-05-30 三菱電機株式会社 画像生成装置
US9709387B2 (en) 2012-11-21 2017-07-18 Mitsubishi Electric Corporation Image generation device for acquiring distances of objects present in image space
JPWO2015125297A1 (ja) * 2014-02-24 2017-03-30 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
JPWO2015125300A1 (ja) * 2014-02-24 2017-03-30 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
WO2015125301A1 (ja) * 2014-02-24 2015-08-27 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
WO2015125300A1 (ja) * 2014-02-24 2015-08-27 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
US10043080B2 (en) 2014-02-24 2018-08-07 Nissan Motor Co., Ltd. Self-position calculating apparatus and self-position calculating method
WO2015125299A1 (ja) * 2014-02-24 2015-08-27 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
CN105981086A (zh) * 2014-02-24 2016-09-28 日产自动车株式会社 自身位置计算装置以及自身位置计算方法
CN105993042A (zh) * 2014-02-24 2016-10-05 日产自动车株式会社 自身位置计算装置以及自身位置计算方法
CN106030681A (zh) * 2014-02-24 2016-10-12 日产自动车株式会社 自身位置计算装置以及自身位置计算方法
CN106030680A (zh) * 2014-02-24 2016-10-12 日产自动车株式会社 自身位置计算装置以及自身位置计算方法
CN106062849A (zh) * 2014-02-24 2016-10-26 日产自动车株式会社 自己位置计算装置及自己位置计算方法
JPWO2015125298A1 (ja) * 2014-02-24 2017-03-30 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
WO2015125296A1 (ja) * 2014-02-24 2015-08-27 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
JPWO2015125296A1 (ja) * 2014-02-24 2017-03-30 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
JPWO2015125301A1 (ja) * 2014-02-24 2017-03-30 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
WO2015125297A1 (ja) * 2014-02-24 2015-08-27 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
US10026196B2 (en) 2014-02-24 2018-07-17 Nissan Motor Co., Ltd. Apparatuses and methods for self-position calculation of a vehicle using a light projector and a camera
CN105993042B (zh) * 2014-02-24 2017-10-20 日产自动车株式会社 自身位置计算装置以及自身位置计算方法
US9684837B2 (en) 2014-02-24 2017-06-20 Nissan Motor Co., Ltd. Self-location calculating device and self-location calculating method
WO2015125298A1 (ja) * 2014-02-24 2015-08-27 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
US9721170B2 (en) 2014-02-24 2017-08-01 Nissan Motor Co., Ltd. Self-location calculating device and self-location calculating method
RU2628420C1 (ru) * 2014-02-24 2017-08-16 Ниссан Мотор Ко., Лтд. Устройство вычисления собственного местоположения и способ вычисления собственного местоположения
CN106030681B (zh) * 2014-02-24 2017-09-05 日产自动车株式会社 自身位置计算装置以及自身位置计算方法
CN106030680B (zh) * 2014-02-24 2017-09-19 日产自动车株式会社 自身位置计算装置以及自身位置计算方法
US9772627B2 (en) 2014-02-24 2017-09-26 Nissan Motor Co., Ltd. Self-position calculating apparatus and self-position calculating method
US9778029B2 (en) 2014-02-24 2017-10-03 Nissan Motor Co., Ltd. Self-position calculating apparatus and self-position calculating method
JPWO2016020970A1 (ja) * 2014-08-04 2017-05-25 日産自動車株式会社 自己位置算出装置及び自己位置算出方法
US9933252B2 (en) 2014-08-04 2018-04-03 Nissan Motor Co., Ltd. Self-position calculating apparatus and self-position calculating method
CN106663376B (zh) * 2014-08-04 2018-04-06 日产自动车株式会社 自身位置计算装置以及自身位置计算方法
CN106663376A (zh) * 2014-08-04 2017-05-10 日产自动车株式会社 自身位置计算装置以及自身位置计算方法
WO2016020970A1 (ja) * 2014-08-04 2016-02-11 日産自動車株式会社 自己位置算出装置及び自己位置算出方法

Also Published As

Publication number Publication date
JP5151050B2 (ja) 2013-02-27

Similar Documents

Publication Publication Date Title
JP5151050B2 (ja) 車両用環境認識装置及び車両用環境認識方法
US9369680B2 (en) Protecting roadside personnel using a camera and a projection system
US9090205B2 (en) Light distribution controller
JP6471528B2 (ja) 物体認識装置、物体認識方法
EP2808700B1 (en) Drive assist device, and vehicle using drive assist device
KR102059244B1 (ko) 라이다 장치
KR102177879B1 (ko) 차량의 객체 검출 장치 및 방법
JP6392903B2 (ja) 交差面により障害物を検出する装置およびこのような装置を使用する検出方法
RU2650098C1 (ru) Устройство обнаружения препятствий на горизонтальной плоскости и способ обнаружения с применением такого устройства
JP5082923B2 (ja) 車両障害物検出装置
JP6811661B2 (ja) 移動体撮像装置および移動体
JP2014154898A (ja) 物体検知装置
JP2002036987A (ja) 車両周囲監視装置
JP6450530B2 (ja) 車載カメラの取付角度調整処理、取付角度検出装置
KR101801041B1 (ko) 레이저 거리 센서의 음영 영역이 제거되는 차량
KR101729482B1 (ko) 차량용 스테레오 카메라의 오정보 방지 장치 및 방법
JP2021113767A (ja) 障害物検知装置、及び障害物検知システム
JP2013101432A (ja) 障害物検出装置及びプログラム
EP2698743B1 (en) Driver assisting system and method for a motor vehicle
JP5761069B2 (ja) 車両周辺障害物検出装置及び障害物検出システム
JP2006327495A (ja) 無限遠点決定装置
KR20220097656A (ko) 운전자 보조 장치, 차량 및 그 제어 방법
KR20220038212A (ko) 차량 및 그 제어 방법
JP2005284797A (ja) 走行安全装置
JP4032053B2 (ja) 車両周辺監視装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110927

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111220

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121119

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151214

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5151050

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees