JP4472623B2 - 車両周辺監視装置 - Google Patents

車両周辺監視装置 Download PDF

Info

Publication number
JP4472623B2
JP4472623B2 JP2005346014A JP2005346014A JP4472623B2 JP 4472623 B2 JP4472623 B2 JP 4472623B2 JP 2005346014 A JP2005346014 A JP 2005346014A JP 2005346014 A JP2005346014 A JP 2005346014A JP 4472623 B2 JP4472623 B2 JP 4472623B2
Authority
JP
Japan
Prior art keywords
image
binarized
height
distance
search
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005346014A
Other languages
English (en)
Other versions
JP2006185431A (ja
Inventor
伸治 長岡
英樹 橋本
雅和 坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2005346014A priority Critical patent/JP4472623B2/ja
Publication of JP2006185431A publication Critical patent/JP2006185431A/ja
Application granted granted Critical
Publication of JP4472623B2 publication Critical patent/JP4472623B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

この発明は、赤外線カメラにより撮影された画像の2値化処理により対象物抽出を行う車両周辺監視装置に関する。
従来、赤外線カメラの撮影により得られた自車両周辺の赤外線画像から、自車両との衝突の可能性がある歩行者等の対象物を抽出し、この対象物の情報を自車両の運転者に提供する表示処理装置が知られている(例えば、特許文献1参照)。
この表示処理装置では、赤外線画像を2値化処理して明部が集中している領域(2値化対象物)を探索し、2値化対象物の縦横比や充足率、更には実面積と赤外線画像上の重心位置とにより算出した距離に基づき、2値化対象物が歩行者の頭部であるか否かを判定する。そして、歩行者の頭部領域の赤外線カメラからの距離と、成人の平均身長とから、赤外線画像上の歩行者の身長を算出すると共に、歩行者の身体を包含する身体領域を設定し、頭部領域および身体領域を他の領域と区分して表示することにより、歩行者に対する運転者の視覚補助を行うようになっている。
また、赤外線画像を2値化処理して明部が集中している領域(2値化対象物)を探索し、2値化対象物の上下方向に2値化対象物と同距離にある画像領域を抽出し、2値化対象物と、2値化対象物と同距離にある画像領域から対象物の高さを算出して、対象物を歩行者であると認識する技術が知られている(例えば、特許文献2参照)。
特開平11−328364号公報 特開2003−216937号公報
ところで、上記従来技術の一例に係る表示処理装置においては、赤外線画像上での頭部領域や身体領域に対する形状判定に基づいて歩行者を検知していることから、歩行者の形状、特に頭部の形状と類似した大きさおよび高さ位置を有して発熱する人工構造物と、歩行者とを識別することが困難になる虞がある。
また、上記特許文献2では、赤外線画像上で2値化対象物及び2値化対象物の上下方向で2値化対象物と同距離にある画像領域に基づき対象物の高さを算出し、歩行者認識を行うだけであるから、2値化対象物の手前に障害物が存在した場合に、2値化対象物の下方では2値化対象物と同距離の領域を検出することができず、対象物の実際の高さを精度良く検知することが困難となって、歩行者を認識することが困難となる虞がある。
本発明は上記事情に鑑みてなされたもので、赤外線画像上において歩行者と人工構造物とを的確に区別して抽出することが可能な車両周辺監視装置を提供することを目的としている。
上記課題を解決して係る目的を達成するために、請求項1に記載の本発明の車両周辺監視装置は、赤外線撮像手段(例えば、実施の形態での赤外線カメラ2R,2L)の撮像により得られた画像に基づき自車両の外界に存在する物体を対象物として抽出する車両周辺監視装置であって、前記画像のグレースケール画像を2値化処理して得た画像データから2値化対象物を抽出する2値化対象物抽出手段(例えば、実施の形態でのステップS7)と、前記赤外線撮像手段と、前記2値化対象物抽出手段により抽出された前記2値化対象物との間、かつ前記グレースケール画像上での前記2値化対象物の下方に、障害物とされる他の物体が存在するか否かを判定する障害物判定手段(例えば、実施の形態でのステップS34)と、前記障害物判定手段の判定結果において障害物が存在すると判定された場合、前記グレースケール画像上での前記障害物の高さ寸法と、前記赤外線撮像手段から前記障害物までの距離と、前記赤外線撮像手段から前記2値化対象物までの距離とに基づき、前記障害物によって遮蔽された前記2値化対象物の部位の高さ寸法を推定し、該推定した高さ寸法と、前記グレースケール画像上での前記2値化対象物の高さ寸法とを加算して得た高さを、前記2値化対象物の実際の高さ寸法として算出する高さ算出手段(例えば、実施の形態でのステップS34が兼ねる)と、前記高さ算出手段により算出された前記2値化対象物の高さ寸法に基づき前記対象物の種別を判定する対象物種別判定手段(例えば、実施の形態でのステップS34が兼ねる)とを備えることを特徴としている。
上記の車両周辺監視装置によれば、赤外線撮像手段と2値化対象物との間に障害物が存在することで、2値化対象物の下端を直接的に検出することができずに、2値化対象物の高さ寸法を誤検出する虞がある場合であっても、グレースケール画像上での障害物の高さ寸法に基づき2値化対象物の高さ寸法を算出することによって、高さ寸法の誤検出の発生を防止することができる。例えば、高さ算出手段は、グレースケール画像上での障害物の高さ寸法と、赤外線撮像手段から障害物までの距離と、赤外線撮像手段から2値化対象物までの距離とに基づき、障害物によって遮蔽された2値化対象物の部位の高さ寸法を推定し、この推定した高さ寸法と、直接的に検出されている2値化対象物の高さ寸法とを加算して得た値を、新たに2値化対象物の高さ寸法として設定する。これにより、2値化対象物の高さ寸法の精度を向上させ、この高さ寸法に応じて2値化対象物の種別を精度良く判定することができる。
さらに、請求項2に記載の本発明の車両周辺監視装置は、赤外線撮像手段(例えば、実施の形態での赤外線カメラ2R,2L)の撮像により得られた画像に基づき自車両の外界に存在する物体を対象物として抽出する車両周辺監視装置であって、前記画像のグレースケール画像を2値化処理して得た画像データから2値化対象物を抽出する2値化対象物抽出手段(例えば、実施の形態でのステップS7)と、前記グレースケール画像上において、前記2値化対象物抽出手段により抽出された前記2値化対象物の下方に所定高さ幅を有し互いに隣接する複数の第1探索領域(例えば、実施の形態での第1探索領域Mask_U1(I))を設定する第1探索領域設定手段(例えば、実施の形態でのステップS34が兼ねる)と、前記2値化対象物抽出手段により抽出された前記2値化対象物と前記赤外線撮像手段との間の距離に係る状態量である2値化対象物距離(例えば、実施の形態での視差Δd)と、前記第1探索領域設定手段により設定された各前記複数の第1探索領域と前記赤外線撮像手段との間の距離に係る状態量である第1探索領域距離(例えば、実施の形態での視差dn1(I))とを比較し、前記2値化対象物距離よりも短い前記第1探索領域距離に対応する前記複数の第1探索領域を新たに複数の第2探索領域(例えば、実施の形態での第2探索領域Mask_U2(I))として設定する第2探索領域設定手段(例えば、実施の形態でのステップS34が兼ねる)と、前記第2探索領域設定手段により設定された前記第2探索領域が前記2値化対象物に連続して配置されているか否かを判定する連続性判定手段(例えば、実施の形態でのステップS34が兼ねる)と、前記連続性判定手段により各前記複数の第2探索領域が連続して配置されていると判定された場合、前記グレースケール画像上での各前記複数の第2探索領域の高さ寸法と前記赤外線撮像手段から前記第2探索領域までの距離と、前記2値化対象物距離とに基づき、前記複数の第2探索領域によって遮蔽された前記2値化対象物の部位の高さ寸法を推定し、該推定した高さ寸法と、前記グレースケール画像上での前記2値化対象物の高さ寸法とを加算して得た高さを、前記2値化対象物の実際の高さ寸法として設定する高さ算出手段(例えば、実施の形態でのステップS34が兼ねる)と、前記高さ算出手段により算出された前記2値化対象物の高さ寸法に基づき前記対象物の種別を判定する対象物種別判定手段(例えば、実施の形態でのステップS34が兼ねる)とを備えることを特徴としている。
上記の車両周辺監視装置によれば、赤外線撮像手段と2値化対象物との間に相対的に大きな物体(例えば、壁等)が存在し、赤外線撮像手段の撮像により得られた画像において、この物体の上端から上方に向かい突出するようにして2値化対象物が存在する場合であっても、この物体の高さ寸法を精度良く検出することができ、さらに、この物体の高さ寸法に基づき2値化対象物の高さ寸法を算出することによって、2値化対象物の高さ寸法の誤検出の発生を防止することができる。すなわち、連続性判定手段により、縦方向で2値化対象物に隣接するようにして配置された一連の第2探索領域が存在するか否かを判定することにより、2値化対象物よりも手前側に存在する物体の高さ寸法を精度良く検出することができる。さらに、高さ算出手段は、グレースケール画像上での物体の高さ寸法と、赤外線撮像手段から物体までの距離と、赤外線撮像手段から2値化対象物までの距離とに基づき、物体によって遮蔽された2値化対象物の部位の高さ寸法を推定し、この推定した高さ寸法と、直接的に検出されている2値化対象物の高さ寸法とを加算して得た値を、新たに2値化対象物の高さ寸法として設定する。これにより、2値化対象物の高さ寸法の精度を向上させ、この高さ寸法に応じて2値化対象物の種別を精度良く判定することができる。
さらに、請求項3に記載の本発明の車両周辺監視装置では、前記連続性判定手段は、前記2値化対象物あるいは適宜の前記第2探索領域から所定距離以内に存在する前記第2探索領域を、連続して配置されている前記第2探索領域であると判定することを特徴としている。
上記の車両周辺監視装置によれば、例えば所定距離として相対的に短い値(例えば、隣接する第2探索領域が含まれる程度の距離等)を設定することで、隣接する第2探索領域を的確に抽出することができ、例えば所定距離として相対的に長い値(例えば、少なくとも複数の隣接する第2探索領域が含まれる程度の距離等)を設定することで、検出誤差等に起因して局所的に第2探索領域の抽出が不可となる場合であっても、実際には第2探索領域が連続して配置されていると判定することができ、2値化対象物よりも手前側に存在する物体の高さ寸法を精度良く検出することができる。
さらに、請求項4に記載の本発明の車両周辺監視装置は、前記画像に基づき自車両の外界に存在する歩行者を認識する歩行者認識手段(例えば、実施の形態でのステップS35)を備え、該歩行者認識手段は、前記対象物種別判定手段により人工構造物以外あるいは歩行者であると判定された前記対象物に対して歩行者認識処理を実行することを特徴としている。
上記の車両周辺監視装置によれば、歩行者であると判定された対象物に加えて、人工構造物以外であると判定された対象物に対して歩行者認識処理を実行することにより、歩行者の認識精度を向上させることができる。
さらに、請求項5に記載の本発明の車両周辺監視装置は、前記対象物種別判定手段により人工構造物以外あるいは歩行者であると判定された前記対象物に対して警報を出力する警報出力手段(例えば、実施の形態でのステップS19)を備えることを特徴としている。
上記の車両周辺監視装置によれば、歩行者であると判定された対象物に加えて、人工構造物以外であると判定された対象物に対して警報を出力することから、人工構造物に対して不必要な警報を出力してしまうことを防止することができる。
以上説明したように、請求項1に記載の本発明の車両周辺監視装置によれば、グレースケール画像上での障害物の高さ寸法に基づき2値化対象物の高さ寸法を算出することによって、高さ寸法の誤検出の発生を防止することができる。
さらに、請求項2に記載の本発明の車両周辺監視装置によれば、赤外線撮像手段と2値化対象物との間に相対的に大きな物体(例えば、壁等)が存在する場合であっても、この物体の高さ寸法を精度良く検出することができ、さらに、この物体の高さ寸法に基づき2値化対象物の高さ寸法を算出することによって、2値化対象物の高さ寸法の誤検出の発生を防止することができる。
さらに、請求項3に記載の本発明の車両周辺監視装置によれば、所定距離の大きさに応じて2値化対象物よりも手前側に存在する物体の高さ寸法を精度良く検出することができる。
さらに、請求項4に記載の本発明の車両周辺監視装置によれば、歩行者の認識精度を向上させることができる。
さらに、請求項5に記載の本発明の車両周辺監視装置によれば、人工構造物に対して不必要な警報を出力してしまうことを防止することができる。
以下、本発明の一実施形態に係る車両周辺監視装置について添付図面を参照しながら説明する。
本実施の形態による車両周辺監視装置は、例えば図1に示すように、車両周辺監視装置を制御するCPU(中央演算装置)を備えた画像処理ユニット1と、遠赤外線を検出可能な2つの赤外線カメラ2R,2Lと、自車両のヨーレートを検出するヨーレートセンサ3と、自車両の走行速度(車速)を検出する車速センサ4と、運転者によるブレーキ操作の有無を検出するブレーキセンサ5と、スピーカ6と、表示装置7とを備えて構成され、例えば、画像処理ユニット1は2つの赤外線カメラ2R,2Lの撮影により得られる自車両周辺の赤外線画像と、各センサ3,4,5により検出される自車両の走行状態に係る検出信号とから、自車両の進行方向前方の歩行者や動物等の移動体を検出し、検出した移動体と自車両との接触が発生する可能性があると判断したときに、スピーカ6または表示装置7を介して警報を出力するようになっている。
なお、表示装置7は、例えば自車両の各種走行状態量を表示する計器類と一体化された表示装置やナビゲーション装置の表示装置、さらにフロントウィンドウにおいて運転者の前方視界を妨げない位置に各種情報を表示するHUD(Head Up Display)7a等を備えて構成されている。
また、画像処理ユニット1は、入力アナログ信号をディジタル信号に変換するA/D変換回路と、ディジタル化した画像信号を記憶する画像メモリと、各種演算処理を行うCPU(中央演算装置)と、CPUが演算途中のデータを記憶するために使用するRAM(Random Access Memory)と、CPUが実行するプログラムやテーブル、マップなどを記憶するROM(Read Only Memory)と、スピーカ6の駆動信号やHUD7a等の表示信号などを出力する出力回路とを備えており、赤外線カメラ2R,2Lおよび各センサ3,4,5から出力される信号は、ディジタル信号に変換されてCPUに入力されるように構成されている。
なお、例えば図2に示すように、赤外線カメラ2R,2Lは、自車両10の前部に、自車両10の車幅方向中心部に対してほぼ対象な位置に配置されており、2つの赤外線カメラ2R,2Lの光軸が互いに平行であって、かつ両者の路面からの高さが等しくなるように固定されている。なお、赤外線カメラ2R,2Lは、対象物の温度が高いほど、出力信号レベルが高くなる(つまり、輝度が増大する)特性を有している。
また、HUD7aは、自車両10のフロントウインドウの運転者の前方視界を妨げない位置に表示画面が表示されるように設けられている。
本実施の形態による車両周辺監視装置は上記構成を備えており、次に、この車両周辺監視装置の動作について添付図面を参照しながら説明する。
以下に、画像処理ユニット1における歩行者等の対象物検出および警報出力の動作について説明する。
まず、図3に示すステップS1において、画像処理ユニット1は、赤外線カメラ2R,2Lの出力信号である赤外線画像を取得する。
次に、ステップS2においては、取得した赤外線画像をA/D変換する。
次に、ステップS3においては、中間階調情報を含むグレースケール画像を取得して、画像メモリに格納する。なお、ここでは赤外線カメラ2Rにより右画像が得られ、赤外線カメラ2Lにより左画像が得られる。また、右画像と左画像とでは、同一の対象物の表示画面上の水平位置がずれて表示されるので、このずれ(つまり、視差)により自車両10から対象物までの距離を算出することができる。
次に、ステップS4においては、赤外線カメラ2Rにより得られた右画像を基準画像とし、この画像信号の2値化処理、すなわち所定輝度閾値ITHより明るい領域を「1」(白)とし、暗い領域を「0」(黒)とする処理を行う。
なお、以下のステップS4〜ステップS9の処理は、2値化処理により得た基準画像(例えば、右画像)について実行する。
次に、ステップS5においては、赤外線画像に2値化処理を実行して得た画像データをランレングスデータに変換する。ランレングスデータでは、2値化処理により白となった領域を画素レベルでラインとして表示し、各ラインはy方向に1画素の幅を有し、x方向に適宜の画素数の長さを有するように設定されている
次に、ステップS6においては、ランレングスデータに変換された画像データにおいて、対象物のラベリングを行う。
次に、ステップS7においては、対象物のラベリングに応じて対象物を抽出する。ここでは、ランレングスデータにおける各ラインのうち、同等のx方向座標を含むライン同士がy方向で隣接する場合に、隣接するラインが単一の対象物を構成しているとみなす。
次に、ステップS8においては、抽出した対象物の重心Gと、面積Sと、外接四角形の縦横比ASPECTとを算出する。
ここで、面積Sは、ラベルAの対象物のランレングスデータを(x[i]、y[i]、run[i]、A)(i=0,1,2,…,N−1;Nは任意の自然数)とすると、各ランレングスデータの長さ(run[i]−1)を同一対象物において積算することにより算出する。
また、ラベルAの対象物の重心Gの座標(xc、yc)は、各ランレングスデータの長さ(run[i]−1)と、各ランレングスデータの座標x[i]またはy[i]とを乗算して得た値(つまり、(run[i]−1)×x[i]または(run[i]−1)×y[i])を同一対象物において積算して得た値を、面積Sで除算することにより算出する。
さらに、縦横比ASPECTは、ラベルAの対象物の外接四角形の縦方向の長さDyと横方向の長さDxとの比Dy/Dxとして算出する。
なお、ランレングスデータは画素数(座標数)(=run[i])で示されているので、実際の長さは「−1」する必要がある(=run[i]−1)。また、重心Gの座標は、外接四角形の重心座標で代用してもよい。
次に、ステップS9およびステップS10の処理と、ステップS11〜ステップS13の処理とを並行して実行する。
まず、ステップS9においては、対象物の時刻間追跡、すなわちサンプリング周期毎の同一対象物の認識を行う。この時刻間追跡は、アナログ量としての時刻tをサンプリング周期で離散化した時刻をkとし、例えば時刻kで対象物A、Bを抽出した場合、時刻(k+1)で抽出した対象物C、Dと対象物A、Bとの同一性判定を行う。そして、対象物A、Bと対象物C、Dとが同一であると判定された場合には、対象物C、Dのラベルをそれぞれ対象物A、Bのラベルに変更する。そして、認識された各対象物の位置座標(例えば、重心等)を、時系列位置データとして適宜のメモリに格納する。
次に、ステップS10においては、車速センサ4により検出された車速VCARおよびヨーレートセンサ3より検出されたヨーレートYRを取得し、ヨーレートYRを時間積分して、自車両10の回頭角θrを算出する。
一方、ステップS9およびステップS10の処理に並行して実行されるステップS11〜ステップS13においては、対象物と自車両10との距離zを算出する。なお、このステップS11の処理は、ステップS9およびステップS10の処理よりも長い演算時間を要することから、ステップS9およびステップS10よりも長い周期(例えば、ステップS1〜ステップS10の実行周期の3倍程度の周期等)で実行されるようになっている。
先ず、ステップS11においては、基準画像(例えば、右画像)を2値化処理して得た画像データ上で追跡される複数の対象物のうちから1つの対象物を選択し、例えば選択した対象物を外接四角形で囲む領域全体を探索画像R1として基準画像(例えば、右画像)から抽出する。
次に、ステップS12においては、基準画像(例えば、右画像)に対応する画像(例えば、左画像)中から探索画像R1に対応する画像(対応画像)R2を探索する探索領域を設定し、相関演算を実行して対応画像R2を抽出する。ここでは、例えば探索画像R1の各頂点座標に応じて、左画像中に探索領域を設定し、探索領域内で探索画像R1との相関の高さを示す輝度差分総和値C(a,b)を算出し、この総和値C(a,b)が最小となる領域を対応画像R2として抽出する。なお、この相関演算は、2値化処理して得た画像データではなく、グレースケール画像に対して実行する。また、同一対象物についての過去の位置データが存在する場合には、過去の位置データに基づいて探索領域を狭めることが可能である。
次に、ステップS13においては、探索画像R1の重心位置と、対応画像R2の重心位置と、画素数単位での視差Δdとを算出し、さらに、自車両10と対象物との距離つまり赤外線カメラ2R,2Lのレンズと対象物との距離(対象物距離)z(m)を、例えば下記数式(1)に示すように、カメラ基線長、つまり赤外線カメラ2R,2Lの各撮像素子の中心位置間の水平距離D(m)と、カメラ焦点距離、つまり赤外線カメラ2R,2Lの各レンズの焦点距離f(m)と、画素ピッチp(m/pixel)と、視差Δd(pixel)とに基づき算出する。
Figure 0004472623
そして、ステップS14においては、ステップS10での回頭角θrの算出と、ステップS13での距離zの算出との完了後に、例えば下記数式(2)に示すように、画像データ上での対象物の座標(x,y)および距離zを実空間座標(X,Y,Z)に変換する。
ここで、実空間座標(X,Y,Z)は、例えば図2に示すように、自車両10の前部における赤外線カメラ2R,2Lの取り付け位置の中点の位置を原点Oとして設定され、画像データ上の座標は、画像データの中心を原点として水平方向をx方向、垂直方向をy方向として設定されている。また、座標(xc,yc)は、基準画像(例えば、右画像)上の座標(x,y)を、赤外線カメラ2Rの取付位置と、実空間の原点Oとの相対位置関係に基づいて、実空間の原点Oと画像データの中心とを一致させて得た仮想的な画像上の座標に変換して得た座標である。
Figure 0004472623
次に、ステップS15においては、自車両10が回頭することによる画像上の位置ずれを補正するための回頭角補正を行う。この回頭角補正は、時刻kから時刻(k+1)までの期間中に自車両10が、例えば左方向に回頭角θrだけ回頭すると、赤外線カメラ2R,2Lによって得られる画像データ上では、画像データの範囲がΔxだけx方向にずれるのことを補正する処理であり、例えば下記数式(3)に示すように、実空間座標(X,Y,Z)を補正して得た補正座標(Xr,Yr,Zr)を、新たに実空間座標(X,Y,Z)として設定する。
Figure 0004472623
次に、ステップS16においては、同一対象物について所定時間ΔTのモニタ期間内に得られた回頭角補正後のN(例えば、N=10程度)個の時系列データをなす実空間位置データから、対象物と自車両10との相対移動ベクトルに対応する近似直線LMVを算出する。
このステップS16においては、最新の位置座標P(0)=(X(0),Y(0),Z(0))と、(N−1)サンプル前(つまり、所定時間ΔT前)の位置座標P(N−1)=(X(N−1),Y(N−1),Z(N−1))とを、近似直線LMV上の位置に補正し、補正後の位置座標Pv(0)=(Xv(0),Yv(0),Zv(0))およびPv(N−1)=(Xv(N−1),Yv(N−1),Zv(N−1))を算出する。
これにより、位置座標Pv(N−1)からPv(0)に向かうベクトルとして、相対移動ベクトルが得られる。
このように所定時間ΔTのモニタ期間内の複数(例えば、N個)の実空間位置データから対象物の自車両10に対する相対移動軌跡を近似する近似直線を算出して相対移動ベクトルを求めることにより、位置検出誤差の影響を軽減して自車両10と対象物との接触発生の可能性を精度良く予測することが可能となる。
次に、ステップS17においては、例えば検出した対象物と自車両10との接触発生の可能性の有無等に応じた警報判定処理において、検出した対象物が警報対象であるか否かを判定する。
この判定結果が「NO」の場合には、ステップS1へ戻り、上述したステップS1〜ステップS17の処理を繰り返す。
一方、この判定結果が「YES」の場合には、ステップS18に進む。
そして、ステップS18においては、例えばブレーキセンサ5の出力BRに基づく自車両10の運転者がブレーキ操作を行っているか否か等に応じた警報出力判定処理において、警報出力が必要か否かを判定する。
ステップS18の判定結果が「NO」の場合、例えば自車両10の運転者がブレーキ操作を行っている場合に発生する加速度Gs(減速方向を正とする)が所定閾値GTHよりも大きいとき場合には、運転者のブレーキ操作により接触発生が回避されると判断して、判定して、ステップS1へ戻り、上述したステップS1〜ステップS18の処理を繰り返す。
一方、ステップS18の判定結果が「YES」の場合、例えば自車両10の運転者がブレーキ操作を行っている場合に発生する加速度Gs(減速方向を正とする)が所定閾値GTH以下である場合、あるいは、自車両10の運転者がブレーキ操作を行っていない場合には、 一方、ステップS18の判定結果が「YES」の場合には、接触発生の可能性が高いと判断して、ステップS19に進む。
なお、所定閾値GTHは、ブレーキ操作中の加速度Gsが維持された場合に、対象物と自車両10との間の距離が所定の距離Zv(0)以下で自車両10が停止する状態に対応する値である。
そして、ステップS19においては、例えばスピーカ6を介した音声等の聴覚的警報や、例えば表示装置7を介した表示等の視覚的警報や、例えばシートベルトに所定の張力を発生させて運転者が触覚的に知覚可能な締め付け力を作用させたり、例えばステアリングホイールに運転者が触覚的に知覚可能な振動(ステアリング振動)を発生させることによる触覚的警報を出力する。
次に、ステップS20においては、表示装置7に対して、例えば赤外線カメラ2Rにより得られる画像データを出力し、相対的に接近する対象物を強調映像として表示する。
以下に、上述したステップS17における警報判定処理について添付図面を参照しながら説明する。
この警報判定処理は、例えば図4に示すように、衝突判定処理と、接近判定領域内か否かの判定処理と、進入衝突判定処理と、人工構造物判定処理と、歩行者判定処理とにより、自車両10と検出した対象物との接触発生の可能性を判定する処理である。なお、以下においては、例えば図5に示すように、自車両10の進行方向(例えば、Z方向)に対してほぼ直交する方向において速度Vpで移動する対象物20が存在する場合を参照して説明する。
まず、図4に示すステップS31においては、衝突判定処理を行う。この衝突判定処理では、例えば図5において、対象物20が所定時間ΔTの間に、自車両10の進行方向に平行な方向に沿って距離Zv(N−1)から距離Zv(0)に接近した場合に、自車両10のZ方向での相対速度Vsを算出し、自車両10と対象物20とが所定地上高H以内で相対速度Vsを維持して移動すると仮定した場合に、所定の余裕時間Ts以内に自車両10と対象物20とが接触するか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS37に進む。
一方、この判定結果が「YES」の場合には、ステップS32に進む。
なお、余裕時間Tsは、接触発生の可能性を、予測される接触発生時刻よりも所定時間Tsだけ以前のタイミングで判定するための時間であって、例えば2〜5秒程度に設定される。また、所定地上高Hは、例えば自車両10の車高の2倍程度の値に設定される。
次に、ステップS32においては、検出した対象物が所定の接近判定領域内に存在するか否かを判定する。この判定処理では、例えば図6に示すように、赤外線カメラ2R,2Lで監視可能な領域AR0内において、自車両10から距離(Vs×Ts)だけ前方の位置Z1よりも手前の領域であって、車両横方向(つまり、X方向)において自車両10の車幅αの両側に所定幅β(例えば、50〜100cm程度)を加算して得た幅(α+2β)を有する所定地上高Hの領域AR1、すなわち対象物が存在し続ければ自車両10との接触発生の可能性が極めて高い接近判定領域AR1内に対象物が存在するか否かを判定する。
この判定結果が「YES」の場合には、後述するステップS34に進む。
一方、この判定結果が「NO」の場合には、ステップS33に進む。
そして、ステップS33においては、対象物が接近判定領域内に進入して自車両10と接触する可能性があるか否かを判定する進入衝突判定処理を行う。この進入衝突判定処理では、例えば図6に示すように、車両横方向(つまり、X方向)において接近判定領域AR1の外側に存在する所定地上高Hの進入判定領域AR2、AR3内に存在する対象物が、移動して接近判定領域AR1に進入すると共に自車両10と接触する可能性があるか否かを判定する。
この判定結果が「YES」の場合には、後述するステップS36に進む。
一方、この判定結果が「NO」の場合には、後述するステップS37に進む。
そして、ステップS34においては、対象物が人工構造物であるか否かを判定する人工構造物判定処理を行う。この人工構造物判定処理では、後述するように、例えば歩行者にはあり得ない特徴が検出された場合に対象物は人工構造物であると判定し、警報の対象から除外する。
この判定結果が「NO」の場合には、ステップS35に進む。
一方、この判定結果が「YES」の場合には、ステップS37に進む。
そして、ステップS35においては、対象物が歩行者である可能性があるか否かを判定する歩行者判定処理を行う。
ステップS35の判定結果が「YES」の場合には、ステップS36に進む。
一方、ステップS35の判定結果が「NO」の場合には、後述するステップS37に進む。
そして、ステップS36においては、上述したステップS33において対象物が接近判定領域内へ進入して自車両10と接触する可能性がある場合(ステップS33のYES)、あるいは、ステップS35において人工構造物ではないと判定された対象物が歩行者であると判定された場合(ステップS35のYES)には、検出した対象物と自車両10との接触発生の可能性があると判断して、対象物は警報の対象であると判定し、一連の処理を終了する。
一方、ステップS37においては、上述したステップS31において所定の余裕時間Ts以内に自車両10と対象物とが接触する可能性がない場合(ステップS31のNO)、あるいは、ステップS33において対象物が接近判定領域内へ進入して自車両10と接触する可能性がない場合(ステップS33のNO)、あるいは、ステップS34において対象物が人工構造物であると判定された場合(ステップS34のYES)、あるいはステップS34において人工構造物ではないと判定された対象物がさらに歩行者ではないと判定された場合(ステップS35のNO)には、検出した対象物と自車両10との接触発生の可能性がないと判断して、対象物は警報の対象ではないと判定し、一連の処理を終了する。
以下に、上述したステップS34での人工構造物判定処理およびステップS35での歩行者判定処理において、画像データ上において複数の対象物が重なり合うようにして認識された場合に、2値化対象物の高さ寸法(縦幅)を算出する処理について説明する。
この人工構造物判定処理では、先ず、グレースケール領域(つまり、グレースケール画像上での対象物の存在領域)の下端位置を算出する。
先ず、例えば図7に示すように、基準画像(例えば、赤外線カメラ2Rにより得られた右画像)上において、2値化対象物OBの下端から下方に向かい互いに隣接する所定の縦幅(高さ幅)dyPおよび横幅dxPの複数の第1探索領域Mask_U1(I)(Iは適宜の正の整数)を設定する。
ここで、所定の横幅dxPは、例えば実空間の所定横幅MASK_W(例えば、歩行者の肩幅よりも大きい値であって、70cm等)を画像上に展開した値(=焦点距離f×所定横幅MASK_W/対象物距離z)、または、所定値(例えば、2値化対象物の幅Wb+2×所定値M_W;ただし、所定値M_Wは2pixel等)のうち、何れか大きい方の値が設定される。
また、所定の縦幅dyPは、例えば実空間の所定縦幅MASK_H(例えば、10cm等)を画像上に展開した値(=焦点距離f×所定横幅MASK_H/対象物距離z)、または、所定の最小値のうち、何れか大きい方の値が設定される。
そして、2値化対象物OBに連続して配置されている各第1探索領域Mask_U1(I)に対して、右画像と左画像との相間演算(Sum of Absolute difference)により各第1探索領域Mask_U1(I)の視差dn1(I)を算出し、この視差dn1(I)と、上述したステップS13にて算出した視差Δdとに基づき、
|dn1(I)−Δd|<所定閾値DISP_TH、または、
(dn1(I)−Δd)≧所定閾値DISP_TH
となる最下端位置の第1探索領域Mask_U1(I)を検出する。
ここで、|dn1(I)−Δd|<所定閾値DISP_TH、つまり2値化対象物OBと最下端位置の第1探索領域Mask_U1(I)との視差が略同等である場合には、この第1探索領域Mask_U1(I)の左上頂点UL1(I)の座標(xP1(I),yP1(I))により、グレースケール領域の下端位置Ob_min_yは、例えば図7に示すように、
Ob_min_y=yP1(I)+dyP
となる。
なお、図7においては、2値化対象物OBの外接四角形の左上頂点の座標(xb,yb)と、外接四角形の幅Wbと、外接四角形の高さHbとにより、2値化対象物OBの下端位置(yb+Hb)と、2値化対象物OBの重心の横方向(x方向)位置(xb+Wb/2)とを示した。
また、(dn1(I)−Δd)≧所定閾値DISP_TH、つまり例えば図8および図9に示すように、2値化対象物OBよりも手前の位置に他の対象物O1(例えば、壁等)が存在する場合には、2値化対象物OBと略同等の視差を有する最下端位置の第1探索領域Mask_U1(K)(Kは適宜の整数)の下端位置D_F_yPにより、画像上における他の対象物O1(例えば、壁等)の高さdelta_Hを、
delta_H=yP1(I)+dyP/2−D_F_yPとし、
他の対象物O1によって遮蔽されている2値化対象物OBの縦幅O_delta_Hを、赤外線カメラ2R,2Lの地上高Cam_Hと、赤外線カメラ2R,2Lから他の対象物O1までの距離dとに基づき、
O_delta_H=(delta_H−d_Cam_H)+z_Cam_H
とする。なお、
d_Cam_H=f×Cam_H/d、z_Cam_H=f×Cam_H/z
である。
これにより、2値化対象物OBの実際の高さ寸法(縦幅)は、グレースケール画像上で検知される2値化対象物OBの見かけ上の縦幅に縦幅O_delta_Hを加算して得た値となり、グレースケール領域の下端位置Ob_min_yは、
Ob_min_y=D_F_yP+O_delta_H
となる。
次に、グレースケール領域の上端位置を算出する際には、下端位置を算出する場合に対応して、2値化対象物OBの上端から上方に向かい互いに隣接する所定の縦幅(高さ幅)dyPおよび横幅dxPの複数の探索領域Mask_U(I)(Iは適宜の正の整数)を設定する。
ここで、所定の横幅dxPは、例えば実空間の所定横幅MASK_W(例えば、歩行者の肩幅よりも大きい値であって、70cm等)を画像上に展開した値(=焦点距離f×所定横幅MASK_W/対象物距離z)、または、所定値(例えば、2値化対象物の幅Wb+2×所定値M_W;ただし、所定値M_Wは2pixel等)のうち、何れか大きい方の値が設定される。
また、所定の縦幅dyPは、例えば実空間の所定縦幅MASK_H(例えば、10cm等)を画像上に展開した値(=焦点距離f×所定横幅MASK_H/対象物距離z)、または、所定の最小値のうち、何れか大きい方の値が設定される。
そして、2値化対象物OBに連続して配置されている各探索領域Mask_U(I)に対して、右画像と左画像との相間演算(Sum of Absolute difference)により各探索領域Mask_U(I)の視差dn(I)を算出し、この視差dn(I)と、上述したステップS13にて算出した視差Δdとに基づき、
|dn(I)−Δd|<所定閾値DISP_TH
となる最上端位置の探索領域Mask_U(I)を検出する。
この最上端位置の探索領域Mask_U(I)の左上頂点UL(I)の座標(xP(I),yP(I))により、グレースケール領域の上端位置Ob_max_yは、
Ob_max_y=yP(I)
となる。
これにより、グレースケール領域は、上端位置Ob_max_yから下端位置Ob_min_yに到る縦幅および横幅dxPを有する領域として設定される。
上述したように、本実施の形態による車両周辺監視装置によれば、赤外線カメラ2R,2Lと2値化対象物OBとの間に障害物(他の対象物O1)が存在することで、2値化対象物OBの実際の下端を直接的に検出することができずに、2値化対象物OBの高さ寸法を誤検出する虞がある場合であっても、グレースケール画像上での障害物(他の対象物O1)の高さ寸法(高さdelta_H)に基づき、障害物(他の対象物O1)によって遮蔽されている2値化対象物OBの高さ寸法(縦幅O_delta_H)を算出することによって、2値化対象物OBの実際の高さ寸法の誤検出の発生を防止することができる。
そして、上述した処理によって算出された2値化対象物の高さ寸法(縦幅)が歩行者として許容される範囲の値であった場合には、2値化対象物が歩行者であると判断し、算出された2値化対象物の高さ寸法(縦幅)が歩行者として許容される範囲外の値であった場合には2値化対象物が人工構造物であると判断することができる。
なお、上述した実施の形態において、2値化対象物OBよりも手前の位置に他の対象物(例えば、壁等)が存在する場合には、(dn1(I)−Δd)≧所定閾値DISP_THとなる最下端位置の第1探索領域Mask_U1(I)を検出するとしたが、これに限定されず、例えば図10に示すように、各第1探索領域Mask_U1(I)に対して、(dn1(I)−Δd)≧所定閾値DISP_THとなり(つまり、赤外線カメラ2R,2Lと、2値化対象物OBとの間に、障害物とされる他の対象物O1が存在すると判定され)、互いに略同等の視差を有する1つまたは複数の第1探索領域Mask_U1(I)を、新たに第2探索領域Mask_U2(I)として設定してもよい。
この場合には、設定された第2探索領域Mask_U2(I)が2値化対象物OBに連続して配置されているか否かを判定し、互いに略同等の視差を有すると共に2値化対象物OBに連続して配置されている1つまたは複数の第2探索領域Mask_U2(I)のうちから、最下端位置の第2探索領域Mask_U2(I)を検出し、2値化対象物OBと略同等の視差を有し、2値化対象物OBに連続して配置されている最下端位置の第1探索領域Mask_U(I)の下端位置D_F_yPと、最下端位置の第2探索領域Mask_U2(I)の下端位置とに基づき、グレースケール領域の下端位置Ob_min_yを算出してもよい。
さらに、この場合、第2探索領域Mask_U2(I)が2値化対象物OBに連続して配置されているか否かを判定する際に、互いに略同等の視差を有する第2探索領域Mask_U2(I)から所定距離以内に存在する第2探索領域Mask_U2(I+j)(jは任意の整数)を、第2探索領域Mask_U2(I)に連続していると判定してもよい。
本発明の実施の形態に係る車両周辺監視装置の構成を示すブロック図である。 図1に示す車両周辺監視装置を搭載した車両を示す図である。 図1に示す車両周辺監視装置の動作を示すフローチャートである。 図3に示す警報判定処理を示すフローチャートである。 自車両と対象物との相対位置の一例を示す図である。 車両前方に設定される接近判定領等の領域区分の一例を示す図である。 グレースケール領域の下端位置を検出する際に設定する第1探索領域Mask_U1(I)の一例を示す図である。 2値化対象物OBよりも手前の位置に他の対象物O1(例えば、壁等)が存在する場合の一例を示す実空間での図である。 2値化対象物OBよりも手前の位置に他の対象物O1(例えば、壁等)が存在する場合の一例を示す画像上の図である。 本実施形態の変形例に係るグレースケール領域の下端位置を検出する際に設定する第1探索領域Mask_U1(I)および第2探索領域Mask_U2(I)の一例を示す図である。
符号の説明
1 画像処理ユニット
2R,2L 赤外線カメラ
3 ヨーレートセンサ
4 車速センサ
5 ブレーキセンサ
6 スピーカ
7 表示装置
10 自車両
ステップS7 2値化対象物抽出手段
ステップS19 警報出力手段
ステップS34 障害物判定手段、高さ算出手段、対象物種別判定手段、第1探索領域設定手段、第2探索領域設定手段、連続性判定手段
ステップS35 歩行者認識手段

Claims (5)

  1. 赤外線撮像手段の撮像により得られた画像に基づき自車両の外界に存在する物体を対象物として抽出する車両周辺監視装置であって、
    前記画像のグレースケール画像を2値化処理して得た画像データから2値化対象物を抽出する2値化対象物抽出手段と、
    前記赤外線撮像手段と、前記2値化対象物抽出手段により抽出された前記2値化対象物との間、かつ前記グレースケール画像上での前記2値化対象物の下方に、障害物とされる他の物体が存在するか否かを判定する障害物判定手段と、
    前記障害物判定手段の判定結果において障害物が存在すると判定された場合、前記グレースケール画像上での前記障害物の高さ寸法と、前記赤外線撮像手段から前記障害物までの距離と、前記赤外線撮像手段から前記2値化対象物までの距離とに基づき、前記障害物によって遮蔽された前記2値化対象物の部位の高さ寸法を推定し、該推定した高さ寸法と、前記グレースケール画像上での前記2値化対象物の高さ寸法とを加算して得た高さを、前記2値化対象物の実際の高さ寸法する高さ算出手段と、
    前記高さ算出手段により算出された前記2値化対象物の高さ寸法に基づき前記対象物の種別を判定する対象物種別判定手段と
    を備えることを特徴とする車両周辺監視装置。
  2. 赤外線撮像手段の撮像により得られた画像に基づき自車両の外界に存在する物体を対象物として抽出する車両周辺監視装置であって、
    前記画像のグレースケール画像を2値化処理して得た画像データから2値化対象物を抽出する2値化対象物抽出手段と、
    前記グレースケール画像上において、前記2値化対象物抽出手段により抽出された前記2値化対象物の下方に所定高さ幅を有し互いに隣接する複数の第1探索領域を設定する第1探索領域設定手段と、
    前記2値化対象物抽出手段により抽出された前記2値化対象物と前記赤外線撮像手段との間の距離に係る状態量である2値化対象物距離と、前記第1探索領域設定手段により設定された各前記複数の第1探索領域と前記赤外線撮像手段との間の距離に係る状態量である第1探索領域距離とを比較し、前記2値化対象物距離よりも短い前記第1探索領域距離に対応する前記複数の第1探索領域を新たに複数の第2探索領域として設定する第2探索領域設定手段と、
    前記第2探索領域設定手段により設定された前記複数の第2探索領域が、前記グレースケール画像上で前記2値化対象物の下端から下方に向かい、かつ互いに略同等の距離を有して連続して配置されているか否かを判定する連続性判定手段と、
    前記連続性判定手段により各前記複数の第2探索領域が連続して配置されていると判定された場合、前記グレースケール画像上での各前記複数の第2探索領域の高さ寸法と前記赤外線撮像手段から前記第2探索領域までの距離と、前記2値化対象物距離とに基づき、前記複数の第2探索領域によって遮蔽された前記2値化対象物の部位の高さ寸法を推定し、該推定した高さ寸法と、前記グレースケール画像上での前記2値化対象物の高さ寸法とを加算して得た高さを、前記2値化対象物の実際の高さ寸法として設定する高さ算出手段と、
    前記高さ算出手段により算出された前記2値化対象物の高さ寸法に基づき前記対象物の種別を判定する対象物種別判定手段と
    を備えることを特徴とする車両周辺監視装置。
  3. 前記連続性判定手段は、前記2値化対象物あるいは適宜の前記第2探索領域から所定距離以内に存在する前記第2探索領域を、連続して配置されている前記第2探索領域であると判定することを特徴とする請求項2に記載の車両周辺監視装置。
  4. 前記画像に基づき自車両の外界に存在する歩行者を認識する歩行者認識手段を備え、
    該歩行者認識手段は、前記対象物種別判定手段により人工構造物以外あるいは歩行者であると判定された前記対象物に対して歩行者認識処理を実行することを特徴とする請求項1または請求項2に記載の車両周辺監視装置。
  5. 前記対象物種別判定手段により人工構造物以外あるいは歩行者であると判定された前記対象物に対して警報を出力する警報出力手段を備えることを特徴とする請求項1から請求項3の何れかひとつに記載の車両周辺監視装置。
JP2005346014A 2004-11-30 2005-11-30 車両周辺監視装置 Expired - Fee Related JP4472623B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005346014A JP4472623B2 (ja) 2004-11-30 2005-11-30 車両周辺監視装置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2004347818 2004-11-30
JP2005346014A JP4472623B2 (ja) 2004-11-30 2005-11-30 車両周辺監視装置

Publications (2)

Publication Number Publication Date
JP2006185431A JP2006185431A (ja) 2006-07-13
JP4472623B2 true JP4472623B2 (ja) 2010-06-02

Family

ID=36738462

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005346014A Expired - Fee Related JP4472623B2 (ja) 2004-11-30 2005-11-30 車両周辺監視装置

Country Status (1)

Country Link
JP (1) JP4472623B2 (ja)

Also Published As

Publication number Publication date
JP2006185431A (ja) 2006-07-13

Similar Documents

Publication Publication Date Title
JP4410292B1 (ja) 車両の周辺監視装置
US7489805B2 (en) Vehicle surroundings monitoring apparatus
JP3987057B2 (ja) 車両周辺監視装置
US7969466B2 (en) Vehicle surroundings monitoring apparatus
US7483549B2 (en) Vehicle surroundings monitoring apparatus
JP4104867B2 (ja) ナイトビジョンシステム
US7388476B2 (en) Vehicle surroundings monitoring apparatus
US7561719B2 (en) Vehicle surroundings monitoring apparatus
JP2005354597A (ja) 車両周辺監視装置
US20060126897A1 (en) Vehicle surroundings monitoring apparatus
US7526104B2 (en) Vehicle surroundings monitoring apparatus
JP4425852B2 (ja) 車両周辺監視装置
US7515737B2 (en) Vehicle surroundings monitoring apparatus
JP4298699B2 (ja) 車両周辺監視装置
JP3898157B2 (ja) 赤外線画像認識装置
JP4372746B2 (ja) 車両周辺監視装置
JP4943403B2 (ja) 車両の周辺監視装置
US7545955B2 (en) Vehicle surroundings monitoring apparatus
JP4472623B2 (ja) 車両周辺監視装置
JP2004348645A (ja) 赤外線画像認識装置、及び赤外線画像認識装置を用いた警報装置
JP4358183B2 (ja) 車両周辺監視装置
JP4283266B2 (ja) 車両周辺監視装置
JP3939580B2 (ja) 障害物警報装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091006

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100223

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100303

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130312

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130312

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140312

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees