JP3092105B1 - フェールセーフ機能を有する車外監視装置 - Google Patents
フェールセーフ機能を有する車外監視装置Info
- Publication number
- JP3092105B1 JP3092105B1 JP11217903A JP21790399A JP3092105B1 JP 3092105 B1 JP3092105 B1 JP 3092105B1 JP 11217903 A JP11217903 A JP 11217903A JP 21790399 A JP21790399 A JP 21790399A JP 3092105 B1 JP3092105 B1 JP 3092105B1
- Authority
- JP
- Japan
- Prior art keywords
- distance data
- monitoring
- variation
- area
- monitoring area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Measurement Of Optical Distance (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
れた場合にフェールセーフを行うことによって、車外監
視装置の安全性を高い次元で確保すること。 【解決手段】 車外の状況をモニタリングし、かつ、フ
ェールセーフ機能を有する車外監視装置において、モニ
タリング範囲内に存在する対象物までの距離を距離デー
タとして算出するステレオ画像処理部6と、フェール判
定部12とを有する。このフェール判定部12は、モニ
タリング範囲の一部の領域であり、かつ、当該領域内に
存在する対象物までの距離に関して特定の傾向を有する
ような領域を監視領域として設定すると共に、当該監視
領域内における距離データのばらつきを検出し、このば
らつきの状態が、フェールとして判定したい距離データ
のばらつき特性を有する場合に、フェールと判定する。
Description
内に存在する対象物によって算出された距離データを参
照して車外監視を行う装置のフェールセーフ機能に係
り、特に、算出された距離データの信頼性が低下してい
る場合に、フェールセーフを実行する車外監視装置に関
する。
サを用いて自車輌の前方の情報(プレビュー情報)を取
得し、この情報に基づいて車輌制御を行う車外監視装置
が注目されている。例えば、ステレオ式車外監視装置に
おいては、まず、撮像された画像対における同一対象物
の位置的なずれ(視差)を算出する。この算出された視
差から三角測量の原理を用いて、その対象物までの距離
を特定する。そして、画像認識技術を併用することによ
り、先行車等との車間距離や道路形状(直線またはカー
ブ曲率)などを認識している。
用化するにあたっては、装置の安全動作を保証するため
に、フェールセーフ機能を設ける必要がある。この類の
装置で検出すべきフェールの一つとして、モニタリング
すべき範囲内において算出された距離データの信頼性が
低下している状況が挙げられる。このような状況は、例
えば、降雨またはウインドウガラスの汚れ・曇り等の外
乱的な要因、ノイズの影響、或いは監視装置自体の故障
等により生じることがある。また、ステレオカメラの場
合、衝撃によりカメラ対の取付位置がずれてしまった場
合において生じることもある。車外監視装置の安全性を
高い次元で確保するという観点でいえば、算出された距
離データの信頼性が低下しているような状況では、監視
を一時的に中断させるフェールセーフを行う必要があ
る。
視装置を実用化するにあたって不可欠なフェールセーフ
機能は未だ確立されておらず、監視装置の安全性を高い
次元で確保するための課題が残されていた。また、フェ
ール状況の検出は車外監視と並行してリアルタイムで行
う必要がある。したがって、それに要する演算量はでき
るだけ少ないことが好ましい。
頼性が低下していると判断された場合にフェールセーフ
を行うことによって、車外監視装置の安全性を高い次元
で確保することである。
めに、本発明は、車外の状況をモニタリングし、かつ、
フェールセーフ機能を有する車外監視装置において、モ
ニタリング範囲内に存在する対象物までの距離を距離デ
ータとして算出する算出手段と、モニタリング範囲の一
部の領域であり、かつ、当該領域内に存在する対象物ま
での距離に関して特定の傾向を有するような領域を監視
領域として設定すると共に、当該監視領域内における距
離データのばらつきを検出する検出手段と、監視領域に
おける距離データのばらつきの状態が、フェールとして
判定したい距離データのばらつき特性を有する場合に、
フェールと判定する判定手段とを有するフェール機能を
有する車外監視装置を提供する。
を含む領域に設定された第1の監視領域であってもよ
い。この第1の監視領域は、水平方向の長さの方が垂直
方向の長さよりも大きい横長矩形領域であることが好ま
しい。この場合、検出手段は、第1の監視領域内におけ
る距離データの全体的なばらつきを検出する。第1の監
視領域内において検出された距離データは路面に起因し
たものであり、正常な状態では、距離データの全体的な
ばらつきは小さくなる傾向がある。そこで、判定手段
は、第1の監視領域における距離データの全体的なばら
つきが大きい場合にフェールと判定する。
に、当該先行車を含む領域に設定された第2の監視領域
と、水平方向において第2の監視領域の外側に設定され
た第3の監視領域であってもよい。この場合、検出領域
は、第2の監視領域の垂直方向における距離データのば
らつきを検出すると共に、第3の監視領域の水平方向に
おける距離データのばらつきを検出する。正常な状態で
は、第2または第3の監視領域のいずれか一方に関する
距離データのばらつきが大きくなることはあっても、双
方のばらつきが大きくなるような状況はほとんど生じな
い傾向がある。そこで、判定手段は、第2の監視領域の
垂直方向における距離データのばらつきが大きく、か
つ、第3の監視領域の水平方向における距離データのば
らつきが大きい場合に、フェールと判定する。
さの方が水平方向の長さよりも大きい複数の縦長矩形領
域で構成されていることが好ましく、第3の監視領域
は、水平方向の長さの方が垂直方向の長さよりも大きい
複数の横長矩形領域で構成されていることが好ましい。
この場合、検出手段は、縦長矩形領域内における距離デ
ータの全体的なばらつきを縦長矩形領域毎に求め、当該
縦長矩形領域毎のばらつきの平均を求めることにより、
第2の監視領域の垂直方向における距離データのばらつ
きを検出する。また、検出手段は、横長矩形領域内にお
ける距離データの全体的なばらつきを横長矩形領域毎に
求め、当該横長矩形領域毎のばらつきの平均を求めるこ
とにより、第3の監視領域の水平方向における距離デー
タのばらつきを検出する。これにより、比較的少ない演
算量で、各監視領域の距離データのばらつきを的確に把
握することができる。
の景色を撮像することにより、一対の画像を得るステレ
オ撮像手段をさらに設けてもよい。この場合、算出手段
は、撮像された画像対から距離データを算出する。
より得られた一対の画像に基づいて、所定数の画素で構
成された画素ブロック毎に距離データとして算出するこ
とが好ましい。この場合、検出手段は、有効距離データ
に基づき、距離データのばらつきを検出する。ここで、
有効距離データは、画像の水平方向における輝度変化が
大きな輝度エッジを所定数以上有する画素ブロックに関
する距離データである。これにより、ノイズ的な距離デ
ータの影響を低減し、一層的確なフェール判定を行うこ
とができる。
視装置のブロック図である。CCD等のイメージセンサ
を内蔵した一対のカメラ1,2は、自動車等の車輌の車
幅方向において所定の間隔で、ルームミラーの近傍に取
り付けられており、自車輌の前方の景色を撮像する。メ
インカメラ1は、ステレオ処理を行う際に必要となる基
準画像(右画像)を撮像し、サブカメラ2は、この処理
における比較画像(左画像)を撮像する。互いのカメラ
1,2が同期している状態において、カメラ1,2から
出力された各アナログ画像は、A/Dコンバータ3,4
により、所定の輝度階調(例えば、256階調のグレー
スケール)のデジタル画像に変換される。デジタル化さ
れた画像は、画像補正部5において、輝度の補正や画像
の幾何学的な変換等が行われる。通常、一対のカメラ
1,2の取付位置は、程度の差こそあれ誤差があるた
め、それに起因したずれが左右の画像に存在している。
このずれを補正するために、アフィン変換等を用いて、
画像の回転や平行移動等の幾何学的な変換が行われる。
このようにして補正された基準画像および比較画像は、
元画像メモリ8に格納される。
部5により補正された基準画像と比較画像とに基づい
て、画像中の同一対象物の三次元位置(自車輌から対象
物までの距離を含む)を距離データとして算出する。距
離データは、4×4画素の画素ブロック単位で算出さ
れ、左右画像における同一対象物(画素ブロック)の位
置に関する相対的なずれ、すなわち視差から三角測量の
原理に基づき算出することができる。このようにして算
出された画像の距離データは、距離データメモリ7に格
納される。
8および距離データメモリ7に格納された各情報に基づ
き、白線検出を含めた車輌前方の道路形状(直線やカー
ブ形状)を認識する(道路認識部10)。また、車輌前
方の立体物(走行車)等をも認識する(立体物認識部1
1)。そして、処理部13は、これらの認識部10,1
1からの情報から警報が必要と判定された場合、モニタ
やスピーカー等の警報装置19によりドライバーに対し
て注意を促したり、或いは、必要に応じて、各種制御部
14〜18を制御する。例えば、AT(自動変速機)制
御部14に対して、シフトダウンを実行する旨を指示す
る。また、エンジン制御部18に対してエンジン出力を
低下する旨を指示してもよい。その他にも、アンチロッ
クブレーキシステム(ABS)制御部15、トラクショ
ンコントロールシステム(TCS)制御部16、或い
は、各車輪のトルク配分や回転数を制御する車輌挙動制
御部17に対して、適切な車輌制御を指示することも可
能である。
タメモリ7に記憶された距離データに基づいて、後述す
るルーチンに従ってフェール判定を行う。フェール判定
部12からフェールセーフが指示された場合、処理部1
3はフェールセーフを実行する。これにより、例えば、
道路等の誤認識にともなう装置の誤動作を防ぐために、
上述した車輌制御等が一時的に中断される。
タに関するフェール判定ルーチンを示したフローチャー
トである。このフローチャートは、所定の制御周期ごと
に繰り返し実行される。このルーチンにより、算出され
た距離データの信頼性が低下していると判断された場
合、フェール判定部12は処理部13に対して、フェー
ルセーフの実行を指示する。
部12は距離データを読み込む。距離データは、ステレ
オ画像処理部6において算出され、撮像画像ごとに距離
データメモリ7に記憶される。ここで、距離データの算
出手法について概略的に説明する。図8および図9は、
同一の車外景色をステレオカメラ1,2により撮像して
得られた基準画像および比較画像の一例であり、基準画
像(モニタリング範囲)に映し出された対象物が本監視
装置でモニタリングすべき対象となる。撮像画像の座標
系は、撮像画像の左下隅を原点として、水平方向をi座
標軸、垂直方向をj座標軸とする(単位は画素)。基準
画像のサイズは、水平方向が512画素、垂直方向が2
00画素である。自車輌の前方に存在する対象物に関し
て、自車輌(正確にはステレオカメラの位置)からこの
対象物までの距離Zは、基準画像および比較画像中に映
し出された当該対象物の視差(水平方向の位置的なずれ
量)から算出することができる。例えば、図9において
記号Aで示した先行車に関して、撮像画像対における視
差がdとすると、先行車までの距離Zは、下式に基づい
て算出される。ここで、rは、ステレオカメラ1,2間
の取り付け間隔、fはステレオカメラ1,2の焦点距離
である。
に4×4画素の画素ブロック単位で算出される。すなわ
ち、まず、基準画像中のある画素ブロック(対象ブロッ
ク)と同一の輝度パターンを有する比較画像中の画素ブ
ロックを、対象ブロックと位置的に対応した水平線上を
探索することにより特定する(ステレオマッチング)。
そして、基準画像における対象ブロックの水平位置(i
座標値)と、比較画像におけるマッチングの取れた画素
ブロックの水平位置(i座標値)との差が視差dに相当
する。上記の手法により、すべての画素ブロック(対象
物)に関する視差dを求める。そして、各画素ブロック
の距離Zを二次元平面である撮像画像上の位置(i,
j)に対応づけて、距離データとして距離データメモリ
7に記憶する。なお、上記の数式1に示したように、視
差dと距離Zとは一対一の関係にあるから、距離データ
として距離Zまたは視差dのどちらを用いてもよいが、
ここでは、距離データを(i,j、Z)の形式とする。
ータをi−j平面上に示したものである。なお、距離デ
ータは、画素ブロック単位で算出されるが、認識部1
0,11において実際にそれが適用されるのは、水平方
向において輝度エッジを有するエッジ部(同図において
黒点で示した部分)である。図10は、距離データの出
力状態をエッジ部に対応づけて二次元的に示している。
3に示したような画像の下側領域において垂直方向長が
短く、かつ、水平方向長がそれよりも長い横長矩形領域
が、第1の監視領域R1として設定される。なお、図3
は、監視領域R1の設定位置を画素ブロック単位で示し
たものであるから、各座標値を4倍すれば画素単位での
座標となる。図8の撮像画像からもわかるように、第1
の監視領域R1には、通常、走行路の路面が映し出され
るので、この領域内の各画素ブロックについて算出され
た距離データは、路面状況に起因したものである。この
監視領域R1には78(39×2)個の画素ブロックが
存在するため、基本的には、それと同数の距離データが
算出される。本実施例において信頼性を検証すべき対象
は、路面状況に起因して算出されたこれらの距離データ
である。
設定位置は一例であって、走行時に路面が通常映し出さ
れるような画像領域であれば、任意の領域をこの監視領
域R1として設定することができる。その際、図8にお
いて記号R1で示したように、なるべく撮像画像の下側
領域(または領域R1の一部)に、第1の監視領域R1
を設定することが好ましい。通常、自車輌は、先行車と
ある程度の車間距離をおいて走行しているため、先行車
は二次元平面である撮像画像の比較的上側に映し出され
る傾向がある。したがって、撮像画像のなるべく下側に
第1の監視領域R1を設定すれば、先行車によって路面
がマスクされてしまう状況を避けることができ、路面状
態を正確にモニタリングすることができる。
領域R1内の距離データのうち、有効距離データが特定
される。ここで、有効距離データは、画像の横方向(水
平方向)において輝度エッジ(しきい値以上の輝度変化
量を有する隣接画素対)を所定数(例えば4)以上有す
る画素ブロックに関する距離データである。図7は、距
離データの算出単位である画素ブロックに関する横方向
の輝度エッジの算出手法を説明するための図である。上
述したように、距離データの算出単位である4×4の画
素ブロックにおいて、横方向における隣接画素対の輝度
変化量(絶対値)ΔPを算出する。ただし、一番左側の
画素列(P11,P12,P13,P14)に関しては、左側に
隣接した画素ブロックの一番右側の画素列から輝度変化
量ΔPを算出する。したがって、1つの画素ブロックに
関して16個の輝度変化量ΔPが算出される。つぎに、
これらの16個の輝度変化量ΔPのうち、所定のしきい
値(以下、DCDXしきい値という)以上のものの数を
カウントする。このDCDXしきい値は、3から7の範
囲において適切に設定された値である。そして、このD
CDXしきい値以上の輝度変化量ΔPの数が4つ以上の
画素ブロックに関する距離データを有効距離データとす
る。路面状況の評価は、監視領域R1内に存在する距離
データのすべてを対象とするのではなく、有効距離デー
タのみに基づいて行われる。横方向の輝度変化に特徴が
ある画素ブロックに関する距離データを評価対象とする
ことで、ノイズ的な距離データを除外できるため、算出
された距離データの信頼性に関する判定精度を向上させ
ることができる。
1の監視領域R1における有効距離データの全体的なば
らつきの状態を評価するために、分散値VAR1が下式
に基づいて算出される。
値
して算出された有効距離データに関する全体的なばらつ
きには、路面状況または外的要因によって以下のような
特性を有する傾向がある。
ケースは、車外監視における理想的な走行状況である。
このような走行環境下において、第1の監視領域R1に
は、少数の距離データが算出される傾向がある。これ
は、中央線や路肩線といった白線等のみに起因した距離
データが算出されるからである。ただし、上述したよう
に、第1の監視領域R1の垂直方向長は比較的短いた
め、この領域内には比較的短い距離レンジの白線等が映
し出される。したがって、白線に起因した距離データ
は、ほぼ同じような値を有する。また、白線等を除いた
路面領域(その領域が大半である)はほぼ一面一様であ
るため、その部分では距離データが算出されにくい。以
上の理由により、乾いた舗装路を走行しているケースに
おいて、第1の監視領域R1における有効距離データの
ばらつきはあまり大きくはならない。
と違い、多数の距離データが出力される傾向がある。し
かしながら、第1の監視領域R1の垂直方向長は短いの
で、比較的短い距離レンジ内の砂利しか映し出されな
い。そのため、監視領域R1内の距離データは、ほぼ同
じような値をとる傾向がある。したがって、砂利道を走
行しているケースでは、第1の監視領域R1における有
効距離データのばらつきはあまり大きくはならない。走
行路の路面にわだち状に雪が積雪しているような状況も
砂利道と同様の傾向を有する。
行路(異常な路面状況) 降雨時等において、周囲の立体物(先行車や建物等)が
路面に映り込んでいるようなケースでは、映り込んでい
る立体物の影響で誤った距離データが算出されることが
ある。その結果、本来の路面状況に起因して生じる距離
データ以外にも、映り込んだ立体物の距離データも加わ
るため、第1の監視領域R1における有効距離データの
ばらつきが大きくなる傾向がある。このような状況は、
正常な車外監視を行うことが容易ではない場合が多いの
で、フェールとして検出すべき状況であるといえる。
気的なノイズの影響を受けた場合、算出された距離デー
タにもノイズが乗る。その結果、個々の距離データがば
らつくため、第1の監視領域R1における有効距離デー
タのばらつきが大きくなる。このような状況では、正常
な車外監視を行うことが困難である。同様の現象は、衝
撃によるステレオカメラの取り付け位置のずれ、或い
は、ウインドガラスやカメラレンズの曇り・汚れになど
に起因して生じることがある。
うに、フェールとして検出すべき上記(3),(4)の
ケースでは、第1の監視領域R1における有効距離デー
タの全体的なばらつきが大きくなる傾向がある。したが
って、このような観点を踏まえて適切に設定された判定
しきい値VAR1thを基準に、ステップ4で算出された
分散値VAR1の大きさを評価すれば(ステップ5)、
ケース(3),(4)を検出することができる。なお、
この判定しきい値VAR1thの値は、昼と夜とで変える
ように設定してもよく、また、自車輌の車速に応じて変
えるようにしてもよい。
第1の監視領域R1の有効距離データのばらつきが大き
い場合は、算出された距離データの信頼性が低いものと
判断して、フェールフラグNGが1にセットされる(ス
テップ6)。フェールフラグNGが1にセットされてい
る期間において、フェール判定部12は処理部13に対
してフェールセーフの実行を指示する。これにより、通
常の監視制御が中止され、フェールセーフが実行され
る。一方、ステップ5で否定判定された場合、すなわ
ち、第1の監視領域R1の有効距離データのばらつきが
小さい場合は、算出された距離データは信頼し得るもの
と判断して、フェールフラグNGが0にセットされる
(ステップ7)。フェールフラグNGが0にセットされ
ている間は、通常の監視制御が継続される。
定手法は、撮像画像のうち、路面が映し出される領域に
第1の監視領域R1を設定している。この監視領域R1
内の距離データは、通常の路面状況であればばらつきは
比較的少なく、フェールとすべき状況(路面状況または
ノイズ等の外的要因)では、ばらつきが大きくなるとい
う特性がある。そこで、その監視領域R1全体における
距離データの全体的なばらつきの状態を検証すれば、路
面に起因して算出された距離データの信頼性を判定する
ことが可能となる。そして、この判定結果に応じてフェ
ールセーフを行うことにより、車外監視装置の安全性を
より高い次元で確保することが可能となる。発明者が実
際に走行テストを繰り返した結果、以上の判定手順で良
好な判定結果を得られることが確認できた。
性の双方を確保する観点でいえば、分散値VAR1が判
定しきい値VAR1thよりも大きくなる状況が複数の制
御周期に渡って継続した場合に(例えば10秒相当)、
フェールフラグNGを1にセットするようにしてもよ
い。同様の観点から、分散値VAR1が判定しきい値V
AR1th以下になる状況が複数の制御周期に渡って継続
したならば(例えば20秒相当)、フェールフラグNG
を0にセットする。
ては、一の制御周期において算出された1つの分散値V
ER1に基づき、1フレーム毎に距離データのばらつき
を評価している。しかしながら、制御の安定性を確保す
るという観点でいえば、複数フレーム(例えば5フレー
ム)分の分散値VAR1をストアし、複数の分散値VA
R1に基づいて、所定のフレーム間隔で距離データのば
らつきを評価することが好ましい。なお、この点につい
ては、以下に述べる第2の実施例についても同様であ
る。
ータに関するフェール判定ルーチンを示したフローチャ
ートである。このフローチャートは、所定の制御周期ご
とに繰り返し実行される。このルーチンにより、算出さ
れた距離データの信頼性が低下していると判断された場
合、フェール判定部12は処理部13に対して、フェー
ルセーフの実行を指示する。
定部12は、距離データを読み込む。つぎに、図5に示
したように(画素ブロック単位で座標表示)、一例とし
て16個の縦長矩形領域で構成された第2の監視領域R
2が、画像の中央領域に設定される(ステップ12)。
個々の矩形領域は、水平長が短く、かつ、それよりも垂
直長が長く設定されていて、11個(1×11)の画素
ブロックを有している。図8に示した撮像画像からもわ
かるように、先行車等の立体物が前方に存在する場合、
この先行車は第2の監視領域R2内に映し出される傾向
がある。先行車等は、地面(道路面)に対してほぼ垂直
に立っていることが多いので、その垂直面が第2の監視
領域R2に映し出される。垂直面ではほぼ等距離が算出
されるため、正常な状態においては、一の縦長矩形領域
には、ほぼ同一の距離を有する距離データが多く算出さ
れる傾向がある。本実施例において信頼性を検証すべき
対象は、撮像画像に映し出された立体物に起因して算出
されたこれらの距離データである。
設定位置や縦長矩形領域の大きさや間隔は一例であっ
て、通常の走行環境で先行車等の立体物が映し出される
ような画像領域であれば、監視領域R2は任意に設定し
てよい。その際、図8において記号R2で示したよう
に、なるべく先行車を映し出しやすい画像領域内に、第
2の監視領域R2を設定することが好ましい。
て、第2の監視領域R2内の距離データのうち、第1の
実施例で述べたような手法にしたがって、有効距離デー
タが特定される。
視領域R2に関する垂直方向の距離データのばらつきを
検証するために、16個の縦長矩形領域に基づいて、距
離データの垂直方向分散値VAR2が算出される。具体
的には、第2の監視領域R2の全体的ばらつきを精度よ
く検証でき、かつ、それに伴う演算量を極力減らす観点
から、以下のような算出手法により分散値VAR2を求
めている。
長矩形領域に関する距離データのばらつきを調べるため
に、上述した数式2に従って有効距離データの分散値v
ar2iが矩形領域毎に算出される(1≦i≦16)。
つぎに、16個の分散値var2iから、大きな誤差を
含んでいる可能性の高い最大値を除いたものの平均を求
め、その平均値をVAR2とする。このようにして算出
された分散値VAR2、すなわち、第2の監視領域R2
の垂直方向における距離のばらつきは、映し出された景
色によって、以下のような特性を有する傾向がある。
る場合(正常な状況) これは、先行車や市街地の建物といった立体物が映し出
されている状況である。この状況において、縦長矩形領
域に映し出される立体物は、通常、路面に対して垂直に
立っており、かつ、矩形領域に占める立体物の割合は大
きくなる。したがって、この矩形領域における有効距離
データのばらつきはあまり大きくならない傾向がある。
いない場合(正常な状況) 先行車や市街地の建物といった立体物等があまり存在し
ない状況では、縦長矩形領域には白線を含む路面や遠く
の景色が混在して映し出される。したがって、その矩形
領域に関する有効距離データのばらつきが大きくなる傾
向がある。
たり、カメラレンズが汚れている場合、さらにはシステ
ムの内部信号にノイズが乗ってしまった場合等において
は、縦長矩形領域における有効距離データのばらつきが
大きくなる傾向がある。
うに、距離データが正常に出力されている上記(5)の
ケースは、第2の監視領域R2における有効距離データ
のばらつきが小さくなる傾向がある。したがって、この
ような観点を踏まえて適切に設定された判定しきい値V
AR2thを基準に、ステップ14で算出された分散値V
AR2の大きさを評価すれば(ステップ15)、ケース
(5)を他のケース(6),(7)と区別することがで
きる。すなわち、ステップ15で否定判定された場合、
つまり第2の監視領域R2の有効距離データのばらつき
が小さい場合は、算出された距離データは信頼し得るも
のと判断して、フェールフラグNGが0にセットされる
(ステップ21)。なお、この判定しきい値VAR2th
の値は、昼と夜とで変えるように設定してもよく、ま
た、自車輌の車速に応じて変えるようにしてもよい。
異常なケース(7)はどちらも分散値VAR2が判定し
きい値VAR2thを越えるため、ステップ15における
判定だけで両者を区別することができない。そこで、距
離データのばらつきをさらに検証すべく、ステップ16
以降の手順が実行される。
たように(画素ブロック単位で座標表示)、画像の水平
方向において第2の監視領域R2の外側に、第3の監視
領域R3(L),R3(R)がそれぞれ設定される。それぞれ
の監視領域R3(L),R3(R)は、一例として4個の横長
矩形領域(水平長が長く、それよりも垂直長が短い)で
構成されており、各横長矩形領域は、30個(30×
1)個の画素ブロックを有している。図8の撮像画像か
らもわかるように、第3の監視領域R3には、通常、先
行車や走行路脇の木々のように距離の異なる立体物が映
し出される。したがって、正常な状態では、同一の横長
矩形領域内では、異なる距離データが算出される傾向が
ある(詳細については後述する)。
設定位置や横長矩形領域の大きさ・間隔は一例であっ
て、通常の走行環境において主に道路脇の立体物が映し
出されるような画像領域であれば、監視領域R3は任意
に設定してよい。その際、図8において記号R3で示し
たように、なるべく道路脇の立体物を映し出しやすい画
像領域内に、第3の監視領域R3を設定することが好ま
しい。
て、第3の監視領域R3内の距離データのうち有効距離
データが、上述した手法によって特定される。
て、第3の監視領域R3を構成する横長矩形領域に基づ
いて、距離データの水平方向分散値VAR3が算出され
る。第3の監視領域R3の水平方向のばらつきを精度よ
く検証でき、かつ、それに伴う演算量を極力減らす観点
から、以下のような算出手法により分散値VAR3を求
めている。
成する各横長矩形領域に関する距離データのばらつきを
調べるために、上述した数式2にしたがい有効距離デー
タの分散値var3(L)iが矩形領域毎に算出される(1
≦i≦4)。つぎに、4個の分散値var3(L)iから、
大きな誤差を含んでいる可能性の高い最大値を除いたも
のの平均を求め、その値をVAR3(L)とする。同様
に、右側の第3の監視領域R3(R)を構成する各横長矩
形領域に関する距離データのばらつきを調べるために、
上述した数式2にしたがい有効距離データの分散値va
r3(R)iが矩形領域毎に算出される(1≦i≦4)。つ
ぎに、4個の分散値var3(R)iから、大きな誤差を含
んでいる可能性の高い最大値を除いたものの平均を求
め、その値をVAR3(R)とする。このようにして算出
された2つの分散値VAR3(L),VAR3(R)のうち値
が小さい方を、第3の監視領域R3の水平方向における
全体的な輝度のばらつきを示す分散値VAR3として採
用する。第3の監視領域R3の水平方向における全体的
な輝度のばらつきは、映し出された景色により、以下の
ような特性を有する傾向がある。
る場合(正常な状況) 市街地の建物といった多数立体物が映し出されている状
況では、横長矩形領域に距離の異なる複数の立体物が映
し出されるため、有効距離データのばらつきが大きくな
る傾向がある。
いない場合(正常な状況) この状況では、主として遠方の景色が映し出されるた
め、有効距離データのばらつきはあまり大きくならない
傾向がある。
等が生じると、有効距離データのばらつきが大きくなる
傾向がある。
より算出された距離データに異常が生じている場合、第
3の監視領域R3における有効距離データのばらつきが
大きくなる傾向がある(上記のケース(10))。ま
た、この状況は、上述したケース(7)にも該当する。
すなわち、第3の監視領域R3の有効距離データのばら
つきが大きく、かつ、第2の監視領域R2のそれも大き
くなるのは、外的要因により距離データに異常が生じて
いる場合のみ生じる現象であることがわかる。換言する
と、通常の状況では、第2または第3の監視領域R2,
R3のどちらか一方の有効距離データのばらつきが大き
くなることはあっても、両方が大きくなることはほとん
ど生じないという特性がある。
切に設定された判定しきい値VAR3thを基準に、ステ
ップ18で算出された分散値VAR3の大きさを評価す
れば(ステップ19)、ステップ15の判断では区別で
きなかったケース(6)と(7)とを区別することがで
きる。すなわち、ステップ18で算出された分散値VA
R3が所定の判定しきい値VAR3thよりも大きいか否
かを判断すればよい(ステップ19)。なお、この判定
しきい値VAR3thの値は、昼と夜とで変えるように設
定してもよく、また、自車輌の車速に応じて変えるよう
にすることが好ましい。
合、つまり第3の監視領域R3の有効距離データのばら
つきが小さい場合は、算出された距離データは信頼し得
るものと判断して、フェールフラグNGが0にセットさ
れる(ステップ21)。フェールフラグNGが0にセッ
トされている期間においては、通常の監視制御が継続さ
れる。一方、ステップ19で肯定判定された場合は、フ
ェールと判断して、フェールフラグNGを1はセットさ
れる(ステップ21)。フェールフラグNGが1にセッ
トされている期間において、フェール判定部12は、処
理部13に対してフェールセーフの実行を指示する。こ
れにより、通常の監視制御が中止され、フェールセーフ
が実行される。
定手法は、撮像画像のうち、立体物が映し出される領域
に第2の監視領域R2および第3の監視領域R3を設定
している。第2の監視領域R2は、走行車等が存在し得
る比較的中央の画像領域に設けられ、第3の監視領域R
3は、走行路の両側の立体物が存在し得る比較的両サイ
ドの画像領域に設けられる。外的要因により異常な距離
データが算出された場合、第2の監視領域R2の垂直方
向に関する距離のばらつきが大きくなり、かつ、第3の
監視領域R3の水平方向に関する距離のばらつきも大き
くなるという特性がある。これに対して、正常な状態で
は、双方の距離のばらつきが大きくなることはほとんど
ない。そこで、これらの監視領域R2,R3における距
離データのばらつきの程度を検証すれば、正常な状況と
フェールとすべき状況とを精度よく区別することが可能
となる。その結果、異常な状況に的確に応答したフェー
ルセーフを行えるため、車外監視装置の安全性をより高
い次元で確保することが可能となる。発明者が実際に走
行テストを繰り返した結果、以上の判定手順で良好な判
定結果を得られることが確認できた。
性の双方を確保する観点でいえば、ステップ19におい
て肯定判定される状況が複数の制御周期に渡って継続し
た場合に(例えば5秒相当)、フェールフラグNGを1
にセットするようにしてもよい。同様の観点から、ステ
ップ15またはステップ19において否定判定される状
況が複数の制御周期に渡って継続したならば(例えば2
0秒相当)、フェールフラグNGを0にセットする。
外監視装置を例に説明した。しかしながら、本発明は、
ステレオカメラ以外の技術(例えばレーザ波、ミリ波
等)を用いて対象物までの距離を求めるような監視装置
に対しても、広く適用することが可能である。走行状況
を監視する場合、センサはある程度決まった景色をモニ
タリングしているため、例えば図8に示したように、モ
ニタリング範囲内に存在する対象物はある程度特定され
る。したがって、モニタリング範囲内の所定領域内にお
ける距離データも、上述したように特定の傾向を有して
いる。本発明は、このような知得に基づくものであり、
ステレオカメラ以外のセンサを用いてそれを実現するこ
とも当然に可能である。
た距離データの信頼性が低下しているような状況を的確
に検出することができる。また、それに的確に応答して
フェールセーフを行うことができるため、車外監視装置
の安全性をより高い次元で確保することが可能となる。
ンを示したフローチャート
チンを示したフローチャート
域を説明するための図
域を説明するための図
の図
リ、 8 元画像メモリ、 9 マイクロコンピュ
ータ、 10 道路認識部、 11 立体物認識部、 12 フェール判定部、 13 処理部、 14 AT制御部、 15 ABS制御部、 16 TCS制御部、 17 車輌挙動制御、 18 エンジン制御部、 19 警報装置
Claims (7)
- 【請求項1】車外の状況をモニタリングし、かつ、フェ
ールセーフ機能を有する車外監視装置において、 モニタリング範囲内に存在する対象物までの距離を距離
データとして算出する算出手段と、 前記モニタリング範囲の一部の領域であり、かつ、当該
領域内に存在する対象物までの距離に関して特定の傾向
を有するような領域を監視領域として設定すると共に、
当該監視領域内における距離データのばらつきを検出す
る検出手段と、前記監視領域における前記距離データの
ばらつきの状態が、フェールとして判定したい距離デー
タのばらつき特性を有する場合に、フェールと判定する
判定手段とを有することを特徴とするフェール機能を有
する車外監視装置。 - 【請求項2】前記監視領域は、走行路の路面を含む領域
に設定された第1の監視領域であり、 前記検出手段は、前記第1の監視領域内における距離デ
ータの全体的なばらつきを検出し、 前記判定手段は、前記第1の監視領域における距離デー
タの全体的なばらつきが大きい場合に、フェールと判定
することを特徴とする請求項1に記載されたフェールセ
ーフ機能を有する車外監視装置。 - 【請求項3】前記第1の監視領域は、水平方向の長さの
方が垂直方向の長さよりも大きい横長矩形領域であるこ
とを特徴とする請求項2に記載されたフェールセーフ機
能を有する車外監視装置。 - 【請求項4】前記監視領域は、先行車が存在する場合
に、当該先行車を含む領域に設定された第2の監視領域
と、水平方向において前記第2の監視領域の外側に設定
された第3の監視領域であって、 前記検出手段は、前記第2の監視領域の垂直方向におけ
る距離データのばらつきを検出すると共に、前記第3の
監視領域の水平方向における距離データのばらつきを検
出し、 前記判定手段は、前記第2の監視領域の垂直方向におけ
る距離データのばらつきが大きく、かつ、前記第3の監
視領域の水平方向における距離データのばらつきが大き
い場合に、フェールと判定することを特徴とする請求項
1に記載されたフェールセーフ機能を有する車外監視装
置。 - 【請求項5】前記第2の監視領域は、垂直方向の長さの
方が水平方向の長さよりも大きい複数の縦長矩形領域で
構成されており、 前記第3の監視領域は、水平方向の長さの方が垂直方向
の長さよりも大きい複数の横長矩形領域で構成されてお
り、 前記検出手段は、前記縦長矩形領域内における距離デー
タの全体的なばらつきを前記縦長矩形領域毎に求め、当
該縦長矩形領域毎のばらつきの平均を求めることによ
り、前記第2の監視領域の垂直方向における距離データ
のばらつきを検出し、かつ、 前記検出手段は、前記横長矩形領域内における距離デー
タの全体的なばらつきを前記横長矩形領域毎に求め、当
該横長矩形領域毎のばらつきの平均を求めることによ
り、前記第3の監視領域の水平方向における距離データ
のばらつきを検出することを特徴とする請求項4に記載
されたフェールセーフ機能を有する車外監視装置。 - 【請求項6】車外の景色を撮像することにより、一対の
画像を得るステレオ撮像手段をさらに有し、 前記算出手段は、前記画像対から距離データを算出する
ことを特徴とする請求項1から5のいずれかに記載され
たフェールセーフ機能を有する車外監視装置。 - 【請求項7】前記算出手段は、前記ステレオ撮像手段に
より得られた一対の画像に基づいて、所定数の画素で構
成された画素ブロック毎に距離データとして算出し、 前記検出手段は、有効距離データに基づき、距離データ
のばらつきを検出し、 前記有効距離データは、画像の水平方向における輝度変
化が大きな輝度エッジを所定数以上有する前記画素ブロ
ックに関する距離データであることを特徴とする請求項
6に記載されたステレオ式車外監視装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP11217903A JP3092105B1 (ja) | 1999-07-30 | 1999-07-30 | フェールセーフ機能を有する車外監視装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP11217903A JP3092105B1 (ja) | 1999-07-30 | 1999-07-30 | フェールセーフ機能を有する車外監視装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP3092105B1 true JP3092105B1 (ja) | 2000-09-25 |
JP2001043496A JP2001043496A (ja) | 2001-02-16 |
Family
ID=16711571
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP11217903A Expired - Fee Related JP3092105B1 (ja) | 1999-07-30 | 1999-07-30 | フェールセーフ機能を有する車外監視装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3092105B1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016057066A (ja) * | 2014-09-05 | 2016-04-21 | パイオニア株式会社 | 判定装置、走行レーン判定方法、及び、走行レーン判定プログラム |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4537597B2 (ja) * | 2001-02-22 | 2010-09-01 | オリンパス株式会社 | 視差量測定装置 |
JP3964287B2 (ja) | 2002-09-04 | 2007-08-22 | 富士重工業株式会社 | 車外監視装置、及び、この車外監視装置を備えた走行制御装置 |
JP4638143B2 (ja) | 2003-12-26 | 2011-02-23 | 富士重工業株式会社 | 車両用運転支援装置 |
JP5017921B2 (ja) * | 2006-05-11 | 2012-09-05 | トヨタ自動車株式会社 | 車両用画像処理装置 |
JP4797441B2 (ja) * | 2005-05-20 | 2011-10-19 | トヨタ自動車株式会社 | 車両用画像処理装置 |
US20080094471A1 (en) * | 2005-05-20 | 2008-04-24 | Toyota Jidosha Kabushiki Kaisha | Image Processor for Vehicles |
JP4930046B2 (ja) * | 2006-12-26 | 2012-05-09 | 日産自動車株式会社 | 路面判別方法および路面判別装置 |
JP4856612B2 (ja) * | 2007-10-29 | 2012-01-18 | 富士重工業株式会社 | 物体検出装置 |
JP5631125B2 (ja) | 2010-09-01 | 2014-11-26 | キヤノン株式会社 | 画像処理装置、その制御方法及びプログラム |
JP2012243049A (ja) | 2011-05-19 | 2012-12-10 | Fuji Heavy Ind Ltd | 環境認識装置および環境認識方法 |
JP6035065B2 (ja) * | 2012-07-03 | 2016-11-30 | クラリオン株式会社 | 車載用周囲環境認識装置 |
JP6175878B2 (ja) * | 2013-04-25 | 2017-08-09 | 富士通株式会社 | 画像処理回路、画像処理装置及び画像処理方法 |
JP5906224B2 (ja) * | 2013-09-27 | 2016-04-20 | 富士重工業株式会社 | 車外環境認識装置 |
JP5893601B2 (ja) | 2013-10-31 | 2016-03-23 | 富士重工業株式会社 | 車両制御システム |
JPWO2016035181A1 (ja) | 2014-09-03 | 2017-06-22 | 株式会社ニコン | 撮像装置、情報処理装置、及び撮像システム |
US10233615B2 (en) | 2015-10-15 | 2019-03-19 | Komatsu Ltd. | Position measurement system and position measurement method |
JP6643122B2 (ja) * | 2016-02-03 | 2020-02-12 | キヤノン株式会社 | 距離画像装置、撮像装置、および距離画像補正方法 |
EP3428877A4 (en) | 2016-03-09 | 2019-10-30 | Nikon Corporation | DETECTION DEVICE, INFORMATION PROCESSING DEVICE, METHOD, PROGRAM, AND DETECTION SYSTEM |
-
1999
- 1999-07-30 JP JP11217903A patent/JP3092105B1/ja not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016057066A (ja) * | 2014-09-05 | 2016-04-21 | パイオニア株式会社 | 判定装置、走行レーン判定方法、及び、走行レーン判定プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP2001043496A (ja) | 2001-02-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3092105B1 (ja) | フェールセーフ機能を有する車外監視装置 | |
US7619668B2 (en) | Abnormality detecting apparatus for imaging apparatus | |
US8041079B2 (en) | Apparatus and method for detecting obstacle through stereovision | |
JP3759429B2 (ja) | 障害物検出装置及びその方法 | |
US7580548B2 (en) | Abnormality detecting apparatus for imaging apparatus | |
US6842189B2 (en) | Road monitoring method for a vehicle and a system thereof | |
US6658150B2 (en) | Image recognition system | |
JP2001160137A (ja) | 監視システムの距離補正装置、および監視システムの消失点補正装置 | |
EP1394761A3 (en) | Obstacle detection device and method therefor | |
JP3312729B2 (ja) | フェールセーフ機能を有する車外監視装置 | |
JPH04331311A (ja) | 車間距離検出装置 | |
JP2002022439A (ja) | フェールセーフ機能を有する車外監視装置 | |
JP2001028056A (ja) | フェールセーフ機能を有するステレオ式車外監視装置 | |
JP3301995B2 (ja) | ステレオ式車外監視装置 | |
CN109255316B (zh) | 一种车道偏移检测方法及系统 | |
JP3747863B2 (ja) | 車載用測距装置 | |
JP2011112416A (ja) | 車両周辺監視装置 | |
JP2011174794A (ja) | 路面状態検出装置及び方法 | |
JPH08285534A (ja) | 車載用画像処理装置 | |
JP3235831B2 (ja) | ステレオ式車外監視装置 | |
JP3464368B2 (ja) | 車両用後側方監視装置 | |
JP3272696B2 (ja) | フェールセーフ機能を有する車外監視装置 | |
CN108230486B (zh) | 一种探测路面凹凸的方法及行车记录仪 | |
JP3649327B2 (ja) | フェールセーフ機能を有するステレオ式車外監視装置 | |
JP4532089B2 (ja) | 車外監視装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20000628 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 3092105 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080728 Year of fee payment: 8 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080728 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090728 Year of fee payment: 9 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090728 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100728 Year of fee payment: 10 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110728 Year of fee payment: 11 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110728 Year of fee payment: 11 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120728 Year of fee payment: 12 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120728 Year of fee payment: 12 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130728 Year of fee payment: 13 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |