JP3301995B2 - ステレオ式車外監視装置 - Google Patents

ステレオ式車外監視装置

Info

Publication number
JP3301995B2
JP3301995B2 JP21637399A JP21637399A JP3301995B2 JP 3301995 B2 JP3301995 B2 JP 3301995B2 JP 21637399 A JP21637399 A JP 21637399A JP 21637399 A JP21637399 A JP 21637399A JP 3301995 B2 JP3301995 B2 JP 3301995B2
Authority
JP
Japan
Prior art keywords
distance data
vehicle
area
data
road
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP21637399A
Other languages
English (en)
Other versions
JP2001043495A (ja
Inventor
至 瀬田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Jukogyo KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Jukogyo KK filed Critical Fuji Jukogyo KK
Priority to JP21637399A priority Critical patent/JP3301995B2/ja
Publication of JP2001043495A publication Critical patent/JP2001043495A/ja
Application granted granted Critical
Publication of JP3301995B2 publication Critical patent/JP3301995B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Emergency Alarm Devices (AREA)
  • Image Analysis (AREA)
  • Road Repair (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、走行している道路
の路面状況を検出するステレオ式車外監視装置に関す
る。
【0002】
【従来の技術】近年、CCD等の固体撮像素子を内蔵し
た一対の車載カメラ(ステレオカメラ)を用いた車外監
視装置が注目されている。この監視装置は、カメラによ
り撮像された一対の画像に基づいて、走行環境(例え
ば、車外の対象物と自車輌との間の距離等)を認識す
る。そして、必要に応じてドライバーに注意を喚起した
り、シフトダウンによる減速等の車輌制御を行うもので
ある。走行環境の具体的な認識手法としては、まず、画
像対に映し出された同一対象物の位置的なずれ(視差)
をステレオマッチング法により求める。そして、算出さ
れた視差から三角測量の原理を用いて、道路の三次元的
な形状(直線またはカーブ曲率)や先行車との車間距離
などを特定することができる。
【0003】このようなステレオ式車外監視装置を実用
化するにあたっては、装置の安全動作を保証するため
に、路面状態や道路形状を的確に検出することが重要で
ある。ここで、一例として図3に示したような撮像画像
について考える。この画像は、最もポピュラーかつ理想
的な走行環境である乾いた舗装路を走行している状況
で、自車輌前方の景色を撮像した画像である。このよう
な状況を撮像した画像対から得られる距離データの出力
特性として、路面に相当する画像領域内には距離データ
が余り存在しないという傾向がある。通常、舗装路の輝
度は路面全体に渡ってほぼ均一である。したがって、路
面に記された白線を除く路面部分では、輝度エッジ(水
平方向で隣接した画素間における輝度の急激な変化)が
生じにくい。そして、距離データ(有効距離データ)は
輝度エッジが生じている箇所において出力されるため、
通常、距離データは、白線以外の路面部分では出力され
にくいという傾向がある。
【0004】一方、図4は、先行車のタイヤによる圧雪
でわだち状に雪が存在する積雪路面(わだち雪)を走行
している状況で、図3と同一景色を撮像した画像であ
る。わだち雪が存在するような路面状況では、白線に起
因した輝度エッジ以外にわだち雪に起因した輝度エッジ
も多数存在する。その結果、乾いた舗装路を走行してい
る状況と異なり、路面部分に多数の距離データが算出さ
れる。また、砂利道を走行している状況もわだち雪と同
様の特性があり、路面の砂利の凹凸で輝度エッジが存在
するため、路面部分に多数の距離データが算出される。
【0005】わだち状の積雪路面や砂利道のように、路
面部分に多数の距離データが算出されてしまうような路
面状況では、監視制御を的確に行うことが困難になる場
合がある。なぜなら、路面部分に出力された多数の距離
データのうち、どれが道路認識に必要となる白線に関す
る距離データなのかを特定することが困難だからであ
る。また、これらの路面状況は、乾いた舗装路と比べ
て、路面の摩擦係数μが著しく低下している。したがっ
て、摩擦係数μが低い路面状況で減速等を行う場合、車
輌がスリップしてしまわないように、通常制御時よりも
緩やかに車輌制動を行う必要がある。
【0006】。ステレオ式車外監視装置の安全性を高い
次元で確保するという観点でいえば、上述したような路
面状況を的確に検出することが重要である。それととも
に、検出された路面の状況に応じてフェールセーフを含
めた適切な制御を行うことも重要である。なお、本明細
書でいう「フェールセーフ」とは、通常制御と異なる監
視制御を行うという広い概念である。したがって、通常
の監視制御を一時的に中断することはもとより、通常制
御時よりも緩やかな制動力を生じさせるような制御もこ
こでいう「フェールセーフ」の概念に含まれる。
【0007】
【発明が解決しようとする課題】このように、ステレオ
式車外監視装置においては、路面の状況を的確に検出す
るための手法が確立されておらず、監視装置の安全性を
高い次元で確保するための課題が残されていた。
【0008】そこで、本発明の目的は、走行路の路面状
況を撮像画像から精度よく検出することができるステレ
オ式車外監視装置を提供することである。
【0009】また、本発明の別の目的は、走行路の路面
状況に必要に応じて適切な制御を行い得るステレオ式車
外監視装置を提供することである。
【0010】
【課題を解決するための手段】上記目的を達成するた
め、請求項1に記載された発明は、ステレオカメラによ
り自車両の前方の景色を撮像して得た画像データ対に映
し出された対象物の視差に基づいて当該対象物の距離デ
ータを算出し、前記画像データと前記距離データとに基
づいて走行環境を認識するステレオ式車外監視装置にお
いて、撮像画像における道路が存在すると予測される領
域に距離データ監視領域を設定して該距離データ監視領
域に存在する距離データの数をカウントし、該距離デー
タの数が予め設定された判定しきい値よりも大きいと
き、前記認識のフェールと判定するフェール判定手段を
備え、前記フェール判定手段は、前記距離データ監視領
域を、前記予測走行線を基準として車長方向に所定長を
有すると共に車幅方向に所定幅を有し、且つ前記予測走
行線を基準として車高方向に所定幅を有する領域を、前
記距離データ監視領域として設定することをたことを特
徴とする。すなわち、請求項1に記載された発明は、撮
像画像における道路が存在すると予測される領域に距離
データ監視領域を設定して該距離データ監視領域に存在
する距離データの数をカウントし、該距離データの数が
予め設定された判定しきい値よりも大きいとき、前記認
識のフェールと判定することで、わだち状の積雪路面や
砂利道のように、路面部分に多数の距離データが算出さ
れてしまい監視制御を的確に行うことが困難な路面状況
の場合は、これを確実に判定し、監視装置の安全性を高
い次元で確保する。それとともに、距離データ監視領域
を設定するに際して、画像データと距離データとから道
路形状を認識し、該認識された道路の形状から自車両の
走行経路を予測した予測走行線を算出する。そして、予
測走行線を基準として車長方向に所定長を有すると共に
車幅方向に所定幅を有し、且つ前記予測走行線を基準と
して車高方向に所定幅を有する領域を、距離データ監視
領域として設定するので、確実に距離データ監視領域内
に走行時の路面を捉えることができ、判定精度を向上す
ることができる。
【0011】
【0012】請求項2に記載された発明は、請求項1に
記載された発明において、前記フェール判定手段は、前
記距離データ監視領域において車高方向であって車高ゼ
ロを含む所定幅をドライデータ領域として設定し、ドラ
イデータ領域における距離データの数をカウントし、該
距離データの数が前記判定しきい値よりも大きいとき、
前記走行環境認識のフェールと判定することを特徴とす
る。すなわち、請求項2に記載された発明は、フェール
を判定するに際して、前記距離データ監視領域において
車高方向であって車高ゼロを含む所定幅をドライデータ
領域として設定し、ドライデータ領域における距離デー
タの数をカウントする。そして、距離データの数が判定
しきい値よりも大きいとき、前記走行環境認識のフェー
ルと判定するので、距離データ領域中において確実に路
面を捕捉し、路面の状況に起因して算出された距離デー
タの数を的確にカウントすることができて、更なる判定
精度の向上を図ることができる。
【0013】請求項3に記載された発明は、請求項1ま
たは2に記載された発明において、前記フェール判定手
段は、撮像画像における道路が映し出される領域に画像
データ監視領域を設定して該画像データ監視領域内の輝
度エッジ数をしきい値と比較し、輝度エッジ数がしきい
値以上のときには、前記判定しきい値を輝度エッジ数が
しきい値未満のときに採用される判定しきい値よりも小
さい値に設定することを特徴とする。すなわち、請求項
3に記載された発明は、フェールを判定するに際して、
撮像画像における道路が映し出される領域に画像データ
監視領域を設定して該画像データ監視領域内の輝度エッ
ジ数をしきい値と比較する。そして、輝度エッジ数がし
きい値以上のときには、前記判定しきい値を輝度エッジ
数がしきい値未満のときに採用される判定しきい値より
も小さい値に設定するので、画像データ監視領域内の輝
度エッジ数がしきい値以上で舗装路の白線が画像データ
監視領域内に映し出されているとき、判定しきい値を輝
度エッジ数がしきい値未満のときに採用される判定しき
い値よりも小さい値に設定して距離データ数と比較する
ことで、このとき距離データの数が判定しきい値以上で
あれば本来の路面状況ではありえない数の距離データが
算出されており以上であると判断することができ、この
場合においても走行環境認識のフェールと判定し、監視
装置の安全性を高い次元で確保することができる。
【0014】請求項4に記載された発明は、請求項1か
ら3のいずれか記載の発明において、前記フェール判定
手段により前記走行環境認識のフェールと判定されたと
き、車両をフェールセーフ制御する処理手段を更に備え
たことを特徴とする。すなわち、請求項4に記載された
発明は、前記フェール判定手段により前記走行環境認識
のフェールと判定されたとき、車両をフェールセーフ制
御するので、走行環境認識のフェール時は車両を安全側
に制御することができ、更なる安全性の向上を図ること
ができる。
【0015】
【発明の実施の形態】図1は、本実施例にかかる車外監
視装置のブロック図である。CCD等のイメージセンサ
を内蔵した一対のカメラ1,2は、自動車等の車輌の車
幅方向において所定の間隔でルームミラーの近傍に取り
付けられており、車輌前方の風景を撮像する。メインカ
メラ1は、ステレオ処理を行う際に必要な基準画像(右
画像)を撮像し、サブカメラ2は、この処理における比
較画像(左画像)を撮像する。互いの同期している状態
において、ステレオカメラ1,2から出力された各アナ
ログ画像は、A/Dコンバータ3,4により、所定の輝
度階調(例えば、256階調のグレースケール)のデジ
タル画像に変換される。デジタル化された画像は、画像
補正部5において、輝度の補正や画像の幾何学的な変換
等が行われる。通常、一対のカメラ1,2の取り付け位
置は、程度の差こそあれ誤差があるため、それに起因し
たずれが左右の画像に存在している。このずれを補正す
るために、アフィン変換等を用いて、画像の回転や平行
移動等の幾何学的な変換が行われる。このようにして補
正された基準画像および比較画像は、元画像メモリ8に
格納される。
【0016】一方、ステレオ画像処理部6は、画像補正
部5により補正された基準画像および比較画像から、画
像中の同一対象物の三次元位置(自車輌から対象物まで
の距離を含む)を算出する。この距離は、4×4画素の
画素ブロック単位(対象物)で算出され、左右画像にお
ける同一対象物の位置に関する相対的なずれ(視差)か
ら、三角測量の原理に基づき算出することができる。こ
のようにして算出された画像の距離データは、距離デー
タメモリ7に格納される。
【0017】マイクロ・コンピューター9は、元画像メ
モリ8および距離データメモリ7に格納された各情報、
並びにナビゲーション情報や各種センサ情報(図示せ
ず)に基づき、白線検出を含めた車輌前方の道路形状
(直線やカーブ形状)を認識する(道路認識部10)。
また、それらに基づいて、車輌前方の立体物(走行車)
等も認識する(立体物認識部11)。そして、処理部1
3は、これらの認識部10,11からの情報から警報や
車輌制御が必要と判定された場合、モニタやスピーカー
等の警報装置19によりドライバーに対して注意を促し
たり、あるいは、必要に応じて、各種制御部14〜18
を制御する。例えば、AT(自動変速機)制御部14に
対して、シフトダウンを実行する旨を指示する。また、
エンジン制御部18に対してエンジン出力を低下する旨
を指示してもよい。その他にも、アンチロックブレーキ
システム(ABS)制御部15、トラクションコントロ
ールシステム(TCS)制御部16、或いは各車輪のト
ルク配分や回転数を制御する車輌挙動制御部17に対し
て、適切な車輌制御を指示することも可能である。
【0018】さらに、フェール判定部12は、元画像メ
モリ8に記憶された画像データと、距離データメモリ7
に記憶された距離データと、道路認識部10で算出され
た予測走行線Lとに基づいて、後述するルーチンにした
がってフェール判定を行う。フェール判定部12からフ
ェールセーフが指示された場合、処理部13はフェール
セーフを実行する。これにより、例えば、道路等の誤認
識にともなう装置の誤動作を防ぐために、上述した車輌
制御等が一時的に中断される。また、通常制御時よりも
緩やかな車輌制動力が生じるように、上記の制御部14
〜18の各種制動パラメータを変更する。
【0019】図2は、本実施例にかかるフェールの判定
ルーチンを示したフローチャートである。このフローチ
ャートは、所定の制御周期ごとに繰り返し実行される。
このルーチンにより、現在の走行環境がフェール条件に
合致すると判断された場合、フェール判定部12は処理
部13に対して、フェールセーフを実行する旨指示す
る。
【0020】まず、ステップ1において、フェール判定
部12は、元画像メモリ8に記憶された画像データと、
距離データメモリ7に記憶された距離データと、道路認
識部10にて算出された予測走行線Lとを読み込む。予
測走行線Lは、自車輌が進むべき走行経路を予測したラ
インであり、検出された白線(路面に記された中央線、
走行線あるいは路肩線等)を基本として、舵角やヨーレ
ート、或いは必要に応じてナビゲーション情報も考慮し
て算出される。予測走行線Lは、図8に示したように認
識された道路形状から算出される。以下、予測走行線L
の導出方法を概略的に説明する。
【0021】まず、撮像画像対に映し出されたある対象
物(例えば道路や先行車)の視差dが算出されると、下
式に基づいて、その対象物までの距離Zを算出すること
ができる。ここで、rは、ステレオカメラ1,2間の取
り付け間隔、fはステレオカメラ1,2の焦点距離であ
る。
【0022】
【数1】Z=(r・f)/d
【0023】撮像画像の二次元座標(i,j)は、図3
または図4に示したように、撮像画像の左下隅を原点と
して、水平方向をi座標軸、垂直方向をj座標軸とする
(単位は画素)。一方、自車輌を基準に設定された実空
間の三次元座標(X,Y,Z)は、ステレオカメラ1,
2の中央真下の道路面を原点として、車幅方向をX軸、
車高方向をY軸、車長方向をZ軸とする。したがって、
走行路が水平ならば、XZ平面(Y=0)は路面と一致
する。撮像画像に映し出された対象物の距離データ
(i,j,Z)が特定されると、下式の座標変換式に基
づき、その三次元位置(X,Y,Z)も一意に特定する
ことができる。ここで、同式におけるCHは、ステレオ
カメラ1,2の取り付けた高さ(定数)、rはステレオ
カメラ1,2の取り付け間隔(定数)、PWは1画素当
たりの視野角(定数)、そして、IV、JVは車輌の真
正面における無限遠点の画像上のiまたはj座標の値
(定数)である。
【0024】
【数2】 X = r/2 + Z・PW・(i−IV) Y = CH − Z・PW・(j−JV)
【0025】なお、実空間の三次元座標(X、Y、Z)
から撮像画像の二次元位置(i,j)への変換式は下式
のようになる。
【0026】
【数3】 i = (X−r/2)/(Z・PW)+IV j = (CH−Y)/(Z・PW) +JV
【0027】道路認識部10は、道路と先行車とが重な
って映し出されている場合、先行車や白線の位置情報
(高さY)を利用して白線だけを分離して抽出すること
で、「道路形状の認識」を行う。三次元空間において白
線は路面位置にあり(理想的な状態ではY=0)、先行
車などの立体物は路面よりも高い位置にある(理想的な
状態ではY>0)。したがって、路面の高さ、すなわち
Y座標の値が特定できれば、白線と立体物とを区別する
ことができる。ここで、「道路形状の認識」とは、道路
形状を表現した関数(道路モデル)の各パラメータを、
実際の道路形状と合致するように設定することである。
本実施例における道路モデルは、認識範囲(例えばカメ
ラ位置から車輌前方84m先まで)の走行路における左
右の白線(サイドライン)を、所定区間ごとに三次元の
直線式で近似し、これを折れ線状に連結することにより
表現される。図8の例では、認識範囲を所定の距離(Z
1〜Z7)ごとに7つの区間に分けて、それぞれの区間
において、下式で近似された直線式のパラメータa,
b,c,dがサイドライン毎に導出される。そして、左
右のサイドラインで挟まれた領域が走行路(路面)に相
当する。なお、この道路モデルは、車幅方向(X方向)
のみならず、車高方向(Y方向)の直線式をも有してい
るため、道路の勾配や凹凸といった上下方向における道
路形状も表現している。
【0028】
【数4】 (左サイドライン) X = aL・Z + bL Y = cL・Z + dL (右サイドライン) X = aR・Z + bR Y = cR・Z + dR
【0029】このようにして算出された左右のサイドラ
インから予測走行線Lを算出することができる。予測走
行線Lは、走行路の中央線、すなわち、数式4により近
似された左右のサイドラインの中間線として求めること
ができる。このようにして算出された予測走行線Lがフ
ェール判定部12に出力される。
【0030】ステップ1に続き、ステップ2からステッ
プ5において、画像データ監視領域R1における輝度エ
ッジの数N1がカウントされる。図5は、撮像画像中に
設定された画像データ監視領域R1を説明するための図
である。200×512画素のサイズを有する撮像画像
のうち、図示したように画像下側において水平方向に延
在する横長矩形領域を画像データ監視領域R1とする。
路面の輝度変化に関する状態は、この監視領域R1に基
づいて判断される。そのため、監視領域R1は、撮像さ
れた画像のうち道路が映し出される領域を含むように設
定される必要がある。その際、撮像画像のなるべく下側
に監視領域R1を設定することが好ましい。通常、自車
輌は、先行車とある程度の車間距離をおいて走行してい
るため、先行車は二次元平面である撮像画像の比較的上
側に映し出される傾向がある。したがって、撮像画像の
なるべく下側に監視領域R1を設定すれば、先行車によ
って路面がマスクされてしまう状況を避けることがで
き、路面状態を正確にモニタリングすることができる。
また、監視領域R1は、図3に示したように、走行車線
の中央線や走行車線、或いは路肩線といった走行路の両
端部(すなわちエッジ)よりも外側の状況を含む程度に
水平方向に延在させている。なお、上記エッジが撮像画
像の左右に振れるような走行状況(例えばカーブ走行時
等)を見越して、その分だけ監視領域Rの水平長を長め
に設定しておく。
【0031】このように設定された画像データ監視領域
R1内に存在するある対象画素Tに関して、画像の水平
方向(横方向)の輝度変化量Δχが算出される。図6
は、画像データ監視領域R1における水平方向の輝度エ
ッジを判定する方法を説明するための図である。まず、
監視領域R1内に存在するある対象画素Tに関して、輝
度変化量Δχを算出する。輝度変化量Δχは、対象画素
Tの左側で近接した2画素(画素ブロック)の輝度和と
右側で近接した2画素(画素ブロック)の輝度和との差
(絶対値)である。この算出手法では、左右の画素ブロ
ックを比較単位として輝度変化を見ているため、対象画
素Tに関する水平方向のエッジ状態を的確に反映した値
を求めることができる。
【0032】つぎに、ステップ2において算出された輝
度変化量Δχが所定のしきい値Δχth(例えば日中では
30)よりも大きいか否か、すなわち、対象画素部で輝
度エッジが生じているか否かが判断される(ステップ
3)。この輝度エッジの有無を判定するしきい値Δχth
の値に関して、輝度変化が生じにくくなる夜間等では、
エッジ判定基準を緩和するために日中よりも小さな値
(例えば20)を用いる。このステップで肯定判定され
た場合、すなわち対象画素Tで輝度エッジが生じている
場合は、輝度エッジ数N1に1をインクリメントして
(ステップ4)、ステップ5に進む。一方、ステップ3
で否定判定された場合は、ステップ4を経ることなくス
テップ5へ進む。そして、ステップ5において、監視領
域R1内のすべての画素Tに関して輝度変化量Δχが算
出されたか否かが判断される。このステップで否定判定
された場合は、ステップ2へ戻り、すべての画素が探索
されるまで同様の手順が繰り返し実行される。その結
果、監視領域R1内に存在するすべての画素を対象に輝
度エッジの有無が判断され、監視領域R1における輝度
エッジの個数N1が算出される。これにより、監視領域
R1全体における水平方向の輝度変化の状態を評価する
ことができる。
【0033】ステップ5に続くステップ6以降は、距離
データの出力数を評価する手順である。まず、ステップ
6において、距離データの出力数をカウントする対象範
囲を距離データ監視領域R2として設定する。図7は、
距離データ監視領域R2を説明するための図である。こ
の監視領域R2は、演算量の増加を抑えるために、道路
認識部10で算出された予測走行線L(ステップ1)を
基準として、自車輌の前方(車長方向)40m、左右の
幅(車幅方向)をそれぞれ2mとして設定される。な
お、図7は、予測走行線LをZ方向に直線状に延在して
図示しているが、カーブにおいて予測走行線LはX方向
への変位量をもつ。
【0034】つぎに、ステップ7において、距離データ
監視領域R2中のドライデータ領域における距離データ
の出力数(以下ドライデータ数DRYという)がカウン
トされる。ドライデータ数DRYとは、路面の輝度変化
により生じた距離データの数である。図9は、距離デー
タ監視領域R2内における距離データの分布を説明する
ための図である。なお、同図は、予測走行線Lの車高方
向(Y方向)の変位をZ軸上に正規化して図示してい
る。上述した数式2の変換式から、距離データ(i,
j,Z)は、実空間の三次元座標(X、Y、Z)に変換
でき、両者は一対一の関係にある。そこで、距離データ
をその高さ(Y値)に基づいて以下の3つに分類するこ
とができる。
【0035】(1)立体物データ領域 立体物データは、先行車などの立体物に起因して算出さ
れた距離データである。理想的な状態では、立体物まで
の距離を示す距離データを、数式2で変換するとY>0
(すなわち路面より上側)となる。しかしながら、実際
の走行環境では、自車輌のピッチングや走行路の起伏に
より、白線等の距離データがY>0となることがある。
そこで、このような点を考慮して、立体物データが出力
される立体物データ領域をY>0.3mとして設定す
る。
【0036】(2)ドライデータ領域 ドライデータは、走行路の路面(白線、路面のわだち、
砂利等)に起因して算出された距離データである。理想
的な状態では、白線等の距離データを数式2で変換する
とY=0(すなわち路面)となる。しかしながら、上述
したように実際の走行環境では、ピッチング等の影響に
より、そのような距離データが高さ方向に正や負の値を
有することがあるので、−0.4m≦Y≦0.3mの領
域をドライデータ領域として設定する(図9においてド
ライデータ領域をハッチングで図示)。
【0037】(3)ウエットデータ領域 雨等により濡れた路面では立体物が路面に写り込むこと
があり、それに起因して算出された距離データがウエッ
トデータである。この偽りの距離データは理想的な状態
ではY<0となるが、実際の走行環境を考慮して、Y<
−0.4mの領域をウエットデータ領域として設定す
る。
【0038】したがって、ステップ7で算出されるドラ
イデータ数DRYは、予測走行線Lを基準(原点)とし
て、車高、車幅、車長方向に関してそれぞれ以下の条件
を満たす範囲内における距離データの個数として算出さ
れる。
【0039】(ドライデータの条件) 車幅方向幅: −2 ≦ X ≦ 2 車高方向幅:−0.4 ≦ Y ≦ 0.3 車長方向長: 0 ≦ Z ≦ 40
【0040】なお、ノイズ的な距離データをカウント対
象から除くために、距離データ監視領域R2内の有効距
離データだけをカウント対象とすることが好ましい。有
効距離データは、画像の水平方向の輝度エッジを所定数
以上有する画素ブロックに関する距離データである。図
10は、距離データの算出単位である画素ブロックに関
する水平方向の輝度エッジの算出手法を説明するための
図である。距離データは、4×4の画素ブロック単位で
算出される。この画素ブロックにおいて、まず、水平方
向に隣接した画素対の輝度変化量(絶対値)ΔPを算出
する。ただし、一番左側の画素列(P11,P12,P13
14)に関しては、1つ左側に隣接した画素ブロックの
一番右側の画素列から輝度変化量ΔPを算出する。した
がって、1つの画素ブロックに関して16個の輝度変化
量ΔPが算出される。つぎに、これらの16個の輝度変
化量ΔPのうち、所定のしきい値(これをDCDX値と
呼ぶ)以上のものの数をカウントする。このDCDX値
は、3から7の範囲において適切に設定される。そし
て、このDCDX値以上の輝度変化量ΔPの数が4つ以
上の画素ブロックを有効ブロックとし、その有効ブロッ
クに関する距離データを有効距離データとする。路面状
況の評価は、距離データ監視領域R2内に存在するすべ
ての距離データに基づいて行うのではなく、水平方向の
輝度変化量が大きな画素ブロックに関する距離データ
(有効距離データ)のみを用いている。これにより、ノ
イズ的な距離データを除外できるため、路面状況の評価
に関する精度を向上させることができる。
【0041】ステップ7に続くステップ8において、ス
テップ4で算出された画像データ監視領域R1の輝度エ
ッジ数N1が所定値(例えば24)以上であるか否かが
判断される。このステップでの判断を設けた理由は、後
のステップ9やステップ11におけるドライデータ数D
RYの大きさ判定に関して、輝度エッジ数N1に応じて
異なる判定しきい値を適用するためである。
【0042】ステップ8で肯定判定された場合はステッ
プ9に進み、ステップ7で算出されたドライデータ数D
RYが所定の判定値(例えば400)以上であるか否か
が判断される。例えば、白線のある舗装路を走行してい
る走行環境では、大きな輝度変化を有する白線が画像デ
ータ監視領域R1に映し出されるため、輝度エッジ数N
1は通常24個以上になる。この場合、白線に起因して
算出された距離データ監視領域R2内のドライデータ数
DRYは、それほど多くならないという特性がある(実
験した結果50〜200位)。そこで、通常の状態では
それを越えることのないような判定しきい値(例えば4
00)を設定し、それとドライデータ数DRYとを比較
すれば、路面に関する距離データが適切に出力されてい
るか否かを判定することができる(ステップ9)。すな
わち、このステップで否定判定された場合は、ステップ
12に進み、正常な状態であるとしてフェールフラグN
Gを0にセットし、リターンへ進む。一方、ステップ9
で肯定判定された場合、本来の路面状況ではあり得ない
数の距離データが算出されており異常であると判断し
て、フェールフラグNGを1にセットする(ステップ1
0)。このようなケースとしては、例えばノイズが制御
装置中の信号に乗ってしまった場合などが想定される。
【0043】一方、ステップ8で否定判定された場合は
ステップ11に進み、ステップ7で算出されたドライデ
ータ数DRYが所定の判定値(例えば700)以上であ
るか否かが判断される(ステップ11)。例えば、わだ
ち雪が存在するような路面状況では、大きな輝度変化を
有する白線が雪でマスクされてしまう。わだちのエッジ
部で輝度変化は生じるものの、白線ほどその変化量は大
きくない(すなわち輝度変化量Δχがしきい値Δχthを
越えにくい)。そのため、通常、輝度エッジ数N1は2
4個を越えにくい。同様に、砂利道では、白線自体が存
在しないことが多く、また、砂利の凹凸による輝度変化
は比較的小さいので、通常、輝度エッジ数N1が24個
を越えることはない。しかしながら、これらの場合、わ
だちや砂利に起因して距離データ監視領域R2に、多数
のドライデータが存在するという特性がある。そこで、
わだち雪や砂利といった状況でのみ、それを越えるよう
な判定しきい値(例えば700)を設定し、それとドラ
イデータ数DRYとを比較すれば、わだち雪や砂利道を
検出することができる(ステップ11)。すなわち、こ
のステップで否定判定された場合(例えば、白線のない
舗装路のような通常の路面状況が該当)、正常な状況で
あると判断して、ステップ12に進み、フェールフラグ
NGを0にセットする。これに対して、ステップ11で
肯定判定された場合、わだち状の積雪路面や砂利道のよ
うにフェールセーフすべき状況であると判断して、フェ
ールフラグNGを1にセットする(ステップ10)。
【0044】フェール判定部12によりフェールセーフ
が指示された場合、処理部13はフェールセーフを実行
する。フェールセーフとして、例えば、通常の監視制御
を一時的に中断してもよい。また、クルーズコントロー
ルがセットされている場合に、それを止めるような制御
を行うようにしてもよい。さらに、通常制御時よりも緩
やかな制動力を発揮するような車輌制御を行ってもよ
い。
【0045】以上の説明からわかるように、本実施例に
かかるステレオ式車外監視装置は、道路が存在するであ
ろうと予測される撮像画像の所定領域に距離データ監視
領域R2を設定し、この監視領域R2内に存在する距離
データに関して、高さ方向の分布を評価している。すな
わち、距離データから三次元空間における高さ(Y方向
の値)を算出し、路面状況に起因した距離データ(有効
距離データ)の出力数をカウントしている。わだち状の
積雪路面や砂利道では、白線がある通常の舗装路等と比
べて、多数の距離データが路面位置の近傍に算出される
という特性がある。このような特性に鑑み、監視領域R
2内にドライデータが多数存在する場合、わだち状の積
雪路面等であると推定している。
【0046】また、路面の輝度エッジをモニタリングす
るために、二次元的な平面である撮像画像において、路
面が映し出される特定領域を画像データ監視領域R1と
して設定している。そして、この監視領域R1の輝度エ
ッジ数を評価している。わだち状の積雪路面や砂利道で
は、白線がある通常の舗装路等と比べて、輝度エッジ数
が少なくなるという特性がある。このような特性に鑑
み、ドライデータ数を評価する判定しきい値を輝度エッ
ジの数に応じて変えている。これにより、路面状況を一
層精度よく検出することが可能となる。なお、発明者が
実際に走行テストを繰り返した結果、以上の判定手順で
良好な判定結果を得られることが確認できた。
【0047】さらに、このような検出結果を生かした制
御(フェールセーフを含む)を行えば、車外監視装置の
安全性を一層高い次元で確保することが可能となる。ま
た、本実施例は、少ない演算量でフェール判定を行うこ
とができるという効果もある。
【0048】なお、車外監視の信頼性および制御の安定
性の双方を確保する観点でいえば、ステップ9またはス
テップ11においてドライデータ数DRYが判定しきい
値以上になるような状況が複数の制御周期に渡って継続
した場合に(例えば10秒相当)、フェールフラグNG
を1にセットすることが好ましい。同様の観点から、ド
ライデータ数DRYが判定しきい値未満になるような状
況が複数の制御周期に渡って継続したならば(例えば6
0秒相当)、フェールフラグNGを0にセットする。
【0049】また、フェール状況の検出精度を向上させ
るために、上記のフェール判定ルーチンは走行状況に応
じて実行するようにしてもよい。例えば、自車輌と先行
車との車間距離が13m以上、車速が20km/h以上、か
つ、舵角±23°以下の場合のみフェール判定を実行す
る。先行車との車間距離が短い場合、ドライデータの大
半が先行車によってマスクされてしまうため、路面状況
を精度よく検出することが困難となる。また、特に、各
フレーム毎にウェットデータ率RTを算出し、所定のフ
レーム間隔でその評価を行う手法を用いた場合におい
て、車速が低いとフェール判定精度が低下してしまう可
能性がある。車速が低い場合は自車輌の移動量の少ない
ので、局所的な路面しか監視対象にならない。この局所
的な路面が、偶然、フェール状況に合致してしまうよう
な未想定の状態である場合、適切でないフェール判定が
なされてしまうおそれがある。車速が高いことをフェー
ル判定の実行条件とすれば、このような路面が局所的に
存在したとしても、誤ってフェールと判定してしまうこ
とを回避できる。さらに、舵角を考慮した理由は、カメ
ラの視野に入る景色のパターンをある程度限定すること
で、判定精度を向上させるためである。
【0050】さらに、撮像画像に基づく路面状況の判定
結果にくわえて、外気温センサから得られる外気温度を
考慮すれば、雪の有無を一層正確に推定することが可能
となる。
【0051】
【発明の効果】以上説明したように本発明によれば、ス
テレオカメラにより自車両の前方の景色を撮像して得た
画像データ対に映し出された対象物の視差に基づいて当
該対象物の距離データを算出し、画像データと距離デー
タとに基づいて走行環境を認識するに際し、撮像画像に
おける道路が存在すると予測される領域に距離データ監
視領域を設定して該距離データ監視領域に存在する距離
データの数をカウントする。そして、該距離データの数
が予め設定された判定しきい値よりも大きいとき、前記
認識のフェールと判定するので、道路の状況を確実に検
出して、わだち状の積雪路面や砂利道のように、路面部
分に多数の距離データが算出されてしまい監視制御を的
確に行うことが困難な路面状況の場合は、これを確実に
判定することができ、監視装置の安全性を高い次元で確
保することができる。
【図面の簡単な説明】
【図1】実施例にかかる車外監視装置のブロック図
【図2】実施例にかかるフェール判定ルーチンを示した
フローチャート
【図3】道路にわだち雪が存在しない走行状況を撮像し
た画像の一例を示した図
【図4】わだち雪が存在する走行状況を撮像した画像の
一例を示した図
【図5】画像領域中に設定された画像データ監視領域を
説明するための図
【図6】画像データ監視領域の水平方向の輝度エッジ判
定方法を説明するための図
【図7】距離データ監視領域を説明するための図
【図8】予測走行線を説明するための図
【図9】距離データ監視領域の距離データの分布を説明
するための図
【図10】距離データの算出単位である画素ブロックに
関する水平方向の輝度エッジの算出手法を説明するため
の図
【符号の説明】
1 メインカメラ、 2 サブカメラ、3,
4 A/Dコンバータ、 5 画像補正部、6 ステ
レオ画像処理部、 7 距離データメモリ、8 元
画像メモリ、 9 マイクロ・コンピュータ
ー、10 道路認識部、 11 立体物認識
部、12 フェール判定部、 13 処理部、1
4 AT制御部、 15 ABS制御部、1
6 TCS制御部、 17 車輌挙動制御、1
8 エンジン制御部、 19 警報装置
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI G01B 11/00 G01B 11/00 H 11/24 G01C 3/06 V 11/245 G08B 21/00 E G01C 3/06 U G08B 21/00 G08G 1/16 C H04N 7/18 J G08G 1/16 G01B 11/24 N H04N 7/18 K (58)調査した分野(Int.Cl.7,DB名) G06T 1/00 B60R 1/00 - 1/12 B60R 21/00 - 21/34 G01B 11/00 - 11/30 G01C 3/00 - 3/32 G08G 1/00 - 9/02 H04N 7/18 E01C 23/01 G08B 21/00

Claims (4)

    (57)【特許請求の範囲】
  1. 【請求項1】ステレオカメラにより自車両の前方の景色
    を撮像して得た画像データ対に映し出された対象物の視
    差に基づいて当該対象物の距離データを算出し、前記画
    像データと前記距離データとに基づいて走行環境を認識
    するステレオ式車外監視装置において、 撮像画像における道路が存在すると予測される領域に距
    離データ監視領域を設定して該距離データ監視領域に存
    在する距離データの数をカウントし、該距離データの数
    が予め設定された判定しきい値よりも大きいとき、前記
    認識のフェールと判定するフェール判定手段と、 前記画像データと前記距離データとから道路形状を認識
    し、該認識された道路の形状から自車両の走行経路を予
    測した予測走行線を算出する認識手段とを備え、 前記フェール判定手段は、前記距離データ監視領域を、
    前記予測走行線を基準として車長方向に所定長を有する
    と共に車幅方向に所定幅を有し、且つ前記予測走行線を
    基準として車高方向に所定幅を有する領域を、前記距離
    データ監視領域として設定することを特徴とするステレ
    オ式車外監視装置。
  2. 【請求項2】前記フェール判定手段は、前記距離データ
    監視領域において車高方向であって車高ゼロを含む所定
    幅をドライデータ領域として設定し、ドライデータ領域
    における距離データの数をカウントし、該距離データの
    数が前記判定しきい値よりも大きいとき、前記走行環境
    認識のフェールと判定することを特徴とする請求項1に
    記載されたステレオ式車外監視装置。
  3. 【請求項3】前記フェール判定手段は、撮像画像におけ
    る道路が映し出される領域に画像データ監視領域を設定
    して該画像データ監視領域内の輝度エッジ数をしきい値
    と比較し、輝度エッジ数がしきい値以上のときには、前
    記判定しきい値を輝度エッジ数がしきい値未満のときに
    採用される判定しきい値よりも小さい値に設定すること
    を特徴とする請求項1または2に記載されたステレオ式
    車外監視装置。
  4. 【請求項4】前記フェール判定手段により前記走行環境
    認識のフェールと判定されたとき、車両をフェールセー
    フ制御する処理手段を更に備えたことを特徴とする請求
    項1から3のいずれかに記載されたステレオ式車外監視
    装置。
JP21637399A 1999-07-30 1999-07-30 ステレオ式車外監視装置 Expired - Fee Related JP3301995B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP21637399A JP3301995B2 (ja) 1999-07-30 1999-07-30 ステレオ式車外監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP21637399A JP3301995B2 (ja) 1999-07-30 1999-07-30 ステレオ式車外監視装置

Publications (2)

Publication Number Publication Date
JP2001043495A JP2001043495A (ja) 2001-02-16
JP3301995B2 true JP3301995B2 (ja) 2002-07-15

Family

ID=16687566

Family Applications (1)

Application Number Title Priority Date Filing Date
JP21637399A Expired - Fee Related JP3301995B2 (ja) 1999-07-30 1999-07-30 ステレオ式車外監視装置

Country Status (1)

Country Link
JP (1) JP3301995B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3462467B2 (ja) 2000-11-14 2003-11-05 富士重工業株式会社 車外監視装置
US7941005B2 (en) 2008-11-28 2011-05-10 Kabushiki Kaisha Toshiba Information processing apparatus and resolution enhancement processing control program
US7945120B2 (en) 2008-06-30 2011-05-17 Kabushiki Kaisha Toshiba Apparatus for enhancing resolution using edge detection
CN102733295A (zh) * 2012-07-09 2012-10-17 中公高科养护科技股份有限公司 基于里程桩号校准检测桩号的方法

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002267441A (ja) * 2001-03-07 2002-09-18 Fuji Heavy Ind Ltd ステレオマッチング方法および監視装置
JP4150218B2 (ja) * 2002-06-25 2008-09-17 富士重工業株式会社 地形認識装置および地形認識方法
JP4930046B2 (ja) * 2006-12-26 2012-05-09 日産自動車株式会社 路面判別方法および路面判別装置
JP5034809B2 (ja) * 2007-09-18 2012-09-26 マツダ株式会社 車両用路面状態推定装置
JP2012066785A (ja) 2010-09-27 2012-04-05 Fuji Heavy Ind Ltd 車両の統合制御装置
JP6111732B2 (ja) * 2013-02-22 2017-04-12 株式会社リコー 画像処理装置、画像処理方法、画像処理システム、画像処理プログラム及び移動装置
JP6178632B2 (ja) * 2013-06-10 2017-08-09 株式会社Subaru エンジンのサージ制御装置
JP6091379B2 (ja) * 2013-08-23 2017-03-08 三菱電機株式会社 情報処理装置および情報処理方法
CN106683101B (zh) * 2016-12-30 2019-12-31 英华达(上海)科技有限公司 路面检测方法及手持式电子装置
JP6539304B2 (ja) * 2017-06-06 2019-07-03 株式会社Subaru 車両の走行制御装置
JP6891082B2 (ja) * 2017-09-25 2021-06-18 日立Astemo株式会社 物体距離検出装置
CN110541341B (zh) * 2019-09-04 2021-10-22 山西省交通科技研发有限公司 一种基于稳定视觉的公路结构病害检测装置及方法
JP7342807B2 (ja) * 2020-06-30 2023-09-12 トヨタ自動車株式会社 走行予定経路設定装置及び走行予定経路設定方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3462467B2 (ja) 2000-11-14 2003-11-05 富士重工業株式会社 車外監視装置
US7945120B2 (en) 2008-06-30 2011-05-17 Kabushiki Kaisha Toshiba Apparatus for enhancing resolution using edge detection
US7941005B2 (en) 2008-11-28 2011-05-10 Kabushiki Kaisha Toshiba Information processing apparatus and resolution enhancement processing control program
CN102733295A (zh) * 2012-07-09 2012-10-17 中公高科养护科技股份有限公司 基于里程桩号校准检测桩号的方法
CN102733295B (zh) * 2012-07-09 2015-01-21 中公高科养护科技股份有限公司 基于里程桩号校准检测桩号的方法

Also Published As

Publication number Publication date
JP2001043495A (ja) 2001-02-16

Similar Documents

Publication Publication Date Title
JP3301995B2 (ja) ステレオ式車外監視装置
JP3352655B2 (ja) 車線認識装置
US9704404B2 (en) Lane detection apparatus and operating method for the same
JP4714104B2 (ja) 物体傾き検出装置
US6734787B2 (en) Apparatus and method of recognizing vehicle travelling behind
JP6416293B2 (ja) 自動車に接近する対象車両を自動車のカメラシステムにより追跡する方法、カメラシステムおよび自動車
US10956757B2 (en) Image processing device, outside recognition device
US9643617B2 (en) Friction coefficient estimation from camera and wheel speed data
JP4962581B2 (ja) 区画線検出装置
TWI401175B (zh) Dual vision front vehicle safety warning device and method thereof
CN110386065B (zh) 车辆盲区的监控方法、装置、计算机设备及存储介质
JP6787157B2 (ja) 車両制御装置
JP6697522B2 (ja) 区画線認識装置
JP2021510227A (ja) 衝突前アラートを提供するためのマルチスペクトルシステム
JP2001160137A (ja) 監視システムの距離補正装置、および監視システムの消失点補正装置
JP3092105B1 (ja) フェールセーフ機能を有する車外監視装置
JP3312729B2 (ja) フェールセーフ機能を有する車外監視装置
CN102275558B (zh) 双视觉前车安全警示装置及其方法
JP2002022439A (ja) フェールセーフ機能を有する車外監視装置
JP5457224B2 (ja) 路面状態検出装置
JP2005157670A (ja) 白線検出装置
JP3235831B2 (ja) ステレオ式車外監視装置
JP2002160598A (ja) 車外監視装置
KR20130125644A (ko) 레이더 센서를 이용한 주행 경로 생성 가능한 차선 유지 보조 시스템 및 주행 경로 생성 방법
JP3272701B2 (ja) 車外監視装置

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20020115

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20020412

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090426

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090426

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100426

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110426

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120426

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130426

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130426

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140426

Year of fee payment: 12

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees