JP2001101420A - 障害物検出装置及びその方法 - Google Patents

障害物検出装置及びその方法

Info

Publication number
JP2001101420A
JP2001101420A JP27257799A JP27257799A JP2001101420A JP 2001101420 A JP2001101420 A JP 2001101420A JP 27257799 A JP27257799 A JP 27257799A JP 27257799 A JP27257799 A JP 27257799A JP 2001101420 A JP2001101420 A JP 2001101420A
Authority
JP
Japan
Prior art keywords
point
reference image
image
calculating
obstacle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP27257799A
Other languages
English (en)
Other versions
JP4106163B2 (ja
Inventor
Hiroshi Hattori
寛 服部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP27257799A priority Critical patent/JP4106163B2/ja
Priority to US09/659,815 priority patent/US6963661B1/en
Publication of JP2001101420A publication Critical patent/JP2001101420A/ja
Priority to US11/116,307 priority patent/US7362881B2/en
Priority to US12/028,646 priority patent/US7706572B2/en
Application granted granted Critical
Publication of JP4106163B2 publication Critical patent/JP4106163B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Processing Or Creating Images (AREA)

Abstract

(57)【要約】 (修正有) 【課題】 車載のステレオカメラを用いて道路面上に存
在する障害物を検出し、さらに、その障害物が自車が衝
突するまでの時間を計測する。 【解決手段】 複数台のTVカメラによりなる画像入力
部1からの複数枚の画像を蓄積するための画像蓄積部2
と、基準カメラの画像を基準画像としその他を参照画像
として、3次元空間中のある面上を基準カメラに対して
静止、又は運動する物体の動きの無限遠点に対応した基
準画像上の投影点を抽出する特徴抽出部3と、基準画像
上の任意の点が道路面上にあると仮定した場合の参照画
像上の対応点を算出し、これらの点の輝度差から道路面
上に存在しない点を検出する検出部4と、検出した基準
画像上における道路面上に存在しない点と、特徴抽出部
により抽出した投影点とに基づいて、道路面上に存在し
ない点を含む障害物が基準カメラに衝突するまでの時間
を計算する衝突時間計算部5とを有する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、例えば、自動車の
安全運転を支援するために、車載カメラにより、先行車
や歩行者、駐車車両等、道路上に存在する障害物を検出
する障害物検出装置、その方法及び記録媒体に関する。
【0002】
【従来の技術】車に搭載したセンサを用いて、歩行者、
他の歩行車両、駐車車両等の道路上の障害物を検知する
ための技術は、交通事故を防止する上で極めて重要な技
術である。
【0003】この車載センサによる障害物検知技術は、
レーザや超音波等を利用するものと、TVカメラを利用
するものに大別される。
【0004】レーザを利用するものは高価であり、超音
波を利用するものは超音波の解像度が低いため、障害物
の検出精度に問題がある。
【0005】これに対し、TVカメラは比較的安価であ
り、解像度や計測精度、計測範囲の面からも障害物検出
に適する。また、TVカメラは走行レーンの検出も可能
である。
【0006】このTVカメラを用いる場合、1台のカメ
ラを使用する方法と複数台のカメラ(ステレオカメラ)
を使用する方法がある。
【0007】1台のカメラを使用する方法は、そのカメ
ラで撮影した1枚の画像から、輝度や色、あるいはテク
スチャ(模様)等の情報を手がかりにして道路領域と障
害物領域を分離する。
【0008】例えば、画像中で精度の低い中程度の輝度
領域、つまり灰色の領域を道路領域として抽出したり、
テクスチャの少ない領域を道路領域として抽出し、それ
以外の領域を障害物領域とする。
【0009】しかし、道路と似た輝度、色、あるいはテ
クスチャを持つ障害物も数多く存在するため、この方法
で一般の状況下において障害物領域と道路領域を切り分
けるのは困難である。
【0010】これに対し、複数台のカメラを用いる方法
は3次元情報を手がかりにして障害物を検出する。
【0011】複数台のカメラを用いて対象シーンの3次
元情報を得る技術は、一般にステレオ視と呼ばれる。ス
テレオ視とは、例えば2つのカメラを左右に配置し、3
次元空間中で同一である点を左右画像間で対応づけ、三
角測量の要領で、その点の3次元位置を求めるものであ
る。各カメラの道路平面からの高さや道路平面に対する
傾き等を予め求めておくと、ステレオ視により、画像中
の任意の点の道路平面からの高さが得られる。したがっ
て、道路平面からの高さの有無により、障害物領域と道
路領域を分離することができる。
【0012】前記の1台のカメラを用いる方式では、前
述のように、道路と似た輝度や色、テクスチャを持つ領
域を障害物として検出することは困難であるが、ステレ
オ視によれば、道路面からの高さを手がかりにして障害
物を検出するため、より一般的なシーンでの障害物検出
が可能である。
【0013】しかし、通常のステレオ視は、画像上の任
意の点のステレオカメラからの距離を求める技術であ
り、このためには、予め複数のカメラの間隔や向き、及
びカメラレンズの焦点距離、画像中心等に関するパラメ
ータ(カメラパラメータ)を求める必要がある。これら
のパラメータを求める作業をキャリブレーション(カメ
ラキャリブレーション)と呼ぶ。
【0014】キャリブレーションは、3次元位置が既知
なサンプル点を多数用意し、その画像への投影位置を求
め、各サンプル点の3次元位置と投影位置の間に成り立
つ関係式を連立させてカメラパラメータを算出する作業
である。
【0015】しかし、このキャリブレーションは多大な
時間と労力を必要とし、ステレオ視による障害物検出の
実用化を妨げる原因の1つとなっている。
【0016】また、通常のステレオ視は、3次元空間中
で同一である点を左右画像間で対応づける必要がある。
【0017】この対応づけ処理は図1に示すように行わ
れる。左画面上のある点の右画像上の対応点は、同図に
示すエピポーララインと呼ばれる線上にある。
【0018】例えば、2台のカメラを平行に配置した場
合には、エピポーララインは走査線に一致する。このエ
ピポーラライン上で最も周囲の輝度のパターンが似てい
る点を対応点とする。
【0019】しかし、基本的にこの対応づけは探索計算
により行われるため、計算コストが極めて高いという問
題がある。
【0020】
【発明が解決しようとする課題】上記のように、障害物
検出装置は、レーザや超音波を用いるものとTVカメラ
を用いるものに大別できるが、レーザや超音波を利用す
る障害物検出装置は高価であったり、計測精度が低いと
いう問題があった。
【0021】また、TVカメラを利用する障害物検出装
置は、使用環境が限定されていたり、多大な時間と労力
を必要とするキャリブレーションや、計算コストが高い
左右画像の対応探索が必要であるという問題があった。
【0022】そこで、本発明は上記事情を鑑みてなされ
たもので、一般環境において、比較的低価格で高精度な
障害物検出が可能なステレオカメラを使用し、従来のス
テレオ視の問題であったキャリブレーションと対応探索
処理を行うことなく、道路平面上に存在する障害物を高
速に検出し、さらに、障害物の画像上の動きから、障害
物が自車に衝突するまでの時間を計測する障害物検出装
置、その方法及び記録媒体を提供する。
【0023】
【課題を解決するための手段】請求項1の発明は、撮像
点の異なる少なくとも2画像を入力し、蓄積する画像入
力手段と、前記画像入力手段が蓄積した複数の画像のう
ち一の画像を基準画像とし、他の画像を参照画像とし
て、3次元空間中のある面上を前記基準画像の撮像点に
対して相対的に静止、または、運動する物体の動きの無
限遠点に対応した前記基準画像上の投影点Uを抽出する
特徴抽出手段と、前記基準画像上の任意の点Pが前記面
上にあると仮定した場合の前記参照画像上の対応点P’
を算出し、これら点Pと点P’の輝度差から前記面上に
存在しない点を検出する検出手段と、前記検出手段によ
り検出した前記基準画像上における前記面上に存在しな
い点と、前記特徴抽出手段により抽出した前記投影点U
とに基づいて、前記面上に存在しない点が前記基準画像
の撮像点と一致するまでの時間を計算する衝突時間計算
手段とを有することを特徴とする障害物検出装置であ
る。
【0024】請求項2の発明は、前記衝突時間計算手段
は、前記検出手段により検出した前記面上に存在しない
点のうち、前記基準画像上における前記面との境界線上
の点と、前記特徴抽出手段により抽出した前記投影点U
に基づいて、前記面との境界線上の点が、前記基準画像
の撮像点に一致するまでの時間を計算することを特徴と
する請求項1記載の障害物検出装置である。
【0025】請求項3の発明は、前記特徴抽出手段が、
前記面上を前記基準画像の撮像点に対して相対的に静
止、または、運動する物体の動きの方向に一致する複数
の線を、前記基準画像から抽出し、それら抽出した複数
の線の交点を前記投影点Uとすることを特徴とする請求
項1,2記載の障害物検出装置である。
【0026】請求項4の発明は、前記複数の画像の撮像
点の互いの位置、姿勢、及び、各画像の焦点距離、画像
中心が未知であることを特徴とする請求項1,2,3記
載の障害物検出装置である。
【0027】請求項5の発明は、前記検出手段は、前記
基準画像上の任意の点Pが前記面上にあると仮定した場
合の前記参照画像上の対応点P’を算出し、前記点Pと
点P’の周囲の輝度の類似性から前記面上に存在しない
点を検出することを特徴とする請求項1,2,3,4記
載の障害物検出装置である。
【0028】請求項6の発明は、撮像点の異なる少なく
とも2画像を入力し、蓄積する画像入力ステップと、前
記画像入力ステップにおいて蓄積した複数の画像のうち
一の画像を基準画像とし、他の画像を参照画像として、
3次元空間中のある面上を前記基準画像の撮像点に対し
て相対的に静止、または、運動する物体の動きの無限遠
点に対応した前記基準画像上の投影点Uを抽出する特徴
抽出ステップと、前記基準画像上の任意の点Pが前記面
上にあると仮定した場合の前記参照画像上の対応点P’
を算出し、これら点Pと点P’の輝度差から前記面上に
存在しない点を検出する検出ステップと、前記検出ステ
ップにより検出した前記基準画像上における前記面上に
存在しない点と、前記特徴抽出ステップにより抽出した
前記投影点Uとに基づいて、前記面上に存在しない点が
前記基準画像の撮像点と一致するまでの時間を計算する
衝突時間計算ステップとを有することを特徴とする障害
物検出方法である。
【0029】請求項7の発明は、撮像点の異なる少なく
とも2画像を入力し、蓄積する画像入力機能と、前記画
像入力機能において蓄積した複数の画像のうち一の画像
を基準画像とし、他の画像を参照画像として、3次元空
間中のある面上を前記基準画像の撮像点に対して相対的
に静止、または、運動する物体の動きの無限遠点に対応
した前記基準画像上の投影点Uを抽出する特徴抽出機能
と、前記基準画像上の任意の点Pが前記面上にあると仮
定した場合の前記参照画像上の対応点P’を算出し、こ
れら点Pと点P’の輝度差から前記面上に存在しない点
を検出する検出機能と、前記検出機能により検出した前
記基準画像上における前記面上に存在しない点と、前記
特徴抽出機能により抽出した前記投影点Uとに基づい
て、前記面上に存在しない点が前記基準画像の撮像点と
一致するまでの時間を計算する衝突時間計算機能と、を
実現するプログラムを記録したことを特徴とする障害物
検出方法の記録媒体である。
【0030】本発明であると複数台のカメラで取得した
複数の画像を処理して、3次元空間中のある面からの高
さの有無により障害物を検出するため、明るさの変動や
影の影響を受けず、画像中から障害物を検出することが
できる。
【0031】また、従来のステレオ視の問題であった、
多大な時間と労力を要するカメラキャリブレーションの
作業と、計算コストの高い奥行き探索(対応探索)処理
が不要なため、実用的効果は多大である。
【0032】
【発明の実施の形態】以下で本発明の実施例を図面に従
い説明する。
【0033】本実施例は、図2に示すように車(以下で
は「自車」と呼ぶ)に左右2台のカメラを搭載し、その
ステレオカメラで取得したステレオ画像を処理すること
により、歩行者や先行車、駐車車両等、道路平面上に存
在する障害物を検出し、さらに、その障害物が自車に衝
突するまでの時間を計算する場合を想定している。
【0034】図3は、本実施例における障害物検出装置
の概略構成を示すもので、ここでは画像入力部1、画像
蓄積部2、特徴抽出部3、検出部4、衝突時間計算部5
から構成している。
【0035】障害物検出装置では、互いの位置・姿勢
や、レンズの焦点距離・画像中心等が未知な2台のカメ
ラによりステレオ画像を取得し、静止時に予め求めてお
いた道路平面上の点の左右画像への投影位置の間に成り
立つ関係を表した式(以下では「道路平面拘束式」と呼
ぶ)を用いて、画像上の各点に対して道路平面からの高
さの有無を判別し、障害物領域と道路領域を分離する。
さらに、その障害物の画像上の軌跡から障害物が自車に
衝突するまでの時間を計算する。
【0036】図4に自車座標系を示す。
【0037】自車座標系は、自車の進行(前後)方向を
Y軸方向とし、左右、上下方向を各々X,Z軸、道路平
面をXY平面とする。本実施例では、自車と障害物は共
に道路両端の2本の白線(直線l,l')に沿って走行
することを前提とする。
【0038】(画像入力部1)画像入力部1は、左右2
台のTVカメラを用いて2枚の画像を取得する。これら
2台のカメラの自車座標系に対する位置や姿勢、各カメ
ラのレンズの焦点距離や画像中心は未知であってよい
が、本実施例では、各カメラは車に固定されており、走
行中には変化しないものとする。
【0039】(画像蓄積部2)画像蓄積部2は、画像入
力部1により入力された2枚の画像を画像メモリに蓄積
する。
【0040】(特徴抽出部3)特徴抽出部3は、画像蓄
積部2により蓄積された2枚のうちの片方の画像を基準
画像とし(以下では左画像を基準画像とする)、その基
準画像から図5に示すように、2本の直線l,l
検出する。
【0041】その交点(2直線上の無限遠点の画像への
投影点、以下では「消失点」と呼ぶ)をu
(u,v)とする。この直線検出は例えば、エッジ
抽出処理とHough変換等を用いて行う。
【0042】(検出部4)検出部4は、道路平面上の点
の左右画像への投影点間に成り立つ拘束(以下では「道
路平面拘束」と呼ぶ)を用いて障害物を検出する。以下
にこの道路平面拘束について説明する。
【0043】道路平面(XY平面)上の任意の点(X,
Y)の左右画像への投影点を各々(u,v),(u
)とすると、
【数1】 という関係式が成り立つ。
【0044】h=(h11,h12,……,
,h'=(h'11,h'12,……,t'
は各カメラの自車座標系に対する3次元位置と姿勢、
各カメラに装着したレンズの焦点距離、画像中心に関す
るパラメータである。
【0045】式(1),(2)からXとYを消去すると、
【数2】 となる。
【0046】ただし、H=(H11,H12,……H
33はh,h'で表される定数である。
【0047】この式により、左画像上の点(u,v)が
道路面上の点であると仮定した時の右画像上の対応点を
求めることができる。
【0048】言い換えると、左画像上の点(u,v)が
道路平面上にあると仮定すると、その右画像上の対応点
(u,v)は上式によって決まる。この式を道路平
面拘束式と呼ぶ。
【0049】なお、この式のパラメータH=
(H11,H12,……H33は、静止時に予め求
めておく。
【0050】以下にその方法について説明する。
【0051】まず、左画像から道路面上の特徴点(道路
平面上に描かれた直線の交点や、ペイントの角点等)を
N(≧4)個抽出する。
【0052】次に、抽出した各特徴点の右画像上の対応
点を求める。なお、この特徴点抽出と対応づけ処理は、
マウスで画像上の点をポインティングすることにより行
ってもよい。これらのN組の対応関係は、各々、式(3)
を満たすので、2N本の連立方程式を得る。
【0053】この連立方程式をHについて解くことに
よりパラメータHを求めることができる。
【0054】この道路平面拘束式を用いて障害物を検出
する方法について以下に示す。
【0055】左画像の任意の点A(u,v)の輝度をI
(u,v)とし、点Aが道路平面上に存在すると仮定
した場合の右画像上の対応点A'(u,v)を式(3)
から求め、その輝度をI(u,v)とする。
【0056】点(u,v)が実際に道路平面上に存在す
れば、点AとA'は正しい対応点の組(点AとA'が道路
面上の同じ点の投影点)となるから、基本的には点Aと
点A'の輝度が同じになる。したがって、
【数3】 とおくとDiff=0となる。
【0057】逆に、Diff=0でなければ点A(u,
v)とA'(u,v)は正しい対応点の組ではない
ことになり、点(u,v)は道路平面上に存在しない
点、つまり障害物上の点となる。
【0058】これら一連の処理を基準画像上の全ての点
に対して行うと、障害物領域を検出することができる。
【0059】この際、障害物か否かの判定基準として、
ある程度の誤差を考慮し、Diff>Thrとなる点は
障害物領域に属すると判定してもよい。
【0060】ここで、Thrは予め設定した閾値であ
る。
【0061】例えば、図6上に示すステレオ画像から、
同図下に示すような障害物領域が検出される。
【0062】(衝突時間計測部5)衝突時間計測部5
は、ステレオ画像のうちのどちらかの画像(これを基準
画像と呼び、本実施例では、前記したように左画像を基
準画像とする)上の障害物の軌跡(障害物の位置の時間
変化)から、自車がその障害物に衝突するまでの時間
(衝突時間)を計測する。
【0063】まず、衝突時間について説明する。
【0064】式(1)の分母をDとおく。すなわち、 D=h31X+h32Y+t (5) である。
【0065】Dは、図7に示すように、障害物の道路平
面との接点T(X,Y)と基準カメラの視点Cの光軸方
向の距離、すなわち奥行きである。
【0066】時刻t−dt,tにおける障害物の道路平
面との接点T',Tの奥行きを各々D',Dとする。ここ
で、障害物が自車座標系に対して時刻t−dt,t間の
運動を継続した場合に奥行きが0になるまでの時間を衝
突時間tと定義する。
【0067】図8に奥行きの時間変化を示す。
【0068】現在の時刻tから奥行きが0になるまでの
時間が衝突時間tなので、tは同図のように表され
る。斜線で示した2つの三角形の相似関係から、
【数4】 ただし、γ=D'/Dである。
【0069】つまり、異なる2時刻における奥行きの比
γから衝突時間tを求めることができる。
【0070】以下に検出部4によって求めた各時刻の障
害物領域の位置から、その衝突時間を計算する方法につ
いて説明する。
【0071】現在の時刻tとそれより前の時刻t−dt
において障害物領域が基準画像上で図9に示すように検
出されたとし、時刻tにおいて検出された障害物領域の
最下端の線(障害物領域と道路領域の境界線)上の任意
の1点をu=(u,v)とする。点u=(u,v)
の時刻t−dtにおける位置u'=(u',v')は、
点u,uを結ぶ直線と、時刻t−dtにおける障
害物領域と道路領域の境界線の交点として求めることが
できる。
【0072】また、時刻t−dt,tにおける障害物の
道路平面上の位置を各々、X'=(X,Y+dY),
X=(X,Y)とする。
【0073】本実施例では、自車と障害物はY軸に沿っ
て運動する(進行方向が一致する)と仮定しているの
で、各時刻の障害物の位置のX座標は同一となる。
X'までの奥行きは、
【数5】 ここで、Y軸に平行な直線l,l'上の無限遠方の点の
投影点がu=(u ,v)であるから、式(1)で
Y→∞として、
【数6】 このγを式(7)に代入することによって、障害物の衝突
時間を計算することができる。
【0074】つまり、図9に示すように道路平面上を運
動する障害物の衝突時間は、その障害物の道路平面との
接点の時刻t−dt,tにおける画像上の位置u',u
と、直線l,l'の消失点uのみから計算でき、自
車座標系に対するカメラの位置や姿勢に依存しない。
【0075】以上のようにして、車載のステレオカメラ
からカメラパラメータを用いずに、かつ、奥行き探索を
行うことなく道路平面上の障害物を検出し、さらに、そ
の障害物が自車に衝突するまでの時間を計算することが
できる。
【0076】(実施例の効果)以上により、本実施例で
あると、ステレオカメラで取得したステレオ画像を処理
して、道路平面からの高さの有無により障害物を検出す
るため、明るさの変動や影の影響を受けず、画像中から
先行車や歩行者等の障害物を検出することができる。ま
た、従来のステレオ視の問題であった、多大な時間と労
力を要するカメラキャリブレーションの作業と、計算コ
ストの高い奥行き探索(対応探索)処理が不要なため、
実用的効果は多大である。
【0077】(変更例1)本実施例は画像入力部1で、
2台のTVカメラを左右に並べて2枚の画像を入力して
いるが、これらのカメラは上下に配置してもよい。
【0078】また、3台以上のカメラを配置してもよ
い。
【0079】(変更例2)特徴抽出部3は、道路平面上
の2本の線を抽出する場合について説明したが、3本以
上の線を抽出してもよいし、方向ベクトルが同じであれ
ば、道路平面上にない線、例えば、ガードレール上の線
を抽出してもよい。
【0080】(変更例3)検出部4はさらに図10に示
す構成をとることもできる。
【0081】ここでは、画像変換部4−1,差異計算部
4−2から構成している。
【0082】画像変換部4−1は、右画像を以下の手順
に従って画像変換する。一般に、画像は画像上の点
(u,v)を変数とし、その各点に対して輝度値が定義
された関数f(u,v)として表現できる。以下では画
像をこのように表現する。
【0083】図11に示すようなステレオ画像が入力さ
れたとし、右画像をg(u,v)、その変換後の画像を
g'(u,v)を求める。以下のように、g'(u,v)
を求める。
【0084】
【数7】 ただし、(u,v)は、式(3)より求める。g'
(u,v)は、画像g(u,v)上の全ての点が道路平
面上に存在すると仮定した場合に、左カメラで得られる
画像である。
【0085】例えば、図12の右画像からは、同図に示
すような変換画像を得る。
【0086】図13に示すように、道路平面上にある点
の投影点は、左画像と変換画像で同一となるのに対し、
道路平面上にない点、すなわち、障害物(この場合は先
行車両)上の点は、道路からの高さに応じて異なる位置
に投影される。
【0087】したがって、この左画像と変換画像の差分
を取ることにより、道路平面上の障害物を検出する。つ
まり、左画像をf(u,v)とすると、
【数8】 として、Diff'=0でなければ、あるいは誤差を考
慮して、Diff'>Thr(Thrは予め設定した閾
値)となる点(u,v)は障害物領域に属すると判定す
る。
【0088】(変更例4)検出部4は画素間差分をとる
ことによって2枚の画像の差異を検出したが、各点に対
して(2w+1)×(2w+1)のウィンドウを設定
し、ウィンドウ内の輝度値の平均や分散、正規化相互相
関等から差異を検出してもよい。
【0089】2枚の画像F(u,v),G(u,v)の
点(u,v)の正規化相互相関Cは以下の式から算出で
きる。
【0090】
【数9】 ここで、N=(2w+1)×(2w+1),a,a
は2枚の画像のウィンドウ内の輝度の平均、σ ,σ
は2枚の画像ウィンドウ内の輝度の分散であり、−
1≦C≦1である。
【0091】この場合、C<Thrとなる点(u,v)
が障害物領域に属すると判定する。ここで、Thr(≦
1)は予め設定した閾値である。
【0092】(変更例5)本実施例では道路両端の2本
の白線を直線として抽出したが、道路がカーブしている
場合には白線は曲線となる。
【0093】この場合には、白線を曲線として抽出すれ
ば、同様に障害物を検出することができる。
【0094】(変更例6)道路面として平面を仮定して
説明したが、曲面の場合であっても、平面の場合と同様
に障害物を検出することができる。
【0095】(変更例7)自車と障害物に対し、車線に
平行な運動を仮定したが、平行でない場合(例えば、車
線変更する場合)にも適用可能である。
【0096】(変更例8)本実施例は、車載カメラから
の障害物検出に関して記述したが、例えば、移動ロボッ
トの自律走行にも適用することが可能であり、本手法は
車載カメラからの障害物検出に限定されるものではな
い。
【0097】(変更例9)ステレオカメラを車の前方に
設置し、前方の障害物を検出する場合について記述した
が、車の側方や後方に設置して、各々の方向の障害物を
検出することも可能である。
【0098】(変更例10)衝突時間計測部5は、計算
した障害物に衝突するまでの時間が小さい場合には自車
ドライバーに警報を発したり、衝突時間の大小に応じて
音量や音質の異なる警報を発することも可能である。
【0099】(変更例11)車載ステレオカメラのカメ
ラパラメータは走行中に変化しないものとしたが、変化
する場合には道路平面拘束を更新すれば同様に障害物を
検出し、その衝突時間を計算することができる。
【0100】その他、本発明の要旨を逸脱しない範囲で
変形を実施できる。
【0101】
【発明の効果】本発明であると複数台のカメラで取得し
た複数の画像を処理して、3次元空間中のある面からの
高さの有無により障害物を検出するため、明るさの変動
や影の影響を受けず、画像中から障害物を検出すること
ができる。
【0102】また、従来のステレオ視の問題であった、
多大な時間と労力を要するカメラキャリブレーションの
作業と、計算コストの高い奥行き探索(対応探索)処理
が不要なため、実用的効果は多大である。
【図面の簡単な説明】
【図1】ステレオ視の対応探索を説明するための図であ
る。
【図2】本実施例の自車の説明図である。
【図3】本実施例の障害物検出装置のブロック図であ
る。
【図4】自車座標系を説明するための図である。
【図5】特徴抽出部3における直線抽出処理を説明する
ための図である。
【図6】検出部4における障害物検出処理を説明するた
めの図である。
【図7】奥行きを説明するための図である。
【図8】衝突時間を説明するための図(その1)であ
る。
【図9】衝突時間を説明するための図(その2)であ
る。
【図10】検出部4の変更例のブロック図である。
【図11】ステレオ画像である。
【図12】右画像とその変換画像を説明するための図で
ある。
【図13】左画像と右画像の変換画像を説明するための
図である。
【符号の説明】
1 画像入力部 2 画像蓄積部 3 特徴抽出部 4 検出部 5 衝突時間計算部
フロントページの続き Fターム(参考) 2F065 AA03 AA24 BB15 CC11 DD06 FF01 FF05 FF63 JJ03 JJ05 JJ07 JJ19 JJ26 QQ13 QQ24 QQ31 QQ36 QQ42 RR06 SS09 5B057 AA16 CA13 DA07 DA15 DB03 DC13 DC16 DC34 DC36 5H180 AA01 CC04 CC07 LL01 LL07 LL08 5L096 CA05 DA02 FA03 FA06 FA10 FA19 FA24 FA33 FA34 FA69 GA08 GA51 HA04 9A001 BB06 GG01 HH23 JJ77 KK16

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】撮像点の異なる少なくとも2画像を入力
    し、蓄積する画像入力手段と、 前記画像入力手段が蓄積した複数の画像のうち一の画像
    を基準画像とし、他の画像を参照画像として、3次元空
    間中のある面上を前記基準画像の撮像点に対して相対的
    に静止、または、運動する物体の動きの無限遠点に対応
    した前記基準画像上の投影点Uを抽出する特徴抽出手段
    と、 前記基準画像上の任意の点Pが前記面上にあると仮定し
    た場合の前記参照画像上の対応点P’を算出し、これら
    点Pと点P’の輝度差から前記面上に存在しない点を検
    出する検出手段と、 前記検出手段により検出した前記基準画像上における前
    記面上に存在しない点と、前記特徴抽出手段により抽出
    した前記投影点Uとに基づいて、前記面上に存在しない
    点が前記基準画像の撮像点と一致するまでの時間を計算
    する衝突時間計算手段とを有することを特徴とする障害
    物検出装置。
  2. 【請求項2】前記衝突時間計算手段は、 前記検出手段により検出した前記面上に存在しない点の
    うち、前記基準画像上における前記面との境界線上の点
    と、前記特徴抽出手段により抽出した前記投影点Uに基
    づいて、 前記面との境界線上の点が、前記基準画像の撮像点に一
    致するまでの時間を計算することを特徴とする請求項1
    記載の障害物検出装置。
  3. 【請求項3】前記特徴抽出手段が、 前記面上を前記基準画像の撮像点に対して相対的に静
    止、または、運動する物体の動きの方向に一致する複数
    の線を、前記基準画像から抽出し、 それら抽出した複数の線の交点を前記投影点Uとするこ
    とを特徴とする請求項1,2記載の障害物検出装置。
  4. 【請求項4】前記複数の画像の撮像点の互いの位置、姿
    勢、及び、各画像の焦点距離、画像中心が未知であるこ
    とを特徴とする請求項1,2,3記載の障害物検出装
    置。
  5. 【請求項5】前記検出手段は、 前記基準画像上の任意の点Pが前記面上にあると仮定し
    た場合の前記参照画像上の対応点P’を算出し、 前記点Pと点P’の周囲の輝度の類似性から前記面上に
    存在しない点を検出することを特徴とする請求項1,
    2,3,4記載の障害物検出装置。
  6. 【請求項6】撮像点の異なる少なくとも2画像を入力
    し、蓄積する画像入力ステップと、 前記画像入力ステップにおいて蓄積した複数の画像のう
    ち一の画像を基準画像とし、他の画像を参照画像とし
    て、3次元空間中のある面上を前記基準画像の撮像点に
    対して相対的に静止、または、運動する物体の動きの無
    限遠点に対応した前記基準画像上の投影点Uを抽出する
    特徴抽出ステップと、 前記基準画像上の任意の点Pが前記面上にあると仮定し
    た場合の前記参照画像上の対応点P’を算出し、これら
    点Pと点P’の輝度差から前記面上に存在しない点を検
    出する検出ステップと、 前記検出ステップにより検出した前記基準画像上におけ
    る前記面上に存在しない点と、前記特徴抽出ステップに
    より抽出した前記投影点Uとに基づいて、前記面上に存
    在しない点が前記基準画像の撮像点と一致するまでの時
    間を計算する衝突時間計算ステップとを有することを特
    徴とする障害物検出方法。
  7. 【請求項7】撮像点の異なる少なくとも2画像を入力
    し、蓄積する画像入力機能と、 前記画像入力機能において蓄積した複数の画像のうち一
    の画像を基準画像とし、他の画像を参照画像として、3
    次元空間中のある面上を前記基準画像の撮像点に対して
    相対的に静止、または、運動する物体の動きの無限遠点
    に対応した前記基準画像上の投影点Uを抽出する特徴抽
    出機能と、 前記基準画像上の任意の点Pが前記面上にあると仮定し
    た場合の前記参照画像上の対応点P’を算出し、これら
    点Pと点P’の輝度差から前記面上に存在しない点を検
    出する検出機能と、 前記検出機能により検出した前記基準画像上における前
    記面上に存在しない点と、前記特徴抽出機能により抽出
    した前記投影点Uとに基づいて、前記面上に存在しない
    点が前記基準画像の撮像点と一致するまでの時間を計算
    する衝突時間計算機能と、 を実現するプログラムを記録したことを特徴とする障害
    物検出方法の記録媒体。
JP27257799A 1999-09-09 1999-09-27 障害物検出装置及びその方法 Expired - Fee Related JP4106163B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP27257799A JP4106163B2 (ja) 1999-09-27 1999-09-27 障害物検出装置及びその方法
US09/659,815 US6963661B1 (en) 1999-09-09 2000-09-11 Obstacle detection system and method therefor
US11/116,307 US7362881B2 (en) 1999-09-09 2005-04-28 Obstacle detection system and method therefor
US12/028,646 US7706572B2 (en) 1999-09-09 2008-02-08 Obstacle detection system and method therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP27257799A JP4106163B2 (ja) 1999-09-27 1999-09-27 障害物検出装置及びその方法

Publications (2)

Publication Number Publication Date
JP2001101420A true JP2001101420A (ja) 2001-04-13
JP4106163B2 JP4106163B2 (ja) 2008-06-25

Family

ID=17515863

Family Applications (1)

Application Number Title Priority Date Filing Date
JP27257799A Expired - Fee Related JP4106163B2 (ja) 1999-09-09 1999-09-27 障害物検出装置及びその方法

Country Status (1)

Country Link
JP (1) JP4106163B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004161097A (ja) * 2002-11-12 2004-06-10 Nissan Motor Co Ltd 車両用報知装置
JP2007108043A (ja) * 2005-10-14 2007-04-26 Xanavi Informatics Corp 位置測位装置、および位置測位方法
WO2008020544A1 (en) 2006-08-18 2008-02-21 Nec Corporation Vehicle detection device, vehicle detection method, and vehicle detection program
JP2012146146A (ja) * 2011-01-12 2012-08-02 Denso It Laboratory Inc 移動物体検出装置
KR20160121026A (ko) * 2015-04-09 2016-10-19 현대자동차주식회사 보행자 거리 추정장치 및 방법
WO2019049708A1 (ja) * 2017-09-11 2019-03-14 Kyb株式会社 距離算出装置および距離算出パラメータの設定方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6826421B2 (ja) * 2016-12-02 2021-02-03 東日本旅客鉄道株式会社 設備巡視システム及び設備巡視方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004161097A (ja) * 2002-11-12 2004-06-10 Nissan Motor Co Ltd 車両用報知装置
JP2007108043A (ja) * 2005-10-14 2007-04-26 Xanavi Informatics Corp 位置測位装置、および位置測位方法
WO2008020544A1 (en) 2006-08-18 2008-02-21 Nec Corporation Vehicle detection device, vehicle detection method, and vehicle detection program
JP2012146146A (ja) * 2011-01-12 2012-08-02 Denso It Laboratory Inc 移動物体検出装置
KR20160121026A (ko) * 2015-04-09 2016-10-19 현대자동차주식회사 보행자 거리 추정장치 및 방법
KR101684095B1 (ko) 2015-04-09 2016-12-07 현대자동차주식회사 보행자 거리 추정장치 및 방법
WO2019049708A1 (ja) * 2017-09-11 2019-03-14 Kyb株式会社 距離算出装置および距離算出パラメータの設定方法
JP2019049468A (ja) * 2017-09-11 2019-03-28 Kyb株式会社 距離算出装置および距離算出パラメータの設定方法

Also Published As

Publication number Publication date
JP4106163B2 (ja) 2008-06-25

Similar Documents

Publication Publication Date Title
US7046822B1 (en) Method of detecting objects within a wide range of a road vehicle
JP3937414B2 (ja) 平面検出装置及び検出方法
JP3596314B2 (ja) 物体端の位置計測装置および移動体の通行判断装置
US7612800B2 (en) Image processing apparatus and method
JP3776094B2 (ja) 監視装置、監視方法および監視用プログラム
JP4328692B2 (ja) 物体検出装置
US7362881B2 (en) Obstacle detection system and method therefor
US8406472B2 (en) Method and system for processing image data
JP2002352225A (ja) 障害物検出装置及びその方法
CN106289159B (zh) 基于测距补偿的车辆测距方法及装置
JP2000357233A (ja) 物体認識装置
JP2004086779A (ja) 障害物検出装置及びその方法
JP4407920B2 (ja) 障害物認識方法及び障害物認識装置
JPH05265547A (ja) 車輌用車外監視装置
JP2002197469A (ja) 車線検出装置
JPH06107096A (ja) 車両用前方監視方法
JPH11252587A (ja) 物体追跡装置
CN109827516B (zh) 一种通过车轮来测量距离的方法
JP4344860B2 (ja) ステレオ画像を用いた道路平面領域並びに障害物検出方法
KR20190059894A (ko) 카메라 영상에서 대상의 감지
JP2002334330A (ja) 車両認識装置
JP4256992B2 (ja) 障害物検出装置
JP2001101420A (ja) 障害物検出装置及びその方法
JP2006053754A (ja) 平面検出装置及び検出方法
JP3586938B2 (ja) 車載用距離測定装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050301

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080108

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080325

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080331

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110404

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees