JP3447461B2 - 移動障害物検出装置及びその方法 - Google Patents

移動障害物検出装置及びその方法

Info

Publication number
JP3447461B2
JP3447461B2 JP06957996A JP6957996A JP3447461B2 JP 3447461 B2 JP3447461 B2 JP 3447461B2 JP 06957996 A JP06957996 A JP 06957996A JP 6957996 A JP6957996 A JP 6957996A JP 3447461 B2 JP3447461 B2 JP 3447461B2
Authority
JP
Japan
Prior art keywords
moving obstacle
obstacle
moving
image
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP06957996A
Other languages
English (en)
Other versions
JPH09259282A (ja
Inventor
一則 小野口
信之 武田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP06957996A priority Critical patent/JP3447461B2/ja
Publication of JPH09259282A publication Critical patent/JPH09259282A/ja
Application granted granted Critical
Publication of JP3447461B2 publication Critical patent/JP3447461B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Description

【発明の詳細な説明】
【0001】
【発明の属する利用分野】本発明は、移動している障害
物の位置及び移動方向を算出する移動障害物検出装置及
びその方法に関する。
【0002】
【従来の技術】従来は、自律走行車の障害物検出装置と
して超音波センサやレーザレーダーが用いられていた
が、走行車自体が移動するため、出力結果である前方の
距離データから背景に存在している物体と移動障害物と
を切り分けることが容易ではなく、移動障害物の位置や
移動方向を算出することが困難であった。また、TVカ
メラの画像を用いて、背景との動きの違いから移動障害
物を検出する手法も検討されているが、画像上の動き情
報(オプティカルフロー)を精度良く求めることが困難
であり、かつ移動障害物の重心位置を正確に求めること
が難しいため、モーションステレオや複数台のカメラを
用いたステレオ視により移動障害物の位置及び移動方向
を正しく求めることが困難であった。
【0003】
【発明が解決しようとする課題】上述したように従来、
超音波センサやレーザレーダーを用いた装置は、観測系
が移動している場合、背景に存在している物体と移動障
害物の切り分けが困難であり、TVカメラを用いた装置
は、画像上で切り出された移動障害物の前方空間中の位
置及び移動方向を求めることが困難であるという問題が
あった。
【0004】このため、本発明はTVカメラ等撮像手段
のセンサ情報を用いて画面上の移動障害物領域を切り出
し、その存在方向と、センサ情報により求めた前方の移
動可能領域の輪郭との交線を求めることにより、移動障
害物の前方空間中の位置及び移動方向を精度良く求める
移動障害物検出装置及びその方法を提供することを目的
とする。
【0005】
【課題を解決するための手段】以上の目的を達成するた
めの、本願発明においては、移動しながら撮像手段で撮
像した情報を用いて障害物の検出をする移動障害物検出
装置において、撮像手段で撮像した情報に基づいて、障
害物の存在しない移動可能な空間を抽出する移動可能空
間抽出部と、移動している障害物を抽出する移動障害物
抽出部と、移動障害物抽出部が出力する障害物の領域か
ら障害物の存在方向を求めて、移動可能空間抽出部が出
力する移動可能空間以外の領域と障害物の交差部分を求
めて障害物の位置及び方向を求める移動障害物位置・方
向算出部とを具備することを特徴とするものである。
【0006】また、移動障害物抽出部がTVカメラで撮
像した画像を用いて移動する障害物の領域を抽出し、移
動可能空間抽出部がセンサ情報を用いて移動可能空間を
抽出し、移動障害物位置・方向算出部が移動障害物抽出
部が求めた画像上の移動障害物領域の空間中の存在方向
と、移動可能空間抽出部が求めた移動可能領域の輪郭線
の交線、または交点を求めることで移動障害物の位置及
び移動方向を算出することを特徴とするものである。
【0007】更にもう一つは、複数台のTVカメラと、
これら複数のTVカメラからそれぞれ出力した複数の画
像を蓄積する複数枚の画像メモリと、これら画像メモリ
に蓄積された画像から移動する障害物の領域を抽出する
移動障害物抽出部と、複数の画像メモリに蓄えられた画
像を用いて障害物の存在しないTVカメラの撮像方向の
移動可能領域を抽出する移動可能空間抽出部と、移動障
害物抽出部により得られた障害物領域の画像中の位置か
ら3次元空間中の障害物の存在方向を算出し、前記移動
可能空間抽出部により得られた前方の移動可能領域の輪
郭線とこの移動障害物領域の存在方向との交線を求める
ことで、移動する障害物の前方空間中の位置及び移動方
向を求める移動障害物位置・方向算出部からなるとを特
徴とするものである。
【0008】
【発明の実施の形態】以下、本発明の一実施形態を図面
を用いて説明する。本発明は移動障害物として、人、移
動、車及び自転車のような動路面または床面上に接触し
ている物を想定しているが、空中に浮遊している障害物
の場合でも、その高さが既知であれば適用可能である。
【0009】図1は本発明における移動障害物検出装置
の概略構成を示すもので、移動障害物領域を抽出する移
動障害物抽出部1と障害物の無い移動可能空間を抽出す
る移動可能空間抽出部2と移動障害物の存在方向と移動
可能空間以外の領域との交差部分を求めることで移動障
害物の位置及び方向を算出する移動障害物位置・方向算
出部3から構成されている。
【0010】図2は本発明における移動障害物検出装置
の移動障害物検出部1及び移動可能空間抽出部2の入力
系にTVカメラを用いた構成例を示すもので、TVカメ
ラ4a、TVカメラ4b、各TVカメラ4a、4bに対
応して設けられた画像メモリ5a、画像メモリ5b、移
動障害物抽出部6、移動可能空間抽出部7、移動障害物
位置・方向算出部8から構成されている。また、TVカ
メラ4a、TVカメラ4bは、ステレオ視を実現するた
め各カメラの光軸がそれぞれ平行になるよう設定されて
いる。
【0011】次に、これらの各構成の動作を説明する。
TVカメラ4a、4bより入力された画像はそれぞれ画
像メモリ5a、5bに蓄積される。移動障害物抽出部6
では例えば画像メモリ5aに随時蓄積される連続画像か
ら画像中の各部分のオプティカルフローを抽出し、背景
とは異なるオプティカルフローを有する領域を移動障害
物領域として抽出する。移動可能空間抽出部7では、画
像メモリ5a、5bに蓄積されている画像を、予め設定
しておいた3次元空間中の面上にそれぞれ投影した投影
画像を作成する。そして、これら2枚の投影画像間の差
分画像を作成し、差分値の小さい領域を移動可能領域と
して求める。移動障害物位置・方向算出部8は、移動障
害物抽出部6部で求めた画像中の移動障害物領域位置か
ら、TVカメラ4aのカメラパラメータを用いてTVカ
メラ4a、4bが構成するステレオカメラ座標系におけ
る移動障害物領域の存在方向を算出する。そして、移動
可能空間抽出部7により得られた移動可能領域の輪郭部
分と移動障害物領域の存在方向との交線を求め、移動障
害物の前方空間中の位置及び移動方向を求める。
【0012】移動障害物抽出部6の処理フローを図3に
示す。まず、画像中の各部分に対して勾配法を用いてオ
プティカルフローを抽出する。オプティカルフローの抽
出に関しては、勾配法の代わりに相関法、または時空間
フィルタ法を用いることも可能である(ステップe
1)。次いで、画像中で小領域を設定し(ステップe
2)、小領域内に含まれるオプティカルフローの方向を
算出し、動きの消失点を求める(ステップe3)。同一
の動きをする対象物上のオプティカルフローは、観測系
であるTVカメラが平行移動する場合、その延長線が動
きの消失点と呼ばれる1点に収束する。例えば、図4
(a)に示すシーンの場合、背景上のオプティカルフロ
ーはその延長線が点V1 に、また、道路を横切ろうとし
ている歩行者上のオプティカルフローはその延長線がV
2 に収束する。小領域に含まれる個々のオプティカルフ
ローの延長線の方程式を求め、最小2乗法により動きの
消失点位置を推定する。この際、図4(b)に示すよう
に小領域内に背景領域と移動体領域が同時に含まれると
最小2乗法で求めた交点位置の持つ残差が大きくなる。
逆に、小領域内に背景領域しか含まれない場合には、図
4(c)に示すように交点位置の持つ残差が小さくな
る。このため、小領域を画像中でラスター方向にスライ
ドし、その小領域内部で推定した消失点位置の残差を加
算することにより総合推定残差を算出する(ステップe
4)。画像中の全ての小領域において総合推定残差を計
算した後(ステップe5)、予め設定しておいた閾値以
上の総合推定残差値をもつ画像中の領域を移動体領域と
して分離する(ステップe6)。
【0013】移動可能空間抽出部7の処理フローを図5
に示す。TVカメラ4a、4bに対して予めキャリブレ
ーションを施し、設定したステレオカメラ座標系におけ
る、TVカメラ4a、4bの焦点位置C1 ,Cr 、画像
中心位置Ol ,Or 等の内部パラメータを算出しておく
(図6参照)。まず、前方の道路面等を近似する平面の
方程式を設定する(ステップa1)。次いで、内部パラ
メータを用いて、TVカメラ4a、4bより獲得された
画像メモリ5a、5bに蓄積されている画像を設定した
平面上に投影する(ステップa2)。この際、図6に示
すように、平面上に真に存在する点は、対応する左画像
(TVカメラ4a)上の点pl と画像(TVカメラ4
b)上の点pr が平面上の同一点Pに投影される。これ
に対し、図7に示すような高さを持つ障害物は、左カメ
ラからの投影位置と右カメラからの投影位置が異なる。
このため、左カメラの投影画像と右カメラの投影画像を
作成すると、平面に対して高さを持つ障害物領域のみ投
影される位置が異なるため、これら投影画像間の差分画
像を求めると、障害物領域のみ高い輝度値となる画像が
得られる(ステップa3)。この差分画像から予め設定
しておいた閾値以下の値を持つ領域のみを抽出し、移動
可能領域とする(ステップa4)。
【0014】移動障害物位置・方向算出部8では、移動
障害物抽出部6で抽出した障害物領域の画像中の位置か
ら、前方空間中の障害物の存在方向を算出する。図8
(a)に画像中の移動障害物領域の抽出例を示す。ま
ず、抽出された移動障害物領域の左端及び右端の画像中
のx軸方向位置の xl ,xr を求める。次いで、キャ
リブレーションにより求めておいたステレオカメラ座標
系におけるTVカメラ4aの焦点位置 Cl 、画像中心
位置 Ol 等を用い、移動障害物領域の左右両端のステ
レオカメラ座標系における方向 xll ,xr l
を算出する。移動可能空間抽出部7で求めた移動可能領
域の輪郭線(図9における斜線領域の輪郭線)と移動障
害物領域の左端及び右端の存在方向との交点A、B(図
9)を求め、この2点を結ぶ移動可能領域の輪郭線分L
を前方空間中の移動障害物の存在位置として出力する。
さらに、この処理を繰り返すことにより求めた交線Lの
軌跡より移動障害物領域の移動方向を算出する。軌跡の
算出法としては、点Aと点Bの現在の位置と、1時点前
の位置を用いて、点Aと点Bの移動方向をそれぞれ算出
し、これらの移動方向の平均をとることにより算出す
る。また、交線L上の中点を移動障害物の代表点とし、
この中点位置を移動障害物位置、また、中点の移動方向
を移動障害物の移動方向として出力しても良い。
【0015】移動障害物抽出部6において、移動障害物
領域が画像中で複数個抽出された場合は、移動障害物位
置・方向算出部8が個々の移動障害物領域に対してその
空間中の存在方向を求め、移動可能空間抽出部7で求め
た移動可能空間の輪郭線との交線または交点をそれぞれ
求めることで、複数の移動障害物の位置・方向を算出す
る。
【0016】また移動障害物位置・方向算出部8には、
移動障害物抽出部6において出力された移動障害物領域
の存在方向に移動可能空間以外の領域が存在しない場
合、すなわち交差する移動可能空間の輪郭線が無い場
合、移動障害物抽出部6の抽出結果が誤りであるという
ノイズ判定の機能も付加されている。
【0017】以上の実施例では、移動可能空間抽出部に
ステレオ視を用いて手法を適用したが、超音波センサや
レーザーレーダーを用いて前方空間の移動可能領域を求
める手法を適用しても本発明は実現できる。また、移動
障害物位置・方向算出部8において、移動障害物の左端
及び右端の存在方向を求め、移動障害物の位置を算出し
たが、移動障害物領域の画像中の重心位置を求め、その
存在方向を用いて移動障害物の位置を求めることも可能
である。
【0018】
【発明の効果】以上述べてきたとおり、本願発明は、撮
像手段で撮像した情報を用いて移動する障害物の領域を
抽出するため、超音波センサやレーザーレーダを用いて
装置に比べ、背景に存在する対象物と移動障害物領域と
の切り分けが容易であり、画像中で抽出した移動する障
害物の領域の3次元空間中の存在方向と移動可能領域の
輪郭との交線を求めることにより、前方空間の移動する
障害物の位置及び移動方向を求めるため、ステレオ視で
直接、移動障害物領域の画像中の位置から3次元空間中
の位置及び移動方向を算出する場合に比べ精度が高いと
いう効果を奏する。
【図面の簡単な説明】
【図1】 本発明の概略構成を示すブロック図。
【図2】 本発明の移動障害物抽出部の処理フロー。
【図3】 本発明の移動障害物領域を抽出する手段を説
明する図。
【図4】 本発明の移動可能空間抽出部の処理フロー。
【図5】 本発明の移動可能領域を抽出する手法を説明
する図。
【図6】 本発明の移動可能領域を抽出する手法を説明
する図。
【図7】 本発明の移動障害物の存在方向を算出する手
法を説明する図。
【図8】 本発明の移動障害物位置及び移動方向を抽出
する手法を説明する図。
【図9】 本発明の移動可能領域を示した図。
【符号の説明】
1…移動障害検出部 2…移動可能空間抽出部 3…移動障害物位置・方向算出部
フロントページの続き (56)参考文献 特開 平5−143156(JP,A) 特開 平5−314243(JP,A) 特開 平5−312819(JP,A) 特開 平5−141919(JP,A) 特開 昭63−124114(JP,A) 特開 昭63−314622(JP,A) 小野田一則ほか,平面投影ステレオ法 を用いた道路領域検出,情報処理学会研 究報告(95−CV−93),日本,情報処 理学会,1995年 3月23日,Vol. 95,No.34(CV93−7),61−68 (58)調査した分野(Int.Cl.7,DB名) G06T 1/00 330 G06T 7/60 G08G 1/16 H04N 7/18 JSTPLUSファイル(JOIS)

Claims (3)

    (57)【特許請求の範囲】
  1. 【請求項1】2台のカメラで撮像された2枚の画像を3
    次元空間中の平面に投影して、前記平面上において障害
    物の存在しない移動可能領域を抽出する移動可能空間抽
    出部と、前記カメラのうちの一つで撮像された1枚の画像のオプ
    ティカルフローを抽出して、前記1枚の画像中において
    移動している障害物が存在する移動障害物領域を抽出す
    移動障害物抽出部と、前記移動障害物領域から、移動している 障害物の存在方
    向を求めるとともに、前記移動可能領域以外の領域と前
    記存在方向との交差部分を求めて、 前記移動している 障害物の前記平面上における位置及び
    方向を求める移動障害物位置・方向算出部とを備える
    動障害物検出装置。
  2. 【請求項2】第1の撮像部と、 第2の撮像部と、 前記第1及び第2の撮像部で撮像した第1、第2の画像
    をそれぞれ3次元空間中の平面に投影して、前記平面上
    において障害物の存在しない移動可能領域を抽出する
    動可能空間抽出部と、前記第1の画像のオプティカルフローを抽出して、前記
    第1の画像中において移動している障害物が存在する移
    動障害物領域を抽出する 移動障害物抽出部と、前記移動障害物領域から、移動している 障害物の存在方
    向を求めるとともに、前記移動可能領域以外の領域と前
    記存在方向との交差部分を求めて、 前記移動している 障害物の前記平面上における位置及び
    方向を求める移動障害物位置・方向算出部とを備える
    動障害物検出装置。
  3. 【請求項3】2台の撮像装置で撮像して得られる画像を
    3次元空間中の平面に投影し、前記平面上において障害
    物の存在しない移動可能領域を抽出し、 前記撮像装置のうちの一方で撮像した画像のオプティカ
    ルフローを抽出して、前記画像中において移動している
    障害物が存在する移動障害物領域を抽出し、 前記移動障害物領域から、移動している障害物の存在方
    向を求め、 前記移動可能領域以外の領域と、前記存在方向との交差
    部分を求め、 前記移動している障害物の、前記平面上における位置及
    び方向を求める移動障害物検出方法。
JP06957996A 1996-03-26 1996-03-26 移動障害物検出装置及びその方法 Expired - Fee Related JP3447461B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP06957996A JP3447461B2 (ja) 1996-03-26 1996-03-26 移動障害物検出装置及びその方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP06957996A JP3447461B2 (ja) 1996-03-26 1996-03-26 移動障害物検出装置及びその方法

Publications (2)

Publication Number Publication Date
JPH09259282A JPH09259282A (ja) 1997-10-03
JP3447461B2 true JP3447461B2 (ja) 2003-09-16

Family

ID=13406865

Family Applications (1)

Application Number Title Priority Date Filing Date
JP06957996A Expired - Fee Related JP3447461B2 (ja) 1996-03-26 1996-03-26 移動障害物検出装置及びその方法

Country Status (1)

Country Link
JP (1) JP3447461B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4267171B2 (ja) * 1999-05-10 2009-05-27 本田技研工業株式会社 歩行者検知装置
JP3790680B2 (ja) 2001-05-25 2006-06-28 株式会社東芝 画像処理システム及びこれを用いた運転支援システム
JP2004046875A (ja) * 2002-07-03 2004-02-12 Iwane Kenkyusho:Kk 交通機関自動案内装置
JP3846494B2 (ja) 2004-07-13 2006-11-15 日産自動車株式会社 移動障害物検出装置
JP4069919B2 (ja) * 2004-09-28 2008-04-02 日産自動車株式会社 衝突判定装置、および方法
JP4940767B2 (ja) * 2006-06-05 2012-05-30 マツダ株式会社 車両周辺情報報知装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
小野田一則ほか,平面投影ステレオ法を用いた道路領域検出,情報処理学会研究報告(95−CV−93),日本,情報処理学会,1995年 3月23日,Vol.95,No.34(CV93−7),61−68

Also Published As

Publication number Publication date
JPH09259282A (ja) 1997-10-03

Similar Documents

Publication Publication Date Title
JP5926228B2 (ja) 自律車両用の奥行き検知方法及びシステム
JP3719095B2 (ja) 挙動検出装置および勾配検出方法
US10937181B2 (en) Information processing apparatus, object recognition apparatus, device control system, movable body, image processing method, and computer-readable recording medium
US5937079A (en) Method for stereo image object detection
US5020114A (en) Object discriminating apparatus and method therefor
US7321386B2 (en) Robust stereo-driven video-based surveillance
US10909395B2 (en) Object detection apparatus
US10776637B2 (en) Image processing device, object recognizing device, device control system, image processing method, and computer-readable medium
EP1394761A2 (en) Obstacle detection device and method therefor
US9747524B2 (en) Disparity value deriving device, equipment control system, movable apparatus, and robot
JPH08294143A (ja) 画像間対応付け方法および画像間視差計測方法
US10832431B2 (en) Image processing apparatus, object recognition apparatus, equipment control system, image processing method, and computer-readable recording medium
US10546383B2 (en) Image processing device, object recognizing device, device control system, image processing method, and computer-readable medium
DE102005008131A1 (de) Objektdetektion auf Bildpunktebene in digitalen Bildsequenzen
EP3545464A1 (en) Information processing device, imaging device, equipment control system, mobile object, information processing method, and computer-readable recording medium
JP4344860B2 (ja) ステレオ画像を用いた道路平面領域並びに障害物検出方法
CN110088801A (zh) 可行驶区域检测装置以及行驶辅助系统
JP2006318062A (ja) 画像処理装置、画像処理方法、および画像処理用プログラム
JP3447461B2 (ja) 移動障害物検出装置及びその方法
JP2018073275A (ja) 画像認識装置
JP2004034946A (ja) 画像処理装置、駐車支援装置、及び画像処理方法
JP4106163B2 (ja) 障害物検出装置及びその方法
JP4788399B2 (ja) 歩行者検出方法、装置、およびプログラム
JP3237705B2 (ja) 障害物検出装置および障害物検出装置を搭載した移動体
JPH1141521A (ja) 撮像装置および車間距離計測装置ならびに車間距離計測方法

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080704

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090704

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090704

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100704

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110704

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees