JP2010250541A - 物体検出装置 - Google Patents

物体検出装置 Download PDF

Info

Publication number
JP2010250541A
JP2010250541A JP2009098948A JP2009098948A JP2010250541A JP 2010250541 A JP2010250541 A JP 2010250541A JP 2009098948 A JP2009098948 A JP 2009098948A JP 2009098948 A JP2009098948 A JP 2009098948A JP 2010250541 A JP2010250541 A JP 2010250541A
Authority
JP
Japan
Prior art keywords
image
object detection
detection
area
optical flow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009098948A
Other languages
English (en)
Other versions
JP4840472B2 (ja
Inventor
Akio Fukamachi
映夫 深町
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2009098948A priority Critical patent/JP4840472B2/ja
Priority to PCT/IB2010/000827 priority patent/WO2010119329A2/en
Priority to EP20120165186 priority patent/EP2482250B1/en
Priority to EP10720956.1A priority patent/EP2419881B1/en
Priority to US13/259,662 priority patent/US8854458B2/en
Priority to CN201080016738.7A priority patent/CN102396002B/zh
Publication of JP2010250541A publication Critical patent/JP2010250541A/ja
Application granted granted Critical
Publication of JP4840472B2 publication Critical patent/JP4840472B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】本発明は、広角画像であっても画像上の位置に関係なく物体を高精度に検出することができる物体検出装置を提供することを課題とする。
【解決手段】撮像手段で撮像された画像から物体を検出する物体検出装置であって、画像内での物体の形状に基づいて物体を検出する第1物体検出手段と、異なる時刻に撮像された複数の画像間から抽出した画像内での物体の移動量に基づいて物体を検出する第2物体検出手段と、画像上の横方向の位置に応じて第1物体検出手段と第2物体検出手段による物体検出方法を変更する制御手段とを備えることを特徴とし、画像中心との横方向の位置の偏差あるいは画像上の各位置でのオプティカルフローの大きさに基づいて第1物体検出手段による物体検出を行う検出領域と第2物体検出手段による物体検出を行う検出領域を設定し、検出領域に応じて第1物体検出手段と第2物体検出手段とを切り替えると好適である。
【選択図】図6

Description

本発明は、撮像手段で撮像された画像から物体を検出する物体検出装置に関する。
物体を検出する場合、カメラで撮像した画像に基づいて物体を検出する方法が各種提案されている。画像を用いた物体検出では、単一のカメラで幅広い領域をカバーするために、広角カメラを利用する場合がある。特許文献1に記載の装置では、広角カメラによって異なる時刻にそれぞれ撮像された画像を用いてブロックマッチング法(オプティカルフロー)によって移動体を検出する。
特開2008−238927号公報 特開2006−80761号公報 特開2008−276308号公報
オプティカルフローは、時間的に連続する画像列から画像内の各位置(画素、領域)での速度場を求め、画像内の物体の動きをベクトルで表したものである。そのため、オプティカルフローを利用して物体を検出する場合、画像上で物体の動きが表れないと検出ができない。しかし、広角カメラで撮像した広角画像の場合、中心付近では撮像空間の大きさに比べて画像内での領域が小さくなる。そのため、画像中心付近では、画像上での移動量が小さくなり、オプティカルフローによる物体検出が困難となる。
画像による物体検出方法としては、オプティカルフローを利用した方法以外に、パターン認識(パターンマッチング)が考えられる。しかし、広角画像の場合、画像の周辺付近では歪みが大きくなる。そのため、画像周辺部では、物体の形状が変化し、精度良くパターンマッチングを行えない。
そこで、本発明は、広角画像であっても画像上の位置に関係なく物体を高精度に検出することができる物体検出装置を提供することを課題とする。
本発明に係る物体検出装置は、撮像手段で撮像された画像から物体を検出する物体検出装置であって、画像内での物体の形状に基づいて物体を検出する第1物体検出手段と、異なる時刻に撮像された複数の画像間から抽出した画像内での物体の移動量に基づいて物体を検出する第2物体検出手段と、画像上の横方向の位置に応じて第1物体検出手段と第2物体検出手段による物体検出方法を変更する制御手段とを備えることを特徴とする。
この物体検出装置では、制御手段により画像上の横方向の位置に応じて第1物体検出手段と第2物体検出手段による物体検出方法を変更する。そして、物体検出装置では、その物体検出方法に従って、画像上の横方向の位置に応じて、第1物体検出手段又は第2物体検出手段を用いて物体を検出するかあるいは第1物体検出手段及び第2物体検出手段を用いて物体を検出する。これによって、画像上で物体の動きが出難い領域では物体の形状を利用して物体検出を行う第1物体検出手段を重視して物体検出を行うことができ、画像上での歪みが大きい領域では物体の移動量を利用して物体検出を行う第2物体検出手段を重視して物体検出を行うことができる。このように、物体検出装置では、画像の横方向の位置に応じて2つの物体検出手段による物体検出方法を変更することにより、画像全域で物体を高精度に検出することができ、特に、画像に歪みなどが出る広角画像であっても画像全域で物体を高精度に検出することができる。
本発明の上記物体検出装置では、制御手段は、画像上の横方向の位置に応じて第1物体検出手段と第2物体検出手段とを切り替えると好適である。この物体検出装置では、画像上の横方向の位置に応じて第1物体検出手段と第2物体検出手段とを切り替えるだけなので、簡単に物体検出方法を変更できる。
本発明の上記物体検出装置では、制御手段は、画像中心との横方向の位置の偏差が閾値より小さい領域については第1物体検出手段による物体検出を行う検出領域を設定し、画像中心との横方向の位置の偏差が閾値より大きい領域については第2物体検出手段による物体検出を行う検出領域を設定すると好適である。
広角画像の場合、画像中心部では撮像空間の大きさのわりには画像上の領域が小さくなくなるので、画像上の物体の移動量が小さくなる。そこで、物体検出装置では、画像中心との横方向の位置の偏差が閾値より小さい領域については第1物体検出手段による物体検出を行う検出領域を設定し、画像中心部の領域では第1物体検出手段に切り替えて画像内での物体の形状に基づいて物体を検出する。一方、広角画像の場合、画像周辺部では大きく歪むので、画像上の物体の形状が変化する。そこで、物体検出装置では、画像中心との横方向の位置の偏差が閾値より大きい領域については第2物体検出手段による物体検出を行う検出領域を設定し、画像周辺部の領域では第2物体検出手段に切り替えて画像内での物体の移動量に基づいて物体を検出する。このように、この物体検出装置では、画像中心からの横方向の位置に応じて検出領域を設定することにより、第1物体検出手段の検出領域と第2物体検出手段の検出領域を精度良く設定でき、画像中心部と画像周辺部にそれぞれ適した方法で物体検出を行うことができる。
本発明の上記物体検出装置では、制御手段は、画像全域に対してオプティカルフロー処理を行い、画像上の各位置でのオプティカルフローの大きさに応じて第1物体検出手段による物体検出を行う検出領域と第2物体検出手段による物体検出を行う検出領域を設定すると好適である。
広角画像の場合、上記したように、画像中心部では画像上の移動量が小さくなるので、画像の移動量を利用した第2物体検出手段による物体検出には不向きである。そこで、物体検出装置では、画像上の各位置でのオプティカルフローの大きさ(画像上の移動量に相当)に応じて第1物体検出手段による物体検出を行う検出領域と第2物体検出手段による物体検出を行う検出領域をそれぞれ設定する。このように、この物体検出装置では、画像上の各位置での実際のオプティカルフローを利用して検出領域を設定することにより、第1物体検出手段の検出領域と第2物体検出手段の検出領域を精度良く設定できる。
本発明の上記物体検出装置では、撮像手段は、移動体に搭載され、制御手段は、移動体の旋回状態に応じて第1物体検出手段による物体検出を行う検出領域と第2物体検出手段による物体検出を行う検出領域を設定すると好適である。
撮像手段を搭載した移動体の進行方向が左右にずれると、広角画像における画像上の移動量が小さくなる領域も左右にずれる。そこで、この物体検出装置では、移動体の旋回状態に応じて第1物体検出手段による物体検出を行う検出領域と第2物体検出手段による物体検出を行う検出領域を設定する。このように、この物体検出装置では、撮像手段を搭載した移動体の旋回状態(進行方向)に応じて検出領域を設定することにより、第1物体検出手段の検出領域と第2物体検出手段の検出領域を精度良く設定できる。
本発明の上記物体検出装置では、制御手段は、画像上の横方向の位置に応じて第1物体検出手段による物体検出の寄与度と第2物体検出手段による物体検出の寄与度を設定すると好適である。この物体検出装置では、画像上の横方向の位置に応じて第1物体検出手段と第2物体検出手段の物体検出における各寄与度(物体検出で重視する度合い)を変えることにより、画像全域で物体をより高精度に検出することができる。
本発明によれば、画像の横方向の位置に応じて2つの物体検出手段による物体検出方法を変更することにより、画像全域で物体を高精度に検出することができ、特に、広角画像であっても画像全域で物体を高精度に検出することができる。
第1の実施の形態に係る周辺監視装置の構成図である。 後方用のカメラで撮像した画像の一例である。 図2の画像におけるパターン認識検出領域の画像である。 図2の画像におけるオプティカルフロー検出領域の画像である。 車両旋回時に後方用のカメラで撮像した画像の一例である。 図1のECUにおける処理の流れを示すフローチャートである。 第2の実施の形態に係る周辺監視装置の構成図である。 後方用のカメラで撮像した画像の一例であり、その撮像画像にオプティカルフローを示した画像である。 図7のECUにおける処理の流れを示すフローチャートである。
以下、図面を参照して、本発明に係る物体検出装置の実施の形態を説明する。なお、各図において同一又は相当する要素については同一の符号を付し、重複する説明を省略する。
本実施の形態では、本発明に係る物体検出装置を、車両に搭載される周辺監視装置に適用する。本実施の形態に係る周辺監視装置は、自車両周辺の障害物(例えば、他車両、自転車、歩行者、落下物など)を検出し、その検出した障害物情報を運転支援装置(衝突防止装置、駐車支援装置など)に出力あるいは音声や表示によって運転者に提供する。本実施の形態には、2つの形態があり、第1の実施の形態が画像の横方向の位置に応じて検出領域を設定する形態であり、第2の実施の形態がオプティカルフローの大きさに応じて検出領域を設定する形態である。なお、自車両からの検出方向としては、自車両の全方向とするが、自車両の特定の方向だけでもよい。
図1〜図5を参照して、第1の実施の形態に係る周辺監視装置1について説明する。図1は、第1の実施の形態に係る周辺監視装置の構成図である。図2は、後方用のカメラで撮像した画像の一例である。図3は、図2の画像におけるパターン認識検出領域の画像である。図4は、図2の画像におけるオプティカルフロー検出領域の画像である。図5は、車両旋回時に後方用のカメラで撮像した画像の一例である。
周辺監視装置1は、広角画像からパターン認識処理とオプティカルフロー処理を利用して障害物を検出する。特に、周辺監視装置1は、画像中心部にパターン認識処理用の検出領域を設定し、画像周辺部にオプティカルフロー処理用の検出領域を設定する。周辺監視装置1は、カメラ3、操舵角センサ4及びECU[Electronic Control Unit]10を備えている。
なお、第1の実施の形態では、カメラ3が特許請求の範囲に記載する撮像手段に相当し、ECU10における各処理が特許請求の範囲に記載する第1物体検出手段、第2物体検出手段及び制御手段に相当する。
カメラ3は、自車両の周辺を撮像するカメラであり、画角の広い広角カメラである。自車両の周辺全域の画像を取得するために、カメラ3は、自車両の複数の所定の箇所(例えば、前方、後方、右側方、左側方)にそれぞれ取り付けられる。各カメラ3では、一定時間毎に、各方向を広角で撮像し、その撮像した広角画像を画像信号としてECU10に送信する。
図2には、自車両の後方に取り付けられたカメラ3で、駐車場内を撮像した画像の一例を示している。この画像には、駐車されている複数台の車両と人などが写っている。また、この画像は、広角カメラで撮像された画像であるので、画像の周辺では歪が大きく、車両などが変形している。
操舵角センサ4は、自車両のハンドルの操舵角を検出するセンサである。操舵角センサ4では、一定時間毎に、操舵角を検出し、その操舵角を操舵角信号としてECU10に送信する。
ECU10は、CPU[CentralProcessing Unit]、ROM[Read Only Memory]、RAM[RandomAccess Memory]及び画像処理チップなどからなる電子制御ユニットであり、周辺監視装置1を統括制御する。ECU10では、一定時間毎に、カメラ3からの画像信号及び操舵角センサ4からの操舵角信号を取り入れ、広角画像などを時系列で記憶する。そして、ECU10では、これらの情報を用いて障害物情報を検出するための処理を行い、検出した障害物情報(例えば、位置、移動方向、移動速度)を運転支援装置に出力あるいは運転者に提供する。
ECU10では、操舵角に基づいて、自車両が直進しているかあるいは旋回しているかを判定する。直進と判定した場合、ECU10では、広角画像Iの画像中心を中心とした矩形領域をパターン認識検出領域PAとして設定し、それ以外の周辺領域をオプティカルフロー検出領域OAとして設定する(図2〜図4参照)。
一方、旋回と判定した場合、ECU10では、操舵角に基づいて、旋回している自車両の進行方向の中心の延長線上に対応する広角画像I上の位置C(画像中心から横方向に移動させた位置)を算出する(図5参照)。図5には、広角画像Iの各位置でのオプティカルフロー(矢印)も示しており、位置C(旋回時の進行方向の中心)に近いほど、オプティカルフローの大きさが小さく(すなわち、画像上での移動量が小さく)なっている。ECU10では、広角画像Iの位置Cを中心とした矩形領域をパターン認識検出領域PAとして設定し、それ以外の周辺領域をオプティカルフロー検出領域OAとして設定する(図5参照)。このパターン認識検出領域PAの大きさや形状は、直進のときのパターン認識検出領域PAと同一である。したがって、この旋回時のパターン認識検出領域PAは、操舵角に応じて、直進時の画像中心を中心としたパターン認識検出領域PAを画像の横方向に補正したものである。
なお、パターン認識検出領域PAの大きさや形状については、カメラ3のレンズパラメータ(画角など)を考慮して設定される。例えば、画像中心位置や旋回時の操舵角に応じた位置Cと画像上の横方向の位置との偏差が閾値より小さいか否かで矩形領域の横方向の両端が規定され、矩形領域の縦方向の両端は予め設定されている。この閾値や縦方向の両端が、カメラ3のレンズパラメータなどに応じて決められる。
ちなみに、広角画像の場合、画像中心付近では、撮像対象の空間の大きさに比べて画像上での領域が小さくなるので、画像上の物体の移動量が非常に小さくなる。そのため、画像中心付近では、画像上での物体の動きを検出するオプティカルフローを利用した物体検出が困難である。しかし、画像中心付近は自車両の進行方向上の物体の存在する領域であるので、検出精度を確保する必要がある。そこで、この画像中心付近を、物体の形状に基づいて検出を行うパターン認識の検出領域とする。
一方、広角画像の場合、画像周辺部では、画像の歪みが大きくなり、画像上の物体の形状が変化する。そのため、画像周辺部では、テンプレートなどの基準形状との相関がとれなくなり、パターンマッチング(パターン認識)を利用した物体検出が困難である。しかし、画像周辺部は自車両の進行方向の側方であるが、道路を横断する歩行者などが存在する可能性があり、検出精度を確保する必要がある。そこで、この画像周辺部を、物体の動きを検出するオプティカルフローの検出領域とする。
パターン認識検出領域PAに対して、ECU10では、パターン認識検出領域PA内を所定画素ずつ移動させながらサブウィンドウSWを順次設定する(図3参照)。そして、ECU10では、現時刻(t)のフレームの広角画像Iを用いて、サブウィンドウSW毎に検出対象の各障害物についてのパターン認識をそれぞれ行い、そのパターン認識結果に基づいて障害物情報を設定する。パターン認識の方法としては、従来の手法を適用し、例えば、検出対象の障害物の各テンプレートを用いてパターンマッチングを行う。ちなみに、サブウィンドウSWが小さいほど、画素数が少なくなるので、処理時間を低減できる。
オプティカルフロー検出領域OAに対して、ECU10では、前時刻(t−1)のフレームの広角画像Iと現時刻(t)のフレームの広角画像Iを用いて、オプティカルフロー検出領域OAの所定の領域毎(画素毎でもよい)にオプティカルフローを算出する(図4参照)。オプティカルフローの算出方法としては、従来の手法を適用する。そして、ECU10では、オプティカルフロー検出領域OA内の各領域におけるオプティカルフローに基づいて、周辺の領域のオプティカルフローと異なる大きさや向きを示すオプティカルフローを抽出する。画像上において背景とは異なる物体(障害物)が存在すると、その物体に対するオプティカルフローはその周辺(背景)とは明らかに異なる大きさや向きを示す。したがって、周辺とは異なる特異なオプティカルフローを抽出することにより、障害物のオプティカルフローを見つけ出すことができる。さらに、ECU10では、その抽出した領域のオプティカルフローから障害物情報を設定する。
図1を参照して、周辺監視装置1における動作について説明する。特に、ECU10における処理については図6のフローチャートに沿って説明する。図6は、図1のECUにおける処理の流れを示すフローチャートである。
各カメラ3では、一定時間毎に、自車両の周辺の各方向を撮像し、画像信号をECU10に送信している。ECU10では、一定時間毎に、カメラ3からの画像信号を受信し、各フレームの広角画像を入力する(S10)。この各フレームの広角画像は、ECU10内に時系列で一時記憶される。
操舵角センサ4では、一定時間毎に、操舵角を検出し、操舵角信号をECU10に送信している。ECU10では、一定時間毎に、操舵角センサ4からの操舵角信号を受信し、操舵角を入力する(S11)。
一定時間毎に、ECU10では、カメラ3の特性などを考慮し、操舵角に応じて広角画像上にパターン認識検出領域とオプティカルフロー検出領域を設定する(S12)。
そして、ECU10では、パターン認識検出領域内で現時刻(t)のフレームの広角画像を用いてパターン認識を行い、そのパターン認識結果から障害物を検出する(S13)。
また、ECU10では、オプティカルフロー検出領域内で現時刻(t)のフレームの広角画像と前時刻(t−1)のフレームの広角画像を用いて画像上の各位置でのオプティカルフローを算出し、オプティカルフロー検出領域内の各位置でのオプティカルフローから障害物を検出する(S14)。
そして、ECU10では、その検出結果を運転支援装置に出力あるいは音声や表示によって運転者に提供する(S15)。
この周辺監視装置1によれば、広角画像の中心部をパターン認識を利用して障害物を検出するための検出領域に設定し、周辺部をオプティカルフローを利用して障害物を検出するための検出領域に設定することにより、広角画像全域にわたって障害物を高精度に検出することができる。
特に、周辺監視装置1によれば、広角画像の画像中心からの横方向の位置に基づいて検出領域を設定することにより、検出領域を精度良く設定できる。さらに、周辺監視装置1によれば、自車両の進行方向(操舵角)に応じて検出領域を横方向に移動して補正することにより、検出領域をより精度良く設定できる。
図7及び図8を参照して、第2の実施の形態に係る周辺監視装置2について説明する。図7は、第2の実施の形態に係る周辺監視装置の構成図である。図8は、後方用のカメラで撮像した画像の一例であり、その撮像画像にオプティカルフローを示した画像である。
周辺監視装置2は、広角画像からパターン認識処理とオプティカルフロー処理を利用して障害物を検出する。特に、周辺監視装置2は、画像全体にオプティカルフロー処理を行い、そのオプティカルフローの大きさに基づいてパターン認識処理用の検出領域とオプティカルフロー処理用の検出領域を設定する。周辺監視装置2は、カメラ3及びECU20を備えている。なお、第2の実施の形態では、ECU20における各処理が特許請求の範囲に記載する第1物体検出手段、第2物体検出手段及び制御手段に相当する。
ECU20は、CPU、ROM、RAM及び画像処理チップなどからなる電子制御ユニットであり、周辺監視装置2を統括制御する。ECU20では、一定時間毎に、カメラ3からの画像信号を取り入れ、広角画像を時系列で記憶する。そして、ECU20では、これらの情報を用いて障害物情報を検出するための処理を行い、検出した障害物情報を運転支援装置に出力あるいは運転者に提供する。
ECU20では、前時刻(t−1)のフレームの広角画像Iと現時刻(t)のフレームの広角画像Iを用いて、広角画像全域の所定の領域毎のオプティカルフローを算出する(図8参照)。
図8に示すように、オプティカルフローの大きさ(図8の矢印の長さに相当)は、画像上での自車両の進行方向の中心(自車両が直進の場合には画像中心)から近いほど小さくなり、その中心から遠いほど大きくなる。そのため、オプティカルフローの大きさが小さくなる領域では、画像上での物体の動きを検出するオプティカルフローを利用した物体検出が困難である。一方、オプティカルフローの大きさが大きくなる領域では、オプティカルフローを利用した物体検出が可能である
そこで、ECU20では、オプティカルフローの大きさが閾値未満か否かを判定する。この閾値は、オプティカルフローの大きさに基づいてオプティカルフローを利用した物体検出ができるか否かを判定するための閾値であり、実験などによって予め設定される。ECU20では、オプティカルフローの大きさが閾値未満と判定した領域をパターン認識検出領域として設定する。また、ECU20では、オプティカルフローの大きさが閾値以上と判定した領域をオプティカルフロー検出領域として設定する。
パターン認識検出領域PAに対して、ECU20では、第1の実施の形態と同様に、パターン認識によって障害物検出を行う。一方、オプティカルフロー検出領域OAに対してECU20では、算出済みのオプティカルフローを利用して、第1の実施の形態と同様に、オプティカルフローを用いて障害物検出を行う。
図7を参照して、周辺監視装置2における動作について説明する。特に、ECU20における処理については図9のフローチャートに沿って説明する。図9は、図7のECUにおける処理の流れを示すフローチャートである。
各カメラ3では、一定時間毎に、自車両の周辺の各方向を撮像し、画像信号をECU10に送信している。ECU10では、一定時間毎に、カメラ3からの画像信号を受信し、各フレームの広角画像を入力する(S20)。この各フレームの広角画像は、ECU20内に時系列で一時記憶される。
一定時間毎に、ECU20では、広角画像全域に対して、現時刻(t)のフレームの広角画像と前時刻(t−1)のフレームの広角画像を用いて画像上の各位置でのオプティカルフローを算出する(S21)。そして、ECU20では、画像上の各位置でのオプティカルフローの大きさが閾値未満か否かを判定する(S22)。
ECU20では、オプティカルフローの大きさが閾値未満と判定した領域を、パターン認識検出領域と設定する(S23)。そして、ECU20では、パターン認識検出領域内で現時刻(t)のフレームの広角画像を用いてパターン認識を行い、そのパターン認識結果から障害物を検出する(S24)。
ECU20では、オプティカルフローの大きさが閾値以上と判定した領域を、オプティカルフロー検出領域と設定する(S25)。そして、ECU20では、オプティカルフロー検出領域内で各位置でのオプティカルフローから障害物を検出する(S26)。
そして、ECU20では、その検出結果を運転支援装置に出力あるいは音声や表示によって運転者に提供する(S27)。
この周辺監視装置2によれば、オプティカルフローの大きさが閾値未満の領域をパターン認識を利用して障害物を検出するための検出領域に設定し、オプティカルフローの大きさが閾値以上の領域をオプティカルフローを利用して障害物を検出するための検出領域に設定することにより、広角画像全域にわたって障害物を高精度に検出することができる。
特に、周辺監視装置2によれば、広角画像における実際のオプティカルフローの大きさに基づいて検出領域を設定することにより、検出領域を精度良く設定できる。
以上、本発明に係る実施の形態について説明したが、本発明は上記実施の形態に限定されることなく様々な形態で実施される。
例えば、本実施の形態では車両に搭載され、車両周辺の障害物を検出するための周辺監視装置に適用したが、画像から物体検出を行う様々な物体検出装置に適用可能である。また、ロボットなどの他の移動体に搭載してもよい。また、移動体に搭載しない監視カメラなどにも適用可能である。
また、本実施の形態ではパターン認識検出領域を矩形形状とし、それ以外の領域をオプティカルフロー検出領域としたが、パターン認識検出領域やオプティカルフロー検出領域の形状や大きさについては様々なものが適用可能である。
また、第1の実施の形態では車両の旋回状態(進行方向)を検出する手段として操舵角センサを用いたが、ヨーレートセンサなどの他の手段で検出してもよいし、あるいは、ナビゲーションシステムなどから進行方向の情報を取得してもよい。
また、第1の実施の形態では操舵角(自車両の旋回状態)に応じて検出領域の横方向の位置を補正する構成としたが、このような補正を行わない構成としてもよい。
また、パターン認識検出領域とオプティカルフロー検出領域をそれぞれ設定したが、画像中心(旋回時には進行方向の中心に相当する画像上の位置)と横方向の位置との偏差が閾値未満か否かで、横方向の位置に応じてパターン認識を利用した障害物検出とオプティカルフローを利用した障害物検出とを切り替えてもよい。
また、画像の横方向の位置に応じてパターン認識による物体検出の寄与度とオプティカルフローによる物体検出の寄与度をそれぞれ設定し、各寄与度に応じてパターン認識による物体検出とオプティカルフローによる物体検出を利用して物体検出を行ってもよい。この際、画像の横方向の位置が画像中心(旋回時には進行方向の中心に相当する画像上の位置)に近いほどパターン認識による物体検出の寄与度を高くし、画像の横方向の位置が画像中心に離れるほどオプティカルフローによる物体検出の寄与度を高くするとよい。また、第2の実施の形態のように画面全体にオプティカルフロー処理を行った後に、オプティカルフローの大きさが小さくなっている領域については、パターン認識の結果も加味して、障害物を検出するようにしてもよい。
1,2…周辺監視装置、3…カメラ、4…操舵角センサ、10,20…ECU

Claims (6)

  1. 撮像手段で撮像された画像から物体を検出する物体検出装置であって、
    画像内での物体の形状に基づいて物体を検出する第1物体検出手段と、
    異なる時刻に撮像された複数の画像間から抽出した画像内での物体の移動量に基づいて物体を検出する第2物体検出手段と、
    画像上の横方向の位置に応じて前記第1物体検出手段と前記第2物体検出手段による物体検出方法を変更する制御手段と
    を備えることを特徴とする物体検出装置。
  2. 前記制御手段は、画像上の横方向の位置に応じて前記第1物体検出手段と前記第2物体検出手段とを切り替えることを特徴とする請求項1に記載する物体検出装置。
  3. 前記制御手段は、画像中心との横方向の位置の偏差が閾値より小さい領域については第1物体検出手段による物体検出を行う検出領域を設定し、画像中心との横方向の位置の偏差が閾値より大きい領域については第2物体検出手段による物体検出を行う検出領域を設定することを特徴とする請求項2に記載する物体検出装置。
  4. 前記制御手段は、画像全域に対してオプティカルフロー処理を行い、画像上の各位置でのオプティカルフローの大きさに応じて前記第1物体検出手段による物体検出を行う検出領域と前記第2物体検出手段による物体検出を行う検出領域を設定することを特徴とする請求項2に記載する物体検出装置。
  5. 前記撮像手段は、移動体に搭載され、
    前記制御手段は、前記移動体の旋回状態に応じて前記第1物体検出手段による物体検出を行う検出領域と前記第2物体検出手段による物体検出を行う検出領域を設定することを特徴とする請求項2に記載する物体検出装置。
  6. 前記制御手段は、画像上の横方向の位置に応じて前記第1物体検出手段による物体検出の寄与度と前記第2物体検出手段による物体検出の寄与度を設定することを特徴とする請求項1に記載する物体検出装置。
JP2009098948A 2009-04-15 2009-04-15 物体検出装置 Active JP4840472B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2009098948A JP4840472B2 (ja) 2009-04-15 2009-04-15 物体検出装置
PCT/IB2010/000827 WO2010119329A2 (en) 2009-04-15 2010-04-14 Object detection device
EP20120165186 EP2482250B1 (en) 2009-04-15 2010-04-14 Object detection device
EP10720956.1A EP2419881B1 (en) 2009-04-15 2010-04-14 Object detection device
US13/259,662 US8854458B2 (en) 2009-04-15 2010-04-14 Object detection device
CN201080016738.7A CN102396002B (zh) 2009-04-15 2010-04-14 目标探测装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009098948A JP4840472B2 (ja) 2009-04-15 2009-04-15 物体検出装置

Publications (2)

Publication Number Publication Date
JP2010250541A true JP2010250541A (ja) 2010-11-04
JP4840472B2 JP4840472B2 (ja) 2011-12-21

Family

ID=43312798

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009098948A Active JP4840472B2 (ja) 2009-04-15 2009-04-15 物体検出装置

Country Status (1)

Country Link
JP (1) JP4840472B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012248011A (ja) * 2011-05-27 2012-12-13 Denso Corp 画像認識装置
JP2013168062A (ja) * 2012-02-16 2013-08-29 Fujitsu Ten Ltd 物体検出装置及び物体検出方法
JP2013190949A (ja) * 2012-03-13 2013-09-26 Toyota Central R&D Labs Inc 歩行者検出装置及びプログラム
JP2013205925A (ja) * 2012-03-27 2013-10-07 Fuji Heavy Ind Ltd 車外環境認識装置および車外環境認識方法
JP2014044521A (ja) * 2012-08-24 2014-03-13 Fuji Heavy Ind Ltd 車外環境認識装置および車外環境認識方法
JP2016122381A (ja) * 2014-12-25 2016-07-07 株式会社リコー オプティカルフロー算出装置、オプティカルフロー算出方法、及びプログラム
JPWO2017090097A1 (ja) * 2015-11-25 2018-08-30 株式会社日立製作所 車両用外界認識装置
CN113408352A (zh) * 2019-05-28 2021-09-17 浙江大华技术股份有限公司 行人异常行为检测方法、图像处理装置及存储装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11261868A (ja) * 1998-03-13 1999-09-24 Fujitsu Ltd 魚眼レンズカメラ装置及びその画像歪み補正方法及び画像抽出方法
JP2006080761A (ja) * 2004-09-08 2006-03-23 Nissan Motor Co Ltd 車両検出装置
JP2008160300A (ja) * 2006-12-21 2008-07-10 Canon Inc 画像処理装置及び撮像装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11261868A (ja) * 1998-03-13 1999-09-24 Fujitsu Ltd 魚眼レンズカメラ装置及びその画像歪み補正方法及び画像抽出方法
JP2006080761A (ja) * 2004-09-08 2006-03-23 Nissan Motor Co Ltd 車両検出装置
JP2008160300A (ja) * 2006-12-21 2008-07-10 Canon Inc 画像処理装置及び撮像装置

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012248011A (ja) * 2011-05-27 2012-12-13 Denso Corp 画像認識装置
JP2013168062A (ja) * 2012-02-16 2013-08-29 Fujitsu Ten Ltd 物体検出装置及び物体検出方法
JP2013190949A (ja) * 2012-03-13 2013-09-26 Toyota Central R&D Labs Inc 歩行者検出装置及びプログラム
JP2013205925A (ja) * 2012-03-27 2013-10-07 Fuji Heavy Ind Ltd 車外環境認識装置および車外環境認識方法
JP2014044521A (ja) * 2012-08-24 2014-03-13 Fuji Heavy Ind Ltd 車外環境認識装置および車外環境認識方法
JP2016122381A (ja) * 2014-12-25 2016-07-07 株式会社リコー オプティカルフロー算出装置、オプティカルフロー算出方法、及びプログラム
JPWO2017090097A1 (ja) * 2015-11-25 2018-08-30 株式会社日立製作所 車両用外界認識装置
US10572753B2 (en) 2015-11-25 2020-02-25 Hitachi, Ltd. Outside recognition device for vehicle
CN113408352A (zh) * 2019-05-28 2021-09-17 浙江大华技术股份有限公司 行人异常行为检测方法、图像处理装置及存储装置

Also Published As

Publication number Publication date
JP4840472B2 (ja) 2011-12-21

Similar Documents

Publication Publication Date Title
JP4840472B2 (ja) 物体検出装置
US20120019655A1 (en) Object detection device
JP5172314B2 (ja) ステレオカメラ装置
JP6424263B2 (ja) 大型車両の移動オブジェクト衝突警告装置および方法
US8712097B2 (en) Approaching object detection system
JP6316411B2 (ja) 画像認識装置及びその制御方法
JP5012718B2 (ja) 画像処理装置
US20110199197A1 (en) System for monitoring the area around a vehicle
JP5704902B2 (ja) 運転支援装置及び運転支援方法
JP6205640B2 (ja) 車両用警告装置
JP2014006700A (ja) 歩行者検出装置
JP2007172035A (ja) 車載画像認識装置、車載撮像装置、車載撮像制御装置、警告処理装置、画像認識方法、撮像方法および撮像制御方法
JP2006215642A (ja) 移動体周辺監視装置、移動体周辺監視方法、制御プログラムおよび可読記録媒体
JP2010008280A (ja) 物体検出装置
WO2010122409A1 (en) Object detection device
JP2007034684A (ja) 車両の障害物表示装置
JP5054612B2 (ja) 接近物検出装置および接近物検出方法
JP6032034B2 (ja) 物体検知装置
JP2015507776A (ja) 車体部及び/又は車輪と対象物との衝突を回避するための能動的警報及び/又はナビゲーション補助の方法
JP2010146478A (ja) 物体検出装置
KR101749873B1 (ko) 카메라 영상을 이용한 주행 정보 제공 방법 및 장치
JP2010205078A (ja) 駐車支援装置
JP4755501B2 (ja) 車線検出装置および車線逸脱警報装置
JP5040851B2 (ja) 脇見運転判定装置
JP2012256159A (ja) 接近物検知装置および接近物検知方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110215

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110530

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110705

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110906

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110919

R151 Written notification of patent or utility model registration

Ref document number: 4840472

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141014

Year of fee payment: 3