JP2004145660A - 障害物検出装置 - Google Patents
障害物検出装置 Download PDFInfo
- Publication number
- JP2004145660A JP2004145660A JP2002310058A JP2002310058A JP2004145660A JP 2004145660 A JP2004145660 A JP 2004145660A JP 2002310058 A JP2002310058 A JP 2002310058A JP 2002310058 A JP2002310058 A JP 2002310058A JP 2004145660 A JP2004145660 A JP 2004145660A
- Authority
- JP
- Japan
- Prior art keywords
- obstacle
- shape data
- pedestrian
- data
- motion pattern
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
Abstract
【課題】通常の可視画像から精度高く障害物を識別し、しかも画像処理の負荷を軽減する。
【解決手段】形状データ抽出部10において可視化カメラからの画像データを2値化処理して障害物の形状データを抽出し、動きパターン検出部11で、形状データの時間的な変化から障害物の動きパターンを検出する。そして、障害物識別部12において、障害物の動きパターンとニューラルネットワーク13で学習済みの動きパターンとを比較し、障害物を識別する。これにより、赤外線カメラを用いることなく、通常の可視画像から歩行者を検出することができ、しかも、障害物の特性を、多角形や楕円形等の簡素な図形を用いて代表するため、画像処理の負荷を軽減しつつ精度高く障害物を識別することができる。
【選択図】 図2
【解決手段】形状データ抽出部10において可視化カメラからの画像データを2値化処理して障害物の形状データを抽出し、動きパターン検出部11で、形状データの時間的な変化から障害物の動きパターンを検出する。そして、障害物識別部12において、障害物の動きパターンとニューラルネットワーク13で学習済みの動きパターンとを比較し、障害物を識別する。これにより、赤外線カメラを用いることなく、通常の可視画像から歩行者を検出することができ、しかも、障害物の特性を、多角形や楕円形等の簡素な図形を用いて代表するため、画像処理の負荷を軽減しつつ精度高く障害物を識別することができる。
【選択図】 図2
Description
【0001】
【発明の属する技術分野】
本発明は、車両の走行方向を撮像した可視画像から障害物を検出する障害物検出装置に関する。
【0002】
【従来の技術】
従来、自動車等の車両においては、走行方向前方に存在する物体(障害物)、特に歩行者を検出するため、カメラで自車両前方を撮像し、その撮像画像から障害物を検出する技術が種々提案されている。
【0003】
例えば、特開平11−328364号公報や特開2000−30197号公報には、赤外線カメラを用い、人体から発生する赤外線を温度画像データとして処理することで、歩行者を識別する技術が開示されている。
【0004】
【特許文献1】
特開平11−328364号公報
【0005】
【特許文献2】
特開2000−30197号公報
【0006】
【発明が解決しようとする課題】
しかしながら、特許文献1や特許文献2に開示されている先行技術は、何れも赤外線カメラを用いているため、コスト上昇の原因となる。更に、これらの先行技術では、温度画像から人間のような形状と判断しているため、画像処理の際の負荷が大きいばかりでなく、動きがわからず、本当に人間であるか否かを判断することができず、精度高く障害物を識別することは困難である。
【0007】
本発明は上記事情に鑑みてなされたもので、通常の可視画像から精度高く障害物を識別し、しかも画像処理の負荷を軽減することのできる障害物検出装置を提供することを目的としている。
【0008】
【課題を解決するための手段】
上記目的を達成するため、本発明の障害物検出装置は、車両の走行方向の可視画像を撮像する撮像手段と、上記可視画像から障害物の特性を代表する領域を形状データとして抽出する形状データ抽出手段と、所定の時間間隔で撮像された複数の可視画像間における上記形状データの差分と上記形状データの特性変化とを障害物の動きパターンとして検出する動きパターン手段と、上記動きパターンと予め学習した動きパターンとを比較し、障害物を識別する障害物識別手段とを備えたことを特徴とする。
【0009】
すなわち、本発明は、車両の走行方向を所定の時間間隔で撮像し、撮像した可視画像から障害物の特性を代表する領域を形状データとして抽出し、複数の可視画像間における形状データの差分と形状データの特性変化とを障害物の動きパターンとして検出する。そして、実際に検出した動きパターンと予め学習した動きパターンとを比較して、障害物を識別する。
【0010】
その際、形状データの差分の更なる差分を求め、この更なる差分により、障害物の識別処理に先立って妥当性を判断することが望ましく、また、所定の時間間隔で撮像した可視画像データ或いは形状データの差分に、撮像手段の回転・移動による補正を加えることが望ましい。
【0011】
更に、歩行者を障害物として検出する際に、実際の歩行者の動きパターンを学習したニューラルネットワークを用いて障害物が歩行者か否かを判断することが望ましく、障害物までの距離情報に基づいて、障害物が所定の距離以内に近づいたとき、形状データの抽出処理と、この抽出処理に続く以後の処理を実行することが望ましい。
【0012】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。図1〜図4は本発明の実施の一形態に係わり、図1は障害物検出装置の全体構成図、図2は障害物検出機能のブロック図、図3は物体の形状データの時間変化を示す説明図であり、(a)は現時点の形状データを示す説明図、(b)はΔt前の形状データを示す説明図、(c)は2Δt前の形状データを示す説明図、図4は多角形で表現した形状データを示す説明図であり、(a)は現時点の形状データを示す説明図、(b)はΔt前の形状データを示す説明図、(c)は2Δt前の形状データを示す説明図である。
【0013】
図1において、符号1は、自動車等の車両に搭載される障害物検出装置であり、車両進行方向の比較的近距離の範囲を撮像した可視画像を処理して歩行者や自転車等を障害物として検出する。この障害物検出装置1は、マイクロコンピュータ等からなる画像処理装置2を中心として構成され、画像処理装置2の入力側に、可視化カメラ3、測距装置4、測位装置5、車速センサ6等の機器が接続されると共に、画像処理装置2の出力側に、表示・警報装置7、車両制御装置8、歩行者保護装置9等が接続されている。
【0014】
可視化カメラ3は、車両の進行方向に存在する障害物(歩行者)の可視画像を撮像するためのカメラであり、例えば電荷結合素子(CCD)を撮像素子とするCCDカメラを用いる。測距装置4は、レーダ距離計或いはステレオカメラを用いた測距装置であり、物体(障害物)までの距離、方向、相対速度等を検出する。尚、測距装置4としてステレオカメラを用いる場合には、ステレオカメラの一方のカメラを、障害物(歩行者)の可視画像を撮像する可視化カメラとして兼用することが可能である。また、測位装置5は、GPS(Global Positioning System)等の人工衛星を利用した航法や走行履歴に基づいて現在位置を測定する推測航法により、自車両の位置を検出し、可視化カメラ3の回転・移動を制御する上での情報を提供する。
【0015】
そして、以上の各機器からの入力情報に基づく画像処理装置2の検出結果に基づく障害物情報データが表示・警報装置7、車両制御装置8、歩行者保護装置9に出力される。表示・警報装置7では、歩行者や自転車等の障害物の有無を表示してドライバーに警告を発し、また、車両制御装置8では、画像処理装置2からの障害物情報データに基づいて衝突回避のための操舵制御やブレーキ制御等の各種車両制御を行い、特に障害物が歩行者であり、衝突が避けられない場合には、歩行者保護装置9によって歩行者保護のための各種装置(例えば、アクティブフードや歩行者保護エアバッグ等)の作動が制御される。
【0016】
画像処理装置2の障害物検出機能は、図2に示すように、可視化カメラ3からの画像データを2値化処理して障害物の形状データを抽出する形状データ抽出部10、形状データの時間的な変化から障害物の動きパターンを検出する動きパターン検出部11、障害物の動きパターンとニューラルネットワーク13で学習済みの動きパターンとを比較し、障害物を識別する障害物識別部12における各処理により実現される。
【0017】
この障害物検出機能は、多大なデータ処理を要するため、車両の走行環境に応じて必要なときにのみ、障害物の形状データの抽出処理と、これに続く処理とを実行する。例えば、歩行者を検出する場合には、測距装置4から得られる距離情報を基に、障害物(歩行者)が所定の距離以内に近づいたときに、障害物の形状データを抽出し、その後の処理に移行する。
【0018】
詳細には、可視化カメラ3で撮像した可視画像が画像処理装置2に入力されると、形状データ抽出部10において、可視画像から所定幅の輝度値を有する画素を抽出して2値化し、障害物の特性を代表する形状データを求める。尚、自車両位置の変化に伴って可視化カメラ3自体に回転・移動が生じるため、可視化カメラ3で撮像した可視画像の画像データ或いは移動データには、測位装置5の測位データに基づく可視化カメラ3の回転・移動に応じた補正を加える。
【0019】
そして、この障害物の特性を代表する形状データを所定時間毎に蓄積し、時系列的な形状データD0,D1,D2,…,Dnを取得する。Δt時間毎にデータを蓄積する場合、D0は現時点の形状データ、D1はΔt時間前の形状データ,D2は2Δt時間前の形状データ,…,DnはnΔt時間前の形状データである。
【0020】
次に、動きパターン検出部11で、以下に示すように、各時点で処理されたn+1個の形状データ間の差分(画像ピクセルデータ間の差分)を求め、この差分を、Δt(或いは、2Δt,3Δt,…)時間における障害物の移動(物体の動き)を表す移動データM1,M2,M3,…,Mnとして求める。この時系列的に蓄積された一連の移動データは、障害物の動きを表す動きパターンとして用いられる。
M1=(D0−D1)/Δt
M2=(D1−D2)/Δt
M3=(D2−D3)/Δt
・
・
・
Mn=(Dn−1−Dn)/Δt
【0021】
また、一連の移動データは、予め検出対象の障害物の動きパターンとしてニューラルネットワーク13に学習させておき、障害物識別部12で、実際に得られた障害物の動きパターンと学習済みの動きパターンとを比較することで障害物を識別する。例えば、歩行者を検出する場合には、実際の人間(歩行者や自転車に乗った人間)に対し、以下の(1)〜(5)の条件にて形状データと移動データとを予め計測しておき、それらのデータをニューラルネットワークの教師データとして人間の動きのパターンとして学習させておく。そして、可視化カメラ3から得られた形状データ及び移動データをニューラルネットワークを用いてパターン認識し、実際の人間であるか否かを判断する。
【0022】
(1)体格
大人、子供、老人、性別等による体格の相違
(2)持ち物・乗り物
鞄、帽子、傘、杖等の有無や、犬、自転車、乳母車、車椅子等の付加物の有無
(3)服装
ズボン、スカート、コート等の服装の相違
(4)歩き方
千鳥足、早足、スキップ等による移動速度の相違
(5)方向
前後、左右、斜め等の移動方向の相違
【0023】
この場合、障害物の特性を代表する形状データは、障害物の輪郭を表現した形状データ、例えば、図3(a)に示すような現時点の歩行者の輪郭を表す形状データD’0、図3(b)に示すようなΔt時間前に処理された歩行者の輪郭を表す形状データD’1、図3(c)に示すようなΔ2t時間前に処理された歩行者の輪郭を表す形状データD’2を時系列的に求めても良いが、このような形状データは、画面全体を対象として処理を施す必要があることから、データ処理時間が比較的長くなる。
【0024】
従って、形状データ抽出部10においては、図3に示すような障害物の輪郭を表現した形状データに代えて、障害物を特徴付ける多角形や楕円形の特性値(面積やアスペクト比等)を形状データとして抽出する。すなわち、図4に示すように、障害物(歩行者)の輪郭における最大・最小の範囲で多角形の処理枠の領域を抽出し、この領域の属性データ、すなわち、枠の寸法や位置、面積、アスペクト比等のデータを、障害物の特性を置き換えた形状データとする。尚、図4においては、障害物(歩行者)の特性を代表する形状データとして、比較的簡易な4角形の領域を設定した例を示すが、多角形の辺の数を増やすことにより、図3の形状データに近づき、それと共にデータ処理時間も長くなる。
【0025】
そして、図4(a)に示す多角形で表現した現時点における障害物の(歩行者)特性を置き換えた形状データD0に対し、図4(b)に示すΔt時間前の歩行者の特性を置き換えた形状データD1、図4(c)に示す2Δt時間前の歩行者の特性を置き換えた形状データD2といったように、時系列的に形状データを蓄積し、各時点の形状データの差分を求めると共に、多角形や楕円形で表現した形状データの特性値(面積やアスペクト比等)の時間変化を求める。
【0026】
多角形や楕円形で代表した形状データの差分データ(移動データ)は、多角形や楕円形の面積やアスペクト比の時間変化と共に、障害物(歩行者)の動きパターンの特徴として用いられ、この動きパターンをニューラルネットワーク13を用いてパターン認識することで、障害物を識別する。
【0027】
これにより、赤外線カメラを用いることなく、通常の可視画像から歩行者を検出することができ、しかも、障害物の特性を、多角形や楕円形等の簡素な図形を用いて代表するため、画像処理の負荷を軽減しつつ精度高く障害物を識別することができる。
【0028】
尚、移動データの精度を向上させるには、以下に示すように、時間項の2次精度離散化を行い、直近の形状データ以外に所定時間前の形状データを入力データとして加えることが望ましい。
Mn=(3×Dn−4×Dn−1+Dn−2)/2Δt
【0029】
また、測距装置4からの距離情報に基づいて、障害物の動きが少ない或いは移動速度が小さいと判断される場合には、以下に示すように、比較する画像データの時間間隔を大きくすることが望ましい。これにより、動きパターンの認識処理に要する時間を節減することができる。
Mn=(Dn−1−Dn)/Δt
Mn=(Dn−2−Dn)/2Δt
Mn=(Dn−3−Dn)/3Δt
・
・
・
【0030】
更に、障害物の判定精度を向上させるため、障害物の移動データ間の差分値、すなわち障害物が移動する際の加速度を逐次計測し、ニューラルネットワークでパターン認識を行う前に、この加速度を用いて障害物の妥当性を判断することが望ましい。例えば、計測した加速度が人間の出し得る最大加速度以上になっている場合には、障害物は「人間ではない」と判断する。これにより、ニューラルネットワーク13でのパターン認識に要する時間を削減することができる。
【0031】
【発明の効果】
以上説明したように本発明によれば、通常の可視画像から精度高く障害物を識別し、しかも画像処理の負荷を軽減することができる。
【図面の簡単な説明】
【図1】障害物検出装置の全体構成図
【図2】障害物検出機能のブロック図
【図3】物体の形状データの時間変化を示す説明図
【図4】多角形で表現した形状データを示す説明図
【符号の説明】
1 障害物検出装置
2 画像処理装置
3 可視化カメラ
10 形状データ抽出部
11 動きパターン検出部
12 障害物識別部
13 ニューラルネットワーク
【発明の属する技術分野】
本発明は、車両の走行方向を撮像した可視画像から障害物を検出する障害物検出装置に関する。
【0002】
【従来の技術】
従来、自動車等の車両においては、走行方向前方に存在する物体(障害物)、特に歩行者を検出するため、カメラで自車両前方を撮像し、その撮像画像から障害物を検出する技術が種々提案されている。
【0003】
例えば、特開平11−328364号公報や特開2000−30197号公報には、赤外線カメラを用い、人体から発生する赤外線を温度画像データとして処理することで、歩行者を識別する技術が開示されている。
【0004】
【特許文献1】
特開平11−328364号公報
【0005】
【特許文献2】
特開2000−30197号公報
【0006】
【発明が解決しようとする課題】
しかしながら、特許文献1や特許文献2に開示されている先行技術は、何れも赤外線カメラを用いているため、コスト上昇の原因となる。更に、これらの先行技術では、温度画像から人間のような形状と判断しているため、画像処理の際の負荷が大きいばかりでなく、動きがわからず、本当に人間であるか否かを判断することができず、精度高く障害物を識別することは困難である。
【0007】
本発明は上記事情に鑑みてなされたもので、通常の可視画像から精度高く障害物を識別し、しかも画像処理の負荷を軽減することのできる障害物検出装置を提供することを目的としている。
【0008】
【課題を解決するための手段】
上記目的を達成するため、本発明の障害物検出装置は、車両の走行方向の可視画像を撮像する撮像手段と、上記可視画像から障害物の特性を代表する領域を形状データとして抽出する形状データ抽出手段と、所定の時間間隔で撮像された複数の可視画像間における上記形状データの差分と上記形状データの特性変化とを障害物の動きパターンとして検出する動きパターン手段と、上記動きパターンと予め学習した動きパターンとを比較し、障害物を識別する障害物識別手段とを備えたことを特徴とする。
【0009】
すなわち、本発明は、車両の走行方向を所定の時間間隔で撮像し、撮像した可視画像から障害物の特性を代表する領域を形状データとして抽出し、複数の可視画像間における形状データの差分と形状データの特性変化とを障害物の動きパターンとして検出する。そして、実際に検出した動きパターンと予め学習した動きパターンとを比較して、障害物を識別する。
【0010】
その際、形状データの差分の更なる差分を求め、この更なる差分により、障害物の識別処理に先立って妥当性を判断することが望ましく、また、所定の時間間隔で撮像した可視画像データ或いは形状データの差分に、撮像手段の回転・移動による補正を加えることが望ましい。
【0011】
更に、歩行者を障害物として検出する際に、実際の歩行者の動きパターンを学習したニューラルネットワークを用いて障害物が歩行者か否かを判断することが望ましく、障害物までの距離情報に基づいて、障害物が所定の距離以内に近づいたとき、形状データの抽出処理と、この抽出処理に続く以後の処理を実行することが望ましい。
【0012】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。図1〜図4は本発明の実施の一形態に係わり、図1は障害物検出装置の全体構成図、図2は障害物検出機能のブロック図、図3は物体の形状データの時間変化を示す説明図であり、(a)は現時点の形状データを示す説明図、(b)はΔt前の形状データを示す説明図、(c)は2Δt前の形状データを示す説明図、図4は多角形で表現した形状データを示す説明図であり、(a)は現時点の形状データを示す説明図、(b)はΔt前の形状データを示す説明図、(c)は2Δt前の形状データを示す説明図である。
【0013】
図1において、符号1は、自動車等の車両に搭載される障害物検出装置であり、車両進行方向の比較的近距離の範囲を撮像した可視画像を処理して歩行者や自転車等を障害物として検出する。この障害物検出装置1は、マイクロコンピュータ等からなる画像処理装置2を中心として構成され、画像処理装置2の入力側に、可視化カメラ3、測距装置4、測位装置5、車速センサ6等の機器が接続されると共に、画像処理装置2の出力側に、表示・警報装置7、車両制御装置8、歩行者保護装置9等が接続されている。
【0014】
可視化カメラ3は、車両の進行方向に存在する障害物(歩行者)の可視画像を撮像するためのカメラであり、例えば電荷結合素子(CCD)を撮像素子とするCCDカメラを用いる。測距装置4は、レーダ距離計或いはステレオカメラを用いた測距装置であり、物体(障害物)までの距離、方向、相対速度等を検出する。尚、測距装置4としてステレオカメラを用いる場合には、ステレオカメラの一方のカメラを、障害物(歩行者)の可視画像を撮像する可視化カメラとして兼用することが可能である。また、測位装置5は、GPS(Global Positioning System)等の人工衛星を利用した航法や走行履歴に基づいて現在位置を測定する推測航法により、自車両の位置を検出し、可視化カメラ3の回転・移動を制御する上での情報を提供する。
【0015】
そして、以上の各機器からの入力情報に基づく画像処理装置2の検出結果に基づく障害物情報データが表示・警報装置7、車両制御装置8、歩行者保護装置9に出力される。表示・警報装置7では、歩行者や自転車等の障害物の有無を表示してドライバーに警告を発し、また、車両制御装置8では、画像処理装置2からの障害物情報データに基づいて衝突回避のための操舵制御やブレーキ制御等の各種車両制御を行い、特に障害物が歩行者であり、衝突が避けられない場合には、歩行者保護装置9によって歩行者保護のための各種装置(例えば、アクティブフードや歩行者保護エアバッグ等)の作動が制御される。
【0016】
画像処理装置2の障害物検出機能は、図2に示すように、可視化カメラ3からの画像データを2値化処理して障害物の形状データを抽出する形状データ抽出部10、形状データの時間的な変化から障害物の動きパターンを検出する動きパターン検出部11、障害物の動きパターンとニューラルネットワーク13で学習済みの動きパターンとを比較し、障害物を識別する障害物識別部12における各処理により実現される。
【0017】
この障害物検出機能は、多大なデータ処理を要するため、車両の走行環境に応じて必要なときにのみ、障害物の形状データの抽出処理と、これに続く処理とを実行する。例えば、歩行者を検出する場合には、測距装置4から得られる距離情報を基に、障害物(歩行者)が所定の距離以内に近づいたときに、障害物の形状データを抽出し、その後の処理に移行する。
【0018】
詳細には、可視化カメラ3で撮像した可視画像が画像処理装置2に入力されると、形状データ抽出部10において、可視画像から所定幅の輝度値を有する画素を抽出して2値化し、障害物の特性を代表する形状データを求める。尚、自車両位置の変化に伴って可視化カメラ3自体に回転・移動が生じるため、可視化カメラ3で撮像した可視画像の画像データ或いは移動データには、測位装置5の測位データに基づく可視化カメラ3の回転・移動に応じた補正を加える。
【0019】
そして、この障害物の特性を代表する形状データを所定時間毎に蓄積し、時系列的な形状データD0,D1,D2,…,Dnを取得する。Δt時間毎にデータを蓄積する場合、D0は現時点の形状データ、D1はΔt時間前の形状データ,D2は2Δt時間前の形状データ,…,DnはnΔt時間前の形状データである。
【0020】
次に、動きパターン検出部11で、以下に示すように、各時点で処理されたn+1個の形状データ間の差分(画像ピクセルデータ間の差分)を求め、この差分を、Δt(或いは、2Δt,3Δt,…)時間における障害物の移動(物体の動き)を表す移動データM1,M2,M3,…,Mnとして求める。この時系列的に蓄積された一連の移動データは、障害物の動きを表す動きパターンとして用いられる。
M1=(D0−D1)/Δt
M2=(D1−D2)/Δt
M3=(D2−D3)/Δt
・
・
・
Mn=(Dn−1−Dn)/Δt
【0021】
また、一連の移動データは、予め検出対象の障害物の動きパターンとしてニューラルネットワーク13に学習させておき、障害物識別部12で、実際に得られた障害物の動きパターンと学習済みの動きパターンとを比較することで障害物を識別する。例えば、歩行者を検出する場合には、実際の人間(歩行者や自転車に乗った人間)に対し、以下の(1)〜(5)の条件にて形状データと移動データとを予め計測しておき、それらのデータをニューラルネットワークの教師データとして人間の動きのパターンとして学習させておく。そして、可視化カメラ3から得られた形状データ及び移動データをニューラルネットワークを用いてパターン認識し、実際の人間であるか否かを判断する。
【0022】
(1)体格
大人、子供、老人、性別等による体格の相違
(2)持ち物・乗り物
鞄、帽子、傘、杖等の有無や、犬、自転車、乳母車、車椅子等の付加物の有無
(3)服装
ズボン、スカート、コート等の服装の相違
(4)歩き方
千鳥足、早足、スキップ等による移動速度の相違
(5)方向
前後、左右、斜め等の移動方向の相違
【0023】
この場合、障害物の特性を代表する形状データは、障害物の輪郭を表現した形状データ、例えば、図3(a)に示すような現時点の歩行者の輪郭を表す形状データD’0、図3(b)に示すようなΔt時間前に処理された歩行者の輪郭を表す形状データD’1、図3(c)に示すようなΔ2t時間前に処理された歩行者の輪郭を表す形状データD’2を時系列的に求めても良いが、このような形状データは、画面全体を対象として処理を施す必要があることから、データ処理時間が比較的長くなる。
【0024】
従って、形状データ抽出部10においては、図3に示すような障害物の輪郭を表現した形状データに代えて、障害物を特徴付ける多角形や楕円形の特性値(面積やアスペクト比等)を形状データとして抽出する。すなわち、図4に示すように、障害物(歩行者)の輪郭における最大・最小の範囲で多角形の処理枠の領域を抽出し、この領域の属性データ、すなわち、枠の寸法や位置、面積、アスペクト比等のデータを、障害物の特性を置き換えた形状データとする。尚、図4においては、障害物(歩行者)の特性を代表する形状データとして、比較的簡易な4角形の領域を設定した例を示すが、多角形の辺の数を増やすことにより、図3の形状データに近づき、それと共にデータ処理時間も長くなる。
【0025】
そして、図4(a)に示す多角形で表現した現時点における障害物の(歩行者)特性を置き換えた形状データD0に対し、図4(b)に示すΔt時間前の歩行者の特性を置き換えた形状データD1、図4(c)に示す2Δt時間前の歩行者の特性を置き換えた形状データD2といったように、時系列的に形状データを蓄積し、各時点の形状データの差分を求めると共に、多角形や楕円形で表現した形状データの特性値(面積やアスペクト比等)の時間変化を求める。
【0026】
多角形や楕円形で代表した形状データの差分データ(移動データ)は、多角形や楕円形の面積やアスペクト比の時間変化と共に、障害物(歩行者)の動きパターンの特徴として用いられ、この動きパターンをニューラルネットワーク13を用いてパターン認識することで、障害物を識別する。
【0027】
これにより、赤外線カメラを用いることなく、通常の可視画像から歩行者を検出することができ、しかも、障害物の特性を、多角形や楕円形等の簡素な図形を用いて代表するため、画像処理の負荷を軽減しつつ精度高く障害物を識別することができる。
【0028】
尚、移動データの精度を向上させるには、以下に示すように、時間項の2次精度離散化を行い、直近の形状データ以外に所定時間前の形状データを入力データとして加えることが望ましい。
Mn=(3×Dn−4×Dn−1+Dn−2)/2Δt
【0029】
また、測距装置4からの距離情報に基づいて、障害物の動きが少ない或いは移動速度が小さいと判断される場合には、以下に示すように、比較する画像データの時間間隔を大きくすることが望ましい。これにより、動きパターンの認識処理に要する時間を節減することができる。
Mn=(Dn−1−Dn)/Δt
Mn=(Dn−2−Dn)/2Δt
Mn=(Dn−3−Dn)/3Δt
・
・
・
【0030】
更に、障害物の判定精度を向上させるため、障害物の移動データ間の差分値、すなわち障害物が移動する際の加速度を逐次計測し、ニューラルネットワークでパターン認識を行う前に、この加速度を用いて障害物の妥当性を判断することが望ましい。例えば、計測した加速度が人間の出し得る最大加速度以上になっている場合には、障害物は「人間ではない」と判断する。これにより、ニューラルネットワーク13でのパターン認識に要する時間を削減することができる。
【0031】
【発明の効果】
以上説明したように本発明によれば、通常の可視画像から精度高く障害物を識別し、しかも画像処理の負荷を軽減することができる。
【図面の簡単な説明】
【図1】障害物検出装置の全体構成図
【図2】障害物検出機能のブロック図
【図3】物体の形状データの時間変化を示す説明図
【図4】多角形で表現した形状データを示す説明図
【符号の説明】
1 障害物検出装置
2 画像処理装置
3 可視化カメラ
10 形状データ抽出部
11 動きパターン検出部
12 障害物識別部
13 ニューラルネットワーク
Claims (5)
- 車両の走行方向の可視画像を撮像する撮像手段と、
上記可視画像から障害物の特性を代表する領域を形状データとして抽出する形状データ抽出手段と、
所定の時間間隔で撮像された複数の可視画像間における上記形状データの差分と上記形状データの特性変化とを障害物の動きパターンとして検出する動きパターン手段と、
上記動きパターンと予め学習した動きパターンとを比較し、障害物を識別する障害物識別手段とを備えたことを特徴とする障害物検出装置。 - 上記形状データの差分の更なる差分を求め、この更なる差分により、障害物の識別処理に先立って妥当性を判断することを特徴とする請求項1記載の障害物検出装置。
- 所定の時間間隔で撮像した可視画像データ或いは上記形状データの差分に、上記撮像手段の回転・移動による補正を加えることを特徴とする請求項1又は2記載の障害物検出装置。
- 歩行者を障害物として検出する際に、実際の歩行者の動きパターンを学習したニューラルネットワークを用いて障害物が歩行者か否かを判断することを特徴とする請求項1,2,3の何れか一に記載の障害物検出装置。
- 障害物までの距離情報に基づいて、障害物が所定の距離以内に近づいたとき、上記形状データの抽出処理と、この抽出処理に続く以後の処理を実行することを特徴とする請求項1,2,3,4の何れか一に記載の障害物検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002310058A JP2004145660A (ja) | 2002-10-24 | 2002-10-24 | 障害物検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002310058A JP2004145660A (ja) | 2002-10-24 | 2002-10-24 | 障害物検出装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004145660A true JP2004145660A (ja) | 2004-05-20 |
Family
ID=32455691
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002310058A Pending JP2004145660A (ja) | 2002-10-24 | 2002-10-24 | 障害物検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004145660A (ja) |
Cited By (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006264416A (ja) * | 2005-03-22 | 2006-10-05 | Takata Corp | 対象物検知システム、保護システム、車両 |
JP2006338273A (ja) * | 2005-06-01 | 2006-12-14 | Nissan Motor Co Ltd | 車載物体検出装置、および物体検出方法 |
JP2007026327A (ja) * | 2005-07-20 | 2007-02-01 | Fujitsu Ten Ltd | 物体検出装置、物体検出方法および物体検出プログラム |
JP2007083881A (ja) * | 2005-09-22 | 2007-04-05 | Denso It Laboratory Inc | 歩行者保護装置 |
JP2007112213A (ja) * | 2005-10-18 | 2007-05-10 | Toyota Motor Corp | 歩行者判定装置 |
JP2007164641A (ja) * | 2005-12-15 | 2007-06-28 | Nippon Hoso Kyokai <Nhk> | 人物オブジェクト判定装置及び人物オブジェクト判定プログラム |
JP2008518831A (ja) * | 2004-11-04 | 2008-06-05 | オートリブ エーエスピー,インコーポレイティド | レーダーセンサと視覚センサとを有するセンサシステム |
DE102008027588A1 (de) | 2007-06-12 | 2009-01-08 | Fuji Jukogyo K.K. | Vorrichtung zur Erfassung von Fußgängern |
JP2009031874A (ja) * | 2007-07-24 | 2009-02-12 | Toyota Motor Corp | 注意喚起装置 |
JP2009237897A (ja) * | 2008-03-27 | 2009-10-15 | Daihatsu Motor Co Ltd | 画像認識装置 |
JP2010205087A (ja) * | 2009-03-04 | 2010-09-16 | Honda Motor Co Ltd | 車両の周辺監視装置 |
US7817848B2 (en) | 2005-11-28 | 2010-10-19 | Fujitsu Ten Limited | Apparatus, method, and computer product for discriminating object |
JP2011014146A (ja) * | 2009-07-03 | 2011-01-20 | Robert Bosch Gmbh | カメラシステムの拡張方法、カメラシステム、運転者支援システム、および対応する車両 |
JP2011198295A (ja) * | 2010-03-23 | 2011-10-06 | Denso Corp | 車両接近報知システム |
KR101146855B1 (ko) | 2010-07-09 | 2012-05-16 | 경희대학교 산학협력단 | 시각 장애인용 보행 가이드 로봇 |
JP2014021709A (ja) * | 2012-07-18 | 2014-02-03 | Honda Motor Co Ltd | 物体位置検知装置 |
CN104149729A (zh) * | 2013-05-13 | 2014-11-19 | 上海汽车集团股份有限公司 | 识别行驶车辆周围障碍物的方法及系统 |
US9140716B2 (en) | 2004-06-07 | 2015-09-22 | Sharp Kabushiki Kaisha | Display system for vehicle and vehicle |
CN105116418A (zh) * | 2015-09-08 | 2015-12-02 | 北京铁路局北京科学技术研究所 | 障碍物的检测方法和装置 |
JP2019182411A (ja) * | 2018-04-17 | 2019-10-24 | バイドゥ ユーエスエイ エルエルシーBaidu USA LLC | オブジェクトの二次元境界枠を自動運転車両の三次元位置に転換するための方法[method for transforming 2d bounding boxes of objects into 3d positions for autonomous driving vehicles (advs)] |
WO2020136978A1 (ja) * | 2018-12-27 | 2020-07-02 | 本田技研工業株式会社 | 経路決定方法 |
JP2021089684A (ja) * | 2019-12-05 | 2021-06-10 | ネットスマイル株式会社 | ビデオ信号処理システムおよびビデオ信号処理方法 |
US11113566B2 (en) | 2018-09-21 | 2021-09-07 | Toyota Jidosha Kabushiki Kaisha | Image processing system, method, and apparatus specifying an object included in a captured image outside a vehicle |
US11314971B2 (en) | 2017-09-27 | 2022-04-26 | 3M Innovative Properties Company | Personal protective equipment management system using optical patterns for equipment and safety monitoring |
US11373076B2 (en) | 2017-02-20 | 2022-06-28 | 3M Innovative Properties Company | Optical articles and systems interacting with the same |
-
2002
- 2002-10-24 JP JP2002310058A patent/JP2004145660A/ja active Pending
Cited By (37)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9140716B2 (en) | 2004-06-07 | 2015-09-22 | Sharp Kabushiki Kaisha | Display system for vehicle and vehicle |
JP2008518831A (ja) * | 2004-11-04 | 2008-06-05 | オートリブ エーエスピー,インコーポレイティド | レーダーセンサと視覚センサとを有するセンサシステム |
JP2006264416A (ja) * | 2005-03-22 | 2006-10-05 | Takata Corp | 対象物検知システム、保護システム、車両 |
US7543677B2 (en) * | 2005-03-22 | 2009-06-09 | Takata Corporation | Object detection system, protection system, and vehicle |
JP2006338273A (ja) * | 2005-06-01 | 2006-12-14 | Nissan Motor Co Ltd | 車載物体検出装置、および物体検出方法 |
JP4692081B2 (ja) * | 2005-06-01 | 2011-06-01 | 日産自動車株式会社 | 車載物体検出装置、および物体検出方法 |
JP2007026327A (ja) * | 2005-07-20 | 2007-02-01 | Fujitsu Ten Ltd | 物体検出装置、物体検出方法および物体検出プログラム |
JP2007083881A (ja) * | 2005-09-22 | 2007-04-05 | Denso It Laboratory Inc | 歩行者保護装置 |
JP2007112213A (ja) * | 2005-10-18 | 2007-05-10 | Toyota Motor Corp | 歩行者判定装置 |
US7817848B2 (en) | 2005-11-28 | 2010-10-19 | Fujitsu Ten Limited | Apparatus, method, and computer product for discriminating object |
JP4728795B2 (ja) * | 2005-12-15 | 2011-07-20 | 日本放送協会 | 人物オブジェクト判定装置及び人物オブジェクト判定プログラム |
JP2007164641A (ja) * | 2005-12-15 | 2007-06-28 | Nippon Hoso Kyokai <Nhk> | 人物オブジェクト判定装置及び人物オブジェクト判定プログラム |
DE102008027588A1 (de) | 2007-06-12 | 2009-01-08 | Fuji Jukogyo K.K. | Vorrichtung zur Erfassung von Fußgängern |
US8160300B2 (en) | 2007-06-12 | 2012-04-17 | Fuji Jukogyo Kabushiki Kaisha | Pedestrian detecting apparatus |
JP2009031874A (ja) * | 2007-07-24 | 2009-02-12 | Toyota Motor Corp | 注意喚起装置 |
JP2009237897A (ja) * | 2008-03-27 | 2009-10-15 | Daihatsu Motor Co Ltd | 画像認識装置 |
JP2010205087A (ja) * | 2009-03-04 | 2010-09-16 | Honda Motor Co Ltd | 車両の周辺監視装置 |
JP2011014146A (ja) * | 2009-07-03 | 2011-01-20 | Robert Bosch Gmbh | カメラシステムの拡張方法、カメラシステム、運転者支援システム、および対応する車両 |
JP2011198295A (ja) * | 2010-03-23 | 2011-10-06 | Denso Corp | 車両接近報知システム |
US8514100B2 (en) | 2010-03-23 | 2013-08-20 | Denso Corporation | Vehicle approach warning system |
KR101146855B1 (ko) | 2010-07-09 | 2012-05-16 | 경희대학교 산학협력단 | 시각 장애인용 보행 가이드 로봇 |
JP2014021709A (ja) * | 2012-07-18 | 2014-02-03 | Honda Motor Co Ltd | 物体位置検知装置 |
CN104149729A (zh) * | 2013-05-13 | 2014-11-19 | 上海汽车集团股份有限公司 | 识别行驶车辆周围障碍物的方法及系统 |
CN105116418A (zh) * | 2015-09-08 | 2015-12-02 | 北京铁路局北京科学技术研究所 | 障碍物的检测方法和装置 |
US11651179B2 (en) | 2017-02-20 | 2023-05-16 | 3M Innovative Properties Company | Optical articles and systems interacting with the same |
US11373076B2 (en) | 2017-02-20 | 2022-06-28 | 3M Innovative Properties Company | Optical articles and systems interacting with the same |
US11314971B2 (en) | 2017-09-27 | 2022-04-26 | 3M Innovative Properties Company | Personal protective equipment management system using optical patterns for equipment and safety monitoring |
US11682185B2 (en) | 2017-09-27 | 2023-06-20 | 3M Innovative Properties Company | Personal protective equipment management system using optical patterns for equipment and safety monitoring |
JP2019182411A (ja) * | 2018-04-17 | 2019-10-24 | バイドゥ ユーエスエイ エルエルシーBaidu USA LLC | オブジェクトの二次元境界枠を自動運転車両の三次元位置に転換するための方法[method for transforming 2d bounding boxes of objects into 3d positions for autonomous driving vehicles (advs)] |
US10816992B2 (en) | 2018-04-17 | 2020-10-27 | Baidu Usa Llc | Method for transforming 2D bounding boxes of objects into 3D positions for autonomous driving vehicles (ADVs) |
US11113566B2 (en) | 2018-09-21 | 2021-09-07 | Toyota Jidosha Kabushiki Kaisha | Image processing system, method, and apparatus specifying an object included in a captured image outside a vehicle |
WO2020136978A1 (ja) * | 2018-12-27 | 2020-07-02 | 本田技研工業株式会社 | 経路決定方法 |
JPWO2020136978A1 (ja) * | 2018-12-27 | 2021-09-27 | 本田技研工業株式会社 | 経路決定方法 |
JP7130062B2 (ja) | 2018-12-27 | 2022-09-02 | 本田技研工業株式会社 | 経路決定方法 |
CN113242998A (zh) * | 2018-12-27 | 2021-08-10 | 本田技研工业株式会社 | 路径决定方法 |
CN113242998B (zh) * | 2018-12-27 | 2024-04-02 | 本田技研工业株式会社 | 路径决定方法 |
JP2021089684A (ja) * | 2019-12-05 | 2021-06-10 | ネットスマイル株式会社 | ビデオ信号処理システムおよびビデオ信号処理方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2004145660A (ja) | 障害物検出装置 | |
JP4173901B2 (ja) | 車両周辺監視装置 | |
JP7025912B2 (ja) | 車載環境認識装置 | |
JP4410292B1 (ja) | 車両の周辺監視装置 | |
JP4470067B2 (ja) | 対象物種別判定装置、車両 | |
EP2838050A2 (en) | Image processing unit, object detection method, object detection program, and vehicle control system | |
JP3934119B2 (ja) | 車両周辺監視装置 | |
US9070023B2 (en) | System and method of alerting a driver that visual perception of pedestrian may be difficult | |
JP4173902B2 (ja) | 車両周辺監視装置 | |
US20110199197A1 (en) | System for monitoring the area around a vehicle | |
JP4528283B2 (ja) | 車両周辺監視装置 | |
US8174578B2 (en) | Vehicle periphery monitoring device | |
JP4094604B2 (ja) | 車両周辺監視装置 | |
JPWO2018190362A1 (ja) | 車両周囲の歩行者を検出する方法及び装置 | |
JP2006151300A (ja) | 車両周辺監視装置 | |
JP2006185434A (ja) | 車両周辺監視装置 | |
JP2002367077A (ja) | 交通渋滞判定装置及び交通渋滞判定方法 | |
EP2778603A1 (en) | Image processing apparatus and image processing method | |
JP3970876B2 (ja) | 車両周辺監視装置 | |
JP7482767B2 (ja) | 物体識別装置、および、物体識別方法 | |
JP4627305B2 (ja) | 車両周辺監視装置、車両周辺監視方法、及び車両周辺監視用プログラム | |
JP2008108118A (ja) | 画像処理装置 | |
JP5802183B2 (ja) | 車両周辺監視装置 | |
JP7309630B2 (ja) | 画像処理装置 | |
JP2006172063A (ja) | 画像処理装置、および方法 |