JP4985142B2 - 画像認識装置および画像認識装置の画像認識処理方法 - Google Patents

画像認識装置および画像認識装置の画像認識処理方法 Download PDF

Info

Publication number
JP4985142B2
JP4985142B2 JP2007167611A JP2007167611A JP4985142B2 JP 4985142 B2 JP4985142 B2 JP 4985142B2 JP 2007167611 A JP2007167611 A JP 2007167611A JP 2007167611 A JP2007167611 A JP 2007167611A JP 4985142 B2 JP4985142 B2 JP 4985142B2
Authority
JP
Japan
Prior art keywords
vehicle
area
desired object
search process
recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007167611A
Other languages
English (en)
Other versions
JP2009009209A (ja
Inventor
弘規 佐藤
勝之 今西
祥雅 原
歳康 勝野
映夫 深町
祥一 早坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Toyota Motor Corp
Soken Inc
Original Assignee
Denso Corp
Nippon Soken Inc
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp, Nippon Soken Inc, Toyota Motor Corp filed Critical Denso Corp
Priority to JP2007167611A priority Critical patent/JP4985142B2/ja
Publication of JP2009009209A publication Critical patent/JP2009009209A/ja
Application granted granted Critical
Publication of JP4985142B2 publication Critical patent/JP4985142B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Description

本発明は、車両に取り付けられたカメラより入力される車両周辺の撮影画像から所望の物体を画像認識する画像認識装置および画像認識装置の画像認識処理方法に関する。
従来、この種の画像認識装置は、カメラから入力される撮影画像全体を探索領域として所望の物体を画像認識するようになっている。しかし、このように撮影画像全体を探索領域として画像認識処理を行う場合、所望の物体の存在する可能性の低い領域まで繰り返し探索することになるため、制御部の処理負荷が大きくなり、また、誤認識する可能性も高くなる。
そこで、自車前方のレーダ探索結果から自車前方の撮影画像に含まれた各物標の領域を検出し、各領域の画像につき、自車の走行状態から予測した自車の推定進路に最も近いものからの順で、かつ、自車に近いものからの順に、優先順位が高い画像に選択し、画像認識処理の優先順位を決定することにより、全ての領域の画像に認識処理を施すことなく、重要度(注視度)の高いものから順に選択して画像認識処理を施すようにしたものがある(例えば、特許文献1参照)。
特開2006−163879号公報
しかし、特許文献1に記載された装置は、自車の走行に伴って撮影画像中の物標の位置にずれが生じると、認識処理の対象領域に物標が含まれなくなってしまうことが考えられるため、認識処理の探索領域を比較的大きく設定して認識処理を実施する必要があるといった問題がある。
本発明は上記問題に鑑みたもので、より認識処理の処理負荷の低減を図ることを目的とする。
車両に取り付けられたカメラより入力される車両周辺の撮影画像から所望の物体を画像認識する画像認識装置であって、車両の移動状態を特定するための情報を取得する情報取得手段と、車両周辺の撮影画像に含まれる所望の物体の位置および大きさに基づいて車両と所望の物体との相対位置を推定し、この推定した所望の物体の相対位置、過去に推定した所望の物体の相対位置および情報取得手段により取得された車両の移動状態を特定するための情報に基づいて所望の物体の移動量を推定し、後に入力される車両周辺の撮影画像中に所望の物体が位置する領域(以下、認識領域という)を推定する領域推定手段と、車両からの距離に応じて第1の領域と第2の領域とし、第1の領域において所望の物体を画像認識する第1の探索処理と、第2の領域において所望の物体を画像認識する第2の探索処理とを交互に実施するように探索処理のタイミングを決定するとともに、領域推定手段により認識領域が推定されたことを判定した場合、毎回、認識領域を対象として探索処理を実施するように探索処理のタイミングを決定する探索処理決定手段と、カメラより入力される車両周辺の撮影画像に対し、探索処理決定手段により決定されたタイミングに従って探索処理を実施し、画像認識処理を行う画像認識処理手段と、を備えたことを特徴としている。
このような構成では、車両の移動状態を特定するための情報を取得し、車両周辺の撮影画像に含まれる所望の物体の位置および大きさに基づいて車両と所望の物体との相対位置を推定し、この推定した所望の物体の相対位置、過去に推定した所望の物体の相対位置および情報取得手段により取得された車両の移動状態を特定するための情報に基づいて所望の物体の移動量を推定し、後に入力される車両周辺の撮影画像中に所望の物体が位置する認識領域を推定し、車両からの距離に応じて第1の領域と第2の領域とし、第1の領域において所望の物体を画像認識する第1の探索処理と、第2の領域において所望の物体を画像認識する第2の探索処理とを交互に実施するように探索処理のタイミングを決定するとともに、領域推定手段により認識領域が推定されたことを判定した場合、毎回、認識領域を対象として探索処理を実施するように探索処理のタイミングを決定し、カメラより入力される車両周辺の撮影画像に対し、決定されたタイミングに従って探索処理を実施し、画像認識処理を行うので、探索対象の領域を狭域化することができ、より認識処理の処理負荷の低減を図ることができる。
また、車両からの距離に応じて第1の領域と第2の領域とし、第1の領域において所望の物体を画像認識する第1の探索処理と、第2の領域において所望の物体を画像認識する第2の探索処理とを交互に実施するように探索処理のタイミングを決定するとともに、領域推定手段により認識領域が推定されたことを判定した場合、毎回、認識領域を対象として探索処理を実施するように探索処理のタイミングを決定し、カメラより入力される車両周辺の撮影画像に対し、決定されたタイミングに従って探索処理を実施し、画像認識処理を行うので、車両からの距離に応じて異なる各領域に対して毎回探索処理を実施する場合と比較して処理負荷を低減することが可能である。
また、本発明の第の特徴は、情報取得手段により取得された車両の移動状態を特定するための情報の信頼度を評価する信頼度評価手段を備え、領域推定手段は、信頼度評価手段により評価された信頼度に基づき車両の移動状態を特定するための情報から信頼性の高い情報を選択的に利用して、認識領域を推定することである。
このような構成では、車両の移動状態を特定するための情報の信頼度に基づいて車両の移動状態を特定するための情報から信頼性の高い情報を選択的に利用して、認識領域が推定されるので、車両の移動状態を特定するための情報の信頼度を考慮することなく認識領域を推定する場合と比較して、より正確に認識領域を推定することが可能である。
この第の特徴は、本発明の第1の特徴である画像認識装置を画像認識装置の画像認識処理方法として記載したものである。本発明は、物の発明としてだけでなく、このような方法の発明としても把握することができ、第1の特徴と同様の効果を得ることができる。
この第7の特徴は、本発明の第1の特徴である画像認識装置を画像認識処理方法として記載したものである。本発明は、物の発明としてだけでなく、このような方法の発明としても把握することができ、第1の特徴と同様の効果を得ることができる。
本発明の一実施形態に係る画像認識装置の構成を図1に示す。本画像認識装置1は、車載カメラ10および制御部11を備えた構成となっている。画像認識装置1は、車載カメラ10から入力される車両前方の撮影画像から、信号機、標識、歩行者、自転車、自動車等の所望の物体を画像認識し、車両前方の撮影画像とともに認識結果を表示装置30へ出力する。なお、表示装置30の表示画面には、撮影画像中の所望の物体の位置に矩形の枠が重ねて強調表示されるようになっている。
車載カメラ10は、車両のルームミラーの近傍の天井に取り付けられ、車両前方を撮影した撮影画像を周期的に制御部11へ出力する。本実施形態では、車載カメラ10から1秒間に30フレームの撮影画像が出力される。
制御部11は、CPU、メモリ、I/O等を備えたコンピュータとして構成されており、CPUはメモリに記憶されたプログラムに従って各種処理を実施する。
制御部11には、車両の速度に応じた車速信号を出力する車速センサ20、車両のステアリングの操作に応じた操舵角信号を出力する舵角センサ21、車両の角速度に応じた信号を出力するヨーレートセンサ22などの車載センサから各種検出信号が入力される。
制御部11は、車速センサ20、舵角センサ21、ヨーレートセンサ22などの車載センサから入力される各種信号に基づいて車両の移動状態を特定する。例えば、車速センサ20から入力される車速信号から車両が停車中であるか、低速走行中であるか、高速走行中であるかを特定することが可能である。また、舵角センサ21から操舵角信号から車両が左に旋回中であるか、直進中であるか、右に旋回中であるかを特定することが可能である。また、ヨーレートセンサ22からの信号から車両の旋回方向を特定することが可能である。
また、制御部11には、ナビゲーション装置23から各種情報が入力される。なお、図中には示されてないが、ナビゲーション装置23には、車速センサ20から車速信号が入力され、また、ヨーレートセンサ22から車両の角速度に応じた信号が入力される。
ナビゲーション装置23は、図示しないGPS受信機、車速センサ20およびヨーレートセンサ22から入力される各種信号に基づいて自車位置を特定するとともに、自車位置の履歴から自車の移動状態を表す情報(車速情報、走行方向情報など)を特定し、自車位置情報および自車の移動状態を表す情報を制御部11へ送出する。また、ナビゲーション装置23は、地図データを参照して自車位置周辺の道路形状や道路上の構造物等を示す情報を制御部11へ送出するようになっている。
制御部11のメモリには、車速センサ20から入力される車速信号、舵角センサ21から入力される操舵角信号、ヨーレートセンサ22から入力される信号、ナビゲーション装置23から入力される自車位置情報、車速情報、走行方向情報などの各種情報についての信頼度が記憶されている。
例えば、車速センサから入力される車速信号の精度がナビゲーション装置23から入力される車速情報の精度と比較して高い場合、車速センサから入力される車速信号の信頼度の方がナビゲーション装置23から入力される車速情報の信頼度よりも高くなるように制御部11のメモリに記憶されている。
制御部11は、この信頼度に基づいて、各車載センサから入力される信号およびナビゲーション装置23から入力される情報を評価し、信頼性の高い情報を選択的に利用して各種処理を実施する。
また、本実施形態における制御部11のメモリには、例えば、信号機、標識、歩行者、自転車、自動車等、様々な物体を様々な方向(前後左右)から見た辞書パターンが記憶されている。制御部11は、撮影画像の探索領域中に、これらの辞書パターンを画素単位で表現したテンプレートを移動しながら重ね、撮影画像とテンプレートの画素対応の相関を調べるパターンマッチングにより物体の認識を行う。
次に、図2に従って、本画像認識装置1の制御部11の処理について説明する。ユーザの操作に応じて車両のイグニッションスイッチがオンすると、画像認識装置1は動作状態となり、制御部11は、図2に示す処理を実施する。
まず、撮影画像の取り込みを行う(S100)。具体的には、車載カメラ10
から入力される車両前方の撮影画像を一時的にメモリに記憶する。
次に、車載センサ20〜22およびナビゲーション装置23から車両の状態を特定するための情報を取得する(S102)。具体的には、車速センサ20、舵角センサ21、ヨーレートセンサ22などの車載センサから入力される各種信号と、ナビゲーション装置23から入力される自車位置情報、車速情報、走行方向情報などの各種情報を取得する。
次に、S102にて取得した各種情報の信頼度を評価する(S104)。具体的には、制御部11のメモリから各情報の信頼度を読み出し、S102にて取得した各種情報に対する信頼度を決定する。
次に、認識空間モデル推定処理を行う(S106)。この認識空間モデル推定処理は、車両と所望の物体との相対位置を推定するとともに、車両の移動状態を特定するための情報に基づいて、後に入力される車両周辺の撮影画像中に所望の物体が位置する領域(以下、認識領域という)を推定する処理である。
本実施形態では、車両周辺の撮影画像に含まれる所望の物体の位置および大きさに基づいて車両周辺の空間モデルを構築し、車両と所望の物体との相対位置を推定する。
図3(a)〜(c)は、車両周辺の撮影画像に歩行者が映し出された様子を示した図である。図3(a)に示すように、車両周辺の撮影画像の右側に歩行者Aが大きく映し出されている場合、この歩行者Aは車両前方の右側の近傍に存在すると推定することができる。また、図3(b)に示すように、車両周辺の撮影画像の左側に歩行者Bが中程度の大きさで映し出されている場合、この歩行者Bは車両前方の左側の中距離程度の場所に存在すると推定することができる。また、図3(c)に示すように、車両周辺の撮影画像の中央に歩行者Cが小さく映し出されている場合、この歩行者Cは車両前方の中央の遠方に存在すると推定することができる。
図4に、図3(a)〜(c)に示された歩行者A〜Cと車両の位置関係を示す。(a)は、車両と歩行者A〜Cを側方から見た図、(b)は、車両と歩行者A〜Cを鉛直方向から見下ろした図である。図3(a)〜(c)に示された歩行者A〜Cは、図4(a)、(b)に示す空間モデルにおける歩行者A〜Cとして表すことができる。
このように、車両周辺の撮影画像に含まれる所望の物体の位置および大きさに基づいて、図4(a)、(b)に示すような空間モデルを構築し、車両と所望の物体との相対位置(距離、方向)を推定し、メモリに記憶する。
そして、S104にて評価された信頼度に基づいて、S102にて取得された車両の状態を特定するための情報から、この認識空間モデル推定処理にて利用する情報を選択する。例えば、上記したように車速を表す情報として車速センサ20から入力される車速信号とナビゲーション装置23から入力される車速情報とが存在し、車速センサ20から入力される車速信号の方がナビゲーション装置23から入力される車速情報よりも信頼度が高いと評価された場合、車速センサ20から入力される車速信号を選択する。
このようにして選択された車両の状態を特定するための情報と、推定した車両と所望の物体との相対位置に基づいて、後に入力される車両周辺の撮影画像中に所望の物体が位置する認識領域を推定する。
例えば、図3(b)に示したように車両前方の左側の中距離程度の場所に歩行者Bが存在すると推定された状態で、車速センサ20から一定の車速で前進していることを示す車速信号が入力され、かつ、舵角センサ21からステアリングが左側に一定量操作されたことを示す操舵角信号が入力された場合、すなわち、車両が一定の車速で歩行者に近づきながら左に旋回している場合、後に入力される車両周辺の撮影画像中に歩行者Bが位置する認識領域は、図5の歩行者B’を囲む点線領域に示すように、右側に移動し、かつ、大きくなるものと推定する。
この領域の推定は、計算によって求めることができるが、実験により収集したデータを利用して求めてもよい。なお、計算によって求める場合には、車速信号、舵角信号などの車両の移動状態を特定するための情報、車載カメラ10の取り付け高さ、車載カメラ10の取り付け角度等のカメラ取り付けパラメータ、撮影画像の入力周期、撮影画像の解像度等から求めることができる。
また、優先的に認識すべき物体の優先順位が高くなるように、推定した認識領域に対して優先度を付与する。本実施形態では、歩行者の優先順位が最も高くなるように、推定した認識領域に対して優先度を付与する。
次に、探索領域を決定する(S108)。具体的には、S106の認識空間モデル推定処理にて推定された認識領域を探索領域として決定する。
次に、探索処理を決定する(S110)。本実施形態では、次のS112にて、自車からの距離に応じて異なる探索処理を実施する。具体的には、自車からの距離に応じて探索領域を、近傍領域、中距離領域、遠方領域の3つの領域に分割し、領域毎に撮影画像から抽出する探索領域の大きさおよび辞書パターンを変更して探索処理を実施する。また、領域毎に異なるタイミングで探索処理を実施する。
ここで、図6を参照して、本実施形態における探索処理のタイミングについて説明する。図6(a)〜(c)は、それぞれT番目、T+1番目、T+2番目の画像フレームに対する探索処理の様子を示したものである。
本実施形態では、図6(a)に示すように、自車からの距離に応じて、近傍領域、中距離領域、遠方領域の3つの領域に分割し、近傍領域に対しては毎回探索処理を実施し、中距離領域と遠方領域に対しては交互に探索処理を実施するように探索処理のタイミングを決定する。ただし、探索処理を実施しない領域であっても、先のS106の認識空間モデル推定処理にて推定された車両と所望の物体との相対距離からその領域に所望の物体が存在すると判定した場合には、探索処理を実施するように探索処理のタイミングを決定する。
図6(a)に示すように、T番目の画像フレームでは、近傍領域と中距離領域(図中、斜線部)に対して探索処理を実施するように探索処理のタイミングを決定する。
また、図6(b)に示すように、T+1番目の画像フレームでは、近傍領域と遠方領域(図中、斜線部)に対して探索処理を実施するように探索処理のタイミングを決定する。ただし、先のS106の認識空間モデル推定処理にて推定された車両と所望の物体(図中の例では、歩行者)との相対距離から中距離領域に所望の物体が存在すると判定した場合には、中距離領域であっても認識空間モデル推定処理にて推定された認識領域に対する探索処理も実施するように探索処理のタイミングを決定する。
また、図6(c)に示すように、T+2番目の画像フレームでは、再度、近傍領域と中距離領域(図中、斜線部)に対して探索処理を実施するように探索処理のタイミングを決定する。ただし、図に示すように、先のS106の認識空間モデル推定処理にて推定された車両と所望の物体(図中の例では、歩行者)との相対距離から遠方領域に所望の物体が存在すると判定された場合には、遠方領域であっても認識空間モデル推定処理にて推定された認識領域に対する探索処理も実施するように探索処理のタイミングを決定する。
次に、物体認識処理を実施する(S112)。具体的には、車載カメラ10より入力される車両周辺の撮影画像に対し、S100にて決定された探索処理のタイミングに従って、領域別に撮影画像から抽出する探索領域の大きさおよび辞書パターンを変更して探索処理を実施して画像認識を行う。なお、S106の認識空間モデル推定処理にて付与された優先度に基づいて優先順位の高い探索対象の領域を優先的に探索する。
図7に、図6(a)〜(c)に示した各画像フレームの探索領域およびテンプレートを示す。図7(a)は、T番目の画像フレームのテンプレートおよび探索領域を示す図、図7(b)は、T+1番目の画像フレームのテンプレートおよび探索領域を示す図、図7(c)は、T+2番目のテンプレートおよび探索領域を示す図である。
図7(a)には、近傍領域のテンプレートD1と探索領域S1および中距離領域のテンプレートD2と探索領域S2が示されている。T番目の画像フレームでは、図に示すようなテンプレートを用いて図に示す探索領域を対象として画像認識処理を実施する。
また、図7(b)には、近傍領域のテンプレートD1と探索領域S1、中距離領域のテンプレートD2と探索領域S2、遠方領域のテンプレートD3と探索領域S3が示されている。T+1番目の画像フレームでは、図に示すようなテンプレートを用いて図に示す探索領域を対象として画像認識処理を実施する。
また、図7(c)には、近傍領域の探索領域S1と辞書パターンD1、中距離領域の探索領域S2と辞書パターンD2、遠方領域の探索領域S3と辞書パターンD3が示されている。T+2番目の画像フレームでは、図に示すようなテンプレートを用いて図に示す探索領域を対象として画像認識処理を実施する。
このように、図7(a)〜(c)に示した探索領域を対象とし、S110にて決定された探索処理のタイミングに従って領域別に探索処理を実施して画像認識処理を行う。
次に、認識物体識別処理を実施する(S114)。具体的には、S112にて画像認識された物体と過去の認識結果を比較して、画像認識された物体が誤認識されていないか否か等の識別を行い、認識した物体の最終決定を行う。
次に、認識結果を出力する(S116)。具体的には、車両前方の撮影画像とともに、S114にて最終決定された物体の認識結果(物体が何であるかを表す情報、物体が移動物であるか静止物であるかを表す情報、物体が移動物である場合にはその速度、方向、大きさ、自車との相対位置(距離、方向))、撮影画像中の物体を囲む矩形の枠線を表す情報など)を表示装置30へ出力する。なお、表示装置30の表示画面には、撮影画像中の所望の物体の位置に矩形の枠が重ねて強調表示される。
このように認識結果を出力すると、S100へ戻り、上記した処理を繰り返し実施する。
上記した構成によれば、車両と所望の物体との相対位置を推定し、この推定した相対位置および車両の移動状態を特定するための情報に基づいて、後に入力される車両周辺の撮影画像中に所望の物体が位置する認識領域を推定し、この推定された認識領域を探索対象として画像認識処理が行われるので、背景技術の特許文献1に記載された装置と比較して、探索対象の領域を狭域化することができ、より認識処理の処理負荷の低減を図ることができる。
また、車両周辺の撮影画像に含まれる所望の物体の位置および大きさに基づいて車両と所望の物体との相対位置を推定することができる。したがって、背景技術の特許文献1に記載したようなレーダ探索装置を車両に搭載することなく、車両と所望の物体との相対位置を推定することができる。
また、車両からの距離に応じて中距離領域と遠方領域に対して交互に探索処理を実施するように探索処理のタイミングが決定され、このタイミングに従って探索処理が実施される。更に、認識領域が推定されたことを判定した場合には、毎回、この認識領域を対象として探索処理を実施するように探索処理のタイミングが決定され、このタイミングに従って探索処理が実施されるので、中距離領域と遠方領域に対して毎回探索処理を実施する場合と比較して処理負荷を低減することが可能である。
また、メモリに記憶された信頼度に基づいて車両の移動状態を特定するための情報の信頼度を評価し、車両の移動状態を特定するための情報から信頼性の高い情報を選択的に利用して、認識領域が推定されるので、車両の移動状態を特定するための情報の信頼度を考慮することなく認識領域を推定する場合と比較して、より正確に認識領域を推定することが可能である。
また、認識空間モデル推定処理において、優先的に認識すべき物体の優先順位が高くなるように、推定した領域に対して優先度を付与し、物体認識処理では、この優先度に基づいて優先順位の高い探索対象の領域を優先的に探索するので、優先順位が高くなるように優先度が付与された探索対象の領域を優先的に探索することができる。
なお、本発明は上記実施形態に限定されるものではなく、本発明の趣旨に基づいて種々なる形態で実施することができる。
例えば、上記実施形態では、車両前方の撮影画像から所望の物体を画像認識する例を示したが、車両前方の撮影画像に限定されるものではなく、例えば、車両後方や車両側方の撮影画像から所望の物体を画像認識するようにしてもよい。
また、上記実施形態では、撮影画像に含まれる所望の物体の位置および大きさに基づいて所望の物体との相対位置を推定する例を示したが、例えば、ナビゲーション装置から入力される車両の現在位置および自車位置周辺の道路形状や道路上の構造物等を示す情報に基づいて自車と道路上の構造物との相対位置を推定するようにしてもよい。例えば、ナビゲーション装置から入力される情報に基づいて走行先の道路が左にカーブしていることを判定した場合には、自車が道路に沿って左に旋回するものとして車両と所望の物体との相対位置を推定することができる。また、ナビゲーション装置から入力される情報に基づいて自車前方の路側に所望の物体(例えば、標識)が設置されていることを判定した場合には、自車前方の路側に設置された所望の物体の位置と自車位置から自車と所望の物体の相対位置を推定することができる。また、車両周辺の物体を検出する測定距離レーダを備え、この測定距離レーダを用いて所望の物体との相対位置を推定するようにしてもよい。
また、上記実施形態では、認識空間モデル推定処理において、所望の物体が移動することを考慮することなく、後に入力される車両周辺の撮影画像中に所望の物体が位置する認識領域を推定する例を示したが、例えば、推定した所望の物体の相対位置と、過去に推定した所望の物体の相対位置および車両の移動状態を特定するための情報に基づいて、所望の物体の移動量(移動速度、移動方向)を推定し、後に入力される車両周辺の撮影画像中に所望の物体が位置する認識領域を推定してもよい。この場合、車両だけでなく所望の物体が移動していても、後に入力される車両周辺の撮影画像中に所望の物体が位置する認識領域をより正確に推定することが可能である。
また、上記実施形態では、車両の走行に伴う振動による画像のぶれに対する対策を実施していないが、例えば、車両に搭載されたヨーレートセンサ22から入力される信号や加速度センサから入力される信号に基づいて車両の振動を検出し、車両の振動が検出された場合に、車載カメラ10の画像ぶれを補正する処理を実施してもよい。
なお、上記実施形態における構成と特許請求の範囲の構成との対応関係について説明すると、S102が情報取得手段に相当し、S106が領域推定手段に相当し、S112が画像認識処理手段に相当し、S104が信頼度評価手段に相当する。
本発明の一実施形態に係る画像認識装置の構成を示す図である。 本画像認識装置の制御部の処理を示すフローチャートである。 車両周辺の撮影画像から車両と所望の物体との相対位置を推定する処理について説明するための図である。 図3に示された歩行者A〜Cと車両の位置関係を示す図である。 認識空間モデル推定処理について説明するための図である。 探索処理の決定について説明するための図である。 画像フレームの探索領域と辞書パターンについて説明するための図である。
符号の説明
1…画像認識装置、10…車載カメラ、11…制御部、20…車速センサ、
21…舵角センサ、22…ヨーレートセンサ、23…ナビゲーション装置、
30…表示装置。

Claims (3)

  1. 車両に取り付けられたカメラより入力される車両周辺の撮影画像から所望の物体を画像認識する画像認識装置であって、
    前記車両の移動状態を特定するための情報を取得する情報取得手段と、
    前記車両周辺の撮影画像に含まれる前記所望の物体の位置および大きさに基づいて前記車両と前記所望の物体との相対位置を推定し、この推定した前記所望の物体の相対位置、過去に推定した前記所望の物体の相対位置および前記情報取得手段により取得された前記車両の移動状態を特定するための情報に基づいて前記所望の物体の移動量を推定し、後に入力される前記車両周辺の撮影画像中に前記所望の物体が位置する領域(以下、認識領域という)を推定する領域推定手段と、
    前記車両からの距離に応じて第1の領域と第2の領域とし、前記第1の領域において所望の物体を画像認識する第1の探索処理と、前記第2の領域において所望の物体を画像認識する第2の探索処理とを交互に実施するように探索処理のタイミングを決定するとともに、前記領域推定手段により前記認識領域が推定されたことを判定した場合、毎回、前記認識領域を対象として探索処理を実施するように探索処理のタイミングを決定する探索処理決定手段と、
    前記カメラより入力される車両周辺の撮影画像に対し、前記探索処理決定手段により決定されたタイミングに従って探索処理を実施し、画像認識処理を行う画像認識処理手段と、を備えたことを特徴とする画像認識装置。
  2. 前記情報取得手段により取得された前記車両の移動状態を特定するための情報の信頼度を評価する信頼度評価手段を備え、
    前記領域推定手段は、前記信頼度評価手段により評価された前記信頼度に基づき前記車両の移動状態を特定するための情報から信頼性の高い情報を選択的に利用して、前記認識領域を推定することを特徴とする請求項1に記載の画像認識装置。
  3. 車両に取り付けられたカメラより入力される車両周辺の撮影画像から所望の物体を画像認識する画像認識装置の画像認識方法であって、
    前記車両の移動状態を特定するための情報を取得し、
    前記車両周辺の撮影画像に含まれる前記所望の物体の位置および大きさに基づいて前記車両と前記所望の物体との相対位置を推定し、この推定した前記所望の物体の相対位置、過去に推定した前記所望の物体の相対位置および前記情報取得手段により取得された前記車両の移動状態を特定するための情報に基づいて前記所望の物体の移動量を推定し、後に入力される前記車両周辺の撮影画像中に前記所望の物体が位置する領域を推定し、
    前記車両からの距離に応じて第1の領域と第2の領域とし、前記第1の領域において所望の物体を画像認識する第1の探索処理と、前記第2の領域において所望の物体を画像認識する第2の探索処理とを交互に実施するように探索処理のタイミングを決定するとともに、前記領域推定手段により前記認識領域が推定されたことを判定した場合、毎回、前記認識領域を対象として探索処理を実施するように探索処理のタイミングを決定し、
    前記カメラより入力される車両周辺の撮影画像に対し、決定したタイミングに従って探索処理を実施し、画像認識処理を行うことを特徴とする画像認識装置の画像認識方法。
JP2007167611A 2007-06-26 2007-06-26 画像認識装置および画像認識装置の画像認識処理方法 Expired - Fee Related JP4985142B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007167611A JP4985142B2 (ja) 2007-06-26 2007-06-26 画像認識装置および画像認識装置の画像認識処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007167611A JP4985142B2 (ja) 2007-06-26 2007-06-26 画像認識装置および画像認識装置の画像認識処理方法

Publications (2)

Publication Number Publication Date
JP2009009209A JP2009009209A (ja) 2009-01-15
JP4985142B2 true JP4985142B2 (ja) 2012-07-25

Family

ID=40324253

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007167611A Expired - Fee Related JP4985142B2 (ja) 2007-06-26 2007-06-26 画像認識装置および画像認識装置の画像認識処理方法

Country Status (1)

Country Link
JP (1) JP4985142B2 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5210233B2 (ja) * 2009-04-14 2013-06-12 日立オートモティブシステムズ株式会社 車両用外界認識装置及びそれを用いた車両システム
JP5187292B2 (ja) * 2009-09-28 2013-04-24 三菱自動車工業株式会社 車両周辺監視装置
JP2011100257A (ja) * 2009-11-05 2011-05-19 Renesas Electronics Corp 危険回避システム及び方法
JP5696927B2 (ja) * 2009-12-25 2015-04-08 株式会社リコー 物体識別装置、並びに、これを備えた移動体制御装置及び情報提供装置
CN102782720B (zh) 2009-12-25 2015-08-05 株式会社理光 对象识别装置、移动主体控制装置及信息提供装置
JP5147874B2 (ja) * 2010-02-10 2013-02-20 日立オートモティブシステムズ株式会社 車載画像処理装置
US8843346B2 (en) * 2011-05-13 2014-09-23 Amazon Technologies, Inc. Using spatial information with device interaction
JP5690688B2 (ja) * 2011-09-15 2015-03-25 クラリオン株式会社 外界認識方法,装置,および車両システム
JP5811923B2 (ja) * 2012-03-28 2015-11-11 富士通株式会社 情報処理装置、画像処理方法およびプログラム
JP5878491B2 (ja) 2013-03-27 2016-03-08 株式会社日本自動車部品総合研究所 運転支援装置
JP5852036B2 (ja) 2013-03-27 2016-02-03 株式会社日本自動車部品総合研究所 車載装置
JP5947279B2 (ja) 2013-12-20 2016-07-06 株式会社デンソー 進路推定装置,及びプログラム
JP6321373B2 (ja) 2013-12-25 2018-05-09 株式会社デンソー 進路推定装置,及びプログラム
JP5968402B2 (ja) * 2014-11-12 2016-08-10 キヤノン株式会社 映像加工処理方法及びその装置
JP6356584B2 (ja) * 2014-11-28 2018-07-11 株式会社デンソー 予測進路推定装置
JP6651295B2 (ja) * 2015-03-23 2020-02-19 株式会社メガチップス 移動体制御装置、プログラムおよび集積回路
JP6662604B2 (ja) * 2015-10-28 2020-03-11 住友建機株式会社 ショベル
JP2017089139A (ja) * 2015-11-04 2017-05-25 住友建機株式会社 ショベル
JP6343862B2 (ja) * 2016-09-09 2018-06-20 本田技研工業株式会社 物体認識装置、物体認識方法、および物体認識プログラム
JP6544348B2 (ja) 2016-12-22 2019-07-17 トヨタ自動車株式会社 車両運転支援装置
JP6515912B2 (ja) 2016-12-22 2019-05-22 トヨタ自動車株式会社 車両運転支援装置
JP7318609B2 (ja) * 2020-08-06 2023-08-01 トヨタ自動車株式会社 車載検出装置
WO2023054090A1 (ja) * 2021-10-01 2023-04-06 ソニーセミコンダクタソリューションズ株式会社 認識処理装置、認識処理方法、および認識処理システム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61135842A (ja) * 1984-12-06 1986-06-23 Nissan Motor Co Ltd 車両用物体認識装置
JPH07104160B2 (ja) * 1986-06-30 1995-11-13 スズキ株式会社 車間距離検出方式
JPH04322383A (ja) * 1991-04-23 1992-11-12 Matsushita Electric Ind Co Ltd 視覚認識装置
JPH07286853A (ja) * 1994-04-15 1995-10-31 Nissan Motor Co Ltd 車両用位置検出装置
JPH089238A (ja) * 1994-06-20 1996-01-12 Canon Inc 動きベクトル検出装置
JPH09326096A (ja) * 1996-06-06 1997-12-16 Nissan Motor Co Ltd 車両用人的障害物検知装置
JP4287532B2 (ja) * 1999-03-01 2009-07-01 矢崎総業株式会社 車両用後側方監視装置
JP2004112287A (ja) * 2002-09-18 2004-04-08 Fuji Xerox Co Ltd 画像処理装置
JP3925488B2 (ja) * 2003-11-11 2007-06-06 日産自動車株式会社 車両用画像処理装置
JP2005318546A (ja) * 2004-03-29 2005-11-10 Fuji Photo Film Co Ltd 画像認識システム、画像認識方法、及び画像認識プログラム

Also Published As

Publication number Publication date
JP2009009209A (ja) 2009-01-15

Similar Documents

Publication Publication Date Title
JP4985142B2 (ja) 画像認識装置および画像認識装置の画像認識処理方法
JP6838248B2 (ja) 情報処理装置
JP4420011B2 (ja) 物体検知装置
CN107380164B (zh) 基于计算机视觉的驾驶员辅助系统和支持系统
CN111052733B (zh) 周围车辆显示方法及周围车辆显示装置
JP5022609B2 (ja) 撮像環境認識装置
JP5760696B2 (ja) 画像認識装置
US9475420B2 (en) Display apparatus
US20150298621A1 (en) Object detection apparatus and driving assistance apparatus
US20120320212A1 (en) Surrounding area monitoring apparatus for vehicle
WO2015189847A1 (en) Top-down refinement in lane marking navigation
CN110831819A (zh) 泊车辅助方法以及泊车辅助装置
WO2011013586A1 (ja) 道路形状認識装置
WO2010035781A1 (ja) 車線判定装置及びナビゲーションシステム
CN111034186B (zh) 周围车辆显示方法及周围车辆显示装置
JP4609603B2 (ja) 3次元情報表示装置および3次元情報表示方法
JP6129268B2 (ja) 車両用運転支援システムおよび運転支援方法
JP7798590B2 (ja) 物体追跡装置、物体追跡方法、およびプログラム
JP2021196939A (ja) 車載センサシステム
JP2015225546A (ja) 物体検出装置、運転支援装置、物体検出方法、および物体検出プログラム
JP7006235B2 (ja) 表示制御装置、表示制御方法および車両
JP2011012965A (ja) 車線判定装置及びナビゲーションシステム
JP4553071B1 (ja) 3次元情報表示装置および3次元情報表示方法
CN113875223A (zh) 外部环境识别装置
JP2007164671A (ja) 障害物接近判断装置および障害物衝突警告システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100401

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111028

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120403

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120416

R150 Certificate of patent or registration of utility model

Ref document number: 4985142

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees