JP2013161187A - 物体認識装置 - Google Patents
物体認識装置 Download PDFInfo
- Publication number
- JP2013161187A JP2013161187A JP2012021197A JP2012021197A JP2013161187A JP 2013161187 A JP2013161187 A JP 2013161187A JP 2012021197 A JP2012021197 A JP 2012021197A JP 2012021197 A JP2012021197 A JP 2012021197A JP 2013161187 A JP2013161187 A JP 2013161187A
- Authority
- JP
- Japan
- Prior art keywords
- image
- parallax
- recognition
- pattern recognition
- pattern
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】遠方側の領域における物体認識精度を高めることができる物体認識装置の提供。
【解決手段】 物体認識装置1は、ステレオカメラ17と、ステレオカメラにより取得した画像を処理する処理装置20とを含み、処理装置は、前記ステレオカメラにより取得した画像から視差を算出し、算出した視差が所定値以下の画素領域において、パターンマッチングにより物体検出を行うことを特徴とする。
【選択図】図2
【解決手段】 物体認識装置1は、ステレオカメラ17と、ステレオカメラにより取得した画像を処理する処理装置20とを含み、処理装置は、前記ステレオカメラにより取得した画像から視差を算出し、算出した視差が所定値以下の画素領域において、パターンマッチングにより物体検出を行うことを特徴とする。
【選択図】図2
Description
本発明は、ステレオカメラを用いる物体認識装置に関する。
従来から、ステレオカメラで取得した画像を、距離に応じて遠方側の領域と近傍側の領域に分割し、遠方側の領域に対しては低解像度画像における対応付けによって得られた視差が所定の視差以上の場合に高解像度画像における対応付けを行う技術が知られている(例えば、特許文献1参照)。
ところで、ステレオカメラで取得した画像における遠方側の領域では立体物であっても十分な視差が得られない場合がある。従って、視差に基づく物体認識の場合、遠方側の領域における物体認識精度に難点がある。
そこで、本発明は、遠方側の領域における物体認識精度を高めることができる物体認識装置の提供を目的とする。
上記目的を達成するため、本発明の一局面によれば、ステレオカメラと、
前記ステレオカメラにより取得した画像を処理する処理装置とを含み、
前記処理装置は、前記ステレオカメラにより取得した画像から視差を算出し、算出した視差が所定値以下の画素領域において、パターンマッチングにより物体検出を行うことを特徴とする、物体認識装置が提供される。
前記ステレオカメラにより取得した画像を処理する処理装置とを含み、
前記処理装置は、前記ステレオカメラにより取得した画像から視差を算出し、算出した視差が所定値以下の画素領域において、パターンマッチングにより物体検出を行うことを特徴とする、物体認識装置が提供される。
本発明によれば、遠方側の領域における物体認識精度を高めることができる物体認識装置が得られる。
以下、図面を参照して、本発明を実施するための最良の形態の説明を行う。
図1は、本発明の一実施例による物体認識装置1の要部構成を示した図である。物体認識装置1は、撮像装置10とステレオECU(Electric Control Unit)20を備える。ECUは、中央処理演算装置(CPU)、プログラムを記憶するROM、データを一時的に記憶するRAM、入力インターフェース、出力インターフェースなどの複数の回路要素が一ユニットとして構成されたものである。
撮像装置10は、撮像素子11,12やレンズ15,16を備えるステレオカメラ17を含む。また、撮像装置10は、カメラCPU13、画像出力部14等を有する。撮像素子11,12は、例えば、CCD(Charge Coupled Device)で構成されている。カメラCPU13は、ステレオECU20からの制御信号に基づいてカメラ側の露出等の制御を行う。カメラCPU13は、出力インターフェースである画像出力部14を介して、撮像素子11,12による撮像画像を画像信号としてステレオECU20に送信する。なお、撮像素子は2個に限らず、それ以上の数を有してもよい。また、撮像素子11,12やレンズ15,16は、必ずしも同一のカメラユニット内に配置される必要はなく、車両横方向に離間して配置されていればよい。
ステレオECU20は、入力インターフェースである画像入力部21、幾何変換LSI22、画像処理LSI24、各処理部を監督するSV−CPU23等を有する。
撮像装置10の画像出力部14から出力された画像信号は、ステレオECU20の入力インターフェースである画像入力部21に送られる。画像出力部14と画像入力部21は、所定のデジタル伝送方式のインターフェースである。
画像信号を受けた画像入力部21は、画像信号の画像データを幾何変換LSI22に送る。幾何変換LSI22は、キャリブレーションデータを用いて、ステレオ演算処理等に使用されるステレオカメラ17の撮像画像から、撮像素子11,12やレンズ15,16等によるハード的な内部誤差要因(レンズ歪み、光軸ずれ、焦点距離ずれ及び撮像素子歪み等)の影響を取り除き、エピポーラ線を画像水平線にあわせる周知の処理を行う。幾何変換LSI22は、メモリ25に記憶された幾何変換用のLUT(Look Up Table)に基づき入力画像を変換する。
画像処理LSI24は、幾何変換LSI22からの幾何変換された画像データに基づいて画像認識処理を行う。画像処理プログラムや処理すべき画像はメモリ26に記録され、画像処理LSI24は、それらを読み込んで画像認識処理を行う。画像認識処理は、視差画像(視差情報)に基づく物体認識処理と、パターンマッチングによる物体認識処理とを含む。
視差画像に基づく物体認識処理は、例えば左右に配置された撮像素子11,12により撮像された一対の画像の相関を求め、同一物体に対する視差に基づいて三角測量の要領でその物体までの距離を算出するものである。つまり、画像処理LSI24は、撮像素子11,12により撮像された一組のステレオ画像から同一の撮像対象物が写っている部分を抽出し、一組のステレオ画像同士でその撮像対象物の同一点を対応づけ、対応づけられた点(対応点)のずれ量(視差)を求めることによって撮像対象物までの距離を算出する。撮像対象物が前方にある場合、撮像素子11による画像と撮像素子12による画像とを重ね合わせると、撮像対象物が左右横方向にずれる。そして、片方の画像を1画素ずつシフトしながら最も重なり合う位置を求める。このときシフトした画素数をnとする。レンズの焦点距離をf、光軸間の距離をm、画素ピッチをdとすると、撮像対象物までの距離Lは、L=(f・m)/(n・d)という関係式が成立する。この(n・d)の項が視差である。
パターンマッチングによる物体認識処理は、例えば左右に配置された撮像素子11,12により撮像されたいずれかの画像(基準画像)を用いて実行されてもよい。パターンマッチングの手法は任意であってよい。例えば、パターンマッチングは、マスタパターンを用いた残差マッチング、正規化相関法等や、幾何マッチングやベクトル相関を利用したものであってもよい。例えば、残差マッチングでは、画像処理LSI24は、メモリ26に記録されたマスタパターンを読み出し、マスタパターンをターゲットパターン(撮像素子11又は12による基準画像)に対し位置を上下左右に移動させながら、重ね合わせの残差が最小になる点を求める。マスタパターンは、例えば各種車両や各種障害物に関するものであってよく、所定距離毎に用意されてもよい。
SV−CPU23は、各処理部を監督(supervisor)するCPUである。画像処理LSI24が兼ねても可である。SV−CPU23は、画像処理LSI24の処理画像に基づいて算出されたカメラ制御値(例えば、露出調整のパラメータであるシャッタスピード情報)を撮像装置10内のカメラCPU13に送信・指示する。
このような撮像装置10やステレオECU20を車両に搭載することによって、路上の障害物等の画像認識情報を利用する制御に使用することが可能である。例えば、SV−CPU23が、車内LANを介して、画像認識処理結果(障害物認識結果)を必要とする他のECUにその結果を送信すればよい。他のECUとは、例えば、ACC(オートクルーズコントロール)等の先行車追従システム、衝突回避・衝突軽減システムを制御するECU、車線維持支援システムや車線逸脱警報システムを制御するECU、車間ECU、ブレーキECU等である。
図2は、本実施例のステレオECU20により実現される主要処理の一例を示すフローチャートである。図2に示す処理ルーチンは、車両のイグニッションスイッチがオンの間、所定周期毎に繰り返し実行されてもよい。
ステップ200では、ステレオカメラ17の左右の画素の水平方向のずれ量(即ち視差)が算出される。即ち、ステレオカメラ17の撮像素子11,12による各画像間の各対応点の視差が算出され、視差画像が生成される。
ステップ202では、上記ステップ200で算出した視差が一定値以下であるか否かが判定される。一定値は、視差情報に基づく障害物認識処理によって障害物を精度良く認識することができる視差の下限値に対応してよい。この一定値は、ステレオカメラ17の撮像素子11,12の性能や要求される精度等に応じて変化し、実験等により適合されてよい。上記ステップ200で算出した視差が一定値以下である場合は、ステップ208に進み、上記ステップ200で算出した視差が一定値より大きい場合は、ステップ204に進む。尚、一般的には、上記ステップ200で算出した各対応点の視差の中には、一定値以下のものもあれば、一定値より大きいものもある。従って、この場合は、ステップ204及びステップ208の処理は並列的に実行される。
ステップ204では、視差量が十分に大きい集合を用いて、視差が略同じ画素でグループ化した領域が作成される。即ち、上記ステップ200で算出した視差が一定値より大きい画素集合のうち、視差が略同じ画素同士をグループ化し、それぞれのグループ毎の領域を作成する。
ステップ206では、上記ステップ200で算出された視差情報に基づいて障害物認識処理が実行される。この処理には、ステレオカメラによる障害物認識の一般的な手法が利用されてもよい。例えば、グループ毎の各領域の実(3次元)空間上での距離、高さ等の情報、及び画像(2次元)空間上での重心位置等が障害物情報として算出される。
ステップ208では、視差が一定値以下となった集合、即ち視差量が小さく誤差のばらつきが大きい画素を連結することで、パターン認識対象領域が作成(設定)される。パターン認識対象領域は、所定のROI(Region of Interest)内で形成されてもよい。即ち、パターン認識対象領域は、障害物が存在し得ない固定領域(例えば、水平面より十分上方の領域)を除いて設定されてよい。この場合、車両のピッチ情報等に応じてROIが可変されてもよい。
ステップ210では、上記ステップ208で作成されたパターン認識対象領域内でパターンマッチング処理により障害物認識処理(パターン認識)が実行される。この際、パターン認識に用いられるマスタパターンは、規定距離以上遠方に位置する障害物認識用のパターンが使用される。即ち、マスタパターンは、距離毎に用意されうるが、本ステップ210で使用されるマスタパターンは、そのうちの、規定距離以上遠く離れた障害物認識用のパターンである。尚、規定距離は、上記ステップ202で使用される一定値の視差に対応する距離である。
ステップ212では、上記ステップ206及びステップ210で実行された障害物認識結果が結合(マージ)される。
ステップ214では、上記ステップ212で結合された障害物認識結果が出力される。障害物認識結果は、上述の如く例えば先行車追従システム等に利用されてよい。
このように図2に示す処理によれば、規定距離より近い障害物はステレオカメラ17の視差情報に基づいて認識され、規定距離より遠い障害物はパターン認識を用いて認識される。このように、視差量が十分得られない遠方領域のみパターン認識を行うことで、遠方領域での障害物の認識精度を高めつつ、パターン認識による処理負荷を最小限に抑えることができる。
特に、パターン認識対象領域に対するパターン認識では、規定距離以上遠方に位置する障害物認識用のパターンが使用されるので、距離毎の各パターンの全てを使用する場合に比べて、処理負荷を低減することができる。
また、図2に示す処理によれば、パターン認識対象領域は、視差量が一定値よりも大きい画素を除いて生成される。ここで、視差量が一定値よりも大きい画素は、典型的には、近距離に位置する前方車両である。従って、パターン認識対象領域は、近距離に位置する前方車両が存在しない画素領域として精度良く設定することができる。この点、単に画像の上下方向の上側領域(遠距離領域)の全体にパターン認識対象領域を設定する比較構成の場合、自車前方の近距離に前方車両が存在すると、かかる前方車両の像がパターン認識対象領域内に含まれてしまい、パターン認識を精度良く行うことができない。
図3及び図4は、図2に示す処理によるパターン認識対象領域の設定例を示す図であり、図3(A)及び図4(A)は、各シーンにおける入力画像を示し、図3(B)及び図4(B)は、同各シーンにおける視差画像を示す。図3及び図4に示す各シーンは、道路上を走行する先行車を撮影したものである。図3(B)及び図4(B)には、パターン認識対象領域が、符合70が付された白い枠内に示されている。図面の明瞭化のための都合上、図3(B)及び図4(B)においては、視差が一定値よりも大きい画素、即ち距離が規定距離よりも近い画素が白色で表示されている。実際には、視差画像は、視差に応じたグレースケール値を持つ画像であってよい。
図3に示す例では、左手前を走行しているトラックは、距離が近いため、視差点が算出できている。従って、このトラックに関する情報は、図2のステップ204,206の処理による得られる。他方、トラックの前を走る前方車両ないし自走行路を走る前方車両は、距離が遠いため、視差点が算出できていない。図2に示す処理によれば、視差点を算出できていない画素を連結してパターン認識対象領域が生成される(図2のステップ208)。生成されたパターン認識対象領域は、図3(B)に符合70にて示される。これにより、パターン認識対象領域内でパターン認識処理が実行され(図2のステップ210)、トラックの前を走る前方車両ないし自走行路を走る前方車両は、パターン認識により認識されることができる。
図4に示す例では、自走行路を走る前方車両は、距離が近いため、視差点が算出できている。従って、この前方車両に関する情報は、図2のステップ204,206の処理による得られる。他方、前方車両の左側の領域(左側車線内の領域)は、視差点が算出できておらず、遠い距離に前方車両が存在する可能性がある。図2に示す処理によれば、視差点を算出できていない画素を連結してパターン認識対象領域が生成される(図2のステップ208)。生成されたパターン認識対象領域は、図4(B)に符合70にて示される。これにより、パターン認識対象領域内でパターン認識処理が実行される(図2のステップ210)。図4に示す例では、左車線に前方車両が存在しないため、パターン認識対象領域内で前方車両が検出されない。
以上説明した本実施例の物体認識装置1によれば、とりわけ、以下のような優れた効果が奏される。
本実施例によれば、上述の如く、視差量が十分得られない遠方領域においてパターン認識対象領域が設定され、パターン認識対象領域内でのみパターン認識が実行されるので、視差量が十分得られない遠方領域でのみパターン認識を行うことが可能となる。これにより、遠方領域での障害物の認識精度を高めつつ、パターン認識による処理負荷を最小限に抑えることができる。
以上、本発明の好ましい実施例について詳説したが、本発明は、上述した実施例に制限されることはなく、本発明の範囲を逸脱することなく、上述した実施例に種々の変形及び置換を加えることができる。
例えば、図1には、特定のハードウェア構成を備える物体認識装置1が開示されているが、物体認識装置1のハードウェア構成は任意であってよい。また、図1に示すハードウェア構成において、カメラCPU13及びステレオECU20の機能分担も任意であり、一方の機能の一部又は全部が他方により実現されてもよい。
また、上述した実施例では、パターン認識対象領域は、矩形であったが、パターン認識対象領域の形状は任意である。
また、上述した実施例では、パターン認識される対象は車両であったが、パターン認識される対象は任意であり、他の物体(歩行者や標識、ガードレール、縁石等)であってもよい。
1 物体認識装置
10 撮像装置
11,12 撮像素子
13 カメラCPU
14 画像出力部
15,16 レンズ
17 ステレオカメラ
20 ステレオECU
21 画像入力部
22 幾何変換LSI
23 SV−CPU
24 画像処理LSI
25,26 メモリ
28 EEPROM
70 パターン認識対象領域
10 撮像装置
11,12 撮像素子
13 カメラCPU
14 画像出力部
15,16 レンズ
17 ステレオカメラ
20 ステレオECU
21 画像入力部
22 幾何変換LSI
23 SV−CPU
24 画像処理LSI
25,26 メモリ
28 EEPROM
70 パターン認識対象領域
Claims (2)
- ステレオカメラと、
前記ステレオカメラにより取得した画像を処理する処理装置とを含み、
前記処理装置は、前記ステレオカメラにより取得した画像から視差を算出し、算出した視差が所定値以下の画素領域において、パターンマッチングにより物体検出を行うことを特徴とする、物体認識装置。 - 前記処理装置は、前記算出した視差が所定値より大きい画素領域においては、前記算出した視差に基づいて物体検出を行う、請求項1に記載の物体認識装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012021197A JP2013161187A (ja) | 2012-02-02 | 2012-02-02 | 物体認識装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012021197A JP2013161187A (ja) | 2012-02-02 | 2012-02-02 | 物体認識装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013161187A true JP2013161187A (ja) | 2013-08-19 |
Family
ID=49173397
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012021197A Pending JP2013161187A (ja) | 2012-02-02 | 2012-02-02 | 物体認識装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2013161187A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016031494A1 (ja) * | 2014-08-26 | 2016-03-03 | 日立オートモティブシステムズ株式会社 | 物体検出装置 |
WO2016199244A1 (ja) * | 2015-06-10 | 2016-12-15 | 株式会社日立製作所 | 物体認識装置及び物体認識システム |
JP2019021060A (ja) * | 2017-07-18 | 2019-02-07 | 日産自動車株式会社 | 物体検出方法及び物体検出装置 |
-
2012
- 2012-02-02 JP JP2012021197A patent/JP2013161187A/ja active Pending
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016031494A1 (ja) * | 2014-08-26 | 2016-03-03 | 日立オートモティブシステムズ株式会社 | 物体検出装置 |
JP2016045891A (ja) * | 2014-08-26 | 2016-04-04 | 日立オートモティブシステムズ株式会社 | 物体検出装置 |
US10140526B2 (en) | 2014-08-26 | 2018-11-27 | Hitachi Automotive Systems, Ltd. | Object detecting device |
WO2016199244A1 (ja) * | 2015-06-10 | 2016-12-15 | 株式会社日立製作所 | 物体認識装置及び物体認識システム |
JPWO2016199244A1 (ja) * | 2015-06-10 | 2018-02-15 | 株式会社日立製作所 | 物体認識装置及び物体認識システム |
US10540777B2 (en) | 2015-06-10 | 2020-01-21 | Hitachi, Ltd. | Object recognition device and object recognition system |
JP2019021060A (ja) * | 2017-07-18 | 2019-02-07 | 日産自動車株式会社 | 物体検出方法及び物体検出装置 |
JP7031157B2 (ja) | 2017-07-18 | 2022-03-08 | 日産自動車株式会社 | 物体検出方法及び物体検出装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5468426B2 (ja) | ステレオカメラ装置 | |
JP6202367B2 (ja) | 画像処理装置、距離測定装置、移動体機器制御システム、移動体及び画像処理用プログラム | |
JP6606369B2 (ja) | 物体検出装置及び物体検出方法 | |
JP6565188B2 (ja) | 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム | |
JP5561064B2 (ja) | 車両用対象物認識装置 | |
JP5752618B2 (ja) | ステレオ視差算出装置 | |
JP2013206380A (ja) | 車外監視装置 | |
JP6660751B2 (ja) | 撮像装置 | |
CN109196304B (zh) | 物体距离检测装置 | |
WO2016051981A1 (ja) | 車載画像認識装置 | |
JP6306735B2 (ja) | ステレオカメラ装置及びステレオカメラ装置を備える車両 | |
CN113196007A (zh) | 一种应用于车辆的相机系统 | |
JP2020051942A (ja) | 車両の走行環境検出装置及び走行制御システム | |
JPWO2017115732A1 (ja) | 画像処理装置、物体認識装置、機器制御システム、画像処理方法及び画像処理プログラム | |
WO2017043331A1 (ja) | 画像処理装置、及び、画像処理方法 | |
JP2013161190A (ja) | 物体認識装置 | |
JP6455164B2 (ja) | 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム | |
JP2014130429A (ja) | 撮像装置及び立体物領域検出用プログラム | |
JP2013161187A (ja) | 物体認識装置 | |
JP2014026396A (ja) | 移動面境界線認識装置、移動面境界線認識装置を備えた移動体、移動面境界線認識方法及び移動面境界線認識用プログラム | |
WO2017158982A1 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、物体認識装置及び機器制御システム | |
WO2017068792A1 (ja) | 視差算出装置、ステレオカメラ装置、車両および視差算出方法 | |
JP6435660B2 (ja) | 画像処理装置、画像処理方法、機器制御システム | |
JP2006072757A (ja) | 物体検出装置 | |
JP2019061314A (ja) | 物体距離検出装置 |