JP2013178664A - 車外環境認識装置 - Google Patents

車外環境認識装置 Download PDF

Info

Publication number
JP2013178664A
JP2013178664A JP2012042272A JP2012042272A JP2013178664A JP 2013178664 A JP2013178664 A JP 2013178664A JP 2012042272 A JP2012042272 A JP 2012042272A JP 2012042272 A JP2012042272 A JP 2012042272A JP 2013178664 A JP2013178664 A JP 2013178664A
Authority
JP
Japan
Prior art keywords
specific object
image
relative distance
unit
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012042272A
Other languages
English (en)
Other versions
JP5612621B2 (ja
Inventor
Toru Saito
徹 齋藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Heavy Industries Ltd filed Critical Fuji Heavy Industries Ltd
Priority to JP2012042272A priority Critical patent/JP5612621B2/ja
Priority to US13/771,049 priority patent/US8923560B2/en
Priority to DE102013101821.1A priority patent/DE102013101821B4/de
Priority to CN201310058934.6A priority patent/CN103294991B/zh
Publication of JP2013178664A publication Critical patent/JP2013178664A/ja
Application granted granted Critical
Publication of JP5612621B2 publication Critical patent/JP5612621B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Measurement Of Optical Distance (AREA)

Abstract

【課題】処理負荷を不要に増やすことなく、近距離の特定物も安定的に検出する。
【解決手段】
車外環境認識装置120は、一方の画像データに基づく画像における任意のブロックと相関の高いブロックを、他方の画像データに基づく画像における探索範囲から抽出し視差を求める視差導出部162と、視差から相対距離を導出する位置情報導出部164と、相対距離の差分が所定範囲に含まれるブロックをグループ化して特定物を特定するグループ化部168と、特定物を選択する特定物選択部170と、選択特定物の相対距離が予め定められた閾値未満になると、相対距離に応じてオフセット量を導出するオフセット量導出部172と、画像をオフセット量だけオフセットするオフセット実行部160と、を備え、位置情報導出部は、オフセット量が0以外であれば、選択特定物に相当する画像範囲以外の画像について相対距離の導出を制限する。
【選択図】図8

Description

本発明は、自車両外の環境を認識する車外環境認識装置に関する。
従来、自車両の前方に位置する車両や障害物等の特定物を検出し、検出した特定物との衝突を回避したり(衝突回避制御)、先行車両との車間距離を安全な距離に保つように制御する(クルーズコントロール)技術が知られている(例えば、特許文献1)。
こうした衝突回避制御やクルーズコントロール等を行うために、先行車両等、自車両の前方に位置する特定物の自車両に対する相対距離が求められる。かかる相対距離は、例えば、撮像軸が異なる2つの撮像装置(ステレオカメラ)それぞれで特定物を撮像し、その2つの画像間の相関を求め、同一特定物に対する視差、2つの撮像装置の取り付け位置、および、焦点距離等のカメラパラメータを用い、ステレオ法(三角測量法)を通じて求められる。
ステレオ法において視差を求めるためには、画像間のパターンマッチングを行って同一特定物を示す対応点を正しく検出する必要がある。このパターンマッチングとしては、一般的に、一方の撮像装置で撮像した画像を基準画像とし、他方の撮像装置で撮像した画像を比較画像とした対応点探索法が採用されている。かかる対応点探索法では、基準画像内における1または複数の画素からなる任意のブロック(ウィンドウとも呼ばれる)を設定し、比較画像内において、そのブロックと相関の高いブロック(対応点)を探索する。そして、相関が最も高いブロックを対応点とし、ブロック同士の座標の視差(ズレ量)を相対距離に対応させ、衝突回避制御やクルーズコントロール等を行うための各処理が実行される。
また、パターンマッチングにおける処理負荷を軽減すべく、パターンマッチングにおいて、対象となる画像の縦横サイズをいずれも1/2に縮小し、縮小画像においてステレオ処理を行い、演算量を抑える技術が開示されている(例えば、特許文献2)。また、物体の距離に応じてその視差の範囲を推定し、パターンマッチングにおける探索範囲を、推定した範囲に限定することで、探索時間を削減する技術も知られている(例えば、特許文献3)。
特許第3349060号 特開2008−39491号公報 特開平10−117339号公報
しかし、特許文献2に記載された技術を用いたとしても、近距離から遠距離までの全ての特定物を対象とすると、遠距離の特定物を検出するための画像と近距離の特定物を検出するための縦横サイズを1/2に縮小した画像との2つの画像が必要になり、結局、画像認識に費やす処理負荷は1.25倍に増える。また、特許文献3に記載された技術では、特定物までの距離に応じて探索範囲の大きさが変わるものの、特定物が近距離に存在する場合には処理負荷は低減されず、定期的に同一の処理を繰り返すループ処理において、その処理負荷分の時間を確保しなくてはならない。したがって、処理負荷を抜本的に低減することはできなかった。
そこで、本願発明者は、特定物までの距離に応じて対応点の探索範囲の大きさを変えず、その探索範囲の位置(オフセット量)のみを変えさえすれば、処理負荷を維持したまま近距離の特定物も安定的に検出できることに想到した。しかし、探索範囲のオフセット量を変えるために比較画像における探索範囲をオフセット量分オフセットすると、遠距離の特定物の視差が左右で反転する場合があり、本来検出可能であった遠距離の特定物を検出できなくなる。このようにオフセットすることで検出不能な領域が生じることが予め想定されている状況下で、その領域のパターンマッチングを行うと、誤検出や処理の長時間化を招き、処理負荷が徒に増大してしまう。
本発明は、このような課題に鑑み、処理負荷を不要に増やすことなく、近距離の特定物も安定的に検出可能な、車外環境認識装置を提供することを目的としている。
上記課題を解決するために、本発明の車外環境認識装置は、撮像軸が同一面上で位置を異にする2の撮像部で生成された2の画像データを取得する画像データ取得部と、2の画像データを比較し、一方の画像データに基づく画像における、1または複数の画素からなる任意のブロックと相関の高いブロックを、他方の画像データに基づく画像における予め大きさが定められた探索範囲から抽出し、両ブロックの視差を求める視差導出部と、視差からブロックの相対距離を導出する位置情報導出部と、相対距離の差分が所定範囲に含まれるブロックをグループ化し、1または複数の特定物を特定するグループ化部と、1または複数の特定物から追跡対象となる特定物を選択する特定物選択部と、選択された特定物である選択特定物の相対距離が予め定められた閾値未満になると、相対距離に応じて、探索範囲をオフセットするためのオフセット量を導出するオフセット量導出部と、2の画像データのいずれか一方に基づく探索範囲をオフセット量だけオフセットするオフセット実行部と、を備え、位置情報導出部は、オフセット量が0以外であれば、選択特定物に相当する画像範囲以外の画像について相対距離の導出を制限することを特徴とする。
オフセット実行部は、選択特定物の相対距離に拘わらず、画像データに基づく画像の水平方向両端の予め定められた領域において、予め定められたオフセット量だけオフセットしてもよい。
オフセット実行部は、特定物である選択特定物の相対距離に拘わらず、予め定められた周期毎に、予め定められたオフセット量だけ探索範囲をオフセットしてもよい。
オフセット実行部は、画像データに基づく画像のうち選択特定物に相当する画像範囲のみ探索範囲をオフセットしてもよい。
オフセット量導出部は、撮像時が異なる2の画像データから選択特定物の相対速度を導出し、該相対速度および選択特定物の相対距離に基づいてオフセット量を導出してもよい。
位置情報導出部は、選択特定物に相当する画像範囲以外の画像について、特定物の相対距離がオフセット量未満となる場合にのみ相対距離の導出を制限してもよい。
本発明によれば、画像をオフセットすることによって生じうる不要な処理負荷を回避し、遠距離の特定物も近距離の特定物も安定的に検出することが可能となる。
環境認識システムの接続関係を示したブロック図である。 輝度画像と距離画像を説明するための説明図である。 探索範囲と対応点との関係を説明するための説明図である。 探索範囲と対応点との関係を説明するための説明図である。 探索範囲と対応点との関係を説明するための説明図である。 探索範囲と対応点との関係を説明するための説明図である。 探索範囲と対応点との関係を説明するための説明図である。 車外環境認識装置の概略的な機能を示した機能ブロック図である。 オフセット実行部の処理について説明した説明図である。 位置情報導出部による三次元の位置情報への変換を説明するための説明図である。 位置情報導出部の処理を説明するための説明図である。 分割領域と代表距離とを説明するための説明図である。 分割領域群を説明するための説明図である。 グループ化部の処理を説明するための説明図である。 オフセット量導出部の処理を説明するための説明図である。 車外環境認識方法の全体的な処理の流れを示したフローチャートである。 視差導出処理の流れを示したフローチャートである。 位置情報導出処理の流れを示したフローチャートである。 代表距離導出処理の流れを示したフローチャートである。 グループ化処理の流れを示したフローチャートである。
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書及び図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
(環境認識システム100)
図1は、環境認識システム100の接続関係を示したブロック図である。環境認識システム100は、自車両1内に設けられた、複数(本実施形態では2つ)の撮像装置(撮像部)110と、車外環境認識装置120と、車両制御装置130とを含んで構成される。
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、モノクロ画像の輝度を取得することができる。ここでは、撮像装置110で撮像されたモノクロ画像を輝度画像と呼び、後述する距離画像と区別する。
また、撮像装置110は、自車両1の進行方向側において2つの撮像装置110それぞれの撮像軸(光軸)が、同一の水平面上で位置を異にし、略平行になるように離隔して配置される。撮像装置110は、自車両1の前方の検出領域に存在する特定物を撮像した画像データを、例えば1/60秒毎(60fps)に連続して生成する。以下の実施形態における各機能部は、このような画像データの更新を契機として各処理を遂行する。したがって、各機能部は、フレーム単位で処理を繰り返すこととなり、「前回のフレーム」または「次回のフレーム」と表現しているところは1フレーム前または1フレーム後の処理時点を示す。ここで、特定物は、車両、道路、ガードレールといった独立して存在する物である。
車外環境認識装置120は、2つの撮像装置110それぞれから画像データを取得し、一方の画像データに基づく画像から任意に抽出したブロック(ここでは水平4画素×垂直4画素の配列で構成される)に対応するブロックを他方の画像データに基づく画像から検出する、所謂パターンマッチングを用いて視差を導き出す。ここで、ブロックの説明に用いられた「水平」は、撮像した画像の画面横方向を示し、実空間上の水平方向に相当する。また、「垂直」は、撮像した画像の画面縦方向を示し、実空間上の鉛直方向に相当する。
このパターンマッチングとしては、2つの画像データ間において、任意の画像位置を示すブロック単位で輝度値を比較することが考えられる。例えば、輝度値の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度値から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。本実施形態では、特に画像のテクスチャに基づいて輝度値を比較する。車外環境認識装置120は、このようなブロック単位の視差導出処理を検出領域(例えば600画素×200画素)に映し出されている全てのブロックについて行う。ここでは、ブロックを4画素×4画素としているが、ブロック内の画素数は任意に設定することができる。かかるパターンマッチングによる視差の導出手順は、後ほど詳述する。
ところで、車外環境認識装置120では、パターンマッチングを通じて検出分解能単位であるブロック毎に視差を導出することはできるが、そのブロックがどのような特定物の一部であるかを認識できない。したがって、視差情報は、特定物単位ではなく、検出領域における検出分解能単位(例えばブロック単位)で独立して導出されることとなる。ここでは、このようにして導出された視差情報(後述する相対距離に相当)を画像データに対応付けた画像を距離画像という。
図2は、輝度画像124と距離画像126を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域122について図2(a)のような輝度画像(画像データ)124が生成されたとする。ただし、ここでは、理解を容易にするため、2つの輝度画像124の一方のみを模式的に示している。車外環境認識装置120は、このような輝度画像124からブロック毎の視差を求め、図2(b)のような距離画像126を形成する。距離画像126における各ブロックには、そのブロックの視差が関連付けられている。ここでは、説明の便宜上、視差が導出されたブロックを黒のドットで表している。
視差は、画像のエッジ部分(隣り合う画素間で明暗の差分が大きい部分)で特定され易いので、距離画像126において黒のドットが付されている、視差が導出されたブロックは、輝度画像124においてもエッジとなっていることが多い。したがって、図2(a)に示す輝度画像124と図2(b)に示す距離画像126とは各特定物の輪郭について似たものとなる。
そして、車外環境認識装置120は、距離画像126に基づく自車両1との相対距離を用いて検出領域122に表示されている特定物がどのような種類の特定物に対応するかを特定する。例えば、所定の相対距離を維持している(自車両と同速度で走行する)特定物を先行車両と認識する。
尚、上記距離画像126に基づく自車両1との相対距離は、距離画像126におけるブロック毎の視差情報を、所謂ステレオ法を用いて三次元の位置情報に変換することで求められる。ここで、ステレオ法は、三角測量法を用いることで、特定物の視差からその特定物の撮像装置110に対する相対距離を導出する方法である。かかる車外環境認識装置120の処理に関しては、後ほど詳述する。
車両制御装置130は、車外環境認識装置120で特定された特定物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ制御を実行する。具体的に、車両制御装置130は、操舵の角度を検出する舵角センサ132や自車両1の速度を検出する車速センサ134等を通じて現在の自車両1の走行状態を取得し、アクチュエータ136を制御して先行車両との車間距離を安全な距離に保つ。ここで、アクチュエータ136は、ブレーキ、スロットルバルブ、舵角等を制御するために用いられる車両制御用のアクチュエータである。また、車両制御装置130は、特定物との衝突が想定される場合、運転者の前方に設置されたディスプレイ138にその旨警告表示(報知)を行うと共に、アクチュエータ136を制御して自車両1を自動的に制動する。かかる車両制御装置130は、車外環境認識装置120と一体的に形成することもできる。
(パターンマッチングについて)
ところで、上述したように、車外環境認識装置120は、パターンマッチングを行って所定の探索範囲から対応点となるブロックを探索している。
図3〜図7は、探索範囲と対応点との関係を説明するための説明図である。図3(a)には、自車両1の右側に位置する撮像装置110から得られた画像データに基づく画像を示し、図3(b)には、自車両1の左側に位置する撮像装置110から得られた画像データに基づく輝度画像124を示す。ここでは、前者を基準画像、後者を比較画像とする。
撮像軸が異なる2つの撮像装置110では、同一の特定物が水平方向の異なる位置に表示される。例えば、図3(a)の基準画像に表示されたブロック210と相関性が高い比較画像(図3(b))のブロック(対応点)212は、ブロック210に相当する位置より水平方向右側に位置することとなる。したがって、対応点を探索する探索範囲214は、ブロック210に相当する位置より右側に絞ることができる。本実施形態では、検出領域122を水平600画素×垂直200画素とし、処理負荷を不要に増大させないため、例えば、水平方向の探索範囲214を128画素、垂直方向の探索範囲214を4画素としている。
仮に、本実施形態における2つの撮像装置110のカメラパラメータが、2つの撮像装置110間の距離=350mm、撮像装置110のレンズの焦点距離=8mm、1画素あたりのズレ量=0.006mmであった場合、探索範囲214の最大値128画素で検出できる相対距離は350mm×8mm/128画素/0.006mm=3646mm≒3.6mとなる。したがって、本実施形態のように探索範囲214を128画素に制限したとしても、3.6m以上離れた特定物であれば全て検出できることとなる。
しかし、特定物が相対距離3.6m未満に存在する可能性がない訳ではない。そこで、相対距離3.6m未満の特定物を検出するために、探索範囲214を2倍、または、画像自体を1/2として、3.6m未満の特定物のみを別途検出することも考えられるが、処理負荷が増大することとなる。本実施形態では、探索範囲214や画像自体の大きさを変更することなく、探索範囲214自体を移動させて近距離に存在する特定物を検出する。
例えば、図4(a)および図4(b)は、図3(a)および図3(b)同様、自車両1の右側および左側に位置する撮像装置110から得られた画像データに基づく画像を示している。ただし、図4は、図3と異なり、特定物が相対距離3.6m未満に位置している状態を示している。したがって、図4(a)の基準画像に表示されたブロック210と相関性が高い図4(b)に示す比較画像のブロック(対応点)212は、ブロック210に相当する位置より128画素を超えて(例えば160画素)右側に位置している。
かかる状況下において、パターンマッチングを遂行すると、図5に示すような距離画像126が得られる。ここでは、画像内のほとんどの画素が128画素以上の視差を有するため、探索範囲214内に対応点を検出できず、相関性が乏しい他のブロックが対応点として誤検出され、相対距離がランダムに表される。
本実施形態では、特定物の追跡機能により予め把握されている特定物の相対距離を用い、特定物が160画素程度の視差を有するであろうことを予測する。そして、対応点を例えば96画素付近で検出できるように、160−96=64画素分、図4(b)の比較画像の探索範囲を左方向にオフセットして図6のような対応関係にする。
ここで、対応点の出現位置の目標値を96画素としたのは、目標値が高すぎると、対応点が探索範囲214の上限である128画素を超えてしまう可能性が生じ、目標値が低すぎると、本実施形態によるオフセットの適用が早くなりすぎて(特定物がそれほど近距離にないのにオフセットされてしまい)不要に遠距離を検知できなくなるからである。そこで、本実施形態では、目標値を、探索範囲214の上限である128画素の3/4にあたる96画素としている。96画素は、上記のカメラパラメータ下で相対距離4.9mに相当する。
このように、特定物の相対距離を勘案して比較画像の探索範囲をオフセットすることで、図4(b)に示した比較画像は図6(b)のようになる。図6(a)の基準画像に表示されたブロック210と相関性が高い図6(b)に示す比較画像のブロック(対応点)212は、ブロック210に相当する位置から128画素未満(例えば96画素)右側に位置する。
そして、対応点を例えば96画素の位置に特定した後、オフセット量分(例えば64画素)を加算することで、その対応点の真の視差(ズレ量)は96+64=160画素となり、対応点の視差を正しく導出することが可能となる。こうして、図7に示すような、距離が比較的明確に把握できる距離画像126を得ることができる。以下、車外環境認識装置120の具体的な構成を述べ、その中で、このようなパターンマッチングを実現するための具体的な処理を説明する。
(車外環境認識装置120)
図8は、車外環境認識装置120の概略的な機能を示した機能ブロック図である。図8に示すように、車外環境認識装置120は、I/F部150と、データ保持部152と、中央制御部154とを含んで構成される。
I/F部(画像データ取得部)150は、撮像装置110や車両制御装置130との双方向の情報交換を行うためのインターフェースであり、例えば、2の撮像装置110で生成された2の画像データを取得する。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、以下に示す各機能部の処理に必要な様々な情報を保持すると共に、撮像装置110から受信した輝度画像124を一時的に保持する。
中央制御部154は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス156を通じて、I/F部150やデータ保持部152を制御する。また、本実施形態において、中央制御部154は、オフセット実行部160、視差導出部162、位置情報導出部164、代表距離導出部166、グループ化部168、特定物選択部170、オフセット量導出部172としても機能する。
オフセット実行部160は、後述するオフセット量導出部172が前回のフレームで導出したオフセット量に相当する画素数だけ、撮像装置110から取得した2の画像データに基づく画像における探索範囲のいずれか一方を、水平の視差が低減する方向にオフセットする。本実施形態では、2の画像データに基づく画像のうち、比較画像全体を、後述する特定物選択部170に選択された特定物(選択特定物)に合わせて画面左方向にオフセットする。例えば、上記の例では、左方向に64画素オフセットしている。
かかるオフセット実行部160によって、探索対象となる探索範囲214が維持されるので処理負荷を不要に増やすことなく、近距離の特定物も安定的に検出することが可能となる。
ここで、オフセット実行部160は、画像全体をオフセットしているが、選択特定物に相当する画像範囲のみ探索範囲(本実施形態では比較画像全体)をオフセットするとしてもよい。こうすることで、近距離に位置する選択特定物を適切に検出しつつ、その他の範囲の特定物を検出することができる。
ただし、オフセット量導出部172は、特定物の相対距離が予め定められた閾値未満となって(特定物が近距離に位置するようになって)初めて有意な(0以外の)オフセット量を導出するので、それまではオフセット量として0が採用される。したがって、オフセット実行部160は、特定物の相対距離が閾値未満となるまで、0だけオフセットする、即ち、実質的に比較画像のオフセットを行わない。
上述したように、特定物の相対距離が閾値未満になると、オフセット実行部160が比較画像をオフセットすることで、その特定物(選択特定物)を検出し続けることができる。しかし、自車両1の前方に唐突に出現した特定物については、車外環境認識装置120自体がその存在を認識していないので、オフセット量導出部172がオフセット量を導出することができず、オフセット実行部160もオフセットすることができない。即ち、自車両1の前方の特定物を検出できない。
そこで、オフセット実行部160は、選択特定物の相対距離に拘わらず、画像データに基づく画像の水平方向両端の予め定められた所定領域において、予め定められたオフセット量だけ探索範囲(本実施形態では比較画像全体)を固定的にオフセットする。
図9は、オフセット実行部160の処理について説明した説明図である。図9(a)に示すように、距離画像126において、中央の領域220には、オフセット量導出部172が前回のフレームで導出したオフセット量に応じて比較画像をオフセットした距離画像126が表示される。それと並行して、距離画像126の水平方向の両端の所定領域222では、予め定められたオフセット量(例えば、128画素)だけオフセットした場合の距離画像126が表示される。
このように距離画像126の水平方向の両端の所定領域222のみ128画素オフセットすることで、検出できる範囲は、図9(b)のようになり、所定領域222においては相対距離1.8m〜3.6mに位置する近距離の特定物を検出することが可能となる。したがって、自車両1の前方に特定物が唐突に出現した場合であっても、その特定物を検出して適切な処理を遂行することができる。
上記の構成において、水平方向左右の所定領域222のみ固定的なオフセットの対象としたのは、道路を走行する上で、地面に支持または固定される特定物が、画像上方や下方から唐突に出現することはなく、上下(鉛直)方向を考慮する必要がないからである。ここで、画像上方や下方からの出現が想定される場合、垂直方向の端部にも同様に所定領域222を設けてもよいし、以下のように時系列的に対処することもできる。
例えば、オフセット実行部160は、特定物である選択特定物の相対距離に拘わらず、予め定められた周期毎、例えば、60フレーム毎に1回、予め定められたオフセット量だけ探索範囲(本実施形態では比較画像全体)をオフセットしてもよい。こうして、画像における特定物の全方向からの唐突な出現に対応することができる。
視差導出部162は、オフセット実行部160によって一方(ここでは比較画像)がオフセットされた2の画像データを比較し、一方の画像データに基づく画像(基準画像)における、1または複数の画素からなる任意のブロック210と相関の高いブロック212を、他方の画像データに基づく画像(比較画像)における予め大きさが定められた探索範囲214から抽出する。そして、両ブロックの視差を求め、視差情報とする。
位置情報導出部164は、距離画像126における検出領域122内のブロック毎の視差情報を、上述したステレオ法を用いて、水平距離x、高さyおよび相対距離zを含む三次元の位置情報に変換する。ここで、視差情報が、距離画像126における各ブロックの視差を示すのに対し、三次元の位置情報は、実空間における各ブロックの相対距離の情報を示す。また、視差情報が画素単位ではなくブロック単位、即ち複数の画素単位で導出されている場合、その視差情報はブロックに属する全ての画素の視差情報とみなして、画素単位の計算を実行することができる。
図10は、位置情報導出部164による三次元の位置情報への変換を説明するための説明図である。位置情報導出部164は、まず、距離画像126を図10の如く画素単位の座標系として認識する。ここでは、図10中、左下隅を原点(0,0)とし、横方向をi座標軸、縦方向をj座標軸とする。したがって、視差を有する画素は、画素位置i、jと視差を示す視差情報dpとによって(i,j,dp)のように表すことができる。
本実施形態における実空間上の三次元座標系を、自車両1を中心とした相対座標系で考える。ここでは、自車両1の進行方向右側方をX軸の正方向、自車両1の上方をY軸の正方向、自車両1の進行方向(前方)をZ軸の正方向、2つの撮像装置110の中央を通る鉛直線と道路表面との交点を原点(0,0,0)とする。このとき、道路を平面と仮定すると、道路表面がX−Z平面(y=0)と一致することとなる。位置情報導出部164は、以下の(数式1)〜(数式3)によって距離画像126上のブロック(i,j,dp)を、実空間上の三次元の点(x,y,z)に座標変換する。
x=CD/2+z・PW・(i−IV) …(数式1)
y=CH+z・PW・(j−JV) …(数式2)
z=KS/dp …(数式3)
ここで、CDは撮像装置110同士の間隔(基線長)であり、PWは1画素当たりの視野角であり、CHは撮像装置110の道路表面からの配置高さであり、IV、JVは自車両1の真正面における無限遠点の画像上の座標(画素)であり、KSは距離係数(KS=CD/PW)である。ここで、オフセット実行部160によって有意なオフセット量のオフセットが実行された場合、即ち、オフセット量が0以外であれば、相対距離に相当するzにオフセット量を加算して、新たな相対距離とする。
また、位置情報導出部164は、ブロックの相対距離と、ブロックと同相対距離にある道路表面上の点とブロックとの距離画像126上の検出距離(例えば画素数)とに基づいて、道路表面からの高さを導出していることとなる。
ただし、位置情報導出部164は、オフセット実行部160によって有意なオフセット量のオフセットが実行された場合、選択特定物に相当する画像範囲以外の画像について相対距離の導出を制限する(実行しないもしくは所定の条件下でないと実行しない)。
図11は、位置情報導出部164の処理を説明するための説明図である。オフセットを施していない図11(a)の距離画像126では、選択特定物に相当する領域230の相対距離が不明確であったが、オフセットを施すことで図11(b)のように選択特定物に相当する領域230の相対距離が明確になった。しかし、オフセットを施すことにより、オフセットを施す前には相対距離が明確であった、視差がオフセット量以下となる遠距離の特定物に相当する領域232の相対距離が不明確となる。
そこで、位置情報導出部164は、相対距離を導出する際、画像をオフセットすることによって相対距離を正しくとることができないことが予め把握されている場合に、その領域232の相対距離を敢えて導出しないこととし、処理負荷の不要な増大を回避する。
また、このとき、位置情報導出部164は、選択特定物に相当する画像範囲以外の画像について、その中に含まれる特定物の前回のフレームにおける相対距離がオフセット量未満となる場合にのみ相対距離の導出を制限してもよい。
例えば、選択特定物に相当する画像範囲以外であっても、その中に含まれる特定物が比較的近距離に存在し、その視差がオフセット量以上であれば、オフセット量分オフセットされたとしても視差を正しく導出することができる。そこで、選択特定物に相当する画像範囲以外の画像について、特定物の相対距離がオフセット量未満となる場合には相対距離の導出を制限し、オフセット量以上となる場合には、そのまま相対距離の導出を行う。こうして、広い範囲で正しい相対距離を導出することが可能となる。
代表距離導出部166は、まず、距離画像126の検出領域122を、水平方向に対して複数の分割領域に分割する。続いて、代表距離導出部166は、道路表面より上方に位置するブロックを対象に、位置情報に基づいて分割領域毎に、複数に区分した所定距離それぞれに含まれる相対距離を積算してヒストグラムを生成する。そして、代表距離導出部166は、積算した距離分布のピークに相当する代表距離を導出する。ここで、ピークに相当するとは、ピーク値またはピーク近傍で任意の条件を満たす値をいう。
図12は、分割領域246と代表距離250とを説明するための説明図である。図10に示した距離画像126を水平方向に複数分割すると、分割領域246は図12(a)のような短冊形状になる。このような短冊形状の分割領域246は、本来、例えば、水平幅4画素のものが150列配列してなるが、ここでは、説明の便宜上、検出領域122を16等分したもので説明する。
続いて、代表距離導出部166は、各分割領域246において、全てのブロックの相対距離を参照し、ヒストグラム(図12(b)中、横長の四角(バー)で示す)を作成すると、図12(b)のような距離分布248が得られる。ここで、縦方向は、区分した所定距離を、横方向は、区分した所定距離それぞれに相対距離が含まれるブロックの個数を示している。ただし、図12(b)は計算を行う上での仮想的な画面であり、実際には視覚的な画面の生成を伴わない。そして、代表距離導出部166は、このようにして導出された距離分布248を参照し、ピークに相当する相対距離である代表距離(図6(b)中、黒で塗りつぶした四角で示す)250を特定する。
グループ化部168は、まず、隣接する分割領域246同士の代表距離250を順次比較し、代表距離250が近接する(例えば、1m以下に位置する)分割領域246をグループ化して1または複数の分割領域群を生成する。このとき、3以上の分割領域246で代表距離250が近接していた場合にも、連続する全ての分割領域246を分割領域群として纏める。
図13は、分割領域群252を説明するための説明図である。グループ化部168は、分割領域246同士を比較し、図13に示すように代表距離250をグループ化する(グループ化後の仮想的なグループ254)。かかるグループ化によって、グループ化部168は、道路表面より上方に位置する特定物を特定することができる。また、グループ化部168は、そのグループ化された分割領域群252中における水平方向および鉛直方向の相対距離の推移に基づいて、グループ254が、先行車両の後部、側部、またはガードレール等の道路に沿った構造物等のいずれであるかを認識することが可能となる。
続いて、グループ化部168は、自車両1との相対的な位置関係に応じ、先行車両等の特定物を特定し、その特定物の外縁に従って、画像の検出領域を1または複数の特定領域に分割する。
図14は、グループ化部168の処理を説明するための説明図である。特定領域は、外縁を収容する予め定められた様々な形状で表すことができるが、ここでは図14のように、四角形の枠256で表すこととする。具体的に、まず、グループ化部168は、グループ化部168が生成した分割領域群252内における、相対距離zが代表距離250に相当するブロックを基点として、そのブロックと、水平距離xの差分、高さyの差分および相対距離zの差分が予め定められた範囲(例えば0.1m)内にあるブロックとを、同一の特定物に対応すると仮定してグループ化する。上記の範囲は実空間上の距離で表され、製造者や搭乗者によって任意の値に設定することができる。また、グループ化部168は、グループ化により新たに追加されたブロックに関しても、そのブロックを基点として、水平距離xの差分、高さyの差分および相対距離zの差分が所定範囲内にあるブロックをさらにグループ化する。結果的に、同一の特定物と仮定可能なブロック全てがグループ化されることとなる。
また、ここでは、水平距離xの差分、高さyの差分および相対距離zの差分をそれぞれ独立して判定し、全てが所定範囲に含まれる場合のみ同一のグループとしているが、他の計算によることもできる。例えば、水平距離xの差分、高さyの差分および相対距離zの差分の二乗平均√((水平距離xの差分)+(高さyの差分)+(相対距離zの差分))が所定範囲に含まれる場合に同一のグループとしてもよい。かかる計算により、ブロック同士の実空間上の正確な距離を導出することができるので、グループ化精度を高めることができる。
続いて、グループ化部168は、グループ化したブロック群が予め定められた所定の条件を満たしていれば、そのブロック群を特定物として決定する。例えば、グループ化部168は、グループ化されたブロック群が道路上に位置する場合、そのブロック群全体の大きさが、特定物「車両」の大きさに相当するか否か判定し、特定物「車両」の大きさに相当すると判定されれば、そのブロック群を特定物「車両」と特定する。そして、グループ化部168は、特定物「車両」と特定されたブロック群が画面上占有する領域(枠256)を車両の特定領域とする。
特定物選択部170は、グループ化部168が特定した1または複数の特定物から追跡対象となる特定物(選択特定物)を選択する。そして、特定物選択部170は、選択した選択特定物を追跡する。本実施形態では、衝突の可能性が他と比較して高くなる、自車両1の前方に位置する車両(先行車両)を選択特定物としている。このような選択特定物の選択手段や追跡手段は既存の様々な手法を用いることができるので、ここでは、その詳細な説明を省略する。
オフセット量導出部172は、特定物選択部170によって選択された選択特定物の相対距離が閾値未満、例えば、4.9m未満になると、相対距離に応じて、探索範囲のオフセット量を導出する。
図15は、オフセット量導出部172の処理を説明するための説明図である。上述したように、パターンマッチングでは、比較画像において、探索範囲214のうち96画素付近に対応点を検出できるように、相対距離が4.9m未満になると、有意なオフセット量を導出し始める。かかるオフセット量は、選択特定物の次回のフレームにおける相対距離の予想値に相当する画素数から96画素を減算して求められる。例えば、次回のフレームにおける相対距離の予想値に相当する画素数を160画素とした場合、オフセット量は、160−96=64画素となる。したがって、選択特定物の相対距離とオフセット量との関係を示した図15のグラフでは、選択特定物の相対距離が4.9m(96画素に相当)以上である間は、オフセット量は0であり、選択特定物の相対距離が4.9m未満になると、その相対距離が短くなるに連れオフセット量が増加する。このように導出されたオフセット量は、次回のフレームにおいて、オフセット実行部160の処理に用いられる。
このように、選択特定物の相対距離が閾値未満となった場合に、その相対距離に応じてオフセット量を導出し、その分、オフセット実行部160が画像をオフセットすることで、処理負荷を不要に増やすことなく、近距離の特定物も安定的に検出することが可能となる。
また、選択特定物の次回のフレームにおける相対距離は、今回のフレームにおける相対距離をそのまま次回のフレームの予想値として用いることもできるが、選択特定物の挙動に応じ、次回のフレームにおける選択特定物の相対距離を予想し、その値を用いることもできる。
例えば、オフセット量導出部172は、撮像時が異なる2つの画像データ、例えば、前回のフレームと今回のフレームにおける画像データから選択特定物の相対速度を導出し、相対速度および選択特定物の今回のフレームにおける相対距離に基づいて、相対速度による選択特定物の変位を選択特定物の今回のフレームにおける相対距離に加算し、次回のフレームにおける探索範囲214のオフセット量を導出してもよい。
例えば、自車両1が40km/hで走行している場合において、先行車両が30km/hで走行しているとする。これは、相対速度10km/hで先行車両が自車両1に接近していることになり、1フレームあたり約46mm接近する換算となる。したがって、かかる相対速度による変位(46mm)を選択特定物の今回のフレームにおける相対距離に減算することで次回のフレームにおけるオフセット量を予測することができる。
こうして、選択特定物の次回のフレームにおける相対距離を高精度に予測することができ、かかる相対距離に基づくオフセット量で画像をオフセットすることで、選択特定物の次回のフレームにおける相対距離を閾値(ここでは96画素)の近傍に検出することが可能となる。
(車外環境認識方法)
以下、車外環境認識装置120の具体的な処理を図16〜図20のフローチャートに基づいて説明する。図16は、車外環境認識装置120から輝度画像124および距離画像126が送信されたときの割込処理に関する全体的な流れを示し、図17〜図20は、その中の個別のサブルーチンを示している。また、ここでは、処理の対象部位としてブロックまたは画素を挙げており、輝度画像124や距離画像126の左下隅を原点とし、ブロックでは、画像水平方向に1〜150ブロック、垂直方向に1〜50ブロックの範囲で、画素では、画像水平方向に1〜600画素、垂直方向に1〜200画素の範囲で当該車外環境認識方法による処理を遂行する。
当該車外環境認識方法による割込が発生すると、オフセット実行部160は、比較画像を、オフセット量導出部172が前回のフレームで導出したオフセット量に相当する画素数だけオフセットする(S300)。そして、視差導出部162は、2の画像データを比較し、基準画像における任意のブロックと相関の高いブロックを、比較画像における探索範囲214から抽出し、両ブロックの視差を求める(S302)。
続いて、位置情報導出部164は、検出領域122内のブロック毎の視差情報を三次元の位置情報に変換する(S304)。代表距離導出部166は、分割領域246毎の代表距離250を導出し(S306)、グループ化部168は、かかる代表距離250に基づいてブロックをグループ化する(S308)。
そして、特定物選択部170は、グループ化部168が特定した1または複数の特定物から追跡対象となる特定物(選択特定物)を選択して、その選択特定物を追跡する(S310)。オフセット量導出部172は、選択特定物の相対距離が閾値未満、例えば、4.9m未満になると、相対距離に基づき、図15で示したように探索範囲のオフセット量を導出する(S312)。以下、上記の処理を具体的に説明する。
(視差導出処理S302)
図17を参照すると、視差導出部162は、ブロックを特定するための垂直変数jを初期化(「0」を代入)する(S400)。続いて、視差導出部162は、垂直変数jに「1」を加算すると共に水平変数iを初期化(「0」を代入)する(S402)。次に、視差導出部162は、水平変数iに「1」を加算する(S404)。
視差導出部162は、基準画像のブロック(i,j)と1画素ずつ画面右方向にずらした比較画像のブロック(i,j)との相関値を導出する(S406)。かかる相関値の導出は、探索範囲214が完了するまで繰り返される(S408におけるNO)。探索範囲214が完了すると(S408におけるYES)、視差導出部162は、基準画像のブロック(i,j)との相関値が最も大きい比較画像のブロック(i,j)を抽出し、両ブロックの距離(視差)を示す視差情報dpを導出する(S410)。
続いて、視差導出部162は、水平変数iが水平ブロックの最大値である150を超えたか否か判定し(S412)、水平変数iが最大値を超えていなければ(S412におけるNO)、ステップS404からの処理を繰り返す。また、水平変数iが最大値を超えていれば(S412にけるYES)、視差導出部162は、垂直変数jが垂直ブロックの最大値である50を超えたか否か判定する(S414)。そして、垂直変数jが最大値を超えていなければ(S414におけるNO)、ステップS402からの処理を繰り返す。また、垂直変数jが最大値を超えていれば(S414におけるYES)、当該視差導出処理S302を終了する。こうして、距離画像126のブロック(i,j)は、視差情報dpが加わったブロック(i,j,dp)となる。
(位置情報導出処理S304)
図18を参照すると、位置情報導出部164は、ブロックを特定するための垂直変数jを初期化(「0」を代入)する(S450)。続いて、位置情報導出部164は、垂直変数jに「1」を加算すると共に水平変数iを初期化(「0」を代入)する(S452)。次に、位置情報導出部164は、水平変数iに「1」を加算する(S454)。
次に、位置情報導出部164は、オフセット量が0以外であり、かつ、ブロック(i,j,dp)が選択特定物に相当する画像範囲以外のブロックであるか否か判定する(S456)。オフセット量が0以外であり、かつ、ブロック(i,j,dp)が選択特定物に相当する画像範囲以外のブロックであれば(S456におけるYES)、座標変換処理を省略してステップS462に移行する。オフセット量が0、または、ブロック(i,j,dp)が選択特定物に相当する画像範囲内のブロックであれば(S456におけるNO)、位置情報導出部164は、距離画像126のブロック(i,j,dp)から視差情報dpを取得する(S458)。そして、位置情報導出部164は、視差情報dpを含むブロック(i,j,dp)を、上記数式1〜3を用い、実空間上の点(x,y,z)に座標変換して、ブロック(i,j,dp,x,y,z)とする(S460)。このとき、オフセット量が0以外であれば、相対距離zにオフセット量を加算して、新たな相対距離zとする。
続いて、位置情報導出部164は、水平変数iが水平ブロックの最大値である150を超えたか否か判定し(S462)、水平変数iが最大値を超えていなければ(S462におけるNO)、ステップS454からの処理を繰り返す。また、水平変数iが最大値を超えていれば(S462にけるYES)、位置情報導出部164は、垂直変数jが垂直ブロックの最大値である50を超えたか否か判定する(S464)。そして、垂直変数jが最大値を超えていなければ(S464におけるNO)、ステップS452からの処理を繰り返す。また、垂直変数jが最大値を超えていれば(S464におけるYES)、当該位置情報導出処理S304を終了する。こうして、距離画像126の視差情報dpが三次元の位置情報に変換される。
(代表距離導出処理S306)
図19を参照すると、代表距離導出部166は、道路形状パラメータを読み込み(S500)、検出領域122を、水平方向に対して例えば4画素単位で150個の分割領域246に分割する(S502)。次に、代表距離導出部166は、分割した150個の分割領域246から1の分割領域246を、例えば水平方向左側から順次抽出して、その分割領域246内に存在する任意のブロック(i,j,dp,x,y,z)を設定する(S504)。
代表距離導出部166は、ブロックの実空間上の座標zにおける道路表面の高さyrを算出し(S506)、ブロックの実空間上の座標yが道路表面の高さyr以上となるブロックであれば、所定距離間隔で区分したヒストグラムにその相対距離を積算(投票)する(S508)。ここで、ブロックの実空間上の座標yが道路表面の高さyr以上であったとしても、道路表面から高さ0.1m以下のブロックは、道路上の白線や汚れ、影等であるとみなして処理対象から除外する。また、自車両1の高さより上方に位置するブロックも、歩道橋や標識等であるとみなして処理対象から除外する。
代表距離導出部166は、抽出された1の分割領域246内のブロック全てに関し、当該ヒストグラムへの積算処理を遂行したか判定する(S510)。ここで、ブロック全てが完了していなければ(S510におけるNO)、ヒストグラムへの積算処理を遂行していないブロックに関してステップS504からの処理を繰り返す。
ブロック全てが完了していれば(S510におけるYES)、代表距離導出部166は、このようにして生成されたヒストグラムを参照し、ヒストグラムの度数(相対距離の個数)が閾値(適宜設定される)以上となる区間が存在したら当該分割領域246には特定物が存在すると判定する。そして、代表距離導出部166は、ピークに相当する相対距離を代表距離250とする(S512)。
そして、代表距離導出部166は、複数の分割領域246全てに関して、当該代表距離250の導出処理を遂行したか判定する(S514)。ここで、分割領域246全てが完了していると判定されなければ(S514におけるNO)、新たな分割領域246を設定し(S516)、新たな分割領域246に関してステップS504からの処理を繰り返す。一方、代表距離250の導出処理が全て完了していれば(S514におけるYES)、当該代表距離導出処理S306を終了する。
(グループ化処理S308)
図20を参照すると、グループ化部168は、複数の分割領域246から任意の分割領域246を、例えば水平方向左側から順次特定し、その任意の分割領域246の水平方向右側に隣接する分割領域246も特定する(S550)。そして、グループ化部168は、両分割領域246に代表距離250が存在するか否か判定する(S552)。ここで、両分割領域246に代表距離250が存在していなければ(S552におけるNO)、分割領域の完了判定ステップS558に処理を移す。一方、両分割領域246に代表距離250が存在していれば(S552におけるYES)、両分割領域246の代表距離250同士を比較する(S554)。
ここで、両代表距離250の差分が予め定められた閾値(同一の特定物とみなせる値)以下であれば、両代表距離250は近接しているとみなされ、グループ化部168は、分割領域246同士をグループ化して分割領域群252とする(S556)。このとき、一方の分割領域246が既に分割領域群252として設定されている場合、他方の分割領域246は、その分割領域群252に統合される。
そして、グループ化部168は、複数の分割領域246全てに関して、当該分割領域群252の設定処理S552、S554、S556を遂行したか判定する(S558)。ここで、全てが完了していなければ(S558におけるNO)、新たな分割領域246を設定し(S560)、新たな分割領域246に関してステップS550からの処理を繰り返す。一方、分割領域群252の設定処理が全て完了していれば(S558におけるYES)、次のステップS562に移行する。
続いて、グループ化部168は、グループ化された複数の分割領域群252から1の分割領域群252を、例えば水平方向左側から順次抽出して、その分割領域群252内に存在する任意のブロック(i,j,dp,x,y,z)を設定する(S562)。
グループ化部168は、設定されたブロック(i,j,dp,x,y,z)と、分割領域群252内における、相対距離zが代表距離250に相当するブロックとを比較し、水平距離xの差分、高さyの差分および相対距離zの差分が予め定められた範囲(例えば0.1m)内にあるか否か判定する(S564)。予め定められた範囲内にある場合(S564におけるYES)、そのブロックを、同一の特定物に対応すると仮定してグループ化する(S566)。予め定められた範囲内にない場合(S564におけるNO)、ブロックの完了判定ステップS568に処理を移す。
グループ化部168は、抽出された1の分割領域群252内のブロック全てに関し、当該グループ化処理を遂行したか判定する(S568)。ここで、ブロック全てのグループ化処理が完了していなければ(S568におけるNO)、グループ化処理を遂行していないブロックに関してステップS562からの処理を繰り返す。
ブロック全てのグループ化処理が完了していれば(S568におけるYES)、グループ化部168は、グループ化したブロック群全体の大きさが、特定物「車両」の大きさに相当するか否か判定する(S570)。特定物「車両」の大きさに相当すると判定すれば(S570におけるYES)、そのブロック群を特定物「車両」と特定する(S572)。特定物「車両」の大きさに相当すると判定しなければ(S570におけるNO)、分割領域群252の完了判定ステップS574に処理を移す。
そして、グループ化部168は、複数の分割領域群252全てに関して、当該特定物特定処理S570、S572を遂行したか判定する(S574)。ここで、分割領域群252全てが完了していると判定されなければ(S574におけるNO)、新たな分割領域群252を設定し(S576)、新たな分割領域群252に関してステップS562からの処理を繰り返す。一方、特定物特定処理S570、S572が全て完了していれば(S574におけるYES)、当該グループ化処理S308を終了する。
上記グループ化においては、さらに、複数のグループに対して相互の位置関係が判定される。例えば、同種類の特定物のグループ間で、端点の位置が接近し、かつ、特定物中における水平方向および鉛直方向の相対距離の推移がほぼ等しい(連続する)場合には、同一特定物の同一の面であると判断されて、それらのグループが一つのグループに統合される。このとき特定物中における水平方向および鉛直方向の相対距離の推移は、ハフ変換あるいは最小二乗法による近似直線によって特定することができる。また、先行車両であれば、z座標に対する相対移動速度が等しいことによっても複数のグループを一つのグループに統合することができる。
また、ここまでの処理がブロック単位で行われている場合、そのブロック内全ての画素に同一の情報を設定することで、画素単位の処理を行うことが可能となる。
以上、説明したような、車外環境認識装置120や車外環境認識方法によれば、画像をオフセットすることによって生じうる不要な処理負荷を回避し、処理時間を一定に維持しつつ、遠距離の特定物も近距離の特定物も安定的に検出することが可能となる。
また、コンピュータを、車外環境認識装置120として機能させるプログラムや当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
例えば、上述した実施形態においては、撮像装置110がモノクロ画像を取得することを前提としているが、かかる場合に限られず、3つの色相(R(赤)、G(緑)、B(青))からなるカラー画像を取得することでも本実施形態を遂行することができる。
また、上述した実施形態においては、オフセット実行部160、視差導出部162、位置情報導出部164、代表距離導出部166、グループ化部168、特定物選択部170、オフセット量導出部172は中央制御部154によってソフトウェアで動作するように構成している。しかし、上記の機能部をハードウェアによって構成することも可能である。
なお、本明細書の車外環境認識方法の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。
本発明は、自車両外の環境を認識する車外環境認識装置に利用することができる。
1 …自車両
110 …撮像装置
120 …車外環境認識装置
122 …検出領域
124 …輝度画像
126 …距離画像
160 …オフセット実行部
162 …視差導出部
164 …位置情報導出部
166 …代表距離導出部
168 …グループ化部
170 …特定物選択部
172 …オフセット量導出部

Claims (6)

  1. 撮像軸が同一面上で位置を異にする2の撮像部で生成された2の画像データを取得する画像データ取得部と、
    前記2の画像データを比較し、一方の画像データに基づく画像における、1または複数の画素からなる任意のブロックと相関の高いブロックを、他方の画像データに基づく画像における予め大きさが定められた探索範囲から抽出し、両ブロックの視差を求める視差導出部と、
    前記視差から前記ブロックの相対距離を導出する位置情報導出部と、
    前記相対距離の差分が所定範囲に含まれるブロックをグループ化し、1または複数の特定物を特定するグループ化部と、
    前記1または複数の特定物から追跡対象となる特定物を選択する特定物選択部と、
    選択された前記特定物である選択特定物の相対距離が予め定められた閾値未満になると、前記相対距離に応じて、前記探索範囲をオフセットするためのオフセット量を導出するオフセット量導出部と、
    前記2の画像データのいずれか一方に基づく探索範囲を前記オフセット量だけオフセットするオフセット実行部と、
    を備え、
    前記位置情報導出部は、前記オフセット量が0以外であれば、前記選択特定物に相当する画像範囲以外の画像について相対距離の導出を制限することを特徴とする車外環境認識装置。
  2. 前記オフセット実行部は、前記選択特定物の相対距離に拘わらず、前記画像データに基づく画像の水平方向両端の予め定められた領域において、予め定められたオフセット量だけオフセットすることを特徴とする請求項1に記載の車外環境認識装置。
  3. 前記オフセット実行部は、前記特定物である選択特定物の相対距離に拘わらず、予め定められた周期毎に、予め定められたオフセット量だけ前記探索範囲をオフセットすることを特徴とする請求項1または2に記載の車外環境認識装置。
  4. 前記オフセット実行部は、前記画像データに基づく画像のうち前記選択特定物に相当する画像範囲のみ前記探索範囲をオフセットすることを特徴とする請求項1から3のいずれか1項に記載の車外環境認識装置。
  5. 前記オフセット量導出部は、撮像時が異なる前記2の画像データから前記選択特定物の相対速度を導出し、該相対速度および前記選択特定物の相対距離に基づいて前記オフセット量を導出することを特徴とする請求項1から4のいずれか1項に記載の車外環境認識装置。
  6. 前記位置情報導出部は、前記選択特定物に相当する画像範囲以外の画像について、特定物の相対距離が前記オフセット量未満となる場合にのみ相対距離の導出を制限することを特徴とする請求項1から5のいずれか1項に記載の車外環境認識装置。
JP2012042272A 2012-02-28 2012-02-28 車外環境認識装置 Active JP5612621B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2012042272A JP5612621B2 (ja) 2012-02-28 2012-02-28 車外環境認識装置
US13/771,049 US8923560B2 (en) 2012-02-28 2013-02-19 Exterior environment recognition device
DE102013101821.1A DE102013101821B4 (de) 2012-02-28 2013-02-25 Außenumgebungserkennungsvorrichtung
CN201310058934.6A CN103294991B (zh) 2012-02-28 2013-02-25 车外环境识别装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012042272A JP5612621B2 (ja) 2012-02-28 2012-02-28 車外環境認識装置

Publications (2)

Publication Number Publication Date
JP2013178664A true JP2013178664A (ja) 2013-09-09
JP5612621B2 JP5612621B2 (ja) 2014-10-22

Family

ID=48950927

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012042272A Active JP5612621B2 (ja) 2012-02-28 2012-02-28 車外環境認識装置

Country Status (4)

Country Link
US (1) US8923560B2 (ja)
JP (1) JP5612621B2 (ja)
CN (1) CN103294991B (ja)
DE (1) DE102013101821B4 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015075800A (ja) * 2013-10-07 2015-04-20 日立オートモティブシステムズ株式会社 物体検出装置及びそれを用いた車両
JP2015179499A (ja) * 2014-02-28 2015-10-08 株式会社リコー 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
JP2016009427A (ja) * 2014-06-26 2016-01-18 株式会社リコー 画像処理装置、画像処理方法、機器制御システム
JP2016191988A (ja) * 2015-03-30 2016-11-10 富士重工業株式会社 車外環境認識装置
JPWO2017145605A1 (ja) * 2016-02-22 2018-12-13 株式会社リコー 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2940656B1 (en) * 2012-12-25 2024-01-31 Honda Motor Co., Ltd. Vehicle periphery monitoring device
JP6194604B2 (ja) * 2013-03-15 2017-09-13 株式会社リコー 認識装置、車両及びコンピュータが実行可能なプログラム
US9721161B2 (en) * 2013-08-14 2017-08-01 Infineon Technologies Ag Dynamic adjustment of imaging parameters
JP5955291B2 (ja) * 2013-09-30 2016-07-20 富士重工業株式会社 フィルタリング装置および環境認識システム
JP2016158186A (ja) * 2015-02-26 2016-09-01 カシオ計算機株式会社 撮像装置、撮像方法、撮像プログラム
EP3316006B1 (en) * 2015-06-23 2020-12-09 KYOCERA Corporation Three-dimensional-object detection device, stereo camera device, vehicle, and three-dimensional-object detection method
JP6975945B2 (ja) * 2016-02-24 2021-12-01 パナソニックIpマネジメント株式会社 判定装置、判定方法、プログラムおよびプログラムを記録した記録媒体
JP6599835B2 (ja) * 2016-09-23 2019-10-30 日立建機株式会社 鉱山用作業機械、障害物判別装置、及び障害物判別方法
US10261515B2 (en) * 2017-01-24 2019-04-16 Wipro Limited System and method for controlling navigation of a vehicle
JP2018136803A (ja) * 2017-02-23 2018-08-30 株式会社日立製作所 画像認識システム
JP6856452B2 (ja) * 2017-06-14 2021-04-07 トヨタ自動車株式会社 物標判定装置及び運転支援システム
JP6920159B2 (ja) * 2017-09-29 2021-08-18 株式会社デンソー 車両の周辺監視装置と周辺監視方法
JP6629897B2 (ja) * 2018-02-26 2020-01-15 本田技研工業株式会社 車両制御装置
JP6731020B2 (ja) * 2018-09-03 2020-07-29 株式会社Subaru 車外環境認識装置および車外環境認識方法
JP7431623B2 (ja) * 2020-03-11 2024-02-15 株式会社Subaru 車外環境認識装置
CN117152144B (zh) * 2023-10-30 2024-01-30 潍坊华潍新材料科技有限公司 基于图像处理的导辊监测方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11351862A (ja) * 1998-06-09 1999-12-24 Yazaki Corp 前方車両検出方法及び装置
JP3349060B2 (ja) * 1997-04-04 2002-11-20 富士重工業株式会社 車外監視装置
JP2009146217A (ja) * 2007-12-14 2009-07-02 Hitachi Ltd ステレオカメラ装置
JP2011013064A (ja) * 2009-07-01 2011-01-20 Nikon Corp 位置検出装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10117339A (ja) 1996-10-11 1998-05-06 Yazaki Corp 車両周辺監視装置、障害物検出方法、及び障害物検出プログラムを記憶した媒体
US20050058350A1 (en) * 2003-09-15 2005-03-17 Lockheed Martin Corporation System and method for object identification
US7627170B2 (en) * 2005-10-11 2009-12-01 Northrop Grumman Corporation Process for the identification of objects
JP2008039491A (ja) 2006-08-02 2008-02-21 Fuji Heavy Ind Ltd ステレオ画像処理装置
JP2009047498A (ja) * 2007-08-17 2009-03-05 Fujifilm Corp 立体撮像装置および立体撮像装置の制御方法並びにプログラム
JP4631096B2 (ja) * 2008-10-20 2011-02-16 本田技研工業株式会社 車両周辺監視装置
JP4733756B2 (ja) * 2009-04-28 2011-07-27 本田技研工業株式会社 車両周辺監視装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3349060B2 (ja) * 1997-04-04 2002-11-20 富士重工業株式会社 車外監視装置
JPH11351862A (ja) * 1998-06-09 1999-12-24 Yazaki Corp 前方車両検出方法及び装置
JP2009146217A (ja) * 2007-12-14 2009-07-02 Hitachi Ltd ステレオカメラ装置
JP2011013064A (ja) * 2009-07-01 2011-01-20 Nikon Corp 位置検出装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015075800A (ja) * 2013-10-07 2015-04-20 日立オートモティブシステムズ株式会社 物体検出装置及びそれを用いた車両
JP2015179499A (ja) * 2014-02-28 2015-10-08 株式会社リコー 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
JP2016009427A (ja) * 2014-06-26 2016-01-18 株式会社リコー 画像処理装置、画像処理方法、機器制御システム
JP2016191988A (ja) * 2015-03-30 2016-11-10 富士重工業株式会社 車外環境認識装置
JPWO2017145605A1 (ja) * 2016-02-22 2018-12-13 株式会社リコー 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム

Also Published As

Publication number Publication date
CN103294991B (zh) 2016-10-19
US20130223689A1 (en) 2013-08-29
JP5612621B2 (ja) 2014-10-22
DE102013101821A1 (de) 2013-08-29
CN103294991A (zh) 2013-09-11
DE102013101821B4 (de) 2015-07-02
US8923560B2 (en) 2014-12-30

Similar Documents

Publication Publication Date Title
JP5612621B2 (ja) 車外環境認識装置
JP5592308B2 (ja) 環境認識装置
JP6202367B2 (ja) 画像処理装置、距離測定装置、移動体機器制御システム、移動体及び画像処理用プログラム
JP5499011B2 (ja) 車外環境認識装置および車外環境認識方法
JP5580233B2 (ja) 車外監視装置および車外監視方法
JP6156400B2 (ja) 走行路面検出装置及び走行路面検出方法
JP2013109720A (ja) 車外環境認識装置および車外環境認識方法
JP6384082B2 (ja) 移動物体検出装置、移動物体検出方法、及びプログラム
JP5537491B2 (ja) 環境認識装置
US20150262365A1 (en) Image processing device and image processing method
JP4901275B2 (ja) 走行誘導障害物検出装置および車両用制御装置
JP2012226689A (ja) 環境認識装置および環境認識方法
JP6741646B2 (ja) 車外環境認識装置
EP3080549A1 (en) Disparity value deriving device, movable apparatus, robot, disparity value producing method, and computer program
JP2012168592A (ja) 環境認識装置
JP2012243051A (ja) 環境認識装置および環境認識方法
JP2008158640A (ja) 移動物体検出装置
JP5711638B2 (ja) 画像処理装置
JP2016206801A (ja) 物体検出装置、移動体機器制御システム及び物体検出用プログラム
JP5922947B2 (ja) 車外環境認識装置および車外環境認識方法
JP2012252501A (ja) 走行路認識装置及び走行路認識用プログラム
JP6591188B2 (ja) 車外環境認識装置
JP6564218B2 (ja) 車外環境認識装置
JP7229032B2 (ja) 車外物体検出装置
JP5950193B2 (ja) 視差値演算装置及びこれを備えた視差値演算システム、移動面領域認識システム、視差値演算方法、並びに、視差値演算用プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140411

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140812

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140904

R150 Certificate of patent or registration of utility model

Ref document number: 5612621

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250