JP2019114149A - 車外環境認識装置 - Google Patents

車外環境認識装置 Download PDF

Info

Publication number
JP2019114149A
JP2019114149A JP2017248483A JP2017248483A JP2019114149A JP 2019114149 A JP2019114149 A JP 2019114149A JP 2017248483 A JP2017248483 A JP 2017248483A JP 2017248483 A JP2017248483 A JP 2017248483A JP 2019114149 A JP2019114149 A JP 2019114149A
Authority
JP
Japan
Prior art keywords
road surface
surface area
horizontal
identification unit
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017248483A
Other languages
English (en)
Other versions
JP6741646B2 (ja
Inventor
淑実 大久保
Toshimi Okubo
淑実 大久保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Subaru Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Subaru Corp filed Critical Subaru Corp
Priority to JP2017248483A priority Critical patent/JP6741646B2/ja
Priority to CN201811206845.0A priority patent/CN109960999A/zh
Priority to US16/191,125 priority patent/US10803605B2/en
Priority to DE102018129388.7A priority patent/DE102018129388A1/de
Publication of JP2019114149A publication Critical patent/JP2019114149A/ja
Application granted granted Critical
Publication of JP6741646B2 publication Critical patent/JP6741646B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/251Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30236Traffic on road, railway or crossing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)

Abstract

【課題】路面を適切に特定する。【解決手段】車外環境認識装置は、コンピュータが、画像中の路面に相当する第1路面領域を特定し、第1路面領域における水平ライン毎の代表距離を、その垂直位置にプロットして第1路面モデル216を生成する第1路面特定部と、第1路面領域よりさらに遠方における路面に相当し、かつ、三次元空間に置換したときの水平方向の長さが第1路面領域より長い第2路面領域を特定し、第2路面領域における水平ライン毎の代表距離を、その垂直位置にプロットして第2路面モデル228を生成する第2路面特定部、として機能している。【選択図】図10

Description

本発明は、自車両の進行方向に存在する特定物を特定する車外環境認識装置に関する。
従来、自車両の前方に位置する車両等の立体物を検出し、先行車両との衝突を回避したり(衝突回避制御)、先行車両との車間距離を安全な距離に保つように制御する(クルーズコントロール)技術が知られている(例えば、特許文献1)。
特許第3349060号公報
自車両の進行方向に存在する立体物としては、同方向に走行する先行車両や、進行路を自車両横方向に横断する歩行者等がある。このような立体物の抽出条件の1つとして、路面より鉛直上方に高さを有することが挙げられる。
しかし、かかる立体物の抽出条件は、路面を適切に特定できていることが前提であり、路面が適切に特定できていないと、勾配のある道路自体を立体物と判定したり、本来存在するはずの立体物を抽出できなかったりすることとなる。特に、遠方の道路では、その画像(視差)が路面を示している信頼度が低くなり、路面を特定するのが困難であった。
本発明は、このような課題に鑑み、路面を適切に特定可能な車外環境認識装置を提供することを目的としている。
上記課題を解決するために、本発明の車外環境認識装置は、コンピュータが、画像中の路面に相当する第1路面領域を特定し、第1路面領域における水平ライン毎の代表距離を、その垂直位置にプロットして第1路面モデルを生成する第1路面特定部と、第1路面領域よりさらに遠方における路面に相当し、かつ、三次元空間に置換したときの水平方向の長さが第1路面領域より長い第2路面領域を特定し、第2路面領域における水平ライン毎の代表距離を、その垂直位置にプロットして第2路面モデルを生成する第2路面特定部、として機能している。
第2路面特定部は、複数の画素からなるブロックの相対距離を垂直方向上方に向かって抽出し、抽出したブロックの三次元空間における高さの変化量が所定の閾値以上になるところまで第2路面領域としてもよい。
コンピュータが、第1路面領域および第2路面領域における水平ラインにおける水平位置毎の相対距離に基づいて水平方向の勾配を特定する水平勾配特定部として機能してもよい。
本発明によれば、路面を適切に特定することが可能となる。
車外環境認識システムの接続関係を示したブロック図である。 輝度画像と距離画像を説明するための説明図である。 車外環境認識装置の概略的な機能を示した機能ブロック図である。 車外環境認識処理の流れを示すフローチャートである。 第1路面領域の特定処理を説明するための説明図である。 ヒストグラムを説明するための説明図である。 第1路面モデルを説明するための説明図である。 第2路面領域の特定処理を説明するための説明図である。 ヒストグラムを説明するための説明図である。 第2路面モデルを説明するための説明図である。 水平勾配を説明するための説明図である。 立体物特定部の立体物を特定する処理を説明するための説明図である。
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書および図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
(車外環境認識システム100)
図1は、車外環境認識システム100の接続関係を示したブロック図である。車外環境認識システム100は、撮像装置110と、車外環境認識装置120と、車両制御装置(ECU:Engine Control Unit)130とを含んで構成される。
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、自車両1の前方の車外環境を撮像し、少なくとも輝度の情報が含まれる輝度画像(カラー画像やモノクロ画像)を生成することができる。また、撮像装置110は、自車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、自車両1の前方の検出領域に存在する立体物を撮像した輝度画像を、例えば1/60秒のフレーム毎(60fps)に連続して生成する。ここで、撮像装置110によって認識する立体物は、自転車、歩行者、車両、信号機、道路標識、ガードレール、建物といった独立して存在する物のみならず、自転車の車輪等、その一部として特定できる物も含む。
また、車外環境認識装置120は、2つの撮像装置110それぞれから輝度画像を取得し、一方の輝度画像から任意に抽出したブロック(例えば、水平4画素×垂直4画素の配列)に対応するブロックを他方の輝度画像から検索する、所謂パターンマッチングを用いて、視差、および、任意のブロックの画像内の位置を示す画像位置を含む視差情報を導出する。ここで、水平は、撮像した画像の画像横方向を示し、垂直は、撮像した画像の画像縦方向を示す。このパターンマッチングとしては、一対の画像間において、任意のブロック単位で輝度(Y)を比較することが考えられる。例えば、輝度の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。車外環境認識装置120は、このようなブロック単位の視差導出処理を検出領域(例えば、600画素×200画素)に映し出されている全てのブロックについて行う。ここでは、ブロックを4画素×4画素としているが、ブロック内の画素数は任意に設定することができる。
ただし、車外環境認識装置120では、検出分解能単位であるブロック毎に視差を導出することはできるが、そのブロックがどのような立体物の一部であるかを認識できない。したがって、視差情報は、立体物単位ではなく、検出領域における検出分解能単位(例えばブロック単位)で独立して導出されることとなる。ここでは、このようにして導出された視差情報を対応付けた画像を、上述した輝度画像と区別して距離画像という。
図2は、輝度画像126と距離画像128を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域124について図2(a)のような輝度画像126が生成されたとする。ただし、ここでは、理解を容易にするため、2つの輝度画像126の一方のみを模式的に示している。車外環境認識装置120は、このような輝度画像126からブロック毎の視差を求め、図2(b)のような距離画像128を形成する。距離画像128における各ブロックには、そのブロックの視差が関連付けられている。ここでは、説明の便宜上、視差が導出されたブロックを黒のドットで表している。
また、車外環境認識装置120は、輝度画像126に基づく輝度値(カラー値)、および、距離画像128に基づいて算出された、自車両1との相対距離を含む実空間における三次元空間の位置情報を用いて、まず路面を特定し、特定した路面上に位置し、カラー値が等しく三次元の位置情報が近いブロック同士を立体物としてグループ化して、自車両1の前方の検出領域における立体物がいずれの特定物(例えば、先行車両や自転車)に対応するかを特定する。また、車外環境認識装置120は、このように立体物を特定すると、立体物との衝突を回避したり(衝突回避制御)、先行車両との車間距離を安全な距離に保つように自車両1を制御する(クルーズコントロール)。なお、上記相対距離は、距離画像128におけるブロック毎の視差情報を、所謂ステレオ法を用いて三次元の位置情報に変換することで求められる。ここで、ステレオ法は、三角測量法を用いることで、立体物の視差からその立体物の撮像装置110に対する相対距離を導出する方法である。
車両制御装置130は、ステアリングホイール132、アクセルペダル134、ブレーキペダル136を通じて運転手の操作入力を受け付け、操舵機構142、駆動機構144、制動機構146に伝達することで自車両1を制御する。また、車両制御装置130は、車外環境認識装置120の指示に従い、操舵機構142、駆動機構144、制動機構146を制御する。
上述したように、車外環境認識システム100では、カラー値が等しく三次元の位置情報が近いブロック同士を、路面より鉛直上方に高さを有することを条件にグループ化して立体物としている。ただし、このように立体物を適切に抽出するためには、まず、路面を適切に特定しなければならない。例えば、路面が適切に特定できていないと、勾配のある道路自体を路面より鉛直上方に突出する立体物と判定したり、下り坂に本来存在するはずの立体物を、路面より鉛直下方に位置すると判定して抽出できないこととなる。特に、遠方の道路では、その画像(視差)が路面を示している信頼度が低くなり、路面を特定するのが困難であった。そこで、本実施形態では、路面を適切に特定することを目的とする。
以下、このような目的を実現するための車外環境認識装置120の構成について詳述する。ここでは、本実施形態に特徴的な、自車両1の前方の検出領域における路面の特定処理について詳細に説明し、本実施形態の特徴と無関係の構成については説明を省略する。
(車外環境認識装置120)
図3は、車外環境認識装置120の概略的な機能を示した機能ブロック図である。図3に示すように、車外環境認識装置120は、I/F部150と、データ保持部152と、中央制御部154とを含んで構成される。
I/F部150は、撮像装置110、および、車両制御装置130との双方向の情報交換を行うためのインターフェースである。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、以下に示す各機能部の処理に必要な様々な情報を保持する。
中央制御部154は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス156を通じて、I/F部150、データ保持部152等を制御する。また、本実施形態において、中央制御部154は、第1路面特定部160、第2路面特定部162、水平勾配特定部164、立体物特定部166としても機能する。以下、本実施形態に特徴的な路面を特定する車外環境認識処理について、当該中央制御部154の各機能部の動作も踏まえて詳述する。
(車外環境認識処理)
図4は、車外環境認識処理の流れを示すフローチャートである。車外環境認識処理では、第1路面特定部160により、画像中の路面に相当する第1路面領域を特定し、第1路面モデルを生成する第1路面特定処理(S200)が実行され、第2路面特定部162により、第1路面領域よりさらに遠方における路面に相当する第2路面領域を特定し、第2路面モデルを生成する第2路面特定処理(S202)が実行され、水平勾配特定部164により、第1路面領域および第2路面領域における水平ライン毎の相対距離に基づいて水平方向の勾配を特定する水平勾配特定処理(S204)が実行され、立体物特定部166により、少なくとも第1路面モデルおよび第2路面モデルに基づいて画像中の立体物を特定する立体物特定処理(S206)が実行される。
(第1路面特定処理S200)
まず、第1路面特定部160は、輝度画像126や距離画像128における近距離側の路面に相当する第1路面領域を特定する。
ここで、第1路面領域を特定する方法としては、現在の舵角、旋回角速度(ヨーレート)および速度で自車両1が将来進行するであろう予想進行路に基づき、例えば、自車両1の前方に延在する予想進行路を示す曲線から水平方向に±2.5m内の領域を第1路面領域とすることが考えられる。
しかし、予想進行路を示す曲線は、運転手の操舵により変化し易く、また、実際に自車両1が進行した軌跡との誤差が大きい場合がある。そうすると、遠方まで適切に第1路面領域を特定することができない。そこで、本実施形態では、路面における自車両1が走行しているレーン左右の車線(白線等)に基づいて第1路面領域を特定する。ただし、このように、路面の車線のみから第1路面領域を特定する場合に限らず、これに加え、予想進行路に基づいても第1路面領域を特定し、両者を補間し合うことで第1路面領域の特定精度を高めるとしてもよい。
図5は、第1路面領域の特定処理を説明するための説明図である。路面には車両が円滑に走行するための車線が記されている。例えば、図5(a)の例では、輝度画像126上の道路200において、2本のレーン202a、202bが存在し、これに伴い、幅方向の中央に1本、両端にそれぞれ1本の計3本の車線210a、210b、210cが含まれている。
ここで、第1路面特定部160は、図5(b)のように、自車両1が走行しているレーン202aを形成する車線210a、210bのうちで最も左に位置する車線210aの左端よりさらに所定距離(例えば10cm)左に、破線で示した仮想の左限界線212aを設定する。また、第1路面特定部160は、同様に、自車両1が走行しているレーン202aを形成する車線210a、210bのうちで最も右に位置する車線210bの右端よりさらに所定距離(例えば10cm)右に、破線で示した仮想の右限界線212bを設定する。そして、第1路面特定部160は、左限界線212aより右、かつ、右限界線212bより左の領域、すなわち、左限界線212aと右限界線212bとの水平方向の間のハッチングした領域を第1路面領域214として設定する。
続いて、第1路面特定部160は、距離画像128における第1路面領域214から相対距離を有する(パターンマッチングによって相対距離が得られた)ブロックを全て抽出し、第1路面モデルを生成する。以下、第1路面モデルの生成態様を説明する。
図6は、ヒストグラムを説明するための説明図であり、図7は、第1路面モデルを説明するための説明図である。第1路面特定部160は、まず、第1路面領域214の水平方向の水平ラインについて相対距離のヒストグラムを生成する。具体的に、第1路面領域214において、垂直方向の任意のブロックと垂直位置(画像上の垂直方向の位置)を等しくするブロック、すなわち、図6(a)にクロスハッチで示した水平ラインにおける全てのブロックの相対距離を投票する。こうして、図6(b)のように、任意の垂直位置に関するヒストグラムが生成される。
そして、第1路面特定部160は、ヒストグラムで投票数が最大数となる、図6(b)においてハッチングで示した相対距離を、その垂直位置の代表距離とする。このような処理を、第1路面領域214において、垂直位置を変えて繰り返す。そうすると、第1路面領域214の複数の垂直位置それぞれに対して代表距離が求まる。
第1路面モデルは、縦軸が垂直位置、横軸が距離画像128の相対距離で表される。第1路面特定部160は、垂直位置(水平ライン)毎の代表距離を、その垂直位置にプロットする。そうすると、図7(a)のような点群を得る。第1路面特定部160は、最小二乗法等により、図7(a)において実線で示したように、点群の近似直線を導出し、第1路面モデル216とする。こうして、路面の変化態様、例えば、道路の勾配を把握することができる。なお、ここでは説明の便宜上、近似直線を導出する例を挙げて説明するが、複数次の近似曲線を導出してもよい。
ただし、単純に最小二乗法等により近似直線を導出すると、例えば、第1路面領域214内において、間違ってパターンマッチングされてしまった、実際の相対距離とは異なるノイズ的な代表距離(ノイズ代表距離)が含まれる場合がある。そのような本来除外すべきノイズ代表距離が含まれている状態で近似直線を導出すると、ノイズ代表距離の影響を受けて、図7(a)のように、近似直線が本来の位置や傾きからずれるおそれがある。そうすると、勾配のある道路自体を立体物と判定したり、本来存在するはずの立体物を抽出できなくなってしまう。
そこで、本実施形態では、直線に関するハフ(Hough)変換を用い、同一の直線を形成する、または、同一ではないが近距離(所定の相対距離内)の平行直線を形成する代表距離のみを残し、それ以外の、例えば、図7(a)において破線で囲んだ代表距離をノイズ代表距離として除外する。そして、第1路面特定部160は、残った代表距離のみを対象として、最小二乗法等により、かかる点群の近似直線を導出する。こうして、図7(b)のように、本来の代表距離によって適切に近似された第1路面モデル216が導出される。なお、直線に関するハフ変換は、複数の点を共通して通る直線を導出する既存の技術なので、ここでは、その説明を省略する。
また、ここでは、路面の変化態様を近似直線で表しているが、検出領域内の道路が必ずしも同一の態様で変化しているとは限らない。例えば、道路の勾配が大きく変化する場合もある。この場合、上述したようにハフ変換を施すと、勾配が変化した後の路面に対応する代表距離が、ほとんどノイズ代表距離として除外されてしまう。
そこで、本実施形態では、ハフ変換で除外された代表距離が所定数以上あり、かつ、その点群が連続性を有する場合、その点群のみで新たに近似直線を導出する。このとき、その近似直線に関してさらにノイズ代表距離を除外できるのは言うまでもない。こうして、図7(c)のように、2本の近似直線が連続する第1路面モデル216が導出される。
なお、導出された2つの近似直線の交点は所定の角度をもって交差するとしてもよいし、所定のRを有する緩和曲線を通じて接続されるとしてもよい。また、ここでは、近似直線を2本生成する例を挙げて説明したが、道路の変化が多い場合、3本以上生成してもよい。
こうして生成された、例えば、図7(b)の第1路面モデル216を参照すると、第1路面領域214内の垂直位置が下方に移行するほど相対距離が近く(視差が大きく)なり、垂直位置が上方に移行するほど相対距離が遠く(視差が小さく)なることが理解できる。
次に、第1路面特定部160は、第1路面領域214の垂直方向に延伸する水平方向の中心線を導出する。例えば、第1路面領域214における垂直方向の任意のブロックと垂直位置を等しくするブロック、すなわち、図6(a)にクロスハッチで示した、水平方向のブロックの左端と右端の中央位置を中央ブロックとする。そして、第1路面特定部160は、かかる処理を、垂直位置を変えて繰り返す。そうすると、第1路面領域214の複数の垂直位置それぞれに対して中央ブロックが求まる。かかる中央ブロックを結ぶことで垂直方向の中心線218が導出される。
また、上述したように、第1路面領域214内のブロックにはノイズ代表距離に相当するブロックが含まれる。そうすると、中心線218が、除外すべきブロックの影響を受けて本来の位置や傾きからずれるおそれがある。そこで、上述したハフ変換により除外したブロックを除いて中央ブロックおよび中心線218を導出するとしてもよい。
(第2路面特定処理S202)
第1路面特定処理S200によって、路面の比較的手前側の第1路面モデル216および中心線218が導出される。しかし、遠方の道路では、その画像(視差)が路面を示している信頼度が低くなるので、左限界線212aと右限界線212bとの水平方向の間の相対距離を抽出するだけでは路面を適切に特定するのが困難となる。したがって、図7(b)に破線で示したように、所定の垂直位置までしか第1路面モデル216を特定できない。
そこで、第2路面特定部162は、第1路面特定部160と異なるロジックを採用して、輝度画像126や距離画像128における第1路面領域214より遠方の第2路面領域を特定する。
図8は、第2路面領域の特定処理を説明するための説明図である。第1路面特定処理S200によって、路面の比較的手前側の第1路面モデル216および中心線218が導出されるが、いずれも手前側の第1路面領域214の範囲である。したがって、図8(a)に実線で示した水平ライン220から遠方における路面の変化態様は不明である。
ここで、水平ライン220より手前に相当する路面の変化態様を利用して、その変化態様が遠方まで継続しているとみなし、例えば、図7(b)の第1路面モデル216の近似直線を延長して、その路面を基準に立体物を特定することが考えられる。しかし、この場合も、やはり、遠方の勾配のある道路自体を立体物と判定したり、本来存在するはずの遠方の立体物を抽出できない場合が生じ得る。
そこで、第2路面特定部162は、まず、水平ライン220上で第2路面領域の開始線を拡張する。例えば、第2路面特定部162は、水平ライン220において、第1路面特定部160が導出した中心線218との交点222を中心に、三次元空間に置換したときの水平方向の長さが第1路面領域214より長い±所定距離(例えば5m)の範囲を新たな第2路面領域の開始線として設定する。
ただし、明らかに道路とは関係のないブロックまで第2路面領域とする必要はないので、水平ライン220上において立体物を検知した場合、その立体物の内側を第2路面領域の開始線として設定する。すなわち、第2路面特定部162は、水平ライン220を、交点222を中心に左に移動し、5mまでに壁等の立体物を何ら検出しなければ、5mを左端とし、立体物を検出すると、その直前までを左端とする。同様に、第2路面特定部162は、水平ライン220を、交点222を中心に右に移動し、5mまでに壁等の立体物を何ら検出しなければ、5mを右端とし、立体物を検出すると、その直前までを右端とする。こうして、例えば、図8(b)のように第2路面領域の開始線224が設定される。したがって、第2路面領域の三次元空間に置換したときの水平方向の長さは、第1路面領域214より長くなる。
次に、第2路面特定部162は、第2路面領域の開始線224から、垂直方向上方に向かってブロックの相対距離を抽出する。具体的に、開始線224上で水平方向の任意のブロックと水平方向の位置を等しくするブロック、すなわち、図8(b)にクロスハッチで示した、垂直方向に延伸するブロックの相対距離を、垂直方向上方(遠方)に向かって抽出する。そして、抽出したブロックの三次元空間における高さの変化量、すなわち、高さを連続させた場合の線分の微分値が所定の閾値以上になると、その点で道路が終了しているとして、ブロックの抽出を停止し、かかるブロックを第2路面領域の境界とする。
このような処理を、水平位置(画像上の水平方向の位置)を変えて繰り返す。そうすると、図8(c)のように、第2路面領域の開始線から垂直方向上方に向かってブロック群が形成される。ここでは、このハッチングで示した範囲を第2路面領域226とする。
続いて、第2路面特定部162は、このように抽出された第2路面領域226に含まれるブロック群のみに対して、第2路面モデルを生成する。
図9は、ヒストグラムを説明するための説明図であり、図10は、第2路面モデルを説明するための説明図である。第2路面特定部162は、まず、第2路面領域226の水平方向に相対距離のヒストグラムを生成する。具体的に、第2路面領域226において、垂直方向の任意のブロックと垂直位置を等しくするブロック、すなわち、図9(a)にクロスハッチで示した、水平ラインにおける全てのブロックの相対距離を投票する。こうして、図9(b)のように、任意の垂直位置に関するヒストグラムが生成される。
そして、第2路面特定部162は、ヒストグラムで投票数が最大数となる、図9(b)においてハッチングで示した相対距離を、その垂直位置の代表距離とする。このような処理を、第2路面領域226において、垂直位置を変えて繰り返す。そうすると、第2路面領域226の複数の垂直位置それぞれに対して代表距離が求まる。
第2路面モデルは、第1路面モデル216同様、縦軸が垂直位置、横軸が距離画像128の相対距離で表される。第2路面特定部162は、垂直位置(水平ライン)毎の代表距離を、その垂直位置にプロットする。このとき、第2路面モデルを図7(b)に示した第1路面モデル216に重ねて表してもよい。そうすると、図10のような、所定の垂直位置より遠方に点群を得る。第2路面特定部162は、最小二乗法等により、図10において実線で示したように、点群の近似直線を導出し、第2路面モデル228とする。こうして、第1路面モデル216同様、第2路面領域226における路面の変化態様、例えば、道路の勾配を把握することができる。
このとき、第1路面特定処理S200同様、直線に関するハフ変換を用い、同一の直線を形成する、または、同一ではないが近距離(所定の相対距離内)の平行直線を形成する代表距離のみを残し、それ以外の、例えば、図10において破線で囲んだ代表距離をノイズ代表距離として除外する。そして、第2路面特定部162は、残った代表距離のみを対象として、最小二乗法等により、かかる点群の近似直線を導出する。
また、ハフ変換で除外された代表距離が所定数以上あり、かつ、その点群が連続性を有する場合、その点群のみで新たに近似直線を導出してもよい。このとき、その近似直線に関してさらにノイズ代表距離を除外できるのは言うまでもない。
ここでは、遠方の第2路面モデル228を形成する上で、第2路面領域226を幅方向に広げ、立体物より手前の道路とみなせる範囲のブロック全てを対象としているので、遠方であるにも拘わらず、図10のように、路面の変化態様を高精度に取得することが可能となる。
また、第1路面特定処理S200では、直接、水平方向のヒストグラムを導出しているが、第2路面特定処理S202では垂直方向に高さの変化量が所定の閾値以上となるところまでブロックを抽出し、適切な第2路面領域226を導出しているので、特定精度をさらに高めることが可能となる。
また、ここでは、第1路面モデル216と第2路面モデル228とを独立して求めているが、本来、第1路面領域214と第2路面領域226とは連続しているはずなので、その連続性を踏まえ、第1路面モデル216と連続するように、第2路面領域226における第2路面モデル228を導出してもよい。
(水平勾配特定処理S204)
以上の処理により、第1路面モデル216および第2路面モデル228といった奥行き方向の勾配が高精度で特定できるようになる。しかし、ここでは、道路の奥行き方向の勾配は求まるものの、道路の水平方向の勾配は把握できない(均等であると仮定されている)。したがって、水平方向にも勾配が存在する場合、高い路面を立体物と認識したり、低い立体物を検出できない場合がある。
そこで、水平勾配特定部164は、第1路面領域214および第2路面領域226における水平位置(水平ライン)毎の相対距離に基づいて水平方向の勾配を特定する。
図11は、水平勾配を説明するための説明図である。第1路面領域214および第2路面領域226において、垂直方向の任意のブロックと垂直位置を等しくするブロック、すなわち、図11(a)にクロスハッチで示した、垂直位置(水平ライン)における全ての相対距離を抽出する。
そして、抽出した相対距離を、その水平位置にプロットする。そうすると、図11(b)のような点群を得る。水平勾配特定部164は、最小二乗法等により、図11(b)において実線で示したように、点群の近似直線を導出し水平勾配230とする。こうして、路面の変化態様、例えば、道路の勾配を把握することができる。なお、ここでは説明の便宜上、近似直線を導出する例を挙げて説明するが、複数次の近似曲線を導出してもよい。
また、水平勾配特定部164は、第1路面モデル216および第2路面モデル228の垂直位置毎に水平勾配230を求めることで、水平方向と奥行き方向の平面の勾配(路面距離マップ)を生成することもできる。
(立体物特定処理S206)
立体物特定部166は、このような第1路面モデル216および第2路面モデル228、もしくは、さらに水平勾配230を加えた路面距離マップに基づいて、路面の鉛直上方に高さを有する立体物を特定する。
図12は、立体物特定部166の立体物を特定する処理を説明するための説明図である。図12では、任意のタイミングにおける第1路面領域214の第1路面モデル216および第2路面領域226の第2路面モデル228のいずれもが直線で示され、画像全体における相対距離を有するブロックが、その相対距離および垂直位置に点で示されている。
立体物特定部166は、ブロック毎の相対距離と第1路面モデル216および第2路面モデル228とを比較することで、そのブロックが立体物に相当するか否か判定する。具体的に、立体物特定部166は、第1路面モデル216および第2路面モデル228から高さが±所定距離(例えば30cm)の範囲である、図12中破線で上下限を示した路面範囲240より内側に位置するブロックは、路面に相当すると判定する。
一方、立体物特定部166は、路面範囲240より外側(特に上側)に位置するブロックは、路面から高さ方向に突出しているので立体物の候補とする。そして、立体物特定部166は、路面の鉛直上方に高さを有する立体物の候補とされた複数のブロックの相対距離が等しいと、図12中、楕円242で囲んだようにグループ化し、立体物として特定する。このような立体物となった点群の立体物らしさ(形状、大きさ等)の判定や、立体物がいずれの特定物であるかの判定については、既存の様々な技術を利用できるので、ここでは、その詳細な説明を省略する。
以上、説明したように、路面を適切に特定することで、その鉛直上方に高さを有する立体物も適切に特定することができる。
また、コンピュータを車外環境認識装置120として機能させるプログラムや、当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
なお、本明細書の車外環境認識処理の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。
本発明は、自車両の進行方向に存在する特定物を特定する車外環境認識装置に利用することができる。
1 自車両
126 輝度画像
128 距離画像
160 第1路面特定部
162 第2路面特定部
164 水平勾配特定部
166 立体物特定部
200 道路
214 第1路面領域
216 第1路面モデル
226 第2路面領域
228 第2路面モデル
230 水平勾配

Claims (3)

  1. コンピュータが、
    画像中の路面に相当する第1路面領域を特定し、前記第1路面領域における水平ライン毎の代表距離を、その垂直位置にプロットして第1路面モデルを生成する第1路面特定部と、
    前記第1路面領域よりさらに遠方における路面に相当し、かつ、三次元空間に置換したときの水平方向の長さが前記第1路面領域より長い第2路面領域を特定し、前記第2路面領域における水平ライン毎の代表距離を、その垂直位置にプロットして第2路面モデルを生成する第2路面特定部、
    として機能する車外環境認識装置。
  2. 前記第2路面特定部は、複数の画素からなるブロックの相対距離を垂直方向上方に向かって抽出し、抽出したブロックの三次元空間における高さの変化量が所定の閾値以上になるところまで前記第2路面領域とする請求項1に記載の車外環境認識装置。
  3. 前記コンピュータが、
    前記第1路面領域および前記第2路面領域における水平ラインにおける水平位置毎の相対距離に基づいて水平方向の勾配を特定する水平勾配特定部として機能する請求項1または2に記載の車外環境認識装置。
JP2017248483A 2017-12-25 2017-12-25 車外環境認識装置 Active JP6741646B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017248483A JP6741646B2 (ja) 2017-12-25 2017-12-25 車外環境認識装置
CN201811206845.0A CN109960999A (zh) 2017-12-25 2018-10-17 车外环境识别装置
US16/191,125 US10803605B2 (en) 2017-12-25 2018-11-14 Vehicle exterior environment recognition apparatus
DE102018129388.7A DE102018129388A1 (de) 2017-12-25 2018-11-22 Erkennungsvorrichtung für die äussere umgebung von fahrzeugen

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017248483A JP6741646B2 (ja) 2017-12-25 2017-12-25 車外環境認識装置

Publications (2)

Publication Number Publication Date
JP2019114149A true JP2019114149A (ja) 2019-07-11
JP6741646B2 JP6741646B2 (ja) 2020-08-19

Family

ID=66768657

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017248483A Active JP6741646B2 (ja) 2017-12-25 2017-12-25 車外環境認識装置

Country Status (4)

Country Link
US (1) US10803605B2 (ja)
JP (1) JP6741646B2 (ja)
CN (1) CN109960999A (ja)
DE (1) DE102018129388A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021177136A (ja) * 2020-05-07 2021-11-11 株式会社トヨタマップマスター 情報処理装置、情報処理方法及び情報処理プログラム
JP2021177135A (ja) * 2020-05-07 2021-11-11 株式会社トヨタマップマスター 情報処理装置、情報処理方法及び情報処理プログラム
WO2023281647A1 (ja) * 2021-07-07 2023-01-12 株式会社Subaru 機械学習装置

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105069842A (zh) * 2015-08-03 2015-11-18 百度在线网络技术(北京)有限公司 道路三维模型的建模方法和装置
CN109760688B (zh) * 2018-12-29 2020-07-28 百度在线网络技术(北京)有限公司 路段信息确定方法、装置、车辆及计算机可读存储介质
US11816902B2 (en) * 2020-08-26 2023-11-14 Subaru Corporation Vehicle external environment recognition apparatus

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011128844A (ja) * 2009-12-17 2011-06-30 Fuji Heavy Ind Ltd 路面形状認識装置
US20140071240A1 (en) * 2012-09-11 2014-03-13 Automotive Research & Testing Center Free space detection system and method for a vehicle using stereo vision
CN103837139A (zh) * 2012-11-23 2014-06-04 株式会社日立制作所 不平路面驾驶辅助设备和用于不平路面驾驶辅助的方法
CN104166834A (zh) * 2013-05-20 2014-11-26 株式会社理光 路面检测方法和装置
JP2014225220A (ja) * 2013-02-18 2014-12-04 株式会社リコー 移動面情報検出装置、及びこれを用いた移動体機器制御システム並びに移動面情報検出用プログラム
JP2015149028A (ja) * 2014-02-07 2015-08-20 トヨタ自動車株式会社 区画線検出システム及び区画線検出方法
JP2016062356A (ja) * 2014-09-18 2016-04-25 トヨタ自動車株式会社 立体物検出装置
JP2016206776A (ja) * 2015-04-17 2016-12-08 トヨタ自動車株式会社 路面検出装置
JP2017083326A (ja) * 2015-10-29 2017-05-18 株式会社リコー 画像処理装置、撮像装置、機器制御システム、頻度分布画像生成方法、及びプログラム
JP2017207874A (ja) * 2016-05-17 2017-11-24 株式会社リコー 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5904725A (en) * 1995-04-25 1999-05-18 Matsushita Electric Industrial Co., Ltd. Local positioning apparatus
JP3349060B2 (ja) 1997-04-04 2002-11-20 富士重工業株式会社 車外監視装置
JP6654999B2 (ja) * 2016-12-12 2020-02-26 株式会社Soken 物標検出装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011128844A (ja) * 2009-12-17 2011-06-30 Fuji Heavy Ind Ltd 路面形状認識装置
US20140071240A1 (en) * 2012-09-11 2014-03-13 Automotive Research & Testing Center Free space detection system and method for a vehicle using stereo vision
CN103837139A (zh) * 2012-11-23 2014-06-04 株式会社日立制作所 不平路面驾驶辅助设备和用于不平路面驾驶辅助的方法
JP2014225220A (ja) * 2013-02-18 2014-12-04 株式会社リコー 移動面情報検出装置、及びこれを用いた移動体機器制御システム並びに移動面情報検出用プログラム
CN104166834A (zh) * 2013-05-20 2014-11-26 株式会社理光 路面检测方法和装置
JP2015149028A (ja) * 2014-02-07 2015-08-20 トヨタ自動車株式会社 区画線検出システム及び区画線検出方法
JP2016062356A (ja) * 2014-09-18 2016-04-25 トヨタ自動車株式会社 立体物検出装置
JP2016206776A (ja) * 2015-04-17 2016-12-08 トヨタ自動車株式会社 路面検出装置
JP2017083326A (ja) * 2015-10-29 2017-05-18 株式会社リコー 画像処理装置、撮像装置、機器制御システム、頻度分布画像生成方法、及びプログラム
JP2017207874A (ja) * 2016-05-17 2017-11-24 株式会社リコー 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021177136A (ja) * 2020-05-07 2021-11-11 株式会社トヨタマップマスター 情報処理装置、情報処理方法及び情報処理プログラム
JP2021177135A (ja) * 2020-05-07 2021-11-11 株式会社トヨタマップマスター 情報処理装置、情報処理方法及び情報処理プログラム
JP7417465B2 (ja) 2020-05-07 2024-01-18 株式会社トヨタマップマスター 情報処理装置、情報処理方法及び情報処理プログラム
JP7417466B2 (ja) 2020-05-07 2024-01-18 株式会社トヨタマップマスター 情報処理装置、情報処理方法及び情報処理プログラム
WO2023281647A1 (ja) * 2021-07-07 2023-01-12 株式会社Subaru 機械学習装置

Also Published As

Publication number Publication date
CN109960999A (zh) 2019-07-02
JP6741646B2 (ja) 2020-08-19
US10803605B2 (en) 2020-10-13
US20190197704A1 (en) 2019-06-27
DE102018129388A1 (de) 2019-06-27

Similar Documents

Publication Publication Date Title
JP6741646B2 (ja) 車外環境認識装置
CN102774341B (zh) 环境识别装置及环境识别方法
JP5537492B2 (ja) 環境認識装置
US8989439B2 (en) Environment recognition device and environment recognition method
JP6457278B2 (ja) 物体検出装置及び物体検出方法
JP6156400B2 (ja) 走行路面検出装置及び走行路面検出方法
JP2012243051A (ja) 環境認識装置および環境認識方法
JP6564218B2 (ja) 車外環境認識装置
US11295544B2 (en) Vehicle exterior environment recognition apparatus
JP6591188B2 (ja) 車外環境認識装置
JP6660367B2 (ja) 車外環境認識装置
JP6514736B2 (ja) 車外環境認識装置
JP6683245B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、物体認識装置及び機器制御システム
JP6378594B2 (ja) 車外環境認識装置
KR101461316B1 (ko) 듀얼 카메라를 포함하는 무인차의 컬러 마커 기반 무인 운전 시스템 및 그 방법
JP2019028528A (ja) 車外環境認識装置
JP2022040651A (ja) 車外環境認識装置
JP6731020B2 (ja) 車外環境認識装置および車外環境認識方法
JP7336367B2 (ja) 車外環境認識装置
JP5890816B2 (ja) フィルタリング装置および環境認識システム
JP6273156B2 (ja) 歩行者認識装置
JP2022061539A (ja) 車外環境認識装置
JP2023051408A (ja) 運転支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181102

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191021

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200630

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200727

R150 Certificate of patent or registration of utility model

Ref document number: 6741646

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250