JP2015069381A - 車外環境認識装置 - Google Patents

車外環境認識装置 Download PDF

Info

Publication number
JP2015069381A
JP2015069381A JP2013202629A JP2013202629A JP2015069381A JP 2015069381 A JP2015069381 A JP 2015069381A JP 2013202629 A JP2013202629 A JP 2013202629A JP 2013202629 A JP2013202629 A JP 2013202629A JP 2015069381 A JP2015069381 A JP 2015069381A
Authority
JP
Japan
Prior art keywords
edge
average
edge strength
environment recognition
recognition device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013202629A
Other languages
English (en)
Other versions
JP5906224B2 (ja
Inventor
誠佑 笠置
Nobusuke Kasagi
誠佑 笠置
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Heavy Industries Ltd filed Critical Fuji Heavy Industries Ltd
Priority to JP2013202629A priority Critical patent/JP5906224B2/ja
Priority to US14/477,352 priority patent/US9349070B2/en
Priority to DE102014112820.6A priority patent/DE102014112820A1/de
Priority to CN201410483197.9A priority patent/CN104512333B/zh
Publication of JP2015069381A publication Critical patent/JP2015069381A/ja
Application granted granted Critical
Publication of JP5906224B2 publication Critical patent/JP5906224B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mechanical Engineering (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】水蒸気や排気ガス等の浮遊物を精度よく検出する。【解決手段】車外環境認識装置120は、検出領域を撮像した画像における複数の対象部位の実空間における3次元位置を導出する3次元位置導出部162と、3次元位置の差分が所定範囲内にある対象部位同士をグループ化して対象物を特定する対象物特定部164と、対象物を含む領域を水平方向に分割して複数の分割領域を設定し、当該分割領域毎に、分割領域内の各画素の輝度値に基づいて、エッジ強度の平均値であるエッジ平均を導出するエッジ強度導出部168と、エッジ平均と予め定められた閾値とを比較し、エッジ平均が閾値未満の場合、当該対象物は浮遊物らしいものとして特定する浮遊物特定部170と、を備える。【選択図】図2

Description

本発明は、検出領域に存在する対象物がいずれの特定物に対応するかを特定する車外環境認識装置に関する。
従来、自車両の前方に位置する車両等の特定物を検出し、先行車両との衝突を回避したり(衝突回避制御)、先行車両との車間距離を安全な距離に保つように制御する(クルーズコントロール)技術が知られている(例えば、特許文献1、2)。
ところで、特に寒冷地や標高が高い場所等では、道路上方に水蒸気の塊が浮遊していたり、先行車両の排気管から白い排気ガスが排出され、すぐには拡散せずに滞留することがある。上述したような車両の制御技術では、水蒸気や排気ガス等の浮遊物を車両や歩行者等の特定物と誤判断し、これらを回避するための停止や減速の制御が作動するおそれがある。
そこで、検出した物体の各部分の距離の平均値に対するばらつき(分散)量を算出し、ばらつき量が閾値を超えると、その検出した物体は、水蒸気や排気ガス等接触してもよい浮遊物であると判断する技術が公開されている(例えば、特許文献3)。また、検出領域内の対象部位を相対距離に基づいて対象物としてグループ化し、対象物の輝度のヒストグラムに対する輝度の平均値、分散値、歪度、または尖度のいずれか1または複数の特徴量に基づいて対象物が白色の浮遊物であるか否か判断する技術も開示されている(例えば、特許文献4)。
特許第3349060号公報 特開2010−224925号公報 特開2009−110168号公報 特開2012−243049号公報
しかし、例えば、無風状態において、水蒸気や排気ガス等の浮遊物が道路上に滞留(停滞)する場合がある。この場合、浮遊物の各部分の距離のばらつきが小さくなるので、特許文献3の技術では浮遊物と特定物とを区別するのは難しい。また、浮遊物が取り得る距離の分布のパターンは多岐に渡るため、ばらつきだけでは、浮遊物に特徴的な距離の分布を的確に捉えることができず、浮遊物の検出精度は比較的低い値となる。
また、例えば、浮遊物に信号機の発光色や街灯が反射し、浮遊物が色合いを帯びている場合に、特許文献4のように白色を判定する技術のみでは、浮遊物の検出精度が高まらない場合があった。
本発明は、このような課題に鑑み、水蒸気や排気ガス等の浮遊物を精度よく検出することが可能な、車外環境認識装置を提供することを目的としている。
上記課題を解決するために、本発明の車外環境認識装置は、検出領域を撮像した画像における複数の対象部位の実空間における3次元位置を導出する3次元位置導出部と、3次元位置の差分が所定範囲内にある対象部位同士をグループ化して対象物を特定する対象物特定部と、対象物を含む領域を水平方向に分割して複数の分割領域を設定し、当該分割領域毎に、分割領域内の各画素の輝度値に基づいて、エッジ強度の平均値であるエッジ平均を導出するエッジ強度導出部と、エッジ平均と予め定められた閾値とを比較し、エッジ平均が閾値未満の場合、当該対象物は浮遊物らしいものとして特定する浮遊物特定部と、を備えることを特徴とする。
エッジ強度導出部は、分割領域内に設定された所定の複数の判定部位内の各画素の輝度値に基づいてエッジ平均を導出するものであって、所定の複数の判定部位は、水平方向に所定数連続した状態で、対象物の水平方向端部側に偏り、かつ、垂直方向に均等に離隔しているとしてもよい。
判定部位は画素であり、エッジ強度導出部は、判定部位に対応する画素と、判定部位から水平方向に連なる左右2画素とを対象としたラプラシアンフィルタを用いてエッジ強度を導出してもよい。
エッジ強度導出部は、フレーム単位でエッジ平均を導出し、時間的に連続する3フレーム分のエッジ平均のうちメディアンフィルタを用いた中央値をエッジ平均とみなしてもよい。
本発明によれば、水蒸気や排気ガス等の浮遊物を精度よく検出することが可能となる。
環境認識システムの接続関係を示したブロック図である。 車外環境認識装置の概略的な機能を示した機能ブロック図である。 輝度画像と距離画像を説明するための説明図である。 判定部位を説明するための説明図である。 エッジ強度導出部の動作を説明するための説明図である。 閾値を説明するための説明図である。 車外環境認識方法の全体的な処理の流れを示したフローチャートである。 車外環境認識方法の全体的な処理の流れを示したフローチャートである。 車外環境認識方法の全体的な処理の流れを示したフローチャートである。
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書および図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
近年では、車両に搭載した車載カメラによって自車両の前方の道路環境を撮像し、画像内における色情報や位置情報に基づいて先行車両等の対象物を特定し、特定された対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ(ACC:Adaptive Cruise Control)、所謂衝突防止機能を搭載した車両が普及しつつある。しかし、画像を用いて単純に特定物を特定したとすると、道路上に滞留する水蒸気や排気ガス等の浮遊物を、車両や歩行者といった特定物と誤認識する場合も生じ得る。
ここで、浮遊物特有の距離のばらつきや白さに基づいて浮遊物を特定することも考えられるが、無風状態で距離のばらつきが小さかったり、浮遊物に信号機の発光色や街灯が反射して白色ではなくなっている場合には、その特定精度が高まらない場合がある。そこで、本実施形態では、浮遊物において、その色合いが単調にしか変化せず、すなわち模様が少なく、エッジの強度(輝度差分値)が通常の特定物に対して比較的低くなることに着目し、エッジ強度に応じて浮遊物を検出することを目的としている。以下、このような目的を達成するための環境認識システムを説明し、その具体的な構成要素である車外環境認識装置を詳述する。
(環境認識システム100)
図1は、環境認識システム100の接続関係を示したブロック図である。環境認識システム100は、自車両1内に設けられた、撮像装置110と、車外環境認識装置120と、車両制御装置(ECU:Engine Control Unit)130とを含んで構成される。
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、自車両1の前方に相当する環境を撮像し、3つの色相(R(赤)、G(緑)、B(青))からなるカラー画像やモノクロ画像を生成することができる。ここでは、撮像装置110で撮像されたカラー画像を輝度画像として採用し、後述する距離画像と区別する。
また、撮像装置110は、自車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、自車両1の前方の検出領域に存在する対象物を撮像した画像データを、例えば1/60秒のフレーム毎(60fps)に連続して生成する。ここで、認識する対象物は、車両、歩行者、信号機、道路(進行路)、ガードレール、建物といった独立して存在する立体物のみならず、テールランプやウィンカー、信号機の各点灯部分等、立体物の一部として特定できる物も含む。以下の実施形態における各機能部は、このような画像データの更新を契機としてフレーム毎に各処理を遂行する。
車外環境認識装置120は、2つの撮像装置110それぞれから画像データを取得し、所謂パターンマッチングを用いて視差を導き出し、導出された視差情報(後述する奥行距離に相当)を画像データに対応付けて距離画像を生成する。輝度画像および距離画像については後ほど詳述する。また、車外環境認識装置120は、輝度画像に基づく輝度、および、距離画像に基づく自車両1との奥行距離を用いて自車両1前方の検出領域における対象物がいずれの特定物に対応するかを特定する。
車外環境認識装置120は、特定物を特定すると、その特定物(例えば、先行車両)を追跡しつつ、特定物と自車両1とが衝突する可能性が高いか否かの判定を行う。ここで、衝突の可能性が高いと判定した場合、車外環境認識装置120は、その旨、運転者の前方に設置されたディスプレイ122を通じて運転者に警告表示(報知)を行うとともに、車両制御装置130に対して、その旨を示す情報を出力する。
車両制御装置130は、ステアリングホイール132、アクセルペダル134、ブレーキペダル136を通じて運転者の操作入力を受け付け、操舵機構142、駆動機構144、制動機構146に伝達することで自車両1を制御する。また、車両制御装置130は、車外環境認識装置120の指示に従い、駆動機構、制動機構を制御する。
以下、車外環境認識装置120に構成について詳述する。ここでは、本実施形態に特徴的な、対象物を浮遊物と特定する手順について詳細に説明し、本実施形態の特徴と無関係の構成については説明を省略する。
(車外環境認識装置120)
図2は、車外環境認識装置120の概略的な機能を示した機能ブロック図である。図2に示すように、車外環境認識装置120は、I/F部150と、データ保持部152と、中央制御部154とを含んで構成される。
I/F部150は、撮像装置110や車両制御装置130との双方向の情報交換を行うためのインターフェースである。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、以下に示す各機能部の処理に必要な様々な情報を保持し、また、撮像装置110から受信した画像データを一時的に保持する。
中央制御部154は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス156を通じて、I/F部150、データ保持部152等を制御する。また、本実施形態において、中央制御部154は、画像処理部160、3次元位置導出部162、対象物特定部164、判定部位決定部166、エッジ強度導出部168、浮遊物特定部170としても機能する。以下、このような機能部について大凡の目的を踏まえ、画像処理、対象物特定処理、浮遊物特定処理といった順に詳細な動作を説明する。
(画像処理)
画像処理部160は、2つの撮像装置110それぞれから画像データを取得し、一方の画像データから任意に抽出したブロック(例えば水平4画素×垂直4画素の配列)に対応するブロックを他方の画像データから検索する、所謂パターンマッチングを用いて視差を導き出す。ここで、「水平」は画面横方向を示し、「垂直」は画面縦方向を示す。
このパターンマッチングとしては、2つの画像データ間において、任意の画像位置を示すブロック単位で輝度(Y色差信号)を比較することが考えられる。例えば、輝度の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。画像処理部160は、このようなブロック単位の視差導出処理を検出領域(例えば水平600画素×垂直180画素)に映し出されている全てのブロックについて行う。ここでは、ブロックを水平4画素×垂直4画素としているが、ブロック内の画素数は任意に設定することができる。
ただし、画像処理部160では、検出分解能単位であるブロック毎に視差を導出することはできるが、そのブロックがどのような対象物の一部であるかを認識できない。したがって、視差情報は、対象物単位ではなく、検出領域における検出分解能単位(例えばブロック単位)で独立して導出されることとなる。ここでは、このようにして導出された視差情報(後述する奥行距離に相当)を画像データに対応付けた画像を距離画像という。
図3は、輝度画像210と距離画像212を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域214について図3(a)のような輝度画像(画像データ)210が生成されたとする。ただし、ここでは、理解を容易にするため、撮像装置110それぞれが生成した2つの輝度画像210の一方のみを模式的に示している。本実施形態において、画像処理部160は、このような輝度画像210からブロック毎の視差を求め、図3(b)のような距離画像212を形成する。距離画像212における各ブロックには、そのブロックの視差が関連付けられている。ここでは、説明の便宜上、視差が導出されたブロックを黒のドットで表している。
図2に戻って説明すると、3次元位置導出部162は、画像処理部160で生成された距離画像212に基づいて検出領域214内のブロック毎の視差情報を、所謂ステレオ法を用いて、水平距離、高さおよび奥行距離を含む実空間における3次元の位置情報に変換する。ここで、ステレオ法は、三角測量法を用いることで、対象部位の距離画像212における視差からその対象部位の撮像装置110に対する奥行距離を導出する方法である。このとき、3次元位置導出部162は、対象部位の奥行距離と、対象部位と同奥行距離にある道路表面上の点と対象部位との距離画像212上の検出距離とに基づいて、対象部位の道路表面からの高さを導出する。そして、導出された3次元位置情報を改めて距離画像212に対応付ける。かかる奥行距離の導出処理や3次元位置の特定処理は、様々な公知技術を適用できるので、ここでは、その説明を省略する。
(対象物特定処理)
対象物特定部164は、距離画像212に基づく3次元の位置情報を用いて検出領域214における対象部位(画素やブロック)同士をグループ化して対象物を特定する。具体的に、対象物特定部164は、任意の対象部位を基点として、その対象部位と、水平距離の差分、高さの差分、および、奥行距離の差分が予め定められた所定範囲内にある他の対象部位をグループ化し、その対象部位も一体的な対象物とする。ここで、所定範囲は実空間上の距離で表され、任意の値(例えば、1.0m等)に設定することができる。また、対象物特定部164は、グループ化により新たに追加された対象部位に関しても、その対象部位を基点として、水平距離の差分、高さの差分、および、奥行距離の差分が所定範囲内にある他の対象部位をグループ化する。結果的に、距離が所定範囲内であれば、それら全ての対象部位が対象物としてグループ化されることとなる。
(浮遊物特定処理)
続いて、対象物におけるエッジ強度が導出され、その結果に基づいて対象物が浮遊物であるか否か判定される。
判定部位決定部166は、浮遊物であるか否かを判定する対象物に対して、さらに、エッジ強度の判定対象となる部位(以下、判定部位という。)を決定する。
図4は、判定部位を説明するための説明図である。判定部位決定部166は、まず、図4(a)のように、対象物の水平方向および垂直方向の端点を含む長方形220で対象物を囲い、水平方向に均等に3分割した領域(画面左から順に分割領域222a、222b、222cとする。)を設定する。以後の処理は、このような分割領域222a、222b、222c毎に行われる。
判定部位決定部166は、図4(b)に示すように、分割領域222a、222b、222c毎に複数(ここでは25個)の短冊224を設定する。短冊224は、水平方向に延長され、垂直方向に略均等に離隔して配される。かかる短冊224の水平方向の長さは例えば25画素であり、垂直方向の長さは例えば1画素である。ここで、垂直方向に略均等としたのは、対象物の垂直方向の画素数によっては、短冊224を均等に離隔させることで画素に端数がでるからである。例えば、分割領域222a、222b、222cの垂直方向の長さが25+24×n(nは整数)であれば、短冊224同士を垂直方向にn画素空けることで均等に配することができるが、それ以外であれば、短冊224同士の間隔が等しくないものが生じる。この場合、1画素異なる範囲で短冊224同士の間隔を設定する。例えば、対象物の垂直方向の画素が100であれば、間隔は、3と4とが存在することとなる。ただし、短冊224の水平方向や垂直方向の画素数、および分割領域222a、222b、222c毎の短冊224の数は上述した値に限らず、任意の値を設定することができる。
また、短冊224の分割領域222a、222b、222c内における水平方向の位置は分割領域222a、222b、222c毎に異ならせ、例えば、対象物の水平方向端部側に偏らせることができる。例えば、図4(b)に示すように、画面左に位置する分割領域222aでは、分割領域222aの左端から短冊224が形成され、画面右に位置する分割領域222cでは、分割領域222cの右端から短冊224が形成され、画面中央に位置する分割領域222bでは、分割領域222bのうち水平方向の中央を中心に、左右に均等な幅となるように短冊224が形成される。本実施形態においては、このように形成された短冊224中の各画素が判定部位となる。こうすることで、エッジが生じやすい水平方向の端部を含んだ状態で、対象物の輝度値の分布を全体に亘って判定することができる。
エッジ強度導出部168は、まず、判定部位決定部166が決定した判定部位に対し、ラプラシアンフィルタを用いて隣接する画素同士の輝度差分値を導出し、それをエッジ強度とする。
図5は、エッジ強度導出部168の動作を説明するための説明図である。ここでは、図5(a)に示すように、図4(b)のいずれか1の短冊224を例に挙げてエッジ強度の導出処理を説明する。本実施形態におけるラプラシアンフィルタでは、対象となる判定部位に対応する画素230のエッジ強度を、図5(b)の如く、判定部位に対応する画素230と、その画素から水平方向に連なる左右2画素232とから求める。したがって、図5(b)に示すように、1の短冊224において連続する25画素の判定部位に対するエッジ強度を求めるため、短冊224の左右2画素232を合わせた29画素が必要となる。
そして、エッジ強度導出部168は、判定部位に対応する画素230の輝度値を4倍し、その左右2画素(合わせて4画素)232それぞれの輝度値を減じる(−1倍)。このような計算により、対象となる判定部位に対応する画素230と、その左右2画素232とで輝度値が異なる場合、エッジ強度は大きくなり、輝度値がほぼ等しい場合、エッジ強度は0に近い値になる。このようなエッジ強度計算を25画素×25短冊×3分割領域=1875回行う。本実施形態では、対象物の大きさに拘わらず、判定部位の数を固定することで、処理負荷および処理時間の変動を抑制している。
続いて、エッジ強度導出部168は、分割領域222a、222b、222c毎のエッジ強度の平均値を導出する。すなわち、左中右の3つの分割領域222a、222b、222cそれぞれに含まれる25画素/短冊×25短冊=625画素の判定部位のエッジ強度をすべて積算し、その数(625)で除算する。すると、3つの分割領域222a、222b、222c毎にエッジ強度の平均値(以下、エッジ平均という。)が1つ導出される。こうして導出されたエッジ平均が浮遊物の判定に用いられる。
ただし、毎フレーム、単純にエッジ平均を採用すると、本来採用すべきではない突発的なエッジ平均もそのまま判定に反映されてしまう。そこで、本実施形態のエッジ強度導出部168は、メディアンフィルタを用い、時間的に連続する現在フレームと前後1フレームとの3フレームにおいて導出されたエッジ平均の中央値(2番目に小さい値または2番目に大きい値)を、そのフレームにおけるエッジ平均とみなすこととする。したがって、1のフレームのエッジ平均は、その前フレームや後フレームでも利用されるので、計3回利用されることとなる。また、エッジ平均の導出開始フレームでは、その前フレームがないので、メディアンフィルタを用いることなく、そのフレームのみのエッジ平均を最終的なエッジ平均とする。
こうすることで、突発的な値が生じた場合であっても、そのフレームのエッジ平均が前後のいずれかのフレームのエッジ平均と置き換えられるので、時間方向に均したエッジ平均を得ることができる。
浮遊物特定部170は、フレーム毎に、エッジ強度導出部168によって導出されたエッジ平均を予め定められた所定の閾値と比較し、エッジ平均が閾値未満であるか、閾値以上であるかに応じて点数を付け、その点数を積算する。例えば、エッジ平均が閾値未満であれば+1を積算(1を加算)し、閾値以上であれば−1を積算(1を減算)する。
図6は、閾値を説明するための説明図である。ここで、閾値は、浮遊物と、一般的な特定物(例えば、車両や歩行者)とのエッジ強度の差分の中心値をとるとよい。例えば、図6には、車両、歩行者、および、浮遊物の奥行距離に応じたエッジ強度の実験値が示されている。図6を参照して理解できるように、車両や歩行者のエッジ強度と比べ、浮遊物のエッジ強度は比較的小さくなっている。ここでは、例えば、閾値を8とすることで、車両や歩行者と、浮遊物とを大凡区別することが可能となる。また、閾値は、特性に応じて分割領域222a、222b、222c毎に独立して設けることとする。
そして、浮遊物特定部170は、積算した点数が11点以上であるか否か判定し、11点以上であれば、対象物は浮遊物らしいと判定する。ただし、積算後の点数には、例えば、上限20、下限−10といったように上下限が設けられている。このように、上下限を設けることで、浮遊物を検出していない期間や浮遊物を検出している期間が長時間に亘ったとしても点数の絶対値が大きくなることがなく、浮遊物の検出の有無が切り替わった場合に、迅速に、その有無を判定することが可能となる。
(車外環境認識方法)
図7〜図9は、本実施形態による車外環境認識方法の全体的な処理の流れを示したフローチャートである。かかる車外環境認識方法は、フレーム単位で実行される。まず、図7に示すように、画像処理部160は、2つの撮像装置110それぞれから画像データを取得し、パターンマッチングを用いて視差情報を導出し、画像データに対応付けた距離画像212を生成する(S300)。3次元位置導出部162は、検出領域214を撮像した画像における複数の対象部位の実空間における3次元位置を導出する(S302)。続いて、対象物特定部164は、3次元位置の差分が所定範囲内にある対象部位同士をグループ化して対象物を特定する(S304)。
判定部位決定部166は、対象物特定部164に特定された対象物に対して、さらに、エッジ強度の判定対象となる判定部位を決定する(S306)。続いて、エッジ強度導出部168は、対象物における所定の複数の判定部位のエッジ強度の平均値であるエッジ平均を導出する。具体的に、エッジ強度導出部168は、各分割領域222a、222b、222cから1の短冊224を選択するとともに、その短冊224の1の画素230を選択する(S308)。
図8を参照すると、エッジ強度導出部168は、左端の分割領域222aにおける選択した画素230がエッジであるか否か判定し(S310)、エッジであれば(S310におけるYES)、ラプラシアンフィルタを用いて、当該画素230のエッジ強度を導出する(S312)。そして、エッジ強度導出部168は、分割領域222aにおけるエッジ強度を積算する(S314)。また、選択した画素230がエッジでなければ(S310におけるNO)、次の分割領域222bに処理を移行する。
続いて、エッジ強度導出部168は、中央の分割領域222bにおける選択した画素230がエッジであるか否か判定し(S316)、エッジであれば(S316におけるYES)、ラプラシアンフィルタを用いて、当該画素230のエッジ強度を導出する(S318)。そして、エッジ強度導出部168は、分割領域222bにおけるエッジ強度を積算する(S320)。また、選択した画素230がエッジでなければ(S316におけるNO)、次の分割領域222cに処理を移行する。
次に、エッジ強度導出部168は、右端の分割領域222cにおける選択した画素230がエッジであるか否か判定し(S322)、エッジであれば(S322におけるYES)、ラプラシアンフィルタを用いて、当該画素230のエッジ強度を導出する(S324)。そして、エッジ強度導出部168は、分割領域222cにおけるエッジ強度を積算する(S326)。また、選択した画素230がエッジでなければ(S322におけるNO)、画素終了判定ステップ(S328)に処理を移行する。
エッジ強度導出部168は、選択された短冊224における画素230すべてに対して上記の処理が終了しているか否か判定し(S328)、終了していなければ(S328におけるNO)、短冊224内の次の画素230を選択して(S330)、エッジ判定処理(S310)からの処理を繰り返す。終了していれば(S328におけるYES)、分割領域終了判定ステップ(S332)に処理を移行する。
エッジ強度導出部168は、各分割領域222a、222b、222cにおける短冊224すべてに対して上記の処理が終了しているか否か判定し(S332)、終了していなければ(S332におけるNO)、各分割領域222a、222b、222c内の次の短冊224を選択して(S334)、エッジ判定処理(S310)からの処理を繰り返す。終了していれば(S332におけるYES)、エッジ強度導出部168は、各分割領域222a、222b、222cにおいて積算されたエッジ強度を画素230の数(ここでは、625)で除算し、エッジ平均を導出する(S336)。
続いて、エッジ強度導出部168は、上記エッジ平均が3フレーム分導出されているか否か判定する(S338)。その結果、3フレーム分のエッジ平均が導出されていれば(S338におけるYES)、エッジ強度導出部168は、メディアンフィルタを用い、前後3フレームにおいて導出されたエッジ平均の中央値を、そのフレームにおけるエッジ平均とみなし、次回のメディアンフィルタのために当該フレームにおけるエッジ平均を記憶する(S340)。一方、3フレーム分のエッジ平均が導出されていなければ(S338におけるNO)、そのフレームで導出されたエッジ平均をそのまま利用する(S342)。
図9を参照すると、浮遊物特定部170は、エッジ平均と予め定められた閾値とを比較する(S344)。その結果、エッジ平均が閾値未満であれば(S344におけるYES)、さらに積算された点数が20以上であるか否か判定する(S346)。その結果、点数が20未満であれば(S346におけるNO)、浮遊物特定部170は、点数に1を加算する(S348)。また、点数が20以上であれば(S346におけるYES)、浮遊物判定処理(S354)に処理を移行する。
また、エッジ平均が閾値以上であれば(S344におけるNO)、さらに積算された点数が−10以下であるか否か判定する(S350)。その結果、点数が−10より大きければ(S350におけるNO)、浮遊物特定部170は、点数から1を減算する(S352)。また、点数が−10以下であれば(S350におけるYES)、浮遊物判定処理(S354)に処理を移行する。
続いて、浮遊物特定部170は、積算された点数が11点以上であるか否か判定し(S354)、11点以上であれば(S354におけるYES)、対象物は浮遊物らしいものとして特定し(S356)、11点未満であれば(S354におけるNO)、対象物は浮遊物ではないと特定する(S358)。
以上、説明したように、本実施形態では、浮遊物の各対象部位の距離のばらつきが小さかったり、浮遊物が色合いを帯びている場合であっても、対象物のエッジ強度に応じて、水蒸気や排気ガス等の浮遊物を精度よく検出することが可能となる。
また、コンピュータを、車外環境認識装置120として機能させるプログラムや当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
例えば、上述した実施形態においては、対象物のエッジ強度に応じて浮遊物を特定する例を挙げているが、特開2009−110168号公報に示すような、物体の各対象部位の距離の平均値に対するばらつき(分散)に応じて浮遊物を特定する技術や、特開2012−243049号公報に示すような、対象物の輝度のヒストグラムに対する輝度の平均値、分散値、歪度、または尖度のいずれか1または複数の特徴量に基づいて浮遊物を特定する技術と、本実施形態の技術を併用して、その総合評価により、浮遊物を特定するとしてもよい。こうして、浮遊物の特定精度を高めることが可能となる。
なお、本明細書の車外環境認識方法の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。
本発明は、検出領域に存在する対象物がいずれの特定物に対応するかを特定する車外環境認識装置に利用することができる。
120 車外環境認識装置
162 3次元位置導出部
164 対象物特定部
168 エッジ強度導出部
170 浮遊物特定部

Claims (4)

  1. 検出領域を撮像した画像における複数の対象部位の実空間における3次元位置を導出する3次元位置導出部と、
    前記3次元位置の差分が所定範囲内にある対象部位同士をグループ化して対象物を特定する対象物特定部と、
    前記対象物を含む領域を水平方向に分割して複数の分割領域を設定し、当該分割領域毎に、分割領域内の各画素の輝度値に基づいて、エッジ強度の平均値であるエッジ平均を導出するエッジ強度導出部と、
    前記エッジ平均と予め定められた閾値とを比較し、該エッジ平均が該閾値未満の場合、当該対象物は浮遊物らしいものとして特定する浮遊物特定部と、
    を備えることを特徴とする車外環境認識装置。
  2. 前記エッジ強度導出部は、前記分割領域内に設定された所定の複数の判定部位内の各画素の輝度値に基づいてエッジ平均を導出するものであって、前記所定の複数の判定部位は、水平方向に所定数連続した状態で、前記対象物の水平方向端部側に偏り、かつ、垂直方向に均等に離隔していることを特徴とする請求項1に記載の車外環境認識装置。
  3. 前記判定部位は画素であり、
    前記エッジ強度導出部は、前記判定部位に対応する画素と、該判定部位から水平方向に連なる左右2画素とを対象としたラプラシアンフィルタを用いてエッジ強度を導出することを特徴とする請求項1または2に記載の車外環境認識装置。
  4. 前記エッジ強度導出部は、フレーム単位で前記エッジ平均を導出し、時間的に連続する3フレーム分のエッジ平均のうちメディアンフィルタを用いた中央値を該エッジ平均とみなすことを特徴とする請求項1から3のいずれか1項に記載の車外環境認識装置。
JP2013202629A 2013-09-27 2013-09-27 車外環境認識装置 Active JP5906224B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013202629A JP5906224B2 (ja) 2013-09-27 2013-09-27 車外環境認識装置
US14/477,352 US9349070B2 (en) 2013-09-27 2014-09-04 Vehicle external environment recognition device
DE102014112820.6A DE102014112820A1 (de) 2013-09-27 2014-09-05 Fahrzeugaußenumgebungerkennungsvorrichtung
CN201410483197.9A CN104512333B (zh) 2013-09-27 2014-09-19 车外环境识别装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013202629A JP5906224B2 (ja) 2013-09-27 2013-09-27 車外環境認識装置

Publications (2)

Publication Number Publication Date
JP2015069381A true JP2015069381A (ja) 2015-04-13
JP5906224B2 JP5906224B2 (ja) 2016-04-20

Family

ID=52673271

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013202629A Active JP5906224B2 (ja) 2013-09-27 2013-09-27 車外環境認識装置

Country Status (4)

Country Link
US (1) US9349070B2 (ja)
JP (1) JP5906224B2 (ja)
CN (1) CN104512333B (ja)
DE (1) DE102014112820A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015069380A (ja) * 2013-09-27 2015-04-13 富士重工業株式会社 車外環境認識装置
DE102016216500A1 (de) 2015-10-02 2017-04-06 Toyota Jidosha Kabushiki Kaisha Objekterkennungsverfahren und trübungsbestimmungsverfahren

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6457278B2 (ja) * 2015-01-23 2019-01-23 トヨタ自動車株式会社 物体検出装置及び物体検出方法
JP6236039B2 (ja) * 2015-06-26 2017-11-22 株式会社Subaru 車外環境認識装置
US9633283B1 (en) * 2015-12-28 2017-04-25 Automotive Research & Test Center Adaptive device and adaptive method for classifying objects with parallel architecture
WO2018096619A1 (ja) * 2016-11-24 2018-05-31 マクセル株式会社 照明装置
US10157441B2 (en) * 2016-12-27 2018-12-18 Automotive Research & Testing Center Hierarchical system for detecting object with parallel architecture and hierarchical method thereof
JP6782433B2 (ja) * 2017-03-22 2020-11-11 パナソニックIpマネジメント株式会社 画像認識装置
US10322643B2 (en) 2017-05-15 2019-06-18 Ford Global Technologies, Llc Traction battery with reference supercapacitor for charge monitoring
JP2019015553A (ja) * 2017-07-05 2019-01-31 ソニーセミコンダクタソリューションズ株式会社 情報処理装置、情報処理方法および個体撮像装置
US10843702B2 (en) * 2018-06-06 2020-11-24 Ford Global Technologies, Llc Methods and systems for oil leak determination
JP6731020B2 (ja) * 2018-09-03 2020-07-29 株式会社Subaru 車外環境認識装置および車外環境認識方法
US20230025579A1 (en) * 2021-07-26 2023-01-26 Cyngn, Inc. High-definition mapping

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0973541A (ja) * 1995-09-07 1997-03-18 Hitachi Denshi Ltd 物体検出装置及び物体検出方法
JP2005079999A (ja) * 2003-09-01 2005-03-24 Honda Motor Co Ltd 車両周辺監視装置
JP2008005399A (ja) * 2006-06-26 2008-01-10 Matsushita Electric Ind Co Ltd 放置物検出装置及び放置物検出方法
JP2012118698A (ja) * 2010-11-30 2012-06-21 Fuji Heavy Ind Ltd 画像処理装置
JP2012243049A (ja) * 2011-05-19 2012-12-10 Fuji Heavy Ind Ltd 環境認識装置および環境認識方法
JP2013186668A (ja) * 2012-03-07 2013-09-19 Clarion Co Ltd 車両周囲監視装置
JP2015069380A (ja) * 2013-09-27 2015-04-13 富士重工業株式会社 車外環境認識装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3349060B2 (ja) 1997-04-04 2002-11-20 富士重工業株式会社 車外監視装置
JP3092105B1 (ja) * 1999-07-30 2000-09-25 富士重工業株式会社 フェールセーフ機能を有する車外監視装置
CN101315326B (zh) * 2007-05-31 2011-08-10 财团法人工业技术研究院 烟雾侦测方法与装置
JP4956374B2 (ja) 2007-10-29 2012-06-20 富士重工業株式会社 物体検出装置および接触回避システム
JP5254102B2 (ja) 2009-03-24 2013-08-07 富士重工業株式会社 環境認識装置
TWI423166B (zh) * 2009-12-04 2014-01-11 Huper Lab Co Ltd 判斷輸入影像是否為霧化影像之方法、判斷輸入影像的霧級數之方法及霧化影像濾清方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0973541A (ja) * 1995-09-07 1997-03-18 Hitachi Denshi Ltd 物体検出装置及び物体検出方法
JP2005079999A (ja) * 2003-09-01 2005-03-24 Honda Motor Co Ltd 車両周辺監視装置
JP2008005399A (ja) * 2006-06-26 2008-01-10 Matsushita Electric Ind Co Ltd 放置物検出装置及び放置物検出方法
JP2012118698A (ja) * 2010-11-30 2012-06-21 Fuji Heavy Ind Ltd 画像処理装置
JP2012243049A (ja) * 2011-05-19 2012-12-10 Fuji Heavy Ind Ltd 環境認識装置および環境認識方法
JP2013186668A (ja) * 2012-03-07 2013-09-19 Clarion Co Ltd 車両周囲監視装置
JP2015069380A (ja) * 2013-09-27 2015-04-13 富士重工業株式会社 車外環境認識装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015069380A (ja) * 2013-09-27 2015-04-13 富士重工業株式会社 車外環境認識装置
DE102016216500A1 (de) 2015-10-02 2017-04-06 Toyota Jidosha Kabushiki Kaisha Objekterkennungsverfahren und trübungsbestimmungsverfahren
US10102628B2 (en) 2015-10-02 2018-10-16 Toyota Jidosha Kabushiki Kaisha Object recognizing apparatus and haze determination method

Also Published As

Publication number Publication date
DE102014112820A1 (de) 2015-04-02
US9349070B2 (en) 2016-05-24
DE102014112820A9 (de) 2015-08-20
US20150092989A1 (en) 2015-04-02
CN104512333A (zh) 2015-04-15
JP5906224B2 (ja) 2016-04-20
CN104512333B (zh) 2017-09-01

Similar Documents

Publication Publication Date Title
JP5906224B2 (ja) 車外環境認識装置
JP5886809B2 (ja) 車外環境認識装置
JP6132412B2 (ja) 車外環境認識装置
JP6034923B1 (ja) 車外環境認識装置
JP6236039B2 (ja) 車外環境認識装置
JP6420650B2 (ja) 車外環境認識装置
JP5955291B2 (ja) フィルタリング装置および環境認識システム
JP6591188B2 (ja) 車外環境認識装置
JP6564218B2 (ja) 車外環境認識装置
JP6174960B2 (ja) 車外環境認識装置
JP2015170240A (ja) 車外環境認識装置
JP6240475B2 (ja) 車外環境認識装置
JP7229032B2 (ja) 車外物体検出装置
JP6329438B2 (ja) 車外環境認識装置
JP7261006B2 (ja) 車外環境認識装置
JP6259335B2 (ja) 車外環境認識装置
JP6378547B2 (ja) 車外環境認識装置
JP6335065B2 (ja) 車外環境認識装置
JP6412345B2 (ja) 車外環境認識装置
JP6523694B2 (ja) 車外環境認識装置
JP6329442B2 (ja) 車外環境認識装置
JP6273156B2 (ja) 歩行者認識装置
JP5890816B2 (ja) フィルタリング装置および環境認識システム
JP6313667B2 (ja) 車外環境認識装置
JP2015156074A (ja) 車外環境認識装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150728

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160223

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160318

R150 Certificate of patent or registration of utility model

Ref document number: 5906224

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250