JP2022043413A - 車外環境認識装置 - Google Patents
車外環境認識装置 Download PDFInfo
- Publication number
- JP2022043413A JP2022043413A JP2020148665A JP2020148665A JP2022043413A JP 2022043413 A JP2022043413 A JP 2022043413A JP 2020148665 A JP2020148665 A JP 2020148665A JP 2020148665 A JP2020148665 A JP 2020148665A JP 2022043413 A JP2022043413 A JP 2022043413A
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- preceding vehicle
- side wall
- dimensional object
- tracking unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000009795 derivation Methods 0.000 claims abstract description 17
- 238000000034 method Methods 0.000 description 31
- 238000010586 diagram Methods 0.000 description 15
- 230000008569 process Effects 0.000 description 14
- 230000008859 change Effects 0.000 description 7
- 230000007704 transition Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000005259 measurement Methods 0.000 description 6
- 230000007246 mechanism Effects 0.000 description 6
- 238000001514 detection method Methods 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000002457 bidirectional effect Effects 0.000 description 1
- 244000145845 chattering Species 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
- B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
- B60W30/095—Predicting travel path or likelihood of collision
- B60W30/0956—Predicting travel path or likelihood of collision the prediction being responsive to traffic or environmental parameters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
- B60W40/105—Speed
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
- G06V20/584—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K31/00—Vehicle fittings, acting on a single sub-unit only, for automatically controlling vehicle speed, i.e. preventing speed from exceeding an arbitrarily established velocity or maintaining speed at a particular velocity, as selected by the vehicle operator
- B60K31/0008—Vehicle fittings, acting on a single sub-unit only, for automatically controlling vehicle speed, i.e. preventing speed from exceeding an arbitrarily established velocity or maintaining speed at a particular velocity, as selected by the vehicle operator including means for detecting potential obstacles in vehicle path
- B60K2031/0025—Detecting position of target vehicle, e.g. vehicle driving ahead from host vehicle
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
- B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
- B60W2420/403—Image sensing, e.g. optical camera
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2552/00—Input parameters relating to infrastructure
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2554/00—Input parameters relating to objects
- B60W2554/40—Dynamic objects, e.g. animals, windblown objects
- B60W2554/404—Characteristics
- B60W2554/4041—Position
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2554/00—Input parameters relating to objects
- B60W2554/80—Spatial relation or speed relative to objects
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
- B60W30/14—Adaptive cruise control
- B60W30/16—Control of distance between vehicles, e.g. keeping a distance to preceding vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Automation & Control Theory (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Mathematical Physics (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】追跡対象の先行車両の誤認識を抑制する。【解決手段】車外環境認識装置は、撮像された画像におけるブロック単位の三次元位置を導出する位置導出部と、三次元位置の差分が所定範囲内にあるブロック同士をグルーピングして立体物を特定する立体物特定部と、立体物から先行車両(部分234)および側壁232a、232bを特定する特定物特定部と、先行車両の未来の位置を予測して先行車両を追跡する車両追跡部と、を備え、車両追跡部は、先行車両が側壁の一部に相当するか否か判定する。【選択図】図9
Description
本発明は、自車両の進行方向に存在する立体物を特定する車外環境認識装置に関する。
特許文献1には、自車両の前方に位置する先行車両を検出し、先行車両との衝突被害を軽減する技術や、先行車両との車間距離を安全な距離に保つように追従制御する技術が開示されている。
自車両と先行車両との衝突被害を軽減するため、また、先行車両への追従制御を実現するため、自車両は、まず、進行方向に存在する立体物を特定し、その立体物が先行車両等の特定物であるか否か判定する。そして、自車両は、特定した先行車両を追跡することで、先行車両に対する各種制御を実現する。
例えば、有料道路においては、同外観が連続する側壁が道路に沿って延在している場合がある。自車両がこのような道路においてカーブを走行すると、遠方に位置するカーブ内側の側壁の外観が変化しない場合がある。そうすると、自車両は、そのような側壁の一部を、自車両と同速度の先行車両として誤認識するおそれがある。
本発明は、このような課題に鑑み、追跡対象の先行車両の誤認識を抑制することが可能な車外環境認識装置を提供することを目的としている。
上記課題を解決するために、本発明の車外環境認識装置は、撮像された画像におけるブロック単位の三次元位置を導出する位置導出部と、三次元位置の差分が所定範囲内にあるブロック同士をグルーピングして立体物を特定する立体物特定部と、立体物から先行車両および側壁を特定する特定物特定部と、先行車両の未来の位置を予測して先行車両を追跡する車両追跡部と、を備え、車両追跡部は、特定物特定部が特定した先行車両が側壁の一部に相当するか否か判定する。
車両追跡部は、先行車両が側壁の一部に相当すると判定すると、先行車両の追跡を停止してもよい。
車両追跡部は、先行車両と自車両との相対速度が0とみなせる場合、先行車両は側壁の一部に相当すると判定してもよい。
車両追跡部は、先行車両の速度ベクトルと、先行車両の奥行き位置における側壁の接線とのなす角度が0とみなせる場合、先行車両は側壁の一部に相当すると判定してもよい。
車両追跡部は、先行車両と側壁との水平距離が0とみなせる場合、先行車両は側壁の一部に相当すると判定してもよい。
本発明によれば、追跡対象の先行車両の誤認識を抑制することが可能となる。
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書および図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
(車外環境認識システム100)
図1は、車外環境認識システム100の接続関係を示したブロック図である。車外環境認識システム100は、自車両1に設けられ、撮像装置110と、車外環境認識装置120と、車両制御装置130とを含む。
図1は、車外環境認識システム100の接続関係を示したブロック図である。車外環境認識システム100は、自車両1に設けられ、撮像装置110と、車外環境認識装置120と、車両制御装置130とを含む。
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子で構成される。撮像装置110は、自車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、自車両1の前方の車外環境を撮像し、少なくとも輝度の情報が含まれる輝度画像(カラー画像やモノクロ画像)を生成する。撮像装置110は、自車両1の前方の検出領域に存在する立体物を撮像した輝度画像を、例えば1/60秒のフレーム毎(60fps)に連続して生成する。ここで、車外環境認識装置120が認識する立体物や特定物は、自転車、歩行者、車両、信号機、道路標識、ガードレール、建物、道路脇の側壁といった独立して存在する物のみならず、車両の背面や側面、自転車の車輪等、その一部として特定できる物も含む。ここで、車両の背面は、自車両1の前方において自車両1に対向する面を示し、車両自体の後方面を示すものではない。
車外環境認識装置120は、2つの撮像装置110それぞれから輝度画像を取得し、所謂パターンマッチングを用いて距離画像を生成する。車外環境認識装置120は、輝度画像と距離画像に基づき、路面より上方に位置し、カラー値が等しく、三次元の位置情報が互いに隣接するブロック同士を立体物としてグルーピングする。そして、車外環境認識装置120は、立体物がいずれの特定物であるかを特定する。例えば、車外環境認識装置120は、立体物が先行車両であると特定する。また、車外環境認識装置120は、このように先行車両を特定すると、自車両1と先行車両との衝突被害の軽減制御を行い、また、自車両1を先行車両に追従させる追従制御を行う。車外環境認識装置120の具体的な動作については後程詳述する。
車両制御装置130は、ECU(Electronic Control Unit)等で構成され、ステアリングホイール132、アクセルペダル134、ブレーキペダル136を通じて運転手の操作入力を受け付け、操舵機構142、駆動機構144、制動機構146に伝達することで自車両1を制御する。また、車両制御装置130は、車外環境認識装置120の指示に従い、操舵機構142、駆動機構144、制動機構146を制御する。
(車外環境認識装置120)
図2は、車外環境認識装置120の概略的な機能を示した機能ブロック図である。図2に示すように、車外環境認識装置120は、I/F部150と、データ保持部152と、中央制御部154とを含む。
図2は、車外環境認識装置120の概略的な機能を示した機能ブロック図である。図2に示すように、車外環境認識装置120は、I/F部150と、データ保持部152と、中央制御部154とを含む。
I/F部150は、撮像装置110、および、車両制御装置130との双方向の情報交換を行うためのインターフェースである。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、以下に示す各機能部の処理に必要な様々な情報を保持する。
中央制御部154は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス156を通じて、I/F部150、データ保持部152等を制御する。また、本実施形態において、中央制御部154は、位置導出部170、立体物特定部172、特定物特定部174、車両追跡部176としても機能する。以下、車外環境認識方法について、当該中央制御部154の各機能部の動作も踏まえて詳述する。
(車外環境認識方法)
図3は、車外環境認識方法の流れを示すフローチャートである。車外環境認識装置120は、所定の割込時間毎に車外環境認識方法を実行する。車外環境認識方法において、位置導出部170は、撮像装置110から取得した輝度画像におけるブロック単位の三次元位置を導出する(位置導出処理S200)。立体物特定部172は、ブロック同士をグルーピングして立体物を特定する(立体物特定処理S202)。特定物特定部174は、立体物から先行車両および側壁を特定する(特定物特定処理S204)。車両追跡部176は、先行車両の未来の位置を予測して先行車両を追跡する(車両追跡処理S206)。
図3は、車外環境認識方法の流れを示すフローチャートである。車外環境認識装置120は、所定の割込時間毎に車外環境認識方法を実行する。車外環境認識方法において、位置導出部170は、撮像装置110から取得した輝度画像におけるブロック単位の三次元位置を導出する(位置導出処理S200)。立体物特定部172は、ブロック同士をグルーピングして立体物を特定する(立体物特定処理S202)。特定物特定部174は、立体物から先行車両および側壁を特定する(特定物特定処理S204)。車両追跡部176は、先行車両の未来の位置を予測して先行車両を追跡する(車両追跡処理S206)。
(位置導出処理S200)
図4(図4A~図4C)は、輝度画像および距離画像を説明するための説明図である。位置導出部170は、撮像装置110で光軸を異として同タイミングで撮像された複数(ここでは2)の輝度画像をそれぞれ取得する。ここで、位置導出部170は、輝度画像212として、図4Aに示す、自車両1の比較的右側に位置する撮像装置110で撮像された第1輝度画像212aと、図4Bに示す、自車両1の比較的左側に位置する撮像装置110で撮像された第2輝度画像212bとを取得したとする。
図4(図4A~図4C)は、輝度画像および距離画像を説明するための説明図である。位置導出部170は、撮像装置110で光軸を異として同タイミングで撮像された複数(ここでは2)の輝度画像をそれぞれ取得する。ここで、位置導出部170は、輝度画像212として、図4Aに示す、自車両1の比較的右側に位置する撮像装置110で撮像された第1輝度画像212aと、図4Bに示す、自車両1の比較的左側に位置する撮像装置110で撮像された第2輝度画像212bとを取得したとする。
図4Aおよび図4Bを参照すると、撮像装置110の撮像位置の違いから、第1輝度画像212aと第2輝度画像212bとで、画像に含まれる立体物の画像位置が水平方向に異なるのが理解できる。ここで、水平は、撮像した画像の画面横方向を示し、垂直は、撮像した画像の画面縦方向を示す。
位置導出部170は、位置導出部170が取得した、図4Aに示す第1輝度画像212aと、図4Bに示す第2輝度画像212bとに基づいて、図4Cのような、撮像対象の距離を特定可能な距離画像214を生成する。
具体的に、位置導出部170は、所謂パターンマッチングを用いて、視差、および、任意のブロックの画像内の位置を示す画像位置を含む視差情報を導出する。そして、位置導出部170は、一方の輝度画像(ここでは第1輝度画像212a)から任意に抽出したブロックに対応するブロックを他方の輝度画像(ここでは第2輝度画像212b)から検索する。ここで、ブロックは、例えば、水平4画素×垂直4画素の配列で表される。また、パターンマッチングは、一方の輝度画像から任意に抽出したブロックに対応するブロックを他方の輝度画像から検索する手法である。
例えば、パターンマッチングにおけるブロック間の一致度を評価する関数として、輝度の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。
位置導出部170は、このようなブロック単位の視差導出処理を、例えば、600画素×200画素の検出領域に映し出されている全てのブロックについて行う。ここで、位置導出部170は、ブロックを4画素×4画素として処理しているが、任意の画素数で処理してもよい。
位置導出部170は、距離画像214のブロック毎の視差情報を、所謂ステレオ法を用いて、水平距離x、高さyおよび相対距離zを含む実空間における三次元位置に変換する。ここで、ステレオ法は、三角測量法を用いることで、ブロックの距離画像214における視差からそのブロックの撮像装置110に対する相対距離zを導出する手法である。このとき、位置導出部170は、ブロックの相対距離zと、ブロックと同相対距離zにある道路表面上の点とブロックとの距離画像214上の検出距離とに基づいて、ブロックの道路表面からの高さyを導出する。そして、位置導出部170は、導出した三次元位置を改めて距離画像214に対応付ける。かかる相対距離zの導出処理や三次元位置の特定処理は、様々な公知技術を適用できるので、ここでは、その説明を省略する。
(立体物特定処理S202)
立体物特定部172は、路面より上方に位置し、カラー値が等しく、距離画像214における三次元位置の差分が所定範囲内にあるブロック同士をグルーピングして立体物を特定する。具体的に、立体物特定部172は、距離画像214における、水平距離xの差分、高さyの差分および相対距離zの差分が予め定められた範囲(例えば0.1m)内にあるブロック同士を、同一の特定物に対応すると仮定してグルーピングする。こうして、仮想的なブロック群が生成される。
立体物特定部172は、路面より上方に位置し、カラー値が等しく、距離画像214における三次元位置の差分が所定範囲内にあるブロック同士をグルーピングして立体物を特定する。具体的に、立体物特定部172は、距離画像214における、水平距離xの差分、高さyの差分および相対距離zの差分が予め定められた範囲(例えば0.1m)内にあるブロック同士を、同一の特定物に対応すると仮定してグルーピングする。こうして、仮想的なブロック群が生成される。
図5(図5A~図5C)は、立体物特定部172の動作を説明するための説明図である。ここで、位置導出部170が、例えば、図5Aのような距離画像214を生成したとする。立体物特定部172は、かかる距離画像214からブロック同士をグルーピングする。こうして、図5Bのようにグルーピングされたブロック群が複数抽出される。立体物特定部172は、図5Bにおいて、グルーピングしたブロックの全てが含まれる外形線、例えば、水平線および垂直線、または、奥行き方向に延びる線および垂直線からなる矩形状の枠(面)を、立体物220(220a、220b、220c、220d、220e、220f、220g)とする。
図5Bにおける、距離画像214上の立体物220a、220b、220c、220d、220e、220f、220gは、水平距離xおよび相対距離zで示す2次元の水平面で表すと、図5Cにおける、立体物220a、220b、220c、220d、220e、220f、220gとなる。
(特定物特定処理S204)
特定物特定部174は、立体物特定部172が特定した立体物がいずれの特定物であるか特定する。例えば、特定物特定部174は、自車両1の前方において、自車両1と同方向に走行する立体物を先行車両と特定する。
特定物特定部174は、立体物特定部172が特定した立体物がいずれの特定物であるか特定する。例えば、特定物特定部174は、自車両1の前方において、自車両1と同方向に走行する立体物を先行車両と特定する。
例えば、立体物特定部172は、図5Cにおいて、立体物220bと立体物220cとを異なる立体物として特定する。しかし、実際、立体物220bは先行車両の背面を構成し、立体物220cは先行車両の側面を構成している。したがって、立体物220bと立体物220cとは、本来、一体的な同一の立体物を構成するペアとして認識されるべきである。同様に、立体物220eと立体物220fも同一の立体物として認識されるべきである。そこで、特定物特定部174は、同一の立体物の背面と側面とすべき立体物220をペアリングする。
図6は、特定物特定部174の動作を説明するための説明図である。図6は、立体物220を水平面に投影したものであり、水平距離xおよび相対距離zのみで表されている。
特定物特定部174は、立体物220を水平面に投影し、奥行き方向に対する角度に基づいて背面と側面とに区別し、背面と側面との関係が所定条件を満たせば、背面と側面とをペアリングしてペアを特定する。
具体的に、特定物特定部174は、まず、奥行き方向に相当する相対距離の軸に対する、立体物220の近似直線の角度を導出する。特定物特定部174は、導出した角度の絶対値が45度以上135度未満であれば、その立体物220を背面とする。一方、特定物特定部174は、導出した角度の絶対値が0度以上45度未満または135度以上180度以下であれば、その立体物220を側面とする。
例えば、立体物特定部172がグルーピングした結果、図6Aのように、立体物220h、220iを導出したとする。かかる例では、図6Bのように、立体物220hの近似直線の角度の絶対値は45度以上135度未満となるので、特定物特定部174は、当該立体物220hを背面であると判定する。一方、立体物220iの近似直線の角度の絶対値は0度以上45度未満となるので、特定物特定部174は、当該立体物220iを側面であると判定する。こうして、特定物特定部174は、背面と側面とを大凡区別することができる。
なお、このとき、特定物特定部174は、背面と側面との距離が車両の一部として適切な距離(例えば2m)以内であり、背面と側面との速度がいずれも安定し、背面および側面それぞれの長さが所定値(例えば1m)以上であり、かつ、その中央位置が検出領域内であれば、ペアリングを実行するとしてもよい。かかるペアリングの前提条件を追加することで、特定物特定部174は、ペアリングの対象を適切に制限することが可能となり、処理負荷の軽減を図ることが可能となる。
特定物特定部174は、例えば、背面に相当する立体物220hと、側面に対応する立体物220iとのペアが、先行車両としての条件を満たすか否か判定する。具体的に、特定物特定部174は、立体物220hと立体物220iとのペアによって構成される立体物が、車両らしい大きさ、形状、相対速度であり、かつ、後方の所定の位置にブレーキランプやハイマウントストップランプ等の発光源を有するか判定する。このような条件を満たす場合、特定物特定部174は、立体物220hと立体物220iとのペアによって構成される立体物220を先行車両と特定する。
なお、特定物特定部174は、後述する車両追跡部176において前回フレームで予測された予測結果に基づき、立体物特定部172が特定した立体物と、車両追跡部176が予測した立体物220との位置との差が所定範囲内であることを条件に、その立体物220を先行車両と特定するとしてもよい。
また、特定物特定部174は、自車両1の前方において、道路脇に立設する立体物を側壁と特定する。
例えば、図5Cにおいては、立体物特定部172は、道路より左側において立設する立体物220aを、左側の側壁とする。また、立体物特定部172は、道路より右側において立設する立体物220gを、右側の側壁とする。
なお、このとき、特定物特定部174は、立体物220a、220gの相対速度が自車両1の速度と等しく、道路からの水平距離および垂直距離が所定範囲内で安定しており、奥行き方向に連続性があることを条件に、立体物220a、220gを側壁と特定してもよい。
特定物特定部174は、立体物220を側壁と特定すると、その立体物220を構成するブロックに対し、例えば、最小二乗法による近似曲線を導出する。特定物特定部174は、導出した近似曲線を、側面の水平面上の軌跡として、立体物220に関連付ける。
(車両追跡処理)
車両追跡部176は、特定物特定部174が特定した先行車両の未来の位置を予測して、その先行車両を追跡する。ここで、追跡とは、フレーム毎に特定される先行車両同士の同一性を判断し、同一とみなされる先行車両の時間的な移動推移を導出することで、先行車両を時系列に管理することである。
車両追跡部176は、特定物特定部174が特定した先行車両の未来の位置を予測して、その先行車両を追跡する。ここで、追跡とは、フレーム毎に特定される先行車両同士の同一性を判断し、同一とみなされる先行車両の時間的な移動推移を導出することで、先行車両を時系列に管理することである。
図7(図7A、図7B)は、車両追跡部176の動作を説明するための説明図である。図7は、水平距離xおよび相対距離zのみで表されている。例えば、立体物特定部172は、図7Aのように、立体物220h、220iを特定したとする。また、特定物特定部174は、立体物220hを背面とし、立体物220iを側面としてペアリングし、先行車両として特定したとする。ここで、立体物220hを構成するブロックの近似曲線と、立体物220iの各ブロックの近似曲線との交点を実測交点とする。また、立体物220hを構成するブロックのうち、実測交点から最も遠い点を実測背面端点とし、立体物220iを構成するブロックのうち、実測交点から最も遠い点を実測側面端点とする。
車両追跡部176は、図7Bに示すように、このような実測交点、実測背面端点、実測側面端点と、過去に導出した複数回分の実測交点、実測背面端点、実測側面端点とを用い、例えば、カルマンフィルタ等を用いて、次回の予測交点、予測背面端点、予測側面端点とを導出する。このとき、車両追跡部176は、背面および側面の相対速度、Y軸回りの角速度、および、エゴモーションを考慮して、次回の予測交点、予測背面端点、予測側面端点を予測する。そして、車両追跡部176は、今回フレームの予測結果(予測交点、予測背面端点、予測側面端点)を次回フレームのためにデータ保持部152に保持する。ここで、車両追跡部176は、先行車両の端点や交点を用いて先行車両の移動推移を予測しているが、かかる場合に限らず、従来から存在する様々な移動推移の予測技術を用いることができる。
次に、車両追跡部176は、データ保持部152から前回フレームにおいて予測した予測結果を読み出す。車両追跡部176は、今回フレームの実測結果(実測交点、実測背面端点、実測側面端点)と、前回フレームにおける予測結果とを比較し、立体物の同一性を判断する。具体的に、車両追跡部176は、前回フレームにおける予測結果との距離が最短であり、立体物の大きさの差が所定範囲内となる今回フレームの実測結果を特定する。そして、車両追跡部176は、特定した今回フレームの実測結果と前回フレームにおける予測結果との三次元位置の差分が所定範囲内にあれば、フレーム毎に特定された先行車両同士が同一の先行車両であると判断する。こうして、車両追跡部176は、追跡対象となる先行車両のフレーム毎の移動推移を導出することができる。
車両追跡部176が、追跡対象となる先行車両の移動推移を導出すると、車外環境認識装置120は、先行車両の移動推移を用いて、自車両1と先行車両との衝突被害の軽減制御を行い、また、自車両1を先行車両に追従させる追従制御を行うことができる。
ところで、有料道路等、車両が交差点を通過する頻度が低い道路においては、同外観が連続する側壁が道路に沿って延在している場合がある。自車両1がこのような道路においてカーブを走行すると、遠方に位置するカーブ内側の側壁の外観が変化しない場合がある。そうすると、特定物特定部174は、そのような側壁の一部を、自車両1と同速度の先行車両として誤認識するおそれがある。以下、かかる現象を具体的に説明する。
図8(図8A、図8B)は、自車両1の走行例を示した説明図である。図8Aは、自車両1がカーブを走行しているときの輝度画像212を示し、図8Bは、検出領域の状態を水平面に投影したものである。図8Aに示すように、自車両1は、左方向のカーブを走行し、前方には、先行車両が位置するとし、左右には側壁が立設されている。
したがって、特定物特定部174は、前方に位置する立体物を先行車両230と特定する。また、特定物特定部174は、道路脇に立設する立体物のうち、左脇の立体物を側壁232aと特定するとともに、右脇の立体物を側壁232bと特定する。
ここで、カーブの内側(左側)の側壁232aに焦点を当てる。道路が左方向へカーブしている場合、図8Aのように、輝度画像212上では、カーブの内側の側壁232aが遠方で途切れている。
側壁232aは、図8Aに示すように、高さが等しい同一の外観が遠方方向に連続しているとする。カーブの曲率が等しい、または、曲率の変化が小さい場合、側壁232aが途切れた位置近傍の部分234の外観は変化しない。これは、自車両1の移動に伴い、輝度画像212に、遠方の側壁232aが順次含まれるようになり、途切れた位置近傍の部分234の外観が変化することなく更新されるからである。そうすると、自車両1のカーブ走行により、前方の環境が変化しているにも拘わらず、特定物特定部174は、外観が変化しない部分234を同一の立体物として特定することとなる。
また、部分234は、側壁232aの一部ではあるものの、遠方に位置しているので、距離画像214における三次元位置の特定制度が低くなる。そうすると、特定物特定部174は、部分234のテクスチャを誤認識し、部分234の画像から背面および側面を特定してしまうことがある。この場合、自車両1のカーブ走行により、前方の環境が変化しているにも拘わらず、特定物特定部174は、外観が変化しない部分234を先行車両として認識することとなる。ここでの先行車両は、4輪自動車のみならず、2輪自動車も含む。
車両追跡部176は、本来、側壁232aの部分234ではあるが、特定物特定部174からの情報に従って、それを先行車両として認識する。こうして、車両追跡部176は、側壁232aが続く限り、先行車両の未来の位置を予測し、側壁232aを先行車両として追跡してしまう。そうすると、車外環境認識装置120は、本来は先行車両が存在しないにも拘わらず、その先行車両が進行路に進入してきたとして、自車両1と先行車両との衝突被害の軽減制御を行い、また、自車両1を先行車両に追従させる追従制御を行うこととなる。
そこで、車両追跡部176は、車外環境認識装置120が先行車両への追従制御を開始する前に、側壁232aの部分234である、先行車両(正確には、特定物特定部174が先行車両として特定した立体物)が、実際は側壁232aの一部に相当するか否か判定する。
図9~図11は、車両追跡部176の動作を示した説明図である。上述したように、自車両1の移動に伴い、輝度画像212に遠方の側壁232aが順次含まれるようになり、側壁232aが途切れた位置近傍の部分234の外観が変化することなく更新される。したがって、自車両1と部分234との相対距離および相対速度は常に等しくなる。
そこで、車両追跡部176は、図9のように、実際は側壁232aの部分234である先行車両と、自車両1との相対速度が0とみなせる場合、先行車両は側壁232aの一部に相当すると判定する。具体的に、車両追跡部176は、先行車両の相対速度が、0を中心とする所定速度範囲、例えば、±10km/hに含まれていれば、相対速度を0とみなす。かかる構成により、車両追跡部176は、先行車両として認識している部分234が側壁232aの一部に相当することを適切に判定することができる。なお、この段階では、追従制御が開始されていないので、実在かつ追従している先行車両が当該判定の対象となることはない。
また、側壁232aの部分234は、輝度画像212に遠方の側壁232aが順次含まれて更新されたものである。そして、側壁232aの部分234は、自車両1から視認できる側壁232aの右端部に相当する。そうすると、部分234が更新される方向、すなわち、先行車両の速度ベクトルは、側壁232aを曲線と考えた場合における部分234の奥行き位置の接線となる。
そこで、車両追跡部176は、図10のように、実際は側壁232aの部分234である先行車両の速度ベクトル240と、先行車両の奥行き位置における側壁232aの接線242とがなす角度が0とみなせる場合、先行車両は側壁232aの一部に相当すると判定する。具体的に、車両追跡部176は、先行車両の速度ベクトル240と接線242とのなす角度が、0を中心とする所定角度範囲、例えば、±5°に含まれていれば、角度を0とみなす。なお、先行車両の奥行き位置は、側壁232aの右端部の奥行き位置を示す。かかる構成により、車両追跡部176は、先行車両として認識している部分234が側壁232aの一部に相当することを適切に判定することができる。
また、側壁232aの部分234は、側壁232aそのものであるから、部分234と側壁232aとの水平位置は一致するはずである。
そこで、車両追跡部176は、図11のように、実際は側壁232aの部分234である先行車両と側壁232aとの水平距離が0とみなせる場合、先行車両は側壁232aの一部に相当すると判定する。具体的に、車両追跡部176は、自車両1から視認できる側壁232aの右端部からの先行車両の水平距離が、0を中心とする所定距離範囲244、例えば、±500mmに含まれていれば、先行車両は側壁232aの一部に相当すると判定する。かかる構成により、車両追跡部176は、先行車両として認識している部分234が側壁232aの一部に相当することを適切に判定することができる。
ただし、図9~図11で説明した条件を満たした場合に、車両追跡部176が、直ちに、先行車両が側壁232aの一部に相当すると判定すると、以下の問題が生じ得る。例えば、ノイズにより、車両追跡部176が、実在する先行車両を側壁232aであると判定すると、先行車両を追従できなくなることがある。また、チャタリングにより追従制御が不安定になることもある。そこで、車両追跡部176は、所定の間隔毎に図9~図11で説明した条件を満たすか否か判定し、条件を満たすと、それに応じてポイントを付加し、そのポイントが所定閾値以上になると、先行車両は側壁232aの一部に相当すると判定する。
例えば、車両追跡部176は、所定の間隔毎に訪れる判定タイミングにおいて、実際は側壁232aの部分234である先行車両と、自車両1との相対速度が0とみなせる場合、側壁ポイントを1だけインクリメントする。また、車両追跡部176は、判定タイミングにおいて、先行車両の速度ベクトル240と、先行車両の奥行き位置における側壁232aの接線242とがなす角度が0とみなせる場合、側壁ポイントを1だけインクリメントする。また、車両追跡部176は、判定タイミングにおいて、先行車両と側壁232aとの水平距離が0とみなせる場合、側壁ポイントを1だけインクリメントする。なお、車両追跡部176は、自車両1がカーブを走行していない場合、側壁ポイントを0にリセットする。
そして、車両追跡部176は、側壁ポイントが所定値(例えば、10ポイント)以上となれば、先行車両は側壁232aの一部に相当すると判定する。かかる構成により、車両追跡部176は、追跡している先行車両が、実は側壁232aの一部に相当することを、適切かつ安定的に判定することができる。
車両追跡部176は、上記のように、先行車両が側壁232aの一部に相当すると判定すると、先行車両の追跡を停止する。具体的に、車両追跡部176は、それまで先行車両と認識していた部分234を、追跡対象から除外する。したがって、車外環境認識装置120は、かかる部分234を先行車両として追従制御することはない。かかる構成により、先行車両が早期に追跡対象から除外されるので、車両追跡部176が、本来は存在していない先行車両を、追跡対象の先行車両と誤認識し続けることを抑制することができる。
ここでは、車外環境認識装置120が、特定物特定部174が特定した先行車両への追従制御を開始する前に、車両追跡部176は、先行車両が側壁232aの一部に相当するか否か判定している。したがって、車両追跡部176が、先行車両が側壁232aの一部に相当するか否か判定し、その結果が得られるまで、車外環境認識装置120は先行車両への追従制御を行わない。換言すれば、車外環境認識装置120が先行車両への追従制御を行っている間、車両追跡部176が、先行車両が側壁232aの一部に相当するか否か判定することはない。かかる構成により、車両追跡部176は、追従制御が実行されていない状態で、先行車両が側壁232aの一部に相当するか否か判定できるので、先行車両と認識していた部分234を適切に追跡対象から除外することが可能となる。
また、コンピュータを車外環境認識装置120として機能させるプログラムや、当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
例えば、上述した実施形態では、車両追跡部176が、先行車両が側壁232aの一部に相当するか否か判定し、先行車両が側壁232aの一部に相当すると判定すると、先行車両の追跡を停止する例を挙げて説明した。しかし、かかる場合に限らず、その前段の特定物特定処理において、特定物特定部174が、立体物が側壁232aの一部に相当するか否か判定し、立体物が側壁232aの一部に相当すると判定すると、先行車両として特定しないとすることもできる。かかる構成によっても、側壁232aの一部に相当する立体物が先行車両の候補から除外されるので、結果、車両追跡部176が、本来は存在していない先行車両を、追跡対象の先行車両と誤認識することを抑制することができる。
また、上述した実施形態では、左方向のカーブにおいて、左側に位置する側壁232aの部分234を先行車両として誤認する例を挙げて説明したが、かかる場合に限らず、右方向のカーブにおいて右側に位置する側壁232bの部分に対しても、同処理で対応できることは言うまでもない。
また、上述した実施形態では、車外環境認識装置120が、先行車両への追従制御を開始する前に、車両追跡部176が、先行車両が側壁232aの一部に相当するか否か判定する例を挙げて説明した。しかし、かかる例に限らず、先行車両が側壁232aの一部に相当するか否かの判定と、追従制御とを並行して実行するとしてもよい。例えば、車外環境認識装置120が所定の先行車両への追従制御を行っている間、車両追跡部176は、その追従制御の対象となる先行車両以外の領域において、他の先行車両が側壁の一部に相当するか否か判定することができる。
なお、本明細書の車外環境認識方法の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。
本発明は、自車両の進行方向に存在する立体物を特定する車外環境認識装置に利用することができる。
110 撮像装置
120 車外環境認識装置
170 位置導出部
172 立体物特定部
174 特定物特定部
176 車両追跡部
120 車外環境認識装置
170 位置導出部
172 立体物特定部
174 特定物特定部
176 車両追跡部
Claims (5)
- 撮像された画像におけるブロック単位の三次元位置を導出する位置導出部と、
前記三次元位置の差分が所定範囲内にあるブロック同士をグルーピングして立体物を特定する立体物特定部と、
前記立体物から先行車両および側壁を特定する特定物特定部と、
前記先行車両の未来の位置を予測して前記先行車両を追跡する車両追跡部と、
を備え、
前記車両追跡部は、前記特定物特定部が特定した前記先行車両が前記側壁の一部に相当するか否か判定する車外環境認識装置。 - 前記車両追跡部は、前記先行車両が前記側壁の一部に相当すると判定すると、前記先行車両の追跡を停止する請求項1に記載の車外環境認識装置。
- 前記車両追跡部は、前記先行車両と自車両との相対速度が0とみなせる場合、前記先行車両は前記側壁の一部に相当すると判定する請求項1または2に記載の車外環境認識装置。
- 前記車両追跡部は、前記先行車両の速度ベクトルと、前記先行車両の奥行き位置における前記側壁の接線とのなす角度が0とみなせる場合、前記先行車両は前記側壁の一部に相当すると判定する請求項1から3のいずれか1項に記載の車外環境認識装置。
- 前記車両追跡部は、前記先行車両と前記側壁との水平距離が0とみなせる場合、前記先行車両は前記側壁の一部に相当すると判定する請求項1から4のいずれか1項に記載の車外環境認識装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020148665A JP2022043413A (ja) | 2020-09-04 | 2020-09-04 | 車外環境認識装置 |
US17/465,004 US11958483B2 (en) | 2020-09-04 | 2021-09-02 | Vehicle external environment recognition apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020148665A JP2022043413A (ja) | 2020-09-04 | 2020-09-04 | 車外環境認識装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022043413A true JP2022043413A (ja) | 2022-03-16 |
Family
ID=80470247
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020148665A Pending JP2022043413A (ja) | 2020-09-04 | 2020-09-04 | 車外環境認識装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11958483B2 (ja) |
JP (1) | JP2022043413A (ja) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3349060B2 (ja) | 1997-04-04 | 2002-11-20 | 富士重工業株式会社 | 車外監視装置 |
US9255988B2 (en) * | 2014-01-16 | 2016-02-09 | GM Global Technology Operations LLC | Object fusion system of multiple radar imaging sensors |
-
2020
- 2020-09-04 JP JP2020148665A patent/JP2022043413A/ja active Pending
-
2021
- 2021-09-02 US US17/465,004 patent/US11958483B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US11958483B2 (en) | 2024-04-16 |
US20220073066A1 (en) | 2022-03-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9280900B2 (en) | Vehicle external environment recognition device | |
US9978276B2 (en) | Vehicle exterior environment recognition device | |
US9975551B2 (en) | Vehicle exterior environment recognition device | |
WO2012141219A1 (ja) | 走行支援装置及びその隣接車両検出方法 | |
US20150092989A1 (en) | Vehicle external environment recognition device | |
JP2017529517A (ja) | 自動車に接近する対象車両を自動車のカメラシステムにより追跡する方法、カメラシステムおよび自動車 | |
JP6722084B2 (ja) | 物体検出装置 | |
US9524645B2 (en) | Filtering device and environment recognition system | |
US9659376B2 (en) | Filtering device | |
JP2017054386A (ja) | 車外環境認識装置 | |
JP3868915B2 (ja) | 前方監視装置及びその方法 | |
JP2015170240A (ja) | 車外環境認識装置 | |
JP7356319B2 (ja) | 車外環境認識装置 | |
JP2022043413A (ja) | 車外環境認識装置 | |
US11816902B2 (en) | Vehicle external environment recognition apparatus | |
JP2019028528A (ja) | 車外環境認識装置 | |
JP6378594B2 (ja) | 車外環境認識装置 | |
JP2014194618A (ja) | 車外環境認識装置および車外環境認識方法 | |
JP2022040651A (ja) | 車外環境認識装置 | |
JP2022039949A (ja) | 車外環境認識装置 | |
CN112606839A (zh) | 车外环境识别装置 | |
JP2013095319A (ja) | 車両用前照灯制御装置 | |
JP2022037358A (ja) | 車外環境認識装置 | |
US9430707B2 (en) | Filtering device and environment recognition system | |
JP2021059322A (ja) | 車外環境認識装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230829 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240611 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240618 |