JP6731020B2 - 車外環境認識装置および車外環境認識方法 - Google Patents

車外環境認識装置および車外環境認識方法 Download PDF

Info

Publication number
JP6731020B2
JP6731020B2 JP2018164626A JP2018164626A JP6731020B2 JP 6731020 B2 JP6731020 B2 JP 6731020B2 JP 2018164626 A JP2018164626 A JP 2018164626A JP 2018164626 A JP2018164626 A JP 2018164626A JP 6731020 B2 JP6731020 B2 JP 6731020B2
Authority
JP
Japan
Prior art keywords
back surface
dimensional object
intersection
distance
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018164626A
Other languages
English (en)
Other versions
JP2020038446A (ja
Inventor
淑実 大久保
淑実 大久保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Subaru Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Subaru Corp filed Critical Subaru Corp
Priority to JP2018164626A priority Critical patent/JP6731020B2/ja
Priority to CN201910439393.9A priority patent/CN110871808A/zh
Priority to US16/460,258 priority patent/US11010625B2/en
Priority to DE102019118642.0A priority patent/DE102019118642A1/de
Publication of JP2020038446A publication Critical patent/JP2020038446A/ja
Application granted granted Critical
Publication of JP6731020B2 publication Critical patent/JP6731020B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects

Description

本発明は、自車両の進行方向に存在する立体物を特定する車外環境認識装置および車外環境認識方法に関する。
従来、自車両の前方に位置する車両等の立体物を検出し、先行車両との衝突を回避したり(衝突回避制御)、先行車両との車間距離を安全な距離に保つように制御する(クルーズコントロール)技術が知られている(例えば、特許文献1)。
特許第3349060号公報
上記のような衝突回避制御やクルーズコントロールを実現するためには、車両前方の車外環境を把握し、自車両の進行方向に存在する立体物を適切に特定して、その立体物が先行車両等の特定物であるか否か判定しなければならない。立体物を適切に特定するために、例えば、ステレオ画像処理によって生成された距離画像を用い、3次元位置が互いに隣接するブロック同士を立体物の背面や側面としてグループ化し、背面と側面を同一の立体物としてペアリングすることが考えられる。
しかし、距離画像における相対距離の測定誤差やミスマッチングによるノイズによって背面や側面を構成するブロックが揺れ動くと、背面と側面とを適切にペアリングできず、それらを同一の立体物として安定的に特定することが困難となる。
本発明は、このような課題に鑑み、背面と側面とを適切にペアリングすることで、立体物の特定精度を向上することが可能な車外環境認識装置および車外環境認識方法を提供することを目的としている。
上記課題を解決するために、本発明の車外環境認識装置は、コンピュータが、撮像装置から取得した画像における各ブロックの3次元位置を導出する位置導出部と、ブロック同士をグループ化して立体物候補を特定するグループ化部と、立体物候補を水平面に投影し、奥行き方向に対する角度に基づいて背面と側面とに区別し、側面と背面との関係が所定条件を満たせば同一の立体物としてペアリングするペアリング部と、して機能し、ペアリング部は、背面の近似直線と側面の近似直線との交点、背面における交点側と逆の端点、および、側面における交点側と逆の端点の少なくともいずれかを、実測値と予測値との中間点に補正する。
上記課題を解決するために、本発明の車外環境認識方法は、撮像装置から取得した画像における各ブロックの3次元位置を導出し、ブロック同士をグループ化して立体物候補を特定し、立体物候補を水平面に投影し、奥行き方向に対する角度に基づいて背面と側面とに区別し、側面と背面との関係が所定条件を満たせば同一の立体物としてペアリングし、背面の近似直線と側面の近似直線との交点、背面における交点側と逆の端点、および、側面における交点側と逆の端点の少なくともいずれかを、実測値と予測値との中間点に補正する。
本発明によれば、背面と側面とを適切にペアリングすることで、立体物の特定精度を向上することが可能となる。
車外環境認識システムの接続関係を示したブロック図である。 車外環境認識装置の概略的な機能を示した機能ブロック図である。 車外環境認識方法の流れを示すフローチャートである。 輝度画像と距離画像を説明するための説明図である。 グループ化処理を例示した説明図である。 ペアリング部の動作を説明するための説明図である。 ペアリング部の動作を説明するための説明図である。 ペアリング部の動作を説明するための説明図である。 ペアリング部の動作を説明するための説明図である。 ペアリング部の動作を説明するための説明図である。 背面と側面の補正を説明するための説明図である。
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書および図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
(車外環境認識システム100)
図1は、車外環境認識システム100の接続関係を示したブロック図である。車外環境認識システム100は、自車両1において、撮像装置110と、車外環境認識装置120と、車両制御装置(ECU:Engine Control Unit)130とを含んで構成される。
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成される。撮像装置110は、自車両1の前方の車外環境を撮像し、少なくとも輝度の情報が含まれる輝度画像(カラー画像やモノクロ画像)を生成する。また、撮像装置110は、自車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、自車両1の前方の検出領域に存在する立体物を撮像した輝度画像を、例えば1/60秒のフレーム毎(60fps)に連続して生成する。ここで、撮像装置110によって認識する立体物は、自転車、歩行者、車両、信号機、道路標識、ガードレール、建物といった独立して存在する物のみならず、車両の背面や側面、自転車の車輪等、その一部として特定できる物も含む。ここで、車両の背面は、自車両1に対向する面を示し、車両自体の後方面を示すものではない。
また、車外環境認識装置120は、2つの撮像装置110それぞれから輝度画像を取得し、所謂パターンマッチングを用いて距離画像を生成する。車外環境認識装置120は、距離画像に基づき、所謂ステレオ法を用いて、自車両1との相対距離を含む実空間における3次元空間の位置情報を導出する。かかる輝度画像、距離画像、パターンマッチング、ステレオ法については後程詳述する。
続いて、車外環境認識装置120は、導出した位置情報を用い、まず路面を特定し、特定した路面上に位置し、カラー値が等しく3次元の位置情報が互いに隣接するブロック同士を立体物の背面や側面としてグループ化する。そして、車外環境認識装置120は、その背面と側面をペアリングすることによって立体物を特定し、立体物がいずれの特定物(例えば、先行車両)に対応するかを特定する。また、車外環境認識装置120は、このように特定物を特定すると、特定物との衝突を回避したり(衝突回避制御)、先行車両との車間距離を安全な距離に保つように自車両1を制御する(クルーズコントロール)。
車両制御装置130は、ステアリングホイール132、アクセルペダル134、ブレーキペダル136を通じて運転手の操作入力を受け付け、操舵機構142、駆動機構144、制動機構146に伝達することで自車両1を制御する。また、車両制御装置130は、車外環境認識装置120の指示に従い、操舵機構142、駆動機構144、制動機構146を制御する。
(車外環境認識装置120)
図2は、車外環境認識装置120の概略的な機能を示した機能ブロック図である。図2に示すように、車外環境認識装置120は、I/F部150と、データ保持部152と、中央制御部154とを含んで構成される。
I/F部150は、撮像装置110、および、車両制御装置130との双方向の情報交換を行うためのインターフェースである。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、以下に示す各機能部の処理に必要な様々な情報を保持する。
中央制御部154は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス156を通じて、I/F部150、データ保持部152等を制御する。また、本実施形態において、中央制御部154は、位置導出部170、グループ化部172、ペアリング部174、立体物特定部176としても機能する。以下、当該中央制御部154の各機能部の動作も踏まえて詳述する。
(車外環境認識方法)
図3は、車外環境認識方法の流れを示すフローチャートである。車外環境認識方法では、位置導出部170が、撮像装置110から取得した輝度画像における各ブロックの3次元位置を導出し(位置導出処理S200)、グループ化部172が、ブロック同士をグループ化して立体物候補を特定し(グループ化処理S202)、ペアリング部174が、立体物候補を水平面に投影し、奥行き方向に対する角度に基づいて背面と側面とに区別し、側面と背面との関係が所定条件を満たせば同一の立体物としてペアリングし(ペアリング処理S204)、立体物特定部176が、ペアリングされた立体物やその他の立体物がいずれの特定物に対応するか特定する(立体物特定処理S206)。
(位置導出処理S200)
位置導出部170は、2つの撮像装置110それぞれから輝度画像を取得し、一方の輝度画像から任意に抽出したブロック(例えば水平4画素×垂直4画素の配列)に対応するブロックを他方の輝度画像から検索し(パターンマッチング)、視差を示す視差情報(後述する相対距離zに相当)を導出する。位置導出部170は、導出された視差情報を各ブロックに配して距離画像を生成する。ここでは、ブロックを水平4画素×垂直4画素としているが、ブロック内の画素数は任意に設定することができる。また、ブロックの代わりに1画素を用いてもよい。また、「水平」は画面横方向を示し、「垂直」は画面縦方向を示し、「奥行き」は画面奥行き方向を示す。
図4は、輝度画像212と距離画像214を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域216について図4(a)のような輝度画像212が生成されたとする。ただし、ここでは、理解を容易にするため、撮像装置110それぞれが生成した2つの輝度画像212の一方のみを模式的に示している。本実施形態において、位置導出部170は、このような輝度画像212からブロック毎の視差を求め、図4(b)のような距離画像214を形成する。距離画像214における各ブロックには、そのブロックの視差情報が関連付けられている。ここでは、説明の便宜上、視差情報が導出されたブロックを黒のドットで表している。
位置導出部170は、距離画像214のブロック毎の視差情報を、所謂ステレオ法を用いて、水平距離x、高さyおよび相対距離zを含む実空間における3次元位置に変換する。ここで、ステレオ法は、三角測量法を用いることで、ブロック(画素または複数の画素からなるブロック)の距離画像214における視差からそのブロックの撮像装置110に対する相対距離zを導出する方法である。このとき、位置導出部170は、ブロックの相対距離zと、ブロックと同相対距離zにある道路表面上の点とブロックとの距離画像214上の検出距離とに基づいて、ブロックの道路表面からの高さyを導出する。そして、導出された3次元位置を改めて距離画像214に対応付ける。かかる相対距離zの導出処理や3次元位置の特定処理は、様々な公知技術を適用できるので、ここでは、その説明を省略する。
(グループ化処理S202)
グループ化部172は、3次元位置の差分が所定範囲内にあるブロック同士をグループ化する。具体的に、グループ化部172は、距離画像214における、水平距離xの差分、高さyの差分および相対距離zの差分が予め定められた範囲(例えば0.1m)内にあるブロック同士を、同一の特定物に対応すると仮定してグループ化する。こうして、仮想的なブロック群が生成される。また、グループ化部172は、グループ化により新たに追加されたブロックに関しても、そのブロックを基点として、水平距離xの差分、高さyの差分および相対距離zの差分が所定範囲内にあるブロックをさらにグループ化する。結果的に、同一の特定物と仮定可能なブロック全てがグループ化されることとなる。
図5は、グループ化処理S202を例示した説明図である。ここで、例えば、図5(a)のような距離画像214が生成されたとする。グループ化部172は、かかる距離画像214からブロック同士をグループ化する。こうして、図5(b)のようにグループ化されたブロック群が複数抽出される。なお、グループ化されたブロックの全てが含まれる外形線が、水平線および垂直線、または、奥行き方向に延びる線および垂直線からなる矩形状の枠(面)が立体物候補220(220a、220b、220c、220d、220e)となる。
このとき、グループ化されたブロック群を水平距離xおよび相対距離zで示す2次元の水平面(水平方向と奥行き方向によって形成される面)で表すと、立体物候補220a、220b、220c、220d、220eは図5(c)のようになる。ここで、図5(c)における立体物候補220aと立体物候補220bとは異なる立体物候補となっているが、実際は、先行車両の背面と側面とを構成しており、本来一体的な同一の立体物として認識されるべきである。また、立体物候補220dと立体物候補220eも同様に同一の立体物として認識されるべきである。そこで、ペアリング部174は、同一の立体物の背面と側面とすべき立体物候補をペアリングする。
しかし、距離画像214における相対距離の測定誤差やミスマッチングによるノイズによって背面や側面を構成するブロックが揺れ動くと、背面と側面とを適切にペアリングできず、それらを同一の立体物として安定的に特定することが困難となる。そこで、ペアリング部174は、背面と側面とを適切にペアリングすることで、立体物の特定精度を向上する。まず、ペアリング部174は、立体物候補220を水平面に投射した場合の奥行き方向に対する角度に基づいて背面と側面とを区別する。
(ペアリング処理S204)
図6〜図10は、ペアリング部174の動作を説明するための説明図である。かかる図6〜図10は、立体物候補220を水平面に投影したものであり、水平距離xおよび相対距離zのみで表されている。
ペアリング部174は、立体物候補220の近似直線の奥行き方向(相対距離の軸)に対する角度を導出する。ペアリング部174は、導出した角度の絶対値が45度以上135度未満であれば、その立体物候補220を背面とし、0度以上45度未満または135度以上180度以下であれば、その立体物候補220を側面とする。
ここで、例えば、グループ化部172がグループ化した結果が、図6(a)のようになったとする。かかる例では、図6(b)のように、立体物候補220fの近似直線の角度の絶対値は45度以上135度未満となるので背面と判定され、立体物候補220gの近似直線の角度の絶対値は0度以上45度未満となるので側面と判定される。こうして背面と側面とを大凡区別することができる。
ペアリング部174は、このように区別された検出領域216に含まれる背面と側面との全ての組み合わせについて総当たりでペアリング可能か否か判断する。したがって、1の背面に対する全ての側面とのペアリング判断を背面の数だけ繰り返すので、その処理回数は、背面の数×側面の数となる。
なお、このとき、背面と側面との距離が車両の一部として適切な距離(例えば2m)以内であり、背面と側面との速度がいずれも安定し、背面および側面それぞれの長さが所定値(例えば1m)以上であり、かつ、その中央位置が検出領域216内であることをペアリングの前提条件としてもよい。かかるペアリングの前提条件を追加することで、ペアリングの対象を適切に制限する(篩い分ける)ことが可能となり、本来対象とすべきではない背面や側面を不要に処理することを回避できる。なお、ペアリングの前提条件を1つでも満たさなければ、その背面と側面との組み合わせに関し、ペアリング処理S204を行うことなく、ペアリングの対象から即座に除外してもよい。こうして処理負荷の軽減を図ることができる。
ここでは、立体物候補220fに対応する背面222と、立体物候補220gに対応する側面224とを挙げて、そのペアリングの可否を判断する。ペアリング部174は、背面222と側面224との関係が所定条件を満たすか否かによってペアリング可否を判定し、所定の条件を満たすと判定すると、同一の立体物の背面222および側面224としてペアリングする。ここでは、所定の条件として、「端点間距離」、「速度ベクトル距離」、「交点距離」、「成す角度」の4つの項目を説明する。なお、必ずしも4つ全ての項目を採用する必要はなく、適宜1または複数の項目を採用するとしてもよい。
まず、ペアリング部174は、「端点間距離」を判定する。ここでは、図7のように、水平面において、背面222と側面224との互いに近い方の端点を特定し、その特定した端点間の距離を導出する。そして、ペアリング部174は、その端点間距離xが1m未満であることを条件に、(1−x)/1に端点間距離xを代入してスコアを計算する。ここで、端点間距離xが0mであればスコアは1.0、端点間距離xが0.5mであればスコアは0.5、端点間距離xが1.0m以上であればスコアは0となる。ここでは、端点間距離xが短い程、すなわち、背面222と側面224とが近い程、スコアが高くなるようになっている。
次に、ペアリング部174は、「速度ベクトル距離」を判定する。ペアリング部174は、図8(a)のように、水平面において、背面222の速度ベクトルと側面224の速度ベクトルをそれぞれ導出する。そして、ペアリング部174は、図8(b)のように、速度ベクトルの差分ベクトル、すなわち、2つの速度ベクトルの始点を合わせた状態における2つの速度ベクトルの距離を導出する。そして、ペアリング部174は、その速度ベクトル距離yが10km/h未満であることを条件に、(10−y)/10に速度ベクトル距離yを代入してスコアを計算する。ここで、速度ベクトル距離yが0km/hであればスコアは1.0、速度ベクトル距離yが5km/hであればスコアは0.5、速度ベクトル距離yが10km/h以上であればスコアは0となる。ここでは、速度ベクトル距離yが短い程、すなわち、背面222と側面224とが同じ速度ベクトルで進行している程、スコアが高くなるようになっている。
次に、ペアリング部174は、「交点距離」を判定する。ペアリング部174は、図9のように、水平面において、背面222の近似直線と側面224の近似直線との交点と、背面222の交点側の端点との距離を導出する。そして、ペアリング部174は、その交点距離zが1m未満であることを条件に、(1−z)/1に交点距離zを代入してスコアを計算する。ここで、交点距離zが0mであればスコアは1.0、交点距離zが0.5mであればスコアは0.5、交点距離zが1.0m以上であればスコアは0となる。ここでは、交点距離zが短い程、すなわち、背面222と側面224とが近い程、スコアが高くなるようになっている。
ここで、交点距離の対象として、側面224の交点側の端点との距離ではなく、背面222の交点側の端点との距離を採用しているのは下記の理由による。すなわち、側面224に比べ背面222の方が自車両1との相対距離が短いので、認識対象となる領域が大きく、かつ、分解能が高くなる。そうすると、結果的に、背面222の特定精度が高くなり、それに伴い背面222の端点の特定精度も高くなるからである。また、衝突防止制御の観点から、衝突の直接的な対象となる背面222を特定する条件の方が、側面224を特定する条件より厳しいので、結果、より厳しい条件を満たした背面222の端点の方が、信頼性が高くなるからである。ただし、側面224の端点を排除するものではなく、交点距離として、背面222の近似直線と側面224の近似直線との交点と、側面224の端点との距離を導出してもよいし、両方を導出して平均をとってもよい。
次に、ペアリング部174は、「成す角度」を判定する。ペアリング部174は、図10のように、水平面において、背面222の近似直線と側面224の近似直線との成す角度を導出する。そして、ペアリング部174は、その成す角度vが90度に近い70〜110度の範囲であることを条件に、(20−|90−v|)/20に成す角度vを代入してスコアを計算する。ここで、成す角度vが90度であればスコアは1.0、成す角度vが80度であればスコアは0.5、成す角度vが70度以下であればスコアは0となる。ここでは、成す角度vが90度に近い程、すなわち、背面222と側面224とが直角に交わっている程、スコアが高くなるようになっている。
ペアリング部174は、「端点間距離」、「速度ベクトル距離」、「交点距離」、「成す角度」の4つの項目のスコアを全て導出すると、そのスコアの合計値を導出する。なお、このとき、4つの項目のうちの1つでもスコアが0となると、その背面と側面との組合せをペアリングの対象外として除外してもよい。ペアリング部174は、過去の複数フレーム(例えば5フレーム)のスコアと合わせて、その背面222と側面224との同一の組み合わせに関し、スコアの合計値の複数フレーム分の平均(スコア平均値)を導出する。
そして、抽出された複数の背面のうちの任意の1の背面222に対し、側面224を含む全ての側面との組合せに関してスコア平均値が導出されれば、複数の組み合わせに関し、スコア平均値が所定の閾値(例えば1)を超えているか否か判定する。スコア平均値が閾値を超えていれば、閾値を超えている組み合わせのうちスコア平均値が最大となる背面と側面の組合せをペアリングの対象と判断し、ペアリングする。ペアリング部174は、このような処理を、背面の数だけ繰り返す。
なお、ここでは、複数フレームそれぞれのスコアの合計値に拘わらず平均値を導出する例を挙げて説明したが、かかる場合に限らず、複数フレームのうちスコアの合計値が1つでも0であれば、ペアリングの対象外としてもよい。
続いて、ペアリング部174は、かかるペアリングされた立体物を衝突回避制御やクルーズコントロールに用いるべく、ペアリングした背面と側面とを補正し、その補正したデータを後段の処理に利用する。
図11は、背面222と側面224の補正を説明するための説明図である。図11には、図6〜図10同様の背面222と側面224とが示されている。ペアリング部174は、当該フレームでペアリングした背面222と側面224とに対し、まず、実測値を特定する。ここでは、図11に示すように、背面222の近似直線と側面224の近似直線との交点の実測値を実測交点とし、背面222の交点側の端点の実測値を実測交点側端点とし、背面222の交点側と逆の端点の実測値を実測背面端点とし、側面224の交点側と逆の端点の実測値を実測側面端点とする。なお、本実施形態では、背面222と側面224との実際の交点をそのまま用いず、その交点と、背面222の交点側の端点との中間点(平均値)を用いる。これは、上述したように、側面224に比べ背面222の特定精度が高く、背面222の端点の信頼性が高いからである。したがって、交点に相当する実測値は、実測交点と実測交点側端点の中間点を用いることとなる。
続いて、ペアリング部174は、実測値(実測交点と実測交点側端点の中間点、実測背面端点、実測側面端点)それぞれに対応する、過去の値から予測される今回の予測値(予測交点、予測背面端点、予測側面端点)を導出する。具体的に、予測交点は、実測交点と実測交点側端点の中間点の予測値で表され、予測背面端点は、実測背面端点の予測値で表され、予測側面端点は、実測側面端点の予測値で表される。
次に、ペアリング部174は、実測値を補正して補正値(補正交点、補正背面端点、補正側面端点)を導出する。具体的に、補正交点は、予測交点と(実測交点と実測交点側端点の中間点)との中間点で表され、補正背面端点は、予測背面端点と実測背面端点との中間点で表され、補正側面端点は、予測側面端点と実測側面端点との中間点で表される。こうして、補正交点、補正背面端点、補正側面端点は、例えば、図11の位置となる。かかる補正交点、補正背面端点、予測側面端点は、衝突回避制御やクルーズコントロールに用いられる。
ここで、中間点は各点の水平距離および相対距離をそれぞれ平均することで求められる。なお、中間点は、必ずしも平均とすることはなく、その信頼性から重みをつけてもよい。例えば、背面222の端点の信頼性が高い場合、実測交点より実測交点側端点に近い点を中間点として補正交点を求めてもよい。
また、ペアリング部174は、導出された補正交点、補正背面端点、補正側面端点と、過去に導出した複数回分の補正交点、補正背面端点、補正側面端点とを用い、例えば、カルマンフィルタ等によって、次回の予測交点、予測背面端点、予測側面端点とを導出する。このとき、特に、背面や側面の相対速度を考慮し、次回の補正交点の位置を予測する。
(立体物特定処理S206)
立体物特定部176は、ペアリング部174によってペアリングされた立体物やその他の立体物がいずれの特定物に対応するか特定する。例えば、立体物特定部176は、立体物が、車両らしい大きさ、形状、相対速度であり、かつ、後方の所定の位置にブレーキランプやハイマウントストップランプ等の発光源が確認された場合、その立体物を先行車両と特定する。
以上、説明したように、本実施形態では、背面と側面とを適切にペアリングし、さらに、そのペアリングされた背面と側面を補正することで、立体物の特定精度を向上することが可能となる。
また、コンピュータを車外環境認識装置120として機能させるプログラムや、当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
なお、本明細書の車外環境認識方法の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。
本発明は、自車両の進行方向に存在する立体物を特定する車外環境認識装置および車外環境認識方法に利用することができる。
110 撮像装置
120 車外環境認識装置
170 位置導出部
172 グループ化部
174 ペアリング部

Claims (2)

  1. コンピュータが、
    撮像装置から取得した画像における各ブロックの3次元位置を導出する位置導出部と、
    前記ブロック同士をグループ化して立体物候補を特定するグループ化部と、
    前記立体物候補を水平面に投影し、奥行き方向に対する角度に基づいて背面と側面とに区別し、前記側面と前記背面との関係が所定条件を満たせば同一の立体物としてペアリングするペアリング部と、
    して機能し、
    前記ペアリング部は、前記背面の近似直線と前記側面の近似直線との交点、前記背面における前記交点側と逆の端点、および、前記側面における前記交点側と逆の端点の少なくともいずれかを、実測値と予測値との中間点に補正する車外環境認識装置。
  2. 撮像装置から取得した画像における各ブロックの3次元位置を導出し、
    前記ブロック同士をグループ化して立体物候補を特定し、
    前記立体物候補を水平面に投影し、奥行き方向に対する角度に基づいて背面と側面とに区別し、前記側面と前記背面との関係が所定条件を満たせば同一の立体物としてペアリングし、
    前記背面の近似直線と前記側面の近似直線との交点、前記背面における前記交点側と逆の端点、および、前記側面における前記交点側と逆の端点の少なくともいずれかを、実測値と予測値との中間点に補正する車外環境認識方法。
JP2018164626A 2018-09-03 2018-09-03 車外環境認識装置および車外環境認識方法 Active JP6731020B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018164626A JP6731020B2 (ja) 2018-09-03 2018-09-03 車外環境認識装置および車外環境認識方法
CN201910439393.9A CN110871808A (zh) 2018-09-03 2019-05-24 车外环境识别装置及车外环境识别方法
US16/460,258 US11010625B2 (en) 2018-09-03 2019-07-02 Vehicle exterior environment recognition apparatus and method of recognizing exterior environment outside vehicle
DE102019118642.0A DE102019118642A1 (de) 2018-09-03 2019-07-10 Fahrzeugaussenumgebungserkennungsvorrichtung und Verfahren zur Erkennung der Aussenumgebung eines Fahrzeugs

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018164626A JP6731020B2 (ja) 2018-09-03 2018-09-03 車外環境認識装置および車外環境認識方法

Publications (2)

Publication Number Publication Date
JP2020038446A JP2020038446A (ja) 2020-03-12
JP6731020B2 true JP6731020B2 (ja) 2020-07-29

Family

ID=69527392

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018164626A Active JP6731020B2 (ja) 2018-09-03 2018-09-03 車外環境認識装置および車外環境認識方法

Country Status (4)

Country Link
US (1) US11010625B2 (ja)
JP (1) JP6731020B2 (ja)
CN (1) CN110871808A (ja)
DE (1) DE102019118642A1 (ja)

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3349060B2 (ja) * 1997-04-04 2002-11-20 富士重工業株式会社 車外監視装置
EP1890128B1 (en) * 2003-03-14 2011-11-23 Liwas APS A device for detection of road surface condition
EP1974998B1 (en) * 2007-03-26 2011-05-25 Aisin AW Co., Ltd. Driving support method and driving support apparatus
JP2010274813A (ja) * 2009-05-29 2010-12-09 Fujitsu Ten Ltd 画像生成装置及び画像表示システム
JP5338566B2 (ja) * 2009-08-25 2013-11-13 富士通株式会社 車両検出装置、車両検出プログラム、および車両検出方法
JP5580233B2 (ja) * 2011-03-22 2014-08-27 富士重工業株式会社 車外監視装置および車外監視方法
JP2012243049A (ja) * 2011-05-19 2012-12-10 Fuji Heavy Ind Ltd 環境認識装置および環境認識方法
JP5612621B2 (ja) * 2012-02-28 2014-10-22 富士重工業株式会社 車外環境認識装置
CN104364832B (zh) * 2012-06-15 2016-09-07 丰田自动车株式会社 跟随控制装置
WO2015041005A1 (ja) * 2013-09-19 2015-03-26 富士通テン株式会社 画像生成装置、画像表示システム、画像生成方法、および画像表示方法
JP5906224B2 (ja) * 2013-09-27 2016-04-20 富士重工業株式会社 車外環境認識装置
JP6395393B2 (ja) * 2014-02-13 2018-09-26 株式会社小糸製作所 車両の運転支援装置
US10127463B2 (en) * 2014-11-21 2018-11-13 Magna Electronics Inc. Vehicle vision system with multiple cameras
KR102623680B1 (ko) * 2015-02-10 2024-01-12 모빌아이 비젼 테크놀로지스 엘티디. 자율 주행을 위한 약도
JP6132412B2 (ja) * 2015-09-24 2017-05-24 株式会社Subaru 車外環境認識装置
WO2018009552A1 (en) * 2016-07-05 2018-01-11 Nauto Global Limited System and method for image analysis
WO2018055449A2 (en) * 2016-09-20 2018-03-29 Innoviz Technologies Ltd. Lidar systems and methods
US20190066382A1 (en) * 2017-08-31 2019-02-28 Denso Ten Limited Driving support device, driving support method, information providing device and information providing method
CN107554430B (zh) * 2017-09-20 2020-01-17 京东方科技集团股份有限公司 车辆盲区可视化方法、装置、终端、系统及车辆

Also Published As

Publication number Publication date
US20200074195A1 (en) 2020-03-05
JP2020038446A (ja) 2020-03-12
CN110871808A (zh) 2020-03-10
DE102019118642A1 (de) 2020-03-05
US11010625B2 (en) 2021-05-18

Similar Documents

Publication Publication Date Title
US9224055B2 (en) Exterior environment recognition device
JP5537492B2 (ja) 環境認識装置
JP5906224B2 (ja) 車外環境認識装置
JP6741646B2 (ja) 車外環境認識装置
JP2012243048A (ja) 環境認識装置および環境認識方法
US11145063B2 (en) Image processing apparatus
JP6591188B2 (ja) 車外環境認識装置
JP6514736B2 (ja) 車外環境認識装置
JP7356319B2 (ja) 車外環境認識装置
JP6731020B2 (ja) 車外環境認識装置および車外環境認識方法
JP7229032B2 (ja) 車外物体検出装置
JP6174960B2 (ja) 車外環境認識装置
JP6660367B2 (ja) 車外環境認識装置
JP6329438B2 (ja) 車外環境認識装置
JP6174884B2 (ja) 車外環境認識装置および車外環境認識方法
JP6764378B2 (ja) 車外環境認識装置
JP6378594B2 (ja) 車外環境認識装置
CN112606839A (zh) 车外环境识别装置
JP2022040651A (ja) 車外環境認識装置
JP7352432B2 (ja) 車外環境認識装置
JP6273156B2 (ja) 歩行者認識装置
CN109017775A (zh) 车外环境识别装置及车外环境识别方法
US11958483B2 (en) Vehicle external environment recognition apparatus
JP2022037358A (ja) 車外環境認識装置
JP2020086791A (ja) 車外環境認識装置および車外環境認識方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190328

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200331

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200518

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200609

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200703

R150 Certificate of patent or registration of utility model

Ref document number: 6731020

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250