JP2009230709A - 車両用走行路面検出装置 - Google Patents
車両用走行路面検出装置 Download PDFInfo
- Publication number
- JP2009230709A JP2009230709A JP2008078694A JP2008078694A JP2009230709A JP 2009230709 A JP2009230709 A JP 2009230709A JP 2008078694 A JP2008078694 A JP 2008078694A JP 2008078694 A JP2008078694 A JP 2008078694A JP 2009230709 A JP2009230709 A JP 2009230709A
- Authority
- JP
- Japan
- Prior art keywords
- road surface
- corresponding point
- height
- distance
- lowest
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
【課題】自車両走行路の白線等の路面表示によらずに、走行路の路面高さを検出する。
【解決手段】ステレオカメラによって得られた距離画像から、路傍立設物に係る上下に並ぶ対応点の列を抽出し、この対応点列から高さが最も低い最低対応点を抽出し、この最低対応点の高さ及び前後方向距離の情報に基いて、走行路の路面高さを検出する。
【選択図】図2
【解決手段】ステレオカメラによって得られた距離画像から、路傍立設物に係る上下に並ぶ対応点の列を抽出し、この対応点列から高さが最も低い最低対応点を抽出し、この最低対応点の高さ及び前後方向距離の情報に基いて、走行路の路面高さを検出する。
【選択図】図2
Description
本発明は、自車両の走行路の路面高さを検出する車両用走行路面検出装置に関する。
自車両前方の路面高さを検出する手法として、2つのカメラで自車両前方の路面を撮影し、得られた距離画像から路面高さを求める方法は一般に知られている。例えば特許文献1には、2つのカメラの画像データから路面上の白線部分を検出し、撮像位置から当該白線部分までの距離及び該白線部分の高さを求め、その距離及び高さのデータから当該道路の勾配を検出することが記載されている。同文献には、1回目に求めた白線部分までの距離と2回目に求めた当該白線部分までの距離との距離差と、1回目から2回目までの自車両の走行距離と、自車両の傾き角度とに基いて当該道路の勾配を検出することも記載されている。
特開平9−325026号公報
しかし、従来の自車両前方の路面を撮影した画像中の路面テクスチャから路面高さを求める手法では、路面に白線等の路面表示が存在しない場合、路面高さを求めることが難しくなる。また、自車前方に存する他車、その他の障害物による路面高さの誤検出をなくそうとすれば、それだけ、路面高さを検出するための画像処理負担が大きくなる。
そこで、本発明は、路面に白線等のテクスチャが存在しない場合でも、処理負担を大きくすることなく、路面高さを検出できるようにすることを課題とする。
このような課題を解決するために、本発明では、路傍に存在する建造物、その他の路傍立設物を利用して路面高さを検出するようにした。
請求項1に係る発明は、車両走行路の路傍を含めて車両前方を、互いの撮影画像の少なくとも一部が重複するように撮影する第1及び第2の撮像手段と、
上記第1及び第2の撮像手段で撮影した一対の画像の画素毎に、互いの相関を求めることで両画像の対応点を検出し、検出された各対応点について、上記両撮像手段の視差から求まる前後方向の距離情報を与えた距離画像を作成する距離画像作成手段と、
上記距離画像から、上記路傍において高さが変化するように上下に並ぶ上記対応点の列を抽出し、この対応点列から高さが最も低い最低対応点を抽出する最低対応点抽出手段と、
上記最低対応点に係る高さ及び前後方向距離の情報に基いて、上記走行路の路面高さを検出する路面高さ検出手段とを備えていることを特徴とする車両用走行路面検出装置である。
上記第1及び第2の撮像手段で撮影した一対の画像の画素毎に、互いの相関を求めることで両画像の対応点を検出し、検出された各対応点について、上記両撮像手段の視差から求まる前後方向の距離情報を与えた距離画像を作成する距離画像作成手段と、
上記距離画像から、上記路傍において高さが変化するように上下に並ぶ上記対応点の列を抽出し、この対応点列から高さが最も低い最低対応点を抽出する最低対応点抽出手段と、
上記最低対応点に係る高さ及び前後方向距離の情報に基いて、上記走行路の路面高さを検出する路面高さ検出手段とを備えていることを特徴とする車両用走行路面検出装置である。
すなわち、路傍に存する複数の対応点が、高さが変化するように上下に並んでいるとき、その対応点列は路傍に立つ建造物、その他の立設物から得られたものとみることができる。そして、この対応点列から抽出される高さが最も低い最低対応点は、当該立設物と地面との境に相当する。従って、この最低対応点の高さ情報は、当該立設物が立っている地面の高さ、ひいては走行路面の高さを反映しているということができる。よって、この最低対応点に係る高さ及び前後方向距離の情報に基いて、上記走行路の路面高さを検出することができる。この路面高さを得るための路傍立設物は、移動しない固定物であるから、路面高さを検出するための処理負担が大きくなることはない。
請求項2に係る発明は、請求項1において、
上記路面高さ検出手段は、上記最低対応点抽出手段によって抽出される前後方向に並ぶ複数の最低対応点を曲線近似又は直線近似することにより、上記走行路面高さの変化を検出することを特徴とする。
上記路面高さ検出手段は、上記最低対応点抽出手段によって抽出される前後方向に並ぶ複数の最低対応点を曲線近似又は直線近似することにより、上記走行路面高さの変化を検出することを特徴とする。
すなわち、前後方向に並ぶ複数の最低対応点各々の高さ情報は、対応する路面各点の高さを反映しているから、上記曲線近似又は直線近似により、上記走行路面高さの変化を検出することができる。
請求項3に係る発明は、請求項2において、
上記路面高さ検出手段は、重回帰分析による曲線近似によって上記走行路面高さの変化を検出することを特徴とする。
上記路面高さ検出手段は、重回帰分析による曲線近似によって上記走行路面高さの変化を検出することを特徴とする。
従って、上記走行路面高さの変化を精度良く検出することができる。
請求項4に係る発明は、請求項1において、
上記最低対応点抽出手段は、上記距離画像上に仮想消失点から該距離画像上の近距離側に所定角度で広がる路面画像領域を設定し、この路面画像領域の両外側の画像領域から、上記対応点列を抽出することを特徴とする。
上記最低対応点抽出手段は、上記距離画像上に仮想消失点から該距離画像上の近距離側に所定角度で広がる路面画像領域を設定し、この路面画像領域の両外側の画像領域から、上記対応点列を抽出することを特徴とする。
すなわち、路面高さは路傍立設物に係る対応点に基いて検出するのであるから、走行路面に存する対応点については、上記対応点列抽出の対象とする必要はない。そこで、本発明では、距離画像上の仮想消失点から近距離側に所定角度で広がる画像領域を走行路面の画像領域であるとして設定し、その画像領域の対応点を上記対応点列抽出の対象外としたものである。これにより、対応点列の抽出の処理負担が軽減される。
請求項5に係る発明は、請求項1において、
上記最低対応点抽出手段は、前後方向の距離が近接した所定の距離範囲に、最低対応点の高さが異なる複数の対応点列が抽出されたとき、その複数の最低対応点のうちの最も低い最低対応点を抽出することを特徴とする。
上記最低対応点抽出手段は、前後方向の距離が近接した所定の距離範囲に、最低対応点の高さが異なる複数の対応点列が抽出されたとき、その複数の最低対応点のうちの最も低い最低対応点を抽出することを特徴とする。
すなわち、走行路面の両側に路傍立設物が存在するケース、或いは走行路面の片側に複数の路傍立設物が略同じ前後方向距離で並んで存在するケースでは、それら路傍立設物の裾を撮像手段から遮る物(例えば花壇)が部分的に存在するときは、前後方向距離が近接した所定の距離範囲に、最低対応点の高さが異なる複数の対応点列が抽出される。この場合、高さが低い方の最低対応点が路面高さを反映しているのが通常であるため、複数の最低対応点のうちの最も低い最低対応点を抽出するようにしている。
なお、その複数の最低対応点の平均高さに基いて、走行路の路面高さを検出するようにしてもよい。
以上のように、本発明によれば、第1及び第2の撮像手段によって得られた距離画像から、路傍において高さが変化するように上下に並ぶ上記対応点の列を抽出し、この対応点列から高さが最も低い最低対応点を抽出し、この最低対応点の高さ及び前後方向距離の情報に基いて、走行路の路面高さを検出するようにしたから、白線等の路面テクスチャが得られない場合でも、処理負担の増大を招くことなく、路面高さを検出することができる。
以下、本発明の実施形態を図面に基づいて説明する。尚、以下の好ましい実施形態の説明は、本質的に例示に過ぎず、本発明、その適用物或いはその用途を制限することを意図するものではない。
図1に示すように、本発明の実施形態に係る車両用走行路面検出装置1は、車両2に搭載されており、第1及び第2の撮像手段としての左右一対のカメラ(ステレオカメラ)3,4と、カメラ3,4で撮影された画像を基に各種の演算を行なうECU5とを備えている。各カメラ3,4は、車両1のルーフ部の前端部に、当該車両走行路の路傍を含めて車両前方を撮影できるように、且つ互いの撮影領域(撮影画像)が重複するように、光軸を所定方向に向けて配設されている。各カメラ3,4は、CCD等の撮像素子を有するデジタルカメラにより構成され、取得した画像を信号化してECU5に送信する。
ECU5は、ROM及びRAM等の記憶部や、該記憶部に記憶されているデータに対して演算を行うCPU等を有しており、各カメラ3,4から送信される画像信号を所定周期毎に受信(取得)し、受信した画像信号をデジタル画像データとして前記記憶部に記憶する。左側カメラ画像GL及び右側カメラ画像GR各々のデジタル画像データは、各カメラ画像GL,GRを構成する各画素の画像面上での座標(x,y)情報と、各画素の輝度値情報とからなる。ECU5は、このデジタル画像データを基に距離画像を作成する距離画像作成手段、該距離画像から後述の最低対応点を抽出する最低対応点抽出手段、並びに最低対応点の高さ及び前後方向距離の情報に基いて車両走行路の路面高さを検出する路面高さ検出手段として働く。
以下、ECU5による走行路面検出処理の流れを示す図2のフローチャートに従って具体的に説明する。
スタート後のステップS1で各カメラ3,4から画像信号を取得して画像データとして記憶部に記憶する。続くステップS2では、左側カメラ画像GLと右側カメラ画像GRとで対応する画素、すなわち、対応点を探索(検出)する。対応点とは、画像中の種々の撮像対象における同一部位を構成する画素である。
対応点の検出は、公知の方法であるArea-based matching手法に基づいて行われる。Area-based matching手法とは、一方の画像のある画素に対応する画素を、他方の画像から探す際にその画素の回りの局所的な輝度値(濃度)パターンを手がかりに探索しようとするものである。
具体的には、図3(a),(b)に示すように、左側カメラ画像GLの一の画素回りに3×3ピクセルのウィンドを設定するとともに該ウィンドに囲まれた画像をテンプレート画像GTとして、右側カメラ画像GRのエピポーラ(epipolar line)線EL上に設定した探索範囲GS内でマッチングを行う。本実施形態では、このマッチング処理は、左側カメラ画像GLの全画素に対してそれぞれ実行される。このマッチング処理にはSADアルゴリズム(Sum of Absolute Difference)を採用している。すなわち、前記左側カメラ画像GLに設定されたテンプレート画像GTと、マッチングを行う右側カメラ画像GR内の画像との間で対応する画素間の輝度差の合計値(SAD値)を次式(1)により算出して、この合計値が所定値以下である場合には対応する画素(対応点)が検出されたものとして、その画像面上での座標を記憶する。
当該マッチングに使用するアルゴリズムは、SADアルゴリズムに限ったものではなく、例えば、SSD(Sum of Squared Difference)アルゴリズムや、NCC(Nomalized Cross Correlation)アルゴリズムを採用するようにしてもよい。
続くステップS3では、ステップS2で検出された各対応点について、自車両からの前後方向距離Lziを、左右のカメラ画像GL,GR問での対応点の位置ずれ量(視差)を基に三角測量の原理によって算出する。なお、前後方向距離は、カメラ3,4の焦点位置からの距離である。
図4の左側は上記各対応点についての前後方向距離の算出によって得られる距離画像を概略的に示したものである。なお、実際の距離画像は、画像上の座標(x,y)情報と、輝度値情報と、前後方向距離とを有する対応点データである。図4の例では走行路6の左右の路傍7に建造物8がみられる。
続くステップS4では、ステップS2で検出された各対応点について、路面からの上下方向距離(路面からの高さ)を算出する。なお、この上下方向距離は、対応点の座標(x,y)、カメラ3,4の路面からの高さ、及びカメラ3,4の光軸方向等に基づいて算出する。
続くステップS5では、ステップS4で検出された上下方向距離が算出された対応点群から上下方向に所定値(例えば3m)以上連続的に並ぶ対応点の列を抽出する。この対応点列の抽出は、距離画像上に抽出領域を設定して行なう。すなわち、ここでは、路傍立設物に係る対応点列を抽出しようとするものであり、走行路面に存する対応点については、上記対応点列抽出の対象とする必要はない。そこで、距離画像上に左側カメラ3の光軸に基いて消失点Pを設定し、この消失点Pから距離画像上の近距離側に、所定角度θで広がる画像領域を走行路面に相当する画像領域として設定し、この画像領域の両外側の画像領域を上記抽出領域として、上記対応点列の抽出する。上記所定角度θは走行路の幅員を例えば4mとして設定する。
従って、ステップS5では、建造物、街灯支柱、その他の路傍立設物に係る対応点列が抽出されることになる。
続くステップS6では、上記対応点列を車両前後方向(遠近距離z方向)と上下方向(高さy方向)とで規定される平面(以下、この平面をマッピング平面という)上にマッピングする。図4の右側は当該マッピング平面を示し、同図左側の距離画像の建造物8に係る複数の対応点列Lがマッピングされている。
続くステップS7では、ステップS6で得られたマッピングデータの各対応点列から、高さが最も低い最低対応点を抽出する。図5は上記マッピング平面上の抽出された車両前後方向(遠近距離方向)に並ぶ各最低対応点を示す。この場合、前後方向の距離が近接した所定の距離範囲(例えば、2mの範囲)に、最低対応点の高さが異なる複数の対応点列が抽出されたとき、その複数の最低対応点のうちの最も低い最低対応点を抽出する。
続くステップS8では、上記抽出された最低対応点の総数が所定数α以上である否かを判定する。最低対応点の総数が少ないときは路面高さの検出精度が低下するために所定数α以上という制限を加えるものである。最低対応点の総数が所定数α以上であるときはステップS9に進み、所定数α以上の最低対応点の列に対応する図6に示す近似曲線を重回帰分析により算出する。
本実施の形態においては、近似曲線は式(2)に示す二次関数により定める。その場合に、その係数a,b,cは、ステップS7で抽出された最低対応点の列を構成する各最低対応点の座標値(y,z)を式(2)に代入して最小二乗法により求める。なお、近似式は、式(3)に示す三次関数により定めてもよく、この場合、二次関数の場合と同様に、その係数a,b,c,dは最小二乗法により求めればよい。また、二次関数、三次関数以外にも、適切に近似しうる関数を適用してもよい。
y=az2+bz+c ……(2)
y=az3+bz2+cz+d ……(3)
y=az3+bz2+cz+d ……(3)
続くステップS10では、ステップS9で得られた近似曲線に基いて、自車両前方の走行路面の高さ情報(何m先の路面は自車両位置の路面高さを基準にしてどの位の高低差があるか)を生成する。
従って、上記実施形態においては、ステップS2,S3が距離画像作成手段を構成し、ステップS4〜S7が最低対応点抽出手段を構成し、ステップS9,10が路面高さ検出手段を構成していることになる。そうして、自車両前方の走行路の路傍立設物の画像データに基いて該走行路の路面高さを検出するから、白線等の路面表示がない場合でも路面高さを検出することができる。
また、ステップS5の対応点列の抽出では、対応点列の抽出を行なう画像領域を限定するようにしたから、その抽出処理負担が軽減される。さらに、対応点列のマッピング処理を行なってから、最低対応点の列を抽出し曲線近似を行なうようにしたから、最低対応点を簡易に且つ精度良く抽出することができ、しかも、連続的に変化する路面高さの変化を簡単に検出することができる。
また、短い距離範囲に最低対応点の高さが異なる複数の対応点列が抽出されたときは、その複数の最低対応点のうちの最も低い最低対応点を抽出するようにしたから、例えば、走行路面の両側に路傍立設物が存在する場合において、それら路傍立設物の裾をカメラ3,4から遮る花壇等が存在するときでも、その遮蔽物による路面高さの誤検出を避けることができ、その結果、路面高さの検出精度が高くなる。
なお、路面高さの変化は、上記最低対応点の列からの曲線近似ではなく直線近似によって求めてよい。
1 車両用走行路面検出装置
2 車両
3 左側カメラ
4 右側カメラ
5 ECU
6 走行路
7 路傍
8 建造物
2 車両
3 左側カメラ
4 右側カメラ
5 ECU
6 走行路
7 路傍
8 建造物
Claims (5)
- 車両走行路の路傍を含めて車両前方を、互いの撮影画像の少なくとも一部が重複するように撮影する第1及び第2の撮像手段と、
上記第1及び第2の撮像手段で撮影した一対の画像の画素毎に、互いの相関を求めることで両画像の対応点を検出し、検出された各対応点について、上記両撮像手段の視差から求まる前後方向の距離情報を与えた距離画像を作成する距離画像作成手段と、
上記距離画像から、上記路傍において高さが変化するように上下に並ぶ上記対応点の列を抽出し、この対応点列から高さが最も低い最低対応点を抽出する最低対応点抽出手段と、
上記最低対応点に係る高さ及び前後方向距離の情報に基いて、上記走行路の路面高さを検出する路面高さ検出手段とを備えていることを特徴とする車両用走行路面検出装置。 - 請求項1において、
上記路面高さ検出手段は、上記最低対応点抽出手段によって抽出される前後方向に並ぶ複数の最低対応点を曲線近似又は直線近似することにより、上記走行路面高さの変化を検出することを特徴とする車両用走行路面検出装置。 - 請求項2において、
上記路面高さ検出手段は、重回帰分析による曲線近似によって上記走行路面高さの変化を検出することを特徴とする車両用走行路面検出装置。 - 請求項1において、
上記最低対応点抽出手段は、上記距離画像上に仮想消失点から該距離画像上の近距離側に所定角度で広がる路面画像領域を設定し、この路面画像領域の両外側の画像領域から、上記対応点列を抽出することを特徴とする車両用走行路面検出装置。 - 請求項1において、
上記最低対応点抽出手段は、前後方向の距離が近接した所定の距離範囲に、最低対応点の高さが異なる複数の対応点列が抽出されたとき、その複数の最低対応点のうちの最も低い最低対応点を抽出することを特徴とする車両用走行路面検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008078694A JP2009230709A (ja) | 2008-03-25 | 2008-03-25 | 車両用走行路面検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008078694A JP2009230709A (ja) | 2008-03-25 | 2008-03-25 | 車両用走行路面検出装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009230709A true JP2009230709A (ja) | 2009-10-08 |
Family
ID=41245967
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008078694A Pending JP2009230709A (ja) | 2008-03-25 | 2008-03-25 | 車両用走行路面検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009230709A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014225220A (ja) * | 2013-02-18 | 2014-12-04 | 株式会社リコー | 移動面情報検出装置、及びこれを用いた移動体機器制御システム並びに移動面情報検出用プログラム |
-
2008
- 2008-03-25 JP JP2008078694A patent/JP2009230709A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014225220A (ja) * | 2013-02-18 | 2014-12-04 | 株式会社リコー | 移動面情報検出装置、及びこれを用いた移動体機器制御システム並びに移動面情報検出用プログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11062155B2 (en) | Monocular cued detection of three-dimensional structures from depth images | |
JP4956452B2 (ja) | 車両用環境認識装置 | |
JP4930046B2 (ja) | 路面判別方法および路面判別装置 | |
JP4363295B2 (ja) | ステレオ画像による平面推定方法 | |
JP4341564B2 (ja) | 対象物判定装置 | |
JP6362442B2 (ja) | 車線境界線抽出装置、車線境界線抽出方法、及びプログラム | |
US9594966B2 (en) | Obstacle detection device and obstacle detection method | |
JP6524529B2 (ja) | 建築限界判定装置 | |
JP2008033750A (ja) | 物体傾き検出装置 | |
JP6552448B2 (ja) | 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム | |
JP2009053818A (ja) | 画像処理装置及びその方法 | |
JP6837262B2 (ja) | 走行可能領域検出装置及び走行支援システム | |
JP2011118509A (ja) | 道路認識装置 | |
JP2007264955A (ja) | 車線位置検出装置 | |
CN107430774A (zh) | 行驶道路识别装置和使用其的行驶辅助系统 | |
JP4032843B2 (ja) | 監視システムおよび監視方法、当該監視システムにおける距離補正装置および距離補正方法 | |
JP5188429B2 (ja) | 環境認識装置 | |
JPH11351862A (ja) | 前方車両検出方法及び装置 | |
JP2007264712A (ja) | 車線検出装置 | |
JP5034809B2 (ja) | 車両用路面状態推定装置 | |
JP4956099B2 (ja) | 壁検出装置 | |
JP4067340B2 (ja) | 対象物認識装置および対象物認識方法 | |
US20200193184A1 (en) | Image processing device and image processing method | |
JP3807583B2 (ja) | 道路領域判定装置 | |
JP2536986B2 (ja) | 車間距離検出装置 |