JP4408095B2 - 車両及び路面標示認識装置 - Google Patents

車両及び路面標示認識装置 Download PDF

Info

Publication number
JP4408095B2
JP4408095B2 JP2005164764A JP2005164764A JP4408095B2 JP 4408095 B2 JP4408095 B2 JP 4408095B2 JP 2005164764 A JP2005164764 A JP 2005164764A JP 2005164764 A JP2005164764 A JP 2005164764A JP 4408095 B2 JP4408095 B2 JP 4408095B2
Authority
JP
Japan
Prior art keywords
value
pixel
color
road
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005164764A
Other languages
English (en)
Other versions
JP2006338556A (ja
Inventor
卓馬 中森
友好 青木
幸男 小林
直樹 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2005164764A priority Critical patent/JP4408095B2/ja
Priority to EP06746625A priority patent/EP1887522B1/en
Priority to US11/919,554 priority patent/US8050456B2/en
Priority to CA2609533A priority patent/CA2609533C/en
Priority to DE602006010368T priority patent/DE602006010368D1/de
Priority to PCT/JP2006/309957 priority patent/WO2006129493A1/ja
Publication of JP2006338556A publication Critical patent/JP2006338556A/ja
Application granted granted Critical
Publication of JP4408095B2 publication Critical patent/JP4408095B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour

Description

本発明は、カメラ等の撮像手段を介して取得された道路の画像を処理して、道路のレーンマーク等の路面標示を認識する車両及び路面標示認識装置に関する。
近年、車両にCCDカメラ等の撮像手段を搭載して、走行している高速道路等の路面を撮像し、得られた画像を処理して道路上の白線等のレーンマークを検出する技術が提案されている(例えば、特許文献1参照)。
特許文献1の車両用白線検出装置においては、車両に搭載したカメラで取得した走行路のモノクロ画像(白黒2値画像)を用いて、画像全領域にわたって2値データが明(白)から暗(黒)に変化するエッジ点(正エッジ点)、2値データが暗(黒)から明(白)に変化するエッジ点(負エッジ点)を抽出する。そして、正エッジ点と負エッジ点とを別々にハフ変換して、それぞれのハフ変換の結果を組み合わせて、白線を検出する。
一方、路面表示(レーンマークや道路標示)には、白線以外に、例えば黄線が用いられる場合もある。このような、白色以外の路面表示を検出する場合には、モノクロ画像から路面標示を精度良く検出することは困難である。このため、カラー画像を用いて路面標示を検出する技術が提案されている(例えば、特許文献2参照)。
しかしながら、カメラで道路を撮像する際には、道路周辺の建造物により路面の一部に影ができたり、車両のヘッドライトで路面の一部が照らされたりしていることがある。そして、このように路面を照射する光源や道路周辺の環境により路面の照射状態が部分的に異なっている状況で、道路を撮像すると、例えば図3に示すように、影のできている領域A3では、散乱光によってのみ照射され、画像データの色の特徴量が変化するため、この領域に存在する黄線が本来の黄色として認識されないものとなってしまう。よって、特許文献2のもののようにカラー画像を用いても、白色以外の路面標示を適切に検出することが困難な場合があるという不都合があった。
特開平11−85999号公報 特許第3333468号公報
本発明は、かかる不都合を解消し、道路の照射状態が部分的に異なる場合でも、カメラ等の撮像手段を介して取得された道路のカラー画像から、レーンマーク等の路面標示を精度良く認識することができる車両及び路面標示認識装置を提供することを目的とする。
本発明の第1態様の車両は、撮像手段と、前記撮像手段を介して道路のカラー画像を取得する画像取得手段と、前記カラー画像の各画素のカラー成分から、前記道路の路面標示の色に対応した各画素の特徴量を算出する特徴量算出手段と、前記カラー画像の各画素の前記特徴量を、該カラー画像における各画素の位置に合わせて配列した特徴画像から、前記道路の路面標示を検出する路面標示検出手段とを有し、前記カラー画像の各画素のカラー成分は、R値、G値及びB値、又はC値、M値及びY値からなり、前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、各画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の比を用いることを特徴とする。
また、本発明の第1態様の路面標示認識装置は、撮像手段を介して道路のカラー画像を取得する画像取得手段と、前記カラー画像の各画素のカラー成分から、前記道路の路面標示の色に対応した各画素の特徴量を、該カラー成分に対する明るさの影響を低減するように算出する特徴量算出手段と、前記カラー画像の各画素の前記特徴量を、該カラー画像における各画素の位置に合わせて配列した特徴画像から、前記道路の路面標示を検出する路面標示検出手段とを有し、前記カラー画像の各画素のカラー成分は、R値、G値及びB値、又はC値、M値及びY値からなり、前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、各画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の比を用いることを特徴とする。
前記第1態様の車両及び路面標示認識装置によれば、前記特徴量算出手段は、前記カラー画像の各画素のカラー成分から、前記道路の路面標示の色に対応した各画素の特徴量を算出する。例えば、黄色の路面標示を検出する場合、黄色に対応した特徴量を、各画素のカラー成分から算出する。これにより、黄色の路面標示の特徴を顕著に示す特徴量が算出される。
ここで、前記道路のカラー画像には、路面を照射する光源や道路周辺の環境による路面の照射状態の相違によって、明るさが異なる領域が存在する場合がある。そして、前記カラー画像内の明るさが異なる領域間では、画素のカラー成分のレベルが、明るさに応じて相違する。例えば、影のできている領域のカラー成分のレベルは、影ができていない一般的な明るさを想定して設定したカラー成分の基準レベルより小さくなっている。そして、領域によっては、カラー成分のレベルと基準レベルとの相違が大きいために、該カラー成分に基づいて路面標示(黄線)を検出すると、路面標示の認識が困難な場合がある。
(削除)
(削除)
本発明の第1態様によれば、前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、各画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の比を用いる。このとき、前記所定の2つの値の比は、前記路面標示の色の特徴を顕著に示す値となる。例えば、各画素のカラー成分がR値、G値及びB値であるときに、カラー画像から黄線に対応した特徴量(黄色成分)を抽出する場合には、黄色は、R値が高く、B値が低い傾向を持つので、R値とB値との比は、黄色成分の特徴を顕著に示す値となる。
そして、前記各画素のカラー成分であるR値、G値及びB値、又はC値、M値及びY値は、それぞれ、明るさの影響により同じように変化している。例えば、各画素が明るい場合には、該画素のカラー成分はいずれも大きくなり、各画素が暗い場合には、該画素のカラー成分はいずれも小さくなる。よって、前記所定の2つの値の比を取ることで、前記カラー成分に対する明るさの影響が相殺され、該カラー成分に対する明るさの影響を低減するように前記特徴量が算出される。これにより、前記カラー画像の各画素の前記特徴量が、明るさに関して同レベルになるように適切に算出される。
そして、前記路面標示検出手段は、前記カラー画像の各画素の前記特徴量を、該カラー画像における各画素の位置に合わせて配列した特徴画像から、前記道路の路面標示を検出するので、撮像された道路のカラー画像に明るさが異なる部分がある場合にも、路面標示を精度良く認識することができる。
次に、本発明の第2態様の車両は、撮像手段と、前記撮像手段を介して道路のカラー画像を取得する画像取得手段と、前記カラー画像の各画素のカラー成分から、各画素の輝度値を算出する輝度値算出手段と、前記カラー画像の各画素のカラー成分と前記輝度値とから、前記道路の路面標示の色に対応した各画素の特徴量を、該カラー成分に対する明るさの影響を低減するように算出する特徴量算出手段と、前記カラー画像の各画素の前記特徴量を、該カラー画像における各画素の位置に合わせて配列した特徴画像から、前記道路の路面標示を検出する路面標示検出手段とを有し、前記カラー画像の各画素のカラー成分は、R値、G値及びB値、又はC値、M値及びY値からなり、前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、各画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の差又は和を、各画素の前記輝度値に応じて、該輝度値が大きくなるほど大きくなるように定められる所定の補正係数で除算した値を用いることを特徴とする。
また、本発明の第2態様の路面標示認識装置は、撮像手段を介して道路のカラー画像を取得する画像取得手段と、前記カラー画像の各画素のカラー成分から、各画素の輝度値を算出する輝度値算出手段と、前記カラー画像の各画素のカラー成分と前記輝度値とから、前記道路の路面標示の色に対応した各画素の特徴量を、該カラー成分に対する明るさの影響を低減するように算出する特徴量算出手段と、前記カラー画像の各画素の前記特徴量を、該カラー画像における各画素の位置に合わせて配列した特徴画像から、前記道路の路面標示を検出する路面標示検出手段とを有し、前記カラー画像の各画素のカラー成分は、R値、G値及びB値、又はC値、M値及びY値からなり、前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、各画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の差又は和を、各画素の前記輝度値に応じて、該輝度値が大きくなるほど大きくなるように定められる所定の補正係数で除算した値を用いることを特徴とする。
前記第2態様の車両及び路面標示認識装置によれば、前記輝度値算出手段は、前記カラー画像の各画素のカラー成分から、各画素の輝度値を算出し、前記特徴量算出手段は、前記カラー画像の各画素のカラー成分と前記輝度値とから、前記路面標示の色に対応した各画素の特徴量を算出する。例えば、黄色の路面標示を検出する場合、黄色に対応した特徴量を、各画素のカラー成分と前記輝度値から算出する。これにより、黄色の路面標示の特徴を顕著に示す特徴量が算出される。
ここで、前記道路のカラー画像には、路面を照射する光源や道路周辺の環境による路面の照射状態の相違によって、明るさが異なる領域が存在する場合がある。そして、前記カラー画像内の明るさが異なる領域間では、画素のカラー成分のレベルが、明るさに応じて相違する。例えば、影のできている領域のカラー成分のレベルは、影ができていない一般的な明るさを想定して設定したカラー成分の基準レベルより小さくなっている。そして、領域によっては、カラー成分のレベルと基準レベルとの相違が大きいために、該カラー成分に基づいて路面標示(黄線)を検出すると、路面標示の認識が困難な場合がある。
このとき、各画素の輝度値は、照射状態に応じた前記道路のカラー画像の明暗の分布状況を反映したものとなっている。そこで、前記特徴量算出手段は、前記特徴量を算出する際に、各画素のカラー成分に加えて前記輝度値を用いることで、前記カラー成分に対する明るさの影響を低減するように前記特徴量を算出する。これにより、前記道路のカラー画像に明るさが異なる領域がある場合に、各領域間の明るさの相違による影響を低減するように前記特徴量を算出することができる
(削除)
本発明の第2態様によれば、前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、各画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の差又は和を、各画素の前記輝度値に応じて、該輝度値が大きくなるほど大きくなるように定められる所定の補正係数で除算した値を用いる。このとき、前記所定の2つの値の差又は和は、前記路面標示の色の特徴を顕著に示す値となる。
例えば、各画素のカラー成分がR値、G値及びB値であるときに、カラー画像から黄線に対応した特徴量(黄色成分)を抽出する場合には、黄色は、R値が高く、B値が低い傾向を持つので、R値とB値との差は、黄色成分の特徴を顕著に示す値となる。
また、例えば、各画素のカラー成分がR値、G値及びB値であるときに、カラー画像から紫色成分を抽出する場合には、紫色は、R値とB値が共に高い傾向を持つので、R値とB値との和は、紫色成分の特徴を顕著に示す値となる。
さらに、前記特徴量算出手段は、前記所定の2つの値の差又は和を、各画素の前記輝度値に応じて、該輝度値が大きくなるほど大きくなるように定められる所定の補正係数で除算した値を、前記特徴量として用いる。これにより、前記カラー成分に対する明るさの影響を低減して、前記カラー画像の各画素の前記特徴量が、明るさに関して同レベルになるように適切に算出される。
そして、前記路面標示検出手段は、前記カラー画像の各画素の前記特徴量を、該カラー画像における各画素の位置に合わせて配列した特徴画像から、前記道路の路面標示を検出するので、撮像された道路のカラー画像に明るさが異なる部分がある場合にも、路面標示を精度良く認識することができる。
また、前記第2態様の変形態様として、前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、各画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の差又は和を、各画素の前記輝度値に応じて、該輝度値が所定輝度値以上のときには、該輝度値が大きくなるほど大きくなるように定められる所定の補正係数で除算した値を用いると共に、該輝度値が前記所定輝度値未満のときには、該輝度値が該所定輝度値であるときの前記所定の補正係数で除算した値を用いることを特徴とする。
これによれば、前記特徴量算出手段は、前記カラー画像の各画素の前記特徴量として、該画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の差又は和を、各画素の前記輝度値に応じて、該輝度値が所定輝度値以上のときには、該輝度値が大きくなるほど大きくなるように定められる所定の補正係数で除算した値を用いると共に、該輝度値が前記所定輝度値未満のときには、該輝度値が該所定輝度値であるときの前記所定の補正係数で除算した値を用いる。このとき、前記所定の2つの値の差又は和は、前記路面標示の色の特徴を顕著に示す値となる。
例えば、各画素のカラー成分がR値、G値及びB値であるときに、カラー画像から黄線に対応した特徴量(黄色成分)を抽出する場合には、黄色は、R値が高く、B値が低い傾向を持つので、R値とB値との差は、黄色成分の特徴を顕著に示す値となる。
また、例えば、各画素のカラー成分がR値、G値及びB値であるときに、カラー画像から紫色成分を抽出する場合には、紫色は、R値とB値が共に高い傾向を持つので、R値とB値との和は、紫色成分の特徴を顕著に示す値となる。
さらに、前記カラー画像の各画素の輝度値が小さい場合には、該画素のカラー成分も小さいと考えられ、前記所定の2つの値の差又は和も小さいと考えられる。そして、このようなカラー成分のレベルの小さい画素は、検出対象である路面標示の画像の画素ではないと想定される。このような場合に、該画素の前記特徴量を算出する際に、前記輝度値の大きさに応じて定められる前記所定の補正係数で除算すると、特徴量が不要に増幅される可能性がある。
そこで、前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、前記所定の2つの値の差又は和を、各画素の前記輝度値に応じて、該輝度値が所定輝度値以上のときには、該輝度値が大きくなるほど大きくなるように定められる所定の補正係数で除算した値を用いると共に、該輝度値が前記所定輝度値未満のときには、該輝度値が該所定輝度値であるときの前記所定の補正係数で除算した値を用いる。
これにより、路面標示の画像の画素でない画素の特徴量を不要に増幅することなく、明るさの違いに応じた特徴量のレベルの変動を抑制するように、前記特徴量が適切に算出される。
前記第1態様又は第2態様の車両及び路面標示認識装置において、前記路面標示検出手段は、前記特徴画像に対して、トップハットフィルタ又はエッジフィルタによるフィルタ処理を行って、前記道路の路面標示を検出することが好ましい
これによれば、前記路面標示検出手段は、前記特徴画像に対して、トップハットフィルタ又はエッジフィルタによるフィルタ処理を行う。このとき、元のカラー画像において、日の当たっている路面のように明るい領域と、影のできている路面のように暗い領域がある場合であっても、前記特徴画像は、各画素の前記特徴量が明るさに関して同レベルとなるように算出されているので、該特徴画像にあっては、いずれの領域においても、路面標示とその周囲の路面との特徴量のレベルの相違が大きくなる。
従って、所定レベルを閾値とした前記トップハットフィルタ又はエッジフィルタによるフィルタ処理によって、路面標示を容易に認識することができる。
本発明の実施形態について、図面を参照して説明する。
図1は、本発明の第1実施形態による路面標示認識装置の機能ブロック図であり、図2は、図1の路面標示認識装置における路面標示認識処理のフローチャートであり、図3は、図1の路面標示認識装置における路面標示認識処理の処理画像の例示図である。また、図4は、図1の路面標示認識装置による路面標示認識処理における特徴量の算出に関する説明図である。また、図5は、図1の路面標示認識装置の路面標示認識処理における輝度値と補正係数との関係を示すグラフである。
なお、第1実施形態は、本発明の第2態様に対応するものである。
図1を参照して、路面標示認識装置1は、マイクロコンピュータ等により構成された電子ユニットであり、道路のカラー画像を取得する画像取得手段2と、取得したカラー画像から輝度値を算出する輝度値算出手段3と、取得したカラー画像から路面標示の色に対応した特徴量を算出する特徴量算出手段4と、算出した特徴量から生成される特徴画像から路面標示を検出する路面標示検出手段5とを備えて、車両に搭載される。
画像取得手段2は、車両のフロント部分に取り付けられて車両前方道路を撮像するカラービデオカメラ6(CCDカメラ等、本発明の撮像手段)から出力される映像信号を入力する。画像取得手段2は、入力した映像信号から、画素データにより構成されるカラー画像を取得する。このとき、画素データのカラー成分は、R値、G値、B値で構成されている。なお、カラービデオカメラ6と路面表示認識装置1とを備えることにより、本発明の車両が構成される。
輝度値算出手段3は、画像取得手段2により取得された道路のカラー画像の各画素のカラー成分から、輝度値Yを算出する。これにより、算出された輝度値Yを前記各画素に対応した画素のデータとする輝度画像が生成される。
特徴量算出手段4は、画像取得手段2により取得された道路のカラー画像の各画素の特徴量KY'を算出するための補正係数RATEを、各画素の輝度値Yに基づいて決定する。さらに、前記カラー画像の各画素のカラー成分のうち、路面標示の色に対応した所定の2つの値の差KYを、補正係数RATEで除算して、特徴量KY'を算出する。これにより、算出した特徴量KY'を前記各画素に対応した画素のデータとする特徴画像が生成される。
路面標示検出手段5は、前記特徴画像に対して、トップハットフィルタを用いてフィルタ処理を施す。さらに、路面標示検出手段5は、フィルタ処理を施した特徴画像と、前記輝度画像とを合成し、合成した画像からレーンマーク(本発明の路面標示に相当する)を検出する。レーンマークを検出する手法としては、上記特許文献1又は特許文献2に記載されているような一般的な手法を用いることができる。
次に、本実施形態の路面標示認識装置1の作動(路面標示認識処理)を、図2に示したフローチャートに従って説明する。以下では、図3に示したように、道路のカラー画像内に日の当たっている領域(日向領域A2)と、影になっている領域(日影領域A3)とが存在する場合を例にして説明する。なお、図3中の日向領域A2に含まれているレーンマークA0と、日影領域A3に含まれているレーンマークA1とは黄線であり、路面標示認識装置1の検出対象である。
図2において、画像取得手段2は、カラービデオカメラ6から出力される映像信号を入力して、道路のカラー画像I0を取得する(STEP001)。ここで、カラー画像I0は、図4(a)に例示するような、m×n個の画素からなる画像である。カラー画像I0の各画素P0は、カラー成分としてR値,G値,B値のデータを有するものであり、P0(i,j)=(Rij,Gij,Bij)で表される。ただし、i,jは、各画素の座標であり、0≦i<m,0≦j<nとなる整数である。
次に、STEP002で、輝度値算出手段3は、取得されたカラー画像I0の各画素P0(i,j)のR値,G値,B値(Rij,Gij,Bij)から、Yij=α×Rij+β×Gij+γ×Bijにより輝度値Yijを算出する。ただし、α,β,γは、α+β+γ=1となるような所定の係数である。これにより、図4(b)に例示するような、輝度値Yijを各画素P1(i,j)のデータとする、m×n個の画素からなる輝度画像I1が生成される。輝度画像I1は、道路のカラー画像I0の明暗の分布状況を反映したものとなる。
次に、STEP003で、特徴量算出手段4は、特徴量KY'を算出する。まず、特徴量算出手段4は、取得されたカラー画像I0の各画素P0(i,j)のR値,B値(Rij,Bij)から、KYij=Rij−Bijにより、R値とB値との差KYijを算出する。ここで、Rij,Bijは、レーンマークA0,A1の色である黄色に対応した所定の2つの値である。これにより、図4(c)に例示するような、R値とB値との差KYijを各画素P2(i,j)のデータとする、m×n個の画素からなる画像I2が生成される。画像I2は、カラー画像I0内の黄線の特徴をより顕著に示すものとなる。
このとき、日向領域A2に含まれているレーンマークA0の部分と、日影領域A3に含まれているレーンマークA1の部分とでは、照射状態の影響により、R値とB値との差KYのレベルが相違するものとなっている。
次に、特徴量算出手段4は、輝度画像I1の各画素P1(i,j)の輝度値Yijに応じた補正係数RATEijを決定する。この場合、特徴量算出手手段4は、図4(d)のM3に例示したように、m×n個の補正係数RATEij(=P3(i,j))を決定することになる。
補正係数RATEijは、例えば、図5に示すような、輝度値Yと補正係数RATEとの関係を示すグラフに基づいて決定される。図5のグラフは、横軸を、輝度画像I1の各画素P1(i,j)の輝度値Yijとし、縦軸を、補正係数RATEijとして、輝度値Yと補正係数RATEとの関係を示したものである。
図5のグラフにより、補正係数RATEijは、輝度値Yijが所定輝度値Y_th以上では、輝度値Yijが大きくなるほど大きくなるように決定される。また、輝度値Yijが所定輝度値Y_th未満のときには、補正係数RATEijは、輝度値Yが所定輝度値Y_thであるときの補正係数RATE_thに決定される。
そして、特徴量算出手段4は、R値とB値との差KYijを、補正係数RATEijで除算することにより、特徴量KY'ijを算出する。これにより、図4(e)に例示するような、特徴量KY'ijを各画素P4(i,j)のデータとする特徴画像I4が生成される。このとき、日向領域A2に含まれているレーンマークA0の部分の特徴量KY'と、日影領域A3に含まれているレーンマークA1の部分の特徴量KY'とが、それぞれ明るさに関して同レベルになるように算出された特徴画像I4が得られる。
次に、STEP004で、路面標示検出手段5は、特徴画像I4に対して、トップハットフィルタを用いてフィルタ処理を施す。具体的には、特徴画像I4にトップハットフィルタを用いてフィルタ処理した出力を、所定の閾値で2値化した2値画像を生成する。
ここで、特徴画像I4においては、上述したSTEP003における特徴量KY'を算出する処理により、明るさの違いに応じた特徴量KY'のレベルの変動が抑制されるように特徴量KY'が算出されているので、前記フィルタ処理により、レーンマークA0,A1とその周囲の路面とを適切に区分して、レーンマークA0,A1(黄線)を抽出した2値画像を生成することができる。
次に、STEP005で、路面標示検出手段5は、前記フィルタ処理の施された特徴画像と、輝度画像I1とを合成する。具体的には、前記フィルタ処理の施された特徴画像(2値画像)の白の部分の値を、輝度画像I1の輝度値の最大値と同じ値にして、該輝度画像I1と合成する。
次に、STEP006で、路面標示検出手段5は、前記合成された画像に対して、レーンマークを検出する処理を行う。STEP005で、カラー画像I0中の黄線の抽出された画像である前記フィルタ処理の施された特徴画像と、カラー画像中の白線の強調された画像である輝度画像I1とを合成することにより、カラー画像I0中に白線と黄線とが共に存在する場合に、STEP006のレーンマークを検出する処理において、黄線と白線とを同時に検出できる。
以上の処理により、道路の照射状態が部分的に異なる場合でも、カラービデオカメラ6により取得された道路のカラー画像から、レーンマークA0,A1を精度良く検出することができる。
上記第1実施形態においては、輝度値算出手段3を備えるものとしたが、第2実施形態として、輝度値算出手段3を備えず、特徴量算出手段4は、特徴量KY'として、画像取得手段2により取得された道路のカラー画像I0の各画素のカラー成分のうち、路面標示の色に対応した所定の2つの値の比を用いてもよい。
なお、第2実施形態は、本発明の第1態様に対応するものである
これによれば、特徴量KY'を算出する際に(図2のSTEP003)、R値とB値との差KYijを補正係数RATEijで除算した値を特徴量KY'として用いる代わりに、KY'ij=Rij/Bijにより、R値とB値との比を特徴量KY'として用いる。ここで、R値とB値との比は、カラー画像I0内の黄線の特徴を顕著に示す値であると共に、カラー画像I0の各画素について、明るさに関して同レベルとなるような値である。
このようにした場合でも、上述したSTEP003における特徴量KY'を算出する処理により、明るさの違いに応じた特徴量KY'のレベルの変動が抑制されるように特徴量KY'が算出されているので、レーンマークA0,A1を精度良く検出することができ、前述のように輝度値算出手段3を備えた場合と同様の作用効果を奏する。
前記第1及び第2実施形態において、画像取得手段2は、画素データのカラー成分がR値、G値、B値で構成されるものとしたが、画素データのカラー成分として、CMY出力を用いるものとしてもよい。この場合は、C値、M値、Y値を用いて各画像の特徴量KY'を算出する。
また、前記第1実施形態において、輝度値算出手段3は、輝度値Yを、R値,G値,B値のうちの最大値Max、最小値Minを用いて、Y=(Max+Min)/2により算出してもよい。または、輝度値YとしてG値を用いるものとしてもよい。
また、前記第1実施形態において、画像取得手段2は、画素データのカラー成分と共に、カラービデオカメラ6からのモノクロ信号の出力を画素データのモノクロ成分として取得し、輝度値算出手段3は、該モノクロ成分を輝度値Yとして用いるものとしてもよい。
また、前記第1実施形態において、特徴量算出手段4は、特徴量KY'として、所定の2つの値の差KYを補正係数RATEで除算した値を用いるものとしたが、画像取得手段2により取得された道路のカラー画像I0の各画素のカラー成分のうち、路面標示の色に対応した所定の2つの値の和を補正係数RATEで除算した値を用いるものとしてもよい。
また、前記第1実施形態において、特徴量算出手段4は、補正係数RATEを、図5で例示したグラフから決定する代わりに、予め設定した輝度値Yと補正係数RATEとの相関式により算出してもよく、或いは、予め設定した輝度値Yと補正係数RATEとの対応を示すデータテーブル等を用いて決定してもよい。
前記第1及び第2実施形態において、路面標示検出手段5は、特徴画像I4をフィルタ処理する際に、トップハットフィルタを用いる代わりに、エッジフィルタを用いてフィルタ処理してもよい。この場合、エッジフィルタにより、トップハットフィルタを用いた場合と同様に、レーンマークA0,A1とその周囲の路面とを適切に区分することができる。
また、前記第1及び第2実施形態において、路面標示検出手段5は、特徴画像I4をフィルタ処理せず、例えば、特徴画像I4に対して直接、所定の閾値で2値化して2値画像を出力してもよい。
また、前記第1及び第2実施形態において、路面標示検出手段5は、フィルタ処理を施した特徴画像を輝度画像I1と合成せず、該フィルタ処理を施した特徴画像に対して直接、レーンマークを検出する処理を行うようにしてもよい。これによれば、所定色(黄色等)の路面標示のみが検出される。
また、前記第1及び第2実施形態においては、黄色の路面標示を検出したが、他色の路面標示を検出対象とする場合にも、該他色に対応した特徴量KYを設定することにより、本発明の効果を得ることができる。
また、前記第1及び第2実施形態においては、路面標示として、黄線を検出したが、他の種類のレーンマーク(Botts Dots,キャッツアイ等)、道路標示等を検出対象とする場合にも、本発明の効果を得ることができる。
本発明の第1実施形態による路面標示認識装置の機能ブロック図。 図1の路面標示認識装置の路面標示認識処理を示すフローチャート。 図1の路面標示認識装置の路面標示認識処理における処理画像の例示図。 図1の路面標示認識装置による路面標示認識処理における輝度画像と特徴画像との生成、および特徴画像の補正に関する説明図。 図1の路面標示認識装置の路面標示認識処理における輝度画像の輝度値と特徴画像の補正係数との関係を示すグラフ。
1…路面標示認識装置、2…画像取得手段、3…輝度値算出手段、4…特徴量算出手段、5…路面標示検出手段、6…カラービデオカメラ(撮像手段)。

Claims (8)

  1. 撮像手段と、
    前記撮像手段を介して道路のカラー画像を取得する画像取得手段と、
    前記カラー画像の各画素のカラー成分から、前記道路の路面標示の色に対応した各画素の特徴量を算出する特徴量算出手段と、
    前記カラー画像の各画素の前記特徴量を、該カラー画像における各画素の位置に合わせて配列した特徴画像から、前記道路の路面標示を検出する路面標示検出手段とを有し、
    前記カラー画像の各画素のカラー成分は、R値、G値及びB値、又はC値、M値及びY値からなり、
    前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、各画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の比を用いることを特徴とする車両。
  2. 撮像手段と、
    前記撮像手段を介して道路のカラー画像を取得する画像取得手段と、
    前記カラー画像の各画素のカラー成分から、各画素の輝度値を算出する輝度値算出手段と、
    前記カラー画像の各画素のカラー成分と前記輝度値とから、前記道路の路面標示の色に対応した各画素の特徴量を算出する特徴量算出手段と、
    前記カラー画像の各画素の前記特徴量を、該カラー画像における各画素の位置に合わせて配列した特徴画像から、前記道路の路面標示を検出する路面標示検出手段とを有し、
    前記カラー画像の各画素のカラー成分は、R値、G値及びB値、又はC値、M値及びY値からなり、
    前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、各画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の差又は和を、各画素の前記輝度値に応じて、該輝度値が大きくなるほど大きくなるように定められる所定の補正係数で除算した値を用いることを特徴とする車両。
  3. 撮像手段と、
    前記撮像手段を介して道路のカラー画像を取得する画像取得手段と、
    前記カラー画像の各画素のカラー成分から、各画素の輝度値を算出する輝度値算出手段と、
    前記カラー画像の各画素のカラー成分と前記輝度値とから、前記道路の路面標示の色に対応した各画素の特徴量を算出する特徴量算出手段と、
    前記カラー画像の各画素の前記特徴量を、該カラー画像における各画素の位置に合わせて配列した特徴画像から、前記道路の路面標示を検出する路面標示検出手段とを有し、
    前記カラー画像の各画素のカラー成分は、R値、G値及びB値、又はC値、M値及びY値からなり、
    前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、各画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の差又は和を、各画素の前記輝度値に応じて、該輝度値が所定輝度値以上のときには、該輝度値が大きくなるほど大きくなるように定められる所定の補正係数で除算した値を用いると共に、該輝度値が前記所定輝度値未満のときには、該輝度値が該所定輝度値であるときの前記所定の補正係数で除算した値を用いることを特徴とする請求項3記載の車両。
  4. 前記路面標示検出手段は、前記特徴画像に対して、トップハットフィルタ又はエッジフィルタによるフィルタ処理を行って、前記道路の路面標示を検出することを特徴とする請求項1から請求項3のうちいずれか1項記載の車両。
  5. 撮像手段を介して道路のカラー画像を取得する画像取得手段と、
    前記カラー画像の各画素のカラー成分から、前記道路の路面標示の色に対応した各画素の特徴量を算出する特徴量算出手段と、
    前記カラー画像の各画素の前記特徴量を、該カラー画像における各画素の位置に合わせて配列した特徴画像から、前記道路の路面標示を検出する路面標示検出手段とを有し、
    前記カラー画像の各画素のカラー成分は、R値、G値及びB値、又はC値、M値及びY値からなり、
    前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、各画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の比を用いることを特徴とする路面標示認識装置。
  6. 撮像手段を介して道路のカラー画像を取得する画像取得手段と、
    前記カラー画像の各画素のカラー成分から、各画素の輝度値を算出する輝度値算出手段と、
    前記カラー画像の各画素のカラー成分と前記輝度値とから、前記道路の路面標示の色に対応した各画素の特徴量を算出する特徴量算出手段と、
    前記カラー画像の各画素の前記特徴量を、該カラー画像における各画素の位置に合わせて配列した特徴画像から、前記道路の路面標示を検出する路面標示検出手段とを有し、
    前記カラー画像の各画素のカラー成分は、R値、G値及びB値、又はC値、M値及びY値からなり、
    前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、各画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の差又は和を、各画素の前記輝度値に応じて、該輝度値が大きくなるほど大きくなるように定められる所定の補正係数で除算した値を用いることを特徴とする路面標示認識装置。
  7. 撮像手段を介して道路のカラー画像を取得する画像取得手段と、
    前記カラー画像の各画素のカラー成分から、各画素の輝度値を算出する輝度値算出手段と、
    前記カラー画像の各画素のカラー成分と前記輝度値とから、前記道路の路面標示の色に対応した各画素の特徴量を算出する特徴量算出手段と、
    前記カラー画像の各画素の前記特徴量を、該カラー画像における各画素の位置に合わせて配列した特徴画像から、前記道路の路面標示を検出する路面標示検出手段とを有し、
    前記カラー画像の各画素のカラー成分は、R値、G値及びB値、又はC値、M値及びY値からなり、
    前記特徴量算出手段は、前記カラー画像の各画素の特徴量として、各画素のカラー成分のうち、前記路面標示の色に対応した所定の2つの値の差又は和を、各画素の前記輝度値に応じて、該輝度値が所定輝度値以上のときには、該輝度値が大きくなるほど大きくなるように定められる所定の補正係数で除算した値を用いると共に、該輝度値が前記所定輝度値未満のときには、該輝度値が該所定輝度値であるときの前記所定の補正係数で除算した値を用いることを特徴とする路面標示認識装置。
  8. 前記路面標示検出手段は、前記特徴画像に対して、トップハットフィルタ又はエッジフィルタによるフィルタ処理を行って、前記道路の路面標示を検出することを特徴とする請求項5から請求項7のうちいずれか1項記載の路面標示認識装置。
JP2005164764A 2005-06-03 2005-06-03 車両及び路面標示認識装置 Expired - Fee Related JP4408095B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2005164764A JP4408095B2 (ja) 2005-06-03 2005-06-03 車両及び路面標示認識装置
EP06746625A EP1887522B1 (en) 2005-06-03 2006-05-18 Vehicle and road sign recognition device
US11/919,554 US8050456B2 (en) 2005-06-03 2006-05-18 Vehicle and road sign recognition device
CA2609533A CA2609533C (en) 2005-06-03 2006-05-18 Vehicle and road sign recognition device
DE602006010368T DE602006010368D1 (de) 2005-06-03 2006-05-18 Fahrzeug- und strassenschilderkennungseinrichtung
PCT/JP2006/309957 WO2006129493A1 (ja) 2005-06-03 2006-05-18 車両及び路面標示認識装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005164764A JP4408095B2 (ja) 2005-06-03 2005-06-03 車両及び路面標示認識装置

Publications (2)

Publication Number Publication Date
JP2006338556A JP2006338556A (ja) 2006-12-14
JP4408095B2 true JP4408095B2 (ja) 2010-02-03

Family

ID=37481423

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005164764A Expired - Fee Related JP4408095B2 (ja) 2005-06-03 2005-06-03 車両及び路面標示認識装置

Country Status (6)

Country Link
US (1) US8050456B2 (ja)
EP (1) EP1887522B1 (ja)
JP (1) JP4408095B2 (ja)
CA (1) CA2609533C (ja)
DE (1) DE602006010368D1 (ja)
WO (1) WO2006129493A1 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4941843B2 (ja) * 2008-02-28 2012-05-30 日本電気株式会社 路面標示画像処理装置、路面標示画像処理方法並びに路面標示画像処理プログラム
JP4797049B2 (ja) * 2008-08-11 2011-10-19 日立オートモティブシステムズ株式会社 道路標示認識装置
DE102009048323A1 (de) * 2009-10-05 2011-04-07 Conti Temic Microelectronic Gmbh Fahrerassistenzsystem für ein Kraftfahrzeug mit einer Kamera zur Erkennung von Fahrbahnmarkierungen
WO2011106578A2 (en) * 2010-02-26 2011-09-01 Gentex Corporation Automatic vehicle equipment monitoring, warning, and control system
US8687914B2 (en) * 2010-10-13 2014-04-01 Ability Enterprise Co., Ltd. Method of producing an image
JP5260696B2 (ja) * 2011-03-10 2013-08-14 株式会社デンソー エッジ点抽出装置、車線検出装置、およびプログラム
JP5272042B2 (ja) * 2011-05-12 2013-08-28 富士重工業株式会社 環境認識装置および環境認識方法
CN102521587B (zh) * 2011-11-24 2014-06-04 华中科技大学 一种车牌定位方法
JP5867167B2 (ja) * 2012-03-05 2016-02-24 日産自動車株式会社 影検出装置
KR102058001B1 (ko) * 2012-09-03 2020-01-22 엘지이노텍 주식회사 차선 보정 시스템, 차선 보정 장치 및 이의 차선 보정 방법
WO2014078979A1 (en) * 2012-11-20 2014-05-30 Harman International Industries, Incorporated Method and system for detecting traffic lights
JP6154213B2 (ja) 2013-06-28 2017-06-28 株式会社Soken 路面情報取得装置
JP2015121954A (ja) * 2013-12-24 2015-07-02 株式会社デンソー 輝度値算出装置及び車線検出システム
JP6130809B2 (ja) * 2014-04-25 2017-05-17 本田技研工業株式会社 車線認識装置
JP6230482B2 (ja) * 2014-05-19 2017-11-15 本田技研工業株式会社 レーンマーク認識装置、車両及びレーンマーク認識方法
US9460355B2 (en) 2014-10-14 2016-10-04 Here Global B.V. Lateral sign placement determination
EP3846440B1 (en) * 2019-12-30 2021-12-15 Axis AB A low-light imaging method, unit and system

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2988209B2 (ja) 1993-08-16 1999-12-13 松下電器産業株式会社 カラー濃淡パターン認識装置
DE69736764T2 (de) * 1996-08-28 2007-01-25 Matsushita Electric Industrial Co., Ltd., Kadoma Lokales Positionierungsgerät und Verfahren dafür
DE19736774A1 (de) 1997-08-23 1999-02-25 Bosch Gmbh Robert Verfahren zur Informationsanzeige in einem Kraftfahrzeug
JP3429167B2 (ja) 1997-09-13 2003-07-22 本田技研工業株式会社 車両用白線検出装置
US6636257B1 (en) * 1998-08-11 2003-10-21 Honda Giken Kogyo Kabushiki Kaisha Mobile body recognizing apparatus and motor vehicle monitoring apparatus
JP3333468B2 (ja) 1999-05-24 2002-10-15 本田技研工業株式会社 車両自律走行の走行路画像処理装置
JP3782322B2 (ja) 2001-07-11 2006-06-07 株式会社日立製作所 車載用画像処理カメラ装置
JP3895238B2 (ja) * 2002-08-28 2007-03-22 株式会社東芝 障害物検出装置及びその方法
JP4093208B2 (ja) * 2004-05-28 2008-06-04 トヨタ自動車株式会社 車両用走路判定装置
US7702425B2 (en) * 2004-06-07 2010-04-20 Ford Global Technologies Object classification system for a vehicle

Also Published As

Publication number Publication date
EP1887522A1 (en) 2008-02-13
CA2609533A1 (en) 2006-12-07
DE602006010368D1 (de) 2009-12-24
EP1887522B1 (en) 2009-11-11
JP2006338556A (ja) 2006-12-14
WO2006129493A1 (ja) 2006-12-07
US20100014707A1 (en) 2010-01-21
EP1887522A4 (en) 2008-07-02
CA2609533C (en) 2013-07-23
US8050456B2 (en) 2011-11-01

Similar Documents

Publication Publication Date Title
JP4408095B2 (ja) 車両及び路面標示認識装置
JP4414369B2 (ja) 車両及び路面標示認識装置
US8077204B2 (en) Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program, and vehicle periphery monitoring method
JP4365352B2 (ja) 車両及びレーンマーク認識装置
US20140085473A1 (en) In-vehicle camera apparatus
JP4556133B2 (ja) 車両
JP2007234019A (ja) 車両画像領域特定装置およびその方法
JPH06203154A (ja) 画像処理装置
JP5071198B2 (ja) 信号機認識装置,信号機認識方法および信号機認識プログラム
WO2009119070A1 (ja) 車両用画像処理装置及び画像処理プログラム
JP5338762B2 (ja) ホワイトバランス係数算出装置及びプログラム
JP2010136207A (ja) 歩行者検出表示システム
KR101875786B1 (ko) 도로영상에서 후미등영역을 이용한 차량식별방법
US20200210750A1 (en) Adhering substance detection apparatus and adhering substance detection method
JP4941843B2 (ja) 路面標示画像処理装置、路面標示画像処理方法並びに路面標示画像処理プログラム
JP2007257242A (ja) 白線認識装置
JP2018072884A (ja) 情報処理装置、情報処理方法およびプログラム
JP5310162B2 (ja) 車両灯火判定装置
JP4937243B2 (ja) 車両の周辺監視装置
US20190043174A1 (en) Image processor and method for image processing
EP4209990A2 (en) Blended gray image enhancement
US20200202165A1 (en) Placement detection system
JP4876277B2 (ja) 車両用画像処理装置、車両、及び車両用画像処理プログラム
JP2016038268A (ja) 画像生成装置及び画像生成方法
JP2023178691A (ja) 画像処理装置、制御方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090901

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091013

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091104

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091105

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131120

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees