JP4185077B2 - 車両、画像処理システム、画像処理方法、及び画像処理プログラム - Google Patents

車両、画像処理システム、画像処理方法、及び画像処理プログラム Download PDF

Info

Publication number
JP4185077B2
JP4185077B2 JP2005207574A JP2005207574A JP4185077B2 JP 4185077 B2 JP4185077 B2 JP 4185077B2 JP 2005207574 A JP2005207574 A JP 2005207574A JP 2005207574 A JP2005207574 A JP 2005207574A JP 4185077 B2 JP4185077 B2 JP 4185077B2
Authority
JP
Japan
Prior art keywords
pixel
area
processing
road surface
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005207574A
Other languages
English (en)
Other versions
JP2007026106A (ja
Inventor
卓馬 中森
友好 青木
幸男 小林
直樹 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2005207574A priority Critical patent/JP4185077B2/ja
Priority to PCT/JP2006/313464 priority patent/WO2007010750A1/ja
Priority to US11/995,798 priority patent/US8170285B2/en
Priority to DE602006014690T priority patent/DE602006014690D1/de
Priority to EP06767923A priority patent/EP1914700B1/en
Publication of JP2007026106A publication Critical patent/JP2007026106A/ja
Application granted granted Critical
Publication of JP4185077B2 publication Critical patent/JP4185077B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、画像処理システム、当該画像処理システムが搭載された車両、画像処理方法、及び画像処理プログラムに関する。
レーンマークには、白線のほか、黄線が用いられる場合もあるため、色カメラ等の撮像手段により撮像された色画像を用いて、白線や黄線等のレーンマークを認識する技術手法が提案されている(例えば、特許文献1)。
特許第3333468号公報
しかし、道路周辺の建造物等によって図3に示されているようにレーンマークM及びその他の路面部分に影Sがさしたり、車両のヘッドライトにより路面の一部が照らされていたり等、路面への光の照射状態が部分的に異なっている場合、当該部分における路面画像の色の特徴量が変化する。このため、黄線等、白色以外のレーンマークの認識精度が低下する場合があった。
そこで、本発明は、路面への光の照射状態が部分的に異なっている場合でも、路面画像においてレーンマークを高精度で認識し得る画像処理システム及び画像処理方法、当該画像処理システムが搭載された車両、及び当該画像処理機能をコンピュータに付与する画像処理プログラムを提供することを解決課題とする。
前記課題を解決するための本発明の車両は、撮像手段と、撮像手段により撮像された路面画像に基づき、画像処理を実行する画像処理システムと、画像処理システムによる画像処理結果に基づいて車両の走行を制御する車両走行制御システムとが搭載され、画像処理システムが、路面画像において複数の画素を包含するエリアを逐次移動させながら設定する第1処理手段と、第1処理手段によりエリアに包含される複数の画素のうちエリアの移動方向先端部分に包含される第1画素の色成分を、該複数の画素のうち第1画素以外の第2画素の色成分を基準として補正する第2処理手段と、第2処理手段により補正された第1画素の色成分に基づき、注目色に応じた第1画素の特徴量を算出する第3処理手段と、第1処理手段によってエリアが設定されるたび、第2処理手段による第1画素の色成分の補正及び第3処理手段による第1画素の特徴量の算出が逐次繰り返されることで得られた複数の画素の特徴量に基づき、路面画像において該注目色のレーンマークを認識する第4処理手段とを備えている。
路面画像における設定エリアを包含する路面部分にさす影(暗さ)や光(明るさ)の影響により、路面の実際の色が、第1画素の色成分に十分に反映されず、第1画素における注目色に応じた特徴量が小さく抑制されてしまうことがある。従って、第1画素の色成分が注目色に応じた特徴量にそのまま反映された場合、第1画素における特徴量に基づく当該注目色のレーンマークの認識精度が低下するおそれがある。
本発明の車両によれば、第1画素とともにエリアに包含される第2画素の色成分も路面部分における影又は光の影響を受けている蓋然性が高いことに鑑みて、画像処理システムにより、路面画像において設定されたエリアに包含される第1画素の色成分が第2画素の色成分を基準として補正される。これにより、路面にさす影や光の影響が低減され、第1画素に相当する路面部分の実際の色が、第1画素の色成分、ひいては特徴量に十分に反映され得る。
また、エリアが逐次移動させられながら設定されるが、エリアに包含される複数の画素のうち、その移動方向先端部分の画素が第1画素とされ、その他の画素が第2画素とされている。このため、エリア先端部分に相当する路面部分の色が、前回に設定されたエリア先端部分に相当する路面部分の色と異なる状態になったとき、第1画素に相当する路面部分の色と、一部又は全部の第2画素に相当する路面部分の色とが異なる状態になる。このため、前記のように第1画素の色成分が、第2画素の対応する色成分を基準として補正されることにより、第1画素に相当する路面部分の実際の色が、この第1画素の色成分、ひいては注目色に応じた特徴量に顕著に反映され得る。
そして、第4処理手段により、路面画像の各画素Pijの特徴量Qijに基づき、路面画像においてレーンマークM及びそのエッジEが認識される。
以上により、路面への光の照射状態が部分的に異なっている場合でも、画像処理システムによって路面画像において注目色のレーンマークが高精度で認識され得る。そして、画像処理システムによる当該画像処理結果に基づき、レーンマークの実際の位置に鑑みて車両の走行が適切に制御され得る。
また、本発明の車両は、第1処理手段が、路面画像において移動方向に一列に連続して並んでいる形状のエリア、又は移動方向前方に一列に連続して並んでいる部分を有するエリアを設定することを特徴とする。
本発明の車両によれば、今回設定されたエリアの第1画素に相当する路面部分の色が、前回に設定されたエリアの第1画素に相当する路面部分の色と異なる状態となったとき、レーンマークが一定幅を有していることに鑑みて、今回設定されたエリアにおいて、第1画素に相当する路面部分の色と、一部又は全部の第2画素に相当する路面部分の色とが異なる状態となり得る。これにより、第1画素に相当する路面部分の実際の色が、この第1画素の色成分、ひいては注目色に応じた特徴量に顕著に反映され得る。
従って、路面への光の照射状態が部分的に異なっている場合でも、画像処理システムによって路面画像において注目色のレーンマークが高精度で認識され得る。そして、画像処理システムによる当該画像処理結果に基づき、レーンマークの実際の位置に鑑みて車両の走行が適切に制御され得る。
さらに、本発明の車両は、第1処理手段が、路面画像の位置に応じて、サイズ、形状、又はサイズ及び形状を調節しながらエリアを設定可能であることを特徴とする。
本発明の車両によれば、今回設定されたエリアの第1画素に相当する路面部分の色が、前回に設定されたエリアの第1画素に相当する路面部分の色と異なる状態となったとき、今回設定されたエリアにおいて、第1画素に相当する路面部分の色と、第2画素の全部又は大半に相当する路面部分の色とが異なる状態となるように、エリアのサイズ及び形状のうち一方又は両方が調節され得る。これにより、第1画素に相当する路面部分の実際の色が、この第1画素の色成分、ひいては注目色に応じた特徴量に顕著に反映され得る。従って、路面への光の照射状態が部分的に異なっている場合でも、画像処理システムによって路面画像において注目色のレーンマークが高精度で認識され得る。そして、画像処理システムによる当該画像処理結果に基づき、レーンマークの実際の位置に鑑みて車両の走行が適切に制御され得る。
また、本発明の車両は、第1処理手段が、第2処理手段による第1画素の色成分の補正結果、第3処理手段による第1画素の特徴量の算出結果、第4処理手段によるレーンマークの認識結果、及び車両の走行状態のうち一部又は全部に基づき、サイズ、形状、又はサイズ及び形状を調節しながらエリアを設定可能であることを特徴とする。
エリアに包含される第2画素が過少である場合、レーンマークの剥げ等により局所的に本来の注目色とは別の色となっている路面部分の色しか第2画素の色成分に反映されないおそれがある。このため、今回設定されたエリアにおいて、第2画素の色成分を基準とした第1画素の色成分の補正量が過大となる可能性がある。そして、レーンマークのかすれ部分がこのレーンマークのエッジであると認識される等、第1画素の注目色に応じた特徴量に基づくレーンマークの認識精度が低下する可能性がある。
一方、エリアに包含される第2画素が過多である場合、当該エリアに相当する路面部分に併存する複数の色が第2画素の色成分に反映される。このため、今回設定されたエリアにおいて、第2画素の色成分を基準とした第1画素の色成分の補正量が不十分となる可能性がある。そして、レーンマークのエッジがレーンマークのエッジではないと認識される等、第1画素の注目色に応じた特徴量に基づくレーンマークの認識精度が低下する可能性がある。
さらに、路面画像においてレーンマークがどの位置にあると認識されるかは、前回のレーンマークの認識結果に依存する。例えば、車両の走行状態が安定しているにもかかわらず、路面画像において前回認識されたレーンマークの位置に鑑みて著しく妥当性(連続性)を欠く位置ではレーンマークが認識される可能性は低く、また、妥当性に欠ける認識結果に基づいて車両の走行が制御されるべきではない。
また、路面画像においてレーンマークがどの位置にあると認識されるかは、車両の走行状態にも依存する。例えば、車両が左にカーブしながら走行しているとき、路面画像においてレーンマークは道路のカーブの程度に応じた位置で認識されるものと予測される。
本発明の車両によれば、これらの事情に鑑みて、第1画素の色成分の補正結果、第1画素の注目色に応じた特徴量の算出結果、第4処理手段によるレーンマークの認識結果、及び車両の走行状態のうち一部又は全部に基づき、エリアがそのサイズ及び形状のうち一方又は両方が調節された上で再設定又は新規設定される。これにより、レーンマークの認識精度が低下するようなエリア設定を回避し、レーンマークの認識精度を向上させることができる。そして、画像処理システムによる当該画像処理結果に基づき、レーンマークの実際の位置に鑑みて車両の走行が適切に制御され得る。
さらに、本発明の車両は、第2処理手段が、第1画素の色成分を、第2画素の輝度値を基準とする第2画素の色成分を基準として補正し、第3処理手段が、第1画素の輝度値を基準とする第1画素の該補正後の色成分に基づき、注目色に応じた第1画素の特徴量を算出することを特徴とする。
第1画素の明るさと第2画素の明るさとが相違するため、前記のように第1画素の色成分が、これに対応する第2画素の色成分を基準として補正された場合、注目色に応じた第1画素の特徴量が過大又は過少となる可能性がある。例えば、第1画素が明るい路面部分に相当する一方、第2画素が暗い路面部分に相当する状態になったとき、第1画素の特徴量が過大となり、第1画素が路面部分ではなく、注目色のレーンマーク部分に相当すると誤認識される可能性がある。また、第1画素が暗いレーンマーク部分に相当する一方、第2画素が明るいレーンマーク部分に相当する状態になったとき、第1画素の特徴量が過少となり、第1画素がレーンマーク部分ではなく、路面部分に相当すると誤認識される可能性がある。
本発明の車両によれば、このような事情に鑑みて、第1画素の色成分が、第2画素の「輝度値(明るさを表す指数)」を基準とし、且つ、この第1画素の色成分に対応する第2画素の色成分を基準として補正される。また、第1画素の特徴量が、第1画素の輝度値を基準とする、第1画素の当該補正後の色成分に基づいて算出される。これにより、前記のように第1及び第2画素の明るさの違いによる、第1画素の特徴量に対する影響が軽減又は解消され、さらに第1画素の特徴量に基づくレーンマークの認識精度の低下が抑制され得る。そして、画像処理システムによる当該画像処理結果に基づき、レーンマークの実際の位置に鑑みて車両の走行がより適切に制御され得る。
前記課題を解決するための本発明の画像処理システムは、車両に搭載されている撮像手段により撮像された路面画像において複数の画素を包含するエリアを逐次移動させながら設定する第1処理手段と、第1処理手段によりエリアに包含される複数の画素のうちエリアの移動方向先端部分に包含される第1画素の色成分を、該複数の画素のうち第1画素以外の第2画素の色成分を基準として補正する第2処理手段と、第2処理手段により補正された第1画素の色成分に基づき、注目色に応じた第1画素の特徴量を算出する第3処理手段と、第1処理手段によってエリアが設定されるたび、第2処理手段による第1画素の色信号の補正及び第3処理手段による第1画素の特徴量の算出が逐次繰り返されることで得られた複数の画素の特徴量に基づき、路面画像において該注目色のレーンマークを認識する第4処理手段とを備えている。
本発明の画像処理システムによれば、路面への光の照射状態が部分的に異なっている場合でも、路面画像においてレーンマークが高精度で認識され得る。
また、本発明の画像処理システムは、第1処理手段が、路面画像において移動方向に一列に連続して並んでいる形状のエリア、又は移動方向前方に一列に連続して並んでいる部分を有するエリアを設定することを特徴とする。
さらに、本発明の画像処理システムは、第1処理手段が、路面画像の位置に応じて、サイズ、形状、又はサイズ及び形状を調節しながらエリアを設定可能であることを特徴とする。
また、本発明の画像処理システムは、第1処理手段が、第2処理手段による第1画素の色成分の補正結果、第3処理手段による第1画素の特徴量の算出結果、第4処理手段によるレーンマークの認識結果、及び車両の走行状態のうち一部又は全部に基づき、サイズ、形状、又はサイズ及び形状を調節しながらエリアを設定可能であることを特徴とする。
さらに、本発明の画像処理システムは、第2処理手段が、第1画素の色成分を、第2画素の輝度値を基準とする第2画素の色成分を基準として補正し、第3処理手段が、第1画素の輝度値を基準とする該補正後の第1画素の色成分に基づき、注目色に応じた第1画素の特徴量を算出することを特徴とする。
前記課題を解決するための本発明の画像処理方法は、車両に搭載されている撮像手段により撮像された路面画像において、複数の画素を包含するエリアを逐次移動させながら設定する第1処理ステップと、第1処理ステップにおいてエリアに包含される複数の画素のうちエリアの移動方向先端部分に包含される第1画素の色成分を、該複数の画素のうち第1画素以外の第2画素の色成分を基準として補正する第2処理ステップと、第2処理ステップにおいて補正された第1画素の色成分に基づき、注目色に応じた第1画素の特徴量を算出する第3処理ステップと、第1処理ステップによってエリアが設定されるたび、第2処理ステップによる第1画素の色信号の補正及び第3処理ステップによる第1画素の特徴量の算出が逐次繰り返されることで得られた複数の画素の特徴量に基づき、路面画像において該注目色のレーンマークを認識する第4処理ステップとを含んでいる。
本発明の画像処理方法によれば、路面への光の照射状態が部分的に異なっている場合でも、路面画像において注目色のレーンマークが高精度で認識され得る。
前記課題を解決するための本発明の画像処理プログラムは、車両に搭載されている撮像手段により撮像された路面画像において複数の画素を包含するエリアを逐次移動させながら設定する第1処理機能と、第1処理機能によりエリアに包含される複数の画素のうちエリアの移動方向先端部分に包含される第1画素の色成分を、該複数の画素のうち第1画素以外の第2画素の色成分を基準として補正する第2処理機能と、第2処理機能により補正された第1画素の色成分に基づき、注目色に応じた第1画素の特徴量を算出する第3処理機能と、第1処理機能によってエリアが設定されるたび、第2処理機能による第1画素の色信号の補正及び第3処理機能による第1画素の特徴量の算出が逐次繰り返されることで得られた複数の画素の特徴量に基づき、路面画像において該注目色のレーンマークを認識する第4処理機能とをコンピュータに付与する。
本発明のプログラムによれば、路面への光の照射状態が部分的に異なっている場合でも、路面画像において注目色のレーンマークを高精度で認識し得る機能が、コンピュータに付与される。
本発明の車両、画像処理システム、画像処理方法、及び画像処理プログラムの実施形態について図面を用いて説明する。
図1は本発明の一実施形態における画像処理システム及びこれが搭載された車両の構成説明図であり、図2は本発明の一実施形態における画像処理方法の説明図であり、図3は路面画像の例示図であり、図4は第1処理によって設定されるエリアの例示図であり、図5は第4処理(レーンマーク認識処理)の説明図であり、図6はエリアに包含される複数の画素の例示図であり、図7は画像処理により認識されたレーンマークの例示図であり、図8は第1処理によって設定されるエリアの他の例示図である。
図1に示されている車両10には、電子制御ユニット(コンピュータ)11と、車両10の前方のカラー路面画像を撮像するカメラ(撮像手段)12とが搭載されている。
電子制御ユニット11は、車両10に搭載されているハードウェアとして、ソフトウェアとしての本発明の「画像処理プログラム」とともに画像処理システム100を構成している。また、電子制御ユニット11は、画像処理システム100の画像処理結果に基づいて車両10の横位置を含む走行状態を制御する「車両走行状態制御システム」を構成している。画像処理システム100は、記憶手段102と、第1処理手段110と、第2処理手段120と、第3処理手段130と、第4処理手段140とを備えている。第1処理手段110、第2処理手段120、第3処理手段130、及び第4処理手段140のそれぞれは、CPU、ROM、RAM、その他通信回路等のハードウェアと、当該ハードウェアを書く処理手段として機能させるための本発明の「画像処理プログラム」の部分とにより構成されている。第1処理手段110、第2処理手段120、第3処理手段130、及び第4処理手段140は、それぞれ別個独立のハードウェアによって構成されていてもよく、共通のハードウェアによって構成されていてもよい。
記憶手段102は、第1処理手段110によるエリアの設定方法、第2処理手段120による第1画素の色成分の補正方法、第3処理手段130による第1画素の注目色に応じた特徴量の算出方法、第4処理手段140による特徴量に基づく注目色のレーンマークの認識方法等を記憶する。
第1処理手段110は、路面画像において複数の画素を包含するエリアを逐次移動させながら設定する。
第2処理手段120は、第1処理手段110によりエリアに包含される複数の画素のうちエリアの移動方向先端部分に包含される「第1画素」の色成分を、該複数の画素のうち第1画素以外の「第2画素」の色成分を基準として補正する。
第3処理手段130は、第2処理手段120により補正された第1画素の色成分に基づき、注目色に応じた第1画素の「特徴量」を算出する。
第4処理手段140は、第1処理手段110によってエリアが設定されるたび、第2処理手段120による第1画素の色成分の補正及び第3処理手段130による第1画素の特徴量の算出が逐次繰り返されることで得られた複数の画素の特徴量に基づき、路面画像において注目色のレーンマークを認識する。
前記構成の車両10に搭載されている画像処理システムに100より実行される画像処理方法について図2〜図8を用いて説明する。
まず、第1処理手段110が、カメラ12によって撮像されたm×n個の画素からなる、図3に示されているような路面画像において、下色の行番号を表す指数i(i=0,1,2,・・,m−1)を「0」に設定し(図2/S101)、且つ、左色の列番号を表す指数j(j=0,1,2,・・,n−1)を「4」に設定する(図2/S102)。図3に示されている路面画像では、車両10の走行レーンの左右のレーンマークMのうち、左側のレーンマークM及びその周辺の路面部分に影Sがさしている。
この上で、第1処理手段110が「第1処理」を実行する(図2/S110)。具体的には、図4に示されているように、路面画像における横並びの複数の画素を包含し、且つ、当該複数の画素のうち右端の画素Pijの位置によって識別される、1行×4列のサイズ及び形状を有するエリアAijを設定する。なお、列番号を表す指数が「2」に設定された場合、1行×2列のサイズ及び形状を有するエリアAi2が設定されてもよく、列番号を表す指数が「3」に設定された場合、1行×3列のサイズ及び形状を有するエリアAi3が設定されてもよい。
次に、第2処理手段120が「第2処理」を実行する(図2/S120)。具体的には、第1処理手段110により設定されたエリアAijに含まれている複数の画素Pis(s=j−3,j−2,j−1,j)のうち、右端部分(エリアAijの移動方向先端部分)にある第1画素Pijの色信号Iij=(Rij,Gij,Bij)が、当該複数の画素のうち第1画素Pij以外の第2画素Pik(k<j)の色信号Iikを基準として補正されることにより、第1画素Pijの補正色信号I’ijが得られる。具体的には、次式(1)に従って第2画素Pikのそれぞれの輝度値Vikが決定され、次式(2)に従って補正係数の行列Wが決定され、且つ、次式(3)に従って第1画素Pijの補正色信号I’ijが決定される(「diag」は対角行列を表し、「t」は転置を表す)。
Vik=[α,β,γ]・(Rik,Gik,Bik)
=αRik+βGik+γBik
(α>0,β>0,γ>0,α+β+γ=1) ・・(1)
W=diag[ΣkVik/ΣkRik,ΣkVik/ΣkGik,ΣkVik/ΣkBik]
≡diag[V/R,V/B,V/G] ・・(2)
I’ij=W・Iij
=diag[V/R,V/B,V/G]・(Rij,Gij,Bij)
[(V/R)Rij,(V/G)Gij,(V/B)Bij] ・・(3)
次に、第3処理手段130が「第3処理」を実行する(図2/S130)。具体的には、第2処理手段120によって補正された第1画素Pijの色信号I’ijに基づき、注目色に応じた第1画素Pijの特徴量Qijが算出される。例えば、注目色が「黄色」、すなわち、R値がB値よりも大きくなる色である場合、第1画素Pijの色信号Iijに基づき、次式(4)に従って第1画素Pijの輝度値Vijが算出され、且つ、第1画素Pijの補正色信号I’ijと、必要に応じて第1画素Pijの輝度値Vijとに基づき、次式(5a)(5b)又は(5c)に従って第1画素Pijの特徴量Qijが算出される。
Vij=[α,β,γ]・(Rij,Gij,Bij)
=αRij+βGij+γBij
(α>0,β>0,γ>0,α+β+γ=1) ・・(4)
Qij=(1/Vij,0,1/Vij)・I’ij
=(V/Vij){(Rij/R)+(Bij/B)} ・・(5a)
Qij=(1/Vij,0,−1/Vij)・I’ij
=(V/Vij){(Rij/R)−(Bij/B)} ・・(5b)
Qij=(Rij/R)/(Bij/B) ・・(5c)
式(5a)に従って算出される特徴量Qijは第1画素Pijの補正色信号I’ijのR成分及びG成分の和が、第1画素Pijの輝度値Vijで除された(規格化された)ものである。また、式(5b)に従って算出される特徴量Qijは第1画素Pijの補正色信号I’ijのR成分及びG成分の差が、第1画素Pijの輝度値Vijで除されたものである。さらに、式(5c)に従って算出される特徴量Qijは第1画素Pijの補正色信号I’ijのG成分に対するR成分の比率である。
第1画素Pijの特徴量Qijが算出された後、第1処理手段110によって列番号を表す指数jが「1」だけ増やされ(図2/S103)、当該指数jが路面画像の横画素数m以上であるか否かが判定される(図2/S104)。なお、当該指数jの増加数は、後述の路面画像におけるレーンマーク認識処理に支障をきたさない程度の「2」以上の数であってもよい。
そして、当該指数jが路面画像の横画素数m未満であると判定された場合(図2/S104・・NO)、第1ないし第3処理が実行される(図2/S110〜S130)。列番号を表す指数jが「1」ずつ増やされるたびに新たにエリアAijが設定されるので、エリアAijは右方向に1画素ずつ移動していきながら更新設定されることとなる。また、エリアAijに包含される複数の画素のうち右端部分に包含される第1画素Pijは、エリアAijの移動方向(図4矢印方向)、すなわち右方向についての先端部分に包含される画素である。
一方、当該指数jが路面画像の横画素数m以上であると判定された場合(図2/S104・・YES)、第1処理手段110により、行番号を表す指数iが「1」だけ増やされ(図2/S105)、当該指数iが路面画像の縦画素数n以上であるか否かが判定される(図2/S106)。なお、当該指数iの増加数は、後述の路面画像におけるレーンマーク認識処理に支障をきたさない程度の「2」以上の数であってもよい。
そして、行番号を表す指数iが路面画像の縦画素数n未満であると判定された場合(図2/S106・・NO)、第1処理手段110により列番号を表す指数jが「4」に再び設定された上で(図2/S102)、第1ないし第3処理が実行される(図2/S110〜S130)。また、当該指数iが一又は複数の所定値を超えている場合、サイズが小さいエリアAijが設定されてもよい。これにより、路面画像の上に行くほど、例えば図4に示されているエリアAijの幅が小さく設定される。
一方、当該指数iが路面画像の縦画素数n以上であると判定された場合(図2/S106・・YES)、第4処理手段140が「第4処理」を実行する(図2/S140)。具体的には、路面画像における各画素Pijの特徴量Qijに基づき、路面画像におけるレーンマークが認識される。
例えば、図3に示されている路面画像において、図5(a)に示されているように、左から順に画素Pij1=(Xj1,Yi)が左側のレーンマークMの左端に相当し、画素Pij2=(Xj2,Yi)が左側のレーンマークMの右端に相当し、画素Pij3=(Xj3,Yi)が路面にさしている影Sの端に相当し、画素Pij4=(Xj4,Yi)が右側のレーンマークMの左端に相当し、且つ、画素Pij5=(Xj5,Yi)が右側のレーンマークMの右端に相当する場合を考える。
この場合、一列に並んでいる複数の画素Pij(j=0,1,2,・・,m−1)の注目色に応じた特徴量Qijは、路面画像のX座標の増加に伴って図5(b)に示されているように変化する。
具体的には、特徴量Qijは、X=Xj1及びXj4においてそれぞれ大きく増加する。すなわち、エリアAijが前回よりも右に移動して更新設定されることで、図6(a)に示されているように、第1画素PijがレーンマークMの左端部分に相当する一方、第2画素Pik(k=j1−3,j1−2,j1−1)がこのレーンマークMの左側の路面部分に相当する状態となったとき、第1画素Pijの注目色に応じた特徴量Qijが大きく増加する。これは、第1画素Pijの色成分Rij,Gij,Bijが、第2画素Pikの各色成分の総和R,G,Bを基準として補正されることで、道路にさす影S又は光の影響が軽減又は解消され、且つ、第1画素Pijには注目色(レーンマークMの色)が含まれる一方、第2画素Pikには注目色とは別の色(路面の色)が含まれているという相違が強調されるからである。
例えば、レーンマークMが黄色である一方、路面が灰色である場合、レーンマークMに相当する画素のR成分はB成分より大きくなる一方、路面に相当する画素のR成分及びB成分の差は小さい。しかし、レーンマークMに影Sがさしている場合(図3参照)、レーンマークMに相当する画素のR成分が小さくなる。しかるに、路面にも同様に影がさしている場合、路面に相当する画素のR成分も小さくなる。従って、レーンマークMに相当する画素のR成分が、路面に相当する画素のR成分を基準として補正されることで、レーンマークMに相当する画素のR成分が影Sの影響により低減した分が補償され得る(式(1)〜(3)参照)。これにより、レーンマークMに相当する画素Pijの特徴量Qijが、影の影響が軽減又は排除された形で算出され得る(式(4)(5a)〜(5c)参照)。
また、一度大きく増加した特徴量Qijは徐々に減少する。すなわち、エリアAijが前回よりも右に移動して更新設定されることで、図6(b)又は図6(c)に示されているように、第1画素PijがレーンマークMの部分に相当する一方、第2画素Pikの一部又は全部がこのレーンマークMの部分に相当する状態となったとき、第1画素Pijの注目色に応じた特徴量Qijが徐々に減少する。これは、第1画素Pijの各色成分が、第2画素Pikの各色成分の総和を基準として補正されることで、第1画素PijにはレーンマークMの色が含まれる一方、第2画素Pikには路面の色が含まれているという相違が徐々に薄れるからである。
さらに、特徴量QijはX=Xj2及びXj5においてそれぞれ大きく減少する。すなわち、エリアAijが前回よりも右に移動して更新設定されることで、図6(d)に示されているように、第1画素PijがレーンマークMの右側の路面部分に相当する一方、第2画素PikがこのレーンマークMの部分に相当する状態となったとき、第1画素Pijの注目色に応じた特徴量Qijが大きく減少する。これは、第1画素Pijの色成分Rij,Gij,Bijが、第2画素Pikの各色成分の総和R,G,Bを基準として補正されることで、道路にさす影S又は光の影響が軽減又は解消され、且つ、第1画素Pijには注目色とは別の色(路面の色)が含まれる一方、第2画素Pikには注目色(レーンマークMの色)が含まれているという相違が強調されるからである。
例えば、レーンマークMが黄色である一方、路面が灰色である場合、レーンマークMに相当する画素のR成分はB成分より大きくなる一方、路面に相当する画素のR成分及びB成分の差は小さい。しかし、レーンマークMに光がさしている場合、レーンマークMに相当する画素のB成分が大きくなる。しかるに、路面にも同様に光がさしている場合、路面に相当する画素のB成分が大きくなる。従って、レーンマークMに相当する画素のB成分が、路面に相当する画素のB成分を基準として補正されることで、レーンマークMに相当する画素のB成分が光の影響により増加した分が補償され得る(式(1)〜(3)参照)。これにより、レーンマークMに相当する画素Pijの特徴量Qijが、光の影響が軽減又は排除された形で算出され得る(式(4)(5a)〜(5c)参照)。
また、一度大きく減少した特徴量Qijは徐々に増加する。すなわち、エリアAijが前回よりも右に移動して更新設定されることで、図6(e)又は図6(f)に示されているように、第1画素PijがレーンマークMの右側の路面部分に相当する一方、第2画素Pikの一部又は全部がこの路面部分に相当する状態となったとき、第1画素Pijの注目色に応じた特徴量Qijが徐々に減少する。これは、第1画素Pijの色成分Rij,Gij,Bijが、第2画素Pikの色成分の総和R,G,Bを基準として補正されることで、第1画素Pijに路面の色が含まれる一方、第2画素Pikには注目色(レーンマークMの色)が含まれているという相違が徐々に薄れるからである。
さらに、特徴量Qijは、X=Xj3の前後でほぼ一定に維持される。すなわち、エリアAijが前回よりも右に移動して更新設定されることで、第1画素Pijが明るい路面部分に相当する一方、第2画素Pikが路面の暗い(影Sがさしている)路面部分に相当する状態となったとき、第1画素Pijの注目色に応じた特徴量Qijがほぼ一定に維持される。これは、第1画素Pijの各色成分Rij,Gij,Bijが、第2画素Pikの輝度値の総和Qを基準とする第2画素Pikの各色成分の総和R,G,Bを基準として補正され、且つ、第1画素Pijの輝度値Vijを基準とする当該補正後の色成分Rij’,Gij’,Bij’に基づいて第1画素Pijの特徴量Qijが算出されるからである。すなわち、第1画素Pijの各色成分Rij,Gij,Bijが、輝度値の総和に対する色成分の総和の比R/V,G/V,B/Vを基準として補正され、且つ、第1画素Pijの輝度値Vijに対する当該補正後の色成分の比Rij’/Vij,Gij’/Vij,Bij’/Vijに基づいて第1画素Pijの特徴量Qijが算出されるからである。そして、これにより、道路にさす影S又は光の影響が軽減又は解消され、且つ、第1画素Pij及び第2画素Pikにはともに注目色とは別の色(路面の色)が含まれるということが顕在化されるからである。
第4処理手段140は、図5(b)に示されているように、路面画像の各画素Pijにおける特徴量Qijの、左側の極大値及び右側の極小値により挟まれた部分をレーンマークMであると認識する。すなわち、図7に示されているように、特徴量Qijが極大値を示す点(図中白点)及び特徴量Qijが極小値を示す点(図中黒点)。また、第4処理手段140は、レーンマークMの左右のエッジのうち、走行レーン中央寄りのエッジをレーンマークMのエッジE(図中太線)として認識する。
そして、電子制御ユニット11が、画像処理システム100による画像処理結果、すなわち、レーンマークMのエッジEの認識結果に基づき、車両10の走行を制御する。
前記画像処理方法を実行する画像処理システム100によれば、路面画像において設定されたエリアAijに包含される第1画素Pijの色成分Rij,Gij,Bijが、第2画素Pikの輝度値の総和V(=ΣkVik)を基準とする第2画素Pikの色成分の総和R(=ΣkRik),G(=ΣkGik),B(=ΣkBik)を基準として補正される。すなわち、第1画素Pijの色成分Rij,Gij,Bijが、第2画素Pikの輝度値の総和Vに対する色成分の総和R,G,Bの比R/V,G/V,B/Vを基準として補正される(図2/S120、式(1)〜(3))。また、第1画素Pijの輝度値Vijを基準とする第1画素Pijの色成分Rij,Gij,Bijに基づき、第1画素Pijの特徴量Qijが算出される。すなわち、第1画素Pijの輝度値に対する色成分の比Rij/Vij,Gij/Vij,Bij/Vij(図2/S130、式(5a)(5b)参照)。これにより、路面にさす影や光の影響が低減され、第1画素Pijに相当する路面部分の実際の色が、第1画素Pijの色成分Rij,Gij,Bij、ひいては特徴量Qijに十分に反映され得る。
また、エリアAijが逐次移動させられながら設定されるが(図2/S103,S110)、エリアAijに包含される複数の画素のうち、その移動方向先端部分の画素が第1画素Pijとされ、その他の画素が第2画素Pik(k<j)とされている(図4参照)。このため、エリアAijの先端部分に相当する路面部分の色が、前回に設定されたエリアAijの先端部分に相当する路面部分の色と異なる状態になったとき、図6(a)又は図6(d)に示されているように、第1画素Pijに相当する路面部分の色と、一部又は全部の第2画素Pikに相当する路面部分の色とが異なる状態になる。このため、前記のように第1画素Pijの色成分Rij,Gij,Bijが、第2画素Pikの色成分の総和R,G,Bを基準として補正されることにより、第1画素Pijに相当する路面部分の実際の色が、この第1画素Pijの色成分Rij,Gij,Bij、ひいては注目色に応じた特徴量Qijに顕著に反映され得る(図5(b)参照)。
さらに、第1画素Pijの輝度値Vijと、第2画素Pikの輝度値Vikの総和Vとが考慮されて第1画素Pijの特徴量Qijが算出される(図2/S130、式(1)(4)参照)。これにより、第1画素Pij及び第2画素Pikの色ではなく明るさの違いにより第1画素Pijの特徴量Qijが過大又は過少となる事態が回避され得る。例えば、図5(a)に示されている影Sがさして暗い路面部分と、影Sから外れて明るい路面部分との境界位置Xj3において、第1画素Pij及び第2画素Pikの明るさの違いにより、第1画素Pijの特徴量Qij(特に式(5a)に従って算出される特徴量Qij)が大きく変動し、この第1画素PijがレーンマークMのエッジEに相当すると誤判定される事態が回避され得る。
以上により、路面への光の照射状態が部分的に異なっている場合でも、画像処理システム100によって路面画像において注目色のレーンマークM及びそのエッジEが高精度で認識され得る。そして、画像処理システムによる当該画像処理結果に基づき、レーンマークM及びそのエッジEの実際の位置に鑑みて車両10の走行が適切に制御され得る。
さらに、本発明の車両は、第1処理手段110は、路面画像の位置に応じて、サイズ、形状、又はサイズ及び形状を調節しながらエリアAijを設定可能である。具体的には、前記のように、路面画像の上に行くほど、例えば図4に示されているエリアAijの幅が小さく設定される。
今回設定されたエリアAijの第1画素Pijに相当する路面部分の色が、前回に設定されたエリアの第1画素pij-1に相当する路面部分の色と異なる状態となったとき(例えば、図6(c)に示されている状態から図6(d)に示されている状態となったとき)、今回設定されたエリアAijにおいて、第1画素Pijに相当する路面部分の色と、全部又は大半の第2画素Pikに相当する路面部分の色とが異なる状態となるように、エリアAijのサイズ及び形状のうち一方又は両方が調節され得る。これにより、第1画素Pijに相当する路面部分の実際の色が、この第1画素Pijの色成分、ひいては注目色に応じた特徴量Qijに顕著に反映され得る。従って、路面への光の照射状態が部分的に異なっている場合でも、画像処理システム100によって路面画像において注目色のレーンマークが高精度で認識され得る(図7参照)。そして、画像処理システム100による当該画像処理結果に基づき、レーンマークM及びそのエッジEの実際の位置に鑑みて車両10の走行が適切に制御され得る。
なお、前記実施形態では各画素の色信号がRGB成分により表現されたが、他の実施形態として各画素の色信号がCMY成分、YIQ成分等、RGB表色系とは異なる表色系により表現されてもよい。
前記実施形態では図4に示されているように、1行×4列(複数列)というサイズ及び形状のエリアAijが設定されたが、他の実施形態として次に列挙するようなさまざまなサイズ及び形状を有するエリアAijが設定されてもよい。すなわち、図8(a)に示されているように、右端部分(移動方向先端部分)の第1画素Pijと、第1画素Pijの左側(移動方向後方)にある画素Pij-1,Pij-2及びPi+1j-2とを包含する等、移動方向前方に延びた部分を有するエリアAijが設定されてもよい。また、図8(b)に示されているように右端部分の第1画素Pijと、第1画素Pijの左側にある画素Pij-2,Pij-3及びPij-4とを包含するような、離反した複数の画素を包含するエリアAijが設定されてもよい。
前記実施形態ではエリアAijが各行の右に逐次移動するように更新設定されたが、他の実施形態として図8(c)に示されているようにエリアAijが各行の左に逐次移動するように更新設定されてもよく、また、エリアAijがある行では右に逐次移動する一方、他の行では左に逐次移動するように更新設定されてもよい。路面画像においてエリアAijが左に逐次移動するように更新設定される場合、エリアAijに包含される複数の画素のうち、左端の画素が第1画素Pij、第1画素Pijより右側の画素が第2画素Pik(k>j)として第2処理(図2/S120)等が実行される。
また、前記実施形態では横に延びたエリアAijが横に逐次移動するように更新設定されたが、他の実施形態として図8(d)又は図8(e)に示されているように縦に延びた(又は進行方向前方に縦に伸びた部分を有する)エリアAijが各行の上、下、又は上若しくは下に逐次移動するように更新設定されてもよい。路面画像において縦に延びたエリアAijが上下に逐次移動するように更新設定される場合、エリアAijに包含される複数の画素のうち、上端又は下端の画素が第1画素Pij、第1画素Pijより下側又は上側の画素が第2画素Pik(k>j)として第2処理(図2/S120)等が実行される。
さらに他の実施形態として、エリアAijが横に2画素分ずつ移動し、且つ、縦に1画素分ずつ移動するように、すなわち、エリアAijが路面画像において斜め方向に移動するように更新設定されてもよい。
ところで、エリアAijに包含される第2画素Pikが過少である場合、レーンマークMの剥げ等により局所的に本来の注目色とは別の色となっている路面部分の色しか第2画素Pikの色成分Rik,Bik,Gikに反映されないおそれがある。このため、今回設定されたエリアAijにおいて、第2画素Pikの色成分Rik,Bik,Gikを基準とした第1画素Pijの色成分Rij,Bij,Gijの補正量が過大となる可能性がある。そして、レーンマークMのかすれがこのレーンマークMのエッジEであると認識される等、第1画素Pijの注目色に応じた特徴量Qijに基づくレーンマークMの認識精度が低下する可能性がある。
一方、エリアAijに包含される第2画素Pikが過多である場合、当該エリアAijに相当する路面部分に併存する複数の色が第2画素Pijの色成分の総和R=ΣkRik,B=ΣkBik,G=ΣkGikに反映されるおそれがある。このため、今回設定されたエリアAijにおいて、第2画素Pikの色成分Rik,Bik,Gikを基準とした、第1画素Pijの色成分Rij,Bij,Gijの補正量が不十分となる可能性がある。そして、レーンマークMのエッジEが真のエッジEではないと認識される等、第1画素Pijの注目色に応じた特徴量Qijに基づくレーンマークMの認識精度が低下する可能性がある。
さらに、路面画像においてレーンマークがどの位置にあると認識されるかは、前回のレーンマークM(及びそのエッジE)の認識結果に依存する。例えば、車両10の走行状態が安定しているにもかかわらず、路面画像において前回認識されたレーンマークMの位置に鑑みて著しく妥当性(例えば、連続性)を欠く位置ではレーンマークMが認識される可能性が低く、また、妥当性に欠ける認識結果に基づいて車両10の走行が制御されるべきではない。
また、路面画像においてレーンマークがどの位置にあると認識されるかは、車両10の走行状態にも依存する。例えば、車両10が左にカーブしながら走行しているとき、路面画像においてレーンマークは道路のカーブの程度に応じた位置に認識されるものと予測される。
そこで、第1画素Pijの色成分の補正結果(図2/S120)、及び第1画素Pijの注目色に応じた特徴量Qijの算出結果(図2/S130)、レーンマークMの認識結果(図2/S140)、及び車両10に搭載された速度センサやヨーレートセンサ(図示略)によって測定される車両10の速度やヨーレート等の走行状態のうち一部又は全部に基づき、エリアAijがそのサイズ及び形状のうち一方又は両方が調節された上で再設定又は新規設定されてもよい。
当該実施形態の画像処理システム100によれば、前記事情に鑑みて、レーンマークMの認識精度が低下するようなエリアAijの設定を回避し、レーンマークMの認識精度を向上させることができる。そして、当該画像処理結果に基づき、レーンマークの実際の位置に鑑みて車両10の走行が適切に制御され得る。
本発明の一実施形態における車両及びこれに搭載されている画像処理システムの構成説明図 本発明の一実施形態における画像処理方法の説明図 路面画像の例示図 第1処理によって設定されるエリアの例示図 第4処理(レーンマーク認識処理)の説明図 エリアに包含される複数の画素の例示図 画像処理により認識されたレーンマークの例示図 第1処理によって設定されるエリアの他の例示図
符号の説明
10‥車両、11‥電子制御ユニット、12‥カメラ、100‥画像処理システム、102‥記憶手段、110‥第1処理手段、120‥第2処理手段、130‥第3処理手段、140‥第4処理手段

Claims (12)

  1. 撮像手段と、
    撮像手段により撮像された路面画像に基づき、画像処理を実行する画像処理システムと、
    画像処理システムによる画像処理結果に基づいて車両の走行を制御する車両走行制御システムとが搭載され、
    画像処理システムが、
    路面画像において複数の画素を包含するエリアを逐次移動させながら設定する第1処理手段と、
    第1処理手段によりエリアに包含される複数の画素のうちエリアの移動方向先端部分に包含される第1画素の色成分を、該複数の画素のうち第1画素以外の第2画素の色成分を基準として補正する第2処理手段と、
    第2処理手段により補正された第1画素の色成分に基づき、注目色に応じた第1画素の特徴量を算出する第3処理手段と、
    第1処理手段によってエリアが設定されるたび、第2処理手段による第1画素の色成分の補正及び第3処理手段による第1画素の特徴量の算出が逐次繰り返されることで得られた複数の画素の特徴量に基づき、路面画像において該注目色のレーンマークを認識する第4処理手段とを備えている車両。
  2. 第1処理手段が、路面画像において移動方向に一列に連続して並んでいる形状のエリア、又は移動方向前方に一列に連続して並んでいる部分を有するエリアを設定することを特徴とする請求項1記載の車両。
  3. 第1処理手段が、路面画像の位置に応じて、サイズ、形状、又はサイズ及び形状を調節しながらエリアを設定可能であることを特徴とする請求項1又は2記載の車両。
  4. 第1処理手段が、第2処理手段による第1画素の色成分の補正結果、第3処理手段による第1画素の特徴量の算出結果、第4処理手段によるレーンマークの認識結果、及び車両の走行状態のうち一部又は全部に基づき、サイズ、形状、又はサイズ及び形状を調節しながらエリアを設定可能であることを特徴とする請求項1、2又は3記載の車両。
  5. 第2処理手段が、第1画素の色成分を、第2画素の輝度値を基準とする第2画素の色成分を基準として補正し、
    第3処理手段が、第1画素の輝度値を基準とする第1画素の該補正後の色成分に基づき、注目色に応じた第1画素の特徴量を算出することを特徴とする請求項1、2、3又は4記載の車両。
  6. 車両に搭載されている撮像手段により撮像された路面画像において複数の画素を包含するエリアを逐次移動させながら設定する第1処理手段と、
    第1処理手段によりエリアに包含される複数の画素のうちエリアの移動方向先端部分に包含される第1画素の色成分を、該複数の画素のうち第1画素以外の第2画素の色成分を基準として補正する第2処理手段と、
    第2処理手段により補正された第1画素の色成分に基づき、注目色に応じた第1画素の特徴量を算出する第3処理手段と、
    第1処理手段によってエリアが設定されるたび、第2処理手段による第1画素の色信号の補正及び第3処理手段による第1画素の特徴量の算出が逐次繰り返されることで得られた複数の画素の特徴量に基づき、路面画像において該注目色のレーンマークを認識する第4処理手段とを備えている画像処理システム。
  7. 第1処理手段が、路面画像において移動方向に一列に連続して並んでいる形状のエリア、又は移動方向前方に一列に連続して並んでいる部分を有するエリアを設定することを特徴とする請求項6記載の画像処理システム。
  8. 第1処理手段が、路面画像の位置に応じて、サイズ、形状、又はサイズ及び形状を調節しながらエリアを設定可能であることを特徴とする請求項6又は7記載の画像処理システム。
  9. 第1処理手段が、第2処理手段による第1画素の色成分の補正結果、第3処理手段による第1画素の特徴量の算出結果、第4処理手段によるレーンマークの認識結果、及び車両の走行状態のうち一部又は全部に基づき、サイズ、形状、又はサイズ及び形状を調節しながらエリアを設定可能であることを特徴とする請求項6、7又は8記載の画像処理システム。
  10. 第2処理手段が、第1画素の色成分を、第2画素の輝度値を基準とする第2画素の色成分を基準として補正し、
    第3処理手段が、第1画素の輝度値を基準とする第1画素の該補正後の色成分に基づき、注目色に応じた第1画素の特徴量を算出することを特徴とする請求項6、7、8又は9記載の画像処理システム。
  11. 車両に搭載されている撮像手段により撮像された路面画像において、複数の画素を包含するエリアを逐次移動させながら設定する第1処理ステップと、
    第1処理ステップにおいてエリアに包含される複数の画素のうちエリアの移動方向先端部分に包含される第1画素の色成分を、該複数の画素のうち第1画素以外の第2画素の色成分を基準として補正する第2処理ステップと、第2処理ステップにおいて補正された第1画素の色成分に基づき、注目色に応じた第1画素の特徴量を算出する第3処理ステップと、
    第1処理ステップによってエリアが設定されるたび、第2処理ステップによる第1画素の色信号の補正及び第3処理ステップによる第1画素の特徴量の算出が逐次繰り返されることで得られた複数の画素の特徴量に基づき、路面画像において該注目色のレーンマークを認識する第4処理ステップとを含んでいる画像処理方法。
  12. 車両に搭載されている撮像手段により撮像された路面画像において複数の画素を包含するエリアを逐次移動させながら設定する第1処理機能と、
    第1処理機能によりエリアに包含される複数の画素のうちエリアの移動方向先端部分に包含される第1画素の色成分を、該複数の画素のうち第1画素以外の第2画素の色成分を基準として補正する第2処理機能と、
    第2処理機能により補正された第1画素の色成分に基づき、注目色に応じた第1画素の特徴量を算出する第3処理機能と、
    第1処理機能によってエリアが設定されるたび、第2処理機能による第1画素の色信号の補正及び第3処理機能による第1画素の特徴量の算出が逐次繰り返されることで得られた複数の画素の特徴量に基づき、路面画像において該注目色のレーンマークを認識する第4処理機能とをコンピュータに付与する画像処理プログラム。
JP2005207574A 2005-07-15 2005-07-15 車両、画像処理システム、画像処理方法、及び画像処理プログラム Expired - Fee Related JP4185077B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2005207574A JP4185077B2 (ja) 2005-07-15 2005-07-15 車両、画像処理システム、画像処理方法、及び画像処理プログラム
PCT/JP2006/313464 WO2007010750A1 (ja) 2005-07-15 2006-07-06 車両、画像処理システム、画像処理方法、画像処理プログラム、画像処理システムの構築システム
US11/995,798 US8170285B2 (en) 2005-07-15 2006-07-06 Systems and methods of vehicle image processing
DE602006014690T DE602006014690D1 (de) 2005-07-15 2006-07-06 Fahrzeug, bildverarbeitungssystem, bildverarbeitungsverfahren, bildverarbeitungsprogramm, struktursystem eines bildverarbeitungssystems
EP06767923A EP1914700B1 (en) 2005-07-15 2006-07-06 Vehicle, image processing system, image processing method, image processing program, structure system of image processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005207574A JP4185077B2 (ja) 2005-07-15 2005-07-15 車両、画像処理システム、画像処理方法、及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2007026106A JP2007026106A (ja) 2007-02-01
JP4185077B2 true JP4185077B2 (ja) 2008-11-19

Family

ID=37668632

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005207574A Expired - Fee Related JP4185077B2 (ja) 2005-07-15 2005-07-15 車両、画像処理システム、画像処理方法、及び画像処理プログラム

Country Status (5)

Country Link
US (1) US8170285B2 (ja)
EP (1) EP1914700B1 (ja)
JP (1) JP4185077B2 (ja)
DE (1) DE602006014690D1 (ja)
WO (1) WO2007010750A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102005055350A1 (de) * 2005-11-21 2007-05-24 Robert Bosch Gmbh Verfahren zur Steuerung der Gesichtsfeldgröße eines Videosystems und Videosystem für ein Kraftfahrzeug
TWI334517B (en) * 2007-08-30 2010-12-11 Ind Tech Res Inst Method for predicting lane line and lane departure warning system using the same
JP4941843B2 (ja) * 2008-02-28 2012-05-30 日本電気株式会社 路面標示画像処理装置、路面標示画像処理方法並びに路面標示画像処理プログラム
JP5083658B2 (ja) * 2008-03-26 2012-11-28 本田技研工業株式会社 車両用車線認識装置、車両、及び車両用車線認識プログラム
JP5034087B2 (ja) * 2008-03-31 2012-09-26 本田技研工業株式会社 車両走行支援装置、車両、車両走行支援プログラム
GB201101237D0 (en) 2011-01-25 2011-03-09 Trw Ltd Method of processing images and apparatus
JP5754470B2 (ja) * 2012-12-20 2015-07-29 株式会社デンソー 路面形状推定装置
DE102013012324A1 (de) * 2013-07-25 2015-01-29 GM Global Technology Operations LLC (n. d. Ges. d. Staates Delaware) Verfahren und Vorrichtung zur Fahrwegfindung
US9224053B1 (en) * 2013-07-31 2015-12-29 Google Inc. Combining multiple estimates of an environment into a consolidated estimate for an autonomous vehicle
US9677897B2 (en) 2013-11-13 2017-06-13 Elwha Llc Dead reckoning system for vehicles
US9412028B2 (en) * 2013-11-13 2016-08-09 Elwha Llc Wheel slip or spin notification
KR20150076627A (ko) 2013-12-27 2015-07-07 한국전자통신연구원 차량 운전 학습 시스템 및 방법
JP6130809B2 (ja) * 2014-04-25 2017-05-17 本田技研工業株式会社 車線認識装置
JP6230482B2 (ja) * 2014-05-19 2017-11-15 本田技研工業株式会社 レーンマーク認識装置、車両及びレーンマーク認識方法
US9892328B2 (en) 2014-06-18 2018-02-13 Mobileye Vision Technologies Ltd. Hazard detection from a camera in a scene with moving shadows
JP5908946B2 (ja) 2014-06-18 2016-04-26 富士重工業株式会社 画像処理装置
JP2018063381A (ja) * 2016-10-14 2018-04-19 矢崎総業株式会社 表示装置
US10430968B2 (en) * 2017-03-14 2019-10-01 Ford Global Technologies, Llc Vehicle localization using cameras
JP7188203B2 (ja) * 2019-03-15 2022-12-13 トヨタ自動車株式会社 区画線劣化特定システムおよび区画線劣化特定方法
JP7390899B2 (ja) 2020-01-10 2023-12-04 日立Astemo株式会社 レーンマーク認識装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2560702B2 (ja) * 1985-12-11 1996-12-04 日本電装株式会社 路面上の車線認識装置
JPH07244717A (ja) 1994-03-02 1995-09-19 Mitsubishi Electric Corp 車両用走行環境認識装置
JP3357749B2 (ja) * 1994-07-12 2002-12-16 本田技研工業株式会社 車両の走行路画像処理装置
EP0827127B1 (en) * 1996-08-28 2006-10-04 Matsushita Electric Industrial Co., Ltd. Local positioning apparatus, and method therefor
WO1999040726A2 (en) 1998-02-06 1999-08-12 Koninklijke Philips Electronics N.V. Motion or depth estimation
JP3333468B2 (ja) 1999-05-24 2002-10-15 本田技研工業株式会社 車両自律走行の走行路画像処理装置
JP4323010B2 (ja) 1999-07-07 2009-09-02 株式会社東海理化電機製作所 車両における走行路認識方法及び走行路認識装置
JP3352655B2 (ja) 1999-09-22 2002-12-03 富士重工業株式会社 車線認識装置
JP3272701B2 (ja) 1999-09-22 2002-04-08 富士重工業株式会社 車外監視装置
US6819779B1 (en) * 2000-11-22 2004-11-16 Cognex Corporation Lane detection system and apparatus
JP4016735B2 (ja) * 2001-11-30 2007-12-05 株式会社日立製作所 レーンマーク認識方法
DE10210546A1 (de) * 2002-03-09 2003-09-18 Bosch Gmbh Robert Verfahren und System zur automatischen Fahrzeugführung
JP3986363B2 (ja) 2002-05-20 2007-10-03 アイシン精機株式会社 車線境界検出装置
JP4526963B2 (ja) * 2005-01-25 2010-08-18 株式会社ホンダエレシス レーンマーク抽出装置

Also Published As

Publication number Publication date
EP1914700A1 (en) 2008-04-23
JP2007026106A (ja) 2007-02-01
US8170285B2 (en) 2012-05-01
WO2007010750A1 (ja) 2007-01-25
EP1914700A4 (en) 2008-11-26
US20090284597A1 (en) 2009-11-19
EP1914700B1 (en) 2010-06-02
DE602006014690D1 (de) 2010-07-15

Similar Documents

Publication Publication Date Title
JP4185077B2 (ja) 車両、画像処理システム、画像処理方法、及び画像処理プログラム
JP5016073B2 (ja) 白線認識装置
CN109785291B (zh) 一种车道线自适应检测方法
JP4603421B2 (ja) 車両、画像処理システム、画像処理方法、及び画像処理プログラム
JP4414369B2 (ja) 車両及び路面標示認識装置
US7209832B2 (en) Lane recognition image processing apparatus
JP4616046B2 (ja) 車両用画像処理システム、車両用画像処理方法、車両用画像処理プログラム、及び車両
EP1403615B1 (en) Apparatus and method for processing stereoscopic images
US8649597B2 (en) Image processing apparatus and control method thereof detecting from a histogram a gradation level whose frequency is a peak value
US20030026456A1 (en) White line detection apparatus and white line detection method
JP5402828B2 (ja) 車線境界検出装置、車線境界検出プログラム
US20140085473A1 (en) In-vehicle camera apparatus
CN107797560A (zh) 一种用于机器人跟踪的视觉识别系统及方法
US8331623B2 (en) Method for tracking and processing image
JP2010211283A (ja) 車線認識装置及び方法
TWI383690B (zh) 影像處理的方法
JP4270183B2 (ja) 白線検出装置
CN113095283B (zh) 一种基于动态roi和改进萤火虫算法的车道线提取方法
JP2010286995A (ja) 車両用画像処理システム
JP3986363B2 (ja) 車線境界検出装置
JP2005157733A (ja) 車線認識装置および車線認識方法
JP2007272785A (ja) 画像処理式車両検出装置及び画像処理式車両検出方法
CN115100083B (zh) 一种车载影像的图像亮度自适应调节方法
JP4052299B2 (ja) カメラ式車両感知器における露光制御方法及び装置
JPH07239996A (ja) 走路認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080902

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080904

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110912

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110912

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120912

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120912

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130912

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees