JP2009237706A - 車両用車線認識装置、車両、及び車両用車線認識プログラム - Google Patents

車両用車線認識装置、車両、及び車両用車線認識プログラム Download PDF

Info

Publication number
JP2009237706A
JP2009237706A JP2008080496A JP2008080496A JP2009237706A JP 2009237706 A JP2009237706 A JP 2009237706A JP 2008080496 A JP2008080496 A JP 2008080496A JP 2008080496 A JP2008080496 A JP 2008080496A JP 2009237706 A JP2009237706 A JP 2009237706A
Authority
JP
Japan
Prior art keywords
lane
image
vehicle
color
lane mark
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008080496A
Other languages
English (en)
Other versions
JP5083658B2 (ja
Inventor
Yosuke Sakamoto
洋介 坂本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2008080496A priority Critical patent/JP5083658B2/ja
Priority to US12/378,509 priority patent/US8391555B2/en
Publication of JP2009237706A publication Critical patent/JP2009237706A/ja
Application granted granted Critical
Publication of JP5083658B2 publication Critical patent/JP5083658B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Abstract

【課題】車両が走行している道路のカラー画像から、多様な色や種別のレーンマークを区別して車線を認識可能な車両用車線認識装置、車両、及び車両用車線認識プログラムを提供する。
【解決手段】車両用車線認識装置は、道路のカラー画像から、車線を規定するレーンマークの画像部分と想定される画素値を有する画素からなる第1画像領域とそれ以外の画素からなる第2画像領域とに分けられた画像を取得するレーンマーク検出用画像取得手段12と、第1画像領域を隣接した画素からなる部分領域に分割するクラスタリング手段13と、各部分領域の色を判定する色判定手段14と、色が同一であると判定された部分領域を1つのグループとしてグループ毎に直線成分抽出処理を行い、抽出された直線成分からレーンマークにより規定される車線の境界位置を認識する車線認識手段15と、車線の認識結果に応じて車両1の機器を制御する車両機器制御手段21とを備える。
【選択図】図2

Description

本発明は、撮像手段を介して取得された道路の画像を処理して、車両が走行している車線を認識する装置、車両、及び当該装置の処理をコンピュータに実行させるためのプログラムに関する。
近年、車両にCCDカメラ等の撮像手段を搭載して、走行している道路の路面を撮像し、得られたカラー画像を処理して道路上の白線や黄線等のレーンマークを検出し、検出した結果から認識される車両が走行する車線(走行レーン)の情報に基づいて、車両の走行制御や運転者への情報提示を行う技術が知られている(例えば特許文献1参照)。
特許文献1の認識方法では、自車の前方画像の全画素の濃度を微分処理し、拡大焦点を中心とする放射状の画素毎の濃度微分値の合計を算出してエッジヒストグラムを導出する。そして、前記認識方法では、このエッジヒストグラムで濃度微分値がピークとなる複数の候補線から道路上の白線、黄線等を認識する。詳細には、前記認識方法では、エッジヒストグラムから選定した候補線のうちそのピーク値が極めて高いものは白線と判断し、R成分を強調した画像中に重畳した候補線のなかに強いR成分を含むものがあれば道路上の黄線であると判断する。
特開平11−053691号公報
特許文献1の認識方法では、レーンマークとして白線と黄線が検出される。しかし、道路上に設けられるレーンマークには、走行区分線(白線・黄線)のような線型のレーンマーク以外にも、多様な色や種別が使用される。例えば、Botts Dotsやキャッツアイのように離散的に設けられる鋲型のレーンマークが使用されている。また、線型のレーンマークには、さらに実線と破線がある。また、例えば、レーンマークの色として、白色、黄色の他に、赤色が使用される場合もある。そして、レーンマークは、その色や種別によって道路法規上の意味が異なることがあるため、車両の走行制御や運転者への情報提示を行うためには、多様なレーンマークの色や種別を区別して認識することが望ましい。
本発明は、かかる背景に鑑みてなされたものであり、車両が走行している道路のカラー画像から、多様な色や種別のレーンマークを区別して車線を認識可能な車両用車線認識装置、車両、及び車両用車線認識プログラムを提供することを目的とする。
さらに、本発明は、車線を規定しているレーンマークの色や種別を精度良く認識し、この認識結果に基づいて車両の走行制御や運転者への情報提示を行うことが可能な車両用車線認識装置、車両、及び車両用車線認識プログラムを提供することを目的とする。
かかる目的を達成するために、本発明の車両用車線認識装置は、車両に搭載された撮像手段を介して取得した道路のカラー画像から、該車両が走行している車線を認識する車両用車線認識装置において、前記撮像手段を介して取得した道路のカラー画像から、前記車線を規定するレーンマークの画像部分と想定される画素値を有する画素からなる第1画像領域と、それ以外の画素からなる第2画像領域とに分けられたレーンマーク検出用画像を取得するレーンマーク検出用画像取得手段と、前記レーンマーク検出用画像の前記第1画像領域を、隣接した画素からなる部分領域に分割するクラスタリング処理を行うクラスタリング手段と、前記クラスタリング処理により分割された前記第1画像領域の前記各部分領域の色を判定する色判定手段と、前記色判定手段により色が同一であると判定された部分領域を1つのグループとしてグループ毎に直線成分抽出処理を行い、抽出された直線成分からレーンマークにより規定される前記車線の境界位置を認識する車線認識手段と、前記車線認識手段の認識結果に応じて、前記車両の機器を制御する車両機器制御手段とを備えることを特徴とする(第1発明)。
第1発明の車両用車線認識装置によれば、レーンマーク検出用画像取得手段により、車線を規定するレーンマークの画像部分と想定される画素値を有する画素からなる第1画像領域と、それ以外の画素からなる第2画像領域とに分けられたレーンマーク検出用画像が取得される。第1画像領域は、例えばレーンマークの画像部分が一般的に有する輝度や色の特徴に基づいて、第2画像領域と分けられる。そして、クラスタリング手段により、レーンマーク検出用画像の第1画像領域を、隣接した画素からなる部分領域に分割する。このとき、例えば、レーンマークの種別が実線である場合は線全体の画像部分、レーンマークの種別が破線である場合は破線を構成する各線分の画像部分、レーンマークの種別が鋲型である場合は各鋲の画像部分が、それぞれ、画像上で隣接した画素からなる領域となると想定される。よって、実線・破線、線型・鋲型といったレーンマークの種別によらずに、1つのレーンマークの画像部分が、共通の処理で部分領域として得られる。
この部分領域について、色判定手段により色を判定し、車線認識手段は、色判定手段により色が同一であると判定された部分領域を1つのグループとして、グループ毎に直線成分抽出処理を行い、抽出された直線成分からレーンマークにより規定される車線の境界位置を認識する。色が同一であるグループ毎に直線成分抽出処理を行うことで、各色のレーンマークにより規定される車線に対応する直線成分を、それぞれ精度良く抽出して、車線を認識することができる。このように、多様な色や種別のレーンマークを区別して、これらのレーンマークにより規定される車線が適切に認識される。よって、車両機器制御手段により、車線認識手段の認識結果に応じて、車線からの逸脱の可能性や道路法規に合致するように車両の機器を適切に制御することができ、車両の走行制御や運転者への情報提示を行うことが可能となる。
また、第1発明の車両用車線認識装置において、前記車線認識手段は、前記直線成分が抽出された前記グループを構成する前記部分領域の色を、該直線成分から認識された車線を規定するレーンマークの色として認識し、前記車両機器制御手段は、少なくとも前記車線認識手段により認識された前記車線の境界位置と該車線を規定するレーンマークの色とに応じて、前記車両の機器を制御することが好ましい(第2発明)。
第2発明の車両用車線認識装置によれば、直線成分が抽出されたグループを構成する部分領域の色から、該直線成分から認識された車線を規定するレーンマークの色が容易に得られる。そして、車両機器制御手段により、車線の境界位置と車線を規定するレーンマークの色から、道路法規上の意味と車両の走行状況に対応して車両の機器を適切に制御することができる。
また、第1又は第2発明の車両用車線認識装置において、前記直線成分が抽出された前記グループを構成する、該直線成分の近傍の前記部分領域の分布状態に基づいて、該直線成分から認識された前記車線を規定するレーンマークの種別を判定する種別判定手段を備え、前記車両機器制御手段は、少なくとも前記車線認識手段により認識された前記車線の境界位置と該車線を規定するレーンマークの種別とに応じて、前記車両の機器を制御することが好ましい(第3発明)。
第3発明の車両用車線認識装置によれば、直線成分が抽出されたグループを構成する、該直線成分の近傍の部分領域の分布状態は、例えば、この直線成分から認識された車線を規定するレーンマークの種別が破線である場合、分布状態がレーンマークの種別が実線である場合に比べて離散的で、鋲型である場合、さらに分布状態が離散的となると想定される。よって、この分布状態に基づいて車線を規定するレーンマークの種別を認識することができる。そして、車両機器制御手段により、車線の境界位置と車線を規定するレーンマークの種別から、道路法規上の意味と車両の走行状況に対応して車両の機器を適切に制御することができる。
また、第1〜第3のうちいずれか発明の車両用車線認識装置において、前記車線認識手段は、前記部分領域のうち、所定方向の幅が、該所定方向に対応するレーンマークの幅に応じて設定された所定範囲外となる部分領域を、前記直線成分抽出処理の対象から除外することが好ましい(第4発明)。
第4発明の車両用車線認識装置によれば、部分領域のうち、所定方向の幅が、該所定方向に対応するレーンマークの幅に応じて設定された所定範囲外となる部分領域は、レーンマークの画像部分でない可能性が高い。よって、この部分領域を直線成分抽出処理の対象から除外することで、車線に対応する直線成分をより精度良く抽出して、車線を適切に認識することができる。
また、第1〜第4発明のうちいずれかの車両用車線認識装置において、前記撮像手段を介して取得されたカラー画像に対して、所定方向の幅が、レーンマークの画像部分の該所定方向の幅よりも大きい所定範囲内となるサイズのカーネルを設定するカーネル設定手段と、前記取得されたカラー画像を、前記カーネル設定手段により設定されたサイズの平滑化用のカーネルを用いたフィルタ処理により平滑化する平滑化手段と、前記平滑化手段により平滑化された後のカラー画像に対する、前記取得されたカラー画像の各画素の画素値の変化度合を算出する変化度合算出手段と、前記取得されたカラー画像の、前記変化度合が所定値以下となる画素の画素値を、予め定められた一定値に置換する画素値置換手段とを備え、前記レーンマーク検出用画像取得手段は、前記画素値置換手段により画素値が置換された後のカラー画像を、前記レーンマーク検出用画像として取得することが好ましい(第5発明)。
第5発明の車両用車線認識装置によれば、カラー画像を、所定方向の幅がレーンマークの画像部分の該所定方向の幅よりも大きい所定範囲内となるサイズの平滑化用のカーネルを用いたフィルタ処理により平滑化するので、レーンマークや局所的な補修跡や影等の画像部分の画素を中心画素としてカーネルを配置した場合、カーネルの範囲に周囲の路面の画像部分が多く含まれることとなる。よって、平滑化後のカラー画像では、路面上の局所的な補修跡や影やレーンマークの画像部分を構成する画素の画素値は、周囲の路面の画像部分を構成する画素の画素値と近い画素値となる。また、路面の画像部分のサイズはレーンマークの画像部分に比べて大きいと想定されるため、路面の画像部分の画素を中心画素としてカーネルを配置した場合、カーネルの範囲に路面の画像部分が多く含まれることとなる。よって、路面の画像部分については平滑化の影響が小さく、平滑化された後のカラー画像でも、平滑化される前のカラー画像における画素値が保持される。このため、平滑化後のカラー画像に対する、取得されたカラー画像の画素の画素値の変化度合は、路面の画像部分より画素値が大きいレーンマークの画像部分では正の大きい値となり、路面の画像部分より画素値が小さい局所的な補修跡や影の画像部分では小さい値(負の値も含む)となる。また、平滑化前後で画素値の変化が小さい路面の画像部分でも、変化度合は小さい値となる。よって、画素値置換手段により、取得されたカラー画像の、変化度合が所定値以下となる画素の画素値を、予め定められた一定値に置換する。これにより、置換された後のカラー画像では、路面の画像部分や局所的な補修跡や影の画像部分の画素の画素値は一定値に置換され、レーンマークの画像部分の画素の画素値のみが保持される。よって、レーンマーク検出用画像取得手段は、画素値が保持された(画素値が一定値以外の)画素からなる領域を第1画像領域とし、この置換された後の画像をレーンマーク検出用画像として取得する。このレーンマーク検出用画像では、第1画像領域としてレーンマークに相当する画像部分が適切に分けられていることから、このレーンマーク検出用画像から車線を精度良く認識することができる。
或いは、第1〜第4発明のうちいずれかの車両用車線認識装置において、前記撮像手段を介して取得されたカラー画像に対して、所定方向の幅が、レーンマークの画像部分の該所定方向の幅よりも大きい所定範囲内となるサイズのカーネルを設定するカーネル設定手段と、前記取得されたカラー画像のカラー成分から算出される、輝度を画素値とする輝度画像と、彩度を画素値とする彩度画像とを、前記カーネル設定手段により設定されたサイズの平滑化用のカーネルを用いたフィルタ処理によりそれぞれ平滑化する平滑化手段と、前記平滑化手段により平滑化された後の輝度画像に対する、前記取得された輝度画像の各画素の画素値の変化度合と、前記平滑化手段により平滑化された後の彩度画像に対する、前記取得された彩度画像の各画素の画素値の変化度合とをそれぞれ算出する変化度合算出手段と、前記取得されたカラー画像の、前記輝度画像から算出された変化度合が所定値以下となり、且つ前記彩度画像から算出された変化度合が所定値以下となる画素の画素値を、予め定められた一定値に置換する画素値置換手段とを備え、前記レーンマーク検出用画像取得手段は、前記画素値置換手段により画素値が置換された後のカラー画像を、前記レーンマーク検出用画像として取得することが好ましい(第6発明)。
第6発明の車両用車線認識装置によれば、白色のレーンマークの画像部分は輝度が大きく、黄色等の有色のレーンマークの画像部分は彩度が大きくなると考えられる。よって、輝度画像と彩度画像についてそれぞれ平滑化処理を行って平滑化前後の画素値の変化度合を算出し、取得されたカラー画像の、輝度画像から算出された変化度合が所定値以下となり、且つ彩度画像から算出された変化度合が所定値以下となる画素の画素値を、予め定められた一定値に置換することで、多様な色のレーンマークに対応したレーンマーク検出用画像が取得される。
また、第1〜第6発明のうちいずれかの車両用車線認識装置において、前記機器は、前記車両の運転者に、複数の種類の注意喚起情報を切り替えて出力する機器であり、該車両機器制御手段は、前記車線認識手段の認識結果に応じて該機器により該運転者に出力する注意喚起情報を切り替えることが好ましい(第7発明)。
第7発明の車両用車線認識装置によれば、車両機器制御手段により、車線認識手段の認識結果に応じて、運転者に出力する注意喚起情報を切り替えることで、車線からの逸脱の可能性や道路法規により合致するように、運転者への情報提示を行うことができる。
また、第1〜第7発明のうちいずれかの車両用車線認識装置において、前記機器は、前記車両の複数の走行制御を変更する機器であり、該車両機器制御手段は、前記車線認識手段の認識結果に応じて該機器により該車両の走行制御を変更することが好ましい(第8発明)。
第8発明の車両用車線認識装置によれば、車両機器制御手段により、車線認識手段の認識結果に応じて、車両の走行制御を変更することで、車線からの逸脱の可能性や道路法規により合致するように、車両の走行制御を行うことができる。
次に、本発明の車両は、撮像手段を備え、該撮像手段を介して取得した道路のカラー画像から、走行している車線を認識する機能を有する車両であって、前記撮像手段を介して取得した道路のカラー画像から、前記車線を規定するレーンマークの画像部分と想定される画素値を有する画素からなる第1画像領域と、それ以外の画素からなる第2画像領域とに分けられたレーンマーク検出用画像を取得するレーンマーク検出用画像取得手段と、前記レーンマーク検出用画像の前記第1画像領域を、隣接した画素からなる部分領域に分割するクラスタリング処理を行うクラスタリング手段と、前記クラスタリング処理により分割された前記第1画像領域の前記各部分領域の色を判定する色判定手段と、前記色判定手段により色が同一であると判定された部分領域を1つのグループとしてグループ毎に直線成分抽出処理を行い、抽出された直線成分からレーンマークにより規定される前記車線の境界位置を認識する車線認識手段と、前記車線認識手段の認識結果に応じて、前記車両の機器を制御する車両機器制御手段とを備えたことを特徴とする(第9発明)。
第9発明の車両によれば、第1発明の車両用車線認識装置に関して説明したように、レーンマーク検出用画像取得手段によりレーンマーク検出用画像を取得し、クラスタリング手段により、レーンマーク検出用画像の第1画像領域を、隣接した画素からなる部分領域に分割することで、レーンマークの種別によらずに、1つのレーンマークの画像部分が、共通の処理で部分領域として得られる。また、車線認識手段により、色が同一であると判定された部分領域を1つのグループとして、グループ毎に直線成分抽出処理を行い、抽出された直線成分から車線を認識することで、共通の処理で、各色のレーンマークにより規定される車線を精度良く認識することができる。このように、多様な色や種別のレーンマークが、共通の処理でそれぞれ精度良く検出され、これらのレーンマークにより規定される車線が適切に認識される。よって、車両機器制御手段により、車線認識手段の認識結果に応じて、車線からの逸脱の可能性や道路法規に合致するように車両の機器を適切に制御することができ、車両の走行制御や運転者への情報提示を行うことが可能となる。
次に、本発明の車両用車線認識プログラムは、車両に搭載された撮像手段を介して取得した道路のカラー画像から、該車両が走行している車線を認識する処理をコンピュータに実行させる車両用車線認識プログラムであって、前記撮像手段を介して取得した道路のカラー画像から、前記車線を規定するレーンマークの画像部分と想定される画素値を有する画素からなる第1画像領域と、それ以外の画素からなる第2画像領域とに分けられたレーンマーク検出用画像を取得するレーンマーク検出用画像取得処理と、前記レーンマーク検出用画像の前記第1画像領域を、隣接した画素からなる部分領域に分割するクラスタリング処理と、前記クラスタリング処理により分割された前記第1画像領域の前記各部分領域の色を判定する色判定処理と、前記色判定処理により色が同一であると判定された部分領域を1つのグループとしてグループ毎に直線成分抽出処理を行い、抽出された直線成分からレーンマークにより規定される前記車線の境界位置を認識する車線認識処理と、前記車線認識処理の認識結果に応じて、前記車両の機器を制御する車両機器制御処理とをコンピュータに実行させる機能を有することを特徴とする(第10発明)。
第10発明の車両用画像処理用プログラムによれば、第1発明に関して説明した効果を奏し得る処理をコンピュータに実行させることができる。
本発明の一実施形態を、図1〜図9を参照して説明する。図1を参照して、本発明の実施形態である車両用車線認識装置は、自車両1(本発明の車両)に搭載して使用され、画像処理ユニット10とECU(Electronic Control Unit)20から構成される。画像処理ユニット1は、自車両1の前方を撮像するカメラ2により撮像される画像を処理するものであり、撮像された画像から、自車両1の走行している道路上のレーンマークにより規定される車線を認識する。なお、カメラ2(本発明の撮像手段)はCCDカメラ等であり、自車両1のフロント部分に取り付けられている。また、画像処理ユニット10により認識された車線のデータは、ECU20に出力される。ECU20は、自車両1の電気的な制御を総合的に行うものであり、入力された車線のデータに応じて、自車両10のステアリング装置を制御して、自車両1が車線に沿って走行するようにアシストする。
次に、図2を参照して、画像処理ユニット10は、その機能として、自車両1の前方の道路のカラー画像から車線を認識するための、画像取得手段11と、レーンマーク検出用画像取得手段12と、クラスタリング手段13と、色判定手段14と、車線認識手段15と、種別判定手段16とを備えている。さらに、画像処理ユニット10は、画像取得手段11により取得されたカラー画像を処理して、処理後の画像をレーンマーク検出用画像取得手段12に出力するための、カーネル設定手段31と、平滑化手段32と、変化度合算出手段33と、画素値置換手段34とを備えている。これらの各機能の詳細については後述する。
また、ECU20は、その機能として、認識された車線のデータに応じて自車両1のステアリング装置を制御して、車線維持支援処理を実行する車両機器制御手段21を備えている。ステアリング装置は本発明の機器に相当する。具体的には、車両機器制御手段21は、認識された車線に沿って自車両1が走行するように、ステアリング装置(図示せず)のアクチュエータを駆動することによりトルク(操舵アシストトルク)を発生し、自車両1のステアリング装置のステアリングハンドルを介して運転者の手動操作により入力されたトルク(運転者操舵トルク)と共に、ステアリング装置の操舵機構を介して操舵輪に伝達する。このとき、車両機器制御手段21は、認識された車線の境界位置に基づいて、自車両1が車線を逸脱する可能性があるか否か(車線維持支援処理を行うべきか否か)を判定する車線逸脱判定処理を実行する。そして、車線を逸脱する可能性がある場合に、車線を規定するレーンマークの色及び形状に基づいて制御レベルを選択し、この制御レベルに応じて操舵アシストトルクを発生して車線維持支援処理を実行する。
画像処理ユニット10は、入力アナログ信号をデジタル信号に変換するA/D変換回路と、デジタル化した画像信号を記憶する画像メモリと、画像メモリに記憶されたデータにアクセス(読み出し及び書き込み)するためのインタフェース回路を有して、該画像メモリに記憶された画像に対して各種の演算処理を行うコンピュータ(CPU,メモリ,入出力回路等からなる演算処理回路、或いはこれらの機能を集約したマイクロコンピュータ)等により構成された電子ユニットである。また、ECU20も、各種の演算処理を行うコンピュータ(CPU,メモリ,入出力回路等からなる演算処理回路、或いはこれらの機能を集約したマイクロコンピュータ)等により構成された電子ユニットである。
画像処理ユニット10は、そのコンピュータに本発明の車両認識用プログラムを実行させることによって、該コンピュータが、画像取得手段11、レーンマーク検出用画像取得手段12、クラスタリング手段13、色判定手段14、車線認識手段15、種別判定手段16、カーネル設定手段31、平滑化手段32、変化度合算出手段33、及び画素値置換手段14として機能する。また、ECU20は、そのコンピュータに本発明の車両認識用プログラムを実行させることによって、該コンピュータが、車両機器制御手段21として機能する。
次に、車両用車線認識装置による作動(車両用車線認識処理)を、図3に示したフローチャートに従って説明する。図3に示したフローチャートによる処理は、車両用車線認識装置の制御周期毎に繰り返し実行される。
図3のSTEP1で、画像取得手段11は、カメラ2から出力される画像信号を入力し、入力した画像信号から、画素データにより構成されるカラー画像を取得する。このとき、画素データは、R値、G値、B値からなるカラー成分で構成されている。取得されたカラー画像はA/D変換されて画像メモリに格納される。図5(a)に、ある制御周期の時刻においてカメラ2を介して取得されるカラー画像I1を例示する。カラー画像I1は、図5(a)に例示するような、m×n個の画素からなる画像である。カラー画像I1の各画素P1は、カラー成分としてR値,G値,B値を有するものであり、P1(i,j)=(Rij,Gij,Bij)で表される。ただし、i,jは、各画素の座標であり、0≦i<m,0≦j<nとなる整数である。
図5(a)の例では、自車両1が矢印方向に走行しており、自車両1が走行している道路の車線の左側を規定するレーンマークが破線の黄線A1(レーンマークa1〜a6から構成される)であり、右側を規定するレーンマークが破線の白線A2(レーンマークa7〜a12から構成される)である場合を示す。
次に、STEP2で、レーンマーク検出用画像取得手段12は、STEP1で取得した道路のカラー画像から、車線を規定するレーンマークの画像部分と想定される画素値を有する画素からなる第1画像領域と、それ以外の画素からなる第2画像領域とに分けられたレーンマーク検出用画像を取得する。このレーンマーク検出用画像を取得する処理は、図4に示すフローチャートのように行われる。
図4を参照して、STEP21で、平滑化手段32は、STEP1で取得したカラー画像I1の画素のカラー成分(R,G,B)から、画素の輝度Yを算出し、この輝度Yを画素値とする輝度画像I2を取得すると共に、画素の彩度Sを算出し、この彩度Sを画素値とする彩度画像I3を取得する。
詳細には、平滑化手段32は、カラー画像I1の各画素P1(i,j)のカラー成分(Rij,Gij,Bij)から、Yij=α×Rij+β×Gij+γ×Bijにより輝度Yijを算出する。ただし、α,β,γは、α+β+γ=1となるような所定の係数である。これにより、図6(a)に例示するような、輝度Yijを各画素P2(i,j)のデータとする、m×n個の画素からなる輝度画像I2が取得される。なお、画像取得手段11は、輝度Yijを、(Rij,Gij,Bij)のうちの最大値MAXij、最小値MINijを用いて、Yij=(MAXij+MINij)/2により算出してもよい。または、平滑化手段32は、輝度YijとしてGij値を用いるものとしてもよい。図6(a)に示すように、輝度画像I2において、白線A2の画像部分は輝度が大きく、黄線A1の画像部分は白線A2より輝度が小さい。また、路面の画像部分はさらに輝度が小さく平均的な路面の輝度となる。
これと共に、平滑化手段32は、カラー画像I1の各画素P1(i,j)のR値,G値,B値(Rij,Gij,Bij)から、Sij=(MAXij−MINij)/MAXijにより彩度Sijを算出する。これにより、図6(b)に例示するような、彩度Sijを各画素P3(i,j)のデータとする、m×n個の画素からなる彩度画像I3が取得される。図6(b)に示すように、彩度画像I3において、黄線A1の画像部分は彩度が大きく、白線A2の画像部分は黄線A1より彩度が小さい。また、路面の画像部分はさらに彩度が小さく平均的な路面の彩度となる。
次に、STEP22で、カーネル設定手段31は、STEP21で取得した輝度画像I2と彩度画像I3に対して、複数のサイズの平滑化用のカーネルを設定する。このとき、カーネル設定手段31は、所定方向の幅が、レーンマークの画像部分の該所定方向の幅よりも大きい所定範囲内となるサイズのカーネルを設定する。
図6(c)に、輝度画像I2に対して設定された5つの平滑化用のカーネルK1〜K5を例示する。なお、彩度画像I3に対しても、輝度画像I2と同様に平滑化用のカーネルK1〜K5が設定される。平滑化用のカーネルK1〜K5は、それぞれ、輝度画像I2の領域R1〜R5に含まれる画素を中心画素として平滑化する際に用いられる。
平滑化用のカーネルK1〜K5の縦方向のサイズY[Pixel]は、いずれも数画素(例えば、1〜3[Pixel])とする。領域R1〜R5は、自車両1から離れるにしたがって、段階的に縦方向の幅を狭くしている。なお、サイズYは、自車両1からの距離が離れるほど小さくなるような値を用いてもよい。
また、平滑化用のカーネルK1〜K5の横方向のサイズX[Pixel]は、実空間における所定幅ΔXに該当する値とする。所定幅ΔXとしては、レーンマークの幅と想定される値(例えば、0.1〜0.75[m])より大きい値(例えば、レーンマークの幅の数倍、具体的には0.5〜1[m])が用いられる。なお、所定幅ΔXは、道路の幅と想定される値よりは小さい値とする。平滑化用のカーネルK1〜K5の横方向のサイズXは、例えば、それぞれ10,20,50,100,150[Pixel]となる。サイズXは、自車両1の実空間座標系と画像座標系との関係(カメラ2の取り付け位置、焦点距離、画素間隔等により定まる)から、自車両1からの距離が離れるほど小さくなるような値に設定される。
図4に戻り、次に、STEP23で、平滑化手段32は、STEP22で設定した平滑化用のカーネルK1〜K5を用いたフィルタ処理により、輝度画像I2と彩度画像I3とをそれぞれ平滑化する。平滑化では、画像内の各画素について、当該画素を中心画素として平滑化用カーネルを配置し、平滑化用カーネルの範囲に含まれる全画素の画素値の平均を、中心画素の画素値とする処理が行われる。
図6(d)に、平滑化後の輝度画像I4を示す。平滑化により、輝度画像I2内の画素値の変化の幅が狭くなって、低コントラストの画像が得られる。平滑化後の輝度画像I4では、白線A2の画像部分の画素値も、平均的な路面の輝度に近い画素値となっている。
また、図6(e)に、平滑化後の彩度画像I5を示す。平滑化により、彩度画像I3内の画素値の変化の幅が狭くなって、低コントラストの画像が得られる。平滑化後の彩度画像I5では、黄線A1の画像部分の画素値も、平均的な路面の彩度に近い画素値となっている。
次に、カラー画像1の全画素(i=1〜m,j=1〜n)について、STEP24〜27の処理が実行される。
まず、STEP24で、変化度合算出手段33は、STEP22で取得した輝度画像I2の画素値P2(i,j)から、STEP23の平滑化後の輝度画像I4の画素値P4(i,j)を減算して、画素(i,j)の輝度の変化度合ΔIY(i,j)=P2(i,j)−P4(i,j)を算出する。
次に、STEP25で、変化度合算出手段33は、STEP22で取得した彩度画像I3の画素値P3(i,j)から、STEP23の平滑化後の彩度画像I5の画素値P5(i,j)を減算して、画素(i,j)の彩度の変化度合ΔIS(i,j)=P3(i,j)−P5(i,j)を算出する。
次に、STEP26で、画素値置換手段34は、輝度の変化度合ΔIY(i,j)が所定値IYth以下であり、且つ彩度の変化度合ΔIS(i,j)が所定値ISth以下であるか否かを判断する。所定値IYthは、レーンマーク(白線)の画像部分の輝度の変化度合が取り得る範囲に応じて定められる値(例えば、0以下の値)である。また、所定値ISthは、レーンマーク(黄線)の画像部分の彩度の変化度合が取り得る範囲に応じて定められる値(例えば、0以下の値)である。
STEP26の判断結果がYESの場合は、画素(i,j)が、輝度の変化度合ΔIth(i,j)が小さく且つ彩度の変化度合ΔIS(i,j)が小さい画像部分、すなわち、平滑化前後で輝度及び彩度の変化が小さい路面の画像部分と想定される。よって、STEP27に進み、画素値置換手段34は、カラー画像I1の画素値P1(i,j)を予め定められた一定値Pcに置換し、STEP5に戻る。なお、一定値Pcは、例えば、レーンマークの画像部分の画素値が取り得る値より十分小さい値(例えば(0,0,0))である。
一方、STEP26の判断結果がNOの場合は、画素(i,j)が輝度が大きい白線A2の画像部分か、彩度が大きい黄線A1の画像部分であると想定される。よって、画素値置換手段34は、画素(i,j)の画素値を置換せずに、そのままSTEP25に戻る。
レーンマーク検出用画像取得手段12は、カラー画像I1の全画素についてSTEP24〜26の処理が実行された結果として得られる、画素値が置換された後のカラー画像を、レーンマーク検出用画像I6として取得する。取得されたレーンマーク検出用画像I6を図5(b)に示す。図5(b)において、ハッチングを付した部分が、カラー画像I1の画素値のまま保持された画素からなる領域であり、第1画像領域に相当する。また、それ以外の白抜きの部分が、画素値が一定値に置換された画素からなる領域であり、第2画像領域に相当する。図5(b)に示すように、画素値が置換された後のカラー画像では、黄線A1、白線A2の画像部分のみがカラー画像I1の画素値のまま保持されることから、この領域を、車線を規定するレーンマークの画像部分と想定される画素値を有する画素からなる第1画像領域とすることができる。
図3に戻り、次に、STEP3で、クラスタリング手段13は、STEP2で取得されたレーンマーク検出用画像の第1画像領域を、隣接した画素からなる部分領域に分割するクラスタリング処理を実行する。具体的には、クラスタリング手段13は、レーンマーク検出用画像I6の第1画像領域について輪郭線追跡を行い、1つの輪郭線で囲まれた閉領域を1つの部分領域とする。例えば、図7(a)の領域Rについて、図7(b)に示すように輪郭線を追跡して、1つの輪郭線Lで囲まれた閉領域を1つの部分領域Cとする。このクラスタリング処理により図8(a)に示すように、レーンマーク検出用画像I6の第1画像領域が、部分領域C1〜C12に分割される。
次に、STEP4で、車線認識手段15は、STEP3で得られた部分領域C1〜C12のうち、所定方向の幅が、該所定方向に対応するレーンマークの幅に応じて設定された所定範囲外となる部分領域を、処理の対象から除外する。具体的には、車線認識手段15は、自車両1の実空間座標系と画像座標系との関係を用いて、部分領域C1〜C12を実空間座標系に変換する。図9に、実空間上での部分領域C1〜C12を例示する。次に、車線認識手段15は、実空間上での部分領域C1〜C12の幅W1〜W12が、実空間上でのレーンマークの幅に応じて設定される範囲Wth1〜Wth2(例えば0.05〜1[m])外か否かを判断する。そして、範囲Wth1〜Wth2外と判断された部分領域は、レーンマークの画像部分ではないと想定されることから、車線認識手段15は、当該部分領域を、以降の処理の対象から除外する。図9に示した例では、部分領域C1〜C12の幅W1〜W12は、全て範囲Wth1〜Wth2内であると判断され、全て以降の処理の対象となる。
次に、STEP5で、色判定手段14は、クラスタリング処理により分割された第1画像領域の各部分領域の色を判定する。具体的には、色判定手段14は、各部分領域について、所定の色(例えば白、黄、その他(青、赤、緑)等に分類)に画素毎に投票する投票処理を行い、各部分領域の色を判定する。図8(a)に示した例では、部分領域C1〜C6は色が黄色と判定され、部分領域C7〜C12は色が白色と判定される。
次に、STEP6で、車線認識手段15は、STEP5で色が同一であると判定された部分領域を1つのグループとしてグループ毎に直線成分抽出処理を行い、抽出された直線成分からレーンマークにより規定される車線の境界位置を認識する。直線成分を抽出する手法としては、ハフ変換や、最小2乗法による直線の当てはめ等の手法を用いることができる。そして、抽出された直線成分と、これらの直線成分と自車両1との位置関係等に基いて、車線の境界位置を認識する。図8(a)に示した例では、図8(b)に示すように、部分領域C1〜C6からなるグループから、直線成分L1が抽出され、部分領域C7〜C12からなるグループから、直線成分L2が抽出される。そして、車線認識手段15は、この抽出された直線成分L1,L2を画像上での車線の左右の境界位置として認識し、実空間座標系に変換することで、実空間上での車線の境界位置を取得する。
次に、STEP7で、車線認識手段15は、車線を規定するレーンマークの色を認識する。具体的には、車線認識手段15は、直線成分が抽出されたグループを構成する部分領域の色を、該直線成分から認識された車線を規定するレーンマークの色として認識する。すなわち、図8(b)に示した例では、車線認識手段15は、直線成分L1が抽出されたグループを構成する部分領域C1〜C6についてSTEP5で判定された色(黄色)を、直線成分L1から認識された車線を規定するレーンマークの色として認識する。また、車線認識手段15は、直線成分L2が抽出されたグループを構成する部分領域C7〜C12についてSTEP5で判定された色(白色)を、直線成分L2から認識された車線を規定するレーンマークの色として認識する。
次に、STEP8で、種別判定手段16は、認識された車線を規定するレーンマークの種別を判定する。このとき、種別判定手段16は、直線成分が抽出されたグループを構成する、該直線成分の近傍の部分領域の分布状態に基づいて、該直線成分から認識された車線を規定するレーンマークの種別を判定する。具体的には、種別判定手段16は、図9に示すように、直線成分L1のうち、部分領域C1〜C6の自車両1に最も近い箇所から最も遠い箇所までの線分の長さDと、各部分領域C1〜C6の長さd1〜d6の総和との比((d1+d2+d3+d4+d5+d6)/D)を算出する。そして、この算出した比が所定値Dth以上の場合、この直線成分L1から認識された車線を規定するレーンマークの種別を実線と判定し、所定値Dth未満の場合、破線と判定する。直線成分L2についても同様である。図9に示した例では、直線成分L1、L2について、それぞれ破線と判定される。
次に、STEP9で、車両機器制御手段21は、認識された車線のデータに基づいて、車線逸脱判定処理を実行する。具体的には、車両機器制御手段21は、認識された車線の境界位置と、現在の自車両1の位置や車速等とから、自車両1が認識された車線から逸脱する可能性を判定する。そして、車両機器制御手段21は、車線から逸脱する可能性が高い場合に、車線維持支援処理を行うべきと判断する。
次に、STEP10で、車両機器制御手段21は、STEP9で車線維持支援処理を行うべきと判断された場合、認識された車線のデータに基づいて、車線維持支援処理を実行する。具体的には、車両機器制御手段21は、認識された車線の境界位置と、現在の自車両1の位置や車速等とから、自車両1が認識された車線に沿って走行するように目標ヨーレートを設定する。そして、車両機器制御手段21は、目標ヨーレートと、自車両1に備えられたヨーレートセンサの出力との偏差が解消するように操舵アシストトルクを算出し、この算出した操舵アシストトルクをステアリング装置のアクチュエータに発生させる。
このとき、車両機器制御手段21は、認識された車線を規定するレーンマークの色及び種別に応じて、ステアリング装置の制御を変更する。具体的には、車両機器制御手段21は、レーンマークの色及び種別から判断される道路法規上の意味に応じて、設定される制御量(目標ヨーレート)の大きさを変更することで、車線維持支援処理の制御レベルを変更する。これにより、車線からの逸脱の可能性や道路法規に合致するように自車両1のステアリング装置をアシスト駆動して、自車両1の走行制御を行うことができる。
例えば、日本では、道路法規上、車線を規定するレーンマークが、白色の実線の場合、はみ出し禁止を意味し、黄線の場合、追い越しのための右側はみ出し禁止を意味し、白色の破線の場合、はみ出し可を意味する。よって、車線から逸脱する可能性があると判断したとき、白色の実線の場合に、最も強い制御レベル1で車線維持支援処理を行い、黄線の場合、中の制御レベル2で車線維持支援処理を行い、白色の破線の場合、最も弱い制御レベル3で車線維持支援処理を行う。
また、例えば、米国では、道路法規上、車線を規定するレーンマークが、白色又は黄色の実線の場合、はみ出し禁止を意味し、黄色の破線の場合、追い越しのための右側はみ出し禁止を意味し、白の破線の場合、はみ出し可を意味する。よって、車線から逸脱する可能性があると判断したとき、白色又は黄色の実線の場合に、最も強い制御レベル1で車線維持支援処理を行い、黄色の破線の場合、中の制御レベル2で車線維持支援処理を行い、白の破線の場合、最も弱い制御レベル3で車線維持支援処理を行う。
以上が、本実施形態の車両用車線認識装置における車両用車線認識処理である。本実施形態によれば、自車両1が走行している道路のカラー画像から、多様な色や種別のレーンマークA1,A2を区別して車線を認識することができる。そして、車線の境界位置と共に、車線を規定しているレーンマークA1,A2の色や種別を精度良く認識し、この認識結果に基づいて、自車両1の走行制御を行うことができる。
なお、本実施形態では、車両機器制御手段21は、車線を規定するレーンマークの色及び種別に応じて、車線維持支援処理の制御レベルを変更するものとしたが、他の実施形態として、車線逸脱判定処理の判定基準のレベルを変更するものとしてもよい。
また、本実施形態では、車両機器制御手段21は、車線維持支援処理において、機
器としてステアリング装置を制御するものとしたが、他の実施形態として、自車両1のブレーキ装置やアクセル装置を制御(アシスト駆動)するものとしてもよい。また、車両機器制御手段21は、機器として自車両1に搭載されたスピーカや表示装置を制御し、自車両1が車線から逸脱する可能性がある場合に、スピーカや表示装置を介して自車両10の運転者に複数の種類の注意喚起情報を切り替えて出力する注意喚起出力処理を実行するものとしてもよい。このとき、車両機器制御手段21は、認識された車線のデータに応じて、出力する注意喚起情報を切り替える。これにより、車線からの逸脱の可能性や道路法規に合致するように自車両1の機器を制御して、運転者への情報提示を適切に行うことができる。さらに、車両機器制御手段21は、車線維持支援処理と注意喚起出力処理とを、並行して行うようにしてもよい。
なお、本実施形態では、変化度合算出手段33は、変化度合として画素値の差を用いたが、他の実施形態において、変化度合として、取得された画像を平滑化後の画像で除算して得られる各画素の画素値の比を用いるものとしてもよい(ΔIY(i,j)=P2(i,j)/P4(i,j)、ΔIS(i,j)=P3(i,j)/P5(i,j))。この場合、所定値IYth,ISthは、レーンマークの画像部分の画素値の変化度合が取り得る範囲に応じて定められる値(例えば、1以下の値)とする。
また、本実施形態では、画像取得手段11は、画素データがR値、G値、B値からなるカラー成分で構成されるカラー画像を取得するものとしたが、他の実施形態として、画素データがCMY出力等からなるカラー成分で構成されるカラー画像を取得するものとしてもよい。
また、本実施形態では、レーンマーク検出用画像取得手段12は、輝度画像と彩度画像のそれぞれについて平滑化処理・画素値置換処理を行った後の画像を、レーンマーク検出用画像として取得するものとしたが、輝度及び彩度のいずれか一方、或いは輝度及び彩度以外を画素値とする画像を取得して平滑化処理・画素値置換処理を行い、レーンマーク検出用画像を取得するものとしてもよい。
また、本実施形態では、レーンマーク検出用画像取得手段12は、カラー画像に平滑化処理・画素値置換処理を行った後の画像を、レーンマーク検出用画像として取得するものとしたが、他の手法により第1画像領域と第2画像領域とを分けて、レーンマーク検出用画像を取得するものとしてもよい。
本発明の車両用車線認識装置の自車両への搭載態様を示した説明図。 本発明の車両用車線認識装置の構成図。 図2に示した車両用車線認識装置による車両用車線認識処理を示すフローチャート。 図3の車両用車線認識処理におけるレーンマーク検出用画像の取得処理を示すフローチャート。 図3の車両用車線認識処理の処理画像例及び説明図。 図4のレーンマーク検出用画像の取得処理の処理画像例及び説明図。 図3の車両用車線認識処理におけるクラスタリング処理の説明図。 図3の車両用車線認識処理における直線成分抽出処理の説明図。 図3の車両用車線認識処理における実空間上での部分領域の説明図。
符号の説明
1…車両(自車両)、2…カメラ(撮像手段)、10…画像処理ユニット、11…画像取得手段、12…レーンマーク検出用画像取得手段、13…クラスタリング手段、14…色判定手段、15…車線認識手段、16…種別判定手段、20…ECU、21…車両機器制御手段、31…カーネル設定手段、32…平滑化手段、33…変化度合算出手段、34…画素値置換手段。

Claims (10)

  1. 車両に搭載された撮像手段を介して取得した道路のカラー画像から、該車両が走行している車線を認識する車両用車線認識装置において、
    前記撮像手段を介して取得した道路のカラー画像から、前記車線を規定するレーンマークの画像部分と想定される画素値を有する画素からなる第1画像領域と、それ以外の画素からなる第2画像領域とに分けられたレーンマーク検出用画像を取得するレーンマーク検出用画像取得手段と、
    前記レーンマーク検出用画像の前記第1画像領域を、隣接した画素からなる部分領域に分割するクラスタリング処理を行うクラスタリング手段と、
    前記クラスタリング処理により分割された前記第1画像領域の前記各部分領域の色を判定する色判定手段と、
    前記色判定手段により色が同一であると判定された部分領域を1つのグループとしてグループ毎に直線成分抽出処理を行い、抽出された直線成分からレーンマークにより規定される前記車線の境界位置を認識する車線認識手段と、
    前記車線認識手段の認識結果に応じて、前記車両の機器を制御する車両機器制御手段とを備えることを特徴とする車両用車線認識装置。
  2. 請求項1記載の車両用車線認識装置において、
    前記車線認識手段は、前記直線成分が抽出された前記グループを構成する前記部分領域の色を、該直線成分から認識された車線を規定するレーンマークの色として認識し、
    前記車両機器制御手段は、少なくとも前記車線認識手段により認識された前記車線の境界位置と該車線を規定するレーンマークの色とに応じて、前記車両の機器を制御することを特徴とする車両用車線認識装置。
  3. 請求項1又は2記載の車両用車線認識装置において、
    前記直線成分が抽出された前記グループを構成する、該直線成分の近傍の前記部分領域の分布状態に基づいて、該直線成分から認識された前記車線を規定するレーンマークの種別を判定する種別判定手段を備え、
    前記車両機器制御手段は、少なくとも前記車線認識手段により認識された前記車線の境界位置と該車線を規定するレーンマークの種別とに応じて、前記車両の機器を制御することを特徴とする車両用車線認識装置。
  4. 請求項1〜3のうちいずれか記載の車両用車線認識装置において、
    前記車線認識手段は、前記部分領域のうち、所定方向の幅が、該所定方向に対応するレーンマークの幅に応じて設定された所定範囲外となる部分領域を、前記直線成分抽出処理の対象から除外することを特徴とする車両用車線認識装置。
  5. 請求項1〜4のうちいずれか記載の車両用車線認識装置において、
    前記撮像手段を介して取得されたカラー画像に対して、所定方向の幅が、レーンマークの画像部分の該所定方向の幅よりも大きい所定範囲内となるサイズのカーネルを設定するカーネル設定手段と、
    前記取得されたカラー画像を、前記カーネル設定手段により設定されたサイズの平滑化用のカーネルを用いたフィルタ処理により平滑化する平滑化手段と、
    前記平滑化手段により平滑化された後のカラー画像に対する、前記取得されたカラー画像の各画素の画素値の変化度合を算出する変化度合算出手段と、
    前記取得されたカラー画像の、前記変化度合が所定値以下となる画素の画素値を、予め定められた一定値に置換する画素値置換手段とを備え、
    前記レーンマーク検出用画像取得手段は、前記画素値置換手段により画素値が置換された後のカラー画像を、前記レーンマーク検出用画像として取得することを特徴とする車両用車線認識装置。
  6. 請求項1〜4のうちいずれか記載の車両用車線認識装置において、
    前記撮像手段を介して取得されたカラー画像に対して、所定方向の幅が、レーンマークの画像部分の該所定方向の幅よりも大きい所定範囲内となるサイズのカーネルを設定するカーネル設定手段と、
    前記取得されたカラー画像のカラー成分から算出される、輝度を画素値とする輝度画像と、彩度を画素値とする彩度画像とをそれぞれ取得し、該輝度画像と彩度画像とを前記カーネル設定手段により設定されたサイズの平滑化用のカーネルを用いたフィルタ処理によりそれぞれ平滑化する平滑化手段と、
    前記平滑化手段により平滑化された後の輝度画像に対する、前記取得された輝度画像の各画素の画素値の変化度合と、前記平滑化手段により平滑化された後の彩度画像に対する、前記取得された彩度画像の各画素の画素値の変化度合とをそれぞれ算出する変化度合算出手段と、
    前記取得されたカラー画像の、前記輝度画像から算出された変化度合が所定値以下となり、且つ前記彩度画像から算出された変化度合が所定値以下となる画素の画素値を、予め定められた一定値に置換する画素値置換手段とを備え、
    前記レーンマーク検出用画像取得手段は、前記画素値置換手段により画素値が置換された後のカラー画像を、前記レーンマーク検出用画像として取得することを特徴とする車両用車線認識装置。
  7. 請求項1〜6のうちいずれか記載の車両用車線認識装置において、
    前記機器は、前記車両の運転者に、複数の種類の注意喚起情報を切り替えて出力する機器であり、該車両機器制御手段は、前記車線認識手段の認識結果に応じて該機器により該運転者に出力する注意喚起情報を切り替えることを特徴とする車両用車線認識装置。
  8. 請求項1〜7のうちいずれか記載の車両用車線認識装置において、
    前記機器は、前記車両の複数の走行制御を変更する機器であり、該車両機器制御手段は、前記車線認識手段の認識結果に応じて該機器により該車両の走行制御を変更することを特徴とする車両用車線認識装置。
  9. 撮像手段を備え、該撮像手段を介して取得した道路のカラー画像から、走行している車線を認識する機能を有する車両であって、
    前記撮像手段を介して取得した道路のカラー画像から、前記車線を規定するレーンマークの画像部分と想定される画素値を有する画素からなる第1画像領域と、それ以外の画素からなる第2画像領域とに分けられたレーンマーク検出用画像を取得するレーンマーク検出用画像取得手段と、
    前記レーンマーク検出用画像の前記第1画像領域を、隣接した画素からなる部分領域に分割するクラスタリング処理を行うクラスタリング手段と、
    前記クラスタリング処理により分割された前記第1画像領域の前記各部分領域の色を判定する色判定手段と、
    前記色判定手段により色が同一であると判定された部分領域を1つのグループとしてグループ毎に直線成分抽出処理を行い、抽出された直線成分からレーンマークにより規定される前記車線の境界位置を認識する車線認識手段と、
    前記車線認識手段の認識結果に応じて、前記車両の機器を制御する車両機器制御手段とを備えたことを特徴とする車両。
  10. 車両に搭載された撮像手段を介して取得した道路のカラー画像から、該車両が走行している車線を認識する処理をコンピュータに実行させる車両用車線認識プログラムであって、
    前記撮像手段を介して取得した道路のカラー画像から、前記車線を規定するレーンマークの画像部分と想定される画素値を有する画素からなる第1画像領域と、それ以外の画素からなる第2画像領域とに分けられたレーンマーク検出用画像を取得するレーンマーク検出用画像取得処理と、
    前記レーンマーク検出用画像の前記第1画像領域を、隣接した画素からなる部分領域に分割するクラスタリング処理と、
    前記クラスタリング処理により分割された前記第1画像領域の前記各部分領域の色を判定する色判定処理と、
    前記色判定処理により色が同一であると判定された部分領域を1つのグループとしてグループ毎に直線成分抽出処理を行い、抽出された直線成分からレーンマークにより規定される前記車線の境界位置を認識する車線認識処理と、
    前記車線認識処理の認識結果に応じて、前記車両の機器を制御する車両機器制御処理とをコンピュータに実行させる機能を有することを特徴とする車両用車線認識プログラム。
JP2008080496A 2008-03-26 2008-03-26 車両用車線認識装置、車両、及び車両用車線認識プログラム Expired - Fee Related JP5083658B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008080496A JP5083658B2 (ja) 2008-03-26 2008-03-26 車両用車線認識装置、車両、及び車両用車線認識プログラム
US12/378,509 US8391555B2 (en) 2008-03-26 2009-02-17 Lane recognition apparatus for vehicle, vehicle thereof, and lane recognition program for vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008080496A JP5083658B2 (ja) 2008-03-26 2008-03-26 車両用車線認識装置、車両、及び車両用車線認識プログラム

Publications (2)

Publication Number Publication Date
JP2009237706A true JP2009237706A (ja) 2009-10-15
JP5083658B2 JP5083658B2 (ja) 2012-11-28

Family

ID=41117274

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008080496A Expired - Fee Related JP5083658B2 (ja) 2008-03-26 2008-03-26 車両用車線認識装置、車両、及び車両用車線認識プログラム

Country Status (2)

Country Link
US (1) US8391555B2 (ja)
JP (1) JP5083658B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012011713A2 (ko) * 2010-07-19 2012-01-26 주식회사 이미지넥스트 차선 인식 시스템 및 방법
JP2012232676A (ja) * 2011-05-02 2012-11-29 Toyota Motor Corp 車両の挙動制御装置
KR101324792B1 (ko) 2010-05-31 2013-10-31 태성전장주식회사 지능형 운송 시스템을 위한 칼라 영역의 분할 시스템
JP2014141174A (ja) * 2013-01-24 2014-08-07 Mazda Motor Corp 車線維持支援装置
JP2015210609A (ja) * 2014-04-24 2015-11-24 本田技研工業株式会社 レーンマーク認識装置
JP2019189213A (ja) * 2018-04-18 2019-10-31 バイドゥ・ユーエスエイ・リミテッド・ライアビリティ・カンパニーBaidu USA LLC 自動運転車における車線後処理
JP2021138369A (ja) * 2018-04-13 2021-09-16 トヨタ自動車株式会社 車両走行制御装置
JP2021532449A (ja) * 2019-06-25 2021-11-25 北京市商▲湯▼科技▲開▼▲發▼有限公司Beijing Sensetime Technology Development Co., Ltd. 車線属性検出

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4744537B2 (ja) * 2008-02-05 2011-08-10 日立オートモティブシステムズ株式会社 走行レーン検出装置
TW201122848A (en) * 2009-12-29 2011-07-01 Ind Tech Res Inst Method and system for calculating image recognition rate and embedded image processing system
CN102117475A (zh) * 2009-12-31 2011-07-06 财团法人工业技术研究院 图像识别率计算方法与系统及其嵌入式图像处理系统
EP2557540B1 (en) * 2010-07-29 2014-11-12 Honda Motor Co., Ltd. Vehicle periphery monitoring device
KR101472615B1 (ko) * 2010-12-21 2014-12-16 삼성전기주식회사 차선이탈 경보 시스템 및 방법
JP5272042B2 (ja) * 2011-05-12 2013-08-28 富士重工業株式会社 環境認識装置および環境認識方法
US9098751B2 (en) * 2011-07-27 2015-08-04 Gentex Corporation System and method for periodic lane marker identification and tracking
ES2402422B1 (es) * 2011-09-07 2014-03-11 Manuel MUÑOZ SÁIZ Sistema de conducción automática y de avisos de zonas de velocidad reducida para vehiculos mejorado
JP6102213B2 (ja) * 2012-11-22 2017-03-29 富士通株式会社 画像処理装置、画像処理方法および画像処理プログラム
WO2014103433A1 (ja) * 2012-12-25 2014-07-03 本田技研工業株式会社 車両周辺監視装置
KR101498114B1 (ko) * 2013-11-28 2015-03-05 현대모비스 주식회사 보행자를 검출하는 영상 처리 장치 및 그 방법
CN103778437B (zh) * 2014-01-21 2017-04-12 中科怡海高新技术发展江苏股份公司 一种基于支持向量机的施工道路污染检测方法
JP6141787B2 (ja) * 2014-04-01 2017-06-07 本田技研工業株式会社 レーンマーク認識装置
JP5908946B2 (ja) * 2014-06-18 2016-04-26 富士重工業株式会社 画像処理装置
US10449899B2 (en) * 2015-05-08 2019-10-22 Magna Electronics Inc. Vehicle vision system with road line sensing algorithm and lane departure warning
JP6372430B2 (ja) * 2015-06-26 2018-08-15 株式会社デンソー 車線逸脱抑制装置
US10365658B2 (en) * 2016-07-21 2019-07-30 Mobileye Vision Technologies Ltd. Systems and methods for aligning crowdsourced sparse map data
CN107672584B (zh) * 2016-07-29 2022-05-03 福特环球技术公司 超车车道控制的系统和方法
CN106412508A (zh) * 2016-09-30 2017-02-15 北京中星微电子有限公司 车辆违章压线智能监控方法和系统
US10908614B2 (en) 2017-12-19 2021-02-02 Here Global B.V. Method and apparatus for providing unknown moving object detection
US11348344B2 (en) * 2018-03-09 2022-05-31 Pioneer Corporation Line detection device, line detection method, program, and storage medium
US10275667B1 (en) * 2018-09-05 2019-04-30 StradVision, Inc. Learning method, learning device for detecting lane through lane model and testing method, testing device using the same
CN111247792B (zh) * 2019-04-28 2021-11-02 深圳市大疆创新科技有限公司 一种无人机的控制方法、无人机及计算机可读存储介质
CN110110029B (zh) * 2019-05-17 2021-08-24 百度在线网络技术(北京)有限公司 用于匹配车道的方法和装置
CN112926365A (zh) * 2019-12-06 2021-06-08 广州汽车集团股份有限公司 一种车道线检测方法及其系统
CN113200052B (zh) * 2021-05-06 2021-11-16 上海伯镭智能科技有限公司 一种用于无人驾驶的路况智能识别方法
EP4177849A1 (en) * 2021-11-08 2023-05-10 Bayerische Motoren Werke Aktiengesellschaft Method and device for determining a color of a lane marking
CN114299457A (zh) * 2021-12-29 2022-04-08 京东方科技集团股份有限公司 积水深度检测方法及装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04199379A (ja) * 1990-11-29 1992-07-20 Honda Motor Co Ltd 画像処理における局所的領域分割方法
JPH05303625A (ja) * 1992-04-27 1993-11-16 Omron Corp 道路上の白線抽出装置
JP2004326355A (ja) * 2003-04-23 2004-11-18 Nissan Motor Co Ltd 車線逸脱防止装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7339149B1 (en) * 1993-02-26 2008-03-04 Donnelly Corporation Vehicle headlight control using imaging sensor
JP3380436B2 (ja) 1997-08-06 2003-02-24 ダイハツ工業株式会社 車両等の認識方法
JP3373773B2 (ja) * 1998-01-27 2003-02-04 株式会社デンソー レーンマーク認識装置、車両走行制御装置および記録媒体
US6631206B1 (en) * 1999-08-30 2003-10-07 University Of Washington Image filtering in HSI color space
JP3733875B2 (ja) * 2000-09-29 2006-01-11 日産自動車株式会社 道路白線認識装置
US6807317B2 (en) * 2002-10-25 2004-10-19 Motorola, Inc. Method and decoder system for reducing quantization effects of a decoded image
JP4616046B2 (ja) * 2005-03-22 2011-01-19 本田技研工業株式会社 車両用画像処理システム、車両用画像処理方法、車両用画像処理プログラム、及び車両
JP4616068B2 (ja) * 2005-04-28 2011-01-19 本田技研工業株式会社 車両、画像処理システム、画像処理方法及び画像処理プログラム
JP4365350B2 (ja) * 2005-06-27 2009-11-18 本田技研工業株式会社 車両及び車線認識装置
JP4365352B2 (ja) * 2005-07-06 2009-11-18 本田技研工業株式会社 車両及びレーンマーク認識装置
JP4185077B2 (ja) * 2005-07-15 2008-11-19 本田技研工業株式会社 車両、画像処理システム、画像処理方法、及び画像処理プログラム
JP4410168B2 (ja) * 2005-07-15 2010-02-03 三菱電機株式会社 画像処理装置
EP1968014B1 (en) * 2005-12-28 2012-12-19 Honda Motor Co., Ltd. Vehicle and lane mark detection device

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04199379A (ja) * 1990-11-29 1992-07-20 Honda Motor Co Ltd 画像処理における局所的領域分割方法
JPH05303625A (ja) * 1992-04-27 1993-11-16 Omron Corp 道路上の白線抽出装置
JP2004326355A (ja) * 2003-04-23 2004-11-18 Nissan Motor Co Ltd 車線逸脱防止装置

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101324792B1 (ko) 2010-05-31 2013-10-31 태성전장주식회사 지능형 운송 시스템을 위한 칼라 영역의 분할 시스템
WO2012011713A2 (ko) * 2010-07-19 2012-01-26 주식회사 이미지넥스트 차선 인식 시스템 및 방법
WO2012011713A3 (ko) * 2010-07-19 2012-05-10 주식회사 이미지넥스트 차선 인식 시스템 및 방법
KR101225626B1 (ko) 2010-07-19 2013-01-24 포항공과대학교 산학협력단 차선 인식 시스템 및 방법
JP2012232676A (ja) * 2011-05-02 2012-11-29 Toyota Motor Corp 車両の挙動制御装置
JP2014141174A (ja) * 2013-01-24 2014-08-07 Mazda Motor Corp 車線維持支援装置
JP2015210609A (ja) * 2014-04-24 2015-11-24 本田技研工業株式会社 レーンマーク認識装置
JP2021138369A (ja) * 2018-04-13 2021-09-16 トヨタ自動車株式会社 車両走行制御装置
US11904937B2 (en) 2018-04-13 2024-02-20 Toyota Jidosha Kabushiki Kaisha Vehicle traveling controller
JP7481296B2 (ja) 2018-04-13 2024-05-10 トヨタ自動車株式会社 車両走行制御装置
JP2019189213A (ja) * 2018-04-18 2019-10-31 バイドゥ・ユーエスエイ・リミテッド・ライアビリティ・カンパニーBaidu USA LLC 自動運転車における車線後処理
US10860868B2 (en) 2018-04-18 2020-12-08 Baidu Usa Llc Lane post-processing in an autonomous driving vehicle
JP2021532449A (ja) * 2019-06-25 2021-11-25 北京市商▲湯▼科技▲開▼▲發▼有限公司Beijing Sensetime Technology Development Co., Ltd. 車線属性検出
JP7119197B2 (ja) 2019-06-25 2022-08-16 北京市商▲湯▼科技▲開▼▲發▼有限公司 車線属性検出

Also Published As

Publication number Publication date
US8391555B2 (en) 2013-03-05
US20090245582A1 (en) 2009-10-01
JP5083658B2 (ja) 2012-11-28

Similar Documents

Publication Publication Date Title
JP5083658B2 (ja) 車両用車線認識装置、車両、及び車両用車線認識プログラム
JP4956442B2 (ja) 車両
JP4607193B2 (ja) 車両及びレーンマーク検出装置
US9352746B2 (en) Lane relative position estimation method and system for driver assistance systems
US9886773B2 (en) Object detection apparatus and object detection method
JP5402828B2 (ja) 車線境界検出装置、車線境界検出プログラム
US9436878B2 (en) Lane mark recognition device
JP6230482B2 (ja) レーンマーク認識装置、車両及びレーンマーク認識方法
JP2014160322A (ja) 車線境界線逸脱抑制装置
JP2008168811A (ja) 車線認識装置、車両、車線認識方法、及び車線認識プログラム
JP6408935B2 (ja) 走行区画線認識装置
WO2009119070A1 (ja) 車両用画像処理装置及び画像処理プログラム
JP4532372B2 (ja) 道路区画線検出装置
JP6173962B2 (ja) レーンマーク認識装置
JP2015210609A (ja) レーンマーク認識装置
JP4956841B2 (ja) 車両用画像処理装置、車両、及び車両用画像処理プログラム
JP6729358B2 (ja) 認識装置
JP2003271930A (ja) レーンマーク認識装置
JP4876277B2 (ja) 車両用画像処理装置、車両、及び車両用画像処理プログラム
Sani et al. Daytime road marker recognition using grayscale histogram and pixel values
JP5023363B2 (ja) 車両走行支援装置、車両、車両走行支援プログラム
JP7390899B2 (ja) レーンマーク認識装置
WO2013161817A1 (ja) 走行区画線認識装置
JP2010044444A (ja) 車両走行支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101125

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120807

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120823

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150914

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees