JP4107587B2 - 車線認識画像処理装置 - Google Patents

車線認識画像処理装置 Download PDF

Info

Publication number
JP4107587B2
JP4107587B2 JP2003419976A JP2003419976A JP4107587B2 JP 4107587 B2 JP4107587 B2 JP 4107587B2 JP 2003419976 A JP2003419976 A JP 2003419976A JP 2003419976 A JP2003419976 A JP 2003419976A JP 4107587 B2 JP4107587 B2 JP 4107587B2
Authority
JP
Japan
Prior art keywords
lane
lane marking
marking candidate
lane recognition
recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003419976A
Other languages
English (en)
Other versions
JP2005182303A (ja
Inventor
貴幸 山本
善行 藤井
寿 石倉
賢一 藤江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2003419976A priority Critical patent/JP4107587B2/ja
Priority to US10/839,247 priority patent/US7295683B2/en
Publication of JP2005182303A publication Critical patent/JP2005182303A/ja
Application granted granted Critical
Publication of JP4107587B2 publication Critical patent/JP4107587B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Description

この発明は、自動車の予防安全を目的とした車線逸脱警報(LDWS)や運転者の負担軽減を目的としたレーンキープシステム(LKS)などの車両制御に用いられる車両位置情報を提供するための車線認識画像処理装置に関するものである。
一般に、車線認識画像処理装置の認識対象となるのは、車線境界線を表すレーンマーキングであり、路面に塗布された白線(または、黄色線など)を指すが、国や地域によって様々な形状が存在する。
特に、米国カリフォルニア州には、Raised Pavement Markersの1種であるボッツ・ドッツ(Botts’ Dots)と呼ばれる道路鋲が敷設されたフリーウェイや州道などがある。
上記ボッツ・ドッツ(以下、単数の場合には、「ドット」ともいう)は、円状の鋲が車線境界線上に規則的に敷設されたものであり、車両が鋲を乗り越えるときに発生するステアリングへの反力や音の発生を重要視している。
したがって、ボッツ・ドッツは、白線や黄色線のようなペイント・レーンマーキングと比べて、路面とのコントラストが低く且つ進行方向の連続性が乏しいため視認性が非常に悪く、画像処理装置における車線認識を非常に困難なものとしている。
また、通常のレーンマーキングと同じレーン認識アルゴリズムを用いて画像認識する場合、ボッツ・ドッツをノイズから識別して分離する必要があり、後処理をするためのハードウェア・ソフトウェアの負荷が大きい。
上記のように、ボッツ・ドッツは、多くのレーン認識アルゴリズムが前提としている「レーンマーキングの連続性」や「路面とのコントラスト」などの条件を満たさないため、信頼性が高く且つ耐久性の高いロバスト(robust)な認識を行うためには、何らかの対策を講じる必要がある。
従来の車線認識画像処理装置としては、画像のエッジに基づいてレーンマーキング位置を演算する走行環境演算手段と、走行環境演算手段を禁止する禁止手段とを備え、エッジの量と基準値とを比較して画像の異常を検出し、走行環境演算手段を禁止する装置が提案されている(たとえば、特許文献1参照)。
特許文献1の従来装置においては、ボッツ・ドッツの敷設道路に対して、エッジの量からレーンマーキング認識を禁止することにより、レーンマーキング誤認識を回避しているので、ボッツ・ドッツ敷設道路に対しては、常に認識不可の状態となってしまう。
また、他の従来装置として、原画像を微分してエッジ画像に変換し、エッジ画像についてハフ(Hough)変換を行い、特徴点の並びを近似した直線群を抽出し、この直線群の中から、走行路の道幅に基づいてレーンマーキングに対応する直線を選定する装置が提案されている(たとえば、特許文献2参照)。
特許文献2の従来装置によれば、輪郭が車線境界線と平行でない円形ドットの場合、1個のドットのみのエッジ点からなる直線群に対しては、耐ノイズ性の高いHough変換であっても、正確な車線認識を実現することは困難である。
また、特許文献2の場合、エッジ点列の途切れ部分を検出することにより、レーンマーキング種類(たとえば、「破線」など)を判定しているが、不連続に敷設されるドットに対しては有効な手段とはなり得ない。
一般に、通常のペイント・レーンマーキングは車線境界線に対して平行になるが、ドットの輪郭は、車線境界線に対して必ずしも平行にならないので、ドットの輪郭線上にレーンマーキング候補点位置を設定すると、実際の車線境界線とはかけ離れた方向を向いた車線認識結果となり得る。
ここで、図15および図16を参照しながら、従来装置の問題点について具体的に説明する。
図15はボッツ・ドッツ3と車線の近似直線L1と車両境界線L2とレーンマーキング候補点Cとの関係を示す説明図であり、走行路の左側のボッツ・ドッツ3のレーンマーキング候補点位置Cを車線内側とした場合に、近似直線L1がドット3の1/2幅分だけ振動することを示している。
図16(a)〜(c)はボッツ・ドッツ3とレーンマーキング探索ライン4とレーンマーキング候補点Cとの関係を示す説明図であり、左側のボッツ・ドッツ3のレーンマーキング候補点Cの位置を車線内側とした場合に、レーンマーキング探索ライン4との位置関係によって、レーンマーキング候補点Cの位置が異なることを示している。
たとえば、複数のボッツ・ドッツ3上のレーンマーキング候補点Cを用いたとしても、図16(a)〜(c)に示すように、左側のボッツ・ドッツ3に対して車線内側をレーンマーキング候補点Cの位置として設定すると、レーンマーキング探索ライン4とドット3の位置関係および縦方向分解能に依存して、各ドット3におけるレーンマーキング候補点Cの位置および個数は、図16(a)〜(c)のようにそれぞれ異なる。
したがって、図15に示すように、車線認識結果は、ドット3(レーンマーキング)の横幅の1/2に相当するズレ量を生じる。
このようなズレ量の発生を回避するためには、レーンマーキング候補点Cの位置を、ドット3の輪郭線上ではなく、ボッツ・ドッツ3の消失点に向かう直線上に一定の規則にしたがって変換すれば解決することが知られているが、このときの変換方法としては、ハードウェアおよびソフトウェアの負荷が小さい方法で実現しなければ実用的ではない。
また、上記問題が実用的な変換方法で解決されたとしても、レーンマーキング候補点Cが1個のドット3上のみに存在する場合には、その変換方法の精度および分解能に依存して、車線認識結果が実際の車線境界線とかけ離れた結果となり得る。
したがって、レーンマーキング候補点Cが「1個のドット3上のみにあること」を判定する必要がある。ただし、レーンマーキング候補点Cが1個のドット3上のみに存在するかを判定する際に、単に候補点数のみに基づいて判定すると、2点のボッツ・ドッツ3を結ぶ直線近似が可能な場合であっても、認識不可と判断されてしまう。
また、上記認識不可の問題は、候補点集合の進行方向の2点間距離に基づいて判定することにより解決可能であるが、全ての2点間距離の組合せを参照するのは、演算コストのアップにつながる。
この2点間距離を判定するための閾値は、1個のドット3上であることを誤りなく判定可能な値に設定されることが求められる。
なお、レーンマーキング候補点Cが1個のドット3上のみに存在することが判明した場合、レーンマーキング候補点Cから得られる情報は信頼性が低いので、何らかの対策措置をとる必要がある。
この対策措置として、レーンマーキング候補点Cから得られる情報を無効化する方法が挙げられる。しかしながら、この方法では、ボッツ・ドッツ敷設道路を走行中に或るフレームのみが無効となった場合に、1フレームのみにも関わらず、車線認識結果を参照できなくなる。また、レーンマーキング探索を前回の車線認識結果を基準に行う場合には、速やかな車線認識復帰が困難になる。
さらに、上記無効化方法によれば、前回の車線認識結果が誤認識であるにも関わらず、前回の車線認識結果を出力している場合には、次の無効化されない車線認識結果が得られるまで、誤認識出力が修正されないという問題がある。
すなわち、上記無効化がなされた場合に、前回の車線認識結果または時間平均化結果を出力することはできるものの、その前回結果の保持期間は、リアルタイム性と信頼性を損なわないように設定する必要がある。
特開平9−113221号公報 特開平3−158976号公報
従来の車線認識画像処理装置では、図16(a)〜(c)のように、左側のボッツ・ドッツ3に対して車線内側をレーンマーキング候補点Cの位置とすると、各ドット3におけるレーンマーキング候補点Cの位置および個数が一致しないので、図15のように、車線認識結果においては、ドット横幅1/2に相当するズレ量が生じるという課題があった。
また、上記課題が実用的な変換方法で解決されたとしても、レーンマーキング候補点Cが1個のドット3上のみに存在する場合は、車線認識結果が実際の車線境界線とかけ離れた結果となり得るので、レーンマーキング候補点が1個のドット上にあることを判定する必要があるが、この判定に候補点数のみで行うと、ドット2点を結ぶ直線近似が可能な場合も認識不可と判断されてしまうという課題があった。
また、この課題を解決するためには、候補点集合の進行方向の2点間距離により判定する必要があるが、全ての2点間距離の組合せを参照するのは、演算コストが高くなるという課題があった。
また、レーンマーキング候補が1個のドット上のみに存在することが判明した場合には、このレーンマーキング候補から得られる信頼性の低い情報を無効化しているが、ボッツ・ドッツ敷設道路を走行中に或る1つのフレームのみが無効となった場合でも、1フレームのみであるにも関わらず、車線認識結果を参照できなくなるという課題があった。
特に、レーンマーキング探索を前回の車線認識結果を基準に行う場合には、速やかな車線認識の復帰が困難になるという課題があった。
さらに、前回の車線認識結果が誤認識であるにも関わらず、前回の車線認識結果を出力している場合には、次の無効化されない車線認識結果を得るまでは誤認識出力が修正されないという課題があった。
この発明は、地域特有のレーンマーキング(ボッツ・ドッツなど)に対する車線認識において、ドットの輪郭が車線と平行でないことに留意して、誤認識となるフレームのみを排除することにより、信頼性の高いロバストな車線認識結果を取得可能な車線認識画像処理装置を得ることを目的とする。
さらに具体的には、レーンマーキング幅の中点をレーンマーキング候補点位置とし、且つ、レーンマーキング候補が1個のドット上のみにしか存在しない場合には車線認識結果を無効にする、というハードウェア・ソフトウェアの負荷が極めて小さい方法で認識信頼性を向上させた車線認識画像処理装置を得ることを目的とする。
この発明による車線認識画像処理装置は、車両に搭載された車線認識画像処理装置であって、車両の前方を撮影する撮影手段と、撮影手段により撮像された画像からレーンマーキング候補領域上の走査方向の開始点および終了点を抽出する抽出手段と、抽出手段に基づいて車両の走行路上の車線を認識する車線認識手段とを備え、車線認識手段は、レーンマーキング候補領域の開始点および終了点を、消失点方向の線上に定められるレーンマーキング候補点位置に変換するレーンマーキング候補点位置変換手段と、レーンマーキング候補点の集合の有効性判定基準となる閾値を設定する閾値設定手段と、レーンマーキング候補点の集合のうち、車両の進行方向に最も離れた位置にある2点を抽出して、2点の間の2点間距離閾値を越えたか否かを判定するレーンマーキング候補判定手段と、閾値を越える2点間距離が存在しない場合に、レーンマーキング候補点から得られる情報を無効化するための無効化手段とを有してなるものである。
この発明によれば、ボッツ・ドッツ敷設道路などの走行中であっても、ハードウェア・ソフトウェアの負荷を軽減して、信頼性の高いロバストな車線認識結果を取得することができる。
実施の形態1.
以下、図面を参照しながら、この発明の実施の形態1について説明する。
図1はこの発明の実施の形態1による車線認識画像処理装置を示すブロック構成図であり、図2はこの発明の実施の形態1による車線認識画像処理装置を搭載した車両の外観図である。
図2において、撮影手段を構成するカメラ1は、車両2の前方上部に設置されており、車両2の前方を撮影するようになっている。
図1において、車線認識画像処理装置は、カメラ1を含む撮影手段10と、レーンマーキング候補点抽出手段20と、車線認識手段30と、車線認識結果出力手段40とを備えている。
車線認識手段30は、レーンマーキング候補点位置変換手段31と、認識処理手段32と、レーンマーキング候補判定手段33と、無効化手段34とを有する。
レーンマーキング候補点抽出手段20は、撮影手段10により撮像された画像Gからレーンマーキング候補点Cを抽出する。
車線認識手段30は、レーンマーキング候補点Cの集合に基づいて、車両2の走行路上の車線を認識し、最終的な車線認識結果を車線認識結果出力手段40を介して外部に出力する。
車線認識手段30内において、レーンマーキング候補点位置変換手段31は、レーンマーキング候補点Cを消失点方向の直線上に変換した位置を、レーンマーキング候補点位置として認識する。
このとき、レーンマーキング候補点位置変換手段31は、後述するように、レーンマーキング候補点Cを含むレーンマーキング候補領域Rの中点をレーンマーキング候補点位置として認識し、レーンマーキング候補点Cをレーンマーキング候補点位置に変換する。
また、車線認識手段30内のレーンマーキング候補判定手段33は、レーンマーキング候補点Cの集合の有効性判定基準となる閾値を設定する閾値設定手段(図示せず)を含み、レーンマーキング候補点Cの集合から車両2の進行方向に対応した2点を抽出するとともに、抽出された2点の間の2点間距離のうち閾値を越えるものが存在するか否かを判定する。
このとき、レーンマーキング候補判定手段33は、後述するように、レーンマーキング候補点Cの集合のうち、車両の進行方向に最も離れた位置にある2点の間の2点間距離が閾値を越えたか否かを判定する。
また、閾値は、車両2の走行路上のレーンマーキングの横幅以上、且つ車両2の進行方向に対するレーンマーキングのセット間隔以下に設定されているものとする。
さらに、車線認識手段30内の無効化手段34は、閾値を越える2点間距離が存在しない場合には、レーンマーキング候補点Cから得られる情報を無効化する。
次に、図1および図2とともに、図3を参照しながら、この発明の実施の形態1による具体的な処理手順について説明する。
図3(a)〜(c)は撮影手段10(カメラ1)から出力される画像Gおよびその処理手順を示す説明図であり、もっぱらレーンマーキング候補点抽出手段20の処理動作に対応している。
図3(a)は車両2の前方道路を撮影した画像Gの具体例を示している。図3(a)において、車両2の走行路上に敷設されたボッツ・ドッツ3は、走行路延長線上の無限遠の消失点Sに向かって配列されている。ボッツ・ドッツ3の1ドットに対応して、1本のレーンマーキング探索ライン4が設定されている。
図3(b)は図3(a)内の画像Gをレーンマーキング探索ライン4(1本の水平ライン)に沿ってフィルタ処理した結果5を示しており、縦軸がフィルタ出力値、横軸が画像Gの水平座標を表している。図3(b)において、水平座標毎のフィルタ出力結果5(フィルタ出力値)に対して、ボッツ・ドッツ3の認識レベルとなるフィルタ閾値Thfが設定されている。
図3(c)は図3(b)内のフィルタ出力結果5に基づくレーンマーキング候補点Cの位置決定処理を示しており、縦軸は2値(0、1)を表し、横軸は水平座標を表す。図3(c)において、フィルタ出力結果5を2値化した領域をレーンマーキング候補点Cを含むレーンマーキング候補領域Rとし、レーンマーキング候補領域Rの開始点Aから終了点Bまでの中点をレーンマーキング候補点Cの位置として決定した場合を示している。
通常、レーンマーキング候補点抽出手段20により抽出されたレーンマーキング候補点C(または、候補領域R)は、開始点Aまたは終了点B上に存在する可能性もあり、実際のボッツ・ドッツ3の輪郭線上に存在するか否かは不明です。図3(c)においては、レーンマーキング候補点位置変換手段31の機能例として、候補領域Rの開始点Aと終了点Bとの中点を変換後の候補点Cの位置としています。
まず、撮影手段10(カメラ1)は、車両2の前方を撮影して得られた画像Gをレーンマーキング候補点抽出手段20に入力する。
このとき、図3(a)内の画像Gに示すように、自車線の左右のレーンマーキングは、いずれもボッツ・ドッツ3であり、レーンマーキング探索ライン4の水平画角内に収まっているものとする。
レーンマーキング候補点抽出手段20は、画像Gを画素毎の輝度値データとして格納するメモリを有しており、メモリから読み出した輝度値をフィルタ閾値Thfと比較して、図3(b)に示すように、フィルタ閾値Thfよりも高い輝度値のデータを、路面に対して相対的に輝度の高いレーンマーキングとして抽出する。
このとき、一般にフィルタ処理が行われるが、水平座標方向に輝度値を読み出した輝度分布に対してフィルタ処理を行う方法と、立ち上がり・立ち下がりの正負エッジ処理によりフィルタ処理を行う方法とがある。
ここでは、レーンマーキング候補点抽出手段20が1次元画像フィルタ処理を行う場合を例にとって説明するが、1次元画像フィルタ処理に限定されるものではない。
レーンマーキング候補点抽出手段20は、まず、図3(a)に示すレーンマーキング探索ライン4上の輝度分布に対して1次元画像フィルタ処理を施し、図3(b)に示すフィルタ出力結果5を取得する。
フィルタ出力結果5において、図3(a)のボッツ・ドッツ3の位置のフィルタ出力値は、その前後の値よりも高くなっている。
したがって、続いてフィルタ閾値Thfと比較することにより、図3(c)のように、2値化された結果が得られる。ここで、左右レーンマーキングとして抽出された2値化領域を、レーンマーキング候補領域Rとする。また、各レーンマーキング候補領域R上の走査方向(消失点Sの方向に対して直交方向)の開始点および終了点を、それぞれ、レーンマーキング候補領域Rの開始点Aおよび終了点Bとする。
図3(c)において、レーンマーキング候補領域Rの開始点Aおよび終了点Bを、レーンマーキング候補点位置変換手段31により変換した位置は、レーンマーキング候補点Cの位置となる。
次に、図4および図5を参照しながら、レーンマーキング候補点位置変換手段31による具体的な処理動作について説明する。
図4および図5はレーンマーキング候補点位置変換手段31による処理動作を示す説明図であり、それぞれ、消失点方向に対する各レーンマーキング候補点Cの配列を、ボッツ・ドッツ3上の開始点Aおよび終了点Bと関連させて示している。
図4は1つのドット3上のレーンマーキング候補点Cを平面拡大図(上面視状態)で示しており、図5は複数のボッツ・ドッツ3上のレーンマーキング候補点Cを斜視図(画面視状態)で示している。
図4および図5において、ボッツ・ドッツ3上のレーンマーキング候補点Cを含むレーンマーキング候補領域の開始点Aおよび終了点Bから、レーンマーキング候補点Cは、消失点Sの方向の直線上の位置に変換することができる。
具体的には、図4および図5において、レーンマーキング候補点Cを含むレーンマーキング候補領域Rの開始点Aおよび終了点B間の直線を、一定の法則に基づいて内分(オフセット)することにより、ボッツ・ドッツ3の消失点Sの方向に沿った直線上のレーンマーキング候補点Cの位置に変換することができる。
たとえば、図4において、消失点Sの方向の直線とドット3とのオフセット位置は、使用者によって任意に決定されるものであり、レーンマーキング端からの距離を求める場合には、ドット3と接する直線を用いてもよい。
なお、オフセットを決定する具体的な比率については、図6を参照しながら後述する。
レーンマーキング候補点位置変換手段31による変換処理は、同一線上のレーンマーキング候補領域Rの開始点Aおよび終了点Bを対象として実行され、レーンマーキング候補点抽出手段20から得られたレーンマーキング候補点Cは、開始点Aおよび終了点Bを結ぶ直線上に変換される。
図4内のレーンマーキング候補点位置への変換結果を画面視状態(斜視図)で示すと、図5のように表される。
次に、図6を参照しながら、開始点Aおよび終了点Bを結ぶ直線上のオフセットを決定する具体的な比率について後述する。
図6は図4および図5におけるレーンマーキング候補点位置への変換法則を示す説明図であり、レーンマーキング候補領域Rを半径rの円で表している。
図6において、円中心Qを通る弦(A1−B1)において、各点A1、B1およびC1は、それぞれ、開始点A、終了点Bおよびレーンマーキング候補点Cに対応している。
同様に、円中心Qから離れた任意の弦(A2−B2)において、各点A2、B2およびC2は、それぞれ、開始点A、終了点Bおよびレーンマーキング候補点Cに対応している。
まず、レーンマーキング候補領域Rにおいて、開始点A1、A2と終了点B1、B2とを円周上で同定し、円中心Qおよび半径rを求める。
ここで、任意の開始点A2(または、終了点B2)と円中心Qとを結ぶ直線(Q−A2)が水平方向となす角度をθとする。なお、開始点A2および終了点B2は、同一水平線上に位置しているので、円中心Qから開始点A2または終了点B2のいずれを結ぶ直線と水平方向とのなす角度をθとしてもよい。
次に、図6のように、開始点A1から円中心Qを通って終了点B1に至る弦(A1−B1)において、線分(A1−C1)と線分(B1−C1)との距離の比がa:bとなる内分点C1を考えると、レーンマーキング候補点は、弦(A1−B1)を比率a:bで内分する点C1となる。
したがって、任意のレーンマーキング候補点C2は、弦(A2−B2)を、以下の式(1)に示す比率で内分する点として求められることになる。
Figure 0004107587
なお、比率a:bは、図4および図5を参照しながら説明したように、消失点Sの方向の直線と各ドット3のオフセット位置を決定する比率であり、使用者が任意に設定できる値である。ただし、ドット3毎に比率を変更することはできないので、図5のように、候補点の数にバラツキが生じる。
以下、図6に基づいて、上記式(1)についての証明を行う。
まず、図6において、円中心Qを通る弦(A1−B1)を内分する比率がa:bであるとき、線分(A1−C1)の距離D1は、半径rを用いて、以下の式(2)のように表される。
Figure 0004107587
同様に、線分(B1−C1)の距離D2は、以下の式(3)のように表される。
Figure 0004107587
また、円中心Qとレーンマーキング候補点C1との距離D3は、半径rから距離D1を減算することにより、以下の式(4)で表される。
Figure 0004107587
さらに、円中心Qとレーンマーキング候補領域開始点A2との水平方向距離D4は、半径rおよび角度θを用いて、以下の式(5)で表される。
Figure 0004107587
したがって、線分(A2−C2)の距離D5は、距離D4から距離D3を減算することにより、以下の式(6)のように表される。
Figure 0004107587
また、線分(B2−C2)の距離D6は、距離D4に距離D3を加算することにより、以下の式(7)のように表される。
Figure 0004107587
したがって、レーンマーキング候補点C2は、弦(A2−B2)を、以下の式(8)で内分する点である。
Figure 0004107587
式(8)は上記式(1)と同一であり、したがって、上記式(1)が正しいことは証明された。
なお、比率a、bは任意に設定可能な定数であるから、任意のレーンマーキング候補点C2は、内分点に限定されることはなく、式(1)に基づく外分点であってもよい。
また、a=bとすれば、式(1)の比率は、半径rおよび角度θに関わらず「1:1」となり、レーンマーキング候補領域Rにおける開始点Aおよび終了点Bを結ぶ直線の中点がレーンマーキング候補点Cの変換位置となる。
また、a=1、b=0とすれば、式(1)に基づくレーンマーキング候補点Cの変換位置は、ドット3の左側と接する消失点Sの方向の直線上に設定される。
逆に、a=0、b=1とすれば、式(1)に基づくレーンマーキング候補点Cの変換位置は、ドット3の右側と接する消失点Sの方向の直線上に設定される。
さらに、図6に基づく式(1)の変換処理は、演算コストが高いので、たとえば図7に示すように、レーンマーキング候補領域R(ボッツ・ドッツ3)の開始点Aおよび終了点Bをa:bに内分する位置に、各レーンマーキング候補点Cを変換するという簡易的な処理方法も考えられる。
以下、レーンマーキング候補点Cの位置変換を、画像G(図3参照)の画面全体(または、必要な範囲)について、レーンマーキング探索ライン4を順に走査させていくことにより、探索ライン4毎にレーンマーキング候補領域Rの開始点Aおよび終了点Bを抽出して、レーンマーキング候補点Cの変換位置を求めることができる。
次に、車線認識手段30内の認識処理手段32は、レーンマーキング候補点位置変換手段31で変換されたレーンマーキング候補点Cの集合に基づいて、車線認識を行う。
このときの車線認識方法としては、数学的モデル式により近似して、レーンマーキング数学的モデル式による推定演算を行うことが多い。
レーンマーキング数学的モデル式としては、レーンマーキング候補点間の線形補間、レーンマーキング候補点の集合に対する直線近似、曲線近似などが挙げられ、また、前方距離で区切った複数の領域に対して直線近似を行う方法や、前方距離に応じて直線近似と曲線近似を使い分ける方法などが考えられ、さらに、ストリングモデルを用いて車線に沿わせるという手法などもある。
なお、数学的モデル式による推定演算を行わない場合には、レーンマーキング候補点Cを平面座標系に座標変換し、左右ともレーンマーキング候補点Cのある箇所のみについて、横位置を算出するという方法もある。
次に、図8〜図11の説明図を参照しながら、この発明の実施の形態1による直線近似処理およびレーンマーキング候補判定手段33による判定処理について説明する。
図8においては、走行路の左側のボッツ・ドッツ3上のレーンマーキング候補点Cおよび車線方向の近似直線L1とともに、レーンマーキング候補点C間の最大距離Dm、レーンマーキング間隔Pmおよびレーンマーキング横幅Wmと、最大距離Dmに対する閾値THおよび閾値設定範囲ΔTHとが、斜視図により示されている。
図9においては、近似直線L1および車線境界線L2上のボッツ・ドッツ3に関連して、レーンマーキング候補点C、最大距離Dmおよび閾値THが、斜視図により示されている。
図10においては、車両2の走行方向にある車線境界線L2とともに、車線境界線L2上のボッツ・ドッツ3(レーンマーキング)およびリフレクタ6と、レーンマーキング間隔PM(=1.2[m])と、ボッツ・ドッツ3(レーンマーキング)のセット間隔PS(=5.5[m]×2)とが、平面図により示されている。
図11においては、車線境界線L2上のボッツ・ドッツ3に関連して、レーンマーキング間隔PM(=1.2[m])およびボッツ・ドッツ3のマーキング横幅WM(=10[cm])とが、平面図により示されている。
図8において、近似直線L1は、レーンマーキング候補領域R(ボッツ・ドッツ3)内に認識されたレーンマーキング候補点Cの集合に対して、最小2乗法による直線近似処理を実行した場合の結果を示している。
ここで、車線認識が正常であれば、近似直線L1は、ボッツ・ドッツ3により表される車線境界線L2と一致する。
図8のように、複数のボッツ・ドッツ3上にレーンマーキング候補点Cが分布している場合は、近似直線L1は、車線境界線L2と一致する。
以下、レーンマーキング候補判定手段33による具体的な判定処理ついて説明する。
まず、図8において、各レーンマーキング候補点C(全9点)のうち、最近傍点と最遠点との間の進行方向距離を、レーンマーキング候補点C間の最大距離Dmとする。
レーンマーキング間隔PM(図10参照)は、各レーンマーキング(ドット3)間の平面距離であり、平面的なレーンマーキング間隔PMを斜視図に座標変換した値は、レーンマーキング間隔Pm(図8参照)となる。
同様に、平面的なレーンマーキング横幅WM(図11参照)を進行方向に関して斜視図に座標変換した値は、レーンマーキング横幅Wm(図8参照)となる。
ここでは、図10および図11のように、ボッツ・ドッツ3の一例として、レーンマーキング間隔PMが1.2[m]、レーンマーキング横幅WMが10[cm]の場合を示している。
斜視図に座標変換したレーンマーキング間隔Pmおよびレーンマーキング横幅Wmの値は、垂直座標位置によって異なるが、図8に示すように、最近傍点の垂直座標を基準として設定される。
また、閾値設定範囲ΔTHは、図8のように、レーンマーキング横幅Wm以上、且つ、レーンマーキング間隔Pm以下の間に設定される。さらに、閾値設定範囲ΔTHから、閾値TH(図8および図9参照)設定される。
図8および図9において、レーンマーキング候補点C間の最大距離Dmを、閾値THを用いて判定すると、図8の場合には、Dm>THであり、レーンマーキング候補点Cが複数のボッツ・ドッツ3上に存在することが分かる。
一方、図9の場合は、Dm<THであり、レーンマーキング候補点Cが1個のドット3上のみに存在することが分かる。
このように、閾値THを用いた判定により、レーンマーキング候補点Cが複数のボッツ・ドッツ3上に存在するか、または、1個のドット3上のみにしか存在しないことを判定することができる。
すなわち、図9のように、1個のドット上のみにしかレーンマーキング候補点Cが存在しない場合には、得られる近似直線L1は、ボッツ・ドッツ3の配列が示す車線境界線L2から大きくかけ離れたものとなり得る。
以上の説明では、図8および図9のように、斜視図(画面視状態)に基づいて判定したが、図10のように、レーンマーキング候補点Cを平面図(上面視状態)に座標変換してから判定しても同様の結果が得られる。
また、レーンマーキング候補点C間の最大距離Dmを用いたが、最大距離Dmの代わりに、レーンマーキング候補点Cの集合内の任意の2点を抽出し、各2点間距離の組合せにおいて、閾値THを越えるものが存在しないか否かを判定しても同様の結果が得られる。
次に、図9を参照しながら、車線認識手段30内の無効化手段34による無効化処理について具体的に説明する。
無効化手段34は、たとえば、図9のように、レーンマーキング候補点C間の最大距離Dmが閾値TH以下であれば、レーンマーキング候補点Cから得られるデータを無効化する。
無効化手段34による無効化処理の第1例としては、レーンマーキング候補点Cそのものを無効化する方法が挙げられる。
この場合、レーンマーキング候補点抽出手段20により抽出されたレーンマーキング候補点Cを無効化することにより、レーンマーキング候補点抽出手段20の後段側にある車線認識手段30内のレーンマーキング候補点位置変換手段31および認識処理手段32(図1内の破線枠内参照)により得られる処理結果は、全て無効データとなる。
また、無効化手段34による無効化処理の第2例としては、レーンマーキング候補点位置変換手段31により変換されたレーンマーキング候補点位置を無効化する方法が挙げられる。
この場合、レーンマーキング候補点位置変換手段31の後段側にある認識処理手段32により得られる処理結果は、全て無効データとなる。
また、無効化手段34による無効化処理の第3例としては、認識処理手段32による車線認識結果を無効化する方法が挙げられる。
この場合、認識処理手段32の後段側にある手段、車線認識結果出力手段40が無効化されるので、たとえば、通信手段により車線認識結果を外部へ出力しても、無効データとなる。
また、無効化手段34による無効化処理の第4例としては、車線認識手段30からの車線認識結果を車線認識画像処理装置の外部で参照し、車両制御または車線逸脱警報制御を行う場合に、車線認識結果を「無効フラグ」とともに出力する方法が挙げられる。
この場合、車線認識結果が出力されても、同時に「無効フラグ」が出力されるので、実質的に無効であることを認識することができる。
また、無効化手段34による無効化処理の第5例としては、車線認識手段30から車線認識結果を出力させない方法が挙げられる。
この場合、車線認識画像処理装置の外部で参照される「車線認識結果」が更新されないので、システム動作としては、前回の車線認識結果を保持し続ける状態、または、車線を見失った状態となる。
無効化手段34の具体的処理は、無効化が実現可能であれば、上述した各例に限定されるものではない。
以上のように、車線認識手段30において、レーンマーキング候補点位置変換手段31は、レーンマーキング候補領域Rにおける開始点Aおよび終了点Bに基づくレーンマーキング候補点Cを、消失点Sに向かう直線上に変換し、変換された位置(たとえば、開始点Aと終了点Bとの中点)をレーンマーキング候補点位置とする。
また、レーンマーキング候補判定手段33は、レーンマーキング候補点Cの集合からなる2点間距離が閾値TH以下か否かにより、または、レーンマーキング候補点Cの集合のうち、最も離れた位置にある2点間の最大距離Dmが閾値TH以下か否かにより、1個のドット3上のレーンマーキング候補点Cのみであるか否かを判定する。
また、無効化手段34は、2点間距離が閾値TH以下であれば、レーンマーキング候補点Cから得られる情報を無効化する。
すなわち、撮影手段10により撮像された画像Gからレーンマーキング候補点Cを抽出するレーンマーキング候補点抽出手段20と、レーンマーキング候補点Cの集合に基づいて車両の走行路上の車線を認識する車線認識手段30とを備え、車線認識手段30内のレーンマーキング候補点位置変換手段31は、レーンマーキング候補点Cをレーンマーキング候補点位置に変換するために、レーンマーキング候補点Cを消失点方向の直線上に変換した位置をレーンマーキング候補点位置として認識する。
これにより、各ドット3上のレーンマーキング候補点Cの位置を、レーンマーキングの探索ライン4の位置および分解能などに依存せずに安定させることができる。
また、図8に示すように、複数のボッツ・ドッツ3上にレーンマーキング候補点Cが存在すれば、レーンマーキング数学的モデル式と車線境界線L2とが一致する車線認識結果を得ることができる。
また、レーンマーキング候補点位置変換手段31は、レーンマーキング候補点Cを含むレーンマーキング候補領域Rの中点をレーンマーキング候補点位置として認識することにより、ハードウェア・ソフトウェアの負荷をほとんど増大させることなく、簡単な手法で認識することができる。
また、車線認識手段30は、レーンマーキング候補点Cの集合の有効性判定基準となる閾値THを設定する閾値設定手段と、レーンマーキング候補点Cの集合から車両2の進行方向に対応した2点を抽出して、抽出された2点間距離のうち、閾値THを越えるものが存在するか否かを判定するレーンマーキング候補判定手段33とを含むので、ボッツ・ドッツ3のようなドットからなるレーンマーキングに対する車線認識において、レーンマーキング候補点Cが1個のドット3上のみにあるか否かにより、レーンマーキング候補点Cの信頼性の有無の判定を簡便な手法で実現することができ、判定後に続く処理に対して、車線認識の信頼度についての有益な情報を提供することができる。
また、車線認識手段30内のレーンマーキング候補判定手段33は、レーンマーキング候補点Cの集合のうち、車両2の進行方向に最も離れた位置にある2点間距離が閾値THを越えたか否かを判定することにより、レーンマーキング候補点Cの抽出を近傍から遠方へ向かって順に行う場合には、最初と最後のレーンマーキング候補点位置のみを参照すればよく、最も簡便な手法で判定することができるので、ハードウェア・ソフトウェアの負荷をほとんど増加させることなく実現することができる。
また、閾値THは、車両2の走行路上のレーンマーキング横幅Wm以上、且つ車両2の進行方向に対するレーンマーキングのセット間隔PS以下に設定されているので、1個のドット3上のレーンマーキング候補判定に用いられるレーンマーキング最大距離Dmの閾値THを、各地域のレーンマーキングのサイズおよび間隔に合わせて高精度に設定することができる。
また、車線認識手段30は、閾値THを越える2点間距離が存在しない場合に、レーンマーキング候補点Cから得られる情報を無効化するための無効化手段34を含み、信頼性の低い車線認識結果を無効とすることにより、実際の車線境界線L2とはかけ離れた認識結果に基づく誤警報(車線逸脱警報)や誤制御(車両ステアリング制御)などを回避することができる。
実施の形態2.
なお、上記実施の形態1では、特に言及しなかったが、車線認識手段内に車線認識結果記憶手段を設け、無効化処理時に前回の記憶情報を有効化してもよい。
以下、図12を参照しながら、車線認識結果記憶手段36を設けたこの発明の実施の形態2による車線認識画像処理装置について説明する。
図12はこの発明の実施の形態2を示すブロック構成図であり、前述(図1参照)と同様のものについては、前述と同一符号を付して、または、符号の後に「A」を付して詳述を省略する。
図12において、車線認識手段30Aは、前述の各手段31〜33および34Aに加えて、認識処理手段32の出力側に挿入された開閉手段35と、認識処理手段32による車線認識結果を記憶する車線認識結果記憶手段36とを備えている。
車線認識手段30Aは、無効化手段34Aにより今回の情報が無効化された場合には、無効化処理に応答して、車線認識結果記憶手段内の前回の記憶情報を有効化する。
また、車線認識手段30Aは、無効化手段34Aによる無効化処理が所定時間以上継続する場合には、車両2がレーンマーキングのセット間隔PSを走行するのに要する時間に相当する所定期間にわたって、車線認識結果記憶手段内の記憶情報の有効化処理を継続させ、所定期間の経過後には、記憶情報の有効化処理を禁止するようになっている。
図12において、通常時には、無効化手段34Aが無効化処理を実行していないので、開閉手段35は、破線で示すように閉成(ON)されており、車線認識結果記憶手段36は、認識処理手段32による車線認識結果を記憶する。
同時に、車線認識結果は、車線認識結果記憶手段36を通して車線認識手段30Aから出力され、車線認識結果出力手段40を介して車線認識画像処理装置の外部に出力される。このときの情報出力方法としては、シリアル通信またはCAN通信などが挙げられる。
一方、無効化手段34が動作して、レーンマーキング候補点抽出手段20から得られる今回データの無効化処理が実行された場合には、無効化信号に応答して、開閉手段35が実線位置に切換えられて開放(OFF)されるので、車線認識結果記憶手段36への車線認識結果の記憶処理は禁止される。
しかし、車線認識結果記憶手段36には、前回の車線認識結果が記憶保持されているので、前回の車線認識結果は、有効化された情報として、車線認識結果出力手段40を介して外部に出力される。
すなわち、無効化手段34により無効化処理が実行された場合には、車線認識結果出力手段40からの出力されるデータ(車線認識結果)として、車線認識結果記憶手段36に記憶されている前回の車線認識結果が用いられる。
ここで、車線認識結果記憶手段36に記憶されている前回の車線認識結果を保持し続ければ、最後に有効であった車線認識結果(最新データ)をいつまでも出力することができる。
ただし、無制限に前回データを利用することは、リアルタイム性が崩れることから望ましくないので、車速に応じた所定期間だけ記憶情報の有効化処理を継続させるようになっている。
たとえば、車両2(図10参照)がボッツ・ドッツ3のセット間隔PS(=5.5×2[m]=11.0[m])を走行するのに要する時間に相当する所定期間にわたって、車線認識結果記憶手段36内の記憶情報の有効化処理を継続することが望ましい。
たとえば、車両2が車速80[km/h]で走行中であれば、記憶情報の有効化を継続する所定期間は、0.5秒間である。
これにより、無効化処理時においても、前回の車線認識結果を継続して出力することができるとともに、所定期間の経過後には、リアルタイム性の低下した前回の車線認識結果の有効化を禁止することができる。
以上のように、ボッツ・ドッツ3を敷設した道路を車両2が走行中に車線認識不可となった場合には、車線認識結果記憶手段36からの前回の車線認識結果を用いる。
すなわち、車線認識手段30Aは、車線認識結果を記憶する車線認識結果記憶手段36を含み、無効化手段34Aにより情報が無効化された場合には、車線認識結果記憶手段36内の記憶情報を有効化することにより、車線認識中のあるフレームのみが車線認識無効となった場合は、前回の車線認識結果を保持し、誤認識となるフレームのみを排除することで、信頼性の高いロバストな車線認識結果を得ることができる。
また、車線認識結果記憶手段36内に前回の車線認識結果を保持する所定期間(上限期間)は、車両2がレーンマーキングのセット間隔PSを走行するのに要する時間に設定される。
すなわち、車線認識手段30Aは、無効化手段34Aによる無効化処理が所定時間以上継続する場合には、車両2がレーンマーキングのセット間隔PSを走行するのに要する時間に相当する所定期間にわたって、車線認識結果記憶手段内の記憶情報の有効化処理を継続させ、所定期間の経過後には記憶情報の有効化処理を禁止する。これにより、複数フレームにわたって無効化処理が継続する場合でも、次回のレーンマーキング探索基準となる前回の車線認識結果を所定期間(レーンマーキングのセット間隔PSを走行する時間)だけ保持するので、リアルタイム性を確保して、速やかな車線認識処理(通常処理)への復帰を可能にすることができる。
実施の形態3.
なお、上記実施の形態2では、無効化処理時に前回の車線認識結果を出力させたが、車線認識手段内に時間平均化処理手段を設け、車線認識中の或る1つのフレームのみが車線認識無効となった場合に、悪影響が軽減された時間平均化結果を出力させてもよい。
以下、図13を参照しながら、時間平均化処理手段37を設けたこの発明の実施の形態3による車線認識画像処理装置について説明する。
図13はこの発明の実施の形態3を示すブロック構成図であり、前述(図12参照)と同様のものについては、前述と同一符号を付して、または、符号の後に「B」を付して詳述を省略する。
図13において、車線認識手段30Bは、前述の各手段31〜33および34B〜36Bに加えて、認識処理手段32の出力側に挿入された時間平均化処理手段37と、時間平均化結果記憶手段36Bの出力側に挿入された切換手段38とを備えている。
時間平均化処理手段37は、認識処理手段32の車線認識結果に対して時間平均化処理を施し、時間平均化結果記憶手段36Bは、時間平均化処理手段37による時間平均化結果を記憶する。
これにより、車線認識中の或る1つのフレームのみが車線認識無効となった場合には、前回の車線認識結果が誤認識であったとしても、時間平均化処理によって悪影響が軽減された時間平均化結果を記憶保持することができる。
時間平均化処理手段37による時間平均化処理としては、ローパスフィルタ処理などの時間的フィルタ処理が用いられる。
車線認識手段30Bは、無効化手段34Bにより情報が無効化された場合には、時間平均化結果記憶手段36B内の前回データ(記憶情報)を有効化する。
また、車線認識手段30Bは、無効化手段34Bによる無効化処理が所定時間以上継続する場合には、レーンマーキング(ボッツ・ドッツ3)のセット間隔PSを車両が走行するのに要する時間に相当する所定期間にわたって、時間平均化結果記憶手段36B内の記憶情報の有効化処理を継続させるようになっている。
通常時においては、無効化処理が実行されていないので、開閉手段35Bは、破線で示すように閉成(ON)されており、時間平均化結果記憶手段36Bは、時間平均化処理手段37からの時間平均化結果を記憶する。
また、このとき、切換手段38は、図13内の破線位置を選択しており、認識処理手段32からの車線認識結果を車線認識結果出力手段40に出力する。
したがって、車線認識結果は、車線認識手段30Bから、車線認識結果出力手段40を介して、車線認識画像処理装置の外部に出力される。
一方、無効化手段34Bによる無効化処理が実行された場合には、無効化信号に応答して、開閉手段35Bが実線位置に切換えられて開放(OFF)されるので、時間平均化結果記憶手段36Bへの時間平均化結果の記憶処理は禁止される。
また、これと同時に、切換手段38が実線位置に切換えられて、車線認識結果出力手段40に接続されるので、時間平均化結果記憶手段36Bに記憶保持された前回までの時間平均化結果は、有効化された情報として、車線認識結果出力手段40を介して外部に出力される。
これにより、無効化手段34Bにより無効化処理が実行された場合には、車線認識結果出力手段40からの出力データ(車線認識結果)として、前回までの車線認識結果の時間平均化結果が用いられる。
したがって、車線認識結果出力手段40は、出力データ(車線認識結果)を使い分け、通常は認識処理手段32による車線認識結果を用い、無効化手段34Bにより無効化処理が実行された場合には、時間平均化結果記憶手段36B内の時間平均化結果を用いることになる。
なお、前述の実施の形態2の場合と同様に、時間平均化結果記憶手段36Bに記憶された時間平均化結果を保持し続ければ、最後に更新された時間平均化結果をいつまでも出力することができるが、リアルタイム性が崩れるのを回避するため、前述と同様に、車両2(図10参照)がボッツ・ドッツ3(レーンマーキング)のセット間隔PS(=11.0[m])を走行する所定期間(車両2が80[km/h]で走行中であれば、0.5秒間)だけ、時間平均化結果記憶手段36B内の記憶情報の有効化処理を継続する。
これにより、無効化処理時においても、前回までの車線認識結果の時間平均化結果を継続して出力することができるとともに、所定期間の経過後には、リアルタイム性の低下した時間平均化結果の有効化処理を禁止することができる。
ここで、図14を参照しながら、無効化処理時に時間平均化結果の有効化処理を継続させる所定期間の意味について説明する。
図14はレーンマーキングの探索範囲WSを示す説明図であり、ボッツ・ドッツ3を敷設した道路上を走行する車両2とレーンマーキングおよびその探索範囲WSとの位置関係を示している。
また、図14において、(a)、(b)、(c)は時間経過順の車両2の位置変化を示している。
レーンマーキングの探索範囲WSは、車両2のフロントウィンドウ位置に取り付けられたカメラ1(図2参照)から得られる画像Gに対して、レーンマーキング探索対象とする前方距離範囲(たとえば、前方10[m]から20[m]までの10[m]幅)を決定している。
また、レーンマーキングのセット間隔PS(ボッツ・ドッツ3のセット間の距離)は、孤立したリフレクタ6を対象外とすると、前述(図10参照)と同様に、5.5×2[m](=11.0[m])である。
したがって、車両2の走行方向(矢印参照)に関し、レーンマーキングの探索範囲WS(=10[m])は、レーンマーキングのセット間隔PS(=11[m])よりも短い値に設定されている。
この場合、図14(b)に示すように、レーンマーキングの探索範囲WS内にボッツ・ドッツ3が含まれないフレームが存在する。このとき、探索範囲WS内に抽出されるドットとしては、1個のリフレクタ6のみであるため、抽出データは無効となる。
一方、図14(a)、(c)においては、レーンマーキングの探索範囲WS内に1セット(4個)のボッツ・ドッツ3が確実に含まれる。
ここで、図14において、(a)と(c)との間の車両2の走行距離は、レーンマーキングのセット間隔PSに等しいことが分かる。
したがって、車両2が所定期間(レーンマーキングのセット間隔PSを走行する時間に相当)にわたって無効化処理の実行を継続すれば、確実に1セットのボッツ・ドッツ3を抽出することができるので、時間平均化結果記憶手段36B(または、車線認識結果記憶手段36)からの記憶情報の有効化処理を終了して、通常時の処理に復帰することができる。
このように、レーンマーキングのセット間隔PSを走行する時間を上限として、前回の時間平均化結果(または、車線認識結果)を出力することにより、リアルタイム性を損なうことなく、速やかな認識復帰を可能にすることができる。
仮に、記憶情報の有効化処理を所定期間(セット間隔PSの走行時間)以上にわたって継続すると、ボッツ・ドッツ3の敷設規則ではない別の原因(たとえば、逆光撮像により認識困難な画像)であるにも関わらず、過去の記憶結果の利用を不当な長期間にわたって維持することになり、リアルタイム性を損なううえ、車両制御において不適切な状況に陥る可能性がある。
以上のように、車線認識手段30Bは、車線認識結果に対して時間平均化処理を施す時間平均化処理手段37と、時間平均化処理手段37による時間平均化結果を記憶する時間平均化結果記憶手段36Bとを含み、無効化手段34Bにより情報が無効化された場合には、時間平均化結果記憶手段36B内の記憶情報を有効化することにより、車線認識中の或る1つのフレームのみが車線認識無効となった場合には、前回の車線認識結果が誤認識であったとしても、時間平均化処理によって悪影響が軽減された時間平均化結果を出力することができ、直接の誤認識結果の出力を回避することができる。
また、車線認識手段30Bは、無効化手段34Bによる無効化処理が所定時間以上継続する場合には、車両2がレーンマーキングのセット間隔PSを走行するのに要する時間に相当する所定期間にわたって、時間平均化結果記憶手段36B内の記憶情報の有効化処理を継続させ、所定期間の経過後には記憶情報の有効化処理を禁止する。これにより、複数フレームにわたって無効化処理が継続する場合でも、次回のレーンマーキング探索基準となる前回の時間平均化結果を所定期間(レーンマーキングのセット間隔PSを走行する時間)だけ保持するので、リアルタイム性を確保して、速やかな車線認識処理(通常処理)への復帰を可能にすることができる。
この発明の実施の形態1による車線認識画像処理装置を概略的に示すブロック構成図である。 車両へのカメラ(撮影手段)の取り付け状態の一例を示す外観図である。 車両前方のボッツ・ドッツ敷設道路を撮影した画像と、水平ラインに関する画像のフィルタ処理結果と、フィルタ出力結果を2値化したレーンマーキング候補領域に基づくレーンマーキング候補点位置を示す説明図である。 1つのドット上のレーンマーキング候補領域の開始点および終了点に基づいてレーンマーキング候補点を消失点方向に変換する処理を平面図により拡大して示す説明図である。 ボッツ・ドッツ上のレーンマーキング候補領域の開始点および終了点に基づいてレーンマーキング候補点を消失点方向に変換する処理を斜視図により示す説明図である。 1つのドット上のレーンマーキング候補領域の開始点および終了点に基づいてレーンマーキング候補点を消失点方向に変換する処理を平面図により拡大して示す説明図である。 1つのドット上のレーンマーキング候補領域の開始点および終了点に基づいてレーンマーキング候補点を消失点方向に変換する簡略的な処理を平面図により拡大して示す説明図である。 走行路の左側のボッツ・ドッツ上の各レーンマーキング候補点を各種判定パラメータとともに斜視図により示す説明図である。 走行路の左側の1つのドット上のレーンマーキング候補点を各種判定パラメータとともに斜視図により示す説明図である。 走行路上のボッツ・ドッツおよびリフレクタの設置間隔を平面図により示す説明図である。 ボッツ・ドッツの横幅を平面図により示す説明図である。 この発明の実施の形態2による車線認識画像処理装置を概略的に示すブロック構成図である。 この発明の実施の形態3による車線認識画像処理装置を概略的に示すブロック構成図である。 この発明の実施の形態3による無効化処理時に関連したレーンマーキングのセット間隔とレーンマーキング探索範囲との関係を示す説明図である。 従来の車線認識画像処理装置において走行路の左側のボッツ・ドッツのレーンマーキング候補点位置を車線内側とした場合に、近似直線がドットの1/2幅分だけ振動する状態を斜視図により示す説明図である。 従来の車線認識画像処理装置において走行路の左側のボッツ・ドッツのレーンマーキング候補点位置を車線内側とした場合に、ドットとレーンマーキング探索ラインとの位置関係に応じてレーンマーキング候補点位置がそれぞれ異なる状態を示す説明図である。
符号の説明
1 カメラ、2 車両、3 ボッツ・ドッツ、4 レーンマーキング探索ライン、5 フィルタ出力結果、6 リフレクタ、A レーンマーキング候補領域の開始点、B レーンマーキング候補領域の終了点、C レーンマーキング候補点、Dm レーンマーキング候補点間の最大距離、L1 近似直線、L2 車線境界線、Pm、PM レーンマーキング間隔、PS レーンマーキングのセット間隔、Q 円中心、R レーンマーキング候補領域、TH 閾値、ΔTH 閾値設定範囲、Wm、WM レーンマーキング横幅、WS レーンマーキングの探索範囲。

Claims (7)

  1. 車両に搭載された車線認識画像処理装置であって、
    前記車両の前方を撮影する撮影手段と、
    前記撮影手段により撮像された画像からレーンマーキング候補領域上の走査方向の開始点および終了点を抽出する抽出手段と、
    前記抽出手段に基づいて前記車両の走行路上の車線を認識する車線認識手段とを備え、
    前記車線認識手段は、
    前記レーンマーキング候補領域の開始点および終了点を、消失点方向の線上に定められるレーンマーキング候補点位置に変換するレーンマーキング候補点位置変換手段と、
    前記レーンマーキング候補点の集合の有効性判定基準となる閾値を設定する閾値設定手段と、
    前記レーンマーキング候補点の集合のうち、前記車両の進行方向に最も離れた位置にある2点を抽出して、前記2点の間の2点間距離前記閾値を越えたか否かを判定するレーンマーキング候補判定手段と、
    前記閾値を越える2点間距離が存在しない場合に、前記レーンマーキング候補点から得られる情報を無効化するための無効化手段と
    を有してなることを特徴とする車線認識画像処理装置。
  2. 前記レーンマーキング候補点位置変換手段は、前記レーンマーキング候補点を含むレーンマーキング候補領域の中点を前記レーンマーキング候補点位置として認識することを特徴とする請求項1に記載の車線認識画像処理装置。
  3. 前記閾値は、前記車両の走行路上のレーンマーキングの横幅以上、且つ前記車両の進行方向に対する前記レーンマーキングのセット間隔以下に設定されたことを特徴とする請求項1または請求項2に記載の車線認識画像処理装置。
  4. 前記車線認識手段は、
    車線認識結果を記憶する車線認識結果記憶手段を含み、
    前記無効化手段により情報が無効化された場合には、前記車線認識結果記憶手段内の記憶情報を有効化することを特徴とする請求項1に記載の車線認識画像処理装置。
  5. 前記車線認識手段は、前記無効化手段による無効化処理が所定時間以上継続する場合には、前記車両が前記レーンマーキングのセット間隔を走行するのに要する時間に相当する所定期間にわたって、前記車線認識結果記憶手段内の記憶情報の有効化処理を継続させ、前記所定期間の経過後には、前記記憶情報の有効化処理を禁止することを特徴とする請求項4に記載の車線認識画像処理装置。
  6. 前記車線認識手段は、
    車線認識結果に対して時間平均化処理を施す時間平均化処理手段と、
    前記時間平均化処理手段による時間平均化結果を記憶する時間平均化結果記憶手段とを含み、
    前記無効化手段により情報が無効化された場合には、前記時間平均化結果記憶手段内の記憶情報を有効化することを特徴とする請求項1に記載の車線認識画像処理装置。
  7. 前記車線認識手段は、前記無効化手段による無効化処理が所定時間以上継続する場合には、前記車両が前記レーンマーキングのセット間隔を走行するのに要する時間に相当する所定期間にわたって、前記時間平均化結果記憶手段内の記憶情報の有効化処理を継続させ、前記所定期間の経過後には、前記記憶情報の有効化処理を禁止することを特徴とする請求項6に記載の車線認識画像処理装置。
JP2003419976A 2003-12-17 2003-12-17 車線認識画像処理装置 Expired - Fee Related JP4107587B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2003419976A JP4107587B2 (ja) 2003-12-17 2003-12-17 車線認識画像処理装置
US10/839,247 US7295683B2 (en) 2003-12-17 2004-05-06 Lane recognizing image processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003419976A JP4107587B2 (ja) 2003-12-17 2003-12-17 車線認識画像処理装置

Publications (2)

Publication Number Publication Date
JP2005182303A JP2005182303A (ja) 2005-07-07
JP4107587B2 true JP4107587B2 (ja) 2008-06-25

Family

ID=34675236

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003419976A Expired - Fee Related JP4107587B2 (ja) 2003-12-17 2003-12-17 車線認識画像処理装置

Country Status (2)

Country Link
US (1) US7295683B2 (ja)
JP (1) JP4107587B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8643723B2 (en) 2010-02-22 2014-02-04 Denso Corporation Lane-marker recognition system with improved recognition-performance

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4291741B2 (ja) * 2004-06-02 2009-07-08 トヨタ自動車株式会社 車線逸脱警報装置
DE102005014114A1 (de) * 2005-03-21 2006-10-05 Valeo Schalter Und Sensoren Gmbh Spurerkennungssystem und Verfahren
JP4358147B2 (ja) * 2005-04-28 2009-11-04 本田技研工業株式会社 車両及びレーンマーク認識装置
JP4822766B2 (ja) * 2005-08-18 2011-11-24 富士通株式会社 路面標示認識装置及びシステム
US8208021B2 (en) * 2005-12-28 2012-06-26 Honda Motor Co., Ltd. Vehicle and lane mark detection device
JP4512044B2 (ja) * 2006-02-07 2010-07-28 トヨタ自動車株式会社 道路区間線検出装置
JP4735530B2 (ja) * 2006-12-21 2011-07-27 トヨタ自動車株式会社 道路区画線認識装置
US7809164B2 (en) * 2007-01-10 2010-10-05 Mavs Lab. Inc. Methods and systems for identifying events for a vehicle
US20080228400A1 (en) * 2007-03-15 2008-09-18 Wheeler Jeffrey D Highway safety system and method
JP5014237B2 (ja) * 2008-04-23 2012-08-29 本田技研工業株式会社 レーンマーカ認識装置、車両、及びレーンマーカ認識用プログラム
US8311283B2 (en) * 2008-07-06 2012-11-13 Automotive Research&Testing Center Method for detecting lane departure and apparatus thereof
JP4780534B2 (ja) 2009-01-23 2011-09-28 トヨタ自動車株式会社 道路区画線検出装置
DE102009007342A1 (de) * 2009-02-04 2010-08-05 Hella Kgaa Hueck & Co. Verfahren und Vorrichtung zum Ermitteln einer geltenden Fahrspurmarkierung
JP2010217955A (ja) * 2009-03-13 2010-09-30 Omron Corp 検出装置、評価装置および方法、並びに、プログラム
JP5363920B2 (ja) * 2009-08-31 2013-12-11 富士重工業株式会社 車両用白線認識装置
JP4992990B2 (ja) 2010-02-24 2012-08-08 株式会社デンソー 区画線検出装置
US9098751B2 (en) 2011-07-27 2015-08-04 Gentex Corporation System and method for periodic lane marker identification and tracking
TWI447039B (zh) * 2011-11-25 2014-08-01 駕駛行為分析警示系統與方法
DE102011087797A1 (de) * 2011-12-06 2013-06-06 Robert Bosch Gmbh Verfahren und Vorrichtung zur Lokalisation einer vordefinierten Parkposition
CN103164851B (zh) * 2011-12-09 2016-04-20 株式会社理光 道路分割物检测方法和装置
KR101823385B1 (ko) * 2011-12-12 2018-03-15 현대모비스 주식회사 사이드 카메라를 이용한 차선 이탈 경보 시스템의 인식률 향상 장치 및 방법
EP2629243A1 (de) * 2012-02-15 2013-08-21 Delphi Technologies, Inc. Verfahren zum Erkennen und Verfolgen von Fahrspurmarkierungen
MX2015004135A (es) * 2012-10-04 2015-07-06 Nissan Motor Dispositivo para control de la direccion.
US9915546B2 (en) * 2013-05-17 2018-03-13 Telenav, Inc. Navigation system with route correction mechanism and method of operation thereof
US9384394B2 (en) * 2013-10-31 2016-07-05 Toyota Motor Engineering & Manufacturing North America, Inc. Method for generating accurate lane level maps
KR101906951B1 (ko) * 2013-12-11 2018-10-11 한화지상방산 주식회사 차선 검출 시스템 및 차선 검출 방법
JP6441616B2 (ja) * 2014-08-29 2018-12-19 株式会社ゼンリン 位置特定装置、運転支援装置および制御プログラム
CN107851392B (zh) * 2015-07-22 2021-04-09 本田技研工业株式会社 路径生成装置、路径生成方法及存储路径生成程序的介质
JP6106229B2 (ja) * 2015-08-10 2017-03-29 富士重工業株式会社 車線認識装置
RU2681703C1 (ru) * 2015-10-09 2019-03-12 АйЭйчАй КОРПОРЕЙШН Способ обнаружения отрезка прямой
CN105740800B (zh) * 2016-01-27 2019-06-07 大连楼兰科技股份有限公司 一种基于角度跟踪的车道线检测方法
CN111066322B (zh) * 2017-06-14 2022-08-26 华为技术有限公司 通过透视信息进行视频编码的帧内预测
CN107578012B (zh) * 2017-09-05 2020-10-27 大连海事大学 一种基于聚类算法选择敏感区域的驾驶辅助系统
US11796323B2 (en) 2021-03-23 2023-10-24 Here Global B.V. System and method for generating feature line data for a map
CN114863026B (zh) * 2022-05-18 2023-04-14 禾多科技(北京)有限公司 三维车道线信息生成方法、装置、设备和计算机可读介质

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2883131B2 (ja) 1989-11-17 1999-04-19 本田技研工業株式会社 走行車線判別方法
JP3189604B2 (ja) * 1994-11-25 2001-07-16 株式会社高岳製作所 検査方法および装置
JPH09113221A (ja) 1995-10-17 1997-05-02 Mitsubishi Electric Corp 車載用画像処理装置及びその画像処理方法
US5835028A (en) * 1997-05-05 1998-11-10 Bender; Lee Lane marker position sensor and alarm
JP2000147124A (ja) * 1998-11-12 2000-05-26 Denso Corp 車載レーダ装置
JP2001005978A (ja) * 1999-06-18 2001-01-12 Sony Corp 物体抽出装置、物体抽出方法、およびプログラム提供媒体
JP3603768B2 (ja) * 2000-09-06 2004-12-22 日産自動車株式会社 車線逸脱判定装置
JP3736346B2 (ja) * 2000-12-26 2006-01-18 日産自動車株式会社 車線検出装置
JP4327389B2 (ja) * 2001-10-17 2009-09-09 株式会社日立製作所 走行レーン認識装置
JP4016735B2 (ja) * 2001-11-30 2007-12-05 株式会社日立製作所 レーンマーク認識方法
JP3626733B2 (ja) * 2002-03-01 2005-03-09 三菱電機株式会社 車線認識画像処理装置及びその処理を実行させるためのプログラム
JP4374211B2 (ja) * 2002-08-27 2009-12-02 クラリオン株式会社 レーンマーカー位置検出方法及びレーンマーカー位置検出装置並びに車線逸脱警報装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8643723B2 (en) 2010-02-22 2014-02-04 Denso Corporation Lane-marker recognition system with improved recognition-performance

Also Published As

Publication number Publication date
US20050135658A1 (en) 2005-06-23
JP2005182303A (ja) 2005-07-07
US7295683B2 (en) 2007-11-13

Similar Documents

Publication Publication Date Title
JP4107587B2 (ja) 車線認識画像処理装置
US8090152B2 (en) Road lane boundary detection system and road lane boundary detecting method
US7542835B2 (en) Vehicle image processing device
US8385601B2 (en) In-vehicle white line recognition apparatus
US20100110193A1 (en) Lane recognition device, vehicle, lane recognition method, and lane recognition program
US10339393B2 (en) Demarcation line recognition apparatus
JP2011180982A (ja) 区画線検出装置
JP2007220013A (ja) 車両用白線検出装置
US11151395B2 (en) Roadside object detection device, roadside object detection method, and roadside object detection system
JP7044513B2 (ja) 道路認識装置
CN110991214A (zh) 车道线识别装置
US20090201370A1 (en) Traveling Lane Detector
JP4937844B2 (ja) 歩行者検出装置
KR20090098167A (ko) 거리센서를 이용한 차선인식 방법 및 그 시스템
JP2008117073A (ja) 割り込み車両検出装置
JP5090313B2 (ja) 路面標示認識装置
JP5097681B2 (ja) 地物位置認識装置
JP5538098B2 (ja) 車両用白線認識装置
KR20170055738A (ko) 영상 기반 주행 차로 판단 장치 및 방법
JP2006140636A (ja) 障害物検出装置および方法
JP3626733B2 (ja) 車線認識画像処理装置及びその処理を実行させるためのプログラム
JP4211681B2 (ja) 走行路認識装置
JP4225242B2 (ja) 走行路認識装置
CN112334944B (zh) 摄像机装置的标志识别方法及标志识别装置
US11373416B2 (en) Image processing device and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050805

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070320

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070518

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080318

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080328

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110411

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120411

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120411

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130411

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130411

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140411

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees