JP2009134429A - 画像認識装置及び画像認識プログラム - Google Patents

画像認識装置及び画像認識プログラム Download PDF

Info

Publication number
JP2009134429A
JP2009134429A JP2007308922A JP2007308922A JP2009134429A JP 2009134429 A JP2009134429 A JP 2009134429A JP 2007308922 A JP2007308922 A JP 2007308922A JP 2007308922 A JP2007308922 A JP 2007308922A JP 2009134429 A JP2009134429 A JP 2009134429A
Authority
JP
Japan
Prior art keywords
lane
line
image recognition
distance
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007308922A
Other languages
English (en)
Other versions
JP4950858B2 (ja
Inventor
Masaki Nakamura
正樹 中村
Tomoaki Ishikawa
知章 石川
Satoshi Aisaka
総 逢坂
Kota Irie
耕太 入江
Naoki Korogi
直樹 興梠
Takeshi Shima
健 志磨
Masahiro Kiyohara
將裕 清原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin AW Co Ltd
Hitachi Ltd
Original Assignee
Aisin AW Co Ltd
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin AW Co Ltd, Hitachi Ltd filed Critical Aisin AW Co Ltd
Priority to JP2007308922A priority Critical patent/JP4950858B2/ja
Priority to CN200810175427.XA priority patent/CN101447019B/zh
Priority to US12/292,887 priority patent/US7948397B2/en
Priority to EP08170232.6A priority patent/EP2065835B1/en
Publication of JP2009134429A publication Critical patent/JP2009134429A/ja
Application granted granted Critical
Publication of JP4950858B2 publication Critical patent/JP4950858B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Navigation (AREA)
  • Image Analysis (AREA)

Abstract

【課題】演算処理負荷を小さく抑えつつ、高精度に区画線の種別を認識することができる画像認識装置及び画像認識プログラム等を提供する。
【解決手段】自車両の周辺の少なくとも道路面を所定の時間間隔で撮影した複数フレームの画像情報Gを取得する画像情報取得手段12と、画像情報Gの各フレーム内に設定した検出領域に含まれる区画線の始端及び終端を検出する画像認識処理を行う画像認識手段31と、区画線の始端及び終端の一方が検出された画像情報Gのフレームと区画線の始端及び終端の他方が検出された画像情報のフレームとの間のフレーム数、並びに自車両の車速に基づいて、区画線の始端及び終端の一方から他方までの距離を検出距離として検出する距離検出手段32と、検出距離に基づいて区画線の区画線種別を判定する区画線種別判定手段33と、を備える。
【選択図】図1

Description

本発明は、自車両の周辺の少なくとも道路面を撮影した画像情報を取得し、それに対する画像認識処理を行うことによって画像情報に含まれる区画線の種別を判定する画像認識装置及び画像認識プログラム等に関する。
近年、ナビゲーション装置や自動車の車両制御装置等の分野において、例えば、自車レーン認識やレーンキープアシスト等のために、道路の路面に設けられている実線や破線等の各種区画線を認識するための各種の技術が開発されてきている。
このような区画線認識に関する技術として、例えば下記の特許文献1には、以下のような自車レーン認識装置の技術が開示されている。すなわち、この自車レーン認識装置は、まず、撮影した画像を道路の真上から見た平面視画像に変換する座標変換処理を行う。次に、この平面視画像を用い、自車両の進行方向に沿って隣接するように設定される近側領域及び遠側領域の各領域内における区画線が占める長さを検出する。そして、各領域内における区画線の長さが、2つの領域の双方で所定値より長いと検出された場合には区画線が実線であると判定し、2つの領域のいずれか一方のみで所定値より長いと検出された場合には区画線が破線であると判定し、2つの領域の双方で所定値以下と検出された場合には区画線がないと判定する。そして、この自車レーン認識装置は、区画線の種別の判定結果に基づいて、自車両が走行中のレーンである自車レーンの判定を行う。
また、例えば下記の特許文献2には、以下のような自車レーン認識装置の技術が開示されている。すなわち、この自車レーン認識装置は、上述した特許文献1の装置と同様に、まず、撮影した画像を道路の真上から見た平面視画像に変換する座標変換処理を行う。次に、この平面視画像の1フレーム分に対して複数の車線検出領域を設定し、各領域の積分輝度の強度を算出する。そして、複数の領域について算出された積分輝度の強度がほぼ一定である場合には区画線が実線であると判定し、複数の領域について検出された積分輝度の強度が時間的及び領域の位置的にばらつく場合には区画線が破線であると判定する。そして、この自車レーン認識装置は、区画線の種別の判定結果に基づいて自車レーンの判定を行う。
特開2005−322166号公報(4−5頁、図3−5) 特開2007−200191号公報(10−11頁、図14)
しかし、上述した従来の区画線認識技術では、撮影した画像を道路の真上から見た平面視画像に変換する座標変換処理を行う必要がある。また、撮影した画像を複数の領域に分けて各領域に対して所定の画像認識処理を行う必要がある。そのため、区画線の認識のための処理が複雑となって装置の演算処理負荷が大きくなるため、処理の遅延が生じ、或いは処理の高速化に対応するためにコストアップが必要になるといった問題がある。
本発明は、上記の課題に鑑みてなされたものであり、その目的は、演算処理負荷を小さく抑えつつ、高精度に区画線の種別を認識することができる画像認識装置及び画像認識プログラム等を提供することにある。
上記目的を達成するための本発明に係る画像認識装置の特徴構成は、自車両の周辺の少なくとも道路面を所定の時間間隔で撮影した複数フレームの画像情報を取得する画像情報取得手段と、前記画像情報の各フレーム内に設定した検出領域に含まれる区画線の始端及び終端を検出する画像認識処理を行う画像認識手段と、前記区画線の始端及び終端の一方が検出された前記画像情報のフレームと前記区画線の始端及び終端の他方が検出された前記画像情報のフレームとの間のフレーム数、並びに自車両の車速に基づいて、前記区画線の始端及び終端の一方から他方までの距離を検出距離として検出する距離検出手段と、前記検出距離に基づいて前記区画線の区画線種別を判定する区画線種別判定手段と、を備えた点にある。
この特徴構成によれば、取得した画像情報に対しては、各フレーム内の限られた検出領域内に含まれる区画線の始端及び終端を検出する処理を行うだけであるため、簡易な画像認識処理を実行するだけで済み、画像情報に対する座標変換処理も行う必要がない。したがって、装置の演算処理負荷を小さく抑えることが容易となる。また、この特徴構成によれば、区画線の始端及び終端の一方が検出されたフレームと他方が検出されたフレームとの間のフレーム数並びに自車両の車速に基づいて、区画線の始端及び終端の一方から他方までの距離を検出し、当該検出距離に基づいて区画線種別を判定するため、画像情報に含まれる区画線の区画線種別を高精度に判定することができる。
ここで、前記距離検出手段は、自車両の車速に基づいて前記画像情報の1フレームあたりの自車両が進む距離を導出し、当該1フレームあたりの自車両が進む距離に前記フレーム数を乗算して得られる距離を、前記検出距離とする構成とすると好適である。
この構成によれば、車速が高くなるに従って長くなる画像情報の1フレームあたりの自車両が進む距離を、例えばテーブルや演算式等によってまず導出する。そして、当該1フレームあたりの自車両が進む距離に、区画線の始端及び終端の一方が検出されたフレームと区画線の始端及び終端の他方が検出されたフレームとの間のフレーム数を乗算する。これにより、区画線の始端及び終端の一方から他方までの距離である検出距離を、簡易な処理により適切に導出することができる。
また、前記検出領域は、前記画像情報の複数フレームに共通の位置を含んで設定した、各フレーム内の一部の領域である構成とすると好適である。
この構成によれば、画像情報の複数のフレームに対して、それらのフレームに共通する位置の周辺において区画線の始端及び終端を検出することになるため、自車両と区画線の始端又は終端との位置関係がフレーム毎にばらつくことを抑制できる。したがって、区画線の始端及び終端の一方から他方までの距離である検出距離の検出精度を高めることが可能となる。
また、前記区画線種別判定手段は、前記検出距離が所定の下限値と上限値との間の範囲内であった場合に、前記区画線種別を破線と判定する構成とすると好適である。
破線の区画線に関しては、区画線の始端及び終端の一方から他方までの距離である検出距離は、当該破線の区画線を構成する各線の線長又は間隔に相当することになる。したがって、この構成によれば、例えば、現実に存在する破線の区画線を構成する各線の線長又は間隔に応じて所定の下限値と上限値とを定めることにより、前記検出距離が、現実に存在する破線の区画線を構成する各線の線長又は間隔に合致する範囲内であった場合に、区画線種別を破線と判定する構成とすることができる。これにより、破線の区画線を、実線の区画線又は区画線以外の道路標示と区別して、適切に判定することが可能となる。
また、前記区画線種別判定手段は、破線の区画線を構成する各線の線長及び間隔の一方又は双方が異なる複数の破線の区画線種別の中から、前記検出距離に応じて一つの区画線種別を判定する構成とすると好適である。
本願において、破線の区画線を構成する各線とは、所定間隔で断続的に配置されることにより破線の区画線を構成する線の一本一本のことである。そして、各線の線長は、各線の一本の長さのことであり、各線の間隔は、2本の線間の距離のことである。
この構成によれば、区画線の始端及び終端の一方から他方までの距離である検出距離が、破線の区画線を構成する各線の線長又は間隔に対応することを利用することにより、各線の線長及び間隔の一方又は双方が異なる複数の破線の区画線種別の中から、一つの区画線種別を適切に判定することが可能となる。
また、前記区画線種別判定手段は、各区画線種別について、当該区画線種別であると判定する前記検出距離の範囲を、自車両が走行中の道路の道路種別及び地域の一方又は双方に応じて変更する構成とすると好適である。
この構成によれば、同じ区画線種別の区画線であっても、当該区画線を構成する各線の線長や間隔等が、道路種別及び地域の一方又は双方により異なることに対応して、適切に区画線種別を判定することができる。したがって、画像情報に含まれる区画線の区画線種別をより高精度に判定することが可能となる。
また、前記区画線種別判定手段は、画像認識手段によって前記区画線の始端及び終端の一方又は双方が一定周期で複数回検出されたことを条件として、前記区画線種別を破線と判定する構成とすると好適である。
画像情報に含まれる区画線の始端又は終端が、破線の区画線を構成する各線の始端又は終端である場合には、当該区画線の始端及び終端の一方又は双方が一定周期で複数回検出されるはずである。この構成によれば、そのような事象を利用して、破線の区画線種別を判定することにより、誤判定を抑制することができる。
また、前記区画線種別判定手段は、前記区画線の始端からの前記検出距離が所定の実線判定しきい値以上であった場合に、前記区画線種別を実線と判定する構成とすると好適である。
この構成によれば、例えば、実線判定しきい値を、現実に存在する破線の区画線の中で、各線の線長が最も長いものの当該各線の線長より大きい値に設定することにより、区画線の始端から終端までの距離である検出距離が当該実線判定しきい値以上である場合に、区画線種別を実線と判定する構成とすることができる。これにより、一本の区画線が切れ目なく連続して設けられている実線の区画線を、破線の区画線又は区画線以外の道路標示と区別して、適切に判定することが可能となる。
また、前記区画線種別判定手段は、前記区画線種別毎に当該区画線種別であると判定する条件となる前記検出距離の範囲を規定した判定規則に従って、前記区画線種別を判定する構成とすると好適である。
この構成によれば、区画線の始端及び終端の一方から他方までの距離である検出距離の範囲について区画線種別毎に予め規定した判定規則に照らし合わせて、距離検出手段により検出した検出距離がいずれの区画線種別の範囲に含まれるかに応じて区画線種別を判定することができる。したがって、簡易な演算処理によって高精度に区画線種別を判定することができる。
また、前記判定規則は、破線の区画線種別については、前記検出距離の範囲の上限値及び下限値を規定している構成とすると好適である。
破線の区画線に関しては、区画線の始端及び終端の一方から他方までの距離である検出距離は、当該破線の区画線を構成する各線の線長又は間隔に相当することになる。したがって、この構成によれば、例えば、現実に存在する破線の区画線を構成する各線の線長又は間隔に応じて検出距離の範囲の下限値及び上限値を定めることにより、破線の区画線種別についての判定規則を現実に則して適切に設定することができる。これにより、破線の区画線を、実線の区画線又は区画線以外の道路標示と区別して、適切に判定することが可能となる。
また、前記判定規則は、破線の区画線を構成する各線の線長及び間隔の一方又は双方が異なる複数の破線の区画線種別のそれぞれについて、前記検出距離の範囲を規定している構成とすると好適である。
この構成によれば、区画線の始端及び終端の一方から他方までの距離である検出距離が、破線の区画線を構成する各線の線長又は間隔に対応することを利用して、各線の線長及び間隔の一方又は双方が異なる複数の破線の区画線種別のそれぞれを判定することができるように、判定規則を適切に設定することができる。
また、前記判定規則は、各区画線種別について複数の前記検出距離の範囲を規定している構成とすると好適である。
この構成によれば、各区画線種別についての前記検出距離の範囲を、例えば道路種別や地域等によって当該区画線を構成する各線の線長や間隔等が異なることに対応して、それぞれ規定することが可能となる。したがって、このような判定規則を用いることにより、画像情報に含まれる区画線の区画線種別をより高精度に判定することが可能となる。
また、前記判定規則は、実線の区画線種別については、前記区画線の始端からの前記検出距離の範囲の下限値を規定している構成とすると好適である。
この構成によれば、前記区画線の始端からの前記検出距離の範囲の下限値を、例えば、現実に存在する破線の区画線の中で、各線の線長が最も長いものの当該各線の線長より大きい値に設定することにより、一本の区画線が切れ目なく連続して設けられている実線の区画線を、破線の区画線又は区画線以外の道路標示と区別して適切に判定することが可能な判定規則とすることができる。
本発明に係るナビゲーション装置の特徴構成は、上記の各構成を備えた画像認識装置と、地図情報が記憶された地図データベースと、前記地図情報及び前記画像認識装置により判定された区画線種別の情報を参照して動作するアプリケーションプログラムと、前記アプリケーションプログラムに従って動作して案内情報を出力する案内情報出力手段と、を備える点にある。
この特徴構成によれば、自車両の周辺の道路面に設けられた区画線の区画線種別を高精度に判定した結果を用いて、各種の案内情報を出力することができる。したがって、例えば、自車両の周辺の区画線の種別に基づいて自車両が走行中のレーンである自車レーンを判定して各種の案内情報を出力する処理等をより適切に行うことが可能となる。
本発明に係る自車レーン判定装置の特徴構成は、上記の各構成を備えた画像認識装置と、前記画像認識装置により判定された区画線種別の情報に基づいて、自車両が走行中のレーンである自車レーンの判定を行う自車レーン判定手段と、を備える点にある。
この特徴構成によれば、自車両の周辺の道路面に設けられた区画線の区画線種別を高精度に判定した結果を用いて、例えば、自車両の両側に位置する区画線の種別の組み合せに基づいて、自車レーンの判定を適切に行うことが可能となる。
本発明に係る画像認識プログラムの特徴構成は、自車両の周辺の少なくとも道路面を所定の時間間隔で撮影した複数フレームの画像情報を取得する画像情報取得ステップと、前記画像情報の各フレーム内に設定した検出領域に含まれる区画線の始端及び終端を検出する画像認識処理を行う画像認識ステップと、前記区画線の始端及び終端の一方が検出された前記画像情報のフレームと前記区画線の始端及び終端の他方が検出された前記画像情報のフレームとの間のフレーム数、並びに自車両の車速とに基づいて、前記区画線の始端及び終端の一方から他方までの距離を検出距離として検出する距離検出ステップと、前記検出距離に基づいて前記区画線の区画線種別を判定する区画線種別判定ステップと、をコンピュータに実行させる点にある。
この特徴構成によれば、取得した画像情報に対しては、各フレーム内の限られた検出領域内に含まれる区画線の始端及び終端を検出する処理を行うだけであるため、簡易な画像認識処理を実行するだけで済み、画像情報に対する座標変換処理も行う必要がない。したがって、プログラムを実行する際の演算処理負荷を小さく抑えることが容易となる。また、この特徴構成によれば、区画線の始端及び終端の一方が検出されたフレームと他方が検出されたフレームとの間のフレーム数並びに自車両の車速に基づいて、区画線の始端及び終端の一方から他方までの距離を検出し、当該検出距離に基づいて区画線種別を判定するため、画像情報に含まれる区画線の区画線種別を高精度に判定することができる。
1.第一の実施形態
まず、本発明の第一の実施形態について図面に基づいて説明する。本実施形態では、本発明に係る画像認識装置2をナビゲーション装置1に適用した場合を例として説明する。図1は、本実施形態に係るナビゲーション装置1の概略構成を示すブロック図である。このナビゲーション装置1は、自車両Cの周辺の道路面Ro(図3参照)を撮影した複数フレームの画像情報Gを取得してそこに含まれる区画線の始端及び終端を検出することにより、区画線の始端及び終端の一方から他方までの距離を検出距離として検出し、当該検出距離に基づいて区画線種別を判定する画像認識装置2としての機能を備えている。また、このナビゲーション装置1は、画像認識装置2により判定された区画線種別に基づいて自車両Cが走行中のレーンである自車レーンの判定を行う自車レーン判定装置3としての機能も備えている。更に、このナビゲーション装置1は、一般的なナビゲーション機能として、自車両Cの現在位置及び進行方位を表す自車位置情報Pを取得するとともに、地図データベース26から地図情報Mを取得し、それらの情報に基づいて、地図上の自車位置表示、出発地から目的地までの経路探索、目的地までの経路案内等の案内処理を行う。
図1に示すナビゲーション装置1の各機能部、具体的には、画像情報取得部12、自車位置情報取得部16、ナビゲーション用演算部17、画像認識部31、距離検出部32、区画線種別判定部33、及び自車レーン判定部36は、互いに共通の或いはそれぞれ独立のCPU等の演算処理装置を中核部材として、入力されたデータに対して種々の処理を行うための機能部がハードウェア又はソフトウェア(プログラム)或いはその両方により実装されて構成されている。そして、これらの各機能部は、互いに情報の受け渡しを行うことができるように構成されている。また、地図データベース26は、例えば、ハードディスクドライブ、DVD−ROMを備えたDVDドライブ、CD−ROMを備えたCDドライブ等のように、情報を記憶可能な記録媒体とその駆動手段とを有する装置をハードウェア構成として備えている。以下、本実施形態に係るナビゲーション装置1の各部の構成について詳細に説明する。
1−1.地図データベース
地図データベース26は、所定の区画毎に分けられた地図情報Mが記憶された地図情報記憶手段として機能する。図2は、地図データベース26に記憶されている地図情報Mの構成の例を示す図である。この図に示すように、地図情報Mは、交差点に対応する多数のノードnと、各交差点間を結ぶ道路に対応するリンクkとの接続関係により道路ネットワークを表す道路情報Raを有している。各ノードnは、緯度及び経度で表現された地図上の位置(座標)の情報を有している。各リンクkは、ノードnを介して接続されている。また、各リンクkは、その属性情報として、道路種別、リンク長、道路幅、リンク形状を表現するための形状補間点等の情報を有している。ここで、道路種別情報は、例えば、高速道路、国道、県道、一般道、細街路、導入路等のように、道路を複数の種別に区分した際の道路種別の情報である。なお、図2においては、一つの区画の道路情報Raのみを図示し、他の区画の道路情報Raは省略して示している。
この道路情報Raは、後述するマップマッチングや、出発地から目的地までの経路探索、目的地までの経路案内等のために用いられる。また、図示は省略するが、地図情報Mには、このような道路情報Raの他に、地図の表示に必要な各種の情報を有する描画情報、交差点の詳細情報から成る交差点情報等が含まれている。また、この描画情報には、道路形状、建物、河川等を表示するために必要な背景情報、市町村名や道路名等を表示するために必要な文字情報などが含まれている。
1−2.画像情報取得部
画像情報取得部12は、撮像装置11により撮影した自車両の周辺の画像情報Gを取得する画像情報取得手段として機能する。ここで、撮像装置11は、撮像素子を備えた車載カメラであって、自車両Cの周辺の少なくとも道路面を撮影するように、自車両Cから外方に向けて設置されている。上記のとおり、本実施形態においては、図3に示すように、撮像装置11としてバックカメラを用いているため、この撮像装置11は自車両Cの後下方向の道路面Roを撮影する。また、撮像装置11は、所定の時間間隔で連続的に撮影を行う。画像情報取得部12は、撮像装置11により所定の時間間隔で連続的に撮影した複数フレームGf(図5〜図7参照)の画像情報Gをフレームメモリ(不図示)等を介して取り込む。この際に画像情報Gの各フレームGfを撮影する時間間隔は、例えば、10〜50ms程度とすることができる。一例として、ここでは、画像情報Gの各フレームGfを撮影する時間間隔を33.33ms程度とし、毎秒30フレームの画像情報Gを撮影することとする。図5〜図7は、この画像情報取得部12により取得される複数フレームGfの画像情報Gの具体例である。これらの図に示す各フレームGfは、時間の経過に従って、図中上から下に向かって、Gf1・・・Gf2・・・Gf3の順に撮影される。なお、これらの図では、フレームGf1とGf2との間、及びフレームGf2とGf3との間の一又は二以上のフレームGfを省略して示している。また、これらの図において各フレームGf1、Gf2、Gf3の右側に記載した符号は、各フレームGfの識別情報としてのフレーム番号である。この画像情報取得部12により取得された画像情報Gは、後述する画像認識部31へ出力される。
1−3.自車位置情報取得部
自車位置情報取得部16は、自車両Cの現在位置を示す自車位置情報Pを取得する自車位置情報取得手段として機能する。ここでは、自車位置情報取得部16は、GPS受信機13、方位センサ14、及び距離センサ15と接続されている。ここで、GPS受信機13は、GPS(Global Positioning System)衛星からのGPS信号を受信する装置である。このGPS信号は、通常1秒おきに受信され、自車位置情報取得部16へ出力される。自車位置情報取得部16では、GPS受信機13で受信されたGPS衛星からの信号を解析し、自車両Cの現在位置(緯度及び経度)、進行方位、移動速度等の情報を取得することができる。方位センサ14は、自車両Cの進行方位又はその進行方位の変化を検出するセンサである。この方位センサ14は、例えば、ジャイロセンサ、地磁気センサ、ハンドルの回転部に取り付けた光学的な回転センサや回転型の抵抗ボリューム、車輪部に取り付ける角度センサ等により構成される。そして、方位センサ14は、その検出結果を自車位置情報取得部16へ出力する。距離センサ15は、自車両Cの車速v(図4参照)や移動距離を検出するセンサである。この距離センサ15は、例えば、車両のドライブシャフトやホイール等が一定量回転する毎にパルス信号を出力する車速パルスセンサ、自車両Cの加速度を検知するヨー・Gセンサ及び検知された加速度を積分する回路等により構成される。そして、距離センサ15は、その検出結果としての車速v及び移動距離の情報を自車位置情報取得部16へ出力する。
自車位置情報取得部16は、これらのGPS受信機13、方位センサ14及び距離センサ15からの出力に基づいて、公知の方法により自車位置を特定する演算を行う。また、自車位置情報取得部16は、地図データベース26から自車位置周辺の地図情報Mを取得し、それに基づいて公知のマップマッチングを行うことにより自車両Cの現在位置を地図情報Mに示される道路上に合わせるとともに、自車両Cの進行方位を道路に沿った方向に合わせる補正を行う。このようにして、自車位置情報取得部16は、緯度及び経度で表された自車両Cの現在位置の情報、及び自車両Cの進行方位の情報を含む自車位置情報Pを取得する。更に、本実施形態においては、自車位置情報取得部16は、距離センサ15の出力に基づいて、自車両Cの現在の車速vを表す車速情報Sを取得する。
1−4.ナビゲーション用演算部
ナビゲーション用演算部17は、自車位置表示、出発地から目的地までの経路探索、目的地までの経路案内、目的地検索等のナビゲーション機能を実行するためにアプリケーションプログラム18に従って動作する演算処理手段である。ここで、アプリケーションプログラム18は、自車位置情報P、地図情報M、及び後述する区画線種別判定部33により判定された区画線種別の情報等を参照して、ナビゲーション用演算部17に各種のナビゲーション機能を実行させる。例えば、ナビゲーション用演算部17は、自車位置情報Pに基づいて地図データベース26から自車両C周辺の地図情報Mを取得して表示入力装置19の表示画面に地図の画像を表示するとともに、当該地図の画像上に自車両Cの現在位置及び進行方位を表す自車位置マークを重ね合わせて表示する処理を行う。また、ナビゲーション用演算部17は、地図データベース26に記憶された地図情報Mに基づいて、所定の出発地から目的地までの経路探索を行う。更に、ナビゲーション用演算部17は、探索された出発地から目的地までの経路と自車位置情報Pとに基づいて、表示入力装置19及び音声出力装置20の一方又は双方を用いて、運転者に対する経路案内を行う。この際、ナビゲーション用演算部17は、後述する自車レーン判定部36により判定された自車レーンに応じて、適切に進路変更等の案内情報の出力を行う。
また、これらのナビゲーション機能の他にも、ナビゲーション用演算部17は、例えば、自車両Cの走行経路をレーン内に維持するためのアシストを行うレーンキープシステムの動作中に、認識している区画線の位置に加えて区画線種別も表示入力装置19に表示する構成としても好適である。ここで、表示入力装置19は、液晶表示装置等の表示装置とタッチパネルや操作スイッチ等の入力装置が一体となったものである。音声出力装置20は、スピーカ等を有して構成されている。本実施形態においては、ナビゲーション用演算部17、表示入力装置19、及び音声出力装置20が、所定の案内情報を出力する案内情報出力手段21として機能する。
1−5.認識対象とする区画線について
上記のとおり、本実施形態に係る画像認識装置2(ナビゲーション装置1)は、自車両Cの周辺の道路面Roを撮影した複数フレームの画像情報Gに含まれる区画線Lの区画線種別を判定して区画線Lを認識する処理を行う。ここで画像認識装置2が認識対象とする、区画線Lには、道路のレーンの境界や道路の車両が通行する区域の最も外側の境界を表す白線や黄線等が含まれ、例えば、実線、各種間隔の破線、二重実線等の現実の道路に存在する各種の線が含まれる。図4は、このような区画線Lが設けられた道路の一例を示す図であり、具体的には、高速道路の分岐点付近の状況を示している。この図に示す例には、区画線Lとして、通常破線の区画線L1、太破線の区画線L2、実線の区画線L3が含まれている。ここで、通常破線の区画線L1は、レーンの境界等に設けられる通常の破線の区画線Lである。一方、太破線の区画線L2は、例えば高速道路の分岐点や合流点における本線と接続道路との境界等に設けられる破線の区画線Lであり、通常破線の区画線L1に比べて、当該破線を構成する各線の線長及び間隔が短く、各線の幅が広い。実線の区画線L3は、例えばレーンの境界や車両が通行する区域の最も外側の境界等に設けられる実線の区画線である。本願に係る発明によれば、これら3種類以外の区画線種別を判定することも可能であるが、本実施形態においては説明の簡略化のため、画像認識装置2が、これら3種類の区画線種別の判定を行う場合を例として説明する。なお、以下の説明において、単に区画線Lという場合には、これら複数の区画線種別の区画線L1〜L3を総称するものとする。
図5〜図7は、画像情報取得部12により取得した画像情報Gの具体例をそれぞれ示す図である。ここで、図5は、図4にC1として示す自車両Cが取得した画像情報Gの例であって、自車両Cの両側に通常破線の区画線L1が存在する場合の例である。図6は、図4にC2として示す自車両Cが取得した画像情報Gの例であって、自車両Cの左側(画像情報Gにおける右側)に太破線の区画線L2が存在し、右側(画像情報Gにおける左側)に通常破線の区画線L1が存在する場合の例である。図7は、図4にC3として示す自車両Cが取得した画像情報Gの例であって、自車両Cの左側(画像情報Gにおける右側)に実線の区画線L3が存在し、右側(画像情報Gにおける左側)に通常破線の区画線L1が存在する場合の例である。これらの図に示すように、画像情報取得部12は、自車両Cの後下方向の道路面Roを所定の時間間隔で連続的に撮影した複数のフレームGfの画像情報Gを取得する。なお、これらの図には、複数フレームの中の一部のフレームGfのみを示している。画像情報取得部12により取得されたこれらの画像情報Gは、以下に説明する画像認識部31へ出力され、画像認識処理の対象とされる。
1−6.画像認識部
画像認識部31は、画像情報取得部12で取得された画像情報Gに対する画像認識処理を行う画像認識手段として機能する。この画像認識部31は、画像情報Gの各フレームGf内に設定した検出領域A(図5〜図7参照)に含まれる区画線Lの始端Pb及び終端Peを検出する画像認識処理を行う。図4に示すように、区画線Lの始端Pb及び終端Peは、区画線Lを構成する各線の長さ方向のいずれかの端部であって、始端Pbは自車両Cの進行方向後方側の端部であり、終端Peは自車両Cの進行方向前方側の端部である。また、区画線Lを構成する各線とは、区画線Lを構成する一本の連続する線であって、破線の区画線L1、L2では、一線上に所定間隔で配列された複数本の線の一本一本であり、実線の区画線L3では連続する長い一本の線である。
図5〜図7に示すように、検出領域Aは、画像情報Gの複数フレームGf(Gf1〜Gf3)に共通の位置を含んで設定した、各フレームGf内の一部の領域である。本実施形態においては、検出領域Aは、自車両Cの車速v等に関わらず、全てのフレームGfに共通の位置及び大きさとなるように設定している。具体的には、検出領域Aは、各フレームGfの下部に設定され、水平方向には各フレームGfと同じ幅を有し、鉛直方向には各フレームGfの高さよりも小さい一定の高さを有する領域としている。ここで、検出領域Aが設定される位置は、フレームGfの下半分、より好ましくは下3分の1の領域内とすると好適である。このように、検出領域AをフレームGfの下部に配置すれば、自車両Cに近い位置を撮影した画像の情報を対象とすることができるため、区画線Lの始端Pb及び終端Peを検出する際の自車両Cから当該始端Pb又は終端Peまで距離の分解能を高めることが容易となる。
また、検出領域Aの鉛直方向の高さは、大きくし過ぎると、画像認識処理の演算負荷が大きくなるとともに、検出領域A内のいずれの位置に区画線Lの始端Pb又は終端Peが検出されるかによる自車両Cから当該始端Pb又は終端Peまで距離の差が大きくなる。そこで、検出領域Aの鉛直方向の高さは、適切な区画線Lの始端Pb及び終端Peの検出が可能な範囲で、できる限り小さく設定すると好適である。この際、一定時間あたりに撮影されるフレームGfの数、フレームGf内の鉛直方向の検出領域Aの位置、及び想定される自車両Cの最高車速等に応じて、自車両Cの車速v(図4参照)が高い状態であっても、隣接するフレームGfの検出領域A間に含まれない道路面Roの領域がないように設定するとよい。このようにすれば、区画線Lの始端Pb又は終端Peが存在するにも関わらず、それらが検出領域A内に含まれないために画像認識部31により検出できない事態が生じることを防止できる。
また、上記のとおり、検出領域Aの水平方向の幅は、フレームGfの水平方向の幅と同じとしている。このような構成とすれば、検出領域AをフレームGf内の水平方向の一部の領域とする場合と比較して、道路のレーンに対する自車両Cの位置に因らず、区画線Lの始端Pb及び終端Peを検出できる可能性を高めることができる。ところで、このような検出領域Aを設定した場合には、自車両Cがレーンの中央部を走行している場合に、自車両Cの両側に存在する区画線Lの両方を対象として画像認識処理を行うことが可能である。但し、以下の説明においては、説明の簡略化のため、自車両Cの左側(画像情報Gにおける右側)に存在する区画線Lのみを対象として画像認識処理を行う場合を例として説明する。なお、実際には、画像認識部31は、検出領域A内に含まれる全ての区画線L、すなわち自車両Cの両側に存在する区画線Lの双方を対象として画像認識処理を行う。
そして、画像認識部31は、画像情報Gの各フレームGfに設定された検出領域A内の画像の情報に対して、区画線Lの始端Pb及び終端Peを検出する画像認識処理を行う。具体的には、画像認識部31は、取得された各フレームGf内の検出領域Aに対して二値化処理やエッジ抽出処理等を行い、当該検出領域A内の道路標示(区画線Lを含む)等の輪郭情報を抽出する。次に、画像認識部31は、抽出された輪郭情報が、区画線Lの始端Pb又は終端Peに相当する特徴を有しているか否かの判定を行う。ここで、区画線Lの始端Pb又は終端Peに相当する特徴とは、例えば、区画線Lの幅に相当する横幅を有するコの字上の輪郭形状等が該当する。なお、画像認識部31は、検出領域A内の画像の特定領域の輝度変化を検出することにより、区画線Lの始端Pb及び終端Peを検出する等のように、他の認識方法による画像認識処理を行うことも当然に可能である。
そして、画像認識部31は、検出領域A内から抽出された輪郭情報が、区画線Lの始端Pbに相当する特徴を有している場合には、当該検出領域A内に区画線Lの始端Pbが含まれていると判定する。この場合、画像認識部31は、当該フレームGfの検出領域A内に区画線Lの始端Pbを検出したことを表す始端検出情報を距離検出部32へ出力する。ここで、始端検出情報は、始端Pbを検出したことを示す情報に加えて、当該区画線Lの始端Pbを検出したフレームGfの識別情報(本実施形態ではフレーム番号)を含む。また、画像認識部31は、検出領域A内から抽出された輪郭情報が、区画線Lの終端Peに相当する特徴を有している場合には、当該検出領域A内に区画線Lの終端Peが含まれていると判定する。この場合、画像認識部31は、当該フレームGfの検出領域A内に区画線Lの終端Peを検出したことを表す終端検出情報を距離検出部32へ出力する。ここで、終端検出情報は、終端Peを検出したことを示す情報に加えて、当該区画線Lの終端Peを検出したフレームGfの識別情報(本実施形態ではフレーム番号)を含む。なお、自車両Cの車速v(図4参照)に対して検出領域Aの高さが大きいために、複数のフレームGfの検出領域Aで同じ区画線Lの始端Pb又は終端Peを検出した場合には、画像認識部31は、当該始端Pb又は終端Peを最初に検出したフレームGfについてのみ、始端検出情報又は終端検出情報を出力する。
図5に示す例では、自車両Cの左側(画像情報Gにおける右側)に存在する区画線Lを対象として画像認識処理を行った場合、画像認識部31は、フレームGf1の検出領域A内に区画線L(図示の例では通常破線の区画線L1)の始端Pbを検出し、フレームGf3の検出領域A内に区画線Lの終端Peを検出する。したがって、画像認識部31は、フレームGf1のフレーム番号「100xx」を含む始端検出情報を出力し、その後、フレームGf3のフレーム番号「100zz」を含む終端検出情報を出力する。また、図6に示す例では、自車両Cの左側(画像情報Gにおける右側)に存在する区画線Lを対象として画像認識処理を行った場合、画像認識部31は、フレームGf1の検出領域A内に区画線L(図示の例では太破線の区画線L2)の始端Pbを検出し、フレームGf3の検出領域A内に区画線Lの終端Peを検出する。したがって、画像認識部31は、フレームGf1のフレーム番号「200xx」を含む始端検出情報を出力し、その後、フレームGf3のフレーム番号「200zz」を含む終端検出情報を出力する。また、図7に示す例では、自車両Cの左側(画像情報Gにおける右側)に存在する区画線Lを対象として画像認識処理を行った場合、画像認識部31は、フレームGf1の検出領域A内に区画線L(図示の例では実線の区画線L3)の始端Pbを検出するが、フレームGf3を過ぎても検出領域A内に区画線Lの終端Peを検出することはない。したがって、画像認識部31は、フレームGf1のフレーム番号「300xx」を含む始端検出情報を出力するが、その後、フレームGf3の画像認識処理が終わっても終端検出情報を出力することはない。
1−7.距離検出部
距離検出部32は、区画線Lの始端Pb及び終端Peの一方から他方までの距離を検出距離dとして検出する距離検出手段として機能する。この際、本実施形態においては、区画線Lの始端Pbが検出された画像情報GのフレームGfと区画線Lの終端Peが検出された画像情報GのフレームGfとの間のフレーム数N、並びに自車両Dの車速vに基づいて、検出距離dを検出する。すなわち、本実施形態においては、距離検出部32は、区画線Lを構成する各線の線長に相当する、区画線Lの始端Pbから終端Peまでの距離を検出距離dとして検出する。
具体的には、距離検出部32は、車速情報Sに示される自車両Cの車速vに基づいて画像情報Gの1フレームあたりの自車両Cが進む距離をフレーム単位距離Uとして導出し、当該フレーム単位距離Uに、前記フレーム数Nを乗算して得られる距離を検出距離dとして導出する。ここで、自車両Cの車速vは、自車位置情報取得部16により取得される車速情報Sから得られる。そして、下記の式(1)に示すように、フレーム単位距離Uは、車速情報Sに示される自車両Cの車速vを、撮像装置11による単位時間あたりの撮影フレーム数で除算することにより導出することができる。
(フレーム単位距離U)=(車速v)/(単位時間あたり撮影フレーム数)・・・(1)
したがって、例えば、自車両Cの車速vが54〔km/時〕で、撮影フレーム数が毎秒30フレームである場合には、フレーム単位距離Uは、0.5〔m〕となる。
また、区画線Lの始端Pbが検出されたフレームGfと終端Peが検出されたフレームGfとの間のフレーム数Nは、始端検出情報及び終端検出情報にそれぞれ含まれる各フレームGfの識別情報としてのフレーム番号に基づいて検出することができる。すなわち、各フレームGfのフレーム番号が連番である場合には、終端検出情報に含まれるフレーム番号から、始端検出情報に含まれるフレーム番号を引算することによりフレーム数Nを導出することができる。例えば、図5に示す例では、上記のとおり、画像認識部31は、フレームGf1のフレーム番号「100xx」を含む始端検出情報を出力し、その後、フレームGf3のフレーム番号「100zz」を含む終端検出情報を出力する。したがって、フレーム数Nは、フレーム番号「100zz」からフレーム番号「100xx」を引算することにより導出することができる。
そして、距離検出部32は、下記の式(2)に示すように、このフレーム数Nを上記のフレーム単位距離Uに乗算することにより、検出距離dを導出する。
(検出距離d)=(フレーム単位距離U)×(フレーム数N)・・・(2)
したがって、例えば、上記のとおり、フレーム単位距離Uが0.5〔m〕であり、フレーム数Nが16であった場合には、距離検出部32は、検出距離dを、8〔m〕と検出する。以上のようにして距離検出部32が検出した検出距離dは、図4に示すように、区画線Lの始端Pbから終端Peまでの距離にほぼ等しく、したがって、区画線Lを構成する各線の線長にほぼ等しい。なお、区画線Lが実線の区画線L3であったために、所定フレーム数を過ぎても終端検出情報が画像認識部31から出力されない場合には、その時点で仮想的に終端Peを検出したものとして検出距離dを導出し、後述する区画線種別判定部33において区画線種別を「実線」と判定する構成とすると好適である。ここで、所定フレーム数は、区画線種別を「実線」と判定することができるために十分に多い数に設定する。このようにすれば、実線の区画線L3の画像情報Gを取得した際に、その区画線種別の判定をより迅速に行うことができる。
1−8.判定規則テーブル
後述するように、本実施形態においては、区画線種別判定部33は、所定の判定規則Rに従って区画線種別の判定を行う。そこで、次に、判定規則テーブル34に規定された判定規則Rについて説明する。判定規則Rは、区画線種別毎に当該区画線種別であると判定する条件となる検出距離dの範囲(以下「検出距離範囲」という。)を規定した規則である。図8は、本実施形態に係る判定規則テーブル34の具体例を示す図である。この図に示すように、判定規則Rは、破線の区画線種別(本実施形態では「通常破線」及び「太破線」)については、検出距離範囲の上限値及び下限値を規定している。一方、判定規則Rは、実線の区画線L3の区画線種別である「実線」については、検出距離範囲の下限値を規定している。また、判定規則Rは、破線の区画線Lを構成する各線の線長及び間隔の一方又は双方が異なる複数の破線の区画線種別のそれぞれについて、検出距離範囲を規定している。すなわち、本実施形態においては、判定規則Rは、破線の区画線L(L1、L2)の区画線種別である「通常破線」及び「太破線」のそれぞれの区画線種別について、検出距離範囲を規定している。また、判定規則Rは、各区画線種別について複数の検出距離範囲を規定している。すなわち、本実施形態においては、3つの区画線種別のそれぞれについて、複数のパターンの検出距離範囲、具体的には、パターン(A)、パターン(B)、及びパターン(C)の3つの検出距離範囲を規定している。
以下、判定規則テーブル34に規定された判定規則Rについて更に具体的に説明する。図8に示すように、判定規則テーブル34には、「太破線」、「通常破線」、及び「実線」の3つの区画線種別のそれぞれについて、判定規則Rとしての検出距離範囲が規定されている。具体的には、例えば、パターン(A)について見れば、判定規則Rは、「太破線」の区画線種別について検出距離範囲(上限値及び下限値)を「a1〜a2」、「通常破線」の区画線種別について検出距離範囲(上限値及び下限値)を「a3〜a4」、「実線」の区画線種別について検出距離範囲(下限値)を「a5以上」と規定している。ここで、各区画線種別についての検出距離範囲は、後述する区画線種別判定部33が、距離検出部32により検出された検出距離dがいずれの範囲に属するかに応じて、区画線種別の判定を行うために用いる。したがって、これらの各区画線種別についての検出距離範囲は、互いに重複しない範囲に設定する。すなわち、検出距離範囲を規定する各値は、a1<a2<a3<a<a5の関係となっている。そして、これらの各区画線種別についての検出距離範囲は、例えばパターン(A)が想定する道路種別や地域等における、各区画線種別の区画線L(L1〜L3)を構成する各線の線長に応じて、当該線長が含まれるとともに、他の区画線種別の区画線Lの線長が含まれない範囲に設定する。なお、「実線」の区画線種別について検出距離範囲の下限値である「a5」は、当該パターン(A)が想定する道路種別や地域等における通常破線の区画線L1の線長よりも十分に大きい値に設定される。本実施形態においては、この「実線」の区画線種別について検出距離範囲の下限値である「a5」が、後述する区画線種別判定部33が区画線種別を「実線」と判定する条件となる、検出距離dについての所定の実線判定しきい値に相当する。以上の点は、パターン(B)及びパターン(C)についても同様である。
各区画線種別についてのパターン(A)、パターン(B)、及びパターン(C)の3つの検出距離範囲は、通常破線の区画線L1及び太破線の区画線L2を構成する各線の線長及び間隔の一方又は双方(本実施形態では線長)が、道路種別や地域等によって異なることに応じて規定されたものである。例えば、通常破線の区画線L1の線長及び間隔は、一般的に、高速道路の方が国道等の一般道よりも長い。また、道路種別が同じであっても、道路を管理する行政区画等の地域によって通常破線の区画線L1や太破線の区画線L2の線長及び間隔が異なる場合がある。そこで、本実施形態においては、このような道路種別及び地域の一方又は双方によって異なる各線の線長に応じて適切な検出距離範囲を用いることにより、区画線種別の判定精度を高めるために、各区画線種別についてパターン(A)〜(C)の3つの検出距離範囲を規定している。
具体的には、例えば、「太破線」の区画線種別について見れば、検出距離範囲(上限値及び下限値)を、パターン(A)では「a1〜a2」、パターン(B)では「b1〜b2」、パターン(C)では「c1〜c2」と規定している。ここで、各パターン(A)〜(C)の検出距離範囲は、後述する区画線種別判定部33が、自車両Cが走行中の道路の道路種別及び地域の一方又は双方に応じて、これらのパターン(A)〜(C)の3つの中から一つのパターンを選択して使用し、区画線種別の判定を行うために用いる。したがって、これらの各パターン(A)〜(C)の検出距離範囲は、同時に使用されることはないため、互いに重複する範囲に設定してもよいし、重複しない範囲に設定してもよい。すなわち、これらのパターン(A)〜(C)の検出距離範囲は、各パターン(A)〜(C)が想定する道路種別や地域等における、例えば太破線の区画線L2を構成する各線の線長に応じて、当該線長が含まれる範囲に設定する。以上の点は、通常破線の区画線L1及び実線の区画線L3についても同様である。なお、「実線」の区画線種別について検出距離範囲の下限値である「a5」、「b5」、「c5」は、各パターン(A)〜(C)が想定する道路種別や地域等における通常破線の区画線L1の線長よりも十分に大きい値に設定される。
1−9.区画線種別判定部
区画線種別判定部33は、距離検出部32により検出された検出距離dに基づいて区画線Lの区画線種別を判定する区画線種別判定手段として機能する。この際、区画線種別判定部33は、検出距離dが判定規則Rに規定された所定の下限値と上限値との間の範囲内であった場合に、区画線種別を破線(本実施形態では「通常破線」及び「太破線」)と判定する。一方、区画線種別判定部33は、検出距離dが所定の実線判定しきい値(本実施形態においては図8の「a5」、「b5」、「c5」)以上であった場合に、区画線種別を「実線」と判定する。また、区画線種別判定部33は、破線の区画線Lを構成する各線の線長及び間隔の一方又は双方が異なる複数の破線の区画線種別の中から、検出距離dに応じて一つの区画線種別を判定する。すなわち、本実施形態においては、区画線種別判定部33は、破線の区画線L(L1、L2)の区画線種別である「通常破線」及び「太破線」の中から、検出距離dに応じて一つの破線の区画線種別を判定する。更に、区画線種別判定部33は、各区画線種別について、当該区画線種別であると判定する検出距離範囲を、自車両Cが走行中の道路の道路種別及び地域の一方又は双方に応じて変更する。そのため、本実施形態においては、区画線種別判定部33は、上記の判定規則テーブル34に規定された判定規則Rに従って区画線種別の判定を行う。
具体的には、区画線種別判定部33は、まず、自車位置情報取得部16により取得された自車位置情報P及び地図データベース26に記憶された地図情報Mに基づいて、自車両Cが走行中の道路の道路種別及び当該道路が存在する地域を特定する。そして、区画線種別判定部33は、パターン適用テーブル35に従って、自車両Cが走行中の道路の道路種別及び地域に適用する判定規則Rを、複数のパターン(本実施形態ではパターン(A)〜(C)の3つ)の中から選択する。ここでは、パターン適用テーブル35は、複数の道路種別と複数の地域との組み合せのそれぞれについて適用する判定規則Rを規定したテーブルとなっている。図9は、本実施形態に係るパターン適用テーブル35の具体例を示す図である。この図に示すように、ここでは、パターン適用テーブル35は、道路種別を「高速道路」と「一般道」とに区分し、地域を都道府県毎に区分し、これらの道路種別及び地域の組み合せのそれぞれに適用する判定規則Rのパターン((A)〜(C))を規定している。したがって、例えば、区画線種別判定部33は、自車両Cが走行中の道路の道路種別が「高速道路」であり、当該道路が存在する地域が「北海道」であった場合には、パターン(A)の判定規則Rを選択して適用する。これにより、区画線種別判定部33は、各区画線種別について、当該区画線種別であると判定する検出距離範囲を、自車両Cが走行中の道路の道路種別及び地域の双方に応じて変更することができる。
そして、区画線種別判定部33は、上記のようにして選択されたいずれかのパターン((A)〜(C))の判定規則Rに従って、距離検出部32により検出された検出距離dが、当該判定規則Rに規定された区画線種別毎の検出距離範囲のいずれに属するかに応じて区画線種別を判定する。すなわち、距離検出部32により検出された検出距離dが、判定規則Rに規定された区画線種別毎の検出距離範囲のいずれかに属する場合には、その区画線Lが当該属する範囲についての区画線種別であると判定し、いずれにも属しない場合には、画像認識部31により認識された道路標示等の地物は区画線Lではないと判定する。具体的には、例えばパターン(A)の判定規則Rが選択されている場合には、区画線種別判定部33は、距離検出部32により検出された検出距離dが、区画線種別「太破線」の検出距離範囲「a1〜a2」内に含まれている場合には、区画線種別を「太破線」と判定し、区画線種別「通常破線」の検出距離範囲「a3〜a4」内に含まれている場合には、区画線種別を「通常破線」と判定し、区画線種別「実線」の検出距離範囲「a5以上」に含まれている場合には、区画線種別を「実線」と判定する。そして、区画線種別判定部33は、距離検出部32により検出された検出距離dが、上記いずれの範囲にも含まれていない場合には、画像認識部31により始端Pb及び終端Peが検出された道路標示等の地物は区画線Lではないものと判定する。
以上により、区画線種別判定部33は、距離検出部32により検出された区画線Lの始端Pbから終端Peまでの距離である検出距離dに基づいて、画像認識部31により始端Pb及び終端Peが検出された区画線Lの区画線種別を適切に判定することができる。この区画線種別判定部33により判定された区画線種別の情報は、後述する自車レーン判定部36やナビゲーション用演算部17等へ出力され、自車レーンの判定や各種の案内情報の出力等に用いられる。
1−10.自車レーン判定部
自車レーン判定部36は、区画線種別判定部33により判定された区画線種別の情報に基づいて、自車両Cが走行中のレーンである自車レーンの判定を行う自車レーン判定手段として機能する。上記のとおり、これまでは説明の簡略化のために、自車両Cの片側にある区画線Lのみを対象として区画線種別の判定を行うこととして説明してきた。しかし、実際には、画像認識部31は、自車両Cの両側に存在する区画線Lの双方を対象として画像認識処理を行い、よって、距離検出部32は自車両Cの両側の区画線Lのそれぞれについて検出距離dを検出し、区画線種別判定部33は自車両Cの両側の区画線Lのそれぞれの区画線種別を判定する。自車レーン判定部36は、このように判定された自車両Cの両側の区画線Lの区画線種別の情報に基づいて、自車レーンの判定を行う。
具体的には、自車レーン判定部36は、区画線種別判定部33により判定された自車両Cの両側に存在する2つの区画線Lの区画線種別の組み合せに基づいて、自車レーンの判定を行う。すなわち、例えば、自車位置情報P及び地図情報Mに基づいて、自車両Cが走行中の道路の車線数が3車線であると分かっている場合において、区画線種別判定部33により自車両Cの左側に実線の区画線L3、右側に通常破線の区画線L1があると判定された場合には、図4にC3として示すように、自車両Cは3車線中の最も左側のレーンを走行していると判定することができる。したがって、この場合、自車レーン判定部36は、自車レーンを3車線中の最も左側のレーンであると判定する。同様に、区画線種別判定部33により自車両Cの両側に通常破線の区画線L1があると判定された場合には、自車レーン判定部36は、自車レーンを3車線中の中央のレーンであると判定する(図4のC1参照)。また、区画線種別判定部33により左側に通常破線の区画線L1、右側に実線の区画線L3があると判定された場合には、自車レーン判定部36は、自車レーンを3車線中の最も右側のレーンであると判定する。なお、区画線種別判定部33により左側に太破線の区画線L2、右側に通常破線の区画線L1があると判定された場合にも、自車レーン判定部36は、自車レーンを3車線中の最も左側のレーンであると判定する(図4のC2参照)。この自車レーン判定部36により判定された自車レーンの情報は、ナビゲーション用演算部17へ出力され、各種の案内情報の出力等に用いられる。
1−11.画像認識処理方法
次に、本実施形態に係る画像認識装置2を含むナビゲーション装置1において実行される、区画線を認識する画像認識処理の手順(画像認識プログラム)について説明する。図10は、本実施形態に係る画像認識処理の全体の手順を示すフローチャートである。また、図11は、図10のステップ#11に係る区画線種別判定処理の詳しい手順を示すフローチャートである。以下に説明する処理の手順は、上記の各機能部を構成するハードウェア又はソフトウェア(プログラム)或いはその両方により実行される。上記の各機能部がプログラムにより構成される場合には、ナビゲーション装置1が有する演算処理装置が、上記の各機能部を構成する画像認識プログラムを実行するコンピュータとして動作する。以下、フローチャートに従って説明する。
図10に示すように、区画線を認識する画像認識処理においては、ナビゲーション装置1は、まず、画像情報取得部12により、撮像装置11により撮影した1フレームの画像情報Gを取得する(ステップ#01)。上記のとおり、この画像情報Gには、自車両Cの周辺の少なくとも道路面Ro(図4等参照)の画像が含まれる。そして、画像認識部31により、画像情報Gの各フレームGf内に設定した検出領域A(図5〜図7参照)に含まれる区画線Lの始端Pbを検出する画像認識処理を行う(ステップ#02)。画像認識処理の結果、当該フレームGf内の検出領域Aに区画線Lの始端Pbを検出しなかった場合には(ステップ#03:No)、ステップ#01へ戻り、次の1フレームの画像情報Gを取得し、再度、区画線Lの始端Pbを検出する画像認識処理を行う(ステップ#02)。一方、画像認識処理の結果、当該フレームGf内の検出領域Aに区画線Lの始端Pbを検出した場合には(ステップ#03:Yes)、画像認識部31は、始端検出情報を距離検出部32へ出力する(ステップ#04)。
その後、画像情報取得部12により、次の1フレームの画像情報Gを取得する(ステップ#05)。そして、画像認識部31により、画像情報Gの各フレームGf内に設定した検出領域A(図5〜図7参照)に含まれる区画線Lの終端Peを検出する画像認識処理を行う(ステップ#06)。画像認識処理の結果、当該フレームGf内の検出領域Aに区画線Lの終端Peを検出しなかった場合には(ステップ#07:No)、ステップ#05へ戻り、次の1フレームの画像情報Gを取得し、再度、区画線Lの終端Peを検出する画像認識処理を行う(ステップ#06)。一方、画像認識処理の結果、当該フレームGf内の検出領域Aに区画線Lの終端Peを検出した場合には(ステップ#07:Yes)、画像認識部31は、終端検出情報を距離検出部32へ出力する(ステップ#08)。
その後、ナビゲーション装置1は、自車位置情報取得部16により、自車両Cの現在の車速vを表す車速情報Sを取得する(ステップ#09)。そして、距離検出部32により、区画線Lの始端Pbから終端Peまでの距離を検出距離dとして検出する(ステップ#10)。この際、距離検出部32は、上記のとおり、区画線Lの始端Pbが検出された画像情報GのフレームGfと区画線Lの終端Peが検出された画像情報GのフレームGfとの間のフレーム数N、並びに自車両Dの車速vに基づいて、検出距離dを検出する。すなわち、本実施形態においては、距離検出部32は、車速情報Sに示される自車両Cの車速vに基づいて画像情報Gの1フレームあたりの自車両Cが進む距離をフレーム単位距離Uとして導出し、当該フレーム単位距離Uに、前記フレーム数Nを乗算して得られる距離を検出距離dとして導出する。その後、区画線種別判定部33により、距離検出部32により検出された検出距離dに基づいて区画線Lの区画線種別を判定する区画線種別判定処理を行う。この区画線種別判定処理の内容については、以下に図11のフローチャートに基づいて詳細に説明する。以上で処理は終了する。
次に、区画線種別判定部33による、区画線種別判定処理の内容について説明する。図11に示すように、区画線種別判定処理においては、まず、自車位置情報取得部16により、自車位置情報Pを取得する(ステップ#21)。次に、ステップ#21で取得した自車位置情報P、及び地図データベース26に記憶された地図情報Mに基づいて、自車両Cが走行中の道路の道路種別及び当該道路が存在する地域を特定する(ステップ#22)。そして、ステップ#22で特定された道路種別及び地域に応じて、判定規則Rのパターンを選択する(ステップ#23)。本実施形態においては、区画線種別判定部33は、パターン適用テーブル35に従って、パターン(A)〜(C)の3つの中から一つのパターンの判定規則Rを選択する。
その後、ステップ#10で検出した検出距離dが、ステップ#23で選択された判定規則Rに規定された区画線種別「太破線」の検出距離範囲内に含まれるか否かについて判定する(ステップ#24)。そして、検出距離dが、判定規則Rに規定された区画線種別「太破線」の検出距離範囲内に含まれる場合には(ステップ#24:Yes)、区画線種別判定部33は、画像認識部31により始端Pb及び終端Peが検出された区画線Lの区画線種別を「太破線」と判定する(ステップ#25)。一方、検出距離dが、判定規則Rに規定された区画線種別「太破線」の検出距離範囲内に含まれない場合には(ステップ#24:No)、次に、ステップ#10で検出した検出距離dが、ステップ#23で選択された判定規則Rに規定された区画線種別「通常破線」の検出距離範囲内に含まれるか否かについて判定する(ステップ#26)。そして、検出距離dが、判定規則Rに規定された区画線種別「通常破線」の検出距離範囲内に含まれる場合には(ステップ#26:Yes)、区画線種別判定部33は、画像認識部31により始端Pb及び終端Peが検出された区画線Lの区画線種別を「通常破線」と判定する(ステップ#27)。
一方、検出距離dが、判定規則Rに規定された区画線種別「通常破線」の検出距離範囲内に含まれない場合には(ステップ#26:No)、次に、ステップ#10で検出した検出距離dが、ステップ#23で選択された判定規則Rに規定された区画線種別「実線」の検出距離範囲内に含まれるか否かについて判定する(ステップ#28)。そして、検出距離dが、判定規則Rに規定された区画線種別「実線」の検出距離範囲内に含まれる場合には(ステップ#28:Yes)、区画線種別判定部33は、画像認識部31により始端Pb及び終端Pe(場合により仮想的な終端Pe)が検出された区画線Lの区画線種別を「実線」と判定する(ステップ#29)。一方、検出距離dが、判定規則Rに規定された区画線種別「実線」の検出距離範囲内に含まれない場合には(ステップ#28:No)、区画線種別判定部33は、画像認識部31により始端Pb及び終端Peが検出された道路標示等の地物が区画線Lではないと判定する(ステップ#30)。以上で、区画線種別判定処理を終了する。
2.第二の実施形態
次に、本発明の第二の実施形態に係る画像認識装置2について説明する。上記第一の実施形態では、距離検出部32が、区画線Lを構成する各線の線長に相当する、区画線Lの始端Pbから終端Peまでの距離を検出距離dとして検出する場合について説明した。これに対して、本実施形態においては、距離検出部32は、区画線Lを構成する各線の間隔に相当する、区画線Lの終端Peから始端Pbまでの距離を検出距離dとして検出する。そして、このような距離検出部32の構成に応じて、判定規則テーブル34に規定された判定規則R、及び区画線種別判定部33の構成も、上記第一の実施形態とは異なった部分を有している。本実施形態に係る画像認識装置2は、このように区画線Lを構成する各線の間隔に相当する距離を検出距離dとして検出し、それに基づいて区画線種別を判定する構成である。したがって、この画像認識装置2は、区画線Lを構成する各線が所定の間隔を有して配置される破線の区画線Lについての区画線種別を認識する装置として適している。具体的には、本実施形態においては、上記第一の実施形態と同様の通常破線の区画線L1と太破線の区画線L2の2つの破線の区画線Lについて区画線種別を認識する場合を例として説明する。その他の構成は、基本的に上記第一の実施形態と同様であり、本実施形態においても、画像認識装置2をナビゲーション装置1に適用している。以下では、本実施形態に係る画像認識装置2について、上記第一の実施形態との相違点を中心として説明する。
上記のとおり、本実施形態においては、距離検出部32は、区画線Lの終端Peから始端Pbまでの距離を検出距離dとして検出する。すなわち、距離検出部32は、区画線Lの終端Peが検出された画像情報GのフレームGfと区画線Lの始端Pbが検出された画像情報GのフレームGfとの間のフレーム数N、並びに自車両Dの車速vに基づいて、検出距離dを検出する。具体的には、距離検出部32は、車速情報Sに示される自車両Cの車速vに基づいて画像情報Gの1フレームあたりの自車両Cが進む距離をフレーム単位距離Uとして導出し、当該フレーム単位距離Uに、前記フレーム数Nを乗算して得られる距離を検出距離dとして導出する。フレーム単位距離U及びフレーム数Nの導出方法は、上記第一の実施形態と同様である。このようにして距離検出部32が検出した検出距離dは、図4に示すように、区画線Lの終端Peから始端Pbまでの距離にほぼ等しく、したがって、区画線Lを構成する各線の間隔にほぼ等しい。
上記のような距離検出部32の構成に合わせて、判定規則テーブル34に規定された判定規則Rは、区画線種別(本実施形態においては「通常破線」及び「太破線」)毎に当該区画線種別であると判定する条件となる検出距離範囲の値を、各区画線種別の区画線Lを構成する各線の間隔に応じて規定している。すなわち、これらの各区画線種別についての検出距離範囲は、例えばパターン(A)が想定する道路種別や地域等における、通常破線の区画線L1及び太破線の区画線L2のそれぞれを構成する各線の間隔に応じて、当該間隔が含まれるとともに、他方の区画線種別の区画線Lの間隔が含まれない範囲に設定する。なお、判定規則Rが、各区画線種別について複数の検出距離範囲を規定している点、具体的には、「通常破線」及び「太破線」の2つの区画線種別のそれぞれについて、複数のパターン(パターン(A)〜(C)の3つ)の検出距離範囲を規定している点については、上記第一の実施形態と同様である。
そして、区画線種別判定部33は、距離検出部32により検出された、区画線Lを構成する各線の間隔に相当する検出距離dと、上記の判定規則Rとに基づいて、区画線Lの区画線種別を判定する。この際、区画線種別判定部33は、破線の区画線L(L1、L2)の区画線種別である「通常破線」及び「太破線」の中から、検出距離dに応じて一つの破線の区画線種別を判定する。すなわち、区画線種別判定部33は、距離検出部32により検出された検出距離dが、区画線種別「太破線」の検出距離範囲内に含まれている場合には、区画線種別を「太破線」と判定し、区画線種別「通常破線」の検出距離範囲内に含まれている場合には、区画線種別を「通常破線」と判定する。なお、区画線種別判定部33が、各区画線種別について、当該区画線種別であると判定する検出距離範囲を、自車両Cが走行中の道路の道路種別及び地域の一方又は双方に応じて変更する点については、上記第一の実施形態と同様である。
以上により、区画線種別判定部33は、距離検出部32により検出された区画線Lの終端Peから始端Pbまでの距離である検出距離dに基づいて、画像認識部31により始端Pb及び終端Peが検出された区画線Lの区画線種別を適切に判定することができる。この区画線種別判定部33により判定された区画線種別の情報は、上記第一の実施形態と同様に、後述する自車レーン判定部36やナビゲーション用演算部17等へ出力され、自車レーンの判定や各種の案内情報の出力等に用いられる。
3.その他の実施形態
(1)上記第一の実施形態では、距離検出部32が、区画線Lを構成する各線の線長に相当する、区画線Lの始端Pbから終端Peまでの距離を検出距離dとして検出する場合について説明した。また、上記第二の実施形態では、距離検出部32が、区画線Lを構成する各線の間隔に相当する、区画線Lの終端Peから始端Pbまでの距離を検出距離dとして検出する場合について説明した。しかし、本発明の実施形態はこれに限定されない。すなわち、距離検出部32が、区画線Lを構成する各線の線長に相当する、区画線Lの始端Pbから終端Peまでの距離を第一検出距離として検出するとともに、区画線Lを構成する各線の間隔に相当する、区画線Lの終端Peから始端Pbまでの距離を第二検出距離として検出し、これらの双方を用いて区画線種別判定部33が区画線種別を判定する構成とすることも、本発明の好適な実施形態の一つである。この場合、判定規則Rは、第一検出距離及び第二検出距離の双方について、各区画線種別と判定するための条件となる検出距離範囲を規定する構成とすると好適である。また、このような第一検出距離及び第二検出距離の組み合せによる区画線種別の判定を破線の区画線Lについて行い、第一検出距離のみによる区画線種別の判定を実線の区画線Lについて行う構成とすることも、本発明の好適な実施形態の一つである。
(2)上記の各実施形態では、区画線種別判定部33が、区画線Lの始端Pb及び終端Peの一方から他方までの距離を検出距離dとして一回検出した結果に基づいて、区画線種別の判定を行う場合を例として説明した。しかし、一般的に、破線の区画線Lにおいては、始端Pb及び終端Peの一方又は双方が一定周期で複数回繰り返し検出されるはずである。そこで、区画線種別判定部33が、画像認識部31によって区画線Lの始端Pb及び終端Peの一方又は双方が一定周期で複数回検出されたことを条件として、区画線種別を破線(上記の実施形態では「通常破線」又は「太破線」)と判定する構成とすることも、本発明の好適な実施形態の一つである。
(3)上記の各実施形態では、画像情報Gの各フレームGfに設定された検出領域Aの高さを一定とする場合を例として説明した。しかし、本発明の実施形態はこれに限定されない。したがって、例えば、自車両Cの車速に応じて検出領域Aの鉛直方向の高さを可変設定することも、本発明の好適な実施形態の一つである。このような構成とすれば、隣接するフレームGfの検出領域A間に含まれない道路面Roの領域をなくしつつ、検出領域Aの鉛直方向の高さを自車両Cの車速に応じてできる限り小さく設定することが可能となる。したがって、画像認識処理の演算負荷を小さくするとともに、検出領域A内のいずれの位置に区画線Lの始端Pb又は終端Peが検出されるかによる自車両Cから当該始端Pb又は終端Peまで距離の差を小さくすることができる。
(4)上記の各実施形態では、画像情報Gの各フレームGfに設定された検出領域Aの水平方向の幅を、フレームGfの水平方向の幅と同じとする場合を例として説明した。しかし、本発明の実施形態はこれに限定されない。すなわち、検出領域Aを、フレームGf内の水平方向の一部の領域に設定することも本発明の好適な実施形態の一つである。この場合、検出領域Aは、自車両Cがレーンの中央部を走行している場合に、自車両Cの両側の区画線Lが存在することになる領域を含むように設定すると好適である。この構成によれば、検出領域Aの水平方向の幅を、フレームGfの水平方向の幅と同じとする場合と比較して、画像認識処理の演算負荷を更に小さくすることが可能となる。
(5)上記の各実施形態では、距離検出部32が、区画線Lの始端Pbが検出されたフレームGfと終端Peが検出されたフレームGfとの間のフレーム数Nを、始端検出情報及び終端検出情報にそれぞれ含まれる各フレームGfの識別情報としてのフレーム番号に基づいて検出する場合を例として説明した。しかし、このフレーム数Nの検出方法はこれに限定されない。すなわち、例えば、距離検出部32が、画像認識部31により区画線Lの始端Pbを検出した時から画像情報取得部12により取得される画像情報Gのフレーム数の計数を開始し、画像認識部31により区画線Lの終端Peを検出した時に当該フレーム数の計数を終了することにより計数されたフレーム数を、区画線Lの始端Pbが検出されたフレームGfと終端Peが検出されたフレームGfとの間のフレーム数Nとする構成としても好適である。
(6)上記の各実施形態では、区画線種別判定部33が、各区画線種別について、判定規則Rに規定された、当該区画線種別であると判定する検出距離範囲を、自車両Cが走行中の道路の道路種別及び地域の双方に応じて変更する場合を例として説明した。しかし、本発明の適用範囲はこれに限定されない。したがって、区画線種別判定部33が、各区画線種別について、当該区画線種別であると判定する検出距離範囲を、自車両Cが走行中の道路の道路種別及び地域のいずれか一方に応じて変更する構成とすることも、本発明の好適な実施形態の一つである。この場合、パターン適用テーブル35を、複数の道路種別のそれぞれに適用する判定規則Rのパターン((A)〜(C))を規定するものとし、或いは、複数の地域のそれぞれに適用する判定規則Rのパターン((A)〜(C))を規定すると好適である。また、このような道路種別や地域によって判定規則Rに規定された検出距離範囲を変更しない構成とすることも、当然に可能である。なお、このような判定規則Rのパターンを複数用いる場合における、判定規則Rのパターンの数は、2つとしても良いし、4つ以上としてもよい。
(7)上記の各実施形態では、本発明に係る画像認識装置2を自車レーン判定装置としても機能するナビゲーション装置1に適用した場合の例について説明した。しかし、本発明の実施形態はこれに限定されるものではなく、車両の周辺の少なくとも道路面を撮影した画像情報を取得し、それに対する画像認識処理を行うことによって画像情報に含まれる区画線の種別を判定した結果の情報を利用する各種の装置に、本発明を適用することができる。したがって、レーンキープアシストをはじめとする車両の走行制御装置等に、本発明に係る画像認識装置2を適用することも、本発明の好適な実施形態の一つである。
本発明は、自車両の周辺の少なくとも道路面を撮影した画像情報を取得し、それに対する画像認識処理を行うことによって画像情報に含まれる区画線の種別を判定する画像認識装置及び画像認識プログラム等に利用することができ、更には、例えば、ナビゲーション装置、自車レーン判定装置、レーンキープアシストをはじめとする車両の走行制御装置等の各種の装置やその動作プログラムとして好適に利用することができる。
本発明の実施形態に係るナビゲーション装置1の概略構成を示すブロック図 実施形態に係る地図情報の構成の例を示す図 実施形態に係る自車両への撮像装置の配置構成の一例を示す図 実施形態に係る認識対象とする区画線が設けられた道路の一例を示す図 実施形態に係る画像情報取得部により取得した画像情報の具体例を示す図 実施形態に係る画像情報取得部により取得した画像情報の具体例を示す図 実施形態に係る画像情報取得部により取得した画像情報の具体例を示す図 実施形態に係る判定規則テーブルに規定された判定規則の具体例を示す図 実施形態に係るパターン適用テーブルの具体例を示す図 実施形態に係る画像認識処理の全体の手順を示すフローチャート 実施形態に係る区画線種別判定処理の詳しい手順を示すフローチャート
符号の説明
1:ナビゲーション装置
2:画像認識装置
3:自車レーン判定装置
11:撮像装置
12:画像情報取得部(画像情報取得手段)
18:アプリケーションプログラム
21:案内情報出力手段
26:地図データベース
31:画像認識部(画像認識手段)
32:距離検出部(距離検出手段)
33:区画線種別判定部(区画線種別判定手段)
C:自車両
Ro:道路面
M:地図情報
G:画像情報
v:車速
R:判定規則
A:検出領域
d:検出距離
L:区画線
Pb:始端
Pe:終端

Claims (16)

  1. 自車両の周辺の少なくとも道路面を所定の時間間隔で撮影した複数フレームの画像情報を取得する画像情報取得手段と、
    前記画像情報の各フレーム内に設定した検出領域に含まれる区画線の始端及び終端を検出する画像認識処理を行う画像認識手段と、
    前記区画線の始端及び終端の一方が検出された前記画像情報のフレームと前記区画線の始端及び終端の他方が検出された前記画像情報のフレームとの間のフレーム数、並びに自車両の車速に基づいて、前記区画線の始端及び終端の一方から他方までの距離を検出距離として検出する距離検出手段と、
    前記検出距離に基づいて前記区画線の区画線種別を判定する区画線種別判定手段と、
    を備えた画像認識装置。
  2. 前記距離検出手段は、自車両の車速に基づいて前記画像情報の1フレームあたりの自車両が進む距離を導出し、当該1フレームあたりの自車両が進む距離に前記フレーム数を乗算して得られる距離を、前記検出距離とする請求項1に記載の画像認識装置。
  3. 前記検出領域は、前記画像情報の複数フレームに共通の位置を含んで設定した、各フレーム内の一部の領域である請求項1又は2に記載の画像認識装置。
  4. 前記区画線種別判定手段は、前記検出距離が所定の下限値と上限値との間の範囲内であった場合に、前記区画線種別を破線と判定する請求項1から3のいずれか一項に記載の画像認識装置。
  5. 前記区画線種別判定手段は、破線の区画線を構成する各線の線長及び間隔の一方又は双方が異なる複数の破線の区画線種別の中から、前記検出距離に応じて一つの区画線種別を判定する請求項4に記載の画像認識装置。
  6. 前記区画線種別判定手段は、各区画線種別について、当該区画線種別であると判定する前記検出距離の範囲を、自車両が走行中の道路の道路種別及び地域の一方又は双方に応じて変更する請求項4又は5に記載の画像認識装置。
  7. 前記区画線種別判定手段は、画像認識手段によって前記区画線の始端及び終端の一方又は双方が一定周期で複数回検出されたことを条件として、前記区画線種別を破線と判定する請求項4から6のいずれか一項に記載の画像認識装置。
  8. 前記区画線種別判定手段は、前記区画線の始端からの前記検出距離が所定の実線判定しきい値以上であった場合に、前記区画線種別を実線と判定する請求項1から7のいずれか一項に記載の画像認識装置。
  9. 前記区画線種別判定手段は、前記区画線種別毎に当該区画線種別であると判定する条件となる前記検出距離の範囲を規定した判定規則に従って、前記区画線種別を判定する請求項1から8のいずれか一項に記載の画像認識装置。
  10. 前記判定規則は、破線の区画線種別については、前記検出距離の範囲の上限値及び下限値を規定している請求項9に記載の画像認識装置。
  11. 前記判定規則は、破線の区画線を構成する各線の線長及び間隔の一方又は双方が異なる複数の破線の区画線種別のそれぞれについて、前記検出距離の範囲を規定している請求項9又は10に記載の画像認識装置。
  12. 前記判定規則は、各区画線種別について複数の前記検出距離の範囲を規定している請求項9から11のいずれか一項に記載の画像認識装置。
  13. 前記判定規則は、実線の区画線種別については、前記区画線の始端からの前記検出距離の範囲の下限値を規定している請求項9から12のいずれか一項に記載の画像認識装置。
  14. 請求項1から13のいずれか一項に記載の画像認識装置と、
    地図情報が記憶された地図データベースと、
    前記地図情報及び前記画像認識装置により判定された区画線種別の情報を参照して動作するアプリケーションプログラムと、
    前記アプリケーションプログラムに従って動作して案内情報を出力する案内情報出力手段と、
    を備えるナビゲーション装置。
  15. 請求項1から13のいずれか一項に記載の画像認識装置と、
    前記画像認識装置により判定された区画線種別の情報に基づいて、自車両が走行中のレーンである自車レーンの判定を行う自車レーン判定手段と、
    を備える自車レーン判定装置。
  16. 自車両の周辺の少なくとも道路面を所定の時間間隔で撮影した複数フレームの画像情報を取得する画像情報取得ステップと、
    前記画像情報の各フレーム内に設定した検出領域に含まれる区画線の始端及び終端を検出する画像認識処理を行う画像認識ステップと、
    前記区画線の始端及び終端の一方が検出された前記画像情報のフレームと前記区画線の始端及び終端の他方が検出された前記画像情報のフレームとの間のフレーム数、並びに自車両の車速とに基づいて、前記区画線の始端及び終端の一方から他方までの距離を検出距離として検出する距離検出ステップと、
    前記検出距離に基づいて前記区画線の区画線種別を判定する区画線種別判定ステップと、
    をコンピュータに実行させる画像認識プログラム。
JP2007308922A 2007-11-29 2007-11-29 画像認識装置及び画像認識プログラム Active JP4950858B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2007308922A JP4950858B2 (ja) 2007-11-29 2007-11-29 画像認識装置及び画像認識プログラム
CN200810175427.XA CN101447019B (zh) 2007-11-29 2008-11-12 图像识别装置以及图像识别方法
US12/292,887 US7948397B2 (en) 2007-11-29 2008-11-28 Image recognition apparatuses, methods and programs
EP08170232.6A EP2065835B1 (en) 2007-11-29 2008-11-28 Image recognition apparatus and image recognition program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007308922A JP4950858B2 (ja) 2007-11-29 2007-11-29 画像認識装置及び画像認識プログラム

Publications (2)

Publication Number Publication Date
JP2009134429A true JP2009134429A (ja) 2009-06-18
JP4950858B2 JP4950858B2 (ja) 2012-06-13

Family

ID=40401200

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007308922A Active JP4950858B2 (ja) 2007-11-29 2007-11-29 画像認識装置及び画像認識プログラム

Country Status (4)

Country Link
US (1) US7948397B2 (ja)
EP (1) EP2065835B1 (ja)
JP (1) JP4950858B2 (ja)
CN (1) CN101447019B (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102201167A (zh) * 2010-04-07 2011-09-28 宫宁生 基于视频的汽车车道自动识别方法
JP2015179368A (ja) * 2014-03-19 2015-10-08 株式会社日本自動車部品総合研究所 走行区画線認識装置及び走行区画線認識プログラム
JP2015203992A (ja) * 2014-04-14 2015-11-16 本田技研工業株式会社 レーンマーク認識装置
JP2018017948A (ja) * 2016-07-29 2018-02-01 株式会社ゼンリン 制御システム及び制御システムに用いられる地図データのデータ構造
JP2018067236A (ja) * 2016-10-21 2018-04-26 株式会社Soken 区画線認識装置
JP2020187474A (ja) * 2019-05-13 2020-11-19 スズキ株式会社 走行車線認識装置、走行車線認識方法およびプログラム

Families Citing this family (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012526307A (ja) * 2009-05-04 2012-10-25 テレ アトラス ノース アメリカ インコーポレイテッド ナビゲーション装置及び方法
JP5293815B2 (ja) * 2009-06-02 2013-09-18 日本電気株式会社 画像処理装置、画像処理方法、及び画像処理用プログラム
KR101228017B1 (ko) * 2009-12-09 2013-02-01 한국전자통신연구원 위치 정보 기반 영상 인식 장치 및 방법
JP5482167B2 (ja) * 2009-12-10 2014-04-23 アイシン・エィ・ダブリュ株式会社 車両用走行案内装置、車両用走行案内方法及びコンピュータプログラム
JP5276637B2 (ja) * 2010-09-08 2013-08-28 富士重工業株式会社 車線推定装置
EP2616989A1 (en) * 2010-09-16 2013-07-24 Tomtom Polska SP.Z.O.O. Improvements in or relating to automatic detection of the number of lanes into which a road is divided
CN102184535B (zh) * 2011-04-14 2013-08-14 西北工业大学 一种车辆所在车道边界检测方法
US9426364B2 (en) 2011-09-05 2016-08-23 Mitsubishi Electric Corporation Image processing apparatus and image processing method
JP5792678B2 (ja) * 2012-06-01 2015-10-14 株式会社日本自動車部品総合研究所 車線境界線検出装置およびプログラム
WO2014034187A1 (ja) * 2012-08-30 2014-03-06 本田技研工業株式会社 レーンマーク認識装置
US8971573B2 (en) * 2012-09-12 2015-03-03 Xerox Corporation Video-tracking for video-based speed enforcement
DE102014210411A1 (de) * 2013-09-06 2015-03-12 Robert Bosch Gmbh Verfahren und Steuer- und Erfassungseinrichtung zum Plausibilisieren einer Falschfahrt eines Kraftfahrzeugs
KR101509995B1 (ko) * 2013-12-03 2015-04-07 현대자동차주식회사 Jc 진출입 판단 장치 및 그 방법
EP2918974B1 (en) * 2014-03-11 2019-01-16 Volvo Car Corporation Method and system for determining a position of a vehicle
CN112839169B (zh) * 2014-05-29 2023-05-09 株式会社尼康 驾驶辅助装置及摄像装置
EP3154835A1 (en) * 2014-06-10 2017-04-19 Mobileye Vision Technologies Ltd. Top-down refinement in lane marking navigation
JP6536340B2 (ja) * 2014-12-01 2019-07-03 株式会社デンソー 画像処理装置
JP6344275B2 (ja) * 2015-03-18 2018-06-20 トヨタ自動車株式会社 車両制御装置
CA2993768C (en) * 2015-07-27 2018-09-25 Nissan Motor Co., Ltd. Route guidance device and route guidance method
FR3047932B1 (fr) 2016-02-19 2018-03-16 Peugeot Citroen Automobiles Sa Dispositif et procede d'estimation du niveau d'attention d'un conducteur d'un vehicule
JP6724988B2 (ja) * 2016-07-05 2020-07-15 日産自動車株式会社 走行制御方法及び走行制御装置
CN107643086B (zh) * 2016-07-22 2021-04-13 北京四维图新科技股份有限公司 一种车辆定位方法、装置及系统
JP6586930B2 (ja) 2016-08-04 2019-10-09 トヨタ自動車株式会社 車両走行制御装置
MX2019002985A (es) * 2016-09-27 2019-07-04 Nissan Motor Metodo de estimacion de la posicion propia y dispositivo de estimacion de la posicion propia.
CN106696961B (zh) * 2016-12-09 2018-11-20 重庆长安汽车股份有限公司 高速公路自动驾驶上下匝道控制系统及方法
JP6817804B2 (ja) * 2016-12-16 2021-01-20 クラリオン株式会社 区画線認識装置
EP3569462B1 (en) * 2017-01-10 2022-06-01 Mitsubishi Electric Corporation Travel path recognition device and travel path recognition method
CN106934360A (zh) * 2017-03-06 2017-07-07 广州英卓电子科技有限公司 一种基于高速图像识别的车辆精确位移测量方法
KR20190012370A (ko) * 2017-07-27 2019-02-11 삼성에스디에스 주식회사 차선 변경 지원 방법 및 장치
JP7013727B2 (ja) * 2017-08-25 2022-02-01 株式会社デンソー 車両制御装置
JP6710190B2 (ja) 2017-09-29 2020-06-17 クラリオン株式会社 区画線認識装置
CN108256470A (zh) * 2018-01-16 2018-07-06 鹰驾科技(深圳)有限公司 一种车道偏移判断方法及汽车
JP6731680B2 (ja) * 2018-08-23 2020-07-29 荏原環境プラント株式会社 情報処理装置、情報処理プログラム、および情報処理方法
CN109166353B (zh) * 2018-09-12 2021-08-20 安徽中科美络信息技术有限公司 一种车辆行驶前方复杂路口导向车道检测方法及系统
CN111241894B (zh) * 2018-11-28 2023-06-27 海信集团有限公司 一种检测车道线的方法及车载设备
US11010617B2 (en) * 2018-12-12 2021-05-18 Here Global B.V. Methods and systems for determining roadwork zone extension based on lane marking data
CN111750878B (zh) * 2019-03-28 2022-06-24 北京魔门塔科技有限公司 一种车辆位姿的修正方法和装置
CN113157827B (zh) * 2020-01-22 2023-10-10 阿里巴巴集团控股有限公司 车道类型的生成方法、装置、数据处理设备及存储介质
JP7330911B2 (ja) * 2020-02-05 2023-08-22 マツダ株式会社 車両用制御装置
CN112712708A (zh) * 2020-12-28 2021-04-27 上海眼控科技股份有限公司 信息检测方法、装置、设备及存储介质
FR3134779A1 (fr) * 2022-04-25 2023-10-27 Psa Automobiles Sa Procédé et dispositif de contrôle d’un système d’aide à la conduite de véhicule en fonction d’un type de ligne de marquage au sol déterminé à partir de données caméra et de données dynamiques du véhicule

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08320997A (ja) * 1995-05-24 1996-12-03 Nissan Motor Co Ltd 車両用走行車線認識装置及び障害物検出装置・道路逸脱報知装置
JP2005004442A (ja) * 2003-06-11 2005-01-06 Matsushita Electric Ind Co Ltd 走行車線判別装置
JP2005322166A (ja) * 2004-05-11 2005-11-17 Toyota Motor Corp 走行レーン認識装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6978037B1 (en) * 2000-11-01 2005-12-20 Daimlerchrysler Ag Process for recognition of lane markers using image data
JP3722485B1 (ja) * 2004-05-19 2005-11-30 本田技研工業株式会社 車両用走行区分線認識装置
DE102005014114A1 (de) * 2005-03-21 2006-10-05 Valeo Schalter Und Sensoren Gmbh Spurerkennungssystem und Verfahren
JP4659631B2 (ja) * 2005-04-26 2011-03-30 富士重工業株式会社 車線認識装置
JP4755501B2 (ja) 2006-01-30 2011-08-24 クラリオン株式会社 車線検出装置および車線逸脱警報装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08320997A (ja) * 1995-05-24 1996-12-03 Nissan Motor Co Ltd 車両用走行車線認識装置及び障害物検出装置・道路逸脱報知装置
JP2005004442A (ja) * 2003-06-11 2005-01-06 Matsushita Electric Ind Co Ltd 走行車線判別装置
JP2005322166A (ja) * 2004-05-11 2005-11-17 Toyota Motor Corp 走行レーン認識装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102201167A (zh) * 2010-04-07 2011-09-28 宫宁生 基于视频的汽车车道自动识别方法
CN102201167B (zh) * 2010-04-07 2013-03-06 宫宁生 基于视频的汽车车道自动识别方法
JP2015179368A (ja) * 2014-03-19 2015-10-08 株式会社日本自動車部品総合研究所 走行区画線認識装置及び走行区画線認識プログラム
JP2015203992A (ja) * 2014-04-14 2015-11-16 本田技研工業株式会社 レーンマーク認識装置
JP2018017948A (ja) * 2016-07-29 2018-02-01 株式会社ゼンリン 制御システム及び制御システムに用いられる地図データのデータ構造
JP2018067236A (ja) * 2016-10-21 2018-04-26 株式会社Soken 区画線認識装置
JP2020187474A (ja) * 2019-05-13 2020-11-19 スズキ株式会社 走行車線認識装置、走行車線認識方法およびプログラム
JP7255345B2 (ja) 2019-05-13 2023-04-11 スズキ株式会社 走行車線認識装置、走行車線認識方法およびプログラム

Also Published As

Publication number Publication date
US7948397B2 (en) 2011-05-24
EP2065835A3 (en) 2012-07-18
EP2065835A2 (en) 2009-06-03
CN101447019B (zh) 2014-04-23
CN101447019A (zh) 2009-06-03
JP4950858B2 (ja) 2012-06-13
EP2065835B1 (en) 2018-05-09
US20090174577A1 (en) 2009-07-09

Similar Documents

Publication Publication Date Title
JP4950858B2 (ja) 画像認識装置及び画像認識プログラム
US8346473B2 (en) Lane determining device, lane determining method and navigation apparatus using the same
JP4861850B2 (ja) レーン判定装置及びレーン判定方法
EP2113746B1 (en) Feature information collecting device and feature information collecting program, and vehicle position recognizing device and navigation device
JP4366664B2 (ja) 自車位置認識装置及び自車位置認識プログラム
JP5482167B2 (ja) 車両用走行案内装置、車両用走行案内方法及びコンピュータプログラム
JP4953012B2 (ja) 画像認識装置と画像認識装置のためのプログラム、及びこれを用いたナビゲーション装置とナビゲーション装置のためのプログラム
JP4761156B2 (ja) 地物位置認識装置及び地物位置認識方法
JP2009099125A (ja) 画像認識装置及び画像認識プログラム、並びにそれを用いた地点情報収集装置及びナビゲーション装置
JP2008298699A (ja) 自車位置認識装置及び自車位置認識方法
JP4731380B2 (ja) 自車位置認識装置及び自車位置認識方法
JP4831433B2 (ja) 自車位置認識装置及び自車位置認識プログラム、並びにナビゲーション装置
JP4953015B2 (ja) 自車位置認識装置と自車位置認識プログラム、及びこれを用いたナビゲーション装置
JP2007071539A (ja) 車載ナビゲーション装置
JP2009058430A (ja) ナビゲーション装置及びナビゲーションプログラム
JP5071737B2 (ja) レーン判定装置及びレーン判定プログラム、並びにそれを用いたナビゲーション装置
JP4817019B2 (ja) 自車位置認識装置及び自車位置認識プログラム
JP4497424B2 (ja) 地物認識装置及び地物認識方法、並びにそれを用いたレーン判定装置及びレーン判定方法
JP4943246B2 (ja) レーン判定装置及びレーン判定プログラム、並びにそれを用いたナビゲーション装置
JP4930795B2 (ja) ナビゲーション装置及びナビゲーションプログラム
JP5001911B2 (ja) 停止義務地点学習装置及び停止義務地点学習プログラム、並びにこれを用いたナビゲーション装置
JP2021038994A (ja) 車載装置、及び車載装置の制御方法

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20090828

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20090828

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100412

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100426

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20100426

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100426

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110922

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120216

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120309

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150316

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4950858

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350