JP2007271568A - 自車位置認識装置及び自車位置認識方法 - Google Patents

自車位置認識装置及び自車位置認識方法 Download PDF

Info

Publication number
JP2007271568A
JP2007271568A JP2006100467A JP2006100467A JP2007271568A JP 2007271568 A JP2007271568 A JP 2007271568A JP 2006100467 A JP2006100467 A JP 2006100467A JP 2006100467 A JP2006100467 A JP 2006100467A JP 2007271568 A JP2007271568 A JP 2007271568A
Authority
JP
Japan
Prior art keywords
information
feature
measurement point
vehicle position
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006100467A
Other languages
English (en)
Other versions
JP4731380B2 (ja
Inventor
Tomoaki Ishikawa
知章 石川
Masaki Nakamura
正樹 中村
Satoshi Aisaka
総 逢坂
Motoki Kanba
基揮 勘場
Motohiro Nakamura
元裕 中村
Takeshi Shima
健 志磨
Kota Irie
耕太 入江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin AW Co Ltd
Hitachi Ltd
Toyota Motor Corp
Original Assignee
Aisin AW Co Ltd
Hitachi Ltd
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin AW Co Ltd, Hitachi Ltd, Toyota Motor Corp filed Critical Aisin AW Co Ltd
Priority to JP2006100467A priority Critical patent/JP4731380B2/ja
Publication of JP2007271568A publication Critical patent/JP2007271568A/ja
Application granted granted Critical
Publication of JP4731380B2 publication Critical patent/JP4731380B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】地物の画像認識結果を用いて自車位置の認識を行うに際して、自車両と地物との間の距離の認識精度を高め、認識率の低下を防止し、地物の全体が一つの画像情報の中に含まれていない場合であっても画像認識を比較的容易に行う。
【解決手段】画像情報Gを取得する画像情報取得手段6と、自車位置情報Sを取得する自車位置情報取得手段5と、自車位置情報Sに基づいて撮像装置14により撮像される対象地物の地物情報Fを取得する地物情報取得手段3と、地物情報Fに基づいて地物種別に応じた複数箇所の測定点の形態情報及び位置情報を含む測定点情報Mを取得する測定点情報取得手段4と、測定点の形態情報に基づいて画像情報Gに含まれている複数箇所の測定点の画像認識を行う画像認識手段7と、画像認識された測定点の画像認識結果と当該測定点の位置情報とに基づいて自車位置情報Sを補正する自車位置補正手段10と、を備える。
【選択図】図1

Description

本発明は、自車両に搭載された撮像装置により撮像した画像情報を用いて詳細に自車位置の認識を行う自車位置認識装置及び自車位置認識方法に関する。
車載カメラを用いて自車両の位置の修正を行う技術として、例えば下記の特許文献1には、以下のような車載用ナビゲーション装置に関する技術が開示されている。この装置は、車両に搭載され、車両前方の走行道路に沿った風景を補促するカメラ、カメラにより補促された風景画像より交差点シンボルを識別して交差点を検出すると共に、車両位置から交差点(交差点シンボル)までの距離を求める交差点検出部、地図データから得られる前記交差点位置から前記距離だけ離れた走行道路上のポイントに車両位置を修正する車両位置修正手段を備えている。
この装置は、車載カメラにより交差点シンボル(信号機、横断歩道、中央分離帯用白線等)を識別して交差点を検出し、その後、車両位置から交差点までの距離を求める。そして、車両位置修正手段は、地図データから得られる交差点位置に対して、前記車両位置から交差点までの距離だけ離れた走行道路上の位置に車両位置を修正する。この際、前記車両位置から交差点までの距離は、識別された交差点シンボルが所在するカメラ画素を用いて画素・距離対応テーブルを参照することにより求める。
特開平9−243389号公報(第2−5頁、第1−2図)
上記の技術では、認識した交差点シンボルの中のどの位置を基準に交差点までの距離を求めるかが明らかにされていない。ここで、交差点シンボルの画像認識結果を用いて自車位置を補正する際における自車両から交差点シンボル等の認識対象となる地物までの距離の検出精度を高めるためには、当該認識対象となる地物に所定の基準位置を設定し、当該基準位置と自車両との間で距離の算出を行う必要がある。しかし、画像認識のための前記所定の基準位置を認識対象となる地物の中の所定の点や狭い領域として設定すると、地物の状態や天候等によっては画像認識が困難になり認識率が低下する可能性がある。
また、自車両から認識対象となる地物までの距離の認識精度を高めるためには、自車両に近い位置にある地物を対象として画像認識を行う方が有利である。しかし、近い位置にある地物を撮像した場合には、当該地物の大きさによっては、一フレームの画像情報の中に地物の全体が収まらない場合が生じ得る。ところが、上記の技術では、パターンマッチングにより交差点シンボルの全体の形状に基づいて画像認識を行うため、交差点シンボル等の認識対象となる地物の全体が一フレームの画像情報の中に含まれていない場合には、画像認識を行うことが困難になるという問題がある。
本発明は、上記の課題に鑑みてなされたものであり、その目的は、地物の画像認識結果を用いて自車位置の認識を行うに際して、自車両と地物との間の距離の認識精度を高めることを可能とするとともに、その地物の認識率が低下することを防止でき、また、地物の全体が一つの画像情報の中に含まれていない場合であっても画像認識を比較的容易に行うことができる自車位置認識装置及び自車位置認識方法を提供することにある。
上記目的を達成するための本発明に係る自車位置認識装置の特徴構成は、自車両に搭載された撮像装置により撮像した画像情報を取得する画像情報取得手段と、自車両の現在位置を示す自車位置情報を取得する自車位置情報取得手段と、前記自車位置情報に基づいて、前記撮像装置により撮像される対象地物の地物情報を取得する地物情報取得手段と、前記地物情報に基づいて、前記対象地物の地物種別に応じて予め定められた複数箇所の測定点について、その形態情報及び位置情報を含む測定点情報を取得する測定点情報取得手段と、前記測定点情報に含まれる前記形態情報に基づいて、前記画像情報に含まれている前記対象地物についての前記複数箇所の測定点の画像認識を行う画像認識手段と、前記画像認識手段により認識された前記測定点の中の少なくとも一つの画像認識結果と、当該測定点の前記位置情報とに基づいて前記自車位置情報を補正する自車位置補正手段と、を備える点にある。
この特徴構成によれば、対象地物の画像認識を行うに際して、当該対象地物の地物種別に応じて予め定められた測定点を対象として画像認識を行うので、自車両と対象地物との間の距離の認識精度を高めることが可能となる。また、この際、測定点を複数箇所に設定しているので、一つの測定点が認識できなかった場合であっても他の測定点を認識できれば自車両と対象地物との間の距離を認識することができるので、認識率が低下することを防止できる。また、対象地物の中に設定された測定点を画像認識の対象とし、更には一つの対象地物の中に複数箇所の測定点を設定しているので、地物の全体が一つの画像情報の中に含まれていない場合であっても画像認識を比較的容易に行うことができる。
なお、例えば自車両の進行方向の位置だけを補正する場合には、進行方向に直交する方向の位置は問題とならない。したがって、本願発明における「測定点」は、点には限定されず、前記測定点の位置を自車両の進行方向に略直交する方向に延長した線として設定してもよい。
ここで、前記測定点は、各地物種別の地物の輪郭形状に応じて、自車両の進行方向に略直交する輪郭線上、又は前記輪郭形状が角部を有する場合には当該角部上に設定されていると好適である。
このように構成すれば、自車両の進行方向に沿った測定点の位置の認識精度を高めることができる。したがって、自車両と対象地物との間の距離を高精度に認識することが可能となり、自車位置の認識精度を高めることができる。
また、一つの前記対象地物についての前記複数箇所の測定点のそれぞれに予め設定された優先度に基づいて、前記画像認識手段により認識された測定点の中から前記優先度の高い順に、少なくとも一つを選択する選択手段を更に備え、前記自車位置補正手段は、前記選択手段により選択された少なくとも一つの測定点の画像認識結果と、当該測定点の前記位置情報とに基づいて前記自車位置情報を補正する構成とすると好適である。
このように構成すれば、複数の測定点の画像認識が成功した場合に、それらの中から予め設定された優先度に従って適切に測定点を選択して自車位置の補正に用いることができる。
また、一つの前記対象地物についての前記複数箇所の測定点に関して、自車両の進行方向前方に位置する測定点の優先度を、進行方向後方に位置する測定点の優先度より高く設定していると好適である。
ここで、画像情報に含まれる地物の画像がそのとき対象としている対象地物であることの確実性を表す自信度は、自車両の進行に従って当該地物が撮像された画像情報のフレーム数が増えるに従って高まる。特に、一フレームの画像情報中に対象地物の全体が納まらない場合等には、複数フレームの画像情報を用いることにより、画像情報に含まれる地物の画像がそのとき対象としている対象地物であることの確実性が高まる。この構成によれば、前記自信度の高い状態で認識された測定点が前記自信度の低い状態で認識された測定点より優先されることになる。したがって、画像認識手段による測定点の誤認識が生じることを抑制できる。
また、前記対象地物の各測定点について、画像認識の困難性に関する状態を示す測定点状態情報を取得する測定点状態情報取得手段を更に備え、前記画像認識手段は、前記測定点状態情報に基づいて認識困難とされた測定点以外の測定点について画像認識を行う構成とすると好適である。
ここで、「測定点状態情報」としては、例えば、対象地物における各測定点周辺のかすれや汚れの情報等、測定点の画像認識に影響を与える各種の情報が含まれる。
この構成によれば、対象地物のかすれや汚れの程度等を考慮して測定点の画像認識を行うことが可能となる。したがって、無駄な画像認識処理を省いて演算負荷を軽減できるとともに、測定点の位置の誤認識が生じることを抑制できる。
また、各地物種別の対象地物についての前記複数箇所の測定点の形態情報を、地物の全体形態の中での複数箇所の測定点の配置として規定し、地物種別毎に格納した測定点形態情報格納手段を更に備え、前記測定点情報取得手段は、前記対象地物の地物種別に対応する前記測定点の形態情報を、前記測定点形態情報格納手段から取得する構成とすると好適である。
このように構成すれば、対象地物の測定点の形態情報を、地物種別に応じて適切に取得することが可能となる。また、取得される測定点の形態情報は、地物の全体形態の中での測定点の配置として規定されているので、画像認識手段における測定点の画像認識を良好に行うことができる。
また、前記測定点情報取得手段は、前記地物情報に含まれる前記対象地物の位置及び形態を示す情報と、前記測定点形態情報格納手段に格納された前記対象地物の地物種別に対応する前記測定点の形態情報とに基づいて、前記測定点の位置情報を導出して取得する構成とすると好適である。
このように構成すれば、地物情報取得手段により取得した地物情報に基づいて、測定点の位置情報を導出して取得することができる。したがって、全ての測定点の座標等の位置情報を記憶しておく場合と比較して、情報格納手段に格納しておくことが必要な情報量を少なく抑えることが可能となる。
また、少なくとも前記画像情報に含まれている地物の画像が前記対象地物の画像であることの確実性を表す自信度を判定する自信度判定手段を更に備え、前記自車位置補正手段は、前記自信度が所定の閾値以上のときに、当該地物についての前記測定点の画像認識結果を用いて前記自車位置情報の補正を行う構成とすると好適である。
このように構成すれば、画像情報に含まれる地物の画像がそのとき対象としている対象地物であることの確実性が高い場合にのみ、自車位置補正手段において、当該地物についての前記測定点の画像認識結果を用いて前記自車位置情報の補正が行われることになる。したがって、自信度が低い場合に、当該地物についての前記測定点の画像認識結果を用いた前記自車位置情報の補正が行われないので、誤った画像認識結果に基づいて自車位置情報を補正することにより、自車位置情報の誤差が拡大することを抑制できる。また、無駄な演算処理を省いて演算負荷を軽減することができる。
本発明に係る車両制御装置の特徴構成は、上記のような自車位置認識装置と、地図情報を格納した地図情報格納手段と、を備え、前記地図情報格納手段から取得した自車両の進行方向の地図情報と、前記自車位置補正手段による補正後の自車位置情報とに基づいて、自車両の走行制御を行う点にある。
この特徴構成によれば、高い認識率で高精度に認識した測定点の画像認識結果を用いた補正後の自車位置情報に基づいて自車両の走行制御を行うことになる。したがって、例えばレーンキープや衝突防止等のための操舵や加減速等といった自車両の走行制御を適切に行うことが可能となる。
本発明に係るナビゲーション装置の特徴構成は、上記のような自車位置認識装置と、地図情報を格納した地図情報格納手段と、任意の情報を表示可能な表示手段及び任意の音声情報を出力可能な音声出力手段の一方又は双方と、を備え、前記地図情報格納手段から取得した自車両の周辺の地図情報と、前記自車位置補正手段による補正後の自車位置情報とに基づいて、前記表示手段及び前記音声出力手段の一方又は双方を用いて自車両の進路案内を行う点にある。
この特徴構成によれば、この特徴構成によれば、高い認識率で高精度に認識した測定点の画像認識結果を用いた補正後の自車位置情報に基づいて自車位置の案内等を行うことになる。したがって、例えば自位置の詳細な表示や、詳細に認識される自位置の情報に基づいて最適なタイミングで経路案内を行うこと等が可能となる。
本発明に係る自車位置認識方法の特徴構成は、自車両に搭載された撮像装置により撮像した画像情報を取得する画像情報取得ステップと、自車両の現在位置を示す自車位置情報を取得する自車位置情報取得ステップと、前記自車位置情報に基づいて、前記撮像装置により撮像される対象地物の地物情報を取得する地物情報取得ステップと、前記地物情報に基づいて、前記対象地物の地物種別に応じて予め定められた複数箇所の測定点について、その形態情報及び位置情報を含む測定点情報を取得する測定点情報取得ステップと、前記測定点情報に含まれる前記形態情報に基づいて、前記画像情報に含まれている前記対象地物についての前記複数箇所の測定点の画像認識を行う画像認識ステップと、前記画像認識ステップにより認識された前記測定点の中の少なくとも一つの画像認識結果と、当該測定点の前記位置情報とに基づいて前記自車位置情報を補正する自車位置補正ステップと、を備える点にある。
この特徴構成によれば、対象地物の画像認識を行うに際して、当該対象地物の地物種別に応じて予め定められた測定点を対象として画像認識を行うので、自車両と対象地物との間の距離の認識精度を高めることが可能となる。また、この際、測定点を複数箇所に設定しているので、一つの測定点が認識できなかった場合であっても他の測定点を認識できれば自車両と対象地物との間の距離を認識することができるので、認識率が低下することを防止できる。また、対象地物の中に設定された測定点を画像認識の対象とし、更には一つの対象地物の中に複数箇所の測定点を設定しているので、地物の全体が一つの画像情報の中に含まれていない場合であっても画像認識を比較的容易に行うことができる。
〔第一の実施形態〕
本発明の第一の実施形態について図面に基づいて説明する。図1は、本実施形態に係る自車位置認識装置1の全体構成を模式的に示すブロック図である。図2は、図1に示される地物形態データベースDB1、地物配置データベースDB2、測定点形態データベースDB3、及び測定点状態データベースDB4のそれぞれに格納される情報の内容を示す説明図である。本実施形態においては、自車位置認識のために取り扱う対象とする対象地物を、道路面上に配置されたいわゆる道路ペイント等の平面的な地物とし、特に横断歩道や停止線等の道路標示とする場合を例として説明する。
この自車位置認識装置1の各機能部、具体的には、地物情報生成部3、測定点情報生成部4、自車位置演算部5、画像情報取得部6、画像認識部7、位置関係演算部8、及び自車位置補正部9は、CPU等の演算処理装置を中核部材として、入力されたデータに対して種々の処理を行うための機能部がハードウエア又はソフトウエア(プログラム)或いはその両方により実装されて構成されている。また、各データベースDB1、DB2、DB3、DB4、及びDBmは、例えば、ハードディスクドライブ、DVD−ROMを備えたDVDドライブ、CD−ROMを備えたCDドライブ等のように、情報を記憶可能な記録媒体とその駆動手段とを有する装置をハードウエア構成として備えている。以下、各部の構成について詳細に説明する。
1.地物形態データベースDB1
まず、図2に基づいて各データベースの構成について説明する。地物形態情報格納手段としての地物形態データベースDB1には、一つの地物種別の地物が備える形態を規定した地物形態情報Faが、地物種別毎に複数格納されている。各地物種別についての地物形態情報Faは、地物種別を表す地物種別コードCfに関連付けられてそれぞれデータベースに格納されている。地物形態情報Faは、対象地物としての道路標示の形態を示す情報であり、各地物種別の地物の輪郭形状を示す輪郭情報を有して構成されている。図3(a)〜(f)は、複数の地物種別の地物の輪郭形状及び代表点Rの位置の例を示している。すなわち、(a)は「横断歩道」、(b)は「停止線」、(c)は「横断歩道予告(横断歩道あり)」、(d)は「進行方向別通行区分」、(e)は「転回禁止」、(f)は「最高速度」の各道路標示の輪郭形状を示している。このような各道路標示名に対応して地物種別コードCfが設定されている。そして、この図3(a)〜(f)に示されるような輪郭形状の情報が各道路標示を示す地物種別コードCfと関連付けられた状態で地物形態情報Faとして格納されている。なお、当然ながら図3に示す地物種別は対象地物の中の一部の例であり、この図に示す以外の地物種別の地物も対象地物となり得る。
また、各地物種別の地物の輪郭形状に関連付けて、各部の寸法のうち、法令によって規定されており変化しない箇所に関する情報も地物形態情報Faとして格納されている。すなわち、横断歩道や停止線の道路幅方向の長さ等は、配置場所の道路幅によって当然に変化するからである。例えば、図3(a)の「横断歩道」の場合であれば、各線の幅L1及び線間隔L2は法令によって規定されているが、各線の長さ(横断歩道の幅)L3及び横断歩道全体の長さL4は配置場所によって変化する。一方、例えば図3(d)の「進行方向別通行区分」の場合は各部の全ての寸法が法令によって規定されている。
2.地物配置データベースDB2
地物配置情報格納手段としての地物配置データベースDB2には、複数の地物について、各地物の地物種別を示す地物種別情報Fbと各地物の位置及び方向を示す地物配置情報Fcとが格納されている。各地物についての地物種別情報Fb及び地物配置情報Fcは、各地物に固有の地物識別符号IDfに関連付けられてそれぞれデータベースに格納されている。地物識別符号IDfは、各地物に重複することなく付される固有の符号である。地物種別情報Fbは、各地物の属する地物種別を示す情報であって、ここでは、各地物の属する地物種別を表す地物種別コードCfとしている。
地物配置情報Fcは、各地物の位置及び方向を示す情報である。ここでは、図3に示すように、地物配置情報Fcは、各地物の外形上に配置された複数個の代表点Rの位置情報により構成されている。本例では、代表点Rは、(1)図3(a)〜(d)に示されるように各地物の輪郭線上における最外部に位置するように設定される場合と、(2)図3(e)及び(f)に示されるように各地物をその輪郭線の最外部に沿って囲む矩形枠Frの角部に位置するように設定される場合とがある。前記(1)の場合、代表点Rの個数は地物種別によって適切に設定されている。例えば図3(a)の「横断歩道」のように、幅L3及び長さL4が配置場所によって変化する地物の場合には4箇所に設定されている。一方、例えば図3(d)の「進行方向別通行区分」の場合は各部の全ての寸法が法令によって規定されており、2箇所に設定しておけば道路上における地物の配置が定まる。前記(2)のような代表点Rの配置は、文字や複数個の組み合わせ等のような比較的複雑な輪郭形状を有する地物について行われる。
地物配置情報Fcを構成する代表点Rの位置情報は、各代表点Rの緯度及び経度で表現可能な地図上の位置を示す情報である。図1に示すように、本例では、地物配置データベースDB2は、地図データベースDBmの一部として構成されている。そして、代表点Rの位置情報は、地図データベースDBmに格納されている地図上の位置を示す情報とされている。そこで、以下に地図データベースDBmの構成について説明する。
3.地図データベースDBm
地図情報格納手段としての地図データベースDBmは、地図情報Eを格納したデータベースである。図4は、地図データベースDBmに格納されている地図情報Eの内容を示す説明図である。この図に示すように、本実施形態に係る地図データベースDBmには、地図情報Eとして、道路ネットワークレイヤX1、道路形状レイヤX2、地物レイヤX3が格納されている。そして、本例では、この地物レイヤX3が、上述の地物配置データベースDB2を構成する。
道路ネットワークレイヤX1は、道路間の接続情報を示すレイヤである。具体的には、緯度及び経度で表現された地図上の位置情報を有する多数のノードNの情報と、2つのノードNを連結して道路を構成する多数のリンクLの情報とを有して構成されている。また、各リンクLは、そのリンク情報として、道路の種別(高速道路、有料道路、国道、県道等の種別)やリンク長さ等の情報を有している。
道路形状レイヤX2は、道路ネットワークレイヤX1に関連付けられて格納され、道路の形状を示すレイヤである。具体的には、2つのノードNの間(リンクL上)に配置されて緯度及び経度で表現された地図上の位置情報を有する多数の道路形状補完点Qの情報と、各道路形状補完点Qにおける道路幅Wの情報とを有して構成されている。
地物レイヤX3は、道路ネットワークレイヤX1及び道路形状レイヤX2に関連付けられて格納され、道路上及び道路の周辺に設けられた各種地物の情報を示すレイヤである。ここでは、対象地物に関して、地物識別符号IDfに関連付けて地物種別情報Fb及び地物配置情報Fcが格納されている(図2参照)。地物配置情報Fcは、図3に示されているように、各地物の代表点Rの地図上の位置を示す位置情報とされている。各代表点Rの位置情報は、ここでは、道路ネットワークレイヤX1及び道路形状レイヤX2に格納されているノードN又は道路形状補完点Qの位置情報を基準として、そこからのオフセット量により表されている。また、地物レイヤX3には、対象地物以外の区画線等の道路標示以外の道路ペイントや標識及び信号機等の立体物等に関する情報も格納されている。この各地物の代表点Rの位置情報を示す地物配置情報Fcに基づいて、後述する測定点情報生成部4において、各地物の測定点Pの位置情報が演算され導出される。
4.測定点形態データベースDB3
図2に示すように、測定点形態情報格納手段としての測定点形態データベースDB3には、各地物種別の地物についての複数箇所の測定点P(図5及び図6参照)のそれぞれの形態を規定した測定点形態情報Maが格納されている。ここでは、各地物種別の地物にそれぞれ複数箇所の測定点Pが設定されており、その各地物種別の地物に設定された複数の測定点Pのそれぞれに重複しない測定点番号Mn(=1、2、・・・)が設定されている。そして、各地物種別コードCfに関連付けられて当該地物種別に設定された複数箇所の測定点Pの測定点番号Mnと、各測定点番号Mnの測定点Pについての測定点形態情報Maとが格納されている。
測定点Pは、対象地物上に設定された特定の位置である。この測定点Pが、後述する画像認識部7における画像認識の対象となるとともに、位置関係演算部8における自車両Cと対象地物との位置関係の演算の際の基準となる。そして、測定点形態情報Maは、地物の全体形態の中での複数箇所の測定点Pの配置として規定されている。図5及び図6の(a)〜(f)は、複数の地物種別についての測定点Pの配置の例を示している。すなわち、(a)は「横断歩道」、(b)は「停止線」、(c)は「横断歩道予告(横断歩道あり)」、(d)は「進行方向別通行区分」、(e)は「転回禁止」、(f)は「最高速度」の各地物種別についての測定点Pの配置(すなわち測定点形態情報Ma)を示している。図5及び図6における括弧内の番号は、各測定点Pの測定点番号Mnを示している。これらの図に示すように、測定点Pは、一つの地物種別の地物について少なくとも2箇所以上に設定されている。そして、各測定点Pは、各地物種別の地物の輪郭形状に応じて、主として自車両Cの進行方向dに略直交する輪郭線上、又は輪郭形状が角部を有する場合には当該角部上に設定されている。また、測定点Pは、文字どおりの点には限定されず、測定点Pの位置を自車両Cの進行方向dに略直交する方向に延長した線としても設定される。これは、本例では、後述する自車位置補正部9において自車両Cの進行方向dの位置を補正することから、進行方向dに直交する方向の位置は問題とならないことによるものである。
また本例では、各測定点Pの測定点番号Mnが、各測定点Pの優先度を表している。すなわち、ここでは、測定点番号Mnの値が測定点Pの優先順位となっている。そして、図5及び図6の(a)〜(f)に示すように、測定点番号Mnは、一つの対象地物についての複数箇所の測定点Pに関して、自車両Cの進行方向dの最前方に位置する測定点Pから順に1、2、3・・・と測定点番号Mnを設定している。したがって、一つの対象地物についての複数箇所の測定点Pに関して、優先順位は自車両Cの進行方向dの最前方に位置する測定点Pから順に1、2、3・・・となる。すなわち、自車両Cの進行方向dの前方に位置する測定点Pの優先度は、進行方向dの後方に位置する測定点Pの優先度より高く設定されている。このように各測定点Pの優先度を設定することにより、自信度の高い状態で認識された測定点Pが自信度の低い状態で認識された測定点Pより優先されることになる。
ここで、自信度とは、少なくとも画像情報Gに含まれる地物の画像がそのとき対象としている対象地物であることの確実性を表す尺度であり、後述する自信度判定部16により判定される。この自信度は、自車両Cの進行に従って当該地物が画像認識可能な状態で撮像された画像情報Gのフレーム数が増えるに従って高まる。特に、例えば図7の(d)〜(f)に示すように、一フレームの画像情報G中に対象地物の全体が納まらない場合等には、複数フレームの画像情報Gを用いることにより、画像情報Gに含まれる地物の画像がそのとき対象としている対象地物であることの確実性が高まる。したがって、自車両Cの進行方向dの前方に位置する測定点Pの優先度を高く設定することにより、自信度の高い状態で認識された測定点Pがより優先されることになる。これにより、画像認識部7において測定点Pの誤認識が発生することを抑制できる。特に、自車両Cの進行方向dに大きい対象地物の画像認識を行う場合等のように、一フレームの画像情報G中に対象地物の全体が納まらない場合に、測定点Pの誤認識を効果的に抑制できる。なお、図5(b)の「停止線」のように、自車両Cの進行方向dに小さい対象地物については、進行方向dの後方に位置する測定点Pの優先度を高く設定してもよい。
次に、図5及び図6の(a)〜(f)に示す各地物種別の地物についての測定点Pの配置の具体例について順に説明する。これらの図において、測定点Pは太い破線で示している。図5(a)の「横断歩道」の場合、測定点Pは、自車両Cの進行方向dに長い複数の平行な帯状の輪郭線のそれぞれの前方及び後方の短辺をつないだ直線状の2箇所に設定されている。図5(b)の「停止線」の場合、測定点Pは、自車両Cの進行方向dに直交する前方及び後方の長辺上に配置された直線状の2箇所に設定されている。図5(c)の「横断歩道予告(横断歩道あり)」の場合、測定点Pは、外周側及び内周側のそれぞれの菱形における、自車両Cの進行方向dの最前方側の角部にそれぞれ点状の2箇所に設定されている。図6(d)の「進行方向別通行区分」の場合、測定点Pは、直進方向を示す矢印の最前方側の角部に点状の1箇所、及び当該矢印の首部の自車両Cの進行方向dに直交する線上に配置された直線状の1箇所の合計2箇所に設定されている。図6(e)の「転回禁止」の場合、測定点Pは、U字状の矢印の湾曲部の外周側及び内周側のそれぞれにおける自車両Cの進行方向dの最前方側の頂点を通る接線方向に延びる直線状の2箇所、及び当該矢印の首部の自車両Cの進行方向dに直交する線上に配置された直線状の1箇所の合計3箇所に設定されている。図6(f)の「最高速度」の場合、測定点Pは、「0」の字の湾曲部の外周側及び内周側のそれぞれにおける自車両Cの進行方向dの最前方側の頂点を通る接線方向に延びる直線状の2箇所に設定されている。
以上のような各地物種別の地物についての測定点Pの配置の情報が、測定点形態情報Maとなる。なお、これらの各測定点Pは、走行中の自車両Cからの画像認識によりエッジを認識し易く、自車両Cと測定点Pとの距離の認識が比較的容易な位置に設定されている。なお、上記のように設定された各測定点Pのうち、直線状に設定された各測定点Pは、当該線上の中央等のいずれか一点の点状に設定しても好適である。また、点状に設定された各測定点Pは、進行方向dに略直交する直線状に設定しても好適である。
5.測定点状態データベースDB4
図2に示すように、測定点状態情報格納手段としての測定点状態データベースDB4には、複数の地物の各測定点Pについて、画像認識の困難性に関する状態を示す測定点状態情報Mbが格納されている。上記のとおり測定点形態データベースDB3に格納されている情報に従い、各地物にはその地物種別に応じて複数箇所の測定点Pが設定されており、各測定点Pに測定点番号Mn(=1、2、・・・)が設定されている。そして、各地物に固有の地物識別符号IDfに関連付けられて、当該地物に設定された複数箇所の測定点Pの測定点番号Mnと、各測定点番号Mnの測定点Pについての測定点状態情報Mbとが格納されている。なお、この地物識別符号IDfは、地物配置データベースDB2と共通の符号である。
測定点状態情報Mbは、後述する画像認識部7による画像認識の困難性に関する状態を示す情報である。したがって、測定点状態情報Mbには、例えば、対象地物における各測定点Pの周辺のかすれや汚れの情報等、測定点Pの画像認識に影響を与える各種の情報が含まれる。本例では、測定点状態情報Mbは、各測定点Pの周辺のかすれや汚れ等を考慮して画像認識の困難性を予め判断した結果を、画像認識が可能であることを示す「OK」又は画像認識が困難であることを示す「NG」のいずれかで表す情報としている。この測定点状態情報Mbを用いれば、画像認識部7において、対象地物のかすれや汚れの程度等を考慮して測定点Pの画像認識を行うことが可能となる。したがって、無駄な画像認識処理を省いて演算負荷を軽減できるとともに、測定点Pの位置の誤認識が生じることを抑制できる。
6.地物情報生成部3
地物情報生成部3は、地物情報Fを生成する地物情報生成手段、及び地物情報Fを取得する地物情報取得手段として機能する。すなわち、地物情報生成部3は、自車位置演算部5から取得した自車位置情報Sを指定位置とし、その位置近傍の地物の地物配置情報Fc及び地物種別情報Fbを地物配置データベースDB2から取得する。また、地物情報生成部3は、取得された地物種別情報Fbに従って当該地物種別の地物形態情報Faを地物形態データベースDB1から取得する。そして、これらの地物配置情報Fc及び地物形態情報Faに基づいて、自車位置情報Sに示される位置近傍の地物の道路面上における配置及び形態を示す地物情報Fを生成して取得する。この地物情報生成部3により生成された地物情報Fは、図1に示すように、測定点情報生成部4及び画像認識部7に出力される。
ここでは、地物情報生成部3は、自車位置情報Sに基づいて、撮像装置14により撮像される対象地物についての地物情報Fを生成して取得する。本例では、地物情報生成部3は、自車両Cの進行方向dに存在し、自車両Cが進行することにより撮像装置14により撮像されることになる一つの対象地物についての地物情報Fを、撮像装置14により撮像される前に先行的に生成して取得することとしている。具体的には、地物情報生成部3は、自車位置情報Sに基づいて、自車両Cの進行方向dの所定距離内に存在し、自車両Cが進行することにより撮像装置14により撮像されることになる対象地物を一つ、地物配置情報Fcに基づいて地物配置データベースDB2から抽出する。ここで、自車両Cからの所定距離は、例えば、50〔m〕や100〔m〕等に設定することができる。また、抽出された対象地物についての地物種別情報Fb及び地物配置情報Fcを地物配置データベースDB2から取得する。次に、地物情報生成部3は、取得された地物種別情報Fbに従って当該地物種別の地物形態情報Faを地物形態データベースDB1から取得する。そして、本例では、抽出された対象地物の同じ地物識別符号IDfに、これらの地物形態情報Fa、地物種別情報Fb及び地物配置情報Fcを組み合わせて一つの地物情報Fを生成する。ここで、地物配置情報Fcは、上記のとおり複数個の代表点Rの地図上の位置情報である。そして、地物情報Fに含まれる地物形態情報Faは、法令によって規定されていない箇所の寸法を変化させることにより、対象地物の輪郭形状を、複数個の代表点Rの地図上の配置に合わせて変形させて調整した輪郭情報とされている。
7.測定点情報生成部4
測定点情報生成部4は、測定点情報を生成する測定点情報生成手段、及び測定点情報を取得する測定点情報取得手段として機能する。すなわち、測定点情報生成部4は、地物情報生成部3から出力された地物情報Fに基づいて、当該地物情報Fに示される対象地物の複数箇所の測定点Pについて、その形態情報及び位置情報を含む測定点情報Mを生成して取得する。そのため、測定点情報生成部4は、まず、地物情報Fに含まれる地物種別情報Fbに示される地物種別に対応する測定点形態情報Maを、測定点形態データベースDB3から取得する。また、測定点情報生成部4は、取得した測定点形態情報Maと、地物情報Fとに基づいて測定点Pの位置情報を導出する。そして、測定点情報生成部4は、地物情報Fに示される対象地物の複数箇所の測定点Pの形態情報及び位置情報を含む測定点情報Mを生成して取得する。この測定点情報生成部4により生成された測定点情報Mは、図1に示すように、画像認識部7及び自車位置補正部9に出力される。
測定点情報Mを構成する測定点Pの位置情報は、測定点形態データベースDB3から取得した測定点形態情報Maと、地物情報生成部3から出力された地物情報Fとに基づいて導出する。具体的には、地物情報Fに含まれている地物形態情報Fa及び地物配置情報Fcにより、当該地物情報Fに係る対象地物の複数個の代表点Rの地図上の位置、及び当該複数個の代表点Rの地図上の配置に合わせて変形させて調整した当該対象地物の輪郭形状が表されている。また、測定点形態情報Maは、地物の全体形態の中での複数箇所の測定点Pの配置として規定されている。したがって、これらの情報を組み合わせ、地物情報Fに係る対象地物の地図上の配置を基準として測定点形態情報Maに示される複数箇所の測定点Pのそれぞれの位置を導出することにより、地図上における各測定点Pの位置を示す位置情報を取得する。すなわち、対象地物についての地物配置情報Fcが示す代表点Rの地図上の位置と、地物形態情報Faが示す当該対象地物の輪郭形状とから、当該対象地物の地図上の輪郭形状の配置が導出される。また、対象地物の測定点形態情報Maは、当該対象地物の全体形態を表す輪郭形状の中の複数箇所の測定点Pの配置を示している。したがって、これらの情報を組み合わせることにより、双方の輪郭形状の情報を介して地図上における測定点Pの配置を示す位置情報を演算して導出することができる。なお、演算した結果、測定点Pの位置が、代表点Rの位置と一致し、又は代表点Rをつなぐ線上に一致する場合もあり得る。一方、測定点情報Mを構成する測定点Pの形態情報は、測定点形態データベースDB3から取得した測定点形態情報Maの内容と同一とすることができる。
また、本例では、測定点情報生成部4は、地物情報生成部3から出力された地物情報Fの地物識別符号IDfに基づいて、同じ地物識別符号IDfの測定点状態情報Mbを測定点状態データベースDB4から抽出して取得する。よって、測定点情報生成部4は、測定点状態情報を取得する測定点状態情報取得手段としても機能する。測定点状態情報Mbは、上記のとおり、対象地物の複数箇所の測定点Pのそれぞれについての画像認識の困難性に関する状態を示す情報である。そして、測定点情報生成部4は、この地物識別符号IDfに、上記の測定点Pの位置情報及び形態情報、並びに測定点状態情報Mbを組み合わせて一つの測定点情報Mを生成する。
以上のとおり、地物形態データベースDB1、地物配置データベースDB2、及び地物情報生成部3、又はこれらに測定点形態データベースDB3、測定点状態データベースDB4、及び測定点情報生成部4を加えた構成が、地物情報F(及び測定点情報M)を生成して出力する地物情報出力装置2となる。
8.自車位置演算部5
自車位置演算部5は、自車両Cの現在位置を示す自車位置情報Sを取得する自車位置情報取得手段、及び地物情報生成部3に対して指定位置を入力する位置入力手段として機能する。ここでは、自車位置演算部5は、GPS受信機11、方位センサ12、及び距離センサ13と接続されている。ここで、GPS受信機11は、GPS(Global Positioning System)衛星からのGPS信号を受信する装置である。このGPS信号は、通常1秒おきに受信され、自車位置演算部5へ出力される。自車位置演算部5では、GPS受信機11で受信されたGPS衛星からの信号を解析し、自車の位置(緯度及び経度)、進行方位、移動速度等の情報を取得することができる。方位センサ12は、自車両Cの進行方位又はその進行方位の変化を検出するセンサである。この方位センサ12は、例えば、ジャイロセンサ、地磁気センサ、ハンドルの回転部に取り付けた光学的な回転センサや回転型の抵抗ボリューム、車輪部に取り付ける角度センサ等により構成される。そして、方位センサ5は、その検出結果を自車位置演算部5へ出力する。距離センサ13は、自車両Cの移動距離や車速を検出するセンサである。この距離センサ13は、例えば、車両のドライブシャフトやホイール等が一定量回転する毎にパルス信号を出力する車速パルスセンサ、自車両Cの加速度を検知するヨー・Gセンサ及び検知された加速度を2回積分する回路等により構成される。そして、距離センサ13は、その検出結果を自車位置演算部5へ出力する。
そして、自車位置演算部5は、これらのGPS受信機11、方位センサ12及び距離センサ13からの出力に基づいて、公知の方法により自車両Cの現在位置を特定する演算を行う。また、自車位置演算部5は、地図データベースDBmから自車位置周辺の地図情報Eを取得し、それに基づいて公知のマップマッチングを行うことにより自車両Cの現在位置を地図情報Eに示される道路上とする補正も行う。そして、この自車位置演算部5は、演算結果である自車両Cの現在位置の情報を自車位置情報Sとして地物情報生成部3及び自車位置補正部9へ出力する。この際、自車位置情報Sは、例えば、緯度及び経度で表された位置の情報として表される。
なお、自車位置演算部5により演算された自車位置情報Sの精度は、方位センサ12、車速センサ13及びGPS受信機11により受信したGPS信号の精度に大きく影響を受ける。このため、自車位置情報は数〔m〕から数十〔m〕程度の誤差を含んでいる可能性がある。
9.画像情報取得部6
画像情報取得部6は、自車両Cに搭載された撮像装置14により撮像した画像情報Gを取得する画像情報取得手段として機能する。撮像装置14は、例えばCCDセンサやCMOSセンサ等の撮像素子と、この撮像素子に光を導くための光学系を構成するレンズ等を有して構成される。この撮像装置14は、自車両Cの前方や後方に向けて搭載され、少なくとも自車両Cが走行する道路の路面が撮影されるように設けられる。このような撮像装置14としては、自車両Cの前方や後方の映像を撮像するために既に設けられている車載カメラが好適に用いられる。
画像情報取得部6は、撮像装置14により撮像したアナログの撮像情報を所定の時間間隔で取り込み、デジタル信号の画像情報Gに変換して画像メモリ15に格納する。この際の画像情報Gの取り込みの時間間隔は、例えば、10〜50ms程度とすることができる。これにより、画像情報取得部6は、自車両Cが走行中の道路面を撮像した複数フレームの画像情報Gをほぼ連続的に取得することができる。一旦画像メモリ15に格納された画像情報Gは、画像認識部7へ出力される。
10.画像認識部7
画像認識部7は、画像情報Gに含まれている対象地物についての複数箇所の測定点Pの画像認識を行う画像認識手段として機能する。画像認識部7は、主として測定点情報Mに含まれる形態情報に基づいて測定点Pの画像認識を行う。本例では、上記のとおり、地物情報生成部3は、自車両Cの進行方向dに存在し、自車両Cが進行することにより撮像装置14により撮像されることになる一つの対象地物についての地物情報Fを先行的に生成して取得する。そこで、画像認識部7は、地物情報生成部3から地物情報Fが出力された後に画像情報取得部6によりほぼ連続的に取得される複数フレームの画像情報Gに対して、当該地物情報Fに示される対象地物の複数箇所の測定点Pの画像認識を行う。具体的には、画像認識部7は、まず、画像情報Gに対する二値化処理やエッジ抽出処理等により、地物情報Fに示される対象地物の輪郭形状を抽出する。その後、測定点情報生成部4から出力された当該対象地物についての測定点情報Mに含まれる形態情報に基づいて、パターン認識処理により、画像情報Gの中に含まれる複数箇所の測定点Pの画像認識を行う。
この際、本例では、画像認識部7は、測定点情報Mに含まれる測定点状態情報Mbに基づいて、画像認識が困難とされた測定点P以外の測定点Pについて画像認識を行う。すなわち、上記のとおり、本例では、測定点状態情報Mbは、各測定点Pの周辺のかすれや汚れ等を考慮して画像認識の困難性を予め判断した結果を、画像認識が可能であることを示す「OK」又は画像認識が困難であることを示す「NG」のいずれかで表す情報としている。したがって、画像認識部7は、対象地物の複数箇所の測定点Pの中から測定点状態情報Mbが「OK」となっている測定点Pのみを対象として画像認識を実行する。これにより、かすれや汚れ等により画像認識が困難な状態となっている測定点Pの画像認識処理を省くことができるので、画像認識部7による演算負荷を軽減できるとともに、測定点Pの位置の誤認識が生じることを抑制できる。
また、画像認識部7は、自信度判定手段としての自信度判定部16を備えている。自信度判定部16は、少なくとも画像情報Gに含まれている地物の画像が地物情報生成部3から出力された地物情報Fが示す対象地物の画像であることの確実性を表す自信度を判定する。また、本例では、自信度は、当該対象地物について設定された複数箇所の測定点Pの画像認識部7による認識率も表す尺度としている。そして、自信度判定部16により判定された自信度が所定の閾値以上のときに、後述する位置関係演算部8及び自車位置補正部9において、当該対象地物についての測定点Pの画像認識結果を用いて自車位置情報Sを補正する処理を実行する。本例では、自信度は、画像情報Gに含まれる地物の画像がそのとき対象としている対象地物であることの確実性、及び当該対象地物について設定された複数箇所の測定点Pの画像認識率を表す尺度である。この自信度は、自車両Cの進行に従って当該対象地物が画像認識可能な状態で撮像された画像情報Gのフレーム数が増えるに従って、また、それにより当該対象地物の測定点Pの画像が認識されるに従って高まる。
具体的には、自信度は、地物の全体が1フレーム内に撮像されているか否かに関わらず、当該地物の地物種別を確定できる特徴的な形状の部分の輪郭形状を画像認識可能な画像情報Gのフレーム数に応じて高くなる。また、自信度は、当該地物が対象地物であるとした場合に、測定点情報生成部4から出力された測定点情報Mに基づいて、当該対象地物について予め設定された複数箇所の測定点Pの内の画像認識できた測定点Pの数が増えるに従って高くなる。本例では、自信度判定部16は、画像情報Gに含まれている地物の画像が対象地物の画像であることの確実性に関しては、地物種別毎の特徴的な形状の部分についての輪郭形状の画像認識の可否と、そのような画像認識が可能な画像情報Gのフレーム数とに応じた、対象地物であることの確実性を示すパラメータを、地物種別毎にそれぞれ規定したテーブル(図示せず)に従って決定する。そして、自信度判定部16は、前記パラメータと、当該対象地物について設定された複数箇所の測定点Pの画像認識率とに基づいて、自信度を決定する。ここでは、一例として、自信度は0〜100〔%〕の値で表すこととし、当該対象地物についての測定点Pの画像認識結果を用いて自車位置情報Sを補正する処理を実行するか否か自信度の閾値を、例えば70〔%〕とする。なお、この自信度の閾値は、状況に応じて適切な値を任意に設定することが可能である。
そこで次に、図7を用いて、対象地物に対する自車両Cの各位置での自信度の変化と画像認識の実行の可否の具体例について説明する。図7は、「進行方向別通行区分」の道路標示が対象地物である場合における自車両Cの対象地物に対する各位置での画像情報Gの例を示す図である。図7の(a)と(d)、(b)と(e)、(c)と(f)はそれぞれ対応しており、(d)〜(f)は、(a)〜(c)に示される自車両Cの各位置における画像情報Gの例をそれぞれ示している。この例では、撮像装置14として、自車両Cの後方の道路面を撮像するバックカメラを用いている。図7(a)に示される自車位置での画像情報Gには、(d)に示されるように対象地物の特徴的な形状の部分がほとんど含まれていない。また、ここまでの画像情報Gの各フレームにも当然に対象地物の特徴的な形状の部分は含まれていない。更に、この対象地物について設定された測定点Pの画像も含まれておらず、測定点Pの画像認識もできない。したがって、自信度は閾値未満の低い状態(例えば30〔%〕)である。図7(b)に示される自車位置での画像情報Gには、(e)に示されるように対象地物の特徴的な形状部分が多く含まれている。また、ここまでの画像情報Gの相当数のフレームにも対象地物の特徴的な部分は含まれている。更に、この対象地物について設定された測定点Pの一つの画像が含まれており、この測定点Pの画像認識が行われる。ここでは、測定点Pの直進方向を示す矢印の首部に設定された測定点番号Mnが「2」(優先順位が「2」)の測定点Pの画像認識が行われる。したがって、自信度は閾値以上に高くなっている状態(例えば80〔%〕)である。図7(c)に示される自車位置での画像情報Gには、(f)に示されるように対象地物の特徴的な形状部分を含む対象地物の全体が含まれている。また、ここまでの画像情報Gの相当数のフレームにも対象地物の特徴的な部分は含まれている。更に、この対象地物について設定されたもう一つの測定点Pの画像が含まれており、この測定点Pの画像認識が行われる。ここでは、測定点Pの直進方向を示す矢印の最前方側の角部に設定された測定点番号Mnが「1」(優先順位が「1」)の測定点Pの画像認識が行われる。したがって、自信度は最も高くなっている状態(例えば100〔%〕)である。
なお、画像認識部7は、一つの測定点Pの画像認識は、当該測定点Pが含まれている複数フレームの画像情報Gの中で、当該測定点Pの画像認識に最も適したフレームの画像情報Gを用いて行う。通常は、画像認識部7は、当該測定点Pが自車両Cから最も近い位置に撮像されているフレームの画像情報Gを用いて画像認識を行う。
11.位置関係演算部8
位置関係演算部8は、画像認識部7により認識された測定点Pの中の少なくとも一つの画像認識結果に基づいて自車両Cと当該測定点Pとの位置関係を演算する。また、位置関係演算部8は、画像認識部7により認識された1又は2以上の測定点Pの中の少なくとも一つを選択する選択手段としての測定点選択部17を備えている。ここでは、測定点選択部17は、一つの対象地物についての複数箇所の測定点Pのそれぞれに予め設定された優先度に基づいて、画像認識部7により認識された測定点Pの中から最も優先度の高い一つの測定点Pを選択する。本例では、各測定点Pの優先度は、上記のとおり、測定点番号Mnの値が示す測定点Pの優先順位により定まっている。したがって、例えば図7に示すように、優先順位が「1」の測定点Pと優先順位が「2」の測定点Pの両方が画像認識部7により認識された場合には、測定点選択部17は、優先順位が「1」の測定点Pを選択する。
そして、位置関係演算部8は、測定点選択部17により選択された測定点P(以下単に「選択測定点P」という。)の画像認識結果に基づいて自車両Cと当該選択測定点Pとの位置関係を演算する。すなわち、撮像装置14の自車両Cへの搭載位置及び撮像方向に基づいて、画像情報Gの一つのフレームを構成する画像中の各位置と自車両Cとの位置関係は定まる。したがって、位置関係演算部8は、画像認識部7による選択測定点Pの画像認識結果としての画像情報Gの一つのフレーム中における当該選択測定点Pの配置に基づいて、当該フレームに係る画像情報Gの撮像時の自車両Cと選択測定点Pとの位置関係を導出する。また、距離センサ13等により当該フレームに係る画像情報Gの撮像時から現在時点までの自車両Cの移動距離を導出する。そして、これらに基づいて、位置関係演算部8は、現在の自車両Cと選択測定点Pとの位置関係を演算して導出する。なお、この位置関係演算部8による演算処理は、上記自信度判定部16による自信度の判定結果が所定の閾値以上(例えば、70〔%〕以上)のときに行われる。
12.自車位置補正部9
自車位置補正部9は、位置関係演算部8による演算結果としての現在の自車両Cと選択測定点Pとの位置関係と、測定点情報Mに含まれる選択測定点Pの位置情報とに基づいて自車位置情報Sを補正する。すなわち、位置関係演算部8による演算結果から、現在の自車両Cと選択測定点Pとの位置関係が定まる。また、当該選択測定点Pについての測定点情報Mに含まれる位置情報は、当該選択測定点Pの地図上の正確な位置(緯度及び経度)を示している。したがって、これらの情報に基づいて、選択測定点Pの地図上の正確な位置を基準とする自車両Cの詳細位置を演算して導出することができる。そして、自車位置補正部9は、この自車両Cの詳細位置の演算結果に基づいて、自車位置演算部5から出力された現在の自車位置情報Sを補正する。これにより、自車両Cの位置を高精度に特定することができる。この自車位置補正部9から出力される補正後の自車位置情報S´は、ナビゲーション装置における自車位置表示や走行案内等、又は車両制御装置による操舵や加減速等といった自車両Cの走行制御等に利用される。
本例では、位置関係演算部8及び自車位置補正部9が、画像認識部7により認識された測定点Pの中の少なくとも一つの画像認識結果と、当該測定点Pの位置情報とに基づいて自車位置情報Sを補正する自車位置補正手段10として機能する。
13.自車位置認識方法
次に、本実施形態に係る自車位置認識装置1において実行される自車位置認識方法の具体例について、図8に示すフローチャートに従って説明する。まず、自車位置演算部5において、自車位置情報Sを取得する(ステップ#01)。次に、地物情報生成部3において、ステップ#01で取得した自車位置情報Sに基づいて、自車両Cの進行方向dの所定距離内に存在する対象地物を、地物配置情報Fcに基づいて地物配置データベースDB2から抽出する(ステップ#02)。自車両Cの進行方向dの所定距離内に対象地物が存在しない場合には(ステップ#03:NO)、処理はステップ#01へ戻り、新たな自車位置情報Sを取得する。一方、自車両Cの進行方向dの所定距離内に対象地物が存在する場合には(ステップ#03:YES)、地物情報生成部3において、当該対象地物についての地物情報Fを生成して取得する(ステップ#04)。次に、測定点情報生成部4において、ステップ#04で取得された地物情報Fに示される対象地物の複数箇所の測定点Pについての測定点情報Mを生成して取得する(ステップ#05)。
次に、画像情報取得部6において、撮像装置14により撮像した画像情報Gを取得する(ステップ#06)。ここで取得された画像情報Gは画像認識部7へ送られる。そして、画像認識部7において、画像情報Gに含まれている対象地物についての複数箇所の測定点Pの画像認識を行う(ステップ#07)。その後、自信度判定部16において、ステップ#04で取得された地物情報Fが示す対象地物の画像であることの確実性、及び当該対象地物について設定された複数箇所の測定点Pの画像認識率を表す自信度を判定する(ステップ#08)。この自信度が所定の閾値未満である場合には(ステップ#09:NO)、処理はステップ#06へ戻る。すなわち、その時点では以後のステップ#10へは進まず、次のフレームの画像情報Gを更に取得する。
一方、自信度が所定の閾値以上である場合には(ステップ#09:YES)、次に、測定点選択部17において、画像認識部7により認識された1又は2以上の測定点Pの中から最も優先度の高い一つの測定点Pを選択する(ステップ#10)。そして、位置関係演算部8において、ステップ#10で選択された選択測定点Pのステップ#09による画像認識結果に基づいて、自車両Cと当該選択測定点Pとの位置関係を演算する(ステップ#11)。次に、自車位置演算部5において、現在の自車位置情報Sを取得する(ステップ#12)。そして、自車位置補正部9において、ステップ#11による演算結果としての現在の自車両Cと選択測定点Pとの位置関係と、ステップ#05で取得された測定点情報Mに含まれる選択測定点Pの位置情報とに基づいて、ステップ#12で取得された現在の自車位置情報Sを補正し(ステップ#13)、補正後の自車位置情報S´が出力される。以上で、自車位置認識方法に係る処理は終了する。
〔第二の実施形態〕
次に、本発明の第二の実施形態について説明する。図9は、本実施形態に係るナビゲーション装置30及び車両制御装置31の両方を兼ねる装置の概略構成を示すブロック図である。この図に示すように、この装置は、上記第一の実施形態に係る自車位置認識装置1に加えて、地図情報格納手段としての地図データベースDBmから地図情報Eを取得する地図情報取得部21と、自車両Cの走行制御を行うための走行制御部22と、自車両Cの進路案内のための各種演算処理を行うナビゲーション用演算部23とを備えている。また更に、任意の情報を表示可能な表示手段としてのモニタ24と、任意の音声情報を出力可能な音声出力手段としてのスピーカ25とを備えている。
地図情報取得部21は、自車位置認識装置1の自車位置演算部5から出力される自車位置情報Sに基づいて、自車両Cの進行方向dを含む周辺の地図情報Eを地図データベースDBmから取得する。この地図情報取得部21により取得された自車両Cの周辺の地図情報Eは、走行制御部22及びナビゲーション用演算部23へ出力される。
また、自車位置認識装置1からは、自車位置補正部9による補正後の自車位置情報S´が、走行制御部22及びナビゲーション用演算部23へ出力される。走行制御部22は、地図情報取得部21から出力された自車両Cの進行方向dの地図情報Eと、自車位置認識装置1から出力された補正後の自車位置情報S´とに基づいて、自車両Cの走行制御のための演算処理を行い、車両各部に対する制御命令を出力する。具体的には、走行制御部22は、自車両Cの進行方向dの地図情報Eに含まれる道路形状、或いは停止線や信号機等の各種地物の情報等に基づいて、例えばレーンキープ、衝突防止、事故防止等のための操舵や加減速等といった自車両Cの走行制御を行う。
ナビゲーション用演算部23は、地図情報取得部21から出力された自車両Cの周辺の地図情報Eと、自車位置認識装置1から出力された補正後の自車位置情報S´とに基づいて、自車両Cの進路案内のための各種演算処理を行い、モニタ24及びスピーカ25の一方又は双方に対する制御命令を出力する。具体的には、ナビゲーション用演算部23は、自車両Cの周辺の地図情報Eに基づいて生成される地図画像上に、補正後の自車位置情報S´に基づく詳細な自車位置を示す画像を重ねてモニタ24に表示する。また、自車両Cの進行方向dの地図情報Eに含まれる道路形状等と、補正後の詳細な自車位置情報S´とに基づいて、正確なタイミングで進路案内のための運転者への報知を、モニタ24及びスピーカ25の一方又は双方を用いて行う。
〔その他の実施形態〕
(1)上記の実施形態では、地物形態データベースDB1に格納する地物形態情報Faに、地物の輪郭形状を示す輪郭情報と、法令によって規定されており寸法が変化しない箇所に関する情報とが含まれる場合について説明した。しかし、地物形態情報Faとして格納する情報はこれらに限定されない。したがって、例えば各地物種別の地物の色彩情報や模様情報等を備える構成としても好適である。
(2)上記の実施形態では、地物配置データベースDB2に格納される地物配置情報Fcを、各地物の外形上に配置された複数個の代表点Rの位置情報により構成する場合について説明した。しかし、各地物の位置及び方向を示す地物配置情報Fcの構成は、これに限定されない。すなわち、各地物の位置及び方向を表すことが可能な情報であればよく、例えば、各地物の重心の位置情報と方向を示す単位ベクトルとにより構成することも好適な実施形態の一つである。
(3)上記の実施形態では、地物情報生成部3は、自車両Cの進行方向dに存在する対象地物についての地物情報Fを、撮像装置14により撮像される前に先行的に生成して取得し、当該地物情報F及びそれに基づいて生成された測定点情報Mを用いて測定点Pの画像認識を行う場合を例として説明した。しかし、地物情報F及び測定点情報Mを取得するタイミングはこれに限定されない。すなわち、例えば、各フレームの画像情報Gが取得されるのと同時に、当該画像情報Gに係る撮像領域内に含まれる対象地物についての地物情報F及び測定点情報Mを生成して取得し、それらを用いて当該画像情報Gに対する測定点Pの画像認識を行う構成とすることも好適な実施形態の一つである。
(4)上記の実施形態では、一つの対象地物についての複数箇所の測定点Pの優先度が、地物種別毎に予め定められた優先順位としての測定点番号Mnによって定まる場合を例として説明した。しかし、各測定点Pの優先度の決定方法はこれに限定されない。したがって、例えば、優先度を、画像認識の状態や自車両Cの走行状態等に応じて、条件の良い測定点の優先度が高くなるように、その都度演算して優先度を決定する構成とすることも好適な実施形態の一つである。
(5)上記の実施形態では、測定点情報Mを構成する測定点Pの位置情報を、測定点形態情報Maと地物情報Fとに基づいて演算して導出する場合について説明した。しかし、測定点Pの位置情報を取得する方法はこれに限定されない。すなわち、例えば、測定点配置データベースを更に備え、複数の地物の各測定点Pについてその位置情報を格納する構成とすることも本発明の好適な実施形態の一つである。この場合、各地物に固有の地物識別符号IDfに関連付けられて、当該地物に設定された複数箇所の測定点Pの測定点番号Mnと、各測定点番号Mnの測定点Pについての位置情報とが格納された構成とすると好適である。
(6)上記の実施形態では、測定点選択部17により、画像認識部7により認識された測定点Pの中の1つの測定点Pを選択し、当該測定点Pの情報を用いて詳細な自車位置を演算して自車位置情報Sを補正する場合について説明した。しかし、測定点選択部17により2個以上の測定点Pを選択し、複数の測定点Pの情報を用いて詳細な自車位置を演算して自車位置情報Sを補正する構成とすることも本発明の好適な実施形態の一つである。この場合、例えば、複数の測定点Pのそれぞれについて上記実施形態と同様に詳細な自車位置を演算し、複数の詳細な自車位置の平均を最終的な詳細自車位置とする構成とすると好適である。
(7)上記の実施形態では、自信度判定部16により、少なくとも画像情報Gに含まれる地物の画像がそのとき対象としている対象地物であることの確実性を表す自信度を判定し、その自信度が所定の閾値以上であるときに、当該地物についての測定点Pの画像認識結果を用いて自車位置情報Sの補正を実行する例について説明した。しかし、このような自信度判定部16を備えず、自信度に関係なく測定点Pの画像認識結果を用いて自車位置情報Sの補正を行う構成とすることも当然に可能である。
本発明によれば、自車両に搭載された撮像装置により撮像した画像情報を用いて詳細に自車位置の認識を行うことができるので、例えばナビゲーション装置や車両制御装置等に利用可能な自車位置認識装置又は自車位置認識方法を実現できる。
本発明の第一の実施形態に係る自車位置認識装置の全体構成を模式的に示すブロック図 図1に示される各データベースに格納される情報の内容を示す説明図 複数の地物種別の地物の輪郭形状及び代表点の位置の例を示す図 地図データベースに格納されている地図情報の内容を示す説明図 複数の地物種別についての測定点の配置の例を示す図(1) 複数の地物種別についての測定点の配置の例を示す図(2) 自車両の対象地物に対する各位置での画像情報の例を示す図 本発明の第一の実施形態に係る自車位置認識方法を示すフローチャート 本発明の第二の実施形態に係るナビゲーション装置30及び車両制御装置31の両方を兼ねる装置の概略構成を示すブロック図
符号の説明
1:自車位置認識装置
2:地物情報出力装置
3:地物情報生成部(地物情報取得手段)
4:測定点情報生成部(測定点情報取得手段、測定点状態情報取得手段)
5:自車位置演算部(自車位置情報取得手段)
6:画像情報取得部(画像情報取得手段)
7:画像認識部(画像認識手段)
8:位置関係演算部
9:自車位置補正部
10:自車位置補正手段
14:撮像装置
16:自信度判定部(自信度判定手段)
17:測定点選択部(選択手段)
24:モニタ(表示手段)
25:スピーカ(音声出力手段)
30:ナビゲーション装置
31:車両制御装置
DB1:地物形態データベース
DB2:地物配置データベース
DB3:測定点形態データベース(測定点形態情報格納手段)
DB4:測定点状態データベース
DBm:地図データベース(地図情報格納手段)
E:地図情報
F:地物情報
M:測定点情報
S:自車位置情報
S´:補正後の自車位置情報
G:画像情報
R:代表点
C:自車両
d:自車両の進行方向
Fa:地物形態情報
Fb:地物種別情報
Fc:地物配置情報
Ma:測定点形態情報
Mb:測定点状態情報

Claims (11)

  1. 自車両に搭載された撮像装置により撮像した画像情報を取得する画像情報取得手段と、
    自車両の現在位置を示す自車位置情報を取得する自車位置情報取得手段と、
    前記自車位置情報に基づいて、前記撮像装置により撮像される対象地物の地物情報を取得する地物情報取得手段と、
    前記地物情報に基づいて、前記対象地物の地物種別に応じて予め定められた複数箇所の測定点について、その形態情報及び位置情報を含む測定点情報を取得する測定点情報取得手段と、
    前記測定点情報に含まれる前記形態情報に基づいて、前記画像情報に含まれている前記対象地物についての前記複数箇所の測定点の画像認識を行う画像認識手段と、
    前記画像認識手段により認識された前記測定点の中の少なくとも一つの画像認識結果と、当該測定点の前記位置情報とに基づいて前記自車位置情報を補正する自車位置補正手段と、
    を備える自車位置認識装置。
  2. 前記測定点は、各地物種別の地物の輪郭形状に応じて、自車両の進行方向に略直交する輪郭線上、又は前記輪郭形状が角部を有する場合には当該角部上に設定されている請求項1に記載の自車位置認識装置。
  3. 一つの前記対象地物についての前記複数箇所の測定点のそれぞれに予め設定された優先度に基づいて、前記画像認識手段により認識された測定点の中から前記優先度の高い順に、少なくとも一つを選択する選択手段を更に備え、
    前記自車位置補正手段は、前記選択手段により選択された少なくとも一つの測定点の画像認識結果と、当該測定点の前記位置情報とに基づいて前記自車位置情報を補正する請求項1又は2に記載の自車位置認識装置。
  4. 一つの前記対象地物についての前記複数箇所の測定点に関して、自車両の進行方向前方に位置する測定点の優先度を、進行方向後方に位置する測定点の優先度より高く設定している請求項3に記載の自車位置認識装置。
  5. 前記対象地物の各測定点について、画像認識の困難性に関する状態を示す測定点状態情報を取得する測定点状態情報取得手段を更に備え、
    前記画像認識手段は、前記測定点状態情報に基づいて認識困難とされた測定点以外の測定点について画像認識を行う請求項1から4のいずれか一項に記載の自車位置認識装置。
  6. 各地物種別の対象地物についての前記複数箇所の測定点の形態情報を、地物の全体形態の中での複数箇所の測定点の配置として規定し、地物種別毎に格納した測定点形態情報格納手段を更に備え、
    前記測定点情報取得手段は、前記対象地物の地物種別に対応する前記測定点の形態情報を、前記測定点形態情報格納手段から取得する請求項1から5のいずれか一項に記載の自車位置認識装置。
  7. 前記測定点情報取得手段は、前記地物情報に含まれる前記対象地物の位置及び形態を示す情報と、前記測定点形態情報格納手段に格納された前記対象地物の地物種別に対応する前記測定点の形態情報とに基づいて、前記測定点の位置情報を導出して取得する請求項6に記載の自車位置認識装置。
  8. 少なくとも前記画像情報に含まれている地物の画像が前記対象地物の画像であることの確実性を表す自信度を判定する自信度判定手段を更に備え、
    前記自車位置補正手段は、前記自信度が所定の閾値以上のときに、当該地物についての前記測定点の画像認識結果を用いて前記自車位置情報の補正を行う請求項1から7のいずれか一項に記載の自車位置認識装置。
  9. 前記請求項1から8の何れか一項に記載の自車位置認識装置と、地図情報を格納した地図情報格納手段と、を備え、
    前記地図情報格納手段から取得した自車両の進行方向の地図情報と、前記自車位置補正手段による補正後の自車位置情報とに基づいて、自車両の走行制御を行う車両制御装置。
  10. 前記請求項1から8の何れか一項に記載の自車位置認識装置と、地図情報を格納した地図情報格納手段と、任意の情報を表示可能な表示手段及び任意の音声情報を出力可能な音声出力手段の一方又は双方と、を備え、
    前記地図情報格納手段から取得した自車両の周辺の地図情報と、前記自車位置補正手段による補正後の自車位置情報とに基づいて、前記表示手段及び前記音声出力手段の一方又は双方を用いて自車両の進路案内を行うナビゲーション装置。
  11. 自車両に搭載された撮像装置により撮像した画像情報を取得する画像情報取得ステップと、
    自車両の現在位置を示す自車位置情報を取得する自車位置情報取得ステップと、
    前記自車位置情報に基づいて、前記撮像装置により撮像される対象地物の地物情報を取得する地物情報取得ステップと、
    前記地物情報に基づいて、前記対象地物の地物種別に応じて予め定められた複数箇所の測定点について、その形態情報及び位置情報を含む測定点情報を取得する測定点情報取得ステップと、
    前記測定点情報に含まれる前記形態情報に基づいて、前記画像情報に含まれている前記対象地物についての前記複数箇所の測定点の画像認識を行う画像認識ステップと、
    前記画像認識ステップにより認識された前記測定点の中の少なくとも一つの画像認識結果と、当該測定点の前記位置情報とに基づいて前記自車位置情報を補正する自車位置補正ステップと、
    を備える自車位置認識方法。
JP2006100467A 2006-03-31 2006-03-31 自車位置認識装置及び自車位置認識方法 Expired - Fee Related JP4731380B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006100467A JP4731380B2 (ja) 2006-03-31 2006-03-31 自車位置認識装置及び自車位置認識方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006100467A JP4731380B2 (ja) 2006-03-31 2006-03-31 自車位置認識装置及び自車位置認識方法

Publications (2)

Publication Number Publication Date
JP2007271568A true JP2007271568A (ja) 2007-10-18
JP4731380B2 JP4731380B2 (ja) 2011-07-20

Family

ID=38674503

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006100467A Expired - Fee Related JP4731380B2 (ja) 2006-03-31 2006-03-31 自車位置認識装置及び自車位置認識方法

Country Status (1)

Country Link
JP (1) JP4731380B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009087716A1 (ja) * 2008-01-07 2009-07-16 Panasonic Corporation 画像変形方法、画像表示方法、画像変形装置、および画像表示装置
EP2113746A1 (en) 2007-12-27 2009-11-04 Aisin AW Co., Ltd. Feature information collecting device and feature information collecting program, and vehicle position recognizing device and navigation device
JP2011154480A (ja) * 2010-01-26 2011-08-11 Fujitsu Ltd 車線検出プログラム及び車線検出装置
EP2472229A1 (en) 2010-12-28 2012-07-04 Aisin AW Co., Ltd. Navigation device, associated method and computer program product
US20130162824A1 (en) * 2011-12-22 2013-06-27 Electronics And Telecommunications Research Institute Apparatus and method for recognizing current position of vehicle using internal network of the vehicle and image sensor
JP2016223847A (ja) * 2015-05-28 2016-12-28 日産自動車株式会社 自車位置判定装置及び自車位置判定方法
JP2018059744A (ja) * 2016-10-03 2018-04-12 株式会社Soken 自車位置認識装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09243389A (ja) * 1996-03-08 1997-09-19 Alpine Electron Inc 車載用ナビゲーション装置
JP2004045227A (ja) * 2002-07-12 2004-02-12 Alpine Electronics Inc 車両位置測定装置および方法
JP2007147564A (ja) * 2005-11-30 2007-06-14 Aisin Aw Co Ltd 画像認識装置及び方法、並びに自車位置認識装置及び方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09243389A (ja) * 1996-03-08 1997-09-19 Alpine Electron Inc 車載用ナビゲーション装置
JP2004045227A (ja) * 2002-07-12 2004-02-12 Alpine Electronics Inc 車両位置測定装置および方法
JP2007147564A (ja) * 2005-11-30 2007-06-14 Aisin Aw Co Ltd 画像認識装置及び方法、並びに自車位置認識装置及び方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2113746A1 (en) 2007-12-27 2009-11-04 Aisin AW Co., Ltd. Feature information collecting device and feature information collecting program, and vehicle position recognizing device and navigation device
US8379923B2 (en) 2007-12-27 2013-02-19 Aisin Aw Co., Ltd. Image recognition processing device, method, and program for processing of image information obtained by imaging the surrounding area of a vehicle
WO2009087716A1 (ja) * 2008-01-07 2009-07-16 Panasonic Corporation 画像変形方法、画像表示方法、画像変形装置、および画像表示装置
JP2011154480A (ja) * 2010-01-26 2011-08-11 Fujitsu Ltd 車線検出プログラム及び車線検出装置
EP2472229A1 (en) 2010-12-28 2012-07-04 Aisin AW Co., Ltd. Navigation device, associated method and computer program product
CN102589560A (zh) * 2010-12-28 2012-07-18 爱信艾达株式会社 导航装置、导航方法及导航程序
US8924153B2 (en) 2010-12-28 2014-12-30 Aisin Aw Co., Ltd. Navigation device, navigation method, and navigation program
CN102589560B (zh) * 2010-12-28 2015-05-06 爱信艾达株式会社 导航装置、导航方法及导航程序
US20130162824A1 (en) * 2011-12-22 2013-06-27 Electronics And Telecommunications Research Institute Apparatus and method for recognizing current position of vehicle using internal network of the vehicle and image sensor
US9208389B2 (en) * 2011-12-22 2015-12-08 Electronics And Telecommunications Research Institute Apparatus and method for recognizing current position of vehicle using internal network of the vehicle and image sensor
JP2016223847A (ja) * 2015-05-28 2016-12-28 日産自動車株式会社 自車位置判定装置及び自車位置判定方法
JP2018059744A (ja) * 2016-10-03 2018-04-12 株式会社Soken 自車位置認識装置

Also Published As

Publication number Publication date
JP4731380B2 (ja) 2011-07-20

Similar Documents

Publication Publication Date Title
JP4886597B2 (ja) レーン判定装置及びレーン判定方法、並びにそれを用いたナビゲーション装置
JP4321821B2 (ja) 画像認識装置及び画像認識方法
EP2372304B1 (en) Vehicle position recognition system
JP4703605B2 (ja) 地物抽出方法、並びにそれを用いた画像認識方法及び地物データベース作成方法
JP4761156B2 (ja) 地物位置認識装置及び地物位置認識方法
JP4831434B2 (ja) 地物情報収集装置及び地物情報収集プログラム、並びに自車位置認識装置及びナビゲーション装置
EP2372309B1 (en) Vehicle position detection system
JP4950858B2 (ja) 画像認識装置及び画像認識プログラム
JP2006208223A (ja) 車両位置認識装置及び車両位置認識方法
JP4953012B2 (ja) 画像認識装置と画像認識装置のためのプログラム、及びこれを用いたナビゲーション装置とナビゲーション装置のためのプログラム
JP4731380B2 (ja) 自車位置認識装置及び自車位置認識方法
JP4596566B2 (ja) 自車情報認識装置及び自車情報認識方法
JP5141969B2 (ja) 画像認識装置及び画像認識プログラム、並びにそれを用いた地点情報収集装置及びナビゲーション装置
JP2007147564A (ja) 画像認識装置及び方法、並びに自車位置認識装置及び方法
US11861841B2 (en) Lane estimation device, method, and program
EP2096575A2 (en) Road sign recognition apparatus and road sign recognition method
JP2008298699A (ja) 自車位置認識装置及び自車位置認識方法
JP4775658B2 (ja) 地物認識装置・自車位置認識装置・ナビゲーション装置・地物認識方法
JP4831433B2 (ja) 自車位置認識装置及び自車位置認識プログラム、並びにナビゲーション装置
JP5010844B2 (ja) 地物情報出力装置、画像認識装置、及び自車位置認識装置
JP4497424B2 (ja) 地物認識装置及び地物認識方法、並びにそれを用いたレーン判定装置及びレーン判定方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090212

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20090828

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20090828

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100412

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20100426

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100426

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110324

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110419

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140428

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4731380

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees