JP2007183764A - 車載装置 - Google Patents

車載装置 Download PDF

Info

Publication number
JP2007183764A
JP2007183764A JP2006000906A JP2006000906A JP2007183764A JP 2007183764 A JP2007183764 A JP 2007183764A JP 2006000906 A JP2006000906 A JP 2006000906A JP 2006000906 A JP2006000906 A JP 2006000906A JP 2007183764 A JP2007183764 A JP 2007183764A
Authority
JP
Japan
Prior art keywords
information
sign
road
vehicle
storage means
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006000906A
Other languages
English (en)
Other versions
JP4836582B2 (ja
Inventor
Takeshi Tominaga
武之 冨永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2006000906A priority Critical patent/JP4836582B2/ja
Publication of JP2007183764A publication Critical patent/JP2007183764A/ja
Application granted granted Critical
Publication of JP4836582B2 publication Critical patent/JP4836582B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】予めカーナビに記録してある標識情報の数は道路上の標識数に比べ非常に少ないことや、カーナビに記録してある標識情報の更新頻度が少なく実際の道路標識との差異が問題となっていた。
【解決手段】撮像した画像から道路標識を抽出する標識抽出手段とカーナビゲーションで用いられる位置情報に対応する道路上の標識情報を予め保持するカーナビゲーション用情報記憶手段と車両の現在位置を取得する位置情報取得手段と経路案内時に標識情報の使用を判断する制御手段とを有する車載装置において、制御手段は、位置情報取得手段から得た自車位置情報に対応する標識情報がカーナビゲーション用情報記憶手段の道路標識情報中に存在する場合においても、撮像装置で取得した画像から該当する道路標識を抽出できた場合は、抽出した道路標識を表示装置に表示することを特徴とする。
【選択図】図2

Description

本発明は、車載カメラにより撮像された画像より道路標識等の情報を抽出し、表示手段に表示することが可能な道路標識等を画像表示する車載装置に関する。
車両の運転において、運転手は周囲の車両状況に加えて道路標識を視覚的に認識して判断する必要がある。しかしながら、道路標識を運転中に全て認識するのは困難であり、そのような道路標識の見落としにより、道路交通法の違反や進路誤りなどで目的地への到達時刻遅延などの恐れがあった。このような問題を解決するために、車載カメラで道路標識を含む画像を記録し蓄積された画像を表示する方法や、道路標識等の内容を音声に変換する方法で運転手の道路標識認識率向上を図る技術が提案されている。(例えば、特許文献1、特許文献2を参照)
特開平5−174294号公報 特開平6−036183号公報
しかしながら、従来の技術では、記録した道路標識情報とカーナビの経路案内と連携することについて十分に検討されていなかった。道路標識情報はカーナビの経路誘導時にディスプレイに表示されることあるが、予めカーナビに記録してある標識情報の数は道路上の標識数に比べ非常に少ないことや、カーナビに記録してある標識情報の更新頻度が少なく実際の道路標識との差異が問題となっていた。また、従来の技術ではカメラで撮像された標識情報は全て表示されるため運転手にとって重要な情報が表示される期間が減少し問題となっていた。また、従来の技術では一度記録した標識情報は履歴として参照するだけで、効果的に利用されていなかった。
本発明の目的は、上記背景技術の状況に鑑み、運転手による道路標識の認識率を向上させるだけでなく撮像された標識情報の記録データをカーナビに連動させ有効に利用することが可能な車載装置を提供し、運転手の利便性を向上させることである。
上記課題を解決するため、本発明では、前記車載撮像装置で撮像した画像から道路標識を抽出する標識抽出手段と、カーナビゲーションなどで用いられ、位置情報に対応する道路上の道路標識情報を予め保持するカーナビゲーション用情報記憶手段と、車両の現在位置を取得する位置情報取得手段と、経路案内時に標識情報の使用を判断する制御手段とを有し、前記制御手段は少なくとも、前記位置情報取得手段から得た自車位置情報に対応する標識情報が前記カーナビゲーション用情報記憶手段の道路標識情報中に存在する場合においても、前記撮像装置で取得した画像から該当する道路標識を抽出できた場合は、抽出した道路標識を表示装置に表示することを特徴し、これにより記憶している標識情報が古くなった場合でも常に最新の標識情報を表示することでドライバの標識情報への認識率を高めることができる。
また本発明では、前記車載撮像装置で撮像した画像から道路標識を抽出する標識抽出手段と、カーナビゲーションなどで用いられ、位置情報に対応する道路上の道路標識情報を予め保持するカーナビゲーション用情報記憶手段と、車両の現在位置を取得する位置情報取得手段と、撮像装置で取得した道路標識の画像を前記位置情報取得手段より取得した位置情報と関連付けて保持する標識情報記憶手段と、経路案内時に前記カーナビゲーション用情報記憶手段に保持された標識情報の使用を判断する制御手段と、を有し、前記制御手段は少なくとも、前記撮像装置で取得した画像から道路標識を抽出した場合、表示装置に出力すると共に、前記位置情報取得手段から自車位置情報を取得し、該自車位置情報に対応する標識情報の有無を前記ナビゲーション情報記憶手段で予め保持された道路標識情報中から検索し、存在しない場合は、撮影画像から抽出した道路標識画像を前記標識情報記憶手段に保持することを特徴とし、これにより撮像画像を記憶装置に蓄積することが可能となり、1度車両が通過した地域ではカーナビゲーションで予め用意された標識情報では対応できない範囲までドライバに情報を提供することが可能となり利便性が向上する。
また本発明では、前記制御装置は少なくとも、前記位置情報取得手段から得た自車位置情報に対応する標識情報が前記カーナビゲーション用情報記憶手段の道路標識情報、または標識情報記憶手段のどちらかに標識情報が存在し、前記撮像装置で取得した画像から道路標識を抽出できない場合、前記保持された標識情報を表示装置に出力することを特徴とし、これにより一度撮像した標識情報を位置に関連付けて記録しておくことにより夜間や悪天候または遮蔽物などにより撮像装置からの標識情報が読み取れない場合においても、標識情報の表示が可能である。
また、本発明では、前記車載撮像装置で撮像した画像から道路標識を抽出する標識抽出手段と、カーナビゲーションなどで用いられ、位置情報に対応する道路上の道路標識情報を予め保持するカーナビゲーション用情報記憶手段と、車両の現在位置を取得する位置情報取得手段と、現在時刻情報を取得する時刻情報取得手段と、撮像装置で取得した道路標識の画像を保持する標識情報記憶手段と、経路案内時に前記カーナビゲーション用情報記憶手段に保持された標識情報の使用を判断する制御手段と、を有し、前記制御手段は少なくとも、前記撮像装置で取得した画像から道路標識を抽出した場合、表示装置に出力すると共に、該道路標識情報と、前記位置情報取得手段より取得した位置情報と、前記時刻情報取得手段から取得した現在時刻情報と、を関連付けて前記標識情報記憶手段に保持することを特徴とし、これによりドライバは撮像され記録された道路標識情報を、該道路標識情報を取得した位置と時間と対応付けて参照することが可能となり利便性が向上する。
また、本発明では、前記制御装置は少なくとも、前記位置情報取得手段から得た自車位置情報に対応する標識情報が前記カーナビゲーション用情報記憶手段と標識情報記憶手段との両方に標識情報が存在し、前記撮像装置で取得した画像から道路標識を抽出できない場合、前記保持された標識情報のうち関連付けて保持された時間情報を比較し、新しい時間情報と関連付けたれた標識情報を表示装置に出力することを特徴とし、これにより本車載装置に同一地点に対する複数の標識情報が存在する場合においても、より新しい情報をドライバに提供することが可能となりドライバの利便性を向上させることが可能となる。
また、本発明では、前記制御装置は少なくとも、標識情報表示中に前記入力手段を用いてドライバからの非表示設定を受け付けた場合は、該非表示設定を前記ドライバ規定情報記憶手段に記憶することを特徴とし、これによりドライバは最適なタイミングで標識情報の取捨選択が可能となりドライバの利便性を向上させることが可能となる。
また、本発明では、前記制御装置は少なくとも、標識情報表示に際し前記ドライバ規定情報記憶手段に記憶されたドライバ規定情報を参照し、該当する標識情報の場合は非表示とすることを特徴とし、これによりドライバは一度設定した標識情報の取捨選択が全ての表示に適応されドライバの利便性を向上させることが可能となる。
以上説明したように、本発明によれば、記憶装置に記憶している標識情報が古くなった場合でも撮像装置で撮像した最新の標識情報を表示することでドライバの標識情報への認識率を高めることができる。
また、撮像画像を記憶装置に蓄積することが可能となり、1度車両が通過した地域ではカーナビゲーションで予め用意された標識情報では対応できない範囲までドライバに情報を提供することが可能となり利便性が向上する。
また、一度撮像した標識情報を位置関連付けて記録しておくことにより夜間や悪天候など撮像装置からの標識情報が読み取れない場合においても、標識情報の表示が可能である。
また、ドライバは撮像され記録された道路標識情報を、該道路標識情報を取得した位置と時間と対応付けて参照することが可能となり常に最新の情報をドライバに提供することが可能となる。
また、本車載装置に同一地点に対する複数の標識情報が存在する場合においても、より新しい情報をドライバに提供することが可能となりドライバの利便性を向上させることが可能となる。
また、ドライバは最適なタイミングで標識情報の取捨選択が可能となりドライバの利便性を向上させることが可能となる。
また、ドライバは一度設定した標識情報の取捨選択が全ての表示に適応されドライバの利便性を向上させることが可能となる。
以下、本発明の実施例につき図面を用いて説明する。
図1〜図4は本発明の実施例1の説明図である。図1は本発明の車載装置を用いた場合の概念図、図2は本発明である車載装置の構成図、図3および図4は図2の構成機器の動作説明図である。
本実施例1は車両に搭載した撮像装置で撮像した画像から抽出した道路標識情報をカーナビゲーション装置に記憶された道路標識情報より優先してドライバーに提示する場合の例である。
図1において、101は車両、102は車両に搭載された撮像装置、103は道路標識、104は本発明である車載装置、105は車両に搭載された表示装置、106は撮像装置102によって取り込まれた画像の中から抽出され、表示装置105上に表示された道路標識103の標識情報、107は表示装置105上に表示された車載装置で保持された標識情報、108は街路樹などの視覚遮蔽物である。
かかる構成において、車両101が道路上を走行し、車載装置102は道路上の画像を撮像する。該撮像した画像情報から車載装置104は道路標識103を検出し表示装置105に出力する。視覚遮蔽物108などにより道路標識を検出できなかった場合、車載装置は車両の位置情報から記憶された標識情報を検索し該当する標識情報107を検出した場合、表示装置105に出力する。
本例の撮像装置102としてはCMOSやCCDの撮像素子を持つカメラが考えられる。道路標識103としては規制標識,指示標識,警戒標識,案内標識などの本標識や交通信号機,道路標示,電柱広告等であっても良い。車載装置104としてはカーナビゲーション装置やカーナビゲーション装置とは別でCPU等の演算装置やメモリなどの記憶装置を持つ車載ユニットであっても良い。表示装置105は液晶ディスプレイやプラズマディスプレイや有機ELディスプレイなどの各種薄型表示装置や、ヘッドマウントディスプレイ、フロントガラスに映像を投影するようなヘッドアップディスプレイなどでも良い。視覚遮蔽物108は複数の道路標識の重なりや、道路標識自体の破損や、汚れなども考えられる。また、本例において表示動作等の表現方法は音声による通知でもよい。例えば表示装置は音声出力装置とし、スピーカ等が考えられる。この場合、抽出された標識情報106の表示は音声により「前方に案内標識。200m先、左方向で大阪方面。右方向で東京方面です。」等と標識内容を読み上げるよう変更しても良い。以降、本明細書において同様とする。
図2において、201は自車両周辺を撮像する撮像装置、202は撮像装置201で撮像した画像から道路標識を抽出する標識抽出手段、204は自車位置の情報を取得する位置情報取得手段、205はカーナビゲーションで用いる各種情報を記憶するカーナビゲーション用情報記憶手段、206はカーナビゲーション用情報記憶手段に予め保存され、設置された位置情報と関連付けられた標識情報、203は標識抽出手段により抽出された標識情報を表示装置105に出力するか制御する制御手段、また図1と同様の構成部品については同一符号を付す。
本例の標識抽出手段202としてはカーナビゲーション装置やカーナビゲーション装置とは別でCPU等の演算装置やメモリなどの記憶装置を持つ車載ユニットであって、識別のために標識パターンを保持し、撮像装置102より取得した撮像画像から合致する標識を認識する。制御手段203としてはカーナビゲーション装置やカーナビゲーション装置とは別でCPU等の演算装置やメモリなどの記憶装置を持つ車載ユニットであって、制御処理を実行するプログラムで構成される。位置情報取得手段204としてはGPSなどの位置検出装置や車両に装備された車速パルスやジャイロなどから自車位置を検出する装置などでも良い。カーナビゲーション情報記憶手段205としてはCDやDVD,またHDDなどの大容量記憶装置やフラッシュメモリカード等の記憶装置でも良い。
図3は、上記図2における撮像装置102、標識抽出手段202、表示装置105、カーナビゲーション用情報記憶手段205、標識情報206、位置情報取得手段204、および制御手段203の動作説明図である。制御手段203は位置情報取得手段202より位置情報を取得し(ステップS301)、カーナビゲーション用情報記憶手段205に予め保存された標識情報206から該位置情報に対応する標識情報の有無を検索する(ステップS302)。位置情報に対応する標識情報が存在しない場合は終了する。位置情報に対応する標識情報が存在する場合、制御手段203は撮像装置102が撮像した(ステップS303)画像から標識抽出手段202により道路標識抽出処理を行わせ(ステップS304)、標識情報の有無をチェックする(ステップS305)。撮像画像に標識情報が無い場合はカーナビゲーション用情報記憶手段205に予め保存された標識情報206で検出された標識情報を表示装置105に出力する(ステップS307)。また、撮像画像に標識情報が有る場合は、抽出した標識画像を表示装置105に出力する(ステップS306)。
制御手段203が上記図3に示す処理を実行するタイミングは、制御手段203が位置情報取得手段204からの位置情報を常時取得し自車位置が一定距離経過する毎や、タイマー処理を有し、数ミリ秒などの単位時間経過毎等でも良い。
図4は、上記図2における撮像装置102、標識抽出手段202、表示装置105、カーナビゲーション用情報記憶手段205、標識情報206、位置情報取得手段204、および制御手段203の動作説明図である。撮像装置102により自車両周辺を撮像し(ステップS401)、標識抽出手段202により標識情報を抽出し(ステップS402)、制御手段203は標識の有無を検出する(ステップS403)。存在する場合は標識情報を表示装置105に表示し(ステップS406)終了する。存在しない場合は、位置情報取得手段204から自車位置情報を取得し(ステップS404)、カーナビゲーション用情報記憶手段205に予め保持された標識情報206にから該位置情報に対応する標識情報の有無を検索する(ステップS405)。位置情報に対応する標識情報が存在しない場合は終了する。位置情報に対応する標識情報が存在する場合、該当情報を表示装置102に表示し(ステップS406)終了する。
上記実施例1によれば、カーナビゲーションが標識情報を保持する場合においても撮像装置で取得した画像より道路標識を抽出することが可能な場合、優先的に撮像した標識情報を用いることでより新しい情報をドライバに提供することが可能となり、古い情報を誤使用する可能性を低減する。また、遮蔽物などにより撮像できない道路標識においてもカーナビゲーションが保持する標識情報を用いてドライバに提示することが可能となる。また、標識が遠く撮像装置では標識が認識できない等の場合は情報記憶手段の標識情報を表示し、画像を認識できる程度接近すると撮像画像を用いるなど表示情報を切り替えることで、ドライバの標識情報への認識率を向上させることが可能となる。
図5〜図7は本発明の実施例2の説明図である。図5は本発明である車載装置の構成図、図6および図7は図5の構成機器の動作説明図である。本実施例2は車両に搭載した撮像装置で撮像した画像から抽出した道路標識情報を再度利用可能な状態で記録し、カーナビゲーション装置に記憶された道路標識情報だけでは対応できない地域においても標識情報をドライバーに提示する場合の例である。
図5において、501は撮像された道路標識情報を記憶する標識情報記録手段、また図2と同様の構成部品については同一符号を付す。本例の標識情報記憶手段501としてはHDDなどの大容量記憶装置やフラッシュメモリカード等の書き換え可能な記憶装置などが考えられる。
図6は上記図5における撮像装置102、標識抽出手段202、表示装置105、カーナビゲーション用情報記憶手段205、標識情報206、位置情報取得手段204、制御手段203、および標識情報記憶手段501の動作説明図である。なお図3と同様の処理手順については同一符号を付す。
制御手段203は位置情報取得手段202より位置情報を取得し(ステップS301)、カーナビゲーション用情報記憶手段205に予め保存された標識情報206と標識情報記憶手段501から該位置情報に対応する標識情報の有無を検索する(ステップS601)。位置情報に対応する標識情報が存在しない場合は終了する。位置情報に対応する標識情報が存在する場合、制御手段203は撮像装置102が撮像した(ステップS303)画像から標識抽出手段202により道路標識抽出処理を行わせ(ステップS304)、標識情報の有無をチェックする(ステップS305)。撮像画像に標識情報が無い場合はカーナビゲーション用情報記憶手段205に予め保存された標識情報206と標識情報記憶手段501から検出された標識情報を表示装置105に出力する(ステップS307)。また、撮像画像に標識情報が有る場合は、抽出した標識画像を表示装置105に出力する(ステップS306)。さらに該標識画像を標識情報記憶手段501へ標識情報を取得した地点の位置情報と関連付けて記憶し(ステップS602)終了する。
図7は上記図5における撮像装置102、標識抽出手段202、表示装置105、カーナビゲーション用情報記憶手段205、標識情報206、位置情報取得手段204、制御手段203、および標識情報記憶手段501の動作説明図である。なお図4と同様の処理手順については同一符号を付す。
撮像装置102により自車両周辺を撮像し(ステップS401)、標識抽出手段202により標識情報を抽出し(ステップS402)、制御手段203は標識の有無を検出する(ステップS403)。存在する場合は標識情報を表示装置105に表示し(ステップS702)、さらに該標識画像を標識情報記憶手段501へ標識情報を取得した地点の位置情報と関連付けて記憶し(ステップS703)終了する。存在しない場合は、位置情報取得手段204から自車位置情報を取得し(ステップS404)、カーナビゲーション用情報記憶手段205に予め保持された標識情報206から該位置情報に対応する標識情報の有無を検索する(ステップ701)。位置情報に対応する標識情報が存在しない場合は終了する。位置情報に対応する標識情報が存在する場合、該当情報を表示装置102に表示し(ステップS406)、終了する。
上記実施例2によれば、予めカーナビゲーションが保持する標識情報だけでなく撮像装置で取得した画像から抽出した道路標識を保存することが可能となり、カーナビゲーションがサポートしていない地域の道路標識を利用することや、より新しい標識情報をドライバに提供することが可能となる。
なお、上記実施例2においては複数の撮像装置を用いることにより、例えば前後左右のカメラ映像を取得することが可能となり、通過する道路の左右のわき道に存在する道路標識の画像や、後方カメラを用いて車両進行方向を逆向きの道路標識情報を取得し標識情報記憶手段501に保存することにより実際には通過したことの無い道路上の標識情報を取得し、ドライバに最新の標識情報を提供することが可能となる。この例では、目的地への順路(行き道)を通過する時に、復路(帰り道)の道路標識情報を収集することが可能となる。
図8〜図10は本発明の実施例3の説明図である。図8は本発明である車載装置の構成図、図9および図10は図8の構成機器の動作説明図である。
本実施例3は車両に搭載した撮像装置で撮像した画像から抽出した道路標識情報を位置情報だけでなく時間情報も関連付けて再度利用可能な状態で記録し、標識情報の表示および書き換え時に常に最新の情報となるようにする場合の例である。
図8において、801は時刻情報取得手段、また図2および図5と同様の構成部品については同一符号を付す。本例の時刻情報取得手段801としては時計、GPSからの時刻情報、CPUで動作するハードウェアタイマ、またはこれらを組み合わせたものなどが考えられる。
図9は上記図8における撮像装置102、標識抽出手段202、表示装置105、カーナビゲーション用情報記憶手段205、標識情報206、位置情報取得手段204、制御手段203、標識情報記憶手段501、時刻情報取得手段801の動作説明図である。なお図6と同様の処理手順については同一符号を付す。
制御手段203は位置情報取得手段202より位置情報を取得し(ステップS301)、カーナビゲーション用情報記憶手段205に予め保存された標識情報206と標識情報記憶手段501から該位置情報に対応する標識情報の有無を検索する(ステップS601)。位置情報に対応する標識情報が存在しない場合は終了する。位置情報に対応する標識情報が存在する場合、制御手段203は撮像装置102が撮像した(ステップS303)画像から標識抽出手段202により道路標識抽出処理を行わせ(ステップS304)、標識情報の有無をチェックする(ステップS305)。撮像画像に標識情報が無い場合はカーナビゲーション用情報記憶手段205に予め保存された標識情報206または標識情報記憶手段501から検出された標識情報を表示装置105に出力する。該当する標識情報が複数検出された場合は関連付けて記憶されている時刻情報を比較し、より新しい情報を表示する(ステップS901)。また、撮像画像に標識情報が有る場合は、抽出した標識画像を表示装置105に出力する(ステップS306)。さらに該標識画像を標識情報を取得した地点の位置情報と時刻情報取得手段より取得した時刻情報とを関連付けて標識情報記憶手段501へ記憶し(ステップS902)終了する。
図10は上記図8における撮像装置102、標識抽出手段202、表示装置105、カーナビゲーション用情報記憶手段205、標識情報206、位置情報取得手段204、制御手段203、標識情報記憶手段501、および時刻情報取得手段801の動作説明図である。なお図6と同様の処理手順については同一符号を付す。
撮像装置102により自車両周辺を撮像し(ステップS401)、標識抽出手段202により標識情報を抽出し(ステップS402)、制御手段203は標識の有無を検出する(ステップS403)。存在する場合は標識情報を表示装置105に表示し(ステップS702)、さらに該標識画像を標識情報を取得した地点の位置情報と時刻情報取得手段より取得した時刻情報とを関連付けて標識情報記憶手段501へ記憶し(ステップS1002)終了する。存在しない場合は、位置情報取得手段204から自車位置情報を取得し(ステップS404)、カーナビゲーション用情報記憶手段205に予め保持された標識情報206から該位置情報に対応する標識情報の有無を検索する(ステップ701)。位置情報に対応する標識情報が存在しない場合は終了する。位置情報に対応する標識情報が存在する場合、該当情報を表示装置102に表示する。該当する標識情報が複数検出された場合は関連付けて記憶されている時刻情報を比較し、より新しい情報を表示し(ステップS1001)、終了する。
上記実施例3によれば、上記実施例2の効果に加え、各標識情報に時間情報が関連付けられるため同一地点に複数の標識情報が有る場合、より新しい情報をドライバに提供することが可能となる。ここではカーナビゲーションの地図情報更新に伴う道路標識情報の更新においても、同様に更新した日時もしくは更新情報が保持するファイル更新時間情報を関連付けてカーナビゲーション用情報記憶手段に記憶することで、最新の標識情報を利用することが可能となる。
図11〜図14は本発明の実施例4の説明図である。図11は本発明である車載装置の構成図、図12および図13は図8の構成機器の動作説明図である。図14はドライバが規定した表示/非表示の情報が記憶される場合の規定データ表である。図15はカーナビゲーション用情報記憶手段や標識情報記憶手段で管理される標識情報表の例である。
本実施例4は車両に搭載した撮像装置で撮像した画像から抽出した道路標識情報をを表示装置において表示するに際してドライバーが規定した標識情報に関しては非表示にする場合の例である。
図11において、1101はドライバが標識情報の表示/非表示を規定する入力手段、1102はドライバにより入力された表示/非表示の規定を記憶するドライバ規定情報記憶手段である。また図2と同様の構成部品については同一符号を付す。本例の入力手段1101としては表示装置105と一体となったタッチパネルディスプレイやカーナビゲーションの入力装置やリモートコントローラ、音声入力を用いた音声認識なども考えられる。またドライバ規定情報記憶手段はHDDなどの大容量記憶装置やフラッシュメモリカード等の書き換え可能な記憶装置などが考えられる。
図12は上記図11における撮像装置102、標識抽出手段202、表示装置105、カーナビゲーション用情報記憶手段205、標識情報206、位置情報取得手段204、制御手段203、入力装置1101、及びドライバ規定情報記憶手段1102の動作説明図である。なお図3と同様の処理手順については同一符号を付す。
制御手段203は位置情報取得手段202より位置情報を取得し(ステップS301)、カーナビゲーション用情報記憶手段205に予め保存された標識情報206から該位置情報に対応する標識情報の有無を検索する(ステップS302)。位置情報に対応する標識情報が存在しない場合は終了する。位置情報に対応する標識情報が存在する場合、制御手段203は撮像装置102が撮像した(ステップS303)画像から標識抽出手段202により道路標識抽出処理を行わせ(ステップS304)、標識情報の有無をチェックする(ステップS305)。撮像画像に標識情報が無い場合はカーナビゲーション用情報記憶手段205に予め保存された標識情報206と検出された標識情報を表示装置105に出力する。ただしドライバが規定した標識情報である場合は表示せずに終了する(ステップS1202)。また、撮像画像に標識情報が有る場合は、抽出した標識画像を表示装置105に出力する。ただしドライバが規定した標識情報である場合は表示せずに終了する(ステップS1201)。さらに標識情報を表示装置へ表示した場合、ドライバから表示した標識情報に関する入力操作を一定時間受付け、非表示設定入力された場合はドライバ規定情報記憶手段1102のドライバ規定情報を更新し、入力が無いままタイムアウトした場合は終了する(ステップS1203)。
図13は上記図11における撮像装置102、標識抽出手段202、表示装置105、カーナビゲーション用情報記憶手段205、標識情報206、位置情報取得手段204、制御手段203、、入力装置1101、及びドライバ規定情報記憶手段1102の動作説明図である。なお図4及び図12と同様の処理手順については同一符号を付す。
撮像装置102により自車両周辺を撮像し(ステップS401)、標識抽出手段202により標識情報を抽出し(ステップS402)、制御手段203は標識の有無を検出する(ステップS403)。道路標識が存在する場合は標識情報を表示装置105に表示する。ただしドライバが規定した標識情報である場合は表示せずに終了する(ステップS1301)。さらに標識情報を表示装置へ表示した場合、ドライバからの表示した標識情報に関する入力操作を一定時間受付け、非表示設定入力された場合はドライバ規定情報記憶手段1102のドライバ規定情報を更新し、入力が無いままタイムアウトした場合は終了する(ステップS1203)。道路標識が存在しない場合は、位置情報取得手段204から自車位置情報を取得し(ステップS404)、カーナビゲーション用情報記憶手段205に予め保持された標識情報206にから該位置情報に対応する標識情報の有無を検索する(ステップS405)。位置情報に対応する標識情報が存在しない場合は終了する。位置情報に対応する標識情報が存在する場合、該当情報を表示装置102に表示する。ただしドライバが規定した標識情報である場合は表示せずに終了する(ステップS1301)。さらに標識情報を表示装置へ表示した場合、ドライバからの表示した標識情報に関する入力操作を一定時間受付け、非表示設定入力された場合はドライバ規定情報記憶手段1102のドライバ規定情報を更新し、入力が無いままタイムアウトした場合は終了する(ステップS1203)。
上記実施例4によれば、表示装置に表示する標識情報をドライバの判断で表示/非表示の設定を行うことが可能となり、よりドライバが必要とする標識情報を表示する提供することが可能となる。ここでは実施例1の車載装置構成を元としたが、実施例2や実施例3の車載装置構成を元としても良い。
なお、上記実施例4においては車載装置に予め標識情報の表示/非常時設定を行うことにより、ドライバの手間を省くことが可能である。また、標識情報記憶手段501に格納される標識情報を管理する記憶情報テーブルの一例を図14に示す。各情報は記録No.、位置情報、車両からの方位、時刻、標識種別、画像ファイル名などで構成される。またドライバ規定情報記憶手段1102で記憶されるドライバ規定標識情報テーブルの一例を図15に示す。ここでは標識種別に対して表示/非表示を規定している。ここでは図示していないが、各標識に対して表示/非表示を規定しても良い。本発明は、ドライバの利便性向上により、流通産業の流動性向上などの観点で利用可能である。
本発明の実施例1による車載装置のである。 本発明の実施例1による車載装置の構成例図である。 図2の車載装置の一動作説明図である。 図2の車載装置の一動作説明図である。 本発明の実施例2による車載装置の構成例図である。 図5の車載装置の一動作説明図である。 図5の車載装置の一動作説明図である。 本発明の実施例3による車載装置の構成例図である。 図8の車載装置の一動作説明図である。 図8の車載装置の一動作説明図である。 本発明の実施例4による車載装置の構成例図である。 図11の車載装置の一動作説明図である。 図11の車載装置の一動作説明図である。 本発明の実施例4による標識情報を管理する記憶情報テーブル図である。 本発明の実施例4によるドライバ規定標識情報テーブル図である。
符号の説明
101 車両
102 車両に搭載された撮像装置
103 道路標識
104 車載装置
105 車両に搭載された表示装置
106 道路標識の標識情報
107 標識情報
108 視覚遮蔽物
201 自車両周辺を撮像する撮像装置
202 標識抽出手段
204 位置情報取得手段
205 カーナビゲーション用情報記憶手段
206 位置情報と関連付けられた標識情報
203 制御手段
501 標識情報記録手段
801 時刻情報取得手段
1101 入力手段
1102 ドライバ規定情報記憶手段

Claims (7)

  1. 自車両の周辺を撮像する車載の撮像装置で撮像した道路標識を含む情報をドライバが視認可能な表示装置に表示する車載装置において、
    前記撮像装置で撮像した画像から前記道路標識を抽出する標識抽出手段と、
    カーナビゲーションで用いられる位置情報に対応する道路上の標識情報を予め保持するカーナビゲーション用情報記憶手段と、
    前記自車両の現在位置を取得する位置情報取得手段と、
    経路案内時に前記標識情報の使用を判断する制御手段と、を有し、
    前記制御手段は、前記位置情報取得手段から得た前記自車両の現在位置の情報に対応する前記標識情報が前記カーナビゲーション用情報記憶手段の道路上の標識情報の中に存在する場合においても、前記撮像装置で取得した画像から該当する前記道路標識を抽出できた場合は、抽出した前記道路標識を前記表示装置に表示することを特徴とする車載装置。
  2. 自車両の周辺を撮像する車載の撮像装置で撮像した道路標識を含む情報をドライバが視認可能な表示装置に表示する車載装置において、
    前記撮像装置で撮像した画像から前記道路標識を抽出する標識抽出手段と、
    カーナビゲーションで用いられる位置情報に対応する道路上の標識情報を予め保持するカーナビゲーション用情報記憶手段と、
    前記自車両の現在位置を取得する位置情報取得手段と、
    前記撮像装置で取得した前記道路標識の画像を前記位置情報取得手段より取得した前記現在位置の情報と関連付けて保持する標識情報記憶手段と、
    経路案内時に前記カーナビゲーション用情報記憶手段に保持された前記標識情報の使用を判断する制御手段と、を有し、
    前記制御手段は、前記撮像装置で取得した画像から前記道路標識を抽出した場合、前記表示装置に出力すると共に、前記位置情報取得手段から前記自車両の前記現在位置の情報を取得し、前記現在位置の情報に対応する前記標識情報の存在の有無を前記ナビゲーション情報記憶手段で予め保持された道路上の標識情報の中から検索し、存在しない場合は、前記撮像装置で取得した前記道路標識の画像を前記標識情報記憶手段に保持することを特徴とする車載装置。
  3. 請求項2に記載の車載装置であって、
    前記制御装置は少なくとも、前記位置情報取得手段から得た前記自車両の前記現在位置の情報に対応する前記標識情報が、前記カーナビゲーション用情報記憶手段に保持された道路上の標識情報に、または、前記標識情報記憶手段に保持された道路標識の情報のどちらかに存在し、前記撮像装置で取得した画像から前記道路標識を抽出できない場合、前記保持された前記標識情報を前記表示装置に出力することを特徴とする車載装置。
  4. 自車両の周辺を撮像する車載の撮像装置で撮像した道路標識を含む情報をドライバが視認可能な表示装置に表示する車載装置において、
    前記撮像装置で撮像した画像から前記道路標識を抽出する標識抽出手段と、
    カーナビゲーションで用いられる位置情報に対応する道路上の標識情報を予め保持するカーナビゲーション用情報記憶手段と、
    前記自車両の現在位置を取得する位置情報取得手段と、
    現在時刻情報を取得する時刻情報取得手段と、
    前記撮像装置で取得した前記道路標識の画像を保持する標識情報記憶手段と、
    経路案内時に前記カーナビゲーション用情報記憶手段に保持された前記標識情報の使用を判断する制御手段と、を有し、
    前記制御手段は、前記撮像装置で取得した画像から前記道路標識を抽出した場合、前記表示装置に出力すると共に、前記道路上の前記標識情報と、前記位置情報取得手段より取得した前記位置情報と、前記時刻情報取得手段から取得した前記現在時刻情報と、を関連付けて前記標識情報記憶手段に保持することを特徴とする車載装置。
  5. 請求項4に記載の車載装置であって、
    前記制御装置は、前記位置情報取得手段から得た前記自車両の位置情報に対応する前記標識情報が前記カーナビゲーション用情報記憶手段と前記標識情報記憶手段との両方に存在し、前記撮像装置で取得した画像から前記道路標識を抽出できない場合、前記保持された前記標識情報のうち関連付けて保持された前記時間情報を比較し、新しい時間情報と関連付けたれた前記標識情報を前記表示装置に出力するとことを特徴とする車載装置。
  6. 請求項1、請求項2または請求項4のいずれかに記載の車載装置であって、
    ドライバからの入力を受け付ける入力手段と、
    前記ドライバから入力された非表示設定を記憶するドライバ規定情報記憶手段と、を有し、
    前記制御手段は、前記標識情報の表示中に前記入力手段を用いたドライバからの非表示設定を受け付けた場合は、前記表示設定を前記ドライバ規定情報記憶手段に記憶することを特徴とする車載装置。
  7. 請求項6に記載の車載装置であって、
    前記制御手段は、前記標識情報の表示に際し前記ドライバ規定情報記憶手段に記憶されたドライバ規定情報を参照し、該当する標識情報の場合は非表示とすることを特徴とする車載装置。
JP2006000906A 2006-01-05 2006-01-05 車載装置 Active JP4836582B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006000906A JP4836582B2 (ja) 2006-01-05 2006-01-05 車載装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006000906A JP4836582B2 (ja) 2006-01-05 2006-01-05 車載装置

Publications (2)

Publication Number Publication Date
JP2007183764A true JP2007183764A (ja) 2007-07-19
JP4836582B2 JP4836582B2 (ja) 2011-12-14

Family

ID=38339804

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006000906A Active JP4836582B2 (ja) 2006-01-05 2006-01-05 車載装置

Country Status (1)

Country Link
JP (1) JP4836582B2 (ja)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009110394A (ja) * 2007-10-31 2009-05-21 Equos Research Co Ltd 道路標識表示装置
JP2010039842A (ja) * 2008-08-06 2010-02-18 Toyota Motor Corp 運転支援調整装置
JP2012068962A (ja) * 2010-09-24 2012-04-05 Yupiteru Corp 車載用電子機器及びプログラム
JP2012118804A (ja) * 2010-12-01 2012-06-21 Honda Motor Co Ltd 警報装置
JP2012168114A (ja) * 2011-02-16 2012-09-06 Aisin Aw Co Ltd 案内装置、案内方法、および、案内プログラム
WO2013140567A1 (ja) * 2012-03-22 2013-09-26 パイオニア株式会社 標識情報処理装置、標識情報処理方法及び標識情報処理プログラム
JP5334145B1 (ja) * 2012-06-29 2013-11-06 トーヨーカネツソリューションズ株式会社 物品のピッキング作業の支援システム
WO2014017104A1 (ja) * 2012-07-27 2014-01-30 京セラ株式会社 画像処理装置、撮像装置、移動体、プログラム、および領域設定方法
JP2014229100A (ja) * 2013-05-23 2014-12-08 日産自動車株式会社 車両用表示装置
WO2015071924A1 (ja) * 2013-11-12 2015-05-21 三菱電機株式会社 運転支援画像生成装置、運転支援画像表示装置、運転支援画像表示システム、及び運転支援画像生成プログラム
WO2016051447A1 (ja) * 2014-09-29 2016-04-07 三菱電機株式会社 情報表示制御システムおよび情報表示制御方法
JP2016126605A (ja) * 2015-01-06 2016-07-11 株式会社日立製作所 走行環境認識システム
WO2017013792A1 (ja) * 2015-07-23 2017-01-26 三菱電機株式会社 表示制御装置およびナビゲーション装置
WO2017033424A1 (ja) * 2015-08-25 2017-03-02 マツダ株式会社 標識認識表示装置
JP2017061283A (ja) * 2015-09-25 2017-03-30 株式会社タダノ 作業車両の周囲監視装置
JP2019036048A (ja) * 2017-08-10 2019-03-07 トヨタ自動車株式会社 情報提供装置、情報提供方法、プログラム、記録媒体
JP2019101632A (ja) * 2017-11-30 2019-06-24 パイオニア株式会社 情報提示制御装置、情報提示制御方法及びプログラム
WO2023210753A1 (ja) * 2022-04-28 2023-11-02 株式会社Jvcケンウッド 運転支援装置及び運転支援方法

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01315899A (ja) * 1988-06-15 1989-12-20 Clarion Co Ltd 車載用道路情報識別装置
JPH08153298A (ja) * 1994-11-28 1996-06-11 Kubota Corp 車載用映像記録装置
JP2000346653A (ja) * 1999-06-01 2000-12-15 Matsushita Electric Ind Co Ltd 車両走行支援方法及び車両走行支援装置
JP2000357298A (ja) * 1999-06-16 2000-12-26 Honda Motor Co Ltd 移動体通信装置
JP2001283381A (ja) * 2000-03-30 2001-10-12 Toshiba Corp 車車間通信システム
JP2002243469A (ja) * 2001-02-19 2002-08-28 Alpine Electronics Inc ナビゲーション装置および地図データベース更新システム
JP2002260163A (ja) * 2001-03-06 2002-09-13 Natl Inst For Land & Infrastructure Management Mlit 画像処理領域決定方法
JP2004077281A (ja) * 2002-08-19 2004-03-11 Alpine Electronics Inc ナビゲーション装置の地図表示方法
JP2005004410A (ja) * 2003-06-11 2005-01-06 Clarion Co Ltd 道路標識等表示装置及び道路標識等画像の画像表示方法
JP2005292031A (ja) * 2004-04-02 2005-10-20 Denso Corp 車両用表示装置、車両用表示システム、及びプログラム
JP2005300342A (ja) * 2004-04-12 2005-10-27 Honda Motor Co Ltd 道路情報表示制御装置

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01315899A (ja) * 1988-06-15 1989-12-20 Clarion Co Ltd 車載用道路情報識別装置
JPH08153298A (ja) * 1994-11-28 1996-06-11 Kubota Corp 車載用映像記録装置
JP2000346653A (ja) * 1999-06-01 2000-12-15 Matsushita Electric Ind Co Ltd 車両走行支援方法及び車両走行支援装置
JP2000357298A (ja) * 1999-06-16 2000-12-26 Honda Motor Co Ltd 移動体通信装置
JP2001283381A (ja) * 2000-03-30 2001-10-12 Toshiba Corp 車車間通信システム
JP2002243469A (ja) * 2001-02-19 2002-08-28 Alpine Electronics Inc ナビゲーション装置および地図データベース更新システム
JP2002260163A (ja) * 2001-03-06 2002-09-13 Natl Inst For Land & Infrastructure Management Mlit 画像処理領域決定方法
JP2004077281A (ja) * 2002-08-19 2004-03-11 Alpine Electronics Inc ナビゲーション装置の地図表示方法
JP2005004410A (ja) * 2003-06-11 2005-01-06 Clarion Co Ltd 道路標識等表示装置及び道路標識等画像の画像表示方法
JP2005292031A (ja) * 2004-04-02 2005-10-20 Denso Corp 車両用表示装置、車両用表示システム、及びプログラム
JP2005300342A (ja) * 2004-04-12 2005-10-27 Honda Motor Co Ltd 道路情報表示制御装置

Cited By (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009110394A (ja) * 2007-10-31 2009-05-21 Equos Research Co Ltd 道路標識表示装置
JP2010039842A (ja) * 2008-08-06 2010-02-18 Toyota Motor Corp 運転支援調整装置
JP2012068962A (ja) * 2010-09-24 2012-04-05 Yupiteru Corp 車載用電子機器及びプログラム
JP2012118804A (ja) * 2010-12-01 2012-06-21 Honda Motor Co Ltd 警報装置
JP2012168114A (ja) * 2011-02-16 2012-09-06 Aisin Aw Co Ltd 案内装置、案内方法、および、案内プログラム
WO2013140567A1 (ja) * 2012-03-22 2013-09-26 パイオニア株式会社 標識情報処理装置、標識情報処理方法及び標識情報処理プログラム
JP5334145B1 (ja) * 2012-06-29 2013-11-06 トーヨーカネツソリューションズ株式会社 物品のピッキング作業の支援システム
JPWO2014017104A1 (ja) * 2012-07-27 2016-07-07 京セラ株式会社 画像処理装置、撮像装置、移動体、プログラム、および領域設定方法
WO2014017104A1 (ja) * 2012-07-27 2014-01-30 京セラ株式会社 画像処理装置、撮像装置、移動体、プログラム、および領域設定方法
CN104488011A (zh) * 2012-07-27 2015-04-01 京瓷株式会社 图像处理设备、成像设备、可移动体、程序及区域设定方法
US9990556B2 (en) 2012-07-27 2018-06-05 Kyocera Corporation Image processing apparatus, imaging apparatus, movable object, program, and region setting method
JP2014229100A (ja) * 2013-05-23 2014-12-08 日産自動車株式会社 車両用表示装置
WO2015071924A1 (ja) * 2013-11-12 2015-05-21 三菱電機株式会社 運転支援画像生成装置、運転支援画像表示装置、運転支援画像表示システム、及び運転支援画像生成プログラム
CN105723431A (zh) * 2013-11-12 2016-06-29 三菱电机株式会社 驾驶辅助图像生成装置、驾驶辅助图像显示装置、驾驶辅助图像显示系统及驾驶辅助图像生成程序
US10315516B2 (en) 2013-11-12 2019-06-11 Mitsubishi Electric Corporation Driving-support-image generation device, driving-support-image display device, driving-support-image display system, and driving-support-image generation program
JPWO2015071924A1 (ja) * 2013-11-12 2017-03-09 三菱電機株式会社 運転支援画像生成装置、運転支援画像表示装置、運転支援画像表示システム、及び運転支援画像生成プログラム
WO2016051447A1 (ja) * 2014-09-29 2016-04-07 三菱電機株式会社 情報表示制御システムおよび情報表示制御方法
JPWO2016051447A1 (ja) * 2014-09-29 2017-04-27 三菱電機株式会社 情報表示制御システムおよび情報表示制御方法
CN106716514A (zh) * 2014-09-29 2017-05-24 三菱电机株式会社 信息显示控制系统及信息显示控制方法
JP2016126605A (ja) * 2015-01-06 2016-07-11 株式会社日立製作所 走行環境認識システム
WO2017013792A1 (ja) * 2015-07-23 2017-01-26 三菱電機株式会社 表示制御装置およびナビゲーション装置
JPWO2017013792A1 (ja) * 2015-07-23 2017-10-19 三菱電機株式会社 表示制御装置およびナビゲーション装置
WO2017033424A1 (ja) * 2015-08-25 2017-03-02 マツダ株式会社 標識認識表示装置
CN107924616A (zh) * 2015-08-25 2018-04-17 马自达汽车株式会社 标志识别显示装置
DE112016003429T5 (de) 2015-08-25 2018-05-03 Mazda Motor Corporation Schilderkennungs- und Anzeigevorrichtung
JP2017045194A (ja) * 2015-08-25 2017-03-02 マツダ株式会社 標識認識表示装置
US10515547B2 (en) 2015-08-25 2019-12-24 Mazda Motor Corporation Sign recognition and display device
CN107924616B (zh) * 2015-08-25 2021-03-23 马自达汽车株式会社 标志识别显示装置
JP2017061283A (ja) * 2015-09-25 2017-03-30 株式会社タダノ 作業車両の周囲監視装置
JP2019036048A (ja) * 2017-08-10 2019-03-07 トヨタ自動車株式会社 情報提供装置、情報提供方法、プログラム、記録媒体
JP2019101632A (ja) * 2017-11-30 2019-06-24 パイオニア株式会社 情報提示制御装置、情報提示制御方法及びプログラム
JP7057110B2 (ja) 2017-11-30 2022-04-19 パイオニア株式会社 情報提示制御装置、情報提示制御方法及びプログラム
JP2022082747A (ja) * 2017-11-30 2022-06-02 パイオニア株式会社 情報提示制御装置、情報提示制御方法及びプログラム
WO2023210753A1 (ja) * 2022-04-28 2023-11-02 株式会社Jvcケンウッド 運転支援装置及び運転支援方法

Also Published As

Publication number Publication date
JP4836582B2 (ja) 2011-12-14

Similar Documents

Publication Publication Date Title
JP4836582B2 (ja) 車載装置
JP4820712B2 (ja) 路面標示認識システム
JP5569365B2 (ja) 案内装置、案内方法、及び案内プログラム
JP6323074B2 (ja) 表示物情報表示装置
JP2007263835A (ja) カーナビゲーション装置
CN107924616B (zh) 标志识别显示装置
JP4762697B2 (ja) 車両走行補助システム
JP5078677B2 (ja) ナビゲーションシステム
JP2008241507A (ja) ナビゲーション装置
JP2015141161A (ja) 車両用表示装置、及び、表示方法
CN105339760A (zh) 交通信息引导系统、交通信息引导装置、交通信息引导方法以及计算机程序
CN103077624A (zh) 一种基于gps的即时导航路况系统及导航方法
US20090201173A1 (en) Driving support apparatus, a driving support method and program
JP2012137320A (ja) 誘導案内装置、誘導案内方法、誘導案内プログラムおよび記録媒体
JP4692898B2 (ja) 車両用案内装置
JP6419011B2 (ja) 地物画像認識システム、地物画像認識方法及びコンピュータプログラム
JP2014160031A (ja) 走行案内システム、走行案内方法及びコンピュータプログラム
JP2008262481A (ja) 車両制御装置
JP6708237B2 (ja) 映像記録制御装置、映像記録システム、映像記録方法、および映像記録制御プログラム
JP4798549B2 (ja) 車載用ナビゲーション装置
JP2008241720A (ja) 経路案内方法及び経路案内装置
JP2009063562A (ja) 情報案内システム及びプログラム
JP2013030006A (ja) 信号機増減検出システム、信号機増減検出装置、信号機増減検出方法及びコンピュータプログラム
JP5003994B2 (ja) 車載用ナビゲーション装置
JP2012216919A (ja) 移動体周辺撮像システム、移動体周辺撮像装置、移動体周辺撮像方法及びコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081020

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101118

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110920

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110927

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141007

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4836582

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150