JP2001318594A - 視覚障害者用歩行支援システムおよび情報記録媒体 - Google Patents

視覚障害者用歩行支援システムおよび情報記録媒体

Info

Publication number
JP2001318594A
JP2001318594A JP2000138124A JP2000138124A JP2001318594A JP 2001318594 A JP2001318594 A JP 2001318594A JP 2000138124 A JP2000138124 A JP 2000138124A JP 2000138124 A JP2000138124 A JP 2000138124A JP 2001318594 A JP2001318594 A JP 2001318594A
Authority
JP
Japan
Prior art keywords
information
character
predetermined
obstacle
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000138124A
Other languages
English (en)
Other versions
JP4375879B2 (ja
Inventor
Yoshifumi Koyama
善文 小山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KUMAMOTO TECHNOPOLIS FOUNDATIO
Kumamoto Technopolis Foundation
Original Assignee
KUMAMOTO TECHNOPOLIS FOUNDATIO
Kumamoto Technopolis Foundation
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KUMAMOTO TECHNOPOLIS FOUNDATIO, Kumamoto Technopolis Foundation filed Critical KUMAMOTO TECHNOPOLIS FOUNDATIO
Priority to JP2000138124A priority Critical patent/JP4375879B2/ja
Publication of JP2001318594A publication Critical patent/JP2001318594A/ja
Application granted granted Critical
Publication of JP4375879B2 publication Critical patent/JP4375879B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 歩行時の障害物を検知してその具体的な位置
や距離の把握などのナビゲーションに関する情報や、目
的地に到達するための現在地点の把握および行先の方向
等の確認などのプランニングに関する情報を、視覚障害
者等が必要なときに、プライバシィを損うことなく自由
かつ確実に把握することを可能とする視覚障害者用歩行
支援システムおよび情報記録媒体を提供する。 【解決手段】 ステレオ画像取込器(ステレオ画像撮像
装置)11と、モバイル型コンピュータ(情報処理装
置)12と、情報伝達器(情報伝達装置)26とをその
主要部に備えており、視覚障害者にとって現在位置に関
する情報や行先に関する情報を把握可能な文字情報を、
ステレオ画像取込器11によって撮像されたステレオ画
像から抽出し、その文字情報から得られる意味内容を情
報伝達器26が音声情報または触覚情報によって発す
る。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は視覚障害者等が単独
で歩行する際に障害物となり得る物体を認識してその存
在を視覚障害者等に報知するナビゲーションあるいはさ
らに行き先や現在位置に関する情報を周囲の文字情報に
基づいて認識してその意味内容を視覚障害者等に報知す
るプランニングを可能ならしめる視覚障害者用歩行支援
システムおよび情報記録媒体に関する。
【0002】
【従来の技術】従来、視覚障害者あるいは弱視者等が屋
外を単独で歩行する際などには、ナビゲーションおよび
プランニングに関する機能あるいは情報が必要となる場
合が多い。ここでナビゲーションとは、障害物等の存在
や危険な状況等を察知して、それらを回避して安全に歩
行することである。プランニングとは、行先案内等を掲
示した情報あるいは目的地までの道順に関する情報等を
得ることや、現在位置等を確認することなどである。
【0003】従来、ナビゲーション用の道具としては一
般に白杖が用いられている。この白杖によって、体の約
1m程度まで前方の路上の状態を把握することができ
る。すなわち、前方が例えば階段であるのか歩道である
のかといった情報や、障害物の有無などの情報を、この
白杖による触覚的応答に基づいて把握することができ、
しかもその構成は簡便で取扱も容易なものである。
【0004】ところが、このような白杖では、足元のよ
うな低い位置の状況については把握することができる
が、同時に上半身や頭上など高い位置の状況について把
握することが困難である。また、ナビゲーションとして
の初歩的な機能は果すことが可能であるが、さらに遠方
の状況や行先の情報を把握することが困難であり、さら
には目的地までの方向や道順などのプランニングに関す
る機能を果たすことは実際上不可能である。
【0005】そこで、白杖では困難な機能に関して補完
するために、盲導犬を用いることが一般に提案されてい
る。しかし、犬という動物を用いるので、例えば盲導犬
が寝ている間や調子の如何などによっては利用できない
場合があるという問題や、飼い主との相性の善し悪しの
問題や、飼い主が動物嫌いである場合には使い辛いとい
った問題などがある。また、動物であるが故に、どのよ
うに調教して優れた盲導犬に仕立てても、複雑な都市環
境や道路交通事情等の社会的な情報を臨機応変に認識す
ることには限界があるので、例えば決まった通行コース
を逸脱した場合に最も安全かつ最短のコースを通行して
目的地に到達するといったプランニングなどに対応する
ことは、実質的に困難であるという問題がある。
【0006】
【発明が解決しようとする課題】上記のような白杖や盲
導犬などを用いた手法に関する問題点を解決するため
に、視覚障害者用の歩行支援装置等が種々開発され、提
案されているが、それらはいずれも次に挙げるような問
題点を有している。
【0007】まず、白杖に超音波や赤外線を発信及び受
信する装置を取り付けた、いわゆるセンサ杖と呼ばれる
ものが提案されている。これは、さらに詳細には、超音
波や赤外線などを発射し障害物等で反射して戻ってきた
ものを受信して、その伝搬時間などに基づいて、現在位
置と障害物等との間の距離を計測し、その距離が所定値
以下で近い場合には、障害物が近くにある旨の警報等
を、ユーザすなわち視覚障害者等に知らせるというもの
である。
【0008】しかしながら、このような手法では、前方
のどの位置にどのようなものが障害物として存在してい
るのかについてを把握することが困難であるという問題
がある。
【0009】あるいは、ステレオ画像を撮像することに
より、それに基づいて障害物等を検知するという手法
が、例えば特開昭64−521887号公報や特開平7
−62356号公報等により提案されている。
【0010】しかしながら、障害物のさらに具体的な位
置等を把握することについては言及されていない。
【0011】また、例えば特開平8−257053号公
報等には、ステレオ画像を撮像することにより、それに
基づいて障害物までの距離をユーザである視覚障害者等
に知らせるという手法が提案されている。
【0012】しかしながら、障害物の存在を検知するこ
とや、障害物までの距離を把握するといった実現可能で
あるとしても、さらに詳細にその障害物がどのような位
置にどのような大きさで存在しているかといった情報を
把握することなどについては提案されていない。
【0013】また、そのようなナビゲーションとしての
初歩的な機能よりもさらに進んだプランニングなどに対
応可能な情報を把握することは、これらの手法では実質
的に困難であるという問題がある。
【0014】一方、そのようなプランニングに関する情
報をユーザである視覚障害者等に提供するという手法に
関しては、例えば通信システムを用いた代行システムに
よりナビゲーションおよびプランニングを行うという手
法が提案されている。
【0015】これは、さらに詳細には、ユーザである視
覚障害者等が必要なときに現在位置から撮像装置等によ
って撮影される映像を通信手段を介して管理センタに伝
送し、管理センタでは伝送されて来た映像に基づいてそ
のユーザの現在位置を把握し、これからユーザが行こう
とする目的地へのナビゲーションおよびプランニングを
代行して立案して、それらに関する情報を、通信手段を
介してユーザに音声情報等として伝えるというものであ
る。
【0016】しかしながら、このような代行システムで
は、ユーザのプライバシィを確保することが困難である
という問題がある。また、例えば地下道や鉄筋コンクリ
ート製や金属を多用した建物の内部など、無線通信手段
による通信が困難な場所での使用が実際上できない場合
が多いなど、通信手段上の制約が大きいという問題があ
る。
【0017】あるいは、誘導用の情報を発信する発信機
あるいは誘導具を、建物の壁などの要所ごとに設置して
おき、その付近をユーザが歩行していてナビゲーション
やプランニングが必要となった際に、自らの携帯してい
る受信機によって誘導用の情報を受信したり、発/受信
機から情報呼び出し用の信号を誘導具に向けて発信し、
その誘導具から発せられた誘導用の情報を受信する、と
いった手法も提案されている。例えば建物の出口の位置
が分からなくなった際に、このような手法を用いること
により、出口付近の誘導具から「出口はこちらです」と
いった音声アナウンスが発せられる。このようにしてユ
ーザが出口の方向や位置を確認することができる。
【0018】しかしながら、このような手法は、誘導用
の情報を発信する発信機や誘導具が設置されていない場
所では利用することができないという問題がある。ま
た、建物に設置された発信機や誘導具と受信機との間で
の通信手段による通信が妨害されやすい場所やその他の
電磁波を用いた機器などが付近で用いられることの多い
場所では使用が困難となる場合が多いという問題があ
る。
【0019】本発明はかかる問題点に鑑みてなされたも
ので、その目的は、歩行時の障害物を検知してその具体
的な位置や距離の把握などのナビゲーションに関する情
報や、目的地に到達するための現在地点の把握および行
先の方向等の確認などのプランニングに関する情報を、
時刻や場所に関わらず、ユーザである視覚障害者等が必
要なときに、プライバシィを損うことなく自由かつ確実
に把握することを可能とする視覚障害者用歩行支援シス
テムおよび情報記録媒体を提供することにある。
【0020】
【課題を解決するための手段】本発明による視覚障害者
用歩行支援システムは、光軸を向けた方向の所定領域内
の映像をステレオ画像として撮像するステレオ画像撮像
装置と、前記ステレオ画像から、視覚障害者にとって現
在位置に関する情報および行先に関する情報のうち少な
くともいずれか一方に関して確認可能な所定の文字を含
む文字情報を抽出し、その文字情報の意味内容を認識す
る情報処理装置と、前記文字情報の意味内容を音声情報
または触覚情報によって発する情報伝達装置とを備えて
いる。
【0021】本発明による視覚障害者用歩行支援システ
ムでは、視覚障害者にとって現在位置に関する情報や行
先に関する情報を把握可能な文字情報を、ステレオ画像
撮像装置によって撮像されたステレオ画像から抽出し、
その文字情報から得られる意味内容を情報伝達装置が音
声情報または触覚情報によって発する。これにより、ユ
ーザである視覚障害者(あるいは弱視者等)は、現在位
置を把握することや、行先がどちらの方向であるのかに
ついてなど、プランニングに関する情報を把握すること
が可能となる。
【0022】本発明による視覚障害者用歩行支援システ
ムは、情報処理装置が、さらに、視覚障害者にとって前
記映像中を歩行するに際して障害物となり得る所定の物
体の存在の有無およびその位置に関する情報のうち少な
くとも前記存在の有無に関する情報を、ステレオ画像か
ら認識するものであるようにしてもよい。
【0023】本発明による視覚障害者用歩行支援システ
ムでは、ステレオ画像から、さらに障害物の存在やその
位置に関する情報を抽出し、その情報を情報伝達装置が
音声情報または触覚情報によって発する。これにより、
ユーザである視覚障害者等は、障害物の存在やその位置
や距離など、ナビゲーションに関する情報を、より具体
的に把握することが可能となる。
【0024】しかも、ステレオ画像撮像装置は、光軸を
向けた方向の所定領域内の映像を撮像するように設定さ
れているので、ユーザはそのステレオ画像撮像装置を向
けた方向に存在している障害物や文字情報のみを明確な
指向性を以てさらに明確に把握することが可能となる。
【0025】また、撮像された全画像中に存在する全て
の文字情報を抽出したり認識処理したりするのではな
く、視覚障害者にとって現在位置に関する情報や行先に
関する情報に関して確認可能なものとあらかじめ想定さ
れる看板に掲げられた文字のような所定の文字を含む文
字情報を、撮像されたステレオ画像から選択的に抽出す
るので、その画像処理や文字情報の認識処理等のデータ
処理等を、モバイルパソコンのような情報処理装置でも
短時間で確実に処理可能であるように簡易なものとする
ことができる。
【0026】なお、さらに詳細には、前記情報処理装置
は、前記ステレオ画像から、看板文字情報を抽出する処
理、その文字を1文字ずつの文字列に切り出す処理、そ
の文字列を、前記所定の文字と比較して前記文字情報の
意味内容を認識する処理を行うものであるようにしても
よい。
【0027】あるいは、情報処理装置は、所定の時間差
で撮像された2つのステレオ画像に対して、特徴点を抽
出する処理、相対応するステレオ対応点を抽出する処
理、空間座標値を計算する処理を行うものであるように
してもよい。
【0028】また、情報処理装置は、さらに、前記空間
座標値を空間を分割してなるゾーンに投票し、その投票
結果を所定の評価値と比較して、その評価値よりも大き
い場合には前記ゾーンに障害物候補または文字情報候補
があるものと判定し、前記所定の時間差で撮像された2
つのステレオ画像に関する前記判定の論理積を演算し、
その演算結果が真の場合には前記ゾーン中に障害物また
は文字情報が有るものと結論すると共にその障害物また
は文字情報の位置を前記ゾーンに基づいて認識し、偽の
場合には障害物または文字情報が無いものと結論する処
理を行うもようにし、前記情報伝達装置は、さらに、前
記障害物または前記文字情報の有無に関する情報を音声
情報または触覚情報によって発するようにしてもよい。
【0029】また、ステレオ画像撮像装置が、さらに、
頭部に装着可能でその頭部が向いた方向の映像を撮像す
るように設定されており、かつ前記方向での所定の水平
方向角度または所定の立体角内の映像を撮像するもので
あり、前記情報処理装置が、さらに、前記ゾーンとして
前記撮像された映像の空間を所定の水平方向角度または
所定の立体角に細分化したものを用いて、その細分化し
たゾーンのうち、どのゾーンに前記障害物または前記文
字情報が存在しているかを認識するものであり、前記情
報伝達装置が、さらに、前記障害物または前記文字情報
が存在しているものと認識される位置に関する情報を音
声情報または触覚情報によって発するものであるように
してもよい。
【0030】すなわち、ステレオ画像撮像装置のCCD
のような撮像デバイスを、例えば黒眼鏡のような頭部に
装着される器具に付設して、ユーザである視覚障害者の
頭部(顔)の向きに応じてその頭部の向いた方向での所
定の角度領域内の映像をステレオ画像として撮像し、そ
れに基づいて、ユーザが顔を向けた方向での、障害物や
文字情報の存在の有無や、その距離および位置、さらに
は文字情報の意味内容などを選択的に把握することが可
能となる。従って、ユーザにとっては、自分が顔を向け
た方向での障害物に関する情報や行先に関する情報を把
握することができるので、ユーザが例えば頭部の向きを
少しずつ変えることなどにより、その向きごとに空間的
な障害物や行先表示の位置関係を把握することができ
る。その結果、視覚的に直接には障害物や行先表示の位
置関係を把握することはできなくとも、自分の思考力に
よる空間イメージの中で、自分の前方に存在している障
害物や行先表示の空間的な位置関係をより直観的に把握
することが可能となる。
【0031】なお、上記のような情報処理装置の機能は
いずれも、コンピュータプログラムとして情報記録媒体
に格納しておき、必要に応じてそれをモバイルパソコン
のような携帯可能なパーソナルコンピュータなどの情報
処理装置にインストールして利用するようにしてもよ
い。
【0032】
【発明の実施の形態】以下、本発明の実施の形態につい
て図面を参照して詳細に説明する。
【0033】図1は、本発明の一実施の形態に係る視覚
障害者用歩行支援システムの概要構成を表すものであ
る。
【0034】この視覚障害者用歩行支援システムは、ス
テレオ画像取込器(ステレオ画像撮像装置)11と、モ
バイル型コンピュータ(情報処理装置)12と、情報伝
達器(情報伝達装置)26とをその主要部に備えてい
る。
【0035】ステレオ画像取込器11は、黒眼鏡のレン
ズ部分にCCD撮像素子およびレンズ系(図示省略)を
組み合わせた撮像装置が組み込まれており、その黒眼鏡
をユーザが装着して障害物や行先表示などの情報を知り
たい方向に顔を向けると、その方向の所定の角度領域内
の光景をCCD撮像素子によってステレオ画像として撮
像し、その画像データを出力するものである。
【0036】このステレオ画像取込器11による一度に
撮像可能な領域は、例えば光軸を中心としてその左右4
5度ずつおよび上下45度ずつのように、所定の角度領
域内を選択的に指向性を以て撮像可能に設定されてい
る。従って、ユーザが例えば自分の前方左半分の障害物
や行先表示に関する情報を把握したい場合には、顔を左
側約45度の方向に向けてその方向の光景を撮像するこ
とができる。あるいは、自分の周囲(水平方向に360
度)の障害物や行先表示の状況を把握したい場合などに
は、顔を真っ直ぐに向けた状態で、体の向きを90度ず
つ変えて、その方向ごとの状況をそれぞれ把握するなど
して、左右前後の合計4方向の情報を併せて、自分の周
囲360度の情報を把握することができるように設定さ
れている。ただし、ステレオ画像取込器11による撮像
の指向性はこのような角度の設定のみには限定されない
ことは言うまでもない。
【0037】モバイル型コンピュータ12は、現在位置
確認モジュール21、画像前処理モジュール22、情報
伝達モジュール23、障害物検知モジュール24を備え
ている。画像前処理モジュール22は、前記のステレオ
画像取込器11からの画像データに前処理を施す。現在
位置確認モジュール21は、画像データから現在位置に
関する情報を抽出する処理を行ってそれを情報伝達モジ
ュール23に出力する。障害物検知モジュール24は、
画像データから障害物に関する情報を抽出する処理を行
ってそれを情報伝達モジュール23に出力する。情報伝
達モジュール23は、入力された前記の処理結果の情報
を情報伝達器26にて音声情報や振動による情報を出力
可能なキャラクタ信号や振動パターン発生信号のような
電気信号に変換し、それを情報伝達器26に向けて出力
する。
【0038】ここで、モバイル型コンピュータ12と
は、携帯可能に設定された小型軽量なコンピュータの総
称であって、PCカードのような外部デバイス等を利用
可能なインターフェイスドライブ機能を備えた情報処理
装置を指すものとする。このモバイル型コンピュータ1
2としては、音声出力機能や専用スピーカ25を内蔵し
たものであることが望ましいが、外部出力可能なもので
あっても構わない。あるいは、携帯電話装置やPHS端
末装置などへの接続機能を備えていたり、一般的なパソ
コンとしての種々の機能を合わせ持ったものなどを利用
することも好ましい。
【0039】情報伝達器26は、モバイル型コンピュー
タ12から送られて来たキャラクタ信号や振動パターン
発生信号のような電気信号に基づいて、障害物や行先表
示に関する情報を音声情報あるいは振動などの触覚的情
報によってユーザに報知するもので、スピーカ263、
振動パターン発生モジュール261、振動器262を備
えている。あるいはさらに、スピーカ263から出力さ
れるものと同じ音声を出力するイヤホーン等(図示省
略)を備えるようにしてもよいことは言うまでもない。
【0040】このような視覚障害者用歩行支援システム
は、実際にそれをユーザが用いて単独で歩行する場合に
は、図2に一例を示したように用いられる。すなわち、
ユーザである視覚障害者あるいは弱視者は、黒眼鏡状の
ステレオ画像取込器11を顔面に装着すると共にモバイ
ル型コンピュータ12および情報伝達器26を携帯し、
またその手には補助的ナビゲーション手段として、いわ
ゆる白杖を携える。この白杖については、視覚障害者用
歩行支援システムにとって必須のものではないが、白杖
を携行することが一般的となっており、またそのような
手段を補助的に用いることがユーザにとって心理的にも
安心感を得ることができる場合が多いので、このような
白杖を併せ用いるようにしてもよいことは言うまでもな
い。距離的には、白杖によってユーザの直近から1m程
度の範囲内の足元の状況を把握することなどが可能であ
る。また視覚障害者用歩行支援システムでは、ユーザの
位置から3mないし5m程度離れた位置の障害物等の状
況を把握することなどが可能である。
【0041】次に、本実施の形態に係る視覚障害者用歩
行支援システムの動作の概要について述べる。図3はそ
の動作の概要を説明するための流れ図である。
【0042】まず、視覚障害者が屋外を歩行中に立ち止
まり、現在位置を確認したいときには、ステレオ画像取
込器11で取り込んだ(撮像した)画像をその画像を解
析して、画像中で行先表示や場所に関して示した看板の
文字の可能性が高い文字を抽出し、その文字情報に基づ
いて、その建物が何であるかという情報や、行先表示の
看板に書かれた意味内容などの情報を把握すると共に、
その位置までの距離を把握し、それらの情報を音声情報
や振動による触覚的情報として、情報伝達器26から出
力する。
【0043】あるいは、視覚障害者が屋外を歩行してい
るとき、または交差点等で立ち止まったときに、ステレ
オ画像取込器11によって取り込んだステレオ画像をモ
バイル型コンピュータ12に送り、その画像を解析し
て、例えば前方5m先に障害物が存在していると判定さ
れると、その情報を情報伝達器26に送る。すると情報
伝達器26はその情報を音声情報や振動による触覚的情
報として出力する。なお、振動による情報伝達に関する
さらに具体的な手法それ自体については、例えば特願平
11−124572号による「情報伝達装置および情報
送信伝達システム」にその詳細が提案されており、その
ような手法を用いることが可能である。あるいはそのた
の手法でも構わないことは言うまでもない。
【0044】歩行者本人が立ち止まって場所の確認を行
うとき、モバイル型コンピュータ12が既にシステム起
動状態で(S41〜S42)、例えば信号ライン等を介
してモバイル型コンピュータ12と繋がっている押しボ
タン式のスイッチ等(図示省略)をユーザがオンにする
と(S43)、モバイル型コンピュータ12はスイッチ
フラグSWを1にセットし(S44)、ステレオ画像の
取り込みおよび画像前処理を実行して(S45)、スイ
ッチフラグSW=1に基づいて(S46のY)、現在位
置確認処理を実行する(S47)。あるいはスイッチフ
ラグSWが0で位置の確認を行う必要がないときには
(S46のN)、障害物検知処理を実行する(S4
8)。
【0045】こうして処理された情報は、情報伝達器2
6によって音声情報あるいは触覚的情報として出力(情
報伝達処理)される(S49)。
【0046】システム起動スイッチがユーザによってオ
フにされると(S410のY)、システムはその動作を
停止する(S411)。
【0047】図4は、現在位置確認処理に関するさらに
詳細な流れ図である。まず、現在位置確認モジュール2
1では、画像前処理モジュール22で処理された画像処
理後のステレオ画像が入力されると(S471)、その
画像中から看板文字領域を抽出する(S472)。次
に、抽出した看板文字領域内の文字を、1文字ずつ切り
出す処理を実行する(S473)。続いて、切り出した
文字群を、例えば「入口」、「出口」、「非常口」、
「ゲート」、「通路」、「歩道」、「陸橋」、「方
面」、「階段」、「エレベータ」、「改札」、「切符売
場」、「東」、「西」、「南」、「北」等といった、視
覚障害者にとって現在位置に関する情報や行先に関する
情報などに関係の深いことが想定される所定の文字を含
む文字情報としてデータベースにあらかじめ登録してお
いた文字群とパターンマッチング法等により比較して、
その文字群の意味内容を認識する処理を実行する(S4
74)。
【0048】そしてその認識された文字情報の意味内容
を、例えば「A4出口、特許庁方面」のように音声情報
でユーザにアナウンスする(S475〜S476)。あ
るいは、このとき確定的な文字情報が認識されなかった
場合や、不確定な判定しかできない場合には、音声情報
を出力しない。あるいは判定不能の旨を報知するように
してもよい。
【0049】なお、このような音声情報の出力処理(S
475〜S476)における音声出力の手法それ自体に
ついては、前記の障害物検知モジュール24からの情報
に基づいた音声情報出力の情報伝達処理(S49)と同
様の手法を用いることが可能であることは言うまでもな
い。換言すれば情報伝達処理は現在位置情報の出力も障
害物検知情報の出力も情報伝達器26によって行うこと
が可能である。
【0050】所定の文字情報を得るための看板文字領域
のさらに詳細な抽出処理手法は、図5の流れ図に示よう
に、画像処理後のステレオ画像データが入力されると
(S4721)、その画像データに対して、文字の部分
は背景部分と比較して空間周波数が高い傾向にあること
を利用してエッジ領域検出処理を実行して(S472
2)、ノイズを生じやすい小領域の除去を行う(S47
23)。続いて、画像のx軸およびy軸ごとにそれぞれ
濃度分布を調べる濃度写映演算処理を実行し(S472
4)、その処理の結果、高濃度が多く(頻繁に)現れる
部分を文字領域と判定して、その部分を選択して文字列
範囲の切り出し処理を実行し(S4725)、文字列を
得る(S4726)。
【0051】こうして切り出された文字列領域の画像デ
ータは(S4731)、さらに、図6の流れ図に表すよ
うな手順で1文字ずつにさらに切り出される。すなわ
ち、まず文字列領域の画像データ全体でエッジ検出処理
が施される(S4732)。このとき、文字列が斜めに
なっている場合には、x軸またはy軸に対して平行にな
るように回転処理等を施すなどして整列化させる(S4
733)。そして、さらに濃度写映演算処理を施して
(S4734)、隣り合う文字どうしの間は濃度変化の
頻度が低いことを利用して、文字間ギャップの検出を行
うことにより(S4735)、1文字ずつの分離抽出処
理を行って(S4736)、その分離された1文字ずつ
を文字列として順番に出力する(S4737)。
【0052】あるいは、図10に示したように、文字情
報を把握すると共に、その文字情報が掲げられている看
板等までの距離を把握して、それらの情報を併せて出力
(アナウンス)することなども可能である。すなわち、
文字群の意味内容を認識する処理を把握する(S47
4)と共に、その文字群が抽出された看板等までの距離
を三角測量法等によって把握して、それらの情報を併せ
て、例えば「右前方に行先表示板があります。A4出口
です」というように音声情報で報知するようにしてもよ
い。
【0053】障害物検知処理は、さらに詳細には、図7
の流れ図に示したようなものである。すなわち、モバイ
ル型コンピュータ12は、画像処理前のステレオ画像を
取り込むと(S481およびS487)、まずその画像
から得られる特徴点を抽出する(S482およびS48
8)。この特徴点抽出処理では、物体のエッジを構成す
る点を好適に用いることができる。続いて、左右一対の
ステレオ画像のそれぞれからステレオ対応点を決定する
(S483およびS489)。この相対応する特徴点ペ
ア群の撮像面での水平および垂直方向の座標を用いて、
その空間座標(水平および垂直位置)を、三角測量の計
算手法によって求める(S484およびS4810)。
【0054】なお、ステレオ対応点決定処理の一部分は
ゼロ視差フィルタ(ZDF;zero disapri
ty filter)法を用いて実行することができ
る。このZDF法については、例えばP.von Ka
nel,C.M.Brown,and D.J.Coo
mbs," Detecting rtegions o
f zero disparity in binoc
ular imagestechnical repo
rt," Tech.Rep.of Universit
y of Rechester,TR415,199
2.等にその詳細が提案されている。これは要約すれ
ば、奥行きzを既知として与えておき左右のカメラから
得られた画像から、視差量が一定(すなわち奥行きが同
一)であるような画像特徴のみを出力し、それ以外を除
去するという手法である。
【0055】上記のようにして空間位置データが求まる
と、さらに、その座標がユーザの体前方のどの位置にあ
るかを把握する(判定する)ために、それを例えば図8
に一例を示したような所定の領域ごとに細分化された個
々の空間分割ゾーンに投票する(S485およびS48
11)。そして投票結果を、あらかじめ定められた評価
値と比較して(S486およびS4812)、その評価
値よりも大きな値である場合には(S486のYおよび
S4812のY)、その空間分割ゾーン内に障害物候補
が存在しているものと仮判定する。そしてさらに、その
障害物候補が障害物であるのか、それとも移動している
他の歩行者や物体などであるのかについてを、区別する
ために、時刻t−Δtにおける判定結果と時刻tにおけ
る判定結果とを用いて、その両者が評価値の条件を満た
すものである場合にのみ、その障害物候補を実際の障害
物であると判定する(S4813)。そしてその結果を
障害物検知信号として出力する(S4814)。
【0056】なお、歩行時に障害物検知を行う場合に
は、時刻tで取り込んだ画像についての距離(Z+Δ
z)に関するZDF処理後の評価結果と、時刻t−Δt
で取り込んだ画像についての距離(Z)に関するZDF
処理後の評価結果との両方を用いて、その両者の論理積
を取る。
【0057】あるいは、立ち止まった状態で障害物検知
を行う場合には、時刻tで取り込んだ画像についての距
離(Z)に関するZDF処理後の評価結果と、時刻t−
Δtで取り込んだ画像についての距離(Z)に関するZ
DF処理後の評価結果との両方を用いて、その両者の論
理積を取る。
【0058】いずれの場合も、論理積の結果が真の場合
には、そのゾーンに障害物が存在しているものと判定
し、偽の場合には、そのゾーンに障害物が存在していな
いものと判定する。そして、各ゾーンごとの真偽の分布
が把握されると、その分布パターンに基づいて、障害物
が、例えば頭部付近または足元付近あるいは体の左側ま
たは右側などのうち、どの位置にあるのかについてなど
をユーザに報知するための障害物検知信号を出力する。
【0059】図9は、本発明による他の実施の形態に係
る視覚障害者用歩行支援システムの概要構成を表す図で
ある。なお、この図9では、説明および図示の簡潔化を
図るために、上記実施の形態と同様の部位については、
それと同一の符号を付して示している。
【0060】この視覚障害者用歩行支援システムでは、
現在位置確認モジュール21、画像前処理モジュール2
2、情報伝達モジュール23、障害物検知モジュール2
4が、例えばROM(リード・オンリ・メモリ)カード
のようなコンピュータ用記録媒体(情報記録媒体)31
に格納されたソフトウェアを、例えばノートブック型パ
ソコン(パーソナルコンピュータ) のようなモバイル型
コンピュータ12にソフトウェア実装されるように設定
されている。このモバイル型コンピュータ12は、いわ
ゆるOS32とインターフェイスドライバソフト33と
を主要部に備えた基本ソフトウェアを持つもので、これ
に前記のようなコンピュータ用記録媒体(情報記録媒
体)31を装着すると共に、ステレオ画像取込器11お
よび情報伝達器26をPCカード27等を介して接続し
て、上記実施の形態と同様のシステムを構築することも
可能である。
【0061】
【発明の効果】以上説明したように、請求項1ないし6
のうちいずれか1項に記載の視覚障害者用歩行支援シス
テムまたは請求項7ないし12のうちいずれか1項に記
載の情報記録媒体によれば、視覚障害者にとって現在位
置に関する情報や行先に関する情報を把握可能な文字情
報を、ステレオ画像撮像装置によって撮像されたステレ
オ画像から抽出し、その文字情報から得られる意味内容
を情報伝達装置から音声情報または触覚情報として発す
るようにしたので、ユーザである視覚障害者あるいは弱
視者等にとって、現在位置を把握することや、行先がど
ちらの方向であるのかについてなど、プランニングに関
する情報を把握することが可能となるという効果を奏す
る。また、ユーザがそのステレオ画像撮像装置を向けた
方向に存在している障害物や文字情報のみを、明確な指
向性を以て、さらに明確に把握することが可能となる。
【0062】特に、請求項2ないし6のうちいずれか1
項に記載の視覚障害者用歩行支援システムまたは請求項
8ないし12のうちいずれか1項に記載の情報記録媒体
によれば、上記の効果にさらに加えて、ユーザである視
覚障害者等にとって、障害物の存在やその位置や距離な
ど、ナビゲーションに関する情報を、より具体的に把握
することが可能となる。
【0063】また、特に、請求項6に記載の視覚障害者
用歩行支援システムまたは請求項12に記載の情報記録
媒体によれば、ユーザである視覚障害者にとって、自分
の必要とする方向での障害物に関する情報や行先に関す
る情報を把握することができるので、その向きごとに空
間的な障害物や行先表示の位置関係をより具体的に明確
に把握することが可能となる。
【図面の簡単な説明】
【図1】本発明の一実施の形態に係る視覚障害者用歩行
支援システムの概要構成を表す図である。
【図2】図1に示した視覚障害者用歩行支援システムを
実際にユーザが用いて単独で歩行する場合の一例を表す
図である。
【図3】図1に示した視覚障害者用歩行支援システムの
動作の概要を表す流れ図である。
【図4】現在位置確認処理のプロセスをさらに詳細に表
す流れ図である。
【図5】所定の文字情報を得るための看板文字領域の抽
出処理手法をさらに詳細に表す流れ図である。
【図6】文字列領域の画像データをさらに1文字ずつに
切り出す処理を表す流れ図である。
【図7】障害物検知処理のプロセスをさらに詳細に表す
流れ図である。
【図8】空間位置データを所定の領域ごとに細分化され
た個々の空間分割ゾーンに投票するプロセスを表す流れ
図である。
【図9】本発明の他の実施の形態に係る視覚障害者用歩
行支援システムの概要構成を表す図である。
【図10】文字情報とその文字情報が掲げられている看
板等までの距離とを把握して、それらの情報を併せて出
力するプロセスを表す流れ図である。
【符号の説明】 11…ステレオ画像取込器、12…モバイル型コンピュ
ータ、21…現在位置確認モジュール、22…画像前処
理モジュール、23…情報伝達モジュール、24…障害
物検知モジュール、26…情報伝達器
フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) // H04N 7/18 H04N 7/18 Z Fターム(参考) 5B057 AA16 DA07 DB03 DC02 DC08 DC16 DC19 DC30 DC32 5C054 AA01 CC02 CE00 CH02 CH03 EA01 EA05 FC11 FC12 FF06 HA12 5H180 AA23 CC04 FF25

Claims (12)

    【特許請求の範囲】
  1. 【請求項1】 光軸を向けた方向の所定領域内の映像を
    ステレオ画像として撮像するステレオ画像撮像装置と、 前記ステレオ画像から、視覚障害者にとって現在位置に
    関する情報および行先に関する情報のうち少なくともい
    ずれか一方に関して確認可能な所定の文字を含む文字情
    報を抽出し、その文字情報の意味内容を認識する情報処
    理装置と、 前記文字情報の意味内容を音声情報または触覚情報によ
    って発する情報伝達装置とを備えたことを特徴とする視
    覚障害者用歩行支援システム。
  2. 【請求項2】 前記情報処理装置が、さらに、視覚障害
    者にとって前記映像中を歩行するに際して障害物となり
    得る所定の物体の存在の有無およびその位置に関する情
    報のうち少なくとも前記存在の有無に関する情報を、前
    記ステレオ画像から認識するものであることを特徴とす
    る請求項1記載の視覚障害者用歩行支援システム。
  3. 【請求項3】 前記情報処理装置が、前記ステレオ画像
    から、看板文字情報を抽出する処理、その文字を1文字
    ずつの文字列に切り出す処理、その文字列を、前記所定
    の文字と比較して前記文字情報の意味内容を認識する処
    理を行うものであることを特徴とする請求項1または2
    記載の視覚障害者用歩行支援システム。
  4. 【請求項4】 前記情報処理装置が、所定の時間差で撮
    像された2つのステレオ画像に対して、特徴点を抽出す
    る処理、相対応するステレオ対応点を抽出する処理、空
    間座標値を計算する処理を行うものであることを特徴と
    する請求項1ないし3のうちいずれか1項に記載の視覚
    障害者用歩行支援システム。
  5. 【請求項5】 前記情報処理装置が、さらに、前記空間
    座標値を空間を分割してなるゾーンに投票し、その投票
    結果を所定の評価値と比較して、その評価値よりも大き
    い場合には前記ゾーンに障害物候補または文字情報候補
    があるものと判定し、前記所定の時間差で撮像された2
    つのステレオ画像に関する前記判定の論理積を演算し、
    その演算結果が真の場合には前記ゾーン中に障害物また
    は文字情報が有るものと結論すると共にその障害物また
    は文字情報の位置を前記ゾーンに基づいて認識し、偽の
    場合には障害物または文字情報が無いものと結論する処
    理を行うものであり、 前記情報伝達装置が、さらに、前記障害物または前記文
    字情報の有無に関する情報を音声情報または触覚情報に
    よって発するものであることを特徴とする請求項4記載
    の視覚障害者用歩行支援システム。
  6. 【請求項6】 前記ステレオ画像撮像装置が、さらに、
    頭部に装着可能でその頭部が向いた方向の映像を撮像す
    るように設定されており、かつ前記方向での所定の水平
    方向角度または所定の立体角内の映像を撮像するもので
    あり、 前記情報処理装置が、さらに、前記ゾーンとして前記撮
    像された映像の空間を所定の水平方向角度または所定の
    立体角に細分化したものを用いて、その細分化したゾー
    ンのうち、どのゾーンに前記障害物または前記文字情報
    が存在しているかを認識するものであり、 前記情報伝達装置が、さらに、前記障害物または前記文
    字情報が存在しているものと認識される位置に関する情
    報を音声情報または触覚情報によって発するものである
    ことを特徴とする請求項5記載の視覚障害者用歩行支援
    システム。
  7. 【請求項7】 光軸を向けた方向の所定領域内の映像を
    撮像するステレオ画像撮像装置によって撮像されたステ
    レオ画像から、視覚障害者にとって現在位置に関する情
    報および行先に関する情報のうち少なくともいずれか一
    方に関して確認可能な所定の文字を含む文字情報を抽出
    し、その文字情報の意味内容を認識し、その文字情報の
    意味内容を音声情報または触覚情報として情報伝達装置
    によって発することができる情報として出力する機能
    を、情報処理装置に実行させるコンピュータプログラム
    を格納してなることを特徴とする情報記録媒体。
  8. 【請求項8】 視覚障害者にとって前記映像中を歩行す
    るに際して障害物となり得る所定の物体の存在の有無お
    よびその位置に関する情報のうち少なくとも前記存在の
    有無に関する情報を、前記ステレオ画像から認識するよ
    うに、前記情報処理装置をさらに機能させるコンピュー
    タプログラムを格納してなることを特徴とする請求項7
    記載の情報記録媒体。
  9. 【請求項9】 前記ステレオ画像から、看板文字情報を
    抽出する処理、その文字を1文字ずつの文字列に切り出
    す処理、その文字列を、前記所定の文字と比較して前記
    文字情報の意味内容を認識する処理を行うように、前記
    情報処理装置をさらに機能させるコンピュータプログラ
    ムを格納してなることを特徴とする請求項7または8記
    載の情報記録媒体。
  10. 【請求項10】 所定の時間差で撮像された2つのステ
    レオ画像に対して、特徴点を抽出する処理、相対応する
    ステレオ対応点を抽出する処理、空間座標値を計算する
    処理を行うように、前記情報処理装置をさらに機能させ
    るコンピュータプログラムを格納してなることを特徴と
    する請求項7ないし9のうちいずれか1項に記載の情報
    記録媒体。
  11. 【請求項11】 前記空間座標値を空間を分割してなる
    ゾーンに投票し、その投票結果を所定の評価値と比較し
    て、その評価値よりも大きい場合には前記ゾーンに障害
    物候補または文字情報候補があるものと判定し、前記所
    定の時間差で撮像された2つのステレオ画像に関する前
    記判定の論理積を演算し、その演算結果が真の場合には
    前記ゾーン中に障害物または文字情報が有るものと結論
    すると共にその障害物または文字情報の位置を前記ゾー
    ンに基づいて認識し、偽の場合には障害物または文字情
    報が無いものと結論する処理を行うように、前記情報処
    理装置をさらに機能させるコンピュータプログラムを格
    納してなることを特徴とする請求項10記載の情報記録
    媒体。
  12. 【請求項12】 前記ステレオ画像撮像装置が、さら
    に、頭部に装着されてその頭部が向いた方向の映像を撮
    像するように設定されており、かつその方向での所定の
    水平方向角度または所定の立体角内の映像を撮像するも
    のであり、前記ゾーンとして前記撮像された映像の空間
    を所定の水平方向角度または所定の立体角に細分化した
    ものを用いて、その細分化したゾーンのうち、どのゾー
    ンに前記障害物または前記文字情報が存在しているかを
    認識し、その認識された位置に関する情報を音声情報ま
    たは触覚情報として情報伝達装置から発するように、前
    記情報処理装置をさらに機能させるコンピュータプログ
    ラムを格納してなることを特徴とする請求項11記載の
    情報記録媒体。
JP2000138124A 2000-05-11 2000-05-11 視覚障害者用歩行支援システムおよび情報記録媒体 Expired - Lifetime JP4375879B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000138124A JP4375879B2 (ja) 2000-05-11 2000-05-11 視覚障害者用歩行支援システムおよび情報記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000138124A JP4375879B2 (ja) 2000-05-11 2000-05-11 視覚障害者用歩行支援システムおよび情報記録媒体

Publications (2)

Publication Number Publication Date
JP2001318594A true JP2001318594A (ja) 2001-11-16
JP4375879B2 JP4375879B2 (ja) 2009-12-02

Family

ID=18645785

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000138124A Expired - Lifetime JP4375879B2 (ja) 2000-05-11 2000-05-11 視覚障害者用歩行支援システムおよび情報記録媒体

Country Status (1)

Country Link
JP (1) JP4375879B2 (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005108926A1 (ja) * 2004-05-12 2005-11-17 Takashi Yoshimine 情報処理装置、携帯機器及び情報処理方法
JP2013034490A (ja) * 2011-08-03 2013-02-21 Alpha Media:Kk 視覚障害者歩行支援装置
KR101353860B1 (ko) 2012-07-25 2014-01-23 전주대학교 산학협력단 병렬 영상 필터링 모듈을 구비한 다시점 카메라를 이용한 시각 장애인 가이드 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체
JP2014505871A (ja) * 2011-01-04 2014-03-06 クアルコム,インコーポレイテッド ナビゲーションのためのカメラ対応ヘッドセット
JP2014508596A (ja) * 2011-02-24 2014-04-10 アイシス イノベーション リミテッド 視覚障害を有する個人のための光学装置
JP2016184089A (ja) * 2015-03-26 2016-10-20 Necプラットフォームズ株式会社 情報認識装置、ナビゲーションシステム、ナビゲーション方法及びプログラム
JP2016194612A (ja) * 2015-03-31 2016-11-17 株式会社ニデック 視覚認識支援装置および視覚認識支援プログラム
US9628931B2 (en) 2014-03-31 2017-04-18 Kabushiki Kaisha Toshiba Apparatus and method for locating an acoustic signal along a direction not overlapped with an arriving direction of an information sound
KR101965875B1 (ko) * 2017-10-11 2019-08-13 주식회사 핀텔 영상 분석을 기반으로 한 길 안내 방법 및 장치
JP2019159193A (ja) * 2018-03-15 2019-09-19 株式会社Raise the Flag. 視覚障がい者用行動支援装置
JP2021033368A (ja) * 2019-08-15 2021-03-01 株式会社オトングラス 読み上げ装置
WO2021181992A1 (ja) 2020-03-13 2021-09-16 オムロン株式会社 移動支援装置、移動支援方法、及びプログラム
WO2021260824A1 (ja) * 2020-06-24 2021-12-30 日本電信電話株式会社 危険回避通知装置、危険回避通知方法及びプログラム

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7546204B2 (en) 2004-05-12 2009-06-09 Takashi Yoshimine Information processor, portable apparatus and information processing method
WO2005108926A1 (ja) * 2004-05-12 2005-11-17 Takashi Yoshimine 情報処理装置、携帯機器及び情報処理方法
JP2014505871A (ja) * 2011-01-04 2014-03-06 クアルコム,インコーポレイテッド ナビゲーションのためのカメラ対応ヘッドセット
JP2014508596A (ja) * 2011-02-24 2014-04-10 アイシス イノベーション リミテッド 視覚障害を有する個人のための光学装置
JP2013034490A (ja) * 2011-08-03 2013-02-21 Alpha Media:Kk 視覚障害者歩行支援装置
KR101353860B1 (ko) 2012-07-25 2014-01-23 전주대학교 산학협력단 병렬 영상 필터링 모듈을 구비한 다시점 카메라를 이용한 시각 장애인 가이드 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체
WO2014017719A1 (ko) * 2012-07-25 2014-01-30 전주대학교 산학협력단 병렬 영상 필터링 모듈을 구비한 다시점 카메라를 이용한 시각 장애인 가이드 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체
US9628931B2 (en) 2014-03-31 2017-04-18 Kabushiki Kaisha Toshiba Apparatus and method for locating an acoustic signal along a direction not overlapped with an arriving direction of an information sound
JP2016184089A (ja) * 2015-03-26 2016-10-20 Necプラットフォームズ株式会社 情報認識装置、ナビゲーションシステム、ナビゲーション方法及びプログラム
JP2016194612A (ja) * 2015-03-31 2016-11-17 株式会社ニデック 視覚認識支援装置および視覚認識支援プログラム
KR101965875B1 (ko) * 2017-10-11 2019-08-13 주식회사 핀텔 영상 분석을 기반으로 한 길 안내 방법 및 장치
JP2019159193A (ja) * 2018-03-15 2019-09-19 株式会社Raise the Flag. 視覚障がい者用行動支援装置
JP2021033368A (ja) * 2019-08-15 2021-03-01 株式会社オトングラス 読み上げ装置
WO2021181992A1 (ja) 2020-03-13 2021-09-16 オムロン株式会社 移動支援装置、移動支援方法、及びプログラム
WO2021260824A1 (ja) * 2020-06-24 2021-12-30 日本電信電話株式会社 危険回避通知装置、危険回避通知方法及びプログラム

Also Published As

Publication number Publication date
JP4375879B2 (ja) 2009-12-02

Similar Documents

Publication Publication Date Title
US20230392944A1 (en) Navigation methods and apparatus for the visually impaired
EP2672232B1 (en) Method for Providing Navigation Information and Server
US20030026461A1 (en) Recognition and identification apparatus
JP4375879B2 (ja) 視覚障害者用歩行支援システムおよび情報記録媒体
CN109730910B (zh) 出行的视觉辅助系统及其辅助设备、方法、可读存储介质
JP2005037181A (ja) ナビゲーション装置、サーバ装置、ナビゲーションシステム、及びナビゲーション方法
US10922998B2 (en) System and method for assisting and guiding a visually impaired person
JP2008039596A (ja) 情報提供装置、情報提供方法、情報提供プログラム、および記録媒体
JP2006251596A (ja) 視覚障害者支援装置
KR20220057577A (ko) 도로 상황 프롬프트 방법, 장치, 전자 기기, 저장 매체 및 프로그램 제품
US20220155092A1 (en) Method of navigating a visually impaired user, a navigation system for the same, and a guiding robot
Tyagi et al. Assistive navigation system for visually impaired and blind people: a review
CN113678141A (zh) 用于盲人和视力受损人员的立体声装置
JP2005326956A (ja) 駐車場空きスペース案内装置及び駐車場空きスペース案内方法
Manjari et al. CREATION: Computational constRained travEl aid for objecT detection in outdoor eNvironment
KR102081193B1 (ko) 시각장애인 보행 보조기구 및 이를 구비한 보행시스템
Biswas et al. Shortest path based trained indoor smart jacket navigation system for visually impaired person
US11766779B2 (en) Mobile robot for recognizing queue and operating method of mobile robot
JP7418189B2 (ja) 表示画像生成装置及び表示画像生成方法
KR20190059497A (ko) 보행 보조 스마트 폰
JP7136538B2 (ja) 電子装置
KR20120059752A (ko) 감정을 인식하는 시각장애인용 안내 장치, 안내 시스템, 그를 이용한 안내방법, 및 그 기록매체
JP2002219142A (ja) 視覚障害者ガイド器
JPH08252279A (ja) 対象物を音で提示する経路誘導方法
KR20180075843A (ko) 증강현실을 이용한 경로 안내 장치 및 이를 이용한 경로 안내 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060614

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090609

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090825

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090908

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120918

Year of fee payment: 3