JP2010139633A - ヘッドマウントディスプレイ - Google Patents

ヘッドマウントディスプレイ Download PDF

Info

Publication number
JP2010139633A
JP2010139633A JP2008314429A JP2008314429A JP2010139633A JP 2010139633 A JP2010139633 A JP 2010139633A JP 2008314429 A JP2008314429 A JP 2008314429A JP 2008314429 A JP2008314429 A JP 2008314429A JP 2010139633 A JP2010139633 A JP 2010139633A
Authority
JP
Japan
Prior art keywords
display
time
reference time
image
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008314429A
Other languages
English (en)
Other versions
JP5012780B2 (ja
Inventor
Hitoshi Takeda
仁志 武田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2008314429A priority Critical patent/JP5012780B2/ja
Publication of JP2010139633A publication Critical patent/JP2010139633A/ja
Application granted granted Critical
Publication of JP5012780B2 publication Critical patent/JP5012780B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】走行している臨場感を高め、走行に関する情報を容易に把握させることができるヘッドマウントディスプレイを提供する。
【解決手段】ヘッドマウントディスプレイは、外光を透過しつつ、表示情報に応じた画像光をユーザの眼に投射してユーザに画像光に応じた画像を視認させる。ヘッドマウントディスプレイは、複数の通過地点のうちのいずれかにユーザが到達したことを検知し、複数の通過地点のうちの第一通過地点に到着したことが検知された後に、第二通過地点に到着したことが検知されると、第一通過地点から第二通過地点までの経過時間を計測し、その前記経過時間と基準時間との時間差を算出する。ヘッドマウントディスプレイは、算出された経過時間と基準時間との時間差に基づいた仮想走行者の画像を表示させる制御を行う。
【選択図】図6

Description

本発明は、ヘッドマウントディスプレイに関するものであり、特に、複数の通過地点が設定された走行コースにおいてユーザの走行に関する情報を提供するヘッドマウントディスプレイに関するものである。
従来より、動画ファイル、静止画ファイル、文章ファイル等の各種コンテンツ情報を記憶する記憶手段と、この記憶手段に記憶したコンテンツ情報を再生する再生手段とを備えた情報処理装置が知られている。
この情報処理装置の代表例としては、パーソナルコンピュータがある。一般にパーソナルコンピュータは、前記記憶手段や前記再生手段等を備えたコンピュータ本体と、このコンピュータ本体に所定の動作を行わせるために使用者が操作するキーボードやマウス等の機械的な操作手段と、再生手段により再生されたコンテンツ情報を画像として表示するディスプレイ等とから構成されている。
この表示情報を表示するディスプレイとしては、CRT(Cathode Ray Tube)ディスプレイや液晶ディスプレイ等の卓上に載置して使用する表示装置が一般的であったが、液晶表示素子を画像表示デバイスとして用い、ユーザが頭部に装着した状態で画像を視認することができるヘッドマウントディスプレイ(以下、「HMD」ということがある。)等も開発されてきていた。
このようなHMDにおいては、例えば、特許文献1に示すように、陸上競技者や一般走行者等の走行者によって利用されるものが開示されている。このHMDは、走行ペースを示す時間情報など、走行に関する情報の送受信が可能であり、その情報を表示させることによって、走行者に対して有益な情報をユーザに提供することができる。また、このHMDにおいては、ペースを保持させるための別の仮想走行者が表示される。
特開2003−169822号公報
ところが、上記従来の装置では、走行に関する情報が単に数値で表示されるだけでは、実際に走行しているユーザにとっては、通過地点での計測時間や基準となるペースとの時間差については容易には把握することができず、ましてや走行に関する知識が少ない一般の走行者にとってはこれらの情報を把握することは難しい。また、ユーザに対して所定の距離で仮想走行者が表示されていても、単に表示されるだけであり、走行ペースに応じて仮想走行者が表示されるわけではなく、走行している時間感覚、距離感覚等の情報を把握し難い。
本発明は、上述したような課題に鑑みてなされたものであり、走行している臨場感を高め、走行に関する情報を容易に把握させることができるヘッドマウントディスプレイを提供することを目的とする。
以上のような目的を達成するために、本発明は、以下のようなものを提供する。
すなわち、請求項1記載の本発明では、複数の通過地点が設定された走行コースにおいてユーザの走行に関する情報を提供するヘッドマウントディスプレイにおいて、外光を透過しつつ、表示情報に応じた画像光をユーザの眼に投射して当該ユーザに前記画像光に応じた画像を視認させる表示手段と、前記複数の通過地点のうちのいずれかに前記ユーザが到達したことを検知する位置検知手段と、前記位置検知手段によって前記複数の通過地点のうちの第一通過地点に到着したことが検知された後に、前記複数の通過地点のうちの第二通過地点に到着したことが検知されると、当該第一通過地点から当該第二通過地点までの経過時間を計測する経過時間計測手段と、前記第一通過地点から前記第二通過地点における走行の基準時間が記憶された基準時間記憶手段と、前記経過時間計測手段によって計測された前記経過時間と、前記基準時間記憶手段に記憶された基準時間との時間差を算出する時間差算出手段と、前記時間差算出手段によって算出された前記経過時間と前記基準時間との時間差に基づいた仮想走行者の画像を前記表示手段に表示させる制御を行う表示制御手段と、を備えたことを特徴とするものである。
すなわち、請求項2記載の本発明では、請求項1に記載の発明において、前記時間差算出手段によって算出された前記経過時間と前記基準時間との時間差に基づいて、距離差を算出する距離差算出手段を備え、前記表示制御手段は、前記距離差算出手段によって算出された前記経過時間と前記基準時間との距離差に基づいた仮想走行者の画像を前記表示手段に表示させる制御を行うことを特徴とするものである。
すなわち、請求項3記載の本発明では、請求項2に記載の発明において、前記表示制御手段は、前記距離差算出手段によって算出された前記経過時間と前記基準時間との距離差に応じた大きさで仮想走行者の画像を前記表示手段に表示させる制御を行うことを特徴とするものである。
すなわち、請求項4記載の本発明では、請求項3に記載の発明において、前記表示制御手段は、前記時間差算出手段による算出結果に基づいて前記経過時間が前記基準時間よりも短いと算出された場合には、仮想走行者の前姿画像を表示させる制御を行い、前記時間差算出手段による算出結果に基づいて前記経過時間が前記基準時間よりも長いと算出された場合には、仮想走行者の後姿画像を表示させる制御を行うことを特徴とするものである。
すなわち、請求項5記載の本発明では、請求項1から4のいずれかに記載の発明において、前記基準時間記憶手段には、前記複数の通過地点間毎に前記基準時間が関連付けられたテーブルが記憶されていることを特徴とするものである。
すなわち、請求項6記載の本発明では、前記経過時間計測手段によって計測された経過時間の履歴を前記基準時間として前記基準時間記憶手段に設定する基準時間設定手段を備えたことを特徴とするものである。
すなわち、請求項7記載の本発明では、請求項1から6のいずれかに記載の発明において、前記複数の通過地点の各々に設けられた所定の素子又は所定の装置との無線通信を行う無線通信手段を備え、前記位置検知手段は、所定の位置に設けられた素子又は装置との無線通信によって前記複数の通過地点のうちのいずれかに前記ユーザが到達したことを検知することを特徴とするものである。
すなわち、請求項8記載の本発明では、請求項1から6のいずれかに記載の発明において、前記ユーザの視野範囲のうち少なくとも一部を撮像する撮像手段と、前記複数の通過地点の各々に設けられ、前記撮像手段による撮像領域内における識別体を検出する識別体検出手段と、を備え、前記位置検知手段は、前記識別体検出手段によって検出された識別体に基づいて、前記複数の通過地点のうちのいずれかに前記ユーザが到達したことを検知することを特徴とするものである。
本発明によれば、走行している臨場感を高め、走行に関する情報を容易に把握させることができる。
以下、本発明の一実施形態について、図面を参照して具体的に説明する。図1は、本実施形態に係るヘッドマウントディスプレイ(以下、「HMD」ということがある。)システムを示す説明図である。
[HMD概観]
図1に示すように、本実施形態に係るHMDシステムS1は、ヘッドマウントディスプレイ1と、そのHMD1と通信可能なパーソナルコンピュータ9と、を備えている。
HMD1は、ユーザPが頭部に装着した状態で、動画ファイル、静止画ファイル、文章ファイル等の各種コンテンツ情報を画像としてそのユーザPに視認可能に表示するHMD本体2と、そのHMD本体2に対して画像信号を供給する処理を主に行うコントローラ3と、を備えている。
このHMD1は、内部又は外部に記憶されている各種コンテンツ情報を画像信号に変換し、この画像信号に基づいて生成した光(以下、「画像光」という。)をユーザPの眼に導いて走査する光源ユニット部10(図3参照)を備え、ユーザPが頭部に装着した状態で光源ユニット部10を動作させることによって、画像光をユーザの網膜上で2次元方向に走査させることにより、ユーザPにコンテンツ情報に対応する画像(以下、単に「コンテンツ」という。)を視認させることができるように構成している。なお、このHMD1の具体的構成については、後に詳述する。
また、このHMD1は、コンテンツを表示している最中であっても、ユーザPの視野の中で、少なくともそのコンテンツを表示している領域以外の領域では、ユーザPが外界を視認できるように構成している。
すなわち、このHMD1は、外光を透過しつつ、コンテンツ情報に応じた画像光をユーザPの眼に投射するシースルー型のヘッドマウントディスプレイである。
また、HMD本体2には、光源ユニット部10や光合成部40(ともに図3参照)等が内蔵されており、コントローラ3には、後述する制御部110(図3参照)等が内蔵されている。
また、本実施形態のHMD1は、ユーザPの視野範囲のうち少なくとも一部を撮像する撮像手段としてのCCD(Charge Coupled Devices)センサ4を備えており、ユーザPの視野範囲のうち少なくとも一部の画像をサンプリングするように構成されている。
このHMD1は、装着したユーザPが走行コースを走行する際に、そのユーザの走行に関する情報を提供するものである。
走行コースについて図2を用いて以下に説明する。図2は、走行コースについての説明図である。
図2に示すように、走行コースRには、複数の通過地点が設定されている。これら複数の通過地点としては、走行を開始する開始地点Sと、走行を終了する終了地点Gと、それら開始地点Sから終了地点Gまでの走行コースRにおいて通過時間を計測する通過地点AからEとが設定されており、それら複数の通過地点には、通過地点に到達したことを認識させるための識別体が設置されている。この識別体は、2次元コード(例えば、QRコード)などの情報であり、上述したCCDセンサ4によって撮像された結果に基づいて識別可能に検出する。
[HMDの電気的構成]
本実施形態におけるHMD1の電気的構成などについて図3を用いて説明する。
図3に示すように、このHMD1は、当該HMD1全体の動作を統括制御する制御部110と、この制御部110から供給される画像信号に基づいて生成した画像光を2次元的に走査することにより画像を表示することによって、画像信号に応じた画像を視認させる光源ユニット部10と、を備えている。
HMD1には、外部から供給される画像信号を処理するための光源ユニット部10が設けられている。光源ユニット部10には、外部からの画像信号が入力され、それに基づいて映像を合成するための要素となる各信号を発生する画像信号供給回路11が設けられ、この画像信号供給回路11から画像信号13(13r,13g,13b)、水平駆動信号18、垂直駆動信号19が出力される。この光源ユニット部10は、画像信号に応じて光を出射する光源部として機能する。
また、光源ユニット部10には、画像信号供給回路11から画像信号13として伝達される赤(R),緑(G),青(B)の各画像信号をもとにそれぞれ強度調整されたレーザ光を出射するように、Rレーザ21,Gレーザ22,Bレーザを23、それぞれ駆動するためのRレーザドライバ15,Gレーザドライバ16,Bレーザドライバ17が設けられている。さらに、各レーザより出射されたレーザ光を平行光にコリメートするように設けられたコリメート光学系24と、それぞれコリメートされたレーザ光を合波するダイクロイックミラー25と、合波されたレーザ光を光ファイバ30に導く結合光学系26とが設けられている。尚、Rレーザ21,Gレーザ22,Bレーザ23として、レーザダイオード等の半導体レーザや固体レーザを利用してもよい。
また、HMD1には、光源ユニット部10から伝搬されたレーザ光を水平走査系42に導くコリメート光学系41と、コリメートされたレーザ光を、光走査素子としてのガルバノミラー42aを利用して水平方向に走査する水平走査系42と、水平走査系42によって走査されたレーザ光を垂直走査系44に導く第1リレー光学系43と、水平走査系42に走査され、第1リレー光学系43を介して入射されたレーザ光を、光走査素子としてのガルバノミラー44aを利用して垂直方向に走査する垂直走査系44と、垂直走査系44に走査されたレーザ光をユーザの瞳孔47に入射するように第2リレー光学系45と、が設けられている。
尚、具体的な一例としては、水平走査系42は、表示すべき画像の1走査線ごとに、レーザビームを水平方向に水平走査(1次走査の一例)させる光学系である。また、水平走査系42は、レーザビームを水平方向に走査するガルバノミラー42aと、そのガルバノミラー42aの駆動制御を行う水平制御回路42cとを備えている。
これに対し、垂直走査系44は、表示すべき画像の1フレームごとに、レーザビームを最初の走査線から最後の走査線に向かって垂直に垂直走査(2次走査の一例)する光学系である。また、垂直走査系44は、垂直走査するガルバノミラー44aと、そのガルバノミラー44aの駆動制御を行う垂直制御回路44cとを備えている。
水平走査系42は、垂直走査系44より高速にすなわち高周波数でレーザビームを走査するように設計されている。また、水平走査系42,垂直走査系44は、各々画像信号供給回路11に接続され、画像信号供給回路11より出力される水平駆動信号18、垂直駆動信号19にそれぞれ同期してレーザ光を走査するように構成されている。
また、本実施形態においては、水平走査系42のガルバノミラー42aと、垂直走査系44のガルバノミラー44aとは、名称を同じように説明したが、光を走査するように其の反射面が揺動(回転)させられるものであれば、圧電駆動、電磁駆動、静電駆動等いずれの駆動方式によるものであってもよいことは言うまでもない。また、本実施形態においては、水平走査系42を共振タイプの走査系とし、垂直走査系44を非共振タイプの走査系としたが、これに限らず、例えば、垂直走査系44を共振タイプの走査系としてもよい。
第1リレー光学系43は、水平走査系42と垂直走査系44との間での画像光を中継する。ガルバノミラー42aによって水平方向に走査された光は、第1リレー光学系43によってガルバノミラー44aの反射面に収束され、ガルバノミラー44aによって垂直方向に走査されて、2次元的に走査された走査画像光として、第2リレー光学系45へ出射される。
第2リレー光学系45は、正の屈折力を持つレンズ系を有している。垂直走査系44から出射された表示用の走査画像光は、第2リレー光学系45によって、それぞれの画像光がその画像光の中心線を相互に略平行にされ、かつそれぞれ収束画像光に変換される。そして、第2リレー光学系45によってそれぞれほぼ平行な画像光となると共に、これらの画像光の中心線が観察者の瞳孔Eaに収束するように変換される。
次に、本発明の一実施形態のHMD1が、外部からの画像信号を受けてから、ユーザの網膜上に映像を投影するまでの過程について図3を用いて説明する。
図3に示すように、本実施形態のHMD1では、光源ユニット部10に設けられた画像信号供給回路11が外部からの画像信号の供給を受けると、画像信号供給回路11は、赤,緑,青の各色のレーザ光を出力させるためのR画像信号13r,G画像信号13g,B画像信号13bからなる画像信号13と、水平駆動信号18と、垂直駆動信号19とを出力する。Rレーザドライバ15,Gレーザドライバ16,Bレーザドライバ17は各々入力されたR画像信号13r,G画像信号13g,B画像信号13bに基づいてRレーザ21,Gレーザ22,Bレーザ23に対してそれぞれの駆動信号を出力する。この駆動信号に基づいて、Rレーザ21,Gレーザ22,Bレーザ23はそれぞれ強度調整されたレーザ光を発生し、各々をコリメート光学系24に出力する。また、画像信号供給回路11は、後述する水平走査系42のガルバノミラー42aの駆動状態を示すBD同期タイミング信号(図示せず)に応じて、レーザ光を発生し、各々をコリメート光学系24に出力するタイミングを制御する。つまり、このようなHMD1(画像信号供給回路11)は、ガルバノミラー42aなどにビーム光を出射させるタイミングを制御することとなる。点光源から発生されるレーザ光は、このコリメート光学系24によってそれぞれが平行光にコリメートされ、さらに、ダイクロイックミラー25に入射されて1つのビーム光となるよう合成された後、結合光学系26によって光ファイバ30に入射されるよう導かれる。
光ファイバ30によって伝搬されたレーザ光は、光ファイバ30からコリメート光学系41によって平行光にコリメートされて水平走査系42に出射される。この出射されたレーザ光は、水平走査系42のガルバノミラー42aの反射ミラー42bに入射される。また、ガルバノミラー42aの反射ミラー42bに入射したレーザ光は水平駆動信号18に同期して水平方向に走査されて第1リレー光学系43を介し、垂直走査系44のガルバノミラー44aの反射ミラー44bに入射する。ガルバノミラー44aは、垂直駆動信号19に同期して、その反射ミラー44bが入射光を垂直方向に反射するように往復振動をしており、このガルバノミラー44aによってレーザ光は垂直方向に走査される。ガルバノミラー44aによって走査されたレーザ光は、第2リレー光学系45を介して、ハーフミラー49で反射され、ユーザの瞳孔47に入射する。これによって、ユーザはこのように2次元走査されて網膜48上に投影されたレーザ光による画像を認識することができる。つまり、このHMD1は、画像に関する画像信号に応じて変調された光を走査させて出射させることで、ユーザの少なくとも一方の眼の網膜に画像を投影し、画像を表示する網膜走査型画像形成装置として機能する。また、ハーフミラー49は、外界光も透過させるので、画像光を視認しながら外界も視認することができる。
また、制御部110は、CPU(Central Processing Unit)101と、ROM(Read Only Memory)としての不揮発性メモリであるフラッシュメモリ(図中においてはFlash Memoryと示す)102と、RAM(Random Access Memory)103と、表示させる画像データを記憶しておくVRAM(Video Random Access Memory)105とを備えている。
そして、これらCPU101、フラッシュメモリ102、RAM103、VRAM105は、データ通信用のバスにそれぞれ接続されており、このデータ通信用のバスを介して各種情報の送受信を行う。
また、この制御部110は、当該HMD1の電源スイッチSW、ユーザPの眼を含む画像を撮像するCCDセンサ4、他の装置との通信を制御するための通信回路5、ユーザによって操作可能な操作スイッチ6、パーソナルコンピュータ9等の外部装置と接続可能なインターフェース104とも接続されている。
CPU101は、フラッシュメモリ102に記憶されている各種情報処理プログラムを実行することにより、HMD1を構成する各種回路を動作させて、HMD1が備える各種機能を実行させる演算処理装置である。
フラッシュメモリ102は、HMD1により表示するコンテンツの表示制御を行う際に光源ユニット部10や水平走査系42、垂直走査系44等を動作させるための情報処理プログラム等、制御部110がHMD1全体の動作を統括制御するためにCPU101により実行される各種情報処理プログラムを記憶している。
尚、本実施形態においては、フラッシュメモリ102に各種情報処理プログラムが記憶されるが、これに限らず、例えば、別途、ROMなどの記憶媒体を備え、その記憶媒体に各種情報処理プログラムが記憶されていてもよい。
さらに、このフラッシュメモリ102には、制御部110がCCDセンサ4により撮像した画像や、インターフェース104を介して他の装置から供給される画像を記憶する。
また、VRAM105には、フラッシュメモリ102に記憶されているプログラムに基づいて画像を表示させる場合に、一度画像データが展開され、光源ユニット部10に供給するアナログの画像信号が生成されることとなる。
[基準時間テーブル]
上述したような構成のHMD1におけるフラッシュメモリ102に記憶されている基準時間テーブルについて図4を用いて説明する。図4は、基準時間テーブルを示す説明図である。
フラッシュメモリ102に記憶された基準時間テーブルは、ユーザが走行する際に基準となる基準時間を示すテーブルである。この基準時間テーブルには、図4に示すように、通過地点と、通過地点間の距離と、基準時間とが対応付けて記憶されている。この通過地点とは、走行コースにおける開始地点、通過地点、終了地点のそれぞれの間を示す。通過地点間の距離は、それら通過地点間の距離である。基準時間とは、通過地点間において基準となる時間であり、予めHMD1に設定されている基準データと、ユーザ毎に計測された履歴データとが含まれている。また、履歴データには、基準時間以外にも、ユーザが対応付けられている。
このような基準時間テーブルの参照によって、通過地点間の距離、基準時間が認識可能となる。また、基準時間は、複数種類の基準データ、複数の履歴データからいずれかが選択されることとなる。特に、認証されるユーザに対応して履歴データが選択可能である。
このような基準時間テーブルが記憶されたフラッシュメモリ102は、複数の通過地点間(第一通過地点から第二通過地点)毎に、基準時間と距離差とが関連付けて記憶されている。尚、このようなフラッシュメモリ102は、基準時間記憶手段201(図5参照)として機能する。
尚、本実施形態においては、複数の履歴データのうちいずれかがユーザ毎に操作に応じて選択可能であるが、これに限らず、例えば、認証されたユーザに対応する履歴データの最高データ、平均データ又は最新データが基準時間として選択されるようにしてもよい。もちろん、履歴データの最高データ、平均データ、最新データのなかからユーザの操作に応じて選択できるようにしてもよい。また、他のユーザに対応する履歴データが基準時間として選択されるようにしてもよい。
[HMD機能構成]
ここで、本実施形態に係るHMD1の機能構成等について、図5を参照して説明する。図5は、本実施形態に係るHMD1の機能構成を示す説明図である。
図5に示すように、このHMD1におけるCCDセンサ4は、撮像手段203を有している。この撮像手段203は、ユーザの視野範囲のうち少なくとも一部を撮像する。そして、撮像手段203は、制御部110にその撮像データを供給することとなる。
そして、HMD1における制御部110は、基準時間記憶手段201と、基準時間設定手段202と、識別体検出手段204と、位置検知手段205と、経過時間計測手段206と、時間差算出手段207と、距離差算出手段208と、表示制御手段209と、を有している。HMD1の制御部110において、後述のCPU101が所定の情報処理プログラムを実行することによって、基準時間記憶手段201、基準時間設定手段202、識別体検出手段204、位置検知手段205、経過時間計測手段206、時間差算出手段207、距離差算出手段208、表示制御手段209として制御部110が機能することとなる。
基準時間記憶手段201は、通過地点間(第一通過地点から第二通過地点)における走行の基準時間が記憶されている。また、基準時間記憶手段201には、上述した基準時間テーブルが記憶されており、複数の通過地点間毎に基準時間が関連付けられている。
基準時間設定手段202は、後述する経過時間計測手段206によって計測された経過時間の履歴を基準時間として基準時間記憶手段201(基準時間テーブル)に設定する。
識別体検出手段204は、複数の通過地点の各々に設けられ、撮像手段203による撮像領域内における識別体を検出する。
位置検知手段205は、複数の通過地点のうちのいずれかにユーザが到達したことを検知する。特に、本実施形態において、位置検知手段205は、識別体検出手段204によって検出された識別体に基づいて、複数の通過地点のうちのいずれかにユーザが到達したことを検知する。
経過時間計測手段206は、位置検知手段205によって複数の通過地点のうちの第一通過地点に到着したことが検知された後に、複数の通過地点のうちの第二通過地点に到着したことが検知されると、それら第一通過地点から第二通過地点までの経過時間を計測する。
時間差算出手段207は、経過時間計測手段206によって計測された経過時間と、基準時間記憶手段201に記憶された基準時間との時間差を算出する。
距離差算出手段208は、時間差算出手段207によって算出された経過時間と基準時間との時間差に基づいて、距離差を算出する。
表示制御手段209は、時間差算出手段207によって算出された経過時間と基準時間との時間差に基づいた仮想走行者の画像を表示手段210に表示させる制御を行う。また、言い換えると、表示制御手段209は、距離差算出手段208によって算出された経過時間と基準時間との距離差に基づいた仮想走行者の画像を表示手段210に表示させる制御を行う。
特に、表示制御手段209は、距離差算出手段208によって算出された経過時間と基準時間との距離差に応じた大きさで仮想走行者の画像を表示手段210に表示させる制御を行う。また、表示制御手段209は、時間差算出手段207による算出結果に基づいて経過時間が基準時間よりも短いと算出された場合には、仮想走行者の前姿画像を表示させる制御を行い、時間差算出手段207による算出結果に基づいて経過時間が基準時間よりも長いと算出された場合には、仮想走行者の後姿画像を表示させる制御を行う。
また、このHMD1における光源ユニット部10は、表示手段210として機能する。この表示手段210は、外光を透過しつつ、画像情報(表示情報)に応じた画像光をユーザの眼に投射してそのユーザに画像光に応じた画像を視認させる。
[表示画面]
ここで、本実施形態に係るHMD1における表示画面について、図6を参照して説明する。図6は、本実施形態に係るHMD1の表示画面を示す説明図である。
このHMD1においては、図6(A)に示すように、右側方には、走行距離、残り距離、次の通過地点(図中においては次ポイント)までの距離、トータル時間、消費カロリーが表示されている。
一方、左側方には、仮想走行者の画像が表示されている。この仮想走行者の画像は、経過時間と基準時間との距離差に応じた画像である。具体的には、図6(B)に示すように、経過時間と基準時間との距離差に応じた大きさで仮想走行者の画像が表示される。また、計測された経過時間が基準時間よりも短い場合には、図6(B)に示すように、仮想走行者の前姿画像が表示され、経過時間が基準時間よりも長い場合には、図6(C)に示すように、仮想走行者の後姿画像が表示される。即ち、計測された経過時間が基準時間よりも短い場合には、後ろを振り返ったときに視認されるような前姿画像が表示され、経過時間が基準時間よりも長い場合には、前方を走っている仮想走行者の後姿画像が表示される。基準時間との差が大きいほど距離差も大きくなり、これら仮想走行者は遠くに離れるので前姿画像、後姿画像の大きさも小さくなる。
これによって、基準時間との時間差や距離差が、仮想走行者の画像の大きさや、仮想走行者の前姿画像、後姿画像が表示されることによって認識でき、走行している臨場感を増大させ、走行に関する情報を容易に把握させることができる。
また、これらの画像以外にも、図6(D)に示すように、基準時間との距離差が遅れ、進みを示すグラフ画像や、図6(E)に示すように、ペースを示す割合画像、評価画像などが表示される。
[制御動作]
次に、図7及び図8のフローチャートを参照して、HMD1の動作について説明する。図7及び図8は、HMD1において実行される処理の動作を示すフローチャートである。特に、図7に示すメイン処理は、HMD1の電源がオンされた際に制御部110によって実行される。
本実施形態のHMD1において、制御部110は、フラッシュメモリ102内に記憶している情報処理プログラムを実行することによって、上記した基準時間記憶手段201、基準時間設定手段202、識別体検出手段204、位置検知手段205、経過時間計測手段206、時間差算出手段207、距離差算出手段208、表示制御手段209等として機能することとなる。
[メイン処理]
最初に、図7に示すように、HMD1に電源が投入されると、制御部110は、初期設定を行う(ステップS11)。この処理において、制御部110は、RAMアクセス許可、作業領域の初期化等を実行する。この処理が終了した場合には、ステップS12に処理を移す。
ステップS12において、制御部110は、基準時間選択処理を実行する。詳しくは図8を用いて後述するが、制御部110は、基本時間が選択された場合には、その選択されたデータを基本時間として設定する。この処理が終了した場合には、ステップS13に処理を移す。
ステップS13において、制御部110は、開始条件が成立したか否かを判定する。この処理において、制御部110は、走行コースRの開始地点Sに配置されている識別体が撮像されたか否か、又は、操作スイッチ6の操作に応じて、開始条件が成立したか否かを判定することとなる。制御部110は、開始条件が成立したと判定すると(ステップS13:YES)、ステップS14に処理を移す。一方、制御部110は、開始条件が成立していないと判定すると(ステップS13:NO)、再度、ステップS12に処理を移す。これによって、走行コースRの開始地点に配置されている識別体が撮像されるか、操作スイッチ6が操作されるかまで、ステップS12、ステップS13を繰り返し実行することとなる。
ステップS14において、制御部110は、開始条件が成立した後に実行され、走行コースにおける走行時間の計測を開始する時間計測開始処理を実行する。そして、制御部110は、通過地点であるか否かを判定する(ステップS15)。この処理において、制御部110は、走行コースRにおいて時間を計測するための通過地点に設置された識別体が撮像されたか否かによって、通過地点であるかを判定することとなる。つまり、制御部110は、複数の通過地点の各々に設けられ、CCDセンサ4による撮像領域内における識別体を検出し、検出された識別体に基づいて、複数の通過地点のうちのいずれかにユーザPが到達したことを検知することとなる。尚、このような処理を実行することによって、制御部110は、識別体検出手段204、位置検知手段205として機能する。制御部110は、通過地点であるかと判定すると(ステップS15:YES)、ステップS16に処理を移す。一方、制御部110は、通過地点ではないと判定すると(ステップS15:NO)、再度、ステップS15に処理を移す。これによって、通過地点に到達するまでこの判定を繰り返し行うこととなる。
ステップS16において、制御部110は、ステップS14において計測が開始された時間に基づいて、通過地点間の経過時間を算出し、RAM103の所定領域に記憶する(ステップS17)。そして、制御部110は、ステップS16において算出した経過時間と、ステップS13において設定された基準時間との時間差を算出し、RAM103の所定領域に記憶する(ステップS18)。そして、制御部110は、基準時間、通過地点間の距離、ステップS18において算出された基準時間との時間差から、基準時間としている仮想走行者との距離差を算出する(ステップS19)。尚、このような処理を実行することによって、制御部110は、経過時間計測手段206、時間差算出手段207、距離差算出手段208として機能する。
そして、制御部110は、その距離差に応じた画像を選択し(ステップS20)、HMD1に表示させる制御を行う(ステップS21)。特に、制御部110は、経過時間と基準時間との距離差に応じた大きさで仮想走行者の画像(図6(B)参照)をHMD1に表示させる制御を行う。また、制御部110は、経過時間が基準時間よりも短いと算出された場合には、仮想走行者の前姿画像(図6(B)参照)を表示させる制御を行い、経過時間が基準時間よりも長いと算出された場合には、仮想走行者の後姿画像(図6(C)参照)を表示させる制御を行う。
また、このような仮想走行者の画像以外にも、制御部110は、図6(A)に示すように、走行距離、残り距離、次の通過地点(図中においては次ポイント)までの距離、トータル時間、消費カロリー、図6(D)に示すように、基準時間との距離差が遅れ、進みを示すグラフ画像や、図6(E)に示すように、ペースを示す割合画像、評価画像などを表示させる。
このように、制御部110は、算出された経過時間と基準時間との距離差に基づいた仮想走行者の画像をHMD1に表示させる制御を行う。また、この距離差は、算出された経過時間と基準時間との時間差から算出される。尚、このような処理を実行することによって、制御部110は、表示制御手段209として機能する。この処理が終了した場合には、ステップS22に処理を移す。
これによって、基準時間との時間差自体ではなく、基準時間に対応する仮想走行者との距離差を実感することができ、走行している臨場感を増大させ、走行に関する情報を容易に把握させることができる。また、その時間差や距離差が、仮想走行者の画像の大きさや、仮想走行者の前姿画像、後姿画像が表示されることによって認識でき、より一層、走行している臨場感を増大させ、走行に関する情報を容易に把握させることができる。
ステップS22において、制御部110は、終了地点であるか否かを判定する。この処理において、制御部110は、走行コースRにおける終了地点Gに設置された識別体が撮像されたか否かによって、終了地点であるかを判定することとなる。つまり、制御部110は、複数の通過地点の各々に設けられ、CCDセンサ4による撮像領域内における識別体を検出し、検出された識別体に基づいて、複数の通過地点のうちのいずれかにユーザPが到達したことを検知することとなる。尚、このような処理を実行することによって、制御部110は、識別体検出手段204、位置検知手段205として機能する。制御部110は、終了地点であると判定すると(ステップS22:YES)、ステップS23に処理を移す。一方、制御部110は、終了地点ではないと判定すると(ステップS22:NO)、ステップS15に処理を移す。これによって、終了地点となるまで時間の計測が継続されることとなる。
ステップS23において、制御部110は、時間計測終了処理を実行する。この処理において、制御部110は、継続してきた経過時間の計測を停止させる。そして、制御部110は、通過地点間毎に計測した経過時間データをフラッシュメモリ102の基準時間テーブルに記憶し(ステップS24)、ユーザPの履歴データとして登録する(ステップS25)。この処理が終了した場合には、ステップS26に処理を移す。これによって、走行したユーザの計測履歴を記憶することができ、ユーザに応じた基準時間の設定が可能となり、簡便である。
ステップS26において、制御部110は、電源オフであるか否かを判定する。この処理において、制御部110は、電源スイッチSWの操作等に応じて、電源オフであるか否かを判定することとなる。制御部110は、電源オフであると判定すると(ステップS26:YES)、メイン処理を終了する。一方、制御部110は、電源オフではないと判定すると(ステップS26:NO)、再度、ステップS12に処理を移す。これによって、制御部110は、電源オフとなるまで、ステップS12からステップS26を繰り返し実行することとなる。
[基準時間選択処理]
図7のステップS13において実行されるサブルーチンについて図8を用いて説明する。
最初に、図8に示すように、制御部110は、履歴データがあるか否かを判定する(ステップS51)。この処理において、制御部110は、初期設定処理において設定されたユーザPに対応し、フラッシュメモリ102の所定領域に位置付けられた履歴データを読み出す。そして、制御部110は、履歴データがあるか否かを判定することとなる。この処理において、制御部110は、履歴データがあると判定すると(ステップS51:YES)、ステップS52に処理を移す。一方、制御部110は、履歴データがないと判定すると(ステップS51:NO)、ステップS56に処理を移す。
ステップS52において、制御部110は、制御部110は、履歴データが選択されたか否かを判定する。この処理において、制御部110は、操作スイッチ6の操作に応じて、履歴データが選択されたか否かを判定することとなる。この処理において、制御部110は、が選択されたと判定すると(ステップS52:YES)、ステップS53に処理を移す。一方、制御部110は、履歴データが選択されていないと判定すると(ステップS52:NO)、ステップS56に処理を移す。
ステップS53において、制御部110は、フラッシュメモリ102に記憶されている基準時間テーブル(図4参照)から履歴データを選択する。そして、制御部110は、選択した履歴データを読み出し(ステップS54)、履歴データを基準時間としてRAM103の所定領域にセットする(ステップS55)。これによって、履歴データが基準時間として決定されることとなる。この処理が終了した場合には、本サブルーチンを終了する。
このように、制御部110は、計測された経過時間の履歴を基準時間として設定することとなる。尚、このような処理を実行することによって、制御部110は、基準時間設定手段202として機能する。
一方、ステップS56において、制御部110は、フラッシュメモリ102に記憶されている基準時間テーブル(図4参照)から基準データを選択する。そして、制御部110は、選択した基準データを読み出し(ステップS57)、基準データを基準時間としてRAM103の所定領域にセットする(ステップS58)。これによって、基準データが基準時間として決定されることとなる。この処理が終了した場合には、本サブルーチンを終了する。
[第二の実施形態]
尚、上述した実施形態においては、識別体を撮像することによって、通過地点を検知したが、これに限らず、例えば、RFID(Radio Frequency Identification)を用いて、通過地点を検知してもよい。
このような構成の具体的な一実施形態について図9を用いて以下に説明する。なお、本実施形態においては、発明の理解を容易とするために、異なる構成、処理について主に説明をし、同じような構成、処理については説明を省略する。
図1に示すようなHMD本体2には、RFIDの検出を行うための通信回路5が内蔵している。また、図2に示すような走行コースRにおいては複数の通過地点の各々に所定のRFID素子又は所定のRFID装置が設けられている。所定のRFID素子又は所定のRFID装置からは、位置に対応した識別情報や位置情報が無線通信によって走行者のHMD1へ送信される。
[HMD機能構成]
ここで、本実施形態に係るHMD1の機能構成等について、図9を参照して説明する。図9は、本実施形態に係るHMD1の機能構成を示す説明図である。
図9に示すように、通信回路5は、無線通信手段213として機能する。この無線通信手段213は、複数の通過地点の各々に設けられた所定のRFID素子又は所定のRFID装置との無線通信を行い、位置を判別するための識別情報や位置情報を取得する。また、位置検知手段205は、所定の位置に設けられたRFID素子又はRFID装置との無線通信によって所定の位置に設けられたRFID素子又はRFID装置から送られた情報により位置を判別し、複数の通過地点のうちのいずれかに前記ユーザが到達したことを検知する。
これによって、制御部110は、図7のステップS13、ステップS15、ステップS22において、通信回路5による無線通信によって、通過地点を検知することとなる。従って、無線通信によって通過地点が検知でき、容易に通過地点を正確に検知することができる。
以上、本発明の実施の形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。例えば、本発明を適用したHMDは、例えば、シースルー型の液晶表示装置などの表示手段を備えたHMDであればよい。つまり、HMDは、画像に関する画像信号に応じて変調された光を走査させて出射させることで、画像を表示するHMDでなくても問題なく、更には、画像に関する画像信号に応じて変調された光を走査させて出射させることで、ユーザの少なくとも一方の眼の網膜に画像を投影し、画像を表示する網膜走査型のHMDでなくても問題ない。
本発明の一実施形態に係るHMDシステムを示す説明図である。 本発明の一実施形態に係るHMDが利用可能な走行コースを示す説明図である。 本発明の一実施形態に係るHMDの電気的及び光学的構成を示す説明図である。 本発明の一実施形態に係るHMDにおける基準時間テーブルを示す説明図である。 本発明の一実施形態に係るHMDの機能構成を示す説明図である。 本発明の一実施形態に係るHMDの表示画面を示す説明図である。 HMDにおいて制御を行う際に実行する処理の一例を示すフローチャートである。 HMDにおいて制御を行う際に実行する処理の一例を示すフローチャートである。 本発明の一実施形態に係るHMDの機能構成を示す説明図である。
符号の説明
1 HMD
110 制御部

Claims (8)

  1. 複数の通過地点が設定された走行コースにおいてユーザの走行に関する情報を提供するヘッドマウントディスプレイにおいて、
    外光を透過しつつ、表示情報に応じた画像光をユーザの眼に投射して当該ユーザに前記画像光に応じた画像を視認させる表示手段と、
    前記複数の通過地点のうちのいずれかに前記ユーザが到達したことを検知する位置検知手段と、
    前記位置検知手段によって前記複数の通過地点のうちの第一通過地点に到着したことが検知された後に、前記複数の通過地点のうちの第二通過地点に到着したことが検知されると、当該第一通過地点から当該第二通過地点までの経過時間を計測する経過時間計測手段と、
    前記第一通過地点から前記第二通過地点における走行の基準時間が記憶された基準時間記憶手段と、
    前記経過時間計測手段によって計測された前記経過時間と、前記基準時間記憶手段に記憶された基準時間との時間差を算出する時間差算出手段と、
    前記時間差算出手段によって算出された前記経過時間と前記基準時間との時間差に基づいた仮想走行者の画像を前記表示手段に表示させる制御を行う表示制御手段と、を備えたことを特徴とするヘッドマウントディスプレイ。
  2. 前記時間差算出手段によって算出された前記経過時間と前記基準時間との時間差に基づいて、距離差を算出する距離差算出手段を備え、
    前記表示制御手段は、前記距離差算出手段によって算出された前記経過時間と前記基準時間との距離差に基づいた仮想走行者の画像を前記表示手段に表示させる制御を行うことを特徴とする請求項1に記載のヘッドマウントディスプレイ。
  3. 前記表示制御手段は、前記距離差算出手段によって算出された前記経過時間と前記基準時間との距離差に応じた大きさで仮想走行者の画像を前記表示手段に表示させる制御を行うことを特徴とする請求項2に記載のヘッドマウントディスプレイ。
  4. 前記表示制御手段は、前記時間差算出手段による算出結果に基づいて前記経過時間が前記基準時間よりも短いと算出された場合には、仮想走行者の前姿画像を表示させる制御を行い、前記時間差算出手段による算出結果に基づいて前記経過時間が前記基準時間よりも長いと算出された場合には、仮想走行者の後姿画像を表示させる制御を行うことを特徴とする請求項3に記載のヘッドマウントディスプレイ。
  5. 前記基準時間記憶手段には、前記複数の通過地点間毎に前記基準時間が関連付けられたテーブルが記憶されていることを特徴とする請求項1から4のいずれかに記載のヘッドマウントディスプレイ。
  6. 前記経過時間計測手段によって計測された経過時間の履歴を前記基準時間として前記基準時間記憶手段に設定する基準時間設定手段を備えたことを特徴とする請求項1から4のいずれかに記載のヘッドマウントディスプレイ。
  7. 前記複数の通過地点の各々に設けられた所定の素子又は所定の装置との無線通信を行う無線通信手段を備え、
    前記位置検知手段は、所定の位置に設けられた素子又は装置との無線通信によって前記複数の通過地点のうちのいずれかに前記ユーザが到達したことを検知することを特徴とする請求項1から6のいずれかに記載のヘッドマウントディスプレイ。
  8. 前記ユーザの視野範囲のうち少なくとも一部を撮像する撮像手段と、
    前記複数の通過地点の各々に設けられ、前記撮像手段による撮像領域内における識別体を検出する識別体検出手段と、を備え、
    前記位置検知手段は、前記識別体検出手段によって検出された識別体に基づいて、前記複数の通過地点のうちのいずれかに前記ユーザが到達したことを検知することを特徴とする請求項1から6のいずれかに記載のヘッドマウントディスプレイ。
JP2008314429A 2008-12-10 2008-12-10 ヘッドマウントディスプレイ Expired - Fee Related JP5012780B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008314429A JP5012780B2 (ja) 2008-12-10 2008-12-10 ヘッドマウントディスプレイ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008314429A JP5012780B2 (ja) 2008-12-10 2008-12-10 ヘッドマウントディスプレイ

Publications (2)

Publication Number Publication Date
JP2010139633A true JP2010139633A (ja) 2010-06-24
JP5012780B2 JP5012780B2 (ja) 2012-08-29

Family

ID=42349855

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008314429A Expired - Fee Related JP5012780B2 (ja) 2008-12-10 2008-12-10 ヘッドマウントディスプレイ

Country Status (1)

Country Link
JP (1) JP5012780B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011067277A (ja) * 2009-09-24 2011-04-07 Brother Industries Ltd ヘッドマウントディスプレイ
JP2012063253A (ja) * 2010-09-16 2012-03-29 Olympus Corp 画像生成システム、プログラム及び情報記憶媒体
WO2015033446A1 (ja) * 2013-09-06 2015-03-12 株式会社フューチャースコープ ランニング支援システムおよびこれに用いるヘッドマウントディスプレイ装置
JP2017212657A (ja) * 2016-05-27 2017-11-30 京セラ株式会社 電子機器、制御装置、制御プログラム及び動画表示方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05180961A (ja) * 1991-12-27 1993-07-23 Casio Comput Co Ltd 送信装置および受信装置
JPH07250919A (ja) * 1994-03-15 1995-10-03 Matsushita Electric Works Ltd サイクリング・シミュレーション・システム
JP2000172214A (ja) * 1998-12-08 2000-06-23 Spandnix Inc 標識及びその標識を用いたレジストレーションシステム
JP2006048440A (ja) * 2004-08-05 2006-02-16 Fujitsu Social Science Laboratory Ltd 移動体追跡処理装置、移動体追跡処理プログラム及び移動体追跡処理方法
JP2006205930A (ja) * 2005-01-28 2006-08-10 Konica Minolta Photo Imaging Inc 映像表示装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05180961A (ja) * 1991-12-27 1993-07-23 Casio Comput Co Ltd 送信装置および受信装置
JPH07250919A (ja) * 1994-03-15 1995-10-03 Matsushita Electric Works Ltd サイクリング・シミュレーション・システム
JP2000172214A (ja) * 1998-12-08 2000-06-23 Spandnix Inc 標識及びその標識を用いたレジストレーションシステム
JP2006048440A (ja) * 2004-08-05 2006-02-16 Fujitsu Social Science Laboratory Ltd 移動体追跡処理装置、移動体追跡処理プログラム及び移動体追跡処理方法
JP2006205930A (ja) * 2005-01-28 2006-08-10 Konica Minolta Photo Imaging Inc 映像表示装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011067277A (ja) * 2009-09-24 2011-04-07 Brother Industries Ltd ヘッドマウントディスプレイ
JP2012063253A (ja) * 2010-09-16 2012-03-29 Olympus Corp 画像生成システム、プログラム及び情報記憶媒体
WO2015033446A1 (ja) * 2013-09-06 2015-03-12 株式会社フューチャースコープ ランニング支援システムおよびこれに用いるヘッドマウントディスプレイ装置
JPWO2015033446A1 (ja) * 2013-09-06 2017-03-02 株式会社フューチャースコープ ランニング支援システムおよびこれに用いるヘッドマウントディスプレイ装置
JP2017212657A (ja) * 2016-05-27 2017-11-30 京セラ株式会社 電子機器、制御装置、制御プログラム及び動画表示方法

Also Published As

Publication number Publication date
JP5012780B2 (ja) 2012-08-29

Similar Documents

Publication Publication Date Title
JP5104679B2 (ja) ヘッドマウントディスプレイ
JP5293025B2 (ja) ヘッドマウントディスプレイ
JP5168161B2 (ja) ヘッドマウントディスプレイ
JP5195537B2 (ja) ヘッドマウントディスプレイ
US20090096714A1 (en) Image display device
JP5423716B2 (ja) ヘッドマウントディスプレイ
CN103620535A (zh) 信息输入装置
US10502962B2 (en) Projection type display device and projection control method
US20110316763A1 (en) Head-mounted display apparatus, image control method and image control program
US9002058B2 (en) Scanned image projection system with gesture control input
JP2011067277A (ja) ヘッドマウントディスプレイ
JP2011091789A (ja) ヘッドマウントディスプレイ
JP5012780B2 (ja) ヘッドマウントディスプレイ
JP2015111772A (ja) 投影装置
JP2011066549A (ja) ヘッドマウントディスプレイ
JP2010067154A (ja) ヘッドマウントディスプレイ、情報閲覧システム及び管理サーバ
JP2017081456A (ja) 表示装置及び表示方法
JP5109952B2 (ja) ヘッドマウントディスプレイ
JP5272813B2 (ja) ヘッドマウントディスプレイ
JP2009086371A (ja) 画像表示装置
JP2017161759A (ja) 網膜投影型表示装置、画像表示方法、及びプログラム
US20170147152A1 (en) Projector and Electronic Device Having Projector Function
US20110227907A1 (en) Head-mounted display
JP5348004B2 (ja) ストライクゾーン提示システム
JP2010153960A (ja) ヘッドマウントディスプレイ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110310

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120417

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120508

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120521

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150615

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5012780

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees