JP5012781B2 - ヘッドマウントディスプレイ - Google Patents

ヘッドマウントディスプレイ Download PDF

Info

Publication number
JP5012781B2
JP5012781B2 JP2008315570A JP2008315570A JP5012781B2 JP 5012781 B2 JP5012781 B2 JP 5012781B2 JP 2008315570 A JP2008315570 A JP 2008315570A JP 2008315570 A JP2008315570 A JP 2008315570A JP 5012781 B2 JP5012781 B2 JP 5012781B2
Authority
JP
Japan
Prior art keywords
input
display
image
user
input value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008315570A
Other languages
English (en)
Other versions
JP2010139711A (ja
Inventor
博親 中村
克巳 各務
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2008315570A priority Critical patent/JP5012781B2/ja
Publication of JP2010139711A publication Critical patent/JP2010139711A/ja
Application granted granted Critical
Publication of JP5012781B2 publication Critical patent/JP5012781B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、シースルー型のヘッドマウントディスプレイに関するものである。
従来より、ユーザがパスワードを入力する際の指や腕の動き等の入力動作から、パスワードが第三者に盗まれるのを防止する技術に関して種々提案されている。
例えば、パスワードをP1、P2、・・・、Pnとし、表示画面にマッチングボードと基準ボードとが表示される。そして、ユーザはマッチングボードにある任意のセルを選択し、マッチングボードのこの選択したセルが、基準ボードにあるパスワードのP1、P2、・・・、Pnを含んでいるセルとマッチングするように順次動かしてパスワードを入力するパスワード入力方法がある(例えば、特許文献1参照。)。
特表2005−535990号公報(段落(0015)〜(0176)、図1、図2)
しかしながら、上述した特許文献1に記載される構成では、基本的に表示画面にパスワードを含むセルが表示されるため、パスワードの入力原理が知られた場合には、ユーザがパスワードを入力する際の指や腕の動きの入力動作を観察することによって、パスワードが第三者に盗まれる可能性があるという問題がある。また、パスワードの入力方法が難しい上、マッチングボードと基準ボードとが重なって表示されるため、位置ずれが生じやすく、互いに視認性に干渉を与え合って見にくくなり、どのキーと一致しているのか判りづらいという問題がある。
そこで、本発明は、上述した問題点を解決するためになされたものであり、パスワードの入力値を見られる虞が無いように入力するときに、キーや指が視認性に干渉を与えず、簡単に入力することができるヘッドマウントディスプレイを提供することを目的とする。
前記目的を達成するため請求項1に係るヘッドマウントディスプレイは、外界が視認可能な状態で表示情報の画像をユーザの眼に投射して当該ユーザに前記画像を視認させる表示手段を備えたシースルー型のヘッドマウントディスプレイにおいて、前記ユーザの眼の近傍位置に配置されて該ユーザの視野範囲のうち少なくとも一部範囲を撮像する撮像手段と、前記撮像手段によって撮像された所定配列状態で配置される複数の入力キーの該撮像手段の撮像画像内における位置を検出する位置検出手段と、前記複数の入力キーにそれぞれに付与された入力値を取得する入力値取得手段と、前記入力値取得手段を介して取得した各入力値を前記所定配列状態に合わせて配置して表示する表示情報を作成する表示情報作成手段と、前記表示情報作成手段によって作成された表示情報の画像が、前記位置検出手段によって検出された前記複数の入力キーの撮像画像内における位置に基づいて、前記ユーザの視野範囲における前記複数の入力キーの位置に重ならない領域に視認されるように前記表示手段を制御する表示制御手段と、を備えことを特徴とする。
また、請求項2に係るヘッドマウントディスプレイは、請求項1に記載のヘッドマウントディスプレイにおいて、前記位置検出手段によって検出された前記複数の入力キーの撮像画像内における位置に基づいて、前記表示手段によって表示可能な最大表示領域のうち、該複数の入力キーに対応する部分を除いた余白領域において、最大の矩形が得られる最大矩形領域を抽出する矩形領域抽出手段を備え、前記表示制御手段は、前記表示情報作成手段によって作成された表示情報の画像が、前記最大矩形領域に視認されるように前記表示手段を制御することを特徴とする。
また、請求項3に係るヘッドマウントディスプレイは、請求項1又は請求項2に記載のヘッドマウントディスプレイにおいて、前記ユーザの指先が位置する入力キーを前記撮像手段の撮像画像に基づいて検出する入力キー検出手段を備え、前記表示情報作成手段は、前記入力キー検出手段によって検出されたユーザの指先が位置する入力キーに対応する前記入力値の表示態様と他の入力キーに対応する前記入力値の表示態様とを異ならせて表示する表示情報を作成することを特徴とする。
また、請求項4に係るヘッドマウントディスプレイは、請求項3に記載のヘッドマウントディスプレイにおいて、前記表示情報作成手段は、前記ユーザの指先が位置する入力キーに対応する前記入力値の表示色と前記他の入力キーに対応する前記入力値の表示色とを異ならせて表示する表示情報を作成することを特徴とする。
更に、請求項5に係るヘッドマウントディスプレイは、請求項3又は請求項4に記載のヘッドマウントディスプレイにおいて、前記表示情報作成手段は、前記ユーザの指先が位置する入力キーに対応する前記入力値の表示される大きさと前記他の入力キーに対応する前記入力値の表示される大きさとを異ならせて表示する表示情報を作成することを特徴とする。
請求項1に係るヘッドマウントディスプレイでは、表示手段を介して入力キーの近傍に当該入力キーと重ならないように各入力値を表示することによって、各入力値の表示位置の厳密な位置合わせが不要となると共に、ユーザは入力キーや指に邪魔されずに各入力値を容易に視認することが可能となる。このため、複数の入力キー上に数字等の入力値が表示されていない場合でも、ユーザは当該複数の入力キーの配列状態に合わせて表示された各入力キーに付与された入力値を直接見ながら、パスワード等の各入力値を簡単に入力することができる。
また、請求項2に係るヘッドマウントディスプレイでは、表示手段によって表示される入力キーの周囲の表示領域のうちの最大矩形領域に各入力値を表示することができるため、各入力値を入力キーに重ならないように、且つ、最大の大きさで表示することが可能となり、視認性の向上を図ることができる。
また、請求項3に係るヘッドマウントディスプレイでは、指先の下側の入力キーに対応する入力値の表示態様と他の入力キーに対応する入力値の表示態様とが異なって表示されるため、ユーザは、指で押さえて入力できる指先の入力キーの入力値を容易に視認することが可能となる。
また、請求項4に係るヘッドマウントディスプレイでは、指先の下側のキーに対応する入力値の表示色と、他のキーに対応する入力値の表示色とが異なって表示されるため、ユーザは、指で押さえて入力できる指先の入力キーの入力値を更に容易に視認することが可能となる。
更に、請求項5に係るヘッドマウントディスプレイでは、指先の下側のキーに対応する入力値の表示された大きさと、他のキーに対応する入力値の表示された大きさとが異なって表示されるため、ユーザは、指で押さえて入力できる指先の入力キーの入力値を更に容易に視認することが可能となる。
以下、本発明に係るヘッドマウントディスプレイを認証システムについて具体化した実施例1及び実施例2に基づき図面を参照しつつ詳細に説明する。
[認証システム1の概略構成]
先ず、実施例1に係る認証システム1の概略構成について図1に基づき説明する。図1は実施例1に係る認証システム1の概略構成を示す図である。
図1に示すように、実施例1に係る認証システム1は、ユーザ2の頭部に装着されるヘッドマウントディスプレイ3と、このヘッドマウントディスプレイ3と通信可能に接続される認証装置5とから構成されている。
このヘッドマウントディスプレイ3は、外光を透過しつつ、つまり、外界が視認可能な状態で、後述のように外部から入力された各種コンテンツ情報を画像信号に変換し、この画像信号に応じて変調されたビーム光(以下、「画像光」という。)をユーザ2の眼に投射するシースルー型のヘッドマウントディスプレイである。
また、認証装置5は、金融機関の現金自動預け入れ支払機(ATM)や管理区域への入室ドアの開閉装置等のパスワード等を入力する装置であって、パスワード等を入力する9個のスイッチが3行3列に配置された入力キー群7を備えている。
[ヘッドマウントディスプレイ3の概略構成]
次に、ヘッドマウントディスプレイ3の概略構成について図1及び図2に基づいて説明する。図2はヘッドマウントディスプレイ3の外観を示す平面図である。但し、図2においては、CCDカメラ12を省略している。
尚、図1及び図2に示されるヘッドマウントディスプレイ3の外観は単なる一例であり、本発明は、当該外観を有するヘッドマウントディスプレイ3に限定されるものではない。また、以下の説明では、本発明を網膜走査ディスプレイに適用した実施形態について説明するが、本発明は、外界が視認可能な液晶や有機EL等を用いて画像表示を行う種々のヘッドマウントディスプレイに適用することができる。また、本発明は、光学シースルー型のヘッドマウントディスプレイのみならず、ビデオシースルー型のヘッドマウントディスプレイにも適用することができる。
図1に示すように、ヘッドマウントディスプレイ3は、外部から入力されたパスワード等の入力値の配列データ、動画ファイル、静止画ファイル、文書ファイル等の各種コンテンツ情報(表示情報)を画像信号に変換し、この画像信号に応じて変調された画像光をユーザ2の少なくとも一方の眼の網膜上に走査させることにより、ユーザ2にコンテンツ情報に対応する画像(以下、「コンテンツ」という。)を視認させることができるように構成されている(図4参照)。
また、このヘッドマウントディスプレイ3は、コンテンツを表示している最中であっても、ユーザ2の視野の中で、そのコンテンツを表示している領域外の領域では、外界の認証装置5や風景等を視認できるように構成されている。即ち、このヘッドマウントディスプレイ3は、外光を透過しつつ、つまり、外界が視認可能な状態で、画像光をユーザ2の眼に投射するシースルー型のヘッドマウントディスプレイである。
また、ヘッドマウントディスプレイ3は、後述のようにコンテンツが認証装置5の入力値の配列データの場合には、このコンテンツをユーザ2の視野の中で入力キー群7の近傍位置であって入力キー群7に重ならないように表示をすることができるように構成されている(図10参照)。
そして、このヘッドマウントディスプレイ3は、画像光を出射する出射装置11と、その出射装置11に載置されてユーザ2の視野領域内の入力キー群7等を撮像するオートフォーカス機能付きのCCDカメラ12と、これらを支持する支持部材13とから基本的に構成されている。
このオートフォーカス機能付きのCCDカメラ12は、CCDカメラ12の全体を制御するCCDコントローラ14(図3参照)と、外界の明るさを検出する輝度センサ15と、CCDカメラ12の撮像領域を照らす照明手段としてのLED(LightEmitting Diode)16とを備えている。また、このCCDカメラ12は、ユーザ2の正面方向を撮像するCCDセンサ17(図3参照)と、レンズ18に内蔵されて、このレンズ18のフォーカシング機構部分の繰り出し位置、つまり、レンズ18のピント位置を検出して、その検出信号をCCDコントローラ14に出力する距離エンコーダ19(図3参照)とを備えている。
そして、CCDコントローラ14は、輝度センサ15を介して外界の明るさが所定の明るさを下回ったことを検知したときには、LED16を点灯してCCDカメラ12の撮像領域を照らすように駆動制御する。また、CCDコントローラ14は、CCDセンサ17によって撮像された画像を制御部36のRAM53の画像記憶領域へ記憶し、CPU51によって画像処理され、後述のようにこの画像処理結果に基づいてコンテンツの表示位置が制御される(図6参照)。また、後述のように、CCDコントローラ14は、距離エンコーダ19から入力されたピント位置の検出信号を入力キー群7等の撮像対象物までの距離信号に変換して入射装置11へ出力する。
また、図2に示すように、ヘッドマウントディスプレイ3は、出射装置11からコンテンツに応じて出射される画像光Z1を導くと共に、その画像光Z1をユーザ2の眼に向かって反射させるプリズム21を備えている。また、このプリズム21は、不図示のビームスプリッタ部を備えており、外界からの外光Z2を透過させ、ユーザ2の眼に導く。このように、プリズム21は、ユーザ2の側方から入射された画像光Z1をユーザ2の眼に入射させると共に、外界からの外光Z2をユーザの眼に入射させる光学系であるため、ユーザはコンテンツを認証装置5の入力キー群7や外界の風景と共に視認することができる。
尚、プリズム21に代えてハーフミラーを用いることもできる。すなわち、ハーフミラーは、出射装置11からの画像光Z1を反射してユーザの眼に入射させると共に、外光Z2を透過してユーザ2の眼に入射させるのである。
[ヘッドマウントディスプレイ3の電気的構成]
次に、ヘッドマウントディスプレイ3の電気的構成について図3に基づいて説明する。図3はヘッドマウントディスプレイ3の電気的構成を示すブロック図である。
図3に示すように、ヘッドマウントディスプレイ3は、画像光を出射する出射装置11と、各種操作やデータの入力を行うための入力部31と、認証装置5の入力キー群7等の撮像対象物を撮像すると共に当該撮像対象物までの距離を検出するための撮像部32と、認証装置5からパスワード等の入力値の配列データや各種ファイルデータ等の各種コンテンツ情報(表示情報)が入力される外部接続部33と、出射装置11によって表示するコンテンツやテキスト等のイメージデータを格納するビデオRAM34と、出射装置11によって表示するテキストのフォントデータを格納するフォントROM35と、ヘッドマウントディスプレイ3の全体を制御する制御部36と、電源部37等とから構成されている。尚、出射装置11の詳細については、図4に基づいて後述する。
入力部31は、各種機能キー等からなる操作ボタン群41と、入力制御回路42とから構成されている。この入力制御回路42は、操作ボタン群41のキー操作がされたことを検出して、操作されたキーに対応する制御信号を制御部36に出力する。
また、撮像部32は、輝度センサ15、LED16、CCDセンサ17、距離エンコーダ19及びCCDコントローラ14から構成され、CCDコントローラ14は、CPU51の指示により距離エンコーダ19から入力されたCCDカメラ12のピント位置の検出信号を入力キー群7等の撮像対象物までの距離信号に変換して制御部36に出力する。
また、外部接続部33は、認証装置5や外部機器(例えば、パーソナルコンピュータである。)に接続されて、各種ファイルデータ等の各種コンテンツ情報を取得する外部接続モジュール45と、外部接続制御回路46とから構成されている。そして、外部接続制御回路46は外部接続モジュール45から入力されたコンテンツ情報を制御部36に出力し、当該コンテンツ情報はフラッシュメモリ52に記憶される。また、外部接続制御回路46は外部接続モジュール45を介して認証装置5から入力された入力キー群7の各入力キーに割り当てられた入力値の配列情報を制御部36のRAM53の入力値記憶領域へ記憶する。
また、制御部36は、CPU51、フラッシュメモリ52、RAM53等とから構成され、これらは不図示のバス線により相互に接続されて、相互にデータのやり取りが行われる。
また、CPU51は、ヘッドマウントディスプレイ3の全体を制御し、ヘッドマウントディスプレイ3の動作に関する全てのデータを管理する演算処理装置である。また、CPU51は、入力キー群7の各入力キーに付与された入力値の配列状態を表す配列データをフォントROM35に記憶されたフォントデータに基づいて画像信号に変換し、また、各種コンテンツ情報を画像信号に変換してビデオRAM34に記憶する。また、CPU51は、後述のように、CCDコントローラ14から入力された距離信号に基づいてピント位置を指示するピント位置信号を出射装置11の映像信号処理部63へ出力する。
また、フラッシュメモリ52は、ヘッドマウントディスプレイ3により表示するコンテンツの再生、停止、ピント位置調整等の表示制御を行う際に、出射装置11を駆動制御するための制御処理プログラムや、後述の入力キー群7の各入力キーに付与された入力値の配列状態を出射装置11を介して当該入力キー群7の周辺部に表示する入力値表示処理プログラム等、CPU51によって実行される各種プログラムを記憶している。また、フラッシュメモリ52には、外部接続制御回路46から入力された各種ファイルデータ等のコンテンツ情報等が記憶される。また、RAM53は、認証装置5から入力されたパスワード等の入力値の配列情報を記憶し、また、CPU51が種々の制御を実行する際に、各種データを一時的に記憶するものである。
また、ビデオRAM34は、画像信号を一時的に記憶する。そして、このビデオRAM34に記憶された画像信号は、出射装置11の映像信号処理部63に出力されて、コンテンツとしてユーザの網膜に投影される。従って、CPU51は、コンテンツ情報をフラッシュメモリ52から読み出し、読み出したコンテンツ情報を画像信号に変換してビデオRAM34に書き込むことによって、表示するコンテンツを制御することができる。また、CPU51は、認証装置5から取得した入力キー群7の各入力キーに割り当てられた入力値の配列データ等をRAM53から読み出して、画像信号に変換してビデオRAM34に書き込むことによって、表示する入力キー群7の入力値等を制御することができる。
また、電源部37は、ヘッドマウントディスプレイ3を駆動させるための電源となる電池56と、電池56の電力をヘッドマウントディスプレイ3に供給すると共に、充電用アダプタ(図示せず)から供給される電力を電池56へ供給して電池56の充電を行う充電制御回路57とを備えている。
[出射装置11の電気的及び光学的構成]
次に、出射装置11の電気的及び光学的構成について図3及び図4に基づいて説明する。図4は出射装置11の電気的構成及び光学的構成を示すブロック図である。
図3及び図4に示すように、出射装置11には、ビデオRAM34から入力される画像信号に基づいて、画像光を生成すると共に、CPU51から入力されたピント位置信号に基づいて奥行方向のピント合わせ、つまり、コンテンツのピント位置の調整を行う光源ユニット部61が設けられている。
また、光源ユニット部61には、ビデオRAM34から画像信号が入力されると共に、CPU51からピント位置信号が入力されて、この画像信号に応じた映像を合成するための要素となる各信号やピント位置信号に応じた信号を発生する映像信号処理部63が設けられ、この映像信号処理部63から、各画素毎の青(B)、緑(G)、赤(R)の各出力制御信号65A〜65C、水平同期信号66、垂直同期信号67、及び奥行信号68が出力される。
また、光源ユニット部61には、映像信号処理部63からドットクロック毎に出力される3つの出力制御信号65A〜65Cをそれぞれ画像光にする画像光出力部として機能する光源部71と、これらの3つの画像光を1つの画像光に結合して任意の画像光を生成するための光合成部72とを備えている。
光源部71は、青色の画像光を発生させるBレーザ74及び出力制御信号65Aに従ってBレーザ74を駆動するBレーザドライバ75と、緑色の画像光を発生させるGレーザ76及び出力制御信号65Bに従ってGレーザ76を駆動するGレーザドライバ77と、赤色の画像光を発生させるRレーザ78及び出力制御信号65Cに従ってRレーザ78を駆動するRレーザドライバ79とを備えている。
尚、Bレーザ74、Gレーザ76、Rレーザ78は、例えば、半導体レーザや高調波発生機構付き固体レーザとして構成することが可能である。なお、半導体レーザを用いる場合は駆動電流を直接変調して、画像光の強度変調を行うことができるが、固体レーザを用いる場合は、各レーザそれぞれに外部変調器を備えて画像光の強度変調を行う必要がある。
また、光合成部72は、光源部71から入射する3つの画像光をそれぞれ平行光にコリメートするように設けられた各コリメート光学系81、82、83と、このコリメートされた3つの画像光を合成するための各ダイクロイックミラー84、85、86と、合成された画像光を光ファイバ88に導く結合光学系87とを備えている。
そして、各レーザ74、76、78から出射したレーザ光は、各コリメート光学系81、82、83によってそれぞれ平行化された後に、各ダイクロイックミラー84、85、86に入射される。その後、これらのダイクロイックミラー84、85、86により、各画像光が波長に関して選択的に反射・透過されて結合光学系87に達し、集光されて光ファイバ88へ出力される。
また、出射装置11には、光源ユニット部61で生成され、光ファイバ88を介して出射される画像光を平行光にコリメートするコリメート光学系89と、コリメートされた画像光の波面曲率を変調するための波面曲率変調部91と、変調された画像光を水平方向に往復走査する水平走査部92と、水平走査部92によって水平方向に往復走査された画像光を垂直方向に走査する垂直走査部93と、水平走査部92と垂直走査部93との間に設けられたリレー光学系94と、このように水平方向と垂直方向に走査(2次元的に走査)された画像光をユーザ2の瞳孔95へ出射するためのリレー光学系96とが設けられている。また、プリズム21は、リレー光学系96とユーザ2の瞳孔95との間に配置され、出射装置11から出射された画像光を全反射させる等してユーザ2の瞳孔95に導くこととなる。
また、水平走査部92には、画像光を水平方向に走査するための反射面101Aを有する共振型偏向素子101と、映像信号処理部63から入力された水平同期信号66に基づいて、この共振型偏向素子101を共振駆動して反射面101Aを揺動させるように駆動制御する水平走査制御回路102とが設けられている。
また、垂直走査部93には、画像光を垂直方向に走査するための反射面103Aを有する偏向素子103と、映像信号処理部63から入力された垂直同期信号67に基づいて、この偏向素子103を駆動して反射面103Aを揺動させるように駆動制御する垂直走査制御回路104とが設けられている。
また、共振型偏向素子101によって水平方向に走査された光は、水平走査部92と垂直走査部93との間に設けられたリレー光学系94によって偏向素子103の反射面103Aに入射し、偏向素子103によって垂直方向に走査されて、2次元的に走査された走査画像光として、リレー光学系96へ出射される。また、リレー光学系96は、垂直走査部80から出射された表示用の走査画像光を、それぞれほぼ平行な画像光に変換すると共に、これらの画像光の中心線をユーザ2の瞳孔95に入射するように変換する。
尚、水平走査部92と垂直走査部93との配置を入れ替え、光ファイバ88から入射された画像光を、垂直走査部93によって垂直方向に走査した後、水平走査部92で水平方向に走査するようにしてもよい。
また、波面曲率変調部91には、入射した画像光を透過光と、透過光の垂直方向に反射された反射光とに分離するビームスプリッタ108と、ビームスプリッタ108に反射されたレーザ光を収束する凸レンズ109と、凸レンズ109に収束されたレーザ光を入射方向に反射する、可動可能な可動ミラー110と、可動ミラー110を駆動して画像光の波面曲率を変調する波面曲率変調器111とが設けられている。
また、可動ミラー110は、例えばガラス等の透過性の板材の表面に金属膜の鏡面コートを施した反射面を有するミラー110Aと、例えば圧電型のピエゾ素子を積層した圧電アクチュエータ(図示せず)とで構成される。また、圧電アクチュエータは、波面曲率変調器111からの駆動電圧が印加されることで駆動され、圧電アクチュエータに固定したミラー110Aと凸レンズ109との位置関係が変動されるようになっており、これにより画像光の波面曲率(拡がり具合)が変わるため、ユーザ2が視認するコンテンツの奥行き方向の表示位置を調整することができる。
また、光源ユニット部61には、映像信号処理部63から奥行信号68が入力される波面曲率駆動回路113が設けられている。そして、波面曲率駆動回路113は、入力された奥行信号68に基づいて、可動ミラー110の圧電アクチュエータを駆動制御する制御信号115を波面曲率変調器111に出力する。これにより、波面曲率変調器111は、波面曲率駆動回路113から入力された制御信号115に従って可動ミラー110の圧電アクチュエータを駆動制御し、ユーザ2が視認するコンテンツの奥行き方向の表示位置が調整される。
また、ビームスプリッタ108は、斜面に誘電体多層膜の施された直角プリズム2つが張り合わされたキューブ状の形状を成しており、その斜面において、入射光の光量の約50%を直角方向に反射し、約50%を透過するようになっている。
[認証装置5の概略構成]
次に、認証装置5の概略構成について図5に基づき説明する。図5は認証装置5の概略構成を示すブロック図である。
図5に示すように、認証装置5は、ユーザID取得部121と、入力キー群7と、情報処理部125と、認証後処理部126と、ヘッドマウントディスプレイ3の外部接続モジュール45に赤外線通信等の無線通信や有線通信等によって接続されて双方向通信が可能な通信部127等とから構成されている。また、認証装置5の外部には、各ユーザIDに対応するパスワード等を記憶しているユーザ情報データベース(ユーザ情報DB)128が設けられており、情報処理部125とネットワークを介して接続されている。
また、ユーザID取得部121は、ユーザ2を識別するためのユーザIDを取得するためのものであり、ユーザIDが記憶されたICカード等から当該ユーザIDを読み取る読取装置(不図示)から構成されている。
また、パスワード等を入力する入力キー群7は、押しボタン式の9個の入力キー7A〜7I(図7参照)が3行3列で配置されて構成されている。また、各入力キー7A〜7Bには、情報処理部125によって「1」〜「9」の9個の入力値がランダムに付与されるが、各入力キー7A〜7I上には、それぞれの入力値は表示されていない(図7参照)。そして、ユーザ2が指先で押下した入力キーに対応するキー信号が、情報処理部125の認証部133へ出力される。
また、情報処理部125は、ユーザ情報取得部131、入力値設定部132及び認証部133等から構成されている。このユーザ情報取得部131は、ユーザ情報DB128とネットワークを介して接続されており、ユーザID取得部121からユーザIDを取得し、このユーザIDに対応するパスワードをユーザ情報DB128から読み出して、一時的に記憶すると共に、認証部133のパスワード照合部136へ照合パスワードとして出力する。
また、入力値設定部132は、入力キー群7の9個の入力キー7A〜7Iに「1」〜「9」の9個の入力値をランダムに設定して記憶すると共に、認証部133の入力パスワード取得部135へ各入力キー7A〜7Iに設定した入力値として出力する。尚、入力値設定部132は、ユーザID取得部121にICカードが挿入される毎に、各入力キー7A〜7Iに「1」〜「9」の9個の入力値をランダムに設定して記憶すると共に、入力パスワード取得部135へ各入力キー7A〜7Iに設定した入力値として出力する。
また、認証部133は、入力キー群7の9個の入力キー7A〜7Iを介して入力されたキー信号に基づいて、入力値設定部132から入力された各入力キー7A〜7Iに設定された「1」〜「9」の9個の入力値から入力パスワードを取得する入力パスワード取得部135と、この入力パスワードとユーザ情報取得部131から入力された照合パスワードとを照合するパスワード照合部136とから構成されている。また、認証部133は、入力パスワードと照合パスワードとを照合後、これらが一致していた場合には、認証後処理部126へパスワード一致信号を出力する。
また、情報処理部125は、ヘッドマウントディスプレイ3から各入力キー7A〜7Iに対応する入力値の配列情報を要求する配列データ要求信号が通信部127を介して入力された場合には、入力値設定部132から各入力キー7A〜7Iに対応する入力値を取得し、この各入力キー7A〜7Iの入力値を当該各入力キー7A〜7Iの並び順に配列した3行3列の配列情報を通信部127を介してヘッドマウントディスプレイ3へ出力する。
また、認証後処理部126は、認証部132からパスワード一致信号が入力された場合には、種々の処理を実行する。例えば、認証装置5がATMに搭載されている場合には、現金の引き落とし等の処理を行い、管理区域への入室ドアの開閉装置に搭載されている場合には、管理区域への入室ドアを開ける処理を実行する。
[入力値表示処理1]
次に、上記のように構成されたヘッドマウントディスプレイ3のCPU51によって実行される処理であって、入力キー群7の各入力キー7A〜7Iに付与された入力値を出射装置11を介して当該入力キー群7の周辺部に表示する「入力値表示処理1」について図6乃至図10に基づいて説明する。
図6は入力キー群7の各入力キーに付与された入力値を出射装置11を介して当該入力キー群7の周辺部に表示する「入力値表示処理1」を示すフローチャートである。尚、図6にフローチャートで示されるプログラムは、制御部36のフラッシュメモリ52に記憶され、操作ボタン群41に含まれる表示開始ボタン(不図示)の操作に対応する制御信号が、入力制御回路42から制御部36に入力された場合に、CPU51によって実行される。
図6に示すように、先ず、ステップ(以下、Sと略記する)11において、CPU51は、RAM53を初期化して、RAM53に記憶される後述の入力値フラグFK等の各種フラグを初期化する。
そして、S12において、CPU51は、RAM53の画像記憶領域に記憶されたCCDセンサ17によって撮像された撮像画像143(図7参照)を画像処理して、撮像画像143上の入力キー群7の四隅に表示された黒色正方形の各キーマーク141A〜141D(図7参照)の形状、輝度、色情報(例えば、色相(Hue)、彩度(Saturation)及び明度(Value)からなるHSV値やRGB値等である。)等を抽出する。
尚、CCDコントローラ14は、CCDセンサ17によって1秒間に約30フレーム撮像し、撮像した各画像を制御部36のRAM53の画像記憶領域へ順次更新記憶する。また、CPU51は、RAM53の画像記憶領域に記憶される撮像画像が更新される毎に、S12以降の処理を実行する。
続いて、S13において、CPU51は、CCDセンサ17によって撮像された撮像画像143上に各キーマーク141A〜141Dのうちのいずれか2個以上抽出できたか否かを判定する判定処理を実行する。
そして、各キーマーク141A〜141Dのうちのいずれか2個を抽出できなかった場合には(S13:NO)、CPU51は、再度S11以降の処理を実行する。
一方、各キーマーク141A〜141Dのうちのいずれか2個以上抽出できた場合には(S13:YES)、CPU51は、S14の処理に移行する。S14において、CPU51は、CCDセンサ17によって撮像された撮像画像143上における、各キーマーク141A〜141Dのそれぞれの四隅の座標位置を取得して、RAM53に記憶する。
尚、各キーマーク141A〜141Dの相対位置は、予めフラッシュメモリ52に記憶されている。従って、CPU51は、各キーマーク141A〜141Dのうちの少なくとも2個のキーマークを抽出できれば、残りの検出できないキーマークの座標位置は、この検出した2個のキーマークの座標位置から算出することができる。このとき、個々のキーマークを区別するために、各キーマーク141A〜141Dの色や大きさ等が異なっているのが望ましい。また、各キーマーク141A〜141Dの色や大きさ等が同じであれば、各キーマーク141A〜141Dのうち、3個以上のキーマークを抽出できればよい。
ここで、CCDセンサ17によって撮像された撮像画像143の一例を図7に基づいて説明する。図7はCCDセンサ17によって撮像された撮像画像143の一例を示す図である。
図7に示すように、CCDセンサ17によって撮像された撮像画像143には、液晶ディスプレイ122に表示された入力キー群7の各入力キー7A〜7Iと入力キー群7の四隅に配置された黒色正方形の各キーマーク141A〜141Dが撮像されている。また、各入力キー7A〜7I上には入力値は表示されていない。
そして、CPU51は、撮像画像143の左下隅を原点Oとして左右方向をX軸、縦方向をY軸として、各キーマーク141A〜141Dのそれぞれの四隅の座標位置を取得して、RAM53に記憶する。また、撮像画像143の左下隅を原点Oとして、該撮像画像143の四隅の座標位置を取得して、RAM53に記憶する。
そして、図6に示すように、S15において、CPU51は、入力キー群7の左上角部と左下角部に配置された各キーマーク141A、141Dのそれぞれの左上隅及び左下隅の座標位置をRAM53から読み出し、各キーマーク141A、141Dの左端部から撮像画像143の左端縁部までの距離WL(図7参照)を取得してRAM53に記憶する。このとき、各キーマーク141A、141Dの左端部から撮像画像143の左端部までの2つの距離のうち短い方を距離WLとすればよい。また、2つの距離の平均を距離WLとしてもよい。この後述べる各距離WR、WU、WDについても同様である。
また、CPU51は、入力キー群7の右上角部と右下角部に配置された各キーマーク141B、141Cのそれぞれの右上隅及び右下隅の座標位置をRAM53から読み出し、各キーマーク141B、141Cの右端部から撮像画像143の右端縁部までの距離WR(図7参照)を取得してRAM53に記憶する。
また、CPU51は、入力キー群7の左上角部と右上角部に配置された各キーマーク141A、141Bのそれぞれの左上隅及び右上隅の座標位置をRAM53から読み出し、各キーマーク141A、141Bの上端部から撮像画像143の上端縁部までの距離WU(図7参照)を取得してRAM53に記憶する。また、CPU51は、入力キー群7の左下角部と右下角部に配置された各キーマーク141D、141Cのそれぞれの左下隅及び右下隅の座標位置をRAM53から読み出し、各キーマーク141D、141Cの下端部から撮像画像143の下端縁部までの距離WD(図7参照)を取得してRAM53に記憶する。
続いて、S16において、CPU51は、各距離WL、WR、WU、WDをRAM53から読み出し、各距離WL、WR、WU、WDのうちで各キーマーク141A、141Dの左端部から撮像画像143の左端縁部までの距離WLが最大か否かを判定する判定処理を実行する。
そして、各距離WL、WR、WU、WDのうちで各キーマーク141A、141Dの左端部から撮像画像143の左端縁部までの距離WLが最大の場合には(S16:YES)、CPU51は、S17の処理に移行する。
S17において、CPU51は、撮像画像143上の各キーマーク141A、141Dの左端部を通る直線から撮像画像143の左端縁部までの左側撮像領域RL(図8参照)を各入力キー7A〜7Iの入力値の配置領域としてRAM53に記憶後、S23の処理に移行する。
ここで、CCDセンサ17によって撮像された撮像画像143上に設定された各撮像領域の一例について図8及び図9に基づいて説明する。図8はCCDセンサ17によって撮像された撮像画像143上に設定された左側撮像領域RLと右側撮像領域RRの一例を示す図である。図9はCCDセンサ17によって撮像された撮像画像143上に設定された上側撮像領域RUと下側撮像領域RDの一例を示す図である。
図8に示すように、CPU51は、撮像画像143上の各キーマーク141A、141Dの左端部を通る直線から撮像画像143の左端縁部までの領域を左側撮像領域RLとする。また、CPU51は、撮像画像143上の各キーマーク141B、141Cの右端部を通る直線から撮像画像143の右端縁部までの領域を右側撮像領域RRとする。
また、図9に示すように、CPU51は、撮像画像143上の各キーマーク141A、141Bの上端部を通る直線から撮像画像143の上端縁部までの領域を上側撮像領域RUとする。また、CPU51は、撮像画像143上の各キーマーク141D、141Cの下端部を通る直線から撮像画像143の下端縁部までの領域を下側撮像領域RRとする。
一方、図6に示すように、各距離WL、WR、WU、WDのうちで各キーマーク141A、141Dの左端部から撮像画像143の左端縁部までの距離WLが最大でない場合には(S16:NO)、CPU51は、S18の処理に移行する。S18において、CPU51は、各距離WL、WR、WU、WDのうちで各キーマーク141B、141Cの右端部から撮像画像143の右端縁部までの距離WRが最大か否かを判定する判定処理を実行する。
そして、各距離WL、WR、WU、WDのうちで各キーマーク141B、141Cの右端部から撮像画像143の右端縁部までの距離WRが最大の場合には(S18:YES)、CPU51は、S19の処理に移行する。S19において、CPU51は、撮像画像143上の各キーマーク141B、141Cの右端部を通る直線から撮像画像143の右端縁部までの右側撮像領域RRを各入力キー7A〜7Iの入力値の配置領域としてRAM53に記憶後、S23の処理に移行する。
また一方、各距離WL、WR、WU、WDのうちで各キーマーク141B、141Cの右端部から撮像画像143の右端縁部までの距離WRが最大でない場合には(S18:NO)、CPU51は、S20の処理に移行する。S20において、CPU51は、各距離WL、WR、WU、WDのうちで各キーマーク141A、141Bの上端部から撮像画像143の上端縁部までの距離WUが最大か否かを判定する判定処理を実行する。
そして、各距離WL、WR、WU、WDのうちで各キーマーク141A、141Bの上端部から撮像画像143の上端縁部までの距離WUが最大の場合には(S20:YES)、CPU51は、S21の処理に移行する。S21において、CPU51は、撮像画像143上の各キーマーク141A、141Bの上端部を通る直線から撮像画像143の上端縁部までの上側撮像領域RUを各入力キー7A〜7Iの入力値の配置領域としてRAM53に記憶後、S23の処理に移行する。
また一方、各距離WL、WR、WU、WDのうちで各キーマーク141A、141Bの上端部から撮像画像143の上端縁部までの距離WUが最大でない場合には(S20:NO)、CPU51は、S22の処理に移行する。S22において、CPU51は、撮像画像143上の各キーマーク141D、141Cの下端部を通る直線から撮像画像143の下端縁部までの下側撮像領域RDを各入力キー7A〜7Iの入力値の配置領域としてRAM53に記憶後、S23の処理に移行する。
従って、上記S17、S19、S21又はS22の処理を行うことにより、撮像画像143内の余白部分において、最大の矩形が得られる最大矩形領域を設定することができる。つまり、後述のように、ユーザ2の視野範囲に重ねて設定されている表示領域145(図10参照)内において、入力キー群7に対応する部分を除いた余白部分において、最大の矩形領域が得られる表示位置を抽出することができる。尚、余白部分は、ユーザ2の視野範囲145中において、入力キー群7と重なる領域を除いた部分である。
その後、S23において、CPU51は、RAM53から入力値フラグFKを読み出し、この入力値フラグFKが「1」か否かを判定する判定処理を実行する。つまり、CPU51は、外部接続モジュール45を介して、認証装置5へ各入力キー7A〜7Iに対応する入力値の配列情報を要求する配列データ要求信号を送信して、この認証装置5から各入力キー7A〜7Iに対応する入力値の配列情報を取得したか否かを判定する判定処理を実行する。尚、入力値フラグFKは、上記S11において、「0」が代入されて、RAM53に記憶される。
そして、RAM53から入力値フラグFKを読み出し、この入力値フラグFKが「1」の場合には(S23:YES)、CPU51は、認証装置5から各入力キー7A〜7Iに対応する入力値の配列情報を取得したと判定して、後述のS26の処理に移行する。
一方、RAM53から入力値フラグFKを読み出し、この入力値フラグFKが「0」の場合には(S23:NO)、CPU51は、認証装置5から各入力キー7A〜7Iに対応する入力値の配列情報を取得していないと判定し、S24の処理に移行する。
S24において、CPU51は、外部接続モジュール45を介して、認証装置5へ各入力キー7A〜7Iに対応する入力値の配列情報を要求する配列データ要求信号を送信する。そして、CPU51は、この認証装置5から各入力キー7A〜7Iに対応する入力値を当該各入力キー7A〜7Iの並び順に配列した3行3列の配列情報を受信して、RAM53に記憶する。
続いて、S25において、CPU51は、RAM53から入力値フラグFKを読み出し、この入力値フラグFKに「1」を代入して、再度RAM53に記憶後、S26の処理に移行する。
S26において、CPU51は、ビデオRAM34を初期化する。つまり、CPU51は、出射装置11によるコンテンツ(画像)の表示を一度消去する。
そして、S27において、CPU51は、上記S17、S19、S21又はS22で、各入力キー7A〜7Iの入力値の配置領域としてRAM53に記憶した撮像画像143上の撮像領域(左側撮像領域RL、右側撮像領域RR、上側撮像領域RU又は下側撮像領域RLのうちのいずれかである。)を再度RAM53から読み出す。また、CPU51は、上記S24で取得した各入力キー7A〜7Iの入力値の3行3列の配列情報をRAM53から読み出し、CCDセンサ17によって撮像されるユーザ2の視野範囲に重ねて設定されている表示領域145(図10参照)内で、このRAM53から読み出した配置領域に対応する表示位置に、当該各入力キー7A〜7Iの入力値を3行3列の配列情報に従って配置して表示する画像データ(コンテンツ情報)を作成してRAM53に記憶する。尚、撮像画像143上の座標位置と表示領域145上の座標位置との対応関係がフラッシュメモリ52に予め記憶されている。
つまり、CPU51は、CCDセンサ17によって撮像されるユーザ2の視野範囲と重なって視認される表示領域145上に、各入力キー7A〜7Iの入力値を3行3列に配置した入力値画像146(図10参照)を配置した画像データ(コンテンツ情報)を作成してRAM53に記憶する。
その後、CPU51は、この画像データを画像信号に変換して、ビデオRAM34に記憶した後、再度S12以降の処理を実行する。つまり、CPU51は、入力キー群7に重ならないユーザ2の視野範囲中に当該各入力キー7A〜7Iの入力値を3行3列に配置した入力値画像146(図10参照)を出射装置11を介して表示後、再度S12以降の処理を実行する。これにより、絶えず、各入力キー7A〜7Iの入力値の配置領域を抽出し、ビデオRAM34を初期化してから入力値画像146の画像信号を再度記憶するので、ユーザ2の頭が動いても、常に入力キー群7の近傍に、当該入力キー群7と重ならないように入力値画像146を表示することができる。
ここで、CPU51がCCDセンサ17によって撮像されるユーザ2の視野範囲に重なるように設定されている表示領域145中に、各入力キー7A〜7Iの入力値を3行3列に配置した入力値画像146を出射装置11を介して表示した一例を図10に基づいて説明する。図10は各入力キー7A〜7Iの入力値を3行3列に配置した入力値画像146を出射装置11を介して表示した一例を示す図である。尚、図10は上記S17で左側撮像領域RLが各入力キー7A〜7Iの入力値の配置領域としてRAM53に記憶された場合の一例を示す。
CPU51は、上記S17で左側撮像領域RLが各入力キー7A〜7Iの入力値の配置領域としてRAM53に記憶された場合には、上記S24で取得した各入力キー7A〜7Iの入力値の3行3列の配列情報、例えば、1行目が「6」、「8」、「3」、2行目が「2」、「5」、「1」、3行目が「9」、「4」、「7」の配列情報をRAM53から読み出す。
そして、CPU51は、CCDセンサ17によって撮像されるユーザ2の視野範囲に重なるように設定されている表示領域145中において、表面に入力値が表示されていない各入力キー7A〜7Iから構成される入力キー群7の左側上方に、各入力キー7A〜7Iの入力値を3行3列に配置した入力値画像146を表示する画像データ(コンテンツ情報)を作成してRAM53に記憶する。例えば、CPU51は、3行3列のマス目を赤色の点線で表示し、1行目の各マス目に「6」、「8」、「3」、2行目の各マス目に「2」、「5」、「1」、3行目の各マス目に「9」、「4」、「7」の各入力値が赤色の数字でそれぞれ配置された入力値画像146を表示する画像データ(コンテンツ情報)を作成してRAM53に記憶する。その後、CPU51は、当該画像データを画像信号に変換してビデオRAM34に記憶する。
これにより、図10に示すように、出射装置11を介してユーザ2の視野範囲に重なるように設定されている表示領域145中の左側上方の、入力キー群7に重ならない視野範囲中に、例えば、各入力キー7A〜7Iに対応する3行3列の入力値が、1行目に「6」、「8」、「3」、2行目に「2」、「5」、「1」、3行目に「9」、「4」、「7」と赤色の数字で表示された入力値画像146が表示される。
従って、ユーザ2は、当該入力値画像146と入力キー群7を同時に見ながら、この表示された入力値画像146の各入力値に対応する各入力キー7A〜7Iを押下してパスワードを入力することができる。
ここで、出射装置11、ビデオRAM34は、表示手段の一例を構成する。また、CCDカメラ12は、撮像手段の一例として機能する。また、CPU51、RAM53は、位置検出手段、表示情報作成手段の一例を構成する。また、CPU51、フラッシュメモリ52は、表示制御手段の一例として機能する。
以上説明した通り、実施例1に係るヘッドマウントディスプレイ3では、CCDセンサ17によって撮像されるユーザ2の視野範囲に重なるように設定されている表示領域145内において、入力キー群7の各入力キー7A〜7Iにランダムに付与された数字等の入力値が3行3列に配置された入力値画像146を当該入力キー群7に重ならないように直接ユーザ2の網膜上に投射して表示する。
これにより、入力キー群7の近傍に当該入力キー群7と重ならないように入力値画像146を表示することによって、入力キー群7と入力値画像146の表示位置との厳密な位置合わせが不要となると共に、ユーザ2は入力キー群7や指に邪魔されずに入力値画像146を容易に視認することが可能となる。このため、ユーザ2は、認証装置5の入力キー群7の各入力キー7A〜7Iにランダムに付与された数字等の入力値が表示されていない場合でも、当該入力キー群7の各入力キー7A〜7Iの配列に合わせて「1」〜「9」の9個の入力値が3行3列に表示された入力値画像146を直接見て、各入力キー7A〜7Iに付与された入力値を確認することが可能となる。
従って、ユーザ2は、当該入力値画像146を視認しながら、この表示された入力値画像146の各入力値に対応する各入力キー7A〜7Iを押下してパスワードを簡単に入力することができる。また、ユーザ2の頭が動いても、絶えず、入力キー群7の近傍に、当該入力キー群7と重ならないように入力値画像146が表示されるため、視認性が阻害されず、容易にパスワードを入力することができる。
また、入力キー群7の周囲の表示領域145のうちの最大矩形領域に入力値画像146を表示することができるため、入力値画像146を入力キー群7に重ならないように、且つ、最大の大きさで表示することが可能となり、視認性の向上を図ることができる。
また、各入力キー7A〜7Iにランダムに付与された「1」〜「9」の9個の入力値は、ユーザ2の目に直接投射されるため、認証装置5は入力キー群7の各入力キー7A〜7Iにランダムに付与された数字等の入力値を表示しないことによって、第三者にユーザ2の腕や指の動きや、各入力キー7A〜7Iを見られても、パスワード等の各入力値を第三者に盗み見されることを確実に防止し、保安性の向上を図ることができる。
次に、実施例2に係るヘッドマウントディスプレイ151について図11乃至図13に基づいて説明する。尚、上記実施例1に係るヘッドマウントディスプレイ3と同一符号は、上記実施例1に係るヘッドマウントディスプレイ3と同一あるいは相当する部分を示すものである。
実施例2に係るヘッドマウントディスプレイ151の概略構成は、実施例1に係るヘッドマウントディスプレイ3と同じ構成である。また、ヘッドマウントディスプレイ151の各種制御処理も実施例1に係るヘッドマウントディスプレイ3とほぼ同じ制御処理である。但し、ヘッドマウントディスプレイ151のCPU51は、上記「入力値表示処理1」(S11〜S25)に替えて、ユーザ2の指先を検出して、入力値画像145の表示色を変更する「入力値表示処理2」を実行する点で異なっている。
ここで、実施例2に係るヘッドマウントディスプレイ151のCPU51によって実行される処理であって、入力キー群7の各入力キー7A〜7Iに付与された入力値を出射装置11を介して当該入力キー群7の周辺部に表示する「入力値表示処理2」について図11及び図12に基づいて説明する。
図11及び図12は実施例2に係るヘッドマウントディスプレイ151のCPU51によって実行される処理であって、入力キー群7の各入力キー7A〜7Iに付与された入力値を出射装置11を介して当該入力キー群7の周辺部に表示する「入力値表示処理2」を示すフローチャートである。尚、図11及び図12にフローチャートで示されるプログラムは、制御部36のフラッシュメモリ52に記憶され、操作ボタン群41に含まれる表示開始ボタン(不図示)の操作に対応する制御信号が、入力制御回路42から制御部36に入力された場合に、CPU51によって実行される。
[入力値表示処理2]
図11及び図12に示すように、S111乃至S122において、CPU51は、上記S11乃至S22の処理を実行する。
その後、S123において、CPU51は、上記S23の判定処理を実行する。そして、RAM53から入力値フラグFKを読み出し、この入力値フラグFKが「1」の場合には(S123:YES)、CPU51は、認証装置5から各入力キー7A〜7Iに対応する入力値の配列情報を取得したと判定して、後述のS126の処理に移行する。
一方、RAM53から入力値フラグFKを読み出し、この入力値フラグFKが「0」の場合には(S123:NO)、CPU51は、S124の処理に移行する。S124において、CPU51は、上記S24の処理を実行する。そして、S125において、CPU51は、上記S25の処理を実行後、S126の処理に移行する。
S126において、CPU51は、RAM53の画像記憶領域に記憶されたCCDセンサ17によって撮像された撮像画像143(図7参照)を画像処理して、撮像画像143上の入力キー群7の四隅に表示された正方形の各キーマーク141A〜141D(図7参照)で囲まれる領域内にユーザ2の手があるか否か、つまり、肌色の領域があるか否かを判定する判定処理を実行する。
そして、撮像画像143上の入力キー群7の四隅に表示された正方形の各キーマーク141A〜141Dで囲まれる領域内にユーザ2の手が無い場合、つまり、肌色の領域が無い場合には(S126:NO)、CPU51は、S127の処理に移行する。
S127において、CPU51は、各入力キー7A〜7Iの入力値を3行3列に配置した入力値画像152(図13参照)における各入力値の表示色として、全て同じ通常の表示色(例えば、背景色無しで赤色の数字である。)をRAM53に記憶後、後述のS133の処理に移行する。
一方、撮像画像143上の入力キー群7の四隅に表示された正方形の各キーマーク141A〜141Dで囲まれる領域内にユーザ2の手がある場合、つまり、肌色の領域がある場合には(S126:YES)、CPU51は、S128の処理に移行する。
S128において、CPU51は、撮像画像143上の入力キー群7の四隅に表示された正方形の各キーマーク141A〜141Dで囲まれる領域内にある肌色の領域の輪郭を画像認識により抽出する。
続いて、S129において、CPU51は、この画像認識により抽出した肌色の領域の輪郭上に突出部があるか否か、つまり、指先があるか否かを判定する判定処理を実行する。
そして、画像認識により抽出した肌色の領域の輪郭上に突出部が無い場合、つまり、指先を検出できない場合には(S129:NO)、CPU51は、上記S127の処理に移行する。
一方、画像認識により抽出した肌色の領域の輪郭上に突出部がある場合、つまり、ユーザ2の指先を検出した場合には(S129:YES)、CPU51は、S130の処理に移行する。S130において、CPU51は、撮像画像143の左下隅を原点Oとして左右方向をX軸、縦方向をY軸として(図7参照)、画像認識により抽出した肌色の領域の輪郭上の最突出部、つまり、先端部の撮像画像143上における座標位置を取得して、指先の座標位置としてRAM53に記憶する。
そして、S131において、CPU51は、上記S114において取得したCCDセンサ17によって撮像された撮像画像143上における、各キーマーク141A〜141Dのそれぞれの四隅の座標位置と、上記S130で取得した指先の座標位置とをRAM53から読み出し、これらの座標位置から入力キー群7上の3行3列に配列された各入力キー7A〜7Iの中で指先が位置する入力キーを決定し、この指先が位置する入力キーの入力キー群7上の3行3列内における配列位置(例えば、1行目の1列目等である。)をRAM53に記憶する。
続いて、S132において、CPU51は、指先が位置する入力キーの入力キー群7上の3行3列内における配列位置(例えば、1行目の1列目等である。)を、各入力キー7A〜7Iの入力値を3行3列に配置した入力値画像152(図13参照)における各入力値のうちの指先が位置する入力キーに対応する入力値の配列位置(例えば、1行目の1列目等である。)としてRAM53に記憶する。
そして、CPU51は、入力値画像152(図13参照)において、指先が位置する入力キーに対応する入力値の配列位置をRAM53から読み出し、この配列位置に配置される入力値の表示色として通常の表示色と異なる表示色(例えば、背景色がピンクで青色の数字である。)をRAM53に記憶すると共に、他の8個の入力値の表示色として、それぞれ通常の表示色(例えば、背景色無しで赤色の数字である。)をRAM53に記憶後、S133の処理に移行する。
S133において、CPU51は、ビデオRAM34を初期化する。つまり、CPU51は、出射装置11によるコンテンツ(画像)の表示を一度消去する。
そして、S134において、CPU51は、上記S117、S119、S121又はS122で、各入力キー7A〜7Iの入力値の配置領域としてRAM53に記憶した撮像画像143上の撮像領域(左側撮像領域RL、右側撮像領域RR、上側撮像領域RU又は下側撮像領域RLのうちのいずれかである。)を再度RAM53から読み出す。
また、CPU51は、上記S124で取得した各入力キー7A〜7Iの入力値の3行3列の配列情報をRAM53から読み出すと共に、上記S127若しくは上記S132で設定した各入力値の表示色をRAM53から読み出し、CCDセンサ17によって撮像されるユーザ2の視野範囲に重ねて設定されている表示領域145(図13参照)内において、このRAM53から読み出した配置領域に対応する表示位置に、当該各入力キー7A〜7Iの入力値を3行3列の配列情報に従って配置すると共に、各入力値をそれぞれ設定された表示色で表示する画像データ(コンテンツ情報)を作成してRAM53に記憶する。尚、撮像画像143上の座標位置と表示領域145上の座標位置との対応関係がフラッシュメモリ52に予め記憶されている。
つまり、CPU51は、CCDセンサ17によって撮像されるユーザ2の視野範囲と重なって視認される表示領域145上に、各入力キー7A〜7Iの入力値をそれぞれ設定した表示色で3行3列に配置した入力値画像152(図13参照)を配置した画像データ(コンテンツ情報)を作成してRAM53に記憶する。
その後、CPU51は、この画像データを画像信号に変換して、ビデオRAM34に記憶した後、再度S112以降の処理を実行する。つまり、CPU51は、入力キー群7に重ならないユーザ2の視野範囲に重なるように設定されている表示領域145中に、当該各入力キー7A〜7Iの入力値をそれぞれ設定した表示色で3行3列に配置した入力値画像152(図13参照)を出射装置11を介して表示後、再度S112以降の処理を実行する。これにより、絶えず、各入力キー7A〜7Iの入力値の配置領域を抽出し、ビデオRAM34を初期化してから入力値画像152の画像信号を再度記憶するので、ユーザ2の頭が動いても、常に入力キー群7の近傍に、当該入力キー群7と重ならないように入力値画像152を表示することができる。
ここで、CPU51が、入力キー群7上に指先を検出した場合に、各入力キー7A〜7Iの入力値を3行3列に配置した入力値画像152を出射装置11を介して表示した一例を図13に基づいて説明する。図13は入力キー群7上に指先を検出した場合に、各入力キー7A〜7Iの入力値を3行3列に配置した入力値画像152を出射装置11を介して表示した一例を示す図である。尚、図13は上記S117で左側撮像領域RLが各入力キー7A〜7Iの入力値の配置領域としてRAM53に記憶された場合の一例を示す。
CPU51は、上記S117で左側撮像領域RLが各入力キー7A〜7Iの入力値の配置領域としてRAM53に記憶された場合には、上記S124で取得した各入力キー7A〜7Iの入力値の3行3列の配列情報、例えば、1行目が「6」、「8」、「3」、2行目が「2」、「5」、「1」、3行目が「9」、「4」、「7」の配列情報をRAM53から読み出す。また、図13に示すように、CPU51は、上記S131でユーザ2の指先155が入力キー7A上に位置すると決定し、上記S132で入力値画像152の入力キー7Aの入力キー群7上の配列位置に対応して配置される入力値、つまり、1行1列目に配置される入力値「6」の表示色を「背景色がピンクで青色」とし、他の8個の入力値「8」、「3」、「2」、・・・、「7」の表示色を「背景色無しで赤色」としてRAM53に記憶する。
そして、CPU51は、CCDセンサ17によって撮像されるユーザ2の視野範囲に重なるように設定されている表示領域145中において、表面に入力値が表示されていない各入力キー7A〜7Iから構成される入力キー群7の左側上方に、各入力キー7A〜7Iの入力値をそれぞれ設定した表示色で3行3列に配置した入力値画像152を表示する画像データ(コンテンツ情報)を作成してRAM53に記憶する。
つまり、CPU51は、3行3列のマス目を赤色の点線で表示し、1行目の1列目のマス目に「6」を背景色がピンクで青色の数字で表示し、1行目の2列目及び3列目のマス目に「8」、「3」、2行目の各マス目に「2」、「5」、「1」、3行目の各マス目に「9」、「4」、「7」を背景色無しで赤色の数字で表示する入力値画像152を表示する画像データ(コンテンツ情報)を作成してRAM53に記憶する。その後、CPU51は、当該画像データを画像信号に変換してビデオRAM34に記憶する。
これにより、図13に示すように、出射装置11を介してユーザ2の視野範囲に重なるように設定されている表示領域145中の左側上方の、入力キー群7に重ならない視野範囲中に、指先155の位置する入力キー7Aに対応する1行目の1列目のマス目に「6」が背景色がピンクで青色の数字で表示され、1行目の2列目及び3列目のマス目に「8」、「3」、2行目の各マス目に「2」、「5」、「1」、3行目の各マス目に「9」、「4」、「7」が背景色無しで赤色の数字で表示された入力値画像152が表示される。
従って、ユーザ2は、入力値画像152を視認することによって、背景色がピンクになっている入力値が、指先155の位置する入力キーに付与された入力値であることを容易に確認することができ、当該入力値画像152と入力キー群7を同時に見ながら、各入力キー7A〜7Iを押下してパスワードを入力することができる。
ここで、CPU51、RAM53は、入力キー検出手段を構成する。
以上説明した通り、実施例2に係るヘッドマウントディスプレイ151では、CCDセンサ17によって撮像されるユーザ2の視野範囲に重なるように設定されている表示領域145内において、入力キー群7の各入力キー7A〜7Iにランダムに付与された数字等の入力値が3行3列に配置された入力値画像152を当該入力キー群7に重ならないように直接ユーザ2の網膜上に投射して表示する。また、ユーザ2の指先がいずれかの入力キー上に位置する場合には、この指先が位置する入力キーに対応する入力値画像152の入力値の表示色と他の8個の入力値の表示色とが異なって表示される。
これにより、入力キー群7の近傍に当該入力キー群7と重ならないように入力値画像152を表示することによって、入力キー群7と入力値画像152の表示位置との厳密な位置合わせが不要となると共に、ユーザ2は入力キー群7や指に邪魔されずに入力値画像152を容易に視認することが可能となる。このため、ユーザ2は、認証装置5の入力キー群7の各入力キー7A〜7Iにランダムに付与された数字等の入力値が表示されていない場合でも、当該入力キー群7の各入力キー7A〜7Iの配列に合わせて「1」〜「9」の9個の入力値が3行3列に表示された入力値画像152を直接見て、各入力キー7A〜7Iに付与された入力値を確認することが可能となる。また、ユーザ2は、入力値画像152の表示色の変わった入力値が、指先の位置する入力キーに対応する入力値であることを容易に確認することができる。
従って、ユーザ2は、当該入力値画像152を視認しながら、この表示された入力値画像152の表示色が変わった入力値を確認しつつ、この表示色が変わった入力値に対応する各入力キー7A〜7Iを押下してパスワードを正確に入力することができる。また、ユーザ2の頭が動いても、絶えず、入力キー群7の近傍に、当該入力キー群7と重ならないように入力値画像152が表示されるため、視認性が阻害されず、容易にパスワードを入力することができる。
また、入力キー群7の周囲の表示領域145のうちの最大矩形領域に入力値画像152を表示することができるため、入力値画像152を入力キー群7に重ならないように、且つ、最大の大きさで表示することが可能となり、視認性の向上を図ることができる。
また、各入力キー7A〜7Iにランダムに付与された「1」〜「9」の9個の入力値は、ユーザ2の目に直接投射されるため、認証装置5は入力キー群7の各入力キー7A〜7Iにランダムに付与された数字等の入力値を表示しないことによって、第三者にユーザ2の腕や指の動きや、各入力キー7A〜7Iを見られても、パスワード等の各入力値を第三者に盗み見されることを確実に防止し、保安性の向上を図ることができる。
尚、本発明は前記実施例1及び実施例2に限定されることはなく、本発明の要旨を逸脱しない範囲内で種々の改良、変形が可能であることは勿論である。例えば、以下のようにしてもよい。
(A)上記S132において、CPU51は、指先が位置する入力キーに対応する入力値の表示色として通常の表示色(例えば、背景色無しで赤色の数字である。)と異なる表示色(例えば、背景色がピンクで青色の数字である。)をRAM53に記憶すると共に、この指先が位置する入力キーに対応する入力値の表示されるサイズを他の8個の入力値の表示されるサイズよりも大きいサイズに設定するようにしてもよい。
そして、上記S134において、CPU51は、上記132で指先が位置する入力キーに対応する入力値の表示されるサイズが大きくなるように設定されている場合には、指先が位置する入力キーに対応する入力値を、他の8個の入力値の表示色と異なる表示色で表示すると共に、他の8個の入力値よりも大きいサイズで表示する画像データ(コンテンツ情報)を作成してRAM53に記憶する。尚、他の8個の入力値は、同じサイズで表示する。その後、CPU51は、この画像データを画像信号に変換して、ビデオRAM34に記憶した後、再度S112以降の処理を実行するようにしてもよい。
ここで、CPU51が、入力キー群7上に指先を検出した場合に、入力値画像の指先が位置する入力キーに対応する入力値の表示色とサイズを他の入力値と異なるように表示した一例を図14に基づいて説明する。図14は入力キー群7上に指先を検出した場合に、各入力キー7A〜7Iの入力値を3行3列に配置した入力値画像157を出射装置11を介して表示した他の一例を示す図である。尚、図14は左側撮像領域RLが各入力キー7A〜7Iの入力値の配置領域としてRAM53に記憶された場合の一例を示す。
図14に示すように、出射装置11を介してユーザ2の視野範囲に重なるように設定されている表示領域145中の左側上方の、入力キー群7に重ならない視野範囲中に、指先155の位置する入力キー7Aに対応する1行目の1列目の「6」が、他の入力値よりも大きなサイズで上方に浮き上がって、背景色がピンクで青色の数字で表示され、1行目の2列目及び3列目のマス目に「8」、「3」、2行目の各マス目に「2」、「5」、「1」、3行目の各マス目に「9」、「4」、「7」が同じサイズで、背景色無しで赤色の数字で表示された入力値画像157が表示される。
これにより、ユーザ2は、入力値画像157を視認することによって、大きなサイズで上方に浮き上がって、背景色がピンクになっている入力値が、指先155の位置する入力キーに付与された入力値であることを容易に確認することができ、当該入力値画像157と入力キー群7を同時に見ながら、各入力キー7A〜7Iを押下してパスワードを正確に入力することができる。
(B)また、認証装置5の入力キー群7を構成する各入力キー7A〜7Iを2段押しスイッチボタンで構成するようにしてもよい。この場合には、認証装置5の情報処理部125は、各入力キー7A〜7Iの1段目の押下状態、即ち、半押し状態を検出した際に、当該半押し状態の入力キーの入力値を通信部127を介してヘッドマウントディスプレイ151に送信するようにしてもよい。
そして、ヘッドマウントディスプレイ151のCPU51は、半押し状態の入力キーの入力値を認証装置5から受信した場合には、入力値画像152の当該入力値を表示する表示色を、他の8個の入力値を表示する表示色と異ならせて表示するようにしてもよい。
これにより、ユーザ2は、入力値画像152を視認することによって、背景色がピンクになっている入力値が、半押し状態の入力キーに付与された入力値であることを容易に確認することができ、当該入力値画像152と入力キー群7を同時に見ながら、各入力キー7A〜7Iを2段押ししてパスワードを正確に入力することができる。
(C)また、入力キー群7を3行4列に配置された12個の入力キー7A〜7Lで構成してもよい。そして、12個の入力キー7A〜7Lに「0」〜「9」の10個の数値と、入力値を訂正する指示を入力する「訂正」機能と、入力値を決定する決定指示を入力する「決定」機能とをランダムに付与するようにしてもよい。
実施例1に係る認証システムの概略構成を示す図である。 ヘッドマウントディスプレイの外観を示す平面図である。 ヘッドマウントディスプレイの電気的構成を示すブロック図である。 出射装置の電気的構成及び光学的構成を示すブロック図である。 認証装置の概略構成を示すブロック図である。 実施例1に係るヘッドマウントディスプレイのCPUによって実行される処理であって、入力キー群の各入力キーに付与された入力値を出射装置を介して当該入力キー群の周辺部に表示する「入力値表示処理1」を示すフローチャートである。 CCDセンサによって撮像された撮像画像の一例を示す図である。 CCDセンサによって撮像された撮像画像上に設定された左側撮像領域と右側撮像領域の一例を示す図である。 CCDセンサによって撮像された撮像画像上に設定された上側撮像領域と下側撮像領域の一例を示す図である。 各入力キーの入力値を3行3列に配置した入力値画像を出射装置を介して表示した一例を示す図である。 実施例2に係るヘッドマウントディスプレイのCPUによって実行される処理であって、入力キー群の各入力キーに付与された入力値を出射装置を介して当該入力キー群の周辺部に表示する「入力値表示処理2」を示すフローチャートである。 実施例2に係るヘッドマウントディスプレイのCPUによって実行される処理であって、入力キー群の各入力キーに付与された入力値を出射装置を介して当該入力キー群の周辺部に表示する「入力値表示処理2」を示すフローチャートである。 指先を検出した場合に、各入力キーの入力値を3行3列に配置した入力値画像を出射装置を介して表示した一例を示す図である。 指先を検出した場合に、各入力キーの入力値を3行3列に配置した入力値画像を出射装置を介して表示した他の一例を示す図である。
符号の説明
1 認証システム
3、151 ヘッドマウントディスプレイ
5 認証装置
6 入力部
7 入力キー群
11 出射装置
12 CCDカメラ
34 ビデオRAM
51 CPU
52 フラッシュメモリ
53 RAM
143 撮像画像
145 表示領域
146、152、157 入力値画像
155 指先

Claims (5)

  1. 外界が視認可能な状態で表示情報の画像をユーザの眼に投射して当該ユーザに前記画像を視認させる表示手段を備えたシースルー型のヘッドマウントディスプレイにおいて、
    前記ユーザの眼の近傍位置に配置されて該ユーザの視野範囲のうち少なくとも一部範囲を撮像する撮像手段と、
    前記撮像手段によって撮像された所定配列状態で配置される複数の入力キーの該撮像手段の撮像画像内における位置を検出する位置検出手段と、
    前記複数の入力キーにそれぞれに付与された入力値を取得する入力値取得手段と、
    前記入力値取得手段を介して取得した各入力値を前記所定配列状態に合わせて配置して表示する表示情報を作成する表示情報作成手段と、
    前記表示情報作成手段によって作成された表示情報の画像が、前記位置検出手段によって検出された前記複数の入力キーの撮像画像内における位置に基づいて、前記ユーザの視野範囲における前記複数の入力キーの位置に重ならない領域に視認されるように前記表示手段を制御する表示制御手段と、
    を備えことを特徴とするヘッドマウントディスプレイ。
  2. 前記位置検出手段によって検出された前記複数の入力キーの撮像画像内における位置に基づいて、前記表示手段によって表示可能な最大表示領域のうち、該複数の入力キーに対応する部分を除いた余白領域において、最大の矩形が得られる最大矩形領域を抽出する矩形領域抽出手段を備え、
    前記表示制御手段は、前記表示情報作成手段によって作成された表示情報の画像が、前記最大矩形領域に視認されるように前記表示手段を制御することを特徴とする請求項1に記載のヘッドマウントディスプレイ。
  3. 前記ユーザの指先が位置する入力キーを前記撮像手段の撮像画像に基づいて検出する入力キー検出手段を備え、
    前記表示情報作成手段は、前記入力キー検出手段によって検出されたユーザの指先が位置する入力キーに対応する前記入力値の表示態様と他の入力キーに対応する前記入力値の表示態様とを異ならせて表示する表示情報を作成することを特徴とする請求項1又は請求項2に記載のヘッドマウントディスプレイ。
  4. 前記表示情報作成手段は、前記ユーザの指先が位置する入力キーに対応する前記入力値の表示色と前記他の入力キーに対応する前記入力値の表示色とを異ならせて表示する表示情報を作成することを特徴とする請求項3に記載のヘッドマウントディスプレイ。
  5. 前記表示情報作成手段は、前記ユーザの指先が位置する入力キーに対応する前記入力値の表示される大きさと前記他の入力キーに対応する前記入力値の表示される大きさとを異ならせて表示する表示情報を作成することを特徴とする請求項3又は請求項4に記載のヘッドマウントディスプレイ。
JP2008315570A 2008-12-11 2008-12-11 ヘッドマウントディスプレイ Expired - Fee Related JP5012781B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008315570A JP5012781B2 (ja) 2008-12-11 2008-12-11 ヘッドマウントディスプレイ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008315570A JP5012781B2 (ja) 2008-12-11 2008-12-11 ヘッドマウントディスプレイ

Publications (2)

Publication Number Publication Date
JP2010139711A JP2010139711A (ja) 2010-06-24
JP5012781B2 true JP5012781B2 (ja) 2012-08-29

Family

ID=42349919

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008315570A Expired - Fee Related JP5012781B2 (ja) 2008-12-11 2008-12-11 ヘッドマウントディスプレイ

Country Status (1)

Country Link
JP (1) JP5012781B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11227413B2 (en) 2017-03-27 2022-01-18 Suncorporation Image display system

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5603766B2 (ja) * 2010-12-27 2014-10-08 新日鉄住金ソリューションズ株式会社 情報処理システム、情報処理方法及びプログラム
JP6064464B2 (ja) * 2012-09-10 2017-01-25 セイコーエプソン株式会社 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、認証システム
US9092600B2 (en) 2012-11-05 2015-07-28 Microsoft Technology Licensing, Llc User authentication on augmented reality display device
CN105051650A (zh) * 2013-03-19 2015-11-11 日本电气方案创新株式会社 三维解锁设备、三维解锁方法和程序
JP6272688B2 (ja) * 2013-12-18 2018-01-31 マイクロソフト テクノロジー ライセンシング,エルエルシー 表示デバイスでのユーザー認証
JP6403975B2 (ja) * 2014-04-04 2018-10-10 株式会社日本総合研究所 秘密情報入力システム及びプログラム
EP2998896A1 (fr) * 2014-09-17 2016-03-23 Gemalto Sa Procédé d'authentification d'un utilisateur, terminaux et système d'authentification correspondants
WO2016051483A1 (ja) * 2014-09-30 2016-04-07 日立マクセル株式会社 情報表示端末および情報表示方法
JP2021005127A (ja) * 2019-06-25 2021-01-14 株式会社東海理化電機製作所 認証装置およびプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3083450B2 (ja) * 1994-05-19 2000-09-04 松下電器産業株式会社 眼鏡型画像表示装置
JP2000002856A (ja) * 1998-02-25 2000-01-07 Semiconductor Energy Lab Co Ltd 情報処理装置
JP2000020468A (ja) * 1998-07-02 2000-01-21 Toshiba Corp 情報入力装置及び情報入力装置における入力操作画面の表示方法
JP2001282428A (ja) * 2000-03-29 2001-10-12 Matsushita Electric Ind Co Ltd 情報処理装置
JP2003091353A (ja) * 2001-09-18 2003-03-28 Canon Inc Hmd用入力装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11227413B2 (en) 2017-03-27 2022-01-18 Suncorporation Image display system

Also Published As

Publication number Publication date
JP2010139711A (ja) 2010-06-24

Similar Documents

Publication Publication Date Title
JP5012781B2 (ja) ヘッドマウントディスプレイ
JP5104679B2 (ja) ヘッドマウントディスプレイ
US11301034B2 (en) Display device, control method for display device, and computer program
JP5195537B2 (ja) ヘッドマウントディスプレイ
JP5293025B2 (ja) ヘッドマウントディスプレイ
US8514148B2 (en) Head mount display
WO2010073879A1 (ja) ヘッドマウントディスプレイ
JP6048819B2 (ja) 表示装置、表示方法、集積回路、プログラム
EP2107414A1 (en) Head mount display and head mount display system
WO2010071110A1 (ja) ヘッドマウントディスプレイ
US11093034B2 (en) Eye tracking method and system and integration of the same with wearable heads-up displays
CN104956377A (zh) 用于采集专人数据的装置
JP2010139901A (ja) ヘッドマウントディスプレイ
JP2017009986A (ja) 画像投影装置
JP2010067154A (ja) ヘッドマウントディスプレイ、情報閲覧システム及び管理サーバ
JP2011069978A (ja) 網膜走査型画像表示装置
WO2022018972A1 (ja) 入力装置および入力装置の制御方法
CN213844156U (zh) 生物特征采集识别系统和终端设备
JP5218354B2 (ja) ヘッドマウントディスプレイ
JP6394165B2 (ja) 虚像表示装置及び方法
JP2011071884A (ja) 作業支援システム
JP3428920B2 (ja) 視点位置検出装置、方法及び立体画像表示システム
WO2015193953A1 (ja) 画像表示装置及び光学デバイス
EP4276682A1 (en) Biometric acquisition and recognition system and method, and terminal device
JP5375481B2 (ja) ヘッドマウントディスプレイ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110310

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120417

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120508

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120521

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150615

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5012781

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees