JP3214157B2 - 表示処理装置 - Google Patents
表示処理装置Info
- Publication number
- JP3214157B2 JP3214157B2 JP12828393A JP12828393A JP3214157B2 JP 3214157 B2 JP3214157 B2 JP 3214157B2 JP 12828393 A JP12828393 A JP 12828393A JP 12828393 A JP12828393 A JP 12828393A JP 3214157 B2 JP3214157 B2 JP 3214157B2
- Authority
- JP
- Japan
- Prior art keywords
- display
- data
- image
- displayed
- key
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Description
た状態で当該オペレータの眼の前方に表示像を形成して
表示するディスプレイ手段を備えた表示処理装置に関す
る。
エンジニアリングワークステーション(以下、EWS:
Engineering Work Stationという),パーソナルコンピ
ュータ(Personal Computer;以下、パソコンと略
す),ワードプロセッサ(Word P-rocessor;以下、ワ
ープロと略す)等の処理装置がある。
してキーボードが、また、出力装置としてディスプレイ
装置が備えられ、キーボードから入力されるキーコマン
ドに対応する処理が装置内で行われるとともに、処理結
果がディスプレイ装置に出力されるものである。
代表的なものには、CRT(Cathode Ray Tube)表示装
置や、液晶表示装置(以下、LCD:Liquid CrystalDi
splay という)がある。
型のEWS、パソコン、ワープロ等における表示装置と
して一般的なものであり、比較的安価に大画面の表示装
置を得ることができるが、CRT表示装置では、大画面
の表示装置を得る場合、CRT表示装置自体のサイズも
大きくなり、設置場所が限定される。
薄型である点から、ラップトップ型やノート型のパソコ
ン・ワープロ等の表示装置として多用されており、近時
においては、大画面・高精細化が図られ、EWS等の表
示装置としても利用されている。
く、かつ、画面サイズが大きくなるとそのサイズに比し
てコストがかかる。
可能な表示装置として、HMDが注目されている。
ディスプレイに映像を表示し、輻輳角と焦点距離とを所
定の値に設定することにより、目鏡や双目鏡のように両
目に対してそれぞれ別々の映像を与え、小さな機器で大
画面表示装置を見ているかのように表示を行うものであ
る。
ィスプレイ装置を備えるデータ処理装置では、通常、デ
ィスプレイ装置は一定の場所に固定され、その画像表示
領域内に所定のデータが表示されるものであるため、デ
ィスプレイ装置上に表示される表示内容を見るために
は、ディスプレイ装置の前にいる必要があるが、HMD
は、オペレータの頭部に搭載される構成となっているた
め、オペレータの向きに関らず、常に一定した表示内容
を見ることができる。
とから、映画鑑賞、擬似3D表示(立体表示)による医
療,CAD,建築の分野での利用が検討されている。
とのできる範囲(以下、視界という)は、およそ決まっ
ており、前述のディスプレイ装置を見る場合は、視界内
にディスプレイ装置を配置することになる。
を考えてみると、ディスプレイ装置以外にも、例えば、
キーボード等の入力装置に代表されるような利用頻度の
高い機器もディスプレイ装置と一緒に視界の中に入って
いる方が作業の効率上好ましいことは経験的に分かって
いる。
ての機器を配置することは、困難な場合もある。このよ
うな場合、それらの必要な機器の一部を予め把握した配
置場所に配置し、首を振るという動作により視界を移動
させて、その配置場所の機器を利用するといったことが
自然に行われている。
スプレイ装置を持つ処理装置にあっては、オペレータが
頭部にディスプレイ装置を装着するという構成からHM
Dを装着するオペレータは、およそ外界から遮断された
状態となっており、例えば、オペレータが首を横に振っ
ても表示内容は変わらないという点は、自由な格好で映
画等を鑑賞する場合には非常に都合良いが、通常のデー
タ処理を行う場合には、ディスプレイ装置に表示される
表示内容が固定化されると不都合な場合が生じてくる。
動してディスプレイ表示内容をスクロール処理を行うよ
うに設定しても、処理データの内容によっては表示内容
が固定化された方が良い場合もある。
状態で当該オペレータの眼の前方に表示像を形成して表
示すると共に、その前方の実画像を透過表示するものに
おいて、キー入力処理を何時でも、しかも容易に実行す
ることができるようにすることである。
である。
ータの眼の前方に表示像を形成して表示すると共に、そ
の前方の実画像を透過表示するディスプレイ手段と、前
記ディスプレイ手段がオペレータに装着された状態にお
いて、所定の文書データ画像を前記ディスプレイ手段に
おける第1表示像として表示制御すると共に、複数の仮
想キーを備えた仮想キーボード画像を前記ディスプレイ
手段における第2表示像として表示制御する表示制御手
段と、前記ディスプレイ手段がオペレータの頭部に装着
された状態において、そのディスプレイ手段の向きの変
化を検出する検出手段と、前記検出された向きの変化に
基づいて、前記第1表示像として表示される前記文書デ
ータ画像を前記ディスプレイ手段内において移動表示
し、前記第2表示像として表示される前記仮想キーボー
ド画像を前記ディスプレイ手段内において固定表示する
表示制御手段と、前記ディスプレイ手段の前方より透過
表示されるオペレータの手の先端位置が、前記ディスプ
レイ手段内で固定表示される前記仮想キーボード画像内
の何れかの仮想キーの表示位置にあれば、その仮想キー
に対するキー入力処理を実行するキー入力処理手段と、
を備えるものである。したがって、文書データ画像をデ
ィスプレイ手段内において移動表示する場合において
も、キー入力処理を実行するため表示された仮想キーボ
ード画像をディスプレイ手段内において固定表示が行
え、しかも、ディスプレイ手段の前方より透過表示され
る実際のオペレータの手の先端位置がディスプレイ手段
内で固定表示される前記仮想キーボード画像内の何れか
の仮想キーの表示位置にあればキー入力処理を実行する
ことができる。
する。
置の一実施例を示す図である。
発明のデータ処理装置の外観図であり、図1は、本実施
例のデータ処理装置を斜め前方から見た図であり、図2
は、本実施例のデータ処理装置を斜め後方から見た図で
ある。
MDによる単体ディスプレイ装置内に内蔵されたもので
あり、キーボード等によるキー入力手段を備えていない
ため、HMDに仮想的なキーボードを表示することで、
仮想的なキー入力を可能とするものである。
は、データ処理において処理された種々のデータを表示
画像として生成する光学系表示ユニット2と、光学系表
示ユニット2により生成された画像と外の景色とを合成
して表示する各種ユニットを内蔵する機器ケース3と、
光学系表示ユニット2及び機器ケース3を支持し、頭部
に装着する伸縮自在のヘッドバンド4とから構成されて
いる。
は、ロッドアンテナ5、電源オン・オフスイッチ6、指
定キー7、メニュー切換ダウン指示キー8、メニュー切
換アップ指示キー9が設けられるとともに、図2に示す
ように、ファインダ10R,10Lが形成されている。
また、ヘッドバンド4には、図1に示すように、支持部
11、イヤホン12R,12Lが形成されるとともに、
図2に示すように、装着検出センサ13が設けられてい
る。
で処理された各種データを電波に変換して送信するため
の伸縮自在のアンテナであり、電源オン・オフスイッチ
6は、電源部(図示せず)から供給される電源電圧をデ
ータ処理装置1内に通電するか否かを選択するためのス
イッチであり、指定キー7は、データ処理装置1を使用
する時点で、使用するオペレータの確認処理を開始する
ためのスイッチである。なお、使用するアンテナとして
は、本実施例のような伸縮自在のロッドアンテナ5に限
らず、例えば、ヘリカルアンテナでも良く、使用する電
波の波長帯域に適切なアンテナの利用が可能である。
ー切換アップ指示キー9は、光学系表示ユニット2によ
り表示されるメニュー画面のメニュー内容を切り換える
ためのキースイッチであり、メニュー切換ダウン指示キ
ー8は、順方向(メニュー画面中の枠カーソルを下方向
に移動させる方向)にメニュー内容を切り換え、メニュ
ー切換アップ指示キー9は、メニュー切換ダウン指示キ
ー8と逆方向(メニュー画面中の枠カーソルを上方向に
移動させる方向)にメニュー内容を切り換えるものであ
る。
タが形成された覗き窓であり、支持部11は、機器ケー
ス3とヘッドバンド4とを支持固定するものである。
イダンス情報を聞くためのものであり、装着検出センサ
13は、ヘッドバンド4がオペレータの頭部に装着され
たか否かを検出するためのセンサである。
1の横方向から見た断面図であり、図4は、本実施例に
おけるデータ処理装置1の上方向から見た断面図であ
る。
に、サイドライト方式の冷陰極管(蛍光ランプ)からな
るバックライト21と、約1インチサイズのアクティブ
マトリクス型カラー液晶表示部であるLCD22R,2
2Lと、ガラスまたはプラスチックの光学レンズからな
る凹レンズ23R,23Lとから構成され、バックライ
ト21により照射されてLCD22R,22Lを透過し
た画像(光)は凹レンズ23R,23Lによって広げら
れ、効率良く機器ケース3に送られる。
に、光学系表示ユニット2からの画像(光)を受光する
ための受光部となる上部ガラス31と、ガラスまたはプ
ラスチックの光学レンズからなる凸レンズ32R,32
Lと、外の景色(外光)を受光するための受光部となる
前面ガラス33と、前面ガラス33から受光した外光を
機器ケース3内に導くか否かの透過状態と遮光状態とを
切り換える液晶シャッタとなるシャッタ用LCD34
と、シャッタ用LCD34の機器ケース3内側に形成さ
れたハーフミラーからなる反射マジックミラー35と、
機器ケース3内の左右の側壁に設けられる2個のCCD
(Charge Coupled Device :撮像素子)36R,36L
とから構成され、光学系表示ユニット2から得られた画
像(光)は、ガラス31及び凸レンズ32R,32Lを
介して反射マジックミラー35により反射され、ファイ
ンダ10R,10Lを介してオペレータの目ER,EL
に届く。さらに、前面ガラス33を介して前方に見える
周囲状況の画像は、シャッタ用LCD34が透過状態の
時、反射マジックミラー35を介して光学系表示ユニッ
ト2からの画像と合成されてファインダ10R,10L
に出力され、一方、シャッタ用LCD34が遮光状態の
時、前面ガラス33を介して前方に見える周囲状況の画
像は、オペレータの目ER,ELには届かず、光学系表
示ユニット2からの画像のみがオペレータに出力され
る。
けられた2個のCCD36R,36Lは、前方、または
後方のファインダ10R,10Lのいずれの方向の画像
も撮像するため、その向きを前方と後方とに180度回
転するように、回動自在に設けられている。そして、シ
ャッタ用LCD34が透過状態にあるときは、2個のC
CD36R,36Lによって前方の風景を撮像し、例え
ば、前方視界中に“手”があるか否かが検出され、
“手”がある場合には、2個のCCD36R,36Lの
視差に基づいて“手”の位置及びHMDから“手”まで
の距離を求める処理が行われる。また、シャッタ用LC
D34が遮光状態にあるときは、2個のCCD36R,
36Lはファインダ10R,10L側に180度回転
し、ファインダ10R,10Lを介してオペレータの目
ER,ELの画像を撮像する。撮像された目の画像は、
後述するデータメモリ中に格納されたオペレータ別の目
の画像データと比較される。ちなみに、比較処理の際の
目のデータとしては、例えば、角膜(黒目)部分と結膜
(白目)部分との色素分布による比率や、目の周辺部の
形状(眉毛の形状、まぶたの形状、目全体の形状等)、
あるいは、血管の場所が特定できて、かつ、充血しにく
い場合には、目の血管模様等を利用することが考えられ
る。
体構成を示すブロック図である。
1、ROM42、データメモリ43、角度センサ44、
方位センサ45、赤外線センサ46、入力部47、表示
部48、表示駆動部49、無線伝送制御部50を備え、
さらに、装着検出センサ13、CCD36R,36Lを
備えている。なお、図4中、Bは、CPU41、ROM
42、データメモリ43、角度センサ44、方位センサ
45、赤外線センサ46、入力部47、表示駆動部4
9、無線伝送制御部50、装着検出センサ13、CCD
36R,36Lをそれぞれ接続する信号伝送路となるバ
スであり、101はプリンタ、102は外部記憶装置で
ある。
を制御する各種制御信号を、バスBを介して各回路に出
力するものであり、また、CPU41は、入力部47か
らの入力情報に基づいて表示駆動部49を制御して表示
部48に所定の表示を行うとともに、無線伝送制御部5
0を制御してデータ処理装置1内で処理された各種デー
タを電波に変換してプリンタ101や外部記憶装置10
2に必要なデータを送信するものである。
されるプログラムやデータ等を格納する半導体メモリで
ある。
行される処理において利用される各種データ、すなわ
ち、表示データ、“手”のイメージデータ、オペレータ
別の目のデータ等を格納するととも、データ処理におけ
る作業領域となるワークエリアを有する半導体メモリで
ある。なお、表示データは、光学系表示ユニット2によ
り表示される各種メニュー画面等の表示データであり、
“手”のイメージデータは、HMDの前方視界中に検出
する“手”の画像に基づいて光学系表示ユニット2によ
り表示される仮想的な“手”のデータ、また、オペレー
タ別の目のデータは、正規のオペレータの目ER,EL
の画像、すなわち、オペレータの認識を行うための比較
基準となる画像データである。
ンシステムやジャイロシステム等に用いられるように、
“ゆれ”の検出を行うことにより、データ処理装置1で
あるHMDが水平状態から何度傾いているかを検出する
センサである。本実施例では、図6に示すように、鉛直
方向から図6中、右回りに所定の角度だけ回転した位置
を基準点位置(0度位置)に設定し、90度位置におい
ては、わずかに上向きとなるように設定されている。
HMDが基準位置から左または右方向に何度回転してい
るかを検出するセンサである。本実施例では、図7に示
すように、「北」の方位を基準点位置(図7中、N)に
設定し、図7中、右回りに何度回転しているかを検出す
るようになっている。
Lによって検出される“手”の画像が、例えば、おもち
ゃの“手”であった場合等のように、誤認識を防止する
ため、CCD36R,36Lによって前方視界中の
“手”を検出し、かつ、“手”の位置及びHMDから
“手”までの距離が求められた後、CCD画像と“手”
のイメージデータとが一致したら、“手”の位置及び距
離に基づいて“手”のイメージデータが位置する場所に
熱反応があるか否かをチェックするものであり、熱反応
が検出された場合、CPU41によって“手”があると
判断し、熱反応が検出されない場合、CPU41によっ
てCCD36R,36Lが誤認識したものと判断する。
力を可能とするために設けられた仮想的な入力部であ
る。これは、本実施例のデータ処理装置1はディスプレ
イ部だけで構成され、特別にキーボード等の入力部を持
っていないため、データメモリ43中の表示データとし
て、表示部48にキーボードを表示するとともに、透過
して映し出される“手”を重ね合わせて表示することに
より、両者の位置関係を明確にしてキー入力を可能とす
るものである。
ータの左右の目にそれぞれ対応する2つの画像を表示す
る光学系表示ユニット2内の光学ユニット(バックライ
ト21,LCD22R,22L,凹レンズ23R,23
L等)及び機器ケース3内の光学ユニット(凸レンズ3
2R,32L,反射マジックミラー35等)から構成さ
れ、2つの画像が合成される点に固定することで、左右
のファインダ10R,10Lから覗き見た画像は自然な
状態で合成されて表示される。
によって画像表示を行うためにLCD22R,22Lを
駆動するディスプレイ駆動部であり、具体的には、CP
U41の処理に基づいて生成される画像データをLCD
22R,22Lの画素数に対応する所定ビットのアナロ
グ映像信号(アナログRGB信号)に変換し、このアナ
ログ映像信号をLCD22R,22Lに出力するもので
ある。
内で処理された各種データを電波に変換して送信するも
のである。これは、本実施例のデータ処理装置1はディ
スプレイ部だけで構成されており、データ処理装置1単
体では処理データの出力ができないため、例えば、プリ
ントアウトを行う場合は、プリントアウトしたい所望の
データを無線伝送制御部49によって周波数変調または
振幅変調等により変調し、このデータを電波として外部
のプリンタ101に出力したり、また同様に、重要なデ
ータを保管する場合は、保管したい所望のデータを電波
に変換して外部記憶装置102に出力したりするもので
ある。この場合、本実施例と同一のデータ処理装置1と
の間でデータの送受も可能となり、さらに、1つのホス
トステーションからの送信電波を、本実施例と同一構成
の複数のデータ処理装置1で受信することで、共通の画
像を見ることもでき、例えば、会議等にも利用すること
ができる。
時におけるオペレータの認識処理のフローチャートであ
る。
よるオペレータ認識処理について説明する。なお、図8
に示すCPU41の処理動作に対応するプログラムは、
ROM42に格納されている。
がオペレータに装着され、電源オン・オフスイッチ6が
オンされると、HMDの表示部48にはメニュー画面が
表示され(ステップS1)、この状態で、メニュー切換
ダウン指示キー8またはメニュー切換アップ指示キー9
の押下状態がチェックされ(ステップS2)、メニュー
切換ダウン指示キー8またはメニュー切換アップ指示キ
ー9が押された場合、切換指示に基づいてメニュー内容
が切り換えられる(ステップS3)。
メニュー切換ダウン指示キー8またはメニュー切換アッ
プ指示キー9が押されていない場合、続いて指定キー7
の押下状態がチェックされ(ステップS4)、指定キー
が押されていない場合、上記ステップS2からの処理が
繰り返される。
が押下された場合、装着検出センサ13によりHMDが
装着されているか否かがチェックされ(ステップS
5)、装着されていない場合、後述するステップS12
のエラー処理に進む。
着が確認されると、CCD36R,36Lが反転され、
ファインダ10R,10L方向に向きが変えられる(ス
テップS6)。
オペレータの目ER,ELの画像が撮像されるとともに
(ステップS7)、目の画像が解析され、左右の目の画
像データが生成される(ステップS8)。
ちゃんと生成されたか否かがチェックされ(ステップS
9)、生成されていなかった場合、後述するステップS
12のエラー処理に進み、生成された場合、生成された
目の画像データとデータメモリ43中のオペレータ別の
目のデータとがCPU41によって比較され、登録され
たオペレータの目ER,ELのデータ(例えば、前述の
黒目部分と白目部分と色素比率等)と一致するか否かが
チェックされる(ステップS10)。
れた目のデータとHMDを装着するオペレータの目E
R,ELのデータとが一致する場合、CPU41は正規
のオペレータによる使用と判断し、指定メニューに応じ
て各機能処理が行われる初期メニュー画面に切り換えら
れ(ステップS11)、一方、ステップS10のチェッ
クの結果、登録された目のデータとHMDを装着するオ
ペレータの目ER,ELのデータとが不一致の場合、C
PU41は現在HMDを装着しているオペレータは、登
録者以外のオペレータによる不正使用と判断し、所定の
エラー処理が実行される(ステップS12)。
理が終了すると、CCD36R,36Lが反転されてC
CD36R,36Lは再びHMDの前方方向に向きが変
えられ(ステップS13)、オペレータの認識処理が終
了する。
理により、オペレータの認識処理において、正規のオペ
レータによる使用であると判断されると、図9(a)に
示すような初期メニュー画面が表示される。ちなみに、
図9(a)に示す例では、選択項目して“データ入力・
編集”、“データ認識入力”、“録画”、“再生”の項
目が表示されており、“データ入力・編集”の項目に枠
カーソルがある状態を示している。この状態において、
メニュー切換ダウン指示キー8を押すと枠カーソルは図
中下方向に移動し、また、メニュー切換アップ指示キー
9を押すと枠カーソルは図中上方向に移動して目的の項
目を反転表示する。
タ入力・編集”の項目に枠カーソルがある状態で指定キ
ー7が押されると、“データ入力・編集”の機能が選択
され、図9(b)に示すようなデータメニュー画面が表
示される。なお、図9(b)中、Aは、表示すべきデー
タのレイアウトを示したり、指定するためのレイアウト
ウィンドウ、Bは、図9(a)の初期メニュー画面で選
択された項目を表示する動作項目表示ウィンドウであ
り、これによって現在の動作内容が確認できる。Cは、
編集する文書または表データのファイル名を示したり、
編集する文書または表データのファイル名を指定するた
めのファイル名ウィンドウであり、Dは、仮想キーボー
ドを指定するためのキーボード指定ウィンドウである。
ートに基づいてデータ入力・編集処理を説明する。な
お、図10は、データ入力・編集処理を示すフローチャ
ートである。
いて、データ入力・編集処理時には、仮想キーボードの
データがデータメモリ43から読み出されて次の処理に
は進めない。このため、まず、仮想キーボードが指定に
より表示されているか否かがチェックされ(ステップS
21)、仮想キーボードが表示されている場合は次ステ
ップに進み、一方、仮想キーボード表示されていない場
合は、後述するキーボード指定処理が実行され(ステッ
プS22)、仮想キーボードが表示される。
という特別なキーが用意されており、「読出キー」が選
択されたか否かがチェックされる(ステップS23)。
ー」が選択された場合、記憶ファイル名の一覧がウィン
ドウ表示され(ステップS24)、この状態で仮想キー
ボード上の「カーソルキー」が操作されると(ステップ
S25)、カーソル位置が変更され、変更されたカーソ
ル位置にあるファイル名に表示内容が更新される(ステ
ップS26)。
ェックされ(ステップS27)、入力指定がある場合、
指定位置と対応するファイルデータの読み出しが行われ
(ステップS28)、先の表示を消してレイアウトウィ
ンドウが再表示される(ステップS29)。
がチェックされ(ステップS30)、入力指定がある場
合、ファイルデータの配置処理が行われ(ステップS3
1)、配置されたファイルデータが表示されるととも
に、ファイル名ウィンドウが消去され(ステップS3
2)、データ入力・編集処理が終了する。
ップS30の処理において、ウィンドウの入力指定がな
かった場合、仮想キーボード上の「クリアキー」の押下
の有無がチェックされ(ステップS33)、「クリアキ
ー」が押されていれなければ、上記ステップS24から
の処理が繰り返し実行され、「クリアキー」が押されて
いれば、データ入力・編集処理を終了する。
て、「読出キー」が選択されなかった場合、「読出キ
ー」と同様に仮想キーボード上に用意された「書込キ
ー」が選択されたか否かがチェックされる(ステップS
34)。
ー」が選択されなかった場合は、別処理へと進み、「書
込キー」が選択された場合、記憶ファイル名の一覧がウ
ィンドウ表示されるとともに(ステップS35)、入力
指定の有無がチェックされる(ステップS36)。
が指定されたか否かがチェックされ(ステップS3
7)、表示データの指定が確認されると、指定された表
示データの内容を対応するファイルに書き込み(ステッ
プS38)、データ入力・編集処理が終了する。
定がない場合、新規にファイルファイルを作成するか否
かが問われ(ステップS39)、新規作成ファイルの入
力であれば、新規にファイルが作成され(ステップS4
0)、上記ステップS37からの処理が実行される。
合、ファイル名の更新と判断し、「カーソルキー」が操
作されると(ステップS41)、カーソル位置が変更さ
れ、変更されたカーソル位置にあるファイル名に表示内
容が更新されるとともに(ステップS42)、上記ステ
ップS35からの処理が実行される。
ルキー」の操作がない場合は、仮想キーボード上の「ク
リアキー」の押下の有無がチェックされ(ステップS4
3)、「クリアキー」が押されていなければ、上記ステ
ップS35からの処理が繰り返し実行され、「クリアキ
ー」が押されていれば、データ入力・編集処理を終了す
る。
定処理を示すフローチャートである。
指定処理では、まず始めに後述する入力指定処理が実行
され(ステップS51)、入力指定処理において、キー
ボードウィンドウが指定されたか否かがチェックされる
(ステップS52)。
ド指定ウィンドウが指定されない場合、仮想キーボード
上の「クリアキー」の指定の有無がチェックされ(ステ
ップS53)、「クリアキー」が指定されていた場合は
記憶されたキーボードデータをクリアし、初期状態とし
た後に(ステップS54)、上記ステップS51からの
処理が繰り返し実行される。ここで、「クリアキー」が
指定されていなかった場合は、図9(b)に示すデータ
メニュー画面が指定されたか否かがチェックされ(ステ
ップS55)、データメニュー画面の指定が行われた場
合、キーボード指定処理が終了する。
て、データメニュー画面の指定が行われなかった場合、
固定フラグをオンであるか否かがチェックされる(ステ
ップS56)。ここで、固定フラグがオンである場合
は、HMDの移動に伴う視野の変化に関りなく、仮想キ
ーボードを表示部48の中央位置に固定して表示するも
のであり、固定フラグがオフである場合は、実キーボー
ドと同様に、所定の位置に仮想キーボードが配置され、
HMDの移動によりキーボードが視野に入ったり入らな
かったりする表示モードとなる。
仮想キーボードが固定表示されるモードであると判断さ
れて上記ステップS51からの処理が繰り返し実行さ
れ、また、固定フラグがオフである場合、角度センサ4
4により現在のHMDの角度が検出されるとともに、方
位センサ45により現在のHMDの方向が検出され、そ
れぞれの値(角度及び方位)が表示部48に表示される
(ステップS57)。そして、HMDの移動によりキー
ボードを表示すべきエリアに入った場合(ステップS5
8)、キーボードエリア分の仮想キーボードが表示部4
8に表示され(ステップS59)、キーボードエリアに
入っていない場合には、上記上記ステップS51からの
処理が繰り返し実行される。
て、キーボード指定ウィンドウが指定された場合、レイ
アウトウィンドウの指定の有無がチェックされる(ステ
ップS60)。
ウィンドウによる指定に先立って指定されるものであ
り、レイアウトウィンドウが指定されていない場合、H
MD位置がどこに向いていようとも仮想キーボードを正
面中央位置に表示するために、現在のHMDの角度及び
方位に対応する記憶位置にキーボードデータが記憶され
(ステップS62)、仮想キーボードの表示が固定的に
実行されるモードとなる(ステップS63)。このと
き、固定フラグがオンとなり(ステップS63)、仮想
キーボードのレイアウト位置が表示されるとともに(ス
テップS64)、上記ステップS51からの処理が繰り
返し実行される。
いる場合、レイアウト位置に対応するデータメモリ43
にキーボードデータが記憶され(ステップS65)、H
MDがその位置に向いた場合にのみ仮想キーボードが表
示されるモードとなり、上記ステップS64の処理に進
む。
を示すフローチャートである。
まず、以前のキーボート指定ウィンドウの内容がクリア
(初期化)され(ステップS71)、次いで、CCD3
6R,36LによりHMD前方の画像が撮像されて取り
込まれる(ステップS72)。
ペレータの“手”のイメージデータが存在するか否かが
チェックされ(ステップS73)、“手”のイメージデ
ータが存在しない場合は入力指定処理を終了する。
場合、キー表示位置に対するオペレータの“手”の位置
が求められ(ステップS74)、“手”のイメージ位置
に赤外線センサ46による熱反応があるか否かがチェッ
クされ(ステップS75)、熱反応が検出されない場合
は、誤認識と判断して入力指定処理を終了する。
指定キー7の押下により指定しているが、この状態にお
いては、仮想キーボードからの入力状態となっているた
め、入力指定は指定表示位置にあるか否かがチェックさ
れ(ステップS76)、指定表示位置外である場合、入
力指定処理を終了する。
キーボードと“手”のイメージデータとが重なってお
り、CPU41により指定表示位置における入力指定で
ある判断されると、仮想キーボード上の“手”のイメー
ジデータと重なっているキーの輝度が変更(例えば、輝
度のアップ)され(ステップS77)、“手”のイメー
ジデータがどのキーに触れているかがわかるようになっ
ている。この場合、透過して映し出されている“手”と
仮想キーボードとの表示状態は図13に示すようになっ
ている。
離以上にあるか否か、例えば、HMDよりも60cm以
上離れたところにあるか否かが2つのCCD36R,3
6Lによって検出され(ステップS78)、“手”の先
端位置が一定距離に達していない場合、入力指定処理を
終了する。
“手”の先端位置が一定距離に達していると判断される
場合、仮想キーボードに対してキー入力が可能な状態と
なり、仮想キーボート上のキーを一定以上押し込むと、
対応するキーが一定時間ブリンクするようになってい
る。
力指定処理を呼び出す処理中において入力指定処理での
各種処理データを利用するために、“手”の位置に相当
するキーまたはウィンドウ内容等がデータメモリ43に
記憶される(ステップS79)。
の表示例を示す図である。
よって検出されるHMDの方位を示す表示、Fは、角度
センサ44によって検出されるHMDの角度を示す表
示、Gは、所定の領域に指定された文書や表データ等が
どのように配置されているかを示すレイアウトウィンド
ウ、Hは、透過して映し出された“手”、Iは、仮想キ
ーボード、Jは、ファイル名ウィンドウ、Kは、現在オ
ープンされている文書データ、Lは、HMDが透過状態
にあるため見える周囲の状態であり、本例では、電気ス
タンドが見えている状態を示している。
(HMD)では、ハーフミラーとなる反射マジックミラ
ー35によって透過してきた周囲の状態も重複して表示
部48に映し出される。
理を示すフローチャートである。
及び方位センサ45によってHMDの角度及び方位が検
出され(ステップP1)、現在のHMDの位置に対応す
るデータメモリ43中の表示データの対応エリアが検索
されてポインタが移動される(ステップP2)。
タがあるか否かがチェックされ(ステップP3)、対応
エリア中に表示データがある場合は、次処理に移り、対
応エリア中に表示データがない場合は、表示処理を終了
する。
の表示モードを示す固定フラグがチェックされる(ステ
ップP3)。
在の表示モードはキーボード固定表示であると判断さ
れ、仮想キーボードが表示部48の中央位置に表示され
る(ステップP5)。
ータが仮想キーボードの表示に重なるか否かがチェック
され(ステップP6)、重なる場合は、仮想キーボード
を表示する分の表示エリアだけ対応エリア中の表示デー
タを移動して表示する。
ように、対応エリアを示す表示エリアポインタ左位置と
表示エリアポインタ右位置との間にR0,R1,R2と
いう表示データがある場合、図15(b)に示すよう
に、仮想キーボードを表示する分だけ表示データを、図
15中上方向に移動させて仮想キーボードを固定表示す
る(ステップP7)。
定フラグがオフであった場合、また、上記ステップP6
の処理において表示エリア中に仮想キーボードと重なる
表示データがなかった場合は、対応エリアのデータをそ
のまま表示する(ステップP8)。この場合、ステップ
P4の処理において固定フラグがオンとなって、かつ、
仮想キーボードと重ならない場合には仮想キーボートと
対応エリアのデータとを合成して表示する必要がある。
MDの位置に基づいて順次表示される表示データは、図
16に示すように、その表示されているデータを仮想的
なキーボードの入力と同様に、“手”のイメージデータ
によって指定することによって(本実施例の場合、
“手”の先端で押すという動作により指定)他の表示位
置に移動することができる。
理を説明する。
ーチャートである。
否かがチェックされ(ステップQ1)、データ表示位置
にない場合は別処理に進む。一方、データ処理位置にあ
る場合は、表示位置に対する“手”の位置が求められ、
求められた位置が基準位置として記憶される(ステップ
Q2)。
離(この場合、60cm)以上にあるか否かが2つのC
CD36R,36Lによって検出され(ステップQ
3)、“手”の先端位置が一定距離に達していない場
合、表示データ処理を終了する。
の先端位置が一定距離に達していると判断される場合、
HMDの位置が移動しているか否かがチェックされ(ス
テップQ4)、移動していなければ、上記ステップQ3
の処理に戻り、移動していれば、移動速度が求められ、
求められた移動速度が一定以上の速度であるか否かがチ
ェックされる(ステップQ5)。そして、移動速度が一
定値以上である場合、オペレータに装着されたHMDは
移動中であると判断されて上記ステップQ4の処理に戻
り、再度HMDの位置移動がチェックされる。
値よりも遅くなった場合、移動位置が基準位置として設
定され、表示データの移動が行われ(ステップQ6)、
後述する表示データの配置処理が行われるとともに(ス
テップQ7)、レイアウト表示が変更されて(ステップ
Q8)、表示データ移動処理が終了する。
移動前に指定された表示データを退避させ、HMDの移
動後に退避した位置を基準として、表示データを移動さ
せて再配置する処理が行われる。
を図17に基づいて説明する。
である。
にすでに表示データが存在し、表示データ同士が重なる
場合(ステップQ11)、移動すべき表示データと重な
らない位置に重なる表示データが再配置される(ステッ
プQ12)。
移動先についても上記ステップQ11の処理と同様に、
移動する表示データが重ならないかどうかがチェックさ
れ(ステップQ13)、重ならない場合は、上記ステッ
プQ11の処理に戻り、重なる場合は、重なる表示デー
タを重ならない位置に再配置し(ステップQ14)、重
なりがなくなるまで上記ステップQ13,Q14の処理
が繰り返し実行される。
は、重なっている比率の高いデータから再配置が行われ
る。
いっぱいに表示されているときに表示データを移動する
場合、永久に重なり状態が解消されないために上記ステ
ップQ13〜Q14の間の処理が繰り返されることによ
る無限ループが発生する。このため無限ループの発生を
防止するために、何らかの理由によって重なり状態が一
定時間以上解消されない場合は、エラー報知し、元の状
態に復帰するようにしている。
すフローチャートである。
キー7が選択されているか否かがチェックされ(ステッ
プQ21)、選択されていなければ別処理に進み、選択
されていれば、HMDの位置が移動しているか否かがチ
ェックされ(ステップQ22)、移動していなければ、
上記ステップQ21の処理に戻り、移動していれば、移
動速度が求められ、求められた移動速度が一定以上の速
度であるか否かがチェックされる(ステップQ23)。
そして、移動速度が一定値以上である場合、オペレータ
に装着されたHMDは移動中であると判断されて上記ス
テップQ21の処理に戻り、再度HMDの位置移動がチ
ェックされる。
定値よりも遅くなった場合、移動位置が基準位置として
設定され、仮想キーボードの移動が行われ(ステップQ
24)、仮想キーボードの移動に伴い、移動先にすでに
表示データが存在し、仮想キーボードと表示データとが
重なる場合(ステップQ25)、仮想キーボードと重な
らない位置に仮想キーボードと重なる表示データが再配
置される(ステップQ26)。
動先についても上記ステップQ25の処理と同様に、移
動する表示データが重ならないかどうかがチェックされ
(ステップQ27)、重ならない場合は、上記ステップ
Q25の処理に戻り、重なる場合は、重なる表示データ
を重ならない位置に再配置し(ステップQ28)、重な
りがなくなるまで上記ステップQ27,Q28の処理が
繰り返し実行される。そして、上記ステップQ25の処
理において、移動先の表示データと重ならない状態とな
った時点で、レイアウト表示が変更されて(ステップQ
29)、仮想キーボードの移動処理が終了する。
の表示データと同様に移動させることができるが、この
場合、仮想キーボードの配置位置が優先される以外は、
表示データの移動とほぼ同様の処理となる。
検出手段によって検出される筐体の基準点位置に対する
相対位置を検出し、検出した位置情報に基づいて画像デ
ータ読出手段によって読み出された画像データをディス
プレイ手段に表示するとともに、表示指示手段によって
指示された画像データを表示制御手段によってディスプ
レイ表示手段の所定位置に表示することができる。
Dの向きを変えた時に、表示が切り換えられる画像デー
タと、表示が固定される画像データとを設定できる。
の表示位置を固定、または、非固定に表示することが、
表示データ毎に任意に設定することができる。
ータまたは仮想キーボードが重なった場合、元の位置に
ある表示データを所定の距離(オフセット)をとって再
描画することにより移動させているが、これに限らず、
移動すべき表示データをずらすことにより移動させても
良く、また、この場合、移動すべき表示データと重なっ
た他の表示データとの双方をずらして移動させるもので
あってもよい。
例えば、黒目部分と白目部分との色素分布の比率や、目
の周辺部の形状(眉毛の形状、まぶたの形状、目全体の
形状等)、あるいは、血管の場所が特定でき、充血しに
くい場合には、目の血管模様等が考えられたが、これだ
けに限らず、さらに、シャッタ用LCD34を遮光状態
とし、機器ケース3内を暗くした後、一定照度の光(例
えば、蛍光ランプ等)を照射することにより、オペレー
タの瞳孔内の瞳孔括約筋、瞳孔散大筋、レンズ体のそれ
ぞれの割合を検出することによってオペレータの認識を
行うものであっても構わない。
ィスプレイ手段内において移動表示する場合において
も、キー入力処理を実行するため表示された仮想キーボ
ード画像をディスプレイ手段内において固定表示するた
め、何時でも直ぐにキー入力処理が行えるもので、しか
も、ディスプレイ手段の前方より透過表示される実際の
オペレータの手の先端位置がディスプレイ手段内で固定
表示される前記仮想キーボード画像内の何れかの仮想キ
ーの表示位置にあればキー入力処理を実行するので、オ
ペレータ自身の手によって現実のキーボードを操作する
感覚で容易にキー入力処理の実行ができる。
ら見た図である。
ら見た図である。
断面図である。
断面図である。
ロック図である。
るための図である。
るための図である。
ペレータの認識処理のフローチャートである。
す図である。
である。
フローチャートである。
チャートである。
す図である。
ーチャートである。
す図である。
ある。
ートである。
Claims (1)
- 【請求項1】オペレータに装着された状態で当該オペレ
ータの眼の前方に表示像を形成して表示すると共に、そ
の前方の実画像を透過表示するディスプレイ手段と、 前記ディスプレイ手段がオペレータに装着された状態に
おいて、所定の文書データ画像を前記ディスプレイ手段
における第1表示像として表示制御すると共に、複数の
仮想キーを備えた仮想キーボード画像を前記ディスプレ
イ手段における第2表示像として表示制御する表示制御
手段と、 前記ディスプレイ手段がオペレータの頭部に装着された
状態において、そのディスプレイ手段の向きの変化を検
出する検出手段と、 前記検出された向きの変化に基づいて、前記第1表示像
として表示される前記文書データ画像を前記ディスプレ
イ手段内において移動表示し、前記第2表示像として表
示される前記仮想キーボード画像を前記ディスプレイ手
段内において固定表示する表示制御手段と、 前記ディスプレイ手段の前方より透過表示されるオペレ
ータの手の先端位置が、前記ディスプレイ手段内で固定
表示される前記仮想キーボード画像内の何れかの仮想キ
ーの表示位置にあれば、その仮想キーに対するキー入力
処理を実行するキー入力処理手段と、 を具備したことを特徴とする表示処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP12828393A JP3214157B2 (ja) | 1993-04-30 | 1993-04-30 | 表示処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP12828393A JP3214157B2 (ja) | 1993-04-30 | 1993-04-30 | 表示処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH06314331A JPH06314331A (ja) | 1994-11-08 |
JP3214157B2 true JP3214157B2 (ja) | 2001-10-02 |
Family
ID=14980998
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP12828393A Expired - Fee Related JP3214157B2 (ja) | 1993-04-30 | 1993-04-30 | 表示処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3214157B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8306917B2 (en) | 1999-12-28 | 2012-11-06 | Sony Corporation | Image commercial transactions system and method |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9081416B2 (en) | 2011-03-24 | 2015-07-14 | Seiko Epson Corporation | Device, head mounted display, control method of device and control method of head mounted display |
-
1993
- 1993-04-30 JP JP12828393A patent/JP3214157B2/ja not_active Expired - Fee Related
Non-Patent Citations (1)
Title |
---|
日経コンピュータ1992.6.1(no.283),p55−65,日経BP社 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8306917B2 (en) | 1999-12-28 | 2012-11-06 | Sony Corporation | Image commercial transactions system and method |
Also Published As
Publication number | Publication date |
---|---|
JPH06314331A (ja) | 1994-11-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JPH0778055A (ja) | データ処理装置 | |
US6124843A (en) | Head mounting type image display system | |
US5781165A (en) | Image display apparatus of head mounted type | |
US5977935A (en) | Head-mounted image display device and data processing apparatus including the same | |
US5625372A (en) | Compact compound magnified virtual image electronic display | |
CN101651782B (zh) | 信息处理装置 | |
US6597346B1 (en) | Hand held computer with see-through display | |
JPH11265248A (ja) | 眼鏡型画像表示装置 | |
KR102649783B1 (ko) | 도파관을 사용한 조향 가능한 하이브리드 디스플레이 | |
US9052583B2 (en) | Portable electronic device with multiple projecting functions | |
JPH0980372A (ja) | 投写型表示装置 | |
JP2003279882A (ja) | ヘッドマウントディスプレイ装置 | |
JPH10133840A (ja) | 情報処理用システム装置 | |
JPH07298165A (ja) | 頭部装着式映像表示装置 | |
JPH05328260A (ja) | 頭部装着式ディスプレイ装置 | |
JP3214157B2 (ja) | 表示処理装置 | |
JP3446044B2 (ja) | 入力処理装置 | |
JPH0778054A (ja) | データ処理装置 | |
JPH06314259A (ja) | データ処理装置 | |
JP3214158B2 (ja) | キー入力処理装置 | |
JPH10124178A (ja) | 電子メール端末、電子メール端末の処理方法、媒体 | |
KR102563076B1 (ko) | 증강현실과 가상현실을 선택적으로 사용할 수 있는 하이브리드 영상출력 장치 | |
JPH0713690A (ja) | データ処理装置 | |
JPH06314330A (ja) | データ処理装置 | |
JP2000138856A (ja) | 画像入力装置、プレゼンテーションシステム及び情報記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20070727 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080727 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080727 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090727 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090727 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100727 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110727 Year of fee payment: 10 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110727 Year of fee payment: 10 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120727 Year of fee payment: 11 |
|
LAPS | Cancellation because of no payment of annual fees |