JP2000029621A - Computer system - Google Patents

Computer system

Info

Publication number
JP2000029621A
JP2000029621A JP19558898A JP19558898A JP2000029621A JP 2000029621 A JP2000029621 A JP 2000029621A JP 19558898 A JP19558898 A JP 19558898A JP 19558898 A JP19558898 A JP 19558898A JP 2000029621 A JP2000029621 A JP 2000029621A
Authority
JP
Japan
Prior art keywords
light emitting
computer
virtual
display
key
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP19558898A
Other languages
Japanese (ja)
Inventor
Shigeru Tajima
茂 田島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP19558898A priority Critical patent/JP2000029621A/en
Publication of JP2000029621A publication Critical patent/JP2000029621A/en
Pending legal-status Critical Current

Links

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a virtual keyboard and a virtual mouse with excellent handleability in an actual use state with respect to a wearable computer or the like. SOLUTION: A video camera 11 and a head-mounted display 12 are integrated and connected to a computer main body 20. Plural LEDs 41a-41j mounted to the fingers of a user are connected to a computer and driven by appropriate code signals, the images of the LEDs flickering in mutually different patterns are picked up by the video camera and the spatial positions of the respective LEDs are fetched to the computer. The key of the virtual keyboard 100 and the button of the virtual mouse 200 displayed on the screen 12s of a display are accessed by a luminescent point BP corresponding to the spatial positions of the respective LEDs and a desired input operation is performed.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】この発明は、例えば、使用者
が装着して使用するいわゆるウェアラブルコンピュータ
に好適な、コンピュータ装置に関し、特に、情報入力手
段に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a computer device suitable for, for example, a so-called wearable computer worn by a user, and more particularly to information input means.

【0002】[0002]

【従来の技術】従来、デスクトップコンピュータや、い
わゆるノート型コンピュータでは、グラフィカル・ユー
ザ・インターフェイス(GUI)が広く使用されてお
り、このGUIに対応する情報入力手段として、直感性
および視認性にすぐれたマウスが広く使用されている。
2. Description of the Related Art Conventionally, a graphical user interface (GUI) has been widely used in a desktop computer and a so-called notebook computer, and the information input means corresponding to the GUI has excellent intuitiveness and visibility. Mice are widely used.

【0003】一方、例えば、航空機の整備などで、主と
して、所要の情報を読み出すために、いわゆる、ウェア
ラブルコンピュータが使用されることがある。
On the other hand, a so-called wearable computer is sometimes used mainly for reading out required information in, for example, maintenance of an aircraft.

【0004】このウェアラブルコンピュータは、使用者
の頭部に装着される、ヘッドマウント・ディスプレイ
(Head−Mounted Display,以下、
ときにHMDと略称する)と、小型で携帯が可能なコン
ピュータ本体とを有する。
[0004] This wearable computer is a head-mounted display (hereinafter, referred to as "head-mounted display") mounted on a user's head.
(Sometimes abbreviated as HMD) and a small and portable computer body.

【0005】上述のような、ウェアラブルコンピュータ
に対する、コマンドないしは制御操作の入力は、音声に
よるもの、片手キーボードや空間マウスによるもの、あ
るいは、コンピュータ本体に組み込まれた小型のポイン
ティング装置によるものなどがある。
The input of commands or control operations to the wearable computer as described above may be by voice, by a one-handed keyboard or a space mouse, or by a small pointing device incorporated in the computer body.

【0006】[0006]

【発明が解決しようとする課題】ところが、前述のよう
なウェアラブルコンピュータでは、音声による入力の場
合、使用者の音声をコンピュータプログラムが理解し、
それにより必要な制御を実行するという形態であるた
め、制御に要する時間が長くなると共に、その正確さに
おいてまだ十分ではないという問題があった。
However, in the wearable computer as described above, in the case of input by voice, the computer program understands the voice of the user, and
As a result, the required control is executed, so that the time required for the control is prolonged, and there has been a problem that its accuracy is not yet sufficient.

【0007】また、片手キーボードや空間マウスなどを
用いる場合は、コンピュータ本体、HMDおよび情報入
力機構部という3つの部分からの構成となり、いずれ
も、実使用状態での使い勝手が必ずしも良好とはいえな
いという問題があった。コンピュータ本体に組み込まれ
た小型のポインティング装置による場合も、同様の問題
があった。
When a one-handed keyboard, a space mouse, or the like is used, the configuration is made up of three parts: a computer main body, an HMD, and an information input mechanism, and all of them are not necessarily easy to use in actual use. There was a problem. A similar problem arises with a small pointing device built into the computer body.

【0008】そして、文字入力が必要な場合、ウェアラ
ブルコンピュータやモバイルコンピュータなどの小型コ
ンピュータでは、使用者の指の大きさと物理的に整合が
とれるような、使い勝手の良い入力機構部の実現が困難
であった。同様に、ポインティング装置も、使い勝手の
良いものの実現が困難であった。
[0008] When character input is required, it is difficult for a small computer such as a wearable computer or a mobile computer to realize an easy-to-use input mechanism that can physically match the size of the user's finger. there were. Similarly, the pointing device is also easy to use but difficult to realize.

【0009】かかる点に鑑み、この発明の目的は、現実
のキーボードやマウスに代わる、使い勝手のよい仮想情
報入力手段を有する、コンピュータ装置を提供するとこ
ろにある。
In view of the above, an object of the present invention is to provide a computer device having easy-to-use virtual information input means that replaces a real keyboard or mouse.

【0010】[0010]

【課題を解決するための手段】前記課題を解決するた
め、請求項1の発明によるコンピュータ装置は、使用者
の操作入力に応じて空間を移動する発光体と、上記発光
体の上記空間上の位置を検出するために、上記発光体を
撮像する撮像素子と、上記撮像素子を装着したヘッドマ
ウント型のディスプレイと、上記撮像素子からの映像信
号に基づいて、上記発光体の位置情報をコンピュータ本
体に入力する位置情報入力手段と、キーボード型の第1
の仮想入力部とマウス型の第2の仮想入力部とを生成し
て上記ディスプレイに表示する仮想入力部生成表示手段
と、上記ディスプレイの画面上の、上記発光体の位置情
報に対応した位置に、特定のマークを表示するマーク生
成表示手段とを備え、上記マークの上記第1仮想入力部
または第2の仮想入力部における位置により、上記第1
仮想入力部または第2の仮想入力部への入力を指定する
ようにしたものである。
According to a first aspect of the present invention, there is provided a computer apparatus which moves in a space in response to a user's operation input, and a light-emitting body on the space in which the light-emitting body is located. An image sensor for imaging the illuminant to detect the position, a head-mounted display equipped with the image sensor, and position information of the illuminant based on a video signal from the image sensor. Information input means for inputting to the
Virtual input unit generating and displaying means for generating a virtual input unit and a second virtual input unit of a mouse type and displaying the virtual input unit on the display, and at a position on the screen of the display corresponding to the position information of the light emitter. Mark generating and displaying means for displaying a specific mark, wherein the first position is determined by the position of the mark in the first virtual input section or the second virtual input section.
The input to the virtual input section or the second virtual input section is designated.

【0011】かかる構成の請求項1の発明によるコンピ
ュータ装置においては、発光体の位置情報に対応した位
置に表示されるマークによって、現実のキーボードと同
様に使い勝手がよい仮想キーボード入力部と仮想マウス
入力部に対する入力操作が実現されて、ウェアラブルコ
ンピュータなどの使用範囲が格段に広がる。
In the computer apparatus according to the first aspect of the present invention, the virtual keyboard input unit and the virtual mouse input unit which are as easy to use as a real keyboard are provided by the mark displayed at the position corresponding to the position information of the light emitter. The input operation to the unit is realized, and the use range of the wearable computer or the like is greatly expanded.

【0012】また、請求項2の発明によるコンピュータ
装置は、請求項1に記載のコンピュータ装置において、
上記発光体が複数の発光ダイオードであって、各発光ダ
イオードが互いに異なるパターンで点滅することを特徴
とするものである。
A computer device according to a second aspect of the present invention is the computer device according to the first aspect,
The light-emitting body is a plurality of light-emitting diodes, and each light-emitting diode blinks in a different pattern from each other.

【0013】かかる構成の請求項2の発明によるコンピ
ュータ装置においては、複数の発光ダイオードの識別が
確実になって、現実のキーボードやマウスと同等の仮想
キーボード入力部と仮想マウス入力部とが容易に実現さ
れる。
In the computer device according to the second aspect of the present invention, a plurality of light emitting diodes can be identified with certainty, and a virtual keyboard input unit and a virtual mouse input unit equivalent to a real keyboard or mouse can be easily formed. Is achieved.

【0014】また、請求項3の発明によるコンピュータ
装置は、上記複数の発光ダイオードを使用者の手指に装
着可能としたことを特徴とするものである。
According to a third aspect of the present invention, there is provided a computer device wherein the plurality of light emitting diodes can be mounted on a user's finger.

【0015】かかる構成の請求項3の発明によるコンピ
ュータ装置においては、使用者が手指を動かすことによ
り、その手指に装着された発光体を自在に変位させるこ
とができて、実使用状態での使い勝手が格段に向上す
る。
In the computer device according to the third aspect of the present invention, when the user moves his / her finger, the luminous body attached to the finger can be freely displaced, and the usability in an actual use state can be improved. Is significantly improved.

【0016】また、請求項4の発明によるコンピュータ
装置は、請求項1に記載のコンピュータ装置において、
上記電子カメラが半導体撮像素子型カメラであることを
特徴とするものである。
According to a fourth aspect of the present invention, there is provided a computer device according to the first aspect,
The electronic camera is a semiconductor imaging device type camera.

【0017】かかる構成の請求項4の発明によるコンピ
ュータ装置においては、小型軽量の半導体撮像素子型カ
メラがヘッドマウント型ディスプレイと一体に構成され
て使用者の頭部に装着可能となり、実使用状態での使い
勝手が向上する。
In the computer apparatus according to the fourth aspect of the present invention, a small and lightweight semiconductor imaging device type camera is integrally formed with a head-mounted display and can be mounted on a user's head, so that the camera can be used in actual use. Usability is improved.

【0018】また、請求項5の発明によるコンピュータ
装置は、請求項1に記載のコンピュータ装置において、
上記仮想入力部生成表示手段が上記第1の仮想入力部の
複数行のキーを1行ずつ選択表示するようにしたことを
特徴とするものである。
According to a fifth aspect of the present invention, there is provided a computer device according to the first aspect,
The virtual input section generation / display means selectively displays a plurality of rows of keys of the first virtual input section line by line.

【0019】かかる構成の請求項5の発明によるコンピ
ュータ装置においては、仮想キーボードでの入力に際し
て、所望のキーへ確実にアクセスすることができる。
In the computer device according to the fifth aspect of the present invention, a desired key can be securely accessed at the time of input using the virtual keyboard.

【0020】[0020]

【発明の実施の形態】以下、図1〜図10を参照しなが
ら、この発明によるコンピュータ装置をウェアラブルコ
ンピュータに適用した実施の形態について説明する。
DESCRIPTION OF THE PREFERRED EMBODIMENTS An embodiment in which a computer device according to the present invention is applied to a wearable computer will be described below with reference to FIGS.

【0021】[実施の形態の構成]この発明の実施の形
態の機械的構成を図1に示すと共に、その電気的構成を
図2に示す。
[Structure of Embodiment] FIG. 1 shows a mechanical structure of an embodiment of the present invention, and FIG. 2 shows an electric structure thereof.

【0022】図1において、ウェアラブルコンピュータ
は、使用者の頭部Kに装着する載頭部10と、コンピュ
ータ本体20と、入力操作のために、左右の手HL,H
Rの指先などに装着する発光部40とから構成される。
In FIG. 1, a wearable computer includes a head mounted on a user's head K, a computer main body 20, and left and right hands HL and H for input operations.
And a light emitting unit 40 mounted on the fingertip of R.

【0023】載頭部10は、CCD撮像素子を用いたビ
デオカメラ11と、液晶表示素子を用いたヘッドマウン
ト・ディスプレイ(HMD)12とが一体に構成され
て、ケーブル13により、例えば、デスクトップ型のコ
ンピュータ本体20に接続される。このコンピュータ本
体20は、ノートブック型や、ノートブック型から大型
液晶表示素子のモニタをのぞいたようなウェアラブルコ
ンピュータでもよい。
The mounting head 10 is formed integrally with a video camera 11 using a CCD image pickup device and a head mounted display (HMD) 12 using a liquid crystal display device. Is connected to the computer main body 20. The computer main body 20 may be a notebook type or a wearable computer in which a monitor of a large liquid crystal display element is viewed from the notebook type.

【0024】そして、発光部40は、10個の発光ダイ
オード(LED)41a,41b,‥‥,41jを含ん
で構成され、ケーブル42により、コンピュータ本体2
0に接続される。
The light emitting section 40 includes ten light emitting diodes (LEDs) 41a, 41b,..., 41j.
Connected to 0.

【0025】各発光ダイオード41a〜41jは、例え
ば、赤外光を発するものであり、それぞれ指輪状に成形
されて、両手の10本の指に装着することができる。ま
た、一体的に手袋状に形成することもできる。
Each of the light emitting diodes 41a to 41j emits, for example, infrared light, is formed into a ring shape, and can be mounted on ten fingers of both hands. Moreover, it can also be integrally formed in a glove shape.

【0026】上述のような発光部40に対応して、この
実施の形態のビデオカメラ11では、通常は装着されて
いる赤外カットフィルタが取り外される。
In the video camera 11 according to this embodiment, the infrared cut filter which is usually mounted is removed corresponding to the light emitting section 40 as described above.

【0027】そして、ビデオカメラ11により撮像され
た発光部40の映像が、コンピュータ20に供給され
て、後述のような処理が施され、コンピュータ20から
出力された映像がHMD12に表示される。
Then, the image of the light-emitting unit 40 captured by the video camera 11 is supplied to the computer 20 and subjected to the processing described below, and the image output from the computer 20 is displayed on the HMD 12.

【0028】図2に示すように、コンピュータ本体20
は、CPU21、ROM22およびRAM23を備え、
それぞれがシステムバス24に接続される。ROM22
には、BIOS(Basic I/O System)
などの制御プログラムが格納され、RAM23は主に演
算のための作業領域として利用される。
As shown in FIG.
Comprises a CPU 21, a ROM 22, and a RAM 23,
Each is connected to the system bus 24. ROM22
Has a BIOS (Basic I / O System)
The RAM 23 is mainly used as a work area for calculation.

【0029】また、システムバス24には、補助記憶用
のハードディスク装置(HDD)25、フロッピーディ
スク装置26およびCD−ROM装置27が接続される
と共に、コード発生・駆動回路31と、ビデオキャプチ
ャ回路32およびグラフィック・アクセラレータ(ビデ
オカード)33が接続され、このグラフィック・アクセ
ラレータ33には、表示信号処理回路34が接続され
る。
A hard disk drive (HDD) 25 for auxiliary storage, a floppy disk drive 26 and a CD-ROM drive 27 are connected to the system bus 24, and a code generation / drive circuit 31 and a video capture circuit 32 are connected to the system bus 24. And a graphic accelerator (video card) 33, and a display signal processing circuit 34 is connected to the graphic accelerator 33.

【0030】コード発生・駆動回路31には、発光部4
0の10個の発光ダイオード41a〜41jが、ケーブ
ル42を介して接続され、例えば、図3に示すような1
0種類のコード信号が、コード発生・駆動回路31から
発光ダイオード41a〜41jに供給される。
The code generation / drive circuit 31 includes a light emitting section 4
The ten light emitting diodes 41a to 41j of 0 are connected via a cable 42, for example, as shown in FIG.
Zero kinds of code signals are supplied from the code generation / drive circuit 31 to the light emitting diodes 41a to 41j.

【0031】また、ビデオキャプチャ回路32には、発
光ダイオード41a〜41jを撮像した映像信号が、ビ
デオカメラ11から供給される。
The video capture circuit 32 is supplied with video signals of the light-emitting diodes 41 a to 41 j from the video camera 11.

【0032】そして、表示信号処理回路34にはHMD
12が接続されて、このHMD12での表示に適するよ
うに、表示信号処理回路34において、グラフィック・
アクセラレータ33から供給された信号が処理される。
このため、表示信号処理回路34には、マイクロコンピ
ュータや、LCD駆動回路など(図示は省略)が含まれ
る。
The display signal processing circuit 34 has an HMD
12 is connected, and the display signal processing circuit 34 displays a graphic image so as to be suitable for display on the HMD 12.
The signal supplied from the accelerator 33 is processed.
Therefore, the display signal processing circuit 34 includes a microcomputer, an LCD drive circuit, and the like (not shown).

【0033】上述のような各部に対し、直流電源回路2
8から所定の電力が供給される。
A DC power supply circuit 2
8 supplies a predetermined power.

【0034】なお、コード発生・駆動回路31と表示信
号処理回路34とは、コンピュータ本体20の外部装置
として構成することもできるが、簡単のため、この図2
では、コンピュータ本体20の内部装置として構成す
る。また、バス24と各構成要素との間に介在する、イ
ンターフェイスないしはポートの図示を省略する。
The code generating / driving circuit 31 and the display signal processing circuit 34 can be constituted as external devices of the computer main body 20, but for simplicity, FIG.
Then, it is configured as an internal device of the computer main body 20. Also, illustration of an interface or a port interposed between the bus 24 and each component is omitted.

【0035】上述のように、コード発生・駆動回路31
をコンピュータ本体20の外部装置として構成する場
合、リチウム電池のような小型電池や、発光ダイオード
41a〜41jと共に、例えば、一体的に手袋状に構成
することにより、接続コードを不要として、手の動きに
対する制約を無くすことができる。
As described above, the code generation / drive circuit 31
Is configured as an external device of the computer main body 20, together with a small battery such as a lithium battery and the light emitting diodes 41a to 41j, for example, by integrally forming a glove shape, the connection cord is unnecessary, and Can be eliminated.

【0036】[撮像処理]次に、図3および図4をも参
照しながら、この発明の実施の形態の撮像処理について
説明する。
[Imaging Processing] Next, the imaging processing according to the embodiment of the present invention will be described with reference to FIGS.

【0037】この実施の形態では、コード発生・駆動回
路31において、例えば、図3に示すような、共通のヘ
ッダパターン「110」と、互いに異なるアドレスパタ
ーン「0110」〜「1011」とからなる、10種類
のコード信号が生成されて、発光部40の各発光ダイオ
ード41a〜41jに供給される。
In this embodiment, the code generation / drive circuit 31 includes, for example, a common header pattern "110" and different address patterns "0110" to "1011" as shown in FIG. Ten kinds of code signals are generated and supplied to the light emitting diodes 41a to 41j of the light emitting unit 40.

【0038】例えば、図3Aに示すような、「1101
101」のコードが発光ダイオード41aに供給される
と、この発光ダイオード41aは、コードの「1」で点
灯し、コードの「0」で消灯する。
For example, as shown in FIG.
When the code “101” is supplied to the light emitting diode 41a, the light emitting diode 41a is turned on when the code is “1” and is turned off when the code is “0”.

【0039】この実施の形態では、発光ダイオード41
a〜41jの点滅パターンをビデオカメラ11で撮影す
る際に、電気的な「流し撮り」をすることにより、発光
ダイオード41a〜41jの時間的な点滅パターンが、
図4に示すような、垂直方向の空間的パターンとして撮
像される。
In this embodiment, the light emitting diode 41
When the blinking patterns of the light-emitting diodes 41a to 41j are captured by performing an electric “panning shot” when the blinking patterns of the light-emitting diodes 41a to 41j are captured by the video camera 11,
The image is captured as a vertical spatial pattern as shown in FIG.

【0040】図3Aに示すような「1101101」の
コードに対応する、発光ダイオード41aの点滅パター
ンは、図4に示すような、左端の輝点BPaから始ま
り、垂直方向に整列した5個の輝点からなる、空間的パ
ターンとして撮像される。
The blinking pattern of the light emitting diode 41a corresponding to the code "1101101" as shown in FIG. 3A starts from the leftmost bright spot BPa as shown in FIG. It is imaged as a spatial pattern consisting of points.

【0041】以下同様にして、図3Jに示すような「1
101011」のコードに対応する、発光ダイオード4
1jの点滅パターンは、図4に示すような、右端の輝点
BPjから始まり、垂直方向に整列した5個の輝点から
なる、空間的パターンとして撮像される。
Similarly, "1" as shown in FIG.
Light emitting diode 4 corresponding to the code “101011”
The blinking pattern 1j is imaged as a spatial pattern consisting of five vertically arranged bright points starting from the rightmost bright point BPj as shown in FIG.

【0042】なお、上述の点滅パターンの撮影の際に、
発光ダイオードの点滅周期を、例えば、4H(水平期
間)オン、4Hオフの点滅に設定すると共に、流し撮り
の垂直転送パルスの周期を2Hとすることにより、同期
ずれによるパターンの誤認識を回避することができる。
When shooting the above-mentioned blinking pattern,
The blinking cycle of the light emitting diode is set to, for example, 4H (horizontal period) on and 4H off blinking, and the cycle of the vertical transfer pulse for panning is set to 2H, thereby avoiding erroneous pattern recognition due to synchronization deviation. be able to.

【0043】コンピュータ本体20のコード発生・駆動
回路31から、上述のような、互いにパターンが異なる
10種類のコードが、発光部40の発光ダイオード41
a〜41jに供給されることにより、発光ダイオード4
1a〜41jの点滅パターンは互いに異なる。
From the code generation / drive circuit 31 of the computer main body 20, the ten kinds of codes having different patterns as described above are output from the light emitting diode 41 of the light emitting section 40.
a to 41j, the light emitting diode 4
The blinking patterns of 1a to 41j are different from each other.

【0044】これにより、後述の入力処理においては、
発光部40からの赤外信号をビデオカメラ11で撮影し
た画像中の、各発光ダイオード41a〜41j(に対応
する空間的パターン)を識別することができる。図3に
示したコードは、アドレスに4ビットを使用しているの
で、16個までのLEDを識別することができる。
As a result, in the input processing described later,
Each of the light emitting diodes 41a to 41j (a spatial pattern corresponding to the light emitting diodes 41a to 41j) can be identified in an image obtained by capturing the infrared signal from the light emitting unit 40 with the video camera 11. Since the code shown in FIG. 3 uses 4 bits for the address, up to 16 LEDs can be identified.

【0045】そして、各発光ダイオード41a〜41j
の空間的位置は、図4に示した、最上行の左端から右端
までの各輝点BPa,BPb,‥‥,BPjの座標によ
って識別される。
The light emitting diodes 41a to 41j
Is identified by the coordinates of each of the bright points BPa, BPb,..., BPj from the left end to the right end of the top row shown in FIG.

【0046】なお、図4では、簡単のため、各発光ダイ
オード41a〜41jに対応する輝点列を水平方向にも
整列させて示したが、前述のように、指輪状もしくは手
袋状に成形されて、両手の10本の指に装着された場
合、一般に、輝点列は水平方向に整列しない。
In FIG. 4, for the sake of simplicity, the bright spot arrays corresponding to the respective light emitting diodes 41a to 41j are also arranged in the horizontal direction, but as described above, they are formed into a ring shape or a glove shape. In general, when worn on ten fingers of both hands, the bright spot rows are not aligned in the horizontal direction.

【0047】また、上述のような点滅パターンに対応す
るコードは、シリアルポート(RS232C)を通じて
供給されるが、USBポート、パラレルポートなどを通
じて、所要のコードを供給することもできる。
The code corresponding to the above blinking pattern is supplied through a serial port (RS232C), but a required code can be supplied through a USB port, a parallel port, or the like.

【0048】上述の流し撮りによる、ビデオカメラ11
からの映像信号は、コンピュータ本体20のビデオキャ
プチャ回路32によって、ビデオフレーム周期でキャプ
チャ(capture:捕捉)される。即ち、1フレームごと
に、デジタルのデータファイルとして取り込まれて、C
PU21により信号処理されて、各発光ダイオード41
a〜41jの平面上の位置検出と個体識別とが実行さ
れ、左右の指の位置がすべて特定できる。
The video camera 11 based on the panning described above
Is captured by the video capture circuit 32 of the computer main unit 20 at a video frame period. That is, each frame is taken in as a digital data file, and C
The signal processing is performed by the PU 21 and each light emitting diode 41 is processed.
Position detection and individual identification of the planes a to 41j are performed, and the positions of the left and right fingers can all be specified.

【0049】この場合、ビデオキャプチャ回路32に
は、汎用のキャプチャカードが使用されるが、各発光ダ
イオードの空間的位置の検出と個体識別とに専用の処理
機能をビデオキャプチャ回路32に搭載して、各発光ダ
イオードの位置情報をCPU21に送信するようにすれ
ば、CPU21の負担が軽減されて、処理速度が向上す
る。
In this case, a general-purpose capture card is used as the video capture circuit 32. Processing functions dedicated to the detection of the spatial position of each light emitting diode and the individual identification are mounted on the video capture circuit 32. If the position information of each light emitting diode is transmitted to the CPU 21, the load on the CPU 21 is reduced, and the processing speed is improved.

【0050】[仮想キーボードによる入力操作]次に、
図5〜図7をも参照しながら、この発明の実施の形態の
仮想キーボードによる入力操作について説明する。
[Input Operation Using Virtual Keyboard]
The input operation using the virtual keyboard according to the embodiment of the present invention will be described with reference to FIGS.

【0051】図5に示すように、この実施の形態では、
ヘッドマウント・ディスプレイの画面12s上に、GU
Iとしての仮想キーボード100Fが表示される。
As shown in FIG. 5, in this embodiment,
GU is displayed on the screen 12s of the head mounted display.
The virtual keyboard 100F as I is displayed.

【0052】また、ディスプレイの画面12s上には、
適宜のアプリケーションの入力文字表示領域101が設
定される。
On the screen 12s of the display,
An input character display area 101 of an appropriate application is set.

【0053】この実施の形態の仮想キーボード100F
は、例えば、標準的なIBM英文型のデスクトップ・パ
ーソナル・コンピュータと同様に、例えば6行構成の機
能・文字キー群110と、同時押しキー群120と、制
御キー群130と、カーソル移動キー群140とを備え
る。
The virtual keyboard 100F of this embodiment
For example, similarly to a standard IBM English type desktop personal computer, for example, a function / character key group 110, a simultaneous press key group 120, a control key group 130, a cursor movement key group 140.

【0054】なお、画面12sの表示スペースの関係
で、テンキーは表示されないものとする。
It is assumed that the numeric keypad is not displayed due to the display space of the screen 12s.

【0055】この実施の形態では、同時押しキー群12
0は、「Tab」キー121、「CapsLock」キ
ー122、「Shift」キー123、「Ctrl」キ
ー124、「Alt」キー125のような5個のキーか
らなり、現実のキーボードとは異なって、機能・文字キ
ー群110から離れた場所に配設される。
In this embodiment, the simultaneous pressing key group 12
0 is composed of five keys such as a “Tab” key 121, a “CapsLock” key 122, a “Shift” key 123, a “Ctrl” key 124, and an “Alt” key 125. The function / character key group 110 is provided at a location away from the group.

【0056】また、「Tab」、「Capsloc
k」、「Ctrl」および「Alt」の各キーは、現在
有効か無効かを使用者に表示する機能をもったトグルキ
ーとされる。
Further, "Tab", "Capsloc"
Each of the keys "k", "Ctrl" and "Alt" is a toggle key having a function of displaying to the user whether it is currently valid or invalid.

【0057】そして、この実施の形態では、行選択キー
群150を設ける。この行選択キー群150は、6行構
成の機能・文字キー群110に対応して、6個のキー1
51〜156からなる。
In this embodiment, a row selection key group 150 is provided. The row selection key group 150 has six keys 1 corresponding to the function / character key group 110 having a six-row configuration.
It consists of 51-156.

【0058】上述の仮想キーボード100Fでは、使用
者の左右の手の指に装着された発光ダイオードに対応す
る、輝点BPL,BPRが、適宜の文字キーなどの領域
内に入る(アクセスする)ことにより、等価的に、その
文字キーなどが押し下げられることになって、キーボー
ド入力が可能となる。
In the above-described virtual keyboard 100F, the bright spots BPL and BPR corresponding to the light emitting diodes mounted on the fingers of the left and right hands of the user enter (access) areas such as appropriate character keys. Thus, equivalently, the character key or the like is depressed, and keyboard input becomes possible.

【0059】なお、この入力には、左右すべての指に対
応する10個の輝点を使用することも、1本の指に対応
する1個の輝点だけを使用することもできる。
For this input, ten bright points corresponding to all the right and left fingers can be used, or only one bright point corresponding to one finger can be used.

【0060】図5に示すように、この実施の形態では、
同時押しキー群120、制御キー群130およびカーソ
ル移動キー群140を、機能・文字キー群110から離
して配設すると共に、それぞれ2行または1列に構成す
ることにより、輝点BPL,BPRが直接にアクセスで
きるようにしている。
As shown in FIG. 5, in this embodiment,
By arranging the simultaneous pressing key group 120, the control key group 130, and the cursor moving key group 140 apart from the function / character key group 110 and configuring them in two rows or one column, the bright spots BPL and BPR are improved. Have direct access.

【0061】また、6行構成の機能・文字キー群110
に対しては、行選択キー群150を設け、6個のキー1
51〜156のいずれか、例えば、図5に網掛けで示し
た、3番目のキー153を、破線矢印で示すように、左
手の輝点BPLで選択することにより、機能・文字キー
群110のいずれかの行、例えば、第3行(Q,W,‥
‥)が、図5に網掛けで示すように、選択可能となっ
て、右手の輝点BPRで、所望のキーにアクセスして、
当該キーを活性化することができる。
A six-line function / character key group 110
, A row selection key group 150 is provided, and six keys 1
By selecting one of the keys 51 to 156, for example, the third key 153 shaded in FIG. 5 with the bright spot BPL of the left hand as shown by the dashed arrow, the function / character key group 110 is displayed. Either row, for example, the third row (Q, W, {
‥) becomes selectable as shown by hatching in FIG. 5, and by accessing a desired key with a bright spot BPR of the right hand,
The key can be activated.

【0062】この場合、活性化されたキーは、そのキー
トップの色を変えるなどして、使用者が容易に認識でき
るようにする。
In this case, the activated key can be easily recognized by the user by changing the color of the key top.

【0063】そして、図5に破線矢印で示すように、
「Shift」キー123がアクセスされて、網掛けで
示すように、このキー123が活性化された場合は、機
能・文字キー群110の第3行の文字が大文字で、また
は上段の記号が入力されて、入力文字表示領域101内
に適宜に表示される。
Then, as shown by the dashed arrow in FIG.
When the “Shift” key 123 is accessed and this key 123 is activated as shown by the shaded area, the characters on the third line of the function / character key group 110 are capitalized, or the symbol at the top is input. Then, it is appropriately displayed in the input character display area 101.

【0064】上述のような、仮想キーボード100Fで
は、直接アクセスが可能なキー配置と、多行構成の機能
・文字キー群に対する行選択とにより、この実施の形態
では、キーボード入力時に、例えば、機能・文字キー群
110の所望のキーにアクセスするに際して、他のキー
の上を横切っても、他のキーと所望のキーとを明確に区
別することができる。
In the virtual keyboard 100F as described above, the key arrangement that allows direct access and the line selection for the function / character key group having a multi-line configuration allow, for example, a function / character key input at the time of keyboard input. In accessing a desired key of the character key group 110, even if the user crosses over another key, the other key can be clearly distinguished from the desired key.

【0065】また、上述のような仮想キーボード100
Fでは、標準キーボードにおいて「Shift」キーと
「Capslock」キーとでトグル制御される、大文
字/小文字の選択に対応して、仮想キーボードの表示
を、実際に入力されるものと同じくすることができる。
なお、「;」と「十」などは、どちらか一方の対応する
記号のみを表示することも、同時表示はするが、非選択
文字を点線で表示するなどして、選択されている文字が
目立つようにすることもできる。
The virtual keyboard 100 as described above
In F, the display of the virtual keyboard can be made the same as what is actually input, corresponding to the selection of uppercase / lowercase, which is toggled by the “Shift” key and the “Capslock” key on the standard keyboard. .
In addition, “;” and “ten” may display only one of the corresponding symbols, or may simultaneously display them. You can also make it stand out.

【0066】そして、「Ctrl」キー124と「Al
t」キー125とは、独立に活性化状態を保つことが可
能であるので、更に、制御キー群130の「Delet
e」キーを活性化することにより、IBM型パーソナル
・コンピュータでのシステムリセット入力操作である、
「Ctrl」+「Alt」+「Delete」も可能と
なる。
Then, the "Ctrl" key 124 and the "Al
Since the “t” key 125 can be maintained in an activated state independently, the “Delete” key of the control key group 130 is further added.
By activating the "e" key, a system reset input operation on an IBM personal computer is performed.
“Ctrl” + “Alt” + “Delete” is also possible.

【0067】更に、仮想キーボードに表示されるフォン
トの大きさを使用者が使用し易い大きさに設定すること
ができる。
Further, the size of the font displayed on the virtual keyboard can be set to a size that is easy for the user to use.

【0068】また、仮想キーボードに表示されるフォン
トの種類を選択することができる。
The type of font displayed on the virtual keyboard can be selected.

【0069】また、仮想キーボードに表示されるフォン
トを、OS(基本ソフトウェア)が現在選択しているも
のとすることが可能である。
The font displayed on the virtual keyboard can be the one currently selected by the OS (basic software).

【0070】[他の仮想キーボードによる入力操作]図
5に示すようなキーボード100Fは、標準キーボード
の延長感覚で使用することができるものの、ディスプレ
イの画面上で、広い面積を占有するため、その分、アプ
リケーションの入力文字表示領域101が狭くなる。
[Input Operation Using Another Virtual Keyboard] The keyboard 100F as shown in FIG. 5 can be used as an extension of a standard keyboard, but occupies a large area on the screen of the display. Thus, the input character display area 101 of the application becomes narrow.

【0071】図6に示すように、仮想キーボードの各行
を順次表示することにより、アプリケーションの入力文
字表示領域を拡大することができる。
As shown in FIG. 6, by sequentially displaying each line of the virtual keyboard, the input character display area of the application can be enlarged.

【0072】即ち、図6において、ヘッドマウント・デ
ィスプレイの画面12sに、GUIとしての仮想キーボ
ード100Aが表示される。
That is, in FIG. 6, a virtual keyboard 100A as a GUI is displayed on the screen 12s of the head mounted display.

【0073】また、ディスプレイの画面12sには、適
宜のアプリケーションの入力文字表示領域101が設定
される。
An input character display area 101 for an appropriate application is set on the display screen 12s.

【0074】図6に示す仮想キーボード100Aでは、
前出図5に示した仮想キーボード100Fと同様に、同
時押しキー群120は、「Tab」キー121、「Ca
psLock」キー122、「Shift」キー12
3、「Ctrl」キー124、「Alt」キー125の
ような5個のキーからなり、画面12s上で左端部に配
設される。
In the virtual keyboard 100A shown in FIG.
Similar to the virtual keyboard 100F shown in FIG. 5, the simultaneous pressing key group 120 includes a “Tab” key 121 and a “Ca” key.
“psLock” key 122 and “Shift” key 12
3, five keys such as a "Ctrl" key 124 and an "Alt" key 125, which are arranged at the left end on the screen 12s.

【0075】また、この仮想キーボード100Aでは、
「行アップ」および「行ダウン」の2つのキー157,
158が、画面12sの左端下部に配設される。
In the virtual keyboard 100A,
Two keys 157, "row up" and "row down"
158 is provided at the lower left end of the screen 12s.

【0076】「行アップ」キー157または「行ダウ
ン」キー158は、例えば、左手の輝点BPLによって
選択され、仮想キーボード100Aの各行を順次表示す
ることができる。そして、選択表示された行の、所望の
キーに対して、右手の輝点BPRによってアクセスする
ことができる。
The "row up" key 157 or the "row down" key 158 is selected, for example, by the bright spot BPL on the left, and can sequentially display each row of the virtual keyboard 100A. Then, the desired key in the selected and displayed row can be accessed by the right hand bright spot BPR.

【0077】そして、「行アップ」または「行ダウン」
キー157,158によるアップダウンの指示とは無関
係に、同時押しキー群120は、画面12s上に常に表
示される。
Then, "row up" or "row down"
Regardless of the up / down instruction by the keys 157 and 158, the simultaneously pressed key group 120 is always displayed on the screen 12s.

【0078】図6には、前述の機能・文字キー群110
の、「Q,W,E‥‥」の文字の第3行113が表示さ
れて、選択可能となった状態を示す。この状態では、右
手の輝点BPRによって、所望の1つのキーにアクセス
して、活性化することができる。
FIG. 6 shows the function / character key group 110 described above.
The third line 113 of the character “Q, W, E $” is displayed, indicating that the character can be selected. In this state, the desired one key can be accessed and activated by the right hand bright spot BPR.

【0079】また、図6に破線矢印で示すように、「S
hift」キー123がアクセスされて、網掛けで示す
ように、このキー123が活性化された場合は、機能・
文字キー群110の第3行113の文字「Q,W,‥
‥」が大文字で、または上段の記号が入力されて、入力
文字表示領域101内に適宜に表示される。
As shown by the broken line arrow in FIG.
When the “shift” key 123 is accessed and this key 123 is activated, as indicated by shading, the function
The characters "Q, W, $" in the third line 113 of the character key group 110
“‥” is displayed in the input character display area 101 as appropriate in upper case or by inputting the upper symbol.

【0080】このキー入力時、左手および右手の輝点B
PL,BPRをアドレスにより識別して、左手の輝点B
PLが「行アップ」および「行ダウン」キー157,1
58のみを活性化させるように機能を制限することによ
り、キー入力誤りを減らすようにすることもできる。
At the time of this key input, the bright spots B of the left and right hands
PL and BPR are identified by the address, and the bright spot B on the left hand
PL is "row up" and "row down" key 157,1
By limiting the function so that only 58 is activated, key input errors can be reduced.

【0081】そして、図6に示すような、「Q,W,E
‥‥」の文字の第3行113が表示されて状態におい
て、左手の輝点BPLで「行ダウン」キー158にアク
セスして、活性化することにより、図7に示すように、
前述の機能・文字キー群110の、「A,S,D‥‥」
の文字の第4行114が切り替わって表示される。
Then, as shown in FIG. 6, “Q, W, E
In the state where the third line 113 of the character “‥‥” is displayed, by accessing the “line down” key 158 with the bright spot BPL on the left and activating it, as shown in FIG.
“A, S, D ‥‥” of the function / character key group 110 described above
Is switched and displayed.

【0082】上述のような仮想キーボード100F,1
00Aなどでの入力において、3個以上の発光ダイオー
ド、例えば、左右の指にそれぞれ5個ずつの発光ダイオ
ードを装着して使用しする場合には、複数の発光ダイオ
ードが重なりあって、区別ができなくなって、発光ダイ
オードの個体識別可能な点を最大限利用する、この発明
の目的に反する可能性がある。
The virtual keyboard 100F, 1 as described above
When inputting at 00A or the like and using three or more light emitting diodes, for example, five light emitting diodes each attached to the left and right fingers, a plurality of light emitting diodes overlap and can be distinguished. It may go against the purpose of the present invention to make full use of the individual identifiable points of the light emitting diode.

【0083】この場合、アプリケーションの起動時に、
すべての発光ダイオードが画面に入るようにして計数す
るなど、最初に発光ダイオードの使用数をソフトウェア
的に設定して、その数のキーが画面上に無くなったとき
はキー入力モードを解除し、例えば、警告の表示や、仮
想キーボード全体を消してしまうなどにより、使用者に
視覚的に認識させるようにする。
In this case, when the application is started,
First, set the number of light emitting diodes used by software, such as counting all light emitting diodes on the screen, and release the key input mode when that number of keys disappears on the screen, for example, The user is visually recognized by displaying a warning or erasing the entire virtual keyboard.

【0084】計数の際に、発光ダイオードの固有値を検
出して計測すれば、ノイズなどよる誤りを非常に小さく
することができる。
If the characteristic value of the light emitting diode is detected and measured at the time of counting, errors due to noise or the like can be extremely reduced.

【0085】また、キーの二重押しなどは排除する。例
えば、「Tab」キーなどはラッチ機能で置き換えて、
二重押しのような使用方法から変更してあることによ
る。
Further, double pressing of a key and the like are excluded. For example, replace the "Tab" key with a latch function,
Because it has been changed from usage such as double push.

【0086】そして、発光ダイオードの重なりが発生し
て、キー入力を受け付けないようにし、発光ダイオード
のアドレスを特定できなくなった時は、警告を表示す
る。しかし、現在検出されているキーの絶対数は特に管
理しない。なお、アドレスが有効な発光ダイオードが検
出されているときは、キー入力が有効とする。
Then, when an overlap of the light emitting diodes occurs, the key input is not accepted, and when the address of the light emitting diode cannot be specified, a warning is displayed. However, the absolute number of currently detected keys is not particularly managed. When a light emitting diode with a valid address is detected, key input is valid.

【0087】上述のように、この実施の形態では、通常
のデスクトップコンピュータで使用される、現実のキー
ボードと同様に使い勝手によい仮想キーボード入力手段
を実現することができて、ウェアラブルコンピュータな
どの使用範囲を格段に広げることができる。
As described above, in this embodiment, it is possible to realize virtual keyboard input means which is used in a normal desktop computer and which is as easy to use as a real keyboard, and can be used in a wearable computer or the like. Can be greatly expanded.

【0088】[仮想マウスによる入力操作]次に、図8
〜図10をも参照しながら、この発明の実施の形態の仮
想マウスによる入力操作について説明する。
[Input Operation Using Virtual Mouse] Next, FIG.
The input operation using the virtual mouse according to the embodiment of the present invention will be described with reference to FIGS.

【0089】この実施の形態では、図8に示すような仮
想マウス200が、GUIとして、ヘッドマウント・デ
ィスプレイの画面に表示される。この仮想マウス200
は、ポインタ部201と、マウス移動ボタン202と、
左押し下げロックボタン203と、左ボタン204と、
右ボタン205と、右押し下げロックボタン206とを
備える。
In this embodiment, a virtual mouse 200 as shown in FIG. 8 is displayed on the screen of the head-mounted display as a GUI. This virtual mouse 200
Is a pointer section 201, a mouse movement button 202,
A left down lock button 203, a left button 204,
A right button 205 and a right-down lock button 206 are provided.

【0090】そして、図8Aに示すように、使用者の指
に装着された発光ダイオードに対応する表示マークであ
る輝点BPが仮想マウス200の領域外にあるときは、
仮想マウス200は活性化されていない。
Then, as shown in FIG. 8A, when the bright spot BP which is a display mark corresponding to the light emitting diode mounted on the user's finger is outside the area of the virtual mouse 200,
The virtual mouse 200 has not been activated.

【0091】a.マウス全体の移動 図8Aに示すように、輝点BPが仮想マウス200の領
域外にある不活性状態から、マウス200の領域内、例
えば、図8Aに点線BPtで示した位置に、輝点BPを
移動させると、仮想マウス200が活性化されて、例え
ば、その全領域がハイライトされることにより、使用者
に示される。
A. Movement of the Whole Mouse As shown in FIG. 8A, the inactive state in which the bright spot BP is outside the area of the virtual mouse 200 is changed to the bright spot BP in the area of the mouse 200, for example, the position shown by the dotted line BPt in FIG. When the mouse is moved, the virtual mouse 200 is activated, and is displayed to the user, for example, by highlighting the entire area.

【0092】そして、マウス移動ボタン202の端まで
輝点BPを移動させて、等価的に、マウス移動ボタン2
02を押し下げると、マウス200全体を移動させるこ
とができる。なお、マウス移動ボタン202の形状は円
形(あるいは円形に近い多角形)が望ましい。
Then, the bright spot BP is moved to the end of the mouse movement button 202, and equivalently, the mouse movement button 2
By pressing down 02, the entire mouse 200 can be moved. The shape of the mouse moving button 202 is preferably circular (or a polygon close to a circle).

【0093】なお、上述のような活性化表示は、使用者
の認識のためだけに用いられ、マウスの実質動作には直
接に関係しない。
The activation display as described above is used only for the recognition of the user, and is not directly related to the substantial movement of the mouse.

【0094】b.左ボタンクリック 図8Bに示すように、輝点BPをマウス200の領域内
においたまま、左ボタン204の領域とマウス200の
領域の間を1回往復させることにより、左ボタン204
の1回クリックに対応させている。また、2回クリック
は、このクリック操作を所定時間内に2回行う。
B. Left Button Click As shown in FIG. 8B, the left button 204 is moved back and forth once between the area of the left button 204 and the area of the mouse 200 while keeping the bright spot BP within the area of the mouse 200.
Corresponds to a single click. In the case of two clicks, this click operation is performed twice within a predetermined time.

【0095】c.左ボタンを押したままでのオブジェク
トドラッグ 図8Cに示すように、輝点BPを左押し下げロックボタ
ン203の領域に移動させることにより、等価的に、マ
ウス200の左ボタンが押されたままになる。そして、
上述のa項のように、マウス移動ボタン202を使用し
て仮想マウス200の移動を行なう。なお、押し下げロ
ックボタン203のオン/オフはトグル動作である。
C. Object Drag While Holding Left Button Down As shown in FIG. 8C, by moving the bright spot BP to the area of the lock button 203 left down, equivalently, the left button of the mouse 200 is kept pressed down. And
The virtual mouse 200 is moved using the mouse movement button 202 as described in the above section a. The ON / OFF of the push-down lock button 203 is a toggle operation.

【0096】d.マウス右ボタンクリック 輝点BPをマウス200領域内においたまま、右ボタン
205の領域とマウス200の領域の間を1回往復させ
ることにより、右ボタン205の1回クリックに対応さ
せている。また、2回クリックは、このクリック操作を
所定時間内に2回行う。
D. Mouse Right Button Click While the luminescent spot BP is within the mouse 200 area, the mouse is reciprocated once between the area of the right button 205 and the area of the mouse 200, so as to correspond to the single click of the right button 205. In the case of two clicks, this click operation is performed twice within a predetermined time.

【0097】e.右ボタンを押したままでのオブジェク
トドラッグ 輝点BPを右押し下げロックボタン206の領域に移動
させることにより、等価的に、マウス200の右ボタン
が押されたままになる。そして、上述のa項のように、
マウス移動ボタン202を使用して移動を行なう。
E. Object drag while holding down the right button By moving the bright spot BP to the area of the lock button 206 by pressing down the right button, equivalently, the right button of the mouse 200 is kept pressed. Then, as in the above item a,
The movement is performed using the mouse movement button 202.

【0098】なお、押し下げロックボタン206のオン
/オフはトグル動作である。また、この右ボタンを押し
たままでのオブジェクトドラッグは、IBM方式のパー
ソナル・コンピュータでは使用されておらず、上述のc
項に対応させて、その可能性を示したものである。
Note that the ON / OFF of the push-down lock button 206 is a toggle operation. The object dragging while holding down the right button is not used in the IBM personal computer.
The possibility is shown in correspondence with the term.

【0099】図9に示すように、上述のような仮想マウ
ス200は、ディスプレイの画面12s上に、例えば、
前出図6に示すような、全体が「L」字状の仮想キーボ
ード100Lと共に表示される。
As shown in FIG. 9, a virtual mouse 200 as described above is displayed on the display screen 12s, for example,
As shown in FIG. 6 described above, the virtual keyboard 100L is displayed together with the virtual keyboard 100L having an “L” shape.

【0100】この場合、通常のデスクトップ型パーソナ
ル・コンピュータと同様に、例えば、図9に点線で示す
ような、画面の特定の位置(デフォルト位置)200d
に常時表示しておき、必要な時だけ、所望の位置にカー
ソルを移動させ、一定時間後に再度デフォルト位置に戻
すようにすることができる。
In this case, similar to a normal desktop personal computer, for example, a specific position (default position) 200d on the screen as shown by a dotted line in FIG.
At any time, the cursor can be moved to a desired position only when necessary, and returned to the default position again after a certain period of time.

【0101】仮想マウス200は、操作性の関係から、
その形状が比較的大きくならざるを得ない。従って、カ
ーソルを移動したときに、マウス200が移動した位置
にそのまま止まっていたのでは、画面が見苦しいので、
使用者の指に装着された発光ダイオードに対応する、輝
点BPが仮想マウス200の領域外に出た時点で、ある
いは、仮想マウス200の領域外に出てから若干時間の
後に、デフォルト位置200dまで戻すことで、画面の
見やすさが改善される。
[0101] The virtual mouse 200 is
Its shape must be relatively large. Therefore, if the mouse 200 remains at the position where the mouse 200 is moved when the cursor is moved, the screen is unsightly.
When the bright spot BP corresponding to the light emitting diode mounted on the user's finger comes out of the area of the virtual mouse 200, or a little after passing out of the area of the virtual mouse 200, the default position 200d By returning to, the visibility of the screen is improved.

【0102】更に、図10に示すように、カーソルがデ
フォルト位置に戻ってから所定時間の後に、仮想マウス
の形状を更に小さいアイコン200iに変化させること
もできる。
Further, as shown in FIG. 10, the shape of the virtual mouse can be changed to a smaller icon 200i a predetermined time after the cursor returns to the default position.

【0103】この場合、使用者に視認されるアイコン2
00iは適宜に設定されてもよく、また、使用者の指に
装着された発光ダイオードに対応する、輝点BPにより
アクセスされる、機能領域202iは、等価的に円形と
される。
In this case, the icon 2 visually recognized by the user
00i may be set appropriately, and the functional region 202i corresponding to the light emitting diode mounted on the user's finger and accessed by the bright spot BP is equivalently circular.

【0104】上述のように、この実施の形態では、通常
のデスクトップコンピュータで使用される、現実のマウ
スと同様に使い勝手によい仮想マウス入力手段を実現す
ることができて、ウェアラブルコンピュータなどの使用
範囲を格段に広げすることができる。
As described above, according to this embodiment, it is possible to realize virtual mouse input means which is used in a normal desktop computer and is as easy to use as a real mouse, and can be used in a wearable computer or the like. Can be greatly expanded.

【0105】[他の実施の形態]前述の実施の形態で
は、この発明を仮想キーボードおよび仮想マウスに適用
した場合について説明したが、この発明は、前述の実施
の形態に限定されるものではなく、例えば、発光部を手
話者の手に装着することにより、全く新しい入力アルゴ
リズムを実現することができる。
[Other Embodiments] In the above embodiment, the case where the present invention is applied to a virtual keyboard and a virtual mouse has been described. However, the present invention is not limited to the above embodiment. For example, an entirely new input algorithm can be realized by attaching the light emitting unit to the hand of the signer.

【0106】[0106]

【発明の効果】以上説明したように、請求項1の発明に
よれば、現実のキーボードと同様に使い勝手がよい仮想
キーボード入力部と仮想マウス入力部とを実現すること
ができる。
As described above, according to the first aspect of the present invention, it is possible to realize a virtual keyboard input unit and a virtual mouse input unit which are as easy to use as a real keyboard.

【0107】また、請求項2の発明によれば、現実のキ
ーボードやマウスと同等の仮想キーボード入力部と仮想
マウス入力部とを容易に実現することができる。
Further, according to the second aspect of the present invention, it is possible to easily realize a virtual keyboard input unit and a virtual mouse input unit equivalent to a real keyboard and mouse.

【0108】また、請求項3の発明によれば、実使用状
態での使い勝手を格段に向上させることができる。
According to the third aspect of the present invention, the usability in an actual use state can be remarkably improved.

【0109】また、請求項4の発明によれば、実使用状
態での使い勝手を向上させることができる。
According to the fourth aspect of the present invention, the usability in an actual use state can be improved.

【0110】また、請求項5の発明によれば、仮想キー
ボードでの入力に際して、所望のキーへ確実にアクセス
することができる。
According to the fifth aspect of the present invention, a desired key can be securely accessed at the time of input using the virtual keyboard.

【図面の簡単な説明】[Brief description of the drawings]

【図1】この発明によるコンピュータ装置の実施の形態
の機械的構成を示す概念図である。
FIG. 1 is a conceptual diagram showing a mechanical configuration of an embodiment of a computer device according to the present invention.

【図2】この発明の実施の形態の電気的構成を示すブロ
ック図である。
FIG. 2 is a block diagram showing an electrical configuration of the embodiment of the present invention.

【図3】この発明の実施の形態の撮像処理を説明するた
めの波形図である。
FIG. 3 is a waveform diagram for explaining an imaging process according to the embodiment of the present invention.

【図4】この発明の実施の形態の撮像処理を説明するた
めの概念図である。
FIG. 4 is a conceptual diagram illustrating an imaging process according to the embodiment of the present invention.

【図5】この発明の実施の形態の仮想キーボードの表示
状態を示す概念図である。
FIG. 5 is a conceptual diagram showing a display state of the virtual keyboard according to the embodiment of the present invention.

【図6】この発明の実施の形態の仮想キーボードの他の
表示状態を示す概念図である。
FIG. 6 is a conceptual diagram showing another display state of the virtual keyboard according to the embodiment of the present invention.

【図7】この発明の実施の形態の仮想キーボードの他の
表示状態を示す概念図である。
FIG. 7 is a conceptual diagram showing another display state of the virtual keyboard according to the embodiment of the present invention.

【図8】この発明の実施の形態の仮想マウスの表示状態
を示す概念図である。
FIG. 8 is a conceptual diagram showing a display state of a virtual mouse according to the embodiment of the present invention.

【図9】この発明の実施の形態の仮想マウスの表示状態
を示す概念図である。
FIG. 9 is a conceptual diagram showing a display state of a virtual mouse according to the embodiment of the present invention.

【図10】この発明の実施の形態の仮想マウスの表示状
態を示す概念図である。
FIG. 10 is a conceptual diagram showing a display state of a virtual mouse according to the embodiment of the present invention.

【符号の説明】[Explanation of symbols]

10…載頭部、11…ビデオカメラ、12…ヘッドマウ
ント・ディスプレイ(HMD)、12s…ディスプレイ
画面、13…接続ケーブル、20…コンピュータ本体、
21…CPU、22…ROM、23…RAM、25…ハ
ードディスク装置(HDD)、26…フロッピーディス
ク装置(FDD)、27…CD−ROM装置、28…直
流電源、31…コード発生・駆動回路、32…ビデオキ
ャプチャ回路、33…グラフィック・アクセラレータ、
34…表示制御・駆動回路、40…発光部、41a〜4
1j…発光ダイオード(LED)、100A,100
B,100F…仮想キーボード、100L…仮想キーボ
ード表示領域、101…入力文字表示領域、110…機
能・文字キー群、120…同時押しキー群、130…制
御キー群、140…カーソル移動キー群、150…行選
択キー群、157…行アップキー、158…行ダウンキ
ー、200…仮想マウス、201…ポインタ部、202
…マウス移動ボタン、203…左押し下げロックボタ
ン、204…左ボタン、205…右ボタン、206…右
押し下げロックボタン、BP,BPa〜BPj,BP
L,BPR…輝点
Reference Signs List 10: mounting head, 11: video camera, 12: head mounted display (HMD), 12s: display screen, 13: connection cable, 20: computer body,
21 ... CPU, 22 ... ROM, 23 ... RAM, 25 ... Hard Disk Drive (HDD), 26 ... Floppy Disk Drive (FDD), 27 ... CD-ROM Drive, 28 ... DC Power Supply, 31 ... Code Generation / Drive Circuit, 32 ... video capture circuit, 33 ... graphic accelerator,
34: display control / drive circuit, 40: light emitting unit, 41a to 4
1j: Light emitting diode (LED), 100A, 100
B, 100F: virtual keyboard, 100L: virtual keyboard display area, 101: input character display area, 110: function / character key group, 120: simultaneous press key group, 130: control key group, 140: cursor movement key group, 150 ... Line selection key group, 157... Line up key, 158... Line down key, 200... Virtual mouse, 201.
... Mouse move button, 203 ... Left down lock button, 204 ... Left button, 205 ... Right button, 206 ... Right down lock button, BP, BPa to BPj, BP
L, BPR ... bright spot

Claims (6)

【特許請求の範囲】[Claims] 【請求項1】使用者の操作入力に応じて空間を移動する
発光体と、 上記発光体の上記空間上の位置を検出するために、上記
発光体を撮像する撮像素子と、 上記撮像素子を装着したヘッドマウント型のディスプレ
イと、 上記撮像素子からの映像信号に基づいて、上記発光体の
位置情報をコンピュータ本体に入力する位置情報入力手
段と、 キーボード型の第1の仮想入力部とマウス型の第2の仮
想入力部とを生成して上記ディスプレイに表示する仮想
入力部生成表示手段と、 上記ディスプレイの画面上の、上記発光体の位置情報に
対応した位置に、特定のマークを表示するマーク生成表
示手段とを備え、 上記マークの上記第1仮想入力部または第2の仮想入力
部における位置により、上記第1仮想入力部または第2
の仮想入力部への入力を指定するようにしたコンピュー
タ装置。
A light-emitting body that moves in a space in response to a user's operation input; an image sensor that images the light-emitting body in order to detect a position of the light-emitting body in the space; A mounted head-mounted display, position information input means for inputting position information of the illuminant to a computer body based on a video signal from the image sensor, a first virtual input unit of a keyboard type, and a mouse type Virtual input section generation display means for generating the second virtual input section and displaying the same on the display; and displaying a specific mark at a position on the screen of the display corresponding to the position information of the light emitter. Mark generating and displaying means, and the first virtual input unit or the second virtual input unit depends on the position of the mark in the first virtual input unit or the second virtual input unit.
A computer device for designating an input to a virtual input unit of the computer.
【請求項2】請求項1に記載のコンピュータ装置におい
て、 上記発光体が複数の発光ダイオードであって、各発光ダ
イオードが互いに異なるパターンで点滅することを特徴
とするコンピュータ装置。
2. The computer device according to claim 1, wherein said illuminant is a plurality of light emitting diodes, and each of said light emitting diodes blinks in a different pattern from each other.
【請求項3】請求項2に記載のコンピュータ装置におい
て、 上記複数の発光ダイオードを使用者の手指に装着可能と
したことを特徴とするコンピュータ装置。
3. The computer device according to claim 2, wherein said plurality of light emitting diodes can be mounted on a finger of a user.
【請求項4】請求項1に記載のコンピュータ装置におい
て、 上記撮像素子が半導体撮像素子であることを特徴とする
コンピュータ装置。
4. The computer device according to claim 1, wherein said image sensor is a semiconductor image sensor.
【請求項5】請求項1に記載のコンピュータ装置におい
て、 上記仮想入力部生成表示手段は、上記第1の仮想入力部
として複数行のキーを1行ずつ選択表示するようにした
ことを特徴とするコンピュータ装置。
5. The computer device according to claim 1, wherein said virtual input section generating and displaying means is configured to selectively display a plurality of rows of keys one by one as said first virtual input section. Computer device.
【請求項6】請求項2〜請求項5に記載のコンピュータ
装置において、 上記発光ダイオードが赤外発光ダイオードであることを
特徴とするコンピュータ装置。
6. The computer device according to claim 2, wherein said light emitting diode is an infrared light emitting diode.
JP19558898A 1998-07-10 1998-07-10 Computer system Pending JP2000029621A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP19558898A JP2000029621A (en) 1998-07-10 1998-07-10 Computer system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP19558898A JP2000029621A (en) 1998-07-10 1998-07-10 Computer system

Publications (1)

Publication Number Publication Date
JP2000029621A true JP2000029621A (en) 2000-01-28

Family

ID=16343651

Family Applications (1)

Application Number Title Priority Date Filing Date
JP19558898A Pending JP2000029621A (en) 1998-07-10 1998-07-10 Computer system

Country Status (1)

Country Link
JP (1) JP2000029621A (en)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10124834A1 (en) * 2001-05-22 2002-12-05 Eberhard Wahl Method for input of information into data processing device by pencil, involves passing pencil movement coordinates into evaluating unit
WO2007023447A1 (en) * 2005-08-22 2007-03-01 Koninklijke Philips Electronics N.V. Communication system and method, and mobile device
WO2007116578A1 (en) * 2006-04-11 2007-10-18 Sony Computer Entertainment Inc. Entertainment system and processor
JP2010049662A (en) * 2008-08-25 2010-03-04 Nec Access Technica Ltd Input device
WO2011151997A1 (en) 2010-06-01 2011-12-08 Sony Corporation Information processing apparatus and method and program
JP2015096989A (en) * 2013-11-15 2015-05-21 株式会社沖データ Communication equipment, control device, control method and control program
US9658685B2 (en) 2014-12-02 2017-05-23 Kabushiki Kaisha Topcon Three-dimensional input device and input system
CN106768361A (en) * 2016-12-19 2017-05-31 北京小鸟看看科技有限公司 The position tracking method and system of the handle supporting with VR helmets
JP2018005531A (en) * 2016-06-30 2018-01-11 京セラ株式会社 Electronic device, control method, and program
US10338688B2 (en) 2015-12-24 2019-07-02 Samsung Electronics Co., Ltd. Electronic device and method of controlling the same
JP2021015637A (en) * 2020-11-05 2021-02-12 マクセル株式会社 Display device

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10124834A1 (en) * 2001-05-22 2002-12-05 Eberhard Wahl Method for input of information into data processing device by pencil, involves passing pencil movement coordinates into evaluating unit
DE10124834C2 (en) * 2001-05-22 2003-08-21 Eberhard Wahl Method for entering information for a human-machine interface, pen for carrying out the method and device for entering information by means of the method
WO2007023447A1 (en) * 2005-08-22 2007-03-01 Koninklijke Philips Electronics N.V. Communication system and method, and mobile device
WO2007116578A1 (en) * 2006-04-11 2007-10-18 Sony Computer Entertainment Inc. Entertainment system and processor
US8350805B2 (en) 2006-04-11 2013-01-08 Sony Computer Entertainment Inc. Entertainment system and processing apparatus
JP2010049662A (en) * 2008-08-25 2010-03-04 Nec Access Technica Ltd Input device
JP4716201B2 (en) * 2008-08-25 2011-07-06 Necアクセステクニカ株式会社 Input device
WO2011151997A1 (en) 2010-06-01 2011-12-08 Sony Corporation Information processing apparatus and method and program
JP2015096989A (en) * 2013-11-15 2015-05-21 株式会社沖データ Communication equipment, control device, control method and control program
US9658685B2 (en) 2014-12-02 2017-05-23 Kabushiki Kaisha Topcon Three-dimensional input device and input system
US10338688B2 (en) 2015-12-24 2019-07-02 Samsung Electronics Co., Ltd. Electronic device and method of controlling the same
JP2018005531A (en) * 2016-06-30 2018-01-11 京セラ株式会社 Electronic device, control method, and program
CN106768361A (en) * 2016-12-19 2017-05-31 北京小鸟看看科技有限公司 The position tracking method and system of the handle supporting with VR helmets
JP2021015637A (en) * 2020-11-05 2021-02-12 マクセル株式会社 Display device
JP2022160533A (en) * 2020-11-05 2022-10-19 マクセル株式会社 Display device
JP7369834B2 (en) 2020-11-05 2023-10-26 マクセル株式会社 display device

Similar Documents

Publication Publication Date Title
US11782511B2 (en) Tactile glove for human-computer interaction
CN108700957B (en) Electronic system and method for text entry in a virtual environment
JP3529510B2 (en) Information input device and control method of information input device
US9317130B2 (en) Visual feedback by identifying anatomical features of a hand
JP3597060B2 (en) Japanese character input device for mobile terminal and character input method
US7064742B2 (en) Input devices using infrared trackers
WO2007093984A2 (en) A system and method of inputting data into a computing system
US8115740B2 (en) Electronic device capable of executing commands therein and method for executing commands in the same
CN1877508A (en) Handwritten information input apparatus
JP2008517363A5 (en)
TWI390427B (en) Electronic device, symbol input module and its symbol selection method
CN101901051A (en) Data entry device and device based on the input object of distinguishing
WO2006036069A1 (en) Information processing system and method
JP2000029621A (en) Computer system
EP3264245A1 (en) Information processing device, information processing method, and program
US10438389B2 (en) Method, device, and non-transitory computer readable storage medium for displaying virtual reality or augmented reality environment according to a viewing angle
US20120262369A1 (en) Hand-mountable device for providing user input
US20010033268A1 (en) Handheld ergonomic mouse
EP0895153B1 (en) Data input device and method
JP2000029619A (en) Computer system
KR20180095184A (en) Character information transmission system using color recognition
US20040239618A1 (en) Method of inputing letters using mouse and its system
JP6253945B2 (en) Image display device
CN106708278A (en) Intelligent sound production keyboard, method for controlling same and electronic device
GB2507777A (en) Conversion of combinations of gestures into character input, using restricted gesture set