JP2001154794A - Pointing device with click function by blink - Google Patents

Pointing device with click function by blink

Info

Publication number
JP2001154794A
JP2001154794A JP33729099A JP33729099A JP2001154794A JP 2001154794 A JP2001154794 A JP 2001154794A JP 33729099 A JP33729099 A JP 33729099A JP 33729099 A JP33729099 A JP 33729099A JP 2001154794 A JP2001154794 A JP 2001154794A
Authority
JP
Japan
Prior art keywords
eye
pointing device
display
blink
blinking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP33729099A
Other languages
Japanese (ja)
Inventor
Toshiyuki Hayashibara
俊之 林原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Fielding Ltd
Original Assignee
NEC Fielding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Fielding Ltd filed Critical NEC Fielding Ltd
Priority to JP33729099A priority Critical patent/JP2001154794A/en
Publication of JP2001154794A publication Critical patent/JP2001154794A/en
Pending legal-status Critical Current

Links

Landscapes

  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a pointing device to realize click operation without using an auxiliary device. SOLUTION: Eye movement is picked up, a stared position on a display is detected and an input function is realized by blink of an eye. The input function consists essentially of a click function, a display is spectacle display 2 in the shape of spectacles to display a computer screen, provided with an eye camera 3 to detect which part of the spectacle display 2 is started by picking up the eye movement, a spectacle-shaped frame 1 to support the spectacle display 2, a left eye blink sensor 4 and a right eye blink sensor 5 to detect blinks of a left eye and a right eye among the blinks and a function to judge the blink as one-eye blink when period in which only one of the left and right eyes is closed exceeds fixed time and to cancel pointing operation when both eyes are judged to be closed.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、クリック機能を有
するポインティング装置に関し、特に、まばたきによる
クリック機能を有するポインティング装置に関する。
The present invention relates to a pointing device having a click function, and more particularly to a pointing device having a click function by blinking.

【0002】[0002]

【従来の技術】近年、モバイルコンピュータの究極の形
態としてウエアラブル(wearable)コンピュー
タの開発が盛んである。このウエアラブルコンピュータ
における入力装置として、人の目や音声を用いたポイン
ティング装置を使用することがある。従来の目をつかっ
たポインティング装置として、特開平10−16180
1号公報に記載の入出力装置があるが、この装置では、
クリック動作はまばたきではなく、操作者の音声をコン
ピュータに認識させることで実現している。また他の従
来例として、特開平10−3150号公報記載のコンピ
ュータ制御用クリック信号発生法では、歯の打ち合わせ
にて発生する音を音響センサで検出した手法が公開され
ている。
2. Description of the Related Art In recent years, a wearable computer has been actively developed as an ultimate form of a mobile computer. As an input device in the wearable computer, a pointing device using human eyes or voice may be used. As a conventional eye-catching pointing device, Japanese Patent Application Laid-Open No. 10-16180
There is an input / output device described in Japanese Patent Publication No.
The click operation is realized not by blinking but by causing the computer to recognize the operator's voice. Further, as another conventional example, in a click signal generation method for computer control described in Japanese Patent Application Laid-Open No. 10-3150, a method in which a sound generated by a tooth meeting is detected by an acoustic sensor is disclosed.

【0003】[0003]

【発明が解決しようとする課題】しかし、上述した従来
例では、いずれも補助装置を使ってクリック動作を行う
ものであり、装置が小型化している現状に逆行し、特
に、ウエアラブルコンピュータなどには適合しないとい
う問題があった。
However, in the above-mentioned conventional examples, the click operation is performed using an auxiliary device, which goes against the present situation in which the device is downsized. There was a problem of incompatibility.

【0004】そこで、本発明の目的は、上記問題を解決
するために、補助装置を使うことなくまばたきによるク
リック動作を実現可能としたポインティング装置を提供
することにある。
Accordingly, an object of the present invention is to provide a pointing device capable of realizing a click operation by blinking without using an auxiliary device in order to solve the above problem.

【0005】[0005]

【課題を解決するための手段】上記目的を達成するため
に、本発明のまばたきによるクリック機能を有するポイ
ンティング装置は、操作者の眼の動きを捕捉し、ディス
プレイ上の凝視している位置を検出し、眼の視点でクリ
ックする対象を位置づけているときに、眼の片目まばた
きによりクリック動作することを特徴とする。
SUMMARY OF THE INVENTION In order to achieve the above object, a pointing device having a click function by blinking according to the present invention captures the movement of an operator's eye and detects a gaze position on a display. When a target to be clicked is positioned from the viewpoint of the eye, a click operation is performed by blinking one eye of the eye.

【0006】また、ディスプレイは、コンピュータの表
示部分を眼鏡のレンズ部分に透過して表示させる眼鏡デ
ィスプレイであるのが好ましい。
It is preferable that the display is a spectacle display for transmitting a display portion of a computer through a lens portion of spectacles for display.

【0007】さらに、眼鏡ディスプレイを支える眼鏡型
フレームを備えるのが好ましい。
[0007] Further, it is preferable to provide a spectacle type frame for supporting the spectacle display.

【0008】またさらに、眼の動きを捕捉し、眼鏡ディ
スプレイのどこを凝視しているかを検出するアイカメラ
を備えるのが好ましい。
[0008] Still further, it is preferable to provide an eye camera for capturing eye movements and detecting where the eyeglass display is staring.

【0009】また、眼の左目および右目のまばたきを検
出する左目まばたきセンサおよび右目まばたきセンサを
備えるのが好ましい。
It is preferable that the apparatus further includes a left-eye blink sensor and a right-eye blink sensor for detecting blinking of the left and right eyes of the eye.

【0010】さらに、左目まばたきセンサおよび右目ま
ばたきセンサにより、左目または右目の一方だけ閉じて
いる期間が一定時間を超えている場合に、片目まばたき
と判断するのが好ましい。
[0010] Furthermore, it is preferable that the left-eye blink sensor and the right-eye blink sensor determine that a single-eye blink is detected when a period in which only one of the left eye and the right eye is closed exceeds a predetermined time.

【0011】またさらに、左目まばたきセンサおよび右
目まばたきセンサにより、左目および右目の両目が閉じ
ていると判断したときにポインティング操作のキャンセ
ルを行う機能を有するのが好ましい。
Further, it is preferable that a function of canceling a pointing operation when it is determined that both the left eye and the right eye are closed by a left eye blink sensor and a right eye blink sensor is provided.

【0012】また、眼鏡ディスプレイ,アイカメラ,左
目まばたきセンサおよび右目まばたきセンサと、ケーブ
ルを介して制御するコントローラを備えるのが好まし
い。
[0012] It is preferable that the apparatus further includes a spectacle display, an eye camera, a left-eye blink sensor, a right-eye blink sensor, and a controller which is controlled via a cable.

【0013】さらに、コントローラは、制御対象のコン
ピュータに対し、マウス,キーボード,ビデオのインタ
ーフェースに接続されるのが好ましい。
Further, it is preferable that the controller is connected to a mouse, a keyboard, and a video interface for the computer to be controlled.

【0014】またさらに、コントローラは、左目まばた
きセンサおよび右目まばたきセンサに接続され、まばた
き動作からマウス,キーボード,ビデオのインターフェ
ースの信号を出力する信号補正部を備えるのが好まし
い。
[0014] Furthermore, it is preferable that the controller is provided with a signal correction unit connected to the left-eye blink sensor and the right-eye blink sensor, and for outputting signals of a mouse, a keyboard, and a video interface from the blinking operation.

【0015】また、コントローラは、アイカメラに接続
され、操作者が眼鏡ディスプレイのどこを凝視している
かを検出し、そのxy座標を出力する視点座標変換部を
備えるのが好ましい。
Preferably, the controller is connected to an eye camera, and includes a viewpoint coordinate conversion unit for detecting where the operator is staring at the eyeglass display and outputting the xy coordinates thereof.

【0016】さらに、コントローラは、視点座標変換部
から出力されるxy座標を一定時間間隔でサンプリング
し、眼が凝視している場所を示すアイポインタが移動し
たときに、その差分を計算し、移動に相当する信号をマ
ウスのインターフェースに出力する視点座標移動差分変
換部を備えるのが好ましい。
Further, the controller samples the xy coordinates output from the viewpoint coordinate conversion unit at regular time intervals, and calculates the difference when the eye pointer indicating the place where the eye is staring moves, and calculates the difference. It is preferable to include a viewpoint coordinate movement difference conversion unit that outputs a signal corresponding to the above to a mouse interface.

【0017】またさらに、コントローラは、視点座標変
換部からのxy座標からその座標上にアイポインタの画
像を作成し、ビデオのインターフェースの信号と合成
し、眼鏡ディスプレイに出力するビデオ信号アイポイン
タ部を備えるのが好ましい。
Still further, the controller creates an image of an eye pointer on the xy coordinates from the xy coordinates from the viewpoint coordinate conversion unit, combines the image with a signal of a video interface, and outputs a video signal eye pointer unit for outputting to a glasses display. Preferably, it is provided.

【0018】また、コントローラは、視点座標変換部か
らのxy座標をもとに眼鏡ディスプレイに表示される部
分にアイポインタがあるかどうかを判断し、アイポイン
タがキーエリアの中の文字を凝視し、且つ、左目まばた
きによるクリック操作を行った場合に、その文字コード
をキーボードのインターフェースに出力するキーボード
エミュレーション部を備えるのが好ましい。
Further, the controller determines whether or not an eye pointer is present in a portion displayed on the eyeglass display based on the xy coordinates from the viewpoint coordinate conversion unit, and the eye pointer gazes at a character in the key area. In addition, it is preferable to include a keyboard emulation unit that outputs a character code to a keyboard interface when a click operation is performed by blinking the left eye.

【0019】以上説明したように、本発明のまばたきに
よるクリック機能によるポインティング装置では、メガ
ネをかける感覚でコンピュータ操作が操作できるように
なり、無線ネットワークを付加することで必要な情報を
ネットワーク上にある別のコンピュータのデータベース
があらゆるシーンにおいて入手できるようになる。
As described above, in the pointing device using the click function by blinking according to the present invention, computer operation can be performed as if wearing glasses, and necessary information can be stored on the network by adding a wireless network. Another computer database will be available for every scene.

【0020】[0020]

【発明の実施の形態】次に、図面を参照して、本発明の
実施の形態について詳細に説明する。
Next, an embodiment of the present invention will be described in detail with reference to the drawings.

【0021】図1は、本発明のまばたきによるクリック
機能を有するポインティング装置の実施の形態の全体構
成を示す概略図である。本発明のまばたきによるクリッ
ク機能を有するポインティング装置10は、本装置の土
台となる眼鏡型フレーム1に、コンピュータ画面を表示
する透過タイプの眼鏡ディスプレイ2と、眼球の動きを
捕捉し眼鏡ディスプレイ2のどこを凝視しているかを検
出するアイカメラ3と、眼がまばたきをしたことを検出
する左目まばたきセンサ4および右目まばたきセンサ5
とが実装される。眼鏡ディスプレイ2,アイカメラ3,
左目まばたきセンサ4,右目まばたきセンサ5の信号
は、眼鏡型フレーム1の中に配置されるケーブル8を通
してコントローラ6に接続される。コントローラ6は、
これらの信号を、マウス,ビデオ信号,キーボードのイ
ンターフェイスに変換し、操作しようとするコンピュー
タ7に接続される。
FIG. 1 is a schematic diagram showing an entire configuration of an embodiment of a pointing device having a click function by blinking according to the present invention. The pointing device 10 having a click function by blinking according to the present invention includes a transmissive type spectacle display 2 for displaying a computer screen on a spectacle type frame 1 serving as a base of the device, and a spectacle display 2 for capturing eye movements. An eye camera 3 for detecting whether the user is staring at the camera, a left-eye blink sensor 4 and a right-eye blink sensor 5 for detecting that the eyes are blinking
Are implemented. Eyeglass display 2, Eye camera 3,
The signals of the left-eye blink sensor 4 and the right-eye blink sensor 5 are connected to a controller 6 through a cable 8 arranged in the eyeglass-type frame 1. The controller 6
These signals are converted into mouse, video signal, and keyboard interfaces, and connected to the computer 7 to be operated.

【0022】次に、図2,図3を参照して、本発明の実
施の形態におけるまばたきセンサの動作について説明す
る。図2は、本発明のまばたきによるクリック機能を有
するポインティング装置実施の形態におけるまばたきセ
ンサの動作の詳細を示す概略図である。図3は、本発明
のまばたきによるクリック機能を有するポインティング
装置の実施の形態におけるまばたきの開閉による出力の
変化を示すグラフである。
Next, the operation of the blink sensor according to the embodiment of the present invention will be described with reference to FIGS. FIG. 2 is a schematic diagram showing details of the operation of the blink sensor in the embodiment of the pointing device having a click function by blinking according to the present invention. FIG. 3 is a graph showing a change in output due to opening and closing of the blink in the embodiment of the pointing device having a click function by blink according to the present invention.

【0023】図2に示すように、左目まばたきセンサ4
または右目まばたきセンサ5は、赤外線等の光を眼球に
照射し、その反射光の量を測定することでまぶたの開閉
を検出するものである。左目まばたきセンサ4または右
目まばたきセンサ5の各々は、赤外線の光を照射するた
めの赤外線ランプ90およびセンサ出力部LI,RIを
備える。左目まばたきセンサ4および右目まばたきセン
サ5の動作について説明すると、まず、赤外線ランプ9
0から眼球に照射された赤外線が、図の点線で示すよう
に眼球表面で反射され、その反射光が赤外線受光部91
に入る。また、赤外線受光部91からは、左目まばたき
センサの出力LI、または右目まばたきセンサの出力R
Iの信号を出力する。
As shown in FIG. 2, the left eye blink sensor 4
Alternatively, the right-eye blink sensor 5 detects opening and closing of the eyelid by irradiating the eyeball with light such as infrared light and measuring the amount of reflected light. Each of the left-eye blink sensor 4 and the right-eye blink sensor 5 includes an infrared lamp 90 for irradiating infrared light and sensor output units LI and RI. The operation of the left-eye blink sensor 4 and the right-eye blink sensor 5 will be described first.
Infrared light emitted from 0 to the eyeball is reflected on the surface of the eyeball as shown by the dotted line in the figure, and the reflected light
to go into. In addition, the output LI of the left-eye blink sensor or the output R of the right-eye blink sensor is output from the infrared receiving unit 91.
An I signal is output.

【0024】その後、図3のグラフに示すように、まば
たきにおけるまぶたの開閉動作で赤外線の反射量が変化
し、まばたきセンサの出力が変化することになる。すな
わち、まぶたが閉じているときにまばたきセンサの出力
が最大になるように、また、まぶたが開いているときに
まばたきセンサの出力が最小になるように調整してい
る。従って、本実施の形態では、図3に示すように、ま
ばたきの開閉に伴って、まばたきセンサの出力が変化
し、図の中央部分に示すように、まばたきを閉じるとま
ばたきセンサの出力は大きくなるように、まばたきセン
サを調整する。
Thereafter, as shown in the graph of FIG. 3, the amount of reflected infrared light changes due to the opening / closing operation of the eyelid during blinking, and the output of the blink sensor changes. That is, the adjustment is performed so that the output of the blink sensor is maximized when the eyelid is closed, and the output of the blink sensor is minimized when the eyelid is opened. Therefore, in the present embodiment, as shown in FIG. 3, the output of the blink sensor changes with the opening and closing of the blink, and the output of the blink sensor increases when the blink is closed, as shown in the center part of the figure. Adjust the blink sensor as described.

【0025】図4は、本発明のまばたきによるクリック
機能を有するポインティング装置の実施の形態の全体構
成を示すブロック図である。本発明の主要な部分を占め
るコントローラ6を中心に、左目および右目のまばたき
を検出する左目まばたきセンサ4および右目まばたきセ
ンサ5と、眼球の視点を検出するアイカメラ3と、コン
ピュータ画像を表示する眼鏡ディスプレイ2とがそれぞ
れ接続されている。また、コントローラ6は、制御対象
のコンピュータ7(図1に示す)に対し、マウスインタ
ーフェース,キーボードインターフェース,ビデオイン
タフェースにて接続される。
FIG. 4 is a block diagram showing an entire configuration of an embodiment of a pointing device having a click function by blinking according to the present invention. A left-eye blink sensor 4 and a right-eye blink sensor 5 for detecting a left-eye and a right-eye blink, an eye camera 3 for detecting a viewpoint of an eyeball, and glasses for displaying computer images, centering on a controller 6 which is a main part of the present invention. The display 2 is connected to each of them. The controller 6 is connected to a computer 7 (shown in FIG. 1) to be controlled by a mouse interface, a keyboard interface, and a video interface.

【0026】次に、図4を参照して、本発明の実施の形
態におけるコントローラ6について説明する。コントロ
ーラ6は、まばたき信号補正部32,視点座標変換部2
0,ビデオ信号アイポインタ合成部21,視点座標移動
差分変換部22,キーボードエミュレータ部23よりな
る。まばたき信号補正部32は、左目まばたきセンサ4
および右目まばたきセンサ5と接続され、まばたき動作
からマウスインターフェースの左クリックの信号Lおよ
び右クリックの信号Rを出力する。視点座標変換部20
は、アイカメラ3に接続され、操作者が眼鏡ディスプレ
イ2のどこを凝視しているかを検出し、xy座標データ
を出力する。視点座標移動差分変換部22は、視点座標
変換部20から出力されるxy座標データを一定時間間
隔でサンプリングし、凝視している場所(アイポイン
タ)の座標が移動したときその差分を計算し、移動に相
当するx軸,y軸のマウスインターフェース信号X,Y
を出力する。ビデオ信号アイポインタ合成部21は、視
点座標変換部20からのxy座標データからその座標上
にアイポインタの画像を作成し、コンピュータ7からの
ビデオインターフェイス信号と合成し、眼鏡ディスプレ
イ2に出力する。
Next, the controller 6 according to the embodiment of the present invention will be described with reference to FIG. The controller 6 includes a blink signal correction unit 32 and a viewpoint coordinate conversion unit 2
0, a video signal eye pointer synthesizing unit 21, a viewpoint coordinate movement difference converting unit 22, and a keyboard emulator unit 23. The blink signal correction unit 32 includes the left eye blink sensor 4
And a right-eye blink sensor 5, and outputs a left-click signal L and a right-click signal R of the mouse interface from the blink operation. Viewpoint coordinate converter 20
Is connected to the eye camera 3, detects where the operator is staring in the eyeglass display 2, and outputs xy coordinate data. The viewpoint coordinate movement difference conversion unit 22 samples the xy coordinate data output from the viewpoint coordinate conversion unit 20 at fixed time intervals, and calculates the difference when the coordinates of the gaze point (eye pointer) move, Mouse interface signals X and Y of x-axis and y-axis corresponding to movement
Is output. The video signal eye pointer synthesizing unit 21 creates an image of the eye pointer on the coordinates from the xy coordinate data from the viewpoint coordinate conversion unit 20, synthesizes it with the video interface signal from the computer 7, and outputs it to the eyeglass display 2.

【0027】また、キーボードエミュレータ部23は、
視点座標変換部20からのxy座標データをもとに、眼
鏡ディスプレイ2に表示されている眼鏡ディスプレイ表
示構成のキーボード表示部54(後述する図6に示す)
内の文字のキーエリア55の中にアイポインタ50(後
述する図7,図8に示す)が有るかどうか判断し、その
時左まばたきを行うことでキーエリアで凝視した文字の
文字コードをキーボードインターフェイスに出力する機
能を有する。キーボードエミュレータ部23はまた、ま
ばたき信号補正部32からESC信号を受け取り文字コ
ードESCを出力する。ESC信号とは、まばたき信号
補正部32でポインタ動作のキャンセルを検出したとき
に出力される信号であり、操作対象のコンピュータ7に
対しキーボードエミュレータ部23からESCキーの文
字コードを出力させ、擬似的にESCキーを押下させた
ようにするためである。
The keyboard emulator unit 23
On the basis of the xy coordinate data from the viewpoint coordinate conversion unit 20, a keyboard display unit 54 (shown in FIG. 6 described below) having a spectacle display configuration displayed on the spectacle display 2.
It is determined whether or not the eye pointer 50 (shown in FIGS. 7 and 8 to be described later) is present in the key area 55 of the character inside, and at that time, by blinking left, the character code of the character stared in the key area is displayed on the keyboard interface. It has the function of outputting to The keyboard emulator unit 23 also receives an ESC signal from the blink signal correction unit 32 and outputs a character code ESC. The ESC signal is a signal that is output when the blinking signal correction unit 32 detects the cancellation of the pointer operation, and causes the keyboard emulator unit 23 to output the character code of the ESC key from the keyboard emulator unit 23 to the computer 7 to be operated. Is to press the ESC key.

【0028】図5は、本発明の実施の形態におけるまば
たき信号補正部32の構成を示すブロック図である。上
述した左目まばたきセンサ4および右目まばたきセンサ
5の出力信号であるLIおよびRIは、波形整形回路8
0および81に接続される。波形整形回路80の出力L
Lは、ワンショット82に接続され、波形整形回路81
の出力RLは、ワンショット83に接続される。また、
出力LLおよび出力RLは、AND回路84に接続され
ている。ワンショット82の出力LS,ワンショット8
3の出力RS、AND回路84の出力は、OR回路85
の入力となり、OR回路85の出力は遅延回路86を通
したのちゲート回路87,88のゲート信号として接続
され、波形整形回路80の出力LH、および波形整形回
路81の出力RHの信号を制御している。AND回路8
9は、ゲート回路87の出力L、およびワンショット8
3の出力RSを入力とし、その出力はESC信号とな
る。
FIG. 5 is a block diagram showing a configuration of the blink signal correction unit 32 according to the embodiment of the present invention. The output signals LI and RI of the left-eye blink sensor 4 and the right-eye blink sensor 5 are output from the waveform shaping circuit 8.
0 and 81. Output L of waveform shaping circuit 80
L is connected to a one-shot 82 and a waveform shaping circuit 81
Is connected to a one-shot 83. Also,
The output LL and the output RL are connected to the AND circuit 84. Output LS of one shot 82, one shot 8
3 and the output of the AND circuit 84
After the output of the OR circuit 85 passes through the delay circuit 86, it is connected as gate signals of the gate circuits 87 and 88, and controls the signal of the output LH of the waveform shaping circuit 80 and the output RH of the waveform shaping circuit 81. ing. AND circuit 8
9 is the output L of the gate circuit 87 and one shot 8
3 as an input, and its output is an ESC signal.

【0029】図6は、本発明の実施の形態における眼鏡
ディスプレイ2に表示される映像の構成を示す概略図で
ある。操作対象のコンピュータ7(図1に示す)の画面
は、PC画面56に表示される。また、キー入力操作
は、キーボード表示部54内の文字が配列された文字の
キーエリア55内にアイポインタ50(図7,図8に示
す)を移動させ、左まばたきによるクリック動作を行う
ことで実行する。また、PC画面56の複数箇所にポイ
ンタ校正エリア(1)60を設け、凝視している座標
と、視点座標変換部20が認識している座標と、操作し
ているコンピュータ7から出力されるマウスポインタ
(PCポインタ51(図7,図8に示す))の座標のず
れを校正する機能を有する。また、キーボード表示部に
おけるアイポインタの校正はポインタ校正エリア(2)
61にて行う。ここでは、PCポインタ51の表示可能
エリアでないため、PCポインタ51の校正はX軸のみ
行なわれる。
FIG. 6 is a schematic diagram showing a configuration of an image displayed on the eyeglass display 2 according to the embodiment of the present invention. The screen of the computer 7 (shown in FIG. 1) to be operated is displayed on the PC screen 56. The key input operation is performed by moving the eye pointer 50 (shown in FIGS. 7 and 8) into the character key area 55 in which characters in the keyboard display unit 54 are arranged, and performing a click operation by blinking left. Execute. Further, a pointer calibration area (1) 60 is provided at a plurality of locations on the PC screen 56, and the coordinates of the gaze, the coordinates recognized by the viewpoint coordinate conversion unit 20, and the mouse output from the operating computer 7 are provided. It has a function of calibrating the displacement of the coordinates of the pointer (PC pointer 51 (shown in FIGS. 7 and 8)). The calibration of the eye pointer on the keyboard display is performed in the pointer calibration area (2).
Perform at 61. Here, since it is not the displayable area of the PC pointer 51, the calibration of the PC pointer 51 is performed only on the X axis.

【0030】図7,図8は、本発明の実施の形態におけ
るアイポインタの動作を示す概略図である。上述した視
点座標をもとにビデオ信号アイポインタ合成部21が、
図7および図8に示すアイポインタ50を作成し、眼鏡
ディスプレイ2に表示する。視点座標移動差分変換部2
2は、一定時間に視点座標が移動した座標の差分を計算
し、移動分のパルス信号をマウスインターフェイス信号
X,Yとして出力する。この信号はコンピュータ7に処
理され、コンピュータ7からビデオ信号として、図8に
示すように、PCポインタ51を出力し、ビデオ信号ア
イポインタ合成部21を通して眼鏡ディスプレイ2に表
示される。すなわち、凝視している視点にアイポインタ
50が表示され、同じ位置にコンピュータから出力され
るPCポインタ51が表示されていることになる。視点
を移動させればアイポインタ50が動き、それにPCポ
インタ51が追従することになる。
FIGS. 7 and 8 are schematic diagrams showing the operation of the eye pointer according to the embodiment of the present invention. Based on the viewpoint coordinates described above, the video signal eye pointer combining unit 21
The eye pointer 50 shown in FIGS. 7 and 8 is created and displayed on the glasses display 2. Viewpoint coordinate movement difference conversion unit 2
Reference numeral 2 calculates a difference between the coordinates at which the viewpoint coordinates have moved in a predetermined time, and outputs pulse signals corresponding to the movement as mouse interface signals X and Y. This signal is processed by the computer 7, and a PC pointer 51 is output from the computer 7 as a video signal, as shown in FIG. 8, and displayed on the eyeglass display 2 through the video signal eye pointer synthesizing unit 21. That is, the eye pointer 50 is displayed at the gaze point, and the PC pointer 51 output from the computer is displayed at the same position. If the viewpoint is moved, the eye pointer 50 moves, and the PC pointer 51 follows it.

【0031】[0031]

【実施例】次に、図4〜図10を参照して、本発明の実
施例について詳細に説明する。
Next, an embodiment of the present invention will be described in detail with reference to FIGS.

【0032】まず、本実施例によるポインティング操作
について説明する。まず、図4に示すアイカメラ3によ
って眼鏡ディスプレイ2の凝視している眼鏡ディスプレ
イ2上の座標を検出する。次に、図6に示すように、左
上を原点(0,0)とすると、視点座標(x,y)は、
図5に示す視点座標変換部20により計算される。
First, the pointing operation according to the present embodiment will be described. First, the eye camera 3 shown in FIG. 4 detects the coordinates on the spectacle display 2 where the spectacle display 2 is staring. Next, as shown in FIG. 6, if the upper left is the origin (0, 0), the viewpoint coordinates (x, y) are
It is calculated by the viewpoint coordinate conversion unit 20 shown in FIG.

【0033】次に、本実施例におけるクリック動作につ
いて詳細に説明する。まず、図4に示す左目まばたきセ
ンサ4と右目まばたきセンサ5により左右の目のまばた
きを検出する。左目まばたきセンサ4および右目まばた
きセンサ5は、まばたき信号補正部32に接続され、通
常の無意識に両眼で同時に行うまばたきではクリック動
作が行われないようにしている。また、左右のまぶた開
閉時間のばらつきにより発生するクリック操作の誤動作
も防止している。
Next, the click operation in this embodiment will be described in detail. First, the blinking of the left and right eyes is detected by the left blink sensor 4 and the right blink sensor 5 shown in FIG. The left-eye blink sensor 4 and the right-eye blink sensor 5 are connected to the blink signal correction unit 32 so that a click operation is not performed by blinks that are performed simultaneously with both eyes unconsciously. In addition, erroneous click operations caused by variations in left and right eyelid opening and closing times are also prevented.

【0034】次に、本実施例におけるまばたき信号補正
部32における動作について説明する。図4に示すよう
に、左目まばたきセンサ4および右目まばたきセンサ5
の出力は赤外線を眼球に照射し、その反射光の量をセン
サで検出することより得られ、まぶたの閉じ具合にある
程度比例したアナログ信号LI(左目),RI(右目)
を出力する。この信号を、図5に示す波形整形回路80
および81を通すことで高レベルで“1”出力するもの
と、低レベルで“1”出力するものの2種類のデジタル
信号に変換する。まぶたが下がりはじめのタイミングで
は低レベルで信号が出力され、まぶたが下がりきる直前
のタイミングで高レベル信号が出力される。ここで、低
レベルをLL(左目),RL(右目)とし、高レベルを
LH(左目),RH(右目)とする。LLおよびRLの
立ち上がりからスタートするワンショット82および8
3を設け、まばたき開始から一定期間はクリック信号を
出力しないようにしている。これは、両眼まばたきのと
きに発生する左右の開閉タイミングの微妙なばらつきに
よる誤動作防止を意味する。また、左右のセンサが同時
にまぶたを閉じていることを検出するAND回路84に
て、両目を閉じているときもクリック信号を出力しない
ようにしている。これは、通常の無意識で行う両目まば
たきではクリック動作させないことを意味する。その3
つの抑止信号はOR回路85により論理ORされ、遅延
回路86で信号を遅らせたものをDIS信号とする。こ
のDIS信号は、LH,RH信号をマウスインターフェ
イス信号のL,Rとして出力するかどうかのゲート信号
に使用される。遅延回路86によってゲート信号を遅ら
せているのは、マウス操作でいうドラッグ中にドラッグ
のキャンセルを行うためのESC信号を発生させるタイ
ミングを作るためである。左クリック動作中、つまり左
まばたきを継続実施中に右まばたきを行うと、この遅延
回路86の遅延期間だけESC信号が生成されることに
なる。
Next, the operation of the blink signal correction section 32 in this embodiment will be described. As shown in FIG. 4, the left eye blink sensor 4 and the right eye blink sensor 5
Is obtained by irradiating an eyeball with infrared rays and detecting the amount of reflected light with a sensor, and analog signals LI (left eye) and RI (right eye) proportional to the degree of eyelid closure to some extent
Is output. This signal is converted to a waveform shaping circuit 80 shown in FIG.
And 81, the signal is converted into two types of digital signals, one that outputs "1" at a high level and one that outputs "1" at a low level. A signal is output at a low level at the timing when the eyelids begin to fall, and a high-level signal is output at a timing immediately before the eyelids fall completely. Here, the low level is LL (left eye) and RL (right eye), and the high level is LH (left eye) and RH (right eye). One shots 82 and 8 starting from rising of LL and RL
3 is provided so that a click signal is not output for a certain period from the start of blinking. This means that malfunctions due to slight variations in the opening and closing timings of the left and right, which occur when blinking with both eyes, are meant. Also, an AND circuit 84 that detects that the left and right sensors are closing the eyelids at the same time prevents the click signal from being output even when both eyes are closed. This means that a click operation is not performed in the blinking of both eyes performed in a normal unconscious manner. Part 3
The two inhibitory signals are logically ORed by an OR circuit 85, and a signal delayed by a delay circuit 86 is used as a DIS signal. This DIS signal is used as a gate signal for determining whether to output the LH and RH signals as L and R of the mouse interface signal. The reason for delaying the gate signal by the delay circuit 86 is to create a timing for generating an ESC signal for canceling the drag during the drag operation by the mouse operation. If the right blink is performed during the left click operation, that is, while the left blink is continuously performed, the ESC signal is generated for the delay period of the delay circuit 86.

【0035】次に、図9(a),図9(b)を参照し
て、本発明の実施例におけるまばたき信号補正部の動作
について説明する。図9(a)は左目まばたき(左クリ
ック動作)を示し、図9(b)は両目まばたきを示す。
Next, the operation of the blinking signal correction unit in the embodiment of the present invention will be described with reference to FIGS. 9 (a) and 9 (b). FIG. 9A shows blinking of the left eye (left click operation), and FIG. 9B shows blinking of both eyes.

【0036】まず、図9(a)のタイムチャートを参照
して、左目まばたき(左クリック)のまばたき信号補正
部32の動作について説明する。図の上側に目を示す図
を示し、順に左目を閉じた状態,開けた状態,閉じた状
態を示している。まず、両目を開いた状態から左目だけ
を閉じていくと左目まばたきセンサ4の出力LIが少し
ずつ大きくなっていく。すると、波形整形回路80の出
力は低レベルでLLが、“0”から“1”となり、次に
高レベルでLHが、“0”から“1”に変わる。完全に
閉じた場合はLL,LHともに“1”になる。そして、
左目を閉じた状態から徐々に開いていくと、最初にLH
が“1”から“0”となり、次にLLが、“1”から
“0”に変わる。また、ワンショット82の出力である
LSは、LLの立ち上がりエッジでスタートし、LHが
“0”から“1”に変化するタイミングより後で、
“1”から“0”に戻るものとする。右目は開いたまま
なので、RI,RL,RH,RSともに変化が無く、
“0”のままである。この場合、OR回路85の入力信
号であるLLおよびRLのAND回路84の出力は
“0”、RSも“0”のままで、LSのみが“1”とな
って有効になる。OR回路85の出力は遅延回路86を
通してDIS信号となりゲート回路87を制御する。ゲ
ート回路87は波形整形回路80の出力LHを入力信号
とし、DIS信号で抑止した信号をLとして出力してい
る。通常の両目まばたきなのか片目まばたきなのかを判
断できるのは、どちらかの目を閉じてしばらくたってか
らである。その一定期間はワンショット82または83
を起動して(DIS信号が“1”の期間)クリック信号
Lを出力しないようにしている。この左右のまばたきタ
イミングのずれ、および両目まばたきのときにクリック
信号LおよびRの出力を抑止するための回路は、左目,
右目で回路が対象になっているので、左右のどちらの目
が先に閉じても抑止機能は有効である。
First, the operation of the blink signal correction unit 32 for blinking the left eye (left click) will be described with reference to the time chart of FIG. The figure showing the eyes is shown on the upper side of the figure, and the left eye is shown in a closed state, an opened state, and a closed state in order. First, when only the left eye is closed from the state where both eyes are opened, the output LI of the left eye blink sensor 4 gradually increases. Then, when the output of the waveform shaping circuit 80 is at a low level, LL changes from "0" to "1", and then at a high level, LH changes from "0" to "1". When completely closed, both LL and LH become "1". And
When the left eye is gradually opened from the closed state, LH
Changes from “1” to “0”, and then LL changes from “1” to “0”. The output LS of the one-shot 82 starts at the rising edge of LL, and after the timing when LH changes from “0” to “1”,
It is assumed that "1" returns to "0". Since the right eye remains open, there is no change in RI, RL, RH, and RS.
It remains "0". In this case, the output of the AND circuit 84 of LL and RL, which are the input signals of the OR circuit 85, remains "0", the RS remains "0", and only the LS becomes "1", which becomes valid. The output of the OR circuit 85 becomes a DIS signal through the delay circuit 86 to control the gate circuit 87. The gate circuit 87 receives the output LH of the waveform shaping circuit 80 as an input signal, and outputs the signal suppressed by the DIS signal as L. It is only after one of the eyes has been closed for a while that it is possible to judge whether it is blinking with normal eyes or blinking with one eye. The fixed period is one shot 82 or 83
Is activated (while the DIS signal is "1") so as not to output the click signal L. The circuit for suppressing the shift of the left and right blink timings and the output of the click signals L and R at the time of blinking with both eyes includes a left eye,
Since the circuit is targeted by the right eye, the suppression function is effective regardless of which of the left and right eyes is closed first.

【0037】次に、図9(b)のタイムチャートを参照
して、両目まばたきの場合のまばたき信号補正部32の
動作について説明する。両目まばたたきとはいえ操作者
の個人差よる左右のズレや、まばたきセンサとまぶたと
の相対的な位置関係がずれている場合に、左右の信号タ
イミングがずれる場合がある。そのような場合でもクリ
ック信号R,Lが出力されないことを説明している。左
目のまばたきの動作タイムチャートは、前述した図9
(a)のタイムチャートと同じである。右目のまばたき
のタイムチャートは、まばたきするタイミングが左目よ
り少し遅れている場合を除いて、左目のタイムチャート
と同等である。このとき、両目ともまばたきし始めのタ
イミングではワンショット82および83が働き、左右
どちらの目を先に閉じてもクリック信号であるLまたは
Rを出力しないようにしている。またワンショット82
および83が抑止する期間以降のタイミングではLLと
RLの論理積であるAND回路84の出力が“1”とな
り、これがOR回路85の入力となって遅延回路86を
通してゲート回路87および88の抑止信号となるよう
にしている。すなわち、両目まばたきが確定している期
間中もクリック信号R,Lを出力しないようにしてい
る。
Next, the operation of the blink signal correction unit 32 in the case of blinking with both eyes will be described with reference to the time chart of FIG. Despite the blinking of both eyes, there is a case where the left and right signal timings are shifted when the left and right displacement due to the individual difference of the operator and the relative positional relationship between the blinking sensor and the eyelid are shifted. It is described that the click signals R and L are not output even in such a case. The operation time chart for blinking the left eye is shown in FIG.
This is the same as the time chart of FIG. The time chart for blinking the right eye is the same as the time chart for the left eye, except that the blinking timing is slightly behind the left eye. At this time, the one shots 82 and 83 operate at the timing when both eyes start blinking, so that the click signal L or R is not output even if the left or right eye is closed first. Also one shot 82
The output of the AND circuit 84, which is the logical product of LL and RL, becomes "1" at a timing after the period in which the signals LL and RL are suppressed. I am trying to be. That is, the click signals R and L are not output even during the period in which the blinking of both eyes is determined.

【0038】次に、図10を参照して、本実施例におけ
るキャンセル動作について説明する。図10は、ドラッ
グ中のキャンセル動作を示すタイムチャートである。マ
ウス操作でいうドラッグ中のキャンセルをどのように実
現しているかを詳細に説明する。ドラッグとは、クリッ
クボタンを連続して押したままの状態で操作対象のオブ
ジェクトをつかんで移動する操作を行うことである。ド
ラッグ中にクリックボタンを離してしまえば、その場所
にオブジェクトをドロップしてしまうことになってしま
うため、これを回避するために、本発明では両目を閉じ
ることでESCキーをシュミレートする。ドロップ操作
をキャンセルしたい場合、通常のマウス,キーボード操
作では、キーボードからESCキーを押下してキャンセ
ルを行うが、本発明ではポインティング中にキーボード
エミュレートが出来ないため、両目を閉じることで代用
している。
Next, with reference to FIG. 10, a cancel operation in this embodiment will be described. FIG. 10 is a time chart showing a cancel operation during dragging. A detailed description will be given of how canceling during dragging with a mouse operation is realized. Dragging refers to performing an operation of moving an object to be operated while holding down a click button continuously. If the user releases the click button during dragging, the object will be dropped at that location. To avoid this, in the present invention, the ESC key is simulated by closing both eyes. If you want to cancel the drop operation, in normal mouse and keyboard operations, the ESC key is pressed from the keyboard to cancel the operation. However, in the present invention, the keyboard cannot be emulated during pointing, so that both eyes are closed and replaced. I have.

【0039】次に、図10のタイムチャートを参照し
て、左クリック中にクリック操作をキャンセルする動作
について説明する。まず、左目まばたきを始め、左クリ
ック信号Lが出力されまでのタイムチャートは、図9
(a)に示す通りである。次に、左クリック信号が確定
し、Lが“1”になってから左まぶたを開けると、左ク
リックが完了するが、左目を閉じているうちに右目も閉
じることで左目クリックをキャンセルするための信号E
SCを出力するようにしている。具体的には、左クリッ
ク信号Lと右目用ワンショット83の出力RSとの論理
積をAND回路89にて行い、その出力をESC信号と
してまばたき信号補正部32から出力する。ESC信号
はキーボードエミュレータ部23に入力され「ESCキ
ー」が押下されたとみなし、擬似的にキーボードインタ
ーフェイスから文字コード“ESC”を出力するもので
ある。このとき右目まばたきを行ってはいるが、すでに
左目まばたきを行っていて両目まばたきをしている状態
なので、図9(a)のタイムチャートの説明と同等にな
り、右クリック信号Rは出力されないことになる。
Next, an operation of canceling a click operation during a left click will be described with reference to a time chart of FIG. First, a time chart from the start of blinking the left eye to the output of the left click signal L is shown in FIG.
This is as shown in FIG. Next, when the left click signal is determined and the left eyelid is opened after L becomes "1", the left click is completed, but the right eye is closed while the left eye is closed, so that the left eye click is canceled. Signal E
SC is output. Specifically, a logical product of the left click signal L and the output RS of the right-eye one-shot 83 is performed by the AND circuit 89, and the output is output from the blinking signal correction unit 32 as an ESC signal. The ESC signal is input to the keyboard emulator unit 23, and it is assumed that the "ESC key" has been pressed, and the character code "ESC" is output from the keyboard interface in a pseudo manner. At this time, the right eye blink is performed, but the left eye blink is already performed and the both eyes are blinked. Therefore, the result is the same as that described in the time chart of FIG. 9A, and the right click signal R is not output. become.

【0040】次に、図4および図6に戻り、本実施例に
おけるキーボードエミュレータ部23の説明を行う。キ
ーの入力操作は、眼鏡ディスプレイ2に表示されるキー
ボード表示部54にある文字配列した文字のキーエリア
55の文字を選択凝視し、左目まばたきによるクリック
を行うことでエミュレートする。具体的には、操作者が
凝視している位置をキーエリア内に移動することでアイ
ポインタ50を移動し、左目まばたきをする。アイポイ
ンタの座標が文字のキーエリア55の座標範囲であれ
ば、そのキーに該当する文字コードをキーボードインタ
ーフェイスに出力する。また、キーボードエミュレータ
部は、まばたき信号補正部32のESC信号を入力と
し、両眼を閉じたときにポイント動作をキャンセルさせ
るために、文字コードESCを出力する機能も有してい
る。
Next, returning to FIG. 4 and FIG. 6, the keyboard emulator 23 in this embodiment will be described. The key input operation is emulated by selecting and staring at the characters in the key area 55 of the characters arranged in the keyboard display unit 54 displayed on the eyeglass display 2 and performing a click by blinking the left eye. Specifically, the eye pointer 50 is moved by moving the position where the operator is staring into the key area, and blinks the left eye. If the coordinates of the eye pointer are within the coordinate range of the character key area 55, the character code corresponding to the key is output to the keyboard interface. The keyboard emulator also has a function of receiving the ESC signal of the blinking signal correction unit 32 and outputting a character code ESC in order to cancel the pointing operation when both eyes are closed.

【0041】次に、図7,図8を参照して、本実施例に
おけるアイポインタの校正動作について説明する。理論
上、アイポインタ50とPCポインタ51とは、同一位
置になるはずであるが、アイカメラ3,視点座標変換部
20,または視点座標移動差分変換部22の位置認識精
度が悪いと若干のずれが生じることがある。この問題の
解消のため、視点座標移動差分変換部22は、次に説明
するポインタ校正機能を有する。ポインタ校正を実行す
るために、ポインタ校正エリア(1)60をPC画面5
6の右上,左上,右下,左下に設ける。このポインタ校
正機能は、図4の視点座標移動差分変換部22で行われ
る。校正操作は次のように行われる。まず、右目の凝視
している場所をポインタ校正エリア(1)である任意の
60に移動する。すると、アイポインタ50もポインタ
校正エリア(1)60に入ってくることになる。視点座
標変換部20は、アイポインタ50がポインタ校正エリ
ア(1)60内の座標に入っていることを認識すると、
アイポインタを強制的に校正ポイント53の座標に移動
させ一定期間ロックする。このロック期間にPCポイン
タ51も校正ポイント53の座標に移動させるようにコ
ンピュータのマウスインターフェース信号XおよびYを
出力する。また、操作者もこのロック期間中に校正ポイ
ント53を意識して凝視するようにする必要がある。こ
れによりアイポインタ50,PCポインタ51,および
操作者の視点のxy座標が校正ポイント53の位置で一
致し校正が行われることになる。校正のロック中は校正
ポイント53やアイポインタ50の色を変化させるよう
にすると、操作者にロックしている期間を容易に伝える
ことが可能になる。さらに、校正エリア(2)61を眼
鏡ディスプレイ2の表示部分の中央,左下,右下にも設
け、キーボードエミュレータ部のポインティング操作の
ため、アイポインタの校正をする。PCポインタ51は
表示可能エリアではないためY軸の補正は行わず、X軸
のみ校正するものとする。
Next, with reference to FIGS. 7 and 8, the operation of calibrating the eye pointer in this embodiment will be described. In theory, the eye pointer 50 and the PC pointer 51 should be at the same position. However, if the position recognition accuracy of the eye camera 3, the viewpoint coordinate conversion unit 20, or the viewpoint coordinate movement difference conversion unit 22 is poor, a slight shift may occur. May occur. To solve this problem, the viewpoint coordinate movement difference conversion unit 22 has a pointer calibration function described below. In order to execute pointer calibration, the pointer calibration area (1) 60 is displayed on the PC screen 5
6 at the upper right, upper left, lower right, lower left. This pointer calibration function is performed by the viewpoint coordinate movement difference conversion unit 22 in FIG. The calibration operation is performed as follows. First, the place where the right eye is staring is moved to an arbitrary 60 which is the pointer calibration area (1). Then, the eye pointer 50 also enters the pointer calibration area (1) 60. When the viewpoint coordinate conversion unit 20 recognizes that the eye pointer 50 is located at the coordinates in the pointer calibration area (1) 60,
The eye pointer is forcibly moved to the coordinates of the calibration point 53 and locked for a certain period. During this lock period, the mouse pointer signals X and Y of the computer are output so that the PC pointer 51 is also moved to the coordinates of the calibration point 53. Further, it is necessary for the operator to fix his eyes on the calibration point 53 during the lock period. Accordingly, the eye pointer 50, the PC pointer 51, and the xy coordinates of the operator's viewpoint match at the position of the calibration point 53, and calibration is performed. If the colors of the calibration point 53 and the eye pointer 50 are changed while the calibration is locked, it is possible to easily inform the operator of the locked period. Further, a calibration area (2) 61 is also provided at the center, lower left, and lower right of the display portion of the eyeglass display 2, and the eye pointer is calibrated for pointing operation of the keyboard emulator. Since the PC pointer 51 is not in the displayable area, the Y-axis is not corrected and only the X-axis is calibrated.

【0042】次に、本発明の他の実施例について説明す
る。
Next, another embodiment of the present invention will be described.

【0043】本発明のまばたきによるクリック機能を有
するポインティング装置の他の実施例として、右目部分
しかアイカメラを実装していないが、左目部分にもアイ
カメラを実装して左目および右目のアイカメラとまばた
きセンサとを切り替えるような機能を設けることで、左
右の目の使い方を左右反対にすることができる。すなわ
ち、左目で右クリックとポインティング操作を行い、右
目で左クリックを行うことも可能である。
As another embodiment of the pointing device having a click function by blinking according to the present invention, an eye camera is mounted only on the right eye part, and an eye camera is mounted also on the left eye part to provide a left eye and a right eye eye camera. By providing a function of switching between the blink sensor and the blink sensor, the usage of the left and right eyes can be reversed. That is, a right click and a pointing operation can be performed with the left eye, and a left click can be performed with the right eye.

【0044】また、本発明のまばたきによるクリック機
能を有するポインティング装置のまた他の実施例とし
て、両目のまばたきを数回連続して行うと眼鏡ディスプ
レイの表示が消えて透明になるようすれば、コンピュー
タ操作をしないときに操作者の視界の妨げにならない。
また、両目まばたきを連続で行う回数を変えることで両
眼のレンズがサングラスのように黒くすると、コンピュ
ータ操作中の眼球の動きやまばたき動作など、一見して
第三者からみて不自然な顔の表情を見せなくすることも
できる。レンズを黒くするには電圧をかけると光を通す
量を変化させる偏向レンズを用いることで可能である。
Further, as another embodiment of the pointing device having a click function by blinking according to the present invention, if the blinking of both eyes is performed several times consecutively, the display of the eyeglass display disappears and becomes transparent. It does not hinder the operator's view when not performing an operation.
In addition, by changing the number of times that both eyes are blinked continuously, if the lenses of both eyes become black like sunglasses, the appearance of unnatural faces from the perspective of a third party at first glance, such as eye movements and blinking movements while operating the computer. You can hide your expression. To make the lens black, it is possible to use a deflecting lens that changes the amount of light transmitted when a voltage is applied.

【0045】[0045]

【発明の効果】以上説明したように、本発明では、まば
たき信号補正部により両目のまばたき、および、まばた
きし始めの左右のまばたき検出の不安定な期間を無効に
することで実現している。従って、片目のまばたきでク
リック操作が可能であるという効果を奏する。
As described above, according to the present invention, the blinking signal correction unit makes the blinking of both eyes and the unstable period of the blink detection at the start of blinking invalid. Therefore, there is an effect that the click operation can be performed by blinking one eye.

【0046】また、キー操作は、キーボードエミュレー
タ部から文字コードをキーボードインターフェイスに出
力することで実現している。従って、画面のポインティ
ング操作のみならずキー入力操作も可能であるという効
果を奏する。
The key operation is realized by outputting a character code from the keyboard emulator to the keyboard interface. Therefore, there is an effect that not only a screen pointing operation but also a key input operation are possible.

【0047】さらに、右目でポインティング操作をして
左目を閉じてオブジェクトをつかんでいる(ドラッグし
ている)状態で右目も閉じることでESCキーの文字コ
ードを擬似的に出力することで実現している。従って、
ポインティング操作のキャンセル機能を有するという効
果を奏する。
Further, the character code of the ESC key is output in a pseudo manner by closing the right eye in a state where the pointing operation is performed with the right eye and the left eye is closed and the object is being grasped (draged). I have. Therefore,
This has the effect of having the function of canceling the pointing operation.

【0048】また、本発明のポインティング装置は、ポ
インタ校正エリアを画面の要所に設けることで、アイカ
メラ等の位置認識精度が低い場合でも容易に校正できる
という利点がある。
The pointing device of the present invention has an advantage that the pointer can be easily calibrated by providing a pointer calibration area at a key position on the screen even when the position recognition accuracy of an eye camera or the like is low.

【0049】さらに、操作対象のコンピュータのハード
ウェア,ソフトウェアおよびオペレーティングシステム
を変更することなく、従来のマウスインターフェイス,
キーボードインターフェイス,ビデオインターフェイス
のまま接続可能であるという効果を奏する。
Further, without changing the hardware, software and operating system of the computer to be operated, the conventional mouse interface,
This has the effect that the connection can be made without changing the keyboard interface and the video interface.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の実施の形態の全体構成を示す概略図で
ある。
FIG. 1 is a schematic diagram showing an overall configuration of an embodiment of the present invention.

【図2】本発明の実施の形態におけるまばたきセンサの
動作を示す概略図である。
FIG. 2 is a schematic diagram showing the operation of the blink sensor according to the embodiment of the present invention.

【図3】本発明の実施の形態におけるまばたきセンサの
動作を示す概略図である。
FIG. 3 is a schematic diagram showing an operation of the blink sensor according to the embodiment of the present invention.

【図4】本発明の実施の形態の全体構成を示すブロック
図である。
FIG. 4 is a block diagram showing an overall configuration of an embodiment of the present invention.

【図5】本発明の実施の形態におけるまばたき信号補正
部の構成を示すブロック図である。
FIG. 5 is a block diagram illustrating a configuration of a blink signal correction unit according to the embodiment of the present invention.

【図6】本発明の実施の形態における眼鏡ディスプレイ
に表示される映像の構成を示す概略図であ
FIG. 6 is a schematic diagram showing a configuration of an image displayed on an eyeglass display according to the embodiment of the present invention.

【図7】本発明の実施の形態におけるアイポインタの動
作を示す概略図である。
FIG. 7 is a schematic diagram showing an operation of an eye pointer according to the embodiment of the present invention.

【図8】本発明の実施の形態におけるアイポインタの動
作を示す概略図である。
FIG. 8 is a schematic diagram showing an operation of an eye pointer according to the embodiment of the present invention.

【図9】本発明の実施例におけるまばたき信号補正部の
動作を示すタイムチャートである。(a)は左目まばた
き,(b)は両目まばたきを示すタイムチャートであ
る。
FIG. 9 is a time chart illustrating an operation of a blink signal correction unit in the embodiment of the present invention. (A) is a time chart showing blinking of the left eye, and (b) is a time chart showing blinking of both eyes.

【図10】本発明の実施例におけるドラッグ中のキャン
セル動作を示すタイムチャートである。
FIG. 10 is a time chart showing a cancel operation during dragging in the embodiment of the present invention.

【符号の説明】[Explanation of symbols]

1 眼鏡型フレーム 2 眼鏡ディスプレイ 3 アイカメラ 4 左目まばたきセンサ 5 右目まばたきセンサ 6 コントローラ 7 コンピュータ 8 ケーブル 10 ポインティング装置 32 まばたき信号補正部 50 アイポインタ 53 校正ポイント 51 PCポインタ 55 文字のキーエリア 56 PC画面 54 キーボード表示部 60 ポインタ校正エリア(1) 61 ポインタ校正エリア(2) 80,81 波形整形回路 82,83 ワンショット 85 OR回路 86 遅延 87 ゲート回路 89 AND回路 90 赤外線ランプ 91 赤外線受光部 DESCRIPTION OF SYMBOLS 1 Glasses type frame 2 Glasses display 3 Eye camera 4 Left eye blink sensor 5 Right eye blink sensor 6 Controller 7 Computer 8 Cable 10 Pointing device 32 Blink signal correction unit 50 Eye pointer 53 Calibration point 51 PC pointer 55 Character key area 56 PC screen 54 Keyboard display unit 60 Pointer calibration area (1) 61 Pointer calibration area (2) 80, 81 Waveform shaping circuit 82, 83 One shot 85 OR circuit 86 Delay 87 Gate circuit 89 AND circuit 90 Infrared lamp 91 Infrared light receiving unit

Claims (14)

【特許請求の範囲】[Claims] 【請求項1】操作者の眼の動きを捕捉し、ディスプレイ
上の凝視している位置を検出し、前記眼の視点でクリッ
クする対象を位置づけているときに、前記眼の片目まば
たきによりクリック動作することを特徴とするまばたき
によるクリック機能を有するポインティング装置。
An eye movement of an operator is captured, a gaze position on a display is detected, and a click operation is performed by blinking one eye of the eye when a target to be clicked is positioned at the viewpoint of the eye. A pointing device having a click function by blinking.
【請求項2】前記ディスプレイは、コンピュータの表示
部分を眼鏡のレンズ部分に透過して表示させる眼鏡ディ
スプレイであることを特徴とする、請求項1に記載のま
ばたきによるクリック機能を有するポインティング装
置。
2. The pointing device according to claim 1, wherein the display is a spectacle display for displaying a display portion of a computer through a lens portion of spectacles for display.
【請求項3】前記眼鏡ディスプレイを支える眼鏡型フレ
ームを備えたことを特徴とする、請求項2に記載のまば
たきによるクリック機能を有するポインティング装置。
3. The pointing device according to claim 2, further comprising a spectacle-shaped frame for supporting the spectacle display.
【請求項4】前記眼の動きを捕捉し、前記眼鏡ディスプ
レイのどこを凝視しているかを検出するアイカメラを備
えたことを特徴とする、請求項3に記載のまばたきによ
るクリック機能を有するポインティング装置。
4. A pointing device having a click function by blinking according to claim 3, further comprising an eye camera which captures the movement of the eye and detects where the eyeglass display is staring. apparatus.
【請求項5】前記眼の左目および右目のまばたきを検出
する左目まばたきセンサおよび右目まばたきセンサを備
えたことを特徴とする、請求項4に記載のまばたきによ
るクリック機能を有するポインティング装置。
5. The pointing device according to claim 4, further comprising a left-eye blink sensor and a right-eye blink sensor for detecting a blink of the left and right eyes of the eye.
【請求項6】前記左目まばたきセンサおよび右目まばた
きセンサにより、前記左目または右目の一方だけ閉じて
いる期間が一定時間を超えている場合に、前記片目まば
たきと判断することを特徴とする、請求項5に記載のま
ばたきによるクリック機能を有するポインティング装
置。
6. The method according to claim 1, wherein the left-eye blink sensor and the right-eye blink sensor determine that the one-eye blink is detected when a period in which only one of the left eye and the right eye is closed exceeds a predetermined time. A pointing device having a blinking click function according to claim 5.
【請求項7】前記左目まばたきセンサおよび右目まばた
きセンサにより、前記左目および右目の両目が閉じてい
ると判断したときにポインティング操作のキャンセルを
行う機能を有することを特徴とする、請求項5または6
に記載のまばたきによるクリック機能を有するポインテ
ィング装置。
7. A function for canceling a pointing operation when the left-eye blink sensor and the right-eye blink sensor determine that both the left eye and the right eye are closed.
A pointing device having a click function by blinking according to item 1.
【請求項8】前記眼鏡ディスプレイ,前記アイカメラ,
前記左目まばたきセンサおよび右目まばたきセンサと、
ケーブルを介して制御するコントローラを備えたことを
特徴とする、請求項5〜7のいずれかに記載のまばたき
によるクリック機能を有するポインティング装置。
8. The eyeglass display, the eye camera,
The left eye blink sensor and the right eye blink sensor,
The pointing device having a click function by blinking according to any one of claims 5 to 7, further comprising a controller controlled via a cable.
【請求項9】前記コントローラは、制御対象のコンピュ
ータに対し、マウス,キーボード,ビデオのインターフ
ェースに接続されることを特徴とする、請求項8に記載
のまばたきによるクリック機能を有するポインティング
装置。
9. The pointing device according to claim 8, wherein the controller is connected to a mouse, a keyboard, and a video interface for a computer to be controlled.
【請求項10】前記コントローラは、前記左目まばたき
センサおよび右目まばたきセンサに接続され、まばたき
動作から前記マウス,キーボード,ビデオのインターフ
ェースの信号を出力する信号補正部を備えたことを特徴
とする、請求項9に記載のまばたきによるクリック機能
を有するポインティング装置。
10. A controller connected to the left-eye blink sensor and the right-eye blink sensor, and comprising a signal correction unit for outputting a signal of the mouse, keyboard, and video interface from a blink operation. Item 10. A pointing device having a click function by blinking according to item 9.
【請求項11】前記コントローラは、前記アイカメラに
接続され、操作者が前記眼鏡ディスプレイのどこを凝視
しているかを検出し、そのxy座標を出力する視点座標
変換部を備えたことを特徴とする、請求項10に記載の
まばたきによるクリック機能を有するポインティング装
置。
11. The apparatus according to claim 1, wherein the controller is connected to the eye camera, and includes a viewpoint coordinate conversion unit that detects where an operator is staring at the eyeglass display and outputs xy coordinates thereof. The pointing device having a click function by blinking according to claim 10.
【請求項12】前記コントローラは、前記視点座標変換
部から出力される前記xy座標を一定時間間隔でサンプ
リングし、前記眼が凝視している場所を示すアイポイン
タが移動したときに、その差分を計算し、移動に相当す
る信号を前記マウスのインターフェースに出力する視点
座標移動差分変換部を備えたことを特徴とする、請求項
11に記載のまばたきによるクリック機能を有するポイ
ンティング装置。
12. The controller according to claim 1, wherein the controller samples the xy coordinates output from the viewpoint coordinate conversion unit at regular time intervals, and calculates a difference when an eye pointer indicating a position where the eye is staring moves. The pointing device according to claim 11, further comprising a viewpoint coordinate movement difference conversion unit that calculates and outputs a signal corresponding to movement to an interface of the mouse.
【請求項13】前記コントローラは、前記視点座標変換
部からの前記xy座標からその座標上にアイポインタの
画像を作成し、前記ビデオのインターフェースの信号と
合成し、前記眼鏡ディスプレイに出力するビデオ信号ア
イポインタ部を備えたことを特徴とする、請求項12に
記載のまばたきによるクリック機能を有するポインティ
ング装置。
13. The controller according to claim 1, wherein the controller creates an image of an eye pointer on the xy coordinates from the XY coordinates from the viewpoint coordinate conversion unit, combines the image with an image signal of the video interface, and outputs the video signal to the glasses display. 13. The pointing device according to claim 12, further comprising an eye pointer unit.
【請求項14】前記コントローラは、前記視点座標変換
部からの前記xy座標をもとに前記眼鏡ディスプレイに
表示される部分にアイポインタがあるかどうかを判断
し、前記アイポインタがキーエリアの中の文字を凝視し
ている場合に、その文字コードを前記キーボードのイン
ターフェースに出力するキーボードエミュレーション部
を備えたことを特徴とする、請求項13に記載のまばた
きによるクリック機能を有するポインティング装置。
14. The controller according to claim 1, wherein the controller determines whether or not an eye pointer is located in a portion displayed on the eyeglass display based on the xy coordinates from the viewpoint coordinate conversion unit. 14. The pointing device according to claim 13, further comprising a keyboard emulation unit that outputs a character code to the interface of the keyboard when the user is staring at the character.
JP33729099A 1999-11-29 1999-11-29 Pointing device with click function by blink Pending JP2001154794A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP33729099A JP2001154794A (en) 1999-11-29 1999-11-29 Pointing device with click function by blink

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP33729099A JP2001154794A (en) 1999-11-29 1999-11-29 Pointing device with click function by blink

Publications (1)

Publication Number Publication Date
JP2001154794A true JP2001154794A (en) 2001-06-08

Family

ID=18307238

Family Applications (1)

Application Number Title Priority Date Filing Date
JP33729099A Pending JP2001154794A (en) 1999-11-29 1999-11-29 Pointing device with click function by blink

Country Status (1)

Country Link
JP (1) JP2001154794A (en)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030022537A (en) * 2001-09-11 2003-03-17 김태용 Position Data Input System Using Eye Tracking Camera And Method Thereof
WO2005059736A1 (en) * 2003-12-17 2005-06-30 National University Corporation Shizuoka University Device and method for controlling pointer by detecting pupil
JP2005182247A (en) * 2003-12-17 2005-07-07 National Univ Corp Shizuoka Univ Pointing device and method by pupil position detection
KR100749033B1 (en) 2004-03-03 2007-08-13 학교법인 한국정보통신학원 A method for manipulating a terminal using user's glint, and an apparatus
JP2008502990A (en) * 2004-06-18 2008-01-31 トビイ テクノロジー アーベー Apparatus, method and computer program for controlling a computer device based on eye tracking
KR100846210B1 (en) 2006-12-05 2008-07-15 한국전자통신연구원 System and method for actively inputting
CN102854979A (en) * 2011-06-13 2013-01-02 索尼公司 Information processing apparatus and program
JP2014174747A (en) * 2013-03-08 2014-09-22 Sony Corp Information processing apparatus, information processing method, and program
KR101465020B1 (en) 2012-12-20 2014-11-27 한국과학기술연구원 Apparatus for controlling artificial hand
WO2015026030A1 (en) * 2013-08-19 2015-02-26 Lg Electronics Inc. Display device and method of controlling the same
WO2015030482A1 (en) * 2013-08-27 2015-03-05 주식회사 매크론 Input device for wearable display
CN104461302A (en) * 2014-12-26 2015-03-25 贵州万臻时代通讯技术有限公司 Method for selectively turning on front camera and/or back camera of mobile terminal
US9146618B2 (en) 2013-06-28 2015-09-29 Google Inc. Unlocking a head mounted device
US9213403B1 (en) 2013-03-27 2015-12-15 Google Inc. Methods to pan, zoom, crop, and proportionally move on a head mountable display
US9354445B1 (en) 2011-09-16 2016-05-31 Google Inc. Information processing on a head-mountable device
CN106265006A (en) * 2016-07-29 2017-01-04 维沃移动通信有限公司 The antidote of a kind of dominant eye and mobile terminal
JP2018514306A (en) * 2015-04-28 2018-06-07 青▲島▼海▲尓▼洗衣机有限公司 Failure detection and processing method of washing machine
JP2018107823A (en) * 2018-03-05 2018-07-05 セイコーエプソン株式会社 Head-mounted display device and control method for head-mounted display device

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030022537A (en) * 2001-09-11 2003-03-17 김태용 Position Data Input System Using Eye Tracking Camera And Method Thereof
WO2005059736A1 (en) * 2003-12-17 2005-06-30 National University Corporation Shizuoka University Device and method for controlling pointer by detecting pupil
JP2005182247A (en) * 2003-12-17 2005-07-07 National Univ Corp Shizuoka Univ Pointing device and method by pupil position detection
KR100749033B1 (en) 2004-03-03 2007-08-13 학교법인 한국정보통신학원 A method for manipulating a terminal using user's glint, and an apparatus
JP2008502990A (en) * 2004-06-18 2008-01-31 トビイ テクノロジー アーベー Apparatus, method and computer program for controlling a computer device based on eye tracking
KR100846210B1 (en) 2006-12-05 2008-07-15 한국전자통신연구원 System and method for actively inputting
CN102854979A (en) * 2011-06-13 2013-01-02 索尼公司 Information processing apparatus and program
JP2013003647A (en) * 2011-06-13 2013-01-07 Sony Corp Information processing apparatus and program
US9933850B2 (en) 2011-06-13 2018-04-03 Sony Corporation Information processing apparatus and program
US9354445B1 (en) 2011-09-16 2016-05-31 Google Inc. Information processing on a head-mountable device
KR101465020B1 (en) 2012-12-20 2014-11-27 한국과학기술연구원 Apparatus for controlling artificial hand
JP2014174747A (en) * 2013-03-08 2014-09-22 Sony Corp Information processing apparatus, information processing method, and program
US9213403B1 (en) 2013-03-27 2015-12-15 Google Inc. Methods to pan, zoom, crop, and proportionally move on a head mountable display
US9811154B2 (en) 2013-03-27 2017-11-07 Google Inc. Methods to pan, zoom, crop, and proportionally move on a head mountable display
US9146618B2 (en) 2013-06-28 2015-09-29 Google Inc. Unlocking a head mounted device
US9377869B2 (en) 2013-06-28 2016-06-28 Google Inc. Unlocking a head mountable device
WO2015026030A1 (en) * 2013-08-19 2015-02-26 Lg Electronics Inc. Display device and method of controlling the same
WO2015030482A1 (en) * 2013-08-27 2015-03-05 주식회사 매크론 Input device for wearable display
CN104461302A (en) * 2014-12-26 2015-03-25 贵州万臻时代通讯技术有限公司 Method for selectively turning on front camera and/or back camera of mobile terminal
JP2018514306A (en) * 2015-04-28 2018-06-07 青▲島▼海▲尓▼洗衣机有限公司 Failure detection and processing method of washing machine
CN106265006A (en) * 2016-07-29 2017-01-04 维沃移动通信有限公司 The antidote of a kind of dominant eye and mobile terminal
JP2018107823A (en) * 2018-03-05 2018-07-05 セイコーエプソン株式会社 Head-mounted display device and control method for head-mounted display device

Similar Documents

Publication Publication Date Title
JP2001154794A (en) Pointing device with click function by blink
EP0679984B1 (en) Display apparatus
JP6786792B2 (en) Information processing device, display device, information processing method, and program
US20150002475A1 (en) Mobile device and method for controlling graphical user interface thereof
CN106919262A (en) Augmented reality equipment
JP2015115038A (en) Information processor and control method of the same
US11360550B2 (en) IMU for touch detection
JP2017102516A (en) Display device, communication system, control method for display device and program
JP2023520345A (en) Devices, methods, and graphical user interfaces for gaze-based navigation
WO2018198499A1 (en) Information processing device, information processing method, and recording medium
CN108369451B (en) Information processing apparatus, information processing method, and computer-readable storage medium
JP7459798B2 (en) Information processing device, information processing method, and program
JP6638392B2 (en) Display device, display system, display device control method, and program
JP6740613B2 (en) Display device, display device control method, and program
JP2012194626A (en) Display device
US20210216146A1 (en) Positioning a user-controlled spatial selector based on extremity tracking information and eye tracking information
CN206906983U (en) Augmented reality equipment
KR102522142B1 (en) Wearable augmented reality device that inputs operation signal using a two-handed gesture and method of operating a wearable augmented reality device using a two-handed gesture
US20230196765A1 (en) Software-based user interface element analogues for physical device elements
US12008160B2 (en) Eye tracking based selection of a user interface (UI) element based on targeting criteria
US20230370578A1 (en) Generating and Displaying Content based on Respective Positions of Individuals
US20240103678A1 (en) Devices, methods, and graphical user interfaces for interacting with extended reality experiences
US20240094819A1 (en) Devices, methods, and user interfaces for gesture-based interactions
US20230333643A1 (en) Eye Tracking Based Selection of a User Interface (UI) Element Based on Targeting Criteria
US20240103616A1 (en) User interfaces for gaze tracking enrollment

Legal Events

Date Code Title Description
FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080225

Year of fee payment: 8

FPAY Renewal fee payment (prs date is renewal date of database)

Year of fee payment: 9

Free format text: PAYMENT UNTIL: 20090225

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100225

Year of fee payment: 10

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100225

Year of fee payment: 10

FPAY Renewal fee payment (prs date is renewal date of database)

Year of fee payment: 11

Free format text: PAYMENT UNTIL: 20110225

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110225

Year of fee payment: 11