JP4852627B2 - Input device and input method - Google Patents

Input device and input method Download PDF

Info

Publication number
JP4852627B2
JP4852627B2 JP2009117754A JP2009117754A JP4852627B2 JP 4852627 B2 JP4852627 B2 JP 4852627B2 JP 2009117754 A JP2009117754 A JP 2009117754A JP 2009117754 A JP2009117754 A JP 2009117754A JP 4852627 B2 JP4852627 B2 JP 4852627B2
Authority
JP
Japan
Prior art keywords
input
information
line
display
sight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009117754A
Other languages
Japanese (ja)
Other versions
JP2010267071A (en
Inventor
洋平 南部
友彦 尾崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Docomo Inc
Original Assignee
NTT Docomo Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Docomo Inc filed Critical NTT Docomo Inc
Priority to JP2009117754A priority Critical patent/JP4852627B2/en
Publication of JP2010267071A publication Critical patent/JP2010267071A/en
Application granted granted Critical
Publication of JP4852627B2 publication Critical patent/JP4852627B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、ユーザの視線を用いて情報の入力を行う入力装置及び入力方法に関する。   The present invention relates to an input device and an input method for inputting information using a user's line of sight.

従来から、ディスプレイ上のユーザの視線の位置を検出して、「Yes」あるいは「No」といったユーザの意思をコンピュータに入力する装置が提案されている(例えば、特許文献1参照)。   2. Description of the Related Art Conventionally, there has been proposed an apparatus that detects the position of a user's line of sight on a display and inputs a user's intention such as “Yes” or “No” to a computer (see, for example, Patent Document 1).

特開平9−204287号公報JP-A-9-204287

しかしながら、例えば、50音の仮名をディスプレイに配して、ユーザの視線を用いて入力をすることを考えた場合、入力の候補となる文字の種類が多いためユーザが正確かつ迅速に視線を入力したい文字に合わせて入力を行うことが難しい場合がある。   However, for example, when considering putting 50 kana characters on the display and using the user's line of sight, the user inputs the line of sight accurately and quickly because there are many types of input candidates. It may be difficult to input according to the character you want.

本発明は、上記を鑑みてなされたものであり、視線を用いて情報の入力を行う入力装置において、正確かつ迅速な入力を容易に実現させることができる入力装置及び入力方法を提供することを目的とする。   The present invention has been made in view of the above, and provides an input device and an input method capable of easily realizing accurate and quick input in an input device that inputs information using a line of sight. Objective.

上記目的を達成するために、本発明に係る入力装置は、情報を表示するディスプレイと、入力対象となる複数の情報をディスプレイに表示させる入力用情報表示手段と、ディスプレイの入力用情報表示手段によって入力対象となる複数が表示された領域におけるユーザの視線の位置を検出する視線検出手段と、ユーザからの所定の操作を検出する操作検出手段と、操作検出手段によって所定の操作が検出されたタイミングで視線検出手段によって検出された視線の位置に基づいて、入力される情報を判断する入力情報判断手段と、入力情報判断手段によって入力される情報が判断されたタイミングにおいて視線検出手段によって検出された視線の位置の時系列な変化に応じて、入力情報判断手段によって判断された入力される情報が妥当であるか否かを判断して、当該判断結果を示す情報を出力する入力補正手段と、を備えることを特徴とする。 In order to achieve the above object, an input device according to the present invention includes a display for displaying information, input information display means for displaying a plurality of information to be input on the display, and input information display means for the display. Line-of-sight detection means for detecting the position of the line of sight of the user in the area where a plurality of input targets are displayed, operation detection means for detecting a predetermined operation from the user, and timing when the predetermined operation is detected by the operation detection means Based on the line-of-sight position detected by the line-of-sight detection means, input information determination means for determining input information, and information input by the input information determination means is detected by the line- of- sight detection means at the timing determined . The input information determined by the input information determination means is appropriate according to the time-series change in the position of the line of sight. Whether the judge, characterized in that it comprises an input correction means for outputting information indicating the determination result.

本発明に係る入力装置では、視線の位置の時系列な変化に基づいて、入力される情報が妥当であるか否かが判断される。従って、例えば、ユーザが情報の入力を行うために所定の操作を行う際に、ユーザが入力しようとする情報から視線がずれた場合には入力される情報が妥当でないと判断され、それに応じた処理を行わせることができる。即ち、ユーザが意図しない入力がされた場合に適切な処理をとることができ、これにより正確かつ迅速な入力を容易に実現させることができる。   In the input device according to the present invention, it is determined whether or not the input information is valid based on a time-series change in the position of the line of sight. Therefore, for example, when the user performs a predetermined operation to input information, if the line of sight deviates from the information that the user intends to input, it is determined that the input information is not appropriate, and accordingly Processing can be performed. That is, when an input unintended by the user is performed, an appropriate process can be performed, and thereby accurate and quick input can be easily realized.

入力補正手段は、入力される情報が妥当でないと判断したときに、視線検出手段によって検出された視線の位置の時系列な変化に応じて、入力情報判断手段によって判断された入力される情報とは異なると共に当該時系列な変化に応じた情報を、入力される情報の候補としてディスプレイに表示する。この構成によれば、ユーザが意図しない入力がされた場合に、ユーザの意図する入力の候補となる情報を提示することができ、更に正確かつ迅速な入力を容易に実現させることができる。 The input correction unit is configured to input information determined by the input information determination unit according to a time-series change in the position of the line of sight detected by the line of sight detection unit when the input information is determined to be invalid. And information corresponding to the time-series change are displayed on the display as input information candidates. According to this configuration, when an input unintended by the user is made, information that is a candidate for the input intended by the user can be presented, and more accurate and quick input can be easily realized.

入力用情報表示手段は、視線検出手段によって検出された視線の位置に応じて、表示させる入力対象となる情報を強調表示することが望ましい。この構成によれば、適切にユーザの視線をユーザの意図する入力対象となる情報に向かせることができる。   It is desirable that the input information display unit highlights the information to be input to be displayed according to the position of the line of sight detected by the line of sight detection unit. According to this configuration, it is possible to appropriately direct the user's line of sight to information to be input intended by the user.

入力装置は、入力補正手段による判断に基づいて、入力済の情報をディスプレイに表示させる入力済情報表示手段を更に備えることが望ましい。この構成によれば、ユーザが入力済の情報を確認することができ、利用性を向上させることができる。   The input device preferably further includes an input information display means for displaying the input information on the display based on the determination by the input correction means. According to this configuration, it is possible to check information that has been input by the user, and to improve usability.

入力装置は、操作検出手段によって所定の操作が検出されたタイミングで視線検出手段によって検出された視線の位置が、入力済情報表示手段によって表示された入力済の情報の位置にあるか否かを判断して、当該入力済の情報を修正可能な状態とする修正手段を更に備えることが望ましい。この構成によれば、入力済の情報を容易に修正させることができる。 Input device, the position of the predetermined operation by the operation detecting means is detected by the sight line detection means is detected timing glance, whether the position of the information of the completed input displayed by the already input information display means It is desirable to further include a correction unit that makes a determination and makes the input information correctable. According to this configuration, input information can be easily corrected.

入力用情報表示手段は、修正手段によって修正可能な状態とされた入力済の情報に対応する入力対象となる情報の周囲に表示される、入力対象となる情報を強調表示することが望ましい。この構成によれば、ユーザの意図する修正の候補となる情報を提示することができ、更に正確かつ迅速な入力を容易に実現させることができる。   The input information display means desirably highlights the information to be input displayed around the information to be input corresponding to the input information that has been corrected by the correction means. According to this configuration, it is possible to present information that is a candidate for correction intended by the user, and it is possible to easily realize more accurate and quick input.

ところで、本発明は、上記のように入力装置の発明として記述できる他に、以下のように当該入力装置における入力方法としても記述することができる。これはカテゴリが異なるだけで、実質的に同一の発明であり、同様の作用及び効果を奏する。   By the way, the present invention can be described as an input device invention as described above, and can also be described as an input method in the input device as follows. This is substantially the same invention only in different categories, and has the same operations and effects.

即ち、本発明に係る入力方法は、情報を表示するディスプレイを備える入力装置による入力方法であって、入力対象となる複数の情報をディスプレイに表示させる入力用情報表示ステップと、ディスプレイの入力用情報表示ステップにおいて入力対象となる複数が表示された領域におけるユーザの視線の位置を検出する視線検出ステップと、ユーザからの所定の操作を検出する操作検出ステップと、操作検出ステップにおいて所定の操作が検出されたタイミングで視線検出ステップにおいて検出された視線の位置に基づいて、入力される情報を判断する入力情報判断ステップと、入力情報判断ステップにおいて入力される情報が判断されたタイミングにおいて視線検出ステップにおいて検出された視線の位置の時系列な変化に応じて、入力情報判断ステップにおいて判断された入力される情報が妥当であるか否かを判断して、入力される情報が妥当でないと判断したときに、視線検出ステップにおいて検出された視線の位置の時系列な変化に応じて、入力情報判断ステップにおいて判断された入力される情報とは異なると共に当該時系列な変化に応じた情報を、入力される情報の候補としてディスプレイに表示する入力補正ステップと、を含むことを特徴とする。
入力方法は、入力補正ステップにおける判断に基づいて、入力済の情報をディスプレイに表示させる入力済情報表示ステップと、操作検出ステップにおいて所定の操作が検出されたタイミングで視線検出ステップにおいて検出された視線の位置が、入力済情報表示ステップにおいて表示された入力済の情報の位置にあるか否かを判断して、当該入力済の情報を修正可能な状態とする修正ステップと、を更に含み、入力用情報表示ステップにおいて、修正ステップにおいて修正可能な状態とされた入力済の情報に対応する入力対象となる情報の周囲に表示される、入力対象となる情報を強調表示する、ことが望ましい。
That is, the input method according to the present invention is an input method by an input device including a display for displaying information, and an input information display step for displaying a plurality of information to be input on the display, and the input information for the display In the display step, a line-of-sight detection step for detecting the position of the user's line of sight in a region where a plurality of input targets are displayed, an operation detection step for detecting a predetermined operation from the user, and a predetermined operation detected in the operation detection step An input information determination step for determining information to be input based on the position of the line of sight detected in the line of sight detection step at the determined timing, and a line of sight detection step in which the information input in the input information determination step is determined . Depending on the time-series change in the detected gaze position, the input information A time-series change in the position of the line of sight detected in the line-of-sight detection step when it is determined whether or not the input information determined in the determination step is appropriate and the input information is not valid And an input correction step for displaying information corresponding to the time-series change on the display as a candidate for input information, which is different from the input information determined in the input information determination step. It is characterized by.
Input method based on the determination at the input correction step, the already input information display step of displaying the information already entered in the display, a predetermined operation in the operation detection step is detected in the visual axis detection steps were detected timing gaze And a correction step for determining whether or not the position of the input information is at the position of the input information displayed in the input information display step and making the input information in a correctable state. In the information display step, it is desirable to highlight the information to be input displayed around the information to be input corresponding to the input information that has been corrected in the correction step.

本発明によれば、例えば、ユーザが情報の入力を行うために所定の操作を行う際に、ユーザが入力しようとする情報から視線がずれた場合には、入力される情報が妥当でないと判断され、それに応じた処理を行わせることができる。即ち、本発明によれば、ユーザが意図しない入力がされた場合に適切な処理をとることができ、これにより正確かつ迅速な入力を容易に実現させることができる。   According to the present invention, for example, when the user performs a predetermined operation to input information, if the line of sight deviates from the information that the user intends to input, it is determined that the input information is not valid. Thus, the processing corresponding to that can be performed. In other words, according to the present invention, it is possible to perform appropriate processing when an input unintended by the user is made, and thereby it is possible to easily realize an accurate and quick input.

本発明の実施形態に係る入力装置である携帯端末の外観構成を示す図である。It is a figure which shows the external appearance structure of the portable terminal which is an input device which concerns on embodiment of this invention. 本発明の実施形態に係る入力装置である携帯端末の機能構成を示す図である。It is a figure which shows the function structure of the portable terminal which is an input device which concerns on embodiment of this invention. ユーザの視線による文字の入力が行われる際のディスプレイの表示を示す図である。It is a figure which shows the display of a display when the character input by a user's eyes | visual_axis is performed. 文字の入力時のユーザの視線を示す図である。It is a figure which shows a user's eyes | visual_axis at the time of the input of a character. 入力された情報の修正が行われる際のディスプレイの表示を示す図である。It is a figure which shows the display of a display when the input information is corrected. 本発明の実施形態に係る入力装置である携帯端末のハードウェア構成を示す図である。It is a figure which shows the hardware constitutions of the portable terminal which is an input device which concerns on embodiment of this invention. 本発明の実施形態に係る入力装置である携帯端末で実行される処理(入力方法)を示すフローチャートである。It is a flowchart which shows the process (input method) performed with the portable terminal which is an input device which concerns on embodiment of this invention.

以下、図面と共に本発明に係る入力装置及び入力方法の好適な実施形態について詳細に説明する。なお、図面の説明においては同一要素には同一符号を付し、重複する説明を省略する。   DESCRIPTION OF EMBODIMENTS Hereinafter, preferred embodiments of an input device and an input method according to the present invention will be described in detail with reference to the drawings. In the description of the drawings, the same elements are denoted by the same reference numerals, and redundant description is omitted.

図1に本実施形態に係る入力装置である携帯端末10の外観構成を示す。携帯端末10としては、具体的には、携帯電話機やPDA(Personal Digital Assistants)等のユーザによって携帯されて用いられる電子機器が相当する。図1に示すように携帯端末10は、第1の筐体20と第2の筐体30とを備えている。第1の筐体20及び第2の筐体30はヒンジを構成して互い接続されており、携帯端末10は、折り畳むことができる形状の、いわゆる折り畳み式の端末である。第1の筐体20と第2の筐体30とは、ほぼ同じ大きさ、かつほぼ直方体の形状をしており、折り畳んだときに最も大きい面(主面)同士が対向するように重ね合わされる。第1の筐体20及び第2の筐体30は、縦横方向に比べて、厚さ方向の長さが短く形成されており、即ち、薄型に形成されており、ユーザが使用しやすい形状となっている。また、第1の筐体20及び第2の筐体30は、それぞれ縦長に形成されている。   FIG. 1 shows an external configuration of a mobile terminal 10 that is an input device according to the present embodiment. Specifically, the mobile terminal 10 corresponds to an electronic device that is carried and used by a user such as a mobile phone or a PDA (Personal Digital Assistants). As shown in FIG. 1, the mobile terminal 10 includes a first housing 20 and a second housing 30. The first casing 20 and the second casing 30 constitute a hinge and are connected to each other, and the mobile terminal 10 is a so-called foldable terminal that can be folded. The first casing 20 and the second casing 30 have substantially the same size and a substantially rectangular parallelepiped shape, and are overlapped so that the largest surfaces (main surfaces) face each other when folded. The The first casing 20 and the second casing 30 are formed so that the length in the thickness direction is shorter than that in the vertical and horizontal directions, that is, the first casing 20 and the second casing 30 are thin and easy to use by the user. It has become. In addition, the first casing 20 and the second casing 30 are each formed vertically long.

第1の筐体20の主面には、文字や画像等の情報を表示するディスプレイ21が設けられている。ディスプレイ21は、液晶ディスプレイ等の画像表示装置により構成され、携帯端末10に含まれるCPU(Central Processing Unit)やメモリ等によって制御された画像を表示する。ディスプレイ21は、ディスプレイ21が設けられる主面の矩形形状に合わせた、縦長の形状をしている。ディスプレイ21のサイズは、例えば、3.0インチ程度である。また、第1の筐体20の主面のディスプレイ21の両サイド、縦長方向のほぼ中央にはカメラ22が設けられている。通常、第1の筐体20の主面はユーザの顔に向くように使用され、そのように使用された際にカメラ22はユーザの目を撮影する。カメラ22によって撮影された情報は、ユーザの視線を検出するために用いられる。なお、カメラ22は、本発明のような配置にする必要はないが、視線誤差を軽減できる配置が望ましい。   A display 21 for displaying information such as characters and images is provided on the main surface of the first housing 20. The display 21 includes an image display device such as a liquid crystal display, and displays an image controlled by a CPU (Central Processing Unit), a memory, and the like included in the mobile terminal 10. The display 21 has a vertically long shape that matches the rectangular shape of the main surface on which the display 21 is provided. The size of the display 21 is about 3.0 inches, for example. A camera 22 is provided on both sides of the display 21 on the main surface of the first housing 20 and substantially in the center in the longitudinal direction. Normally, the main surface of the first housing 20 is used so as to face the user's face, and the camera 22 captures the user's eyes when used in such a manner. Information taken by the camera 22 is used to detect the user's line of sight. The camera 22 need not be arranged as in the present invention, but is preferably arranged so as to reduce the line-of-sight error.

携帯端末10では、例えば、電子メール機能等に利用される、複数の文字を入力する文書の入力機能を備えている。携帯端末10は、ユーザの視線を利用して文字の入力を行うことができる。例えば、図1に示すように、ディスプレイ21の第1領域21aに、入力対象となる複数の情報である文字(50音の仮名)を表示させる。ユーザが入力したい文字の箇所を見る、即ちユーザの視線の位置が文字の箇所に合わせられることによって、携帯端末10への文字の入力が行われる。ユーザに入力された文字は、(図1に示した状態で)ディスプレイ21の第1領域21aの下方に位置する第2領域21aに表示される。また、ディスプレイ21には、文字以外の操作(例えば、図1に示すように入力された文字の変換)を示す情報を入力するための表示21cが表示されてもよい。   For example, the portable terminal 10 has a document input function for inputting a plurality of characters, which is used for an e-mail function or the like. The mobile terminal 10 can input characters using the user's line of sight. For example, as shown in FIG. 1, characters (50 kana characters) that are a plurality of pieces of information to be input are displayed on the first area 21 a of the display 21. The user inputs a character to the mobile terminal 10 by looking at the character portion that the user wants to input, that is, by adjusting the position of the user's line of sight to the character portion. The characters input by the user are displayed in the second area 21a located below the first area 21a of the display 21 (in the state shown in FIG. 1). The display 21 may display a display 21c for inputting information indicating an operation other than characters (for example, conversion of characters input as shown in FIG. 1).

第2の筐体30には、ユーザの携帯端末10に対する操作を受け付ける操作部が設けられている(図示せず)。また、第2の筐体30の左右の側面の第1の筐体20との接続部分の近傍には、それぞれボタン31,32が設けられている。(図1に示した状態で)左側に位置している、決定ボタン31は、ユーザの視線による入力の決定及び確定全般を行うためのボタンである。例えば、ユーザの視線の位置が文字の箇所に合わせられるときにユーザによって決定ボタン31が押下されることによって、携帯端末10へのその文字の入力を行うためのボタンである。右側に位置している、戻るボタン32は、ユーザの視線による入力において、動作を戻したり削除したりする操作を行うためのボタンである。   The second housing 30 is provided with an operation unit (not shown) that receives an operation on the mobile terminal 10 by the user. Further, buttons 31 and 32 are provided in the vicinity of the connection portion between the left and right side surfaces of the second housing 30 with the first housing 20, respectively. The determination button 31 located on the left side (in the state shown in FIG. 1) is a button for performing overall input determination and confirmation based on the user's line of sight. For example, it is a button for inputting the character to the mobile terminal 10 when the user presses the enter button 31 when the position of the user's line of sight is adjusted to the character position. The return button 32 located on the right side is a button for performing an operation of returning or deleting the operation in the input by the user's line of sight.

また、携帯端末10には、携帯電話機に備えられている、マイク、スピーカー及びカメラ等の機能が備えられていてもよい(図示せず)。   Further, the mobile terminal 10 may be provided with functions such as a microphone, a speaker, and a camera (not shown) provided in the mobile phone.

引き続いて、携帯端末10の本発明に係る機能について説明する。携帯端末10は、図2に示すように第1領域表示部11と、視線検出部12と、操作検出部13と、入力情報判断部14と、入力補正部15と、第2領域表示部16と、修正部17とを備えて構成されている。   Subsequently, functions of the mobile terminal 10 according to the present invention will be described. As shown in FIG. 2, the mobile terminal 10 includes a first region display unit 11, a line-of-sight detection unit 12, an operation detection unit 13, an input information determination unit 14, an input correction unit 15, and a second region display unit 16. And a correction unit 17.

第1領域表示部11は、入力対象となる文字をディスプレイ21の第1領域21aに表示させる入力用情報表示手段である。第1領域表示部11は、予め入力対象となる文字の情報、及びそれぞれの文字が第1領域21aのどの部分に表示されるか(表示座標位置)を示す情報を記憶しており、その情報に基づいて入力対象となる文字を表示させる。例えば、図1に示すように50音の仮名を5文字ずつ等間隔に万遍なく並べて表示させる。   The first area display unit 11 is input information display means for displaying characters to be input on the first area 21 a of the display 21. The first area display unit 11 stores in advance information on characters to be input and information indicating in which part of the first area 21a each character is displayed (display coordinate position). Based on, the character to be input is displayed. For example, as shown in FIG. 1, kana of 50 tones are displayed evenly arranged at regular intervals of 5 characters.

視線検出部12は、ディスプレイ21におけるユーザの視線の位置(ユーザが見ているディスプレイの位置)を検出する視線検出手段である。視線検出部12は、携帯端末10に設けられたカメラ22から撮影された画像が入力され、当該画像に基づいてユーザの視線の位置を検出する。視線の位置の検出方法は、既存の方法を用いることができる。この視線の検出の際には、例えば、(表示等によって)ユーザにディスプレイ21の四隅を見るように促して、四隅を見たときの視線を検出して、より適切に視線の検出が行われるようにしてもよい。   The line-of-sight detection unit 12 is line-of-sight detection means for detecting the position of the user's line of sight on the display 21 (the position of the display the user is looking at). The line-of-sight detection unit 12 receives an image taken from the camera 22 provided in the mobile terminal 10 and detects the position of the user's line of sight based on the image. An existing method can be used as a method for detecting the position of the line of sight. In detecting the line of sight, for example, the user is prompted to view the four corners of the display 21 (by display or the like), and the line of sight when the four corners are viewed is detected, so that the line of sight is detected more appropriately. You may do it.

視線検出部12は、(視線による入力機能が利用されている間)継続的に視線を検出し続ける。視線検出部12は、検出したユーザの視線の位置の情報を第1領域表示部11、入力情報判断部14、入力補正部15及び修正部17に出力する。ユーザの視線の位置の情報は、例えば、ディスプレイ21上の座標位置を示す情報である。視線検出部12は、図1及び図3等に示すように、検出したディスプレイ21上の視点の位置を、ディスプレイ21にターゲットT(カーソル)として表示させる。これにより、ユーザがディスプレイ21のどの部分を見ているかを把握することができる。   The line-of-sight detection unit 12 continues to detect the line of sight continuously (while the line-of-sight input function is used). The line-of-sight detection unit 12 outputs information on the detected position of the line of sight of the user to the first region display unit 11, the input information determination unit 14, the input correction unit 15, and the correction unit 17. The information on the position of the user's line of sight is information indicating the coordinate position on the display 21, for example. The line-of-sight detection unit 12 causes the display 21 to display the detected position of the viewpoint on the display 21 as a target T (cursor), as shown in FIGS. Thereby, it can be grasped which part of the display 21 the user is looking at.

操作検出部13は、ユーザからの携帯端末10に対する所定の操作を検出する操作検出手段である。所定の操作とは、決定ボタン31又は戻るボタン32の押下である。この操作は、例えば、ユーザが視線で指定した文字を入力するための操作である。操作検出部13は、ユーザからの当該操作を検出した場合、その旨を入力情報判断部14、入力補正部15及び修正部17に通知する。   The operation detection unit 13 is an operation detection unit that detects a predetermined operation on the mobile terminal 10 from the user. The predetermined operation is pressing of the determination button 31 or the return button 32. This operation is, for example, an operation for inputting a character designated by the user with a line of sight. When the operation detection unit 13 detects the operation from the user, the operation detection unit 13 notifies the input information determination unit 14, the input correction unit 15, and the correction unit 17 to that effect.

入力情報判断部14は、操作検出部13によってユーザによる決定ボタン31の押下が検出されたタイミングで、視線検出部12によって検出されたユーザの視線の位置に応じて、入力される文字を判断する入力情報判断手段である。入力情報判断部14は、文字毎に入力を受け付ける第1領域21aでの範囲を記憶しており、決定ボタン31の押下が検出されたタイミングで視線検出部12から通知された視線の位置が何れの文字の範囲に含まれるか判断することによって入力される文字を判断する。文字毎に入力を受け付ける第1領域21aでの範囲は、第1領域21aにおいて当該文字が表示されている矩形の範囲である。   The input information determination unit 14 determines a character to be input according to the position of the user's line of sight detected by the line-of-sight detection unit 12 at the timing when the operation detection unit 13 detects that the user presses the enter button 31. This is input information determination means. The input information determination unit 14 stores a range in the first region 21a that accepts input for each character, and the line-of-sight position notified from the line-of-sight detection unit 12 at the timing when the pressing of the determination button 31 is detected. The character to be input is determined by determining whether it is included in the range of characters. The range in the first area 21a that accepts input for each character is a rectangular range in which the character is displayed in the first area 21a.

例えば、図3の左の図に示されるように、ターゲットTが「き」の文字上にある場合は「き」の文字が入力される文字として判断され、図3の右の図に示されるように、ターゲットTが「す」の文字上にある場合は「す」の文字が入力される文字として判断される。入力情報判断部14は、ユーザからの操作に基づいて入力される情報を判断した旨を入力補正部15に通知する。   For example, as shown in the left diagram of FIG. 3, when the target T is on the character “ki”, the character “ki” is determined as an input character, and is shown in the right diagram of FIG. 3. Thus, when the target T is on the character “SU”, the character “SU” is determined as the input character. The input information determination unit 14 notifies the input correction unit 15 that information input based on an operation from the user has been determined.

また、決定ボタン31の押下が検出されていない状態では、第1領域表示部11が、視線検出部12によって検出されたユーザの視線の位置に応じて、表示させる文字を強調表示することとしてもよい。具体的には、第1領域表示部11が、視線の位置が何れの文字の範囲に含まれるか判断して、視線の位置が含まれる範囲に係る文字を入力される文字の候補として決定する。そして、決定した入力される文字の候補を、図3に示すように強調表示する。強調表示は具体的には、文字の色(例えば、通常の表示の色が黒であれば、赤で表示する)と大きさ(例えば、通常の大きさの1.5倍にする)とを変化させる。また、上記以外でも、視線の位置と各文字の位置との距離を算出して、視線の位置と最も近い文字を入力される文字の候補と決定して強調表示してもよい。   Further, in a state where pressing of the determination button 31 is not detected, the first area display unit 11 may highlight the character to be displayed according to the position of the user's line of sight detected by the line of sight detection unit 12. Good. Specifically, the first region display unit 11 determines which character range includes the line-of-sight position, and determines the character related to the range including the line-of-sight position as an input character candidate. . Then, the determined input candidate characters are highlighted as shown in FIG. Specifically, the highlighting includes the character color (for example, if the normal display color is black, it is displayed in red) and the size (for example, 1.5 times the normal size). Change. In addition to the above, the distance between the line-of-sight position and the position of each character may be calculated, and the character closest to the line-of-sight position may be determined as an input character candidate and highlighted.

また、視線の位置からの距離が小さい順に3番目までの文字を、別の強調表示(例えば、色を緑にする)とすることができる。なお、ここでディスプレイ21の端に視線がある場合には、その数を適宜減らすこととしてもよい。また、強調表示は、視線の位置と最も近い文字が一定時間(例えば、数秒)変化しなかった場合のみに行われることとしてもよい(その場合、当該時間を測定しておく)。なお、第1領域表示部11は、視線検出部12から入力された情報によって示される視線の位置が、第1領域21aに含まれるか否かを判断して、第1領域21aに含まれる判断したときのみに上記の強調表示を行う。このように強調表示を行うことによって、ユーザはディスプレイ21上のどこに視線の位置があるかを容易に確認することができ、適切にユーザの視線をユーザの意図する入力対象となる文字に向かせることができる。   In addition, the third character in order of increasing distance from the line-of-sight position can be displayed as another highlighted display (for example, the color is green). Here, when there is a line of sight at the end of the display 21, the number thereof may be appropriately reduced. The highlighting may be performed only when the character closest to the line of sight does not change for a certain time (for example, several seconds) (in that case, the time is measured). The first area display unit 11 determines whether or not the position of the line of sight indicated by the information input from the line-of-sight detection unit 12 is included in the first area 21a, and determines whether or not the first area 21a is included in the first area 21a. The above highlighting is performed only when By performing highlighting in this way, the user can easily confirm where the line of sight is located on the display 21, and appropriately direct the user's line of sight toward the input target character intended by the user. be able to.

入力補正部15は、視線検出部12によって検出された視線の位置の時系列な変化に基づいて、入力情報判断部14によって判断された入力される文字が妥当であるか否かを判断して、当該判断結果を示す情報を出力する入力補正手段である。入力補正部15も、入力情報判断部14と同様に文字毎に入力を受け付ける第1領域21aでの範囲を記憶している。また、入力補正部15は、視線検出部12から入力された視線の位置の情報を時系列に記憶しておく。入力補正部15は、入力情報判断部14によって入力される文字が判断されたタイミングと、そのタイミングの所定の時間(例えば、0.1秒)前とで、視線検出部12によって検出された視線の位置に変化が無いか否かを判断する。入力補正部15は、変化を判断するために参照するタイミング(上記の例では、判断された時点と0.1秒前の時点)は、予め記憶している。   The input correction unit 15 determines whether the input character determined by the input information determination unit 14 is valid based on the time-series change in the position of the line of sight detected by the line-of-sight detection unit 12. These are input correction means for outputting information indicating the judgment result. Similarly to the input information determination unit 14, the input correction unit 15 also stores a range in the first area 21a that accepts input for each character. The input correction unit 15 stores information on the position of the line of sight input from the line-of-sight detection unit 12 in time series. The input correction unit 15 detects the line of sight detected by the line-of-sight detection unit 12 at a timing when the character input by the input information determination unit 14 is determined and a predetermined time (for example, 0.1 second) before the timing. It is determined whether or not there is any change in the position. The input correction unit 15 stores in advance timings to be referred to in order to determine a change (in the above example, the determined time point and the time point 0.1 seconds before).

例えば、図4(a)に示すように、入力される文字が判断されたタイミングの0.1秒前ではユーザの視線の位置が「き」の範囲(矩形の範囲)にあり、図4(b)に示すように、入力される文字が判断されたタイミングでは「く」の範囲にある場合は(この場合、入力情報判断部14による判断では「く」が入力される情報となる)、入力補正部15は、入力情報判断部14による判断が妥当でないと判断する。この状態では、「く」に現在のユーザの視点があるものの、0.1秒前には「き」の範囲内にターゲットTが存在するため、視線が高速で移動中であることが予想される。仮に、この状態で決定ボタン31が押下した場合、人間の認知対応時間の0.1秒よりも短い時間で「く」を認識し選択していることとなる。なお、本実施形態では、網膜に達した光を脳が視覚的に認知すするまでに0.1秒であると想定している。   For example, as shown in FIG. 4A, the position of the user's line of sight is in the range of “ki” (rectangular range) 0.1 seconds before the timing when the input character is determined. As shown in b), when the input character is determined to be in the range of “ku” (in this case, the input information determination unit 14 determines “ku” is input), The input correction unit 15 determines that the determination by the input information determination unit 14 is not appropriate. In this state, “ku” has the current user's viewpoint, but the target T exists within the range of “ki” 0.1 seconds before, so it is expected that the line of sight is moving at high speed. The If the enter button 31 is pressed in this state, “ku” is recognized and selected in a time shorter than the human recognition response time of 0.1 seconds. In the present embodiment, it is assumed that it takes 0.1 seconds for the brain to visually recognize the light reaching the retina.

この場合、「誤動作」である可能性が非常に高いため、入力補正部15は、ターゲットの位置がたとえ「く」の領域にあった場合でも、「もしかして『き』ですか?」のように、ターゲットが流入してきた範囲の文字に関して、修正(補正)の示唆をユーザに対して行う。ユーザが希望するだろう文字候補の示唆を先回りし行うことが目的である。上記の示唆は、入力補正部15による判断結果を示す情報の出力として行われるものである。   In this case, since there is a very high possibility of a “malfunction”, the input correction unit 15 is like “Is it a“ ki ”?” Even if the target position is in the “ku” region. The user is instructed to correct (correct) the characters in the range where the target has entered. The purpose is to proactively suggest the candidate characters that the user would like. The above suggestion is performed as an output of information indicating a determination result by the input correction unit 15.

具体的には、ディスプレイ21に上記の示唆を行う表示を行うと共に、修正の可否の入力をユーザから受け付ける(この入力もユーザの視線の位置に基づいて行うこととしてもよい)。即ち、入力補正部15は、入力される情報が妥当でないと判断したときに、視線検出部12によって検出された視線の位置の時系列な変化に応じて、入力情報判断部14によって判断された情報とは異なる情報を、入力される情報の候補としてディスプレイ21に表示する。ここで、ユーザから修正しない旨の入力があった場合は、入力情報判断部14により判断された情報(上記の例では「く」)が入力された文字(入力済の情報)とされる。一方、示唆を受けてユーザから修正する旨の入力があった場合は、示唆に係る情報(上記の例では「き」)が入力された文字(入力済の情報)とされる。   Specifically, the display 21 displays the above suggestion and accepts an input of whether or not correction is possible from the user (this input may also be performed based on the position of the user's line of sight). That is, when the input correction unit 15 determines that the input information is not valid, the input information determination unit 14 determines the time-series change in the line-of-sight position detected by the line-of-sight detection unit 12. Information different from the information is displayed on the display 21 as input information candidates. Here, if there is an input indicating that the user does not correct the information, the information determined by the input information determination unit 14 (in the above example, “ku”) is the input character (input information). On the other hand, when there is an input indicating that the correction is received from the user, the information related to the suggestion ("ki" in the above example) is set as the input character (input information).

一方で、図4(b)に示すように、入力される文字が判断されたタイミングの0.1秒前、及び入力される文字が判断されたタイミングの両方でユーザの視線の位置が「き」の範囲にある場合は、入力補正部15は、入力情報判断部14による判断が妥当であると判断する。その場合、入力情報判断部14により判断された情報(上記の例では「く」)が入力された文字(入力済の情報)とされる。   On the other hand, as shown in FIG. 4B, the position of the user's line of sight is “near” at both 0.1 seconds before the timing when the input character is determined and at the timing when the input character is determined. "Is within the range, the input correction unit 15 determines that the determination by the input information determination unit 14 is appropriate. In this case, the information (in the above example, “ku”) determined by the input information determination unit 14 is the input character (input information).

入力補正部15は、上記のようにユーザから入力された文字を決定すると共に、第2領域表示部16に出力する。この出力も、入力補正部15による判断の結果によるものである。   The input correction unit 15 determines the character input from the user as described above and outputs it to the second region display unit 16. This output also depends on the result of determination by the input correction unit 15.

第2領域表示部16は、図3(b)に示すように、入力補正部15からの入力に基づいて、入力された文字をディスプレイ21の第2領域21bに表示させる入力済情報表示手段である。このように表示を行うことによって、ユーザは入力した文字の確認を行うことができる。既に表示されている入力された文字がある場合には、その後に続けて表示される。なお、入力された文字が確定前である場合には、図3(b)に示すようにディスプレイ21の右上に表示される変換用の表示にユーザが視線を合わせて入力することによって、漢字やカタカナへの変換が行われてもよい。なお、文字の変換については、従来の技術が用いられる。また、入力された文字が確定している場合、あるいは文字が入力されていない場合には、図3(a)に示すようにディスプレイ21の右上に表示される文書確認用の表示にユーザが視線を合わせて入力することによって、視線による文字の入力を終了して入力された文書を確認するモードに移行してもよい。   As shown in FIG. 3B, the second area display unit 16 is input information display means for displaying input characters on the second area 21 b of the display 21 based on the input from the input correction unit 15. is there. By performing the display in this way, the user can confirm the input characters. If there is an input character that is already displayed, it is displayed after that. If the entered character is before confirmation, the user inputs his / her line of sight to the conversion display displayed on the upper right of the display 21 as shown in FIG. Conversion to katakana may be performed. Note that conventional techniques are used for character conversion. When the input character is confirmed or no character is input, the user looks at the document confirmation display displayed on the upper right of the display 21 as shown in FIG. May be entered to end the input of characters by line of sight and shift to a mode for confirming the input document.

修正部17は、ディスプレイ21の第2領域21bに表示された入力された文字を修正可能な状態とする修正手段である。修正可能な状態とは、当該入力された文字を、次に入力された別の文字で置き換えられる状態である。入力された文字を修正可能にするには、第2領域21bに表示されている入力された文字に視線の位置を合わせて、決定ボタン31を押下する。修正部17は、操作検出部13によってユーザによる決定ボタン31の押下が検出されたタイミングで、視線検出部12によって検出されたユーザの視線の位置が、第2領域21bに表示されている入力された文字の位置にあるか否かを判断する。修正部17は、ユーザの視線の位置が第2領域21bに表示されている入力された文字の位置にあると判断した場合は、当該入力された文字を修正可能な状態とする。   The correction unit 17 is a correction unit that makes it possible to correct the input characters displayed in the second area 21b of the display 21. The correctable state is a state in which the inputted character is replaced with another inputted character. In order to be able to correct the input character, the line of sight is aligned with the input character displayed in the second area 21b, and the enter button 31 is pressed. The correction unit 17 receives the position of the user's line of sight detected by the line-of-sight detection unit 12 at the timing when the operation detection unit 13 detects that the user presses the enter button 31 and is displayed in the second region 21b. It is determined whether the character is at the position of the character. When the correcting unit 17 determines that the position of the user's line of sight is at the position of the input character displayed in the second area 21b, the correcting unit 17 sets the input character in a correctable state.

修正部17は、修正可能な状態とされた文字を第1領域表示部11に通知する。第1領域表示部11は、修正可能な状態とされた文字に対応する入力対象となる情報の周囲に表示される、入力対象となる文字を強調表示する。強調表示される周囲の文字は、例えば、修正可能な状態とされた文字に隣接する文字である。強調表示は、色と文字の大きさとを、通常の表示と変えた表示である。目立つ色およびより大きい文字が用いられる。   The correction unit 17 notifies the first region display unit 11 of the characters that can be corrected. The first area display unit 11 highlights the character to be input displayed around the information to be input corresponding to the character that can be corrected. The surrounding characters to be highlighted are, for example, characters adjacent to the characters that can be corrected. The highlight display is a display in which the color and the size of characters are changed from the normal display. Prominent colors and larger letters are used.

例えば、図5を用いて説明する。入力済の文字である「く」(第2領域21bに表示されている)を修正するものとする。修正部17は、ユーザからの入力に基づいて「く」が修正対象であると判断し、その旨を第1領域表示部11に通知する。第1領域表示部11は、第1領域21aの修正対象の「く」に隣接する「う」「き」「け」「す」を強調表示する。なお、第1領域表示部11は、予め文字の配置を記憶しており、その配置に基づいて強調表示をする文字を判断する。ユーザは、第1領域21aの表示から、修正先となる文字を選択して、上述した入力と同様に文字の入力を行う。ここで、第1領域表示部11は、ユーザの視線が検出された位置の文字を第1領域21aで更に強調表示する(例えば、図5に示すように文字に「?」を付加する)。また、第2領域表示部16は、ユーザの視線が検出された位置の文字を、第2領域21bに修正先の候補文字として表示する(「け?」に向かう矢印の表示)。この状態で、ユーザが決定ボタン31を押下すると、上述した文字の入力処理と同様に入力の修正処理が行われる。   This will be described with reference to FIG. It is assumed that “ku” (displayed in the second area 21b), which has been input, is corrected. The correction unit 17 determines that “ku” is a correction target based on the input from the user, and notifies the first area display unit 11 to that effect. The first area display unit 11 highlights “U”, “KI”, “KE”, and “SU” adjacent to “KU” to be corrected in the first area 21a. The first area display unit 11 stores character arrangements in advance, and determines characters to be highlighted based on the arrangements. The user selects a character to be corrected from the display in the first area 21a, and inputs the character in the same manner as described above. Here, the first area display unit 11 further highlights the character at the position where the user's line of sight is detected in the first area 21a (for example, “?” Is added to the character as shown in FIG. 5). In addition, the second area display unit 16 displays the character at the position where the user's line of sight is detected as a candidate character to be corrected in the second area 21b (display of an arrow toward “K?”). In this state, when the user presses the enter button 31, an input correction process is performed in the same manner as the character input process described above.

修正部17は、例えば、文字の修正が行われずにユーザの視線が第1領域21a又は第2領域21bからユーザの視線の位置が外れると、図3(a)に示すような通常の文字の選択画面に移行させる。また、強調表示がされた文字の範囲から、ユーザの視線の位置が外れた場合に図3(a)に示すような通常の文字の選択画面に移行させてもよい。以上が本実施形態に係る携帯端末10の機能構成である。   For example, when the user's line of sight deviates from the first area 21a or the second area 21b without correcting the character, the correction unit 17 performs normal character conversion as illustrated in FIG. Move to the selection screen. Further, when the position of the user's line of sight deviates from the highlighted character range, a normal character selection screen as shown in FIG. The above is the functional configuration of the mobile terminal 10 according to the present embodiment.

図6に携帯端末10のハードウェア構成を示す。図6に示すように、携帯端末10は、CPU101、RAM(Random Access Memory)102、ROM(Read Only Memory)103、操作部104、無線通信部105及びアンテナ106、並びに上述したディスプレイ21及びカメラ22等のハードウェアにより構成されている。なお、決定ボタン31は上記の操作部104に含まれる。上記の構成要素が動作することにより、上述した携帯端末10の機能が実現される。   FIG. 6 shows a hardware configuration of the mobile terminal 10. As shown in FIG. 6, the mobile terminal 10 includes a CPU 101, a RAM (Random Access Memory) 102, a ROM (Read Only Memory) 103, an operation unit 104, a wireless communication unit 105 and an antenna 106, and the display 21 and camera 22 described above. It is comprised by the hardware of these. The determination button 31 is included in the operation unit 104 described above. The functions of the mobile terminal 10 described above are realized by the above-described components operating.

引き続いて、図7のフローチャートを用いて、本実施形態に係る携帯端末10によって実行される処理(入力方法)を説明する。本処理は、例えば、ユーザの携帯端末10への操作によって、ユーザの視線による文字の入力モードに移行することによって開始される。   Subsequently, processing (input method) executed by the mobile terminal 10 according to the present embodiment will be described using the flowchart of FIG. This process is started, for example, by shifting to a character input mode based on the user's line of sight by an operation on the mobile terminal 10 of the user.

携帯端末10では、まず、第1領域表示部11によってディスプレイ21の第1領域21aに、第2領域表示部11によってディスプレイ21の第1領域21aにそれぞれ表示が行われる(S01、入力用情報表示ステップ)。これにより、第1領域21aには入力対象となる文字が表示される。一方、第2領域21bには、入力済の文字が表示される枠が表示される。   In the mobile terminal 10, first, display is performed on the first area 21 a of the display 21 by the first area display unit 11 and on the first area 21 a of the display 21 by the second area display unit 11 (S01, information display for input). Step). Thereby, the character used as input object is displayed on the 1st field 21a. On the other hand, in the second area 21b, a frame for displaying the input characters is displayed.

続いて、カメラ22によってユーザの顔が撮影され、撮影された画像が視線検出部12に入力され、視線検出部12によって、ディスプレイ21におけるユーザの視線の位置が検出される(S02、視線検出ステップ)。検出されたユーザの視線の位置の情報は、第1領域表示部11、入力情報判断部14、入力補正部15及び修正部17に出力される。また、検出された視線の位置は、ディスプレイ21において、ターゲットTとして表示される。上記の視線の位置の検出は、本処理が行われている間、継続的に続けられる。続いて、上記の視線の位置がディスプレイ21における第1領域21a又は第2領域21bにあるかによって以下のように処理が分かれる(S03)。   Subsequently, the user's face is photographed by the camera 22, the photographed image is input to the line-of-sight detection unit 12, and the line-of-sight detection unit 12 detects the position of the user's line of sight on the display 21 (S02, line-of-sight detection step). ). Information on the position of the detected line of sight of the user is output to the first region display unit 11, the input information determination unit 14, the input correction unit 15, and the correction unit 17. The detected line-of-sight position is displayed as the target T on the display 21. The detection of the line-of-sight position is continued continuously while the present process is being performed. Subsequently, the process is divided as follows depending on whether the position of the line of sight is in the first area 21a or the second area 21b in the display 21 (S03).

視線の位置が第1領域21aにある場合には、続いて、第1領域表示部11によって、検出されたユーザの視線の位置に応じて入力される文字の候補が決定される(S04、入力用情報表示ステップ)。続いて、図3に示すように、決定された文字の候補が、第1領域表示部11によって強調表示される(S05、入力用情報表示ステップ)。   If the line-of-sight position is in the first area 21a, then the first area display unit 11 determines a candidate character to be input according to the detected line-of-sight position of the user (S04, input). Information display step). Subsequently, as shown in FIG. 3, the determined character candidates are highlighted by the first region display unit 11 (S05, input information display step).

ここで、視線によって指し示されている文字を入力するため、ユーザによって携帯端末10の決定ボタン31が押下されると、操作検出部13によって当該操作が検出される(S06、操作検出ステップ)。ここで、ユーザによって決定ボタン31が押されず、操作検出部13によって当該操作が検出されない場合は、視線の位置が第1領域21aにあれば、入力対象となる文字の表示(S03〜S05)が継続して行われる。一方、操作検出部13によって当該操作が検出されると、その旨が入力情報判断部14に通知される。   Here, in order to input the character indicated by the line of sight, when the determination button 31 of the portable terminal 10 is pressed by the user, the operation detection unit 13 detects the operation (S06, operation detection step). Here, when the determination button 31 is not pressed by the user and the operation is not detected by the operation detection unit 13, if the position of the line of sight is in the first region 21a, the display of characters to be input (S03 to S05) is performed. Continued. On the other hand, when the operation is detected by the operation detection unit 13, the input information determination unit 14 is notified to that effect.

操作検出部13によって当該操作が検出された場合は、続いて、入力情報判断部14によって、ユーザによる決定ボタン31の押下が検出されたタイミングで検出されたユーザの視線の位置に応じて、入力される文字が判断される(S07、入力情報判断ステップ)。入力情報判断部14によって判断された、入力される文字を示す情報は入力補正部15に入力される。続いて、入力補正部15によって、視線検出部12によって検出された視線の位置の時系列な変化に基づいて、入力情報判断部14によって判断された入力される文字が妥当であるか否かが判断される(S08、入力補正ステップ)。   If the operation is detected by the operation detection unit 13, then the input information determination unit 14 performs input according to the position of the user's line of sight detected when the user presses the determination button 31. The character to be determined is determined (S07, input information determination step). Information indicating the character to be input, determined by the input information determination unit 14, is input to the input correction unit 15. Subsequently, whether or not the input character determined by the input information determination unit 14 is valid based on the time-series change in the position of the line of sight detected by the line of sight detection unit 12 by the input correction unit 15. Determination is made (S08, input correction step).

入力情報判断部14による判断が妥当でないと判断されると、入力補正部15によって、ディスプレイ21に、入力される文字の補正の示唆の表示が行われる(S09、入力補正ステップ)。ユーザは、この表示を見て入力される文字の補正を行うか否かを示す選択の(例えば、上記と同様の視線と決定ボタン31の押下とによる)入力を行う。続いて、入力補正部15によって、ユーザからの入力が受け付けられて入力された文字(入力済の文字)が決定される(S10、入力補正ステップ)。   If it is determined that the determination by the input information determination unit 14 is not valid, the input correction unit 15 displays a suggestion of correction of the input character on the display 21 (S09, input correction step). The user performs selection input (for example, by the same line of sight as described above and pressing of the enter button 31) indicating whether or not to correct the input character by seeing this display. Subsequently, the input correction unit 15 receives the input from the user and determines the input character (input character) (S10, input correction step).

一方、S08において入力情報判断部14による判断が妥当であると判断されると、入力補正部15によって、入力情報判断部14により判断された文字が入力された文字(入力済の文字)と決定される。上記のように決定された文字を示す情報は、入力補正部15から第2領域表示部16に出力される。続いて、図3(b)に示すように第2領域表示部16によって、入力された文字がディスプレイ21の第2領域21bに表示される(S11、入力済情報表示ステップ)。続いて、処理はS03に戻る。   On the other hand, if it is determined in S08 that the determination by the input information determination unit 14 is appropriate, the input correction unit 15 determines that the character determined by the input information determination unit 14 is an input character (input character). Is done. Information indicating the character determined as described above is output from the input correction unit 15 to the second region display unit 16. Subsequently, as shown in FIG. 3B, the second region display unit 16 displays the input characters on the second region 21b of the display 21 (S11, input completion information display step). Subsequently, the process returns to S03.

S03において視線の位置が第2領域21bにある場合には、続いて、視線によって指し示されている文字を修正するため、ユーザによって携帯端末10の決定ボタン31が押下されると、操作検出部13によって当該操作が検出される(S06、操作検出ステップ)。ここで、ユーザによって決定ボタン31が押されず、操作検出部13によって当該操作が検出されない場合は、処理はS03に戻る。一方、操作検出部13によって当該操作が検出されると、その旨が修正部17に通知される。   If the position of the line of sight is in the second region 21b in S03, then, when the user presses the enter button 31 of the mobile terminal 10 to correct the character pointed to by the line of sight, the operation detection unit 13, the operation is detected (S06, operation detection step). If the determination button 31 is not pressed by the user and the operation is not detected by the operation detection unit 13, the process returns to S03. On the other hand, when the operation is detected by the operation detection unit 13, the correction unit 17 is notified to that effect.

操作検出部13によって当該操作が検出された場合は、続いて、修正部17によって、ユーザによる決定ボタン31の押下が検出されたタイミングで検出されたユーザの視線の位置に応じて、第2領域21bから修正される文字が判断される(S12、修正ステップ)。判断された文字は、修正可能な状態とされる。続いて、修正部17から修正可能な状態とされた文字が第1領域表示部11に通知される。図5に示すように、第1領域表示部11によって、修正可能な状態とされた文字に対応する入力対象となる情報の周囲に表示される、入力対象となる文字が強調表示される(S13、修正ステップ、入力用情報表示ステップ)。ユーザは、この表示を見て修正後の文字の(例えば、上記と同様の視線と決定ボタン31の押下とによる)入力を行う。続いて、修正部17によって、ユーザからの入力が受け付けられて修正された文字(入力済の文字)が決定される(S15、修正ステップ)。上記のように決定された文字を示す情報は、修正部17から第2領域表示部16に出力される。続いて、第2領域表示部16によって、入力された文字がディスプレイ21の第2領域21bに表示される(S16、入力済情報表示ステップ)。続いて、処理はS03に戻る。   When the operation is detected by the operation detection unit 13, the second region is then determined according to the position of the user's line of sight detected by the correction unit 17 when the pressing of the determination button 31 by the user is detected. The character to be corrected is determined from 21b (S12, correction step). The determined character is in a correctable state. Subsequently, the correction unit 17 notifies the first area display unit 11 of the characters that can be corrected. As shown in FIG. 5, the first region display unit 11 highlights the input target character displayed around the input target information corresponding to the correctable character (S13). , Correction step, input information display step). The user sees this display and inputs the corrected character (for example, by the same line of sight as described above and pressing the enter button 31). Subsequently, the correction unit 17 receives the input from the user and determines the corrected character (the input character) (S15, correction step). Information indicating the character determined as described above is output from the correction unit 17 to the second region display unit 16. Subsequently, the input characters are displayed on the second area 21b of the display 21 by the second area display unit 16 (S16, input information display step). Subsequently, the process returns to S03.

以上が、本実施形態に係る携帯端末10によって実行される処理である。なお、本処理は、例えば、ユーザの携帯端末10への操作によって、ユーザの視線による文字の入力モードから別のモードに移行することによって終了される。   The above is the processing executed by the mobile terminal 10 according to the present embodiment. Note that this processing is terminated by, for example, shifting from a character input mode based on the user's line of sight to another mode by an operation on the mobile terminal 10 of the user.

上述したように、本実施形態によれば、視線の位置の時系列な変化に基づいて、入力される文字が妥当であるか否かが判断される。従って、例えば、ユーザが情報の入力を行うために決定ボタン31の押下を行う際に、ユーザが入力しようとする情報から視線がずれた場合には入力される情報が妥当でないと判断され、それに応じた処理(例えば、本実施形態のような補正の示唆)を行わせることができる。ユーザが意図しない入力がされた場合に適切な処理をとることができ、これにより正確かつ迅速な入力を容易に実現させることができる。   As described above, according to the present embodiment, it is determined whether or not an input character is valid based on a time-series change in the position of the line of sight. Therefore, for example, when the user presses the enter button 31 to input information, if the line of sight deviates from the information that the user intends to input, it is determined that the input information is not valid. A corresponding process (for example, suggesting correction as in the present embodiment) can be performed. Appropriate processing can be performed when an input unintended by the user is made, and thereby accurate and quick input can be easily realized.

また、本実施形態のように補正の示唆を行うこととすれば、ユーザが意図しない入力がされた場合にユーザの意図する入力の候補となる情報を提示することができ、更に正確かつ迅速な入力を容易に実現させることができる。即ち、本実施形態のように視線入力のあやふやさを補正することで、ユーザの誤入力の防止を行いつつ、迅速な文字入力を実現する。なお、本実施形態のように、補正の候補となる文字を提示して補正の示唆を行うことが望ましいが、単に視線によって入力された文字が妥当であるかどうかをユーザに確認させる表示出力等を行うこととしてもよい。   Further, if correction is suggested as in the present embodiment, information that is a candidate for input intended by the user can be presented when an input unintended by the user is made, and more accurate and quick. Input can be easily realized. That is, by correcting the ambiguity of line-of-sight input as in this embodiment, rapid character input is realized while preventing erroneous user input. As in the present embodiment, it is desirable to suggest corrections by presenting characters that are candidates for correction, but display output that allows the user to confirm whether or not the characters input by line of sight are appropriate It is good also as performing.

更に本実施形態のように、入力済の文字の修正を可能とし、修正の候補となる文字の強調表示を行うことによって、入力済の情報を容易に修正させることができる。また、これにより更に正確かつ迅速な入力を容易に実現させることができる。   Furthermore, as in the present embodiment, it is possible to correct already input characters, and it is possible to easily correct already input information by highlighting characters that are candidates for correction. In addition, this makes it possible to easily realize more accurate and quick input.

なお、本実施形態では、入力装置は携帯端末10としているが、本発明の適用は必ずしも携帯端末10に限られるものではない。ディスプレイへの表示をユーザが視線で指し示すことによって情報の入力が行われる装置であれば、本発明を適用することが可能である。また、本実施形態では、入力される情報は文字としたが、必ずしも文字に限られるものではない。例えば、数字やアルファベット等の情報でもよいし、また、制御内容を示す情報の入力等にも用いることができる。   In the present embodiment, the input device is the mobile terminal 10, but the application of the present invention is not necessarily limited to the mobile terminal 10. The present invention can be applied to any apparatus in which information is input by the user pointing the display on the display with a line of sight. In the present embodiment, the input information is characters, but is not necessarily limited to characters. For example, information such as numbers and alphabets may be used, and it can also be used for inputting information indicating control contents.

10…携帯端末、11…第1領域表示部、12…視線検出部、13…操作検出部、14…入力情報判断部、15…入力補正部、16…第2領域表示部、17…修正部、20…第1の筐体、21…ディスプレイ、21a…第1領域、21b…第2領域、22…カメラ、30…第2の筐体、31…決定ボタン、101…CPU、102…RAM、103…ROM、104…操作部、105…無線通信部、106…アンテナ。   DESCRIPTION OF SYMBOLS 10 ... Portable terminal, 11 ... 1st area | region display part, 12 ... Eye gaze detection part, 13 ... Operation detection part, 14 ... Input information judgment part, 15 ... Input correction part, 16 ... 2nd area | region display part, 17 ... Correction part 20 ... first housing, 21 ... display, 21a ... first region, 21b ... second region, 22 ... camera, 30 ... second housing, 31 ... decision button, 101 ... CPU, 102 ... RAM, 103 ... ROM, 104 ... operation unit, 105 ... wireless communication unit, 106 ... antenna.

Claims (7)

情報を表示するディスプレイと、
入力対象となる複数の情報を前記ディスプレイに表示させる入力用情報表示手段と、
前記ディスプレイの前記入力用情報表示手段によって前記入力対象となる複数が表示された領域におけるユーザの視線の位置を検出する視線検出手段と、
ユーザからの所定の操作を検出する操作検出手段と、
前記操作検出手段によって所定の操作が検出されたタイミングで前記視線検出手段によって検出された前記視線の位置に基づいて、入力される情報を判断する入力情報判断手段と、
前記入力情報判断手段によって入力される情報が判断されたタイミングにおいて前記視線検出手段によって検出された前記視線の位置の時系列な変化に応じて、前記入力情報判断手段によって判断された前記入力される情報が妥当であるか否かを判断して、前記入力される情報が妥当でないと判断したときに、前記視線検出手段によって検出された前記視線の位置の時系列な変化に応じて、前記入力情報判断手段によって判断された前記入力される情報とは異なると共に当該時系列な変化に応じた情報を、入力される情報の候補として前記ディスプレイに表示する入力補正手段と、
を備える入力装置。
A display that displays information;
Input information display means for displaying a plurality of information to be input on the display;
Line-of-sight detection means for detecting the position of the line of sight of the user in the area where the plurality of input targets are displayed by the input information display means of the display;
Operation detecting means for detecting a predetermined operation from the user;
Input information determination means for determining information to be input based on the position of the line of sight detected by the line-of-sight detection means at a timing when a predetermined operation is detected by the operation detection means;
The input determined by the input information determination unit according to a time-series change in the position of the line of sight detected by the line-of-sight detection unit at a timing when the information input by the input information determination unit is determined. The input is determined according to a time-series change in the position of the line of sight detected by the line-of-sight detection means when it is determined whether the information is valid and the input information is not valid. Input correction means for displaying information corresponding to the time-series change, which is different from the input information determined by the information determination means, on the display as input information candidates;
An input device comprising:
前記入力用情報表示手段は、前記視線検出手段によって検出された前記視線の位置に応じて、表示させる入力対象となる情報を強調表示することを特徴とする請求項1に記載の入力装置。   2. The input device according to claim 1, wherein the input information display unit highlights information to be displayed to be displayed according to the position of the line of sight detected by the line of sight detection unit. 前記入力補正手段による判断に基づいて、入力済の情報を前記ディスプレイに表示させる入力済情報表示手段を更に備える請求項1又は2に記載の入力装置。   The input device according to claim 1, further comprising an input information display unit that displays input information on the display based on the determination by the input correction unit. 前記操作検出手段によって所定の操作が検出されたタイミングで前記視線検出手段によって検出された前記視線の位置が、前記入力済情報表示手段によって表示された入力済の情報の位置にあるか否かを判断して、当該入力済の情報を修正可能な状態とする修正手段を更に備える請求項3に記載の入力装置。 Whether or not the position of the line of sight detected by the line of sight detection means at the timing when a predetermined operation is detected by the operation detection means is the position of the input information displayed by the input information display means. The input device according to claim 3, further comprising a correcting unit that determines and makes the input information correctable. 前記入力用情報表示手段は、前記修正手段によって修正可能な状態とされた前記入力済の情報に対応する入力対象となる情報の周囲に表示される、入力対象となる情報を強調表示することを特徴とする請求項4に記載の入力装置。   The input information display means highlights the information to be input displayed around the information to be input corresponding to the input information that has been corrected by the correction means. The input device according to claim 4. 情報を表示するディスプレイを備える入力装置による入力方法であって、
入力対象となる複数の情報を前記ディスプレイに表示させる入力用情報表示ステップと、
前記ディスプレイの前記入力用情報表示ステップにおいて前記入力対象となる複数が表示された領域におけるユーザの視線の位置を検出する視線検出ステップと、
ユーザからの所定の操作を検出する操作検出ステップと、
前記操作検出ステップにおいて所定の操作が検出されたタイミングで前記視線検出ステップにおいて検出された前記視線の位置に基づいて、入力される情報を判断する入力情報判断ステップと、
前記入力情報判断ステップにおいて入力される情報が判断されたタイミングにおいて前記視線検出ステップにおいて検出された前記視線の位置の時系列な変化に応じて、前記入力情報判断ステップにおいて判断された前記入力される情報が妥当であるか否かを判断して、前記入力される情報が妥当でないと判断したときに、前記視線検出ステップにおいて検出された前記視線の位置の時系列な変化に応じて、前記入力情報判断ステップにおいて判断された前記入力される情報とは異なると共に当該時系列な変化に応じた情報を、入力される情報の候補として前記ディスプレイに表示する入力補正ステップと、
を含む入力方法。
An input method using an input device including a display for displaying information,
An input information display step for displaying a plurality of information to be input on the display;
A line-of-sight detection step for detecting the position of the user's line of sight in a region where a plurality of the input targets are displayed in the input information display step of the display;
An operation detection step for detecting a predetermined operation from the user;
An input information determination step of determining information to be input based on the position of the line of sight detected in the line of sight detection step at a timing when a predetermined operation is detected in the operation detection step;
The input determined in the input information determination step according to a time-series change in the position of the line of sight detected in the line-of-sight detection step at the timing when the information input in the input information determination step is determined. It is determined whether or not the information is valid, and when the input information is determined to be invalid, the input is performed according to a time-series change in the position of the line of sight detected in the line of sight detection step. An input correction step for displaying information corresponding to the time-series change, which is different from the input information determined in the information determination step, on the display as input information candidates;
An input method that includes
前記入力補正ステップにおける判断に基づいて、入力済の情報を前記ディスプレイに表示させる入力済情報表示ステップと、
前記操作検出ステップにおいて所定の操作が検出されたタイミングで前記視線検出ステップにおいて検出された前記視線の位置が、前記入力済情報表示ステップにおいて表示された入力済の情報の位置にあるか否かを判断して、当該入力済の情報を修正可能な状態とする修正ステップと、を更に含み、
前記入力用情報表示ステップにおいて、前記修正ステップにおいて修正可能な状態とされた前記入力済の情報に対応する入力対象となる情報の周囲に表示される、入力対象となる情報を強調表示する、
ことを特徴とする請求項6に記載の入力方法。
Based on the determination in the input correction step, an input information display step for displaying input information on the display;
Position of the line of sight a predetermined operation is detected in the visual axis detecting step with detected timing in the operation detection step, whether the position of the already input information display an entered information displayed in step A correction step for determining and making the input information correctable; and
In the input information display step, the information to be input is highlighted around the information to be input corresponding to the input information that has been corrected in the correction step.
The input method according to claim 6.
JP2009117754A 2009-05-14 2009-05-14 Input device and input method Expired - Fee Related JP4852627B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009117754A JP4852627B2 (en) 2009-05-14 2009-05-14 Input device and input method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009117754A JP4852627B2 (en) 2009-05-14 2009-05-14 Input device and input method

Publications (2)

Publication Number Publication Date
JP2010267071A JP2010267071A (en) 2010-11-25
JP4852627B2 true JP4852627B2 (en) 2012-01-11

Family

ID=43363990

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009117754A Expired - Fee Related JP4852627B2 (en) 2009-05-14 2009-05-14 Input device and input method

Country Status (1)

Country Link
JP (1) JP4852627B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5942586B2 (en) * 2012-05-18 2016-06-29 富士通株式会社 Tablet terminal and operation reception program
KR101480594B1 (en) 2012-12-18 2015-01-08 현대자동차주식회사 Method for controlling termination call based on gaze, and mobile communication terminal therefor
CN104349002B (en) 2013-07-30 2017-11-21 柯尼卡美能达株式会社 Operation device and image processing apparatus
JP2016136351A (en) * 2015-01-23 2016-07-28 京セラ株式会社 Electronic apparatus and control method
JP6696119B2 (en) 2015-05-01 2020-05-20 富士通株式会社 Conversion device, conversion method, and conversion program
JP5876180B1 (en) * 2015-05-15 2016-03-02 前田 龍典 Information link system, information link program, and information link system operation method

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07191796A (en) * 1993-12-27 1995-07-28 Canon Inc Sight line input system
JPH07248872A (en) * 1994-03-11 1995-09-26 Matsushita Electric Ind Co Ltd Input device and arithmetic input/output device
JP2001075721A (en) * 1999-08-31 2001-03-23 Fujitsu Ltd Device and method for graphic input and recording medium where program for graphic input is recorded
JP2003058305A (en) * 2001-08-09 2003-02-28 Toshiba Corp Character input system, integrated input key, compact personal computer, keyboard and mouse
JP2003280805A (en) * 2002-03-26 2003-10-02 Gen Tec:Kk Data inputting device
JP4951751B2 (en) * 2005-04-26 2012-06-13 国立大学法人静岡大学 Pointing apparatus and method based on pupil detection

Also Published As

Publication number Publication date
JP2010267071A (en) 2010-11-25

Similar Documents

Publication Publication Date Title
US9851897B2 (en) Adaptive virtual keyboard for handheld device
JP4852627B2 (en) Input device and input method
US9013423B2 (en) Adaptive virtual keyboard for handheld device
JP6012900B2 (en) Input method, apparatus, program, and recording medium
US20160085379A1 (en) Device and method for information processing using virtual keyboard
JP2020501284A (en) Message reading method and device
US20150253925A1 (en) Display control device, display control method and program
US9539505B2 (en) Game device and computer-readable storage medium
CN105487805B (en) Object operation method and device
EP3054372B1 (en) Method of providing notification and electronic device for implementing same
RU2643447C2 (en) Method and device for symbol determination
KR20120134504A (en) Terminal having touch screen and method for displaying key thereof
CN112486346B (en) Key mode setting method, device and storage medium
JP2014142882A (en) Line of sight input device
JP2017004354A (en) Display control method, display control program, information processing terminal, and wearable device
JP4685708B2 (en) Mobile terminal device
JP2009289025A (en) Input device
JP6085529B2 (en) Character input device
US9292101B2 (en) Method and apparatus for using persistent directional gestures for localization input
RU2636673C2 (en) Method and device for line saving
US20100164756A1 (en) Electronic device user input
JP2008113107A (en) Input method using camera function, and information communication terminal using input method
JP2014194673A (en) Terminal device, key input method and key input program
US9591155B2 (en) Image forming apparatus accepting an instruction indicating a shift key has been selected from a mobile device
EP2765486B1 (en) Method and apparatus for using persistent directional gestures for localization input

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110304

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110801

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110927

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111024

R150 Certificate of patent or registration of utility model

Ref document number: 4852627

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141028

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees