JPH07200126A - ユーザ・インターフェース装置、グラフィック・キーボード装置、及びグラフィック・キーボード使用方法 - Google Patents

ユーザ・インターフェース装置、グラフィック・キーボード装置、及びグラフィック・キーボード使用方法

Info

Publication number
JPH07200126A
JPH07200126A JP31374194A JP31374194A JPH07200126A JP H07200126 A JPH07200126 A JP H07200126A JP 31374194 A JP31374194 A JP 31374194A JP 31374194 A JP31374194 A JP 31374194A JP H07200126 A JPH07200126 A JP H07200126A
Authority
JP
Japan
Prior art keywords
pen
menu
keyboard
key
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP31374194A
Other languages
English (en)
Other versions
JP3546337B2 (ja
Inventor
William A S Buxton
エイ.エス.バクストン ウィリアム
Gordon P Kurtenbach
ピー.カーテンバッハ ゴーダン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xerox Corp
Original Assignee
Xerox Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xerox Corp filed Critical Xerox Corp
Publication of JPH07200126A publication Critical patent/JPH07200126A/ja
Application granted granted Critical
Publication of JP3546337B2 publication Critical patent/JP3546337B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/142Image acquisition using hand-held instruments; Constructional details of the instruments
    • G06V30/1423Image acquisition using hand-held instruments; Constructional details of the instruments the instrument generating sequences of position coordinates corresponding to handwriting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04807Pen manipulated menu

Abstract

(57)【要約】 【目的】 ペン・ストロークとジェスチャーに関連する
表現力や直観的な使い易さがあるが、複雑な文字認識ソ
フトウエアは必要ない。 【構成】 小文字「a」はスタイラスをグラフィック・
キーボードの「a」のキーの上でタップすることにより
入力される。大文字の「A」は「a」のキーの上で始め
られた上向きのストロークにより入力される。ユーザは
他の方向でストロークを入れることにより、「コントロ
ール」、「代替」、「コマンド」などの基本文字に対す
る他の変更子を表現できる。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、グラフィック・ユーザ
・インタフェースに関し、特に、ペン・ベースの計算用
のグラフィック・ユーザ・インタフェースに関する。
【0002】
【従来の技術】ペン・ベースの計算は、ますます普及し
てきている。ペン・ベース・コンピュータのユーザは、
ペンまたやスタイラスを使用して、一般的にはペンを使
って普通の紙の上にプリントしたり、書いたりするのと
類似した方法で、コンピュータの表示画面上にペンまた
はスタイラスを使用して文字をプリントしたり、書き込
むことにより、コマンドおよびデータをコンピュータに
入力する。ある種のコマンドは、ペン・ストローク(ジ
ェスチャー)として入力することができる。例えば、ワ
ードを、それに棒線を引いて消すことによって削除した
り、ファイルをそれを表すアイコンの上に「o」と書き
込むことでオープンすることができる。ペン・ベースの
計算の例は、掌サイズのパーソナル・デジタル補助手段
から、ノート・パソコンのような小型黒板サイズの機
械、壁サイズの対話型表示装置までさまざまなシステム
に見られる。また、ペン・ベースのインタフェースは、
ある種のコンピュータ・システムなどの元来ペン・ベー
スとなるように設計されていないコンピュータ・システ
ムに付加、または改装することもできる。
【0003】ペン・ベース計算の実用性は、文字認識ソ
フトウェアの限られた機能のために制限されている。多
くのペン・ベース・システムにおいて、ユーザは筆記体
の手書きで書き込むことはできず、活字体で書かなけれ
ばならない。これにより、入力が遅くなる。さらに、シ
ステムによる活字体で書かれた文字の認識は難しい。結
果的に、ユーザは注意深く(つまり、ゆっくりと)活字
体を書かなければならず、たいていの場合、特定のウィ
ンドウ内に、指定されたボックス内に活字体を書かなけ
ればならず、システムは各個々のユーザに特別な訓練を
要求する場合がある。それでも、文字認識性能は比較的
お粗末である。加えて、文字認識を使用するペン・ベー
ス・システムは、例えばマウスなどが備えられた従来の
コンピュータ・ワークステーションで実行するのに十分
に適応しない。
【0004】ペン・ベースの入力に対する文字認識アプ
ローチに限界があるため、代替のアプローチが使用され
ることがある。このアプローチでは、視覚的には、ペン
・ベースではないコンピュータ・システムに通常使用さ
れる従来の機械的な(タイプライター)キーボードに類
似した、グラフィック・キーボードが・コンピュータ・
ディスプレイ上に表示される。ユーザは、グラフィック
・キーボードの希望のキーをタップ(打ち込む)するた
めにスタイラスを使用してテキストを入力する。
【0005】グラフィック・キーボード・アプローチ
は、文字認識アプローチに対してある種の優位点を提供
する。データをグラフィック・キーボードを使用して入
力すると、(特に数字キーパッドを使用した場合)活字
体で書き込むより速いし、正しく実施されると(つま
り、グラフィック・キーが小さすぎない場合には)エラ
ーはさらに発生しにくくなる。さらに、アプローチは、
既存ソフトウェア・アプリケーションに簡単に実現・統
合できる。
【0006】
【発明が解決しようとする課題】残念なことには、周知
のグラフィック・キーボードには多くの欠点がある。グ
ラフィック・キーボードは視覚的には機械的なキーボー
ドと類似しているが、機能的にははるかに限定されてい
る。グラフィック・キーボードを使用すると、ユーザは
両手のすべての指を使用して「タッチ・タイプ」するこ
とはできないが、代わりに、機械的なキーボード上で1
本の指を使ってタイプするように、ペンまたはスタイラ
スを用いて「探して、たたく」必要がある。グラフィッ
ク・キーボードでのタイピング・スピードは、ユーザが
指/スタイラスをキーボード上でキーからキーへ移動す
るのに必要となる時間によって制限される。また、ユー
ザは、同時に複数のキーをタップすることはできない。
特に、ユーザは、文字キーやナンバー・キーなどの通常
のキーと同時に、「シフト(shift )」、「コントロー
ル(ctrl)」、「オプション(option)」、または「代
替(alt )」キーなどの変更子キーをタップすることは
できないが、代わりに、最初に変更子キーをタップして
から、文字キーやナンバー・キーをタップしなければな
らない。ユーザが、変更子を設定するために変更子キー
を1度タップして、文字キーやナンバー・キーをタップ
してから、変更子を解除するために再度変更子キーをタ
ップしなければならないシステムもある(例えば、大文
字の「A」を入力するために、「シフト」、「a」、「シ
フト」をタップする)。これは、1文字を形成するため
に複数の変更子が構成されなければならない場合に、特
に不便である(例えば、ctrl-alt-xのように二重に変更
された文字やctrl-alt-Xのように三重に変更された文
字)。
【0007】グラフィック・キーボード・アプローチの
もう一つの問題点は、ユーザに視覚的に大きな負担を課
すという点である。機械的なキーボードを用いると、ユ
ーザは、一般的に使用されるキーストロークのシーケン
スを覚え、キーボードを見なくても「感覚によって」そ
れを実行できるのに対し、グラフィック・キーボードを
使用する場合、ユーザは通常スタイラスを使用するたび
にその前に、スタイラスが正しい位置にあることを確認
するために、ディスプレイを見なければならない。さら
に、一部には、キーボードに、機械的なキーボードに見
られる変更子およびファンクション・キーの多くまたは
すべてが含まれるため、グラフィック・キーボードは画
面表示の大部分を占める傾向がある。
【0008】その欠点のために、ペン・ベースの入力に
対するグラフィック・キーボード・アプローチはしばし
ばめんどうであると考えられ、ペン・ベースの計算シス
テムでは、文字認識がうまくいかない場合や十分に信頼
できない場合にのみ、代替システムとして使用される。
ペン・ベース計算に対する文字認識およびグラフィック
・キーボードのアプローチは、一般的には、補足手段と
してではなく、相互に相入れない代替策であると見なさ
れている。特に、文字認識アプローチによって(常に提
供されているのではない場合には)約束される直観的な
使いやすさをグラフィック・キーボード・アプローチが
提供する速度、堅牢さ、および実施の手軽さと組み合わ
せることは不可能であった。
【0009】
【課題を解決するための手段】本発明は、ユーザが単に
キーをタップすること以上のことをできるようにするグ
ラフィック・キーボードである。本発明により、専門家
ユーザは「感覚」により進むことができ、初心者ユーザ
は、必要時におよび必要に応じて促される。グラフィッ
ク・キーボードは、ペン・ストロークとジェスチャーに
関連する表現力および直観的な使いやすさを役立てる
が、複雑な文字認識ソフトウェアは必要としない。
【0010】本発明のグラフィック・キーボードは、異
なった種類のペン・ストロークに違うふうに対応する。
例えば、小文字(lowercase )の「a 」は、グラフィッ
ク・キーボードの「a」のキーの上でスタイラスをタッ
プすることにより入力される。大文字(uppercase )の
「A 」は、「a 」のキーの上で始められた上向きのスト
ロークにより入力される。同様に、ユーザは、他の方向
でストロークを入れることによって、「コントロー
ル」、「代替」、「コマンド」などの基本文字に対する
他の変更子を表現することができる。また、明瞭な方向
のストロークを使用してスペース(space )、後退(ba
ckspace )、削除(delete)、リターン(return)など
の文字を表現することもできる。複数の変更子を表現す
るために、複数のストロークを連続して1つのキーに適
用することもできる。ペン・ストロークの視覚的なフィ
ードバックは、ペンによって作成されるマークという形
式で提供可能である。ポップアップ・メニューを使用し
て、コマンド・ストロークおよびストローク・シーケン
スの記憶を助け、容易にすることができる。
【0011】別の面では、本発明は、グラフィック・キ
ーボードを使用してペン・ベース・コンピュータに文字
を入力するための改良型方法を提供する。
【0012】明細書および図面の残りの部分を参照する
ことにより、本発明の性質および利点を明らかにさらに
理解することになるであろう。
【0013】本発明の一態様は、計算システム用ユーザ
・インタフェース装置であって、(a)グラフィック・
キーボード・イメージを表示する表示装置を有し、
(b)指定装置、具備する入力ソースを有し、前記入力
ソースがキー情報およびパス情報から構成される入力を
提供し、前記キー情報が前記グラフィック・キーボード
のイメージのキーを表し、前記パス情報が前記指定装置
により指定されるポイントのシリーズを表し、(c)前
記入力ソースにより提供される前記パス情報に応答し
て、出力を作成するための出力ジェネレータを有する、
ユーザ・インタフェース装置である。
【0014】本発明の一態様は、計算システムにおけ
る、グラフィック・キーボード装置であって、(a)セ
ンサを有し、前記センサは前記センサに対する位置指定
装置の複数の位置に応答し、(b)表示装置を有し、
(c)前記センサおよび前記表示装置に連結されるプロ
セッサを有し、前記プロセッサは、(イ)前記表示装置
とともに、キーボードのグラフィック・イメージを表示
し、前記イメージは、それぞれのキーが前記イメージ内
での位置と対応するような複数のキーから構成され、
(ロ)前記センサから位置情報およびパス情報から構成
される入力を受け取り、前記位置情報が前記位置指定装
置の前記複数の位置の内の1つの選択済み位置から構成
され、前記パス情報が前記位置指定装置の前記複数の位
置の位置のシリーズを構成し、前記シリーズが前記セン
サに対する前記位置指定装置の相対位置を表し、(ハ)
選択された位置を決定するために前記イメージ内の任意
の位置と前記選択された位置を相関させ、(ニ)前記選
択された位置を、選択されたキーを決定するために前記
複数のキーの内の1つのキーと関連付け、(ホ)コマン
ドを決定するために、前記パス情報を解釈し、(ヘ)出
力を作成し、前記出力が、前記コマンドを前記選択され
たキーに適用することにより決定された文字、および前
記選択されたキーとは関係の内前記コマンドを実行する
ことにより決定される文字から構成されるグループから
選択される、ことを具備するグラフィック・キーボード
装置である。
【0015】本発明の一態様は、プロセッサ、センサ、
表示装置、およびバッファを具備する計算システムにお
いて、文字を作成するためにグラフィック・キーボード
を使用するための方法であって、(a)前記表示装置上
にグラフィック・キーボード・イメージを表示するステ
ップと、(b)前記センサを用いて、前記センサに対す
るペン装置の移動を探知し、前記ペン装置が前記移動の
かなりの部分で前記センサにもっとも近いままで維持さ
れるステップと、(c)前記移動に対応して文字を作成
するために前記プロセッサを使用するステップと、
(d)このようにして作成される前記文字を前記バッフ
ァ内で受け取るステップと、を含むグラフィック・キー
ボード使用方法である。
【0016】
【実施例】
1.はじめに 本発明は、異なった種類のペン・ストロークに違うふう
に応答する改良型グラフィック・キーボード用のシステ
ムおよび方法を提供する。ユーザは、適切なストローク
を適用することにより、複数のキーを同時に押すことに
よって機械的なキーボードで入力される文字を容易に入
力することができる。また、ユーザは、スペース、後
退、削除、リターンなどのある種の頻繁に使用されるキ
ーをキーボードの任意の位置から入力することができ
る。ペン・ストロークを使用すると、タイピングはさら
に容易で速くなり、ユーザに課される視覚的な負担も減
少し、キーボードが画面表示上で占めるスペースも減ら
すことができる。
【0017】2.例 本発明を理解するためには、図1−10に描かれるよう
に、その使用のいくつかの図解例で始めることが有益で
ある。本発明に従ったサンプルのグラフィック・キーボ
ードの表示されたイメージは、図1に示されている。ペ
ンまたはスタイラスを使用してキーのいずれかをタップ
すると、機械的なキーボード上で類似したキーを押すの
と同じ効果がある。したがって、小文字、数字、または
ピリオドやコンマのような別の未修正文字を入力するた
めには、ユーザは単に希望のキーをタップするだけであ
る。
【0018】大文字を入力する場合には、タップする代
わりに、ユーザは希望のキー上で始めて上向きのストロ
ークを作成する。例えば、図2に図解されるように、
「a 」キー上をタップすると「a 」という結果となる。
「a 」上での上向きのストロークは「A 」(図3)とい
う結果になる。
【0019】ユーザは、同様な方法で、コントロール、
代替、オプション、またはコマンドなどの他の変更子キ
ーにアクセスする。例のマッピングは図4に示される。
図4のマッピングに従うと、右側のストロークは、コン
トロール(「ctrl」)変更子を示す。このようにして、
文字「c 」上で始められる右向きのペン・ストロークに
よって、グラフィック・キーボードは文字「ctrl-c」を
出力することになる。左側のストロークは、オプション
変更子を示し、下向きのストロークは、コマンド変更子
を示す。
【0020】変更子は容易に組み合わせることができ
る。例えば、いったん図4のマッピングを適用すると、
上向きのストロークが後に続く、文字「c 」で始まる右
側のストロークは、「ctrl-c」とは異なる「ctrl-C」を
表現する。これは、図5に図解される。
【0021】もう一つのストロークの方向は、ある出力
の頻繁に使用されるキーを置き換えるために使用するこ
とができる。例えば、斜めの方向のペン・ストローク
は、スペース、後退、削除、およびリターンを表現する
ために使用することができる。これらのコマンドの考え
られるレイアウトが、図6に示されている。このクラス
のストロークは、図3、4、および5に関係して上述さ
れる変更子ストロークと、これらのストロークの意味が
ストロークが作成される場所によって影響されないとい
う点で、異なっている。したがって、斜めの上および左
に向かうストロークは、それがグラフィック・キーボー
ドの「a 」キー、「c 」キー、またはそれ以外のキー上
で作成されるかどうかには関係なく、図6のマッピング
内で後退として解釈される。
【0022】視覚的なフィードバックは、ペン・ストロ
ークをグラフィック・キーボードに適用する際にユーザ
に役立つ。ユーザがペンを画面を横切って使用すると、
ラインが画面上に表示され、まるでペンが画面上にマー
クを残すインクを含んでいるかのように、ペンがどこを
通ったかを示す。いったんペン・ストロークが認識され
ると、文字が入力され、「インクの軌跡」は消える。こ
れは、図8などに図解される。
【0023】図7−10のそれぞれが、ユーザがどのよ
うにして入力を本発明のグラフィック・キーボードに入
力するのかを示す図のシリーズである。図7の2つの図
のシリーズは、ユーザが本発明のグラフィック・キーボ
ードを使用して小文字を入力するのを示している。ユー
ザは、ペンまたはスタイラスを用いてグラフィック・キ
ーボードの希望のキーをタップすることによってこれを
行う。さらに正確には、ユーザは、ペンがキーボード・
イメージ内の希望のキーの位置に近い画面表面をタップ
するポイントで、グラフィック・キーボードのキーボー
ド・イメージが表示される画面の表面に対してペンをタ
ップする。
【0024】図7の第1の図では、ユーザはペンを瞬間
的に入力対象の文字またはその他の文字に対応するキー
上に置く(この場合は「a 」)。キーボード、ペン、お
よびユーザの図の隣の小さな長方形で表されている文字
バッファは、この段階で空である。第2の図では、ユー
ザはペンをグラフィック・キーボードから取り除き、そ
れによってタップする動作を完了する。グラフィック・
キーボードは、文字「a 」を作成し、それを文字バッフ
ァに送る。強調表示は、表示から消える。
【0025】図8の3つの図のシリーズは、ユーザが本
発明のグラフィック・キーボードを使用して大文字を入
力するのを示している。ユーザは、グラフィック・キー
ボードの希望のキーの上で上向きのストロークまたはマ
ークを作成することによりこれを行う。
【0026】図8の第1の図では、ユーザはペンまたは
スタイラスを入力対象の文字に対応するキーの上に置く
(この例では「A 」)。キーは、表示で強調表示され
る。文字バッファは空である。
【0027】図8の第2の図では、ユーザは、ペンをキ
ーボードに対して押さえつけながらも、ペンを「上向き
に」−−つまり、キーボードのいちばん上の行に向かっ
て−−移動する。ユーザは、ペン・ポイントと、キーボ
ード・イメージが、実質上、上向きの移動の間表示され
る画面表面との間の接触を維持する。これが、ペンのド
ラッギングと言う。表示装置はユーザがペンをドラッギ
ングしたラインまたはマーク(インクの軌跡)を示す。
文字バッファは、入力対象の文字はまだ認識されていな
いので、この段階では空のままである。キーは、表示で
強調表示されたままである。
【0028】図8の第3の図では、ユーザがキーボード
表面からペンを取り除き、上向きのストロークを完了す
る。強調表示と同様にラインまたはマークは消え、上向
きのストロークに対応してグラフィック・キーボードに
よって作成される文字は文字バッファに表示される。
【0029】図9の3つの図のシリーズは、ユーザが本
発明のグラフィック・キーボードを使用してコントロー
ル文字を入力するのを示している。「コントロール文
字」は、文字キーを押している間に「コントロール」つ
まり「ctrl」とマークされる変更子キーを押し下げるこ
とによって、従来の機械キーボードで作成される。例え
ば、文字「a 」のキーを入力する間に「ctrl」キーを押
すと、本発明のグラフィック・キーボード上で「ctrl-
a」または「^a 」として作成することもできる「コン
トロール-a」と呼ばれる文字が作成され、ユーザはグラ
フィック・キーボードの希望のキーの上に右方向のスト
ロークまたはマークを作成することにより、コントロー
ル文字を入力することができる。
【0030】図9の第1の図では、ユーザは、入力文字
に対応するキー(この例の文字「^a 」に対応するキー
「a 」)上にペンまたはスタイラスを置く。キーは、表
示で強調表示される。文字バッファは空である。
【0031】図9の第2の図では、ユーザがペンを右側
にドラッギングする。ユーザは、ペンをキーボードに押
し続けながらペンを右側に移動し、ポイントと、キーボ
ード・イメージが右向きの移動を通して実質上表示され
る画面の表面との間の接触を維持する。表示装置は、ユ
ーザがペンをドラッギングしたラインまたはマークを示
す。キーは強調表示されたままである。入力対象の文字
がまだ認識されていないため、文字バッファはこの段階
で空のままである。
【0032】図9の第3の図では、ユーザは、キーボー
ド表面からペンを取り除き、右向きのストロークを完了
する。キーの強調表示と同様に、ラインまたはマークが
消え、右向きのストロークに対応してグラフィック・キ
ーボードによって作成される文字が文字バッファに表示
される。
【0033】図10は、異なった方向のストロークを組
み合わせる複合ストロークを作成することにより変更子
を組み合わせることができることを示している。図10
の3つの図のシリーズは、ユーザが本発明のグラフィッ
ク・キーボードを使用してコントロール大文字を入力す
るのを示している。「コントロール大文字」は、文字キ
ーを押しながら、同時に「シフト」および「ctrl」変更
子キーを押し下げることによって、従来の機械的なキー
ボード上で作成される。例えば、文字「a 」のキーを入
力する間に「シフト」および「ctrl」キーを押すことに
より、「ctrl-A」または「^A 」としても作成すること
が可能な「コントロール−シフト-a」と呼ばれる文字が
作成される。本発明のグラフィック・キーボード上で
は、ユーザは、グラフィック・キーボードの希望のキー
上に右向き−上向きの複合ストロークまたはマークを作
成することにより、コントロール大文字を入力すること
ができる。
【0034】図10の第1の図では、ユーザは、入力対
象の文字に対応するキー(この例では文字「A 」に対応
するキー「a 」)の上にペンまたはスタイラスを置く。
キーは表示で強調表示される。文字バッファは空であ
る。
【0035】図10の第2の図では、ユーザは、右に一
定距離ペンをドラッギングしてから、一定距離「上向き
に」−−つまり、キーボードのいちばん上の行に向かっ
てドラッギングする。ユーザは、ペン・ポイントと、キ
ーボード・イメージが右向きおよびその後の上向きの移
動を通して実質上表示される画面の表面との間の接触を
維持する。キーは、表示で強調表示されたままである。
入力対象の文字がまだ認識されていないため、文字バッ
ファは、この段階で空のままである。
【0036】図10の第3の図では、ユーザは、ペンを
キーボード表面から取り除き、複合ストロークを完了す
る。キーの強調表示と同様に、ラインまたはマークが消
え、ストロークに対応してグラフィック・キーボードに
よって作成される文字が文字バッファに表示される。
【0037】図10の例は上向き部分に先行する複合ス
トロークの右向き部分を示しているが、同じ「^A 」文
字は、ストロークの上向き部分が右向き部分の前に実行
されると作成される。他の方向で複合マークを作成する
ことにより、他の種類の変更子を組み合わせることもで
きる。例えば、左向きのストロークは、「代替」変更子
を示し、左向き−上向きまたは上向き−左向きの複合ス
トロークは、「代替」と「シフト」(大文字)変更子を
組み合わせ、左向き−右向きまたは右向き−左向きの複
合ストロークは「コントロール」と「代替」変更子を組
み合わせる。
【0038】3.マーキング・メニュー マーキング・メニューと呼ばれる対話技法は、説明され
る特定の実施例での本発明のグラフィック・キーボード
でのペン・ストロークの提示およびそれに対する応答を
実現するために使用される。本項では、技法を一般的に
説明し、第4項で、技法が本発明に当てはまるので、よ
り具体的に技法を説明する。マーキング・メニュー技法
の完全な説明は、完全に規定されるように参照により本
明細書に取り入れられる1993年、トロント大学、コ
ンピュータ・サイエンス学部の博士論文である、ゴード
ン・P・クルテンバッハ(Gordon P. Kurtenbach)の
「マーキング・メニューの設計および評価」に記載され
る。
【0039】3.1 マークおよび関連する概念 マーキング・メニュー技法は、初心者ユーザと専門家ユ
ーザを同様にサポートし、ユーザが初心者から専門家に
成長するのを助けるための効率的なメカニズムを提供す
ることを意図している。マーキング・メニューでは、ユ
ーザがペンまたはスタイラスを用いてコンピュータ表示
装置表面上に「書き込む」に従って、コンピュータが、
その色や陰影が背景のピクセルの色や陰影と対照を成す
ピクセルの軌跡(一般的にはインクの軌跡と呼ばれる)
を残すことによりインクの現れをシミュレーションす
る。
【0040】マークとは、ペンが押されてから表示を横
切って移動されると、特殊な「インク」の色や陰影に変
化する一連のピクセルである。インク・カラーに変化す
るピクセルとは、ペンが表示を横切って移動されるにつ
れて、ペンの先端の直下にあるピクセルのことである。
手書きを含む、意味のない落書きから意味のあるライン
の描画や記号までさまざまな自在画が、マークの例であ
る。マークを描画する動作がマーキングと呼ばれる。
【0041】マークは、ペンだけではなく他の種類の入
力装置を使用しても作成することができる。例えば、マ
ウスは、マウスボタンが押されマウスがドラッギングさ
れると、インクの軌跡を追跡記号の後に残すことができ
る。ペンとタブレットを使用するシステムもある。この
場合、マークは、表示装置の代わりにタブレット上に書
き込むことによって表示装置上で作成される。トラック
ボールを使用するそれ以外のシステムもある。
【0042】マーキング・メニューは、コマンドおよび
パラメータとしてユーザが作成する多様なマークを解釈
することができるペン・ベース計算システムおよびイン
タフェースに応用できる(これは、ユーザのマークがシ
ステムによって認識されず、ユーザに役立つための注釈
として厳密に役立つシステムと対照的である)。
【0043】ペン・ベース計算についての参考文献の多
くは、マークをジェスチャーと呼んでいる。ただし、ジ
ェスチャーという用語はマーキング・メニューというコ
ンテキストでは不適切である。マークの作成に物理的な
仕草が必要なことは本当であるが、システムによって解
釈されるのは、マークそれ自体である。例えば、「X」
マークは、マウスの代わりにペンを用いて実行された場
合、完全に異なった物理的な仕草を必要とする。いくつ
かのマークは入力装置を使ったぎこちない物理的な仕草
を必要とする場合があるため、ジェスチャーは、マーキ
ングの重要な一面である。ただし、2つの用語は区別す
ることができる。マークという用語の方が、ペン・ベー
ス・コンピュータ・システムまたは用紙とペンを真似る
アプリケーションにはより適切であるため、これ以降マ
ークを使用する。
【0044】3.2 マークを使用する理由 通常の人間−コンピュータのインタフェースは、入力機
能と出力機能という観点では非対称的である。視覚、聴
覚、および触覚などの数多くのコンピュータ出力モード
がある。大部分のコンピュータは、広範囲に視覚モード
を活用する。数千もの色を使う高解像度イメージが、素
早く、ユーザにとって意味のあるやり方で表示される。
対照的に、コンピュータのユーザの入力を探知する能力
は限られている。人間は、言語と接触などの幅広い伝達
技能を持っているが、大部分のコンピュータはこれらの
小さなサブセットを探知するにすぎない。例えば、キー
ボードは、指の(圧力ではないが)押しだけしか探知し
ないし、マウスは非常に単純な腕または手首の動きしか
探知しない。したがって、ペンのコンピュータ入力手段
としての到来により、マークを使用して入力帯域幅を増
やす機会が生まれる。
【0045】マークを使用する主要な動機は、マウスと
キーボード・インタフェースの不適当さである。この例
には、ボタンの押しと位置情報によって制御されるアプ
リケーションがある(ボタンという用語はここではメニ
ュー・アイテム、ダイアログ・ボックス、アイコン、キ
ーボード上のキーなどを記述する総称的な方法として使
用される)。これらの種類のシステムの専門家ユーザ
は、ボタン・インタフェースが効率的でないために、イ
ンタフェースが不適当であることに気づく。効率のため
にボタンを無視する対話技法の存在がこの証拠である。
インタフェースに精通している専門家は、利用できるコ
マンドのセットを知っている。彼らは、利用可能なコマ
ンドを彼らに思い出させるメニューは必要としていない
し、メニュー表示を使用してコマンドを呼び出すことが
非常に長たらしくて飽き飽きすることであることに気づ
く。
【0046】設計者は、いくつかの方法でこの問題に取
り組んできた。1つの解決策は、専門家がコマンドに直
接アクセスできるようにするアクセラレータ・キーであ
る。アクセラレータ・キーは、押されると、直ちにメニ
ュー・アイテムまたはボタンに対応する機能を実行する
キーボード上のキーである。その意図は、アクセラレー
タ・キーを使うことによって、専門家ユーザが、メニュ
ー・アイテムまたはボタンを表示選択するのに必要とな
る時間を節約することである。多くのシステムは、ユー
ザがアクセラレータ・キーと機能の対応を学習し、記憶
するのに役立つように、メニュー・アイテムやボタンの
隣にアクセラレータ・キーの名称を表示する。
【0047】アクセラレータ・キーには問題点がある。
アクセラレータ・キーと機能の間の任意のマッピングを
学習し、記憶するのは困難である。アクセラレータ・キ
ーと機能の間にニモニックを設定することもできるが
(例えば「オープン」のためのコントロール-o)、ニモ
ニックはアクセラレータ・キーの数が増えるにつれてす
ぐに足りなくなる。異なった機能に1つの共通のキーを
使用するさまざまなアプリケーションや、1つの共通の
機能に異なったアクセラレータ・キーを使用するさまざ
まなアプリケーションによって、さらに混乱が生じるこ
とがある。その結果、専門家は、アプリケーションに応
じたキーと機能の間の任意のまたは複雑なマッピングを
記憶しなければならない。
【0048】専門家ユーザをサポートするもう一つの方
法は、直接処理インタフェースに加えてコマンド・ライ
ン・インタフェースを供給することである。ただし、特
に、コマンド・ライン・インタフェースは、直接処理イ
ンタフェースとは根本的に異なっているために、コマン
ド・ライン・インタフェースにも問題点がある。専門家
になるためには、初心者はもう一つの完全に異なったイ
ンタフェースを学習しなければならない。
【0049】マークは、アクセラレータ・キーおよびコ
マンド・ライン・インタフェースの解決策の問題点を克
服する。マークは、その記号の性質のために、機能をよ
り迅速にアクセス可能にすることができる。ボタンを押
して機能をトリガするより、マークはコマンドを信号で
知らせることができる。例えば、記号マークは、機能と
関連付けられ、ユーザがその機能を記号を描画すること
によって呼び出すことができる。理論的には、マークは
任意の記号または記号のシリーズを描画するのに使用す
ることができるため、マークは物理的なボタンまたはグ
ラフィック・ボタンを探してそれを押すより、コマンド
選択のさらに迅速な方法となる。実際には、マークの数
はシステムの記号を認識する能力および人間の記号セッ
トを記憶する能力によって制限されている。にもかかわ
らず、小規模なセットのマークしか使用されないなら、
ユーザは関連機能をただちに呼び出すことができる。
【0050】また、マークは、機能を隠すのにも使用で
きる。ボタンによって提供されない機能は、それでもな
おマークによって提供される。これは、完全な機能のイ
ンタフェースをより少ない数のボタンで可能にし、これ
は、代わりに利用可能な表示領域のさらに効率的な使用
を意味する。さらに、多くの場合に、マークは、機能を
呼び出すためのボタンよりはるかに効果的となる。
【0051】マークを使用するもう一つの動機は、(空
間情報や時間情報などの)マークを使用しなければ表現
するのが難しい概念または表現しずらい概念をより「自
然な」方法で表現する方法となる、マークが持ついくつ
かの固有の質があるという点である。特に、マークは複
数のコマンドの属性を1つのマークの中に埋め込む率直
な方法となる。
【0052】3.3 マーキング・メニューおよび関連
概念 マーキング・メニューとは、ユーザがアイテムのメニュ
ーから選択できるようにする対話技法である。選択を実
行することができる2つの方法、つまりモードがある。
【0053】(1)メニュー・モード このモードで
は、ユーザはメニューを表示することによって選択す
る。ユーザは、ペンを表示装置に押しつけ、約1秒の3
分の1などの短時間、待機することにより、このモード
に入る。この動作は、プレス・アンド・ウェイト(押し
て待つ)と呼ばれることがある。そうすると、アイテム
から成る放射メニュー(またはパイ・メニュー)がペン
先端の回りを中心にして表示される。放射メニューは、
メニュー・アイテムがカーソルを囲む円の中に位置し、
それぞれのアイテムが円のある種のセクタと関連付けら
れている。ユーザは、ペンの先端を希望のアイテムの部
分に移動して任意のメニュー・アイテムを選択すること
ができる。選択されたアイテムは強調表示され、選択肢
は、ペンが表示装置から持ち上げられると確認される。
放射メニューの中心には、中心円、一般的には直径約1
センチメートルの円が強調表示されるか、強調表示され
ていない場合は視覚的に示されている。ペンは、メニュ
ーを選択しなくても中心円内で移動することができる。
【0054】(2)マーク・モード このモードでは、
ユーザは、マークを描画することにより選択する。ユー
ザは、ペンを表示装置に押しつけ、ただちに希望のメニ
ュー・アイテムの方向で動かすことによってこのモード
に入る。システムは、メニューを表示するのではなく、
ペン先端に従ったインクの軌跡を描画する。ペンが持ち
上げられると、移動の方向に対応するアイテムが選択さ
れる。
【0055】図11は、それぞれ、マーキング・メニュ
ーからコマンドを選択する2つのモードを図解する2つ
の図を示している。図11の左側の第1の図は、メニュ
ー・モードでメニュー選択肢を選択するユーザを示して
いる。この例では、2つのメニューがユーザに続いて提
示されている。ユーザは、ペンを第1メニューの上部右
側の四分円の中にドラッギングして、「ペースト」メニ
ュー選択肢を選択してから、ペンを画面から持ち上げず
に、ペンを第2のメニューの下部四分円の中にドラッギ
ングして「クリップボードc」メニューを選択する。こ
の選択肢のシリーズの効果は、クリップボードCと呼ば
れるクリップボード(記憶領域バッファ)からデータを
ペーストする(作業文書内に挿入する)ことである。第
1メニューおよび第2メニューは、いくつかの実施例で
は、−−特に、本明細書の本発明のグラフィック・キー
ボードの実施例では−−図11の表示画面上に同時に表
示されるとして説明を明確にする目的で表示されている
が、ユーザが一度に1つのメニューしか提示されないよ
うに、第1メニューは、第2メニューが表示されると消
えてしまう。
【0056】図11の右側の第2の図は、ユーザが第1
図と同じメニュー選択肢を選択するが、今回はマーク・
モードでこれを行うのを示している。ユーザは、実質上
同じペンの移動を行うので、第1図の場合と実質上同じ
マーク(斜めの上向き−右向きのライン・セグメントの
後に下向きのライン・セグメントが続く)ではあるが、
放射メニューは表示されない。この選択肢のシリーズの
効果は、再び、データをクリップボードCと呼ばれるク
リップボードからペーストすることである。図11の第
2図は、マーキング・メニューの重要な概念を図解す
る。マーク・モードでマークを使用してアイテムを選択
するのに必要な物理的な移動は、メニュー・モードでア
イテムを選択する場合に必要となる物理的な移動を真似
する。
【0057】マーキング・メニューは、階層構造とな
る。メニュー・モードでは、メニュー・アイテムがそれ
に対応するサブメニューを持つ場合、ユーザは、ペンを
持ち上げてアイテムを選択するのではなく、ペンを押し
つけて待機し、サブメニューの表示をトリガする。サブ
メニューも放射メニューである。それから、ユーザは、
以前に説明した方法でサブメニューからアイテムを選択
することができる。マーク・モードでは、ユーザは、方
向の変更がサブメニューからの選択肢に相当するマーク
を描画することにより選択する。図11の例は、メニュ
ー・モードとマーク・モードを使用して階層メニューか
ら選択する例である。第1メニューは、階層のいちばん
上にある。第2メニューは第1メニューのサブメニュー
で、階層の中では第1メニューの下にある。
【0058】このようにして、放射メニューを使用する
と、さまざまな角度でのライン・セグメントのシリーズ
からなるマークのセットが作成される(「ジグザグ・マ
ーク」)。階層アイテムを持たないマーキング・メニュ
ーは、厳密にまっすぐなライン・セグメントを作成す
る。図12は、メニュー階層の例およびその対応するマ
ーク・セットを示す。図12の左側の図は、メニュー階
層を示している。図12のいちばん上のメニューは、
1、2、3、および4という4つのメニュー選択肢を含
む数値メニューである。これらの選択肢のそれぞれが、
選択肢a、b、c、およびdから構成されるそれに対応する
英数字サブメニューを持つ。図12の右側の図は、マー
ク・セットを示す。マークのラベルが、それが選択する
メニュー・アイテムを示す。ドットは、マークの開始ポ
イントを示す。
【0059】また、マークまたはマークの一部に対応す
るアイテムを検証することも可能である。これは、マー
ク確認と呼ばれることがある。この場合、ユーザは、マ
ークを描画するが、マークの描画の最後にプレス・アン
ド・ウェイトする。そうすると、システムは、「まる
で」選択がメニュー・モードで実行されているかのよう
に、マークに沿って放射メニューを表示する。図13
は、3つの階層レベルを持つメニュー内でのこの例を示
す。図13の左側の図では、ユーザは、マークの最初の
部分を描画してから、ペンを押しつけた状態で、システ
ムがそこまでの選択を認識するのを待機する。図13の
右側の図では、それから、システムはマークについての
解釈を表示し、選択を完了するためにメニュー・モード
に入る。
【0060】メニュー階層でのバックアップやメニュー
・モードでのアイテムの再選択など、マーキング・メニ
ューから選択すると、他の種類の動作が起こることもあ
る。
【0061】3.4 まとめ 以下に、マーキング・メニューを貴重かつ独特な対話技
法とする設計特徴を要約する。マーキングメニューは、 ・キーボードを使用しなくても、メニュー選択の加速を
可能にする。 ・すべてのメニュー・アイテムでの加速を可能にする。 ・メニュー選択および加速された選択の間の相違点を最
小限にする。 ・同じ入力装置を使用したポインティングおよびメニュ
ー選択加速を可能にする。 ・描画が容易で高速なマークを活用する。 ・メニュー・アイテムとマークの対応を学習し、記憶す
るための空間的な方法を使用する。 ・「プラグイン(plug-in )」ソフトウェア・モジュー
ルとして実現可能である。
【0062】従来のメニューを使用して、(例えばマウ
スを使用して)ユーザは、メニューからアイテムを選択
するために、カーソルを特定の絶対画面位置または相対
画面位置まで移動する。マーキング・メニューを使う
と、メニュー選択を行わせるのは、移動先の特定の位置
ではなく、移動の方向である。例えば、カーソルを画面
上で上向きに移動すると、第1メニュー・アイテムが選
択でき、下向きに移動すると、第2メニュー・アイテ
ム、右向きに移動すると、第3メニュー・アイテム、左
向きに移動すると、第4メニュー・アイテムが選択でき
る。追加の選択は、斜めのカーソルの移動と対応させる
ことができる。マーキング・メニューは、移動の各方向
が一意のメニュー選択に対応するように、直線状ではな
く(「ペン・メニューとして」)放射状に配列される。
【0063】マーキング・メニューは、その幾何学上の
性質により、ユーザが記憶しやすくなっている。ユーザ
は、メニューを通して空間的な通路を学習し、記憶す
る。このような通路は、メニュー選択を置き換えるのに
通常使用されるアクセラレータ・キーの組み合わせより
覚えやすい。複数のレベルの階層メニューから選択肢の
シーケンスに対応するアクセラレータ・キーのシーケン
スがいくぶん任意であるのに対し、中間マーキング・メ
ニュー上をスキップする際にペンによってトレースされ
るパスは、メニュー表示時にそれらを選択するのに使用
されるのと同じである。つまり、マーキング・メニュー
は、初心者ユーザにメニューを表示し、専門家ユーザに
は単にマークを作成させる。
【0064】4.本発明でのマーキング・メニュー 本発明に適用されるように、マーキング・メニュー技法
は、メニューを、ペン・ストロークを記憶していないユ
ーザを補助するのに利用できるようにし、メニューをそ
れらを必要としないユーザから隠す。任意の時点で、ユ
ーザは、ペンを横に移動せずに押しつけることにより、
利用可能な選択肢を表示する放射ポップアップ・メニュ
ーを起動することができる。それから、ユーザは、ペン
(すなわち、入力探知表示画面または入力タブレットと
接触している、ペンのポイント、つまり先端)を希望の
選択肢が占めるパイの「スライス」の中に移動すること
により、希望の選択を行うことができる。横に移動しな
くても単にペンを表示画面から持ち上げるだけで、メニ
ューは消え、選択は行われない。
【0065】図14−17は、本発明のコンテキストで
適用されるマーキング・メニューの図解例を示す。図4
および6の例で定義される8つのストロークに対応する
放射メニューまたはパイ・メニューが図14に示され
る。ストロークの方向は、パイのスライスに実質上対応
する。
【0066】図15は、ユーザが、メニュー・モードで
使用されるマーキング・メニューで、本発明のグラフィ
ック・キーボードを使用して「^a」を入力する図のシ
リーズである。
【0067】図15の第1の図では、ユーザは、ペンを
押し、ペンをグラフィック・キーボードの「a」のキー
の上に押しつける。より正確には、ユーザはペンを押
し、グラフィック・キーボードのキーボード・イメージ
の「a」キーの位置で表示画面に対してペンを押しつけ
る。キーは、表示装置で強調表示される。その後、「大
文字」、「オプション」、「コントロール」、および
「コマンド」という変更子の4つの選択肢を示す放射メ
ニューが画面上に表示され、キーボード・イメージ上で
オーバレイされ、ペンの先端の位置の回りでだいたいセ
ンタリングされる。他の変更子または他のメニュー選択
肢は、代替実施例で提供できる。また、この時点では、
ユーザは単にペンを画面から持ち上げ、メニュー表示を
取り消すことができ、その場合、グラフィック・キーボ
ードは文字を作成しない。
【0068】図15の第2の図では、ユーザは、画面と
ペンを接触させたままでペンを右に移動し、「コントロ
ール」変更子を選択する。放射メニューは表示されたま
まである。キーは強調表示されたままである。
【0069】図15の第3の図では、ユーザは、ペン・
ポイントを画面から持ち上げる。これによって、グラフ
ィック・キーボードが「^a」文字を作成するように、
「コントロール」変更子が「a」キーに適用される。放
射メニューは、キー強調表示と同様に消え、キーボード
・イメージがそれが本来表示されたように残る。
【0070】図16は、ユーザが、メニュー・モードで
使用されるマーキング・メニューで、本発明のグラフィ
ック・キーボードを使用して「^A」文字を入力する図
のシリーズである。
【0071】図16の第1の図では、ユーザはペンを押
し、グラフィック・キーボードの「a 」キー上にペンを
押しつける。より正確には、ユーザはペンを押し、グラ
フィック・キーボードのキーボード・イメージの「a 」
キーの位置の表示画面に対してペンを押しつける。その
後、「大文字」、「オプション」、「コントロール」、
および「コマンド」という4つの選択肢を示す放射メニ
ューが画面に表示され、キーボード・イメージ上にかぶ
せられ、ペンの先端の位置の回りにほぼ中心をおく。
【0072】図16の第2の図では、ユーザは、ペンを
画面と接触させたまま、右に移動し、「コントロール」
変更子を選択する。選択されたメニュー選択肢(「コン
トロール」変更子)が強調表示される。放射メニューは
表示されたままで、キーは強調表示されたままである。
【0073】図16の第3の図では、ユーザは、ペンを
静かに持ち、ペンを「コントロール」変更子の選択の上
で以前到達した位置にペンを維持する。その後で、4つ
の選択肢の第1メニューは消え、この文字に適用するの
に利用可能な変更子の残りの利用可能選択肢−−「オプ
ション」と「コマンド」−−を示す第2放射メニューに
よって置き換えられる。この第2メニューは、キーボー
ド・イメージ上にかぶせられ、ペンの先端の位置の回り
にほぼ中心をおく画面に表示される。キーは、この例で
は、メニューによって部分的にはっきりしていないが、
強調表示されたままである。
【0074】図16の第4の図では、ユーザはペンを上
向き、つまり画面表示のいちばん上に向けて、移動し、
「大文字」変更子を選択する。選択されたメニュー選択
肢は強調表示される。放射メニューは表示されたまま
で、キーは強調表示されたままである。
【0075】図16の第5の図では、ユーザはペンを画
面から持ち上げる。これによって、グラフィック・キー
ボードが「A 」文字を作成するように、「コントロー
ル」と「大文字」変更子が「a 」キーに適用される。キ
ー強調表示と同様に、放射メニューは、消え、キーボー
ド・イメージが本来表示されていたように残る。
【0076】メニューは、図16に示される2つのレベ
ルよりさらに深いレベルまでネストすることができる。
例えば、変更子の3つのレベルを1文字に適用し、グラ
フィック・キーボードを使用して「コマンド−オプショ
ン-A」または「コントロール−代替-X」などの文字を作
成することができる。
【0077】図17は、本発明の実施例での8アイテム
・マーキング・メニューからの選択の例を示す図のシリ
ーズである。3つのメニュー選択には、「大文字」(シ
フト)、「オプション」、「コントロール」、「コマン
ド」、「後退」、「スペース」、「リターン」、および
「削除」が含まれる。
【0078】図17の第1の図では、文字バッファは、
ユーザが削除を希望する文字「A 」を含む。この必要の
ない文字は、小さな長方形で表されているカーソル位置
の直後にある。ユーザはペンを押し、ペンを、グラフィ
ック・キーボードのキーボード・イメージのキー(ここ
では「d 」)の位置での表示画面に対して押しつける。
キーは表示装置で強調表示される。その後で、「大文
字」、「オプション」、「コントロール」、および「コ
マンド」という変更子の4つの選択肢−−および「後
退」、「スペース」、「リターン」、(図17では図示
されていない)「削除」という特殊文字の4つの選択肢
−−を含む、8つの選択を表示する放射メニューが、画
面上に表示され、キーボード・イメージ上でかぶせら
れ、ペンの先端の位置の回りにほぼ中心をおく。この時
点で、ユーザは単にペンを画面から持ち上げて、メニュ
ー表示を取り消すことができ、その場合、グラフィック
・キーボードは文字を作成しない。
【0079】図17の第2の図では、ユーザは、ペンを
画面と接触させたまま、放射メニューの「後退」アイテ
ムの方向で、ペンを上向きおよび左に斜めに移動する。
これにより、「後退」文字が選択される。放射メニュー
は表示されたままである。キーは強調表示されたままで
ある。
【0080】図17の第3の図では、ユーザは、ペン・
ポイントを画面から持ち上げる。これによって、グラフ
ィック・キーボードは「後退」文字を作成し、この実施
例ではバッファ内の必要の内文字が消去され、カーソル
位置が左側に移動する(その他の実施例では、「後退」
文字、または「^h 」などの相当するものがバッファ内
に置かれ、これを消去として解釈するかどうかは、グラ
フィック・キーボードから入力を受け取るアプリケーシ
ョン・プログラムにまかされる)。キーボードの強調表
示されたキーは、無視される。キーの強調表示と同様
に、放射メニューは、消え、キーボード・イメージはそ
れが本来表示されたように残る。
【0081】本発明で使用されるマーキング・メニュー
の追加例は、図7−10に見られた。ただし、図15−
17で図解されたマーキング・メニューとは異なり、図
7−10のマーキング・メニューはマーク・モードにあ
るため、放射メニューは表示されない。
【0082】本発明のいくつかの実施例では、マーキン
グ・メニューはオプションである。メニューは、マーク
をメニューを使用しなくても使用できるように、専門家
ユーザによってオプションでディスエーブルできる。い
くつかの実施例では、マークを、見えないインクで描画
されたかのように、見えなくすることもできる。ユーザ
によって描画されるペン・ポイント(またはマウス・カ
ーソル、または他の入力装置の代表)のパスは、グラフ
ィック・キーボードによって、マークが描画されたかの
ように解釈されるが、インクの軌跡は画面には表示され
ない。
【0083】5.システム構成要素 図18は、本発明のグラフィック・キーボードの実施に
適切なシステム1を図解する。システム1は、プロセッ
サ(CPU)5、プロセッサ5に連結される記憶装置
6、プロセッサ5により実行されるユーザ・インタフェ
ース・ソフトウェア7、ペン10、表示画面22に密接
に連結される入力センサ21を具備する入力探知表示装
置20、文字バッファ30、および遅延タイマ45を搭
載するイベント・ドライバ40を具備する。画面22
は、複数のキー26を含むキーボード・イメージ25を
表示する。センサ21、画面22、バッファ30、およ
びイベント・ドライバ40は、操作上、プロセッサ5に
接続され、ユーザ・インタフェース・ソフトウェア7に
アクセス可能である。システム1は、通常、さらに、プ
ロセッサ5により実行されるオペレーティング・ソフト
ウェア(図示されていない)およびシステム1のさまざ
まな構成要素を相互接続するためのハードウェア(図示
されていない)を具備する。システム1の一部ではな
い、アプリケーション・プログラム50は、バッファ3
0を経由してシステム1により(すなわち、グラフィッ
ク・キーボードによって)供給される文字を受け入れ
る。
【0084】使用する場合、システム1は、入力センサ
21に適用されるペン10からのタップおよびストロー
クという形で入力を受け取る。ユーザ・インタフェース
・ソフトウェア7に従った命令を実施するプロセッサ5
が、ペン・ストロークおよび特にペン・タップおよびマ
ークが対応する文字の意味を判断する。プロセッサ5
は、このようにして判断された文字のストリームをバッ
ファ30に出力し、オプションで、インクの軌跡および
ポップアップ・メニューなどの視覚的なフィードバック
を、画面22に出力する。それから、バッファ30に記
憶された文字は、(図18に示されるように)プロセッ
サ5によって、または(図示されたいない)追加の1台
または複数のプロセッサによって、実行できるアプリケ
ーション・プログラム50によるさらなる処理のために
送られる。アプリケーション・プログラム50は、オプ
ションで、やはり画面22に表示可能な、その視覚表示
装置の一部として文字をエコーすることができる。
【0085】今度は、システム1のある種の要素を、さ
らに完全に記述する。プロセッサ5は、中央処理装置
(CPU)である。一般的には、それは、メインフレー
ム、ワークステーション、またはパーソナル・コンピュ
ータの一部である。プロセッサは、いくつかの実施例で
複数の処理要素を具備することがある。
【0086】ペン10は、入力をグラフィック・キーボ
ードに提供するためにセンサ21といっしょに使用され
る。ペン10は、センサ2とともに使用するために適切
ないかなる器具であってもよい。例えば、装置20が触
感表示画面である場合、ペンに単純なプラスチック、金
属、木、またはその他の1つまたは複数の材質のスタイ
ラスを使用できる。別の例では、装置20が光感知画面
であるならば、ペンにライト・ペンを使用できる。いく
つかの実施例では、通常のペンまたは鉛筆、レーザ・ポ
インタ、またはユーザの指でさえペン10としての役割
を果たすことができる。
【0087】センサ21は、ペンが装置20と接触して
いるかどうかを検知するために使用され、接触している
場合には、装置20に関してペン10の位置を決定する
ために使用される。つまり、センサ21は、ペン10が
「上向き」なのか「下向き」なのか、およびペン10が
表示画面22に関して、特にキーボード・イメージ25
に対してどこにあるのかを判断するのに、使用される。
センサ21は、センサ21に相対するペン10の位置
が、画面22に相対するペン10の位置と一致するよう
に、実質上、画面22上にかぶさる(実施例によって
は、下になる)。
【0088】前述のマーキング・メニュー技法は、ペン
10が、通常のボールペンまたは万年筆が用紙に影響す
るのと類似した方法で画面22によって示される表示に
影響することを前提としている。つまり、ペン10は、
画面22上にインクの軌跡を残す。したがって、ユーザ
が、ペン10を使用して入力センサ21上で、1つのス
トローク、または左向きに進んでから上向きに進むスト
ロークのようなストロークの組み合わせを作成すると、
L字形のマークなどの対応するマークが画面上に表示さ
れる。
【0089】キーボード・イメージ25は、ユーザ・イ
ンタフェース・ソフトウェア7に従ってプロセッサ5に
よって作成され、画面22上で表示されるグラフィック
・イメージである。キーボード・イメージ25は、標準
的な QWERTY キーボード・レイアウトでのキー26を含
むとして図18に示される。他の種類のキーボードおよ
びレイアウトを、本発明の範囲内で使用することは可能
である。例えば、キーボード・イメージ25が、ファン
クション・キーを含んだり、Dvorakキーボードのような
非標準型キーボード・レイアウトのイメージである場合
がある。いくつかの実施例では、キーボード・イメージ
25は、数値キーパッドや鍵盤である場合もある。
【0090】図18に示されるようなキーボード・イメ
ージ25は、「シフト」、「コントロール」、「代
替」、または「コマンド」などの変更子キーは含まな
い。本発明によれば、これらのキーは不必要である。そ
の機能性は、本発明においては、適切なペン・ストロー
クにより置き換えられている。したがって、キーボード
・イメージ25は、画面20で追加キーが存在した場合
より狭い面積を占める。
【0091】バッファ30は、ユーザ入力に応答してグ
ラフィック・キーボードによって作成される文字を記憶
する。一般的には、これらの文字は、アプリケーション
・プログラム50などのアプリケーション・プログラム
によって入力として受け入れられる。画面22は、オプ
ションで、バッファ30に記憶される文字、またはアプ
リケーション・プログラム50が受け取る文字を表示
(「エコー」)することができる。バッファ30は、記
憶装置6を使用して実現できる。それは、ユーザ・イン
タフェース・ソフトウェア7およびアプリケーション・
プログラム50の両方によってアクセス可能である。
【0092】イベント・ドライバ40は、プロセッサ
5、入力センサ21、および遅延タイマ45に接続さ
れ、ユーザ・インタフェース・ソフトウェア7によって
アクセス可能である。一般的には、イベント・ドライバ
40および遅延タイマ45は、プロセッサ5によって実
行されるオペレーティング・システム・ソフトウェアで
実施される。それらは、また、ハードウェアにおいて、
またはいくつかの実施例では部分的にハードウェアで実
現することができる。
【0093】5.1 イベント駆動型アーキテクチャ イベント・ドライバ40は、グラフィック・キーボード
に、ペン10に対応する、ある種のイベントや状態の変
化について知らせるために使用される。具体的には、イ
ベント・ドライバ40は、次のイベントを作成すること
ができる。
【0094】PenDown - このイベントは、ペン10が押
されると、つまりペン10が新規にセンサ21と接触さ
せられると、作成される。
【0095】PenDrag - このイベントは、ペン10が押
されたままの状態でペン10の位置が変化すると、作成
される。PenDrag イベントは、ペンが認識可能な量、つ
まり1ピクセル移動するたびに、作成される。
【0096】PenUp - このイベントは、ペン10がセン
サ21から持ち上がられると(センサ21との接触から
外されると)、作成される。
【0097】PenStill -このイベントは、ペン10がセ
ンサ21上で押されたままの状態で、ペン10のセンサ
21に対する位置が、E 秒間、かなりの量(通常は、2
ミリメートル)変更しない場合に作成される。この場
合、E は遅延時間である。E が固定時間値である実施例
もあれば、ユーザによって調節可能な実施例もある。一
般的には、E は、約0.3秒から1 秒の範囲である。遅延
タイマは、ペン10が押しつけられたまま、静かに保た
れていた時間の長さを決定するのに使用される。タイマ
45は、経過時間がE秒に達すると、イベント・ドライ
バ40に信号を送り、それによって、イベント・ドライ
バ40はPenStillイベントを作成する。タイマ45は、
ペン10が押されているか、移動と停止するとカウント
を開始し、ペン10が持ち上げられるか、移動を開始す
ると、リセットされる。
【0098】4種類のイベントが、本発明のグラフィッ
ク・キーボードの異なる動作を作成するために多様な組
み合わせで使用される。例えば、ユーザが、「^a 」な
どの変更された文字の入力を希望すると仮定する。ユー
ザは、グラフィック・キーボードのキー上でペンを押す
ことによって文字を入力するプロセスを開始し、それに
よってイベント・ドライバ40がPenDown イベントを作
成する。それから、ユーザは、ペンを押しつけながら、
ペンをドラッギングすることにより、マークを作成す
る。そうする過程で、ユーザは、イベント・ドライバ4
0に多数のPenDrag イベントを作成させる。オプション
で、ユーザは、システムにメニュー(いちばん上のメニ
ューまたはサブメニュー)を表示するようにプロンプト
するためにマーキングの間に休止することができる。こ
れによって、イベント・ドライバ40は、PenStillイベ
ントを作成する。最後に、マークを完了するために、ユ
ーザはペンを画面または入力センサから持ち上げ、それ
によってイベント・ドライバ40はPenUp イベントを作
成する。それ以降、ユーザのマークは、PenDown イベン
トの時点でのペンの位置によって決定される基本的な文
字およびマークによって決定される変更子(複数の場合
がある)に従って、プロセッサ5によって処理される。
一般的には、これにより、希望の文字が文字バッファ3
0に出力される。
【0099】5.2 ソフトウェア環境 当業者によって理解されるように、本発明のグラフィッ
ク・キーボードは、一般的には、オペレーティング・シ
ステムまたは操作環境のコンテキストで、グラフィック
・ユーザ・インタフェースとして使用される。環境は、
プロセッサ5により実行されるソフトウェアによってサ
ポートされる。一般的には、環境は、ウィンドウをキー
ボード・イメージ25に関連付けたり、このウィンドウ
の画面22の任意の位置で表示したり、ペン10に関連
するイベントがこのウィンドウ、したがってグラフィッ
ク・キーボードに関係しているかどうかを判断したり、
ペン10からの位置情報をこのウィンドウ、それからグ
ラフィック・キーボードに向けたり、文字バッファ30
の出力をアプリケーション・プログラム50のアプリケ
ーション・プログラムに向けたりすることなどのウィン
ドウ操作をサポートする。
【0100】一般的には、ソフトウェア環境は、すべて
およびグラフィック・キーボードの操作に関連するイベ
ントだけをグラフィック・キーボードにフィードするた
めに、イベント・ドライバ40とともに動作する。他の
ウィンドウまたはプロセスに関係するイベントは、それ
らの他のウィンドウまたはプロセスに向けられる。この
ような実施例では、グラフィック・キーボードはその動
作に関係するイベントと関係しないイベントを区別する
ための論理を取り入れる必要はない。ここでは(特に、
以下の第6項では)、本発明のグラフィック・キーボー
ドによって処理されるイベントは関連イベントであると
想定されている。
【0101】非ウィンドウ環境を含む、他の種類のソフ
トウェア環境は、本発明の範囲内で考えられる。例え
ば、本発明のグラフィック・キーボードは、分離ウィン
ドウのコレクションの類似したものではなく、連続用紙
や用紙のロールの類似したものを使用して、ユーザ・イ
ンタフェースを提示するペン・ベースのコンピュータ・
システムで実現することができる。
【0102】5.3 入力探知画面の代替策 図18の実施例では、入力センサ21は、入力探知表示
装置20の画面22に密接に連結される。これにより、
ペン10およびキーボード・イメージ25のキー26の
相対位置はユーザにすぐに明らかになる。ユーザが、効
果的に表示装置上で書き込むこのような装置は直接イン
ターフェースと称される。本発明は、ペンまたはその他
の書き込み計器が表示装置を接触しない、間接インタフ
ェースとともに使用するために適合することができる。
このような実施のいくつかの例は、これから説明する。
【0103】図19に示される代替実施例では、従来の
非入力探知表示装置が使用できるように、センサ21お
よび画面22が分離されている。デジタル化タブレット
70は、ペンからの入力を検知するために使用され、タ
ブレット70上のペン10の位置は、画面22のカーソ
ル27などのインジケータの位置によって表される。ユ
ーザは、キーボード・イメージ25のキーに対するペン
10の相対位置を、カーソル27の位置を検査すること
により判断することができる。
【0104】図21に示されるように、別の実施例で
は、マウス80(またはそれ以外の同等な入力装置)
が、ペン10およびセンサ21の代わりをする。マウス
位置は、プロセッサ5によって実行されるユーザ・イン
タフェースソフトウェア7の一部である適切なソフトウ
ェアによって探知される。マウス・ボタン81は、マウ
ス80がアクティブであるかどうかを判断するために使
用することができる。これは、ペン10が下がっている
か、上がっているかを判断するためにセンサ21を使用
するのに類似している。カーソル27は、マウス80お
よびキーボード・イメージ25のキー26の相対位置に
ついて視覚的なフィードバックを提供する。当業者は、
トラックボールおよびジョイスティックを含むがそれら
に限定されない、2つ以上の次元を探知する広範囲な同
等な入力装置をマウス80の代わりに使用できることを
理解するであろう。
【0105】いくつかの実施例では、キーボード・イメ
ージ25は、ステンシルで刷り込まれ、接着されるか、
それ以外の場合は、電子表示画面に表示されるだけでは
なく、あるいは表示される代わりに、書き込み表面上に
付けられる。書き込み表面とは、図19の実施例のデジ
タル化タブレット70や、図21の実施例のマウス80
とともに使用されるマウスパッドである。図20は、図
19の実施例でデジタル化タブレット70の代わりに使
用されるデジタル化タブレット70’を図解する。デジ
タル化タブレット70’は、その上に、キー26’を含
むキーボード・イメージ25’をステンシルで刷り込ん
だ。ユーザは、ペン10を使用してグラフィック・キー
ボードと対話し、ステンシルで刷り込まれたキーボード
・イメージ25’のキー26’を横切るストロークを作
成する。ステンシルで刷り込まれたキーボード・イメー
ジ25’は、表示画面20上にその対となるグラフィッ
ク・キーボード・イメージ25を表示させる、ページ1
0の位置をカーソル27によって、ペン・ストローク・
パスをインクの軌跡(図19では図示されていない)に
よって示すことができる。代わりに、画面上での視覚的
なキュー(つまり、カーソル27およびキー26を含む
キーボード・イメージ25)は、いくつかの実施例では
省略可能であり、その場合、ステンシルで刷り込まれた
キーボード・イメージ25’が、文字情報、位置情報、
および類似情報を本発明のグラフィック・キーボードの
ユーザに伝達する際に、表示20を置き換える。それ以
外の実施例では、ステンシルで刷り込まれたキーボード
・イメージ25’は、入力探知表示画面の専用部分に適
用するか、適切に構築された膜入力センサに適用するこ
とができる。
【0106】6.方法のステップ 図22−29は、マーキング・メニューを取り入れる実
施例での本発明のグラフィック・キーボードからの入力
を処理する際に必要なステップのフローチャートであ
る。これらのステップは、プロセッサ5の制御の元で、
イベント・ドライバ40によって作成されるPenDown イ
ベント、PenDrag イベント、PenStillイベント、および
PenUp イベントシステム1によって実施される。
【0107】6.1 データ構造 説明するイベント処理ルーチンは、ある種のデータ構造
を共通で共有する。これらのデータ構造は、一般的には
記憶装置6に記憶され、プロセッサ5によってアクセス
可能である。ある実施例では、データ構造は、次の種類
である。
【0108】(1)MM−メニューを表す。MMは、 ・アイテム名のリスト(例えば、シフト、コントロー
ル、コマンド、オプション)・サブメニューのリスト
(他のMMによって表される) ・アイテム名のリストおよびサブメニューのリストへの
インデックスである、選択されたアイテム を含む。
【0109】文字の処理が開始する前に(つまり、新し
いPenDown イベントが発生する前に)、表示することが
できるメニューの階層を説明するMMから成る階層が存
在する。MM階層は、メニュー・モードで、もっとも最
近のPenDown イベント以来いままで表示されたメニュー
のシーケンス、またはマーク・モードで、現在のマーク
によって選択されるメニューのシーケンスを反映するた
めに更新することができる。
【0110】(2)ポイント−組(x 、y 、t 、φ): x − 水平画面位置 y − 垂直画面位置 t − 時間x とy が記録された φ − 先行するポイント、このポイント、および次の
ポイントによって形成される角度 (3)PointList − ポイントの順序付けられたリス
ト。マークは、マークが描画されるに従って、ペンの画
面(または入力センサ)位置を示すPointList によって
表される。それぞれの位置には、それに対応するその発
生時刻(例えば、もっとも最近のPenDown イベントから
ミリ秒単位で測定される)がある。
【0111】(4)ModeFlag − マーキング・メニュ
ーの現在のモードがメニュー・モードなのか、マーク・
モードなのかを示すトグルまたはフラグ。
【0112】6.2 イベント処理ルーチン 図22は、イベント・ドライバ40によって作成され
る、PenDown 、PenDrag、PenStill、およびPenUp とい
う4種類のイベントの内の1つに応答するためのステッ
プを示している。最初に、処理対照のイベントの種類が
決定される(ステップT)。イベント種類に従って、Pe
nDown (ステップA)、PenDrag (ステップB)、PenS
till(ステップC)、PenUp (ステップD)という4種
類の異なったイベント応答ルーチンの1つが呼び出され
る。これで、次のイベントが発生するまで処理を完了す
る。
【0113】(1)PenDown イベントがPenDownイベン
トである場合(ステップA)、そのフローチャートが図
23に表示されるルーチンが実行される。グラフィック
・キーボードのどのキーが押されるのかという決定がな
される(ステップAA)。一般的には、入力探知表示画
面が入力に使用される場合、押されているキーは、ペン
の先端がその境界線内にあるキーである。画面から分離
したマウスまたはタブレットが入力に使用される場合に
は、押されているキーは、その位置が、マウスまたはペ
ンを表すカーソル27の表示位置ともっとも密接に相関
するキーである。次に、押されているキーは表示装置で
強調表示される(ステップAB)。一般的には、これ
は、その境界線の外観を暗くするか、あるいはその境界
線の色を変更することにより行われる。次に、モードが
マーク・モードに設定される(ステップAC)。これ
は、マーク・モードを示すためにModeFlag をセットす
ることにより実行される。最後に、ペンの位置および現
在時刻は、現在作成中のマークを表すのに使用されるPo
intList内のポイントとしてセーブされる(ステップA
D)。このポイントの値の組が、画面22に対するペン
10の位置(または、カーソル位置としてペン位置を表
す実施例でのカーソル27の対応する位置)を示す。
【0114】(2)PenDrag イベントがPenDrag イベン
トである場合(ステップB)、図23にそのフローチャ
ートが表示されるルーチンが実行される。現在のモード
は、ModeFlagを検査することにより決定される(ステッ
プBA)。現在モードがマーク・モードである場合、ペ
ン位置および時刻は現在のPointList のポイントとして
セーブされ(ステップBB)、インクの軌跡が以前のペ
ン位置から現在のペン位置まで秒がされる(ステップB
C)。これにより、マークが、ペンがドラッギングされ
るのつれて、ペンのパスに沿って表示画面上に表示され
る。ユーザがマークを作成するためにペンをドラッギン
グすると、一般的には数多くのPenDragイベントが作成
される。
【0115】現在モードがメニュー・モードである場合
には、メニューは、すでに画面上にある。どのメニュー
・アイテムが選択されているのかはペン位置に基づいて
決定され(ステップBD)、この選択は、現在のメニュ
ーを表すMMの「選択されたアイテム」フィールド内に
記憶される(ステップBE)。
【0116】メニュー・モードでは、ユーザは、ペンを
表示されるメニューの中心円からメニューの放射上のセ
クタ(つまり「パイのスライス」)の中にドラッギング
することにより、現在のメニューからアイテムを選択す
ることができる。ユーザがペンをドラッギングするに従
って、PenDragイベントのシリーズが発生する。ユーザ
は、メニューの外辺部の外側でさえ、メニューを移動し
続けることが可能で、ユーザがセクタの角張った境界内
に留まる限り、選択は維持される。ペンを別のセクタの
中に移動すると、異なったメニュー・アイテムが選択さ
れ、以前に選択されたメニュー・アイテムの選択が解除
される。このようにして、説明したばかりのメニュー選
択は、取消可能な選択である。選択によって、グラフィ
ック・キーボードに、文字または変更子をただちに作成
させない。現在選択されているメニュー・アイテムを文
字の作成または修正のために実際に適用するのは、PenU
pイベントの場合だけで発生する。
【0117】(3)PenStill イベントがPenStillイベ
ントである場合(ステップC)、そのフローチャートが
図25に表示されるルーチンが実行される。現在の選択
モードは、ModeFlagを検査することにより決定される
(ステップCA)。ペンを静かに保つことにより、ユー
ザは、メニューを表示させることを意図する。したがっ
て、現在モードがマーク・モードの場合、モードは、Mo
deFlagをトグルすることによりメニュー・モードに切り
替えられ、ルーチンが、いままで描画されたマークに対
応するメニュー選択を決定するために呼び出される(ス
テップCC)。図27に関連して後述されるルーチンの
率直な延長である、このルーチンは、MM階層を更新
し、選択されたメニューを反映し、表示をそれに応じて
更新する。(いちばん上のメニューまたはサブメニュー
のどちらかである)現在のメニューは、ペン・ポイント
位置に表示される。描画されたマークは、マークの概要
のクリーンアップされたバージョンを表す1つ以上の直
線セグメントで、表示内で置き換えられる。マークに方
向の実質上の変更が含まれない場合には、1本の直線セ
グメントが表示される。ライン・セグメントには、マー
クの起点およびペン・ポイントに端点がある。マークが
実質上1つ以上の中間点で方向を変更すると、一般的に
は、ユーザが複合変更子を基本文字に適用することを意
図することを示し、異なった直線セグメントから成るジ
グザグが表示される。ジグザグのそれぞれのライン・セ
グメントは、方向の実質上の変更を含まないマークの一
部に対応する。
【0118】現在のモードがメニュー・モードである場
合には、メニューは、すでに表示中で、ユーザはおそら
くそのメニューからアイテムを選択することを意図して
いる。したがって、ユーザがすでに表示されたメニュー
からアイテムを選択したことを示すために、ペンが表示
されたメニューのセクター内に位置する場合(ステップ
CD)、および示されたメニュー・アイテムに対応する
サブ・メニューが存在する場合(ステップCE)、現在
のメニューが表示から取り除かれ(ステップCF)、示
されたメニュー・アイテムに対応するサブメニューが表
示され、現在のメニューとなる(ステップCG)。MM
階層は、それに応じて更新される。図16の例は、これ
がどのようにユーザに見えるのかを示している。図16
の第2の図は、表示中のメイン・メニューを示し、図1
6の第3図は、表示から排除され、サブメニューによっ
て置き換えられたメニュー・メニューを示している。ペ
ンが表示メニューのセクター内にない場合(ステップC
D)、または示されたメニュー・アイテムに対応するサ
ブメニューが存在しない場合(ステップCE)、イベン
ト応答ルーチンが単に戻り、現在メニューを表示したま
まにする。
【0119】(4)PenUp イベントがPenUpイベントで
ある場合(ステップD)、そのフローチャートが図26
に表示されるルーチンが実行される。現在の選択モード
は、ModeFlagを検査することにより決定される(ステッ
プDA)。現在モードがマーク・モード出ある場合、描
画されるマークは表示から消去され(ステップDB)、
マークに対応するメニュー選択は、図27に関連して後
述されるルーチンに従って決定される(ステップD
C)。この決定後に、MM階層は選択されたメニュー・
アイテムを反映する。このようにして、変更子または現
在表示されるメニューおよびもっとも最近のPenDownイ
ベント以来、以前表示されたあらゆるメニューに対応す
る空間文字がMM階層に反映される。モードがメニュー
・モード出ある場合、すべてのメニューとラインが表示
から消去される(ステップDD)。MM階層はすでに最
新であるため、メニュー選択を決定するためのルーチン
は、この場合には呼び出されない。
【0120】ペンを画面から持ち上げることにより、ユ
ーザはマークを完了し、グラフィック・キーボードにキ
ーボード・バッファ内に格納する文字を作成させる。そ
れに応じて(現在のモードには関係なく)、MM階層
が、どの変更子または空間文字が選択されたのかを決定
するために注意深く検討される(ステップDE)。それ
から適切な文字が、それに応じて作成され、文字バッフ
ァ30内に格納される(ステップDF)。この文字は、
MM階層ではコード化されるユーザのメニュー選択に依
存している。それは、そのキーがもっともさいきんのPe
nDownイベントで押された基本文字の修正済み(または
未修正)バージョンである。例えば、基本文字が「a 」
で、「ctrl」および「大文字」変更子が選択されると、
出力文字は「^A 」となる。代わりに、ユーザのマーク
またはメニュー選択が、後退またはリターンなどの特殊
文字を示す場合、その特殊文字は作成対照の文字であ
り、押されるキーは無視される。
【0121】最後に、押されたキーは、強調表示されて
いない、つまり表示装置内でその通常の外観に復元され
ている(ステップDG)。これにより、イベントのサイ
クルが完了し、グラフィック・キーボードは、次のPenD
own イベントで新しい文字を受け入れる準備ができた。
【0122】6.3 決定変更子 図27は、どの変更子(または特殊文字)がユーザによ
って描画される指定のマークに対応するかを決定するた
めのルーチンのステップをフローチャートで示してい
る。このルーチンは、PenUp イベントの処理の一部とし
て、図26のステップDCで呼び出される。ルーチン
は、入力として(例えば、PointList として表される)
マークを受け入れ、出力として変更子のセット(おそら
く、空のセット)を戻す。
【0123】最初に、マークは、それが認識できる長さ
であるかどうか、例えば、5ミリメートルのような試験
値より長いかどうかを確認するために試験される(ステ
ップEA)。マークが試験値より短い場合には、それ
は、ユーザが単にキーをタップしたかのように、マーク
であるとはまったく見なされない。この場合、空のセッ
トが戻される(ステップEB)。
【0124】マークが試験値と同程度の長さであるか、
あるいは試験値より長い場合、マークはその明瞭度ポイ
ントを決定するために分析される(ステップEC)。こ
の分析は、図28に関連して後述されるルーチンに従っ
て実行される。それ以降、明瞭度ポイントは、対応する
メニューおよびサブメニューの中心と一致され、選択さ
れた修飾子を決定する(ステップED)。この分析は、
図29に関連して後述されるルーチンに従って実行され
る。これらの「効果的な」または「視覚的な」メニュー
選択に従って、変更子のセットが作成され、出力として
戻される(ステップEE)。
【0125】6.4 明瞭度ポイントの決定 一般的に、マークの明瞭度ポイントは、ユーザがメニュ
ーまたはサブメニューから選択を示すマークに沿ったポ
イントである。一般的には、これは、マークの最初の
(開始)ポイントおよび最後(終了)ポイント、および
マークが実質上の方向の変更を経るあらゆるポイントを
含む。例えば、メニューのかくセクタが45度を占める
ように、放射メニューに8つのアイテムがある場合、角
張ったヘディングでの約22.5度以上の変更は、かな
りのものと考えられる。かなりの角度の変更は、マーク
がノイズとジッタに関してフィルタされてから、決定さ
れる。
【0126】より具体的には、マークの明瞭度ポイント
は、そのフローチャートが図27に表示されるルーチン
に従った1つの実施例で決定される。この実施例ではGe
tArticulationPoints と呼ばれるこのルーチンは、図2
7のステップECで呼び出される。ルーチンは、入力と
して現在のマークのPointList (入力PointList )を受
け入れ、明瞭度ポイントだけしか含まない別のPointLis
t (出力PointList )を出力する。
【0127】ルーチンの開始時に、入力PointList は、
ユーザが、マークを描画しながらかなり休止したかどう
か、およびどこで休止したかを判断するために調べられ
る。これは、例えば、その間で、経過時間が0.5秒な
どの指定遅延時間以上のポイントの組を探すことによっ
て実行できる(一般的には、ここで遅延時間に使用され
る値は、PenStillイベントをトリガするのに使用される
遅延時間に使用される値より少ない)。
【0128】少なくとも2つの休止ポイントが発見され
る場合(ステップFB)に、マークの開始ポイントが休
止ポイントに含まれていないと、それは出力PointList
に加えられる(ステップFC)。したがって、休止ポイ
ントは、明瞭度ポイントであると解釈される祖励行の分
析なしで、入力PointList でのその外観の順序で出力Po
intList の最後に対かされる(ステップFD)。それか
ら、マークの終了ポイントが、出力PointList の最後に
追加される(ステップFE)。これでルーチンが完了す
る。
【0129】発見される休止ポイントが2つ以下の場
合、入力PointList がさらに分析される。まず、PointL
ist のデータがある種の不正確さおよび人工品を取り除
くために前処理される。ペンが最終的に表示画面から持
ち上げられた(ステップFG)ときに発生する不正確さ
のように、特に、ペンが最初に表示装置に触れたときに
発生する不正確さは取り除かれる(ステップFF)。ま
た、ペン・ジッタによる小さな角度の変更は、ろ過して
取り除かれる(ステップFH)。
【0130】PointList は、このようにして「クリーン
アップ」されてから、マークが重要な角度を形成するポ
イント−−つまり、メニューが表示されていたならメニ
ュー選択が行われるのに十分なほどペンの移動の方向が
変更するポイントを検知するために探索される。例え
ば、これは、φの値がしきい値角度を越えるポイントを
見つけだすことにより、実行可能である(ステップF
J)。しきい値角度は、一般的に、メニュー選択肢の数
に依存する。例えば、図14の例で図解されるメニュー
の場合のように、マーキング・メニューが8つの選択肢
をサポートすると、約22.5度以上の角度変化は、か
なりであると考えられ、しきい値角度は22.5度にセ
ットできる。図15の例で図解されるメニューの場合の
ように、メニューが4つの選択肢しかサポートしない場
合には、しきい値角度は45度にセットできる。
【0131】かなりの角度変化が検知されない場合(ス
テップFK)、マークの最初のポイントと最後のポイン
トが明瞭度ポイントとして戻される出力PointList に格
納される(ステップFL)ように、マークは直線である
と見なされる。それ以外では、1つ以上のかなりの角度
変化が検知されると、最初のポイント、最後のポイン
ト、および最大角度変化のポイントまたは複数のポイン
トが明瞭度ポイントとして戻される出力PointList に格
納される(ステップFM)ように、マークは1つまたは
複数の角度を含むと見なされる。これで、ルーチンが完
了する。
【0132】6.5 明瞭度ポイントを対応するメニュ
ーと一致させる 一般的に、いったん明瞭度ポイントが見つかると、適切
なメニューおよびサブメニュー(複数の場合がある)が
マークの明瞭度ポイントで表示されるように、マーク
は、システムがメニュー・モードにあり、ユーザが各明
瞭度ポイントを休止したかのように解釈される。より具
体的には、ある実施例では、そのフローチャートが図2
8に表示されるルーチンが明瞭度ポイントを解釈するた
めに使用される。この実施例ではArticulationPointsTo
MenuItems と呼ばれるこのルーチンは、図26のステッ
プEDで呼び出される。
【0133】ArticulationPointsToMenuItems は、入力
として、図26のステップECで呼び出されるGetArtic
ulationPoints ルーチンからの出力PointList として戻
された現在のマークの明瞭度ポイントを含むPointList
、および表示可能なメニューおよびサブメニューの階
層を記述するMMデータ構造の階層も受け入れる。ルー
チンは、適切な選択されたアイテムで、変更子のセット
を表すMM階層を出力する。
【0134】ルーチンは、現在のメニューとなる、MM
階層からいちばん上のメニューを選択することにより開
始する(ステップGA)。それ以降、ルーチンは、メニ
ューの階層が尽きるか、明瞭度ポイントのリストが尽き
るか、どちらか先に起こるまで、ループする。
【0135】特に、ループは次のように進行する。最後
のポイント以外のPointList 内での明瞭度ポイントのそ
れぞれに(ステップGB)、対応するメニュー選択が決
定される(ステップGC)。これは、現在のメニューが
現在の明瞭度ポイントでセンタリングされ、ペンがPoin
tList の次の明瞭度ポイントの位置で位置づけられる
と、選択されるメニュー・アイテムである。メニュー選
択は、現在のメニューを表すMMデータ構造の内容に適
切な修正を加えることにより、現在のメニューの「選択
済みアイテム」として記憶される(ステップGD)。そ
れから、選択されたメニュー・アイテムにそれに対応す
るサブメニューがあるかどうかを判断するために試験が
行われる。選択済みのアイテムにサブメニューがない場
合(ステップGE)、メニュー階層が尽き、ルーチンが
完了する。それ以外の場合、サブメニューは新しい現在
のメニューとして解釈され(ステップGG)、最後のポ
イント以外のすべての明瞭度ポイントが処理されるまで
(ステップGH)、ループが繰り返される。それから、
ルーチンは完了する。このルーチンから戻ると、MMデ
ータ構造の階層は、選択済みメニュー・アイテムのセッ
ト、したがって図26のステップEEで作成され、戻さ
れるる変更子のセットを反映する。
【0136】6.6 文字を作成するためのイベント・
シーケンスの使用 ユーザの動作によってトリガされるイベントのシーケン
スにより、グラフィック・キーボードは文字を作成す
る。例えば、ユーザが「a 」などの小文字の入力を希望
する場合、ユーザはキーボード・イメージの希望のキー
のうえでペンをタップする。これで、イベントのシーケ
ンスが立ち上がる(PenDown 、PenUp )。このイベント
・シーケンスによって、代わりに、これらのイベントに
対応するステップが、図21のフローチャートの論理に
従って実行される。特に、PenDownイベントが発生する
と、プロセッサ5は、キー26のどのキーが押されてい
るかを判断し、そのキーを表示画面22で強調表示さ
せ、モードをマーキングにセットし、ペン10の位置を
セーブする。それ以降、PenUp イベントが発生すると、
プロセッサ5は、モードがマーキングであると判断す
る。マークは作成されず、変更子が適用されなかったの
で、プロセッサ5は、単に表示画面27でキーの強調表
示を解除し、キーに対応する未収性の文字を文字バッフ
ァ30内に格納する。
【0137】メニューを表示させずに、「A 」、「^a
」、または「^A 」などの修正済みの文字を入力する
には、ユーザはペンを希望のキーにタッチさせ、ペンを
ドラッギングして希望のマークを作成してから、ペンを
持ち上げる。これによって、イベントのシーケンスが立
ち上がり(PenDown 、PenDrag 、PenDrag 、PenDrag...
PenDrag 、PenUp )、適切な関連付けられたステップが
実行される。特に、PenDown イベントが発生すると、プ
ロセッサ5は、キー26の度のキーが押されているかを
判断し、ペン10の位置をセーブする。それ以降、PenD
rag イベントが発生すると、プロセッサ5は、モードが
マーキングであると判断し、ペン10の現在の位置をセ
ーブし、画面22上に表示されるインクの軌跡を更新す
る。それ以降、PenUp イベントが発生すると、プロセッ
サ5は、モードがマーキングであると判断し、画面22
の表示からインクの軌跡を消去し、どの1つまたは複数
の変更子がマークの明瞭度ポイントに従って選択された
のかを判断する。また、プロセッサ5は、表示画面22
でキーの強調表示を解除し、キーに対応する修正済み文
字を文字バッファ30の中に格納する。
【0138】同様に、メニューを表示しなくても、後退
またはリターンなどの斜線マークによって表される頻繁
に使用される文字を作成するには、ユーザはペンを任意
のキーにタッチし、ペンをドラッギングし、希望のマー
クを作成してから、ペンを持ち上げる。再び、これでイ
ベントのシーケンス(PenDown 、PenDrag 、PenDrag、P
enDrag...PenDrag 、PenUp )が立ち上がり、適切な関
連付けられたステップを実行させる。
【0139】「A 」または「^a 」などの単一の変更子
がある文字を入力するためにメニューを使用するには、
ユーザはペンを希望のキーにタッチさせ、メニューが表
示されるのに十分な時間(例えば、0.3秒間)それを
そこで保持する。ユーザは、ペンをドラッギングして希
望のメニュー選択を行ってから、ペンを持ち上げる。こ
れにより、イベントのシーケンス(PenDown 、PenStil
l、PenDrag 、PenDrag、PenDrag...PenDrag 、PenUp )
が立ち上がり、適切な関連ステップが実行される。同様
に、表示メニューを使用して、後退またはリターンなど
の斜線マークによって表される頻繁に使用される文字を
作成するには、ユーザは、ペンを任意のキーにタッチ
し、それを、メニューが表示されるまで静かに保持し、
ペンをドラッギングすることにより希望のメニュー選択
を行ってから、ペンを保ちAが得る。ここでも、これに
より、イベントのシーケンス(PenDown 、PenStill、Pe
nDrag 、PenDrag 、PenDrag...PenDrag 、PenUp )が立
ち上がり、適切な関連付けられたステップが実行され
る。
【0140】「^A 」などの二重変更子を持つ文字を入
力するためにメニューを使用する場合は、ユーザはペン
を希望のキーにタッチし、それを、メニューが表示され
るまでそこで保持し、希望の選択を行い、ペンを再び次
のメニューが表示されるまで保持し、希望の選択を行
い、ペンを持ち上げる。これにより、イベントのシーケ
ンス(PenDown 、PenStill、PenDrag 、PenDrag 、PenD
rag...PenDrag 、PenStill、PenDrag 、PenDrag...PenD
rag 、PenUp )が立ち上がり、適切な関連付けられるス
テップが実行される。同様に、ユーザは、ドラッギング
を続けることによりメニューを使用してさらに変更子を
加えてから、必要に応じてペンを静かに保持することが
できる。したがって、「コマンド−オプション-A」など
の三重に修正された文字を入力するためにメニューを使
用する場合は、ユーザはペンを希望のキーにタッチさ
せ、それを、メニューが表示されるまでそこで保持し、
希望の選択を行い、次のメニューが表示されるまで、再
びペンを静かに保持し、希望の選択を行い、ペンを持ち
上げる。これにより、イベントのシーケンス(PenDow
n、PenStill、PenDrag 、PenDrag 、PenDrag...PenDrag
、PenStill、PenDrag 、PenDrag 、PenDrag...PenDrag
、PenStill、PenUp )が立ち上がり、適切な関連付け
られるステップが実行される。
【0141】また、ユーザは、複合変更子を表すマーク
を作成する過程でメニュー表示を取得するために、マー
キング・メニューのマーク確認機能を使用することもで
きる。例えば、ユーザがペンをキーにタッチし、(実質
上、方向の変更の間休止せずに)ペンを右にドラッギン
グしてから、上向きでドラッギングしてから、ペンを画
面から持ち上げずにペンを静かに保持すると、それ以
降、右向きのマークのメニューおよび上向きのマークの
サブメニューの両方が表示される。この例のイベントの
シーケンスは(PenDown 、PenDrag 、PenDrag...PenDra
g 、PenDrag 、PenStill)である。再び、適切な関連付
けられたステップが実行される。
【0142】それ以外のイベントの組み合わせはいくつ
かの実施例でサポートすることができる。例えば、いく
つかの実施例では、修飾子が、斜線ストロークによって
作成される文字に適用することができる。
【0143】7.ソフトウェアの説明 本発明の現在の実施例は、デジタル・コンピュータ上の
ソフトウェアで実現される。付録(参考資料)は、この
実施例の実現のためのソフトウェア・プログラム用ソー
ス・コードを提供する。実施例は、一重に修飾された文
字をサポートする。ソース・コード(未出版の研究、著
作権、1993ゼロックス社)は、単一ソース・コード
・ファイルを含む。それは、アップル・マッキントッシ
ュ・ファミリのコンピュータ用のハイパーカード記述言
語で作成される。当業者は、幅広い範囲のプログラミン
グ言語およびハードウェア構成が、本発明の範囲を逸脱
することなく、本開示に基づいて容易に使用できること
を理解するであろう。
【0144】8.結論 本発明は、英数字データなどのコマンドおよびデータ
を、グラフィック・キーボードを使用してペン・ベース
・コンピュータに正確かつ効率的に入力できるようにす
る単純かつ実現が容易な技法を提供する。グラフィック
・キーボードを使用すると、ユーザは、キーボード入力
の既存の知識を利用することができる。ストロークおよ
びマーキング・メニューを使用すると、入力が加速され
る。マーキング・メニューの自然に表される性質のため
に、これらのアクセレレータは、初心者にアクセス可能
である。これらは、また、例えば、より多様なコマンド
を持つさらに大きなメニューがグラフィック・キーボー
ドに対するソフトウェア更新の一部としてインストール
される場合に、ときどきメニューに再度慣れることを必
要とする経験豊富なユーザにとっても貴重である。
【0145】本発明およびグラフィック・キーボード
は、既存のグラフィック・キーボードより優れた改良さ
れた使いやすさを提供する。例えば、本発明のグラフィ
ック・キーボードにはモードがない。以前のグラフィッ
ク・キーボードでは、変更子キーをタップすると、明示
的にリリースされなければならないモード(例えば、シ
フト・モード)がセットされた。この不便さとぎこちな
さは、本発明では回避されている。さらに、スペースお
よび削除などの変更子キーおよびある種のコマンド・キ
ーは明示的に表す必要がないので、本発明のグラフィッ
ク・キーボードは、以前のグラフィック・キーボードよ
り画面表示サイズという点で小型にできる。さらに、本
発明のグラフィック・キーボードを使用すると、ユーザ
は「感覚で」進むことができる−−つまり、複数の変更
子を適用し、ストローク・ベースのコマンドを各ステッ
プごとに表示キーボードを見なくても入力できる。本発
明の数多くのそれ以外の優位点は、当業者には明かであ
ろう。
【0146】本発明は、大部分のペン・ベースのおよび
スタイラス・ベースの計算システムに関連する。特に、
本発明は、それ自体既存のアプリケーションへの容易な
変更に使用される。このような変更に必要となるのは、
コンピュータ・システムが標準機械テキストキーボード
に同等なものと見なすモジュールを構築することだけで
ある。
【0147】本発明は、特定の実施例に関連して説明さ
れた。それ以外の実施例は、本発明の精神および範囲か
ら逸脱することなく考えられる。例えば、マークによっ
て修正される基本文字は、マークの開始ポイントではな
く、終了ポイント荷したがって指定することができる。
マークは、また、キー指定から分離することもできる。
例えば、ユーザは、画面へのタップのあるキーを示して
から、別個にマークを描画する。二重タップのような異
なった種類のストローク(マウス・ボタンの「ダブルク
リック」に類似した、迅速に続くスタイラスの2回のタ
ップ)を、本発明とともに使用することもできる。同様
に、ペンの圧力または速度は、コマンド情報をコード化
するのに使用することができる。フォント・サイズ・コ
マンドなどの異なった種類のコマンドを実現することが
できる。代替メニュー・レイアウトは、ポップアップ・
メニューに使用できる。メニューは、階層で編成される
必要はない。異なった種類のグラフィック・キーボード
およびキーボード・レイアウトを使用することができ
る。さらに、本発明は、ペン・ベースと通常考えられる
システム以外のシステムでも使用できる。特に、本発明
は、指、マウス、レーザ・ビーム、またはペンに類似し
た無数のそれ以外の計器のいずれか1つが、文字を入力
するために機械的なキーボードの代わりに使用されるシ
ステムでアプリケーションを見つける。さらに、バリエ
ーションおよび拡張は、本発明の範囲内で当業者には明
かであろう。したがって、本発明を、付録の請求項によ
って示される以外に、制限することは意図されていな
い。
【図面の簡単な説明】
【図1】サンプルのグラフィック・キーボードを図解す
る。
【図2】本発明のグラフィック・キーボードのキーをタ
ップすることにより、どのように小文字が入力できるの
かを図によって説明する。
【図3】本発明のグラフィック・キーボードのキー上で
の上向きのストロークによってどのように大文字を入力
できるのかを図によって説明する。
【図4】その特定のストロークの方向によって各変更子
をどのように区別できるのかを図によって説明する。
【図5】変更子の組み合わせ方の例を図で示す。
【図6】ある種の頻繁に使用されるキーをどのようにし
て斜線のストロークとして表現できるのかの例を図によ
って示す。
【図7】グラフィック・キーボードのキーをタップする
ことにより、ユーザが小文字を入力する図のシリーズで
ある。
【図8】グラフィック・キーボードのキー上で上向きの
ストロークを作成することにより、ユーザが 大文字を
入力する図のシリーズである。
【図9】グラフィック・キーボードのキーの上で右方向
のストロークを作成することにより、ユーザがコントロ
ール・キーを入力する図のシリーズである。
【図10】グラフィック・キーボードのキー上で右向き
−上向きの複合ストロークを作成することにより、ユー
ザがコントロール大文字を入力する図のシリーズであ
る。
【図11】マーキング・メニューから選択する2つのモ
ードを説明する。
【図12】放射メニュー階層およびそれから選択するマ
ークの例である。
【図13】マーク確認の例である。
【図14】8つのストローク方向のストローク語彙を表
すポップアップ・メニューを図で説明する。
【図15】ユーザがマーキング・メニューを提示され、
それから選択する図のシリーズである。
【図16】本発明のコンテキストで変更子を組み合わせ
るために使用されるマーキング・メニューの例を示す図
のシリーズである。
【図17】どのようにして8方向のマーキング・メニュ
ーが本発明のグラフィック・キーボードと使用できるの
かを示す図のシリーズである。
【図18】本発明を実施するのに適当なペン・ベース・
システムを図解する。
【図19】表示画面および入力センサが切り放されてい
る代替ペン・ベース・システムを図解する。
【図20】追加キーボード・イメージが追加された入力
センサを図解する。
【図21】本発明を実施するのに適当なマウス・ベース
・システムを図解する。
【図22】マーキング・メニューを取り入れる本発明の
実施例に従って、イベントに対応するためのステップの
フローチャートである。
【図23】PenDown イベントを処理するためのステップ
のフローチャートである。
【図24】PenDrag イベントを処理するためのステップ
のフローチャートである。
【図25】PenStillイベントを処理するためのステップ
のフローチャートである。
【図26】PenUp イベントを処理すするためのステップ
のフローチャートである。
【図27】マークに対応する変更子を決定するためのス
テップのフローチャートである。
【図28】マークにそった明瞭度ポイントを決定するた
めのステップのフローチャートである。
【図29】マークにそった明瞭度ポイントを対応するメ
ニューの中心と一致させるためのステップのフローチャ
ートである。
─────────────────────────────────────────────────────
【手続補正書】
【提出日】平成6年12月21日
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】特許請求の範囲
【補正方法】変更
【補正内容】
【特許請求の範囲】
───────────────────────────────────────────────────── フロントページの続き (72)発明者 ゴーダン ピー.カーテンバッハ アメリカ合衆国 カリフォルニア州 94041 マウンテン ビュー フランクリ ン ストリート 651 アパートメントナ ンバー 4302

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】 計算システム用ユーザ・インタフェース
    装置であって、 (a)グラフィック・キーボード・イメージを表示する
    表示装置を有し、 (b)指定装置、具備する入力ソースを有し、前記入力
    ソースがキー情報およびパス情報から構成される入力を
    提供し、前記キー情報が前記グラフィック・キーボード
    のイメージのキーを表し、前記パス情報が前記指定装置
    により指定されるポイントのシリーズを表し、 (c)前記入力ソースにより提供される前記パス情報に
    応答して、出力を作成するための出力ジェネレータを有
    する、 ユーザ・インタフェース装置。
  2. 【請求項2】 計算システムにおける、グラフィック・
    キーボード装置であって、 (a)センサを有し、前記センサは前記センサに対する
    位置指定装置の複数の位置に応答し、 (b)表示装置を有し、 (c)前記センサおよび前記表示装置に連結されるプロ
    セッサを有し、前記プロセッサは、 (イ)前記表示装置とともに、キーボードのグラフィッ
    ク・イメージを表示し、前記イメージは、それぞれのキ
    ーが前記イメージ内での位置と対応するような複数のキ
    ーから構成され、 (ロ)前記センサから位置情報およびパス情報から構成
    される入力を受け取り、前記位置情報が前記位置指定装
    置の前記複数の位置の内の1つの選択済み位置から構成
    され、前記パス情報が前記位置指定装置の前記複数の位
    置の位置のシリーズを構成し、前記シリーズが前記セン
    サに対する前記位置指定装置の相対位置を表し、 (ハ)選択された位置を決定するために前記イメージ内
    の任意の位置と前記選択された位置を相関させ、 (ニ)前記選択された位置を、選択されたキーを決定す
    るために前記複数のキーの内の1つのキーと関連付け、 (ホ)コマンドを決定するために、前記パス情報を解釈
    し、 (ヘ)出力を作成し、前記出力が、前記コマンドを前記
    選択されたキーに適用することにより決定された文字、
    および前記選択されたキーとは関係の内前記コマンドを
    実行することにより決定される文字から構成されるグル
    ープから選択される、 ことを具備するグラフィック・キーボード装置。
  3. 【請求項3】 請求項2記載の装置であって、さらに、
    前記センサに対して前記位置指定装置の前記相対位置で
    の変更に、前記位置指定装置と前記センサの間の近接部
    でのかなりの変更に、および前記センサに対する前記位
    置指定装置の相対移動でのかなりの休止に対応してイベ
    ントを作成するための、前記センサおよび前記プロセッ
    サに連結されるイベント・ドライバを具備し、 前記プロセッサが前記イベントドライバによって作成さ
    れるイベントに対応して前記出力を作成する装置。
  4. 【請求項4】 プロセッサ、センサ、表示装置、および
    バッファを具備する計算システムにおいて、文字を作成
    するためにグラフィック・キーボードを使用するための
    方法であって、 (a)前記表示装置上にグラフィック・キーボード・イ
    メージを表示するステップと、 (b)前記センサを用いて、前記センサに対するペン装
    置の移動を探知し、前記ペン装置が前記移動のかなりの
    部分で前記センサにもっとも近いままで維持されるステ
    ップと、 (c)前記移動に対応して文字を作成するために前記プ
    ロセッサを使用するステップと、 (d)このようにして作成される前記文字を前記バッフ
    ァ内で受け取るステップと、 を含むグラフィック・キーボード使用方法。
  5. 【請求項5】 請求項4記載の方法であって、前記文字
    を作成するために前記プロセッサを使用する前記ステッ
    プが、 (a)前記移動の開始おインとで前記ペン装置の最初の
    位置に従って未修正文字を決定するステップと、 (b)前記移動の間に前記ペン装置によって解釈される
    パスに従って変更子を決定するステップと、 (c)前記変更子を前記未修正文字に適用するステップ
    と、 から成る方法。
  6. 【請求項6】 請求項5記載の方法であって、 (a)メニューを表示する前記ステップが変更子のセッ
    トの表現から構成される放射メニューの表示から成り、 (b)アイテムを指定するために前記指定装置を使用す
    る前記ステップが、変更子の前記セットからの1つの変
    更子の選択から成り、 (c)前記文字を作成するために前記プロセッサを使用
    する前記ステップが、前記指定済みキーに対応する文字
    に前記選択された変更子を適用することから成る方法。
JP31374194A 1993-12-21 1994-12-16 計算システム用ユーザ・インタフェース装置及びグラフィック・キーボード使用方法 Expired - Fee Related JP3546337B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US17128893A 1993-12-21 1993-12-21
US171288 1993-12-21

Related Child Applications (2)

Application Number Title Priority Date Filing Date
JP2004057524A Division JP3886975B2 (ja) 1993-12-21 2004-03-02 文字を作成するためにグラフィック・キーボードを使用するための方法
JP2004057532A Division JP3886976B2 (ja) 1993-12-21 2004-03-02 メニュと共にグラフィック・キーボードを使用するための方法及び文字を作成するためにグラフィック・キーボードを使用するための方法

Publications (2)

Publication Number Publication Date
JPH07200126A true JPH07200126A (ja) 1995-08-04
JP3546337B2 JP3546337B2 (ja) 2004-07-28

Family

ID=22623213

Family Applications (3)

Application Number Title Priority Date Filing Date
JP31374194A Expired - Fee Related JP3546337B2 (ja) 1993-12-21 1994-12-16 計算システム用ユーザ・インタフェース装置及びグラフィック・キーボード使用方法
JP2004057532A Expired - Fee Related JP3886976B2 (ja) 1993-12-21 2004-03-02 メニュと共にグラフィック・キーボードを使用するための方法及び文字を作成するためにグラフィック・キーボードを使用するための方法
JP2004057524A Expired - Fee Related JP3886975B2 (ja) 1993-12-21 2004-03-02 文字を作成するためにグラフィック・キーボードを使用するための方法

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2004057532A Expired - Fee Related JP3886976B2 (ja) 1993-12-21 2004-03-02 メニュと共にグラフィック・キーボードを使用するための方法及び文字を作成するためにグラフィック・キーボードを使用するための方法
JP2004057524A Expired - Fee Related JP3886975B2 (ja) 1993-12-21 2004-03-02 文字を作成するためにグラフィック・キーボードを使用するための方法

Country Status (4)

Country Link
US (1) US6094197A (ja)
EP (1) EP0660218B1 (ja)
JP (3) JP3546337B2 (ja)
DE (1) DE69429237T2 (ja)

Cited By (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001051787A (ja) * 1999-07-06 2001-02-23 Xerox Corp ユーザインタフェース上のストロークを利用した記号選択方法及び装置
JP2003099171A (ja) * 2001-09-21 2003-04-04 Sony Corp 情報処理装置および情報処理方法、記録媒体、並びにプログラム
JP2005018792A (ja) * 2003-06-27 2005-01-20 Microsoft Corp 形状が2つの半径と弧によって仕切られたメニュー
JP2007102495A (ja) * 2005-10-04 2007-04-19 Nintendo Co Ltd 画像処理装置、画像処理プログラム、ゲーム装置およびゲームプログラム
JP2007272708A (ja) * 2006-03-31 2007-10-18 Nec Corp 携帯装置、入力支援方法及び入力支援プログラム
JP2008508601A (ja) * 2004-07-30 2008-03-21 アップル インコーポレイテッド タッチ・センシティブ入力デバイスのためのジェスチャ
JP2008269456A (ja) * 2007-04-24 2008-11-06 Matsushita Electric Ind Co Ltd 文字入力装置および文字入力用プログラム
JP2009003950A (ja) * 2007-04-11 2009-01-08 Kota Ogawa 文字入力システム
JP2009037583A (ja) * 2007-07-31 2009-02-19 Palo Alto Research Center Inc 携帯機器用のスペース制限型マーキングメニュー
JP2009037584A (ja) * 2007-07-31 2009-02-19 Palo Alto Research Center Inc コンテキストを意識したレジャー活動提案システムのためのユーザーインターフェース
WO2009041557A1 (ja) * 2007-09-28 2009-04-02 Konami Digital Entertainment Co., Ltd. 指示入力処理装置、通信システム、コンピュータプログラムおよび情報記録媒体
JP2009522697A (ja) * 2006-01-05 2009-06-11 アップル インコーポレイテッド 携帯用電子機器のためのキーボード
JP2009530944A (ja) * 2006-03-17 2009-08-27 ノキア コーポレイション 改善された携帯通信端末及びそのための方法
JP2009283015A (ja) * 2009-09-02 2009-12-03 Kyocera Corp 情報入力支援装置
JP2010061636A (ja) * 2008-09-03 2010-03-18 Kong-Hyuk Ahn タッチ軌跡及びタッチ方向の認識に基づいた使用者インターフェース方法
JP2010526367A (ja) * 2007-05-01 2010-07-29 アルベルトゥス・ペトルス・ヘオルヘ・ファン・メーテレン 入力データを処理するための装置
JP2011040008A (ja) * 2009-08-18 2011-02-24 Canon Inc 表示制御装置及び表示制御方法、プログラム、記憶媒体
JP2011039989A (ja) * 2009-08-18 2011-02-24 Canon Inc 表示制御装置、表示制御方法、プログラム及び記憶媒体
JP2011090532A (ja) * 2009-10-23 2011-05-06 Rakuten Inc 端末装置、機能実行方法、機能実行プログラム及び情報処理システム
JP2011170401A (ja) * 2010-02-16 2011-09-01 Taito Corp ポインティングデバイス等を用いた入力選択装置及び当該入力選択装置を構築するためのコンピュータープログラム
JP2011175470A (ja) * 2010-02-24 2011-09-08 Brother Industries Ltd データ入力装置
JP2011175471A (ja) * 2010-02-24 2011-09-08 Brother Industries Ltd データ入力装置
WO2011115260A1 (ja) * 2010-03-18 2011-09-22 日本電信電話株式会社 情報入力装置、情報入力方法、及び情報入力プログラム
JP2012037978A (ja) * 2010-08-04 2012-02-23 Sony Corp 情報処理装置、情報処理方法、及びプログラム
JP2012048765A (ja) * 2011-12-09 2012-03-08 Panasonic Corp 入力装置、入力方法および入力用プログラム
JP2013025579A (ja) * 2011-07-21 2013-02-04 Panasonic Corp 文字入力装置及び文字入力プログラム
JP2013527539A (ja) * 2010-05-24 2013-06-27 テンプル,ウィル,ジョン 多角的ボタン、キーおよびキーボード
JP2013178847A (ja) * 2013-06-18 2013-09-09 Canon Inc 表示制御装置及び表示制御装置の制御方法、プログラム、記憶媒体
JP2013211917A (ja) * 2005-12-15 2013-10-10 Microsoft Corp スマートソフトキーボード
JP2014079016A (ja) * 2014-01-23 2014-05-01 Panasonic Corp 携帯端末装置
JP2014096848A (ja) * 2008-03-26 2014-05-22 Kyocera Corp 携帯電話機、電子機器、ならびに電子機器の文字入力方法およびプログラム
JP2014518486A (ja) * 2011-07-06 2014-07-28 サムスン エレクトロニクス カンパニー リミテッド 文字入力装置とその文字入力方法及び記憶媒体
KR101485791B1 (ko) * 2014-07-28 2015-01-26 삼성전자주식회사 터치 스크린을 갖는 휴대 단말기 및 그의 기능 제어 방법
JP2015050755A (ja) * 2013-09-04 2015-03-16 Necパーソナルコンピュータ株式会社 情報処理装置、制御方法、及びプログラム
JP2015132965A (ja) * 2014-01-14 2015-07-23 レノボ・シンガポール・プライベート・リミテッド 複数のディスプレイに対するアプリケーション画像の表示方法、電子機器およびコンピュータ・プログラム
JP2015213320A (ja) * 2014-05-05 2015-11-26 ジョンソン カンパニー リミテッド 携帯装置およびその入力方法
US9411502B2 (en) 2007-12-20 2016-08-09 Samsung Electronics Co., Ltd. Electronic device having touch screen and function controlling method of the same
KR20180048491A (ko) * 2018-04-25 2018-05-10 삼성전자주식회사 터치 스크린을 갖는 휴대 단말기 및 그의 기능 제어 방법
KR20190106972A (ko) * 2019-09-09 2019-09-18 삼성전자주식회사 터치 스크린을 갖는 휴대 단말기 및 그의 기능 제어 방법
US10503376B2 (en) 2007-12-20 2019-12-10 Samsung Electronics Co., Ltd. Method and apparatus for adjusting an image and control guides displayed on a display
JP2020072788A (ja) * 2014-04-04 2020-05-14 株式会社コロプラ ユーザインターフェースプログラムおよびゲームプログラム

Families Citing this family (332)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5689667A (en) * 1995-06-06 1997-11-18 Silicon Graphics, Inc. Methods and system of controlling menus with radial and linear portions
JP3829366B2 (ja) * 1996-07-16 2006-10-04 カシオ計算機株式会社 入力装置、および入力方法
US5889888A (en) 1996-12-05 1999-03-30 3Com Corporation Method and apparatus for immediate response handwriting recognition system that handles multiple character sets
DE19654944A1 (de) * 1996-12-13 1998-06-25 Andreas Bohn Systemsteuerung
DE19720051A1 (de) * 1997-05-14 1998-11-19 Kerstin Muenker Verfahren zur Eingabe einer Information in einen Rechner
KR19990011180A (ko) * 1997-07-22 1999-02-18 구자홍 화상인식을 이용한 메뉴 선택 방법
JP3504464B2 (ja) * 1997-07-30 2004-03-08 インターナショナル・ビジネス・マシーンズ・コーポレーション データ入力装置およびその方法
JPH1185706A (ja) * 1997-09-08 1999-03-30 Sharp Corp アプリケーションデータ生成方法および装置並びにアプリケーションデータ生成プログラムを記録した記録媒体
GB2330670B (en) * 1997-10-24 2002-09-11 Sony Uk Ltd Data processing
EP1040406B1 (en) * 1997-12-16 2003-05-02 Microsoft Corporation Soft input panel system and method
US9292111B2 (en) 1998-01-26 2016-03-22 Apple Inc. Gesturing with a multipoint sensing device
US7614008B2 (en) * 2004-07-30 2009-11-03 Apple Inc. Operation of a computer with touch screen interface
US9239673B2 (en) 1998-01-26 2016-01-19 Apple Inc. Gesturing with a multipoint sensing device
US8479122B2 (en) 2004-07-30 2013-07-02 Apple Inc. Gestures for touch sensitive input devices
KR100327209B1 (ko) * 1998-05-12 2002-04-17 윤종용 첨펜의자취를이용한소프트웨어키보드시스템및그에따른키코드인식방법
US6278442B1 (en) 1998-06-26 2001-08-21 Research In Motion Limited Hand-held electronic device with a keyboard optimized for use with the thumbs
US6919879B2 (en) 1998-06-26 2005-07-19 Research In Motion Limited Hand-held electronic device with a keyboard optimized for use with the thumbs
US6396482B1 (en) * 1998-06-26 2002-05-28 Research In Motion Limited Hand-held electronic device with a keyboard optimized for use with the thumbs
US7705828B2 (en) * 1998-06-26 2010-04-27 Research In Motion Limited Dual-mode mobile communication device
US6489950B1 (en) 1998-06-26 2002-12-03 Research In Motion Limited Hand-held electronic device with auxiliary input device
US6169538B1 (en) * 1998-08-13 2001-01-02 Motorola, Inc. Method and apparatus for implementing a graphical user interface keyboard and a text buffer on electronic devices
US6359572B1 (en) 1998-09-03 2002-03-19 Microsoft Corporation Dynamic keyboard
US6337698B1 (en) * 1998-11-20 2002-01-08 Microsoft Corporation Pen-based interface for a notepad computer
US6489976B1 (en) * 1998-12-15 2002-12-03 International Business Machines Corporation System and method for displaying pop-up symbols for indicating accelerator keys for implementing computer software options
US6552719B2 (en) 1999-01-07 2003-04-22 Microsoft Corporation System and method for automatically switching between writing and text input modes
US6256009B1 (en) 1999-02-24 2001-07-03 Microsoft Corporation Method for automatically and intelligently scrolling handwritten input
AU3267700A (en) * 1999-03-18 2000-10-09 602531 British Columbia Ltd. Data entry for personal computing devices
US7293231B1 (en) * 1999-03-18 2007-11-06 British Columbia Ltd. Data entry for personal computing devices
AU3199500A (en) * 1999-05-27 2000-12-18 Alexei Vladimirovich Afanasiev A method of inputting information into a computer device, a sticker keyboard and a computer device using this method
US7821503B2 (en) * 2003-04-09 2010-10-26 Tegic Communications, Inc. Touch screen and graphical user interface
US7750891B2 (en) * 2003-04-09 2010-07-06 Tegic Communications, Inc. Selective input system based on tracking of motion parameters of an input device
US7286115B2 (en) * 2000-05-26 2007-10-23 Tegic Communications, Inc. Directional input system with automatic correction
US7610194B2 (en) * 2002-07-18 2009-10-27 Tegic Communications, Inc. Dynamic database reordering system
US7030863B2 (en) 2000-05-26 2006-04-18 America Online, Incorporated Virtual keyboard system with automatic correction
CA2392446C (en) * 1999-05-27 2009-07-14 America Online Incorporated Keyboard system with automatic correction
US6820111B1 (en) 1999-12-07 2004-11-16 Microsoft Corporation Computer user interface architecture that saves a user's non-linear navigation history and intelligently maintains that history
US20040268253A1 (en) * 1999-12-07 2004-12-30 Microsoft Corporation Method and apparatus for installing and using reference materials in conjunction with reading electronic content
US6992687B1 (en) 1999-12-07 2006-01-31 Microsoft Corporation Bookmarking and placemarking a displayed document in a computer system
US6714214B1 (en) 1999-12-07 2004-03-30 Microsoft Corporation System method and user interface for active reading of electronic content
US7185274B1 (en) 1999-12-07 2007-02-27 Microsoft Corporation Computer user interface architecture wherein users interact with both content and user interface by activating links
US6957233B1 (en) 1999-12-07 2005-10-18 Microsoft Corporation Method and apparatus for capturing and rendering annotations for non-modifiable electronic content
US7337389B1 (en) 1999-12-07 2008-02-26 Microsoft Corporation System and method for annotating an electronic document independently of its content
US9424240B2 (en) 1999-12-07 2016-08-23 Microsoft Technology Licensing, Llc Annotations for electronic content
US7458014B1 (en) 1999-12-07 2008-11-25 Microsoft Corporation Computer user interface architecture wherein both content and user interface are composed of documents with links
US7028267B1 (en) * 1999-12-07 2006-04-11 Microsoft Corporation Method and apparatus for capturing and rendering text annotations for non-modifiable electronic content
US6664991B1 (en) * 2000-01-06 2003-12-16 Microsoft Corporation Method and apparatus for providing context menus on a pen-based device
WO2001055829A1 (en) * 2000-01-26 2001-08-02 D'agostini Organizzazione S.R.L. Character input device based on a two-dimensional movement sensor
US7243299B1 (en) 2000-04-21 2007-07-10 Microsoft Corporation Methods and apparatus for displaying multiple contexts in electronic documents
GB2380918C3 (en) * 2000-05-11 2016-03-30 Nes Stewart Irvine Zeroclick
US6741235B1 (en) 2000-06-13 2004-05-25 Michael Goren Rapid entry of data and information on a reduced size input area
US7397949B2 (en) * 2000-06-21 2008-07-08 Microsoft Corporation Serial storage of ink and its properties
US7259753B2 (en) * 2000-06-21 2007-08-21 Microsoft Corporation Classifying, anchoring, and transforming ink
US7006711B2 (en) * 2000-06-21 2006-02-28 Microsoft Corporation Transform table for ink sizing and compression
US7234108B1 (en) 2000-06-29 2007-06-19 Microsoft Corporation Ink thickness rendering for electronic annotations
CN1276336C (zh) 2000-07-21 2006-09-20 拉发耶尔·巴赫曼 实现快速书写系统的方法和快速书写机
US6784873B1 (en) * 2000-08-04 2004-08-31 Peter V. Boesen Method and medium for computer readable keyboard display incapable of user termination
CA2323856A1 (en) * 2000-10-18 2002-04-18 602531 British Columbia Ltd. Method, system and media for entering data in a personal computing device
CA2363244C (en) 2000-11-07 2006-06-13 Research In Motion Limited Multifunctional keyboard for a mobile communication device and method of operating the same
US6897853B2 (en) * 2000-11-10 2005-05-24 Microsoft Corp. Highlevel active pen matrix
US6891551B2 (en) * 2000-11-10 2005-05-10 Microsoft Corporation Selection handles in editing electronic documents
US7002558B2 (en) * 2000-12-21 2006-02-21 Microsoft Corporation Mode hinting and switching
US6707473B2 (en) * 2001-08-01 2004-03-16 Microsoft Corporation Dynamic rendering of ink strokes with transparency
US20020099552A1 (en) * 2001-01-25 2002-07-25 Darryl Rubin Annotating electronic information with audio clips
US7324949B2 (en) * 2001-03-26 2008-01-29 Medtronic, Inc. Implantable medical device management system
US6906703B2 (en) * 2001-03-28 2005-06-14 Microsoft Corporation Electronic module for sensing pen motion
US6696985B2 (en) 2001-04-24 2004-02-24 International Business Machines Corporation Reformable keyboard with variable key design
US7176906B2 (en) * 2001-05-04 2007-02-13 Microsoft Corporation Method of generating digital ink thickness information
US7730401B2 (en) 2001-05-16 2010-06-01 Synaptics Incorporated Touch screen with user interface enhancement
US7272232B1 (en) * 2001-05-30 2007-09-18 Palmsource, Inc. System and method for prioritizing and balancing simultaneous audio outputs in a handheld device
JP4242270B2 (ja) * 2001-05-31 2009-03-25 エンパワー・テクノロジーズ・インコーポレイテッド コンピューティング・デバイスへのペン入力システムと方法
US20030014239A1 (en) * 2001-06-08 2003-01-16 Ichbiah Jean D. Method and system for entering accented and other extended characters
US6729731B2 (en) * 2001-06-11 2004-05-04 Info Valley Corporation Untethered laser pointer for use with computer display
US7916124B1 (en) 2001-06-20 2011-03-29 Leapfrog Enterprises, Inc. Interactive apparatus using print media
US7346229B2 (en) * 2001-06-27 2008-03-18 Microsoft Corporation Transform table for ink sizing and compression
FI116591B (fi) * 2001-06-29 2005-12-30 Nokia Corp Menetelmä ja laite toiminnon toteuttamiseksi
US6670951B2 (en) * 2001-07-03 2003-12-30 Hewlett-Packard Development Company, L.P. Methods and systems for increasing the input efficiency of personal digital assistants and other handheld stylus-engagable computing devices
US6704006B2 (en) * 2001-07-03 2004-03-09 Hewlett-Packard Development Company, L.P. Methods and systems for increasing the input efficiency of personal digital assistants and other handheld stylus-engagable computing devices
CA2392851C (en) 2001-07-09 2009-05-05 Research In Motion Limited Method of operating a handheld device for directional input
US7168038B2 (en) * 2001-08-01 2007-01-23 Microsoft Corporation System and method for scaling and repositioning drawings
US6909430B2 (en) * 2001-08-01 2005-06-21 Microsoft Corporation Rendering ink strokes of variable width and angle
US7881743B2 (en) * 2001-10-16 2011-02-01 Research In Motion Limited Handheld mobile communication device
US6842169B2 (en) * 2001-10-19 2005-01-11 Research In Motion Limited Hand-held electronic device with multiple input mode thumbwheel
US7196691B1 (en) * 2001-11-14 2007-03-27 Bruce Martin Zweig Multi-key macros to speed data input
US7083342B2 (en) 2001-12-21 2006-08-01 Griffin Jason T Keyboard arrangement
CN101017407A (zh) * 2001-12-21 2007-08-15 捷讯研究有限公司 带键盘的手持式电子设备
USD479233S1 (en) 2002-01-08 2003-09-02 Research In Motion Limited Handheld electronic device
EP1329799A3 (en) 2002-01-11 2007-06-06 Sap Ag Operating a browser to display first and second virtual keyboard areas that the user changes directly or indirectly
EP1327929A1 (en) 2002-01-11 2003-07-16 Sap Ag Operating a browser to display first and second virtual keyboard areas
JP4061094B2 (ja) * 2002-03-15 2008-03-12 インターナショナル・ビジネス・マシーンズ・コーポレーション 音声認識装置、その音声認識方法及びプログラム
US7069261B2 (en) * 2002-04-02 2006-06-27 The Boeing Company System, method and computer program product for accessing electronic information
SG125895A1 (en) 2002-04-04 2006-10-30 Xrgomics Pte Ltd Reduced keyboard system that emulates qwerty-type mapping and typing
US7038659B2 (en) * 2002-04-06 2006-05-02 Janusz Wiktor Rajkowski Symbol encoding apparatus and method
US7190351B1 (en) 2002-05-10 2007-03-13 Michael Goren System and method for data input
JP2004038547A (ja) * 2002-07-03 2004-02-05 Fujitsu Component Ltd 入力装置、入力方法、入力プログラム
US6894683B2 (en) * 2002-07-10 2005-05-17 Intel Corporation Multi-mouse actions stylus
US7137077B2 (en) * 2002-07-30 2006-11-14 Microsoft Corporation Freeform encounter selection tool
AU2003266092A1 (en) * 2002-10-09 2004-05-04 Raphael Bachmann Rapid input device
EP1558996A2 (en) * 2002-11-05 2005-08-03 Speakeasy, LLC Integrated information presentation system with environmental controls
KR100497376B1 (ko) * 2002-12-24 2005-06-28 삼성전자주식회사 다중클립보드 실행장치 및 다중클립보드 실행방법
US7663605B2 (en) * 2003-01-08 2010-02-16 Autodesk, Inc. Biomechanical user interface elements for pen-based computers
US7685538B2 (en) * 2003-01-31 2010-03-23 Wacom Co., Ltd. Method of triggering functions in a computer application using a digitizer having a stylus and a digitizer system
SG135918A1 (en) * 2003-03-03 2007-10-29 Xrgomics Pte Ltd Unambiguous text input method for touch screens and reduced keyboard systems
US20040229195A1 (en) * 2003-03-18 2004-11-18 Leapfrog Enterprises, Inc. Scanning apparatus
US7080103B2 (en) * 2003-05-08 2006-07-18 International Business Machines Corporation Personal information management system and method with audit functionality
CA2428737C (en) 2003-05-14 2006-10-17 Research In Motion Limited Mobile device with rotatable keyboard
US20040242279A1 (en) * 2003-05-28 2004-12-02 Costanzo Rito Natale Implementing direct telephone access on a multi-purpose wireless mobile electronic device
US7256773B2 (en) * 2003-06-09 2007-08-14 Microsoft Corporation Detection of a dwell gesture by examining parameters associated with pen motion
JP2006527439A (ja) * 2003-06-13 2006-11-30 ユニヴァーシティ オブ ランカスター ユーザインタフェース
US7055110B2 (en) 2003-07-28 2006-05-30 Sig G Kupka Common on-screen zone for menu activation and stroke input
US7164410B2 (en) * 2003-07-28 2007-01-16 Sig G. Kupka Manipulating an on-screen object using zones surrounding the object
WO2005029269A2 (en) * 2003-09-19 2005-03-31 Stanislaw Lewak Manual user data entry method and system
US20050068322A1 (en) * 2003-09-29 2005-03-31 Falcioni Richard A. Generating alphanumeric characters
KR100593993B1 (ko) 2003-10-22 2006-06-30 삼성전자주식회사 문자인식장치 및 방법
WO2005052780A2 (en) * 2003-11-20 2005-06-09 Nes Stewart Irvine Graphical user interface
US20050114115A1 (en) * 2003-11-26 2005-05-26 Karidis John P. Typing accuracy relaxation system and method in stylus and other keyboards
DE10357475A1 (de) * 2003-12-09 2005-07-07 Siemens Ag Kommunikationsvorrichtung und Verfahren zum Eingeben und Vorhersagen von Text
US20050141770A1 (en) * 2003-12-30 2005-06-30 Nokia Corporation Split on-screen keyboard
BRPI0418249A (pt) 2003-12-31 2007-04-17 Research In Motion Ltd disposição de teclado
US20080109751A1 (en) * 2003-12-31 2008-05-08 Alias Systems Corp. Layer editor system for a pen-based computer
US7250938B2 (en) * 2004-01-06 2007-07-31 Lenovo (Singapore) Pte. Ltd. System and method for improved user input on personal computing devices
US20050172239A1 (en) 2004-01-30 2005-08-04 International Business Machines Corporation Modeless interaction with GUI widget applications
US7831933B2 (en) 2004-03-17 2010-11-09 Leapfrog Enterprises, Inc. Method and system for implementing a user interface for a device employing written graphical elements
US20060125805A1 (en) * 2004-03-17 2006-06-15 James Marggraff Method and system for conducting a transaction using recognized text
US20060067576A1 (en) * 2004-03-17 2006-03-30 James Marggraff Providing a user interface having interactive elements on a writable surface
US7853193B2 (en) 2004-03-17 2010-12-14 Leapfrog Enterprises, Inc. Method and device for audibly instructing a user to interact with a function
US20060066591A1 (en) * 2004-03-17 2006-03-30 James Marggraff Method and system for implementing a user interface for a device through recognized text and bounded areas
US7600201B2 (en) * 2004-04-07 2009-10-06 Sony Corporation Methods and apparatuses for viewing choices and making selections
JP4395408B2 (ja) * 2004-05-07 2010-01-06 Hoya株式会社 タッチパネル付き入力装置
US20070192711A1 (en) 2006-02-13 2007-08-16 Research In Motion Limited Method and arrangement for providing a primary actions menu on a handheld communication device
US8219158B2 (en) 2004-06-21 2012-07-10 Research In Motion Limited Handheld wireless communication device
US7986301B2 (en) * 2004-06-21 2011-07-26 Research In Motion Limited Handheld wireless communication device
US8463315B2 (en) * 2004-06-21 2013-06-11 Research In Motion Limited Handheld wireless communication device
US20070254704A1 (en) * 2004-06-21 2007-11-01 Griffin Jason T Handheld wireless communication device
US8271036B2 (en) 2004-06-21 2012-09-18 Research In Motion Limited Handheld wireless communication device
US20070254701A1 (en) * 2004-06-21 2007-11-01 Griffin Jason T Handheld wireless communication device
US20070254721A1 (en) * 2004-06-21 2007-11-01 Griffin Jason T Handheld wireless communication device
US20070259697A1 (en) * 2004-06-21 2007-11-08 Griffin Jason T Handheld wireless communication device
US8064946B2 (en) * 2004-06-21 2011-11-22 Research In Motion Limited Handheld wireless communication device
US7439959B2 (en) 2004-07-30 2008-10-21 Research In Motion Limited Key arrangement for a keyboard
US8381135B2 (en) 2004-07-30 2013-02-19 Apple Inc. Proximity detector in handheld device
US7653883B2 (en) 2004-07-30 2010-01-26 Apple Inc. Proximity detector in handheld device
US7979795B2 (en) * 2004-08-02 2011-07-12 Hewlett-Packard Development Company, L.P. System and method for inputting syllables of a phonetic script into a computer
EP1779373A4 (en) * 2004-08-16 2011-07-13 Maw Wai-Lin VIRTUAL KEYBOARD INPUT DEVICE
US7761814B2 (en) * 2004-09-13 2010-07-20 Microsoft Corporation Flick gesture
US20060066590A1 (en) * 2004-09-29 2006-03-30 Masanori Ozawa Input device
US7489306B2 (en) * 2004-12-22 2009-02-10 Microsoft Corporation Touch screen accuracy
US8552984B2 (en) * 2005-01-13 2013-10-08 602531 British Columbia Ltd. Method, system, apparatus and computer-readable media for directing input associated with keyboard-type device
US9142369B2 (en) 2005-03-14 2015-09-22 Qualcomm Incorporated Stack assembly for implementing keypads on mobile computing devices
US7525534B2 (en) 2005-03-14 2009-04-28 Palm, Inc. Small form-factor keypad for mobile computing devices
US7477233B2 (en) * 2005-03-16 2009-01-13 Microsoft Corporation Method and system for providing modifier key behavior through pen gestures
US20060248446A1 (en) * 2005-04-29 2006-11-02 Carlson David P Method for displaying and navigating through data
US7487461B2 (en) * 2005-05-04 2009-02-03 International Business Machines Corporation System and method for issuing commands based on pen motions on a graphical keyboard
WO2006137078A1 (en) * 2005-06-20 2006-12-28 Hewlett-Packard Development Company, L.P. Method, article, apparatus and computer system for inputting a graphical object
DE102005033923A1 (de) * 2005-07-20 2007-02-01 Daimlerchrysler Ag Bedienelement mit berührungsempfindlicher Bedienoberfläche
US7922099B1 (en) 2005-07-29 2011-04-12 Leapfrog Enterprises, Inc. System and method for associating content with an image bearing surface
US7275836B2 (en) 2005-08-13 2007-10-02 Palm, Inc. Lighting and usability features for key structures and keypads on computing devices
US20070162869A1 (en) * 2005-08-25 2007-07-12 Matsushita Electric Industrial Co., Ltd. Ultrasonic diagnosis system
US20080098331A1 (en) * 2005-09-16 2008-04-24 Gregory Novick Portable Multifunction Device with Soft Keyboards
US7649522B2 (en) * 2005-10-11 2010-01-19 Fish & Richardson P.C. Human interface input acceleration system
CN1949158B (zh) * 2005-10-11 2012-02-15 摩托罗拉移动公司 向电子设备中输入文本
US7280097B2 (en) * 2005-10-11 2007-10-09 Zeetoo, Inc. Human interface input acceleration system
US7652660B2 (en) * 2005-10-11 2010-01-26 Fish & Richardson P.C. Mobile device customizer
US7657849B2 (en) * 2005-12-23 2010-02-02 Apple Inc. Unlocking a device by performing gestures on an unlock image
US7703035B1 (en) * 2006-01-23 2010-04-20 American Megatrends, Inc. Method, system, and apparatus for keystroke entry without a keyboard input device
US8599143B1 (en) 2006-02-06 2013-12-03 Leapfrog Enterprises, Inc. Switch configuration for detecting writing pressure in a writing device
US8537117B2 (en) 2006-02-13 2013-09-17 Blackberry Limited Handheld wireless communication device that selectively generates a menu in response to received commands
US7770118B2 (en) * 2006-02-13 2010-08-03 Research In Motion Limited Navigation tool with audible feedback on a handheld communication device having a full alphabetic keyboard
US8082499B2 (en) * 2006-03-21 2011-12-20 Electronic Arts, Inc. Graphical interface for interactive dialog
US8077153B2 (en) 2006-04-19 2011-12-13 Microsoft Corporation Precise selection techniques for multi-touch screens
TWI328185B (en) * 2006-04-19 2010-08-01 Lg Electronics Inc Touch screen device for potable terminal and method of displaying and selecting menus thereon
KR101327581B1 (ko) * 2006-05-24 2013-11-12 엘지전자 주식회사 터치스크린 장치 및 이의 작동방법
KR101269375B1 (ko) * 2006-05-24 2013-05-29 엘지전자 주식회사 터치스크린 장치 및 이의 이미지 표시방법
US20090213086A1 (en) * 2006-04-19 2009-08-27 Ji Suk Chae Touch screen device and operating method thereof
KR20070113018A (ko) * 2006-05-24 2007-11-28 엘지전자 주식회사 터치스크린 장치 및 그 실행방법
KR20070113025A (ko) * 2006-05-24 2007-11-28 엘지전자 주식회사 터치스크린 장치 및 이의 작동방법
KR20070113022A (ko) * 2006-05-24 2007-11-28 엘지전자 주식회사 사용자 입력에 반응하는 터치스크린 장치 및 이의 작동방법
KR100771626B1 (ko) * 2006-04-25 2007-10-31 엘지전자 주식회사 단말기 및 이를 위한 명령 입력 방법
TW200805131A (en) * 2006-05-24 2008-01-16 Lg Electronics Inc Touch screen device and method of selecting files thereon
JP4787677B2 (ja) * 2006-05-25 2011-10-05 クラリオン株式会社 電子機器
US7825797B2 (en) * 2006-06-02 2010-11-02 Synaptics Incorporated Proximity sensor device and method with adjustment selection tabs
GB2439581B (en) * 2006-06-12 2008-12-31 Key Futures Ltd Data input device
JP2008009668A (ja) * 2006-06-29 2008-01-17 Syn Sophia Inc タッチパネルの駆動方法及び入力方法
JP4087879B2 (ja) * 2006-06-29 2008-05-21 株式会社シンソフィア タッチパネルの文字認識方法及び文字入力方法
US8261967B1 (en) 2006-07-19 2012-09-11 Leapfrog Enterprises, Inc. Techniques for interactively coupling electronic content with printed media
FR2904712A1 (fr) * 2006-08-04 2008-02-08 France Telecom Procede de navigation dans une arborescence, dispositif et systeme associes.
US9304675B2 (en) 2006-09-06 2016-04-05 Apple Inc. Portable electronic device for instant messaging
US8564544B2 (en) 2006-09-06 2013-10-22 Apple Inc. Touch screen device, method, and graphical user interface for customizing display of content category icons
US8014760B2 (en) 2006-09-06 2011-09-06 Apple Inc. Missed telephone call management for a portable multifunction device
US7934156B2 (en) * 2006-09-06 2011-04-26 Apple Inc. Deletion gestures on a portable multifunction device
US8989822B2 (en) 2006-09-08 2015-03-24 Qualcomm Incorporated Keypad assembly for use on a contoured surface of a mobile computing device
US20080098315A1 (en) * 2006-10-18 2008-04-24 Dao-Liang Chou Executing an operation associated with a region proximate a graphic element on a surface
JP2008152362A (ja) 2006-12-14 2008-07-03 Konami Digital Entertainment:Kk ゲームプログラム、ゲーム装置及びゲーム制御方法
US8115658B2 (en) * 2006-12-29 2012-02-14 Research In Motion Limited Handheld electronic device providing confirmation of input, and associated method
US8074172B2 (en) 2007-01-05 2011-12-06 Apple Inc. Method, system, and graphical user interface for providing word recommendations
US8689132B2 (en) 2007-01-07 2014-04-01 Apple Inc. Portable electronic device, method, and graphical user interface for displaying electronic documents and lists
US7975242B2 (en) 2007-01-07 2011-07-05 Apple Inc. Portable multifunction device, method, and graphical user interface for conference calling
US8091045B2 (en) * 2007-01-07 2012-01-03 Apple Inc. System and method for managing lists
EP1953623B1 (en) * 2007-01-30 2018-09-05 Samsung Electronics Co., Ltd. Apparatus and method for inputting characters on touch keyboard
US8225203B2 (en) * 2007-02-01 2012-07-17 Nuance Communications, Inc. Spell-check for a keyboard system with automatic correction
US8201087B2 (en) 2007-02-01 2012-06-12 Tegic Communications, Inc. Spell-check for a keyboard system with automatic correction
CA2581824A1 (en) * 2007-03-14 2008-09-14 602531 British Columbia Ltd. System, apparatus and method for data entry using multi-function keys
KR100913962B1 (ko) * 2007-05-14 2009-08-26 삼성전자주식회사 이동통신 단말기의 문자 입력 방법 및 장치
KR20080104858A (ko) * 2007-05-29 2008-12-03 삼성전자주식회사 터치 스크린 기반의 제스쳐 정보 제공 방법 및 장치, 그장치를 포함하는 정보 단말 기기
US8074178B2 (en) * 2007-06-12 2011-12-06 Microsoft Corporation Visual feedback display
US8059101B2 (en) * 2007-06-22 2011-11-15 Apple Inc. Swipe gestures for touch screen keyboards
KR101472585B1 (ko) * 2007-08-23 2014-12-15 삼성전자주식회사 기능키 입력 장치 및 방법
US9891783B2 (en) * 2007-09-26 2018-02-13 Autodesk, Inc. Navigation system for a 3D virtual scene
KR100949581B1 (ko) * 2007-10-08 2010-03-25 주식회사 자코드 통신단말기의 문자/숫자 입력장치 및 입력방법
US20090106682A1 (en) * 2007-10-19 2009-04-23 Sanaa Fahkeri Abdelhadi Method and apparatus for selecting hardware components using a pointing device
KR100930563B1 (ko) * 2007-11-06 2009-12-09 엘지전자 주식회사 휴대 단말기 및 그 휴대 단말기의 방송채널 또는 방송채널 리스트 전환 방법
US8294669B2 (en) * 2007-11-19 2012-10-23 Palo Alto Research Center Incorporated Link target accuracy in touch-screen mobile devices by layout adjustment
JP5239328B2 (ja) * 2007-12-21 2013-07-17 ソニー株式会社 情報処理装置及びタッチ動作認識方法
US8232973B2 (en) 2008-01-09 2012-07-31 Apple Inc. Method, device, and graphical user interface providing word recommendations for text input
US8954887B1 (en) * 2008-02-08 2015-02-10 Google Inc. Long press interface interactions
US8799821B1 (en) 2008-04-24 2014-08-05 Pixar Method and apparatus for user inputs for three-dimensional animation
US10180714B1 (en) * 2008-04-24 2019-01-15 Pixar Two-handed multi-stroke marking menus for multi-touch devices
US8296670B2 (en) 2008-05-19 2012-10-23 Microsoft Corporation Accessing a menu utilizing a drag-operation
US8514251B2 (en) * 2008-06-23 2013-08-20 Qualcomm Incorporated Enhanced character input using recognized gestures
KR20100000617A (ko) 2008-06-25 2010-01-06 삼성전자주식회사 문자 입력 장치 및 그 문자 입력 방법
JP4896932B2 (ja) * 2008-06-26 2012-03-14 京セラ株式会社 入力装置
US20090327886A1 (en) * 2008-06-27 2009-12-31 Microsoft Corporation Use of secondary factors to analyze user intention in gui element activation
US8570279B2 (en) 2008-06-27 2013-10-29 Apple Inc. Touch screen device, method, and graphical user interface for inserting a character from an alternate keyboard
KR101504201B1 (ko) * 2008-07-02 2015-03-19 엘지전자 주식회사 이동단말기 및 그의 키패드 표시방법
US20100070931A1 (en) * 2008-09-15 2010-03-18 Sony Ericsson Mobile Communications Ab Method and apparatus for selecting an object
US8402391B1 (en) * 2008-09-25 2013-03-19 Apple, Inc. Collaboration system
JP5257841B2 (ja) * 2008-10-21 2013-08-07 日本電気株式会社 コマンド入力システム、その方法及びそのプログラム
JP2010128838A (ja) * 2008-11-28 2010-06-10 Toyota Motor Corp 入力デバイス
US20100194694A1 (en) * 2009-01-30 2010-08-05 Nokia Corporation Method and Apparatus for Continuous Stroke Input
GB2459345C (en) * 2009-03-06 2010-11-10 Khalil Arafat User interface for an electronic device having a touch-sensitive surface.
US20100241984A1 (en) * 2009-03-21 2010-09-23 Nokia Corporation Method and apparatus for displaying the non alphanumeric character based on a user input
US8468466B2 (en) * 2009-03-27 2013-06-18 International Business Machines Corporation Radial menu selection with gestures
US8627233B2 (en) * 2009-03-27 2014-01-07 International Business Machines Corporation Radial menu with overshoot, fade away, and undo capabilities
US20100259482A1 (en) * 2009-04-10 2010-10-14 Microsoft Corporation Keyboard gesturing
EP2425322A4 (en) 2009-04-30 2013-11-13 Synaptics Inc CONTROL CIRCUIT ELEMENTS AND METHOD
US9436380B2 (en) * 2009-05-19 2016-09-06 International Business Machines Corporation Radial menus with variable selectable item areas
KR101597553B1 (ko) * 2009-05-25 2016-02-25 엘지전자 주식회사 기능 실행 방법 및 그 장치
TWI444858B (zh) * 2009-05-27 2014-07-11 Htc Corp Method and system for updating the gesture track of hand - held touch device
CN101923635B (zh) * 2009-06-16 2014-11-26 宏达国际电子股份有限公司 手持触控装置的笔势轨迹更新方法及其系统
TW201109978A (en) * 2009-09-11 2011-03-16 Compal Electronics Inc Electronic device and method of controlling touched-menu thereof
US8347221B2 (en) * 2009-10-07 2013-01-01 Research In Motion Limited Touch-sensitive display and method of control
US8884872B2 (en) 2009-11-20 2014-11-11 Nuance Communications, Inc. Gesture-based repetition of key activations on a virtual keyboard
JP5327017B2 (ja) 2009-11-24 2013-10-30 ソニー株式会社 遠隔操作装置、遠隔操作システム、遠隔操作装置による情報処理方法およびプログラム
US20110138321A1 (en) * 2009-12-04 2011-06-09 International Business Machines Corporation Zone-based functions in a user interface
GB0922165D0 (en) * 2009-12-18 2010-02-03 Pelikon Ltd Human interface device and related methods
US8806362B2 (en) * 2010-01-06 2014-08-12 Apple Inc. Device, method, and graphical user interface for accessing alternate keys
KR20110082310A (ko) * 2010-01-11 2011-07-19 삼성전자주식회사 문자 입력 방법
JP2011170538A (ja) * 2010-02-17 2011-09-01 Sony Corp 情報処理装置、情報処理方法およびプログラム
US8686955B2 (en) 2010-03-11 2014-04-01 Apple Inc. Device, method, and graphical user interface for performing character entry
JP2011197719A (ja) * 2010-03-17 2011-10-06 Jvc Kenwood Holdings Inc タッチパネル入力装置、タッチパネル入力装置の制御方法およびプログラム
US8756522B2 (en) * 2010-03-19 2014-06-17 Blackberry Limited Portable electronic device and method of controlling same
US10719131B2 (en) 2010-04-05 2020-07-21 Tactile Displays, Llc Interactive display with tactile feedback
US20200393907A1 (en) 2010-04-13 2020-12-17 Tactile Displays, Llc Interactive display with tactile feedback
EP2381351B1 (en) 2010-04-20 2017-12-06 BlackBerry Limited Portable electronic device having touch-sensitive display with a variable repeat control mode.
US8350728B2 (en) 2010-04-23 2013-01-08 Hewlett-Packard Development Company, L.P. Keyboard with integrated and numeric keypad
US20110291964A1 (en) 2010-06-01 2011-12-01 Kno, Inc. Apparatus and Method for Gesture Control of a Dual Panel Electronic Device
US8638303B2 (en) * 2010-06-22 2014-01-28 Microsoft Corporation Stylus settings
DE102010036906A1 (de) * 2010-08-06 2012-02-09 Tavendo Gmbh Konfigurierbares Pie-Menü
JP5782699B2 (ja) 2010-10-15 2015-09-24 ソニー株式会社 情報処理装置、情報処理装置の入力制御方法及びプログラム
CN102541325B (zh) * 2010-12-14 2017-08-25 联想(北京)有限公司 一种输入识别方法和输入装置
JP5813948B2 (ja) * 2010-12-20 2015-11-17 株式会社バンダイナムコエンターテインメント プログラム及び端末装置
US8704789B2 (en) 2011-02-11 2014-04-22 Sony Corporation Information input apparatus
US20120223959A1 (en) * 2011-03-01 2012-09-06 Apple Inc. System and method for a touchscreen slider with toggle control
US8922489B2 (en) * 2011-03-24 2014-12-30 Microsoft Corporation Text input using key and gesture information
US20140123051A1 (en) * 2011-05-30 2014-05-01 Li Ni Graphic object selection by way of directional swipe gestures
JP2013041567A (ja) * 2011-07-21 2013-02-28 Sharp Corp 文字入力装置
US8490008B2 (en) 2011-11-10 2013-07-16 Research In Motion Limited Touchscreen keyboard predictive display and generation of a set of characters
US9652448B2 (en) 2011-11-10 2017-05-16 Blackberry Limited Methods and systems for removing or replacing on-keyboard prediction candidates
US9715489B2 (en) 2011-11-10 2017-07-25 Blackberry Limited Displaying a prediction candidate after a typing mistake
US9122672B2 (en) 2011-11-10 2015-09-01 Blackberry Limited In-letter word prediction for virtual keyboard
US9310889B2 (en) 2011-11-10 2016-04-12 Blackberry Limited Touchscreen keyboard predictive display and generation of a set of characters
EP2618248B1 (en) 2012-01-19 2017-08-16 BlackBerry Limited Virtual keyboard providing an indication of received input
US9557913B2 (en) 2012-01-19 2017-01-31 Blackberry Limited Virtual keyboard display having a ticker proximate to the virtual keyboard
EP2624101A1 (en) 2012-01-31 2013-08-07 Research In Motion Limited Electronic device including touch-sensitive display and method of facilitating input at the electronic device
US8947380B2 (en) 2012-01-31 2015-02-03 Blackberry Limited Electronic device including touch-sensitive display and method of facilitating input at the electronic device
EP2812777A4 (en) * 2012-02-06 2015-11-25 Michael K Colby STRING COMPLETION
EP2631768B1 (en) 2012-02-24 2018-07-11 BlackBerry Limited Portable electronic device including touch-sensitive display and method of controlling same
EP2631758B1 (en) 2012-02-24 2016-11-02 BlackBerry Limited Touchscreen keyboard providing word predictions in partitions of the touchscreen keyboard in proximate association with candidate letters
US8954890B2 (en) * 2012-04-12 2015-02-10 Supercell Oy System, method and graphical user interface for controlling a game
US8814674B2 (en) 2012-05-24 2014-08-26 Supercell Oy Graphical user interface for a gaming system
GB2501145A (en) 2012-04-12 2013-10-16 Supercell Oy Rendering and modifying objects on a graphical user interface
US9201510B2 (en) 2012-04-16 2015-12-01 Blackberry Limited Method and device having touchscreen keyboard with visual cues
US20130285927A1 (en) * 2012-04-30 2013-10-31 Research In Motion Limited Touchscreen keyboard with correction of previously input text
US9292192B2 (en) 2012-04-30 2016-03-22 Blackberry Limited Method and apparatus for text selection
US9354805B2 (en) 2012-04-30 2016-05-31 Blackberry Limited Method and apparatus for text selection
US9207860B2 (en) 2012-05-25 2015-12-08 Blackberry Limited Method and apparatus for detecting a gesture
US9116552B2 (en) 2012-06-27 2015-08-25 Blackberry Limited Touchscreen keyboard providing selection of word predictions in partitions of the touchscreen keyboard
CN103577079B (zh) 2012-07-24 2017-11-07 腾讯科技(深圳)有限公司 电子设备中实现与应用交互的方法及电子设备
US9792038B2 (en) * 2012-08-17 2017-10-17 Microsoft Technology Licensing, Llc Feedback via an input device and scribble recognition
KR101929301B1 (ko) * 2012-08-20 2019-03-12 삼성전자 주식회사 필기 제스처 인식을 통한 휴대단말의 기능 실행 제어 방법 및 장치
US9524290B2 (en) 2012-08-31 2016-12-20 Blackberry Limited Scoring predictions based on prediction length and typing speed
US9063653B2 (en) 2012-08-31 2015-06-23 Blackberry Limited Ranking predictions based on typing speed and typing confidence
US9063563B1 (en) * 2012-09-25 2015-06-23 Amazon Technologies, Inc. Gesture actions for interface elements
CN103677373B (zh) 2012-09-25 2018-08-10 神讯电脑(昆山)有限公司 触控显示方法及其电子装置
JP5700020B2 (ja) * 2012-10-10 2015-04-15 コニカミノルタ株式会社 画像処理装置、プログラム及び操作イベント判別方法
CN103729133A (zh) 2012-10-16 2014-04-16 神讯电脑(昆山)有限公司 触控显示方法及其电子装置
TW201416994A (zh) * 2012-10-17 2014-05-01 Yomore Technology Co Ltd 觸控點判斷方法
US20140123049A1 (en) * 2012-10-30 2014-05-01 Microsoft Corporation Keyboard with gesture-redundant keys removed
CN103809783A (zh) * 2012-11-06 2014-05-21 源贸科技股份有限公司 触控点判断方法
WO2014111959A2 (en) 2013-01-21 2014-07-24 Keypoint Technologies India Pvt. Ltd. Text input system and method
IN2013CH00469A (ja) 2013-01-21 2015-07-31 Keypoint Technologies India Pvt Ltd
US10228819B2 (en) 2013-02-04 2019-03-12 602531 British Cilumbia Ltd. Method, system, and apparatus for executing an action related to user selection
CN104007832B (zh) * 2013-02-25 2017-09-01 上海触乐信息科技有限公司 连续滑行输入文本的方法、系统及设备
DE102013004246A1 (de) * 2013-03-12 2014-09-18 Audi Ag Einem Fahrzeug zugeordnete Vorrichtung mit Buchstabiereinrichtung - Vervollständigungs-Kennzeichnung
US20140306898A1 (en) * 2013-04-10 2014-10-16 Barnesandnoble.Com Llc Key swipe gestures for touch sensitive ui virtual keyboard
US20140306897A1 (en) * 2013-04-10 2014-10-16 Barnesandnoble.Com Llc Virtual keyboard swipe gestures for cursor movement
CN103294222B (zh) 2013-05-22 2017-06-16 小米科技有限责任公司 一种输入方法和系统
US20140365878A1 (en) * 2013-06-10 2014-12-11 Microsoft Corporation Shape writing ink trace prediction
US9201592B2 (en) 2013-08-09 2015-12-01 Blackberry Limited Methods and devices for providing intelligent predictive input for handwritten text
JP2015049861A (ja) 2013-09-04 2015-03-16 Necパーソナルコンピュータ株式会社 情報処理装置、制御方法、及びプログラム
KR20150115365A (ko) * 2014-04-04 2015-10-14 삼성전자주식회사 전자장치에서 사용자 입력에 대응한 사용자 인터페이스 제공 방법 및 장치
US10255267B2 (en) 2014-05-30 2019-04-09 Apple Inc. Device, method, and graphical user interface for a predictive keyboard
CN104133527A (zh) * 2014-06-08 2014-11-05 蒋国昌 手机电脑和操作系统与输入装置及其应用
US9940016B2 (en) * 2014-09-13 2018-04-10 Microsoft Technology Licensing, Llc Disambiguation of keyboard input
US9619043B2 (en) * 2014-11-26 2017-04-11 At&T Intellectual Property I, L.P. Gesture multi-function on a physical keyboard
CN104571874B (zh) * 2015-02-13 2018-10-30 上海触乐信息科技有限公司 动态切换键盘背景的方法和装置
JP6598747B2 (ja) * 2016-08-24 2019-10-30 京セラ株式会社 電子機器、制御装置、制御プログラム及び電子機器の動作方法
WO2018172257A1 (en) * 2017-03-20 2018-09-27 3Shape A/S 3d scanner system with handheld scanner
US11431836B2 (en) 2017-05-02 2022-08-30 Apple Inc. Methods and interfaces for initiating media playback
US10992795B2 (en) 2017-05-16 2021-04-27 Apple Inc. Methods and interfaces for home media control
US10928980B2 (en) 2017-05-12 2021-02-23 Apple Inc. User interfaces for playing and managing audio items
US20220279063A1 (en) 2017-05-16 2022-09-01 Apple Inc. Methods and interfaces for home media control
CN111343060B (zh) 2017-05-16 2022-02-11 苹果公司 用于家庭媒体控制的方法和界面
CN109358937A (zh) * 2018-09-30 2019-02-19 上海达龙信息科技有限公司 一种基于虚拟输入装置远程操控pc的方法及系统
US11010121B2 (en) 2019-05-31 2021-05-18 Apple Inc. User interfaces for audio media control
KR102436985B1 (ko) 2019-05-31 2022-08-29 애플 인크. 오디오 미디어 제어를 위한 사용자 인터페이스
DK201970533A1 (en) 2019-05-31 2021-02-15 Apple Inc Methods and user interfaces for sharing audio
US11194467B2 (en) 2019-06-01 2021-12-07 Apple Inc. Keyboard management user interfaces
US11513667B2 (en) 2020-05-11 2022-11-29 Apple Inc. User interface for audio message
US11416136B2 (en) 2020-09-14 2022-08-16 Apple Inc. User interfaces for assigning and responding to user inputs
US11392291B2 (en) 2020-09-25 2022-07-19 Apple Inc. Methods and interfaces for media control with dynamic feedback
US11360635B2 (en) * 2020-10-20 2022-06-14 Rovi Guides, Inc. Customizing user interface controls around a cursor
US11837206B2 (en) 2021-07-27 2023-12-05 Avid Technology, Inc. Multidimensional gestures for music creation applications

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60144817A (ja) * 1984-01-09 1985-07-31 Fuji Xerox Co Ltd 情報入力装置
US4725694A (en) * 1986-05-13 1988-02-16 American Telephone And Telegraph Company, At&T Bell Laboratories Computer interface device
US5050105A (en) * 1988-01-26 1991-09-17 International Business Machines Corporation Direct cursor-controlled access to multiple application programs and data
US5010323A (en) * 1988-05-09 1991-04-23 Hoffman Clifford J Interactive overlay driven computer display system
US5276794A (en) * 1990-09-25 1994-01-04 Grid Systems Corporation Pop-up keyboard system for entering handwritten data into computer generated forms
US5347295A (en) * 1990-10-31 1994-09-13 Go Corporation Control of a computer through a position-sensed stylus
US5148155A (en) * 1990-11-13 1992-09-15 Wang Laboratories, Inc. Computer with tablet input to standard programs
US5491495A (en) * 1990-11-13 1996-02-13 Wang Laboratories, Inc. User interface having simulated devices
US5258748A (en) * 1991-08-28 1993-11-02 Hewlett-Packard Company Accessing and selecting multiple key functions with minimum keystrokes
JP3025121B2 (ja) * 1992-12-24 2000-03-27 キヤノン株式会社 情報処理方法及び装置
US5603053A (en) * 1993-05-10 1997-02-11 Apple Computer, Inc. System for entering data into an active application currently running in the foreground by selecting an input icon in a palette representing input utility
TR200100625T2 (tr) * 1998-08-19 2001-06-21 Advanced Technologies (Cambridge) Limited Nükleik asit serisini hedefleyen yeni plastidlerin kullanımları

Cited By (60)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001051787A (ja) * 1999-07-06 2001-02-23 Xerox Corp ユーザインタフェース上のストロークを利用した記号選択方法及び装置
JP2003099171A (ja) * 2001-09-21 2003-04-04 Sony Corp 情報処理装置および情報処理方法、記録媒体、並びにプログラム
JP2005018792A (ja) * 2003-06-27 2005-01-20 Microsoft Corp 形状が2つの半径と弧によって仕切られたメニュー
JP2008508601A (ja) * 2004-07-30 2008-03-21 アップル インコーポレイテッド タッチ・センシティブ入力デバイスのためのジェスチャ
JP2007102495A (ja) * 2005-10-04 2007-04-19 Nintendo Co Ltd 画像処理装置、画像処理プログラム、ゲーム装置およびゲームプログラム
JP2013211917A (ja) * 2005-12-15 2013-10-10 Microsoft Corp スマートソフトキーボード
JP2009522697A (ja) * 2006-01-05 2009-06-11 アップル インコーポレイテッド 携帯用電子機器のためのキーボード
JP2009530944A (ja) * 2006-03-17 2009-08-27 ノキア コーポレイション 改善された携帯通信端末及びそのための方法
JP2007272708A (ja) * 2006-03-31 2007-10-18 Nec Corp 携帯装置、入力支援方法及び入力支援プログラム
JP2009003950A (ja) * 2007-04-11 2009-01-08 Kota Ogawa 文字入力システム
JP2012099118A (ja) * 2007-04-11 2012-05-24 Feibee Co Ltd 文字入力システム
JP2012074065A (ja) * 2007-04-11 2012-04-12 Feibee Co Ltd 文字入力システム
JP2008269456A (ja) * 2007-04-24 2008-11-06 Matsushita Electric Ind Co Ltd 文字入力装置および文字入力用プログラム
JP2010526367A (ja) * 2007-05-01 2010-07-29 アルベルトゥス・ペトルス・ヘオルヘ・ファン・メーテレン 入力データを処理するための装置
JP2009037584A (ja) * 2007-07-31 2009-02-19 Palo Alto Research Center Inc コンテキストを意識したレジャー活動提案システムのためのユーザーインターフェース
JP2009037583A (ja) * 2007-07-31 2009-02-19 Palo Alto Research Center Inc 携帯機器用のスペース制限型マーキングメニュー
JP5270559B2 (ja) * 2007-09-28 2013-08-21 株式会社コナミデジタルエンタテインメント 指示入力処理装置、通信システム、コンピュータプログラムおよび情報記録媒体
US8313375B2 (en) 2007-09-28 2012-11-20 Konami Digital Entertainment Co., Ltd. Input instruction processing device, communication system therefor, computer program therefor, and information recording medium therewith
JP2013059632A (ja) * 2007-09-28 2013-04-04 Konami Digital Entertainment Co Ltd ゲーム端末、通信システム、コンピュータプログラムおよび情報記録媒体
WO2009041557A1 (ja) * 2007-09-28 2009-04-02 Konami Digital Entertainment Co., Ltd. 指示入力処理装置、通信システム、コンピュータプログラムおよび情報記録媒体
US8970526B2 (en) 2007-09-28 2015-03-03 Konami Digital Entertainment Co., Ltd. Input instruction processing device, communication system therefor, computer program therefor, and information recording medium therewith
JPWO2009041557A1 (ja) * 2007-09-28 2011-01-27 株式会社コナミデジタルエンタテインメント 指示入力処理装置、通信システム、コンピュータプログラムおよび情報記録媒体
US10901590B2 (en) 2007-12-20 2021-01-26 Samsung Electronics Co., Ltd. Electronic device having touch screen and function controlling method of the same
US10503376B2 (en) 2007-12-20 2019-12-10 Samsung Electronics Co., Ltd. Method and apparatus for adjusting an image and control guides displayed on a display
US9411502B2 (en) 2007-12-20 2016-08-09 Samsung Electronics Co., Ltd. Electronic device having touch screen and function controlling method of the same
US10481779B2 (en) 2007-12-20 2019-11-19 Samsung Electronics Co., Ltd. Electronic device having touch screen and function controlling method of the same
US9933927B2 (en) 2007-12-20 2018-04-03 Samsung Electronics Co., Ltd. Electronic device having touch screen and function controlling method of the same
US9778832B2 (en) 2007-12-20 2017-10-03 Samsung Electronics Co., Ltd. Electronic device having touch screen and function controlling method of the same
JP2014096848A (ja) * 2008-03-26 2014-05-22 Kyocera Corp 携帯電話機、電子機器、ならびに電子機器の文字入力方法およびプログラム
JP2010061636A (ja) * 2008-09-03 2010-03-18 Kong-Hyuk Ahn タッチ軌跡及びタッチ方向の認識に基づいた使用者インターフェース方法
US9134898B2 (en) 2009-08-18 2015-09-15 Canon Kabushiki Kaisha Display control apparatus and control method thereof
JP2011039989A (ja) * 2009-08-18 2011-02-24 Canon Inc 表示制御装置、表示制御方法、プログラム及び記憶媒体
JP2011040008A (ja) * 2009-08-18 2011-02-24 Canon Inc 表示制御装置及び表示制御方法、プログラム、記憶媒体
JP2009283015A (ja) * 2009-09-02 2009-12-03 Kyocera Corp 情報入力支援装置
US9671952B2 (en) 2009-10-23 2017-06-06 Rakuten, Inc. Function execution program, terminal device, function execution method, recording medium and information processing system
JP2011090532A (ja) * 2009-10-23 2011-05-06 Rakuten Inc 端末装置、機能実行方法、機能実行プログラム及び情報処理システム
JP2011170401A (ja) * 2010-02-16 2011-09-01 Taito Corp ポインティングデバイス等を用いた入力選択装置及び当該入力選択装置を構築するためのコンピュータープログラム
JP2011175471A (ja) * 2010-02-24 2011-09-08 Brother Industries Ltd データ入力装置
JP2011175470A (ja) * 2010-02-24 2011-09-08 Brother Industries Ltd データ入力装置
US9170732B2 (en) 2010-03-18 2015-10-27 Nippon Telegraph And Telephone Corporation Information input device, information input method, and information input program
JP5342693B2 (ja) * 2010-03-18 2013-11-13 日本電信電話株式会社 情報入力装置、情報入力方法、及び情報入力プログラム
WO2011115260A1 (ja) * 2010-03-18 2011-09-22 日本電信電話株式会社 情報入力装置、情報入力方法、及び情報入力プログラム
JPWO2011115260A1 (ja) * 2010-03-18 2013-07-04 日本電信電話株式会社 情報入力装置、情報入力方法、及び情報入力プログラム
JP2013527539A (ja) * 2010-05-24 2013-06-27 テンプル,ウィル,ジョン 多角的ボタン、キーおよびキーボード
JP2012037978A (ja) * 2010-08-04 2012-02-23 Sony Corp 情報処理装置、情報処理方法、及びプログラム
US8954888B2 (en) 2010-08-04 2015-02-10 Sony Corporation Information processing apparatus, information processing method and program associated with a graphical user interface with proximity sensor triggered menu options
JP2014518486A (ja) * 2011-07-06 2014-07-28 サムスン エレクトロニクス カンパニー リミテッド 文字入力装置とその文字入力方法及び記憶媒体
JP2013025579A (ja) * 2011-07-21 2013-02-04 Panasonic Corp 文字入力装置及び文字入力プログラム
JP2012048765A (ja) * 2011-12-09 2012-03-08 Panasonic Corp 入力装置、入力方法および入力用プログラム
JP2013178847A (ja) * 2013-06-18 2013-09-09 Canon Inc 表示制御装置及び表示制御装置の制御方法、プログラム、記憶媒体
JP2015050755A (ja) * 2013-09-04 2015-03-16 Necパーソナルコンピュータ株式会社 情報処理装置、制御方法、及びプログラム
JP2015132965A (ja) * 2014-01-14 2015-07-23 レノボ・シンガポール・プライベート・リミテッド 複数のディスプレイに対するアプリケーション画像の表示方法、電子機器およびコンピュータ・プログラム
JP2014079016A (ja) * 2014-01-23 2014-05-01 Panasonic Corp 携帯端末装置
JP2020072788A (ja) * 2014-04-04 2020-05-14 株式会社コロプラ ユーザインターフェースプログラムおよびゲームプログラム
JP2020116425A (ja) * 2014-04-04 2020-08-06 株式会社コロプラ ユーザインターフェースプログラムおよびゲームプログラム
JP2022000769A (ja) * 2014-04-04 2022-01-04 株式会社コロプラ ユーザインターフェースプログラムおよびゲームプログラム
JP2015213320A (ja) * 2014-05-05 2015-11-26 ジョンソン カンパニー リミテッド 携帯装置およびその入力方法
KR101485791B1 (ko) * 2014-07-28 2015-01-26 삼성전자주식회사 터치 스크린을 갖는 휴대 단말기 및 그의 기능 제어 방법
KR20180048491A (ko) * 2018-04-25 2018-05-10 삼성전자주식회사 터치 스크린을 갖는 휴대 단말기 및 그의 기능 제어 방법
KR20190106972A (ko) * 2019-09-09 2019-09-18 삼성전자주식회사 터치 스크린을 갖는 휴대 단말기 및 그의 기능 제어 방법

Also Published As

Publication number Publication date
EP0660218B1 (en) 2001-11-28
EP0660218A1 (en) 1995-06-28
JP3886975B2 (ja) 2007-02-28
JP2004206732A (ja) 2004-07-22
JP3546337B2 (ja) 2004-07-28
JP2004206731A (ja) 2004-07-22
US6094197A (en) 2000-07-25
DE69429237D1 (de) 2002-01-10
JP3886976B2 (ja) 2007-02-28
DE69429237T2 (de) 2002-06-13

Similar Documents

Publication Publication Date Title
JP3546337B2 (ja) 計算システム用ユーザ・インタフェース装置及びグラフィック・キーボード使用方法
US7898529B2 (en) User interface having a placement and layout suitable for pen-based computers
US8904310B2 (en) Pen-mouse system
US8542206B2 (en) Swipe gestures for touch screen keyboards
US6928619B2 (en) Method and apparatus for managing input focus and z-order
US9223471B2 (en) Touch screen control
US5502803A (en) Information processing apparatus having a gesture editing function
US7091954B2 (en) Computer keyboard and cursor control system and method with keyboard map switching
JP6115867B2 (ja) 1つ以上の多方向ボタンを介して電子機器と相互作用できるようにする方法およびコンピューティングデバイス
US5936614A (en) User defined keyboard entry system
US20100259482A1 (en) Keyboard gesturing
US20110216015A1 (en) Apparatus and method for directing operation of a software application via a touch-sensitive surface divided into regions associated with respective functions
WO2005013052A2 (en) Manipulating an on-screen object using zones surrounding the object
JP2006164238A (ja) タッチパッド入力情報の処理方法及びタッチパッド入力情報の処理装置
JP2013527539A5 (ja)
NO336323B1 (no) Systemer, fremgangsmåter og datamaskinlesbare media for å kalle opp en elektronisk-blekk- eller håndskriftsgrensesnitt
JPH0580009B2 (ja)
US20220350418A1 (en) Composite computer keyboard
US20090262072A1 (en) Cursor control system and method thereof
JPH06289984A (ja) 文書作成編集装置
JPH10333817A (ja) 電子ペンを用いたコンピュータシステム
US9563355B2 (en) Method and system of data entry on a virtual interface
Petit et al. Unifying gestures and direct manipulation in touchscreen interfaces
KR20030058990A (ko) 펜마우스의 동작방법 개선
Zhu et al. Ringedit: A control point based editing approach in sketch recognition systems

Legal Events

Date Code Title Description
A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20031127

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20031202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040302

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040330

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040331

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090423

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090423

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100423

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110423

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120423

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120423

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130423

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140423

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees