JPH086707A - スクリーン指向ディスプレー処理システム - Google Patents

スクリーン指向ディスプレー処理システム

Info

Publication number
JPH086707A
JPH086707A JP32056994A JP32056994A JPH086707A JP H086707 A JPH086707 A JP H086707A JP 32056994 A JP32056994 A JP 32056994A JP 32056994 A JP32056994 A JP 32056994A JP H086707 A JPH086707 A JP H086707A
Authority
JP
Japan
Prior art keywords
gesture
selection
line
user
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP32056994A
Other languages
English (en)
Inventor
P Morand Thomas
ピー.モラン トーマス
Chou Patrick
チウ パトリック
Melle William Van
ヴァン メレ ウィリアム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xerox Corp
Original Assignee
Xerox Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xerox Corp filed Critical Xerox Corp
Publication of JPH086707A publication Critical patent/JPH086707A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/166Editing, e.g. inserting or deleting

Abstract

(57)【要約】 【目的】 境界、画定入力領域や構造等の限定された束
縛なしに自由形態で如何なるタイプのデータの入力、及
び編集操作を可能にする。 【構成】ディスプレー処理システムは、情報データの自
由形態エントリーのために、ディスプレー手段、前記デ
ィスプレー手段上に情報データを記入(入力)するため
のデータエントリー手段、前記ディスプレー上に自由形
態のジェスチュア的データを記入(入力)するためのジ
ェスチュア入力手段、該かるジェスチュア的データは前
記情報データの少なくとも一部に関連するジェスチュア
を前記ディスプレー上に表示し、前記ジェスチュアを表
示する操作を前記情報データの前記一部に割当てるた
め、前記ジェスチュアのエントリーに応答する割当て手
段、及び前記情報データの前記一部に関して前記操作を
実行するため前記割当て手段に応答する実行手段を含
む。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は入力及び編集システムに
関し、より詳細には手動によるデータ記入(エントリ)
及び入力、編集及び表示機能を使用するジェスチャベー
スのコマンドシステムに関する。
【0002】
【従来の技術】自由形態の図形(グラフィックス)シス
テムは、様々な手段でユーザーがグラフィックスデータ
対象物(オブジェクト)を二次元空間に入力することが
でき、その空間においてその対象物及びそれらの位置を
編集することができるシステムである。このシステムは
2つの意味で「自由形態」である。第一に、図形対象物
自体は如何なる形状でもよく、入力方法により提供され
る手段にのみ依存する。第二に、空間のどこに図形対象
物が位置してもよく、束縛されない;対象物を入力及び
編集する手段によりユーザーが自由に対象物を位置付け
たり、再位置付けできるようになる。全ての図形対象物
はお互いに独立しており、お互いの関係は二次元空間に
おけるそれらの配置によってのみ決定される。
【0003】本明細書において「組織化されない」とも
称される、この自由形態の第二の意味はより重要であ
る。自由形態のグラフィックスシステムの1つの例は、
子供の「ゴム印」グラフィックスの応用であり、ユーザ
ーはボタン(ゴム印)と指示(ポインティング)装置を
使用して、製図表面のどこにでも図形対象物(グラフィ
ックオブジェクト)を入力(「押印」)することがで
き、また指示装置を使用して表面上で対象物を動かすこ
とができる。非自由形態(「組織化された」)システム
の例としては、1つのテキストエディターが挙げられ、
その場合全ての文字が基礎となる「ストリング」構造の
中に組織化される。文字はストリング構造に適合する位
置以外は、二次元空間のどこにも配置することができな
い(例えば、文字を右側に移動させるためには、それら
を押させるためにストリングの中に「スペース」文字を
タイプしなければならない)。
【0004】非常に有益なタイプの自由形態の図形シス
テムは「なぐり書き」システムであり、この場合ユーザ
ーは随意の方法でそれらを単に描く(「インクで書
く」)だけで自由形態のマークを入力することができ
る。記入される該かるマークはシステムにおける自由形
態の図形対象物である;つまり、そのマークはユーザー
がそれを描くために選ぶ如何なる形状でもよく、製図表
面上のどの場所にも描くことができる。入力はスタイラ
ス、マウス等の自由に動かすことのできる入力装置、あ
るいは(圧力もしくは光学的手段で感知される)指等の
様々な感知手段によって遂行される。
【0005】編集及び制御操作は、そのシステムに対し
てコマンドを与えることにより、自由形態の図形システ
ムにおいて図形対象物に対して行うことができる。コマ
ンドはキーボードベース及びメニューベースの技術等の
従来の技術により与えられる。しかし、ペンベースのノ
ートブック型コンピューターもしくは(ゼロックス・コ
ーポレーションの商標である)ライブボード(Live
board)として知られる大規模なディスプレー等の
「ジェスチュアベースの」入力システムにおいては、該
かる制御機能はコマンドジェスチュアによって始められ
る。コマンドジェスチュアはスタイラス入力装置で作ら
れ、システムが実施する動作を指定するものとしてシス
テムにより翻訳される手書きのストロークである。
【0006】ジェスチュアベースのシステムは、通常ユ
ーザーの側で取るある動作によって、ユーザーがデータ
の代わりに製図(描画)表面上にジェスチュアコマンド
を記入(入力)しているのを探知することができる。該
かる入力動作はスタイラス上のボタンに圧力を保持する
か、あるいは働かせることを必然的に伴うかもしれな
い。ユーザーは製図表面から入力装置(例えばスタイラ
ス)を持ち上げることにより、コマンドを実行するよう
にシステムに指示する。他の方法も可能である。システ
ムはユーザーの特別な動作なしに実行できるコマンドと
して入力を認識することもできるし、あるいは製図表面
上で2回たたくこと(タップ)に応答して行動すること
もできる。
【0007】ホワイトボード規模であれ、ノートブック
規模であれ、ジェスチュアベースの計算システムのユー
ザーにとって共通の活動は、他の人との通信目的であ
れ、自身のためにノートを作るためであれ、手書き及び
スケッチでの非公式ななぐり書きである。ライブボード
のホワイトボードシステムはこの種の活動を支持するた
めのシステムの第一の例である。なぐり書きシステムは
この材料を組織化されていないイメージとして、あるい
はストローク対象物の収集物として処理する。
【0008】該かるなぐり書き活動の多くは一般的な構
造、例えばリスト、アウトライン、テキスト、表及び線
図を含む。効果的であるためには、なぐり書き(scr
ibbling)システムはこれらの構造の作成及び編
集を支持しなければならない。該かる支持がなければ、
例えば、リストの中で1つのアイテムを動かすという単
純な仕事も長たらしくなる(そのアイテムのために新た
な場所に空間を作るため、リストのセグメントを動か
し、アイテムを動かし、古い空間を閉じる)であろう。
これはあまりに時間がかかりすぎてユーザーが実際に遂
行することはほとんどできない。
【0009】もちろん、ユーザーにはこれらの一般的な
構造用の一組の明示された設備(機能)を提供すること
もできるであろう。このように、例えば、ユーザーは表
を使って作業をしたいと表示し、システムはユーザーが
記入して巧みに処理する表の配列を提供する。しかしな
がら、問題は、「なぐり書き方法」で作業をしているユ
ーザーが前もって自分がどの構造を望んでいるかを常に
知っているとは限らないことである。これらの構造は急
に現れる。例えば、ユーザーは幾つかの語句を急いで書
き留める;そしてもっと広範囲に亙るリストを作ろうと
する;そしてリストの数個のアイテムの性質をマークし
始める;それからこれらの性質を第2のカラム(つまり
表)に作りたいと思う;そしてリストもしくは表の規定
を侵害するスケッチを作りたいと思う;等々である。
【0010】このように、組織化は部分的であり、一時
的かつ空間的であることが解る。時には、ユーザーは材
料をリストとして考える、例えば、それを並び変えるこ
とを希望し、時にはそれを文字画像として考え、その上
にスケッチすることを望む。更に、ユーザーが材料をリ
ストとして考えても、全ページをリストとしてみなした
いと思わないかもしれない、例えば、ページの左半分だ
けをリストとして考えたいと思うかもしれない。この種
の流動的プロセスを支持することができるシステムを持
つことが望ましい。しかしながら、ユーザーが明示して
構造を指示することを求めることは、この種の作業の自
然の流れを阻害することがある。
【0011】テキスト、リスト、アウトライン、表及び
線図(ダイヤグラム)を支援する図形システムのスコア
がある。しかしながら、スタイラスやペン等の手に持っ
て手動で操作する入力装置で該かる入力を処理すること
は希である。通常、ペン入力は直ちに文字として認識さ
れ、従来のテキストとして処理される。ペンベースの計
算の商業分野は非常に活発で、ストロークベースのアウ
トラインシステムが出現し始めている。該かるシステム
は線で区画されたペーパーの観念に基づいているように
思われる。ユーザーがページをリストであると表示する
と、線が現れ、リストアイテム用の広い方形のセルのカ
ラムを作る。該かるシステムの一例として図3を参照す
る。全てのストロークはセル50の1つに属し、この方
法で全てのストロークがリストアイテム(リスト項目)
の中にグループ分けされる。空でない全てのセルはセル
50におけるストロークのグループを表すブレット(b
ullet)52を有する。リスト構造を巧みに操作す
るためにライン及びブレット上に幾つかのジェスチュア
がある、例えば、ブレットからラインに至るラインジェ
スチュアはアイテムを動かし、ブレット上のピグテール
ジェスチュアはアイテムを削除し、ラインから上下する
ジェスチュアはラインを上下に動かす(つまり、セルの
大きさを変える)。
【0012】しかしながらこのシステムは、他の従来の
システムと同様に、自由形態の情報を受け入れ、修正
し、もしくは変更することができないという欠点があ
る。該かる情報はテキスト、グラフィックス、表データ
の形態、及び前述のフォーマット内に含まれる他の情報
形態を取ることができる。従来のデータエントリーは不
幸なことに、限定された境界とか限定された入力領域等
の束縛なしには、自由形態で書き入れることができな
い。編集操作は限定された境界もしくは入力領域内に含
まれる全情報にのみ作用することができ、該かる境界内
の個々のストロークには作用することができない。
【0013】必ずしも目に見える必要はないが、境界、
画定された入力領域、もしくはテキスト等の構造等の限
定された束縛なしに、自由形態方法で如何なるタイプの
データをも書き入れられる(入力される)ようにし、ま
た同様の方法で編集操作ができるようにするシステムを
持つことが望ましく、編集操作は記入された編集コマン
ドにより決定され、束縛は編集コマンドのエントリーの
前ではなく、後に発生するデータの性質を決定する。
【0014】
【発明が解決しようとする課題】本発明の目的は上述し
た従来のシステムに関連する欠点を克服することであ
る。
【0015】
【課題を解決するための手段】上記目的は、データ入力
計画(スキーム:方式)を特徴とするシステムにより達
成され、その計画においては、記入(入力)されたデー
タの構造は、そのデータに関する操作を実行するという
要求が為されるまで、不適切なものとなる。そのデータ
の構造の決定が重要なものとなるのは、そのデータに関
する操作を実行することが必要になった時である。編
集、再配列、移動等を含む所望の操作が、その特定の操
作の実施を可能にするためにデータ構造の決定をするこ
とになる。データ構造はリスト、表もしくは線図の形態
であると判断される。記入(入力)されたデータは自由
形態であり、その構造は記入時に決定されないことを意
味する。記入時のデータは自由裁量であってよく、走査
されたもの、図形的、テキスト的、絵画的、タイプされ
たもの等であってよい。それは自由形態としてシステム
によって処理される、つまり単に一連のストロークとし
て処理されることを意味する。特に、上記スキームは該
かる形態のデータのために柔軟な方法で、(ユーザーが
永久的に構造モードを「宣言する」必要がないように)
一時的に、また(ユーザーが組織化された材料の範囲を
定めることができるように)空間的に、支援を提供す
る。スキームはディスプレー表面にあらゆるタイプの情
報に対する一セット(組)の構造的/空間的のモデル、
特定の構造を選択し、該かる構造により限定される情報
を操作するための一セットのジェスチュア、及び構造を
認識し、構造的モデルに従って操作を実行するための一
組のシステム手順を指定するための一セットのデザイン
原則、に基づいている。これらのデザイン原則は手書き
のリスト(簡単な縦のリスト)、アウトライン(インデ
ンテッド(字下げ)・リスト)、テキスト(リスト及び
アウトラインの中にある)、表(ロウ(行)及びカラム
(列))、及び線図(ノード及びリンク)を支援するた
めに使用される。
【0016】本発明によれば、情報データの自由形態エ
ントリーのために、ディスプレー手段、前記ディスプレ
ー手段上に情報データを記入(入力)するためのデータ
エントリー手段、前記ディスプレー上に自由形態のジェ
スチュア的データを記入(入力)するためのジェスチュ
ア入力手段、該かるジェスチュア的データは前記情報デ
ータの少なくとも一部に関連するジェスチュアを前記デ
ィスプレー上に表示し、前記ジェスチュアを表示する操
作を前記情報データの前記一部に割当てるため、前記ジ
ェスチュアのエントリーに応答する割当て手段、及び前
記情報データの前記一部に関して前記操作を実行するた
め前記割当て手段に応答する実行手段を含むスクリーン
指向のディスプレー処理システムが提供される。割当て
手段は該かる操作を実行するために充分な情報データの
構造を決定する手段を含む。
【0017】本発明の別の態様によれば、データインタ
ーフェイス表面とこの表面上に情報を生成するためのユ
ーザーが制御できる手段を含む図形編集システムが提供
される。このシステムは前記情報の少なくとも一部に関
して操作を遂行するために、前記表面上にラインイメー
ジを作り出すユーザー動作に応答する第1の手段を有
し、該かるラインイメージはそれに関連する一セットの
命令を持ち;該かる一セットの命令に答えて、前記表面
上に表示される情報を選択的に分析し、組織化し、再配
列する第2の手段を有し、該かる命令に従って、前記情
報に関する操作を実行するための第3の手段を有する。
【0018】本発明の別の態様によれば、データインタ
ーフェイス表面とこの表面上に情報を表すためのユーザ
ーが制御できる手段を含む図形編集システムが提供され
る。このシステムは前記情報の少なくとも一部を選択す
るために、表面上にラインイメージを作り出すユーザー
動作に答える第1の手段を有し、該かる第1のラインは
それに関連する一セットの命令を持ち;該かる一セット
の命令に答えて、前記表面上の情報を選択的に分析し、
組織化し、再配列する第2の手段を有し、該かる命令に
従って、前記情報に関する操作を実行するための第3の
手段を有する。
【0019】本発明の別の態様によれば、データインタ
ーフェイス表面とこの表面上に情報を表すためのユーザ
ーが制御できる手段を含む図形編集システムが提供され
る。このシステムは、その上でデータを選択するため前
記表面上に第1のラインを作り出す第1のユーザー動作
に答える第1の手段を有し、第1のユーザー動作に引き
続いて、それに関連する一セットの命令を持つ第2のラ
インイメージを作り出す第2のユーザー動作に答える第
2の手段を有し、それに関連して前記表面上で情報を分
析し、組織化し、再配列するため前記命令に答える第3
の手段を有し、該かる命令に従って、前記表面上で前記
情報を翻訳(解釈)する手段を有する。
【0020】本発明の別の態様によれば、データインタ
ーフェイス表面とこの表面上に情報を表すためのユーザ
ーが制御できる手段を含む図形編集システムが提供され
る。このシステムは前記情報の少なくとも一部に関する
操作を実行するため、表面上にラインイメージを作り出
すユーザー動作に答える第1の手段を有し、該かる操作
に従って、前記表面上の情報のために表、線図、リス
ト、及びアウトラインモデル構造を選択的に決定するた
め、前記ラインイメージ生成に答える第2の手段を有
し、前記組織(構造)的モデルに関する操作により影響
される前記情報を識別する第3の手段を有し、識別され
る対象物の関数として前記操作用の構造パラメーターを
計算する第3の手段を有し、前記情報に関する操作を実
行するための第4の手段を有する。
【0021】本発明の別の態様によれば、データインタ
ーフェイス表面とこの表面上に情報を表すためのユーザ
ーが制御できる手段を含むシステムのために図形編集方
法が提供される。この方法は、前記情報の少なくとも一
部に関する操作を実行するためのユーザー動作に答え
て、表面上にラインイメージを描くステップを有し、前
記操作に従って前記表面上の情報のための前記ラインイ
メージ作成に答えて、表、線図、リスト、及びアウトラ
インモデル構造を選択的に決定するステップを有し、前
記構造モデルに関する操作により影響される前記情報を
識別するステップを有し、識別される対象物の関数とし
て前記操作用の構造パラメーターを計算するステップを
有し、前記情報に関する操作を実施するステップを有す
る。
【0022】本発明の別の態様によれば、データインタ
ーフェイス表面、この表面上に情報を表すためのユーザ
ーが制御できる手段、及び情報を記憶する記憶手段を含
む図形編集システムが提供される。このシステムは、表
面上にラインイメージを作り出すユーザー動作に答える
第1の手段を有し、前記情報の少なくとも一部に関する
操作を実行するために、コマンドジェスチュアとして前
記ラインを記憶装置を通して探索し、認識するため、前
記ラインイメージ作成に答える第2の手段を有し、該か
る操作に従って、表、線図、リスト、及びアウトライン
モデル構造として前記情報を選択的に限定(定義)する
第3の手段を有し、前記コマンドジェスチュアに関連し
て前記操作を実施する第4の手段を有し、その実施に従
って前記情報を表示する第5の手段を有する。
【0023】本発明の別の態様によれば、データインタ
ーフェイス表面、この表面上に情報を表すためのユーザ
ーが制御できる手段、及び情報を記憶する記憶手段を含
むシステムのために図形編集方法が提供される。この方
法は、ユーザー動作に答えて表面上にラインイメージを
作り出すステップを有し、前記ライン作成に答えて記憶
装置を通して探索し、前記情報の少なくとも一部に関す
る操作を実施するため、前記ラインをコマンドジェスチ
ュアとして認識するステップを有し、前記操作に従って
表、線図、リスト、及びアウトラインモデル構造として
前記情報を選択的に限定(定義)するステップを有し、
前記コマンドジェスチュアに従って前記操作を実施する
ステップを有し、その実施に従って前記情報を表示する
ステップを有する。
【0024】本発明の別の態様によれば、データインタ
ーフェイス表面とこの表面上に情報を表すためのユーザ
ーが制御できる手段を含む図形編集システムが提供され
る。このシステムは、前記表面上にラインイメージを作
り出すためユーザー動作に答える第1の手段を有し、前
記情報の少なくとも一部に関する操作を実行するため
に、コマンドとして前記ラインを認識する、前記ライン
イメージ作成に答える第2の手段を有し、コマンド認識
に答えて、該かる操作に従って、スペースにより分離さ
れるラインアイテムの内少なくとも1つの縦のカラムか
ら成るリストとして前記表面上で前記情報を限定(定
義)する第3の手段を有し、前記コマンドジェスチュア
に関連する操作を実施する第4の手段を有する。
【0025】本発明の別の態様によれば、データインタ
ーフェイス表面とこの表面上に情報を表すためのユーザ
ーが制御できる手段を含む図形編集システムが提供され
る。このシステムは、表面上にラインイメージを作り出
すためユーザー動作に答える第1の手段を有し、前記情
報の少なくとも一部に関する操作を実行するために、コ
マンドとして前記ラインを認識する、前記ラインイメー
ジ作成に答える第2の手段を有し、コマンド認識に答え
て、該かる操作に従って、各々が特定のインデンテーシ
ョン(字下げ)レベルを持つ、複数のラインアイテムか
ら成るリストとして前記表面上で前記情報を限定(定
義)する第3の手段を有し、及び前記コマンドジェスチ
ュアに関連する操作を実施する第4の手段を有する。
【0026】
【実施例】上述のデザインは設定された原則によって限
定(定義)することができる。該かるデザインの原則に
は以下のものが含まれる: 1.描画領域は常に、ユーザーがいつでも、自由形態
で、如何なる対象物をも記入することができる平坦な二
次元表面とみなされる。その使用に関して如何なる制限
もない。 2.ストロークのグループを選択し、それらを操作する
ために一セットのジェスチュア(つまり、システムによ
り翻訳されるストローク)がある。例えば、ループジェ
スチュアがいくつかのストロークを選択し、ピグテール
(pigtail)ジェスチュアがそれらを削除する。 3.(選択ジェスチュアによって限定(定義)される)
セレクションエンクロージャー(選択囲み)以外は、デ
ィスプレー上の全ての情報は単にストロークから構成さ
れ、それらは着色する、薄くする、移動させる、縮小さ
せる、削除する等の一般的なストローク操作に従う。ブ
レットもしくはセルライン等の特別な種類の対象物(オ
ブジェクト)はない。 4.システムによって予め限定(定義)されたストロー
クの組織的(構造的)グルーピングはない。しかしなが
ら、システムは要求があれば、現行セットのストローク
を幾つかの異なる種類の構造の1つとして翻訳すること
ができる。 5.ジェスチュアによって、ユーザーは現行のディスプ
レーの一部を一時的に特定の種類の構造とみなす意向を
指示することができる。例えば、左側の括弧ジェスチュ
アが一群のストロークを選択し、それらをリスト中のア
イテムとみなす。 6.セレクション(選択)が特定の種類の構造とみなさ
れる場合、その構造に関する操作はその構造の組織的仮
定に従って遂行される。例えば、平坦なセレクションが
動かされる場合、それは単に新しい場所に置かれるだけ
であるが、リストアイテムが動かされる場合、そのため
の空間が作成され、残りの空間が閉じられる。 7.特定のタイプのセレクションが捨てられると、組織
的(構造的)仮定はもはや認められない。つまり、組織
化(構造化)の記録は保持されない。
【0027】これらの原則がありながら、モードもしく
は予め宣言された構造はない。組織的仮定はユーザーの
その場その場の裁量による。つまり、これらの原則はユ
ーザーに一時的な柔軟性を与える。ユーザーは更に空間
的な柔軟性、つまり、組織化されたものと見なされるも
のの空間的範囲を定める能力を必要とする。更に2つの
原則がある: 8.ディスプレー上の材料の回りに「境界」を置くため
の技術が提供され、それは構造の空間的範囲を制限す
る。最も簡単な技術は(呼び出される構造の種類に対し
て)非常に長いストロークを単に境界線とみなすことで
ある。例えば、ユーザーはページのまん中に長い線を引
くことによって、ページの左側にリスト操作を制限する
ことができ、その線が境界として作用する。ユーザーが
ページの左側のリストアイテムを選択すると、アイテム
の範囲は境界線で止められる。 9.ディスプレー上に、呼び出される現行の構造に適合
しない対象物がある場合がある(例えば、表のカラム間
の垂直な線は、たとえロウを通過しても、選択されるロ
ウには属さない)。該かる対象物は「周囲」のものであ
ると考えられ、組織的操作においては乱されずに残され
る。
【0028】多くの組織的仮定を共有する一連の共通す
る、包括的な構造 - リスト、アウトライン、テキス
ト、表、及び線図があり、該かる構造は統一されたデザ
インで、例えば共通のジェスチュア及び異なる構造を横
切る類似したジェスチュアの属を用いて、一緒に処理さ
れる。最後に、システムはディスプレー上の材料が実際
その構造に(「雑音」のレベルにまで)適合する場合に
のみ、ユーザーが特定の構造を呼び出すものと仮定す
る。こうして、ユーザーはノード・リンク線図に関する
表操作を呼び出すことができ、システムはそれが意味を
なすことを調べることなく、それを遂行するであろう。
これらの原則は以下のシステムの説明の中で生かされ
る。
【0029】図1において、CRTディスプレー12を
含むジェスチュアベースの入力システム10のブロック
線図を示す。透明の圧力感知型製図(描画)表面14、
つまりタッチパネルがCRTディスプレー12の表面上
に取り付けられる。ユーザーが製図表面14に触れる
と、その接触が接触検出回路18により検出される。
【0030】接触検出回路18からの検出信号はX−Y
検出回路20に入力される。X−Y検出回路20は入力
信号を処理し、算術演算等を実行する。このように、X
−Y検出回路20は製図表面14の表面上の接触した入
力点の(x、y)座標を検出し、該かる情報をCPU2
2に送る。タッチパネル検出回路18、X−Y検出回路
20、及びCPU22は組み合わされて制御装置16を
形成する。制御装置16は記憶装置24のプログラムR
OM26に記憶されている制御プログラムに従って制御
を行う。記憶装置24のROMセクションはプログラム
ROM26を含み、そこではCPU22の制御プログラ
ムが記憶され、パターンデータ領域が様々な種類の文字
パターン等を記憶する。記憶装置24のRAMセクショ
ン28はCPU22の作業領域及び文字位置データ領域
30として使用されるRAM部分を含み、文字パターン
等のディスプレー位置を記憶する。
【0031】特に、図2において、描画表面14は作業
表面を使用し、図示されるように複数のアクセス可能機
能40を使用することができる電子スケッチパッド、ラ
イブボードもしくはホワイトボード等の電子入力装置で
ある。作業表面は製図表面14の上部部分36であり、
アクセス可能機能40は製図表面14の底部分38に置
かれている。これらの機能40は新操作(製図(描画)
モード)、削除、移動、収縮等を含むことができる。あ
るいはその代わりに、これらの機能はポップアップメニ
ューによってアクセスすることもできる。しかしなが
ら、これらの機能は指定が任意であり、それらの主な目
的はシステムの操作に固有の操作を明確にすることであ
る。これらの機能は多くの指定されたコマンドジェスチ
ュアにより表される同じ機能の幾つかを共有してもよ
い。
【0032】スタイラスもしくはライトペン42等の、
適当なユーザーが操作できる制御装置もしくは相互作用
装置を使用して入力シンボルを描き、機能を選択し、あ
るいは特定の機能を表示するジェスチュアを描く。明ら
かに、当業界の技術に含まれる他の変形物も使用するこ
とができる。
【0033】図2において、ユーザーは対象物34を作
り出し、これらの対象物をその回りに自由形態のループ
32を描くことによって選択した。
【0034】システムの基礎をなす手順は、まず陰(暗
黙)構造に関する一般的操作を実施するプロセスを調べ
ることによって最も良く理解できる。その手順の主な詳
細を以下に述べる。
【0035】陰構造に関する操作を支援するため、シス
テムは図4に示すように、以下の3つの基本的特徴を含
むように幅広く特徴付けることができる。
【0036】(1)ジェスチュア/データエントリー5
4:データ情報又は描画表面14上のストロークとして
描かれるコマンドジェスチュアを受け取り、ユーザーが
取る行為(動作)に答えて、個々のストロークをコマン
ドジェスチュアとして翻訳する。該かる行為はスタイラ
ス42の把持部分近くに位置するボタンに圧力を加える
ことであるかもしれない。他にもストロークをコマンド
として翻訳するようシステムに命令するために利用でき
る手段がある。しかしながら、ここで説明する目的のた
めに、システムはユーザーが望む時にストロークをコマ
ンドジェスチュアとして翻訳することができるものと仮
定する。
【0037】(2)操作割当て56:コマンドジェスチ
ュア(単数又は複数)が一旦ユーザーから発せられる
と、システムはプログラムメモリーを走査して、これ
(又はこれらの)ジェスチュアに割当てられた操作(単
数又複数)を判別し、ジェスチュアに従って組織的(構
造的)モデルのタイプを表示/決定する。
【0038】(3)操作実施58:所望のデータに関す
る操作(単数又は複数)を実行または遂行する手段。
【0039】特徴(2)と(3)は図5のブロック6
0、62、64、66により示される以下の4つの副特
徴から構成される。
【0040】(1)組織的モデルを決定する; (2)操作によって影響されるであろう組織的モデルの
下の局部的対象物を識別する; (3)識別された対象物の関数として、操作用の組織的
パラメーターを計算する;そして (4)操作実施
【0041】ブロック60において、組織的モデルが表
示され、選択するために使用され、選択された情報に作
用を及ぼすために使用されるジェスチュアの組合せに従
って、特定のモデルタイプが選択される。
【0042】まず操作を定義するために使用されるジェ
スチュアによりモデル構造が呼び出される。つまり、デ
ィスプレー上で所望の情報を選択するための特定のジェ
スチュアが、該かる情報が基本的な組織的モデル関係内
で処理されることをシステムに警告する。これらの特定
の選択ジェスチュアが、図6に示す組織化(構造化)さ
れた、つまり方形のエンクロージャー67を作成する。
好ましい実施例では、組織化されたエンクロージャーは
括弧ジェスチュア(上下の括弧68、70、及び左右の
括弧72、74)、下線ジェスチュア75、あるいはL
字型ジェスチュア76を描くことによって作成される。
これらの選択ジェスチュアはひとまとめにして、組織化
された選択ジェスチュアとして知られている。これらの
ジェスチュアの認識技術は、コーナーとか方位(配向)
等の該かるジェスチュアの簡単に見分けられる特徴故
に、全く簡単である。
【0043】組織化された選択ジェスチュアが描かれた
後、システムはプロジェクション(projectio
n:突出)として知られるコンセプトにより組織化され
るエンクロージャーを作成する。この図法の主題は、上
述の1993年12月30日に出願され、ジェスチュア
ベースの入力システムにおけるエンクロージャーセレク
ションを変更するための装置及び方法と題された米国特
許出願 No. 08/175,841 に開示されている。構造選択ジ
ェスチュアにより、ジェスチュアのセグメント(脚部
分)が部分的にある所定の境界にむけて突き出される。
これらの突出したセグメントはエクステンション(延長
部)と呼ばれる。突出した境界により画定される領域に
当てはまるデータのすべてが選択される。例えば、左側
の括弧ジェスチュア”[”が水平に右側に突き出し、あ
る所定の境界に達するとその突出が終了する。突出した
括弧ジェスチュアのエクステンション境界に当てはまる
データの全てが選択される。L字型ジェスチュアも同様
の方法で作用する。下線ジェスチュアの場合、システム
は下線上のテキストまたは下線に接触するテキストの
「ライン」を識別し、ジェスチュアの終了点の間にある
ライン上の対象物を選択する。
【0044】他方、自由形態ループ32により行われる
選択は、しかしながら、組織的モデルに従って該かる情
報を指定及び/もしくは組織するための事項を持たない
将来の操作に対するアイテムの選択にすぎない。行われ
た選択を動かすためには、ユーザーは(組織化されてい
ない)移動ジェスチュア77を使用できる。
【0045】ほとんどの状況において、モデルタイプ、
つまり正確な情報構造は、ユーザーがアイテムの選択に
関する第2のコマンドを実施して始めて、つまり第2の
(組織化された)ジェスチュアを描いて始めて決定され
る。これらのジェスチュアの例をやはり図6に示す。該
かるジェスチュアは削除82、移動84、縮小88、コ
ピー79、及び(動的)牽引(ドラグ)86を含む。し
かしながら、このリストは制限されない。特定のモデ
ル、その操作及びこれらジェスチュアと付加的なジェス
チュアの詳細を以下に説明する。幾つかのコマンドジェ
スチュア、特にクサビや脱字記号もその前の選択ジェス
チュアなしに使用することができる。
【0046】しかしながら、別の態様では、第1のジェ
スチュア(及び時には第2のジェスチュア)がモデルを
指示し、モデルの中の幾つかのストロークを選択し、第
2のジェスチュアが選択されたストロークに関して遂行
されるべき動作を指定する。
【0047】ブロック62において、システムは組織的
モデルに関する操作により影響を受けるであろう局部的
対象物を識別する。この時点で、ストロークを構造(例
えばラインアイテム)にグループ分けし、これらの構造
に対して一セットのストロークを分割することにより、
システムが操作する。例えば、ラインアイテムを動かす
ためには、システムはどのストロークがラインアイテム
に属するかを識別し、(ライン間ギャップを決定するた
め)デスティネーション(宛先)においてラインアイテ
ムを識別し、それらがソースラインの上にあるか下にあ
るか、及びデスティネーションギャップの上にあるか下
にあるかによって、スクリーン上で残りのストロークを
分割する。これらの分割から、ラインスペースが容易に
引き出される。ライングルーピング(グループ分け)技
術について下記に説明する。
【0048】カラム構造の場合、ライン用のものに類似
する手順が、ストロークをカラムにグループ分けし、カ
ラムギャップを見付け、カラムの左右にストロークを分
割するために使用される。しかしながら、テキストモデ
ル用には、セレクションの左右もしくは移動のデスティ
ネーションの左右にライン内のストロークを分割する一
セットの手順がある。ユーザーは括弧ジェスチュアによ
って明白にワードをグループ分けするので、ワードグル
ーピング手順は必要ではない。一群のワードを移動させ
るために、システムはソース及びデスティネーションに
おいてライングルーピングを行うためにのみ必要であ
り、左側及び右側のラインサブセグメントをデスティネ
ーションで別々に移動させ、ソースで一緒に戻すことが
できる。部分的なグループセレクションだけが行われる
場合、システムはグルーピングを完了するためにある仮
定をする。例えば、下線ジェスチュアはシステムがライ
ン境界を見つけることを要求するであろう。
【0049】全ての場合において、周囲及び境界のスト
ロークは選択された構造に対して非常の大きい対象物を
探すことにより識別される。
【0050】ブロック64では、システムは上記におい
て識別された局部的対象物の関数として、操作用の組織
的モデルパラメーターを計算する。求められる手順はベ
ースライン、ライン、カラムスペーシング(間隔)、ワ
ードスペーシングを計算することを含む。更に、アウト
ライン構造においてサブツリーを崩壊させるためのパラ
メーターを計算するためのもの等の特定のアルゴリズム
がある。
【0051】要するに、システムは組織的モデル、影響
を受けた対象物、及び組織的モデルパラメーターを決定
した。最後の機能は、操作66を実施すること、つまり
描画表面14上で対象物の明瞭な操作を含む所望の操作
を実施することである。例えば、ページ上の高い位置に
ラインを移動するために、ソースとデスティネーション
間のラインを下方に動かし、その結果生じるスペースに
ラインを動かし、空になったラインスペースを取り除
く。
【0052】主要な(キー)手順もしくはステップは陰
(暗黙)構造を見つけるものである、典型的な手順はラ
インをグルーピングするものである。関連手順がベース
ラインを決定する。これらの手順の両方にとって基本的
なものは、スクリーンの水平の横断面の中の「インク
(ink)」の濃度を判別するものである。これらの手
順の上下の説明を下記に記し、その付属部分を付録(参
考文献)Aの記載する。
【0053】ポイント、例えば移動ジェスチュアの終了
点、もしくは(ワードスペースを開くための)脱字記号
ジェスチュアの上部ポイントが与えられると、ライング
ルーピング(Line Grouping)手順は与え
られたポイントのy座標を含むラインに属するストロー
クを見つける。該手順はラインの上下の境界を計算し、
スクリーン上で全てのストロークをテストし、ライン上
に「存在する」ものを集める。ライン上に存在するスト
ローク用の基準は、ストロークの垂直範囲の半分以上が
上下のライン境界間になければならないことである。
【0054】FindLineBoundaries(ライン境界検出)手
順はインク濃度機能に基づいている。この濃度は配列に
よって別々に表示される。スクリーンは水平のストリッ
プに分割され、「インク濃度」が各々のストリップ毎に
計算される。この値の配列が次にしきい値を適用するこ
とによって二値(0または1)に変換され、それは平均
濃度の分数として表示される。より小さな、または大き
なしきい値を使用することにより、ラインの境界もしく
はテキストのベースラインを発見するためにインク濃度
を使用することができる。
【0055】その他の、より複雑な手順(例えば、斜め
のラインを処理できるステップ)も使用できることに注
目すべきである。
【0056】図7は上述のシステム手順を実施する基本
的な制御操作のフローチャートである。これらの操作は
以下の通りである。
【0057】ブロック81において、ユーザーが上述の
手段(スタイラス、走査、タイプされたエントリー等)
のいずれかによって、データ82を記入(入力)するま
で、システムは活動しない。一旦データがシステムに入
力されると、ユーザーはユーザーアクション形態で描画
表面14上にジェスチュアを描くことができる(ブロッ
ク83)。ブロック84で、システムはジェスチュアが
記入(入力)されたことを検出し、ジェスチュアの形状
を分析してシステムに知られているジェスチュアの1つ
としてそれを類別する。判別ダイヤモンド(ブロック)
85において、ジェスチュアがシステムによって認識さ
れなければ、エラーメッセージがブロック86で表示さ
れ、システムは新しいジェスチュアエントリー(入力)
のためにユーザーアクション形態(ブロック83)に戻
る。ジェスチュアが認識されれば、システムはジェスチ
ュアが所望のデータを選択するためのものであるか否か
を判別する。この点において、更にシステムはセレクシ
ョン(選択)ジェスチュアのタイプを判別することに注
目すべきである。なぜなら、セレクションジェスチュア
のタイプはシステムが標準のデータ操作を実行するか、
もしくは組織的関係にあるデータ操作を実行するかを判
別するからである。しかしながら、セレクションジェス
チュアのタイプの詳細及びその属性については、図8の
フローチャートに関して下記において説明する。
【0058】ジェスチュアが選択のためのコマンドであ
れば、システムはブロック88においてその選択により
画定されたデータ情報を識別し、ブロック89で選択操
作を実行し、ブロック90で実施された操作の結果を表
示するであろう。それからシステムはユーザーアクショ
ン形態(ブロック83)に戻り、そこでユーザーは別の
ジェスチュアを入力することができる。
【0059】さて、もしセレクションジェスチュア以外
のジェスチュアが検出されれば、システムはブロック9
1においてジェスチュアにより画定された情報を識別
し、ブロック92において識別後の残りの情報データを
識別し、ジェスチュア及び識別された前の情報に基づい
て情報のための組織的(構造的)モデルを画定するであ
ろう。組織的モデルがリスト、表、線図もしくはアウト
ラインであってよい。例えば、リストはカラムラインア
イテムとして特徴付けられ(各アイテムは図形対象物の
ロウ(行)から成る)、アイテムが移動すると、カラム
は再配置されてアイテム用のスペースを作り、移動後に
残るスペースを閉じる。ブロック94において、システ
ムは識別されたジェスチュア(移動、収縮、削除等)に
関連する操作を実行する。その後、システムはブロック
95においてその操作に従って情報の変更プロセスを表
示し(アニメーションと呼ばれる)、更にブロック96
においてその実施に従って情報の結果を表示する。それ
から、システムはブロック81に戻り、そこでシステム
は入力を待つ。
【0060】図7に示したフローチャートの操作及びそ
の説明は、図8に示したフローチャートの中の拡大形態
に示される。図8のフローチャートの中の各要素のため
のテキスト、及び対応する参照番号を以下に記す。
【0061】100:ユーザー入力を待つ;システムは
この段階(ステップ)では活動していない。
【0062】102:ジェスチュアは入力されたか?;
一度ユーザーが情報を入力すると、システムはその情報
がジェスチュアであるか否かを判別する。情報がジェス
チュアでなければ、システムはブロック124に移動
し、他の操作を遂行する。そうでなければ、システムは
決定ダイヤモンド(ブロック)104に進む。
【0063】104:自由形態のセレクションエンクロ
ージャーは既に存在するか?;自由形態のセレクション
エンクロージャーが存在すれば、システムはブロック1
10に進む。そうでなくて、自由形態のセレクションが
存在しなければ、システムは決定ダイヤモンド106へ
と移動する。
【0064】106:組織化されたセレクションエンク
ロージャーは既に存在するか?;組織的セレクションが
存在すれば、システムは決定ダイヤモンド118に進
む。組織化されたセレクションが存在しなければ、シス
テムは決定ダイヤモンド108に移動する。
【0065】108:入力は選択ジェスチュアであるか
?;もし入力情報が選択ジェスチュアであれば、システ
ムは決定ダイヤモンド112に進む。選択ジェスチュア
でなければ、システムは決定ダイヤモンド122に進
む。
【0066】110:入力は自由形態の変更ジェスチュ
アであるか?;入力情報が自由形態の変更ジェスチュア
であれば、システムはブロック126に進み、現在の自
由形態の選択ジェスチュアを変更する。もし自由形態の
変更ジェスチュアでなければ、システムは決定ダイヤモ
ンド112に進む。
【0067】112:入力は自由形態の選択ジェスチュ
アであるか?;入力情報が自由形態の選択ジェスチュア
であれば、システムはブロック128に進み、新しい自
由形態のループを作り、ブロック100に戻る。もし入
力情報が選択ジェスチュアでなければ、システムは決定
ダイヤモンド114に進む。
【0068】114:入力は組織化された選択ジェスチ
ュアであるか?;入力情報が組織化された選択ジェスチ
ュアであれば、システムはブロック132に進み、新し
い組織化されたセレクションを作る。(組織化された選
択ジェスチュアは組織的モデルの1つに従って考慮され
るべき情報を囲む。これらのジェスチュアは括弧及びL
字型形状を含む。これらのジェスチュアの詳細は以下に
記す。)もし入力が組織化された選択ジェスチュアでな
ければ、システムは決定ダイヤモンド116に移動す
る。
【0069】116:入力は選択関連操作ジェスチュア
であるか?;入力が自由形態の選択ジェスチュアに関す
る操作であれば、システムはブロック130に進み、操
作を実行する。そうでなければ、システムは翻訳不可能
なジェスチュアを示すエラー信号を出現させる。
【0070】118:入力は組織化された選択ジェスチ
ュアであるか?;ここでは組織化された選択は既に存在
している。そこで、入力情報が組織化された選択ジェス
チュアであれば、システムは決定ダイヤモンド120に
移動し、組織化された選択が現在の選択ジェスチュアと
「整合する(match)」か否かを判別する。「整合
(matching)」という言葉は下記において説明
する。入力が組織化された選択ジェスチュアでなけれ
ば、システムは決定ダイヤモンド112に戻り、入力が
自由形態の選択であるか否かを判別する。
【0071】120:組織化された選択ジェスチュアは
現在(既存)の組織化された選択と「整合する」か?;
入力された組織化選択が現在の組織化ジェスチュアと調
和すれば、システムはブロック134に進み、現在の選
択ジェスチュアを変更する。そうでなければ、システム
はブロック132に進み、新しい組織化選択を作成し、
前に存在したセレクションエンクロージャーを取り除
く。「整合」という言葉は、新しいジェスチュアにより
選択される材料が、選択のタイプに適切な方法で現在の
組織化セレクションに重なる(オーバーラップ)ことを
意味する。例えば、突出した選択ジェスチュアにより画
定される領域が現在の方形セレクションの領域と交差す
れば、そのセレクションは「整合」し、現在のセレクシ
ョンは、突出した選択ジェスチュアがその境界の1つに
なるように、延長されるか、収縮される。しかしなが
ら、精密な交差は必要ではない。例えば、現在の組織化
セレクションが「テキストのまわりを包む」モデル(ラ
インからラインへと続くテキスト)に適合すれば、ジェ
スチュアはラインからラインへの流れにおけるポイント
をマークするものとして翻訳(解釈)されるであろう。
【0072】122:入力は無選択操作ジェスチュアで
あるか?;入力が選択ジェスチュアなしに作用するジェ
スチュアであれば、システムはブロック136に進み、
操作を遂行する。そうでなければ、エラーメッセージが
現れ、翻訳不可能なジェスチュアが入力されたことを指
示する。
【0073】124:他の操作を遂行する;自己画定。 126:現在の自由形態のセレクションを変更する;同
上。
【0074】128:新しい自由形態のセレクションを
作成する;同上。 130:現在のセレクションに関する操作を遂行する;
同上。
【0075】132:新しい組織化セレクションを作成
する;同上。 134:現在の組織化セレクションを変更する;現在の
組織化セレクションエンクロージャーは変更ジェスチュ
アを含むように造り直される。
【0076】136:操作を遂行する;自己限定。 138:ユーザーに翻訳不可能なジェスチュアであるこ
とを合図する;同上。
【0077】支援される陰構造の詳細 1.手書きのリスト A.組織的(構造的)モデル リストはラインスペースによって分離されるラインアイ
テム(もしくは略してアイテム)の垂直のカラムである
と仮定する。アイテムは通常はテキストのラインであ
る。従って、幅が広く背は高くないと仮定する。このよ
うに、アイテムの左側の左側括弧はテキストを選択する
ための効果的な方法であるので、このジェスチュアはこ
のモデルにおける好ましい選択形態である。リストにお
いて、アイテム間の垂直のスペースは最小にする。アイ
テムを削除すると、残りのスペースは取り除かれる(つ
まりその下のアイテムが上に上げられる)。しかしなが
ら、アイテムはお互いの上には置かれない。従って、ラ
インアイテムが他の2つのアイテムの間に移動すると、
新しいアイテムのためにスペースが作られる。リスト操
作は現在のラインスペーシングを局部的にそのまま保と
うとする。しかしラインスペーシングは明白に開かれる
か、あるいは閉じられる。更に、アイテムは水平に移動
させて他のアイテムと適切に整列させることができる。
【0078】B.操作及びジェスチュア 上述のように、”[”ジェスチュアが組織化ジェスチュ
アとして選択され、アイテムもしくはアイテムのライン
を選択するために描かれる。”[”の高さはアイテムに
含まれると考えられるものを画定する。しかしながら、
複数のラインを「ジェスチュア」内に含むことができる
ことに注意しなければならない。図6(a)及び6
(b)は新聞名のリストを示す。図9において、左側の
括弧は”USA Today”の左に置かれて、その全
アイテムを選択する。図10は全アイテムのまわりの方
形のセレクションエンクロージャー150を示す。ライ
ンアイテムを含む(もしくは除外)するためにセレクシ
ョンを延長(もしくは収縮)させるには、セレクション
形状がどのように造り直されるべきかを示すL字型のジ
ェスチュア152を描く。こうして、L字型のジェスチ
ュアを含み、また”USA Today”と”Los
Angeles Times”と含むように方形のセレ
クションが造り直される。このジェスチュア152を図
11に示し、その結果延長されたセレクションエンクロ
ージャー150を図12に示す。
【0079】ユーザーが選択アイテムを削除したいと望
む場合、セレクションエンクロージャー内からピグテー
ルジェスチュアを描けばよい。図13はこのジェスチュ
ア154を示す。一度削除ジェスチュアが出されると、
アイテムが削除され、残りの2つのアイテムがお互いに
近付けられ、これらのアイテム間の空のスペースが取り
除かれる。図14はリストの中の残りの2つのアイテム
を示す。
【0080】選択アイテムをリストの中の別の位置に動
かすには、ユーザーはセレクションエンクロージャー1
50から目標位置、例えば図15のアイテム”Los
Angeles Times”の真下までラインジェス
チュア156を描けばよい。その結果生じる移動を図1
6に示す。あるいはその代わりに、ユーザーは(図示し
ない)目標位置において”>”ジェスチュアを描くこと
により、目標位置に選択アイテムを移動させることもで
きる。
【0081】選択アイテムを水平に移動させるには、ユ
ーザーは水平ラインジェスチュアを描けばよい。選択ア
イテムをリストの別の位置にコピーするには、ユーザー
は目標位置で”<”を描けばよい。選択アイテムを縮小
/拡大するには、ユーザーは図6に示すように、内向き
/外向きの螺旋形ジェスチュア88を描けばよい。
【0082】選択がない場合、新しいラインアイテム用
に素早くスペースを作るには、ライン間のスペースにく
さび”>”ジェスチュアを描けばよい。このジェスチュ
アの例を図17に示す。くさび158は”USA To
day”と”Los Angeles Times”の
間に置く。図18はこれらのアイテム間に挿入されたス
ペースを示す。
【0083】選択された対象物を引っ張るには、ユーザ
ーはセレクション領域のまん中を触る。一度ユーザーが
まん中に触ると、セレクションはペンに「くっつき」、
ペンは持ち上げられるまで、セレクションの画像を滑ら
せ、その時にスペースが適当に開かれたり閉じられて、
選択アイテムがその適当な位置に移動する。牽引操作の
例を図19、20、21に示す。
【0084】図19において、”Wall Stree
t Journal”が選択される。図20は、このア
イテムが牽引された後、”USA Today”と”L
osAngeles Times”の間に置かれ、これ
らの2つのアイテムに重なるように置かれる様子を示
す。図21は”USA Today”、”WallSt
reet Journal””Los Angeles
Times”の順にリストを整理する様子を示す。図
6の矢印86が牽引操作の運動を表すことに注目するこ
とが大事である。しかしながら、ユーザーが利用できる
1つの操作として図6に示しただけである。
【0085】重要なことは、セレクションの組織化され
た性質に依存しない操作を応用するために他のユーザー
行為も使用できることである。例えば、ストロークを赤
に変更するには、メイクレッド・ボタンに触ればよい。
【0086】手書きのアウトライン A.組織的モデル アウトライン構造は簡単なリスト構造の延長である。ラ
インアイテムはアイテムの階層型構造を決定するインデ
ンテーションレベルを持っている。固定された「タブ」
位置はなく;アイテムのインデンテーションレベルは、
左端のストロークの水平位置がその上のアイテムの左端
のストロークの水平位置に「近接する」かもしくはそれ
とは「大幅に」異なるかによって決定される。アイテム
を移動させる、つまり左の最も近い各アイテムのストロ
ークの端を、その前のアイテムと全く同じに、もしくは
それとは大幅に異なって整列させる整列操作がある。こ
の操作はインデンテーション(字下げ)構造に関するシ
ステムの翻訳(解釈)を示す。
【0087】ユーザーはインデンテーションレベルを調
節するためにアイテムを移動させることができる。アウ
トラインサブツリーは1つのアイテムと、それより大き
なインデンテーションレベルを持ったその下にある全て
のアイテムの組合せである。サブツリーはアウトライン
のより高いレベル構造を示すために崩壊させることがで
きる。崩壊されたサブツリーは物理的に(縦寸法のみ
が)縮小し、サブツリーの最上部のアイテムの下で、コ
ンテナー対象物(オブジェクト)と呼ばれる、薄い物理
的ラインのように見える。コンテナー対象物は元の大き
さに拡大し直すことができる。コンテナー対象物の存在
を示すために、厚めのライン等のアイコンを使用するこ
とができる。適切なサブツリーもしくはサブツリーまた
はアイテムの連続だけを崩壊させられることが重要であ
る。セレクションが適切なサブツリーもしくは適切なサ
ブツリーの連続(シーケンス)でなければ、崩壊させる
前に拡大されるであろう。セレクションが適切なサブツ
リーに拡大できない不適切なアイテムのセットであれ
ば、崩壊操作は阻止される。コンテナー対象物はリスト
アイテムのように処理される、つまりブロックとして動
かすことができ、そうでなければ所望のように操縦でき
る。
【0088】B.操作及びジェスチュア: セレクションにおいてラインアイテムを水平に整列させ
るには、ユーザーはセレクションの左端で垂直の(ライ
ン)ジェスチュアを描けばよい。この例を図22に示
す。第1レベルの表題(ヘッディング)は”Newsp
aper”であり、”New York”はサブツリー
の表題である。垂直のラインジェスチュア160は”N
ew York”で始まる選択アイテムの左端に描かれ
る。システムはセレクションの中の全てのラインアイテ
ムのインデンテーションを比較し、おおまかに等間隔で
引っ込んだラインが正確に等間隔で引っ込むように、ラ
インアイテムの水平位置を調節する。この結果生じるア
ウトラインを図23に示す。
【0089】選択サブツリーの1つのレベルを崩壊させ
る(つまり、サブツリーにおいて最も低いレベルを崩壊
させる)ためには、メニューからコラプス・ワン・レベ
ル・アイテム(−レベルアイテム崩壊)を選ぶ。図24
はサブツリーにおける最低レベルが崩壊される前のアウ
トラインの選択アイテムを示し、図25は最低レベルが
崩壊した後のアウトラインを示す。サブツリーの最低レ
ベルが一度崩壊すれば、選択されていない他のアイテ
ム、つまり”Radio Stations”が上方向
に移動して、サブツリーから残されたスペースを閉じ
る。
【0090】選択されたサブツリーの中の全てのレベル
を崩壊させる(つまり、最上部レベルだけを残す)ため
には、ユーザーはコラプス・オール・レベルスのメニュ
ーアイテムを選べばよい。セレクションの中の崩壊アイ
テムを1レベルだけ拡大する(つまり、崩壊アイテムの
最高レベルだけを拡大する)には、ユーザーはエクスパ
ンド・ワン・レベルのメニューアイテムを選べばよい。
【0091】セレクションの中の崩壊アイテムを完全に
拡大するには、エクスパンド・オール・レベルスのメニ
ューアイテムを選ぶ。これは図26と27に示される。
【0092】手書きのテキスト A.組織化モデル 手書きの「テキスト」はリスト及びアウトラインの関係
内の制限されたテキストのモデルである。手書きのスト
ロークはまずラインアイテムとしてグループ分けされ、
次にラインアイテム内でワードスペースにより分離され
るワードとしてグループ分けされると仮定する。本明細
書において使用される「ワード(word)」という言
葉は、通常の言語の言葉ではなく、空のスペースにより
分離される対象物の水平の群れ(クラスタ)を指す。ス
ペースにより範囲が定められるタイプ打ちされた文字の
連続(シーケンス)は該かる「ワード」の特別な場合で
ある。ライン上のワード及びワードのスペースは縦寸法
におけるラインアイテム及びラインスペースのものに類
似する方法で横寸法において処理される。ワードスペー
シングはワードが削除される時に閉じられ、ワードを挿
入するために場所を空けるために開かれる。ワードは1
つのラインに含まれ、ユーザーによってライン間で明白
に移動されなければならない。同じライン上で隣接する
ワードは、左右の括弧ジェスチュアで、あるいは下線ジ
ェスチュアにより選択できる。ワードが動かされると、
システムはワードスペースもしくはラインスペースを作
成すべきか否か、つまりそれらを収容するために開かれ
るべきか否かを判断する。更に、ラインアイテムもこの
方法で処理される。つまり、ラインアイテムはライン上
の全てのワードをたまたま含むものである。
【0093】B.操作及びジェスチュア ライン上のワードを選択するには、ユーザーはワードの
下に線を引くか、あるいは括弧”[”と”]”ジェスチ
ュアを描けばよい。(選択されるワードがラインの左端
もしくは右端まで伸びている場合、1つの括弧だけでよ
い。)この例を図28、29に示す。ワード”Ange
les”は選択のために括弧で囲まれている。図30に
示すように、ユーザーは選択アイテムを削除するために
エンクロージャー150からピグテールジェスチュア1
62を描けばよい。その結果を図31に示す。
【0094】現在のライン上の別の場所、もしくは別の
ライン上の場所に選択ワードを移動させるには、ユーザ
ーはセレクションからワードスペースまでラインジェス
チュアを描くか、あるいはワードスペースに脱字記号ジ
ェスチュア”∧”を作ればよい。この例を図32及び3
3に示す。セレクション”Angeles”及びライン
ジェスチュア164はセレクションエンクロージャー1
50から、”USA”と”Today”の間の所望の場
所まで伸びていることに注意。システムは選択情報を適
合させるために所望の場所にスペースを作る。新しいラ
インに選択ワードを動かすためには、ユーザーはライン
スペースにラインジェスチュアを描くか、あるいはライ
ンスペースに”>”ジェスチュアを作ればよい。これは
図34に示されている。ラインジェスチュア166は選
択情報、つまり”Angeles”からテキストの最初
の2つのラインの間の場所まで伸びている。システムは
テキストのこれらのライン間にスペースを作り、選択情
報を移動させる。図35はこれらの操作の結果を示す。
【0095】選択ワードを新しいラインにコピーするに
は、ラインスペースに”<”ジェスチュアを描けばよ
い。テキストを挿入するためにスペースを素早く開くに
は、脱字記号ジェスチュアを挿入してもよい。脱字記号
ジェスチュア168を図36に示す。図37では、スペ
ースが”USA”と”Today”の間に作られてい
る。システムは隣接テキストの大きさの関数として決定
される固定された量のスペースを作る。
【0096】注目すべき重要なことは、選択ワードに通
常の操作を適用することができることである。例えば、
ストロークを赤に変更するには、メイク・レッドボタン
に触る。
【0097】手書きの表 A.組織化モデル 表はロウとカラムから構成される二次元構造である。ロ
ウはリストモデルからの正確なラインアイテムである。
カラムはロウと同様であるが、ジェスチュアと操作によ
り横寸法から縦寸法に置き換えられる。例えば、左の括
弧がロウを選択するように、最上部の括弧はカラムを選
択する;ロウが垂直に動かされるように、カラムは水平
に動かすことができる。カラムスペースはカラム間の垂
直のスペースである。更に、(日本語もしくは中国語書
きのように)垂直のテキストがあり、それは上と下の括
弧で選択される;カラムの中の材料は垂直のテキストが
動かされる時に垂直に開いたり閉じたりする。純粋のロ
ウもしくはカラム操作に加えて、やはり左右の括弧もし
くは上下の括弧を用いて、ユーザーは材料のブロック -
1つ以上のロウもしくはカラムから材料の方形選択 -
を選択することが認められる。これは表のより大きな部
分に簡単なコマンド(例えば、メイク・レッド)を適用
する便利な方法を提供する。しかしながら、ブロック選
択には特別な表の翻訳(解釈)は配置されない。
【0098】B.操作及びジェスチュア カラム(単数又は複数)を選択するには、図38に示す
ように、上部括弧ジェスチュア172を描けばよい。図
39はこのジェスチュアに答えて取られる動作の結果を
示す。選択カラムを削除するには、ピグテールジェスチ
ュアを描けばよい。選択カラムを移動させるには、図4
0に示すように新しい場所までラインジェスチュアを引
く(あるいは”∧”ジェスチュアを作る)ことができ
る。図41では、中央のカラム全体が”3”で始まるカ
ラムの右側に移されていることに注意。選択カラムをコ
ピーするには、”<”ジェスチュアを新しい位置に描け
ばよい。
【0099】縦のブロックを選択するには、上下の括弧
ジェスチュアを描いて所望の情報を囲むことができる。
これは図42と43に示される。(縦もしくは横の)選
択ブロックを削除するには、セレクションエンクロージ
ャーからピグテールジェスチュアを描けばよい。これは
自動的にスペース(縦もしくは横に)を閉じることにな
る。(縦もしくは横の)選択ブロックを移動させるに
は、セレクションエンクロージャーから目標場所までラ
インジェスチュアを描けばよい。ラインジェスチュアの
例を図44に示し、動かされる対応する縦のブロックを
図45に示す。ブロックをコピーするには、目標位置
で”<”ジェスチュアを描けばよい。
【0100】最後に、通常の操作を選択されるロウ、カ
ラム、もしくはブロックに通常の方法で適用することが
できる。例えば、ブロック内のストロークを赤に変更す
るには、メイク・レッドボタンに触る。
【0101】構造の範囲を空間的に定めるには、ユーザ
ーは境界線として作用するように長いストロークを単に
描くだけでよい。境界の機能は構造セレクションの空間
的範囲及び組織化操作の結果を制限することである。シ
ステムはジェスチュアを翻訳する間に、それが「突き当
たる」長いストロークを境界線とみなす。選択される構
造の範囲は自動的に境界で止められる。例えば、図46
において括弧によりリスト中のアイテムを選択する場
合、境界174に至るまでのストロークが図47におけ
るセレクションに含まれる。境界の侵害を生じるであろ
う組織化操作は阻止される。例えば、図48の”USA
Today”と”LA Times”の間に示される
(脱字記号を用いる)開スペース操作は、スペースがリ
ストの最後のライン、つまり”LA Times”を下
の境界から追い出すようになるので、阻止される。
【0102】しかしながら、境界を横切って操作を行う
ことができる。例えば、図49に示すように、多重カラ
ムリストにおいて、アイテム(USA Today)を
1つのカラムから他のカラムへと(境界はカラムの間に
ある)動かすことができる。図50において、アイテ
ム”USA Today”のために”Paper”と”
Radio”の間の境界の他方の側のカラム内にスペー
スが作られていることに注意。
【0103】セレクションを境界を通り抜けて伸ばすた
めには、コーナー型のジェスチュアもしくは括弧ジェス
チュアを描いて、セレクションをどこまで伸ばすかを示
せばよい。これは図51と52に示されている。元のセ
レクションエンクロージャーが2つの境界を突き抜けて
情報を含むために伸ばされていることに注目。境界線は
この方法で突き抜けられると、もはや境界とは認められ
ず、周囲対象物とみなされる。周囲対象物は如何なる操
作中にも無視される。例えば、表のカラム間の周囲ライ
ンはロウを動かしても影響を受けない。図53と54に
おいて、ラインジェスチュア176はシステムに2つの
境界に影響を与えずにロウを動かすことを指示してい
る。周囲性は現在のセレクションの生命のためにのみ保
持される。
【0104】手書きの線図 A.組織的モデル 線図はノード・リンク構造としての意味を持つ。ノード
は単位とみなされるべき一群の図形対象物であり、リン
クは2つのノード間を通過する(結合する、接続する)
ラインである。リンクとノードは数学的(位相幾何学
的)構造を形成し、それは幾何学的構造よりも抽象的で
ある。つまり、位相幾何学はノードがどこに置かれてい
るか、あるいはリンクの形状等には関係せず、ノード間
のリンクのパターンがどのようなものであるかだけに関
係する。ユーザーはリンクを編集することにより位相幾
何を変更したいと望むかもしれないが、時には位相幾何
を保持しながら、(より明確にするため、あるいはより
整然とさせるため)線図の幾何学的配列を変更したいと
望むかもしれない。
【0105】ユーザーが位相幾何を乱さずにノードを動
かしたいと望む場合、そのノードから他のノードへのリ
ンクはリンク構造を維持するためにゆがめられ(造り直
され)なければならない。リンク対象物をゆがめること
は、それが接続するノードの新しい位置を適合させるた
めに、「引っ張り」ながら、その特徴的形状を保持する
リンクの形状の線形の幾何学的変形を含む。更に、移動
がそれを要求する場合、リンクの終了点はそのノードに
対して変更される。例えば、図55(a)は3つのノー
ド(A、B、C)と2つのリンク(A−B、A−C)を
持つ簡単な線図を示す。図55(b)は幾何学的に変更
された線図--ノードBとCの位置は保持され、ノードB
は少し下げられる--であるが、その位相幾何は保持され
る:AはB及びCに連接されている。リンクA−B及び
A−Cの特徴的な形状は保持されていることに注目。更
に、リンクA−Cは図55(a)のノードAの右側か
ら、及び図55(b)のノードAの左側から放射されて
いることに注目。
【0106】B.操作及びジェスチュア ユーザーは方形のジェスチュアを作ることにより、ノー
ドとしてディスプレー上の対象物を選択することができ
る。システムはこの形状を認識し、他の全ての組織化選
択のために行うのと全く同様に、描かれたジェスチュア
を完全に幾何学的な方形で置き換える。ノード選択は他
の組織化選択が持っていない1つの付加的な特徴を有す
る。ノード選択はそれがノードとして囲む全ての対象物
を選択し、セレクションから伸びる全てのラインはリン
クとして選択される。選択リンクはリンクがそれを横切
る場所のセレクション方形上の小さな円によって指示さ
れる。ユーザーは横断するラインがリンクとみなされる
べきか否かを変更することができる。例えば、図55
(c)は選択されたノードAと、リンクとして選択され
たラインA−Bを示すが、ラインA−Cはリンクとして
選択されていない。図55(d)はリンクを変更するた
めのジェスチュアを示す。小さな円を通るスラッシュジ
ェスチュアはラインA−Bのリンク状態を取り除き、ラ
インA−Cがセレクション方形を横切る場所の小さな円
ジェスチュアが、ラインA−Cをリンクとみなすように
変更する。これらの2つのジェスチュアの結果を図55
(e)に示す。ノードAが右側に動かされると、リンク
A−Cは接続を保持するためにゆがめられるが、ライン
A−Bは変更されず(なぜならそれはリンクと考えられ
ていないので)、AとBの間の接続は失われる。
【0107】更に、グルーピング(grouping)
と呼ばれる操作(メニューから利用できる)がある。一
セットの対象物が選択され、グループ分けされると、セ
レクションの中の全ての対象物は1つの対象物、グルー
プ対象物とみなされる。グループ対象物のユーザーにと
っての利点は、それに触るだけで、つまりドットジェス
チュアによって選択できることである。これはユーザー
がグループ対象物を操縦することを非常に容易にする。
線図の中のノードがグループ分けされる(しかしリンク
はグループ分けされない)と、線図は位相幾何を保持し
ながら容易に再配列される。更に、システムはどの対象
物がリンクを構成するか知っているので、リンクが適切
な方位でノードから放射する。
【0108】この技術の更に1つの延長は、実際にはリ
ンクではないストローク対象物に関する幾何学的変形を
実行するために、リンク湾曲可能性を使用できることで
ある。例えば、図55(g)は3つの文字対象物とそれ
らのまわりのストローク対象物を示す。文字対象物Cは
ノードとして選択されている。囲んでいるストローク対
象物が2つの場所でエンクロージャー方形と交差するの
で、それは「リンク」とみなされる。ラインジェスチュ
アはノード(C)が右に動かされることを示している。
しかし、それが動かされると、ストローク対象物はCに
従うために、図55(h)に示すように、ゆがめられ
る。この延長は陰組織化の原則を--構造が図形データに
固有のものではなく、むしろ構造はユーザーがデータの
中に見るものであり、ジェスチュアによってシステムに
見つけるように「告げる」ものであることを示してい
る。
【0109】混合構造及び自由形態のコマンド データの複数(multiple)領域を使用するディ
スプレーにおいて、編集操作の相互適用(クロスアプリ
ケーション)をする際にある問題が生じる。図56はシ
ステムが境界として翻訳する縦線により分離された2つ
のリストを含むスクリーンを示す。このように、各々の
側のリストが別個に編集できる(例えば、Gailをリ
ストの一番上に移動させることができるであろう)。更
に両方のリストに影響を及ぼす操作もできる。図56は
Janeが選択され、”>”ジェスチュアがシステムに
BobとTomの間にJaneを移動させる--Gail
が上に上がり、TomとBillがこの移動を受け入れ
るように下に移動するように告げている。境界の各々の
側に構造があり、移動は完全に組織化されていることに
注目。
【0110】さて、左側にリストがあり、右側に部分的
な事務所のフロアプランがある図57の場合を考えてみ
よう。フロアプランは自由形態の線図であり、構造では
ない。JaneをTomの事務所に移したいとしよう。
図56と同じジェスチュアを使用すれば、システムは線
図を適切に変更する方法を知らないであろう。システム
はそれをリストとして翻訳し、--最善の場合、Tomを
Billの事務所に移し、Billは事務所から追い出
されるであろうし;最悪の場合、線図の中の壁を移動さ
せ、混乱を招くであろう、この場合、システムは線図を
リストとしてグループ分けできないので操作を拒否する
であろう。このように、問題は自由形態としての線図を
如何に処理し、同時にリストをリストとして如何に処理
するかである。
【0111】解決法は混合操作を可能にすることであ
る。選択ジェスチュアは移動ジェスチュアと異なるの
で、各々のジェスチュアは移動の各々の端で材料を如何
に処理すべきかを指示することができる。セレクション
を(括弧及びL字型)もしくは自由形態(ループ)で組
織化することができ、移動を(>もしくは∧)あるいは
自由形態(∨)で組織化することができる。これらはあ
らゆる可能性のある組合せで混合することができる。
【0112】従って、図57において、最初にTomを
ループジェスチュアで選択し、彼をJaneの前に組織
的に挿入する(>)。Tomは選択された自由形態であ
るので、彼を移動させても、線図においては何も変更さ
れない。Tomは組織的にリストに挿入されるので、J
aneとGailは下に移動する。図58を参照のこ
と。次にJaneを組織化アイテムとして選択し、線図
において自由形態の移動(∨)を指示する。Janeは
組織化されたセレクションなので、Gailが上に移動
する。移動は自由形態なので、Janeが空の事務所に
移動しても線図の中は何も移動しない。
【0113】表の整列(位置合せ) 上述したように、配列(整列)操作はリストのインデン
テーションレベルを「整列する」(簡単なリストを片付
けるためにも使用できる)。同様の操作を表にも使用で
きる。問題は、表がきれいに配列されていることが少な
いことである。表はしばしばカラム様式で作成される。
人々はアイテムを1つのカラムに上から下へと書き進
み、次のカラムへと進む。その結果、ロウのアイテムは
きれいに整列されておらず、ロウを選択して移動させる
ことができない。解決法は水平の配列操作を作ることで
ある。全体の表を選択し、セレクションの上部で水平ジ
ェスチュアを作る。システムはセレクションを表として
分析し、各々のカラムのアイテムを左側のカラムのアイ
テムと水平に整列するように連続して移動させる。その
結果ロウ様式で操縦できるこぎれいな表が出来上がる。
図59はユーザーが作成した表を示し、図60はシステ
ムがそれを整列させた後の表を示す。整列にはスペーシ
ングが含まれ、ロウ及びカラムの縦と横の整列が含まれ
る。
【0114】自由形態テキストとしてのタイプ打ちされ
た文字 このシステムはキーボードで文字をタイプ打ちすること
を可能にする。各々の文字はストロークと同様に自由形
態の図形対象物であり、つまりディスプレー上でxy位
置を占めるにすぎない。ストロークと同様に、それらは
自由形態として、あるいは使用されるジェスチュアに応
じて組織化されるものとして処理される。文字対象物及
びストローク対象物は混合することができる;例えば、
ユーザーはタイプされたテキストのラインにギリシャ文
字を手書きすることができる。
【0115】文字対象物はループ選択ジェスチュアでそ
れらを選択することにより、(組織化されていない)自
由形態として処理することができる。この方法で選択さ
れた文字対象物が標準のピグテールジェスチュアで削除
されると、削除された文字対象物を囲む文字(及び他の
種類の)対象物は移動しない。(つまり、ストローク対
象物と全く同じ行為である。)同様に、文字対象物はど
こにでも移動することができ、他の文字またはストロー
ク対象物の上に置くこともできる。図61(a)、61
(b)を参照。
【0116】文字対象物は、構造選択ジェスチュア(例
えば括弧やLジェスチュア)の1つによってそれらを選
択することにより、組織化されるものとして処理するこ
とができる。文字対象物がこの方法で選択されると、そ
れらはストローク対象物に関する組織化操作(つまり、
リスト、アウトライン、テキスト及び表と同様に操作で
きる。例えば、一連の水平に関連する文字対象物を括弧
ジェスチュアで選択することができ、それからラインジ
ェスチュアで別の場所に移動させることができる;文字
対象物は適当に閉じたり開いたりする。図61(c)及
び61(d)を参照。しかしながら、文字対象物が選択
された場合、それらは近くの文字対象物と整列するよう
に「ぷっつり切られる」という特別な処理をされる。
【0117】例えば、ユーザーが文字ABCを近くの文
字DEFに移動させると、ABCは、基準線が整列し、
DEFがABCの真後ろにくるか、あるいはCとDの間
に正確に1つの通常の文字スペースが空くように、最も
適切な方法でDEFと整列するようにぷっつりと切られ
る。
【0118】キーボードでテキストのエントリー及び編
集ができるように、追加操作が提供される。まず、ユー
ザーはタイプされた文字対象物をディスプレーのどこに
置くべきかをシステムに告げる方法を必要とする。この
ように、「タイプイン・ポイント」と呼ばれる特別な対
象物(小さな脱字記号型の対象物)がある。ユーザーは
ペンを用いたドットジェスチュアを作るか、もしくはマ
ウスボタンを指示または押すことにより、タイプイン・
ポイントを配置または再配置することができる。文字作
成キーボードのキーが押された時はいつでも、文字対象
物はタイプイン・ポイントの右側に置かれ、タイプイン
・ポイントは挿入された対象物の右側に移動される。こ
うして、一連のキーストロークが文字対象物の左右の連
続(シーケンス)を作り出す。
【0119】「特別」キー(例えばスペース、タブ、リ
ターン、バックスペース)が押されると、特別動作が提
供される。スペースキーが押されると、タイプイン・ポ
イントが1文字スペースを右側に動かす。「スペース文
字」は作成されないことに注意;タイプイン・ポイント
を動かすだけである。(スペースキーを押すことは、マ
ウスでタイプイン・ポイントを再配置するのに等し
い。)タイプイン・ポイントがそのすぐ右側に文字対象
物を持っている場合、それらは新しい文字対象物のため
に場所を作るために右に押される。リターンキーを押す
と、タイプイン・ポイントを現在の文字列の左端の文字
の左に移動させ、次の文字が次のテキストラインに行く
ように1列下に移動させる(すぐ下に文字がある場合
は、それらは1列だけ下に押される)。タブキーはタイ
プイン・ポイントを上にある文字対象物と、それらの左
にスペースを置いて整列させるために右に移動させる;
配列が見つからない場合は、タイプイン・ポイントはデ
フォールトテーブル位置に移動する。タイプイン・ポイ
ントが境界に押されるか、あるいはディスプレーの右端
に押されると、それは(文字対象物に沿って、すぐ左
に)1列下にそして左に移動する、つまりテキストにと
って通常の「ラインラッピング」行為をする。同様に、
他の特別キー(例えば、バックスペース、ラインフィー
ド)が適切に定義された行為をする。
【0120】文字のこの処理は簡単なテキストエディタ
ーの一般に期待される能力及び行為を生み出す。しかし
ながら、文字対象物はどういう風に入力されようと、全
体的に自由形態である。例えば、ユーザーはタイプされ
たパラグラフの中央に一連の文字対象物をループ選択
し、それらを削除し、パラグラフの中央に空のスペース
を残すことができる。図61(e)、61(f)を参
照。ユーザーは更に、文字対象物を入力する方法とは異
なる組織化された方法で、それらを処理することができ
る。例えば、いくつかのテキストが左から右にタイプさ
れてあっても、文字対象物は(従来のテキストエディタ
ーの従来の「ストリング」構造等の)特別な左右関係を
持たない;同じテキストの一部がカラムとして選択さ
れ、文字対象物の2つのカラムが切り換えられる。図6
1(g)、61(h)を参照。これはテキストを処理す
る新規の柔軟な方法であり、それは自由形態の編集応用
例にとって適当なものである。
【0121】発明を好ましい態様に関連して説明してき
たが、発明の精神及び範囲内において多くの変形及び修
正が企図されることが当業者には自明であろう。好まし
い態様の図及び説明は例として取り上げたものであり、
発明の範囲を制限するものではなく、発明の精神及び範
囲の中に全ての変更及び修正を含むものである。
【図面の簡単な説明】
【図1】本発明によるシステムが使用されるジェスチュ
アベースの入力装置の1形態を示すブロック線図であ
る。
【図2】幾つかの対象物を囲む自由形態のループジェス
チュアを示すディスプレースクリーンの正面図である。
【図3】従来のペンベースのアウトライニングシステム
を示す図である。
【図4】本発明に従って図1に示したシステムの基本的
操作の簡単なフローチャートを示す図である。
【図5】図4に示した操作の拡大フローチャートを示す
図である。
【図6】本発明を組み込んだシステムにおいて使用され
るジェスチュアを示す図である。
【図7】本発明に従って陰構造を支持するシステムの基
本的制御操作のフローチャートを示す図である。
【図8】図5(c)に示した操作の拡大フローチャート
を示す図である。
【図9】手書きのリスト上の操作及びジェスチュアを示
す図である。
【図10】手書きのリスト上の操作及びジェスチュアを
示す図である。
【図11】手書きのリスト上の操作及びジェスチュアを
示す図である。
【図12】手書きのリスト上の操作及びジェスチュアを
示す図である。
【図13】手書きのリスト上の操作及びジェスチュアを
示す図である。
【図14】手書きのリスト上の操作及びジェスチュアを
示す図である。
【図15】手書きのリスト上の操作及びジェスチュアを
示す図である。
【図16】手書きのリスト上の操作及びジェスチュアを
示す図である。
【図17】手書きのリスト上の操作及びジェスチュアを
示す図である。
【図18】手書きのリスト上の操作及びジェスチュアを
示す図である。
【図19】手書きのリスト上の操作及びジェスチュアを
示す図である。
【図20】手書きのリスト上の操作及びジェスチュアを
示す図である。
【図21】手書きのリスト上の操作及びジェスチュアを
示す図である。
【図22】手書きのアウトライン上の操作及びジェスチ
ュアを示す図である。
【図23】手書きのアウトライン上の操作及びジェスチ
ュアを示す図である。
【図24】手書きのアウトライン上の操作及びジェスチ
ュアを示す図である。
【図25】手書きのアウトライン上の操作及びジェスチ
ュアを示す図である。
【図26】手書きのアウトライン上の操作及びジェスチ
ュアを示す図である。
【図27】手書きのアウトライン上の操作及びジェスチ
ュアを示す図である。
【図28】手書きのテキスト上の操作及びジェスチュア
を示す図である。
【図29】手書きのテキスト上の操作及びジェスチュア
を示す図である。
【図30】手書きのテキスト上の操作及びジェスチュア
を示す図である。
【図31】手書きのテキスト上の操作及びジェスチュア
を示す図である。
【図32】手書きのテキスト上の操作及びジェスチュア
を示す図である。
【図33】手書きのテキスト上の操作及びジェスチュア
を示す図である。
【図34】手書きのテキスト上の操作及びジェスチュア
を示す図である。
【図35】手書きのテキスト上の操作及びジェスチュア
を示す図である。
【図36】手書きのテキスト上の操作及びジェスチュア
を示す図である。
【図37】手書きのテキスト上の操作及びジェスチュア
を示す図である。
【図38】手書きの表の操作及びジェスチュアを示す図
である。
【図39】手書きの表の操作及びジェスチュアを示す図
である。
【図40】手書きの表の操作及びジェスチュアを示す図
である。
【図41】手書きの表の操作及びジェスチュアを示す図
である。
【図42】手書きの表の操作及びジェスチュアを示す図
である。
【図43】手書きの表の操作及びジェスチュアを示す図
である。
【図44】手書きの表の操作及びジェスチュアを示す図
である。
【図45】手書きの表の操作及びジェスチュアを示す図
である。
【図46】境界線のある操作及びジェスチュアを示す図
である。
【図47】境界線のある操作及びジェスチュアを示す図
である。
【図48】境界線のある操作及びジェスチュアを示す図
である。
【図49】境界線のある操作及びジェスチュアを示す図
である。
【図50】境界線のある操作及びジェスチュアを示す図
である。
【図51】境界線のある操作及びジェスチュアを示す図
である。
【図52】境界線のある操作及びジェスチュアを示す図
である。
【図53】境界線のある操作及びジェスチュアを示す図
である。
【図54】境界線のある操作及びジェスチュアを示す図
である。
【図55】(a)〜(h)は、手書きの線図のためのノ
ード・リンク組織的操作及びジェスチュアを示す図であ
る。
【図56】完全に組織化されたデータの操作を示す図で
ある。
【図57】混合された構造及び自由形態のコマンドに関
する操作を示す図である。
【図58】混合された構造及び自由形態のコマンドに関
する操作を示す図である。
【図59】表に関する整列操作を示す図である。
【図60】表に関する整列操作を示す図である。
【図61】(a)〜(h)は、自由形態のテキストに関
する操作及びその行為を示す図である。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 パトリック チウ アメリカ合衆国 カリフォルニア州 94025 メンロ パーク ユニバーシティ ー ドライヴ 564 ナンバー 3 (72)発明者 ウィリアム ヴァン メレ アメリカ合衆国 カリフォルニア州 94022 ロス アルトス ディステル ド ライヴ 651

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】 情報データのエントリーのためのスクリ
    ーン指向ディスプレー処理システムであって、 ディスプレー手段を有し、 前記ディスプレー手段上に情報データを入力するための
    データエントリー手段を有し、 前記ディスプレー上にジェスチュア的データを入力する
    ためのジェスチュア入力手段を有し、該ジェスチュア的
    データは前記情報データの少なくとも一部に関連するコ
    マンドを前記ディスプレー上に表示し、 前記ジェスチュアを表示する操作を前記情報データの前
    記一部に割り当てるため、前記ジェスチュアのエントリ
    ーに応答する割当手段を有し、該割当手段は前記操作に
    従って、前記情報をリスト、表、線図及びアウトライン
    として選択的に定義する手段を含み、及び前記情報デー
    タの前記一部に関して前記操作を実施するため前記割当
    手段に応答する実施手段を有することを含むスクリーン
    指向ディスプレー処理システム。
JP32056994A 1993-12-30 1994-12-22 スクリーン指向ディスプレー処理システム Pending JPH086707A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US17615093A 1993-12-30 1993-12-30
US176150 1993-12-30

Publications (1)

Publication Number Publication Date
JPH086707A true JPH086707A (ja) 1996-01-12

Family

ID=22643195

Family Applications (1)

Application Number Title Priority Date Filing Date
JP32056994A Pending JPH086707A (ja) 1993-12-30 1994-12-22 スクリーン指向ディスプレー処理システム

Country Status (5)

Country Link
US (1) US6525749B1 (ja)
EP (1) EP0667567B1 (ja)
JP (1) JPH086707A (ja)
CA (1) CA2139256C (ja)
DE (1) DE69428675T2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11316642A (ja) * 1998-01-12 1999-11-16 Xerox Corp フリ―フォ―ムグラフィックスシステムで使用するためのドメインオブジェクト
JP2004206701A (ja) * 2002-12-24 2004-07-22 Fuji Xerox Co Ltd 自由形状ペースト処理システム、方法及びプログラム
JP2010122987A (ja) * 2008-11-20 2010-06-03 Canon Inc オブジェクト処理装置、その処理方法及びプログラム
JP2011209932A (ja) * 2010-03-29 2011-10-20 Ntt Docomo Inc 携帯端末及び携帯端末における文字列表現変更方法
JP2012181881A (ja) * 2012-06-28 2012-09-20 Ntt Docomo Inc 携帯端末及び携帯端末における文字列表現変更方法
JP2012208963A (ja) * 2012-08-02 2012-10-25 Canon Inc 情報処理装置、情報処理装置の制御方法及びプログラム
US8665222B2 (en) 2003-01-30 2014-03-04 Fujitsu Limited Handwriting-input device and method

Families Citing this family (266)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8352400B2 (en) 1991-12-23 2013-01-08 Hoffberg Steven M Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore
US5778401A (en) * 1995-10-31 1998-07-07 International Business Machines Corporation Insertion bar
US5784061A (en) * 1996-06-26 1998-07-21 Xerox Corporation Method and apparatus for collapsing and expanding selected regions on a work space of a computer controlled display system
US5914718A (en) * 1996-06-26 1999-06-22 Xerox Corporation Method and apparatus for organizing a work space for a computer controlled display system using borders and regions
US5923323A (en) * 1996-06-26 1999-07-13 Xerox Corporation Method and apparatus for organizing and displaying long lists of data items on a work space of a computer controlled display system
US5861886A (en) * 1996-06-26 1999-01-19 Xerox Corporation Method and apparatus for grouping graphic objects on a computer based system having a graphical user interface
US5889888A (en) 1996-12-05 1999-03-30 3Com Corporation Method and apparatus for immediate response handwriting recognition system that handles multiple character sets
KR19990011180A (ko) * 1997-07-22 1999-02-18 구자홍 화상인식을 이용한 메뉴 선택 방법
US6377288B1 (en) * 1998-01-12 2002-04-23 Xerox Corporation Domain objects having computed attribute values for use in a freeform graphics system
US6018346A (en) * 1998-01-12 2000-01-25 Xerox Corporation Freeform graphics system having meeting objects for supporting meeting objectives
US9292111B2 (en) * 1998-01-26 2016-03-22 Apple Inc. Gesturing with a multipoint sensing device
US7760187B2 (en) * 2004-07-30 2010-07-20 Apple Inc. Visual expander
US9239673B2 (en) 1998-01-26 2016-01-19 Apple Inc. Gesturing with a multipoint sensing device
US7808479B1 (en) 2003-09-02 2010-10-05 Apple Inc. Ambidextrous mouse
US7663607B2 (en) 2004-05-06 2010-02-16 Apple Inc. Multipoint touchscreen
US20060033724A1 (en) * 2004-07-30 2006-02-16 Apple Computer, Inc. Virtual input device placement on a touch screen user interface
KR100595912B1 (ko) * 1998-01-26 2006-07-07 웨인 웨스터만 수동 입력 통합 방법 및 장치
US7614008B2 (en) * 2004-07-30 2009-11-03 Apple Inc. Operation of a computer with touch screen interface
US7844914B2 (en) * 2004-07-30 2010-11-30 Apple Inc. Activating virtual keys of a touch-screen virtual keyboard
US8479122B2 (en) * 2004-07-30 2013-07-02 Apple Inc. Gestures for touch sensitive input devices
EP0965907A3 (en) 1998-06-15 2000-12-20 Xerox Corporation A method and system for creating ad-hoc links from handwritten annotations
US6429846B2 (en) * 1998-06-23 2002-08-06 Immersion Corporation Haptic feedback for touchpads and other touch controls
US20020018051A1 (en) * 1998-09-15 2002-02-14 Mona Singh Apparatus and method for moving objects on a touchscreen display
US7904187B2 (en) 1999-02-01 2011-03-08 Hoffberg Steven M Internet appliance system and method
AUPQ291299A0 (en) * 1999-09-17 1999-10-07 Silverbrook Research Pty Ltd A self mapping surface and related applications
AUPQ439299A0 (en) * 1999-12-01 1999-12-23 Silverbrook Research Pty Ltd Interface system
US6822635B2 (en) * 2000-01-19 2004-11-23 Immersion Corporation Haptic interface for laptop computers and other portable devices
US7576730B2 (en) 2000-04-14 2009-08-18 Picsel (Research) Limited User interface systems and methods for viewing and manipulating digital documents
US7009626B2 (en) * 2000-04-14 2006-03-07 Picsel Technologies Limited Systems and methods for generating visual representations of graphical data and digital document processing
US7055095B1 (en) 2000-04-14 2006-05-30 Picsel Research Limited Systems and methods for digital document processing
GB2365189A (en) * 2000-07-26 2002-02-13 Canon Kk Voice-controlled machine
GB2365145A (en) * 2000-07-26 2002-02-13 Canon Kk Voice control of a machine
US7102628B2 (en) * 2000-10-06 2006-09-05 International Business Machines Corporation Data steering flip pen system
JP5039911B2 (ja) * 2000-10-11 2012-10-03 インターナショナル・ビジネス・マシーンズ・コーポレーション データ処理装置、入出力装置、タッチパネルの制御方法、記憶媒体及びプログラム伝送装置
US6903730B2 (en) * 2000-11-10 2005-06-07 Microsoft Corporation In-air gestures for electromagnetic coordinate digitizers
US6941507B2 (en) 2000-11-10 2005-09-06 Microsoft Corporation Insertion point bungee space tool
US7272788B2 (en) * 2000-12-29 2007-09-18 Fotomedia Technologies, Llc Client-server system for merging of metadata with images
US7030861B1 (en) * 2001-02-10 2006-04-18 Wayne Carl Westerman System and method for packing multi-touch gestures onto a hand
US20040034801A1 (en) * 2001-02-15 2004-02-19 Denny Jaeger Method for creating and using computer passwords
US20070083823A1 (en) * 2001-02-15 2007-04-12 Denny Jaeger Scroll bar for computer display
US6883145B2 (en) * 2001-02-15 2005-04-19 Denny Jaeger Arrow logic system for creating and operating control systems
US7240300B2 (en) * 2001-02-15 2007-07-03 Nbor Corporation Method for creating user-defined computer operations using arrows
US6658147B2 (en) * 2001-04-16 2003-12-02 Parascript Llc Reshaping freehand drawn lines and shapes in an electronic document
US6690364B1 (en) * 2001-05-31 2004-02-10 Palm Source, Inc. Method and system for on screen text correction via pen interface
US7246321B2 (en) * 2001-07-13 2007-07-17 Anoto Ab Editing data
US7136082B2 (en) * 2002-01-25 2006-11-14 Xerox Corporation Method and apparatus to convert digital ink images for use in a structured text/graphics editor
US7028256B2 (en) * 2002-05-10 2006-04-11 Microsoft Corporation Adding white space to a document generating adjusted page sizing
US20030226113A1 (en) * 2002-05-31 2003-12-04 Microsoft Corporation Automatic page size setting
US11275405B2 (en) * 2005-03-04 2022-03-15 Apple Inc. Multi-functional hand-held device
US7656393B2 (en) 2005-03-04 2010-02-02 Apple Inc. Electronic device having display and surrounding touch sensitive bezel for user interface and control
US7137077B2 (en) * 2002-07-30 2006-11-14 Microsoft Corporation Freeform encounter selection tool
EP1387291A3 (en) * 2002-07-30 2005-10-19 Canon Kabushiki Kaisha Apparatus, method, recording medium and program for form processing
US7065718B2 (en) 2002-08-08 2006-06-20 International Business Machines Corporation System and method for configuring time related settings using a graphical interface
US7089507B2 (en) 2002-08-12 2006-08-08 International Business Machines Corporation System and method for display views using a single stroke control
US7221376B2 (en) * 2002-08-15 2007-05-22 Microsoft Corporation Space tool feedback by changing the displayed visual appearance of objects to be moved before deletion of displayed objects occurs
US7406666B2 (en) * 2002-08-26 2008-07-29 Palm, Inc. User-interface features for computers with contact-sensitive displays
US20060188162A1 (en) * 2002-10-31 2006-08-24 Microsoft Corporation Common interface for ink trees
US20040090439A1 (en) * 2002-11-07 2004-05-13 Holger Dillner Recognition and interpretation of graphical and diagrammatic representations
AU2003297716A1 (en) * 2002-12-08 2004-06-30 Immersion Corporation Methods and systems for providing haptic messaging to handheld communication devices
US8059088B2 (en) * 2002-12-08 2011-11-15 Immersion Corporation Methods and systems for providing haptic messaging to handheld communication devices
US20060136630A1 (en) * 2002-12-08 2006-06-22 Immersion Corporation, A Delaware Corporation Methods and systems for providing haptic messaging to handheld communication devices
US7554530B2 (en) * 2002-12-23 2009-06-30 Nokia Corporation Touch screen user interface featuring stroke-based object selection and functional object activation
BR0306577A (pt) 2003-08-21 2005-06-07 Microsoft Corp Processamento de tinta eletrônica
BR0306696A (pt) * 2003-08-21 2005-05-24 Microsoft Corp Processamento de tinta eletrônica
US7324691B2 (en) * 2003-09-24 2008-01-29 Microsoft Corporation System and method for shape recognition of hand-drawn objects
US7295708B2 (en) * 2003-09-24 2007-11-13 Microsoft Corporation System and method for detecting a list in ink input
US7352902B2 (en) * 2003-09-24 2008-04-01 Microsoft Corporation System and method for detecting a hand-drawn object in ink input
US20050068312A1 (en) * 2003-09-26 2005-03-31 Denny Jaeger Method for programming a graphic control device with numeric and textual characters
US7707039B2 (en) 2004-02-15 2010-04-27 Exbiblio B.V. Automatic modification of web pages
US8442331B2 (en) 2004-02-15 2013-05-14 Google Inc. Capturing text from rendered documents using supplemental information
US20060122983A1 (en) * 2004-12-03 2006-06-08 King Martin T Locating electronic instances of documents based on rendered instances, document fragment digest generation, and digest based document fragment determination
US20060041484A1 (en) * 2004-04-01 2006-02-23 King Martin T Methods and systems for initiating application processes by data capture from rendered documents
US20060053097A1 (en) * 2004-04-01 2006-03-09 King Martin T Searching and accessing documents on private networks for use with captures from rendered documents
US20060041605A1 (en) * 2004-04-01 2006-02-23 King Martin T Determining actions involving captured information and electronic content associated with rendered documents
US10635723B2 (en) 2004-02-15 2020-04-28 Google Llc Search engines and systems with handheld document data capture devices
US7812860B2 (en) * 2004-04-01 2010-10-12 Exbiblio B.V. Handheld device for capturing text from both a document printed on paper and a document displayed on a dynamic display device
US7161598B2 (en) * 2004-02-26 2007-01-09 Research In Motion Limited Method of rendering text on an output device
US7894670B2 (en) 2004-04-01 2011-02-22 Exbiblio B.V. Triggering actions in response to optically or acoustically capturing keywords from a rendered document
US20070300142A1 (en) * 2005-04-01 2007-12-27 King Martin T Contextual dynamic advertising based upon captured rendered text
US9008447B2 (en) 2004-04-01 2015-04-14 Google Inc. Method and system for character recognition
US20080313172A1 (en) * 2004-12-03 2008-12-18 King Martin T Determining actions involving captured information and electronic content associated with rendered documents
US9116890B2 (en) 2004-04-01 2015-08-25 Google Inc. Triggering actions in response to optically or acoustically capturing keywords from a rendered document
US9143638B2 (en) 2004-04-01 2015-09-22 Google Inc. Data capture from rendered documents using handheld device
US20060098900A1 (en) * 2004-09-27 2006-05-11 King Martin T Secure data gathering from rendered documents
US7990556B2 (en) * 2004-12-03 2011-08-02 Google Inc. Association of a portable scanner with input/output and storage devices
US20060081714A1 (en) 2004-08-23 2006-04-20 King Martin T Portable scanning device
WO2008028674A2 (en) 2006-09-08 2008-03-13 Exbiblio B.V. Optical scanners, such as hand-held optical scanners
US8146156B2 (en) 2004-04-01 2012-03-27 Google Inc. Archive of text captures from rendered documents
US8081849B2 (en) * 2004-12-03 2011-12-20 Google Inc. Portable scanning and memory device
US8713418B2 (en) * 2004-04-12 2014-04-29 Google Inc. Adding value to a rendered document
US8489624B2 (en) * 2004-05-17 2013-07-16 Google, Inc. Processing techniques for text capture from a rendered document
US8620083B2 (en) 2004-12-03 2013-12-31 Google Inc. Method and system for character recognition
US8874504B2 (en) 2004-12-03 2014-10-28 Google Inc. Processing techniques for visual capture data from a rendered document
US7788606B2 (en) * 2004-06-14 2010-08-31 Sas Institute Inc. Computer-implemented system and method for defining graphics primitives
US20060001656A1 (en) * 2004-07-02 2006-01-05 Laviola Joseph J Jr Electronic ink system
US8346620B2 (en) 2004-07-19 2013-01-01 Google Inc. Automatic modification of web pages
US7653883B2 (en) 2004-07-30 2010-01-26 Apple Inc. Proximity detector in handheld device
US8381135B2 (en) 2004-07-30 2013-02-19 Apple Inc. Proximity detector in handheld device
ATE553429T1 (de) 2004-08-16 2012-04-15 Apple Inc Verfahren zur erhöhung der räumlichen auflösung von berührungsempfindlichen vorrichtungen
US7503015B2 (en) * 2004-09-21 2009-03-10 Microsoft Corporation System and method for editing ink objects
US7440616B2 (en) * 2004-09-21 2008-10-21 Microsoft Corporation System and method for recognition of a hand-drawn chart in ink input
US7904810B2 (en) * 2004-09-21 2011-03-08 Microsoft Corporation System and method for editing a hand-drawn list in ink input
US7394935B2 (en) * 2004-09-21 2008-07-01 Microsoft Corporation System and method for editing a hand-drawn chart in ink input
US7412094B2 (en) * 2004-09-21 2008-08-12 Microsoft Corporation System and method for editing a hand-drawn table in ink input
US7400771B2 (en) * 2004-09-21 2008-07-15 Microsoft Corporation System and method for connected container recognition of a hand-drawn chart in ink input
US7409088B2 (en) * 2004-09-21 2008-08-05 Microsoft Corporation System and method for connectivity-based recognition of a hand-drawn chart in ink input
US7394936B2 (en) * 2004-09-21 2008-07-01 Microsoft Corporation System and method for curve recognition in a hand-drawn chart in ink input
US7506245B2 (en) * 2004-09-27 2009-03-17 Nbor Corporation Method for performing a load-on-demand operation on assigned graphic objects in a computer operating environment
US8169410B2 (en) * 2004-10-20 2012-05-01 Nintendo Co., Ltd. Gesture inputs for a portable display device
US7583819B2 (en) * 2004-11-05 2009-09-01 Kyprianos Papademetriou Digital signal processing methods, systems and computer program products that identify threshold positions and values
KR101604565B1 (ko) * 2005-03-04 2016-03-17 애플 인크. 다기능 휴대용 장치
US20060267967A1 (en) * 2005-05-24 2006-11-30 Microsoft Corporation Phrasing extensions and multiple modes in one spring-loaded control
KR100703331B1 (ko) * 2005-06-01 2007-04-03 삼성전자주식회사 문자 입력에 대해 비주얼 효과를 부여하는 문자 입력 방법및 이를 위한 이동 단말기
US7294089B2 (en) * 2005-08-15 2007-11-13 Ford Global Technologies, Llc Multiple-speed automatic transmission
US7636794B2 (en) * 2005-10-31 2009-12-22 Microsoft Corporation Distributed sensing techniques for mobile devices
US8643605B2 (en) * 2005-11-21 2014-02-04 Core Wireless Licensing S.A.R.L Gesture based document editor
US8018440B2 (en) 2005-12-30 2011-09-13 Microsoft Corporation Unintentional touch rejection
US7817991B2 (en) * 2006-02-14 2010-10-19 Microsoft Corporation Dynamic interconnection of mobile devices
US20070188473A1 (en) * 2006-02-14 2007-08-16 Picsel Research Limited System and methods for document navigation
US7511702B2 (en) * 2006-03-30 2009-03-31 Apple Inc. Force and location sensitive display
US7538760B2 (en) 2006-03-30 2009-05-26 Apple Inc. Force imaging input device and system
KR101269375B1 (ko) * 2006-05-24 2013-05-29 엘지전자 주식회사 터치스크린 장치 및 이의 이미지 표시방법
KR20070113022A (ko) * 2006-05-24 2007-11-28 엘지전자 주식회사 사용자 입력에 반응하는 터치스크린 장치 및 이의 작동방법
US20090213086A1 (en) * 2006-04-19 2009-08-27 Ji Suk Chae Touch screen device and operating method thereof
KR20070113025A (ko) * 2006-05-24 2007-11-28 엘지전자 주식회사 터치스크린 장치 및 이의 작동방법
TWI328185B (en) * 2006-04-19 2010-08-01 Lg Electronics Inc Touch screen device for potable terminal and method of displaying and selecting menus thereon
KR20070113018A (ko) * 2006-05-24 2007-11-28 엘지전자 주식회사 터치스크린 장치 및 그 실행방법
KR101327581B1 (ko) * 2006-05-24 2013-11-12 엘지전자 주식회사 터치스크린 장치 및 이의 작동방법
US7978181B2 (en) * 2006-04-25 2011-07-12 Apple Inc. Keystroke tactility arrangement on a smooth touch surface
US8279180B2 (en) * 2006-05-02 2012-10-02 Apple Inc. Multipoint touch surface controller
TW200805131A (en) * 2006-05-24 2008-01-16 Lg Electronics Inc Touch screen device and method of selecting files thereon
US8243027B2 (en) * 2006-06-09 2012-08-14 Apple Inc. Touch screen liquid crystal display
KR101295943B1 (ko) 2006-06-09 2013-08-13 애플 인크. 터치 스크린 액정 디스플레이
CN104965621B (zh) 2006-06-09 2018-06-12 苹果公司 触摸屏液晶显示器及其操作方法
US7934156B2 (en) * 2006-09-06 2011-04-26 Apple Inc. Deletion gestures on a portable multifunction device
US8570278B2 (en) 2006-10-26 2013-10-29 Apple Inc. Portable multifunction device, method, and graphical user interface for adjusting an insertion point marker
US7856605B2 (en) 2006-10-26 2010-12-21 Apple Inc. Method, system, and graphical user interface for positioning an insertion marker in a touch screen display
US8493330B2 (en) * 2007-01-03 2013-07-23 Apple Inc. Individual channel phase delay scheme
US9710095B2 (en) 2007-01-05 2017-07-18 Apple Inc. Touch screen stack-ups
US7877707B2 (en) 2007-01-06 2011-01-25 Apple Inc. Detecting and interpreting real-world and security gestures on touch and hover sensitive devices
US9817436B2 (en) * 2007-01-07 2017-11-14 Apple Inc. Portable multifunction device, method, and graphical user interface for displaying user interface objects adaptively
US8091045B2 (en) * 2007-01-07 2012-01-03 Apple Inc. System and method for managing lists
JP5196384B2 (ja) * 2007-03-15 2013-05-15 矢崎総業株式会社 炭素及び非炭素化合物の組織化されたアセンブリを含むキャパシタ
US8065603B2 (en) 2007-04-30 2011-11-22 Google Inc. Hiding portions of display content
US8370755B2 (en) * 2007-12-27 2013-02-05 Core Wireless Licensing S.A.R.L. User interface controlled by environmental cues
US8201109B2 (en) * 2008-03-04 2012-06-12 Apple Inc. Methods and graphical user interfaces for editing on a portable multifunction device
US8650507B2 (en) 2008-03-04 2014-02-11 Apple Inc. Selecting of text using gestures
WO2009114009A1 (en) * 2008-03-11 2009-09-17 Hewlett-Packard Development Company, L.P. Systems and methods of processing touchpad input
US9058067B2 (en) * 2008-04-03 2015-06-16 Livescribe Digital bookclip
US8115745B2 (en) 2008-06-19 2012-02-14 Tactile Displays, Llc Apparatus and method for interactive display with tactile feedback
US8217908B2 (en) 2008-06-19 2012-07-10 Tactile Displays, Llc Apparatus and method for interactive display with tactile feedback
US9513705B2 (en) 2008-06-19 2016-12-06 Tactile Displays, Llc Interactive display with tactile feedback
US8665228B2 (en) 2008-06-19 2014-03-04 Tactile Displays, Llc Energy efficient interactive display with energy regenerative keyboard
US8826174B2 (en) 2008-06-27 2014-09-02 Microsoft Corporation Using visual landmarks to organize diagrams
WO2010071630A1 (en) * 2008-12-15 2010-06-24 Hewlett-Packard Development Company, L.P. Gesture based edit mode
US8319736B2 (en) * 2009-01-19 2012-11-27 Microsoft Corporation Touch sensitive computing device and method
US9069398B1 (en) * 2009-01-30 2015-06-30 Cellco Partnership Electronic device having a touch panel display and a method for operating the same
CN105930311B (zh) 2009-02-18 2018-10-09 谷歌有限责任公司 执行与再现文档关联的动作的方法、移动设备和可读介质
WO2010105245A2 (en) 2009-03-12 2010-09-16 Exbiblio B.V. Automatically providing content associated with captured information, such as information captured in real-time
US8447066B2 (en) 2009-03-12 2013-05-21 Google Inc. Performing actions based on capturing information from rendered documents, such as documents under copyright
US8370736B2 (en) 2009-03-16 2013-02-05 Apple Inc. Methods and graphical user interfaces for editing on a multifunction device with a touch screen display
US9250788B2 (en) * 2009-03-18 2016-02-02 IdentifyMine, Inc. Gesture handlers of a gesture engine
US20100281435A1 (en) * 2009-04-30 2010-11-04 At&T Intellectual Property I, L.P. System and method for multimodal interaction using robust gesture processing
US8836648B2 (en) * 2009-05-27 2014-09-16 Microsoft Corporation Touch pull-in gesture
US8654524B2 (en) 2009-08-17 2014-02-18 Apple Inc. Housing as an I/O device
US9081799B2 (en) 2009-12-04 2015-07-14 Google Inc. Using gestalt information to identify locations in printed information
US9323784B2 (en) 2009-12-09 2016-04-26 Google Inc. Image search using text-based elements within the contents of images
CN102103593B (zh) * 2009-12-18 2012-10-31 北大方正集团有限公司 一种文字的笔画拆分排版方法及系统
US9207765B2 (en) * 2009-12-31 2015-12-08 Microsoft Technology Licensing, Llc Recognizing interactive media input
US8786559B2 (en) * 2010-01-06 2014-07-22 Apple Inc. Device, method, and graphical user interface for manipulating tables using multi-contact gestures
US8239785B2 (en) * 2010-01-27 2012-08-07 Microsoft Corporation Edge gestures
US20110185320A1 (en) * 2010-01-28 2011-07-28 Microsoft Corporation Cross-reference Gestures
US8261213B2 (en) 2010-01-28 2012-09-04 Microsoft Corporation Brush, carbon-copy, and fill gestures
US9411504B2 (en) * 2010-01-28 2016-08-09 Microsoft Technology Licensing, Llc Copy and staple gestures
US20110185299A1 (en) * 2010-01-28 2011-07-28 Microsoft Corporation Stamp Gestures
US20110191719A1 (en) * 2010-02-04 2011-08-04 Microsoft Corporation Cut, Punch-Out, and Rip Gestures
US20110191704A1 (en) * 2010-02-04 2011-08-04 Microsoft Corporation Contextual multiplexing gestures
US9519356B2 (en) * 2010-02-04 2016-12-13 Microsoft Technology Licensing, Llc Link gestures
US9310994B2 (en) 2010-02-19 2016-04-12 Microsoft Technology Licensing, Llc Use of bezel as an input mechanism
US9274682B2 (en) * 2010-02-19 2016-03-01 Microsoft Technology Licensing, Llc Off-screen gestures to create on-screen input
US9367205B2 (en) * 2010-02-19 2016-06-14 Microsoft Technolgoy Licensing, Llc Radial menus with bezel gestures
US8799827B2 (en) * 2010-02-19 2014-08-05 Microsoft Corporation Page manipulations using on and off-screen gestures
US9965165B2 (en) * 2010-02-19 2018-05-08 Microsoft Technology Licensing, Llc Multi-finger gestures
US8707174B2 (en) * 2010-02-25 2014-04-22 Microsoft Corporation Multi-screen hold and page-flip gesture
US20110209101A1 (en) * 2010-02-25 2011-08-25 Hinckley Kenneth P Multi-screen pinch-to-pocket gesture
US8539384B2 (en) 2010-02-25 2013-09-17 Microsoft Corporation Multi-screen pinch and expand gestures
US9454304B2 (en) 2010-02-25 2016-09-27 Microsoft Technology Licensing, Llc Multi-screen dual tap gesture
US8751970B2 (en) * 2010-02-25 2014-06-10 Microsoft Corporation Multi-screen synchronous slide gesture
US20110209058A1 (en) * 2010-02-25 2011-08-25 Microsoft Corporation Multi-screen hold and tap gesture
US20110209089A1 (en) * 2010-02-25 2011-08-25 Hinckley Kenneth P Multi-screen object-hold and page-change gesture
US8473870B2 (en) 2010-02-25 2013-06-25 Microsoft Corporation Multi-screen hold and drag gesture
US9075522B2 (en) * 2010-02-25 2015-07-07 Microsoft Technology Licensing, Llc Multi-screen bookmark hold gesture
US10719131B2 (en) 2010-04-05 2020-07-21 Tactile Displays, Llc Interactive display with tactile feedback
US20200393907A1 (en) 2010-04-13 2020-12-17 Tactile Displays, Llc Interactive display with tactile feedback
US8635555B2 (en) 2010-06-08 2014-01-21 Adobe Systems Incorporated Jump, checkmark, and strikethrough gestures
US20110304556A1 (en) * 2010-06-09 2011-12-15 Microsoft Corporation Activate, fill, and level gestures
US8370767B2 (en) 2010-06-22 2013-02-05 Microsoft Corporation List authoring surface
US8773370B2 (en) * 2010-07-13 2014-07-08 Apple Inc. Table editing systems with gesture-based insertion and deletion of columns and rows
US8887038B2 (en) * 2010-10-08 2014-11-11 Business Objects Software Limited Extrapolating tabular structure in a freeform document
US20120092269A1 (en) * 2010-10-15 2012-04-19 Hon Hai Precision Industry Co., Ltd. Computer-implemented method for manipulating onscreen data
US20120159395A1 (en) 2010-12-20 2012-06-21 Microsoft Corporation Application-launching interface for multiple modes
US8804056B2 (en) * 2010-12-22 2014-08-12 Apple Inc. Integrated touch screens
US8689123B2 (en) 2010-12-23 2014-04-01 Microsoft Corporation Application reporting in an application-selectable user interface
US8612874B2 (en) 2010-12-23 2013-12-17 Microsoft Corporation Presenting an application change through a tile
US9785335B2 (en) * 2010-12-27 2017-10-10 Sling Media Inc. Systems and methods for adaptive gesture recognition
US9223471B2 (en) 2010-12-28 2015-12-29 Microsoft Technology Licensing, Llc Touch screen control
JP5650564B2 (ja) * 2011-03-01 2015-01-07 株式会社ユビキタスエンターテインメント スプレッドシート制御プログラム、スプレッドシート制御装置及びスプレッドシートの制御方法
US8793624B2 (en) * 2011-05-18 2014-07-29 Google Inc. Control of a device using gestures
US9104307B2 (en) 2011-05-27 2015-08-11 Microsoft Technology Licensing, Llc Multi-application environment
US9658766B2 (en) 2011-05-27 2017-05-23 Microsoft Technology Licensing, Llc Edge gesture
US9158445B2 (en) 2011-05-27 2015-10-13 Microsoft Technology Licensing, Llc Managing an immersive interface in a multi-application immersive environment
US9104440B2 (en) 2011-05-27 2015-08-11 Microsoft Technology Licensing, Llc Multi-application environment
US8893033B2 (en) 2011-05-27 2014-11-18 Microsoft Corporation Application notifications
US9092130B2 (en) 2011-05-31 2015-07-28 Apple Inc. Devices, methods, and graphical user interfaces for document manipulation
US20130057587A1 (en) 2011-09-01 2013-03-07 Microsoft Corporation Arranging tiles
US9146670B2 (en) 2011-09-10 2015-09-29 Microsoft Technology Licensing, Llc Progressively indicating new content in an application-selectable user interface
US9612670B2 (en) 2011-09-12 2017-04-04 Microsoft Technology Licensing, Llc Explicit touch selection and cursor placement
US10192176B2 (en) 2011-10-11 2019-01-29 Microsoft Technology Licensing, Llc Motivation of task completion and personalization of tasks and lists
US9251144B2 (en) * 2011-10-19 2016-02-02 Microsoft Technology Licensing, Llc Translating language characters in media content
JP5862260B2 (ja) * 2011-12-09 2016-02-16 富士ゼロックス株式会社 情報処理装置及び情報処理プログラム
CN104067292B (zh) 2012-01-23 2017-05-03 微软技术许可有限责任公司 公式检测引擎
US20130201161A1 (en) * 2012-02-03 2013-08-08 John E. Dolan Methods, Systems and Apparatus for Digital-Marking-Surface Content-Unit Manipulation
US9400592B2 (en) 2012-03-26 2016-07-26 Sharp Laboratories Of America, Inc. Methods, systems and apparatus for digital-marking-surface space and display management
US9323443B2 (en) * 2012-05-02 2016-04-26 International Business Machines Corporation Drilling of displayed content in a touch screen device
US9229539B2 (en) * 2012-06-07 2016-01-05 Microsoft Technology Licensing, Llc Information triage using screen-contacting gestures
CN102768617B (zh) * 2012-06-29 2016-12-28 惠州Tcl移动通信有限公司 手持式电子设备及基于触摸屏的列表项编辑的方法
CN102799367B (zh) * 2012-06-29 2015-05-13 鸿富锦精密工业(深圳)有限公司 电子设备及其触摸控制方法
US20140002377A1 (en) * 2012-07-02 2014-01-02 Microsoft Corporation Manipulating content on a canvas with touch gestures
US9557846B2 (en) 2012-10-04 2017-01-31 Corning Incorporated Pressure-sensing touch system utilizing optical and capacitive systems
US9582122B2 (en) 2012-11-12 2017-02-28 Microsoft Technology Licensing, Llc Touch-sensitive bezel techniques
KR20140068595A (ko) * 2012-11-28 2014-06-09 삼성디스플레이 주식회사 단말기 및 그의 조작 방법
TW201426511A (zh) * 2012-12-27 2014-07-01 Au Optronics Corp 顯示器系統及其控制方法
KR102004884B1 (ko) * 2013-01-07 2019-07-29 삼성전자주식회사 전자 장치에서 움직이는 사진 제어 장치 및 방법
US9047268B2 (en) 2013-01-31 2015-06-02 Google Inc. Character and word level language models for out-of-vocabulary text input
US9454240B2 (en) 2013-02-05 2016-09-27 Google Inc. Gesture keyboard input of non-dictionary character strings
US9330070B2 (en) * 2013-03-11 2016-05-03 Microsoft Technology Licensing, Llc Detection and reconstruction of east asian layout features in a fixed format document
KR101337872B1 (ko) * 2013-04-04 2013-12-06 주식회사 디오텍 잉크 텍스트 데이터 편집장치 및 잉크 텍스트 데이터 편집방법
US8756499B1 (en) * 2013-04-29 2014-06-17 Google Inc. Gesture keyboard input of non-dictionary character strings using substitute scoring
KR20140139247A (ko) * 2013-05-27 2014-12-05 삼성전자주식회사 오브젝트 운용 방법 및 그 전자 장치
KR20150009199A (ko) * 2013-07-16 2015-01-26 삼성전자주식회사 객체 편집을 위한 전자 장치 및 방법
US9811238B2 (en) 2013-08-29 2017-11-07 Sharp Laboratories Of America, Inc. Methods and systems for interacting with a digital marking surface
US9977772B1 (en) * 2013-09-24 2018-05-22 Mehrdad Samadani Method and system for cellular text processor and display
US9507520B2 (en) 2013-12-16 2016-11-29 Microsoft Technology Licensing, Llc Touch-based reorganization of page element
US9477337B2 (en) 2014-03-14 2016-10-25 Microsoft Technology Licensing, Llc Conductive trace routing for display and bezel sensors
US10078411B2 (en) 2014-04-02 2018-09-18 Microsoft Technology Licensing, Llc Organization mode support mechanisms
US10318613B2 (en) 2015-08-25 2019-06-11 Myscript System and method of digital note taking
US10387034B2 (en) * 2015-09-03 2019-08-20 Microsoft Technology Licensing, Llc Modifying captured stroke information into an actionable form
US10210383B2 (en) 2015-09-03 2019-02-19 Microsoft Technology Licensing, Llc Interacting with an assistant component based on captured stroke information
US10643067B2 (en) 2015-10-19 2020-05-05 Myscript System and method of handwriting recognition in diagrams
US10417491B2 (en) 2015-10-19 2019-09-17 Myscript System and method for recognition of handwritten diagram connectors
US11500535B2 (en) 2015-10-29 2022-11-15 Lenovo (Singapore) Pte. Ltd. Two stroke quick input selection
US11275499B2 (en) * 2016-06-10 2022-03-15 Apple Inc. Device, method, and graphical user interface for changing a number of columns of an application region
US10637986B2 (en) 2016-06-10 2020-04-28 Apple Inc. Displaying and updating a set of application views
WO2018109084A1 (en) 2016-12-15 2018-06-21 Myscript System and method for management of handwritten diagram connectors
US10613748B2 (en) * 2017-10-03 2020-04-07 Google Llc Stylus assist
US11131967B2 (en) 2019-05-06 2021-09-28 Apple Inc. Clock faces for an electronic device
EP3736677A1 (en) 2019-05-10 2020-11-11 MyScript A method and corresponding device for selecting and editing handwriting input elements
US11074408B2 (en) 2019-06-01 2021-07-27 Apple Inc. Mail application features
US11379113B2 (en) 2019-06-01 2022-07-05 Apple Inc. Techniques for selecting text
EP3754537A1 (en) 2019-06-20 2020-12-23 MyScript Processing text handwriting input in a free handwriting mode
EP3772015B1 (en) 2019-07-31 2023-11-08 MyScript Text line extraction
EP3796145A1 (en) 2019-09-19 2021-03-24 MyScript A method and correspond device for selecting graphical objects
US11257396B2 (en) * 2020-03-18 2022-02-22 Sas Institute Inc. User interfaces for converting geospatial data into audio outputs
US11822896B2 (en) 2020-07-08 2023-11-21 International Business Machines Corporation Contextual diagram-text alignment through machine learning
US20230315271A1 (en) * 2022-03-18 2023-10-05 Sony Group Corporation Collaborative whiteboard for meetings
US11460973B1 (en) 2022-04-11 2022-10-04 Sas Institute Inc:. User interfaces for converting node-link data into audio outputs

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5181129A (en) * 1989-03-17 1993-01-19 Hitachi, Ltd. Electronic blackboard
US5347295A (en) * 1990-10-31 1994-09-13 Go Corporation Control of a computer through a position-sensed stylus
US5231698A (en) * 1991-03-20 1993-07-27 Forcier Mitchell D Script/binary-encoded-character processing method and system
US5220649A (en) * 1991-03-20 1993-06-15 Forcier Mitchell D Script/binary-encoded-character processing method and system with moving space insertion mode
CA2089784C (en) * 1992-04-15 1996-12-24 William Joseph Anderson Apparatus and method for disambiguating an input stream generated by a stylus-based user interface

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11316642A (ja) * 1998-01-12 1999-11-16 Xerox Corp フリ―フォ―ムグラフィックスシステムで使用するためのドメインオブジェクト
JP2004206701A (ja) * 2002-12-24 2004-07-22 Fuji Xerox Co Ltd 自由形状ペースト処理システム、方法及びプログラム
US8665222B2 (en) 2003-01-30 2014-03-04 Fujitsu Limited Handwriting-input device and method
JP2010122987A (ja) * 2008-11-20 2010-06-03 Canon Inc オブジェクト処理装置、その処理方法及びプログラム
JP2011209932A (ja) * 2010-03-29 2011-10-20 Ntt Docomo Inc 携帯端末及び携帯端末における文字列表現変更方法
JP2012181881A (ja) * 2012-06-28 2012-09-20 Ntt Docomo Inc 携帯端末及び携帯端末における文字列表現変更方法
JP2012208963A (ja) * 2012-08-02 2012-10-25 Canon Inc 情報処理装置、情報処理装置の制御方法及びプログラム

Also Published As

Publication number Publication date
EP0667567A3 (en) 1996-01-17
DE69428675D1 (de) 2001-11-22
EP0667567B1 (en) 2001-10-17
DE69428675T2 (de) 2002-05-08
CA2139256A1 (en) 1995-07-01
EP0667567A2 (en) 1995-08-16
CA2139256C (en) 2010-10-05
US6525749B1 (en) 2003-02-25

Similar Documents

Publication Publication Date Title
EP0667567B1 (en) Apparatus and method for supporting the implicit structure of freeform lists, outlines, text, tables, and diagrams in a gesture-based input system and editing system
US5880743A (en) Apparatus and method for implementing visual animation illustrating results of interactive editing operations
US6434581B1 (en) Script character processing method for interactively adjusting space between writing element
US6502114B1 (en) Script character processing method for determining word boundaries and interactively editing ink strokes using editing gestures
US6499043B1 (en) Script character processing method and system
US6891551B2 (en) Selection handles in editing electronic documents
US5471578A (en) Apparatus and method for altering enclosure selections in a gesture based input system
US5500935A (en) Apparatus and method for translating graphic objects and commands with direct touch input in a touch based input system
US5809267A (en) Apparatus and method for executing multiple-concatenated command gestures in a gesture based input system
US5347295A (en) Control of a computer through a position-sensed stylus
EP0597379B1 (en) Pen input processing apparatus
US7954054B2 (en) Insertion point bungee space tool
US5231698A (en) Script/binary-encoded-character processing method and system
US7322008B2 (en) Organizing, editing, and rendering digital ink
JP4637455B2 (ja) ユーザインタフェースの利用方法並びにコンピュータで使用可能な媒体を含む製品
US5572651A (en) Table-based user interface for retrieving and manipulating indices between data structures
US6952803B1 (en) Method and system for transcribing and editing using a structured freeform editor
JP3775076B2 (ja) 複数のグラフィック・オブジェクトの動的グループ化方法及びシステム
US7735007B2 (en) Adding and removing white space from a document
US5592608A (en) Interactively producing indices into image and gesture-based data using unrecognized graphical objects
JP5664164B2 (ja) 電子情報ボード装置、情報表示方法、プログラム
KR20160064925A (ko) 필기 입력 장치 및 그 제어 방법
JP2003308310A (ja) 表示方法、表示装置、表示プログラム、および表示プログラムを記録した記録媒体

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040518

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20040521

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20040702

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20070126

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20070131