JP2000137555A - 情報処理装置及び方法並びに記録媒体 - Google Patents

情報処理装置及び方法並びに記録媒体

Info

Publication number
JP2000137555A
JP2000137555A JP10312388A JP31238898A JP2000137555A JP 2000137555 A JP2000137555 A JP 2000137555A JP 10312388 A JP10312388 A JP 10312388A JP 31238898 A JP31238898 A JP 31238898A JP 2000137555 A JP2000137555 A JP 2000137555A
Authority
JP
Japan
Prior art keywords
input
handwritten
gesture
information
handwriting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP10312388A
Other languages
English (en)
Inventor
Shinichiro Taya
進一郎 田谷
Hiroshi Yamaguchi
宏 山口
Isao Murase
功 村瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP10312388A priority Critical patent/JP2000137555A/ja
Publication of JP2000137555A publication Critical patent/JP2000137555A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

(57)【要約】 【課題】 ユーザが好みのジェスチャについて任意かつ
自由に拡張できるようにする。 【解決手段】 ユーザの手書入力操作に伴う手書図形を
ポインティングデバイスで入力し、ポインティングデバ
イスに入力された手書図形をジェスチャ認識部でジェス
チャとして認識し、ユーザによって予め登録されたジェ
スチャとアクションとの対応関係をジェスチャコード対
応テーブルに保持し、ジェスチャコード対応テーブルを
参照してジェスチャ認識部で認識されたジェスチャに対
応するアクションを検索し、その検索された動作を実行
するように制御するものである。従って、本発明におい
ては、ユーザがジェスチャコード対応テーブルにジェス
チャとアクションとの対応関係を登録することにより、
ユーザが容易に拡張することができる。このように、本
発明は、個々のユーザが好みのジェスチャについて任意
かつ自由に拡張できるような柔軟性、拡張性を有するも
のである。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、情報を処理する情
報処理装置および方法ならびに情報処理プログラムが記
録されてなる記録媒体に関し、詳しくは手書図形情報に
よる入力を受け付ける情報処理装置および方法ならびに
手書図形情報による入力を受け付けるような情報処理プ
ログラムが記録されてなる記録媒体に関する。
【0002】
【従来の技術】近年、携帯型の電子機器が多く開発され
ており、中央処理装置(centoral processing unit;CP
U)を搭載した高度な電子機器が出現している。携帯型
の電子機器において、例えば携帯型のコンピュータは、
本体とその液晶表示装置等の表示部を備えている。この
ような携帯型のコンピュータとしては、例えば、表示装
置とキーボードを折り畳むことができるノート型コンピ
ュータや、入力にペンを用いるペンコンピュータが知ら
れている。
【0003】ペンコンピュータは、ペンとタブレットが
対となったペン入力装置を備え、タブレット上において
ペンによって指示された点の座標データや、タブレット
上においてペンによって描画された文字や手書図形等の
座標データ等が入力されるようになっているコンピュー
タである。このようなペン入力装置において、タブレッ
トは、通常、透明な部材によって形成され、コンピュー
タによって処理された結果が表示される液晶ディスプレ
イ等の表示装置上に配されている。すなわち、通常、ペ
ンコンピュータでは、表示装置に表示された情報を見な
がら、表示装置上においてペンによって点を指示した
り、手書文字や手書図形等を描画することにより、それ
らの点、手書文字又は手書図形等に対応した座標データ
等が入力されるようになっている。
【0004】このようなペンコンピュータにおいて、所
定の処理を指示するコマンドの入力方法として、ペンコ
ンピュータの特徴を生かした手書図形情報による入力、
いわゆるジェスチャ(gesture:身振り)入力が知られて
いる。
【0005】ジェスチャ入力とは、予め、校正記号等の
ような所定の記号を手書図形情報すなわちジェスチャと
して登録しておくとともに、それらのジェスチャに対応
したコマンドを登録しておき、ペンによってタブレット
上にジェスチャが描画されたときに、そのジェスチャに
対応したコマンドが入力されるようにする方法である。
【0006】このように、ジェスチャ入力では、コマン
ドとその処理対象とを少ない操作によって指定すること
ができるので、利用頻度の高いコマンドの入力にジェス
チャ入力を用いることにより、それらのコマンドを手早
く入力することが可能となり、作業効率が向上する。
【0007】このようなジェスチャ入力、すなわち手書
図形情報による入力については、特開昭60−7598
0号公報において、画面上に表示されている種々の図形
の中から編集対象の図形セグメントを選択するために、
前記図形セグメントの一部と交差する閉図形を、ペンに
よって手書で入力し、さらに編集種別を指定するための
編集コマンド図形を、同様に、ペンによって手書で入力
し、これら2種の手書入力図形を判別して、指定された
図形セグメントに、指定された種別の編集を施すように
構成した発明が開示されている。
【0008】また、ジェスチャ入力については、特開平
9−190280号公報において、コマンドの入力方法
として、所定の記号であるジェスチャを入力することに
よって入力するジェスチャ入力と、ジェスチャ入力以外
の入力方法によって入力する非ジェスチャ入力とを有す
るペン入力型情報処理装置が開示されている。このペン
入力型情報処理装置では、入力があったときに、入力が
ジェスチャ入力であるものか非ジェスチャ入力であるも
のかを判別し、非ジェスチャ入力のときには、その入力
に対応したジェスチャを表示装置に表示した上でコマン
ドを発行し、ジェスチャ入力のときには直ぐにコマンド
を実行する発明が開示されている。
【0009】
【発明が解決しようとする課題】ところで、上述した従
来のジェスチャ入力においては、表示画面上に設けられ
た透明なポインティングデバイスに対して例えばペンを
用いて入力していた。このため、従来のジェスチャ入力
を用いる装置は、高価なものとなっていた。
【0010】また、従来のジェスチャ入力は、装置の出
荷前に製造者側で予め登録設定された所定のジェスチャ
形状のみを認識するものであって、個々のユーザが好み
のジェスチャについて任意にかつ自由に拡張できるよう
な柔軟性、拡張性を有していなかった。
【0011】本発明は、上述の課題に鑑みて提案される
ものであって、ジェスチャ入力の際の負担を軽減し、ユ
ーザがジェスチャ入力について容易に拡張できるような
情報処理装置および方法ならびに記録媒体を提供するこ
とを目的とする。
【0012】
【課題を解決するための手段】上述の課題を解決するた
めに、本発明に係る情報処理装置は、ユーザの手書入力
操作に伴う手書図形を入力する手書図形入力手段と、上
記手書図形入力手段に入力された手書図形を手書図形情
報として認識する認識手段と、ユーザによって予め登録
された手書図形情報と動作との対応関係を保持する対応
表保持手段と、上記対応表保持手段に保持されている対
応表を参照して手書図形情報に対応する動作を検索する
検索手段と、上記認識手段で認識された手書図形情報に
対応する動作を上記検索手段で検索し、その検索された
動作を実行するように制御する制御手段と備えるもので
ある。
【0013】本発明に係る情報処理方法は、ユーザの手
書入力操作に伴う手書図形を手書入力する手書図形入力
ステップと、上記手書図形入力ステップにおいて手書入
力された手書図形を手書図形情報として認識する認識ス
テップと、ユーザによって予め登録された手書図形情報
に対応する動作を、手書図形情報と動作との対応関係を
保持する対応表保持手段を参照して検索する検索ステッ
プと、上記認識ステップで認識された手書図形情報に対
応する動作を上記検索ステップで検索し、その検索され
た動作を実行するように制御する制御ステップとを含む
ものである。
【0014】本発明に係る記録媒体は、情報が記録され
た記録媒体であって、ユーザの手書入力操作に伴う手書
図形を手書入力する手書図形入力ステップと、上記手書
図形入力ステップにおいて入力された手書図形を手書図
形情報として認識する認識ステップと、ユーザによって
予め登録された手書図形情報に対応する動作を、手書図
形情報と動作との対応関係を保持する対応表保持手段を
参照して検索する検索ステップと、上記認識ステップで
認識された手書図形情報に対応する動作を上記検索ステ
ップで検索し、その検索された動作を実行するように制
御する制御ステップとの各ステップからなる情報処理方
法のプログラムが記録されてなるものである。
【0015】
【発明の実施の形態】以下、本発明の好適な実施の形態
として、本発明に係る実施の形態として本発明を適用し
たノート型の携帯用コンピュータについて添付図面に基
づいて詳細に説明する。
【0016】このノート型の携帯用コンピュータは、マ
ウス、タブレット等のようにポインティングデバイスを
入力装置として有し、ポインティングデバイスによって
入力されたポイントの軌跡の図形を手書図形情報、いわ
ゆるジェスチャ(gesture:身振り)として認識し、そのポ
イントの軌跡に対応した何らかの動作(action)を実行
するものである。
【0017】なお、以下に述べる実施の形態は、本発明
の好適な具体例であるから、技術的に好ましい種々の限
定が付されているが、本発明の範囲は、以下の説明にお
いて特に本発明を限定する旨の記載がない限り、これら
の形態に限られるものではない。
【0018】まず、コンピュータにおいて、ジェスチャ
入力に対する処理を行う要部(以下ではジェスチャ処理
部という)について、図1を参照して説明する。なお、
この図1における構成は、コンピュータにおけるジェス
チャ入力の説明の便宜に供するために、機能的な部分を
も含めてその構成を示すものである。
【0019】ジェスチャ処理部は、手書図形をポイント
の軌跡として入力するポインティングデバイス110
と、ポインティングデバイス110にて検知されたポイ
ントの軌跡をジェスチャとして認識するジェスチャ認識
部120と、認識部120にて認識したジェスチャ情報
と対応したアクションをジェスチャコード対応テーブル
から検索して実行する出力部130とを有している。
【0020】ポインティングデバイス110は、例えば
表示装置に表示され入力操作に応じて移動される指標に
ついて、その指標の移動軌跡の図形を入力する手書図形
入力手段である。このポインティングデバイスとして
は、例えばタブレット、マウス、タッチパッド等の手書
図形情報を入力することができるような装置を利用する
ことができる。ポインティングデバイス110は、手書
き入力に応じてこの手書き入力による指標の移動軌跡と
してポイントの移動する軌跡111を、ジェスチャ認識
部120に出力する。なお、このポインティングデバイ
ス110は、必ずしも表示画面上に構成する必要はな
い。
【0021】ジェスチャ認識部120は、ポインティン
グデバイス110から入力されたポイントの軌跡をジェ
スチャとして認識し、ジェスチャコード化部121にて
符号化して出力する。すなわち、ジェスチャ認識部12
0は、ポインティング110から入力されたポイントの
軌跡の内でジェスチャとして有効な部分を取り出し、さ
らにこのジェスチャとして有効な軌跡について、ジェス
チャコード化部121にて所定の変換を施して符号化し
たジェスチャコード122,161を出力する。ポイン
ティングデバイス110から入力されるポイントの軌跡
は、補助入力部140からの入力や後述する特定の手書
図形の入力により有効なジェスチャに対応する図形であ
ると判別される。ジェスチャコード122,161と
は、ジェスチャ認識部120で有効なジェスチャとして
認識された手書図形についてその認識の結果を符号化し
たものである。具体的には、このジェスチャコード化部
121においては、ジェスチャ認識部120での認識動
作の少なくとも一部として、例えば手書入力の軌跡や回
数あるいは入力順序等の入力パターンに対する分析や解
析等の処理が行われ、このような分析あるいは解析処理
の結果として情報が得られる。この手書入力パターンの
分析結果情報としては、例えばその手書図形を特徴づけ
る特徴点、DCT係数、入力図形に対する方向パターン
などが挙げられ、このような分析結果情報をコード化す
ることによりジェスチャコード122,161が生成さ
れる。このジェスチャ認識部120は、例えば後述する
CPUにおける機能ブロックして実現される。
【0022】出力部130は、ジェスチャ判別部120
から送られたジェスチャコード122に対応するアクシ
ョンをジェスチャコード対応テーブル131にて検索
し、検索されたアクション170を出力する。出力部1
30は、例えば後述するCPUにおける機能ブロックと
して実現される。
【0023】また、ジェスチャ処理部は、ポインティン
グデバイス110以外の入力装置であって補助的な入力
を受け付ける補助入力部140と、ジェスチャコード1
21をジェスチャコード対応テーブル131に登録する
ジェスチャコード対応テーブル登録部160と、ジェス
チャについての操作をフィードバックするフィードバッ
ク部150とを有している。
【0024】補助入力部140は、ポインティングデバ
イス110に対する補助的な入力部であって、例えば、
メカニカルなスイッチやソフトウェアの画面上に表示さ
れるボタン等として構成される。この補助入力部140
では、ポインティングデバイス110におけるポイント
の軌跡の始まりと終わり141,142を示したり、出
力部130からのフィードバック132を確認した後、
アクションを実行するかどうかの確認143のために使
用される。
【0025】フィードバック部150は、ポインティン
グデバイス110や補助入力部140からの入力に対す
るフィードバックを行う部分である。すなわち、フィー
ドバック部150は、ポインティングデバイス110に
入力されたポイントの軌跡や、ポイントの軌跡かどうか
を認識した結果123のジェスチャを表示したり、出力
部130からによる出力される検索結果132を表示し
たり、実際に行うアクション170を示す。フィードバ
ック部150は、例えば後述する液晶表示装置3Aとし
て実現することができる。
【0026】ジェスチャコード対応テーブル登録部16
0は、新しいジェスチャコード161をアクションと関
連づけ、その対応するアクション162をジェスチャコ
ード対応テーブル131に登録する。このようなジェス
チャコード対応テーブル登録部160により、ユーザの
必要に応じて所望のジェスチャに対応する所望のアクシ
ョンを登録することができる。すなわち、ジェスチャコ
ード対応テーブル登録部160は、入力された手書図形
をジェスチャコード161として登録するとともに、こ
のジェスチャ161とアクション162との対応関係を
ジェスチャコード対応テーブル131に登録するもので
ある。このことにより、このコンピュータは、ユーザの
利用に快適なジェスチャ入力環境を有するようにカスタ
マイズされる。ジェスチャコード対応テーブル131
は、例えば後述するハードディスクドライブ(hard dis
k drive;HDD)上に構築される。
【0027】続いて、図2を参照して、上記図1の実施
の形態が適用される具体的なコンピュータの回路構成に
ついて説明する。この図2は、図1に示したジェスチャ
入力を処理する要部であるジェスチャ処理部を含むコン
ピュータの回路構成の全体を示すものである。コンピュ
ータ100は、回路の主要部を格納する本体2と、液晶
表示装置3A等を有する表示部3とから構成されてい
る。
【0028】本体2は、情報の処理を集中して行うCP
U52と、所定の機能を備えたいわゆるPCMCIA
(Personal Computer Memory Carol International Ass
ociation)カードすなわちいわゆるPCカード53と、
揮発性のメモリであるRAM54とを有している。これ
らCPU52、PCカード53およびRAM54は、内
部バス(PCI BUS)51にそれぞれ接続されてい
る。
【0029】CPU52は、各機能を統括するコントロ
ーラであり、PCカード53は、内部バス51に対して
オプションの機能を付加するためのものである。このC
PU52は、図1に示したジェスチャ処理部について、
ソフトウェアで実現される機能ブロックとして、ジェス
チャ認識部120、出力部130を有している。CPU
52には、さらにジェスチャコード対応テーブル登録部
160が含まれることがある。
【0030】RAM54の中には、本体2の起動が完了
した時点において、アプリケーション・プログラム、オ
ートパイロットプログラム、そして基本プログラム(op
erating system; OS)等が記憶される。
【0031】オートパイロットプログラムは、予め設定
された複数の処理(またはプログラム)等を、予め設定
された順序で順次起動して、処理するプログラムのこと
である。OSは、コンピュータ100を制御するもので
あり、例えば市販のマルチタスクOSを用いることがで
きる。
【0032】また、本体2は、データの入出力を制御す
る入出力(in-out;I/O)コントローラ61と、情報を記
録する記録部であるHDD56と、実時間時計(real t
imeclock; RTC)42Aと、メッセージランプMLと、
バッテリランプBLと、電源ランプPLと、電源スイッ
チ40と、操作キー41と、バッテリバックアップ67
とを有している。
【0033】これらI/Oコントローラ61と、HDD
56と、RTC42Aと、メッセージランプMLと、バ
ッテリランプBLと、電源ランプPLと、電源スイッチ
40と、操作キー41と、バッテリバックアップ67と
は外部バス(ISA BUS)55にそれぞれ接続され
ている。外部バス55は、内部バス51に接続されてい
る。
【0034】I/Oコントローラ57は、マイクロコン
トローラ61を有し、このマイクロコントローラ61は
CPU62A、RAM63、ROM68が相互に接続さ
れて構成されている。このRAM63は、キー入力ステ
イタスレジスタ64、LED制御レジスタ65、設定時
刻レジスタ66、操作キー/プログラム対応関係レジス
タ66Aを有している。設定時刻レジスタ66は、起動
条件格納部であり、ユーザが予め時刻(起動条件)を設
定し、予め設定された時刻になると所定のプログラムを
起動する一連の処理である起動シーケンスの動作を開始
させる際に利用される。操作キー/プログラム対応関係
レジスタ66Aは、予め設定された操作キーの組合せ
(起動条件)と、起動すべきアプリケーションプログラ
ムの対応を記憶するもので、予め設定された操作キーの
組合せがユーザにより押されると、起動しようとするア
プリケーション・プログラムを起動できる。
【0035】キー入力ステイタスレジスタ64は、後で
説明するワンタッチ操作用のスイッチ手段である操作キ
ー41が押されると、操作キーフラグが格納されるよう
になっている。LED制御レジスタ65は、操作キー4
1が押されて、所定のアプリケーションの瞬時の立ち上
げ状態を表示するメッセージランプMLの点灯を制御す
るものである。設定時刻レジスタ66は、ある時刻を任
意に設定することができるものである。
【0036】なお、このマイクロコントローラ61には
バックアップ用のバッテリ67が設けられており、各レ
ジスタ64,65,66の値は、本体2の電源がオフと
されている状態においても保持されるようになってい
る。
【0037】マイクロコントローラ61内のROM68
の中には、ウェイクアッププログラム69、キー入力監
視プログラム70、LED制御プログラム71が予め格
納されている。このROM68は、例えばフラッシュメ
モリとも呼ばれる電気消去可能プログラマブル読出し専
用メモリ(electrically erasable programmable read-
only memory;EEPROM)で構成されている。さらにマイク
ロコントローラ61には、常時現在時刻をカウントする
RTC42Aが接続されている。
【0038】ROM68の中のウェイクアッププログラ
ム69は、RTC42から供給される現在時刻データに
基づいて予め設定時刻レジスタ66に設定された時刻に
なったかどうかをチェックして、設定された時刻になる
と、所定の処理(又はプログラム)等の起動をするプロ
グラムである。キー入力監視プログラム70は、操作キ
ー41が利用者により押されるかどうかを常時監視する
プログラムである。LED制御プログラム71は、メッ
セージランプMLの点灯の制御をするプログラムであ
る。
【0039】ROM68には、さらに基本入出力システ
ム(basic input/output system )72が書き込まれて
いる。このBIOSとは、OSやアプリケーションプロ
グラムとディスプレイ、キーボード、ハードディスクド
ライブ等の周辺機器の間でのデータの受け渡し(入出
力)を制御するソフトウェアプログラムである。
【0040】HDD56には、アプリケーションプログ
ラム、オートパイロットプログラム56B、OS等が記
憶されている。HDD56内のOS、オートパイロット
プログラムおよびアプリケーションプログラムは、本体
2のブートアップ(boot up:起動)処理の過程で、RA
M54内に順次格納される。
【0041】さらに、本体2は、表示部3の液晶表示装
置(liquid crystal display;LCD)3Aを制御するLC
Dコントローラ81と、外部ネットワークと接続するた
めにデータを変換するモデム50と、キーボード4を制
御するキーボードコントローラ58と、タブレット5を
制御するタブレットコントローラ59と、マイク60A
およびスピーカ60Bに接続して信号を変換するインタ
ーフェース60とを有している。これらLCDコントロ
ーラ81と、モデム50と、キーボードコントローラ5
8と、タブレットコントローラ59と、インターフェー
ス60とは上記外部バス55にそれぞれ接続されてい
る。
【0042】外部バス55に接続されているキーボード
コントローラ58は、キーボード4からの入力をコント
ロールする。タブレットコントローラ59は、タブレッ
ト5の入力を制御するものである。
【0043】インターフェース60は、内部マイク60
Aからの入力を取り込み、あるいは内蔵スピーカ60B
に対して音声信号を供給するものである。
【0044】モデム50は、本体2と外部のネットワー
ク82とを接続して、通信を行うために情報信号の形式
の所定の変換を行うものである。
【0045】そして、本体2は、キーボードコントロー
ラ58に接続されるキーボード4と、タブレットコント
ローラ59に接続されるタブレット5と、インターフェ
ース60に接続されるマイク60Aおよびスピーカ60
Bとを有している。
【0046】タブレット5は、後述するように、キーボ
ードの手前側に配設され、液晶表示装置3Aの画面上の
位置を特定するポインティングデバイスとして用いるこ
とにより、ポイントの軌跡の入力を行うものである。す
なわち、ポインティングデバイスは、液晶表示装置3A
のような表示画面に表示され入力操作に応じて移動され
る指標について、その指標の移動軌跡を入力される手書
図形入力手段である。なお、本実施の形態においては、
ポインティングデバイスはタブレットに限定されず、例
えばタッチパッド、ジョイスティック等を用いることも
できる。また、タブレット5には、点の位置のみならず
押圧された強さをも同時に検出することができる感圧式
のタブレットも利用することができる。タブレット5
は、従来と異なり液晶表示装置3A上に配設される必要
は必ずしもない。
【0047】表示部3は、文字、手書図形等を表示する
液晶表示装置3Aと、この液晶表示装置3Aを照明する
バックライト3Bとを有している。表示部3における液
晶表示部3Aは、図1に示したジェスチャ処理部におい
て、ジェスチャ認識部120で認識されたジェスチャ、
出力部130で検索された対応するアクション等をフィ
ードバックするフィードバック部150に対応してい
る。
【0048】ここで、図1に示したジェスチャ入力につ
いて処理を行う要部であるジェスチャ処理部は、コンピ
ュータ100に対して、ポインティングデバイス111
はタブレット5に、ジェスチャ認識部120、出力部1
30およびジェスチャコード対応テーブル登録部160
はCPU52における機能ブロックとして、補助入力部
は操作キー41またはキーボード4に、フィードバック
部150は液晶表示装置3Aまたはスピーカ60Bにそ
れぞれ対応している。そして、ジェスチャコード対応テ
ーブル131は、通常はHDD56に構築されるが、R
AM54に読み込んでもよい。
【0049】以上説明したように、本実施の形態は、手
書図形を入力するポインティングデバイス110である
タブレット5について、CPU52における機能ブロッ
クとしての認識手段であるジェスチャ認識部120によ
りジェスチャとして認識し、例えばHDD56,RAM
54等に構築されたジェスチャとアクションの対応表
を、CPU52上に機能ブロックとして実現された検索
手段である出力部10により検索して対応するアクショ
ンを求め、さらにCPU52にてこのアクションを実行
するように制御するものである。
【0050】続いて、コンピュータ100の外観につい
て、図3、図4および図5を参照して説明する。
【0051】図3に示すように、携帯型コンピュータ1
00は、本体2、表示部3、キーボード4、バッテリパ
ック200等を備えている。
【0052】本体2は、キーボード4やポインティング
ディバイスとしてタブレット5を有しており、表示部3
は、例えば液晶表示装置を採用することができる。表示
部3は、本体2に対して開閉(折り畳み)可能に取り付
けられている。また、図においては示していないが、本
体2に対しては、外部のポインティング手段であるマウ
ス等を外付けすることもできる。本体2には電源ランプ
PL、電池ランプBL、そしてメッセージランプMLを
有し、電池ランプBLはバッテリパック200の電池残
量の程度を示す。これらのランプの内の特にメッセージ
ランプMLは、表示部3を本体2に対して閉じた状態で
も外部に表出している。これにより表示部3を閉じてい
ても所定のプログラムの動作は、メッセージランプML
の点灯により利用者に報知することができる。
【0053】図4は、コンピュータ100の表示部3を
本体2に対して折り畳んだ状態でしかも矢印SDから見
た図である。図において、本体2の側面2Sには、電源
スイッチ40、操作キー41、スイッチ42等が配置さ
れている。また側面2SにはいわゆるPCカードを挿入
するためのスロット43が設けられている。この操作キ
ー41は電源スイッチ40とは別個のものである。操作
キー41は上述した起動シーケンス制御部2Aを起動す
るスイッチであり、電源スイッチ40はOSを起動する
スイッチである。
【0054】図5は、携帯型コンピュータの表示部3を
本体2に対して折り畳んだ状態で表示部3の方向から見
た図である。本体2および表示部3はほぼ矩形の形状で
あって、本体2および表示部3が折り畳み可能に結合さ
れるヒンジ部分の間にバッテリパック200が配設され
ている。
【0055】続いて、上述した携帯用のコンピュータ1
00におけるジェスチャ入力による処理について、図6
に示すフローチャートを参照して説明する。
【0056】最初のステップS500においては、コン
ピュータ100のポインティングデバイス110である
タブレット5にジェスチャを手書入力する。すなわち、
コンピュータ100の本体のキーボード4の手前に配設
されたタブレット5の表面に、例えば指先にて所望の形
状を描くことにより手書図形を入力する。なお、コンピ
ュータ100へのジェスチャの入力はタッチパッド5に
限定されず、例えば図示しないマウスやタッチパッドに
て行うこともできる。手書図形の具体例については後述
する。
【0057】ステップS510では、コンピュータ10
0のポインティングデバイス110に入力された手書図
形は、ポインティングデバイス110からポイントの軌
跡のデータとしてジェスチャ認識部120に送られ、ジ
ェスチャとして認識される。そして、ステップS520
では、ジェスチャ認識部120では、そのジェスチャコ
ードが有効であるかどうかの判別が行われる。有効なジ
ェスチャコードのとき、すなわち認識が行われたときに
はには“YES”として次のステップS530に進み、
そうでないときには“NO”としてこの工程を終了す
る。
【0058】ステップS530では、出力部130にお
いて、ジェスチャコードとアクションとの対応表を保持
するジェスチャコード対応テーブル131に対して、ス
テップS510で認識されたジェスチャについて検索が
行われる。具体的には、例えばRAM54、HDD56
等に保持されたジェスチャコード対応テーブル131に
対して、CPU52の制御により検索が行われる。
【0059】ステップS510では、S530でのジェ
スチャコード対応テーブル検索でジェスチャに対応する
アクションが存在するかどうか、すなわちそのジェスチ
ャコードとアクションが関連づけられているかどうかを
判断する。そして、そのジェスチャコードにアクション
が関連づけられているときには“YES”としてステッ
プS550に進み、そうでないときには“NO”として
この工程を終了する。
【0060】ステップS550では、ステップS500
で入力されたジェスチャと、ステップS530で検索さ
れたそのジェスチャコードに対応するアクションが表示
部3の液晶表示装置3Aに表示される。ステップS56
0では、これらのジェスチャコードおよびアクションに
ついて、ユーザの確認を求める。ユーザの確認は、例え
ばキーボード4や操作キー41を押圧することによって
行うことができる。また、ユーザによる確認は、後述す
るような手書図形によるものであってもよい。そして、
ユーザの確認が得られると“YES”として次のステッ
プS570に進み、確認が得られないときには“NO”
としてこの工程を終了する。
【0061】ステップS570では、ステップS560
においてユーザにより確認を受けたアクションを実行す
る。そして、このジェスチャ処理の一連の工程を終了す
る。
【0062】このようなジェスチャ処理の一連の手順
は、例えば、コンピュータ100のHDD56からRA
M54に読み込まれた一連のプログラムに従って実行さ
れる。
【0063】続いて、コンピュータ100に対する入力
方法について説明する。本実施の形態のコンピュータ1
00におけるように、入力に用いるポインティングデバ
イスがジェスチャ入力専用でない場合がある。すなわ
ち、コンピュータ100においては、ポインティングデ
バイスであるタブレット5は、ジェスチャによる入力以
外にも、OSや他のソフトウェアにより使用されている
場合がある。
【0064】このように、入力デバイスがジェスチャ入
力専用でない場合には、ジェスチャ入力の開始と終了と
を明示的にシステムに通知する必要がある。すなわち、
ジェスチャの入力の終了は、入力が一定時間ないと終了
したと判断するのが普通であるが、入力後に直ちに判断
したい場合には、何らかの方法によってジェスチャの入
力の終了をコンピュータ100に明示的に通知すること
が必要である。また、ジェスチャ入力の開始を通知した
い場合もある。
【0065】このように、ポインティングデバイスにジ
ェスチャを入力することにより、入力の開始/終了をコ
ンピュータ100に通知するには、以下のような方法が
考えられる。
【0066】コンピュータ100に対するジェスチャ入
力にタブレット5やタッチパッドを用いる場合には、ジ
ェスチャとして特殊図形の手書入力、特殊操作による手
書入力、領域を指定した手書入力により手書図形を入力
することにより、入力の開始/終了を通知することがで
きる。
【0067】図7に示すように、特殊形状の手書入力と
は、ほぼ矩形状であるタブレット5やタッチパッドの形
状を利用した特殊な形状の手書入力である。このような
特殊形状の手書図形としては、例えば、図中のAに示す
ような矩形の左辺および底辺にそれぞれほぼ平行で近接
した軌跡、図中のBに示すような矩形の左辺、底辺、お
よび右辺にそれぞれ平行で近接した軌跡、図中のCに示
すような矩形の上辺および底辺にそれぞれ平行で近接し
た軌跡ならびに右上および左下頂点近くの上記軌跡を結
ぶほぼ対角線の軌跡からなる軌跡がある。
【0068】図8に示すように、特殊操作による手書入
力とは、例えば、図中のAに示すように複数の指による
押圧(タップ)による入力、図中のBに示すようにD
1,D2,D3の順序での押圧による入力、図中のCに
示すように複数の指によるドラッグ操作による入力があ
る。
【0069】図9に示すように、領域指定による手書入
力とは、例えば、図中のAに示すようにほぼ矩形状のタ
ブレット5やタッチパッドの四隅への入力、図中のBに
示すように境界から所定距離内について、これらの領域
内にポインタを置くことにより通知が行われるような入
力がある。また、図中のCに示すように、最初に左下隅
A1、続いて右下隅A2を順番に指し示して入力するこ
とにより通知が行われる。
【0070】コンピュータ100におけるポインティン
グデバイスとして、押圧された圧力に応じた出力が得ら
れる感圧式のタブレットやタッチパッドが用いられる場
合がある。このような場合には、一定以上の圧力を一定
時間加える手書入力、一定以上の圧力を連続して複数回
加える手書入力、予め特定しておいた一定領域に圧力を
加える手書入力を行うことにより、ジェスチャ入力の開
始/終了をコンピュータ100に通知することができ
る。
【0071】また、図10に示すように、一般の操作で
は使用しないポイントの動きによりジェスチャ入力の開
始/終了をコンピュータ100に通知することができ
る。例えば、図10中のAのようなほぼ“E”形状、図
中のBのようなほぼ“2”形状、図中のCのようなほぼ
“ω”形状、図中のDのようなほぼ“μ”形状の手書図
形のようなポイントの動きは一般の操作で使用すること
は少ないので、このようなポイントの動きによりジェス
チャ入力の開始/終了をコンピュータ100に通知する
ことができる。
【0072】このように、所定のジェスチャの手書入力
によるジェスチャ入力の開始/終了をコンピュータ10
0に通知することを実現するためには、タブレット5の
ようなポインティングデバイスからの入力を常に監視す
ることが必要になる。すなわち、コンピュータ100
は、上述のような特定のジェスチャが入力され次第、対
応する処理を実行するために入力を監視して待機してい
ることが要求される。
【0073】このためは、図11に示すように、タブレ
ット5のようなポインティングデバイス410からデバ
イスドライバまでの間や、デバイスドライバ420内
部、デバイスドライバ420からOS/アプリケーショ
ン440までの間のどこかでポイントの軌跡を監視す
る。そして、ポイントの軌跡による手書図形がジェスチ
ャとして認識できる軌跡であればジェスチャに対応した
処理を行う。
【0074】なお、図11は、コンピュータ100の構
成を示した図2からジェスチャを監視する要部を取り出
したものであり、例えば、ポインティングデバイス51
0はタブレット5に、デバイスドライバはタブレットコ
ントローラ59に、ジェスチャ認識システム430およ
びOS/アプリケーション440はCPU52における
機能ブロックに対応している。ジェスチャ認識システム
430は、図1におけるジェスチャ認識部120、出力
部130およびフィードバック部150を含み、ジェス
チャ認識を行う部分を総称したものである。
【0075】さらに、コンピュータ100に対するジェ
スチャ入力の開始/終了の通知には、補助的なデバイス
を使用する方法がある。
【0076】例えば、専用の通知ボタンを用い、コンピ
ュータ100に対してジェスチャ入力の開始/終了を通
知することができる。これには、例えば操作キー41を
利用することができる。
【0077】また、ジェスチャ入力に用いるポインティ
ングデバイス以外の他の入力デバイスと併用することに
より、コンピュータ100に対してジェスチャ入力の開
始/終了を通知することができる。例えば、キーボード
4の特定のキーを押圧しながらポインティングデバイス
においてポイントを移動することにより、上記通知を行
うことができる。
【0078】さらに、ポインティングデバイスを2つ使
用することにより、コンピュータ100に対してジェス
チャ入力の開始/終了を通知することができる。例え
ば、一つはジェスチャ入力に用い、他の一つは開始/終
了の通知に用いる。
【0079】そして、ポインティングデバイスにジェス
チャ入力をするとき専用のソフトウェアを起動すること
により、コンピュータ100に対してジェスチャ入力の
開始/終了を通知することができる。
【0080】また、液晶表示装置3AやCRTの四隅、
特定のアイコンの上、特定のソフトウェアのウインドウ
上にポイントが来たときに、コンピュータ100に対し
てジェスチャ入力の開始/終了を通知することができ
る。
【0081】さらに、文字認識ソフトウェア上で特定の
軌跡が入力されたときに、コンピュータ100に対して
ジェスチャ入力の開始/終了を通知することができる。
例えば文字認識ソフトウェア上に特定の軌跡が手書入力
されたときにジェスチャの認識を開始し、次に手書入力
される一文字をジェスチャとして認識する。
【0082】そして、文字認識ソフトウェア上で手書入
力された軌跡を文字として学習させておくことにより、
コンピュータ100に対してジェスチャ入力の開始/終
了を通知することができる。例えば、文字認識ソフトウ
ェア上で手書入力された軌跡を文字として学習させてお
き、その文字が手書入力されたときに処理を実行する。
【0083】上述のようなジェスチャ入力、すなわち手
書きによる図形入力操作は、片手、指一本による入力、
手書図形による直感的な入力が可能であって、コンピュ
ータに入力を行う際のユーザの負担を軽減する。また、
特にパーソナルコンピュータに適用するときには、 キ
ーボードを全く使用しないで操作が可能であり、片手操
作なのでノート型コンピュータ等で室外等の作業が便利
である。そして、装置に実装する場合には、スイッチ等
のような入出力デバイスの数が少ないので設置場所を低
減することができ、また、認識するジェスチャを増やす
だけで命令の数を増やすことができるので装置設置後の
機能拡張時に入力デバイスの増設が不要となる。
【0084】続いて、GUIを用いてコンピュータ10
0に対するジェスチャによる手書入力を行う具体例につ
いて説明する。
【0085】図12中のAに示すように、ジェスチャの
登録は、表示部3の液晶表示装置3Aの画面に表示され
た登録画面のウインドウにおいて、マウス、タッチパッ
ド等のポインティングデバイスを使用して手書図形を入
力する。そして、登録画面に入力した手書図形をジェス
チャとして登録する。このとき、そのジェスチャに対応
させるアクションも登録しておく。図中では、ほぼ
“p”形状のジェスチャに対してアクション“印刷”が
対応している。
【0086】図12中のBに示される、液晶表示装置3
の画面に表示されたジェスチャコード対応テーブルの登
録一覧のウインドウのように、ジェスチャコード対応テ
ーブルにはジェスチャコードとアクションとの対応表が
保持されている。図中では、ほぼ“p”形状のジェスチ
ャに対してアクション“印刷”が、ほぼ“ω”形状のジ
ェスチャコに対してアクション“ワードプロセッサ”
が、ほぼ“Z”形状のジェスチャに対してアクション
“ズームイン”がそれぞれ対応している。
【0087】ジェスチャコード対応テーブルへの登録
は、上述したジェスチャによりジェスチャ入力の開始/
収録をコンピュータ100に通知する方法を用い、図1
に示したジェスチャコード対応テーブル登録部160に
よりジェスチャとアクションとを関連づけることにより
行う。図12中のCに示すような基本画面を有するシス
テムについては、以下のような入力例が考えられる。こ
こで、上記基本画面には、アイコン1およびアイコン2
が表示されている。
【0088】すなわち、図1における入力補助部140
を用いたり、上述した方法により、ジェスチャ入力の開
始を明示的に示すことができる場合には、ジェスチャ入
力の開始時からポインティングデバイスの軌跡を液晶表
示部3Aの表示画面に何らかの形で表示することができ
る。ただし、例えば、文字のみを表示する表示装置の用
に、装置の性質によってジェスチャ入力の軌跡を全く表
示しない場合もある。なお、ポインティングデバイスの
軌跡の表示は、ジェスチャ認識部120からの認識の結
果123に従ってフィードバック部150が行う。
【0089】図12中のDに示すように、液晶表示装置
3Aの画面上に表示されるアイコン上でジェスチャ入力
を行うことによって、そのアイコンで表される対象に対
して何らかのアクションを行う。ジェスチャ用のポイン
トの軌跡は基本画面上に直接描画される。すなわち、ア
イコン2で表されるドキュメントのアイコンに対してジ
ェスチャ入力を行うことによってそのドキュメントを開
き、プリントアウトをする例を示している。
【0090】図13中のAに示す画面は、操作の対象が
必要ない場合であり、画面上の任意の場所でジェスチャ
を手書入力することによりワードプロセッサを起動する
例を示している。
【0091】また、コンピュータ100の表示部3の液
晶表示装置3Aの現在操作中の画面またはウインドウに
対してジェスチャ入力を行うことによって、その操作中
の画面に対して何らかのアクションを行うことができ
る。図13中のBの例では現在操作中のドキュメントに
対してジェスチャ入力を行うことによってそのドキュメ
ントをプリントアウトする例を示している。ジェスチャ
入力のポイントの軌跡は基本画面上に直接表示される。
【0092】さらに、ジェスチャ入力のための特別な画
面またはウインドウを用意する場合がある。ジェスチャ
入力が開始されると同時にジェスチャ入力のポイントの
軌跡を表示するための画面を開く。図13中のCは入力
画面用にジェスチャ入力を行っている例を示している。
ジェスチャ入力の対象が存在する場合は、その存在を予
め示して置くこともできる。図13中のCでは予めアイ
コンを選択しておいてからジェスチャ入力を行ってお
り、アイコン2で表されるドキュメントのアイコンに対
してほぼ“p”形状のジェスチャ入力を行うことによっ
てそのドキュメントを開き、プリントアウトする例を示
している。
【0093】ジェスチャ入力が終了するとそのジェスチ
ャが有効なものであるかどうかの確認が行われ、有効で
あれば発生したジェスチャコードをキーとしてジェスチ
ャコード対応テーブル検索が行われる。すなわち、ポイ
ンティングデバイスに入力されたポイントの軌跡は、図
1に示したジェスチャ認識部120にて有効なジェスチ
ャはジェスチャコード化部121で符号化され、出力部
130でジェスチャコード対応テーブル131を参照し
て対応するアクションが検索される。ジェスチャが有効
でなかった場合や、ジェスチャコード対応テーブル13
1にアクションがなかった場合には処理を終了する。終
了時には画面上に終了の理由を示すメッセージを表示す
る場合もある。
【0094】出力部130にてジェスチャコード対応テ
ーブル131を参照した結果、ジェスチャに対応するア
クションが存在した場合には、図13中のDに示すよう
なアクションの実行確認の画面を表示する場合がある。
すなわち、図中に示される確認のウインドウにおいて
は、ほぼ“p”形状のジェスチャとそれに対応するアク
ション“印刷”が表示され、ボタン“はい”またはボタ
ン“いいえ”のいずれかを選択することを求めている。
ジェスチャの入力時の軌跡が表示されないシステムの場
合でも、入力が終了した段階で図13中のDのような確
認の画面を表示することで誤ったアクションの実行を回
避することができる。このような確認は、出力部130
から出力されたアクション170に応じて、フィードバ
ック部150が行う。そして、ユーザによる確認を受け
ると、出力部131からの出力に従い、CPU52はア
クションを実行するように制御する。
【0095】続いて、本発明を記録媒体に適用した具体
例について説明する。この記録媒体は、情報が記録され
た記録媒体であって、ユーザの手書入力操作に伴う手書
図形を手書入力する手書図形入力ステップと、上記手書
図形入力ステップにおいて入力された手書図形を手書図
形情報として認識する認識ステップと、ユーザによって
予め登録された手書図形情報に対応する動作を、手書図
形情報と動作との対応関係を保持する対応表保持手段を
参照して検索する検索ステップと、上記認識ステップで
認識された手書図形情報に対応する動作を上記検索ステ
ップで検索し、その検索された動作を実行するように制
御する制御ステップとの各ステップからなる情報処理方
法のプログラムが記録されてなるものである。
【0096】なお、本明細書中において、上述した一連
の処理を実行するコンピュータプログラムをユーザに対
して提供する記録媒体とは、例えば、フロッピーディス
ク(FD)やいわゆるCD−ROMなどのリムーバブル
な可搬型情報記録媒体は勿論のこと、パーソナルコンピ
ュータに内蔵されるHDDに対して、予め出荷時にイン
ストールしてユーザに提供するような場合の内蔵型情報
記録媒体をも含み、さらにインターネットやディジタル
衛星などのネットワークを介してパーソナルコンピュー
タにダウンロードする場合のネットワーク伝送媒体をも
含む概念である。
【0097】続いて、本実施の形態の適用の具体例につ
いて説明する。この具体例は、上述のように、コンピュ
ータ100に特定のジェスチャを入力することにより、
ジェスチャ入力の開始/終了を通知する方法を利用した
ものである。
【0098】このようなジェスチャの入力に応じて、対
応するソフトウェアを実行することができる。これはジ
ェスチャコード対応テーブルの保持する対応表におい
て、ジェスチャに対するアクションとしてソフトウェア
を対応づけにより行うことができる。例えば、特定のジ
ェスチャを入力すると、特定のアプリケーションが立ち
上がるように設定することができる。
【0099】また、予めマクロ操作を登録しておき、ジ
ェスチャコード対応テーブルにおけるジェスチャとアク
ションとの対応表において、そのマクロ操作とジェスチ
ャとを結びつけておくことにより、ジェスチャの入力に
よりマクロ操作を実行することができる。このようなマ
クロ操作により、ジェスチャ入力のような簡単な操作に
より複雑な処理を行うマクロ操作を実行することができ
る。例えば、マウスでテキスト等を選択した後ジェスチ
ャによりコマンドを入力すると、選択されているテキス
ト等をコピーし、あらかじめ決められたジェスチャコー
ド対応テーブル、メイル等の場所に自動的に張り付ける
ことができる。また、テキスト文書等のアイコンの上で
ジェスチャを入力するとその文書を開いたあとで自動的
にプリントアウトすることができる。さらに、ジェスチ
ャ入力をするとダイヤルアップ接続を行ってメールを取
り込むことができる。そして、ジェスチャ入力をすると
あらかじめ登録されている複数のソフトウェアを起動
し、ウインドウの位置や大きさを自動的に整えることが
できる。
【0100】さらに、本実施の形態は、障害者用の入力
インターフェイスとして適用することができる。すなわ
ち、本実施の形態によると、タッチパッドのようなポイ
ンティングデバイスを用いて指一本の動作範囲で入力で
きるため、指一本しか自由に動かすことができない障害
者にも操作することができるので、障害者用のインター
フェイスとしての応用が考えられる。
【0101】そして、本実施の形態は、幼児用の入力イ
ンターフェイスに適用することができる。すなわち、
丸、三角、四角等の手書図形の入力によってアウトプッ
トが得られ、幼児にも容易に理解することができるの
で、幼児用の教育用ソフトや装置等への応用が考えられ
る。
【0102】また、本実施の形態は、電子的なロック機
構において認証キーとしてジェスチャを使用する認証ロ
ックにも適用することができる。すなわち、任意の文字
を登録できるため数字の組合わせよりも覚えやすく、第
三者による解読も困難である。そして、文字認識部で筆
跡の癖や筆圧を判別することによりさらに正確な認証キ
ーの判別が可能である。さらに、個人の認証とコマンド
の入力を一つの操作で行うことが可能。従って、キャッ
シュディスペンサー(cash dispenser)やドアロックへ
の応用が考えられる。
【0103】なお、上述の実施の形態を手書文字認識シ
ステムへのコマンド入力に利用する場合には、文字入力
時には、文字の入力以外にも候補の選択や入力した文字
やストロークの取り消しなどの制御用のコマンドの入力
が必要となるが、このコマンド入力にジェスチャ機能を
使用することにより入力時のコマンドボタン等へのポイ
ンタ移動が不要になる。
【0104】なお、上述の実施の形態においては、GU
Iを有するコンピュータ100上にポインティングデバ
イス110、ジェスチャ認識部120、出力部130等
の全てを含むシステムをソフトウェアとして構築した。
しかし、コンピュータ上に限らず、任意の装置の上記各
部をデバイスとして組み込むこともできる。この場合に
は、ポインティングデバイス110、ジェスチャ認識部
120、出力部130が必須構成要素であり、補助入力
部140、フィードバック部150、ジェスチャコード
対応テーブル登録部160はオプションである。フィー
ドバック部150は、装置に組み込む場合には、LED
の表示になったりブザーになる場合がある。
【0105】
【発明の効果】上述のように、本発明は、ユーザの手書
入力操作に伴う手書図形をポインティングデバイスで入
力し、ポインティングデバイスに入力された手書図形を
ジェスチャ認識部でジェスチャとして認識し、ユーザに
よって予め登録されたジェスチャとアクションとの対応
関係をジェスチャコード対応テーブルに保持し、ジェス
チャコード対応テーブルを参照してジェスチャ認識部で
認識されたジェスチャに対応するアクションを検索し、
その検索された動作を実行するように制御するものであ
る。従って、本発明においては、ユーザがジェスチャコ
ード対応テーブルにジェスチャとアクションとの対応関
係を登録することにより、ユーザが容易に拡張すること
ができる。このように、本発明は、個々のユーザが好み
のジェスチャについて任意かつ自由に拡張できるような
柔軟性、拡張性を有するものである。
【0106】また、本発明は、ジェスチャ認識部で認識
されたジェスチャ情報に対応するアクション、実行した
アクションの結果の少なくとも一方を表示する液晶表示
装置を有し、ユーザはアクションについての操作を確認
しつつ行うことができ、ユーザの負担を軽減する。
【0107】さらに、本発明においては、ジェスチャ認
識部で手書図形による入力の開始または終了を示す特定
の手書図形の入力により、手書図形による入力の開始ま
たは終了を認識する。このため、手書図形の入力の開始
または終了について入力する特別の入力装置を備える必
要がないので、情報処理装置の小型化、低価格化を図る
ことができる。
【0108】そして、本発明においては、入力の開始ま
たは終了を知らせる特定の手書図形の入力とは、特定の
形状の手書図形の手書入力、特殊操作による手書入力、
特定の領域への手書入力である。従って、このような手
書入力は、例えば、片手、指一本により、直感的に手書
入力をすることができ、ユーザの負担を軽減する。
【図面の簡単な説明】
【図1】コンピュータの図形認識に関する要部を示すブ
ロック図である。
【図2】コンピュータの概略的な構成を示すブロック図
である。
【図3】表示部を開いた携帯型コンピュータの斜視図で
ある。
【図4】表示部を閉じた携帯型コンピュータの右側面図
である。
【図5】表示部を閉じた携帯型コンピュータの平面図で
ある。
【図6】ジェスチャ入力による処理を示すフローチャー
トである。
【図7】特殊図形によるジェスチャ入力の具体例を示す
図である。
【図8】特殊操作によるジェスチャ入力の具体例を示す
図である。
【図9】領域指定によるジェスチャ入力の具体例を示す
図である。
【図10】特殊図形の入力によるジェスチャ入力を示す
図である。
【図11】ジェスチャ認識のための回路の具体例を示す
ブロック図である。
【図12】ジェスチャ入力を行う画面の具体例を示す図
である。
【図13】ジェスチャ入力を行う画面の具体例を示す図
である。
【符号の説明】
2 本体、3 表示部、5 タブレット、52 CP
U、53 PCカード、54 RAM、56 HDD、
61 マイクロコントローラ、100 コンピュータ、
110 ポインティングデバイス、120 ジェスチャ
判別部、130出力部、131 ジェスチャコード対応
テーブル、160 ジェスチャコード対応テーブル登録
───────────────────────────────────────────────────── フロントページの続き (72)発明者 村瀬 功 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 Fターム(参考) 5B087 AA10 BB00 DD17 5E501 AA03 AC37 BA05 BA11 CA04 CB03 CB05 CB06 CB09 DA11 EA02 EA10 EA11 EB01 FA03 FA04 FA14 FB43

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 ユーザの手書入力操作に伴う手書図形を
    入力する手書図形入力手段と、 上記手書図形入力手段に入力された手書図形を手書図形
    情報として認識する認識手段と、 ユーザによって予め登録された手書図形情報と動作との
    対応関係を保持する対応表保持手段と、 上記対応表保持手段に保持されている対応表を参照して
    手書図形情報に対応する動作を検索する検索手段と、 上記認識手段で認識された手書図形情報に対応する動作
    を上記検索手段で検索し、その検索された動作を実行す
    るように制御する制御手段とを備えることを特徴とする
    情報処理装置。
  2. 【請求項2】 上記認識手段で認識された手書図形情報
    に対応する動作、実行した動作の結果の少なくともいず
    れか一方を表示する表示手段を有することを特徴とする
    請求項1記載の情報処理装置。
  3. 【請求項3】 上記手書図形入力手段においては、上記
    表示装置に表示され入力操作に応じて移動される指標に
    ついて、その指標の移動軌跡が入力されることを特徴と
    する請求項1記載の情報処理装置。
  4. 【請求項4】 ユーザの手書入力操作により入力された
    手書図形を手書図形情報として登録するとともに、この
    手書図形情報と動作との対応関係を上記対応表として表
    示手段に一覧表示して上記対応表保持手段に登録する登
    録手段を有することを特徴とする請求項1記載の情報処
    理装置。
  5. 【請求項5】 上記認識手段は、手書図形による入力の
    開始または終了を示す特定の手書図形の入力により、手
    書図形による入力の開始または終了を認識することを特
    徴とする請求項1記載の情報処理装置。
  6. 【請求項6】 上記特定の手書図形の入力とは、特定の
    形状の手書図形の手書入力、特殊操作による手書入力、
    特定の領域への手書入力の少なくとも一つであることを
    特徴とする請求項5記載の情報処理装置。
  7. 【請求項7】 上記特殊操作は、複数回のタップ操作、
    予め設定された回数繰り返すタップ操作、同時に行う複
    数のドラッグ操作、複数の特定の領域への特定の順序で
    の入力操作の少なくとも一つを含むことを特徴とする請
    求項6記載の情報処理装置。
  8. 【請求項8】 上記入力手段は感圧式であり、上記特定
    の手書図形の手書入力とは、特定の圧力の特定の時間の
    手書入力、特定の圧力の予め設定された回数繰り返す手
    書入力、特定の圧力の特定の領域への手書入力の少なく
    とも一つを含むことを特徴とする請求項5記載の情報処
    理装置。
  9. 【請求項9】 ユーザの手書入力操作に伴う手書図形を
    手書入力する手書図形入力ステップと、 上記手書図形入力ステップにおいて手書入力された手書
    図形を手書図形情報として認識する認識ステップと、 ユーザによって予め登録された手書図形情報に対応する
    動作を、手書図形情報と動作との対応関係を保持する対
    応表保持手段を参照して検索する検索ステップと、 上記認識ステップで認識された手書図形情報に対応する
    動作を上記検索ステップで検索し、その検索された動作
    を実行するように制御する制御ステップとを含むことを
    特徴とする情報処理方法。
  10. 【請求項10】 情報が記録された記録媒体であって、 ユーザの手書入力操作に伴う手書図形を手書入力する手
    書図形入力ステップと、 上記手書図形入力ステップにおいて入力された手書図形
    を手書図形情報として認識する認識ステップと、 ユーザによって予め登録された手書図形情報に対応する
    動作を、手書図形情報と動作との対応関係を保持する対
    応表保持手段を参照して検索する検索ステップと、 上記認識ステップで認識された手書図形情報に対応する
    動作を上記検索ステップで検索し、その検索された動作
    を実行するように制御する制御ステップとの各ステップ
    からなる情報処理方法のプログラムが記録されてなるこ
    とを特徴とする記録媒体。
JP10312388A 1998-11-02 1998-11-02 情報処理装置及び方法並びに記録媒体 Withdrawn JP2000137555A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP10312388A JP2000137555A (ja) 1998-11-02 1998-11-02 情報処理装置及び方法並びに記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP10312388A JP2000137555A (ja) 1998-11-02 1998-11-02 情報処理装置及び方法並びに記録媒体

Publications (1)

Publication Number Publication Date
JP2000137555A true JP2000137555A (ja) 2000-05-16

Family

ID=18028659

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10312388A Withdrawn JP2000137555A (ja) 1998-11-02 1998-11-02 情報処理装置及び方法並びに記録媒体

Country Status (1)

Country Link
JP (1) JP2000137555A (ja)

Cited By (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001346152A (ja) * 2000-05-31 2001-12-14 Sharp Corp 動画像編集方法及び装置
JP2002044599A (ja) * 2000-07-27 2002-02-08 Sharp Corp 動画像処理装置
WO2005091117A1 (ja) * 2004-03-22 2005-09-29 Nintendo Co., Ltd. 情報処理装置、情報処理プログラム、情報処理プログラムを記憶した記憶媒体およびウインドウ制御方法
JP2007042020A (ja) * 2005-08-05 2007-02-15 Nec Corp 携帯端末及びプログラム
JP2007213245A (ja) * 2006-02-08 2007-08-23 Nec Corp 携帯端末及びプログラム
JP2007305039A (ja) * 2006-05-15 2007-11-22 Sony Corp 情報処理装置および方法、並びにプログラム
JP2008203973A (ja) * 2007-02-16 2008-09-04 Softbank Mobile Corp 操作入力処理方法及び携帯型情報処理装置
JP2009237792A (ja) * 2008-03-26 2009-10-15 Fujifilm Corp コンテンツ処理装置および方法
JP2010055177A (ja) * 2008-08-26 2010-03-11 Nec Corp 情報処理端末のアプリケーション起動方法、情報処理端末及びプログラム
JP2010157252A (ja) * 2010-02-04 2010-07-15 Sony Corp 車載装置、車載装置の情報提供方法、車載装置の情報提供方法のプログラム及び車載装置の情報提供方法のプログラムを記録した記録媒体
JP2010231618A (ja) * 2009-03-27 2010-10-14 Sony Ericsson Mobile Communications Ab 携帯端末装置、及びアプリケーション起動方法
JP2011232953A (ja) * 2010-04-27 2011-11-17 Sony Corp 情報処理装置、情報処理方法、およびプログラム、並びに情報処理システム
US8151210B2 (en) 2004-05-31 2012-04-03 Sony Corporation Vehicle-mounted apparatus, information providing method for use with vehicle-mounted apparatus, and recording medium recorded information providing method program for use with vehicle-mounted apparatus therein
JPWO2011043422A1 (ja) * 2009-10-09 2013-03-04 日本電気株式会社 携帯機器及びそのセキュリティロック制御方法,プログラム
JP2013514590A (ja) * 2009-12-18 2013-04-25 シナプティクス インコーポレイテッド 動作モードを変更する方法および装置
JPWO2011077525A1 (ja) * 2009-12-24 2013-05-02 富士通株式会社 電子機器、操作検出方法及び操作検出プログラム
WO2013111216A1 (ja) * 2012-01-25 2013-08-01 パナソニック株式会社 携帯端末及び表示制御方法
JP2014048676A (ja) * 2012-08-29 2014-03-17 Kyocera Document Solutions Inc 操作装置および電子機器
USRE45559E1 (en) 1997-10-28 2015-06-09 Apple Inc. Portable computers
JP2015162056A (ja) * 2014-02-27 2015-09-07 Kddi株式会社 身体を伝播する信号の位相差に基づいて入力情報を決定可能な入力システム及び入力方法
JP2015165681A (ja) * 2015-04-08 2015-09-17 京セラ株式会社 携帯端末、ロック解除プログラムおよびロック解除方法
JP2016015776A (ja) * 2015-10-02 2016-01-28 京セラドキュメントソリューションズ株式会社 操作装置および電子機器
JP2016042394A (ja) * 2016-01-04 2016-03-31 ソニー株式会社 情報処理装置および方法、プログラム、並びに記録媒体
JP2016522943A (ja) * 2013-05-21 2016-08-04 フェアライト オーストラリア ピーティワイ エルティディ ソフトウェアアプリケーションを制御するためのユーザインタフェース
US9448712B2 (en) 2007-01-07 2016-09-20 Apple Inc. Application programming interfaces for scrolling operations
US9465532B2 (en) 2009-12-18 2016-10-11 Synaptics Incorporated Method and apparatus for operating in pointing and enhanced gesturing modes
US9594800B2 (en) 2013-11-01 2017-03-14 Fuji Xerox Co., Ltd Image information processing apparatus, image information processing method, and non-transitory computer readable medium
JP2017068752A (ja) * 2015-10-01 2017-04-06 中国電力株式会社 情報処理装置、及び情報処理装置の制御方法
US9619141B2 (en) 2011-06-07 2017-04-11 Sony Corporation Information processing terminal and method, program, and recording medium
US10157191B2 (en) 2009-08-21 2018-12-18 Samsung Electronics Co., Ltd Metadata tagging system, image searching method and device, and method for tagging a gesture thereof
US11740727B1 (en) 2011-08-05 2023-08-29 P4Tents1 Llc Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback

Cited By (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USRE45559E1 (en) 1997-10-28 2015-06-09 Apple Inc. Portable computers
USRE46548E1 (en) 1997-10-28 2017-09-12 Apple Inc. Portable computers
JP2001346152A (ja) * 2000-05-31 2001-12-14 Sharp Corp 動画像編集方法及び装置
JP2002044599A (ja) * 2000-07-27 2002-02-08 Sharp Corp 動画像処理装置
US7938721B2 (en) 2004-03-22 2011-05-10 Nintendo Co., Ltd. Game apparatus, game program, storage medium storing game program and game control method
JPWO2005091117A1 (ja) * 2004-03-22 2008-02-07 任天堂株式会社 情報処理装置、情報処理プログラム、情報処理プログラムを記憶した記憶媒体およびウインドウ制御方法
WO2005091117A1 (ja) * 2004-03-22 2005-09-29 Nintendo Co., Ltd. 情報処理装置、情報処理プログラム、情報処理プログラムを記憶した記憶媒体およびウインドウ制御方法
US9454302B2 (en) 2004-03-22 2016-09-27 Nintendo Co., Ltd. Information processing apparatus, system and method for controlling display of windows
JP4719672B2 (ja) * 2004-03-22 2011-07-06 任天堂株式会社 情報処理装置、情報処理プログラム、情報処理プログラムを記憶した記憶媒体およびウインドウ制御方法
US8458618B2 (en) 2004-05-31 2013-06-04 Sony Corporation Vehicle-mounted apparatus, information providing method for use with vehicle-mounted apparatus, and recording medium recorded information providing method program for use with vehicle-mounted apparatus therein
US8151210B2 (en) 2004-05-31 2012-04-03 Sony Corporation Vehicle-mounted apparatus, information providing method for use with vehicle-mounted apparatus, and recording medium recorded information providing method program for use with vehicle-mounted apparatus therein
JP2007042020A (ja) * 2005-08-05 2007-02-15 Nec Corp 携帯端末及びプログラム
JP2007213245A (ja) * 2006-02-08 2007-08-23 Nec Corp 携帯端末及びプログラム
JP2007305039A (ja) * 2006-05-15 2007-11-22 Sony Corp 情報処理装置および方法、並びにプログラム
US10817162B2 (en) 2007-01-07 2020-10-27 Apple Inc. Application programming interfaces for scrolling operations
US9760272B2 (en) 2007-01-07 2017-09-12 Apple Inc. Application programming interfaces for scrolling operations
US9448712B2 (en) 2007-01-07 2016-09-20 Apple Inc. Application programming interfaces for scrolling operations
US10481785B2 (en) 2007-01-07 2019-11-19 Apple Inc. Application programming interfaces for scrolling operations
JP2008203973A (ja) * 2007-02-16 2008-09-04 Softbank Mobile Corp 操作入力処理方法及び携帯型情報処理装置
JP2009237792A (ja) * 2008-03-26 2009-10-15 Fujifilm Corp コンテンツ処理装置および方法
JP2010055177A (ja) * 2008-08-26 2010-03-11 Nec Corp 情報処理端末のアプリケーション起動方法、情報処理端末及びプログラム
US8552996B2 (en) 2009-03-27 2013-10-08 Sony Corporation Mobile terminal apparatus and method of starting application
JP2010231618A (ja) * 2009-03-27 2010-10-14 Sony Ericsson Mobile Communications Ab 携帯端末装置、及びアプリケーション起動方法
US10157191B2 (en) 2009-08-21 2018-12-18 Samsung Electronics Co., Ltd Metadata tagging system, image searching method and device, and method for tagging a gesture thereof
JPWO2011043422A1 (ja) * 2009-10-09 2013-03-04 日本電気株式会社 携帯機器及びそのセキュリティロック制御方法,プログラム
JP2013514590A (ja) * 2009-12-18 2013-04-25 シナプティクス インコーポレイテッド 動作モードを変更する方法および装置
US9465532B2 (en) 2009-12-18 2016-10-11 Synaptics Incorporated Method and apparatus for operating in pointing and enhanced gesturing modes
JPWO2011077525A1 (ja) * 2009-12-24 2013-05-02 富士通株式会社 電子機器、操作検出方法及び操作検出プログラム
JP2010157252A (ja) * 2010-02-04 2010-07-15 Sony Corp 車載装置、車載装置の情報提供方法、車載装置の情報提供方法のプログラム及び車載装置の情報提供方法のプログラムを記録した記録媒体
JP2011232953A (ja) * 2010-04-27 2011-11-17 Sony Corp 情報処理装置、情報処理方法、およびプログラム、並びに情報処理システム
US9619141B2 (en) 2011-06-07 2017-04-11 Sony Corporation Information processing terminal and method, program, and recording medium
US9665273B2 (en) 2011-06-07 2017-05-30 Sony Corporation Information processing terminal and method, program, and recording medium
US11740727B1 (en) 2011-08-05 2023-08-29 P4Tents1 Llc Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
WO2013111216A1 (ja) * 2012-01-25 2013-08-01 パナソニック株式会社 携帯端末及び表示制御方法
JP2014048676A (ja) * 2012-08-29 2014-03-17 Kyocera Document Solutions Inc 操作装置および電子機器
JP2016522943A (ja) * 2013-05-21 2016-08-04 フェアライト オーストラリア ピーティワイ エルティディ ソフトウェアアプリケーションを制御するためのユーザインタフェース
US9594800B2 (en) 2013-11-01 2017-03-14 Fuji Xerox Co., Ltd Image information processing apparatus, image information processing method, and non-transitory computer readable medium
JP2015162056A (ja) * 2014-02-27 2015-09-07 Kddi株式会社 身体を伝播する信号の位相差に基づいて入力情報を決定可能な入力システム及び入力方法
JP2015165681A (ja) * 2015-04-08 2015-09-17 京セラ株式会社 携帯端末、ロック解除プログラムおよびロック解除方法
JP2017068752A (ja) * 2015-10-01 2017-04-06 中国電力株式会社 情報処理装置、及び情報処理装置の制御方法
JP2016015776A (ja) * 2015-10-02 2016-01-28 京セラドキュメントソリューションズ株式会社 操作装置および電子機器
JP2016042394A (ja) * 2016-01-04 2016-03-31 ソニー株式会社 情報処理装置および方法、プログラム、並びに記録媒体

Similar Documents

Publication Publication Date Title
JP2000137555A (ja) 情報処理装置及び方法並びに記録媒体
US7023428B2 (en) Using touchscreen by pointing means
US5778404A (en) String inserter for pen-based computer systems and method for providing same
US5367453A (en) Method and apparatus for correcting words
JP5204305B2 (ja) 携帯用端末機におけるパターン認識を用いたユーザインターフェース装置及び方法
TWI435238B (zh) 整合式輸入/輸出裝置,以及用於在此種裝置上顯示的方法及電腦可讀取儲存媒體
EP1435561B1 (en) Method and apparatus for recognizing and associating handwritten information in various languages
JP6902234B2 (ja) 文字列に文字を挿入するための方法および対応するデジタルデバイス
EP1538549A1 (en) Scaled text replacement of digital ink
JP2003345507A (ja) ライトエニウェアツール
JPH05501023A (ja) キーなし平坦パネル携帯用コンピューター―コンピュータ援助ノート
JP2003529130A (ja) 一体型キーパッドシステム
JP5728592B1 (ja) 電子機器および手書き入力方法
JPH06242885A (ja) 文書編集方法
US7571384B1 (en) Method and system for handwriting recognition with scrolling input history and in-place editing
US20160321238A1 (en) Electronic device, method and storage medium
WO2022143198A1 (zh) 一种应用界面的处理方法以及相关设备
KR100414143B1 (ko) 터치패드를 이용한 모바일 단말기
JPWO2014045414A1 (ja) 文字入力装置、文字入力方法、文字入力制御プログラム
US20040239645A1 (en) Information processing apparatus and method of inputting character
EP4261660A1 (en) Feedback method and related device
JPH04127315A (ja) パーソナル・コンピュータ
JP3181409B2 (ja) 情報処理装置及び情報処理方法
JPH0594564A (ja) データ処理システム
JP2003005902A (ja) 文字入力装置、情報処理装置、文字入力装置の制御方法、及び記憶媒体

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20060110