JP2004046325A - データ入力装置、データ入力プログラムおよびデータ入力プログラムを記録した記録媒体 - Google Patents

データ入力装置、データ入力プログラムおよびデータ入力プログラムを記録した記録媒体 Download PDF

Info

Publication number
JP2004046325A
JP2004046325A JP2002199786A JP2002199786A JP2004046325A JP 2004046325 A JP2004046325 A JP 2004046325A JP 2002199786 A JP2002199786 A JP 2002199786A JP 2002199786 A JP2002199786 A JP 2002199786A JP 2004046325 A JP2004046325 A JP 2004046325A
Authority
JP
Japan
Prior art keywords
data
image data
input
input device
item
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2002199786A
Other languages
English (en)
Inventor
Yasushi Ishizuka
石塚 康司
Tadashi Hirose
広瀬 斉志
Satoru Suzuki
鈴木 哲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2002199786A priority Critical patent/JP2004046325A/ja
Publication of JP2004046325A publication Critical patent/JP2004046325A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Character Discrimination (AREA)

Abstract

【課題】それぞれデータ項目で特定される複数のアプリケーションに用いられる情報機器のためのデータ入力装置であって、オペレータの思考を中断させることなく、円滑な手書き入力を可能にするものを提供すること。
【解決手段】手書きによる入力イメージデータを得る入力手段(S201−S202)と、入力イメージデータからデータ項目に相当する部分を抽出する抽出手段(S203−S205)とを備える。さらに、抽出手段による抽出結果に基づいてデータ項目に対応するアプリケーションを特定して、入力イメージデータ又はこのイメージデータを元にして得られたデータを、その特定されたアプリケーションに分類する分類手段(S206)を備える。
【選択図】 図3

Description

【0001】
【発明の属する技術分野】
本発明は、手書きによる文字、図形、イラスト等のデータを入力するデータ入力装置に関する。また、本発明は、そのようなデータの入力を行うデータ入力プログラムおよびデータ入力プログラムを記録した記録媒体に関する。
【0002】
【従来の技術および発明が解決しようとする課題】
近年、PDA(パーソナル・デジタル・アシスタンツ)機器に代表される携帯情報機器には、タッチパネルを直接指で触れて入力する方式や、タブレットをペンで触れて入力する方式などの手書き入力機能を持つものが多い。
【0003】
一般的に、手書き入力機能を持つ携帯情報機器では、予め指定されている各種アプリケーション(スケジュール管理、アドレス帳、アクションリストなどの応用プログラムを指す。この明細書において同様。)実行中に、入力された手書きイメージを認識して文字コードに変換し、この文字コードを記憶部に記憶している。例えば、オペレータがスケジュールデータを手書きで入力する場合、スケジュール機能をもつアプリケーションを予め選択し、各項目毎にスケジュールデータを入力してゆく。このとき、オペレータは、入力した各項目毎、文字毎に、機器による認識結果の表示を見て、正しくデータが認識されたかどうかを確認しながら入力作業を行っている。
【0004】
また、手書きされたイメージのまま保存する方法のほか、特開2001−155115号公報の「手書きデータ入力装置および手書きデータ入力方法、ならびに該方法を記録した記憶媒体」に記載のように、手書き入力されたものが文字を表す文字ストロークか図形や絵を表す描画ストロークかを判断して、文字認識画像データと描画データとを分けて記憶する方法もある。この場合においても、オペレータがアプリケーションを予め選択し、各項目毎にデータを入力してゆく。
【0005】
上記のようにして入力したスケジュールやアドレス帳のデータを修正(もしくは訂正。以下同様。)しようとして、オペレータがアプリケーションを選択し、項目を選択すると、機器はその項目について記憶部に文字コードとして記憶している文字を表示部に表示して、修正作業を求める。このとき表示部には、記入時のイメージとは違う整形されたフォーマットで表示される。
【0006】
また、データ入力時の処理方法として、特開平7−175581号公報の「手書き入力方法および装置」に記載のように、データ入力中および、他のプログラムの処理が機能していないときに文字認識を行う方法がある。
【0007】
【発明が解決しようとする課題】
従来技術によるアプリケーションの入力作業では、オペレータはアプリケーションを選択し、入力項目を選択して各項目毎にデータを入力してゆくため、データ入力の間にアプリケーションや入力項目を選択する作業が必要となる。特に、すべての項目についてデータを文字認識し、文字コードとして記憶する場合、オペレータはすべての項目に対してデータが正しく認識されたかどうかを確認する必要がある。これらの結果、オペレータの思考が中断して、円滑な手書き入力が妨げられるという問題がある。
【0008】
なお、アプリケーションを選択する作業のみで、イラストを含む自由手書きで入力した場合、アプリケーションにおけるキーとなるデータ項目が文字コードとして入力されていないため、時刻順、50音順(あいうえお順)等による正確なソートができず、データを再利用しにくいという問題が生ずる。また、上記のようなアプリケーションなどの選択作業、文字認識結果の確認作業を省くことは、誤認識により全く異なった時間や名前等に認識、格納された場合、誤認識したデータを捜し出すのが難しいという問題が生ずる。
【0009】
また、従来技術では、上記のようにして入力したデータをオペレータが修正しようとする場合、記入時のイメージとは違う特定のフォーマットに整形されたデータが表示部に表示される。このため、オペレータは表示されたデータ(特に文字とイメージが混在しているデータ)の内容を直観的に把握できず、修正しにくいという問題がある。
【0010】
また、従来技術の、データ入力中および、他のプログラムの処理が機能していないときに文字認識を行う方法では、オペレータが手書き入力したデータの認識結果を確認するために、入力データの認識処理が完了かどうかを毎回確認する操作を行わなければならず、操作が煩わしいという問題がある。
【0011】
そこで、この発明の課題は、オペレータの思考を中断させることなく、円滑な手書き入力を可能にするデータ入力装置を提供することにある。しかも、入力したデータをオペレータが容易に修正できるデータ入力装置を提供することにある。さらに、手書き入力したデータが現在どのような状態にあるか(実行ステータス)をオペレータが容易に知ることができるデータ入力装置を提供することにある。
【0012】
また、この発明の課題は、そのようなデータ入力装置のためのデータ入力プログラムおよびデータ入力プログラムを記録した記録媒体を提供することにある。
【0013】
【課題を解決するための手段】
上記課題を解決するため、この発明のデータ入力装置は、次のように構成される。すなわち、この発明のデータ入力装置は、それぞれデータ項目で特定される複数のアプリケーションに用いられる情報機器のためのデータ入力装置であって、手書きによる入力イメージデータを得る入力手段と、上記入力イメージデータからデータ項目に相当する部分を抽出する抽出手段とを備える。さらに、上記抽出手段による抽出結果に基づいて上記データ項目に対応するアプリケーションを特定して、上記入力イメージデータ又はこのイメージデータを元にして得られたデータを、その特定されたアプリケーションに分類する分類手段を備える。
【0014】
ここで「アプリケーション」とは、例えばスケジュール帳、アドレス帳などの応用ソフトウェアを指す。
【0015】
「イメージデータを元にして得られたデータ」とは、例えばイメージデータを文字認識して得られた文字コードからなるデータを指す。
【0016】
この発明のデータ入力装置は、次のようにして手書きによるデータを処理する。まず、入力手段によって、手書きによる入力イメージデータを得る。この入力イメージデータは、例えば入力手段が有する入力面にオペレータが連続して手書きすることにより得られる。また、入力イメージデータは、座標列あるいはベクトルデータ等からなるインクデータとして記憶手段によって保存しても良い。次に、抽出手段によって、入力イメージデータからデータ項目に相当する部分(これを適宜「項目相当データ」と呼ぶ。)抽出する。そして、分類手段が、上記抽出手段による抽出結果に基づいて上記データ項目に対応するアプリケーションを特定して、入力イメージデータ又はこのイメージデータを元にして得られたデータを、その特定されたアプリケーションに分類する。このようにして分類されたデータは、そのアプリケーションのためのデータとして格納される。
【0017】
このデータ入力装置よれば、手書きにより入力されたデータが自動的に適切なアプリケーションに分類される。したがって、オペレータは手書きによりデータを入力する間に、データを分類すべきアプリケーションを選択する必要が無い。
したがって、オペレータは、思考を中断されること無く、連続して手書き入力を行うことができる。例えば、正確な文字や特定の操作に因われることなくイラスト等の図形、オリジナル記号などを自由に手書きすることができる。
【0018】
一実施形態のデータ入力装置では、上記抽出手段は、上記入力イメージデータを文字認識してそのイメージデータに対応する文字コードを得る文字認識手段を含み、上記分類手段は、上記文字認識手段によって得られた文字コードとアプリケーションを特定する所定のデータ項目との対応に基づいて、上記入力イメージデータが分類されるべきアプリケーションを特定することを特徴とする。
【0019】
なお、「文字」は、数字、記号などを広く含む。
【0020】
また、「アプリケーションを特定する所定のデータ項目」とは、「スケジュール帳」における日時、時刻、「アドレス帳」における電話番号など、アプリケーションに応じて予め定められているデータ項目(これを適宜「キー項目」と呼ぶ。)を意味する。「キー項目」は、アプリケーションを特定する観点から、そのアプリケーションにとって重要な又は必須のデータ項目であるのが望ましい。
【0021】
この一実施形態のデータ入力装置では、文字認識手段によって、入力イメージデータを文字認識して入力イメージデータに対応する文字コードを得る。そして、上記分類手段は、上記文字認識手段によって得られた文字コードとアプリケーションを特定する所定のデータ項目との対応に基づいて、入力イメージデータが分類されるべきアプリケーションを特定する。
【0022】
このように、入力イメージデータに対応する文字コードと、アプリケーションを特定する所定のデータ項目との対応に基づいて、入力イメージデータが分類されるべきアプリケーションを特定するので、分類結果の信頼度が高まる。
【0023】
一実施形態のデータ入力装置は、上記抽出手段が上記入力イメージデータからデータ項目に相当する部分を抽出できないとき、上記分類手段は、上記入力イメージデータ又はこのイメージデータを元にして得られたデータを未分類にすることを特徴とする。
【0024】
入力イメージデータにアプリケーションを特定し得る項目相当データが含まれていないとき、上記分類手段は適切に分類を行うことができない。この一実施形態のデータ入力装置では、そのような入力イメージデータを未分類にすることによって、処理を途中で停止することなく、円滑に進めることができる。一旦未分類にされた入力イメージデータは、後に、例えばオペレータの指示に従って分類すれば良い。
【0025】
一実施形態のデータ入力装置は、上記入力イメージデータと、アプリケーションを特定したデータ項目に対応する文字コードとを、分類先のアプリケーション毎に記憶する記憶手段を備えたことを特徴とする。
【0026】
この一実施形態のデータ入力装置では、記憶手段によって、入力イメージデータと、アプリケーションを特定したデータ項目に対応する文字コードとを、分類先のアプリケーション毎に記憶する。したがって、分類されたイメージデータを、上記文字コードを用いて取り扱う処理が可能となる。例えば、分類されたイメージデータを、上記文字コードが表す「時間順」や「あいうえお順」などに並べるようなソート処理が可能となる。
【0027】
一実施形態のデータ入力装置は、上記入力イメージデータのうちアプリケーションを特定したデータ項目に相当する部分に、上記イメージデータ全体に対してその部分を識別するための識別データを付与する手段を備えたことを特徴とする。
【0028】
この一実施形態のデータ入力装置では、入力イメージデータのうちアプリケーションを特定した項目相当データに、入力イメージデータ全体に対してその部分を識別するための識別データ(例えばフラグ)を付与する。これにより、例えばオペレータの指示(選択)に応じて、表示手段によって、手書き入力されたイメージデータ全体を表示したり、イメージデータ全体から項目相当データ(文字コードになった部分)を取り除いた残りのイメージデータを表示したりすることが可能になる。これにより、例えば、閲覧時には上記残りのイメージデータを表示することで、オペレータがデータ内容を容易に把握できる。また、修正時にはイメージデータ全体を表示することで、手書き入力されたイメージデータ全体の上でオペレータが直観的かつ容易に修正できる。
【0029】
また、上記記憶手段は、上記入力イメージデータから、上記アプリケーションを特定したデータ項目に相当する部分を取り除いて得られた残りのイメージデータを記憶しても良い。つまり、イメージデータ全体から項目相当データ(文字コードになった部分)を取り除いた残りのイメージデータを記憶しても良い。これにより、メモリ資源を節約できる。
【0030】
一実施形態のデータ入力装置は、上記分類手段による分類結果をオペレータに知らせる結果報知手段と、上記入力イメージデータ又はこのイメージデータを元にして得られたデータを、オペレータによる指示に応じてアプリケーションに分類し直す再分類手段を備えたことを特徴とする。
【0031】
この一実施形態のデータ入力装置では、結果報知手段が、上記分類手段による分類結果をオペレータに知らせる。したがって、手書きによるイメージデータがどのアプリケーションに分類されたかを、オペレータが知ることができる。そして、再分類手段が、入力イメージデータ又はこのイメージデータを元にして得られたデータを、オペレータによる指示に応じてアプリケーションに分類し直す。
したがって、手書きによるイメージデータが誤ったアプリケーションに分類されて記憶されるのを防止できる。この結果、簡単かつ効率的なデータ入力を実現できる。
【0032】
一実施形態のデータ入力装置は、上記抽出手段は、上記入力イメージデータから、データ項目としてオペレータが指示したキー項目に相当する部分を抽出することを特徴とする。
【0033】
この一実施形態のデータ入力装置では、上記抽出手段は、上記入力イメージデータから、データ項目としてオペレータが指示したキー項目に相当する部分を抽出する。したがって、抽出対象が限定されて、抽出の信頼度が高まる。また、再分類手段によって、上記入力イメージデータ又はこのイメージデータを元にして得られたデータをアプリケーションに分類し直すとき、オペレータは、分類先のアプリケーションのみを特定すれば足り、データ項目を指示(あるいは再入力)する必要が無い。したがって、効率的な分類を実現できる。
【0034】
一実施形態のデータ入力装置は、上記抽出手段が上記入力イメージデータからのデータ項目に相当する部分の抽出に失敗したとき、分類に失敗した旨をオペレータに知らせる結果報知手段を備えたことを特徴とする。
【0035】
上記抽出手段が入力イメージデータからの項目相当データの抽出に失敗したときは、上記分類手段がそのイメージデータをアプリケーションに分類できない。
そこで、この一実施形態のデータ入力装置では、結果報知手段が、上記抽出手段が入力イメージデータからの項目相当データの抽出に失敗したとき、分類に失敗した旨をオペレータに知らせる。分類に失敗した旨を知らされたオペレータは、入力イメージデータを再分類手段によってアプリケーションに分類し直すなどの適切な措置をとることができる。
【0036】
一実施形態のデータ入力装置は、上記文字認識手段が上記入力イメージデータを文字認識して得た文字コードであってデータ項目を表す文字に相当するものの信頼度が所定レベル以下であるとき、その旨をオペレータに知らせる結果報知手段を備えたことを特徴とする。
【0037】
ここで「信頼度」とは、文字認識結果(または分類結果)が正しい可能性が高いとき信頼度のレベルが高くなる一方、正しい可能性が低いとき低くなるような尺度を意味する。例えば、入力パターンと辞書パターンとの距離、この距離の逆数などを文字の信頼度とすることができる。入力パターンと辞書パターンとの距離を信頼度とする場合、入力パターンと辞書パターンとの距離(差異)が小さいときは信頼度レベルが高く、距離が大きいときは信頼度レベルが低くなる。
【0038】
上記文字認識手段が入力イメージデータを文字認識して得た文字コードであってデータ項目を表す文字に相当するもの(これを「項目相当文字コード」と呼ぶ。)の信頼度が低いとき、そのままでは、入力イメージデータが誤ったアプリケーションに分類される可能性が高い。そこで、この一実施形態のデータ入力装置では、項目相当文字コードの信頼度が所定レベル(閾値)以下であるとき、結果報知手段によって、その旨をオペレータに知らせる。上記項目相当文字コードの信頼度が所定レベル以下である旨を知らされたオペレータは、入力イメージデータを表示手段によって確認したり、入力イメージデータを再分類手段によってアプリケーションに分類し直すなどの適切な措置をとることができる。
【0039】
オペレータに、分類に失敗した旨や文字認識の信頼度が所定レベル以下である旨を知らせる結果報知手段としては、
発光ダイオード(LED)等の発光素子の点灯や消灯、
画面上のアイコンの表示、形状、色の変化、回転や移動などの動き、
画面および背景の色変化、
合成音声、電子音などの音、
バイブレータの振動などの触感
などの公知の手段が挙げられる。これらの手段によれば、上記分類に失敗した旨等をオペレータが瞬間的に知ることができる。
【0040】
また、上記項目相当文字コードのうち所定の文字コードの信頼度が所定レベル以下であるとき、その旨をオペレータに知らせるのが望ましい。ここで「所定の文字コード」とは、例えばアプリケーションにとって重要なデータ項目(具体的には、日時、時刻、電話番号等における数字など)に関する文字コードである。
このような「所定の文字コード」に限定すれば、必要性が高いものについて、オペレータに警告がなされる。
【0041】
また、上記結果報知手段はオペレータによる所定の操作に応じて動作するようになっていても良い。そのようにした場合、上記分類に失敗した旨等をオペレータは希望に応じて知ることができる。ここで「所定の操作」とは、例えば機器に設けられた押しボタンを押す操作などである。
【0042】
一実施形態のデータ入力装置は、上記入力イメージデータを画面上に表示する表示手段と、上記画面上のイメージデータに対して、上記文字認識手段による認識結果の信頼度に応じた識別表示を行う信頼度表示手段と、上記入力イメージデータの修正を許容する制御を行う制御手段を備えたことを特徴とする。
【0043】
この一実施形態のデータ入力装置では、表示手段が、入力イメージデータを画面上に表示する。信頼度表示手段が、上記画面上のイメージデータに対して、上記文字認識手段による認識結果の信頼度に応じた識別表示を行う。この識別表示は、データ項目毎または文字毎に認識結果の信頼度(認識失敗を含む)に応じて、例えばイメージデータの表示色を変更し、反転表示し、強調文字(太文字)とし、アンダーラインなどの文字飾りを付すことにより行う。制御手段は、入力イメージデータの修正を許容する制御を行う。したがって、オペレータは、この識別表示をもとに誤認識の可能性が高い文字を確認しながら、必要に応じて入力イメージデータの修正を行うことができる。この修正結果に基づき、分類済みの場合は分類先のデータが更新され、未分類の場合は改めてアプリケーションへの分類が行われる。なお、既に保存中のデータに変更が生じた時も、オペレータが上記と同様に修正を行うことができる。これにより、分類先のデータが更新される。
【0044】
このようにこのデータ入力装置では、画面上のイメージデータに対して認識結果の信頼度に応じた識別表示を付して表示しながら、オペレータがイメージデータを修正することを許容する。したがって、オペレータは簡単かつ直観的にイメージデータを修正できる。
【0045】
一実施形態のデータ入力装置は、上記表示手段に、上記画面上のイメージデータに対して修正を受けた部分を上書きして表示させる制御を行う制御手段を備えたことを特徴とする。
【0046】
ここで「上書きして表示」とは、元のイメージデータのうち修正を受けた部分を取り除き、その部分に対応する修正部分のイメージデータを補って表示することを意味する。
【0047】
この一実施形態のデータ入力装置では、オペレータは簡単かつ直観的にイメージデータを修正できる。しかも、修正するための項目移動や文字選択、カーソル移動を少なくでき、オペレータの入力作業量を削減できる。
【0048】
また、上記制御手段は、画面上に表示されたイメージデータのうち上記文字認識手段による認識結果の信頼度が所定レベル以下である部分のみ修正を許容する制御を行うのが望ましい。そのように制御した場合、画面上に表示されたイメージデータのうち上記文字認識手段による認識結果の信頼度が所定レベルを超えている部分に付いては、修正が禁止される。したがって、無駄な修正を禁止でき、オペレータの入力作業を削減することができる。
【0049】
また、上記制御手段は、上記文字認識手段による認識結果の信頼度が所定レベル以下である部分のデータを含んだデータ項目のみ修正を許容するように制御しても良い。
【0050】
また、修正の対象となるイメージデータは、オペレータの指示に基づいて画面上に表示したものであっても良い。
【0051】
一実施形態のデータ入力装置は、上記抽出手段と分類手段を動作させるプログラム以外の他のプログラムが機能していない期間に、上記抽出手段と分類手段を動作させる制御を行う制御手段と、上記抽出手段と分類手段による処理の状況を表す実行ステータスを、オペレータに知らせる状況報知手段を備えたことを特徴とする。
【0052】
ここで「実行ステータス」とは、ある時点での処理の状況(進度を含む。)を表し、例えば「実行待ち」、「実行中」、「実行完了」というように表示される。
【0053】
この一実施形態のデータ入力装置は、制御手段が、上記抽出手段と分類手段を動作させるプログラム以外の他のプログラムが機能していない期間に、上記抽出手段と分類手段を動作させる制御を行う。したがって、他のプログラム(例えば他のアプリケーション)に影響を与えないように上記抽出手段と分類手段による処理(抽出処理と分類処理)を行うことができる。また、状況報知手段が、それらの処理の状況を表す実行ステータスを、オペレータに知らせる。したがって、オペレータは、他のプログラムが機能していない期間であっても、それらの処理の状況を知ることができる。
【0054】
なお、状況報知手段は、それらの処理の状況を機器本体に画像で表示する手段であっても良い。この場合、オペレータはその画像を見ることによって簡単かつ瞬間的に処理の状況を認識できる。また、状況報知手段は、それらの処理の状況を音やバイブレータによる振動を用いて知らせても良い。この場合、オペレータは機器本体を見なてくも、例えば機器本体をポケットから出すことなく、処理状況を確認できる。
【0055】
一実施形態のデータ入力装置は、上記入力イメージデータを、このデータ入力装置の外部のサーバへ転送するための通信手段を備える。上記サーバは、上記イメージデータのうちアプリケーションを特定するデータ項目に相当する部分を抽出するとともに、上記イメージデータ又はこのイメージデータを元にして得られたデータを、上記データ項目によって特定されるアプリケーションに分類する処理を行うようになっている。そして、このデータ入力装置は、上記サーバによる上記処理の状況を表す実行ステータスを、オペレータに知らせる状況報知手段を備えたことを特徴とする。
【0056】
この一実施形態のデータ入力装置によれば、入力イメージデータを通信手段によってサーバへ転送して、上記サーバに、上述のような抽出と分類の処理を行わせることができる。したがって、このデータ入力装置における他のプログラム(例えば他のアプリケーション)に影響を与えないようにそれらの処理を行うことができる。また、そのようなサーバは高速演算可能で高性能な認識処理機能を持つように構成され得る。したがって、携帯情報機器で上述のような抽出と分類の処理を行う場合に比して、抽出と分類の精度(信頼度)を高めることができる。
また、状況報知手段が、それらの処理の状況を表す実行ステータスを、オペレータに知らせる。したがって、このデータ入力装置のオペレータは、他のプログラムが機能していない期間であっても、それらの処理の状況を知ることができる。
【0057】
また、上記分類手段による分類結果の信頼度が所定レベル以下であるときのみ、上記入力イメージデータを上記通信手段によって上記サーバへ転送する制御を行う制御手段を備えるのが望ましい。そのように制御した場合、このデータ入力装置の分類手段では十分な信頼度が得られないときのみ、サーバで入力イメージデータについての分類処理が行われる。したがって、このデータ入力装置とサーバとの間のトラフィックの増加を抑制できる。
【0058】
また、上記状況表示手段をオペレータの指示があった時に動作させるようにしても良い。そのようにした場合、オペレータは所望の時に実行ステータスを知ることができる。
【0059】
一実施形態のデータ入力装置は、上記入力手段は、オペレータが手書きを行う入力面内に、データ項目に相当するデータが手書きされるべき項目入力領域を有することを特徴とする。
【0060】
この一実施形態のデータ入力装置は、上記入力手段は、オペレータが手書きを行う入力面内に、データ項目に相当するデータが手書きされるべき項目入力領域を有する。つまり、入力面内で予め限定された項目入力領域に、データ項目に相当するデータが手書きされるようになっている。したがって、上記抽出手段が入力イメージデータから抽出する対象(特に、文字認識対象)が少なくなって抽出の精度が高まるとともに、抽出処理に要する処理時間が短縮される。また、入力イメージデータうちの項目相当データではない残りの部分(残りのイメージデータ)が、分類処理に悪影響を与えるのが防止される。したがって、分類の精度が高まる。
【0061】
この発明のデータ入力プログラムは、それぞれデータ項目で特定される複数のアプリケーションに用いられる情報機器のためのデータ入力プログラムであって、
手書きによる入力イメージデータを得る入力処理と、
上記入力イメージデータからデータ項目に相当する部分を抽出する抽出処理と、
上記抽出処理による抽出結果に基づいて上記データ項目に対応するアプリケーションを特定して、上記入力イメージデータ又はこのイメージデータを元にして得られたデータを、その特定されたアプリケーションに分類する分類処理とを、上記情報機器に実行させるためのデータ入力プログラムである。
【0062】
この発明のデータ入力プログラムによれば、次のような処理が実行される。まず、入力処理によって、手書きによる入力イメージデータを得る。この入力イメージデータは、例えば入力手段が有する入力面にオペレータが連続して手書きすることにより得られる。また、入力イメージデータは、座標列あるいはベクトルデータ等からなるインクデータとして記憶手段によって保存しても良い。次に、抽出処理によって、入力イメージデータからデータ項目に相当する部分(これを適宜「項目相当データ」と呼ぶ。)を抽出する。そして、分類処理では、上記抽出処理による抽出結果に基づいて上記データ項目に対応するアプリケーションを特定して、上記入力イメージデータ又はこのイメージデータを元にして得られたデータを、その特定されたアプリケーションに分類する。このようにして分類されたデータは、そのアプリケーションのためのデータとして格納される。
【0063】
このデータ入力プログラムを実行すれば、手書きにより入力されたデータが自動的に適切なアプリケーションに分類される。したがって、オペレータは手書きによりデータを入力する間に、データを分類すべきアプリケーションを選択する必要が無い。したがって、オペレータは、思考を中断されること無く、連続して手書き入力を行うことができる。例えば、正確な文字や特定の操作に因われることなくイラスト等の図形、オリジナル記号などを自由に手書きすることができる。
【0064】
また、この発明の記録媒体は、上述のデータ入力プログラムを記録したコンピュータ読み取り可能な記録媒体である。
【0065】
この発明の記録媒体に記録されたデータ入力プログラムを読み取って実行すれば、手書きにより入力されたデータが自動的に適切なアプリケーションに分類される。したがって、オペレータは手書きによりデータを入力する間に、データを分類すべきアプリケーションを選択する必要が無い。したがって、オペレータは、思考を中断されること無く、連続して手書き入力を行うことができる。例えば、正確な文字や特定の操作に因われることなくイラスト等の図形、オリジナル記号などを自由に手書きすることができる。
【0066】
【発明の実施の形態】
以下、この発明を図示の実施の形態により詳細に説明する。
【0067】
(実施の形態1)
図1は、一実施形態の発明のデータ入力装置が適用された情報機器のブロック構成を示している。この情報機器は、入力手段1、制御手段2、記憶手段3、分類手段4、項目抽出手段5、インストールされた複数のアプリケーション6、表示手段7、報知手段8および通信手段9を備えている。
【0068】
入力手段1は、例えば入力用ペンとタブレットで構成され、手書きされた筆跡を入力イメージデータとして入力する。
【0069】
制御手段2は、この情報機器全体の動作を制御する。
【0070】
記憶手段3は、手書きによる入力イメージデータ、及びスケジュール管理、アドレス帳などのアプリケーションが用いるデータを記憶するためのものである。
【0071】
分類手段4は、手書きによる入力イメージデータを、次に述べる項目抽出手段5による抽出結果に基づいて、複数のアプリケーション6のうち、どのアプリケーションに分類すべきかを判定する。そして、その判定結果に基づき分類を行う。
【0072】
項目抽出手段5は、入力イメージデータからデータ項目に相当する部分(項目相当データ)を抽出する。抽出には、この例では文字認識を実行する。
【0073】
アプリケーション6は、スケジュール管理、アドレス帳などの応用プログラムである。この例では、アプリケーション6には、データ項目としての「日付」及び「時間」の項目を用いてスケジュール管理を行う機能を持つ「スケジュール帳」と、データ項目としての「氏名」、「電話番号」、「住所」等の項目を管理する「アドレス帳」とがあるものとする。
【0074】
表示手段7は、入力イメージデータ、そのイメージデータをアプリケーションに分類した分類結果などの、各種表示を行う。
【0075】
報知手段8は、分類結果及び現在の処理の進行状況(実行ステータス)をオペレータに知らせるものであり、例えばLEDなどの発光素子、音声を出力する装置、またはバイブレータ等の本体を振動させる装置などである。
【0076】
通信手段9は、Bluetooth(ブルートゥース)などを用いた無線通信を行って、この機器と他の装置との間でデータ交換をするための手段である。
【0077】
図2は、上記データ入力装置をハードウェアによって構成した例を示している。
【0078】
CPU100は、装置全体の制御を司るものであり、制御手段2に相当する。
【0079】
表示一体型液晶タブレット101は、手書きイメージの入力および表示を行うものであり、入力手段1および表示手段7に相当する。
【0080】
状態/状況表示装置102は、分類結果や分類状況を画像で表示する。
【0081】
ビデオメモリ103は、液晶タブレットに表示するための画像イメージを格納する。
【0082】
RAM(ランダムアクセスメモリ)104は、CPU100による制御を補助するとともに、各種データを一時的に格納する。このRAM104は、入力イメージデータを記憶するバッファ105と、各アプリケーションプログラムを記憶する領域106と、各アプリケーションプログラムがデータを保存する領域107と、CPUが制御のためなどに用いるワーク領域108とからなっている。
【0083】
ROM(リードオンリーメモリ)109は、イメージデータから項目相当データを抽出するために用いられるキー項目辞書110と、文字を認識するために用いられる文字認識辞書111と、各アプリケーションプログラムを保存しておく領域112とからなっている。このデータ入力装置が入力イメージデータを分類するのに用いるデータ入力プログラムもこの領域112に格納されている。
【0084】
外部記憶装置113は、アプリケーション用データのコピーやバックアップのために用いられる。
【0085】
上述のビデオメモリ103、RAM104、ROM(リードオンリーメモリ)109および外部記憶装置113は、記憶手段3に相当する。
【0086】
通信装置114は、この機器と外部の装置との間でデータ交換するものであり、通信手段9に相当する。
【0087】
音声発生装置115は合成音声を発生させるための装置、バイブレータ116は入力装置本体を振動させるための装置である。
【0088】
図3は、上記データ入力装置のCPU100による基本的な処理のフローを示している。この処理フローに従い、手書きによる入力イメージデータをアプリケーション毎に分類していく処理を説明する。ここで説明している、入力座標列の読出、文字と図形の分離方法、文字切り出し方法、文字認識処理の内容はあくまで例示であり、本発明の精神を離れない範囲で適宜変形可能である。
【0089】
i) まず、オペレータが、入力すべきスケジュール、アドレスなどのデータを、ペン等を用いて入力手段1としてのタブレット101上に記入する(S201:入力操作)。すると、タブレット101の入力面に、対応するイメージデータが表示される。図4(a)は、電話番号「090−1111−222」、相手先の姓「田中氏」と、相手先付近の地図とが記入された場合のイメージデータを例示している。
【0090】
ii) 次に、記入された筆跡を1画ずつのストロークに分割して、x座標とy座標からなる座標の時系列データとして抽出し、この抽出したイメージデータを、入力イメージ記憶バッファ105に格納する(図3中のS202:入力座標列の読出)。
【0091】
画面上に表示された入力終了ボタンがクリックされた場合、1ページの入力が完了したと判断して、以降この1ページ分の座標列データをひとまとまりの1つのデータとして扱う。
【0092】
iii) 次に、項目抽出手段5は、こうして得られた1ページ分の座標列データから、1つの文字と推測できる範囲の連続した1つ以上のストロークからなる仮想文字領域(図4(b)中に破線で示す矩形の領域)を抽出する。そして、この抽出した仮想文字領域をワーク領域108に格納する。
【0093】
この仮想文字領域の抽出は、次のようにして行う。まず、ストローク間の交差に着目し、連続して記入されたストロークが交差している場合、これらのストロークを1つのセグメントとして統合する。次に、入力画面の大きさから設定した最大文字サイズを設定し、このサイズを超えるセグメントは描画データとして分類する。1セグメントを仮想文字領域としてワーク領域108に格納した後、連続して記入されているセグメントを統合しても、上記最大文字サイズを超えないサイズであるか否かを判定する。そして、サイズを超えない場合、これらのセグメントを統合して仮想文字領域としてワーク領域108に格納する。
【0094】
以上の処理中、一定数のストロークを超えると、仮想文字領域として抽出しない。入力される言語が日本語と設定している場合、JIS第1水準および第2水準の漢字には32画以上の漢字がないことから、最大ストロークを32と設定している。
【0095】
次に、一定方向に仮想文字領域が2つ以上連続して存在している場合、連続した仮想文字領域を文字列領域候補(図4(b)中に1点鎖線で示す矩形の領域)として抽出する。2つ以上とした理由は、この例では項目分類に用いる内容が2文字以上からなるためである。以上の形態により文字列領域候補と、それ以外とに分離することができる(図3中のS203:文字図形の分離)。
【0096】
なお、図4(b)は、図4(a)に示した記入例の場合に抽出される仮想文字領域と文字列領域候補とを例示している。
【0097】
iv) 次に、1文字のみを含む文字領域候補を抽出する(図3中のS204:文字切り出し)。
【0098】
詳しくは、まず、各々の文字列領域候補に含まれる座標列データに対して、図5に例示するように、手書き方向と直角となる方向に投影を行う。この例では、図5(a)に示すように「ワイングラスに」と左右方向に手書きされているので、図5(b)に示すように上下方向に投影を行う。この投影において、座標点が存在しない部分を文字の区切り位置候補として抽出する。次に、この区切り位置候補を組み合わせることによって、1画以上のストロークからなり、かつ1文字分の矩形で囲まれた領域である文字領域候補(図5(c)中に破線で示す矩形の領域)を生成する。このとき、文字領域候補の縦横比がある閾値、例えば1:2より横長である場合、文字領域である可能性がないと判断して、文字領域候補から削除する。仮想文字領域と同様に文字領域候補に含まれるストロークが32を超えているものがあれば、これも文字領域候補から削除する。このようにして、図5の例では、合計15個の文字領域候補が抽出される。
【0099】
v) 次に、文字切り出しで求めた全ての文字領域候補に対して、例えば、特開平8−249424に述べられている手法で、座標列から抽出した特徴列とパターン辞書との照合を行い、最も辞書との距離の小さい文字から順に文字候補を出力する。このとき辞書との距離の小さいほど大きくなるように、ある一定値から辞書との距離を引いた値を文字信頼度として記憶する。
【0100】
続いて、文字領域候補を組み合わせて、全てのストロークがいずれかの文字領域に一回だけ含まれる文字列を生成する。生成した文字列全てについて、文字認識で得られたそれぞれの文字信頼度を用い、文字列に含まれる文字信頼度の合計を文字列に含まれる文字数で割った、文字列信頼度を求める。この文字列信頼度の値が大きいものから順にソートし、ある個数の候補、例えば5個すなわち第5位までの文字列候補を算出する。算出された文字列候補に含まれるすべての文字の信頼度も同時に記憶しておく。
【0101】
この様にして各々の文字列領域候補から文字列候補を求める(図3中のS205:文字認識)。
【0102】
vi) 次に、分類手段4は、各々の文字列領域候補から求められたある個数の候補、例えば第5位までの文字列候補から、次に述べるキー項目ルールに適合する文字列が存在するか否かを探索する。上記文字列候補の1文字目から順に探索を行い、キー項目ルールに適合する文字列が存在する場合、その文字列内のキー項目ルールに対応する部分を、入力イメージデータのうちの項目相当データとして抽出する。
【0103】
上述のキー項目ルールは、キー項目(アプリケーションを特定するために予め定められたデータ項目)を一定のルールに従って組み合わせて定義されており、キー項目辞書110に格納されている。このキー項目ルールによるキー項目の組合せと文字列候補とを対比することによって、入力イメージデータから項目相当データが抽出される。
【0104】
キー項目ルールは、例えば次の表1のように設定されている。
【0105】
【表1】
Figure 2004046325
【0106】
図6を用いて、この表1のキー項目ルールを参照して項目相当データを抽出する具体例を説明する。図6(a)は、オペレータが「12月3日」と入力しようとした例を示している。文字認識の結果、文字列候補は第1位から第5位まで「1Z月3日」「12月3日」「に月3日」…というように並んでいる。この場合、第2位の文字列候補「12月3日」が、日付項目のルールに適合するので、その「12月3日」を日付項目相当データとして抽出する。また、図6(b)は、オペレータが「12時に集合」と入力しようとした例を示している。文字認識の結果、文字列候補は第1位から第5位まで「に時に集合」「に時に集全」「12時に集合」…というように並んでいる。この場合、第3位の文字列候補「12時に集合」における第1文字から第3文字までの「12時」が、時刻項目のルールに適合するので、その「12時」を時刻項目相当データとして抽出する。
【0107】
vii) このようにして項目相当データを抽出した後、上記データ項目に対応するアプリケーションを特定して、入力イメージデータを、スケジュール帳、アドレス帳などのアプリケーションに分類する(図3中のS206:項目分類)。
【0108】
具体的には、日付項目相当データと時刻項目相当データが抽出された場合は「スケジュール帳」に分類し、また、電話番号項目相当データが抽出された場合は「アドレス帳」に分類する。いずれの項目相当データも抽出されなかった場合は、分類に失敗したものとして扱う。また、入力された1つのイメージデータを元に、2つ以上のアプリケーションが特定される場合は、特定される全てのアプリケーションに分類するか、または分類に失敗したものとして扱う(2つ以上のアプリケーションが特定される場合、どちらに処理するかを予め設定しておくのが望ましい。)。
【0109】
なお、上記「スケジュール帳」と「アドレス帳」以外のアプリケーションに対しても、アプリケーションを特定するキー項目ルールを規定することで、イメージデータを分類することが可能である。
【0110】
viii) 入力イメージデータの分類に成功した場合、各アプリケーション用の記憶領域に、各項目相当データ分の文字認識結果である文字コードと、タブレットに手書き入力されたストローク単位の座標列データからなるイメージデータとを記憶する(図3中のS209:各アプリケーションに格納)。
【0111】
このとき、入力イメージデータのうちの各項目相当データが明らかになるように、イメージデータに「n画目からm画目までが日付項目である」のような識別データを付与して記憶する。これにより、例えばオペレータの指示(選択)に応じて、表示手段7の表示画面に、イメージデータ全体を表示したり、イメージデータ全体から項目相当データを取り除いた残りのイメージデータを表示したりすることが可能になる。これにより、例えば、閲覧時には上記残りのイメージデータを表示することで、オペレータがデータ内容を容易に把握できる。また、修正時にはイメージデータ全体を表示することで、手書き入力されたイメージデータ全体の上でオペレータが直観的かつ容易に修正できる。
【0112】
なお、表示に際して、表示画面の大きさなどの制限に応じて、イメージデータを縮小するなどの加工を行って表示するのが望ましい。
【0113】
例えば図8(a)に示すように日付を表す「12/1」、時刻を表す「10時」、および地図が手書きされたものとする。図8(b)の表示例1では、入力イメージデータと同一のもの、つまりイメージデータ全体が表示されている。図8(c)の表示例2では、画面上部に、抽出された日付項目相当データ、時刻項目相当データから得られた「12月1日10時00分」が所定のフォントで表示されている。画面下部には、イメージデータ全体から項目相当データを取り除いた残りのイメージデータ、つまり地図部分がイメージで表示されている。この地図部分のイメージは表示画面の大きさの制限に応じて縮小されている。
【0114】
ix) 一方、入力イメージデータの分類に失敗した場合、そのイメージデータを未分類データとして、ワーク領域108に格納する(図3中のS208:未分類データとして格納)。
【0115】
入力イメージデータの分類に失敗した場合、つまりワーク領域108に未分類データが存在する場合、分類に失敗した旨を報知手段8によってオペレータに知らせる。報知手段8としては、
・画面上に分類エラーを示すアイコンを表示すること、
・画面上に特定のアイコンの形状、色の変化、回転や移動などの動き、
・画面の背景色を変化させること、
・背景の色/画像を変えること、
・LED等の発光素子の点灯もしくは消灯、
・発光素子の色の変化、
などが挙げられる。これらの1つ以上の方法により、オペレータは一見するだけで、簡単に未分類データの存在を確認し、必要であれば未分類データを修正することができる。
【0116】
また、入力イメージデータを文字認識して得た文字コードであってデータ項目を表す文字に相当するもの(これを「項目相当文字コード」と呼ぶ。)の信頼度が低いとき、そのままでは、入力イメージデータが誤ったアプリケーションに分類される可能性が高い。そこで、項目相当文字コードの信頼度が所定レベル(閾値)以下であるとき、報知手段8によってその旨をオペレータに知らせるのが望ましい。そのレベル(閾値)は、それ以下であれば統計的に誤認識の確率が高くなる値を予め設定しておく。また、この予め設定したレベル(閾値)をアプリケーションあるいはユーザーにより任意に変更することも可能である。上記項目相当文字コードの信頼度が所定レベル以下である旨を知らされたオペレータは、入力イメージデータを表示手段7によって確認したり、入力イメージデータを再分類手段によってアプリケーションに分類し直すなどの適切な措置をとることができる。
【0117】
さらに、項目相当文字コードのうち重要なデータ項目(具体的には、日時、時刻、電話番号等における数字など)に関する文字コードの信頼度が所定レベル以下であるとき、その旨をオペレータに知らせるようにしても良い。このようにした場合、必要性が高いものについて、オペレータに警告がなされる。
【0118】
なお、未分類データが存在する場合と文字認識の信頼度が低い場合とで、オペレータに区別できるように、例えば互いに色や形状の異なるアイコンを採用するなどして、知らせ方を変えるのが望ましい。
【0119】
具体的には、例えば1つの入力イメージデータに対してリンクさせた1つのアイコンを、表示画面の下部などの特定部分に表示し、以下のような色分けで示す。
赤:分類失敗
黄:重要な要素に信頼度の低い文字が存在
緑:信頼度の低い文字が存在
青:問題なし
【0120】
そして、オペレータが赤いアイコンをタップあるいはクリックしたとき、分類失敗したデータを修正するための画面を呼び出せるようにしておく。このようにした場合、必要であれば、オペレータは入力イメージデータを修正する作業等を、すぐに行うことができる。
【0121】
(実施の形態2)
実施の形態1において述べたように、分類が失敗した場合、項目相当文字コードの信頼度が所定レベル以下である場合、また項目相当文字コードのうち重要な文字コードの信頼度が所定レベル以下である場合が生ずる。このような場合、それぞれの状況を、オペレータによる所定の操作に応じて、音声発生装置115やバイブレータ116によって、
・合成音声、電子音などの音、
・バイブレータの振動などの触感
で示すのが望ましい。
【0122】
具体的には、例えば機器本体に状況確認専用の押しボタンスイッチを設けておく。そして、分類に失敗したデータがn件、項目相当文字コードの信頼度が所定レベル以下であるデータがm件存在する場合、オペレータがその押しボタンを押すと、音声発生装置115が合成音声で、
「未分類データn件、項目仮認識データm件」
と発生する。この合成音声により、オペレータは簡単に分類結果を把握することができる。
【0123】
別の例では、分類に失敗したデータがある場合、オペレータが上記押しボタンを押すと、バイブレータ116が短サイクル(例えば2秒周期)で振動の有無を繰り返す。また、項目相当文字コードの信頼度が所定レベル以下であるデータが存在する場合、バイブレータ116が長サイクル(例えば4秒周期)で振動の有無を繰り返す。さらに、双方のデータが存在する場合はバイブレータ116が長短のサイクルを繰り返し振動し、双方とも存在しない場合はバイブレータ116が短サイクルの振動1回のみで終了する。このような周期の異なる振動により、オペレータは即座に分類結果を把握することができる。分類に成功し、確信がもてる場合でも、1回振動するのは、オペレータが上記押しボタンを押したことを確認するためである。
【0124】
(実施の形態3)
このデータ入力装置では、分類が失敗した場合や、項目相当文字コードの信頼度が低い(所定レベル以下である)場合、また、一旦手書き入力したイメージデータをオペレータが変更したい場合などに、入力イメージデータの修正が次のようにして行われる。
【0125】
まず、オペレータの手書きによる入力イメージデータを表示画面上に表示させる。この表示画面を見たオペレータがイメージデータの修正が必要であると判断した場合、表示された元のイメージデータ上で上書き(重書き)を行う。または、元のデータを二重線で抹消して別の場所に新たなデータを記入する。
【0126】
元のイメージデータを特定のアプリケーションに分類済みの場合は、そのアプリケーションに分類されて格納されているイメージデータを新たなイメージデータに更新する。一方、元のイメージデータを分類失敗して未分類にした場合は、新たなイメージデータを再度アプリケーションに分類する処理を試みる。
【0127】
具体的には、イメージデータの修正は、例えば図7に示すようにして行われる。すなわち、オペレータが修正用のボタンをクリックすると、図7(a)に示すように、オペレータが実際に手書きした入力イメージデータと同じもの(訂正前)が表示される。この例では、オペレータは「2/4」「11:00」「会ギ」と3段に分けて筆記したことが分かる。ここで、図7(b)に示すように、修正対象である「4」の部分の上に「3」を手書きすることによって「4」に修正することができる(訂正例1)。また、図7(c)に示すように、修正対象である「4」の部分を二重線で抹消し、その横に「3」を手書きすることによって「4」に修正することができる(訂正例2)。
【0128】
さらに、一旦修正されたイメージデータをさらに修正する場合は、オペレータが修正用のボタンをクリックすると、図7(d)に示すように、既に行われた修正を反映させたイメージデータが表示される。オペレータはその画像上でデータを修正することができる。
【0129】
入力イメージデータの修正処理では、信頼度が低い文字のみや信頼度が低い文字が含まれるデータ項目のみを修正対象とすることもできる。すなわち、CPU100が信頼度表示手段して働いて、上記表示画面上のイメージデータに対して、文字認識による信頼度に応じた識別表示を行う。この識別表示は、データ項目毎または文字毎に認識結果の信頼度(認識失敗を含む)に応じて、例えばイメージデータの表示色を変更し、反転表示し、強調文字(太文字)とし、アンダーラインなどの文字飾りを付すことにより行う。これにより、オペレータは、誤認識の可能性が高い文字を確認しながら、信頼度が低い文字のみや信頼度が低い文字が含まれているデータ項目のみを選択して効率的な修正を行うことができる。したがって、オペレータは簡単かつ直観的にイメージデータを修正できる。
【0130】
(実施の形態4)
上述のデータ入力装置の処理、つまり文字認識を行って入力イメージデータから項目相当データを抽出し、抽出結果に基づいてデータ項目に対応するアプリケーションを特定し、入力イメージデータをその特定されたアプリケーションに分類する一連の処理は、比較的時間がかかる処理である。そこで、座標入力処理や他のプログラムの処理が機能していない期間に、そのような時間がかかる抽出と分類の処理を行うように制御するのが望ましい。このように制御することにより、分類に必要な時間が長くなっても、他の処理に与える影響が少なくなる。
【0131】
また、このデータ入力装置から入力イメージデータを通信手段9によってサーバ(図示せず)へ転送して、そのサーバに、上述のような抽出と分類の処理を行わせる制御を行っても良い。そして、サーバによる分類結果をこのデータ入力装置に転送する。サーバは、十分な辞書パターンや、個人に適応した辞書を使うなど、高性能な認識処理機能を持つことができ、携帯情報機器で上述のような抽出と分類の処理を行う場合に比して、抽出と分類の精度(信頼度)を高めることができる。
【0132】
さらに、上記制御を行っている場合、図9中に示すように、上述の抽出と分類の処理の実行状況を示す実行ステータスをアイコンで表示して、オペレータに報知する。具体的には、表示画面101の下部に、アイコンを並べて表示するための実行ステータス表示領域を作成する。そして、1つの入力イメージデータに対して1つのアイコンを割り当て、各アイコンの形状に、次の表2に示すような意味をもたせる。
【0133】
【表2】
Figure 2004046325
【0134】
図9の例では、2つの実行待ちデータ、1つの分類中のデータ、2つの分類完了データがあることを示している。このようにした場合、オペレータはそのアイコンの画像を見ることによって簡単かつ瞬間的に処理の状況を認識できる。
【0135】
また、この例では、分類に失敗した等の分類結果をアイコンの色で表現し、この実行ステータスをアイコンの形状で表現するなどのように、分類結果と実行ステータスとを区別して表示する。このように区別することでオペレータの混乱を防ぐことができる。
【0136】
また、オペレータの指示により、上記実行ステータスを、分類結果を知らせるのと同様に、音やバイブレータによる振動を用いて知らせても良い。このようにした場合、オペレータは機器本体を見なてくも、例えば機器本体をポケットから出すことなく、処理状況を確認できる。画面上、音声、あるいは振動等で示すこともかのうとなる。
【0137】
さらに、このデータ入力装置は、オペレータが任意の入力イメージデータの分類結果を確認できる機能も提供する。例えば、図9のように実行ステータスを表示している画面上において、オペレータが実行完了のステータスを示すアイコン(図9では黒い四角のアイコン)をタップすると、分類されたイメージデータおよびイメージデータがどのアプリケーションに分類されたかを表す分類結果を画面上に表示する。オペレータは分類結果の表示によりイメージデータがどのアプリケーションに分類されたかを確認できる。そして、分類が誤っている場合は、分類可能なアプリケーションのリストから適切なアプリケーションを指示する。
この指示は、分類可能なアプリケーションのリストを画面上にポップアップウインドウを用いて表示し、その中からオペレータがタップ等で選択することで行う。
【0138】
また、このデータ入力装置では、分類先のアプリケーションとは異なるアプリケーションがオペレータによって指示された場合、あるいは、分類が完了していないか未分類となった入力イメージデータに対して明示的に分類すべきアプリケーションがオペレータによって指示された場合、次のような処理が行われる。
【0139】
すなわち、該当する入力イメージデータから、オペレータによって指示されたアプリケーションのキー項目に相当する部分(キー項目相当データ)を抽出して、そのアプリケーションのデータとして記憶領域に格納する。このとき、キー項目相当データが抽出されない場合は、キー項目相当データを空白のまま分類し、キー項目相当データの抽出に失敗していることを、画面上のアイコンの形状や色を変化させることなどでオペレ−タに示す。
【0140】
(実施の形態5)
図10に示すように、タブレット101の表示画面(入力面)の上部に、アプリケーションを特定するためのデータ項目に相当する文字列を手書きするための項目入力領域(図10中に点描で示す矩形の領域)101aを設けるのが望ましい。なお、項目入力領域101aとそれ以外のデータ領域101bとがオペレータに区別できるように表示を行う。オペレータは、アプリケーションを特定するためのデータ項目、例えば日付と日時を表す文字列などをこの項目入力領域101aに手書きし、それ以外のデータはデータ領域101bに手書きするように促される。
【0141】
このデータ入力装置では、入力イメージデータに含まれるストロークデータを抽出して、その始点が項目入力領域101aの内部にあるか、それ以外のデータ領域101bにあるかを判定する。次に、始点が項目入力領域101a内にあるようなストロークのみを抽出対象とし、その抽出結果に基づいて、既述の分類処理を行って入力イメージデータをアプリケーションに分類する。始点が項目入力領域101aの外部にあるようなストロークは、文字でないと判断して、イメージデータのまま保存する。
【0142】
このように、このデータ入力装置では、表示画面内で予め限定された項目入力領域101aに、データ項目に相当するデータが手書きされるようになっている。したがって、入力イメージデータから抽出する対象(特に、文字認識対象)が少なくなって抽出の精度が高まるとともに、抽出処理に要する処理時間が短縮される。また、入力イメージデータうちの項目相当データではない残りの部分(残りのイメージデータ)が、分類処理に悪影響を与えるのが防止される。したがって、分類の精度が高まる。
【0143】
図10に示した入力例では、項目入力領域101aから日付項目相当データとして「2/7」、時刻項目相当データとして「11:00」が抽出される。そして、この2つの項目相当データに基づいて、入力されたデータが「スケジュール帳」のアプリケーションに分類される。このとき、それ以外のデータ領域101bに「1/6」という、日付項目相当データに合致する文字列が存在する。しかし、上述のように、この文字列は文字認識の対象とならないので、分類処理に悪影響を与えることはない。
【0144】
上述の例では、このデータ入力装置が入力イメージデータを分類するのに用いるデータ入力プログラムはROM109に格納されているものとしたが、当然ながらそれに限られるものではない。データ入力プログラムはコンピュータ読み取り可能な記録媒体に格納されていれば良く、例えばCDROM(コンパクトディスク)などに格納されていても良い。
【0145】
【発明の効果】
以上より明らかなように、この発明のデータ入力装置によれば、オペレータの思考を中断させることなく、円滑な手書き入力を可能にすることができる。しかも、一実施形態では、入力したデータをオペレータが容易に修正できる。さらに、一実施形態では、手書き入力したデータが現在どのような状態にあるか(実行ステータス)をオペレータが容易に知ることができる。
【0146】
また、この発明のデータ入力プログラムにしたがって処理を実行すれば、オペレータの思考を中断させることなく、円滑な手書き入力を可能にすることができる。
【0147】
さらに、この発明の記録媒体に記録されたデータ入力プログラムを読み取って実行すれば、オペレータの思考を中断させることなく、円滑な手書き入力を可能にすることができる。
【図面の簡単な説明】
【図1】この発明の一実施形態のデータ入力装置のブロック構成を示す図である。
【図2】上記データ入力装置をハードウェアで構成した例を示す図である。
【図3】上記データ入力装置による処理のフローを示す図である。
【図4】仮想文字領域と文字列領域候補を抽出する仕方を説明する図である。
【図5】文字領域を切り出す仕方を説明する図である。
【図6】キー項目ルールを参照して項目相当データを抽出する仕方を説明する図である。
【図7】入力イメージデータを修正する仕方を説明する図である。
【図8】(a)は入力イメージデータ全体を表示する例を示す図である。(b)は入力イメージデータと同一のものを表示する例を示す図である。(c)は、入力イメージデータ全体から項目相当データを取り除いた残りのイメージデータを、項目相当データから得られた文字列とともに表示する例を示す図である。
【図9】処理の状況を表す実行ステータスを表示した例を示す図である。
【図10】入力面に、アプリケーションを特定するためのデータ項目に相当する文字列を手書きするための項目入力領域を設けた例を示す図である。
【符号の説明】
1 入力手段
2 制御手段
3 記憶手段
4 分類手段
5 項目抽出手段
7 表示手段
8 報知手段
9 通信手段

Claims (16)

  1. それぞれデータ項目で特定される複数のアプリケーションに用いられる情報機器のためのデータ入力装置であって、
    手書きによる入力イメージデータを得る入力手段と、
    上記入力イメージデータからデータ項目に相当する部分を抽出する抽出手段と、
    上記抽出手段による抽出結果に基づいて上記データ項目に対応するアプリケーションを特定して、上記入力イメージデータ又はこのイメージデータを元にして得られたデータを、その特定されたアプリケーションに分類する分類手段を備えたデータ入力装置。
  2. 請求項1に記載のデータ入力装置において、
    上記抽出手段は、上記入力イメージデータを文字認識してそのイメージデータに対応する文字コードを得る文字認識手段を含み、
    上記分類手段は、上記文字認識手段によって得られた文字コードとアプリケーションを特定する所定のデータ項目との対応に基づいて、上記入力イメージデータが分類されるべきアプリケーションを特定することを特徴とするデータ入力装置。
  3. 請求項1に記載のデータ入力装置において、
    上記抽出手段が上記入力イメージデータからデータ項目に相当する部分を抽出できないとき、上記分類手段は、上記入力イメージデータ又はこのイメージデータを元にして得られたデータを未分類にすることを特徴とするデータ入力装置。
  4. 請求項2に記載のデータ入力装置において、
    上記入力イメージデータと、アプリケーションを特定したデータ項目に対応する文字コードとを、分類先のアプリケーション毎に記憶する記憶手段を備えたことを特徴とするデータ入力装置。
  5. 請求項4に記載のデータ入力装置において、
    上記入力イメージデータのうちアプリケーションを特定したデータ項目に相当する部分に、上記イメージデータ全体に対してその部分を識別するための識別データを付与する手段を備えたことを特徴とするデータ入力装置。
  6. 請求項1に記載のデータ入力装置において、
    上記分類手段による分類結果をオペレータに知らせる結果報知手段と、
    上記入力イメージデータ又はこのイメージデータを元にして得られたデータを、オペレータによる指示に応じてアプリケーションに分類し直す再分類手段を備えたことを特徴とするデータ入力装置。
  7. 請求項1に記載のデータ入力装置において、
    上記抽出手段は、上記入力イメージデータから、データ項目としてオペレータが指示したキー項目に相当する部分を抽出することを特徴とするデータ入力装置。
  8. 請求項1に記載のデータ入力装置において、
    上記抽出手段が上記入力イメージデータからのデータ項目に相当する部分の抽出に失敗したとき、分類に失敗した旨をオペレータに知らせる結果報知手段を備えたことを特徴とするデータ入力装置。
  9. 請求項2に記載のデータ入力装置において、
    上記文字認識手段が上記入力イメージデータを文字認識して得た文字コードであってデータ項目を表す文字に相当するものの信頼度が所定レベル以下であるとき、その旨をオペレータに知らせる結果報知手段を備えたことを特徴とするデータ入力装置。
  10. 請求項2に記載のデータ入力装置において、
    上記入力イメージデータを画面上に表示する表示手段と、
    上記画面上のイメージデータに対して、上記文字認識手段による認識結果の信頼度に応じた識別表示を行う信頼度表示手段と、
    上記入力イメージデータの修正を許容する制御を行う制御手段を備えたことを特徴とするデータ入力装置。
  11. 請求項10に記載のデータ入力装置において、
    上記表示手段に、上記画面上のイメージデータに対して修正を受けた部分を上書きして表示させる制御を行う制御手段を備えたことを特徴とするデータ入力装置。
  12. 請求項1に記載のデータ入力装置において、
    上記抽出手段と分類手段を動作させるプログラム以外の他のプログラムが機能していない期間に、上記抽出手段と分類手段を動作させる制御を行う制御手段と、
    上記抽出手段と分類手段による処理の状況を表す実行ステータスを、オペレータに知らせる状況報知手段を備えたことを特徴とするデータ入力装置。
  13. 請求項12に記載のデータ入力装置において、
    上記入力イメージデータを、このデータ入力装置の外部のサーバへ転送するための通信手段を備え、
    上記サーバは、上記イメージデータのうちアプリケーションを特定するデータ項目に相当する部分を抽出するとともに、上記イメージデータ又はこのイメージデータを元にして得られたデータを、上記データ項目によって特定されるアプリケーションに分類する処理を行うようになっており、
    上記サーバによる上記処理の状況を表す実行ステータスを、オペレータに知らせる状況報知手段を備えたことを特徴とするデータ入力装置。
  14. 請求項1に記載のデータ入力装置において、
    上記入力手段は、オペレータが手書きを行う入力面内に、データ項目に相当するデータが手書きされるべき項目入力領域を有することを特徴とするデータ入力装置。
  15. それぞれデータ項目で特定される複数のアプリケーションに用いられる情報機器のためのデータ入力プログラムであって、
    手書きによる入力イメージデータを得る入力処理と、
    上記入力イメージデータからデータ項目に相当する部分を抽出する抽出処理と、
    上記抽出処理による抽出結果に基づいて上記データ項目に対応するアプリケーションを特定して、上記入力イメージデータ又はこのイメージデータを元にして得られたデータを、その特定されたアプリケーションに分類する分類処理とを、上記情報機器に実行させるためのデータ入力プログラム。
  16. 請求項15に記載のデータ入力プログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2002199786A 2002-07-09 2002-07-09 データ入力装置、データ入力プログラムおよびデータ入力プログラムを記録した記録媒体 Pending JP2004046325A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002199786A JP2004046325A (ja) 2002-07-09 2002-07-09 データ入力装置、データ入力プログラムおよびデータ入力プログラムを記録した記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002199786A JP2004046325A (ja) 2002-07-09 2002-07-09 データ入力装置、データ入力プログラムおよびデータ入力プログラムを記録した記録媒体

Publications (1)

Publication Number Publication Date
JP2004046325A true JP2004046325A (ja) 2004-02-12

Family

ID=31706833

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002199786A Pending JP2004046325A (ja) 2002-07-09 2002-07-09 データ入力装置、データ入力プログラムおよびデータ入力プログラムを記録した記録媒体

Country Status (1)

Country Link
JP (1) JP2004046325A (ja)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005283418A (ja) * 2004-03-30 2005-10-13 Sysmex Corp 標本画像の表示方法および標本画像表示用プログラム
JP2008532181A (ja) * 2005-03-01 2008-08-14 アイアールエム・リミテッド・ライアビリティ・カンパニー 企業データへのアクセス、注釈及びシェアリング方法及びシステム
JP2009026336A (ja) * 2008-10-22 2009-02-05 Fujitsu Ltd 手書き情報入力装置
US7925070B2 (en) 2004-03-30 2011-04-12 Sysmex Corporation Method for displaying virtual slide and terminal device for displaying virtual slide
JP2014086054A (ja) * 2012-10-26 2014-05-12 Brother Ind Ltd 情報管理装置、及び情報管理プログラム
WO2014122794A1 (ja) * 2013-02-07 2014-08-14 株式会社 東芝 電子機器および手書き文書処理方法
JP2014211752A (ja) * 2013-04-18 2014-11-13 ブラザー工業株式会社 情報処理装置、及びプログラム
WO2015107692A1 (ja) * 2014-01-20 2015-07-23 株式会社 東芝 手書きのための電子機器および方法
US9117125B2 (en) 2013-02-07 2015-08-25 Kabushiki Kaisha Toshiba Electronic device and handwritten document processing method
CN105247501A (zh) * 2013-04-10 2016-01-13 鲁斯兰·阿尔伯特维奇·施格布特蒂诺夫 处理日历应用的输入流的系统和方法
WO2016181565A1 (ja) * 2015-05-14 2016-11-17 富士通株式会社 文字入力受付方法、文字入力受付装置及び文字入力受付プログラム
JP2017201561A (ja) * 2017-07-26 2017-11-09 ラスラン・アルベルトヴィチ・シガブトディノフ カレンダアプリケーションの入力ストリームを処理するシステムおよび方法
JP2017215807A (ja) * 2016-05-31 2017-12-07 富士ゼロックス株式会社 プログラムおよび情報処理装置
JP2021144307A (ja) * 2020-03-10 2021-09-24 富士フイルムビジネスイノベーション株式会社 情報処理装置及びプログラム
JP2023005493A (ja) * 2021-06-29 2023-01-18 株式会社リコー 表示装置、プログラム、領域変更方法
WO2023053950A1 (ja) * 2021-09-29 2023-04-06 株式会社 東芝 システム及び情報処理方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04320573A (ja) * 1991-04-19 1992-11-11 Omron Corp 文字データ分類装置
JPH0573725A (ja) * 1991-09-17 1993-03-26 Sony Corp 手書き文字・図形認識装置
JP2000222522A (ja) * 1999-02-04 2000-08-11 Matsushita Electric Ind Co Ltd 認識処理装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04320573A (ja) * 1991-04-19 1992-11-11 Omron Corp 文字データ分類装置
JPH0573725A (ja) * 1991-09-17 1993-03-26 Sony Corp 手書き文字・図形認識装置
JP2000222522A (ja) * 1999-02-04 2000-08-11 Matsushita Electric Ind Co Ltd 認識処理装置

Cited By (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4578135B2 (ja) * 2004-03-30 2010-11-10 シスメックス株式会社 標本画像の表示方法および標本画像表示用プログラム
US7925070B2 (en) 2004-03-30 2011-04-12 Sysmex Corporation Method for displaying virtual slide and terminal device for displaying virtual slide
JP2005283418A (ja) * 2004-03-30 2005-10-13 Sysmex Corp 標本画像の表示方法および標本画像表示用プログラム
JP2008532181A (ja) * 2005-03-01 2008-08-14 アイアールエム・リミテッド・ライアビリティ・カンパニー 企業データへのアクセス、注釈及びシェアリング方法及びシステム
JP2009026336A (ja) * 2008-10-22 2009-02-05 Fujitsu Ltd 手書き情報入力装置
JP4584329B2 (ja) * 2008-10-22 2010-11-17 富士通株式会社 手書き情報入力装置
JP2014086054A (ja) * 2012-10-26 2014-05-12 Brother Ind Ltd 情報管理装置、及び情報管理プログラム
US9117125B2 (en) 2013-02-07 2015-08-25 Kabushiki Kaisha Toshiba Electronic device and handwritten document processing method
WO2014122794A1 (ja) * 2013-02-07 2014-08-14 株式会社 東芝 電子機器および手書き文書処理方法
JP2014153865A (ja) * 2013-02-07 2014-08-25 Toshiba Corp 電子機器および手書き文書処理方法
CN104956378A (zh) * 2013-02-07 2015-09-30 株式会社东芝 电子设备和手写文档处理方法
JP2016524733A (ja) * 2013-04-10 2016-08-18 ラスラン・アルベルトヴィチ・シガブトディノフ カレンダアプリケーションの入力ストリームを処理するシステムおよび方法
KR20190107682A (ko) * 2013-04-10 2019-09-20 루슬란 알베르토비치 시가부디노 캘린더 애플리케이션들의 입력 스트림들을 프로세싱하기 위한 시스템들 및 방법들
CN105247501A (zh) * 2013-04-10 2016-01-13 鲁斯兰·阿尔伯特维奇·施格布特蒂诺夫 处理日历应用的输入流的系统和方法
US12118305B2 (en) 2013-04-10 2024-10-15 Ruslan SHIGABUTDINOV Systems and methods for processing input streams of calendar applications
US11074409B2 (en) 2013-04-10 2021-07-27 Ruslan SHIGABUTDINOV Systems and methods for processing input streams of calendar applications
KR102149478B1 (ko) * 2013-04-10 2020-08-28 루슬란 알베르토비치 시가부디노 캘린더 애플리케이션들의 입력 스트림들을 프로세싱하기 위한 시스템들 및 방법들
US9513800B2 (en) 2013-04-18 2016-12-06 Brother Kogyo Kabushiki Kaisha Information processing apparatus and medium for correcting the start and end time data based on handwriting user input
JP2014211752A (ja) * 2013-04-18 2014-11-13 ブラザー工業株式会社 情報処理装置、及びプログラム
JPWO2015107692A1 (ja) * 2014-01-20 2017-03-23 株式会社東芝 手書きのための電子機器および方法
WO2015107692A1 (ja) * 2014-01-20 2015-07-23 株式会社 東芝 手書きのための電子機器および方法
WO2016181565A1 (ja) * 2015-05-14 2016-11-17 富士通株式会社 文字入力受付方法、文字入力受付装置及び文字入力受付プログラム
JPWO2016181565A1 (ja) * 2015-05-14 2018-03-29 富士通株式会社 文字入力受付方法、文字入力受付装置及び文字入力受付プログラム
CN107450825A (zh) * 2016-05-31 2017-12-08 富士施乐株式会社 信息处理装置和方法
JP2017215807A (ja) * 2016-05-31 2017-12-07 富士ゼロックス株式会社 プログラムおよび情報処理装置
JP2017201561A (ja) * 2017-07-26 2017-11-09 ラスラン・アルベルトヴィチ・シガブトディノフ カレンダアプリケーションの入力ストリームを処理するシステムおよび方法
JP2021144307A (ja) * 2020-03-10 2021-09-24 富士フイルムビジネスイノベーション株式会社 情報処理装置及びプログラム
JP2023005493A (ja) * 2021-06-29 2023-01-18 株式会社リコー 表示装置、プログラム、領域変更方法
US20230043998A1 (en) * 2021-06-29 2023-02-09 Takuroh YOSHIDA Display apparatus, information processing method, and recording medium
JP7384191B2 (ja) 2021-06-29 2023-11-21 株式会社リコー 表示装置、プログラム、領域変更方法
WO2023053950A1 (ja) * 2021-09-29 2023-04-06 株式会社 東芝 システム及び情報処理方法

Similar Documents

Publication Publication Date Title
US7206737B2 (en) Pen tip language and language palette
US9360955B2 (en) Text entry for electronic devices
JP2004046325A (ja) データ入力装置、データ入力プログラムおよびデータ入力プログラムを記録した記録媒体
US20070255706A1 (en) Information retrieval apparatus
KR100704093B1 (ko) 콤포넌트 기반의, 적응성 스트로크 명령 시스템
US10996843B2 (en) System and method for selecting graphical objects
JP2006178960A (ja) 可能部分提示方法、プログラム、及び情報処理システム
JP2007317022A (ja) 手書文字処理装置及び手書文字処理方法
JPH086706A (ja) 電子情報機器
TWI464678B (zh) 用於手寫輸入亞洲語言的方法及系統
JPH07182446A (ja) 機械作動方法
JP2007265171A (ja) 入力装置およびその方法
JP2010157107A (ja) 業務文書処理装置
US20170322913A1 (en) Stylizing text by replacing glyph with alternate glyph
CN115004262B (zh) 处理手写中列表的方法和计算装置
JP2006065477A (ja) 文字認識装置
JP3855696B2 (ja) 手書き文字入力装置及びそれを実現するプログラム
JP7496699B2 (ja) 表示装置
JPH07146918A (ja) 手書き文字認識装置
JP7331551B2 (ja) 情報処理装置及び情報処理プログラム
JP2013214187A (ja) 文字入力装置、文字入力装置の制御方法、制御プログラム、および記録媒体
JP4770285B2 (ja) 画像処理装置及びその制御プログラム
CN113111881A (zh) 信息处理装置及记录媒体
CN104463086B (zh) 一种信息处理方法及设备
JP2019020841A (ja) 情報処理装置及び情報処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050525

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081001

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081007

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081205

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090210