JP6189451B2 - 手書き文書情報を処理するための電子機器および方法 - Google Patents

手書き文書情報を処理するための電子機器および方法 Download PDF

Info

Publication number
JP6189451B2
JP6189451B2 JP2015551360A JP2015551360A JP6189451B2 JP 6189451 B2 JP6189451 B2 JP 6189451B2 JP 2015551360 A JP2015551360 A JP 2015551360A JP 2015551360 A JP2015551360 A JP 2015551360A JP 6189451 B2 JP6189451 B2 JP 6189451B2
Authority
JP
Japan
Prior art keywords
stroke
input
handwritten
character string
handwritten character
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015551360A
Other languages
English (en)
Other versions
JPWO2015083290A1 (ja
Inventor
邦雄 馬場
邦雄 馬場
永田 純一
純一 永田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Publication of JPWO2015083290A1 publication Critical patent/JPWO2015083290A1/ja
Application granted granted Critical
Publication of JP6189451B2 publication Critical patent/JP6189451B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/18Extraction of features or characteristics of the image
    • G06V30/1801Detecting partial patterns, e.g. edges or contours, or configurations, e.g. loops, corners, strokes or intersections
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/32Digital ink
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/32Digital ink
    • G06V30/36Matching; Classification
    • G06V30/387Matching; Classification using human interaction, e.g. selection of the best displayed recognition candidate

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • User Interface Of Digital Computer (AREA)
  • Character Discrimination (AREA)

Description

実施形態は、手書き文書情報を処理する技術に関する。
近年、タブレット、PDA、スマートフォンといった種々の電子機器が開発されている。この種の電子機器の多くは、ユーザによる入力操作を容易にするために、タッチスクリーンディスプレイを備えている。
また最近では、手書き文字列を扱うことが可能な電子機器も開発されている。
特開2005−25566号公報
しかし、従来では、スムーズに手書き文字列を入力するための技術については考慮されていないのが現状である。
本発明の一形態の目的は、スムーズに手書き文字列を入力することができる電子機器および方法を提供することである。
実施形態によれば、タッチスクリーンディスプレイを備える電子機器は、前記タッチスクリーンディスプレイ上から手書き入力する入力手段と、過去に入力されたストロークの集合である手書き文字列を候補ストロークデータとして記憶する候補ストロークデータベースと、表示処理手段と、処理手段とを具備する。前記表示処理手段は、前記入力手段より手書きによって入力されストロークを前記タッチスクリーンディスプレイ上に表示する。前記処理手段は、手書き入力中の仮ストロークに対応する1以上の手書き文字列を前記候補ストロークデータベースから取得して前記1以上の手書き文字列を入力が予測される手書き文字列の候補として前記タッチスクリーンディスプレイ上に表示すると共に、前記仮ストロークが入力される前に手書きによって入力された手書き文字列の文字サイズ並びに文字間隔を用いて形態を調整する。前記表示処理手段と前記処理手段協同してユーザによって前記1以上の手書き文字列から選択された選択手書き文字列の文字サイズ並びに文字間隔前記仮ストロークが入力される前に手書きによって入力された手書き文字列の文字サイズ並びに文字間隔を用いて調整して前記ストロークの代わりに前記タッチスクリーンディスプレイ上に表示す
図1は実施形態に係る電子機器の外観を示す例示的な斜視図である。 図2は図1の電子機器と外部装置との連携動作を示す例示的な図である。 図3は図1の電子機器のタッチスクリーンディスプレイ上に手書きされる手書き文書の例を示す図である。 図4は図1の電子機器によって生成される、図3の手書き文書に対応する時系列情報を説明するための例示的な図である。 図5は図1の電子機器のシステム構成を示す例示的なブロック図である。 図6は図1の電子機器によって実行される手書きノートアプリケーションプログラムの機能構成を示す例示的なブロック図である。 図7は図1の電子機器によって表示される候補ストロークの例を説明するための例示的な図である。 図8は図7の状態においてさらにストロークが入力された場合に図1の電子機器によって新たに表示される候補ストロークの例を説明するための例示的な図である。 図9は図1の電子機器によって実行される手書きストローク補完動作を説明するための例示的な図である。 図10は図1の電子機器によって実行される、選択された候補ストローク(手書き文字列)のサイズ、文字間隔を調整する動作を説明するための例示的な図である。 図11は入力されたストロークに先行するストローク列(手書き文字列)の平均文字間隔を算出する動作を説明するための例示的な図である。 図12は図1の電子機器によって実行される、選択された候補ストローク(手書き文字列)のサイズ、開始位置を調整する動作を説明するための例示的な図である。 図13は図1の電子機器によって実行される、選択された候補ストローク(手書き文字列)の文字間隔を調整する動作を説明するための例示的な図である。 図14は文字間隔が調整された手書き文字列を示す例示的な図である。 図15は図1の電子機器によって実行される筆跡補完処理の手順を説明するための例示的なフローチャートである。
以下、実施の形態について図面を参照して説明する。
図1は、一実施形態に係る電子機器の外観を示す斜視図である。この電子機器は、例えば、ペン(スタイラス)または指によって手書き入力可能なペン・ベースの携帯型電子機器である。この電子機器は、タブレットコンピュータ、ノートブック型パーソナルコンピュータ、スマートフォン、PDA等として実現され得る。以下では、この電子機器がタブレットコンピュータ10として実現されている場合を想定する。タブレットコンピュータ10は、タブレットまたはスレートコンピュータとも称される携帯型電子機器である。タブレットコンピュータ10は、図1に示すように、本体11とタッチスクリーンディスプレイ17とを備える。本体11は、薄い箱形の筐体を有している。タッチスクリーンディスプレイ17は、本体11の上面に重ね合わさるように取り付けられている。
タッチスクリーンディスプレイ17には、フラットパネルディスプレイと、センサとが組み込まれている。センサは、フラットパネルディスプレイの画面上のペンまたは指の接触位置を検出するように構成されている。フラットパネルディスプレイは、例えば、液晶表示装置(LCD)であってもよい。センサとしては、例えば、静電容量方式のタッチパネル、電磁誘導方式のデジタイザなどを使用することができる。以下では、デジタイザとタッチパネルの2種類のセンサの双方がタッチスクリーンディスプレイ17に組み込まれている場合を想定する。
デジタイザは、例えば、フラットパネルディスプレイの画面の下側に配置される。タッチパネルは、例えば、フラットパネルディスプレイの画面上に配置される。このタッチスクリーンディスプレイ17は、指を使用した画面に対するタッチ操作のみならず、ペン100を使用した画面に対するタッチ操作も検出することができる。ペン100は例えばデジタイザペン(電磁誘導ペン)であってもよい。ユーザは、外部オブジェクト(ペン100又は指)を使用してタッチスクリーンディスプレイ17上で手書き入力操作を行うことができる。手書き入力操作中においては、画面上の外部オブジェクト(ペン100又は指)の動きの軌跡、つまり手書きによって入力されるストロークの軌跡がリアルタイムに描画され、これによって各ストロークの軌跡が画面上に表示される。外部オブジェクトが画面に接触されている間の外部オブジェクトの動きの軌跡が1ストロークに相当する。手書きされた文字または図形などに対応する多数のストロークの集合、つまり多数の軌跡(筆跡)の集合が手書き文書を構成する。
本実施形態では、この手書き文書は、イメージデータではなく、各ストロークの軌跡の座標列とストローク間の順序関係とを示す時系列情報として記憶媒体に保存される。この時系列情報の詳細は図4を参照して後述するが、この時系列情報は、複数のストロークが手書きされた順を示し、且つ複数のストロークにそれぞれ対応する複数のストロークデータを含む。換言すれば、この時系列情報は、複数のストロークにそれぞれ対応する時系列のストロークデータの集合を意味する。各ストロークデータは、ある一つのストロークに対応し、このストロークの軌跡上の点それぞれに対応する座標データ系列(時系列座標)を含む。これらストロークデータの並びの順序は、ストロークそれぞれが手書きされた順序つまり筆順に相当する。
タブレットコンピュータ10は、記憶媒体から既存の任意の時系列情報(手書き文書情報)を読み出し、この時系列情報に対応する手書き文書、つまりこの時系列情報によって示される複数のストロークそれぞれに対応する軌跡を画面上に表示することができる。さらに、タブレットコンピュータ10は編集機能を有している。この編集機能は、「消しゴム」ツール、「範囲指定」ツール、および他の各種ツール等を用いたユーザによる編集操作に応じて、表示中の手書き文書内の任意のストロークまたは任意の手書き文字等を削除または移動することができる。さらに、この編集機能は、幾つかの手書き操作の履歴を取り消す機能も含んでいる。
さらに、タブレットコンピュータ10は、筆跡補完(ストローク推薦)機能も有している。この筆跡補完機能は、多くの文字列を手書きによって容易に入力できるようにするために、ユーザの手書き入力操作を補助するための機能である。
図2は、タブレットコンピュータ10と外部装置との連携動作の例を示している。タブレットコンピュータ10は、パーソナルコンピュータ1やクラウドと連携することができる。すなわち、タブレットコンピュータ10は、無線LANなどの無線通信デバイスを備えており、パーソナルコンピュータ1との無線通信を実行することができる。さらに、タブレットコンピュータ10は、インターネット上のサーバ2との通信を実行することもできる。サーバ2はオンラインストレージサービス、他の各種クラウドコンピューティングサービスを実行するサーバであってもよい。
パーソナルコンピュータ1はハードディスクドライブ(HDD)のようなストレージデバイスを備えている。タブレットコンピュータ10は、時系列情報(手書き文書)をネットワーク越しにパーソナルコンピュータ1に送信して、パーソナルコンピュータ1のHDDに記録することができる(アップロード)。
これにより、タブレットコンピュータ10内のストレージの容量が少ない場合でも、タブレットコンピュータ10が多数の時系列情報(手書き文書)あるいは大容量の時系列情報(手書き文書)を扱うことが可能となる。
さらに、タブレットコンピュータ10は、パーソナルコンピュータ1のHDDに記録されている任意の1以上の手書き文書を読み出すことすができる(ダウンロード)。タブレットコンピュータ10は、この読み出した手書き文書によって示されるストロークそれぞれの軌跡をタブレットコンピュータ10のタッチスクリーンディスプレイ17の画面に表示することができる。この場合、複数の手書き文書それぞれのページを縮小することによって得られるサムネイルの一覧をタッチスクリーンディスプレイ17の画面上に表示してもよいし、これらサムネイルから選ばれた1ページをタッチスクリーンディスプレイ17の画面上に通常サイズで表示してもよい。
さらに、タブレットコンピュータ10が通信する先はパーソナルコンピュータ1ではなく、上述したように、ストレージサービスなどを提供するクラウド上のサーバ2であってよい。タブレットコンピュータ10は、手書き文書をネットワーク越しにサーバ2に送信して、サーバ2のストレージデバイス2Aに記録することができる(アップロード)。さらに、タブレットコンピュータ10は、サーバ2のストレージデバイス2Aに記録されている任意の手書き文書を読み出すことができる(ダウンロード)。タブレットコンピュータ10は、この読み出した手書き文書によって示されるストロークそれぞれの軌跡をタブレットコンピュータ10のタッチスクリーンディスプレイ17の画面に表示することができる。
このように、本実施形態では、手書き文書が格納される記憶媒体は、タブレットコンピュータ10内のストレージデバイス、パーソナルコンピュータ1内のストレージデバイス、サーバ2のストレージデバイスのいずれであってもよい。
次に、図3および図4を参照して、ユーザによって手書きされたストローク(文字、マーク、図形(線図)、表など)と手書き文書との関係について説明する。図3は、ペン100などを使用してタッチスクリーンディスプレイ17上に手書きされる手書き文字列の例を示している。
手書き文書では、一旦手書きされた文字や図形などの上に、さらに別の文字や図形などが手書きされるというケースが多い。図3においては、「ABC」の手書き文字列が「A」、「B」、「C」の順番で手書きされ、この後に、手書きの矢印が、手書き文字「A」のすぐ近くに手書きされた場合が想定されている。
手書き文字「A」は、ペン100などを使用して手書きされる2つのストローク(「∧」形状の軌跡、「−」形状の軌跡)によって、つまり2つの軌跡によって表現される。最初に手書きされる「∧」形状のペン100の軌跡は例えば等時間間隔でリアルタイムにサンプリングされ、これによって「∧」形状のストロークの時系列座標SD11、SD12、…SD1nが得られる。同様に、次に手書きされる「−」形状のペン100の軌跡も等時間間隔でリアルタイムにサンプリングされ、これによって「−」形状のストロークの時系列座標SD21、SD22、…SD2nが得られる。
手書き文字「B」は、ペン100などを使用して手書きされた2つのストローク、つまり2つの軌跡によって表現される。手書き文字「C」は、ペン100などを使用して手書きされた1つのストローク、つまり1つの軌跡によって表現される。手書きの「矢印」は、ペン100などを使用して手書きされた手書きされた2つのストローク、つまり2つの軌跡によって表現される。
図4は、図3の手書き文字列に対応する時系列情報200を示している。時系列情報200は、複数のストロークデータSD1、SD2、…、SD7を含む。時系列情報200内においては、これらストロークデータSD1、SD2、…、SD7は、筆跡順に、つまり複数のストロークが手書きされた順に時系列に並べられている。
時系列情報200において、先頭の2つのストロークデータSD1、SD2は、手書き文字「A」の2つのストロークをそれぞれ示している。3番目と4番目のストロークデータSD3、SD4は、手書き文字「B」を構成する2つのストロークをそれぞれ示している。5番目のストロークデータSD5は、手書き文字「C」を構成する1つのストロークを示している。6番目と7番目のストロークデータSD6、SD7は、手書き「矢印」を構成する2つのストロークをそれぞれ示している。
各ストロークデータは、一つのストロークに対応する座標データ系列(時系列座標)、つまり一つのストロークの軌跡上の複数の点それぞれに対応する複数の座標を含む。各ストロークデータにおいては、複数の座標はストロークが書かれた順に時系列に並べられている。例えば、手書き文字「A」に関しては、ストロークデータSD1は、手書き文字「A」の「∧」形状のストロークの軌跡上の点それぞれに対応する座標データ系列(時系列座標)、つまりn個の座標データSD11、SD12、…SD1nを含む。ストロークデータSD2は、手書き文字「A」の「−」形状のストロークの軌跡上の点それぞれに対応する座標データ系列、つまりn個の座標データSD21、SD22、…SD2nを含む。なお、座標データの数はストロークデータ毎に異なっていてもよい。すなわち、ペン100の軌跡は等時間間隔でリアルタイムにサンプリングされるので、ストロークの長さが長いほど、あるいはストロークの手書き速度が遅いほど、座標データの数は増加する。
各座標データは、対応する軌跡内のある1点に対応するX座標およびY座標を示す。例えば、座標データSD11は、「∧」形状のストロークの始点のX座標(X11)およびY座標(Y11)を示す。SD1nは、「∧」形状のストロークの終点のX座標(X1n)およびY座標(Y1n)を示す。
さらに、各座標データは、その座標に対応する点が手書きされた時点に対応するタイムスタンプ情報Tを含んでいてもよい。手書きされた時点は、絶対時間(例えば、年月日時分秒)またはある時点を基準とした相対時間のいずれであってもよい。例えば、各ストロークデータに、ストロークが書き始められた絶対時間(例えば、年月日時分秒)をタイムスタンプ情報として付加し、さらに、ストロークデータ内の各座標データに、絶対時間との差分を示す相対時間をタイムスタンプ情報Tとして付加してもよい。
このように、各座標データにタイムスタンプ情報Tが追加された時系列情報を使用することにより、ストローク間の時間的関係をより精度よく表すことができる。
さらに、各座標データには、筆圧を示す情報(Z)を追加してもよい。
図4で説明したような構造を有する時系列情報200は、個々のストロークの筆跡だけでなく、ストローク間の時間的関係も表すことができる。したがって、この時系列情報200を使用することにより、図3に示すようにたとえ手書き「矢印」の先端部が手書き文字「A」上に重ねてまたは手書き文字「A」に近接して書かれたとしても、手書き文字「A」と手書き「矢印」の先端部とを異なる文字または図形として扱うことが可能となる。なお、タイムスタンプ情報Tはオプション情報として使用してもよく、各々がタイムスタンプ情報Tを有さない複数のストロークデータを上述の時系列情報として使用しても良い。
さらに、本実施形態では、上述したように、手書き文書は、イメージまたは文字認識結果ではなく、時系列のストロークデータの集合として記憶されるので、手書き文字の言語に依存せずに手書き文字を扱うことができる。よって、本実施形態の時系列情報200の構造は、使用言語の異なる世界中の様々な国で共通に使用できる。
図5は、タブレットコンピュータ10のシステム構成を示す。
タブレットコンピュータ10は、図5に示されるように、CPU101、システムコントローラ102、主メモリ103、グラフィクスコントローラ104、BIOS−ROM105、不揮発性メモリ106、無線通信デバイス107、エンベデッドコントローラ(EC)108等を備える。
CPU101は、タブレットコンピュータ10内の各種モジュールの動作を制御するプロセッサである。CPU101は、ストレージデバイスである不揮発性メモリ106から主メモリ103にロードされる各種コンピュータプログラムを実行する。これらプログラムには、オペレーティングシステム(OS)201、および各種アプリケーションプログラムが含まれている。アプリケーションプログラムには、手書きノートアプリケーションプログラム202が含まれている。この手書きノートアプリケーションプログラム202は、上述の手書き文書を作成および表示する機能、手書き文書を編集する機能、および筆跡補完機能等を有している。
また、CPU101は、BIOS−ROM105に格納された基本入出力システム(BIOS)も実行する。BIOSは、ハードウェア制御のためのプログラムである。
システムコントローラ102は、CPU101のローカルバスと各種コンポーネントとの間を接続するデバイスである。システムコントローラ102には、主メモリ103をアクセス制御するメモリコントローラも内蔵されている。また、システムコントローラ102は、PCI EXPRESS規格のシリアルバスなどを介してグラフィクスコントローラ104との通信を実行する機能も有している。
グラフィクスコントローラ104は、タブレットコンピュータ10のディスプレイモニタとして使用されるLCD17Aを制御する表示コントローラである。このグラフィクスコントローラ104によって生成される表示信号はLCD17Aに送られる。LCD17Aは、表示信号に基づいて画面イメージを表示する。このLCD17A上にはタッチパネル17Bおよびデジタイザ17Cが配置されている。タッチパネル17Bは、LCD17Aの画面上で入力を行うための静電容量式のポインティングデバイスである。指が接触される画面上の接触位置および接触位置の動き等はタッチパネル17Bによって検出される。デジタイザ17CはLCD17Aの画面上で入力を行うための電磁誘導式のポインティングデバイスである。ペン100が接触される画面上の接触位置および接触位置の動き等はデジタイザ17Cによって検出される。
無線通信デバイス107は、無線LANまたは3G移動通信などの無線通信を実行するように構成されたデバイスである。EC108は、電力管理のためのエンベデッドコントローラを含むワンチップマイクロコンピュータである。EC108は、ユーザによるパワーボタンの操作に応じてタブレットコンピュータ10を電源オンまたは電源オフする機能を有している。
次に、図6を参照して、手書きノートアプリケーションプログラム202の機能構成について説明する。
手書きノートアプリケーションプログラム202は、ペン軌跡表示処理部301、時系列情報生成部302、編集処理部303、ページ保存処理部304、ページ取得処理部305、手書き文書表示処理部306、および筆跡補完処理部308等を備える。
手書きノートアプリケーションプログラム202は、タッチスクリーンディスプレイ17を用いて入力されるストロークデータを使用することによって、手書き文書(手書きデータ)の作成、表示、編集等を行う。タッチスクリーンディスプレイ17は、「タッチ」、「移動(スライド)」、「リリース」等のイベントの発生を検出するように構成されている。「タッチ」は、画面上に外部オブジェクトが接触したことを示すイベントである。「移動(スライド)」は、画面上に外部オブジェクトが接触されている間に接触位置が移動されたことを示すイベントである。「リリース」は、画面から外部オブジェクトが離されたことを示すイベントである。
ペン軌跡表示処理部301および時系列情報生成部302は、タッチスクリーンディスプレイ17によって発生される「タッチ」または「移動(スライド)」のイベントを受信し、これによって手書き入力操作を検出する。「タッチ」イベントには、接触位置の座標が含まれている。「移動(スライド)」イベントにも、移動先の接触位置の座標が含まれている。したがって、ペン軌跡表示処理部301および時系列情報生成部302は、タッチスクリーンディスプレイ17から、接触位置の動きの軌跡に対応する座標列を受信することができる。
ペン軌跡表示処理部301は、手書きによって入力されるストロークをタッチスクリーンディスプレイ17の画面上に表示するように構成された表示処理部として機能する。ペン軌跡表示処理部301は、タッチスクリーンディスプレイ17から座標列を受信する。そして、この座標列に基づいて、ペン軌跡表示処理部301は、ペン100等を使用した手書き入力操作によって入力される複数のストロークをタッチスクリーンディスプレイ17内のLCD17Aの画面上に表示する。
時系列情報生成部302は、タッチスクリーンディスプレイ17から出力される上述の座標列を受信する。この座標列に基づいて、時系列情報生成部302は、上述の複数のストロークに対応する複数のストロークデータ(時系列情報)を生成する。これらストロークデータ、つまり各ストロークの各点に対応する座標および各ストロークのタイムスタンプ情報は作業メモリ401に一時保存してもよい。
ページ保存処理部304は、複数のストロークに対応する複数のストロークデータを含む手書き文書情報を記憶媒体402内の手書きノートデータベース402Aに保存する。記憶媒体402は、上述したように、タブレットコンピュータ10内のストレージデバイス、パーソナルコンピュータ1内のストレージデバイス、サーバ2のストレージデバイスのいずれであってもよい。
ページ取得処理部305は、記憶媒体402から任意の手書き文書情報を読み出す。読み出された手書き文書情報は手書き文書表示処理部306に送られる。手書き文書表示処理部306は、手書き文書情報を解析し、この解析結果に基づいて、手書き文書情報内の複数のストロークデータによって示される複数のストロークの軌跡を画面上に手書きページとして表示する。
編集処理部303は現在表示中の手書き文書(手書きページ)を編集するための処理を実行する。すなわち、編集処理部303は、タッチスクリーンディスプレイ17上でユーザによって行われる編集操作に応じて、表示されている複数のストローク内の1以上のストロークを削除または移動等するための編集処理を実行する。さらに、編集処理部303は、編集処理の結果を表示中の手書き文書に反映するためにこの手書き文書を更新する。
ユーザは、「消しゴム」ツール等を使用して、表示されている複数のストローク内の任意のストロークを削除することができる。また、ユーザは、画面上の任意の部分を丸または四角によって囲むための「範囲指定」ツールを使用して、表示されている手書きページ内の任意の部分を範囲指定することができる。
筆跡補完処理部308は、上述の筆跡補完機能を実行するように構成された処理部である。筆跡補完処理においては、筆跡補完処理部308は、手書きによって入力されるストロークに対応する1以上のストローク列(手書き文字列)を、過去に入力されたストロークの集合(手書き文書情報)から取得する。そして、筆跡補完処理部308は、取得された1以上のストローク列を、入力可能なストロークの候補(候補ストローク)として画面上に表示するための処理を実行する。
換言すれば、筆跡補完処理部308は、入力されるストロークと手書き文書情報とに基づいて、ユーザが手書きしようとしているストローク列(手書き文字列)を予測する。そして、筆跡補完処理部308は、予測によって得られる幾つかのストローク列(手書き文字列)を候補ストローク(候補手書き文字列)としてユーザに提示する。
例えば、ストローク(手書き文字列)「a」が手書きによって入力された場合には、手書きの語「add」または「access」のような候補がユーザに提示されてもよい。もしユーザによって手書きの語「access」が選択されたならば、この手書きの語「access」が、入力された手書き文字列となる。よって、ユーザは、手書きの語「access」のストローク列を容易に入力することが出来る。
手書き文書情報に格納される手書き文字列の言語はどのような言語であってもよい。利用可能な言語の例は、英語、日本語、中国語、および他の様々な言語を含む。英語の文字列に関しては、ストローク列(手書き文字列)は、ブロック体の文字列に対応するストローク列であってもよいし、筆記体の文字列に対応するストローク列であってもよい。筆記体で手書きされた単語は1つのストロークから構成される場合がある。したがって、筆跡補完処理において手書き文書情報から取得されるストローク列は、必ずしも複数のストロークを含んでいる必要は無く、一つのストロークであってもよい。
入力されたストロークに対応するストローク列の例には、入力されたストロークに類似するストロークを含む複数のストロークや、入力されたストロークに類似するストローク部分を含む1つのストロークがある。例えば、先頭のストローク(または先頭のストローク部分)が、入力されたストロークに類似しているストローク列が手書き文書情報から取得される。
入力されたストロークに対応するストローク列を手書き文書情報から容易に取得できるようにするために、筆跡補完処理部308は、手書きノートデータベース402Aに格納されているストロークの集合(手書き文書情報)に基づいて、候補ストロークデータベース402Bを作成しても良い。
この候補ストロークデータベース402Bにおいては、例えば、単語のような意味のある文字列単位で、ストローク列(ストロークデータ群)と、このストロークデータ群に対応する文字認識結果(文字列)とが格納されていても良い。
この場合、筆跡補完処理部308は、まず、ユーザによって入力されたストロークを文字認識してもよい。そして、筆跡補完処理部308は、候補ストロークデータベース402Bを参照し、この入力されたストロークの文字認識結果(文字列)に前方一致する文字列を見つけ出す。筆跡補完処理部308は、見つけ出した文字列に対応するストローク列(ストロークデータ群)を、入力されたストロークに対応するストローク列として候補ストロークデータベース402Bから取得する。
あるいは、候補ストロークデータベース402Bにおいては、例えば、単語のような意味のある文字列単位で、ストローク列(ストロークデータ群)と、このストロークデータ群に対応する各ストロークの特徴量とが格納されていても良い。あるストロークの特徴量としては、このストロークの手書き特徴を表すことができる任意の特徴を使用することができる。例えば、特徴量としては、ストロークの形状、ストロークの筆画方向、ストロークの傾斜、等を表す特徴量データを使用しても良い。この場合、筆跡補完処理部308は、入力されたストロークの特徴量に類似する特徴量を有するストローク列を候補ストロークデータベース402Bから取得してもよい。
あるいは、候補ストロークデータベース402Bにおいては、例えば、単語のような意味のある文字列単位で、ストローク列(ストロークデータ群)と、このストロークデータ群に対応する文字認識結果(文字列)と、このストロークデータ群に対応する各ストロークの特徴量とが格納されていても良い。
筆跡補完処理部308は、入力されたストロークと、候補ストロークデータベース402Bとに基づいて、ユーザが入力しようとしているストローク列を予測する。この予測の処理では、筆跡補完処理部308は、入力されたストロークに対応する幾つかのストローク列(手書き文字列等)を候補ストロークデータベース402Bから取得する。そして、筆跡補完処理部308は、これらストローク列を、入力が予測される手書き文字列の候補(候補ストローク)として画面上に表示するための処理を実行する。
図7は、入力されるストロークに対応する候補ストロークの例を示す。
ここでは、編集画面600上で行われる手書き入力操作によって、手書き文字「a」に対応するストローク611が入力された場合が想定されている。編集画面600は、手書き文書(手書きページ)を作成および編集するための画面である。
ストローク611が手書きによって入力された場合、筆跡補完処理部308は、この入力されたストローク611(ここでは手書き文字「a」)に対応する幾つかのストローク列(候補ストローク)を候補ストロークデータベース402Bから取得する。そして、筆跡補完処理部308は、これらストローク列それぞれを編集画面600上の候補ストロークリスト501上に表示する。
入力されたストローク611は「未確定ストローク(または仮ストローク)」として扱われる。「未確定ストローク」は手書きページにまだ反映されていないストロークを意味する。「未確定ストローク」は筆跡補完対象のストロークであり、このストロークに基づき予測される候補ストロークがユーザに提示される。入力されたストローク611が「未確定ストローク(仮ストローク)」であることがユーザに分かるように、ストローク611は、現在選択されているペン色とは異なる色、例えば赤色、で表示されるようにしても良い。図7では、赤色のストロークは破線で図示されている。
図7においては、候補ストロークリスト501上に、4つのストローク列が候補ストロークとして提示された場合が想定されている。ここでは、4つのストローク列は、手書き文字列「ability」、手書き文字列「access」、手書き文字列「adaptor」、手書き文字列「add」を含む。
このように、先頭の手書き文字が「a」で始まる幾つかのストローク列(手書き文字列)がユーザに提示される。これらストローク列は、過去にユーザによって手書き入力されたストローク列(手書き文字列)である。
さらに、筆跡補完処理部308は、候補ストロークリスト501の近くに、「キャンセル」ボタン502を表示しても良い。「キャンセル」ボタン502は、入力されたストローク(仮ストローク)を「確定ストローク」にするための確定ボタンとして機能する。「確定ストローク」は、手書きページに反映されたストロークを意味する。「確定ストローク」になったストロークは、筆跡補完の対象から除外される。
図8は、入力されるストロークに対応する候補ストロークの別の例を示す。
ここでは、編集画面600上の手書き入力操作によって、手書き文字「a」に対応するストローク611が入力された後に、手書き文字「p」に対応するストローク612、613がさらに入力された場合が想定されている。この場合、候補ストロークリスト501の内容が更新される。
すなわち、筆跡補完処理部308は、入力されたストローク611、612、613(手書き文字列「ap」)に対応する幾つかのストローク列(候補ストローク)を候補ストロークデータベース402Bから取得する。そして、筆跡補完処理部308は、これらストローク列それぞれを編集画面600上の候補ストロークリスト501上に表示する。
図8では、候補ストロークリスト501上に、4つの手書きストローク列、つまり手書き文字列「application」、手書き文字列「aperture」、手書き文字列「apex」、手書き文字列「apology」が、候補ストロークとして提示された場合が想定されている。
このように、「ap」で始まる幾つかの手書き文字列がユーザに提示される。
ユーザによって候補ストロークリスト501上のある候補ストロークが選択された場合、筆跡補完処理部308は、選択された候補ストロークに対応するストローク列を編集画面600上に表示する。換言すれば、筆跡補完処理部308は、入力された手書きストロークを、選択された候補ストロークに対応するストローク列で補完する。これにより、ユーザは目的の単語の一部を手書きによって入力するだけで、目的の単語を容易に入力することができる。
また、漢字のように複数のストロークから構成される文字に関しては、ユーザは、これら複数のストロークの一部を手書きによって入力するだけで、この文字を入力することができる。
また筆記体の文字列に関しては、ユーザは、この文字列を構成する一つのストロークの先頭の一部分を手書きによって入力するだけで、この筆記体の文字列を入力することができる。
図9は、入力された手書きストロークを補完する動作を示している。
ここでは、候補ストロークリスト501上の手書き文字列「application」が選択された場合が想定されている。手書き文字列「application」がペン100または指によってタップされと、筆跡補完処理部308は、表示処理部(ペン軌跡表示処理部301または手書き文書表示処理部306)と協同して、選択された手書き文字列「application」を編集画面600上に表示するための処理を実行する。この場合、入力されたストローク(図8のストローク611、612、613)は選択された手書き文字列「application」で補完される。換言すれば、表示処理部は、入力されたストローク(図8のストローク611、612、613)の代わりに、選択された手書き文字列「application」を編集画面600上に表示する。
そして、選択された手書き文字列「application」は確定ストロークとなり、編集中の手書きページに反映される。つまり、候補ストロークデータベース402Bから取得された「application」のストロークデータ群が手書きページに加えられる。なお、もし手書き文字列「application」が筆記体で記述されたストローク列である場合には、手書き文字列「application」に対応する1個のストロークデータが手書きページに加えられる。
このように、筆跡補完処理においては、手書きによって入力されたストローク(仮ストローク)に対応する幾つかの手書き文字列が候補ストロークとしてユーザに提示される。そして、選択された候補ストローク(手書き文字列)が仮ストロークに代えて編集画面600上に表示される。
しかし、各候補ストロークは過去に手書きによって入力されたストローク列(手書き文字列)であるので、各候補ストローク(手書き文字列)のサイズや文字間隔は、ユーザが書こうとしている文字列のサイズや文字間隔と異なる場合がある。したがって、選択された候補ストロークを編集画面600上に単純に表示したならば、ユーザにとって違和感のあるサイズまたは文字間隔を有する候補ストローク(手書き文字列)が入力されてしまう可能性がある。
選択された候補ストローク(手書き文字列)のサイズを仮ストロークのサイズに応じて変更(リサイズ)するという方法を採用することも考えられる。しかし、仮ストロークは選択された候補ストローク(手書き文字列)によって置き換えられる。このため、筆跡補完処理が実行された場合には、選択された候補ストロークによって後続される手書き文字列は、仮ストロークではなく、この仮ストロークよりも前に既に入力されている手書き文字列となる。さらに、仮ストロークのサイズは、この仮ストロークよりも前に既に入力されている手書き文字列のサイズ、例えば、仮ストロークの直前の手書き文字列のサイズと一致するとは限らない。したがって、選択された候補ストローク(手書き文字列)のサイズを仮ストロークのサイズに応じて変更するという方法では、選択された候補ストロークを適正なサイズにすることは難しい。
そこで、本実施形態では、筆跡補完処理部308は、選択された候補ストローク(手書き文字列)のサイズを、仮ストロークのサイズではなく、仮ストロークが入力される前に手書きによって入力された手書き文字列のサイズ、例えば、仮ストロークの直前の手書き文字列のサイズ、に基づいて調整するように構成されている。すなわち、筆跡補完処理部308は、上述の表示処理部と協同して、選択された候補ストローク(手書き文字列)を、仮ストロークの代わりに、第1のサイズで編集画面600上に表示するための処理を実行する。この第1のサイズは、仮ストロークのサイズではなく、仮ストロークが入力される前に手書きによって入力された手書き文字列のサイズに応じて定められる。
仮ストロークの直前の手書き文字列は、仮ストロークが入力された行(ライン)と同じ行に既に入力されている手書き文字列であってもよい。また、もし仮ストロークが行の先頭に位置する場合には、仮ストロークが入力された行の1つ前の行に既に入力されている手書き文字列を仮ストロークの直前の手書き文字列として使用しても良い。
さらに、筆跡補完処理部308は、選択された候補ストローク(手書き文字列)の文字間隔を、仮ストロークが入力される前に手書きによって入力された手書き文字列の文字間隔、例えば、仮ストロークの直前の手書き文字列の文字間隔、に応じて調整してもよい。
このように、本実施形態では、選択された候補ストローク(手書き文字列)のサイズ、文字間隔が、仮ストロークが入力される前に手書きによって入力された手書き文字列に基づいて調整される。そして、サイズ、文字間隔が調整された候補ストロークが表示処理部によって仮ストロークの代わりに編集画面600上に表示される。したがって、選択された候補ストロークのオリジナルのサイズ及び文字間隔に依存せずに、ある程度期待通りのサイズ、文字間隔で、選択された候補ストロークを入力することが可能となる。
図10は、選択された候補ストローク(手書き文字列)のサイズ、文字間隔を調整する動作を示している。
ここでは、手書き文字「a」に対応するストローク621が手書きによって入力された場合が想定されている。この場合、筆跡補完処理部308は、ストローク621に対応する幾つかの候補ストローク(手書き文字列)を候補ストロークデータベース402Bから取得する。そして、筆跡補完処理部308は、これら候補ストロークを編集画面600上の候補ストロークリスト501上に表示するための処理を実行する。
図10においては、候補ストロークリスト501上に、3つの手書きストローク列、つまり手書き文字列「application」、手書き文字列「approve」、手書き文字列「apps」が、候補ストロークとして提示された場合が想定されている。
もし手書き文字列「apps」がユーザによって選択されたならば、筆跡補完処理部308は、手書き文字列「apps」のサイズを調整する。手書き文字列「apps」のサイズは、ストローク621よりも前に手書きによって入力されている手書き文字列(ここでは、手書き文字列「New−handwriting」622)のサイズに基づいて調整される。手書き文字列「New−handwriting」622)は筆跡補完の対象から除外される確定ストローク列である。手書き文字列「apps」のサイズを調整する処理は、手書き文字列「apps」の高さを手書き文字列「New−handwriting」622の高さに応じて調整する処理を含む。筆跡補完処理部308は、手書き文字列「apps」の高さが手書き文字列「New−handwriting」622の高さにほぼ一致するように手書き文字列「apps」をスケーリングしてもよい。
さらに、筆跡補完処理部308は、手書き文字列「apps」の文字間隔を、手書き文字列「New−handwriting」622の文字間隔に基づいて調整してもよい。この場合、手書き文字列「apps」の文字間隔は手書き文字列「New−handwriting」622の平均文字間隔とほぼ一致するように変更されてもよい。
そして、筆跡補完処理部308は、サイズや文字間隔が調整された手書き文字列「apps」623を入力された手書き文字列とする。すなわち、筆跡補完処理部308は、サイズや文字間隔が調整された手書き文字列「apps」623を、ストローク621の代わりに編集画面600上に表示する。この場合、筆跡補完処理部308は、編集画面600上のストローク621の位置に応じて、編集画面600上の手書き文字列「apps」の開始位置を調整しても良い。編集画面600上の手書き文字列「apps」の開始位置は、手書き文字列「apps」が表示されるべき編集画面600上の領域の開始位置を示す。
手書き文字列「apps」623は手書き文字列「New−handwriting」622に後続されるが、手書き文字列「apps」623のサイズや文字間隔は手書き文字列「New−handwriting」のサイズや文字間隔とマッチしている。したがって、手書き文字列「apps」623とその直前の文字列との間のサイズや文字間隔の相違による違和感が生じることなく、選択された手書き文字列「apps」623をスムーズに入力することができる。
なお、ストローク621が行の先頭の手書き文字である場合には、1つ上の行の手書き文字列のサイズや文字間隔に基づいて、手書き文字列「apps」623のサイズや文字間隔を調整しても良い。
図11は、手書き文字列「New−handwriting」622の平均文字間隔(文字間隔の平均値)を算出する動作を示している。
手書き文字列「New−handwriting」622の平均文字間隔Wは、以下の式を使用して算出することが出来る。
W=(最終文字の中心座標X−先頭文字の中心座標X)÷(総文字数−1)
ここで、最終文字の中心座標Xは、最終文字に外接する矩形の中心のX座標を示す。先頭文字の中心座標Xは、先頭文字に外接する矩形の中心のX座標を示す。
図12は、選択された候補ストロークに対するサイズと開始位置の調整動作を示している。選択された候補ストローク(ここでは、手書き文字列「apps」623)のサイズ、開始位置は以下のように調整される。
筆跡補完処理部308は、まず、手書き文字列「apps」623の高さH2が手書き文字列「New−handwriting」622の高さH1に一致するように手書き文字列「apps」623を拡大または縮小して、手書き文字列「apps」623のサイズを調整する。この場合、筆跡補完処理部308は、手書き文字列「apps」623がアセンダおよびディセンダの双方を有する文字列であることを想定して手書き文字列「apps」623を囲む矩形を定義してもよい。筆跡補完処理部308は、手書き文字列「New−handwriting」622に関しても同様の矩形を定義してもよい。そして、筆跡補完処理部308は、手書き文字列「apps」623に対応する矩形の高さH2が手書き文字列「New−handwriting」622に対応する矩形の高さH1に一致するように手書き文字列「apps」623を拡大または縮小する。手書き文字列「apps」623の拡大または縮小は、手書き文字列「apps」623のアスペクト比を維持した状態で実行されてもよい。
編集画面上の手書き文字列「apps」623の表示位置は、手書き文字列「apps」623の開始位置が仮ストローク621の位置に一致し且つ手書き文字列「apps」623に対応する矩形の下辺の位置が手書き文字列「New−handwriting」622に対応する矩形の下辺の位置に位置するように、決定される。
図13は、選択された候補ストロークの文字間隔を調整する動作を示している。候補ストローク(ここでは、手書き文字列「apps」623)の調整後文字間隔は、上述の平均文字間隔Wを使用して決定される。例えば、「a」と「p」との間の調整後文字間隔w1’は、以下の式を使用して算出することが出来る。
w1’=(W×w1×3)÷(w1+w2+w3)
ここで、w1は「a」と「p」との間の調整前文字間隔、w2は「p」と「p」との間の調整前文字間隔、w3は「p」と「s」との間の調整前文字間隔である。
「p」と「p」との間の調整後文字間隔w2’および「p」と「s」との間の調整後文字間隔w3’も、w1’と同様に求めることが出来る。手書き文字列「apps」623は、図14に示すように、調整後文字間隔で表示される。
図15のフローチャートは、上述の筆跡補完処理の手順を示す。
ユーザの手書き入力操作によってストロークが入力されると、ペン軌跡表示処理部301は、この入力されたストローク(仮ストローク)を画面上に表示する(ステップS11)。筆跡補完処理部308は、この入力されたストロークに対応するストロークデータを時系列情報生成部302から受信する。そして、筆跡補完処理部308は、候補ストロークの調整を行うためのベースとなる行構造(手書き文字列)の情報が既に取得されているか否かを判定する(ステップS12)。
行構造(手書き文字列)に関する情報がまだ取得されていないならば(ステップS12のNO)、筆跡補完処理部308は、ステップS13に進む。そして、ステップS13において、筆跡補完処理部308は、候補ストロークの調整を行うためのベースとなる行構造(手書き文字列)を特定するための処理と、この行構造(手書き文字列)の文字間隔を得る処理とを実行する。この場合、筆跡補完処理部308は、まず、行構造化サブルーチンを使用して編集画面600上の手書き文書(ページ)全体の行構造を解析し、仮ストロークが入力されている行を特定する。そして、仮ストロークが入力されている行内の手書き文字列、つまり仮ストロークが入力される前に入力されている手書き文字列に関する情報を、ベースとなる行構造として取得する。仮ストロークが行の先頭に位置する場合には、仮ストロークが入力されている行の1つ上の行の手書き文字列を、ベースとなる行構造として特定しても良い。この後、筆跡補完処理部308は、文字認識サブルーチンを使用して、特定された行構造(手書き文字列)に対する文字認識処理を実行し、これによってこの特定された手書き文字列の文字認識結果、およびこの特定された手書き文字列の各手書き文字の外接矩形情報を取得する。さらに、筆跡補完処理部308は、各手書き文字の外接矩形情報などを使用することによって、この特定された手書き文字列の平均文字間隔Wを得る。
そして、筆跡補完処理部308は、この入力された仮ストロークに対応する手書き文字列(候補ストローク)を候補ストロークデータベース402Bから取得する(ステップS14)。このステップS14の処理は、入力された仮ストロークと候補ストロークデータベース402Bとに基づいて、ユーザが入力しようとしている手書きストローク列(手書き文字列)を予測する処理に相当する。そして、筆跡補完処理部308は、上述の表示処理部と協同して、候補ストロークの一覧、つまり上述の候補ストロークリスト501を画面上に表示する。候補ストロークリスト501には、幾つかの手書き文字列が表示される。さらに新たな仮ストロークが入力された場合は(ステップS15のYES)、筆跡補完処理部308は、最初に入力された仮ストロークと新たな仮ストロークとの組に対応する手書き文字列(候補ストローク)を候補ストロークデータベース402Bから取得する。
筆跡補完処理部308は、ユーザによってある手書き文字列(候補ストローク)が選択されたか否かを判定する(ステップS16)。ユーザによってどの手書き文字列(候補ストローク)も選択されずに「キャンセル」ボタン502がユーザによってタップされたならば(ステップS16のNO)、筆跡補完処理部308は、入力された仮ストロークを「確定ストローク列」にする(ステップS17)。ステップS17では、筆跡補完処理部308は、候補ストロークリスト501を画面から消す。
ある手書き文字列(候補ストローク)が選択されたならば(ステップS16のYES)、筆跡補完処理部308は、上述の特定された行構造の高さと仮ストロークの表示位置に基づき、選択された手書き文字列のサイズ(高さ)と選択された手書き文字列の開始位置とを調整する(ステップS18)。さらに、筆跡補完処理部308は、平均文字間隔Wを使用して、選択された手書き文字列の文字間隔を調整する(ステップS19)。そして、筆跡補完処理部308は、上述の表示処理部と協同して、サイズおよび文字間隔が調整された、選択された手書き文字列を、仮ストロークの代わりに編集画面上に表示する(ステップS20)。ステップS20では、入力された仮ストロークが、選択された手書き文字列のストローク列に置換される。さらに、選択された手書き文字列のストローク列は確定ストロークとなり、現在作成または編集されている手書きページに反映される。
以上説明したように、本実施形態においては、あるストローク(第1ストローク)が手書きによって入力された場合、第1ストロークに対応する1以上の手書き文字列が、入力可能な手書き文字列の候補(候補ストローク)として画面上に表示される。そして、1以上の手書き文字列の内の第1手書き文字列が選択された場合、少なくともサイズが調整された第1手書き文字列が第1ストロークの代わりに画面上に表示される。
ここで、第1手書き文字列のサイズの調整は、第1ストロークではなく、第1ストロークが入力される前に手書きによって入力されている第2手書き文字列のサイズに基づいて実行される。したがって、選択された手書き文字列と既に入力されている手書き文字列との間のサイズの相違による違和感が生じることなく、選択された手書き文字列をスムーズに入力することができる。
また、サイズと文字間隔とが調整された第1手書き文字列が第1ストロークの代わりに画面上に表示されてもよい。
なお、本実施形態の各種処理はコンピュータプログラムによって実現することができるので、このコンピュータプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのコンピュータプログラムをコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。
このコンピュータプログラムがインストールされたコンピュータ内のCPUは上述の筆跡補完処理を実行するように構成されたプロセッサとして機能し得る。このコンピュータ内のGPUはストロークそれぞれを画面上に表示するように構成された表示プロセッサとして機能し得る。
また、本実施形態では、タブレットコンピュータを使用する場合を例示して説明したが、本実施形態の手書き文書処理機能は、通常のデスクトップパーソナルコンピュータに適用することもできる。この場合、手書き入力のための入力デバイスであるタブレット等をデスクトップパーソナルコンピュータに接続すれば良い。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

Claims (15)

  1. タッチスクリーンディスプレイを備える電子機器であって、
    前記タッチスクリーンディスプレイ上から手書き入力する入力手段と、
    過去に入力されたストロークの集合である手書き文字列を候補ストロークデータとして記憶する候補ストロークデータベースと、
    前記入力手段より手書きによって入力されストロークを前記タッチスクリーンディスプレイ上に表示する表示処理手段と、
    手書き入力中の仮ストロークに対応する1以上の手書き文字列を前記候補ストロークデータベースから取得して前記1以上の手書き文字列を入力が予測される手書き文字列の候補として前記タッチスクリーンディスプレイ上に表示すると共に、前記仮ストロークが入力される前に手書きによって入力された手書き文字列の文字サイズ並びに文字間隔を用いて形態を調整する処理手段とを具備し、
    前記表示処理手段と前記処理手段協同してユーザによって前記1以上の手書き文字列から選択された選択手書き文字列の文字サイズ並びに文字間隔前記仮ストロークが入力される前に手書きによって入力された手書き文字列の文字サイズ並びに文字間隔を用いて調整して前記ストロークの代わりに前記タッチスクリーンディスプレイ上に表示す電子機器。
  2. 前記文字間隔は、(最終文字の中心座標−先頭文字の中心座標)/(総文字数−1)
    で算出される平均文字間隔である請求項1記載の電子機器。
  3. 前記仮ストロークが入力される前に手書きによって入力された手書き文字列は、前記ストロークの直前の手書き文字列である請求項1記載の電子機器。
  4. 前記選択手書き文字列開始位置は、前記タッチスクリーンディスプレイ上の前記ストロークの位置に応じて決定される請求項1記載の電子機器。
  5. 前記仮ストロークが行の先頭の手書き文字列である場合、1つ上の行の手書き文字列の前記文字サイズ並びに文字間隔に応じて調整される請求項1記載の電子機器。
  6. タッチスクリーンディスプレイと、前記タッチスクリーンディスプレイ上から手書き入力する入力手段と、過去に入力されたストロークの集合である手書き文字列を候補ストロークデータとして記憶する候補ストロークデータベースとを備える電子機器の方法であって、
    前記入力手段より手書きによって入力されストロークを前記タッチスクリーンディスプレイ上に表示することと、
    手書き入力中の仮ストロークに対応する1以上の手書き文字列を前記候補ストロークデータベースから取得して前記1以上の手書き文字列を入力が予測される手書き文字列の候補として前記タッチスクリーンディスプレイ上に表示すると共に、前記仮ストロークが入力される前に手書きによって入力された手書き文字列の文字サイズ並びに文字間隔を用いて形態を調整することと、
    ユーザによって前記1以上の手書き文字列から選択された選択手書き文字列の文字サイズ並びに文字間隔前記仮ストロークが入力される前に手書きによって入力された手書き文字列の文字サイズ並びに文字間隔を用いて調整して前記ストロークの代わりに前記タッチスクリーンディスプレイ上に表示することとを具備する方法。
  7. 前記文字間隔は、(最終文字の中心座標−先頭文字の中心座標)/(総文字数−1)
    で算出される平均文字間隔である請求項6記載の方法。
  8. 前記仮ストロークが入力される前に手書きによって入力された手書き文字列は、前記ストロークの直前の手書き文字列である請求項6記載の方法。
  9. 前記選択手書き文字列開始位置は、前記タッチスクリーンディスプレイ上の前記ストロークの位置に応じて決定される請求項6記載の方法。
  10. 前記仮ストロークが行の先頭の手書き文字列である場合、1つ上の行の手書き文字列の前記文字サイズ並びに文字間隔に応じて調整される請求項6記載の方法。
  11. タッチスクリーンディスプレイと、前記タッチスクリーンディスプレイ上から手書き入力する入力手段と、過去に入力されたストロークの集合である手書き文字列を候補ストロークデータとして記憶する候補ストロークデータベースとを備えるコンピュータによって実行されるプログラムであって、前記プログラムは、
    前記入力手段より手書きによって入力されストロークを前記タッチスクリーンディスプレイ上に表示する手順と、
    手書き入力中の仮ストロークに対応する1以上の手書き文字列を前記候補ストロークデータベースから取得して前記1以上の手書き文字列を入力が予測される手書き文字列の候補として前記タッチスクリーンディスプレイ上に表示すると共に、前記仮ストロークが入力される前に手書きによって入力された手書き文字列の文字サイズ並びに文字間隔を用いて形態を調整する手順と、
    ユーザによって前記1以上の手書き文字列から選択された選択手書き文字列の文字サイズ並びに文字間隔前記仮ストロークが入力される前に手書きによって入力された手書き文字列の文字サイズ並びに文字間隔を用いて調整して前記ストロークの代わりに前記タッチスクリーンディスプレイ上に表示する手順とを前記コンピュータに実行させるプログラム。
  12. 前記文字間隔は、(最終文字の中心座標−先頭文字の中心座標)/(総文字数−1)
    で算出される平均文字間隔である請求項11記載のプログラム。
  13. 前記仮ストロークが入力される前に手書きによって入力された手書き文字列は、前記ストロークの直前の手書き文字列である請求項11記載のプログラム。
  14. 前記選択手書き文字列開始位置は、前記タッチスクリーンディスプレイ上の前記ストロークの位置に応じて決定される請求項11記載のプログラム。
  15. 前記仮ストロークが行の先頭の手書き文字列である場合、1つ上の行の手書き文字列の前記文字サイズ並びに文字間隔に応じて調整される請求項11記載のプログラム。
JP2015551360A 2013-12-06 2013-12-06 手書き文書情報を処理するための電子機器および方法 Active JP6189451B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2013/082851 WO2015083290A1 (ja) 2013-12-06 2013-12-06 手書き文書情報を処理するための電子機器および方法

Publications (2)

Publication Number Publication Date
JPWO2015083290A1 JPWO2015083290A1 (ja) 2017-03-16
JP6189451B2 true JP6189451B2 (ja) 2017-08-30

Family

ID=53273082

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015551360A Active JP6189451B2 (ja) 2013-12-06 2013-12-06 手書き文書情報を処理するための電子機器および方法

Country Status (3)

Country Link
US (1) US20160132232A1 (ja)
JP (1) JP6189451B2 (ja)
WO (1) WO2015083290A1 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8232973B2 (en) 2008-01-09 2012-07-31 Apple Inc. Method, device, and graphical user interface providing word recommendations for text input
US9465985B2 (en) 2013-06-09 2016-10-11 Apple Inc. Managing real-time handwriting recognition
KR102245706B1 (ko) * 2013-09-17 2021-04-28 삼성전자주식회사 데이터 처리 방법 및 그 전자 장치
US10255267B2 (en) 2014-05-30 2019-04-09 Apple Inc. Device, method, and graphical user interface for a predictive keyboard
JP6430198B2 (ja) * 2014-09-30 2018-11-28 株式会社東芝 電子機器、方法及びプログラム
US10489051B2 (en) * 2014-11-28 2019-11-26 Samsung Electronics Co., Ltd. Handwriting input apparatus and control method thereof
US10614300B2 (en) * 2014-12-23 2020-04-07 Lenovo (Singapore) Pte. Ltd. Formatting handwritten content
CN105868590B (zh) 2015-01-19 2019-09-10 阿里巴巴集团控股有限公司 一种笔迹数据处理方法和装置
CN104932826B (zh) * 2015-06-26 2018-10-12 联想(北京)有限公司 一种信息处理方法和电子设备
US10003938B2 (en) 2015-08-14 2018-06-19 Apple Inc. Easy location sharing
DK179374B1 (en) 2016-06-12 2018-05-28 Apple Inc Handwriting keyboard for monitors
DK180171B1 (en) 2018-05-07 2020-07-14 Apple Inc USER INTERFACES FOR SHARING CONTEXTUALLY RELEVANT MEDIA CONTENT
US11551480B2 (en) * 2019-04-11 2023-01-10 Ricoh Company, Ltd. Handwriting input apparatus, handwriting input method, program, and input system
US11194467B2 (en) 2019-06-01 2021-12-07 Apple Inc. Keyboard management user interfaces
US11074408B2 (en) 2019-06-01 2021-07-27 Apple Inc. Mail application features
CN113191257B (zh) * 2021-04-28 2023-04-07 北京有竹居网络技术有限公司 笔顺检测方法、装置和电子设备
CN113687724A (zh) * 2021-07-23 2021-11-23 维沃移动通信有限公司 候选字显示方法、装置和电子设备

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62197882A (ja) * 1986-02-26 1987-09-01 Toshiba Corp 文章入力装置
JPH01259411A (ja) * 1988-04-11 1989-10-17 Toshiba Corp 文字入力装置
JP2005025566A (ja) * 2003-07-03 2005-01-27 Sharp Corp 手書き入力装置、手書き入力方法、手書き入力プログラム、および、プログラム記録媒体

Also Published As

Publication number Publication date
JPWO2015083290A1 (ja) 2017-03-16
US20160132232A1 (en) 2016-05-12
WO2015083290A1 (ja) 2015-06-11

Similar Documents

Publication Publication Date Title
JP6189451B2 (ja) 手書き文書情報を処理するための電子機器および方法
JP6270565B2 (ja) 電子機器および方法
JP5458161B1 (ja) 電子機器および方法
JP5349645B1 (ja) 電子機器および手書き文書処理方法
JP6392036B2 (ja) 電子機器および方法
JP6010253B2 (ja) 電子機器、方法およびプログラム
JP6430197B2 (ja) 電子機器および方法
JP2015162088A (ja) 電子機器、方法及びプログラム
JP2016071819A (ja) 電子機器および方法
US20150146986A1 (en) Electronic apparatus, method and storage medium
JP5395927B2 (ja) 電子機器および手書き文書検索方法
JP6054547B2 (ja) 手書き文書情報を処理するための電子機器および方法
JP6301736B2 (ja) 電子機器及び方法
WO2014147712A1 (ja) 情報処理装置、情報処理方法及びプログラム
JP2014092902A (ja) 電子機器および手書き文書処理方法
JP2014032632A (ja) 電子機器、方法、およびプログラム
JP5284523B1 (ja) 情報処理システム、プログラムおよび情報処理システムの処理方法
WO2015107692A1 (ja) 手書きのための電子機器および方法
JP2014149614A (ja) 電子機器および手書き文書処理方法
JP6342194B2 (ja) 電子機器、方法及びプログラム
WO2016031016A1 (ja) 電子機器、方法及びプログラム
US20140145928A1 (en) Electronic apparatus and data processing method
JP6465414B6 (ja) 電子機器、方法及びプログラム
JP6499198B2 (ja) 手書きのための電子機器および方法
JP5355770B1 (ja) 電子機器および手書き文書処理方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170704

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170802

R151 Written notification of patent or utility model registration

Ref document number: 6189451

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

Free format text: JAPANESE INTERMEDIATE CODE: R313121

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350