JP5284524B1 - 電子機器および手書き文書処理方法 - Google Patents

電子機器および手書き文書処理方法 Download PDF

Info

Publication number
JP5284524B1
JP5284524B1 JP2012197308A JP2012197308A JP5284524B1 JP 5284524 B1 JP5284524 B1 JP 5284524B1 JP 2012197308 A JP2012197308 A JP 2012197308A JP 2012197308 A JP2012197308 A JP 2012197308A JP 5284524 B1 JP5284524 B1 JP 5284524B1
Authority
JP
Japan
Prior art keywords
layer
stroke
handwritten
area
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012197308A
Other languages
English (en)
Other versions
JP2014052873A (ja
Inventor
藍子 明石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2012197308A priority Critical patent/JP5284524B1/ja
Priority to US13/680,550 priority patent/US20140075302A1/en
Application granted granted Critical
Publication of JP5284524B1 publication Critical patent/JP5284524B1/ja
Publication of JP2014052873A publication Critical patent/JP2014052873A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/166Editing, e.g. inserting or deleting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/142Image acquisition using hand-held instruments; Constructional details of the instruments
    • G06V30/1423Image acquisition using hand-held instruments; Constructional details of the instruments the instrument generating sequences of position coordinates corresponding to handwriting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/32Digital ink

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Document Processing Apparatus (AREA)

Abstract

【課題】複数のレイヤを有する手書き文書を容易に扱うことができる電子機器を実現する。
【解決手段】実施形態によれば、電子機器は、レイヤ作成手段と保存手段と表示処理手段とを具備する。レイヤ作成手段は、第1レイヤを含む手書き文書が画面に表示されるとき、レイヤ作成操作によって指定された領域に基づいて第2レイヤを作成可能である。保存手段は、前記第1レイヤに対応する第1領域内に第1ストロークが手書きされる場合、前記第1領域を示す第1レイヤ情報と前記第1ストロークに対応する第1ストロークデータとを記憶媒体に保存し、前記第2レイヤに対応する第2領域内に第2ストロークが手書きされる場合、前記第2領域を示す第2レイヤ情報と前記第2ストロークに対応する第2ストロークデータとを前記記憶媒体に保存する。表示処理手段は、前記第1ストロークを前記第1領域上に表示し、前記第2ストロークを前記第2領域上に表示する。
【選択図】図5

Description

本発明の実施形態は、手書き文書を処理することが可能な電子機器および同電子機器で用いられる手書き文書処理方法に関する。
近年、タブレット、PDA、スマートフォンといった種々の電子機器が開発されている。この種の電子機器の多くは、ユーザによる入力操作を容易にするために、タッチスクリーンディスプレイを備えている。
ユーザは、タッチスクリーンディスプレイ上に表示されるメニューまたはオブジェクトを指などでタッチすることにより、これらメニューまたはオブジェクトに関連づけられた機能の実行を電子機器に指示することができる。
しかし、タッチスクリーンディスプレイを備える既存の電子機器の多くは、画像、音楽、他の各種メディアデータに対する操作性を追求したコンシューマ向け製品であり、会議、商談、商品開発などのビジネスシーンにおける利用については必ずしも適していない場合がある。このため、ビジネスシーンにおいては、いまなお、紙の手帳が広く利用されている。
このような紙の手帳では、紙のページに、追加の情報を記載するための付箋を貼り付けるといった利用方法も一般的である。ユーザは、付箋を用いることによって、紙のページに記載された内容自体を変更することなく、そのページに関する注釈等を付け加えることができる。
特開2003−296313号公報
電子機器で処理される手書き文書データにおいても、紙の手帳と同様に、付箋のような手書きデータを付加することが期待される場合がある。例えば、ある手書きページに関連する情報を、そのページ自体や別のページに書き込むのではなく、付箋のような付加的なレイヤに書き込める機能が期待される。
本発明の一形態は、複数のレイヤを有する手書き文書を容易に扱うことができる電子機器および手書き文書処理方法を提供することを目的とする。
実施形態によれば、電子機器は、レイヤ作成手段と表示処理手段とを具備する。表示処理手段は、第1レイヤと第2レイヤとを含む手書き文書が画面に表示されるときに、前記第1レイヤに対応する第1領域内に第1ストロークが手書きされる場合、前記第1ストロークを前記第1領域上に表示し、前記第2レイヤに対応する第2領域内に第2ストロークが手書きされる場合、前記第2ストロークを前記第2領域上に表示する。レイヤ作成手段は、前記第2レイヤに対応する第2領域内の座標から前記第1レイヤに対応する第1領域内の座標に至る場合、前記入力されるストロークを包含する領域へ、前記第2領域を変更する。
実施形態に係る電子機器の外観を示す斜視図。 同実施形態の電子機器のタッチスクリーンディスプレイ上に手書きされる手書き文書の例を示す図。 同実施形態の電子機器によって記憶媒体に保存される、図2の手書き文書に対応する時系列情報を説明するための図。 同実施形態の電子機器のシステム構成を示すブロック図。 同実施形態の電子機器によって実行されるデジタルノートブックアプリケーションプログラムの機能構成を示すブロック図。 同実施形態の電子機器によって表示される手書き文書にレイヤが作成される例を示す図。 同実施形態の電子機器によって表示される、複数のレイヤを含む手書き文書の例を示す図。 図7の重ね合わせられたレイヤを説明するための図。 同実施形態の電子機器によって用いられるレイヤ情報の一構成例を示す図。 図6の手書き文書に設定されたレイヤの領域が変更される例を示す図。 同実施形態の電子機器によって表示される、複数のレイヤを含む手書き文書の別の例を示す図。 図11の手書き文書において、レイヤを色分けして表示する例を示す図。 図11の手書き文書において、レイヤを色分けして表示する別の例を示す図。 同実施形態の電子機器によって実行される入力操作処理の手順を示すフローチャート。 同実施形態の電子機器と外部装置との連係動作を示す図。
以下、実施の形態について図面を参照して説明する。
図1は、一実施形態に係る電子機器の外観を示す斜視図である。この電子機器は、例えば、ペンまたは指によって手書き入力可能なペン・ベースの携帯型電子機器である。この電子機器は、タブレットコンピュータ、ノートブック型パーソナルコンピュータ、スマートフォン、PDA等として実現され得る。以下では、この電子機器がタブレットコンピュータ10として実現されている場合を想定する。タブレットコンピュータ10は、タブレットまたはスレートコンピュータとも称される携帯型電子機器であり、図1に示すように、本体11とタッチスクリーンディスプレイ17とを備える。タッチスクリーンディスプレイ17は、本体11の上面に重ね合わせるように取り付けられている。
本体11は、薄い箱形の筐体を有している。タッチスクリーンディスプレイ17には、フラットパネルディスプレイと、フラットパネルディスプレイの画面上のペンまたは指の接触位置を検出するように構成されたセンサとが組み込まれている。フラットパネルディスプレイは、例えば、液晶表示装置(LCD)であってもよい。センサとしては、例えば、静電容量方式のタッチパネル、電磁誘導方式のデジタイザなどを使用することができる。以下では、デジタイザとタッチパネルの2種類のセンサの双方がタッチスクリーンディスプレイ17に組み込まれている場合を想定する。
デジタイザおよびタッチパネルの各々は、フラットパネルディスプレイの画面を覆うように設けられる。このタッチスクリーンディスプレイ17は、指を使用した画面に対するタッチ操作のみならず、ペン100を使用した画面に対するタッチ操作も検出することができる。ペン100は例えば電磁誘導ペンであってもよい。
ユーザは、外部オブジェクト(ペン100又は指)を使用してタッチスクリーンディスプレイ17上で手書き入力操作を行うことができる。手書き入力操作中においては、画面上の外部オブジェクト(ペン100又は指)の動きの軌跡、つまり手書き入力操作によって手書きされるストロークの軌跡(筆跡)がリアルタイムに描画され、これによって各ストロークの軌跡が画面上に表示される。外部オブジェクトが画面に接触されている間の外部オブジェクトの動きの軌跡が1ストロークに相当する。手書きされた文字または図形などに対応する多数のストロークの集合、つまり多数の軌跡(筆跡)の集合が手書き文書を構成する。
この手書き文書は1以上のレイヤを含む。レイヤとは、手書き入力される1以上のストロークを表示可能な領域であって、他のレイヤと重複可能なものである。より具体的には、手書き文書には、当該手書き文書のベースとなるベース文書レイヤが含まれ、ユーザによるレイヤ作成操作に応じて、ベース文書レイヤの上に、新たなレイヤが重ね合わせて作成される。この新たなレイヤは、例えば、レイヤ作成操作中において、タッチスクリーンディスプレイ17上での外部オブジェクトの動きの軌跡によって指定された任意の領域に作成される。したがって、上述の手書き入力操作では、手書き文書に含まれる1以上のレイヤの内の1つのレイヤに、ストロークの軌跡が描画され、これによってストロークの軌跡が画面上に表示される。
また、ユーザは、表示中の手書き文書内に任意のレイヤを作成することを指示するためのレイヤ作成操作だけではなく、表示中の手書き文書に含まれる任意のレイヤの位置、サイズ、重ね合わせ順序等を変更すること、表示中の手書き文書に含まれる任意のレイヤを削除すること、等を指示するためのレイヤ変更操作を行うこともできる。このレイヤ変更操作では、各レイヤに描画されたストロークを、レイヤ単位で画面上に表示/非表示することも指示できる。
なお、タッチスクリーンディスプレイ17上で手書き入力操作とレイヤ作成(変更)操作のいずれが行われているかは、例えば、設定されているモードによって判別される。例えば、手書きモードにおけるタッチスクリーンディスプレイ17上での操作は手書き入力操作として検出され、操作モードにおけるタッチスクリーンディスプレイ17上での操作はレイヤ作成操作として検出される。これらモードは、例えば、ペン100に設けられたボタンの操作、タッチスクリーンディスプレイ17の画面に表示されたモード切替ボタンの操作、タッチスクリーンディスプレイ17上での所定の操作(例えば、スライドされない所定時間以上のタッチ操作)等に応じて切り替えられる。
本実施形態では、この手書き文書は、イメージデータではなく、1以上のレイヤの各々を示すレイヤ情報と、各レイヤに描画された、各ストロークの軌跡の座標列とストローク間の順序関係を示す時系列情報とを含む手書き文書データとして記憶媒体に保存される。この時系列情報の詳細は図3を参照して後述するが、この時系列情報は、概して、複数のストロークにそれぞれ対応する時系列のストロークデータの集合を意味する。各ストロークデータは、ある一つのストロークに対応し、このストロークの軌跡上の点それぞれに対応する座標データ系列(時系列座標)を含む。これらストロークデータの並びの順序は、ストロークそれぞれが手書きされた順序つまり筆順に相当する。また、レイヤ情報は、各レイヤが配置された手書き文書上の領域を示す情報や、1以上のレイヤが重ね合わせられた順序を示す情報等を含む。
タブレットコンピュータ10は、記憶媒体から既存の任意の手書き文書データを読み出し、この手書き文書データに対応する手書き文書、つまりレイヤ情報によって示される重ね合わせられた1以上のレイヤそれぞれに、時系列情報によって示される複数のストロークそれぞれに対応する軌跡が描画された手書き文書を、画面上に表示することができる。
次いで、図2および図3を参照して、ユーザによって手書きされたストローク(文字、マーク、図形、表など)と時系列情報との関係について説明する。図2は、ペン100などを使用してタッチスクリーンディスプレイ17上に手書きされる手書き文書(手書き文字列)の例を示している。
手書き文書では、一旦手書きされた文字や図形などの上に、さらに別の文字や図形などが手書きされるというケースが多い。図2においては、「ABC」の手書き文字列が「A」、「B」、「C」の順番で手書きされ、この後に、手書きの矢印が、手書き文字「A」のすぐ近くに手書きされた場合が想定されている。
手書き文字「A」は、ペン100などを使用して手書きされる2つのストローク(「∧」形状の軌跡、「−」形状の軌跡)によって、つまり2つの軌跡によって表現される。最初に手書きされる「∧」形状のペン100の軌跡は例えば等時間間隔でリアルタイムにサンプリングされ、これによって「∧」形状のストロークの時系列座標SD11、SD12、…SD1nが得られる。同様に、次に手書きされる「−」形状のペン100の軌跡もサンプリングされ、これによって「−」形状のストロークの時系列座標SD21、SD21、…SD2nが得られる。
手書き文字「B」は、ペン100などを使用して手書きされた2つのストローク、つまり2つの軌跡によって表現される。手書き文字「C」は、ペン100などを使用して手書きされた手書きされた1つのストローク、つまり1つの軌跡によって表現される。手書きの「矢印」は、ペン100などを使用して手書きされた手書きされた2つのストローク、つまり2つの軌跡によって表現される。
図3は、図2の手書き文書に対応する時系列情報200を示している。時系列情報は、複数のストロークデータSD1、SD2、…、SD7を含む。時系列情報200内においては、これらストロークデータSD1、SD2、…、SD7は、筆跡順に、つまり複数のストロークが手書きされた順に時系列に並べられている。
時系列情報200において、先頭の2つのストロークデータSD1、SD2は、手書き文字「A」の2つのストロークをそれぞれ示している。3番目と4番目のストロークデータSD3、SD4は、手書き文字「B」を構成する2つのストロークをそれぞれ示している。5番目のストロークデータSD5は、手書き文字「C」を構成する1つのストロークを示している。6番目と7番目のストロークデータSD6、SD7は、手書き矢印を構成する2つのストロークをそれぞれ示している。
各ストロークデータは、一つのストロークに対応する座標データ系列(時系列座標)、つまり一つのストロークの軌跡上の複数の点それぞれに対応する複数の座標を含む。各ストロークデータにおいて、複数の座標は、ストロークが書かれた順に時系列に並べられている。例えば、手書き文字「A」に関しては、ストロークデータSD1は、手書き文字「A」の「∧」形状のストロークの軌跡上の点それぞれに対応する座標データ系列(時系列座標)、つまりn個の座標データSD11、SD12、…SD1nを含む。ストロークデータSD2は、手書き文字「A」の「−」形状のストロークの軌跡上の点それぞれに対応する座標データ系列、つまりn個の座標データSD21、SD22、…SD2nを含む。なお、座標データの数はストロークデータ毎に異なっていてもよい。
各座標データは、対応する軌跡内のある1点に対応するX座標およびY座標を示す。例えば、座標データSD11は、「∧」形状のストロークの始点のX座標(X11)およびY座標(Y11)を示す。SD1nは、「∧」形状のストロークの終点のX座標(X1n)およびY座標(Y1n)を示す。
さらに、各座標データは、その座標に対応する点が手書きされた時点に対応するタイムスタンプ情報Tを含んでいてもよい。手書きされた時点は、絶対時間(例えば、年月日時分秒)またはある時点を基準とした相対時間のいずれであってもよい。例えば、各ストロークデータに、ストロークが書き始められた絶対時間(例えば、年月日時分秒)をタイムスタンプ情報として付加し、さらに、ストロークデータ内の各座標データに、絶対時間との差分を示す相対時間をタイムスタンプ情報Tとして付加してもよい。
このように、各座標データにタイムスタンプ情報Tが追加された時系列情報を使用することにより、ストローク間の時間的関係をより精度よく表すことができる。
さらに、各座標データには、筆圧を示す情報(Z)を追加してもよい。
図4は、タブレットコンピュータ10のシステム構成を示す図である。
タブレットコンピュータ10は、図4に示されるように、CPU101、システムコントローラ102、主メモリ103、グラフィクスコントローラ104、BIOS−ROM105、不揮発性メモリ106、無線通信デバイス107、エンベデッドコントローラ(EC)108等を備える。
CPU101は、タブレットコンピュータ10内の各種モジュールの動作を制御するプロセッサである。CPU101は、ストレージデバイスである不揮発性メモリ106から主メモリ103にロードされる各種ソフトウェアを実行する。これらソフトウェアには、オペレーティングシステム(OS)201、および各種アプリケーションプログラムが含まれている。アプリケーションプログラムには、デジタルノートブックアプリケーションプログラム202が含まれている。このデジタルノートブックアプリケーションプログラム202は、上述の手書き文書を作成および表示する機能、手書き文書内にレイヤを設定する機能等を有している。
また、CPU101は、BIOS−ROM105に格納された基本入出力システム(BIOS)も実行する。BIOSは、ハードウェア制御のためのプログラムである。
システムコントローラ102は、CPU101のローカルバスと各種コンポーネントとの間を接続するデバイスである。システムコントローラ102には、主メモリ103をアクセス制御するメモリコントローラも内蔵されている。また、システムコントローラ102は、PCI EXPRESS規格のシリアルバスなどを介してグラフィクスコントローラ104との通信を実行する機能も有している。
グラフィクスコントローラ104は、本タブレットコンピュータ10のディスプレイモニタとして使用されるLCD17Aを制御する表示コントローラである。このグラフィクスコントローラ104によって生成される表示信号はLCD17Aに送られる。LCD17Aは、表示信号に基づいて画面イメージを表示する。このLCD17A上にはタッチパネル17Bおよびデジタイザ17Cが配置されている。タッチパネル17Bは、LCD17Aの画面上で入力を行うための静電容量式のポインティングデバイスである。指が接触される画面上の接触位置および接触位置の動き等はタッチパネル17Bによって検出される。デジタイザ17CはLCD17Aの画面上で入力を行うための電磁誘導式のポインティングデバイスである。ペン100が接触される画面上の接触位置および接触位置の動き等はデジタイザ17Cによって検出される。
無線通信デバイス107は、無線LANまたは3G移動通信などの無線通信を実行するように構成されたデバイスである。EC108は、電力管理のためのエンベデッドコントローラを含むワンチップマイクロコンピュータである。EC108は、ユーザによるパワーボタンの操作に応じて本タブレットコンピュータ10を電源オンまたは電源オフする機能を有している。
次に、図5を参照して、デジタルノートブックアプリケーションプログラム202の機能構成について説明する。デジタルノートブックアプリケーションプログラム202は、上述のように、デジタルノートブックアプリケーションプログラム202は、タッチスクリーンディスプレイ17を用いた手書き入力操作によって入力されるストロークデータを使用することによって、手書き文書の作成、表示、編集等を行う。また、デジタルノートブックアプリケーションプログラム202で処理される手書き文書は1以上のレイヤを含む。手書き文書には、例えば、当該手書き文書のベースとなるベース文書レイヤ(第1レイヤ)が含まれ、ユーザによるタッチスクリーンディスプレイ17を用いたレイヤ作成操作に応じて、レイヤをさらに作成することができる。ユーザは、タッチスクリーンディスプレイ17を用いた手書き入力操作によって、手書き文書に含まれる1以上のレイヤのそれぞれに、手書きのストローク(文字や図形等)を書き込むことができる。つまり、デジタルノートブックアプリケーションプログラム202は、1以上のレイヤのそれぞれに書き込まれた複数のストロークを含む手書き文書を作成、表示、編集するための処理を行う。
タッチスクリーンディスプレイ17は、「タッチ」、「移動(スライド)」、「リリース」等のイベントの発生を検出するように構成されている。「タッチ」は、画面上に外部オブジェクトが接触したことを示すイベントである。「移動(スライド)」は、画面上に外部オブジェクトが接触されている間に接触位置が移動されたことを示すイベントである。「リリース」は、画面から外部オブジェクトが離されたことを示すイベントである。
デジタルノートブックアプリケーションプログラム202は、例えば、軌跡表示処理部301、時系列情報生成部302、レイヤ表示処理部303、レイヤ情報生成部304、ページ保存処理部305、ページ取得処理部306、手書き文書表示処理部307を備える。
以下ではまず、手書き文書にレイヤが作成される際の処理について説明する。
レイヤ表示処理部303およびレイヤ情報生成部304は、処理対象の手書き文書(手書きページ)にレイヤを作成するための処理を実行する。すなわち、レイヤ表示処理部303およびレイヤ情報生成部304は、タッチスクリーンディスプレイ17上でユーザによって行われるレイヤ作成操作に応じて、手書き文書にレイヤを作成するための処理を実行する。
レイヤ表示処理部303およびレイヤ情報生成部304は、新たな手書き文書が作成されるとき、その手書き文書のベースとなるベース文書レイヤ(第1レイヤ)を作成する。すなわち、新たな手書き文書が作成されるとき、レイヤ情報生成部304はベース文書レイヤを示すレイヤ情報を生成し、レイヤ表示処理部303は、ベース文書レイヤを表す画像を画面上の手書き文書内に表示する。ベース文書レイヤは、例えば、手書き文書全体を覆うレイヤである。つまり、ベース文書レイヤは、手書き文書と同じサイズを有する。ベース文書レイヤは、手書き文書に含まれる1以上のレイヤの内の最下層(最背面)に配置される。そのため、ベース文書レイヤを、レイヤとしてではなく、手書き文書(手書きページ)自体として扱うこともできる。
レイヤ表示処理部303およびレイヤ情報生成部304は、ベース文書レイヤを含む手書き文書がタッチスクリーンディスプレイ17の画面に表示されているとき、レイヤ作成操作によって指定された領域に基づいて、ベース文書レイヤ上に新たなレイヤ(第2レイヤ)を作成する。この第2レイヤは、例えば、最大で手書き文書と同じサイズを有し、手書き文書内の任意の位置に配置される。また、第2レイヤは、下層のレイヤに手書きされたストロークが見える透明なレイヤと、下層のレイヤに手書きされたストロークが見えない不透明なレイヤのいずれであってもよい。
ユーザは、手書き文書内の任意の領域にレイヤを作成するための「レイヤ作成」ツールを使用して、表示中の手書き文書内の任意の領域を指定するレイヤ作成操作を行うことができる。レイヤ情報生成部304は、このレイヤ作成操作によって指定される手書き文書内の領域に応じて、新たなレイヤが作成される領域を決定し、その新たなレイヤを示すレイヤ情報を生成する。レイヤ表示処理部303は、その新たなレイヤを表す画像(例えば、付箋の画像)を手書き文書内に表示する。なお、レイヤ表示処理部303は、透明なレイヤが作成される場合には、レイヤ自体を表す画像の代わりに、レイヤが存在することを表す画像(例えば、タブの画像)を表示してもよい。
また、レイヤ情報生成部304は、生成されたレイヤ情報を作業メモリ401に一時保存してもよい。
図6は、タッチスクリーンディスプレイ17に表示された手書き文書画面500を用いて、手書き文書にレイヤが作成される例を示したものである。なお、手書き文書には、手書き文書のベースとなるベース文書レイヤ510が既に設けられていることを想定する。このベース文書レイヤ510は、例えば、紙の手帳における紙のページ自体に相当するものである。
ユーザは、例えば、「レイヤ作成」ツールを用いて、手書き文書画面500上でペン100又は指を移動させる操作によって、手書き文書画面500内の任意の領域601を指定する。ユーザが任意の領域601を指定したことに応じて、手書き文書には、指定された領域601に対応するレイヤ(付箋レイヤ)501が作成される。この付箋レイヤ501は、ベース文書レイヤ510の上に重ね合わせられている。また、この付箋レイヤ501は、紙の付箋のように、不透明な背景色を有しているので、ベース文書レイヤ510内の付箋レイヤ501に対応する領域は、当該付箋レイヤ501によって隠されている。そのため、ユーザは、付箋レイヤ501と、ベース文書レイヤ510の内の付箋レイヤ501に対応する領域を除く領域とに、手書き入力を行うことができる。
また、図7に示すように、手書き文書画面500を用いて、手書き文書に複数の付箋レイヤ501,502を作成することもできる。ユーザは、ベース文書レイヤ510に書き込まれた内容に関連する属性の異なる2つの内容を、第1付箋レイヤ501と第2付箋レイヤ502とに分けて書き込むことができる。すなわち、ユーザは、レイヤを作成することによって、手書き文書に含まれる情報を属性別に仕分けることができる。また、ある手書き文書に対して複数のユーザのそれぞれが手書きするための複数のレイヤを作成したり、1人のユーザが異なるタイミングで手書きするための別々のレイヤを作成したりすることもできる。
図8を参照して、これらレイヤ501,502,510が重ね合わせられた例について説明する。図8に示す例では、ベース文書レイヤ510上に第1付箋レイヤ501が設けられ、その第1付箋レイヤ501の上にさらに第2付箋レイヤ502が設けられている。換言すると、第1付箋レイヤ501の一部は第2付箋レイヤ502によって覆われ、ベース文書レイヤ510の一部は、第1付箋レイヤ501と第2付箋レイヤ502とによって覆われている。
手書き文書画面500では、重ね合わせられたレイヤの内の最上層(最前面)のレイヤに対して手書き入力を行うことができる。したがって、第1領域701では第1付箋レイヤ501に対して、第2領域702では第2付箋レイヤ502に対して、第3領域703ではベース文書レイヤ510に対してそれぞれ手書き入力を行うことができる。
次いで、図9を参照して、レイヤ情報の一構成例について説明する。レイヤ情報は、手書き文書に含まれるレイヤが作成または変更されたときに、レイヤ情報生成部304によって生成または更新される。
レイヤ情報は、1つの手書き文書に設定された1以上のレイヤに対応する1以上のエントリを含む。各エントリは、例えば、レイヤID、位置、サイズ、重ね合わせ順序、属性、作成日時、作成ユーザ、ストロークIDを含む。あるレイヤに対応するエントリにおいて、「レイヤID」は、そのレイヤに付与された識別情報を示す。「位置」は、そのレイヤが配置された手書き文書上の位置(例えば、X座標とY座標)を示す。「サイズ」は、そのレイヤのサイズを示す。例えばレイヤが矩形である場合、「サイズ」は、その矩形の幅と高さとを示す。「重ね合わせ順序」は、1つの手書き文書に設定された1以上のレイヤの中で、そのレイヤが重ね合わせられた位置を示す。「重ね合わせ順序」には、例えば、1以上のレイヤの重ね合わせの順序に従って割り当てられた値が設定される。「属性」は、そのレイヤに書き込まれた内容を表す属性を示す。「作成日時」は、そのレイヤが作成された日時を示す。「作成ユーザ」は、そのレイヤを作成したユーザを示す。「作成ユーザ」には、例えば、そのユーザの名前や、そのユーザに付与された識別情報が設定される。「ストロークID」は、そのレイヤ上に書き込まれた、手書きによる軌跡に対応するストロークのストロークID(ストロークID群)を示す。
なお、レイヤ情報は、「位置」および「サイズ」の代わりに、例えば、そのレイヤの形状を示す座標列を含んでもよい。この「座標列」によって、任意の形状を有するレイヤを規定することができる。
次いで、1以上のレイヤを含む手書き文書に対して、ユーザによってストローク(文字、マーク、図形、表など)が手書きされる際の処理について説明する。
軌跡表示処理部301および時系列情報生成部302は、タッチスクリーンディスプレイ17によって発生される「タッチ」または「移動(スライド)」のイベントを受信し、これによって手書き入力操作を検出する。「タッチ」イベントには、接触位置の座標が含まれている。「移動(スライド)」イベントには、移動先の接触位置の座標が含まれている。したがって、軌跡表示処理部301および時系列情報生成部302は、タッチスクリーンディスプレイ17から、接触位置の動きの軌跡に対応する座標列を受信することができる。軌跡表示処理部301および時系列情報生成部302は、例えば、レイヤの作成または変更が確定されたこと、「レイヤ作成」ツールおよび「レイヤ変更」ツールの使用が終了したこと等に応じて、手書き入力操作の検出を開始する。
軌跡表示処理部301は、タッチスクリーンディスプレイ17から座標列を受信し、この座標列に基づいて、ペン100等を使用した手書き入力操作によって手書きされる各ストロークの軌跡をタッチスクリーンディスプレイ17内のLCD17Aの画面上に表示する。この軌跡表示処理部301により、画面にペン100が接触している間のペン100の軌跡、つまり各ストロークの軌跡がLCD17Aの画面上に描かれる。例えば、軌跡表示処理部301は、第1レイヤ(例えば、ベース文書レイヤ510)に対応する第1領域内に手書きされた第1ストロークを、その第1領域上に表示し、第2レイヤ(例えば、第1付箋レイヤ501)に対応する第2領域に手書きされた第2ストロークを、その第2領域上に表示する。
時系列情報生成部302は、タッチスクリーンディスプレイ17から出力される上述の座標列を受信し、この座標列に基づいて、図3で詳述したような構造を有する時系列情報を生成する。この場合、時系列情報、つまりストロークの各点に対応する座標およびタイムスタンプ情報は作業メモリ401に一時保存してもよい。
また、時系列情報生成部302およびレイヤ情報生成部304は、時系列情報とレイヤ情報とを関連付ける。例えば、時系列情報生成部302およびレイヤ情報生成部304は、第1レイヤ(例えば、ベース文書レイヤ510)に対応する第1領域内に第1ストロークが手書きされる場合、この第1領域を示す第1レイヤ情報と、第1ストロークに対応する第1ストロークデータ(時系列情報)とを関連付けて記憶媒体402に保存する。また、時系列情報生成部302およびレイヤ情報生成部304は、第2レイヤ(例えば、第1付箋レイヤ501)に対応する第2領域内に第2ストロークが手書きされる場合、第2領域を示す第2レイヤ情報と、第2ストロークに対応する第2ストロークデータとを関連付けて記憶媒体402に保存する。
より具体的には、時系列情報生成部302は、生成された時系列情報をレイヤ情報生成部304に出力する。そして、レイヤ情報生成部304は、手書き文書に含まれる1以上のレイヤを示すレイヤ情報(作業メモリ401に一時保存されているレイヤ情報)を用いて、受け取った時系列情報に示されるストロークが、それら1以上のレイヤの内のいずれに書き込まれているかを検出する。そして、レイヤ情報生成部304は、検出されたレイヤに対応するレイヤ情報のエントリに、当該レイヤに書き込まれたストロークのストロークIDを追加する。これにより、時系列情報とレイヤ情報とを用いて、手書き文書に手書きされたストロークを、レイヤ毎に処理することができる。なお、時系列情報とレイヤ情報との関連付けには、時系列情報に、各ストロークが書き込まれたレイヤを示すレイヤIDを追加する方法を用いてもよい。時系列情報生成部302およびレイヤ情報生成部304は、関連付けられた時系列情報とレイヤ情報とを作業メモリ401に一時保存してもよい。
例えば、図6に示したような、ベース文書レイヤ(第1レイヤ)510上に付箋レイヤ(第2レイヤ)501が作成されている手書き文書において、タッチスクリーンディスプレイ17上で行われる手書き入力操作によって複数のストロークが手書きされた場合を想定する。レイヤ情報生成部304は、第1レイヤ内にそれら複数のストロークが手書きされている場合、第1レイヤに対応する第1レイヤ情報と、複数のストロークに対応する複数のストロークデータを含む時系列情報とを関連付け、関連付けられた第1レイヤ情報と時系列情報とを保存する。また、レイヤ情報生成部304は、第2レイヤ内に複数のストロークが手書きされている場合、第2レイヤに対応する第2レイヤ情報と複数のストロークに対応する複数のストロークデータを含む時系列情報とを関連付け、関連付けられた第2レイヤ情報と時系列情報とを保存する。
さらに、レイヤ表示処理部303およびレイヤ情報生成部304は、手書き文書に含まれる任意のレイヤの移動、サイズ変更、重ね合わせ順序の変更、又は削除を行うための処理を実行することができる。すなわち、レイヤ表示処理部303およびレイヤ情報生成部304は、タッチスクリーンディスプレイ17上でユーザによって行われるレイヤ変更操作に応じて、手書き文書に含まれるレイヤを変更するための処理を実行する。
ユーザは、「レイヤ変更」ツールを使用して、手書き文書に含まれる1以上のレイヤの内の、任意のレイヤを選択し、その選択されたレイヤの移動、サイズ変更、重ね合わせ順序の変更、削除等を指示するレイヤ変更操作を行うことができる。レイヤ表示処理部303およびレイヤ情報生成部304は、このレイヤ変更操作によって選択されたレイヤに対して、当該操作によって指示された処理を施す。なお、ベース文書レイヤ510については、手書き文書のベースとなるので、手書き文書に含まれる1以上のレイヤの内の最下層に常に配置され、ユーザによって位置やサイズの変更、削除ができないようにしてもよい。
例えば、レイヤ変更操作によって、あるレイヤに対応する領域を第1の位置に移動することが指示される場合、レイヤ表示処理部303は、その領域内のストロークを、第1の位置に移動された当該レイヤに対応する領域内に表示する。そして、レイヤ情報生成部304は、第1の位置に基づいて、当該レイヤのレイヤ情報を更新し、レイヤに対応する領域が第1の位置に移動された後のストロークの位置に基づいて、対応するストロークデータを更新する。
より具体的には、レイヤ変更操作によって、あるレイヤを第1の位置に移動することが指示された場合、レイヤ情報生成部304は、第1の位置に移動された当該レイヤの領域を決定して、対応するレイヤ情報を更新し、また、レイヤ表示処理部303は、第1の位置に移動されたレイヤを表す画像を表示する。このとき、移動されるレイヤ内に手書きのストロークが含まれる場合には、レイヤ情報生成部304は、当該ストロークに対応する時系列情報を、第1の位置に移動されたレイヤ内での位置に応じて更新し、また、レイヤ表示処理部303は、当該ストロークを第1の位置に移動されたレイヤ内の対応する位置に表示する。なお、時系列情報においては、移動された各ストロークの時系列座標を変更したことを表す操作履歴を時系列情報に追加してもよい。
レイヤ変更操作によって、あるレイヤのサイズ変更が指示された場合、レイヤ情報生成部304は、当該レイヤに対応するレイヤ情報を変更後のサイズに応じて更新し、また、レイヤ表示処理部303は、変更後のサイズでレイヤを表す画像を表示する。
レイヤ変更操作によって、あるレイヤの重ね合わせ順序の変更が指示された場合、レイヤ情報生成部304は、当該レイヤに対応するレイヤ情報を、変更後の重ね合わせ順序に応じて更新し、また、レイヤ表示処理部303は、変更後の重ね合わせ順序でレイヤを表す画像を表示する。レイヤ表示処理部303は、そのレイヤ内に含まれる手書きのストロークも、同様に変更後の重ね合わせ順序に応じて表示する。
また、レイヤ変更操作によって、あるレイヤの削除が指示された場合、レイヤ情報生成部304は、当該レイヤに対応するレイヤ情報を削除し、また、レイヤ表示処理部303は、そのレイヤを表す画像をディスプレイ17の画面上から削除する。このとき、削除されるレイヤ内に手書きのストロークが含まれる場合には、レイヤ情報生成部304は、当該ストロークに対応する時系列情報(ストロークデータ)を削除し、また、レイヤ表示処理部303は、当該ストロークを表す軌跡をディスプレイ17の画面上から削除する。なお、時系列情報においては、削除された各ストロークデータを、時系列座標から必ずしも削除しなくてもよく、これら各ストロークデータを削除したことを表す操作履歴を時系列情報に追加してもよい。
さらに、レイヤ表示処理部303およびレイヤ情報生成部304は、手書き文書に含まれる2つのレイヤをマージ(統合)するための処理も実行することができる。ユーザは、「レイヤ変更」ツールを使用して、手書き文書に含まれる1以上のレイヤの内の、2つのレイヤを選択し、それら2つのレイヤのマージを指示するレイヤ変更操作を行うことができる。
例えば、レイヤ変更操作によって、ベース文書レイヤ510に付箋レイヤ501をマージすることが指示されたことを想定する。その場合、レイヤ情報生成部304は、付箋レイヤ501内に含まれるストロークのストロークIDを、ベース文書レイヤ510に対応するレイヤ情報のエントリに追加し、また、レイヤ表示処理部303は、付箋レイヤ501を表す画像をディスプレイ17の画面上から削除し、付箋レイヤ501内に含まれるストロークをベース文書レイヤ510内に表示する。そして、レイヤ情報生成部304は、付箋レイヤ501に対応するレイヤ情報のエントリを削除する。
ページ保存処理部305は、生成された時系列情報とレイヤ情報とを手書き文書(手書きページ)データとして記憶媒体402に保存する。記憶媒体402は、例えば、タブレットコンピュータ10内のストレージデバイスや、サーバのストレージデバイスである。
ページ取得処理部306は、記憶媒体402から既に格納されている任意の手書き文書データを読み出す。読み出された手書き文書データは手書き文書表示処理部307に送られる。手書き文書表示処理部307は、手書き文書データに含まれる時系列情報とレイヤ情報とを解析し、この解析結果に基づいて、時系列情報によって示される各ストロークの軌跡が描画された1以上のレイヤが重ね合わせられた手書き文書(手書きページ)を画面に表示する。
また、図10は、ユーザによる手書き入力に応じて、レイヤの領域が変更される例を示す。ここでは、ユーザが、手書き文書画面500に表示された付箋レイヤ501Aに手書き入力を行っているときに、手書きの文字や図形等の一部を付箋レイヤ501Aの領域外にはみ出して書き込んだことを想定する。
図10に示す例では、手書き文字列“Research”の一部が付箋レイヤ501Aの領域外にはみ出して書き込まれている。この場合、付箋レイヤ501Aの領域は、レイヤ表示処理部303およびレイヤ情報生成部304によって、手書き文字列“Research”が含まれるように広げられる。つまり、付箋レイヤ501Aは、手書き文字列“Research”が含まれるように、付箋レイヤ501Bに変更される。
より具体的には、例えば、手書きによる軌跡(すなわち、軌跡に対応する連続した座標列)が、レイヤの領域内から領域外に出るような軌跡である場合、手書き入力中に、手書きの文字や図形等がそのレイヤ内に収まりきれなくなったこと(手書きの文字や図形等がレイヤからはみ出したこと)が想定される。レイヤ表示処理部303およびレイヤ情報生成部304は、例えば、手書きによって入力されるストロークの軌跡が、付箋レイヤ(第2レイヤ)501A内の座標からベース文書レイヤ(第1レイヤ)510内の座標に至る場合、そのストロークを包含する領域へ、付箋レイヤ501Aの領域を変更する。すなわち、手書きされたストロークの軌跡が収まるように付箋レイヤ501Aを自動的に広げる(拡張する)。これにより、ユーザがレイヤのサイズを変更する操作を明示的に行うことなく、手書きによる軌跡に応じてレイヤの領域を拡張することができ、また、ユーザがあるレイヤ内に書き込むことを意図した手書き文字や図形等が、当該レイヤ内に適切に表示されるように処理することができる。手書きによるストロークの軌跡があるレイヤからはみ出したかどうかは、ストロークに対応する座標データ列だけでなく、そのストロークの前後に手書きされた複数のストロークに対応する時系列情報に基づいて決定されてもよい。
次いで、図11は、手書き文書に透明なレイヤが設けられた例を示す。図11に示す手書き文書画面500では、ベース文書レイヤ510の上に、“コメント”レイヤ505、“TODO”レイヤ506、及び“指摘”レイヤの3つの透明なレイヤが重ね合わせられている。これら3つのレイヤは、例えば、手書き文書全体を覆う(すなわち、手書き文書と同じサイズを有する)レイヤである。なお、“指摘”レイヤには、まだ手書きによるストロークが書き込まれていない。
手書き文書画面500には、手書き文書に透明なレイヤが含まれることをユーザが認識できるように、手書き文書に設けられた4つのレイヤそれぞれに対応するタグ602A,602B,602C,602Dが表示されている。ユーザは、このタグ602A,602B,602C,602Dを用いて、対応するレイヤを画面上に表示するか否かを選択することもできる。
この手書き文書画面500では、全てのタグ602A,602B,602C,602Dが選択されている間に、“TODO”タグ602Bと“ベース文書”タグ602Dとを選択する操作に応じて、全てのレイヤが画面に表示された状態から、ベース文書レイヤ510と“TODO”レイヤ506だけが画面に表示された状態に遷移している。これにより、ユーザは、手書き文書に含まれるレイヤを選択的に表示することができる。
また、図12および図13に示すように、タグ602A,602B,602C,602Dの選択状態に応じて、レイヤの表示形態を変更してもよい。図12および図13に示す例では、ユーザが“TODO”タグ602Bを選択状態にしたことを想定する。
図12に示す手書き文書画面500では、ベース文書レイヤ510と“TODO”レイヤ506とが第1の表示形態で表示され、“コメント”レイヤ505が第2の表示形態で表示されている。手書き文書画面500では、例えば、第1の表示形態のレイヤを濃く表示し、第2の表示形態のレイヤを薄く表示することによって、選択状態のタグに対応するレイヤ(ここでは、“TODO”レイヤ506)がアクティブなレイヤであることを、ユーザが識別できるようにする。ユーザは、アクティブなレイヤに対して、手書き入力操作を行うことができる。
なお、図12に示すように、ベース文書レイヤ510については、ユーザによるタグ602Dの選択に関わらず、常に第1の表示形態で表示されてもよい。また、手書き文書画面500におけるレイヤの表示形態は、第1の表示形態のレイヤを明るく表示し、第2の表示形態のレイヤを暗く表示する、第1の表示形態のレイヤと第2の表示形態のレイヤとを異なる色で表示するなど、タグの選択状態に対応するアクティブなレイヤをユーザが区別できればよい。
また、図13に示すように、ベース文書レイヤ510についても、ユーザによるタグ602Dの選択に応じて表示形態が変更されるようにしてもよい。この手書き文書画面500では、“TODO”レイヤ506が第1の表示形態で(例えば、濃く)表示され、ベース文書レイヤ510を含む他のレイヤが第2の表示形態で(例えば、薄く)表示されている。
次いで、図14のフローチャートを参照して、デジタルノートブックアプリケーションプログラム202によって実行される入力操作処理の手順について説明する。
まず、レイヤ表示処理部303およびレイヤ情報生成部304は、ユーザによってタッチスクリーンディスプレイ17上で行われるレイヤ作成操作が検出されたか否かを判定する(ブロックB101)。レイヤ作成操作は、例えば、「レイヤ作成」ツールを使用して、手書き文書内の任意の領域を指定する操作である。レイヤ作成操作が検出されている場合(ブロックB101のYES)、レイヤ情報生成部304は、当該レイヤ作成操作によって指定された領域に基づいて、図9で詳述したような構成を有するレイヤ情報を生成し(ブロックB102)、レイヤ表示処理部303は、当該レイヤ作成操作によって指定された領域にレイヤを表す画像を表示する(ブロックB103)。
一方、レイヤ作成操作が検出されていない場合(ブロックB101のNO)、レイヤ表示処理部303およびレイヤ情報生成部304は、レイヤ変更操作が検出されたか否かを判定する(ブロックB104)。レイヤ変更操作は、例えば、「レイヤ変更」ツールを使用して、手書き文書内に作成済みの任意のレイヤに対して、移動(位置変更)、サイズ変更、重ね合わせ順序変更、レイヤの表示/非表示の変更、削除等を指示する操作である。レイヤ変更操作が検出されている場合(ブロックB104のYES)、レイヤ情報生成部304は、当該レイヤ変更操作に応じてレイヤ情報を更新し(ブロックB105)、レイヤ表示処理部303は、当該レイヤ変更操作に応じてレイヤの表示を変更する(ブロックB106)。
レイヤ変更操作が検出されていない場合(ブロックB104のNO)、軌跡表示処理部301および時系列情報生成部302は、手書き入力操作が検出されたか否かを判定する(ブロックB107)。手書き入力操作が検出されている場合(ブロックB107のYES)、軌跡表示処理部301は、当該手書き入力操作に応じて、手書きによる軌跡(例えば、ペン100の動きの軌跡)を画面(ディスプレイ17)に表示する(ブロックB108)。そして、時系列情報生成部302は、手書きによる軌跡に対応する座標列に基づいて上述の時系列情報を生成し、その時系列情報を作業メモリ401に一時保存する(ブロックB109)。さらに、レイヤ情報生成部304は、その手書きによる軌跡に対応する座標列と、手書き文書内に設定された1以上のレイヤそれぞれに対応する領域とレイヤの重ね合わせ順序等とに基づいて、手書き入力操作の対象のレイヤ(手書き対象レイヤ)を決定し、決定された手書き対象レイヤに対応するレイヤ情報と生成された時系列情報とを関連付ける(ブロックB110)。レイヤ情報生成部304は、例えば、手書き対象レイヤに対応するレイヤ情報に、生成された時系列情報に含まれるストロークIDを追加することによって、レイヤ情報と時系列情報とを関連付ける。
次いで、レイヤ情報生成部304は、手書き対象レイヤに対応する領域を広げるか否かを判定する(ブロックB111)。レイヤ情報生成部304は、例えば、手書きによる軌跡の一部が手書き対象レイヤの領域外に書かれている場合に、手書き対象レイヤに対応する領域を広げる必要があると判定する。手書き対象レイヤに対応する領域を広げる場合(ブロックB111のYES)、レイヤ情報生成部304は、手書きによる軌跡が収まるように広げられたレイヤの領域を決定し、決定された領域に応じてレイヤ情報を更新する(ブロックB112)。そして、レイヤ表示処理部303は、広げられたレイヤに対応する画像を画面に表示する(ブロックB113)。
手書き対象レイヤに対応する領域を広げない場合(すなわち、手書きによる軌跡が現在の手書き対象レイヤに対応する領域内に収まっている場合)(ブロックB111のNO)、ブロックB101に戻る。
また、手書き入力操作が検出されていない場合(ブロックB107のNO)、ブロックB101に戻る。
次いで、図15は、タブレットコンピュータ10と外部装置との連携動作の例を示している。タブレットコンピュータ10は、クラウドと連携することができる。すなわち、タブレットコンピュータ10は、無線LANなどの無線通信デバイスを備えており、インターネット上のサーバ2との通信を実行することができる。サーバ2はオンラインストレージサービス、他の各種クラウドコンピューティングサービスを実行するサーバであってもよい。
サーバ2はハードディスクドライブ(HDD)のようなストレージデバイス2Aを備えている。タブレットコンピュータ10は、手書き文書データをネットワーク越しにサーバ2に送信して、サーバ2のHDD2Aに記録することができる(アップロード)。タブレットコンピュータ10とサーバ2との間のセキュアな通信を確保するために、通信開始時には、サーバ2がタブレットコンピュータ10を認証するようにしてもよい。この場合、タブレットコンピュータ10の画面上にユーザに対してIDまたはパスワードの入力を促すダイアログを表示してもよいし、タブレットコンピュータ10のIDやペン100のIDなどを自動的にタブレットコンピュータ10からサーバ2に送信してもよい。
これにより、タブレットコンピュータ10内のストレージの容量が少ない場合でも、タブレットコンピュータ10が多数の手書き文書あるいは大容量の手書き文書を扱うことが可能となる。
さらに、タブレットコンピュータ10は、サーバ2のHDD2Aに記録されている任意の手書き文書データを読み出し(ダウンロード)、その読み出された手書き文書データによって示されるストロークそれぞれの軌跡が描画された1以上のレイヤを重ね合わせて、タブレットコンピュータ10のディスプレイ17の画面に表示することができる。
このように、本実施形態では、手書き文書データが格納される記憶媒体は、タブレットコンピュータ10内のストレージデバイス、サーバ2のストレージデバイス2Aのいずれであってもよい。
また、タブレットコンピュータ10のタッチスクリーンディスプレイ17に手書き文書画面500を表示し、そのタッチスクリーンディスプレイ17を用いた手書き文書に対する各種の操作(手書き入力操作、レイヤ作成操作、レイヤ変更操作、等)を示す操作情報をサーバ2に送信してもよい。サーバ2では、上述のデジタルノートブックアプリケーションプログラム202に相当する構成を有するプログラムが実行されており、タブレットコンピュータ10から送信された操作情報に対応する手書き文書の処理が実行される。サーバ2は、例えば、操作情報に対応する処理が施された手書き文書の画像(画像データ)を、タブレットコンピュータ10に送信する。そして、タブレットコンピュータ10は、サーバ2から送信された手書き文書の画像を、タッチスクリーンディスプレイ17上の手書き文書画面500内に表示する。
これにより、タブレットコンピュータ10において、タッチスクリーンディスプレイ17を用いた入力の処理と、手書き文書を表示する処理とが実行され、サーバ2において、手書き文書データを作成(更新)および保存する処理が実行されるので、タブレットコンピュータ10における処理の負荷を軽減することができる。
また、サーバ2は、手書き文書にアクセスするユーザ毎や、手書き文書にアクセスされた日時毎に、当該手書き文書内にレイヤを作成し、そのレイヤに手書きによるストロークが描画されるようにしてもよい。サーバ2は、さらに、手書きされた複数のストロークの筆跡を解析することによって、同一のユーザに手書きされたストロークが、そのユーザのためのレイヤに描画されるようにしてもよい。
以上説明したように、本実施形態によれば、複数のレイヤを有する手書き文書を容易に扱うことができる。レイヤ表示処理部303およびレイヤ情報生成部304は、タッチスクリーンディスプレイ17を用いてユーザによって行われるレイヤ作成/変更操作が検出されたことに応じて、処理対象の手書き文書(手書きページ)にレイヤを作成し、また、作成されたレイヤを変更するための処理を実行する。軌跡表示処理部301および時系列情報生成部302は、タッチスクリーンディスプレイ17を用いてユーザによって行われる手書き入力操作が検出されたことに応じて、1以上のレイヤを含む手書き文書に対して、手書き入力操作によって手書きされる複数のストロークの軌跡を画面に表示し、それら複数のストロークに対応する時系列情報を生成する。生成された時系列情報は、対応するストロークが手書きされたレイヤに対応する領域を示すレイヤ情報と関連付けて保存される。これにより、手書きされたストロークをレイヤ単位で扱うことができるので、レイヤに対する操作に応じて、レイヤとそのレイヤに手書きされたストロークとをまとめて処理することができる。
本実施形態の手書き文書に対する各種処理はコンピュータプログラムによって実現することができるので、このコンピュータプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのコンピュータプログラムを通常のコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
17A…LCD、202…デジタルノートブックアプリケーション、301…軌跡表示処理部、302…時系列情報生成部、303…レイヤ表示処理部、304…レイヤ情報生成部、305…ページ保存処理部、306…ページ取得処理部、307…手書き文書表示処理部、401…作業メモリ、402…記憶媒体。

Claims (13)

  1. 第1レイヤと第2レイヤとを含む手書き文書が画面に表示されるときに、前記第1レイヤに対応する第1領域内に第1ストロークが手書きされる場合、前記第1ストロークを前記第1領域上に表示し、前記第2レイヤに対応する第2領域内に第2ストロークが手書きされる場合、前記第2ストロークを前記第2領域上に表示する表示処理手段と、
    入力されるストロークが、前記第2レイヤに対応する第2領域内の座標から前記第1レイヤに対応する第1領域内の座標に至る場合、前記入力されるストロークを包含する領域へ、前記第2領域を変更するレイヤ作成手段とを具備する電子機器。
  2. 前記レイヤ作成手段は、前記第1レイヤを含む手書き文書が前記画面に表示されるとき、レイヤ作成操作によって指定された領域に基づいて、前記第2レイヤを作成し、
    前記第1領域を示す第1レイヤ情報と、前記第1ストロークに対応する第1ストロークデータとを関連付けて記憶媒体に保存し、前記第2領域を示す第2レイヤ情報と、前記第2ストロークに対応する第2ストロークデータとを関連付けて前記記憶媒体に保存する保存手段をさらに具備する請求項1記載の電子機器。
  3. 前記表示処理手段は、前記第1ストロークを第1の表示形態で表示し、前記第2ストロークを第2の表示形態で表示する請求項1記載の電子機器。
  4. 前記表示処理手段は、レイヤ変更操作によって前記第2レイヤに対応する第2領域を第1の位置に移動することが指示される場合、前記第2ストロークを、前記第1の位置に移動された前記第2レイヤに対応する第2領域内に表示し、
    前記保存手段は、前記第1の位置に基づいて前記第2レイヤ情報を更新し、前記第2レイヤに対応する第2領域が前記第1の位置に移動された後の前記第2ストロークの位置に基づいて前記第2ストロークデータを更新する請求項記載の電子機器。
  5. 前記表示処理手段は、レイヤ変更操作によって前記第2レイヤを削除することが指示された場合、前記第2レイヤ内に手書きされた第2ストロークを前記画面から削除し、
    前記保存手段は、前記記憶媒体から、前記第2レイヤ情報と、前記時系列情報に含まれる前記第ストロークに対応するストロークデータとを削除する請求項記載の電子機器。
  6. タッチスクリーンディスプレイをさらに具備し、
    前記レイヤ作成操作と、前記第1ストローク及び前記第2ストロークの入力操作とは、前記タッチスクリーンディスプレイを介して行われる請求項記載の電子機器。
  7. 第1レイヤと第2レイヤとを含む手書き文書が画面に表示されるときに、前記第1レイヤに対応する第1領域内に第1ストロークが手書きされる場合、前記第1ストロークを前記第1領域上に表示し、前記第2レイヤに対応する第2領域内に第2ストロークが手書きされる場合、前記第2ストロークを前記第2領域上に表示し、
    入力されるストロークが、前記第2レイヤに対応する第2領域内の座標から前記第1レイヤに対応する第1領域内の座標に至る場合、前記入力されるストロークを包含する領域へ、前記第2領域を変更する、手書き文書処理方法。
  8. コンピュータによって実行されるプログラムであって、前記プログラムは、
    第1レイヤと第2レイヤとを含む手書き文書が画面に表示されるときに、前記第1レイヤに対応する第1領域内に第1ストロークが手書きされる場合、前記第1ストロークを前記第1領域上に表示し、前記第2レイヤに対応する第2領域内に第2ストロークが手書きされる場合、前記第2ストロークを前記第2領域上に表示する手順と、
    入力されるストロークが、前記第2レイヤに対応する第2領域内の座標から前記第1レイヤに対応する第1領域内の座標に至る場合、前記入力されるストロークを包含する領域へ、前記第2領域を変更する手順とを前記コンピュータに実行させるプログラム。
  9. 前記第1レイヤを含む手書き文書が前記画面に表示されるとき、レイヤ作成操作によって指定された領域に基づいて、前記第2レイヤを作成する手順と、
    前記第1領域を示す第1レイヤ情報と、前記第1ストロークに対応する第1ストロークデータとを関連付けて記憶媒体に保存し、前記第2領域を示す第2レイヤ情報と、前記第2ストロークに対応する第2ストロークデータとを関連付けて前記記憶媒体に保存する手順とを前記コンピュータにさらに実行させる請求項8記載のプログラム。
  10. 前記表示する手順は、前記第1ストロークを第1の表示形態で表示し、前記第2ストロークを第2の表示形態で表示することを含む請求項8記載のプログラム。
  11. 前記表示する手順は、レイヤ変更操作によって前記第2レイヤに対応する第2領域を第1の位置に移動することが指示される場合、前記第2ストロークを、前記第1の位置に移動された前記第2レイヤに対応する第2領域内に表示することを含み、
    前記保存する手順は、前記第1の位置に基づいて前記第2レイヤ情報を更新し、前記第2レイヤに対応する第2領域が前記第1の位置に移動された後の前記第2ストロークの位置に基づいて前記第2ストロークデータを更新することを含む請求項9記載のプログラム。
  12. 前記表示する手順は、レイヤ変更操作によって前記第2レイヤを削除することが指示された場合、前記第2レイヤ内に手書きされた第2ストロークを前記画面から削除することを含み、
    前記保存する手順は、前記記憶媒体から、前記第2レイヤ情報と、前記時系列情報に含まれる前記第2ストロークに対応するストロークデータとを削除することを含む請求項9記載のプログラム。
  13. 前記コンピュータは、タッチスクリーンディスプレイに接続され、
    前記レイヤ作成操作と、前記第1ストローク及び前記第2ストロークの入力操作とは、前記タッチスクリーンディスプレイを介して行われる請求項9記載のプログラム。
JP2012197308A 2012-09-07 2012-09-07 電子機器および手書き文書処理方法 Active JP5284524B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012197308A JP5284524B1 (ja) 2012-09-07 2012-09-07 電子機器および手書き文書処理方法
US13/680,550 US20140075302A1 (en) 2012-09-07 2012-11-19 Electronic apparatus and handwritten document processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012197308A JP5284524B1 (ja) 2012-09-07 2012-09-07 電子機器および手書き文書処理方法

Publications (2)

Publication Number Publication Date
JP5284524B1 true JP5284524B1 (ja) 2013-09-11
JP2014052873A JP2014052873A (ja) 2014-03-20

Family

ID=49274028

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012197308A Active JP5284524B1 (ja) 2012-09-07 2012-09-07 電子機器および手書き文書処理方法

Country Status (2)

Country Link
US (1) US20140075302A1 (ja)
JP (1) JP5284524B1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015148947A (ja) * 2014-02-06 2015-08-20 ソニー株式会社 情報処理システム、情報処理方法、及びプログラム

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014112335A (ja) * 2012-12-05 2014-06-19 Fuji Xerox Co Ltd 情報処理装置及びプログラム
RO128874B1 (ro) * 2012-12-19 2017-08-30 Softwin S.R.L. Sistem, pix electronic şi metodă pentru achiziţia semnăturii olografe dinamice, utilizând dispozitive mobile cu ecran capacitiv
KR20140132171A (ko) * 2013-05-07 2014-11-17 삼성전자주식회사 터치용 펜을 이용하는 휴대 단말기 및 이를 이용한 필기 입력 방법
US9305210B2 (en) * 2013-11-19 2016-04-05 Kabushiki Kaisha Toshiba Electronic apparatus and method for processing document
JP6145414B2 (ja) * 2014-02-21 2017-06-14 東芝テック株式会社 文書配布サーバ、及び文書配布サーバのプログラム
JP6311425B2 (ja) * 2014-04-14 2018-04-18 富士通株式会社 表示制御プログラム、表示制御装置及び表示制御方法
JP6335024B2 (ja) * 2014-05-28 2018-05-30 シャープ株式会社 表示装置、表示方法及び表示用プログラム並びに電子黒板
JP6430198B2 (ja) * 2014-09-30 2018-11-28 株式会社東芝 電子機器、方法及びプログラム
JP6447066B2 (ja) 2014-12-01 2019-01-09 株式会社リコー 画像処理装置、画像処理方法、及びプログラム
US9454694B2 (en) * 2014-12-23 2016-09-27 Lenovo (Singapore) Pte. Ltd. Displaying and inserting handwriting words over existing typeset
CN105868590B (zh) 2015-01-19 2019-09-10 阿里巴巴集团控股有限公司 一种笔迹数据处理方法和装置
KR102551568B1 (ko) * 2016-07-11 2023-07-06 삼성전자주식회사 전자 장치 및 그 제어 방법
JP6807228B2 (ja) * 2016-12-28 2021-01-06 株式会社ワコム ペンタブレット、手書きデータ記録装置、手書きデータ描画方法、及び手書きデータ合成方法
CN110199324B (zh) * 2017-01-31 2023-12-29 株式会社和冠 显示装置及其控制方法
US10895954B2 (en) * 2017-06-02 2021-01-19 Apple Inc. Providing a graphical canvas for handwritten input
CN109542382B (zh) * 2017-12-26 2020-07-28 掌阅科技股份有限公司 手写输入内容的显示方法、电子设备及计算机存储介质
JP6458889B2 (ja) * 2018-02-07 2019-01-30 富士通株式会社 表示制御プログラム及び表示制御装置
JP2019215595A (ja) * 2018-06-11 2019-12-19 フードゲート株式会社 入力ソフトウェア
WO2021056786A1 (zh) * 2019-09-25 2021-04-01 掌阅科技股份有限公司 手写阅读设备及其报点数据处理方法、计算机存储介质
JP6999014B2 (ja) * 2020-12-07 2022-01-18 株式会社ワコム 手書きデータ記録装置、手書きデータ描画方法、及び手書きデータ合成方法
JPWO2022149443A1 (ja) 2021-01-05 2022-07-14
WO2024095859A1 (ja) * 2022-11-02 2024-05-10 株式会社ワコム 創作支援システム及び創作支援方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006201937A (ja) * 2005-01-19 2006-08-03 Canon Inc 複数レイヤ電子情報描画装置および方法、記憶媒体、プログラム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MX9602952A (es) * 1994-01-27 1997-06-28 Minnesota Mining & Mfg Notas de software.
CA2267733A1 (en) * 1998-04-06 1999-10-06 Smart Technologies, Inc. Method for editing objects representing writing on an electronic writeboard
US6459442B1 (en) * 1999-09-10 2002-10-01 Xerox Corporation System for applying application behaviors to freeform data
US6859909B1 (en) * 2000-03-07 2005-02-22 Microsoft Corporation System and method for annotating web-based documents
US7120872B2 (en) * 2002-03-25 2006-10-10 Microsoft Corporation Organizing, editing, and rendering digital ink
US7373590B2 (en) * 2003-05-19 2008-05-13 Microsoft Corporation Shared electronic ink annotation method and system
US20050091578A1 (en) * 2003-10-24 2005-04-28 Microsoft Corporation Electronic sticky notes
US7774722B2 (en) * 2006-01-31 2010-08-10 Microsoft Corporation Creation and manipulation of canvases based on ink strokes
US8407589B2 (en) * 2007-04-20 2013-03-26 Microsoft Corporation Grouping writing regions of digital ink
CN102105876B (zh) * 2008-07-25 2014-02-19 日本电气株式会社 电子粘签系统
US20100306705A1 (en) * 2009-05-27 2010-12-02 Sony Ericsson Mobile Communications Ab Lockscreen display
US20100325527A1 (en) * 2009-06-18 2010-12-23 Microsoft Corporation Overlay for digital annotations
US20120231441A1 (en) * 2009-09-03 2012-09-13 Coaxis Services Inc. System and method for virtual content collaboration
US8791900B2 (en) * 2010-05-21 2014-07-29 Microsoft Corporation Computing device notes
US20110291964A1 (en) * 2010-06-01 2011-12-01 Kno, Inc. Apparatus and Method for Gesture Control of a Dual Panel Electronic Device
US9377950B2 (en) * 2010-11-02 2016-06-28 Perceptive Pixel, Inc. Touch-based annotation system with temporary modes
US8935265B2 (en) * 2011-08-30 2015-01-13 Abbyy Development Llc Document journaling

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006201937A (ja) * 2005-01-19 2006-08-03 Canon Inc 複数レイヤ電子情報描画装置および方法、記憶媒体、プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015148947A (ja) * 2014-02-06 2015-08-20 ソニー株式会社 情報処理システム、情報処理方法、及びプログラム

Also Published As

Publication number Publication date
US20140075302A1 (en) 2014-03-13
JP2014052873A (ja) 2014-03-20

Similar Documents

Publication Publication Date Title
JP5284524B1 (ja) 電子機器および手書き文書処理方法
JP5248696B1 (ja) 電子機器、手書き文書作成方法、及び手書き文書作成プログラム
JP6109625B2 (ja) 電子機器およびデータ処理方法
JP5349645B1 (ja) 電子機器および手書き文書処理方法
JP6430197B2 (ja) 電子機器および方法
JP5395927B2 (ja) 電子機器および手書き文書検索方法
JP5728592B1 (ja) 電子機器および手書き入力方法
JP5925957B2 (ja) 電子機器および手書きデータ処理方法
JP5694234B2 (ja) 電子機器、手書き文書表示方法、及び表示プログラム
JP2014092902A (ja) 電子機器および手書き文書処理方法
JP2014032632A (ja) 電子機器、方法、およびプログラム
JP5869179B2 (ja) 電子機器および手書き文書処理方法
JP5634617B1 (ja) 電子機器および処理方法
JP6100013B2 (ja) 電子機器および手書き文書処理方法
JP5284523B1 (ja) 情報処理システム、プログラムおよび情報処理システムの処理方法
JP2015138494A (ja) 電子機器および方法
JP5330576B1 (ja) 情報処理装置および筆跡検索方法
US20150149894A1 (en) Electronic device, method and storage medium
JP6151005B2 (ja) システムおよび情報提供方法並びに電子機器
JP5377708B2 (ja) データ処理システム、データ処理方法およびプログラム
US20140145928A1 (en) Electronic apparatus and data processing method
JP6202997B2 (ja) 電子機器、方法及びプログラム
WO2014125654A1 (ja) 電子機器、方法、およびプログラム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130507

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130529

R151 Written notification of patent or utility model registration

Ref document number: 5284524

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

Free format text: JAPANESE INTERMEDIATE CODE: R313121

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350