JP6180888B2 - 電子機器、方法およびプログラム - Google Patents

電子機器、方法およびプログラム Download PDF

Info

Publication number
JP6180888B2
JP6180888B2 JP2013231314A JP2013231314A JP6180888B2 JP 6180888 B2 JP6180888 B2 JP 6180888B2 JP 2013231314 A JP2013231314 A JP 2013231314A JP 2013231314 A JP2013231314 A JP 2013231314A JP 6180888 B2 JP6180888 B2 JP 6180888B2
Authority
JP
Japan
Prior art keywords
strokes
width
color
handwritten
stroke
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013231314A
Other languages
English (en)
Other versions
JP2015090670A (ja
Inventor
誉史 大森
誉史 大森
永田 純一
純一 永田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2013231314A priority Critical patent/JP6180888B2/ja
Priority to EP20140162969 priority patent/EP2871563A1/en
Priority to US14/262,150 priority patent/US20150123988A1/en
Publication of JP2015090670A publication Critical patent/JP2015090670A/ja
Application granted granted Critical
Publication of JP6180888B2 publication Critical patent/JP6180888B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/001Texturing; Colouring; Generation of texture or colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545Pens or stylus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Description

本実施形態は、例えば、手書き入力機能を有する電子機器などに好適な情報処理技術に関する。
近年、ユーザによる入力操作を容易にするために、タッチスクリーンディスプレイを搭載する電子機器が増えてきている。タッチスクリーンディスプレイによる入力操作は、電子機器に対して動作指示を与えることに加えて、手書きで文書を入力する用途にも使われている。従って、(手書き入力機能と共に)文字認識機能を有する電子機器では、手書き入力された文書に対応するテキストデータを得ることができる。
特開2011−253221号公報
最近では、手書き入力の際、筆跡を示す線の色や幅をユーザが随時設定することの可能な電子機器も多い。このような電子機器では、例えば、複数画の文字が、互いに異なる複数の色や幅の線で筆記され得る。また、この文字を認識して得たテキストデータを表示する場合、そのフォントの色や幅は、1筆目の線の色や幅に準じて定められている。
しかしながら、この方法では、例えば2筆目から色や幅が変更された場合、ユーザが実際に筆記したものとは、見た目上、大きく異なった状態で表示が行われてしまうという事象が発生し得る。
本発明の一形態は、ユーザに違和感を与えることのない表示を実現する電子機器、方法およびプログラムを提供することを目的とする。
実施形態によれば、電子機器は、入力手段と、表示制御手段とを具備する。入力手段は、複数のストロークに対応するストロークデータを入力する。表示制御手段は、前記複数のストロークの認識結果に対応する文字、図形または表のいずれかの単一のオブジェクトを表示する。前記複数のストロークは、前記単一のオブジェクトを構成するものである。前記複数のストロークは、第1色の1以上の第1ストロークと、前記第1色とは異なる第2色の1以上の第2ストロークとを含むか、または、第1幅の1以上の第1ストロークと、前記第1幅とは異なる第2幅の1以上の第2ストロークとを含むものである。前記表示制御手段は、前記1以上の第1ストロークが表示される領域と、前記1以上の第2ストロークが表示される領域とに応じた色または幅により、前記単一のオブジェクトを表示可能である。
実施形態に係る電子機器の外観を示す斜視図。 同実施形態の電子機器と外部装置との連携動作を示す図。 同実施形態の電子機器のタッチスクリーンディスプレイ上に手書きされる手書き文書の例を示す図。 同実施形態の電子機器によって記憶媒体に保存される、図3に示した手書き文書に対応する時系列情報を説明するための図。 同実施形態の電子機器のシステム構成を示すブロック図。 同実施形態の電子機器の画面の構成要素を説明するための図。 同実施形態の電子機器上で動作する手書きノートアプリケーションプログラムによって表示されるデスクトップ画面を示す図。 同実施形態の電子機器上で動作する手書きノートアプリケーションプログラムによって表示されるノートプレビュー画面を示す図。 同実施形態の電子機器上で動作する手書きノートアプリケーションプログラムによって表示されるページ編集画面を示す図。 同実施形態の電子機器上で動作する手書きノートアプリケーションプログラムによってページ編集画面上にメニューとして表示されるソフトウェアボタン群を示す図。 同実施形態の電子機器上で動作する手書きノートアプリケーションプログラムによって表示されるペン設定画面の例を示す図。 同実施形態の電子機器上で動作する手書きノートアプリケーションプログラムによってページ編集画面上にサブメニューとしてさらに表示されるソフトウェアボタン群を示す図。 同実施形態の電子機器上で動作する手書きノートアプリケーションプログラムによって図9に示したページ編集画面上の手書きページが整形されて表示される画面を示す図。 同実施形態の電子機器上で動作する手書きノートアプリケーションプログラムによるページ編集画面上の手書きページの一整形例を説明するための図。 同実施形態の電子機器上で動作する手書きノートアプリケーションプログラムによるページ編集画面上の手書きページの一整形例を示す図。 同実施形態の電子機器によって表示される検索ダイアログを示す図。 同実施形態の電子機器上で動作する手書きノートアプリケーションプログラムの機能構成を示すブロック図。 同実施形態の電子機器上で動作する手書きノートアプリケーションプログラムが実行する手書きページの整形時における色/幅判定処理の手順を示すフローチャート。
以下、実施の形態について図面を参照して説明する。
図1は、一実施形態に係る電子機器の外観を示す斜視図である。この電子機器は、例えば、ペンまたは指によって手書き入力可能なペン・ベースの携帯型電子機器である。この電子機器は、タブレットコンピュータ、ノートブック型パーソナルコンピュータ、スマートフォン、PDA等として実現され得る。以下では、この電子機器がタブレットコンピュータ10として実現されている場合を想定する。タブレットコンピュータ10は、タブレットまたはスレートコンピュータとも称される携帯型電子機器であり、図1に示すように、本体11とタッチスクリーンディスプレイ17とを備える。タッチスクリーンディスプレイ17は、本体11の上面に重ね合わせるように取り付けられている。
本体11は、薄い箱形の筐体を有している。タッチスクリーンディスプレイ17には、フラットパネルディスプレイと、フラットパネルディスプレイの画面上のペンまたは指の接触位置を検出するように構成されたセンサとが組み込まれている。フラットパネルディスプレイは、例えば、液晶表示装置(LCD)であってもよい。センサとしては、例えば、静電容量方式のタッチパネル、電磁誘導方式のデジタイザなどを使用することができる。以下では、デジタイザとタッチパネルの2種類のセンサの双方がタッチスクリーンディスプレイ17に組み込まれている場合を想定する。
このタッチスクリーンディスプレイ17は、指を使用した画面に対するタッチ操作のみならず、ペン100を使用した画面に対するタッチ操作も検出することができる。ペン100は例えばデジタイザペン(電磁誘導ペン)であってもよい。ユーザは、ペン100を使用してタッチスクリーンディスプレイ17上で手書き入力操作を行うことができる。手書き入力操作中においては、画面上のペン100の動きの軌跡、つまり手書き入力操作によって手書きされるストローク(手書きストロークの軌跡)がリアルタイムに描画され、これによって手書きにより入力された複数のストロークが画面上に表示される。ペン100が画面に接触されている間のペン100の動きの軌跡が1つのストロークに相当する。手書きされた文字、手書きされた図形、手書きされた表、などに対応する多数のストロークの集合が手書き文書を構成する。
本実施形態では、この手書き文書は、イメージデータではなく、各ストロークの軌跡の座標列とストローク間の順序関係を示す時系列情報(手書き文書データ)として記憶媒体に保存される。この時系列情報の詳細は図4を参照して後述するが、この時系列情報は、複数のストロークが手書きされた順を示し、かつ複数のストロークにそれぞれ対応する複数のストロークデータを含む。換言すれば、この時系列情報は、複数のストロークにそれぞれ対応する時系列のストロークデータの集合を意味する。各ストロークデータは、ある一つのストロークに対応し、このストロークの軌跡上の点それぞれに対応する座標データ系列(時系列座標)を含む。これらストロークデータの並びの順序は、ストロークそれぞれが手書きされた順序に相当する。
タブレットコンピュータ10は、記憶媒体から既存の任意の時系列情報を読み出し、この時系列情報に対応する手書き文書、つまりこの時系列情報によって示される複数のストロークを画面上に表示することができる。時系列情報によって示される複数のストロークも、手書きによって入力される複数のストロークである。
さらに、本実施形態のタブレットコンピュータ10は、ペン100を使用せずに、指で手書き入力操作を行うためのタッチ入力モードも有している。タッチ入力モードが有効な場合、ユーザは、指を使用してタッチスクリーンディスプレイ17上で手書き入力操作を行うことができる。手書き入力操作中においては、画面上の指の動きの軌跡、つまり手書き入力操作によって手書きされるストローク(手書きストロークの軌跡)がリアルタイムに描画され、これによって手書きにより入力された複数のストロークが画面上に表示される。
さらに、タブレットコンピュータ10は編集機能を有している。この編集機能は、「消しゴム」ツール、範囲選択ツール、および他の各種ツール等を用いたユーザによる編集操作に応じて、範囲選択ツールによって選択される表示中の手書き文書内の任意の手書き部分(手書き文字、手書きマーク、手書き図形、手書き表、等)を削除または移動することができる。またさらに、範囲選択ツールによって選択される手書き文書内の任意の手書き部分を、手書き文書を検索するための検索キーとして指定することもできる。またさらに、範囲選択ツールによって選択される手書き文書内の任意の手書き部分に対して、手書き文字認識/手書き図形認識/手書き表認識のような認識処理を実行することもできる。
本実施形態では、手書き文書は、1つまたは複数のページとして管理され得る。この場合、時系列情報(手書き文書データ)を1つの画面に収まる面積単位で区切ることによって、1つの画面に収まる時系列情報のまとまりを1つのページとして記録してもよい。あるいは、ページのサイズを可変できるようにしてもよい。この場合、ページのサイズは1つの画面のサイズよりも大きい面積に広げることができるので、画面のサイズよりも大きな面積の手書き文書を一つのページとして扱うことができる。1つのページ全体をディスプレイに同時に表示できない場合は、そのページを縮小してするようにしてもよいし、縦横スクロールによってページ内の表示対象部分を移動するようにしてもよい。
図2は、タブレットコンピュータ10と外部装置との連携動作の例を示している。タブレットコンピュータ10は、パーソナルコンピュータ1やクラウドと連携することができる。すなわち、タブレットコンピュータ10は、無線LANなどの無線通信デバイスを備えており、パーソナルコンピュータ1との無線通信を実行することができる。さらに、タブレットコンピュータ10は、インターネット上のサーバ2との通信を実行することもできる。サーバ2はオンラインストレージサービス、他の各種クラウドコンピューティングサービスを実行するサーバであってもよい。
パーソナルコンピュータ1はハードディスクドライブ(HDD)のようなストレージデバイスを備えている。タブレットコンピュータ10は、時系列情報(手書き文書データ)をネットワーク越しにパーソナルコンピュータ1に送信して、パーソナルコンピュータ1のHDDに記録することができる(アップロード)。タブレットコンピュータ10とパーソナルコンピュータ1との間のセキュアな通信を確保するために、通信開始時には、パーソナルコンピュータ1がタブレットコンピュータ10を認証するようにしてもよい。この場合、タブレットコンピュータ10の画面上にユーザに対してIDまたはパスワードの入力を促すダイアログを表示してもよいし、タブレットコンピュータ10のIDなどを自動的にタブレットコンピュータ10からパーソナルコンピュータ1に送信してもよい。
これにより、タブレットコンピュータ10内のストレージの容量が少ない場合でも、タブレットコンピュータ10が多数の時系列情報あるいは大容量の時系列情報を扱うことが可能となる。
さらに、タブレットコンピュータ10は、パーソナルコンピュータ1のHDDに記録されている任意の1以上の時系列情報を読み出し(ダウンロード)、その読み出した時系列情報によって示されるストロークをタブレットコンピュータ10のディスプレイ17の画面に表示することができる。この場合、複数の時系列情報それぞれのページを縮小することによって得られるサムネイルの一覧をディスプレイ17の画面上に表示してもよいし、これらサムネイルから選ばれた1ページをディスプレイ17の画面上に通常サイズで表示してもよい。
さらに、タブレットコンピュータ10が通信する先はパーソナルコンピュータ1ではなく、前述したように、ストレージサービスなどを提供するクラウド上のサーバ2であってよい。タブレットコンピュータ10は、時系列情報(手書き文書データ)をネットワーク越しにサーバ2に送信して、サーバ2のストレージデバイス2Aに記録することができる(アップロード)。さらに、タブレットコンピュータ10は、サーバ2のストレージデバイス2Aに記録されている任意の時系列情報を読み出して(ダウンロード)、その時系列情報によって示されるストロークそれぞれの軌跡をタブレットコンピュータ10のディスプレイ17の画面に表示することができる。
このように、本実施形態では、時系列情報が保存される記憶媒体は、タブレットコンピュータ10内のストレージデバイス、パーソナルコンピュータ1内のストレージデバイス、サーバ2のストレージデバイス2Aのいずれであってもよい。
次に、図3および図4を参照して、ユーザによって手書きされたストローク(文字、図形、表など)と時系列情報との関係について説明する。図3は、ペン100などを使用してタッチスクリーンディスプレイ17上に手書きされる手書き文書(手書き文字列)の例を示している。
手書き文書では、一旦手書きによって入力される文字や図形などの上に、さらに別の文字や図形などが手書きによって入力されるというケースが多い。図3においては、「ABC」の手書き文字列が「A」、「B」、「C」の順番で手書きによって入力され、この後に、手書きの矢印が、手書き文字「A」のすぐ近くに手書きによって入力された場合が想定されている。
手書き文字「A」は、ペン100などを使用して手書きされる2つのストローク(「∧」形状の軌跡、「−」形状の軌跡)によって、つまり2つの軌跡によって表現される。最初に手書きされる「∧」形状のペン100の軌跡は例えば等時間間隔でリアルタイムにサンプリングされ、これによって「∧」形状のストロークの時系列座標SD11、SD12、…SD1nが得られる。同様に、次に手書きされる「−」形状のペン100の軌跡も等時間間隔でリアルタイムにサンプリングされ、これによって「−」形状のストロークの時系列座標SD21、SD21、…SD2nが得られる。
手書き文字「B」は、ペン100などを使用して手書きされた2つのストローク、つまり2つの軌跡によって表現される。手書き文字「C」は、ペン100などを使用して手書きされた手書きされた1つのストローク、つまり1つの軌跡によって表現される。手書きの「矢印」は、ペン100などを使用して手書きされた手書きされた2つのストローク、つまり2つの軌跡によって表現される。
図4は、図3に示した手書き文書に対応する時系列情報200を示している。時系列情報は、複数のストロークデータSD1、SD2、…、SD7を含む。時系列情報200内においては、これらストロークデータSD1、SD2、…、SD7は、これらストロークが手書きされた順に時系列に並べている。
時系列情報200において、先頭の2つのストロークデータSD1、SD2は、手書き文字「A」の2つのストロークをそれぞれ示している。3番目と4番目のストロークデータSD3、SD4は、手書き文字「B」を構成する2つのストロークをそれぞれ示している。5番目のストロークデータSD5は、手書き文字「C」を構成する1つのストロークを示している。6番目と7番目のストロークデータSD6、SD7は、手書き「矢印」を構成する2つのストロークをそれぞれ示している。
各ストロークデータは、一つのストロークに対応する座標データ系列(時系列座標)、つまり一つのストロークの軌跡上の複数の点それぞれに対応する複数の座標を含む。各ストロークデータにおいては、複数の座標はストロークが書かれた順に時系列に並べられている。例えば、手書き文字「A」に関しては、ストロークデータSD1は、手書き文字「A」の「∧」形状のストロークの軌跡上の点それぞれに対応する座標データ系列(時系列座標)、つまりn個の座標データSD11、SD12、…SD1nを含む。ストロークデータSD2は、手書き文字「A」の「−」形状のストロークの軌跡上の点それぞれに対応する座標データ系列、つまりn個の座標データSD21、SD22、…SD2nを含む。なお、座標データの数はストロークデータ毎に異なっていてもよい。
各座標データは、対応する軌跡内のある1点に対応するX座標およびY座標を示す。例えば、座標データSD11は、「∧」形状のストロークの始点のX座標(X11)およびY座標(Y11)を示す。SD1nは、「∧」形状のストロークの終点のX座標(X1n)およびY座標(Y1n)を示す。
さらに、各座標データは、その座標に対応する点が手書きされた時点に対応するタイムスタンプ情報Tを含んでいてもよい。手書きされた時点は、絶対時間(例えば、年月日時分秒)またはある時点を基準とした相対時間のいずれであってもよい。例えば、各ストロークデータに、ストロークが書き始められた絶対時間(例えば、年月日時分秒)をタイムスタンプ情報として付加し、さらに、ストロークデータ内の各座標データに、絶対時間との差分を示す相対時間をタイムスタンプ情報Tとして付加してもよい。
このように、各座標データにタイムスタンプ情報Tが追加された時系列情報を使用することにより、ストローク間の時間的関係をより精度よく表すことができる。
さらに、各座標データには、筆圧を示す情報(Z)を追加してもよい。
図4で説明したような構造を有する時系列情報200は、個々のストロークの筆跡だけでなく、ストローク間の時間的関係も表すことができる。したがって、この時系列情報200を使用することにより、図3に示すようにたとえ手書き「矢印」の先端部が手書き文字「A」上に重ねてまたは手書き文字「A」に近接して書かれたとしても、手書き文字「A」と手書き「矢印」の先端部とを異なる文字または図形として扱うことが可能となる。
さらに、本実施形態では、前述したように、手書き文書データは、イメージまたは文字認識結果ではなく、時系列のストロークデータの集合から構成される時系列情報200として記憶されるので、手書き文字の言語に依存せずに手書き文字を扱うことができる。よって、本実施形態の時系列情報200の構造は、使用言語の異なる世界中の様々な国で共通に使用できる。
図5は、タブレットコンピュータ10のシステム構成を示す図である。
タブレットコンピュータ10は、図5に示されるように、CPU101、システムコントローラ102、主メモリ103、グラフィクスコントローラ104、BIOS−ROM105、不揮発性メモリ106、無線通信デバイス107、エンベデッドコントローラ(EC)108等を備える。
CPU101は、タブレットコンピュータ10内の各種モジュールの動作を制御するプロセッサである。CPU101は、ストレージデバイスである不揮発性メモリ106から主メモリ103にロードされる各種ソフトウェアを実行する。これらソフトウェアには、オペレーティングシステム(OS)201、および各種アプリケーションプログラムが含まれている。アプリケーションプログラムには、手書きノートアプリケーションプログラム202が含まれている。この手書きノートアプリケーションプログラム202は、前述の手書き文書データを作成および表示する機能、手書き文書データを編集する機能、所望の手書き部分を含む手書き文書データや、ある手書き文書データ内の所望の手書き部分を検索するための手書き文書検索機能を有している。
また、CPU101は、BIOS−ROM105に格納された基本入出力システム(BIOS)も実行する。BIOSは、ハードウェア制御のためのプログラムである。
システムコントローラ102は、CPU101のローカルバスと各種コンポーネントとの間を接続するデバイスである。システムコントローラ102には、主メモリ103をアクセス制御するメモリコントローラも内蔵されている。また、システムコントローラ102は、PCI EXPRESS規格のシリアルバスなどを介してグラフィクスコントローラ104との通信を実行する機能も有している。
グラフィクスコントローラ104は、本タブレットコンピュータ10のディスプレイモニタとして使用されるLCD17Aを制御する表示コントローラである。このグラフィクスコントローラ104によって生成される表示信号はLCD17Aに送られる。LCD17Aは、表示信号に基づいて画面イメージを表示する。タッチパネル17B、LCD17Aおよびデジタイザ17Cは互いに重ね合わされている。タッチパネル17Bは、LCD17Aの画面上で入力を行うための静電容量式のポインティングデバイスである。指が接触される画面上の接触位置および接触位置の動き等はタッチパネル17Bによって検出される。デジタイザ17CはLCD17Aの画面上で入力を行うための電磁誘導式のポインティングデバイスである。ペン(デジタイザペン)100が接触される画面上の接触位置および接触位置の動き等はデジタイザ17Cによって検出される。
無線通信デバイス107は、無線LANまたは3G移動通信などの無線通信を実行するように構成されたデバイスである。EC108は、電力管理のためのエンベデッドコントローラを含むワンチップマイクロコンピュータである。EC108は、ユーザによるパワーボタンの操作に応じて本タブレットコンピュータ10を電源オンまたは電源オフする機能を有している。
図6は、タッチスクリーンディスプレイ17に表示される画面の構成要素を示す。
画面は、表示領域(コンテンツ領域ともいう)51と、表示領域51の下のバー(ナビゲーションバーともいう)52とを備える。表示領域51はコンテンツを表示するための領域である。アクティブ状態のアプリケーションプログラムのコンテンツは表示領域51上に表示される。図6では、ランチャープログラムがアクティブ状態である場合が想定されている。この場合、複数のアプリケーションプログラムに対応する複数のアイコン51Aがランチャープログラムによって表示領域51上に表示される。
なお、あるアプリケーションプログラムがアクティブであるとは、このアプリケーションプログラムがフォアグラウンドに移行していること、換言すればこのアプリケーションプログラムが起動されており且つフォーカスされていることを意味する。
バー52はOS201の1以上のソフトウェアボタン(ソフトウェアキーとも云う)を表示するための領域である。各ソフトウェアボタンには予め決められた機能が割り当てられている。あるソフトウェアボタンが指またはペン100によってタップされると、このソフトウェアボタンに割り当てられた機能がOS201によって実行される。例えば、Andoroid(登録商標)環境においては、図6に示されているように、戻るボタン52A、ホームボタン52B、リーセントアプリケーションボタン52Cがバー52上に表示される。これらソフトウェアボタンはバー52上のデフォルトの表示場所に表示される。
次に、手書きノートアプリケーションプログラム202によってユーザに提示される幾つかの代表的な画面の例を説明する。
図7は、手書きノートアプリケーションプログラム202によって表示されるデスクトップ画面を示す。デスクトップ画面は複数の手書き文書データを扱うための基本画面である。以下では、手書き文書データを手書きノートと称する。
デスクトップ画面は、デスクトップ画面領域70とドロア画面領域71とを含む。デスクトップ画面領域70は作業中の複数の手書きノートに対応する複数のノートアイコン801〜805を表示するテンポラリ領域である。ノートアイコン801〜805の各々は、対応する手書きノート内のあるページのサムネイルを表示する。デスクトップ画面領域70は、さらに、ペンアイコン771、カレンダーアイコン772、スクラップノート(ギャラリー)アイコン773、タグ(ラベル)アイコン774を表示する。
ペンアイコン771は、表示画面をデスクトップ画面からページ編集画面に切り替えるためのグラフィカルユーザインタフェース(GUI)である。カレンダーアイコン772は現在の日付を示すアイコンである。スクラップノートアイコン773は、他のアプリケーションプログラムからまたは外部ファイルから取り込んだデータ(スクラップデータまたはギャラリーデータと称する)を閲覧するためのGUIである。タグアイコン774は、任意の手書きノート内の任意のページにラベル(タグ)を貼り付けるためのGUIである。
ドロア画面領域71は、作成済みの全ての手書きノートを格納するためのストレージ領域を閲覧するための表示領域である。ドロア画面領域71は、全ての手書きノート内の幾つかの手書きノートに対応するノートアイコン80A,80B,80Cを表示する。ノートアイコン80A,80B,80Cの各々は、対応する手書きノート内のあるページのサムネイルを表示する。手書きノートアプリケーションプログラム202は、ペン100または指を使用してユーザによって行われるドロア画面領域71上のジェスチャ(例えばスワイプジェスチャ等)を検出することができる。このジェスチャ(例えばスワイプジェスチャ等)の検出に応答して、手書きノートアプリケーションプログラム202は、ドロア画面領域71上の画面イメージを左方向または右方向にスクロールする。これにより、ドロア画面領域71に任意の手書きノートそれぞれに対応するノートアイコンを表示することができる。
さらに、手書きノートアプリケーションプログラム202は、ペン100または指を使用してユーザによって行われるドロア画面領域71のノートアイコン上のジェスチャ(例えばタップジェスチャ等)を検出することができる。ドロア画面領域71上のあるノートアイコン上のジェスチャ(例えばタップジェスチャ等)の検出に応答して、手書きノートアプリケーションプログラム202は、このノートアイコンをデスクトップ画面領域70の中央部に移動する。そして、手書きノートアプリケーションプログラム202は、このノートアイコンに対応する手書きノートを選択し、そして、デスクトップ画面の代わりに、図8に示すノートプレビュー画面を表示する。図8のノートプレビュー画面は、選択された手書きノート内の任意のページを閲覧可能な画面である。
さらに、手書きノートアプリケーションプログラム202は、ペン100または指を使用してユーザによって行われるデスクトップ画面領域70上のジェスチャ(例えばタップジェスチャ等)も検出することができる。デスクトップ画面領域70の中央部に位置するノートアイコン上のジェスチャ(例えばタップジェスチャ等)の検出に応答して、手書きノートアプリケーションプログラム202は、中央部に位置するノートアイコンに対応する手書きノートを選択し、そして、デスクトップ画面の代わりに、図8に示すノートプレビュー画面を表示する。
さらに、デスクトップ画面はメニューを表示することができる。このメニューは、リストノートボタン81A、ノート追加ボタン81B、ノート削除ボタン81C、検索ボタン81D、設定ボタン81Eを備える。リストノートボタン81Aは手書きノートの一覧を表示するためのボタンである。ノート追加ボタン81Bは、新しい手書きノートを作成(追加)するためのボタンである。ノート削除ボタン81Cは手書きノートを削除するためのボタンである。検索ボタン81Dは検索画面(検索ダイアログ)を開くためのボタンである。設定ボタン81Eは設定画面を開くためのボタンである。
また、バー52には、戻るボタン52A、ホームボタン52B、リーセントアプリケーションボタン52Cが表示される。
図8は前述のノートプレビュー画面を示す。
ノートプレビュー画面は、選択された手書きノート内の任意のページを閲覧可能な画面である。ここでは、ノートアイコン801に対応する手書きノートが選択された場合を想定する。この場合、手書きノートアプリケーションプログラム202は、この手書きノートに含まれる複数のページ901,902,903,904,905を、これらページ901,902,903,904,905それぞれの少なくとも一部分が視認可能で且つこれらページ901,902,903,904,905が重なった形態で表示する。
ノートプレビュー画面は、さらに、前述のペンアイコン771、カレンダーアイコン772、スクラップノートアイコン773、タグアイコン774を表示する。
ノートプレビュー画面は、さらに、メニューを表示することができる。このメニューは、デスクトップボタン82A、リストページボタン82B、ページ追加ボタン82C、編集ボタン82D、ページ削除ボタン82E、ラベルボタン82F、および検索ボタン82Gを備える。デスクトップボタン82Aは、デスクトップ画面を表示するためのボタンである。リストページボタン82Bは、現在選択されている手書きノート内のページの一覧を表示するためのボタンである。ページ追加ボタン82Cは、新しいページを作成(追加)するためのボタンである。編集ボタン82Dはページ編集画面を表示するためのボタンである。ページ削除ボタン82Eは、ページを削除するためのボタンである。ラベルボタン82Fは、使用可能なラベルの種類の一覧を表示するためのボタンである。検索ボタン82Gは検索画面を表示するためのボタンである。
また、バー52には、戻るボタン52A、ホームボタン52B、リーセントアプリケーションボタン52Cが表示される。
手書きノートアプリケーションプログラム202はユーザによって行われるノートプレビュー画面上の様々なジェスチャを検出することができる。例えば、あるジェスチャの検出に応答して、手書きノートアプリケーションプログラム202は、一番上に表示されるべきページを任意のページに変更する(ページ送り、ページ戻し)。また、一番上のページ上で行われるあるジェスチャ(例えばタップジェスチャ)の検出に応答して、またはペンアイコン771上で行われるあるジェスチャ(例えばタップジェスチャ)の検出に応答して、あるいは編集ボタン82D上で行われるあるジェスチャ(例えばタップジェスチャ)の検出に応答して、手書きノートアプリケーションプログラム202は、一番上のページを選択し、そしてノートプレビュー画面の代わりに、図9に示すページ編集画面を表示する。
図9のページ編集画面は、ページ(手書きページ)の新規作成、および既存のページの閲覧および編集が可能な画面である。図8のノートプレビュー画面上のページ901が選択された場合には、図9に示すように、ページ編集画面は、ページ901の内容を表示する。
このページ編集画面において、破線で囲まれた矩形の領域500は手書き入力可能な手書き入力エリアである。手書き入力エリア500においては、デジタイザ17Cからの入力イベントは手書きストロークの表示(描画)のために使用され、タップ等のジェスチャを示すイベントとしては使用されない。一方、ページ編集画面において、手書き入力エリア500以外の領域においては、デジタイザ17Cからの入力イベントはタップ等のジェスチャを示すイベントとしても使用され得る。
タッチパネル17Bからの入力イベントは、手書きストロークの表示(描画)には使用されず、タップ、スワイプ等のジェスチャを示すイベントとして使用される。
ページ編集画面は、さらに、ユーザによって予め登録された3種類のペン501〜503と、範囲選択ペン504、消しゴムペン505とを含むクイックセレクトメニューを表示する。ここでは、黒ペン501、赤ペン502、マーカー503がユーザによって予め登録されている場合が想定されている。ユーザは、ペン100または指でクイックセレクトメニュー内のあるペン(ボタン)をタップすることにより、使用するペンの種類を切り替えることが出来る。例えば、黒ペン501がユーザによるペン100または指を使用したタップジェスチャによって選択された状態で、ペン100を用いた手書き入力操作がページ編集画面上で行われると、手書きノートアプリケーションプログラム202は、ペン100の動きに合わせて黒色のストローク(軌跡)をページ編集画面上に表示する。
クイックセレクトメニュー内の前述の3種類のペンは、ペン100のサイドボタンの操作によっても切り替えることが出来る。クイックセレクトメニュー内の前述の3種類のペンの各々には、よく使うペンの色やペンの太さ(幅)等の組み合わせを設定することができる。
ページ編集画面は、さらに、メニューボタン511、ページ戻しボタン512、ページ送りボタン513を表示する。メニューボタン511はメニューを表示するためのボタンである。
図10は、メニューボタン511の操作によってページ編集画面上にメニューとして表示されるソフトウェアボタン群を示す図である。
メニューボタン511が操作されると、図10に示すように、ページ編集画面上に、ノートプレビューボタン83A、ページ追加ボタン83B、検索ボタン83C、エクスポートボタン83D、インポートボタン83E、メールボタン83F、ペンケースボタン83Gがメニューとして表示される。
ノートプレビューボタン83Aは、ノートプレビュー画面に戻るためのボタンである。ページ追加ボタン83Bは、新規ページを追加するためのボタンである。検索ボタン83Cは、検索画面を開くためのボタンである。エクスポートボタン83Dは、エクスポートのためのサブメニューを表示するためのボタンである。インポートボタン83Eは、インポートのためのサブメニューを表示するためのボタンである。メールボタン83Fは、ページ編集画面上に表示されている手書きページをテキストに変換して電子メールによって送信する処理を起動するためのボタンである。ペンケースボタン83Gは、クイックセレクトメニュー内の3種類のペンの各々の色(描画される線の色)や太さ[幅](描画される線の太さ[幅])等を変更可能なペン設定画面を呼び出すためのボタンである。
図11は、手書きノートアプリケーションプログラム202によって表示されるペン設定画面の例を示す図である。
ペン設定画面は、ペンの種類を設定するためのフィールド91A、線の色を設定するためのフィールド91B、線の太さ(幅)を設定するためのフィールド91C、線の透明度を設定するためのフィールド91Dを備えている。このペン設定画面によって、クイックセレクトメニュー内の3種類のペンの各々の色(描画される線の色)や太さ[幅](描画される線の太さ[幅])等の組み合わせを設定することができる。
また、図12は、エクスポートボタン83Dの操作によってページ編集画面上にサブメニューとしてさらに表示されるソフトウェアボタン群を示す図である。
エクスポートボタン511が操作されると、図12に示すように、(エクスポートボタン83Dを含むソフトウェアボタン群がメニューとして表示されている)ページ編集画面上に、プレゼンテーションボタン84A、ドキュメントボタン84B、イメージボタン84C、共有ボタン84Dがサブメニューとしてさらに表示される。
プレゼンテーションボタン84Aは、ページ編集画面上に表示されている手書きページを認識してプレゼンテーションファイルに変換する処理を起動するためのボタンである。ドキュメントボタン84Bは、ページ編集画面上に表示されている手書きページを認識して電子文書ファイルに変換する処理を起動するためのボタンである。イメージボタン84Cは、ページ編集画面上に表示されている手書きページを画像ファイルに変換する処理を起動するためのボタンである。共有ボタン84Dは、ページ編集画面上に表示されている手書きページを画像ファイルに変換して他のアプリケーションプログラムと共有する処理を起動するためのボタンである。
図13は、ドキュメントボタン84Bの操作によって図9に示したページ編集画面上の手書きページが整形されて表示される画面を示す図である。
前述のように、ドキュメントボタン84Bは、ページ編集画面上に表示されている手書きページを認識して電子文書ファイルに変換する処理を起動するためのボタンである。手書きノートアプリケーションプログラム202は、このドキュメントボタン84Bが操作されると、手書きページ中の手書き文字列をテキスト(文字コード列)に変換する筆跡認識処理を実行する。筆跡認識処理による認識の対象物には、文字の他、図形や表が含まれる。その結果、図9に示したページ編集画面上の手書きページ内のストロークで構成される各文字が、図13に示すように、(認識結果である)各文字に対応する文字コードのフォントを用いて整形されて表示される。なお、手書きページ中に画像がインポートされている場合であって、画像内に文字列が含まれる場合、手書きノートアプリケーションプログラム202は、この文字列をテキスト(文字コード列)に変換する文字認識処理(OCR)を実行することができる。
ところで、本実施形態のタブレットコンピュータ10では、ページ編集画面上でのペン100を用いた手書き入力操作時、前述したように、例えばクイックセレクトメニューの操作により、使用するペンの種類を切り替えることができる。従って、例えば、複数画の文字が、互いに異なる複数の色や幅の線で筆記され得る。この文字を整形して表示する場合、つまり、この文字を認識して得た文字コードのフォントを表示する場合、例えば1筆目の線の色や幅に準じて当該フォントの色や幅を決定すると、整形前と整形後とで見た目が大きく異なってしまう可能性がある。
そこで、本実施形態のタブレットコンピュータ10は、手書きノートアプリケーションプログラム202が、ユーザに違和感を与えることのないように手書きページを整形して表示する機能を有している。
図14は、手書きノートアプリケーションプログラム202によるページ編集画面上の手書きページの一整形例を説明するための図である。
いま、「H」という文字が、ストロークa1、ストロークa2、ストロークa3の順番で手書き入力されたものと想定する(図14の(A))。また、1筆目のストロークa1は、黒色の細い幅の線で手書き入力され、2筆目以降のストロークa2,a3は、ストロークa1とは色および幅が異なる線で手書き入力されたものと想定する。この場合、前者のストロークa1の線の色および幅よりも、後者のストロークa2,a3の線の色および幅の方が支配的であると言える。
このような場合に、1筆目のストロークa1の線の色および幅に準じて、「H」という文字をフォントを用いて表示する際の色および幅を決定すると、ユーザが実際に筆記したものとは、見た目上、大きく異なってしまう(図14の(B))。これに対して、本実施形態のタブレットコンピュータ10では、手書きノートアプリケーションプログラム202が、例えば、支配的なストロークa2,a3の線の色および幅に準じて、「H」という文字をフォントを用いて表示する際の色および幅を決定する(図14の(C))。より具体的には、手書きノートアプリケーションプログラム202は、文字、図形または表を構成するストロークの長さの総和を色別、幅別に算出し、算出した総和が最も大きい色、幅を使用することで、手書き入力された文字、図形または表を、よりユーザの見た目に近い形で整形して表示することを可能とする。
なお、ストロークの長さの総和が最も大きい色、幅を使用する方法は、単なる一例であって、その他、種々の方法を適用可能である。例えば、文字、図形または表を構成するストロークの本数を色別、幅別にカウントし、本数が最も多い色、幅を使用するようにしてもよい。この場合、ストロークの本数が最も多い色、幅を、その文字、図形または表の中で支配的な色、幅であると考える。同趣旨で、例えば、ストロークの領域の面積の総和を色別、幅別に算出し、算出した面積の総和が最も大きい色、幅を使用するようにしてもよい。
また、このような色別、幅別の計算を行うことなく、例えば、文字、図形または表を構成するストロークの中で最も長いストロークの色、幅を、その文字、図形または表の中で支配的な色、幅であると考えて使用するようにしてもよい。同じく色別、幅別の計算を行うことなく、例えば、文字、図形または表を構成するストロークの中で最後に手書き入力されたストロークの色、幅を、ユーザが意図する色、幅であると考えて使用するようにしてもよい。
さらに、特に幅に関しては、例えば、文字、図形または表を構成するストロークの長さの総和を幅別に算出し、算出した長さの総和を重みとした加重平均によって、整形後の表示に使用する幅を算出するようにしてもよい。文字の幅については、フォントとして通常フォントと太字フォントとの2種類のみを持つことが一般的であるので、算出した幅が閾値以上か否かによって、いずれのフォントを使用するかを決定するといった対応を行うようにすればよい。
図15は、手書きノートアプリケーションプログラム202によるページ編集画面上の手書きページの一整形例を示す図であって、ストロークの長さの総和が最大となる幅を用いて整形した場合と、ストロークの長さの総和を重みとした加重平均によって算出した幅を用いて整形した場合とを示す図である。
図15中、(A)は、ページ編集画面上の手書きページの一例を示し、(B)は、この手書きページをストロークの長さの総和が最大となる幅を用いて整形して表示した例を示し、(C)は、この手書きページをストロークの長さの総和を重みとした加重平均によって算出した幅を用いて整形して表示した例を示している。
ストロークの長さの総和が最大となる幅を用いて整形する場合、ストロークの長さの総和が小さい(最大ではない)幅のストロークが複数種存在し、かつ、たとえそれらが全体のストロークの長さの大部分を占めていたとしても、それらはすべて無視される。これに対して、ストロークの長さの総和を重みとした加重平均によって算出した幅を用いて整形する場合、ストロークの長さの総和が小さい(最大ではない)幅のストロークが1つでも存在したならば、それらは無視されることなく、最終的な幅の算出値に影響を及ぼすことになる。
このように、本実施形態のタブレットコンピュータ10は、ユーザに違和感を与えることのないように手書きページを整形して表示することを実現する。
また、図16は、検索画面(検索ダイアログ)の例を示す。図16では、ノートプレビュー画面上に検索画面(検索ダイアログ)が開かれた場合が想定されている。
検索画面は、検索キー入力領域530、筆跡検索ボタン531、テキスト検索ボタン532、デリートボタン533、検索実行ボタン534を表示する。筆跡検索ボタン531は筆跡検索を選択するためのボタンである。テキスト検索ボタン532はテキスト検索を選択するためのボタンである。検索実行ボタン534は、検索処理の実行を要求するためのボタンである。
筆跡検索においては、検索キー入力領域530は、検索キーとすべき文字列、図形、表などを手書きするための入力領域として使用される。図16においては、検索キー入力領域530に手書き文字列「Determine」が検索キーとして入力された場合が例示されている。ユーザは、手書き文字列に限らず、手書き図形、手書き表などを検索キー入力領域530にペン100で手書きすることができる。検索キー入力領域530に手書き文字列「Determine」が検索キーとして入力された状態で検索実行ボタン534がユーザによって選択されると、手書き文字列「Determine」のストローク群(クエリーストローク群)を用いて、このクエリーストローク群に対応するストローク群を含む手書きノートを検索するための筆跡検索が実行される。筆跡検索では、ストローク間のマッチングによって、クエリーストローク群に類似するストローク群が検索される。クエリーストローク群とある別のストローク群との間の類似度の算出においては、DP(Dynamic Programming)マッチングを使用してもよい。
テキスト検索においては、例えばソフトウェアキーボードが画面上に表示される。ユーザは、ソフトウェアキーボードを操作することによって任意のテキスト(文字列)を検索キーとして検索キー入力領域530に入力することができる。検索キー入力領域530にテキストが検索キーとして入力された状態で検索実行ボタン534がユーザによって選択されると、このテキスト(クエリーテキスト)に対応するストロークデータ群を含む手書きノートを検索するためのテキスト検索が実行される。
筆跡検索/テキスト検索は、全ての手書きノートを対象に実行することも出来るし、選択された手書きノートのみを対象に実行することも出来る。筆跡検索/テキスト検索が実行されると、検索結果画面が表示される。検索結果画面においては、クエリーストローク群(またはクエリーテキスト)に対応するストローク群を含む手書きページの一覧が表示される。ヒットワード(クエリーストローク群またはクエリーテキストに対応するストローク群)は強調表示される。
次に、図17を参照して、手書きノートアプリケーションプログラム202の機能構成について説明する。
手書きノートアプリケーションプログラム202は、手書き文書データを扱うことが可能なWYSIWYGアプリケーションである。この手書きノートアプリケーションプログラム202は、例えば、ペン設定部300A、バー設定部300B、制御部300C、表示処理部301、時系列情報生成部302、検索/認識部303、ページ保存処理部306、ページ取得処理部307、およびインポート部308等を備える。
前述したタッチパネル17Bは、「タッチ(接触)」、「移動(スライド)」、「リリース」等のイベントの発生を検出するように構成されている。「タッチ(接触)」は、画面上にオブジェクト(指)が接触したことを示すイベントである。「移動(スライド)」は、画面上にオブジェクト(指)が接触されている間に接触位置が移動されたことを示すイベントである。「リリース」は、画面からオブジェクト(指)が離されたことを示すイベントである。
前述したデジタイザ17Cも、「タッチ(接触)」、「移動(スライド)」、「リリース」等のイベントの発生を検出するように構成されている。「タッチ(接触)」は、画面上にオブジェクト(ペン100)が接触したことを示すイベントである。「移動(スライド)」は、画面上にオブジェクト(ペン100)が接触されている間に接触位置が移動されたことを示すイベントである。「リリース」は、画面からオブジェクト(ペン100)が離されたことを示すイベントである。
手書きノートアプリケーションプログラム202は手書きページデータの作成、閲覧、編集を行うためのページ編集画面をタッチスクリーンディスプレイ17上に表示する。ペン設定部300Aは、前述した、ページ編集画面上のクイックセレクトメニュー内の3種類のペン(ボタン)やペン設定画面を表示し、これらに対するユーザの操作に応じてストロークの描画の形態を設定する。
バー設定部300Bは、ユーザインタフェース(例えば、前述の戻るボタン52A、ホームボタン52B、リーセントアプリケーションボタン52Cの表示位置を設定するための画面等)を表示し、ユーザによって行われるこのユーザインタフェースの操作に応じてOS201のソフトウェアボタン群の表示位置を設定する。制御部300CはOS201との通信を行う。
表示処理部301および時系列情報生成部302は、デジタイザ17Cによって発生される「タッチ(接触)」、「移動(スライド)」または「リリース」のイベントを受信し、これによって手書き入力操作を検出する。「タッチ(接触)」イベントには、接触位置の座標が含まれている。「移動(スライド)」イベントには、移動先の接触位置の座標が含まれている。したがって、表示処理部301および時系列情報生成部302は、デジタイザ17Cから接触位置の動きの軌跡に対応する座標列を受信することができる。
表示処理部301は、デジタイザ17Cを用いて検出される画面上のオブジェクト(ペン100)の動きに応じて手書きストロークを画面上に表示する。この表示処理部301により、画面にペン100が接触している間のペン100の軌跡、つまり各ストロークの軌跡がページ編集画面上に表示される。さらに、表示処理部301は、インポート部308によって外部アプリケーション/外部ファイルからインポートされる様々なコンテンツデータ(画像データ、音声データ、テキストデータ、ドロー系アプリケーションによって作成されたデータ)をページ編集画面上に表示することができる。
時系列情報生成部302は、デジタイザ17Cから出力される前述の座標列を受信し、この座標列に基づいて、図4で詳述したような構造を有する時系列情報(座標データ系列)を含む手書きデータを生成する。また、ペン設定部300Aで設定される線の色や太さ(幅)に関する情報が、この手書きデータに属性情報として含まれる。時系列情報生成部302は、生成された手書きデータを作業メモリ401に一時保存する。
検索/認識部303は、前述した、手書きページ中の手書き文字列をテキスト(文字コード列)に変換する筆跡認識処理、手書きページ中の画像内に含まれる文字列をテキスト(文字コード列)に変換する文字認識処理(OCR)を実行する。また、検索/認識部303は、色/幅判定部303Aを有する。色/幅判定部303Aは、前述した、文字、図形または表を構成するストロークの例えば長さの総和を色別、幅別に算出し、算出した総和が最も大きい色、幅を、その文字、図形または表を整形して表示する際の色、幅として決定する判定処理を実行する。さらに、検索/認識部303は、前述の筆跡検索およびテキスト検索を実行することができる。
ページ保存処理部306は、作成中の手書きページ上の複数の手書きストロークに対応する複数のストロークデータを含む手書きページデータを記憶媒体402に保存する。記憶媒体402は、例えば、タブレットコンピュータ10内のストレージデバイスであってもよいし、サーバコンピュータ2のストレージデバイス2Aであってもよい。
ページ取得処理部307は、記憶媒体402から任意の手書きページデータを取得する。この取得された手書きページデータは表示処理部301に送られる。表示処理部301は、手書きページデータに含まれる複数のストロークデータに対応する複数のストロークを画面上に表示する。
図18は、手書きノートアプリケーションプログラム202が実行する手書きページの整形時における色/幅判定処理の手順を示すフローチャートである。
ここでは、手書き入力されたストロークで構成される文字、図形または表を整形して表示するにあたって、文字、図形または表を構成するストロークの長さの総和が最も大きい色、幅を使用する方法を適用する場合を想定する。
前述したように、手書きノートアプリケーションプログラム202の検索/認識部303は、手書きページ中の手書き文字列をテキスト(文字コード列)に変換する筆跡認識処理を実行する。この時、色/幅判定部303Aは、検索/認識部303により認識される文字、図形または表を色/幅判定処理の一単位として、判定対象となるストローク群のストロークデータを取得する(ブロックA1)。
色/幅判定部303Aは、第1に、(判定対象の)文字、図形または表を構成するストロークの長さの総和を色別に算出し(ブロックA2)、算出した総和が最も大きい色を選出する(ブロックA3)。
色/幅判定部303Aは、第2に、(判定対象の)文字、図形または表を構成するストロークの長さの総和を幅別に算出し(ブロックA4)、算出した総和が最も大きい幅を選出する(ブロックA4)。
手書きノートアプリケーションプログラム202は、色/幅判定部303Aが選出した色、幅を使用して、手書きページの整形を実行する(ブロックA5)。
以上説明したように、本実施形態のタブレットコンピュータ10においては、ユーザに違和感を与えることのないように、手書き入力された文字、図形または表を、よりユーザの見た目に近い形で整形して表示することが実現される。
なお、本実施形態の各種処理はコンピュータプログラムによって実現することができるので、このコンピュータプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのコンピュータプログラムを通常のコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
10…タブレットコンピュータ、11…本体、17…タッチスクリーンディスプレイ、17A…LCD、17B…タッチパネル、17C…デジタイザ、101…CPU、102…システムコントローラ、103…主メモリ、104…グラフィクスコントローラ、105…BIOS−ROM、106…不揮発性メモリ、107…無線通信デバイス、108…エンベデッドコントローラ、201…オペレーティングシステム、202…手書きノートアプリケーションプログラム、300A…ペン設定部、300B…バー設定部、300C…制御部、301…表示処理部、302…時系列情報生成部、303…検索/認識部、303A…色/幅判定部、306…ページ保存処理部、307…ページ取得処理部、308…インポート部、401…作業メモリ、402…記憶媒体。

Claims (21)

  1. 複数のストロークに対応するストロークデータを入力する入力手段と、
    前記複数のストロークの認識結果に対応する文字、図形または表のいずれかの単一のオブジェクトを表示する表示制御手段と、
    を具備し、
    前記複数のストロークは、前記単一のオブジェクトを構成するものであって、
    前記複数のストロークは、第1色の1以上の第1ストロークと、前記第1色とは異なる第2色の1以上の第2ストロークとを含むか、または、第1幅の1以上の第1ストロークと、前記第1幅とは異なる第2幅の1以上の第2ストロークとを含むものであって、
    前記表示制御手段は、前記1以上の第1ストロークが表示される領域と、前記1以上の第2ストロークが表示される領域とに応じた色または幅により、前記単一のオブジェクトを表示可能である
    電子機器。
  2. 前記表示制御手段は、前記1以上の第1ストロークの長さの総和と、前記1以上の第2ストロークの長さの総和とに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項1に記載の電子機器。
  3. 前記表示制御手段は、第1ストロークの数と、第2ストロークの数とに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項1に記載の電子機器。
  4. 前記表示制御手段は、前記1以上の第1ストロークが表示される領域の面積と、前記1以上の第2ストロークが表示される領域の面積とに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項1に記載の電子機器。
  5. 前記表示制御手段は、前記単一のオブジェクトを構成する複数のストロークのうち、最も長いストロークに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項1に記載の電子機器。
  6. 前記表示制御手段は、前記単一のオブジェクトを構成する複数のストロークのうち、最後に手書きされたストロークに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項1に記載の電子機器。
  7. 前記表示制御手段は、ストロークの幅毎の長さの総和を重みとした加重平均によって幅を算出する請求項1に記載の電子機器。
  8. 電子機器の方法であって、
    複数のストロークに対応するストロークデータを入力することと、
    前記複数のストロークの認識結果に対応する文字、図形または表のいずれかの単一のオブジェクトを表示することと、
    を具備し、
    前記複数のストロークは、前記単一のオブジェクトを構成するものであって、
    前記複数のストロークは、第1色の1以上の第1ストロークと、前記第1色とは異なる第2色の1以上の第2ストロークとを含むか、または、第1幅の1以上の第1ストロークと、前記第1幅とは異なる第2幅の1以上の第2ストロークとを含むものであって、
    前記表示することは、前記1以上の第1ストロークが表示される領域と、前記1以上の第2ストロークが表示される領域とに応じた色または幅により、前記単一のオブジェクトを表示可能である
    方法。
  9. 前記表示することは、前記1以上の第1ストロークの長さの総和と、前記1以上の第2ストロークの長さの総和とに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項8に記載の方法。
  10. 前記表示することは、第1ストロークの数と、第2ストロークの数とに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項8に記載の方法。
  11. 前記表示することは、前記1以上の第1ストロークが表示される領域の面積と、前記1以上の第2ストロークが表示される領域の面積とに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項8に記載の方法。
  12. 前記表示することは、前記単一のオブジェクトを構成する複数のストロークのうち、最も長いストロークに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項8に記載の方法。
  13. 前記表示することは、前記単一のオブジェクトを構成する複数のストロークのうち、最後に手書きされたストロークに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項8に記載の方法。
  14. 前記表示することは、ストロークの幅毎の長さの総和を重みとした加重平均によって幅を算出する請求項8に記載の方法。
  15. コンピュータを、
    複数のストロークに対応するストロークデータを入力する入力手段、
    前記複数のストロークの認識結果に対応する文字、図形または表のいずれかの単一のオブジェクトを表示する表示制御手段、
    として機能させ、
    前記複数のストロークは、前記単一のオブジェクトを構成するものであって、
    前記複数のストロークは、第1色の1以上の第1ストロークと、前記第1色とは異なる第2色の1以上の第2ストロークとを含むか、または、第1幅の1以上の第1ストロークと、前記第1幅とは異なる第2幅の1以上の第2ストロークとを含むものであって、
    前記表示制御手段は、前記1以上の第1ストロークが表示される領域と、前記1以上の第2ストロークが表示される領域とに応じた色または幅により、前記単一のオブジェクトを表示可能である
    プログラム。
  16. 前記表示制御手段は、前記1以上の第1ストロークの長さの総和と、前記1以上の第2ストロークの長さの総和とに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項15に記載のプログラム。
  17. 前記表示制御手段は、第1ストロークの数と、第2ストロークの数とに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項15に記載のプログラム。
  18. 前記表示制御手段は、前記1以上の第1ストロークが表示される領域の面積と、前記1以上の第2ストロークが表示される領域の面積とに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項15に記載のプログラム。
  19. 前記表示制御手段は、前記単一のオブジェクトを構成する複数のストロークのうち、最も長いストロークに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項15に記載のプログラム。
  20. 前記表示制御手段は、前記単一のオブジェクトを構成する複数のストロークのうち、最後に手書きされたストロークに応じた色または幅により、前記単一のオブジェクトを表示可能である請求項15に記載のプログラム。
  21. 前記表示制御手段は、ストロークの幅毎の長さの総和を重みとした加重平均によって幅を算出する請求項15に記載のプログラム。
JP2013231314A 2013-11-07 2013-11-07 電子機器、方法およびプログラム Active JP6180888B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013231314A JP6180888B2 (ja) 2013-11-07 2013-11-07 電子機器、方法およびプログラム
EP20140162969 EP2871563A1 (en) 2013-11-07 2014-03-31 Electronic device, method and storage medium
US14/262,150 US20150123988A1 (en) 2013-11-07 2014-04-25 Electronic device, method and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013231314A JP6180888B2 (ja) 2013-11-07 2013-11-07 電子機器、方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2015090670A JP2015090670A (ja) 2015-05-11
JP6180888B2 true JP6180888B2 (ja) 2017-08-16

Family

ID=50729349

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013231314A Active JP6180888B2 (ja) 2013-11-07 2013-11-07 電子機器、方法およびプログラム

Country Status (3)

Country Link
US (1) US20150123988A1 (ja)
EP (1) EP2871563A1 (ja)
JP (1) JP6180888B2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014106911A1 (ja) * 2013-01-04 2014-07-10 株式会社ユビキタスエンターテインメント 情報処理装置及び情報更新プログラム
USD759036S1 (en) * 2013-08-01 2016-06-14 Sears Brands, L.L.C. Display screen or portion thereof with icon
USD758379S1 (en) * 2013-08-01 2016-06-07 Sears Brands, L.L.C. Display screen or portion thereof with icon
KR102111740B1 (ko) * 2014-04-03 2020-05-15 삼성전자주식회사 영상 데이터를 처리하는 방법 및 디바이스.
US9652669B2 (en) * 2014-09-16 2017-05-16 Lenovo (Singapore) Pte. Ltd. Reflecting handwriting attributes in typographic characters
USD783642S1 (en) * 2014-10-16 2017-04-11 Apple Inc. Display screen or portion thereof with animated graphical user interface
US11080774B2 (en) * 2015-08-25 2021-08-03 Cardly Pty Ltd Online system and method for personalising a greeting card or stationery with handwriting and doodles using a computer
USD808410S1 (en) * 2016-06-03 2018-01-23 Samsung Electronics Co., Ltd. Display screen or portion thereof with graphical user interface
USD809559S1 (en) * 2016-06-03 2018-02-06 Samsung Electronics Co., Ltd. Display screen or portion thereof with transitional graphical user interface
USD816714S1 (en) * 2016-12-26 2018-05-01 Samsung Electronics Co., Ltd. Display screen or portion thereof with icon
USD816114S1 (en) * 2016-12-26 2018-04-24 Samsung Electronics Co., Ltd. Display screen or portion thereof with icon
CN108259315A (zh) * 2017-01-16 2018-07-06 广州市动景计算机科技有限公司 在线图片分享方法、设备、客户端及电子设备
US10872199B2 (en) * 2018-05-26 2020-12-22 Microsoft Technology Licensing, Llc Mapping a gesture and/or electronic pen attribute(s) to an advanced productivity action
US10956730B2 (en) * 2019-02-15 2021-03-23 Wipro Limited Method and system for identifying bold text in a digital document

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07261917A (ja) * 1994-03-22 1995-10-13 Hitachi Ltd 情報処理装置
JPH117376A (ja) * 1997-06-16 1999-01-12 Seiko Epson Corp 情報検索方法及び情報処理機器並びに情報検索処理プログラムを記憶した記憶媒体
US6268865B1 (en) * 1998-01-13 2001-07-31 Disney Enterprises, Inc. Method and apparatus for three-dimensional painting
JP2001167228A (ja) * 1999-12-09 2001-06-22 Sharp Corp 手書き入力装置および手書き入力方法、並びに、プログラム記録媒体
EP1220140A1 (fr) * 2000-12-27 2002-07-03 Asulab S.A. Procédé de reconnaissance de caractères tracés manuellement sur une zone de saisie et dispositif électronique permettant de mettre en oeuvre ce procédé
US7239318B2 (en) * 2001-03-23 2007-07-03 Rise Kabushikikaisha Method and computer software program product for processing characters based on outline font
JP2003099713A (ja) * 2001-09-25 2003-04-04 Ricoh Co Ltd 手書き情報処理装置、手書き情報処理方法、手書き情報処理プログラム、そのプログラムが記録された記録媒体、及び電子黒板
JP2003233825A (ja) * 2002-02-06 2003-08-22 Victor Co Of Japan Ltd 文書処理装置
US7158675B2 (en) * 2002-05-14 2007-01-02 Microsoft Corporation Interfacing with ink
US7697002B2 (en) * 2007-01-25 2010-04-13 Ricoh Co. Ltd. Varying hand-drawn line width for display
JP2008250375A (ja) * 2007-03-29 2008-10-16 Toshiba Corp 文字入力装置、方法およびプログラム
JP2009290822A (ja) * 2008-06-02 2009-12-10 Ricoh Co Ltd 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP5017466B1 (ja) * 2011-02-28 2012-09-05 株式会社東芝 情報処理装置およびプログラム
US9640144B2 (en) * 2012-02-13 2017-05-02 Hitachi Maxell, Ltd. Projector, figure input/display apparatus, portable terminal, and program
US8928698B2 (en) * 2012-06-10 2015-01-06 Apple Inc. Compression of road features in map tiles
JP5458161B1 (ja) * 2012-10-23 2014-04-02 株式会社東芝 電子機器および方法

Also Published As

Publication number Publication date
EP2871563A1 (en) 2015-05-13
JP2015090670A (ja) 2015-05-11
US20150123988A1 (en) 2015-05-07

Similar Documents

Publication Publication Date Title
JP6180888B2 (ja) 電子機器、方法およびプログラム
JP5728592B1 (ja) 電子機器および手書き入力方法
JP6092418B2 (ja) 電子機器、方法及びプログラム
JP5813780B2 (ja) 電子機器、方法及びプログラム
JP6426417B2 (ja) 電子機器、方法及びプログラム
WO2014147716A1 (ja) 電子機器および手書き文書処理方法
JP5925957B2 (ja) 電子機器および手書きデータ処理方法
JP5395927B2 (ja) 電子機器および手書き文書検索方法
JP6092462B2 (ja) 電子機器、方法及びプログラム
WO2014192157A1 (ja) 電子機器、方法及びプログラム
JP5634617B1 (ja) 電子機器および処理方法
JP6100013B2 (ja) 電子機器および手書き文書処理方法
JP6430198B2 (ja) 電子機器、方法及びプログラム
JP2016085512A (ja) 電子機器、方法及びプログラム
JP6202997B2 (ja) 電子機器、方法及びプログラム
JP6251408B2 (ja) 電子機器、方法及びプログラム
JP6062487B2 (ja) 電子機器、方法及びプログラム
JP6315996B2 (ja) 電子機器、方法及びプログラム
JP6430199B2 (ja) 電子機器、方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170531

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170620

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170719

R151 Written notification of patent or utility model registration

Ref document number: 6180888

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

Free format text: JAPANESE INTERMEDIATE CODE: R313121

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350