JP2013535710A - コンテキストに基づいた、文書への捕捉画像の自動アタッチメント - Google Patents

コンテキストに基づいた、文書への捕捉画像の自動アタッチメント Download PDF

Info

Publication number
JP2013535710A
JP2013535710A JP2012558115A JP2012558115A JP2013535710A JP 2013535710 A JP2013535710 A JP 2013535710A JP 2012558115 A JP2012558115 A JP 2012558115A JP 2012558115 A JP2012558115 A JP 2012558115A JP 2013535710 A JP2013535710 A JP 2013535710A
Authority
JP
Japan
Prior art keywords
document
image
stroke
computer
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012558115A
Other languages
English (en)
Other versions
JP5884741B2 (ja
Inventor
ダブリュ ピアソル,カート
香苗 雨宮
ケミシキアン,セルゲイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of JP2013535710A publication Critical patent/JP2013535710A/ja
Application granted granted Critical
Publication of JP5884741B2 publication Critical patent/JP5884741B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/166Editing, e.g. inserting or deleting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/166Editing, e.g. inserting or deleting
    • G06F40/169Annotation, e.g. comment data or footnotes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/036Insert-editing
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • G11B27/32Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on separate auxiliary tracks of the same or an auxiliary record carrier
    • G11B27/327Table of contents
    • G11B27/329Table of contents on a disc [VTOC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/41407Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance embedded in a portable device, e.g. video client on a mobile phone, PDA, laptop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47205End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for manipulating displayed content, e.g. interacting with MPEG-4 objects, editing locally
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/478Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4788Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Document Processing Apparatus (AREA)

Abstract

画像を捕捉する動作によってトリガされる、表示されている文書への、捕捉画像の自動アタッチメントのための携帯用計算装置を開示する。新たなページが、携帯用計算装置上でレビューされ、表示されている現在の文書に追加され、次いで、画像及びメタデータが前述の新たなページに添付される。他の変形では、文書は、画像を記憶し得る場所を有するメタデータを含み、画像を捕捉すると、捕捉画像がメタデータの場所において記憶される。

Description

本発明の本実施例は、携帯用計算装置及び電子文書に関し、特に、携帯用計算装置の使用のコンテキストに基づいた、文書への捕捉画像の自動アタッチメントを可能にする、携帯用計算装置のユーザ・インタフェースに関する。
携帯用計算装置の使用は、多くのユーザにとって珍しくなくなっている。従来のデスクトップ型コンピュータを保有することに加え、多くのユーザは、特定のタイプの携帯用計算装置も保有している。現代の計算装置の例には、ソニー社のリーダー(Reader)、アマゾン(Amazon)社のキンドル(Kindle)、及びバーンズ・アンド・ノーブル(Barnes & Noble)社のヌック(Nook)が含まれる。より小型の携帯用計算装置には、アップル・コンピュータ(Apple Computer)社のアイフォン(iPhone)、リサーチ・イン・モーション(Research In Motion)社のブラックベリー(Blackberry)、パーム(Palm)社のプレ(Pre)などを含む多くのスマートフォンが含まれる。各種のレベルの処理機能及びサイズを提供するノートブック型ラップトップ及びタブレット型コンピュータの売上の増加もみられる。
前述の従来技術の装置は、特定の問題の1つとして、特に、素人、又は慣れていないユーザにとって、操作し、構成するのが難しいという点がある。例えば、前述の携帯用計算装置はデスクトップ・コンピュータと非常に類似しており、入力装置、出力装置、通信タイプ、利用可能な接続、データ同期化などの種々の構成の詳細を有しており、これは、前述の携帯用計算装置を非常に使いにくいものにし得る。更に、装置の多くは、従来のキーボード、又は携帯用計算装置にデータを入力する、キーボードの特定の擬似シミュレートされたタイプのバージョンを必要とする。これは、携帯用計算装置と相互作用するために、ユーザが別々のいくつかのインタフェースを学習することを必要とする。前述のインタフェースは更に、携帯用計算装置によって実行されているアプリケーションに応じて変わり得る。前述の別々の多くのインタフェースの使用を要求することにより、前述の装置の使いやすさ及び利便性が低減する。
多くの携帯用計算装置はカメラも含む。しかし、使用するのが難しい、携帯用計算装置の1つの特定の局面は、カメラである。まず、多くの場合、ユーザは、カメラを動作させるためにモードを切り替えなければならない。これは、現在のアプリケーションを出て、新たなアプリケーション又はカメラ・モードを開始させることを必要とし、次いで、カメラ入力のための設定が入力された後にのみ、ユーザは写真(ピクチャ)を撮影することができる。第2に、ピクチャが捕捉されると、携帯用計算装置上に記憶される。別の場所にピクチャを移動させるか、又はピクチャを送出するために、携帯用計算装置とのいくつかのユーザ相互作用又は工程が必要である。例えば、ちょうど今撮影されたピクチャを送出するために、ユーザは、カメラ・モードを出て、ピクチャを送出するアプリケーションに入り、ピクチャをメッセージに添付し、次いでメッセージを送出しなければならない。単に、撮影されたピクチャを携帯用計算装置からデスクトップ型コンピュータに複製する場合にもいくつかの工程が必要である。通常、カメラは、デスクトップ型コンピュータと何らかの態様で通信するために接続されなければならない。次いで、ブラウザ又はファイル・システムは、携帯用計算装置上のファイルを含むディレクトリからピクチャを位置特定するために利用されなければならない。次いで、ピクチャは、携帯用計算装置から、デスクトップ型コンピュータ上の所望の位置に複製されなければならない。最後に、ピクチャを使用するか、又は(電子メールで)送出することが可能であるようにアプリケーションを開かなければならない。よって、今日の携帯用計算装置により、カメラを使用して画像を捕捉し、上記画像をワークフローに統合するか、又はその他のやり方で上記画像を送信することが非常に難しくなっている。
本発明の本実施例は、携帯用計算装置の使用のコンテキストに基づいた、文書への捕捉画像の自動アタッチメントのためのシステムを提供することにより、従来技術の欠点及び制約を解消する。本発明の本実施例のシステムは、画像の捕捉に応じて、携帯用計算装置上に表示されている文書に捕捉画像を自動的に添付する。一実施例では、新たなページが、携帯用計算装置上でレビューされ、表示されている現在の文書に追加され、次いで、画像及びメタデータが前述の新たなページに添付される。別の実施例では、文書は、画像を記憶し得る場所を有するメタデータを含み、画像を捕捉すると、捕捉画像がメタデータの場所において記憶される。これは特に効果的である。システムは、表示されている文書(例えば、携帯用計算装置が動作しているコンテキスト)を自動的に認識し、ユーザが、捕捉画像コマンドを入力すると、画像が捕捉され、前述の文書に自動的に追加されるからである。
一実施例では、携帯用計算装置は、プロセッサ、ディスプレイ、ストローク捕捉機能、並びに、カメラ及び無線通信機能を含む。携帯用計算装置は、文書を受け取り、受け取られた文書にストローク注釈を追加し、受け取られた文書に、捕捉画像注釈を追加し、注釈を付した文書を送出するよう適合される。携帯用計算装置は更に、提示モジュールと、自動捕捉モジュールとを含む。提示モジュールは、ストローク注釈の追加、捕捉画像の追加、及び文書に対して行われる他の動作を可能にするユーザ・インタフェース及びディスプレイ上に文書ページを提示する役割を果たす。自動捕捉モジュールは、画像の自動捕捉、及び捕捉画像の文書への追加のために利用される。自動捕捉モジュールは効果的には、携帯用計算装置によって現在表示されている文書を判定し、捕捉画像信号を監視する。捕捉画像信号を検出すると、自動捕捉モジュールは、携帯用計算装置上に現在表示されている文書に捕捉画像を追加する。
本発明の本実施例は更に、画像を捕捉し、これを文書に追加する新しい方法、及びいくつかの新しいユーザ・インタフェースも含む。
本発明の本実施例による、捕捉画像の自動アタッチメントのためのシステムの実施例を示すブロック図である。 本発明の本実施例による携帯用計算装置の実施例を示す前面平面図である。 本発明の本実施例による、図2Aの携帯用計算装置の実施例を示す背面平面図である。 本発明の本実施例による携帯用計算装置の実施例を示すブロック図である。 本発明の本実施例によるストローク及び画像ワークフロー・サーバの実施例を示すブロック図である。 本発明の本実施例による自動文書処理を示す概略フロー図である。 本発明の本実施例による、捕捉画像の自動アタッチメントのための方法の第1の実施例を示すフローチャートである。 本発明の本実施例による、捕捉画像の自動アタッチメントのための方法の第2の実施例を示すフローチャートである。 本発明の本実施例によるインボックス・ユーザ・インタフェースの一実施例を示す図的表現である。 本発明の本実施例によるフォーム・ユーザ・インタフェースの一実施例において表示される例示的なフォームを示す図的表現である。 本発明の本実施例のうちの一実施例による、捕捉画像の自動アタッチメントのためのユーザ・インタフェースを示すフロー図である。 本発明の本実施例のうちの第2の実施例による、捕捉画像の自動アタッチメントのためのユーザ・インタフェースを示すフロー図である。
本明細書及び特許請求の範囲記載の構成及び効果は網羅的でなく、図及び明細書に鑑みて、更なる多くの構成及び効果が当業者に明らかになるであろう。更に、本明細書において使用する文言は、本発明の主題の範囲を制限するためでなく、主に読みやすさ及び教育の目的で選択している。
(符号の説明)
100 システム
102 携帯用計算装置
104 ネットワーク
106 ストローク及び画像ワークフロー・サーバ
108 コンピュータ
110 データ記憶装置
112 結合
116 信号線
118 信号線
120 信号線
202 計算パッド
204 スタイラス
206 ディスプレイ装置
208 ストローク捕捉装置及びモジュール
210 入力装置
212 入力装置
214 入力装置
216 入力装置
218 入力装置
220 出力装置
302 プロセッサ
304 メモリ
306 通信装置
308 一意の装置ID
310 クロック
312 メタデータ・モジュール
314 ロギング・モジュール
316 文書転送モジュール
318 文書作成モジュール
320 バス
322 提示モジュール
324 他のアプリケーション
324 他のアプリケーション
326 他のI/O装置
328 自動捕捉装置
402 プロセッサ
404 メモリ
406 通信装置
408 文書転送モジュール
410 クロック
412 ワークフロー・モジュール
416 ロギング・モジュール
418 他のアプリケーション
422 ディスプレイ装置
424 出力装置
426 一意の装置ID
428 入力装置
430 検証モジュール
502 インボックス
504 文書
512 バックアップ・サーバ
750 下部領域
携帯用計算装置の使用のコンテキストに基づいた、文書への捕捉画像の自動アタッチメントのためのシステムを説明する。以下の説明では、説明の目的で、本発明の詳細な理解を得るために数多くの具体的な詳細を記載している。しかし、前述の具体的な詳細なしで本発明を実施することが可能であることは当業者に明らかとなるであろう。他の場合には、本発明を不必要に分かりにくくすることを避けるために構造及び装置をブロック図で示す。例えば、本発明の本実施例は、電子ペーパー、eペーパー、又は電子インク・ディスプレイを利用する、アマゾン(Amazon)社のキンドル(Kindle)のようなハードウェア及びソフトウェア・プラットフォームにおいて例示される携帯用計算装置を参照して以下に一実施例において説明する。しかし、本発明の本実施例は、イーインク、データ、及びコマンドを捕捉し、電子的に文書を送出することが可能な何れかのタイプの携帯用計算装置に適用される。
本明細書において、「一実施例」又は「実施例」に言及されていることは、実施例に関して説明した特定の構成、構造、又は特性が、本発明の少なくとも1つの実施例に含まれているということを意味する。本明細書の随所に「一実施例において」の句が存在していることは、必ずしも、全て、同じ実施例を参照している訳でない。特に、本発明の本実施例は別個の2つのアーキテクチャにおいて説明し、構成部分の一部は、両方のアーキテクチャで動作可能である一方、他の構成部分はそうでない。
以下に続く詳細な説明の特定の部分は、コンピュータ・メモリ内のデータ・ビットに対する動作の記号表現及びアルゴリズムによって示す。前述のアルゴリズム記述及び表現は、当業者に向けてその作品の本質を最も効果的に伝えるために当業者によって使用される手段である。アルゴリズムは本明細書及び特許請求の範囲では、かつ、一般には、所望の結果につながる首尾一貫した一連の工程であると理解される。工程は、物理的数量の物理的操作を必要とするものである。必ずしもそうでないが通常は、前述の数量は、記憶し、転送し、合成し、比較し、その他のやり方で操作することが可能な電気信号又は磁気信号の形態をとる。主に慣用の理由で前述の信号をビット、値、要素、記号、文字、項、数字等として表すことが時には便利であることが明らかになっている。
しかし、前述及び同様な項は全て、適切な物理的数量と関連付けられるものであり、前述の数量に付される便利なラベルに過ぎないということを念頭におくべきである。以下の記載から明らかであるように、別途明記していない限り、「処理」、「計算」、「算出」、「判定」、「表示」等などの用語を利用する記載は、コンピュータ・システムのレジスタ内若しくはメモリ内、又は、他の当該情報記憶装置内、送信装置内、又はディスプレイ装置内の物理的数量として同様に表される他のデータに、コンピュータ・システムのレジスタ内及びメモリ内の物理的(電子的)数量として表されるデータを操作し、変換するコンピュータ・システム、又は同様な電子計算装置の動作及び処理を表す。
本発明の本実施例は更に、本明細書及び特許請求の範囲記載の動作を行う装置に関する。前述の装置は、所要の目的のために特別に構成し得るか、又は、コンピュータに記憶されたコンピュータ・プログラムによって選択的に起動又は再構成された汎用コンピュータを含み得る。前述のコンピュータ・プログラムは、限定列挙でないが、ランダム・アクセス・メモリ(RAM)、リード・オンリ・メモリ(ROM)、EPROM、EEPROM、磁気又は光カード、光磁気ディスク、CD−ROM、光ディスク、フロッピー(登録商標)・ディスクを含む何れかのタイプのディスク、又は、電子的命令を記憶するのに適した何れかのタイプの媒体であって、それぞれがコンピュータ・システム・バスに結合された媒体などのコンピュータ読み取り可能な記憶媒体に記憶し得る。
本発明は、全面的にハードウェアの実施例の形態、全面的にソフトウェアの実施例の形態、又はハードウェア構成要素及びソフトウェア構成要素を含む実施例の形態をとり得る。好ましい実施例では、本発明は、限定列挙でないが、ファームウェア、常駐ソフトウェア、マイクロコード等を含むソフトウェアで実現される。
更に、本発明は、コンピュータ又は何れかの命令実行システムによる、若しくは、コンピュータ又は何れかの命令実行システムに関する使用のためにプログラム・コードを提供するコンピュータ使用可能な媒体又はコンピュータ読み取り可能な媒体によってアクセス可能なコンピュータ・プログラム・プロダクトの形態をとり得る。本明細書の目的では、コンピュータ使用可能な媒体又はコンピュータ読み取り可能な媒体は、命令実行システム、装置、又はデバイスによる、又は命令実行システム、装置、又はデバイスに関する使用のためにプログラムを含め、記憶し、通信し、伝搬させ、若しくは伝送することがあり得る何れかの装置であり得る。
媒体は、電子的、磁気的、光学的、電磁的、赤外、若しくは半導体システム(若しくは装置若しくはデバイス)又は伝搬媒体であり得る。コンピュータ読み取り可能な媒体の例には、半導体又はソリッド・ステート・メモリ、磁気テープ、着脱可能なコンピュータ・ディスケット、ランダム・アクセス・メモリ(RAM)、リード・オンリ・メモリ(ROM)、リジッド磁気ディスク、及び光ディスクを含む。光ディスクの現在の例には、コンパクト・ディスク−リード・オンリ・メモリ(CD−ROM)、コンパクト・ディスク−リード/ライト(CD−R/W)、及びDVDが含まれる。
プログラム・コードを記憶し、かつ/又は実行するのに適したデータ処理システムは、システム・バスを介してメモリ要素に直接又は間接に結合された少なくとも1つのプロセッサを含む。メモリ要素は、実行中にコードを大容量記憶装置から取り出さなければならない回数を削減するために少なくとも一部のプログラム・コードの一時記憶装置を提供するキャッシュ・メモリ、大容量記憶装置、プログラム・コードの実際の実行中に使用される局所メモリを含み得る。
入出力又はI/Oデバイス(限定列挙でないが、キーボード、ディスプレイ、ポインティング・デバイス等を含む)は、直接、又は介在するI/Oコントローラを介してシステムと結合し得る。
ネットワーク・アダプタは、データ処理システムが、介在するプライベート・ネットワーク又はパブリック・ネットワークを介して他のデータ処理システムあるいは遠隔プリンタあるいは記憶デバイスに結合されることを可能にし得る。モデム、ケーブル・モデム、及びイーサネット(登録商標)カードは、現在入手可能なタイプのネットワーク・アダプタのうちのわずか少しに過ぎない。
最後に、本明細書及び特許請求の範囲に示すアルゴリズム及びディスプレイは、何れかの特定のコンピュータ又は他の装置に固有に関連しているものでない。本明細書及び特許請求の範囲記載の教示に応じて種々の汎用システムをプログラムとともに使用し得るか、又は、所要の方法工程を行うよう更に専門化された装置を構成することが便利でありことが明らかになり得る。前述の種々のシステムに必要な構造は、以下の説明で示す。更に、本発明の本実施例は、特定のプログラミング言語を参照して説明する。本明細書及び特許請求の範囲記載の本発明の教示を実現するために、種々のプログラミング言語を使用し得る。
システム概要
図1は、自動ストローク及び画像ベースのワークフロー用のシステム100の実施例を示す。次に図1を参照するに、システム100のこの実施例は、複数の携帯用計算装置102a−102n、ネットワーク104、コンピュータ108、ストローク及び画像ワークフロー・サーバ106、及びデータ記憶装置110を含む。
複数の携帯用計算装置102a−102nは、それぞれの結合11a−112nを介してネットワーク104に無線結合される。一実施例では、携帯用計算装置102a−102nは、ディスプレイ、ストローク捕捉機能、及び無線通信機能を含む携帯用計算装置である。携帯用計算装置102a−102nは、画像(例えば、フォーム又は文書)を受け取り、受け取られた画像にストローク注釈を追加し、注釈を付した受け取られた画像を送出するよう適合される。携帯用計算装置102a−102nの実施例は、図2及び図3を参照して以下に更に詳細に説明する。
ネットワーク104は、有線又は無線の通常のタイプのものであり、スター構成、トークン・リング構成、又は当業者に知られている他の構成などの何れかの数の構成を有し得る。更に、ネットワーク104は、ローカル・エリア・ネットワーク(LAN)、ワイド・エリア・ネットワーク(WAN)(例えば、インターネット)、及び/又は、複数の装置が通信し得る何れかの他の相互接続されたデータ経路を含み得る。更に別の実施例では、ネットワーク104はピアツーピア・ネットワークであり得る。ネットワーク104は更に、各種通信プロトコルでデータを送出するために、電気通信ネットワークの部分に結合し得るか、又は上記部分を含む。更に別の実施例では、ネットワーク104は、ショート・メッセージング・サービス(SMS)、マルチメディア・メッセージング・サービス(MMS)、ハイパーテキスト転送プロトコル(HTTP)、直接データ変換、WAP、電子メール等経由などでデータを送出し、受け取るために、ブルートゥース(登録商標)通信ネットワーク又はセルラー通信ネットワークを含む。
コンピュータ108は、パソコンやハードウェア・サーバなどの通常のタイプのものである。コンピュータ108は、信号線118により、ネットワーク104に結合される。一実施例では、ワークフローに応じて、特定のフォームの処理を検証し、又は処理用のフォームを当初、入力するために、ストローク及び画像ワークフロー・サ―バー106にアクセスし、ストローク及び画像ワークフロー・サ―バー106と通信することが可能である。例えば、ユーザは、コンピュータ108を使用して、更なる処理のためにPDFファイルなどの文書をストローク及び画像ワークフロー・サーバ106に入力することができる。同様に、コンピュータ108は、そのワークフローによる処理全てが完了した後の完了フォームの受け手であり得る。コンピュータ108は、ストローク及び画像ワークフロー・サーバ106の検証モジュール430(図4参照)と通信して、特定のフォームの処理の完了又はステータスを検証し得る。最後に、コンピュータ108は、ワークフローの中間段階として電子文書に対して処理し、又は、ストローク及び画像ワークフロー・サーバ106の機能の一部も含み、携帯用計算装置102a−102nと直接通信し得る。
ストローク及び画像ワークフロー・サーバ106は、携帯用計算装置102a−102nと通信するために信号線116を介してネットワーク104に結合される。ストローク及び画像ワークフロー・サ―バー106は、文書伝送モジュール408、ワークフロー・モジュール412、ロギング・モジュール416、及び検証モジュール430を含む(図4参照)。ストローク及び画像ワークフロー・サーバ106は、携帯用計算装置102a−102nとの間で文書を送出し、受け取り、検証のためにログを維持し、ペーパーに似たワークフローを実現し、文書を処理する。これは特に効果的である。ストローク及び画像ワークフロー・サーバ106が、携帯用装置のユーザのためにペーパーに似たワークフローを実現し、ユーザに処理が見えないように電子文書の処理のオーバヘッドを扱う。
データ記憶装置110は、信号線120を介してストローク及び画像ワークフロー・サーバ106に結合される。別の実施例では、データ記憶装置110は、ネットワーク104により、ストローク及び画像ワークフロー・サーバ106に結合される。例えば、前述の別の実施例では、データ記憶装置110は、アマゾンS3などのオンライン記憶ウェブ・サービスである。データ記憶装置110は、不揮発性メモリ装置又は同様な永久的な記憶装置及び媒体である。データ記憶装置110は、プロセッサ302用のデータ及び命令を記憶し、フラッシュ・メモリ装置、DVD−RW装置、DVD−RAM装置、DVD−ROM装置、CDーROM装置、フロッピー(登録商標)・ディスク・ドライブ、ハード・ディスク・ドライブを含む1つ又は複数の装置を含む。データ記憶装置110は、処理ログなどのワークフロー処理についての情報を記憶するために使用される。
図1のシステムは、1つのストローク及び画像ワークフロー・サーバ106のみを示すが、例えば、他の機能、企業、機関、組織構造に特化した何れかの数の更なるワークフロー・サーバが存在し得る。計算装置102a−nは、2つ以上のストローク及び画像ワークフロー・サーバ106と通信し得る。文書の特定のページ又は部分は、別々のワークフロー・サーバに関連付け得る。更に、複合文書の一部を、複合文書全部を送出するのでなく、転送することが可能である。
携帯用計算装置 102
次に図2A、図2B、及び図3を参照すれば、携帯用計算装置102の実施例を更に詳細に説明する。携帯用計算装置102は計算パッド202及びスタイラス204を備える。別の実施例では、携帯用計算装置102は計算パッド202のみを含み得、ユーザは、その指又はペンに似た他の物体をスタイラスとして使用することが可能である。計算パッド202は、画像を表示し、画像上に書かれた何れかのストロークを記録する。ストロークは、通常、紙上にペンで書かれたかのように画像上に直ちに表示される。ストロークは更に、通常、一連の点又はセグメントとして捕捉される。通常、特定のタイミング情報がストロークによって捕捉され、時には、圧力情報が捕捉される。パッドとの至近性に対する、パッドとの接触を示す「ペン・アップ」及び「ペン・ダウン」も、ストロークによって記録し得る。一部の場合には、スタイラス204は、識別子あるいはボタンあるいは別々の「端部」を有し得、これも、ストロークにより、記録することが可能である。一部の場合には、ペン又はスタイラス204の速度及び/又はペンの加速度も記録される。一部の場合には、表示表面に対するペンの角度又はペンの回転などのペン又はスタイラス204の他の局面も記録される。
計算パッド202は、ディスプレイ装置206と、ストローク捕捉装置及びモジュール208と、複数の入力装置210乃至216と、カメラ218と、出力装置220と、プロセッサ302と、メモリ304と、通信装置306と、一意の装置識別子の記憶装置308と、クロック310と、メタデータ・モジュール312と、ロギング・モジュール314と、文書転送モジュール316と、文書作成モジュール318と、バス320と、提示モジュール322と、他のアプリケーション324と、自動捕捉モジュール328とを備える。
次に図2A及び図2Bを参照するに、計算パッド202の一実施例を示す。本実施例では、ディスプレイ装置206は、イーインク(E−ink)社によって製造・販売されるものなどの電子ペーパー・ディスプレイである。他の実施例では、ディスプレイ装置206は、液晶ディスプレイ(LCD)又は何れかの他の同様に装備されたディスプレイ装置、画面、又はモニタである。ディスプレイ装置206は、本明細書及び特許請求の範囲記載の電子画像及びデータを表示するよう装備された何れかの装置を表す。ディスプレイ装置206は、少なくとも小さな情報「ページ」を示すために十分なサイズに設定される。別々の実施例では、ディスプレイは2値であり(画素の場合、別々の2つの値のみ)であるか、モノクロ(一色の複数の色合い)であるか、又は複数の色及び色合いを可能にする。ディスプレイ装置206は好ましくは、軽量の低電力ディスプレイである。一実施例では、ディスプレイ装置206は、屋外での使用のための発光でなく反射光を使用し、使用する電力は少ない。ディスプレイ装置206は、更に、上記ディスプレイ装置がない場合には紙上に表示され得る情報を表示するために高解像度を有するが、ディスプレイ装置206は、LCDディスプレイに共通の60Hzのリフレッシュ・レートよりもずっと低い更新速度を許容する。
ディスプレイ装置206に合わせて、ディジタル化タブレット又はグラフィクス・パッドなどのストローク捕捉装置208が存在している。ストローク捕捉装置208は、ディスプレイの上方、下方又は周辺にあり得る受信器を備えた音検出装置、電磁検出装置、若しくは光検出装置、又は接触検出装置である。ストローク捕捉装置208は、スタイラス204、又は指若しくは他の手段からのストロークを受け付けることができる。ストローク捕捉装置208は、スタイラス204のセンサであり、認識可能な手書き、印刷、及び他の図を捕捉するのに十分な解像度を有する。一実施例では、ディスプレイ装置206には、透明のタッチ感応パネルがディスプレイ装置206の画面を覆うタッチ画面が装備される。一実施例では、ストローク捕捉装置208は、ワコム(Wacom)社によって製造し、販売されるディジタイザである。別の実施例では、ストローク捕捉装置208は、単一の接触点の水平位置及び垂直位置を返す単純なセンサである。更に別の実施例では、圧力、位置、時間の示度を返し、(例えば、消去するために)スタイラスが反転しているか、又は、ボタンがスタイラス上で押されているかのスタイラス204の表示又はID番号若しくはタイプも返す複雑な複数のセンサである。一部のセンサは複数の接触点を返し得る。一部のセンサは、スタイラス・ベースのタッチ入力と、指ベースのタッチ入力とを区別することができる場合がある。ストローク捕捉装置208は、ストローク捕捉モジュール208の一部であるか、又は、ストローク捕捉モジュール208と通信するよう適合される。
スタイラス204に加えて、計算パッド202は、コマンドを入力するために複数の入力装置210乃至216を提供する。図2Aに示すように、計算パッド202の上端上の第1のボタン210は、選択されると、計算パッド202をオン/オフにする。一実施例では、第1のボタン210は、計算パッド20をスリープ・モードに入れるよう、短い持続時間の間、選択し、計算パッド202をオフにするよう、長い持続時間の間、押し下げることが可能である。第2のボタン212は、カメラ218の動作を制御し、選択されると、カメラ218に画像を捕捉させる。第3のボタン214は、選択されると、文書の注釈が完了しており、文書は計算パッド202によって送出される旨を示す。第4の入力ボタン216の対は、ユーザが文書の次のページ又は先行ページに移行することを可能にする。ボタンとしての前述の入力装置が複数の入力装置210乃至216の一実施例に過ぎず、本発明の本実施例の範囲内に、より少ない数のボタン若しくは入力装置、又はより多い数のボタン若しくは入力装置の種々の他の構成が存在しているということを当業者は認識するであろう。特に、別の実施例では、計算パッド202は非常に少ない数のボタンを有する(か、又はボタンを有しない)。ボタンが、紙に似ていると認識されている装置を妨げ得るからである。
前述の実施例では、ネットワーク接続性が存在している限り、ストローク及び他のメタデータが連続して送信される。ページ、又はページの組の完了は、パッド上の「送出」ボタン又は「リジェクト」ボタンを押すことによって示し得るか、又は、表示されたページ上に領域が存在し得、上記領域にストロークを加えることにより、適切なデータの送出をもたらし得る。複数の入力装置210乃至216について各種の数及び構成が存在しているということを当業者は認識するであろう。例えば、別の構成は、電源用に1つのボタンを含み、送出用に1つのボタンを含む。第2の例では、1つ又は複数のボタン、及び指の位置に応じて多数のページのうちのページを選ぶためのスライダを有する。
次に図2Bも参照すれば、計算パッド202の背面側を示す。計算パッド202はカメラ218及び出力装置220を含む。図2Bに示すように、カメラ218は、左上隅部における計算パッド202の背面側でそのレンズが外方向を向いて配置される。カメラ218は、携帯電話機上、又はノートブック型コンピュータ上で利用可能なものなどの通常のタイプのものである。出力装置220は、図2Aに示し、計算パッド202の表面側にある。出力装置220は、小さな画像を表示する装置であり、カメラのビューファインダーとして使用される。一実施例では、出力装置220は、有機発光ダイオード(OLED)であり、カメラが動作状態にある場合にのみ、動作状態にある。別の実施例では、出力装置220は、1)計算パッド202に電源があって、動作状態にあるか否か、2)計算パッド202にネットワーク接続性があるか否か、3)計算パッド202が、複合文書を送受信するか否か等などの、装置のステータスを示すために使用される。出力装置220の一部であり得る、上記のものを越える更なる各種のステータス表示子が存在し得るか、又はそのステータスが主ディスプレイ206を介して供給され得るということを当業者は認識するであろう。
次に図3を参照すれば、計算パッド202の残りの構成部分を説明する。
プロセッサ302は、計算を行い、電子表示信号をディスプレイ装置206に供給し、ストローク入力を検出し、処理するために算術論理装置、マイクロプロセッサ、汎用コントローラ、又は特定の他のプロセッサ・アレイを含む。プロセッサ302は、計算パッド202の他の構成部分と通信するためにバス320に結合される。プロセッサ302は、データ信号を処理し、高度命令セット・コンピュータ(CISC)アーキテクチャ、縮小命令セット・コンピュータ(RISC)アーキテクチャ、又は命令セットの組み合わせを実現するアーキテクチャを含む種々の計算アーキテクチャを含み得る。単一のプロセッサのみを図3に示しているが、複数のプロセッサを含み得る。計算パッド202の処理機能は、ストロークの伝送、ストロークの記録、及び画像の表示のサポートに制限され得る。処理機能は、各種画像処理、ストローク処理、又は認識タスクを含む高度なタスクを行うのに十分であり得る。他のプロセッサ、オペレーティング・システム、センサ、ディスプレイ、及び物理的な構成が考えられるということが当業者に明らかになるであろう。計算パッド202は、限定列挙でないが、ウィンドウズ(登録商標)、MacOS X、アンドロイド、又はUNIX(登録商標)ベースのオペレーティング・システムなどの、プロセッサによって実行可能なオペレーティング・システムも含む。
メモリ304は、プロセッサ302によって実行され得るデータ及び/又は命令を記憶する。命令及び/又はデータは、本明細書及び特許請求の範囲記載の手法の何れか、及び/又は全てを行うためのコードを含み得る。メモリ304は、ダイナミック・ランダム・アクセス・メモリ(DRAM)装置、スタティック・ランダム・アクセス・メモリ(SRAM)装置、フラッシュ・メモリ、又は当技術分野において知られている特定の他のメモリ装置であり得る。一実施例では、メモリ340は、より恒久的にログ情報を記憶するためのフラッシュ・ドライブ又はハード・ディスク・ドライブなどの不揮発性メモリも含む。メモリ304は、計算パッド202の他の構成部分と通信するためにバス320に結合される。
通信装置306はアンテナ及びバス320に結合される。別の実施例では、通信装置306は、ネットワーク104に対する直接の物理的接続のためのポートを提供し得る。通信装置306は、複合文書を送受信するためのトランシーバを含む。一実施例では、通信装置306は、アクセス・ポイントとの無線通信のためのワイファイ(Wi−Fi)トランシーバを含む。別の実施例では、通信装置306は、他の装置と無線通信するためにブルートゥース(登録商標)トランシーバを含む。更に別の実施例では、通信装置306は、ショート・メッセージング・サービス(SMS)、マルチメディア・メッセージング・サービス(MMS)、ハイパーテキスト転送プロトコル(HTTP)、直接データ接続、WAP、電子メール等などのセルラー通信ネットワークを介してデータを送受信するセルラー通信トランシーバを含む。更に別の実施例では、通信装置306は、限定列挙でないが、USB、SD、CAT−5等などの、有線の接続性のためのポートを含む。通信装置306は、複数の処理システムを含み得るネットワーク104にプロセッサ302をつなぐ。処理システムのネットワークは、ローカル・エリア・ネットワーク(LAN)、ワイド・エリア・ネットワーク(WAN)(例えば、インターネット)、及び/又は複数の装置が通信し得る相互接続された何れかの他のデータ経路を含み得る。通信装置306は更に、当業者が分かるように、TCP/IP、HTTP、HTTPS、及びSMTPなどの標準ネットワーク・プロトコルを使用してファイル(メディア・オブジェクト)を配信するためにネットワーク104との他の通常の接続も提供する。
計算パッド202は、一意の装置識別子308のための記憶装置を含む。計算パッド202は、必要に応じて他の構成部分に、上記一意の識別子を供給するためにバス320に結合される。一実施例では、記憶装置は、一意の装置識別子308を記憶するためのリード・オンリ・メモリである。別の実施例では、一意の識別子の記憶装置308は、公開鍵・秘密鍵の対を記憶する不揮発性の記憶装置である。別の実施例では、公開鍵・秘密鍵の対は、装置の主基板又はCPUと一体化された専用トラステッド計算メモリ内に記憶される。種々の通信プロトコルのために、又はストロークが記録された場所を示すために使用される一意の識別子を計算パッド202が有することは有用である。一実施例では、一意の識別子は、計算パッド202内のネットワーク・チップのハードウェアMACアドレスである。一意の識別子308は、メモリ装置304内の不揮発性記憶装置内にあるか、又は通信装置306などの別の記憶ブロックの内部部分であり得る。別の実施例では、一意の識別子は、計算パッド202上のメモリ・カードに関連付けられた一意のIDであり、それにより、特定の装置との関連付けは、メモリ・カードが移動した場合(予期される挙動であり得る)に、別の装置に移動することになる。一意の識別子は、種々の動作に有用であるが、通常、提供されるセキュリティはあまりない。ハードウェアMACアドレスは例えば、他の装置によって模倣することが可能である。よって、RSA(登録商標)などの公開鍵暗号システムからの鍵の対と装置を関連付けることが時には有意義である。一実施例では、計算パッド202は、配布される公開鍵及び秘密鍵によって製造されるか、又は構成される。次いで、計算パッド202は、装置上で生じるストローク、画像、ログ、又は他の媒体のディジタル署名のためにその秘密鍵を使用することが可能である。他者は、前述の媒体を検証するために公開鍵を使用し得る。更に、公開鍵は、装置との秘密通信を提供するために使用することができる。暗号化のために装置の公開鍵を使用することにより、単に特定の計算パッド202を目的とするページ画像又はメタデータへの他者のアクセスが制限される。
クロック310は、通常タイプのものであり、計算パッド202の現地時間の示度を提供する。特に、クロック310は、複合文書が処理される現地時間を提供するために使用される。この時間値は、ロギング・モジュール314を使用して局所ログ・ファイル内のデータとともに記憶される。クロック310は、システム・バス320を使用して、この情報をプロセッサ302及びロギング・モジュール314に通信するよう適合される。
メタデータ・モジュール312は、文書からメタデータを抽出し、文書の一部としてメタデータを記憶するためのルーチンを含むソフトウェアである。一実施例では、メタデータ・モジュール312は、画像/ページ・メタデータ及び文書メタデータにアクセスするために、図5乃至図9を参照して以下に説明する機能を提供する旨の、プロセッサ302によって実行可能な命令である。別の実施例では、メタデータ・モジュール312は、ユーザ・インタフェースを提示し、ストローク情報を捕捉し、ワークフローに応じて文書をルーティングする(携帯用計算装置102との間で文書を送受信する)ためのソフト・ルーチンである。一実施例では、メタデータ・モジュール312は、メモリ304に記憶され、プロセッサ302によってアクセス可能であり、実行可能である。いずれにせよ、メタデータ・モジュール312は、プロセッサ302、及び計算パッド202の他の構成部分と協調し、通信するよう適合される。
ロギング・モジュール314は、メモリ304内に(特に、メモリ304の不揮発性記憶部分内に)局所ログを作成し、記憶するためのルーチンを含むソフトウェアである。一実施例では、ロギング・モジュール314は、ストローク及び画像ワークフロー・サーバ106及び計算パッド202において、もつれたログにメタデータを記憶するために、プロセッサ302によって実行可能なルーチンの組である。ロギング・モジュール314は、トランザクションにおけるワークフロー完了の検証を提供するうえで特に死活的である。一実施例では、ロギング・モジュール314は、その特定の計算パッド202のログをネットワーク上の公に利用可能な場所で公表又は記憶するためのルーチンも含む。ロギング・モジュール314は、プロセッサ302、メモリ304、及び通信装置306にバス320によって結合される。
文書転送モジュール316は、ストローク及び画像ワークフロー・サーバ106との間で文書を送受信するためのソフトウェア及びルーチンである。他の実施例では、限定列挙でないが、コンピュータ108、ストローク及び画像ワークフロー・サーバ106、又は他の携帯用計算装置102などの何れかの他の計算装置との間で、フォーマッティングされたメッセージなどの文書を送受信する。文書転送モジュール316は、プロセッサ302及び通信装置306との通信のためにバス320に結合される。文書転送モジュール316は、電子メール、ファイル転送、XMPP、又は専用アプリケーションなどにより、計算パッド202との間で文書、又はフォーマッティングされたメッセージを送受信する役割を果たす。
第1の実施例では、文書転送モジュール316は、インデクスとしての役目を担うディレクトリ構造を維持する、計算パッド202上で動作するクライアント・ソフトウェアである。文書転送モジュール316は、文書を、ストローク及び画像ワーフフロー・サーバ106上の対応するインボックスからこのディレクトリに移動させる。計算パッド202のインボックス内の文書に注釈が付され、ユーザが送出命令を入力すると、文書転送モジュール316は、ディレクトリ構造から文書を除去し、更に処理するためにストローク及び画像ワークフロー・サーバ106にこれを転送する。
第2の実施例では、文書転送モジュール316は、アタッチメントがある電子メールを受け取り、送出することができる電子メール・クライアントである。電子メール・クライアントは、プロセッサ302上で動作可能である。メール・サーバは通常、メール・クライアントにデータを伝送するためにPOPプロトコル又はIMAPプロトコルを使用し、計算パッド202は、何れかを使用するよう構成される。メッセージは、計算パッド202が直接使用可能なフォーマット(例えば、画像ファイルのアタッチメント)を直接使用することが可能なフォーマットを有する。メッセージは、計算パッド202上の変換を必要とするフォーマットを有する(例えば、pdf文書)。あるいは、特別なメール・サーバは、パッドが複数のフォーマットをサポートする必要がないようにメッセージの変換を提供することが可能である。例えば、上述の部門のインボックスなど、一度しか行ってはならないワークを配分するためにワークフローにおいて複数の装置が使用される場合、IMAPの使用が効果的である。複数の装置102a−nは、同じIMAPサーバ及び「ユーザ・ネーム」を有するクライアントとして構成し得る。装置102a−nの群は、フォーム全てを「インボックス」に表示し得る。何れかの装置102a−n上の何れかのユーザが、「処理済」としてフォームにマーキングすると、装置はそのメッセージを「インボックス」から出し、場合によっては、IMAPサーバ上の「処理済」ボックスに入れる。他の装置102a−nは、IMAPサーバ上の「インボックス」を検査すると、ページがもう存在しておらず、それをもう表示しないと判定する。パッドがページ若しくはストローク又は複数のページ及びストロークを送出する必要があると、パッドは、電子メール・クライアントとしてふるまい、場合によっては、圧縮され、単一のファイルに合成されたディレクトリ構造のページを伴ってメールを送出することが可能である。
第3の実施例では、文書転送モジュール316は、ファイル転送を行うためのルーチンである。計算パッド202との間で文書を移動させるために種々のファイル転送方法を使用することが可能である。計算パッド202は、ftp、http、又はwebdavサーバを実行させることが可能であり、他の装置は計算パッド202上の文書をプッシュし、又はプルすることが可能である。計算パッド202は更に、やはり、ftp、http、rsync、webdav、又は別のプロトコルを介して新たな文書を得るか、又は外部サーバに新たな文書を送るよう構成することが可能である。
第4の実施例では、文書転送モジュール316は、MMS経由での、又は、他の通信プロトコル上での通信などのためのクライアント通信プログラムである。インスタント・メッセージングにおいて使用されるプロトコルであるXMPPは、パッドとの間の文書及びストローク通信を提供するために使用される。インスタント・メッセージング・プロトコルは有用である。別のメンバーがメッセージを送信している間にも、メッセージング・グループの何れかのメンバーがメッセージを開始することが可能であるからである。計算パッド202にとって、これは、パッドからサーバにストロークが送信されるのと同時にサービスがパッド用の画像を送信することを可能にする。計算パッド202の群がディスプレイ空間を共有しており、よって、上記群のメンバー全てが、新たなストロークについて通知され得る場合に、インスタント・メッセージング・プロトコルは更に有用であり得る。
第5の実施例では、文書転送モジュール316は、カスタム・アプリケーションである。当然、情報は、パッドに特有のAPIを使用してパッドと協働するよう企図された特定用途のアプリケーションにより、計算パッド202に転送し得る。インストラクタは、ファイルを移動させるために使用される特定の方法を知ることなく、パッドの図式表現上にワークシートを「ドラッグ・アンド・ドロップ」したいことがあり得る。例示的な1つの実施例では、文書転送モジュール316はrsyncである。Rsyncは、適宜、デルタ符号化を使用してデータ転送を最小にする一方で、1つの場所から別の場所にファイル及びディレクトリを同期化させる、Unixのデータ転送ソフトウェア・アプリケーションである。上記実施例では、文書転送モジュール316は、文書をご都合主義的に、ネットワーク接続性が利用可能である場合にのみ送信する蓄積交換システムを実現し得る。
文書作成モジュール318は、新たな文書を作成するためのソフトウェア又はルーチンである。文書作成モジュール318はプロセッサ302上で動作可能であり、計算パッド202の他の構成部分と通信するためにバス320に結合される。文書作成モジュール318は、入力装置210乃至218、又はストローク捕捉装置208からの信号に応答する。文書作成モジュール318は、文書のテンプレート・フォームをメモリ304に記憶する。ユーザ入力に応じて、文書作成モジュール318は、記憶されたテンプレート・フォームにアクセスし、選択されたものを複製して、テンプレート・フォームから、新たな文書を作成する。作成されると、メモリ304に記憶された文書は、提示モジュール322によって維持されるインボックス・リストに加えられ、何れかの他の文書と同様に、他の方法で、編集可能であり、操作可能であり、送信可能である。
バス320は、計算パッド202にわたり、情報及びデータを通信するための共有バスを表す。バス320は、業界標準アーキテクチャ(ISA)バス、周辺装置相互接続(PCI)バス、ユニバーサル・シリアル・バス(USB)、又は同様な機能を提供するために当技術分野において知られている特定の他のバスを含む1つ又は複数のバスを表し得る。システム・バス320を介してプロセッサ302に結合された更なる構成部分には、ディスプレイ装置206、ストローク捕捉装置及びモジュール208、複数の入力装置210乃至216、出力装置220、プロセッサ302、メモリ304、通信装置306、一意の装置の識別子の記憶装置308、クロック310、メタデータ・モジュール312、ロギング・モジュール314、文書転送モジュール316、提示モジュール322、及び他のアプリケーション324が含まれる。更に、機能要素間の最も効率的な通信を提供するよう企図された複数のバスが通信システム202においてあり得る。
提示モジュール322は、ディスプレイ装置206上にインボックス及び文書を表示し、入力装置210乃至216からの入力に応じて画像の表示を調節するためのソフトウェア及びルーチンである。提示モジュール322は、図2、図8、及び図9に示すデュアル・モードのユーザ・インタフェースを生成するルーチンを行う。図10乃至図11を参照して以下に説明するように、提示モジュール322は更に、自動捕捉モジュール328と協働して自動捕捉インタフェースを生成する。一実施例では、提示モジュール322は、ディスプレイ装置206上に画像を表示させるための、プロセッサ302によって実行可能なシン・クライアント・ルーチンである。提示モジュール322は、ディスプレイ装置206、プロセッサ302、及びメモリ304にバス320によって結合される。
他のアプリケーション324は、他の各種の機能のための、プロセッサ302によって実行可能な他のソフトウェア及びルーチンを含む。一実施例では、限定列挙でないが、ワード・プロセッシング・アプリケーション、電子メール・アプリケーション、金融アプリケーション、及びウェブ・ブラウザ・アプリケーションを含む1つ又は複数のアプリケーション・プログラムがプロセッサ302によって実行される。
自動捕捉モジュール328は、捕捉画像コマンドに応じて画像を自動捕捉し、計算パッド202の動作のコンテキストを判定し、捕捉画像を文書に挿入するためのソフトウェア及びルーチンである。例えば、自動捕捉モジュール328は、計算パッド202によって現在表示されている文書を判定する役割を果たす。一実施例では、自動捕捉モジュール328は更に、新たなページを直接的に又は間接的に作成し、捕捉画像を、新たに作成されたページに追加し、捕捉画像を備えた、新たに作成されたページを文書に追加する役割を果たす。別の実施例では、自動捕捉モジュール328は更に、文書がピクチャ矩形を含んでいるか否かを判定し、画像を捕捉し、既存の文書において、ピクチャ矩形を捕捉画像で置き換える。提示モジュール322の動作は、図6乃至図11を参照して以下に更に詳細に説明する。
最後に、計算パッド202は1つ又は複数の他のI/O装置326を含み得る。例えば、他のI/O装置326には、音を生成するためのスピーカ、音を記録するためのマイクロフォン、文書又は画像を記録するためのスキャナ又はカメラ、及び、加速度計、ページャ・モーター、又は触覚フィードバックのような他のセンサ若しくはフィードバック装置を含み得る。任意的には、他のI/O装置326は、オーディオ処理を容易にするために、1つ又は複数のアナログ・ディジタル変換器、若しくはディジタル・アナログ変換器、及び/又は1つ又は複数のディジタル信号プロセッサを含み得る。前述の他のI/O装置326は、プロセッサ302及びメモリ304と通信するためにバス320によって結合される。任意的には、マイクロコントローラは、電源システム制御を容易にし、低速の重要でないタスクから主プロセッサ302をオフロードするために、他のI/O装置326の一部として追加し得る。
ストローク及び画像ワークフロー・サーバ 106
次に図4を参照して、ストローク及び画像ワークフロー・サーバ106の実施例を更に詳細に説明する。ストローク及び画像ワークフロー・サーバ106は、プロセッサ402と、メモリ404と、通信装置406と、文書転送モジュール408と、クロック410と、ワークフロー・モジュール412と、ロギング・モジュール416と、他のアプリケーション418と、バス420と、検証モジュール430とを備える。別の実施例では、ストローク及び画像ワークフロー・サーバ106は更に、ディスプレイ装置422、出力装置424、一意の装置IDの記憶装置426、及び入力装置428を備える。
ストローク及び画像ワークフロー・サーバ106の構成部分の一部が計算パッド202の構成部分と同一又は同様の機能を有するということを当業者は認識するであろう。よって、前述の構成部分の説明はここでは繰り返さないものとする。例えば、プロセッサ402、メモリ404、通信装置406、文書転送モジュール408、ロギング・モジュール416、クロック410、他のアプリケーション418、ディスプレイ装置422、出力装置424、一意の装置のID426、及び入力装置428は、図3のプロセッサ302、メモリ304、通信装置306、文書転送モジュール316、ロギング・モジュール314、クロック310、他のアプリケーション324、ディスプレイ装置206、出力装置220、一意の装置のID308、入力装置210乃至216、それぞれと同様の機能を有する。ストローク及び画像ワークフロー・サーバ106の構成部分と、計算パッド202の構成部分との間の差の一部を、以下に記す。例えば、通信装置406は、無線でなく有線でストローク及び画像ワークフロー・サーバ106をネットワーク104に結合し得る。ワークフロー・サーバ106は、数多くの携帯用計算装置102をサービスする可能性が高いので、プロセッサ402は、プロセッサ302よりも計算量的に強力である。文書転送モジュール408は、電子メール・クライアントでなく、電子メール・サーバである。ディスプレイ装置422はCRTであり得、出力装置424はスピーカである。入力装置428は、キーボード、及びマウス型コントローラを含む。ストローク及び画像ワークフロー・サーバ106の構成部分は、遠隔クライアントでなく、ハードウェア・サーバとしてふるまうので、種々の他の差が存在し得るということを当業者は認識するであろう。
ストローク及び画像ワークフロー・サーバ106の検証モジュール430は、文書の処理を検証するためのソフトウェア及びルーチンである。一実施例では、検証モジュール430は、後述する文書処理の検証を行うためにプロセッサ402によって実行可能なルーチンである。検証モジュール430は、プロセッサ402、メモリ404、及び通信装置406にバス420によって結合される。検証モジュール430は、ストローク及び画像ワークフロー・サーバ106と独立して使用し得る。実際に、特定のサーバのトラストの必要なしで文書の独立した検証のためにコンピュータ108上で実行し得る。
ストローク及び画像ワークフロー・サーバ106のワークフロー・モジュール412は、文書、又はフォーマッティングされたメッセージを処理し、ルーティングするためのソフトウェア及びルーチンである。ワークフロー・モジュール412は、文書400を作成するか、又はフォーマッティングされたメッセージを作成する。ワークフロー・モジュール412は更に、ロギング・モジュール416と協働して、システム・ログ(ロギング・モジュール416、メモリ404、又はデータ記憶装置110に記憶される)を作成し、上記ログを、必要に応じて、公表し、又は利用可能にする。ワークフロー・モジュール412は更に、処理ワークフローの一部として、次の場所に文書、又はフォーマッティングされたメッセージをルーティングする役割も果たす。一実施例では、計算パッド202は、文書を送出することにより、文書を返すか、又は、アタッチメントを含む返信電子メールをストローク及び画像ワークフロー・サーバ106に送出し、ワークフロー・モジュール412は、ルーティング及び次のワークフロー工程を判定する。ワークフロー・モジュール412により、システム・ログを作成する処理により、もつれたログが作成され得、文書の別個のページをサービスする複数のワークフロー・モジュール412が存在していることは、検知されずに文書をタンパリングすることの困難性を大きく増大させる。例えば、ワークフロー・サーバ106は、ミーティングの終了後に、ミーティング・メンバー全てに送信されるノートパッド文書を作成し得る。ノートパッド文書は、グループ電子メール・アドレスを含む「次のデスティネーション」URLで作成される。ノートパッドがタブレットにより、ワークフロー・サーバ106に返されると、ワークフロー・サーバ106は、グループの各メンバーに文書をルーティングする。
理解の便宜及び容易性の目的で、ワークフロー内の文書の処理及び文書の転送は、ストローク及び画像ワークフロー・サーバ106のワークフロー・モジュール412によって行われるものとして以下に説明する。あるいは、同じ動作を計算パッド202によって行い得るということを当業者は認識するであろう。あるいは、文書ルーティング処理及びワークフロー規則は、一体化された1つのサーバとして実現される代わりに、別個のサーバによって実現し得るということを当業者は認識するであろう。
計算パッド202から受け取られると(計算パッド202によって送出されると)、ストローク及び画像ワークフロー・サーバ106のワークフロー・モジュール412が文書をどうするかを判定する種々のやり方が存在しているということを当業者は認識するであろう。一実施例では、計算パッド202は、特定のストローク及び画像ワークフロー・サーバ106と協働し、ストローク及び画像ワークフロー・サーバ106にページを送出するよう構成される。そのページについて、ストローク及び画像ワークフロー・サーバ106は次いで、予めプログラムされた規則に基づいて次の工程を判定する。一実施例では、ストローク及び画像ワークフロー・サーバ106は、文書自体の中に記憶されたメタデータに基づいて文書をどのようにして処理するかを判定する。メタデータは、文書の更なる処理、文書をどのようにしてルーティングするか、及び、ルーティングされるべき他の計算装置を規定し得る。例えば、メタデータとして記憶された順序付けられた一連の電子メール・アドレスは、連続する電子メール・アドレスそれぞれに文書が転送されるワークフローの一例である。メタデータは更に、文書全体ベース、又はページ・ベースで提供し得る。
別の実施例では、ワークフローは、文書が送出された電子メール(フォーマッティングされたメッセージ)内で、又は文書内で規定される。電子メールにより、文書を受信する単純なケースでは、計算パッド202は、完了した文書をストローク及び画像ワークフロー・サーバ106に返す。ストローク及び画像ワークフロー・サーバ106は次いで、メタデータを、完了した文書から抽出し、ワークフロー内の次の工程を判定し、次いで、完了した文書を、識別された装置(例えば、コンピュータ108)に送出して、ワークフロー内の次の工程を行う。別の実施例では、計算パッド202は、完了した文書を電子メールにより、ストローク及び画像ワークフロー・サーバ106に戻し、電子メールはワークフローを含む。ストローク及び画像ワークフロー・サーバ106は、完了した文書を含む電子メールから、完了した文書を送出する次の電子メール・アドレスを求める。別の実施例では、HTTPヘッダは、電子メールのヘッダの代わりに、又は電子メールのヘッダに加えて使用することが可能である。ページの画像、ストローク、及びメタデータをサポートするやり方で文書が伝送された場合、メタデータは、ワークフロー命令及びステータスを含み得る。やはり、単純なケースでは、メタデータは電子メール・アドレスのリスト、及びワークフローの現在の工程を含む。
文書フォーマット
一実施例では、文書の基本フォーマット又は構造は、1つ又は複数のファイル及びディレクトリを含むディレクトリである。ディレクトリ中には、一連のページ画像、及び任意のメタデータがある。メタデータは各ページと別個に関連付け得、かつ/又は、メタデータは、全体としての文書と関連付け得る。前述のメタデータは、更にネスティングされたディレクトリに記憶されており、任意のものである。一実施例では、文書の各ページは画像として記憶される。これは特に効果的である。広範囲にわたる文書フォーマットを計算パッド202がサポートすることを必要とすることが避けられるからである。純粋な画像(すなわち、レンダリングを必要とするファイルでない)を計算パッド202に供給することにより、一貫したビューが確実にされ、フォントや他のグラフィカル・コマンドをレンダリングすることができないことを伴う問題点がなくなる。一実施例では、画像は、JPEG、JPEG2000、JPM、PNG、PDF、TIFF、又は単純なPBM(ポータブル・ビット・マップ)のファイル・フォーマットのうちの1つのものである。文書ディレクトリを標準ZIPフォーマット・アーカイブとして転送し、記憶することが可能であるということを当業者は認識するであろう。
同じ当初ネーム・セグメントを共有する複数のページ画像ファイルは、同等の品質のファイルの別の表現とみなされ、提示モジュール322はその用途に最も便利な表現を選び得る。よって、例えば、001.pgm、001.png、002.pgm、002.jpg、及び5.pgmのコンテンツを有するディレクトリは、3ページの文書をもたらす。1番目のページは、2つのファイル(001. pgm 又は 001. png)のうちの1つによって表される。2番目のページは002.jpg 又は002.pgmによって表され、3番目のページは5.pgmによって表される。一実施例では、ネームのセグメントは、装置が画像を簡単に選ぶことを可能にするために何れかの画像の解像度又はサイズを規定するために使用することが可能である。例えば、イメージpage001.600x800.pgm、及びイメージpage001.cif.pgmが存在し得、ここで、600x800又はcif(共通中間フォーマット)は画像の解像度を識別する。
複数の画像はそれぞれ、関連付けられたページ又は画像メタデータを含み得る。ページ又は画像メタデータは、ストローク・データ、他のメタデータ、及びログ・データを含む。例えば、ページ又は画像メタデータは、捕捉画像を埋め込むか、又は配置し得る、画像内の領域を識別するピクチャ矩形も含み得る。更に、文書全体は文書メタデータを含む。文書メタデータは、文書ログ及び他の文書メタデータを含む。
文書のメタデータは、ディレクトリに記憶されたファイルによって表され、これは、全体としての文書、又は個々のページと関連付けられる。一実施例では、メタデータ・ディレクトリは、ディレクトリ・ネームにおける最後の文字対としてサフィックス「.d」を有する。メタデータ・ディレクトリ内の情報は、ファイル又はサブディレクトリに記憶され、これは、一意のネーム・セグメントを有することになっている。一意の識別子(例えば、伝統的なジャバ(Java)リバース・ドメイン名手法)を使用して組織を命名することが奨励される。メタデータ・ディレクトリ自体は、サブディレクトリを含み得、サブディレクトリの内容は、そのディレクトリの作成者によって順序付けられ、定義される。一般的な方針は、メタデータ・ファイル又はディレクトリの内容が分からないアプリケーションが内容を保存すべきであり、変えるべきでないというものである。特定のメタデータ・ファイル又はディレクトリは自己内蔵型であるので、同じディレクトリに含まれていない限り、メタデータのアイテム間の依存関係は何らないものであるべきである。メタデータのアイテムは、全体としての文書、又は特定のページに結合される。
一実施例では、文書メタデータ406はグローバル・メタデータであり、「document.d」と命名された1つ又は複数のファイルを含むディレクトリに記憶される。このディレクトリは、トップ・レベル・ディレクトリにおいて含まれる。文書メタデータにおいて文書に関連付けられた動作のログを記憶することが有用である。一実施例では、システム100は更に、文書メタデータとして「元の」文書のバージョンを記憶する。例えば、文書がPDF、マイクロソフト(Microsoft)社ワード(Word)、マイクロソフト(Microsoft)社エクセル(Excel)、又は他の文書から形成された場合、元のフォーマットの文書はメタデータ・ディレクトリに保存し得る。
一実施例では、ページ又は画像メタデータは、ページ画像と同じネーム・セグメントによって命名され、拡張子「.d」で終わる。例えば、ページ画像が「page.001.jpg」と命名された場合、ページ・メタデータ・ディレクトリは、そのページに関連付けられている旨を示すよう「page.001. d」と命名すべきである。別の実施例では、ページ又は画像メタデータは、ページ・メタデータ・ディレクトリにおけるページ毎の特定のフォーマットにおける元の画像を含む。このメタデータは、例えば、最上位ディレクトリに、かつ、ページ・メタデータ・ディレクトリにラスタ・フォーマットを記憶することによって文書が作成されると直ちに作成されるか、又は、元のラスタ・フォーマットの複製をページ画像が最初に変更されると、記憶し得る。他の実施例では、ページ又は画像メタデータはログ・データを含む。このログ・データは、当該ページのメタデータ・ディレクトリ内の各ページに施される変更のためのログを表す。他のメタデータは、特定のページ又は画像に関する何れかの他のデータを記憶するために使用される。例えば、画像がページに追加された場合、ページ・メタデータ・ディレクトリに、前述の追加された画像を記憶することが有用である。紙のページに「スタンプ」することと同様な理由で、画像(例えば。「受け取り」又は「送出」)をページに加え、よって、何れかの読み取り装置にページのステータスの視覚的な表示を提供し得る。
方法
次に図5乃至図7を参照して、本発明の本実施例の方法を更に詳細に説明する。
図5は、本発明の本実施例による自動文書処理方法の一実施例を示す。処理は、ストローク及び画像ワークフロー・サーバ106が、携帯用計算装置102aに関連付けられたインボックス502を作成し、確立することで始まる。ストローク及び画像ワークフロー・サーバ106は次いで、携帯用計算装置102aへの配信がスケジューリングされた1つ又は複数の文書504を作成し、インボックス502に入れる。例えば、文書は、携帯用計算装置102aのユーザが記入し、返す必要がある、医療情報フォームなどのフォームであり得る。ストローク及び画像ワークフロー・サーバ106は、インボックス502から、携帯用計算装置102a上の対応するインボックス(図示せず)に文書504を自動転送する(506)。実施例に応じ、文書の転送は、1)文書504がインボックス502に入れられ次第、2)携帯用計算装置102aがストローク及び画像ワークフロー・サーバ106と通信するために結合され次第、3)15分間隔など周期的に、又は、4)上記の種々の組み合わせという別々のいくつかの時点で行われ得る。文書504が、携帯用計算装置102aに転送される(506)と、携帯用計算装置102aは、文書504に注釈を付し、ストローク及び他の情報を追加するために使用される。注釈が文書504に追加され、文書504がもう一度、線508で表すように携帯用計算装置102a上に記憶される。一実施例では、文書504に追加された注釈及び情報が、携帯用計算装置102aからバックアップ・サーバ512にバックアップされる(510)。上記文書の転送は、上記時点と同様な時点で行われ得る。携帯用計算装置102aによって行われた注釈をバックアップする前述の工程は、携帯用計算装置102aの電源を維持するために10分以上毎などの等間隔で行い得るということを当業者は認識するであろう。更に別の実施例では、バックアップ間隔はユーザによって設定することが可能である。ユーザが、特定の文書504への注釈の追加を完了し、文書504が送出できる状態になり次第、ユーザは送出命令を入力し、注釈を付した文書504は、携帯用計算装置102aからストローク及び画像ワークフロー・サーバ106に転送される(514)。注釈を付けた文書504は、ストローク及び画像ワークフロー・サーバ106において受け取られ次第、記憶され、記録され、ワークフロー処理における次の工程が判定される。文書504を次にどこに送出すべきかの判定に基づいて、ストローク及び画像ワークフロー・サーバ106は文書を、判定された装置(例えば、他のコンピュータ108)に送信する(518)。図5は、複数のコンピュータをコンピュータ108として示しているが、コンピュータ108が、文書504に対する更なる処理又は注釈を行うことができる各種ベンダを表すということを当業者は認識するであろう。
本発明の本実施例は、フォーム又は文書を自動的に処理し、ワークフローにおいて進めるレベルが理由で特に効果的である。図5は、フォーム又は文書がワークフローにおいて自動的に進められ、ストローク及び画像ワークフロー・サーバ106から携帯用計算装置102a乃至nに送出されるという点で本発明の本実施例がどうようにして自動的であるかを示す。フォーム又は文書は、ユーザによって注釈が付けられ次第、もう一度、ストローク及び画像ワークフロー・サーバ106に送出され、ユーザは、単一の「送出」コマンド又は命令を入力するだけでよい。フォーム又は文書のこの自動レベルの処理は、日常の文書処理に携帯用計算装置102aを使用することが十分に簡単かつ単純になるので特に効果的である。更に、本発明の本実施例では、鉛筆及び紙の使用を非常に厳密に模倣する体験又は相互作用をユーザに提供することに適しており、所要の学習曲線がわずかか、又はないことをもたらす。
本発明の本実施例は更に、非常に単純であり、使いやすい一連のユーザ・インタフェースを提供するので、効果的である。特に、以下に説明するユーザ・インタフェースは。計算パッド202との2つの相互作用モードを提供する。第1のモード(インボックス・モード)では、ユーザ・インタフェース(図8の800を参照されたい)は、ユ―ザにより、修正可能であるか、編集可能であるか、又は注釈可能である文書全てを列挙したインボックスを提示する。この第1のモードでは、ユーザは、1)文書が列挙された順序を再ソートし、2)編集するための文書を選択し、3)編集するために新たな文書を作成するという3つの動作に制限される。第2のモード(文書注釈モード)では、文書の画像を表示するユーザ・インタフェース(図9の900を参照されたい)が提示される。やはり、ユーザは、1)ストローク又は注釈を文書に追加し、2)ピクチャを文書に追加し、3)画像の別のページの表示へ遷移し、又はインボックス・モードに戻るよう遷移するという3つの動作に制限される。本発明の本実施例は、ユーザが必要とする決定数を制限するので、特に効果的である。文書と相互作用するインタフェースを2つだけ提供し、各モードにおいて行われる動作の数を制限することにより、ユーザ・インタフェースに、洗練された単純さ及び効率性がもたらされる。これにより、ユーザ・インタフェースは、小さな学習曲線を伴って、又は学習曲線なしで簡単に適合することを可能にし、紙との相互作用を模倣するユーザ体験がもたらされ、ワークフロー内の自動処理と、情報収集体の収集体の収集が一体化される。更に、本発明の本実施例は、単一のコマンド・ワークフロー・ルーティングを提供する。
次に図8を参照すれば、インボックス・ビュー又はユーザ・インタフェース800の一実施例を示す。インボックス・ビュー800は、メニュー領域802、ディスプレイ領域804、及びナビゲーション領域822を含むウィンドウである。
メニュー領域802は複数のボタン806、計算パッド202用のラベル808、及び計算パッド202用のステータス表示子810を含む。ボタン806は、ユーザが、インボックスにおいて文書がどのようにして列挙されているかを修正するか、又は新たな文書を作成することを可能にする。例えば、「IL」(インボックス・リスト)とラベリングされた1つのボタン806は、図8に示すようにリストとしてインボックスに文書を提示する。「IT」(インボックス・サムネール)とラベリングされた別のボタン806は、ディスプレイ領域804に、各文書の最初のページのサムネール画像として文書を示させる。「ANF」(新たなフォームを追加する)とラベリングされた第3のボタン806は、ディスプレイ装置206のウィンドウの下部に沿って作成することが可能な新たな文書の選択可能なテンプレートを示す図2Aのユーザ・インタフェースと、ユーザが新たな文書を作成することを可能にする領域が存在しない、図8に示すディスプレイとの間で切り替わる。ラベル808は、ユーザ・ネームなどの、計算パッド202の所有者の特定の表示である。ステータス表示子810は、計算パッド202のステータスを示すために使用されるアイコンである。例えば、ワイファイ(Wi−Fi)信号、3G信号(若しくはブルートゥース)、又はバッテリそれぞれのステータスを表示するために、一連のバー、一連の無線SLAT、バッテリなどの別々のアイコンを示し得る。
ディスプレイ領域804は、複数の選択ボタン812、一連のカラム、並びに、一連のボタン814、816、818、及びラベルを含む。本発明の本実施例は、効果的には、インボックス内の電子メールの提示と同様な一連の列と、対応する列をそれぞれが有する文書を効果的に列挙する。文書(行)それぞれは、対応する選択ボタン812を有する。ユーザが選択ボタン812を選択すると、計算パッド202は、選択された文書が表示されて、図9のフォーム・ビュー900に、図8のインボックス・ビュー800から遷移する。各行は、選択ボタン812用の1列、フォーム・ネーム用の1列、文書内のページ数用の1列、及び文書のステータス用の1列という4つの列を有する。ディスプレイ領域804の最上位領域に近い領域は、一連の列ヘッダを備えている。一実施例では、3つの列はそれぞれ、選択ボタン814、816、818、及び対応するラベルを有する。例えば、第2の列は選択のボタン814及びラベル「フォーム・ネーム」を含み、第3の列は選択ボタン816及びラベル「ページ」を含み、第4の列は選択ボタン818及びラベル「ステータス」を含む。一実施例では、選択可能な3つのボタン814、816、818のうちの1つのみが何れかの特定の時点で選択可能である。ユーザの選択に基づいて、ディスプレイ領域804に列挙され、示された文書は、選択ボタン814、816、818の属性に応じてソートされる。すなわち、文書は、フォーム・ネーム、ページ数、又はステータスに応じてソートされる。文書のステータスは、ワークフローにおけるそのステータス、又はレビュー若しくは編集のそのステータスである。インボックス内の何れかの文書のステータスは、1)送出され、アップロードされた、2)送出されたが、アップロードされていない、3)編集された、4)読み出されたが、編集されていない、5)新しい(開かれていない)のうちの1つであり得、それらには、それらのステータスに視覚的に対応するアイコンが備えられ得る。
ナビゲーション領域822は、ページと、文書のどのページが表示されているかの表示子との間でナビゲートするための操縦装置を含む。例えば、ナビゲーション領域は、文書内のページ位置を示す方形又は矩形を備えたスライダ・バーを含む。ナビゲーション領域822は、2つのボタン間の合計ページ数におけるどのページかの表示を備えた、後続ページ又は先行ページにナビゲートするためのボタンの対も含む。
次に図9を参照すれば、フォーム・ビュー又はユーザ・インタフェース900の一実施例を示す。フォーム・ビュー900は、メニュー領域802、ディスプレイ領域902、及びナビゲーション領域822を含むウィンドウである。フォーム・ビュー900のメニュー領域802は、インボックス・ビュー800について上述したものと同様のものである。しかし、フォーム・ビュー900のメニュー領域802は、フォーム・ビュー900からインボックス・ビュー800に遷移する単一のボタン806のみを含む。フォーム・ビュー900のナビゲーション領域822は、インボックス・ビュー800について上述したものと同様であり、ここでは繰り返し説明しないものとする。
フォーム・ビュー900のディスプレイ領域902は、文書のページの画像を表示するために使用される。図9は、画像904を挿入するための領域、質問に対する応答を記入するための領域906、及び署名908のための領域などの複数の領域を備えた例示的なフォームを示す。フォーム・ビュー900の表示中、ユーザは、単にディスプレイ206の上でスタイラス204を移動させることにより、上記領域904、906、及び908の何れかに注釈を追加することが可能である。何れかの数の各種フォーム又は文書を表示し得、前述のフォームは、テキストのみ、又は領域904、906、及び908の何れかと組み合わせたテキストを含む各種ページを有し得るということを当業者は認識するであろう。このユーザ・インタフェースは、純粋に効果的である。紙でユーザが行うようにフォーム・ビュー900内で注釈を付けることにより、ユーザが文書を処理することを可能にするからである。ユーザは、文書に対する注釈を完了し次第、送出ボタン214を打てばよく、計算パッド202は前述の注釈を自動的に記録し、計算パッド202の文書を記憶し、文書をストローク及び画像ワークフロー・サーバ106に転送し、ストローク及び画像ワークフロー・サーバ106は、必要に応じて、注釈を付した文書に対して更なる処理を完了する。例えば、一実施例では、フォーム・ビュー900が表示されており、ユーザが送出ボタン214を選択し、又は押すと、計算パッド202は、フォーム・ビュー900に現在表示されている文書を判定し、(計算パッド202に記憶されているか、又は記憶されていない)この文書について計算パッド202によって受け取られている何れかのストローク又は他の入力を追加することにより、注釈を付した文書を作成し、次いで、注釈を付した文書をストローク及び画像ワークフロー・サーバ106に送出する。別の実施例では、計算パッド202は、文書のみならず、フォーム・ビュー900において現在表示されているページも判定し、文書のページのみをストローク及び画像ワークフロー・サーバ106に送出する。更に別の実施例では、計算パッド202は、注釈を付した文書を作成するために文書に追加することが可能な何れかのストローク入力又は他の入力を受け取ったか否かを判定する。計算パッドが、特定のストローク入力又は他の入力を受け取っている場合、注釈を付した文書を作成し、計算パッド202からストローク及び画像サーバ106に送出することにより、処理は上述の通りに続く。一方、計算パッド202がストローク入力又は他の入力を受け取っていない場合、計算パッド202は、フォーム・ビュー900に表示されている文書上で行われた編集がない旨を示すエラー・メッセージをユーザに向けて表示し、したがって、ストローク及び画像ワークフロー・サーバ106に、文書又は注釈を付した文書は送出されない。更に別の実施例では、計算パッド202は、フォーム・ビュー900において提示される何れかの文書が、受け手が望むレベルまで完了していることを確実にする。例えば、文書を送出し得る前に、文書内の全フィールドのうちの特定数のフィールドが記入されることが文書によって必要とされ得る。前述の場合、計算パッド202は、フォーム・ビュー900において提示されている文書の要件を満たすために、入力データの数、長さ、及び他の構成が十分であるか否かを判定する。肯定の場合、計算パッド202は、必要な入力から、注釈を付した文書を作成し、注釈を付した文書をストローク及び画像ワークフロー・サーバに送出する。否定の場合、計算パッド202は、文書の所要フィールドが記入されていない旨を示す1つ又は複数のエラー・メッセージを表示し、したがって、文書は送出することが可能でない(。そして、文書は送出されない)。エラー・メッセージは、単なる一般的なエラー・メッセージから、送出可能になる前に前のページのどのフィールドに記入しなければならないかをユーザに向けて明確化する特定のエラー・メッセージに及び得る。文書の送出が計算パッド202によって実行される前に計算パッド202によって施し得る別々の実施シナリオに対する種々の修正が存在しているということを、当業者は、上述の説明から認識するであろう。
次にもう一度、図2Aを参照すれば、新たなフォーム・ビュー734の実施例を示す。新たなフォーム・ビュー734は、上記インボックス・ビュー800と同様である。しかし、新たなフォーム・ビュー734は更に、ラベル、ナビゲーション領域、及び新たなフォーム・テンプレート領域を含む下部領域750を含む。新たなフォーム・テンプレート領域内には、ユ―ザによって選択可能なフォームがある。テンプレート領域内のフォームのうちの1つの選択に応じて、計算パッド202は、選択されたそのタイプの新たなフォームを作成し、インボックスによって維持されるリストに追加する。図2Aは、文書がなく、テンプレート領域からのフォームのユーザ選択に先行するインボックスを示す。別の実施例では、フォーム・テンプレートのサムネール画像はそれぞれ、サムネールの左上隅部に近いチェックボックスを含み得る。チェックボックスのユーザ選択に応じて、計算パッド202は、インボックスに新たな文書を作成し、追加する工程を行う。
自動画像捕捉
次に図6を参照して、本発明の本実施例による、捕捉画像の自動アタッチメントのための方法600の第1の実施例を説明する。方法600は、図9に示すフォーム・ビュー900などにおける文書を計算パッド202が表示(602)するフォーム・ビュー・モードでユーザが動作することで始まる。次に、計算パッド202は、「捕捉画像」コマンドを受け取る(604)。例えば、これは、ユーザが計算パッド202の第2のボタン212を押し下げると行われ得る。第2のボタン212を押すことにより、カメラ218の動作が制御され、選択されると、カメラ218に画像を捕捉させる。ボタン212の選択に応じて、計算パッド202は、カメラ218に画像を捕捉させる(606)。同時に、又は画像捕捉に近い時点で、計算パッド202は更に、計算パッド202に関連付けられた何れかのメタデータを記録する(608)。例えば、メタデータは、時刻、日付、GPS位置、計算パッドの向き、ファームウェア及びオペレーティング・システムのバージョンなどの計算パッド202の情報、計算パッド202の無線通信内の何れかの他の装置のID、他の情報、又は上記の組み合わせを含む。次に、方法600は、計算パッド202によって表示されている文書を判定する(610)。一実施例では、自動捕捉モジュール328はプロセッサ302及び提示モジュール322と協働して、どの文書が携帯用計算パッド202のディスプレイ206上に提示されているかを判定する。他の実施例では、表示されているまさにそのページが判定される。文書及びページの識別により、何れかの捕捉画像を追加し、記録されたメタデータを記憶するディレクトリ位置が提供される。最後に、方法606は、捕捉画像、及びその関連付けられたメタデータを注釈として文書に追加する(612)。上述の通り、この情報は、判定されたディレクトリ位置に追加することが可能である。第1の実施例では、このことは、文書と同じディレクトリ位置に捕捉画像を追加し、文書のメタデータに、新たなメタデータを追加することによって行われる。第2の実施例では、自動捕捉モジュール328は、新たなページを文書内に作成し、次いで画像をその新たなページに追加する。本実施例では、メタデータは更に、新たなページに追加される。第3の実施例では、各文書の各ページは、それに関連付けられたメタデータを有する。各ページに関連付けられたこのメタデータの一部は、追加する対象の画像用の1つ又は複数の画像である。この第3の実施例では、捕捉画像が、メタデータによって規定される場所において追加される。
次に図7を参照して、本発明の本実施例による、捕捉画像の自動アタッチメントのための方法700の第2の実施例を説明する。この方法700の場合、ユーザが、計算パッド202のディスプレイ装置206上に文書を表示しているものとする。更に、文書が少なくとも一ページのメタデータを含んでいることが考えられ、メタデータが、画像が配置されるべき位置を特定することが可能であるものとする。メタデータは、本出願にわたって「ピクチャ矩形」として表されるものを使用して前述の位置を規定する。ピクチャ矩形は、ピクチャ・データをフォームに統合すべきベース・ページ画像の矩形領域を表すx,y座標の単純な対である。あるいは、「ピクチャ矩形」は、ベース・ページ画像の何れかの画素領域を表し得る。これは、ベース・ページ画像における特定の色値の画素全てとして規定し得る。矩形という語が使用されても、ポリゴン、スプライン、2次元ラン・アレイ、マスキング・チャネル・ビットマップ、又は当技術分野において周知のいくつかの他の方法の何れかなどの多くの幾何学的手法を使用してページの前述のデスティネーション領域を規定し得るということを当業者は認識するであろう。ピクチャ矩形を利用したより具体的な例は、更に、図10を参照して以下に説明する。
方法700は、計算パッド202が、捕捉画像コマンドを受け取り(702)、カメラ218を使用して画像を捕捉することで始まる。次に、方法700は、表示されている文書のページを判定し、現在のページに何れかのピクチャ矩形が存在しているか否かを判定する(704)。一実施例では、この判定を行うために、現在のページのピクチャ矩形のリストが、上記ページのメタデータから読み出される。次に、方法は、少なくとも1つのピクチャ矩形がページに存在しているか否かを判定する(706)。否定の場合、方法は、捕捉画像から新たなページを作成し(708)、次いで、計算パッド202のディスプレイ装置206上に、新たなページを表示する(710)。その後、方法は完了し、終了する。
一方、少なくとも1つのピクチャ矩形が現在のページについて存在している場合、方法700は工程706から工程712に遷移する。工程712では、方法700は、ユーザがピクチャ矩形を選択したかを判定する。一実施例では、ユーザは、ピクチャ矩形を選択するために、計算パッド202上に表示されているページの上にストローク注釈を追加することが可能である。ピクチャ矩形の選択ボックスにストロークを追加することにより、ユーザが捕捉画像を追加したい箇所が計算パッド202に向けて事実上、識別される。ユーザがピクチャ矩形を選択した場合、方法700は、ピクチャ矩形の代わりに、表示されたページにおいて現在の文書に捕捉画像を挿入することにより、続く。捕捉画像が文書に挿入されると、方法は工程716に続く。
ユーザが、ピクチャ矩形を選択していない場合、方法700は、工程712から工程714に続く。工程714では、方法700は、ページの、埋められていない第1のピクチャ矩形を識別し、識別された、埋められていないピクチャ矩形の代わりに捕捉画像を現在の文書のページに挿入する。方法700は、自動捕捉が、ピクチャ矩形の代わりに上記画像を記憶し、更に、新たなページを追加し、画像をその新たなページに保存すべきである旨を規定するフラグがセットされているか否かを判定し続ける。「更にページとして保存する」フラグが送出されていない場合、方法700は完了し、終了する。しかし、「更にページとして保存する」がセットされている場合、方法700は、捕捉画像から新たなページを作成し(720)、それを記憶する。この画像は、ピクチャ矩形に挿入された画像データのフル解像度の複製であり、選択された特定のピクチャ矩形にプログラム的につなぐメタデータでマーキングし得る。捕捉画像が記憶された後、方法700は完了し、終了する。
次に図10を参照して、捕捉画像の自動アタッチメントのための方法1000の第3の実施例を説明する。図10は、自動捕捉モジュール328と協働して提示モジュール322によって生成されたユーザ・インタフェースとともに、計算パッド202とユーザとの間の相互作用を示すフロー図を示す。方法1000は、計算パッド202がフォーム・ビュー900内に例示的な文書を表示することで始まる。図9を参照して説明したように、フォーム・ビュー900は、メニュー領域802、ディスプレイ領域804、及びナビゲーション領域822を含む。説明を単純化し、理解を容易にするために、メニュー領域802及びナビゲーション領域822は図10に単純なボックスとして示す。しかし、メニュー領域802及びナビゲーション領域822は、図8を参照して上述したように機能を提供するために同様なボタンを有し、情報を提示し得る。
もう一度、図10に戻れば、例示的な文書をフォーム・ビュー900のディスプレイ領域804に示す。例示的な文書は、ピクチャ矩形1020の対を含む。前述のピクチャ矩形1020は、ユーザが捕捉画像を挿入するための考えられる挿入点として文書の作成者が指定した領域である。ピクチャ矩形1020はそれぞれ、更に、それぞれの選択チェックボックス1022を含む。選択ボックス1022は、スタイラス204を使用して、選択チェックボックスの上にストロークを配置することによって選択することが可能な領域である。フォーム・ビュー900内に示す例示的な文書は2つのピクチャ矩形1020を示すが、特定の文書が、ゼロから、(特定の実施例100において)単一のページ上で許容可能な最大値までの何れかの数のピクチャ矩形を有し得るということを当業者は認識するであろう。
フォーム・ビュー900は例示的な文書を表示し、計算パッド202は、ストローク注釈を例示的な文書に追加することを可能にする。ストローク注釈は、線を入れた領域内のどこでも追加することが可能であり、この特定のフォームのシグネチャを必要とするか、又は要求するものとして表す領域も存在している。ユーザがスタイラス204を使用してチェックボックス1022の上にチェックマーク・ストロークを追加した場合、ストローク捕捉モジュール208は、ストローク入力を捕捉し、これを自動捕捉モジュール328に送出する。自動捕捉モジュール328は次いで、表示をフォーム・ビュー900からフォーム・ビュー1050に遷移させるか、又は更新する(1002)。
フォーム・ビュー1050では、ピクチャ矩形1024周りのボックスは、太字又は強調表示などの視覚的にはっきりした態様で示す。チェックボックス1026は更に、チェックマークを示すよう更新される。このフォーム・ビュー1050はそれにより、画像が捕捉されるとピクチャが挿入される箇所についての視覚的なフォードバックをユーザに提供する。フォーム・ビュー1050への遷移1002の後、自動捕捉モジュール328は更に、出力装置220(例えば、OLED)を起動させる。起動させた出力装置220は、フォーム・ビュー902 4105の比較によって分かるように、カメラ218によって現在捕捉されている個人の画像1028を示す。チェックボックス1026内のチェックマークは更に、計算パッド202(特に、出力装置220)が起動されており、画像を捕捉する準備ができている旨をユーザに示す。
ユーザが第2のボタン212を押すと、これに応じて、計算パッド202は画像をカメラ218で捕捉する。自動捕捉モジュール328は、捕捉画像を処理し、これを文書の一部として記憶する。自動捕捉モジュール328は更に、フォーム・ビュー1052を示すようディスプレイ206を更新する(1004)。フォーム・ビュー1052では、第2のピクチャ矩形1030は、捕捉画像を示すよう更新される。第2のピクチャ矩形1030は更に、チェックされていない新たなチェックボックスを含む。よって、本発明の本実施例は特に効果的である。フォーム(フォーム・ビュー900)を表示しながら、ユーザは、第2のピクチャ矩形の上にストロークを追加すればよく、フォーム・ビューが更新され(フォーム・ビュー1050)、出力装置220が起動され、次いで、単に、第2のボタン212を押すことにより、画像が捕捉され、第2の矩形1030内に表示される(フォーム・ビュー1052)。本発明の本実施例は、画像が捕捉され、捕捉画像を、表示されている文書に追加するコンテキストを自動的に認識している。
上述のように、フォーム・ビュー1052では、第2の矩形1030は、チェックされていないチェックボックスを含む。ユーザが、チェックボックスの上にチェックマークを追加した場合、計算パッド202はディスプレイ206をフォーム・ビュー1052からフォーム・ビュー1054に遷移させる(1006)。フォーム・ビュー1054は、別々のコマンドにそれぞれが対応する複数のチェックボックスを含む命令ボックス1032を提示する。例えば、種々のコマンドには、ピクチャを再撮影すること、ピクチャを削除すること、ピクチャを移動させること、又は全体の動作を取り消すことが含まれる。ユーザは、チェックボックスの何れかの上にストロークを追加することが可能であり、計算パッド202は、当該ビューに対応する状態に文書を修正するための他の動作を行うとともに、フォーム・ビュー900、フォーム・ビュー1050、又はフォーム・ビュー1052に遷移する。ユーザが再撮影コマンドに対応するチェックボックスの上にストロークを入力した場合、計算パッド202は、フォーム・ビュー1054からもう一度、フォーム・ビュー1050に遷移し(1010)、既存の捕捉画像を削除し、計算パッド202は別の画像を捕捉する(ピクチャを再撮影する)準備ができている。ユーザが削除コマンドに対応するチェックボックスの上にストロークを入力した場合、計算パッド202は、フォーム・ビュー1054からフォーム・ビュー900に遷移し(1012)、既存の捕捉画像を削除し、フォームは、画像捕捉処理が開始される前のその元の状態にリセットされる。ユーザは、取消コマンドに対応するチェックボックスの上にストロークを入力した場合、計算パッド202は、フォーム・ビュー1054からフォーム・ビュー1052に遷移し(1008)、計算パッド202は捕捉画像を保持する。ユーザが、移動コマンドに対応するチェックボックスにわたってストロークを入力した場合、計算パッド202は、他のデスティネーション・ピクチャ矩形全てを強調表示し、ユーザからのストローク入力を待つ。このストローク入力が、デスティネーション・ピクチャ矩形のうちの1つにおいて生じた場合、画像は、その現在の位置から除去され、新たに選ばれたピクチャ矩形を置き換える。例えば、移動は、フォーム・ビュー1052と同様であるが、ピクチャ矩形1034を強調表示させたインタフェースを示す。ユーザが、ピクチャ矩形1034にストロークを入力した場合、計算パッド202はピクチャをピクチャ矩形1030からピクチャ矩形1034に移動させる。2つのピクチャ矩形1030及び1034のみを図10に示しているが、他の実施例は何れかの数のピクチャ矩形を有し得、よって、多くの他のピクチャ矩形を強調表示し、画像を何れかの矩形の1つに移動させ得るということを当業者は認識するであろう。別の実施例では、ピクチャは、複数のピクチャ矩形の上のストローク入力に応じて単一の場所から複数の場所に移動させることができる。更に別の実施例では、画像を、既存の画像の代わりに配置し得、既存の画像を削除し得る。
次に図11を参照して、捕捉画像の自動アタッチメントのための方法1100の第4の実施例を説明する。図11は、自動捕捉モジュール328と協働して、提示モジュール322によって生成されたユーザ・インタフェース、及び計算パッド202とユーザとの間の相互作用を示すフロー図を示す。図11を参照して後述する処理は、何れかの捕捉画像が、新たなページとして追加される本発明の本実施例の実施例を示す。方法1100は、計算パッド202が、フォーム・ビュー900内に例示的な文書を表示することで始まる。この例では、表示される文書は、ピクチャ矩形を有しない。ユーザがカメラ・ボタン212を押し下げることに応じて、計算パッド202はディスプレイ206をフォーム・ビュー900からフォーム・ビュー1150に遷移させる(1102)。フォーム・ビュー1150では、ディスプレイ領域804は、カメラのアイコン、メッセージ「新たなページを追加するか」、及びチェックボックス1130を備えた空きページ1120を示す。計算パッド202は更に、カメラ218によって現在捕捉されている画像1122を示すよう出力装置220を起動させる。これは特に効果的である。計算パッド202は、カメラ218及び出力装置220を、これらの装置が使用中である場合にのみ起動させることにより、利用されている電力の量を節減するからである。
フォーム・ビュー1150が表示され、ユーザが、チェックボックス1130の上にストロークを追加した場合、計算パッド202は、フォーム・ビュー1154を示すようディスプレイ206を遷移させる(1112)。チェックボックスの上にストロークを追加する動作は、ユーザが、画像を捕捉する動作を帳消しにしたい旨を計算パッド202に示す。フォーム・ビュー1154では、計算パッド202は命令ボックス1128を表示する。一実施例では、命令ボックス1128は、削除命令、取消命令、及び関連付けられたチェックボックスを含む。ユーザが、削除命令に関連付けられたチェックボックスの上にストロークを追加した場合、計算パッド202は、遷移1102の直前にユーザが表示していた文書とともにフォーム・ビュー900を示すようディスプレイ206を切り替える(1116)。一方、ユーザが、取消命令に関連付けられたチェックボックスの上にストロークを追加した場合、計算パッド202は、フォーム・ビュー1150に戻るようディスプレイ206を切り替える(1114)。
フォーム・ビュー1150が表示され、ユーザがカメラ・ボタン212を押すと、計算パッド202は、フォーム・ビュー1150からフォーム・ビュー1152にディスプレイ206を切り替える(1104)。計算パッド202は更に、画像1124を捕捉し、その画像1124は、ユーザ・インタフェース1152のディスプレイ領域804に表示される。ディスプレイ領域804は更に、ナビゲーション及び他の動作を可能にするチェックボックス1132を含む。ユーザがチェックボックス1132の上にチェックマークを追加した場合、計算パッド202は、フォーム・ビュー1156を示すようディスプレイ領域804を切り替える(1106)。フォーム・ビュー1156は命令ボックス1126を含む。命令ボックス1126は、複数の命令、及び関連付けられたチェックボックスを含む。例えば、図11の命令ボックス1126は4つの命令(すなわち、再撮影、削除、移動、及び取消)、及び対応する4つのチェックボックスを含む。ユーザが、再撮影命令に関連付けられたチェックボックスの上にストロークを入力した場合、計算パッド202は、フォーム・ビュー1150を示すようディスプレイ206を遷移させる(1118)。ユーザが、取消命令に関連付けられたチェックボックスの上にストロークを入力した場合、計算パッドは、フォーム・ビュー1152を示すようディスプレイを遷移させる(1108)。ユーザが、削除命令に関連付けられたチェックボックスの上にストロークを入力した場合、計算パッド202は、フォーム・ビュー900にディスプレイ206を戻す。
フォーム・ビュー1152が示されると、ユーザは更に、カメラ・ボタン212を押し、これは、計算パッド202に、フォーム・ビュー1150を示すようディスプレイ206を切り替えさせ(1110)、それにより、更なるページを追加し、ユーザが更なるピクチャを捕捉することを可能にし得る。更に、フォーム・ビュー1152が計算パッド202によって表示されると、先行ページ又は後続ページに移動させるためのボタン216のユーザによる選択により、計算パッド202に、フォーム・ビュー1152からフォーム・ビュー900にディスプレイを切り替えさせる。このようにしてボタン216を使用して、ユーザは、文書の既存のページに対して、捕捉画像が配置されたまさにそのページをレビューし、判定することができる。
本発明の実施例の上記説明は、例証及び説明の目的で提示している。これは、網羅的であることを意図するものでなく、本発明の本実施例を、開示されたまさにその形態に制限することを意図しているものでない。上記教示に照らして多くの修正及び変更が考えられる。本発明の本実施例の範囲が、この詳細な説明によって制限されず、本願の請求項によって制限されることを意図している。当業者によって理解されるように、本発明の本実施例は、その趣旨又は本質的な特性から逸脱しない限り、他の特定の形態で実施することができる。同様に、モジュール、ルーチン、構成、属性、方法論、及び他の局面の特定の命名及び区分は必須でも重要でもなく、本発明の本実施例又はその構成を実現する機構は、異なるネーム、区分、及び/又はフォーマットを有し得る。更に、当業者に明らかになるように、本発明のモジュール、ルーチン、構成、属性、方法論、及び他の局面は、ソフトウェア、ハードウェア、ファームウェア、又は3つの何れかの組み合わせとして実現することが可能である。更に、本発明の本実施例の構成部分(この一例は、モジュールである)がソフトウェアとして実現される場合には、上記構成部分は、スタンドアロン・プログラムとして、より大きなプログラムの一部として、別個の複数のプログラムとして、静的又は動的にリンクされたライブラリとして、カーネル・ロード可能なモジュールとして、デバイス・ドライバとして、かつ/又は、現在若しくは将来にコンピュータ・プログラミングの技術分野で公知の他のやり方全てで実現される。更に、本発明の本実施例は、何れかの特定のプログラミング言語における実現形態、又は、何れかの特定のオペレーティング・システム若しくは環境のための実現形態に決して制限されるものでない。よって、本発明の本実施例の開示は、以下の特許請求の範囲に記載された本発明の本実施例の範囲を例証することを意図しており、上記本発明の範囲を限定することを意図するものでない。
本出願は、西暦2010年6月29日付け米国特許出願第12/826,578号を基礎とし、上記米国特許出願の優先権の利益を主張する。

Claims (20)

  1. 文書への画像の自動アタッチメントのための方法であって、
    捕捉画像コマンドを受け取る工程と、
    前記画像を捕捉する工程と、
    計算装置によって表示されている文書を判定する工程と、
    前記捕捉画像を前記判定された文書に追加する工程とを含む方法。
  2. 請求項1記載の方法であって、更に、
    メタデータを記録する工程と、
    前記メタデータを前記判定された文書に追加する工程とを含む方法。
  3. 請求項2記載の方法であって、前記捕捉画像を追加する工程は、前記捕捉画像を前記文書と同じディレクトリ位置に追加し、前記メタデータを文書メタデータに追加する工程を含む方法。
  4. 請求項2記載の方法であって、前記捕捉画像を追加する工程は、
    新たなページを前記文書内に作成する工程と、
    前記文書の前記新たなページに前記捕捉画像を追加する工程と
    を含む方法。
  5. 請求項1記載の方法であって、更に、
    前記計算装置上に表示されている前記文書の現在のページを判定する工程と、
    前記現在のページについて何れかのピクチャ矩形が存在しているか否かを判定する工程と、
    前記現在のページについてピクチャ矩形が存在していないことに応じて、前記文書に新たなページを作成し、前記捕捉画像を前記文書の前記新たなページに追加する工程と
    を含む方法。
  6. 請求項1記載の方法であって、更に、
    前記計算装置上に表示されている前記文書の現在のページを判定する工程と、
    前記現在のページについてピクチャ矩形が存在しているか否かを判定する工程と、
    前記現在のページについて少なくとも1つのピクチャ矩形が存在していることに応じて、前記捕捉画像を前記現在のページに、前記ピクチャ矩形の代わりに追加する工程と
    を含む方法。
  7. 請求項6記載の方法であって、更に、
    ピクチャ矩形が選択されているか否かを判定する工程と、
    前記ピクチャ矩形が選択されていることに応じて、前記選択されたピクチャ矩形を前記捕捉画像と置き換える工程と
    を含む方法。
  8. 請求項6記載の方法であって、更に、
    ピクチャ矩形が選択されているか否かを判定する工程と、
    前記ピクチャ矩形が選択されていないことに応じて、埋められていない第1のピクチャ矩形を判定し、前記埋められていない第1のピクチャ矩形を前記捕捉画像で置き換える工程と
    を含む方法。
  9. コンピュータ読み取り可能なプログラムを含むコンピュータ利用可能な媒体を含むコンピュータ・プログラム・プロダクトであって、前記コンピュータ読み取り可能なプログラムは、コンピュータ上で実行されると、前記コンピュータに、
    捕捉画像コマンドを受け取る機能と、
    前記画像を捕捉する機能と、
    計算装置によって表示されている文書を判定する機能と、
    前記捕捉画像を前記判定された文書に追加する機能とを行わせるコンピュータ・プログラム・プロダクト。
  10. 請求項9記載のコンピュータ・プログラム・プロダクトであって、更に、
    メタデータを記録する機能と、
    前記メタデータを前記判定された文書に追加する機能と
    を含むコンピュータ・プログラム・プロダクト。
  11. 請求項10記載のコンピュータ・プログラム・プロダクトであって、前記コンピュータ読み取り可能なプログラムは、コンピュータ上で実行されると、前記捕捉画像を前記文書と同じディレクトリ位置に追加し、前記メタデータを文書メタデータに追加するコンピュータ・プログラム・プロダクト。
  12. 請求項10記載のコンピュータ・プログラム・プロダクトであって、前記コンピュータ読み取り可能なプログラムは、コンピュータ上で実行されると、更に、前記コンピュータに、
    新たなページを前記文書内に作成する機能と、前記文書の前記新たなページに前記捕捉画像を追加する機能とを行わせるコンピュータ・プログラム・プロダクト。
  13. 請求項9記載のコンピュータ・プログラム・プロダクトであって、前記コンピュータ読み取り可能なプログラムは、コンピュータ上で実行されると、前記コンピュータに、
    前記計算装置上に表示されている前記文書の現在のページを判定する機能と、
    前記現在のページについて何れかのピクチャ矩形が存在しているか否かを判定する機能と、
    前記現在のページについてピクチャ矩形が存在していないことに応じて、前記文書に新たなページを作成し、前記捕捉画像を前記文書の前記新たなページに追加する機能とを含むコンピュータ・プログラム・プロダクト。
  14. 請求項9記載のコンピュータ・プログラム・プロダクトであって、前記コンピュータ読み取り可能なプログラムは、コンピュータ上で実行されると、更に、前記コンピュータに、
    前記計算装置上に表示されている前記文書の現在のページを判定する機能と、
    前記現在のページについてピクチャ矩形が存在しているか否かを判定する機能と、
    前記現在のページについて少なくとも1つのピクチャ矩形が存在していることに応じて、前記捕捉画像を前記現在のページに、前記ピクチャ矩形の代わりに追加する機能とを行わせるコンピュータ・プログラム・プロダクト。
  15. 請求項14記載のコンピュータ・プログラム・プロダクトであって、前記コンピュータ読み取り可能なプログラムは、コンピュータ上で実行されると、更に、前記コンピュータに、
    ピクチャ矩形が選択されているか否かを判定する機能と、
    前記ピクチャ矩形が選択されていることに応じて、前記選択されたピクチャ矩形を前記捕捉画像と置き換える機能とを行わせるコンピュータ・プログラム・プロダクト。
  16. 請求項14記載のコンピュータ・プログラム・プロダクトであって、前記コンピュータ読み取り可能なプログラムは、コンピュータ上で実行されると、更に、前記コンピュータに、
    ピクチャ矩形が選択されているか否かを判定する機能と、
    前記ピクチャ矩形が選択されていないことに応じて、埋められていない第1のピクチャ矩形を判定し、前記埋められていない第1のピクチャ矩形を前記捕捉画像で置き換える機能とを行わせるコンピュータ・プログラム・プロダクト。
  17. 文書への画像の自動アタッチメントのための装置であって、
    入力及び出力を有するカメラであって、画像を捕捉するカメラと、
    入力を有するディスプレイ装置であって、画像を表示するディスプレイ装置と、
    入力及び出力を有するストローク捕捉装置であって、ストロークを受け付け、前記ストロークを表す信号を生成するストローク捕捉装置と、
    入力及び出力を有する提示モジュールであって、文書を表示するためのユーザ・インタフェース、及び前記文書への捕捉画像のアタッチメントのステータスを示すための自動捕捉インタフェースを生成し、提示する提示モジュールと、
    入力及び出力を有する自動捕捉モジュールであって、捕捉画像コマンドに応じて画像を自動的に捕捉し、表示されている現在の文書を判定し、前記捕捉画像を前記現在の文書に挿入する自動捕捉モジュールと、
    入力及び出力を有するプロセッサであって、前記カメラの前記出力、前記ディスプレイ装置の前記入力、前記ストローク捕捉装置、前記提示モジュール、及び前記自動捕捉モジュールに結合され、文書を受け取り、前記文書のページの画像を表示し、前記ストローク捕捉装置によって捕捉されるストロークを記憶し、前記自動捕捉モジュールと協働して、捕捉画像を文書に自動的に添付するプロセッサとを備える装置。
  18. 請求項17記載の装置であって、前記自動捕捉モジュールは、画像捕捉コマンドに応答し、それに応じて、文書の新たなページを作成する装置。
  19. 請求項17記載の装置であって、前記自動捕捉モジュールは、ストローク入力に応答し、前記ストローク入力に応じて、捕捉画像が挿入される箇所を示すために視覚的にはっきりとした態様でピクチャ矩形を表示する装置。
  20. 請求項17記載の装置であって、前記自動捕捉モジュールはストローク入力に応答し、前記ストローク入力に応じて、複数のコマンド及び関連付けられたチェックボックスとともに命令ボックスを表示する装置。
JP2012558115A 2010-06-29 2011-06-27 コンテキストに基づいた、文書への捕捉画像の自動アタッチメント Expired - Fee Related JP5884741B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/826,578 2010-06-29
US12/826,578 US9191612B2 (en) 2010-06-29 2010-06-29 Automatic attachment of a captured image to a document based on context
PCT/JP2011/065236 WO2012002551A1 (en) 2010-06-29 2011-06-27 Automatic attachment of a captured image to a document based on context

Publications (2)

Publication Number Publication Date
JP2013535710A true JP2013535710A (ja) 2013-09-12
JP5884741B2 JP5884741B2 (ja) 2016-03-15

Family

ID=45353784

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012558115A Expired - Fee Related JP5884741B2 (ja) 2010-06-29 2011-06-27 コンテキストに基づいた、文書への捕捉画像の自動アタッチメント

Country Status (8)

Country Link
US (1) US9191612B2 (ja)
EP (1) EP2589022B1 (ja)
JP (1) JP5884741B2 (ja)
KR (1) KR101443485B1 (ja)
CN (1) CN103080980B (ja)
AU (1) AU2011272237A1 (ja)
SG (1) SG186746A1 (ja)
WO (1) WO2012002551A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10380233B2 (en) 2012-07-26 2019-08-13 International Business Machines Corporation Launching workflow processes based on annotations in a document
CN103678357B (zh) * 2012-09-13 2018-12-11 腾讯科技(深圳)有限公司 一种移动终端获取图片缩略图的方法及装置
KR20140108995A (ko) * 2013-03-04 2014-09-15 삼성전자주식회사 페이지의 일부 영역을 이용한 데이터 처리 방법 및 장치
US9704169B2 (en) * 2013-07-23 2017-07-11 Echosec Systems Ltd. Digital publication monitoring by geo-location
JP6107518B2 (ja) * 2013-07-31 2017-04-05 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
KR101406413B1 (ko) * 2013-10-02 2014-06-13 강효진 부분 이미지를 포함하는 이미지 번들의 생성과 공유 방법, 이미지 번들에 새로운 부분 이미지의 추가 방법, 이미지 번들의 이미지 현출 방법, 그리고 이미지 번들 공유 시스템
EP3097475A4 (en) 2014-01-23 2017-06-21 Nokia Technologies Oy Causation of rendering of information indicative of a printed document interaction attribute
GB2525619B (en) * 2014-04-29 2018-09-12 Cook Foundation Holdings Ltd Alarm unit
US11210457B2 (en) * 2014-08-14 2021-12-28 International Business Machines Corporation Process-level metadata inference and mapping from document annotations
WO2016153510A1 (en) * 2015-03-26 2016-09-29 Hewlett-Packard Development Company, L.P. Image selection based on text topic and image explanatory value
US10536569B2 (en) 2015-12-17 2020-01-14 Microsoft Technology Licensing, Llc Contact-note application and services
US10021051B2 (en) 2016-01-01 2018-07-10 Google Llc Methods and apparatus for determining non-textual reply content for inclusion in a reply to an electronic communication
CN107870895A (zh) * 2017-11-15 2018-04-03 苏州三星电子电脑有限公司 移动设备文档图片编辑方法与编辑装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000069304A (ja) * 1998-08-18 2000-03-03 Ai Soft Kk 画像データ管理装置、画像データ管理方法および画像データ管理プログラムを記録した媒体
JP2000287164A (ja) * 1999-03-31 2000-10-13 Ricoh Co Ltd 工事アルバム作成支援システム、およびそのためのデータとプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2006331122A (ja) * 2005-05-26 2006-12-07 Nikon Corp 編集装置、および編集プログラム
JP2007257670A (ja) * 2007-06-25 2007-10-04 Fujifilm Corp 画像表示装置及び画像表示方法
JP2008097435A (ja) * 2006-10-13 2008-04-24 Canon Inc 画像編集装置、画像編集方法及びそのプログラム
JP2009075879A (ja) * 2007-09-20 2009-04-09 Ricoh Co Ltd 画像処理装置と画像処理方法とプログラム

Family Cites Families (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08335214A (ja) 1995-06-07 1996-12-17 Toshiba Corp ソート方法,文書検索方法及び情報処理装置
JPH09325879A (ja) 1996-06-04 1997-12-16 Omron Corp 画面スクロール操作支援方法及び装置
AU4650000A (en) 1999-04-19 2000-11-02 Ecrio, Inc. Apparatus and method for handwriting capture
US7139728B2 (en) 1999-12-30 2006-11-21 Rod Rigole Systems and methods for online selection of service providers and management of service accounts
US7002700B1 (en) 2000-09-14 2006-02-21 Electronics For Imaging, Inc. Method and system for merging scan files into a color workflow
US20020055861A1 (en) * 2000-11-08 2002-05-09 King Daniel A. Claiming system and method
AU2003200220B1 (en) 2002-05-23 2003-05-01 River Dynamics Pty Ltd System and method for selecting a service provider
FR2842005B1 (fr) 2002-07-03 2005-06-17 France Telecom Dispositif d'observation et de prises de vues de type longue-vue, systeme d'observation et serveurs pour un tel systeme
DE10354556B4 (de) 2002-11-25 2008-10-09 Samsung Electronics Co., Ltd., Suwon Vorrichtung und Verfahren zum Anzeigen von Bildern in einem mobilen Endgerät
JP4161806B2 (ja) 2003-06-02 2008-10-08 富士ゼロックス株式会社 管理装置、管理方法およびネットワークシステム
US20050007468A1 (en) * 2003-07-10 2005-01-13 Stavely Donald J. Templates for guiding user in use of digital camera
EP1697786A4 (en) 2003-11-26 2008-09-24 E Ink Corp ELECTROOPTICAL DISPLAYS WITH REDUCED RESISTANCE
US7685134B2 (en) * 2003-12-31 2010-03-23 Nokia Corporation Media file sharing, correlation of metadata related to shared media files and assembling shared media file collections
JP2005242604A (ja) * 2004-02-26 2005-09-08 Seiko Epson Corp 画像配列の決定
US7365787B2 (en) * 2004-02-26 2008-04-29 Research In Motion Limited Mobile device with integrated camera operations
US8289250B2 (en) 2004-03-31 2012-10-16 E Ink Corporation Methods for driving electro-optic displays
US20050219263A1 (en) * 2004-04-01 2005-10-06 Thompson Robert L System and method for associating documents with multi-media data
US7639387B2 (en) * 2005-08-23 2009-12-29 Ricoh Co., Ltd. Authoring tools using a mixed media environment
US9830066B2 (en) 2004-12-22 2017-11-28 Conversant Wireless Licensing S.A R.L. Mobile communications terminal and method
US8583139B2 (en) * 2004-12-31 2013-11-12 Nokia Corporation Context diary application for a mobile terminal
US20060253478A1 (en) 2005-03-16 2006-11-09 Graham Michael L Client centric document preparation interface
US8126914B2 (en) 2005-03-23 2012-02-28 International Business Machines Corporation Selecting a resource manager to satisfy a service request
US8175966B2 (en) 2005-06-20 2012-05-08 Simplexity, Llc System and method for identifying an alternative provider of telecommunications services
US20090012887A1 (en) 2006-03-01 2009-01-08 T.K.T Technologies Ltd. Method And System For Provision Of Personalized Service
US20070226374A1 (en) 2006-03-23 2007-09-27 Quarterman Scott L System and method for identifying favorite service providers
US20070245227A1 (en) * 2006-04-13 2007-10-18 Workflow.Com, Llc Business Transaction Documentation System and Method
CN101484890B (zh) 2006-05-02 2017-04-05 英维迪技术公司 基于模糊逻辑的观看者识别
JP2007328489A (ja) 2006-06-07 2007-12-20 Fuji Xerox Co Ltd 文書管理装置及びプログラム
US20080040162A1 (en) 2006-08-08 2008-02-14 Siemens Medical Solutions Usa, Inc. System for Processing and Testing of Electronic Forms and Associated Templates
JP5194581B2 (ja) 2007-06-20 2013-05-08 富士ゼロックス株式会社 文書処理装置および文書処理プログラム
US20090086945A1 (en) 2007-09-27 2009-04-02 Buchanan Annette L Methods and Apparatus for Selecting a Service Provider on a Per-Call Basis
US20090094275A1 (en) 2007-10-09 2009-04-09 Lawson Software, Inc. Auditable action request processing in a workflow environment
US20130297353A1 (en) * 2008-01-18 2013-11-07 Mitek Systems Systems and methods for filing insurance claims using mobile imaging
JP4702705B2 (ja) 2008-03-10 2011-06-15 富士ゼロックス株式会社 情報表示処理システム、クライアント端末、管理サーバ、プログラム
US20100107165A1 (en) * 2008-10-24 2010-04-29 Oskari Koskimies Method, system, and apparatus for process management
TW201027373A (en) * 2009-01-09 2010-07-16 Chung Hsin Elec & Mach Mfg Digital lifetime record and display system
US8396854B2 (en) * 2009-07-13 2013-03-12 Esker, Inc. Digital document management system
US8560854B2 (en) 2009-09-08 2013-10-15 Ricoh Co., Ltd. Device enabled verifiable stroke and image based workflows
US8346624B2 (en) 2009-12-09 2013-01-01 Allconnect, Inc. Systems and methods for recommending third party products and services
US20110145094A1 (en) 2009-12-11 2011-06-16 International Business Machines Corporation Cloud servicing brokering
US20110231745A1 (en) * 2010-03-15 2011-09-22 TripAdvisor LLC. Slideshow creator
US8504907B2 (en) * 2011-03-07 2013-08-06 Ricoh Co., Ltd. Generating page and document logs for electronic documents

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000069304A (ja) * 1998-08-18 2000-03-03 Ai Soft Kk 画像データ管理装置、画像データ管理方法および画像データ管理プログラムを記録した媒体
JP2000287164A (ja) * 1999-03-31 2000-10-13 Ricoh Co Ltd 工事アルバム作成支援システム、およびそのためのデータとプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2006331122A (ja) * 2005-05-26 2006-12-07 Nikon Corp 編集装置、および編集プログラム
JP2008097435A (ja) * 2006-10-13 2008-04-24 Canon Inc 画像編集装置、画像編集方法及びそのプログラム
JP2007257670A (ja) * 2007-06-25 2007-10-04 Fujifilm Corp 画像表示装置及び画像表示方法
JP2009075879A (ja) * 2007-09-20 2009-04-09 Ricoh Co Ltd 画像処理装置と画像処理方法とプログラム

Also Published As

Publication number Publication date
AU2011272237A1 (en) 2013-02-14
EP2589022B1 (en) 2016-06-01
KR101443485B1 (ko) 2014-09-22
US9191612B2 (en) 2015-11-17
EP2589022A1 (en) 2013-05-08
JP5884741B2 (ja) 2016-03-15
CN103080980B (zh) 2016-05-25
US20110320935A1 (en) 2011-12-29
KR20130040963A (ko) 2013-04-24
EP2589022A4 (en) 2013-12-18
CN103080980A (zh) 2013-05-01
WO2012002551A1 (en) 2012-01-05
SG186746A1 (en) 2013-02-28

Similar Documents

Publication Publication Date Title
JP5884741B2 (ja) コンテキストに基づいた、文書への捕捉画像の自動アタッチメント
JP5846130B2 (ja) 位置バー及びブックマーク機能
JP5939162B2 (ja) 単一入力ワーク・フロー・ルーティングのためのインボックス・モード及び文書モードを備えたユーザ・インタフェース
US9043219B2 (en) Automatic and semi-automatic selection of service or processing providers
US8504907B2 (en) Generating page and document logs for electronic documents
US20110060910A1 (en) Device enabled verifiable stroke and image based workflows
US8904197B2 (en) Power management based on combined user interface and sensor inputs
JP5893825B2 (ja) ワークフローのための方法及びシステム
JP2011060286A (ja) ペーパーライクフォーム処理のための方法及びシステム
US20080282138A1 (en) Methods and systems for multimedia object association to digital paper spatial diagrams

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140516

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150907

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151006

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160125

R151 Written notification of patent or utility model registration

Ref document number: 5884741

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees