本発明の実施例は、ユーザの書いたメモと、捕捉又は記録された様々な種類の情報とを統合する書類を作成する技術を与える。本発明の実施例によれば、ユーザは情報伝達イベント中に記載されるメモをとることができる。メモを取りながら、ユーザは、情報伝達イベント中に取得される情報から、そのユーザにとって関心があり且つそのユーザがユーザのメモと統合しようとする又はそこに組み入れようとする情報を確認することができる。ユーザの書いたメモの視覚的な表現及びユーザがユーザのメモに組み入れようとする情報部分の視覚的な表現を印刷することで、書類が生成される。
本発明の実施例によれば、メモに関する印刷可能な多くの電子バージョンが生成され、その電子形式はユーザの記載したメモとユーザのメモに統合されるようにユーザにより要求された情報を表すものとを統合する。増やされる電子メモバージョン(augmented electronic notes version)は、増やされるメモ書類を生成するために紙媒体に印刷されることが可能であり、その増やされるメモ書類は、ユーザの書いた視覚的表現と、ユーザのメモに統合されるようにユーザによって確認された情報の視覚的表現とを有する。
本願に関し、「情報伝達イベント」なる語は、1種類以上の情報が伝達される任意のイベント又はその間の時間を含むように意図される。情報伝達イベントの例は、会議、プレゼンテーション、講義、打ち合わせ、グループミーティング等を含む。情報伝達イベントの間に伝達される情報の種類は、音声情報、映像情報、スライド情報、ホワイトボード情報、画像情報その他任意の情報を包含し得る。情報伝達イベントは、時間的に連続している必要はなく、非連続的な期間にわたって分散されることも可能である。例えば、プレゼンテーションが、数日間にわたって分散すること、及び別の情報伝達イベント又は他のイベントによって散在することが可能である。また、情報伝達イベントは、1以上の情報伝達イベントを表現し得る。
ある情報伝達イベント中に伝達される様々な種類の情報が、捕捉又は記録される。例えば、情報伝達イベントの間に捕捉される情報は、音声情報、映像情報、画像情報、ホワイトボード情報、スライド情報その他の種類の情報を包含し得る。その情報を捕捉するために1以上の装置(情報捕捉装置)が使用され得る。本願に関し、「捕捉された(captured)」及び「記録された(recorded)」なる語は、同義語的に使用される。
ユーザは、情報伝達イベント中にユーザにより書かれるメモに統合される又は組み込まれよう捕捉される1以上の情報を識別する。本発明の実施例によれば、ユーザのメモに統合される情報の部分について視覚的な表現(「静的な視覚的表現」(static visual representation)とも呼ばれる)が生成される。静的な視覚的表現又は情報部分についての視覚的な表現は、紙媒体又は紙ページに印刷されることの可能な情報部分を表す。静的な視覚的表現及びユーザの書いたメモの表現を含む、増加した印刷可能なメモの電子バージョンが生成される。増やされるメモの電子バージョンは、紙に印刷されることの可能な画像ファイルやPDFファイル等のような様々な形式で生成される。他の実施例では、増やされるメモの電子バージョンは、紙に印刷され得るウェブページ等の形式でも生成される。この実施例では、ユーザは増やされるメモの電子バージョンとやりとりをすることが可能にされる。増やされるメモの紙書類は、その増加した電子バージョンを紙媒体に印刷することによって生成される。従って、増やされるメモの紙書類は、ユーザのメモの視覚的表現に統合されるメモにおける、ユーザにより識別された情報種別の視覚的表現より成る。
上述したように、増やされるメモ書類は、そのメモの増加した電子バージョンを紙媒体に印刷することによって生成される。本願で使用される「紙」又は「紙ページ」なる語は、情報が印刷、描画、押印又は型押し等がなされる任意の物理的な現実の媒体を言及することが意図される。「紙書書類」なる語は、1以上の紙ページより成る物理的な書類に言及されることが意図される。本願に関し、「印刷」なる語は、印刷すること、書くこと、描くこと、押印すること、型押しすること等を包含することが意図される。
図1A,1Bは、本発明の概略的な実施例を示す。図1,1Bに示される例は、本発明についての単なる例示であり、特許請求の範囲に記載されるような本発明の範囲を限定するものではない。当業者は他の変形、修正及び代替物を認識するであろう。
図1Aに示される例は、1以上の画像捕捉装置(ICD)100、メモ取得装置102、データ処理システム104及び書類出力装置106を含む。情報捕捉装置100は、情報伝達イベント中に情報を捕捉する(又は記録する)ように構成される。例えば、情報捕捉装置100は、会議、プレゼンテーション、講義等の最中に情報を捕捉するように構成される。情報捕捉装置100は1種類以上の情報を捕捉するよう構成される。更に、特定の種別の情報を捕捉するために、複数の情報捕捉装置が設けられる。情報捕捉装置100は、音声情報捕捉装置、映像情報捕捉装置、画像情報捕捉装置、スライド情報捕捉装置、ホワイトボード情報捕捉装置、様々な種別の情報を捕捉するよう構成されたマシンセンサ(machine sensor)等を包含し得る。
本願に関し、「捕捉装置」又は「情報捕捉装置」なる語は、1種類以上の情報を捕捉又は記録するよう構成される任意の装置、システム又はアプリケーションを言及することが意図される。音声情報を捕捉し得る情報捕捉装置100の例は、様々な形式のマイクロフォン、映像カメラ、様々な他の音声捕捉装置を包含する。映像情報を捕捉し得る情報捕捉装置100の例は、映像カメラや様々な他の映像捕捉装置を包含する。画像情報を捕捉し得る情報捕捉装置100の例は、画像を捕捉するよう構成された映像カメラ、様々な種類のカメラ及び様々な他の画像捕捉装置を包含する。ホワイトボード情報捕捉装置は、ホワイトボードの内容を捕捉するように適切に設けられたカメラのような装置、その内容を捕捉するためにホワイトボードを走査(スキャン)するように構成された装置、及び様々な他のホワイトボード装置を包含する。スライド情報捕捉装置は、スライドの画像を捕捉し得るカメラ、スライド表示アプリケーションに取り出してスライド情報を捕捉し得る装置、及び他の種類の装置を包含する。マシンセンサは、鼓動情報を捕捉するよう構成される心臓モニタのようなセンサ、圧力変化を捕捉するよう構成された圧力ゲージ、温度変化を捕捉するよう構成された温度センサ等を包含する。情報伝達イベント中に出力される他の種類の情報を捕捉するために、他の様々な情報捕捉装置100も設けられ得る。
情報捕捉装置100は情報を捕捉するために様々な技術を利用する。例えば、マイクロフォンは、スピーカ等のような情報源から出力される音声情報を捕捉するよう構成される。また、情報捕捉装置100は、情報ソースに信号入力又はタッピング(tapping)することで情報源から情報を捕捉するよう構成される。例えば、情報ソースが映像ストリームを出力する機器又は装置(例えば、テレビジョン、映像又はDVDプレイヤ、プロジェクタ等)である場合に、映像捕捉装置は、その情報源の装置又は機器にタッピングすることで、映像ストリームを捕捉する。
1種類以上の情報を捕捉することに加えて、本発明の実施例によれば、各情報捕捉装置100は、捕捉した情報又はその一部に時間情報を関連付けるよう構成される。時間情報は、その情報が情報捕捉装置100によって捕捉された時間を近似的に識別する。例えば、情報捕捉装置100がカメラである場合に、そのカメラは、カメラによって捕捉された写真又は画像各々にタイムスタンプを押すことが可能である。写真又は画像に関連付けられるタイムスタンプ(即ち、時間情報)は、そのカメラがその情報を取得した時点を示す。他の例として、映像カメラは、情報伝達イベント中に映像カメラによって捕捉された音声及び映像情報にタイムスタンプを押すことも可能である。捕捉された情報に関連付けられる時間情報は、(例えば写真用に)離散的でもよいし、(例えば音声や映像ストリーム用に)連続的であってもよい。
捕捉された情報のタイムスタンプを可能にするために、情報捕捉装置100は、情報が捕捉された時を判別するために使用される内部クロック又はタイマを含み得る。情報捕捉装置100の内部クロックは、校正され、別の情報捕捉装置100のクロックとの同期がとられる。情報捕捉装置100のクロックの同期は、以下に説明される本発明の教示するものにより実行される処理を支援する。
捕捉情報のタイムスタンプ処理(即ち、時間情報を捕捉情報に関連付けること)が可能な情報捕捉装置自体は、当該技術分野でよく知られており、従って本願では更に詳細には説明されない。関連付けられた時間情報と共に捕捉情報は、情報捕捉装置に格納される。本発明の実施例によれば、情報捕捉装置100は、本発明の教示による更なる処理のために捕捉情報及び関連する時間情報をデータ処理システム104に与えるよう構成される。他の例では、情報捕捉装置は、データ処理システム104によりアクセスされ得るメモリロケーションにて時間情報と共に捕捉情報を格納する。
情報伝達イベントの間に、情報捕捉装置100は情報を捕捉する一方、ユーザは紙媒体にメモをとっている。本発明の実施例によれば、情報捕捉装置100は、情報捕捉装置100により捕捉された情報と共に、ユーザのメモに関連する情報を格納する。情報捕捉装置により捕捉された捕捉情報の一部に関し、その情報部分が捕捉された時点でユーザのメモの中での場所(メモ内場所情報)を見分ける情報が、格納され且つその捕捉された情報部分に関連付けられる。例えば、カメラのようなホワイトボード情報捕捉装置がホワイトボードの画像を捕捉する場合に、その捕捉の時点でユーザがメモをとっているページを識別する情報が、捕捉されるホワイトボード画像と共に格納される。例えば、「ユーザがメモの第3ページにいた時にホワイトボード画像が捕捉された」のような情報が格納され、捕捉された画像情報に関連付けられる。
情報捕捉装置は、ユーザのメモからページ情報を読出すことの可能なセンサ又はリーダ(例えば、ページ数バーコードリーダ)からメモ内場所情報を受信する。また、ユーザは、捕捉装置にその情報を手動で与え得る。例えば、捕捉装置は、メモ内情報(例えば、ページ情報)を情報捕捉装置に示すために使用するダイヤルやボタンを備える。捕捉情報の一部に関連付けられる場所時間情報は、捕捉された情報部分の静的な視覚的表現物が置かれるページを判別するために使用される(本実施例では、捕捉情報に関するタイムスタンプ情報が格納される。)。
情報捕捉装置100は、情報伝達イベント中に情報の捕捉を可能にする場所に適切に設けられる。例えば、会議室内で行なう会議中に、情報捕捉装置100はその会議室内に設けられる。1以上の遠隔場所からの人がその会議に参加している場合には、その遠隔場所に1以上の捕捉装置が設けられ得る。また、情報捕捉装置100は会議室外部にも設けられ得る。また、情報捕捉装置100は、例えば、出席者により携帯される個人用カメラ、出席者により使用される個人用テープレコーダ等のように会議参加者によって持ち運ばれることも可能である。本発明の実施例によれば、情報伝達イベントに出席するユーザは、情報伝達イベント中に1以上の情報捕捉装置100の動作を制御することが可能である。
ユーザ(しばしば、メモ取得者としても言及される)は、メモ取得装置102を里余湯してメモを取る。本発明の実施例によれば、メモ取得装置102はユーザがメモを取るための紙インターフェースを備える。例えば、メモ取得装置102は、メモを取得するユーザに使用される紙ページを備える。ユーザは、鉛筆やペン等のようなマーキング装置を利用してメモを取る。
本発明の実施例によれば、メモ取得装置102は、情報伝達イベント中にユーザにより紙に書かれた情報を捕捉するよう構成される。メモ取得装置102により捕捉された情報は、ユーザの手書きメモ及び他の書き込み情報(例えば、以下に説明されるような、ユーザによりなされた印)を包含する。メモ取得装置102は、XML(拡張可能マーク付け言語)フォーマット、画像フォーマット等を含む様々なフォーマットで、捕捉された書き込み情報を格納する。メモ取得装置102は、1つの情報伝達イベントに対する書き込み情報を捕捉及び格納するように構成されることも、複数の情報伝達イベントに対する捕捉情報を別々に格納するよう構成されることも可能である。
複数の情報伝達イベントに対する情報を格納する例では、各情報伝達イベントは、メモ取得装置102により割り当てられた又はユーザにより指定された識別子によって区別される。この例では、ユーザは、特定の一群の捕捉された書き込み情報が関連付けられる情報伝達イベントを指定することができる。上述したように、特定の情報伝達イベントは非連続的な期間にわたることが可能である。例えば、第1の情報伝達イベントの後に、第2の情報伝達イベントが続き、その後に第1の情報伝達イベントが続き得る。例えば、あるユーザが第1の会議に出席し、その後に第2の会議に出席し、そして第1の会議に戻る。第1の会議の間にユーザによって取られたメモは、第1の情報伝達イベントに属するように指定され、第2の会議の間にユーザによって取られたメモは、第2の情報伝達イベントに属するように指定される。増やされるメモ書類は、各情報伝達イベントについて生成される。
メモ取得装置102が1つの情報伝達イベントについての情報を格納するよう構成されている例では、増加されるメモ書類が生成される最終時点以来ユーザにより取得される総てのメモは、1つの情報伝達イベントの一部として一部であるものと考えられる。増加されるメモ書類が生成された後に、以後のメモは新たな情報伝達イベントの一部であるものとされる。この例では、増加されるメモ書類は、メモ取得装置102により格納されたメモ情報について生成される。
本発明の教示によれば、情報伝達イベント中にメモをとる一方、ユーザは、情報伝達イベント中に捕捉される1種類以上の情報が、ユーザの書いたメモに統合されるべきことを指示することができる。ユーザは、ユーザのメモに統合される情報種別を示すために様々な異なる技術を利用し得る。
本発明の実施例によれば、ユーザは、特定の種別の情報がユーザのメモに統合されることを示すメモ書類に印を付けるためにマーキング装置を利用する。メモ取得装置102は、ユーザの手書きメモと共にその印に関連する情報を捕捉するように構成される。従って、メモ取得装置102により捕捉された手書き情報は、ユーザの手書きメモを表現する情報と、そのユーザによりなされた1以上の印を表す情報とを包含する。
メモ取得装置102は、ユーザの手書きメモ及びマーク情報を様々な形式で包含する捕捉された書き込み情報を格納する。本発明の実施例によれば、メモ取得装置102はXML(拡張可能マーク付け言語)フォーマットで捕捉した情報を格納するよう構成される。
マークを利用することは、ユーザが、特手員お種別の捕捉情報がユーザの手書きメモに統合されることを示し得るようにするまさに1つの手法である。他の様々な技術も使用され得る。本発明の実施例によれば、情報伝達イベントの際に起こるイベント又は信号は、ユーザがユーザのメモに組み込もうとする、そのユーザにとって関心のある情報を識別するためにも使用される。そのイベント又は信号は、ユーザによる、又は他の何らかの機能要素(エンティティ)若しくは装置による契機によって行なわれ得る。例えば、ユーザは、カメラを利用して写真をとったり、又はメモを取得するために使用されるページに印刷されたバーコードをスキャンする等のことが可能である。イベント又は信号に関連する情報は、メモ取得装置102により又は情報捕捉装置100によって与えられ及び格納される。
メモ取得装置102又はユーザにより使用されるマーキング装置でさえも、ユーザがイベント又は信号を生成することを可能にする。例えば、メモ取得装置102又はマーキング装置は、様々な種類の情報に対する1以上のボタンを備える。映像情報用のボタン、音声情報用のボタン、スライド情報用のボタン等が設けられ得る。メモを取る間に、ユーザはボタンを押し、そのボタンに対応する情報がユーザのメモに統合されるべきことを指示し得る。ボタン押下/選択を示す情報は、メモ取得装置102に格納され得る。格納された情報は、そのボタンに対応する情報種別と、そのボタンがユーザにより選択された近似的な時間とを識別する。ボタンが選択された時にそのユーザに使用されていたページを識別する情報も格納され、増加されるメモ書類を生成するために使用される。イベント又は信号の利用に関する更なる情報が以下に与えられる。
本発明の実施例によれば、メモ取得装置102は、ユーザのメモ及びそのユーザにより書かれた別の情報(例えば、マーク)を含む捕捉情報に時間情報を関連付けるよう構成される。その時間情報(又は、タイムスタンプ)は、そのユーザにより情報が書かれた時間を識別する。時間情報の緻密さ又は粒度(granularity)は、メモ取得装置102の様々な実施例にて変わり得る。例えば、メモ取得装置102は、時間情報を、記載されたメモのあるまとまり又はチャンク(chunk)、一群の行、一群の語、各ワード、記載された各ストローク等に関連付け得る。
捕捉された書き込み情報のタイムスタンプを可能にするために、メモ取得装置102は、一般に、その情報がユーザにより書かれた時を識別するために使用される内部クロックを含む。メモ取得装置102の内部クロックは、校正され、且つ情報捕捉装置100のクロックに同期する。情報捕捉装置100及びメモ取得装置102の同期は、本発明の教示により実行される処理を支援する。
本発明の実施例によれば、メモ取得装置102は、メモをとるのに使用される各ページを固有に識別する情報を格納するよう校正される。本発明の実施例によれば、メモ取得装置に使用される紙ページの各々は固有に見分けられる。メモ取得装置102が複数のユーザ識別可能な情報伝達イベントに対する情報を同時に格納することができる例では、そのページは情報伝達イベント各々について固有に区別され得る。
本願に関し、「ページ情報」なる語は、メモ書きに使用されるページを固有に識別するために使用される情報を言及することが意図される。本発明の実施例によれば、紙ページのためのページ情報は、その紙ページに印刷される情報から決定される。紙に印刷され及びページ情報に使用される情報は、ページ番号、バーコード、記号、ラベル等を包含し得る。ページ情報として使用される情報は、そのページがメモ書きに使用される前にそのページに事前に印刷されること、又はメモ書き中にユーザにより若しくはメモ取得装置102によりそのページに印刷されることが可能である。
メモ取得装置102は、そのページに印刷された情報を読み取るよう構成される。例えば、メモ取得装置102は、ページ番号、バーコード、ラベル、記号等を読み取るよう構成される。メモ取得装置102は、その紙ページに関するページ情報として紙ページから読み取った情報を利用する。或いは、メモ取得装置102は、紙ページ対するページ情報を導出するために読出情報を使用し得る。
ページに関するページ情報を判別するために様々な技術が使用され得る。本発明の実施例によれば、ユーザは、ページに関するページ情報を特定し得る。例えば、メモ取得装置102は、ユーザが、メモをとるためにそのユーザにより目下使用されているページに関するページ情報(例えば、ページ番号)を特定することを可能にする押しボタンを備える。様々な画像技術も使用され得る。例えば、紙ページの画像がスキャンされ、そのページを識別するために画像情報が使用され得る。IBMリサーチセンターのキム・ダブリュ・メイ(Kim W.May)によるACM SIGCHI2001小論文“Conductive Ink Based Pages Detection for Linking Digital and Physical Pages”(本願の参考に供される)に記載されているような導電性インクは、ページを識別するためにも使用され得る。
本発明の実施例によれば、ページを識別するページ情報も、メモ取得装置102により捕捉された書き込み情報に関連付けられ、メモ取得装置102に格納される。例えば、本発明の実施例によれば、メモ取得装置102は、ページ情報を、メモ取得装置102により捕捉した手書き情報の各ストローク(又は、ワード、行、パラグラフ等)に関連付ける。従って、捕捉された手書き情報の各ストローク(又は、ワード、行、パラグラフ等)に関し、そのストロークに関連付けられるページ情報は、そのストロークがユーザによりなされたページを識別する。本発明の実施例によれば、ページ情報は、増やされるメモ書類を生成するために使用される。
本発明の実施例によれば、メモ取得装置102は、捕捉した手書き情報の、メモ書きに使用されたページ上の位置を識別する情報(位置情報)を判別することができる。位置情報は、メモ取得装置102により捕捉された手書き情報の各ストローク、ワード、行、パラグラフ等について決定される。例えば、位置情報は、メモ取得装置102により捕捉された各手書きストロークのページ上の場所を示す。その位置情報は、メモ取得装置102により捕捉された手書き情報と共に格納される。従って、メモ取得装置102により捕捉された書き込み情報の特定のチャンク(例えば、ストローク、ワード、行、パラグラフ、セクション等)に対する所与の位置情報に関し、ページ上の特定のチャンクの場所が識別され得る。更に、所与の特定のチャンクに対するページ情報に関し、そのチャンクが記載された特定の固有のページも判別され得る。
位置情報の粒度は、本発明の実施例により変化し得る。本発明の実施例によれば、メモを取るために使用される各ページは、複数のセクション(例えば、4象限)に分割され、捕捉された書き込まれた情報のチャンクに対する位置情報は、そのチャンクが位置するページのそのセクション(例えば、特定の4区分の1つ)を識別する。別の実施例では、位置情報は、水平(X)及び垂直(Y)座標を用いて表現され得る。その粒度は、捕捉され書き込まれた情報のチャンクに対する位置情報が、そのページに関するページ情報と同一であるほど大きくなり得る。また、様々な別の技術が、そのメモに対する位置情報を指定するために使用され得る。
メモ取得装置102の例が、図2に記載され、以下に説明される。
図1Aに戻って、データ処理システム104は、メモ取得装置102により捕捉され格納された情報に基づいて、及び情報捕捉装置100により捕捉された情報に基づいて、印刷可能な増やされるメモ電子バージョンを生成する処理を実行するよう構成される。従って、増やされるメモ電子バージョンを生成するために、データ処理システム104は、メモ取得装置102及び情報捕捉装置100により捕捉された情報にアクセスする。
データ処理システム104が情報捕捉装置100からの情報にアクセスするために様々な技術が利用され得る。本発明の実施例によれば、情報捕捉装置100は、通信リンクを介してデータ処理システム104に接続され、情報捕捉装置によって捕捉された情報は、その通信リンクを通じてデータ処理システム104に通知される。通信リンクは、ハーワイヤリンク、光リンク、衛星その他の無線通信リンク、ウエーブ伝播リンクその他の情報通信用の任意の手段を含む様々な種類のものであり得る。その通信リンクを介する情報の通信を支援するために、様々な通信プロトコルが使用される。これらの通信プロトコルは、TCP/IP、HTTPプロトコル、拡張可能マーク付け言語(XML)、無線アプリケーションプロトコル(WAP)、工業規格委員会の開発によるプロトコル、カスタム化されたプロトコル等を含む。
また、情報捕捉装置100は、ネットワークを通じてデータ補処理システム104に接続され、情報捕捉装置により捕捉された情報は、そのネットワークを通じてデータ処理装置104に通知される。そのネットワークは、ローカルエリアネットワーク(LAN)、広域ネットワーク(WAN)、無線ネットワーク、イントラネット、プライベート(私的)ネットワーク、パブリック(公的)ネットワーク、交換ネットワーク、インターネットその他適切な通信ネットワークであり得る。
また、情報捕捉装置100は、フロッピディスクやCD等のような記憶媒体に捕捉した情報を格納するよう構成され、その記憶媒体はデータ処理システム104に設けられ得る。別の実施例では、情報捕捉装置100は、データ処理システム104がアクセス可能なメモリロケーションに、捕捉した情報を格納するよう構成される。例えば、情報捕捉装置は、捕捉した情報及び関連する情報(例えば、関連付けられる時間情報)を、データ処理システム104がアクセス可能な中央データベースに格納する。
データ処理システム104は、様々な技術を利用してメモ取得装置102により格納された情報にアクセスする。メモ取得装置102は、通信リンク又はネットワークを介してデータ処理システム104に接続され、メモ取得装置102により格納された情報は、通信リンク又はネットワークを通じてデータ処理システム104に通知される。他の実施例では、メモ取得装置102は、フロッピディスクやCD等のような記憶媒体に、捕捉した情報を格納するよう構成され、その記憶媒体はデータ処理システム104に設けられ得る。更なる他の実施例では、メモ取得装置102は、データ処理システム104がアクセス可能なメモリーロケーション(例えば、中央データベース)に、その情報を格納するよう構成される。また、メモ取得装置102は、データ処理システム104とドッキングし、データ処理システム104は、そのドッキングインターフェースによりメモ取得装置102により格納された情報にアクセスし得る。
データ処理システム104は、記載されたメモと、そのメモに統合されるようユーザにより要求された情報の表現とを統合する、メモの印刷可能な電子形式(増やされるメモ電子バージョン)を生成するよう構成される。本発明の実施例によれば、データ処理システム104は、そのユーザのメモに統合されるようユーザにより指示された情報に関する静的な視覚的表現物を生成する。増やされるメモの電子バージョンは、その静的な視覚的表現物とそのユーザの取得したメモの視覚的表現物との統合物を表現する。
データ処理システム104は、紙書類出力装置106に増やされるメモ電子バージョンを通知し、その装置は、増やされるメモの紙書類108を生成するために紙媒体に増やされるメモ電子バージョンを印刷することができる。増やされるメモ書類の内容は、1以上の情報捕捉装置100により捕捉され且つユーザの書いたメモとユーザのメモの視覚的表現物とを統合するために識別された、情報部分の視覚的な表現物より成る。紙書類出力装置106の例は、増やされるメモ電子バージョンを紙媒体に印刷することの可能なプリンタその他の任意の装置を包含し得る。
図1Bに示される例では、紙書類出力装置106は、図1Aに示されるデータ処理システム104の機能を実行することが可能である。この例では、情報捕捉装置100及びメモ取得装置102により取得された情報は、書類出力装置に与えられる。データ処理システム104に情報を提供するための上述の様々な技術が、書類出力装置106に情報を与えるために使用される。本実施例では、書類出力装置106は、情報捕捉装置100及びメモ取得装置102から受信した情報に基づいて増やされるメモ電子バージョンを生成するように、且つ生成した増やされるメモ電子バージョンに基づいて増やされるメモ書類を生成するように構築される。
図2は、本発明の実施例によるメモ取得装置102の概略ブロック図を示す。図2に示されるメモ取得装置102は、1以上のプロセッサ202、格納サブシステム204、タイマサブシステム206、通信サブシステム208、入力/出力(I/O)サブシステム210、1以上の位置捕捉装置(PCD)212、及びページ情報リーダ(PIR)214を含む。メモ取得装置102は、メモを取るのに使用される1以上の紙ページ218を受けるためのスペース216を備える。紙ページの各々は、その紙ページを固有に見分けるために使用される情報222を有する。その情報は、バーコードやページ番号のように紙に事前に印刷されることも、又はメモを取る者によって記載されることも可能である。図2に示される例では、ペン、鉛筆その他任意のマーキング装置220がメモを取るために使用される。図2に示されるメモ取得装置102は、本質的なものを例示するに過ぎず、本発明の範囲を限定すること意図しないことは、理解されるべきである。当業者は変形、修正及び代替物を認識するであろう。
プロセッサ202は、メモ取得装置102の動作を制御するよう構成される。プロセッサ202は、格納サブシステム204に格納されるプログラム及びコードモジュールを実行するよう構成される。1以上のプロセッサが備えられ得る。
格納サブシステム204は、プロセッサ202で実行されるプログラム及びコードモジュールを格納するよう構成される。また、格納サブシステム204は、メモ取得装置102によって生成され又はしゅとくされるデータ及び情報を格納する格納部又はレポジトリ(repository)として機能する。例えば、メモ取得装置102により捕捉された手書き情報や関連する時間情報、位置情報、及びページ情報は、格納サブシステム204に格納され得る。格納サブシステム204は、プログラム実行中に命令及びデータを格納するランダムアクセスメモリ(RAM)、及び不変な命令を格納する読み取り専用メモリ(ROM)を含む(揮発性及び不揮発性の)複数のメモリを含み得る。また、格納サブシステム204は、ハードディスクドライブ、関連する取り外し可能な格納媒体に付随するフロッピディスクドライブ、関連する取り外し可能な格納媒体に付随するCD又はDVDドライブ、光ドライブ、取り外し可能なカートリッジ媒体その他同様な格納媒体を包含し得る。
通信サブシステム208は、メモ取得装置102からの及びそこへの情報通信を支援するよう構成される。本発明の実施例によれば、通信サブシステム208は、メモ取得装置102によって格納された情報を、図1Aに示されるデータ処理システム104や図1Bに示される紙書類出力装置108のような別の装置やコンピュータシステムに通知するインターフェースを与える。通信サブシステム208は、ドッキング部のような通信インターフェース、無線通信インターフェース、有線通信インターフェース、及びその他の情報の通信を支援するものを与える。
I/Oサブシステム210は、メモ取得装置102のユーザが、メモ取得装置102に情報を入力する又はそれに情報を与えることを可能にする。メモ取得装置102は、I/Oサブシステム210を用いて情報を出力する。
上述したように、ペン又は鉛筆その他のマーキング装置220は、メモを取るために使用される。本発明の実施例によれば、書き込まれた情報の捕捉を支援するために、マーキング装置220は、マーキング装置220が紙218に記載するために使用される場合に、超音波信号を送信するよう構築される超音波送信機を含む。一実施例では、超音波送信機は、ペン先に設けられ、そのペン先が紙に対して押圧される場合はいつでも超音波信号を送信するよう構成される。
位置捕捉装置(PCD)212は、マーキング装置220を用いてユーザによって紙218に書かれた情報に対する位置情報を捕捉するよう構成される。また、ある実施例では、位置捕捉装置212も、ユーザによって紙218に書かれた情報を捕捉するよう構成される。マーキング装置220が超音波送信機を有する例では、位置捕捉装置212は超音波受信機を含み、その超音波受信機は、マーキング装置が紙に記載するために使用される場合に、マーキング装置220によって発せられた超音波信号を拾うように構成される。音速のような要因に基づいて及び三角法を用いて、位置捕捉装置212は、ペンの位置即ち紙ページ218に記載されたストロークの位置を判別するよう構成される。位置捕捉装置212により判別された位置情報は、メモ取得装置102により捕捉され且つ格納サブシステム204にて格納された手書き情報に関連付けられる。
上述したように、本発明の実施例によれば、位置捕捉装置202は、紙218上に書かれた情報を捕捉するように構成される。例えば、位置捕捉装置212は、マーキング装置220を用いてユーザによって書かれたメモを捕捉するよう構成される。この例では、マーキング装置220の位置及び動きは、位置捕捉装置212によって捕捉され、ユーザにより書かれたメモを識別するために使用される。
ユーザにより紙218に記載された情報を捕捉するために、いくつかの他の技術が使用され得る。一実施例では、メモ取得装置102のスペース216は、スペース216に設けられた紙ページ218にユーザが書いたメモを捕捉することの可能な特殊な表面(例えば、タッチスクリーン面)を有する。別の実施例では、メモ取得装置102は、ユーザが紙ページに書いた情報を走査する又は読み取るスキャニング手段又は読み取り手段を与える。様々な他の手法が使用され得る。
タイマーサブシステム206は、メモ取得装置102によって捕捉された情報にタイムスタンプを与えるために使用される時間情報を与えるよう構成される。タイマーサブシステム206は、本発明の教示による増やされるメモ書類の生成を支援するために、校正され、他の情報捕捉装置100のタイマと同期が取られる。時間情報は、捕捉したメモ情報に関連付けられ且つ格納サブシステム204に格納される。
スペース216に設けられた紙ページ218に関し、ページ情報リーダ214は、そのページを固有に識別するために使用される紙ページからの情報222を読み取るよう校正される。上述したように、情報222は、ページ番号、バーコード、記号等を包含し得る。ページ情報リーダ214により読み取った情報は、紙ページについてのページ情報を判別するために使用される。そのページに関して判別されたページ情報は、捕捉され記載される情報に関連付けられ、格納サブシステム204に格納される。
メモ取得装置102は、図2に示される例より多くの又は少ない要素を備える様々な形式のものであり得る。メモ取得装置102の例は、日本のリコーコーポレーション(登録商標)により製造されるディーパッド(dPad)、Anoto(登録商標)コーポレーションにより製造されるAnoto(登録商標)ペン、及びセイコーインスツルメンツUSAインコーポレーションにより製造されるインクリンク(登録商標)手書きシステムを含む。
上述したように、本発明の教示によれば、情報伝達イベント中にメモを取りながら、ユーザは、そのユーザがユーザのメモに統合しようとする、伝達イベント中に捕捉される1以上の情報を指定することが可能である。ユーザが、そのユーザのメモに統合される情報を指定することを可能にする様々な技術が与えられる。
本発明の実施例によれば、ユーザは、特定の種類の捕捉情報がユーザのメモに統合されることを示すために、ユーザはメモ用紙にマークを付け得る。また、そのマークは、特定の種類の情報が統合されるメモの場所を識別する。ユーザは、そのマークを付けるためにマーキング装置(例えば、ペン、鉛筆等)を使用する。
一実施例によれば、マーク(印)自体が、ユーザのメモに統合されるべき特定の種類の情報を識別する。本実施例では、特殊な予め決められたキャラクタ、文字、記号、図解等又はそれらの組合せが、マークを記すために使用される。ユーザがユーザのメモに統合しようとする情報種別は、そのマークの身元から判別される。例えば、特殊な記号(例えば、円内の「V」)は映像情報を示すための印として規定され、第2記号(例えば、円内の「A」)は音声情報を示すための印として規定され、第3記号(例えば、円内の「W」)はホワイトボード情報を示すための印として規定され、第4記号(例えば、円内の「T」)は画像情報を示すための印として使用される、等である。従って、この例では、印の身元は情報の種別を区別する。本発明の教示によれば、様々な種類の印が使用され得る。本実施例では、それらのマークは、メモを取るのに使用される紙のどこにでも配置され得る。
上述したように、メモ取得装置102は、マークを見分ける情報を含む手書き情報を捕捉するように構成される。メモ取得装置102は、印を表す特殊な記号やキャラクタ等の出現を見出すために捕捉され記載された情報を分解することで、捕捉した情報から印を見分ける。また、メモ取得装置102は、(上述したように)捕捉され記載されたメモについての時間情報、ページ情報、及び位置情報を決定及び格納するように構成される。従って、各マークについて、メモ取得装置102は、その特殊な印が付された時間を示す時間情報、その印が付されたページを示すページ情報、及びそのマークのページ中の場所を示す位置情報を判別する。以下に説明されるように、印に関連付けられる時間、位置及びページ情報は、増やされるメモの電子バージョンを生成するために使用される。
本発明の別の実施例によれば、あるページ上の印の位置は、そのユーザがユーザの書いたメモに統合しようとする特定の種類の捕捉情報を示すために使用される。この実施例では、事前に定められた特別な又は予約された領域が、メモを取るのに使用される各ページに事前に印刷される。特別な領域の各々は、情報伝達イベント中に情報捕捉装置100により捕捉された特定の種類の情報に対応する。例えば、第1群の1以上の特別な領域は映像情報に対応するページに事前に印刷され、第2群の1以上の特別な領域は音声情報に対応するページに事前に印刷され、第3群の1以上の特別な領域は、画像情報に対応するページに事前に印刷され、第4群の1以上の特別な領域はホワイトボード情報に対応するページに事前に印刷され、第5群の1以上の特別な領域はスライド情報に対応するページに事前に印刷される、等である。本実施例では、メモをとりながら、ユーザは、ユーザによりマークされた特別な領域に対応する種別の情報が、ユーザのメモに組み込まれるべきことを示すために、そのページの特定の特別な領域に印をつけることができる。従って、本実施例では、メモを取るのに使用されるページ上の印の位置は、ユーザにとって関心があり、そのユーザがメモに統合しようとする情報の種別を識別する。本実施例では、その印の身元は重要ではない‐‐‐任意の種別のマークが使用され得る。
上述したように、メモ取得装置102は、ユーザによって書かれた印を含む捕捉され書き込まれた情報についての位置情報を捕捉及び格納するよう構成される。ページ上の特別の領域の場所を知ることで、捕捉され書き込まれた情報に関連する位置情報に基づいて、メモ取得装置102は、そのページで1以上の特別な領域内で付された1以上の印の出現を判別することが可能である。印に関連する時間情報に基づいて、メモ取得装置102は、その印がその特別な領域に付された時間を判別することができる。印に関連付けられたページ情報は、その印が付されたページを識別する。ある印に関連付けられる時間、場所及びページ情報は、増やされるメモの電子バージョンを生成するために使用される。
ページ上の特別な領域の場所を識別する情報を、メモ取得装置102に与える様々な手法が存在する。本発明の実施例によれば、メモをとるのに使用されるページのテンプレートが、メモ取得装置102に設けられ得る。テンプレートは、ページ上の特別な領域の場所を識別する。特別な領域の各々について、テンプレート情報は、その特別な領域に対応する情報種別も識別する。メモ取得装置102は、ページ上の特別な領域の場所を識別するため及びその特別な領域に対応する情報種別を判別するために、テンプレート情報を利用する。
いくつかの実施例では、テンプレート情報は、メモ取得装置102の代わりにデータ処理装置104(又は書類出力装置106)に与えられる。本実施例では、データ処理システム104(又は書類出力装置106)は、メモ取得装置102により捕捉されたメモが、テンプレート情報によって規定されるような特別の領域中で付された印を包含するか否かを判別するためにテンプレート情報を利用する。また、データ処理システム104は、特別の領域で付されたマーク各々に対応する情報種別を識別するためにテンプレート情報を使用する。
特殊なマーク(例えば、特別な記号等)及びページの特別な領域でなされる複数のマークの組み合わせは、本発明の実施例にて、ユーザがユーザのメモに統合しようとする情報を識別するために使用され得ることは、理解されるべきである。
図3は、本発明の実施例によるメモをとるのに使用され得る紙ページ300の例を示す。ページ300は、複数の特別な領域302,304,306,308より成り、それらはユーザのメモに組み込まれる特定の種別の情報を示すためにユーザにより使用され得る。図3に示されるページ300は、本発明の教示によるメモをとるのに使用される用紙の例を単に示すに過ぎず、特許請求の範囲に示される本発明の範囲を限定することを意図しないことが、理解されるべきである。当業者は他の変形、修正及び代替物を認識するであろう。
図3に示されるように、複数の特別な領域がページ300に事前に印刷されている。また、ページ300は、ユーザがメモ書きを行い得るスペース312を含む。領域302は映像情報に対応する。従って、ユーザ(メモ取得者)は、そのユーザが捕捉される映像情報に関心のあることを示す領域302にマーク(例えば、チェック印(tick mark)又は任意の他のマーク)を付することが可能である。領域304は音声情報に対応する。メモをとるユーザは、そのユーザが捕捉される音声情報に関心のあることを示す領域304に印を付することが可能である。領域306はホワイトボード情報に対応する。メモをとるユーザは、そのユーザが捕捉されるホワイトボード情報に関心のあることを示す領域306に印を付することが可能である。領域308はスライド情報に対応する。メモをとるユーザは、そのユーザが捕捉されるスライド情報に関心のあることを示す領域308に印を付することが可能である。
また、情報伝達イベントの間に捕捉される他の種別の情報に対応する付加的な特別な領域は、本発明の別の実施例にて包含され得る。また、特別な領域の配置は、本発明の別の実施例では変わり得る。ページ300を固有に識別するために使用される情報310(例えば、ページ番号、バーコード等)もページ300に印刷される。図3に示される特別な領域の配置を表すテンプレートは、メモ取得装置102に及び/又はデータ処理システム104に与えられ、それらが、特別な領域に何らかのマークが付されているか否かを判別する及びそのマークに対応する情報種別を判別する。
上述の例では、マーク(例えば、特殊な記号、キャラクタ等)の身元又はページの特別な領域内のマークの場所は、そのユーザがユーザのメモに組み込もうとする情報種別を識別するために使用される。別の実施例では、情報種別を識別する代りに、マークの身元又は場所が、関心のある情報を捕捉するために使用された情報捕捉装置のような情報源を識別するために使用される。この実施例では、特別なマーク又はページの特別な領域内に付されたマークは、特定の情報捕捉装置を識別し、且つその情報捕捉装置により捕捉された情報部分がユーザのメモに組み込まれるものであることを示す。この実施例では、メモ中に設けられた特別なマークは、特定の捕捉装置(例えば、カメラ、ビデオカメラ、マイクロフォン等)を識別する。特別な領域を有するページを利用する実施例では、特別な領域の各々は特定の捕捉装置に対応し、ユーザは、その捕捉装置に対応する特別な領域内にマークを付けることによって、特定の捕捉装置を区別する。
例えば、図4は、本発明の実施例によりメモを取るために使用され得る紙ページ又は用紙400の例を示す。ページ400は、捕捉装置に対応する複数の特別な領域402,404,406,408より成る。図4に示されるページ400は、本発明の教示によりメモを取るために使用される用紙を単に例示するに過ぎず、特許請求の範囲に記載される本発明の範囲を限定することを意図するものでないことが、理解されるべきである。当業者は別の変形、修正及び代替物を認識するであろう。
領域402は、ビデオカメラに対応する。従って、ユーザ(メモを取る者)は、そのユーザがビデオカメラにより捕捉される情報に関心を有することを示すために、領域402内にマーク(例えば、チェック印、又は他の任意の印)を付けることが可能である。領域404はマイクロフォンに対応する。メモを取るユーザは、そのユーザがマイクロフォンで捕捉される音声情報に関心のあることを示すために、領域404にマークを付けることが可能である。領域406は、ホワイトボードの前に設けられたカメラに対応し、ホワイトボード情報を捕捉するために使用される。メモを取るユーザは、ユーザがそのカメラによって捕捉されるホワイトボード情報に関心のあることを示すために、領域406内にマークを付けることが可能である。領域408はスライド情報を捕捉するために使用されるカメラに対応する。メモを取るユーザは、ユーザがそのカメラで捕捉されるスライドの画像に関心のあることを示すために、領域408にマークを付けることが可能である。
別種の捕捉装置に対応する付加的な特別な領域もページ400に設けられ得る。また、特別な領域の配置は、本発明の別の実施例では異なり得る。ページ400を固有に識別するために使用される情報410(例えば、ページ番号、バーコード等)もページ400に印刷される。図4に示される特別な領域の配列を表すテンプレートは、メモ取得装置102に及び/又はデータ処理装置104に設けられ、それらが、その特別な領域内に何らかのマークが付されているか否かを判別すること及び各マークに対応する捕捉装置を判別することを可能にする。
本発明の教示により、情報種別を識別するマーク及び特定の捕捉装置や情報源を識別するマークの組合せが使用され得ることは、理解されるべきである。
図5A,5Bは、本発明の実施例による増やされるメモ書類を生成する方法を示す簡略化された上位概念的フローチャート500を示す。本方法は、データ処理システム104により実行されるソフトウエアモジュールよって、データ処理システム104のハードウエアモジュールによって、又はそれらの組合せによって実行される。別の実施例(例えば、図1Bに示される例)では、図5A,5Bに示される方法は、書類出力装置106により実行されるソフトウエアモジュールによって、書類出力装置106のハードウエアモジュールによって、又はそれらの組合せによって実行される。別の実施例では、その処理は、書類出力装置106に関連するデータ処理システム104により実行される。以下の説明は、処理がデータ処理システム104により実行されることを想定している。しかしながら、このことは、特許請求の範囲に記載される本発明の範囲を制限することを意図しない。図5に示されるフローチャート500は、本発明を利用する例を単に示すに過ぎず、特許請求の範囲に記載されるような本発明の範囲を限定するものではない。当業者は変形、修正及び代替物を認識するであろう。
図5Aに示されるように、データ処理システム104が、増やされるメモ書類を生成するために信号を受信すると、処理が開始される(ステップ502)。その信号は、データ処理システム104によって与えられるユーザインターフェース(例えば、ユーザインターフェーススクリーン、入力ボタン等)を通じて受信される。メモ取得装置102が複数の情報伝達イベントについて同時に情報を格納することができる本発明の実施例では、ステップ502で受信した信号は、増やされるメモ書類が生成されるべき特定の情報伝達イベントを識別する。また、ステップ502で受信した信号は、増やされるメモ書類が生成されるところのメモを取るために使用されるメモ取得装置102をも識別する。
その信号を受信すると、データ処理システム104は、メモ取得装置102によって捕捉された情報にアクセスし、そのメモ取得装置は、増やされるメモ書類の生成が要求されるところのメモをとるために使用されるものである(ステップ504)。上述したように、データ処理システム104は、通信リンクによるもの、ネットワークによるもの、メモ取得装置102がデータ処理装置104にドッキングされるならば、情報が格納される中央データベースからドッキングインターフェースを通じるものを含むいくつもの様々な手法でメモ取得装置102からの情報にアクセスする。ステップ504でアクセスされる情報は、書き込まれた情報、及びメモ取得装置102により捕捉された他の関連情報を包含する。書き込み情報は、情報伝達イベント中にユーザにより取られたメモ及び他のメモを含む。書き込み情報は、情報捕捉装置により捕捉される情報がそのユーザのメモに組み込まれるべきことを示すために、情報伝達イベント中にユーザにより付された1以上のマークを包含する。また、ステップ504でアクセスされる情報は、捕捉され書き込まれた情報に関連付けられる時間情報、ページ情報及び(利用可能ならば)位置情報を含み得る。本発明の実施例によれば、メモ取得装置102により捕捉された書き込み情報、関連する時間、ページ及び位置情報は、XML形式で表現される。
データ処理システム104は、特定の種別の情報がメモに組み込まれるべきことを示す、捕捉され書き込まれた情報内の1以上のマークの出現を識別するために、ステップ504でアクセスされた情報を処理する(ステップ506)。上述したように、特定の種別の情報がユーザのメモに統合されることを示すために、様々な異なる技術が使用され得る。例えば、特別なマークが使用されるならば、ステップ506にて、データ処理システム104は、その特別なマークの出現を見分けるために、メモ取得装置102により捕捉されステップ504でアクセスされた書き込み情報を分析する。ページ中の特別な領域が、特定の種別の情報を示すために使用されるならば、ステップ506にて、データ処理システム104は、その特別な領域のレイアウトを識別する情報(例えば、そのページに関するテンプレート情報)にアクセスし、そのテンプレート情報及びステップ504でアクセスした書き込み情報に関連する位置情報に基づいて、1以上の特別な領域に付された1以上のマークを識別する。
ステップ506で識別された各マークについて、データ処理システム104は、そのマークに関連する時間情報、ページ情報及び(利用可能ならば)位置情報を判別する(ステップ508)。時間情報は、そのマークがユーザによってそのメモに付された近似的な時間を示す。ページ情報は、そのマークが付されたページを識別する。位置情報は、それが与えられるならば、マークが付されたページ中の場所を識別する。本発明の実施例によれば、そのマークに関する時間情報、ページ情報及び位置情報は、ステップ504でアクセスされた情報から判別される。
ステップ506で識別されたマーク各々について、データ処理システム104は、そのマークに対応する情報種別を判別する(ステップ510)。特別なマークが使用されるならば、情報の種別はそのマーク自身の身元から判別され得る。例えば、円内の「V」が映像情報を示し、円内の「A」が音声情報を示し、円内の「I」が画像情報を示し、円内の「W」がホワイトボード情報を示すこと等が可能である。情報の種別がページ中のマークの位置によって識別されるならば(例えば、それらに関して設定された特別な領域を有するページを利用する実施例)、そのページに関するテンプレート情報と共にマークに関連する位置情報は、そのマークに対応する情報の種別を判別するために使用される。
ステップ506で識別されたマークの各々について、データ処理システム104はそのマークに関する情報捕捉装置100を識別する(ステップ512)。あるマークに関する情報捕捉装置の識別は、ステップ510におけるマークについて判別される情報種別に依存する。本発明の実施例によれば、ステップ510で特定のマークについて半別された特定の情報種別に関し、データ処理装置104は、そのマークが付された情報伝達イベント中にその特定の種別の情報を捕捉した一群の情報捕捉装置100を判別する。データ処理装置104は、一群の情報捕捉装置から特定の情報捕捉装置を選択する。特定の情報捕捉装置の選択は、その装置によって捕捉される情報の品質、情報の完全性等のような様々な要因に依存し得る。例えば、本発明の実施例によれば、高品質の情報を捕捉した情報捕捉装置がステップ512で選択され得る。また、情報捕捉装置はデフォルト選択としても指定され得る。一群の情報捕捉装置が1つの情報捕捉装置しか含まないならば、その情報捕捉装置はステップ512で選択される。
例えば、マークに対応する特定の情報種別がステップ510にて音声情報であると識別されるならば、データ処理システム104は、マークが付された情報伝達イベントの際に音声情報を取得するために使用された一群の音声情報捕捉装置(例えば、1以上のマイクロフォン)を判別する。データ処理システム104は、ステップ512にて、一群の音声情報捕捉装置から、そのマークに関する1つの音声捕捉装置を選択する。別の実施例では、1以上の情報捕捉装置がステップ512にて特定のマークについて選択され得ることが、理解されるべきである。
上述したように、本発明のある実施例では、ステップ506で識別されたマークは、情報捕捉装置を具体的に識別し得る。そのような例では、ステップ512にて、ステップ506で識別された各マークについて、データ処理システム104は、そのマークに対応する情報捕捉装置を識別する。この例では、ステップ510は実行されない。
ステップ506で識別されたマーク各々について、データ処理システム104は、ステップ512にて、そのマークに関して判別された上捕捉装置によって捕捉された情報部分を識別する。各マークに関する情報部分は、そのマークに関連する時間情報に基づいて、及びステップ512にてそのマークについて判別された情報捕捉装置により捕捉された情報に関連付けられる時間情報に基づいて識別される。上述したように、各情報捕捉装置100は、情報の捕捉に関する近似的な時間を示す時間情報を捕捉された情報に関連付けるよう構成される。この情報はステップ514における部分の選択に使用される。
マークに関して識別される情報部分は、ステップ510で判別されるマークに対応する情報の種別や、ステップ512でマークに関して識別される情報捕捉装置によって捕捉される情報の種別に依存して異なり得る。以下の例は、情報捕捉装置100のクロックがメモ取得装置102のクロックに同期していることを想定している。
情報種別が映像情報であるならば、ステップ514で判別される部分は、ステップ512で識別された映像捕捉装置により捕捉された映像情報から選択され、且つそのマークに関連する時間情報と同一の又は近似するタイムスタンプを有する1以上のキーフレームに対応する。情報種別が画像情報ならば、ステップ514で判別される部分は、ステップ512で識別された画像捕捉装置により捕捉された画像から選択され、且つそのマークの時間と同一の又は近似する時間を有する画像に対応する。そのマークに関する時間と同じタイムスタンプを有する画像が無ければ、そのマークの時間に対して時間的に接近している(過去の又は将来的な)画像がステップ514でその部分として選択される。マークに対応する情報種別が音声情報であるならば、データ処理システム104は、ステップ512で識別された音声捕捉装置によって捕捉された音声情報から音声情報部分を選択する。本発明の実施例によれば、マークの時間からの過去の音声情報部分に関するユーザ設定可能な固定長(例えば、10msの音声情報)が、捕捉された音声情報から選択される。いくつかの実施例では、そのマークに関する将来的な音声情報部分も、その過去から選択される部分と共に選択され得る。別の実施例では、選択された音声部分は、そのマークの時点で話された特定の文及びその文の近辺で話された1以上の別の文章を包含し得る。当業者に既知の他の様々な発見法が、ステップ514で各マークについて捕捉される情報の部分を選択するために使用され得ることが、理解されるべきである。
ステップ506で識別されるマーク各々について、データ処理システム104は、ステップ514にてそのマークに関して識別される情報部分の静的な視覚的表現物を生成する(ステップ516)。情報部分に対する静的な視覚的表現は、用紙に印刷することの可能な、ステップ514で選択される部分内の情報の表現である。
情報の部分に関する静的な視覚的表現は、情報の種別に依存する。例えば、その部分が音声情報ならば、ステップ514で選択された音声情報部分は翻音(transcribe)され、結果の翻音物は音声情報部分に関する静的な視覚的な表現を表す。その翻音は、音声情報分で話されている言葉(ワード)を識別し、可能ならば、当業者に既知の音声処理技術を利用して音声情報部分から判別され得る、その情報の話者及びその他の特徴を識別する。本発明の実施例によれば、ステップ514で選択された音声情報部分はある形式から別のものに変換され得る。例えば、その部分の音声情報は、その部分で話されている第1言語から第2言語に変換され、静的な視覚的表現が第2言語における翻訳を表現し得る。例えば、音声部分について静的な視覚的表現を生成する部分として、ステップ514で選択された音声情報部分が日本語で話される情報より成る場合に、その日本語の情報が英語に翻訳され、英語の翻音内容がその音声情報部分に対する静的な視覚的表現を表し得る。
ステップ514で選択された情報部分が、映像情報から抽出された映像情報又は一群の映像キーフレームであるならば、1以上のキーフレームがステップ516で選択される。選択されたキーフレームは、紙に印刷されることの可能な適切なフォーマットに変換される。当業者に既知の様々な画像処理がキーフレームに実行され得る。変換され処理されたキーフレームは、映像情報部分に対応する静的な視覚的表現を表す。
情報部分が画像情報(又は、ホワイトボード情報、若しくはスライド情報)から選択された画像(例えば、スライドの画像、ホワイトボードの画像等)であるならば、その画像は、用紙に印刷されることの可能な適切なフォーマットに変換される。当業者に既知の様々な画像処理がその画像情報に実行される。変換され処理された画像は、画像(又はスライド、若しくはホワイトボード)情報部分に対応する静的な視覚的表現を表す。
データ処理システム104は、用紙に印刷することの可能な増やされるメモの電子バージョンを生成する(ステップ518)。増やされるメモの電子バージョンは、ステップ516で生成された静的な視覚的表現と共にユーザによって書かれたメモの視覚的な表現より成る。増やされるメモの電子バージョンは、ユーザの書いたメモと、そのメモに組み込まれるようにユーザによって区別された情報の静的な視覚的な表現とを統合する。増やされるメモの電子バージョンには様々な異なるページフォーマットが使用され得る。本発明の実施例によれば、増やされるメモの電子バージョンに使用されるフォーマットは、メモをとるためにユーザにより使用されたフォーマットに類似する。
増やされるメモの電子バージョンは、紙に印刷されることの可能な画像ファイルやPDFファイル等のような様々なフォーマットで生成され得る。また、他の実施例では、増やされるメモの電子バージョンは、紙に印刷されることの可能なウェブページ等の形式で生成され得る。ある実施例では(例えば、ウェブページの例では)、ユーザは、増やされるメモの電子バージョンとやりとりをすることが許容される。例えば、ユーザのメモに統合される様々な情報部分に対するリンクより成るウェブページが生成され得る。ユーザは、そのリンクに対応する捕捉された情報部分にアクセスするためのリンクを選択し得る。本発明の実施例では、ステップ518で実行される処理の部分として、ステップ506で識別されるマーク各々について、データ処理システム104は、ステップ516で生成された静的な視覚的な表現の各々を設けるために、ユーザのメモの視覚的表示内の場所を判別する。ユーザのメモの視覚的な表現における静的な視覚的表現の場所を判別するために、様々な異なる技術が使用され得ることが、理解されるべきである。静的な視覚的な表現を配置する位置の粒度は、本発明の別の実施例では異なり得る。ある実施例では、メモ内場所情報も、マークに対する静的な視覚的な表現を配置するページを決定するために使用される。
本発明の実施例によれば、配置の粒度は、ページレベルにおけるものであり、静的な視覚的表現に対応するマークの位置に基づく。この実施例では、各マークについて、データ処理システム104は、そのマークに対するページ情報を判別し、そのマークに対する静的な視覚的表現を配置する場所としてそのページを指定する。
別の実施例では、マークに関連するページ及び位置情報は、そのマークに対する静的な視覚的表現の配置を判別するために使用される。この実施例では、マークに対する静的な視覚的な表現の場所は、そのマークに関連付けられるページ情報によって識別されるページ上における、そのマークに関連付けられる位置情報によって識別される場所内のものと判別される。静的な視覚的表現は、そのメモの視覚的な表現内のマークに重ねられ得る。
また、増やされるメモの電子バージョンにおけるページの視覚的表現を配置する場所を決定するためにいくつかの他の発見的方法が使用され得る。例えば、視覚的表現は、時系列順に上から下の位置にページの余白(マージン)に沿って配置され得る。情報捕捉装置が捕捉される情報と共にメモ内位置情報を保存する実施例では、そのメモ内位置情報は、捕捉した情報について生成される静的な視覚的な表現の位置を判別するために使用され得る。
静的な視覚的表現のサイズは、固定的であってもよいし、静的な視覚的表現を設けるのに利用可能なメモの視覚的表現内の場所のサイズに基づいて可変的であってもよい。例えば、静的な視覚的表現のサイズは、静的な視覚的表現を配置するためのメモページで利用可能な空白スペースを満たすように増やすことが可能である。また、静的な視覚的表現のサイズは、メモの利用可能なスペースにそれが適合するように減縮される(又は切り取られる)ことも可能である。
また、本発明の実施例によれば、増やされるメモの電子バージョンは、増やされるメモの電子バージョンに含まれる1以上の静的な視覚的表現に対するインデックス情報を有する。静的な視覚的な表現に対するインデックス情報は、典型的には、対応する静的な視覚的な表現に近接する場所に設けられる。静的な視覚的な表現に対するインデックス情報は、電子的な捕捉された情報にユーザがアクセスすることを可能にし、その電子的な捕捉された情報から静的な視覚的な表現が生成される。インデックス情報は、捕捉された電子情報へのインデックス(指標)として使用されることが可能であり、静的な視覚的表現を生成するために使用された情報部分は、ステップ514でその捕捉された電子情報から選択される。本発明の実施例によれば、インデックス情報は、静的な視覚的表現が生成されるところの情報部分に関連するタイムスタンプを示すテキスト文字列より成る。また、バーコードが、インデックス情報を表現するために使用され得る。バーコードは、バーコードに対応する静的な視覚的表現に隣接して設けられる。記号等のような当業者に既知の様々な他の手法が、インデックス情報として使用され得る。
ステップ518で生成された増やされるメモの電子バージョンは、増やされるメモの書類を生成するために1枚以上の用紙に印刷され得る(ステップ520)。ステップ520の一部として、データ処理システム104は、ステップ518で生成した増やされるメモの電子バージョンを書類出力装置に通知し、その書類出力装置は、増やされるメモの電子バージョンを1枚以上の用紙に印刷することで増やされるメモの書類を生成する。
増やされるメモの書類の内容は、ユーザのメモに統合されるメモを取る一方、ユーザにより識別される情報の静的な視覚的表現と共にユーザによって書かれるメモの視覚的表現より成る。増やされるメモの書類は、ユーザの書いたメモを、そのメモに組み込まれるようにユーザにより区別された情報の静的な視覚的表現に統合する。
また、本発明の実施例によれば、1以上の静的な視覚的な表現に関するインデックス情報は、増やされるメモの書類に印刷され得る。上述したように、静的な視覚的な表現に対するインデックス情報は、ユーザが電子的な捕捉情報にアクセスすることを可能にし、静的な視覚的表現はその電子的な捕捉情報から生成される。インデックス情報は、捕捉された電子情報へのインデックスとして使用されることが可能であり、静的な視覚的表現を生成するために使用された情報部分は、ステップ514にてその捕捉された電子情報から選択される。インデックス情報は様々な手法で組み込まれ得る。
一実施例によれば、インデックス情報は、静的な視覚的表現を生成するために使用された情報部分に関連するタイムスタンプを示すテキスト文字列より成る。本実施例では、増やされるメモの書類のユーザは、静的な視覚的表現に対応する増やされるメモの書類に印刷されたインデックス時間情報を、捕捉した情報へアクセスするマルチメディアプレーヤ(又は任意の他の出力装置若しくはアプリケーション)に与えることで、静的な視覚的表現に対する電子情報にアクセスする。マルチメディアプレーヤは、ユーザにより与えられた時間から又はその近辺で捕捉情報の再生を開始する。例えば、静的な視覚的な表現が、捕捉した映像情報から抽出したキーフレームを表現していたならば、インデックス時間情報を入力することで、ユーザにより入力された時間からその映像の再生を開始することができる。
別の実施例によれば、インデックス情報は、増やされるメモ書類上の対応する静的視覚的表現近辺に印刷されたバーコードによって表現され得る。本実施例では、増やされるメモの書類のユーザは、特定のバーコードをスキャンし、スキャンしたバーコードに対応する電子情報に出力装置を通じてアクセスすることができる。例えば、ユーザはユーザのPDAに接続されたスキャナを利用してバーコードをスキャンし得る。スキャンしたバーコードに対応する電子情報(又はスキャンしたバーコードに対応する時間による電子情報)が、出力装置を通じてユーザに出力される。バーコードはタイムスタンプを識別し、そのタイムスタンプによって識別された時間から電子情報がユーザに再生される。また、バーコードは情報伝達イベントを識別する情報を包含し(例えば、バーコードはイベントIDを有し)、識別されたイベントに対する電子情報が出力される。また、バーコードは、情報の再生を制御するコードのような他の情報を有する。例えば、バーコードは、再生用に特定の捕捉された情報源を識別するコードを有する(例えば、スライドショーと対向して会議映像の再生を開始する命令を与えるコード)。
図6Aは、本発明の実施例によりユーザのメモに統合される情報を識別するための、ユーザのとったメモ及びユーザの付したマークを示す用紙600の簡易な例である。図6Aに示されるように、ユーザは、ペンや鉛筆のようなマーキング装置を利用してページ600の一部(セクション)606にメモ書きを行なっている。ページ600は、映像情報、音声情報、ホワイトボード情報及びスライド情報用の特別な領域604より成る。メモを取る一方、ユーザは、ページ600の特別な領域604にマーク(チェック印)を付している。そのマークは、ユーザが、ユーザのメモに組み込もうとする情報を示す。図示されるように、ユーザは、音声情報を選択するためにマーク608を付し、スライド情報を選択するためにマーク610を付する。ページ番号の形式でページ識別子602も紙600に印刷されている。
図6Bは、図6Aに示されるページ600に関して本発明の実施例により生成された簡易化された増やされるメモの書類ページ650を示す。図6Bに示されるように、図6Aに示されるページ600の領域606にてユーザの取得したメモの視覚的な表現が、ページ650のセクション652に印刷されている。また、図6Bのページ650は、図6Aのページ600の特別な領域でユーザにより書かれたマークの各々についての静的な視覚的な表現を包含する。例えば、ページ650は、ページ600のマーク608に対応する音声情報の翻音654と、ページ600のマーク610に対応するスライド656とを含む。従って、図6Bにおけるページ650は、メモを取る間にユーザのメモに統合されるようにユーザによって示された情報と共にユーザの書いたメモを統合する。
また、インデックス情報658は、静的な視覚的表現各々について印刷される。図6Bに示される例では、音声翻音に対するインデックス情報は、その翻音及びバーコードに対応するタイムスタンプを包含する。そのスライドに関するインデックス情報は、スライド番号及びバーコードを包含する。増やされるメモの処理ページ650のユーザは、静的な視覚的表現に対応する捕捉済み電子情報にアクセスするためにインデックス情報を使用する。インデックス情報は捕捉された情報へのインデックスを与える。
以下、本発明の利用例を更に説明する。アン(Ann)は、彼女の会社の最新の販売数に関するプレゼンテーションに出席するマーケティングマネジャであるものとする。プレゼンテーションの間に、彼女はメモ取得装置及びペンを用いて用紙にメモを書く。アンが彼女のメモの第3ページに到達すると、発表者は、最新の四半期についてのパワーポイントサマリーセールスチャート(パワーポイントによる合計販売図表)を示し、アンはそのチャートを彼女のメモに含めるようとする。アンはメモを取るために図6Aに示されるレイアウトのページを利用するものとし、アンは、彼女が現在書いている場所の左側に位置する「スライド」の特別領域をチェックする。後に、アンが彼女のメモの第5ページに至ると、誰かが顧客表彰状を引用し、アンはそれを彼女のマーケティング文献に使用しようとする。正確な引用を取得するために、アンは、目下記載している場所の左側の「音声」の特別領域をチェックする。プレゼンテーションの終わりに、アンは彼女の目も取得装置をネットワーク化された書類出力装置(例えば、ネットワーク化されたプリンタ)にドッキングし、書類出力装置に設けられている「増やされるメモ書類の生成」ボタンを押す。これに応答して、書類出力装置は、アンのメモと、1以上の情報捕捉装置によってプレゼンテーション中に捕捉した情報とに基づいて、増やされるメモ書類を生成する。増やされるメモ書類の内容は、アンのメモの視覚的な表現と、アンがチェックした特別領域に対する視覚的表現とを有する。例えば、合計販売チャートのスライドの視覚的表現が増やされるメモ書類の第3ページに印刷される。アンが第5ページの「音声」特別領域をチェックした時間に先行する10秒の間に捕捉された音声情報(関連する引用を含む)の音声からテキストへの変換結果は、増やされるメモ書類の第5ページに印刷される。また、バーコード形式のインデックス情報は、増やされるメモ書類内の視覚的な表現の近傍に印刷される。アンは、彼女のPDA又は他のコンピュータを利用して、捕捉した情報を出力するビューア(viewer)をもたらすためにバーコードをスキャンすることができる。例えば、スライドの視覚的な表現の下で印刷されたバーコードをスキャンすることは、捕捉されたスライド情報にアクセスするために使用され得るビューアを起動する。増やされるメモ書類の5ページに印刷された音声情報の視覚的な表現の下部のバーコードをスキャンすることは、アンが彼女のメモの5ページ目で「音声」特別領域をチェックした時間(又はいくらか以前)からの捕捉済み音声情報の再生を可能にする。アンは、その時点から前進しながら又は後退しながら捕捉済み音声情報を閲覧することができる。また、本発明はいくつかの他の環境で使用され得ることが、理解されるべきである。
図7Aは、本発明の実施例によりユーザのメモに統合される情報を識別するために、ユーザによりとられたメモ及びユーザにより付されたマークを示す用紙700の別の簡略化された例である。図7Aに示されるように、ユーザは、ペンや鉛筆のようなマーキング装置を利用しながら、ブレンダローラル(Brenda Laurel)により提供される講義の間にページ700のセクション702にメモ書きを行なう。ページ700は、映像情報、音声情報、ホワイトボード情報及びスライド情報に関する特別な領域を有する。それらの領域は、ページ700の左側及び下側に沿って設けられる。メモを取る間に、ユーザは、ページ700の特別領域にていくつかのマーク(例えば、チェック印)を付けている。チェック印各々は、ユーザのメモに統合されるべき情報種別(或いは、情報源)を区別する。ページ番号の形式でページ識別子704もページ700に印刷される。
図7Bは、図7Aに示されるページ700に関して本発明の実施例により生成された簡略化された増やされるメモ書類ページ750を示す。図7Bに示されるように、図7Aに示されるページ700の領域702内でユーザの取得したメモの視覚的表現が、ページ750のセクション752に印刷される。また、ページ750は、図7Aにおけるページ700の特別領域でユーザが記した各マークについての静的な視覚的表現を含む。映像情報を識別する特別領域内でマークされるページ700上の各チェック印は、ユーザがそのチェック印をメモに付した時間と近似的に近い(又は同一の)タイムスタンプを有する捕捉された映像情報の部分から抽出されたキーフレームによって置換されている。キーフレームのタイムスタンプも印刷される。音声情報を識別するマークの各々は、そのマークに対応する捕捉された音声情報の部分のテキスト翻音(例えば、ユーザがマークを付した時間近辺の音声情報の翻音)で置換される。音声の翻音に関連するタイムスタンプも印刷される。従って、図7Bにおけるページ750は、ブレンダローレルの説明中にユーザが書いたメモと、その講義中にユーザのメモに組み込まれるようにユーザにより指定された情報とを統合する。
また、バーコードは、ページ750に印刷される静的な視覚的な表現各々について印刷される。静的な視覚的な表現についてのバーコードは、静的な視覚的な表現に対応する捕捉された電子情報にアクセスするために、ユーザにより使用されることの可能なインデックス情報を表現する。例えば、ユーザは、キーフレームのその時間から映像情報を再生するために映像キーフレーム下部に印刷されたバーコードをスキャンする。ユーザは、音声の翻音に関連するタイムスタンプから音声情報を再生するために音声の翻音の下に印刷されたバーコードをスキャンする。
また、静的な視覚的な表現に関連付けられ且つページ750に印刷されたタイムスタンプは、インデックス情報としても使用され得る。例えば、ユーザは、キーフレームに関連するタイムスタンプを、映像出力アプリケーション(例えば、メディアプレーヤ)又はキーフレームの時間から映像情報を再生するための装置に与える。ユーザは、音声の翻音に関連するタイムスタンプを、音声出力装置(例えば、メディアプレーヤ)又は音声の翻音に関連するタイムスタンプから音声情報を再生するための装置に与える。
上述した実施例では、ユーザは、特定の種別の捕捉情報(又は捕捉装置源からの情報)が、メモを取る動作中にメモ書きに使用される紙に印(例えば、チェック印)を付けることで、ユーザのメモに統合されるべきことを示す。別の実施例では、情報伝達イベント中に起こるイベント又は信号も、ユーザがユーザのメモに組み込もうとする情報を識別するために使用される。これらのイベント又は信号は、ユーザにより又は何らかの他の機能余要素(エンティティ)又は装置により、トリガ(契機)が与えられる。各イベント又は信号は、ユーザのメモに組み込まれるべき特定種別の情報を識別する。或いは、イベント又は信号は、特定のソースからの情報(例えば、特定の捕捉装置)がユーザのメモに組み込まれるべきことを識別する。イベント又は信号が生じたことを示す情報は、そのイベントに対応する捕捉情報の部分を識別するために格納され使用される。また、イベント又は信号に関連する時間情報は、あるイベントについて選択された情報部分から生成された静的な視覚的表現が組み込まれるところのユーザのメモ中の場所を識別するために使用される。メモ内場所情報のような他の情報も各イベントについて格納される。上述したように、メモ内場所情報を判別する又は与えるために、様々な技術が使用され得る。メモ内場所情報は、あるイベントについて選択された情報部分から生成された静的な視覚的表現が組み込まれるところのユーザのメモ中の場所を識別するために使用される。
イベント又は信号を制御する及び/又は起動することの可能な様々な手法が存在する。例えば、メモを取る者が、情報伝達イベント中に情報を捕捉するように構成される情報捕捉装置の動作を制御することができる実施例では、情報を捕捉する動作又はその情報捕捉装置を用いて情報の捕捉を開始する信号やイベントは、ユーザが、捕捉情報(例えば、イベントや信号に応答して捕捉される情報)をユーザのメモに組み込むことに関心があることを示す。捕捉の時間又はイベントや信号の時間は、捕捉された情報の静的な視覚的表現が組み込まれるところのユーザの書いたメモ内の場所を判別するために使用される。
例えば、情報伝達イベントの際に、ユーザは、ホワイトボードの画像を捕捉するためにカメラを使用し得る。画像を捕捉するためにカメラをクリックする動作は、捕捉される画像がユーザのメモに統合されるべきことを示す。画像が取得された時間は、捕捉された画像が組み込まれるべきところのユーザの書いたメモ内の場所を判別するために使用される。
別の実施例によれば、メモ取得装置102は、様々な種類の情報(又は様々な情報源)を選択するために1以上のユーザ選択可能なボタンを備える。例えば、映像情報用のボタン、音声情報用のボタン、スライド情報用のボタン等が設けられる。メモを取りながら、ユーザはボタンを押し、そのボタンに対応する情報がユーザのメモに統合されるべきことを示す。従って、ボタンの選択は、特定の種別の情報がユーザのメモに統合されるべきことを示すイベント又は信号にトリガを与える。ボタン押下/選択を区別する情報は、メモ取得装置102に格納される。格納された情報は、そのボタンに対応する情報の種別及びそのボタンがユーザにより選択された時の大凡の時間を識別する。ボタンが選択された時にユーザに使用されていたページを識別する情報も格納される。ボタン選択に関連する時間情報及びボタンがユーザにより選択された時のページを識別する情報は、組み込まれるべき捕捉情報の部分を判別するために、及び識別される情報部分に関する静的な視覚的表現が組み込まれるところのユーザのメモ中の場所を判別するために使用される。別の実施例では、ユーザ選択可能なボタンがマーキング装置にも設けられる(例えば、様々なユーザ選択可能なボタンを備えたペン)。
他の実施例では、一群のバーコードが、メモを取るユーザに使用されるページに事前に印刷される。バーコード群中の各バーコードは、特定の種別の情報(又は特定のソース)に対応する。ユーザは、特定の種別の情報が、特定の種別の情報に対応する特定のバーコードをスキャンすることによって、ユーザのメモに組み込まれるべきことを示す。バーコードをスキャンすることは、ある特定の種類の情報がユーザのメモに統合されることを示すイベントを表現する又はトリガを与える。スキャンされたバーコードやスキャンの時間等に対応する情報種別のようなイベントに関連する情報は、メモ取得装置102により格納される。この情報は、そのスキャンに対応する情報部分、及び/又は選択された情報部分について生成された静的な視覚的表現の場所を判別するために使用される。バーコードをスキャンする様々な異なる装置が使用され得る。本発明の実施例によれば、スキャンする装置はマーキング装置に組み込まれ得る。
図8は、本発明の実施例による増やされる書類を生成する方法を示す簡略化された上位概念的フローチャート800を示し、捕捉される1以上の部分がメモに組み込まれるべきことを示すために、イベント又は信号が使用される。本発明の実施例によれば、図8に示される方法は、データ処理システム104によって実行されるソフトウエアモジュールによって、データ処理システム104のハードウエアモジュールによって、又はそれらの組合せによって実行される。別の実施例では(例えば、図1Bに示される例では)、本方法は、書類出力装置106により実行されるソフトウエアモジュールによって、書類出力装置106のハードウエアモジュールによって、又はそれらの組合せによって実行される。別の実施例では、書類出力装置106に関連してデータ処理システム104によって処理が行なわれる。以下の説明は、その処理がデータ処理システム104によって実行されることを想定している。しかしながら、このことは特許請求の範囲に記載された本発明の範囲を限定することを意図しない。図8に示されるフローチャート800は、本発明を組み込む実施例を単に示すに過ぎず、特許請求の範囲に記載された本発明の範囲を限定するものではない。当業者は変形、修正及び代替物を認識するであろう。
図8に示されるように、データ処理システム104が、増やされるメモ書類を生成するための信号を受信すると、処理が開始される(ステップ802)。その信号は、データ処理システム104により与えられたユーザインターフェース(例えば、ユーザインターフェーススクリーン、入力ボタン等)を通じて受信される。メモ取得装置102が複数の情報伝達イベントについて同時に情報を格納することができるような本発明の実施例では、ステップ802で受信した信号は、増やされるメモ書類が生成されるべき特定の情報伝達イベントを識別する。また、ステップ802で受信された信号は、増やされるメモ書類が生成されるべきところのメモを取るために使用されるメモ取得装置102を識別する。
その信号を受信すると、データ処理システム104は、メモ取得装置102により捕捉される情報にアクセスし、そのメモ取得装置102は増やされる書類の生成が要求されるところのメモを取るために使用される(ステップ804)。上述したように、データ処理システム104は、通信リンクによるもの、ネットワークによるもの、メモ取得装置102がデータ処理システム104にドッキングされるならば情報が格納される中央データベースからドッキングインターフェースによるもの等を含むいくつかの異なる手法の1つでメモ取得装置102からの情報にアクセスする。ステップ504でアクセスされる情報は、メモ取得装置によって取得された書き込まれた情報及び他の関連情報を包含する。書き込み情報は、情報伝達イベント中にメモ取得装置102を用いてユーザが取得したメモを表現する情報を含む。また、書き込み情報は、特定の種別の情報がユーザのメモに組み込まれるべきことを示すために、ユーザによって付されたマークに関する情報をも包含する。また、書き込み情報に関連する情報は、その書き込み情報に関連する時間情報、ページ情報及び(利用可能ならば)位置情報を含み得る。本発明の実施例によれば、メモ情報並びに関連付けられる時間、ページ及び位置情報は、XMLフォーマットで表現される。
また、ステップ804でアクセスされる情報は、特定の種別の情報がユーザのメモに組み込まれるべきことを示すイベント又は信号に関連する、メモ取得装置102その他の装置又はアプリケーションによって捕捉される情報を含む。イベント又は信号に関連する情報は、そのイベント又は信号を識別し、そのユーザのメモに組み込まれるべき特定の種別の情報を(又は特定のソースにより)識別する。また、イベント又は信号に関連する情報は、そのイベント又は信号が生じた時を示す情報を包含する。イベントに関連するメモ内情報のような他の情報も包含され得る。
データ処理システム104は、メモに統合すべき情報を示す1以上のイベント又は信号を判別する(ステップ806)。上述したように、カメラのような情報捕捉装置を利用して情報伝達イベント中に情報を捕捉する動作は、ステップ806で判別されるイベントを表現する。情報伝達イベント中に生じたいくつかの別の種類のイベント及び信号も判別され得る。また、ステップ806で判別された情報は、各イベント又は信号に対応する情報を捕捉するために使用される情報捕捉装置を識別する。
データ処理システム104は、ステップ804でアクセスした情報からステップ806におけるイベント又は信号を判別する。また、データ処理システム104は、1以上の情報捕捉装置によって格納された情報により、又は他の装置やアプリケーションによって格納された情報により、イベント又は信号を判別する。
データ処理システム104は、ステップ806にて識別された各イベント又は信号に関連する時間情報を判別する(ステップ808)。時間情報は通常的にはイベント又は信号が生じた時を示す。
データ処理システム104は、ステップ806で識別した各イベント又は信号に対応する捕捉情報の部分を判別する(ステップ810)。イベント又は信号に関する捕捉された情報部分は、そのイベント又は信号に関連する時間情報に基づいて、及び捕捉された情報に関連する時間情報に基づいて判別される。イベント又は信号に関して判別された情報の部分は、そのイベント又は信号に対応する情報の種別に依存して変り得る。イベント又は信号に対応する情報の種別が映像情報であるならば、ステップ810で決定される部分は、その映像情報から選択され且つそのイベント又は信号に関連する時間情報と同一又は近接するタイムスタンプを有する1以上のキーフレームに対応する。イベント又は信号に対応する情報の種別が画像情報であるならば、ステップ810で決定される部分は、マークの時間と同一又は近接する時間を有する、画像捕捉装置により捕捉された画像から選択された画像に対応する。イベント又は信号に関連する時間と同じタイムスタンプを有する画像が無いならば、イベント又は信号の時間に対して時間的に最も近い画像が、ステップ810における情報部分として選択される。情報の種別が音声情報に対応するならば、データ処理システム104は、音声捕捉装置により捕捉された音声情報から音声部分を選択する。本発明の実施例によれば、イベント又は信号の時間からの過去の音声情報部分のユーザ設定可能な固定長(例えば、音声情報の10秒)は、捕捉された音声情報から選択される。いくつかの実施例では、イベント又は信号の時間から将来的な音声情報の部分も、その過去から選択される部分と共に選択され得る。別の実施例によれば、選択された音声部分は、そのイベント又は信号の時点で話された特定の文、及びその文近辺で話された1以上の文章を含み得る。当業者に既知の他の様々な発見的方法が、ステップ810にてイベント又は信号の各々について捕捉される情報の部分を選択するために使用され得ることが、理解されるべきである。
ステップ806で識別されるイベント又は信号の各々について、データ処理システム104は、ステップ810にてイベント又は信号について決定された捕捉情報部分に対する静的な視覚的表現を生成する(ステップ812)。図5Bに示されるフローチャート500に関して上述したように、特定のイベント又は信号について捕捉された情報の部分に対する静的な視覚的表現は、捕捉された情報の種別に依存する。
データ処理システム104は、1以上の書類に印刷されることの可能な増やされるメモの電子バージョンを生成する(ステップ814)。増やされるメモの電子バージョンは、ステップ806で判別されたイベント又は信号についてステップ810で判別された情報分について生成される静的な視覚的表現と共に、ユーザの書いたメモの視覚的表現を包含する。増やされるメモの電子バージョンは、ユーザの書いたメモを、そのメモに組み込むようにユーザにより区別された情報の静的な視覚的表現と共に統合する。増やされるメモの電子バージョンに様々な異なるフォーマットが使用され得る。本発明の実施例によれば、増やされるメモの電子バージョンに使用されるフォーマットは、メモを取るのに使用されるページのフォーマットに類似する。また、上述したように、増やされるメモの電子バージョンは、増やされるメモの電子バージョンに含まれる1以上の静的な視覚的表現に関するインデックス情報より成る。
上述したように、増やされるメモの電子バージョンは、紙に印刷されることの可能な画像ファイルやPDFファイル等のような様々なフォーマットで生成される。また、他の実施例では、増やされるメモの電子バージョンは、紙に印刷されることの可能なウェブページ形式で生成される。ある例では(例えば、ウェブページの例では)、ユーザは増やされるメモの電子バージョンとやりとりをすることが許容される。例えば、ユーザのメモに統合されるべき情報の様々な部分に関するリンクを有するウェブページが生成される。ユーザは、そのリンクに対応する情報の捕捉された部分にアクセスするためにリンクを選択する。
本発明の実施例によれば、ステップ814で実行される処理の一部として、ステップ806で識別されたイベント又は信号の印の各々について、データ処理システム104は、ステップ812で生成した静的な視覚的表現を配置するために、ユーザのメモの視覚的表現内の場所を判別する。ユーザのメモの視覚的表現における静的な視覚的表現の場所を判別するために、様々な異なる技術が使用される。静的な視覚的表現を配置する位置の粒度は、本発明の異なる実施例では異なり得る。ある実施例では、メモ内位置情報は、利用可能ならば、イベント又は信号についての静的な視覚的表現を配置するページを決定するために使用され得る。
本発明の実施例によれば、配置の緻密さは、ページレベルにおけるものであり、静的な視覚的表現に対応するイベント又は信号に関連する情報に基づく。本実施例では、イベント又は信号の各々について、イベント又は信号に関連する時間に基づいて、及び捕捉され書かれた情報に関連する時間情報やページ情報に基づいて、データ処理システム104は、イベント又は信号に関する静的な視覚的表現を設けるために、増やされるメモの電子バージョンにおけるメモのページを決定する。また、ある実施例では、メモ内情報は、イベント又は信号について静的な視覚的な表現を設けるページを決定するために使用される。
他の実施例では、イベント又は信号に関連する時間に基づいて、並びに捕捉され書き込まれた情報に関連する時間情報、ページ情報及び位置情報に基づいて、メモの視覚的な表現中の特定のページにおける特定の場所は、イベント又は信号に関する静的な視覚的な表現を設けるために決定される。本発明の実施例によれば、選択される場所(ロケーション)は、そのイベント又は信号のタイムスタンプと近似的に等しい又は近接するタイムスタンプを有するストロークに近接する。
また、視覚的な表現をページに配置する位置を決定するために他のいくつもの発見的方法が使用され得る。例えば、視覚的な表現は、時系列順に上から下に向かうページの余白位置に沿って配置され得る。情報捕捉装置が、捕捉した情報と共にメモ内位置情報を格納する実施例では、そのメモ内位置情報は、静的な視覚的表現に対する位置を識別するために使用される。
静的な視覚的表現のサイズは、固定的であってもよいし、静的な視覚的表現を設けるのに利用可能なメモ中の場所のサイズに基づいて可変的であってもよい。例えば、静的な視覚的な表現のサイズは、その静的な視覚的な表現を配置するためのメモページに利用可能なブランクスペースを充填するように大きくすることができる。また、静的な視覚的な表現のサイズは、メモ中の利用可能なスペースにそれを適合させるように減縮される(又は切り取られる)ことも可能である。
ステップ814で生成される増やされるメモの電子バージョンは、増やされるメモの書類を生成するために1以上の用紙に印刷され得る(ステップ816)。データ処理システム104は、ステップ814で生成された増やされるメモの電子バージョンを書類出力装置に通知し、その書類出力装置は、増やされるメモの電子バージョンを1以上の用紙に印刷することで、増やされるメモの書類を生成する。
増やされるメモ書類の内容は、メモをとる際にユーザのメモに統合されるようにユーザにより区別された捕捉された情報の静的な視覚的表現と共に、ユーザの書いた可視的な表現を有する。増やされるメモ書類は、ユーザの書いたメモを、メモに組み込まれるようにユーザにより識別された情報の静的な視覚的な表現と共に統合する。また、増やされるメモ書類の内容は、捕捉された電子情報にアクセスするために、増やされたメモ書類のユーザによって使用されるインデックス情報より成る。
また、マーク及びイベント又は信号に加えて、情報伝達イベント中にユーザのメモに組み込まれるように捕捉された情報の一部を自動的に選択するために、他の発見的方法も使用され得る。本発明の実施例によれば、情報伝達イベント中に捕捉される情報部分のどの時点及びどの部分がユーザのメモに含まれるべきかを管理する規則が決められる。例えば、ユーザの決めた規則は、ユーザが「多くのメモ」をとる場合に捕捉された情報の部分が、そのユーザのメモに組み込まれるべきことを示し得る。「多くのメモ」の条件は、1分当りにユーザによって書かれたストローク数に基づく閾値によって特徴付けられる。この規則によれば、「多くのメモ」の条件が合致した場合に(例えば、その条件を特徴付ける閾値に合致した場合に)捕捉される情報の部分は、ユーザのメモに組み込まれる。「話者が長時間喋った」場合に捕捉された音声情報の部分がユーザのメモに組み込まれることを示す別の規則が定められ得る。長時間を示す閾値は、「話者が長時間喋る」場合の条件を特徴付けるために使用され得る。この規則によれば、「話者が長時間喋る」条件が満たされた場合に、捕捉された情報がユーザのメモに組み込まれる。また、いくつもの他の規則及び発見的方法が、いつのどの部分の捕捉情報がユーザのメモに組み込まれるかを示すために使用され得る。
本発明の特定の実施例が説明されてきたが、様々な修正、変更、代替構成及び均等物も本発明の範疇に含まれる。説明された発明は、ある具体的なデータ処理環境での動作に制限されず、複数のデータ処理環境での動作にも制限されない。例えば、上述の実施例では、書き込み情報及び他の関連情報(例えば、時間情報)は、メモ取得装置102によって捕捉される。他の実施例では、情報は、そのメモを書くために使用されるマーキング装置によって捕捉される。例えば、情報は、そのメモを書くために使用されるペンによって捕捉される。そのようなペンの例は、ロジテック(登録商標)インコーポレーションにより製造されるIo(商標)ペンである。Io(商標)ペンは、人の手書きメモのディジタルバージョンを捕捉及び格納する。このペンは、特殊な紙のパッドに人が書いたメモを捕捉する光センサに備えられる。Io(商標)は、画像ファイルフォーマットを利用して、その内部メモリに複数ページの手書きメモを格納し得る。本発明の教示によれば、Io(商標)ペンによって格納される情報は、増やされるメモ書類を生成するために使用される。また、メモを捕捉することの可能な他のシステムが、本システムの代替実施例で書き込み情報を捕捉するために使用される。
加うるに、本発明は特定の一連の処理及びステップを利用して説明されてきたが、本発明の範囲が説明された一連の処理及びステップに限定されないことは、当業者に明らかであろう。
更に、本発明はハードウエア及びソフトウエアの特別な組み合わせを利用して説明されてきたが、ハードウエア及びソフトウエアの別の組み合わせも本発明の範疇にあることが認識されるべきである。本発明は、ハードウエアのみにより、ソフトウエアのみにより、又はそれらの組み合わせを利用して実現され得る。
従って、明細書及び図面は、制限的な意味ではなく例示と考えられるべきである。しかしながら、特許請求の範囲に記載された本発明の広範な範囲及び精神から逸脱することなしに、付加、削減、除去その他の修正及び変更がそれらになされ得ることは、明らかであろう。