JP4833573B2 - 複合的な電子表現物を作成する方法、装置及びデータ処理システム - Google Patents

複合的な電子表現物を作成する方法、装置及びデータ処理システム Download PDF

Info

Publication number
JP4833573B2
JP4833573B2 JP2005099201A JP2005099201A JP4833573B2 JP 4833573 B2 JP4833573 B2 JP 4833573B2 JP 2005099201 A JP2005099201 A JP 2005099201A JP 2005099201 A JP2005099201 A JP 2005099201A JP 4833573 B2 JP4833573 B2 JP 4833573B2
Authority
JP
Japan
Prior art keywords
information
presentation
electronic representation
slide
document
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005099201A
Other languages
English (en)
Other versions
JP2005293589A (ja
JP2005293589A5 (ja
Inventor
エロール ベルナ
ジェー ハル ジョナサン
グラハム ジャメイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of JP2005293589A publication Critical patent/JP2005293589A/ja
Publication of JP2005293589A5 publication Critical patent/JP2005293589A5/ja
Application granted granted Critical
Publication of JP4833573B2 publication Critical patent/JP4833573B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5846Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using extracted text

Description

本発明は、記録された情報にアクセスする技術分野に関連し、特に、記録された情報に関して挿入された情報を含む電子表現物を作成する技術に関する。
プレゼンテーション中に情報を記録することは近年多くの人気を得てきている。学校や大学は授業や講義をプログラムし始めており、企業はミーティングや会議を記録し始めている、等々である。1以上の捕捉装置が、プレゼンテーション中に情報を記録してもよい。記録された情報は、音声情報、映像情報等を含む、様々な種類及び様々なストリームの情報を含んでもよい。
なお、本願は以下の出願に関連し、それら総ての内容は本願に組み入れられる。
西暦2000年11月30日付けで出願され、“TECHNIQUES FOR CAPTURING INFORMATION DURING MULTIMEDIA PRESENTATIONS”と題する米国出願番号第09/728,560号;
西暦2000年11月30日付けで出願され、“TECHNIQUES FOR RECEIVING INFORMATION DURING MULTIMEDIA PRESENTATIONS & COMMUNICATING THE INFORMATION”と題する米国出願番号第09/728,453号;
西暦2000年3月8日付けで出願され、“METHOD & SYSTEM FOR INFORMATION MANAGEMENT TO FACILITATE THE EXCHANGE OF IDEAS DURING A COLLABORATIVE EFFORT”と題する米国出願番号第09/521,252号;
西暦2001年11月19日付けで出願され、“PAPER−BASED INTERFACE FOR MULTIMEDIA INFORMATION”と題する米国出願番号第10/001,895号;
西暦2003年9月12日付けで出願され、“THECHNIQUES FOR STORING MULTIMEDIA INFORMATION WITH SOURCE DOCUMENTS”と題する米国出願番号第10/660,985号;
西暦2003年9月12日付けで出願され、“THCHNIQUES FOR PERFORMING OPERATIONS ON A SOURCE SYMBOLIC DOCUMENT”と題する米国出願番号第10/661,052号;
西暦2003年9月12日付けで出願され、“THCHNIQUES FOR ACCESSING INFORMATION CAPTURED DURING A PRESENTATION USING A PAPER DOCUMENT FOR THE PRESENTATION”と題する米国出願番号第10/660,867号;
西暦2003年9月12日付けで出願され、“TECHNIQUES FOR USING A CAPTURED ELECTRONIC REPRESENTATION FOR THE RETRIEVAL OF RECORDED INFORMATION”と題する米国出願番号第10/696,735号;及び
西暦2003年4月11日付けで出願され、“AUTOMATED TECHNIQUES FOR COMPARING CONTENTS OF IMAGES”と題する米国出願番号第10/412,757号。
プレゼンテーションの後に、記録された情報はユーザに利用可能になる。ユーザは彼らのメモを再検討するかもしれないし、プレゼンテーションの記録を見たいかもしれない。これらの記録にアクセスする従来の方法は、記録を順番に見ることによるものであった。記録された情報にアクセスする又は検索する、或いは記録された情報に索引を付ける更に効率的な技法が望まれている。
概して本発明の実施例は複合的な電子表現物を作成する技法に関連する。その技法は、書類の電子表現物を受信することを含む。電子表現物中の特徴が抽出され、記録された情報と比較され、合致する情報を判別する。例えば、合致する情報は、プレゼンテーション及び/又は記録された情報中の表現物でもよい。挿入する情報は、その合致する情報及び受信した電子表現物に基づいて決定される。そして、決定された情報を用いて、複合的な電子表現物が作成される。
一実施例では、複合的な電子表現物を作成する方法が提供される。本方法は:書類の電子表現物を受信するステップ;前記書類の前記電子表現物から特徴を抽出するステップ;前記特徴を記録情報と比較し、前記特徴に合致する前記記録情報中の情報を決定するステップ;前記特徴に合致する記録情報中の情報及び前記書類の受信した電子表現物に基づいて、挿入する情報を決定するステップ;及び決定された情報より成る複合的な電子表現物を形成するステップ;を有する。
他の実施例では、プレゼンテーション中に記録した情報を用いて、書類の複合的な電子表現物を作成する方法が提供される。本方法は:前記プレゼンテーションについての書類の電子表現物を受信するステップであって、前記電子表現物は、前記プレゼンテーション中に提示された特徴を含むところのステップ;前記電子表現物から前記特徴を抽出するステップ;前記プレゼンテーション中に記録された情報と前記特徴とを比較し、1以上の特徴に合致する記録情報中の情報を決定するステップ;前記特徴に合致する記録情報中の情報及び書類の受信した電子表現物に基づいて、挿入する情報を決定するステップ;及び決定された情報より成る複合的な電子表現物を形成するステップ;を有する。
他の特徴を有する実施例及び本発明の利点は、以下の明細書、図面及び特許請求の範囲を参照することで更に明確になるであろう。
本発明によれば、記録された情報にアクセスする或いは検索すること、又は記録された情報に索引を付けることを更に効率的にすることができる。
以下の説明では、説明を目的として、本発明に関する充分な理解を与えるために具体的な詳細が説明される。しかしながら、そのような具体的な詳細なしに本発明が実現されてもよいことは明白である。
図1は本発明の一実施例を組み込んでもよいシステム100の簡略化されたブロック図である。図1に示されるシステム100は、本発明を組み込む実施例を単に例示するに過ぎず、特許請求の範囲の発明の範囲を制限するものではない。当業者は他の変形例、修正例及び代替例を認識するであろう。
システム100はコンピュータシステム102を含み、コンピュータシステムは、プレゼンテーションで提示される内容を準備するためにユーザによって使用されてもよい。プレゼンテーションの具体例は、会合、会議、授業、スピーチ、デモンストレーション等を含む。プレゼンテーションの内容(マテリアル)は、スライド、写真、音声メッセージ、映像クリップ、文字情報、ウェブページ等を含んでもよい。ユーザは、コンピュータ102によって実行される1以上のアプリケーション104を用いて、そのプレゼンテーションの内容を出力する。プレゼンテーションで提示されるスライドを用意するのに一般に使用されるアプリケーションの具体例は、マイクロソフト(登録商標)社のパワーポイント(登録商標)である。例えば、図1に示されるように、ユーザはパワーポイント(登録商標)アプリケーション104を用いて「プレゼンテーション.ppt」ファイル(*.pptファイル)を作成してもよい。パワーポイント(登録商標)アプリケーションを用いて作成された*.pptファイルは1以上のページを含むことができ、各々のページは1以上のスライドより成る。プレゼンテーションでスライドが提示される順序に関する且つスライドが提示される方法に関する情報を、*.pptファイルは格納してもよい。
スライドより成るパワーポイント(登録商標)プレゼンテーションファイルに加えて、他のプレゼンテーション内容を含む他の種類のファイルが、コンピュータ102により実行される別のアプリケーションを用いて作成されてもよい。これらのファイルは「象徴的な(シンボリック)プレゼンテーションファイル」として一般的に言及されてもよい。シンボリックプレゼンテーションファイルは、アプリケーション又はプログラムを用いて作成された任意のファイルであり、プレゼンテーション中に提示又は出力される少なくともいくつかの内容を有する。シンボリックプレゼンテーションファイルは、スライド、写真、音声メッセージ、映像クリップ、テキスト、ウェブページ、画像等のような様々な種類の内容から構成されてもよい。パワーポイント(登録商標)アプリケーションを用いて作成された*.pptファイルは、スライドから構成されるシンボリックプレゼンテーションファイルの一例である。書類を作成するために、ユーザはプレゼンテーション内容の一部を紙媒体に印刷してもよく(書類とも言及される)、その書類は通常的にはプレゼンテーションで配布される。「紙媒体」なる用語は、印刷可能で手で触れることの可能ないかなる媒体をも言及するよう意図される。「印刷」又は「印刷する」なる用語は、書き込み、押印し、描画、型押し等を含むように意図される。書類の各々は1以上の紙のページを含んでもよい。プレゼンテーションに出席する人数に依存して、多数の書類が印刷されてもよい。
書類の電子的な表現物が受信される。図1に示されるように、スキャナ108は書類110をスキャンするために使用されてもよい。紙媒体中の情報をスキャンすることのできる他の様々な装置を用いて書類をスキャンしてもよい。そのような装置の具体例は、ファクシミリ装置、複写機、スキャナ等を含む。
書類には様々な種類の特徴があるかもしれない。一般に、書類上の特徴は、その書類が作成されるプレゼンテーション中に提示又は議論される情報に関連する。その特徴はプレゼンテーション内容の一部又は他の内容を含んでもよい。印刷可能な特徴の具体例は、スライド、写真、ウェブページ、テキスト情報(例えば、ミーティングで議論される議題の特徴のリスト)等を含む。例えば、ユーザは*.pptファイルからの1以上のスライドを書類に印刷してもよい。パワーポイント(登録商標)アプリケーションは、書類を作成するために、*.pptファイルから1以上のスライドを印刷する手段(ツール)を提供する。書類の各ページはそこに印刷される1以上のスライドを含んでもよい。書類ページ上のスライドを用いる書類ページの具体例は、図3(A)及び(B)に示され、以下で更に詳細に説明される。
電子表現物は書類の電子画像でもよい。例えば、*.pptファイルは、画像に変換され、書類の電子表現物として使用されてもよい。書類が使用されるが、いかなる書類の電子表現物が受信されてもよい。紙に印刷される書類は、電子表現物を生成するために使用されることを必要としない。
捕捉装置118はプレゼンテーションで提示された情報を捕捉するよう構築される。プレゼンテーション中に出力される様々な異種の情報が捕捉装置118によって捕捉又は記録されもよく、その情報は例えば音声情報、映像情報、スライドや写真の画像、ホワイトボードの情報、テキスト情報等である。本願に関し、「提示される」なる語は、表示される、出力される、話される等を含むように意図される。本願に関し、「捕捉装置」なる語は、1以上の種類の情報を捕捉又は記録するよう構築された装置、システム、装置又はアプリケーションのいかなるものをも言及するよう意図される。捕捉装置118の具体例は、マイクロフォン、映像カメラ、カメラ(ディジタル及びアナログの双方が該当し得る)、スキャナ、プレゼンテーションレコーダ、スクリーン捕捉装置(例えば、ホワイトボード情報の捕捉装置)、象徴的な(シンボリック)情報の捕捉装置等を含む。情報を捕捉することに加えて、捕捉装置118は、捕捉した情報に関連する時間的な情報を補足することができてもよい。
プレゼンテーションレコーダは、プレゼンテーション中に提示された情報を、(例えば情報ソースからの情報ストリームを取得して捕捉することによって)捕捉することのできる装置である。例えば、パワーポイント(登録商標)アプリケーションを実行するコンピュータが*.pptファイルからのスライドを表示するために使用されるならば、プレゼンテーションレコーダは、コンピュータの映像出力を取得し、表示されるスライドの映像キーフレームの中で顕著な変化が検出される毎にキーフレームを捕捉するよう構成されてもよい。プレゼンテーションレコーダは、音声情報、映像情報、スライド情報ストリーム等のような異種の情報を捕捉することもできる。情報が出力又は捕捉された時間を示す捕捉情報に関する時間情報は、様々な種類の捕捉情報を同期させるのに使用される。プレゼンテーションレコーダの具体例は、スクリーン捕捉ソフトウエアアプリケーション、パワーポイント(登録商標)アプリケーション(プレゼンテーション中に各スライドについてスライド及び経過時間の記録を可能にする)及び以下の米国出願に記載されたプレゼンテーションレコーダ(2000年11月30日付け出願の米国出願番号第09/738,560号、2000年11月30日付け出願の米国出願第09/728,453号及び2000年3月8日付け出願の米国出願番号第09/521,252号)を含み、それら米国出願の内容は本願に組み入れられる。
シンボリック情報捕捉装置は、プレゼンテーション中に出力されるかもしれないシンボリックプレゼンテーション書類に記録された情報を捕捉することができる。例えば、シンボリック情報捕捉装置は、プレゼンテーションで提示されたスライドを一連の画像のように(例えば、JPEGs、BMPs等のように)記録することができる。シンボリック情報捕捉装置は、スライドのテキスト内容を抽出するよう構成されてもよい。例えば、パワーポイント(登録商標)スライドのプレゼンテーション中に、シンボリック情報捕捉装置は、スライドの変わり目を捕捉し(例えば、キーボードのコマンドを捕捉することによって捕捉し)、それらの変わり目に基づいて提示情報を抽出することによってスライドを記録してもよい。ホワイトボード装置は、ホワイトボード、スクリーン、チャート等の内容を捕捉するように適切に設けられたカメラのような装置を含んでもよい。
プレゼンテーション中に捕捉装置118によって捕捉又は記録された情報は、記録情報120としてリポジトリ又はデータベース150に格納されてもよい。記録情報120は様々な形式で格納されてもよい。例えば、記録情報120を格納するための階層(ディレクトリ)がリポジトリ115内に形成されてもよく、記録情報120に含まれる様々な形式の情報(例えば、音声情報、画像情報、画像等)がその階層に従って記憶されてもよい。他の実施例では、記録情報120はファイルとして格納されてもよい。当業者に周知の他の様々な手法が、記録情報を格納するために使用されてもよい。
書類の中で発見されたスライドの画像はプレゼンテーション中に表示される。一実施例では、プレゼンテーションレコーダは、それらが表示されるようにスライド画像を捕捉してもよい。更に、記録情報120に索引を付けるのに使用されてもよい関連情報が格納されてもよい。例えば、スライドが表示された時間を示す時間情報が格納されてもよい。その時間情報は、そのスライドが表示された時点に関連する記録情報の部分を判別するのに使用されてもよい。
時間情報に加えて、プレゼンテーションの間に記録情報が格納された場所を区別するソース情報が識別されてもよい。記録情報120に関するこの格納場所情報は、その記録情報が新しい格納場所に移される場合に、更新されてもよい。このよに、本発明の一実施例は、記録情報120の格納場所を時間と共に変化させることができる。
本発明の実施例によれば、関連情報はXML構造に格納される。例えば、関連情報はプレゼンテーション及び/又はページに関してステップ206で決定される時間情報及びソース情報を含んでもよい。ソース情報はプレゼンテーションにアクセスするのに使用される識別子でもよい。例えば、ソース情報はロケーション名及びファイル名でもよい。時間情報はプレゼンテーションの一部分に索引を付けるのに使用される。プレゼンテーションはステップ204で決定されたプレゼンテーション又はステップ204で決定された情報に関連するプレゼンテーションであってもよい(例えば、あるプレゼンテーションレコーダを用いてスライド画像が捕捉されたところのプレゼンテーション)。プレゼンテーションの一部は、ステップ204で決定された抽出された特徴に合致する情報を含んでもよい。例えば、プレゼンテーションの一部は、プレゼンテーション中に表示されていたスライドを含んでもよい。
サーバ112は複合的な電子表現物122を作成する。一実施例では、受信した書類の電子表現物から特徴が抽出される。その特徴は、合致する情報を判別するために記録情報120と比較される。一実施例では、合致する情報は様々な手法を用いて決定されてもよい。スライド画像は、スライド画像に完全に合致しなくてもよいことが認識されるであろう。例えば、スライド中のテキストは、実質的に合致するテキストを判別するためにテキストと比較されてもよい。
挿入する情報は、合致する情報や、書類の電子表現物に基づいて決定される。複合的な電子表現物122は、挿入されたその情報に基づいて作成される。複合的な電子表現物122は、抽出された特徴を含んでもよい。また、複合的な電子表現物122は、合致する情報及び書類の電子表現物に基づいて決定された情報を含んでもよい。
ユーザは、複合的な電子表現物122内の挿入情報を選択し、記録された情報120にアクセスする及び/又は再生してもよい。例えば、書類中のスライドの電子表現物は、記録情報120に関連する情報を決定するために使用されてもよい。挿入される情報は、プレゼンテーションの一部の様子を示すオブジェクトを含んでもよい。オブジェクトが選択されると、プレゼンテーションの中でそのスライドが表示された時点の記録情報がアクセスされ及び/又は再生される。従って、書類中のスライドに関連する付加的な情報をユーザが望む場合には、複合的な電子表現物122内の挿入情報を使用して、そのスライドが表示及び/又は議論された時点の(プレゼンテーションの)記録情報120を検索してもよい。
図2は、本発明の一実施例による複合的な電子表現物に関する方法の概略フローチャート200を示す。図2に示される方法は、プロセッサで実行されるソフトウエア、ハードウエアモジュール又はそれらの組み合わせによって実行されてもよい。図2に示されるフローチャート200は、本発明の一態様を示すにすぎず、本発明の範囲を限定することを意図するものではない。他の変形例、修正例及び代替例も本発明の範疇にある。
ステップ202では、書類の電子表現物が受信される。一実施例では、書類は紙の書類として印刷される。ユーザは書類にメモをとってもよい。そのメモは一般的にはプレゼンテーション中に紙の書類に記載される。電子形式の書類にタイピングするような、メモを取る他の方法が想定されてもよい。メモは書類に記載されてもよいが、何らかのメモが存在することは必須ではない。
書類の電子表現物が受信されるように想定されているが、書類の電子的な複製(コピー)が受信されてもよいことは理解されるであろう。書類中の1以上のページは、電子表現物として受信されてもよい。説明の便宜上、電子表現物が1つのページを含むことを仮定するが、電子表現物はいかなるページ数を含んでもよいことは理解されるべきである。上述したように、書類の電子表現物は、スキャンされる書類から受けてもよい。
他の実施例では、書類の電子形式(バージョン)が使用されてもよい。例えば、その電子バージョンは*.pptファイル内で発見されたスライドの画像でもよい。*.pptファイルは画像に変換されてもよい。例えば、*.pptスライドがa.pdf又はフラッシュファイル内の画像に変換される技術が知られている。これらの画像は書類の画像として使用されてもよい。例えば、書類の電子表現物は以下のプロセスを用いて受信されてもよい。ユーザは、pdfリーダのようなアプリケーションで電子表現物を開いてもよい。例えば、スキャンした書類からの電子表現物又はその電子バージョンが、そのアプリケーションで開かれてもよい。以下のステップを開始する入力がpdfリーダ内に設けられてもよい。
ステップ204では、書類の電子表現物から特徴が抽出される。書類はプレゼンテーションで提示された1以上のスライドの画像を含んでもよい。スライドの画像は書類の電子表現物から抽出される。その処理はスライドを抽出するように説明されるが、他の特徴が抽出されてもよいことは理解されるであろう。例えば、画像や文字等が抽出されてもよい。例えば、プレゼンテーションにおけるスライドを使用する代わりに、ユーザは、ある特徴の画像を表示してもよい。その画像はその後に抽出される。
一実施例では、1より多くのスライドが1ページに存在する場合に、区分け(セグメンテーション)が行われてもよい。セグメンテーションは、分割を行い、書類の電子表現物における個々のスライドを決定する。個々のスライドが記録情報120の異なる部分に関連すべき場合に、これは望ましいかもしれない。唯一のスライドがページにある等の特定の場合には、セグメンテーションは必要ないかもしれない。
書類及び画像を分割する技法は当該技術分野でよく知られている。目下の多くの分割法は、書類の電子表現物から個々のスライド領域を区分けするために使用される。区分けの具体例は以下に更に詳細に説明される。セグメンテーションが説明されるが、他の手法を利用して、書類の電子表現物中のスライド画像を判別してもよい。例えば、電子表現物の内容は、スライド画像を判定するために分析されてもよい。一実施例では、四角形の枠(ボックス)が認定され、その枠内の情報がスライド画像として使用されてもよい。
ステップ206では、抽出された特徴が記録情報120と比較され、記録情報120の内で合致する情報を判別する。例えば、抽出された情報に適合する記録情報の部分が、判別されてもよい。その部分は、プレゼンテーションのページ、映像、音声等を含んでもよい。一実施例では、書類の電子表現物から抽出されたスライド画像は、別のプレゼンテーションに関する記録情報120中のスライド画像と比較される。プレゼンテーションに関する記録情報120は、別の時間に表示されてもよく、総てが合致する情報を含む(例えば、あるスライドはプレゼンテーション中の異なる記録情報の中で生じてもよい。)。
一実施例では、抽出された特徴は複数のスライドを含んでいてもよい。スライドは、合致する情報を含むプレゼンテーションを判別するために、スライド画像と比較されてもよい。一実施例では、複数のスライド中の各々が、プレゼンテーションに関する記録情報120内の複数のスライドと比較される。スライドに合致する情報を含む記録情報120の部分が判定される。
他の実施例では、複数のスライドが、一組として処理され、総てのスライドが全プレゼンテーション中のスライドを比較するのに使用される。従って、合致する情報を含むプレゼンテーションを見分けるために、そのプレゼンテーションは、一組として処理される複数のスライドの各々に合致するスライドを含むべきである。
記録情報120内の合致情報を判別するために様々な技法が使用されてもよい。一実施例では、以下の米国出願に記載された手法や、当該技術分野で既知の他の手法を用いて、合致する画像(即ち、抽出された特徴を有する記録情報からの画像)を発見してもよい。その米国出願は、2003年4月11日付け出願の“AUTOMATED TECHNIQUES FOR COMPARING CONTENTS OF IMAGES”と題する米国特許出願番号第10/412,757号;2003年9月12日付け出願の“TECHNIQUES FOR STORING MULTIMEDIA INFORMATION WITH SOURCE DOCUMENTS”と題する米国特許出願番号第10/660,985号;2003年9月12日付け出願の“TECHNIQUES FOR PERFORMING OPERATIONS ON A SOURCE SYMBOLIC DOCUMENT”と題する米国特許出願番号第10/661,052号;2003年9月12日付け出願の“TECHNIQUES FOR ACCESSING INFORMATION CAPTURED DURING A PRESENTATION USING A PAPER DOCUMENT FOR THE PRESENTATION”と題する米国特許出願番号第10/660,867号;2003年9月12日付け出願の“TECHNIQUES FOR USING A CAPTURED ELECTRONIC REPRESENTATION FOR THE RETRIEVAL OF RECORDED INFORMATION”と題する米国特許出願番号第10/696,735号である。
一実施例では、抽出された特徴は、その抽出情報に合致する情報を含むプレゼンテーションに関する記録情報120を判別するために使用されてもよい。例えば、これは記録情報120からの第1抽出画像によってなされる。記録情報120から抽出される画像は、様々な電子表現捕捉装置によりプレゼンテーション中に捕捉された画像、プレゼンテーションレコーダで捕捉された画像、プレゼンテーション中に捕捉された映像情報から取得されたキーフレーム画像等を含んでもよい。
抽出画像はステップ204で決定された抽出された特徴と比較される。抽出された画像は、そのスライドが表示された又は提示されたプレゼンテーション中の時点を示す時間情報を判別するために予め処理されてもよい。スライドに関する時間情報は、そのスライドが提示された又は表示されたプレゼンテーション中の1以上の期間をも識別する。その期間は非連続的でもよい。
一実施例では、合致する情報は、以下に説明される「マッチング法」の部分で説明される技法を利用して決定されてもよい。マッチング情報は、プレゼンテーションレベルマッチングを用いて決定されてもよい。書類マッチングアルゴリズムは、書類の電子表現Iiを入力として受信し、プレゼンテーションレコーダ書類のデータベースに対してそれを比較する。これはプレゼンテーションマッチングステップと言及されてもよい。それは、そのプレゼンテーションを与えるのに使用されてもよかった総てのプレゼンテーション記録セッションを特定する。スライドマッチングと呼ばれる次のステップは、識別されたプレゼンテーションレコーダセッション内の分割された電子表現物pj,k各々を、書類上のスライド画像にマッピングする。その手法は以下で更に詳細に説明される。これは、書類内の各スライドから、ソースや、音声及び映像トラック内のタイムスタンプへのマッピング機能を与える。
ステップ207では、ステップ206で決定されたマッチング情報や、ステップ202で受信された書類の電子表現に基づいて、挿入する情報が決定される。一実施例では、決定される情報は、抽出された特徴に合致するスライド画像に基づいてもよい。合致するスライド画像について決定された関連情報は、プレゼンテーションに索引を付けるのに使用されてもよい。関連情報によって示される時点におけるプレゼンテーション記録から抽出される画像が、その後に判定されてもよい。
ステップ208では、ステップ207で決定された情報を用いて、複合的な電子表現物122が作成される。複合的な電子表現物は多くの種類の情報を含んでいてもよい。例えば、抽出される特徴は、複合的な電子表現物122内に含まれてもよい。
また、その情報はメタデータを含んでもよく、メタデータは記録情報120に基づいて決定される。メタデータは、ステップ206で決定されたマッチング情報から導出されてもよい。例えば、メタデータが判別され、作成された電子表現の中に挿入されてもよい。複合的な電子表現物122に含まれているメタデータを抽出するために、記録情報120は後処理されてもよい(書類をテンプレートとして使用して作成される)。例えば、スライドはどの程度長く議論されたかが計算され、挿入される。どの種類のメタデータが抽出されるかについてや、又は複合的な電子表現物122内にそれらが包含され得る形式については何らの制限もなく、メタデータの抽出に関するいくつかの例は例示的な目的で与えられていることは、理解されるべきである。メタデータを決定する手法は、以下で更に詳細に説明される。
また、アイコンやリンクのような選択可能なオブジェクトが挿入されてもよい。選択されると、そのオブジェクトは、ステップ206で決定したマッチング情報に関連する関連情報を利用して、記録情報120にアクセスする。例えば、アクセスされる情報は、スライドが表示されていた時間におけるプレゼンテーション記録でもよい。記録情報120から抽出された画像は、選択されると、それに起因して、その画像に関する関連情報で指定される時間で、記録されたプレゼンテーションがアクセスされる。他の実施例では、記録情報120は画像と共に埋め込まれる又は格納される。オブジェクトが選択されると、埋め込まれた情報がアクセスされ、再生される。従って、アクセスについて中心的なデータベースは必須ではない。例えば、画像再生オブジェクトは画像の中に埋め込まれてもよい。再生が選択されると、記録された情報120が自動的に再生される。
一実施例では、ステップ202で受信した電子表現は、複合的な電子表現物122を作成するために使用される。例えば、受信した電子表現の中に情報が挿入される。また、受信した電子表現物及び挿入情報を含む新たな書類が作成されてもよい。双方の場合に、複合的な電子表現物122は、そこに挿入される記録情報120に関連する情報と共に作成される。例えば、プレゼンテーションの間に書類が印刷されて配布されてもよい。ユーザは書類にメモを取ってもよい。書類の電子表現を作成するために、書類がその後にスキャンされる。そして、スキャンされた電子表現に情報が挿入される。
他の実施例では、受信した電子表現とは異なる書類が作成される。異なる書類はステップ204で抽出した特徴及び挿入情報を含んでもよい。例えば、書類内のスライドのまさに抽出した画像及び決定された情報が、複合的な電子表現物122に含まれてもよい。
ステップ210で作成された複合的な電子表現物122は例えばその後に電子メール送信され、再印刷され、後のアクセス用にサーバに格納され、CDのような格納媒体に複写され、表示されたりしてもよい。その特定のプレゼンテーションをユーザが再検討する必要があるときは、ユーザは複合的な電子表現物122の中で取ったメモを検討することができる(複合的な電子表現物122は紙書類のメモを含むことを想定している。)。より多くの情報が必要とされるならば、複合的な電子表現物122に挿入される情報が選択され、その挿入情報の関連情報に対応する記録情報120がアクセスされて表示されてもよい。例えば、プレゼンテーションの再生(プレイバック)インターフェースが起動され、関連情報に格納された時間から再生を始めてもよい。他の実施例では、複合的な電子表現物122に情報を付加するために挿入情報が使用されてもよい。例えば、メタデータは、どの程度長くスライドが議論されたかを示してもよい。
図3(A)は、本発明の実施例により作成された書類による概略的なページ300を示す。図3に示されるページ300は、本発明を組み込む実施例を単に例示するに過ぎず、特許請求の範囲に記載される発明の範囲を限定するものではない。当業者は他の変形例、修正例及び代替例を認識するであろう。
図3(A)に示されるように、プレゼンテーション及びプレゼンター(発表者)を示す情報302がページ300に印刷される。プレゼンテーションが行われる時間やプレゼンテーションの長さ等のような他の情報も、情報302に含まれてもよい。図3(A)に示される例では、3つのスライド304−1,304−2及び304−3がページ300に印刷される。更に、プレゼンテーション中に各スライドについてユーザがメモを取るように、余白(スペース)308が設けられている。
図3(B)は、本発明の一実施例によるユーザのマーキングと共に図3(A)のページ300を示す。図示されるように、ユーザはスペース308−1及び308−2にてその書類にメモを取っている。
図3(C)は、本発明の一実施例による複合的な電子表現物122を示す。複合的な電子表現物122は、pdfリーダ、ウェブブラウザ、ワードプロセッシングインターフェース等のようなインターフェースを用いて見てもよい。複合的な電子表現物122は、本発明の一実施例による記録情報120に関連して挿入された情報を含む。インターフェース2310に示されるように、複合的な電子表現物122はページ300の少なくとも一部を含む。図3(C)の複合画像は、ページ300を基礎に利用して作成されてもよい。他の情報は複合画像に重ねられてもよい。
複合的な電子表現物122は情報314も含む。図示されるように、記録情報120の画像が情報314中に含まれている。一実施例では、この画像は表現物に関する記録情報120中の一部分に相当する。この部分は、スライド304に合致するスライドが出力された時間のものであってもよい。例えば、情報314−1は、スライド304−1の画像が出力された記録情報120から抽出された情報を含む。
一実施例では、情報314は、選択されると、ある動作が実行されることを引き起こしてもよい。情報314内の各画像は、時間やソース情報のような関連情報(記録情報120にアクセスするのに使用される)に関連してもよい。図示してはいないが、情報314は、ハイパーテキストリンク、アイコン、メタデータ等のような画像以外の情報を含んでもよい。
複合的な電子表現物122は、紙書類300の受信した電子表現を含んでもよい。この場合に、情報314は、スキャンした電子表現物に挿入される。従って、紙書類にメモを取ったユーザは、メモに加えて挿入された情報314と共に紙書類を見ることができる。一実施例では、ユーザの紙書類の電子表現物は、メディア書類に関する挿入情報314を含むテンプレートになる。従って、ユーザはそのメディア書類を見てもよいし、より多くの情報が望まれれば、その挿入情報が選択され、関連する記録情報120がアクセスされ示されてもよい。
複合的な電子表現物122は、受信した電子表現とは異なる書類でもよい。そのこ異なる書類は、受信した電子表現のいかなる又は総ての特徴を含んでもよい。例えば、ユーザは、紙書類の電子表現以外のフォーマットを望むかもしれない。紙書類の電子表現中のスライド画像又はメモは、除去されてもよいし、そのページの別の場所に移動させてもよい。例えば、まさにユーザによるメモ及び挿入された情報314を有する複合的な電子表現物122が生成されてもよい。
複合的な電子表現物122は様々なフォーマットで格納されてもよい。例えば、複合的な電子表現物122は、ピーディーエフ(PDF)、ハイパーテキストトランスファー言語(HTML)、フラッシュ、エムエスワード(MSWord)等のフォーマットの書類でもよい。一実施例では、そのフォーマットは、記録情報120にリンクするのに使用されてもよい情報の挿入をサポートする。
上述したように、抽出された特徴は、合致する情報を判別するために使用される。別の実施例では、合致する情報を判別するために他の種類の情報が使用されてもよい。例えば、書類上のバーコードを用いて、記録情報120の一部を判別してもよい。例えば、一実施例では、各スライドに関連するバーコードを用いて書類が印刷されてもよい。バーコードは、スライド及び記録情報間のリンクを形成するのに使用されてもよい。そのような技術は例えば次の文献に記載されている:2003年9月12日付けで出願され、“TECHNIQUES FOR ACCESSING INFORMATION CAPTURED DURING A PRESENTATION USING A PAPAER DOCUMENT FOR THE PRESENTATION”と題する米国出願番号第10/660,867号。
別の実施例では、各スライドの署名情報を表現するために、バーコード又は他の何らかのマーキングが使用されてもよい。この署名情報は、スライドからのテキスト、画像特性ベクトル等を含んでもよい。署名は、書類の作成時(例えば、印刷中)に生成される。署名は、記録情報120に関連する情報が挿入されているならば、書類の場所に関する情報を含んでもよい。書類が捕捉された後に(例えば、スキャン後に)、これらの印刷されたマーキングが識別され(抽出され及びデコードされ)、マッチングに、アクセスに及び記録情報に関連する情報の挿入に使用される。
図4は、本発明の一実施例による、情報314が選択され後の可能な出力を示す。情報314は画像を含むが、アイコン、リンク、テキスト、ピクチャー、映像、音声等のように、画像以外の情報が選択されてもよいことが理解されるべきである。
図示されるように、情報314中の画像が選択されると、インターフェース502が表示されてもよい。インターフェース502は、記録情報120を表示するウインドウ504と、スライド304の画像を含むウインドウ506とを含む。説明の便宜上、ユーザが情報314−3内の画像を選択したものとする。選択後に、その画像に関する関連情報は、記録情報120にアクセスするのに使用される。例えば、関連情報はソース及び時間情報でもよい。ソース情報はプレゼンテーションにアクセスするのに使用されてもよく、時間情報はその時間におけるプレゼンテーションの部分を判別するのに使用される。例えば、時間情報は、スライド304−3が表示された開始時間でもよい。
ウインドウ504はメディアプレーヤーを含み、アクセスした記録情報120の部分を表示するのに使用されてもよい。図示されるように、記録情報120は、メディアプレーヤーウインドウ508の中に表示される。この場合に、開始画像は情報314−3に表示された画像に対応する。以後ユーザはメディアプレーヤーで再生を選択し、プレゼンテーションのその部分が再生される。或いは、アクセスした記録情報120が自動的に再生されてもよい。
スライド304−3の画像はウインドウ506に表示されてもよい。また、*.pptファイル内の当初のスライドが、ウインドウ506に表示されてもよい。即ち、ユーザはウインドウ504内のプレゼンテーションに加えて、視聴するスライド304−3を鑑賞してもよい。従って、ユーザは書類の紙の複製(コピー)を見る必要はないかもしれない。また、ウインドウ506は、図3(B)に示されるようなユーザの取ったメモのような他の情報を含んでもよい。更に、判別されたメタデータがウインドウ506内に表示されてもよい。
図5は本発明の実施例を実現するのに使用されてもよいモジュールの概略ブロック図600である。モジュールは、ソフトウエア、ハードウエア又はそれらの組み合わせで実現されてもよい。図5に示されるモジュールは、本発明を組み込む実施例の単なる例に過ぎず、特許請求の範囲に記載された発明の範囲を限定するものではない。当業者は他の変形例、修正例及び代替例を認識するであろう。
電子表現受信機602は、紙書類の電子表現を受信する。一実施例では、電子表現は、画像を生成するために書類をスキャンしたスキャナから受信されてもよい。また、書類の電子複製が受信されてもよい。
特徴抽出部604は、電子表現を受信し、その画像から特徴を抽出するよう構成される。例えば、紙書類の電子表現からスライド画像が抽出される。上述したように、個々のスライド画像を判別するために様々な技術が使用されてもよい。比較器606は、抽出された特徴を受信し、その抽出された特徴に合致する情報(マッチング情報)を判別するよう構成される。一実施例では、記録情報120及び関連情報609を格納したデータベース608が問い合わせを受ける。抽出された特徴は、記録情報120と比較され、合致する情報を判別する。また、記録情報120中の合致する情報についての関連情報が判別されてもよい。関連情報は、プレゼンテーションの一部にアクセスするのに使用されてもよい。
情報挿入部610は、マッチング情報、関連情報及び画像を受信する。また、記録情報120(例えば、音声及び映像情報)、メタデータ等が受信されてもよい。情報挿入部610は、上述したように、挿入する情報を決定し、複合的な電子表現物122を作成するように構成される。例えば、記録情報120内のマッチング情報に関連する情報は、複合的な電子表現物122に挿入される。情報314は関連情報に関連付けられてもよい。この場合に、挿入情報314が選択されると、関連情報を使用して、記録情報120の一部分にアクセスする。また、記録情報120(例えば、音声及び映像情報)、メタデータ等が電子表現310に挿入されてもよい。従って、データベース608は、記録情報120が再生される場合にアクセスされる必要はない。
アプリケーション:
I.演劇プログラム
本発明の実施例はプレゼンテーション記録を利用して説明されたが、説明される実施例は、プレゼンテーション記録以外の記録情報と共に使用されてもよいことが認識されるであろう。紙書類は、抽出可能な認識可能な特徴を含むいかなる媒体(メディア)でもそれを含む様々な形式でよい。例えば、紙書類は演劇のプログラムでもよい。劇場で演劇が始まる前に、演劇のプログラムが観客に配布される。そのプログラムは、演劇中のいくつかの場面、俳優の画像、又は演劇中の何らかのテキストを含んでもよい。演劇はその後記録される。演劇の後に、その演劇プログラムの複合的な電子表現物122が受信される。例えば、ユーザはディジタルカメラで演劇プログラムをスキャン又は捕捉してもよい。上述した処理により、複合的な電子表現物122は記録された演劇に関連する情報を含む。その処理は、プログラム中の演劇場面と記録された演劇の捕捉された映像フレームとを比較すること、プログラム中の俳優の画像と演劇記録による顔認識物とを比較すること、及びプログラム中のテキストと捕捉した音声とを比較して(スピーチ認識)マッチング情報を判別することを含む。
マッチング情報に関連する情報は、複合的な電子画像に挿入されてもよい。演劇プログラムの複合的な電子表現物122は、その演劇の一部に関連して挿入されたオブジェクトを有してもよい。ユーザは複合的な電子表現物122を彼らのディジタルカメラに格納してもよい。或いは、複合的な電子表現物122は、ユーザに又は共用目的で他者に、電子メールで通知されてもよい。従って、一例として、ユーザがプログラム内のある特徴に興味のある場合に、挿入された情報が選択され、記録された演劇の一部がアクセスされ、再生されてもよい。
II.シンフォニー
以下は他のアプリケーション例であり、交響曲の練習が行われる前に、音楽メモが印刷され、演奏者に紙書類として配布される。交響曲の間に、音楽は記録され、演奏者は書類にメモをとってもよい。練習の後に、書類の電子表現物が受信される。記録された音声間の関連付けは、捕捉された音楽メモに対してOCR(光キャラクタリーダ)処理を行い、音声からのメモを自動的に抽出し、それらを照合することで決定される。そして、ユーザは、PDF書類のような複合的な電子表現物122を受信し、その電子表現物は、スキャンした音楽メモ、個人的なメモ及び挿入情報を含んでもよく、その挿入情報は練習中に記録した音声(又は他の交響曲で演奏された音声)に情報を関連付けるものである。また、複合的な電子表現物122は、当初の練習でミスした他者が練習するのを支援するかもしれない。
セグメンテーションを行う技術、マッチングを行う技術及びメタデータを判別する技術が以下に説明される。
(セグメンテーション)
本発明の実施例では、以下のプロセスを用いて、書類の電子表現を分割してもよい。電子表現の水平及び垂直の投影(射影)が先ず行われる。この段階(ステップ)の前に、電子表現物の何らかの前処理が必要とされてもよいことが理解されるべきであり、その処理は例えば歪又はスキューの補償、ダウンサンプリング、スミアリング(smearing)、要素分析の接続等である。
抽出された投影と一群の書類テンプレートから得られる投影との間の距離が算出される。図6は、一群の書類テンプレートに含まれてもよい可能なテンプレートを示す。書類テンプレート702は、そのページを作成するのに使用されてもよい可能なレイアウトを含む。レイアウトは異なる画像を含む。例えば、書類702−1,702−2は、スライド画像に関するレイアウトを含む。書類テンプレート702−1は、2列のスライド画像704を含む。書類テンプレート702−2は一列のスライド画像706を含む。書類テンプレート702−3は、3つのスライド画像708を含む左列と、ユーザがメモを入力したかもしれない3つの領域710を含む右列とを含む。抽出された投影は、書類テンプレート702と比較される。一実施例では、これらのテンプレートは、紙書類を作成するために使用される。例えば、図示される画像は、スライドの画像であることを要しない。むしろ、スライドを示すウインドウは、図6に示されるスライド画像が使用されてもよいある場所に設けられるべきである。
そして、書類画像へ最短距離の書類テンプレート702が判定される。例えば、左列に3つのスライド画像を、右列にメモを取る空白を含むページは、書類テンプレート702−3に実質的に合致するかもしれない。合致した書類テンプレート702のスライド配置情報を用いて、書類画像がその後に複数の四角形領域に分割される。例えば、あるスペースと共にスライドは左列に位置するので、書類は複数の部分に分割され、その部分の各々はスライドを含んでもよい。
マッチング法
一実施例では、以下の技法は、書類の電子表現及びプレゼンテーション記録書類を用いて、関連情報を判別するために使用されてもよい。書類照合アルゴリズムは、画像Iiを入力として受信し、記録されたプレゼンテーションレコーダ書類のデータベースと比較する。これは、プレゼンテーション照合ステップと言及されてもよい。それは、書類中のスライドが提示されるプレゼンテーション中に捕捉された総てのプレゼンテーションレコーダ書類の位置を突き止める。スライドマッチングと呼ばれる次のステップは、分割された書類画像中のスライド画像各々を、1つのプレゼンテーションセッションにおけるプレゼンテーションレコーダで捕捉されたスライド画像にマッピングする。
プレゼンテーション照合アルゴリズムは、プレゼンテーションレコーダ書類にOCRを適用し、テキストを保存し、テキストが生じたページを示すものと共に出力する。問題は、プレゼンテーションレコーダ書類中の潜在的に大量の重複的な画像及び不要な画像双方が存在することであり、人々が喋っている間に彼らのパワーポイントファイルを進退させること、捕捉画像に僅かな差異しか生じさせないカスタムアニメーションを利用すること、プレゼンテーションレコーダに何百ものフレームを捕捉させるビデオクリップを利用すること等に起因する。プレゼンテーション照合アルゴリズムの一例による擬似コードステートメントが以下に示される。
Figure 0004833573

第1ステップは、書類Ii(Document Ii)内で各ワード n−gram を含むプレゼンテーションレコーダファイル総てを調べ、その書類に関するスコアを増やす。第2ステップは、Ii中のワードに関して最小のパーセンテージを有するプレゼンテーションレコーダファイルを、t1で指定されたものとみなし、Ii中のn−gramに関してt2より多くを有するページのパーセンテージを判定する。それがt3を超えると、このPjは合致するプレゼンテーションレコーダ書類と呼ばれる。
プレゼンテーション照合アルゴリズムは、プレゼンテーションレコーダ書類中のOCRエラーに対する耐性がある。それはカラーのジェイペグ(jpeg)画像を含むので、そのOCRは多くのミスを犯すであろうことが予測される。しかしながら、一般的にはプレゼンテーションはフォントを注意深く選択し、短いテキストフレーズを使用するので、エラーは深刻な問題ではないかもしれない。プレゼンテーションレコーダファイルのページ関するあるパーセンテージが書類に含まれている条件は、重複的な及び不要な画像を考慮に入れる。これらの要因は閾値を自由に設定させる。
プレゼンテーション照合アルゴリズムの構築における更なる考察事項は、既存のフルテキストインデックスを利用することである。これは、ワードn−gramsを問い合せタームとして使用し、合致する可能性のあるパワーポイントファイルを提案することで、達成される。これは、例えば、グーグル(Google)のようにほとんど総てのフルテキストインデックスによってサポートされる。
スライド照合アルゴリズムは書類Ii中の画像を判別し、その画像は、プレゼンテーション照合アルゴリズムにより突き止められたプレゼンテーションレコーダファイル中のスライド各々に合致する。そのアルゴリズムは、テキストを含むその画像についてのOCR結果に対する文字列照合と、テキストを含まない画像についてのエッジヒストグラム照合との組み合わせを利用する。スライド照合技術の具体例は、次の文献に詳細に説明されている:2003年4月11日付けで出願され、“AUTOMATED TECHNIQUES FOR COMPARING CONTENTS OF IMAGES”と題する米国特許出願第10/412,757号。
メタデータ
(テキスト及びキーワード)
テキストは、捕捉されたスクリーン画像各々から抽出される。電子表現物各々のローカライズ及び二値化は、捕捉画像の輝度成分だけでなくその色成分をも利用する手法で達成される。その理由は、通常の書類画像とは異なり、スライドの電子表現における背景/前景のコントラストは、輝度のコントラストに加えてカラーのコントラストによって得られるかもしれないからである。この手法の詳細は次の文献に説明されている:2003年4月11日付けで出願され、“AUTOMATE TECHNIQUES FOR COMPARING CONTENTS OF IMAGES”と題する米国出願第10/412,757号。商用のOCRパッケージは、二値化されたテキスト領域からテキストを抽出するために使用されてもよい。抽出されたテキストは、捕捉された画像及び行番号でXMLフォーマットで索引付け(インデックス)される。プレゼンテーションセッション中に捕捉されたスクリーン画像全体から抽出されたテキストについてTF−IDF分析を行うことで、キーワードが発見される。
(電子表現特性)
多数の画像特性ベクトル、即ちエッジヒストグラム及び色レイアウト[ID−RII−311]は、そのスクリーン捕捉画像について算出される。これらの特徴は、重複するスライド検出や、スクリーン画像をオリジナルのプレゼンテーションスライドに関連付ける(リンクする)ために後に使用される。
(シンボリックプレゼンテーションスライド)
プレゼンターは、彼らの会話の前に、オリジナルのプレゼンテーション書類をサーバに提出することができる。その提出後に、プレゼンテーションファイルにはID,IDが割り当てられ、テキスト及びスライドタイトルが、プレゼンテーションファイルを分析することによって各スライドから抽出される。スライドを表すJPEG電子表現物Sが抽出され、それを使用して、エッジヒストグラム及びカラーレイアウト特性ベクトルを算出する。プレゼンテーションファイル、JPEG画像、テキスト、タイトル及び特性ベクトルは索引付けされ、非分解(unresolved)プレゼンテーションの階層に設けられる。
プレゼンテーションセッションが終了した後で、スクリーン捕捉画像から抽出された画像特性及びテキストは、非分解プレゼンテーションファイルから抽出された画像特性及びテキストと照合される。合致が発見されると、そのファイルは、非分解プレゼンテーションの階層から除去され、記録されたプレゼンテーションにリンクされる。プレゼンテーションレベル照合の後に、電子表現及びテキスト特性を利用して、各プレゼンテーションスライドSを、一群のスクリーン捕捉画像{C,...,C}と照合する。電子表現照合プロセスは、98%の精度を有する。
(キーフレーム抽出)
会議室には、2台のカメラが装備され、それらはパン・ズーム・チルト(PTZ)カメラと、360°で捕捉可能なオムニ指向性カメラである。PTZカメラは、プレゼンター又は会議室全体の何れかに焦点を合わせる。PTZカメラの位置は、そのミーティングルームのポータルによって制御され、カメラ位置が変わる毎に、キーフレームが映像シーケンスから抽出される。オムニ指向性カメラは、会議室の中央に設けられ、その部屋のパノラマ的な像を取得する。カメラには4つのマイクロフォンが取り付けられ、音源特定(SSL:sound source locarization)法が、4音声チャネルでリアルタイムで実行される。音源方向が変わる毎に、その音の方向からのみの映像を示すキーフレームが、パノラマビデオから抽出される。図7はこれらのキーフレーム802を示し、それらが話者の変化と一致するようにミーティング/プレゼンテーション記録をナビゲートする際に、それらのキーフレームは有用である。抽出されたキーフレームの総ては、それらのソース及びタイムスタンプで索引付けされる。
(スライド各々で費やされる時間)
プレゼンテーションスライドで費やされる時間の量sTは、その特定のスライドの重要性に関する良い指標にすることができ、次式により算出される:
Figure 0004833573

ここで、pTは全プレゼンテーション時間であり、Sはプレゼンテーションスライドであり、CはSに合致するn番目の捕捉されたスクリーン電子表現であり、T(C)は、秒で表現されたCのタイムスタンプである。
(質疑応答動作)
特定のプレゼンテーションスライドに関する議論、質問、コメントの量は、議論する話題に関する関心度(の指標)にすることができる。一方、スピーカの分割、Q&Aセッションは、やりがいはあるが非常に困難であり、スピーカ分割システムの事前トレーニングを必要とすることがしばしばある。Q&A動作(アクティビティ)と共に音声セグメントを識別する我々の手法は幾分異なる。それはSSLに基づき、実用上極めてロバストに(robustly)機能する。プレゼンテーション中に、93%の時間に、スピーカはSSL装置の同じ20°の方位角内にいることを、我々の実験結果は示している。明らかに、その方位範囲は会議室の設定内容に基づいて変化する。それにもかかわらず、ほとんどの会議室の設定内容では、プレゼンターが動き回る限定されたプラットフォームを有するようにすることがしばしば合理的な仮定である。このプラットフォームのこの範囲を[αs1αs2]のSSLで示すことにする。プレゼンター及びSSL装置の間に聴講者は誰もおらず、プレゼンター以外の方向から到来する音は、観客メンバからのコメント又は質問として解釈できるものとする。所与のプレゼンテーションスライドSについての質疑応答動作は、観客及びプレゼンター間の音源方向変化の回数として次のように定義される:
Figure 0004833573

ここで、CはSに合致するn番目の捕捉されたスクリーン画像であり、T(C)は秒で表現されるCのタイムスタンプであり、pDはプレゼンテーション全体に対するQA動作であり、即ち、
Figure 0004833573

であり、pTは全プレゼンテーション時間であり、D(t)は、
Figure 0004833573

のように定義される関数であり、ここで、SSL(t)はtにおける音方向の方位である。
(メモ書き)
セミナーのある話題について取ったメモ書きの量は、その話題に関する観客の関心度に直接的にほとんど時間関連する。メモ書き動作の測定値は、次のように計算され、
Figure 0004833573

ここで、η(t,t)は、時間枠[t]に関連するメモ入力数を返す。電子メモ書きインターフェースは、現在時点だけでなく過去の時点にもメモを関連付けることを可能にし、関数ηは、入力時間ではなく、関連する時間に基づくメモ入力を返す。
図8は、データ処理システム900の概略ブロック図であり、本発明の一実施例による処理を実行するために使用されてもよい。図8に示されるように、データ処理システム900は少なくとも1つのプロセッサ902を含み、プロセッサはバスシステム904により多数の周辺装置と通信を行う。周辺装置は、メモリサブシステム908及びファイル格納サブシステム910を有する格納サブシステム906と、ユーザインターフェース入力装置912と、ユーザインターフェース出力装置914と、ネットワークインターフェースサブシステム916とを有する。入力及び出力装置は、ユーザがデータ処理システム902と相互作用することを可能にする。
ネットワークインターフェースサブシステム916は、他のコンピュータシステム、ネットワーク及び格納リソースに対するインターフェースを提供する。ネットワークは、インターネット、ローカルエリアネットワーク(LAN)、広域ネットワーク(WAN)、無線ネットワーク、イントラネット、私的ネットワーク、公的ネットワーク、切換ネットワークその他適切ないかなるネットワークを含んでもよい。ネットワークインターフェースサブシステム916は、他のソースからのデータを受信し、データ処理システム900から他のソースへデータを送信するインターフェースとして機能する。例えば、データ書処理システム900は、ネットワークインターフェースサブシステム916を通じて、プレゼンテーションに関する格納された記録情報及びXMLデータ構造にアクセスしてもよい。ネットワークインターフェースサブシステム916の具体例は、イーサーネット(登録商標)カード、モデム(電話、衛星、ケーブル、ISDN等)、(非対称)ディジタル加入者回線(DSL)装置等を含む。
ユーザインターフェース入力装置912は、キーボード、(マウス、トラックボール、タッチパッド又はグラフィックスタブレットのような)ポインティングデバイス、スキャナ、バーコードスキャナ、ディスプレイに組み込まれたタッチスクリーン、音声認識シス手のような音声入力装置、マイクロフォン及び他の種類の入力装置を含んでもよい。一般に、「入力装置」なる語を利用するときは、情報をデータ処理システム900に入力するための可能な総ての種類の装置及び方法を含むように意図される。
ユーザインターフェース出力装置914は、ディスプレイサブシステム、プリンタ、ファクシミリ装置又は音声出力装置のような非視覚的な装置を含んでもよい。ディスプレイサブシステムは、陰極線管(CRT)、液晶ディスプレイ(LCD)のようなフラットパネル装置又は投影装置(プロジェクタ)でもよい。一般に、「出力装置」なる語を利用するときは、データ処理システム900から情報を出力する可能な総ての種類の装置及び方法を含むように意図される。
格納サブシステム906は、本発明による機能を与える基本的なプログラミング及びデータ構造を格納するよう構築される。例えば、本発明の一実施例によれば、本発明の機能を実行するソフトウエアモジュールが、格納サブシステム906内に格納されてもよい。これらのソフトウエアモジュールは、プロセッサ902により実行されてもよい。格納サブシステムは、本発明により使用されるデータを格納するリポジトリを提供してもよい。格納サブシステム906は、メモリサブシステム908及びファイル/ディスクサブシステム910から構成されてもよい。
メモリサブシステム908は、プログラム実行中に命令及びデータを格納するための主ランダムアクセスメモリ(RAM)918と、不変の命令が格納されるリードオンリメモリ(ROM)920とを含む多数のメモリを含んでもよい。ファイル格納サブシステム910は、プログラム及びデータに関する永続的な(不揮発性の)格納機能を提供し、それは、ハードディスクドライブ、取り外し可能な媒体によるフロッピディスク、コンパクトディスクリードオンリメモリ(CD−ROM)ドライブ、光ドライブ、取り外し可能なメディアカートリッジ及び他の格納媒体を含んでもよい。
バスサブシステム904は、データ処理システム902の様々な要素及びサブシステムが、意図されるように互いに通信させる機構を与える。バスサブシステムは、単独のバスとして概略的に示されているが、バスシステムの他の例は複数のバスを利用してもよい。
データ処理システムは、パーソナルコンピュータ、ポータブルコンピュータ、ワークステーション、ネットワークコンピュータ、メインフレーム、キオスク又は他のいかなるデータ処理システムをも含む様々な形式のものにすることができる。コンピュータ及びネットワークの今までの変化する性質に起因して、図8に示されるデータ処理システムの説明は、コンピュータシステムの好適実施例を説明するための具体例を意図しているに過ぎない。図8に示されるシステムより多くの又はより少ない要素を有する他の多くの構成が可能である。
以上本発明の特定の実施例が説明されてきたが、様々な修正、置換、代替構成及び均等物も本発明の範疇に包含される。説明された発明は、ある特定のデータ処理環境内での動作に制限されず、複数のデータ処理環境内で動作して差し支えない。更に、本発明は、特定の一連のトランザクション及びステップを用いて説明されてきたが、本発明の範囲は記述された一連のトランザクション及びステップに制限されないことは、当業者に明白であろう。上記の数式は本発明の実施例による例に過ぎず、本発明の他の実施例では変わり得ることが理解されるであろう。
更に、本発明はハードウエア及びソフトウエアの特定の組み合わせを用いて説明されてきたが、ハードウエア及びソフトウエアの他の組み合わせも本発明の範囲内にあることが、理解されるべきである。本発明は、ハードウエアだけで、ソフトウエアだけで、又はそれらの組み合わせを用いて実現されてもよい。
従って、明細書及び図面は、限定的な意味でなく例示として考えられる。しかしながら、付加、置換、削除及び他の修正や変更が、特許請求の範囲に記載の発明の精神及び範囲から逸脱せずに、それらの例示に対してなされてもよいことは、明白であろう。
本発明の一実施例を組み込んでもよいシステムの概略ブロック図である。 書類の電子表現物を用いて、記録情報に関連する挿入情報を有する電子表現物を作成する本発明の一実施例による方法の概略フローチャートを示す。 (A)は本発明の一実施例による書類のページ、(B)は本発明の一実施例によるユーザのマーキングと共に(A)のページ、(C)は本発明の一実施例による記録情報に関連する挿入情報を含むインターフェースを示す。 本発明の一実施例により情報が選択された後の可能な出力を示す。 本発明の一実施例を実現するのに使用されてもよいモジュールの概略ブロック図である。 本発明の一実施例による書類テンプレートを示す。 本発明の一実施例によるキーフレームを示す。 本発明の一実施例による処理を実行するのに使用されてもよいデータ処理システムの概略ブロック図である。
符号の説明
100 システム
102 コンピュータ
104 アプリケーション
106 ファイル
108 スキャナ
110 紙書類
112 サーバー
114 XML構造
115 リポジトリ
116 出力装置
118 捕捉装置
120 記録情報
122 複合的な電子表現物
300 ページ
302,314 情報
304 スライド
308 スペース
502 インターフェース
504,506 ウインドウ
508 メディアプレーヤウインドウ
602 電子表現受信部
604 特徴抽出部
606 比較部
608 データベース
609 関連情報
610 情報挿入部
702 書類テンプレート
704,706,708 スライド画像
710 スペース
802 キーフレーム
900 データ処理システム
902 プロセッサ
904 バスシステム
906 格納サブシステム
908 メモリサブシステム
910 ファイル格納サブシステム
912 ユーザインターフェース入力装置
914 ユーザインターフェース出力装置
916 ネットワークインターフェース
918 RAM
920 ROM

Claims (9)

  1. データベースに格納されているプレゼンテーション中に記録したプレゼンテーションのスライド、画像、映像情報及び音声情報を含む記録情報を用いて、プレゼンテーションの各スライドに挿入情報を挿入して書類の複合的な電子表現物を作成する方法であって、 プレゼンテーションのスライドを含む前記書類の電子表現物を受信し、 受信した前記書類の電子表現物から、特徴抽出手段により前記スライドの画像を抽出し、 前記記録情報を、前記特徴抽出手段により抽出された前記スライドの画像と比較し、1以上の特徴に合致する合致情報と前記合致情報に関連する関連情報を、比較手段により判別し、 前記比較手段で判別された前記合致情報と前記関連情報と前記電子表現物に基づいて、前記電子表現物に挿入する挿入情報を、情報挿入手段により決定し、 決定された前記挿入情報を前記プレゼンテーションの各スライドに挿入して複合的な電子表現物を形成するステップ を有し、前記比較手段は、前記記録情報中のプレゼンテーションの画像のうち、テキストを含む画像については光キャラクタリーダ照合を適用し、テキストを含まない画像についてはエッジヒストグラム照合を適用することを特徴とする方法。
  2. 前記関連情報が、記録情報についての時間情報を含み、前記時間情報は、1以上の特徴に関連する情報が前記プレゼンテーション中に提示された時間を示す
    ことを特徴とする請求項1記載の方法。
  3. 挿入情報の選択内容を受信し、
    前記複合的な電子表現物中の決定された情報についての関連情報を使用して、前記時間情報に示される時点でプレゼンテーション中に記録された情報にアクセスするステップ
    を更に有することを特徴とする請求項2記載の方法。
  4. データベースに格納されているプレゼンテーション中に記録したプレゼンテーションのスライド、画像、映像情報及び音声情報を含む記録情報を用いて、プレゼンテーションの各スライドに挿入情報を挿入して書類の複合的な電子表現物を作成するデータ処理システムであって、
    プロセッサと、
    前記プロセッサに接続されたメモリと
    を有し、前記メモリは、前記プロセッサに手順を実行させる複数のモジュールを格納し、前記手順は、
    前記書類の電子表現物を受信し、 受信した前記書類の電子表現物から、特徴抽出手段により前記スライドの画像を抽出し、 前記記録情報前記特徴抽出手段により抽出された前記スライドの画像比較し、1以上の特徴に合致する合致情報と前記合致情報に関連する関連情報を、比較手段により判別し、 前記比較手段で判別された前記合致情報と前記関連情報と前記電子表現物に基づいて、前記電子表現物に挿入する挿入情報を、情報挿入手段により決定し、 決定された前記挿入情報を前記プレゼンテーションの各スライドに挿入して複合的な電子表現物を形成するステップ
    を有し、前記比較手段は、前記記録情報中のプレゼンテーションの画像のうち、テキストを含む画像については光キャラクタリーダ照合を適用し、テキストを含まない画像についてはエッジヒストグラム照合を適用することを特徴とするデータ処理システム。
  5. 前記関連情報が、記録情報についての時間情報を含み、前記時間情報は、1以上の特徴に関連する情報が前記プレゼンテーション中に提示された時間を示す
    ことを特徴とする請求項4記載のデータ処理システム。
  6. 挿入情報の選択内容を受信し、
    前記複合的な電子表現物中の決定された情報についての関連情報を使用して、前記時間情報に示される時点でプレゼンテーション中に記録された情報にアクセスすることを特徴とする請求項5記載のデータ処理システム。
  7. データベースに格納されているプレゼンテーション中に記録したプレゼンテーションのスライド、画像、映像情報及び音声情報を含む記録情報を用いて、プレゼンテーションの各スライドに挿入情報を挿入して複合的な電子表現物を作成する装置であって、 プレゼンテーションのスライドを含む書類の電子表現物を受信する電子表現物受信手段と、 前記電子表現物受信手段により受信した前記電子表現物から、前記スライドの画像を抽出する特徴抽出手段と、 前記記録情報と前記特徴抽出手段により抽出された前記スライドの画像比較し、1以上の特徴に合致する合致情報と前記合致情報に関連する関連情報を判別する比較手段と、 前記比較手段で判別された前記合致情報と前記関連情報と前記電子表現物とに基づいて、前記記録情報から前記電子表現物の各スライドに挿入する挿入情報を決定する情報挿入手段と、 前記情報挿入手段により決定された前記挿入情報を前記プレゼンテーションの各スライドに挿入して複合的な電子表現物を形成する複合的電子表現物形成手段と、 を備え、前記比較手段は、前記記録情報中のプレゼンテーションの画像のうち、テキストを含む画像については光キャラクタリーダ照合を適用し、テキストを含まない画像についてはエッジヒストグラム照合を適用することを特徴とする装置。
  8. 前記関連情報が、前記記録情報についての時間情報を含み、前記時間情報は、1以上の特徴に関連する情報が前記プレゼンテーション中に提示された時間を示すことを特徴とする請求項7記載の装置。
  9. 前記挿入情報の選択内容を受信し、前記複合的な電子表現物中の決定された情報についての関連情報を使用して、前記時間情報に示される時点におけるプレゼンテーション中に記録された情報にアクセスすることを特徴とする請求項8記載の装置。
JP2005099201A 2004-03-30 2005-03-30 複合的な電子表現物を作成する方法、装置及びデータ処理システム Expired - Fee Related JP4833573B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US813901 2004-03-30
US10/813,901 US7779355B1 (en) 2004-03-30 2004-03-30 Techniques for using paper documents as media templates

Publications (3)

Publication Number Publication Date
JP2005293589A JP2005293589A (ja) 2005-10-20
JP2005293589A5 JP2005293589A5 (ja) 2008-05-15
JP4833573B2 true JP4833573B2 (ja) 2011-12-07

Family

ID=35326384

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005099201A Expired - Fee Related JP4833573B2 (ja) 2004-03-30 2005-03-30 複合的な電子表現物を作成する方法、装置及びデータ処理システム

Country Status (2)

Country Link
US (1) US7779355B1 (ja)
JP (1) JP4833573B2 (ja)

Families Citing this family (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8312131B2 (en) * 2002-12-31 2012-11-13 Motorola Mobility Llc Method and apparatus for linking multimedia content rendered via multiple devices
US20060041484A1 (en) * 2004-04-01 2006-02-23 King Martin T Methods and systems for initiating application processes by data capture from rendered documents
US9384619B2 (en) 2006-07-31 2016-07-05 Ricoh Co., Ltd. Searching media content for objects specified using identifiers
US8949287B2 (en) 2005-08-23 2015-02-03 Ricoh Co., Ltd. Embedding hot spots in imaged documents
US8489583B2 (en) * 2004-10-01 2013-07-16 Ricoh Company, Ltd. Techniques for retrieving documents using an image capture device
US9405751B2 (en) 2005-08-23 2016-08-02 Ricoh Co., Ltd. Database for mixed media document system
US9171202B2 (en) 2005-08-23 2015-10-27 Ricoh Co., Ltd. Data organization and access for mixed media document system
US7818350B2 (en) 2005-02-28 2010-10-19 Yahoo! Inc. System and method for creating a collaborative playlist
US9116989B1 (en) * 2005-08-19 2015-08-25 At&T Intellectual Property Ii, L.P. System and method for using speech for data searching during presentations
US7844820B2 (en) * 2005-10-10 2010-11-30 Yahoo! Inc. Set of metadata for association with a composite media item and tool for creating such set of metadata
US8270303B2 (en) * 2007-12-21 2012-09-18 Hand Held Products, Inc. Using metadata tags in video recordings produced by portable encoded information reading terminals
US8701009B2 (en) * 2007-12-28 2014-04-15 Alcatel Lucent System and method for analyzing time for a slide presentation
JP4918524B2 (ja) * 2008-06-04 2012-04-18 日本電信電話株式会社 プレゼンテーションシステム及びプレゼンテーション方法
US9928242B2 (en) * 2008-11-05 2018-03-27 Oracle International Corporation Managing the content of shared slide presentations
US20100198876A1 (en) 2009-02-02 2010-08-05 Honeywell International, Inc. Apparatus and method of embedding meta-data in a captured image
US8384740B1 (en) * 2009-02-24 2013-02-26 A9.Com, Inc. Method and system for virtually placing a tangible item on an appendage
US9519814B2 (en) 2009-06-12 2016-12-13 Hand Held Products, Inc. Portable data terminal
KR20110074166A (ko) * 2009-12-24 2011-06-30 삼성전자주식회사 디지털 컨텐츠 생성방법
US8434134B2 (en) 2010-05-26 2013-04-30 Google Inc. Providing an electronic document collection
US9282289B2 (en) * 2010-12-23 2016-03-08 Citrix Systems, Inc. Systems, methods, and devices for generating a summary document of an online meeting
US8472726B2 (en) 2011-01-07 2013-06-25 Yuval Gronau Document comparison and analysis
US8472727B2 (en) 2011-01-07 2013-06-25 Yuval Gronau Document comparison and analysis for improved OCR
WO2012122539A2 (en) 2011-03-10 2012-09-13 Rickabaugh Jason Apparatus, system and method for a vector-based form field document
JP5742545B2 (ja) * 2011-07-27 2015-07-01 ブラザー工業株式会社 画像処理プログラム、情報処理装置および画像処理方法
US9058331B2 (en) 2011-07-27 2015-06-16 Ricoh Co., Ltd. Generating a conversation in a social network based on visual search results
US8996350B1 (en) 2011-11-02 2015-03-31 Dub Software Group, Inc. System and method for automatic document management
US20130179789A1 (en) * 2012-01-11 2013-07-11 International Business Machines Corporation Automatic generation of a presentation
US8856640B1 (en) 2012-01-20 2014-10-07 Google Inc. Method and apparatus for applying revision specific electronic signatures to an electronically stored document
US11308037B2 (en) 2012-10-30 2022-04-19 Google Llc Automatic collaboration
US9529916B1 (en) 2012-10-30 2016-12-27 Google Inc. Managing documents based on access context
US10558729B2 (en) * 2012-11-30 2020-02-11 Microsoft Technology Licensing, Llc Enhanced collection environments
US9384285B1 (en) 2012-12-18 2016-07-05 Google Inc. Methods for identifying related documents
US9495341B1 (en) 2012-12-18 2016-11-15 Google Inc. Fact correction and completion during document drafting
US9514113B1 (en) 2013-07-29 2016-12-06 Google Inc. Methods for automatic footnote generation
US9842113B1 (en) 2013-08-27 2017-12-12 Google Inc. Context-based file selection
US9942396B2 (en) * 2013-11-01 2018-04-10 Adobe Systems Incorporated Document distribution and interaction
US9529791B1 (en) 2013-12-12 2016-12-27 Google Inc. Template and content aware document and template editing
US9292739B1 (en) * 2013-12-12 2016-03-22 A9.Com, Inc. Automated recognition of text utilizing multiple images
US9544149B2 (en) 2013-12-16 2017-01-10 Adobe Systems Incorporated Automatic E-signatures in response to conditions and/or events
US9703763B1 (en) 2014-08-14 2017-07-11 Google Inc. Automatic document citations by utilizing copied content for candidate sources
US9703982B2 (en) 2014-11-06 2017-07-11 Adobe Systems Incorporated Document distribution and interaction
US9531545B2 (en) 2014-11-24 2016-12-27 Adobe Systems Incorporated Tracking and notification of fulfillment events
US9432368B1 (en) 2015-02-19 2016-08-30 Adobe Systems Incorporated Document distribution and interaction
US9935777B2 (en) 2015-08-31 2018-04-03 Adobe Systems Incorporated Electronic signature framework with enhanced security
US9626653B2 (en) 2015-09-21 2017-04-18 Adobe Systems Incorporated Document distribution and interaction with delegation of signature authority
US10460023B1 (en) 2016-03-10 2019-10-29 Matthew Connell Shriver Systems, methods, and computer readable media for creating slide presentations for an annotation set
US10347215B2 (en) 2016-05-27 2019-07-09 Adobe Inc. Multi-device electronic signature framework
US10503919B2 (en) 2017-04-10 2019-12-10 Adobe Inc. Electronic signature framework with keystroke biometric authentication
US10915701B2 (en) * 2018-03-19 2021-02-09 Adobe Inc. Caption association techniques
US11257491B2 (en) 2018-11-29 2022-02-22 Adobe Inc. Voice interaction for image editing
US11003862B2 (en) 2019-03-20 2021-05-11 Adobe Inc. Classifying structural features of a digital document by feature type using machine learning

Family Cites Families (158)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4417239A (en) 1980-12-24 1983-11-22 International Business Machines Corp. Interactive combination display
US4481412A (en) 1982-06-21 1984-11-06 Fields Craig I Interactive videodisc training system with bar code access
FR2544114A1 (fr) 1983-04-08 1984-10-12 Gavilan Computer Corp Procede et dispositif pour l'affichage avec un effet de zoom sur un terminal d'ordinateur
JPH0677192B2 (ja) 1984-02-23 1994-09-28 キヤノン株式会社 文字データ表示方法
JPS6324419A (ja) 1986-07-17 1988-02-01 Toshiba Corp 複合文書処理装置
EP0394379B1 (en) 1988-05-27 1998-01-07 Kodak Limited Document folder icon for display in a data processing system
WO1989011693A1 (en) 1988-05-27 1989-11-30 Wang Laboratories, Inc. Document annotation and manipulation in a data processing system
KR920006304B1 (ko) 1988-09-14 1992-08-03 마쓰시다 덴끼 산교오 가부시기가이샤 광디스크재생장치와 광디스크재생방법과 복합기록매체
GB2234609A (en) 1989-07-29 1991-02-06 Ibm Information handling system
JP2925199B2 (ja) 1989-12-15 1999-07-28 キヤノン株式会社 ビデオ信号記録再生装置及びビデオプリンタ
US5267351A (en) 1989-12-22 1993-11-30 Avid Technology, Inc. Media storage and retrieval system
US5339391A (en) 1990-05-14 1994-08-16 Microelectronics And Computer Technology Corporation Computer display unit with attribute enhanced scroll bar
US5153831A (en) 1990-05-29 1992-10-06 Franklin Electronic Publishers, Incorporated Electronic text
US5060980A (en) 1990-05-30 1991-10-29 Xerox Corporation Form utilizing encoded indications for form field processing
US5761655A (en) 1990-06-06 1998-06-02 Alphatronix, Inc. Image file storage and retrieval system
US5404295A (en) 1990-08-16 1995-04-04 Katz; Boris Method and apparatus for utilizing annotations to facilitate computer retrieval of database material
US5309359A (en) 1990-08-16 1994-05-03 Boris Katz Method and apparatus for generating and utlizing annotations to facilitate computer text retrieval
US5265065A (en) 1991-10-08 1993-11-23 West Publishing Company Method and apparatus for information retrieval from a database by replacing domain specific stemmed phases in a natural language to create a search query
US5349658A (en) 1991-11-01 1994-09-20 Rourke Thomas C O Graphical user interface
CA2078423C (en) 1991-11-19 1997-01-14 Per-Kristian Halvorsen Method and apparatus for supplementing significant portions of a document selected without document image decoding with retrieved information
US5999173A (en) 1992-04-03 1999-12-07 Adobe Systems Incorporated Method and apparatus for video editing with video clip representations displayed along a time line
US5467288A (en) 1992-04-10 1995-11-14 Avid Technology, Inc. Digital audio workstations providing digital storage and display of video information
JPH05342325A (ja) * 1992-06-04 1993-12-24 Fuji Xerox Co Ltd 文書処理装置およびその装置のためのフォーム登録装置
JP3453407B2 (ja) 1992-08-31 2003-10-06 キヤノン株式会社 画像処理装置、画像出力装置、画像出力システム、およびその方法
WO1994008314A1 (en) 1992-09-28 1994-04-14 Olympus Optical Co., Ltd. Dot code and information recording/reproducing system for recording/reproducing dot code
US5371551A (en) 1992-10-29 1994-12-06 Logan; James Time delayed digital video system using concurrent recording and playback
US5596700A (en) 1993-02-17 1997-01-21 International Business Machines Corporation System for annotating software windows
US5638543A (en) 1993-06-03 1997-06-10 Xerox Corporation Method and apparatus for automatic document summarization
US5384703A (en) 1993-07-02 1995-01-24 Xerox Corporation Method and apparatus for summarizing documents according to theme
US5481666A (en) 1993-08-25 1996-01-02 Taligent, Inc. Object-oriented navigation system
US5485554A (en) 1993-10-29 1996-01-16 Hewlett-Packard Company Method and apparatus for processing an image in a video printing apparatus
US5623679A (en) 1993-11-19 1997-04-22 Waverley Holdings, Inc. System and method for creating and manipulating notes each containing multiple sub-notes, and linking the sub-notes to portions of data objects
US5583980A (en) 1993-12-22 1996-12-10 Knowledge Media Inc. Time-synchronized annotation method
JPH0818703A (ja) 1994-04-28 1996-01-19 Xerox Corp システム動作方法
JP2916373B2 (ja) 1994-06-02 1999-07-05 オリンパス光学工業株式会社 情報記録媒体及び情報再生装置
US5864332A (en) 1994-06-29 1999-01-26 Canon Business Machines, Inc. Scalable edit window and displayable position indicators for an electronic typewriter
US5600775A (en) 1994-08-26 1997-02-04 Emotion, Inc. Method and apparatus for annotating full motion video and other indexed data structures
US5675752A (en) 1994-09-15 1997-10-07 Sony Corporation Interactive applications generator for an interactive presentation environment
US5758037A (en) 1994-10-25 1998-05-26 Hewlett-Packard Company Print controller with simplified video data processing
US5946678A (en) 1995-01-11 1999-08-31 Philips Electronics North America Corporation User interface for document retrieval
US5694559A (en) 1995-03-07 1997-12-02 Microsoft Corporation On-line help method and system utilizing free text query
US5717940A (en) 1995-04-28 1998-02-10 Ricoh Company, Ltd. Method of selecting a target document using features of an example page
JPH0944592A (ja) 1995-05-23 1997-02-14 Olympus Optical Co Ltd 情報再生システム
US5870770A (en) 1995-06-07 1999-02-09 Wolfe; Mark A. Document research system and method for displaying citing documents
US5978773A (en) 1995-06-20 1999-11-02 Neomedia Technologies, Inc. System and method for using an ordinary article of commerce to access a remote computer
US5778397A (en) 1995-06-28 1998-07-07 Xerox Corporation Automatic method of generating feature probabilities for automatic extracting summarization
US5838317A (en) 1995-06-30 1998-11-17 Microsoft Corporation Method and apparatus for arranging displayed graphical representations on a computer interface
IL114432A (en) 1995-07-03 1999-08-17 Wiernik Ady Multi-media method
JP3698273B2 (ja) 1995-07-20 2005-09-21 ソニー株式会社 電子番組ガイド伝送装置および方法、電子番組ガイド受信装置および方法、並びに電子番組ガイド送受信システムおよび方法
CA2233023A1 (en) 1995-09-25 1997-04-03 Edward A. Taft Optimum access to electronic documents
US5737599A (en) 1995-09-25 1998-04-07 Rowe; Edward R. Method and apparatus for downloading multi-page electronic documents with hint information
US5781785A (en) 1995-09-26 1998-07-14 Adobe Systems Inc Method and apparatus for providing an optimized document file of multiple pages
JP2960340B2 (ja) 1995-10-20 1999-10-06 富士ゼロックス株式会社 データ検索方法及び装置
US5706097A (en) 1995-11-13 1998-01-06 Eastman Kodak Company Index print with a digital recording medium containing still images, motion sequences, and sound sequences
JP3606401B2 (ja) 1995-11-30 2005-01-05 富士通株式会社 文書検索装置および方法
JP3432348B2 (ja) 1996-01-30 2003-08-04 三菱電機株式会社 代表画像表示方法、代表画像表示装置およびこの装置を用いた動画検索装置
US5832474A (en) 1996-02-26 1998-11-03 Matsushita Electric Industrial Co., Ltd. Document search and retrieval system with partial match searching of user-drawn annotations
US5873107A (en) 1996-03-29 1999-02-16 Apple Computer, Inc. System for automatically retrieving information relevant to text being authored
US5721897A (en) 1996-04-09 1998-02-24 Rubinstein; Seymour I. Browse by prompted keyword phrases with an improved user interface
US5933841A (en) 1996-05-17 1999-08-03 Ameritech Corporation Structured document browser
US5745756A (en) 1996-06-24 1998-04-28 International Business Machines Corporation Method and system for managing movement of large multi-media data files from an archival storage to an active storage within a multi-media server computer system
US6098082A (en) 1996-07-15 2000-08-01 At&T Corp Method for automatically providing a compressed rendition of a video program in a format suitable for electronic searching and retrieval
US5751283A (en) 1996-07-17 1998-05-12 Microsoft Corporation Resizing a window and an object on a display screen
US6021403A (en) 1996-07-19 2000-02-01 Microsoft Corporation Intelligent user assistance facility
US6628303B1 (en) 1996-07-29 2003-09-30 Avid Technology, Inc. Graphical user interface for a motion video planning and editing system for a computer
AU3908297A (en) 1996-08-06 1998-02-25 Starsight Telecast Incorporated Electronic program guide with interactive areas
JPH1044513A (ja) 1996-08-07 1998-02-17 Olympus Optical Co Ltd コード印刷装置及びそれに適用されるコード印刷媒体
US5895476A (en) 1996-09-09 1999-04-20 Design Intelligence, Inc. Design engine for automatic reformatting for design and media
US6026409A (en) 1996-09-26 2000-02-15 Blumenthal; Joshua O. System and method for search and retrieval of digital information by making and scaled viewing
US5892536A (en) 1996-10-03 1999-04-06 Personal Audio Systems and methods for computer enhanced broadcast monitoring
US5986692A (en) 1996-10-03 1999-11-16 Logan; James D. Systems and methods for computer enhanced broadcast monitoring
US5790114A (en) 1996-10-04 1998-08-04 Microtouch Systems, Inc. Electronic whiteboard with multi-functional user interface
US5943679A (en) 1996-10-30 1999-08-24 Xerox Corporation Multi-page document viewer having a focus image and recursively nested images of varying resolutions less than the resolution of the focus image
WO1998020411A1 (en) 1996-11-08 1998-05-14 Neomedia Technologies, Inc. Automatic access of electronic information through machine-readable codes on printed documents
US6006218A (en) 1997-02-28 1999-12-21 Microsoft Methods and apparatus for retrieving and/or processing retrieved information as a function of a user's estimated knowledge
US6028601A (en) 1997-04-01 2000-02-22 Apple Computer, Inc. FAQ link creation between user's questions and answers
US6211869B1 (en) 1997-04-04 2001-04-03 Avid Technology, Inc. Simultaneous storage and network transmission of multimedia data with video host that requests stored data according to response time from a server
US6038573A (en) 1997-04-04 2000-03-14 Avid Technology, Inc. News story markup language and system and process for editing and processing documents
US5784616A (en) 1997-05-02 1998-07-21 Microsoft Corporation Apparatus and methods for optimally using available computer resources for task execution during idle-time for future task instances exhibiting incremental value with computation
WO1998051035A1 (en) 1997-05-09 1998-11-12 Neomedia Technologies, Inc. Method and system for accessing electronic resources via machine-readable data on intelligent documents
US6125229A (en) 1997-06-02 2000-09-26 Philips Electronics North America Corporation Visual indexing system
US5987454A (en) 1997-06-09 1999-11-16 Hobbs; Allen Method and apparatus for selectively augmenting retrieved text, numbers, maps, charts, still pictures and/or graphics, moving pictures and/or graphics and audio information from a network resource
US6567980B1 (en) 1997-08-14 2003-05-20 Virage, Inc. Video cataloger system with hyperlinked output
US6518986B1 (en) 1997-10-17 2003-02-11 Sony Corporation Method and apparatus for providing an on-screen guide for a multiple channel broadcasting system
US6546405B2 (en) 1997-10-23 2003-04-08 Microsoft Corporation Annotating temporally-dimensioned multimedia content
US6055542A (en) 1997-10-29 2000-04-25 International Business Machines Corporation System and method for displaying the contents of a web page based on a user's interests
US7263659B2 (en) 1998-09-09 2007-08-28 Ricoh Company, Ltd. Paper-based interface for multimedia information
US6744936B2 (en) * 1997-12-30 2004-06-01 Imagetag, Inc. Apparatus and method for simultaneously managing paper-based documents and digital images of the same
US7039857B2 (en) 1998-09-11 2006-05-02 Genesys Telecommunications Laboratories, Inc. Method and apparatus for building multimedia applications using interactive multimedia viewers
US6101503A (en) 1998-03-02 2000-08-08 International Business Machines Corp. Active markup--a system and method for navigating through text collections
WO1999050736A1 (en) 1998-04-01 1999-10-07 Xerox Corporation Paper indexing of recordings
US6665490B2 (en) * 1998-04-01 2003-12-16 Xerox Corporation Obtaining and using data associating annotating activities with portions of recordings
US6122647A (en) 1998-05-19 2000-09-19 Perspecta, Inc. Dynamic generation of contextual links in hypertext documents
TW456147B (en) 1998-05-20 2001-09-21 Sony Computer Entertainment Inc Information process device, method, providing media, recording media, and amusement systems
US6370498B1 (en) 1998-06-15 2002-04-09 Maria Ruth Angelica Flores Apparatus and methods for multi-lingual user access
US6623528B1 (en) 1998-07-22 2003-09-23 Eastman Kodak Company System and method of constructing a photo album
US6243713B1 (en) 1998-08-24 2001-06-05 Excalibur Technologies Corp. Multimedia document retrieval by application of multimedia queries to a unified index of multimedia data for a plurality of multimedia data types
US6369811B1 (en) 1998-09-09 2002-04-09 Ricoh Company Limited Automatic adaptive document help for paper documents
US7215436B2 (en) 1998-09-09 2007-05-08 Ricoh Company, Ltd. Device for generating a multimedia paper document
US6745234B1 (en) 1998-09-11 2004-06-01 Digital:Convergence Corporation Method and apparatus for accessing a remote location by scanning an optical code
US6684368B1 (en) 1998-11-13 2004-01-27 Ricoh Company, Ltd. Method for specifying delivery information for electronic documents
AU3215000A (en) 1999-02-01 2000-08-18 Barpoint.Com, Inc. Interactive system for investing products on a network
US6651053B1 (en) 1999-02-01 2003-11-18 Barpoint.Com, Inc. Interactive system for investigating products on a network
WO2000052596A2 (en) 1999-03-04 2000-09-08 Cardiff Software, Inc. Automated form generation into an advanced page layout format with embedded field definitions
US6647535B1 (en) * 1999-03-18 2003-11-11 Xerox Corporation Methods and systems for real-time storyboarding with a web page and graphical user interface for automatic video parsing and browsing
US6542933B1 (en) 1999-04-05 2003-04-01 Neomedia Technologies, Inc. System and method of using machine-readable or human-readable linkage codes for accessing networked data resources
US6538665B2 (en) 1999-04-15 2003-03-25 Apple Computer, Inc. User interface for presenting media information
US6546385B1 (en) 1999-08-13 2003-04-08 International Business Machines Corporation Method and apparatus for indexing and searching content in hardcopy documents
US6732915B1 (en) 1999-09-10 2004-05-11 Fuji Xerox Co., Ltd. Systems and methods for controlling a presentation using physical objects
US6865714B1 (en) 1999-09-22 2005-03-08 Siemens Corporate Research, Inc. Automatic generation of card-based presentation documents from multimedia data
US7653925B2 (en) 1999-11-17 2010-01-26 Ricoh Company, Ltd. Techniques for receiving information during multimedia presentations and communicating the information
KR100724619B1 (ko) 1999-12-14 2007-06-04 톰슨 라이센싱 멀티미디어 포토 앨범
US6421067B1 (en) 2000-01-16 2002-07-16 Isurftv Electronic programming guide
US6608563B2 (en) 2000-01-26 2003-08-19 Creative Kingdoms, Llc System for automated photo capture and retrieval
WO2001059623A2 (en) 2000-02-08 2001-08-16 Onepage, Inc. System and method for dynamic aggregation of content distributed over a computer network
US6766363B1 (en) 2000-02-28 2004-07-20 Barpoint.Com, Inc. System and method of linking items in audio, visual, and printed media to related information stored on an electronic network using a mobile device
US6675165B1 (en) 2000-02-28 2004-01-06 Barpoint.Com, Inc. Method for linking a billboard or signage to information on a global computer network through manual information input or a global positioning system
US7577901B1 (en) * 2000-03-15 2009-08-18 Ricoh Co., Ltd. Multimedia document annotation
US7191392B1 (en) * 2000-03-23 2007-03-13 Virpack.Com System and method for the creation of virtual information packages
US20010047426A1 (en) 2000-03-31 2001-11-29 Hunter Kevin D. Device-based routing for web content retrieval
US6781609B1 (en) 2000-05-09 2004-08-24 International Business Machines Corporation Technique for flexible inclusion of information items and various media types in a user interface
US6505153B1 (en) 2000-05-22 2003-01-07 Compaq Information Technologies Group, L.P. Efficient method for producing off-line closed captions
JP2001344429A (ja) 2000-05-31 2001-12-14 Noritsu Koki Co Ltd 情報配信システム、情報配信装置、情報受信装置、情報配信方法、情報配信プログラムを記録した記録媒体、情報受信方法、情報受信プログラムを記録した記録媒体
US7051271B1 (en) * 2000-05-31 2006-05-23 Fuji Xerox Co., Ltd. Method, system and article of manufacture for linking a video to a scanned document
US20020095460A1 (en) 2000-06-13 2002-07-18 Michael Benson System and method for serving integrated streams of multimedia information
EP1314083A2 (en) 2000-08-04 2003-05-28 Copan Inc. Method and system for presenting digital media
TW528967B (en) 2000-08-29 2003-04-21 Ibm System and method for locating on a physical document items referenced in an electronic document
JP2002202389A (ja) 2000-10-31 2002-07-19 Sony Corp 時計情報内容配信処理システム、情報配信装置、情報配信システム、携帯端末装置、情報記録媒体及び情報処理方法
EP1205838A3 (en) 2000-11-07 2007-10-10 Matsushita Electric Industrial Co., Ltd. Carryable memory media, portable information terminal using the same and method for managing files therein
US20020120939A1 (en) 2000-12-18 2002-08-29 Jerry Wall Webcasting system and method
US6833927B2 (en) 2001-01-23 2004-12-21 Xerox Corporation Method and apparatus for automatically detecting a paper user interface
JP2002278984A (ja) * 2001-03-22 2002-09-27 Fujitsu Ltd 文書管理装置
US20020135808A1 (en) 2001-03-22 2002-09-26 Parry Travis J. Method and apparatus for printing video data
US7260771B2 (en) * 2001-04-26 2007-08-21 Fuji Xerox Co., Ltd. Internet-based system for multimedia meeting minutes
US7058891B2 (en) * 2001-05-25 2006-06-06 Learning Tree International, Inc. Interface for a system of method of electronic presentations having multiple display screens with remote input
US6836870B2 (en) 2001-06-15 2004-12-28 Cubic Corporation Method and system for incorporating a dynamic situation display in a powerpoint slide show presentation
JP2002101398A (ja) * 2001-07-05 2002-04-05 Fuji Xerox Co Ltd 電子会議システム
US20030009342A1 (en) 2001-07-06 2003-01-09 Haley Mark R. Software that converts text-to-speech in any language and shows related multimedia
JP2003115039A (ja) * 2001-07-11 2003-04-18 Ricoh Co Ltd 文書ファイリング装置、文書ファイリング方法、プログラムおよび記憶媒体
US20030065665A1 (en) 2001-09-28 2003-04-03 Fuji Photo Film Co., Ltd. Device, method and recording medium for information distribution
US7743347B2 (en) 2001-11-19 2010-06-22 Ricoh Company, Ltd. Paper-based interface for specifying ranges
US7861169B2 (en) 2001-11-19 2010-12-28 Ricoh Co. Ltd. Multimedia print driver dialog interfaces
US20040181815A1 (en) 2001-11-19 2004-09-16 Hull Jonathan J. Printer with radio or television program extraction and formating
JP2003242059A (ja) 2002-02-18 2003-08-29 Sharp Corp 情報配信装置、情報端末装置、情報配信システム、情報配信方法およびプログラムを記録した機械読取り可能な記録媒体
GB2386464B (en) 2002-03-13 2005-08-24 Hewlett Packard Co Photo album with provision for media playback
JP3940012B2 (ja) * 2002-03-27 2007-07-04 富士通株式会社 マッチングプログラムおよびマルチメディアコンテンツ編集プログラム
GB2388242A (en) 2002-04-30 2003-11-05 Hewlett Packard Co Associating audio data and image data
JP2004021165A (ja) 2002-06-20 2004-01-22 Matsushita Electric Ind Co Ltd 液晶表示装置
US20040006577A1 (en) 2002-07-02 2004-01-08 Malcolm Rix Method for managing media files
US20040015524A1 (en) 2002-07-19 2004-01-22 Chalstrom Robert Eugene Method and apparatus for managing digitally-stored media files
CN100391248C (zh) 2002-09-27 2008-05-28 富士胶片株式会社 相册制作方法及其装置
CN100407782C (zh) 2002-09-27 2008-07-30 富士胶片株式会社 相册制作方法及其装置
JP4213447B2 (ja) 2002-09-27 2009-01-21 富士フイルム株式会社 アルバム作成方法および装置並びにプログラム
US7415667B2 (en) 2003-01-31 2008-08-19 Ricoh Company, Ltd. Generating augmented notes and synchronizing notes and document portions based on timing information
US7086032B2 (en) * 2003-02-20 2006-08-01 Adobe Systems Incorporated System and method for representation of object animation within presentations of software application programs
US7206773B2 (en) 2003-04-11 2007-04-17 Ricoh Company, Ltd Techniques for accessing information captured during a presentation using a paper document handout for the presentation
MXPA05013191A (es) 2003-06-06 2006-03-09 Neomedia Tech Inc Acceso automatico de contenido de internet con telefono celular habilitado con camara.
US20050041872A1 (en) 2003-08-20 2005-02-24 Wai Yim Method for converting PowerPoint presentation files into compressed image files

Also Published As

Publication number Publication date
US7779355B1 (en) 2010-08-17
JP2005293589A (ja) 2005-10-20

Similar Documents

Publication Publication Date Title
JP4833573B2 (ja) 複合的な電子表現物を作成する方法、装置及びデータ処理システム
JP6904449B2 (ja) レビューされた1つ以上の文書へのリンクを含む会議レビュー文書の生成
US11849196B2 (en) Automatic data extraction and conversion of video/images/sound information from a slide presentation into an editable notetaking resource with optional overlay of the presenter
US7979786B1 (en) Techniques for retrieving multimedia information using a paper-based interface
US7263659B2 (en) Paper-based interface for multimedia information
US7263671B2 (en) Techniques for annotating multimedia information
US7266568B1 (en) Techniques for storing multimedia information with source documents
Erol et al. Linking multimedia presentations with their symbolic source documents: algorithm and applications
JP4634101B2 (ja) プレゼンテーションの間にキャプチャされた情報を該プレゼンテーション用の紙文書配布物を用いてアクセスする手法
JP5140949B2 (ja) ディジタル情報を処理する方法、システム及び装置
US7215436B2 (en) Device for generating a multimedia paper document
US7266782B2 (en) Techniques for generating a coversheet for a paper-based interface for multimedia information
US8539344B2 (en) Paper-based interface for multimedia information stored by multiple multimedia documents
US7703044B2 (en) Techniques for generating a static representation for time-based media information
JP2020149689A (ja) 記録されたメディアからの提案された文書編集の、人工知能を用いた生成
JP2020149688A (ja) 記録されたメディアからの提案を含むための、既存のコンテンツ提案の人工知能を用いた更新
US7743347B2 (en) Paper-based interface for specifying ranges
US20140281855A1 (en) Displaying information in a presentation mode
JP2011082958A (ja) ビデオ検索システムおよびそのためのコンピュータプログラム
JP2004326761A (ja) ソース記号書類に関する動作を実行するための技術
JP2004240968A (ja) 増やされるメモ書類の生成
Boll et al. Semantics, content, and structure of many for the creation of personal photo albums
JP4250983B2 (ja) 連続データへのユーザデータ関連付け装置
Macedo et al. Interaction alternatives for linking everyday presentations
Hallman et al. Multimedia Technical Libraries: Informedia Digital Video Library System

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080328

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080328

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100914

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110201

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110331

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110913

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110922

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140930

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees