以下、本発明の一実施の形態について説明する。本発明に係る統合ファイル作成装置及び統合ファイル作成システムでは、カメラ、スキャナなどの入力装置による入力毎に作成される断片情報が取得される。一方、利用者の体温,発汗,心拍数等が各種センサによって計測されて、断片情報の作成時における利用者の感情や利用者を取り巻く状況等のコンテクストが推定されて、このコンテクストの推定結果が断片情報に付加される。そして、各断片情報に付加されたコンテクストの推定結果に基づいて、各断片情報が編集されて統合ファイルが作成される装置及びシステムである。尚、統合ファイルとは、文書データのみを示すものではなく、文書データ,静止画や動画である画像データ,表計算データ,音声データなどのマルチメディア情報を含むデジタルデータを示す。
第1の実施の形態では、本発明の統合ファイル作成装置の一例として、カメラ、スキャナなどの入力装置と、利用者の体温,発汗,心拍数等を計測する各種センサとが接続され、さらにコンテクストの推定や統合ファイルの作成等を実行するための各種機能を備えており、1つの装置に本発明に必要な構成を具備させた統合ファイル作成装置1について、以下説明する。
まず、図1乃至図3を参照して、第1の実施の形態に係る統合ファイル作成装置1の構成について説明する。図1は、統合ファイル作成装置1の構成を示すブロック図である。図2は、統合ファイル作成装置1のRAM130の記憶エリアの構成を示す概念図である。図3は、統合ファイル作成装置1のHDD140の記憶エリアの構成を示す概念図である。
図1に示すように、統合ファイル作成装置1には、統合ファイル作成装置1の制御を司るCPU110が設けられている。このCPU110には、バス115を介し、CPU110が実行するBIOS等のプログラムを記憶したROM120と、データを一時的に記憶するRAM130と、データの記憶装置であるハードディスクドライブ(以下、「HDD」という。)140とが接続されている。また、RAM130には、各種センサから計測された情報に基づいてコンテクストを推定するためのコンテクスト定義テーブルと、断片データのデータ形式を変換するためのメディア変換テーブルと、複数の断片データを編集して統合ファイルを作成する際の編集ルールを定めた編集ルールテーブルが記憶されているが、詳細は後述する。
さらに、外部機器との通信を行うためのUSBインタフェース150と、利用者に操作画面や各種情報を表示するためのディスプレイ161の画面表示処理を行う表示制御部160と、利用者が音声入力を行うためのマイク171及び音声を出力するためのスピーカ172の音声情報の入出力制御のための処理を行う音声制御部170と、各種機器からの入力の検知を行う入力検知部180とが、バス115を介してCPU110に接続されている。また、現在日時や時間間隔をカウントするためのタイマ190が、バス115を介してCPU110に接続されている。
USBインタフェース150には、画像や文字などを読取って画像情報を取得するスキャナ151と、人物や風景等を撮影して画像情報を取得するカメラ152と、他のコンピュータであるパーソナルコンピュータ153とが、外部機器として接続されている。そして、スキャナ151やカメラ152が取得した画像情報や、パーソナルコンピュータ153が記憶する文字、画像又は音声の各種情報が、USBインタフェース150を介して、統合ファイル作成装置1に取り込み可能に構成されている。このように、統合ファイル作成装置1はさまざまな外部の入力機器と接続でき、利用者は異なる場所や時間に、それらの入力機器から各種情報を入力できる。
また、入力検知部180には、利用者が統合ファイル作成装置1を操作したり、文字情報を入力したりするためのボタンやスイッチを備えた入力パネル181と、利用者の体温を計測する体温センサ182と、利用者の発汗状態を計測するための発汗センサ183と、利用者の心拍数を計測するための心拍数センサ184とが接続されている。体温センサ182、発汗センサ183及び心拍数センサ184は、有効に利用者の体温、発汗、心拍数を測定できれば、その位置や計測手法は問わないが、好適には、利用者が統合ファイル作成装置1を保持した場合に、その利用者の掌が接触する統合ファイル作成装置1における位置に、これらのセンサの読み取り部が設けられている。なお、入力パネル181には、統合ファイル作成装置1に対して、統合ファイルの作成の実行を指示するための実行ボタンも設けられている。
なお、第1の実施の形態の統合ファイル作成装置1では、コンテクストの推定、断片データの作成及び統合ファイルの作成の際に実行されるモジュールの一つとして、統合ファイル作成プログラムが実行される。統合ファイル作成装置1には、図示外のCD−ROMドライブ、フロッピー(登録商標)ディスクドライブ、各種インタフェースなども設けられており、導入時には、CD−ROM等の外部の記憶媒体やネットワークを介して外部の記憶装置から、HDD140上のプログラム記憶エリア142や情報記憶エリア143(図3参照)に、統合ファイル作成プログラムがセットアップされて記憶されるようになっている。
次に、図2に示すように、統合ファイル作成装置1のRAM130には、プログラムの実行中の一時的なデータを記憶するワークエリア131と、入力された各種情報を一時的に記憶する入力情報記憶エリア132と、出力すべき各種情報を一時的に記憶する出力情報記憶エリア133とが設けられている。さらに、RAM130には、図示外の各種記憶エリアが設けられている。
また、図3に示すように、統合ファイル作成装置1のHDD140には、統合ファイル作成装置1の動作を制御するためCPU110が実行する各種のプログラム等を記憶したオペレーティングシステム(OS)記憶エリア141と、統合ファイル作成装置1で実行される各種のプログラムや統合ファイル作成プログラムを記憶したプログラム記憶エリア142と、プログラムの実行に必要な設定や初期値、データ等の情報を記憶した情報記憶エリア143と、画像、文字及び音声の入力情報である断片情報に基づいて作成された断片データを記憶する断片データ記憶エリア144と、断片データに基づいて作成された統合ファイルを記憶する統合ファイル記憶エリア145とが設けられている。なお、後述のコンテクスト定義テーブル,編集ルールテーブル,メディア変換テーブルなどの各種テーブル情報は、情報記憶エリア143に記憶されている。
次に、図4及び図5を参照して、第1の実施の形態に係る統合ファイル作成装置1における処理の概要について説明する。図4は、統合ファイル作成装置1の構成を機能別に示す機能ブロック図である。図5は、統合ファイル作成装置1におけるデータ構成の変遷を示す図である。
図4に示すように、統合ファイル作成装置1は複数の入力手段10が接続され、画像、文字及び音声の入力情報である断片情報が入力される。一方、利用者の体温,発汗,心拍数等の利用者情報を計測する複数のセンサ11が接続され、センサ11により計測された利用者情報に基づいて、コンテクスト推定手段12はコンテクスト定義テーブル13を参照して、利用者の感情、雰囲気及び状態等を示すコンテクストが推定される。コンテクスト定義テーブル13には、あらかじめ利用者情報とコンテクストの対応が定義されている。
この推定されたコンテクストに基づいて、コンテクスト情報作成手段14によりコンテクストの種別とその強弱を示すコンテクスト値とを含むコンテクスト情報が作成される。そして、断片データ作成手段15により断片情報にコンテクスト情報が付加されて、断片データが作成される。作成された断片データは、断片データ記憶手段16に記憶される。
図5に示すように「断片データ作成」において、入力手段10から画像、文字及び音声が入力された断片情報200(断片情報A)は、主にヘッダー部とデータ部から構成されている。また、コンテクスト情報作成手段14により作成されたコンテクスト情報300(コンテクスト情報A)は、主にヘッダー部とコンテクストデータ部から構成されている。このような断片情報200(断片情報A)及びコンテクスト情報300(コンテクスト情報A)から、断片データ作成手段15により断片データ400a(断片データA)が作成される。その結果、断片データ400a(断片データA)は、ヘッダー部の他に、データ部とコンテクストデータ部とを含む構成となっている。図5では、断片データ400として断片データ400a(断片データA)の他に、断片データ400b(断片データB),断片データ400c(断片データC),断片データ400d(断片データD)が作成されており、これらの断片データ400は断片データ記憶手段16に保存される。このように、入力手段10から入力された断片情報200の全てについて、コンテクスト情報300が付加されて断片データ400が作成される。
図4に戻り、利用者より統合ファイル作成が指示された等の所定のタイミングで、「統合ファイル作成」が実行される。統合ファイル作成手段17は、断片データ記憶手段16に記憶された複数の断片データ400を編集して統合ファイル600を作成する処理が実行される。また、断片データ400のデータ形式を変換する必要がある場合は、メディア変換手段18によりデータ形式を変換するための変換情報を定義したメディア変換テーブル19が参照されて、断片データ400のデータ形式の変換が実行される。
統合ファイル作成手段17により断片データ400が編集される際は、統合ファイルの体裁や順序を定める編集ルールを具備する編集ルールテーブル20が参照されて、断片データ400に含まれるコンテクストの情報に基づいて統合ファイル600が作成される。統合ファイル作成手段17により作成された統合ファイル600は、統合ファイル記憶手段21に保存される。
図5に示すように「統合ファイル作成」においては、統合ファイル作成手段17により、断片データ記憶手段16に記憶された断片データ400a,400b,400c,400dが編集されて統合ファイル600が作成される。このとき、統合ファイル600の体裁や順序を定める編集ルールに基づいて統合ファイル600が作成されるが、詳細は後述する。なお、図5では統合ファイル600が作成される過程で縫合データ500がされている。断片データ400a及び400cが合成された縫合データ500e(縫合データE)と、断片データ400b及び400dが合成された縫合データ500f(縫合データF)とが作成されて、この縫合データ500e及び500fが合成されて統合ファイル600が作成されている。その結果、統合ファイル600は、ヘッダー部の他に、各断片データ400a,400b,400c,400dのデータ部とコンテクストデータ部とを含む構成となっている。以上のようにして、複数の断片データ400から統合ファイル600が作成される。
なお、上記のような各機能を具備する統合ファイル作成装置1のうち、第1の実施の形態においては、スキャナ151、カメラ152、パーソナルコンピュータ153及び入力パネル181が、本発明の「入力手段」10に相当する。また、体温センサ182、発汗センサ183、心拍数センサ184が、本発明の「センサ」11に相当する。
そして、プログラム記憶エリア142に記憶されている統合ファイル作成プログラムを実行して後述のフローチャートを処理するCPU110が、本発明の「コンテクスト推定手段」12,「コンテクスト情報作成手段」14,「断片データ作成手段」15,「統合ファイル作成手段」17,「メディア変換手段」18に相当する。
また、本発明の「コンテクスト定義テーブル」13,「編集ルールテーブル」20,「メディア変換テーブル」19は、HDD140の情報記憶エリア143に各々の記憶領域が確保されている。また、HDD140の断片データ記憶エリア144が、本発明の「断片データ記憶手段」16に相当し、HDD140の統合ファイル記憶エリア145が、本発明の「統合ファイル記憶手段」21に相当する(図4参照)。
以下、本発明の統合ファイル作成装置1における処理の流れを、図面を参照して説明する。本発明の統合ファイル作成装置1では、[1]各種センサから計測された利用者情報に基づいてコンテクストが推定されて、コンテクスト情報が作成される処理(コンテクスト推定処理)、[2]各種入力手段から断片情報が入力されると、その断片情報にコンテクスト情報が付加されて断片データが作成される処理(断片データ作成処理)、[3]複数の断片データが編集されて統合ファイルが作成される処理(統合ファイル作成処理)、が主要な処理として実行される。
これらの処理により、入力された音声、画像、文字などの各種の断片情報を、雰囲気、感情、重要度などのコンテクストに基づいて編集し、利用者のコンテクストを反映した1つの統合ファイルが作成される。以下では、一例として、コンテクストが「感動」であるものとし、断片情報を入力した当時の利用者の「感動」の度合いによって、統合ファイルが作成される場合を説明する。
まず、[1]コンテクスト推定処理について、図6乃至図11を参照して説明する。図6は、コンテクスト推定処理のメインフローチャートである。図7は、キャリブレーション処理(S14)の詳細を示すフローチャートである。図8は、計測処理(S15)の詳細を示すフローチャートである。図9は、推定処理(S16)の詳細を示すフローチャートである。図10は、コンテクスト定義テーブル13の概要を示す図である。図11は、S17で作成されたコンテクスト情報300のデータ構成を示す図である。なお、コンテクスト推定処理は、統合ファイル作成装置1の電源がONされて起動されると、その処理が開始されるものとする。
図6に示すように、まず、利用者から利用者情報を計測するための各種センサが初期化される(S11)。本実施の形態においては、体温センサ182,発汗センサ183,心拍数センサ184が設けられており、それぞれ利用者の体温,発汗,心拍数を利用者情報として計測する。そして、統合ファイル作成装置1が起動されると、S11ではこれらのセンサが初期化される。
そして、所定の測定間隔時間がタイマ190にセットされる(S12)。測定間隔時間は、後述のキャリブレーション処理(S14)においてキャリブレーション測定が実行される時間間隔である。S12ではあらかじめ定められた値が、測定間隔時間としてセットされるが、利用者又は設計者が任意の値を設定するようにしてもよい。また、所定の計測間隔時間がタイマ190にセットされる(S13)。計測間隔時間は、後述の計測処理(S15)が実行される時間間隔である。この計測間隔時間も、測定間隔時間と同様に、利用者又は設計者が任意の値を設定するようにしてもよい。
次に、各種タイマによる計測値の平均である基準値を取得するためのキャリブレーション処理が実行される(S14)。
図7に示すように、まず測定回数の初期化がなされ(S21)、このキャリブレーション処理が実行されるキャリブレーション時間がタイマ190にセットされる(S22)。S22ではあらかじめ定められた値が、キャリブレーション時間としてセットされるが、利用者又は設計者が任意の値を設定するようにしてもよい。
そして、キャリブレーション時間を終了(経過)しておらず(S23:NO)、かつ、コンテクスト推定処理(図6参照)のS12で設定された測定間隔時間が終了(経過)していれば(S24:YES)、各センサの出力が測定される(S25)。本実施の形態においては、体温センサ182,発汗センサ183,心拍数センサ184が設けられているから、それぞれ利用者の体温,発汗,心拍数について出力された計測値が取得される。なお、測定間隔時間が終了(経過)していない場合は(S24:NO)、測定間隔時間が終了(経過)するまで、S24において待ち状態となる。その後、測定回数が増加されて(S26)、S23へ戻る。
そして、S23でキャリブレーション時間を終了(経過)していない場合には(S23:NO)、再び、測定間隔時間の経過後(S24:YES)、各センサの出力が測定される(S25)。このように、S22においてセットされたキャリブレーション時間が終了(経過)するまで、測定間隔時間毎に各センサの出力の測定が繰り返される(S23〜S26)。
一方、キャリブレーション時間の経過後は(S23:YES)、各センサ毎の測定値の平均値が算出される(S27)。例えば、体温センサ182により測定間隔時間毎に測定された複数の体温の測定値を全て加算し、その加算値をS26により取得された測定回数で除算する等して、体温センサ182の測定値の平均値が算出される。そして、S27で算出された各センサの基準値は、RAM130に設けられた基準値エリア(図示外)に保存される(S28)。
その後、図6に戻り、各センサが利用者から利用者情報を計測する計測処理が実行される(S15)。
図8に示すように、まず計測回数の初期化がなされ(S31)、計測回数のセットがなされた後(S32)、各センサの出力が計測される(S33)。そして、S33による各センサの計測値から、RAM130に設けられた基準値エリアに記憶された各センサの基準値が減算された増分値が算出される(S34)。例えば、S33において、体温センサ182により現在の利用者の体温が計測値36.5℃として計測された場合に、体温センサ182の基準値36.0℃であれば、増分値0.5℃が算出されることになる。その後、計測回数が増加されて(S35)、S32でセットされた計測回数が終了していなければ(S36:NO)、その計測回数を終了するまで、各センサの出力の測定が繰り返される(S33〜S36)。S34においては、1回の計測毎の増分値がその都度前回までの増分値に加算されていく。S32でセットされた計測回数が終了すると(S36:YES)、S32によりセットされた計測回数で、各センサ毎に増分値を除算して、各センサ毎の増分値の平均値が算出される(S37)。
その後、図6に戻り、利用者のコンテクストを推定するコンテクスト推定処理が実行される(S16)。
図9に示すように、まず、各センサから利用者情報の状態変化を示すフラグである状態変数がクリアされる(S41)。本実施の形態では、体温センサ182が計測する体温についての第2bit、発汗センサ183が計測する発汗についての第1bit、心拍数センサ184が計測する心拍数についての第0bit、の3つのビットを状態変数として有している。そして、計測処理(S15)で算出された各センサ毎の増分値の平均値に基づいて、利用者情報の変化を判定する。
最初に、体温センサ182から計測された体温の増分値の平均値(体温増分値)と、体温に関する基準値(体温閾値)とが比較される(S42)。基準値(閾値)は、キャリブレーション処理(図7)のS28で、各センサの基準値エリアに保存された値である。その結果、体温増分値が体温閾値よりも大きければ(S42:YES)、第2bitが「ON」にセットされる(S43)。一方、体温増分値が体温閾値よりも大きくない場合(S42:NO)、そのまま次のステップ(S44)へ進む。同様に、発汗センサ183が計測する発汗についても、その増分値の平均値(発汗増分値)と発汗に関する基準値(発汗閾値)とが比較され(S44)、その結果、発汗増分値が発汗閾値よりも大きければ(S44:YES)、第1bitが「ON」にセットされる(S45)。一方、発汗増分値が発汗閾値よりも大きくない場合(S44:NO)、そのまま次のステップ(S46)へ進む。また、心拍数センサ184が計測する心拍数についても、その増分値の平均値(心拍数増分値)と心拍数に関する基準値(心拍数閾値)とが比較され(S46)、その結果、心拍数増分値が心拍数閾値よりも大きければ(S46:YES)、第0bitが「ON」にセットされる(S47)。一方、心拍数増分値が心拍数閾値よりも大きくない場合(S46:NO)、そのまま次のステップ(S48)へ進む。
その後、状態変数の第2bit,第1bit,第0bitまでのパターンに対応するコンテクスト種別及びコンテクスト値が、コンテクスト定義テーブル13から取得される(S48)。図10に示すように、コンテクスト定義テーブル13は、コンテクストの種別を示すコンテクスト種別13aと、各センサにより計測された利用者情報の変化状態を示すセンサ状態13bと、利用者のコンテクストの強弱を数値で示すコンテクスト値13cとをデータ項目として具備している。そして、各々のデータ項目の対応を、テーブル形式で定義している。先述のように、本実施の形態では利用者のコンテクスト「感動」に基づいて統合ファイルが作成されるから、参照されるコンテクスト定義テーブル13もコンテクスト「感動」に関するものである。よって、そのコンテクスト種別13aは「感動」に関するコンテクストの種別が定義されており、利用者の「感動」の強弱によって「大興奮」から「無感動(平常)」までの複数のコンテクストの種別が存在している。また、その「感動」の強弱を数値で表したコンテクスト値13cが定義され、例えば、コンテクスト種別13aが「大興奮」であれば、そのコンテクスト値13cは最大値の「100」である。なお、図10に示すコンテクスト定義テーブル13は、コンテクスト「感動」に関するものであるから、コンテクスト値13cは感動値(E)とも表示される。
そして、S48では、S42〜S47によりセットされた状態変数によってセンサ状態13bが特定されるから、このセンサ状態13bに対応するコンテクスト種別13aやコンテクスト値13cが取得される。なお、第2bit〜第0bitが、それぞれ「ON」がセットされている場合には、センサ状態13bにおいては「UP」と判定される。例えば、第2bit「ON」,第1bit「ON」,第0bit「OFF」の場合は、コンテクスト種別13a「混乱」でコンテクスト値13c「10」が、コンテクスト定義テーブル13を参照して取得される。
その後、図6に戻り、推定処理(S16)で取得されたコンテクスト種別13a及びコンテクスト値13cに基づいて、所定のヘッダー部などを付加したコンテクスト情報300が作成されて(S17)、RAM130のコンテクスト情報記憶エリア(図示しない)に保存される(S18)。コンテクスト情報300の保存については、前回のコンテクスト情報300に上書き保存してもよいし、HDD140にログとして過去から現在までのコンテクスト情報300を保存してもよい。すなわち、最新のコンテクスト情報300が参照できるのであれば、いずれの保存形態でもよい。なお、本実施の形態では、RAM130のコンテクスト情報記憶エリアに、最新のコンテクスト情報300のみが記憶されるものとする。
図11に示すように、コンテクスト情報300は、データの各種特性を示す詳細情報が格納されたコンテクストヘッダー部301と、データの本体部であるコンテクストデータ部304とから構成される。コンテクストヘッダー部301には、コンテクストヘッダー部301のサイズ情報302、コンテクストデータ部304のサイズ情報303とが含まれている。また、コンテクストデータ部304には、S48で取得されたコンテクスト種別13aとコンテクスト値13cとが含まれている。
その後、S12でセットされた計測間隔時間を終了(経過)していれば(S19:YES)、S15に戻り、最新のコンテクスト情報300を取得する処理を繰り返す(S15〜S18)。一方、計測間隔時間を終了(経過)していなければ(S19:NO)、S19において待ち状態となる。以上のように、統合ファイル作成装置1が動作している間は、計測間隔時間毎に最新の利用者のコンテクスト情報300が取得される。
次に、[2]断片データ作成処理について、図12乃至図15を参照して説明する。図12は、断片情報200のデータ構成を示す図である。図13は、断片データ作成処理のメインフローチャートである。図14は、断片データ作成実行処理(S74)の詳細を示すフローチャートである。図15は、断片データ400のデータ構成を示す図である。
本処理の前提として、異なる場所や時間において、利用者が各種の入力機器から入力した情報が統合ファイル作成装置1に記憶されているものとする。すなわち、統合ファイル作成装置1に接続されたスキャナ151,カメラ152,パーソナルコンピュータ153などの外部機器や、マイク171や入力パネル181などの入力手段によって、統合ファイル作成装置1に文字、画像又は音声の入力された断片情報200が、RAM130の入力情報記憶エリア132(図2参照)に格納されるものとする。
図12に示すように、断片情報200は、データの各種特性を示す詳細情報が格納されたヘッダー部201と、データの本体部であるデータ部206とから構成される。ヘッダー部201には、ヘッダー部201のサイズ情報202と、データ部206のサイズ情報203と、データ部206のメディア種類204と、データ部206のフォーマット情報205とが含まれている。また、データ部206には、文字、画像又は音声の入力されたデータ本体が格納されている。
そして、断片データ作成処理では、入力情報記憶エリア132に断片情報200が格納されると、断片データ400の作成が実行されるものとして、以下説明を続ける。
図13に示すように、まず、あらかじめ定められた監視インターバル時間がセットされる(S71)。本実施の形態では、一定間隔ごとに入力情報記憶エリア132に格納された断片情報200を検知するところ、監視インターバル時間はこの検知処理が実行される時間間隔を定める。そして、S71でセットされた監視インターバル時間が終了(経過)していれば(S72:YES)、入力情報記憶エリア132に未処理の断片情報200があるか否かが判定される(S73)。断片情報200の処理済又は未処理の判定は、断片情報200のファイル名に基づいて行う。具体的には、処理済の断片情報200は、そのファイル名の先頭に「done_」という識別子が付与されるようにして、S73ではファイル名に「done_」が付与されていないファイルの断片情報200は、未処理であると判定する。
未処理の断片情報200が入力情報記憶エリア132に存在すると判定された場合(S73:YES)、断片データ作成実行処理(S74)が実行される。一方、監視インターバル時間を終了(経過)していない場合(S72:NO)、または未処理の断片情報200が入力情報記憶エリア132に存在しないと判定された場合(S73:NO)、S72において監視インターバル時間の終了(経過)の待ち状態となる。
図14に示すように、断片データ作成実行処理(S74)では、S73において未処理と判定された断片情報200が読込まれ(S81)、また、コンテクスト情報記憶エリアに保存されている最新のコンテクスト情報300が読込まれる(S82)。そして、S81で読込まれた断片情報200と、S82で読込まれたコンテクスト情報300とに基づいて、断片データ400が作成される(S83)。S83では、作成される断片データ400のヘッダー部が、断片情報200のヘッダー部201の情報と、コンテクスト情報300のコンテクストヘッダー部301の情報とを含むように作成される。また、断片データ400のデータ部が、断片情報200のデータ部206の情報と、コンテクスト情報300のコンテクストデータ部304の情報とを含むように作成される。
その結果、図15に示すように、断片データ400は、データの各種特性を示す詳細情報が格納された断片データヘッダー部401と、データの本体部である断片データデータ部404とから構成される。断片データヘッダー部401には、断片データヘッダー部401のサイズ情報402と、断片データ400の作成時刻情報403と、データ部2060のサイズ情報203、データ部206のメディア種類204と、データ部206のフォーマット情報205と、コンテクストデータ部304のサイズ情報303とが含まれている。また、断片データデータ部404には、コンテクストデータ部304とデータ部206が含まれている。なお、先述の断片情報200及びコンテクスト情報300と、実質的に同一のデータには同一符号が付与されている(図11及び図12参照)。
以上のようにして、S83で作成された断片データ400は、HDD140の断片データ記憶エリア144に保存される(S84)。その後、図13に戻り、断片情報200のリネームが実行される(S75)。すなわち、上記の処理を実行した断片情報200については、そのファイル名の先頭に「done_」という識別子が付与される。これにより、「done_」という識別が付与されてリネームされた断片情報200は、S73の判定処理において処理済と判定されて、断片データ作成の対象とならないようにしている。
以上のように、利用者から文字、音声、画像などの断片情報200の入力があった場合には、それが異なる場所や時間に入力されたものであっても、最新の利用者のコンテクスト情報300と、入力された断片情報200とに基づいて、断片データ400が作成される。
次に、[3]統合ファイル作成処理について、図16乃至図22を参照して説明する。図16は、統合ファイル作成処理のメインフローチャートである。図17は、断片データリスト900のデータ構成を示す図である。図18は、メディア変換テーブル19の概要を示す図である。図19は、「X文」作成処理(S103,S104,S105,S106)の詳細を示すフローチャートである。図20は、編集ルールテーブル20のデータ構成を示す図である。図21は、「X文」構成リスト910のデータ構成を示す図である。図22は、統合ファイル600のデータ構成を示す図である。
なお、統合ファイル作成処理は、統合ファイル作成装置1において入力パネル181などから統合ファイル作成が指示された場合に、その処理が開始されるものとする。また、本実施の形態では、複数の断片データ400を並べ替えて編集することによって1つの統合ファイルを作成する場合を説明する。また、本実施の形態では、「序文」、「主文」、「跋文」、「補足文」の4つのセクションから構成される統合ファイルが、複数の断片データ400から作成される場合を、一例として説明する。
図16に示すように、まず、HDD140の断片データ記憶エリア144内の断片データリスト900が作成される(S101)。断片データリスト900は、断片データ記憶エリア144に保存された断片データ400を一覧表示するためのインデックスであり、S101により、図17のような断片データリスト900が作成される。図17では、断片データ記憶エリア144に保存されているn個の断片データ400が示されている。
次に、メディアの変換先が指定される(S102)。断片データ400のデータ部206(図15参照)は、音声、画像、文字などの様々なメディア種類204のものがあり、また同じメディア種類204であってもフォーマット情報205が異なる場合がある。また、利用者が統合ファイルに使用したいメディア種類やフォーマット情報などが、断片データ400(データ部206)のメディア種類204やフォーマット情報205などと異なる場合がある。そこで、統合ファイル600が作成される前に、断片データ400(データ部206)をどのようなメディア種類やフォーマット情報に変換すべきかを、S102のメディアの変換先の指定により設定する。このメディアの変換先の指定は、図18に示すメディア変換テーブル19を参照して指定することで実行されるが、利用者が入力パネル181から任意に指定してもよいし、自動的にデフォルトの指定がなされるようにしてもよい。
メディア変換テーブル19は、変換元のメディアと変換後のメディアを対応付けたテーブルであり、変換元の断片データ400(データ部206)が文字,音声,画像の各メディア種類204である場合に、それを変換先の文字,音声,画像の各メディア種類に変換する際の、データ変換処理の内容が示されている。このようなメディア変換テーブル19を参照して、例えば、変換元の断片データ400(データ部206)のメディア種類204が「音声」に対して、変換先として「文字」を指定する。すると、メディア種類204が「音声」の断片データ400(データ部206)は、「音声認識」の処理がなされて「文字」のデータに変換された後に統合ファイル600として編集される。同様に、メディア種類204が「画像」や「音声」についても、変換先のメディア種類を指定する。また、変換元の断片データ400(データ部206)のフォーマット情報205についても、変換先のフォーマット情報を指定する。
次に、序文作成処理(S103)、主文作成処理(S104)、跋文作成処理(S105)、補足文作成処理(S106)が実行される。これらは、各々「序文」、「主文」、「跋文」、「補足文」の4つのセクションを作成する処理であるが、その処理内容は共通しているため、以下では「X文」作成処理として説明する。
図19に示すように、「X文」作成処理では、まず空の「X文」構成リスト910が作成される(S121)。この「X文」作成処理が序文作成処理(S103)であれば、「X文」構成リスト910は序文構成リストとなる。次に、編集ルールテーブル20から分類「X文」のコンテクスト値及び優先編集順序が取得される(S122)。編集ルールテーブル20は、複数の断片データ400が編集される規則や順序を示す編集ルールを示すものである。図20に示すように、編集ルールテーブル20は、統合ファイルのセクションを示す分類20a、断片データ400のコンテクスト値20b、統合ファイル編集時における優先順序を定めた優先編集順序20cを、データ項目として備えている。S122では、編集ルールテーブル20から「X文」に対応する分類20aをもとに、コンテクスト値20b及び優先編集順序20cが取得される。例えば、「X文」が序文である場合、コンテクスト値20bとして「70以上80未満」が、優先編集順序20cとして「コンテクスト値昇順>作成時間順」が取得される。
次に、S122で取得されたコンテクスト値20bに基づいて、下限閾値と上限閾値がセットされる(S123)。コンテクスト値20bのうち、最小値が下限閾値に、最大値が上限閾値に、それぞれセットされる。例えば、「X文」が序文である場合、コンテクスト値20b「70以上80未満」であるから、下限閾値「70」、上限閾値「80」となる。
その後、断片データリスト900の全てのファイルについてチェックしたか否かが判定される(S124)。その結果、チェックしていないと判定された場合は(S124:NO)、そのチェックしていない断片データ400のコンテクストデータ部304からコンテクスト値が取得される(S125)。そして、そのコンテクスト値と下限閾値とを比較して、そのコンテクスト値が下限閾値以上であるか否かが判定され(S126)、下限閾値以上であると判定された場合は(S126:YES)、さらにそのコンテクスト値と上限閾値とを比較して、そのコンテクスト値が上限閾値未満であるか否かが判定される(S127)。すなわち、断片データ400に含まれるコンテクスト値が、コンテクスト値20bで示される値に含まれるか否かが判定される。
その結果、断片データ400に含まれるコンテクスト値が下限閾値以上と判定され(S126:YES)、かつ上限閾値未満であると判定された場合は(S127:YES)、断片データリスト900から当該断片データ400が削除されて(S128)、当該断片データ400が「X文」構成リスト910に追加される(S129)。一方、断片データ400に含まれるコンテクスト値が下限閾値未満と判定され(S126:NO)、または上限閾値以上であると判定された場合は(S127:NO)、S124へ戻る。これにより、断片データリスト900に登録された全ての断片データ400について、S124〜S129の処理が実行される。
断片データリスト900の全てのファイルについてチェックしたと判定された場合(S124:YES)、S122で取得された優先編集順序20cに基づいて、優先編集順序がセットされ(S130)、この優先編集順序に従って、「X文」構成リスト910に追加された断片データ400のソートが実行される(S131)。例えば、S124〜S129の処理によって、m個の断片データ400が「X文」構成リスト910に追加されている場合に、優先編集順序「コンテクスト値昇順>作成時間順」でソートが実行される。すると、図21に示すように、断片データファイル名910cに追加されたm個の断片データ400は、コンテクスト値910aを第1キーとして昇順にソートされ、また、コンテクスト値が同じ場合には作成時間910bを第2キーとしてソートされる。
次に、断片データ記憶エリア144に保存されている断片データ400のうち、「X文」構成リスト910に追加されたものについて、メディア変換テーブル19に基づいてメディア変換処理が実行される(S132)。具体的には、該当する断片データ400(データ部206)のメディア種類204及びフォーマット情報205を取得して、メディア変換テーブル19を参照して、データ変換処理の内容を取得する。そして、断片データ400(データ部206)は、このデータ変換処理に従ってデータ変換が実行され、変換先のメディア種類及びフォーマット情報のデータが取得される。例えば、変換元の断片データ400(データ部206)のメディア種類204「音声」で及びフォーマット情報205「MPEG」である場合には、メディア変換テーブル19に基づいて「音声認識」の処理がなされて、変換先のメディア種類「文字」及びフォーマット情報「TXT」のデータに変換される。
このように、「X文」構成リスト910に登録されている断片データ400が、統合ファイル作成処理(図16)のS102で指定されたメディアに変換された後、S131でソートされた順序に従って1つの縫合データとして編集される縫合処理が実行される(S133)。この「X文」作成処理が、序文作成処理(S103)である場合、S133の縫合処理で序文データが作成される。同様に、主文作成処理(S104)では主文データが、跋文作成処理(S105)では跋文データが、補足文作成処理(S106)では補足文データが、それぞれ作成される。
図16に戻り、統合ファイルの各セクション毎(序文,主文,跋文,補足文)の縫合データが作成されたら、それらをさらに縫合する処理が行われる。まず、序文データと主文データとを1つの縫合データに編集する縫合処理が実行される(S107)。この時、編集される順序は、序文データが先、主文データが後となるように縫合されて、(序文+主文)データが作成される。同様に、跋文データと補足文データとを1つの縫合データに編集する縫合処理が実行されて(S108)、(跋文+補足文)データが作成される。
最後に、(序文+主文)データと(跋文+補足文)データとを縫合して、1つの統合ファイルを作成する縫合処理が実行される(S109)。この時、編集される順序は、(序文+主文)データが先、(跋文+補足文)データが後となるように縫合されて、(序文+主文+跋文+補足文)というセクション構成の統合ファイルが作成される。S109で作成された統合ファイル600は、HDD140の統合ファイル記憶エリア145に保存される(S110)。
図22に示すように、統合ファイル600は、データの各種特性を示す詳細情報が格納された統合ファイルヘッダー部601と、データの本体部である統合ファイルデータ部607とから構成される。統合ファイルヘッダー部601には、統合ファイルヘッダー部601のサイズ情報602と、統合データ部609のサイズ情報603と、統合コンテクストデータ部608のサイズ情報604とが含まれている。さらに、統合ファイルヘッダー部601には、統合断片データヘッダー部605と、断片データ400の個数606とが含まれ、断片データ400の個数606で示されたn個分の断片データヘッダー部401が存在する。
断片データヘッダー部401には、当該断片データ400の作成時刻情報403,データ部206のサイズ情報203,データ部206のメディア種類204,データ部206のフォーマット情報205,コンテクストデータ部304のサイズ情報303が含まれている。また、統合ファイルデータ部607には、統合コンテクストデータ部608と、統合データ部609とが含まれており、それぞれ断片データ400のn個分のコンテクストデータ部304とデータ部206とが格納されている。なお、先述の断片データ400と、実質的に同一のデータには同一符号が付与されている(図15参照)。
以上のように、複数の断片データ400が含まれた1つの統合ファイル600が作成される。そして、統合ファイル600においては、複数の断片データ400が各セクション毎(序文,主文,跋文,補足文)に、「X文」構成リスト910でソートされた順序で編集されている。すなわち、統合ファイル600は、利用者のコンテクストに対応した順序や規則によって、各断片データ400が編集されたものであり、この統合ファイル600は断片情報200の入力時における利用者のコンテクストを反映した内容及び構成となっている。
すなわち、第1の実施の形態の断片データ作成装置によれば、統合ファイル作成装置1が動作している間は、計測間隔時間毎に最新の利用者のコンテクスト情報300が取得される。利用者から文字、音声、画像などの断片情報200の入力があった場合には、最新の利用者のコンテクスト情報300と、入力された断片情報200とに基づいて、断片データ400が作成される。統合ファイル600の作成時には、コンテクスト情報300に基づいて複数の断片データ400を編集して統合ファイル600が作成される。よって、異なる時間や場所において様々な入力装置を用いて作成された断片情報200を、コンテクスト情報300に基づいて編集して統合ファイル600を作成することで、利用者の統合ファイル作成の負担と手間を軽減し、利用者のニーズに合致した体裁や順序で統合ファイル600を作成できる。
次に、第2の実施の形態の統合ファイル作成システムについて説明する。第2の実施の形態の統合ファイル作成システムは、第1の実施の形態における[1]コンテクスト推定処理と[2]断片データ作成処理とが実行される携帯端末装置2と、[3]統合ファイル作成処理が実行される編集装置3とが、ネットワークを介して接続された統合ファイル作成システムを構成する。
まず、図23乃至図25を参照して、第2の実施の形態に係る統合ファイル作成システムの構成について説明する。図23は、携帯端末装置2の構成を示すブロック図である。図24は、編集装置3の構成を示すブロック図である。図25は、第2の実施の形態における、統合ファイル作成システムの構成を機能別に示す機能ブロック図である。
図23に示すように、携帯端末装置2は基本的に図1に示す統合ファイル作成装置1と同じ構成であって同一の符号が付与されているが、作成された断片データ400を編集装置3へ送信するための通信制御部191を備える点で異なる。また、図24に示すように、編集装置3にはCPU810,ROM820,RAM830,HDD840,ディスプレイ861が接続された表示制御部860,マイク871及びスピーカ872が接続された音声制御部870,マウス881及びキーボード882が接続された入力検知部880が、バス815を介して具備されている。このような編集装置3の構成は、通常のコンピュータ機器の構成として公知のものであるから、詳細は省略する。なお、編集装置3には、携帯端末装置2から送信された断片データ400を受信するための通信制御部891が備えられている。
図25に示すように、第2の実施の形態における統合ファイル作成システムの機能ブロック図は、第1の実施の形態における統合ファイル作成装置1(図4)のものと基本的に同一であるが、携帯端末装置2及び編集装置3で全体の機能を構成している点で異なる。また、携帯端末装置2は、断片データ作成手段15により作成された断片データ400を編集装置3へ送信する断片データ送信手段22を具備している。一方、編集装置3は、断片データ送信手段22から送信された断片データ400を受信する断片データ受信手段23を具備している。この断片データ受信手段23により受信された断片データ400は、断片データ記憶手段16に保存される。なお、通信制御部191が、本発明の「断片データ送信手段」22に相当し、通信制御部891が、本発明の「断片データ受信手段」23に相当する。
また、統合ファイル作成プログラムのうち、第1の実施の形態における[1]コンテクスト推定処理と[2]断片データ作成処理を実行するためのプログラムは、携帯端末装置2に記憶されており、このプログラムを実行するCPU110が、本発明の「コンテクスト推定手段」12,「コンテクスト情報作成手段」14,「断片データ作成手段」15に相当する。また、統合ファイル作成プログラムのうち、[3]統合ファイル作成処理を実行するためのプログラムは、編集装置3に記憶されており、このプログラムを実行するCPU810が、「統合ファイル作成手段」17,「メディア変換手段」18に相当する。
また、本発明の「コンテクスト定義テーブル」13は、携帯端末装置2のHDD140に記憶領域が確保される。一方、本発明の「編集ルールテーブル」20,「メディア変換テーブル」19,「統合ファイル記憶手段」21は、編集装置3のHDD840にそれぞれ記憶領域が確保される。
このような構成において、携帯端末装置2では、第1の実施の形態と同様に、[1]コンテクスト推定処理と[2]断片データ作成処理が実行されて、HDD140に断片データ400が保存されると、その断片データ400は通信制御部191によりネットワークを介して編集装置3へ送信される。編集装置3では、携帯端末装置2から送信された断片データ400を通信制御部891により受信されて、HDD840の断片データ記憶エリア(図示せず)に保存されるように制御される。そして、編集装置3では、ネットワークを介して収集された複数の断片データ400をもとに統合ファイル600が作成される。
以上説明したように、第2の実施の形態の統合ファイル作成システムによれば、断片データ400を作成する携帯端末装置2と、統合ファイル600を作成する編集装置3とをネットワークを介して接続された構成としたので、携帯端末装置2と編集装置3とが離間した構成にすることができ、より自由な構成を可能とする統合ファイル作成システムを提供することができる。
次に、第3の実施の形態の統合ファイル作成システムについて説明する。第3の実施の形態の統合ファイル作成システムでは、複数の携帯端末装置2がネットワークを介して編集装置3と接続されており、各携帯端末装置2を有する利用者毎の統合ファイル600を作成するものである。
以下、図26及び図27を参照して、第3の実施の形態に係る統合ファイル作成システムの構成について説明する。図26は、第3の実施の形態における、統合ファイル作成システムの全体構成図である。図27は、第3の実施の形態における、統合ファイル作成システムの構成を機能別に示す機能ブロック図である。
図26に示すように、複数の携帯端末装置2a〜2nは、1つの編集装置3とネットワーク1000を介して接続されている。ネットワーク1000は、有線又は無線を問わず、有効に接続されていればよい。また、本実施の形態では、編集装置3は1つであるが、編集装置3が複数設けられてもよい。
図27に示すように、第3の実施の形態における統合ファイル作成システムの機能ブロック図は、第2の実施の形態における統合ファイル作成システム(図25)のものと基本的に同一であるが、携帯端末装置2は、各携帯端末装置2の利用者に固有の認証情報を断片データ400に付加する認証情報付加手段24を具備している。また、編集装置3が、断片データ400に付加されている認証情報に基づいて、各断片データ400が正規の利用者のものであるか否かを認証する認証実行手段25を具備している。さらに、本実施の形態における統合ファイル作成手段17は、認証情報に基づいて、利用者毎の統合ファイル600を作成する機能を具備している。
統合ファイル作成プログラムのうち、認証情報を断片データ400に付加するためのプログラムが、携帯端末装置2に記憶されており、このプログラムを実行するCPU110が、本発明の「認証情報付加手段」24に相当する。また、統合ファイル作成プログラムのうち、断片データ400に付加された認証情報に基づいて認証を実行するためのプログラムが、編集装置3に記憶されており、このプログラムを実行するCPU810が「認証実行手段」25に相当する。
このような構成において、携帯端末装置2では、第2の実施の形態と同様に、[1]コンテクスト推定処理と[2]断片データ作成処理が実行される。[2]断片データ作成処理の実行により、各携帯端末装置2の利用者に固有の認証情報が付加された断片データ400が作成される。そして、HDD140に断片データ400が保存されると、その断片データ400は通信制御部191によりネットワークを介して編集装置3へ送信される。
編集装置3では、携帯端末装置2から送信された断片データ400を通信制御部891により受信される。受信された断片データ400は、付加されている認証情報に基づいて、正規の利用者のものか否かが認証される。その結果、正規の利用者のものであると認証が成立した場合は、当該断片データ400はHDD840の断片データ記憶エリア(図示せず)に保存され、認証が成立しない場合は、当該断片データ400が破棄される。そして、ネットワークを介して複数の携帯端末装置2から収集された複数の断片データ400をもとに統合ファイル600が作成される。この時、断片データ400に付加されている認証情報に基づいて、利用者毎に統合ファイル600が作成される。
以上説明したように、第3の実施の形態の統合ファイル作成システムによれば、断片データ400を作成する携帯端末装置2と、複数の携帯端末装置2とがネットワークを介して編集装置3と接続されて、認証情報に基づいて正規の利用者毎の統合ファイル600が作成されるようにしたので、正規の利用者の断片データ400のみを編集対象とすることができ、利用者別の統合ファイル600を自動的に作成することができる。
ところで、上記「第1の実施の形態」〜「第3の実施の形態」においては、先述のように、統合ファイル作成プログラムを実行して上記のフローチャートを処理するCPU110(CPU810)が、本発明の「コンテクスト推定手段」12,「コンテクスト情報作成手段」14,「断片データ作成手段」15,「統合ファイル作成手段」17,「メディア変換手段」18,「認証情報付加手段」24,「認証実行手段」25に相当する。より詳細には、コンテクスト推定処理(図6)を実行するCPU110が、「コンテクスト推定手段」12に相当し、コンテクスト推定処理(図6)のS17及びS18を実行するCPU110が、「コンテクスト情報作成手段」14に相当する。また、断片データ作成処理(図13)を実行するCPU110が、「断片データ作成手段」15に相当する。また、統合ファイル作成処理(図16)を実行するCPU110(CPU810)が、「統合ファイル作成手段」17に相当し、「X文」作成処理(図19)のS132を実行するCPU110(CPU810)が、「メディア変換手段」18に相当する。
なお、本発明は、以上詳述した「第1の実施の形態」〜「第3の実施の形態」に限定されるものではなく、各種の変形が可能なことはいうまでもない。
例えば、上記実施の形態では、利用者のコンテクストとして「感動」である場合を例に説明しているが、コンテクストは、利用者の感情や利用者を取り巻く状況等であればよい。コンテクストしては、「感動」,「悲しみ」,「怒り」,「楽しさ」,「賑やかさ」,「忙しさ」等の様々なものが適用可能であり、各コンテクストに対応するコンテクスト定義テーブル13が設定されればよい。例えば、利用者のコンテクスト「悲しみ」に基づいて、統合ファイルを編集したい場合は、コンテクスト「悲しみ」に対応するコンテクスト定義テーブル13が設定されればよい。
また、コンテクスト定義テーブル13には、あらかじめ任意のコンテクストについてのテーブルが利用者又は設計者によって設定されていてもよいし、複数のコンテクストの各々に対応する複数のテーブルがコンテクスト定義テーブル13にあらかじめ設定されており、コンテクスト推定処理(図6)において、自動的に最適なテーブルがコンテクスト定義テーブル13から選択されるようにしてもよい。
また、統合ファイル作成処理(図16)において、複数の断片データ400がどのような内容及び構成で編集されて統合ファイル600が作成されるかも、利用者又は設計者が任意に設定可能である。例えば、断片データ400に含まれるコンテクストデータ部304(図15参照)には、コンテクスト種別13aとコンテクスト値13cが示されているから(図10参照)、各コンテクスト種別13aのそれぞれについて断片データ400が編集されてもよい。また、コンテクスト値13cについて昇順又は降順にソートされるように編集されてもよい。
また、第3の実施の形態では、受信された断片データのうちで、認証実行手段25により正規の利用者のものと認証された断片データ400のみが編集装置3に保存されている。しかし、受信された断片データ400の全てを編集装置3に保存しておき、統合ファイル作成前に認証が実行されるようにしてもよい。
また、キャリブレーション処理(図7)では、サンプリング値を測定してその平均値を基準値として算定しているが、サンプリング値の時系列データを取得して、その推移の特徴に基づいて基準値を算定するようにしてもよい。また、異常なサンプリング値は除外して基準値を算定するようにしてもよい。また、推定処理(図9)における各センサの増分値と閾値との比較処理(S42,S44,S46)では、各センサ毎に変化閾値εを設けておき、閾値を変化閾値εで補正した補正値で、増分値との比較を実行してもよい。
また、各センサから計測される利用者情報は、体温、発汗及び心拍数に限定されないことはいうまでもない。例えば、利用者の振動、脳波、呼吸、加速度、傾き、バイオリズムなどを利用者情報として計測するようにしてもよい。