JP2005317151A - マルチメディアデータ同期再生方法、マルチメディアデータ同期再生装置およびマルチメディアデータ同期再生プログラム - Google Patents
マルチメディアデータ同期再生方法、マルチメディアデータ同期再生装置およびマルチメディアデータ同期再生プログラム Download PDFInfo
- Publication number
- JP2005317151A JP2005317151A JP2004135778A JP2004135778A JP2005317151A JP 2005317151 A JP2005317151 A JP 2005317151A JP 2004135778 A JP2004135778 A JP 2004135778A JP 2004135778 A JP2004135778 A JP 2004135778A JP 2005317151 A JP2005317151 A JP 2005317151A
- Authority
- JP
- Japan
- Prior art keywords
- data
- multimedia data
- time
- data collection
- time information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
- Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
【課題】本発明は、後刻での解析を容易とする新たなマルチメディアデータ同期再生技術の提供を目的とする。
【解決手段】データ収集装置に対して、同一のタイミングでマルチメディアデータの状態変化を引き起こす信号を出力し、それに応答して出力される各マルチメディアデータに付与されているデータ収集時刻情報を取得して、それらのデータ収集時刻情報に従って、マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出する。そして、この時間ずれを検出すると、時間同期再生の対象となるマルチメディアデータに付与されているデータ収集時刻情報を取得して、この検出した時間ずれとその取得したデータ収集時刻情報とに基づいて、時刻基準となるマルチメディアデータに時間同期させる形で、各マルチメディアデータを時間同期させて再生する。
【選択図】図2
【解決手段】データ収集装置に対して、同一のタイミングでマルチメディアデータの状態変化を引き起こす信号を出力し、それに応答して出力される各マルチメディアデータに付与されているデータ収集時刻情報を取得して、それらのデータ収集時刻情報に従って、マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出する。そして、この時間ずれを検出すると、時間同期再生の対象となるマルチメディアデータに付与されているデータ収集時刻情報を取得して、この検出した時間ずれとその取得したデータ収集時刻情報とに基づいて、時刻基準となるマルチメディアデータに時間同期させる形で、各マルチメディアデータを時間同期させて再生する。
【選択図】図2
Description
本発明は、映像・音声を含むマルチメディアデータや各種信号データが当該データの生成時刻と結びつけて蓄積された情報蓄積サーバと連携して、個別のデータ収集装置で収集された当該時系列データ集合間の時間同期をとりながら再生することにより、後刻での事後同期解析を可能とするマルチメディアデータ同期再生方法およびその装置と、そのマルチメディアデータ同期再生方法の実現に用いられるマルチメディアデータ同期再生プログラムとに関する。
従来、各種信号データを収集する場合、映像であればカメラやビデオレコーダやハードディスクやDVDレコーダ等、音声であればマイクやICレコーダ等、アナログ信号データであればパーソナルコンピュータ(以降、PCと記す)でのA/Dボード等を介したデータ収集装置といったような個々のデータに対応した専用の収集手段(データ収集装置)が用いられている。
また、下記の特許文献1に、データ収集をするための「マルチメディア・データ蓄積・再生装置」が開示されている。この装置では、個々の収集データをデジタルデータとしてPC上に収集し、各収集周期のデータに対して、単一の取得時刻生成装置によって得られる時刻情報を付与することで、各々のデータを時間同期させている。
特開平10−49209号公報
一般的に各種信号間で時間同期をとるためには、使用する複数のデータ収集手段における収集周期の違いや、収集開始時のデータ収集手段の初期化遅延等を考慮しなければならない。
しかしながら、上記従来の専用の収集手段を用いるデータ収集の方法では、それぞれのデータ間で時間同期をとることは困難である。
また、特許文献1に記載されている装置の場合には、個々のデータには、単一の取得時刻生成装置によって時刻情報が付与される。したがって、データ収集が開始されてから実際にデータが計測されるまでの遅延が各データ計測手段で異なる場合、データを計測した後に時刻情報合成装置にデータが転送されるまでの時間遅延が各データで異なるので、単一の取得時刻生成装置によって付与される時刻情報ではデータを時間同期させることは困難である。
本発明は、このような技術的課題を解決するためになされたものであって、それぞれ個別のデータ収集装置で収集されたマルチメディアデータ(各種信号データを含む)を、データグループの情報を用いて相互に関連付けて時間同期をとりながら再生・表示することにより、後刻での解析を容易とする新たなマルチメディアデータ同期再生技術の提供を目的とする。
〔1〕第1の構成
上記の目的を達成するために、本発明のマルチメディアデータ同期再生装置は、複数のデータ収集装置から情報蓄積装置に蓄積されたデータ収集時刻情報の付与されているマルチメディアデータ(各種信号データを含む)を同期再生する処理を行うものであって、この処理を実現するために、(イ)マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出する検出手段と、(ロ)マルチメディアデータに付与されているデータ収集時刻情報を取得する取得手段と、(ハ)取得手段の取得したデータ収集時刻情報と検出手段の検出した時間ずれとに基づいて、時刻基準となるマルチメディアデータに時間同期させる形で、マルチメディアデータを時間同期させて再生する再生手段と、(ニ)情報蓄積装置に蓄積されたマルチメディアデータに基づいて所定の加工データ(例えば、映像コンテンツに対する視聴者の注目度合いなどような履歴の活用データとなるもの)の時系列データを作成して、それを時間同期再生の対象となるマルチメディアデータの1つとして情報蓄積装置に保存する登録手段と、(ホ)情報蓄積装置から検索条件に合致するマルチメディアデータを検索することで、時間同期再生の対象となるマルチメディアデータを検索する検索手段とを備えるように構成する。
上記の目的を達成するために、本発明のマルチメディアデータ同期再生装置は、複数のデータ収集装置から情報蓄積装置に蓄積されたデータ収集時刻情報の付与されているマルチメディアデータ(各種信号データを含む)を同期再生する処理を行うものであって、この処理を実現するために、(イ)マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出する検出手段と、(ロ)マルチメディアデータに付与されているデータ収集時刻情報を取得する取得手段と、(ハ)取得手段の取得したデータ収集時刻情報と検出手段の検出した時間ずれとに基づいて、時刻基準となるマルチメディアデータに時間同期させる形で、マルチメディアデータを時間同期させて再生する再生手段と、(ニ)情報蓄積装置に蓄積されたマルチメディアデータに基づいて所定の加工データ(例えば、映像コンテンツに対する視聴者の注目度合いなどような履歴の活用データとなるもの)の時系列データを作成して、それを時間同期再生の対象となるマルチメディアデータの1つとして情報蓄積装置に保存する登録手段と、(ホ)情報蓄積装置から検索条件に合致するマルチメディアデータを検索することで、時間同期再生の対象となるマルチメディアデータを検索する検索手段とを備えるように構成する。
ここで、情報蓄積装置は、マルチメディアデータの蓄積の際に付与された一意のデータグループ名を用いて、時間同期再生の対象となるマルチメディアデータの集合を相互に関連付けて蓄積することがあり、これを受けて、上記の各手段は、同一のデータグループ名を持つマルチメディアデータを処理対象として処理を行うことがある。
この構成を採るときに、検出手段は、データ収集装置に対して、同一のタイミングでマルチメディアデータの状態変化を引き起こす信号を出力し、それに応答して出力される各マルチメディアデータに付与されているデータ収集時刻情報を取得して、それらのデータ収集時刻情報に従って、マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出することがある。
また、再生手段は、マルチメディアデータの再生速度を可変とする形態(早送り再生やスロー再生など)で、マルチメディアデータを時間同期させて再生することがある。
以上の各処理手段が動作することで実現される本発明のマルチメディアデータ同期再生方法はコンピュータプログラムで実現できるものであり、このコンピュータプログラムは、半導体メモリなどのような適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてCPUなどの制御手段上で動作することにより本発明を実現することになる。
〔2〕第2の構成
また、上記の目的を達成するために、本発明のマルチメディアデータ同期再生装置は、複数のデータ収集装置から情報蓄積装置に蓄積されたデータ収集時刻情報の付与されているマルチメディアデータ(各種信号データを含む)を同期再生する処理を行うものであって、この処理を実現するために、(イ)マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出する検出手段と、(ロ)マルチメディアデータのいずれかに状態変化が発生する場合に、その状態変化の発生したマルチメディアデータに付与されている状態変化発生時点のデータ収集時刻情報を取得する取得手段と、(ハ)取得手段の取得したデータ収集時刻情報と検出手段の検出した時間ずれとに基づいて、状態変化発生時点における他のマルチメディアデータに付与されているデータ収集時刻情報を特定する特定手段と、(ニ)取得手段の取得したデータ収集時刻情報と特定手段の特定したデータ収集時刻情報とに基づいて、状態変化発生時点における各マルチメディアデータを時間同期させて再生する再生手段と、(ホ)情報蓄積装置に蓄積されたマルチメディアデータに基づいて所定の加工データ(例えば、映像コンテンツに対する視聴者の注目度合いなどような履歴の活用データとなるもの)の時系列データを作成して、それを時間同期再生の対象となるマルチメディアデータの1つとして情報蓄積装置に保存する登録手段と、(ヘ)情報蓄積装置から検索条件に合致するマルチメディアデータを検索することで、時間同期再生の対象となるマルチメディアデータを検索する検索手段とを備えるように構成する。
また、上記の目的を達成するために、本発明のマルチメディアデータ同期再生装置は、複数のデータ収集装置から情報蓄積装置に蓄積されたデータ収集時刻情報の付与されているマルチメディアデータ(各種信号データを含む)を同期再生する処理を行うものであって、この処理を実現するために、(イ)マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出する検出手段と、(ロ)マルチメディアデータのいずれかに状態変化が発生する場合に、その状態変化の発生したマルチメディアデータに付与されている状態変化発生時点のデータ収集時刻情報を取得する取得手段と、(ハ)取得手段の取得したデータ収集時刻情報と検出手段の検出した時間ずれとに基づいて、状態変化発生時点における他のマルチメディアデータに付与されているデータ収集時刻情報を特定する特定手段と、(ニ)取得手段の取得したデータ収集時刻情報と特定手段の特定したデータ収集時刻情報とに基づいて、状態変化発生時点における各マルチメディアデータを時間同期させて再生する再生手段と、(ホ)情報蓄積装置に蓄積されたマルチメディアデータに基づいて所定の加工データ(例えば、映像コンテンツに対する視聴者の注目度合いなどような履歴の活用データとなるもの)の時系列データを作成して、それを時間同期再生の対象となるマルチメディアデータの1つとして情報蓄積装置に保存する登録手段と、(ヘ)情報蓄積装置から検索条件に合致するマルチメディアデータを検索することで、時間同期再生の対象となるマルチメディアデータを検索する検索手段とを備えるように構成する。
ここで、情報蓄積装置は、マルチメディアデータの蓄積の際に付与された一意のデータグループ名を用いて、時間同期再生の対象となるマルチメディアデータの集合を相互に関連付けて蓄積することがあり、これを受けて、上記の各手段は、同一のデータグループ名を持つマルチメディアデータを処理対象として処理を行うことがある。
この構成を採るときに、検出手段は、データ収集装置に対して、同一のタイミングでマルチメディアデータの状態変化を引き起こす信号を出力し、それに応答して出力される各マルチメディアデータに付与されているデータ収集時刻情報を取得して、それらのデータ収集時刻情報に従って、マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出することがある。
また、再生手段は、マルチメディアデータの再生速度を可変とする形態(早送り再生やスロー再生など)で、マルチメディアデータを時間同期させて再生することがある。
以上の各処理手段が動作することで実現される本発明のマルチメディアデータ同期再生方法はコンピュータプログラムで実現できるものであり、このコンピュータプログラムは、半導体メモリなどのような適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてCPUなどの制御手段上で動作することにより本発明を実現することになる。
〔3〕本発明の処理
このように構成される本発明のマルチメディアデータ同期再生装置では、情報蓄積装置に蓄積されるマルチメディアデータに付与されているデータグループ名に従い、同一データグループ名を持つマルチメディアデータを時間同期再生の対象とする。
このように構成される本発明のマルチメディアデータ同期再生装置では、情報蓄積装置に蓄積されるマルチメディアデータに付与されているデータグループ名に従い、同一データグループ名を持つマルチメディアデータを時間同期再生の対象とする。
データグループとは、情報蓄積装置内において、個々のデータ収集装置を用いて蓄積されたマルチメディアデータ、各種信号データの集合を管理する単位である。生成時刻情報つきの各収集データに対して、それぞれ一意のデータグループ名が付与されて情報蓄積装置に蓄積されており、本発明のマルチメディアデータ同期再生装置は、そのデータグループ名を用いて、時間同期させて再生しなければならない時系列データの集合を特定し、情報蓄積装置から表示に必要な時系列データをすべて取得することになる。
本発明のマルチメディアデータ同期再生装置は、このようにして時間同期再生の対象となるマルチメディアデータを取得することになるが、これらのマルチメディアデータの時間軸が完全に一致していないことを考慮して、例えば、データ収集装置に対して、同一のタイミングでマルチメディアデータの状態変化を引き起こす信号を出力し、それに応答して出力される各マルチメディアデータに付与されているデータ収集時刻情報を取得して、それらのデータ収集時刻情報に従って、マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出する。
そして、本発明のマルチメディアデータ同期再生装置は、この時間ずれを検出すると、(i)時間同期再生の対象となるマルチメディアデータに付与されているデータ収集時刻情報を取得して、この検出した時間ずれとその取得したデータ収集時刻情報とに基づいて、時刻基準となるマルチメディアデータに時間同期させる形で、各マルチメディアデータを時間同期させて再生したり、(ii)マルチメディアデータのいずれかに状態変化が発生する場合に、その状態変化の発生したマルチメディアデータに付与されている状態変化発生時点のデータ収集時刻情報を取得するとともに、この検出した時間ずれとその取得したデータ収集時刻情報とに基づいて、状態変化発生時点における他のマルチメディアデータに付与されているデータ収集時刻情報を特定して、それらのデータ収集時刻情報に基づいて、状態変化発生時点における各マルチメディアデータを時間同期させて再生する。
以上のように、本発明では、それぞれ個別のデータ収集装置で収集されたマルチメディアデータ(各種信号データを含む)をデータグループ名を用いて相互に関連付けて蓄積するようにして、データグループ名をキーとして時間同期再生の対象となるマルチメディアデータを相互にバインドし、かつ、それらを時間同期させて再生するという構成を採っており、これにより、後刻での事後解析が容易となることで、作業効率を大幅に向上できるようになるという効果が期待できる。
以下に、添付の図面を用いて本発明の構造と動作を説明する。なお、以下の説明は本発明の理解を助けるものであって、本発明の特許請求範囲を制限するものではない。
図1に、本発明を具備するマルチメディアデータ同期再生システムのシステム構成の一例を図示する。
この図において、1はデジタル信号情報を出力するセンシング装置、2はアナログ信号情報を出力するセンシング装置、3はPCなどの端末、4はセンシング装置2が出力するアナログ情報をA/D変換し収集するA/D変換装置(PCや専用ハードなどで実装される)、6は時刻配信装置、7は情報蓄積サーバ、9はクライアント、10は収集データ(マルチメディアデータ)の時系列データを時間同期させながら再生する本発明により構成される同期再生装置である。また、5および8は各装置を相互に接続する通信網で、それらの実現手段は有線、無線を問わない。
なお、図1では、情報蓄積サーバ7と同期再生装置10とが通信網8でネットワーク接続された2台装置構成となっているが、同一のハードウェア装置1台で実装してもかまわない。
ここで、本発明を実現すべく備えられる同期再生装置10はコンピュータとプログラムとによっても実現できるものであり、このプログラムについては記録媒体に記録することで提供することも可能であるし、ネットワークを通じて提供することも可能である。
図2に、本発明を具備するマルチメディアデータ同期再生システムを構成する各装置の装置構成の一例を図示する。
この図に示すように、同期再生装置10は、クライアント9からのデータ取得リクエストを受け付けるリクエスト受信部100と、クライアント9からの検索リクエストを受け付ける検索部101と、データ取得リクエストや検索リクエストの指定するデータグループ名を識別するデータグループ識別部102と、収集データの信号変化を検出する信号変化検出部103と、収集するデータに信号変化を発生させる信号変化発生部104と、信号変化発生部104の発生させた信号変化を使って収集データに付与されている時刻情報の補正式を導出する時刻補正式導出部105と、時刻補正式導出部105の導出した時刻補正式に従って、収集データに付与されている時刻情報を補正する時刻情報補正部106と、情報蓄積サーバ7から同一データグループ名を持つ収集データ(映像やデータ)を取得して、それらをバインドするデータ取得・バインド部107と、データ取得・バインド部107の取得した映像を再生する映像再生部108と、データ取得・バインド部107の取得したデータからグラフを生成して表示するグラフ生成部109と、映像再生部108やグラフ生成部109の表示する表示コンポーネントを制御する表示コンポーネント制御部110とを備える。
クライアント9は、同期再生装置10にデータ取得リクエストを送信するリクエスト送信部90と、同期再生装置10に検索リクエストを送信する検索条件入力部91と、同期再生装置10に再生速度を指示する再生速度入力部92とを備える。
時刻配信装置6は、時刻配信部60を備えて、例えばNTP(Network Time Protocol )サーバとして実装される。NTPはインターネットで標準的に利用されている時刻情報プロトコルであり、インターネットに接続される各装置は、回線の速度や経路の負荷変化に対応した高精度な時刻情報を取得できるという特長を有する。したがって、既存のNTPサーバを用いることで、容易に、後述するデータ収集部20の時間軸とデータ収集部21の時間軸との間の同期をとることができる。
図中に示す破線で囲った部分は、センシング装置1や端末3やA/D変換装置4のそれぞれが備える機能であり、20,21はデータ収集部、22はデータ収集部20に対応付けて備えられる収集時刻生成部、23はデータ収集部21に対応付けて備えられる収集時刻生成部、24はデータ収集部20に対応付けて備えられる時刻情報付与部、25はデータ収集部21に対応付けて備えられる時刻情報付与部、26はデータ収集部20に対応付けて備えられるデータグループ付与部、27はデータ収集部21に対応付けて備えられるデータグループ付与部である。
このデータ収集部20,21は、周期的または任意の時間にデータの収集を行う手段であり、センサ、カメラ、マイク、アナログ入出力ボード、A/D変換ボード等がある。
収集時刻生成部22,23は、時刻配信装置6にアクセスして独立に時刻を刻みながら時刻情報を対応する時刻情報付与部24,25に転送する手段であり、例えば、センサコントローラやデータ収集を行うPCの内部クロック等の時刻を生成する処理モジュールとして実現される。
時刻情報付与部24,25は、データ収集部20,21によって収集されたデータに対して、収集時刻生成部22,23で生成された時刻情報を付与して、データグループ付与部26,27に送信する手段であり、例えば、センサコントローラやデータ収集を行うPCの処理モジュールとして実現される。
データグループ付与部26,27は、時刻情報が付与された上記の各収集データに対して同一のデータグループ名を付与して(データ収集の開始から終了までの一連の収集データに対して同一のデータグループ名を付与する)、情報蓄積サーバ7の備えるデータ受信部70に送信する手段であり、PCなどの処理モジュールとして実現される。
情報蓄積サーバ7は、データ受信部70とデータ蓄積部71とを備える。
このデータ受信部70は、上記の各収集データを、時刻情報付与部24,25によって付与された時刻情報およびデータグループ付与部26,27によって付与されたデータグループの名称の情報とともにネットワーク経由で逐次受信する手段であり、PCなどの処理モジュールとして実現される。
データ蓄積部71は、データ受信部70によって受信された各収集データ、時刻情報およびデータグループ名の情報を相互にバインドし、時系列順に逐次蓄積、格納していく手段であり、ハードディスクなどの磁気記憶装置およびPCなどの処理モジュールによって実装される。
次に、同期再生装置10の備える信号変化検出部103、信号変化発生部104、時刻補正式導出部105および時刻情報補正部106について説明する。
同期再生装置10の備える信号変化検出部103は、カメラワークが変わる映像カット点や音量レベルの急激な変化を自動的に検知し、データ蓄積部71に蓄積されている時刻情報が付与されたデータから映像・音声信号データが変化した時刻を検出する手段であり、PCの処理モジュールとして実現される。
ここで、映像カット点の検出に関しては、例えば、特許2839132 号公報に記載されているような映像カット点の検出方法を用いることもできるし、単純にフレーム間差分を計算し、閾値処理するような方法を用いてもよい。
同期再生装置10の備える信号変化発生部104は、データ収集部20,21に対して、外部から強制的に同一のタイミングでもって、その出力信号に状態変化を起こさせる信号を与える手段であり、PCの処理モジュールとして実現される。
同期再生装置10の備える時刻補正式導出部105は、信号変化発生部104により発生したデータ収集部20,21の状態変化個所のデータの時刻情報を取得して(データ蓄積部71から直接取得したり、信号変化検出部103を介して取得する)、それらの時刻情報に基づいて、データ収集部20の時間軸とデータ収集部21の時間軸とを合わせるための補正式を導出する手段であり、PCの処理モジュールとして実現される。
同期再生装置10の備える時刻情報補正部106は、信号変化検出部103により検出された時刻に基づき、時刻補正式導出部105の導出した時刻補正式を使って、各々のデータ収集部20,21で収集された映像・音声信号の変化時刻を一致させる補正処理を行う手段であり、PCの処理モジュールとして実現される。
図3に、このように構成される本発明を具備するマルチメディアデータ同期再生システムの動作を示すシーケンスを図示する。
次に、このシーケンス図で実行する各ステップの処理について説明する。
(1)ステップ10の処理
センシング装置1,2や端末3におけるデータ収集部20,21は、それぞれ一定の周期または任意のタイミングでもって各種信号をそれぞれ収集する。アナログ信号については、A/D変換装置4によりデジタル化する。
センシング装置1,2や端末3におけるデータ収集部20,21は、それぞれ一定の周期または任意のタイミングでもって各種信号をそれぞれ収集する。アナログ信号については、A/D変換装置4によりデジタル化する。
(2)ステップ11の処理
収集時刻生成部22,23は、生成した収集時刻を時刻情報付与部24,25にそれぞれ転送する。これを受けて、時刻情報付与部24,25は、データ収集部20,21により収集されたデータに対して、収集時刻生成部22,23から転送されてきた収集時刻情報を追加してデータグループ付与部26,27に送信する。そして、データグループ付与部26,27は、データ収集部20,21により収集されたデータ(収集時刻情報が付与されている)に対して同一のデータグループ名を付与し、それらをひとまとめにして情報蓄積サーバ7に送信する。
収集時刻生成部22,23は、生成した収集時刻を時刻情報付与部24,25にそれぞれ転送する。これを受けて、時刻情報付与部24,25は、データ収集部20,21により収集されたデータに対して、収集時刻生成部22,23から転送されてきた収集時刻情報を追加してデータグループ付与部26,27に送信する。そして、データグループ付与部26,27は、データ収集部20,21により収集されたデータ(収集時刻情報が付与されている)に対して同一のデータグループ名を付与し、それらをひとまとめにして情報蓄積サーバ7に送信する。
(3)ステップ12の処理
情報蓄積サーバ7は、データグループ付与部26,27から送信されてくる上記の時系列データをデータ受信部70で受信して、データ蓄積部71に蓄積する。
情報蓄積サーバ7は、データグループ付与部26,27から送信されてくる上記の時系列データをデータ受信部70で受信して、データ蓄積部71に蓄積する。
図4に、データ蓄積部71で蓄積するデータの記述形式の一例を示す。この図に示すデータ記述形式では、XML(eXtensible Markup Language)を利用して、データ収集時刻とデータの値との組、および当該データが属するデータグループ名を構造化している。例えば、データグループDG1に属する時刻Ta1のデータをA11とした場合、<time>タグにはTa1、<value >タグにはA11がセットされる。
情報蓄積サーバ7は、同じデータグループに属する時系列データの集合を一つの単位として管理しており、このデータグループ名は一意である必要がある。映像コンテンツを蓄積する場合の例で説明するならば、データグループ名のフォーマットを、映像コンテンツのタイトルとその映像コンテンツの収集開始時刻(または再生開始時刻)とアンダーバー“_”とを用いて、例えば以下のように規定する。
フォーマット:映像コンテンツのタイトル_YYYY/MM/DD hh:mm:ss.iii JST
例えば、
作業現場040225_2004/02/25 12:34:56.789 JST
いうようなデータグループ名を用いるのである。
例えば、
作業現場040225_2004/02/25 12:34:56.789 JST
いうようなデータグループ名を用いるのである。
なお、ユーザは、映像コンテンツのファイルを同期再生装置10に登録する際に、その映像コンテンツのタイトル、ファイル名、ファイルの保存場所(同期再生装置10側/クライアント9側)、その他の付加的情報を入力する。したがって、映像コンテンツの登録時に、映像コンテンツのタイトルとそのファイル名とがリンクされるので、データグループ名と映像コンテンツファイルとは一意に対応づけられることになる。
このようにデータグループ名を規定することで、同期再生装置10は、データグループ名から時間同期させて表示しなければならない時系列データの集合を特定し、情報蓄積サーバ7から表示に必要な時系列データをすべて取得することが可能となる。
(4)ステップ13の処理
同期再生装置10は、情報蓄積サーバ7から、表示に必要な時系列データをすべて取得する。その取得したデータにカメラワークの変化や音量レベルの急激な変動が発生していると、同期再生装置10の備える信号変化検出部103は、その変化点を検出して、データに付与されている時刻情報(時刻情報付与部24,25により付与されたデータ収集の時刻情報)から、その検出した変化点に対応付けられる信号変化時刻を検出する。
同期再生装置10は、情報蓄積サーバ7から、表示に必要な時系列データをすべて取得する。その取得したデータにカメラワークの変化や音量レベルの急激な変動が発生していると、同期再生装置10の備える信号変化検出部103は、その変化点を検出して、データに付与されている時刻情報(時刻情報付与部24,25により付与されたデータ収集の時刻情報)から、その検出した変化点に対応付けられる信号変化時刻を検出する。
(5)ステップ14の処理
同期再生装置10の備える時刻情報補正部106は、信号変化検出部103で検出された信号変化時刻に基づいて、データ収集部20の時間軸とデータ収集部21の時間軸とを合わせるための補正を行う。
同期再生装置10の備える時刻情報補正部106は、信号変化検出部103で検出された信号変化時刻に基づいて、データ収集部20の時間軸とデータ収集部21の時間軸とを合わせるための補正を行う。
この補正に関しては、例えば、特開2000-10933に開示されている方法を用いることができるものである。具体的には、この補正を実現するために、同期再生装置10の備える信号変化発生部104および時刻補正式導出部105が動作する。
すなわち、信号変化発生部104は、データ収集の合間あるいはデータ収集の最中に、データ収集部20,21に対して、外部から強制的に同一のタイミングでもって、その出力信号に状態変化を起こさせる信号を与える。
これを受けて、時刻補正式導出部105は、信号変化発生部104により発生したデータ収集部20,21の状態変化個所のデータに付与されている時刻情報を取得して、それらの時刻情報に基づいて、データ収集部20の時間軸とデータ収集部21の時間軸とを合わせるための時刻補正式を導出する。
例えば、図5に示すように、信号変化発生部104により発生したデータ収集部20,21の状態変化個所のデータに付与されている時刻情報として、T1a,T1b,T2a,T2bを取得したとすると、この4つの信号変化時刻から、データ収集部20の時間軸T1 とデータ収集部21の時間軸T2 との間には、図5中に示す直線的な対応関係に従って、
(T1 −T1a)/(T1b−T1a)=(T2 −T2a)/(T2b−T2a)
という関係が成立するので、T1 とT2 との間には、
T1 =〔(T1b−T1a)/(T2b−T2a)〕×T2
+(T1aT2b−T1bT2a)/(T2b−T2a)
T2 =〔(T2b−T2a)/(T1b−T1a)〕×T1
+(T1bT2a−T1aT2b)/(T1b−T1a)
という関係が成立する。
(T1 −T1a)/(T1b−T1a)=(T2 −T2a)/(T2b−T2a)
という関係が成立するので、T1 とT2 との間には、
T1 =〔(T1b−T1a)/(T2b−T2a)〕×T2
+(T1aT2b−T1bT2a)/(T2b−T2a)
T2 =〔(T2b−T2a)/(T1b−T1a)〕×T1
+(T1bT2a−T1aT2b)/(T1b−T1a)
という関係が成立する。
このようにして、時刻補正式導出部105は、信号変化発生部104により発生したデータ収集部20,21の状態変化個所のデータに付与されている時刻情報を取得して、それらの時刻情報に基づいて、データ収集部20の時間軸とデータ収集部21の時間軸とを合わせるための時刻補正式を導出するのである。
この時刻補正式の導出を受けて、時刻情報補正部106は、信号変化検出部103で信号変化時刻が検出されると、この時刻補正式に代入することで、信号変化を検出した収集データ以外の収集データの時間同期する収集時刻を算出するのである。そして、その算出した収集時刻がディスプレイ上で同一の時間位置にプロットされることになることに合わせて、信号変化を検出した収集データ以外の収集データの時間軸が信号変化を検出した収集データの時間軸と一致することになるようにと、この時刻補正式を使って補正を行うのである。
なお、以上の説明においては、図2の構成においてデータ収集部20,21のみを記載しているが、この例に限定されることなく、データ収集部はN個あってもよく、それに合わせて、データ収集部ごとに収集時刻生成部および時刻情報付与部を設けた構成であればよい。
この場合、時刻補正式は、各収集データをそれぞれマスタとして選択して、そのマスタとなる収集データに付与されている時刻情報を基準にすると、それ以外の収集データに付与されている時刻情報はどのように表現されることになるのかという記述形式に従って導出されることになる。
次に、図6ないし図8に示す処理フローに従って、図2のように構成される本発明の同期再生装置10の処理について説明する。
本発明の同期再生装置10は、例えば時刻補正式の導出周期に到達すると、図6の処理フローに示すように、先ず最初に、ステップ20で、データ収集部に対して、その出力信号に状態変化を起こさせる信号を与え、続くステップ21で、データ収集部の状態変化個所のデータに付与されている時刻情報T1a, T2a, ・・・, Tnaを取得する。
続いて、ステップ22で、ある時間が経過するのを待って、その時間が経過すると、ステップ23に進んで、データ収集部に対して、その出力信号に状態変化を起こさせる信号を与え、続くステップ24で、データ収集部の状態変化個所のデータに付与されている時刻情報T1b, T2b, ・・・, Tnbを取得する。
続いて、ステップ25で、それらの取得した時刻情報T1a, T2a, ・・・, Tna, T1b, T2b, ・・・, Tnbを使って、上述したような直線的な対応関係に従って、時刻補正式の係数を算出することで時刻補正式を導出する。
このようにして、本発明の同期再生装置10は、例えば、時刻補正式の導出周期に到達すると、データ収集部の時間軸を合わせるための時刻補正式を導出するように処理するのである。
一方、本発明の同期再生装置10は、データ蓄積部71から読み込んだ収集データに信号変化が発生したことを検出すると、図7の処理フローに示すように、先ず最初に、ステップ30で、信号変化の発生した収集データに付与されている時刻情報Tを取り出す。
続いて、ステップ31で、時刻補正式
Ti =Ai ×T+Bi
に従って、時間同期再生の対象となる他の収集データの対応する時刻情報Ti を特定する。
Ti =Ai ×T+Bi
に従って、時間同期再生の対象となる他の収集データの対応する時刻情報Ti を特定する。
続いて、ステップ32で、その特定した時刻情報Ti に従って、時間同期再生の対象となる他の収集データの時系列データを読み出す。
続いて、ステップ33で、ステップ31で用いた時刻補正式の逆変換で表される時刻補正式に従って、その読み出した収集データの時系列データに付与されている時刻情報を補正する。
続いて、ステップ34で、その補正した時刻情報に従って、信号変化の発生した収集データの時系列データと時間同期をとる形で、その読み出した収集データの時系列データを再生する。
このようにして、本発明の同期再生装置10は、収集データに信号変化が発生したことを検出すると、時間軸を正確に合わせつつ、その信号変化の発生した収集データの時系列データの再生と時間同期をとる形で、同一データグループに属する他の収集データの時系列データを再生するように処理するのである。
一方、本発明の同期再生装置10は、クライアント9を操作するユーザから検索条件を指定して検索要求が発行されると、図8の処理フローに示すように、先ず最初に、ステップ40で、検索要求で指定されるデータグループ名と、その他の検索条件(再生対象となる時刻区間や、再生対象となる収集データやその組み合わせなど)とを抽出する。
続いて、ステップ41で、情報蓄積サーバ9から、その抽出したデータグループ名の指すデータグループに属し、かつ、その抽出した検索条件に合致する収集データを読み出す。
続いて、ステップ42で、時刻の基準となる収集データを選択する。例えば、後述するプライマリ映像表示コンポーネント201に表示する映像を、時刻の基準となる収集データとして選択するのである。
続いて、ステップ43で、あらかじめ導出してある時刻補正式に従って、時刻基準となる収集データ以外の収集データに付与されている時刻情報を、時刻基準となる収集データに付与されている時刻情報と一致することになるようにと補正する。
続いて、その補正した時刻情報に従って、検索要求のある収集データの時系列データを再生する。
このようにして、本発明の同期再生装置10は、ユーザから検索条件を指定して検索要求が発行されると、時間軸を正確に合わせつつ、検索要求に合致するいずれかの収集データの時系列データの再生と時間同期をとる形で、それ以外の収集データの時系列データを再生するように処理するのである。
図9に、クライアント9に表示される画面レイアウトの一例を図示する。
この図において、201はエンコードされたデジタル映像ファイルまたはカメラなどにより撮影された映像を表示するプライマリ映像表示コンポーネント、202は同様にエンコードされたデジタル映像ファイルまたはカメラなどにより撮影された映像を表示する非プライマリ映像表示コンポーネント、203、204、205は主として折れ線グラフを表示するグラフ表示コンポーネントである。
プライマリ映像表示コンポーネント201には、「再生」ボタン/「一時停止」ボタン206、プログレスバー207が用意されている。
映像・音声以外の時系列データは、横軸を時間とする折れ線グラフで表示する。横軸の時間の目盛りは、プライマリ映像の再生開始時刻を0とする経過時間で表示する。検索条件に合致するデータグループに複数チャネルのリアクション情報が存在する場合は、同一ビューワ内に表示される。本折れ線グラフは縦軸にセンシング情報の値の目盛りを表示する。また、縦軸、横軸のズーム、スクロール機能も実装されている。
以下に述べる時刻同期手段により、これらのコンポーネントが同期して再生・表示される。なお、同期表示するマルチメディア情報には必ず映像が1つ以上含まれているものとし、最初の映像ファイルがプライマリ映像表示コンポーネント201に表示される。それ以外の映像ファイルは非プライマリ映像表示コンポーネント202に表示される。
時刻同期手段は、時刻を変化させるようなイベント(再生ボタンやプログレスバーの操作など)をプライマリ映像表示コンポーネント201からその他の表示コンポーネント(非プライマリ映像表示コンポーネント202、グラフ表示コンポーネント203〜205)に通知する。
その際、プライマリ映像表示コンポーネント201で再生中映像のその時点における時刻の情報を受信側の表示コンポーネントに渡す。そして、既定したイベントリスナーインタフェースにしたがって各コンポーネントを作成することで、プライマリ映像表示コンポーネント201からのイベントを受け取る表示コンポーネントを作成することが可能となる。
このような処理を行う時刻同期手段を用いれば、プライマリ映像表示コンポーネント201で蓄積映像を再生したり、プログレスバーを操作したりすると、時刻の情報が各表示コンポーネントに伝達されるので、各表示コンポーネントのデータを時間同期させて表示することが可能となる。すなわち、プライマリ映像の再生と同期しながら各表示コンポーネントのデータが同期再生されることになる。
グラフ表示コンポーネント203〜205では、プライマリ映像表示コンポーネント201から配信される時刻の位置にインジケータが表示され、プライマリ映像表示コンポーネント201から配信される時刻に該当するデータの値がその右上に表示されることになる。
次に、本発明の第1の実施例について説明する。
工場、オフィス、住宅など人間が活動する種々の環境において、時々刻々と発生するマルチメディアデータ、各種信号データを逐次蓄積し、履歴情報として管理することは有用である。
第1の実施例として、本発明を工場やロボットを用いて何らかの作業を行う製造現場から収集される情報を蓄積するフィールド情報蓄積管理システムに応用した例について説明する。
図10に、製造機器301やロボット302が稼動している工場内の作業現場の概略図を図示する。
(1)ステップ1
本作業現場では、センサ群303によって時系列的に製造機器301やロボット302の稼動情報などが取得されている。また、カメラ304やマイク305によって、当該製造機器301の稼動情報や当該ロボット302が作業用ワーク306の表面を倣っている状況を撮影し、音情報を記録する。
本作業現場では、センサ群303によって時系列的に製造機器301やロボット302の稼動情報などが取得されている。また、カメラ304やマイク305によって、当該製造機器301の稼動情報や当該ロボット302が作業用ワーク306の表面を倣っている状況を撮影し、音情報を記録する。
センサ群303、カメラ304、マイク305におけるデータ収集部は、それぞれ一定の周期で、センシングにより得られた作業ワークの3次元形状、作業現場の映像、作業現場の音情報をそれぞれ収集する。次に、センサコントローラ308やA/D変換装置307で、アナログ信号情報はA/D変換によりデジタル化される。
一方、ロボット302から収集される情報としては、各関節角度の情報やロボットコントローラ309の内部動作情報などがある。
(2)ステップ2
A/D変換装置307、センサコントローラ308、ロボットコントローラ309における時刻情報付与部は、時刻配信装置6との通信により、随時当該装置の時刻合わせを行うと同時に、当該データに収集時刻情報を追加してデータグループ付与部に送信する。
A/D変換装置307、センサコントローラ308、ロボットコントローラ309における時刻情報付与部は、時刻配信装置6との通信により、随時当該装置の時刻合わせを行うと同時に、当該データに収集時刻情報を追加してデータグループ付与部に送信する。
そして、データグループ付与部は、収集された各データおよび収集時刻情報にデータグループ名を付与し、それらをひとまとめにしてXMLベースの記述形式に変換する処理を行い、情報蓄積サーバ7に送信する。
(3)ステップ3
情報蓄積サーバ7におけるデータ受信部70は、データグループ付与部から送信された上記の時系列データを受信し、データ蓄積部71で蓄積する。
情報蓄積サーバ7におけるデータ受信部70は、データグループ付与部から送信された上記の時系列データを受信し、データ蓄積部71で蓄積する。
(4)ステップ4
製造機器301の異常な動作音やロボット302の手先が何らかの障害物に接触したときの衝突音など、音量レベルの急激な変動が発生すると、同期再生装置10における信号変化検出部103が当該音量変化を検知し、情報蓄積サーバ7のデータ蓄積部71に格納されている収集されたデータの信号変化時刻の情報を取り出す。
製造機器301の異常な動作音やロボット302の手先が何らかの障害物に接触したときの衝突音など、音量レベルの急激な変動が発生すると、同期再生装置10における信号変化検出部103が当該音量変化を検知し、情報蓄積サーバ7のデータ蓄積部71に格納されている収集されたデータの信号変化時刻の情報を取り出す。
(5)ステップ5
同期再生装置10における時刻情報補正部106は、信号変化検出部103で検出された上記信号変化時刻に基づいて、収集された各データの変化時刻を一致させる補正処理を行う。
同期再生装置10における時刻情報補正部106は、信号変化検出部103で検出された上記信号変化時刻に基づいて、収集された各データの変化時刻を一致させる補正処理を行う。
以上のステップにより、例えば、センサ群303、カメラ304を用いて蓄積された作業現場撮影映像401(図11に示すもの)、センサ群303の各種信号データを時間同期させて再生することが可能となる。
ところで、本フィールド情報蓄積管理システムに、情報蓄積サーバ7に蓄積された情報について、一定周期間隔であらかじめ設定した警報条件情報と比較を行い、当該条件に合致した場合にはあらかじめ設定した警報時処理が起動されるような警報通知機能を実装することもできる。
ここでは、ロボット302が作業用ワーク306の表面を倣っている途中で当該作業用ワーク306に接触したため、ロボットに装着されたショックセンサがその接触を感知し、ロボット302が緊急停止した緊急事態を想定する。
この場合、警報時処理として、クライアント9が同期再生装置10を介して情報蓄積サーバ7に映像取得リクエストを送信し、接触が発生した時間帯の映像を取得する。同時に、事前に設定されたメールアドレスを使って、例えば、現場の製造機器の運用担当者310、遠隔にいる本社管理部門担当者、製造機器ベンダーのサポートセンタに警報通知メールが送信される。
警報通知メールにより、専門知識をもつ本社の管理部門担当者は障害発生を知る。管理部門担当者は、自席端末のWebブラウザを使って、同期再生装置10が提供するWebサービスにログインし、障害が発生した前後の映像・音・センシング情報を閲覧しながら、障害原因の把握に努める。
図11に、このときのフィールド情報蓄積管理システムの表示画面の一例を図示する。
この図では、作業現場のカメラ304で撮影された作業現場撮影映像401と、ショックセンサ出力値を示すグラフ表示コンポーネント403とが同期表示されている例を示している。特に非プライマリ映像402が蓄積されていなければ、当該領域には何も表示されない。404のインジケータ(スライダ)は、プライマリ映像の収集開始時刻を0とする経過時間に相当する位置をさしている。
これと同時に、管理部門担当者は、例えば、市販TV会議システムの双方向映像音声通信機能を利用し、現場に急行した機器運用担当者310とコミュニケーションを図りつつ原因究明と復旧作業を遠隔から支援する。その結果、製造現場での情報の共有・活用を実現し、障害等を迅速に把握し、専門家のサポートを受けながら、早急な障害復旧が可能となる。
第2の実施例として、本発明を視聴映像に対する注目度合い(人がどの程度集中して視聴していたかの程度を示す値)を推定・解析するシステムに応用した例について説明する。
この視聴映像の注目度合い推定・解析システムの目的は、テレビ番組や映像コンテンツの制作事業者に対して、制作番組や制作コンテンツに対する一般視聴者のリアクションに基づく注目度合いや心的状態に関するデータ、いいかえれば当該映像がどのように見られているかという視聴質データをフィードバックすることにより、今後制作されるコンテンツの質的向上を図ることにある。
本実施例を説明する前に、以下の通り用語を定義する。
(i)映像コンテンツ
後述するリアクション情報、リアクション映像、視聴メタ情報を取得するために被験者に視聴させる映像。
(ii)映像メタ情報
タイトル、ジャンルなどの映像コンテンツに関する固有の情報。
(iii)リアクション情報
視線位置情報、瞬目情報(まばたきの情報)、心拍数など、カメラやセンサを用いて映像コンテンツ視聴時に視聴者から収集される情報の総称。
(iv)リアクション映像
映像コンテンツ視聴時の視聴者を撮影した映像。
(v)視聴メタ情報
映像コンテンツ視聴時の視聴者の心的状態(感情、気分)など、映像コンテンツのシーンまたは当該映像全体に対応して追加される視聴情報。
(i)映像コンテンツ
後述するリアクション情報、リアクション映像、視聴メタ情報を取得するために被験者に視聴させる映像。
(ii)映像メタ情報
タイトル、ジャンルなどの映像コンテンツに関する固有の情報。
(iii)リアクション情報
視線位置情報、瞬目情報(まばたきの情報)、心拍数など、カメラやセンサを用いて映像コンテンツ視聴時に視聴者から収集される情報の総称。
(iv)リアクション映像
映像コンテンツ視聴時の視聴者を撮影した映像。
(v)視聴メタ情報
映像コンテンツ視聴時の視聴者の心的状態(感情、気分)など、映像コンテンツのシーンまたは当該映像全体に対応して追加される視聴情報。
図12に、視聴映像の注目度合い推定・解析システムの代表的なシステム構成の一例を図示する。ここでの注目度合いとは、実際に人がどの程度集中して映像コンテンツをみているかという定量的な指標である。本推定・解析システムでは、例えば、視線の移動パターンや瞳孔径の変化、瞬目の頻度や間隔、心拍数などのセンシング情報を統合して注目度合いを推定する。
(1)ステップ1
本推定・解析システムでは、視聴者501のリクエストに対して、映像再生兼視線計測装置502が同期再生装置10に蓄積された映像コンテンツファイルを取得、再生し、映像表示装置503で表示する。
本推定・解析システムでは、視聴者501のリクエストに対して、映像再生兼視線計測装置502が同期再生装置10に蓄積された映像コンテンツファイルを取得、再生し、映像表示装置503で表示する。
赤外線照明部を備えた赤外線カメラ504および映像再生兼視線計測装置502は、当該映像コンテンツ視聴時における視聴者501の右眼あるいは左眼付近の画像を逐次キャプチャし、処理を行い、映像表示装置503の画面上の視線位置および瞳孔径を自動計測する。
市販のDVカメラ505および瞬目計測装置506は、当該映像コンテンツ視聴時における視聴者501の両眼付近の画像を逐次キャプチャし、処理を行い、瞬きの頻度や、瞬きから次の瞬きまでの時間間隔などの情報を自動計測する。
市販の心拍計507は、視聴者501の心拍数を一定の周期でセンシングし、一定時間センシングデータを心拍計507の内部に蓄積する。
このように、映像再生兼視線計測装置502、瞬目計測装置506、心拍計507におけるデータ収集部は、それぞれ一定の周期で、視線の移動パターンや瞳孔径の変化、瞬目の頻度や時間間隔、心拍数などのセンシング情報をそれぞれ取得する。このとき、心拍計507は、一定の時間間隔で収集、蓄積した視聴者501の心拍数データを映像再生兼視線計測装置502に送信する。
(2)ステップ2
映像再生兼視線計測装置502、瞬目計測装置506における時刻情報付与部は、時刻配信装置6との通信により、随時当該装置の時刻合わせを行うと同時に、当該データの収集時刻情報を追加してデータグループ付与部に送信する。
映像再生兼視線計測装置502、瞬目計測装置506における時刻情報付与部は、時刻配信装置6との通信により、随時当該装置の時刻合わせを行うと同時に、当該データの収集時刻情報を追加してデータグループ付与部に送信する。
そして、データグループ付与部は、収集された各データおよび収集時刻情報にデータグループ名を付与し、それらをひとまとめにしてXMLベースの記述形式に変換する処理を行い、情報蓄積サーバ7に送信する。
(3)ステップ3
情報蓄積サーバ7におけるデータ受信部70は、データグループ付与部から送信された上記の時系列データを受信し、データ蓄積部71で蓄積する。
情報蓄積サーバ7におけるデータ受信部70は、データグループ付与部から送信された上記の時系列データを受信し、データ蓄積部71で蓄積する。
(4)ステップ4
視聴者501が視聴している映像コンテンツにおいて、当該シーンが大きく変化する映像カット点があると、同期再生装置10における信号変化検出部103が当該カット点を検知し、その一部をランダムに選択して、情報蓄積サーバ7のデータ蓄積部71に格納されている収集されたデータの信号変化時刻の情報を取り出す。
視聴者501が視聴している映像コンテンツにおいて、当該シーンが大きく変化する映像カット点があると、同期再生装置10における信号変化検出部103が当該カット点を検知し、その一部をランダムに選択して、情報蓄積サーバ7のデータ蓄積部71に格納されている収集されたデータの信号変化時刻の情報を取り出す。
(5)ステップ5
同期再生装置10における時刻情報補正部106は、信号変化検出部103で検出された上記信号変化時刻に基づいて、収集された各データの変化時刻を一致させる補正処理を行う。
同期再生装置10における時刻情報補正部106は、信号変化検出部103で検出された上記信号変化時刻に基づいて、収集された各データの変化時刻を一致させる補正処理を行う。
以上のステップにより、例えば、蓄積された視聴映像コンテンツ601(図13に示すもの)、DVカメラ505によって撮影・蓄積された視聴者501のリアクション映像602(図13に示すもの)、映像再生兼視線計測装置502によって計測・蓄積された視聴者501の視線位置および瞳孔径の情報、瞬目計測装置506によって計測・蓄積された瞬目の頻度や時間間隔の情報、心拍計507によって計測・蓄積された心拍数の情報を、すべて時間同期させて再生することが可能となる。
図13に、この視聴映像の注目度合い推定・解析システムの表示画面の一例を図示する。図中の603は視聴コンテンツに対する注目度合いの遷移を表した折れ線グラフである。
この図に示す画面では、視聴コンテンツ映像601と、視聴者501のリアクション映像602と、視聴コンテンツに対する注目度合いの折れ線グラフ603と、視聴者501の視線位置(視聴コンテンツ映像の再生画面におけるx座標とy座標)の折れ線604と、瞳孔径の折れ線グラフ605と、映像のカット点を示す折れ線グラフ606との間の時間同期がとれていることがポイントである(図中に示す607は映像のカット点に対応したインジケータを示している)。
すなわち、プライマリ映像表示コンポーネント601のプログレスバーを動かすことにより、各折れ線グラフ視聴者が当該映像コンテンツのどのシーンを集中して見ていたのかを、当該映像コンテンツと見比べながら一目で把握できる点が本発明の優れた特長である。
また、情報蓄積サーバ7に蓄積されたリアクション情報から推定した注目度合いという加工情報の時系列データについても、情報蓄積サーバ7に蓄積するようにしている。そうすることによって、本発明によれば、注目度合いなどのオンタイムでは解析不可能な加工データも含めて、後刻に、時間同期再生による事後分析が可能となる。
なお、以上の実施形態例では、データ間の時間同期を自動的に補正する例について説明したが、プライマリ映像表示コンポーネント601で再生される映像コンテンツと、非プライマリ映像表示コンポーネント602で再生される視聴者個人のリアクション映像との間の時間軸合わせについて、両者の時間ずれをオフセットとして、非プライマリ映像の再生開始時刻として手動設定することにより、映像コンテンツとリアクション映像との時間同期を補正することも可能である。
本実施例で説明したように、本発明を視聴映像の注目度推定システムとして構成した場合には、本発明の時間同期再生機能によって、付与された時刻情報を検索キーとして、いつでも所望のシーン別や視聴者別に視聴者リアクションを解析することができる。さらに、ハードディスクやDVD記録メディアなどの記録媒体に録画されたテレビ番組であっても、映像コンテンツ視聴開始時刻と映像コンテンツ先頭からの再生時間とに基づいて時間同期がとれる。
したがって、オンタイムでは解析不可能な加工情報に対しても、本発明によれば事後同期可能な手段が確保されて、着目映像コンテンツに対する視聴者の様々なリアクションを後刻閲覧、解析することが可能となる。
図示実施形態例に従って本発明を説明したが、本発明はこれに限定されるものではなく、特許請求の範囲内で種々の変更・応用が可能である。
1 センシング装置
2 センシング装置
3 端末
4 A/D変換装置
5 通信網
6 時刻配信装置
7 情報蓄積サーバ
8 通信網
9 クライアント
10 同期再生装置
100 リクエスト受信部
101 検索部
102 データグループ識別部
103 信号変化検出部
104 信号変化発生部
105 時刻補正式導出部
106 時刻情報補正部
107 データ取得・バインド部
108 映像再生部
109 グラフ生成部
110 表示コンポーネント制御部
2 センシング装置
3 端末
4 A/D変換装置
5 通信網
6 時刻配信装置
7 情報蓄積サーバ
8 通信網
9 クライアント
10 同期再生装置
100 リクエスト受信部
101 検索部
102 データグループ識別部
103 信号変化検出部
104 信号変化発生部
105 時刻補正式導出部
106 時刻情報補正部
107 データ取得・バインド部
108 映像再生部
109 グラフ生成部
110 表示コンポーネント制御部
Claims (11)
- 複数のデータ収集装置から情報蓄積装置に蓄積されたデータ収集時刻情報の付与されているマルチメディアデータを同期再生するマルチメディアデータ同期再生方法であって、
マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出する過程と、
マルチメディアデータに付与されているデータ収集時刻情報を取得する過程と、
上記取得したデータ収集時刻情報と上記検出した時間ずれとに基づいて、時刻基準となるマルチメディアデータに時間同期させる形で、各マルチメディアデータを時間同期させて再生する過程とを備えることを、
特徴とするマルチメディアデータ同期再生方法。 - 複数のデータ収集装置から情報蓄積装置に蓄積されたデータ収集時刻情報の付与されているマルチメディアデータを同期再生するマルチメディアデータ同期再生方法であって、
マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出する過程と、
マルチメディアデータのいずれかに状態変化が発生する場合に、その状態変化の発生したマルチメディアデータに付与されている状態変化発生時点のデータ収集時刻情報を取得する過程と、
上記取得したデータ収集時刻情報と上記検出した時間ずれとに基づいて、上記状態変化発生時点における他のマルチメディアデータに付与されているデータ収集時刻情報を特定する過程と、
上記取得したデータ収集時刻情報と上記特定したデータ収集時刻情報とに基づいて、上記状態変化発生時点における各マルチメディアデータを時間同期させて再生する過程とを備えることを、
特徴とするマルチメディアデータ同期再生方法。 - 請求項1又は2に記載のマルチメディアデータ同期再生方法において、
上記情報蓄積装置は、マルチメディアデータの蓄積の際に付与された一意のデータグループ名を用いて、時間同期再生の対象となるマルチメディアデータの集合を相互に関連付けて蓄積するように構成されることを、
特徴とするマルチメディアデータ同期再生方法。 - 請求項1ないし3のいずれか1項に記載のマルチメディアデータ同期再生方法において、
上記情報蓄積装置に蓄積されたマルチメディアデータに基づいて所定の加工データの時系列データを作成して、それを時間同期再生の対象となるマルチメディアデータの1つとして上記情報蓄積装置に保存する過程を備えることを、
特徴とするマルチメディアデータ同期再生方法。 - 請求項1ないし4のいずれか1項に記載のマルチメディアデータ同期再生方法において、
上記情報蓄積装置から検索条件に合致するマルチメディアデータを検索することで、時間同期再生の対象となるマルチメディアデータを検索する過程を備えることを、
特徴とするマルチメディアデータ同期再生方法。 - 請求項1ないし5のいずれか1項に記載のマルチメディアデータ同期再生方法において、
上記検出する過程では、上記データ収集装置に対して、同一のタイミングでマルチメディアデータの状態変化を引き起こす信号を出力し、それに応答して出力される各マルチメディアデータに付与されているデータ収集時刻情報を取得して、それらのデータ収集時刻情報に従って、マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出することを、
特徴とするマルチメディアデータ同期再生方法。 - 請求項1ないし6のいずれか1項に記載のマルチメディアデータ同期再生方法において、
上記再生する過程では、マルチメディアデータの再生速度を可変とする形態で、マルチメディアデータを時間同期させて再生することを、
特徴とするマルチメディアデータ同期再生方法。 - 複数のデータ収集装置から情報蓄積装置に蓄積されたデータ収集時刻情報の付与されているマルチメディアデータを同期再生するマルチメディアデータ同期再生装置であって、
マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出する手段と、
マルチメディアデータに付与されているデータ収集時刻情報を取得する手段と、
上記取得したデータ収集時刻情報と上記検出した時間ずれとに基づいて、時刻基準となるマルチメディアデータに時間同期させる形で、各マルチメディアデータを時間同期させて再生する手段とを備えることを、
特徴とするマルチメディアデータ同期再生装置。 - 複数のデータ収集装置から情報蓄積装置に蓄積されたデータ収集時刻情報の付与されているマルチメディアデータを同期再生するマルチメディアデータ同期再生装置であって、
マルチメディアデータに付与されているデータ収集時刻情報の間に生ずる時間ずれを検出する手段と、
マルチメディアデータのいずれかに状態変化が発生する場合に、その状態変化の発生したマルチメディアデータに付与されている状態変化発生時点のデータ収集時刻情報を取得する手段と、
上記取得したデータ収集時刻情報と上記検出した時間ずれとに基づいて、上記状態変化発生時点における他のマルチメディアデータに付与されているデータ収集時刻情報を特定する手段と、
上記取得したデータ収集時刻情報と上記特定したデータ収集時刻情報とに基づいて、上記状態変化発生時点における各マルチメディアデータを時間同期させて再生する手段とを備えることを、
特徴とするマルチメディアデータ同期再生装置。 - 請求項8又は9に記載のマルチメディアデータ同期再生装置において、
上記情報蓄積装置は、マルチメディアデータの蓄積の際に付与された一意のデータグループ名を用いて、時間同期再生の対象となるマルチメディアデータの集合を相互に関連付けて蓄積するように構成されることを、
特徴とするマルチメディアデータ同期再生装置。 - 請求項1ないし7のいずれか1項に記載のマルチメディアデータ同期再生方法の実現に用いられる処理をコンピュータに実行させるためのマルチメディアデータ同期再生プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004135778A JP2005317151A (ja) | 2004-04-30 | 2004-04-30 | マルチメディアデータ同期再生方法、マルチメディアデータ同期再生装置およびマルチメディアデータ同期再生プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004135778A JP2005317151A (ja) | 2004-04-30 | 2004-04-30 | マルチメディアデータ同期再生方法、マルチメディアデータ同期再生装置およびマルチメディアデータ同期再生プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005317151A true JP2005317151A (ja) | 2005-11-10 |
Family
ID=35444388
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004135778A Pending JP2005317151A (ja) | 2004-04-30 | 2004-04-30 | マルチメディアデータ同期再生方法、マルチメディアデータ同期再生装置およびマルチメディアデータ同期再生プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005317151A (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012084020A (ja) * | 2010-10-13 | 2012-04-26 | Cygnet Corp | 防災管理システム |
CN102713891A (zh) * | 2009-12-04 | 2012-10-03 | (株)阿尔迪泰 | 视频信号和传感器信号的同步化系统及方法 |
JP2013513328A (ja) * | 2009-12-08 | 2013-04-18 | アールディ−テック シーオー エルティディ | 映像信号とセンサー信号の同期化システム及び方法 |
JP2015510308A (ja) * | 2012-01-10 | 2015-04-02 | マイクロソフト コーポレーション | 個人のリアクションを伴うコンテンツの消費 |
WO2016006284A1 (ja) * | 2014-07-09 | 2016-01-14 | オリンパス株式会社 | 画像再生制御装置および画像再生制御方法 |
KR101716109B1 (ko) * | 2015-11-25 | 2017-03-15 | 충북대학교 산학협력단 | 복수의 영상의 시간 동기화 방법 및 이러한 방법을 사용하는 멀티 영상 재생 시스템 |
KR102106320B1 (ko) * | 2020-01-15 | 2020-05-04 | 디비시스(주) | 시각 정보의 동기화가 가능한 cctv 관리 시스템 |
JP2020166687A (ja) * | 2019-03-29 | 2020-10-08 | 三菱電機株式会社 | 時刻同期装置、時刻同期システム、時刻同期方法、及び、プログラム |
JP2020188422A (ja) * | 2019-05-17 | 2020-11-19 | 株式会社Nttドコモ | 情報処理装置及び情報処理システム |
-
2004
- 2004-04-30 JP JP2004135778A patent/JP2005317151A/ja active Pending
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102713891A (zh) * | 2009-12-04 | 2012-10-03 | (株)阿尔迪泰 | 视频信号和传感器信号的同步化系统及方法 |
JP2013513283A (ja) * | 2009-12-04 | 2013-04-18 | アールディ−テック シーオー エルティディ | 映像信号とセンサー信号の同期化システム及び方法 |
JP2013513328A (ja) * | 2009-12-08 | 2013-04-18 | アールディ−テック シーオー エルティディ | 映像信号とセンサー信号の同期化システム及び方法 |
JP2012084020A (ja) * | 2010-10-13 | 2012-04-26 | Cygnet Corp | 防災管理システム |
JP2015510308A (ja) * | 2012-01-10 | 2015-04-02 | マイクロソフト コーポレーション | 個人のリアクションを伴うコンテンツの消費 |
US10045077B2 (en) | 2012-01-10 | 2018-08-07 | Microsoft Technology Licensing, Llc | Consumption of content with reactions of an individual |
WO2016006284A1 (ja) * | 2014-07-09 | 2016-01-14 | オリンパス株式会社 | 画像再生制御装置および画像再生制御方法 |
KR101716109B1 (ko) * | 2015-11-25 | 2017-03-15 | 충북대학교 산학협력단 | 복수의 영상의 시간 동기화 방법 및 이러한 방법을 사용하는 멀티 영상 재생 시스템 |
JP2020166687A (ja) * | 2019-03-29 | 2020-10-08 | 三菱電機株式会社 | 時刻同期装置、時刻同期システム、時刻同期方法、及び、プログラム |
JP7329948B2 (ja) | 2019-03-29 | 2023-08-21 | 三菱電機株式会社 | 時刻同期装置、時刻同期システム、時刻同期方法、及び、プログラム |
JP2020188422A (ja) * | 2019-05-17 | 2020-11-19 | 株式会社Nttドコモ | 情報処理装置及び情報処理システム |
KR102106320B1 (ko) * | 2020-01-15 | 2020-05-04 | 디비시스(주) | 시각 정보의 동기화가 가능한 cctv 관리 시스템 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20210382929A1 (en) | Multimedia content tags | |
US9699431B2 (en) | Automatic tracking, recording, and teleprompting device using multimedia stream with video and digital slide | |
JP5792276B2 (ja) | ビデオデータのトリック再生 | |
CN101835017A (zh) | 视频重放设备和视频重放方法 | |
CN101753942A (zh) | 影像再现装置、影像系统及影像的再现速度变换方法 | |
US20130084053A1 (en) | System to merge multiple recorded video timelines | |
JP2005317151A (ja) | マルチメディアデータ同期再生方法、マルチメディアデータ同期再生装置およびマルチメディアデータ同期再生プログラム | |
JP4543694B2 (ja) | コミュニケーションシステム、コミュニケーションシステムのサーバー、及びサーバーの処理方法 | |
JP6260809B2 (ja) | ディスプレイ装置、情報処理方法、及び、プログラム | |
US8750579B2 (en) | Image information processing apparatus and image information processing method | |
CN106060580A (zh) | 图像同步显示方法及装置 | |
JP3558813B2 (ja) | 映像監視システム | |
CN115699723B (zh) | 影像编辑装置、影像编辑方法以及记录介质 | |
JP2007329593A (ja) | 画像再生システム | |
JP2006279294A (ja) | コンテンツ再生システム、コンテンツ再生方法、およびコンピュータプログラム | |
JP6085635B2 (ja) | ビデオデータのトリック再生 | |
JP2015119320A (ja) | 情報処理システム及びプログラム | |
US11922977B2 (en) | Method of real time marking of a media recording and system therefor | |
JP2020191616A (ja) | 情報処理装置、情報処理方法及びプログラム | |
US11521390B1 (en) | Systems and methods for autodirecting a real-time transmission | |
KR101783974B1 (ko) | 영상 저장 방법 및 장치, 그리고 영상 재생 방법 및 장치 | |
JP2012023479A (ja) | 映像記録再生装置 | |
JP2013025525A (ja) | 画像処理装置および方法 | |
JP2006108895A (ja) | 映像操作内容の提示・映像再生操作の権利制御方法及びシステム及びプログラム及び映像再生・映像再生操作の同期方法及びシステム及びプログラム及び映像付加情報の集計・提示方法及びシステム及びプログラム及び映像操作内容の提示・映像再生操作の権利制御・映像再生・映像再生操作の同期・映像付加情報の集計・提示方法及びシステム及びプログラム | |
JP2006019875A (ja) | 特定シーン開始時刻検索方法および装置、ならびにコンテンツ関連情報サーバ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060719 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080221 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080304 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080708 |