JP2005229509A - コンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びにコンテンツおよびメタデータの対応付け可能な受信端末 - Google Patents

コンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びにコンテンツおよびメタデータの対応付け可能な受信端末 Download PDF

Info

Publication number
JP2005229509A
JP2005229509A JP2004038362A JP2004038362A JP2005229509A JP 2005229509 A JP2005229509 A JP 2005229509A JP 2004038362 A JP2004038362 A JP 2004038362A JP 2004038362 A JP2004038362 A JP 2004038362A JP 2005229509 A JP2005229509 A JP 2005229509A
Authority
JP
Japan
Prior art keywords
metadata
content
feature amount
base point
analysis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004038362A
Other languages
English (en)
Other versions
JP4494821B2 (ja
Inventor
Takako Hashimoto
隆子 橋本
Takayuki Kunieda
孝之 國枝
Nozomi Takahashi
望 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2004038362A priority Critical patent/JP4494821B2/ja
Publication of JP2005229509A publication Critical patent/JP2005229509A/ja
Application granted granted Critical
Publication of JP4494821B2 publication Critical patent/JP4494821B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Abstract

【課題】別々に配信されるコンテンツとメタデータとを受信してコンテンツとメタデータとを自動的に対応付けるコンテンツ・メタデータ送受信システムを提供する。
【解決手段】コンテンツ配信サーバ1がネットワーク2を介して配信する映像・音声を含むコンテンツをメタデータ配信サーバ10が受信する。メタデータ生成部11は、コンテンツに付加された時間情報を付加したメタデータを生成して、受信端末20に送信する。受信端末20は、コンテンツ配信サーバ1から配信されたコンテンツの時間情報を取得し、メタデータ配信サーバ10から配信されたメタデータに付加された時間情報と比較して、コンテンツおよびメタデータの対応付けを行う。
【選択図】 図1

Description

本発明は、コンテンツおよびメタデータを送受信するコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びにコンテンツおよびメタデータの対応付け可能な受信端末に関し、特に別々に送信されるコンテンツおよびメタデータを受信して対応付けることができるコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びにコンテンツおよびメタデータの対応付け可能な受信端末に関するものである。
近年、映像・音声を含むマルチメディアコンテンツを受信して視聴する際、データーファイルのプロパティに含まれる情報であるメタデータ(metadata)を利用してコンテンツを加工する技術が普及してきている。BS衛星を使ったBSデジタル放送、および地上波デジタル放送においては、メタデータ付きコンテンツを配信し、受信端末において受信するメタデータを利用してコンテンツをより多様に視聴する視聴方法が提案されている。
例えば、映像と、該映像の特徴的な情報および時間情報とを同期させて、検索インデックスを生成する発明がなされている(特許文献1)。同発明によれば、映像情報と、映像の時間情報との間で同期を取り、映像情報の検索インデックスを生成できるとしている。
特開2003−274353号公報
しかしながら、特許文献1の発明は、映像および映像の時間情報との間で同期を取って、検索インデックスを生成できたとしても、時間情報が付加されていないインデックス情報を受信して、該インデックス情報に対応するコンテンツとの同期を取ることはできなかった。
放送のデジタル化に伴って、配信されるコンテンツにメタデータを付加することが行われているが、コンテンツにメタデータを付加する場合、コンテンツ制作者とメタデータ制作者が同一であり、かつ配信前にあらかじめメタデータを準備できる録画系のコンテンツであるならば、メタデータにコンテンツの時間情報などを正確に記述し、コンテンツとメタデータとを関連付けて配信することが可能である。しかしながら、一般に生放送でライブに流されるコンテンツにおいては、あらかじめメタデータを準備できない場合があり、また、コンテンツ制作者とメタデータ制作者が異なっている場合、メタデータにコンテンツの時間情報を正確に記述できない場合が多い。特にリアルタイムに、メタデータを配信するサービスにおいては、コンテンツとメタデータとを正確に関連付けて時間情報を抽出しようとすると、時間がかかってしまい、メタデータをリアルタイムに生成しにくいという問題があった。
また、コンテンツに時刻情報が付加されていない場合、メタデータを生成して配信する側は、コンテンツを説明するメタデータに時間情報を付加することは困難である。また、受信端末において、コンテンツの視聴を途中から開始する際に、コンテンツに時間情報が付加されていない場合は、メタデータとコンテンツとの時間を合わせることはより困難になる。
本発明は上記の問題に鑑みてなされ、その目的は、別々に配信されるコンテンツとメタデータとを受信してコンテンツとメタデータとを自動的に対応付けるコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びにコンテンツおよびメタデータの対応付け可能な受信端末を提供することである。
上述した課題を解決し、目的を達成するために、請求項1にかかる発明は、コンテンツ・メタデータ送受信システムであって、映像および音声を含むコンテンツを配信するコンテンツ配信サーバと、前記コンテンツ配信サーバが配信する前記コンテンツを受信して前記コンテンツに関するメタデータを生成して配信するメタデータ生成手段を有するメタデータ配信サーバと、前記コンテンツ配信サーバが配信する前記コンテンツおよび前記メタデータ配信サーバが配信する前記メタデータを受信し、前記コンテンツと前記メタデータとを対応付ける同期手段を有する受信端末と、を備えたことを特徴とする。
この請求項1にかかる発明によれば、コンテンツ配信サーバが配信する映像および音声を含むコンテンツを、メタデータ配信サーバのメタデータ生成手段が受信してコンテンツに関するメタデータを生成して配信し、受信端末の同期手段が、コンテンツ配信サーバが配信するコンテンツおよびメタデータ配信サーバが配信するメタデータを受信し、コンテンツとメタデータとを対応付ける。この構成によって受信端末において、コンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができる。
また、請求項2にかかる発明は、請求項1に記載のコンテンツ・メタデータ送受信システムにおいて、前記コンテンツ配信サーバは、前記コンテンツに時間情報を付加して配信するものであり、前記メタデータ生成手段は、前記コンテンツに付加された時間情報に基づいて前記メタデータに時間情報を付加して送信するものであり、前記同期手段は、前記メタデータ生成手段によって前記時間情報が付加されたメタデータを受信し、受信した前記メタデータに付加された時間情報と前記コンテンツに付加された時間情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項2にかかる発明によれば、コンテンツ配信サーバは、コンテンツに時間情報を付加して配信し、メタデータ生成手段は、コンテンツに付加された時間情報に基づいてメタデータに時間情報を付加して送信し、同期手段は、メタデータ生成手段から送信された時間情報が付加されたメタデータを受信して受信したメタデータに付加された時間情報とコンテンツに付加された時間情報とに基づいて、コンテンツとメタデータとを対応付ける。この構成によって受信端末において、コンテンツ配信サーバで時間情報が付加されたコンテンツが配信された場合、配信されたコンテンツおよびメタデータ配信サーバから配信されるメタデータを別々に受信しても、付加された時間情報に基づいて正確に対応付けることができる。
また、請求項3にかかる発明は、請求項1または2に記載のコンテンツ・メタデータ送受信システムにおいて、前記メタデータ配信サーバは、受信する前記コンテンツの特徴を表す特徴量を解析する第1の解析手段を、さらに備え、前記メタデータ生成手段は、前記第1の解析手段が解析した前記コンテンツの特徴量を前記メタデータに対応づけて配信し、前記受信端末は、前記コンテンツの特徴を表す特徴量を解析する第2の解析手段を、さらに備え、前記同期手段は、前記メタデータ生成手段が配信する前記第1の解析手段による特徴量の情報を受信し、受信した前記第1の解析手段による特徴量の情報と第2の解析手段による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項3にかかる発明によれば、メタデータ配信サーバの、メタデータ生成手段は、第1の解析手段が解析したコンテンツの特徴量をメタデータに対応づけて配信し、受信端末は、同期手段が、メタデータ生成手段が配信する第1の解析手段による特徴量の情報と第2の解析手段による特徴量とに基づいて、コンテンツとメタデータとを対応付ける。この構成によって、例え時間情報がコンテンツに付加されていなかったとしても、情報端末において、コンテンツの特徴量と、メタデータに対応付けられて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。
また、請求項4にかかる発明は、請求項3に記載のコンテンツ・メタデータ送受信システムにおいて、前記メタデータ生成手段は、前記第1の解析手段によって解析された前記特徴量の情報を前記メタデータに付加して配信するものであり、前記同期手段は、前記メタデータ生成手段が送信する前記メタデータに付加された前記特徴量の情報を受信し、受信した前記メタデータに付加された特徴量の情報と前記第2の解析手段による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項4にかかる発明によれば、メタデータ生成手段は、第1の解析手段によって解析された特徴量の情報をメタデータに付加して配信し、同期手段は、受信したメタデータに付加された特徴量の情報と第2の解析手段による特徴量とに基づいて、コンテンツとメタデータとを比較して対応付けることができる。この構成によって、例え時間情報がコンテンツに付加されていなかったとしても、情報端末において、コンテンツの特徴量と、メタデータに付加されて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。
また、請求項5にかかる発明は、請求項3または4に記載のコンテンツ・メタデータ送受信システムにおいて、前記メタデータ配信サーバの前記第1の解析手段は、前記第1の解析手段による前記特徴量を所定のしきい値と比較し前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をメタデータの基点に設定し、前記メタデータ生成手段は、前記第1の解析手段によって設定されたメタデータの基点から前後のオフセット値によって前記メタデータの時刻情報を記述して送信し、前記情報端末の前記第2の解析手段は、前記第2の解析手段による前記特徴量を所定のしきい値と比較して前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をコンテンツの基点に設定し、前記同期手段は、受信する前記第1の解析手段による前記メタデータの基点と前記第2の解析手段による前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項5にかかる発明によれば、メタデータ配信サーバの第1の解析手段は、特徴量を所定のしきい値と比較してしきい値以上であると判定した場合、特徴量に対応するコンテンツの部分をメタデータの基点に設定し、メタデータ生成手段は、第1の解析手段によって設定されたメタデータの基点から前後のオフセット値によってメタデータの時刻情報を記述して送信し、第2の解析手段はコンテンツの特徴量を所定のしきい値と比較して特徴量がしきい値以上であると判定した場合、特徴量に対応するコンテンツの部分をコンテンツの基点に設定し、同期手段は、受信する第1の解析手段によるメタデータの基点と第2の解析手段によるコンテンツの基点とに基づいて、前後のオフセット値によりコンテンツとメタデータとを対応付ける。この構成によって、メタデータ配信サーバによって設定された特徴量による基点と、受信端末によって設定された特徴量による基点とを比較することによって、受信端末において時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができる。
また、請求項6にかかる発明は、請求項5に記載のコンテンツ・メタデータ送受信システムにおいて、前記第1の解析手段は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記メタデータの基点を設定して配信し、前記第2の解析手段は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記コンテンツの基点を設定し、前記同期手段は、受信する前記第1の解析手段が設定した前記メタデータの基点と前記第2の解析手段が設定した前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項6にかかる発明によれば、第1の解析手段は、解析する特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された1つ以上の特徴量によってメタデータの基点を設定して配信し、第2の解析手段は、解析する特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された1つ以上の特徴量によってコンテンツの基点を設定し、同期手段は、第1の解析手段が設定したメタデータの基点と第2の解析手段が設定したコンテンツの基点とに基づいて、前後のオフセット値によりコンテンツとメタデータとを対応付ける。この構成によって、コンテンツにおける色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された1つ以上の特徴量によって設定される基点を比較することによって、受信端末において時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができる。
また、請求項7にかかる発明は、請求項5または6に記載のコンテンツ・メタデータ送受信システムにおいて、前記第1の解析手段は、前記メタデータの基点を複数個設定し、前記第2の解析手段は、前記コンテンツの基点を複数個設定し、前記同期手段は、設定された前記メタデータの複数個の基点および前記コンテンツの複数個の基点に基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項7にかかる発明によれば、同期手段は、設定されたメタデータの複数個の基点およびコンテンツの複数個の基点に基づいて、前後のオフセット値によりコンテンツとメタデータとを対応付ける。この構成によって、メタデータ配信サーバによって設定された特徴量による複数の基点と、受信端末によって設定された特徴量による複数の基点とを比較することによって、受信端末において時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができる。
また、請求項8にかかる発明は、請求項5または7に記載のコンテンツ・メタデータ送受信システムにおいて、前記第1の解析手段は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記メタデータの基点に設定し、前記第2の解析手段は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記コンテンツの基点に設定するものであることを特徴とする。
この請求項8にかかる発明によれば、コンテンツのシーンの切り替わる区切りを特徴量としてメタデータの基点に設定する。この構成によって、正確な基点を設定できるので受信端末によって設定された特徴量による基点を比較することによって、受信端末は時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができる。
また、請求項9にかかる発明は、請求項5〜8のいずれか1つに記載のコンテンツ・メタデータ送受信システムにおいて、前記メタデータ生成手段は、前記メタデータの時刻情報を、前記メタデータの直前の基点までの過去に遡るオフセットおよび直後の基点へのオフセット値情報として、前記メタデータに付加して配信し、前記情報端末の前記同期手段は、前記第2の解析手段によって設定される基点と前記メタデータに付加された前記オフセット値情報により特定される時刻情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項9にかかる発明によれば、メタデータの時刻情報を、メタデータの直前の基点までの過去に遡るオフセットおよび直後の基点へのオフセット値情報として、メタデータに付加して配信するので、情報端末付加されたオフセット値情報によりコンテンツとメタデータとを対応付ける。この構成によって、メタデータの前後の基点によってメタデータを特定することによって、過去に遡ってメタデータの対応付けをすることができるので、受信端末において、受信するメタデータを無駄にすることを避けながらコンテンツおよびメタデータの対応付けを行うことができる。
また、請求項10にかかる発明は、請求項5〜9のいずれか1つに記載のコンテンツ・メタデータ送受信システムにおいて、前記第1の解析手段は、前記メタデータの基点を所定の時間で周期的に設定し、前記第2の解析手段は、前記コンテンツの基点を所定の時間で周期的に設定し、前記同期手段は、前記第1の解析手段が設定した前記メタデータの周期的な基点と前記第2の解析手段が設定した前記コンテンツの周期的な基点とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項10にかかる発明によれば、メタデータの基点は所定の時間で周期的に設定され、コンテンツの基点は所定の時間で周期的に設定されるので、受信端末は、メタデータの周期的な基点とコンテンツの周期的な基点とに基づいて、コンテンツとメタデータとを対応付ける。この構成によって、受信端末がコンテンツを途中から受信開始した場合であっても、周期的な基点を受信することによって基点を比較することができるので、受信端末においては、時間的な無駄を少なくして効率よくコンテンツおよびメタデータの対応付けを行うことができる。
また、請求項11にかかる発明は、コンテンツ・メタデータ同期方法であって、映像および音声を含むコンテンツを配信するコンテンツ配信工程と、前記コンテンツ配信工程において配信された前記コンテンツに関するメタデータを生成して配信するメタデータ生成工程と、前記コンテンツ配信工程において配信された前記コンテンツと前記メタデータ生成工程において配信されたメタデータとを受信し、受信した前記コンテンツと前記メタデータとを対応付ける同期工程と、を含むことを特徴とする。
この請求項11にかかる発明によれば、コンテンツ配信工程において映像および音声を含むコンテンツを配信し、メタデータ配信工程においてコンテンツに関するメタデータを生成して配信し、同期工程において、コンテンツ配信工程で配信されたコンテンツとメタデータ生成工程で配信されたメタデータとを受信して、コンテンツとメタデータとを対応付ける。この構成によって受信端末は、配信されるコンテンツと、配信されるメタデータとを別々に受信して対応付けることができる。
また、請求項12にかかる発明は、請求項11に記載のコンテンツ・メタデータ同期方法において、前記コンテンツ配信工程は、前記コンテンツに時間情報を付加して配信するものであり、前記メタデータ生成工程は、前記コンテンツに付加された時間情報に基づいて前記メタデータに時間情報を付加して送信するものであり、前記同期工程は、前記メタデータ生成工程において前記メタデータに付加された前記時間情報と前記コンテンツ配信工程において配信されるコンテンツに付加された前記時間情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項12にかかる発明によれば、コンテンツ配信工程は、コンテンツに時間情報を付加して配信し、メタデータ生成工程は、コンテンツに付加された時間情報に基づいてメタデータに時間情報を付加して送信し、同期工程は、メタデータに付加された時間情報とコンテンツに付加された時間情報とに基づいて、コンテンツとメタデータとを対応付ける。この構成によって、時間情報が付加されたコンテンツが配信された場合、配信されたコンテンツおよび配信されるメタデータを別々に受信しても、付加された時間情報に基づいて正確に対応付けることができる。
また、請求項13にかかる発明は、請求項11または12に記載のコンテンツ・メタデータ同期方法において、受信する前記コンテンツの特徴を表す特徴量を解析する第1の解析工程を、さらに含み、前記メタデータ生成工程は、前記第1の解析工程において解析された前記コンテンツの特徴量を前記メタデータに対応付けて配信し、受信する前記コンテンツの特徴を表す特徴量を解析する第2の解析工程を、さらに含み、前記同期工程は、前記メタデータ生成工程において配信される前記メタデータに対応付けられた前記第1の解析工程による前記コンテンツの特徴量の情報を受信し、受信した前記第1の解析工程による特徴量の情報と前記第2の解析工程による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項13にかかる発明によれば、コンテンツの特徴を表す特徴量を解析する第1の解析工程を、さらに含み、メタデータ生成工程は、第1の解析工程によるコンテンツの特徴量をメタデータに対応付けて配信し、コンテンツの特徴を表す特徴量を解析する第2の解析工程を、さらに含み、同期工程は、メタデータに対応付けられた第1の解析工程によるコンテンツの特徴量の情報を受信して第1の解析工程による特徴量の情報と、第2の解析工程による特徴量とに基づいて、コンテンツとメタデータとを対応付ける。この構成によって、例え時間情報がコンテンツに付加されていなかったとしても、コンテンツの特徴量と、メタデータに対応付けられて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。
また、請求項14にかかる発明は、請求項13に記載のコンテンツ・メタデータ同期方法において、前記メタデータ生成工程は、前記第1の解析工程において解析された前記特徴量の情報を前記メタデータに付加して配信するものであり、前記同期工程は、前記メタデータ生成工程において送信される前記メタデータに付加された前記第1の解析工程による前記特徴量の情報を受信し、受信した前記メタデータに付加された特徴量の情報と前記第2の解析工程において解析された特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項14にかかる発明によれば、メタデータ生成工程は、第1の解析工程による特徴量の情報をメタデータに付加して配信し、同期工程は、メタデータに付加された第1の解析工程による特徴量の情報を受信して付加された特徴量の情報と、第2の解析工程による特徴量とに基づいて、コンテンツとメタデータとを対応付ける。この構成によって、例え時間情報がコンテンツに付加されていなかったとしても、コンテンツの特徴量と、メタデータに付加されて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。
また、請求項15にかかる発明は、請求項13または14に記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、前記第1の解析工程による前記特徴量を所定のしきい値と比較し前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をメタデータの基点とし、前記メタデータ生成工程は、前記第1の解析工程において設定されたメタデータの基点から前後のオフセット値で前記メタデータの時刻情報を記述して送信するものであり、前記第2の解析工程は、前記第2の解析工程による前記特徴量を所定のしきい値と比較して前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をコンテンツの基点とし、前記同期工程は、受信する前記第1の解析工程による前記メタデータの基点と前記第2の解析工程による前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項15にかかる発明によれば、第1の解析工程は、第1の解析工程による特徴量を所定のしきい値と比較してメタデータの基点を設定し、メタデータ生成工程は、第1の解析工程によるメタデータの基点から前後のオフセット値でメタデータの時刻情報を記述して送信し、第2の解析工程は、第2の解析工程による特徴量を所定のしきい値と比較してコンテンツの基点を設定し、同期工程は、第1の解析工程によるメタデータの基点と第2の解析工程によるコンテンツの基点とに基づいて、前後のオフセット値によりコンテンツとメタデータとを対応付ける。この構成によって、メタデータに設定された特徴量による基点と、コンテンツに設定された特徴量による基点とを比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができる。
また、請求項16にかかる発明は、請求項15に記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記メタデータの基点を設定して配信し、前記第2の解析工程は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記コンテンツの基点を設定し、前記同期工程は、受信する前記第1の解析工程が設定した前記メタデータの基点と前記第2の解析工程が設定した前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項16にかかる発明によれば、第1の解析工程は、解析する特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量によってメタデータの基点を設定して配信し、第2の解析工程は、解析する特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量によってコンテンツの基点を設定し、同期工程は、第1の解析工程が設定したメタデータの基点と第2の解析工程が設定したコンテンツの基点とに基づいて、前後のオフセット値によりコンテンツとメタデータとを対応付ける。この構成によって、コンテンツにおける色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された1つ以上の特徴量によって設定される基点を比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができる。
また、請求項17にかかる発明は、請求項15または16に記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、前記メタデータの基点を複数個設定し、前記第2の解析工程は、前記コンテンツの基点を複数個設定し、前記同期工程は、設定された前記メタデータの複数個の基点および前記コンテンツの複数個の基点に基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項17にかかる発明によれば、第1の解析工程は、メタデータの基点を複数個設定し、第2の解析工程は、コンテンツの基点を複数個設定し、同期工程は、設定されたメタデータの複数個の基点およびコンテンツの複数個の基点に基づいて、前後のオフセット値によりコンテンツとメタデータとを対応付ける。この構成によって、メタデータに設定された特徴量による複数の基点と、コンテンツに設定された特徴量による複数の基点とを比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができる。
また、請求項18にかかる発明は、請求項15または17に記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記メタデータの基点に設定し、前記第2の解析工程は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記コンテンツの基点に設定するものであることを特徴とする。
この請求項18にかかる発明によれば、第1の解析工程は、コンテンツのシーンの切り替わる区切りを特徴量としてメタデータの基点に設定し、第2の解析工程は、コンテンツのシーンの切り替わる区切りを特徴量としてコンテンツの基点に設定する。この構成によって、コンテンツに正確な基点を設定できるのでコンテンツとメタデータに設定された特徴量による基点とを比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができる。
また、請求項19にかかる発明は、請求項15〜18のいずれか1つに記載のコンテンツ・メタデータ同期方法において、前記メタデータ生成工程は、前記メタデータの時刻情報を、前記メタデータの直前の基点までの過去に遡るオフセットおよび直後の基点へのオフセット値情報として、前記メタデータに付加して配信し、前記同期工程は、前記第2の解析工程において設定される基点と前記メタデータに付加された前記オフセット値情報により特定される時刻情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項19にかかる発明によれば、メタデータ生成工程は、メタデータの時刻情報を、メタデータの直前の基点までの過去に遡るオフセットおよび直後の基点へのオフセット値情報として、メタデータに付加して配信し、同期工程は、第2の解析工程において設定される基点とメタデータに付加されたオフセット値情報により特定される時刻情報とに基づいて、コンテンツとメタデータとを対応付ける。この構成によって、メタデータの前後の基点によってメタデータを特定することによって、過去に遡ってメタデータの対応付けをすることができるので、受信するメタデータを無駄にすることを避けながらコンテンツおよびメタデータの対応付けを行うことができる。
また、請求項20にかかる発明は、請求項15〜19のいずれか1つに記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、前記メタデータの基点を所定の時間で周期的に設定し、前記第2の解析工程は、前記コンテンツの基点を所定の時間で周期的に設定し、前記同期工程は、前記第1の解析工程が設定した前記メタデータの周期的な基点と前記第2の解析工程が設定した前記コンテンツの周期的な基点とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項20にかかる発明によれば、第1の解析工程は、メタデータの基点を所定の時間で周期的に設定し、第2の解析工程は、コンテンツの基点を所定の時間で周期的に設定し、同期工程は、第1の解析工程が設定したメタデータの周期的な基点と第2の解析工程が設定したコンテンツの周期的な基点とに基づいて、コンテンツとメタデータとを対応付ける。この構成によって、コンテンツを途中から受信開始した場合であっても、周期的な基点を受信することによって基点を比較することができるので、時間的な無駄を少なくして効率よくコンテンツおよびメタデータの対応付けを行うことができる。
また、請求項21にかかる発明は、プログラムであって、請求項11〜20のいずれか1つに記載のコンテンツ・メタデータ同期方法をコンピュータに実行させることを特徴とする。
この請求項21にかかる発明によれば、請求項11〜20のいずれか1つに記載のコンテンツ・メタデータ同期方法をコンピュータに実行させることができる。
また、請求項22にかかる発明は、コンテンツおよびメタデータの対応付け可能な受信端末であって、コンテンツ配信サーバから配信される映像および音声を含むコンテンツと、メタデータ配信サーバによって前記コンテンツを基に生成されたメタデータとを受信し、受信した前記コンテンツおよび前記メタデータを対応付ける同期手段を有する同期装置を備えたことを特徴とする。
この請求項22にかかる発明によれば、コンテンツ配信サーバから配信される映像および音声を含むコンテンツと、メタデータ配信サーバによってコンテンツを基に生成されたメタデータとを受信し、受信したコンテンツおよびメタデータを対応付ける同期手段を有する同期装置を備えた。この構成によって受信端末は、コンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができる。
また、請求項23にかかる発明は、請求項22に記載のコンテンツおよびメタデータの対応付け可能な受信端末において、前記コンテンツ配信サーバによって前記コンテンツに時間情報が付加されて配信され、前記メタデータ配信サーバにより前記時間情報が前記メタデータに付加されて生成された場合、前記同期装置は、前記同期手段が、前記メタデータ配信サーバにより生成された前記時間情報が付加されたメタデータを受信し、受信した前記メタデータに付加された時間情報と、前記コンテンツ配信サーバから受信する前記コンテンツに付加された時間情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項23にかかる発明によれば、コンテンツ配信サーバによってコンテンツに時間情報が付加されて配信され、メタデータ配信サーバにより時間情報がメタデータに付加されて生成された場合、同期装置は、同期手段が、メタデータ配信サーバにより生成された時間情報が付加されたメタデータを受信し、受信したメタデータに付加された時間情報と、コンテンツ配信サーバから受信するコンテンツに付加された時間情報とに基づいて、コンテンツとメタデータとを対応付ける。この構成によって受信端末は、コンテンツ配信サーバで時間情報が付加されたコンテンツが配信された場合、配信されたコンテンツおよびメタデータ配信サーバから配信されるメタデータを別々に受信しても、付加された時間情報に基づいて正確に対応付けることができる。
また、請求項24にかかる発明は、請求項22または23に記載のコンテンツおよびメタデータの対応付け可能な受信端末において、前記メタデータ配信サーバにより前記コンテンツの特徴を表す特徴量が解析され、解析された前記コンテンツの特徴量が前記メタデータに対応づけて配信される場合、前記同期装置は、前記コンテンツ配信サーバから受信する前記コンテンツの特徴量を解析する解析手段をさらに有し、前記同期手段が、前記メタデータ配信サーバから前記メタデータに対応づけて配信される前記コンテンツの特徴量を受信し、前記メタデータ配信サーバによる前記メタデータに対応づけられた前記コンテンツの特徴量と、前記解析手段によって解析された前記コンテンツの特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
この請求項24にかかる発明によれば、メタデータ配信サーバによりコンテンツの特徴を表す特徴量が解析されてメタデータに対応づけて配信される場合、同期装置は、コンテンツ配信サーバから受信するコンテンツの特徴量を解析する解析手段をさらに有し、同期手段が、メタデータ配信サーバからメタデータに対応づけて配信されるコンテンツの特徴量を受信し、メタデータ配信サーバによるメタデータに対応づけられたコンテンツの特徴量と、解析手段によって解析されたコンテンツの特徴量とに基づいて、コンテンツとメタデータとを対応付ける。この構成によって、例え時間情報がコンテンツに付加されていなかったとしても、情報端末は、コンテンツの特徴量と、メタデータに対応付けられて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。
また、請求項25にかかる発明は、請求項22〜24のいずれか1つに記載のコンテンツおよびメタデータの対応付け可能な受信端末において、前記受信端末は、DVD(DigitalVersatileDisc)録画機であることを特徴とする。
この請求項25にかかる発明によれば、受信端末は、DVD(DigitalVersatileDisc)録画機である。この構成によって受信端末は、コンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができるDVD録画機に適用できる。
また、請求項26にかかる発明は、請求項22〜24のいずれか1つに記載のコンテンツおよびメタデータの対応付け可能な受信端末において、前記受信端末は、HDD(HardDiscDrive)録画機であることを特徴とする。
この請求項26にかかる発明によれば、受信端末は、HDD(HardDiscDrive)録画機である。この構成によって受信端末は、コンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができるHDD録画機に適用できる。
また、請求項27にかかる発明は、請求項22〜24のいずれか1つに記載のコンテンツおよびメタデータの対応付け可能な受信端末において、前記受信端末は、携帯型電話機であることを特徴とする。
この請求項27にかかる発明によれば、受信端末は、携帯型電話機である。この構成によって受信端末は、コンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができる携帯型電話機に適用できる。
本発明(請求項1)にかかるコンテンツ・メタデータ送受信システムは、受信端末において、コンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができるという効果を奏する。
また、本発明(請求項2)にかかるコンテンツ・メタデータ送受信システムは、受信端末において、コンテンツ配信サーバで時間情報が付加されたコンテンツが配信された場合、配信されたコンテンツおよびメタデータ配信サーバから配信されるメタデータを別々に受信しても、付加された時間情報に基づいて正確に対応付けることができるという効果を奏する。
また、本発明(請求項3)にかかるコンテンツ・メタデータ送受信システムは、例え時間情報がコンテンツに付加されていなかったとしても、情報端末において、コンテンツの特徴量と、メタデータに対応付けられて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができるという効果を奏する。
また、本発明(請求項4)にかかるコンテンツ・メタデータ送受信システムは、例え時間情報がコンテンツに付加されていなかったとしても、情報端末において、コンテンツの特徴量と、メタデータに付加されて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができるという効果を奏する。
また、本発明(請求項5)にかかるコンテンツ・メタデータ送受信システムは、メタデータ配信サーバの第1の解析手段は、特徴量を所定のしきい値と比較してしきい値以上であると判定した場合、特徴量に対応するコンテンツの部分をメタデータの基点に設定し、メタデータ配信サーバによって設定された特徴量による基点と、受信端末によって設定された特徴量による基点とを比較することによって、受信端末において時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができるという効果を奏する。
また、本発明(請求項6)にかかるコンテンツ・メタデータ送受信システムは、コンテンツにおける色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された1つ以上の特徴量によって設定される基点を比較することによって、受信端末において時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができるという効果を奏する。
また、本発明(請求項7)にかかるコンテンツ・メタデータ送受信システムは、メタデータ配信サーバによって設定された特徴量による複数の基点と、受信端末によって設定された特徴量による複数の基点とを比較することによって、受信端末において時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができるという効果を奏する。
また、本発明(請求項8)にかかるコンテンツ・メタデータ送受信システムは、シーンの切り替わる区切りによって正確な基点を設定できるので受信端末によって設定された特徴量による基点を比較することによって、受信端末において時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができるという効果を奏する。
また、本発明(請求項9)にかかるコンテンツ・メタデータ送受信システムは、メタデータの前後の基点によってメタデータを特定することによって、過去に遡ってメタデータの対応付けをすることができるので、受信端末においては受信するメタデータを無駄にすることを避けながらコンテンツおよびメタデータの対応付けを行うことができるという効果を奏する。
また、本発明(請求項10)にかかるコンテンツ・メタデータ送受信システムは、受信端末がコンテンツを途中から受信開始した場合であっても、周期的な基点を受信することによって基点を比較することができるので、受信端末においては時間的な無駄を少なくして効率よくコンテンツおよびメタデータの対応付けを行うことができるという効果を奏する。
また、本発明(請求項11)にかかるコンテンツ・メタデータ同期方法は、配信されるコンテンツと、配信されるメタデータとを別々に受信して対応付けることができるという効果を奏する。
また、本発明(請求項12)にかかるコンテンツ・メタデータ同期方法は、時間情報が付加されたコンテンツが配信された場合、配信されたコンテンツおよび配信されるメタデータを別々に受信しても、付加された時間情報に基づいて正確に対応付けることができるという効果を奏する。
また、本発明(請求項13)にかかるコンテンツ・メタデータ同期方法は、例え時間情報がコンテンツに付加されていなかったとしても、コンテンツの特徴量と、メタデータに対応付けられて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができるという効果を奏する。
また、本発明(請求項14)にかかるコンテンツ・メタデータ同期方法は、例え時間情報がコンテンツに付加されていなかったとしても、コンテンツの特徴量と、メタデータに付加されて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができるという効果を奏する。
また、本発明(請求項15)にかかるコンテンツ・メタデータ同期方法は、メタデータに設定された特徴量による基点と、コンテンツに設定された特徴量による基点とを比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができるという効果を奏する。
また、本発明(請求項16)にかかるコンテンツ・メタデータ同期方法は、コンテンツにおける色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された1つ以上の特徴量によって設定される基点を比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができるという効果を奏する。
また、本発明(請求項17)にかかるコンテンツ・メタデータ同期方法は、メタデータに設定された特徴量による複数の基点と、コンテンツに設定された特徴量による複数の基点とを比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができるという効果を奏する。
また、本発明(請求項18)にかかるコンテンツ・メタデータ同期方法は、シーンの切り替わる区切りによってコンテンツに正確な基点を設定できるのでコンテンツとメタデータに設定された特徴量による基点とを比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができるという効果を奏する。
また、本発明(請求項19)にかかるコンテンツ・メタデータ同期方法は、メタデータの前後の基点によってメタデータを特定することによって、過去に遡ってメタデータの対応付けをすることができるので、受信するメタデータを無駄にすることを避けながらコンテンツおよびメタデータの対応付けを行うことができるという効果を奏する。
また、本発明(請求項20)にかかるコンテンツ・メタデータ同期方法は、コンテンツを途中から受信開始した場合であっても、周期的な基点を受信することによって基点を比較することができるので、時間的な無駄を少なくして効率よくコンテンツおよびメタデータの対応付けを行うことができるという効果を奏する。
また、本発明(請求項21)にかかるプログラムは、請求項11〜20のいずれか1つに記載のコンテンツ・メタデータ同期方法をコンピュータに実行させることができるという効果を奏する。
また、本発明(請求項22)にかかるコンテンツおよびメタデータの対応付け可能な受信端末は、コンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができるという効果を奏する。
また、本発明(請求項23)にかかるコンテンツおよびメタデータの対応付け可能な受信端末は、コンテンツ配信サーバで時間情報が付加されたコンテンツが配信された場合、配信されたコンテンツおよびメタデータ配信サーバから配信されるメタデータを別々に受信しても、付加された時間情報に基づいて正確に対応付けることができるという効果を奏する。
また、本発明(請求項24)にかかるコンテンツおよびメタデータの対応付け可能な受信端末は、例え時間情報がコンテンツに付加されていなかったとしても、情報端末は、コンテンツの特徴量と、メタデータに対応付けられて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができるという効果を奏する。
また、本発明(請求項25)にかかるコンテンツおよびメタデータの対応付け可能な受信端末は、コンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができるDVD録画機に適用できるという効果を奏する。
また、本発明(請求項26)にかかるコンテンツおよびメタデータの対応付け可能な受信端末は、コンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができるHDD録画機に適用できるという効果を奏する。
また、本発明(請求項27)にかかるコンテンツおよびメタデータの対応付け可能な受信端末は、コンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができる携帯型電話機に適用できるという効果を奏する。
以下に添付図面を参照して、この発明にかかるコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びにコンテンツおよびメタデータの対応付け可能な受信端末の最良な実施の形態を詳細に説明する。
(1.実施の形態1によるコンテンツ・メタデータ送受信システム)
(1.1.コンテンツ・メタデータ送受信システムの構成)
図1は、実施の形態1によるコンテンツ・メタデータ送受信システムの機能的ブロック図である。実施の形態1によるコンテンツ・メタデータ送受信システムは、ネットワーク2に接続するコンテンツ配信サーバ1、メタデータ配信サーバ10、および受信端末20を備える。図1では各サーバ1,10および受信端末20は、1つのみが記されているが、単数に限るものではない。
コンテンツ配信サーバ1は、映像音声を含むマルチメディアコンテンツを、時間情報を付加して生成し、ネットワーク2を介して、メタデータ配信サーバ10および受信端末20に配信する。
メタデータ配信サーバ10は、メタデータ生成部11を備える。メタデータ生成部11は、コンテンツ配信サーバ1から配信されたコンテンツを受信してコンテンツに付加された時間情報を記述し、受信したコンテンツに対応するメタデータを生成する。メタデータ生成部11は、時間情報が記述されたメタデータを、受信端末20に配信する。
受信端末20は、同期部21を備える。同期部21は、メタデータ配信サーバ10のメタデータ生成部11から配信される時間情報が付加されたメタデータを受信する。また、同期部21は、コンテンツ配信サーバ1から配信される時間情報が付加されたコンテンツを、受信する。
図2は、実施の形態1によるコンテンツ・メタデータ送受信システムにおけるコンテンツとメタデータの対応付け動作を説明する図である。ここではメタデータ生成部11が、時間情報が付加されて配信されるコンテンツの流れ51を受信しており、時間情報が付加されたメタデータ52を生成する。受信端末20の同期部21は、配信されるコンテンツの流れ51を受信し受信したコンテンツに付加された時間情報を読み取る。また同期部21は、メタデータ生成サーバ10から時間情報が付加されたメタデータ52を受信し、既に読み取ったコンテンツデータ51の時間情報と対応付ける。図2に示すように、メタデータ52には時間情報が付加されており、例えば3分00秒から4分00秒の間にバッター松井の打席のシーンであった場合、メタデータ生成部11は、
<time>3:00−4:00
<who>松井
というメタデータ52を作成し、受信端末20に送信する。受信する同期部21は、メタデータ52を読み込み、またコンテンツデータ51の時間情報を読み取り、コンテンツの時間が3:00−4:00の間は、バッターが松井であるという対応付けを行う。
この方式は、M−PEG2形式などのようにコンテンツに時間情報が付加されている場合に適用できる。コンテンツに時間情報が付加されている場合、メタデータ生成部11は、該時間情報をメタデータに記述する。
(1.2.コンテンツおよびメタデータの対応付け手順)
図3は、コンテンツおよびメタデータの対応付け手順を説明するフローチャートである。コンテンツ配信サーバ1は、時間情報が付加されたコンテンツを配信する(ステップS101)。メタデータ生成部11は、配信されるコンテンツを受信可能状態にあり(ステップS102)、受信した場合(ステップS102のYes)、メタデータ生成部11はコンテンツを解析し(ステップS103)、時間情報を付加してメタデータを生成し、受信端末20に配信する(ステップS104)。コンテンツを受信しない場合(ステップS102のNo)、そのまま待機する。
受信端末20の同期部21は、配信されるコンテンツを受信可能状態にあり(ステップS105)、受信した場合(ステップS105のYes)、同期部21は、コンテンツの時間情報を解析する(ステップS106)。同期部21は、メタデータ生成部11から配信されるメタデータを受信可能状態にあり(ステップS107)、受信しない場合は(ステップS107のNo)そのまま待機する。
同期部21がメタデータを受信した場合(ステップS107のYes)、同期部21は、メタデータの時間情報とコンテンツの時間情報の同期を調べ(ステップS108)、同期がとれない場合は(ステップS108)、再びステップS107に戻り、メタデータの受信を待機する。
同期部21が、メタデータの時間情報とコンテンツの時間情報との同期を取ることができた場合(ステップS108のYes)、同期部21は、コンテンツとメタデータとを対応付ける(ステップS109)
(1.3.効果)
受信端末20においては、コンテンツとメタデータを別々に受信したとしても、コンテンツに付加されている時間情報とメタデータに記述されている時間情報を比較し、同じ時間情報を有するコンテンツとメタデータとを正確に関連づけることができる。
(2.実施の形態2によるコンテンツ・メタデータ送受信システム)
(2.1.コンテンツ・メタデータ送受信システムの構成)
実施の形態2によるコンテンツ・メタデータ送受信システムは、配信されるコンテンツに時間情報が付加されていない場合、あるいはメタデータ配信サーバにおいてコンテンツに付加された時間情報を取得できない場合に、メタデータ配信サーバおよび情報端末においてコンテンツの特徴を表す特徴量を解析する。メタデータ配信サーバ10は特徴量が付加されたメタデータを生成して配信し、配信された特徴量が付加されたメタデータを受信する情報端末20は、既に解析した特徴量と比較してコンテンツおよびメタデータの同期を取って対応付ける。ここでは、実施の形態1によるコンテンツ・メタデータ送受信システムにおいてコンテンツとメタデータとを対応付ける根拠となる時間情報に代わるものとして、特徴量の情報を使用する。
図4は、実施の形態2によるコンテンツ・メタデータ送受信システムの機能的ブロック図である。実施の形態2によるコンテンツ・メタデータ送受信システムが実施の形態1と異なる点は、メタデータ配信サーバ10がさらに、受信するコンテンツの特徴量を解析する第1解析部12を備え、かつ受信端末20がさらに、受信するコンテンツの特徴量を解析する第2解析部22を備える点である。また同期部21は、特徴量を比較することによってコンテンツおよびメタデータの対応付けを行う。
第1解析部12および第2解析部22が解析する特徴量は、シーンの切り替わり、色特徴、カット点、フレームのマッチング、無音部区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上である。第1解析部12は、受信したコンテンツを解析し上記特徴量を算出する。
最近、動画の検索技術の一つとして画紋が使用されているが、この画紋を検出して特徴量として使用することができる。画紋とは、動画像アーカイブから望む動画像を見つけるための手掛かり情報であり、人間の指紋と同様に、少ない情報量で動画像の識別が可能な情報で、簡単で安定的に使用することができるものとして研究されている。画紋については、例えば情報処理学会研究報告アブストラクトNo.023−004「オーディオビジュアル複合情報処理」の中に納められた「画紋を用いた動画像検索方式−現行テレビ放送への適用」(著者:高橋克直、杉浦麻貴、村井正人、寺島信義、富永英義)による公知技術を適用することができる。
例えばこの画紋の技術を利用すれば、動画像の特徴を利用して、動画像のある特定のポイントを絞り込むことが可能となる。
図5は、メタデータ生成部によるメタデータの生成を説明する図である。メタデータ配信サーバ10の第1解析部12は、受信したコンテンツ81を解析して特徴量を算出する。符号83を付されたグラフは、時間に対する特徴量を示したグラフである。第1解析部12は、算出された特著量をしきい値85で判定し、しきい値85以上の特徴量を与えるコンテンツの部分(84−1、84−2)に対して時間軸上で基点(82−1、82−2)として設定する。
メタデータ生成部11は、2つの基点(82−1、82−2)の間においてメタデータ86を生成する。生成されたメタデータ86はコンテンツ81上で特定される。時刻合わせの基点が、実装によっては時間的に余裕を持って設定できる場合、時刻情報を前後の基点からのオフセット値としてプラスのオフセット値およびマイナスのオフセット値として2重に設定することが望ましい。図5中のメタデータ86には、<time>としてプラスの時間とマイナスの時間によってメタデータの内容の記述を起点から2重に特定することが示されている。メタデータの時刻情報を2重に記述することによって、途中から視聴を開始した場合にも即座に対応付け動作が可能となる。
メタデータが特定される際には、時間軸を使用しても良く、あるいはフレーム数を使用しても良い。時間軸を用いる場合、時刻合わせの基点は、特殊な特徴量をもつか、あるいは一定のしきい値を超えた特徴量をもつコンテンツ上のポイントであり、例えば、映像フレーム区間、音声区間などが挙げられる。
あるいは時刻合わせの基点としては、コンテンツの中に含まれるコマーシャル(CM)のようなコンテンツの区切りのタイミングを使用することができる。
また、同期部21による同期の判定は、基点間の距離、あるいは基点における特徴量の大きさなどを比較することによって可能である。
ここで、この特徴量から設定された時刻合わせの基点は、周期的に流されることが望ましい。周期的に設定することによって、受信端末がコンテンツの途中からコンテンツとメタデータの受信を始めた場合でも、メタデータとコンテンツを随時関連づけることが可能となる。
時刻合わせの基点となる特徴量の情報もメタデータとして配信することができる。この特徴量の情報は、時刻合わせの基点が生成される毎にメタデータが作成されて、配信される。その場合、メタデータの内容は基点に関する情報だけの場合もある。
また、時刻合わせの基点となる特徴量の情報は、メタデータとして配信せずに、別の情報として配信することもできる。
受信端末20においては、第2解析部22が、コンテンツ配信サーバ1から受信したコンテンツの特徴量の情報から第1解析部12と同様に基点を抽出する。同期部21は、受信したメタデータ86に関連する基点情報を読み取って読み取ったメタデータ86の基点情報と、第2解析部22によって抽出された基点情報とを比較してコンテンツとメタデータとの同期を取る。同期部21は、メタデータに記述されていた時刻合わせの基点に合致するコンテンツ上のポイントを選択し選択されたポイントを時刻合わせの基点とする。選択された時刻合わせの基点を基にして、メタデータに記述されている時刻のオフセット情報を使用してコンテンツ内容を時間軸上で特定し、コンテンツとメタデータとを関連付ける。
(2.2.コンテンツおよびメタデータの対応付け手順)
図6は、実施の形態2によるコンテンツおよびメタデータの対応付け手順を説明するフローチャートである。図4〜6を参照しながら、実施の形態2によるコンテンツ・メタデータ送受信システムの各部の動作、およびコンテンツ・メタデータの対応付けの手順を説明する。
コンテンツ配信サーバ1はコンテンツを配信する(ステップS201)。メタデータ配信サーバの第1解析部12は、コンテンツ配信サーバ1から配信されたコンテンツを受信する状態にあり(ステップS202)、受信しない場合は(ステップS202のNo)そのまま待機する。第1解析部12は、コンテンツを受信した場合(ステップS202のYes)、コンテンツの特徴量を解析し、解析された特徴量を所定のしきい値と比較して基点を抽出する(ステップS203)。
ここで特徴量として例えば、シーンの切り替わりフレーム情報を使用する。第1解析部12はコンテンツのシーンの切り替わりを検出する。メタデータ生成部11は、第1解析部12によって検出されたシーンの切り替わりフレーム情報である基点情報を付加してメタデータを作成し、受信端末20に送信する(ステップS204)。
受信端末20の第2解析部22は、コンテンツ配信サーバ1が配信するコンテンツを受信可能状態にあり(ステップS205)、受信しない場合はそのまま継続して待機状態にあり(ステップS205のNo)、受信した場合(ステップS205のYes)、第2解析部22は、コンテンツにおけるシーンの切り替わりフレーム情報を、コンテンツの特徴量として解析し、解析された特徴量を所定のしきい値と比較して基点を抽出し、基点を設定する(ステップS206)。
同期部21は、コンテンツ配信サーバ1から配信されるシーンの切り替わりフレーム情報である基点情報が付加されたメタデータを受信可能状態にあり(ステップS207)、受信しない場合は(ステップS207のNo)、そのまま受信可能状態を継続する。同期部21は、メタデータ生成部11から送信されるメタデータを受信した場合(ステップS207のYes)、メタデータに付加された基点情報(この場合切り替わりフレーム情報)を検出し、第2解析部22によって解析された基点(この場合切り替わりフレーム情報)との同期を判定する(ステップS208)。同期部21が、特徴量の同期を取ることができなければ(ステップS208のNo)、ステップS207に戻る。同期部21が、特徴量の同期を取ることができれば(ステップS208のYes)、取られた該同期によってコンテンツとメタデータとを対応付ける(ステップS209)。
(2.3.効果)
コンテンツ配信サーバから送信されるコンテンツに時間情報が付加されていなかった場合でも、メタデータ配信サーバがコンテンツの特徴量を解析しメタデータに付加して受信端末に送信し、メタデータを受信した受信端末においては、コンテンツ配信サーバから受信するコンテンツの特徴量を解析してメタデータに付加された特徴量と比較することにより、コンテンツとメタデータとの同期を取ることができるので、コンテンツおよびメタデータを対応付けることができる。
(3.実施の形態3によるコンテンツ・メタデータ送受信システム)
(3.1.コンテンツ・メタデータ送受信システムの構成)
実施の形態3によるコンテンツ・メタデータ送受信システムは、コンテンツとメタデータとの同期において、複数の特徴量を使用する点が、実施の形態1および2と異なる点である。1つのメタデータに対し1つの特徴量によってコンテンツとメタデータとの同期を判定するよりも、1つのメタデータに対して、複数の特徴量を使用することによって同期を取る方がより正確なものとなるからである。
実施の形態3によるコンテンツ・メタデータ送受信システムの構成は実施の形態2によるコンテンツ・メタデータ送受信システムと同じであるので、図4を参照して説明する。また、手順は、図6のステップS208が異なるので、特にステップS208について重点的に説明する。
図7は、実施の形態3によるコンテンツ・メタデータ送受信システムにおいて、同期部が複数の基点の同期を判定することを説明する図である。
コンテンツ配信サーバ1から配信されるコンテンツのフレームに対して、第2解析部22は、特徴量61を解析する。ここで、フレーム数を横軸に取ったが、これに代わるものとして時間軸を使用しても良い。ここで、フレーム数が増加する方向は時間の経過方向である。
第1解析部12および第2解析部22は、フレーム数に対する特徴量の情報を少なくとも一時的に記憶する記憶部を有することが望ましい(不図示)。記憶部としては例えばバッファで構成することができる。あるいは、HDD(ハードディスクドライブ)で記憶させても良い(不図示)。
コンテンツの送信に連れて受信するフレームは進行し、進行するフレームに対して解析されるコンテンツの特徴量が変化する。符号61は、フレーム数に対する特徴量を示すグラフである。
受信端末20の第2解析部22は、所定のしきい値によって解析された特徴量を比較し、所定値以上である特徴量に対応するフレーム数を基点として採用する。採用された基点を基点群(2)と、ここで称する。基点群(2)における基点はここでは、図7に示されたように、P1〜P10である。符号62は、フレームに対して設定された基点群(2)を示している。基点の数が10であるのは、調べる区間内にある基点の個数の一例として挙げたものであって、10という数値に限定されるものではない。
一方、メタデータ生成部11においては、第1解析部12が第2解析部22と同様に配信されるコンテンツのフレーム数に対する特徴量を解析し、しきい値処理を施して基点群(1)Q1〜Q5を取得する。符号63は、第1解析部12によって取得されたある時間における基点群(1)を示している。ここで、基点群(1)が、5個の基点から成っているのは、一例であって、その個数に限定されるものではない。
基点のセットである基点群(1)は、メタデータに関連づけられ、あるいは対応付けられ、あるいは付加されて、メタデータ生成部11によって送信される。同期部21は送信された基点群(1)が付加された、ないしは関連したメタデータを、受信する。
同期部21が受信した基点群(1)は、ある時間間隔で並べられた複数の基点であるので、第2解析部22によって解析されて設定された基点群(2)のいずれかの部分と合致するはずである。同期部21は、基点群(1)と、基点群(2)との同期を判定する。判定の方法は、図7を用いて説明すると、まずQ1とP1とを合わせて、以下P2とQ2〜P5とQ5が合致するか否かを判定し、各点において合致した度合いを求めて合計する。そして、合致した度合いの合計が所定のしきい値以上である場合、あるいは最高である場合、その時の合致が、基点群同士が対応するものであると判定する。
(3.2.コンテンツおよびメタデータを同期させる手順)
図8は、同期部が、第1解析部および第2解析部による複数の基点を比較してコンテンツおよびメタデータの同期を判定する手順を説明するフローチャートである。図8のフローチャートは、図6に示したステップS208において、特徴量から抽出される複数の基点によって同期を判定する手順を説明するものである。
同期部21は、第2解析部22によって特徴量が解析され解析された特徴量がしきい値と比較されて抽出した複数の基点群(2)の基点Pi、およびメタデータ配信サーバ10から配信された第1解析部12による基点群(1)の基点Qiの合致を判定するために、先ず、i=1とおく(ステップS301)。これによって最初、P1とQ1とを合わせることになる(ステップS302)。以下P2とQ2〜P5とQ5が合致するか否かを判定する。合致しているかいないかを示す合致度を算定する関数をfとおく。fは、合致する場合は1、合致しない場合は0の値を取るものとする。即ち、f(Pi+k,Q1+k)は1または0の値を取る。
こうして関数fによって各Pi点の合致度を求め、その合計Ciを算出する。合計値Ciが4.5以上であるか否かを判定する。4.5というしきい値は、5個のうち9割の割合で合致している場合であり、特にこの数に限定するものではない(ステップS304)。ここで、調べる区間内にある基点の総数をNとおく。ここではN=10である。
Ciが4.5以上ではない場合(ステップS304のNo)、iが上記の総数N−5よりも大きいか否かを判定し(ステップS306)、大きい場合は(ステップS305のYes)、最初からやり直す(ステップS301)。あるいはこの場合、エラーとしても良い(不図示)。iがN−5よりも大きくない場合は(ステップS305のNo)、i=i+1とおいてステップS302に戻る。ここで、Ciが4.5以上ではない場合とは、図7に示した合致しない63−1〜63−4の場合である。
一方、Ciが4.5以上であると判定された場合(ステップS304のYes)、その時のiによって定まるPiがQ1と合致し、以下Pi+2とQ2〜Pi+5とQ5が合致すると判定される(ステップS305)。こうしてメタデータに付加された基点群(1)は、同期部21において設定されたコンテンツの基点分(2)と、符号63−4で示されたフレーム軸上において合致する。
ここで、Ci≧4.5ではなく、Ciが最大値を取るiを求める方法でも良い。
なお、メタデータは基点群(1)からのオフセットとして特定できる。また、基点群を複数設定した場合、複数の基点群を基準にしてメタデータを位置決めすることができてメタデータをフレーム軸上、あるいは時間軸上で特定できる。この場合、メタデータは前後の基点群からのマイナスのオフセットおよびプラスのオフセットとして位置づけてもよい。このようにマイナスのオフセットおよびプラスのオフセットによってメタデータを特定することによって、同期部21は、過去に遡ってメタデータを特定することができる。そのために、既述のように第2解析部22はバッファを備えていて、一定時間の過去の受信したコンテンツおよびコンテンツから抽出された基点情報を、一時記憶しておくものである。
(3.3.効果)
コンテンツにおける特徴点が所定値よりも高い、あるいは特徴点が最大となる複数の基点群を抽出して、コンテンツおよびメタデータを同期させることにより、より正確に同期を取り、コンテンツおよびメタデータを対応付けることができる。また、基点を基準にしてマイナスのオフセットおよびプラスのオフセットによってメタデータを特定することによって、コンテンツに対して、過去に遡ってメタデータを特定し、迅速に対応付けることができ、受信するメタデータの無駄を排することができる。
(4.実施例)
(4.1.実施例1)
図9は、コンテンツ・メタデータ送受信システムの実施例1を説明する図である。実施例1によるコンテンツ・メタデータ送受信システムは、プロ野球の映像に対するメタデータを、ホームサーバに配信するシステムである。実施例1では球場91から、直接映像コンテンツ92が配信され、メタデータ生成システムシステム93が受信する。
メタデータ生成システム93においては第1解析部(不図示)が、既述の実施の形態による方式によって、コンテンツ内容を解析し、時刻合わせの基点を抽出する。それと共に、メタデータ生成部(不図示)が、プロ野球の映像上で発生した事象についてのメタデータを生成していく。その際、時刻情報として、抽出された時刻合わせの基点からのオフセット値を、メタデータ94に記述していく。図中<time>18:10−18:11+900</>が基点からのオフセット情報である。作成したメタデータ94は、インターネット95などを通して受信端末であるホームサーバ(96,97)に配信される。
ホームサーバ(96,97)では、放送衛星98を介する衛星放送によりプロ野球の映像を受信する。ホームサーバ(96,97)は、受信したプロ野球映像と、メタデータを利用して、ホームサーバ(96,97)上で映像とメタデータの関連付けを施す。この関連付けを基にして利用者の嗜好を反映して、例えば「松井の打席シーン」のみをホームサーバ(96,97)に蓄積したり、得点シーンのみを集めてホームサーバ(96,97)に蓄積したりできるので、個人的嗜好に基づいた映像の録画および加工が可能となる。
ここで受信端末であるホームサーバは、DVD(Digital Versatile Disc)録画機で構成することができる。実施の形態によるコンテンツおよびメタデータの関連づけを適用して、個人的嗜好に基づいた映像を選択して、DVDに録画することができる。
また、ここで受信端末であるホームサーバは、HDD(Hard Disc Drive)録画機で構成することができる。実施の形態によるコンテンツおよびメタデータの関連づけを適用して、個人的嗜好に基づいた映像を選択して、HDDに録画することができる。
また、ここでホームサーバの代わりに受信端末を、携帯型電話機で構成することができる。実施の形態によるコンテンツおよびメタデータの関連づけを適用して、個人的嗜好に基づいた映像を選択して、携帯型電話機で視聴、あるいは録画することができる。
(4.2.実施例2)
図10は、実施例2によるコンテンツ・メタデータ送受信システムにおいて、動画コンテンツに含まれる無音部を基点として、コンテンツとメタデータとを対応付けることを説明する図である。実施例2によるコンテンツ・メタデータ送受信システムにおいては、コンテンツ配信サーバから送信される動画コンテンツの特徴量として無音部を利用して、時刻合わせの基点を生成する。動画の特徴量を解析するメタデータ配信サーバ10の第1解析部12、および受信端末20の第2解析部22は、動画コンテンツ(101,102)に含まれる無音部を検出する。
第1解析部12は、動画コンテンツ101無音部の検出を一定の範囲内において行い、その結果、複数の無音部位置(101−1,101−2,101−3)を検出する。ここでは無音部(101−1,101−2,101−3)に対応するフレームを基点とする。なお、複数の無音部の組み合わせのうち、どの部分を実際の時刻合わせの基点として設定するかは、実装に依存する。例えば実施例2においては、受信端末20の同期部21がメタデータ生成部11から受信する最初の無音部のフレームを時刻合わせの基点とする。
受信端末20の第2解析部22が、コンテンツ配信サーバ1から受信した動画コンテンツ102上の無音区間(102−1,102−2,102−3)を特徴量として抽出する。そして、同期部21は、メタデータ配信サーバ10のメタデータ生成部11から配信される無音部(101−1,101−2,101−3)の組み合わせ情報と、抽出した無音部(102−1,102−2,102−3)の組合せとを比較して、同じ無音部位置を検出して同期させる。
同期部21が、無音部位置の同期を判定することによって、動画フレームの基点とメタデータを既述する基点との対応が求まり、対応付けられた無音部による基点からオフセット値で特定されるメタデータの時刻合わせが可能となる。
(4.3.実施例3)
図11は、実施例3によるコンテンツ・メタデータ送受信システムにおいて、受信端末が、送信されるコンテンツを途中から受信開始した場合のコンテンツおよびメタデータの対応付けを説明する図である。実施例3では、受信端末20は、コンテンツ配信サーバ1から送信されるコンテンツを、途中から受信開始した場合でも時刻合わせを行うことができる。
メタデータ配信サーバ10のメタデータ生成部11は、時刻合わせのための基点情報(111−1,111−2、111−3)を周期的に生成して送信する。受信端末20において、途中からコンテンツの受信を開始した場合、送信されてきて最初に受信して解析した基点を時刻合わせ情報(111−3)として利用する。
送信された時刻合わせの最初の基点(115−1)が検出された場合、時刻合わせの基点(115−1)よりも早く送信されたメタデータに関しては、直後の時刻合わせのマイナスのオフセット116として時刻が指定されているため、時刻合わせの基点を受信する前のメタデータ情報を特定できるので、受信する基点情報を無駄にすることを避けることができる。
このためには、受信端末20は、送信されるコンテンツを受信して少なくとも一時的に記憶する記憶部(不図示)を備えることによって、マイナスのオフセットで特定されるメタデータをコンテンツに対応付けることができる。
こうして、実施例3においては、最初に受信する基点情報から過去に遡ったマイナスのオフセット値によってメタデータをコンテンツに対応付けるので、受信するメタデータを無駄にすることを避けることができ、効率的にコンテンツおよびメタデータの対応を行うことができる。
(5.ハードウェア構成および記録媒体)
図12は、実施の形態によるコンテンツ・メタデータ送受信システムにおけるコンテンツ配信サーバ、メタデータ配信サーバ、および受信端末のハードウェア構成例を示す図である。上述したコンテンツ配信サーバ、メタデータ配信サーバ、および受信端末はそれぞれ、あらかじめ用意されたプログラムをパーソナルコンピュータ、ワークステーション、あるいはマイクロコンピュータなどのコンピュータシステムで実行することによって実現できる。コンピュータ200は、CPU(Central Processing Unit)201によって装置全体が制御されている。CPU201には、バス207を介してROM(Read Only Memory)202、RAM(Random Access Memory)203、ハードディスクドライブ(HDD:Hard Disk Drive)204、グラフィック処理装置205、入力インタフェース206、および通信装置208が接続されている。ROM202、およびRAM203には、CPU201に実行させるOS(Operating System)のプログラムやアプリケーションプログラムの少なくとも一部が格納される。またRAM203には、CPU201による処理に必要な各種データが格納される。HDD204には、OS、各種ドライバプログラム、アプリケーションプログラム、検出されたデータなどが格納される。
グラフィック処理装置205には、モニタ211が接続されている。グラフィック処理装置205は、CPU201からの命令に従って、画像をモニタ211の画面に表示させる。入力インタフェース206には、キーボード212とマウス213とが接続されている。入力インタフェース206は、キーボード212やマウス213から送られてくる信号を、バス207を介してCPU201に送信する。
以上のようなハードウェア構成によって、本実施の形態の処理機能を実現することができる。本実施の形態をコンピュータ200上で実現するには、コンピュータ200にドライバプログラムを実装する。
尚、本実施の形態のコンテンツ配信サーバ、メタデータ配信サーバ、および受信端末で実行されるコンテンツ・メタデータ送受信プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フロッピー(R)ディスク、DVD等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
また、本実施形態のコンテンツ・メタデータ送受信プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供および配布するように構成しても良い。
以上のように、本発明にかかるコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びにコンテンツおよびメタデータの対応付け可能な受信端末は、コンテンツおよびメタデータを受信して対応付ける映像受信技術に有用であり、特に、コンテンツおよびメタデータを受信して対応付けるホームサーバ、DVD録画機、および携帯電話などの映像受信端末に有用である。
実施の形態1によるコンテンツ・メタデータ送受信システムの機能的ブロック図である。 実施の形態1によるコンテンツ・メタデータ送受信システムにおけるコンテンツとメタデータの対応付け動作を説明する図である。 コンテンツおよびメタデータの対応付け手順を説明するフローチャートである。 実施の形態2によるコンテンツ・メタデータ送受信システムの機能的ブロック図である。 メタデータ生成部によるメタデータの生成を説明する図である。 実施の形態2によるコンテンツおよびメタデータの対応付け手順を説明するフローチャートである。 実施の形態3によるコンテンツ・メタデータ送受信システムにおいて、同期部が複数の基点の同期を判定することを説明する図である。 同期部が、第1解析部および第2解析部による複数の基点を比較してコンテンツおよびメタデータの同期を判定する手順を説明するフローチャートである。 コンテンツ・メタデータ送受信システムの実施例1を説明する図である。 実施例2によるコンテンツ・メタデータ送受信システムにおいて、動画コンテンツに含まれる無音部を基点として、コンテンツとメタデータとを対応付けることを説明する図である。 実施例3によるコンテンツ・メタデータ送受信システムにおいて、受信端末が、送信されるコンテンツを途中から受信開始した場合のコンテンツおよびメタデータの対応付けを説明する図である。 実施の形態によるコンテンツ・メタデータ送受信システムにおけるコンテンツ配信サーバ、メタデータ配信サーバ、および受信端末のハードウェア構成例を示す図である。
符号の説明
1 コンテンツ配信サーバ
2、95 ネットワーク
10 メタデータ配信サーバ
11 メタデータ生成部
12 第1解析部12
20 受信端末
21 同期部
22 第2解析部
96,97 ホームサーバ

Claims (27)

  1. 映像および音声を含むコンテンツを配信するコンテンツ配信サーバと、
    前記コンテンツ配信サーバが配信する前記コンテンツを受信して前記コンテンツに関するメタデータを生成して配信するメタデータ生成手段を有するメタデータ配信サーバと、
    前記コンテンツ配信サーバが配信する前記コンテンツおよび前記メタデータ配信サーバが配信する前記メタデータを受信し、前記コンテンツと前記メタデータとを対応付ける同期手段を有する受信端末と、
    を備えたことを特徴とするコンテンツ・メタデータ送受信システム。
  2. 前記コンテンツ配信サーバは、前記コンテンツに時間情報を付加して配信するものであり、
    前記メタデータ生成手段は、前記コンテンツに付加された時間情報に基づいて前記メタデータに時間情報を付加して送信するものであり、
    前記同期手段は、前記メタデータ生成手段によって前記時間情報が付加されたメタデータを受信し、受信した前記メタデータに付加された時間情報と前記コンテンツに付加された時間情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項1に記載のコンテンツ・メタデータ送受信システム。
  3. 前記メタデータ配信サーバは、受信する前記コンテンツの特徴を表す特徴量を解析する第1の解析手段を、さらに備え、
    前記メタデータ生成手段は、前記第1の解析手段が解析した前記コンテンツの特徴量を前記メタデータに対応づけて配信し、
    前記受信端末は、前記コンテンツの特徴を表す特徴量を解析する第2の解析手段を、さらに備え、
    前記同期手段は、前記メタデータ生成手段が配信する前記第1の解析手段による特徴量の情報を受信し、受信した前記第1の解析手段による特徴量の情報と第2の解析手段による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項1または2に記載のコンテンツ・メタデータ送受信システム。
  4. 前記メタデータ生成手段は、前記第1の解析手段によって解析された前記特徴量の情報を前記メタデータに付加して配信するものであり、
    前記同期手段は、前記メタデータ生成手段が送信する前記メタデータに付加された前記特徴量の情報を受信し、受信した前記メタデータに付加された特徴量の情報と前記第2の解析手段による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項3に記載のコンテンツ・メタデータ送受信システム。
  5. 前記メタデータ配信サーバの前記第1の解析手段は、前記第1の解析手段による前記特徴量を所定のしきい値と比較し前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をメタデータの基点に設定し、
    前記メタデータ生成手段は、前記第1の解析手段によって設定されたメタデータの基点から前後のオフセット値によって前記メタデータの時刻情報を記述して送信し、
    前記情報端末の前記第2の解析手段は、前記第2の解析手段による前記特徴量を所定のしきい値と比較して前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をコンテンツの基点に設定し、
    前記同期手段は、受信する前記第1の解析手段による前記メタデータの基点と前記第2の解析手段による前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項3または4に記載のコンテンツ・メタデータ送受信システム。
  6. 前記第1の解析手段は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記メタデータの基点を設定して配信し、
    前記第2の解析手段は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記コンテンツの基点を設定し、
    前記同期手段は、受信する前記第1の解析手段が設定した前記メタデータの基点と前記第2の解析手段が設定した前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項5に記載のコンテンツ・メタデータ送受信システム。
  7. 前記第1の解析手段は、前記メタデータの基点を複数個設定し、
    前記第2の解析手段は、前記コンテンツの基点を複数個設定し、
    前記同期手段は、設定された前記メタデータの複数個の基点および前記コンテンツの複数個の基点に基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項5または6に記載のコンテンツ・メタデータ送受信システム。
  8. 前記第1の解析手段は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記メタデータの基点に設定し、
    前記第2の解析手段は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記コンテンツの基点に設定するものであることを特徴とする請求項5または7に記載のコンテンツ・メタデータ送受信システム。
  9. 前記メタデータ生成手段は、前記メタデータの時刻情報を、前記メタデータの直前の基点までの過去に遡るオフセットおよび直後の基点へのオフセット値情報として、前記メタデータに付加して配信し、
    前記情報端末の前記同期手段は、前記第2の解析手段によって設定される基点と前記メタデータに付加された前記オフセット値情報により特定される時刻情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項5〜8のいずれか1つに記載のコンテンツ・メタデータ送受信システム。
  10. 前記第1の解析手段は、前記メタデータの基点を所定の時間で周期的に設定し、
    前記第2の解析手段は、前記コンテンツの基点を所定の時間で周期的に設定し、
    前記同期手段は、前記第1の解析手段が設定した前記メタデータの周期的な基点と前記第2の解析手段が設定した前記コンテンツの周期的な基点とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項5〜9のいずれか1つに記載のコンテンツ・メタデータ送受信システム。
  11. 映像および音声を含むコンテンツを配信するコンテンツ配信工程と、
    前記コンテンツ配信工程において配信された前記コンテンツに関するメタデータを生成して配信するメタデータ生成工程と、
    前記コンテンツ配信工程において配信された前記コンテンツと前記メタデータ生成工程において配信されたメタデータとを受信し、受信した前記コンテンツと前記メタデータとを対応付ける同期工程と、
    を含むことを特徴とするコンテンツ・メタデータ同期方法。
  12. 前記コンテンツ配信工程は、前記コンテンツに時間情報を付加して配信するものであり、
    前記メタデータ生成工程は、前記コンテンツに付加された時間情報に基づいて前記メタデータに時間情報を付加して送信するものであり、
    前記同期工程は、前記メタデータ生成工程において前記メタデータに付加された前記時間情報と前記コンテンツ配信工程において配信されるコンテンツに付加された前記時間情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項11に記載のコンテンツ・メタデータ同期方法。
  13. 受信する前記コンテンツの特徴を表す特徴量を解析する第1の解析工程を、さらに含み、
    前記メタデータ生成工程は、前記第1の解析工程において解析された前記コンテンツの特徴量を前記メタデータに対応付けて配信し、
    受信する前記コンテンツの特徴を表す特徴量を解析する第2の解析工程を、さらに含み、
    前記同期工程は、前記メタデータ生成工程において配信される前記メタデータに対応付けられた前記第1の解析工程による前記コンテンツの特徴量の情報を受信し、受信した前記第1の解析工程による特徴量の情報と前記第2の解析工程による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項11または12に記載のコンテンツ・メタデータ同期方法。
  14. 前記メタデータ生成工程は、前記第1の解析工程において解析された前記特徴量の情報を前記メタデータに付加して配信するものであり、
    前記同期工程は、前記メタデータ生成工程において送信される前記メタデータに付加された前記第1の解析工程による前記特徴量の情報を受信し、受信した前記メタデータに付加された特徴量の情報と前記第2の解析工程において解析された特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項13に記載のコンテンツ・メタデータ同期方法。
  15. 前記第1の解析工程は、前記第1の解析工程による前記特徴量を所定のしきい値と比較し前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をメタデータの基点とし、
    前記メタデータ生成工程は、前記第1の解析工程において設定されたメタデータの基点から前後のオフセット値で前記メタデータの時刻情報を記述して送信するものであり、
    前記第2の解析工程は、前記第2の解析工程による前記特徴量を所定のしきい値と比較して前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をコンテンツの基点とし、
    前記同期工程は、受信する前記第1の解析工程による前記メタデータの基点と前記第2の解析工程による前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項13または14に記載のコンテンツ・メタデータ同期方法。
  16. 前記第1の解析工程は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記メタデータの基点を設定して配信し、
    前記第2の解析工程は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記コンテンツの基点を設定し、
    前記同期工程は、受信する前記第1の解析工程が設定した前記メタデータの基点と前記第2の解析工程が設定した前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項15に記載のコンテンツ・メタデータ同期方法。
  17. 前記第1の解析工程は、前記メタデータの基点を複数個設定し、
    前記第2の解析工程は、前記コンテンツの基点を複数個設定し、
    前記同期工程は、設定された前記メタデータの複数個の基点および前記コンテンツの複数個の基点に基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項15または16に記載のコンテンツ・メタデータ同期方法。
  18. 前記第1の解析工程は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記メタデータの基点に設定し、
    前記第2の解析工程は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記コンテンツの基点に設定するものであることを特徴とする請求項15または17に記載のコンテンツ・メタデータ同期方法。
  19. 前記メタデータ生成工程は、前記メタデータの時刻情報を、前記メタデータの直前の基点までの過去に遡るオフセットおよび直後の基点へのオフセット値情報として、前記メタデータに付加して配信し、
    前記同期工程は、前記第2の解析工程において設定される基点と前記メタデータに付加された前記オフセット値情報により特定される時刻情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項15〜18のいずれか1つに記載のコンテンツ・メタデータ同期方法。
  20. 前記第1の解析工程は、前記メタデータの基点を所定の時間で周期的に設定し、
    前記第2の解析工程は、前記コンテンツの基点を所定の時間で周期的に設定し、
    前記同期工程は、前記第1の解析工程が設定した前記メタデータの周期的な基点と前記第2の解析工程が設定した前記コンテンツの周期的な基点とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項15〜19のいずれか1つに記載のコンテンツ・メタデータ同期方法。
  21. 請求項11〜20のいずれか1つに記載のコンテンツ・メタデータ同期方法をコンピュータに実行させることを特徴とするプログラム。
  22. コンテンツ配信サーバから配信される映像および音声を含むコンテンツと、メタデータ配信サーバによって前記コンテンツを基に生成されたメタデータとを受信し、受信した前記コンテンツおよび前記メタデータを対応付ける同期手段を有する同期装置を備えたことを特徴とするコンテンツおよびメタデータの対応付け可能な受信端末。
  23. 前記コンテンツ配信サーバによって前記コンテンツに時間情報が付加されて配信され、前記メタデータ配信サーバにより前記時間情報が前記メタデータに付加されて生成された場合、
    前記同期装置は、前記同期手段が、前記メタデータ配信サーバにより生成された前記時間情報が付加されたメタデータを受信し、受信した前記メタデータに付加された時間情報と、前記コンテンツ配信サーバから受信する前記コンテンツに付加された時間情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項22に記載のコンテンツおよびメタデータの対応付け可能な受信端末。
  24. 前記メタデータ配信サーバにより前記コンテンツの特徴を表す特徴量が解析され、解析された前記コンテンツの特徴量が前記メタデータに対応づけて配信される場合、
    前記同期装置は、前記コンテンツ配信サーバから受信する前記コンテンツの特徴量を解析する解析手段をさらに有し、
    前記同期手段が、前記メタデータ配信サーバから前記メタデータに対応づけて配信される前記コンテンツの特徴量を受信し、前記メタデータ配信サーバによる前記メタデータに対応づけられた前記コンテンツの特徴量と、前記解析手段によって解析された前記コンテンツの特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項22または23に記載のコンテンツおよびメタデータの対応付け可能な受信端末。
  25. 前記受信端末は、DVD(Digital Versatile Disc)録画機であることを特徴とする請求項22〜24のいずれか1つに記載のコンテンツおよびメタデータの対応付け可能な受信端末。
  26. 前記受信端末は、HDD(Hard Disc Drive)録画機であることを特徴とする請求項22〜24のいずれか1つに記載のコンテンツおよびメタデータの対応付け可能な受信端末。
  27. 前記受信端末は、携帯型電話機であることを特徴とする請求項22〜24のいずれか1つに記載のコンテンツおよびメタデータの対応付け可能な受信端末。
JP2004038362A 2004-02-16 2004-02-16 コンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びに受信端末 Expired - Lifetime JP4494821B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004038362A JP4494821B2 (ja) 2004-02-16 2004-02-16 コンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びに受信端末

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004038362A JP4494821B2 (ja) 2004-02-16 2004-02-16 コンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びに受信端末

Publications (2)

Publication Number Publication Date
JP2005229509A true JP2005229509A (ja) 2005-08-25
JP4494821B2 JP4494821B2 (ja) 2010-06-30

Family

ID=35003864

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004038362A Expired - Lifetime JP4494821B2 (ja) 2004-02-16 2004-02-16 コンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びに受信端末

Country Status (1)

Country Link
JP (1) JP4494821B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008129600A1 (ja) * 2007-04-05 2008-10-30 Sony Computer Entertainment Inc. コンテンツ再生装置、コンテンツ配信装置、コンテンツ配信システム及びメタデータ生成方法
JP2008295028A (ja) * 2007-05-23 2008-12-04 Samsung Electronics Co Ltd コンテンツデータについての付加データの検索方法及びその装置
JP2010055174A (ja) * 2008-08-26 2010-03-11 Nippon Telegr & Teleph Corp <Ntt> コンテクスト抽出サーバ、コンテクスト抽出方法、およびプログラム
US7797380B2 (en) 2008-05-26 2010-09-14 Kabushiki Kaisha Toshiba Content transmission apparatus, content reception apparatus, and content upload method
JP2010250884A (ja) * 2009-04-14 2010-11-04 Sony Corp 情報記録装置、情報配信サーバ、情報記録システム、及び、情報記録方法
JP2014511611A (ja) * 2011-02-24 2014-05-15 シボリューション ビー.ブイ. ユーザ装置において適切なアクションをトリガするための特別なコンテンツを有する情報信号の放送
CN108197155A (zh) * 2017-12-08 2018-06-22 深圳前海微众银行股份有限公司 信息数据同步方法、装置及计算机可读存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002118817A (ja) * 2000-10-05 2002-04-19 Nippon Telegr & Teleph Corp <Ntt> 映像に対するインタラクション提供方法、システム、映像送信装置、映像受信装置、及びこれらを実現するプログラムを記録した記録媒体
JP2003274353A (ja) * 2002-03-19 2003-09-26 Ricoh Co Ltd 映像情報とイベント情報の同期装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002118817A (ja) * 2000-10-05 2002-04-19 Nippon Telegr & Teleph Corp <Ntt> 映像に対するインタラクション提供方法、システム、映像送信装置、映像受信装置、及びこれらを実現するプログラムを記録した記録媒体
JP2003274353A (ja) * 2002-03-19 2003-09-26 Ricoh Co Ltd 映像情報とイベント情報の同期装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008129600A1 (ja) * 2007-04-05 2008-10-30 Sony Computer Entertainment Inc. コンテンツ再生装置、コンテンツ配信装置、コンテンツ配信システム及びメタデータ生成方法
JPWO2008129600A1 (ja) * 2007-04-05 2010-07-22 株式会社ソニー・コンピュータエンタテインメント コンテンツ再生装置、コンテンツ配信装置、コンテンツ配信システム及びメタデータ生成方法
JP4734407B2 (ja) * 2007-04-05 2011-07-27 株式会社ソニー・コンピュータエンタテインメント コンテンツ配信装置、コンテンツ配信システム、メタデータ生成方法及びコンテンツ配信装置の制御方法
US8296389B2 (en) 2007-04-05 2012-10-23 Sony Computer Entertainment Inc. Content reproduction apparatus, content delivery apparatus, content delivery system, and method for generating metadata
JP2008295028A (ja) * 2007-05-23 2008-12-04 Samsung Electronics Co Ltd コンテンツデータについての付加データの検索方法及びその装置
US7797380B2 (en) 2008-05-26 2010-09-14 Kabushiki Kaisha Toshiba Content transmission apparatus, content reception apparatus, and content upload method
JP2010055174A (ja) * 2008-08-26 2010-03-11 Nippon Telegr & Teleph Corp <Ntt> コンテクスト抽出サーバ、コンテクスト抽出方法、およびプログラム
JP2010250884A (ja) * 2009-04-14 2010-11-04 Sony Corp 情報記録装置、情報配信サーバ、情報記録システム、及び、情報記録方法
JP2014511611A (ja) * 2011-02-24 2014-05-15 シボリューション ビー.ブイ. ユーザ装置において適切なアクションをトリガするための特別なコンテンツを有する情報信号の放送
US11223854B2 (en) 2011-02-24 2022-01-11 Teletrax B.V. Broadcasting an information signal having special content for triggering an appropriate action in a user device
CN108197155A (zh) * 2017-12-08 2018-06-22 深圳前海微众银行股份有限公司 信息数据同步方法、装置及计算机可读存储介质

Also Published As

Publication number Publication date
JP4494821B2 (ja) 2010-06-30

Similar Documents

Publication Publication Date Title
KR102486777B1 (ko) 프레임적으로 정확한 컨텐츠 수정을 용이하게 하기 위해, 낮은 레이트 핑거프린팅을 사용하는 보간을 기반으로 하는 시간 맵핑의 확립 및 사용
US20220232289A1 (en) Crowdsourcing Supplemental Content
US8838594B2 (en) Automatic method to synchronize the time-line of video with audio feature quantity
JP5768134B2 (ja) 放送コンテンツに関連したコンテンツ関連情報を提供するシステム及び方法
US20130103716A1 (en) Terminal apparatus, server apparatus, information processing method, program, and interlocked application feed system
EP3334175A1 (en) Streaming media and caption instant synchronization displaying and matching processing method, device and system
CN104902343B (zh) 一种传输和播放音视频与消息的方法、服务器及终端
CN102170584A (zh) 同步hs终端设备之间媒体播放的方法、装置和系统
KR20150014722A (ko) 스크린 샷을 제공하는 장치 및 시스템, 그리고 방법
CN110166788A (zh) 信息同步播放方法、装置及存储介质
CN110856009B (zh) 网络k歌系统、网络k歌的音视频播放方法及相关设备
CN109168020A (zh) 基于直播的视频处理方法、装置、计算设备和存储介质
JP2004126811A (ja) コンテンツ情報編集装置とその編集プログラム
JP4494821B2 (ja) コンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びに受信端末
WO2023061060A1 (zh) 音视频码流的调度方法、系统、介质及电子装置
CN111050204A (zh) 视频裁剪方法、装置、电子设备和存储介质
CN113630618B (zh) 视频处理方法、装置及系统
US8296389B2 (en) Content reproduction apparatus, content delivery apparatus, content delivery system, and method for generating metadata
KR20150082074A (ko) 컨텐츠 정보를 제공하는 서비스 서버 및 컨텐츠 정보 제공방법
CN111182334B (zh) 数据处理方法、服务器、终端以及存储介质
US20140010521A1 (en) Video processing system, video processing method, video processing apparatus, control method of the apparatus, and storage medium storing control program of the apparatus
CN111757187A (zh) 多语言字幕显示方法、装置、终端设备及存储介质
CN113542909A (zh) 视频处理方法、装置、电子设备及计算机存储介质
KR100828297B1 (ko) 화면인식을 이용한 방송 컨텐츠와 통신 컨텐츠간 동기화시스템 및 그 방법
CN114679598A (zh) 直播推送方法及装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061116

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100112

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100312

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100406

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100408

R150 Certificate of patent or registration of utility model

Ref document number: 4494821

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130416

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140416

Year of fee payment: 4