JP4494821B2 - Content / metadata transmission / reception system, content / metadata synchronization method, program for causing computer to execute the method, and receiving terminal - Google Patents
Content / metadata transmission / reception system, content / metadata synchronization method, program for causing computer to execute the method, and receiving terminal Download PDFInfo
- Publication number
- JP4494821B2 JP4494821B2 JP2004038362A JP2004038362A JP4494821B2 JP 4494821 B2 JP4494821 B2 JP 4494821B2 JP 2004038362 A JP2004038362 A JP 2004038362A JP 2004038362 A JP2004038362 A JP 2004038362A JP 4494821 B2 JP4494821 B2 JP 4494821B2
- Authority
- JP
- Japan
- Prior art keywords
- metadata
- content
- feature amount
- base point
- analysis
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 238000000034 method Methods 0.000 title claims description 62
- 230000005540 biological transmission Effects 0.000 title claims description 57
- 238000004458 analytical method Methods 0.000 claims description 153
- 238000009826 distribution Methods 0.000 claims description 72
- 238000001228 spectrum Methods 0.000 claims description 11
- 230000000737 periodic effect Effects 0.000 claims description 9
- 238000010586 diagram Methods 0.000 description 14
- 230000000875 corresponding effect Effects 0.000 description 8
- 230000002596 correlated effect Effects 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 238000003860 storage Methods 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 239000002699 waste material Substances 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Description
本発明は、コンテンツおよびメタデータを送受信するコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びに受信端末に関し、特に別々に送信されるコンテンツおよびメタデータを受信して対応付けることができるコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びに受信端末に関するものである。 The present invention relates to a content metadata transmission and reception system for transmitting and receiving content and metadata, content metadata synchronization method, a program for executing the method on a computer, relates the receiving terminal as well, the content and the metadata are transmitted in particular separately content metadata transmission and reception system, content metadata synchronization method can be correlated to receive, program for executing the method on a computer, to a receiving terminal as well.
近年、映像・音声を含むマルチメディアコンテンツを受信して視聴する際、データーファイルのプロパティに含まれる情報であるメタデータ(metadata)を利用してコンテンツを加工する技術が普及してきている。BS衛星を使ったBSデジタル放送、および地上波デジタル放送においては、メタデータ付きコンテンツを配信し、受信端末において受信するメタデータを利用してコンテンツをより多様に視聴する視聴方法が提案されている。 2. Description of the Related Art In recent years, when multimedia content including video / audio is received and viewed, a technology for processing content using metadata (metadata) that is information included in a property of a data file has become widespread. In BS digital broadcasting using BS satellite and terrestrial digital broadcasting, a viewing method has been proposed in which content with metadata is distributed and the content is viewed in a variety of ways using metadata received at a receiving terminal. .
例えば、映像と、該映像の特徴的な情報および時間情報とを同期させて、検索インデックスを生成する発明がなされている(特許文献1)。同発明によれば、映像情報と、映像の時間情報との間で同期を取り、映像情報の検索インデックスを生成できるとしている。 For example, an invention has been made that generates a search index by synchronizing a video with characteristic information and time information of the video (Patent Document 1). According to the present invention, the video information and the time information of the video are synchronized, and the search index of the video information can be generated.
しかしながら、特許文献1の発明は、映像および映像の時間情報との間で同期を取って、検索インデックスを生成できたとしても、時間情報が付加されていないインデックス情報を受信して、該インデックス情報に対応するコンテンツとの同期を取ることはできなかった。
However, the invention of
放送のデジタル化に伴って、配信されるコンテンツにメタデータを付加することが行われているが、コンテンツにメタデータを付加する場合、コンテンツ制作者とメタデータ制作者が同一であり、かつ配信前にあらかじめメタデータを準備できる録画系のコンテンツであるならば、メタデータにコンテンツの時間情報などを正確に記述し、コンテンツとメタデータとを関連付けて配信することが可能である。しかしながら、一般に生放送でライブに流されるコンテンツにおいては、あらかじめメタデータを準備できない場合があり、また、コンテンツ制作者とメタデータ制作者が異なっている場合、メタデータにコンテンツの時間情報を正確に記述できない場合が多い。特にリアルタイムに、メタデータを配信するサービスにおいては、コンテンツとメタデータとを正確に関連付けて時間情報を抽出しようとすると、時間がかかってしまい、メタデータをリアルタイムに生成しにくいという問題があった。 With the digitization of broadcasting, metadata is added to the content to be distributed, but when adding metadata to the content, the content creator and the metadata producer are the same and distributed If it is a recording type content for which metadata can be prepared in advance, it is possible to accurately describe the time information of the content in the metadata and distribute the content and the metadata in association with each other. However, in general, metadata may not be prepared in advance for content that is broadcast live in live broadcasts. If the content creator and the metadata creator are different, accurately describe the time information of the content in the metadata. There are many cases where this is not possible. In particular, in a service that distributes metadata in real time, there is a problem that it is difficult to generate metadata in real time because it takes time to extract time information by accurately associating content with metadata. .
また、コンテンツに時刻情報が付加されていない場合、メタデータを生成して配信する側は、コンテンツを説明するメタデータに時間情報を付加することは困難である。また、受信端末において、コンテンツの視聴を途中から開始する際に、コンテンツに時間情報が付加されていない場合は、メタデータとコンテンツとの時間を合わせることはより困難になる。 In addition, when time information is not added to content, it is difficult for a side that generates and distributes metadata to add time information to metadata describing the content. In addition, when the viewing of the content is started in the receiving terminal, if time information is not added to the content, it becomes more difficult to match the time of the metadata and the content.
本発明は上記の問題に鑑みてなされ、その目的は、別々に配信されるコンテンツとメタデータとを受信してコンテンツとメタデータとを自動的に対応付けるコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びに受信端末を提供することである。 The present invention has been made in view of the above problems, and an object of the present invention is to receive a content and metadata that are distributed separately, and to automatically associate the content and metadata with each other. synchronization method, a program for executing the method on a computer, is to provide a receiving terminal as well.
上述した課題を解決し、目的を達成するために、請求項1にかかる発明は、コンテンツ・メタデータ送受信システムであって、映像および音声を含むコンテンツを配信するコンテンツ配信サーバと、前記コンテンツ配信サーバが配信する前記コンテンツを受信して前記コンテンツに関するメタデータを生成して配信するメタデータ生成手段を有するメタデータ配信サーバと、前記コンテンツ配信サーバが配信する前記コンテンツおよび前記メタデータ配信サーバが配信する前記メタデータを受信し、前記コンテンツと前記メタデータとを対応付ける同期手段を有する受信端末と、を備え、前記メタデータ配信サーバは、受信する前記コンテンツの特徴を表す特徴量を解析する第1の解析手段を、さらに備え、前記メタデータ生成手段は、前記第1の解析手段が解析した前記コンテンツの特徴量を前記メタデータに対応づけて配信し、前記受信端末は、前記コンテンツの特徴を表す特徴量を解析する第2の解析手段を、さらに備え、前記同期手段は、前記メタデータ生成手段が配信する前記第1の解析手段による特徴量の情報を受信し、受信した前記情報における前記第1の解析手段による特徴量の情報と前記第2の解析手段による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
In order to solve the above-described problems and achieve the object, the invention according to
この請求項1にかかる発明によれば、例え時間情報がコンテンツに付加されていなかったとしても、情報端末において、コンテンツの特徴量と、メタデータに対応付けられて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。 According to the first aspect of the present invention, even if the time information is not added to the content, the content terminal and the content feature received in association with the metadata are obtained at the information terminal. By comparing, content and metadata can be associated with each other.
また、請求項2にかかる発明は、請求項1に記載のコンテンツ・メタデータ送受信システムにおいて、前記メタデータ生成手段は、前記第1の解析手段によって解析された前記特徴量の情報を前記メタデータに付加して配信するものであり、前記同期手段は、前記メタデータ生成手段が送信する前記メタデータに付加された前記特徴量の情報を受信し、受信した前記メタデータに付加された特徴量の情報と前記第2の解析手段による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
Further, the invention according to
この請求項2にかかる発明によれば、例え時間情報がコンテンツに付加されていなかったとしても、情報端末において、コンテンツの特徴量と、メタデータに付加されて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。
According to the invention of
また、請求項3にかかる発明は、請求項1または2に記載のコンテンツ・メタデータ送受信システムにおいて、前記メタデータ配信サーバの前記第1の解析手段は、前記第1の解析手段による前記特徴量を所定のしきい値と比較し前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をメタデータの基点に設定し、前記メタデータ生成手段は、前記第1の解析手段によって設定されたメタデータの基点から前後のオフセット値によって前記メタデータの時刻情報を記述して送信し、前記情報端末の前記第2の解析手段は、前記第2の解析手段による前記特徴量を所定のしきい値と比較して前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をコンテンツの基点に設定し、前記同期手段は、受信する前記第1の解析手段による前記メタデータの基点と前記第2の解析手段による前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
Further, the invention according to
この請求項3にかかる発明によれば、メタデータ配信サーバによって設定された特徴量による基点と、受信端末によって設定された特徴量による基点とを比較することによって、受信端末において時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができる。
According to the invention of
また、請求項4にかかる発明は、請求項3に記載のコンテンツ・メタデータ送受信システムにおいて、前記第1の解析手段は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記メタデータの基点を設定して配信し、前記第2の解析手段は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記コンテンツの基点を設定し、前記同期手段は、受信する前記第1の解析手段が設定した前記メタデータの基点と前記第2の解析手段が設定した前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 According to a fourth aspect of the present invention, in the content / metadata transmission / reception system according to the third aspect , the first analysis means uses a color feature, a cut point at which a scene changes, and a frame as the feature amount to be analyzed. Calculating one or more feature amounts of matching, silent section, audio power, audio spectrum, and image pattern, and setting and delivering a base point of the metadata according to the calculated one or more feature amounts; The second analysis means analyzes one or more feature values of a color feature, a cut point at which a scene changes, a frame matching, a silent section, an audio power, an audio spectrum, and a picture pattern as the feature values to be analyzed. Calculating and setting the base point of the content according to the calculated one or more feature quantities, and the synchronization means is set before the first analysis means to receive Based on the base point of the content that the base point of the metadata second analysis unit is set, wherein the in which correspondence between the metadata and the content by the front and rear of the offset value.
この請求項4にかかる発明によれば、コンテンツにおける色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された1つ以上の特徴量によって設定される基点を比較することによって、受信端末において時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができる。 According to the fourth aspect of the present invention, one or more feature amounts of the color feature in the content, the cut point at which the scene switches, the frame matching, the silent section, the audio power, the audio spectrum, and the image pattern are calculated. By comparing the base points set by the calculated one or more feature quantities, it is possible to associate content and metadata even when there is no time information at the receiving terminal.
また、請求項5にかかる発明は、請求項3または4に記載のコンテンツ・メタデータ送受信システムにおいて、前記第1の解析手段は、前記メタデータの基点を複数個設定し、前記第2の解析手段は、前記コンテンツの基点を複数個設定し、前記同期手段は、設定された前記メタデータの複数個の基点および前記コンテンツの複数個の基点に基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
The invention according to
この請求項5にかかる発明によれば、メタデータ配信サーバによって設定された特徴量による複数の基点と、受信端末によって設定された特徴量による複数の基点とを比較することによって、受信端末において時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができる。 According to the fifth aspect of the present invention, by comparing a plurality of base points based on the feature amount set by the metadata distribution server with a plurality of base points based on the feature amount set by the receiving terminal, the time at the receiving terminal is compared. Even when there is no information, it is possible to more accurately associate content and metadata.
また、請求項6にかかる発明は、請求項3または5に記載のコンテンツ・メタデータ送受信システムにおいて、前記第1の解析手段は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記メタデータの基点に設定し、前記第2の解析手段は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記コンテンツの基点に設定するものであることを特徴とする。
Also, the invention according to claim 6 is the content / metadata transmission / reception system according to
この請求項6にかかる発明によれば、正確な基点を設定できるので受信端末によって設定された特徴量による基点を比較することによって、受信端末は時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができる。 According to the sixth aspect of the present invention, since an accurate base point can be set, by comparing the base points based on the feature values set by the receiving terminal, the receiving terminal can cope with content and metadata even when there is no time information. The attachment can be performed more accurately.
また、請求項7にかかる発明は、請求項3〜6のいずれか1つに記載のコンテンツ・メタデータ送受信システムにおいて、前記メタデータ生成手段は、前記メタデータの時刻情報を、前記メタデータの直前の基点までの過去に遡るオフセットおよび直後の基点へのオフセット値情報として、前記メタデータに付加して配信し、前記情報端末の前記同期手段は、前記第2の解析手段によって設定される基点と前記メタデータに付加された前記オフセット値情報により特定される時刻情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
The invention according to
この請求項7にかかる発明によれば、メタデータの前後の基点によってメタデータを特定することによって、過去に遡ってメタデータの対応付けをすることができるので、受信端末において、受信するメタデータを無駄にすることを避けながらコンテンツおよびメタデータの対応付けを行うことができる。 According to the seventh aspect of the present invention , the metadata can be correlated retroactively by specifying the metadata based on the base points before and after the metadata. Content and metadata can be associated with each other while avoiding waste.
また、請求項8にかかる発明は、請求項3〜7のいずれか1つに記載のコンテンツ・メタデータ送受信システムにおいて、前記第1の解析手段は、前記メタデータの基点を所定の時間で周期的に設定し、前記第2の解析手段は、前記コンテンツの基点を所定の時間で周期的に設定し、前記同期手段は、前記第1の解析手段が設定した前記メタデータの周期的な基点と前記第2の解析手段が設定した前記コンテンツの周期的な基点とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
The invention according to claim 8 is the content / metadata transmission / reception system according to any one of
この請求項8にかかる発明によれば、受信端末がコンテンツを途中から受信開始した場合であっても、周期的な基点を受信することによって基点を比較することができるので、受信端末においては、時間的な無駄を少なくして効率よくコンテンツおよびメタデータの対応付けを行うことができる。 According to the eighth aspect of the present invention, even when the receiving terminal starts receiving the content from the middle, the base point can be compared by receiving the periodic base point. Content and metadata can be efficiently associated with less time waste.
また、請求項9にかかる発明は、コンテンツ・メタデータ同期方法であって、映像および音声を含むコンテンツを配信するコンテンツ配信工程と、前記コンテンツ配信工程において配信された前記コンテンツに関するメタデータを生成して配信するメタデータ生成工程と、前記コンテンツ配信工程において配信された前記コンテンツと前記メタデータ生成工程において配信されたメタデータとを受信し、受信した前記コンテンツと前記メタデータとを対応付ける同期工程と、を含み、受信する前記コンテンツの特徴を表す特徴量を解析する第1の解析工程を、さらに含み、前記メタデータ生成工程は、前記第1の解析工程において解析された前記コンテンツの特徴量を前記メタデータに対応付けて配信し、受信する前記コンテンツの特徴を表す特徴量を解析する第2の解析工程を、さらに含み、前記同期工程は、前記メタデータ生成工程において配信される前記メタデータに対応付けられた前記第1の解析工程による前記コンテンツの特徴量の情報を受信し、受信した前記情報における前記第1の解析工程による特徴量の情報と前記第2の解析工程による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 The invention according to claim 9 is a content / metadata synchronization method, wherein a content distribution step of distributing content including video and audio, and metadata relating to the content distributed in the content distribution step are generated. A metadata generation step for distributing the content, a synchronization step for receiving the content distributed in the content distribution step and the metadata distributed in the metadata generation step, and associating the received content with the metadata; , only including, a first analysis step of analyzing the feature amount representing the feature of the content received, including further the meta data generation step, the feature amount of the content that is analyzed in the first analyzing step Is distributed in association with the metadata, and represents the characteristics of the received content. A second analysis step of analyzing a feature amount, wherein the synchronization step includes the feature amount of the content by the first analysis step associated with the metadata distributed in the metadata generation step; Receiving information, and associating the content with the metadata based on the feature amount information obtained by the first analysis step and the feature amount obtained by the second analysis step in the received information. Features.
この請求項9にかかる発明によれば、例え時間情報がコンテンツに付加されていなかったとしても、コンテンツの特徴量と、メタデータに対応付けられて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。 According to the invention of claim 9 , even if time information is not added to the content, by comparing the feature amount of the content with the feature amount of the content received in association with the metadata, Content and metadata can be associated with each other.
また、請求項10にかかる発明は、請求項9に記載のコンテンツ・メタデータ同期方法において、前記メタデータ生成工程は、前記第1の解析工程において解析された前記特徴量の情報を前記メタデータに付加して配信するものであり、前記同期工程は、前記メタデータ生成工程において送信される前記メタデータに付加された前記第1の解析工程による前記特徴量の情報を受信し、受信した前記メタデータに付加された特徴量の情報と前記第2の解析工程において解析された特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
The invention according to
この請求項10にかかる発明によれば、例え時間情報がコンテンツに付加されていなかったとしても、コンテンツの特徴量と、メタデータに付加されて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。
According to the
また、請求項11にかかる発明は、請求項9または10に記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、前記第1の解析工程による前記特徴量を所定のしきい値と比較し前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をメタデータの基点とし、前記メタデータ生成工程は、前記第1の解析工程において設定されたメタデータの基点から前後のオフセット値で前記メタデータの時刻情報を記述して送信するものであり、前記第2の解析工程は、前記第2の解析工程による前記特徴量を所定のしきい値と比較して前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をコンテンツの基点とし、前記同期工程は、受信する前記第1の解析工程による前記メタデータの基点と前記第2の解析工程による前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
The invention according to
この請求項11にかかる発明によれば、メタデータに設定された特徴量による基点と、コンテンツに設定された特徴量による基点とを比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができる。
According to the invention of the
また、請求項12にかかる発明は、請求項11に記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記メタデータの基点を設定して配信し、前記第2の解析工程は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記コンテンツの基点を設定し、前記同期工程は、受信する前記第1の解析工程が設定した前記メタデータの基点と前記第2の解析工程が設定した前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
The invention according to
この請求項12にかかる発明によれば、コンテンツにおける色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された1つ以上の特徴量によって設定される基点を比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができる。
According to the
また、請求項13にかかる発明は、請求項11または12に記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、前記メタデータの基点を複数個設定し、前記第2の解析工程は、前記コンテンツの基点を複数個設定し、前記同期工程は、設定された前記メタデータの複数個の基点および前記コンテンツの複数個の基点に基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
Further, according the invention in
この請求項13にかかる発明によれば、メタデータに設定された特徴量による複数の基点と、コンテンツに設定された特徴量による複数の基点とを比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができる。
According to the invention of the
また、請求項14にかかる発明は、請求項11または13に記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記メタデータの基点に設定し、前記第2の解析工程は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記コンテンツの基点に設定するものであることを特徴とする。
The invention according to
この請求項14にかかる発明によれば、コンテンツに正確な基点を設定できるのでコンテンツとメタデータに設定された特徴量による基点とを比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができる。
According to the invention of the
また、請求項15にかかる発明は、請求項11〜14のいずれか1つに記載のコンテンツ・メタデータ同期方法において、前記メタデータ生成工程は、前記メタデータの時刻情報を、前記メタデータの直前の基点までの過去に遡るオフセットおよび直後の基点へのオフセット値情報として、前記メタデータに付加して配信し、前記同期工程は、前記第2の解析工程において設定される基点と前記メタデータに付加された前記オフセット値情報により特定される時刻情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
The invention according to
この請求項15にかかる発明によれば、メタデータの前後の基点によってメタデータを特定することによって、過去に遡ってメタデータの対応付けをすることができるので、受信するメタデータを無駄にすることを避けながらコンテンツおよびメタデータの対応付けを行うことができる。
According to the invention of the
また、請求項16にかかる発明は、請求項11〜15のいずれか1つに記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、前記メタデータの基点を所定の時間で周期的に設定し、前記第2の解析工程は、前記コンテンツの基点を所定の時間で周期的に設定し、前記同期工程は、前記第1の解析工程が設定した前記メタデータの周期的な基点と前記第2の解析工程が設定した前記コンテンツの周期的な基点とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。
The invention according to claim 16 is the content / metadata synchronization method according to any one of
この請求項16にかかる発明によれば、コンテンツを途中から受信開始した場合であっても、周期的な基点を受信することによって基点を比較することができるので、時間的な無駄を少なくして効率よくコンテンツおよびメタデータの対応付けを行うことができる。 According to the sixteenth aspect of the present invention, even when the content is received from the middle, the base points can be compared by receiving the periodic base points. Content and metadata can be efficiently associated with each other.
また、請求項17にかかる発明は、プログラムであって、請求項9〜16のいずれか1つに記載のコンテンツ・メタデータ同期方法をコンピュータに実行させることを特徴とする。 The invention according to claim 17 is a program which causes a computer to execute the content / metadata synchronization method according to any one of claims 9 to 16 .
この請求項17にかかる発明によれば、請求項9〜16のいずれか1つに記載のコンテンツ・メタデータ同期方法をコンピュータに実行させることができる。 According to the seventeenth aspect of the present invention, it is possible to cause a computer to execute the content / metadata synchronization method according to any one of the ninth to sixteenth aspects.
また、請求項18にかかる発明は、受信端末であって、コンテンツ配信サーバから配信される映像および音声を含むコンテンツと、メタデータ配信サーバによって前記コンテンツを基に生成されたメタデータとを受信し、受信した前記コンテンツおよび前記メタデータを対応付ける同期手段を有する同期装置を備え、前記メタデータ配信サーバにより前記コンテンツの特徴を表す特徴量が解析され、解析された前記コンテンツの特徴量が前記メタデータに対応づけて配信される場合、前記同期装置は、前記コンテンツ配信サーバから受信する前記コンテンツの特徴量を解析する解析手段をさらに有し、前記同期手段が、前記メタデータ配信サーバから前記メタデータに対応づけて配信される前記コンテンツの特徴量を受信し、前記メタデータ配信サーバによる前記メタデータに対応づけられた前記コンテンツの特徴量と、前記解析手段によって解析された前記コンテンツの特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであるたことを特徴とする。
The invention according to
この請求項18にかかる発明によれば、例え時間情報がコンテンツに付加されていなかったとしても、情報端末は、コンテンツの特徴量と、メタデータに対応付けられて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。
According to the invention of
また、請求項19にかかる発明は、請求項18に記載の受信端末において、前記受信端末は、DVD(DigitalVersatileDisc)録画機であることを特徴とする。
The invention according to claim 19 is the receiving terminal according to
この請求項19にかかる発明によれば、コンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができるDVD録画機に適用できる。 According to the nineteenth aspect of the present invention, the present invention can be applied to a DVD recorder capable of separately receiving and associating the content distributed from the content distribution server and the metadata distributed from the metadata distribution server.
また、請求項20にかかる発明は、請求項18又は19に記載の受信端末において、前記受信端末は、HDD(HardDiscDrive)録画機であることを特徴とする。
The invention according to
この請求項20にかかる発明によれば、コンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができるHDD録画機に適用できる。
According to the
また、請求項21にかかる発明は、請求項18〜20のいずれか1つに記載の受信端末において、前記受信端末は、携帯型電話機であることを特徴とする。
The invention according to
この請求項21にかかる発明によれば、コンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができる携帯型電話機に適用できる。
According to the invention of the
以下に添付図面を参照して、この発明にかかるコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びに受信端末の一実施の形態を詳細に説明する。 With reference to the accompanying drawings, such content metadata transmission and reception system in the present invention, the content metadata synchronization method, a program for executing the method on a computer, it will be described in detail an embodiment of a receiving terminal as well .
(1.実施の形態1によるコンテンツ・メタデータ送受信システム)
(1.1.コンテンツ・メタデータ送受信システムの構成)
図1は、実施の形態1によるコンテンツ・メタデータ送受信システムの機能的ブロック図である。実施の形態1によるコンテンツ・メタデータ送受信システムは、ネットワーク2に接続するコンテンツ配信サーバ1、メタデータ配信サーバ10、および受信端末20を備える。図1では各サーバ1,10および受信端末20は、1つのみが記されているが、単数に限るものではない。
(1. Content / metadata transmission / reception system according to Embodiment 1)
(1.1. Configuration of Content / Metadata Transmission / Reception System)
FIG. 1 is a functional block diagram of the content / metadata transmission / reception system according to the first embodiment. The content / metadata transmission / reception system according to the first embodiment includes a
コンテンツ配信サーバ1は、映像音声を含むマルチメディアコンテンツを、時間情報を付加して生成し、ネットワーク2を介して、メタデータ配信サーバ10および受信端末20に配信する。
The
メタデータ配信サーバ10は、メタデータ生成部11を備える。メタデータ生成部11は、コンテンツ配信サーバ1から配信されたコンテンツを受信してコンテンツに付加された時間情報を記述し、受信したコンテンツに対応するメタデータを生成する。メタデータ生成部11は、時間情報が記述されたメタデータを、受信端末20に配信する。
The
受信端末20は、同期部21を備える。同期部21は、メタデータ配信サーバ10のメタデータ生成部11から配信される時間情報が付加されたメタデータを受信する。また、同期部21は、コンテンツ配信サーバ1から配信される時間情報が付加されたコンテンツを、受信する。
The receiving
図2は、実施の形態1によるコンテンツ・メタデータ送受信システムにおけるコンテンツとメタデータの対応付け動作を説明する図である。ここではメタデータ生成部11が、時間情報が付加されて配信されるコンテンツの流れ51を受信しており、時間情報が付加されたメタデータ52を生成する。受信端末20の同期部21は、配信されるコンテンツの流れ51を受信し受信したコンテンツに付加された時間情報を読み取る。また同期部21は、メタデータ生成サーバ10から時間情報が付加されたメタデータ52を受信し、既に読み取ったコンテンツデータ51の時間情報と対応付ける。図2に示すように、メタデータ52には時間情報が付加されており、例えば3分00秒から4分00秒の間にバッター松井の打席のシーンであった場合、メタデータ生成部11は、
FIG. 2 is a diagram for explaining an association operation between content and metadata in the content / metadata transmission / reception system according to the first embodiment. Here, the
<time>3:00−4:00
<who>松井
<Time> 3: 00-4: 00
<Who> Matsui
というメタデータ52を作成し、受信端末20に送信する。受信する同期部21は、メタデータ52を読み込み、またコンテンツデータ51の時間情報を読み取り、コンテンツの時間が3:00−4:00の間は、バッターが松井であるという対応付けを行う。
The
この方式は、M−PEG2形式などのようにコンテンツに時間情報が付加されている場合に適用できる。コンテンツに時間情報が付加されている場合、メタデータ生成部11は、該時間情報をメタデータに記述する。
This method can be applied when time information is added to content, such as in the M-PEG2 format. When time information is added to the content, the
(1.2.コンテンツおよびメタデータの対応付け手順)
図3は、コンテンツおよびメタデータの対応付け手順を説明するフローチャートである。コンテンツ配信サーバ1は、時間情報が付加されたコンテンツを配信する(ステップS101)。メタデータ生成部11は、配信されるコンテンツを受信可能状態にあり(ステップS102)、受信した場合(ステップS102のYes)、メタデータ生成部11はコンテンツを解析し(ステップS103)、時間情報を付加してメタデータを生成し、受信端末20に配信する(ステップS104)。コンテンツを受信しない場合(ステップS102のNo)、そのまま待機する。
(1.2. Procedure for associating contents and metadata)
FIG. 3 is a flowchart for explaining a procedure for associating contents and metadata. The
受信端末20の同期部21は、配信されるコンテンツを受信可能状態にあり(ステップS105)、受信した場合(ステップS105のYes)、同期部21は、コンテンツの時間情報を解析する(ステップS106)。同期部21は、メタデータ生成部11から配信されるメタデータを受信可能状態にあり(ステップS107)、受信しない場合は(ステップS107のNo)そのまま待機する。
The
同期部21がメタデータを受信した場合(ステップS107のYes)、同期部21は、メタデータの時間情報とコンテンツの時間情報の同期を調べ(ステップS108)、同期がとれない場合は(ステップS108)、再びステップS107に戻り、メタデータの受信を待機する。
When the
同期部21が、メタデータの時間情報とコンテンツの時間情報との同期を取ることができた場合(ステップS108のYes)、同期部21は、コンテンツとメタデータとを対応付ける(ステップS109)
When the
(1.3.効果)
受信端末20においては、コンテンツとメタデータを別々に受信したとしても、コンテンツに付加されている時間情報とメタデータに記述されている時間情報を比較し、同じ時間情報を有するコンテンツとメタデータとを正確に関連づけることができる。
(1.3. Effect)
Even if the
(2.実施の形態2によるコンテンツ・メタデータ送受信システム)
(2.1.コンテンツ・メタデータ送受信システムの構成)
実施の形態2によるコンテンツ・メタデータ送受信システムは、配信されるコンテンツに時間情報が付加されていない場合、あるいはメタデータ配信サーバにおいてコンテンツに付加された時間情報を取得できない場合に、メタデータ配信サーバおよび情報端末においてコンテンツの特徴を表す特徴量を解析する。メタデータ配信サーバ10は特徴量が付加されたメタデータを生成して配信し、配信された特徴量が付加されたメタデータを受信する情報端末20は、既に解析した特徴量と比較してコンテンツおよびメタデータの同期を取って対応付ける。ここでは、実施の形態1によるコンテンツ・メタデータ送受信システムにおいてコンテンツとメタデータとを対応付ける根拠となる時間情報に代わるものとして、特徴量の情報を使用する。
(2. Content / metadata transmission / reception system according to Embodiment 2)
(2.1. Configuration of content / metadata transmission / reception system)
In the content / metadata transmission / reception system according to the second embodiment, when the time information is not added to the content to be distributed, or when the time information added to the content cannot be acquired by the metadata distribution server, the metadata distribution server Then, the feature amount representing the feature of the content is analyzed in the information terminal. The
図4は、実施の形態2によるコンテンツ・メタデータ送受信システムの機能的ブロック図である。実施の形態2によるコンテンツ・メタデータ送受信システムが実施の形態1と異なる点は、メタデータ配信サーバ10がさらに、受信するコンテンツの特徴量を解析する第1解析部12を備え、かつ受信端末20がさらに、受信するコンテンツの特徴量を解析する第2解析部22を備える点である。また同期部21は、特徴量を比較することによってコンテンツおよびメタデータの対応付けを行う。
FIG. 4 is a functional block diagram of the content / metadata transmission / reception system according to the second embodiment. The content / metadata transmission / reception system according to the second embodiment is different from that of the first embodiment in that the
第1解析部12および第2解析部22が解析する特徴量は、シーンの切り替わり、色特徴、カット点、フレームのマッチング、無音部区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上である。第1解析部12は、受信したコンテンツを解析し上記特徴量を算出する。
The feature quantity analyzed by the
最近、動画の検索技術の一つとして画紋が使用されているが、この画紋を検出して特徴量として使用することができる。画紋とは、動画像アーカイブから望む動画像を見つけるための手掛かり情報であり、人間の指紋と同様に、少ない情報量で動画像の識別が可能な情報で、簡単で安定的に使用することができるものとして研究されている。画紋については、例えば情報処理学会研究報告アブストラクトNo.023−004「オーディオビジュアル複合情報処理」の中に納められた「画紋を用いた動画像検索方式−現行テレビ放送への適用」(著者:高橋克直、杉浦麻貴、村井正人、寺島信義、富永英義)による公知技術を適用することができる。 Recently, an image pattern has been used as one of the retrieval techniques for moving images. This image pattern can be detected and used as a feature amount. A print pattern is clue information for finding a desired moving image from a moving image archive. Like a human fingerprint, it is information that can identify a moving image with a small amount of information and should be used easily and stably. It has been studied as something that can be done. As for the print crest, for example, Abstract No. 023-004 "Audio Visual Complex Information Processing", "Video Search Method Using Picture Patterns-Application to Current Television Broadcasting" (Authors: Takahashi Katsunao, Sugiura Maki, Murai Masato, Terashima Nobuyoshi, Known techniques by Hideyoshi Tominaga) can be applied.
例えばこの画紋の技術を利用すれば、動画像の特徴を利用して、動画像のある特定のポイントを絞り込むことが可能となる。 For example, if this image printing technique is used, it is possible to narrow down a specific point of the moving image using the characteristics of the moving image.
図5は、メタデータ生成部によるメタデータの生成を説明する図である。メタデータ配信サーバ10の第1解析部12は、受信したコンテンツ81を解析して特徴量を算出する。符号83を付されたグラフは、時間に対する特徴量を示したグラフである。第1解析部12は、算出された特著量をしきい値85で判定し、しきい値85以上の特徴量を与えるコンテンツの部分(84−1、84−2)に対して時間軸上で基点(82−1、82−2)として設定する。
FIG. 5 is a diagram for explaining generation of metadata by the metadata generation unit. The
メタデータ生成部11は、2つの基点(82−1、82−2)の間においてメタデータ86を生成する。生成されたメタデータ86はコンテンツ81上で特定される。時刻合わせの基点が、実装によっては時間的に余裕を持って設定できる場合、時刻情報を前後の基点からのオフセット値としてプラスのオフセット値およびマイナスのオフセット値として2重に設定することが望ましい。図5中のメタデータ86には、<time>としてプラスの時間とマイナスの時間によってメタデータの内容の記述を起点から2重に特定することが示されている。メタデータの時刻情報を2重に記述することによって、途中から視聴を開始した場合にも即座に対応付け動作が可能となる。
The
メタデータが特定される際には、時間軸を使用しても良く、あるいはフレーム数を使用しても良い。時間軸を用いる場合、時刻合わせの基点は、特殊な特徴量をもつか、あるいは一定のしきい値を超えた特徴量をもつコンテンツ上のポイントであり、例えば、映像フレーム区間、音声区間などが挙げられる。 When the metadata is specified, a time axis may be used, or the number of frames may be used. When the time axis is used, the base point for time adjustment is a point on the content having a special feature amount or having a feature amount exceeding a certain threshold. For example, a video frame section, an audio section, etc. Can be mentioned.
あるいは時刻合わせの基点としては、コンテンツの中に含まれるコマーシャル(CM)のようなコンテンツの区切りのタイミングを使用することができる。 Alternatively, the timing for dividing the content such as a commercial (CM) included in the content can be used as a base point for time adjustment.
また、同期部21による同期の判定は、基点間の距離、あるいは基点における特徴量の大きさなどを比較することによって可能である。
In addition, the synchronization determination by the
ここで、この特徴量から設定された時刻合わせの基点は、周期的に流されることが望ましい。周期的に設定することによって、受信端末がコンテンツの途中からコンテンツとメタデータの受信を始めた場合でも、メタデータとコンテンツを随時関連づけることが可能となる。 Here, it is desirable that the time adjustment base point set from the feature amount is periodically flowed. By periodically setting, even when the receiving terminal starts receiving the content and metadata in the middle of the content, it becomes possible to associate the metadata with the content as needed.
時刻合わせの基点となる特徴量の情報もメタデータとして配信することができる。この特徴量の情報は、時刻合わせの基点が生成される毎にメタデータが作成されて、配信される。その場合、メタデータの内容は基点に関する情報だけの場合もある。 Information on the feature quantity that is the base point for time adjustment can also be distributed as metadata. The feature amount information is distributed by generating metadata every time a time adjustment base point is generated. In that case, the content of the metadata may be only information on the base point.
また、時刻合わせの基点となる特徴量の情報は、メタデータとして配信せずに、別の情報として配信することもできる。 Further, the feature amount information that is the base point for time adjustment can be distributed as other information without being distributed as metadata.
受信端末20においては、第2解析部22が、コンテンツ配信サーバ1から受信したコンテンツの特徴量の情報から第1解析部12と同様に基点を抽出する。同期部21は、受信したメタデータ86に関連する基点情報を読み取って読み取ったメタデータ86の基点情報と、第2解析部22によって抽出された基点情報とを比較してコンテンツとメタデータとの同期を取る。同期部21は、メタデータに記述されていた時刻合わせの基点に合致するコンテンツ上のポイントを選択し選択されたポイントを時刻合わせの基点とする。選択された時刻合わせの基点を基にして、メタデータに記述されている時刻のオフセット情報を使用してコンテンツ内容を時間軸上で特定し、コンテンツとメタデータとを関連付ける。
In the receiving
(2.2.コンテンツおよびメタデータの対応付け手順)
図6は、実施の形態2によるコンテンツおよびメタデータの対応付け手順を説明するフローチャートである。図4〜6を参照しながら、実施の形態2によるコンテンツ・メタデータ送受信システムの各部の動作、およびコンテンツ・メタデータの対応付けの手順を説明する。
(2.2. Procedure for associating contents and metadata)
FIG. 6 is a flowchart illustrating a procedure for associating content and metadata according to the second embodiment. The operation of each part of the content / metadata transmission / reception system according to the second embodiment and the procedure for associating the content / metadata will be described with reference to FIGS.
コンテンツ配信サーバ1はコンテンツを配信する(ステップS201)。メタデータ配信サーバの第1解析部12は、コンテンツ配信サーバ1から配信されたコンテンツを受信する状態にあり(ステップS202)、受信しない場合は(ステップS202のNo)そのまま待機する。第1解析部12は、コンテンツを受信した場合(ステップS202のYes)、コンテンツの特徴量を解析し、解析された特徴量を所定のしきい値と比較して基点を抽出する(ステップS203)。
The
ここで特徴量として例えば、シーンの切り替わりフレーム情報を使用する。第1解析部12はコンテンツのシーンの切り替わりを検出する。メタデータ生成部11は、第1解析部12によって検出されたシーンの切り替わりフレーム情報である基点情報を付加してメタデータを作成し、受信端末20に送信する(ステップS204)。
Here, for example, scene switching frame information is used as the feature amount. The
受信端末20の第2解析部22は、コンテンツ配信サーバ1が配信するコンテンツを受信可能状態にあり(ステップS205)、受信しない場合はそのまま継続して待機状態にあり(ステップS205のNo)、受信した場合(ステップS205のYes)、第2解析部22は、コンテンツにおけるシーンの切り替わりフレーム情報を、コンテンツの特徴量として解析し、解析された特徴量を所定のしきい値と比較して基点を抽出し、基点を設定する(ステップS206)。
The
同期部21は、コンテンツ配信サーバ1から配信されるシーンの切り替わりフレーム情報である基点情報が付加されたメタデータを受信可能状態にあり(ステップS207)、受信しない場合は(ステップS207のNo)、そのまま受信可能状態を継続する。同期部21は、メタデータ生成部11から送信されるメタデータを受信した場合(ステップS207のYes)、メタデータに付加された基点情報(この場合切り替わりフレーム情報)を検出し、第2解析部22によって解析された基点(この場合切り替わりフレーム情報)との同期を判定する(ステップS208)。同期部21が、特徴量の同期を取ることができなければ(ステップS208のNo)、ステップS207に戻る。同期部21が、特徴量の同期を取ることができれば(ステップS208のYes)、取られた該同期によってコンテンツとメタデータとを対応付ける(ステップS209)。
The
(2.3.効果)
コンテンツ配信サーバから送信されるコンテンツに時間情報が付加されていなかった場合でも、メタデータ配信サーバがコンテンツの特徴量を解析しメタデータに付加して受信端末に送信し、メタデータを受信した受信端末においては、コンテンツ配信サーバから受信するコンテンツの特徴量を解析してメタデータに付加された特徴量と比較することにより、コンテンツとメタデータとの同期を取ることができるので、コンテンツおよびメタデータを対応付けることができる。
(2.3. Effect)
Even when the time information is not added to the content sent from the content delivery server, the metadata delivery server analyzes the feature amount of the content, adds it to the metadata, sends it to the receiving terminal, and receives the metadata. In the terminal, the content and metadata can be synchronized by analyzing the feature amount of the content received from the content distribution server and comparing it with the feature amount added to the metadata. Can be associated.
(3.実施の形態3によるコンテンツ・メタデータ送受信システム)
(3.1.コンテンツ・メタデータ送受信システムの構成)
実施の形態3によるコンテンツ・メタデータ送受信システムは、コンテンツとメタデータとの同期において、複数の特徴量を使用する点が、実施の形態1および2と異なる点である。1つのメタデータに対し1つの特徴量によってコンテンツとメタデータとの同期を判定するよりも、1つのメタデータに対して、複数の特徴量を使用することによって同期を取る方がより正確なものとなるからである。
(3. Content / Metadata Transmission / Reception System According to Embodiment 3)
(3.1. Configuration of Content / Metadata Transmission / Reception System)
The content / metadata transmission / reception system according to the third embodiment is different from the first and second embodiments in that a plurality of feature amounts are used in synchronization between content and metadata. It is more accurate to synchronize content by using multiple feature values for one metadata than to determine synchronization between content and metadata by one feature value for one metadata Because it becomes.
実施の形態3によるコンテンツ・メタデータ送受信システムの構成は実施の形態2によるコンテンツ・メタデータ送受信システムと同じであるので、図4を参照して説明する。また、手順は、図6のステップS208が異なるので、特にステップS208について重点的に説明する。 The configuration of the content / metadata transmission / reception system according to the third embodiment is the same as that of the content / metadata transmission / reception system according to the second embodiment, and will be described with reference to FIG. Further, the procedure is different from step S208 in FIG. 6, and therefore step S208 will be particularly described.
図7は、実施の形態3によるコンテンツ・メタデータ送受信システムにおいて、同期部が複数の基点の同期を判定することを説明する図である。 FIG. 7 is a diagram for explaining that the synchronization unit determines the synchronization of a plurality of base points in the content / metadata transmission / reception system according to the third embodiment.
コンテンツ配信サーバ1から配信されるコンテンツのフレームに対して、第2解析部22は、特徴量61を解析する。ここで、フレーム数を横軸に取ったが、これに代わるものとして時間軸を使用しても良い。ここで、フレーム数が増加する方向は時間の経過方向である。
The
第1解析部12および第2解析部22は、フレーム数に対する特徴量の情報を少なくとも一時的に記憶する記憶部を有することが望ましい(不図示)。記憶部としては例えばバッファで構成することができる。あるいは、HDD(ハードディスクドライブ)で記憶させても良い(不図示)。
It is desirable that the
コンテンツの送信に連れて受信するフレームは進行し、進行するフレームに対して解析されるコンテンツの特徴量が変化する。符号61は、フレーム数に対する特徴量を示すグラフである。
The received frame advances as the content is transmitted, and the feature amount of the analyzed content changes with respect to the advanced frame.
受信端末20の第2解析部22は、所定のしきい値によって解析された特徴量を比較し、所定値以上である特徴量に対応するフレーム数を基点として採用する。採用された基点を基点群(2)と、ここで称する。基点群(2)における基点はここでは、図7に示されたように、P1〜P10である。符号62は、フレームに対して設定された基点群(2)を示している。基点の数が10であるのは、調べる区間内にある基点の個数の一例として挙げたものであって、10という数値に限定されるものではない。
The
一方、メタデータ生成部11においては、第1解析部12が第2解析部22と同様に配信されるコンテンツのフレーム数に対する特徴量を解析し、しきい値処理を施して基点群(1)Q1〜Q5を取得する。符号63は、第1解析部12によって取得されたある時間における基点群(1)を示している。ここで、基点群(1)が、5個の基点から成っているのは、一例であって、その個数に限定されるものではない。
On the other hand, in the
基点のセットである基点群(1)は、メタデータに関連づけられ、あるいは対応付けられ、あるいは付加されて、メタデータ生成部11によって送信される。同期部21は送信された基点群(1)が付加された、ないしは関連したメタデータを、受信する。
The base point group (1) that is a set of base points is associated with, associated with, or added to the metadata, and is transmitted by the
同期部21が受信した基点群(1)は、ある時間間隔で並べられた複数の基点であるので、第2解析部22によって解析されて設定された基点群(2)のいずれかの部分と合致するはずである。同期部21は、基点群(1)と、基点群(2)との同期を判定する。判定の方法は、図7を用いて説明すると、まずQ1とP1とを合わせて、以下P2とQ2〜P5とQ5が合致するか否かを判定し、各点において合致した度合いを求めて合計する。そして、合致した度合いの合計が所定のしきい値以上である場合、あるいは最高である場合、その時の合致が、基点群同士が対応するものであると判定する。
Since the base point group (1) received by the
(3.2.コンテンツおよびメタデータを同期させる手順)
図8は、同期部が、第1解析部および第2解析部による複数の基点を比較してコンテンツおよびメタデータの同期を判定する手順を説明するフローチャートである。図8のフローチャートは、図6に示したステップS208において、特徴量から抽出される複数の基点によって同期を判定する手順を説明するものである。
(3.2 Procedure for synchronizing content and metadata)
FIG. 8 is a flowchart illustrating a procedure in which the synchronization unit determines the synchronization of content and metadata by comparing a plurality of base points by the first analysis unit and the second analysis unit. The flowchart of FIG. 8 explains the procedure for determining synchronization based on a plurality of base points extracted from the feature amount in step S208 shown in FIG.
同期部21は、第2解析部22によって特徴量が解析され解析された特徴量がしきい値と比較されて抽出した複数の基点群(2)の基点Pi、およびメタデータ配信サーバ10から配信された第1解析部12による基点群(1)の基点Qiの合致を判定するために、先ず、i=1とおく(ステップS301)。これによって最初、P1とQ1とを合わせることになる(ステップS302)。以下P2とQ2〜P5とQ5が合致するか否かを判定する。合致しているかいないかを示す合致度を算定する関数をfとおく。fは、合致する場合は1、合致しない場合は0の値を取るものとする。即ち、f(Pi+k,Q1+k)は1または0の値を取る。
The
こうして関数fによって各Pi点の合致度を求め、その合計Ciを算出する。合計値Ciが4.5以上であるか否かを判定する。4.5というしきい値は、5個のうち9割の割合で合致している場合であり、特にこの数に限定するものではない(ステップS304)。ここで、調べる区間内にある基点の総数をNとおく。ここではN=10である。 Thus, the degree of coincidence of each Pi point is obtained by the function f, and the total Ci is calculated. It is determined whether or not the total value Ci is 4.5 or more. The threshold value of 4.5 corresponds to a case where 90% of the five match, and is not particularly limited to this number (step S304). Here, N is the total number of base points in the section to be examined. Here, N = 10.
Ciが4.5以上ではない場合(ステップS304のNo)、iが上記の総数N−5よりも大きいか否かを判定し(ステップS306)、大きい場合は(ステップS305のYes)、最初からやり直す(ステップS301)。あるいはこの場合、エラーとしても良い(不図示)。iがN−5よりも大きくない場合は(ステップS305のNo)、i=i+1とおいてステップS302に戻る。ここで、Ciが4.5以上ではない場合とは、図7に示した合致しない63−1〜63−4の場合である。 If Ci is not 4.5 or more (No in step S304), it is determined whether i is larger than the above total number N-5 (step S306). If i is larger (Yes in step S305), from the beginning. Start over (step S301). In this case, an error may be used (not shown). If i is not larger than N−5 (No in step S305), i = i + 1 is set, and the process returns to step S302. Here, the case where Ci is not 4.5 or more is the case of 63-1 to 63-4 which do not match shown in FIG.
一方、Ciが4.5以上であると判定された場合(ステップS304のYes)、その時のiによって定まるPiがQ1と合致し、以下Pi+2とQ2〜Pi+5とQ5が合致すると判定される(ステップS305)。こうしてメタデータに付加された基点群(1)は、同期部21において設定されたコンテンツの基点分(2)と、符号63−4で示されたフレーム軸上において合致する。
On the other hand, if it is determined that Ci is 4.5 or more (Yes in step S304), it is determined that Pi determined by i at that time matches Q1, and that Pi + 2, Q2-
ここで、Ci≧4.5ではなく、Ciが最大値を取るiを求める方法でも良い。 Here, instead of Ci ≧ 4.5, a method of obtaining i where Ci has the maximum value may be used.
なお、メタデータは基点群(1)からのオフセットとして特定できる。また、基点群を複数設定した場合、複数の基点群を基準にしてメタデータを位置決めすることができてメタデータをフレーム軸上、あるいは時間軸上で特定できる。この場合、メタデータは前後の基点群からのマイナスのオフセットおよびプラスのオフセットとして位置づけてもよい。このようにマイナスのオフセットおよびプラスのオフセットによってメタデータを特定することによって、同期部21は、過去に遡ってメタデータを特定することができる。そのために、既述のように第2解析部22はバッファを備えていて、一定時間の過去の受信したコンテンツおよびコンテンツから抽出された基点情報を、一時記憶しておくものである。
The metadata can be specified as an offset from the base point group (1). Further, when a plurality of base point groups are set, the metadata can be positioned with reference to the plurality of base point groups, and the metadata can be specified on the frame axis or the time axis. In this case, the metadata may be positioned as a negative offset and a positive offset from the front and rear base points. Thus, by specifying metadata with a negative offset and a positive offset, the
(3.3.効果)
コンテンツにおける特徴点が所定値よりも高い、あるいは特徴点が最大となる複数の基点群を抽出して、コンテンツおよびメタデータを同期させることにより、より正確に同期を取り、コンテンツおよびメタデータを対応付けることができる。また、基点を基準にしてマイナスのオフセットおよびプラスのオフセットによってメタデータを特定することによって、コンテンツに対して、過去に遡ってメタデータを特定し、迅速に対応付けることができ、受信するメタデータの無駄を排することができる。
(3.3. Effect)
Synchronize content and metadata more accurately by extracting a plurality of base points that have feature points higher than a predetermined value or the maximum feature points in the content, and associate the content and metadata with each other be able to. In addition, by specifying metadata with a negative offset and a positive offset with respect to the base point, it is possible to identify the metadata retrospectively and associate it quickly with the content. Waste can be eliminated.
(4.実施例)
(4.1.実施例1)
図9は、コンテンツ・メタデータ送受信システムの実施例1を説明する図である。実施例1によるコンテンツ・メタデータ送受信システムは、プロ野球の映像に対するメタデータを、ホームサーバに配信するシステムである。実施例1では球場91から、直接映像コンテンツ92が配信され、メタデータ生成システムシステム93が受信する。
(4. Example)
(4.1. Example 1)
FIG. 9 is a diagram for explaining the first embodiment of the content / metadata transmission / reception system. The content / metadata transmission / reception system according to the first embodiment is a system that distributes metadata for professional baseball video to a home server. In the first embodiment, the
メタデータ生成システム93においては第1解析部(不図示)が、既述の実施の形態による方式によって、コンテンツ内容を解析し、時刻合わせの基点を抽出する。それと共に、メタデータ生成部(不図示)が、プロ野球の映像上で発生した事象についてのメタデータを生成していく。その際、時刻情報として、抽出された時刻合わせの基点からのオフセット値を、メタデータ94に記述していく。図中<time>18:10−18:11+900</>が基点からのオフセット情報である。作成したメタデータ94は、インターネット95などを通して受信端末であるホームサーバ(96,97)に配信される。
In the
ホームサーバ(96,97)では、放送衛星98を介する衛星放送によりプロ野球の映像を受信する。ホームサーバ(96,97)は、受信したプロ野球映像と、メタデータを利用して、ホームサーバ(96,97)上で映像とメタデータの関連付けを施す。この関連付けを基にして利用者の嗜好を反映して、例えば「松井の打席シーン」のみをホームサーバ(96,97)に蓄積したり、得点シーンのみを集めてホームサーバ(96,97)に蓄積したりできるので、個人的嗜好に基づいた映像の録画および加工が可能となる。 The home server (96, 97) receives professional baseball video by satellite broadcasting via the broadcasting satellite 98. The home server (96, 97) uses the received professional baseball video and metadata to associate video and metadata on the home server (96, 97). Based on this association, reflecting the user's preference, for example, only “Matsui's batting scene” is stored in the home server (96, 97), or only the scoring scenes are collected and stored in the home server (96, 97). Video can be recorded and processed based on personal preferences.
ここで受信端末であるホームサーバは、DVD(Digital Versatile Disc)録画機で構成することができる。実施の形態によるコンテンツおよびメタデータの関連づけを適用して、個人的嗜好に基づいた映像を選択して、DVDに録画することができる。 Here, the home server which is a receiving terminal can be constituted by a DVD (Digital Versatile Disc) recorder. By applying the association between content and metadata according to the embodiment, video based on personal preference can be selected and recorded on a DVD.
また、ここで受信端末であるホームサーバは、HDD(Hard Disc Drive)録画機で構成することができる。実施の形態によるコンテンツおよびメタデータの関連づけを適用して、個人的嗜好に基づいた映像を選択して、HDDに録画することができる。 In addition, the home server which is a receiving terminal here can be configured by an HDD (Hard Disc Drive) recorder. By applying the association between content and metadata according to the embodiment, a video based on personal preference can be selected and recorded on the HDD.
また、ここでホームサーバの代わりに受信端末を、携帯型電話機で構成することができる。実施の形態によるコンテンツおよびメタデータの関連づけを適用して、個人的嗜好に基づいた映像を選択して、携帯型電話機で視聴、あるいは録画することができる。 Here, instead of the home server, the receiving terminal can be constituted by a mobile phone. By applying the association between content and metadata according to the embodiment, a video based on personal preference can be selected and viewed or recorded on a mobile phone.
(4.2.実施例2)
図10は、実施例2によるコンテンツ・メタデータ送受信システムにおいて、動画コンテンツに含まれる無音部を基点として、コンテンツとメタデータとを対応付けることを説明する図である。実施例2によるコンテンツ・メタデータ送受信システムにおいては、コンテンツ配信サーバから送信される動画コンテンツの特徴量として無音部を利用して、時刻合わせの基点を生成する。動画の特徴量を解析するメタデータ配信サーバ10の第1解析部12、および受信端末20の第2解析部22は、動画コンテンツ(101,102)に含まれる無音部を検出する。
(4.2. Example 2)
FIG. 10 is a diagram for explaining the association between content and metadata based on the silent part included in the moving image content in the content / metadata transmission / reception system according to the second embodiment. In the content / metadata transmission / reception system according to the second embodiment, a silent time point is used as the feature amount of the moving image content transmitted from the content distribution server to generate a time adjustment base point. The
第1解析部12は、動画コンテンツ101無音部の検出を一定の範囲内において行い、その結果、複数の無音部位置(101−1,101−2,101−3)を検出する。ここでは無音部(101−1,101−2,101−3)に対応するフレームを基点とする。なお、複数の無音部の組み合わせのうち、どの部分を実際の時刻合わせの基点として設定するかは、実装に依存する。例えば実施例2においては、受信端末20の同期部21がメタデータ生成部11から受信する最初の無音部のフレームを時刻合わせの基点とする。
The
受信端末20の第2解析部22が、コンテンツ配信サーバ1から受信した動画コンテンツ102上の無音区間(102−1,102−2,102−3)を特徴量として抽出する。そして、同期部21は、メタデータ配信サーバ10のメタデータ生成部11から配信される無音部(101−1,101−2,101−3)の組み合わせ情報と、抽出した無音部(102−1,102−2,102−3)の組合せとを比較して、同じ無音部位置を検出して同期させる。
The
同期部21が、無音部位置の同期を判定することによって、動画フレームの基点とメタデータを既述する基点との対応が求まり、対応付けられた無音部による基点からオフセット値で特定されるメタデータの時刻合わせが可能となる。
When the
(4.3.実施例3)
図11は、実施例3によるコンテンツ・メタデータ送受信システムにおいて、受信端末が、送信されるコンテンツを途中から受信開始した場合のコンテンツおよびメタデータの対応付けを説明する図である。実施例3では、受信端末20は、コンテンツ配信サーバ1から送信されるコンテンツを、途中から受信開始した場合でも時刻合わせを行うことができる。
(4.3. Example 3)
FIG. 11 is a diagram for explaining the association between content and metadata when the receiving terminal starts receiving the transmitted content halfway in the content / metadata transmission / reception system according to the third embodiment. In the third embodiment, the receiving
メタデータ配信サーバ10のメタデータ生成部11は、時刻合わせのための基点情報(111−1,111−2、111−3)を周期的に生成して送信する。受信端末20において、途中からコンテンツの受信を開始した場合、送信されてきて最初に受信して解析した基点を時刻合わせ情報(111−3)として利用する。
The
送信された時刻合わせの最初の基点(115−1)が検出された場合、時刻合わせの基点(115−1)よりも早く送信されたメタデータに関しては、直後の時刻合わせのマイナスのオフセット116として時刻が指定されているため、時刻合わせの基点を受信する前のメタデータ情報を特定できるので、受信する基点情報を無駄にすることを避けることができる。 When the first base point (115-1) of the transmitted time adjustment is detected, the metadata transmitted earlier than the base point (115-1) of the time adjustment is used as a negative offset 116 of the immediately subsequent time adjustment. Since the time is specified, the metadata information before receiving the time adjustment base point can be specified, so that it is possible to avoid wasting the base point information received.
このためには、受信端末20は、送信されるコンテンツを受信して少なくとも一時的に記憶する記憶部(不図示)を備えることによって、マイナスのオフセットで特定されるメタデータをコンテンツに対応付けることができる。
For this purpose, the receiving
こうして、実施例3においては、最初に受信する基点情報から過去に遡ったマイナスのオフセット値によってメタデータをコンテンツに対応付けるので、受信するメタデータを無駄にすることを避けることができ、効率的にコンテンツおよびメタデータの対応を行うことができる。 In this way, in the third embodiment, the metadata is associated with the content by the negative offset value traced back to the past from the base information received first, so that it is possible to avoid wasting the received metadata efficiently and efficiently. Content and metadata can be handled.
(5.ハードウェア構成および記録媒体)
図12は、実施の形態によるコンテンツ・メタデータ送受信システムにおけるコンテンツ配信サーバ、メタデータ配信サーバ、および受信端末のハードウェア構成例を示す図である。上述したコンテンツ配信サーバ、メタデータ配信サーバ、および受信端末はそれぞれ、あらかじめ用意されたプログラムをパーソナルコンピュータ、ワークステーション、あるいはマイクロコンピュータなどのコンピュータシステムで実行することによって実現できる。コンピュータ200は、CPU(Central Processing Unit)201によって装置全体が制御されている。CPU201には、バス207を介してROM(Read Only Memory)202、RAM(Random Access Memory)203、ハードディスクドライブ(HDD:Hard Disk Drive)204、グラフィック処理装置205、入力インタフェース206、および通信装置208が接続されている。ROM202、およびRAM203には、CPU201に実行させるOS(Operating System)のプログラムやアプリケーションプログラムの少なくとも一部が格納される。またRAM203には、CPU201による処理に必要な各種データが格納される。HDD204には、OS、各種ドライバプログラム、アプリケーションプログラム、検出されたデータなどが格納される。
(5. Hardware configuration and recording medium)
FIG. 12 is a diagram illustrating a hardware configuration example of a content distribution server, a metadata distribution server, and a receiving terminal in the content / metadata transmission / reception system according to the embodiment. Each of the content distribution server, metadata distribution server, and receiving terminal described above can be realized by executing a program prepared in advance on a computer system such as a personal computer, a workstation, or a microcomputer. The
グラフィック処理装置205には、モニタ211が接続されている。グラフィック処理装置205は、CPU201からの命令に従って、画像をモニタ211の画面に表示させる。入力インタフェース206には、キーボード212とマウス213とが接続されている。入力インタフェース206は、キーボード212やマウス213から送られてくる信号を、バス207を介してCPU201に送信する。
A monitor 211 is connected to the
以上のようなハードウェア構成によって、本実施の形態の処理機能を実現することができる。本実施の形態をコンピュータ200上で実現するには、コンピュータ200にドライバプログラムを実装する。
With the hardware configuration as described above, the processing functions of the present embodiment can be realized. In order to implement the present embodiment on the
尚、本実施の形態のコンテンツ配信サーバ、メタデータ配信サーバ、および受信端末で実行されるコンテンツ・メタデータ送受信プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フロッピー(R)ディスク、DVD等のコンピュータで読み取り可能な記録媒体に記録されて提供される。 The content / metadata transmission / reception program executed by the content distribution server, the metadata distribution server, and the receiving terminal of the present embodiment is an installable format or executable format file, such as a CD-ROM, floppy (R). ) It is provided by being recorded on a computer-readable recording medium such as a disk or DVD.
また、本実施形態のコンテンツ・メタデータ送受信プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供および配布するように構成しても良い。 Further, the content / metadata transmission / reception program of the present embodiment may be provided and distributed by storing it on a computer connected to a network such as the Internet and downloading it via the network.
以上のように、本発明にかかるコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びに受信端末は、コンテンツおよびメタデータを受信して対応付ける映像受信技術に有用であり、特に、コンテンツおよびメタデータを受信して対応付けるホームサーバ、DVD録画機、および携帯電話などの映像受信端末に有用である。 As described above, content metadata transmission and reception system according to the present invention, the content metadata synchronization method, a program for executing the method on a computer, receiving terminal as well, the video reception associating to receive content and metadata It is useful for technology, and particularly useful for video receiving terminals such as home servers, DVD recorders, and mobile phones that receive and associate content and metadata.
1 コンテンツ配信サーバ
2、95 ネットワーク
10 メタデータ配信サーバ
11 メタデータ生成部
12 第1解析部12
20 受信端末
21 同期部
22 第2解析部
96,97 ホームサーバ
DESCRIPTION OF
20 receiving
Claims (21)
前記コンテンツ配信サーバが配信する前記コンテンツを受信して前記コンテンツに関するメタデータを生成して配信するメタデータ生成手段を有するメタデータ配信サーバと、
前記コンテンツ配信サーバが配信する前記コンテンツおよび前記メタデータ配信サーバが配信する前記メタデータを受信し、前記コンテンツと前記メタデータとを対応付ける同期手段を有する受信端末と、を備え、
前記メタデータ配信サーバは、受信する前記コンテンツの特徴を表す特徴量を解析する第1の解析手段を、さらに備え、
前記メタデータ生成手段は、前記第1の解析手段が解析した前記コンテンツの特徴量を前記メタデータに対応づけて配信し、
前記受信端末は、前記コンテンツの特徴を表す特徴量を解析する第2の解析手段を、さらに備え、
前記同期手段は、前記メタデータ生成手段が配信する前記第1の解析手段による特徴量の情報を受信し、受信した前記情報における前記第1の解析手段による特徴量と前記第2の解析手段による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものである
ことを特徴とするコンテンツ・メタデータ送受信システム。 A content distribution server for distributing content including video and audio;
A metadata distribution server having metadata generation means for receiving the content distributed by the content distribution server and generating and distributing metadata related to the content;
A receiving terminal having synchronization means for receiving the content distributed by the content distribution server and the metadata distributed by the metadata distribution server and associating the content with the metadata;
The metadata distribution server further includes a first analysis unit that analyzes a feature amount representing a feature of the content to be received,
The metadata generation unit distributes the feature amount of the content analyzed by the first analysis unit in association with the metadata,
The receiving terminal further comprises second analysis means for analyzing a feature amount representing the feature of the content,
The synchronization unit receives the feature amount information by the first analysis unit distributed by the metadata generation unit, and the feature amount by the first analysis unit in the received information and the second analysis unit The content / metadata transmission / reception system , wherein the content and the metadata are associated with each other based on a feature amount .
前記同期手段は、前記メタデータ生成手段が送信する前記メタデータに付加された前記特徴量の情報を受信し、受信した前記メタデータに付加された特徴量の情報と前記第2の解析手段による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項1に記載のコンテンツ・メタデータ送受信システム。 The metadata generation means adds the feature amount information analyzed by the first analysis means to the metadata and distributes it.
The synchronization unit receives the feature amount information added to the metadata transmitted by the metadata generation unit, and the feature amount information added to the received metadata and the second analysis unit content metadata transmission and reception system according to claim 1, characterized in that on the basis of the feature quantity is intended for associating the said and the content metadata.
前記メタデータ生成手段は、前記第1の解析手段によって設定されたメタデータの基点から前後のオフセット値によって前記メタデータの時刻情報を記述して送信し、
前記情報端末の前記第2の解析手段は、前記第2の解析手段による前記特徴量を所定のしきい値と比較して前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をコンテンツの基点に設定し、
前記同期手段は、受信する前記第1の解析手段による前記メタデータの基点と前記第2の解析手段による前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項1または2に記載のコンテンツ・メタデータ送受信システム。 When the first analysis unit of the metadata distribution server compares the feature amount by the first analysis unit with a predetermined threshold value and determines that the feature amount is equal to or greater than the threshold value, Set the content part corresponding to the feature amount as the base point of the metadata,
The metadata generation means describes and transmits time information of the metadata by offset values before and after the metadata base point set by the first analysis means,
When the second analysis unit of the information terminal compares the feature amount by the second analysis unit with a predetermined threshold value and determines that the feature amount is equal to or greater than the threshold value, Set the content part corresponding to the amount as the base point of the content,
The synchronization means, based on the base point of the metadata by the first analysis means and the base point of the content by the second analysis means, receives the content and the metadata by the front and back offset values. 3. The content / metadata transmission / reception system according to claim 1 , wherein the content / metadata transmission / reception system is associated with each other.
前記第2の解析手段は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記コンテンツの基点を設定し、
前記同期手段は、受信する前記第1の解析手段が設定した前記メタデータの基点と前記第2の解析手段が設定した前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項3に記載のコンテンツ・メタデータ送受信システム。 The first analysis means may include one or more feature values among color features, cut points at which scenes are switched, frame matching, silence intervals, audio power, audio spectrum, and image prints as the feature values to be analyzed. Calculating, distributing the metadata based on the calculated one or more feature values,
The second analysis means analyzes one or more feature values of a color feature, a cut point at which a scene changes, a frame matching, a silent section, an audio power, an audio spectrum, and a picture pattern as the feature values to be analyzed. Calculating a base point of the content according to the calculated one or more feature quantities;
The synchronization means, based on the base point of the metadata set by the first analysis means and the base point of the content set by the second analysis means, receives the content and the content by the front and back offset values. 4. The content / metadata transmission / reception system according to claim 3 , wherein the content / metadata transmission / reception system is associated with metadata.
前記第2の解析手段は、前記コンテンツの基点を複数個設定し、
前記同期手段は、設定された前記メタデータの複数個の基点および前記コンテンツの複数個の基点に基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項3または4に記載のコンテンツ・メタデータ送受信システム。 The first analysis means sets a plurality of base points of the metadata,
The second analysis means sets a plurality of base points of the content,
The synchronization unit is configured to associate the content with the metadata by the offset values before and after based on a plurality of base points of the set metadata and a plurality of base points of the content. The content / metadata transmission / reception system according to claim 3 or 4 .
前記第2の解析手段は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記コンテンツの基点に設定するものであることを特徴とする請求項3または5に記載のコンテンツ・メタデータ送受信システム。 The first analysis unit sets a break point at which the scene of the content is switched as a feature amount as a base point of the metadata,
The content / metadata transmission / reception system according to claim 3 or 5 , wherein the second analysis unit sets a break point at which the scene of the content is switched as a feature amount as a base point of the content.
前記情報端末の前記同期手段は、前記第2の解析手段によって設定される基点と前記メタデータに付加された前記オフセット値情報により特定される時刻情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項3〜6のいずれか1つに記載のコンテンツ・メタデータ送受信システム。 The metadata generation means distributes the metadata time information as an offset retroactive to the base point immediately before the metadata and offset value information to the base point immediately after the metadata, and distributes the metadata.
The synchronization unit of the information terminal is configured to determine the content, the metadata, and the metadata based on a base point set by the second analysis unit and time information specified by the offset value information added to the metadata. content metadata transmission and reception system according to any one of claims 3 to 6, characterized in that associating.
前記第2の解析手段は、前記コンテンツの基点を所定の時間で周期的に設定し、
前記同期手段は、前記第1の解析手段が設定した前記メタデータの周期的な基点と前記第2の解析手段が設定した前記コンテンツの周期的な基点とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項3〜7のいずれか1つに記載のコンテンツ・メタデータ送受信システム。 The first analysis means periodically sets a base point of the metadata at a predetermined time,
The second analysis unit periodically sets a base point of the content at a predetermined time,
The synchronization unit is configured to determine the content and the metadata based on a periodic base point of the metadata set by the first analysis unit and a periodic base point of the content set by the second analysis unit. The content / metadata transmission / reception system according to any one of claims 3 to 7 , wherein
前記コンテンツ配信工程において配信された前記コンテンツに関するメタデータを生成して配信するメタデータ生成工程と、
前記コンテンツ配信工程において配信された前記コンテンツと前記メタデータ生成工程において配信されたメタデータとを受信し、受信した前記コンテンツと前記メタデータとを対応付ける同期工程と、を含み、
受信する前記コンテンツの特徴を表す特徴量を解析する第1の解析工程を、さらに含み、
前記メタデータ生成工程は、前記第1の解析工程において解析された前記コンテンツの特徴量を前記メタデータに対応付けて配信し、
受信する前記コンテンツの特徴を表す特徴量を解析する第2の解析工程を、さらに含み、
前記同期工程は、前記メタデータ生成工程において配信される前記メタデータに対応付けられた前記第1の解析工程による前記コンテンツの特徴量の情報を受信し、受信した前記情報における前記第1の解析工程による特徴量の情報と前記第2の解析工程による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものである
ことを特徴とするコンテンツ・メタデータ同期方法。 A content distribution process for distributing content including video and audio;
A metadata generation step of generating and distributing metadata related to the content distributed in the content distribution step;
Receiving the content distributed in the content distribution step and the metadata distributed in the metadata generation step, and associating the received content with the metadata,
A first analysis step of analyzing a feature amount representing the feature of the content to be received;
The metadata generation step distributes the feature amount of the content analyzed in the first analysis step in association with the metadata,
A second analysis step of analyzing a feature amount representing the feature of the content to be received;
The synchronization step receives the feature amount information of the content by the first analysis step associated with the metadata distributed in the metadata generation step, and the first analysis in the received information The content / metadata synchronization method , wherein the content and the metadata are associated with each other on the basis of the feature amount information by the step and the feature amount by the second analysis step .
前記同期工程は、前記メタデータ生成工程において送信される前記メタデータに付加された前記第1の解析工程による前記特徴量の情報を受信し、受信した前記メタデータに付加された特徴量の情報と前記第2の解析工程において解析された特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項9に記載のコンテンツ・メタデータ同期方法。 In the metadata generation step, the feature amount information analyzed in the first analysis step is added to the metadata and distributed.
The synchronization step receives the feature amount information from the first analysis step added to the metadata transmitted in the metadata generation step, and the feature amount information added to the received metadata The content / metadata synchronization method according to claim 9 , wherein the content and the metadata are associated with each other based on the feature amount analyzed in the second analysis step.
前記メタデータ生成工程は、前記第1の解析工程において設定されたメタデータの基点から前後のオフセット値で前記メタデータの時刻情報を記述して送信するものであり、
前記第2の解析工程は、前記第2の解析工程による前記特徴量を所定のしきい値と比較して前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をコンテンツの基点とし、
前記同期工程は、受信する前記第1の解析工程による前記メタデータの基点と前記第2の解析工程による前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項9または10に記載のコンテンツ・メタデータ同期方法。 In the first analysis step, when the feature amount obtained in the first analysis step is compared with a predetermined threshold value and it is determined that the feature amount is equal to or greater than the threshold value, the first analysis step corresponds to the feature amount. The content part is the base point of the metadata,
In the metadata generation step, the time information of the metadata is described and transmitted by offset values before and after the metadata base point set in the first analysis step,
The second analysis step corresponds to the feature amount when the feature amount in the second analysis step is compared with a predetermined threshold value and the feature amount is determined to be greater than or equal to the threshold value. Using the content part as the base point of the content,
In the synchronization step, the content and the metadata are obtained by the offset values before and after based on the base point of the metadata by the first analysis step to be received and the base point of the content by the second analysis step. content metadata synchronization method according to claim 9 or 1 0, characterized in that associating.
前記第2の解析工程は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記コンテンツの基点を設定し、
前記同期工程は、受信する前記第1の解析工程が設定した前記メタデータの基点と前記第2の解析工程が設定した前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項11に記載のコンテンツ・メタデータ同期方法。 In the first analysis step, as the feature quantity to be analyzed, one or more feature quantities of a color feature, a cut point at which a scene changes, a frame matching, a silent section, an audio power, an audio spectrum, and a picture pattern are included. Calculating, distributing the metadata based on the calculated one or more feature values,
In the second analysis step, as the feature quantity to be analyzed, one or more feature quantities of a color feature, a cut point at which a scene changes, a frame matching, a silent section, an audio power, an audio spectrum, and a picture pattern are included. Calculating a base point of the content according to the calculated one or more feature quantities;
In the synchronization step, based on the base point of the metadata set by the first analysis step to be received and the base point of the content set by the second analysis step, the content and the content by the offset value before and after content metadata synchronization method of claim 1 1, characterized in that associating the metadata.
前記第2の解析工程は、前記コンテンツの基点を複数個設定し、
前記同期工程は、設定された前記メタデータの複数個の基点および前記コンテンツの複数個の基点に基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項11または12に記載のコンテンツ・メタデータ同期方法。 The first analysis step sets a plurality of base points of the metadata,
The second analysis step sets a plurality of base points of the content,
In the synchronization step, the content and the metadata are associated with each other by the front and back offset values based on the set base points of the metadata and the base points of the content. content metadata synchronization method of claim 1 1 or 1 2.
前記第2の解析工程は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記コンテンツの基点に設定するものであることを特徴とする請求項11または13に記載のコンテンツ・メタデータ同期方法。 In the first analysis step, a break point at which the scene of the content is switched is set as a feature amount as a base point of the metadata,
The second analysis step, content metadata synchronization method of claim 1 1 or 1 3, characterized in that for setting the base point of the content delimiter of the switching of the scene of the content as a feature quantity .
前記同期工程は、前記第2の解析工程において設定される基点と前記メタデータに付加された前記オフセット値情報により特定される時刻情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項11〜14のいずれか1つに記載のコンテンツ・メタデータ同期方法。 In the metadata generation step, the time information of the metadata is added to the metadata and delivered as an offset retroactive to the past to the base point immediately before the metadata and offset value information to the base point immediately after the metadata,
The synchronization step associates the content with the metadata based on the base point set in the second analysis step and the time information specified by the offset value information added to the metadata. content metadata synchronization method according to any one of claims 1 1 to 1 4, characterized in that.
前記第2の解析工程は、前記コンテンツの基点を所定の時間で周期的に設定し、
前記同期工程は、前記第1の解析工程が設定した前記メタデータの周期的な基点と前記第2の解析工程が設定した前記コンテンツの周期的な基点とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項11〜15のいずれか1つに記載のコンテンツ・メタデータ同期方法。 The first analysis step periodically sets a base point of the metadata at a predetermined time,
The second analysis step periodically sets a base point of the content at a predetermined time,
The synchronization step is based on the periodic base point of the metadata set by the first analysis step and the periodic base point of the content set by the second analysis step. The content metadata synchronization method according to any one of claims 1 to 15 , wherein the content metadata synchronization method is characterized in that
前記メタデータ配信サーバにより前記コンテンツの特徴を表す特徴量が解析され、解析された前記コンテンツの特徴量が前記メタデータに対応づけて配信される場合、
前記同期装置は、前記コンテンツ配信サーバから受信する前記コンテンツの特徴量を解析する解析手段をさらに有し、
前記同期手段が、前記メタデータ配信サーバから前記メタデータに対応づけて配信される前記コンテンツの特徴量を受信し、前記メタデータ配信サーバによる前記メタデータに対応づけられた前記コンテンツの特徴量と、前記解析手段によって解析された前記コンテンツの特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものである
ことを特徴とする受信端末。 Synchronization having synchronization means for receiving content including video and audio distributed from the content distribution server and metadata generated based on the content by the metadata distribution server and associating the received content and the metadata Equipped with equipment,
When the feature amount representing the feature of the content is analyzed by the metadata distribution server, and the analyzed feature amount of the content is distributed in association with the metadata,
The synchronization device further includes an analysis unit that analyzes a feature amount of the content received from the content distribution server,
The synchronization means receives the feature amount of the content distributed in association with the metadata from the metadata distribution server, and the feature amount of the content associated with the metadata by the metadata distribution server; , receiving terminal, wherein the based on the feature value of the content that is analyzed by the analyzing means, <br/> be those for associating the said and the content metadata.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004038362A JP4494821B2 (en) | 2004-02-16 | 2004-02-16 | Content / metadata transmission / reception system, content / metadata synchronization method, program for causing computer to execute the method, and receiving terminal |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004038362A JP4494821B2 (en) | 2004-02-16 | 2004-02-16 | Content / metadata transmission / reception system, content / metadata synchronization method, program for causing computer to execute the method, and receiving terminal |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005229509A JP2005229509A (en) | 2005-08-25 |
JP4494821B2 true JP4494821B2 (en) | 2010-06-30 |
Family
ID=35003864
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004038362A Expired - Lifetime JP4494821B2 (en) | 2004-02-16 | 2004-02-16 | Content / metadata transmission / reception system, content / metadata synchronization method, program for causing computer to execute the method, and receiving terminal |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4494821B2 (en) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8296389B2 (en) | 2007-04-05 | 2012-10-23 | Sony Computer Entertainment Inc. | Content reproduction apparatus, content delivery apparatus, content delivery system, and method for generating metadata |
KR101439841B1 (en) * | 2007-05-23 | 2014-09-17 | 삼성전자주식회사 | Method for searching supplementary data related to contents data and apparatus thereof |
JP4384238B2 (en) | 2008-05-26 | 2009-12-16 | 株式会社東芝 | Content transmission device, content reception device, and content upload method |
JP5132479B2 (en) * | 2008-08-26 | 2013-01-30 | 日本電信電話株式会社 | Context extraction server, context extraction method, and program |
JP5381266B2 (en) * | 2009-04-14 | 2014-01-08 | ソニー株式会社 | Information recording apparatus, information distribution server, information recording system, and information recording method |
NL2006291C2 (en) | 2011-02-24 | 2012-08-27 | Civolution B V | Broadcasting an information signal having special content for triggering an appropriate action in user device. |
CN108197155A (en) * | 2017-12-08 | 2018-06-22 | 深圳前海微众银行股份有限公司 | Information data synchronous method, device and computer readable storage medium |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002118817A (en) * | 2000-10-05 | 2002-04-19 | Nippon Telegr & Teleph Corp <Ntt> | Method for providing interaction to video image, system, video transmitter, video receiver, and recording medium with program for realizing them recorded thereon |
JP2003274353A (en) * | 2002-03-19 | 2003-09-26 | Ricoh Co Ltd | Synchronizing device for video information and event information |
-
2004
- 2004-02-16 JP JP2004038362A patent/JP4494821B2/en not_active Expired - Lifetime
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002118817A (en) * | 2000-10-05 | 2002-04-19 | Nippon Telegr & Teleph Corp <Ntt> | Method for providing interaction to video image, system, video transmitter, video receiver, and recording medium with program for realizing them recorded thereon |
JP2003274353A (en) * | 2002-03-19 | 2003-09-26 | Ricoh Co Ltd | Synchronizing device for video information and event information |
Also Published As
Publication number | Publication date |
---|---|
JP2005229509A (en) | 2005-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220232289A1 (en) | Crowdsourcing Supplemental Content | |
US8838594B2 (en) | Automatic method to synchronize the time-line of video with audio feature quantity | |
US9374620B2 (en) | Terminal apparatus, server apparatus, information processing method, program, and interlocked application feed system | |
JP2021530928A (en) | Establishing and using interpolation-based time mapping with low-rate fingerprinting to help facilitate frame-accuracy content correction | |
WO2016054916A1 (en) | Video content recommending and evaluating methods and devices | |
US20150245106A1 (en) | Method, Device and System and for Play Synchronization Control in Video Recommendation Service | |
CN109168015B (en) | Cloud cut live editing method and system | |
CN104023250B (en) | Based on the real-time interactive method and system of Streaming Media | |
US20080127272A1 (en) | Aggregation of Multiple Media Streams to a User | |
CN104902343B (en) | A kind of method, server and the terminal of transmission and playing audio-video and message | |
CN102170584A (en) | Method, device and system for playing media between synchronic HS (HTTP (HyperText Transfer Protocol) Streaming) terminal equipment | |
US20140359079A1 (en) | Synchronization of multimedia contents on second screen | |
CN110856009B (en) | Network karaoke system, audio and video playing method of network karaoke and related equipment | |
CN109168020A (en) | Method for processing video frequency, device, calculating equipment and storage medium based on live streaming | |
JP2004126811A (en) | Content information editing device, and editing program for the same | |
JP4494821B2 (en) | Content / metadata transmission / reception system, content / metadata synchronization method, program for causing computer to execute the method, and receiving terminal | |
WO2023061060A1 (en) | Audio and video code stream scheduling method, system, medium and electronic apparatus | |
CN112399134A (en) | Self-management release method and system for cloud conference recording | |
CN111050204A (en) | Video clipping method and device, electronic equipment and storage medium | |
KR20150082074A (en) | Service server and method for providing contents information | |
CN111182334B (en) | Data processing method, server, terminal, and storage medium | |
US20140010521A1 (en) | Video processing system, video processing method, video processing apparatus, control method of the apparatus, and storage medium storing control program of the apparatus | |
KR100828297B1 (en) | System and method for synchronization between broadcasting contents and communication contents using image recognition | |
JP4937211B2 (en) | Still image extraction apparatus and still image extraction program | |
JP6567715B2 (en) | Information processing apparatus, information processing method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061116 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061116 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090930 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100112 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100312 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100406 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100408 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4494821 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130416 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140416 Year of fee payment: 4 |