JP4494821B2 - Content / metadata transmission / reception system, content / metadata synchronization method, program for causing computer to execute the method, and receiving terminal - Google Patents

Content / metadata transmission / reception system, content / metadata synchronization method, program for causing computer to execute the method, and receiving terminal Download PDF

Info

Publication number
JP4494821B2
JP4494821B2 JP2004038362A JP2004038362A JP4494821B2 JP 4494821 B2 JP4494821 B2 JP 4494821B2 JP 2004038362 A JP2004038362 A JP 2004038362A JP 2004038362 A JP2004038362 A JP 2004038362A JP 4494821 B2 JP4494821 B2 JP 4494821B2
Authority
JP
Japan
Prior art keywords
metadata
content
feature amount
base point
analysis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2004038362A
Other languages
Japanese (ja)
Other versions
JP2005229509A (en
Inventor
隆子 橋本
孝之 國枝
望 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2004038362A priority Critical patent/JP4494821B2/en
Publication of JP2005229509A publication Critical patent/JP2005229509A/en
Application granted granted Critical
Publication of JP4494821B2 publication Critical patent/JP4494821B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Description

本発明は、コンテンツおよびメタデータを送受信するコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並び受信端末に関し、特に別々に送信されるコンテンツおよびメタデータを受信して対応付けることができるコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並び受信端末に関するものである。 The present invention relates to a content metadata transmission and reception system for transmitting and receiving content and metadata, content metadata synchronization method, a program for executing the method on a computer, relates the receiving terminal as well, the content and the metadata are transmitted in particular separately content metadata transmission and reception system, content metadata synchronization method can be correlated to receive, program for executing the method on a computer, to a receiving terminal as well.

近年、映像・音声を含むマルチメディアコンテンツを受信して視聴する際、データーファイルのプロパティに含まれる情報であるメタデータ(metadata)を利用してコンテンツを加工する技術が普及してきている。BS衛星を使ったBSデジタル放送、および地上波デジタル放送においては、メタデータ付きコンテンツを配信し、受信端末において受信するメタデータを利用してコンテンツをより多様に視聴する視聴方法が提案されている。   2. Description of the Related Art In recent years, when multimedia content including video / audio is received and viewed, a technology for processing content using metadata (metadata) that is information included in a property of a data file has become widespread. In BS digital broadcasting using BS satellite and terrestrial digital broadcasting, a viewing method has been proposed in which content with metadata is distributed and the content is viewed in a variety of ways using metadata received at a receiving terminal. .

例えば、映像と、該映像の特徴的な情報および時間情報とを同期させて、検索インデックスを生成する発明がなされている(特許文献1)。同発明によれば、映像情報と、映像の時間情報との間で同期を取り、映像情報の検索インデックスを生成できるとしている。   For example, an invention has been made that generates a search index by synchronizing a video with characteristic information and time information of the video (Patent Document 1). According to the present invention, the video information and the time information of the video are synchronized, and the search index of the video information can be generated.

特開2003−274353号公報JP 2003-274353 A

しかしながら、特許文献1の発明は、映像および映像の時間情報との間で同期を取って、検索インデックスを生成できたとしても、時間情報が付加されていないインデックス情報を受信して、該インデックス情報に対応するコンテンツとの同期を取ることはできなかった。   However, the invention of Patent Document 1 receives index information to which time information is not added even if a search index can be generated in synchronization with video and video time information. It was not possible to synchronize with the content corresponding to.

放送のデジタル化に伴って、配信されるコンテンツにメタデータを付加することが行われているが、コンテンツにメタデータを付加する場合、コンテンツ制作者とメタデータ制作者が同一であり、かつ配信前にあらかじめメタデータを準備できる録画系のコンテンツであるならば、メタデータにコンテンツの時間情報などを正確に記述し、コンテンツとメタデータとを関連付けて配信することが可能である。しかしながら、一般に生放送でライブに流されるコンテンツにおいては、あらかじめメタデータを準備できない場合があり、また、コンテンツ制作者とメタデータ制作者が異なっている場合、メタデータにコンテンツの時間情報を正確に記述できない場合が多い。特にリアルタイムに、メタデータを配信するサービスにおいては、コンテンツとメタデータとを正確に関連付けて時間情報を抽出しようとすると、時間がかかってしまい、メタデータをリアルタイムに生成しにくいという問題があった。   With the digitization of broadcasting, metadata is added to the content to be distributed, but when adding metadata to the content, the content creator and the metadata producer are the same and distributed If it is a recording type content for which metadata can be prepared in advance, it is possible to accurately describe the time information of the content in the metadata and distribute the content and the metadata in association with each other. However, in general, metadata may not be prepared in advance for content that is broadcast live in live broadcasts. If the content creator and the metadata creator are different, accurately describe the time information of the content in the metadata. There are many cases where this is not possible. In particular, in a service that distributes metadata in real time, there is a problem that it is difficult to generate metadata in real time because it takes time to extract time information by accurately associating content with metadata. .

また、コンテンツに時刻情報が付加されていない場合、メタデータを生成して配信する側は、コンテンツを説明するメタデータに時間情報を付加することは困難である。また、受信端末において、コンテンツの視聴を途中から開始する際に、コンテンツに時間情報が付加されていない場合は、メタデータとコンテンツとの時間を合わせることはより困難になる。   In addition, when time information is not added to content, it is difficult for a side that generates and distributes metadata to add time information to metadata describing the content. In addition, when the viewing of the content is started in the receiving terminal, if time information is not added to the content, it becomes more difficult to match the time of the metadata and the content.

本発明は上記の問題に鑑みてなされ、その目的は、別々に配信されるコンテンツとメタデータとを受信してコンテンツとメタデータとを自動的に対応付けるコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並び受信端末を提供することである。 The present invention has been made in view of the above problems, and an object of the present invention is to receive a content and metadata that are distributed separately, and to automatically associate the content and metadata with each other. synchronization method, a program for executing the method on a computer, is to provide a receiving terminal as well.

上述した課題を解決し、目的を達成するために、請求項1にかかる発明は、コンテンツ・メタデータ送受信システムであって、映像および音声を含むコンテンツを配信するコンテンツ配信サーバと、前記コンテンツ配信サーバが配信する前記コンテンツを受信して前記コンテンツに関するメタデータを生成して配信するメタデータ生成手段を有するメタデータ配信サーバと、前記コンテンツ配信サーバが配信する前記コンテンツおよび前記メタデータ配信サーバが配信する前記メタデータを受信し、前記コンテンツと前記メタデータとを対応付ける同期手段を有する受信端末と、を備え、前記メタデータ配信サーバは、受信する前記コンテンツの特徴を表す特徴量を解析する第1の解析手段を、さらに備え、前記メタデータ生成手段は、前記第1の解析手段が解析した前記コンテンツの特徴量を前記メタデータに対応づけて配信し、前記受信端末は、前記コンテンツの特徴を表す特徴量を解析する第2の解析手段を、さらに備え、前記同期手段は、前記メタデータ生成手段が配信する前記第1の解析手段による特徴量の情報を受信し、受信した前記情報における前記第1の解析手段による特徴量の情報と前記第2の解析手段による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 In order to solve the above-described problems and achieve the object, the invention according to claim 1 is a content / metadata transmission / reception system, a content distribution server for distributing content including video and audio, and the content distribution server A metadata distribution server having metadata generation means for receiving the content to be distributed and generating and distributing metadata related to the content, the content distributed by the content distribution server, and the metadata distribution server A receiving terminal having synchronization means for receiving the metadata and associating the content with the metadata , wherein the metadata distribution server analyzes a feature amount representing a feature of the received content. An analysis unit; and the metadata generation unit includes the analysis unit. The content feature quantity analyzed by the first analysis means is distributed in association with the metadata, and the receiving terminal further comprises second analysis means for analyzing the feature quantity representing the feature of the content, The synchronization unit receives the feature amount information by the first analysis unit distributed by the metadata generation unit, and the feature amount information by the first analysis unit in the received information and the second analysis unit The content and the metadata are associated with each other based on the feature amount obtained by.

この請求項1にかかる発明によれば、例え時間情報がコンテンツに付加されていなかったとしても、情報端末において、コンテンツの特徴量と、メタデータに対応付けられて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。 According to the first aspect of the present invention, even if the time information is not added to the content, the content terminal and the content feature received in association with the metadata are obtained at the information terminal. By comparing, content and metadata can be associated with each other.

また、請求項にかかる発明は、請求項に記載のコンテンツ・メタデータ送受信システムにおいて、前記メタデータ生成手段は、前記第1の解析手段によって解析された前記特徴量の情報を前記メタデータに付加して配信するものであり、前記同期手段は、前記メタデータ生成手段が送信する前記メタデータに付加された前記特徴量の情報を受信し、受信した前記メタデータに付加された特徴量の情報と前記第2の解析手段による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 Further, the invention according to claim 2 is the content / metadata transmission / reception system according to claim 1 , wherein the metadata generation means uses the feature amount information analyzed by the first analysis means as the metadata. The synchronization unit receives the feature amount information added to the metadata transmitted by the metadata generation unit, and the feature amount added to the received metadata. The content and the metadata are associated with each other on the basis of the information and the feature amount obtained by the second analysis unit.

この請求項にかかる発明によれば例え時間情報がコンテンツに付加されていなかったとしても、情報端末において、コンテンツの特徴量と、メタデータに付加されて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。 According to the invention of claim 2 , even if time information is not added to the content, the feature amount of the content is compared with the feature amount of the content received by being added to the metadata in the information terminal. By doing so, content and metadata can be associated with each other.

また、請求項にかかる発明は、請求項またはに記載のコンテンツ・メタデータ送受信システムにおいて、前記メタデータ配信サーバの前記第1の解析手段は、前記第1の解析手段による前記特徴量を所定のしきい値と比較し前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をメタデータの基点に設定し、前記メタデータ生成手段は、前記第1の解析手段によって設定されたメタデータの基点から前後のオフセット値によって前記メタデータの時刻情報を記述して送信し、前記情報端末の前記第2の解析手段は、前記第2の解析手段による前記特徴量を所定のしきい値と比較して前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をコンテンツの基点に設定し、前記同期手段は、受信する前記第1の解析手段による前記メタデータの基点と前記第2の解析手段による前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 Further, the invention according to claim 3 is the content / metadata transmission / reception system according to claim 1 or 2 , wherein the first analysis means of the metadata distribution server is the feature quantity by the first analysis means. Is determined to be equal to or greater than the threshold value, the content portion corresponding to the feature value is set as a metadata base point, and the metadata generation means The time information of the metadata is described and transmitted by offset values before and after the metadata base point set by the first analysis means, and the second analysis means of the information terminal is configured to transmit the second time information of the metadata. When the feature value by the analysis unit is compared with a predetermined threshold value and it is determined that the feature value is equal to or greater than the threshold value, the content portion corresponding to the feature value is converted. Based on the metadata base point by the first analysis unit and the content base point by the second analysis unit, and by the offset value before and after. The content is associated with the metadata.

この請求項にかかる発明によればメタデータ配信サーバによって設定された特徴量による基点と、受信端末によって設定された特徴量による基点とを比較することによって、受信端末において時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができる。 According to the invention of claim 3, there is no time information in the receiving terminal by comparing the base point based on the feature amount set by the metadata distribution server with the base point based on the feature amount set by the receiving terminal. Even in this case, it is possible to associate content with metadata.

また、請求項にかかる発明は、請求項に記載のコンテンツ・メタデータ送受信システムにおいて、前記第1の解析手段は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記メタデータの基点を設定して配信し、前記第2の解析手段は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記コンテンツの基点を設定し、前記同期手段は、受信する前記第1の解析手段が設定した前記メタデータの基点と前記第2の解析手段が設定した前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 According to a fourth aspect of the present invention, in the content / metadata transmission / reception system according to the third aspect , the first analysis means uses a color feature, a cut point at which a scene changes, and a frame as the feature amount to be analyzed. Calculating one or more feature amounts of matching, silent section, audio power, audio spectrum, and image pattern, and setting and delivering a base point of the metadata according to the calculated one or more feature amounts; The second analysis means analyzes one or more feature values of a color feature, a cut point at which a scene changes, a frame matching, a silent section, an audio power, an audio spectrum, and a picture pattern as the feature values to be analyzed. Calculating and setting the base point of the content according to the calculated one or more feature quantities, and the synchronization means is set before the first analysis means to receive Based on the base point of the content that the base point of the metadata second analysis unit is set, wherein the in which correspondence between the metadata and the content by the front and rear of the offset value.

この請求項にかかる発明によればコンテンツにおける色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された1つ以上の特徴量によって設定される基点を比較することによって、受信端末において時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができる。 According to the fourth aspect of the present invention, one or more feature amounts of the color feature in the content, the cut point at which the scene switches, the frame matching, the silent section, the audio power, the audio spectrum, and the image pattern are calculated. By comparing the base points set by the calculated one or more feature quantities, it is possible to associate content and metadata even when there is no time information at the receiving terminal.

また、請求項にかかる発明は、請求項またはに記載のコンテンツ・メタデータ送受信システムにおいて、前記第1の解析手段は、前記メタデータの基点を複数個設定し、前記第2の解析手段は、前記コンテンツの基点を複数個設定し、前記同期手段は、設定された前記メタデータの複数個の基点および前記コンテンツの複数個の基点に基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 The invention according to claim 5 is the content / metadata transmission / reception system according to claim 3 or 4 , wherein the first analysis means sets a plurality of base points of the metadata and performs the second analysis. The means sets a plurality of base points of the content, and the synchronization means sets the content and the content based on the set offset points before and after the plurality of base points of the metadata and the plurality of base points of the content. The metadata is associated with the metadata.

この請求項にかかる発明によればメタデータ配信サーバによって設定された特徴量による複数の基点と、受信端末によって設定された特徴量による複数の基点とを比較することによって、受信端末において時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができる。 According to the fifth aspect of the present invention, by comparing a plurality of base points based on the feature amount set by the metadata distribution server with a plurality of base points based on the feature amount set by the receiving terminal, the time at the receiving terminal is compared. Even when there is no information, it is possible to more accurately associate content and metadata.

また、請求項にかかる発明は、請求項またはに記載のコンテンツ・メタデータ送受信システムにおいて、前記第1の解析手段は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記メタデータの基点に設定し、前記第2の解析手段は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記コンテンツの基点に設定するものであることを特徴とする。 Also, the invention according to claim 6 is the content / metadata transmission / reception system according to claim 3 or 5 , wherein the first analysis means uses the delimiter at which the scene of the content is switched as a feature amount as a base point of the metadata And the second analyzing means sets a break point at which the scene of the content is switched as a feature amount to the base point of the content.

この請求項にかかる発明によれば正確な基点を設定できるので受信端末によって設定された特徴量による基点を比較することによって、受信端末は時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができる。 According to the sixth aspect of the present invention, since an accurate base point can be set, by comparing the base points based on the feature values set by the receiving terminal, the receiving terminal can cope with content and metadata even when there is no time information. The attachment can be performed more accurately.

また、請求項にかかる発明は、請求項のいずれか1つに記載のコンテンツ・メタデータ送受信システムにおいて、前記メタデータ生成手段は、前記メタデータの時刻情報を、前記メタデータの直前の基点までの過去に遡るオフセットおよび直後の基点へのオフセット値情報として、前記メタデータに付加して配信し、前記情報端末の前記同期手段は、前記第2の解析手段によって設定される基点と前記メタデータに付加された前記オフセット値情報により特定される時刻情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 The invention according to claim 7 is the content / metadata transmission / reception system according to any one of claims 3 to 6 , wherein the metadata generation means converts time information of the metadata into the metadata. As an offset retroactive to the immediately preceding base point and offset value information to the immediately following base point, it is delivered in addition to the metadata, and the synchronization means of the information terminal is a base point set by the second analyzing means And the time information specified by the offset value information added to the metadata, the content and the metadata are associated with each other.

この請求項にかかる発明によればメタデータの前後の基点によってメタデータを特定することによって、過去に遡ってメタデータの対応付けをすることができるので、受信端末において、受信するメタデータを無駄にすることを避けながらコンテンツおよびメタデータの対応付けを行うことができる。 According to the seventh aspect of the present invention , the metadata can be correlated retroactively by specifying the metadata based on the base points before and after the metadata. Content and metadata can be associated with each other while avoiding waste.

また、請求項にかかる発明は、請求項のいずれか1つに記載のコンテンツ・メタデータ送受信システムにおいて、前記第1の解析手段は、前記メタデータの基点を所定の時間で周期的に設定し、前記第2の解析手段は、前記コンテンツの基点を所定の時間で周期的に設定し、前記同期手段は、前記第1の解析手段が設定した前記メタデータの周期的な基点と前記第2の解析手段が設定した前記コンテンツの周期的な基点とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 The invention according to claim 8 is the content / metadata transmission / reception system according to any one of claims 3 to 7 , wherein the first analysis means periodically sets a base point of the metadata at a predetermined time. The second analysis unit periodically sets the base point of the content at a predetermined time, and the synchronization unit sets the periodic base point of the metadata set by the first analysis unit. And the content and the metadata are associated with each other based on the periodic base point of the content set by the second analysis means.

この請求項にかかる発明によれば受信端末がコンテンツを途中から受信開始した場合であっても、周期的な基点を受信することによって基点を比較することができるので、受信端末においては、時間的な無駄を少なくして効率よくコンテンツおよびメタデータの対応付けを行うことができる。 According to the eighth aspect of the present invention, even when the receiving terminal starts receiving the content from the middle, the base point can be compared by receiving the periodic base point. Content and metadata can be efficiently associated with less time waste.

また、請求項にかかる発明は、コンテンツ・メタデータ同期方法であって、映像および音声を含むコンテンツを配信するコンテンツ配信工程と、前記コンテンツ配信工程において配信された前記コンテンツに関するメタデータを生成して配信するメタデータ生成工程と、前記コンテンツ配信工程において配信された前記コンテンツと前記メタデータ生成工程において配信されたメタデータとを受信し、受信した前記コンテンツと前記メタデータとを対応付ける同期工程と、を含み、受信する前記コンテンツの特徴を表す特徴量を解析する第1の解析工程を、さらに含み、前記メタデータ生成工程は、前記第1の解析工程において解析された前記コンテンツの特徴量を前記メタデータに対応付けて配信し、受信する前記コンテンツの特徴を表す特徴量を解析する第2の解析工程を、さらに含み、前記同期工程は、前記メタデータ生成工程において配信される前記メタデータに対応付けられた前記第1の解析工程による前記コンテンツの特徴量の情報を受信し、受信した前記情報における前記第1の解析工程による特徴量の情報と前記第2の解析工程による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 The invention according to claim 9 is a content / metadata synchronization method, wherein a content distribution step of distributing content including video and audio, and metadata relating to the content distributed in the content distribution step are generated. A metadata generation step for distributing the content, a synchronization step for receiving the content distributed in the content distribution step and the metadata distributed in the metadata generation step, and associating the received content with the metadata; , only including, a first analysis step of analyzing the feature amount representing the feature of the content received, including further the meta data generation step, the feature amount of the content that is analyzed in the first analyzing step Is distributed in association with the metadata, and represents the characteristics of the received content. A second analysis step of analyzing a feature amount, wherein the synchronization step includes the feature amount of the content by the first analysis step associated with the metadata distributed in the metadata generation step; Receiving information, and associating the content with the metadata based on the feature amount information obtained by the first analysis step and the feature amount obtained by the second analysis step in the received information. Features.

この請求項にかかる発明によれば、例え時間情報がコンテンツに付加されていなかったとしても、コンテンツの特徴量と、メタデータに対応付けられて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。 According to the invention of claim 9 , even if time information is not added to the content, by comparing the feature amount of the content with the feature amount of the content received in association with the metadata, Content and metadata can be associated with each other.

また、請求項1にかかる発明は、請求項に記載のコンテンツ・メタデータ同期方法において、前記メタデータ生成工程は、前記第1の解析工程において解析された前記特徴量の情報を前記メタデータに付加して配信するものであり、前記同期工程は、前記メタデータ生成工程において送信される前記メタデータに付加された前記第1の解析工程による前記特徴量の情報を受信し、受信した前記メタデータに付加された特徴量の情報と前記第2の解析工程において解析された特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 The invention according to claim 1 0, in the content metadata synchronization method according to claim 9, wherein the metadata generating step, the said characteristic quantity of information analyzed in the first analyzing step meta The synchronization process receives and receives the information on the feature amount by the first analysis process added to the metadata transmitted in the metadata generation process. The content and the metadata are associated with each other based on the feature amount information added to the metadata and the feature amount analyzed in the second analysis step.

この請求項1にかかる発明によれば例え時間情報がコンテンツに付加されていなかったとしても、コンテンツの特徴量と、メタデータに付加されて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。 According to the claim 1 0 in such invention, even as time information even has not been added to the content by comparing the feature amounts of content, and a feature amount of the content received is added to the metadata Content and metadata can be associated with each other.

また、請求項1にかかる発明は、請求項または1に記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、前記第1の解析工程による前記特徴量を所定のしきい値と比較し前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をメタデータの基点とし、前記メタデータ生成工程は、前記第1の解析工程において設定されたメタデータの基点から前後のオフセット値で前記メタデータの時刻情報を記述して送信するものであり、前記第2の解析工程は、前記第2の解析工程による前記特徴量を所定のしきい値と比較して前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をコンテンツの基点とし、前記同期工程は、受信する前記第1の解析工程による前記メタデータの基点と前記第2の解析工程による前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 The invention according to claim 1 1, in the content metadata synchronization method according to claim 9 or 1 0, wherein the first analysis step, the first analysis the feature amount predetermined teeth by step When it is determined that the feature value is equal to or greater than the threshold value compared with a threshold value, the content portion corresponding to the feature value is used as a base point of metadata, and the metadata generation step includes the first analysis. The time information of the metadata is described and transmitted with offset values before and after the metadata base point set in the process, and the second analysis step includes the feature amount obtained by the second analysis step. When it is determined that the feature value is equal to or greater than the threshold value compared to a predetermined threshold value, the content portion corresponding to the feature value is set as a content base point, and the synchronization step includes receiving Based on the base point of the metadata by the first analysis step and the base point of the content by the second analysis step, the content and the metadata are associated with each other by the front and back offset values. Features.

この請求項1にかかる発明によればメタデータに設定された特徴量による基点と、コンテンツに設定された特徴量による基点とを比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができる。 According to the invention of the claim 1 1, and the base point by the feature that has been set in the metadata, by comparing the base point by the feature set in the content, even if no time information to the content content And metadata can be associated.

また、請求項1にかかる発明は、請求項1に記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記メタデータの基点を設定して配信し、前記第2の解析工程は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記コンテンツの基点を設定し、前記同期工程は、受信する前記第1の解析工程が設定した前記メタデータの基点と前記第2の解析工程が設定した前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 The invention according to claim 1 2, in the content metadata synchronization method of claim 1 1, wherein the first analysis step, as the feature quantity to be analyzed, the cut point color feature, the scene changed, One or more feature quantities of frame matching, silence interval, voice power, voice spectrum, and image pattern are calculated, and the base point of the metadata is set and distributed by the calculated one or more feature quantities In the second analysis step, as the feature quantity to be analyzed, at least one of a color feature, a cut point at which a scene changes, a frame matching, a silent section, an audio power, an audio spectrum, and a picture pattern is used. Calculating a quantity, setting a base point of the content by the calculated one or more feature quantities, and the synchronization step is performed before the first analysis step to be received is set. Based on the base point of the content base and said second analyzing step metadata set, wherein the in which correspondence between the metadata and the content by the front and rear of the offset value.

この請求項1にかかる発明によればコンテンツにおける色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された1つ以上の特徴量によって設定される基点を比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けを行うことができる。 According to the claim 1 2 in such invention, calculates the color feature in the content, the cut point scene is switched, the matching of the frame, a silence section, speech power, speech spectrum, and one or more feature quantities among Emon Then, by comparing the base points set by the calculated one or more feature quantities, it is possible to associate the content with the metadata even when there is no time information in the content.

また、請求項1にかかる発明は、請求項1または1に記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、前記メタデータの基点を複数個設定し、前記第2の解析工程は、前記コンテンツの基点を複数個設定し、前記同期工程は、設定された前記メタデータの複数個の基点および前記コンテンツの複数個の基点に基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 Further, according the invention in claims 1 to 3, in the content metadata synchronization method of claim 1 1 or 1 2, wherein the first analysis step, a plurality sets the origin of the metadata, the second In the second analysis step, a plurality of base points of the content are set, and in the synchronization step, based on the plurality of base points of the set metadata and the plurality of base points of the content, The content and the metadata are associated with each other.

この請求項1にかかる発明によればメタデータに設定された特徴量による複数の基点と、コンテンツに設定された特徴量による複数の基点とを比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができる。 According to the invention of the claims 1 to 3, a plurality of base points by the feature that has been set in the metadata, by comparing the plurality of base points by the set characteristic quantity to the content, is no time information to the content Even in such a case, the content and metadata can be more accurately associated.

また、請求項1にかかる発明は、請求項1または1に記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記メタデータの基点に設定し、前記第2の解析工程は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記コンテンツの基点に設定するものであることを特徴とする。 The invention according to claim 1 4, in the content metadata synchronization method of claim 1 1 or 1 3, wherein the first analysis step, the meta delimiter of the switching of the scene of the content as a feature quantity It is set as a data base point, and the second analysis step is characterized in that a break at which the content scene is switched is set as a feature amount at the base point of the content.

この請求項1にかかる発明によればコンテンツに正確な基点を設定できるのでコンテンツとメタデータに設定された特徴量による基点とを比較することによって、コンテンツに時間情報がなかった場合でもコンテンツおよびメタデータの対応付けをより正確に行うことができる。 According to the invention of the claims 1 to 4, by comparing the base point by the feature set in the content and metadata can be set the correct base in the content, the content even if there is no time information to the content And metadata can be more accurately associated.

また、請求項1にかかる発明は、請求項1〜1のいずれか1つに記載のコンテンツ・メタデータ同期方法において、前記メタデータ生成工程は、前記メタデータの時刻情報を、前記メタデータの直前の基点までの過去に遡るオフセットおよび直後の基点へのオフセット値情報として、前記メタデータに付加して配信し、前記同期工程は、前記第2の解析工程において設定される基点と前記メタデータに付加された前記オフセット値情報により特定される時刻情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 The invention according to claim 1 5, in the content metadata synchronization method according to any one of claims 1 1 to 1 4, wherein the metadata generating step, the time information of the meta data, the As an offset retroactive to the base point immediately before the metadata and offset value information to the base point immediately after the metadata, it is added to the metadata and distributed, and the synchronization step includes a base point set in the second analysis step and The content is associated with the metadata based on time information specified by the offset value information added to the metadata.

この請求項1にかかる発明によればメタデータの前後の基点によってメタデータを特定することによって、過去に遡ってメタデータの対応付けをすることができるので、受信するメタデータを無駄にすることを避けながらコンテンツおよびメタデータの対応付けを行うことができる。 According to the invention of the claims 1 to 5, by identifying the metadata by the front and rear base metadata, it is possible to make correspondence between metadata retroactively, wasting metadata received It is possible to associate content and metadata while avoiding this.

また、請求項16にかかる発明は、請求項1〜1のいずれか1つに記載のコンテンツ・メタデータ同期方法において、前記第1の解析工程は、前記メタデータの基点を所定の時間で周期的に設定し、前記第2の解析工程は、前記コンテンツの基点を所定の時間で周期的に設定し、前記同期工程は、前記第1の解析工程が設定した前記メタデータの周期的な基点と前記第2の解析工程が設定した前記コンテンツの周期的な基点とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする。 The invention according to claim 16 is the content / metadata synchronization method according to any one of claims 11 to 15 , wherein the first analysis step sets a base point of the metadata for a predetermined time. The second analysis step periodically sets the base point of the content at a predetermined time, and the synchronization step periodically sets the metadata set by the first analysis step. The content and the metadata are associated with each other based on a valid base point and a periodic base point of the content set in the second analysis step.

この請求項16にかかる発明によればコンテンツを途中から受信開始した場合であっても、周期的な基点を受信することによって基点を比較することができるので、時間的な無駄を少なくして効率よくコンテンツおよびメタデータの対応付けを行うことができる。 According to the sixteenth aspect of the present invention, even when the content is received from the middle, the base points can be compared by receiving the periodic base points. Content and metadata can be efficiently associated with each other.

また、請求項17にかかる発明は、プログラムであって、請求項16のいずれか1つに記載のコンテンツ・メタデータ同期方法をコンピュータに実行させることを特徴とする。 The invention according to claim 17 is a program which causes a computer to execute the content / metadata synchronization method according to any one of claims 9 to 16 .

この請求項17にかかる発明によれば、請求項16のいずれか1つに記載のコンテンツ・メタデータ同期方法をコンピュータに実行させることができる。 According to the seventeenth aspect of the present invention, it is possible to cause a computer to execute the content / metadata synchronization method according to any one of the ninth to sixteenth aspects.

また、請求項18にかかる発明は受信端末であって、コンテンツ配信サーバから配信される映像および音声を含むコンテンツと、メタデータ配信サーバによって前記コンテンツを基に生成されたメタデータとを受信し、受信した前記コンテンツおよび前記メタデータを対応付ける同期手段を有する同期装置を備え、前記メタデータ配信サーバにより前記コンテンツの特徴を表す特徴量が解析され、解析された前記コンテンツの特徴量が前記メタデータに対応づけて配信される場合、前記同期装置は、前記コンテンツ配信サーバから受信する前記コンテンツの特徴量を解析する解析手段をさらに有し、前記同期手段が、前記メタデータ配信サーバから前記メタデータに対応づけて配信される前記コンテンツの特徴量を受信し、前記メタデータ配信サーバによる前記メタデータに対応づけられた前記コンテンツの特徴量と、前記解析手段によって解析された前記コンテンツの特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであるたことを特徴とする。 The invention according to claim 18 is a receiving terminal that receives content including video and audio distributed from a content distribution server and metadata generated based on the content by the metadata distribution server. A synchronization device having synchronization means for associating the received content with the metadata, wherein the metadata distribution server analyzes a feature amount representing the feature of the content, and the analyzed feature amount of the content is the metadata The synchronization device further includes an analysis unit that analyzes a feature quantity of the content received from the content distribution server, and the synchronization unit receives the metadata from the metadata distribution server. Receiving the feature amount of the content distributed in correspondence with the metadata A feature amount of the content associated with the said metadata by distribution server, that based on the feature amount of the content that has been analyzed by said analyzing means, and in which correspondence between the said content metadata Features.

この請求項18にかかる発明によれば、例え時間情報がコンテンツに付加されていなかったとしても、情報端末は、コンテンツの特徴量と、メタデータに対応付けられて受信したコンテンツの特徴量とを比較することによって、コンテンツおよびメタデータを対応付けることができる。 According to the invention of claim 18 , even if time information is not added to the content, the information terminal obtains the feature amount of the content and the feature amount of the content received in association with the metadata. By comparing, content and metadata can be associated with each other.

また、請求項19にかかる発明は、請求項18に記載受信端末において、前記受信端末は、DVD(DigitalVersatileDisc)録画機であることを特徴とする。 The invention according to claim 19 is the receiving terminal according to claim 18 , characterized in that the receiving terminal is a DVD (Digital Versatile Disc) recorder.

この請求項19にかかる発明によればコンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができるDVD録画機に適用できる。 According to the nineteenth aspect of the present invention, the present invention can be applied to a DVD recorder capable of separately receiving and associating the content distributed from the content distribution server and the metadata distributed from the metadata distribution server.

また、請求項2にかかる発明は、請求項18又は19に記載の受信端末において、前記受信端末は、HDD(HardDiscDrive)録画機であることを特徴とする。 The invention according to claim 2 0, in the receiving terminal according to claim 18 or 19, wherein the receiving terminal is characterized by an HDD (HardDiscDrive) recorder.

この請求項2にかかる発明によればコンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができるHDD録画機に適用できる。 According to the claim 2 0 in such invention can be applied and the content distributed from the content distribution server, and metadata distributed from the metadata delivery server to HDD recorder which can be correlated with received separately.

また、請求項2にかかる発明は、請求項18〜2のいずれか1つに記載受信端末において、前記受信端末は、携帯型電話機であることを特徴とする。 The invention according to claim 2 1, in the receiving terminal according to any one of claims 18 to 2 0, the receiving terminal, characterized in that it is a portable telephone.

この請求項2にかかる発明によればコンテンツ配信サーバから配信されるコンテンツと、メタデータ配信サーバから配信されるメタデータとを別々に受信して対応付けることができる携帯型電話機に適用できる。 According to the invention of the claim 2 1, it can be applied and the contents distributed from the content distribution server, and metadata distributed from the metadata distribution server to the mobile phone which can be correlated with received separately.

以下に添付図面を参照して、この発明にかかるコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並び受信端末の実施の形態を詳細に説明する。 With reference to the accompanying drawings, such content metadata transmission and reception system in the present invention, the content metadata synchronization method, a program for executing the method on a computer, it will be described in detail an embodiment of a receiving terminal as well .

(1.実施の形態1によるコンテンツ・メタデータ送受信システム)
(1.1.コンテンツ・メタデータ送受信システムの構成)
図1は、実施の形態1によるコンテンツ・メタデータ送受信システムの機能的ブロック図である。実施の形態1によるコンテンツ・メタデータ送受信システムは、ネットワーク2に接続するコンテンツ配信サーバ1、メタデータ配信サーバ10、および受信端末20を備える。図1では各サーバ1,10および受信端末20は、1つのみが記されているが、単数に限るものではない。
(1. Content / metadata transmission / reception system according to Embodiment 1)
(1.1. Configuration of Content / Metadata Transmission / Reception System)
FIG. 1 is a functional block diagram of the content / metadata transmission / reception system according to the first embodiment. The content / metadata transmission / reception system according to the first embodiment includes a content distribution server 1, a metadata distribution server 10, and a receiving terminal 20 connected to a network 2. In FIG. 1, only one server 1, 10 and receiving terminal 20 are shown, but the number is not limited to one.

コンテンツ配信サーバ1は、映像音声を含むマルチメディアコンテンツを、時間情報を付加して生成し、ネットワーク2を介して、メタデータ配信サーバ10および受信端末20に配信する。   The content distribution server 1 generates multimedia content including video and audio by adding time information, and distributes the multimedia content to the metadata distribution server 10 and the receiving terminal 20 via the network 2.

メタデータ配信サーバ10は、メタデータ生成部11を備える。メタデータ生成部11は、コンテンツ配信サーバ1から配信されたコンテンツを受信してコンテンツに付加された時間情報を記述し、受信したコンテンツに対応するメタデータを生成する。メタデータ生成部11は、時間情報が記述されたメタデータを、受信端末20に配信する。   The metadata distribution server 10 includes a metadata generation unit 11. The metadata generation unit 11 receives the content distributed from the content distribution server 1 and describes time information added to the content, and generates metadata corresponding to the received content. The metadata generation unit 11 distributes metadata describing time information to the receiving terminal 20.

受信端末20は、同期部21を備える。同期部21は、メタデータ配信サーバ10のメタデータ生成部11から配信される時間情報が付加されたメタデータを受信する。また、同期部21は、コンテンツ配信サーバ1から配信される時間情報が付加されたコンテンツを、受信する。   The receiving terminal 20 includes a synchronization unit 21. The synchronization unit 21 receives metadata to which time information distributed from the metadata generation unit 11 of the metadata distribution server 10 is added. Further, the synchronization unit 21 receives content to which time information distributed from the content distribution server 1 is added.

図2は、実施の形態1によるコンテンツ・メタデータ送受信システムにおけるコンテンツとメタデータの対応付け動作を説明する図である。ここではメタデータ生成部11が、時間情報が付加されて配信されるコンテンツの流れ51を受信しており、時間情報が付加されたメタデータ52を生成する。受信端末20の同期部21は、配信されるコンテンツの流れ51を受信し受信したコンテンツに付加された時間情報を読み取る。また同期部21は、メタデータ生成サーバ10から時間情報が付加されたメタデータ52を受信し、既に読み取ったコンテンツデータ51の時間情報と対応付ける。図2に示すように、メタデータ52には時間情報が付加されており、例えば3分00秒から4分00秒の間にバッター松井の打席のシーンであった場合、メタデータ生成部11は、   FIG. 2 is a diagram for explaining an association operation between content and metadata in the content / metadata transmission / reception system according to the first embodiment. Here, the metadata generation unit 11 receives a flow 51 of content distributed with time information added, and generates metadata 52 with time information added. The synchronization unit 21 of the receiving terminal 20 receives the flow 51 of content to be distributed and reads time information added to the received content. Further, the synchronization unit 21 receives the metadata 52 to which time information is added from the metadata generation server 10 and associates it with the time information of the content data 51 that has already been read. As shown in FIG. 2, time information is added to the metadata 52. For example, in the case of a batter Matsui's batting scene between 3:00 and 4:00, the metadata generation unit 11 ,

<time>3:00−4:00
<who>松井
<Time> 3: 00-4: 00
<Who> Matsui

というメタデータ52を作成し、受信端末20に送信する。受信する同期部21は、メタデータ52を読み込み、またコンテンツデータ51の時間情報を読み取り、コンテンツの時間が3:00−4:00の間は、バッターが松井であるという対応付けを行う。 The metadata 52 is created and transmitted to the receiving terminal 20. The receiving synchronization unit 21 reads the metadata 52, reads the time information of the content data 51, and associates that the batter is Matsui during the time of the content from 3:00 to 4:00.

この方式は、M−PEG2形式などのようにコンテンツに時間情報が付加されている場合に適用できる。コンテンツに時間情報が付加されている場合、メタデータ生成部11は、該時間情報をメタデータに記述する。   This method can be applied when time information is added to content, such as in the M-PEG2 format. When time information is added to the content, the metadata generation unit 11 describes the time information in the metadata.

(1.2.コンテンツおよびメタデータの対応付け手順)
図3は、コンテンツおよびメタデータの対応付け手順を説明するフローチャートである。コンテンツ配信サーバ1は、時間情報が付加されたコンテンツを配信する(ステップS101)。メタデータ生成部11は、配信されるコンテンツを受信可能状態にあり(ステップS102)、受信した場合(ステップS102のYes)、メタデータ生成部11はコンテンツを解析し(ステップS103)、時間情報を付加してメタデータを生成し、受信端末20に配信する(ステップS104)。コンテンツを受信しない場合(ステップS102のNo)、そのまま待機する。
(1.2. Procedure for associating contents and metadata)
FIG. 3 is a flowchart for explaining a procedure for associating contents and metadata. The content distribution server 1 distributes content to which time information is added (step S101). The metadata generation unit 11 is in a state where the distributed content can be received (step S102), and when received (Yes in step S102), the metadata generation unit 11 analyzes the content (step S103) and obtains time information. In addition, metadata is generated and distributed to the receiving terminal 20 (step S104). If no content is received (No in step S102), the process waits as it is.

受信端末20の同期部21は、配信されるコンテンツを受信可能状態にあり(ステップS105)、受信した場合(ステップS105のYes)、同期部21は、コンテンツの時間情報を解析する(ステップS106)。同期部21は、メタデータ生成部11から配信されるメタデータを受信可能状態にあり(ステップS107)、受信しない場合は(ステップS107のNo)そのまま待機する。   The synchronization unit 21 of the receiving terminal 20 is ready to receive the distributed content (step S105). When the synchronization unit 21 receives the content (Yes in step S105), the synchronization unit 21 analyzes the time information of the content (step S106). . The synchronization unit 21 is ready to receive metadata distributed from the metadata generation unit 11 (step S107). If not received (No in step S107), the synchronization unit 21 stands by.

同期部21がメタデータを受信した場合(ステップS107のYes)、同期部21は、メタデータの時間情報とコンテンツの時間情報の同期を調べ(ステップS108)、同期がとれない場合は(ステップS108)、再びステップS107に戻り、メタデータの受信を待機する。   When the synchronization unit 21 receives the metadata (Yes in step S107), the synchronization unit 21 checks the synchronization of the metadata time information and the content time information (step S108). If the synchronization is not established (step S108). ), The process returns to step S107 again and waits for reception of metadata.

同期部21が、メタデータの時間情報とコンテンツの時間情報との同期を取ることができた場合(ステップS108のYes)、同期部21は、コンテンツとメタデータとを対応付ける(ステップS109)   When the synchronization unit 21 can synchronize the metadata time information and the content time information (Yes in step S108), the synchronization unit 21 associates the content with the metadata (step S109).

(1.3.効果)
受信端末20においては、コンテンツとメタデータを別々に受信したとしても、コンテンツに付加されている時間情報とメタデータに記述されている時間情報を比較し、同じ時間情報を有するコンテンツとメタデータとを正確に関連づけることができる。
(1.3. Effect)
Even if the reception terminal 20 receives the content and the metadata separately, the time information added to the content is compared with the time information described in the metadata, and the content and metadata having the same time information are compared. Can be related accurately.

(2.実施の形態2によるコンテンツ・メタデータ送受信システム)
(2.1.コンテンツ・メタデータ送受信システムの構成)
実施の形態2によるコンテンツ・メタデータ送受信システムは、配信されるコンテンツに時間情報が付加されていない場合、あるいはメタデータ配信サーバにおいてコンテンツに付加された時間情報を取得できない場合に、メタデータ配信サーバおよび情報端末においてコンテンツの特徴を表す特徴量を解析する。メタデータ配信サーバ10は特徴量が付加されたメタデータを生成して配信し、配信された特徴量が付加されたメタデータを受信する情報端末20は、既に解析した特徴量と比較してコンテンツおよびメタデータの同期を取って対応付ける。ここでは、実施の形態1によるコンテンツ・メタデータ送受信システムにおいてコンテンツとメタデータとを対応付ける根拠となる時間情報に代わるものとして、特徴量の情報を使用する。
(2. Content / metadata transmission / reception system according to Embodiment 2)
(2.1. Configuration of content / metadata transmission / reception system)
In the content / metadata transmission / reception system according to the second embodiment, when the time information is not added to the content to be distributed, or when the time information added to the content cannot be acquired by the metadata distribution server, the metadata distribution server Then, the feature amount representing the feature of the content is analyzed in the information terminal. The metadata distribution server 10 generates and distributes metadata to which the feature amount is added, and receives the metadata to which the distributed feature amount is added. And synchronize metadata. Here, feature amount information is used as an alternative to the time information that is the basis for associating content and metadata in the content / metadata transmission / reception system according to the first embodiment.

図4は、実施の形態2によるコンテンツ・メタデータ送受信システムの機能的ブロック図である。実施の形態2によるコンテンツ・メタデータ送受信システムが実施の形態1と異なる点は、メタデータ配信サーバ10がさらに、受信するコンテンツの特徴量を解析する第1解析部12を備え、かつ受信端末20がさらに、受信するコンテンツの特徴量を解析する第2解析部22を備える点である。また同期部21は、特徴量を比較することによってコンテンツおよびメタデータの対応付けを行う。   FIG. 4 is a functional block diagram of the content / metadata transmission / reception system according to the second embodiment. The content / metadata transmission / reception system according to the second embodiment is different from that of the first embodiment in that the metadata distribution server 10 further includes a first analysis unit 12 that analyzes the feature amount of the received content, and the receiving terminal 20. Is further provided with a second analysis unit 22 for analyzing the feature amount of the received content. The synchronization unit 21 associates content and metadata by comparing feature amounts.

第1解析部12および第2解析部22が解析する特徴量は、シーンの切り替わり、色特徴、カット点、フレームのマッチング、無音部区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上である。第1解析部12は、受信したコンテンツを解析し上記特徴量を算出する。   The feature quantity analyzed by the first analysis unit 12 and the second analysis unit 22 is one of scene switching, color feature, cut point, frame matching, silent section, audio power, audio spectrum, and image pattern. That's it. The first analysis unit 12 analyzes the received content and calculates the feature amount.

最近、動画の検索技術の一つとして画紋が使用されているが、この画紋を検出して特徴量として使用することができる。画紋とは、動画像アーカイブから望む動画像を見つけるための手掛かり情報であり、人間の指紋と同様に、少ない情報量で動画像の識別が可能な情報で、簡単で安定的に使用することができるものとして研究されている。画紋については、例えば情報処理学会研究報告アブストラクトNo.023−004「オーディオビジュアル複合情報処理」の中に納められた「画紋を用いた動画像検索方式−現行テレビ放送への適用」(著者:高橋克直、杉浦麻貴、村井正人、寺島信義、富永英義)による公知技術を適用することができる。   Recently, an image pattern has been used as one of the retrieval techniques for moving images. This image pattern can be detected and used as a feature amount. A print pattern is clue information for finding a desired moving image from a moving image archive. Like a human fingerprint, it is information that can identify a moving image with a small amount of information and should be used easily and stably. It has been studied as something that can be done. As for the print crest, for example, Abstract No. 023-004 "Audio Visual Complex Information Processing", "Video Search Method Using Picture Patterns-Application to Current Television Broadcasting" (Authors: Takahashi Katsunao, Sugiura Maki, Murai Masato, Terashima Nobuyoshi, Known techniques by Hideyoshi Tominaga) can be applied.

例えばこの画紋の技術を利用すれば、動画像の特徴を利用して、動画像のある特定のポイントを絞り込むことが可能となる。   For example, if this image printing technique is used, it is possible to narrow down a specific point of the moving image using the characteristics of the moving image.

図5は、メタデータ生成部によるメタデータの生成を説明する図である。メタデータ配信サーバ10の第1解析部12は、受信したコンテンツ81を解析して特徴量を算出する。符号83を付されたグラフは、時間に対する特徴量を示したグラフである。第1解析部12は、算出された特著量をしきい値85で判定し、しきい値85以上の特徴量を与えるコンテンツの部分(84−1、84−2)に対して時間軸上で基点(82−1、82−2)として設定する。   FIG. 5 is a diagram for explaining generation of metadata by the metadata generation unit. The first analysis unit 12 of the metadata distribution server 10 analyzes the received content 81 and calculates a feature amount. A graph denoted by reference numeral 83 is a graph showing a feature amount with respect to time. The first analysis unit 12 determines the calculated special feature amount with the threshold value 85, and on the time axis with respect to the content portions (84-1, 84-2) that give the feature amount of the threshold value 85 or more. Is set as the base point (82-1, 82-2).

メタデータ生成部11は、2つの基点(82−1、82−2)の間においてメタデータ86を生成する。生成されたメタデータ86はコンテンツ81上で特定される。時刻合わせの基点が、実装によっては時間的に余裕を持って設定できる場合、時刻情報を前後の基点からのオフセット値としてプラスのオフセット値およびマイナスのオフセット値として2重に設定することが望ましい。図5中のメタデータ86には、<time>としてプラスの時間とマイナスの時間によってメタデータの内容の記述を起点から2重に特定することが示されている。メタデータの時刻情報を2重に記述することによって、途中から視聴を開始した場合にも即座に対応付け動作が可能となる。   The metadata generation unit 11 generates metadata 86 between the two base points (82-1, 82-2). The generated metadata 86 is specified on the content 81. If the base point for time adjustment can be set with sufficient time depending on the implementation, it is desirable to set the time information as a positive offset value and a negative offset value as an offset value from the preceding and following base points. The metadata 86 in FIG. 5 indicates that the description of the contents of the metadata is specified twice from the starting point by the plus time and the minus time as <time>. By describing the time information of the metadata twice, even when viewing is started halfway, the associating operation can be performed immediately.

メタデータが特定される際には、時間軸を使用しても良く、あるいはフレーム数を使用しても良い。時間軸を用いる場合、時刻合わせの基点は、特殊な特徴量をもつか、あるいは一定のしきい値を超えた特徴量をもつコンテンツ上のポイントであり、例えば、映像フレーム区間、音声区間などが挙げられる。   When the metadata is specified, a time axis may be used, or the number of frames may be used. When the time axis is used, the base point for time adjustment is a point on the content having a special feature amount or having a feature amount exceeding a certain threshold. For example, a video frame section, an audio section, etc. Can be mentioned.

あるいは時刻合わせの基点としては、コンテンツの中に含まれるコマーシャル(CM)のようなコンテンツの区切りのタイミングを使用することができる。   Alternatively, the timing for dividing the content such as a commercial (CM) included in the content can be used as a base point for time adjustment.

また、同期部21による同期の判定は、基点間の距離、あるいは基点における特徴量の大きさなどを比較することによって可能である。   In addition, the synchronization determination by the synchronization unit 21 can be made by comparing the distance between the base points or the size of the feature amount at the base point.

ここで、この特徴量から設定された時刻合わせの基点は、周期的に流されることが望ましい。周期的に設定することによって、受信端末がコンテンツの途中からコンテンツとメタデータの受信を始めた場合でも、メタデータとコンテンツを随時関連づけることが可能となる。   Here, it is desirable that the time adjustment base point set from the feature amount is periodically flowed. By periodically setting, even when the receiving terminal starts receiving the content and metadata in the middle of the content, it becomes possible to associate the metadata with the content as needed.

時刻合わせの基点となる特徴量の情報もメタデータとして配信することができる。この特徴量の情報は、時刻合わせの基点が生成される毎にメタデータが作成されて、配信される。その場合、メタデータの内容は基点に関する情報だけの場合もある。   Information on the feature quantity that is the base point for time adjustment can also be distributed as metadata. The feature amount information is distributed by generating metadata every time a time adjustment base point is generated. In that case, the content of the metadata may be only information on the base point.

また、時刻合わせの基点となる特徴量の情報は、メタデータとして配信せずに、別の情報として配信することもできる。   Further, the feature amount information that is the base point for time adjustment can be distributed as other information without being distributed as metadata.

受信端末20においては、第2解析部22が、コンテンツ配信サーバ1から受信したコンテンツの特徴量の情報から第1解析部12と同様に基点を抽出する。同期部21は、受信したメタデータ86に関連する基点情報を読み取って読み取ったメタデータ86の基点情報と、第2解析部22によって抽出された基点情報とを比較してコンテンツとメタデータとの同期を取る。同期部21は、メタデータに記述されていた時刻合わせの基点に合致するコンテンツ上のポイントを選択し選択されたポイントを時刻合わせの基点とする。選択された時刻合わせの基点を基にして、メタデータに記述されている時刻のオフセット情報を使用してコンテンツ内容を時間軸上で特定し、コンテンツとメタデータとを関連付ける。   In the receiving terminal 20, the second analysis unit 22 extracts a base point from the content feature amount information received from the content distribution server 1 in the same manner as the first analysis unit 12. The synchronization unit 21 reads the base point information related to the received metadata 86 and compares the base point information of the metadata 86 read and the base point information extracted by the second analysis unit 22 to compare the content and the metadata. Take synchronization. The synchronization unit 21 selects a point on the content that matches the time adjustment base point described in the metadata, and sets the selected point as the time adjustment base point. Based on the selected time adjustment base point, content information is specified on the time axis using time offset information described in the metadata, and the content and the metadata are associated with each other.

(2.2.コンテンツおよびメタデータの対応付け手順)
図6は、実施の形態2によるコンテンツおよびメタデータの対応付け手順を説明するフローチャートである。図4〜6を参照しながら、実施の形態2によるコンテンツ・メタデータ送受信システムの各部の動作、およびコンテンツ・メタデータの対応付けの手順を説明する。
(2.2. Procedure for associating contents and metadata)
FIG. 6 is a flowchart illustrating a procedure for associating content and metadata according to the second embodiment. The operation of each part of the content / metadata transmission / reception system according to the second embodiment and the procedure for associating the content / metadata will be described with reference to FIGS.

コンテンツ配信サーバ1はコンテンツを配信する(ステップS201)。メタデータ配信サーバの第1解析部12は、コンテンツ配信サーバ1から配信されたコンテンツを受信する状態にあり(ステップS202)、受信しない場合は(ステップS202のNo)そのまま待機する。第1解析部12は、コンテンツを受信した場合(ステップS202のYes)、コンテンツの特徴量を解析し、解析された特徴量を所定のしきい値と比較して基点を抽出する(ステップS203)。   The content distribution server 1 distributes content (step S201). The first analysis unit 12 of the metadata distribution server is in a state of receiving the content distributed from the content distribution server 1 (step S202). If not received (No in step S202), the first analysis unit 12 stands by. When receiving the content (Yes in step S202), the first analysis unit 12 analyzes the feature amount of the content, compares the analyzed feature amount with a predetermined threshold value, and extracts a base point (step S203). .

ここで特徴量として例えば、シーンの切り替わりフレーム情報を使用する。第1解析部12はコンテンツのシーンの切り替わりを検出する。メタデータ生成部11は、第1解析部12によって検出されたシーンの切り替わりフレーム情報である基点情報を付加してメタデータを作成し、受信端末20に送信する(ステップS204)。   Here, for example, scene switching frame information is used as the feature amount. The first analysis unit 12 detects a scene change of the content. The metadata generation unit 11 creates metadata by adding the base point information that is the scene switching frame information detected by the first analysis unit 12, and transmits the metadata to the reception terminal 20 (step S204).

受信端末20の第2解析部22は、コンテンツ配信サーバ1が配信するコンテンツを受信可能状態にあり(ステップS205)、受信しない場合はそのまま継続して待機状態にあり(ステップS205のNo)、受信した場合(ステップS205のYes)、第2解析部22は、コンテンツにおけるシーンの切り替わりフレーム情報を、コンテンツの特徴量として解析し、解析された特徴量を所定のしきい値と比較して基点を抽出し、基点を設定する(ステップS206)。   The second analysis unit 22 of the receiving terminal 20 is in a state in which the content distributed by the content distribution server 1 can be received (step S205). If not received, the second analysis unit 22 continues to be in a standby state (No in step S205). In the case (Yes in step S205), the second analysis unit 22 analyzes the scene switching frame information in the content as the feature amount of the content, compares the analyzed feature amount with a predetermined threshold value, and determines the base point. Extraction is performed and a base point is set (step S206).

同期部21は、コンテンツ配信サーバ1から配信されるシーンの切り替わりフレーム情報である基点情報が付加されたメタデータを受信可能状態にあり(ステップS207)、受信しない場合は(ステップS207のNo)、そのまま受信可能状態を継続する。同期部21は、メタデータ生成部11から送信されるメタデータを受信した場合(ステップS207のYes)、メタデータに付加された基点情報(この場合切り替わりフレーム情報)を検出し、第2解析部22によって解析された基点(この場合切り替わりフレーム情報)との同期を判定する(ステップS208)。同期部21が、特徴量の同期を取ることができなければ(ステップS208のNo)、ステップS207に戻る。同期部21が、特徴量の同期を取ることができれば(ステップS208のYes)、取られた該同期によってコンテンツとメタデータとを対応付ける(ステップS209)。   The synchronization unit 21 is in a state where it can receive metadata to which base point information that is scene switching frame information distributed from the content distribution server 1 is added (step S207), and when not received (No in step S207), The reception ready state is continued as it is. When receiving the metadata transmitted from the metadata generation unit 11 (Yes in step S207), the synchronization unit 21 detects the base point information (in this case, switching frame information) added to the metadata, and the second analysis unit The synchronization with the base point analyzed in this case (switching frame information in this case) is determined (step S208). If the synchronization unit 21 cannot synchronize the feature amount (No in step S208), the process returns to step S207. If the synchronization unit 21 can synchronize the feature amounts (Yes in step S208), the content and the metadata are associated with each other by the obtained synchronization (step S209).

(2.3.効果)
コンテンツ配信サーバから送信されるコンテンツに時間情報が付加されていなかった場合でも、メタデータ配信サーバがコンテンツの特徴量を解析しメタデータに付加して受信端末に送信し、メタデータを受信した受信端末においては、コンテンツ配信サーバから受信するコンテンツの特徴量を解析してメタデータに付加された特徴量と比較することにより、コンテンツとメタデータとの同期を取ることができるので、コンテンツおよびメタデータを対応付けることができる。
(2.3. Effect)
Even when the time information is not added to the content sent from the content delivery server, the metadata delivery server analyzes the feature amount of the content, adds it to the metadata, sends it to the receiving terminal, and receives the metadata. In the terminal, the content and metadata can be synchronized by analyzing the feature amount of the content received from the content distribution server and comparing it with the feature amount added to the metadata. Can be associated.

(3.実施の形態3によるコンテンツ・メタデータ送受信システム)
(3.1.コンテンツ・メタデータ送受信システムの構成)
実施の形態3によるコンテンツ・メタデータ送受信システムは、コンテンツとメタデータとの同期において、複数の特徴量を使用する点が、実施の形態1および2と異なる点である。1つのメタデータに対し1つの特徴量によってコンテンツとメタデータとの同期を判定するよりも、1つのメタデータに対して、複数の特徴量を使用することによって同期を取る方がより正確なものとなるからである。
(3. Content / Metadata Transmission / Reception System According to Embodiment 3)
(3.1. Configuration of Content / Metadata Transmission / Reception System)
The content / metadata transmission / reception system according to the third embodiment is different from the first and second embodiments in that a plurality of feature amounts are used in synchronization between content and metadata. It is more accurate to synchronize content by using multiple feature values for one metadata than to determine synchronization between content and metadata by one feature value for one metadata Because it becomes.

実施の形態3によるコンテンツ・メタデータ送受信システムの構成は実施の形態2によるコンテンツ・メタデータ送受信システムと同じであるので、図4を参照して説明する。また、手順は、図6のステップS208が異なるので、特にステップS208について重点的に説明する。   The configuration of the content / metadata transmission / reception system according to the third embodiment is the same as that of the content / metadata transmission / reception system according to the second embodiment, and will be described with reference to FIG. Further, the procedure is different from step S208 in FIG. 6, and therefore step S208 will be particularly described.

図7は、実施の形態3によるコンテンツ・メタデータ送受信システムにおいて、同期部が複数の基点の同期を判定することを説明する図である。   FIG. 7 is a diagram for explaining that the synchronization unit determines the synchronization of a plurality of base points in the content / metadata transmission / reception system according to the third embodiment.

コンテンツ配信サーバ1から配信されるコンテンツのフレームに対して、第2解析部22は、特徴量61を解析する。ここで、フレーム数を横軸に取ったが、これに代わるものとして時間軸を使用しても良い。ここで、フレーム数が増加する方向は時間の経過方向である。   The second analysis unit 22 analyzes the feature quantity 61 with respect to the frame of the content distributed from the content distribution server 1. Here, the horizontal axis represents the number of frames, but a time axis may be used as an alternative. Here, the direction in which the number of frames increases is the passage of time.

第1解析部12および第2解析部22は、フレーム数に対する特徴量の情報を少なくとも一時的に記憶する記憶部を有することが望ましい(不図示)。記憶部としては例えばバッファで構成することができる。あるいは、HDD(ハードディスクドライブ)で記憶させても良い(不図示)。   It is desirable that the first analysis unit 12 and the second analysis unit 22 include a storage unit (not shown) that stores at least temporarily information on feature amounts with respect to the number of frames. The storage unit can be constituted by a buffer, for example. Alternatively, it may be stored in an HDD (hard disk drive) (not shown).

コンテンツの送信に連れて受信するフレームは進行し、進行するフレームに対して解析されるコンテンツの特徴量が変化する。符号61は、フレーム数に対する特徴量を示すグラフである。   The received frame advances as the content is transmitted, and the feature amount of the analyzed content changes with respect to the advanced frame. Reference numeral 61 is a graph showing the feature quantity with respect to the number of frames.

受信端末20の第2解析部22は、所定のしきい値によって解析された特徴量を比較し、所定値以上である特徴量に対応するフレーム数を基点として採用する。採用された基点を基点群(2)と、ここで称する。基点群(2)における基点はここでは、図7に示されたように、P1〜P10である。符号62は、フレームに対して設定された基点群(2)を示している。基点の数が10であるのは、調べる区間内にある基点の個数の一例として挙げたものであって、10という数値に限定されるものではない。   The second analysis unit 22 of the receiving terminal 20 compares the feature amounts analyzed with a predetermined threshold value, and employs the number of frames corresponding to the feature amount that is equal to or greater than the predetermined value as a base point. The adopted base point is referred to herein as a base point group (2). Here, the base points in the base point group (2) are P1 to P10 as shown in FIG. Reference numeral 62 indicates a base point group (2) set for the frame. The number of base points is 10 as an example of the number of base points in the section to be examined, and is not limited to a numerical value of 10.

一方、メタデータ生成部11においては、第1解析部12が第2解析部22と同様に配信されるコンテンツのフレーム数に対する特徴量を解析し、しきい値処理を施して基点群(1)Q1〜Q5を取得する。符号63は、第1解析部12によって取得されたある時間における基点群(1)を示している。ここで、基点群(1)が、5個の基点から成っているのは、一例であって、その個数に限定されるものではない。   On the other hand, in the metadata generation unit 11, the first analysis unit 12 analyzes the feature quantity with respect to the number of frames of content distributed in the same manner as the second analysis unit 22, performs threshold processing, and performs the base point group (1). Q1 to Q5 are acquired. Reference numeral 63 indicates a base point group (1) at a certain time acquired by the first analysis unit 12. Here, the base point group (1) is composed of five base points, and is not limited to the number.

基点のセットである基点群(1)は、メタデータに関連づけられ、あるいは対応付けられ、あるいは付加されて、メタデータ生成部11によって送信される。同期部21は送信された基点群(1)が付加された、ないしは関連したメタデータを、受信する。   The base point group (1) that is a set of base points is associated with, associated with, or added to the metadata, and is transmitted by the metadata generation unit 11. The synchronization unit 21 receives the metadata to which the transmitted base point group (1) is added or related.

同期部21が受信した基点群(1)は、ある時間間隔で並べられた複数の基点であるので、第2解析部22によって解析されて設定された基点群(2)のいずれかの部分と合致するはずである。同期部21は、基点群(1)と、基点群(2)との同期を判定する。判定の方法は、図7を用いて説明すると、まずQ1とP1とを合わせて、以下P2とQ2〜P5とQ5が合致するか否かを判定し、各点において合致した度合いを求めて合計する。そして、合致した度合いの合計が所定のしきい値以上である場合、あるいは最高である場合、その時の合致が、基点群同士が対応するものであると判定する。   Since the base point group (1) received by the synchronization unit 21 is a plurality of base points arranged at a certain time interval, any part of the base point group (2) analyzed and set by the second analysis unit 22 Should match. The synchronization unit 21 determines synchronization between the base point group (1) and the base point group (2). The determination method will be described with reference to FIG. 7. First, Q1 and P1 are combined, and then it is determined whether or not P2, Q2-P5, and Q5 match each other, and the degree of matching at each point is calculated and summed up. To do. If the total degree of coincidence is equal to or greater than a predetermined threshold value or the highest, it is determined that the coincidence at that time corresponds to the base point groups.

(3.2.コンテンツおよびメタデータを同期させる手順)
図8は、同期部が、第1解析部および第2解析部による複数の基点を比較してコンテンツおよびメタデータの同期を判定する手順を説明するフローチャートである。図8のフローチャートは、図6に示したステップS208において、特徴量から抽出される複数の基点によって同期を判定する手順を説明するものである。
(3.2 Procedure for synchronizing content and metadata)
FIG. 8 is a flowchart illustrating a procedure in which the synchronization unit determines the synchronization of content and metadata by comparing a plurality of base points by the first analysis unit and the second analysis unit. The flowchart of FIG. 8 explains the procedure for determining synchronization based on a plurality of base points extracted from the feature amount in step S208 shown in FIG.

同期部21は、第2解析部22によって特徴量が解析され解析された特徴量がしきい値と比較されて抽出した複数の基点群(2)の基点Pi、およびメタデータ配信サーバ10から配信された第1解析部12による基点群(1)の基点Qiの合致を判定するために、先ず、i=1とおく(ステップS301)。これによって最初、P1とQ1とを合わせることになる(ステップS302)。以下P2とQ2〜P5とQ5が合致するか否かを判定する。合致しているかいないかを示す合致度を算定する関数をfとおく。fは、合致する場合は1、合致しない場合は0の値を取るものとする。即ち、f(Pi+k,Q1+k)は1または0の値を取る。   The synchronization unit 21 analyzes the feature amount by the second analysis unit 22 and distributes the base point Pi of the plurality of base point groups (2) extracted by comparing the analyzed feature amount with the threshold value and the metadata distribution server 10. In order to determine the coincidence of the base point Qi of the base point group (1) by the first analysis unit 12 that has been made, first, i = 1 is set (step S301). As a result, P1 and Q1 are first combined (step S302). Thereafter, it is determined whether P2 and Q2 to P5 and Q5 match. Let f be a function for calculating the degree of coincidence indicating whether or not they match. It is assumed that f takes a value of 1 if they match and 0 if they do not match. That is, f (Pi + k, Q1 + k) takes a value of 1 or 0.

こうして関数fによって各Pi点の合致度を求め、その合計Ciを算出する。合計値Ciが4.5以上であるか否かを判定する。4.5というしきい値は、5個のうち9割の割合で合致している場合であり、特にこの数に限定するものではない(ステップS304)。ここで、調べる区間内にある基点の総数をNとおく。ここではN=10である。   Thus, the degree of coincidence of each Pi point is obtained by the function f, and the total Ci is calculated. It is determined whether or not the total value Ci is 4.5 or more. The threshold value of 4.5 corresponds to a case where 90% of the five match, and is not particularly limited to this number (step S304). Here, N is the total number of base points in the section to be examined. Here, N = 10.

Ciが4.5以上ではない場合(ステップS304のNo)、iが上記の総数N−5よりも大きいか否かを判定し(ステップS306)、大きい場合は(ステップS305のYes)、最初からやり直す(ステップS301)。あるいはこの場合、エラーとしても良い(不図示)。iがN−5よりも大きくない場合は(ステップS305のNo)、i=i+1とおいてステップS302に戻る。ここで、Ciが4.5以上ではない場合とは、図7に示した合致しない63−1〜63−4の場合である。   If Ci is not 4.5 or more (No in step S304), it is determined whether i is larger than the above total number N-5 (step S306). If i is larger (Yes in step S305), from the beginning. Start over (step S301). In this case, an error may be used (not shown). If i is not larger than N−5 (No in step S305), i = i + 1 is set, and the process returns to step S302. Here, the case where Ci is not 4.5 or more is the case of 63-1 to 63-4 which do not match shown in FIG.

一方、Ciが4.5以上であると判定された場合(ステップS304のYes)、その時のiによって定まるPiがQ1と合致し、以下Pi+2とQ2〜Pi+5とQ5が合致すると判定される(ステップS305)。こうしてメタデータに付加された基点群(1)は、同期部21において設定されたコンテンツの基点分(2)と、符号63−4で示されたフレーム軸上において合致する。   On the other hand, if it is determined that Ci is 4.5 or more (Yes in step S304), it is determined that Pi determined by i at that time matches Q1, and that Pi + 2, Q2-Pi + 5, and Q5 match thereafter (step). S305). The base point group (1) thus added to the metadata matches the content base point (2) set in the synchronization unit 21 on the frame axis indicated by reference numeral 63-4.

ここで、Ci≧4.5ではなく、Ciが最大値を取るiを求める方法でも良い。   Here, instead of Ci ≧ 4.5, a method of obtaining i where Ci has the maximum value may be used.

なお、メタデータは基点群(1)からのオフセットとして特定できる。また、基点群を複数設定した場合、複数の基点群を基準にしてメタデータを位置決めすることができてメタデータをフレーム軸上、あるいは時間軸上で特定できる。この場合、メタデータは前後の基点群からのマイナスのオフセットおよびプラスのオフセットとして位置づけてもよい。このようにマイナスのオフセットおよびプラスのオフセットによってメタデータを特定することによって、同期部21は、過去に遡ってメタデータを特定することができる。そのために、既述のように第2解析部22はバッファを備えていて、一定時間の過去の受信したコンテンツおよびコンテンツから抽出された基点情報を、一時記憶しておくものである。   The metadata can be specified as an offset from the base point group (1). Further, when a plurality of base point groups are set, the metadata can be positioned with reference to the plurality of base point groups, and the metadata can be specified on the frame axis or the time axis. In this case, the metadata may be positioned as a negative offset and a positive offset from the front and rear base points. Thus, by specifying metadata with a negative offset and a positive offset, the synchronization unit 21 can specify the metadata retroactively. For this purpose, as described above, the second analysis unit 22 includes a buffer, and temporarily stores content received in the past for a certain period of time and base point information extracted from the content.

(3.3.効果)
コンテンツにおける特徴点が所定値よりも高い、あるいは特徴点が最大となる複数の基点群を抽出して、コンテンツおよびメタデータを同期させることにより、より正確に同期を取り、コンテンツおよびメタデータを対応付けることができる。また、基点を基準にしてマイナスのオフセットおよびプラスのオフセットによってメタデータを特定することによって、コンテンツに対して、過去に遡ってメタデータを特定し、迅速に対応付けることができ、受信するメタデータの無駄を排することができる。
(3.3. Effect)
Synchronize content and metadata more accurately by extracting a plurality of base points that have feature points higher than a predetermined value or the maximum feature points in the content, and associate the content and metadata with each other be able to. In addition, by specifying metadata with a negative offset and a positive offset with respect to the base point, it is possible to identify the metadata retrospectively and associate it quickly with the content. Waste can be eliminated.

(4.実施例)
(4.1.実施例1)
図9は、コンテンツ・メタデータ送受信システムの実施例1を説明する図である。実施例1によるコンテンツ・メタデータ送受信システムは、プロ野球の映像に対するメタデータを、ホームサーバに配信するシステムである。実施例1では球場91から、直接映像コンテンツ92が配信され、メタデータ生成システムシステム93が受信する。
(4. Example)
(4.1. Example 1)
FIG. 9 is a diagram for explaining the first embodiment of the content / metadata transmission / reception system. The content / metadata transmission / reception system according to the first embodiment is a system that distributes metadata for professional baseball video to a home server. In the first embodiment, the video content 92 is directly distributed from the stadium 91 and received by the metadata generation system system 93.

メタデータ生成システム93においては第1解析部(不図示)が、既述の実施の形態による方式によって、コンテンツ内容を解析し、時刻合わせの基点を抽出する。それと共に、メタデータ生成部(不図示)が、プロ野球の映像上で発生した事象についてのメタデータを生成していく。その際、時刻情報として、抽出された時刻合わせの基点からのオフセット値を、メタデータ94に記述していく。図中<time>18:10−18:11+900</>が基点からのオフセット情報である。作成したメタデータ94は、インターネット95などを通して受信端末であるホームサーバ(96,97)に配信される。   In the metadata generation system 93, a first analysis unit (not shown) analyzes content contents by the method according to the above-described embodiment, and extracts a base point for time adjustment. At the same time, a metadata generation unit (not shown) generates metadata about an event that has occurred on a professional baseball video. At this time, an offset value from the extracted time adjustment base point is described in the metadata 94 as time information. In the figure, <time> 18: 10-18: 11 + 900 </> is offset information from the base point. The created metadata 94 is distributed to the home server (96, 97) which is a receiving terminal through the Internet 95 or the like.

ホームサーバ(96,97)では、放送衛星98を介する衛星放送によりプロ野球の映像を受信する。ホームサーバ(96,97)は、受信したプロ野球映像と、メタデータを利用して、ホームサーバ(96,97)上で映像とメタデータの関連付けを施す。この関連付けを基にして利用者の嗜好を反映して、例えば「松井の打席シーン」のみをホームサーバ(96,97)に蓄積したり、得点シーンのみを集めてホームサーバ(96,97)に蓄積したりできるので、個人的嗜好に基づいた映像の録画および加工が可能となる。   The home server (96, 97) receives professional baseball video by satellite broadcasting via the broadcasting satellite 98. The home server (96, 97) uses the received professional baseball video and metadata to associate video and metadata on the home server (96, 97). Based on this association, reflecting the user's preference, for example, only “Matsui's batting scene” is stored in the home server (96, 97), or only the scoring scenes are collected and stored in the home server (96, 97). Video can be recorded and processed based on personal preferences.

ここで受信端末であるホームサーバは、DVD(Digital Versatile Disc)録画機で構成することができる。実施の形態によるコンテンツおよびメタデータの関連づけを適用して、個人的嗜好に基づいた映像を選択して、DVDに録画することができる。   Here, the home server which is a receiving terminal can be constituted by a DVD (Digital Versatile Disc) recorder. By applying the association between content and metadata according to the embodiment, video based on personal preference can be selected and recorded on a DVD.

また、ここで受信端末であるホームサーバは、HDD(Hard Disc Drive)録画機で構成することができる。実施の形態によるコンテンツおよびメタデータの関連づけを適用して、個人的嗜好に基づいた映像を選択して、HDDに録画することができる。   In addition, the home server which is a receiving terminal here can be configured by an HDD (Hard Disc Drive) recorder. By applying the association between content and metadata according to the embodiment, a video based on personal preference can be selected and recorded on the HDD.

また、ここでホームサーバの代わりに受信端末を、携帯型電話機で構成することができる。実施の形態によるコンテンツおよびメタデータの関連づけを適用して、個人的嗜好に基づいた映像を選択して、携帯型電話機で視聴、あるいは録画することができる。   Here, instead of the home server, the receiving terminal can be constituted by a mobile phone. By applying the association between content and metadata according to the embodiment, a video based on personal preference can be selected and viewed or recorded on a mobile phone.

(4.2.実施例2)
図10は、実施例2によるコンテンツ・メタデータ送受信システムにおいて、動画コンテンツに含まれる無音部を基点として、コンテンツとメタデータとを対応付けることを説明する図である。実施例2によるコンテンツ・メタデータ送受信システムにおいては、コンテンツ配信サーバから送信される動画コンテンツの特徴量として無音部を利用して、時刻合わせの基点を生成する。動画の特徴量を解析するメタデータ配信サーバ10の第1解析部12、および受信端末20の第2解析部22は、動画コンテンツ(101,102)に含まれる無音部を検出する。
(4.2. Example 2)
FIG. 10 is a diagram for explaining the association between content and metadata based on the silent part included in the moving image content in the content / metadata transmission / reception system according to the second embodiment. In the content / metadata transmission / reception system according to the second embodiment, a silent time point is used as the feature amount of the moving image content transmitted from the content distribution server to generate a time adjustment base point. The first analysis unit 12 of the metadata distribution server 10 that analyzes the feature amount of the moving image and the second analysis unit 22 of the receiving terminal 20 detect a silent portion included in the moving image content (101, 102).

第1解析部12は、動画コンテンツ101無音部の検出を一定の範囲内において行い、その結果、複数の無音部位置(101−1,101−2,101−3)を検出する。ここでは無音部(101−1,101−2,101−3)に対応するフレームを基点とする。なお、複数の無音部の組み合わせのうち、どの部分を実際の時刻合わせの基点として設定するかは、実装に依存する。例えば実施例2においては、受信端末20の同期部21がメタデータ生成部11から受信する最初の無音部のフレームを時刻合わせの基点とする。   The first analysis unit 12 detects the silent part of the moving image content 101 within a certain range, and as a result, detects a plurality of silent part positions (101-1, 101-2, 101-3). Here, the frame corresponding to the silent part (101-1, 101-2, 101-3) is set as a base point. Note that which part of the plurality of silent part combinations is set as the actual time adjustment base point depends on the implementation. For example, in the second embodiment, the first silent frame received by the synchronization unit 21 of the receiving terminal 20 from the metadata generation unit 11 is set as a time adjustment base point.

受信端末20の第2解析部22が、コンテンツ配信サーバ1から受信した動画コンテンツ102上の無音区間(102−1,102−2,102−3)を特徴量として抽出する。そして、同期部21は、メタデータ配信サーバ10のメタデータ生成部11から配信される無音部(101−1,101−2,101−3)の組み合わせ情報と、抽出した無音部(102−1,102−2,102−3)の組合せとを比較して、同じ無音部位置を検出して同期させる。   The 2nd analysis part 22 of the receiving terminal 20 extracts the silence area (102-1, 102-2, 102-3) on the moving image content 102 received from the content delivery server 1 as a feature-value. Then, the synchronization unit 21 combines the silence information (101-1, 101-2, 101-3) delivered from the metadata generation unit 11 of the metadata delivery server 10 and the extracted silence part (102-1). , 102-2, and 102-3), the same silent portion position is detected and synchronized.

同期部21が、無音部位置の同期を判定することによって、動画フレームの基点とメタデータを既述する基点との対応が求まり、対応付けられた無音部による基点からオフセット値で特定されるメタデータの時刻合わせが可能となる。   When the synchronization unit 21 determines the synchronization of the silent part position, the correspondence between the base point of the moving image frame and the base point describing the metadata is obtained, and the meta specified by the offset value from the base point by the associated silent part. Data time can be adjusted.

(4.3.実施例3)
図11は、実施例3によるコンテンツ・メタデータ送受信システムにおいて、受信端末が、送信されるコンテンツを途中から受信開始した場合のコンテンツおよびメタデータの対応付けを説明する図である。実施例3では、受信端末20は、コンテンツ配信サーバ1から送信されるコンテンツを、途中から受信開始した場合でも時刻合わせを行うことができる。
(4.3. Example 3)
FIG. 11 is a diagram for explaining the association between content and metadata when the receiving terminal starts receiving the transmitted content halfway in the content / metadata transmission / reception system according to the third embodiment. In the third embodiment, the receiving terminal 20 can perform time adjustment even when reception of the content transmitted from the content distribution server 1 is started halfway.

メタデータ配信サーバ10のメタデータ生成部11は、時刻合わせのための基点情報(111−1,111−2、111−3)を周期的に生成して送信する。受信端末20において、途中からコンテンツの受信を開始した場合、送信されてきて最初に受信して解析した基点を時刻合わせ情報(111−3)として利用する。   The metadata generation unit 11 of the metadata distribution server 10 periodically generates and transmits base point information (111-1, 111-2, 111-3) for time adjustment. In the receiving terminal 20, when the reception of the content is started in the middle, the base point that has been transmitted and received and analyzed first is used as the time adjustment information (111-3).

送信された時刻合わせの最初の基点(115−1)が検出された場合、時刻合わせの基点(115−1)よりも早く送信されたメタデータに関しては、直後の時刻合わせのマイナスのオフセット116として時刻が指定されているため、時刻合わせの基点を受信する前のメタデータ情報を特定できるので、受信する基点情報を無駄にすることを避けることができる。   When the first base point (115-1) of the transmitted time adjustment is detected, the metadata transmitted earlier than the base point (115-1) of the time adjustment is used as a negative offset 116 of the immediately subsequent time adjustment. Since the time is specified, the metadata information before receiving the time adjustment base point can be specified, so that it is possible to avoid wasting the base point information received.

このためには、受信端末20は、送信されるコンテンツを受信して少なくとも一時的に記憶する記憶部(不図示)を備えることによって、マイナスのオフセットで特定されるメタデータをコンテンツに対応付けることができる。   For this purpose, the receiving terminal 20 includes a storage unit (not shown) that receives and at least temporarily stores the content to be transmitted, thereby associating the metadata specified by the minus offset with the content. it can.

こうして、実施例3においては、最初に受信する基点情報から過去に遡ったマイナスのオフセット値によってメタデータをコンテンツに対応付けるので、受信するメタデータを無駄にすることを避けることができ、効率的にコンテンツおよびメタデータの対応を行うことができる。   In this way, in the third embodiment, the metadata is associated with the content by the negative offset value traced back to the past from the base information received first, so that it is possible to avoid wasting the received metadata efficiently and efficiently. Content and metadata can be handled.

(5.ハードウェア構成および記録媒体)
図12は、実施の形態によるコンテンツ・メタデータ送受信システムにおけるコンテンツ配信サーバ、メタデータ配信サーバ、および受信端末のハードウェア構成例を示す図である。上述したコンテンツ配信サーバ、メタデータ配信サーバ、および受信端末はそれぞれ、あらかじめ用意されたプログラムをパーソナルコンピュータ、ワークステーション、あるいはマイクロコンピュータなどのコンピュータシステムで実行することによって実現できる。コンピュータ200は、CPU(Central Processing Unit)201によって装置全体が制御されている。CPU201には、バス207を介してROM(Read Only Memory)202、RAM(Random Access Memory)203、ハードディスクドライブ(HDD:Hard Disk Drive)204、グラフィック処理装置205、入力インタフェース206、および通信装置208が接続されている。ROM202、およびRAM203には、CPU201に実行させるOS(Operating System)のプログラムやアプリケーションプログラムの少なくとも一部が格納される。またRAM203には、CPU201による処理に必要な各種データが格納される。HDD204には、OS、各種ドライバプログラム、アプリケーションプログラム、検出されたデータなどが格納される。
(5. Hardware configuration and recording medium)
FIG. 12 is a diagram illustrating a hardware configuration example of a content distribution server, a metadata distribution server, and a receiving terminal in the content / metadata transmission / reception system according to the embodiment. Each of the content distribution server, metadata distribution server, and receiving terminal described above can be realized by executing a program prepared in advance on a computer system such as a personal computer, a workstation, or a microcomputer. The computer 200 is entirely controlled by a CPU (Central Processing Unit) 201. The CPU 201 includes a ROM (Read Only Memory) 202, a RAM (Random Access Memory) 203, a hard disk drive (HDD: Hard Disk Drive) 204, a graphic processing device 205, an input interface 206, and a communication device 208 via a bus 207. It is connected. The ROM 202 and the RAM 203 store at least a part of an OS (Operating System) program and application programs to be executed by the CPU 201. The RAM 203 stores various data necessary for processing by the CPU 201. The HDD 204 stores an OS, various driver programs, application programs, detected data, and the like.

グラフィック処理装置205には、モニタ211が接続されている。グラフィック処理装置205は、CPU201からの命令に従って、画像をモニタ211の画面に表示させる。入力インタフェース206には、キーボード212とマウス213とが接続されている。入力インタフェース206は、キーボード212やマウス213から送られてくる信号を、バス207を介してCPU201に送信する。   A monitor 211 is connected to the graphic processing device 205. The graphic processing device 205 displays an image on the screen of the monitor 211 in accordance with a command from the CPU 201. A keyboard 212 and a mouse 213 are connected to the input interface 206. The input interface 206 transmits signals sent from the keyboard 212 and the mouse 213 to the CPU 201 via the bus 207.

以上のようなハードウェア構成によって、本実施の形態の処理機能を実現することができる。本実施の形態をコンピュータ200上で実現するには、コンピュータ200にドライバプログラムを実装する。   With the hardware configuration as described above, the processing functions of the present embodiment can be realized. In order to implement the present embodiment on the computer 200, a driver program is mounted on the computer 200.

尚、本実施の形態のコンテンツ配信サーバ、メタデータ配信サーバ、および受信端末で実行されるコンテンツ・メタデータ送受信プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フロッピー(R)ディスク、DVD等のコンピュータで読み取り可能な記録媒体に記録されて提供される。   The content / metadata transmission / reception program executed by the content distribution server, the metadata distribution server, and the receiving terminal of the present embodiment is an installable format or executable format file, such as a CD-ROM, floppy (R). ) It is provided by being recorded on a computer-readable recording medium such as a disk or DVD.

また、本実施形態のコンテンツ・メタデータ送受信プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供および配布するように構成しても良い。   Further, the content / metadata transmission / reception program of the present embodiment may be provided and distributed by storing it on a computer connected to a network such as the Internet and downloading it via the network.

以上のように、本発明にかかるコンテンツ・メタデータ送受信システム、コンテンツ・メタデータ同期方法、その方法をコンピュータに実行させるプログラム、並びに受信端末は、コンテンツおよびメタデータを受信して対応付ける映像受信技術に有用であり、特に、コンテンツおよびメタデータを受信して対応付けるホームサーバ、DVD録画機、および携帯電話などの映像受信端末に有用である。 As described above, content metadata transmission and reception system according to the present invention, the content metadata synchronization method, a program for executing the method on a computer, receiving terminal as well, the video reception associating to receive content and metadata It is useful for technology, and particularly useful for video receiving terminals such as home servers, DVD recorders, and mobile phones that receive and associate content and metadata.

実施の形態1によるコンテンツ・メタデータ送受信システムの機能的ブロック図である。1 is a functional block diagram of a content / metadata transmission / reception system according to Embodiment 1. FIG. 実施の形態1によるコンテンツ・メタデータ送受信システムにおけるコンテンツとメタデータの対応付け動作を説明する図である。FIG. 6 is a diagram for explaining an association operation between content and metadata in the content / metadata transmission / reception system according to the first embodiment. コンテンツおよびメタデータの対応付け手順を説明するフローチャートである。It is a flowchart explaining the matching procedure of a content and metadata. 実施の形態2によるコンテンツ・メタデータ送受信システムの機能的ブロック図である。6 is a functional block diagram of a content / metadata transmission / reception system according to a second embodiment. FIG. メタデータ生成部によるメタデータの生成を説明する図である。It is a figure explaining the production | generation of the metadata by a metadata production | generation part. 実施の形態2によるコンテンツおよびメタデータの対応付け手順を説明するフローチャートである。10 is a flowchart illustrating a procedure for associating content and metadata according to the second embodiment. 実施の形態3によるコンテンツ・メタデータ送受信システムにおいて、同期部が複数の基点の同期を判定することを説明する図である。FIG. 10 is a diagram illustrating that a synchronization unit determines synchronization of a plurality of base points in a content / metadata transmission / reception system according to a third embodiment. 同期部が、第1解析部および第2解析部による複数の基点を比較してコンテンツおよびメタデータの同期を判定する手順を説明するフローチャートである。It is a flowchart explaining the procedure in which a synchronization part determines the synchronization of a content and metadata by comparing the several base points by a 1st analysis part and a 2nd analysis part. コンテンツ・メタデータ送受信システムの実施例1を説明する図である。It is a figure explaining Example 1 of a content metadata transmission / reception system. 実施例2によるコンテンツ・メタデータ送受信システムにおいて、動画コンテンツに含まれる無音部を基点として、コンテンツとメタデータとを対応付けることを説明する図である。In the content / metadata transmission / reception system according to the second embodiment, the content and metadata are associated with each other based on the silent portion included in the moving image content. 実施例3によるコンテンツ・メタデータ送受信システムにおいて、受信端末が、送信されるコンテンツを途中から受信開始した場合のコンテンツおよびメタデータの対応付けを説明する図である。In the content / metadata transmission / reception system according to the third embodiment, it is a diagram for explaining the association between content and metadata when a receiving terminal starts receiving content to be transmitted halfway. 実施の形態によるコンテンツ・メタデータ送受信システムにおけるコンテンツ配信サーバ、メタデータ配信サーバ、および受信端末のハードウェア構成例を示す図である。It is a figure which shows the hardware structural example of the content delivery server in the content metadata transmission / reception system by embodiment, a metadata delivery server, and a receiving terminal.

1 コンテンツ配信サーバ
2、95 ネットワーク
10 メタデータ配信サーバ
11 メタデータ生成部
12 第1解析部12
20 受信端末
21 同期部
22 第2解析部
96,97 ホームサーバ
DESCRIPTION OF SYMBOLS 1 Content delivery server 2, 95 Network 10 Metadata delivery server 11 Metadata production | generation part 12 1st analysis part 12
20 receiving terminal 21 synchronizing unit 22 second analyzing unit 96, 97 home server

Claims (21)

映像および音声を含むコンテンツを配信するコンテンツ配信サーバと、
前記コンテンツ配信サーバが配信する前記コンテンツを受信して前記コンテンツに関するメタデータを生成して配信するメタデータ生成手段を有するメタデータ配信サーバと、
前記コンテンツ配信サーバが配信する前記コンテンツおよび前記メタデータ配信サーバが配信する前記メタデータを受信し、前記コンテンツと前記メタデータとを対応付ける同期手段を有する受信端末と、を備え、
前記メタデータ配信サーバは、受信する前記コンテンツの特徴を表す特徴量を解析する第1の解析手段を、さらに備え、
前記メタデータ生成手段は、前記第1の解析手段が解析した前記コンテンツの特徴量を前記メタデータに対応づけて配信し、
前記受信端末は、前記コンテンツの特徴を表す特徴量を解析する第2の解析手段を、さらに備え、
前記同期手段は、前記メタデータ生成手段が配信する前記第1の解析手段による特徴量の情報を受信し、受信した前記情報における前記第1の解析手段による特徴量と前記第2の解析手段による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものである
ことを特徴とするコンテンツ・メタデータ送受信システム。
A content distribution server for distributing content including video and audio;
A metadata distribution server having metadata generation means for receiving the content distributed by the content distribution server and generating and distributing metadata related to the content;
A receiving terminal having synchronization means for receiving the content distributed by the content distribution server and the metadata distributed by the metadata distribution server and associating the content with the metadata;
The metadata distribution server further includes a first analysis unit that analyzes a feature amount representing a feature of the content to be received,
The metadata generation unit distributes the feature amount of the content analyzed by the first analysis unit in association with the metadata,
The receiving terminal further comprises second analysis means for analyzing a feature amount representing the feature of the content,
The synchronization unit receives the feature amount information by the first analysis unit distributed by the metadata generation unit, and the feature amount by the first analysis unit in the received information and the second analysis unit The content / metadata transmission / reception system , wherein the content and the metadata are associated with each other based on a feature amount .
前記メタデータ生成手段は、前記第1の解析手段によって解析された前記特徴量の情報を前記メタデータに付加して配信するものであり、
前記同期手段は、前記メタデータ生成手段が送信する前記メタデータに付加された前記特徴量の情報を受信し、受信した前記メタデータに付加された特徴量の情報と前記第2の解析手段による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項に記載のコンテンツ・メタデータ送受信システム。
The metadata generation means adds the feature amount information analyzed by the first analysis means to the metadata and distributes it.
The synchronization unit receives the feature amount information added to the metadata transmitted by the metadata generation unit, and the feature amount information added to the received metadata and the second analysis unit content metadata transmission and reception system according to claim 1, characterized in that on the basis of the feature quantity is intended for associating the said and the content metadata.
前記メタデータ配信サーバの前記第1の解析手段は、前記第1の解析手段による前記特徴量を所定のしきい値と比較し前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をメタデータの基点に設定し、
前記メタデータ生成手段は、前記第1の解析手段によって設定されたメタデータの基点から前後のオフセット値によって前記メタデータの時刻情報を記述して送信し、
前記情報端末の前記第2の解析手段は、前記第2の解析手段による前記特徴量を所定のしきい値と比較して前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をコンテンツの基点に設定し、
前記同期手段は、受信する前記第1の解析手段による前記メタデータの基点と前記第2の解析手段による前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項またはに記載のコンテンツ・メタデータ送受信システム。
When the first analysis unit of the metadata distribution server compares the feature amount by the first analysis unit with a predetermined threshold value and determines that the feature amount is equal to or greater than the threshold value, Set the content part corresponding to the feature amount as the base point of the metadata,
The metadata generation means describes and transmits time information of the metadata by offset values before and after the metadata base point set by the first analysis means,
When the second analysis unit of the information terminal compares the feature amount by the second analysis unit with a predetermined threshold value and determines that the feature amount is equal to or greater than the threshold value, Set the content part corresponding to the amount as the base point of the content,
The synchronization means, based on the base point of the metadata by the first analysis means and the base point of the content by the second analysis means, receives the content and the metadata by the front and back offset values. 3. The content / metadata transmission / reception system according to claim 1 , wherein the content / metadata transmission / reception system is associated with each other.
前記第1の解析手段は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記メタデータの基点を設定して配信し、
前記第2の解析手段は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記コンテンツの基点を設定し、
前記同期手段は、受信する前記第1の解析手段が設定した前記メタデータの基点と前記第2の解析手段が設定した前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項に記載のコンテンツ・メタデータ送受信システム。
The first analysis means may include one or more feature values among color features, cut points at which scenes are switched, frame matching, silence intervals, audio power, audio spectrum, and image prints as the feature values to be analyzed. Calculating, distributing the metadata based on the calculated one or more feature values,
The second analysis means analyzes one or more feature values of a color feature, a cut point at which a scene changes, a frame matching, a silent section, an audio power, an audio spectrum, and a picture pattern as the feature values to be analyzed. Calculating a base point of the content according to the calculated one or more feature quantities;
The synchronization means, based on the base point of the metadata set by the first analysis means and the base point of the content set by the second analysis means, receives the content and the content by the front and back offset values. 4. The content / metadata transmission / reception system according to claim 3 , wherein the content / metadata transmission / reception system is associated with metadata.
前記第1の解析手段は、前記メタデータの基点を複数個設定し、
前記第2の解析手段は、前記コンテンツの基点を複数個設定し、
前記同期手段は、設定された前記メタデータの複数個の基点および前記コンテンツの複数個の基点に基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項またはに記載のコンテンツ・メタデータ送受信システム。
The first analysis means sets a plurality of base points of the metadata,
The second analysis means sets a plurality of base points of the content,
The synchronization unit is configured to associate the content with the metadata by the offset values before and after based on a plurality of base points of the set metadata and a plurality of base points of the content. The content / metadata transmission / reception system according to claim 3 or 4 .
前記第1の解析手段は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記メタデータの基点に設定し、
前記第2の解析手段は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記コンテンツの基点に設定するものであることを特徴とする請求項またはに記載のコンテンツ・メタデータ送受信システム。
The first analysis unit sets a break point at which the scene of the content is switched as a feature amount as a base point of the metadata,
The content / metadata transmission / reception system according to claim 3 or 5 , wherein the second analysis unit sets a break point at which the scene of the content is switched as a feature amount as a base point of the content.
前記メタデータ生成手段は、前記メタデータの時刻情報を、前記メタデータの直前の基点までの過去に遡るオフセットおよび直後の基点へのオフセット値情報として、前記メタデータに付加して配信し、
前記情報端末の前記同期手段は、前記第2の解析手段によって設定される基点と前記メタデータに付加された前記オフセット値情報により特定される時刻情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項のいずれか1つに記載のコンテンツ・メタデータ送受信システム。
The metadata generation means distributes the metadata time information as an offset retroactive to the base point immediately before the metadata and offset value information to the base point immediately after the metadata, and distributes the metadata.
The synchronization unit of the information terminal is configured to determine the content, the metadata, and the metadata based on a base point set by the second analysis unit and time information specified by the offset value information added to the metadata. content metadata transmission and reception system according to any one of claims 3 to 6, characterized in that associating.
前記第1の解析手段は、前記メタデータの基点を所定の時間で周期的に設定し、
前記第2の解析手段は、前記コンテンツの基点を所定の時間で周期的に設定し、
前記同期手段は、前記第1の解析手段が設定した前記メタデータの周期的な基点と前記第2の解析手段が設定した前記コンテンツの周期的な基点とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項のいずれか1つに記載のコンテンツ・メタデータ送受信システム。
The first analysis means periodically sets a base point of the metadata at a predetermined time,
The second analysis unit periodically sets a base point of the content at a predetermined time,
The synchronization unit is configured to determine the content and the metadata based on a periodic base point of the metadata set by the first analysis unit and a periodic base point of the content set by the second analysis unit. The content / metadata transmission / reception system according to any one of claims 3 to 7 , wherein
映像および音声を含むコンテンツを配信するコンテンツ配信工程と、
前記コンテンツ配信工程において配信された前記コンテンツに関するメタデータを生成して配信するメタデータ生成工程と、
前記コンテンツ配信工程において配信された前記コンテンツと前記メタデータ生成工程において配信されたメタデータとを受信し、受信した前記コンテンツと前記メタデータとを対応付ける同期工程と、を含み、
受信する前記コンテンツの特徴を表す特徴量を解析する第1の解析工程を、さらに含み、
前記メタデータ生成工程は、前記第1の解析工程において解析された前記コンテンツの特徴量を前記メタデータに対応付けて配信し、
受信する前記コンテンツの特徴を表す特徴量を解析する第2の解析工程を、さらに含み、
前記同期工程は、前記メタデータ生成工程において配信される前記メタデータに対応付けられた前記第1の解析工程による前記コンテンツの特徴量の情報を受信し、受信した前記情報における前記第1の解析工程による特徴量の情報と前記第2の解析工程による特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものである
ことを特徴とするコンテンツ・メタデータ同期方法。
A content distribution process for distributing content including video and audio;
A metadata generation step of generating and distributing metadata related to the content distributed in the content distribution step;
Receiving the content distributed in the content distribution step and the metadata distributed in the metadata generation step, and associating the received content with the metadata,
A first analysis step of analyzing a feature amount representing the feature of the content to be received;
The metadata generation step distributes the feature amount of the content analyzed in the first analysis step in association with the metadata,
A second analysis step of analyzing a feature amount representing the feature of the content to be received;
The synchronization step receives the feature amount information of the content by the first analysis step associated with the metadata distributed in the metadata generation step, and the first analysis in the received information The content / metadata synchronization method , wherein the content and the metadata are associated with each other on the basis of the feature amount information by the step and the feature amount by the second analysis step .
前記メタデータ生成工程は、前記第1の解析工程において解析された前記特徴量の情報を前記メタデータに付加して配信するものであり、
前記同期工程は、前記メタデータ生成工程において送信される前記メタデータに付加された前記第1の解析工程による前記特徴量の情報を受信し、受信した前記メタデータに付加された特徴量の情報と前記第2の解析工程において解析された特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項に記載のコンテンツ・メタデータ同期方法。
In the metadata generation step, the feature amount information analyzed in the first analysis step is added to the metadata and distributed.
The synchronization step receives the feature amount information from the first analysis step added to the metadata transmitted in the metadata generation step, and the feature amount information added to the received metadata The content / metadata synchronization method according to claim 9 , wherein the content and the metadata are associated with each other based on the feature amount analyzed in the second analysis step.
前記第1の解析工程は、前記第1の解析工程による前記特徴量を所定のしきい値と比較し前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をメタデータの基点とし、
前記メタデータ生成工程は、前記第1の解析工程において設定されたメタデータの基点から前後のオフセット値で前記メタデータの時刻情報を記述して送信するものであり、
前記第2の解析工程は、前記第2の解析工程による前記特徴量を所定のしきい値と比較して前記特徴量が前記しきい値以上であると判定した場合、前記特徴量に対応する前記コンテンツの部分をコンテンツの基点とし、
前記同期工程は、受信する前記第1の解析工程による前記メタデータの基点と前記第2の解析工程による前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項または1に記載のコンテンツ・メタデータ同期方法。
In the first analysis step, when the feature amount obtained in the first analysis step is compared with a predetermined threshold value and it is determined that the feature amount is equal to or greater than the threshold value, the first analysis step corresponds to the feature amount. The content part is the base point of the metadata,
In the metadata generation step, the time information of the metadata is described and transmitted by offset values before and after the metadata base point set in the first analysis step,
The second analysis step corresponds to the feature amount when the feature amount in the second analysis step is compared with a predetermined threshold value and the feature amount is determined to be greater than or equal to the threshold value. Using the content part as the base point of the content,
In the synchronization step, the content and the metadata are obtained by the offset values before and after based on the base point of the metadata by the first analysis step to be received and the base point of the content by the second analysis step. content metadata synchronization method according to claim 9 or 1 0, characterized in that associating.
前記第1の解析工程は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記メタデータの基点を設定して配信し、
前記第2の解析工程は、解析する前記特徴量として、色特徴、シーンが切り替わるカット点、フレームのマッチング、無音区間、音声パワー、音声スペクトル、および画紋のうちの1つ以上の特徴量を算出し、算出された前記1つ以上の特徴量によって前記コンテンツの基点を設定し、
前記同期工程は、受信する前記第1の解析工程が設定した前記メタデータの基点と前記第2の解析工程が設定した前記コンテンツの基点とに基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項1に記載のコンテンツ・メタデータ同期方法。
In the first analysis step, as the feature quantity to be analyzed, one or more feature quantities of a color feature, a cut point at which a scene changes, a frame matching, a silent section, an audio power, an audio spectrum, and a picture pattern are included. Calculating, distributing the metadata based on the calculated one or more feature values,
In the second analysis step, as the feature quantity to be analyzed, one or more feature quantities of a color feature, a cut point at which a scene changes, a frame matching, a silent section, an audio power, an audio spectrum, and a picture pattern are included. Calculating a base point of the content according to the calculated one or more feature quantities;
In the synchronization step, based on the base point of the metadata set by the first analysis step to be received and the base point of the content set by the second analysis step, the content and the content by the offset value before and after content metadata synchronization method of claim 1 1, characterized in that associating the metadata.
前記第1の解析工程は、前記メタデータの基点を複数個設定し、
前記第2の解析工程は、前記コンテンツの基点を複数個設定し、
前記同期工程は、設定された前記メタデータの複数個の基点および前記コンテンツの複数個の基点に基づいて、前記前後のオフセット値により前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項1または1に記載のコンテンツ・メタデータ同期方法。
The first analysis step sets a plurality of base points of the metadata,
The second analysis step sets a plurality of base points of the content,
In the synchronization step, the content and the metadata are associated with each other by the front and back offset values based on the set base points of the metadata and the base points of the content. content metadata synchronization method of claim 1 1 or 1 2.
前記第1の解析工程は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記メタデータの基点に設定し、
前記第2の解析工程は、前記コンテンツのシーンの切り替わる区切りを特徴量として前記コンテンツの基点に設定するものであることを特徴とする請求項1または1に記載のコンテンツ・メタデータ同期方法。
In the first analysis step, a break point at which the scene of the content is switched is set as a feature amount as a base point of the metadata,
The second analysis step, content metadata synchronization method of claim 1 1 or 1 3, characterized in that for setting the base point of the content delimiter of the switching of the scene of the content as a feature quantity .
前記メタデータ生成工程は、前記メタデータの時刻情報を、前記メタデータの直前の基点までの過去に遡るオフセットおよび直後の基点へのオフセット値情報として、前記メタデータに付加して配信し、
前記同期工程は、前記第2の解析工程において設定される基点と前記メタデータに付加された前記オフセット値情報により特定される時刻情報とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項1〜1のいずれか1つに記載のコンテンツ・メタデータ同期方法。
In the metadata generation step, the time information of the metadata is added to the metadata and delivered as an offset retroactive to the past to the base point immediately before the metadata and offset value information to the base point immediately after the metadata,
The synchronization step associates the content with the metadata based on the base point set in the second analysis step and the time information specified by the offset value information added to the metadata. content metadata synchronization method according to any one of claims 1 1 to 1 4, characterized in that.
前記第1の解析工程は、前記メタデータの基点を所定の時間で周期的に設定し、
前記第2の解析工程は、前記コンテンツの基点を所定の時間で周期的に設定し、
前記同期工程は、前記第1の解析工程が設定した前記メタデータの周期的な基点と前記第2の解析工程が設定した前記コンテンツの周期的な基点とに基づいて、前記コンテンツと前記メタデータとを対応付けるものであることを特徴とする請求項1〜1のいずれか1つに記載のコンテンツ・メタデータ同期方法。
The first analysis step periodically sets a base point of the metadata at a predetermined time,
The second analysis step periodically sets a base point of the content at a predetermined time,
The synchronization step is based on the periodic base point of the metadata set by the first analysis step and the periodic base point of the content set by the second analysis step. The content metadata synchronization method according to any one of claims 1 to 15 , wherein the content metadata synchronization method is characterized in that
請求項16のいずれか1つに記載のコンテンツ・メタデータ同期方法をコンピュータに実行させることを特徴とするプログラム。 A program for causing a computer to execute the content metadata synchronization method according to any one of claims 9 to 16 . コンテンツ配信サーバから配信される映像および音声を含むコンテンツと、メタデータ配信サーバによって前記コンテンツを基に生成されたメタデータとを受信し、受信した前記コンテンツおよび前記メタデータを対応付ける同期手段を有する同期装置を備え、
前記メタデータ配信サーバにより前記コンテンツの特徴を表す特徴量が解析され、解析された前記コンテンツの特徴量が前記メタデータに対応づけて配信される場合、
前記同期装置は、前記コンテンツ配信サーバから受信する前記コンテンツの特徴量を解析する解析手段をさらに有し、
前記同期手段が、前記メタデータ配信サーバから前記メタデータに対応づけて配信される前記コンテンツの特徴量を受信し、前記メタデータ配信サーバによる前記メタデータに対応づけられた前記コンテンツの特徴量と、前記解析手段によって解析された前記コンテンツの特徴量とに基づいて、前記コンテンツと前記メタデータとを対応付けるものである
ことを特徴とする信端末。
Synchronization having synchronization means for receiving content including video and audio distributed from the content distribution server and metadata generated based on the content by the metadata distribution server and associating the received content and the metadata Equipped with equipment,
When the feature amount representing the feature of the content is analyzed by the metadata distribution server, and the analyzed feature amount of the content is distributed in association with the metadata,
The synchronization device further includes an analysis unit that analyzes a feature amount of the content received from the content distribution server,
The synchronization means receives the feature amount of the content distributed in association with the metadata from the metadata distribution server, and the feature amount of the content associated with the metadata by the metadata distribution server; , receiving terminal, wherein the based on the feature value of the content that is analyzed by the analyzing means, <br/> be those for associating the said and the content metadata.
前記受信端末は、DVD(Digital Versatile Disc)録画機であることを特徴とする請求項18に記載の信端末。 The receiving terminal, receive terminal according to claim 18, characterized in that a DVD (Digital Versatile Disc) recorder. 前記受信端末は、HDD(Hard Disc Drive)録画機であることを特徴とする請求項18又は19に記載受信端末。 The receiving terminal, the receiving terminal according to claim 18 or 19, characterized in that a HDD (Hard Disc Drive) recorder. 前記受信端末は、携帯型電話機であることを特徴とする請求項18〜2のいずれか1つに記載の受信端末。 The receiving terminal, receive terminal according to any one of claims 18 to 2 0, which is a portable telephone.
JP2004038362A 2004-02-16 2004-02-16 Content / metadata transmission / reception system, content / metadata synchronization method, program for causing computer to execute the method, and receiving terminal Expired - Lifetime JP4494821B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004038362A JP4494821B2 (en) 2004-02-16 2004-02-16 Content / metadata transmission / reception system, content / metadata synchronization method, program for causing computer to execute the method, and receiving terminal

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004038362A JP4494821B2 (en) 2004-02-16 2004-02-16 Content / metadata transmission / reception system, content / metadata synchronization method, program for causing computer to execute the method, and receiving terminal

Publications (2)

Publication Number Publication Date
JP2005229509A JP2005229509A (en) 2005-08-25
JP4494821B2 true JP4494821B2 (en) 2010-06-30

Family

ID=35003864

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004038362A Expired - Lifetime JP4494821B2 (en) 2004-02-16 2004-02-16 Content / metadata transmission / reception system, content / metadata synchronization method, program for causing computer to execute the method, and receiving terminal

Country Status (1)

Country Link
JP (1) JP4494821B2 (en)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8296389B2 (en) 2007-04-05 2012-10-23 Sony Computer Entertainment Inc. Content reproduction apparatus, content delivery apparatus, content delivery system, and method for generating metadata
KR101439841B1 (en) * 2007-05-23 2014-09-17 삼성전자주식회사 Method for searching supplementary data related to contents data and apparatus thereof
JP4384238B2 (en) 2008-05-26 2009-12-16 株式会社東芝 Content transmission device, content reception device, and content upload method
JP5132479B2 (en) * 2008-08-26 2013-01-30 日本電信電話株式会社 Context extraction server, context extraction method, and program
JP5381266B2 (en) * 2009-04-14 2014-01-08 ソニー株式会社 Information recording apparatus, information distribution server, information recording system, and information recording method
NL2006291C2 (en) 2011-02-24 2012-08-27 Civolution B V Broadcasting an information signal having special content for triggering an appropriate action in user device.
CN108197155A (en) * 2017-12-08 2018-06-22 深圳前海微众银行股份有限公司 Information data synchronous method, device and computer readable storage medium

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002118817A (en) * 2000-10-05 2002-04-19 Nippon Telegr & Teleph Corp <Ntt> Method for providing interaction to video image, system, video transmitter, video receiver, and recording medium with program for realizing them recorded thereon
JP2003274353A (en) * 2002-03-19 2003-09-26 Ricoh Co Ltd Synchronizing device for video information and event information

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002118817A (en) * 2000-10-05 2002-04-19 Nippon Telegr & Teleph Corp <Ntt> Method for providing interaction to video image, system, video transmitter, video receiver, and recording medium with program for realizing them recorded thereon
JP2003274353A (en) * 2002-03-19 2003-09-26 Ricoh Co Ltd Synchronizing device for video information and event information

Also Published As

Publication number Publication date
JP2005229509A (en) 2005-08-25

Similar Documents

Publication Publication Date Title
US20220232289A1 (en) Crowdsourcing Supplemental Content
US8838594B2 (en) Automatic method to synchronize the time-line of video with audio feature quantity
US9374620B2 (en) Terminal apparatus, server apparatus, information processing method, program, and interlocked application feed system
JP2021530928A (en) Establishing and using interpolation-based time mapping with low-rate fingerprinting to help facilitate frame-accuracy content correction
WO2016054916A1 (en) Video content recommending and evaluating methods and devices
US20150245106A1 (en) Method, Device and System and for Play Synchronization Control in Video Recommendation Service
CN109168015B (en) Cloud cut live editing method and system
CN104023250B (en) Based on the real-time interactive method and system of Streaming Media
US20080127272A1 (en) Aggregation of Multiple Media Streams to a User
CN104902343B (en) A kind of method, server and the terminal of transmission and playing audio-video and message
CN102170584A (en) Method, device and system for playing media between synchronic HS (HTTP (HyperText Transfer Protocol) Streaming) terminal equipment
US20140359079A1 (en) Synchronization of multimedia contents on second screen
CN110856009B (en) Network karaoke system, audio and video playing method of network karaoke and related equipment
CN109168020A (en) Method for processing video frequency, device, calculating equipment and storage medium based on live streaming
JP2004126811A (en) Content information editing device, and editing program for the same
JP4494821B2 (en) Content / metadata transmission / reception system, content / metadata synchronization method, program for causing computer to execute the method, and receiving terminal
WO2023061060A1 (en) Audio and video code stream scheduling method, system, medium and electronic apparatus
CN112399134A (en) Self-management release method and system for cloud conference recording
CN111050204A (en) Video clipping method and device, electronic equipment and storage medium
KR20150082074A (en) Service server and method for providing contents information
CN111182334B (en) Data processing method, server, terminal, and storage medium
US20140010521A1 (en) Video processing system, video processing method, video processing apparatus, control method of the apparatus, and storage medium storing control program of the apparatus
KR100828297B1 (en) System and method for synchronization between broadcasting contents and communication contents using image recognition
JP4937211B2 (en) Still image extraction apparatus and still image extraction program
JP6567715B2 (en) Information processing apparatus, information processing method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061116

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100112

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100312

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100406

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100408

R150 Certificate of patent or registration of utility model

Ref document number: 4494821

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130416

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140416

Year of fee payment: 4