JP2010026981A - Particular scene learning system and program - Google Patents

Particular scene learning system and program Download PDF

Info

Publication number
JP2010026981A
JP2010026981A JP2008190849A JP2008190849A JP2010026981A JP 2010026981 A JP2010026981 A JP 2010026981A JP 2008190849 A JP2008190849 A JP 2008190849A JP 2008190849 A JP2008190849 A JP 2008190849A JP 2010026981 A JP2010026981 A JP 2010026981A
Authority
JP
Japan
Prior art keywords
knowledge
digest
scene
definition
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008190849A
Other languages
Japanese (ja)
Other versions
JP5159492B2 (en
Inventor
Masaru Miyazaki
勝 宮崎
Masahiro Shibata
正啓 柴田
Nobuyuki Yagi
伸行 八木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP2008190849A priority Critical patent/JP5159492B2/en
Publication of JP2010026981A publication Critical patent/JP2010026981A/en
Application granted granted Critical
Publication of JP5159492B2 publication Critical patent/JP5159492B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a particular scene learning system and its program which convert metadata edited as a particular scene into a predicate format for machine learning and extract the definition of the particular scene. <P>SOLUTION: The particular scene learning system includes: a digest editing device 11 which accumulates meta information used in editing in a first knowledge base 12 while adding to the meta information additional information making it possible to determine whether or not the meta information has been edited as a particular scene; a definition knowledge extraction device 14 for converting the meta information with the additional information accumulated in the first knowledge base 12 into a predicate format, allowing machine learning of the information converted in the predicate format, extracting knowledge definition data to be edited as the particular scene, and accumulating the data in a second knowledge base 15; and a digest creation device 16 which uses the knowledge definition data accumulated in the second knowledge base 15 as a search key and extracts the meta information corresponding to the search key from within the meta information accumulated in the first knowledge base 12. <P>COPYRIGHT: (C)2010,JPO&INPIT

Description

本発明は、ユーザが制作したスポーツ映像などのシーンの情報を利用して、特定シーン(例えばハイライトシーン)の定義を自動的に学習して蓄積するためのシステムに関し、このシステムを利用して特定シーンの自動制作を支援する装置に関する。   The present invention relates to a system for automatically learning and storing a definition of a specific scene (for example, a highlight scene) using information on a scene such as a sports video created by a user. The present invention relates to an apparatus that supports automatic production of a specific scene.

近年、デジタル放送やCS(Communications Satellite)放送などの普及により、多チャンネル時代が到来し、放送局のようなコンテンツプロバイダーにも、質の高い番組を数多く制作することが求められ、効率的な番組制作手法の実現が不可欠となっている。制作者が持つ高度なノウハウを十二分に発揮して制作される番組が存在する一方、定型化された番組も数多く存在する。そのため、このような番組の制作をある程度自動化できる支援システムを実現して、制作者の負担を軽減し、制作者がより高度な作業に注力することができるようにする技術が望まれる。   In recent years, with the spread of digital broadcasting and CS (Communications Satellite) broadcasting, the multi-channel era has come, and content providers such as broadcasting stations are required to produce many high-quality programs, and efficient programs Realization of production methods is indispensable. While there are programs that are produced by making full use of the advanced know-how of the creators, there are many standardized programs. Therefore, a technology is desired that realizes a support system that can automate the production of such a program to some extent, reduces the burden on the creator, and allows the creator to focus on more advanced work.

例えば、スポーツニュースなどで利用されるダイジェスト映像も、制作者がそのノウハウを活かして制作する種類のコンテンツではあるが、試合中の「盛り上がるシーン」というのはある程度制作者間でも共通するものと考えられ、制作者が持つ「盛り上がるシーン」に関する概念を知識構造化し、データベースに蓄積することができれば、容易にハイライトシーン候補の検索を行うことや、ダイジェスト映像そのものを自動的に制作することもできるようになる。   For example, digest video used for sports news is also a type of content that producers make use of their know-how, but the “scenes” during the game are considered to be shared among producers to some extent. If the creator's concept about the “rising scene” can be structured and stored in the database, it is possible to easily search for highlight scene candidates and automatically produce the digest video itself. It becomes like this.

そこで、スポーツの試合に関する概念を予めオントロジとして構造化しておき、ダイジェスト映像の制作を行うユーザがGUI(Graphical User Interface)等を用いてその概念を扱うことにより、試合中の重要シーン定義や抽出などの処理を行うことができるようにする技法が提案されている(例えば、特許文献1参照)。   Therefore, the concept related to sports games is structured in advance as an ontology, and the user who produces the digest video handles the concept using GUI (Graphical User Interface) etc., thereby defining and extracting important scenes during the game. There has been proposed a technique that makes it possible to perform the above processing (see, for example, Patent Document 1).

一方、ハイライトンーンの自動抽出には、代表的にはコンテンツ中の音声情報を利用してスポーツ中継のハイライトシーンを自動的に検出する技法などが提案されている(例えば、特許文献2参照)。   On the other hand, a technique for automatically detecting a highlight scene of a sports broadcast using audio information in content has been proposed for automatic extraction of highlights (see, for example, Patent Document 2).

これらの技法では、制作ノウハウをも第三者が見ても理解可能な知識表現形式になっていないため、制作者固有の知識に基づいてダイジェスト又はハイライト編集を行う。   In these techniques, the production know-how is not in a form of knowledge expression that can be understood by a third party, so digest or highlight editing is performed based on the creator's unique knowledge.

特開2008−131170号公報JP 2008-131170 A 特開2004−23354号公報JP 2004-23354 A

しかしながら、特許文献1の技法においては、あくまでもダイジェスト映像の制作又は編集を行うユーザが主体的にどのようなシーンが盛り上がるかということを考えながら概念を組み合わせていく必要があり、このユーザが明確な意図を持ってシーンを検索することが容易になったとはいえ、制作者の負担を大きく軽減したとは言えず、ハイライトシーンを自動的に抽出できるシステムが求められている。   However, in the technique of Patent Document 1, it is necessary for the user who produces or edits the digest video to combine the concepts while considering what kind of scene will be proactively raised. Although it has become easier to search for scenes with intent, it does not significantly reduce the burden on the creator, and there is a need for a system that can automatically extract highlight scenes.

また、特許文献2の技法においては、入力音声の音声認識を用いるのみであり、アナウンサーのコメントといった言語データが必要となる上に音声認識の認識率にも結果が左右されてしまうことが予想される。そのため、現在一般的に流通している試合メタデータを用いる方が、ハイライト抽出に用いる情報を一般化させるのには優れていると考えられる。   In the technique of Patent Document 2, only speech recognition of input speech is used, and language data such as an announcer's comment is required, and it is expected that the result depends on the recognition rate of speech recognition. The For this reason, it is considered that using the game metadata that is currently generally distributed is better for generalizing information used for highlight extraction.

そこで、本発明の目的は、コンテンツ制作者によって選択された特定シーン(ハイライト情報)を識別可能な付加情報が付与されたメタデータを用いて、特定シーン(例えばハイライトシーン)の定義を確立し、ダイジェスト生成を支援することが可能な特定シーン学習システム及びそのプログラムを提供することにある。   Therefore, an object of the present invention is to establish a definition of a specific scene (for example, a highlight scene) using metadata to which additional information that can identify a specific scene (highlight information) selected by a content creator is added. It is another object of the present invention to provide a specific scene learning system and program for supporting digest generation.

即ち、本発明による特定シーン学習システムは、所定のイメージ情報に関連付けられたメタ情報を外部から受信し、特定シーンのダイジェスト編集を行う手段と、前記特定シーンの編集に用いられたメタ情報に、特定シーンとして編集されたか否かを識別可能な付加情報を付して第1の知識ベースに蓄積する手段とを有するダイジェスト編集装置と、前記第1の知識ベースに蓄積された付加情報付きのメタ情報を述語形式に変換する手段と、述語形式に変換した情報を機械学習させて、特定シーンとして編集されるべき知識定義のデータを抽出し、第2の知識ベースに蓄積する手段とを有する定義知識抽出装置と、任意のイメージ情報のダイジェスト編集のために、前記第2の知識ベースに蓄積された知識定義のデータを検索キーとして、前記第1の知識ベースに蓄積されたメタ情報の中から前記検索キーに該当するメタ情報を抽出する手段を有するダイジェスト生成装置と、を備えることを特徴とする。   That is, the specific scene learning system according to the present invention receives meta information associated with predetermined image information from the outside, performs digest editing of the specific scene, and meta information used for editing the specific scene, A digest editing device having means for accumulating in the first knowledge base with additional information for identifying whether or not the scene has been edited, and a meta with additional information stored in the first knowledge base. Definition having means for converting information into a predicate format, and means for causing machine learning of information converted into the predicate format, extracting knowledge definition data to be edited as a specific scene, and storing the data in a second knowledge base For the digest extraction of the knowledge extraction device and arbitrary image information, the knowledge definition data stored in the second knowledge base is used as a search key. Characterized in that it comprises a digest generation unit having a means for extracting the meta information corresponding to the search key from the meta information stored in the first knowledge base.

また、本発明による特定シーン学習システムにおいて、前記第1の知識ベースに蓄積されたメタ情報に、特定シーンとして編集されるべく予め規定されたオントロジを参照して、前記特定シーンとして編集されたメタデータに当該オントロジに基づく記述を付して高度化し、高度化したメタ情報を前記特定シーンとして編集されたメタ情報の代わりに蓄積する手段を有する知識メタデータ生成装置を更に備えることを特徴とする。   In the specific scene learning system according to the present invention, the meta information compiled as the specific scene is referred to the meta information stored in the first knowledge base with reference to an ontology defined in advance to be edited as the specific scene. It further comprises a knowledge metadata generation device having means for accumulating advanced meta information by adding a description based on the ontology to the data, and storing the meta information in place of the meta information edited as the specific scene. .

また、本発明による特定シーン学習システムにおいて、前記定義知識抽出装置は、メタデータを帰納論理プログラミング処理で用いることのできる述語形式に変換し、前記ダイジェスト生成装置は、前記知識定義のデータを、述語形式そのものか、又はSPARQL(sparql Protocol and RDF Query Language)の知識ベースの問い合わせ言語形式に変換したデータで生成することを特徴とする。   In the specific scene learning system according to the present invention, the definition knowledge extraction device converts metadata into a predicate format that can be used in an inductive logic programming process, and the digest generation device converts the knowledge definition data into a predicate. It is characterized in that it is generated by data converted into a query language format based on the format itself or a SPARQL (sparqL protocol and RDF Query Language) knowledge base.

また、本発明による特定シーン学習システムにおいて、前記知識メタデータ生成装置は、前記検索キーによって抽出した該当するメタ情報に対応するシーン群を、前記ダイジェスト編集装置に送出する手段を有することを特徴とする。   Also, in the specific scene learning system according to the present invention, the knowledge metadata generation device has means for sending a scene group corresponding to the corresponding meta information extracted by the search key to the digest editing device. To do.

また、本発明による特定シーン学習システムにおいて、前記知識メタデータ生成装置は、前記検索キーによって抽出した該当するメタ情報に対応するシーン群を結合し、ダイジェスト映像を生成する手段を有することを特徴とする。   Also, in the specific scene learning system according to the present invention, the knowledge metadata generation device includes means for generating a digest video by combining scene groups corresponding to corresponding meta information extracted by the search key. To do.

また、本発明による特定シーン学習システムにおいて、前記知識メタデータ生成装置は、前記生成したダイジェスト映像又は対応するメタデータのリストを記録装置に記録させるか、又は表示装置に表示する手段を更に有することを特徴とする。   In the specific scene learning system according to the present invention, the knowledge metadata generation device further includes means for recording the generated digest video or a list of corresponding metadata on a recording device or displaying the list on a display device. It is characterized by.

更に、本発明は、本発明のダイジェスト編集装置として構成するコンピュータに、所定のイメージ情報に関連付けられたメタ情報を外部から受信し、特定シーンのダイジェスト編集を行うステップと、前記ステップによって特定シーンの編集に用いられたメタ情報に、特定シーンとして編集されたか否かを識別可能な付加情報を付して前記第1の知識ベースに蓄積するステップとを実行させるためのプログラムとしても特徴付けられる。   Furthermore, the present invention provides a computer configured as a digest editing apparatus according to the present invention by receiving meta information associated with predetermined image information from the outside and performing digest editing of a specific scene, It is also characterized as a program for causing the meta information used for editing to add additional information that can identify whether or not the specific scene has been edited to be accumulated in the first knowledge base.

更に、本発明は、本発明の定義知識抽出装置として構成するコンピュータに、前記第1の知識ベースに蓄積された付加情報付きのメタ情報を述語形式に変換する手段と、述語形式に変換した情報を機械学習させて、特定シーンとして編集されるべき知識定義のデータを抽出し、第2の知識ベースに蓄積するステップを実行させるためのプログラムとしても特徴付けられる。   Furthermore, the present invention provides a computer configured as the definition knowledge extracting apparatus of the present invention, means for converting meta information with additional information accumulated in the first knowledge base into a predicate format, and information converted into a predicate format. Is also characterized as a program for executing the steps of extracting knowledge definition data to be edited as a specific scene and storing it in the second knowledge base.

更に、本発明は、本発明のダイジェスト生成装置として構成するコンピュータに、任意のイメージ情報のダイジェスト編集のために、前記第2の知識ベースに蓄積された知識定義のデータを検索キーとして、前記第1の知識ベースに蓄積されたメタ情報の中から前記検索キーに該当するメタ情報を抽出するステップを実行させるためのプログラムとしても特徴付けられる。   Furthermore, the present invention provides a computer configured as the digest generation apparatus of the present invention, using the knowledge definition data stored in the second knowledge base as a search key for digest editing of arbitrary image information. It is also characterized as a program for executing a step of extracting meta information corresponding to the search key from meta information stored in one knowledge base.

本発明によれば、コンテンツ制作者が持つダイジェストシーン作成のノウハウを知識として蓄積することができる。その結果、制作者にとってはスポーツニュース向けのダイジェスト映像制作などが容易に行えるようになる。   According to the present invention, the digest scene creation know-how possessed by the content creator can be accumulated as knowledge. As a result, it is easy for producers to create digest videos for sports news.

また、TVチューナなどのコンテンツ受信機にこの機能を内蔵することにより、コンテンツ視聴者の好みに合わせたダイジェスト映像が受信機内で生成可能になり、新たなコンテンツ視聴スタイルを提供することが可能となる。   In addition, by incorporating this function in a content receiver such as a TV tuner, a digest video according to the content viewer's preference can be generated in the receiver, and a new content viewing style can be provided. .

以下、本発明による一実施例のダイジェスト生成装置を用いた特定シーン学習システムを説明する。   Hereinafter, a specific scene learning system using a digest generation apparatus according to an embodiment of the present invention will be described.

[ダイジェスト生成装置を用いたシステム構成]
図1は、本発明による一実施例の特定シーン学習システムにおけるダイジェスト編集装置の本発明に係る一部の機能ブロック図である。図2は、本発明による一実施例の特定シーン学習システムにおける知識メタデータ生成装置13の機能ブロック図である。図3は、本発明による一実施例の特定シーン学習システムにおける定義知識抽出装置の機能ブロック図である。図4は、本発明による一実施例の特定シーン学習システムにおけるダイジェスト生成装置の機能ブロック図である。
[System configuration using digest generator]
FIG. 1 is a partial functional block diagram according to the present invention of a digest editing apparatus in a specific scene learning system according to an embodiment of the present invention. FIG. 2 is a functional block diagram of the knowledge metadata generation device 13 in the specific scene learning system according to the embodiment of the present invention. FIG. 3 is a functional block diagram of the definition knowledge extracting apparatus in the specific scene learning system according to the embodiment of the present invention. FIG. 4 is a functional block diagram of the digest generation device in the specific scene learning system according to the embodiment of the present invention.

図1〜4に示される本実施例の特定シーン学習システムは、ダイジェスト編集装置11と、定義知識抽出装置14と、ダイジェスト生成装置16とを備え、好適には、知識メタデータ生成装置13を更に備える。   The specific scene learning system of the present embodiment shown in FIGS. 1 to 4 includes a digest editing device 11, a definition knowledge extracting device 14, and a digest generating device 16. Preferably, the knowledge metadata generating device 13 is further provided. Prepare.

ダイジェスト編集装置11は、所定のイメージ情報に関連付けられたメタ情報を外部から受信し、特定シーンのダイジェスト編集を行うとともに、特定シーンの編集に用いられたメタ情報に、特定シーンとして編集されたか否かを識別可能な付加情報を付して知識ベース(KB1)12に蓄積する機能を有する。   The digest editing apparatus 11 receives meta information associated with predetermined image information from the outside, performs digest editing of the specific scene, and whether or not the meta information used for editing the specific scene has been edited as the specific scene. It has a function of accumulating in the knowledge base (KB1) 12 with additional information that can be identified.

知識メタデータ生成装置(KMG)13は、知識ベース(KB1)12に蓄積されたメタ情報に、特定シーンとして編集されるべく予め規定されたオントロジを参照して、特定シーンとして編集されたメタデータに当該オントロジに基づく記述を付して高度化し、高度化したメタ情報を特定シーンとして編集されたメタ情報の代わりに知識ベース(KB1)12に蓄積する機能を有する。   The knowledge metadata generation device (KMG) 13 refers to the meta information stored in the knowledge base (KB1) 12 with reference to an ontology defined in advance to be edited as a specific scene, and the metadata edited as the specific scene. Is added with a description based on the ontology, and the advanced meta information is stored in the knowledge base (KB1) 12 instead of the meta information edited as a specific scene.

定義知識抽出装置14は、知識ベース(KB1)12に蓄積された付加情報付きのメタ情報を述語形式に変換し、述語形式に変換した情報を機械学習させて、特定シーンとして編集されるべき知識定義のデータを抽出し、定義知識ベース(KB2)15に蓄積する機能を有する。   The definition knowledge extracting device 14 converts the meta information with additional information stored in the knowledge base (KB1) 12 into a predicate format, machine-learns the information converted into the predicate format, and knowledge to be edited as a specific scene. It has a function of extracting definition data and storing it in the definition knowledge base (KB2) 15.

ダイジェスト生成装置(DG)16は、任意のイメージ情報のダイジェスト編集のために、定義知識ベース(KB2)に蓄積された知識定義のデータを検索キーとして、知識ベース(KB1)12に蓄積されたメタ情報の中から当該検索キーに該当するメタ情報を抽出する機能を有する。   The digest generation device (DG) 16 uses the knowledge definition data stored in the definition knowledge base (KB2) as a search key for digest editing of arbitrary image information, and stores the meta data stored in the knowledge base (KB1) 12 as a search key. It has a function of extracting meta information corresponding to the search key from the information.

以下、各装置についてより詳細に説明する。   Hereinafter, each device will be described in more detail.

本実施例の特定シーン学習システムは、ダイジェスト編集装置11を利用する制作者のノウハウを知識メタデータ生成装置13によって知識構造化できるようにするシステムであり、メタデータを処理する既存のメタデータ処理システム内に導入することが可能である。このようなスポーツ映像などのメタデータ処理システムにおいて、本実施例の特定シーン学習システムは、ハイライト情報が付加された試合メタデータを帰納論理プログラミング処理系(以下、ILP処理系とも称する)等によって利用できる述語形式に変換し、ILP処理系から出力された述語形式の特定シーン(例えば、ハイライトシーン)の定義を確立して蓄積し、蓄積したハイライトシーンの定義を用いてスポーツのハイライトシーンを検索するか、又は自動的にダイジェスト映像の生成を支援する。   The specific scene learning system according to the present embodiment is a system that enables the knowledge metadata generation device 13 to structure the know-how of the creator who uses the digest editing device 11, and the existing metadata processing for processing the metadata. It can be installed in the system. In such a metadata processing system for sports video, the specific scene learning system of the present embodiment uses a recursive logic programming processing system (hereinafter also referred to as an ILP processing system) or the like for the game metadata to which highlight information is added. Convert to available predicate format, establish and store definition of specific scene (eg highlight scene) in predicate format output from ILP processing system, and highlight sports using stored highlight scene definition Search scenes or automatically generate digest video.

従来の映像データや音声データを利用したハイライト生成技法では、制作者によって「なぜそのシーンが選ばれたのか?」という理由を、人間が理解可能な情報形式で取得することはできない。換言すれば、本実施例の特定シーン学習システムは、実際のダイジェスト制作の場合、「なぜそのシーンをハイライトに選んだか?」という問いに対して制作者は明確にその理由を答えることができるが、その理由を本実施例のダイジェスト生成装置13の機械学習により獲得することにより、まさに制作ノウハウと呼ぶべき知識を蓄積した番組制作知識ベースの構築を可能にする。   In the conventional highlight generation technique using video data and audio data, the reason why the scene is selected by the creator cannot be obtained in an information format that can be understood by humans. In other words, in the specific scene learning system of this embodiment, in the case of actual digest production, the creator can answer the reason clearly to the question “Why did you choose the scene as a highlight?” However, by acquiring the reason by machine learning of the digest generation device 13 of the present embodiment, it is possible to construct a program production knowledge base in which knowledge to be called production know-how is accumulated.

即ち、本実施例の特定シーン学習システムにおけるダイジェスト生成装置13は、コンテンツ制作者が或る試合のハイライト情報を付加したメタデータを用いてハイライトシーンの定義を獲得し、その定義に基づくハイライトシーンのダイジェストをコンテンツ制作者が利用するダイジェスト編集装置11に提供可能にする。このハイライトシーンの定義は、スポーツのどのような試合状況が盛り上がるシーン(ハイライトシーン)に当たるかを、述語形式を用いて記述したものとすることができる。本実施例のダイジェスト生成装置13は、この定義を利用して、例えば他の試合のメタデータからも自動的にハイライトシーンを自動抽出することも可能にする。   That is, the digest generation device 13 in the specific scene learning system of the present embodiment acquires the definition of the highlight scene using the metadata to which the content creator has added highlight information of a certain game, and the highlight based on the definition. The digest of the light scene can be provided to the digest editing apparatus 11 used by the content creator. The definition of the highlight scene can be described using a predicate format as to what kind of sports situation (highlight scene) the sports scene is exciting. The digest generation apparatus 13 of the present embodiment can also automatically extract a highlight scene from, for example, metadata of another game using this definition.

図1を参照するに、放送局の番組制作者(コンテンツ制作者)は、ダイジェスト編集装置11を操作して、収録した試合映像(包括的に、イメージ情報とも称する)などを見ながら盛り上がるシーンを抽出して編集し、スポーツニュースなどで利用するダイジェスト映像を制作する。近年、放送局やWebのポータルサイト向けにスポーツの試合メタデータが流通しており、番組制作者は、任意にイメージ情報及びそのメタデータを入手可能である。   Referring to FIG. 1, a broadcast station program producer (content producer) operates a digest editing apparatus 11 to view a scene that swells while watching a recorded game video (generally also referred to as image information). Extract and edit to produce a digest video for sports news. In recent years, sports game metadata has been distributed to broadcasting stations and Web portal sites, and program producers can arbitrarily obtain image information and its metadata.

例えば、放送局などの番組制作者は、通常、試合映像に対して、スコアやSBOなどの情報をスーパーインポーズするために、データ配信会社などから試合状況のメタデータの提供を受けることができる。スポーツデータ配信会社や、既知の映像・音響解析システムによって提供されるメタデータ(m)は、表形式やXML文書形式で知識ベース(KB1)12に蓄積される。XML形式で記述されたメタデータ(m)の一例の試合メタデータの例を図5に示す。このメタデータは、ある試合の一部を記述したものであり、ある打席において、投手がストレートを投げ、打者がそれをヒットにして結果として1点が入ったという状況を示している。本例においては、「投球、打撃、得点」といった一連の流れを「1勝負」という最小シーン単位としている。ハイライトシーンはすべてこの「1勝負」という単位で抽出される。知識メタデータ生成装置(KMG)を用いてメタデータにより高度な情報(あるシーンが「サヨナラホームラン」「逆転の打撃」であるといったような高レベル情報)を付加することもできる(例えば、特開2007−249907号公報参照)。   For example, a program producer such as a broadcast station can usually receive game situation metadata from a data distribution company or the like in order to superimpose information such as score and SBO on a game video. . Metadata (m) provided by a sports data distribution company or a known video / audio analysis system is stored in the knowledge base (KB1) 12 in a table format or an XML document format. FIG. 5 shows an example of game metadata as an example of metadata (m) described in the XML format. This metadata describes a part of a certain game, and shows a situation in which a pitcher throws a straight and a batter hits it at one bat and results in 1 point. In this example, a series of flows such as “throwing, hitting, scoring” is a minimum scene unit of “1 game”. All highlight scenes are extracted in units of this “one game”. It is also possible to add advanced information (high-level information such as “a goodbye home run” or “reversal hit” for a certain scene) by metadata using a knowledge metadata generation device (KMG) (for example, JP 2007-249907).

即ち、ダイジェスト編集装置11は、イメージ情報及びそのメタデータを入力して、番組制作者がどのシーンを選んだかという情報を、メタデータに対して「ハイライトシーンとして選ばれた(例えばフラグ値1)/選ばれなかった(例えばフラグ値0)」といったデータを付加して(以下、付加情報付きメタデータとも称する)、知識として蓄えるためのデータベースとして機能する知識ベース(KB1)12に蓄積する。   That is, the digest editing apparatus 11 inputs image information and metadata thereof, and information indicating which scene the program producer has selected is selected as a highlight scene (for example, flag value 1). ) / Not selected (for example, flag value 0) "(hereinafter also referred to as metadata with additional information) is stored in the knowledge base (KB1) 12 functioning as a database for storing as knowledge.

このコンテンツ制作者は、収録された映像群(シーン群)を編集し、盛り上がるシーンを繋ぎ合わせたダイジェスト映像を作成することができる。知識ベース(KB1)12に蓄積されているメタデータには映像へのリンクが記述されているのが一般的であり、コンテンツ制作者が特定シーンを編集する際に、ダイジェスト編集装置11は、このリンク情報を用いて知識ベース(KB1)12内のメタデータに対してハイライト情報の識別情報(そのシーンがハイライトシーンとして選ばれたか/選ばれなかったかの付加情報)を追記することができる。   This content creator can edit a recorded video group (scene group) and create a digest video by connecting the exciting scenes. Generally, metadata stored in the knowledge base (KB1) 12 describes a link to a video. When a content creator edits a specific scene, the digest editing apparatus 11 Using the link information, highlight information identification information (additional information on whether or not the scene is selected as a highlight scene) can be added to the metadata in the knowledge base (KB1) 12.

図2を参照するに、知識メタデータ生成装置(KMG)13は、オントロジ情報参照手段131及び高レベル情報付加手段132を有し、ダイジェスト編集装置11によって蓄積された付加情報付きメタデータを、操作者の操作によるか、又は自動的に読み出し、次に、オントロジ情報参照手段131によって予め定義されたオントロジを参照して、高レベル情報付加手段132により付加情報付きメタデータの内容をより詳細に説明する記述を付して、高度化したメタデータ(以下、高度化メタデータと称する)を生成し、知識ベース(KB1)12に追加又は更新する。   Referring to FIG. 2, the knowledge metadata generation device (KMG) 13 includes ontology information reference means 131 and high level information addition means 132, and operates metadata with additional information accumulated by the digest editing apparatus 11. The content of the metadata with additional information is explained in more detail by the high level information adding means 132 with reference to the ontology previously defined by the ontology information referring means 131. Is added to the knowledge base (KB1) 12 to generate or update advanced metadata (hereinafter referred to as advanced metadata).

尚、知識メタデータ生成装置(KMG)13によって知識ベース(KB1)12内のメタデータを高度化するか否かは随意選定可能であるが、高度化することによって情報が増えるため、後述する機械学習の性能を向上させることができる。尚、この知識ベース(KB1)12に蓄積されるメタデータは、任意にイメージ情報及びそのメタデータを入手可能なXML形式で記述されたままのものであることに留意する。   Note that it is possible to arbitrarily select whether or not to upgrade the metadata in the knowledge base (KB1) 12 by the knowledge metadata generation device (KMG) 13; Learning performance can be improved. It should be noted that the metadata stored in the knowledge base (KB1) 12 is still described in the XML format in which image information and the metadata can be obtained arbitrarily.

図3を参照するに、定義知識抽出装置14は、例えばハイライトシーンの知識を抽出するハイライト知識抽出装置(HKE)として機能し、述語形式変換手段141及び機械学習手段142を有する。定義知識抽出装置14は、知識ベース(KB1)12に蓄積された高度化メタデータ(又は、ダイジェスト編集装置11に用いるメタデータ)を、操作者の操作によるか、又は自動的に読み出し、次に、述語形式変換手段141により、このXML形式のメタデータを予め規定された既知の帰納論理プログラミング処理系の形式に変換し、機械学習手段142により、変換したメタデータを用いて機械学習させ、編集の概念を定義付ける知識データとしての定義知識データ(例えば、ハイライトシーンの概念定義のデータ)を獲得し、この定義知識データを専用の知識ベース(定義知識ベース(KB2)15)に蓄積する。このようにして、定義知識抽出装置14は、例えば、コンテンツ制作者が或る試合のハイライト情報を付加したメタデータを用いて、ハイライトシーンの定義を獲得し、定義知識ベース(KB2)15)に蓄積する。   Referring to FIG. 3, the definition knowledge extraction device 14 functions as, for example, a highlight knowledge extraction device (HKE) that extracts knowledge of a highlight scene, and includes a predicate format conversion unit 141 and a machine learning unit 142. The definition knowledge extracting device 14 reads the advanced metadata (or metadata used for the digest editing device 11) stored in the knowledge base (KB1) 12 by an operation of the operator or automatically, The predicate format conversion unit 141 converts the XML format metadata into a predetermined inductive logic programming processing format, and the machine learning unit 142 performs machine learning using the converted metadata for editing. Definition knowledge data (for example, concept definition data of a highlight scene) is acquired as knowledge data for defining the concept of this, and this definition knowledge data is stored in a dedicated knowledge base (definition knowledge base (KB2) 15). In this way, the definition knowledge extraction device 14 acquires the definition of the highlight scene using, for example, metadata to which the content creator adds highlight information of a certain game, and the definition knowledge base (KB2) 15 ).

図6に、ハイライト知識抽出装置(HKE)として機能する定義知識抽出装置14によって、知識ベース(KB1)12に蓄積されているメタデータを述語形式に変換して生成した述語の例を示す。前述したように、知識ベース(KB1)12に蓄積されているメタデータ(例えば、試合メタデータ)は、表形式やXML形式で記述されているため、その内容はすべて「主語−述語−目的語」という形式の集まりで記述するように規定することができる(以降、この形式を「トリプル」と称することにする)。トリプル形式は、述語形式に一意に変換することが可能であり、例えば図5に示すXML形式の試合メタデータは図6に示す述語形式に変換することができる。この述語形式はPrologのプログラムそのものであり、この形式にメタデータを変換することで、後段の機械学習手段142のILP処理系による機械学習を可能にする。   FIG. 6 shows an example of a predicate generated by converting the metadata accumulated in the knowledge base (KB1) 12 into a predicate format by the definition knowledge extracting device 14 functioning as a highlight knowledge extracting device (HKE). As described above, since the metadata (for example, game metadata) stored in the knowledge base (KB1) 12 is described in a table format or an XML format, all the contents are “subject-predicate-object”. Can be defined to be described in a collection of the form “(this form is hereinafter referred to as“ triple ”). The triple format can be uniquely converted into the predicate format. For example, the game metadata in the XML format shown in FIG. 5 can be converted into the predicate format shown in FIG. This predicate format is a Prolog program itself, and by converting metadata into this format, machine learning by the ILP processing system of the machine learning means 142 at the subsequent stage is enabled.

ここで、帰納論理プログラミングによるハイライトシーン定義の学習及び蓄積の一例について、更に詳細に説明する。   Here, an example of learning and accumulation of highlight scene definitions by inductive logic programming will be described in more detail.

[帰納論理プログラミングによるハイライトシーン定義の学習]
帰納論理プログラミングによる推論処理のILP処理としては、PROGOLなどがよく知られている(例えば、古川康一他、「帰納論理プログラミング」、共立出版,2001年5月発行)。そこで、ハイライト知識抽出装置(HKE)として機能する定義知識抽出装置14は、学習目標概念に関連する知識を帰納論理プログラミングの背景知識として利用することができ、述語形式変換手段141によって、このようなILP処理系の入力として用いることのできる述語形式を生成することができる。
[Learn Highlight Scene Definition by Inductive Logic Programming]
PROGOL and the like are well known as ILP processing of inference processing by inductive logic programming (for example, Koichi Furukawa et al., “Inductive Logic Programming”, Kyoritsu Publishing, published in May 2001). Therefore, the definition knowledge extraction device 14 functioning as a highlight knowledge extraction device (HKE) can use the knowledge related to the learning target concept as background knowledge of inductive logic programming, and the predicate format conversion means 141 can It is possible to generate a predicate format that can be used as an input to an ILP processing system.

即ち、機械学習手段142に用いるILP処理系は、主に、正例、負例、及び背景知識を入力とすることで、正例に共通する概念を学習することが可能である。野球の試合に関する正例、負例、及び背景知識の例を図7に示す。ILP処理に入力する正例は「ハイライトシーンとして選ばれたシーン」とし(図7(A))、負例は「ハイライトシーンに選ばれなかったシーン」とし(図7(B))、背景知識は、前述の各シーンに関連した試合状況を記述したものである(図7(C))。図11は、XML形式の試合メタデータを行単位で述語形式に変換した例を示している。前述したように、「正例」「負例」及び「背景知識」に区分するのが、ILP処理系142の機械学習にとってハイライト情報の識別性能を高める上で好適である。背景知識としては単純な試合状況だけでなく、野球に関連した各種概念を記述したオントロジのようなものも与えることもできる。   In other words, the ILP processing system used for the machine learning unit 142 can learn a concept common to positive examples mainly by using positive examples, negative examples, and background knowledge as inputs. An example of a positive example, a negative example, and background knowledge regarding a baseball game is shown in FIG. The positive example input to the ILP processing is “scene selected as highlight scene” (FIG. 7A), and the negative example is “scene not selected as highlight scene” (FIG. 7B). The background knowledge describes the game situation related to each scene described above (FIG. 7C). FIG. 11 shows an example in which game metadata in XML format is converted into a predicate format on a line-by-line basis. As described above, classification into “positive example”, “negative example”, and “background knowledge” is suitable for enhancing the identification performance of highlight information for machine learning of the ILP processing system 142. As background knowledge, not only a simple game situation but also an ontology describing various concepts related to baseball can be given.

ILP処理系は、これらの情報を用いて帰納推論を行い、出力として「ハイライトシーンの定義」を述語形式で出力する。ILP処理系の出力例を図8に示す。   The ILP processing system performs inductive inference using these pieces of information, and outputs “highlight scene definition” in predicate form as output. An output example of the ILP processing system is shown in FIG.

[ハイライトシーン定義の蓄積]
ILP処理系の出力を「ハイライト定義知識」として定義知識ベース(KB2)15に蓄積する。蓄積するときの形式は、述語形式そのものでもよいし、SPARQL(sparql Protocol and RDF Query Language)などの知識ベースの問い合わせ言語形式に変換して蓄積してもよい。例えば、述語形式とsparqlクエリーの対応例を図9に示す。
[Accumulation of highlight scene definitions]
The output of the ILP processing system is accumulated in the definition knowledge base (KB2) 15 as “highlight definition knowledge”. The storage format may be the predicate format itself, or may be stored after being converted into a knowledge-based query language format such as SPARQL (sparq Protocol and RDF Query Language). For example, FIG. 9 shows a correspondence example between the predicate format and the sparql query.

図4を参照するに、ダイジェスト生成装置(DG)16は、定義シーン抽出手段161、定義シーン結合手段162、及び定義シーン記録再生手段163を有する。定義シーン抽出手段161は、定義知識ベース(KB2)15に蓄積されたハイライト知識からSPARQLなどの問い合わせ言語を抽出し、知識ベース(KB1)12内のメタデータを読み出して当該問い合わせ言語を適用し、定義知識(例えばハイライト定義)に該当するシーン群を抽出し、抽出して得られたシーン群を、「ハイライトシーンの候補」としてコンテンツ制作者が利用するダイジェスト編集装置17に提供する。定義シーン結合手段162は、コンテンツ制作者の操作によるか、又は自動的に定義シーン抽出手段161によって抽出したシーン群を結合し、自動的にダイジェスト映像を生成する。定義シーン記録再生手段163は、コンテンツ制作者の操作によるか、又は自動的に、定義シーン結合手段162によって生成したダイジェスト映像又は対応するメタデータのリストを記録装置18に記録させるか、又は表示装置19に再生し表示させるように制御する。   Referring to FIG. 4, the digest generation device (DG) 16 includes a definition scene extraction unit 161, a definition scene combination unit 162, and a definition scene recording / playback unit 163. The definition scene extraction unit 161 extracts a query language such as SPARQL from the highlight knowledge stored in the definition knowledge base (KB2) 15, reads metadata in the knowledge base (KB1) 12, and applies the query language. Then, a scene group corresponding to definition knowledge (for example, highlight definition) is extracted, and the extracted scene group is provided to the digest editing apparatus 17 used by the content creator as a “highlight scene candidate”. The definition scene combining unit 162 combines scene groups extracted by the definition scene extraction unit 161 by an operation of the content creator or automatically, and automatically generates a digest video. The definition scene recording / reproducing unit 163 causes the recording device 18 to record the digest video generated by the definition scene combining unit 162 or a list of corresponding metadata by an operation of the content creator or a display device. 19 is controlled to be reproduced and displayed.

例えば、定義知識ベース(KB2)15に蓄積されたハイライト知識の利用例について更に詳細に説明する。   For example, a usage example of the highlight knowledge stored in the definition knowledge base (KB2) 15 will be described in more detail.

[ハイライト定義知識の利用]
ユーザ(例えば、放送局の番組制作者)は、ダイジェスト生成装置(DG)16を利用して、知識ベース(KB1)12及び定義知識ベース(KB2)15から、任意のスポーツ映像のうちのハイライトシーンを抽出することができる。例えば、ダイジェスト生成装置(DG)16は、定義知識ベース(KB2)15に蓄積されたハイライト定義からSPARQLなどの問い合わせ言語を抽出し、この問い合わせ言語を検索キーとして知識ベース(KB1)12内のメタ情報を検索し、ハイライト定義に該当するシーン群を抽出することができる。得られたシーン群は、「ハイライトシーンの候補」として、識別情報を付してコンテンツ制作者に提供することで編集支援を行うか、又は得られたシーン群を結合することによって、自動的にダイジェスト映像を生成する。
[Use of highlight definition knowledge]
A user (for example, a program producer of a broadcasting station) uses a digest generation device (DG) 16 to highlight highlights from any sport video from the knowledge base (KB1) 12 and the definition knowledge base (KB2) 15. A scene can be extracted. For example, the digest generation device (DG) 16 extracts a query language such as SPARQL from the highlight definition stored in the definition knowledge base (KB2) 15, and uses the query language as a search key in the knowledge base (KB1) 12. The meta information can be searched to extract a scene group corresponding to the highlight definition. The obtained scene group can be automatically supported by adding identification information as a “highlight scene candidate” and providing it to the content creator, or by combining the obtained scene groups. A digest video is generated.

このように、本実施例の特定シーン学習システムは、ハイライト情報が付加されたメタデータ及び帰納論理プログラミング処理系を用いて、ハイライトシーンの概念定義を自動的に獲得し、定義知識ベース(KB2)15に蓄積する。   As described above, the specific scene learning system of the present embodiment automatically acquires the concept definition of the highlight scene using the metadata to which the highlight information is added and the inductive logic programming processing system, and the definition knowledge base ( KB2) 15.

野球の試合を例に挙げると、試合メタデータには、試合の状況(スコア、SBOのカウント、進塁状況など)及び起こったイベントの情報が、知覚可能な表形式やXML文書形式で記述されており、知識ベース(KB1)12に蓄積される。本実施例の特定シーン学習システムは、この情報をPrologプログラムのような述語形式に変換して、帰納論理プログラミング処理系により帰納推論処理を行う。つまり、本実施例の特定シーン学習システムは、ハイライトシーンの各種特徴(試合状況、起こったイベント、イベントに関連した選手の情報)及びハイライトシーンとして選ばれなかったシーンの各種特徴を用いて帰納推論を行い、ハイライトシーンがどのような特徴を持つかといった定義を機械学習で自動的に獲得する。得られた定義は「ハイライト知識」として定義知識ベース(KB2)15に蓄積し、制作者はその知識を用いて容易に盛り上がるシーンを検索したり、システムが自動的にダイジェスト映像を制作したりといった機能を実現することができる。   Taking a baseball game as an example, the game metadata describes the status of the game (score, SBO count, progress, etc.) and the information about the event that occurred, in a perceptible table format or XML document format. Stored in the knowledge base (KB1) 12. The specific scene learning system of this embodiment converts this information into a predicate format such as a Prolog program, and performs inductive inference processing by an inductive logic programming processing system. In other words, the specific scene learning system of the present embodiment uses various features of the highlight scene (game status, events that occurred, information on players related to the event) and various features of the scene that was not selected as the highlight scene. Inductive inference is performed, and the definition of what features the highlight scene has is automatically acquired by machine learning. The definition obtained is stored in the definition knowledge base (KB2) 15 as “highlight knowledge”, and the creator searches for a scene that easily rises using that knowledge, or the system automatically produces a digest video. Such a function can be realized.

次に、本発明による一実施例のダイジェスト生成装置を用いた特定シーン学習システムを、ダイジェスト映像制作支援システムとして構成した実現例1について説明する。   Next, an implementation example 1 in which the specific scene learning system using the digest generation apparatus according to the embodiment of the present invention is configured as a digest video production support system will be described.

[実現例1]
図10に、本発明による一実現例のダイジェスト生成装置を用いたダイジェスト映像制作支援システムを示す。本システムは、放送局のようなコンテンツプロバイダーにおいて利用されることを想定している。
[Example 1]
FIG. 10 shows a digest video production support system using a digest generation apparatus according to an embodiment of the present invention. This system is assumed to be used in content providers such as broadcasting stations.

放送局などは通常、試合映像に対して、スコアやSBOなどの情報をスーパーインポーズするために、データ配信会社(例えば、スポーツデータ配信会社のメタデータ自動生成システム20)などから試合状況のメタデータ(m)の提供を受けている。このメタデータ(m)を例えば受信したメタデータを逐次蓄積するメタデータ蓄積装置(MDSS)21により放送局内の試合知識ベース12a(上述の知識ベース12に対応する)に蓄積しておく。試合知識ベース12aは、スポーツオントロジ131a(前述したオントロジ情報算出手段131に対応する)を備える知識メタデータ生成装置(KMG)13aにより、より高度なメタデータを付加することも可能である。   A broadcast station or the like usually has a game situation meta-data from a data distribution company (for example, the metadata automatic generation system 20 of a sports data distribution company) to superimpose information such as a score and SBO on a game video. Data (m) is provided. This metadata (m) is stored in a game knowledge base 12a (corresponding to the above-described knowledge base 12) in the broadcasting station by a metadata storage device (MDSS) 21 that sequentially stores received metadata, for example. The game knowledge base 12a can add more advanced metadata by a knowledge metadata generation device (KMG) 13a having a sports ontology 131a (corresponding to the ontology information calculation means 131 described above).

番組制作者は、ダイジェスト編集システム(DPS)22(前述したダイジェスト編集装置11に対応する)を操作して、試合知識ベース12aにメタ情報とともに蓄積される収録済みのスポーツの試合映像を見ながら、ハイライトシーンを手作業で検索し、それらをつなぎ合わせて編集し、特定のスポーツニュース用のダイジェスト映像を制作する。試合メタデータには、シーンの時刻情報などが含まれているため、ダイジェスト編集システム(DPS)22は、試合メタデータを試合知識ベース12aに蓄積する際に、制作者によって選ばれたシーンと試合メタデータとのリンク情報を利用して、試合メタデータ中にハイライト情報h(そのシーンがハイライトシーンとして選ばれたか/選ばれなかったか)を付加する。ダイジェスト編集システム(DPS)22が知識メタデータ生成装置(KMG)13aを制御して、より高度なメタデータを付加するようにしてもよい。   The program producer operates the digest editing system (DPS) 22 (corresponding to the digest editing device 11 described above), while watching the recorded sports game video stored together with the meta information in the game knowledge base 12a. Search for highlight scenes manually, stitch them together and edit them to produce a digest video for specific sports news. Since the game metadata includes scene time information, the digest editing system (DPS) 22 selects the scene and game selected by the creator when the game metadata is stored in the game knowledge base 12a. Using the link information with the metadata, highlight information h (whether or not the scene is selected as a highlight scene) is added to the game metadata. The digest editing system (DPS) 22 may control the knowledge metadata generation device (KMG) 13a to add more advanced metadata.

ハイライト情報が付加された試合メタデータ(m)は、試合ごと、シーズンごとといった特定のイメージ情報の単位でハイライト知識抽出装置(HKE)14a(前述した定義知識抽出装置(HKE)14に対応する)に送られ、そこでILP処理系(ILPS)142a(前述した機械学習手段142に対応する)のための「正例」「負例」及び「背景知識」に変換される。ILP処理系(ILPS)142aはそれらの情報を用いて帰納推論処理を行い、ハイライトシーンがどのような特徴を持っているかという「ハイライト定義知識」(前述した定義知識データに対応する)をハイライト抽出装置(HKE)14aに送る。ハイライト抽出装置14aは、得られたハイライト定義知識をハイライト知識ベース(KB2)15aに蓄積しておき、制作者がダイジェスト編集システム(DPS)22を操作して自由に利用できる状況にしておく。   The game metadata (m) to which the highlight information is added corresponds to the highlight knowledge extraction device (HKE) 14a (the definition knowledge extraction device (HKE) 14 described above) in units of specific image information such as every game and every season. Are converted into “positive examples”, “negative examples”, and “background knowledge” for an ILP processing system (ILPS) 142a (corresponding to the machine learning means 142 described above). The ILP processing system (ILPS) 142a performs inductive inference processing using the information, and “highlight definition knowledge” (corresponding to the definition knowledge data described above) as to what features the highlight scene has. Send to highlight extractor (HKE) 14a. The highlight extraction device 14a stores the obtained highlight definition knowledge in the highlight knowledge base (KB2) 15a, and allows the creator to operate the digest editing system (DPS) 22 so that it can be used freely. deep.

このように構築したダイジェスト映像制作支援システムにおいても、制作者は、ハイライト映像を作成するときに、従来のような「試合映像を目で見ながら自分でシーンを選択し、それらを編集で繋げていく」といった技法を用いることもできるが、ダイジェスト生成装置16aによって、ダイジェスト編集システム(DPS)22の画面に「ハイライトシーンの候補となる映像群」を自動的に提示させることもできるので、番組制作者は、全ての映像をみることなく、提示されたハイライト候補映像を選択し、繋げていくことでダイジェスト映像を作成することができるようになる。   Even in the digest video production support system constructed in this way, when creating a highlight video, the creator selects the scene by himself while viewing the game video and connects them by editing. Can be used, but the digest generation device 16a can automatically present “a video group that is a candidate for a highlight scene” on the digest editing system (DPS) 22 screen. The program producer can create a digest video by selecting and connecting the displayed highlight candidate videos without viewing all the videos.

この実現例によれば、ダイジェスト映像の制作作業を大幅に効率化させることができる。また、上述したように、本システムが抽出したハイライトシーンを自動的に繋ぎ、ダイジェスト映像を生成することも可能である。   According to this implementation example, the work of producing a digest video can be significantly improved. Further, as described above, it is also possible to automatically connect the highlight scenes extracted by this system and generate a digest video.

次に、本発明による一実施例のダイジェスト生成装置を用いた特定シーン学習システムを、ダイジェスト映像提供システムとして構成した実現例2について説明する。   Next, an implementation example 2 in which the specific scene learning system using the digest generation apparatus according to the embodiment of the present invention is configured as a digest video providing system will be described.

[実現例2]
図12に、本発明による一実現例のダイジェスト生成装置を用いたダイジェスト映像提供システムを示す。本システムは、ユーザの家庭にある受信機やPCなどに内蔵することを想定している。尚、図10と同様な構成要素には同一の参照番号を付して説明する。
[Example 2]
FIG. 12 shows a digest video providing system using a digest generating apparatus according to an embodiment of the present invention. This system is assumed to be built in a receiver or a PC in the user's home. Components similar to those in FIG. 10 are described with the same reference numerals.

スポーツデータ配信会社のメタデータ自動生成システム20は、放送波やインターネット回線経由で各家庭の受信機やPCに対して試合メタデータ(m)を配信する。メタデータ蓄積装置は受信したメタデータ(m)を、試合知識ベース12aにリアルタイムで蓄積する。試合知識ベース12aは、知識メタデータ生成装置13aにより、より高度なメタデータを与えておくことも可能である。   The sports data distribution company's automatic metadata generation system 20 distributes game metadata (m) to receivers and PCs in each home via broadcast waves and the Internet. The metadata storage device stores the received metadata (m) in the game knowledge base 12a in real time. The game knowledge base 12a can be given more advanced metadata by the knowledge metadata generation device 13a.

家庭環境化の本システムのユーザは、受信機やPCなどに内蔵された既知の映像視聴システム(VPS)23(前述したダイジェスト編集装置11に対応する)を操作して、通常のTV番組などを視聴しているとする。既知の映像視聴システムには、HDDなど映像蓄積システムが内蔵されており、録画したスポーツ番組などを後から視聴することも可能となっている。ユーザが早送り/巻き戻しなどを行いながら録画した番組を視聴する際、ユーザがそのシーンを実時間で視聴した、或いは早送りで飛ばした、といったユーザによる視聴情報は、ハイライト情報hとして試合知識ベース(KB1)12aに送られ、試合メタデータを試合知識ベース12aに蓄積する際に、試合メタデータ中にハイライト情報(そのシーンがハイライトシーンとして選ばれたか/選ばれなかったか)を付加する。   A user of this system for home environment operates a known video viewing system (VPS) 23 (corresponding to the digest editing device 11 described above) built in a receiver, a PC, or the like to display a normal TV program or the like. Suppose you are watching. A known video viewing system has a built-in video storage system such as an HDD so that a recorded sports program can be viewed later. When a user views a recorded program while fast-forwarding / rewinding, the viewing information by the user that the user has watched the scene in real time or skipped fast-forwarding is the game knowledge base as highlight information h. (KB1) When sent to 12a and accumulates game metadata in the game knowledge base 12a, highlight information (whether or not the scene is selected as a highlight scene) is added to the game metadata. .

ハイライト情報hが付加された試合メタデータ(m)は、試合ごと、シーズンごとといった特定のイメージ情報の単位でハイライト知識抽出装置(HKE)14aに送られ、そこでILP処理系(ILPS)142aのための「正例」「負例」及び「背景知識」に変換される。ILP処理系(ILPS)142aは、それらの情報を用いて帰納推論処理を行い、ハイライトシーンがどのような特徴を持っているかという「ハイライト定義知識」(前述した定義知識データに対応する)をハイライト知識抽出装置(HKE)14aに送る。ハイライト知識抽出装置(HKE)14aは、得られたハイライト定義知識をハイライト知識ベース(KB2)15aに蓄積しておき、ユーザが映像視聴システム(VPS)23を操作して(他の装置からも)自由にアクセス可能な状況にする。   The game metadata (m) to which the highlight information h is added is sent to the highlight knowledge extraction device (HKE) 14a in units of specific image information such as every game and every season, where the ILP processing system (ILPS) 142a. Are converted into “positive examples”, “negative examples” and “background knowledge”. The ILP processing system (ILPS) 142a performs inductive inference processing using these pieces of information, and “highlight definition knowledge” (corresponding to the definition knowledge data described above) indicating what characteristics the highlight scene has. To the highlight knowledge extractor (HKE) 14a. The highlight knowledge extraction device (HKE) 14a stores the obtained highlight definition knowledge in the highlight knowledge base (KB2) 15a, and the user operates the video viewing system (VPS) 23 (other devices). (Also) Make the situation freely accessible.

ダイジェスト生成装置16aは、ハイライト知識ベース15aの情報を用いてメタデータ中からハイライトシーンを抽出し、ダイジェスト映像を自動生成する。制作されたダイジェスト映像は映像視聴シーンシステム(VPS)23上で「本日のチームA対チームBのダイジェスト」などを複数の項目選択を可能な態様で表示させるようにすることもでき、ユーザは、随意選択して該当ダイジェスト映像を視聴することが可能となる。   The digest generation device 16a extracts a highlight scene from the metadata using information in the highlight knowledge base 15a, and automatically generates a digest video. The produced digest video can be displayed on the video viewing scene system (VPS) 23 such as “Today's Team A vs. Team B digest” in a manner allowing a plurality of items to be selected. It is possible to select and view the corresponding digest video arbitrarily.

本発明の一態様として、ダイジェスト編集装置11、知識メタデータ生成装置13、定義知識抽出装置14、及びダイジェスト生成装置16の各々をコンピュータとして構成することができ、前述した各手段および機能を実現させるためのプログラムは、各コンピュータの内部又は外部に備えられる記憶部(図示せず)に記憶される。このような記憶部は、外付けハードディスクなどの外部記憶装置、或いはROM又はRAMなどの内部記憶装置で実現することができる。プログラムを実行する制御部は、中央演算処理装置(CPU)などで実現することができる。即ち、CPUが、各構成要素の機能を実現するための処理内容が記述されたプログラムを、適宜、記憶部から読み込んで、コンピュータ上で各装置を実現することができる。ここで、いずれかの手段の機能をハードウェアの全部又は一部で実現しても良い。   As one aspect of the present invention, each of the digest editing device 11, the knowledge metadata generating device 13, the definition knowledge extracting device 14, and the digest generating device 16 can be configured as a computer, and the above-described means and functions are realized. Is stored in a storage unit (not shown) provided inside or outside each computer. Such a storage unit can be realized by an external storage device such as an external hard disk or an internal storage device such as ROM or RAM. The control unit that executes the program can be realized by a central processing unit (CPU) or the like. That is, the CPU can appropriately read from the storage unit a program in which the processing content for realizing the function of each component is described, and implement each device on the computer. Here, the function of any means may be realized by all or part of the hardware.

上述した実施例において、各構成要素の機能を実現するための処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくこともできる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録装置、半導体メモリ等どのようなものでもよい。   In the embodiment described above, the program describing the processing contents for realizing the function of each component can be recorded on a computer-readable recording medium. As the computer-readable recording medium, any recording medium such as a magnetic recording device, an optical disk, a magneto-optical recording device, and a semiconductor memory may be used.

また、この処理内容を記述したプログラムを、例えばDVD又はCD‐ROMなどの可搬型記録媒体の販売、譲渡、貸与等により流通させることができるほか、そのようなプログラムを、例えばIPなどのネットワーク上にあるサーバの記憶領域に記憶しておき、ネットワークを介してサーバから他のコンピュータにそのプログラムを転送することにより、流通させることができる。   In addition, the program describing the processing contents can be distributed by selling, transferring, or lending a portable recording medium such as a DVD or CD-ROM, and such a program can be distributed on a network such as an IP. The program can be distributed by storing the program in a storage area of the server and transferring the program from the server to another computer via the network.

また、そのようなプログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラム又はサーバから転送されたプログラムを、一旦、各コンピュータの記憶部に記憶することができる。また、このプログラムの別の実施態様として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、更に、このコンピュータにサーバからプログラムが転送される度に、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。尚、本態様におけるプログラムには、電子計算機の処理の用に供する情報であってプログラムに準ずるもの(コンピュータに対する直接の指令ではないが、コンピュータの処理を規定する性質を有するデータ等)を含むものとする。   In addition, a computer that executes such a program can temporarily store, for example, a program recorded on a portable recording medium or a program transferred from a server in a storage unit of each computer. As another embodiment of the program, the computer may directly read the program from a portable recording medium and execute processing according to the program, and each time the program is transferred from the server to the computer. In addition, the processing according to the received program may be executed sequentially. Note that the program in this aspect includes information provided for processing of an electronic computer and equivalent to the program (data that is not a direct command to the computer but has a property that defines the processing of the computer). .

上述の実施例についてはハイライトシーンを代表的な例として説明したが、本発明の趣旨及び範囲内で、多くの変更及び置換ができることは当業者に明らかである。例えば、制作者が明確な意思に基づいて、特定の選手のダイジェスト生成を所望することも考えられ、ハイライトシーンを特定の選手のシーンに置き換えて本発明を適用することができる。従って、本発明は、上述の実施例によって制限するものと解するべきではなく、特許請求の範囲によってのみ制限される。   Although the highlight scene has been described as a representative example of the above-described embodiments, it will be apparent to those skilled in the art that many changes and substitutions can be made within the spirit and scope of the present invention. For example, the creator may desire to generate a digest of a specific player based on a clear intention, and the present invention can be applied by replacing a highlight scene with a scene of a specific player. Accordingly, the invention should not be construed as limited by the embodiments described above, but only by the claims.

本発明のダイジェスト生成装置を用いた特定シーン学習システムによれば、提供されたメタ情報から自動的にダイジェスト生成に必要な情報を抽出することができるため、ダイジェスト生成を所望する用途に有用である。   According to the specific scene learning system using the digest generation device of the present invention, information necessary for digest generation can be automatically extracted from the provided meta information, which is useful for applications where digest generation is desired. .

本発明による一実施例の特定シーン学習システムにおけるダイジェスト編集装置の本発明に係る一部の機能ブロック図である。It is a partial functional block diagram concerning the present invention of a digest editing device in a specific scene learning system of one example by the present invention. 本発明による一実施例の特定シーン学習システムにおける知識メタデータ生成装置13の機能ブロック図である。It is a functional block diagram of the knowledge metadata production | generation apparatus 13 in the specific scene learning system of one Example by this invention. 本発明による一実施例の特定シーン学習システムにおける定義知識抽出装置の機能ブロック図である。It is a functional block diagram of the definition knowledge extraction apparatus in the specific scene learning system of one Example by this invention. 本発明による一実施例の特定シーン学習システムにおけるダイジェスト生成装置の機能ブロック図である。It is a functional block diagram of the digest production | generation apparatus in the specific scene learning system of one Example by this invention. XML形式の試合メタデータの一例を示す図である。It is a figure which shows an example of the game metadata of an XML format. 図5に示すXML形式の試合メタデータを述語形式に変換した一例を示す図である。It is a figure which shows an example which converted the game metadata of the XML format shown in FIG. 5 into the predicate format. 本発明による一実施例の特定シーン学習システムにおけるILP処理系の入力情報としての正例、負例、及び背景知識の例を示す図である。It is a figure which shows the example of the positive example, negative example, and background knowledge as input information of the ILP processing system in the specific scene learning system of one Example by this invention. 本発明による一実施例の特定シーン学習システムにおけるILP処理系の出力例を示す図である。It is a figure which shows the example of an output of the ILP process type | system | group in the specific scene learning system of one Example by this invention. 本発明による一実施例の特定シーン学習システムにおける定義知識の述語形式とsparqlクエリーの対応例を示す図である。It is a figure which shows the example of a correspondence of the predicate form of the definition knowledge in a specific scene learning system of one Example by this invention, and a sparql query. 本発明による一実現例のダイジェスト生成装置を用いたダイジェスト映像制作支援システムを示す図である。It is a figure which shows the digest video production support system using the digest production | generation apparatus of the one implementation example by this invention. XML形式の試合メタデータを述語形式に変換した一例を示す図である。It is a figure which shows an example which converted the game metadata of the XML format into the predicate format. 本発明による一実現例のダイジェスト生成装置を用いたダイジェスト映像提供システムを示す図である。It is a figure which shows the digest video provision system using the digest production | generation apparatus of the one implementation example by this invention.

符号の説明Explanation of symbols

11 ダイジェスト編集装置
12 知識ベース(KB1)
13 知識メタデータ生成装置(KMG)
14 定義知識抽出装置
15 定義知識ベース(KB2)
16 ダイジェスト生成装置(DG)
20 メタデータ自動生成システム
21 メタデータ蓄積装置(MDSS)
22 ダイジェスト編集システム(DPS)
23 映像視聴システム(VPS)
131 オントロジ情報参照手段
132 高レベル情報付加手段
141 述語形式変換手段
142 機械学習手段
161 定義シーン抽出手段
162 定義シーン結合手段
163 定義シーン記録再生手段
12a 試合知識ベース
13a 知識メタデータ生成装置(KMG)
14a ハイライト知識抽出装置(HKE)
15a ハイライト知識ベース(KB2)
16a ダイジェスト生成装置
131a スポーツオントロジ
142a ILP処理系(ILPS)
11 Digest Editing Device 12 Knowledge Base (KB1)
13 Knowledge metadata generator (KMG)
14 Definition Knowledge Extraction Device 15 Definition Knowledge Base (KB2)
16 Digest generator (DG)
20 Metadata automatic generation system 21 Metadata storage device (MDSS)
22 Digest Editing System (DPS)
23 Video viewing system (VPS)
131 ontology information reference means 132 high-level information addition means 141 predicate format conversion means 142 machine learning means 161 definition scene extraction means 162 definition scene combination means 163 definition scene recording / playback means 12a game knowledge base 13a knowledge metadata generation device (KMG)
14a Highlight Knowledge Extraction Device (HKE)
15a Highlight Knowledge Base (KB2)
16a Digest generator 131a Sports ontology 142a ILP processing system (ILPS)

Claims (9)

所定のイメージ情報に関連付けられたメタ情報を外部から受信し、特定シーンのダイジェスト編集を行う手段と、前記特定シーンの編集に用いられたメタ情報に、特定シーンとして編集されたか否かを識別可能な付加情報を付して第1の知識ベースに蓄積する手段とを有するダイジェスト編集装置と、
前記第1の知識ベースに蓄積された付加情報付きのメタ情報を述語形式に変換する手段と、述語形式に変換した情報を機械学習させて、特定シーンとして編集されるべき知識定義のデータを抽出し、第2の知識ベースに蓄積する手段とを有する定義知識抽出装置と、
任意のイメージ情報のダイジェスト編集のために、前記第2の知識ベースに蓄積された知識定義のデータを検索キーとして、前記第1の知識ベースに蓄積されたメタ情報の中から前記検索キーに該当するメタ情報を抽出する手段を有するダイジェスト生成装置と、
を備えることを特徴とする、特定シーン学習システム。
The meta information associated with the predetermined image information can be received from the outside, and the digest editing of the specific scene can be identified and whether the meta information used for editing the specific scene has been edited as a specific scene can be identified A digest editing device having means for storing additional information in the first knowledge base;
Means for converting meta-information with additional information stored in the first knowledge base into a predicate format, and machine learning of the information converted into the predicate format to extract knowledge definition data to be edited as a specific scene And a definition knowledge extraction device having means for accumulating in the second knowledge base,
Corresponds to the search key from the meta information stored in the first knowledge base using the data of the knowledge definition stored in the second knowledge base as a search key for digest editing of arbitrary image information A digest generating device having means for extracting meta information to be
A specific scene learning system comprising:
前記第1の知識ベースに蓄積されたメタ情報に、特定シーンとして編集されるべく予め規定されたオントロジを参照して、前記特定シーンとして編集されたメタデータに当該オントロジに基づく記述を付して高度化し、高度化したメタ情報を前記特定シーンとして編集されたメタ情報の代わりに蓄積する手段を有する知識メタデータ生成装置を更に備えることを特徴とする、請求項1に記載の特定シーン学習システム。   The meta information stored in the first knowledge base is referred to an ontology defined in advance to be edited as a specific scene, and a description based on the ontology is attached to the metadata edited as the specific scene. The specific scene learning system according to claim 1, further comprising a knowledge metadata generation device having means for storing sophisticated meta information in place of the meta information edited as the specific scene. . 前記定義知識抽出装置は、メタデータを帰納論理プログラミング処理で用いることのできる述語形式に変換し、
前記ダイジェスト生成装置は、前記知識定義のデータを、述語形式そのものか、又はSPARQL(sparql Protocol and RDF Query Language)の知識ベースの問い合わせ言語形式に変換したデータで生成することを特徴とする、請求項1又は2に記載の特定シーン学習システム。
The definition knowledge extraction device converts the metadata into a predicate format that can be used in an inductive logic programming process,
The digest generating apparatus generates the data of the knowledge definition from data converted into a predicate format itself or a knowledge base query language format of SPARQL (sparql Protocol and RDF Query Language). The specific scene learning system according to 1 or 2.
前記知識メタデータ生成装置は、前記検索キーによって抽出した該当するメタ情報に対応するシーン群を、前記ダイジェスト編集装置に送出する手段を有することを特徴とする、請求項1〜3のいずれか一項に記載の特定シーン学習システム。   4. The knowledge metadata generating apparatus according to claim 1, further comprising means for sending a scene group corresponding to corresponding metadata extracted by the search key to the digest editing apparatus. The specific scene learning system according to the item. 前記知識メタデータ生成装置は、前記検索キーによって抽出した該当するメタ情報に対応するシーン群を結合し、ダイジェスト映像を生成する手段を有することを特徴とする、請求項1〜4のいずれか一項に記載の特定シーン学習システム。   The knowledge metadata generation apparatus includes means for generating a digest video by combining scene groups corresponding to corresponding metadata extracted by the search key. The specific scene learning system according to the item. 前記知識メタデータ生成装置は、前記生成したダイジェスト映像又は対応するメタデータのリストを記録装置に記録させるか、又は表示装置に表示する手段を更に有することを特徴とする、請求項5に記載の特定シーン学習システム。   6. The knowledge metadata generation device according to claim 5, further comprising means for recording the generated digest video or a list of corresponding metadata on a recording device or displaying the list on a display device. Specific scene learning system. 請求項1に記載のダイジェスト編集装置として構成するコンピュータに、
所定のイメージ情報に関連付けられたメタ情報を外部から受信し、特定シーンのダイジェスト編集を行うステップと、
前記ステップによって特定シーンの編集に用いられたメタ情報に、特定シーンとして編集されたか否かを識別可能な付加情報を付して前記第1の知識ベースに蓄積するステップとを実行させるためのプログラム。
A computer configured as the digest editing device according to claim 1,
Receiving meta information associated with predetermined image information from the outside, and performing digest editing of a specific scene;
A program for executing the step of accumulating in the first knowledge base with additional information identifiable as to whether or not the meta information has been edited as a specific scene is added to the meta information used for editing the specific scene in the step .
請求項1に記載の定義知識抽出装置として構成するコンピュータに、
前記第1の知識ベースに蓄積された付加情報付きのメタ情報を述語形式に変換する手段と、述語形式に変換した情報を機械学習させて、特定シーンとして編集されるべき知識定義のデータを抽出し、第2の知識ベースに蓄積するステップを実行させるためのプログラム。
A computer configured as the definition knowledge extraction device according to claim 1,
Means for converting meta-information with additional information stored in the first knowledge base into a predicate format, and machine learning of the information converted into the predicate format to extract knowledge definition data to be edited as a specific scene And a program for executing the step of accumulating in the second knowledge base.
請求項1に記載のダイジェスト生成装置として構成するコンピュータに、
任意のイメージ情報のダイジェスト編集のために、前記第2の知識ベースに蓄積された知識定義のデータを検索キーとして、前記第1の知識ベースに蓄積されたメタ情報の中から前記検索キーに該当するメタ情報を抽出するステップを実行させるためのプログラム。
A computer configured as the digest generation device according to claim 1,
Corresponds to the search key from the meta information stored in the first knowledge base using the data of the knowledge definition stored in the second knowledge base as a search key for digest editing of arbitrary image information A program for executing a step of extracting meta information to be performed.
JP2008190849A 2008-07-24 2008-07-24 Specific scene learning system and program Expired - Fee Related JP5159492B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008190849A JP5159492B2 (en) 2008-07-24 2008-07-24 Specific scene learning system and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008190849A JP5159492B2 (en) 2008-07-24 2008-07-24 Specific scene learning system and program

Publications (2)

Publication Number Publication Date
JP2010026981A true JP2010026981A (en) 2010-02-04
JP5159492B2 JP5159492B2 (en) 2013-03-06

Family

ID=41732724

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008190849A Expired - Fee Related JP5159492B2 (en) 2008-07-24 2008-07-24 Specific scene learning system and program

Country Status (1)

Country Link
JP (1) JP5159492B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019079216A (en) * 2017-10-24 2019-05-23 日本電気株式会社 Integrated database system, integrated management system, integrated management method, and integrated management program
JP2020137050A (en) * 2019-02-25 2020-08-31 オリンパス株式会社 Imaging device, imaging method, imaging program, and learning device
CN112163476A (en) * 2020-09-16 2021-01-01 汕头市同行网络科技有限公司 Electronic competition condition data acquisition method based on image recognition
JPWO2021019645A1 (en) * 2019-07-29 2021-02-04
WO2022003836A1 (en) * 2020-06-30 2022-01-06 日本電信電話株式会社 Processing system and processing method

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000090096A (en) * 1998-09-08 2000-03-31 Toshiba Corp Intelligent electronic catalog system
JP2008131170A (en) * 2006-11-17 2008-06-05 Nippon Hoso Kyokai <Nhk> Knowledge metadata generating apparatus, digest generating apparatus, knowledge metadata generating program, and digest generating program

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000090096A (en) * 1998-09-08 2000-03-31 Toshiba Corp Intelligent electronic catalog system
JP2008131170A (en) * 2006-11-17 2008-06-05 Nippon Hoso Kyokai <Nhk> Knowledge metadata generating apparatus, digest generating apparatus, knowledge metadata generating program, and digest generating program

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
CSNG200100329005; 橋本 隆子 他: 'TV受信端末におけるダイジェスト視聴システム' 情報処理学会論文誌 Vol.41,No.SIG3(TOD6), 20000515, PP.71-84., 情報処理学会 *
CSNG200600623006; 山田 一郎 他: 'アナウンスコメントを利用したサッカー番組メタデータ自動作成' 電子情報通信学会技術研究報告 Vol.104,No.670, 20050218, PP.37-42., 電子情報通信学会 *
CSNG200700327003; 住吉 英樹 他: 'メタデータ制作・活用システムの試作' 映像情報メディア学会技術報告 Vol.29,No.70, 20051124, PP.13-18., 映像情報メディア学会 *
JPN6012049751; 橋本 隆子 他: 'TV受信端末におけるダイジェスト視聴システム' 情報処理学会論文誌 Vol.41,No.SIG3(TOD6), 20000515, PP.71-84., 情報処理学会 *
JPN6012049753; 住吉 英樹 他: 'メタデータ制作・活用システムの試作' 映像情報メディア学会技術報告 Vol.29,No.70, 20051124, PP.13-18., 映像情報メディア学会 *
JPN6012049755; 山田 一郎 他: 'アナウンスコメントを利用したサッカー番組メタデータ自動作成' 電子情報通信学会技術研究報告 Vol.104,No.670, 20050218, PP.37-42., 電子情報通信学会 *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019079216A (en) * 2017-10-24 2019-05-23 日本電気株式会社 Integrated database system, integrated management system, integrated management method, and integrated management program
JP7021499B2 (en) 2017-10-24 2022-02-17 日本電気株式会社 Integrated database system, integrated management system, integrated management method, and integrated management program
JP2020137050A (en) * 2019-02-25 2020-08-31 オリンパス株式会社 Imaging device, imaging method, imaging program, and learning device
JPWO2021019645A1 (en) * 2019-07-29 2021-02-04
JP7268739B2 (en) 2019-07-29 2023-05-08 日本電気株式会社 LEARNING DATA GENERATION DEVICE, LEARNING DEVICE, IDENTIFICATION DEVICE, GENERATION METHOD AND PROGRAM
WO2022003836A1 (en) * 2020-06-30 2022-01-06 日本電信電話株式会社 Processing system and processing method
JP7439927B2 (en) 2020-06-30 2024-02-28 日本電信電話株式会社 Treatment system and treatment method
CN112163476A (en) * 2020-09-16 2021-01-01 汕头市同行网络科技有限公司 Electronic competition condition data acquisition method based on image recognition
CN112163476B (en) * 2020-09-16 2023-12-19 汕头市同行网络科技有限公司 Electronic competition condition data acquisition method based on image recognition

Also Published As

Publication number Publication date
JP5159492B2 (en) 2013-03-06

Similar Documents

Publication Publication Date Title
CN105230035B (en) The processing of the social media of time shift multimedia content for selection
US9378286B2 (en) Implicit user interest marks in media content
US10210253B2 (en) Apparatus of providing comments and statistical information for each section of video contents and the method thereof
JP5144838B1 (en) Information processing apparatus, information processing method, and program
KR20150052123A (en) Aiding discovery of program content by providing deeplinks into most interesting moments via social media
JP2004193871A (en) Media data viewing apparatus and metadata sharing system
KR20100034990A (en) Method and apparatus for generating integrated metadata
JP2006211311A (en) Digested video image forming device
JP5173856B2 (en) Content recommendation device and content recommendation method
JP5159492B2 (en) Specific scene learning system and program
JP4891737B2 (en) Knowledge metadata generation device, digest generation device, knowledge metadata generation program, and digest generation program
JP2005064561A (en) Video reproducing method and system
JP4709671B2 (en) Knowledge metadata generation apparatus and knowledge metadata generation program
JP2011128981A (en) Retrieval device and retrieval method
KR20130023461A (en) Caption management method and caption search method
CN106713973A (en) Program searching method and device
WO2014103374A1 (en) Information management device, server and control method
JP2007156893A (en) Information processing device, meta data management server, information processing system, and meta data management method
KR20090126525A (en) Method and apparatus for managing digital contents using playback position, and method and apparatus for executing the same
KR101624172B1 (en) Appratus and method for management of contents information
TWI497959B (en) Scene extraction and playback system, method and its recording media
JP2010166539A (en) Method of editing video content, editing device employing the same and remote editing device
JP5091708B2 (en) Search information creation device, search information creation method, search information creation program
JP4320001B2 (en) Subtitle generation program and subtitle generation apparatus
WO2011033609A1 (en) Content retrieving apparatus, method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101207

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120913

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120925

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121016

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121211

R150 Certificate of patent or registration of utility model

Ref document number: 5159492

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151221

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees