JP5590427B2 - 映像処理システム、映像コンテンツ監視方法、映像処理装置及びその制御方法と制御プログラム - Google Patents

映像処理システム、映像コンテンツ監視方法、映像処理装置及びその制御方法と制御プログラム Download PDF

Info

Publication number
JP5590427B2
JP5590427B2 JP2013507223A JP2013507223A JP5590427B2 JP 5590427 B2 JP5590427 B2 JP 5590427B2 JP 2013507223 A JP2013507223 A JP 2013507223A JP 2013507223 A JP2013507223 A JP 2013507223A JP 5590427 B2 JP5590427 B2 JP 5590427B2
Authority
JP
Japan
Prior art keywords
video
video content
fragment
determination
content
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013507223A
Other languages
English (en)
Other versions
JPWO2012132532A1 (ja
Inventor
直毅 藤田
俊之 野村
浩太 岩元
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2013507223A priority Critical patent/JP5590427B2/ja
Publication of JPWO2012132532A1 publication Critical patent/JPWO2012132532A1/ja
Application granted granted Critical
Publication of JP5590427B2 publication Critical patent/JP5590427B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/74Browsing; Visualisation therefor
    • G06F16/743Browsing; Visualisation therefor a collection of video files or sequences
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/254Management at additional data server, e.g. shopping server, rights management server
    • H04N21/2541Rights Management
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/27Server based end-user applications
    • H04N21/274Storing end-user multimedia data in response to end-user request, e.g. network recorder
    • H04N21/2743Video hosting of uploaded data from client
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server
    • H04N21/6582Data stored in the client, e.g. viewing habits, hardware capabilities, credit card number

Description

本発明は、生成された映像コンテンツの内容を監視する技術に関する。
上記技術分野において、特許文献1においては、図1のように、クライアントからサイトにアップロードする閲覧動画データを、照合サーバにおいて登録者が既に登録した動画データと照合することにより、アップロードして良いか否かを判定する技術が開示されている。また、照合サーバによる照合が任意又は無作為に抽出された静止画群で行ないわれることによる高速化が言及されている(段落[0045][0046]参照)。さらに、閲覧動画データがクアイアントから直接サイトにアップロードされた場合は、参照サーバがサイトから閲覧動画データを取得して照合が行なわれることも示唆されている(段落[0031]参照)。
特開2009−070349
しかしながら、上記文献に記載の技術は、閲覧動画データがクアイアントから直接サイトにアップロードされて、参照サーバがサイトから閲覧動画データを取得して照合が行なわれる構成の場合であっても、参照サーバでの照合時に静止画の抽出が行なわれるので、大容量の閲覧動画データがそのままサイトから参照サーバに送られる。特に、複数のサイトがネットワークに接続された開かれたシステムにおいては、参照サーバが主導的に照合すべき閲覧動画データを収集して照合処理することが求められるが、照合すべき閲覧動画データを収集(ダウンロード)するために長時間が掛かってしまう。
本発明の目的は、上述の課題を解決する技術を提供することにある。
上記目的を達成するため、本発明に係る映像処理システムは、
判定対象の映像コンテンツ中から、映像シーンを考慮せずに選択された断片映像であって、前記映像コンテンツ内の一連の複数のフレームを含む前記断片映像のデータを、ネットワークを介してダウンロードする断片映像ダウンロード手段と、
前記ダウンロードした断片映像のデータに基づいて、前記映像コンテンツの内容を判定する第1の映像コンテンツ判定手段と、
を備え
前記断片映像ダウンロード手段は、ダウンロードする断片映像の数と各断片映像の時間長とを前記第1の映像コンテンツ判定手段による判定速度と判定精度とを考慮して設定する断片映像設定手段を有し、
前記第1の映像コンテンツ判定手段は、前記断片映像の各フレームから抽出したフレーム特徴量を含み、前記一連の複数のフレームに対応するフレーム特徴量列と、予め登録された映像コンテンツ全体のフレーム特徴量列との比較に基づいて、前記断片映像を含んだ映像シーン又は映像コンテンツと、前記予め登録された映像コンテンツの映像シーン又は該映像コンテンツとが合致するか否かを判定することを特徴とする。
上記目的を達成するため、本発明に係る映像コンテンツ監視方法は、
映像コンテンツ選択手段が、映像コンテンツ配信サイトにアップロードされた映像コンテンツから、映像コンテンツの内容を判定する対象の映像コンテンツを選択する映像コンテンツ選択ステップと、
断片映像ダウンロード手段が、前記選択した映像コンテンツ中から、映像シーンを考慮せずに選択された断片映像であって、前記映像コンテンツ内の一連の複数のフレームを含む前記断片映像のデータを、ネットワークを介してダウンロードする断片映像ダウンロードステップと、
映像コンテンツ判定手段が、前記ダウンロードした断片映像の各フレームから抽出されたフレーム特徴量と予め登録された映像コンテンツのフレーム特徴量との比較に基づいて、前記断片映像を含んだ一連の複数のフレームからなる映像シーン又は映像コンテンツと、前記予め登録された映像コンテンツの映像シーン又は該映像コンテンツとが合致するか否かを判定する映像コンテンツ判定ステップと、
を含み、
前記断片映像ダウンロードステップは、ダウンロードする断片映像の数と各断片映像の時間長とを前記第1の映像コンテンツ判定ステップにおける判定速度と判定精度とを考慮して設定する断片映像設定ステップを有し、
前記第1の映像コンテンツ判定ステップにおいては、前記断片映像の各フレームから抽出したフレーム特徴量を含み、前記一連の複数のフレームに対応するフレーム特徴量列と、予め登録された映像コンテンツ全体のフレーム特徴量列との比較に基づいて、前記断片映像を含んだ映像シーン又は映像コンテンツと、前記予め登録された映像コンテンツの映像シーン又は該映像コンテンツとが合致するか否かを判定することを特徴とする。
上記目的を達成するため、本発明に係る映像処理装置は、
映像コンテンツ配信サイトにアップロードされた映像コンテンツから、映像コンテンツの内容を判定すべき映像コンテンツを選択する映像コンテンツ選択手段と、
前記選択した映像コンテンツ中から、映像シーンを考慮せずに選択された断片映像であって、前記映像コンテンツ内の一連の複数のフレームを含む前記断片映像のデータを、ネットワークを介してダウンロードする断片映像ダウンロード手段と、
前記ダウンロードした断片映像のデータに基づいて、前記映像コンテンツの内容を判定する映像コンテンツ判定手段と、
を備え
前記断片映像ダウンロード手段は、ダウンロードする断片映像の数と各断片映像の時間長とを前記第1の映像コンテンツ判定手段による判定速度と判定精度とを考慮して設定する断片映像設定手段を有し、
前記映像コンテンツ判定手段は、前記断片映像の各フレームから抽出したフレーム特徴量を含み、前記一連の複数のフレームに対応するフレーム特徴量列と、予め登録された映像コンテンツ全体のフレーム特徴量列との比較に基づいて、前記断片映像を含んだ映像シーン又は映像コンテンツと、前記予め登録された映像コンテンツの映像シーン又は該映像コンテンツとが合致するか否かを判定することを特徴とする。
上記目的を達成するため、本発明に係る映像処理装置の制御方法は、
映像コンテンツ選択手段が、映像コンテンツ配信サイトにアップロードされた映像コンテンツから、映像コンテンツの内容を判定すべき映像コンテンツを選択する映像コンテンツ選択ステップと、
断片映像ダウンロード手段が、前記選択した映像コンテンツ中から、映像シーンを考慮せずに選択された断片映像であって、前記映像コンテンツ内の一連の複数のフレームを含む前記断片映像のデータを、ネットワークを介してダウンロードする断片映像ダウンロードステップと、
映像コンテンツ判定手段が、前記ダウンロードした断片映像のデータに基づいて、前記映像コンテンツの内容を判定する映像コンテンツ判定ステップと、
を含み、
前記断片映像ダウンロードステップは、ダウンロードする断片映像の数と各断片映像の時間長とを前記第1の映像コンテンツ判定ステップにおける判定速度と判定精度とを考慮して設定する断片映像設定ステップを有し、
前記映像コンテンツ判定ステップにおいては、前記断片映像の各フレームから抽出したフレーム特徴量を含み、前記一連の複数のフレームに対応するフレーム特徴量列と、予め登録された映像コンテンツ全体のフレーム特徴量列との比較に基づいて、前記断片映像を含んだ映像シーン又は映像コンテンツと、前記予め登録された映像コンテンツの映像シーン又は該映像コンテンツとが合致するか否かを判定することを特徴とする。
上記目的を達成するため、本発明に係る映像処理装置の制御プログラムは、
映像コンテンツ配信サイトにアップロードされた映像コンテンツから、映像コンテンツの内容を判定すべき映像コンテンツを選択する映像コンテンツ選択ステップと、
前記選択した映像コンテンツ中から、映像シーンを考慮せずに選択された断片映像であって、前記映像コンテンツ内の一連の複数のフレームを含む前記断片映像のデータを、ネットワークを介してダウンロードする断片映像ダウンロードステップと、
前記ダウンロードした断片映像のデータに基づいて、前記映像コンテンツの内容を判定する映像コンテンツ判定ステップと、
をコンピュータに実行させる映像処理装置の制御プログラムであって、
前記断片映像ダウンロードステップは、ダウンロードする断片映像の数と各断片映像の時間長とを前記第1の映像コンテンツ判定ステップにおける判定速度と判定精度とを考慮して設定する断片映像設定ステップを有し、
前記映像コンテンツ判定ステップにおいては、前記断片映像の各フレームから抽出したフレーム特徴量を含み、前記一連の複数のフレームに対応するフレーム特徴量列と、予め登録された映像コンテンツ全体のフレーム特徴量列との比較に基づいて、前記断片映像を含んだ映像シーン又は映像コンテンツと、前記予め登録された映像コンテンツの映像シーン又は該映像コンテンツとが合致するか否かを判定する
本発明によれば、閲覧可能な映像コンテンツの内容の判定をダウンロードするデータ量を削減して実施することができる。
本発明の第1実施形態に係る映像処理システムの構成を示すブロック図である。 本発明の第2実施形態に係る映像処理システムの構成を示すブロック図である。 本発明の第2実施形態に係る映像処理システムの動作手順を示すシーケンス図である。 本発明の第2実施形態に係る映像処理装置のハードウエア構成を示すブロック図である。 本発明の第2実施形態に係る対象映像コンテンツリストの構成を示す図である。 本発明の第2実施形態に係る断片映像パラメータ用テーブルの構成を示す図である。 本発明の第2実施形態に係る断片映像選択リストの構成を示す図である。 本発明の第2実施形態に係る断片映像コンテンツ判定結果リストの構成を示す図である。 本発明の第2実施形態に係る映像コンテンツDBの構成を示す図である。 本発明の第2実施形態に係る映像処理装置の処理手順を示すフローチャートである。 本発明の第2実施形態に係る断片映像パラメータ決定処理の処理手順を示すフローチャートである。 本発明の第2実施形態に係る断片映像選択リスト作成処理の処理手順を示すフローチャートである。 本発明の第2実施形態に係る断片映像選択アルゴリズムを示す図である。 本発明の第3実施形態に係る映像処理システムの動作手順を示すシーケンス図である。 本発明の第3実施形態に係る映像処理装置の処理手順を示すフローチャートである。 本発明の第4実施形態に係る映像処理システムの構成を示すブロック図である。 本発明の第4実施形態に係る映像処理装置のハードウエア構成を示すブロック図である。 本発明の第4実施形態に係るアルゴリズム選択テーブルの構成を示す図である。 本発明の第4実施形態に係る映像処理装置の処理手順を示すフローチャートである。 本発明の第5実施形態に係る映像処理システムの構成を示すブロック図である。 本発明の第5実施形態に係るフレーム特徴量抽出部の構成を示すブロック図である。 本発明の第5実施形態に係るフレーム特徴量抽出部における処理を示す図である。 本発明の第5実施形態に係るフレーム特徴量抽出部における抽出領域を示す図である。 本発明の第5実施形態に係る映像コンテンツフレーム特徴量DBの構成を示す図である。 本発明の第5実施形態に係る断片映像コンテンツ判定結果リストの構成を示す図である。 本発明の第6実施形態に係る映像処理システムの構成を示すブロック図である。 本発明の第7実施形態に係る映像処理システムの構成を示すブロック図である。 本発明の第7実施形態に係る映像処理システムの動作手順を示すシーケンス図である。 本発明の第7実施形態に係る映像処理装置の処理手順を示すフローチャートである。 本発明の第8実施形態に係る映像処理システムの構成を示すブロック図である。 本発明の第8実施形態に係る映像処理システムの動作手順を示すシーケンス図である。 本発明の第8実施形態に係る映像処理装置のハードウエア構成を示すブロック図である。 本発明の第8実施形態に係る対象映像コンテンツ違法性判定結果リストの構成を示す図である。 本発明の第8実施形態に係る映像処理装置の処理手順を示すフローチャートである。
以下に、図面を参照して、本発明の実施の形態について例示的に詳しく説明する。ただし、以下の実施の形態に記載されている構成要素はあくまで例示であり、本発明の技術範囲をそれらのみに限定する趣旨のものではない。
なお、本明細書では、以下の文言を使用する。“映像コンテンツ”は、1つの作品としてまとめられた映像を意味する。また、“断片映像”は、映像コンテンツ内の1つのフレーム、一連の複数のフレーム、又は少なくとも1つのフレームの所定時間内の離散集合などを含む概念である。また、“映像シーン”は、映像コンテンツに含まれる、少なくとも1つの断片映像を含む一連の複数のフレームを示す。また、“ダウンロード”“アップロード”は記憶してその後に使用する厳密なものではなく、一時的なデータ転送に対しても使用する。
[第1実施形態]
本発明の第1実施形態としての映像処理システム100について、図1を用いて説明する。映像処理システム100は、閲覧可能な映像コンテンツの内容を判定するためのシステムである。
図1に示すように、映像処理システム100は、断片映像ダウンロード部130と、第1の映像コンテンツ判定140と、を含む。断片映像ダウンロード部130は、判定対象の映像コンテンツ110中にあって、一連の複数のフレームを含む断片映像111〜11nのデータを、ネットワーク120を介してダウンロードする。第1の映像コンテンツ判定140は、ダウンロードした断片映像111〜11nのデータに基づいて、映像コンテンツ110の内容を判定する。
本実施形態によれば、閲覧可能な映像コンテンツの内容を、ダウンロードするデータ量を削減して判定することができる。
[第2実施形態]
次に本発明の第2実施形態に係る映像処理システムについて、説明する。第2実施形態では、映像コンテンツ配信サイトから新規にアップロードされた映像コンテンツの断片映像を、ネットワークを介してダウンロードし、新規にアップロードされた映像コンテンツの内容を判定して映像コンテンツ監視を行なう。本実施形態によれば、映像処理装置において、新規にアップロードされた映像コンテンツの内容を、ダウンロードするデータ量を削減して判定することができる。
《映像処理システムの構成》
図2は、本発明の第2実施形態に係る映像処理システムの構成を示すブロック図である。
図2において、210は映像処理装置であって、ネットワーク250を介して映像コンテンツ配信サイト220から断片映像を収集して映像コンテンツの内容を判定する装置である。220は映像コンテンツ配信サイトであって、映像コンテンツアップロード装置230からアップロードされた映像コンテンツを、映像コンテンツ視聴用端末240に配信する。なお、映像コンテンツ自体は、映像コンテンツ配信サイト220内にあっても、映像コンテンツアップロード装置230内にあっても、他の配信用映像コンテンツの貯蔵部(不図示)内にあってもよい。230は映像コンテンツアップロード装置であって、映像コンテンツ配信サイト220に映像コンテンツをアップロードする。図2には、ネットワーク250を介して映像コンテンツ配信サイト220にアップロードする映像コンテンツアップロード装置と、ローカルに映像コンテンツ配信サイト220にアップロードする映像コンテンツアップロード装置が示されている。なお、映像コンテンツアップロード装置230は映像コンテンツ視聴用端末240がその機能を有する場合もある。240は映像コンテンツ視聴用端であって、図2にように、デスクトップ型のパーソナルコンピュータ(以下、PC)やノートパソコン、モニタ、携帯電話などを含み、映像コンテンツ配信サイト220から映像コンテンツをダウンロードして視聴可能な機能を有する機器である。
本実施形態の映像処理装置210は、以下の機能構成部を有する。211は通信制御部であって、ネットワーク250を介して映像コンテンツ配信サイト220との通信を制御する。212は映像コンテンツクローラ部であって、通信制御部211を介してネットワーク250に接続する複数の映像コンテンツ配信サイト220から新規に登録された映像コンテンツの記憶場所を検索する。213は断片映像選択部であって、映像コンテンツクローラ部212が検索した内容を判定すべき映像コンテンツ内のどの断片映像をダウンロードすべきかを選択する。本実施形態では、予め設定された方法で断片映像が選択される。214は映像コンテンツの断片映像ダウンロード部であって、通信制御部211を介して、断片映像選択部213が選択した断片映像を、内容を判定すべき各映像コンテンツから抽出して、ダウンロードする。215は映像コンテンツDB(データベース)であって、内容を判定すべき映像コンテンツの断片映像と比較するための既知・既存の映像コンテンツを蓄積する。216は断片映像比較部であって、映像コンテンツの断片映像ダウンロード部214が映像コンテンツ配信サイト220からダウンロードした断片映像を、映像コンテンツDB215に蓄積されている既知・既存の映像コンテンツと順次に比較する。217は映像コンテンツ判定部であって、断片映像比較部216によるダウンロードした断片映像と映像コンテンツDB215に蓄積された映像コンテンツとの比較結果から、内容を判定すべき映像コンテンツが蓄積された映像コンテンツの全部又は一部と合致するかを判定し、その判定結果を出力する。かかる合致か否かの判定は、特徴的な一部の合致を条件にする場合も、全体的な合致の割合や合致部分の合致度合いを条件にする場合もある。
《映像処理システムの動作手順》
図3は、本実施形態に係る映像処理システムの動作手順300を示すシーケンス図である。なお、図3では、1つ1つの映像コンテンツの判定を順次に完了していく方式(深さ方式という)を明確にするため、映像コンテンツ配信サイトAとBとを設けている。
まず、ステップS301において、映像コンテンツアプロード装置から映像コンテンツ配信サイトに映像コンテンツがアプロードされる。映像コンテンツ配信サイトAとBとでは、ステップS303において、映像コンテンツの登録処理が行なわれる。
映像処理装置からは、ステップS305において、所定のタイミングで映像コンテンツのクローリングが実行される。なお、クローリングのタイミングは、一定時間置き、あるいは、映像コンテンツ配信サイトへの新規映像コンテンツの登録や蓄積数により決めてよい。ステップS307において、クローリングの結果である新規アプロード映像コンテンツの記憶場所が映像処理装置に報告される。
映像処理装置では、ステップS309において、最初に判定する映像コンテンツを選択する。なお、選択順は映像コンテンツのアップロード時間順など任意の順番でよい。次に、ステップS311において、ダウンロードする断片映像の映像コンテンツ中の位置を選択する。かかる断片映像の位置選択の数例が、図12を参照して後述される。ステップS313において、選択された断片映像が映像コンテンツ配信サイトに対して要求される。図3では、最初の映像コンテンツが映像コンテンツ配信サイトBにあるとしている。ステップS315において、映像コンテンツ配信サイトBから映像処理装置に対してネットワークを介して要求された断片映像がダウンロードされる。続いて、ステップS317において、ダウンロードされた断片映像を映像コンテンツDBの映像コンテンツと順次に比較して、合致する映像コンテンツあるいはその一部があるかの判定処理を行なう。
次に、ステップS319において、次に判定する映像コンテンツを選択する。そして、ステップS321において、ダウンロードする断片映像の映像コンテンツ中の位置を選択する。ステップS323において、選択された断片映像が映像コンテンツ配信サイトに対して要求される。図3では、次の映像コンテンツが映像コンテンツ配信サイトAにあるとしている。ステップS325において、映像コンテンツ配信サイトAから映像処理装置に対してネットワークを介して要求された断片映像がダウンロードされる。続いて、ステップS327において、ダウンロードされた断片映像を映像コンテンツDBの映像コンテンツと順次に比較して、合致する映像コンテンツあるいはその一部があるかの判定処理を行なう。
なお、上記の断片映像の要求、断片映像ダウンロード、映像コンテンツの判定処理は、断片映像の数にもよるが、一度に全部の断片映像の処理をするのではなく、所定数ごとの断片映像を順次に処理して合致と判定された時点で処理を停止すれば、ダウンロードする断片映像の容量の削減及び処理の高速化が図れる。また、合致する映像コンテンツあるいはその一部があるかの判定処理の結果は、映像処理装置から報知されてもよいし、映像コンテンツ配信サイトや映像コンテンプアップロード装置、あるいは映像視聴用端末に通知されてもよい。
《映像処理装置のハードウエア構成》
図4は、本実施形態に係る映像処理装置210のハードウエア構成を示すブロック図である。
図4で、CPU410は演算制御用のプロセッサであり、プログラムを実行することで図2の各機能構成部を実現する。ROM420は、初期データ及びプログラムなどの固定データ及びプログラムを記憶する。通信制御部430は、ネットワークを介して映像コンテンツ配信サイト220と通信する。通信は無線でも有線でもよい。なお、必要であれば、映像コンテンツ視聴用端末240とも通信する。
RAM440は、CPU410が一時記憶のワークエリアとして使用するランダムアクセスメモリである。RAM440には、本実施形態の実現に必要なデータを記憶する領域が確保されている。441は、クローリングの結果、映像コンテンツ配信サイト220から返答された新規にアップデートされた内容判定の対象映像コンテンツリストである(図5参照)。442は、断片映像の位置決めに使用されるオフセットや断片映像長などの、断片映像位置選択用の断片映像パラメータである。443は、選択された断片映像の位置を表わす断片映像選択リストである(図7参照)。444は、通信制御部211を介して映像コンテンツ配信サイト220からダウンロードされた断片映像データである。445は、ダウンロードされた断片映像と蓄積された映像コンテンツとの比較において、合致の条件として使用される断片映像合致判断用パラメータである。446は、各断片映像についての合致有無を示す断片映像合致有無フラグである。447は、最終の判定として、断片映像からそれを含む映像コンテンツの全体あるいは一部と合致する映像コンテンツが蓄積されているかの判定結果を示す対象映像コンテンツ判定結果リストである(図8参照)。
ストレージ450は、データベースや各種のパラメータ、あるいは本実施形態の実現に必要な以下のデータ又はプログラムが記憶されている。215は、映像コンテンツDBである(図9参照)。451は、断片映像パラメータ442として使用するための断片映像パラメータ用テーブルである(図6参照)。452は、断片映像を選択するためのアルゴリズムである断片映像選択アルゴリズムである(図12B参照)。453は、断片映像合致判断用パラメータ445を使用した断片映像の合致判断のアルゴリズムである断片映像合致判断アルゴリズムである。ストレージ450には、以下のプログラムが格納される。454は、全体の処理を実行させる映像処理プログラムである。455は、映像処理プログラム454において、クローリング処理を実行するクローリングモジュールである。456は、映像処理プログラム454において、ダウンロードする断片映像を選択する断片映像選択モジュールである(図11及び図12B参照)。457は、映像処理プログラム454において、選択された断片映像をダウンロードする断片映像ダウンロードモジュールである。458は、映像処理プログラム454において、断片映像と蓄積された映像コンテンツの合致を判定する断片映像合致判定モジュールである。
なお、図4には、本実施形態に必須なデータやプログラムのみが示されており、OSなどの汎用のデータやプログラムは図示されていない。
(対象映像コンテンツリストの構成)
図5は、本実施形態に係る対象映像コンテンツリスト441の構成を示す図である。
図5の対象映像コンテンツリスト441は、クローリングによって収集された新規にアップロードされた映像コンテンツのリストである。映像コンテンツ名(ID)501に対応付けて、種別502と、記憶サイズ503と、ダウンロード元のURL504と、時間長(時間)505が記憶される。なお、かかるデータに限定されない。種別502は、断片映像パラメータの決定に使用される。記憶サイズ503と時間長(時間)505とは、断片映像の選択位置を決めるために使用される。ダウンロード元のURL504は、断片映像のダウンロードにために使用される。なお、ダウンロード元のアドレスはURLに限定されない。
(断片映像パラメータ用テーブルの構成)
図6は、本実施形態に係る断片映像パラメータ用テーブル451の構成を示す図である。かかる断片映像パラメータ用テーブル451から、映像コンテンツの種別に応じた断片映像パラメータ442が選択されて断片選択に使用される。
断片映像パラメータ用テーブル451は、映像コンテンツの種別601に対応付けて、断片映像の時間間隔602、選択する断片映像数603、分割された時間帯のどの位置に断片映像を設定するかのオフセット604、断片映像長605を記憶する。なお、かかるパラメータに限定されない。また、図6では、時間により断片映像を管理する場合を示したが、相対位置によって管理してもよい。
時間間隔602は1つのデータではなく、例えば開始時は第1間隔、中半は第2間隔、終盤は第3間隔などと複数のデータを記憶してもよい。断片映像数603は時間間隔602とに関連するが、処理の高速化のために断片映像数603で制限して、所定場所からは断片映像の収集は行なわないような制御も可能である。逆に、時間間隔602を守り断片映像数603により制限されない選択も考えられる。オフセット604は、断片映像の位置が時間間隔602に基づいて周期的にならないように、基本的にはオフセット604を平均とするランダムな時間が設定されることになる。断片映像長605においても、1つのデータではなく、時間帯において明らかに映像のテンポが変わるものは異なる断片映像長がセットされる。また、断片映像長605は種別により固定されたものでなく、動的に変化してもよい。例えば、比較するフレームが特徴あるものであって、比較結果の合致判定に対する信頼度が高い場合は、所定の断片映像長で映像コンテンツの判定のための情報は十分であるので、断片映像長は変えない。一方、比較するフレームに特徴が少ないものは、比較結果の合致判定に対する信頼度が低いので、所定の断片映像長では映像コンテンツの判定のための情報は不十分であるので、信頼度が高い情報が得られるまで断片映像長を伸ばすよう調整する。人物が登場するフレームなどは信頼度が比較的高く、空や海などの風景のフレームは信頼度が比較的低いと言える。また、断片映像長605の指定はせずに、得られる信頼度に応じて結果的に断片映像長が得られるように制御することも出来る。上述のように、判定対象の映像コンテンツに対応して、判定速度と判定精度とを考慮して断片映像設定を行なうことになる。
(断片映像選択リストの構成)
図7は、本実施形態に係る断片映像選択リスト443の構成を示す図である。断片映像選択リスト443は、判定対象の各映像コンテンツからダウンロードして収集する断片映像を示す情報である。
断片映像選択リスト443は、判定対象の映像コンテンツID701と選択された断片映像SN702とに対応付けて、断片映像開始703と断片映像終了704とが記憶されている。断片映像SN702は、各映像コンテンツの断片映像に振られたシリアル番号である。なお、かかるデータに限定されない。また、断片映像開始703と断片映像終了704とは、時間であっても位置であってもよい。更に、断片映像開始703と断片映像長であっても同じである。断片映像終了704は、図6の断片映像長605について記載した如く、動的に変化する断片映像長に従って前後する。すなわち、比較結果の合致判定に対する信頼度が低い場合は、信頼度の高い情報が得られるまで断片映像終了704を後ろに伸ばすのことになる。また、断片映像長605を設定しない場合は、断片映像終了704も設定されず、信頼度の高い断片映像が得られた時点で断片終了が決定されることになる。
(断片映像コンテンツ判定結果リストの構成)
図8は、本実施形態に係る断片映像コンテンツ判定結果リスト447の構成を示す図である。断片映像コンテンツ判定結果リスト447は、断片映像選択リスト443の構成に更に、断片映像と映像コンテンツDBの映像コンテンツを比較した結果として、その一部が合致した映像コンテンツがあるが無いかを示す判定結果を付加した構成である。なお、この判定結果に基づいて、さらに断片映像を含む映像コンテンツを評価することも可能である。
断片映像コンテンツ判定結果リスト447は、映像コンテンツID801と断片映像SN802と断片映像開始803と断片映像終了804とに対応付けて、判定結果805が合致した映像コンテンツのIDと共に記憶される。断片映像終了804は、図7の断片映像終了704について記載した如く動的に制御された場合、当初は空白で信頼度が十分な断片映像をダウンロードした後に設定されることになる。なお、かかるデータに限定されない。
(映像コンテンツDBの構成)
図9は、本実施形態に係る映像コンテンツDB215の構成を示す図である。
映像コンテンツDB215は、既存・既知の映像コンテンツ名(ID)901に対応付けて、その制作者902、制作日時903、映像コンテンツデータ(又は、ポインタ)904が記憶される。なお、かかるデータに限定されない。
《映像処理装置の処理手順》
図10は、本実施形態に係る映像処理装置210の処理手順を示すフローチャートである。このフローチャートは、映像処理装置210のCPU410によってRAM440を使用しながら実行され、図2の各機能構成部を実現する。
まず、ステップS1001において、クローリングのタイミングを待つ。クローリングのタイミングになるとステップS1003に進んで、ネットワークに接続する全ての映像コンテンツ配信サイトに対するクローリング処理を行なう。ステップS1005においてクローリング結果の受信を待って、クローリング結果を受信するとステップS1007に進んで、図5の対象映像コンテンツリスト441を作成する。
次に、ステップS1009において、断片映像を選択するための断片映像パラメータ442(図6参照)を決定する(図11)。続いて、ステップS1011において、対象映像コンテンツごとに断片映像選択リスト443を作成する(図12A)。ステップS1013において、断片映像選択リスト443から所定数の断片映像を選択する。ステップS1015において、選択された所定数の断片映像のデータを映像コンテンツ配信サイトに要求する。ステップS1017において要求に応答した断片映像のダウンロードを待って、断片映像のダウンロードがあればステップS1019に進んで、断片映像を映像コンテンツDBに蓄積された映像コンテンツと比較する。
比較の結果から合致しない場合はステップS1021で更に比較する断片映像があるかを判断する。まだ比較する断片映像があればステップS1015に戻って、断片映像の比較を繰り返す。ステップS1021において全ての断片映像の比較が終了したと判断されれば、ステップS1025に進む。
一方、比較の結果から合致する場合はステップS1023に進んで、断片映像の合致が映像コンテンツの合致と見なせるかを判定する断片映像判定処理を行なう。ステップS1025において、他の判定対象の映像コンテンツが残っているかを判断し、残っていればステップS1013に戻って、次の映像コンテンツの判定を繰り返す。他の判定対象の映像コンテンツが残っていなければ、処理を終了する。
(断片映像パラメータ決定処理の処理手順)
図11は、本実施形態に係る断片映像パラメータ決定処理S1009の処理手順を示すフローチャートである。
まず、ステップS1101において、判定対象の映像コンテンツの種別を判定する。判定した種別に従って、ステップS1103において、断片映像パラメータ用テーブル451から種別に基づいて設定されているオフセットや断片映像長等を読み出す。そして、ステップS1105において、読み出したパラメータを断片映像パラメータ442に記憶する。
(断片映像選択リスト作成処理の処理手順)
図12Aは、本実施形態に係る断片映像選択リスト作成処理S1011の処理手順を示すフローチャートである。
まず。ステップS1201において、断片映像選択アルゴリズム452に従って、断片映像が含まれる領域を選択する。次に、ステップS1203において、各選択領域において、ランダムに選択されるオフセットと断片映像長とから断片映像開始と断片映像終了とを算出する。そして、ステップS1205において、断片映像選択リスト443の映像コンテンツと断片映像SNに対応付けて、断片映像開始と断片映像終了とを記憶する。ステップS1207において、全選択領域について断片映像位置の算出が行なわれたかを判断し、まだ算出が行なわれていない選択領域があればステップS1203に戻って、処理を繰り返す。なお、図6に関連して上述した如く、全ての選択領域において断片映像を必要としない場合は、その選択領域においてステップS1203とS1205との処理はスルーとなる。
図12Bは、本実施形態に係る断片映像選択アルゴリズム452を示す図である。本実施形態においては、1つの断片映像選択アルゴリズム452が使用される。なお、複数の断片映像選択アルゴリズムから映像コンテンツの種別や内容に基づいて、1つの断片映像選択アルゴリズムが選択される例については、第4実施形態において詳説する。なお、図12Bにおいて、断片映像選択アルゴリズムA−1からA−3は映像コンテンツの内容が不明の場合に好適な断片映像選択アルゴリズムであり、断片映像選択アルゴリズムB−1は映像コンテンツの内容が既知の場合に好適な断片映像選択アルゴリズムである。これらの断片映像選択アルゴリズムは、映像コンテンツに対応して更に組み合わせて使用される。
図12Bにおいて、1201は、断片映像選択アルゴリズムA−1である。この断片映像選択アルゴリズムA−1においては、映像コンテンツをn分割して、その分割領域の部分映像コンテンツにおいてランダムにオフセットを選んだ位置を断片映像の位置とする。断片映像長はT(映像コンテンツ長)/n以下である。
1202は、断片映像選択アルゴリズムA−2である。この断片映像選択アルゴリズムA−2においては、映像コンテンツを所定時間間隔(T0)に分割して、その分割領域においてランダムにオフセットを選んだ位置を断片映像の位置とする。断片映像長はT0以下である。
1203は、断片映像選択アルゴリズムA−3である。この断片映像選択アルゴリズムA−3においては、映像コンテンツの前後の一定時間を削除する。例えば、TVドラマであればコマーシャルやタイトル部分であって、この映像コンテンツを特徴付ける領域ではない。かかる処理の判断は、映像コンテンツの種別や予備的な断片映像から行なってよい。残った領域に対してA−1やA−2が適用される。
1204は、断片映像選択アルゴリズムB−1である。この断片映像選択アルゴリズムB−1においては、判定の有効であると考えられる領域を複数容易して、その複数領域からランダムに選択する。
[第3実施形態]
次に本発明の第3実施形態に係る映像処理システムについて、説明する。本実施形態に係る映像処理システムは、上記第2実施形態が深さ重視であった映像コンテンツの判定を、幅重視の映像コンテンツの判定をする点で異なる。ここで幅重視とは、1つ1つの映像コンテンツの判定を完了して次の判定に移るのではなく、判定対象の全映像コンテンツから所定数の断片映像を収集して比較判定をし、その時点で合致と判定された映像コンテンツは判定対象から除外する処理のことを言う。映像処理システムの動作手順のシーケンス及び映像処理装置の処理手順のフローチャート以外の構成及び動作は、第2実施形態と同様であるため詳しい説明を省略する。本実施形態によれば、合致しない映像コンテンツの最終比較まで待つことがないので、合致する映像コンテンツに判定が迅速に可能となる。
《映像処理システムの動作手順》
図13は、本実施形態に係る映像処理システムの動作手順1300を示すシーケンス図である。図13において、第2実施形態の図3と同様のステップには同じ参照番号が付されている。
ステップS301からS307までは、第2実施形態の図3と同様である。ステップS1311において、判定対象の各映像コンテンツから所定数の断片映像がダウンロード対象に選択される。ステップS1313においては、映像コンテンツ配信サイトA及びBに対して全ての判定対象映像コンテンツの所定数の断片映像のダウンロードが要求される。ステップS1315において、要求に応答して、全ての判定対象映像コンテンツの所定数の断片映像がダウンロードされる。
ステップS1317において、ダウンロードされた全ての判定対象映像コンテンツの所定数の断片映像が、映像コンテンツDBに蓄積された映像コンテンツと比較される。この時点で判定結果が確定した判別対象の映像コンテンツについては、以降の比較判定を停止する。ステップS1319においては、全ての判定対象映像コンテンツの判定結果が出たか否かが判断される。この場合の判定結果とは、合致の判定結果である。全ての判定対象映像コンテンツの判定結果が出れば処理は終了する。全ての判定対象映像コンテンツの判定結果が出てなければステップS1321に進んで、全ての断片映像についての判定が終了したかを判断する。全ての断片映像についての判定が終了していれば、処理は終了する。全ての断片映像についての判定が終了してなければステップS1311に戻って、次の所定数の断片映像について処理を繰り返す。
なお、上記の断片映像の要求、断片映像ダウンロード、映像コンテンツの判定処理は、判定対象の映像コンテンツの総数にもよるが、一度に全ての映像コンテンツの処理をするのではなく、1つ又は所定数の映像コンテンツごとの断片映像を順次に処理すれば、一時にダウンロードする断片映像の容量の削減及び処理の高速化が図れる。また、合致する映像コンテンツあるいはその一部があるかの判定処理の結果は、映像処理装置から報知されてもよいし、映像コンテンツ配信サイトや映像コンテンプアップロード装置、あるいは映像視聴用端末に通知されてもよい。
《映像処理装置の処理手順》
図14は、本実施形態に係る映像処理装置210の処理手順を示すフローチャートである。図14において、ステップS1413までの処理は、図10のステップS1001〜S1011と同様であるので、省いている。従って、図14は、断片映像選択リスと443が作成されて以降の処理を示している。
ステップS1413において、断片映像選択リスト443から判定対象の各映像コンテンツから所定数の断片映像を選択する。ステップS1415において、判定対象の各映像コンテンツ選択された所定数の断片映像のデータを映像コンテンツ配信サイトに要求する。ステップS1417において要求に応答した断片映像のダウンロードを待って、断片映像のダウンロードがあればステップS1419に進んで、断片映像を映像コンテンツDBに蓄積された映像コンテンツと比較する。
比較の結果から合致する場合はステップS1421に進んで、断片映像の合致が映像コンテンツの合致と見なせるかを判定する断片映像判定処理を行なう。一方、比較の結果から合致しない場合はステップS1423に進んで更に比較する映像コンテンツがあるかを判断する。まだ比較する映像コンテンツがあればステップS1415に戻って、次の映像コンテンツの断片映像の比較を繰り返す。ステップS1423において全ての映像コンテンツの比較が終了したと判断されれば、ステップS1425に進む。
ステップS1425において、全ての断片映像の比較が終了したかを判断し、残っていればステップS1413に戻って、次の所定数の断片映像について判定が終わってない映像コンテンツについて判定を繰り返す。断片映像が残っていなければ、処理を終了する。
[第4実施形態]
次に本発明の第4実施形態に係る映像処理システムについて、説明する。本実施形態に係る映像処理システムは、上記第2及び実施形態と比べると、1つの断片映像選択アルゴリズムが設定されるのに対して、複数の断片映像選択アルゴリズムを保持して判定対象の映像コンテンツに対応して使用する断片映像選択アルゴリズムを選んで適用する点で異なる。本実施形態では、複数の断片映像選択アルゴリズムから使用する断片映像選択アルゴリズムを選ぶ以外の構成及び動作は、第2及び第3実施形態と同様であるため、詳しい説明を省略する。本実施形態によれば、判定対象の映像コンテンツに対応した断片映像選択アルゴリズムを選ぶので、より正確な判定が可能であり、合致するものは迅速にその結果が出るので高速の判定も可能である。
《映像処理システムの構成》
図15は、本実施形態に係る映像処理システム1500の構成を示すブロック図である。図15の映像処理システム1500の構成は、図2の映像処理システム200の構成に断片映像選択アルゴリズムDB1511が付加された構成である。他の機能構成部は図2と同様であるので、説明は省略する。
断片映像選択アルゴリズムDB1511には、複数の断片映像選択アルゴリズムが判定対象の映像コンテンツの種別や内容に対応付けて記憶されている(図17参照)。断片映像選択部213は、クローリングされた判定対象の映像コンテンツに対応して断片映像選択アルゴリズムを選んで、断片映像を選択する。
《映像処理装置のハードウエア構成》
図16は、本実施形態に係る映像処理装置1510のハードウエア構成を示すブロック図である。図16の映像処理装置1510のハードウエア構成は、図4の映像処理装置210のハードウエア構成と比較して、複数の断片映像選択アルゴリズムから使用する断片映像選択アルゴリズムを選ぶ構成及び処理が変更または追加されている。他の同じ機能を果たす構成部には、図4と同じ参照番号を付し、説明は省略する。
RAM1640の使用する断片映像選択アルゴリズム1641は、判定対象の映像コンテンツに対応して選択された断片映像選択アルゴリズムである。RAM1640の変更は以上である。ストレージ1650には、断片映像選択アルゴリズムを選択するためにアルゴリズム選択テーブル1651と、映像コンテンツに対応して選択使用されるべく複数の断片映像選択アルゴリズムを格納するアルゴリズム記憶部である断片映像選択アルゴリズムDB1652とが付加されている。また、プログラムとしては、映像処理プログラム1654に含まれる、使用する断片映像選択アルゴリズムを選択するアルゴリズム選択モジュール1655が付加されている。なお、図16には、本実施形態に必須なデータやプログラムのみが示されており、OSなどの汎用のデータやプログラムは図示されていない。
(アルゴリズム選択テーブルの構成)
図17は、本実施形態に係るアルゴリズム選択テーブル1651の構成を示す図である。
アルゴリズム選択テーブル1651は、判定対象の映像コンテンツの種別1701と内容1702とに対応付けて、使用する主要な断片映像選択アルゴリズム1703と他の使用する断片映像選択アルゴリズム1704とが記憶される。
かかるアルゴリズム選択テーブル1651に従って、断片映像選択アルゴリズムDB(不図示:図12参照)から使用する断片映像選択アルゴリズムを選択する。
《映像処理装置の処理手順》
図18は、本実施形態に係る映像処理装置1510の処理手順を示すフローチャートである。図18の処理手順は、図10の処理手順のステップS1009とS1011との部分を差し替えたものである。なお、同じ手順のステップS1009とS1011とはそのまま図示されている。他の処理手順は図10と同様であるので、省略している。
ステップS1009の断片映像パラメータの決定処理の後、ステップS1801において、アルゴリズム選択テーブル1651に従って使用する断片映像選択アルゴリズムを選択する。ステップS1011において、選択された断片映像選択アルゴリズムを使用して、断片映像選択リスト443が作成される。ステップS1803においては、他のアルゴリズムを使用するかが判断され、使用する場合はステップS1801に戻って、他のアルゴリズムによる処理が繰り返される。そのご、図10のステップS1013以降の処理が実行される。
なお、他のアルゴリズムの使用は、図17に示したように、複数のアルゴリズムを組み合わせるためにも使用されるが、例えば、1つのアルゴリズムでは合致しない場合に他のアルゴリズムでも合致しないかを検証するためにも使用される。
[第5実施形態]
次に本発明の第5実施形態に係る映像処理システムについて、説明する。本実施形態に係る映像処理システムは、上記第2乃至第4実施形態と比べると、断片映像と蓄積された映像コンテンツの比較にフレーム特徴量を使用する点で異なる。その他の構成及び動作は、第2乃至第4実施形態と同様であるため、詳しい説明を省略する。本実施形態によれば、合致の比較をデータ量が削減されたフレーム特徴量に基づいて行うので、少ない記憶容量により高速な判定が可能になる。
《映像処理システムの構成》
図19は、本実施形態に係る映像処理システム1900の構成を示すブロック図である。図19の映像処理システム1900の構成で、図2の映像処理システム200の構成と異なるのは、次の点である。すなわち、映像処理装置1910が、ダウンロードされた断片映像の各フレームからフレーム特徴量を抽出するフレーム特徴量抽出部1911と、比較する映像コンテンツをフレーム特徴量で蓄積する映像コンテンツフレーム特徴量DB1915と、断片映像と映像コンテンツとをフレーム特徴量で比較する断片映像特徴量比較部1916とを有することである。他の機能構成部で同様の機能を果たす機能構成部には図2と同じ参照番号を付し、説明は省略する。
《フレーム特徴量抽出部の構成》
図20Aは、本実施形態に係るフレーム特徴量抽出部1911の構成を示すブロック図である。本実施形態で適用されるフレーム特徴量抽出部1911は、MPEG7の標準化で採用されているビデオシグネチャを抽出する機能構成部である。
図20Aにおいて、出力されるフレーム特徴量2050は、撮影された映像の各フレーム画像中に多数のサイズの大小や形状の異なる領域対を設けて、この領域間の領域特徴量の一種である平均輝度値の差分を量子化(実際には3値に)し、符号化したものである。次元決定部2010は、領域対の数を決定する。1次元が1領域対に相当する。抽出領域取得部2020は、次元決定部2010の決定に従って、フレーム特徴量を算出する各次元の領域対を取得する。領域特徴量算出部2030は第1領域特徴量算出部2031と第2領域特徴量算出部2032とを有し、それぞれ各次元の領域対の一方の領域の領域特徴量の一種である平均輝度を算出する。領域特徴量差分符号化部2040は、領域対のそれぞれの領域特徴量の一種である平均輝度の差分を取って、その差分を第3閾値に従って量子符号化してフレーム特徴量2050を出力する。
なお、本例では、以下、平均輝度により領域特徴量を代表させて説明するが、領域特徴量は領域の平均輝度には限定されない、輝度の他の処理や輝度以外のフレームの特徴量も適用できる。
図20Bは、本実施形態に係るフレーム特徴量抽出部1911における処理2000を示す図である。
図20Bの2020aは、図20Aの抽出領域取得部2020が取得した領域対の数例を示している。2020aにおいて、外枠がフレームを示しており、内部の各矩形が領域を示している。
図20Bの2030aは、フレーム画像内において、抽出領域取得部2020からの領域対により抽出された領域とその領域間の差分を取る関係を表現したものである。フレーム画像内に領域対の2つの領域が抽出されて、それぞれの領域に含まれる画素の平均輝度が算出され、その差分が算出さる様子を各領域の中心を結ぶ矢印で示している。
図20Bの2040aは、算出された差分を量子符号化する様子を示したものである。2040aでは、図20Aにおける第1領域特徴量から第2領域特徴量を差し引いた差分が、差分“0”(平均輝度が等しい場合に相当)を中心とする上記第3閾値である破線で示した差分内であれば、“0”を量子符号化の出力値とする。同じ差分が破線位置よりも大きな正(+)の値であれば、“+1”を量子符号化の出力値とする。同じ差分が破線位置よりも大きな負(−)の値であれば、“−1”を量子符号化の出力値とする。このように、“−1”、“0”、“+1”の3値に符号化するのは、次元毎のデータ量を少なくして、できるだけ多次元の情報を生成することでフレーム特徴量の分離を容易にし、かつフレーム特徴量の比較の計算量を削減するためである。従って、上記3値の例に限定する必要はない。なお、破線で示す第3閾値は、使用される全次元の差分値の分布から“0”と量子化する差分値の割合から選定される。一例としては、“0”と量子化する差分値の割合を50%にするような値を選定する。
図20Bの2050aは、差分の量子符号化の結果を集めて生成されたフレーム特徴量の例を示している。フレーム特徴量は、簡単な例としては、差分の量子符号化された値を一次元方向に次元順に並べたものである。なお、単純に差分の量子符号化された値を一次元方向に次元順に並べたものではなく、多次元方向に並べたものや更に追加の演算を加えたものであってもよく、本例には限定されない、
図20Cは、本実施形態に係るフレーム特徴量抽出部1911における抽出領域を示す図である。
図20Bの2020aには、各次元の領域対は2つの矩形領域で示された。しかしながら、フレームを適切に表現するフレーム特徴量を算出するためには、矩形以外の形状が望ましい場合もある。図20Cに示す抽出領域は、2つの矩形領域ではない領域対を例示している。図20Bの2040aで示したように各次元を3値化することで、実時間のフレーム特徴量の比較や、フレーム特徴量の集合である映像コンテンツのフレーム特徴量群の比較を実現する場合であっても、数百次元を設定することが可能である。
(映像コンテンツフレーム特徴量DBの構成)
図21は、本実施形態に係る映像コンテンツフレーム特徴量DB1915の構成を示す図である。
図21の映像コンテンツフレーム特徴量DB1915には、映像コンテンツ名(ID)2101に対応付けて、制作社2102、制作日時2103、フレームIDにそれぞれ対応つけられたフレーム特徴量2104が記憶される。映像コンテンツ2110としてはフレーム特徴量列2111が格納され、映像コンテンツ2120としてはフレーム特徴量列2121が格納される。
(断片映像コンテンツ判定結果リストの構成)
図22は、本実施形態に係る断片映像コンテンツ判定結果リスト2200の構成を示す図である。図22の断片映像コンテンツ判定結果リスト2200は、第2実施形態の図8の断片映像コンテンツ判定結果リスト447に、断片映像のフレーム特徴量と、フレーム特徴量の比較により判定が可能となる関連する映像コンテンツとが追加されている。また、判定結果には映像コンテンツのみではなく、その1シーンが判定結果として記憶されている。
すなわち、図22の断片映像コンテンツ判定結果リスト2200は、映像コンテンツID2201と断片映像SN2202と断片映像開始2203と断片映像終了2204とに対応付けて、フレーム特徴量列2205と、合致した映像コンテンツのID及びシーンIDと共に記憶される判定結果2206と、関連する映像コンテンツのID及びシーンID2207とが記憶される。第2実施形態の図6乃至図8の説明でも記載した如く、断片映像終了2204について、最初から固定したものではなく動的に変化するものでもよい。第5実施形態ではフレーム特徴量を比較して合致か否かを判定するので、フレーム特徴量の信頼度が閾値以上のフレーム特徴量が所定量得られるように、断片映像の終了を動的に変化させる。フレーム特徴量は、2つの領域の輝度値の差分に基づいて演算された場合、例えば、フレーム内の輝度値の変化が大きい場合は信頼度が高く、輝度値の変化が少ないフレームのフレーム特徴量は信頼度は低いと言える。なお、かかるデータに限定されない。
[第6実施形態]
次に本発明の第6実施形態に係る映像処理システムについて、説明する。本実施形態に係る映像処理システムは、上記第5実施形態と比べると、フレーム特徴量の抽出が映像コンテンツ配信サイトや映像コンテンツアップロード装置で行なわれる点で異なる。その為、映像処理装置は、判定対象の映像コンテンツの断片映像を映像データではなく断片映像のフレーム特徴量でダウンロードする。その他の構成及び動作は、第5実施形態と同様であるため、詳しい説明を省略する。本実施形態によれば、第5実施形態の効果に加えて、断片映像のダウンロードをフレーム特徴量で行なうので、通信容量を飛躍的に減少できる。
《映像処理システムの構成》
図23は、本実施形態に係る映像処理システム2300の構成を示すブロック図である。図23の映像処理システム2300において、図19の映像処理システム1900と同様の機能構成部には同じ参照番号を付した。以下相違点のみを説明する。
映像処理装置2310は、映像処理装置1910の映像コンテンツの断片映像ダウンロード部214の代わりに、断片映像のから既に抽出されたフレーム特徴量を、ネットワーク250を介してダウンロードする映像コンテンツの断片映像フレーム特徴量ダウンロード部2314を有する。そして、図19の映像処理装置1910が有していたフレーム特徴量抽出部1911を有しない。その他は図19と同様である。
一方、映像コンテンツ配信サイト2320は、フレーム特徴量抽出部2321を有し、映像コンテンツアップロード装置2330も、フレーム特徴量抽出部2331を有している。
[第7実施形態]
次に本発明の第7実施形態に係る映像処理システムについて、説明する。本実施形態に係る映像処理システムは、上記第2乃至第6実施形態と比べると、断片映像を比較しても映像コンテンツの判定を確定できない場合に、映像コンテンツ全体をダウンロードして判定結果を確実にする点で異なる。断片映像の比較による映像コンテンツの判定の構成及び動作は、第2実施形態と同様であるため、同じ構成及び動作については同じ符号を付してその詳しい説明を省略する。本実施形態によれば、断片映像による比較では合致するか否かが明瞭に確定できない場合においても、確実に判定結果を出力可能である。
《映像処理システムの構成》
図24は、本実施形態に係る映像処理システム2400の構成を示すブロック図である。図24の映像処理システム2400の映像処理装置2410は、映像コンテンツをダウンロードして比較する部分が付加されたが、断片映像の比較による部分は第2実施形態の図2と同様であるので、同じ機能構成部には同じ参照番号を付し、説明は省略する。
映像処理装置2410において、第1映像コンテンツ判定部2417は、図2の映像コンテンツ判定部217と同様の判定処理をするが、第1映像コンテンツ判定部2417では明確に合致すると判定されないが合致する可能性のある結果を、次の映像コンテンツダウンロード部2418に伝達する点が異なる。第2実施形態では、明確に合致すると判定されないが合致する可能性のある結果は、合致するか否かに切り分けるか、不明として出力するしかない。本実施形態では、第2の映像コンテンツ判定で、不明な部分を更に明確に判定する。
映像コンテンツダウンロード部2418は、断片映像の比較では明確な判定が出来ない映像コンテンツを、通信制御部211を介して映像コンテンツ配信サイト220からダウンロードする。映像コンテンツ比較部2419は、ダウンロードされた映像コンテンツと映像コンテンツDB215に蓄積された映像コンテンツを順次に比較する。第2映像コンテンツ判定部2420は、映像コンテンツの比較結果から、映像コンテンツの全体あるいはその一部が合致するか否かを判定して、第1映像コンテンツ判定部2417の結果と共に出力する。
なお、第7実施形態において、第5及び第6実施形態のように、フレーム特徴量を使用して通信や比較を実施すれば、通信容量を大幅に削減でき、処理速度も高速となる。
《映像処理システムの動作手順》
図25は、本実施形態に係る映像処理システム2400の動作手順2500を示すシーケンス図である。図25の動作手順2500において、断片映像の比較による合致の判定までは、図3の動作手順300と同様であるので、同じ参照番号を付して説明は省略する。
断片映像の比較で合致せずに(S315の非合致)、断片映像が既に無い場合(S317のNO)、ステップS2511において、判定対象の映像コンテンツのダウンロードを要求する。ステップS2513において、要求に応答して映像コンテンツ配信サイト220から映像コンテンツがダウンロードされる。ステップS2517においては、ダウンロードした映像コンテンツと演奏コンテンツDBに蓄積された映像コンテンツとが比較される。比較結果から合致が無ければステップS321に進んで、他の映像コンテンツがあるかを判断し、無ければ終了、有ればステップS309に戻って次の映像コンテンツの判定処理を繰り返す。一方、映像コンテンツの比較で合致すれば、断片映像の比較結果の合致と加えられて、ステップS319において、映像コンテンツの判定結果を出力する。
《映像処理装置の処理手順》
図26は、本実施形態に係る映像処理装置2410の処理手順を示すフローチャートである。なお、映像処理装置2410の構成は、図2の映像処理装置とは異なるが、第2映像コンテンツ比較及び判定に係る構成が付加されるのみなので、図示はしない。なお、次の第8実施形態の映像処理装置2710の構成を図示した図27を最小すれば、映像処理装置2410の構成は自明である。
図26において、断片映像による比較・判定は図10の処理手順と同様であり、同じステップには同じ参照番号を付し、説明は省略する。ステップS1021において、断片映像の比較において非合致で(S1019の非合致)、比較していない断片映像が無い場合(S1021のNO)、ステップS2601に進んで、判定対象の映像コンテンツを持つ映像コンテンツ配信サイト220に対して映像コンテンツのダウンロードを要求する。ステップS2603において映像コンテンツのダウンロードを待って、ダウンロードがあればステップS2605に進む。ステップS2605において、ダウンロードした映像コンテンツと映像コンテンツDBに蓄積された映像コンテンツとを比較する。合致しなければステップS1025に進んで次に映像コンテンツの判定に進む、合致すればステップS2607において、映像コンテンツの判定処理を行なう。
なお、映像コンテンツの比較においては、映像コンテンツDBのすべての映像コンテンツと比較するのではなく、断片映像との比較における合致レベルに対応して、より合致している可能性が高い物から比較を行なう方法や、全く合致の可能性の無かったものは比較から削除するなどの、判定の高速化の工夫も考えられる。
[第8実施形態]
次に本発明の第8実施形態に係る映像処理システムについて、説明する。本実施形態に係る映像処理システムは、上記第7実施形態と比べると、判定結果が合致するか否かでなく違法性があるか否かの映像コンテンツ監視である点、及び比較がフレーム特徴量で行なわれている点で異なる。違法性とは、アップロードされた映像コンテンツに既存の映像コンテンツの全部あるいは一部が使用されているような著作権の問題と、あるいはその映像が公序良俗の観点から配信されるべきでない内容であるものとを含む。本実施形態においては、著作権の問題(既存のシーンのコピーを含む)として説明する。第8実施形態は、第7実施形態の判定を違法性判定に置き換えた、且つ第5実施形態のフレーム特徴量抽出部を設けたものであり、構成及び動作は第5実施形態と第7実施形態とを組み合わせたものと同様であるため、同じ構成及び動作については同じ符号を付してその詳しい説明を省略する。
本実施形態によれば、違法性判定の対象である映像コンテンツの収集をその断片映像のフレーム特徴量で行なうので、通信容量を削減でき高速な違法性判断が実現できる。
《映像処理システムの構成》
図27は、本実施形態に係る映像処理システム2700の構成を示すブロック図である。図27の映像処理システム2700の映像処理装置2710においては、第5実施形態の図19の構成に、更に次の機能構成部が付加されている。
第1違法性判定部2717は、断片映像特徴量比較部1916の断片映像の比較結果から、既知の映像コンテンツに合致するシーンが判定対象の映像コンテンツに含まれている場合に、違法性ありと判断する。映像コンテンツダウンロード部2418は、第7実施形態と同様に第1違法性判定部2717で判定がどちらとも不明な場合に、更に映像コンテンツのダウンロードを行なう。フレーム特徴量抽出部2711は、ダウンロードされた映像コンテンツのフレーム特徴量を抽出する。映像コンテンツ特徴量比較部2719は、フレーム特徴量抽出部2711で抽出された映像コンテンツのフレーム特徴量と、映像コンテンツフレーム特徴量DB1915の映像コンテンツのフレーム特徴量とお比較する。第2違法性判定部2720は、映像コンテンツ特徴量比較部2719の比較結果から、映像コンテンツに合致したシーンが含まれていたならば、あるいは類似したシーンが多く見付かったならば、違法性ありとする。判定結果通知部2712は、第1違法性判定部2717または第2違法性判定部2720のいずれかで違法性が判定されれば、映像コンテンツ配信サイト220あるいは映像コンテンツアップロード装置230の操作者に対して、違法性のある映像コンテンツがアップロードされたことを通知して、注意を促す。
《映像処理システムの動作手順》
図28は、本実施形態に係る映像処理システム2700の動作手順2800を示すシーケンス図である。図28において、図3あるいは図25と同じステップには同じ参照番号を付して、説明は省略する。
図28においては、ステップS313において所定数の断片映像をダウンロードした後、ステップS2801において断片映像のフレーム特徴量の抽出を行なう。また、ステップS2513において、映像コンテンツをダウンロードした後、ステップS2802において映像コンテンツのフレーム特徴量を抽出する。そして、フレーム特徴量による断片映像の比較、あるいは映像コンテンツの比較で合致のレベルが所定条件を満たす場合には、ステップS2819において映像コンテンツの違法性を判定する。違法性の判定基準としては既存の基準が使用される。また、ステップS2823において、違法製の判定結果については、映像コンテンツ配信サイト、あるいはアップロード元である映像コンテンツアプロード装置に対して通知される。
《映像処理装置の構成》
図29は、本実施形態に係る映像処理装置2710のハードウエア構成を示すブロック図である。図29の映像処理装置2710について、図4の映像処理装置210との相違点について以下説明する。なお、図4と同様な構成には同じ参照番号を付して、説明を省略する。
RAM2940において、ダウンロードした断片映像データから抽出したフレーム特徴量である断片映像フレーム特徴量2941が記憶される。また、断片映像による比較判定の結果の、断片映像合致有無/不明フラグ2942が記憶される。本実施形態では、かかる断片映像合致有無/不明フラグ2942が不明を示す場合に、映像コンテンツのダウンロードと比較判定が行なわれる。また、ダウンロードされた映像コンテンツデータ2943が記憶される。また、ダウンロードされた映像コンテンツデータから抽出された映像コンテンツフレーム特徴量2944が記憶される。映像コンテンツの比較における合致判断の映像コンテンツ合致判断用パラメータ2945が記憶される。また、映像コンテンツ舒合致があるか否かの映像コンテンツ合致有無フラグ2946が記憶される。また、断片映像合致有無と映像コンテンツ合致有無とにもとづいて、判定された違法性を示す、対象映像コンテンツ違法性判定結果リスト2947が記憶される(図30参照)。
ストレージ2950には、映像コンテンツフレーム特徴量DB1915が格納される。また、映像コンテンツの違法性判断のためのアルゴリズムである映像コンテンツ違法製判断アルゴリズム2953が格納される。また、本実施形態の映像処理プログラム2954が格納される(図31参照)。そして、映像処理プログラム2954に含まれる、ダウンロードされた断片映像及び映像コンテンツからフレーム特徴量を抽出するフレーム特徴量抽出モジュール2958が格納される、また、映像処理プログラム2954に含まれる、断片映像から違法性を判定する断片映像違法性判定モジュール2959が格納される。また、映像処理プログラム2954に含まれる、映像コンテンツをダウンロードする映像コテンツダウンロードモジュール2960が格納される。また、映像処理プログラム2954に含まれる、映像コンテンツから違法性を判定する映像コンテンツ違法性判定モジュール2961が格納される。なお、図29には、本実施形態に必須なデータやプログラムのみが示されており、OSなどの汎用のデータやプログラムは図示されていない。
(対象映像コンテンツ違法性判定結果リストの構成)
図30は、本実施形態に係る対象映像コンテンツ違法性判定結果リスト2947の構成を示す図である。
図30の対象映像コンテンツ違法性判定結果リスト2947においては、違法性判定対象の映像コンテンツID3001に対応付けて、以下のデータが記憶されている。3002は、映像コンテンツから抽出されたフレーム特徴量である。3003は、映像コンテンツの比較による合致/非合致の結果である。3004は、選択された断片映像のSN(シリアル番号)だえる。3005は、断片映像から抽出されたフレーム特徴量である。3006は、断片映像のフレーム特徴量の比較結果による判定結果である。2007は、類似の関連する映像コンテンツあるいはシーンである。3008は、各断片映像の比較による合致/不明/非合致の結果である。3009は、映像コンテンツの合致/非合致、断片映像の合致/不明/非合致の結果から判定された違法性の有無の結果である。
映像コンテンツIDが“1001”の映像コンテンツでは、断片映像の比較で既知の映像コンテンツまたはシーンとの合致があるので、映像コンテンツのダウンロードと比較判定無しに、違法性有り、と判定されている。一方、映像コンテンツIDが“2010”の映像コンテンツでは、断片映像の比較では合致か否か不明であるので、映像コンテンツのダウンロードと比較判定が行なわれ、映像コンテンツの比較で合致しなかったので、違法性無し、と判定している。
《映像処理装置の処理手順》
図31は、本8実施形態に係る映像処理装置2710の処理手順を示すフローチャートである。このフローチャートは、図27のCPU410がRAM2940を使用しながら実行して、図27の各機能構成部を実現する。なお、図31において、図26と同じステップについては同じ参照番号を付し、説明は省略する。
まず、ステップS3101においては、ダウンロードされた断片映像からフレーム特徴量を抽出する。また、ステップS3103においては、ダウンロードされた映像コンテンツからフレーム特徴量を抽出する。
そして、ステップS1019における断片映像のフレーム特徴量と、映像コンテンツフレーム特徴量DBのフレーム特徴量との比較によって、断片映像と映像コンテンツとが合致した場合に、ステップS3123において、断片映像による違法性の判定処理を行なう。また、ステップS2605におけるダウンロードした映像コンテンツのフレーム特徴量と、映像コンテンツフレーム特徴量DBのフレーム特徴量との比較によって、ダウンロードした映像コンテンツと映像コンテンツフレーム特徴量DBの映像コンテンツとが合致した場合に、ステップS3107において、映像コンテンツによる違法性の判定処理を行なう。
最後に、ステップS3127において、違法性のあった映像コンテンツについて、映像コンテンツ配信サイトまたは映像コンテンツアップロード装置にその旨を通知して、注意を促す。
なお、第8実施形態において、各映像コンテンツ配信サイトまたは映像コンテンツアプロード装置がフレーム特徴量抽出部を有する構成とすれば、ネットワークの通信容量の削減となる。
[他の実施形態]
以上、実施形態を参照して本発明を説明したが、本発明は上記実施形態に限定されものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。また、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステム又は装置も、本発明の範疇に含まれる。
また、本発明は、複数の機器から構成されるシステムに適用されても良いし、単体の装置に適用されても良い。さらに、本発明は、実施形態の機能を実現する制御プログラムが、システムあるいは装置に直接あるいは遠隔から供給される場合にも適用可能である。したがって、本発明の機能をコンピュータで実現するために、コンピュータにインストールされる制御プログラム、あるいはその制御プログラムを格納した媒体、その制御プログラムをダウンロードさせるWWW(World Wide Web)サーバも、本発明の範疇に含まれる。
この出願は、2011年3月25日に出願された日本国特許出願 特願2011−067641号を基礎とする優先権を主張し、その開示の全てをここに取り込む。

Claims (28)

  1. 判定対象の映像コンテンツ中から、映像シーンを考慮せずに選択された断片映像であって、前記映像コンテンツ内の一連の複数のフレームを含む前記断片映像のデータを、ネットワークを介してダウンロードする断片映像ダウンロード手段と、
    前記ダウンロードした断片映像のデータに基づいて、前記映像コンテンツの内容を判定する第1の映像コンテンツ判定手段と、
    を備え
    前記断片映像ダウンロード手段は、ダウンロードする断片映像の数と各断片映像の時間長とを前記第1の映像コンテンツ判定手段による判定速度と判定精度とを考慮して設定する断片映像設定手段を有し、
    前記第1の映像コンテンツ判定手段は、前記断片映像の各フレームから抽出したフレーム特徴量を含み、前記一連の複数のフレームに対応するフレーム特徴量列と、予め登録された映像コンテンツ全体のフレーム特徴量列との比較に基づいて、前記断片映像を含んだ映像シーン又は映像コンテンツと、前記予め登録された映像コンテンツの映像シーン又は該映像コンテンツとが合致するか否かを判定することを特徴とする映像処理システム。
  2. 前記第1の映像コンテンツ判定手段が、前記断片映像を含んだ映像シーン又は映像コンテンツと、前記予め登録された映像コンテンツの映像シーン又は該映像コンテンツとが合致すると判定した場合に、前記断片映像を含んだ映像コンテンツが違法性を有すると判定する第1の違法性判定手段をさらに備えることを特徴とする請求項に記載の映像処理システム。
  3. 前記断片映像ダウンロード手段が断片映像のデータをダウンロードする判定対象の映像コンテンツを、映像コンテンツ配信サイトにアップロードされた映像コンテンツから選択する映像コンテンツ選択手段をさらに備えることを特徴とする請求項1または2に記載の映像処理システム。
  4. 前記映像コンテンツ選択手段は、映像コンテンツ配信サイトにアップロードされた映像コンテンツをクローリングする映像コンテンツクローラを含むことを特徴とする請求項に記載の映像処理システム。
  5. 前記第1の映像コンテンツ判定手段の判定結果から前記映像コンテンツの内容のさらに正確な判定が必要な場合に、前記映像コンテンツ全体のデータをダウンロードするコンテンツダウンロード手段と、
    前記ダウンロードされた映像コンテンツ全体のデータから前記映像コンテンツの内容を判定する第2の映像コンテンツ判定手段と、
    をさらに備え
    前記第2の映像コンテンツ判定手段は、前記映像コンテンツ全体の各フレームから抽出したフレーム特徴量を含み、前記映像コンテンツ全体に対応するフレーム特徴量列と、予め登録された映像コンテンツのフレーム特徴量列との比較に基づいて、前記映像コンテンツ全体と、前記予め登録された映像コンテンツ又は前記予め登録された映像コンテンツの映像シーンとの合致のレベルを判定することを特徴とする請求項1乃至のいずれか1項に記載の映像処理システム。
  6. 前記第2の映像コンテンツ判定手段が、前記映像コンテンツ全体と、予め登録された映像コンテンツ又は前記予め登録された映像コンテンツの映像シーンとの合致のレベルが所定条件を満たすと判定した場合に、前記映像コンテンツが違法性を有すると判定する第2の違法性判定手段をさらに備えることを特徴とする請求項に記載の映像処理システム。
  7. 映像コンテンツを配信する映像コンテンツ配信サイトが前記フレーム特徴量を抽出するフレーム特徴量抽出手段を有し、ネットワークを介して前記フレーム特徴量がダウンロードされることを特徴とする請求項1乃至6のいずれか1項に記載の映像処理システム。
  8. 前記フレーム特徴量は、各フレームに異なるサイズで設定された複数の領域対の各領域対に対して算出された領域特徴量の差分を領域対の数だけ組み合せたデータであることを特徴とする請求項1乃至7のいずれか1項に記載の映像処理システム。
  9. 前記領域特徴量は、輝度で表わされることを特徴とする請求項に記載の映像処理システム。
  10. 複数の映像コンテンツの内容を判定する場合に、前記断片映像ダウンロード手段と前記第1の映像コンテンツ判定手段とによる処理手順を制御する制御手段をさらに備え、
    前記制御手段は、所定数の断片映像についての前記断片映像ダウンロード手段によるダウンロードと前記第1の映像コンテンツ判定手段による判定とを、各映像コンテンツに対して繰り返させ、前記第1の映像コンテンツ判定手段による判定が確定した映像コンテンツに対しては以降のダウンロードと判定とを停止するよう制御することを特徴とする請求項1乃至のいずれか1項に記載の映像処理システム。
  11. 複数の映像コンテンツの内容を判定する場合に、前記断片映像ダウンロード手段と前記第1の映像コンテンツ判定手段とによる処理手順を制御する制御手段をさらに備え、
    前記制御手段は、前記断片映像ダウンロード手段によるダウンロードと前記第1の映像コンテンツ判定手段による判定とを、各映像コンテンツの全ての選択された断片映像に対して順次に行ない、前記第1の映像コンテンツ判定手段による判定が確定した場合に以降のダウンロードと判定とを停止して次の映像コンテンツを処理するよう制御することを特徴とする請求項1乃至のいずれか1項に記載の映像処理システム。
  12. 前記第1の映像コンテンツ判定手段又は前記第2の映像コンテンツ判定手段による判定結果を、前記映像コンテンツを有する映像コンテンツ配信サイト又は前記映像コンテンツを前記映像コンテンツ配信サイトにアップロードしたアップロード元に通知する判定結果通知手段をさらに備えることを特徴とする請求項に記載の映像処理システム。
  13. 前記第1の違法性判定手段による判定結果を、前記映像コンテンツを有する映像コンテンツ配信サイト又は前記映像コンテンツを前記映像コンテンツ配信サイトにアップロードしたアップロード元に通知する判定結果通知手段をさらに備えることを特徴とする請求項に記載の映像処理システム。
  14. 前記第2の違法性判定手段による判定結果を、前記映像コンテンツを有する映像コンテンツ配信サイト又は前記映像コンテンツを前記映像コンテンツ配信サイトにアップロードしたアップロード元に通知する判定結果通知手段をさらに備えることを特徴とする請求項に記載の映像処理システム。
  15. 前記断片映像ダウンロード手段は、前記第1の映像コンテンツ判定手段の判定対象である映像コンテンツからダウンロードすべき断片映像を選択するためのアルゴリズムを有し、前記アルゴリズムにしたがってダウンロードすべき断片映像を選択することを特徴とする請求項1乃至14のいずれか1項に記載の映像処理システム。
  16. 前記断片映像ダウンロード手段は、前記第1の映像コンテンツ判定手段の判定対象である映像コンテンツの種別に対応付けて複数の異なるアルゴリズムを記憶するアルゴリズム記憶手段を有し、
    前記第1の映像コンテンツ判定手段の判定対象である映像コンテンツの種別に対応するアルゴリズムを使用して断片映像を選択することを特徴とする請求項15に記載の映像処理システム。
  17. 前記断片映像ダウンロード手段は、複数の異なるアルゴリズムを記憶するアルゴリズム記憶手段を有し、
    前記第1の映像コンテンツ判定手段の判定結果にしたがって、前記アルゴリズム記憶手段に記憶された他の異なるアルゴリズムを使用して断片映像を選択することを特徴とする請求項15に記載の映像処理システム。
  18. 前記アルゴリズムは、映像コンテンツを所定数に分割し、分割した部分映像コンテンツから断片映像を選択するアルゴリズムを含むことを特徴とする請求項15乃至17のいずれか1項に記載の映像処理システム。
  19. 前記アルゴリズムは、映像コンテンツを所定時間間隔で分割して、分割した部分映像コンテンツから断片映像を選択するアルゴリズムを含むことを特徴とする請求項15乃至17のいずれか1項に記載の映像処理システム。
  20. 前記アルゴリズムでは、前記断片映像をダウンロードすべき部分映像コンテンツを前記分割した部分映像コンテンツの中からランダムに選択することを特徴とする請求項18または19に記載の映像処理システム。
  21. 前記アルゴリズムは、前記分割した部分映像コンテンツの開始又は終了からオフセットした位置の断片映像を選択するアルゴリズムを含むことを特徴とする請求項18乃至20のいずれか1項に記載の映像処理システム。
  22. 前記アルゴリズムは、映像コンテンツに関連する情報に基づいて断片映像を選択するアルゴリズムを含むことを特徴とする請求項15乃至17のいずれか1項に記載の映像処理システム。
  23. 前記アルゴリズムは、映像コンテンツの開始及び終了からの所定時間内からは断片映像を選択しないアルゴリズムを含むことを特徴とする請求項15乃至22のいずれか1項に記載の映像処理システム。
  24. 前記アルゴリズムは、映像コンテンツの種別に対応する所定時間内には断片映像を選択しないアルゴリズムを含むことを特徴とする請求項15乃至23のいずれか1項に記載の映像処理システム。
  25. 映像コンテンツ選択手段が、映像コンテンツ配信サイトにアップロードされた映像コンテンツから、映像コンテンツの内容を判定する対象の映像コンテンツを選択する映像コンテンツ選択ステップと、
    断片映像ダウンロード手段が、前記選択した映像コンテンツ中から、映像シーンを考慮せずに選択された断片映像であって、前記映像コンテンツ内の一連の複数のフレームを含む前記断片映像のデータを、ネットワークを介してダウンロードする断片映像ダウンロードステップと、
    映像コンテンツ判定手段が、前記ダウンロードした断片映像の各フレームから抽出されたフレーム特徴量と予め登録された映像コンテンツのフレーム特徴量との比較に基づいて、前記断片映像を含んだ一連の複数のフレームからなる映像シーン又は映像コンテンツと、前記予め登録された映像コンテンツの映像シーン又は該映像コンテンツとが合致するか否かを判定する映像コンテンツ判定ステップと、
    を含み、
    前記断片映像ダウンロードステップは、ダウンロードする断片映像の数と各断片映像の時間長とを前記第1の映像コンテンツ判定ステップにおける判定速度と判定精度とを考慮して設定する断片映像設定ステップを有し、
    前記第1の映像コンテンツ判定ステップにおいては、前記断片映像の各フレームから抽出したフレーム特徴量を含み、前記一連の複数のフレームに対応するフレーム特徴量列と、予め登録された映像コンテンツ全体のフレーム特徴量列との比較に基づいて、前記断片映像を含んだ映像シーン又は映像コンテンツと、前記予め登録された映像コンテンツの映像シーン又は該映像コンテンツとが合致するか否かを判定することを特徴とする映像コンテンツ監視方法。
  26. 映像コンテンツ配信サイトにアップロードされた映像コンテンツから、映像コンテンツの内容を判定すべき映像コンテンツを選択する映像コンテンツ選択手段と、
    前記選択した映像コンテンツ中から、映像シーンを考慮せずに選択された断片映像であって、前記映像コンテンツ内の一連の複数のフレームを含む前記断片映像のデータを、ネットワークを介してダウンロードする断片映像ダウンロード手段と、
    前記ダウンロードした断片映像のデータに基づいて、前記映像コンテンツの内容を判定する映像コンテンツ判定手段と、
    を備え
    前記断片映像ダウンロード手段は、ダウンロードする断片映像の数と各断片映像の時間長とを前記第1の映像コンテンツ判定手段による判定速度と判定精度とを考慮して設定する断片映像設定手段を有し、
    前記映像コンテンツ判定手段は、前記断片映像の各フレームから抽出したフレーム特徴量を含み、前記一連の複数のフレームに対応するフレーム特徴量列と、予め登録された映像コンテンツ全体のフレーム特徴量列との比較に基づいて、前記断片映像を含んだ映像シーン又は映像コンテンツと、前記予め登録された映像コンテンツの映像シーン又は該映像コンテンツとが合致するか否かを判定することを特徴とする映像処理装置。
  27. 映像コンテンツ選択手段が、映像コンテンツ配信サイトにアップロードされた映像コンテンツから、映像コンテンツの内容を判定すべき映像コンテンツを選択する映像コンテンツ選択ステップと、
    断片映像ダウンロード手段が、前記選択した映像コンテンツ中から、映像シーンを考慮せずに選択された断片映像であって、前記映像コンテンツ内の一連の複数のフレームを含む前記断片映像のデータを、ネットワークを介してダウンロードする断片映像ダウンロードステップと、
    映像コンテンツ判定手段が、前記ダウンロードした断片映像のデータに基づいて、前記映像コンテンツの内容を判定する映像コンテンツ判定ステップと、
    を含み、
    前記断片映像ダウンロードステップは、ダウンロードする断片映像の数と各断片映像の時間長とを前記第1の映像コンテンツ判定ステップにおける判定速度と判定精度とを考慮して設定する断片映像設定ステップを有し、
    前記映像コンテンツ判定ステップにおいては、前記断片映像の各フレームから抽出したフレーム特徴量を含み、前記一連の複数のフレームに対応するフレーム特徴量列と、予め登録された映像コンテンツ全体のフレーム特徴量列との比較に基づいて、前記断片映像を含んだ映像シーン又は映像コンテンツと、前記予め登録された映像コンテンツの映像シーン又は該映像コンテンツとが合致するか否かを判定することを特徴とする映像処理装置の制御方法。
  28. 映像コンテンツ配信サイトにアップロードされた映像コンテンツから、映像コンテンツの内容を判定すべき映像コンテンツを選択する映像コンテンツ選択ステップと、
    前記選択した映像コンテンツ中から、映像シーンを考慮せずに選択された断片映像であって、前記映像コンテンツ内の一連の複数のフレームを含む前記断片映像のデータを、ネットワークを介してダウンロードする断片映像ダウンロードステップと、
    前記ダウンロードした断片映像のデータに基づいて、前記映像コンテンツの内容を判定する映像コンテンツ判定ステップと、
    をコンピュータに実行させる映像処理装置の制御プログラムであって、
    前記断片映像ダウンロードステップは、ダウンロードする断片映像の数と各断片映像の時間長とを前記第1の映像コンテンツ判定ステップにおける判定速度と判定精度とを考慮して設定する断片映像設定ステップを有し、
    前記映像コンテンツ判定ステップにおいては、前記断片映像の各フレームから抽出したフレーム特徴量を含み、前記一連の複数のフレームに対応するフレーム特徴量列と、予め登録された映像コンテンツ全体のフレーム特徴量列との比較に基づいて、前記断片映像を含んだ映像シーン又は映像コンテンツと、前記予め登録された映像コンテンツの映像シーン又は該映像コンテンツとが合致するか否かを判定する映像処理装置の制御プログラム。
JP2013507223A 2011-03-25 2012-01-30 映像処理システム、映像コンテンツ監視方法、映像処理装置及びその制御方法と制御プログラム Active JP5590427B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013507223A JP5590427B2 (ja) 2011-03-25 2012-01-30 映像処理システム、映像コンテンツ監視方法、映像処理装置及びその制御方法と制御プログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2011067641 2011-03-25
JP2011067641 2011-03-25
JP2013507223A JP5590427B2 (ja) 2011-03-25 2012-01-30 映像処理システム、映像コンテンツ監視方法、映像処理装置及びその制御方法と制御プログラム
PCT/JP2012/051926 WO2012132532A1 (ja) 2011-03-25 2012-01-30 映像処理システム、映像コンテンツ監視方法、映像処理装置及びその制御方法と制御プログラムを格納した記憶媒体

Publications (2)

Publication Number Publication Date
JPWO2012132532A1 JPWO2012132532A1 (ja) 2014-07-24
JP5590427B2 true JP5590427B2 (ja) 2014-09-17

Family

ID=46930299

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013507223A Active JP5590427B2 (ja) 2011-03-25 2012-01-30 映像処理システム、映像コンテンツ監視方法、映像処理装置及びその制御方法と制御プログラム

Country Status (4)

Country Link
US (1) US9602565B2 (ja)
EP (1) EP2690867A4 (ja)
JP (1) JP5590427B2 (ja)
WO (1) WO2012132532A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5633647B2 (ja) * 2011-06-13 2014-12-03 日本電気株式会社 映像処理システム、映像処理方法、映像処理用データベースの作成方法とそのデータベース、映像処理装置およびその制御方法と制御プログラム

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB201315859D0 (en) 2013-09-05 2013-10-23 Image Analyser Ltd Video analysis method and system
CN104281675A (zh) * 2014-09-29 2015-01-14 华为技术有限公司 一种获取媒体文件的方法及设备
JP6569315B2 (ja) * 2015-06-12 2019-09-04 日本電気株式会社 動画監視システム、動画監視方法、および動画監視用プログラム
CN105338381A (zh) * 2015-10-29 2016-02-17 无锡天脉聚源传媒科技有限公司 一种命令发送方法及装置
US10289815B2 (en) * 2016-08-15 2019-05-14 International Business Machines Corporation Video file attribution
JP6948787B2 (ja) * 2016-12-09 2021-10-13 キヤノン株式会社 情報処理装置、方法およびプログラム
JP6530002B2 (ja) * 2017-04-12 2019-06-12 日本電信電話株式会社 コンテンツ探索装置、コンテンツ探索方法、プログラム
CN107454475A (zh) * 2017-07-28 2017-12-08 珠海市魅族科技有限公司 视频播放的控制方法及装置、计算机装置和可读存储介质
CN110087142B (zh) * 2019-04-16 2022-01-25 咪咕文化科技有限公司 一种视频切片方法、装置、终端及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10320400A (ja) * 1997-05-16 1998-12-04 Hitachi Ltd 映像の検索方法および装置
JP2005018674A (ja) * 2003-06-30 2005-01-20 Nippon Hoso Kyokai <Nhk> コンテンツ特徴量抽出装置、コンテンツ特徴量抽出プログラムおよびコンテンツ特徴量抽出方法
JP2006285907A (ja) * 2005-04-05 2006-10-19 Nippon Hoso Kyokai <Nhk> 指定流通コンテンツ特定装置、指定流通コンテンツ特定プログラムおよび指定流通コンテンツ特定方法
JP2008166914A (ja) * 2006-12-27 2008-07-17 Internatl Business Mach Corp <Ibm> コンテンツのデータ・ストリームとメタデータを同期するための方法および装置。
WO2009035032A1 (ja) * 2007-09-12 2009-03-19 Kashiko Kodate 動画データの照合システム、動画データベースの作製方法並びに動画データベースに動画データを登録するための登録システム及びプログラム
JP2010010914A (ja) * 2008-06-25 2010-01-14 Sony Corp 画像処理装置および方法、並びにプログラム
WO2010084736A1 (ja) * 2009-01-23 2010-07-29 日本電気株式会社 映像記述子生成装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8417037B2 (en) * 2007-07-16 2013-04-09 Alexander Bronstein Methods and systems for representation and matching of video content
US8660175B2 (en) * 2007-12-10 2014-02-25 Qualcomm Incorporated Selective display of interpolated or extrapolated video units
WO2010011344A1 (en) * 2008-07-23 2010-01-28 Ltu Technologies S.A.S. Frame based video matching
US8498487B2 (en) * 2008-08-20 2013-07-30 Sri International Content-based matching of videos using local spatio-temporal fingerprints
KR100993601B1 (ko) * 2008-09-16 2010-11-10 (주)위디랩 디지털 동영상 컨텐츠의 유사도 측정 방법, 이를 이용한 동영상 컨텐츠의 관리 방법 및 상기 관리 방법을 이용한 동영상 컨텐츠의 관리 시스템
JP5045817B2 (ja) 2009-01-23 2012-10-10 日本電気株式会社 画像識別子抽出装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10320400A (ja) * 1997-05-16 1998-12-04 Hitachi Ltd 映像の検索方法および装置
JP2005018674A (ja) * 2003-06-30 2005-01-20 Nippon Hoso Kyokai <Nhk> コンテンツ特徴量抽出装置、コンテンツ特徴量抽出プログラムおよびコンテンツ特徴量抽出方法
JP2006285907A (ja) * 2005-04-05 2006-10-19 Nippon Hoso Kyokai <Nhk> 指定流通コンテンツ特定装置、指定流通コンテンツ特定プログラムおよび指定流通コンテンツ特定方法
JP2008166914A (ja) * 2006-12-27 2008-07-17 Internatl Business Mach Corp <Ibm> コンテンツのデータ・ストリームとメタデータを同期するための方法および装置。
WO2009035032A1 (ja) * 2007-09-12 2009-03-19 Kashiko Kodate 動画データの照合システム、動画データベースの作製方法並びに動画データベースに動画データを登録するための登録システム及びプログラム
JP2010010914A (ja) * 2008-06-25 2010-01-14 Sony Corp 画像処理装置および方法、並びにプログラム
WO2010084736A1 (ja) * 2009-01-23 2010-07-29 日本電気株式会社 映像記述子生成装置

Non-Patent Citations (12)

* Cited by examiner, † Cited by third party
Title
CSND201000398014; 勝田有一朗: '「映像識別技術」' I/O Vol.35, No.7(2010年7月号), 20100701, 第97〜99頁, 株式会社工学社 *
CSNG200301559009; 児玉明(外1名): '「MSP動画像検索システムの提案とその一評価」' 画像電子学会誌(Imaging&Visual Computing) Vol.30, No.5, 20010925, 第600〜612頁, 画像電子学会 *
CSNG200400519004; 佐竹康宏(外4名): '「デジタルコンテンツにおける権利侵害の対処システムについて」' 電子情報通信学会技術研究報告 Vol.102, No.138(DC2002-12〜15), 20020621, 第19〜24頁, 社団法人電子情報通信学会 *
CSNG200800659014; 大竹剛(外7名): '「動画像特徴量と位相限定相関を用いた番組識別実験」' 映像情報メディア学会誌 Vol.62, No.8, 20080801, 第1292〜1300頁, (社)映像情報メディア学会 *
CSNJ200610049047; 荒木信行(外2名): '「動画コンテンツを安定的かつ安全に配信する方式に関する一考察」' 情報処理学会第67回全国大会講演論文集(3) , 20050302, 第3-93〜3-94頁, 社団法人情報処理学会 *
JPN6013058195; 荒木信行(外2名): '「動画コンテンツを安定的かつ安全に配信する方式に関する一考察」' 情報処理学会第67回全国大会講演論文集(3) , 20050302, 第3-93〜3-94頁, 社団法人情報処理学会 *
JPN6013058198; 佐竹康宏(外4名): '「デジタルコンテンツにおける権利侵害の対処システムについて」' 電子情報通信学会技術研究報告 Vol.102, No.138(DC2002-12〜15), 20020621, 第19〜24頁, 社団法人電子情報通信学会 *
JPN6013058199; 勝田有一朗: '「映像識別技術」' I/O Vol.35, No.7(2010年7月号), 20100701, 第97〜99頁, 株式会社工学社 *
JPN6013058202; Brasnett, P., et.al.: '"Recent developments on standardisation of MPEG-7 Visual Signature Tools"' Proc. of IEEE Int. Conf. on Multimedia and Expo (ICME) 2010 , 201007, p.1347-1352 *
JPN6013058204; 大竹剛(外7名): '「動画像特徴量と位相限定相関を用いた番組識別実験」' 映像情報メディア学会誌 Vol.62, No.8, 20080801, 第1292〜1300頁, (社)映像情報メディア学会 *
JPN6013058207; Heng Tao Shen, et.al.: '"Effective and Efficient Query Processing for Video Subsequence Identification"' IEEE Transactions on Knowledge and Data Engineering Vol.21, No.3, 200903, p.321-334 *
JPN6014027850; 児玉明(外1名): '「MSP動画像検索システムの提案とその一評価」' 画像電子学会誌(Imaging&Visual Computing) Vol.30, No.5, 20010925, 第600〜612頁, 画像電子学会 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5633647B2 (ja) * 2011-06-13 2014-12-03 日本電気株式会社 映像処理システム、映像処理方法、映像処理用データベースの作成方法とそのデータベース、映像処理装置およびその制御方法と制御プログラム

Also Published As

Publication number Publication date
US9602565B2 (en) 2017-03-21
EP2690867A1 (en) 2014-01-29
EP2690867A4 (en) 2014-09-10
JPWO2012132532A1 (ja) 2014-07-24
US20140019594A1 (en) 2014-01-16
WO2012132532A1 (ja) 2012-10-04

Similar Documents

Publication Publication Date Title
JP5590427B2 (ja) 映像処理システム、映像コンテンツ監視方法、映像処理装置及びその制御方法と制御プログラム
AU2017204338B2 (en) Industry first method that uses users search query to show highly relevant poster frames for stock videos thereby resulting in great experience and more sales among users of stock video service
US20200311121A1 (en) Identifying Media Components
KR101826815B1 (ko) 이미지-특징-기반 인식을 위한 시스템들 및 방법들
WO2018032721A1 (zh) 一种基于缩略图的图像分享方法和终端
CN102880726B (zh) 一种图像过滤方法及系统
CN104392007B (zh) 一种智能移动终端的街景检索与识别方法
US10380267B2 (en) System and method for tagging multimedia content elements
CN111241345A (zh) 一种视频检索方法、装置、电子设备和存储介质
JP2013541060A (ja) シャッタクリックを介する自動的メディア共有
CN110149529B (zh) 媒体信息的处理方法、服务器及存储介质
CN110163061B (zh) 用于提取视频指纹的方法、装置、设备和计算机可读介质
JP5633647B2 (ja) 映像処理システム、映像処理方法、映像処理用データベースの作成方法とそのデータベース、映像処理装置およびその制御方法と制御プログラム
JP2011192273A (ja) 画像集合における代表画像の検索システム、方法及びプログラム
US8171020B1 (en) Spam detection for user-generated multimedia items based on appearance in popular queries
KR20220032627A (ko) 프레임 처리방법 및 장치
US20170103285A1 (en) Method and device for detecting copies in a stream of visual data
US9767143B2 (en) System and method for caching of concept structures
US9208157B1 (en) Spam detection for user-generated multimedia items based on concept clustering
Ragatha et al. Image query based search engine using image content retrieval
CN108780462B (zh) 用于对多媒体内容元素进行聚类的系统和方法
WO2013175771A1 (ja) 画像検索システム及び画像検索方法
Sun et al. Hash length prediction for video hashing
WO2020241207A1 (ja) データ管理装置、制御方法、及び記憶媒体
US20180293461A1 (en) Method and device for detecting copies in a stream of visual data

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140318

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140530

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20140610

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140703

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140716

R150 Certificate of patent or registration of utility model

Ref document number: 5590427

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150