JP5880558B2 - 映像処理システム、視聴者の嗜好判定方法、映像処理装置およびその制御方法と制御プログラム - Google Patents
映像処理システム、視聴者の嗜好判定方法、映像処理装置およびその制御方法と制御プログラム Download PDFInfo
- Publication number
- JP5880558B2 JP5880558B2 JP2013526974A JP2013526974A JP5880558B2 JP 5880558 B2 JP5880558 B2 JP 5880558B2 JP 2013526974 A JP2013526974 A JP 2013526974A JP 2013526974 A JP2013526974 A JP 2013526974A JP 5880558 B2 JP5880558 B2 JP 5880558B2
- Authority
- JP
- Japan
- Prior art keywords
- viewer
- frame feature
- scene
- frame
- feature amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
- H04N21/44213—Monitoring of end-user related data
- H04N21/44222—Analytics of user selections, e.g. selection of programs or purchase activity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/251—Learning process for intelligent management, e.g. learning user preferences for recommending movies
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/65—Transmission of management data between client and server
- H04N21/658—Transmission by the client directed to the server
- H04N21/6582—Data stored in the client, e.g. viewing habits, hardware capabilities, credit card number
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/845—Structuring of content, e.g. decomposing content into time segments
- H04N21/8456—Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Social Psychology (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
本発明の目的は、上述の課題を解決するための映像処理システム、視聴者の嗜好判定方法、映像処理装置およびその制御方法と制御プログラムを提供することにある。
視聴者に対応付けて、前記視聴者が視聴した映像コンテンツに含まれる一連のフレームで構成されるシーンの、各フレームを特徴付けるフレーム特徴量を記憶する第1記憶手段と、
一連のフレームで構成されるシーンのフレーム特徴量を、前記シーンが有する属性によりグループ分けしてシーングループとして記憶する第2記憶手段と、
前記第1記憶手段に記憶されたフレーム特徴量と前記第2記憶手段に記憶されたフレーム特徴量とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させる関心度累積手段と、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する視聴者嗜好判定手段と、を備える。
本発明の映像処理装置の制御方法は、
視聴者に対応付けて記憶された、前記視聴者が視聴した映像コンテンツに含まれる一連のフレームで構成されるシーンの、各フレームを特徴付けるフレーム特徴量と、一連のフレームで構成されるシーンが有する属性によりシーングループとしてグループ分けして記憶されたフレーム特徴とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させる関心度累積ステップと、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する視聴者嗜好判定ステップと、を含む。
本発明の映像処理装置の制御プログラムは、
視聴者に対応付けて記憶された、前記視聴者が視聴した映像コンテンツに含まれる一連のフレームで構成されるシーンの、各フレームを特徴付けるフレーム特徴量と、一連のフレームで構成されるシーンが有する属性によりシーングループとしてグループ分けして記憶されたフレーム特徴量とを照合し、合致するフレーム特徴量がある場合は、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させる関心度累積ステップと、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する視聴者嗜好判定ステップと、をコンピュータに実行させる。
本発明の映像処理システムは、
視聴者が視聴した映像コンテンツに基づいて前記視聴者の嗜好を判定する映像処理システムであって、
前記視聴者が視聴した映像コンテンツに含まれる一連のフレームで構成されるシーンの、各フレームを特徴つけるフレーム特徴量を抽出するフレーム特徴量抽出手段と、
視聴者に対応付けて、前記フレーム特徴量抽出手段が抽出したフレーム特徴量を記憶する第1記憶手段と、
一連のフレームで構成されるシーンのフレーム特徴量を、前記シーンが有する属性によりグループ分けしてシーングループとして記憶する第2記憶手段と、
前記第1記憶手段に記憶されたフレーム特徴量と前記第2記憶手段に記憶されたフレーム特徴量とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させる関心度累積手段と、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する視聴者嗜好判定手段と、を備える。
本発明の映像処理システムの制御方法は、
視聴者が視聴した映像コンテンツに基づいて前記視聴者の嗜好を判定する視聴者の嗜好判定方法であって、
前記視聴者が視聴した映像コンテンツに含まれる一連のフレームで構成されるシーンの、各フレームを特徴つけるフレーム特徴量を抽出するフレーム特徴量抽出ステップと、
視聴者に対応付けて記憶された、前記視聴者が視聴した映像コンテンツに含まれるフレームのフレーム特徴量と、一連のフレームで構成されるシーンが有する属性によりシーングループとしてグループ分けして記憶されたフレーム特徴量とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させる関心度累積ステップと、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する視聴者嗜好判定ステップと、を含む。
なお、本明細書で使用される文言「一致」は完全に同一である場合を示し、文言「合致」は所定の類似度の範囲内にあると判断される場合を示すものとする。
[第1実施形態]
本発明の第1実施形態としての映像処理システム100について、図1を用いて説明する。
図1に示すように、映像処理システム100は、第1記憶部110と、第2記憶部120と、関心度累積部130と、視聴者嗜好判定部140と、を含む。
第1記憶部110は、視聴者に対応付けて、視聴者が視聴した映像コンテンツに含まれる一連のフレームで構成されるシーンの、各フレームを特徴付けるフレーム特徴量を記憶する。
第2記憶部120は、一連のフレームで構成されるシーンのフレーム特徴量を、シーンが有する属性によりグループ分けしてシーングループとして記憶する。
関心度累積部130は、第1記憶部110に記憶されたフレーム特徴量と第2記憶部120に記憶されたフレーム特徴量とを照合し、合致するフレーム特徴量がある場合には、フレーム特徴量が合致したシーングループへの関心度を表わす、視聴者のスコアを増加させる。
視聴者嗜好判定部140は、スコアのより高いシーングループを、視聴者が嗜好するシーングループと判定する。
本実施形態によれば、視聴者の継続的な視聴内容から視聴者の嗜好を判定すること及び視聴者の嗜好の変化に追随することがきる。
[第2実施形態]
次に、本実施形態に係る映像処理システムについて説明する。
本実施形態に係る映像処理システムは、映像視聴用端末、映像コンテンツ配信サーバ、映像処理装置を備える。
映像視聴用端末は、映像コンテンツ配信サーバから配信された映像コンテンツの視聴時に、映像コンテンツを構成する各フレームからフレーム特徴量を抽出して、映像処理装置に送信する。
映像処理装置は、映像視聴用端末から受信したフレーム特徴量と、映像処理装置のフレーム特徴量DB(DATABASE)に保存されたフレーム特徴量と照合する。フレーム特徴量Dには、シーングループと対応づけてシーンの特徴量を構造化したフレーム特徴量が保存されている。シーングループは、映像コンテンツのジャンル又はシーンごとの出演者などのユーザ嗜好分類ごとに設定される。
そして、映像処理装置は、照合の結果、フレーム特徴量が合致したシーングループのスコアを加算する。この処理を集積することにより、スコアの大きいシーングループが視聴者の嗜好する映像コンテンツの内容、あるいはシーンと判定する。
本実施形態によれば、映像視聴用端末を使った視聴者の視聴および再生動作から、簡単に視聴者の嗜好を判定できる。
《映像処理システムの構成》
図2は、本実施形態に係る映像処理システム200の構成を示すブロック図である。
映像処理装置210は、映像コンテンツの各フレームを特徴付けるフレーム特徴量を蓄積するフレーム特徴量DB213を有する。フレーム特徴量は、映像コンテンツの一連のフレームで構成されるシーン間の関連に対応付けてフレーム特徴量DB213に蓄積される(図6参照)。「シーン間の関連に」とは、例えば、「シーン1」、「シーン2」のいずれも風景の映像の場合に、その風景の映像のシーングループという形でまとめられることを表す。
また、フレーム特徴量DB213には、既に入力された各シーンのフレーム特徴量が、シーン間の関連に対応して構造化されて格納されている。例えば、「シーン1」と「シーン2」が風景の映像(風景関連)であるときに、風景に対応して構造化され格納される。
なお、フレーム特徴量DB213の一例としては、図6のシーンID602を含まず、シーンの分類を表すシーングループとフレーム特徴量だけを対応づけた構成としてもよい。
映像処理装置210は、ネットワーク270を介して各サーバ又は映像視聴用端末と通信する通信制御部211を有する。なお、通信は有線であっても無線であっても構わない。
映像処理装置の210のフレーム特徴量記憶部212は、通信制御部211で受信する映像コンテンツの一連のフレーム特徴量を、視聴者を識別する視聴者ID(Identification)に対応付けて記憶する。
映像処理装置210のフレーム特徴量照合部214は、既にフレーム特徴量DB213に構造化されて格納されている各シーンのフレーム特徴量と、フレーム特徴量記憶部212に記憶されているフレーム特徴量とを照合する。そして、フレーム特徴量が合致したか否かの照合結果をスコア加算部215に出力する。
映像処理装置210のスコア加算部215は、フレーム特徴量照合部214の照合結果にしたがって、視聴者嗜好DB216の視聴者IDに対応付けられた各シーングループのスコアを加算する。
視聴者嗜好DB216は、視聴者IDに対応付けて各シーングループのスコアを記憶する(図7参照)。
映像処理装置210の視聴者嗜好判定部217は、通信制御部211を介した外部からの要求を受けて、視聴者嗜好DB216を参照し、視聴者の嗜好の情報を判定して結果を通知する。
なお、視聴者嗜好判定部217が視聴者の嗜好を判定することに加え、視聴者の嗜好に合致する映像コンテンツの情報などを特定することも可能であり、特定した映像コンテンツの情報などを通知することも可能である。
図2の映像処理装置210に示す、通信制御部21、フレーム特徴量記憶部212、フレーム特徴量照合部214、スコア加算部215、視聴者嗜好DB216、視聴者嗜好判定部217のそれぞれを繋ぐ破線は、視聴者IDの伝達の動きを表わす。
なお、視聴者IDは、例えば、映像視聴用端末220〜240の端末固有のID又は、その端末へのログインID、あるいは映像処理装置210に関連づけられて提供されるインターネット上のサービスへのログインIDの形で決定され、通信制御部211に伝達される。
図2の220〜240は、映像コンテンツを視聴する映像視聴用端末である。
映像視聴用端末220〜240は、それぞれフレーム特徴量抽出部220a〜240aを有する。映像視聴用端末220〜240は、映像コンテンツ配信サーバ250又は260から映像コンテンツをダウンロードして視聴する場合、フレーム特徴量抽出部220a〜240aを用いてフレーム特徴量を生成して映像処理装置210に送信する。
また、映像視聴用端末220〜240は、ビデオの再生又は放送番組の録画再生を行なう場合も、映像コンテンツの再生時にフレーム特徴量抽出部220a〜240aを用いてフレーム特徴量を生成して映像処理装置210に送信する。
なお、映像処理装置210による映像コンテンツのフレーム特徴量の受信は、上記の場合に限定されない。映像処理装置210で蓄積するフレーム特徴量は、世界のあらゆるメディアを介して流通する映像コンテンツを対象にする。
また、フレーム特徴量抽出部220a〜240aは、1チップのIC回路で製造されて各端末および装置に搭載されることが好ましい。あるいは、フレーム特徴量抽出用のフログラムを各端末および装置にダウンロードする構成にすれば、端末、又は、装置への搭載が簡易になり、標準化されたフレーム特徴量による統一された処理が可能になる。
《フレーム特徴量抽出部》
図3Aは、本実施形態に係るフレーム特徴量抽出部220a〜240aの構成を示すブロック図である。本実施形態で適用されるフレーム特徴量抽出部220a〜240aは、MPEG(Moving Picture Expert Group)7の標準化で採用されているビデオシグネチャを抽出する機能構成部である。
図3Aにおいて、フレーム特徴量抽出部220a〜240aから出力されるフレーム特徴量350は、撮影された映像の各フレーム画像中の所定の領域間の領域特徴量を表す平均輝度値の差分を量子化(実際には3値に)し、符号化したものである。ここで所定の領域とは、撮影された映像の各フレーム画像中に設けた多数の、サイズの大小又は形状の異なる領域対をいう。
次元決定部310は、領域対の数を決定する。1次元が1領域対に相当する。
抽出領域取得部320は、次元決定部310の決定にしたがって、フレーム特徴量を算出する各次元の領域対を取得する。
領域特徴量算出部330は、第1領域特徴量算出部331と第2領域特徴量算出部332とを有する。それぞれの領域特徴量算出部は、各次元の領域対の一方の領域の領域特徴量の一種である平均輝度を算出する。
領域特徴量差分符号化部340は、領域対のそれぞれの平均輝度の差分を取る。さらに、領域特徴量差分符号化部340は、その差分を第3閾値にしたがって量子符号化してフレーム特徴量350を出力する。
なお、本例では、以下、平均輝度により領域の領域特徴量を代表させて説明するが、領域の領域特徴量は、平均輝度には限定されず、輝度の他の処理又は輝度以外のフレームの特徴量も適用できる。
図3Bは、本実施形態に係るフレーム特徴量抽出部220a〜240aにおける処理を示す図である。
図3Bの300は、図3Aの抽出領域取得部320が取得した領域対の数例を示している。図中、7つの大きな矩形は、それぞれ1つのフレーム画像を示し、フレーム内部の各矩形は、領域を示している。
図3Bの330aは、1つのフレーム画像内において、抽出領域取得部320からの領域対により抽出された領域とその領域間の差分を取る関係を表現したものである。
1つのフレーム画像内に領域対の2つの領域が抽出されて、それぞれの領域に含まれる画素の平均輝度が算出され、その差分が算出さる様子を各領域の中心を結ぶ矢印で示している。
図3Bの340aは、算出された差分を量子符号化する様子を示したものである。340aでは、図3Aにおける第1領域特徴量から第2領域特徴量を差し引いた差分が、差分“0”(平均輝度が等しい場合に相当)を中心とする上記第3閾値である破線で示した差分内であれば、“0”を量子符号化の出力値とする。
同じ差分が破線位置よりも大きな正(+)の値であれば、“+1”を量子符号化の出力値とする。同じ差分が破線位置よりも大きな負(−)の値であれば、“−1”を量子符号化の出力値とする。
このように、“−1”、“0”、“+1”の3値に符号化するのは、できるだけ多次元とすることでフレーム特徴量の分離を容易にし、かつフレーム特徴量の照合の計算量を削減するためである。したがって、上記3値の例に限定する必要はない。
なお、破線で示す第3閾値は、使用される全次元の差分値の分布から“0”と量子化する差分値の割合から選定される。一例としては、“0”と量子化する差分値の割合を50%にするような値を選定する。
図3Bの350aは、差分の量子符号化の結果を集めて生成されたフレーム特徴量の例を示している。フレーム特徴量は、簡単な例としては、差分の量子符号化された値を一次元方向に次元順に並べたものである。
なお、単純に差分の量子符号化された値を一次元方向に次元順に並べたものではなく、多次元方向に並べたもの又はさらに追加の演算を加えたものであってもよく、本例には限定されない。
図3Cは、本実施形態に係るフレーム特徴量抽出部220a〜240aにおける抽出領域を示す図である。
図3Bの320aは、各次元の領域対が、2つの矩形領域の例を示した。しかし、フレームを適切に表現するフレーム特徴量を算出するためには、矩形以外の形状が望ましい場合もある。
図3Cに示す抽出領域は、各次元の領域対が、2つの矩形領域ではない例を示している。
なお、図3Bの340aで示したように、各次元を3値化することにより、実時間のフレーム特徴量の照合又は、フレーム特徴量の集合である映像コンテンツのフレーム特徴量群の照合を実現する場合であっても、数百次元を設定することが可能である。
《映像処理装置のハードウェア構成》
図4は、本実施形態に係る映像処理装置210のハードウェア構成を示すブロック図である。
図4で、CPU(Central Processing Unit)410は、演算制御用のプロセッサであり、プログラムを実行することで図2の各機能構成部を実現する。
ROM(Read On Memory)420は、初期データおよびプログラムなどの固定データおよびプログラムを記憶する。
通信制御部211は、映像視聴用端末220〜240あるいは映像コンテンツ配信サーバ250,260と通信する。なお、通信は無線でも有線でもよい。
RAM(Random Access Memory)440は、CPU410が一時記憶のワークエリアとして使用するランダムアクセスメモリである。RAM440には、本実施形態の実現に必要なデータを記憶するデータ領域212、441、442が確保される。
データ領域212は、視聴者IDに対応して受信フレーム特徴量を記憶するフレーム特徴量記憶部(図5参照)として機能する。
データ領域441は、フレーム特徴量を照合中の視聴者IDを記憶する。
データ領域442は、フレーム特徴量の照合の結果、合致したシーングループを記憶する。
ストレージ450は、データベース又は各種のパラメータ、あるいは本実施形態の実現に必要な以下のデータまたはプログラムを記憶する。
データ領域213は、フレーム特徴量DB(図6参照)として機能する。
データ領域216は、視聴者嗜好DB(図7参照)として機能する。
ストレージ450には、以下の処理を実行するプログラムが格納される。
映像処理プログラム451は、全体の処理を実行する。
フレーム特徴量照合モジュール452は、映像処理プログラム451において、フレーム特徴量の照合を処理する。
スコア加算モジュール453は、映像処理プログラム451において、視聴者嗜好DB216のシーングループのスコアを加算する。
視聴者嗜好判定モジュール454は、映像処理プログラム451において、視聴者嗜好DB216の蓄積データを使用して視聴者の嗜好を判定する。
なお、図4には、本実施形態に必須なデータ及びプログラムが示されており、OSなどの汎用のデータ及びプログラムは図示されていない。
(受信フレーム特徴量)
図5は、本実施形態に係るフレーム特徴量記憶部212−1の構成を示すデータ構造である。なお、後述する第3実施形態におけるフレーム特徴量記憶部212−2と区別するため、本実施形態においてはフレーム特徴量記憶部212−1と記述する。
フレーム特徴量記憶部212−1は、視聴者ID501に対応付けられた受信フレーム特徴量502を記憶する。このように、フレーム特徴量記憶部212−1は、視聴者が視聴している映像を出力している端末からそれぞれ送信されるフレーム特徴量を、視聴者ID別に分けて記憶する。
なお、受信フレーム特徴量の容量は、受信データ量により受信エラーがない程度に確保されればよいため、映像データの記憶に比較して少ない記憶容量で実現できる。
(フレーム特徴量DB)
図6は、本実施形態に係るフレーム特徴量DB213の構成を示すデータ構造である。
フレーム特徴量DB213は、シーングループ601に含まれるシーンID602と、各シーンIDに対応する一連のフレーム特徴量603を蓄積する。このフレーム特徴量603が、受信フレーム特徴量と照合されて、受信フレーム特徴量がどのシーングループに属するかが分かる。
なお、シーングループは、純粋に一連のフレーム特徴量の差分値が所定範囲内にあるシーンを集めてもよいし、映像コンテンツの内容、ジャンルや扱われるテーマ、又は、映像に登場する人物又は被写体が、同一または互いに関連するシーンを集めてもよい。
また、ある同一のシーンが、複数のシーングループに登録されていてもよい。例えば、特定の人物の出演シーンを集めたシーングループに含まれるシーンが、特定の撮影現場で撮影されたシーンを集めた別のシーングループに含まれる場合などが含まれる。
なお、フレーム特徴量DB213の構成は、図6の構成に限定されず、他の必要な項目を追加してもよい。
(視聴者嗜好DB)
図7は、本実施形態に係る視聴者嗜好DB216の構成を示すデータ構造である。
視聴者嗜好DB216は、複数のシーングループ702に対応付けて、それぞれのスコア703を記憶する。複数のシーングループ702は、視聴者ID701に対応付けてこれまでに受信した各シーンのフレーム特徴量とフレーム特徴量DB213のフレーム特徴量と照合することで特定される。
このスコアが、視聴者の映像コンテンツの視聴によるフレーム特徴量の受信により、積算される。その結果、このスコアが所定の閾値より大きいシーングループが、視聴者が嗜好するシーンとなる。
さらに、シーングループを映像コンテンツのグループ又は映像の登場人物や物に対応付けることで、視聴者が嗜好するシーングループからさらに嗜好する映像コンテンツや登場人物などが判定可能である。
なお、各視聴者IDに対応するシーングループを無制限に増加させると、視聴者嗜好DB216の容量が増え続けるので、スコアが所定の閾値より小さなシーングループを一定期間が過ぎると削除するなどの処理を実行するのが望ましい。
《映像処理装置の処理手順》
図8は、本実施形態に係る映像処理装置210の処理手順を示すフローチャートである。このフローチャートが示す動作は、図2に示す各機能構成部を用いて実現される。また、その動作は、図4のCPU410によりRAM440を使用して実行される。
まず、映像処理装置210は、フレーム特徴量を受信したか否か判定する(ステップS811)。
映像処理装置210が、フレーム特徴量を受信すると、映像処理装置210のフレーム特徴量照合部214は、受信したフレーム特徴量とフレーム特徴量DB213に記憶されたフレーム特徴量とを照合する(ステップS813)。続いてフレーム特徴量照合部214は、照合結果をフレーム特徴量DB213にフィードバックする。例えば、受信したフレーム特徴量が、いずれかのシーングループのフレーム特徴量と合致したら、受信したフレーム特徴量は、そのシーングループに追加される(ステップS815)。
一方、合致するシーングループが無ければ、新たなシーングループを生成することになる。かかる新たに生成されたシーングループは、今までの嗜好の分類から外れたグループであり、フレーム特徴量DB213への蓄積が進むにつれて、新たな嗜好を形成することになる。
映像処理装置210は、フレーム特徴量の合致があったか否かに応じて、その後の処理を変える(ステップS817)
フレーム特徴量の合致がない場合、新たに生成されたシーングループが視聴者嗜好DB216内の視聴者IDに追加されて、新たなスコアが生成され、スコアの積算が開始されることになる(ステップS819)。
フレーム特徴量の合致がある場合、合致したシーングループのスコアが更新(増加)される(ステップS821)。
一方で、映像処理装置210は、視聴者嗜好情報の要求かあるか否かを判定する(ステップS831)。映像処理装置210は、視聴者嗜好情報の要求であれば、視聴者嗜好判定部217は、視聴者嗜好DB216から所望の視聴者IDのスコアが読み出し、スコアに基づいて視聴者嗜好を分析する(ステップS833)。分析された視聴者嗜好あるいはスコアそのものが通信制御部211を介して要求者へ送信される(ステップS835)。
[第3実施形態]
次に、本発明の第3実施形態に係る映像処理システムについて説明する。
本実施形態に係る映像処理システムは、第2実施形態のスコアの更新の際に、視聴者の操作又は映像あるいはシーンへの反応に対応して、その量に重み付けをする例である。第3の実施形態は、第2の実施形態に比べより緻密な嗜好程度を分析できる。
なお、本実施形態では、主に、スコア更新の重み付けに関する情報と、処理手順における重み付けのタイミングを説明し、第2実施形態と同様の構成および動作は、説明を省略する。
(受信フレーム特徴量)
図9は、本実施形態に係るフレーム特徴量記憶部212−2の構成を示すブロック図である。
フレーム特徴量記憶部212−2は、第2実施形態で説明したフレーム特徴量に加え、他の重み付けに関連する情報を視聴者あるいは映像視聴用端末から受信して記憶する。
フレーム特徴量記憶部212−2は、視聴者ID901に対応付けて、フレーム特徴量902の他に、放送/再生903、再生方式904、視聴者の反応905、そして、それらの結果の重み合計906を記憶する。なお、重み付けのパラメータは図9に限定されない。
放送/再生903は、映像が直接の放送であるか、又は、再生であるかの情報である。直接の放送は、視聴者は放送を視聴していない可能性もある。一方、再生は、視聴者は意識的に再生して視聴していると考えられる。したがって、重み付けは、放送よりも再生の重みを大きくする。
再生方式904も放送/再生903に準じるものであり、録画番組の再生の重みよりも記憶媒体からの再生の方の重みを大きくする。
反応905は、視聴者のプラスの反応(肯定的反応)とマイナスの反応(否定的反応)がある。その反応は、直接に音声又はキー入力で受信してもよいし、また、視聴者の操作から判断してもよい。たとえば、早送りされた場合はマイナス、リピートされた場合はプラスとなる。
(重み設定テーブル)
図10は、本実施形態に係る重み設定テーブル1000のデータ構造を示す図である。
重み設定テーブル1000は、図9に示した各重みの設定を定義するテーブルである。図9の重み設定テーブル1000に記載のように、各重み付けの条件1001に対応付けて重み1002の数値が記憶される。数値はプラス/マイナスの数値でもよいし、1以上/1以下の乗算値であってもよい。なお、図10の条件の項目はほんの数例であって、これに限定されない。
《映像処理装置の処理手順》
図11は、本実施形態に係る映像処理装置の処理手順を示すフローチャートである。このフローチャートが示す動作は、図2に示す各機能構成部を用いて実現される。また、その動作は、第2実施形態に示した図4のストレージ450に重み設定テーブル1000を追加した構成で、CPU410によりRAM440を使用して実行される。
図11のフローチャートは、重み付けのステップを除いて図8と同様である。したがって、重み付けのステップを主に説明し、図8と同じステップは、同じ番号を付して説明を省略する。
本実施形態は、スコアの更新(ステップS821)の前に、スコアの加算値に対して重み付けを行う(ステップS1101)。
[第4実施形態]
次に、本発明の第4実施形態に係る映像処理システムについて説明する。
本実施形態に係る映像処理システムは、上記第2および第3実施形態と比べ、フレーム特徴量DBに記憶するフレーム特徴量が、シーン全体のフレーム特徴量ではなくその選択された一部である点で異なる。
選択された一部は、各シーンの特徴を表わす前部分、後部分、中間部分であってもよいし、その長さも変えることができる。
第4実施形態は、第2実施形態に比べてフレーム特徴量DBの記憶容量を大幅に削減できる。なお、本実施形態では、主に、フレーム特徴量DBの構成を説明し、第2または第3実施形態と同様の構成および動作は、説明を省略する。
(フレーム特徴量DB)
図12は、本実施形態に係るフレーム特徴量DB1213の構成を示す図である。なお、本実施形態においては、フレーム特徴量DB1213は、第2実施形態における図2および図4のフレーム特徴量DB213に置き換えられる。
フレーム特徴量DB1213は、図6と同様のシーングループ601およびシーンID602に対応付けてフレーム特徴量を記憶する。但し、記憶されるのは、フレーム特徴量の記憶部分1204で指定されるシーンの一部のフレーム特徴量1203である。
ここで、フレーム特徴量の記憶部分1204は、シーン開始からの秒数(t0は0秒、t10は10秒を表わす)である。図12の例では、各シーンを30秒として説明するが、シーンの長さは可変であってよい。例えば、図12の例では、シーンIDがA1のシーンについて、最初の10秒間のフレーム特徴量が記憶されている。また、シーンIDがA2のシーンについて、中間にある10秒〜25秒間のフレーム特徴量が記憶されている。また、シーンIDがE3のシーンについて、最初の5秒間と中間にある10秒〜27秒間のフレーム特徴量が記憶されている。また、シーンIDがB1のシーンについて、最後の8秒間のフレーム特徴量が記憶されている。
なお、図12は、フレーム特徴量の記憶部分1204が、開始からの秒数で表されているが、開始からの連番を振ったフレーム番号で100フレーム目から250フレーム目までのように記憶されていてもよい。
[第5実施形態]
次に、本発明の第5実施形態に係る映像処理システムについて説明する。
本実施形態に係る映像処理システムは、上記第2乃至第4実施形態と比べ、シーンの被写体を示すタグなどの識別子を検索可能に記憶する被写体DBをさらに設け、視聴者の嗜好を複数の視点から判定する点で異なる。
シーンの被写体は、番組の出演者などの人物、昆虫などの生物、或いは、山又は海・建築物などである。本実施形態は、シーンのフレーム特徴量という画像データの持つ特徴に加え、シーンの一部に含まれる被写体により、視聴者の嗜好を判定できる。例えば、対象の被写体が一瞬現われるシーン又は、背景の一部(例えば、フレーム内のテレビの画像又は絵画など)に被写体が現われるシーンなども考慮できる。
以下に、本実施形態が、上記第2乃至第4実施形態と異なる部分を説明し、第2乃至第4実施形態と同様の構成および動作は、説明を省略する。
本実施形態は、フレーム特徴量の合致によるシーングループと、被写体IDの合致によるシーングループとを別に設けた例である。しかしながら、フレーム特徴量が合致するシーンと被写体が合致するシーンとを1つのシーングループとして組み合わせることも可能であり、より2つの視点を融合した視聴者の嗜好が可能となる。さらに、フレーム特徴量の合致と被写体IDの合致とに視聴者の嗜好を判断するために異なる重みを持たせることも可能である。
《映像処理システムの構成》
図13は、本実施形態に係る映像処理システム1300の構成を示すブロック図である。なお、図13は、映像処理装置を説明するための図であり、ネットワーク270に接続する機器は省略してある。また、第2実施形態と同じ機能構成部には同じ参照番号を付している。以下、第2実施形態との相違点について説明する。
被写体ID記憶部1312は、通信制御部211が受信した視聴用端末からの再生中の映像の被写体IDを記憶する。なお、被写体IDは、フレーム特徴量が示すシーンに対応するものであってもよいし、コンテンツ全体に対応するものであってもよい。
以下、本実施形態が、同時に受信するフレーム特徴量が示すシーンに対応する被写体IDである場合を説明する。
被写体DB1313は、同じ被写体の映像を含む複数のシーンをシーングループとして記憶する(図14参照)。
被写体照合部1314は、被写体ID記憶部1312が記憶する映像視聴用端末から受信した被写体IDと、被写体DB1313に記憶された被写体IDとを照合する。
スコア加算部1315は、被写体IDが合致した場合にそのシーンのスコアを加算する。
視聴者嗜好DB1316は、第2実施形態の視聴者嗜好DB216におけるフレーム特徴量の合致によるシーングループのスコアとは別に、被写体IDの合致によるシーングループのスコアを蓄積する(図15参照)。
(被写体DB)
図14は、本実施形態に係る被写体DB1313の構成を示す図である。
被写体DB1313は、シーングループ1401に含まれるシーンID1402と、各シーンIDに対応する被写体ID1403を記憶する。被写体照合部1314は、被写体DB1313の被写体ID1403と受信した被写体IDとを照合する。この照合により、受信した被写体IDがどのシーングループに属するかが分かる。なお、被写体DB1313の構成は、図14の構成に限定されず、他の必要な項目が追加されてもよい。
(視聴者嗜好DB)
図15は、本実施形態に係る視聴者嗜好DB1316の構成を示す図である。
視聴者嗜好DB1316は、視聴者ID1501が視聴した映像のフレーム特徴量又は被写体ID0が属する複数のシーングループ1502に対応付けて、それぞれの属性1503とスコア1504とを記憶する。視聴者の映像コンテンツの視聴によるフレーム特徴量の受信により、および/または、視聴者の映像コンテンツの被写体により、スコアが積算される。この結果、このスコアの大きいシーングループが、視聴者が嗜好するシーンとなる。
なお、各視聴者IDに対応するシーングループを無制限に増加させると、視聴者嗜好DB216の容量が増え続けることになる。このため、スコアの小さなシーングループを一定期間が過ぎると削除する、などの処理を実行するのが望ましい。
《映像処理装置の処理手順》
図16は、本実施形態に係る映像処理装置1310の処理手順を示すフローチャートである。このフローチャートが示す動作は、図13に示す各機能構成部を用いて実現される。また、その動作は、第2実施形態で示した図4のストレージ450に被写体DB1313を追加した構成で、CPU410によりRAM440を使用して実行される。
なお、図16において、第2実施形態の図8と同様の手順は、同じ参照番号を付して、説明は省略する。本実施形態の特徴部分は、ステップS1641からS1651の部分である。
まず、映像処理装置1310は、被写体IDを受信したか否かを判定する(ステップS1641)。
次に、映像処理装置1310は、被写体IDを受信すると、映像処理装置1310の被写体照合部1314は、受信した被写体IDと被写体DB1313に記憶された被写体IDとを照合する(ステップS1643)。続いて、被写体照合部1314は、照合結果を被写体DB1313にフィードバックする(ステップS1645)。例えば、受信した被写体IDが、被写体DBに記憶された、いずれかのシーングループの被写体IDと合致したら、被写体照合部1314は、受信した被写体IDをそのシーングループに追加する。一方、合致するシーングループが無ければ、被写体照合部1314は、新たなシーングループを生成する。
映像処理装置1300は、受信した被写体IDと被写体DB1313に記憶された被写体IDとの合致があったか否かに基づいて異なった処理を行う(ステップS1647)。
被写体IDが合致しない場合、スコア加算部1315は、新たに生成されたシーングループを視聴者嗜好DB1316内の視聴者IDに追加し、新たなスコアの積算を開始する(ステップS1649)。
被写体IDが合致した場合、スコア加算部1315は、合致したシーングループのスコアを更新(増加)する(ステップS1651)。
[第6実施形態]
次に、本発明の第6実施形態に係る映像処理システムについて説明する。本実施形態に係る映像処理システムは、上記第5実施形態と比べ、フレーム特徴量DBと被写体DBとを一体化して、複数の視点を関連付けて視聴者の嗜好を判定する点で異なる。
本実施形態は、フレーム特徴量の合致では判断できない視聴者のより詳細、又は、徴妙な嗜好を判断できる。なお、以下の本実施形態の説明では、第2乃至第5実施形態と同様の構成、動作についての説明を省略し、第2乃至第5実施形態と異なる部分を説明する。
また、本実施形態では、複数の視点を関連付けて判定する方法として、フレーム特徴量の合致でシーングループを定め、被写体IDの合致か否かでスコアの増加量を決定するが、複数の視点を関連付けて判定する方法は、これに限定されない。
逆に、被写体IDの合致でシーングループを定め、フレーム特徴量の合致か否かでスコアの増加量を決定してもよい。また、両方が合致した場合に、スコアを増加するようにしてもよい。
《映像処理システムの構成》
図17は、本実施形態に係る映像処理システム1700の構成を示すブロック図である。なお、図17は、映像処理装置を説明するための図であり、ネットワーク270に接続する機器は省略してある。また、第2実施形態と同じ機能構成部には同じ参照番号を付している。以下、第2実施形態との相違点について説明する。
被写体ID記憶部1712は、通信制御部211が受信した映像視聴用端末からの再生中の映像の被写体IDを記憶する。なお、被写体IDは、フレーム特徴量が示すシーンに対応するものである。
フレーム特徴量/被写体DB1713は、派生したフレーム特徴量を記憶し、かつ、同じ被写体の映像を含む複数のシーンをシーングループとして記憶する(図18参照)。
被写体照合部1714は、被写体ID記憶部1712が記憶する映像視聴用端末から受信した被写体IDと、フレーム特徴量/被写体DB1713に記憶された被写体IDとを照合する。
スコア加算部1715は、フレーム特徴量が合致した場合に被写体IDが合致したか否かに対応してそのシーンのスコアを加算する。
視聴者嗜好DB1716は、第4実施形態の視聴者嗜好DB1316におけるフレーム特徴量の合致と被写体IDの合致とによる別個のシーングループのスコアとは異なり、フレーム特徴量が合致した場合に被写体IDが合致したか否かに対応してカウントするシーングループのスコアを蓄積する。
なお、視聴者嗜好DB1716は、カウントの条件が異なるが、その構成は、第2実施形態の図7と同様であり、説明は省略する。
(フレーム特徴量/被写体DB)
図18は、本実施形態に係るフレーム特徴量/被写体DB1713の構成を示す図である。
フレーム特徴量/被写体DB1713は、シーングループ1801に含まれるシーンID1802と、各シーンIDに対応するフレーム特徴量1803と被写体ID1804を記憶する。被写体照合部214は、フレーム特徴量/被写体DB1713のフレーム特徴量1803と受信したフレーム特徴量とを照合する。この照合により、受信したフレーム特徴量がどのシーングループに属するかが分かる。
そして被写体照合部1714は、フレーム特徴量/被写体DB1713に記憶された被写体ID1804と受信した被写体IDとを照合して、被写体IDが合致したか否かによりシーングループのスコアの増加量を決定する。なお,フレーム特徴量/被写体DB1713のデータ構造は、図18の構成に限定されず、他の必要な項目が追加されてもよい。
《映像処理装置の処理手順》
図19は、本実施形態に係る映像処理装置1710の処理手順を示すフローチャートである。このフローチャートが示す動作は、図17に示す各機能構成部を用いて実現される。また、その動作は、第2の実施形態で示した図4のストレージ450にフレーム特徴量/被写体DB1713を追加した構成で、CPU410によりRAM440を使用して実行される。
なお、図19は、図8のステップS811〜S821の変形であり、図8と同様のステップには同じ参照番号を付して、説明は省略する。また、ステップS831〜S835についても、同様であるので省略する。
映像処理装置1710は、視聴用端末からのフレーム特徴量および被写体IDの受信か否かを判定する(ステップS1911)。
次に、映像処理装置1710は、フレーム特徴量および被写体IDを受信すると、フレーム特徴量の照合(ステップS813)から照合結果に基づくスコア生成又はスコア更新(ステップS821)まで、図8と同様の処理を行う。但し、図8のフレーム特徴量DBの代わりに、フレーム特徴量/被写体DBを用いる。
次に、被写体照合部1714は、受信した被写体IDとフレーム特徴量/被写体DB1813に記憶された被写体IDと照合する(ステップS1913)。照合結果をフレーム特徴量/被写体DB1813にフィードバックする(ステップS1915)。例えば、いずれかのシーングループの被写体IDと合致したら、被写体照合部1714は、受信した被写体IDをそのシーングループに追加する。一方、合致するシーングループが無ければ、被写体照合部1714は、新たなシーングループを生成する。
映像処理装置1710は、受信した被写体IDとフレーム特徴量/被写体DB1713に記憶された被写体IDとの合致があったか否かに基づいて異なった処理を行う(ステップS1917)。
被写体IDが合致しない場合、スコア加算部1715は、ステップS821において更新したスコアを減少する(ステップS1921)。
一方、被写体IDが合致する場合、ステップS821において更新したスコアを増加する(ステップS1919)。
このように、フレーム特徴量が合致してかつ被写体IDが合致すればスコアはさらに増加し、一方、フレーム特徴量が合致しても被写体IDが合致しなければスコアが減少する。
[第7実施形態]
次に、本発明の第7実施形態に係る映像処理システムについて説明する。本実施形態に係る映像処理システムは、上記第2乃至第6実施形態と比べ、映像視聴用端末からの再生中映像のフレーム特徴量および/または過去の視聴履歴から認識した視聴者の嗜好に基づいて、視聴者がまだ視聴していないコンテンツを視聴者に通知する点が追加される。
本実施形態は、視聴者の嗜好を判断した上で、視聴者の未視聴のコンテンツを通知・紹介することができる。なお、以下の本実施形態の説明では、第2乃至第6実施形態と同様の構成、動作についての説明を省略し、第2乃至第6実施形態と異なる部分を説明する。
《映像処理システムの構成》
図20は、本実施形態に係る映像処理システム2000の構成の一部を示すブロック図である。なお、図20は、映像処理装置2010を説明するための図であり、ネットワーク270に接続する機器は省略してある。また、第2実施形態と同じ機能構成部には同じ参照番号を付している。以下、第2実施形態との相違点について説明する。
映像処理装置2010のコンテンツ情報DB2013は、フレーム特徴量DB213に蓄積されたフレーム特徴量を含むコンテンツ情報を蓄積する。なお、コンテンツ情報の例は、コンテンツ自身のデータ又はコンテンツを識別する識別子であるコンテンツIDとなる(図21参照)。
視聴済DB2016は、視聴者を識別する視聴者IDに対応付けて、既に視聴した視聴済コンテンツIDを蓄積する。なお、視聴者が視聴したコンテンツ以外に視聴はしていないが保有しているコンテンツ、あるいは家族又は友人が所有しているコンテンツを、容易に視聴可能なコンテンツとして視聴済DB2016に蓄積してもよい。
未視聴情報通知部2017は、通知候補コンテンツ群の中から、視聴済DB2016に蓄積されたコンテンツを除いて視聴者にコンテンツの候補を通知する。通知候補コンテンツ群は、再生中の映像のフレーム特徴量および/または過去の視聴履歴から認識した視聴者の嗜好に基づいて、未視聴情報通知部2017がコンテンツ情報DB2013から検索する。
なお、本実施形態では、再生中映像のフレーム特徴量から判断した派生コンテンツ又は視聴者嗜好に基づくコンテンツを通知候補コンテンツとする例を示すが、通知候補コンテンツを検索する他の条件を含むこともできる。すなわち、未視聴情報通知部2017による通知で視聴者の購買意欲を高める宣伝効果を得ることも可能になる。
(コンテンツ情報DB)
図21は、本実施形態に係るコンテンツ情報DB2013の構成を示す図である。
コンテンツ情報DB2013は、フレーム特徴量2102に紐付けられてコンテンツID2101を蓄積する。かかるコンテンツ情報DB2013は、過去に映像視聴用端末で再生されてフレーム特徴量が送信されたコンテンツ情報、あるいは映像コンテンツ配信サーバなどからフレーム特徴量が送信されたコンテンツ情報を蓄積する。
(視聴済DB)
図22は、本実施形態に係る視聴済DB2016の構成を示す図である。
視聴済DB2016は、視聴者ID2201に対応付けられて視聴済コンテンツID2202を蓄積する。上述の如く、視聴済DB2016は、視聴者が視聴したコンテンツ以外に未視聴で視聴者が保有するコンテンツ、あるいは、家族又は友人が所有するコンテンツを蓄積してもよい。
《映像処理装置の処理手順》
図23は、本実施形態に係る映像処理装置2010の処理手順を示すフローチャートである。このフローチャートは、コンテンツ情報DB2013および視聴済DB2016が追加されて図4のCPU410によりRAM440を使用しながら実行され、図20の各機能構成部が実現される。なお、図23には、未視聴情報を映像視聴用端末から要求された場合のステップのみを示し、図8、図11、図16、図19で示した他のステップの記載は省略してある。図23をいずれかにも組み込むことが可能である。
ステップS2361においては、未視聴情報を映像視聴用端末から要求されたか否かが判定される。未視聴情報を映像視聴用端末から要求された場合はステップS2363に進んで、映像視聴用端末から送信されたフレーム特徴量から選別した派生コンテンツIDを、コンテンツ情報DB2013から収集する。次に、ステップS2365において、映像視聴用端末からの視聴者IDに基づいて視聴者嗜好DBから獲得した視聴者嗜好に合致するコンテンツIDを、コンテンツ情報DB2013から収集する。
次に、ステップS2367において、映像視聴用端末からの視聴者IDに基づいて視聴済DB2016から視聴済コンテンツIDを読み出して、ステップS2363および/またはS2365で収集したコンテンツID群から除いて、未視聴コンテンツを抽出する。ステップS2369においては、抽出された未視聴コンテンツを映像視聴用端末から視聴者に通知する。通知の形式は、コンテンツIDであっても、コンテンツ名称などの情報であっても、コンテンツの一部あるいはサムネールなどであってもよい。
[第8実施形態]
次に、本発明の第8実施形態に係る映像処理システムについて説明する。本実施形態に係る映像処理システムは、上記第7実施形態と比べると、映像視聴用端末から視聴者に通知する情報が未視聴コンテンツの入手が可能な接続先情報(例えば、URLなど)である点が異なる。本実施形態によれば、視聴者の嗜好を判断した上で、視聴者の未視聴のコンテンツを視聴者の簡単な操作で取得可能に通知・紹介することができる。なお、本実施形態においては、上記第7実施形態と異なる部分を説明する。その他の構成および動作は第7実施形態と同様であるため説明を省略する。
(コンテンツ情報DB)
図24は、本実施形態に係るコンテンツ情報DB2413のデータ構造を示す図である。
図24のコンテンツ情報DB2413は、フレーム特徴量2402に紐付けられたコンテンツID2401と、コンテンツの入手先を蓄積する。なお、図24の示すコンテンツ入手先は、URLの例を示したが、コンテンツ作成元あるいはコンテンツ発行元又はコンテンツ配信元などの連絡先でもよい。
[他の実施形態]
以上、本発明の実施形態について詳述したが、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステム、または、装置も、本発明の範疇に含まれる。
また、本発明は、複数の機器から構成されるシステムに適用されてもよいし、単体の装置に適用されてもよい。さらに、本発明は、実施形態の機能を実現する制御プログラムが、システムあるいは装置に直接あるいは遠隔から供給される場合にも適用可能である。したがって、本発明の機能をコンピュータで実現するために、コンピュータにインストールされる制御プログラム、あるいはその制御プログラムを格納した媒体、その制御プログラムをダウンロードさせるWWW(World Wide Web)サーバも、本発明の範疇に含まれる。
この出願は、2011年8月4日に出願された日本出願特願2011−170864を基礎とする優先権を主張し、その開示の全てをここに取り込む。
(付記)
(付記1)
視聴者に対応付けて、前記視聴者が視聴した映像コンテンツに含まれる一連のフレームで構成されるシーンの、各フレームを特徴付けるフレーム特徴量を記憶する第1記憶手段と、
一連のフレームで構成されるシーンのフレーム特徴量を、前記シーンが有する属性によりグループ分けしてシーングループとして記憶する第2記憶手段と、
前記第1記憶手段に記憶されたフレーム特徴量と前記第2記憶手段に記憶されたフレーム特徴量とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させる関心度累積手段と、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する視聴者嗜好判定手段と、
を備えることを特徴とする映像処理装置。
(付記2)
前記第1記憶手段は、シーンに含まれる一連のフレームの当該シーンを特徴づける一部のフレームのフレーム特徴量を記憶することを特徴とする請求項1に記載の映像処理装置。
(付記3)
前記第1記憶手段は、前記視聴者が前記映像コンテンツの視聴を要求した程度に対応する重みをさらに記憶し、
前記関心度累積手段は、前記スコアの増加に前記重みを付けることを特徴とする請求項1または2に記載の映像処理装置。
(付記4)
前記重み付けは、前記視聴者による前記映像コンテンツの視聴方法に対応し、番組として視聴した場合よりも記憶媒体からの視聴に大きな重みを付けることを特徴とする請求項3に記載の映像処理装置。
(付記5)
前記重み付けは、前記視聴者による前記映像コンテンツの視聴に対する前記視聴者の反応に対応し、前記視聴者による肯定的な反応に対応して大きな重みを付けることを特徴とする請求項3または4に記載の映像処理装置。
(付記6)
前記シーンが有する属性は、前記シーンを含む映像コンテンツの属性に対応し、
前記第2記憶手段は、さらに、一連のフレームで構成されるシーンに含まれる被写体を、前記シーンが有する属性によりグループ分けしてシーングループとして記憶し、
前記関心度累積手段は、前記フレーム特徴量の照合と前記被写体の照合との組合せに基づいて、シーングループへの関心度を表わすスコアを増加させることを特徴とする請求項1乃至5のいずれか1項に記載の映像処理装置。
(付記7)
前記シーンが有する属性は、1つのシーンから派生した派生シーンであることを示す属性を含むコンテンツの属性を含むことを特徴とする請求項1乃至6のいずれか1項に記載の映像処理装置。
(付記8)
前記シーンのフレーム特徴量を含む映像コンテンツを記憶する第3記憶手段と、
前記視聴者嗜好判定手段が判定した前記視聴者が嗜好するシーングループに含まれるシーンのフレーム特徴量を有する映像コンテンツの情報を前記第3記憶手段から検索し、映像視聴用端末に通知する通知手段と、
をさらに備えることを特徴とする請求項1乃至7のいずれか1項に記載の映像処理装置。
(付記9)
前記視聴者に対応付けて、前記視聴者が既に視聴した映像コンテンツの情報を記憶する第4記憶手段をさらに備え、
前記通知手段は、前記第3記憶手段から検索した、前記視聴者が嗜好するシーングループに含まれるシーンのフレーム特徴量を有する映像コンテンツの情報から、前記視聴者が既に視聴した映像コンテンツの情報を除いて、前記映像視聴用端末に通知することを特徴とする請求項8に記載の映像処理装置。
(付記10)
前記フレーム特徴量は、各フレームに異なるサイズで設定された複数の領域対の各領域対に対して算出された領域特徴量の差分を領域対の数の分組み合せたデータであることを特徴とする請求項1乃至9のいずれか1項に記載の映像処理装置。
(付記11)
前記領域特徴量は、輝度で表わされることを特徴とする請求項10に記載の映像処理装置。
(付記12)
視聴者に対応付けて記憶された、前記視聴者が視聴した映像コンテンツに含まれる一連のフレームで構成されるシーンの、各フレームを特徴付けるフレーム特徴量と、一連のフレームで構成されるシーンが有する属性によりシーングループとしてグループ分けして記憶されたフレーム特徴とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させる関心度累積ステップと、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する視聴者嗜好判定ステップと、
を含むことを特徴とする映像処理装置の制御方法。
(付記13)
視聴者に対応付けて記憶された、前記視聴者が視聴した映像コンテンツに含まれる一連のフレームで構成されるシーンの、各フレームを特徴付けるフレーム特徴量と、一連のフレームで構成されるシーンが有する属性によりシーングループとしてグループ分けして記憶されたフレーム特徴量とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させる関心度累積ステップと、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する視聴者嗜好判定ステップと、
をコンピュータに実行させることを特徴とする制御プログラム。
(付記14)
視聴者が視聴した映像コンテンツに基づいて前記視聴者の嗜好を判定する映像処理システムであって、
前記視聴者が視聴した映像コンテンツに含まれる一連のフレームで構成されるシーンの、各フレームを特徴つけるフレーム特徴量を抽出するフレーム特徴量抽出手段と、
視聴者に対応付けて、前記フレーム特徴量抽出手段が抽出したフレーム特徴量を記憶する第1記憶手段と、
一連のフレームで構成されるシーンのフレーム特徴量を、前記シーンが有する属性によりグループ分けしてシーングループとして記憶する第2記憶手段と、
前記第1記憶手段に記憶されたフレーム特徴量と前記第2記憶手段に記憶されたフレーム特徴量とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させる関心度累積手段と、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する視聴者嗜好判定手段と、
を備えることを特徴とする映像処理システム。
(付記15)
視聴者が視聴した映像コンテンツに基づいて前記視聴者の嗜好を判定する視聴者の嗜好判定方法であって、
前記視聴者が視聴した映像コンテンツに含まれる一連のフレームで構成されるシーンの、各フレームを特徴つけるフレーム特徴量を抽出するフレーム特徴量抽出ステップと、
視聴者に対応付けて記憶された、前記視聴者が視聴した映像コンテンツに含まれるフレームのフレーム特徴量と、一連のフレームで構成されるシーンが有する属性によりシーングループとしてグループ分けして記憶されたフレーム特徴量とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させる関心度累積ステップと、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する視聴者嗜好判定ステップと、
を含むことを特徴とする視聴者の嗜好判定方法。
Claims (10)
- 視聴者に対応付けて、前記視聴者が視聴した映像コンテンツを構成する各フレームから抽出されたフレーム特徴量を記憶する第1記憶手段と、
一連のフレームで構成されるシーンのフレーム特徴量を、前記シーンが有する属性によりグループ分けしてシーングループとして記憶する第2記憶手段と、
前記第1記憶手段に記憶されたフレーム特徴量と前記第2記憶手段に記憶されたフレーム特徴量とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させる関心度累積手段と、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する視聴者嗜好判定手段と、
を備えることを特徴とする映像処理装置。 - 前記第1記憶手段は、シーンを特徴づける一部のフレームのフレーム特徴量を記憶することを特徴とする請求項1に記載の映像処理装置。
- 前記第1記憶手段は、前記視聴者が前記映像コンテンツの視聴を要求した程度に対応する重みをさらに記憶し、
前記関心度累積手段は、前記スコアの増加に前記重みを付けることを特徴とする請求項1または2に記載の映像処理装置。 - 前記重み付けは、前記視聴者による前記映像コンテンツの視聴方法に対応し、番組として視聴した場合よりも記憶媒体からの視聴に大きな重みを付けることを特徴とする請求項3に記載の映像処理装置。
- 前記重み付けは、前記視聴者による前記映像コンテンツの視聴に対する前記視聴者の反応に対応し、前記視聴者による肯定的な反応に対応して大きな重みを付けることを特徴とする請求項3または4に記載の映像処理装置。
- 前記シーンが有する属性は、前記シーンを含む映像コンテンツの属性に対応し、
前記第2記憶手段は、さらに、一連のフレームで構成されるシーンに含まれる被写体を、前記シーンが有する属性によりグループ分けしてシーングループとして記憶し、
前記関心度累積手段は、前記フレーム特徴量の照合と前記被写体の照合との組合せに基づいて、シーングループへの関心度を表わすスコアを増加させることを特徴とする請求項1乃至5のいずれか1項に記載の映像処理装置。 - 視聴者に対応付けて記憶された、前記視聴者が視聴した映像コンテンツを構成する各フレームから抽出されたフレーム特徴量と、一連のフレームで構成されるシーンが有する属性によりシーングループとしてグループ分けして記憶されたフレーム特徴とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させ、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する、
映像処理装置の制御方法。 - 視聴者に対応付けて記憶された、前記視聴者が視聴した映像コンテンツを構成する各フレームから抽出されたフレーム特徴量と、一連のフレームで構成されるシーンが有する属性によりシーングループとしてグループ分けして記憶されたフレーム特徴量とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させ、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定すること、
をコンピュータに実行させる制御プログラム。 - 視聴者が視聴した映像コンテンツに基づいて前記視聴者の嗜好を判定する映像処理システムであって、
前記視聴者が視聴した映像コンテンツを構成する各フレームからフレーム特徴量を抽出するフレーム特徴量抽出手段と、
視聴者に対応付けて、前記フレーム特徴量抽出手段が抽出したフレーム特徴量を記憶する第1記憶手段と、
一連のフレームで構成されるシーンのフレーム特徴量を、前記シーンが有する属性によりグループ分けしてシーングループとして記憶する第2記憶手段と、
前記第1記憶手段に記憶されたフレーム特徴量と前記第2記憶手段に記憶されたフレーム特徴量とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させる関心度累積手段と、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する視聴者嗜好判定手段と、
を備える映像処理システム。 - 視聴者が視聴した映像コンテンツに基づいて前記視聴者の嗜好を判定する視聴者の嗜好判定方法であって、
前記視聴者が視聴した映像コンテンツを構成する各フレームを特徴つけるフレーム特徴量を抽出し、
視聴者に対応付けて記憶された、前記視聴者が視聴した映像コンテンツに含まれるフレームのフレーム特徴量と、一連のフレームで構成されるシーンが有する属性によりシーングループとしてグループ分けして記憶されたフレーム特徴量とを照合し、合致するフレーム特徴量がある場合に、フレーム特徴量が合致したシーングループへの関心度を表わす、前記視聴者のスコアを増加させ、
前記スコアのより高いシーングループを、前記視聴者が嗜好するシーングループと判定する、視聴者の嗜好判定方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013526974A JP5880558B2 (ja) | 2011-08-04 | 2012-07-31 | 映像処理システム、視聴者の嗜好判定方法、映像処理装置およびその制御方法と制御プログラム |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011170864 | 2011-08-04 | ||
JP2011170864 | 2011-08-04 | ||
JP2013526974A JP5880558B2 (ja) | 2011-08-04 | 2012-07-31 | 映像処理システム、視聴者の嗜好判定方法、映像処理装置およびその制御方法と制御プログラム |
PCT/JP2012/069930 WO2013018913A1 (ja) | 2011-08-04 | 2012-07-31 | 映像処理システム、視聴者の嗜好判定方法、映像処理装置およびその制御方法と制御プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2013018913A1 JPWO2013018913A1 (ja) | 2015-03-05 |
JP5880558B2 true JP5880558B2 (ja) | 2016-03-09 |
Family
ID=47629424
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013526974A Active JP5880558B2 (ja) | 2011-08-04 | 2012-07-31 | 映像処理システム、視聴者の嗜好判定方法、映像処理装置およびその制御方法と制御プログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US9070040B2 (ja) |
EP (1) | EP2741507B1 (ja) |
JP (1) | JP5880558B2 (ja) |
WO (1) | WO2013018913A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6428062B2 (ja) * | 2014-09-04 | 2018-11-28 | 富士ゼロックス株式会社 | 情報処理装置及び情報処理プログラム |
TWI552591B (zh) * | 2015-08-24 | 2016-10-01 | 晶睿通訊股份有限公司 | 標記視頻中物件的方法、裝置及電腦可讀取記錄媒體 |
US9721165B1 (en) * | 2015-11-13 | 2017-08-01 | Amazon Technologies, Inc. | Video microsummarization |
CN110324659B (zh) * | 2018-03-29 | 2020-08-28 | 北京字节跳动网络技术有限公司 | 一种视频特征提取方法及装置 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4299843B2 (ja) * | 2005-04-27 | 2009-07-22 | パナソニック株式会社 | 映像要約装置、端末装置、映像要約システムおよび映像要約方法 |
JP4625365B2 (ja) * | 2005-05-02 | 2011-02-02 | 日本放送協会 | 推薦順位選定装置及び推薦順位選定プログラム |
JP2009296346A (ja) | 2008-06-05 | 2009-12-17 | Sony Corp | 番組推薦装置、番組推薦方法及び番組推薦プログラム |
JP5322550B2 (ja) * | 2008-09-18 | 2013-10-23 | 三菱電機株式会社 | 番組推奨装置 |
JP5338450B2 (ja) | 2009-04-22 | 2013-11-13 | 富士通株式会社 | 再生装置及びプログラム |
JP5573131B2 (ja) | 2009-12-01 | 2014-08-20 | 日本電気株式会社 | 映像識別子抽出装置および方法、映像識別子照合装置および方法、ならびにプログラム |
TWI449410B (zh) * | 2011-07-29 | 2014-08-11 | Nat Univ Chung Cheng | Personalized Sorting Method of Internet Audio and Video Data |
US8510385B1 (en) * | 2012-06-29 | 2013-08-13 | Mobio Technologies, Inc. | System and method for user polling over a network |
-
2012
- 2012-07-31 EP EP12820528.3A patent/EP2741507B1/en active Active
- 2012-07-31 JP JP2013526974A patent/JP5880558B2/ja active Active
- 2012-07-31 WO PCT/JP2012/069930 patent/WO2013018913A1/ja active Application Filing
- 2012-07-31 US US14/236,752 patent/US9070040B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
EP2741507A4 (en) | 2015-07-29 |
EP2741507B1 (en) | 2017-05-10 |
US9070040B2 (en) | 2015-06-30 |
EP2741507A1 (en) | 2014-06-11 |
US20140169679A1 (en) | 2014-06-19 |
JPWO2013018913A1 (ja) | 2015-03-05 |
WO2013018913A1 (ja) | 2013-02-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI510064B (zh) | 視訊推薦系統及其方法 | |
US11044301B2 (en) | Sharing digital media assets for presentation within an online social network | |
KR101816113B1 (ko) | 컴퓨터 실행 방법, 시스템 및 컴퓨터 판독 가능 매체 | |
CN104994426B (zh) | 节目视频识别方法及系统 | |
US9098807B1 (en) | Video content claiming classifier | |
CN106326391B (zh) | 多媒体资源推荐方法及装置 | |
WO2011126134A1 (ja) | リアルタイム動画像収集・認識・分類・処理・配信サーバシステム | |
JP5312352B2 (ja) | ビデオフレーム特徴に基づくビデオ推薦のためのシステム及び方法 | |
KR101345284B1 (ko) | 멀티미디어 컨텐츠 부호화/재생 방법 및 장치 | |
US10297287B2 (en) | Dynamic media recording | |
US20070086665A1 (en) | Method and apparatus for encoding multimedia contents and method and system for applying encoded multimedia contents | |
US20160210367A1 (en) | Transition event detection | |
JP2009110460A (ja) | 人物画像検索装置 | |
CN113779303B (zh) | 视频集合的索引方法、装置和存储介质及电子设备 | |
JP5880558B2 (ja) | 映像処理システム、視聴者の嗜好判定方法、映像処理装置およびその制御方法と制御プログラム | |
Chu et al. | On broadcasted game video analysis: event detection, highlight detection, and highlight forecast | |
JP5569830B2 (ja) | 映像処理システム、映像処理方法、映像処理装置及びその制御方法と制御プログラム | |
US20230164369A1 (en) | Event progress detection in media items | |
JP2014130536A (ja) | 情報管理装置、サーバ及び制御方法 | |
JP6321945B2 (ja) | ダイジェスト映像生成装置、ダイジェスト映像生成方法及びダイジェスト映像生成プログラム | |
US20230142432A1 (en) | Content Generating Device, Content Distribution System, Content Generating Method, And Content Generating Program | |
KR20090096158A (ko) | 동영상 스틸컷 기반의 크로스미디어 검색 시스템 및 방법 | |
US20140189769A1 (en) | Information management device, server, and control method | |
CN114173200B (zh) | 基于广电专网的视频管理推送方法及装置 | |
CN114765693A (zh) | 直播流内容处理方法和装置、存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150414 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150519 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160105 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160118 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5880558 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |