JP6731178B2 - 動画検索装置およびプログラム - Google Patents

動画検索装置およびプログラム Download PDF

Info

Publication number
JP6731178B2
JP6731178B2 JP2016043050A JP2016043050A JP6731178B2 JP 6731178 B2 JP6731178 B2 JP 6731178B2 JP 2016043050 A JP2016043050 A JP 2016043050A JP 2016043050 A JP2016043050 A JP 2016043050A JP 6731178 B2 JP6731178 B2 JP 6731178B2
Authority
JP
Japan
Prior art keywords
event
moving image
video
preference information
coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016043050A
Other languages
English (en)
Other versions
JP2017161963A (ja
Inventor
内橋 真吾
真吾 内橋
福井 基文
基文 福井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2016043050A priority Critical patent/JP6731178B2/ja
Priority to US15/225,183 priority patent/US10331739B2/en
Publication of JP2017161963A publication Critical patent/JP2017161963A/ja
Application granted granted Critical
Publication of JP6731178B2 publication Critical patent/JP6731178B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/73Querying
    • G06F16/735Filtering based on additional data, e.g. user or group profiles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2457Query processing with adaptation to user needs
    • G06F16/24578Query processing with adaptation to user needs using ranking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/71Indexing; Data structures therefor; Storage structures

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、動画検索装置およびプログラムに関する。
特許文献1には、放送されるデジタルコンテンツに付加された、そのデジタルコンテンツの属性ベクトルと、ユーザの嗜好を示した選択ベクトルとの内積演算を行って、ユーザの嗜好に合致したデジタルコンテンツを選択するようにした受信装置が開示されている。
特許文献2には、コンテンツソフトに付加された客観的キーワードおよび感性的キーワードを用いて、コンテンツソフトを検索するようにしたコンテンツ検索システムが開示されている。
特許文献3には、動画データを分割したシーンから抽出されたコンテンツタグと、コンテンツタグに基づいて分類された動画シーンから抽出されたトピックタグと、ユーザの視聴操作から作成されたユーザの嗜好を示すユーザプロファイルとに基づいて、推薦する動画データを選択する動画推薦装置が開示されている。
特開2001−160955号公報 特開2002−099574号公報 特開2010−288024号公報
複数の動画の中から利用者の嗜好に合致した動画を検索するような場合、複数の動画のそれぞれに属性情報を付加しておき、その属性情報を用いて検索することが行われている。
例えば、数多くの旅行情報動画の中から、旅行目的に合致した旅行情報動画を探すような場合、各旅行情報動画に検索用のキーワード等の情報を付加しておき、入力された単語と動画に付加されたキーワードとが一致する旅行情報動画を検索するようなことが行われている。
しかし、このような単語検索では、検索のために複数の単語を入力した場合、入力された単語を同等に扱うため、どの単語が含まれる動画を優先して検索するかを設定することができない。
例えば、すし、蕎麦、ラーメン、スキューバダイビングという単語で検索した場合、実は利用者はスキューバダイビングが含まれる動画を検索したい場合であっても、すし、蕎麦、ラーメンのみが含まれる動画をスキューバダイビングが含まれる動画よりも優先して検索してしまうような場合が発生し得る。
そのため、検索する単語や概念に、どの単語や概念を優先して検索するかを示す強度を設定するような方法も用いられるが、例え、検索する単語や概念に強度を設定したとしても、検索する単語や概念が多くなると、設定した強度が相対的に低くなり利用者の嗜好に合致した動画が検索され難くなってしまう。
本発明の目的は、複数の動画の中から利用者の嗜好に合致した動画を検索する際に、複数の単語や概念等により並列に検索した場合と比較して、より利用者の嗜好に合致した動画を検索可能な動画検索装置およびプログラムを提供することである。
[動画検索装置]
請求項1に係る本発明は、動画データをその内容に応じて複数の区間に分割して、分割した区間毎に前記各事象が含まれる確度を算出し、前記各事象について、複数区間における確度のうち最も大きな値を選択して当該事象の確度とすることにより、当該動画データに各事象が含まれる確度を前記事象毎にそれぞれ示した動画属性情報を算出する算出手段と、
動画データを、前記算出手段により算出された動画属性情報とともに格納する格納手段と、
検索したい動画に含めたい各事象の係数と、検索したい動画に含めたい前記各事象の上位概念の係数を嗜好情報として入力する入力手段と、
前記入力手段により入力された嗜好情報に基づいて、前記格納手段に格納された動画データの中から、当該嗜好情報に合致した動画データを検索する検索手段とを備えた動画検索装置である。
また、請求項2に係る発明は、動画データを、当該動画データに各事象が含まれる確度を前記事象毎にそれぞれ示した動画属性情報とともに格納する格納手段と、
検索したい動画に含めたい各事象の係数と、検索したい動画に含めたい前記各事象の上位概念の係数を嗜好情報として入力する入力手段と、
前記入力手段により入力された嗜好情報に基づいて、前記格納手段に格納された動画データの中から、当該嗜好情報に合致した動画データを検索する際に、前記嗜好情報のうちの各事象の係数と前記動画属性情報における各事象の確度とから下位概念の合致度を算出し、前記嗜好情報のうちの上位概念の係数と、当該上位概念に含まれる各事象の係数と、前記動画属性情報における当該上位概念に含まれる各事象の確度とから上位概念の合致度を算出し、前記下位概念の合致度と前記上位概念の合致度とから、当該動画データと嗜好情報との合致度を計算して、入力された嗜好情報に合致した動画データを検索する検索手段とを備えた動画検索装置である。
[プログラム]
請求項に係る本発明は、動画データをその内容に応じて複数の区間に分割して、分割した区間毎に前記各事象が含まれる確度を算出し、前記各事象について、複数区間における確度のうち最も大きな値を選択して当該事象の確度とすることにより、当該動画データに各事象が含まれる確度を前記事象毎にそれぞれ示した動画属性情報を算出する算出ステップと、
動画データを、前記算出ステップにおいて算出された動画属性情報とともに格納する格納ステップと、
検索したい動画に含めたい各事象の係数と、検索したい動画に含めたい前記各事象の上位概念の係数を嗜好情報として入力する入力ステップと、
前記入力ステップにおいて入力された嗜好情報に基づいて、前記格納ステップにおいて格納された動画データの中から、当該嗜好情報に合致した動画データを検索する検索ステップとをコンピュータに実行させるためのプログラムである。
また、請求項4に係る本発明は、動画データを、当該動画データに各事象が含まれる確度を前記事象毎にそれぞれ示した動画属性情報とともに格納する格納ステップと、
検索したい動画に含めたい各事象の係数と、検索したい動画に含めたい前記各事象の上位概念の係数を嗜好情報として入力する入力ステップと、
前記入力ステップにおいて入力された嗜好情報に基づいて、前記格納ステップにおいて格納された動画データの中から、当該嗜好情報に合致した動画データを検索する際に、前記嗜好情報のうちの各事象の係数と前記動画属性情報における各事象の確度とから下位概念の合致度を算出し、前記嗜好情報のうちの上位概念の係数と、当該上位概念に含まれる各事象の係数と、前記動画属性情報における当該上位概念に含まれる各事象の確度とから上位概念の合致度を算出し、前記下位概念の合致度と前記上位概念の合致度とから、当該動画データと嗜好情報との合致度を計算して、入力された嗜好情報に合致した動画データを検索する検索ステップとをコンピュータに実行させるためのプログラムである。
請求項1に係る本発明によれば、複数の動画の中から利用者の嗜好に合致した動画を検索する際に、複数の単語や概念等により並列に検索した場合と比較して、より利用者の嗜好に合致した動画を検索可能な動画検索装置を提供することができる。
また、請求項1に係る本発明によれば、動画データから動画属性情報を算出することが可能な動画検索装置を提供することができる。
請求項2に係る本発明によれば、複数の動画の中から利用者の嗜好に合致した動画を検索する際に、複数の単語や概念等により並列に検索した場合と比較して、より利用者の嗜好に合致した動画を検索可能な動画検索装置を提供することができる。
また、請求項2に係る本発明によれば、上位概念の異なる多様な動画データを優先した検索を行うことが可能な動画検索装置を提供することができる。
請求項に係る本発明によれば、複数の動画の中から利用者の嗜好に合致した動画を検索する際に、複数の単語や概念等により並列に検索した場合と比較して、より利用者の嗜好に合致した動画を検索可能なプログラムを提供することができる。
また、請求項3に係る本発明によれば、動画データから動画属性情報を算出することが可能なプログラムを提供することができる。
請求項4に係る本発明によれば、複数の動画の中から利用者の嗜好に合致した動画を検索する際に、複数の単語や概念等により並列に検索した場合と比較して、より利用者の嗜好に合致した動画を検索可能なプログラムを提供することができる。
また、請求項4に係る本発明によれば、上位概念の異なる多様な動画データを優先した検索を行うことが可能なプログラムを提供することができる。
本発明の一実施形態の旅行情報提供システムのシステム構成を示す図である。 本発明の一実施形態における端末装置21のハードウェア構成を示すブロック図である。 本発明の一実施形態における端末装置21の機能構成を示すブロック図である。 動画ベクトル情報算出部33における動画ベクトル情報の算出処理について説明するためのフローチャートである。 動画ベクトル情報算出部33により算出されるN次元の動画ベクトル情報の具体例を示す図である。 本発明の一実施形態の旅行情報提供システムにおける上位概念と下位概念(事象)との関係例を説明するための図である。 ユーザの嗜好情報を入力する際に表示される入力画面例を示す図である。 ユーザの嗜好情報を入力する際に表示される入力画面例を示す図である。 ユーザの嗜好情報を入力する際に表示される入力画面例を示す図である。 図7〜図9に示すような画面例を介して取得された嗜好情報の一例を示す図である。 下位概念のスコアと上位概念のスコアの算出方法を説明するための図である。 下位概念のスコア、上位概念のスコアおよび動画スコアの具体的な算出式を示す図である。 具体的な値を用いて、下位概念のスコア、上位概念のスコア、動作スコアを具体的に算出した算出例を示す図である。 動画検索部35による検索結果の一例を示す図である。
次に、本発明の実施の形態について図面を参照して詳細に説明する。
図1は本発明の一実施形態の旅行情報提供システムの構成を示すシステム図である。
本発明の一実施形態の旅行情報提供システムは、図1に示されるように、インターネット等のネットワーク30により接続されたサーバ装置10、および端末装置21〜23により構成される。ここで、サーバ装置10は、旅行情報動画を提供しており、例えば各地の観光協会等により運営されている。
また、端末装置22、23は、それぞれ一般ユーザであるユーザA、Bのパーソナルコンピュータであり、ネットワーク30を介してサーバ装置10にアクセスして旅行動画を閲覧することが可能な構成となっている。
また、端末装置21は、例えば旅行情報提供業者等により運営された旅行情報提供サイトに設置されており、サーバ装置10から提供される旅行情報動画の中からユーザA、Bの嗜好情報に合致したものを選択して、ユーザA、Bに提供する動画検索装置である。
なお、図1では、説明を簡単にするために旅行情報動画を提供するサーバ装置10が1台しか示されていないが、実際には数多くのサーバ装置が存在する。また、図1には、ユーザも2人のユーザA、Bしか示されていないが、実際には数多くのユーザが旅行情報提供システムを利用している。
次に、本実施形態の旅行情報提供システムにおいて動画検索装置として機能する端末装置21のハードウェア構成を図2に示す。
端末装置21は、図2に示されるように、CPU11、メモリ12、ハードディスクドライブ(HDD)等の記憶装置13、ネットワーク30を介して外部の装置等との間でデータの送信及び受信を行う通信インタフェース(IF)14、タッチパネル又は液晶ディスプレイ並びにキーボードを含むユーザインタフェース(UI)装置15を有する。これらの構成要素は、制御バス16を介して互いに接続されている。
CPU11は、メモリ12または記憶装置13に格納された制御プログラムに基づいて所定の処理を実行して、端末装置21の動作を制御する。なお、本実施形態では、CPU11は、メモリ12または記憶装置13内に格納された制御プログラムを読み出して実行するものとして説明したが、当該プログラムをCD−ROM等の記憶媒体に格納してCPU11に提供することも可能である。
図3は、上記の制御プログラムが実行されることにより実現される端末装置21の機能構成を示すブロック図である。
本実施形態の端末装置21は、図3に示されるように、動画データ取得部31と、嗜好情報入力部32と、動画ベクトル情報算出部33と、動画ベクトル情報格納部34と、動画検索部35とを備えている。
動画データ取得部31は、例えばサーバ装置10により提供されている旅行情報動画等の動画データを、ネットワーク30を介して取得する。
嗜好情報入力部32は、検索したい旅行情報動画に含めたい各事象の係数と、検索したい動画に含めたい各事象の上位概念の係数を嗜好情報として入力する。
ここで、本実施形態では、検索対象の動画が旅行情報動画であるため、各事象としては、例えば、ゴルフ、テニス、乗馬、いちご狩り、ラーメン、蕎麦、すし、城、神社、寺、世界遺産等の各種項目が設定されている。
また、各事象の上位概念とは、例えば、ゴルフ、テニス、乗馬、いちご狩りという事象に対しては、上位概念としてアクティビティーという項目が設定されており、ラーメン、蕎麦、すしという事象に対しては、上位概念として、グルメという項目が設定されており、城、神社、寺、世界遺産という事象に対しては、上位概念として観光名所という項目が設定されている。
なお、この嗜好情報の詳細については後述する。
動画ベクトル情報算出部33は、動画データ取得部31により取得された動画データに基づいて、その動画データに、動画データの内容を示す各事象が含まれる確度(度合い)を事象毎にそれぞれ示した動画ベクトル情報(動画属性情報)を算出する。
具体的には、動画ベクトル情報算出部33は、動画データをその内容に応じて複数の区間に分割して、分割した区間毎に各事象が含まれる確度を算出し、その各事象について、複数区間における確度のうち最も大きな値を選択してその事象の確度とすることにより動画ベクトル情報を算出する。
動画ベクトル情報格納部34は、動画データ取得部31により取得された動画データを、動画ベクトル情報算出部33により算出された動画ベクトル情報とともに格納する。
動画検索部35は、嗜好情報入力部32により入力された嗜好情報に基づいて、動画ベクトル情報格納部34に格納された動画データの中から、その嗜好情報に合致した動画データを検索する。
具体的には、動画検索部35は、嗜好情報のうちの各事象の係数と動画ベクトル情報における各事象の確度とから下位概念のスコア(下位概念の合致度)を算出し、嗜好情報のうちの上位概念の係数と、その上位概念に含まれる各事象の係数と、動画ベクトル情報における上位概念に含まれる各事象の確度とから上位概念のスコア(上位概念の合致度)を算出し、下位概念のスコアと上位概念のスコアとから、動画データと嗜好情報との動画スコア(合致度)を計算して、入力された嗜好情報に合致した動画データを検索する。
次に、本実施形態の旅行情報提供システムにおける端末装置21の動作について図面を参照して詳細に説明する。
まず、図4のフローチャートを参照して、動画ベクトル情報算出部33における動画ベクトル情報の算出処理について説明する。
動画ベクトル情報算出部33は、動画データ取得部31により取得された動画の内容を解析して、内容のまとまり毎に1つの区間とすることにより、この動画を複数の区間に分割する(ステップS101)。
ここで、動画を複数の区間に分割する方法としては、一般的に用いられている方法を利用することができる。例えば、画像の特徴量を抽出して、抽出された特徴量が大幅に変化する点を境として動画を複数区間に分割するような方法を用いることができる。また、下記に示す論文に記載された方法を用いることができる。
John S. Boreczky and Lawrence A. Rowe, “Comparison of video shot boundary detection techniques”, J. Electron. Imaging. 5(2), p122-128 (Apr 01, 1996).
次に、動画ベクトル情報算出部33は、オブジェクト検出、画像認識、シーン認識、動き解析等の方法を用いて、分割した各区間の動画に含まれる各事象をそれぞれ検出して、区間毎の動画ベクトル情報を算出する(ステップS102)。
ここで、事象検出を行う際には、各区間をさらに小区間に分割して、各小区間について事象検出処理を行って、全小区間の検出値のうちの最大値をその区間の最終的な検出値とする。ここで、それぞれの小区間は互いに重なることもある。
また、この事象検出では、構造解析を区間中の各フレームについて行い、最良構図となる瞬間を中心とした検出結果を最終的な検出値とする。
なお、この事象検出では、前景背景解析を行って、前景に対してオブジェクト検出を行い、背景に対してシーン認識を行って事象検出するようにしても良い。
そして、動画ベクトル情報算出部33は、区間毎の動画ベクトル情報における各事象の確度のうち最も大きな値を選択してその事象の確度とすることにより動画全体の動画ベクトル情報を算出する。ここで、確度を検出する事象がN個ある場合には、算出される動画ベクトル情報はN次元のベクトル情報となる。
次に、上記のようにして算出されるN次元の動画ベクトル情報の具体例を図5に示す。
この図5では、ある動画データを8つの区間に分割して区間1〜8毎に、N個の事象それぞれの確度(0〜1)が算出された場合が示されている。ただし、動画データを分割する区間の数は8に限定されるものではない。
そして、確度を検出する事象としては、事象1(おすし)、事象2(そば)、事象3(スキューバダイビング)、事象4(ゴルフ)、事象5(乗馬)、・・・・、事象N(城)というN個の事象が設定されている。
ここで、N個の事象それぞれの確度とは、その事象が動画に含まれている確からしさの度合いを示す値であり、数値が高いほどこの事象が動画に含まれている可能性が高いことが示されている。
そして、この8つの区間毎の動画ベクトル情報について、事象毎に全区間での最大値を選択して、その最大値を集めることにより、動画全体の動画ベクトル情報(0.723、0.195、0.412、・・・、0.395)というN次元のベクトル情報が生成される。
つまり、この動画全体の動画ベクトル情報は、各事象について、いずれかの区間においてその事象が含まれている確度を示す情報となっている。
この図5を参照すると、例えば、事象1(おすし)の確度が区間6で「0.723」と大きな値となっており、区間6の動画は、おすしを食べている動画、またはおすしを紹介している動画等のおすしに何等かの関係がある動画である可能性が高いことを示している。
次に、本実施形態の旅行情報提供システムにおける上位概念と下位概念(事象)との関係例について図6を参照して説明する。
図6に示した例では、下位概念である事象1(おすし)、事象2(そば)に対して、上位概念として上位概念1(グルメ)という項目が設定されている。また、下位概念である事象3(スキューバダイビング)、事象4(ゴルフ)、事象5(乗馬)に対して、上位概念として上位概念2(アクティビティー)という項目が設定されている。
なお、1つの上位概念について、常に下位概念である事象が複数設定されている必要はなく、上位概念3(ショッピング)と事象6(ショッピング)のように1つの上位概念に1つの事象のみが設定されているような場合もあり得る。また、1つの事象が複数の上位概念に含まれるような場合もあり得る。例えば、「城」という事象が「観光名所」という上位概念に含まれるとともに、「歴史」という上位概念に含まれるような設定とすることも可能である。
ここで、w11、w12、w23、w24、w25、w36、・・・・、wMNは、それぞれ、あるユーザにおける事象1〜Nに対する嗜好の度合いを示す係数である。また、W1、W2、W3、・・・・、WMは、それぞれ、あるユーザの上位概念1〜Mに対する嗜好の度合いを示す係数である。
つまり、各事象の係数w11、w12、w23、w24、w25、w36、・・・・、wMNのうち、検索したい動画に含めたい事象に対応する係数を大きく設定すれば、その事象が含まれる動画が優先して上位に検索されるようになる。また、各上位概念の係数W1、W2、W3、・・・・、WMのうち、検索したい動画に含めたい上位概念に対応する係数を大きく設定すれば、その上位概念に属する事象が含まれる動画が優先して上位に検索されるようになる。
次に、嗜好情報入力部32が、端末装置22、23等からユーザA、Bの嗜好情報を入力する際に表示する入力画面例を図7〜図9を参照して説明する。
ここでは、例えば、ユーザA、Bが旅行情報提供サイトにユーザ登録を行う際のアンケートにおいて、ユーザA、Bの旅行についての嗜好を調べて嗜好情報を生成する場合を用いて説明する。
先ず、嗜好情報入力部32では、図7に示すような画面を表示して、ユーザの旅行目的としてどのような項目を重視するかを質問して、各項目を重視する度合いを入力してもらう。図7に示した画面例では、「アクティビティー」の項目が他の項目ようにも重視する旅行目的として設定されているのが分かる。
次に、嗜好情報入力部32では、図8に示すような画面を表示して、「グルメ」という上位概念に含まれる下位概念である各事象について、旅行中に食べたいかどうかの度合い入力してもらう。
また、同様にして、嗜好情報入力部32では、図9に示すような画面を表示して、「アクティビティー」という上位概念に含まれる下位概念である各事象について、旅行中にやってみたい項目の度合い入力してもらう。図9に示した画面例では、「ゴルフ」の項目が他の項目よりも重視する旅行目的として設定されているのが分かる。
そして、順次他の上位概念の項目についてもユーザに対するアンケートが行われて、そのユーザの嗜好情報の取得が行われる。
嗜好情報入力部32は、図7〜図9に示したような画面表示を行ってユーザから旅行についての嗜好情報を取得して、上位概念の係数W1、W2、・・・、WN、および下位概念である事象の係数w11、w12、w23、・・・・、wMNを嗜好情報として設定する。
このようにして図7〜図9に示すような画面例を介して取得される嗜好情報の一例を図10に示す。
図10では、上位概念の係数として、上位概念1(グルメ)についての係数W1が「0.3」、上位概念2(アクティビティー)についての係数W2が「0.9」と設定されている。つまり、このユーザは、旅行目的として食事よりもアクティビティーを重視しており、このユーザに提供する旅行情報動画としては、アクティビティーが含まれる情報を優先して提供するような設定がされていることになる。
また、図10では、下位概念(事象)の係数として、事象1(おすし)についての係数W11が「0.5」、事象2(そば)についての係数W12が「0.6」、事象3(スキューバダイビング)についての係数W23が「0.0」、事象4(ゴルフ)についての係数W24が「0.8」と設定されている。つまり、このユーザは、おすしやそばの旅行情報も希望しているが、これらのグルメ関係の旅行情報よりもゴルフの旅行情報を希望しているため、このような値が設定されている。
なお、嗜好情報入力部32は、上記で説明したようにユーザの入力内容に基づいて嗜好情報を入力するのではなく、そのユーザのSNS(Social Networking Service)等への書き込み内容に基づいて、自動的に嗜好情報を取得して、上位概念の係数や各事象の係数と入力するようにしても良い。
次に、この図10に示したような嗜好情報が設定された場合に、動画検索部35が、下位概念のスコア、上位概念のスコアおよび動画スコアを算出する処理を図11〜図13を参照して説明する。
まず、下位概念のスコアと上位概念のスコアの算出方法について図11を参照して説明する。
図11に示すように、動画検索部35は、図5に示したようなN次元の動画全体の動画ベクトル情報(S1、S2、S3、・・・・、SN)と、図10に示したような下位概念である事象の係数w11、w12、w23、・・・・、wMNとから下位概念のスコアを算出する。
また、動画検索部35は、N次元の動画全体の動画ベクトル情報(S1、S2、S3、・・・・、SN)と、図10に示したような事象の係数w11、w12、w23、・・・・、wMNと、上位概念の係数W1、W2、・・・、WNとから上位概念のスコアを算出する。
そして、動画検索部35は、下位概念のスコアと上位概念のスコアとから、動画データと嗜好情報との合致度を示す動画スコアを計算する。
次に、下位概念のスコア、上位概念のスコアおよび動画スコアの具体的な算出式を図12に示す。
まず、下位概念のスコアは、図12の式(1)に示すように、動画ベクトル情報(S1、S2、S3、・・・・、SN)と、各事象の係数w11、w12、w23、・・・・、wMNとを乗算して、その累積値を演算することにより求められる。
具体的には、下位概念は、S1・w11+S2・w12+S3・w23+・・・+SN・wMNを演算することにより求められる。
そして、上位概念のスコアは、図12の式(2)に示すように、各上位概念のカテゴリー毎に、動画ベクトル情報の各事象の確度の値と各事象の係数とを乗算した値のうちの最大値と、その上位概念のカテゴリーの係数とを乗算して、それぞれの上位概念毎に得られた値を累積することにより求められる。
例えば、上位概念1(グルメ)については、先ずmax(S1・w11、S2・w12)により、S1・w11、S2・w12のうちの最大値を求める。例えば、ここではS1・w11が最大値であった場合、この値に上位概念1の係数W1を乗算したW1・S1・w11が上位概念1についての値となる。そして、この値をそれぞれの上位概念毎に求めて、それらを累積したものが上位概念のスコアとなる。
また、動画スコアは、図12の式(3)に示すように、下位概念のスコアと上位概念のスコアにそれぞれp、(1−p)を乗算してその結果を加算することにより算出される。なお、ここでpの値は、0≦p≦1となっている。つまり、このpの値は上位概念のスコアと下位概念のスコアのうちどちらを優先するかを設定する値であり、pの値が大きいほど下位概念のスコアを優先し、pの値が小さいほど上位概念のスコアを優先することになる。
この図12に示した算出式に、図5に示した動画情報ベクトル例の値や、図10に示した係数値を代入して、下位概念のスコア、上位概念のスコア、動作スコアを具体的に算出した算出例を図13に示す。なお、図13では、動画スコアを算出する際のpの値を0.4とした場合が示されている。
図13の式(1)に示されるように、下位概念のスコアとして、0.723×0.5+0.195×0.6+・・・・+0.395×0.2=39.621という値が算出されているのが分かる。
また、図13の式(2)に示されるように、上位概念のスコアとして、0.3×0.723×0.5+0.9×0.195×0.8+・・・・+0.2×0.395×0.2=45.332という値が算出されているのが分かる。
そして、図13の式(3)に示されるように、動画スコアとして、0.4×39.621+0.6×45.332≒43.048という値が算出されているのが分かる。
そして、動画検索部35は、このような動画スコアの算出を、動画データ取得部31により取得された旅行情報動画毎に算出して、算出された動画スコアが大きなものから順に並び替えたリストを検索結果としてユーザに提供する。
このような動画検索部35による検索結果の一例を図14に示す。
図14に示した例では、様々な旅行情報提供サイトから取得された旅行情報動画が動画スコアの高い順に並べられた例が示されている。このような検索結果では、そのユーザの嗜好情報に合致した旅行情報動画が上位に並べられているため、ユーザが検索結果上位の旅行情報動画を選択すると、そのユーザの嗜好に合致した旅行情報動画を視聴することができるようになっている。
なお、本実施形態の端末装置21では、上位概念と、下位概念である事象のそれぞれについて、ユーザの嗜好を係数により設定することが可能となっている。つまり、図10に示したように、下位概念の事象毎に係数w11、w12、・・・・を設定するとともに、上位概念の係数W1、W2、・・・を設定することができるようになっている。
そのため、本実施形態の端末装置21によれば、ユーザの嗜好により合致した旅行情報動画を検索上位にすることができるようになっている。
もし、下位概念の事象についてのみにしか係数が設定されないようなシステムであれば、例え、利用者が一番視聴したい事象の係数を大きな値に設定したとしても、ある程度の大きさの係数を設定したそれ以外の事象の数が多くなると、利用者が一番視聴したい事象が含まれる旅行情報動画が検索されない可能性がある。
例えば図10に示したような場合でも、事象1(おすし)、事象2(おそば)の係数w11、w12がそれぞれ0.5、0.6と設定されており、事象4(ゴルフ)の係数w24の0.8よりも小さいものの、おすしと蕎麦の両方の事象が含まれる旅行情報動画が検索結果の上位になる可能性がある。つまり、「おすし」や「おそば」についての旅行情報動画ばかりが検索結果の上位にあがってくる可能性もある。
しかし、図10に示すように、上位概念の係数についても設定するようにしたことにより、ユーザがより視聴を希望する旅行情報動画はグルメに関するものではなく、アクティビティーに関するものであるという設定がされていることにより、おすしや蕎麦の事象が含まれる旅行情報動画よりもゴルフが事象として含まれる旅行情報動画が優先して検索されることになる。
また、上位概念のスコアを算出する際には、各事象の確度と事象毎の係数の乗算値のうちの最大値のみを選択して、選択した最大値に上位概念の係数を乗算している。そのため、各上位概念に含まれる事象の項目数の多少に関係なく、上位概念が異なる事象が含まれる多様性のある旅行情報動画を検索することができるようになっている。
なお、上記実施形態では、旅行情報についての動画データの中から嗜好情報に合致した動画データを検索する場合を用いて説明したが、本発明はこれに限定されるものではなく、旅行情報動画以外の他の動画データを検索する場合でも同様に本発明を適用することができるものである。
10 サーバ装置
11 CPU
12 メモリ
13 記憶装置
14 通信インタフェース(IF)
15 ユーザインタフェース(UI)装置
16 制御バス
21〜23 端末装置
30 ネットワーク
31 動画データ取得部
32 嗜好情報入力部
33 動画ベクトル情報算出部
34 動画ベクトル情報格納部
35 動画検索部

Claims (4)

  1. 動画データをその内容に応じて複数の区間に分割して、分割した区間毎に前記各事象が含まれる確度を算出し、前記各事象について、複数区間における確度のうち最も大きな値を選択して当該事象の確度とすることにより、当該動画データに各事象が含まれる確度を前記事象毎にそれぞれ示した動画属性情報を算出する算出手段と、
    動画データを、前記算出手段により算出された動画属性情報とともに格納する格納手段と、
    検索したい動画に含めたい各事象の係数と、検索したい動画に含めたい前記各事象の上位概念の係数を嗜好情報として入力する入力手段と、
    前記入力手段により入力された嗜好情報に基づいて、前記格納手段に格納された動画データの中から、当該嗜好情報に合致した動画データを検索する検索手段と、
    を備えた動画検索装置。
  2. 動画データを、当該動画データに各事象が含まれる確度を前記事象毎にそれぞれ示した動画属性情報とともに格納する格納手段と、
    検索したい動画に含めたい各事象の係数と、検索したい動画に含めたい前記各事象の上位概念の係数を嗜好情報として入力する入力手段と、
    前記入力手段により入力された嗜好情報に基づいて、前記格納手段に格納された動画データの中から、当該嗜好情報に合致した動画データを検索する際に、前記嗜好情報のうちの各事象の係数と前記動画属性情報における各事象の確度とから下位概念の合致度を算出し、前記嗜好情報のうちの上位概念の係数と、当該上位概念に含まれる各事象の係数と、前記動画属性情報における当該上位概念に含まれる各事象の確度とから上位概念の合致度を算出し、前記下位概念の合致度と前記上位概念の合致度とから、当該動画データと嗜好情報との合致度を計算して、入力された嗜好情報に合致した動画データを検索する検索手段と、
    を備えた動画検索装置。
  3. 動画データをその内容に応じて複数の区間に分割して、分割した区間毎に前記各事象が含まれる確度を算出し、前記各事象について、複数区間における確度のうち最も大きな値を選択して当該事象の確度とすることにより、当該動画データに各事象が含まれる確度を前記事象毎にそれぞれ示した動画属性情報を算出する算出ステップと、
    動画データを、前記算出ステップにおいて算出された動画属性情報とともに格納する格納ステップと、
    検索したい動画に含めたい各事象の係数と、検索したい動画に含めたい前記各事象の上位概念の係数を嗜好情報として入力する入力ステップと、
    前記入力ステップにおいて入力された嗜好情報に基づいて、前記格納ステップにおいて格納された動画データの中から、当該嗜好情報に合致した動画データを検索する検索ステップと、
    をコンピュータに実行させるためのプログラム。
  4. 動画データを、当該動画データに各事象が含まれる確度を前記事象毎にそれぞれ示した動画属性情報とともに格納する格納ステップと、
    検索したい動画に含めたい各事象の係数と、検索したい動画に含めたい前記各事象の上位概念の係数を嗜好情報として入力する入力ステップと、
    前記入力ステップにおいて入力された嗜好情報に基づいて、前記格納ステップにおいて格納された動画データの中から、当該嗜好情報に合致した動画データを検索する際に、前記嗜好情報のうちの各事象の係数と前記動画属性情報における各事象の確度とから下位概念の合致度を算出し、前記嗜好情報のうちの上位概念の係数と、当該上位概念に含まれる各事象の係数と、前記動画属性情報における当該上位概念に含まれる各事象の確度とから上位概念の合致度を算出し、前記下位概念の合致度と前記上位概念の合致度とから、当該動画データと嗜好情報との合致度を計算して、入力された嗜好情報に合致した動画データを検索する検索ステップと、
    をコンピュータに実行させるためのプログラム。
JP2016043050A 2016-03-07 2016-03-07 動画検索装置およびプログラム Active JP6731178B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016043050A JP6731178B2 (ja) 2016-03-07 2016-03-07 動画検索装置およびプログラム
US15/225,183 US10331739B2 (en) 2016-03-07 2016-08-01 Video search apparatus, video search method, and non-transitory computer readable medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016043050A JP6731178B2 (ja) 2016-03-07 2016-03-07 動画検索装置およびプログラム

Publications (2)

Publication Number Publication Date
JP2017161963A JP2017161963A (ja) 2017-09-14
JP6731178B2 true JP6731178B2 (ja) 2020-07-29

Family

ID=59724149

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016043050A Active JP6731178B2 (ja) 2016-03-07 2016-03-07 動画検索装置およびプログラム

Country Status (2)

Country Link
US (1) US10331739B2 (ja)
JP (1) JP6731178B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6663134B2 (ja) * 2016-03-07 2020-03-11 富士ゼロックス株式会社 動画編集装置およびプログラム
JP7245449B2 (ja) * 2019-06-20 2023-03-24 マツダ株式会社 カーライフスタイル支援システム
CN111611481B (zh) * 2020-05-08 2023-05-12 掌阅科技股份有限公司 书籍推荐方法、计算设备及计算机存储介质

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000250944A (ja) * 1998-12-28 2000-09-14 Toshiba Corp 情報提供方法、情報提供装置、情報受信装置、並びに情報記述方法
JP4828679B2 (ja) 1999-12-01 2011-11-30 ソニー株式会社 受信装置、コンテンツ選択方法、及び放送システム
JP2002099574A (ja) 2000-09-26 2002-04-05 Tsutaya Online:Kk コンテンツ検索システム及びコンテンツ検索データ収集管理システム
JP2002259720A (ja) * 2001-03-02 2002-09-13 Internatl Business Mach Corp <Ibm> コンテンツ要約システム、映像要約システム、ユーザ端末、要約映像生成方法、要約映像受信方法、およびプログラム
EP1322111B1 (en) * 2001-12-18 2007-10-10 Matsushita Electric Industrial Co., Ltd. Television apparatus having speech recognition function
JP2004157649A (ja) * 2002-11-05 2004-06-03 Nippon Telegr & Teleph Corp <Ntt> 階層化されたユーザプロファイル作成方法およびシステム並びに階層化されたユーザプロファイル作成プログラムおよびそれを記録した記録媒体
JP2005285285A (ja) * 2004-03-30 2005-10-13 Clarion Co Ltd コンテンツ読出装置及び楽曲再生装置
JP4809201B2 (ja) * 2006-12-12 2011-11-09 ヤフー株式会社 情報提供装置、情報提供方法、及びコンピュータプログラム
US20090292685A1 (en) * 2008-05-22 2009-11-26 Microsoft Corporation Video search re-ranking via multi-graph propagation
JP5300068B2 (ja) 2009-06-10 2013-09-25 国立大学法人電気通信大学 動画推薦装置
JP2011060182A (ja) * 2009-09-14 2011-03-24 Aim Co Ltd コンテンツ選択システム
JP2011217209A (ja) * 2010-03-31 2011-10-27 Sony Corp 電子機器、コンテンツ推薦方法及びプログラム
US9672280B2 (en) * 2014-04-10 2017-06-06 Google Inc. Methods, systems, and media for searching for video content
CN107077595A (zh) * 2014-09-08 2017-08-18 谷歌公司 选择和呈现代表性帧以用于视频预览

Also Published As

Publication number Publication date
JP2017161963A (ja) 2017-09-14
US10331739B2 (en) 2019-06-25
US20170255699A1 (en) 2017-09-07

Similar Documents

Publication Publication Date Title
US11003678B2 (en) Method and system for presenting a search result in a search result card
US8234311B2 (en) Information processing device, importance calculation method, and program
US10592565B2 (en) Method and apparatus for providing recommended information
US9582547B2 (en) Generalized graph, rule, and spatial structure based recommendation engine
US9569547B2 (en) Generating a news timeline
EP3529714B1 (en) Animated snippets for search results
WO2016069500A1 (en) Selection of page templates for presenting digital magazine content based on characteristics of additional page templates
US12008039B2 (en) Method and apparatus for performing categorised matching of videos, and selection engine
JP6097126B2 (ja) レコメンド情報生成装置及びレコメンド情報生成方法
US10565262B2 (en) Methods for refining search results in an application
US8626585B1 (en) Selection of images to display next to textual content
US20130246432A1 (en) Providing content based on online topical trends
US9619519B1 (en) Determining user interest from non-explicit cues
JP6731178B2 (ja) 動画検索装置およびプログラム
KR20160104067A (ko) 뉴스 타임라인 및 추천된 뉴스 에디션들의 발생
RU2586249C2 (ru) Способ обработки поискового запроса и сервер
US10643142B2 (en) Search term prediction
JP2016177690A (ja) サービス推薦装置およびサービス推薦方法並びにサービス推薦プログラム
JP6663134B2 (ja) 動画編集装置およびプログラム
RU2605001C2 (ru) Способ обработки поискового запроса пользователя и сервер, используемый в нем
JP6882534B2 (ja) 不適切なコンテンツを有するビデオの、検索ログの処理による特定

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190123

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191226

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200302

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200605

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200618

R150 Certificate of patent or registration of utility model

Ref document number: 6731178

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350