JP2018025949A - 学習装置、映像検索装置、方法、及びプログラム - Google Patents

学習装置、映像検索装置、方法、及びプログラム Download PDF

Info

Publication number
JP2018025949A
JP2018025949A JP2016157008A JP2016157008A JP2018025949A JP 2018025949 A JP2018025949 A JP 2018025949A JP 2016157008 A JP2016157008 A JP 2016157008A JP 2016157008 A JP2016157008 A JP 2016157008A JP 2018025949 A JP2018025949 A JP 2018025949A
Authority
JP
Japan
Prior art keywords
data
lyrics
keyword
summary text
extracted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016157008A
Other languages
English (en)
Other versions
JP6553557B2 (ja
Inventor
航 光田
Wataru Mitsuta
航 光田
東中 竜一郎
Ryuichiro Higashinaka
竜一郎 東中
松尾 義博
Yoshihiro Matsuo
義博 松尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2016157008A priority Critical patent/JP6553557B2/ja
Publication of JP2018025949A publication Critical patent/JP2018025949A/ja
Application granted granted Critical
Publication of JP6553557B2 publication Critical patent/JP6553557B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】楽曲の歌詞データに適した映像を精度よく検索するためのランキングモデルを学習することができる。
【解決手段】ランカ学習部64が、正解データのキーワードペア特徴量と、不正解データのキーワードペア特徴量と、正解データのトピックペア特徴量と、不正解データのトピックペア特徴量とに基づいて、ランキングモデルを学習することにより、楽曲の歌詞データに適した映像を精度よく検索するためのランキングモデルを学習する。
【選択図】図1

Description

本発明は、学習装置、映像検索装置、方法、及びプログラムに係り、特に、楽曲の歌詞データに適した映像を検索するための学習装置、映像検索装置、方法、及びプログラムに関する。
Web検索におけるイメージ検索など、テキストから映像を検索するニーズは高い。テキストから映像を検索することができれば、映像を目視で確認しながら検索する必要はなく、コストを低減できる。また、テキストに合った映像が取得できれば、テキストの内容を視覚的に補助することも可能である。
情報検索と言語処理(言語と計算),第2章 情報検索の基礎、第4章 言語処理技術の利用、徳永 健伸(著),東京大学出版会,1999
イメージ検索などでは、入力されるテキストはキーワードであることが多い。しかし、楽曲の歌詞といった長文かつ主観的な文章を入力として、該当する映像を検索する手法はこれまでに確立されていない。
本発明は、上記事情を鑑みて成されたものであり、楽曲の歌詞データに適した映像を精度よく検索するためのランキングモデルを学習することができる学習装置、方法、及びプログラムを提供することを目的とする。
また、楽曲の歌詞データに適した映像を精度よく検索することができる映像検索装置、方法、及びプログラムを提供することを目的とする。
上記目的を達成するために、第1の発明に係る学習装置は、楽曲の歌詞データに適した映像を検索するためのランキングモデルを学習する学習装置であって、楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データ、及び楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データに含まれる歌詞データの各々から、歌詞用キーワードを抽出する歌詞用キーワード抽出部と、前記正解データ及び前記不正解データに含まれる概要テキストデータの各々から、概要テキスト用キーワードを抽出する概要テキスト用キーワード抽出部と、前記正解データの前記歌詞データから抽出された歌詞用キーワード及び前記正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記不正解データの前記歌詞データから抽出された歌詞用キーワード及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量とに基づいて、前記ランキングモデルを学習するランカ学習部と、を含んで構成されている。
また、第2の発明に係る学習装置は、楽曲の歌詞データに適した映像を検索するためのランキングモデルを学習する学習装置であって、楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データ、及び楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データに含まれる歌詞データの各々から、歌詞用トピックを抽出する歌詞用トピック抽出部と、前記正解データ及び前記不正解データに含まれる概要テキストデータの各々から、概要テキスト用トピックを抽出する概要テキスト用トピック抽出部と、前記正解データの前記歌詞データから抽出された歌詞用トピック及び前記正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、前記不正解データの前記歌詞データから抽出された歌詞用トピック及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量とに基づいて、前記ランキングモデルを学習するランカ学習部と、を含んで構成されている。
また、第3の発明に係る学習装置は、楽曲の歌詞データに適した映像を検索するためのランキングモデルを学習する学習装置であって、楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データ、及び楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データに含まれる歌詞データの各々から、歌詞用キーワードを抽出する歌詞用キーワード抽出部と、前記正解データ及び前記不正解データに含まれる概要テキストデータの各々から、概要テキスト用キーワードを抽出する概要テキスト用キーワード抽出部と、前記正解データ及び前記不正解データに含まれる歌詞データの各々から、歌詞用トピックを抽出する歌詞用トピック抽出部と、前記正解データ及び前記不正解データに含まれる概要テキストデータの各々から、概要テキスト用トピックを抽出する概要テキスト用トピック抽出部と、前記正解データの前記歌詞データから抽出された歌詞用キーワード及び前記正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記不正解データの前記歌詞データから抽出された歌詞用キーワード及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記正解データの前記歌詞データから抽出された歌詞用トピック及び前記正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、前記不正解データの前記歌詞データから抽出された歌詞用トピック及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量とに基づいて、前記ランキングモデルを学習するランカ学習部と、を含んで構成されている。
また、第1〜第3の発明に係る学習装置において、前記概要テキスト用キーワードは、人物、場所、季節、又はイベントを表すキーワードであるようにしてもよい。
第4の発明に係る映像検索装置は、楽曲の歌詞データに適した映像を検索する映像検索装置であって、入力された楽曲の歌詞データから、歌詞用キーワードを抽出する歌詞用キーワード抽出部と、楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データの前記歌詞データから抽出された歌詞用キーワード及び前記正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データの前記歌詞データから抽出された歌詞用キーワード及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量とに基づいて予め学習された、楽曲の歌詞データに適した映像を検索するためのランキングモデルを記憶するランキングモデル記憶部と、前記映像の各々に対する、前記歌詞用キーワード抽出部によって抽出された歌詞用キーワード及び前記映像に付与された概要テキストデータから抽出される概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記ランキングモデルとに基づいて、入力された楽曲の歌詞データに適した映像を検索する映像検索部と、を含んで構成されている。
また、第5の発明に係る映像検索装置は、楽曲の歌詞データに適した映像を検索する映像検索装置であって、入力された楽曲の歌詞データから、歌詞用トピックを抽出する歌詞用トピック抽出部と、楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データの前記歌詞データから抽出された歌詞用トピック及び前記正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データの前記歌詞データから抽出された歌詞用トピック及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量とに基づいて予め学習された、楽曲の歌詞データに適した映像を検索するためのランキングモデルを記憶するランキングモデル記憶部と、前記映像の各々に対する、前記歌詞用トピック抽出部によって抽出された歌詞用トピック及び前記映像に付与された概要テキストデータから抽出される概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、前記ランキングモデルとに基づいて、入力された楽曲の歌詞データに適した映像を検索する映像検索部と、を含んで構成されている。
また、第6の発明に係る映像検索装置は、楽曲の歌詞データに適した映像を検索する映像検索装置であって、入力された楽曲の歌詞データから、歌詞用キーワードを抽出する歌詞用キーワード抽出部と、前記入力された楽曲の歌詞データから、歌詞用トピックを抽出する歌詞用トピック抽出部と、楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データの前記歌詞データから抽出された歌詞用キーワード及び前記正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データの前記歌詞データから抽出された歌詞用キーワード及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記正解データの前記歌詞データから抽出された歌詞用トピック及び前記正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、前記不正解データの前記歌詞データから抽出された歌詞用トピック及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量とに基づいて予め学習された、楽曲の歌詞データに適した映像を検索するためのランキングモデルを記憶するランキングモデル記憶部と、前記映像の各々に対する、前記歌詞用キーワード抽出部によって抽出された歌詞用キーワード及び前記映像に付与された概要テキストデータから抽出される概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記歌詞用トピック抽出部によって抽出された歌詞用トピック及び前記映像に付与された概要テキストデータから抽出される概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、前記ランキングモデルとに基づいて、入力された楽曲の歌詞データに適した映像を検索する映像検索部と、を含んで構成されている。
第7の発明に係る学習方法は、楽曲の歌詞データに適した映像を検索するためのランキングモデルを学習する学習装置における学習方法であって、歌詞用キーワード抽出部が、楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データ、及び楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データに含まれる歌詞データの各々から、歌詞用キーワードを抽出するステップと、概要テキスト用キーワード抽出部が、前記正解データ及び前記不正解データに含まれる概要テキストデータの各々から、概要テキスト用キーワードを抽出するステップと、ランカ学習部が、前記正解データの前記歌詞データから抽出された歌詞用キーワード及び前記正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記不正解データの前記歌詞データから抽出された歌詞用キーワード及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量とに基づいて、前記ランキングモデルを学習するステップと、を含んで実行することを特徴とする。
第8の発明に係る映像検索方法は、歌詞用キーワード抽出部と、楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データの前記歌詞データから抽出された歌詞用キーワード及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量とに基づいて予め学習された、楽曲の歌詞データに適した映像を検索するためのランキングモデルを記憶するランキングモデル記憶部と、映像検索部とを備え、楽曲の歌詞データに適した映像を検索する映像検索装置における映像検索方法であって、前記歌詞用キーワード抽出部が、入力された楽曲の歌詞データから、歌詞用キーワードを抽出するステップと、前記映像検索部が、前記映像の各々に対する、前記歌詞用キーワード抽出部によって抽出された歌詞用キーワード及び前記映像に付与された概要テキストデータから抽出される概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データの前記歌詞データから抽出された歌詞用キーワード及び前記正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記ランキングモデル記憶部に記憶されているランキングモデルとに基づいて、入力された楽曲の歌詞データに適した映像を検索するステップと、を含んで実行することを特徴とする。
第9の発明に係るプログラムは、コンピュータを、第1〜第3の発明に係る学習装置、又は第4〜第6の発明に係る映像検索装置の各部として機能させるためのプログラムである。
本発明の学習装置、方法、及びプログラムによれば、歌詞データの各々から、歌詞用キーワードを抽出し、概要テキストデータの各々から、概要テキスト用キーワードを抽出し、歌詞データの各々から、歌詞用トピックを抽出し、概要テキストデータの各々から、概要テキスト用トピックを抽出し、正解データの歌詞データから抽出された歌詞用キーワード及び正解データの概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、不正解データの歌詞データから抽出された歌詞用キーワード及び不正解データの概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、正解データの歌詞データから抽出された歌詞用トピック及び正解データの概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、不正解データの歌詞データから抽出された歌詞用トピック及び不正解データの概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量とに基づいて、ランキングモデルを学習することにより、楽曲の歌詞データに適した映像を精度よく検索するためのランキングモデルを学習することができる、という効果が得られる。
本発明の映像検索装置、方法、及びプログラムによれば、入力された楽曲の歌詞データから、歌詞用キーワードを抽出し、入力された楽曲の歌詞データから、歌詞用トピックを抽出し、映像の各々に対する、抽出された歌詞用キーワード及び映像に付与された概要テキストデータから抽出される概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、抽出された歌詞用トピック及び映像に付与された概要テキストデータから抽出される概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、ランキングモデルとに基づいて、入力された楽曲の歌詞データに適した映像を検索することにより、楽曲の歌詞データに適した映像を精度よく検索することができる。
本発明の実施の形態に係る学習装置の構成を示すブロック図である。 歌詞データの形態素解析の結果の一例を示す図である。 単語抽出の結果の一例を示す図である。 概要テキストの形態素解析の結果の一例を示す図である。 ある歌詞のトピックの上位5個の確率値の一例を示す図である。 本発明の実施の形態に係る映像検索装置の構成を示すブロック図である。 概要テキストのランキング結果の一例を示す図である。 本発明の実施の形態に係る学習装置における学習処理ルーチンを示すフローチャートである。 本発明の実施の形態に係る映像検索装置における映像検索処理ルーチンを示すフローチャートである。
以下、図面を参照して本発明の実施の形態を詳細に説明する。
<本発明の実施の形態に係る概要>
まず、本発明の実施の形態における概要を説明する。
本発明の実施の形態における楽曲映像検索は、学習処理と、検索処理とからなる。学習処理では、学習装置において、検索処理を行うために必要となるランキングモデルが作成される。検索処理では、映像検索装置において、学習処理で作成されたランキングモデルを元に、楽曲の歌詞データに対して映像の検索を行う。
<本発明の実施の形態に係る学習装置の構成>
次に、本発明の実施の形態に係る学習装置の構成について説明する。図1に示すように、本発明の実施の形態に係る学習装置100は、CPUと、RAMと、後述する学習処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含むコンピュータで構成することが出来る。この学習装置100は、機能的には図1に示すように演算部20を備えている。
演算部20は、歌詞データDB30と、歌詞用キーワード抽出部32と、各歌詞のキーワードリスト34と、概要テキストデータDB36と、概要テキスト用キーワード抽出部38と、各概要テキストのキーワードリスト40と、歌詞用トピックモデル作成部42と、歌詞用トピックモデル44と、歌詞用トピック抽出部46と、各歌詞のトピックリスト48と、概要テキスト用トピックモデル作成部50と、概要テキスト用トピックモデル52と、概要テキスト用トピック抽出部54と、各概要テキストのトピックリスト56と、歌詞・概要テキストペア正解データ58と、不正解データ作成部60と、歌詞・概要テキストペア不正解データ62と、ランカ学習部64と、ランキングモデル記憶部66とを含んで構成されている。
歌詞データDB30には、複数の楽曲の歌詞データが格納されている。
歌詞用キーワード抽出部32は、以下に説明するように、歌詞データDB30に格納されている歌詞データの各々から、歌詞用キーワードを抽出し、歌詞ごとのキーワードリストを作成して、各歌詞のキーワードリスト34として保存する。
歌詞用キーワード抽出部32は、具体的には、まず、歌詞データ中の歌詞それぞれについて、形態素解析を行う。
例えば、以下のような歌詞があるとする。
私はあなたに会いたい
今すぐにでも会いたいの
・・・
上記の歌詞は、図2に示すように形態素解析される。ここで、形態素解析器にはNTT(R)が開発したJTAGを用いている。
図2において各行が1単語を表しており、左から順に表層形、品詞、標準形、基本形、読み、意味属性を表している。意味属性は3つのフィールドからなっており、名詞に関する意味属性、固有名詞に関する意味属性、用言に関する意味属性である。意味属性とは意味を表す番号である。
上記の形態素解析結果から、「あなた」は意味属性として15と2651を持つことが分かる。意味属性の詳細は以下の非特許文献2に示されている。
非特許文献2:池原悟,宮崎正弘,白井諭,横尾昭男,中岩浩巳,小倉健太郎,大山芳史,林良彦(1997) 日本語語彙大系.岩波書店.
歌詞用キーワード抽出部32は、次に、形態素解析の結果を利用して、所定の単語をキーワードとして抽出する。具体的には、品詞が名詞、動詞語幹、形容詞語幹のいずれかであり、かつ接尾辞ではない単語を抽出する。上記の形態素解析の結果では、図3に示す単語が抽出される。
ここで、品詞が動詞語幹、および、形容詞語幹である形態素からは基本形を抽出対象とする。また、品詞が名詞である形態素からは標準形を抽出対象とする。
上記の手続きの結果、対象となる歌詞に対して、以下のキーワードリストが作成される。
[私、あなた、会う、今、会う、・・・]
当該キーワード抽出処理を歌詞データ中の全ての歌詞に対して適用し、歌詞ごとにキーワードリストを作成し、各歌詞のキーワードリスト34として保存する。
概要テキストデータDB36には、映像に付与された概要テキストが格納されている。概要テキストとは、映像の説明であったり、映像の台本であったり、映像中の会話の情報であったり、テキストで表されるものであれば何でもよい。本実施例では、映像の説明が書かれたテキストを概要テキストと呼ぶ。
概要テキスト用キーワード抽出部38は、以下に説明するように、概要テキストデータDB36に格納されている概要テキストデータの各々から、概要テキスト用キーワードを抽出し、概要テキストごとにキーワードリストを作成して、各概要テキストのキーワードリスト40として保存する。各概要テキストのキーワードリスト40は、概要テキストにおいて説明されている映像中の状況を表すキーワードのリストである。
概要テキスト用キーワードには、具体的には以下に列挙する6種類のキーワードがある。
・人物キーワード:映像の人物を表す単語や表現
・場所キーワード:映像中の場所を表す単語や表現
・季節キーワード:映像中の季節を表す単語や表現
・イベントキーワード:映像中のイベントを表す単語や表現
・行動キーワード:映像中の行動や動作を表す単語や表現
・感情キーワード:映像中の感情を表す単語や表現
なお、アプリケーション依存で、これら以外のキーワードを定義してもよい。ここでは、映像を検索するのに重要と考えられるキーワードを定義している。
概要テキスト用キーワード抽出部38では、これらのキーワードを抽出するために、日本語語彙大系(図示省略)、感情語抽出器(図示省略)、評価表現抽出器(図示省略)を用いる。
日本語語彙大系は、上記の状況のうち、人物キーワード、場所キーワード、季節キーワード、イベントキーワードを表す単語を抽出するために利用する。日本語語彙大系には、名詞の意味属性が階層的に整理されており、各意味属性には、上位の意味属性と、下位の意味属性がある。
例えば、「場所」の意味属性の上位には「具体」があり、下位には「施設」、「地域」、「自然」がある。この意味属性の階層情報を利用して、以下のように、各状況を表すと考えられるキーワードを列挙した。
・人物キーワード:「人」、「衣」、「衣料」、および、これらの下位の意味属性に対応する単語
・場所キーワード:「場所」、「建造物」、「乗り物」、「仕事場」、および、これらの下位の意味属性に対応する単語
・季節キーワード:「季節」、および、これらの下位の意味属性に対応する単語
・イベントキーワード:「式・行事等」、「生活」、および、これらの下位の意味属性に対応する単語
ここで、列挙されたキーワードにマッチした単語が概要テキストにあれば、それらは、人物、場所、季節、もしくは、イベントキーワードとして抽出される。
例えば、以下の概要テキストを考える。
夏になる
少年が公園に行く
上記の概要テキストに対し形態素解析を行った結果を図4に示す。先に述べたように、最後のカラムには意味属性が記述されている。
ここで、「夏」は、意味属性が2674(夏)であり、2672(季節)の下位属性であるため、季節キーワードとして抽出される。現状、単語が複数の意味属性を持つ場合は、先頭の意味属性を利用して抽出を行うが、すべてを用いても良い。
なお、単語を抽出する際は、単語の標準形(3列目)を抽出する。標準形を用いることで、表記の僅かな違いを吸収してキーワードを抽出することができる。
上記の概要テキストに対しては、以下の単語が抽出される。
人物キーワード「少年」
場所キーワード「公園」
季節キーワード「夏」
イベントキーワードなし
次に、感情語抽出器について説明する。感情語抽出器は、感情キーワードを抽出するために用いる。感情語抽出器としては、NTT(R)が開発したリッチインデクサという言語処理ツールを用いる。リッチインデクサには、予め決められた所定のキーワードリストを元に、感情に関わるキーワードを抽出する機能がある。この、リッチインデクサの機能を用いて、感情キーワードとして、例えば、楽しい、驚く、悲しい、幸せ、安心、心配といったキーワードを抽出する。
次に、評価表現抽出器について説明する。評価表現抽出器は、行動・感情キーワードを抽出するために用いる。行動にも様々あるが、ポジティブやネガティブといった極性に関わる行動を映像に関する重要な行動・感情と捉え、評価表現の中で、行動・感情に関するものを抽出する。評価表現とは、評価・感情に関わる言語表現を指す。ここでは、行動・感情に関する評価表現のリストを作成し、それらに合致するものを抽出することで、行動・感情キーワードとする。例えば、ほほえむ、ゆっくり、爽やか、切ない、慌てるといったキーワードを抽出する。
概要テキスト用キーワード抽出部38では、上記の日本語語彙大系、感情語抽出器、及び評価表現抽出器を用いて、概要テキストデータDB36に格納されている全ての概要テキストデータに対して概要テキスト用キーワードの抽出を行い、概要テキストごとにキーワードのリストを作成し、各概要テキストのキーワードリストと40して保存する。
歌詞用トピックモデル作成部42は、歌詞データDB30に格納されている歌詞データの各々から歌詞用トピックモデル44を作成する。
トピックモデルとは、文書が複数の潜在トピックから生成されると仮定したモデルであり、単語の表層だけではない、文書の背後にある構造を分析するためによく用いられるものである。トピックモデルについては、以下の非特許文献3が詳しい。
非特許文献3:トピックモデル,岩田具治(著),講談社,2015.
歌詞用トピックモデル作成部42では、具体的には、Latent Dirichlet Allocation(LDA)というアルゴリズムを用いて、歌詞データからトピックモデルを作成する。これは、トピックモデルを作成するのに一般的なアルゴリズムである。トピックモデルの構築には、各文書(すなわち、歌詞データのそれぞれ)を単語集合で表す必要があるが、ここでは、形態素解析の結果得られるすべての単語を利用した。トピック数は300とした。トピックモデル作成のツールには、gensimと呼ばれるライブラリを用いた。LDAについては、フリーソフトも多いため、それらを用いてもよい。
歌詞用トピック抽出部46は、歌詞データDB30に格納されている歌詞データの各々から、歌詞用トピックモデル44に基づいて、歌詞用トピックを抽出し、各歌詞のトピックリスト48を作成する。先に述べたように、トピックモデルでは、文書の背後に存在する潜在トピックを仮定し、それらが混ざりあって一つの文書が生成されていると考える。逆に言えば、一つの文書を、トピックモデルを用いて分析することで(これをinferenceという)、含まれている潜在トピックを調べることができる。ある文書に多く含まれている潜在トピックは、その文書の主要なトピックと考えられるので、それらを抽出する。
歌詞データについて、トピックを抽出する際には、歌詞用トピックモデル44を利用する。歌詞用トピックモデルを用いた分析により、歌詞データ中のトピックリストを作成する。具体的には、各歌詞において、一定の割合以上含まれるトピックのみを抽出し、その歌詞のトピックリストとする。本発明の実施の形態ではこの閾値を0.1と定めた。例えば、ある歌詞のトピックの上位5個の含まれる度合い(確率値)が、図5に示すようになっていた場合、閾値が0.1以上のトピックを抽出することで、トピック85と122をこの歌詞のトピックリストとして抽出する。なお、85や122はトピックを表す番号である。
概要テキスト用トピックモデル作成部50は、歌詞用トピックモデル作成部42と同様の処理を、概要テキストデータDB36に格納されている概要テキストデータに対して行うことで、概要テキストデータについての概要テキスト用トピックモデル52を作成する。本実施の形態では、トピック数は50とした。
概要テキスト用トピック抽出部54は、概要テキストデータDB36に格納されている概要テキストデータの各々から、概要テキスト用トピックモデル52に基づいて、概要テキスト用トピックを抽出し、各概要テキストのトピックリスト56を作成する。閾値は、歌詞用トピック抽出部46と同じとした。
歌詞・概要テキストペア正解データ58は、楽曲の歌詞データと、当該楽曲の歌詞データに適した映像に付与された概要テキストデータとが正しく対応付いている正解データのペアの集合である。これらの対応付けは人手で行ったものである。
不正解データ作成部60は、歌詞・概要テキストペア正解データ58を用いて、楽曲の歌詞データと、当該楽曲の歌詞データに適していない映像に付与された概要テキストデータとが対応付いたペアの集合である歌詞・概要テキストペア不正解データ62を作成する。
本実施の形態の目的は、歌詞に合った概要テキストを検索することで、その概要テキストに紐付いた映像を検索することである。すなわち、歌詞に対して、複数の概要テキストから対応付くものと対応付かないものを分類出来ればよい。
一般に、分類問題は教師あり学習で行われる。そのためには、正解データ(正例と呼ぶ)と不正解データ(負例と呼ぶ)の両方が必要である。
しかしながら、教師データとして、対応付けられた正例は持っているものの、負例を持っていなかったため、負例を自動生成することにした。具体的には、歌詞について、所定の概要テキストの集合からランダムに選択し、それを負例とした。ランダムに選ばれた概要テキストは対応付いていることは稀であると考えられるため、負例として利用することが可能である。このような手法は疑似負例の生成とも呼ばれ、機械学習において、よく用いられる手法である。
このように、不正解データ作成部60は、不正解データとして、歌詞と概要テキスト(歌詞と対応付いているもの以外の概要テキスト)とをランダムに組み合わせたペアを作成する。なお、ランダムに選択する以外に、人手で対応付かないことが確認されている歌詞と概要テキストのペアを不正解データとして利用してもよい。
本実施の形態では、正例と負例の割合は1:1に設定した。この割合は、後段のランカ学習部64の性能に応じて、変更してもよい。
歌詞・概要テキストペア正解データ58のそれぞれについて不正解データを一つずつ作成し、学習データとした。学習データには、更に、歌詞データと当該歌詞に紐付く概要テキスト、及び歌詞データと当該歌詞データに紐付かない概要テキストが含まれている。
ランカ学習部64は、正解データの歌詞データから抽出された歌詞用キーワード及び正解データの概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、不正解データの歌詞データから抽出された歌詞用キーワード及び不正解データの概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、正解データの歌詞データから抽出された歌詞用トピック及び正解データの概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、不正解データの歌詞データから抽出された歌詞用トピック及び不正解データの概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量とに基づいて、ランキングモデルを学習し、ランキングモデル記憶部66に記憶する。上記において、正解データは歌詞・概要テキストペア正解データ58に基づき、不正解データは歌詞・概要テキストペア不正解データ62に基づく。
ランカ学習部64においては、上記の学習用データから特徴量を抽出し、この特徴量を元に評価関数を学習することで、楽曲の歌詞データに適した映像のランキングが可能なランキングモデル(ランカ)を作成する。
特徴量の抽出には、学習データのそれぞれから得られる、各歌詞のキーワードリスト34と各概要テキストのキーワードリスト40、及び各歌詞のトピックリスト48と各概要テキストのトピックリスト56を用いる。特徴量としては、2種類あり、キーワードペア特徴量とトピックペア特徴量がある。それぞれの特徴量は、正解データは歌詞・概要テキストペア正解データ58と、不正解データは歌詞・概要テキストペア不正解データ62とのそれぞれの全ての組み合わせについて抽出する。
キーワードペア特徴量とは、歌詞用キーワード抽出部32で作成した、歌詞データの各歌詞のキーワードリスト34に含まれる単語と、概要テキスト用キーワード抽出部38で作成した、概要テキストの各概要テキストのキーワードリスト40に含まれる単語をもとに、そのすべての組み合わせを特徴量にしたものである。例えば、歌詞データと概要テキストとのキーワードリストのそれぞれが、以下のように構成されているとする。
歌詞のキーワードリスト:[君(4回),会う(3回) ,ドキドキ(1回) ,...]
概要テキストのキーワードリスト:[カジュアル(2回),二人(2回),楽しい(1回),...]
この場合に、上記の歌詞のキーワードリスト及び概要テキストのキーワードリストの組み合わせから、キーワードペア特徴量として、"君-カジュアル","君-二人","君-楽しい","会う-カジュアル","会う-二人","会う-楽しい","ドキドキ-カジュアル","ドキドキ-二人","ドキドキ-楽しい"といった特徴量を抽出する。このようにして、歌詞のキーワードリスト及び概要テキストのキーワードリストの全ての組み合わせについてキーワードペア特徴量を抽出する。
キーワードペア特徴量の値としては、当該キーワードペア特徴量を持つ組み合わせ、すなわち歌詞のキーワードリスト及び概要テキストのキーワードリストの組み合わせにおいて当該キーワードペア特徴量が出現したか否かを2値として利用する。なお、二値ではなく、特徴量の値として組み合わせにおける頻度情報を利用してもよい。
学習に使う素性は、学習データの全ての正例において、一定数以上出現する特徴量のみとしてもよい。そうすることで、特徴量の空間が小さくなり学習コストが低くなる。本発明の実施の形態では出現数の閾値を5に設定した。すなわち、学習データの組み合わせに5個以上含まれる特徴量が学習に使用される。
トピックペア特徴量は、歌詞用トピック抽出部46で作成した、各歌詞のトピックリスト48と、概要テキスト用トピック抽出部54で作成した、各概要テキストのトピックリスト56に含まれるトピックをもとに、キーワードペア特徴量と同様に、その組み合わせすべてを特徴量にしたものである。例えば、歌詞データと概要テキストとのトピックリストがそれぞれ以下のように構成されているとする。
歌詞のトピックリスト:[85,122]
概要テキストのトピックリスト:[33,2,27]
この場合に、特徴量として、"85-33","85-2","85-27","122-33","122-2","122-27"というトピックペア特徴量が抽出される。
ここでも、学習データの全ての正例において、一定数以上出現する特徴量のみを用いてもよいが、本発明の実施の形態では学習データの正例における全てのトピックペア特徴量を利用している。
このようにして、学習データにおける正例、負例のそれぞれについてキーワードペア特徴量及びトピックペア特徴量を抽出し、正例と負例を分類することのできる評価関数を機械学習によって学習する。これは単純な二値分類問題であるので、分類問題によく用いられるアルゴリズムを用いればよい。ここでは、ロジスティック回帰を利用する。ほかのアルゴリズムとして、サポートベクトルマシン(SVM)を用いてもよい。なお、二値分類問題のモデルは、一般に分類対象の事例について正例らしさ(もしくは負例らしさ)の信頼度を出力できるため、その数値を用いて、複数の分類対象をランキングすることができる。本発明の実施の形態でも、ロジスティック回帰で得られた分類モデルを用いてランキングを行う。なお、ランキングSVMのようにランキングに特化した機械学習のアルゴリズムを用いて学習を行ってもよい。その場合は、正例を負例よりも上位にランキングするように評価関数を学習すればよい。
ランキングモデル記憶部66には、ランカ学習部64で学習された、楽曲の歌詞データに適した映像を検索するためのランキングモデルが格納される。
<本発明の実施の形態に係る映像検索装置の構成>
次に、本発明の実施の形態に係る映像検索装置の構成について説明する。図6に示すように、本発明の実施の形態に係る映像検索装置200は、CPUと、RAMと、後述する映像検索処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含むコンピュータで構成することが出来る。この映像検索装置200は、機能的には図6に示すように入力部210と、演算部220と、出力部270とを備えている。
入力部210は、楽曲の歌詞データを受け付ける。歌詞の他に、歌手名、作曲者名、楽曲ジャンルなどの情報も受け付けてもよい。歌詞の情報は演算部220へと出力され、解析が行われる。
演算部220は、歌詞用キーワード抽出部232と、各概要テキストのキーワードリスト240と、歌詞用トピックモデル244と、歌詞用トピック抽出部246と、各概要テキストのトピックリスト256と、映像検索部264と、ランキングモデル記憶部266とを含んで構成されている。
歌詞用キーワード抽出部232は、入力部210で受け付けた楽曲の歌詞データから、歌詞用キーワードを抽出する。具体的な処理は、上記歌詞用キーワード抽出部32と同様の処理を行えばよい。
各概要テキストのキーワードリスト240には、上記各概要テキストのキーワードリスト40と同様のものが格納されている。
歌詞用トピックモデル244には、上記歌詞用トピックモデル44と同様のものが格納されている。
歌詞用トピック抽出部246は、入力部210で受け付けた楽曲の歌詞データから、歌詞用トピックモデル244に基づいて、歌詞用トピックを抽出する。具体的な処理は、上記歌詞用トピック抽出部46と同様の処理を行えばよい。
ランキングモデル記憶部266には、上記ランキングモデル記憶部66と同様のものが格納されている。
映像検索部264は、映像の各々に対する、歌詞用キーワード抽出部232によって抽出された歌詞用キーワード及び、各概要のキーワードリスト240において映像に付与された概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、歌詞用トピック抽出部246によって抽出された歌詞用トピック、及び各概要テキストのトピックリスト256において映像に付与された概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、ランキングモデル記憶部266に格納されているランキングモデルとに基づいて、入力された楽曲の歌詞データに適した映像を検索する。
映像検索部264は、まず、歌詞用キーワード抽出部232で抽出した歌詞用キーワードのリストと、検索対象である概要テキストのキーワードリスト240とのペアを作り、前述のキーワードペア特徴量を抽出する。また、歌詞用トピック抽出部246で抽出した歌詞用トピックのリストと、検索対象である概要テキストのトピックリスト256とのペアを作り、前述のトピックペア特徴量を抽出する。そして、キーワードペア特徴量及びトピックペア特徴量のそれぞれの特徴量について、ランキングモデル記憶部266に格納されているランキングモデル(本発明の実施の形態においてはロジスティック回帰のモデル)を適用することで、正例らしさ(すなわち、対応付いているかどうか)のスコアを求める。このスコアに基づいて、概要テキストをランキングすることにより、最も対応付いていると考えられる概要テキストが取得でき、また、その結果概要テキストに紐付いている映像を出力することができる。
例えば、ある歌詞データについて、5つの映像に付与された概要テキストのランキングを行った結果を図7に示す。
図7の結果は、概要テキストの番号と出力されたスコア(ロジスティック回帰を用いているため正例らしさを表す確率値)を表しており、この値が高いものほど、歌詞とその概要テキストが対応付いていることを表している。この例では2番目の概要テキストが、0.909のスコアと高く、入力された歌詞データと最も対応付いていると判定されている。
出力部270は、映像検索部264が出力した概要テキストのランキング情報から、上位N個の概要テキストに紐付いた映像をN個出力する。Nはアプリケーションに応じて設定すればよい。本発明の実施の形態では、Nは5としているが、最も対応付いている映像のみを検索したい場合Nを1とすればよい。
<本発明の実施の形態に係る学習装置の作用>
次に、本発明の実施の形態に係る学習装置100の作用について説明する。学習装置100は、図8に示す学習処理ルーチンを実行する。
まず、ステップS100では、歌詞データDB30に格納されている歌詞データの各々から、歌詞用キーワードを抽出し、歌詞ごとのキーワードリストを作成して、各歌詞のキーワードリスト34として保存する。
次に、ステップS102では、概要テキストデータDB36に格納されている概要テキストデータの各々から、概要テキスト用キーワードを抽出し、概要テキストごとにキーワードリストを作成して、各概要テキストのキーワードリスト40として保存する。
ステップS104では、歌詞データDB30に格納されている歌詞データの各々から歌詞用トピックモデル44を作成する。
ステップS106では、歌詞データDB30に格納されている歌詞データの各々から、歌詞用トピックモデル44に基づいて、歌詞用トピックを抽出し、各歌詞のトピックリスト48を作成する。
ステップS108では、ステップS104と同様の処理を、概要テキストデータDB36に格納されている概要テキストデータに対して行う事で、概要テキストデータについての概要テキスト用トピックモデル52を作成する。
ステップS110では、概要テキストデータDB36に格納されている概要テキストデータの各々から、概要テキスト用トピックモデル52に基づいて、概要テキスト用トピックを抽出し、各概要テキストのトピックリスト56を作成する。
ステップS112では、歌詞・概要テキストペア正解データ58を用いて、楽曲の歌詞データと、当該楽曲の歌詞データに適していない映像に付与された概要テキストデータとが対応付いたペアの集合である歌詞・概要テキストペア不正解データ62を作成する。
ステップS114では、正解データの歌詞データから抽出された歌詞用キーワード及び正解データの概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、不正解データの歌詞データから抽出された歌詞用キーワード及び不正解データの概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、正解データの歌詞データから抽出された歌詞用トピック及び正解データの概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、不正解データの歌詞データから抽出された歌詞用トピック及び不正解データの概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量とに基づいて、ランキングモデルを学習し、ランキングモデル記憶部66に記憶し、処理を終了する。
以上説明したように、本発明の実施の形態に係る学習装置によれば、歌詞データの各々から、歌詞用キーワードを抽出し、概要テキストデータの各々から、概要テキスト用キーワードを抽出し、歌詞データの各々から、歌詞用トピックを抽出し、概要テキストデータの各々から、概要テキスト用トピックを抽出し、正解データの歌詞データから抽出された歌詞用キーワード及び正解データの概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、不正解データの歌詞データから抽出された歌詞用キーワード及び不正解データの概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、正解データの歌詞データから抽出された歌詞用トピック及び正解データの概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、不正解データの歌詞データから抽出された歌詞用トピック及び不正解データの概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量とに基づいて、ランキングモデルを学習することにより、楽曲の歌詞データに適した映像を精度よく検索するためのランキングモデルを学習することができる。
<本発明の実施の形態に係る映像検索装置の作用>
次に、本発明の実施の形態に係る映像検索装置200の作用について説明する。入力部210において楽曲の歌詞データを受け付けると、映像検索装置200は、図9に示す映像検索処理ルーチンを実行する。
まず、ステップS200では、入力部210で受け付けた楽曲の歌詞データから、歌詞用キーワードを抽出する。
次に、ステップS202では、入力部210で受け付けた楽曲の歌詞データから、歌詞用トピックモデル244に基づいて、歌詞用トピックを抽出する。
ステップS204では、映像の各々に対する、歌詞用キーワード抽出部232によって抽出された歌詞用キーワード及び、各概要のキーワードリスト240において映像に付与された概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、歌詞用トピック抽出部246によって抽出された歌詞用トピック、及び各概要テキストのトピックリスト256において映像に付与された概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、ランキングモデル記憶部266に格納されているランキングモデルとに基づいて、入力された楽曲の歌詞データに適した、映像に付与された概要テキストを検索する。
ステップS206では、ステップS204で検索された概要テキストのランキング情報から、上位N個の概要テキストに紐付いた映像をN個出力して処理を終了する。
以上説明したように、本発明の実施の形態に係る映像検索装置によれば、入力された楽曲の歌詞データから、歌詞用キーワードを抽出し、入力された楽曲の歌詞データから、歌詞用トピックを抽出し、映像の各々に対する、抽出された歌詞用キーワード及び映像に付与された概要テキストデータから抽出される概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、抽出された歌詞用トピック及び映像に付与された概要テキストデータから抽出される概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、ランキングモデルとに基づいて、入力された楽曲の歌詞データに適した映像を検索することにより、楽曲の歌詞データに適した映像を精度よく検索することができる。
また、楽曲の歌詞といった長文かつ主観的な文章から、適切な映像が検索することができれば、楽曲に応じた映像を提供できるシステムに繋がり、楽曲の楽しみ方が広がる。
なお、本発明は、上述した実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
例えば、上述した実施の形態では、学習装置100は、歌詞データDB30と、歌詞用キーワード抽出部32と、各歌詞のキーワードリスト34と、概要テキストデータDB36と、概要テキスト用キーワード抽出部38と、各概要テキストのキーワードリスト40と、歌詞用トピックモデル作成部42と、歌詞用トピックモデル44と、歌詞用トピック抽出部46と、各歌詞のトピックリスト48と、概要テキスト用トピックモデル作成部50と、概要テキスト用トピックモデル52と、概要テキスト用トピック抽出部54と、各概要テキストのトピックリスト56と、歌詞・概要テキストペア正解データ58と、不正解データ作成部60と、歌詞・概要テキストペア不正解データ62と、ランカ学習部64と、ランキングモデル記憶部66とを含んで構成され、キーワードペア特徴量と、トピックペア特徴量とに基づいてランキングモデルを学習していたが、これに限定されるものではない。例えば、学習装置100を歌詞データDB30と、歌詞用キーワード抽出部32と、各歌詞のキーワードリスト34と、概要テキストデータDB36と、概要テキスト用キーワード抽出部38と、各概要テキストのキーワードリスト40と、歌詞・概要テキストペア正解データ58と、不正解データ作成部60と、歌詞・概要テキストペア不正解データ62と、ランカ学習部64と、ランキングモデル記憶部66とを含んで構成し、キーワードペア特徴量に基づいてランキングモデルを学習するようにしてもよい。この場合には、映像検索装置200について、演算部220は、歌詞用キーワード抽出部232と、各概要テキストのキーワードリスト240と、映像検索部264と、ランキングモデル記憶部266とを含んで構成し、キーワードペア特徴量と、ランキングモデルとに基づいて、入力された楽曲の歌詞データに適した映像を検索するようにしてもよい。
また、学習装置100を、歌詞データDB30と、概要テキストデータDB36と、歌詞用トピックモデル作成部42と、歌詞用トピックモデル44と、歌詞用トピック抽出部46と、各歌詞のトピックリスト48と、概要テキスト用トピックモデル作成部50と、概要テキスト用トピックモデル52と、概要テキスト用トピック抽出部54と、各概要テキストのトピックリスト56と、歌詞・概要テキストペア正解データ58と、不正解データ作成部60と、歌詞・概要テキストペア不正解データ62と、ランカ学習部64と、ランキングモデル記憶部66とを含んで構成し、トピックペア特徴量に基づいてランキングモデルを学習するようにしてもよい。この場合には、映像検索装置200について、演算部220は、歌詞用トピックモデル244と、歌詞用トピック抽出部246と、各概要テキストのトピックリスト256と、映像検索部264と、ランキングモデル記憶部266とを含んで構成し、トピックペア特徴量と、ランキングモデルとに基づいて、入力された楽曲の歌詞データに適した映像を検索するようにしてもよい。
20、220 演算部
32、232 歌詞用キーワード抽出部
34 各歌詞のキーワードリスト
38 概要テキスト用キーワード抽出部
40、240 各概要テキストのキーワードリスト
42 歌詞用トピックモデル作成部
44、244 歌詞用トピックモデル
46、246 歌詞用トピック抽出部
48 各歌詞のトピックリスト
50 概要テキスト用トピックモデル作成部
52 概要テキスト用トピックモデル
54 概要テキスト用トピック抽出部
56、256 各概要テキストのトピックリスト
58 歌詞・概要テキストペア正解データ
60 不正解データ作成部
62 歌詞・概要テキストペア不正解データ
64 ランカ学習部
66 ランキングモデル記憶部
100 学習装置
200 映像検索装置
210 入力部
264 映像検索部
266 ランキングモデル記憶部
270 出力部

Claims (10)

  1. 楽曲の歌詞データに適した映像を検索するためのランキングモデルを学習する学習装置であって、
    楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データ、及び楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データに含まれる歌詞データの各々から、歌詞用キーワードを抽出する歌詞用キーワード抽出部と、
    前記正解データ及び前記不正解データに含まれる概要テキストデータの各々から、概要テキスト用キーワードを抽出する概要テキスト用キーワード抽出部と、
    前記正解データの前記歌詞データから抽出された歌詞用キーワード及び前記正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記不正解データの前記歌詞データから抽出された歌詞用キーワード及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量とに基づいて、前記ランキングモデルを学習するランカ学習部と、
    を含む学習装置。
  2. 楽曲の歌詞データに適した映像を検索するためのランキングモデルを学習する学習装置であって、
    楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データ、及び楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データに含まれる歌詞データの各々から、歌詞用トピックを抽出する歌詞用トピック抽出部と、
    前記正解データ及び前記不正解データに含まれる概要テキストデータの各々から、概要テキスト用トピックを抽出する概要テキスト用トピック抽出部と、
    前記正解データの前記歌詞データから抽出された歌詞用トピック及び前記正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、前記不正解データの前記歌詞データから抽出された歌詞用トピック及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量とに基づいて、前記ランキングモデルを学習するランカ学習部と、
    を含む学習装置。
  3. 楽曲の歌詞データに適した映像を検索するためのランキングモデルを学習する学習装置であって、
    楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データ、及び楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データに含まれる歌詞データの各々から、歌詞用キーワードを抽出する歌詞用キーワード抽出部と、
    前記正解データ及び前記不正解データに含まれる概要テキストデータの各々から、概要テキスト用キーワードを抽出する概要テキスト用キーワード抽出部と、
    前記正解データ及び前記不正解データに含まれる歌詞データの各々から、歌詞用トピックを抽出する歌詞用トピック抽出部と、
    前記正解データ及び前記不正解データに含まれる概要テキストデータの各々から、概要テキスト用トピックを抽出する概要テキスト用トピック抽出部と、
    前記正解データの前記歌詞データから抽出された歌詞用キーワード及び前記正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記不正解データの前記歌詞データから抽出された歌詞用キーワード及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記正解データの前記歌詞データから抽出された歌詞用トピック及び前記正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、前記不正解データの前記歌詞データから抽出された歌詞用トピック及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量とに基づいて、前記ランキングモデルを学習するランカ学習部と、
    を含む学習装置。
  4. 楽曲の歌詞データに適した映像を検索する映像検索装置であって、
    入力された楽曲の歌詞データから、歌詞用キーワードを抽出する歌詞用キーワード抽出部と、
    楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データの前記歌詞データから抽出された歌詞用キーワード及び前記正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データの前記歌詞データから抽出された歌詞用キーワード及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量とに基づいて予め学習された、楽曲の歌詞データに適した映像を検索するためのランキングモデルを記憶するランキングモデル記憶部と、
    前記映像の各々に対する、前記歌詞用キーワード抽出部によって抽出された歌詞用キーワード及び前記映像に付与された概要テキストデータから抽出される概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記ランキングモデルとに基づいて、入力された楽曲の歌詞データに適した映像を検索する映像検索部と、
    を含む映像検索装置。
  5. 楽曲の歌詞データに適した映像を検索する映像検索装置であって、
    入力された楽曲の歌詞データから、歌詞用トピックを抽出する歌詞用トピック抽出部と、
    楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データの前記歌詞データから抽出された歌詞用トピック及び前記正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データの前記歌詞データから抽出された歌詞用トピック及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量とに基づいて予め学習された、楽曲の歌詞データに適した映像を検索するためのランキングモデルを記憶するランキングモデル記憶部と、
    前記映像の各々に対する、前記歌詞用トピック抽出部によって抽出された歌詞用トピック及び前記映像に付与された概要テキストデータから抽出される概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、前記ランキングモデルとに基づいて、入力された楽曲の歌詞データに適した映像を検索する映像検索部と、
    を含む映像検索装置。
  6. 楽曲の歌詞データに適した映像を検索する映像検索装置であって、
    入力された楽曲の歌詞データから、歌詞用キーワードを抽出する歌詞用キーワード抽出部と、
    前記入力された楽曲の歌詞データから、歌詞用トピックを抽出する歌詞用トピック抽出部と、
    楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データの前記歌詞データから抽出された歌詞用キーワード及び前記正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データの前記歌詞データから抽出された歌詞用キーワード及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記正解データの前記歌詞データから抽出された歌詞用トピック及び前記正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、前記不正解データの前記歌詞データから抽出された歌詞用トピック及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用トピックの組み合わせを表すトピックペア特徴量とに基づいて予め学習された、楽曲の歌詞データに適した映像を検索するためのランキングモデルを記憶するランキングモデル記憶部と、
    前記映像の各々に対する、前記歌詞用キーワード抽出部によって抽出された歌詞用キーワード及び前記映像に付与された概要テキストデータから抽出される概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記歌詞用トピック抽出部によって抽出された歌詞用トピック及び前記映像に付与された概要テキストデータから抽出される概要テキスト用トピックの組み合わせを表すトピックペア特徴量と、前記ランキングモデルとに基づいて、入力された楽曲の歌詞データに適した映像を検索する映像検索部と、
    を含む映像検索装置。
  7. 前記概要テキスト用キーワードは、人物、場所、季節、又はイベントを表すキーワードである請求項1又は請求項3に記載の学習装置。
  8. 楽曲の歌詞データに適した映像を検索するためのランキングモデルを学習する学習装置における学習方法であって、
    歌詞用キーワード抽出部が、楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データ、及び楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データに含まれる歌詞データの各々から、歌詞用キーワードを抽出するステップと、
    概要テキスト用キーワード抽出部が、前記正解データ及び前記不正解データに含まれる概要テキストデータの各々から、概要テキスト用キーワードを抽出するステップと、
    ランカ学習部が、前記正解データの前記歌詞データから抽出された歌詞用キーワード及び前記正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記不正解データの前記歌詞データから抽出された歌詞用キーワード及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量とに基づいて、前記ランキングモデルを学習するステップと、
    を含む学習方法。
  9. 歌詞用キーワード抽出部と、楽曲の歌詞データと、前記楽曲の歌詞データに適していない映像に付与された概要テキストデータとのペアである不正解データの前記歌詞データから抽出された歌詞用キーワード及び前記不正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量とに基づいて予め学習された、楽曲の歌詞データに適した映像を検索するためのランキングモデルを記憶するランキングモデル記憶部と、映像検索部とを備え、楽曲の歌詞データに適した映像を検索する映像検索装置における映像検索方法であって、
    前記歌詞用キーワード抽出部が、入力された楽曲の歌詞データから、歌詞用キーワードを抽出するステップと、
    前記映像検索部が、前記映像の各々に対する、前記歌詞用キーワード抽出部によって抽出された歌詞用キーワード及び前記映像に付与された概要テキストデータから抽出される概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、楽曲の歌詞データと、前記楽曲の歌詞データに適した映像に付与された概要テキストデータとのペアである正解データの前記歌詞データから抽出された歌詞用キーワード及び前記正解データの前記概要テキストデータから抽出された概要テキスト用キーワードの組み合わせを表すキーワードペア特徴量と、前記ランキングモデル記憶部に記憶されているランキングモデルとに基づいて、入力された楽曲の歌詞データに適した映像を検索するステップと、
    を含む映像検索方法。
  10. コンピュータを、請求項1〜請求項3、請求項7のいずれか1項に記載の学習装置、又は請求項4〜請求項6のいずれか1項に記載の映像検索装置の各部として機能させるためのプログラム。
JP2016157008A 2016-08-09 2016-08-09 学習装置、映像検索装置、方法、及びプログラム Active JP6553557B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016157008A JP6553557B2 (ja) 2016-08-09 2016-08-09 学習装置、映像検索装置、方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016157008A JP6553557B2 (ja) 2016-08-09 2016-08-09 学習装置、映像検索装置、方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2018025949A true JP2018025949A (ja) 2018-02-15
JP6553557B2 JP6553557B2 (ja) 2019-07-31

Family

ID=61194065

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016157008A Active JP6553557B2 (ja) 2016-08-09 2016-08-09 学習装置、映像検索装置、方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP6553557B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111651660A (zh) * 2020-05-28 2020-09-11 拾音智能科技有限公司 一种跨媒体检索困难样本的方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0863176A (ja) * 1994-08-19 1996-03-08 Pfu Ltd 音楽映像データ再生装置
JPH09288681A (ja) * 1996-04-23 1997-11-04 Toshiba Corp 背景映像検索表示装置および背景映像検索方法
JP2007293602A (ja) * 2006-04-25 2007-11-08 Nec Corp 映像検索システム、映像検索方法およびプログラム
JP2013020462A (ja) * 2011-07-12 2013-01-31 Yahoo Japan Corp 関連度算出装置及び方法
JP2013254420A (ja) * 2012-06-08 2013-12-19 Nippon Telegr & Teleph Corp <Ntt> 質問応答装置、モデル学習装置、方法、及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0863176A (ja) * 1994-08-19 1996-03-08 Pfu Ltd 音楽映像データ再生装置
JPH09288681A (ja) * 1996-04-23 1997-11-04 Toshiba Corp 背景映像検索表示装置および背景映像検索方法
JP2007293602A (ja) * 2006-04-25 2007-11-08 Nec Corp 映像検索システム、映像検索方法およびプログラム
JP2013020462A (ja) * 2011-07-12 2013-01-31 Yahoo Japan Corp 関連度算出装置及び方法
JP2013254420A (ja) * 2012-06-08 2013-12-19 Nippon Telegr & Teleph Corp <Ntt> 質問応答装置、モデル学習装置、方法、及びプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
貞光九月,外4名: "トピック情報を用いたブートストラップ法に基づく語彙獲得", 自然言語処理, vol. 第19巻,第2号, JPN6016050889, 6 July 2012 (2012-07-06), JP, pages 89 - 106, ISSN: 0003958167 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111651660A (zh) * 2020-05-28 2020-09-11 拾音智能科技有限公司 一种跨媒体检索困难样本的方法
CN111651660B (zh) * 2020-05-28 2023-05-02 拾音智能科技有限公司 一种跨媒体检索困难样本的方法

Also Published As

Publication number Publication date
JP6553557B2 (ja) 2019-07-31

Similar Documents

Publication Publication Date Title
Hanselowski et al. Ukp-athene: Multi-sentence textual entailment for claim verification
Speer et al. Representing general relational knowledge in conceptNet 5.
US20180341871A1 (en) Utilizing deep learning with an information retrieval mechanism to provide question answering in restricted domains
Perikos et al. Recognizing emotion presence in natural language sentences
Imam et al. An ontology-based summarization system for arabic documents (ossad)
Gupta et al. A novel hybrid text summarization system for Punjabi text
AU2020103004A4 (en) Method to build a document semantic and entity relationship model
JP2011118689A (ja) 検索方法及びシステム
Ranjan et al. Question answering system for factoid based question
JP2015045833A (ja) 発話文生成装置とその方法とプログラム
Armouty et al. Automated keyword extraction using support vector machine from Arabic news documents
Lipczak et al. Tulip: Lightweight entity recognition and disambiguation using wikipedia-based topic centroids
CN111178045A (zh) 基于领域的非监督式中文语义概念词典的自动构建方法、电子设备及存储介质
Hong et al. Automatically extracting word relationships as templates for pun generation
Martınez-Cámara et al. Ensemble classifier for twitter sentiment analysis
Chifu et al. A system for detecting professional skills from resumes written in natural language
JP6735711B2 (ja) 学習装置、映像検索装置、方法、及びプログラム
CN110750632B (zh) 一种改进的中文alice智能问答方法及系统
Nguyen et al. A novel approach for automatic extraction of semantic data about football transfer in sport news
JP6553557B2 (ja) 学習装置、映像検索装置、方法、及びプログラム
Malandrakis et al. Emotiword: Affective lexicon creation with application to interaction and multimedia data
Ullah et al. Pattern and semantic analysis to improve unsupervised techniques for opinion target identification
Fareed et al. Syntactic open domain Arabic question/answering system for factoid questions
Garrido et al. NEREA: Named entity recognition and disambiguation exploiting local document repositories
CN112732885A (zh) 用于问答系统的答案扩展方法、装置及电子设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180207

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190325

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190625

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190704

R150 Certificate of patent or registration of utility model

Ref document number: 6553557

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150